벨의 부등식과 양말 상자 모델: 양자 얽힘의 비국소성 해설

핵심 요약

양말 상자 모델은 "입자의 상태가 측정 전부터 이미 정해져 있다"는 고전적 실재론을 설명하는 비유다. 한쪽 상자에서 왼쪽 양말이 나오면 반대편에 오른쪽 양말이 있음은 자명하며, 이는 정보의 전송 없이 이미 결정된 상태가 확인된 것뿐이다. 그러나 벨의 부등식은 서로 다른 세 방향 이상의 측정값들 사이의 상관관계를 계산하여, 이러한 '이미 정해진 값(숨은 변수)' 모델이 가질 수 있는 수학적 한계치를 제시했다. 실험 결과 양자 얽힘 상태의 입자들은 벨의 부등식을 위반하며 더 강력한 상관관계를 보였고, 이는 우주가 양말 상자 모델과 같은 방식으로는 작동하지 않음을 증명했다.

문제의식

1935년 아인슈타인, 포돌스키, 로젠(EPR)은 양자 역학이 불완전하다고 주장했다. 멀리 떨어진 두 입자가 순식간에 서로의 상태를 결정짓는 듯한 '양자 얽힘' 현상이 빛보다 빠른 정보 전달을 금지하는 상대성 이론과 충돌한다고 보았기 때문이다. 이들은 입자가 측정되기 전부터 특정한 값을 이미 가지고 있다는 '숨은 변수(Hidden Variables)' 가설을 통해 이 모순을 해결하려 했다. 벨의 부등식은 바로 이 가설, 즉 "세상은 우리가 보기 전에도 실재하며(실재성), 정보는 빛보다 빨리 전달될 수 없다(국소성)"는 직관이 물리적 실험과 양립할 수 있는지 묻는 질문에서 출발한다.

개념의 정의

1. 양말 상자 모델 (Bertlmann's Socks)

물리학자 존 벨이 제시한 비유로, 항상 짝이 맞지 않는 양말을 신는 동료 베르틀만 박사의 습관에서 착안했다. 한쪽 발에 분홍색 양말을 신은 것을 확인하면, 보지 않아도 다른 쪽 발에 분홍색이 아닌 양말이 있음을 즉시 알 수 있다. 여기서 두 양말의 상태는 '측정(관측)'에 의해 결정된 것이 아니라, 처음부터 그렇게 신고 나온 '결정된 상태'다.

2. 국소 실재론 (Local Realism)

실재성(Realism): 대상의 물리적 성질은 관찰 여부와 상관없이 객관적으로 존재한다.
국소성(Locality): 한 지점에서 일어난 사건은 빛의 속도보다 빠르게 멀리 떨어진 지점에 영향을 줄 수 없다.

배경과 맥락

아인슈타인은 "신은 주사위를 던지지 않는다"는 말로 양자 역학의 확률적 해석을 거부했다. 그는 양자 얽힘을 '유령 같은 원격 작용(Spooky action at a distance)'이라 부르며, 우리가 아직 모르는 어떤 '숨은 변수'가 입자의 상태를 미리 결정해 두었을 것이라고 믿었다. 1964년 존 벨은 이러한 아인슈타인의 직관(국소 실재론)이 맞다면, 여러 방향에서 측정된 데이터들 사이의 상관관계가 반드시 지켜야 할 수학적 경계선이 있음을 발견했다. 이것이 벨의 부등식이다.

핵심 논리: 벨의 부등식 유도 원리

벨은 입자가 \(A, B, C\)라는 세 가지 측정 방향에 대해 각각 '위(up)' 또는 '아래(down)'라는 확정된 값을 미리 가지고 있다고 가정했다.

숨은 변수의 가정: 입자는 \((A+, B-, C+)\)와 같이 각 방향에 대한 결과 리스트를 이미 품고 있다.
상관관계 계산: 두 사람이 각자 임의의 방향을 선택해 측정할 때, 결과가 일치하거나 불일치할 확률을 계산한다.
수학적 한계: 고전적인 '이미 정해진 값' 모델에서는 특정 조합의 일치 확률 합이 다른 조합의 확률보다 크거나 같아야 한다는 부등식이 성립한다.
- 예시 (단순화된 형태): \(P(A, B) + P(B, C) \ge P(A, C)\)
- 여기서 \(P(X, Y)\)는 방향 \(X\)와 \(Y\)에서의 측정 결과가 다를 확률을 의미한다.

중요한 점은 양자 역학의 예측치가 이 부등식의 범위를 벗어난다는 것이다. 양자 역학에서는 측정 방향 사이의 각도에 따른 코사인 함수값으로 상관관계가 나타나는데, 특정 각도에서 양자 역학의 값은 고전적인 모델이 도달할 수 없는 높은 상관성을 보인다.

구체적 사례: 베르틀만의 양말과 얽힌 광자

양말 상자(고전)의 경우

철수와 영희에게 각각 상자를 보낸다. 상자 안에는 빨간 양말 혹은 파란 양말이 들어있다. 철수가 자기 상자를 열어 빨간색임을 확인하는 순간, 영희의 상자가 파란색임은 100% 확정된다. 이는 철수의 관측이 영희의 상자에 영향을 준 것이 아니라, 상자를 보낼 때 이미 결정되었기 때문이다. 이 모델은 어떠한 경우에도 벨의 부등식을 만족한다.

얽힌 광자(양자)의 경우

두 광자를 얽힘 상태로 만들어 반대 방향으로 쏜다. 이때 편광판의 각도를 \(0^\circ, 45^\circ, 90^\circ\) 등으로 바꿔가며 측정한다. 실험 결과, 측정 각도에 따른 결과값들의 상관관계는 벨의 부등식이 허용하는 최대치를 초과했다. 즉, 광자는 측정 전부터 색깔(상태)을 정해두고 출발한 것이 아니라는 결론에 도달한다.

주요 쟁점과 반론

양자 역학이 벨의 부등식을 위반한다는 사실은 다음 두 가지 중 하나 이상을 포기해야 함을 의미한다.

실재성 포기: 측정하기 전에는 입자의 상태가 정해져 있지 않다. 관측이 실재를 창조한다.
국소성 포기: 우주의 한쪽 끝에서 일어난 일이 다른 쪽 끝에 즉각적으로 영향을 줄 수 있다.

대부분의 물리학자는 국소 실재론이 부정되었다고 받아들인다. 그러나 '초결정론(Superdeterminism)' 지지자들은 실험자의 측정 방향 선택조차 우주 초기에 이미 정해져 있었다면 벨의 부등식 위반이 설명 가능하다고 주장하기도 한다. 하지만 이는 자유 의지를 부정하는 극단적인 가설로 여겨진다.

오해와 한계

정보 전송의 오해: 벨의 부등식 위반이 '빛보다 빠른 통신'을 가능하게 하지는 않는다. 한쪽 결과를 아는 것과 정보를 보내는 것은 다르다. 얽힘을 이용해 유의미한 정보를 보내려면 반드시 고전적인 통신 수단(빛보다 느린)이 병행되어야 한다. (No-communication theorem)
실험적 허점(Loopholes): 초기 실험들에는 측정 장비의 효율 문제나 입자 간의 거리 문제 등 허점이 있었으나, 2015년 이후 '허점 없는 벨 실험(Loophole-free Bell test)'들이 성공하며 양자 역학의 승리가 확고해졌다.

정리

벨의 부등식은 형이상학적인 철학 논쟁이었던 '실재론'의 문제를 실험 가능한 물리학의 영역으로 끌어내린 역사적 도구다. 양말 상자 모델은 우리의 일상적 직관에는 완벽히 부합하지만, 미시 세계의 근본적인 작동 방식과는 거리가 멀다. 벨의 부등식 위반은 우주가 국소적 숨은 변수로 설명될 수 없는, 훨씬 더 긴밀하게 연결된(Entangled) 계임을 보여준다.

참고자료

John S. Bell, 「On the Einstein Podolsky Rosen Paradox」, Physics Physique Fizika, 1964.
Alain Aspect, 「Bell's inequality test: more ideal than ever」, Nature, 1999.
Reinhold Bertlmann, 「Bell’s Theorem and the Nature of Reality」, Foundations of Physics, 1990.
국립과천과학관, 「양자역학의 세계: 벨의 부등식」, 공식 블로그, 2022 확인.

인포그래픽

작성일: 2026년 5월 12일