Skip to content

부피란 무엇인가: 비탈리 집합과 바나흐–타르스키 역설까지

핵심 요약

부피는 일상적으로는 어떤 대상이 3차원 공간에서 차지하는 양이다. 직육면체의 부피를 가로 × 세로 × 높이로 계산하는 방식은 이 직관을 가장 단순한 도형에 적용한 것이다. 그러나 수학적으로 부피를 엄밀히 정의하려면 단순한 계산 공식만으로는 부족하다. 문제는 “상자나 공 같은 정상적인 도형의 부피”가 아니라, “3차원 공간의 모든 부분집합에 부피를 줄 수 있는가”이다.

결론은 이렇다. 수학자들은 부피를 정의하는 데 실패한 것이 아니라, 모든 집합에 대해 직관적 성질을 모두 만족하는 보편적 부피를 정의할 수 없다는 사실을 밝혀냈다. 정상적인 도형에는 르베그 측도(Lebesgue measure)를 통해 길이·넓이·부피를 줄 수 있다. 그러나 선택공리(axiom of choice)를 허용하면 비탈리 집합(Vitali set)이나 바나흐–타르스키 역설(Banach–Tarski paradox)처럼 정상적인 크기를 부여할 수 없는 병적인 집합들이 등장한다.

“콩을 쪼개서 태양을 만들 수 있다”는 표현은 이 문제를 극단적으로 드러내는 비유이다. 실제 물질을 늘리거나 원자를 복제한다는 뜻이 아니라, 부피를 가질 수 없는 집합론적 조각들을 허용하면 콩과 태양의 크기 차이조차 보존되지 않는다는 뜻이다.

본문

1. 부피의 직관적 의미

부피는 어떤 대상이 3차원 공간에서 차지하는 크기이다. 길이가 한 방향의 크기이고, 넓이가 두 방향으로 펼쳐진 크기라면, 부피는 세 방향으로 확장된 크기이다. 예를 들어 가로 2cm, 세로 3cm, 높이 4cm인 직육면체의 부피는 2 × 3 × 4 = 24cm³이다.

이때 cm³는 “한 변이 1cm인 작은 정육면체가 몇 개 들어갈 수 있는가”라는 생각에 가깝다. 부피는 무게와 다르다. 같은 부피의 솜과 쇠는 무게가 다를 수 있다. 그 차이는 밀도 때문이다. 또한 부피는 겉넓이와도 다르다. 겉넓이는 표면의 크기이고, 부피는 그 안쪽까지 포함해 차지하는 공간의 양이다.

고체의 부피는 비교적 직관적이다. 액체는 담긴 그릇에 따라 모양은 바뀌지만 일정한 양을 부피로 나타낼 수 있다. 기체는 더 애매하다. 기체는 퍼지려 하기 때문에 보통 기체가 들어 있는 용기 전체의 공간을 그 기체의 부피로 본다.

2. 수학적 정의의 문제

수학적으로 부피는 3차원 영역의 크기를 재는 측도(measure)이다. 단순한 도형에서는 부피를 공식으로 계산할 수 있지만, 일반적인 집합에서는 “어떤 집합에 크기를 줄 수 있는가”가 핵심 문제가 된다.

우리가 원하는 부피 개념은 적어도 다음 성질을 가져야 한다.

  1. 같은 물체를 이동하거나 회전해도 부피는 변하지 않아야 한다.
  2. 겹치지 않는 두 집합을 합치면 전체 부피는 두 부피의 합이어야 한다.
  3. 한 변이 1인 정육면체의 부피는 1이어야 한다.
  4. 상자, 공, 원기둥 같은 정상적인 도형에는 우리가 기대하는 값이 나와야 한다.

이 조건들은 자연스럽다. 문제는 이 조건을 3차원 공간의 모든 부분집합에 적용하려 할 때 생긴다. 공간에는 우리가 그릴 수 있는 도형만 있는 것이 아니다. 집합론적으로 가능한 집합들 가운데에는 너무 흩어져 있고 불규칙해서 “얼마나 공간을 차지하는가”를 일관되게 말할 수 없는 것들이 있다.

따라서 정확한 표현은 다음과 같다.

수학자들은 정상적인 도형의 부피를 정의하는 데 성공했다. 그러나 모든 집합에 대해 직관적 성질을 모두 만족하는 부피를 정의하는 데는 실패했고, 그 실패는 기술 부족이 아니라 원리적 불가능성이다.

3. 르베그 측도: 성공한 부피 이론

르베그 측도는 현대 수학에서 길이·넓이·부피를 다루는 표준적 틀이다. 1차원에서는 길이, 2차원에서는 넓이, 3차원에서는 부피에 해당한다. 르베그 측도는 직육면체, 구, 원기둥, 다면체, 대부분의 곡선과 곡면으로 둘러싸인 영역, 물리학에서 일반적으로 다루는 물체에 안정적으로 적용된다.

그러나 르베그 측도는 모든 집합에 적용되지 않는다. 르베그 측도를 가질 수 있는 집합을 르베그 가측 집합(Lebesgue measurable set)이라고 한다. 반대로, 르베그 측도를 줄 수 없는 집합을 비가측 집합(non-measurable set)이라고 한다.

이 구분이 중요하다. 부피가 실패한 것이 아니라, “모든 집합은 부피를 가져야 한다”는 요구가 실패한 것이다.

4. 주세페 비탈리와 비탈리 집합

주세페 비탈리(Giuseppe Vitali, 1875–1932)는 이탈리아 수학자로, 해석학과 측도론에서 중요한 업적을 남겼다. 그의 이름이 부피 문제와 연결되는 이유는 1905년에 제시된 비탈리 집합 때문이다.

비탈리 집합은 1차원에서 먼저 등장한다. 실수 구간 [0,1] 안에서 두 수 x, y의 차이 x - y가 유리수이면 둘을 같은 종류로 본다. 이렇게 하면 [0,1]의 점들이 여러 동치류로 나뉜다. 각 동치류에서 점을 하나씩 고른 집합이 비탈리 집합이다.

이 “하나씩 고르기”에는 선택공리가 필요하다. 선택공리는 대략, 비어 있지 않은 집합들의 모임이 있을 때 각 집합에서 원소를 하나씩 선택하는 집합이 존재한다고 말하는 원리이다.

비탈리 집합의 핵심은 그것에 정상적인 길이를 줄 수 없다는 데 있다. 길이는 평행이동해도 변하지 않아야 하고, 겹치지 않는 조각들의 길이는 합쳐져야 하며, [0,1]의 길이는 1이어야 한다. 그런데 비탈리 집합에 길이를 부여하려 하면 이 조건들이 서로 충돌한다.

비탈리 집합은 “모든 실수 집합에 길이를 줄 수 없다”는 사실을 보여준다. 이것은 부피 문제의 1차원판이라고 볼 수 있다.

5. 바나흐와 타르스키

스테판 바나흐(Stefan Banach, 1892–1945)는 폴란드 수학자로, 현대 함수해석학의 핵심 인물이다. 바나흐 공간, 한-바나흐 정리, 바나흐 고정점 정리 등이 그의 이름과 연결된다.

알프레트 타르스키(Alfred Tarski, 1901–1983)는 폴란드계 미국 수학자·논리학자로, 진리의 의미론적 정의, 모델 이론, 논리적 귀결, 집합론, 측도론 등에 큰 영향을 남겼다.

두 사람의 이름이 함께 붙은 이유는 1924년에 발표된 바나흐–타르스키 역설 때문이다. 이 정리는 3차원 공간의 공 하나를 유한 개의 조각으로 나눈 뒤, 그 조각들을 늘리거나 찌그러뜨리지 않고 회전과 이동만으로 원래 공과 같은 크기의 공 두 개로 재조립할 수 있음을 말한다.

여기서 “조각”은 현실에서 칼로 자를 수 있는 물질 조각이 아니다. 그것은 무한히 흩어진 점들의 집합이며, 정상적인 의미의 부피를 갖지 않는다. 바로 이 점 때문에 역설이 생긴다.

6. 바나흐–타르스키 역설이 부피를 흔드는 방식

바나흐–타르스키 역설의 논리는 다음과 같다.

먼저, 우리가 모든 집합에 부피를 줄 수 있다고 가정한다. 그리고 그 부피가 이동·회전에 대해 변하지 않으며, 겹치지 않는 조각들의 합에 대해 더해진다고 가정한다. 이제 공 하나를 바나흐–타르스키 방식으로 유한 개의 조각으로 나눈다. 그 조각들을 회전·이동해서 원래 공과 같은 크기의 공 두 개를 만든다.

그렇다면 원래 공의 부피는 조각들의 부피 합과 같아야 한다. 그런데 같은 조각들로 만든 결과물은 원래 공 두 개이므로, 결과물의 부피는 원래 공 부피의 두 배가 되어야 한다. 따라서 원래 공의 부피가 자기 자신의 두 배와 같다는 모순이 생긴다.

이 결론은 “공의 부피가 모순적이다”가 아니다. 정확한 결론은 “그 조각들 각각에는 정상적인 부피를 줄 수 없다”이다. 즉 부피 개념은 상자, 공, 원기둥 같은 정상적인 집합에는 잘 작동하지만, 선택공리로 만든 병적인 집합에는 적용되지 않는다.

7. “콩을 쪼개서 태양을 만들다”의 정확한 의미

“콩을 쪼개서 태양을 만들 수 있다”는 말은 바나흐–타르스키 역설을 설명할 때 쓰는 자극적인 비유이다. 영어권에서는 흔히 “완두콩 하나를 쪼개 태양으로 재조립할 수 있다”는 식으로 말한다.

이 말은 물리적 명제가 아니다. 콩을 칼로 자르거나, 원자를 재배열하거나, 질량을 생성해서 태양을 만든다는 뜻이 아니다. 현실 물리학에서는 질량, 에너지, 원자 구조, 중력, 열역학 같은 제약이 있으며, 바나흐–타르스키의 조각들은 물리적으로 분리 가능한 조각이 아니다.

이 비유가 말하려는 것은 다음이다.

부피를 가질 수 없는 집합론적 조각들을 허용하면, 크기가 작은 물체와 거대한 물체 사이의 부피 차이도 보존되지 않는다. 따라서 모든 집합에 부피를 주려는 시도는 실패한다.

즉 “콩으로 태양을 만든다”는 말의 정확한 해석은 “현실에서 콩이 태양이 될 수 있다”가 아니라, “모든 집합에 부피를 부여하려 하면 콩과 태양의 부피 차이조차 수학적으로 유지할 수 없다”이다.

8. 흔한 오해

첫 번째 오해는 “부피는 허구다”라는 해석이다. 그렇지 않다. 부피는 정상적인 도형과 물리적 대상에 대해 매우 안정적으로 작동한다. 문제는 부피가 아니라, 부피를 모든 집합에 무제한으로 확장하려는 요구이다.

두 번째 오해는 “바나흐–타르스키 역설은 물리적으로 가능하다”라는 해석이다. 이것도 틀리다. 이 역설은 현실의 절단·제조·물질 변환이 아니라 집합론적 분해와 재조립에 관한 정리이다.

세 번째 오해는 “수학자들이 부피 정의에 실패했으므로 부피는 정의되지 않는다”라는 해석이다. 더 정확히는, 수학자들은 정상적인 집합에 대한 부피 이론에는 성공했고, 모든 집합에 대한 보편적 부피 이론이 불가능하다는 점을 증명적으로 드러냈다.

네 번째 오해는 “선택공리는 잘못된 원리다”라는 결론이다. 선택공리는 현대 수학의 많은 분야에서 유용하게 쓰인다. 다만 선택공리를 허용하면 비탈리 집합이나 바나흐–타르스키 역설 같은 직관에 어긋나는 결과도 가능해진다. 따라서 선택공리는 틀렸다기보다, 강력한 만큼 직관적으로 낯선 결과를 낳을 수 있는 원리라고 보는 편이 정확하다.

정리

부피는 3차원 공간에서 어떤 대상이 차지하는 양이다. 일상적·물리적·기하학적 대상에 대해서는 이 개념이 잘 작동한다. 현대 수학은 르베그 측도를 통해 길이·넓이·부피를 엄밀하게 다룬다.

그러나 모든 집합에 대해 부피를 줄 수는 없다. 비탈리 집합은 1차원에서 모든 실수 집합에 길이를 줄 수 없음을 보여준다. 바나흐–타르스키 역설은 3차원에서 모든 집합에 부피를 줄 수 없음을 훨씬 극적인 방식으로 보여준다.

따라서 핵심 명제는 다음과 같다.

부피는 실패한 개념이 아니다. 실패한 것은 모든 집합에 부피를 부여하려는 보편화의 욕망이다.

참고자료

  • Encyclopaedia Britannica, “Banach-Tarski paradox”: https://www.britannica.com/science/Banach-Tarski-paradox
  • Stanford Encyclopedia of Philosophy, “The Axiom of Choice”: https://plato.stanford.edu/entries/axiom-choice/
  • MacTutor History of Mathematics Archive, “Giuseppe Vitali”: https://mathshistory.st-andrews.ac.uk/Biographies/Vitali/
  • MacTutor History of Mathematics Archive, “Alfred Tarski”: https://mathshistory.st-andrews.ac.uk/Biographies/Tarski/
  • Stanford Encyclopedia of Philosophy, “Alfred Tarski”: https://plato.stanford.edu/entries/tarski/