계산이 끝난 뒤에도 남는 것

계산으로 완결되지 않는 판단

한 환자가 침대 위에 누워 있다. 그의 곁에는 모니터가 있고, 모니터 위에는 숫자가 있다. 산소포화도, 혈압, 심박수, 염증 수치, 생존 가능성, 합병증 확률. 의사는 그것들을 본다. 가족도 그것들을 본다. 숫자는 말없이 정렬되어 있고, 정렬된 것들은 늘 판단을 대신할 수 있을 것처럼 보인다. 치료를 계속할 것인가. 중단할 것인가. 더 공격적인 처치를 할 것인가. 고통을 줄이는 쪽으로 방향을 바꿀 것인가.

이 장면에서 숫자는 필요하다. 숫자 없는 판단은 가까운 얼굴 앞에서 쉽게 무너진다. 인간은 눈앞의 얼굴에 약하고, 자신이 견디기 어려운 죄책감을 타인의 생명이라는 이름으로 포장하기도 한다. 그러므로 계산은 적이 아니다. 계산은 흐릿한 세계에 임시의 윤곽을 준다. 문제는 계산이 아니다. 문제는 계산이 끝난 뒤에도 남는 것을 보지 않으려는 태도다.

우리는 점점 더 많은 판단을 계산의 형식으로 옮긴다. 학생의 가능성은 등급으로 정리되고, 노동자의 능력은 성과 지표로 환산되며, 환자의 미래는 위험 확률로 표시된다. 플랫폼은 취향을 예측하고, 금융 시스템은 신뢰를 점수로 배열하며, 조직은 사람의 가치를 기준표 위에 올려놓는다. 이 흐름을 단순한 타락으로 부르는 일은 게으르다. 인간의 직관이 언제나 더 깊고 더 공정한 것은 아니기 때문이다. 인간은 피곤하고, 편향되어 있으며, 익숙한 이름과 얼굴 앞에서 쉽게 흔들린다. 계산 가능한 절차는 이 약점을 보완한다.

그러나 절차가 인간의 약점을 줄여준다는 사실은, 절차가 판단의 전체가 된다는 뜻이 아니다.

이 글에서 말하는 계산 가능한 판단은 이미 주어진 기준 안에서 선택지를 비교하고 정렬하는 판단이다. 반대로 계산으로 완결되지 않는 판단은 데이터가 부족해서 아직 계산되지 않은 영역이 아니다. 그것은 판단의 기준 자체가 문제 되는 영역이다. 무엇을 좋은 결과로 볼 것인가. 어떤 손실을 더 무겁게 볼 것인가. 누구의 고통을 보이는 것으로 인정할 것인가. 그리고 결정 이후의 책임은 누구의 이름 아래 남는가.

계산은 답을 배열한다. 그러나 배열된 답 중 하나를 받아들이는 순간, 판단은 다시 인간의 자리로 돌아온다.

1. 판단이 계산 가능해지는 조건

판단이 계산 가능해지려면 세계는 먼저 잘려야 한다. 계산은 정의역을 가진다. 정의역 바깥의 입력은 처음부터 보이지 않는다. 어떤 요소를 데이터로 삼고, 어떤 요소를 버리며, 어떤 차이를 의미 있는 차이로 인정할지 미리 정해야 한다. 한 사람의 능력을 평가할 때 그의 삶 전체가 들어오는 것이 아니다. 시험 점수, 근속 연수, 성과 기록, 추천서, 면접 점수처럼 비교 가능한 항목만이 판단의 재료가 된다.

이 절단은 불가피하다. 어떤 판단도 모든 것을 고려할 수 없다. 문제는 절단이 있었다는 사실이 지워질 때 발생한다. 계산 가능한 판단은 세 가지 조건을 요구한다. 대상은 데이터로 표현될 수 있어야 하고, 기준은 규칙으로 정리될 수 있어야 하며, 결과는 비교 가능한 값으로 환산될 수 있어야 한다. 이 세 조건이 갖추어질 때 판단은 계산의 형식으로 들어간다. 그러나 갖추어지지 않을 때, 우리는 자주 갖추어진 것처럼 보이게 만들기 위해 무언가를 버린다. 이 버림은 판단 이전의 판단이며, 가장 자주 잊히는 판단이다.

여기에는 하나의 역설이 있다. 계산은 판단을 제거하지 않는다. 판단의 위치를 앞쪽으로 옮긴다. 무엇을 데이터로 삼을지, 어떤 기준을 적용할지, 어떤 오차를 허용할지, 어떤 결과를 성공으로 부를지는 이미 판단의 산물이다. 계산은 그 뒤를 수행한다. 그러므로 계산된 결과가 객관적으로 보일수록, 그 결과 이전에 숨어 있던 판단을 더 의심해야 한다.

환자의 생존 확률도 그렇다. 그것은 자연이 내놓은 순수한 숫자가 아니다. 어떤 집단을 기준으로 삼았는지, 어떤 변수를 넣었는지, 어떤 상태를 생존으로 정의했는지, 어떤 기간을 예측 단위로 삼았는지에 따라 숫자는 달라진다. 숫자는 현실을 비추는 거울이지만, 모든 거울은 프레임을 가진다. 프레임의 모양을 보지 않은 채 거울 속만 보면, 우리는 자기 자신의 선택을 자연의 사실로 잘못 읽게 된다.

2. 계산의 힘과 그 성공의 위험

계산 가능한 판단은 반복되는 상황에서 강력하다. 같은 기준, 같은 목표, 같은 절차가 주어질 때 계산은 인간보다 빠르고 안정적으로 결과를 산출한다. 물류 경로를 최적화하거나, 위험 신호를 탐지하거나, 대량의 문서를 분류하거나, 비슷한 사례를 비슷하게 처리해야 하는 상황에서 계산은 인간의 즉흥적 판단보다 나은 도구가 될 수 있다.

계산의 장점은 깊은 의미 이해에 있지 않다. 계산은 개별 사건의 고유한 무게를 온전히 이해하기보다, 반복 가능한 표면을 빠르게 배열한다. 그런데 반복 가능한 표면은 실제로 중요하다. 병원, 학교, 기업, 행정기관처럼 많은 사람을 다루는 제도는 매번 완전히 새로운 판단만으로 움직일 수 없다. 기준이 없으면 자의성이 커지고, 절차가 없으면 책임 추적도 어려워진다.

따라서 계산은 공정성의 적이 아니다. 때로는 공정성의 조건이다. 동일한 기준을 공개하고, 비슷한 사례를 비슷하게 처리하며, 판단의 과정을 기록하게 만들기 때문이다. 인간의 직관은 종종 자기 자신에게만 관대하다. 계산 가능한 절차는 바로 그 관대함을 제한한다.

하지만 계산이 강력한 바로 그 지점에서 위험도 발생한다. 반복 가능한 상황에 맞춰진 판단 방식이 반복 불가능한 상황까지 장악할 때, 계산은 도구에서 규범으로 미끄러진다. 계산은 정렬할 수 있는 것들을 선호하고, 정렬하기 어려운 것들을 주변으로 밀어낸다. 이때 문제는 계산의 실패가 아니다. 오히려 계산의 성공이다. 너무 잘 정렬하기 때문에, 정렬되지 않는 것의 의미가 사라진다.

한 환자의 통증, 두려움, 오래된 신념, 가족에게 남기고 싶은 마지막 말은 생존 확률과 같은 방식으로 정렬되지 않는다. 그렇다고 그것들이 덜 중요한 것은 아니다. 계산표 바깥에 있다는 이유만으로 삶의 바깥에 있는 것은 아니기 때문이다. 정렬되지 않는 것을 보이지 않는 것으로 다루는 일은 단순한 누락이 아니다. 그것은 일종의 처분이다.

3. 계산으로 완결되지 않는 판단은 비합리성이 아니다

계산으로 완결되지 않는 판단은 근거를 거부하는 판단이 아니다. 오히려 더 많은 근거가 서로 충돌하는 자리에서 발생한다. 효율성과 존엄, 안전과 자유, 공정성과 배려, 예측 가능성과 예외 인정은 자주 같은 방향으로 움직이지 않는다. 하나를 높이면 다른 하나가 낮아진다. 이때 판단은 수치를 읽는 일이 아니라, 수치들이 서로 충돌하는 방식을 해석하는 일이 된다.

치료 지속 여부를 결정하는 장면을 다시 보자. 생존 가능성, 고통의 정도, 환자의 의지, 가족의 부담, 의료 자원의 배분은 모두 고려되어야 한다. 그러나 이 요소들은 하나의 점수로 매끄럽게 합쳐지지 않는다. 생존 가능성이 높다고 언제나 치료 지속이 선이 되는 것은 아니다. 고통이 크다고 언제나 중단이 정당화되는 것도 아니다. 환자의 의지가 중요하다고 해서 가족의 붕괴가 아무것도 아닌 것이 되지도 않는다.

여기서 필요한 것은 계산의 거부가 아니라 계산의 한계에 대한 정직함이다. 계산은 근거를 제공한다. 그러나 근거들의 서열을 정하는 일은 계산만으로 완결되지 않는다. 어떤 가치를 더 앞에 둘 것인지, 어떤 손실을 감수 가능한 것으로 볼 것인지, 어떤 예외를 예외로 인정할 것인지는 규범의 문제다.

비합리성은 근거를 버린다. 계산으로 완결되지 않는 판단은 근거를 버리지 않는다. 다만 근거들이 하나의 수치로 환원되지 않는다는 사실을 인정한다. 둘은 다르다. 전자는 어둠으로 도망가고, 후자는 빛이 닿지 않는 경계를 표시한다. 표시된 경계는 약점이 아니다. 그것은 판단이 어디서 더 이상 자동화될 수 없는지를 알리는 신호다.

4. 수치화는 무엇을 보이게 하고 무엇을 지우는가

어떤 판단을 계산 가능한 것으로 취급할 것인가는 기술적 문제만이 아니다. 그것은 사회적 결정이다. 학교는 배움을 성적으로 번역한다. 회사는 능력을 성과 지표로 바꾼다. 플랫폼은 취향을 클릭과 체류 시간으로 읽는다. 국가는 위험을 통계와 등급으로 관리한다. 이런 번역은 제도를 운영하기 쉽게 만든다. 그러나 동시에 특정한 세계관을 강화한다.

계산 가능한 것은 객관적인 것으로 인정되고, 계산하기 어려운 것은 주관적이거나 비효율적이거나 전문성이 부족한 것으로 밀려난다. 이때 핵심 질문은 “계산할 수 있는가”가 아니다. 더 날카로운 질문은 이것이다. 계산 가능한 것으로 취급할 때 누가 이익을 얻고, 누가 보이지 않게 되는가.

수치화는 책임을 분산시킨다. 결정권자는 “데이터가 그렇게 말한다”고 말할 수 있다. 그러나 데이터는 말하지 않는다. 데이터는 수집되고, 분류되고, 모델에 투입되고, 해석된다. 그 모든 과정에는 인간과 조직의 선택이 있다. 선택이 있었는데 선택이 없었던 것처럼 말하는 순간, 계산은 객관성의 언어를 빌린 은폐가 된다. 가장 정교한 은폐는 거짓말이 아니다. 그것은 자신이 보지 않은 것을 자연이 그렇다고 말하게 만드는 일이다.

환자에게도 같은 일이 일어난다. “가능성이 낮다”는 말은 의학적 판단일 수 있다. 그러나 그 말이 곧 “그러므로 이 삶은 더 이상 돌볼 가치가 없다”는 뜻은 아니다. 확률은 상태를 말할 수 있다. 하지만 가치의 최종 문장을 대신 써줄 수는 없다.

5. 알고리즘은 판단을 대체하지 않는다

알고리즘의 문제는 기계가 인간처럼 판단할 수 있는가에만 있지 않다. 더 중요한 질문은 알고리즘이 판단의 위치를 어떻게 바꾸는가이다. 알고리즘은 추천하고, 분류하고, 예측하고, 점수를 부여한다. 그러나 그 산출이 곧바로 판단이 되는 것은 아니다. 판단은 그 산출을 실제 결정으로 채택하는 순간 발생한다.

알고리즘의 산출은 확률, 점수, 추천, 분류에 가깝다. 인간의 판단은 그 산출을 어떤 맥락에서 받아들이고, 어떤 책임 아래 적용할지를 결정하는 행위다. 알고리즘이 위험한 이유는 단지 틀릴 수 있기 때문만이 아니다. 인간도 틀린다. 더 위험한 것은 인간이 알고리즘의 출력을 참고 자료가 아니라 명령처럼 받아들일 때다.

그 순간 책임의 사슬은 이상하게 끊어진다. 현장의 담당자는 “시스템이 그렇게 판단했다”고 말한다. 조직은 “모델은 보조 도구일 뿐”이라고 말한다. 개발자는 “최종 결정은 사용자의 몫”이라고 말한다. 모두가 결정 옆에 서 있고, 누구도 결정 위에 서 있지 않다. 그러는 동안 결정은 내려지고, 그 결정의 영향을 받는 사람은 구체적인 얼굴을 가진 개인으로 남는다.

알고리즘은 판단을 완전히 대체하지 않는다. 판단의 부담을 보이지 않는 곳으로 이동시킨다. 이것이 더 위험하다. 대체는 눈에 보이지만, 이동은 자주 제도의 벽 속으로 사라지기 때문이다. 사라진 책임은 없어진 것이 아니다. 다만 추적되지 않을 뿐이다.

6. 모든 판단은 언젠가 계산될 수 있다는 반론

여기서 강한 반론이 가능하다. 지금 계산으로 완결되지 않는다고 부르는 판단도 결국 복잡도가 높은 계산일 뿐이라는 반론이다. 과거에는 계산할 수 없다고 여겼던 많은 일이 오늘날 모델링되고 예측된다. 인간의 직관도 결국 뇌의 정보 처리라면, 책임과 해석과 결단 역시 충분히 정교한 모델 안에서 계산될 수 있지 않은가.

이 반론은 가볍지 않다. 실제로 많은 판단은 시간이 지나며 계산 가능한 형식으로 옮겨간다. 감에 의존하던 결정이 데이터 분석으로 교정되고, 경험적 추측이 통계적 모델로 대체되는 일은 흔하다. 그러므로 계산의 한계를 말할 때 우리는 조심해야 한다. 그것이 기술 발전을 이해하지 못한 보수적 직관론으로 떨어지는 순간, 논의는 힘을 잃는다.

더 강한 형태의 반론도 있다. 가치 판단 자체도 선호의 구조로 모델링할 수 있다는 주장이다. 사람들이 어떤 선택을 선호하는지 충분히 수집하고, 그 선호의 패턴을 학습하고, 사회적 합의를 하나의 함수로 근사한다면, 가치 충돌도 계산 가능한 문제가 될 수 있지 않느냐는 것이다.

이 반론은 한 발 더 나아간다. 그러나 결정적인 자리에서 멈춘다. 선호를 모델링하는 것과 선호를 정당화하는 것은 같은 일이 아니다. 사람들이 실제로 무엇을 원하는지 계산할 수 있다고 해서, 그것이 마땅히 원해야 할 것인지까지 계산되는 것은 아니다. 다수가 어떤 배제를 선호할 수 있다. 조직이 어떤 위험을 외주화하는 쪽을 효율적이라고 선호할 수 있다. 가족이 죄책감을 덜기 위해 환자의 고통보다 치료 지속을 선호할 수도 있다. 선호는 사실일 수 있지만, 사실이라는 이유만으로 정당해지지는 않는다.

계산은 목표 함수가 주어졌을 때 강력하다. 그러나 목표 함수 자체의 정당성은 계산만으로 산출되지 않는다. 무엇을 최적화할 것인가. 어떤 손실을 더 심각한 손실로 볼 것인가. 예외를 어느 정도까지 허용할 것인가. 다수의 이익과 소수의 피해가 엇갈릴 때 어떤 기준을 세울 것인가. 이 질문들은 계산량이 부족해서 남는 잔여물이 아니다. 계산이 시작되기 위해 먼저 결정되어야 하는 전제다. 전제는 결과로 환원되지 않는다. 전제를 결과로 환원하려는 시도가 곧 순환이다.

7. 왜 우리는 판단을 계산으로 바꾸고 싶어 하는가

우리가 판단을 계산으로 바꾸고 싶어 하는 이유는 효율성만이 아니다. 계산은 불안을 줄인다. 수치는 모호한 세계를 견디기 쉽게 만든다. 점수와 순위가 있으면 우리는 판단을 내린 것이 아니라 절차를 따른 것처럼 느낀다.

인간에게 판단은 부담이다. 판단은 늘 다른 가능성을 버리는 일이며, 그 결과를 자신의 이름으로 받아들이는 일이다. 그래서 인간은 때로 더 정확하게 판단하기 위해서가 아니라, 판단했다는 부담을 덜기 위해 계산한다. 수치가 있으면 결정은 덜 잔인해 보인다. 기준표가 있으면 배제는 덜 개인적인 것처럼 보인다. 알고리즘이 있으면 선택은 덜 책임 있는 행위처럼 보인다.

한때 나는 설명이 사람을 바꾼다고 믿었다. 더 정확한 정보, 더 일관된 추론, 더 잘 정렬된 근거가 주어지면 인간은 자신의 어리석은 선택을 교정할 것이라고 생각했다. 그러나 시간이 지나며 알게 되었다. 사람은 알면서도 반복하고, 후회하면서도 되돌아가며, 가장 잘 정리된 절차 앞에서조차 절차의 결과를 받아들이는 것이 아니라 절차의 권위 뒤에 자신의 부담을 숨긴다. 계산은 그 숨기 좋은 자리 중 하나다. 가장 합리적인 모양을 한 도피처.

이 욕망은 이해할 수 있다. 현대 사회의 규모와 복잡성 속에서 모든 판단을 얼굴과 대화와 숙고만으로 처리할 수는 없다. 그러나 이해할 수 있다는 것과 정당하다는 것은 다르다. 계산이 책임을 돕는 도구가 아니라 책임을 피하는 장치가 될 때, 판단은 더 투명해지는 것이 아니라 더 익명화된다. 익명화된 판단은 더 빨리 진행되고, 더 멀리 퍼지고, 더 많은 사람을 다루며, 더 적은 사람이 답할 수 있는 형식이 된다.

병원 복도에서 가족이 의사의 말을 기다리는 장면을 떠올려보자. 그들은 숫자를 원한다. 명확한 확률을 원한다. 가능한 한 차가운 설명을 원한다. 그래야 자신들이 내리는 결정이 덜 잔인해지기 때문이다. 그러나 잔인함은 숫자 뒤에 숨는다고 사라지지 않는다. 다만 이름을 잃을 뿐이다. 이름을 잃은 잔인함은 사라진 것이 아니라, 누가 책임져야 하는지가 흐려진 잔인함이다.

8. 책임은 어디에 남는가

계산으로 완결되지 않는 판단의 핵심은 인간에게 신비한 능력이 있다는 데 있지 않다. 핵심은 인간이 책임, 해석, 결단의 자리에 놓인다는 데 있다. 계산은 근거를 제공할 수 있지만 책임을 지지 않는다. 어떤 모델이 높은 위험을 표시했다 해도, 그 표시를 처분으로 연결하는 것은 인간과 제도다. 책임은 산출값이 아니라 산출값에 효력을 부여한 행위자에게 귀속된다.

같은 숫자는 맥락에 따라 전혀 다른 의미를 갖는다. 80점은 시험에서는 높은 점수일 수 있지만, 생존 가능성에서는 불안한 수치일 수 있고, 신용 위험에서는 거절의 근거가 될 수도 있다. 숫자는 스스로 자신의 의미를 말하지 않는다. 숫자가 무엇을 뜻하는지는 그 숫자가 놓인 제도, 관계, 목적, 역사 속에서 해석된다. 해석되지 않은 숫자는 없다. 다만 누가 해석했는지가 가려진 숫자가 있을 뿐이다.

결단은 정보가 완전할 때 내려지는 것이 아니다. 정보가 완전하다면 결단의 고통은 줄어든다. 그러나 실제 판단의 많은 순간은 정보가 불완전하고 가치가 충돌하는 가운데 발생한다. 결단은 바로 그 불완전성 속에서 어떤 방향을 선택하고, 그 선택의 이유를 설명하며, 그 결과를 회피하지 않는 행위다.

환자 앞에서 의사는 숫자를 버려서는 안 된다. 그러나 숫자 뒤에 숨어서도 안 된다. 가족은 희망이라는 이름으로 고통을 지워서는 안 된다. 그러나 고통이라는 이름으로 삶을 너무 빨리 닫아서도 안 된다. 어느 쪽도 순수하지 않다. 바로 그 불순함 때문에 판단은 어렵다. 어려운 것은 결함이 아니다. 어려운 것은 그 자리에서 인간이 비로소 인간으로 서 있다는 표시다.

판단은 깨끗한 방에서 이루어지지 않는다. 판단은 언제나 잔여물을 남긴다. 선택되지 않은 가능성, 충분히 듣지 못한 목소리, 설명했지만 끝내 설득되지 않는 얼굴. 계산은 이 잔여물을 줄일 수 있다. 그러나 완전히 제거하지는 못한다. 제거되지 않는 그 부분이 바로 책임의 거주지다.

9. 경계는 제거할 한계가 아니라 지켜야 할 긴장이다

결론은 계산과 인간 판단의 단순한 대립이 될 수 없다. 그러나 그것이 곧 양쪽의 매끄러운 종합을 뜻하지도 않는다. 두 영역은 봉합되지 않는다. 다만 서로의 한계를 가리키며 공존한다. 봉합을 서두르는 결론은 자주 사유의 약화다.

계산 가능한 판단은 필요하다. 그것은 많은 영역에서 편견을 줄이고, 일관성을 높이며, 복잡한 세계를 다룰 수 있게 한다. 계산을 불신하며 인간의 직관만을 숭배하는 입장은 자주 자기 자신의 편향을 신비화하는 결과로 이어진다. 그러나 계산 가능한 판단이 모든 판단의 이상형이 되는 순간, 우리는 판단의 가장 중요한 차원을 잃는다. 기준을 묻는 능력, 맥락을 해석하는 능력, 책임을 떠안는 능력이다.

이 경계를 어떻게 그을지에 대한 일반 공식은 없다. 영역마다 다르고, 시대마다 다르며, 같은 영역 안에서도 사례마다 다르다. 의료, 사법, 교육, 채용, 신용, 추천에 적용되는 기준은 같지 않다. 그러므로 우리가 가져야 할 것은 정확한 분류표가 아니라 분류표를 의심할 줄 아는 감각이다. 어떤 판단을 계산에 맡길 것인가. 어떤 판단은 계산의 도움을 받되 인간이 책임져야 하는가. 어떤 판단은 계산으로 환원해서는 안 되는가. 이 질문들은 한 번 답하면 끝나는 질문이 아니다. 매번 다시 던져야 하는 질문이다.

경계는 고정된 선이 아니다. 기술이 바뀌고, 제도가 바뀌고, 사회가 중요하게 여기는 가치가 바뀌면 경계도 이동한다. 그러나 경계가 이동한다는 사실이 경계가 불필요하다는 뜻은 아니다. 오히려 경계가 이동하기 때문에 우리는 더 자주 물어야 한다. 지금 이 판단을 계산 가능한 것으로 바꾸는 일은 무엇을 드러내고 무엇을 지우는가. 이 기준은 누구에게 유리하고 누구에게 불리한가. 이 결정의 책임은 어디에 남는가.

계산은 세계를 질서 있게 만든다. 그러나 질서가 곧 정당성은 아니다. 계산은 답을 배열할 수 있다. 그러나 어떤 답을 받아들일 것인지는 여전히 판단의 문제로 남는다.

환자의 침대 곁에서, 채용 점수표 앞에서, 신용 등급의 문턱에서, 추천 알고리즘의 화면 앞에서 우리는 자주 같은 유혹을 느낀다. 내가 판단한 것이 아니라고 말하고 싶은 유혹. 기준이 그랬고, 데이터가 그랬고, 시스템이 그랬다고 말하고 싶은 유혹. 인간은 책임을 피하기 위해 가장 합리적인 언어를 빌릴 수 있다. 합리성 자체가 회피의 도구가 될 수 있다. 그것은 합리성의 결함이 아니라, 합리성을 사용하는 인간의 결함이다.

그러나 계산이 끝난 뒤에도 남는 것이 있다. 그것은 신비가 아니다. 영혼도 아니다. 그것은 내가 이 기준을 받아들였다는 사실, 이 결과에 효력을 주었다는 사실, 그리고 그 결과가 누군가의 삶에 남긴 흔적 앞에서 완전히 빠져나갈 수 없다는 사실이다.

판단은 바로 그 자리에서 시작된다. 계산이 멈춘 자리에서가 아니라, 계산이 충분히 작동한 뒤에도 책임이 사라지지 않는 자리에서.

문제는 아직 남아 있다. 다만 이제 우리는 그것을 더 정확한 이름으로 부를 수 있다.