Skip to content

기술이 해방적이기 위한 조건

기술의 해방성은 기술을 어떤 사회적 조건 아래에서 배치하고 통제할 것인가에 달려 있다.

1. 해방의 언어, 지배의 구조

인터넷이 처음 대중에게 열렸을 때, 그것은 정보 민주화의 도구로 선포되었다. 스마트폰은 개인의 자율성을 공간의 제약에서 해방시키는 기기로 등장했다. 소셜 미디어는 수평적 연결과 발언권의 평등화를 약속했다. 이 약속들은 단순한 마케팅 수사가 아니었다. 그것은 기술 개발을 추동한 실제 이념이었고, 그 이념에 동참한 수십억 명의 사용자들은 자발적으로 참여했다.

해방을 약속한 기술은 곧 행동 데이터의 수집과 예측 상품의 거래 구조로 편입되었다. 정보 민주화를 약속한 플랫폼은 감시 자본주의의 기반 시설이 되었다. 자율성을 확장하기 위한 도구는 그 자율성을 데이터화하고 상품화하는 메커니즘으로 전환되었다. 해방의 언어와 지배의 구조가 같은 기술 안에 공존한다는 사실은 이제 놀랍지 않다. 놀라운 것은 이 공존이 예외적 실패가 아니라 반복되는 패턴이라는 점이다.

마르틴 하이데거(Martin Heidegger)는 기술의 본질을 Gestell, 즉 몰아세움으로 규정했다. 기술은 중립적 도구가 아니라 세계를 특정 방식으로 개시하는 틀이다. 기술이 열어놓는 가능성의 공간은 이미 특정 방향으로 구조화되어 있으며, 그 안에서 사유하는 자는 기술이 구성하는 시선을 내면화한다. 이 진단의 핵심은 기술의 위험이 기술의 오작동에 있는 것이 아니라 정상 작동에 있다는 것이다. 기술이 약속대로 작동하면서도 인간을 몰아세울 수 있다는 것이다. 그러므로 "기술은 해방적인가, 지배적인가"라는 질문은 잘못 설정된 질문이다. 올바른 질문은 이것이다. 기술이 해방적이려면 어떤 조건이 성립해야 하는가.

2. 선택의 형식 — 자율성이라는 조건

자율성은 해방의 최소 조건이다. 사용자가 기술의 목적을 결정할 수 있어야 하고, 그 목적을 위해 기술을 사용할 수 있어야 한다.

추천 알고리즘이 자율성을 실제로 확장하는 측면은 존재한다. 사용자가 미처 알지 못했던 콘텐츠를 발견하도록 돕고, 방대한 정보 중에서 관련성 높은 것을 걸러내는 기능은 탐색 비용을 낮춘다. 기술 낙관론의 더 강한 형태는 여기서 한 걸음 더 나간다. 알고리즘이 선택지를 설계하더라도 탐색 비용의 감소와 기회 총량의 확대가 실질적 선택 가능성을 높이므로, 자율성을 축소하기보다 실질화한다는 것이다. 알고리즘 없는 정보 환경이 더 자율적인가라는 질문에 단순히 그렇다고 답하기 어려운 이유가 여기에 있다. 정보의 과잉 자체가 실질적 선택을 마비시킬 수 있다.

그러나 이 논거는 자율성의 핵심 조건을 비켜간다. 탐색 비용의 감소는 주어진 선택지 안에서의 효율을 높이지, 선택지의 구성 자체에 대한 권한을 확장하지 않는다. 현재의 플랫폼은 선택의 형식을 제공하되, 선택의 공간을 설계한다. 추천 알고리즘은 사용자가 볼 콘텐츠를 표시하고, 인터페이스는 사용자가 체류할 경로를 배치하며, 알림 시스템은 사용자가 반응할 자극을 생성한다. 사용자는 매 순간 선택하지만, 선택지의 구성과 배열은 사용자의 손 밖에 있다. 쇼샤나 주보프(Shoshana Zuboff)는 이 구조를 "행동 잉여(behavioral surplus)"의 추출이라는 개념으로 분석했다. 플랫폼 기업들은 사용자의 경험을 원료로 삼아 행동 예측 상품을 제조하고, 경쟁 압력은 이 기업들로 하여금 행동을 형성하는 방향으로 나아가도록 만든다.

자율성 조건의 핵심은 이것이다. 선택의 구조를 설계하는 권한이 사용자에게 없을 때, 그 선택은 형식이지 실질이 아니다. 해방은 선택지의 수가 아니라 선택의 틀을 구성하는 권한에서 결정된다.

3. 탈출의 비용 — 가역성이라는 조건

기술에서 빠져나올 수 있는가. 이 질문은 해방의 두 번째 조건을 드러낸다. 이탈 가능성이 없는 기술적 관계는 지배의 관계와 구조적으로 같다.

특정 플랫폼을 떠나는 것은 언제나 가능하다. 사용자는 계정을 삭제하고 다른 서비스로 이동할 수 있다. 이 의미에서 이탈 가능성은 형식적으로 존재한다. 그러나 랭던 위너(Langdon Winner)가 1980년 논문 「인공물은 정치를 가지는가(Do Artifacts Have Politics?)」에서 논증했듯, 기술적 인공물은 그것을 가능하게 하는 사회적 질서를 구성한다. 한번 확립된 기술적 질서는 그것을 전제하는 경제적·법적·사회적 구조를 형성하고, 그 구조는 다시 기술을 고정한다.

플랫폼에서 이탈할 때 실질적으로 잃는 것은 기술 자체가 아니라 그 기술 위에 축적된 관계망, 이력, 데이터다. 이것들은 이식되지 않는다. 네트워크 효과는 이탈의 실질적 비용을 이탈 의지를 선제적으로 제거하는 수준으로 높인다. 전력망·금융 결제망·통신 인프라처럼 기술 자체가 사회적 기반 시설로 전환될 때, 이탈 가능성은 구조적으로 협소해진다. 이 조건 아래에서 가역성을 요구하는 것은 사회에서 이탈하라는 요구에 가까워진다.

가역성 조건은 형식적 이탈 가능성과 실질적 이탈 가능성을 구분하도록 요구한다. 탈출의 비용이 탈출 의지를 선제적으로 제거하는 수준에 이를 때, 형식적 가능성은 해방의 조건을 충족하지 못한다.

4. 편익의 전유 — 접근 평등이라는 조건

기술에 접근하는 것과 그 기술의 편익을 전유하는 것은 다른 문제다. 이 구분이 기술 해방 논의에서 가장 자주 혼동되는 지점이다.

기술 낙관론의 핵심 주장은 접근의 확대다. 스마트폰 보급률이 올라가고, 인터넷 연결이 확산되고, AI 도구가 무료로 제공될 때, 기술은 기회를 평등화한다는 논리다. 이 주장에는 실증적 근거가 있다. 디지털 기기의 보급은 이전 세대가 접근할 수 없었던 정보와 서비스에 대한 접근을 실제로 확장했다.

그러나 다론 아세모글루(Daron Acemoglu)와 파스칼 레스트레포(Pascual Restrepo)가 2022년 Econometrica에 발표한 연구는 접근과 편익의 분리를 실증적으로 보여준다. 이들의 분석에 따르면, 지난 40여 년간 미국 임금 구조 변화의 50~70%가 자동화가 빠르게 진행된 산업에서 반복적 과업에 특화된 노동자 집단의 상대적 임금 하락으로 설명된다. 자동화 기술은 자본이 수행하는 과업의 범위를 확장하고, 이 과정에서 특정 노동자 집단을 비교 우위를 가진 직무에서 밀어낸다. 결정적인 것은, 이 노동자들이 자동화 기술에 접근하지 못한 것이 아니라는 사실이다. 그들이 배제된 것은 접근이 아니라 편익이다.

기술이 창출하는 가치가 누구에게 귀속되는가의 문제는 기술 자체의 속성이 아니라, 기술이 도입되는 생산 관계와 분배 구조가 결정한다. 기술의 확산이 불평등을 자동으로 해소하지 않는 이유가 여기에 있다. 접근의 범위가 넓어질 때 편익의 집중이 함께 심화될 수 있다. 접근 평등의 조건은 기술에 닿을 수 있느냐가 아니라, 기술이 만들어내는 조건 변화 속에서 자신의 위치를 방어할 수 있는 실질적 권한을 갖고 있느냐를 묻는다.

5. 판단 가능성 — 설계 투명성이라는 조건

기술이 자신에게 무엇을 하는지 알 수 없을 때, 그에 대한 판단도 저항도 구성되지 않는다. 설계 투명성은 다른 조건들의 실현 가능성을 판단하기 위한 전제 조건이다.

알고리즘 시스템이 결정의 효율을 높이는 측면은 분명히 존재한다. 방대한 데이터를 처리하여 일관된 기준을 적용하고, 인간 판단자의 피로나 기분에 따른 편차를 줄이는 기능은 실제적 장점이다. 사법 영역에서 알고리즘 도입을 지지하는 논거 중 하나가 바로 이 일관성이다.

그러나 2016년 비영리 탐사 보도 기관 ProPublica는 미국 형사 사법 시스템에서 양형 및 보석 결정에 광범위하게 사용되어 온 재범 위험도 산출 알고리즘 COMPAS를 분석한 보고서를 발표했다. 플로리다주 브로워드 카운티의 약 1만 명에 달하는 피고인 데이터를 분석한 결과, 흑인 피고인은 백인 피고인에 비해 고위험군으로 잘못 분류될 가능성이 거의 두 배에 달하는 것으로 나타났다. 개발사 노스포인트(Northpointe)는 이 분석의 방법론을 반박했고, 공정성의 정의를 둘러싼 기술적 논쟁이 이어졌다. 그러나 이 논쟁에서 알고리즘의 예측 논리 자체는 영업 비밀로 공개되지 않았다. 결정의 근거를 알 수 없는 조건에서는 이의 제기도, 교정도 구성되기 어렵다.

한병철(Byung-Chul Han)은 투명사회에서 투명성 일반을 비판한 것이 아니다. 그가 비판한 것은 권력 관계의 가시화 없이 작동하는 투명성 체제다. 즉, 사용자의 데이터와 행동은 완전히 투명하게 추출되는 반면, 그 데이터를 처리하는 알고리즘의 논리와 설계자의 판단은 불투명하게 남는 구조다. 설계 투명성의 요구는 이 비대칭을 역전시키는 것이다. 사용자가 아니라 설계의 논리가 가시화되어야 한다. 이 요구는 기술의 기능적 문제가 아니라 누가 알 권리를 갖고 누가 알릴 의무를 지는가라는 정치적 결정이다.

6. 조건들은 함께 실패한다

네 가지 조건 — 자율성, 가역성, 접근 평등, 설계 투명성 — 은 독립적으로 실패하지 않는다. 이 조건들은 상호 의존 구조를 형성하고, 하나의 결손이 다른 조건들의 실현 가능성을 잠식한다.

설계 투명성 없이는 자율성을 판단할 수 없다. 사용자가 자신의 선택 공간이 어떻게 구성되어 있는지 알 수 없다면, 그 선택이 자율적인지 유도된 것인지를 구분할 근거가 없다. 접근의 불평등이 유지되는 조건에서 가역성은 특권이 된다. 떠날 수 있는 사람과 떠날 수 없는 사람 사이의 비대칭이, 가역성이라는 형식적 가능성의 실질적 내용을 결정한다. 자율성이 설계된 선택 공간 안에 갇혀 있을 때, 설계 투명성의 요구는 제기될 수 없다. 선택의 틀이 보이지 않으면, 그 틀을 바꾸라는 요구도 구성되지 않는다.

네 조건의 상호 의존성은 부분 개선만으로 해방 조건이 충족되지 않는다는 결론으로 이어진다. 데이터 이식성의 제도화, 알고리즘 투명성 규제, 재교육 프로그램의 제공은 각각 가역성, 투명성, 접근 평등 조건에 부분적으로 기여할 수 있다. 그러나 이 조건들의 총합이 자율성을 자동으로 복원하지는 않는다. 조건들의 실패는 체계적이고, 그에 대한 응답도 체계적이어야 한다.

이 조건들의 실현을 방해하는 것은 기술의 한계가 아니다. 기술을 배치하는 경제·법·정치 구조다. 기술 안에서의 개선은 기술이 구성하는 사유 방식의 한계 안에서 이루어진다. 조건의 체계적 결손을 보려면 기술 바깥의 물음이 필요하다.

7. 조건을 묻는 것이 배제될 때

기술의 해방 조건을 묻는 질문은 많은 기술 담론에서 주변화된다. 조건 질문이 어떻게 배제되는가를 추적하는 것이 이 글의 마지막 과제다.

기술 담론이 이 질문을 차단하는 첫 번째 방식은 불가피성의 서사다. "기술은 그냥 이렇게 작동한다", "AI의 발전은 막을 수 없다", "적응하지 않으면 도태된다"는 서술은 조건 질문을 사후적인 것, 현실과 동떨어진 것으로 위치시킨다. 이 서술은 기술 기업의 홍보 문서와 역량 중심 교육 담론에서 반복적으로 등장한다. 물론 AI Act나 OECD AI 원칙처럼 위험 규제와 투명성 의무를 제도 언어로 다루는 정책 담론도 존재한다. 그러나 이 담론들은 기술의 조건을 기술 외부에서 설계하는 문제가 아니라, 이미 배치된 기술의 위험을 사후적으로 관리하는 문제를 중심으로 구성된다. 조건 질문의 주변화는 담론 전체의 균등한 특성이 아니라, 가장 광범위하게 유통되는 기술 서사의 구조적 경향이다.

두 번째 방식은 적응 요구의 방향 설정이다. 기술이 인간의 조건에 맞추어야 한다는 방향과, 인간이 기술의 조건에 적응해야 한다는 방향은 구조적으로 다른 질문을 생산한다. 많은 상업적·교육적 기술 담론은 후자의 질문을 더 자주 전면화한다. 어떤 역량을 갖추어야 하는가, 어떻게 변화에 적응할 것인가가 논의의 중심이 된다. 기술이 어떤 조건 아래에서 배치되어야 하는가는 주변적이거나 이상주의적인 질문으로 취급된다. 하르트무트 로자(Hartmut Rosa)는 가속(Beschleunigung)에서 기술적 가속이 성찰을 위한 시간을 구조적으로 압박한다고 분석했다. 빠르게 변화하는 기술 환경에서 현재의 조건을 검토할 시간은 점점 좁아진다. 다음 변화가 이미 도착했을 때, 이전 변화의 조건을 묻는 것은 지연된 질문이 된다. 적응 요구의 방향 설정과 가속의 압박은 서로를 강화하면서 조건 질문을 담론의 바깥으로 밀어낸다.

네 조건을 충족하지 못하는 기술은 편익을 확대해도 해방적이지 않다. 그 조건을 묻고 설계하는 것이 기술 담론이 회수해야 할 질문이다.

참고자료

  • Acemoglu, D., & Restrepo, P. (2022). Tasks, Automation, and the Rise in U.S. Wage Inequality. Econometrica, 90(5), 1973–2016.
  • Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias. ProPublica. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
  • Han, B.-C. (2012). Transparenzgesellschaft. Matthes & Seitz. [한국어판: 김태환 역, 투명사회, 문학과지성사, 2014]
  • Heidegger, M. (1954). Die Frage nach der Technik. In Vorträge und Aufsätze. Neske. [한국어판: 이기상 역, 기술과 전향, 서광사, 1993]
  • Rosa, H. (2005). Beschleunigung: Die Veränderung der Zeitstrukturen in der Moderne. Suhrkamp. [한국어판: 김태희 역, 가속: 근대의 시간구조 변동, 앨피, 2023]
  • Winner, L. (1980). Do Artifacts Have Politics? Daedalus, 109(1), 121–136.
  • Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs. [한국어판: 김보영 역, 감시 자본주의 시대, 문학사상, 2021]