Skip to content

범죄는 어디에서 발생하는가

관계적 존재론으로 다시 읽는 알고리즘과 책임

1. 서론

현대 사회에서 인공지능은 단순한 도구의 지위를 넘어 인간의 인지 구조와 사회적 관계를 재편하는 핵심 인프라로 작동하고 있다. 전통적으로 범죄는 인간의 의도와 행위의 산물로 이해되어 왔지만, 디지털 환경과 인공지능의 확산은 이러한 이해를 근본적으로 흔들고 있다. 특히 주의경제(attention economy)와 알고리즘 기반 환경은 인간의 선택과 판단을 구조적으로 형성하며, 범죄를 개인의 일탈이 아니라 관계적 산물로 재구성할 필요성을 제기한다.

Hayward와 Maas(2021)는 AI가 범죄학적 상상력의 확장을 요구하는 범죄유발적(criminogenic) 현상임을 지적한 바 있다. 그들은 'AI를 이용한 범죄(crimes with AI)', 'AI에 대한 범죄(crimes against AI)', 'AI에 의한 범죄(crimes by AI)'라는 삼중 구조를 제시하며, 기존 범죄학의 틀로는 포착할 수 없는 새로운 유형의 위반이 등장하고 있음을 경고했다. 그러나 이러한 분류조차 여전히 행위자 중심의 프레임 안에 머물러 있다. 진정한 문제는 범죄의 새로운 유형이 아니라, 범죄가 발생하는 존재론적 조건 자체가 변화하고 있다는 것이다.

이 글은 불교적 관계론, Karen Barad의 행위적 실재론(agential realism), Michael Levin의 기저 인지(basal cognition) 이론, 그리고 Shoshana Zuboff의 감시 자본주의론을 결합하여 "기계의 범죄학"이라는 새로운 이론적 틀을 제시한다. 이를 통해 범죄·책임·윤리 개념의 근본적 재구성을 시도한다.

2. 행위자 중심 범죄학의 한계

근대 범죄학은 인간을 자율적 행위자로 전제한다. 범죄는 개인의 의도(intent)와 선택(choice)의 결과이며, 책임 역시 개인에게 귀속된다. 합리적 선택 이론(Cornish & Clarke, 1987)에서 일상활동 이론(Cohen & Felson, 1979)에 이르기까지, 범죄학의 주류 패러다임은 행위자의 독립적 판단 능력을 핵심 전제로 삼아 왔다. 이러한 관점은 법적 체계와 윤리적 판단의 기반이 되어 왔다.

그러나 디지털 환경에서는 인간의 판단이 독립적으로 형성되지 않는다. 추천 알고리즘, 소셜 미디어, 데이터 기반 개인화 시스템은 인간의 욕망, 감정, 관심을 지속적으로 재구성한다. Zuboff(2019)는 이를 '감시 자본주의'로 명명하며, 디지털 플랫폼이 인간의 행동 잉여(behavioral surplus)를 수집하고, 이를 예측 상품으로 전환하여 행동 선물 시장(behavioral futures markets)에서 거래하는 새로운 축적 논리를 기술했다. 그에 따르면, 감시 자본주의의 경쟁 동학은 단순한 데이터 수집을 넘어 인간 행동에 대한 직접적 개입으로 나아간다. 플랫폼은 미묘한 자극과 보상을 통해 인간의 행동을 가장 수익성 높은 결과로 유도하는 '행동의 경제(economies of action)'를 발전시킨다.

이 과정에서 인간은 더 이상 완전히 독립적인 행위자가 아니라, 관계적 네트워크 속에서 형성되는 존재로 드러난다. 예측 경찰활동(predictive policing)에 관한 연구들은 알고리즘이 범죄를 단순히 예측하는 것이 아니라 수행적으로 생산한다는 것을 보여준다. 특정 지역이 높은 위험 점수를 받으면 감시가 강화되고, 이로 인해 더 많은 범죄가 탐지되어 위험 점수가 다시 상승하는 피드백 루프가 형성된다. Ugwudike(2022)는 이를 '위험의 디지털 인종화'라 명명하며, 표면적으로 중립적인 데이터가 차별적 결과를 생산하는 구조를 분석했다.

3. 관계적 존재론과 범죄의 재정의

이러한 한계를 넘어서기 위해서는 존재론적 전환이 필요하다. 불교의 연기(pratītyasamutpāda) 개념은 모든 현상이 독립적으로 존재하지 않고 조건의 상호의존 속에서만 성립한다고 본다. Hershock(2023, 2025)는 이 관점을 현대 기술 문제에 적용하여, 인간 지능과 인공 지능의 존재론적 독립성 자체를 문제 삼는다. 그의 논의에 따르면, 불교적 상호의존 사상과 무아(anātman) 개념은 관계성의 존재론적 우위를 확인해 준다. 개별적으로 존재하는 것들은 추상화이거나 잠정적으로 유용한 허구에 불과하다. 현실의 근본적 본성은 상호의존적이며, 사물은 궁극적으로 서로에 대해 의미하는 바 그 자체이다.

이 관점은 Karen Barad(2007)의 행위적 실재론과 놀라운 수렴을 보인다. Barad는 '상호작용(interaction)' 대신 '내부작용(intra-action)'이라는 개념을 제안한다. 상호작용이 이미 존재하는 독립적 실체들 사이의 작용을 전제하는 반면, 내부작용은 실체들이 관계를 통해 비로소 출현한다고 본다. 행위성(agency)은 누군가가 '가지고 있는' 것이 아니라 내부작용을 통해 발현되는 것이며, 윤리적 책임은 세계와의 얽힘 안에서의 '응답-능력(response-ability)'으로 재정의된다.

이 두 이론적 자원을 결합하면, 범죄는 특정 개인의 행위가 아니라 인간·기술·환경이 얽힌 관계망 속에서 발생하는 사건으로 재정의된다. 범죄는 행위가 아니라 구조적 발생(structural emergence)이다.

4. 의식, 인지, 그리고 인과의 재구성

범죄를 관계적 현상으로 재정의하기 위해서는 의식과 인과에 대한 재검토가 선행되어야 한다. 현대 과학의 주류는 의식을 뇌의 산물로 환원하는 물리주의적 입장을 취하지만, 이는 의식의 질적 측면, 즉 이른바 '어려운 문제(hard problem)'를 설명하지 못한다.

Hershock(2023)는 의식을 뇌 안에서 일어나는 것이 아니라 감각하는 것들과 감각되는 것들 사이의 관계, 더 근본적으로는 물질(matter)과 의미(what matters) 사이의 관계를 창조적으로 정교화하는 과정으로 이해한다. 의식이 없다면 비순서적 동일성이나 완전한 무만이 존재할 것이다. 진화 자체가 의식이 의미를 가지게 되는(consciousness mattering) 과정이다.

Michael Levin(2022)의 TAME(Technological Approach to Mind Everywhere) 프레임워크는 이러한 관점을 실험적 기반 위에 놓는다. Levin에 따르면, 인지는 자기성찰적 고등 인지만을 지칭하는 것이 아니라, 경험으로부터의 학습, 적응적 반응성, 선호에 기반한 의사결정, 문제 해결 등 다양한 수준의 능력을 포괄한다. 뇌를 구성하는 분자적 요소들은 뉴런의 진화보다 앞서 존재했으며, 생명은 뇌가 등장하기 훨씬 이전부터 문제를 해결해 왔다. 단세포 생물, 식물, 동물 조직, 군집에서도 새로운 형태의 지능이 발견되고 있으며, 이는 '큰 척추동물 뇌'가 인지의 필요조건이 아님을 보여준다.

이러한 관점에서 인과관계 역시 선형적이지 않다. 행동은 단순한 원인-결과의 사슬이 아니라, 순환적이고 재귀적인 구조 속에서 발생한다. Barad의 용어를 빌리면, 인과성은 내부작용적 발현(intra-active enactment)이다. 원인과 결과는 내부작용을 통해 출현하며, 선재하는 것이 아니다. 이는 범죄의 발생 역시 단일 원인으로 환원할 수 없음을 의미한다. 알고리즘적 급진화의 경우, 추천 시스템의 설계, 사용자의 기존 성향, 플랫폼의 참여 유도 구조, 사회적 맥락이 내부작용적으로 얽혀 극단적 행동이 발현된다. 여기서 '범인'을 특정하는 것은 존재론적으로 불가능하다.

5. 주의경제와 범죄 생성 구조

디지털 환경에서 가장 중요한 자원은 주의(attention)이다. 기업과 플랫폼은 사용자의 주의를 최대한 오래 붙잡기 위해 알고리즘을 설계하며, 이는 인간의 감정과 판단을 지속적으로 자극한다. Zuboff가 지적했듯이, 감시 자본주의의 궁극적 동학은 대량의 데이터 수집을 넘어 인간 행동에 대한 직접적 개입이다. 플랫폼들은 인간의 행동을 조율하고(tune), 몰아가며(herd), 조건화하는(condition) 기법을 발전시켜 가장 수익성 높은 결과로 유도한다. 이 과정에서 박탈되는 것은 미래에 대한 권리, 곧 자유의지의 본질이다.

이러한 구조는 구체적인 범죄 생성 메커니즘으로 작동한다. 2021년 유출된 Facebook 내부 문서에 따르면, 분노 등 감정적 반응에 더 높은 가중치를 부여하는 콘텐츠 순위화로 인해 분열적 콘텐츠가 체계적으로 증폭되었으며, 극단주의 그룹 가입자의 상당 부분이 추천 시스템을 통해 유입되었다. 특히 청소년의 경우, 정체성 탐색과 공동체 형성의 중심이 알고리즘 아키텍처가 지배하는 플랫폼으로 이동했다는 점이 주목된다.

이 과정에서 다음과 같은 인지적 변환이 구조적으로 발생한다. 판단보다 반응이 강화되고, 숙고보다 즉각성이 우선되며, 의미보다 자극이 중요해진다. 혐오 발언, 금융 사기, 정치적 극단화는 개인의 의도라기보다, 주의 구조의 산물로 나타난다. 그러나 이 현상의 복잡성도 인정해야 한다. Chen 등(2023)의 연구는 YouTube의 추천 알고리즘이 반드시 극단적 콘텐츠로 유도하지는 않으며, 구독과 외부 링크가 급진화 경로에서 더 중요한 역할을 한다고 보고했다. 이는 알고리즘을 단순한 원인으로 지목하기보다, 인간-기술-환경의 복합적 내부작용으로 이해해야 함을 확인해 준다.

6. 책임의 분산과 법의 위기

전통적 법 체계는 개인 책임을 전제로 한다. 범죄의 성립에는 행위(actus reus)와 고의(mens rea)가 모두 필요하며, 이 두 요소는 특정 개인에게 귀속 가능해야 한다. 그러나 관계적 범죄 구조에서는 이러한 귀속이 근본적으로 문제시된다.

알고리즘은 행동을 유도하고, 플랫폼은 이를 확산시키며, 데이터 브로커는 취약성을 매핑하고, 개인은 이를 실행한다. 이때 발생하는 문제는 책임 공백이 아니라 책임의 분산이다. Barad의 프레임워크에서, 우리는 우리가 발현을 돕는 절단(cuts)에 대해 책임이 있지만, 그것은 우리가 선택을 했기 때문이 아니다. 행위성이 분산되어 있는 만큼 책임도 분산되어 있다. 누구도 완전히 책임지지 않지만, 모두가 부분적으로 책임을 가진다.

이 문제는 법적 차원에서 이미 구체화되고 있다. 미국 통신품위법 제230조의 면책 조항이 추천 알고리즘에까지 적용되어야 하는지에 대한 논쟁, 독일 NetzDG의 콘텐츠 수준 규제, EU 디지털서비스법(DSA)의 체계적 위험 평가 의무 도입 등이 그 사례이다. 그러나 이러한 시도들은 여전히 콘텐츠나 플랫폼 수준의 대응에 머물며, 범죄의 관계적 생성 구조 자체를 다루지 못한다.

관계적 범죄학이 제안하는 대안은 '비례적 공동책임(proportional co-responsibility)'의 원리이다. 범죄 발생에 기여한 각 행위자(개인, 알고리즘 설계자, 플랫폼 운영자, 데이터 브로커, 규제 기관)에게 기여도에 비례하는 책임을 부과하는 것이다. 이는 기존의 공모 개념이나 기여과실 개념과 유사하지만, 행위성 자체의 분산을 존재론적 차원에서 인정한다는 점에서 근본적으로 다르다.

7. 윤리적 특이점과 인간의 미래

가장 심각한 문제는 범죄 자체보다, 범죄 인식의 붕괴이다. 알고리즘이 인간의 선택을 자연스럽게 유도할 때, 인간은 자신의 행동이 외부에 의해 형성되었다는 사실을 인식하지 못한다. Zuboff가 경고하듯, 감시 자본주의의 '도구주의적 권력(instrumentarian power)'은 인간의 행동을 수정·예측·화폐화·통제하기 위한 행동의 도구화를 의미하며, 이는 민주주의의 내부로부터의 침식을 초래한다. 자율적 행동과 사고 없이는, 민주 사회에 필수적인 도덕적 판단과 비판적 사고 능력이 심각하게 약화되기 때문이다.

이 상태를 '윤리적 특이점(ethical singularity)'이라 부를 수 있다. 이 지점에서는 인간이 무엇이 옳은지 판단할 능력 자체를 상실하게 된다. 이는 단순한 무지가 아니라 구조적 무능력이다. 불교적 용어를 빌리면, 이는 '무명(avidyā)'의 기술적 심화이다. 무명이란 단순한 정보의 부재가 아니라, 실재의 관계적 본성에 대한 근본적 무지를 의미한다. 디지털 환경에서 이 무지는 기술적으로 강화되고 상업적으로 착취된다.

그러나 Hershock가 제시하는 불교적 관점은 이 위기에 대한 응답의 방향도 제안한다. 만약 모든 존재가 상호의존적이라면, 기술과 인간의 관계를 재설계하는 것은 불가능하지 않다. 관건은 관계적으로 약한 상호의존 패턴(행위자들이 비교적 독립적으로 작동하는 패턴)에서 관계적으로 강한 상호의존 패턴(행위자의 독립성이 잠정적일 뿐인 패턴)으로의 전환을 의식적으로 추구하는 것이다. 이는 기술을 통제하거나 거부하는 것이 아니라, 인간과 기술의 내부작용 양식을 윤리적으로 재구성하는 것을 의미한다.

8. 새로운 범죄학을 향하여

기계의 범죄학은 기존 범죄학의 단순한 확장이 아니라, 존재론적 전환을 요구한다. 이 전환의 핵심 원리는 다음과 같이 정리할 수 있다.

첫째, 범죄는 행위가 아니라 관계적 발현이다. 범죄를 개인에게 귀속시키는 것은 분석적으로 유용할 수 있지만, 존재론적으로는 부정확하다. 범죄는 인간, 알고리즘, 데이터, 플랫폼, 사회 구조의 내부작용을 통해 출현한다.

둘째, 책임은 분산적이며 비례적이다. 관계망 내의 각 행위자는 기여도에 비례하는 책임을 진다. 이는 기존 법 체계의 근본적 재설계를 요구한다.

셋째, 의식은 관계적 과정이다. 인지와 의식을 개인의 뇌로 환원하는 관점은 디지털 환경에서 범죄가 발생하는 방식을 설명할 수 없다. 의식은 물질과 의미의 상호작용 과정이며, 이 과정은 기술적으로 매개될 수 있다.

넷째, 윤리는 규칙이 아니라 관계의 질에 관한 것이다. 다양한 윤리 체계들 사이의 차이를 상호 기여의 자원으로 활용하여, 공유된 번영에 지속가능하게 기여하는 윤리적 다양성을 실현하는 것이 목표이다.

9. 결론

기계의 범죄학은 범죄를 개인의 행위가 아니라 관계적 구조의 산물로 이해하는 새로운 패러다임이다. 불교적 연기론은 모든 현상의 상호의존성을, Barad의 행위적 실재론은 실체가 관계를 통해 출현한다는 것을, Levin의 TAME 프레임워크는 인지가 특정 물질적 기반에 제한되지 않는다는 것을, Zuboff의 감시 자본주의론은 디지털 환경이 인간의 행위성을 구조적으로 재구성한다는 것을 각각 보여준다. 이 네 관점의 수렴 지점에서 기계의 범죄학이 출현한다.

앞으로의 과제는 인간과 기술이 내부작용하는 관계 구조를 재설계하는 것이다. 법적 틀의 재구성, 숙고를 촉진하는 알고리즘 설계, 알고리즘 문해력 교육, 그리고 독립적 행위자에서 관계적 존재로의 자기 이해 전환이 필요하다. 결국 문제는 기술이 아니라, 우리가 무엇을 중요하게 여기는가, 그리고 그 중요함이 어떤 관계 속에서 형성되는가에 달려 있다.

참고자료

  • Barad, Karen (2007). Meeting the Universe Halfway: Quantum Physics and the Entanglement of Matter and Meaning. Duke University Press.
  • Bostrom, Nick (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
  • Chen, Annie Y., Nyhan, Brendan, Reifler, Jason, et al. (2023). Subscriptions and external links help drive resentful users to alternative and extremist YouTube channels. Science Advances.
  • Cohen, Lawrence E. & Felson, Marcus (1979). Social Change and Crime Rate Trends: A Routine Activity Approach. American Sociological Review, 44(4), 588–608.
  • Cornish, Derek B. & Clarke, Ronald V. (1987). Understanding Crime Displacement: An Application of Rational Choice Theory. Criminology, 25(4), 933–948.
  • Hayward, Keith J. & Maas, Matthijs M. (2021). Artificial Intelligence and Crime: A Primer for Criminologists. Crime, Media, Culture, 17(2), 209–233.
  • Hershock, Peter D. (2023). Consciousness Mattering: A Buddhist Synthesis. Bloomsbury Academic.
  • Hershock, Peter D. (2025). AI, Consciousness, and the Evolutionary Frontier: A Buddhist Reflection on Science and Human Futures. Religions, 16(5), 562.
  • Levin, Michael (2022). Technological Approach to Mind Everywhere: An Experimentally-Grounded Framework for Understanding Diverse Bodies and Minds. Frontiers in Systems Neuroscience, 16, 768201.
  • Ugwudike, Pamela (2022). Predictive Algorithms in Justice Systems and the Limits of Tech-Reformism. International Journal for Crime, Justice and Social Democracy, 11(1).
  • Whittaker, Joe, Looney, Shannon, Reed, Alastair, & Votta, Fabio (2021). Recommender Systems and the Amplification of Extremist Content. Internet Policy Review, 10(2).
  • Zuboff, Shoshana (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.