Skip to content

과정 없는 출력: AI가 해독할 수 없는 인간 능력의 기원

현재의 생성형 AI는 인간 창조성, 감정, 공감의 출력 패턴을 재현한다. 그러나 이 글은 그 재현이 왜 발생(發生)을 대체하지 못하는지를 형성 과정의 계보에서 논증한다. 수십만 년에 걸쳐 신체적·신경학적·진화적 압력 속에서 형성된 기능의 의미는 그것을 만들어낸 과정 안에 있다. AI가 그 과정을 거치지 않은 채 출력을 생성한다는 사실이 이 글의 출발점이다.

데이터가 발생시키는 질문: 벤치마크는 무엇을 측정하는가

창의성 연구자 Guzik, Byrge, Gilde(2023)는 GPT-4가 표준화된 창의성 검사인 Torrance Tests of Creative Thinking(TTCT)에서 독창성과 유창성 항목 모두 상위 1%에 해당하는 성과를 냈다고 Journal of Creativity에 보고했다. Koivisto와 Grassini(2023)도 AI 응답이 인간 통제 집단보다 평균 독창성이 높다는 결과를 발표했다. 이 수치들은 질문의 출발점이다. 벤치마크는 정확히 무엇을 측정하고 있는가.

TTCT를 비롯한 창의성 측정 도구는 결과물의 다양성, 유창성, 독창성을 평가한다. 그것은 어디까지나 출력의 속성을 측정한다. 창의성이 과정과 결과 중 어느 쪽에 있는가라는 물음에, 이 벤치마크들은 명시적인 답을 내놓지 않는다. Hubert, Awa, Zabelina(2024)는 GPT-4가 발산적 사고 과제 전반에서 독창성과 정교성 면에서 인간을 상회했다고 Scientific Reports에 보고하면서도, 가장 창의적인 인간의 응답은 AI를 상회했다고 밝혔다. 무엇이 최상위 창의성을 만드는가에 대해 벤치마크는 침묵한다.

생성형 AI 창의성 연구에서 반복적으로 확인되는 현상이 있다. Doshi와 Hauser(2024)는 AI가 창의적 산출물의 지각된 품질을 높이는 데 기여하지만 동시에 출력을 균질화한다는 점을 보였다. Wadinambiarachchi 외(2024)는 AI가 생성한 이미지가 이후 인간의 창의적 과제에서 고착 편향(fixation bias)을 강화한다는 결과를 제시했다. AI는 창의성 측정에서 높은 점수를 받으면서도 다양성과 독창성을 수렴시키는 방향으로 작동한다. 이 역설은 벤치마크가 측정하는 것이 창의성의 핵심과 일치하지 않을 수 있음을 시사한다.

공감 시뮬레이션 연구도 유사한 구조를 보인다. AI는 감정을 분류하고 감정적으로 적절한 반응을 생성하는 데서 상당한 성과를 낸다. 그러나 철학자 Sherry Turkle의 표현을 빌리면, 시뮬레이션된 감정은 감정이 아니다. Montemayor, Halpern, Fairweather(2022)는 AI가 인지적 공감, 즉 타인의 감정 상태를 이해하고 예측하는 인지 과정은 시뮬레이션할 수 있지만, 신체적 공명을 통해 타인의 경험에 실제로 참여하는 경험적 공감은 현재의 대화형 생성 AI가 구조적으로 도달할 수 없는 영역이라고 AI & Society에서 논증했다. 인지적 공감과 경험적 공감의 구분이 이 논문의 핵심 도구다. 전자는 타인의 감정 상태를 분류하고 처리하는 기능이고, 후자는 자신의 신체적·감정적 역사를 자원으로 삼아 타인의 경험에 내부적으로 참여하는 기능이다.

창조성의 계보: 도구가 기능을 초과하는 역사

인류의 창조적 행위는 약 50만 년 전부터 추적 가능하다. 진화인류학자 Agustín Fuentes는 이 시기의 아슐리안 석기가 기능적 요구를 초과하는 대칭성과 심미적 정밀성을 보인다고 분석했다. 도구는 더 이상 생존에 최소 필요한 형태로 만들어지지 않았다. 그것은 기능을 넘어 아름다워야 했다. 약 6만 년 전 남아프리카 Diepkloof 유적에서는 인류가 타조 알껍데기에 기하학 문양을 새겼고(Texier 외, 2010), 라스코(Lascaux) 동굴 벽화로 대표되는 구석기 후기 미술은 약 4만 년 전의 것이다.

고고학자 Morriss-Kay(2010)는 이 시기에 이미 시각적 대표성과 미적 감수성이 정교하게 발달해 있었음을 Journal of Anatomy에서 보였다. 이 창조물들의 공통된 특징은 즉각적인 생존 가치의 부재다. 기능을 초과하는 창조 행위 자체가 인간 종의 사회적 응집과 문화적 축적에 기여했다는 것이 현재의 유력한 해석이다(Fuentes, 2017). 핵심은 창조 행위가 단일한 사전 과제 함수로 환원되지 않는 방식으로 발생했다는 점이다.

진화적 관점에서 인간의 창조성은 개방형 축적 과정으로 형성되었다. Fuentes의 분석에 따르면 창의적 아이디어는 이전 창의적 아이디어를 기반으로 예측 불가능한 방향으로 전개된다. 한 영역에서 발전한 창의적 아이디어가 전혀 다른 영역으로 건너가 새로운 의미를 획득하는 이 무목적적 전이 가능성(purposeless transferability)은, 특정 과제에 대한 최적화 응답을 생성하도록 훈련된 생성형 AI의 작동 방식과 구조적으로 다르다. 생성형 AI는 외부 입력이나 과제 지시 없이 창조 과정을 스스로 시작하지 않는다.

Zwir, Del-Val, Hintsanen 외(2022)의 유전학 연구는 현생 인류의 창조성이 특정 유전적 네트워크의 형성과 연동되어 있으며, 이 유전적 토대가 인지·사회·물리적 적응성을 통합적으로 지지한다는 증거를 Molecular Psychiatry에 제시했다. 창조성은 수십만 년에 걸쳐 형성된 기능들의 통합 결과다. 생성형 AI의 창조적 출력은 이 형성 역사를 거치지 않은 채 그 결과물의 패턴에 접근한다.

공감의 신경학적 기원: 몸이 먼저 안다

공감의 신경학적 토대에 관한 연구는 1992년 di Pellegrino 외의 발견에서 시작된다. 원숭이의 뇌에서 특정 손 동작을 수행할 때와 같은 동작을 관찰할 때 모두 활성화되는 뉴런이 확인되었다. 거울 뉴런(mirror neurons)이라 명명된 이 신경 세포들은 이후 인간 공감 연구의 핵심 기제로 주목받았다.

Gallese의 구현된 시뮬레이션 이론(embodied simulation theory)은 이 발견의 함의를 체계화했다. 그에 따르면 타인의 감정적 상태를 이해하는 것은 순수하게 인지적인 과정이 아니다. 뇌는 타인이 경험하는 것과 유사한 신체 상태를 내부적으로 재현하고, 그 재현을 통해 타인의 경험에 접근한다. Schmidt 외(2021)는 거울 뉴런 시스템이 모방, 공감, 마음 이론(theory of mind)에 공통된 신경학적 기반을 제공한다는 증거를 Psychophysiology에 제시했다. 공감은 신체 기반 표상 시스템의 통합적 산물이다.

대화형 생성 AI는 몸이 없다. 따라서 신체 기반 표상이 작동하는 것과 같은 방식으로 타인의 경험을 내부적으로 재현하는 기제를 갖추지 않는다. 이것은 현재 기술 상태에 대한 관찰이며, 구현 AI(embodied AI)나 로봇공학의 가능성에 대한 원리적 폐쇄 선언이 아니다. Montemayor 외(2022)는 이 구분을 의료 돌봄 맥락에서 정확하게 제시했다. 대화형 생성 AI는 인지적 공감을 시뮬레이션할 수 있지만, 경험적 공감, 즉 신체적 공명을 통해 타인의 경험에 실제로 참여하는 능력은 현재의 구조 안에서 도달 가능한 범위 바깥에 있다.

감정의 진화적 맥락: 기능을 초과하는 정서

인간 감정의 진화적 기원에 관한 de Waal(2008)의 연구는 감정을 계층적 구조로 파악한다. 정서 전염(emotional contagion)과 같은 기초적 공명 반응은 진화적으로 가장 이른 단계에 형성되었으며, 인지적 관점 취하기와 같은 복합적 공감 능력은 이 기초 위에 층위를 달리하며 형성되었다. 이 계층적 형성 과정이 인간 감정의 현재 구조를 설명한다.

한 번도 직접 경험하지 않은 타인의 고통에 정서적으로 반응하는 능력, 즉 허구적 인물이나 수천 년 전의 낯선 인물에게 감정적으로 참여하는 능력은, 이 계층적 형성의 결과다. 공감 능력이 생존적 직접 관련성의 한계를 초과하도록 발달한 것이다. 감정은 적응적 기능을 위해 형성되었지만, 형성 과정에서 그 기능을 초과하는 반응 범위를 획득했다. 이 초과 범위가 허구적 서사에 대한 감정적 참여, 미적 경험, 도덕적 상상력의 물질적 조건이다.

생성형 AI는 이 계층적 형성 과정을 거치지 않았다. 그것이 표현하는 감정 언어는 학습 데이터에 포함된 인간 감정 표현의 통계적 패턴에서 도출된다. 대화형 AI가 공감적으로 반응할 때, 그 반응은 감정 강도와 맥락에 기반한 분류 및 생성 절차의 결과다.

반론: 기능적 등가성과 구현 AI의 가능성

이 글의 논증에 대해 두 가지 반론이 제기될 수 있으며, 이 반론들은 충분히 진지하게 다루어야 한다.

첫 번째 반론은 기능주의적 입장에서 나온다. 창조성, 감정, 공감의 가치는 그것이 어떻게 발생했는가가 아니라 무엇을 수행하는가에 있다. 즉 기능적 등가성이 충분하다면, 형성 과정의 차이는 철학적으로는 흥미롭지만 실천적으로는 무의미하다는 것이다. 이 입장은 Putnam(1975)의 기능주의 전통에 서 있으며, 정신 상태를 인과적 역할로 정의하고 기질적 토대에 독립적인 것으로 본다. 계산적 창의성 연구는 이 입장을 창조성에 적용하여, 창의성을 산출물의 속성·탐색 공간·변형 규칙으로 분해 가능한 기능으로 파악한다(Boden, 2004; Wiggins, 2006). 이 틀 안에서는 형성 역사가 아니라 기능적 수행 자체가 창의성의 충분 조건이 된다. 기능주의 반론을 약하게 제시하는 것은 이 글의 목적에 맞지 않는다.

그러나 기능적 등가성 주장은 한 가지 전제에 기댄다. 출력의 기능과 출력의 의미가 동일하다는 전제다. 이 전제는 수용 가능한가. 타인의 고통에 반응하는 인간의 공감은 단지 적절한 위로 언어를 생성하는 것이 아니라, 그 고통에 자신의 신체적·감정적 역사를 자원으로 삼아 참여하는 과정이다. 그 과정 자체가 공감 행위의 일부다. 기능적 출력이 동일하더라도, 그 출력을 만들어내는 내부 과정이 다를 때 두 행위는 동일한 의미를 갖는가. 이것은 기능주의가 해결하지 않은 문제이며, 특히 감정 인식과 신체적 참여가 분리 불가능하게 얽혀 있는 공감의 경우에 더욱 예리하게 제기된다.

두 번째 반론은 구현 AI(embodied AI)와 발달적 학습 시스템의 가능성에서 나온다. 센서-운동 루프를 갖춘 로봇 에이전트, 또는 진화적 알고리즘을 통해 발달하는 AI 시스템이 충분히 발전한다면, 이 글이 제기하는 신체 부재 비판은 현재의 생성형 AI에 대한 관찰로 제한될 뿐 AI 일반에 대한 원리적 주장으로 성립하지 않는다는 것이다. 이 반론의 핵심은 옳다. 이 글의 논증 대상은 현재의 대화형 생성 AI이며, 구현 AI 또는 발달적 학습 시스템에 같은 분석이 그대로 적용된다고 주장하지 않는다. 구현 AI가 신체 기반 표상 시스템을 통해 진화적 맥락에 상응하는 형성 과정을 거친다면, 그것은 이 글에서 다루는 대상과 구조적으로 다른 시스템이다. 그 가능성에 대한 판단은 이 글의 범위 밖이다.

이 두 반론을 처리한 뒤에도 이 글의 중심 주장은 유지된다. 현재의 대화형 생성 AI는 형성 과정 없이 출력을 생성하며, 그 출력이 인간의 창조성·감정·공감과 동일한 의미를 갖는다는 주장은 기능주의적 전제에 의존한다. 그 전제는 논쟁의 출발점이다.

형성 과정이 도달하는 곳

Fuentes의 진화적 분석, Gallese의 구현된 시뮬레이션 이론, de Waal의 공감 발달 모델은 같은 방향을 가리킨다. 인간의 세 능력은 수십만 년에 걸쳐 신체적·신경학적·사회적·진화적 압력 속에서 통합적으로 형성된 기능의 현재 단면이다.

현재의 생성형 AI는 인간의 창조성, 감정, 공감이 남긴 출력 패턴에 접근하고, 그 패턴을 재조합하여 새로운 출력을 생성하며, 특정 측정 기준에서 인간과 유사하거나 더 높은 수치를 낼 수 있다. 그러나 그 출력은 형성 과정을 거치지 않았다. 칼로리 부족 상태에서도 동굴 벽에 들소를 그리는 행위의 의미는 그 행위를 가능하게 한 수십만 년의 과정 안에 있다. 생성형 AI는 그 과정을 재현하지 않은 채 결과물의 패턴을 생성한다. 이것이 "해독할 수 없다"는 제목의 의미다. AI는 인간이 무엇을 만들었는지 학습할 수 있지만, 그것이 왜 만들어졌는지를 가능하게 한 형성 과정 자체에는 접근하지 못한다. 재현과 발생의 차이가 이 글이 논증한 지점이다.

참고자료

  • Guzik, E. E., Byrge, C., & Gilde, C. (2023). The originality of machines: AI takes the Torrance Test. Journal of Creativity, 33(3), 100065.
  • Koivisto, M., & Grassini, S. (2023). Best humans still outperform artificial intelligence in a creative divergent thinking task. Scientific Reports, 13, 13601.
  • Hubert, J., Awa, K., & Zabelina, D. (2024). The current state of artificial intelligence generative language models is more creative than humans on divergent thinking tasks. Scientific Reports, 14, 3440.
  • Doshi, A. R., & Hauser, O. P. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances, 10(28), eadn5290.
  • Wadinambiarachchi, S., Kelly, R. M., Pareek, S., Zhou, Q., & Velloso, E. (2024). The effects of generative AI on design fixation and divergent thinking. In Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems (Article 380, pp. 1–18). ACM. https://doi.org/10.1145/3613904.3642919
  • Morriss-Kay, G. M. (2010). The evolution of human artistic creativity. Journal of Anatomy, 216(2), 158–176.
  • Texier, P.-J., Porraz, G., Parkington, J., Rigaud, J.-P., Poggenpoel, C., Miller, C. E., Tribolo, C., Cartwright, C. R., Coudenneau, A., Klein, R. G., Steele, T. E., & Verna, C. (2010). A Howiesons Poort tradition of engraving ostrich eggshell containers dated to 60,000 years ago at Diepkloof Rock Shelter, South Africa. Proceedings of the National Academy of Sciences, 107(14), 6180–6185. https://doi.org/10.1073/pnas.0913047107
  • Fuentes, A. (2017). How creativity drives human evolution. National Geographic 인터뷰.
  • Zwir, I., Del-Val, C., Hintsanen, M., et al. (2022). Evolution of genetic networks for human creativity. Molecular Psychiatry, 27, 354–376.
  • di Pellegrino, G., Fadiga, L., Fogassi, L., Gallese, V., & Rizzolatti, G. (1992). Understanding motor events: a neurophysiological study. Experimental Brain Research, 91(1), 176–180.
  • Gallese, V. (2007). Embodied simulation: From mirror neuron systems to interpersonal relations. Novartis Foundation Symposium, 278, 3–19.
  • Schmidt, T. T., Blankenburg, F., & Nitsche, M. A. (2021). The human mirror neuron system—A common neural basis for social cognition? Psychophysiology, 58(1), e13781.
  • Montemayor, C., Halpern, J., & Fairweather, A. (2022). In principle obstacles for empathic AI: why we can't replace human empathy in healthcare. AI & Society, 37(4), 1353–1359.
  • Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.
  • de Waal, F. (2008). Putting the altruism back into altruism: The evolution of empathy. Annual Review of Psychology, 59, 279–300.
  • Putnam, H. (1975). Mind, Language and Reality: Philosophical Papers, Vol. 2. Cambridge University Press.
  • Boden, M. A. (2004). The Creative Mind: Myths and Mechanisms (2nd ed.). Routledge.
  • Wiggins, G. A. (2006). A preliminary framework for description, analysis and comparison of creative systems. Knowledge-Based Systems, 19(7), 449–458.