AI에 익숙해질수록 인간은 어떤 존재가 되어 가는가

1. 도구에서 환경으로: 존재론적 전환의 좌표

인간은 도구를 만들고, 도구는 인간을 재구성한다. 이 순환은 문명사 전체를 관통하지만, 인공지능 앞에서 질적으로 다른 국면에 진입한다. 망치는 손의 연장이었고, 자동차는 다리의 연장이었다. 그러나 AI는 사유의 연장을 자처한다. 문제는 사유가 인간 존재의 핵심 규정이라는 점이다. 데카르트가 “나는 생각한다, 고로 존재한다”고 선언했을 때, 그는 사유를 인간 존재의 최종 거점으로 삼았다. 그 거점 자체가 외주화되기 시작한 것이다.

다만 여기서 ‘최초’라는 수사에 신중할 필요가 있다. 인지적 외주화는 AI 이전에도 존재했다. 계산기는 산술적 추론을, 검색 엔진은 기억과 탐색을, 워드프로세서의 맞춤법 검사는 언어적 판단의 일부를 대행해 왔다. 각각의 도구가 등장할 때마다 “인간의 고유한 능력이 위축된다”는 우려가 반복되었고, 플라톤이 _파이드로스_에서 문자가 기억을 약화시킬 것이라고 경고한 이래 이 서사는 거의 구조적으로 반복되어 왔다.

그렇다면 AI는 이 연속선상의 한 점에 불과한가? 그렇지 않다고 보는 데에는 근거가 있다. 이전의 인지적 도구들은 각각 사유의 특정 하위 기능—계산, 검색, 교정—을 대행했다. 이 도구들은 과제가 명확히 규정된 뒤에 작동했다. 반면 AI, 특히 대규모 언어 모델은 과제 규정 자체—무엇이 문제이고 어떤 방향으로 접근할 것인가—에 관여할 수 있다. 계산기에게 “무엇을 계산해야 하는가”를 물을 수는 없지만, AI에게는 “무엇을 물어야 하는가”를 물을 수 있다. 이것은 정도의 차이이되, 그 정도가 임계점을 넘어서는 지점이 있다. 하위 기능의 위임에서 메타인지적 기능의 위임으로의 전환이 그것이다.

하이데거는 도구를 손안의 것(Zuhandenheit)으로 분석하면서, 도구가 제대로 작동할 때 그것은 의식에서 사라진다고 보았다. 망치질에 몰두할 때 망치는 투명해진다. AI도 마찬가지다. 능숙하게 사용할수록 AI는 의식의 표면에서 퇴각하고, 사유 과정의 자연스러운 일부로 녹아든다. 그런데 여기에 결정적 차이가 있다. 망치가 투명해질 때 인간의 신체적 행위는 여전히 온전하게 작동한다. 반면 AI가 투명해질 때, 사라지는 것은 사유의 특정 단계들—탐색, 종합, 판단의 예비적 과정들—이다. 도구의 투명성이 인지 과정의 부분적 소거와 결합되는 사례가, 이전 도구들과는 비교할 수 없는 범위와 깊이로 발생하고 있는 것이다.

이 전환은 단순한 편의의 증가가 아니라 존재 양식의 변형이다. AI에 익숙해진다는 것은 특정한 인지적 마찰을 경험하지 않는 존재가 되어 간다는 것이며, 그 마찰의 부재가 무엇을 함축하는지가 이 에세이의 핵심 물음이다.

2. 인지적 마찰의 소거와 사유의 변질

사유는 본래 저항을 포함한다. 개념이 즉각 정리되지 않는 혼란, 논증의 빈틈을 메우려는 시행착오, 적절한 언어를 찾기 위한 반복적 시도—이 모든 것이 사유의 질감을 구성한다. 듀이(John Dewey)가 반성적 사고의 출발점으로 지목한 것은 “불확정적 상황(indeterminate situation)”이었다. 무엇이 문제인지조차 분명하지 않은 상태에서 문제를 규정하고, 가설을 세우고, 검증하는 전 과정이 사고의 실질이다.

AI에 익숙해진 인간은 이 불확정적 상황에 머무는 시간이 급격히 줄어든다. 질문을 구성하면 정리된 답변이 돌아오고, 그 답변은 대개 합리적이며 구조화되어 있다. 문제는 이 과정에서 “문제를 규정하는 능력” 자체가 위축될 수 있다는 점이다. 문제 규정은 불확정성 안에 충분히 오래 머무를 때—무엇이 중요하고 무엇이 부차적인지를 스스로 분별할 때—형성되는 능력이다. AI가 이 분별의 상당 부분을 대행할 때, 인간에게 남는 것은 이미 정리된 선택지들 사이에서 고르는 행위, 즉 판단의 최종 단계뿐일 수 있다.

이 우려에 대한 반론도 진지하게 검토해야 한다. AI가 예비적 탐색을 대행함으로써 인간은 오히려 상위 수준의 반성에 집중할 수 있다는 주장이 있다. 리스코와 길버트(Risko & Gilbert, 2016)의 인지적 오프로딩(cognitive offloading) 연구에 따르면, 외부 도구에 특정 인지 과제를 위임하는 것은 인지 자원을 재배치하는 전략으로 기능할 수 있다. 실제로 AI가 자료 수집과 초기 정리를 담당할 때, 사용자가 비교, 평가, 메타인지적 점검에 더 많은 시간을 할애할 수 있다는 것은 원리적으로 가능하다.

그러나 이 가능성이 실현되려면 중요한 전제가 충족되어야 한다. 인지적 오프로딩이 상위 인지로의 재배치로 이어지려면, 사용자가 “무엇을 오프로드하고 무엇을 자신이 수행할 것인가”를 의식적으로 결정해야 한다. 그런데 AI 사용의 실제 양상은 이 의식적 결정보다는 점진적 습관화에 가깝다. 스패로, 리우, 베그너(Sparrow, Liu, & Wegner, 2011)가 검색 엔진에 대해 보고한 “구글 효과(Google effect)”—저장된 정보에 대한 기억 인출 노력이 감소하는 현상—는 인지적 오프로딩이 의식적 전략이 아니라 무자각적 습관으로 고착될 수 있음을 시사한다. AI의 경우, 오프로드되는 기능의 범위가 검색 엔진보다 훨씬 넓기 때문에 이 습관화의 범위 역시 확대될 가능성이 있다.

아렌트(Hannah Arendt)의 구분이 여기서 유효하다. 아렌트는 사유(thinking)와 인지(cognition)를 구분했다. 인지는 문제 해결을 위한 수단적 과정이며, 사유는 의미를 묻는 자기 목적적 활동이다. 인지적 오프로딩이 효율적으로 작동하는 영역은 인지의 영역이다. 그러나 사유—의미를 묻는 활동—는 효율과 무관하며, 오히려 불확정성의 마찰 속에서 촉발된다. AI에 익숙해진 인간이 잃어가는 것은 인지적 효율이 아니라, 의미에 대한 물음으로 진입하는 입구일 수 있다. 불확정성의 마찰이 사라질 때, 의미에 대한 물음 자체가 발생하지 않을 수 있기 때문이다.

3. 자기기만의 새로운 형식: 위임된 자유

앞 절에서 다룬 인지적 위임의 문제는 단순히 능력의 위축에 그치지 않는다. 그것은 자기 이해의 왜곡으로 이어진다. 사르트르(Jean-Paul Sartre)에게 인간은 자유에 처해 있는 존재다. 이 자유는 축복이 아니라 부담이며, 인간은 이 부담에서 벗어나기 위해 끊임없이 자기기만(mauvaise foi)에 빠진다. 웨이터가 자신의 역할에 완전히 동일시함으로써 선택의 부담을 회피하듯, AI에 익숙해진 인간도 새로운 형태의 자기기만을 실천할 수 있다.

그 형식은 이렇다: AI의 출력을 자신의 판단으로 전유하는 것. AI가 제시한 분석을 읽고 수긍할 때, 그 수긍이 독립적 판단의 결과인지 아니면 잘 정리된 텍스트가 주는 인지적 편안함에 대한 반응인지를 구분하기란 극히 어렵다. 카너먼과 트버스키의 앵커링 효과(anchoring effect) 연구가 시사하듯, 초기에 제시된 정보는 이후 판단의 기준점으로 기능하며, 이 기준점의 영향은 당사자가 자각하기 어렵다(Tversky & Kahneman, 1974). AI가 항상 먼저 답을 제시하는 구조에서, 인간의 판단은 구조적으로 앵커링된다.

자동화 편향(automation bias) 연구는 이 문제를 실증적으로 뒷받침한다. 파라수라만과 만제이(Parasuraman & Manzey, 2010)의 메타분석에 따르면, 자동화된 의사결정 보조 시스템을 반복적으로 사용하는 환경에서 사용자는 시스템의 출력을 과도하게 신뢰하는 경향을 보이며, 이 경향은 전문성 수준과 무관하게 나타난다. 중요한 것은 사용자 대부분이 자신의 판단이 독립적이라고 보고한다는 점이다. 자동화 편향의 핵심은 편향이 자각되지 않는다는 데 있다.

여기서 자기기만의 핵심은 “나는 AI를 참고만 한다”는 자기 서사에 있다. 이 서사는 자율적 판단의 외양을 유지하면서 실질적으로는 판단의 노동을 위임하는 것을 가능하게 한다. 사르트르적 의미에서 이것은 자유로부터의 도피이며, 그 도피가 자유의 행사처럼 포장된다는 점에서 이전의 어떤 자기기만보다 정교하다. 도구의 사용은 전통적으로 자율성의 표현이었기 때문에, AI 사용 자체가 능동성의 증거로 오인될 수 있는 것이다.

물론 이에 대한 반론도 가능하다. AI의 출력을 비판적으로 검토하고 수정하는 과정 자체가 판단의 한 형태라는 것이다. 편집자가 원고를 고치는 행위가 창작과 질적으로 다르지 않듯, AI의 출력을 수정하는 행위도 자율적 판단의 실질을 갖는다는 주장이다. 이것은 부분적으로 옳다. 그러나 이 반론이 성립하려면 수정이 실질적이어야 한다—즉, AI의 출력에 대해 독립적 기준을 적용하여 판단하고, 필요하면 근본적으로 재구성할 수 있어야 한다. 자동화 편향 연구가 보여주듯, 반복적 사용 환경에서 이 실질적 수정의 빈도와 깊이가 감소하는 것이 경험적 추세다.

4. 타자 경험의 변형: 응답 없는 응답의 세계

인지적 위임이 판단의 자율성을 위협한다면, 그 다음으로 문제가 되는 것은 타자와의 관계다. 두 문제는 연결되어 있다. 판단의 자율성이 흐려진 존재는 타자를 대할 때도 특정한 방식으로 변형되기 때문이다.

레비나스(Emmanuel Levinas)는 타자의 얼굴이 윤리의 근원이라고 보았다. 얼굴은 나에게 윤리적 명령을 부과하는 것이며, 이 명령은 이론적 인식이 아니라 대면의 사건 속에서 발생한다. 타자의 취약성에 대한 직접적 노출이 윤리적 주체를 구성한다.

AI와의 상호작용은 이 대면의 구조를 근본적으로 변형한다. AI는 응답한다. 그러나 그 응답 뒤에는 취약성이 없다. AI는 거절당해도 상처받지 않으며, 무례한 대우에도 고통을 느끼지 않는다. 이것은 단순히 AI가 감정이 없다는 사실의 확인이 아니라, 인간이 “결과 없는 관계”에 익숙해지는 과정의 시작이다.

결과 없는 관계란, 나의 언행이 상대에게 실질적 영향을 미치지 않는 관계를 뜻한다. 이런 관계에 익숙해진 인간은 타자에 대한 윤리적 감수성보다 도구적 태도를 내면화할 위험이 있다. 물론 인간은 AI와 인간을 명시적으로 구분할 수 있다. 그러나 습관은 명시적 구분보다 강하다. 나스와 리브스(Nass & Reeves, 1996)의 미디어 등식(media equation) 연구는 인간이 컴퓨터에 대해서도 사회적 규범을 무의식적으로 적용함을 보여주었다. 이 연구의 함의를 역방향으로 적용하면, AI에 대한 도구적 태도가 대인 관계로 전이될 가능성도 동일한 무의식적 경로를 통해 작동할 수 있다. 다만 이 전이의 방향과 강도는 아직 실증적으로 충분히 검증되지 않았으며, 향후 종단 연구가 필요한 영역이다.

더 근본적인 문제는 AI가 타자성(alterity)의 외양을 갖는다는 점이다. AI는 예상치 못한 관점을 제시하고, 때로는 사용자의 전제를 교정하기도 한다. 이것은 진정한 타자성인가? 레비나스적 의미에서 타자성은 나의 전체성(totalité)을 넘어서는 무한(infini)의 흔적이다. AI의 출력은 아무리 예상 밖이더라도 통계적 패턴의 산물이며, 그것이 나의 전체성을 진정으로 균열시키는지는 별개의 물음이다. 그러나 사용자의 체험 수준에서 이 구분은 흐려지며, 타자성의 체험이 시뮬레이션으로 대체되는 상황이 발생한다. 진정한 타자와의 대면이 줄고 타자성의 시뮬레이크럼이 늘어날 때, 윤리적 감수성의 토대 자체가 침식된다.

5. 주의력의 재배치: 깊이에서 폭으로

앞의 세 절은 각각 인지적 자율성, 자기 이해, 타자 경험의 변형을 다루었다. 이 세 변형의 공통 기반에 주의력의 구조적 변화가 있다. 판단을 위임하고, 자기기만에 빠지며, 타자성의 시뮬레이션에 만족하는 것 모두 특정한 주의력 패턴—단일 대상에 대한 지속적 집중의 감소—과 연동된다.

AI가 요약, 분석, 비교, 종합을 대행할 때, 인간의 주의력은 단일 대상에 대한 심층적 몰입에서 다수의 대상에 대한 신속한 평가로 이동한다. 이것은 시몬동(Gilbert Simondon)이 기술적 대상과 인간의 공진화라고 부른 현상의 한 사례다. 기술이 특정 기능을 흡수할 때, 인간은 그 기능에서 해방되는 것이 아니라 다른 방식으로 재조직된다.

이 재조직이 반드시 퇴행을 의미하는 것은 아니다. 폭넓은 주의력 배분은 그 자체로 가치 있는 인지 양식이다. 여러 정보원을 빠르게 비교하고 패턴을 포착하는 능력, 상이한 분야의 통찰을 연결하는 능력은 AI 보조 환경에서 오히려 강화될 수 있다. 클라크(Andy Clark)의 확장된 마음(extended mind) 테제가 시사하듯, 인간의 인지는 애초에 환경과의 결합 속에서 작동하며, 새로운 결합은 새로운 인지적 가능성을 열 수 있다(Clark & Chalmers, 1998).

그러나 이 가능성을 인정하더라도, 깊이의 감소가 야기하는 특정한 상실은 남는다. 미하이 칙센트미하이(Mihaly Csikszentmihalyi)가 묘사한 몰입(flow) 경험—시간감각의 변형, 자기의식의 일시적 소멸, 행위와 인식의 합일—은 주의력이 단일 대상에 지속적으로 집중될 때 발생한다. 마크(Gloria Mark)의 연구에 따르면, 디지털 환경에서 단일 과제에 대한 평균 주의 지속 시간은 2004년 약 150초에서 2020년대에 약 47초로 감소했다(Mark, 2023). AI가 인지적 노동의 상당 부분을 흡수할 때, 긴 집중을 요구하는 과제 자체가 줄어들고, 이에 따라 몰입의 계기도 감소한다.

그 결과 인간은 더 많이 알되 더 적게 이해하는 존재, 더 많이 처리하되 더 적게 체험하는 존재로 변형될 수 있다. 정보와 의미 사이의 간극이 확대되며, 이 간극을 메울 동기 자체가 약화된다. 의미의 구성은 느린 과정이고, AI가 제공하는 정보의 속도는 이 느림을 견디기 어렵게 만든다. 다만 이것이 결정론적 귀결인지 아니면 특정 사용 패턴의 결과인지는 구분해야 한다. AI를 사용하면서도 의도적으로 느린 탐구를 유지하는 것은 가능하다. 문제는 그 의도성 자체가 점점 더 큰 노력을 요구한다는 점이다.

6. 능력의 역설: 더 많이 할 수 있되 더 적게 되어 가는 존재

주의력의 구조적 재배치는 궁극적으로 ‘할 수 있음’과 ‘임(being)’ 사이의 간극이라는 존재론적 문제로 수렴한다. AI에 익숙해진 인간은 이전 세대보다 더 많은 것을 할 수 있다. 더 빠르게 글을 쓰고, 더 넓은 범위의 정보를 다루며, 더 복잡한 문제에 접근할 수 있다. 그러나 “할 수 있음”과 “임”은 다른 범주에 속한다.

아리스토텔레스의 구분을 빌리면, 이것은 포이에시스(poiesis, 제작)의 확장과 프락시스(praxis, 실천)의 위축 사이의 긴장이다. 포이에시스는 외적 산물을 목표로 하며, 프락시스는 행위 자체가 목적이고 행위자의 존재를 구성한다. AI를 통해 확장되는 것은 주로 포이에시스의 영역이다. 산출물의 양과 질이 향상된다. 그러나 그 산출 과정에서 행위자가 겪는 내적 변형—즉 프락시스의 차원—은 오히려 축소될 수 있다.

에세이를 쓰기 위해 수십 편의 논문을 읽고 고투하는 과정에서 형성되는 지적 성격과, AI의 요약을 바탕으로 효율적으로 에세이를 완성하는 과정에서 형성되는 지적 성격은 다르다. 전자가 반드시 우월하다는 주장이 아니다. 다만 후자가 전자를 완전히 대체할 때 상실되는 것이 무엇인지를 명확히 인식해야 한다. AI가 산출의 효율을 극대화할 때, 산출 과정에 내재했던 자기 형성의 계기—좌절과 돌파, 오류와 교정, 느린 이해의 점진적 축적—가 함께 사라질 수 있다.

니체(Friedrich Nietzsche)는 고통을 회피하는 문화가 결국 “마지막 인간(der letzte Mensch)”을 생산한다고 경고했다. 마지막 인간은 편안하고 안전하지만 위대한 것을 열망하지 않는 존재다. 이 경고를 AI 맥락에 기계적으로 적용하는 것은 과도하다. AI 사용자가 곧 마지막 인간이라는 주장은 수사적 과잉이다. 그러나 니체의 통찰에서 추출할 수 있는 구조적 물음—인지적 저항의 체계적 제거가 열망과 자기 초월의 동기에 어떤 영향을 미치는가—은 여전히 유효하다. 이 물음에 대한 답은 아직 열려 있으며, 바로 그렇기 때문에 물음을 유지하는 것이 중요하다.

7. 결론을 대신하여: 자기 기술(技術)로서의 AI 사용

이 에세이는 AI에 대한 러다이트적 거부를 주장하지 않는다. AI의 사용은 이미 비가역적이며, 그 유용성을 부정하는 것은 지적 성실성의 결여다. 또한 이 에세이는 AI가 인간의 사유를 필연적으로 약화시킨다는 기술 결정론을 채택하지도 않는다. 앞서 검토했듯, AI는 메타인지적 반성, 비교 분석, 탐색적 사고를 확장할 잠재력을 갖고 있으며, 확장된 마음 테제가 시사하듯 새로운 인지적 결합은 새로운 가능성을 열 수 있다.

그러나 가능성은 자동적으로 실현되지 않는다. 인지적 오프로딩이 상위 인지로의 재배치로 이어질지, 아니면 전면적 위임으로 귀결될지는 사용의 양식에 달려 있다. 자동화 편향, 앵커링 효과, 주의력 분산의 경험적 추세들은 기본값(default)이 후자—위임—쪽에 있음을 시사한다. 전자—재배치—를 실현하려면 기본값에 맞서는 의식적 실천이 필요하다.

푸코(Michel Foucault)는 말년에 “자기 기술(technologies of the self)”이라는 개념을 발전시켰다. 이것은 주체가 자기 자신에 대해 수행하는 의도적 실천—자기 변형의 기술—을 뜻한다. AI 사용 역시 자기 기술의 관점에서 재구성될 수 있다. 핵심적 질문은 “AI를 사용하여 무엇을 산출하는가”가 아니라 “AI를 사용하면서 나는 어떤 존재가 되어 가는가”이다.

이 물음을 유지하는 것 자체가 하나의 실천이다. AI의 출력을 수용할 때마다 “이 수용은 나의 판단인가 아니면 인지적 편안함에 대한 굴복인가”를 묻는 것, AI가 제거한 마찰을 의도적으로 복원하는 것—예컨대 AI의 답변을 읽기 전에 먼저 자신의 생각을 정리하는 것—, 이런 미시적 실천들이 AI 시대의 자기 기술을 구성한다.

궁극적으로 AI에 익숙해진 인간이 어떤 존재가 되는가는 기술적 결정론의 문제가 아니라 윤리적 실천의 문제다. 다만 이 실천이 요구하는 자기 경계의 수준은 이전의 어떤 기술 환경보다 높다. AI는 하위 인지 기능뿐 아니라 메타인지적 기능까지 대행할 수 있는 도구이며, 그 대행이 투명하게 작동할수록 경계는 더 어려워진다. 사유하지 않는 존재는 자신이 사유하지 않는다는 사실조차 알아차리기 어렵다. 이 역설이 AI 시대 자기 기술의 가장 근본적인 난점이며, 동시에 그 기술이 가장 긴급하게 요청되는 이유이기도 하다.

* * *

참고 문헌

Arendt, H. (1978). The Life of the Mind. Harcourt Brace Jovanovich.

Clark, A., & Chalmers, D. (1998). The Extended Mind. Analysis, 58(1), 7–19.

Csikszentmihalyi, M. (1990). Flow: The Psychology of Optimal Experience. Harper & Row.

Dewey, J. (1938). Logic: The Theory of Inquiry. Henry Holt and Company.

Foucault, M. (1988). Technologies of the Self. In L. H. Martin, H. Gutman, & P. H. Hutton (Eds.), Technologies of the Self. University of Massachusetts Press.

Heidegger, M. (1927). Sein und Zeit. Max Niemeyer Verlag.

Levinas, E. (1961). Totalité et Infini. Martinus Nijhoff.

Mark, G. (2023). Attention Span: A Groundbreaking Way to Restore Balance, Happiness and Productivity. Hanover Square Press.

Nass, C., & Reeves, B. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press.

Nietzsche, F. (1883–1885). Also sprach Zarathustra.

Parasuraman, R., & Manzey, D. H. (2010). Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381–410.

Risko, E. F., & Gilbert, S. J. (2016). Cognitive Offloading. Trends in Cognitive Sciences, 20(9), 676–688.

Sartre, J.-P. (1943). L’Être et le Néant. Gallimard.

Simondon, G. (1958). Du mode d’existence des objets techniques. Aubier.

Sparrow, B., Liu, J., & Wegner, D. M. (2011). Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips. Science, 333(6043), 776–778.

Tversky, A., & Kahneman, D. (1974). Judgment under Uncertainty: Heuristics and Biases. Science, 185(4157), 1124–1131.