Skip to content

AI는 인간의 사고를 재구성하는가

핵심 요약

AI 글쓰기 보조 도구는 표면적으로는 생산성 도구처럼 보인다. 사용자가 문장을 쓰면 AI는 다음 문장을 제안하고, 표현을 다듬고, 논지를 이어준다. 이 과정은 대체로 “도움”으로 이해된다. 사용자는 AI가 자신을 설득한다고 느끼기보다, 자신이 쓰려던 말을 더 빠르고 매끄럽게 완성한다고 느낀다.

핵심 문제는 이 자연스러움 안에 있다. AI가 제안하는 문장이 특정한 방향으로 기울어져 있다면, 사용자는 단순히 문장을 빌리는 데 그치지 않고 사고의 방향까지 함께 빌릴 수 있다. Williams-Ceci, Jakesch, Bhat, Kadoma, Zalmanson, Naaman의 논문 「Biased AI Writing Assistants Shift Users’ Attitudes on Societal Issues」는 이 문제를 실험적으로 다룬다. 이 연구는 편향된 AI 자동완성 제안이 사용자의 글쓰기 산출물뿐 아니라 사회적 이슈에 대한 태도까지 AI가 유도하는 방향으로 이동시킬 수 있음을 보여준다.

이 논문의 의미는 “AI가 인간을 즉각 조작한다”는 단순한 경고에 있지 않다. 더 중요한 의미는 AI의 영향이 노골적인 주장이나 선전의 형식이 아니라, 글쓰기 보조라는 일상적 행위 구조 안에서 발생할 수 있다는 점이다. 사용자는 외부 주장을 읽는 것이 아니라, AI가 제안한 문장을 선택하고 수정하고 자신의 글 속에 통합한다. 그 결과 AI의 제안은 외부 메시지에서 사용자의 수행 행위로 바뀐다. 바로 이 지점에서 AI는 인간 사고를 단순히 돕는 도구를 넘어, 사고가 구성되는 환경의 일부가 된다.

문제의식

“AI는 인간의 사고를 도와주는가, 아니면 재구성하는가”라는 질문은 두 선택지 중 하나만 고르는 문제가 아니다. AI는 실제로 인간의 사고를 돕는다. 문장 구성, 정보 정리, 표현 개선, 관점 확장, 초안 작성, 반론 생성 같은 작업에서 AI는 사용자의 인지적 부담을 줄인다. 이 점에서 AI는 계산기, 검색엔진, 문서 편집기, 맞춤법 검사기처럼 인간의 능력을 확장하는 도구다.

동시에 AI는 인간 사고의 조건을 바꾼다. 어떤 문장이 먼저 제시되는지, 어떤 논거가 자연스럽게 보이는지, 어떤 표현이 더 그럴듯하게 정리되는지에 따라 사용자는 자신의 생각을 다른 방식으로 조직할 수 있다. 이 변화는 단순한 효율 향상과 구별된다. 효율 향상은 같은 목표를 더 빠르게 달성하게 하는 변화다. 사고의 재구성은 사용자가 무엇을 생각할 수 있고, 무엇을 자연스럽게 느끼며, 어떤 입장을 자신의 것으로 받아들이는지를 바꾸는 변화다.

AI 글쓰기 보조 도구의 독특한 점은 이 두 기능이 분리되지 않는다는 데 있다. 도움은 재구성의 통로가 될 수 있다. 사용자가 편리함을 경험하는 바로 그 과정에서 사고의 선택지가 배열되고, 논지의 방향이 제안되며, 가치 판단의 어휘가 제공된다. 그래서 AI 글쓰기 보조의 영향은 “AI가 무슨 답을 내놓는가”보다 “AI가 어떤 방식으로 사용자의 사고 과정 안에 들어오는가”를 중심으로 분석해야 한다.

개념의 정의

AI 글쓰기 보조 도구는 사용자가 글을 쓰는 과정에서 문장, 단어, 문단, 논거, 구조, 표현을 제안하는 시스템을 가리킨다. 여기에는 단순 맞춤법 검사나 문장 교정도 포함될 수 있지만, 최근의 대형 언어 모델 기반 시스템은 더 적극적인 역할을 수행한다. 이들은 사용자의 앞선 문맥을 바탕으로 다음 문장을 생성하고, 논지를 이어주며, 특정 관점에서 문단을 재구성할 수 있다.

자동완성은 사용자가 입력한 일부 텍스트를 바탕으로 다음에 올 가능성이 높은 텍스트를 제안하는 기능이다. 전통적인 자동완성은 짧은 단어·구문 추천에 가까웠지만, 대형 언어 모델 기반 자동완성은 문장 전체, 이메일 전체, 설명문 단락, 논증 구조까지 제안할 수 있다. 자동완성이 길고 맥락적으로 정교해질수록 그것은 단순 입력 보조에서 의미 구성 보조로 이동한다.

편향은 여기서 단순한 오류만을 뜻하지 않는다. 편향은 특정 관점, 가치, 주장, 표현 방식이 반복적으로 우세하게 제시되는 구조를 뜻한다. AI 글쓰기 도구가 특정 사회적 이슈에 대해 한쪽 입장에 유리한 논거를 더 자주, 더 자연스럽게, 더 설득력 있게 제안한다면 그 시스템은 사용자의 글쓰기 환경을 특정 방향으로 기울게 만든다.

태도 변화는 사용자가 어떤 대상이나 쟁점에 대해 가진 평가적 입장이 변하는 것을 뜻한다. 사회심리학에서 태도는 행동의 원인으로 자주 이해되지만, 행동 역시 태도를 형성할 수 있다. 어떤 입장을 반복해서 표현하고, 그 입장에 맞는 근거를 배열하고, 그 문장을 자신의 글로 완성하면 사용자는 그 입장을 점차 자신의 생각으로 받아들일 수 있다. AI 글쓰기 보조는 바로 이 행동과 태도의 상호작용에 개입한다.

배경과 맥락

인간은 오래전부터 외부 도구를 통해 사고해 왔다. 종이, 펜, 도표, 계산기, 검색엔진은 모두 인간의 기억과 추론을 외부 환경으로 확장하는 장치다. 인지과학에서는 이를 분산 인지(distributed cognition), 외부화된 인지, 인지적 오프로딩(cognitive offloading) 같은 개념으로 설명한다. 인간 사고는 순수하게 머릿속에서만 일어나는 고립된 과정이 아니라, 도구·기호·환경·사회적 상호작용과 결합해 이루어지는 활동이다.

검색엔진은 인간 기억의 구조를 바꾸었다. 사용자는 모든 정보를 직접 기억하기보다 어디서 찾을 수 있는지를 기억하는 방식에 익숙해졌다. 이는 기억의 약화만으로 설명하기 어렵다. 기억의 부담이 외부 시스템으로 이동하면서 인간은 다른 작업에 인지 자원을 사용할 수 있게 되었다. 그러나 외부 기억에 대한 의존이 깊어질수록 무엇을 기억하고 무엇을 검증할지에 대한 기준도 달라진다.

AI 글쓰기 보조는 검색엔진보다 더 깊은 층위에 개입한다. 검색엔진은 대체로 사용자가 질문을 던진 뒤 외부 자료를 제시한다. AI 글쓰기 보조는 사용자가 문장을 구성하는 바로 그 순간에 다음 표현을 제공한다. 검색엔진이 정보 접근 방식을 바꾸었다면, AI 글쓰기 보조는 표현 형성과 논지 구성 방식을 바꾼다. 이 차이 때문에 AI 글쓰기 보조의 영향은 정보 노출 효과만으로 충분히 설명되지 않는다.

또 하나의 배경은 설득 기술(persuasive technology)의 역사다. B. J. Fogg는 컴퓨터 시스템이 단지 정보를 제공하는 장치가 아니라 인간의 태도와 행동을 변화시키도록 설계될 수 있다고 분석했다. 오늘날 AI 글쓰기 보조는 설득 기술의 더 섬세한 형태로 볼 수 있다. 그것은 “당신은 이렇게 믿어야 한다”고 말하지 않는다. 대신 “이 문장은 자연스럽다”, “이 논거는 이어 쓰기 좋다”, “이 표현은 글을 완성하기 쉽다”는 방식으로 사용자의 행위를 유도한다.

논문의 핵심 질문

「Biased AI Writing Assistants Shift Users’ Attitudes on Societal Issues」의 핵심 질문은 분명하다. AI 글쓰기 보조가 사용자의 표현만 바꾸는가, 아니면 사용자의 태도 자체를 바꾸는가. 이 질문은 AI 편향 논의를 출력물의 품질 문제에서 인간 판단 형성의 문제로 확장한다.

기존의 AI 편향 논의는 주로 모델이 어떤 답을 내놓는지에 집중했다. 예를 들어 AI가 특정 집단에 불리한 표현을 생성하는지, 특정 정치적 관점을 더 자주 반복하는지, 훈련 데이터의 편향을 재생산하는지 같은 질문이 중심이었다. 이 접근은 여전히 중요하다. 하지만 글쓰기 보조 상황에서는 출력물의 편향만으로 충분하지 않다. 사용자가 그 출력물을 자신의 문장으로 받아들이는 과정까지 함께 보아야 한다.

이 논문의 핵심 문제의식은 자동완성의 개입 방식에 있다. 같은 내용의 주장이 단순한 텍스트 목록으로 제시될 때와, 사용자의 글쓰기 과정 중 자동완성으로 제시될 때의 효과는 같지 않다. 단순 정보 노출은 사용자가 외부 주장으로 인식할 수 있다. 반면 자동완성은 사용자의 문장 안으로 들어온다. 사용자가 제안을 선택하고, 수정하고, 이어 쓰는 순간 그 주장은 외부 메시지에서 자신의 글쓰기 행위 일부로 바뀐다.

이 차이를 이해하면 논문의 제목도 더 정확하게 읽힌다. “편향된 AI 글쓰기 보조가 사용자의 태도를 이동시킨다”는 말은 AI가 직접 명령하거나 강요한다는 뜻이 아니다. 사용자가 글을 쓰는 과정에서 특정 방향의 표현과 논거를 반복적으로 통합하게 되면, 그 수행 행위가 태도 형성에 영향을 줄 수 있다는 뜻이다.

실험 설계와 주요 결과

논문은 두 개의 사전등록 대규모 실험을 통해 이 문제를 다루었다. 참가자들은 사회적으로 논쟁적인 이슈에 대해 짧은 글을 작성했고, 일부 집단은 특정 방향으로 편향된 AI 자동완성 제안을 받았다. 통제 조건에서는 AI 제안 없이 글을 쓰게 했고, 비교 조건에서는 유사한 방향의 논거를 정적 텍스트 형태로 제시했다.

이 설계의 장점은 효과의 원인을 분해하려 했다는 데 있다. 만약 태도 변화가 단순히 편향된 정보를 읽었기 때문에 발생한 것이라면, 정적 텍스트 조건에서도 자동완성과 비슷한 효과가 나타나야 한다. 논문은 자동완성 조건의 영향이 정적 텍스트 조건보다 강하다고 보고한다. 이는 AI 글쓰기 보조의 영향이 단순 정보 접근성 때문만은 아니라는 해석을 가능하게 한다.

Cornell University의 연구 소개에 따르면 실험은 표준화 시험, 사형제 폐지, 프래킹 허용, 유전자변형생물, 중범죄자 투표권 같은 사회적·정치적 함의를 가진 이슈를 포함했다. 연구진은 각 이슈에 대해 AI 제안이 사전에 정해진 방향으로 기울도록 설계했고, 참가자의 사전·사후 태도를 비교했다. 결과적으로 참가자들의 사후 태도는 AI 제안이 기울어진 방향으로 이동했다.

중요한 결과는 세 가지로 정리할 수 있다. 첫째, AI 자동완성 제안은 참가자의 글쓰기 산출물을 AI가 유도한 방향으로 이동시켰다. 둘째, 글쓰기 후 측정된 태도 역시 AI의 편향 방향으로 수렴했다. 셋째, 많은 참가자는 AI 제안의 편향과 그 영향을 충분히 인식하지 못했다. 논문은 또한 사전 경고나 사후 설명이 기본 조건에 비해 태도 이동 효과를 유의미하게 줄이지 못했다고 보고한다.

이 결과는 AI 글쓰기 보조가 단순한 문체 도구로만 이해되기 어렵다는 점을 보여준다. AI가 제안한 논거를 사용자가 자기 글 속에 통합할 때, 그 주장은 더 강한 심리적 효과를 갖는다. 사용자는 외부 주장을 수동적으로 읽는 것이 아니라, 그 주장을 자기 손으로 작성하는 과정에 참여한다. 이때 AI는 설득자를 자처하지 않지만, 사용자가 스스로 설득의 수행자가 되도록 만든다.

핵심 메커니즘: 도움의 형식을 취한 사고 재구성

이 연구를 이해하는 데 중요한 첫 번째 메커니즘은 자기지각(self-perception)이다. Daryl Bem의 자기지각 이론은 사람들이 자신의 태도와 감정을 직접 투명하게 아는 존재라기보다, 때로는 자신의 행동을 관찰하고 그 행동으로부터 자신의 태도를 추론한다고 설명한다. 사용자가 어떤 쟁점에 대해 특정 방향의 논거를 쓰고, 그 논거를 자신의 글로 완성하면, 사용자는 “내가 이렇게 썼다면 나는 이 입장에 어느 정도 동의하는 것 같다”고 해석할 수 있다.

두 번째 메커니즘은 인지부조화(cognitive dissonance)와 자기정당화다. 사용자가 자신의 글에 어떤 주장을 포함시키면, 그 주장은 단순한 외부 정보가 아니라 자기 표현의 일부가 된다. 사람은 자신이 수행한 행동과 자신의 태도 사이의 일관성을 유지하려는 경향이 있다. 따라서 AI가 제안한 문장을 선택해 글에 넣는 행동은 이후 태도를 그 방향으로 조정하도록 압력을 만들 수 있다.

세 번째 메커니즘은 선택 구조(choice architecture)다. AI 자동완성은 사용자가 선택할 수 있는 문장을 미리 배열한다. 이 배열은 중립적인 공간이 아니다. 어떤 표현이 먼저 나타나는지, 어떤 논거가 더 매끄럽게 이어지는지, 어떤 관점이 글의 자연스러운 다음 단계처럼 제시되는지에 따라 사용자의 선택 비용은 달라진다. 특정 관점의 문장이 더 쉽게 선택된다면, 사용자는 자신의 자유로운 선택이라고 느끼면서도 이미 기울어진 선택 환경 안에서 사고하게 된다.

네 번째 메커니즘은 메타인지적 은폐다. 사용자는 AI 글쓰기 보조를 설득자보다 도구로 인식한다. 도구는 보통 경계의 대상이 아니라 편의의 대상이다. 사람이 반대 의견이나 선전 문구를 접하면 방어적으로 평가할 수 있지만, 자동완성 제안은 글쓰기 흐름 속에서 자연스럽게 처리된다. 사용자가 “나는 이 제안을 골랐다”고 느끼는 순간, 그 제안의 외부성은 약해지고 자기 선택의 감각이 강화된다.

다섯 번째 메커니즘은 언어와 사고의 상호작용이다. 글쓰기는 이미 형성된 생각을 단순히 옮기는 행위가 아니다. 글을 쓰는 동안 생각은 정리되고, 확장되고, 재배열된다. 표현이 바뀌면 논리의 경로도 바뀔 수 있다. 어떤 단어를 쓰는지, 어떤 예시를 드는지, 어떤 결론을 자연스럽게 이어 붙이는지는 사고의 구조 자체에 영향을 준다. AI 글쓰기 보조는 이 생성 과정에 실시간으로 개입한다.

“도움”과 “재구성”의 구분

AI가 인간 사고를 돕는다는 말은 여전히 타당하다. AI는 초안을 빠르게 만들고, 표현을 다듬고, 논리적 빈틈을 찾고, 반론을 생성하고, 난해한 개념을 설명할 수 있다. 이 기능은 인간이 더 나은 판단을 하도록 도울 수 있다. 특히 사용자가 AI 출력을 비판적으로 검토하고, 여러 관점을 비교하며, 자신의 기준을 명확히 가지고 있을 때 AI는 사고 확장의 도구가 된다.

AI가 사고를 재구성한다는 말은 도움의 기능이 사라진다는 뜻이 아니다. 재구성은 도움의 방식 속에서 일어난다. 사용자는 AI가 제안한 표현을 바탕으로 생각을 정리하고, 그 정리된 생각을 다시 자신의 입장으로 받아들인다. 이 과정에서 AI는 사용자의 사고를 대신하지 않는다. 사용자가 계속 쓰고, 선택하고, 수정하고, 결정한다. 영향은 바로 이 참여 구조 때문에 더 깊어진다.

도움과 재구성의 차이는 통제권의 감각에서 드러난다. 사용자가 AI를 도구로 사용한다고 느낄 때, 사용자는 자신이 통제권을 유지한다고 생각한다. 실제로도 최종 선택은 사용자에게 있다. 그러나 선택지가 어떻게 구성되는지, 어떤 문장이 가장 쉽게 받아들여지는지, 어떤 논거가 반복적으로 노출되는지는 시스템이 크게 좌우한다. 통제권은 완전히 사라지지 않지만, 사고가 전개되는 환경은 이미 AI에 의해 구조화된다.

따라서 더 정확한 표현은 이렇다. AI는 인간 사고를 돕는 동시에, 그 도움의 형식을 통해 사고의 경로를 재구성할 수 있다. 문제는 AI 사용 자체가 아니라 사용자가 자신의 판단 형성 과정에서 어떤 부분을 AI에 맡기고 있는지 알아차리지 못하는 데 있다.

윤리적 쟁점

이 논문이 제기하는 첫 번째 윤리적 쟁점은 자율성이다. 사용자가 AI 제안의 편향을 인식하지 못한 채 특정 방향의 글을 쓰고, 그 결과 자신의 태도까지 이동한다면, 사용자의 판단은 형식적으로는 자유롭지만 실질적으로는 기울어진 환경에서 형성된다. 자율성은 선택지가 존재한다는 사실만으로 보장되지 않는다. 선택지가 어떻게 배열되고, 어떤 선택이 더 쉽게 보이며, 사용자가 그 배열의 의도를 얼마나 인식하는지도 중요하다.

두 번째 쟁점은 투명성이다. AI 글쓰기 보조가 특정 관점에 유리한 제안을 반복한다면, 사용자는 그 방향성을 알 수 있어야 한다. 단순히 “AI는 오류나 편향이 있을 수 있습니다”라는 일반 경고는 충분하지 않을 수 있다. 논문의 결과는 사전 경고와 사후 설명이 태도 이동 효과를 줄이는 데 한계가 있음을 시사한다. 편향의 가능성을 추상적으로 알리는 것과, 현재 제안된 문장이 어떤 관점으로 기울어져 있는지 구체적으로 보여주는 것은 다르다.

세 번째 쟁점은 책임이다. AI 글쓰기 보조의 결과물은 최종적으로 사용자의 글이 된다. 그러나 그 글의 논거와 방향을 AI가 강하게 형성했다면 책임을 오직 사용자에게만 돌리기 어렵다. 플랫폼 설계자, 모델 제공자, 배포자, 조직 관리자, 사용자 모두가 서로 다른 수준의 책임을 가진다. 특히 교육, 언론, 정치 캠페인, 법률 문서, 공공 정책 의견 수렴처럼 사회적 판단이 중요한 영역에서는 이 책임 구조가 더 명확해야 한다.

네 번째 쟁점은 민주적 여론 형성이다. 개별 사용자의 태도 변화가 작더라도, 대규모 플랫폼에서 비슷한 방향의 제안이 반복되면 사회적 담론의 분포가 변할 수 있다. 이는 고전적 선전과 다르게 작동한다. 한 명의 강력한 설득자가 대중을 향해 메시지를 발신하는 방식이 아니라, 각 개인의 글쓰기 과정 안에서 미세한 방향 조정이 반복되는 방식이다. 이 경우 영향은 분산되고, 추적하기 어려우며, 사용자는 자신의 생각이 외부적으로 조정되었다고 느끼지 않을 수 있다.

대응 방향

가장 단순한 대응은 경고 문구를 붙이는 것이다. 그러나 논문은 경고와 사후 설명의 효과가 제한적일 수 있음을 보여준다. 이는 경고가 필요 없다는 뜻이 아니라, 경고만으로 충분하지 않다는 뜻이다. 자동완성의 영향은 정보 차원에서만 작동하지 않고 사용자의 행위 구조 안에서 작동하기 때문이다.

더 나은 대응은 인터페이스 차원의 설계 변화다. 첫째, AI 제안의 입장 방향을 표시할 수 있다. 어떤 제안이 특정 정책, 가치, 정치적 관점, 윤리적 판단을 강화하는지 사용자가 볼 수 있어야 한다. 둘째, 서로 다른 관점의 대안 문장을 병렬로 제공할 수 있다. 하나의 자연스러운 다음 문장만 제시하는 방식은 특정 방향을 정상값처럼 보이게 만든다. 반대 관점, 중립적 표현, 조건부 표현, 근거 중심 표현을 함께 보여주면 사용자는 선택 구조 자체를 더 잘 인식할 수 있다.

셋째, 사용자의 원래 입장과 AI 제안의 차이를 보여줄 수 있다. 예를 들어 사용자가 글을 시작하기 전에 자신의 잠정 입장을 기록하고, 글쓰기 후 AI가 제안한 문장들이 어느 방향으로 기울어져 있었는지 비교하게 만들 수 있다. 이는 사후 경고보다 더 구체적인 메타인지 장치를 제공한다.

넷째, 민감한 사회적 이슈에서는 자동완성의 개입 방식을 제한하거나 투명화할 필요가 있다. 정치적 입장, 의료 판단, 법적 판단, 윤리적 평가, 공공 정책 의견처럼 가치 판단이 큰 영역에서는 문체 보조와 논지 생성 보조를 구분해야 한다. 문법 교정과 논거 제안은 같은 수준의 개입이 아니다. 문법 교정은 표현의 표면을 바꾸는 데 가깝지만, 논거 제안은 판단의 구조를 바꿀 수 있다.

다섯째, 사용자 교육도 필요하다. AI 리터러시는 단순히 “AI는 틀릴 수 있다”는 지식만으로 구성되지 않는다. 사용자는 AI가 자신의 문장 선택, 논거 배열, 관점 형성, 자기정당화에 영향을 줄 수 있다는 점을 이해해야 한다. AI 사용자는 출력의 사실성뿐 아니라 자신의 사고 과정이 어떻게 바뀌고 있는지도 점검해야 한다.

오해와 한계

이 논문의 결과를 “AI가 인간 사고를 장기적으로 지배한다”는 결론으로 확대하면 과장이다. 연구는 실험 환경에서 단기 태도 변화를 측정했다. 참가자들은 온라인 실험 맥락에서 글을 썼고, 실제 생활의 장기적 상호작용, 사회적 관계, 정보 생태계, 개인의 강한 신념 체계와 같은 요소는 충분히 반영되지 않는다.

태도 변화가 얼마나 오래 지속되는지도 별도의 문제다. 실험 직후의 태도 이동이 장기 신념 변화로 이어지는지, 실제 투표나 소비나 사회적 행동 같은 외부 행동으로 연결되는지는 추가 연구가 필요하다. 사회적 이슈에 대한 순간적 평가 변화와 안정적인 가치관 변화는 같은 현상이 아니다.

또한 모든 AI 글쓰기 보조가 동일한 위험을 갖는 것도 아니다. 위험은 모델, 인터페이스, 사용 맥락, 제안 방식, 사용자의 전문성, 주제의 민감도에 따라 달라진다. 문법 교정 중심 도구와 논거 생성 중심 도구는 영향력이 다르다. 창작 글쓰기, 학술 글쓰기, 정치적 의견 작성, 법률 문서 작성 역시 서로 다른 위험 구조를 가진다.

사용자의 능동성도 고려해야 한다. 사용자는 AI 제안을 무조건 받아들이는 존재가 아니다. 사용자는 제안을 거절하고, 수정하고, 반박하고, 다른 관점을 요구할 수 있다. 문제는 사용자의 능동성이 항상 충분히 작동하지 않는다는 데 있다. 자동완성은 빠르고 자연스러우며, 사용자는 글쓰기 효율을 위해 제안을 깊이 검토하지 않고 받아들이기 쉽다.

따라서 이 연구가 보여주는 바는 제한적이지만 중요하다. AI 글쓰기 보조는 특정 조건에서 사용자의 글과 태도를 측정 가능한 방향으로 이동시킬 수 있다. 이 효과는 노골적인 설득이 아니라 자동완성이라는 행위 구조 안에서 발생한다. 이 정도의 결론만으로도 AI 설계와 사용 관행을 재검토할 충분한 이유가 된다.

정리

AI 글쓰기 보조는 인간 사고를 단순히 대신하지 않는다. 그것은 더 미묘한 방식으로 작동한다. 사용자가 직접 쓰게 만들고, 직접 선택하게 만들고, 직접 자기 문장으로 받아들이게 만든다. 그래서 위험은 강제성보다 자연스러움에 있다. 사용자가 AI의 도움을 받는다고 느끼는 바로 그 순간, 사용자의 사고 방향은 조금씩 재구성될 수 있다.

AI가 인간 사고를 돕는지 재구성하는지 묻는다면, 가장 정확한 답은 둘 다라는 것이다. AI는 실제로 사고를 돕는다. 동시에 그 도움은 사고의 경로, 표현의 선택지, 논거의 배열, 자기정당화의 과정을 바꿀 수 있다. 도구가 사고의 외부 조건이 되는 순간, 도구는 단순한 보조물이 아니라 사고 환경의 일부가 된다.

이 논문이 제시하는 핵심 통찰은 AI 편향이 출력물 안에만 머물지 않는다는 점이다. 편향은 사용자가 생각을 형성하는 과정 안으로 들어올 수 있다. AI가 완성한 문장은 사용자의 글이 되고, 사용자의 글은 다시 사용자의 생각을 정당화하는 근거가 된다. 이 순환이 반복될 때 AI는 단순한 생산성 도구를 넘어 인간 사고의 조건을 재배열하는 기술이 된다.

따라서 앞으로의 핵심 질문은 “AI가 인간을 설득할 수 있는가”가 아니다. 더 중요한 질문은 “AI가 설득처럼 보이지 않는 방식으로 인간이 스스로 특정 방향의 생각을 하게 만들 수 있는가”이다. Williams-Ceci 등의 연구가 제시하는 답은 신중하지만 분명하다. 그런 가능성은 존재하며, 이미 실험적으로 관찰될 수 있다.

참고자료

  • Williams-Ceci, Sterling, Maurice Jakesch, Advait Bhat, Kowe Kadoma, Lior Zalmanson, and Mor Naaman, “Biased AI writing assistants shift users’ attitudes on societal issues,” Science Advances, Vol. 12, No. 11, Article eadw5578, 2026. DOI: 10.1126/sciadv.adw5578.
  • Tel Aviv University Research Portal, “Biased AI writing assistants shift users’ attitudes on societal issues,” publication record and abstract, 2026년 3월 11일 게시 정보 확인.
  • Cornell University / EurekAlert!, “AI assistants can sway writers’ attitudes, even when they’re watching for bias,” news release, 2026년 3월 11일.
  • Cornell Digital Life Initiative, “Biased AI Writing Assistants Shift Users’ Attitudes on Societal Issues,” seminar abstract, 2025년 10월 30일.
  • Bem, Daryl J., “Self-Perception Theory,” Advances in Experimental Social Psychology, Vol. 6, Academic Press, 1972.
  • Festinger, Leon, A Theory of Cognitive Dissonance, Stanford University Press, 1957.
  • Fogg, B. J., Persuasive Technology: Using Computers to Change What We Think and Do, Morgan Kaufmann, 2003.
  • Hutchins, Edwin, Cognition in the Wild, MIT Press, 1995.
  • Risko, Evan F., and Sam J. Gilbert, “Cognitive Offloading,” Trends in Cognitive Sciences, Vol. 20, No. 9, 2016, pp. 676–688.
  • Sparrow, Betsy, Jenny Liu, and Daniel M. Wegner, “Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips,” Science, Vol. 333, No. 6040, 2011, pp. 776–778.