Skip to content

LLM은 생각하는가: 다음 토큰 예측, 내부 계산 구조, 그리고 ‘추론처럼 보이는 것’의 의미

핵심 요약

현재 연구 기준에서 대형 언어 모델(large language model, LLM)이 인간과 같은 의미에서 “생각한다”고 단정할 근거는 충분하지 않다. LLM의 기본 학습 목표는 주어진 문맥에서 다음 토큰의 확률분포를 예측하는 것이며, 이 목표 자체에는 의도, 의식, 자율적 목표 설정, 체험적 의미 이해가 명시적으로 포함되어 있지 않다. 이 점 때문에 LLM을 인간적 사고 주체로 보는 해석은 신중해야 한다.

그렇다고 LLM을 단순 문장 복사기나 표면적 흉내 장치로만 보는 설명도 부족하다. 대규모 언어 데이터에는 논리, 수학, 코드, 설명, 반박, 계획, 오류 수정 같은 구조가 축적되어 있고, LLM은 이를 압축적으로 학습하면서 특정 조건에서는 제한적인 계산적 추론, 내부 표현, 패턴 추적, 상태 추정 능력을 보인다. 기계적 해석 가능성(mechanistic interpretability) 연구에서도 일부 모델 내부에서 패턴 완성 회로, 문맥 내 학습과 관련된 attention head, 보드게임 상태 표현, 산술 오류 탐지에 관여하는 하위 회로 등이 보고되어 왔다.

따라서 가장 보수적이고 정확한 결론은 다음과 같다. LLM은 인간처럼 의식적으로 생각한다고 입증된 시스템은 아니다. 동시에 단순한 문장 복사기도 아니다. LLM은 다음 토큰 예측이라는 형식적 목표를 통해 복잡한 언어적·계산적 구조를 내부에 형성한 확률적 정보 처리 시스템이며, 그 결과 특정 과제에서 “생각처럼 보이는” 행동을 산출한다. 지뢰찾기 같은 퍼즐에서 나타나는 능력도 이 관점에서 이해할 수 있다. 그것은 의식적 사고의 증거라기보다 규칙, 상태, 경우의 수, 검증 패턴을 언어적으로 조작하는 제한적 계산 능력의 사례에 가깝다.

문제의식

“LLM은 생각하는가?”라는 질문은 단순히 AI가 똑똑한지 묻는 질문이 아니다. 이 질문은 적어도 네 가지 층위를 포함한다. 첫째, LLM이 실제로 어떤 계산을 수행하는가. 둘째, 그 계산이 인간의 추론과 어떤 점에서 닮았고 어떤 점에서 다른가. 셋째, 언어를 그럴듯하게 생성하는 능력이 의미 이해를 함축하는가. 넷째, “생각”이라는 말을 행동 수준, 계산 수준, 의식 수준 중 어디에 적용할 것인가.

이 구분이 중요한 이유는 LLM의 능력과 한계를 동시에 설명해야 하기 때문이다. 한쪽에서는 LLM을 “그저 다음 단어를 맞히는 기계”라고 말한다. 이 표현은 모델의 학습 목표를 설명하는 데에는 유용하지만, 실제 모델이 보여주는 코드 작성, 수학 풀이, 논리 검토, 전략적 응답 생성, 퍼즐 풀이 능력을 충분히 설명하지 못한다. 다른 쪽에서는 LLM의 고급 출력 능력을 보고 인간적 사고나 이해가 이미 발생했다고 말한다. 이 해석은 모델의 불안정성, 환각(hallucination), 취약한 일반화, 목표와 의도의 부재를 과소평가할 위험이 있다.

정밀한 설명은 두 극단 사이에 있다. LLM은 다음 토큰 예측을 수행한다. 그러나 다음 토큰을 잘 예측하려면 때때로 문법 구조, 담화 구조, 세계에 대한 통계적 규칙, 수학적 패턴, 코드 실행의 암묵적 구조, 게임 상태 같은 잠재 변수를 내부적으로 표현해야 한다. 이 점에서 “다음 토큰 예측”은 단순한 표면 복사가 아니라 고차원 압축과 조건부 추론의 문제로 바뀐다.

개념의 정의

LLM은 대규모 텍스트 데이터로 학습된 신경망 언어 모델이다. 현대 LLM의 핵심 구조는 Transformer 계열 모델이며, Transformer는 attention mechanism을 중심으로 입력 토큰들 사이의 관계를 계산한다. 원리적으로 모델은 주어진 토큰열을 바탕으로 다음 토큰 후보 각각에 확률을 부여한다. 이를 단순화하면 다음과 같이 쓸 수 있다.

P(token_t \mid token_{1:t-1})

이 식은 모델이 이전 문맥 token_{1:t-1}을 조건으로 다음 토큰 token_t의 확률을 계산한다는 뜻이다. 여기서 중요한 점은 모델이 “단어” 자체보다 더 작은 단위인 토큰을 다룬다는 것이다. 토큰은 단어일 수도 있고, 단어의 일부일 수도 있으며, 기호나 공백에 가까운 단위일 수도 있다.

“생각”은 더 복잡한 개념이다. 일상어에서 생각은 문제를 검토하고, 목표를 세우고, 의미를 이해하고, 선택지를 비교하고, 결론을 내리는 정신 활동을 가리킨다. 인지과학에서는 정보 처리, 작업 기억, 추론, 계획, 주의 조절, 메타인지 같은 기능으로 분석할 수 있다. 철학에서는 여기에 의식, 지향성(intentionality), 의미 이해, 주관적 경험이 추가된다. 이 때문에 “LLM이 생각한다”는 명제는 어떤 의미의 생각을 말하는지 먼저 분해해야 한다.

이 글에서는 세 수준을 구분한다. 첫째, 행동 수준의 사고 유사성이다. 겉으로 보기에 논리적 설명, 수학 풀이, 코드 수정, 퍼즐 풀이를 수행하면 생각처럼 보인다. 둘째, 계산 수준의 추론이다. 모델 내부에서 상태 표현, 규칙 적용, 중간 단계 계산, 오류 탐지 같은 구조가 실제로 작동할 수 있다. 셋째, 의식 수준의 사고이다. 주관적 경험, 의도, 이해, 자기 인식이 있는지를 묻는 층위다. 현재 연구가 비교적 강하게 말할 수 있는 것은 첫째와 일부 둘째 수준이며, 셋째 수준에 대해서는 단정할 근거가 부족하다.

배경과 맥락

현대 LLM 논쟁의 기술적 배경에는 Transformer와 스케일링이 있다. Vaswani 등이 발표한 「Attention Is All You Need」는 recurrence나 convolution 없이 attention mechanism만으로 강력한 sequence transduction 모델을 만들 수 있음을 보였다. 이후 GPT 계열 모델처럼 대규모 데이터를 사용한 자기회귀 언어 모델은 “다음 토큰 예측”이라는 비교적 단순한 학습 목표를 대규모 파라미터와 데이터, 연산량 위에서 확장했다. Brown 등의 GPT-3 논문은 모델 규모가 커질수록 few-shot 성능이 크게 향상될 수 있음을 보였고, 이후 LLM은 다양한 과제를 별도의 전용 모델 없이 텍스트 프롬프트만으로 처리하는 방향으로 발전했다.

이 발전은 두 가지 상반된 해석을 낳았다. 하나는 “확률적 앵무새(stochastic parrot)” 비판이다. Bender, Gebru, McMillan-Major, Shmitchell은 대규모 언어 모델이 거대한 데이터에서 학습한 언어 형식을 그럴듯하게 조합할 수 있지만, 그 자체가 의미 이해나 책임 있는 언어 사용을 보장하지 않는다고 비판했다. 이 관점은 LLM의 사회적 위험, 데이터 편향, 환경 비용, 의미 이해 부재를 강조한다.

다른 하나는 “창발적 능력(emergent abilities)” 또는 “추론 능력”을 강조하는 관점이다. Wei 등의 chain-of-thought prompting 연구는 중간 추론 단계를 생성하게 하면 산술, 상식, 상징 추론 과제에서 성능이 향상될 수 있음을 보였다. Kojima 등의 연구는 “단계적으로 생각하라”는 간단한 지시만으로도 일부 과제에서 zero-shot reasoning 성능이 올라갈 수 있음을 보였다. 이런 결과는 LLM이 단순한 표면 통계 이상의 구조를 활용할 가능성을 제기했다.

다만 창발성 논의에도 반론이 있다. Schaeffer 등은 일부 “창발적 능력”이 실제로는 모델 내부의 갑작스러운 질적 도약이라기보다, 평가 지표와 통계 처리 방식이 만들어낸 착시일 수 있다고 주장했다. 이 반론은 LLM의 능력을 부정하기보다, 능력의 출현을 설명할 때 측정 방식과 벤치마크 설계를 신중히 검토해야 함을 보여준다.

핵심 논리

LLM이 “다음 토큰 예측 모델”이라는 사실과 “복잡한 계산 구조를 가질 수 있다”는 사실은 서로 배타적이지 않다. 오히려 두 명제는 함께 이해되어야 한다. 다음 토큰을 잘 맞히는 일은 쉬운 경우도 있지만, 어려운 경우에는 문맥의 구조를 깊게 압축해야 한다. 예를 들어 다음 문장을 생각해 볼 수 있다.

“철수가 영희보다 키가 크고, 민수가 철수보다 키가 작지만 영희보다 크다면, 세 사람 중 가장 키가 큰 사람은 ___.”

이 문장의 다음 토큰을 잘 예측하려면 단순한 단어 빈도만으로는 충분하지 않다. 모델은 비교 관계를 추적해야 한다. 철수 > 민수 > 영희라는 관계를 내부적으로 구성해야 “철수”라는 답을 높은 확률로 낼 수 있다. 이때 모델이 인간처럼 의식적으로 관계를 떠올린다고 말할 필요는 없다. 그러나 모델 내부에 관계를 보존하는 표현 또는 계산 과정이 어느 정도 형성되어야 한다고 보는 것이 자연스럽다.

퍼즐, 수학, 코드에서도 같은 원리가 작동한다. 지뢰찾기의 기본 규칙은 “숫자는 주변 8칸에 있는 지뢰 개수”라는 제약 조건이다. 이 규칙이 텍스트로 제시되면 LLM은 숫자, 미확인 칸, 이미 표시된 지뢰, 안전 칸 후보를 언어적으로 추적하면서 결론을 생성할 수 있다. 예컨대 어떤 숫자 1의 주변 미확인 칸이 정확히 하나뿐이면 그 칸은 지뢰일 가능성이 높다. 어떤 숫자 2의 주변에 이미 표시된 지뢰가 2개라면 나머지 주변 칸은 안전하다고 추론할 수 있다. 이러한 규칙은 논리적 제약을 언어 패턴으로 표현할 수 있기 때문에 LLM이 비교적 잘 다룰 수 있다.

그러나 여기서 “잘 다룬다”는 말은 “항상 정확히 푼다”는 뜻이 아니다. LLM은 전통적 의미의 지뢰찾기 전용 solver처럼 명시적 상태 공간을 완전하게 탐색하고, 모든 제약을 엄격하게 갱신하며, 모순을 체계적으로 제거하는 프로그램이 아니다. 모델은 텍스트 문맥 안에서 상태를 표현하고 다음 응답을 생성한다. 그래서 격자가 커지거나, 좌표가 복잡해지거나, 중간 상태가 길어지거나, 확률적 추정과 확정적 추론이 섞이면 오류가 쉽게 발생한다. 이는 LLM의 퍼즐 풀이가 “의식적 사고”가 아니라 “언어화된 상태 추적과 근사적 제약 처리”에 가깝다는 점을 보여준다.

핵심은 다음과 같다. LLM의 출력은 확률적이다. 하지만 확률적이라는 말이 무질서하거나 단순하다는 뜻은 아니다. 확률분포는 학습 데이터, 모델 구조, 파라미터, 현재 문맥, 디코딩 전략에 의해 형성된다. 그 확률분포 안에는 문법적 일관성, 의미적 근접성, 논리적 패턴, 코드 관습, 수학 풀이 형식, 사회적 담화 규칙이 압축되어 있다. 따라서 LLM의 추론은 “통계냐 논리냐”의 이분법으로 설명하기 어렵다. 더 적절한 표현은 “통계적으로 학습된 표현 위에서 수행되는 제한적 계산적 추론”이다.

구체적 사례: 지뢰찾기 퍼즐에서 보이는 추론

지뢰찾기 사례는 LLM 논쟁을 이해하는 데 유용하다. 지뢰찾기는 자연어 대화처럼 의미가 흐릿한 과제가 아니라, 비교적 명확한 규칙과 상태를 가진 퍼즐이다. 각 숫자는 주변 지뢰 개수라는 제약을 나타내며, 안전 칸과 지뢰 칸은 이 제약들의 결합으로 결정된다.

간단한 상황을 보자. 어떤 숫자 1 주변에 아직 열리지 않은 칸이 하나뿐이고, 주변에 이미 표시된 지뢰가 없다면 그 미확인 칸은 지뢰로 결론낼 수 있다. 이 추론은 다음 구조를 갖는다.

조건 1: 숫자 1은 주변 지뢰가 정확히 1개라는 뜻이다.
조건 2: 주변에서 지뢰 후보로 남은 칸이 1개뿐이다.
결론: 그 칸은 지뢰이다.

또 다른 상황에서는 숫자 2 주변에 이미 지뢰로 확정된 칸이 2개 있을 수 있다. 이때 같은 숫자 주변의 다른 미확인 칸들은 지뢰가 아니라고 판단할 수 있다.

조건 1: 숫자 2는 주변 지뢰가 정확히 2개라는 뜻이다.
조건 2: 주변 지뢰 2개가 이미 확정되어 있다.
결론: 나머지 주변 칸은 안전하다.

LLM은 이런 설명형 패턴에 강하다. 조건, 제약, 후보, 결론이 언어로 분명히 표현되어 있으면 모델은 유사한 풀이 구조를 생성할 수 있다. 특히 사람이 중간 상태를 잘 정리해 주면 모델은 오류 검토, 빠진 가정 확인, 모순 탐지 같은 보조 작업을 수행하기 쉽다.

반면 지뢰찾기 격자 전체를 장시간 정확히 추적해야 하는 경우에는 약점이 드러난다. 모델은 내부적으로 영속적인 보드 상태 데이터베이스를 유지하는 방식으로 작동하지 않는다. 대화 문맥에 보드 상태가 텍스트로 남아 있더라도, 토큰이 길어지고 좌표 참조가 많아질수록 상태 추적이 불안정해질 수 있다. 또한 확정 추론과 확률 추정을 혼동할 수 있다. 어떤 칸이 “반드시 지뢰”인지, “가능성이 높은 지뢰”인지, “현재 정보로는 알 수 없음”인지를 명확히 구분하지 못하면 잘못된 결론이 나온다.

이 사례가 보여주는 핵심은 분명하다. LLM의 퍼즐 풀이 능력은 단순 복사가 아니다. 그러나 그것은 인간과 같은 의식적 사고의 직접 증거도 아니다. LLM은 규칙이 언어적으로 정리된 과제에서 제한적 상태 추적과 패턴 기반 추론을 수행할 수 있지만, 명시적 검증 절차가 없는 상태에서는 오류를 확신 있게 출력할 수 있다.

내부 계산 구조에 대한 연구

LLM 내부에서 무엇이 일어나는지를 직접 이해하려는 분야를 기계적 해석 가능성이라고 부른다. 이 분야는 모델이 그럴듯한 출력을 낸다는 행동 수준의 관찰을 넘어, 어떤 뉴런, attention head, feature, circuit이 특정 기능에 관여하는지 추적하려 한다.

Anthropic의 Transformer Circuits 연구는 작은 Transformer 모델에서 특정 attention head들이 문맥 내 반복 패턴을 감지하고 이어지는 토큰을 예측하는 데 기여할 수 있음을 분석했다. 이른바 induction head는 앞에서 등장한 패턴을 뒤에서 다시 완성하는 기능과 관련되어 있다. 이는 LLM이 단순히 문장 전체를 암기하는 것이 아니라, 문맥 안에서 “앞에서 본 구조를 다시 적용하는” 계산적 메커니즘을 일부 가질 수 있음을 보여주는 대표 사례다.

OthelloGPT 연구도 중요하다. Li 등은 오셀로 게임의 수순만을 보고 다음 수를 예측하도록 훈련된 모델에서 보드 상태에 해당하는 내부 표현이 나타날 수 있음을 보고했다. 모델은 명시적으로 보드판 이미지를 보거나 규칙을 직접 주입받지 않았지만, 합법 수를 예측하는 과정에서 게임 상태를 내부적으로 표현하는 것으로 해석 가능한 구조를 형성했다. 이후 연구들은 이러한 세계 표현이 얼마나 선형적인지, 얼마나 일반적인지, 다중모달 입력이 내부 표현을 더 안정적으로 만드는지 등을 계속 검토했다.

산술 오류 탐지나 회로 추적 연구도 같은 방향의 증거를 제공한다. 일부 연구는 모델이 단순 산술 문제의 오류를 감지할 때 특정 attention head나 하위 회로에 의존하는 경향을 분석했다. Anthropic의 2025년 circuit tracing 연구는 대형 모델의 응답 생성 과정에서 여러 feature가 연결되어 특정 출력으로 이어지는 경로를 추적하려는 시도를 제시했다. 이런 연구들은 “모델 내부에 아무 구조도 없다”는 설명을 약화시킨다.

그럼에도 이 연구들이 곧바로 “LLM이 생각한다”는 결론을 정당화하지는 않는다. 내부 회로가 존재한다는 사실은 계산이 존재한다는 뜻이지, 의식적 이해가 존재한다는 뜻은 아니다. 계산적 추론과 의식적 사고는 구분되어야 한다. 계산적 추론은 입력과 내부 상태를 변환해 규칙적인 출력을 만드는 과정이다. 의식적 사고는 그 과정이 주관적 경험, 의도, 자기 인식, 의미 이해를 동반하는지를 묻는다. 현재의 해석 가능성 연구는 주로 전자에 대한 증거를 제공한다.

철학적 쟁점: 중국어 방과 의미 이해

이 논쟁은 AI 시대에 새로 생긴 문제가 아니라, 오래된 철학적 문제의 현대적 변형이다. 존 설(John Searle)의 중국어 방(Chinese Room) 사고실험은 대표적 사례다. 설은 어떤 사람이 중국어를 전혀 이해하지 못하더라도, 방 안에서 규칙표를 따라 중국어 기호를 조작하면 외부 관찰자에게는 중국어를 이해하는 것처럼 보일 수 있다고 주장했다. 여기서 설의 핵심 문제 제기는 구문론적 조작이 의미론적 이해를 보장하는가이다.

LLM 논쟁도 유사한 구조를 갖는다. LLM은 입력 토큰을 고차원 벡터로 변환하고, attention과 MLP 층을 거쳐 다음 토큰 확률을 계산한다. 그 결과 인간이 보기에 의미 있는 답변을 낸다. 그렇다면 이 모델은 의미를 이해하는가? 한 관점에서는 모델이 적절한 문맥에서 적절한 응답을 일관되게 생성한다면 기능적으로 이해한다고 볼 수 있다. 다른 관점에서는 모델이 세계와 직접 접촉하지 않고, 주관적 경험이나 의도 없이 기호 패턴만 처리한다면 진정한 의미 이해라고 보기 어렵다고 본다.

이 논쟁에서 중요한 것은 “이해”라는 말의 기준이다. 행동주의적 기준을 채택하면, 어떤 시스템이 충분히 넓은 맥락에서 인간과 구별하기 어려운 언어 행동을 보일 때 이해를 인정할 수 있다. 인지과학적 기준을 채택하면, 내부 표현과 추론 과정이 얼마나 안정적이고 일반적인지를 본다. 현상학적 또는 의식 중심 기준을 채택하면, 주관적 경험과 지향성이 있는지를 물어야 한다. LLM은 첫 번째 기준에서는 강한 사례를 점점 많이 보여주고, 두 번째 기준에서도 부분적 증거가 축적되고 있지만, 세 번째 기준에서는 확정적 증거가 없다.

주요 쟁점과 반론

첫 번째 쟁점은 “다음 토큰 예측이면 사고가 될 수 없는가”이다. 다음 토큰 예측은 표면적으로 단순해 보인다. 그러나 예측해야 하는 대상이 인간 언어 전체라면 문제는 단순하지 않다. 인간 언어에는 사실, 논리, 감정, 사회 규범, 수학, 코드, 인과관계, 반어법, 장르 관습이 섞여 있다. 이런 복잡한 분포를 예측하려면 모델은 다양한 잠재 구조를 내부에 압축해야 한다. 그러므로 “다음 토큰 예측”이라는 목표가 곧 “단순한 흉내”를 의미하지는 않는다.

두 번째 쟁점은 “내부 표현이 있으면 이해가 있는가”이다. 내부 표현은 이해의 필요조건일 수 있지만 충분조건이라고 단정하기 어렵다. 오셀로 보드 상태 표현이 발견된 모델은 게임 상태를 어떤 방식으로든 추적한다고 볼 수 있다. 그러나 그것이 인간 플레이어가 갖는 규칙 이해, 전략적 의도, 승패에 대한 관심, 체험적 의미와 같지는 않다. 내부 표현은 계산적 기능을 설명하지만, 의식적 의미 이해까지 자동으로 보장하지 않는다.

세 번째 쟁점은 “추론 성능이 곧 추론 능력인가”이다. 벤치마크에서 높은 점수를 얻는 모델은 추론처럼 보이는 행동을 보인다. 그러나 그 성능이 진정한 일반화인지, 훈련 데이터와 유사한 패턴의 재조합인지, 평가 방식의 허점을 이용한 것인지는 별도로 검토해야 한다. Schaeffer 등의 비판처럼 창발 능력 자체도 평가 지표에 민감할 수 있다. 따라서 특정 벤치마크 성능을 곧바로 일반 지능이나 인간적 사고로 해석하는 것은 위험하다.

네 번째 쟁점은 “chain-of-thought가 실제 사고 과정인가”이다. 중간 추론 단계를 쓰게 하면 성능이 좋아질 수 있지만, 모델이 출력한 추론 과정이 실제 내부 계산 과정을 그대로 반영한다고 보장할 수는 없다. LLM의 설명은 사후 합리화일 수 있으며, 실제 내부 경로와 출력된 이유 설명이 어긋날 수 있다. 따라서 chain-of-thought는 유용한 프롬프팅 기법이지만, 그것을 곧 모델의 투명한 내면 보고로 취급해서는 안 된다.

오해와 한계

흔한 오해 중 하나는 “LLM은 다음 토큰을 예측하므로 아무것도 이해하지 못한다”는 단정이다. 이 말은 학습 목표와 능력을 혼동한다. 다음 토큰 예측은 목표 함수이지만, 그 목표를 잘 수행하는 과정에서 다양한 내부 구조가 형성될 수 있다. 비슷하게 인간도 다음 말을 예측하거나 상대의 말을 이어서 이해하는 능력을 갖고 있지만, 그것만으로 인간 사고 전체가 설명되지는 않는다. LLM의 경우도 목표 함수만 보고 실제 능력을 모두 환원해서는 안 된다.

또 다른 오해는 “LLM이 논리 퍼즐을 풀었으므로 생각한다”는 단정이다. 퍼즐 풀이 성공은 계산적 능력의 증거일 수 있지만, 의식적 사고의 증거로는 부족하다. 계산기, SAT solver, 체스 엔진도 복잡한 문제를 풀지만, 보통 그것들을 인간처럼 생각한다고 말하지 않는다. LLM의 특수성은 자연어로 설명하고 대화한다는 점에 있다. 이 언어적 유사성이 인간적 사고의 인상을 강하게 만들지만, 인상과 존재론적 결론은 분리해야 한다.

세 번째 오해는 “패턴 기반이면 추론이 아니다”라는 생각이다. 인간의 추론도 많은 부분에서 패턴 인식, 유추, 경험적 규칙, 언어적 도식에 의존한다. 따라서 패턴 기반이라는 말만으로 어떤 과정을 낮게 평가할 수는 없다. 더 중요한 질문은 그 패턴이 얼마나 추상적이고, 얼마나 새로운 상황에 일반화되며, 오류를 어떻게 감지하고 수정하는가이다.

현재 설명의 한계도 분명하다. 대형 상용 모델의 내부 구조와 학습 데이터는 완전히 공개되어 있지 않은 경우가 많다. 해석 가능성 연구는 빠르게 발전하고 있지만, 아직 모든 모델 행동을 회로 수준에서 설명할 수 있는 단계는 아니다. 또한 “의식”이나 “이해” 자체가 철학적으로 합의된 개념이 아니기 때문에, 어떤 실험 결과가 나오더라도 해석은 기준에 따라 달라질 수 있다.

정리

LLM은 인간과 같은 의미에서 생각한다고 입증된 시스템이 아니다. LLM의 기본 작동은 주어진 문맥에서 다음 토큰 확률분포를 계산하는 것이다. 이 구조에는 의도, 주관적 경험, 자율적 목표 설정이 명시적으로 포함되어 있지 않다. 그래서 LLM의 출력을 인간의 의식적 사고와 동일시하는 설명은 현재 근거로는 지나치게 강하다.

동시에 LLM은 단순 문장 복사기라고 보기에도 부족하다. 다음 토큰 예측은 거대한 언어·코드·수학·사회적 담화 분포를 압축하는 과정이며, 그 안에서 모델은 문맥 구조, 규칙 패턴, 상태 표현, 제한적 추론 회로를 형성할 수 있다. 지뢰찾기 같은 퍼즐에서 LLM이 보이는 능력은 이러한 계산적 구조가 실제로 과제 수행에 활용될 수 있음을 보여준다.

따라서 가장 안정적인 표현은 다음과 같다. LLM은 “인간처럼 생각하는 존재”라기보다 “생각처럼 보이는 행동을 산출할 수 있는 확률적·계산적 언어 시스템”이다. 그 능력은 단순 모방보다 깊고, 인간 의식보다 제한적이다. LLM을 이해하려면 이 중간 지대를 정확히 다루어야 한다. 과소평가하면 실제 활용 가능성과 내부 계산 구조를 놓치고, 과대평가하면 의식·이해·책임을 기계 출력에 성급히 부여하게 된다.

참고자료

  • Ashish Vaswani, Noam Shazeer, Niki Parmar 외, 「Attention Is All You Need」, Advances in Neural Information Processing Systems, 2017. https://arxiv.org/abs/1706.03762
  • Tom B. Brown, Benjamin Mann, Nick Ryder 외, 「Language Models are Few-Shot Learners」, Advances in Neural Information Processing Systems, 2020. https://arxiv.org/abs/2005.14165
  • Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, 「On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?」, Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 2021. https://doi.org/10.1145/3442188.3445922
  • Jason Wei, Xuezhi Wang, Dale Schuurmans 외, 「Chain-of-Thought Prompting Elicits Reasoning in Large Language Models」, Advances in Neural Information Processing Systems, 2022. https://arxiv.org/abs/2201.11903
  • Takeshi Kojima, Shixiang Shane Gu, Machel Reid, Yutaka Matsuo, Yusuke Iwasawa, 「Large Language Models are Zero-Shot Reasoners」, Advances in Neural Information Processing Systems, 2022. https://arxiv.org/abs/2205.11916
  • Rylan Schaeffer, Brando Miranda, Sanmi Koyejo, 「Are Emergent Abilities of Large Language Models a Mirage?」, Advances in Neural Information Processing Systems, 2023. https://arxiv.org/abs/2304.15004
  • Nelson Elhage, Neel Nanda, Catherine Olsson 외, 「A Mathematical Framework for Transformer Circuits」, Transformer Circuits, Anthropic, 2021. https://transformer-circuits.pub/2021/framework/index.html
  • Catherine Olsson, Nelson Elhage, Neel Nanda 외, 「In-context Learning and Induction Heads」, Transformer Circuits, Anthropic, 2022. https://transformer-circuits.pub/2022/in-context-learning-and-induction-heads/index.html
  • Kenneth Li, Aspen K. Hopkins, David Bau, Fernanda Viégas, Hanspeter Pfister, Martin Wattenberg, 「Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task」, International Conference on Learning Representations, 2023. https://arxiv.org/abs/2210.13382
  • Neel Nanda, Lawrence Chan, Tom Lieberum, Jess Smith, Jacob Steinhardt, 「Emergent Linear Representations in World Models of Self-Supervised Sequence Models」, BlackboxNLP, 2023. https://aclanthology.org/2023.blackboxnlp-1.2/
  • Yifei Yuan, Anders Søgaard, 「Revisiting the Othello World Model Hypothesis」, arXiv, 2025. https://arxiv.org/abs/2503.04421
  • Lindsey et al., 「On the Biology of a Large Language Model」, Transformer Circuits, Anthropic, 2025. https://transformer-circuits.pub/2025/attribution-graphs/biology.html
  • Ameisen et al., 「Circuit Tracing: Revealing Computational Graphs in Language Models」, Transformer Circuits, Anthropic, 2025. https://transformer-circuits.pub/2025/attribution-graphs/methods.html
  • David Cole, 「The Chinese Room Argument」, Stanford Encyclopedia of Philosophy, first published 2004, substantive revision 확인일 2026-05-05. https://plato.stanford.edu/entries/chinese-room/
  • John R. Searle, 「Minds, Brains, and Programs」, Behavioral and Brain Sciences, 3(3), 1980.