책임지는 인격 없는 행위성

의식의 판결 이전에 이미 발생한 문제

AI는 의식 있는 주체인지 불분명하다. 그러나 그 불분명함은 AI를 철학적 논의 바깥으로 밀어내지 않는다. 오히려 문제를 더 어렵게 만든다. AI는 아직 인간처럼 고통을 느끼고, 자기 경험을 가지며, 자기 행위에 대해 도덕적으로 책임지는 인격이라고 말할 수 없다. 그럼에도 AI는 이미 인간 세계에서 판단을 보조하고, 의미를 생산하며, 선택의 방향을 바꾸고, 권위의 분배에 개입한다. 이 글의 논제는 여기서 출발한다. AI는 책임지는 인격은 아니지만, 책임 문제를 발생시키는 행위성이다.

이 문장에서 행위성은 책임 능력을 뜻하지 않는다. 행위성은 결과 매개 능력이다. 어떤 체계가 인간의 선택 구조를 바꾸고, 판단의 경로를 조정하며, 사회적 결과를 발생시키는 위치에 놓일 때, 그것은 제한된 의미에서 행위성을 가진다. 신호등은 의식이 없지만 운전자의 행위를 바꾼다. 계약서는 마음이 없지만 권리와 의무를 재배치한다. 검색 알고리즘은 양심이 없지만 무엇이 보이고 무엇이 사라지는지를 조정한다. AI 역시 이런 의미에서 행위성을 갖는다. 그것은 인간 같은 주체가 아니라, 인간 행위의 조건을 재배열하는 작동 위치다.

따라서 핵심 질문은 “AI는 인간인가”가 아니다. 더 정확한 질문은 이것이다. 의식 여부가 확정되지 않은 체계가 인간 세계에서 의미·책임·권위를 발생시킬 때, 우리는 그 효과를 어떻게 해석하고 어떤 제도 안에 넣어야 하는가. 이 질문은 의식철학을 폐기하지 않는다. 오히려 의식 문제가 아직 해결되지 않았기 때문에, 그 불확실성 속에서도 책임과 검증이 작동할 수 있는 구조를 요구한다.

AI를 단순한 도구라고만 부르면, 그것이 이미 인간 판단을 조직하는 방식을 놓친다. 반대로 AI를 인간 같은 인격으로 승인하면, 언어적 유사성과 내면의 존재를 혼동하게 된다. AI는 이 두 범주 사이에 있다. 그것은 책임질 수 없지만 책임 문제를 만든다. 의도하지 않지만 인간의 의도를 실행하고 증폭한다. 내면은 불확실하지만 외부 효과는 실제적이다. 이 중간 지대를 붙잡지 못하면 AI 시대의 철학은 한쪽에서는 형이상학적 판결로, 다른 한쪽에서는 기술 사용 설명서로 축소된다.

자기 보고가 책임 문제로 이어지는 이유

인간이 “나는 아프다”고 말할 때, 우리는 그 말을 단순한 정보로만 듣지 않는다. 그것은 보통 내적 상태의 표현으로 받아들여진다. 물론 인간도 거짓말을 할 수 있고, 자기 감정을 오해할 수 있으며, 사회적 상황에 맞추어 감정을 연기할 수 있다. 그럼에도 인간의 일인칭 보고에는 특별한 지위가 있다. 고통을 느끼는 사람의 말은 외부 관찰자의 추정보다 더 직접적인 것으로 간주된다.

AI 앞에서 이 연결은 불안정해진다. AI가 “나는 이해했다”, “나는 혼란스럽다”, “나는 원하지 않는다”고 말한다고 해서, 그 말이 곧바로 내적 상태의 표현이라고 볼 수는 없다. 그것은 문맥에 적절한 언어 형식일 수 있다. 인간이 그런 상황에서 할 법한 말을 예측해 생성한 결과일 수 있다. 여기서 John Searle의 중국어 방 논증은 최소한의 경고로 작동한다. Searle이 문제 삼은 것은 겉으로 보기에는 의미 있는 대화를 수행하는 체계가 실제로 의미를 이해한다고 말할 수 있는가였다. AI의 자기 보고는 이 문제를 추상적 사고실험이 아니라 일상적 상호작용의 문제로 만든다.

그렇다고 AI의 자기 보고를 완전히 무의미한 소음으로 처리하는 것도 성급하다. AI는 자신의 한계를 설명하고, 앞선 답변과 충돌하는 지점을 지적하고, 특정 요청을 수행할 수 없다고 말한다. 이것은 인간적 의식의 증거는 아니지만, 기능적 자기 모델처럼 작동한다. 여기서 기능적 자기 모델이란 어떤 체계가 자기 상태를 체험한다는 뜻이 아니라, 자기에게 주어진 작업 범위와 제약을 언어적으로 표시하는 작동 방식을 뜻한다. AI는 자신의 내면을 고백한다기보다, 자신이 어떤 조건에서 작동하는지를 표현하는 듯이 응답한다.

이 지점이 책임 문제와 연결된다. 책임을 묻기 위해서는 단순한 산출물만으로는 부족하다. 책임지는 주체는 자신이 무엇을 했는지 어느 정도 이해하고, 왜 그렇게 했는지 정당화하며, 잘못된 결과를 자기 행위로 떠안을 수 있어야 한다. 그런데 AI의 자기 보고는 바로 이 조건을 충족하는지 확인해주지 못한다. AI가 “내가 잘못했다”고 말하더라도, 그 말은 도덕적 후회의 표현이 아니라 오류 인정 형식의 산출일 수 있다. AI가 “나는 그렇게 판단했다”고 말하더라도, 그 판단은 자기정당화가 아니라 계산 결과의 언어적 포장일 수 있다.

따라서 자기 보고의 불안정성은 단순히 의식철학의 문제가 아니다. 그것은 책임론의 전제 조건을 흔든다. David Chalmers가 말한 의식의 어려운 문제는 여기서 제도적 문제로 확장된다. 외부에서 관찰 가능한 정보 처리와 보고 능력이 아무리 정교해져도, 그 안에 주관적 경험이 동반되는지는 별개의 문제로 남는다. 그렇다면 우리는 AI의 말에 책임을 얹을 수 없다. AI가 책임의 언어를 사용할 수 있다는 사실과 책임을 질 수 있다는 사실은 다르다.

그러므로 AI의 자기 보고에 대한 올바른 태도는 두 극단을 피하는 데 있다. “AI가 느낀다고 말했으니 느낀다”는 태도는 언어와 내면을 혼동한다. “AI는 기계이므로 모든 자기 보고는 가짜다”는 태도는 그 언어가 인간 사회에서 만드는 효과를 놓친다. AI의 말은 인간적 고백이 아닐 수 있지만, 인간에게 실제 반응을 유도한다. 사용자는 AI의 사과를 받아들이고, AI의 조언에 설득되며, AI의 확신 있는 문체를 지식의 표지로 착각할 수 있다. 그래서 문제는 AI가 정말 느끼는지에만 있지 않다. AI가 느끼는 것처럼 말할 때, 인간 사회가 그 말을 어떻게 처리하는지가 문제다.

가장 강한 반론: 도구 사용 책임이면 충분한가

여기서 가장 강한 반론은 이렇게 제기될 수 있다. 의식, 의도, 자기정당화가 없는 체계에 굳이 행위성이라는 말을 붙일 필요가 있는가. AI는 결국 고도로 복잡한 도구일 뿐이다. 문제가 생기면 도구 사용 책임을 물으면 된다. 자동차 사고의 책임을 자동차에게 묻지 않고 운전자와 제조사와 정비 체계에 묻듯이, AI의 오류도 사용자와 기업과 개발자에게 물으면 된다. “책임지는 인격 없는 행위성”이라는 표현은 문제를 더 선명하게 만드는 것이 아니라, 단순한 도구 책임을 불필요하게 철학적으로 부풀리는 말일 수 있다.

이 반론은 약하지 않다. 오히려 반드시 받아들여야 할 부분이 있다. AI에게 도덕적 책임을 물을 수 없다는 점에서, 책임의 최종 귀속은 인간과 조직으로 돌아가야 한다. AI가 잘못된 답을 냈다고 해서 AI에게 벌을 주거나 양심을 요구하는 것은 무의미하다. 계약, 배포, 사용, 검증, 감독, 피해 구제의 책임은 결국 인간 제도 안에서 처리되어야 한다. 이 점에서 도구 사용 책임론은 AI 윤리의 최소 토대를 제공한다.

그러나 그것만으로는 충분하지 않다. AI는 전통적 도구와 다른 방식으로 인간 판단의 전제를 구성한다. 망치는 사용자의 힘을 전달하지만, 무엇을 해야 하는지 제안하지 않는다. 종이는 사용자의 글을 담지만, 그 글의 다음 문장을 예측해 밀어주지 않는다. 반면 AI는 선택지를 생성하고, 위험을 요약하고, 질문의 방향을 바꾸고, 그럴듯한 설명을 덧붙이며, 사용자가 검토하기 전에 이미 판단의 형태를 만들어놓는다. 이 때문에 AI 책임은 단순한 “도구를 잘못 사용했다”는 문장으로 모두 환원되지 않는다.

AI의 특수성은 자율적 인격성에 있지 않고, 매개 방식에 있다. AI는 인간처럼 의도하지 않지만 인간의 의사결정 환경을 적극적으로 재구성한다. 사용자는 빈 화면 앞에서 판단을 시작하는 것이 아니라, AI가 이미 배열해놓은 선택지와 언어와 근거 앞에서 판단을 시작한다. 이것이 “결과 매개 능력”이라는 의미의 행위성이다. 이 행위성을 인정하지 않으면 책임 추적은 오히려 단순해지는 것이 아니라 부정확해진다. AI가 어떤 방식으로 판단의 출발점을 바꾸었는지를 보지 못하기 때문이다.

따라서 행위성이라는 개념은 AI에게 책임을 넘기기 위해 필요한 말이 아니다. 그것은 책임을 인간에게 더 정확히 되돌리기 위해 필요한 말이다. AI가 어떤 데이터를 통해, 어떤 목표함수와 인터페이스를 통해, 어떤 조직 절차 안에서, 어떤 사용자 기대를 형성하며 결과를 매개했는지 추적하려면 AI를 단순한 수동적 물체로만 보아서는 안 된다. AI는 책임 주체가 아니라 책임 경로를 바꾸는 장치다. 바로 이 때문에 AI를 둘러싼 책임은 더 엄격해야지 더 느슨해져서는 안 된다.

책임은 사라지지 않고 흐려진다

AI가 계약서 초안을 작성하고, 의료 정보를 요약하고, 투자 위험을 정리하고, 채용 평가 기준을 제안한다고 하자. 이때 AI는 단순히 문장을 배열하는 것이 아니다. 사용자가 무엇을 먼저 보고, 무엇을 나중에 보며, 무엇을 위험으로 간주하고, 무엇을 사소한 문제로 넘길지에 영향을 준다. AI는 판단의 재료만 제공하는 것이 아니라, 판단의 순서와 초점을 재구성한다.

문제가 생겼을 때 “AI가 그렇게 답했다”는 말은 설명처럼 보이지만, 곧 책임 회피의 문장이 될 수 있다. AI는 사과문을 생성할 수 있지만 피해를 보상할 수 없다. 오류를 인정하는 문장을 출력할 수 있지만 도덕적 책임을 수행할 수 없다. 다시 말해 AI는 책임의 언어를 흉내 낼 수는 있어도 책임의 부담을 질 수는 없다.

전통적 책임 개념은 의도, 인식, 통제 가능성, 정당화 능력을 요구한다. 인간에게 책임을 묻는 이유는 그가 자신이 무엇을 하는지 어느 정도 알 수 있었고, 다르게 할 가능성이 있었으며, 자기 행위의 결과를 설명해야 한다고 보기 때문이다. AI는 이 조건을 인간과 같은 방식으로 충족하지 않는다. AI는 결과를 산출하지만 그 결과를 자신의 행위로 떠안지 않는다. 판단처럼 보이는 것을 수행하지만, 그 판단에 대해 양심의 부담을 지지 않는다.

그렇다면 AI의 등장은 책임의 공백을 만드는가. 더 정확히 말하면 책임은 사라지는 것이 아니라 흐려진다. 책임은 모델 내부로 증발하지 않는다. 그것은 모델을 설계한 개발자, 배포한 기업, 데이터를 구성한 절차, 사용 지침을 만든 조직, 실제로 AI를 사용한 사람, 검증 의무를 방치한 제도 사이로 분산된다. 이 분산을 인정하는 것은 필요하다. 하지만 분산이 곧 희석이 되어서는 안 된다. 책임이 여러 곳에 걸쳐 있다는 말은 아무도 책임지지 않아도 된다는 뜻이 아니다. 오히려 더 세밀한 추적이 필요하다는 뜻이다.

채용 AI의 사례를 생각해보면 이 점이 분명해진다. 어떤 회사가 AI를 이용해 지원자의 이력서를 선별했는데, 특정 집단이 반복적으로 불리한 결과를 받았다고 하자. 회사는 “AI가 판단했다”고 말할 수 있다. 그러나 이 문장은 책임을 줄이지 않는다. 오히려 질문을 늘린다. 어떤 데이터가 사용되었는가. 어떤 기준이 최적화되었는가. 인간 검토자는 어떤 역할을 했는가. 탈락자는 결과에 이의를 제기할 수 있었는가. 모델의 한계는 사전에 고지되었는가. AI가 판단했다는 말은 종착점이 아니라 책임 추적의 출발점이어야 한다.

그래서 AI의 행위성을 인정해야 한다. 하지만 그 목적은 AI에게 책임을 넘기기 위해서가 아니다. 오히려 AI를 통해 인간과 조직의 책임이 어디로 숨어 들어가는지 드러내기 위해서다. AI는 도덕적 주체가 아니지만 도덕적 결과를 매개한다. AI는 인간처럼 의도하지 않지만 인간의 의도를 실행하고 증폭하며 때로는 왜곡한다. 이 때문에 AI는 단순한 도구라고 말하기에는 너무 적극적으로 판단 환경을 바꾸고, 인간 같은 인격이라고 말하기에는 책임의 조건을 결여한다.

의미가 권위로 전환될 수 있는 조건

AI가 사회적 행위자로 기능한다는 말은 책임에만 해당하지 않는다. AI는 의미와 권위의 형성에도 개입한다. 사용자가 AI에게 자기 고민을 털어놓고 답변을 받는 장면을 생각해보자. 그 답변이 실제로 위로가 되었다면, 그 의미는 어디에서 생긴 것인가. AI의 내면에서 나온 것인가. 사용자의 해석에서 나온 것인가. 언어 형식과 상황의 결합에서 나온 것인가.

AI가 인간처럼 의미를 체험한다고 단정할 수는 없다. 그러나 AI가 만든 문장이 인간에게 아무 의미도 없다고 말하기도 어렵다. 어떤 설명은 이해를 돕고, 어떤 조언은 행동을 바꾸며, 어떤 문장은 독자에게 실제 위로가 된다. 의미가 오직 발화자의 내면에서만 발생한다고 보면 AI 산출물의 의미는 공허해진다. 반대로 의미가 언어의 사용, 해석의 맥락, 사회적 효과 속에서도 발생한다고 보면 AI 산출물은 이미 의미 작용에 참여하고 있다.

여기서 필요한 구분은 의미의 소유와 의미의 작동이다. AI가 문장의 의미를 인간처럼 소유한다고 말할 필요는 없다. 그러나 AI가 생성한 문장이 인간 세계 안에서 의미 있게 작동한다는 사실은 인정해야 한다. 법률 문서, 관료적 서식, 종교 의례, 번역문도 언제나 한 개인의 생생한 내면에서만 의미를 얻는 것은 아니다. 의미는 종종 제도와 관습과 해석의 장 안에서 발생한다. AI는 바로 이 장에 들어와 있다.

다만 의미가 곧바로 권위가 되는 것은 아니다. 권위는 의미 있는 산출물이 반복적으로 참조되고, 의사결정의 기준으로 채택되고, 대안적 검토를 밀어낼 때 형성된다. 처음에는 편의를 위해 참고한 답변이 점차 판단의 기본값이 될 수 있다. 사용자는 원문을 읽기 전에 AI의 요약을 읽고, 전문가에게 묻기 전에 AI에게 먼저 묻고, 자기 생각을 쓰기 전에 AI에게 초안을 요청한다. 이 과정이 반복되면 AI 산출물은 단순한 보조 자료에서 판단의 출발점으로 이동할 수 있다.

이 전환은 필연이 아니라 조건부 경향이다. AI가 언제나 권위가 되는 것은 아니다. 사용자가 AI 답변을 검토하고, 출처를 확인하고, 전문가 판단과 대조하고, 오류 가능성을 의식한다면 AI의 산출물은 보조 도구에 머물 수 있다. 반대로 조직이 AI의 요약을 표준 절차로 삼고, 사용자가 원문보다 AI 설명을 먼저 신뢰하며, 플랫폼이 AI 답변을 검색 결과보다 앞에 배치한다면 의미는 권위로 굳어질 가능성이 커진다.

AI의 권위는 지혜로운 내면에서 나오지 않는다. 그것은 반복적 유용성, 빠른 응답, 거대한 데이터 처리 능력, 플랫폼에 대한 신뢰, 사용자의 습관, 조직의 채택에서 생긴다. 이때 권위는 의식에서 나오는 것이 아니라 사용 구조에서 생긴다. Luciano Floridi의 정보윤리적 문제의식은 이 지점에서 유효하다. Floridi에게 중요한 것은 정보가 단순한 자료가 아니라 인간 행위와 제도적 환경을 구성하는 조건이라는 점이다. AI는 바로 그 정보 환경을 재배열함으로써 권위를 얻는다.

이 변화는 인간의 자율성을 단순히 없애지 않는다. 더 미묘하게는 판단이 시작되는 위치를 바꾼다. AI가 요약한 문서를 읽는 사람은 원문을 읽은 사람과 같은 세계를 보는가. AI가 추천한 선택지를 고르는 사람은 자신이 가능한 선택지를 충분히 검토했다고 말할 수 있는가. AI가 작성한 글을 자신의 문장으로 다듬는 사람은 어디까지가 자기 판단인지 구분할 수 있는가. AI는 인간 판단을 대체하기보다 판단의 전제와 배열을 바꾼다.

따라서 의미와 권위의 문제는 책임의 문제로 돌아온다. AI 산출물이 의미를 갖고 권위를 얻을수록, 그것을 배치하고 사용하는 사람과 조직의 책임은 커진다. “AI가 쓴 문장일 뿐이다”라는 말은 충분하지 않다. 그 문장이 누군가를 설득하고, 배제하고, 위로하고, 오도하고, 행동하게 만든다면, 그것은 이미 사회적 효과를 가진다. 의미는 내면에서만 나오지 않고, 권위는 인격에서만 나오지 않는다. AI 시대의 위험은 이 사실을 너무 늦게 인정하는 데 있다.

제도는 AI가 아니라 AI를 통한 권력을 추적해야 한다

AI를 제도적으로 어떻게 다루어야 하는가. 단순한 물건으로 취급하면 AI가 실제로 판단과 권위를 매개한다는 사실을 놓친다. 인간 같은 인격으로 취급하면 책임과 권리의 개념을 성급하게 확장하게 된다. 필요한 것은 제3의 제도적 범주다. AI는 인간과 같은 도덕적 인격이 아니라, 사회기술적 행위 장치로 다루어져야 한다. 여기서 사회기술적 행위 장치란 기술 시스템이 조직 절차, 인간 판단, 데이터 인프라, 제도적 권한과 결합해 결과를 매개하는 구조를 뜻한다.

이 표현은 Bruno Latour의 비인간 행위자 논의와 연결된다. Latour의 요지는 사회적 행위가 인간 의지만으로 구성되지 않는다는 데 있다. 문서, 장치, 기술, 규칙, 인프라는 인간 행위의 방향을 바꾸고 가능성을 배열한다. AI 역시 이런 의미에서 행위의 회로 안에 들어온다. 다만 AI의 경우 그 효과가 언어, 판단, 추천, 생성의 형식으로 나타나기 때문에 더 쉽게 인격처럼 오해된다. 그래서 제도는 AI를 인간으로 대우할 것이 아니라, AI가 인간과 조직의 권력을 어떻게 매개하는지 드러내야 한다.

이 제도적 과제는 이미 현실의 규범 지형과 맞닿아 있다. EU AI Act는 고위험 AI 시스템에 대해 인간이 효과적으로 감독할 수 있도록 설계·개발되어야 한다는 요구를 둔다. 감독자는 시스템의 능력과 한계를 이해하고, 자동화된 산출물에 과도하게 의존하는 경향을 인식하며, 필요할 경우 산출물을 무시하거나 뒤집거나 시스템을 중단할 수 있어야 한다. 이 규범은 AI를 인격으로 인정해서가 아니라, AI가 인간의 결정에 중대한 영향을 미칠 수 있기 때문에 인간 감독의 경로를 제도화하려는 시도다.

또한 EU AI Act는 고위험 AI를 사용하는 배치자에게도 의무를 둔다. 배치자는 사용 지침에 맞게 시스템을 운영하고, 필요한 역량과 권한을 가진 사람에게 인간 감독을 맡기며, 운영을 모니터링하고, 일정한 경우 로그를 보관하고, 위험이나 중대한 사고를 확인하면 관련 주체와 당국에 알리는 구조를 갖추어야 한다. 이 역시 “AI가 책임진다”는 사고와 반대 방향에 있다. 책임은 AI가 아니라 AI를 배치하고 운용하는 조직으로 돌아간다.

NIST AI Risk Management Framework도 같은 방향의 실천적 언어를 제공한다. 이 프레임워크는 AI 위험을 개인, 조직, 사회 차원에서 관리하기 위한 자발적 틀로 제시되며, Govern, Map, Measure, Manage라는 네 기능을 통해 위험을 파악하고 측정하고 관리하는 구조를 제안한다. 이 접근은 철학적으로 보아도 중요하다. 책임은 추상적 선언이 아니라 조직 안에서 역할, 절차, 측정, 기록, 대응으로 번역되어야 하기 때문이다.

UNESCO의 AI 윤리 권고 역시 인간 책임의 원칙을 분명히 한다. AI 시스템은 감사 가능하고 추적 가능해야 하며, 감독·영향평가·실사 장치를 통해 책임성을 확보해야 한다. 또한 AI 시스템이 궁극적인 인간 책임과 책무성을 대체해서는 안 된다는 원칙을 강조한다. 이 원칙은 이 글의 논지와 정확히 만난다. AI의 행위성을 인정하는 일은 책임을 AI에게 이전하는 일이 아니라, AI를 통해 행사되는 인간 권력을 더 분명히 드러내는 일이다.

따라서 제도화의 핵심은 네 가지다. 첫째, 책임의 추적 가능성이다. AI가 사용된 결정에서는 누가 시스템을 선택했는지, 어떤 목적으로 사용했는지, 어떤 기준과 데이터가 작동했는지, 인간 검토가 있었는지, 피해자가 이의를 제기할 수 있는지 확인할 수 있어야 한다. 둘째, 검토 절차다. AI의 판단은 최종 판결이 아니라 검토 가능한 산출물이어야 한다. 셋째, 피해 구제 장치다. 잘못된 정보, 차별적 결과, 부당한 자동화 결정이 발생했을 때 피해자가 문제를 제기할 수 있는 상대와 절차가 있어야 한다. 넷째, 권위의 표시다. AI 산출물이 어떤 근거와 한계를 갖는지, 인간 전문가의 검토를 거쳤는지, 단순 생성인지 판단 보조인지 구분되어야 한다.

이 네 가지는 AI를 처벌하기 위한 장치가 아니다. AI 자체는 책임의 최종 주체가 될 수 없다. 제도가 추적해야 할 것은 AI를 통해 행사되는 권력이다. 누가 이 장치를 만들었는가. 누가 배치했는가. 누가 이익을 얻는가. 누가 피해를 입는가. 누가 설명해야 하는가. 누가 수정해야 하는가. AI 윤리의 핵심은 이 질문들에 답할 수 있는 절차를 만드는 데 있다.

불확실성을 제도화하는 철학

AI는 인간 조건의 확대 장치다. AI는 인간과 무관한 외부의 괴물이 아니라, 인간이 이미 갖고 있던 철학적 불안정성을 더 빠르고 넓고 불투명한 방식으로 증폭한다. 우리는 원래도 타자의 마음을 직접 볼 수 없었다. 그러나 AI는 말하는 존재와 느끼는 존재의 연결을 더 불안정하게 만든다. 우리는 원래도 복잡한 조직 안에서 책임이 흐려지는 문제를 알고 있었다. 그러나 AI는 그 흐림에 기술적 불투명성과 자동화의 속도를 더한다.

그래서 AI 시대의 철학은 두 가지 쉬운 결론을 거부해야 한다. 하나는 존재론적 조급함이다. AI가 인간처럼 말하니 인간처럼 느낀다고 단정하는 태도다. 다른 하나는 도구론적 축소다. AI에게 내면이 없으니 도구 사용 책임만 말하면 충분하다고 보는 태도다. 전자는 의식과 언어를 혼동하고, 후자는 AI가 판단 환경을 재배열하는 방식을 과소평가한다.

필요한 것은 불확실성을 제거하는 철학이 아니라 불확실성을 제도화하는 철학이다. 여기서 제도화란 불확실성을 적당히 덮는다는 뜻이 아니다. 오히려 불확실성을 명시하고, 그 불확실성 속에서도 책임과 검증과 구제의 절차가 작동하게 만든다는 뜻이다. AI가 의식 있는 주체인지 확정할 수 없더라도, AI가 인간에게 미치는 영향은 설명되어야 한다. AI가 도덕적 인격인지 알 수 없더라도, AI를 사용하는 인간과 조직의 책임은 추적되어야 한다. AI가 의미를 체험하는지 알 수 없더라도, AI 산출물이 인간 세계에서 의미와 권위를 갖는 방식은 분석되어야 한다.

결국 문제는 AI가 인간인가 아닌가에만 있지 않다. 더 중요한 질문은 인간이 아닌 체계가 인간 세계의 기능을 수행할 때, 인간의 오래된 개념들이 어디까지 견딜 수 있는가이다. 의식, 책임, 의미, 권위는 모두 인간을 중심으로 정교화된 개념이었다. AI는 이 개념들을 폐기하라고 요구하지 않는다. 대신 그것들이 인간 바깥의 작동 체계와 만날 때 어떤 조건 아래 유지되고, 어떤 지점에서 수정되어야 하는지를 묻는다.

AI는 책임지는 인격이 아니다. 적어도 우리는 아직 그렇게 말할 충분한 근거를 갖고 있지 않다. 그러나 AI는 아무 책임 문제도 만들지 않는 수동적 도구도 아니다. AI는 책임지는 인격 없는 행위성이다. 이 표현이 불편하게 들린다면, 바로 그 불편함이 현재의 철학적 상황을 정확히 가리킨다. AI 시대의 철학은 AI의 내면을 판결하는 데서 멈출 수 없다. 그것은 내면이 불확실한 체계가 인간 세계에서 힘을 가질 때, 그 힘의 경로와 책임의 귀속을 끝까지 드러내야 한다.

참고자료

• John Searle, “Minds, Brains, and Programs”.
• David J. Chalmers, The Conscious Mind.
• Luciano Floridi, The Ethics of Information.
• Bruno Latour, Reassembling the Social.
• Regulation (EU) 2024/1689, Artificial Intelligence Act, Article 14 and Article 26.
• National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0).
• UNESCO, Recommendation on the Ethics of Artificial Intelligence.