Skip to content

‘이념적 미치광이(ideological lunatic)’라는 낙인은 AI 안전 논쟁을 가난하게 만든다

작성일 : 2026년 5월 2일

AI 안전 기준을 ‘이념적 미치광이’로 부르는 정치적 언어는 군사 기술의 책임 문제를 해결할 언어를 좁히고, 책임을 묻는 절차 자체를 약화한다. 이 논쟁의 핵심은 대규모 감시와 자율무기처럼 치명적 결과를 낳을 수 있는 AI 사용 영역에서, 어떤 제한이 정당한 안전 기준이고 어떤 제한이 사적 권한 남용인지 판별할 공적 절차가 마련되어 있는가에 있다. 안전선을 ‘미치광이’로 번역하는 순간 그 절차는 시작되기 전에 훼손된다.

낙인은 안전 기준을 병리로 번역한다

‘이념적 미치광이’라는 표현은 논쟁 상대의 주장을 검토하기 전에 그 주장을 병리화하는 언어다. 이 말은 상대가 제기한 기준을 위험 평가, 기술 신뢰성, 시민 자유, 전시 책임의 문제로 다루는 대신 비정상적 신념의 산물로 분류한다. 논쟁은 이렇게 재배치된다. “AI를 어디까지 사용할 것인가”라는 질문은 “누가 제정신인가”라는 질문으로 밀려난다. 기술 사용의 한계는 정책 판단의 문제에서 성향 심사의 문제로 이동한다.

이 낙인의 힘은 모욕성보다 번역 효과에서 나온다. 그것은 ‘안전’을 ‘이념’으로, ‘제한’을 ‘방해’로, ‘거절’을 ‘비협조’로 바꾸는 장치로 작동한다. 특히 군사 AI처럼 속도와 우위가 강한 명분으로 작동하는 영역에서는 이런 번역이 강한 정치적 효율을 갖는다. 안전을 말하는 쪽은 국가안보에 둔감한 도덕주의자로 보이고, 사용 확대를 요구하는 쪽은 현실을 감당하는 책임 주체로 보인다. 이 구도에서는 제한의 내용보다 제한을 제기한 사람의 성향이 먼저 심문된다.

국가의 반론은 강한 전제를 가진다

군사 작전의 최종 책임은 선출된 정부와 군 지휘체계가 져야 하며, 민간 기업이 국방 정책의 운용 범위를 사실상 결정하는 상황은 민주적 책임성 측면에서 불편한 장면을 만든다. 정부 조달에 참여한 기업이 자기 내부 규범을 이유로 사용 범위를 좁힌다면, 국가는 공적 권한이 사적 약관에 종속된다고 느낄 수 있다. “기업 대표 한 사람이 우리가 무엇을 할지 결정해서는 안 된다”는 반론은 이 지점에서 설득력을 얻는다.

이 반론은 전쟁과 정보 영역에서 더 강해진다. 군은 적대 행위, 테러 대응, 사이버 공격, 군수 지원, 표적 식별처럼 빠른 판단과 대규모 정보 처리가 필요한 상황을 다룬다. AI가 문서 요약, 영상 분석, 정비 예측, 보급 최적화, 상황 인식 보조에 쓰인다면 그 자체로 금지할 이유는 약하다. 공식 정책 문서와 발표에서도 미국 국방부는 책임 있는 AI, 법 준수, 인간의 적절한 판단, 추적 가능성, 신뢰성, 통제 가능성을 강조해 왔다. 국가의 입장에서는 이런 원칙이 이미 존재하는데도 민간 기업이 추가 제한을 고집하는 행위가 작전 능력을 약화하는 사적 개입처럼 보일 수 있다.

위험은 국가가 민주적 책임을 내세우면서도, 그 책임을 검증 가능한 절차로 구체화하지 않은 채 “합법적 사용”이라는 넓은 문구에 기대는 순간 발생한다. 법은 최소한의 경계로 기능할 수 있으나, 빠르게 변하는 AI 능력의 전부를 제때 포착하는 장치가 되기 어렵다. 합법성은 책임의 출발점이지 책임의 완성형이 아니다.

‘법을 따른다’는 말은 통제 절차의 시작이다

군사 AI에서 “법을 따른다”는 답변은 필요한 말이지만 부분 답변에 머문다. 대량 국내 감시와 완전 자율무기 운용은 법률 문구만으로 안정적으로 처리되기 어려운 영역이다. 감시 기술은 합법적 권한의 외피를 쓴 채 시민의 행위 패턴, 관계망, 위치, 표현을 대규모로 분석할 수 있다. 자율무기 기술은 인간의 승인 절차가 형식적으로 남아 있어도 실제 판단의 무게를 기계적 추천과 확률 점수로 이동시킬 수 있다.

상원의 질의에서 “표적 결정에 인간이 항상 개입하는가”라는 물음이 제기되었고, 보도에 따르면 국방장관은 “우리는 법을 따르고 인간이 결정한다”고 답했다. 이 답변은 현재 AI의 직접적 치명 결정 부재를 설명했지만, “항상”이라는 제도적 보장은 불명확하게 남겼다. 군사 AI의 핵심 쟁점은 현재의 선언에서 미래의 설계로 이동한다. 인간의 개입이 승인 버튼 하나로 축소되는지, 지휘관이 모델의 데이터와 한계를 이해하는지, 오판을 중지시킬 권한과 훈련이 있는지, 사후 책임 추적이 가능한지가 실제 통제를 가른다.

미국 국방부의 기존 공식 원칙도 이 점을 이미 전제한다. 국방부는 AI 윤리 원칙으로 책임성, 공정성, 추적 가능성, 신뢰성, 통제 가능성을 채택했고, 자율·반자율 무기체계가 지휘관과 운용자의 적절한 인간 판단을 가능하게 설계되어야 한다고 밝혔다. 이 원칙들이 실질을 갖기 위해서는 조달 계약과 작전 환경 안에서 구체적 금지선, 감사 절차, 모델 사용 로그, 실패 시 중지 권한, 민간인 피해 평가, 사후 검증 체계로 내려와야 한다. 그 구체화가 빠진 상태에서 안전 기준을 이념으로 몰아붙이면 국가는 자기 원칙을 스스로 빈약하게 만든다.

통념의 약점은 단독 결정권 비판의 방향에서 드러난다

“한 민간 기업이 단독 결정권을 가져서는 안 된다”는 말은 타당한 문제의식을 담고도 스스로에게 되돌아오는 질문을 피한다. 민간 기업의 단독 결정권이 문제라면 행정부와 군의 단독 결정권도 같은 방식으로 문제화되어야 한다. 치명적 AI 사용의 한계를 특정 기업 대표의 윤리 감각에 맡기는 방식이 취약하듯, 동일한 한계를 국방 조직의 내부 판단과 비공개 계약에만 맡기는 방식도 취약하다. 단독 결정권 비판은 사적 주체와 공적 주체 모두에 적용되어야 한다.

여기서 통념의 한계가 드러난다. 통념은 국가를 공적 책임의 대표자로 놓고 기업을 사적 이해의 보유자로 놓는다. 실제 작전 책임은 군과 정부가 진다. 동시에 AI 모델을 만드는 기업은 단순 납품업체의 위치를 이미 넘어섰다. 모델의 안전 한계, 오용 가능성, 평가 자료, 취약점, 훈련 데이터의 편향, 사용 정책은 기술의 실제 작동 범위를 정한다. 국가가 사용 권한을 갖더라도 기업이 알고 있는 위험 정보를 무시한 채 안전선을 제거하라고 요구하면 공적 책임은 기술적 무지와 결합한다.

기업의 안전선에도 민주적 심사의 부담이 붙는다. 민간 기업은 민주적 대표 기관과 다른 지위를 갖고, 그 내부 정책은 공론장과 의회 심사를 거쳐 만들어진 법률과 다르다. 그래서 기업의 사용 제한은 최종 규범보다 공적 심사를 요구하는 위험 신호에 가깝다. 기업이 “대량 국내 감시”와 “완전 자율무기”를 예외로 요구했다면, 국가는 그 예외를 이념의 산물로 조롱하는 방식 대신 그 예외가 어떤 위험 모델, 어떤 기술 평가, 어떤 시민권 침해 가능성, 어떤 전쟁법 쟁점과 연결되는지 공개 가능한 범위에서 검증해야 한다.

대안 명제는 안전의 사유화를 끝내는 절차에서 나온다

이 논쟁의 대안은 치명적 AI 사용의 한계를 사적 약관과 행정부 재량의 충돌로 남겨 두는 관행을 제도 안으로 끌어들이는 설계에서 나온다. 대규모 감시와 자율무기처럼 권리와 생명에 직접 닿는 영역에는 최소한 세 층의 장치가 필요하다. 첫째, 사용 금지 또는 엄격 제한 영역을 법률과 공개 기준으로 정해야 한다. 둘째, 모델 제공 기업의 위험 평가와 정부의 작전 필요를 독립적으로 검토하는 기술 감사 구조가 필요하다. 셋째, 인간의 개입을 구호가 아니라 훈련, 권한, 로그, 중지 절차, 사후 책임으로 검증해야 한다.

이 절차는 전투력의 조건이다. 군사 AI의 신뢰성은 빠른 배포와 함께 테스트, 훈련, 문서화, 기록, 피해 평가 체계를 요구한다. 오판을 줄이는 테스트, 운용자의 과신을 막는 훈련, 데이터 출처와 모델 한계를 이해할 수 있는 문서화, 실패한 결정의 경로를 추적하는 기록, 민간인 피해를 줄이는 통제 장치가 전투력의 일부가 된다. AI가 전장의 시간을 압축할수록 책임 절차는 더 정밀해야 하는 영역이 된다.

안전 기준을 병리화하는 언어는 이런 제도 설계를 지연시킨다. 그것은 반대자를 웃음거리로 만들고, 사용 확대를 현실주의로 포장하며, 공적 검증을 충성심 시험으로 바꾼다. 이 방식은 단기적으로 국방 조직의 협상력을 높일 수 있다. 장기적으로는 AI 군사화의 정당성을 약화한다. 시민과 군인이 받아들일 수 있는 군사 AI는 강한 모델과 통제 장치가 결합될 때 형성된다. 그 모델을 멈출 수 있는 권한, 설명할 수 있는 기록, 책임질 수 있는 주체가 함께 있을 때 정당성을 얻는다.

책임 있는 군사 AI는 낙인보다 공개된 기준을 요구한다

‘이념적 미치광이’라는 낙인은 AI 군사화 논쟁의 중심을 잘못 옮긴다. 논쟁의 중심은 특정 기업 대표의 성향 심사에서 대량 감시와 자율무기라는 사용 영역의 위험 구조로 옮겨져야 한다. 국가는 작전 결정을 수행할 권한을 갖지만, 그 권한은 기술적 위험과 시민적 권리를 다루는 공개 기준 안에서 정당화되어야 한다. 기업은 위험 정보를 제시할 책임을 갖지만, 그 책임은 공적 심사를 통해 검증되어야 한다.

AI 안전 논쟁의 성숙한 언어는 “누가 미쳤는가”라는 호명 대신 사용 조건, 제한 이유, 기록 주체, 감사 절차, 책임 주체를 묻는다. 치명적 기술의 시대에 가장 위험한 정치는 안전을 조롱하는 정치다. 책임 있는 군사 AI는 공개된 기준과 검증 가능한 통제 위에서만 정당성을 얻는다.

참고자료

  • Livemint/Bloomberg, “Hegseth Calls Amodei a ‘Lunatic’ and Defends Pentagon Use of AI,” 2026년 4월 30일 보도. 본문에서 문제 발언, 상원 질의, “인간이 결정한다”는 답변의 맥락을 확인하는 데 사용했다. https://www.livemint.com/politics/hegseth-calls-amodei-a-lunatic-and-defends-pentagon-use-of-ai-11777575578337.html
  • Anthropic, “Where things stand with the Department of War,” 2026년 4월 28일. Anthropic이 작전 결정권 자체보다 완전 자율무기와 대량 국내 감시라는 고위험 사용 영역을 문제 삼았다는 입장을 확인하는 데 사용했다. https://www.anthropic.com/news/where-stand-department-war
  • Anthropic, “Statement from Dario Amodei on our discussions with the Department of War,” 2026년 2월 26일. 대량 국내 감시와 완전 자율무기에 대한 Anthropic의 예외 요구와 기술 신뢰성 주장을 확인하는 데 사용했다. https://www.anthropic.com/news/statement-department-of-war
  • Anthropic, “Statement on the comments from Secretary of War Pete Hegseth,” 2026년 2월 27일. 공급망 위험 지정 논란과 Anthropic의 반박 입장을 확인하는 데 사용했다. https://www.anthropic.com/news/statement-comments-secretary-war
  • U.S. Department of Defense, “DoD Announces Update to DoD Directive 3000.09, ‘Autonomy in Weapon Systems,’” 2023년 1월 25일. 자율·반자율 무기체계에서 인간 판단과 법 준수를 강조하는 공식 원칙을 확인하는 데 사용했다. https://www.defense.gov/News/Releases/Release/article/3278076/dod-announces-update-to-dod-directive-300009-autonomy-in-weapon-systems/
  • U.S. Department of Defense, “DOD Adopts 5 Principles of Artificial Intelligence Ethics,” 2020년 2월 25일. 책임성, 공정성, 추적 가능성, 신뢰성, 통제 가능성이라는 국방부 AI 윤리 원칙을 확인하는 데 사용했다. https://www.defense.gov/Explore/News/Article/Article/2094085/dod-adopts-5-principles-of-artificial-intelligence-ethics/
  • Associated Press, “US military and 7 companies make deals to use AI in classified systems,” 2026년 5월 1일. 국방부의 AI 기업 계약 확대, Anthropic 제외, 인간 감독과 시민권 우려를 둘러싼 최근 맥락을 확인하는 데 사용했다. https://apnews.com/article/pentagon-artificial-intelligence-military-classified-systems-war-060cecf836c4cebcf012a3ceb5333f2c
  • U.S. Department of War, “Classified Networks AI Agreements,” 2026년 5월 1일. 국방부가 여러 AI 기업과 분류망 배포 협약을 체결하고 ‘AI-first fighting force’를 추진한다는 공식 발표를 확인하는 데 사용했다. https://www.war.gov/News/Releases/Release/Article/4475177/classified-networks-ai-agreements/