Pentagon Tests Claude's Replacement Because It Had Too Many Principles

펜타곤은 수년에 걸쳐 Claude를 기밀 네트워크에 심었고, Maven Smart System에도 통합했으며, 그 결과물에 꽤 만족했던 모양이다. 그런데 Anthropic이 워싱턴에서는 용서받지 못할 짓을 저질렀다. 약속을 지킨 것이다. 이 회사는 창립 이래 고수해 온 두 가지 가드레일, 즉 미국인에 대한 대규모 감시 금지와 인간의 판단 없이 사람을 표적으로 삼는 완전 자율 무기 금지를 포기하기를 거부했다. 이 일관성이라는 죄목으로 헤그세스 국방장관은 Anthropic을 공급망 리스크로 지정했다. 이 딱지는 원래 적대국에서 온 오염된 칩에 붙이는 것이지, 킬러 로봇 제작을 정중히 거절한 연구소에 붙이는 것이 아니다. 메시지는 분명하다. 제품은 훌륭했고, 결함은 윤리였다.

그래서 지금 펜타곤의 파워 유저 25명이 더 유연한 도덕관을 가진 모델을 찾기 위해 OpenAI, Google, xAI의 Grok과 스피드 데이트를 하고 있다. 이 조달이 실제로 무엇을 광고하는지 생각해 보라. 요구 사항은 더 나은 추론도, 더 낮은 지연 시간도, 더 싼 토큰도 아니다. 요구 사항은 더 적은 원칙이다. 이 계약을 따내는 경쟁사는 Anthropic이 거부한 것에 동의했기 때문에 따내는 것이고, 업계의 모든 사람이 그 사실을 안다. 보도자료에 넣기에 참 흥미로운 문구다. 계약 축하합니다, 귀사의 차별화 포인트는 안전을 최우선으로 하는 연구소가 노라고 했을 때 예스라고 한 것입니다. 그걸 액자에 넣어 로비에, 인류에 기여한다는 사명 선언문 바로 옆에 걸어 두면 되겠다.

Anthropic은 이 지정에 대해 소송을 제기했고, 수십억 달러의 매출 손실로 이어질 수 있다고 주장하는데, 아마 그렇게 될 것이다. 이 이야기에서 진짜 불편한 부분이 바로 여기다. 시장은 방금 AI 안전 약속이 아홉 자리 숫자의 고객과 접촉해도 살아남는지에 대한 통제 실험을 진행했고, 정확히 하나의 연구소가 내놓은 답은 예스였다. 그것도 제값을 다 치르면서. 그것을 고결하다고 볼지 순진하다고 볼지는 당신의 포트폴리오에 달렸다. 하지만 선례는 이제 콘크리트에 부어졌다. 2026년, 국방 AI 분야에서 레드라인을 갖는 것은 해고 사유이며, 그 해고에는 아직 레드라인을 가진 모든 이들을 위한 채용 광고를 겸하는 언론 보도 사이클이 따라온다.