OpenAI Partners with US Military, Anthropic Refuses

OpenAI가 AI가 모든 인류에게 이익이 되도록 보장하는 데 전념하는 비영리 단체였던 때를 기억하는가? 귀여웠다. 미 국방부가 무제한 AI 접근을 위한 계약을 들고 노크했고, OpenAI는 안전 서약의 잉크가 마르기도 전에 너무 빨리 동의했다. 한편, 앤트로픽은 같은 거래를 보고 거절했다. 한 회사는 원칙을 지켰다. 다른 하나는 성장 궤도를 지켰다. 월스트리트가 어느 쪽을 더 좋아했는지 세 번 맞춰보라.

반발은 즉각적이고 잔인했다. 150만 명의 사용자가 항의로 ChatGPT 계정을 삭제했는데, 이는 OpenAI가 수억 명의 사용자를 보유하고 있고 아마 알아차리지도 못했을 것을 생각하면 많은 것처럼 들린다. 하지만 시각적으로는 치명적이다. 이것은 수년간 책임 있는 AI 리더로 자리매김하고, 안전 연구 논문을 발표하고, 정렬 정상회의를 주최하다가, 수표가 통과되는 순간 군대에 무제한 AI 능력을 넘겨준 회사다. 그 문장에서 '무제한'이라는 단어가 많은 무거운 짐을 지고 있으며, 그 어떤 것도 안심이 되지 않는다.

앤트로픽과의 대조가 이것을 진정으로 비난받을 만하게 만든다. 두 회사 모두 같은 거래를 제안받았다. 하나는 자사의 가치와 충돌하기 때문에 거절했다. 다른 하나는 수익 목표와 충돌하기 때문에 수락했다. 샘 알트먼은 이것을 원하는 어떤 국가 안보 언어로든 포장할 수 있지만, 타임라인이 스스로를 말해준다: 비영리에서 상한 수익으로, 완전한 수익으로, 군사 계약으로. OpenAI가 스스로 설정한 모든 안전장치는 다음 펀딩 라운드를 방해할 때 조용히 제거되었다. 적어도 그들의 비일관성에서는 일관적이다.

• •미 국방부는 선도적인 AI 기업들로부터 무제한 AI 접근을 모색했다
• •앤트로픽은 안전 원칙과의 충돌을 이유로 거래를 거절했다
• •OpenAI는 무제한 AI 배치를 위한 군사 파트너십을 수락했다
• •약 150만 명의 사용자가 이 결정에 항의하여 ChatGPT 계정을 삭제했다