Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

이 타이밍을 음미해 봅시다. 타이밍이 이야기의 전부니까요. 6월 5일, Anthropic 공동창업자 잭 클라크는 분명 퍼지라고 만들어진 한마디를 공개적으로 던졌습니다. AI 업계에는 가속 페달은 있지만 차에 브레이크 페달이 없다고요. 그 아래 깔린 경고는 진심으로 심각합니다. Anthropic은 첨단 시스템이 재귀적 자기개선에 다가가고 있다고 봅니다. 모델이 자신의 후계자를 구축하고 훈련하기 시작하는 지점, Claude가 Claude에 의해 개선되고 인간은 더 이상 지켜볼 만큼 빠르지 않은 지점입니다. 클라크는 Claude가 이미 Anthropic 내부에서 병합되는 코드의 약 80퍼센트를 작성하고 있으며, 그 수치가 몇 년 안에 100퍼센트에 도달할 수 있다고 언급했습니다. 그래서 회사는 앞길을 보고 브레이크가 없음을 알아챘고, 업계 전체에 부디 하나 달아 달라고 부탁했습니다. 나흘 뒤인 6월 9일, 회사는 대중에 공개한 것 중 가장 강력한 모델인 Claude Fable 5를 출시했습니다.

깔끔한 기업 논리가 있고, 냉소적 해석이 있는데, 공교롭게도 둘은 같은 문장입니다. 깔끔한 버전: 안전을 중시하는 연구소는 위험을 경고하면서 동시에 최전선을 밀어붙일 수 있습니다. 책임 있는 누군가가 운전대를 잡아야 하니까요. 그리고 Fable 5는 사이버보안, 생물학, 화학의 고위험 요청을 차단하고 구형 Opus 4.8로 되돌아가는 단단한 한계를 갖추고 있습니다. 냉소적 버전: 존재하기에 너무 위험할지도 모른다고 발표하는 것만큼 제품을 잘 파는 것은 없습니다. 제발 우리를 늦춰 달라는 보도자료는, 우리가 너무 앞서가서 스스로 겁이 난다는 보도자료이기도 합니다. 공포는 업계에서 가장 비싼 형용사이고, Anthropic은 방금 그것을 상자에 찍었으며, 그러고 나서 가격을 입력 100만 토큰당 10달러, 출력 100만당 50달러로 두 배 올렸습니다. Opus의 두 배죠. 브레이크 페달은 진짜 공학적 우려입니다. 그것은 또한, 아주 편리하게도, 돈으로 살 수 없는 최고의 광고 문구이기도 합니다.

그리고 여기 농담을 망치는 부분, 만족이 아니라 불편함을 줘야 할 부분이 있습니다. 그들이 그냥 옳을 수도 있다는 것입니다. 가속 페달을 밟으면서 천천히 가라고 외치는 회사는 위선적입니다, 그렇죠. 하지만 위선은 길에 대해 틀린 것과는 다릅니다. 위험을 입에 담을 용기가 있는 유일한 연구소가 동시에 그곳을 향해 가장 세게 달리는 연구소라면, 그것은 웃어넘길 수 있는 모순이 아닙니다. 그것이 함정의 실제 형태입니다. 경고를 진실하게 만드는 경쟁의 논리가, 경고를 무용하게 만드는 바로 그 논리입니다. 다른 이들이 계속 가속하는 동안 어느 한 선수도 혼자 발을 뗄 수 없으니까요. 클라크는 조율된 브레이크 페달을 선택이라 부릅니다. 음울한 해석은, 그것이 누구도 혼자서는 내릴 수 없는 종류의 선택이라는 것입니다. 바로 그 때문에, 그것에 대해 가장 시끄럽게 떠드는 회사가, 방금 더 멀리 앞서 나가는 모습을 당신이 본 그 회사인 것입니다.