Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

このタイミングを味わいましょう。タイミングこそが物語のすべてだからです。6月5日、Anthropicの共同創業者ジャック・クラークは、明らかに拡散を狙って作られた一言を公の場で放ちました。AI業界にはアクセルはあるが、車にブレーキペダルがない、と。その下にある警告は本気で深刻です。Anthropicは、最先端システムが再帰的自己改善に近づいていると考えています。モデルが後継機を自ら構築し訓練し始める地点、ClaudeがClaudeによって改良され、人間がもはや見張るほど速くない地点です。クラークは、ClaudeがすでにAnthropic内部で統合されるコードのおよそ80パーセントを書いており、その数字が数年で100パーセントに達しうると指摘しました。つまり会社は前方の道を見て、ブレーキがないことに気づき、業界全体にどうかブレーキを取り付けてくれと頼んだのです。その4日後の6月9日、同社はこれまで一般公開した中で最も強力なモデル、Claude Fable 5を発表しました。

きれいな企業ロジックがあり、皮肉な読み方があり、そして偶然にも両者は同じ一文です。きれいな版: 安全を重んじる研究所は、危険を警告しつつ最前線を押し進めることもできる。責任ある誰かがハンドルを握るべきだからで、Fable 5はサイバーセキュリティ、生物学、化学の高リスク要求をブロックし、旧モデルのOpus 4.8に切り替える固い制限を備えています。皮肉な版: 存在するには危険すぎるかもしれないと宣言するほど、製品を売り込むものはない。どうか減速させてくれという声明は、我々は自分自身を怖がらせるほど先行しているという声明でもあります。恐怖はこの業界で最も高価な形容詞であり、Anthropicはそれを箱に刻印したばかりか、価格を入力100万トークンあたり10ドル、出力100万あたり50ドルへと倍にしました。Opusの倍です。ブレーキペダルは本物の技術的懸念です。それは同時に、実に都合よく、金では買えない最高の宣伝文句でもあるのです。

そしてここがジョークを台無しにする部分、満足ではなく不安にさせるべき部分です。彼らは単に正しいのかもしれません。アクセルを踏みながら減速しろと叫ぶ会社は偽善的です、ええ。しかし偽善は、道について間違っていることと同じではありません。危険を口にする勇気のある唯一の研究所が、同時にそこへ最も激しく突進している研究所でもあるなら、それは笑い飛ばせる矛盾ではありません。それが罠の本当の形なのです。警告を誠実にする競争のロジックは、警告を無意味にするロジックと同じです。他の者が加速し続ける中で、一人のプレーヤーだけが足を上げることはできないからです。クラークは協調的なブレーキペダルを選択と呼びます。陰鬱な読み方は、それが誰も単独では下せない種類の選択だということです。だからこそ、それについて最も騒いでいる会社が、あなたがたった今さらに前へ飛び出すのを見た会社でもあるのです。