Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

Genießen wir das Timing, denn das Timing ist die ganze Geschichte. Am 5. Juni brachte Anthropic-Mitgruender Jack Clark einen Satz an, der so zitierfaehig war, dass er klar zum Reisen gebaut wurde: Die KI-Branche hat ein Gaspedal, aber kein Bremspedal im Auto. Die Warnung darunter ist aufrichtig ernst. Anthropic glaubt, dass Spitzensysteme sich der rekursiven Selbstverbesserung naehern, dem Punkt, an dem Modelle anfangen, ihre Nachfolger zu bauen und zu trainieren, an dem Claude von Claude verbessert werden koennte, waehrend Menschen nicht mehr schnell genug sind, um zuzusehen. Clark merkte an, dass Claude bereits rund 80 Prozent des bei Anthropic zusammengefuehrten Codes schreibt und dass diese Zahl in ein paar Jahren 100 Prozent erreichen koennte. Also blickte die Firma auf die Straße, sah keine Bremsen und bat die gesamte Branche, doch bitte welche einzubauen. Vier Tage spaeter, am 9. Juni, veroeffentlichte sie Claude Fable 5, das maechtigste Modell, das sie je oeffentlich verfuegbar gemacht hat.

Es gibt eine saubere Unternehmenslogik und es gibt eine zynische Lesart, und zufaellig sind sie derselbe Satz. Die saubere Version: Ein sicherheitsbewusstes Labor kann zugleich vor Gefahr warnen und die Grenze verschieben, denn jemand Verantwortliches sollte am Steuer sitzen, und Fable 5 kommt mit harten Grenzen, die Hochrisikoanfragen zu Cybersicherheit, Biologie und Chemie blockieren und auf das aeltere Opus 4.8 zurueckfallen. Die zynische Version: Nichts verkauft ein Produkt besser, als anzukuendigen, dass es vielleicht zu gefaehrlich ist, um zu existieren. Eine Pressemitteilung, die sagt bitte bremst uns, ist auch eine Pressemitteilung, die sagt wir sind so weit voraus, dass wir uns selbst Angst machen. Angst ist das teuerste Adjektiv der Branche, und Anthropic hat es gerade auf die Schachtel gestempelt und dann den Preis auf zehn Dollar pro Million Eingabe-Token und fuenfzig pro Million Ausgabe verdoppelt, das Doppelte von Opus. Das Bremspedal ist eine echte technische Sorge. Es ist auch, sehr praktisch, die beste Werbung, die Geld nicht kaufen kann.

Und hier kommt der Teil, der den Witz ruiniert, der Teil, der einen eher unbehaglich als selbstzufrieden machen sollte: Sie koennten schlicht recht haben. Eine Firma, die langsamer ruft, waehrend sie aufs Gas tritt, ist heuchlerisch, ja, aber Heuchelei ist nicht dasselbe wie sich ueber die Straße zu irren. Wenn die einzigen Labore, die die Gefahr zu benennen wagen, auch die sind, die am haertesten darauf zurasen, ist das kein Widerspruch, den man weglachen kann. Es ist die tatsaechliche Gestalt der Falle. Die Wettbewerbslogik, die die Warnung aufrichtig macht, ist dieselbe Logik, die die Warnung nutzlos macht, denn kein einzelner Akteur kann den Fuß heben, waehrend die anderen weiter beschleunigen. Clark nennt ein koordiniertes Bremspedal eine Wahl. Die grimmige Lesart ist, dass es die Art Wahl ist, die niemand allein treffen darf, weshalb genau die Firma, die am lautesten darueber ist, auch die ist, die man gerade weiter nach vorn schießen sah.