Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

Laten we genieten van de timing, want de timing is het hele verhaal. Op 5 juni zei Anthropic-medeoprichter Jack Clark iets zo citeerbaars dat het duidelijk gebouwd was om te reizen: de AI-industrie heeft een gaspedaal, maar geen rempedaal in de auto. De waarschuwing eronder is oprecht serieus. Anthropic gelooft dat geavanceerde systemen recursieve zelfverbetering naderen, het punt waarop modellen hun opvolgers gaan bouwen en trainen, waarop Claude door Claude verbeterd kan worden terwijl mensen niet langer snel genoeg zijn om mee te kijken. Clark merkte op dat Claude al ongeveer 80 procent van de code schrijft die binnen Anthropic wordt samengevoegd, en dat dat cijfer over een paar jaar 100 procent kan bereiken. Dus het bedrijf keek naar de weg, zag geen remmen, en vroeg de hele industrie er alstublieft een te installeren. Vier dagen later, op 9 juni, bracht het Claude Fable 5 uit, het krachtigste model dat het ooit publiek beschikbaar maakte.

Er is een nette bedrijfslogica, en er is een cynische lezing, en het zijn toevallig dezelfde zin. De nette versie: een veiligheidsbewust lab kan zowel waarschuwen voor gevaar als de grens verleggen, want iemand verantwoordelijks moet aan het stuur zitten, en Fable 5 komt met harde limieten die hoogrisicovragen over cyberveiligheid, biologie en chemie blokkeren en terugvallen op het oudere Opus 4.8. De cynische versie: niets verkoopt een product beter dan aankondigen dat het misschien te gevaarlijk is om te bestaan. Een persbericht dat zegt alsjeblieft, rem ons af is ook een persbericht dat zegt we lopen zo ver voorop dat we onszelf bang maken. Angst is het duurste bijvoeglijk naamwoord in de industrie, en Anthropic stempelde het net op de doos, en verdubbelde toen de prijs naar tien dollar per miljoen invoertokens en vijftig per miljoen uitvoer, het dubbele van Opus. Het rempedaal is een echte engineeringzorg. Het is ook, heel toevallig, de beste reclametekst die geld niet kan kopen.

En hier komt het deel dat de grap verpest, het deel dat je eerder ongemakkelijk dan zelfvoldaan zou moeten maken: ze hebben misschien gewoon gelijk. Een bedrijf dat langzamer roept terwijl het het gaspedaal indrukt is hypocriet, ja, maar hypocrisie is niet hetzelfde als ongelijk hebben over de weg. Als de enige labs die het gevaar durven benoemen ook de labs zijn die er het hardst naartoe racen, is dat geen tegenstelling die je weg kunt lachen. Het is de werkelijke vorm van de val. De competitieve logica die de waarschuwing oprecht maakt, is dezelfde logica die de waarschuwing nutteloos maakt, want geen enkele speler kan zijn voet optillen terwijl de anderen blijven versnellen. Clark noemt een gecoordineerd rempedaal een keuze. De grimmige lezing is dat het het soort keuze is dat niemand alleen mag maken, en juist daarom is het bedrijf dat er het meeste lawaai over maakt ook het bedrijf dat je net verder vooruit zag schieten.