Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

Lad os nyde timingen, for timingen er hele historien. Den 5. juni leverede Anthropics medstifter Jack Clark en sætning, der var sa citerbar, at den tydeligvis var bygget til at rejse: AI-industrien har en speeder, men ingen bremsepedal i bilen. Advarslen under den er oprigtigt alvorlig. Anthropic mener, at frontsystemer nærmer sig rekursiv selvforbedring, det punkt hvor modeller begynder at bygge og træne deres efterfolgere, hvor Claude kunne forbedres af Claude, mens mennesker ikke længere er hurtige nok til at folge med. Clark bemærkede, at Claude allerede skriver omkring 80 procent af den kode, der flettes ind i Anthropic, og at det tal kunne na 100 procent om et par ar. Sa firmaet kiggede pa vejen, sa ingen bremser og bad hele industrien om venligst at installere nogle. Fire dage senere, den 9. juni, udgav det Claude Fable 5, den mest kraftfulde model det nogensinde har gjort offentligt tilgængelig.

Der er en ren virksomhedslogik, og der er en kynisk læsning, og de er tilfældigvis samme sætning. Den rene version: et sikkerhedsbevidst laboratorium kan bade advare om fare og skubbe grænsen, fordi nogen ansvarlig bor holde rattet, og Fable 5 kommer med harde grænser, der blokerer hojrisikoanmodninger om cybersikkerhed, biologi og kemi og falder tilbage til den ældre Opus 4.8. Den kyniske version: intet sælger et produkt bedre end at meddele, at det maske er for farligt til at eksistere. En pressemeddelelse, der siger venligst, sænk os, er ogsa en pressemeddelelse, der siger vi er sa langt foran, at vi skræmmer os selv. Frygt er det dyreste tillægsord i industrien, og Anthropic har lige stemplet det pa kassen og derefter fordoblet prisen til ti dollar pr. million input-tokens og halvtreds pr. million output, det dobbelte af Opus. Bremsepedalen er en reel ingenior-bekymring. Den er ogsa, meget belejligt, den bedste reklame, penge ikke kan kobe.

Og her kommer den del, der odelægger vittigheden, den del der bor gore dig utilpas snarere end selvtilfreds: de har maske simpelthen ret. Et firma, der raber langsommere, mens det træder speederen i bund, er hyklerisk, ja, men hykleri er ikke det samme som at tage fejl om vejen. Hvis de eneste laboratorier, der vil navngive faren, ogsa er dem, der racer hardest mod den, er det ikke en modsigelse, du kan grine væk. Det er fældens faktiske form. Den konkurrencelogik, der gor advarslen oprigtig, er den samme logik, der gor advarslen ubrugelig, for ingen enkelt spiller kan lofte foden, mens de andre bliver ved med at accelerere. Clark kalder en koordineret bremsepedal et valg. Den dystre læsning er, at det er den slags valg, ingen kan træffe alene, hvilket er præcis grunden til, at firmaet, der larmer mest om det, ogsa er det, du lige sa kore endnu længere foran.