Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

Uzivajmo u tajmingu, jer tajming je cela prica. Petog juna suosnivac Anthropica, Dzek Klark, izrekao je recenicu toliko podesnu za citiranje da je ocigledno gradjena da putuje: industrija vestacke inteligencije ima papicicu gasa, ali nema papicicu kocnice u autu. Upozorenje ispod nje iskreno je ozbiljno. Anthropic veruje da se vrhunski sistemi priblizavaju rekurzivnom samopoboljsanju, tacki u kojoj modeli pocinju da grade i obucavaju svoje naslednike, u kojoj bi Claude mogao da bude poboljsan od strane Claudea dok ljudi vise nisu dovoljno brzi da prate. Klark je primetio da Claude vec pise oko 80 odsto koda spojenog unutar Anthropica i da bi ta cifra mogla da dosegne 100 odsto za nekoliko godina. Pa je kompanija pogledala put, nije videla kocnice i zamolila celu industriju da, molim vas, ugradi neku. Cetiri dana kasnije, devetog juna, izdala je Claude Fable 5, najmocniji model koji je ikada ucinila javno dostupnim.

Postoji cista korporativna logika i postoji cinicno citanje, i slucajno su ista recenica. Cista verzija: laboratorija koja vodi racuna o bezbednosti moze istovremeno da upozorava na opasnost i pomera granicu, jer neko odgovoran treba da drzi volan, a Fable 5 dolazi sa tvrdim ogranicenjima koja blokiraju visokorizicne upite o sajber bezbednosti, biologiji i hemiji i vracaju se na stariji Opus 4.8. Cinicna verzija: nista ne prodaje proizvod bolje od najave da je mozda preopasan da bi postojao. Saopstenje koje kaze molimo vas, usporite nas ujedno je saopstenje koje kaze toliko smo ispred da plasimo sami sebe. Strah je najskuplji pridev u industriji, a Anthropic ga je upravo utisnuo na kutiju, pa potom udvostrucio cenu na deset dolara po milionu ulaznih tokena i pedeset po milionu izlaznih, dvostruko od Opusa. Papicica kocnice je stvarna inzenjerska briga. Ujedno je, vrlo zgodno, najbolja reklama koju novac ne moze da kupi.

I tu dolazi deo koji kvari salu, deo koji bi trebalo pre da te uznemiri nego da te zadovolji: mozda su jednostavno u pravu. Kompanija koja vice usporite dok gazi gas jeste licemerna, da, ali licemerje nije isto sto i pogresiti u proceni puta. Ako su jedine laboratorije spremne da imenuju opasnost ujedno one koje najjace jure ka njoj, to nije protivrecnost koju mozes da oduvas smehom. To je stvarni oblik zamke. Takmicarska logika koja upozorenje cini iskrenim ista je logika koja ga cini beskorisnim, jer nijedan pojedinacni igrac ne moze da podigne nogu dok ostali nastavljaju da ubrzavaju. Klark koordinisanu papicicu kocnice naziva izborom. Mracno citanje je da je to vrsta izbora koju niko ne moze da napravi sam, sto je upravo razlog zasto je kompanija koja o tome dize najvise buke ujedno ona koju si upravo video kako odmice jos dalje napred.