Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

Uzivajmo u trenutku, jer trenutak je cijela prica. Petog lipnja suosnivac Anthropica, Jack Clark, izrekao je recenicu toliko podobnu za citiranje da je ocito gradjena da putuje: industrija umjetne inteligencije ima papucicu gasa, ali nema papucicu kocnice u autu. Upozorenje ispod nje iskreno je ozbiljno. Anthropic vjeruje da se vrhunski sustavi priblizavaju rekurzivnom samopoboljsanju, tocki u kojoj modeli pocinju graditi i trenirati svoje nasljednike, u kojoj bi Claude mogao biti poboljsan od strane Claudea dok ljudi vise nisu dovoljno brzi da prate. Clark je primijetio da Claude vec pise oko 80 posto koda spojenog unutar Anthropica i da bi ta brojka mogla dosegnuti 100 posto za nekoliko godina. Pa je tvrtka pogledala cestu, nije vidjela kocnice i zamolila cijelu industriju da, molim vas, ugradi neku. Cetiri dana kasnije, devetog lipnja, izdala je Claude Fable 5, najmocniji model koji je ikad ucinila javno dostupnim.

Postoji cista korporativna logika i postoji cinicno citanje, i slucajno su ista recenica. Cista verzija: laboratorij koji vodi racuna o sigurnosti moze istovremeno upozoravati na opasnost i pomicati granicu, jer netko odgovoran treba drzati volan, a Fable 5 dolazi s tvrdim ogranicenjima koja blokiraju visokorizicne upite o kibernetickoj sigurnosti, biologiji i kemiji i vracaju se na stariji Opus 4.8. Cinicna verzija: nista ne prodaje proizvod bolje od najave da je mozda preopasan da bi postojao. Priopcenje koje kaze molimo, usporite nas ujedno je priopcenje koje kaze toliko smo ispred da plasimo sami sebe. Strah je najskuplji pridjev u industriji, a Anthropic ga je upravo utisnuo na kutiju, pa potom udvostrucio cijenu na deset dolara po milijunu ulaznih tokena i pedeset po milijunu izlaznih, dvostruko od Opusa. Papucica kocnice stvarna je inzenjerska briga. Ujedno je, vrlo zgodno, najbolja reklama koju novac ne moze kupiti.

I tu dolazi dio koji kvari salu, dio koji bi te trebao prije uznemiriti nego zadovoljiti: mozda su jednostavno u pravu. Tvrtka koja vice usporite dok gazi gas jest licemjerna, da, ali licemjerje nije isto sto i pogresno procijeniti cestu. Ako su jedini laboratoriji spremni imenovati opasnost ujedno oni koji najjace jure prema njoj, to nije proturjecje koje mozes otpuhnuti smijehom. To je stvarni oblik zamke. Natjecateljska logika koja upozorenje cini iskrenim ista je logika koja ga cini beskorisnim, jer nijedan pojedinacni igrac ne moze podici nogu dok ostali nastavljaju ubrzavati. Clark koordiniranu papucicu kocnice naziva izborom. Mrak citanja je da je to vrsta izbora koju nitko ne moze napraviti sam, sto je upravo razlog zasto je tvrtka koja o tome dize najvise buke ujedno ona koju si upravo vidio kako odmice jos dalje naprijed.