Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

Assaporiamo il tempismo, perche il tempismo e tutta la storia. Il 5 giugno il cofondatore di Anthropic, Jack Clark, ha sganciato una frase cosi citabile da essere chiaramente costruita per viaggiare: l'industria dell'IA ha un acceleratore ma non un pedale del freno nell'auto. L'avvertimento che la regge e sinceramente grave. Anthropic ritiene che i sistemi di frontiera si stiano avvicinando all'auto-miglioramento ricorsivo, il punto in cui i modelli iniziano a costruire e addestrare i propri successori, in cui Claude potrebbe essere migliorato da Claude mentre gli umani non sono piu abbastanza rapidi per sorvegliare. Clark ha osservato che Claude scrive gia circa l'80 per cento del codice integrato dentro Anthropic, e che quella cifra potrebbe raggiungere il 100 per cento in un paio d'anni. Cosi l'azienda ha guardato la strada, non ha visto freni e ha chiesto a tutta l'industria di installarne uno, per favore. Quattro giorni dopo, il 9 giugno, ha rilasciato Claude Fable 5, il modello piu potente che abbia mai reso disponibile al pubblico.

C'e una logica aziendale pulita e c'e una lettura cinica, e per caso sono la stessa frase. La versione pulita: un laboratorio attento alla sicurezza puo sia avvertire del pericolo sia spingere la frontiera, perche qualcuno di responsabile deve tenere il volante, e Fable 5 arriva con limiti rigidi che bloccano le richieste ad alto rischio su cybersicurezza, biologia e chimica e ripiegano sul vecchio Opus 4.8. La versione cinica: niente vende un prodotto meglio di annunciare che potrebbe essere troppo pericoloso per esistere. Un comunicato che dice per favore, rallentateci e anche un comunicato che dice siamo cosi avanti da farci paura da soli. La paura e l'aggettivo piu costoso dell'industria, e Anthropic l'ha appena stampato sulla scatola, e poi ha raddoppiato il prezzo a dieci dollari per milione di token in ingresso e cinquanta per milione in uscita, il doppio di Opus. Il pedale del freno e una preoccupazione ingegneristica reale. E anche, molto comodamente, la migliore pubblicita che il denaro non puo comprare.

Ed ecco la parte che rovina la battuta, quella che dovrebbe metterti a disagio anziche soddisfarti: potrebbero semplicemente avere ragione. Un'azienda che grida piu piano mentre schiaccia l'acceleratore e ipocrita, si, ma l'ipocrisia non e la stessa cosa che sbagliare sulla strada. Se gli unici laboratori disposti a nominare il pericolo sono anche quelli che corrono piu forte verso di esso, non e una contraddizione che si possa ridere via. E la forma reale della trappola. La logica competitiva che rende sincero l'avvertimento e la stessa che lo rende inutile, perche nessun singolo attore puo alzare il piede mentre gli altri continuano ad accelerare. Clark chiama scelta un pedale del freno coordinato. La lettura cupa e che e il tipo di scelta che nessuno puo fare da solo, ed e esattamente per questo che l'azienda che ne fa piu rumore e anche quella che hai appena visto portarsi ancora piu avanti.