Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

Saboreemos el momento, porque el momento es toda la historia. El 5 de junio, el cofundador de Anthropic, Jack Clark, soltó una frase tan citable que estaba claramente hecha para viajar: la industria de la IA tiene acelerador pero no freno en el coche. La advertencia que la sostiene es sinceramente grave. Anthropic cree que los sistemas de vanguardia se acercan a la automejora recursiva, el punto en que los modelos empiezan a construir y entrenar a sus sucesores, en que Claude podria ser mejorado por Claude mientras los humanos ya no son lo bastante rapidos para vigilar. Clark señaló que Claude ya escribe alrededor del 80 por ciento del codigo que se fusiona dentro de Anthropic, y que esa cifra podria llegar al 100 por ciento en un par de años. Asi que la empresa miró la carretera, no vio frenos y le pidió a toda la industria que, por favor, instalara alguno. Cuatro dias despues, el 9 de junio, lanzó Claude Fable 5, el modelo mas potente que jamas ha puesto a disposicion del publico.

Hay una logica corporativa limpia y hay una lectura cinica, y resulta que son la misma frase. La version limpia: un laboratorio centrado en la seguridad puede a la vez advertir del peligro y empujar la frontera, porque alguien responsable debe sostener el volante, y Fable 5 llega con limites duros que bloquean las consultas de alto riesgo sobre ciberseguridad, biologia y quimica y recurren al antiguo Opus 4.8. La version cinica: nada vende mejor un producto que anunciar que quizas es demasiado peligroso para existir. Un comunicado que dice por favor, frenadnos es tambien un comunicado que dice vamos tan por delante que nos asustamos a nosotros mismos. El miedo es el adjetivo mas caro de la industria, y Anthropic acaba de estamparlo en la caja, y luego duplicó el precio a diez dolares por millon de tokens de entrada y cincuenta por millon de salida, el doble que Opus. El pedal de freno es una preocupacion de ingenieria real. Tambien es, muy convenientemente, el mejor anuncio que el dinero no puede comprar.

Y aqui viene la parte que arruina el chiste, la parte que deberia incomodarte mas que satisfacerte: quizas simplemente tienen razon. Una empresa que grita mas despacio mientras pisa el acelerador es hipocrita, si, pero la hipocresia no es lo mismo que equivocarse sobre la carretera. Si los unicos laboratorios dispuestos a nombrar el peligro son tambien los que corren mas fuerte hacia el, esa no es una contradiccion que puedas reir y olvidar. Es la forma real de la trampa. La logica competitiva que hace sincera la advertencia es la misma que la hace inutil, porque ningun jugador solo puede levantar el pie mientras los demas siguen acelerando. Clark llama eleccion a un pedal de freno coordinado. La lectura sombria es que es el tipo de eleccion que nadie puede tomar en solitario, que es justo por lo que la empresa que mas ruido hace al respecto es tambien la que acabas de ver adelantarse aun mas.