Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

Savourons le calendrier, car le calendrier est toute l'histoire. Le 5 juin, le cofondateur d'Anthropic, Jack Clark, a livré une phrase si citable qu'elle était manifestement faite pour voyager: l'industrie de l'IA a un accelerateur mais pas de frein dans la voiture. L'avertissement qui la sous-tend est sincerement grave. Anthropic estime que les systemes de pointe approchent de l'auto-amelioration recursive, le point ou les modeles commencent a construire et entrainer leurs successeurs, ou Claude pourrait etre ameliore par Claude alors que les humains ne sont plus assez rapides pour suivre. Clark a noté que Claude écrit deja environ 80 pour cent du code fusionné au sein d'Anthropic, et que ce chiffre pourrait atteindre 100 pour cent dans quelques annees. L'entreprise a donc regardé la route, n'a vu aucun frein, et a demandé a toute l'industrie d'en installer un, s'il vous plait. Quatre jours plus tard, le 9 juin, elle a lancé Claude Fable 5, le modele le plus puissant qu'elle ait jamais rendu public.

Il y a une logique d'entreprise propre, et il y a une lecture cynique, et ce sont par hasard la meme phrase. La version propre: un laboratoire soucieux de securité peut a la fois avertir du danger et repousser la frontiere, car quelqu'un de responsable doit tenir le volant, et Fable 5 arrive avec des limites strictes qui bloquent les requetes a haut risque en cybersecurité, biologie et chimie et se rabattent sur l'ancien Opus 4.8. La version cynique: rien ne vend mieux un produit que d'annoncer qu'il est peut-etre trop dangereux pour exister. Un communiqué qui dit s'il vous plait, ralentissez-nous est aussi un communiqué qui dit nous sommes tellement en avance que nous nous faisons peur. La peur est l'adjectif le plus cher de l'industrie, et Anthropic vient de l'estampiller sur la boite, puis a doublé le prix a dix dollars le million de tokens d'entree et cinquante le million de sortie, le double d'Opus. Le frein est une vraie preoccupation d'ingenierie. C'est aussi, fort commodement, la meilleure publicité que l'argent ne peut acheter.

Et voici la partie qui gache la blague, celle qui devrait vous mettre mal a l'aise plutot que satisfait: ils ont peut-etre tout simplement raison. Une entreprise qui crie ralentissez tout en accelerant est hypocrite, oui, mais l'hypocrisie n'est pas la meme chose que se tromper sur la route. Si les seuls laboratoires prets a nommer le danger sont aussi ceux qui foncent le plus fort vers lui, ce n'est pas une contradiction qu'on balaie d'un rire. C'est la forme reelle du piege. La logique concurrentielle qui rend l'avertissement sincere est la meme qui le rend inutile, car aucun acteur seul ne peut lever le pied pendant que les autres continuent d'accelerer. Clark appelle un frein coordonné un choix. La lecture sinistre est que c'est le genre de choix que personne ne peut faire seul, ce qui explique precisement pourquoi l'entreprise qui en fait le plus de bruit est aussi celle que vous venez de voir prendre de l'avance.