Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

بیایید از زمان‌بندی لذت ببریم، چون زمان‌بندی تمام داستان است. در پنجم ژوئن، جک کلارک، هم‌بنیان‌گذار Anthropic، جمله‌ای چنان نقل‌قول‌پذیر گفت که آشکارا برای انتشار ساخته شده بود: صنعت هوش مصنوعی پدال گاز دارد اما در خودرو پدال ترمز ندارد. هشدار زیر آن صادقانه جدی است. Anthropic معتقد است سامانه‌های پیشرو به خودبهبودسازی بازگشتی نزدیک می‌شوند، نقطه‌ای که مدل‌ها شروع به ساختن و آموزش جانشینان خود می‌کنند، جایی که Claude می‌تواند توسط Claude بهبود یابد در حالی که انسان‌ها دیگر آن‌قدر سریع نیستند که نظارت کنند. کلارک اشاره کرد که Claude هم‌اکنون حدود هشتاد درصد کدی را که درون Anthropic ادغام می‌شود می‌نویسد و این رقم می‌تواند ظرف چند سال به صد درصد برسد. پس شرکت به جاده نگاه کرد، ترمزی ندید و از کل صنعت خواست لطفاً یکی نصب کنند. چهار روز بعد، در نهم ژوئن، Claude Fable 5 را عرضه کرد، قدرتمندترین مدلی که تا کنون در دسترس عموم گذاشته است.

یک منطق شرکتی تمیز هست و یک خوانش بدبینانه، و اتفاقاً هر دو همان یک جمله‌اند. نسخه تمیز: یک آزمایشگاه ایمنی‌محور می‌تواند هم درباره خطر هشدار دهد و هم مرز را جلو ببرد، چون کسی مسئول باید فرمان را در دست بگیرد، و Fable 5 با محدودیت‌های سختی می‌آید که درخواست‌های پرخطر امنیت سایبری، زیست‌شناسی و شیمی را مسدود می‌کند و به Opus 4.8 قدیمی‌تر بازمی‌گردد. نسخه بدبینانه: هیچ چیز محصولی را بهتر از اعلام اینکه شاید برای وجود داشتن بیش از حد خطرناک است نمی‌فروشد. بیانیه‌ای که می‌گوید لطفاً ما را کند کنید، بیانیه‌ای است که می‌گوید آن‌قدر جلوییم که خودمان را می‌ترسانیم. ترس گران‌ترین صفت صنعت است و Anthropic تازه آن را روی جعبه مهر زده، سپس قیمت را به ده دلار به ازای هر میلیون توکن ورودی و پنجاه به ازای هر میلیون خروجی دو برابر کرده، دو برابر Opus. پدال ترمز یک نگرانی مهندسی واقعی است. ضمناً، بسیار به‌جا، بهترین تبلیغی است که پول نمی‌تواند بخرد.

و اینجا بخشی می‌آید که شوخی را خراب می‌کند، بخشی که باید بیشتر معذبتان کند تا راضی: شاید آن‌ها صرفاً درست می‌گویند. شرکتی که فریاد می‌زند آهسته‌تر در حالی که پدال گاز را فشار می‌دهد، ریاکار است، بله، اما ریاکاری همان اشتباه کردن درباره جاده نیست. اگر تنها آزمایشگاه‌هایی که جرئت نامیدن خطر را دارند همان‌هایی باشند که سخت‌ترین دوندگی را به سوی آن می‌کنند، این تناقضی نیست که بتوان با خنده از کنارش گذشت. این شکل واقعی تله است. منطق رقابتی که هشدار را صادقانه می‌کند همان منطقی است که هشدار را بی‌فایده می‌کند، چون هیچ بازیگر تنهایی نمی‌تواند پایش را بردارد در حالی که دیگران به شتاب گرفتن ادامه می‌دهند. کلارک یک پدال ترمز هماهنگ را یک انتخاب می‌نامد. خوانش تیره این است که این از آن دست انتخاب‌هاست که هیچ‌کس به‌تنهایی نمی‌تواند بگیرد، و دقیقاً به همین دلیل شرکتی که بیشترین سروصدا را درباره‌اش راه می‌اندازد همان شرکتی است که تازه دیدید چطور بیشتر جلو زد.