Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

دعونا نتذوق التوقيت، فالتوقيت هو القصة كلها. في الخامس من يونيو، أطلق جاك كلارك، الشريك المؤسس لشركة Anthropic، عبارة قابلة للاقتباس إلى حد أنها صُممت بوضوح للانتشار: صناعة الذكاء الاصطناعي لديها دواسة بنزين لكن لا دواسة فرامل في السيارة. التحذير الكامن تحتها جاد بصدق. تعتقد Anthropic أن الأنظمة المتقدمة تقترب من التحسين الذاتي المتكرر، النقطة التي تبدأ فيها النماذج ببناء خلفائها وتدريبهم، حيث يمكن تحسين Claude بواسطة Claude بينما لم يعد البشر سريعين بما يكفي للمراقبة. أشار كلارك إلى أن Claude يكتب بالفعل نحو ثمانين بالمئة من الشيفرة المدمجة داخل Anthropic، وأن هذا الرقم قد يبلغ مئة بالمئة خلال بضع سنوات. فنظرت الشركة إلى الطريق، لم ترَ فرامل، وطلبت من الصناعة كلها أن تركّب واحدة من فضلكم. وبعد أربعة أيام، في التاسع من يونيو، أطلقت Claude Fable 5، أقوى نموذج أتاحته للجمهور على الإطلاق.

هناك منطق مؤسسي نظيف، وهناك قراءة ساخرة، وهما بالصدفة الجملة نفسها. النسخة النظيفة: مختبر يهتم بالأمان يمكنه أن يحذر من الخطر ويدفع الحدود في آن واحد، لأن على شخص مسؤول أن يمسك المقود، ويأتي Fable 5 بحدود صارمة تحظر الطلبات عالية الخطورة في الأمن السيبراني والأحياء والكيمياء وتعود إلى Opus 4.8 الأقدم. النسخة الساخرة: لا شيء يسوّق منتجاً أفضل من الإعلان بأنه قد يكون خطيراً جداً على الوجود. البيان الصحفي الذي يقول أرجوكم أبطئونا هو أيضاً بيان يقول نحن متقدمون لدرجة أننا نخيف أنفسنا. الخوف هو أغلى صفة في الصناعة، وقد ختمته Anthropic للتو على الصندوق، ثم ضاعفت السعر إلى عشرة دولارات لكل مليون رمز إدخال وخمسين لكل مليون إخراج، ضعف Opus. دواسة الفرامل قلق هندسي حقيقي. وهي أيضاً، بشكل مريح جداً، أفضل إعلان لا يستطيع المال شراءه.

وهنا يأتي الجزء الذي يفسد النكتة، الجزء الذي ينبغي أن يُشعرك بعدم الارتياح لا بالرضا: قد يكونون محقين ببساطة. الشركة التي تصرخ أبطئوا بينما تضغط الوقود منافقة، نعم، لكن النفاق ليس كالخطأ بشأن الطريق. إذا كانت المختبرات الوحيدة المستعدة لتسمية الخطر هي نفسها التي تركض نحوه بأشد قوة، فهذا ليس تناقضاً يمكن أن تضحك منه. إنه الشكل الحقيقي للفخ. المنطق التنافسي الذي يجعل التحذير صادقاً هو المنطق نفسه الذي يجعله عديم الجدوى، لأنه لا يمكن لأي لاعب منفرد أن يرفع قدمه بينما يواصل الآخرون التسارع. يسمي كلارك دواسة الفرامل المنسقة خياراً. القراءة القاتمة هي أنها من نوع الخيارات التي لا يستطيع أحد اتخاذها بمفرده، وهذا بالضبط سبب أن الشركة التي تثير أكبر ضجة حولها هي نفسها التي رأيتها للتو تندفع إلى الأمام أكثر.