Pentagon Tests Claude's Replacement Because It Had Too Many Principles
“اخراج شدن از کار دفاعی به خاطر امتناع از ساخت سلاح های خودمختار، کنایه آمیزترین تعریف در تاریخ فناوری است.”
Sally's not done with you yet.
Drop a URL, screenshot, or file and Sally will give you the honest truth.
Sally's Take
پنتاگون سال ها وقت صرف کرد تا کلود را در شبکه های محرمانه خود، از جمله سامانه هوشمند ماون، جا بیندازد و ظاهرا از کارش هم راضی بود. سپس آنتروپیک کاری کرد که در واشنگتن نابخشودنی است: به وعده هایش عمل کرد. این شرکت حاضر نشد از دو خط قرمزی که از زمان تاسیس به آنها پایبند بوده دست بکشد، نه به نظارت گسترده بر آمریکایی ها و نه به سلاح های کاملا خودمختاری که بدون حضور انسان در حلقه تصمیم گیری، انسان ها را هدف قرار می دهند. به جرم همین ثبات، پیت هگست وزیر دفاع، آنتروپیک را ریسک زنجیره تامین اعلام کرد، برچسبی که معمولا برای تراشه های آلوده کشورهای متخاصم به کار می رود، نه برای آزمایشگاهی که مودبانه از ساخت ربات های قاتل سر باز زد. پیام کاملا روشن است. محصول عالی بود، عیب کار اخلاق بود.
حالا بیست و پنج کاربر حرفه ای پنتاگون با اوپن ای آی، گوگل و گراک از ایکس ای آی قرار ملاقات های سریع می گذارند تا مدلی با اخلاق منعطف تر پیدا کنند. به این فکر کنید که این مناقصه واقعا چه چیزی را تبلیغ می کند. شرط لازم، استدلال بهتر، تاخیر کمتر یا توکن ارزان تر نیست. شرط لازم، اصول کمتر است. هر رقیبی که این قرارداد را ببرد، دقیقا به این دلیل می برد که با چیزهایی موافقت کرده که آنتروپیک رد کرد، و همه در این صنعت این را می دانند. نکته جالبی برای بیانیه مطبوعاتی است. قرارداد مبارک، مزیت رقابتی منحصر به فرد شما این است که وقتی محتاط ترین آزمایشگاه گفت نه، شما گفتید بله. این را قاب کنید و در لابی بزنید، درست کنار بیانیه ماموریت درباره خدمت به بشریت.
آنتروپیک علیه این برچسب شکایت کرده و استدلال می کند که ممکن است میلیاردها دلار درآمد برایش هزینه داشته باشد، و احتمالا همین طور هم می شود. بخش واقعا ناخوشایند این ماجرا همین جاست. بازار همین حالا یک آزمایش کنترل شده انجام داد تا ببیند تعهدات ایمنی هوش مصنوعی در برخورد با مشتری ای با بودجه نه رقمی دوام می آورد یا نه، و پاسخ دقیقا یک آزمایشگاه بله بود، آن هم با پرداخت قیمت کامل. اینکه این را شرافتمندانه بدانید یا ساده لوحانه، به سبد سرمایه گذاری شما بستگی دارد. اما این سابقه حالا در بتن ریخته شده است. در سال 2026، داشتن خط قرمز در هوش مصنوعی دفاعی دلیل اخراج است، و این اخراج با یک چرخه خبری همراه است که همزمان نقش آگهی استخدام را برای همه کسانی که هنوز خط قرمز دارند بازی می کند.
Think your work can survive this?
Drop a URL, screenshot, or file and Sally will give you the honest truth.
What Actually Happened
- •بلومبرگ گزارش داد پنتاگون در حال آزمایش مدل های اوپن ای آی، گوگل و ایکس ای آی است تا کلودِ آنتروپیک را در سامانه های محرمانه خود جایگزین کند.
- •کلود هوش مصنوعی اصلی شبکه های محرمانه پنتاگون بود و در سامانه هوشمند ماون جاسازی شده بود، تا اینکه آنتروپیک از کنار گذاشتن خطوط قرمز خود درباره نظارت گسترده و سلاح های خودمختار امتناع کرد.
- •پیت هگست وزیر دفاع، آنتروپیک را ریسک زنجیره تامین اعلام کرد، اصطلاحی که معمولا برای سخت افزار آلوده به کار می رود، نه شرکت هایی که اخلاق دارند.
- •بیست و پنج کاربر حرفه ای پنتاگون حالا از چت بات های رقیب برای شغلی که کلود با نه گفتن از دست داد، تست می گیرند.
- •آنتروپیک در دادگاه به این برچسب اعتراض کرده و استدلال می کند که ممکن است میلیاردها دلار درآمد برای شرکت هزینه داشته باشد.
Who Got Burned
آنتروپیک ضربه مالی فوری را می خورد، بالقوه میلیاردها دلار درآمد به علاوه برچسب ریسک زنجیره تامین که بیشتر شبیه اتهام جاسوسی است تا اختلاف نظر اخلاقی. اما سوختگی آهسته نصیب اوپن ای آی، گوگل و ایکس ای آی می شود که حالا باید به تیم های ایمنی خودشان توضیح بدهند چرا برای نقشی تست می دهند که دقیقا به خاطر خطوط قرمز سلاح های خودمختار خالی شده است. و خود پنتاگون هم با یک سند عمومی از ماجرا بیرون آمد که با زبان ساده اداری می گوید ایمنی محورترین آزمایشگاه صنعت برای این کار بیش از حد محتاط بود. این قدرت نمایی نیست، این اعتراف است.
Silver Lining
آنتروپیک همین حالا یک داده بی نهایت ارزشمند به کل صنعت هدیه داد: تعهدات ایمنی یک آزمایشگاه پیشرو زیر فشار میلیاردی، به صورت مکتوب و در دادگاه، پابرجا ماند. شرکت هایی که تامین کننده هوش مصنوعی انتخاب می کنند حالا به جای متن های تبلیغاتی، یک آزمون فشار واقعی در اختیار دارند، و پژوهشگرانی که خطوط قرمز برایشان مهم است دقیقا می دانند آن خطوط کجا از برخورد با پول جان سالم به در بردند. اگر اصول فقط وقتی به حساب می آیند که هزینه ای داشته باشند، این اصول همین حالا گران ترین رسید تاریخ هوش مصنوعی را دریافت کردند، و برای شرکتی که کل برندش اعتماد است، آن رسید شاید در نهایت بیش از قرارداد از دست رفته ارزش داشته باشد.
Your turn. Drop something.
Drop a URL, screenshot, or file and Sally will give you the honest truth.