Anthropic Wants a Brake Pedal, Then Floors It Four Days Later
“Mashinada tormoz pedali yoq, deydi uni haydab borayotgan kompaniya, jamoatchilikka sotgan eng tezkor motorini ishga tushirishidan bir lahza oldin.”
Sally's not done with you yet.
Drop a URL, screenshot, or file and Sally will give you the honest truth.
Sally's Take
Keling, vaqt tanlovidan zavqlanaylik, chunki vaqt tanlovi butun voqeaning ozi. 5-iyun kuni Anthropic asoschilaridan biri Jek Klark shu qadar iqtibos qilsa boladigan jumlani aytdiki, u aniq tarqalish uchun qurilgan edi: sunaiy intellekt sanoatida gaz pedali bor, ammo mashinada tormoz pedali yoq. Uning ostidagi ogohlantirish chinakam jiddiy. Anthropic ilgor tizimlar rekursiv ozini-ozi takomillashtirishga yaqinlashayotganiga ishonadi, modellar oz vorislarini qura va orgata boshlaydigan, Claude Claude tomonidan yaxshilanishi mumkin bolgan, odamlar esa endi kuzatishga yetarlicha tez bolmagan nuqtaga. Klark Claude allaqachon Anthropic ichida birlashtiriladigan kodning taxminan saksonta foizini yozayotganini va bu raqam bir necha yil ichida yuzta foizga yetishi mumkinligini taakidladi. Shunday qilib, kompaniya yolga qaradi, tormoz kormadi va butun sanoatdan iltimos, bittasini ornating deb soradi. Tort kundan song, 9-iyun kuni, u Claude Fable 5 ni chiqardi, jamoatchilikka taqdim etgan eng quvvatli modeli.
Toza korporativ mantiq bor, kinoyali oqish bor va ular tasodifan bir xil jumla. Toza versiya: xavfsizlikka etibor beradigan laboratoriya bir vaqtning ozida xavf haqida ogohlantirishi va chegarani oldinga surishi mumkin, chunki masuliyatli kimdir rulni ushlab turishi kerak, va Fable 5 kiberxavfsizlik, biologiya va kimyodagi yuqori xavfli sorovlarni bloklaydigan va eski Opus 4.8 ga qaytadigan qattiq cheklovlar bilan keladi. Kinoyali versiya: hech narsa mahsulotni mavjud bolish uchun juda xavfli bolishi mumkinligini elon qilishdan kora yaxshiroq sotmaydi. Iltimos, bizni sekinlashtiring deydigan matbuot bayonoti ayni paytda biz shu qadar oldindamizki, ozimizni qorqitamiz deydigan bayonotdir. Qorquv sanoatdagi eng qimmat sifatdir va Anthropic uni hozirgina qutiga muhrladi, soang narxni million kirish tokeni uchun on dollarga va million chiqish uchun ellik dollarga ikki barobarga oshirdi, Opusdan ikki barobar koproq. Tormoz pedali haqiqiy muhandislik tashvishi. U shuningdek, juda qulay tarzda, pul sotib ololmaydigan eng yaxshi reklama matnidir.
Va mana hazilni buzadigan qism, sizni qoniqtirishdan kora bezovta qilishi kerak bolgan qism: ehtimol ular shunchaki haq. Gazni bosib turib sekinroq deb baqirayotgan kompaniya ikkiyuzlamachi, ha, ammo ikkiyuzlamachilik yol haqida xato qilish bilan bir xil emas. Agar xavfni nomlashga jurat etadigan yagona laboratoriyalar ayni paytda unga eng qattiq yugurayotganlar bolsa, bu siz kulib otib ketadigan ziddiyat emas. Bu tuzoqning haqiqiy shakli. Ogohlantirishni samimiy qiladigan raqobat mantigi ogohlantirishni befoyda qiladigan ayni mantiqdir, chunki boshqalar tezlashishda davom etayotganda hech bir yakka oyinchi oyogini kotara olmaydi. Klark muvofiqlashtirilgan tormoz pedalini tanlov deb ataydi. Mahzun oqish shuki, bu hech kim yolgiz qila olmaydigan tanlov turi, aynan shuning uchun bu haqda eng kop shovqin koataradigan kompaniya siz hozirgina yana ham oldinga otilib ketganini korgan kompaniyadir.
Think your work can survive this?
Drop a URL, screenshot, or file and Sally will give you the honest truth.
What Actually Happened
- •2026-yil 5-iyun kuni Anthropic asoschilaridan biri Jek Klark sunaiy intellekt sanoatida gaz pedali bor, ammo tormoz yoq deb ogohlantirdi va laboratoriyalarni ilgor rivojlanishni sekinlashtirish yoki vaqtincha toxtatish usulini muvofiqlashtirishga chaqirdi.
- •Tashvish rekursiv ozini-ozi takomillashtirish: oz vorislarini qurish va orgatishga yetarlicha qodir sunaiy intellekt agentlari, Claude Claude ni doimiy yaxshilab, odamlar kuzata oladiganidan tezroq.
- •Klark Claude allaqachon Anthropic ichida birlashtiriladigan kodning taxminan saksonta foizini yozayotganini aytdi, bu raqam uning fikricha bir necha yil ichida yuzta foizga yetishi mumkin.
- •Tort kundan song, 9-iyun kuni, Anthropic Claude Fable 5 ni chiqardi, umumiy foydalanishga taqdim etgan eng quvvatli modeli, sinab korgan deyarli har bir qobiliyat mezonida ilgor.
- •Fable 5 qattiq himoya tosiqlari bilan keladi: kiberxavfsizlik, biologiya va kimyo kabi yuqori xavfli sohalarda javoblarni bloklaydi va Claude Opus 4.8 ga qaytadi. Narxi million kirish tokeni uchun on dollar va million chiqish uchun ellik dollar, Opusdan ikki barobar.
Who Got Burned
Sanoat birinchi bolib kuydi, chunki shu qadar oldindan kelgan shu qadar baland ogohlantirish ayni paytda kuch namoyishidir va har bir raqib laboratoriya endi u ham jarlikni korayotganini yoki shunchaki uni payqashga yetarlicha quvvatli emasligini javob berishi kerak. Tartibga soluvchilarga eutiborsiz qoldira olmaydigan jumla va hal qila olmaydigan muammo berildi, chunki tormoz pedalini soraytirgan kompaniya hozirgina tezroq motor chiqargan ayni kompaniyadir. Va xavfsizlik bayonotini ochigicha qabul qilgan har bir kishi tort kun ichida shu eslatmani oldi: bu sanoatda sekinlashishimiz kerak va mana bizning shu kungacha eng quvvatli modelimiz orasidagi masofa printsiplarda emas, ish kunlarida olchanadi. Hech kim yolgon gapirmadi. Bu obezovta qiladigan qism.
Silver Lining
Marketingni olib tashlang va haqiqiy muassasa kamdan-kam uchraydigan ish qildi: jim xavfni baland ovozda, rasmiy ravishda, oz nomi bilan aytdi, sizib chiqish yoki davo arizasini kutish ornига. Rekursiv ozini-ozi takomillashtirishni u kelishidan oldin nomlash haqiqatan ham keyin uzr soarashdan koraroq foydali, va Fable 5 haqiqatan ham eng muhim sohalarda rad etish xulqi bilan keladi, javob berish ornига kuchsizroq modelga qaytadi. Ogohlantirish oz manfaati uchun bolishi mumkin, ammo tasodifan rost bolib chiqadigan oz manfaatli ogohlantirishlar baribir qulay sukunatdan qimmatroq. Agar poygada golib kelayotgan laboratoriyalar ham tormoz tarafdori bolishga tayyor bolsa, ularni kim ornatishi va kim bosishi mumkinligi haqidagi suhbat nihoyat boshlanadigan joyga ega boldi. Bu hech narsa emas-da. Bu yolda u hamma narsa bolishi mumkin.
Your turn. Drop something.
Drop a URL, screenshot, or file and Sally will give you the honest truth.