Anthropic Wants a Brake Pedal, Then Floors It Four Days Later

Mari kita nikmati waktunya, karena waktunya adalah seluruh ceritanya. Pada 5 Juni, salah satu pendiri Anthropic, Jack Clark, melontarkan kalimat yang begitu layak dikutip sehingga jelas dibuat untuk menyebar: industri AI punya pedal gas, tetapi tidak punya pedal rem di mobil. Peringatan di baliknya sungguh serius. Anthropic percaya sistem terdepan mendekati peningkatan diri rekursif, titik di mana model mulai membangun dan melatih penerusnya, di mana Claude bisa ditingkatkan oleh Claude sementara manusia tidak lagi cukup cepat untuk mengawasi. Clark mencatat bahwa Claude sudah menulis sekitar 80 persen kode yang digabungkan di dalam Anthropic, dan angka itu bisa mencapai 100 persen dalam beberapa tahun. Maka perusahaan menatap jalan di depan, tidak melihat rem, dan meminta seluruh industri untuk tolong memasang satu. Empat hari kemudian, pada 9 Juni, ia merilis Claude Fable 5, model terkuat yang pernah ia sediakan untuk publik.

Ada logika korporat yang rapi, dan ada bacaan sinis, dan kebetulan keduanya kalimat yang sama. Versi rapi: laboratorium yang peduli keamanan bisa sekaligus memperingatkan bahaya dan mendorong batas terdepan, karena seseorang yang bertanggung jawab harus memegang kemudi, dan Fable 5 hadir dengan batas keras yang memblokir permintaan berisiko tinggi soal keamanan siber, biologi, dan kimia serta beralih ke Opus 4.8 yang lebih lama. Versi sinis: tidak ada yang menjual produk lebih baik daripada mengumumkan bahwa ia mungkin terlalu berbahaya untuk ada. Siaran pers yang berkata tolong perlambat kami juga siaran pers yang berkata kami begitu jauh di depan sampai menakuti diri sendiri. Ketakutan adalah kata sifat termahal di industri ini, dan Anthropic baru saja mencapnya di kotak, lalu menggandakan harga menjadi sepuluh dolar per juta token masukan dan lima puluh per juta keluaran, dua kali lipat Opus. Pedal rem adalah kekhawatiran teknik yang nyata. Ia juga, sangat kebetulan, iklan terbaik yang tak bisa dibeli dengan uang.

Dan inilah bagian yang merusak leluconnya, bagian yang seharusnya membuatmu tidak nyaman alih-alih puas: mereka mungkin memang benar. Perusahaan yang berteriak pelan-pelan sambil menginjak gas memang munafik, ya, tetapi kemunafikan bukan hal yang sama dengan salah soal jalannya. Jika satu-satunya laboratorium yang berani menyebut bahayanya juga yang berlari paling keras menuju ke sana, itu bukan kontradiksi yang bisa kau tertawakan begitu saja. Itu bentuk asli dari jebakannya. Logika kompetitif yang membuat peringatan itu tulus adalah logika yang sama yang membuat peringatan itu sia-sia, karena tidak ada pemain tunggal yang bisa mengangkat kakinya sementara yang lain terus berakselerasi. Clark menyebut pedal rem terkoordinasi sebagai sebuah pilihan. Bacaan suramnya adalah bahwa itu jenis pilihan yang tak bisa diambil siapa pun sendirian, yang justru itulah alasan perusahaan yang paling ribut soal itu juga perusahaan yang baru saja kau lihat melesat lebih jauh ke depan.