Pentagon menamakan CEO Anthropic sebagai ‘pembohong’ dengan ‘kompleks Dewa’ saat tenggat waktu penggunaan AI dalam senjata dan pengawasan semakin dekat

(SeaPRwire) –   Perusahaan AI Anthropic mengatakan bahwa ia tidak dapat menerima tawaran “terbaik dan terakhir” Pentagon untuk menyelesaikan kendala yang dimiliki perusahaan mengenai bagaimana militer AS dapat menggunakan model AI-nya. Dengan hanya beberapa jam tersisa sebelum tenggat waktu Jumat untuk mematuhi tuntutan Pentagon atau menghadapi tindakan yang dapat membuat Anthropic dilarang berbisnis dengan perusahaan mana pun yang juga berbisnis dengan militer AS, perselisihan ini semakin memburuk.

Pejabat Pentagon secara terbuka mempertanyakan karakter CEO Anthropic, Dario Amodei. Sementara itu, karyawan di laboratorium AI pesaing telah menandatangani surat terbuka mendukung posisi Anthropic. CEO OpenAI, Sam Altman, memberitahu karyawannya dalam sebuah memo pada Kamis, menurut laporan dari Axios, bahwa OpenAI akan mendorong batasan yang sama untuk senjata otonom dan pengawasan massal seperti yang dilakukan Anthropic saat bernegosiasi untuk memperluas penggunaan ChatGPT, yang saat ini tersedia untuk militer dalam kasus penggunaan non- sensitif, ke domain yang lebih terklasifikasi.

Perselisihan antara Anthropic dan Pentagon sekarang mengancam untuk meledak menjadi pemberontakan di seluruh industri di kalangan pekerja teknologi di perusahaan AI mengenai bagaimana sistem AI yang mereka bangun digunakan oleh militer. Pada Kamis, lebih dari 100 pekerja di Google mengirim surat kepada Jeff Dean, ilmuwan utama perusahaan, juga meminta batasan serupa mengenai bagaimana model AI Gemini Google digunakan oleh militer AS, menurut .

Pada Kamis, Amodei menerbitkan sebuah pernyataan yang menjelaskan mengapa perusahaan percaya bahwa harus ada batasan penggunaan teknologi AI perusahaannya untuk senjata otonom dan pengawasan massal. Ini adalah dua bidang di mana Anthropic saat ini membatasi penggunaan modelnya oleh militer, baik dalam syarat kontraknya maupun melalui perlindungan yang telah dibangun langsung ke dalam model Claudenya. Pentagon ingin batasan ini dihapus dan Anthropic setuju bahwa militer AS dapat menggunakan modelnya “untuk tujuan hukum apa pun.”

Sistem AI terdepan “tidak cukup andal untuk menggerakkan senjata sepenuhnya otonom,” dan tanpa pengawasan yang tepat, mereka “tidak dapat diandalkan untuk menggunakan penilaian kritis yang ditunjukkan oleh pasukan profesional kita yang terlatih tinggi setiap hari,” tulis Amodei dalam pernyataannya. Mengenai pengawasan, dia berargumen, AI yang kuat sekarang dapat menyatukan data publik yang secara individual tidak berbahaya, seperti catatan lokasi, riwayat browsing, dan asosiasi sosial, menjadi gambaran komprehensif tentang kehidupan setiap warga Amerika dalam skala besar.

Emil Michael, wakil menteri perang AS, menyebut Amodei “pembohong” dengan “kompleks dewa” sebagai tanggapan, menuduh CEO itu ingin “mengontrol militer AS secara pribadi” dalam posting di platform media sosial . Dalam posting terpisah, Michael juga menggambarkan Konstitusi Claudenya Anthropic—sebuah dokumen internal yang menguraikan nilai-nilai dan prinsip yang dibangun perusahaan ke dalam AI-nya—sebagai plot perusahaan untuk “memaksakan hukum perusahaan mereka kepada Amerika.”

Pentagon telah menuntut Anthropic menghapus batasan kontrak yang ditolaknya sebelum jam 17.01 Jumat atau menghadapi pembatalan kontrak sebesar $200 juta dengan militer AS atau, dalam langkah yang lebih ekstrem, diberi label “risiko rantai pasokan,” yang secara efektif akan melarang perusahaan mana pun yang berbisnis dengan militer menggunakan teknologi Anthropic.

Langkah semacam ini biasanya hanya digunakan untuk perusahaan musuh asing seperti perusahaan atau perusahaan keamanan siber Rusia, Kaspersky.

“Menggunakannya terhadap perusahaan domestik karena alasan mereka tidak mau mengubah beberapa prinsip semacam ini benar-benar sangat memicu dan belum pernah terjadi sebelumnya,” kata Seán Ó hÉigeartaigh, direktur eksekutif Pusat Studi Risiko Eksistensial Cambridge, kepada .

Departemen Perang juga telah mengancam untuk mengaktifkan Undang-Undang Produksi Pertahanan era Perang Dingin, menggunakan undang-undang itu untuk memaksa Anthropic menyerahkan versi Claude tanpa batasan dengan alasan pemerintah menganggapnya penting untuk keamanan nasional. Jika Pentagon memang mengambil langkah ini, mereka akan menggunakan kekuatan yang hanya dimaksudkan untuk darurat untuk menyelesaikan perselisihan kontrak saat masa damai. Ada beberapa preseden untuk ini: Pemerintah Biden juga mengaktifkan DPA pada tahun 2023 untuk memaksa laboratorium AI terdepan menyerahkan informasi tentang keamanan model AI mereka. Tetapi memaksa sebuah perusahaan untuk memproduksi produk, bukan hanya memberikan informasi, mendekati nasionalisasi perusahaan teknologi terkemuka.

“Jika mereka secara efektif dipaksa untuk mengizinkan teknologi mereka digunakan dengan cara yang bahkan mereka sendiri katakan tidak andal dalam situasi bertaruh tinggi seperti di medan perang,” kata Ó hÉigeartaigh, “itu menciptakan preseden yang sangat berbahaya.”

Departemen Perang secara terbuka menyatakan tidak bermaksud melakukan pengawasan massal atau menghilangkan manusia dari keputusan penargetan senjata, tetapi perselisihan ini mungkin terletak pada bagaimana masing-masing pihak mendefinisikan “otonom” atau “pengawasan” dalam praktiknya. Perwakilan departemen tidak segera menjawab permintaan komentar dari .

Seorang juru bicara Anthropic mengatakan kepada bahwa perusahaan terus “berkomunikasi dengan baik” dengan Departemen Perang. Namun, juru bicara itu mengatakan bahwa bahasa kontrak yang diterima semalam tidak membuat “kemajuan sama sekali” pada masalah inti. Bahasa baru yang “dibingkai sebagai kompromi” “dipasangkan dengan bahasa hukum yang akan memungkinkan perlindungan itu diabaikan sesuka hati,” katanya. Amodei telah menyebut ancaman dari Departemen Perang “sebenarnya bertentangan” karena “satu menglabeli kami sebagai risiko keamanan; yang lain menglabeli Claude sebagai penting untuk keamanan nasional.”

Anthropic telah mendapat pujian dari beberapa pihak karena kesediaannya untuk berdiri teguh. Profesor hukum Harvard, Lawrence Lessig, memuji pernyataan perusahaan itu sebagai “tindakan keberintegritas dan prinsip yang indah” dan menyebutnya “sangat langka di zaman kita.”

Pesaing OpenAI dan xAI telah menyetujui kontrak dengan Pentagon yang memungkinkan model mereka digunakan untuk semua tujuan hukum, dengan xAI lebih jauh lagi dengan juga setuju untuk mengerahkan sistemnya di beberapa pengaturan terklasifikasi. Tetapi lebih dari 330 karyawan saat ini di laboratorium pesaing DeepMind dan OpenAI juga telah menerbitkan surat terbuka mendukung Anthropic yang mendesak pimpinan mereka untuk mengikuti jejak perusahaan itu. “Mereka mencoba membagi setiap perusahaan dengan rasa takut bahwa yang lain akan menyerah,” tulis surat itu. “Strategi itu hanya akan berhasil jika tidak ada dari kita yang tahu posisi orang lain.” Para penandatangan termasuk ilmuwan riset senior dan peneliti bernama dan anonim dari kedua perusahaan.

Ó hÉigeartaigh mengatakan bahwa hasil perselisihan ini bisa melampaui Anthropic itu sendiri. “Jika Pentagon menang dalam hal ini,” katanya, “itu akan menciptakan preseden yang tidak baik untuk kemandirian perusahaan-perusahaan ini, atau kemampuan mereka untuk mematuhi standar etika.”