Kemampuan keamanan siber Mythos dari Anthropic membutuhkan kerja sama internasional yang mendesak, kata ‘Bapak Godfather’ AI, Yoshua Bengio

(SeaPRwire) –   Yoshua Bengio, seorang ilmuwan komputer yang dianggap sebagai salah satu “bapak baptis AI” karena kontribusinya dalam merintis sistem pembelajaran mendalam yang mendasari model AI saat ini, telah memperingatkan tentang risiko teknologi yang ia bantu ciptakan selama bertahun-tahun. Kini, katanya, model-model baru seperti Anthropic’s Mythos menunjukkan mengapa lembaga-lembaga internasional sangat perlu bekerja sama untuk mengatasi potensi bahaya AI.

Model terbaru Anthropic, Claude Mythos, dikatakan mewakili lompatan besar dalam keamanan siber, dengan mengidentifikasi ribuan kerentanan “zero-day” yang sebelumnya tidak diketahui. Zero-day adalah bug dalam perangkat lunak yang tidak diketahui oleh pemrogram yang menciptakan perangkat lunak tersebut dan yang dapat memungkinkan peretas untuk melewati kontrol keamanan dan berpotensi mencuri data vital.

Namun, perusahaan tersebut telah mengatakan bahwa karena kemampuan ini bersifat ganda—dan dapat mengaktifkan serangan siber canggih yang mampu mengganggu infrastruktur global yang kritis—mereka hanya merilis sistem ini kepada sekelompok kecil perusahaan untuk memberi mereka keunggulan awal dalam mengamankan sistem vital.

Kelompok perusahaan awal yang dipilih Anthropic untuk berbagi Mythos semuanya adalah firma teknologi yang berbasis di AS yang perangkat lunaknya mendukung banyak sistem kritis dunia. Perusahaan tersebut juga telah memberikan penjelasan kepada pemerintah AS tentang teknologi ini dan sedang dalam proses mulai menyediakan akses ke model tersebut untuk beberapa departemen dan lembaga pemerintah AS.

Sementara beberapa pihak memuji kehati-hatian perusahaan dalam memilih rilis Mythos yang sangat terbatas, keputusan tersebut memunculkan pertanyaan tidak nyaman tentang konsentrasi kekuasaan di tangan hanya satu perusahaan AS. Anthropic sendirian yang memutuskan dengan siapa mereka akan berbagi Mythos. Hal itu membuat banyak bisnis dan pemerintah yang dikeluarkan dari kelompok awal itu memohon akses agar mereka juga dapat mengamankan sistem mereka. Situasi tersebut semakin menegaskan bagi banyak orang mengapa tanggung jawab untuk tata kelola AI perlu dibagikan secara lebih luas dan internasional.

“Tidak masuk akal bahwa individu swasta yang memutuskan nasib infrastruktur untuk orang lain,” kata Bengio dalam sebuah wawancara dengan . “Bagaimana dengan semua perusahaan dan semua negara yang tidak mendapatkan akses?”

Bengio, yang telah memenangkan Turing Award, yang dianggap setara dengan Hadiah Nobel dalam ilmu komputer, hampir bukan satu-satunya yang dengan mendesak menanyakan pertanyaan itu. Bank of England, misalnya, mendesak Anthropic untuk mendapatkan akses ke Mythos bagi bank-bank Inggris, secara terbuka mengumumkan bahwa perusahaan telah meyakinkannya bahwa lembaga-lembaga ini akan mulai mendapatkan akses ke model tersebut minggu depan. Pembahasan dalam pertemuan musim semi IMF dan World Bank, yang saat ini berlangsung di Washington, secara tak terduga didominasi oleh kekhawatiran atas kemampuan Mythos. Pembuat kebijakan memperingatkan bahwa sistem seperti Mythos dapat mengungkap kelemahan di seluruh sistem perbankan global, sementara regulator dan eksekutif—terutama di Eropa—mengatakan mereka belum mendapatkan akses ke model atau sepenuhnya memahami skala kerentanan yang telah ditemukannya.

Bagi banyak pihak di luar AS, Mythos kemungkinan akan mempercepat keinginan yang sudah berkembang untuk “kedaulatan AI”—sebuah istilah yang umumnya mengacu pada memiliki kemampuan dan infrastruktur AI yang tidak bergantung pada perusahaan dan pemerintah yang berada di luar negara tersebut. Banyak tempat khususnya waspada terhadap ketergantungan yang berlebihan pada teknologi AS pada saat pemerintah AS telah menjadi sekutu yang kurang dapat diandalkan dan telah menunjukkan kesediaan untuk mempersenjatai kemacetan rantai pasokan untuk mencapai tujuan kebijakan lainnya. Ada juga kekhawatiran tentang bergantung pada hanya segelintir CEO teknologi AS.

Sementara itu di Washington, pemerintah AS bergerak untuk mengamankan aksesnya sendiri ke model yang kuat tersebut. Dalam memo yang ditinjau oleh Bloomberg, Kantor Manajemen dan Anggaran Gedung Putih memberitahu departemen-departemen kabinet minggu ini bahwa mereka sedang menyiapkan perlindungan untuk memungkinkan lembaga-lembaga federal—termasuk Pertahanan, Keuangan, Perdagangan, Keamanan Dalam Negeri, Kehakiman, dan Luar Negeri—untuk mulai menggunakan versi Mythos, dengan detail lebih lanjut diharapkan “dalam beberapa minggu mendatang.”

Dorongan ini terjadi meskipun ada pertarungan hukum yang sedang berlangsung antara Anthropic dan Pentagon, yang awal tahun ini menyatakan perusahaan tersebut sebagai ancaman rantai pasokan karena perselisihan tentang pengamanan AI. (Anthropic telah menggugat penunjukan tersebut di pengadilan.) Menurut laporan dari Axios, CEO Anthropic Dario Amodei dijadwalkan bertemu dengan Kepala Staf Gedung Putih Susie Wiles pada hari Jumat dalam upaya menyelesaikan perselisihan yang sedang berlangsung.

Bengio mendesak koordinasi internasional yang jauh lebih besar sebagai tanggapan terhadap risiko keamanan siber yang baru ini, termasuk pembentukan badan pengawas yang mirip dengan Badan Pengawas Obat dan Makanan (FDA) untuk mengawasi pengembangan dan penyebaran sistem AI yang canggih. Ia berargumen bahwa pemerintah—khususnya AS—harus menempatkan kewajiban yang lebih jelas pada perusahaan yang mengembangkan model-model ini untuk memastikan teknologi mereka tidak secara tidak sengaja membahayakan infrastruktur kritis di negara lain, dan bahwa pengawasan atas keputusan berisiko tinggi seperti itu tidak dapat diserahkan hanya kepada aktor swasta.

“Perlu ada lembaga yang benar-benar bertugas mengawasi keputusan semacam ini,” katanya. “Seiring kekuatan AI terus tumbuh, pertanyaan tentang komitmen internasional ini menjadi mendesak. Tidak ada alasan bahwa itu akan membatasi diri untuk menyerang infrastruktur AS atau warga negara AS. Jadi ini harus menjadi urusan internasional.”

Pertanyaan sumber terbuka

Bengio juga mengatakan bahwa kesepakatan dengan China perlu menjadi bagian dari respons global yang berarti. AS dan China terkunci dalam perlombaan agresif untuk supremasi AI.

Sementara Bengio memperkirakan bahwa model AI China terkemuka kemungkinan tertinggal rekan-rekan mereka di AS dalam kemampuan mentah sekitar enam bulan, ia menekankan bahwa kesenjangan tersebut sedikit mengurangi risiko yang mendasarinya.

China juga membuat kemajuan pesat dalam model sumber terbuka—sistem di mana parameter dan kode model dasar dibuat tersedia untuk publik—yang menurut peringatan Bengio pada akhirnya dapat menimbulkan bahaya yang bahkan lebih besar daripada sistem yang kuat seperti Mythos.

Tidak seperti model proprietary, sistem sumber terbuka ini dapat diunduh, dimodifikasi, dan dijalankan oleh siapa saja. Bengio mengatakan itu berarti pagar pengaman yang dibangun oleh perusahaan—seperti filter yang dirancang untuk memblokir permintaan berbahaya—dapat dengan mudah dilepas oleh pengguna, sehingga menyisakan sedikit hal untuk mencegah penyalahgunaan.

Seiring model menjadi lebih mampu dalam mengidentifikasi dan mengeksploitasi kerentanan perangkat lunak, ia memperingatkan bahwa merilisnya secara terbuka dapat menyerahkan kemampuan siber yang kuat langsung kepada pelaku jahat.

Kekhawatiran tidak terbatas pada AI sumber terbuka. Bengio memperingatkan bahwa tradisi perangkat lunak sumber terbuka yang lebih luas—yang lama dianggap sebagai pilar keamanan internet—juga sedang dibentuk ulang oleh kemampuan-kemampuan ini.

Selama beberapa dekade, perangkat lunak sumber terbuka—di mana kode tersedia untuk publik—telah dianggap lebih aman, karena memungkinkan lebih banyak pengembang untuk memeriksa dan memperbaiki kerentanan. Tetapi sistem AI yang sangat mampu sekarang dapat memindai kode publik yang sama dalam skala besar untuk mengidentifikasi kelemahan jauh lebih cepat daripada manusia, berpotensi mengubah infrastruktur terbuka yang banyak digunakan menjadi target utama. Sementara Bengio, yang telah lama menjadi pendukung sumber terbuka, mengatakan sistem terbuka masih menawarkan manfaat transparansi dan demokrasi yang penting, di era serangan siber yang dibantu AI, mereka juga dapat menjadi kewajiban serius.