Gavin Newsom Tolak RUU Keamanan AI yang Kontroversial di California

(SeaPRwire) –   Gubernur California Gavin Newsom telah memveto rancangan undang-undang yang akan menjadi salah satu kebijakan paling komprehensif yang mengatur keamanan kecerdasan buatan di AS.

Rancangan undang-undang ini akan menjadi salah satu yang pertama untuk meminta pertanggungjawaban pengembang AI atas setiap kerusakan parah yang disebabkan oleh teknologinya. Ini menuai kritik keras dari beberapa tokoh Demokrat terkemuka dan perusahaan teknologi besar, termasuk pencipta ChatGPT OpenAI dan perusahaan modal ventura Andreessen Horowitz, yang memperingatkan bahwa undang-undang ini dapat menghambat inovasi di negara bagian tersebut.

Newsom menggambarkan undang-undang tersebut sebagai “bermaksud baik” tetapi mengatakan dalam sebuah pernyataan bahwa undang-undang itu akan menerapkan “standar ketat bahkan untuk fungsi paling dasar.” Regulasi harus didasarkan pada “bukti empiris dan sains,” katanya, menunjuk pada perintah eksekutifnya sendiri tentang AI dan undang-undang lain yang telah dia tanda tangani yang mengatur teknologi di sekitar risiko yang diketahui seperti .

Perdebatan seputar rancangan undang-undang SB 1047 California menyoroti tantangan yang dihadapi para pembuat undang-undang di seluruh dunia dalam mengendalikan risiko AI sambil juga mendukung teknologi yang sedang berkembang. Para pembuat kebijakan AS belum mengeluarkan undang-undang komprehensif mengenai teknologi ini sejak peluncuran ChatGPT dua tahun yang lalu memicu ledakan AI generatif global.

Senator California dari Partai Demokrat Scott Wiener, yang memperkenalkan rancangan undang-undang tersebut, menyebut veto Newsom sebagai “kemunduran bagi semua orang yang percaya pada pengawasan atas perusahaan besar.” Dalam sebuah pernyataan yang diposting di X, Wiener mengatakan, “Kita semua kurang aman sebagai akibatnya.”

‘Perhatian yang wajar’

SB 1047 akan mewajibkan perusahaan yang mengembangkan model AI yang kuat untuk melakukan perhatian yang wajar untuk memastikan bahwa teknologinya tidak akan menyebabkan “kerusakan parah” seperti korban jiwa massal atau kerusakan properti di atas $500 juta. Perusahaan harus mengambil tindakan pencegahan tertentu, termasuk memelihara tombol bunuh yang dapat mematikan teknologinya. Model AI juga akan tunduk pada pengujian pihak ketiga untuk memastikan bahwa mereka meminimalkan risiko yang serius. 

Rancangan undang-undang ini juga akan menciptakan perlindungan bagi pelapor untuk karyawan di perusahaan AI yang ingin . Perusahaan yang tidak mematuhi rancangan undang-undang ini dapat dituntut oleh jaksa agung California.

Para pendukung undang-undang tersebut mengatakan bahwa undang-undang ini akan menciptakan standar hukum yang masuk akal. Namun investor VC, pemimpin startup, dan perusahaan seperti  memperingatkan bahwa hal itu akan memperlambat inovasi dan mendorong perusahaan AI keluar dari negara bagian tersebut. 

“Revolusi AI baru saja dimulai, dan status California yang unik sebagai pemimpin global dalam AI mendorong dinamika ekonomi negara bagian ini,” tulis Jason Kwon, kepala strategi di OpenAI, dalam sebuah surat bulan lalu yang menentang undang-undang tersebut. “SB 1047 akan mengancam pertumbuhan tersebut, memperlambat laju inovasi, dan membuat para insinyur dan pengusaha kelas dunia California meninggalkan negara bagian untuk mencari peluang yang lebih besar di tempat lain.”

Para pembuat undang-undang menentang

Para pembuat undang-undang termasuk mantan Ketua DPR Nancy Pelosi, Perwakilan Ro Khanna, dan Walikota San Francisco London Breed juga menyatakan penentangan mereka, menggemakan kekhawatiran dari industri teknologi bahwa rancangan undang-undang tersebut dapat menghambat kepemimpinan California dalam inovasi AI. Newsom baru-baru ini mengatakan bahwa dia khawatir rancangan undang-undang tersebut mungkin memiliki “” pada pengembangan AI.

Rancangan undang-undang tersebut telah mendapatkan dukungan dari beberapa nama terkenal di dunia teknologi akhir bulan lalu pada hari-hari menjelang . Elon Musk secara tak terduga menyatakan dukungannya, meskipun dia mengatakan bahwa itu adalah “panggilan yang sulit dan akan membuat beberapa orang marah.” Saingan OpenAI Anthropic, yang memiliki reputasi sebagai perusahaan yang berorientasi pada keselamatan, mengatakan bahwa “manfaat rancangan undang-undang ini kemungkinan lebih besar daripada kerugiannya,” meskipun perusahaan tersebut mengatakan bahwa beberapa aspek tetap “menakutkan atau ambigu bagi kami.” 

Wiener telah membela rancangan undang-undang tersebut, menekankan bahwa ketentuannya hanya berlaku untuk perusahaan yang menghabiskan lebih dari $100 juta untuk melatih model besar atau $10 juta untuk menyempurnakan model, batasan yang akan membebaskan sebagian besar startup yang lebih kecil. Anggota parlemen itu juga telah mencatat bahwa Kongres secara historis lambat untuk mengatur teknologi itu sendiri.

Dalam mengumumkan vetonya, Newsom mengatakan bahwa dia akan berkonsultasi dengan para ahli eksternal, termasuk cendekiawan dan pengusaha AI Fei-Fei Li, untuk “mengembangkan pagar pengaman yang dapat diterapkan” pada teknologi tersebut dan terus bekerja dengan badan legislatif negara bagian tentang topik tersebut. 

Gubernur juga menandatangani sebuah rancangan undang-undang pada hari Minggu, SB 896, yang mengatur bagaimana badan-badan negara bagian menggunakan AI.