Tak lama setelah menutup KTT Keamanan AI bersejarah di Bletchley Park, tempat kelahiran komputasi modern di Inggris, Perdana Menteri Rishi Sunak kembali ke London untuk mewawancarai miliarder teknologi Elon Musk. Mereka membahas risiko yang ditimbulkan oleh kecerdasan buatan, bagaimana pemerintah harus menangani risiko tersebut, dan bagaimana teknologi tersebut dapat mempengaruhi pekerjaan, dengan Musk memprediksi bahwa hal itu dapat membuat sebagian besar peran menjadi usang.
Wawancara ini mungkin akan tegang, mengingat beberapa jam sebelumnya, Musk, yang sebelumnya mendukung ide untuk memperlambat pengembangan AI guna menilai risikonya, men-tweet kartun yang mengejek para pemimpin politik yang mengklaim serius menangani risiko dari AI di KTT. Namun suasananya saat acara Kamis malam terasa akrab, dengan Sunak berterima kasih kepada Musk atas kehadirannya dan Musk berterima kasih kepada Sunak atas penyelenggaraan acara tersebut. “Saya senang melihat saat ini bahwa orang-orang mulai menganggap keamanan serius, dan saya ingin mengucapkan terima kasih atas penyelenggaraan konferensi keamanan AI ini,” kata Musk. “Saya pikir sebenarnya acara ini akan tercatat dalam sejarah sebagai hal yang sangat penting, saya pikir ini cukup mendalam.”
Ketika ditanya oleh Sunak tentang bagaimana AI akan mempengaruhi pekerjaan, Musk memprediksi bahwa tenaga kerja manusia akan menjadi usang. “Saya pikir kita sedang melihat gaya paling mengacaukan dalam sejarah di sini. Kita akan memiliki sesuatu untuk pertama kalinya yang lebih cerdas daripada manusia paling cerdas,” katanya. “Akan tiba saat di mana tidak ada pekerjaan yang dibutuhkan. Anda bisa memiliki pekerjaan jika Anda ingin memiliki pekerjaan untuk kepuasan pribadi, tetapi AI akan mampu melakukan segalanya.”
Sunak menyatakan ketidaknyamanan dengan ide ini. “Saya adalah orang yang percaya bahwa pekerjaan memberi arti,” kata Perdana Menteri dan mantan bankir investasi itu. “Saya pikir pekerjaan adalah hal yang baik, memberi orang tujuan dalam hidup mereka.”
Ketika ditanya oleh Sunak apa yang harus dilakukan pemerintah untuk “mengelola dan memitigasi” risiko AI, Musk menegaskan bahwa intervensi pemerintah diperlukan, mengatakan bahwa dia tidak setuju dengan “kurang dari 1% peraturan.”
Musk memiliki sejarah panjang dengan AI. Bersama Sam Altman, dia adalah ko-ketua pendiri OpenAI dan berkontribusi pada pendanaan awal OpenAI sebesar $1 miliar. Dia meninggalkan OpenAI pada 2018, mengutip benturan kepentingan dari keterlibatannya dengan Tesla. Sejak itu, dia menjadi lebih kritikal terhadap arah yang diambil OpenAI.
Musk telah memperingatkan bahwa AI dapat mengancam kelangsungan hidup umat manusia selama hampir satu dekade, topik yang dibahasnya dengan Sunak. “Saya telah menjadi Cassandra selama cukup lama,” katanya.
Pada Juli, Musk mengumumkan dia membentuk xAI untuk “memahami realitas.” Dalam diskusi yang disiarkan di media sosial Musk X, dengan anggota Kongres Ro Khanna dan Mike Gallagher menyusul peluncuran xAI, Musk menjelaskan pendekatan keamanan AI-nya—menciptakan sistem AI yang maksimal mencari kebenaran. “Dari sudut pandang keamanan AI, sistem AI yang maksimal ingin tahu, yang berusaha memahami alam semesta, akan pro-kemanusiaan,” katanya saat itu. Sedikit informasi lebih lanjut tentang xAI yang telah diungkapkan sejak itu.
Sunak, sementara itu, selama berbulan-bulan telah mendorong Inggris untuk memainkan peran terkemuka dalam upaya internasional untuk mengatur AI. Pembicaraan dengan Musk ini datang setelah Sunak mengumpulkan para pemimpin dunia dan eksekutif teknologi selama dua hari dalam upaya untuk menegakkan konsensus atas risiko yang diyakini AI hadapi, dan untuk mulai bekerja menuju solusi bersama.
Beberapa komentator telah mengkritik Sunak karena mewawancarai Musk, yang banyak berargumentasi telah mempromosikan misinformasi dan ujaran kebencian sebagai pemilik X, yang dulu bernama Twitter. Sunak mempertanyakan Musk tentang pendekatan yang tidak ortodoks yang diambilnya terhadap moderasi konten di platform media sosial tersebut, dan pengusaha itu membela penggunaan moderasi berbasis kerumunan sebagai tanggapannya. “Jika Anda memberdayakan orang sebagai sensor, pasti ada beberapa bias yang mereka miliki, dan siapa pun yang menunjuk sensor memiliki kendali secara efektif atas informasi,” katanya.
Termasuknya Cina dalam KTT juga menimbulkan kontroversi, di tengah kekhawatiran tentang rekam jejak hak asasi manusia dan karena saingan Barat semakin cemas dengan kemajuan Cina di bidang AI. Mantan Perdana Menteri Liz Truss sebelumnya telah menulis kepada Sunak bahwa dia “sangat terganggu” oleh termasuknya Cina dalam ktt, mengingat penggunaan AI Cina untuk membatasi kebebasan. Berbicara dengan Musk, Sunak mengatakan bahwa “keputusan itu bukanlah hal yang mudah, banyak orang yang mengkritik saya karenanya.” Musk memuji keputusannya, yang dia gambarkan sebagai “sangat penting.”