Masalah Penyelarasan Manusia-AI

(SeaPRwire) –   Kita sekarang berada jauh di era AI, di mana setiap minggu membawa fitur atau tugas lain yang dapat dicapai oleh AI. Tetapi mengingat seberapa jauh kita sudah berada, semakin penting untuk memperbesar dan mengajukan pertanyaan yang lebih besar tentang ke mana kita menuju, bagaimana mendapatkan yang terbaik dari teknologi ini saat ia berkembang, dan, memang, bagaimana mendapatkan yang terbaik dari diri kita sendiri saat kita berevolusi bersama.

Ada momen yang mengungkap baru-baru ini ketika Sam Altman muncul di podcast Tucker Carlson. Carlson menekan Altman tentang dasar moral ChatGPT. Dia berpendapat bahwa teknologi tersebut memiliki semacam komponen religius atau spiritual dasar, karena kita menganggapnya lebih kuat daripada manusia dan kita mencarinya untuk mendapatkan bimbingan. Altman menjawab bahwa baginya tidak ada yang spiritual tentang hal itu. “Jadi jika itu tidak lebih dari mesin dan hanya produk dari inputnya,” kata Carlson. “Maka dua pertanyaan yang jelas adalah: apa inputnya? Kerangka moral apa yang telah dimasukkan ke dalam teknologi?”

Altman kemudian mengacu pada “model spec,” serangkaian instruksi yang diberikan kepada model AI yang akan mengatur perilakunya. Untuk ChatGPT, katanya, itu berarti melatihnya pada “pengalaman kolektif, pengetahuan, pembelajaran umat manusia.” Tetapi, tambahnya, “maka kita harus menyelaraskannya untuk berperilaku dengan satu atau lain cara.”

Dan itu, tentu saja, membawa kita pada masalah penyelarasan yang terkenal—gagasan bahwa untuk menjaga terhadap risiko eksistensial AI yang mengambil alih, kita perlu menyelaraskan AI dengan nilai-nilai manusia. Konsep ini sebenarnya berasal dari tahun 1960 dan pelopor AI Norbert Wiener, yang menggambarkan masalah penyelarasan ini dengan cara ini: “Jika kita menggunakan, untuk mencapai tujuan kita, agen mekanis yang operasinya tidak dapat kita ganggu secara efisien… sebaiknya kita cukup yakin bahwa tujuan yang dimasukkan ke dalam mesin adalah tujuan yang benar-benar kita inginkan.”

Tetapi sebenarnya ada masalah penyelarasan yang lebih besar yang jauh lebih jauh dari tahun 1960. Untuk menyelaraskan AI dengan nilai-nilai manusia, kita sendiri perlu memperjelas nilai-nilai universal yang kita berikan. Apa input kita? Apa model spec kita? Apa yang kita latih pada diri kita sendiri untuk dapat menjalani kehidupan yang bermakna?

Inilah pertanyaan yang perlu kita jawab sebelum kita memutuskan input apa yang ingin kita ambil dari AI. Bahkan jika kita dapat menyelaraskan AI dengan sempurna dengan di mana umat manusia berada saat ini, hasilnya akan menjadi suboptimal. Jadi sekaranglah waktunya untuk memperjelas nilai-nilai kita sebelum kita membangun teknologi yang dimaksudkan untuk memasukkan dan mencerminkannya.

Karena saat ini kita mengalami ketidakselarasan yang mendalam. Di dunia modern kita, kita telah kehilangan hubungan dengan fondasi spiritual yang menjadi dasar peradaban kita, baik Barat maupun Timur. Kita telah hidup dalam sisa cahayanya selama berabad-abad, tetapi sekarang bahkan sisa cahayanya telah meredup dan kita tidak berlabuh dan tidak terikat.

Fondasi itu mulai perlahan runtuh dengan Pencerahan dan Revolusi Industri, tetapi terus mengacu pada kebenaran abadi ini. Kita telah menyuarakan mereka—dan bahkan mempercayai mereka—kurang dari sebelumnya, tetapi kita masih dipandu oleh mereka. Tetapi sekarang setelah koneksi terputus untuk melatih AI agar selaras dengan nilai-nilai manusia, pertama-tama kita perlu menggali dan terhubung kembali dengan mereka.

Dalam buku barunya, Paul Kingsnorth menjelajahi bagaimana setiap budaya dibangun di atas tatanan sakral. “Ini tentu saja tidak harus menjadi tatanan Kristen,” tulisnya. “Ini bisa berupa Islam, Hindu, atau Taois.” Pencerahan memutuskan kita dari tatanan sakral itu, tetapi, seperti yang dikatakan Kingsnorth, “masyarakat tidak melihatnya karena monumen tatanan sakral lama masih berdiri, seperti patung-patung Romawi setelah jatuhnya Kekaisaran.” Apa yang kita lihat adalah harga yang dibayar masyarakat ketika tatanan itu jatuh: “gejolak di setiap tingkat masyarakat, dari tingkat politik hingga tingkat jiwa.”

Bukankah ini persis apa yang terjadi saat ini? “Ini akan menjelaskan suasana zaman yang aneh, tegang, menghancurkan, dan membuat frustrasi,” tulis Kingsnorth.

Dalam percakapannya dengan Carlson, Altman berbicara tentang AI yang dilatih pada “pengalaman kolektif” umat manusia. Tetapi apakah kita sendiri benar-benar mengakses pengalaman kolektif penuh menjadi manusia?

Saat kita membangun teknologi transformasional yang akan mengubah segala sesuatu tentang hidup kita, kita perlu memastikan bahwa kita melatihnya pada nilai-nilai fundamental dan tidak berubah yang mendefinisikan kita sebagai manusia.

“`