Esai 20.000 kata CEO Anthropic Dario Amodei yang menyebut AI ‘akan menguji’ umat manusia wajib dibaca—tetapi lebih untuk solusinya daripada peringatannya

(SeaPRwire) –   Dario Amodei, CEO perusahaan AI Anthropic, merilis sebuah esai sepanjang 20.000 kata pada hari Senin berjudul The Adolescence of Technology di mana ia memperingatkan bahwa AI akan segera “menguji siapa kita sebagai spesies” dan bahwa “umat manusia akan diberi kekuatan yang hampir tak terbayangkan, dan sangat tidak jelas apakah sistem sosial, politik, dan teknologi kita memiliki kematangan untuk menggunakannya.”

Esai tersebut, yang diterbitkan di , telah menimbulkan banyak perbincangan di media sosial. Namun perlu ditunjukkan apa yang baru dan tidak baru di sini.

Amodei telah mengkhawatirkan risiko katastrofik AI selama bertahun-tahun. Ia telah memperingatkan tentang risiko AI membantu orang mengembangkan senjata biologis atau senjata kimia. Ia telah memperingatkan tentang AI yang kuat lepas dari kendali manusia. Ia telah memperingatkan tentang potensi kehilangan pekerjaan secara luas seiring AI menjadi lebih mampu dan diadopsi oleh lebih banyak industri. Dan ia telah memperingatkan tentang bahaya terkonsentrasinya kekuasaan dan kekayaan seiring adopsi AI tumbuh.

Dalam esai terbarunya, Amodei mengulang semua kekhawatiran ini—meskipun terkadang dengan bahasa yang lebih tajam dan terkadang dengan garis waktu yang lebih pendek untuk kapan ia yakin risiko-risiko ini akan terwujud. Headline tentang esainya, cukup bisa dimengerti, berfokus pada penggambaran risiko AI yang blak-blakan oleh Amodei.

Di antara perusahaan-perusahaan AI, Anthropic dikenal memiliki fokus terbesar pada keamanan AI—sebuah fokus yang ternyata justru membantunya mendapatkan daya tarik komersial di antara perusahaan-perusahaan besar, seperti dijelaskan secara rinci dalam tentang perusahaan Amodei. Ini karena banyak langkah yang diambil Anthropic untuk memastikan model-modelnya tidak menimbulkan risiko katastrofik bagi umat manusia juga membuat model-model ini lebih andal dan dapat dikendalikan—fitur yang dihargai sebagian besar bisnis.

Jadi dalam banyak hal, esai Amodei sama sekali merupakan pesan pemasaran sepanjang novella, sekaligus nubuat yang penuh gairah dan seruan untuk bertindak.

Ini bukan berarti Amodei tidak tulus. Ini hanya untuk menunjukkan bahwa esainya bekerja di banyak tingkat, dan bahwa apa yang menurutnya diperlukan untuk mengamankan masa depan umat manusia seiring kemajuan AI juga selaras dengan posisi merek Anthropic yang sudah ada di pasar. Sangat berarti, misalnya, berapa kali Amodei menyebut “konstitusi” yang telah dikembangkan untuk model AI-nya Claude sebagai faktor penting yang mengurangi berbagai risiko—dari bioterorisme hingga risiko model akan lepas dari kendali manusia. Konstitusi ini, , adalah salah satu hal yang membedakan model AI Anthropic dari yang ditawarkan pesaingnya, seperti OpenAI, , , dan xAI milik Elon Musk.

Yang lebih layak diberitakan daripada beberapa risiko yang ditunjuk Amodei dalam esai adalah solusi spesifik yang ia serukan. Ia mengatakan, misalnya, bahwa individu-individu kaya memiliki kewajiban untuk membantu masyarakat mengatasi efek ekonomi potensial yang mungkin dimiliki AI, termasuk membantu mereka yang mungkin kehilangan mata pencaharian karena AI. Ia mengatakan bahwa semua pendiri bersama Anthropic telah berkomitmen untuk menyumbangkan 80% kekayaan mereka untuk filantropi. Ia juga mengatakan bahwa karyawan Anthropic secara individu telah menjanjikan miliaran dolar saham Anthropic untuk amal, dan bahwa Anthropic mencocokkan donasi-donasi tersebut.

Ia mengkritik orang lain di Silicon Valley karena tidak melakukan hal serupa, dengan mengatakan “sangat menyedihkan bagi saya bahwa banyak individu kaya (terutama di industri teknologi) baru-baru ini mengadopsi sikap sinis dan nihilistik bahwa filantropi pada dasarnya curang atau tidak berguna.”

Amodei mengatakan bahwa perusahaan-perusahaan AI, seperti perusahaannya sendiri, harus bekerja dengan pelanggan perusahaan untuk mengarahkan mereka ke penerapan AI yang mendapatkan nilai dari lini bisnis baru dan pertumbuhan pendapatan, bukan hanya melalui penghematan tenaga kerja. “Perusahaan sering memiliki pilihan antara ‘penghematan biaya’ (melakukan hal yang sama dengan lebih sedikit orang) dan ‘inovasi’ (melakukan lebih banyak dengan jumlah orang yang sama),” tulis Amodei. “Pasar pada akhirnya akan menghasilkan keduanya, dan perusahaan AI yang kompetitif harus melayani sebagian dari keduanya, tetapi mungkin ada ruang untuk mengarahkan perusahaan ke arah inovasi bila memungkinkan, dan itu mungkin memberi kita waktu. Anthropic sedang memikirkan hal ini secara aktif.”

Ia juga mengatakan bahwa bisnis memiliki kewajiban untuk kreatif tentang cara menugaskan kembali karyawan yang pekerjaan eksistingnya terganggu oleh AI, daripada sekadar memecat mereka. Ia mengemukakan gagasan bahwa “dalam jangka panjang, di dunia dengan total kekayaan yang sangat besar, di mana banyak perusahaan meningkat nilainya secara besar-besaran karena peningkatan produktivitas dan konsentrasi modal, mungkin layak untuk membayar karyawan manusia bahkan lama setelah mereka tidak lagi memberikan nilai ekonomi dalam arti tradisional.” Dan ia mengatakan bahwa Anthropic sedang mempertimbangkan beberapa “jalur kemungkinan” untuk karyawannya sendiri yang akan dibagikan secara publik di masa depan.

Akhirnya, Amodei menyerukan intervensi pemerintah untuk mendistribusikan kembali kekayaan. Ia mengatakan cara paling jelas untuk melakukan ini adalah dengan sistem pajak progresif, yang bisa bersifat umum atau ditargetkan khusus pada keuntungan besar yang ia pikir akan segera dibuat oleh perusahaan-perusahaan AI. (Tentu saja, saat ini, Anthropic dan sebagian besar perusahaan lain yang hanya fokus membangun model AI sangat tidak menguntungkan. Tapi Anthropic memberi tahu investornya tahun lalu bahwa mereka berada di jalur yang tepat untuk mencapai titik impas pada akhir 2028.)

Kepada kepentingan-kepentingan kaya yang akan menentang pajak seperti itu, Amodei mengatakan ia memiliki “argumen pragmatis kepada para miliarder dunia bahwa mendukung versi yang baik dari [pajak tersebut] adalah untuk kepentingan mereka: jika mereka tidak mendukung versi yang baik, mereka pada akhirnya akan mendapatkan versi buruk yang dirancang oleh massa.”

Headline tentang esai Amodei tak terhindarkan berfokus pada prediksinya bahwa 50% pekerjaan kerah putih tingkat pemula akan dihilangkan dalam satu hingga lima tahun. Amodei membuat prediksi yang sama di atas panggung di World Economic Forum di Davos pekan lalu, tetapi pernyataannya dikalahkan oleh banyak lipatan pidato Presiden AS Donald Trump di konferensi tersebut.

Amodei juga menulis dalam esainya bahwa AI yang setara kemampuan dengan semua manusia akan tiba dalam dua tahun ke depan, yang mungkin merupakan prediksinya yang paling eksplisit sejauh ini tentang kapan tonggak besar dalam sejarah komputer dan manusia ini akan terjadi. (Amodei mengatakan bahwa kemampuan AI setara manusia ini akan membutuhkan waktu untuk menyebar ke seluruh masyarakat, itulah sebabnya ia berpikir itu hanya akan menggantikan 50% pekerja pengetahuan tingkat pemula dalam lima tahun.)

Penulis fiksi ilmiah William Gibson terkenal dengan selorohnya bahwa “masa depan sudah ada di sini, hanya saja tidak terdistribusi secara merata.” Dan perlu dicatat bahwa di masa lalu Amodei tidak selalu sepenuhnya jitu tentang dampak AI, meskipun ia sebagian besar akurat dalam memprediksi kedatangan kemampuan AI tertentu.

Misalnya, awal tahun lalu, Amodei mengatakan bahwa dalam enam hingga sembilan bulan, AI akan menulis hingga 90% kode perangkat lunak. Nah, ternyata ini sebagian besar benar dalam kasus Anthropic sendiri—perusahaan baru-baru ini mengatakan alat Claude CoWork-nya hampir seluruhnya ditulis oleh Claude sendiri—tetapi tidak akurat untuk kode secara keseluruhan. Di sebagian besar bisnis lain, jumlah kode yang ditulis oleh AI sekitar 20% hingga 40%—tetapi angka itu meningkat dan naik dari pada dasarnya 0% hanya tiga tahun yang lalu. Jadi Amodei mungkin bukan peramal yang tidak pernah salah, tetapi ia patut diperhatikan.