Konten ‘slop’ AI membanjiri YouTube Kids—lebih dari 200 kelompok dan ahli menyerukan pelarangan

(SeaPRwire) –   Lebih dari 200 kelompok advokasi anak dan ahli menuntut agar YouTube melarang sepenuhnya “slop” yang dihasilkan AI dari platform anak-anaknya, dengan alasan bahwa video berkualitas rendah yang diproduksi secara algoritmik ini mengubah struktur otak anak muda dan menghasilkan jutaan dolar sementara orang tua dan regulator membiarkannya.

Surat terbuka ini, yang diselenggarakan oleh kelompok advokasi anak Fairplay dan ditujukan kepada CEO YouTube Neal Mohan dan CEO Google Sundar Pichai, ditandatangani oleh lebih dari 135 organisasi. Penandatangan termasuk American Federation of Teachers dan American Counseling Association, serta peneliti terkenal seperti Jonathan Haidt, penulis The Anxious Generation. Penulis surat mengatakan bahwa YouTube tidak hanya gagal menghentikan AI slop dari sampai ke anak-anak tetapi juga secara aktif mengambil keuntungan darinya.

“Video yang dihasilkan AI benar-benar hanya peningkatan dari berbagai masalah yang sudah dimiliki YouTube ketika berinteraksi dengan anak di platform mereka,” kata Rachel Franz, direktur program Young Children Thrive Offline Fairplay, kepada . “Penting untuk menangani fenomena AI slop ini, tetapi sama pentingnya untuk menuntut YouTube atas cara platformnya dirancang untuk membuat pengguna menghabiskan lebih banyak waktu dengan cara yang tidak selalu terkait dengan AI.”

Apa itu ‘AI slop’?

Istilah ini merujuk pada gelombang video yang dihasilkan AI dan diproduksi secara massal yang membanjiri platform seperti YouTube. Konten ini murah untuk dibuat, seringkali aneh atau tidak masuk akal, dan dirancang untuk menarik dan mempertahankan perhatian penonton muda (atau sebenarnya, siapa saja). Dan pembaca yang terhormat, video-video ini aneh: hewan kartun yang melakukan tugas berulang dengan estetika lembah aneh; video “pendidikan” palsu dengan informasi yang acak-acakan; atau loop hipnotis tanpa tujuan murni. The New York Times mendokumentasikan fenomena ini dalam investigasi Februari, menemukan video seperti itu tersemat di seluruh YouTube Kids, platform yang dipasarkan YouTube sebagai ruang yang aman dan dikurasi untuk anak-anak.

“Sebagian besar konten yang dihasilkan AI benar-benar dirancang untuk merebut perhatian anak, terutama anak kecil yang baru mulai mengembangkan kontrol impuls mereka, dan ini dapat mengubah realitas, menciptakan kebingungan, dan mempengaruhi bagaimana anak memahami dunia di sekitar mereka,” kata Franz, yang memiliki latar belakang pengembangan anak dini. “Ini bukan masalah parenting itu sendiri. Platform ini secara konsisten merekomendasikan konten AI kepada pengguna muda dengan cara yang membuatnya hampir tidak mungkin untuk dihindari.”

Insentif finansialnya luar biasa. Fairplay menemukan bahwa channel AI slop teratas yang menargetkan anak telah menghasilkan pendapatan tahunan lebih dari $4,25 juta, dengan beberapa kreator secara terbuka mengiklankan keuntungan dari “konten AI tanpa plot yang memukau.” Surat ini berargumen bahwa tidak ada kebijakan yang cukup sampai platform menghapus insentif finansial untuk kreator video ini.

“Hanya sekitar 5% video di YouTube untuk anak di bawah 8 tahun yang benar-benar berkualitas tinggi. Dan ada perdebatan di antara 5% itu apakah mereka benar-benar berkualitas tinggi,” kata Franz. Namun, YouTube menemukan angka itu bertentangan dengan kebijakan standar mereka.

“Kami memiliki standar tinggi untuk konten di YouTube Kids, termasuk membatasi konten yang dihasilkan AI di aplikasi ke seperangkat channel berkualitas tinggi yang kecil,” kata juru bicara YouTube Boot Bullwinkle kepada dalam sebuah pernyataan. “Kami juga memberikan opsi kepada orang tua untuk memblokir channel. Di seluruh YouTube, kami memprioritaskan transparansi ketika berbicara tentang konten AI, memberi label pada konten dari alat AI kami sendiri, dan mengharuskan kreator mengungkapkan konten AI yang realistis. Kami selalu mengembangkan pendekatan kami untuk tetap up-to-date seiring evolusi ekosistem.”

Bagaimana menyelesaikannya

Koalisi ini menggunakan penelitian pengembangan anak untuk berargumen bahwa ini bukan masalah niche. Bahkan orang dewasa bisa kesulitan mengidentifikasi konten yang dihasilkan AI dengan benar, hanya sekitar 50% dari waktu. Yang lebih mengkhawatirkan, paparan berulang membuat orang lebih cenderung melihat gambar AI sebagai nyata, bahkan setelah diberitahu itu palsu. Untuk anak kecil yang otak mereka masih membangun skema dasar realitas, kerusakan ini bertambah dari waktu ke waktu.

Permintaan Fairplay bersifat struktural, bukan kosmetik. Koalisi ini meminta YouTube untuk secara jelas memberi label pada semua konten yang dihasilkan AI di seluruh platform; melarang sepenuhnya konten yang dihasilkan AI dari YouTube Kids; dan melarang konten “made for kids” yang dihasilkan AI di platform utama YouTube. Fairplay ingin YouTube melarang algoritmanya dari merekomendasikan konten AI kepada pengguna di bawah 18 tahun; memperkenalkan toggle orang tua untuk menonaktifkan konten AI yang secara default dimatikan; dan menghentikan semua investasi dalam konten yang dihasilkan AI yang menargetkan anak-anak.

Permintaan terakhir ini secara langsung menargetkan investasi YouTube di Animaj, sebuah studio hiburan anak yang didukung AI oleh Google’s AI Futures Fund. “Secara esensial, YouTube berinvestasi dalam merusak bayi melalui pembelian Animaj,” kata Franz.

Dalam pernyataan Bullwinkle kepada , juru bicara mengkonfirmasi bahwa YouTube sedang mengembangkan label AI khusus untuk YouTube Kids, meskipun tidak memberikan timeline. CEO YouTube Neal Mohan telah menandai “mengelola AI slop” sebagai prioritas utama dalam surat tahunannya. “Untuk mengurangi penyebaran konten AI berkualitas rendah, kami secara aktif membangun pada sistem yang sudah kami establis yang telah sangat sukses dalam memerangi spam dan clickbait, dan mengurangi penyebaran konten berkualitas rendah dan berulang,” demikian isi surat.

Bullwinkle juga mencatat bahwa 15 channel yang disebutkan dalam artikel Times tidak ada di YouTube Kids dan bahwa platform menghapus video yang melanggar kebijakan keamanan anaknya. Tapi bagi Franz, itu tidak cukup.

“Tidak seharusnya bergantung pada peneliti individu untuk menunjuk beberapa channel sebagai contoh yang melakukan hal-hal yang berpotensi membahayakan anak, dan menjadikan itu sebagai dasar untuk apa yang YouTube putuskan untuk kick off dari platform. Apa yang kami lihat dengan Elsagate adalah bahwa pada saat itu, YouTube menghapus 150.000 video dari platformnya dan beberapa ratus channel berbeda,” kata Franz. Dia merujuk pada skandal 2017 di mana ribuan video di YouTube dan YouTube Kids menggunakan karakter anak yang familiar, seperti Elsa dari Frozen dan Peppa Pig, untuk menyembunyikan konten yang sangat mengganggu termasuk kekerasan grafis, tema seksual, dan penggunaan narkoba, semuanya dibalut dengan tag yang ramah algoritme seperti “pendidikan” dan “fun” untuk melewati filter dan sampai ke anak-anak.

“Jadi kami tahu bahwa YouTube memiliki kapasitas untuk memantau, melacak, dan menghapus video ini secara besar-besaran, tetapi saat ini, mereka melakukan pendekatan Band-Aid, di mana channel yang mendapatkan liputan pers—sepertinya itu adalah yang mereka tangani,” lanjut Franz. “Tapi ini tidak memperbaiki masalah secara keseluruhan.”