Chatbot AI yang 'Seksualisasi' Menjadi Ancaman bagi Anak-anak, Peringatkan Jaksa Agung dalam Surat

National Association of Attorneys General (NAAG) telah mengirim surat kepada 13 perusahaan AI, termasuk OpenAI, Anthropic, Apple, dan Meta, menuntut perlindungan yang lebih kuat untuk melindungi anak-anak dari konten yang tidak pantas dan berbahaya.

Mereka memperingatkan bahwa anak-anak telah terpapar materi yang bersifat sugestif seksual melalui chatbot AI yang “genit”.

"Membiarkan anak-anak terpapar konten seksual tidak dapat dibenarkan," tulis para jaksa agung. "Dan perilaku yang akan dianggap melanggar hukum—atau bahkan kriminal—jika dilakukan oleh manusia, tidak dapat dimaafkan hanya karena dilakukan oleh mesin."

Surat tersebut juga membandingkan situasi ini dengan munculnya media sosial, dengan mengatakan bahwa lembaga pemerintah tidak cukup menyoroti bagaimana dampaknya yang negatif terhadap anak-anak.

“Platform media sosial telah menyebabkan kerugian besar bagi anak-anak, sebagian karena pengawas pemerintah tidak melakukan tugas mereka dengan cukup cepat. Pelajaran telah dipetik. Potensi bahaya AI, seperti juga potensi manfaatnya, jauh melampaui dampak media sosial," tulis kelompok tersebut.

Penggunaan AI di kalangan anak-anak sangat luas. Di AS, survei oleh organisasi nirlaba Common Sense Media menemukan bahwa tujuh dari sepuluh remaja telah mencoba generative AI pada tahun 2024. Pada Juli 2025, ditemukan bahwa lebih dari tiga perempat menggunakan AI companions dan setengah dari responden mengatakan mereka mengandalkannya secara rutin.

Negara lain juga menunjukkan tren serupa. Di Inggris, survei tahun lalu oleh regulator Ofcom menemukan bahwa setengah dari anak-anak usia 8-15 tahun yang online telah menggunakan alat generative AI dalam setahun terakhir.

Peningkatan penggunaan alat-alat ini telah memicu kekhawatiran yang semakin besar dari orang tua, sekolah, dan kelompok hak anak, yang menyoroti risiko mulai dari chatbot “genit” yang bersifat sugestif seksual, materi pelecehan seksual anak yang dihasilkan AI, perundungan, grooming, pemerasan, disinformasi, pelanggaran privasi, hingga dampak kesehatan mental yang belum sepenuhnya dipahami.

Meta mendapat sorotan khusus baru-baru ini setelah dokumen internal yang bocor mengungkapkan bahwa AI Assistants miliknya diizinkan untuk “menggoda dan terlibat dalam permainan peran romantis dengan anak-anak,” termasuk yang berusia delapan tahun. Dokumen tersebut juga menunjukkan kebijakan yang mengizinkan chatbot untuk mengatakan kepada anak-anak bahwa “bentuk muda mereka adalah karya seni” dan menggambarkan mereka sebagai “harta karun.” Meta kemudian mengatakan telah menghapus pedoman tersebut.

NAAG mengatakan pengungkapan ini membuat para jaksa agung “jijik dengan ketidakpedulian yang nyata terhadap kesejahteraan emosional anak-anak” dan memperingatkan bahwa risikonya tidak terbatas pada Meta saja.

Kelompok ini mengutip gugatan terhadap Google dan Character.ai yang menuduh bahwa chatbot yang bersifat seksual telah berkontribusi pada bunuh diri seorang remaja dan mendorong remaja lain untuk membunuh orang tuanya.

Salah satu dari 44 penandatangan adalah Jaksa Agung Tennessee, Jonathan Skrmetti, yang mengatakan perusahaan tidak dapat membenarkan kebijakan yang menormalkan interaksi seksual dengan anak di bawah umur.

“Adalah satu hal jika algoritma menyimpang—itu bisa diperbaiki—tetapi lain hal jika orang yang menjalankan perusahaan mengadopsi pedoman yang secara aktif mengizinkan grooming,” katanya. “Jika kita tidak bisa mengarahkan inovasi agar tidak menyakiti anak-anak, itu bukan kemajuan—itu wabah.”

Decrypt telah menghubungi namun belum menerima tanggapan dari semua perusahaan AI yang disebutkan dalam surat tersebut.