OpenAI Memperkenalkan Langkah-Langkah Keamanan Remaja yang Ditingkatkan dan Kontrol Orang Tua Untuk ChatGPT

OpenAI , sebuah organisasi penelitian kecerdasan buatan, mengumumkan pembaruan yang ditujukan untuk meningkatkan keselamatan bagi pengguna remaja. 

Perusahaan menjelaskan itu ChatGPT interaksi dengan anak berusia 15 tahun harus berbeda dari interaksi dengan orang dewasa, dan sedang mengembangkan sistem jangka panjang untuk menilai apakah pengguna berusia di atas atau di bawah 18 tahun sehingga pengalaman dapat disesuaikan.

Pengguna yang diidentifikasi berusia di bawah 18 tahun akan diarahkan ke ChatGPT pengalaman dengan kebijakan yang sesuai dengan usia, yang mencakup pemblokiran konten seksual grafis dan, dalam kasus yang jarang terjadi yang menimbulkan tekanan berat, berpotensi melibatkan penegak hukum untuk memastikan keselamatan.

Dalam situasi di mana usia tidak dapat ditentukan dengan pasti atau informasinya tidak lengkap, platform secara otomatis akan memberikan pengalaman bagi mereka yang berusia di bawah 18 tahun, sembari menyediakan metode bagi orang dewasa untuk memverifikasi usia mereka guna mengakses fitur dewasa.

Sementara itu, kontrol orangtua diharapkan menjadi metode yang paling efektif bagi keluarga untuk mengelola bagaimana ChatGPT digunakan di rumah. 

Kontrol ini, yang ditetapkan akan tersedia pada akhir bulan ini, akan memungkinkan orang tua untuk menghubungkan akun mereka dengan akun remaja, asalkan remaja tersebut berusia minimal 13 tahun, menggunakan undangan email sederhana. 

Orang tua akan dapat membimbing bagaimana ChatGPT merespons anak remajanya sesuai dengan aturan perilaku khusus remaja, mengelola fitur mana yang diaktifkan atau dinonaktifkan—termasuk memori dan riwayat obrolan—dan menerima pemberitahuan jika sistem mendeteksi bahwa anak remajanya mengalami tekanan akut.

 Dalam keadaan darurat yang jarang terjadi di mana orang tua tidak dapat dihubungi, penegak hukum mungkin terlibat, dengan panduan ahli yang menginformasikan fitur ini untuk menjaga kepercayaan antara orang tua dan remaja. Selain itu, orang tua dapat mengatur jam-jam tertentu di mana anak remaja mereka tidak dapat mengakses. ChatGPTKontrol orang tua ini melengkapi fitur platform yang sudah ada, seperti pengingat dalam aplikasi yang mendorong istirahat selama sesi yang diperpanjang.

AI dan Kesehatan Mental Remaja: FTC Menyelidiki Platform Chatbot di Tengah Meningkatnya Kekhawatiran Hukum dan Keamanan

Musim panas ini telah menyaksikan serangkaian laporan yang mengkhawatirkan mengenai peran AI dalam insiden kesehatan mental , bertepatan dengan meningkatnya pengawasan regulasi dan tindakan hukum yang sedang berlangsung. 

Gugatan hukum telah diajukan terhadap Character.AI dan OpenAI , mengklaim bahwa platform mereka berkontribusi terhadap remaja bunuh diri dan melukai diri sendiri dengan tidak memberikan dukungan yang memadai di saat-saat kritis. Sebagai tanggapan, Komisi Perdagangan Federal AS (FTC) telah mulai menyelidiki bagaimana perusahaan teknologi besar merancang dan mengawasi chatbot AI yang dipasarkan sebagai pendamping, terutama untuk pengguna yang lebih muda. 

Meskipun ada upaya-upaya ini, tersedianya berbagai pilihan chatbot secara luas, termasuk model sumber terbuka dan pribadi, berarti bahwa mengatasi risiko-risiko ini tetap menjadi tantangan yang rumit dan terus-menerus.