California Memperketat Aturan Chatbot AI untuk Anak di Bawah Umur: SB 243 Menetapkan Verifikasi Usia, Peringatan, dan Protokol Keamanan

Undang-undang chatbot AI California SB 243 kini telah ditandatangani. Gubernur Gavin Newsom mengumumkan perlindungan baru untuk anak di bawah umur dalam pemberitahuan hari Senin dari kantor gubernur.

Paket ini menargetkan chatbot AI pendamping serta platform media sosial dan situs web yang melayani pengguna California.

SB 243 diperkenalkan pada bulan Januari oleh Senator Steve Padilla dan Senator Josh Becker.

RUU ini menetapkan tugas verifikasi usia, aturan peringatan dan pengungkapan, serta protokol bunuh diri dan melukai diri sendiri untuk layanan yang menyediakan chatbot kepada anak di bawah umur. Undang-undang ini berlaku untuk platform yang menawarkan alat kepada penduduk California.

Undang-undang chatbot AI California menetapkan tanggal efektif pada Januari 2026.

Lembaga dan perusahaan kini memiliki jadwal yang jelas untuk menerapkan verifikasi usia, menampilkan peringatan yang diwajibkan, dan menyiapkan protokol bunuh diri serta melukai diri sendiri.

Kantor gubernur mencantumkan langkah-langkah ini sebagai perlindungan keselamatan anak.

Verifikasi Usia dan Chatbot AI Pendamping: Peringatan dan Pengungkapan untuk Anak di Bawah Umur

Verifikasi usia menjadi wajib di mana chatbot AI pendamping tersedia untuk anak di bawah umur. Platform harus memastikan usia pengguna sebelum mengaktifkan akses chatbot.

Undang-undang chatbot AI California menempatkan verifikasi sebagai kontrol pertama.

Statuta ini juga mewajibkan peringatan dan pengungkapan. Antarmuka chatbot harus memberi tahu anak di bawah umur bahwa balasan dihasilkan oleh AI dan mungkin tidak cocok untuk anak-anak.

Teks tersebut mengarahkan platform untuk menampilkan peringatan dengan jelas dan dalam bahasa yang dapat dipahami oleh pengguna muda.

Aturan-aturan ini melampaui platform media sosial arus utama. Situs web, media sosial terdesentralisasi, dan platform game yang menyediakan chatbot AI pendamping kepada penduduk California juga termasuk dalam cakupan.

Kerangka kerja SB 243 menetapkan standar dasar yang seragam untuk akses, pengungkapan, dan penyajian.

Protokol Bunuh Diri dan Melukai Diri Sendiri: Tugas Platform di Bawah SB 243

Undang-undang ini mewajibkan protokol formal untuk bunuh diri dan melukai diri sendiri. Platform harus mempertahankan prosedur untuk mendeteksi risiko dan meningkatkan penanganan kasus yang melibatkan anak di bawah umur.

Undang-undang chatbot AI California mengaitkan protokol ini dengan langkah operasional yang konkret.

Pendukung mengutip laporan tentang keluaran yang tidak aman. Senator Steve Padilla mengatakan,

“Teknologi ini dapat menjadi alat pendidikan dan penelitian yang kuat,”

sambil berargumen bahwa industri didorong untuk mempertahankan perhatian pengguna muda “dengan mengorbankan hubungan mereka di dunia nyata.” Kutipan ini muncul dalam komunikasi legislatif yang terkait dengan SB 243.

Di bawah SB 243, platform harus mengintegrasikan jalur eskalasi ke dalam alur kerja chatbot. Protokol bunuh diri dan melukai diri sendiri dimaksudkan untuk mendorong tindakan tepat waktu ketika chatbot AI pendamping menampilkan percakapan yang berisiko.

Persyaratan ini berlaku untuk platform media sosial, situs web, dan platform game yang melayani anak di bawah umur di California.

Klaim Tanggung Jawab dan Otonomi: Apa yang Berubah untuk Platform Media Sosial

Undang-undang chatbot AI California mempersempit klaim otonomi. Perusahaan akan lebih sulit untuk berargumen bahwa chatbot AI pendamping “bertindak secara otonom” untuk menghindari tanggung jawab.

Bahasa undang-undang ini mendorong akuntabilitas kepada layanan yang menerapkan dan mengelola alat tersebut.

Perubahan ini memengaruhi platform media sosial dan situs web yang menawarkan chatbot kepada anak di bawah umur. Dengan SB 243, tugas kini mencakup verifikasi usia, peringatan dan pengungkapan, serta protokol bunuh diri dan melukai diri sendiri yang berfungsi. Kerangka tanggung jawab selaras dengan persyaratan konkret tersebut.

Jadwal waktu sangat penting. Tanggal efektif Januari 2026 memberikan waktu untuk mendokumentasikan kontrol, memperbarui log, dan menguji alur eskalasi.

Undang-undang chatbot AI California menetapkan jalur di mana klaim otonomi tidak menghapus tanggung jawab atas risiko yang dapat diperkirakan.

Konteks Federal dan Negara Bagian: Undang-undang Utah dan RISE Act

Yurisdiksi lain juga aktif. Undang-undang Utah mulai berlaku pada Mei 2024, mewajibkan chatbot untuk mengungkapkan bahwa pengguna tidak berbicara dengan manusia.

Statuta tersebut menargetkan peringatan dan pengungkapan di seluruh antarmuka konsumen. Ini memberikan titik referensi untuk pengawasan di tingkat negara bagian.

Pada bulan Juni, Senator Cynthia Lummis memperkenalkan Responsible Innovation and Safe Expertise (RISE) Act. RUU federal ini mengusulkan kekebalan terbatas dari tanggung jawab perdata bagi pengembang AI di bidang kesehatan, hukum, keuangan, dan sektor lainnya.

Langkah ini mendapat reaksi beragam dan dirujuk ke House Committee on Education and the Workforce.

Kontrasnya jelas. Undang-undang chatbot AI California berfokus pada anak di bawah umur, verifikasi usia, peringatan dan pengungkapan, serta protokol bunuh diri dan melukai diri sendiri.

RISE Act membahas tanggung jawab pengembang di tingkat nasional. Perusahaan yang beroperasi di beberapa negara bagian perlu memantau kedua jalur ini.

Siapa yang Dicakup: Situs Web, Media Sosial Terdesentralisasi, dan Platform Game

Cakupan mencakup berbagai layanan. Platform media sosial, situs web, media sosial terdesentralisasi, dan platform game yang menawarkan chatbot AI pendamping kepada anak di bawah umur di California termasuk dalam SB 243. Kaitan yurisdiksi adalah layanan kepada penduduk California.

Undang-undang chatbot AI California menekankan tugas antarmuka. Verifikasi usia membatasi akses, peringatan dan pengungkapan memberi informasi kepada pengguna, dan protokol bunuh diri serta melukai diri sendiri membentuk eskalasi. Setiap persyaratan menargetkan interaksi di mana bahaya dapat terjadi.

Tanggal efektif pada Januari 2026 menjadi acuan implementasi. Gubernur Gavin Newsom, Senator Steve Padilla, dan Senator Josh Becker adalah nama-nama utama yang terkait dengan undang-undang chatbot AI California. Statuta ini menetapkan ekspektasi yang jelas untuk platform dan membangun model yang dapat dinilai oleh negara bagian lain.