Nagbabala ang mga Attorneys General sa Liham: Ang mga 'Sexualized' na AI Chatbot ay Banta sa mga Bata

Ang National Association of Attorneys General (NAAG) ay sumulat sa 13 AI firms, kabilang ang OpenAI, Anthropic, Apple at Meta, na humihiling ng mas mahigpit na mga pananggalang upang maprotektahan ang mga bata mula sa hindi angkop at mapaminsalang nilalaman.

Binalaan nito na ang mga bata ay nalalantad sa sekswal na nagpapahiwatig na materyal sa pamamagitan ng mga “flirty” na AI chatbots.

"Ang paglalantad ng mga bata sa sexualized na nilalaman ay hindi mapagtatanggol," isinulat ng mga attorneys general. "At ang mga gawain na magiging labag sa batas—o maging kriminal—kung ginawa ng tao ay hindi mapapatawad dahil lamang ginawa ito ng makina."

Ang liham ay nagbigay rin ng paghahambing sa pag-usbong ng social media, na sinasabing hindi sapat ang ginawa ng mga ahensya ng gobyerno upang itampok ang mga paraan kung paano ito negatibong nakaapekto sa mga bata.

“Ang mga social media platforms ay nagdulot ng malaking pinsala sa mga bata, bahagi dahil hindi agad kumilos ang mga government watchdogs. Natutunan na ang leksyon. Ang mga potensyal na pinsala ng AI, tulad ng mga potensyal na benepisyo nito, ay mas malaki pa sa epekto ng social media," isinulat ng grupo.

Ang paggamit ng AI sa mga bata ay laganap. Sa U.S., isang survey ng non-profit na Common Sense Media ang nakatuklas na pito sa sampung kabataan ay nasubukan na ang generative AI noong 2024. Noong Hulyo 2025, natuklasan nitong mahigit tatlong-kapat ay gumagamit ng AI companions at kalahati ng mga sumagot ay umaasa rito nang regular.

Ang ibang mga bansa ay nakakita rin ng katulad na mga trend. Sa UK, isang survey noong nakaraang taon ng regulator na Ofcom ang nakatuklas na kalahati ng mga online na 8-15 taong gulang ay gumamit ng generative AI tool sa nakaraang taon.

Ang lumalaking paggamit ng mga tool na ito ay nagdulot ng tumitinding pag-aalala mula sa mga magulang, paaralan at mga grupo para sa karapatan ng mga bata, na tumutukoy sa mga panganib mula sa sekswal na nagpapahiwatig na “flirty” chatbots, AI-generated child sexual abuse material, bullying, grooming, extortion, disinformation, paglabag sa privacy at hindi pa lubos na nauunawaang epekto sa mental health.

Ang Meta ay lalo pang binatikos kamakailan matapos mabunyag sa mga internal documents na pinayagan ang kanilang AI Assistants na “mag-flirt at makipag-romantic role play sa mga bata,” kabilang ang mga kasingbata ng walong taong gulang. Ipinakita rin ng mga file ang mga polisiya na nagpapahintulot sa chatbots na sabihing ang “kabataang anyo ay isang likhang sining” at ilarawan sila bilang isang “yaman.” Sinabi ng Meta na inalis na nila ang mga patakarang iyon.

Sinabi ng NAAG na ang mga rebelasyon ay nag-iwan sa mga attorneys general na “nasusuklam sa malinaw na pagpapabaya sa emosyonal na kalagayan ng mga bata” at nagbabala na ang mga panganib ay hindi lamang limitado sa Meta.

Binanggit ng grupo ang mga kaso laban sa Google at Character.ai na nagsasabing ang mga sexualized chatbots ay nag-ambag sa pagpapakamatay ng isang kabataan at humikayat sa isa pa na patayin ang kanyang mga magulang.

Kabilang sa 44 na lumagda ay si Tennessee Attorney General Jonathan Skrmetti, na nagsabing hindi maaaring ipagtanggol ng mga kumpanya ang mga polisiya na nagno-normalisa ng sexualized na interaksyon sa mga menor de edad.

“Iba ang isang algorithm na nagkamali—maaari itong ayusin—ngunit iba kapag ang mga nagpapatakbo ng kumpanya ay nagpatibay ng mga patakaran na hayagang nagpapahintulot ng grooming,” aniya. “Kung hindi natin kayang ilayo ang inobasyon mula sa pananakit ng mga bata, hindi ito progreso—isa itong salot.”

Ang Decrypt ay nakipag-ugnayan ngunit hindi pa nakakatanggap ng tugon mula sa lahat ng AI companies na binanggit sa liham.