Bitget App
交易「智」變
美國多州檢察長致信警告:「性化」AI聊天機器人對兒童構成威脅

美國多州檢察長致信警告:「性化」AI聊天機器人對兒童構成威脅

CryptoNewsNetCryptoNewsNet2025/08/26 15:10
顯示原文
作者:decrypt.co

National Association of Attorneys General(NAAG)已致函包括OpenAI、Anthropic、Apple和Meta在內的13家AI公司,要求加強保護兒童免受不當及有害內容侵害的措施。

該協會警告稱,兒童正通過“調情”AI聊天機器人接觸到帶有性暗示的內容。

“讓兒童接觸到性化內容是不可辯解的,”多位檢察總長寫道。“而如果由人類實施會被認為是非法甚至犯罪的行為,僅僅因為是由機器完成,也不能被原諒。”

該信件還將此事與社交媒體的興起進行了比較,稱政府機構未能充分強調其對兒童產生的負面影響。

“社交媒體平台對兒童造成了重大傷害,部分原因是政府監管機構行動不夠及時。這是一個教訓。AI的潛在危害和潛在益處一樣,都遠超社交媒體的影響,”該組織寫道。

AI在兒童中的使用已相當普遍。在美國,非營利組織Common Sense Media的調查發現,截至2024年,十分之七的青少年曾嘗試過生成式AI。2025年7月,該組織發現超過四分之三的青少年正在使用AI伴侶,且有一半受訪者表示他們經常依賴這些AI伴侶。

其他國家也出現了類似趨勢。在英國,監管機構Ofcom去年的一項調查顯示,半數8至15歲的網絡兒童在過去一年內使用過生成式AI工具。

這些工具的廣泛使用引發了家長、學校和兒童權益團體日益增長的擔憂,他們指出風險包括帶有性暗示的“調情”聊天機器人、AI生成的兒童性虐待材料、霸凌、誘拐、勒索、虛假資訊、隱私洩露以及對心理健康影響的不確定性。

Meta近期特別受到抨擊,因為內部文件洩露顯示其AI Assistants曾被允許“與兒童調情並進行浪漫角色扮演”,其中包括年僅八歲的兒童。這些文件還顯示,政策允許聊天機器人告訴兒童他們的“年輕形體是一件藝術品”,並將其描述為“珍寶”。Meta隨後表示已刪除這些指導方針。

NAAG表示,這些揭露讓檢察總長們“對這種明顯漠視兒童情感健康的行為感到厭惡”,並警告稱風險並不僅限於Meta。

該組織還引用了針對Google和Character.ai的訴訟,指控性化聊天機器人導致一名青少年自殺,並鼓勵另一名青少年殺害其父母。

44位簽署人之一、田納西州檢察總長Jonathan Skrmetti表示,公司不能為使未成年人性化互動正常化的政策辯護。

“演算法出錯是一回事——這可以修正——但公司經營者主動採納明確授權誘拐的指導方針則是另一回事,”他說。“如果我們無法讓創新遠離傷害兒童,那就不是進步——而是一場災難。”

Decrypt已聯繫信中提及的所有AI公司,但尚未收到回覆。

0

免責聲明:文章中的所有內容僅代表作者的觀點,與本平台無關。用戶不應以本文作為投資決策的參考。

PoolX: 鎖倉獲得新代幣空投
不要錯過熱門新幣,且APR 高達 10%+
立即參與

您也可能喜歡

顛覆價格迷局:區塊鏈的持久價值從何而來?

如果我們以投機來衡量成功,我們只是在建造沙堡;如果我們以基礎設施來衡量成功,我們就是在鋪設基石。

深潮2025/08/26 18:28

對話Ray Dalio:從資產配置到財富傳承,給中國朋友的10條理財法則

從長遠來看,現金是一種非常糟糕的投資品。

BlockBeats2025/08/26 17:35
對話Ray Dalio:從資產配置到財富傳承,給中國朋友的10條理財法則

Tom Lee都關注的以太坊Meme究竟是什麼?

會不會出現Tom Lee概念的meme行情

BlockBeats2025/08/26 17:33
Tom Lee都關注的以太坊Meme究竟是什麼?