ФБР: инженер использовал ИИ для создания детской порнографии

• Власти США арестовали программиста Стивена Андерегга по подозрению в производстве, распространении и хранении ИИ-изображений сексуального насилия над детьми.
• Согласно ведомству, в 2023 году инженер с помощью алгоритма Stable Diffusion создал более 13 000 непристойных картинок с несовершеннолетними.
• CSAM-материалы обвиняемый отправлял подростку в Instagram.
• Ему грозит от пяти до 70 лет тюрьмы.

Министерство юстиции США арестовало инженера-программиста по обвинению в создании и распространении тысяч сгенерированных ИИ материалов сексуального насилия над детьми (CSAM).

Насколько известно, это первый случай такого рода. Американское правительство стремится создать судебный прецедент, согласно которому эксплуатационные материалы все равно считаются незаконными, даже если в их создании не участвовали дети.

«Генерация искусственным интеллектом материалов сексуального насилия над детьми по-прежнему остаются CSAM», — написала в пресс-релизе заместитель генерального прокурора Лиза Монако.

Согласно обвинительному заключению, 42-летний программист Стивен Андерегг из Холмена (штат Висконсин) использовал генератор иллюстраций по тексту Stable Diffusion, вероятно , версию 1.5. С его помощью он создал более 13 000 картинок с детьми, «причем сотни или тысячи из них изображали обнаженных или полураздетых несовершеннолетних».

Власти заявили, что обвиняемый использовал «чрезвычайно конкретные и явные подсказки для создания CSAM-изображений, включая негативные промты».

По данным Минюста США, Андерегг общался онлайн с мальчиком 15 лет и описывал ему, как задействовал модель искусственного интеллекта для создания откровенных фото.

Ведомство заявило, что в октябре 2023 года обвиняемый отправил подростку через личные сообщения в Instagram несколько ИИ-изображений с «несовершеннолетними, похотливо демонстрирующими свои гениталии».

Социальная сеть передала эту информацию в Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC), который предупредил правоохранительные органы.

Известно, что Андерегг в личных сообщениях с другими пользователями Instagram якобы «обсуждал свое желание заняться сексом с мальчиками препубертатного возраста». Также он сказал одному собеседнику, что у него в Telegram есть «тонна» CSAM-изображений, созданных искусственным интеллектом.

Андереггу грозит от пяти до 70 лет тюремного заключения. Его могут признать виновным по четырем пунктам обвинения: производство, распространение и хранение непристойных визуальных изображений несовершеннолетних, вовлеченных в откровенно сексуальные действия, и передаче непристойных материалов несовершеннолетним в возрасте до 16 лет.

В настоящее время Андерегг находится под стражей в федеральном учреждении перед слушанием, назначенным на 22 мая 2024 года.

«Министерство юстиции будет активно преследовать тех, кто производит и распространяет CSAM-материалы, независимо от того, как их создали», ― заявила Монако.

Напомним, недавно Google обновила политику в отношении недопустимого контента, запретив продвигать рекламу сайтов и приложений с дипфейк-порно.