Lingo Telecom, американский поставщик голосовых услуг, согласился на урегулирование спора с Федеральной комиссией по связи (FCC) на сумму 1 миллион долларов. Компанию обвинили в содействии звонкам роботов с помощью искусственного интеллекта, которые повлияли на избирателей на первичных выборах в Нью-Гэмпшире в 2024 году.
21 января 2024 года многочисленные жители Нью-Гэмпшира были запуганы телефонными звонками с голосом, напоминающим голос dent Джо Байдена. Звонки, которые были автоматизированы, сообщали жертвам, что голосование на dent президента штата приведет к их лишению избирательных прав на ноябрьских всеобщих выборах. Голос был записан с использованием фальшивого глубокого голоса, имитирующего Джо Байдена с использованием алгоритма глубокого обучения.
Lingo Telecom грозят штрафы и меры по обеспечению соблюдения требований
Операцию провел политтехнолог Стив Крамер, который заявил, что цель заключалась не в том, чтобы повлиять на выборы, а в том, чтобы продемонстрировать, насколько опасен ИИ. Однако действия Крамера имели потенциальные негативные последствия, предоставляя избирателям ложную информацию и создавая угрозу справедливости выборов. В этом процессе была использована технология Lingo Telecom, поскольку она облегчила отправку этих сообщений соответствующим людям.
В соответствии с соглашением Lingo Telecom придется выплатить 1 миллион долларов в качестве гражданского штрафа, в то время как Федеральная комиссия по связи требовала от компании 2 миллиона долларов. Компания также обязана иметь надежный план обеспечения соответствия, который включает соответствие системе аутентификации идентификатора вызывающего абонента FCC STIR/SHAKEN.
Эта структура является попыткой решить проблему подделки идентификатора вызывающего абонента. Это использовалось в кампании по вызову роботов, чтобы звонки выглядели так, как будто они исходят с других законных номеров.
Федеральная комиссия по связи также подчеркнула, что это соглашение является ключевым моментом в отправке tron сигнала другим компаниям, которые участвуют в такой деятельности или содействуют такой деятельности. Lingo Telecom, хотя и приняла мировое соглашение, tron раскритиковала действия FCC, заявив, что регулятор пытается ввести новые правила задним числом.
Представитель Федеральной комиссии по связи подчеркивает опасность клонирования голоса ИИ на выборах
Лояан Эгал, руководитель правоохранительного бюро FCC, отметил, что выдача себя за другое лицо с помощью подделки идентификатора вызывающего абонента и клонирования голоса с помощью искусственного интеллекта очень опасна, особенно в период выборов. Эгал отметил, что эти технологии могут быть неправильно использованы государственными субъектами для достижения политических целей или иностранными субъектами, намеревающимися вмешаться в политические процессы страны.
Стив Крамер, политический консультант, совершивший звонки от роботов, сталкивается с еще более серьезными последствиями. Федеральная комиссия по связи предложила оштрафовать Крамера на 6 миллионов долларов, которому также может грозить до семи лет тюремного заключения по обвинению в подавлении избирателей.
Кроме того, Крамера также могут приговорить к одному году за выдачу себя за политического кандидата. Обвинения показывают, как власти рассматривают это дело, рассматривая его как наглядный пример рисков, связанных с использованием ИИ в политике.
Роберт Вайсман, сопрезидент некоммерческой организации Public Citizen, приветствовал действия Федеральной комиссии по связи в этом случае, заявив, что дипфейки представляют собой dent экзистенциальную угрозу нашей демократии».
