Bitget App
Торгуйте разумнее
Купить криптоРынкиТорговляФьючерсыБотыEarnКопитрейдинг
Экс-сотрудники OpenAI и Google потребовали дать персоналу право говорить о рисках ИИ

Экс-сотрудники OpenAI и Google потребовали дать персоналу право говорить о рисках ИИ

Incrypted2024/06/05 13:04
Автор:Pavel Kot
  • Бывшие и действующие ИИ-специалисты написали открытое письмо с обращением к индустрии.
  • Они потребовали разрешить сотрудникам компаний предупреждать общественность об опасности искусственного интеллекта.
  • Эксперты требуют, чтобы фирмы перестали преследовать персонал за подобные высказывания. 

Бывшие сотрудники стартапа OpenAI, компании Google DeepMind и ряд других специалистов из сферы ИИ написали открытое письмо представителям индустрии. Они требуют, чтобы фирмы разрешили своему персоналу высказывать опасения относительно технологий на базе искусственного интеллекта.

Подписавшие обращение люди заявляют, что хотя ИИ может принести значительную пользу человечеству, он также несет серьезные риски для всего мира. К таким факторам эксперты отнесли «дальнейшее усиление существующего неравенства, манипуляции и дезинформацию, потерю контроля над автономными системами ИИ». 

По мнению экспертов, компании из этого сегмента часто скрывают информацию о реальных возможностях, ограничениях и степени риска подконтрольных им систем.

При этом они имеют минимальные обязательства перед властями, касательно предоставления данных. Перед гражданским обществом такие фирмы вовсе не отчитываются, подчеркивают авторы письма.

«Пока за этими корпорациями не будет эффективного государственного надзора, нынешние и бывшие сотрудники являются одними из немногих людей, которые могут привлечь их к ответственности перед обществом», — говорится в послании. 

Действующие соглашения о неразглашении запрещают персоналу озвучивать опасения и предупреждать окружающих о потенциальной опасности, отмечают подписавшиеся. По их словам, в случае нарушения этих требований компании занимаются целенаправленным преследованием своих сотрудников.

Авторы письма призвали ИИ-фирмы соблюдать четыре ключевых принципа:

  • не опираться на соглашения, ограничивающие право критики, связанной с опасениями в отношении технологий искусственного интеллекта;
  • оказывать содействие анонимному процессу, позволяющему сотрудникам сообщить о выявленных рисках;
  • поддерживать культуру разумной критики;
  • отказаться от преследования персонала в случае разглашения информации об упомянутых рисках ИИ.

Среди лиц, подписавших открытое послание, значатся экс-сотрудники OpenAI Джейкоб Хилтон, Уильям Сондерс, Кэрролл Уэйнрайт и другие. Соавторами письма также выступили бывшие специалисты Google DeepMind Рамана Кумар и Нил Нанда.

Ранее появилась информация, что OpenAI заставляла покидающих компанию сотрудников выбирать между сохранением акций и возможностью выступить против стартапа. 

CEO компании Сэм Альтман подтвердил существование такого пункта. При этом он заявил, что OpenAI «никогда не отбирала принадлежащие кому-то акции и не планирует это делать, если человек не подпишет NDA (или откажется не критиковать стартап)».

Напомним, мы писали, что OpenAI заплатит $250 млн за обучение ИИ на статьях с WSJ.

0

Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.

PoolX: вносите активы и получайте новые токены.
APR до 12%. Аирдропы новых токенов.
Внести!

Вам также может понравиться

Ondo расширяет токенизированные казначейские облигации на XRP Ledger, предоставляет возможность выпуска и выкупа OUSG через стейблкоин RLUSD от Ripple

DeFi-платформа Ondo Finance добавила XRP Ledger в список поддерживаемых сетей для своего ончейн-продукта, обеспеченного государственным долгом США. Во вторник Guggenheim Treasury Services также представила свои токенизированные коммерческие бумаги на блокчейне, работающем на базе XRP.

The Block2025/06/12 00:57
Ondo расширяет токенизированные казначейские облигации на XRP Ledger, предоставляет возможность выпуска и выкупа OUSG через стейблкоин RLUSD от Ripple

Sygnum предупреждает: растущие активы Strategy могут сделать биткоин «неподходящим» для резервов центральных банков

Компании, приобретающие биткоин по стратегии, аналогичной MicroStrategy, накапливают чрезмерные запасы BTC с использованием заемных средств, что, по мнению Sygnum, подрывает пригодность биткоина в качестве резервного актива для центральных банков. Такие стратегии искажают ликвидность и рыночные настроения, создавая долгосрочные риски для стабильности биткоина и его более широкого принятия институциональными инвесторами, отмечает регулируемый банк цифровых активов.

The Block2025/06/12 00:57
Sygnum предупреждает: растущие активы Strategy могут сделать биткоин «неподходящим» для резервов центральных банков

Биткоин сохраняет устойчивость на фоне снижения инфляции в США, заявлений Трампа о торговой сделке с Китаем и снижении ставки ФРС

Быстрый обзор: Биткоин и американские акции стабилизировались после того, как свежие данные по индексу потребительских цен вновь превзошли ожидания. Некоторые аналитики считают, что эта новость не повлияет на крипторынки в краткосрочной перспективе, в то время как другие полагают, что инфляционный тренд может подтолкнуть ФРС к изменению политики и «ускорить» приток средств в биткоин-ETF в ближайшие месяцы.

The Block2025/06/12 00:57
Биткоин сохраняет устойчивость на фоне снижения инфляции в США, заявлений Трампа о торговой сделке с Китаем и снижении ставки ФРС