Абсолютный сторонник свободы слова Cloudflare теперь предоставляет работодателям доступ к запросам сотрудников в ChatGPT

Работодатели могут быть в восторге от генеративного искусственного интеллекта — до тех пор, пока сотрудник не вставит внутренние финансовые данные или проприетарный код в ChatGPT, Claude или Gemini, и секреты компании не окажутся в облаке.

Cloudflare, чьи технологии обеспечивают работу почти 20% веба, сегодня внедрила контроль за ИИ в свою корпоративную платформу безопасности Cloudflare One. Эта функция предоставляет IT-командам мгновенный доступ к информации о том, кто общается с ИИ — и чем именно сотрудники делятся с ним. Компания позиционирует это как своего рода рентгеновское зрение для использования генеративного ИИ сотрудниками, встроенное в уже используемую IT-специалистами панель управления.

«Теперь администраторы могут ответить на такие вопросы, как: Чем занимаются наши сотрудники в ChatGPT? Какие данные загружаются и используются в Claude? Корректно ли настроен Gemini в Google Workspace?» — говорится в блоге компании. 

Теневая работа ИИ больше невозможна

Cloudflare утверждает, что три из четырех сотрудников используют ChatGPT, Claude или Gemini на работе для всего — от редактирования текста и анализа данных до отладки и дизайна. Проблема в том, что чувствительные данные обычно исчезают в инструментах ИИ, не оставляя следов. Продукт Cloudflare интегрируется на уровне API и сканирует подозрительные загрузки. 

По данным компании, один неосторожный запрос может мгновенно обучить внешнюю модель на ваших конфиденциальных данных, которые затем будут утеряны навсегда. 

Крупные конкуренты на рынке корпоративной безопасности — такие как Zscaler и Palo Alto Networks — также предлагают контроль за ИИ. Cloudflare утверждает, что отличает Cloudflare One — это гибридная, безагентная модель. Она сочетает внеполосное сканирование API (для оценки состояния, конфигурации и утечек данных) с встроенным на границе контролем запросов для ChatGPT, Claude и Gemini — и всё это без необходимости установки программного обеспечения на конечные устройства. 

Абсолютист свободы слова

Cloudflare давно позиционирует себя как инфраструктурного провайдера, нейтрального к содержанию, а не модератора — то есть, как правило, воздерживается от контроля над тем, что публикуют его клиенты, если только этого не требует закон. Такая позиция сохраняется уже более десяти лет: CEO Matthew Prince подчеркивал, что Cloudflare не является хостинговой платформой и не определяет, какой контент допустим; компания просто обеспечивает, чтобы сайты — независимо от их идеологии — оставались онлайн и были защищены.

Этот «абсолютистский» подход к свободе слова подвергался критике. Критики отмечают, что Cloudflare позволяла сайтам, наполненным ненавистью, экстремизмом или иным вредоносным контентом, оставаться доступными — зачастую только потому, что не поступало официального запроса на их блокировку. Исследование Stanford 2022 года показало, что Cloudflare непропорционально часто обслуживает сайты с дезинформацией по сравнению с общей долей интернет-трафика.

Тем не менее, были редкие исключения. В 2017 году Cloudflare прекратила обслуживание сайта белых супремасистов The Daily Stormer — спорный шаг, предпринятый только после того, как сайт ложно заявил, что Cloudflare тайно разделяет его пронацистские взгляды. Позже Prince назвал это решение вынужденным исключением, принятым под давлением, которое заставило отойти от политики нейтралитета.

Аналогично, в 2019 году Cloudflare прекратила поддержку 8chan после того, как тот был связан с массовыми расстрелами, признав, что сообщество стало опасно беззаконным.

В последнее время, в 2022 году, Cloudflare наконец прекратила поддержку Kiwi Farms на фоне нарастающих случаев травли, доксинга и угроз жизни. Отключение произошло после давления со стороны активистов и сообщений о росте насилия.