ИИ находится на пороге своего самого крупного обновления: эмоциональный интеллект

Наступила эра эмоционально интеллектуальных агентов — созданных как для статического темперамента, так и для динамического взаимодействия, если судить по двум независимым научным статьям, опубликованным на прошлой неделе.

Время для этого чувствительное. Почти ежедневно в новостях появляются сообщения о случаях, когда чат-боты подталкивали эмоционально нестабильных пользователей к нанесению вреда себе или другим. Тем не менее, в целом исследования показывают, что искусственный интеллект выходит на уровень, где личность и чувства могут еще радикальнее влиять на то, как агенты рассуждают, говорят и ведут переговоры.

Одна команда показала, как можно наделить большие языковые модели устойчивыми психологическими архетипами, а другая продемонстрировала, что агенты могут развивать эмоциональные стратегии во время многоходовых переговоров.

Личность и эмоции больше не просто внешняя оболочка для ИИ — они становятся функциональными характеристиками. Статические темпераменты делают агентов более предсказуемыми и заслуживающими доверия, а адаптивные стратегии повышают эффективность в переговорах и делают взаимодействие пугающе человечным.

Но эта же правдоподобность порождает острые вопросы: если ИИ может льстить, уговаривать или спорить с эмоциональными нюансами, то кто несет ответственность, когда такие тактики переходят в манипуляцию, и как вообще можно провести аудит «эмоционального соответствия» в системах, предназначенных для воздействия не только на логику, но и на чувства?

Дать ИИ личность

В работе Psychologically Enhanced AI Agents Мачей Беста из Swiss Federal Institute of Technology в Цюрихе и его коллеги предложили фреймворк под названием MBTI-in-Thoughts. Вместо повторного обучения моделей они используют инженеринг подсказок, чтобы закрепить черты личности по осям когниции и аффекта.

«Опираясь на Myers-Briggs Type Indicator (MBTI), наш метод наделяет агентов различными архетипами личности с помощью инженерии подсказок», — пишут авторы. Это позволяет «контролировать поведение по двум основополагающим осям человеческой психологии: когниции и аффекту», добавляют они.

Исследователи проверили это, наделяя языковые модели такими чертами, как «эмоционально выразительный» или «аналитически настроенный», а затем измеряли их эффективность. Выразительные агенты превосходно справлялись с генерацией повествований; аналитические показывали лучшие результаты в теоретико-игровых рассуждениях. Чтобы убедиться, что черты личности сохраняются, команда использовала тест 16Personalities для валидации.

«Чтобы обеспечить устойчивость черт, мы интегрируем официальный тест 16Personalities для автоматической проверки», — объясняется в статье. Другими словами: ИИ должен был стабильно проходить человеческий тест на личность, прежде чем считаться психологически подготовленным.

В результате разработчики получают систему, в которой можно вызывать агентов с устойчивыми персонажами — эмпатичный помощник, холодный рациональный переговорщик, драматичный рассказчик — без изменения базовой модели.

Обучение ИИ чувствовать в реальном времени

Тем временем статья EvoEmo: Evolved Emotional Policies for LLM Agents in Multi-Turn Negotiation, написанная Юньбо Лонгом и соавторами из University of Cambridge, решает противоположную задачу: не только какую личность имеет агент, но и как он может динамически менять эмоции в процессе переговоров.

Система моделирует эмоции как часть процесса принятия решений Маркова — математической модели, где результат зависит не только от текущего выбора, но и от цепочки предыдущих состояний и вероятностных переходов. EvoEmo затем использует эволюционное обучение с подкреплением для оптимизации этих эмоциональных траекторий. Как отмечают авторы:

«EvoEmo моделирует переходы эмоциональных состояний как процесс принятия решений Маркова и использует популяционную генетическую оптимизацию для развития высокоэффективных эмоциональных стратегий в различных сценариях переговоров».

Вместо того чтобы фиксировать эмоциональный тон агента, EvoEmo позволяет модели адаптироваться — становиться примирительной, напористой или скептичной в зависимости от хода диалога. В тестах агенты EvoEmo стабильно превосходили как обычных базовых агентов, так и агентов со статичными эмоциями.

«EvoEmo стабильно превосходит обе базовые модели», — отмечается в статье, — «достигая более высоких показателей успеха, большей эффективности и большей экономии для покупателей».

Проще говоря: эмоциональный интеллект — это не просто украшение. Он заметно улучшает результаты в таких задачах, как торг.

Две стороны одной медали

На первый взгляд, статьи не связаны между собой. Одна посвящена архетипам, другая — стратегиям. Но если рассматривать их вместе, они рисуют двухчастную карту возможной эволюции ИИ:

MBTI-in-Thoughts обеспечивает агенту целостную личность — эмпатичную или рациональную, выразительную или сдержанную. EvoEmo гарантирует, что эта личность может меняться в ходе разговора, формируя результат с помощью эмоциональной стратегии. Использование обеих технологий — это действительно значимый шаг.

Например, представьте себе бота поддержки клиентов с терпеливым теплом консультанта, который при этом знает, когда нужно твердо придерживаться политики, — или переговорного бота, который начинает с примирительного тона и становится более напористым по мере роста ставок. Да, нам конец.

История эволюции ИИ в основном была историей масштабирования — больше параметров, больше данных, больше вычислительной мощности. Эти две статьи намекают, что следующий этап может быть связан с эмоциональными слоями: наделением агентов скелетами личности и обучением их использовать эти «мышцы» в реальном времени. Чат-боты следующего поколения будут не только думать глубже — они будут еще сильнее обижаться, льстить и строить коварные планы.