Эмоциональный интеллект в ИИ: моделирование и этические последствия

Исследование эмоционального поведения больших языковых моделей (LLM) выявило, что они способны имитировать человеческие эмоциональные реакции, особенно в ситуациях принятия решений. LLM демонстрируют изменение поведения под влиянием различных эмоций, таких как радость, грусть, гнев, страх и отвращение, что приводит к отклонениям от рациональных решений. Модели с высокой степенью «выравнивания» с человеческими стандартами, как GPT-4, лучше воспроизводят паттерны человеческого поведения, особенно в этических дилеммах и играх на торговлю.
Эмоциональный интеллект в ИИ: моделирование и этические последствия
Изображение носит иллюстративный характер

Эмоциональное стимулирование может усиливать человечность LLM, но также вносит искажения, делая их поведение менее предсказуемым. Позитивные эмоции, например, радость, повышают склонность к сотрудничеству, тогда как негативные эмоции, такие как гнев и отвращение, снижают альтруизм. Язык обучения модели также влияет на ее способность воспроизводить эмоциональное поведение, где модели, обученные преимущественно на русском языке, проявляют лучшие результаты в сценариях на русском языке.

Эксперименты показали, что LLM, особенно GPT-4, способны адаптироваться к эмоциональным контекстам, формируя сложные паттерны поведения, схожие с человеческими, например, чередование стратегий в повторяющихся играх. Однако, важно отметить, что текущие LLM имитируют эмоции, а не испытывают их, что создает риск непредсказуемого поведения.

Для дальнейшего развития систем ИИ необходимо учитывать не только текстовые, но и визуальные и аудиальные сигналы, а также культурные и языковые различия в эмоциональном восприятии. При этом, необходимо разрабатывать подходы, позволяющие моделям учитывать эмоции, сохраняя при этом объективность и рациональность, особенно в критически важных областях.


Новое на сайте

21016Как уязвимость SGLang раскрыла данные 18 агентов и около 100 пользователей NEAR AI? 21015Ошибка в типах PostgreSQL открывает путь к выполнению кода на сервере 21014Майнер с root-доступом: атака на 21 сервер N-central 21013Почему уязвимость UnrealIRCd позволяет обычному пользователю получить права сервера? 21012Как утечка ключа Fireworks AI привела к заражённому расширению Claude Code? 21011Почему Meta оштрафовали в Италии на €805 млн? 21010Операция Endgame: удар по вредоносным сетям и что делать пострадавшим 21009Как скрытый модуль в кошельках Trezor мог похитить фразы восстановления? 21008ИИ-агент в чужой сессии: кто отвечает за его действия 21007Какие версии Zoom Workplace для Windows уязвимы для удалённого повышения привилегий? 21006Как две уязвимости в Xen Orchestra открыли путь к захвату XCP-ng? 21005Поддельные сайты ИИ превращают опечатки в ловушки 21004Как обновление Node.js закрывает уязвимости HTTP/2 и TLS? 21003Почему Claude Fable5.2 обошёл GPT-6 Cyber в испытании многоэтапных кибератак? 21002Две уязвимости Red Hat Quay открыли доступ к чужим образам
Ссылка