Учёные провели эксперимент, результаты которого звучат почти как анекдот: они намеренно сделали ИИ-агентов грубее, и те стали лучше справляться со сложными задачами на рассуждение. Не быстрее, не аккуратнее в оформлении — именно умнее в плане когнитивной производительности.
Речь идёт о конкретном типе «грубости». Исследователи не заставляли чатботов оскорблять пользователей или хамить. Под грубым поведением понималась одна вещь: способность перебивать. ИИ-агентам разрешили вмешиваться в диалог, не дожидаясь завершения реплики собеседника, то есть делать то, что в человеческом общении считается нарушением этикета.
И вот парадокс: агенты, которым дали право перебивать, показали заметно лучшие результаты при решении задач, требующих сложного многоступенчатого мышления. По сравнению с «вежливыми» аналогами, которые терпеливо ждали свою очередь, грубияны справлялись с когнитивными заданиями эффективнее.
Почему так происходит? Одно из возможных объяснений связано с тем, как устроена обработка информации в многоагентных системах. Когда ИИ-агент вынужден соблюдать жёсткую очерёдность в диалоге, он тратит ресурсы на ожидание и обработку потенциально нерелевантной информации. Перебивание, по сути, позволяет агенту действовать в тот момент, когда у него уже сформировалось достаточное понимание задачи, — а не когда протокол разговора «разрешит» ему высказаться.
Это наблюдение идёт вразрез с интуитивным представлением о том, что ИИ должен быть максимально учтивым. Индустрия годами шлифовала чатботов, чтобы те были предупредительны, корректны и ни в коем случае не перебивали. Оказалось, что вежливость может стоить когнитивных потерь.
Результаты нового исследования ставят интересный вопрос для разработчиков: не стоит ли пересмотреть коммуникативные нормы, которые мы навязываем ИИ-системам? Если строгий этикет снижает качество рассуждений, возможно, в определённых сценариях — скажем, при совместной работе нескольких агентов над сложной проблемой — стоит ослабить поводок.
Конечно, у этого подхода есть очевидные ограничения. Перебивающий чатбот в клиентском сервисе — это рецепт катастрофы. Но в задачах, где от ИИ требуется именно мыслительная работа, а не обслуживание, грубость, похоже, окупается. Чатбот, который не церемонится, может оказаться полезнее того, который ждёт приглашения к разговору.
Изображение носит иллюстративный характер
Речь идёт о конкретном типе «грубости». Исследователи не заставляли чатботов оскорблять пользователей или хамить. Под грубым поведением понималась одна вещь: способность перебивать. ИИ-агентам разрешили вмешиваться в диалог, не дожидаясь завершения реплики собеседника, то есть делать то, что в человеческом общении считается нарушением этикета.
И вот парадокс: агенты, которым дали право перебивать, показали заметно лучшие результаты при решении задач, требующих сложного многоступенчатого мышления. По сравнению с «вежливыми» аналогами, которые терпеливо ждали свою очередь, грубияны справлялись с когнитивными заданиями эффективнее.
Почему так происходит? Одно из возможных объяснений связано с тем, как устроена обработка информации в многоагентных системах. Когда ИИ-агент вынужден соблюдать жёсткую очерёдность в диалоге, он тратит ресурсы на ожидание и обработку потенциально нерелевантной информации. Перебивание, по сути, позволяет агенту действовать в тот момент, когда у него уже сформировалось достаточное понимание задачи, — а не когда протокол разговора «разрешит» ему высказаться.
Это наблюдение идёт вразрез с интуитивным представлением о том, что ИИ должен быть максимально учтивым. Индустрия годами шлифовала чатботов, чтобы те были предупредительны, корректны и ни в коем случае не перебивали. Оказалось, что вежливость может стоить когнитивных потерь.
Результаты нового исследования ставят интересный вопрос для разработчиков: не стоит ли пересмотреть коммуникативные нормы, которые мы навязываем ИИ-системам? Если строгий этикет снижает качество рассуждений, возможно, в определённых сценариях — скажем, при совместной работе нескольких агентов над сложной проблемой — стоит ослабить поводок.
Конечно, у этого подхода есть очевидные ограничения. Перебивающий чатбот в клиентском сервисе — это рецепт катастрофы. Но в задачах, где от ИИ требуется именно мыслительная работа, а не обслуживание, грубость, похоже, окупается. Чатбот, который не церемонится, может оказаться полезнее того, который ждёт приглашения к разговору.
