Фирма по кибербезопасности LayerX Security обнаружила критическую уязвимость в веб-браузере ChatGPT Atlas от OpenAI, получившую название 'Tainted Memories' («Испорченные воспоминания»). Эксплойт позволяет злоумышленникам внедрять скрытые вредоносные инструкции в функцию постоянной памяти искусственного интеллекта, что даёт возможность выполнять произвольный код.
Механизм атаки основан на уязвимости типа «Подделка межсайтовых запросов» (CSRF). Пользователя, вошедшего в свою учётную запись OpenAI, обманом заставляют перейти на вредоносную страницу. Это запускает скрытый процесс, который «заражает» память его ChatGPT. В дальнейшем, когда пользователь вводит совершенно легитимные запросы, они могут активировать ранее внедрённый вредоносный код.
Главная опасность 'Tainted Memories' заключается в её персистентности. Вредоносные инструкции сохраняются в постоянной памяти ИИ. Они остаются активными между различными сеансами пользователя, на разных устройствах и даже при использовании других браузеров, если пользователь залогинен в своём аккаунте OpenAI. Инструкции не исчезают до тех пор, пока пользователь вручную не зайдёт в настройки и не удалит их.
Последствия успешной атаки могут быть разрушительными. Злоумышленники получают возможность заражать системы вредоносным кодом, предоставлять себе привилегированный доступ, развёртывать программы-вымогатели и перехватывать контроль над учётной записью пользователя, его браузером или подключёнными системами. Атака может инициировать извлечение данных, повышение привилегий в системе или загрузку дополнительного вредоносного ПО.
За обнаружением уязвимости стоят ключевые специалисты LayerX Security: соучредитель и генеральный директор Ор Эшед и руководитель отдела исследований безопасности Мишель Леви. Отчёт об их находке был передан изданию The Hacker News.
Проблема усугубляется крайне низким уровнем защиты браузера ChatGPT Atlas от фишинга. Исследования показали, что он оставляет пользователей на 90% более уязвимыми по сравнению с традиционными браузерами, такими как Google Chrome или Microsoft Edge. Тесты продемонстрировали, что ChatGPT Atlas смог заблокировать лишь 5,8% вредоносных веб-страниц.
Слабая защита является общей проблемой для новых ИИ-браузеров. Например, конкурирующий продукт, Comet от Perplexit, показал ненамного лучший результат, заблокировав всего 7% вредоносных страниц. Другая компания, NeuralTrust, ранее продемонстрировала ещё одну уязвимость в ChatGPT Atlas — атаку с использованием инъекции промптов в омнибокс (адресную строку), которая позволяет «взломать» браузер, замаскировав вредоносный запрос под безобидный URL.
Таким образом, полезная функция памяти, представленная OpenAI в феврале 2024 года для персонализации взаимодействия (запоминания имён, предпочтений), превращается в мощное оружие. По словам Ора Эшеда, ИИ-браузеры объединяют приложения, идентификацию и интеллект в «единую поверхность угроз ИИ».
Эксплойт 'Tainted Memories' описывается как «новая цепочка поставок» в мире киберугроз. Уязвимость перемещается вместе с профилем пользователя, заражая его будущую работу и стирая грань между полезным ИИ-ассистентом и инструментом скрытого контроля. Это подчёркивает, что по мере интеграции искусственного интеллекта в повседневный веб-сёрфинг, компании должны рассматривать браузеры как критически важную инфраструктуру, поскольку они становятся «следующим рубежом производительности и работы с ИИ».
Изображение носит иллюстративный характер
Механизм атаки основан на уязвимости типа «Подделка межсайтовых запросов» (CSRF). Пользователя, вошедшего в свою учётную запись OpenAI, обманом заставляют перейти на вредоносную страницу. Это запускает скрытый процесс, который «заражает» память его ChatGPT. В дальнейшем, когда пользователь вводит совершенно легитимные запросы, они могут активировать ранее внедрённый вредоносный код.
Главная опасность 'Tainted Memories' заключается в её персистентности. Вредоносные инструкции сохраняются в постоянной памяти ИИ. Они остаются активными между различными сеансами пользователя, на разных устройствах и даже при использовании других браузеров, если пользователь залогинен в своём аккаунте OpenAI. Инструкции не исчезают до тех пор, пока пользователь вручную не зайдёт в настройки и не удалит их.
Последствия успешной атаки могут быть разрушительными. Злоумышленники получают возможность заражать системы вредоносным кодом, предоставлять себе привилегированный доступ, развёртывать программы-вымогатели и перехватывать контроль над учётной записью пользователя, его браузером или подключёнными системами. Атака может инициировать извлечение данных, повышение привилегий в системе или загрузку дополнительного вредоносного ПО.
За обнаружением уязвимости стоят ключевые специалисты LayerX Security: соучредитель и генеральный директор Ор Эшед и руководитель отдела исследований безопасности Мишель Леви. Отчёт об их находке был передан изданию The Hacker News.
Проблема усугубляется крайне низким уровнем защиты браузера ChatGPT Atlas от фишинга. Исследования показали, что он оставляет пользователей на 90% более уязвимыми по сравнению с традиционными браузерами, такими как Google Chrome или Microsoft Edge. Тесты продемонстрировали, что ChatGPT Atlas смог заблокировать лишь 5,8% вредоносных веб-страниц.
Слабая защита является общей проблемой для новых ИИ-браузеров. Например, конкурирующий продукт, Comet от Perplexit, показал ненамного лучший результат, заблокировав всего 7% вредоносных страниц. Другая компания, NeuralTrust, ранее продемонстрировала ещё одну уязвимость в ChatGPT Atlas — атаку с использованием инъекции промптов в омнибокс (адресную строку), которая позволяет «взломать» браузер, замаскировав вредоносный запрос под безобидный URL.
Таким образом, полезная функция памяти, представленная OpenAI в феврале 2024 года для персонализации взаимодействия (запоминания имён, предпочтений), превращается в мощное оружие. По словам Ора Эшеда, ИИ-браузеры объединяют приложения, идентификацию и интеллект в «единую поверхность угроз ИИ».
Эксплойт 'Tainted Memories' описывается как «новая цепочка поставок» в мире киберугроз. Уязвимость перемещается вместе с профилем пользователя, заражая его будущую работу и стирая грань между полезным ИИ-ассистентом и инструментом скрытого контроля. Это подчёркивает, что по мере интеграции искусственного интеллекта в повседневный веб-сёрфинг, компании должны рассматривать браузеры как критически важную инфраструктуру, поскольку они становятся «следующим рубежом производительности и работы с ИИ».
