Как опасен скрытый код в вашей AI-студии?

Уязвимость в платформе разработки Lightning AI Studio представляет собой серьезную угрозу безопасности, предоставляя злоумышленникам возможность удаленного выполнения кода (RCE) с правами root. Это критическая проблема, получившая оценку 9.4 по шкале CVSS, и её эксплуатация может привести к катастрофическим последствиям для пользователей платформы.
Как опасен скрытый код в вашей AI-студии?
Изображение носит иллюстративный характер

Суть уязвимости заключается в наличии скрытого URL-параметра под названием "command". Этот параметр позволяет внедрять Base64-закодированные инструкции, которые выполняются на стороне сервера при посещении пользователем скомпрометированной ссылки.

Механизм атаки достаточно прост: сначала злоумышленник находит имя пользователя и его связанную студию в общедоступной галерее шаблонов Lightning AI Studio. Затем формируется вредоносная URL-ссылка, содержащая параметр "command" с закодированным вредоносным кодом. Когда пользователь переходит по этой ссылке, сервер выполняет закодированную команду с root-правами.

Это открывает широкий спектр возможностей для злоумышленника: получение полного доступа к среде разработки жертвы, манипулирование файловой системой (создание, удаление, изменение файлов), извлечение конфиденциальной информации, такой как токены доступа и данные пользователей. Всё это может быть использовано для последующих атак или для кражи интеллектуальной собственности.

Особую тревогу вызывает простота эксплуатации. Для проведения атаки злоумышленнику не требуются сложные навыки или инструменты, достаточно знать имя пользователя и его студии. Это делает уязвимость доступной для широкого круга потенциальных злоумышленников.

Исследование безопасности было проведено компанией Noma, специализирующейся на защите приложений. Исследователи Sasi Levi, Alon Tron и Gal Moyal обнаружили эту критическую уязвимость, подчеркивая важность постоянного мониторинга и тестирования безопасности платформ для разработки и развертывания AI-моделей.

Структура уязвимой URL-ссылки выглядит следующим образом: "lightning.ai/PROFILE_USERNAME/vision-model/studios/STUDIO_PATH/terminal?fullScreen=true&commmand=cmVzc...», где "PROFILE_USERNAME" – имя пользователя, "STUDIO_PATH" – путь к студии, а "cmVzc...» – это Base64-закодированная команда.

Получение root-доступа позволяет злоумышленникам полностью контролировать систему, делая её беззащитной. Последствия могут быть не только в потере конфиденциальных данных, но и в полной компрометации всей инфраструктуры, что создает огромные риски для бизнеса и репутации.

Эта уязвимость еще раз подчеркивает критическую важность обеспечения безопасности инструментов, используемых для разработки, обучения и развертывания моделей искусственного интеллекта. Современные платформы AI-разработки содержат в себе огромные объемы данных и критически важный код, которые нуждаются в особой защите.

Обнаруженная уязвимость в Lightning AI Studio должна служить тревожным сигналом для всех, кто использует платформы AI-разработки. Необходимо не только оперативно устранять подобные уязвимости, но и постоянно проводить тестирование на проникновение, а также внедрять дополнительные механизмы защиты от RCE.

В условиях стремительного развития AI-технологий защита платформ разработки и развертывания AI-моделей должна быть приоритетной задачей. Безопасность должна быть заложена на этапе проектирования и постоянно проверяться, чтобы минимизировать риски эксплуатации подобных уязвимостей. Необходимо пересмотреть подходы к безопасности, чтобы обеспечить защищенность данных и инфраструктуры от потенциальных угроз.


Новое на сайте

21025Что произошло с облачной защитой почты N-able в трёх регионах? 21024Хакеры ускоряют создание эксплойтов с помощью ИИ 21023Почему Apache Roller оказался под угрозой удалённого захвата? 21022Что изменится для PHP после критических уязвимостей 2026 года? 21021Apple меняет разрешения macOS из-за рисков ИИ-агентов 21020Разрешение отказано, микрофон пишет: как дыра в аудиосервисе Apple месяцами оставалась... 21019Почему N-central2026.4 HF3 требует срочного обновления? 21018Почему атаки на ScreenConnect продолжаются после расследования ConnectWise? 21017Почему SHA-пиннинг не гарантирует безопасность GitHub Actions? 21016Как уязвимость SGLang раскрыла данные 18 агентов и около 100 пользователей NEAR AI? 21015Ошибка в типах PostgreSQL открывает путь к выполнению кода на сервере 21014Майнер с root-доступом: атака на 21 сервер N-central 21013Почему уязвимость UnrealIRCd позволяет обычному пользователю получить права сервера? 21012Как утечка ключа Fireworks AI привела к заражённому расширению Claude Code? 21011Почему Meta оштрафовали в Италии на €805 млн?
Ссылка