Генеративный искусственный интеллект стремительно меняет облик различных отраслей, открывая новые возможности, но одновременно обнажая серьезные угрозы кибербезопасности. Вопрос надежной защиты таких систем становится центральным для устойчивого и ответственного внедрения инноваций.
Одной из ключевых инициатив в этой сфере стал проект OWASP Top 10 for LLM and Gen AI, который объединяет усилия мирового сообщества экспертов по безопасности и исследователей искусственного интеллекта. К проекту присоединился Trend Micro в статусе золотого спонсора, предоставив свои ресурсы и экспертизу в области кибербезопасности. Их сотрудничество с OWASP направлено на выявление и нейтрализацию новых угроз для крупных языковых моделей (LLM) и генеративных систем ИИ, а также на создание гибких и актуальных стандартов безопасности.
Этот проект был задуман восемнадцать месяцев назад небольшой группой специалистов по безопасности и исследователей ИИ с целью выявления уязвимостей в архитектуре LLM. Официальный запуск состоялся в мае 2023 года. С первых дней инициатива была нацелена на решение неотложных задач: противостояние атакующим воздействиям, предотвращение утечек данных, защиту от внедрения вредоносных инструкций (prompt injection) и выработку принципов управления рисками в генеративных ИИ-приложениях.
Проект OWASP Top 10 for LLM and Gen AI быстро приобрел глобальный масштаб. Сегодня к работе подключились более 600 экспертов из 18 стран, представляющих свыше 130 компаний. Также сообщество насчитывает почти 8 000 активных участников, что свидетельствует о высокой значимости проблемы безопасности ИИ для всего цифрового мира. Благодаря поддержке Trend Micro открываются новые возможности для проведения исследований и разработки эффективных защитных мер.
Особое внимание уделяется разработке и внедрению отраслевых стандартов. Лидерство Trend Micro проявляется не только в поддержке OWASP, но и в активном участии в таких организациях, как CoSAI (Coalition for Secure AI) и CSA (Cloud Security Alliance). Компания подчеркивает: её платформы строятся и функционируют в полном соответствии с самыми современными и строгими требованиями безопасности.
В ходе совместной работы формируется новая эпоха защиты искусственного интеллекта, где баланс инноваций и безопасности становится основой для дальнейшего развития технологий. Представители Trend Micro отмечают: «Надежный фундамент кибербезопасности — обязательное условие, чтобы искусственный интеллект раскрыл свой полный потенциал».
Дополнительную информацию о решениях Trend Micro в области кибербезопасности можно найти на сайте . С актуальными стандартами и инициативами по безопасности ИИ знакомят ресурсы OWASP Top 10 LLM and Gen AI, CoSAI и CSA.
Изображение носит иллюстративный характер
Одной из ключевых инициатив в этой сфере стал проект OWASP Top 10 for LLM and Gen AI, который объединяет усилия мирового сообщества экспертов по безопасности и исследователей искусственного интеллекта. К проекту присоединился Trend Micro в статусе золотого спонсора, предоставив свои ресурсы и экспертизу в области кибербезопасности. Их сотрудничество с OWASP направлено на выявление и нейтрализацию новых угроз для крупных языковых моделей (LLM) и генеративных систем ИИ, а также на создание гибких и актуальных стандартов безопасности.
Этот проект был задуман восемнадцать месяцев назад небольшой группой специалистов по безопасности и исследователей ИИ с целью выявления уязвимостей в архитектуре LLM. Официальный запуск состоялся в мае 2023 года. С первых дней инициатива была нацелена на решение неотложных задач: противостояние атакующим воздействиям, предотвращение утечек данных, защиту от внедрения вредоносных инструкций (prompt injection) и выработку принципов управления рисками в генеративных ИИ-приложениях.
Проект OWASP Top 10 for LLM and Gen AI быстро приобрел глобальный масштаб. Сегодня к работе подключились более 600 экспертов из 18 стран, представляющих свыше 130 компаний. Также сообщество насчитывает почти 8 000 активных участников, что свидетельствует о высокой значимости проблемы безопасности ИИ для всего цифрового мира. Благодаря поддержке Trend Micro открываются новые возможности для проведения исследований и разработки эффективных защитных мер.
Особое внимание уделяется разработке и внедрению отраслевых стандартов. Лидерство Trend Micro проявляется не только в поддержке OWASP, но и в активном участии в таких организациях, как CoSAI (Coalition for Secure AI) и CSA (Cloud Security Alliance). Компания подчеркивает: её платформы строятся и функционируют в полном соответствии с самыми современными и строгими требованиями безопасности.
В ходе совместной работы формируется новая эпоха защиты искусственного интеллекта, где баланс инноваций и безопасности становится основой для дальнейшего развития технологий. Представители Trend Micro отмечают: «Надежный фундамент кибербезопасности — обязательное условие, чтобы искусственный интеллект раскрыл свой полный потенциал».
Дополнительную информацию о решениях Trend Micro в области кибербезопасности можно найти на сайте . С актуальными стандартами и инициативами по безопасности ИИ знакомят ресурсы OWASP Top 10 LLM and Gen AI, CoSAI и CSA.
