Google представил новые меры защиты от мошенничества, работающие на базе искусственного интеллекта, которые будут внедрены в Chrome, Search и Android. Об этом компания объявила в четверг. Одно из главных нововведений — использование Gemini Nano, модели искусственного интеллекта, работающей непосредственно на устройстве пользователя, для улучшения функции Safe Browsing в Chrome 137 на компьютерах.
В Chrome 137 для настольных компьютеров Gemini Nano будет применяться для обнаружения мошеннических схем прямо на устройстве. На начальном этапе система нацелена на выявление мошенничества с удаленной технической поддержкой. Она анализирует веб-страницы на наличие подозрительных сигналов, таких как использование API блокировки клавиатуры.
Техническая реализация этой функции включает несколько важных аспектов. Модель языка запускается редко и работает локально на устройстве. Для контроля потребления ресурсов используются ограничения по количеству токенов. Система работает асинхронно, чтобы не прерывать основную деятельность браузера, и применяет регулирование и квоты для ограничения использования графического процессора.
В будущем планируется расширить функциональность системы для обнаружения дополнительных типов мошенничества, включая мошенничество с отслеживанием посылок и неоплаченными дорожными сборами. На устройствах Android эта функция появится позже в 2024 году.
Google также усовершенствовал системы обнаружения мошенничества с помощью ИИ в поисковой системе. Новые алгоритмы выявляют в 20 раз больше обманных страниц и блокируют их в результатах поиска. В 2024 году компании удалось сократить количество случаев мошенничества с имитацией служб поддержки авиакомпаний более чем на 80%, а случаи мошенничества с имитацией визовых и государственных служб — более чем на 70%.
Для Chrome на Android появится новая функция предупреждения о подозрительных уведомлениях. Она использует машинное обучение на устройстве для выявления обманных уведомлений. Когда система обнаруживает подозрительное уведомление, пользователю показывается название сайта, предупреждение о потенциально обманном содержании и предлагается возможность отписаться или просмотреть помеченный контент.
Эти нововведения дополняют функции обнаружения мошенничества с помощью ИИ в Android Messages, выпущенные два месяца назад, и функции обнаружения мошеннических звонков, запущенные в 2023 году. По сообщениям, Google также разрабатывает для Android 16 функцию Advanced Protection, аналогичную подходу Apple, которая будет включать отключение JavaScript, выключение соединений 2G и другие защитные меры. Среди стандартных функций безопасности будут: Theft Detection Lock, Offline Device Lock, Android Safe Browsing и защита от спама в сообщениях.
Кроме того, по данным Android Authority, Google разрабатывает функцию для обнаружения мошеннических схем, которые обманом заставляют жертв открывать банковские приложения во время звонков.
Над этими проектами работают несколько специалистов из команды безопасности Google, включая Джасику Баву, Энди Лима и Синхуэй Лу из команды безопасности Google Chrome, а также Ханну Буономо и Сару Краковяк Криэл из подразделения Chrome Security.
Изображение носит иллюстративный характер
В Chrome 137 для настольных компьютеров Gemini Nano будет применяться для обнаружения мошеннических схем прямо на устройстве. На начальном этапе система нацелена на выявление мошенничества с удаленной технической поддержкой. Она анализирует веб-страницы на наличие подозрительных сигналов, таких как использование API блокировки клавиатуры.
Техническая реализация этой функции включает несколько важных аспектов. Модель языка запускается редко и работает локально на устройстве. Для контроля потребления ресурсов используются ограничения по количеству токенов. Система работает асинхронно, чтобы не прерывать основную деятельность браузера, и применяет регулирование и квоты для ограничения использования графического процессора.
В будущем планируется расширить функциональность системы для обнаружения дополнительных типов мошенничества, включая мошенничество с отслеживанием посылок и неоплаченными дорожными сборами. На устройствах Android эта функция появится позже в 2024 году.
Google также усовершенствовал системы обнаружения мошенничества с помощью ИИ в поисковой системе. Новые алгоритмы выявляют в 20 раз больше обманных страниц и блокируют их в результатах поиска. В 2024 году компании удалось сократить количество случаев мошенничества с имитацией служб поддержки авиакомпаний более чем на 80%, а случаи мошенничества с имитацией визовых и государственных служб — более чем на 70%.
Для Chrome на Android появится новая функция предупреждения о подозрительных уведомлениях. Она использует машинное обучение на устройстве для выявления обманных уведомлений. Когда система обнаруживает подозрительное уведомление, пользователю показывается название сайта, предупреждение о потенциально обманном содержании и предлагается возможность отписаться или просмотреть помеченный контент.
Эти нововведения дополняют функции обнаружения мошенничества с помощью ИИ в Android Messages, выпущенные два месяца назад, и функции обнаружения мошеннических звонков, запущенные в 2023 году. По сообщениям, Google также разрабатывает для Android 16 функцию Advanced Protection, аналогичную подходу Apple, которая будет включать отключение JavaScript, выключение соединений 2G и другие защитные меры. Среди стандартных функций безопасности будут: Theft Detection Lock, Offline Device Lock, Android Safe Browsing и защита от спама в сообщениях.
Кроме того, по данным Android Authority, Google разрабатывает функцию для обнаружения мошеннических схем, которые обманом заставляют жертв открывать банковские приложения во время звонков.
Над этими проектами работают несколько специалистов из команды безопасности Google, включая Джасику Баву, Энди Лима и Синхуэй Лу из команды безопасности Google Chrome, а также Ханну Буономо и Сару Краковяк Криэл из подразделения Chrome Security.