Сэм Альтман, генеральный директор OpenAI, выступил с тревожным предупреждением для финансового сектора на конференции Федеральной резервной системы в Вашингтоне во вторник. Он прогнозирует «надвигающийся значительный кризис мошенничества», вызванный способностью искусственного интеллекта подделывать человеческие голоса.
Основная угроза, по словам Альтмана, заключается в использовании ИИ-голосовых клонов для обхода систем безопасности банков с целью незаконного перевода средств. Технология достигла уровня, когда подделка становится неотличимой от реального голоса клиента.
Особую критику Альтман направил на продолжающуюся практику банков использовать отпечатки голоса (голосовые биометрические данные) в качестве метода аутентификации, особенно для состоятельных клиентов. «Это абсурд – продолжать это делать сейчас, – заявил он. – ИИ полностью победил этот метод».
Эта практика голосовой верификации, популярная более десяти лет назад, обычно требовала от клиентов произнесения определенной «контрольной фразы» по телефону для доступа к счетам. Однако современные технологии ИИ сделали ее уязвимой.
Альтман подчеркнул, что угроза не ограничивается голосом: «Сейчас ИИ создает голосовые клоны. В будущем он сможет создавать и видео-клоны». Эти имитации становятся все более «неотличимыми от реальности», что делает разработку новых, надежных методов проверки личности клиента критически важной задачей.
На предупреждение Альтмана отреагировала Мишель Боуман, вице-председатель Совета управляющих Федеральной резервной системы по надзору, выступавшая хозяйкой дискуссии. Будучи главным финансовым регулятором ФРС, Боуман обозначила возможный путь сотрудничества: «Возможно, это как раз та область, где мы могли бы подумать о партнерстве», – сказала она, намекая на совместную работу над противодействием мошенничеству с использованием ИИ.
Изображение носит иллюстративный характер
Основная угроза, по словам Альтмана, заключается в использовании ИИ-голосовых клонов для обхода систем безопасности банков с целью незаконного перевода средств. Технология достигла уровня, когда подделка становится неотличимой от реального голоса клиента.
Особую критику Альтман направил на продолжающуюся практику банков использовать отпечатки голоса (голосовые биометрические данные) в качестве метода аутентификации, особенно для состоятельных клиентов. «Это абсурд – продолжать это делать сейчас, – заявил он. – ИИ полностью победил этот метод».
Эта практика голосовой верификации, популярная более десяти лет назад, обычно требовала от клиентов произнесения определенной «контрольной фразы» по телефону для доступа к счетам. Однако современные технологии ИИ сделали ее уязвимой.
Альтман подчеркнул, что угроза не ограничивается голосом: «Сейчас ИИ создает голосовые клоны. В будущем он сможет создавать и видео-клоны». Эти имитации становятся все более «неотличимыми от реальности», что делает разработку новых, надежных методов проверки личности клиента критически важной задачей.
На предупреждение Альтмана отреагировала Мишель Боуман, вице-председатель Совета управляющих Федеральной резервной системы по надзору, выступавшая хозяйкой дискуссии. Будучи главным финансовым регулятором ФРС, Боуман обозначила возможный путь сотрудничества: «Возможно, это как раз та область, где мы могли бы подумать о партнерстве», – сказала она, намекая на совместную работу над противодействием мошенничеству с использованием ИИ.
