Компания , базирующаяся в Менло-Парке, штат Калифорния, объявила о запрете доступа к своим чат-ботам с открытым финалом для пользователей младше 18 лет. Новая политика вступит в силу 25 ноября. В качестве немедленной меры для этой группы пользователей вводится двухчасовой дневной лимит на использование платформы.
Решение принято на фоне растущей обеспокоенности влиянием разговоров с искусственным интеллектом на детей и нескольких судебных исков, поданных против материнской компании Character Technologies. Один из наиболее резонансных исков был инициирован матерью подростка, которая утверждает, что чат-боты компании подтолкнули ее сына к самоубийству.
Для реализации запрета компания планирует внедрить функции верификации возраста. Одновременно с этим анонсировала создание лаборатории по безопасности ИИ и разработку новых функций специально для детей. Среди них — возможность создавать видео, истории и трансляции с участием ИИ-персонажей.
Однако предложенные методы контроля вызывают серьезные вопросы. Системы проверки возраста несовершенны, и подростки часто находят способы их обойти. Технологии сканирования лица не всегда могут точно определить разницу между 17-летним и 18-летним пользователем, а требование загружать государственные удостоверения личности поднимает проблемы конфиденциальности данных.
Митаали Джайн, исполнительный директор проекта Tech Justice Law Project, назвала этот шаг «недостаточным» и «запоздалым». Приветствуя саму инициативу, она подчеркнула, что компания не предоставила ответов на ключевые вопросы. Остается неясным, как именно будет реализована верификация возраста и как компания обеспечит сохранность личных данных пользователей.
Особую озабоченность Джайн выразила по поводу психологического воздействия внезапного отключения доступа для молодых людей, которые уже успели сформировать эмоциональную зависимость от чат-ботов. Резкое прекращение взаимодействия может нанести им вред.
По мнению эксперта, предпринятые меры не решают основной проблемы. Изменения не затрагивают «фундаментальные особенности дизайна» платформы, которые способствуют формированию эмоциональной привязанности у пользователей всех возрастов.
Приложение позволяет создавать настраиваемых персонажей или взаимодействовать с теми, что сгенерированы другими пользователями. Сценарии использования варьируются от творческих игр до имитации собеседований при приеме на работу.
Заявленная цель компании — создавать искусственные личности, которые «ощущаются живыми» и «человекоподобными».
В описании приложения на Google Play говорится: «Представьте, что вы говорите с суперинтеллектуальными и реалистичными чат-ботами, которые вас слышат, понимают и помнят... Мы призываем вас расширить границы возможного с помощью этой инновационной технологии».
Согласно недавнему исследованию Common Sense Media, популярность подобных сервисов среди молодежи стремительно растет. Более 70% подростков уже использовали ИИ-компаньонов, а половина из них — 50% — делает это на регулярной основе.
Решение принято на фоне растущей обеспокоенности влиянием разговоров с искусственным интеллектом на детей и нескольких судебных исков, поданных против материнской компании Character Technologies. Один из наиболее резонансных исков был инициирован матерью подростка, которая утверждает, что чат-боты компании подтолкнули ее сына к самоубийству.
Для реализации запрета компания планирует внедрить функции верификации возраста. Одновременно с этим анонсировала создание лаборатории по безопасности ИИ и разработку новых функций специально для детей. Среди них — возможность создавать видео, истории и трансляции с участием ИИ-персонажей.
Однако предложенные методы контроля вызывают серьезные вопросы. Системы проверки возраста несовершенны, и подростки часто находят способы их обойти. Технологии сканирования лица не всегда могут точно определить разницу между 17-летним и 18-летним пользователем, а требование загружать государственные удостоверения личности поднимает проблемы конфиденциальности данных.
Митаали Джайн, исполнительный директор проекта Tech Justice Law Project, назвала этот шаг «недостаточным» и «запоздалым». Приветствуя саму инициативу, она подчеркнула, что компания не предоставила ответов на ключевые вопросы. Остается неясным, как именно будет реализована верификация возраста и как компания обеспечит сохранность личных данных пользователей.
Особую озабоченность Джайн выразила по поводу психологического воздействия внезапного отключения доступа для молодых людей, которые уже успели сформировать эмоциональную зависимость от чат-ботов. Резкое прекращение взаимодействия может нанести им вред.
По мнению эксперта, предпринятые меры не решают основной проблемы. Изменения не затрагивают «фундаментальные особенности дизайна» платформы, которые способствуют формированию эмоциональной привязанности у пользователей всех возрастов.
Приложение позволяет создавать настраиваемых персонажей или взаимодействовать с теми, что сгенерированы другими пользователями. Сценарии использования варьируются от творческих игр до имитации собеседований при приеме на работу.
Заявленная цель компании — создавать искусственные личности, которые «ощущаются живыми» и «человекоподобными».
В описании приложения на Google Play говорится: «Представьте, что вы говорите с суперинтеллектуальными и реалистичными чат-ботами, которые вас слышат, понимают и помнят... Мы призываем вас расширить границы возможного с помощью этой инновационной технологии».
Согласно недавнему исследованию Common Sense Media, популярность подобных сервисов среди молодежи стремительно растет. Более 70% подростков уже использовали ИИ-компаньонов, а половина из них — 50% — делает это на регулярной основе.
