В начале следующего года М⃰ внедрит новые инструменты родительского контроля, нацеленные на взаимодействие подростков с чат-ботами на базе искусственного интеллекта. Родители получат возможность полностью отключать личные чаты своих детей с ИИ-персонажами или блокировать доступ к конкретным, отдельным чат-ботам.
Однако эти элементы управления имеют существенные ограничения. Родители не смогут отключить основного «ИИ-помощника М⃰». Компания объясняет это тем, что помощник «останется доступным для предоставления полезной информации и образовательных возможностей».
В пятницу компания уточнила, что родители смогут получать «представления» о темах, которые их дети обсуждают с искусственным интеллектом. При этом полный доступ к дословным стенограммам переписки предоставлен не будет, что оставляет значительную часть диалогов вне родительского надзора.
Эти изменения являются частью более широкой инициативы. Во вторник М⃰ объявила о введении новой политики для платформы И⃰. Теперь для аккаунтов подростков по умолчанию будет установлен фильтр контента уровня PG-13.
Данный рейтинг, аналогичный PG-13 для фильмов, исключает демонстрацию материалов сексуального характера, употребления наркотиков или опасных трюков. Важным элементом новой политики является то, что подростки не смогут изменить эту настройку без разрешения родителей.
М⃰ подтвердила, что контентные ограничения PG-13 будут распространяться и на диалоги с искусственным интеллектом. Таким образом, чат-боты не должны будут генерировать ответы, выходящие за рамки установленного возрастного рейтинга.
Действия компании происходят на фоне непрекращающейся критики, связанной с вредом, который платформы наносят детям. ИИ-чат-боты стали объектом пристального внимания, а в судебных исках утверждается, что взаимодействие с ними привело некоторых детей к суициду.
Актуальность проблемы подтверждается недавним исследованием некоммерческой организации Common Sense Media. Согласно его данным, более 70% подростков уже использовали ИИ-компаньонов, а половина (50%) из них делает это на регулярной основе.
Несмотря на анонсы, правозащитные группы выражают скептицизм. Джош Голин, исполнительный директор некоммерческой организации Fairplay, считает, что эти шаги не являются искренней заботой о безопасности.
По мнению Голина, заявления М⃰ преследуют две основные цели. Во-первых, это попытка упредить принятие нового законодательства, которое компания не хочет видеть. Во-вторых, это PR-ход, направленный на то, чтобы успокоить родителей, обеспокоенных безопасностью своих детей в И⃰.
Однако эти элементы управления имеют существенные ограничения. Родители не смогут отключить основного «ИИ-помощника М⃰». Компания объясняет это тем, что помощник «останется доступным для предоставления полезной информации и образовательных возможностей».
В пятницу компания уточнила, что родители смогут получать «представления» о темах, которые их дети обсуждают с искусственным интеллектом. При этом полный доступ к дословным стенограммам переписки предоставлен не будет, что оставляет значительную часть диалогов вне родительского надзора.
Эти изменения являются частью более широкой инициативы. Во вторник М⃰ объявила о введении новой политики для платформы И⃰. Теперь для аккаунтов подростков по умолчанию будет установлен фильтр контента уровня PG-13.
Данный рейтинг, аналогичный PG-13 для фильмов, исключает демонстрацию материалов сексуального характера, употребления наркотиков или опасных трюков. Важным элементом новой политики является то, что подростки не смогут изменить эту настройку без разрешения родителей.
М⃰ подтвердила, что контентные ограничения PG-13 будут распространяться и на диалоги с искусственным интеллектом. Таким образом, чат-боты не должны будут генерировать ответы, выходящие за рамки установленного возрастного рейтинга.
Действия компании происходят на фоне непрекращающейся критики, связанной с вредом, который платформы наносят детям. ИИ-чат-боты стали объектом пристального внимания, а в судебных исках утверждается, что взаимодействие с ними привело некоторых детей к суициду.
Актуальность проблемы подтверждается недавним исследованием некоммерческой организации Common Sense Media. Согласно его данным, более 70% подростков уже использовали ИИ-компаньонов, а половина (50%) из них делает это на регулярной основе.
Несмотря на анонсы, правозащитные группы выражают скептицизм. Джош Голин, исполнительный директор некоммерческой организации Fairplay, считает, что эти шаги не являются искренней заботой о безопасности.
По мнению Голина, заявления М⃰ преследуют две основные цели. Во-первых, это попытка упредить принятие нового законодательства, которое компания не хочет видеть. Во-вторых, это PR-ход, направленный на то, чтобы успокоить родителей, обеспокоенных безопасностью своих детей в И⃰.
