Компания М⃰ во вторник объявила о введении нового стандарта контента по умолчанию для всех подростковых аккаунтов в И⃰. Теперь опыт использования платформы для несовершеннолетних будет автоматически ограничен материалами, эквивалентными рейтингу фильма "PG-13".
Ключевая особенность новой политики заключается в том, что подростки не смогут самостоятельно изменить эту настройку. Для отключения ограничений потребуется разрешение родителей. Данное изменение стало прямым ответом на непрекращающуюся критику в адрес М⃰ по поводу вреда, который ее платформы наносят благополучию детей.
Предыдущие меры безопасности, которые компания обещала внедрить, оказались неэффективными. В частности, М⃰ заявляла о блокировке для подростков контента, связанного с самоповреждением, расстройствами пищевого поведения и суицидом.
Однако недавний отчет показал, что существующие системы продолжали рекомендовать тестовым аккаунтам, созданным для подростков, неприемлемые материалы. Среди них были «графические сексуальные описания», «использование мультфильмов для описания унизительных сексуальных актов» и «кратковременные демонстрации наготы».
Те же тестовые аккаунты получали рекомендации, содержащие широкий спектр контента о самоповреждении, членовредительстве и проблемах с образом тела. Эти факты продемонстрировали несостоятельность ранее принятых защитных механизмов.
Сама М⃰ назвала это обновление «самым значительным с момента введения подростковых аккаунтов в прошлом году». Новые ограничения выходят за рамки основной ленты и затрагивают другие аспекты платформы.
Система фильтрации поисковых запросов была расширена. Если раньше она блокировала термины, связанные с «суицидом» и «расстройствами пищевого поведения», то теперь в список запрещенных попали слова «алкоголь», «кровь» и другие. Система будет работать даже в том случае, если термины написаны с ошибками.
Стандарт "PG-13" будет применяться и к взаимодействию с искусственным интеллектом на платформе. Цель состоит в том, чтобы чат-боты не давали «несоответствующие возрасту ответы, которые были бы неуместны в фильме с рейтингом PG-13".
Для родителей, желающих еще больше усилить контроль, М⃰ вводит дополнительную, более строгую настройку под названием "limited content" («ограниченный контент»).
При активации этой настройки блокируется еще больше контента, чем при стандартном ограничении "PG-13". Кроме того, для подростка полностью отключается возможность видеть, оставлять или получать комментарии к публикациям.
Новый стандарт по умолчанию призван ограничить показ материалов, содержащих сцены секса, упоминание наркотиков, например, атрибутику для употребления марихуаны, а также опасные трюки и нецензурную лексику.
Изображение носит иллюстративный характер
Ключевая особенность новой политики заключается в том, что подростки не смогут самостоятельно изменить эту настройку. Для отключения ограничений потребуется разрешение родителей. Данное изменение стало прямым ответом на непрекращающуюся критику в адрес М⃰ по поводу вреда, который ее платформы наносят благополучию детей.
Предыдущие меры безопасности, которые компания обещала внедрить, оказались неэффективными. В частности, М⃰ заявляла о блокировке для подростков контента, связанного с самоповреждением, расстройствами пищевого поведения и суицидом.
Однако недавний отчет показал, что существующие системы продолжали рекомендовать тестовым аккаунтам, созданным для подростков, неприемлемые материалы. Среди них были «графические сексуальные описания», «использование мультфильмов для описания унизительных сексуальных актов» и «кратковременные демонстрации наготы».
Те же тестовые аккаунты получали рекомендации, содержащие широкий спектр контента о самоповреждении, членовредительстве и проблемах с образом тела. Эти факты продемонстрировали несостоятельность ранее принятых защитных механизмов.
Сама М⃰ назвала это обновление «самым значительным с момента введения подростковых аккаунтов в прошлом году». Новые ограничения выходят за рамки основной ленты и затрагивают другие аспекты платформы.
Система фильтрации поисковых запросов была расширена. Если раньше она блокировала термины, связанные с «суицидом» и «расстройствами пищевого поведения», то теперь в список запрещенных попали слова «алкоголь», «кровь» и другие. Система будет работать даже в том случае, если термины написаны с ошибками.
Стандарт "PG-13" будет применяться и к взаимодействию с искусственным интеллектом на платформе. Цель состоит в том, чтобы чат-боты не давали «несоответствующие возрасту ответы, которые были бы неуместны в фильме с рейтингом PG-13".
Для родителей, желающих еще больше усилить контроль, М⃰ вводит дополнительную, более строгую настройку под названием "limited content" («ограниченный контент»).
При активации этой настройки блокируется еще больше контента, чем при стандартном ограничении "PG-13". Кроме того, для подростка полностью отключается возможность видеть, оставлять или получать комментарии к публикациям.
Новый стандарт по умолчанию призван ограничить показ материалов, содержащих сцены секса, упоминание наркотиков, например, атрибутику для употребления марихуаны, а также опасные трюки и нецензурную лексику.
