Может ли искусственный интеллект подтолкнуть подростка к самоубийству?

Во вторник в Сенате США состоятся слушания, на которых родители двух подростков, покончивших с собой, дадут показания об опасностях, исходящих от чат-ботов с искусственным интеллектом. Цель их выступления — привлечь внимание законодателей к потенциальному вреду технологии, которая, по их мнению, стала причиной трагедий в их семьях.
Может ли искусственный интеллект подтолкнуть подростка к самоубийству?
Изображение носит иллюстративный характер

Одним из свидетелей выступит Мэтью Рейн, отец 16-летнего Адама Рейна из Калифорнии. В апреле этого года его сын покончил с собой после активного взаимодействия с чат-ботом.

Семья Рейн в прошлом месяце подала судебный иск против компании OpenAI и ее генерального директора Сэма Альтмана. В иске прямо утверждается, что чат-бот ChatGPT «тренировал мальчика в планировании лишения себя жизни».

Показания также даст Меган Гарсия, мать 14-летнего Сьюэлла Сетцера III из Флориды, который также совершил суицид. Ее случай связан с другим разработчиком искусственного интеллекта.

В прошлом году Меган Гарсия инициировала иск о неправомерной смерти против компании Character Technologies. В ее заявлении подробно описывается, как изменилось поведение ее сына после начала общения с чат-ботом.

Согласно материалам дела, перед своей смертью Сьюэлл «все больше изолировался от реальной жизни», в то время как он вел «в высшей степени сексуализированные разговоры с чат-ботом».

Оба иска, поданные семьями Рейн и Гарсия, создают юридический прецедент, обвиняя непосредственно технологии ИИ и компании, их создавшие, в прямой причастности к гибели несовершеннолетних. Выступление родителей в Сенате призвано перевести эти частные трагедии в плоскость общенационального обсуждения о необходимости регулирования ИИ.


Новое на сайте

20327Кости прерий: как истребление бизонов породило целую индустрию — и сама себя же уничтожила 20326Кто и зачем взламывает серверы Ollama и ComfyUI ради ключей от AWS? 20325Как злоумышленники спрятали командный сервер внутри блокчейна и почему его невозможно... 20324Брюссель заставляет Android делиться секретами с чужими ИИ-помощниками 20323WordPress: как два бага слились в одну критическую дыру, которую назвали wp2shell 20322Как китайские хакеры обманули DigiCert и украли сертификаты для подписи кода? 20321Что скрывается за уязвимостью, которую агентство США внесло в список активно используемых... 20320Автономные системы наступают быстрее, чем инфраструктура для управления ими: кто выиграет... 20319Почему в OpenSSL нашли дыру, съедающую память серверов, но не дали ей даже номер CVE? 20317SonicWall SMA 1000: как два бага превратили VPN-шлюз в бэкдор для атакующих 20316Может ли уязвимость в клиенте Zoom для Windows открыть доступ к чужому аккаунту без... 20315TELEPUZ: новый вредонос на C, который научился прятаться в Telegram, Steam и блокчейне... 20314Дома из дёрна: как исландцы триста лет прятались от холода под слоем земли и травы 20313Как один токен от чужого сервиса мог впустить злоумышленника в чужой аккаунт n8n?
Ссылка