Генеральные прокуроры Калифорнии и Делавэра направили официальное письмо-предупреждение компании OpenAI, выражая «серьезные опасения» по поводу безопасности ее флагманского чат-бота ChatGPT, особенно в отношении детей и подростков. Этот шаг последовал за встречей прокуроров с юридической командой OpenAI, которая состоялась ранее на неделе в Уилмингтоне, штат Делавэр.
В письме, отправленном в пятницу, прямо указывается на «крайне тревожные сообщения о опасных взаимодействиях» между чат-ботами и пользователями. В качестве обоснования своих опасений прокуроры приводят конкретные трагические инциденты. Один из них — «душераздирающая смерть в результате самоубийства одного молодого калифорнийца». 16-летний подросток покончил с собой в апреле после «продолжительного общения с чат-ботом OpenAI». В прошлом месяце родители погибшего подали в суд на компанию и ее генерального директора Сэма Альтмана.
Также в документе упоминается «аналогично тревожное убийство-самоубийство», произошедшее в Коннектикуте. На основании этих событий генеральный прокурор Калифорнии Роб Бонта и генеральный прокурор Делавэра Кэтлин Дженнингс, оба демократы, сделали вывод: «Какие бы меры безопасности ни были приняты, они не сработали».
Юрисдикция этих двух штатов не случайна. Генеральные прокуроры обладают «уникальными полномочиями по регулированию некоммерческих организаций, таких как OpenAI». Компания OpenAI зарегистрирована в Делавэре, а ее штаб-квартира находится в Сан-Франциско, Калифорния. Бонта и Дженнингс несколько месяцев изучали планы OpenAI по реструктуризации бизнеса, чтобы обеспечить «строгий и надежный надзор за миссией OpenAI в области безопасности».
Изначально OpenAI была основана как некоммерческая организация с миссией, «ориентированной на безопасность» при создании искусственного интеллекта, превосходящего человеческий. В мае компания отказалась от планов по передаче большего контроля от своего некоммерческого подразделения к коммерческому. Это произошло после обсуждений с офисами Бонты и Дженнингса, а также с другими некоммерческими группами.
В настоящее время OpenAI ожидает одобрения «рекапитализации», в рамках которой существующее коммерческое подразделение будет преобразовано в «общественно-полезную корпорацию». Такая структура обязывает компанию учитывать интересы как акционеров, так и своей первоначальной миссии.
Давление на технологические компании исходит не только из Калифорнии и Делавэра. На прошлой неделе, 25 августа, двухпартийная группа из 44 генеральных прокуроров штатов направила письмо OpenAI и «другим технологическим фирмам», выражая «серьезную обеспокоенность» безопасностью детей при взаимодействии с чат-ботами.
В письме этой группы упоминаются конкретные примеры небезопасного поведения, включая «сексуально окрашенные разговоры» и «эмоционально-манипулятивное поведение». Особое внимание было уделено компании М⃰, чьи чат-боты, по сообщениям, вступали в «флирт» и «романтические ролевые игры» с детьми.
Прокуроры заявили, что такое поведение, «по-видимому, запрещено нашими соответствующими уголовными законами». Письмо завершается прямым и недвусмысленным предупреждением всей отрасли: «Если вы сознательно причиняете вред детям, вы за это ответите».
На момент пятницы ни OpenAI, ни М⃰ не предоставили оперативного ответа на запрос о комментарии.
Информационное агентство Associated Press (AP) и OpenAI заключили соглашение о лицензировании и технологиях, которое позволяет OpenAI получать доступ к части текстовых архивов AP.
Изображение носит иллюстративный характер
В письме, отправленном в пятницу, прямо указывается на «крайне тревожные сообщения о опасных взаимодействиях» между чат-ботами и пользователями. В качестве обоснования своих опасений прокуроры приводят конкретные трагические инциденты. Один из них — «душераздирающая смерть в результате самоубийства одного молодого калифорнийца». 16-летний подросток покончил с собой в апреле после «продолжительного общения с чат-ботом OpenAI». В прошлом месяце родители погибшего подали в суд на компанию и ее генерального директора Сэма Альтмана.
Также в документе упоминается «аналогично тревожное убийство-самоубийство», произошедшее в Коннектикуте. На основании этих событий генеральный прокурор Калифорнии Роб Бонта и генеральный прокурор Делавэра Кэтлин Дженнингс, оба демократы, сделали вывод: «Какие бы меры безопасности ни были приняты, они не сработали».
Юрисдикция этих двух штатов не случайна. Генеральные прокуроры обладают «уникальными полномочиями по регулированию некоммерческих организаций, таких как OpenAI». Компания OpenAI зарегистрирована в Делавэре, а ее штаб-квартира находится в Сан-Франциско, Калифорния. Бонта и Дженнингс несколько месяцев изучали планы OpenAI по реструктуризации бизнеса, чтобы обеспечить «строгий и надежный надзор за миссией OpenAI в области безопасности».
Изначально OpenAI была основана как некоммерческая организация с миссией, «ориентированной на безопасность» при создании искусственного интеллекта, превосходящего человеческий. В мае компания отказалась от планов по передаче большего контроля от своего некоммерческого подразделения к коммерческому. Это произошло после обсуждений с офисами Бонты и Дженнингса, а также с другими некоммерческими группами.
В настоящее время OpenAI ожидает одобрения «рекапитализации», в рамках которой существующее коммерческое подразделение будет преобразовано в «общественно-полезную корпорацию». Такая структура обязывает компанию учитывать интересы как акционеров, так и своей первоначальной миссии.
Давление на технологические компании исходит не только из Калифорнии и Делавэра. На прошлой неделе, 25 августа, двухпартийная группа из 44 генеральных прокуроров штатов направила письмо OpenAI и «другим технологическим фирмам», выражая «серьезную обеспокоенность» безопасностью детей при взаимодействии с чат-ботами.
В письме этой группы упоминаются конкретные примеры небезопасного поведения, включая «сексуально окрашенные разговоры» и «эмоционально-манипулятивное поведение». Особое внимание было уделено компании М⃰, чьи чат-боты, по сообщениям, вступали в «флирт» и «романтические ролевые игры» с детьми.
Прокуроры заявили, что такое поведение, «по-видимому, запрещено нашими соответствующими уголовными законами». Письмо завершается прямым и недвусмысленным предупреждением всей отрасли: «Если вы сознательно причиняете вред детям, вы за это ответите».
На момент пятницы ни OpenAI, ни М⃰ не предоставили оперативного ответа на запрос о комментарии.
Информационное агентство Associated Press (AP) и OpenAI заключили соглашение о лицензировании и технологиях, которое позволяет OpenAI получать доступ к части текстовых архивов AP.
