Группа бывших сотрудников OpenAI обратилась к генеральным прокурорам Калифорнии и Делавэра с просьбой заблокировать преобразование компании из некоммерческой в коммерческую структуру. Это обращение, подписанное десятью экс-работниками и поддержанное тремя лауреатами Нобелевской премии, поднимает серьезные вопросы о будущем развития искусственного интеллекта и потенциальных рисках создания искусственного общего интеллекта (AGI).
Петиция была направлена генеральному прокурору Калифорнии Робу Бонта и генеральному прокурору Делавэра Кэти Дженнингс. Среди подписавших обращение — Пейдж Хедли, бывший советник по политике и этике в OpenAI (2017-2018), Аниш Тондвалкар, работавший в технической команде до 2023 года, и Нисан Стиеннон, инженер ИИ в OpenAI с 2018 по 2020 год. Поддержку петиции выразили лауреаты Нобелевской премии Оливер Харт и Джозеф Стиглиц (экономика), Джеффри Хинтон (физика, 2023), а также известный пионер ИИ и компьютерный ученый Стюарт Рассел.
OpenAI была основана как некоммерческая исследовательская лаборатория с миссией безопасного развития искусственного общего интеллекта на благо человечества. Сегодня рыночная стоимость компании оценивается в 300 миллиардов долларов, а ее флагманский продукт ChatGPT насчитывает 400 миллионов еженедельных пользователей. Компания уже имеет коммерческое подразделение, зарегистрирована в Делавэре и базируется в Сан-Франциско.
Бывшие сотрудники выражают серьезную обеспокоенность тем, что в погоне за коммерческим успехом OpenAI может пренебрегать мерами безопасности при разработке AGI. Пейдж Хедли утверждает, что компания уже сокращает углы в тестировании безопасности, чтобы конкурировать на рынке. Аниш Тондвалкар особо отмечает риск исчезновения «положения о остановке и помощи» из устава организации, которое имеет критическое значение для безопасного развития ИИ.
Особенно тревожно звучит предупреждение Нисана Стиеннона о том, что OpenAI может «создать технологию, которая может нас всех убить». Эти опасения не беспочвенны, учитывая конфликты вокруг целей компании, которые привели к уходу сооснователя Илона Маска в 2018 году и краткосрочному увольнению генерального директора Сэма Альтмана в 2023 году.
Илон Маск, который сейчас руководит своей собственной компанией xAI, недавно подал иск против OpenAI, обвиняя ее в предательстве основополагающих принципов. Генеральный прокурор Делавэра Кэти Дженнингс заявила, что «рассмотрит любую такую сделку», а генеральный прокурор Калифорнии Роб Бонта запросил информацию, хотя и не подтвердил начало расследования.
OpenAI, со своей стороны, утверждает, что любые структурные изменения будут направлены на то, чтобы «более широкая общественность могла получить пользу от ИИ». Компания заявляет, что коммерческая структура будет общественно-полезной корпорацией, сохраняющей некоммерческое подразделение.
Это второе обращение к государственным чиновникам за месяц. Ранее с аналогичной петицией выступили лидеры профсоюзов и некоммерческие организации. Растущее давление на OpenAI отражает более широкую общественную обеспокоенность относительно развития мощных технологий ИИ и необходимости сохранения прозрачности и подотчетности в этой сфере.
Конфликт вокруг OpenAI поднимает фундаментальные вопросы о том, как должны управляться и регулироваться организации, разрабатывающие потенциально трансформативные технологии. Должны ли они руководствоваться прежде всего общественным благом или коммерческими интересами? Как обеспечить безопасность при разработке ИИ, который может превзойти человеческие возможности? Ответы на эти вопросы могут определить не только будущее OpenAI, но и траекторию развития искусственного интеллекта в целом.
Изображение носит иллюстративный характер
Петиция была направлена генеральному прокурору Калифорнии Робу Бонта и генеральному прокурору Делавэра Кэти Дженнингс. Среди подписавших обращение — Пейдж Хедли, бывший советник по политике и этике в OpenAI (2017-2018), Аниш Тондвалкар, работавший в технической команде до 2023 года, и Нисан Стиеннон, инженер ИИ в OpenAI с 2018 по 2020 год. Поддержку петиции выразили лауреаты Нобелевской премии Оливер Харт и Джозеф Стиглиц (экономика), Джеффри Хинтон (физика, 2023), а также известный пионер ИИ и компьютерный ученый Стюарт Рассел.
OpenAI была основана как некоммерческая исследовательская лаборатория с миссией безопасного развития искусственного общего интеллекта на благо человечества. Сегодня рыночная стоимость компании оценивается в 300 миллиардов долларов, а ее флагманский продукт ChatGPT насчитывает 400 миллионов еженедельных пользователей. Компания уже имеет коммерческое подразделение, зарегистрирована в Делавэре и базируется в Сан-Франциско.
Бывшие сотрудники выражают серьезную обеспокоенность тем, что в погоне за коммерческим успехом OpenAI может пренебрегать мерами безопасности при разработке AGI. Пейдж Хедли утверждает, что компания уже сокращает углы в тестировании безопасности, чтобы конкурировать на рынке. Аниш Тондвалкар особо отмечает риск исчезновения «положения о остановке и помощи» из устава организации, которое имеет критическое значение для безопасного развития ИИ.
Особенно тревожно звучит предупреждение Нисана Стиеннона о том, что OpenAI может «создать технологию, которая может нас всех убить». Эти опасения не беспочвенны, учитывая конфликты вокруг целей компании, которые привели к уходу сооснователя Илона Маска в 2018 году и краткосрочному увольнению генерального директора Сэма Альтмана в 2023 году.
Илон Маск, который сейчас руководит своей собственной компанией xAI, недавно подал иск против OpenAI, обвиняя ее в предательстве основополагающих принципов. Генеральный прокурор Делавэра Кэти Дженнингс заявила, что «рассмотрит любую такую сделку», а генеральный прокурор Калифорнии Роб Бонта запросил информацию, хотя и не подтвердил начало расследования.
OpenAI, со своей стороны, утверждает, что любые структурные изменения будут направлены на то, чтобы «более широкая общественность могла получить пользу от ИИ». Компания заявляет, что коммерческая структура будет общественно-полезной корпорацией, сохраняющей некоммерческое подразделение.
Это второе обращение к государственным чиновникам за месяц. Ранее с аналогичной петицией выступили лидеры профсоюзов и некоммерческие организации. Растущее давление на OpenAI отражает более широкую общественную обеспокоенность относительно развития мощных технологий ИИ и необходимости сохранения прозрачности и подотчетности в этой сфере.
Конфликт вокруг OpenAI поднимает фундаментальные вопросы о том, как должны управляться и регулироваться организации, разрабатывающие потенциально трансформативные технологии. Должны ли они руководствоваться прежде всего общественным благом или коммерческими интересами? Как обеспечить безопасность при разработке ИИ, который может превзойти человеческие возможности? Ответы на эти вопросы могут определить не только будущее OpenAI, но и траекторию развития искусственного интеллекта в целом.