Комиссия по надзору OpenAI настаивает: контроль над искусственным интеллектом критически важен и должен оставаться в некоммерческой структуре. Дэниел Зингале, координатор комиссии и бывший советник губернаторов Калифорнии, подчеркивает: ИИ слишком значим, чтобы управляться только корпорациями. Нельзя доверять его судьбу ни частному сектору, ни даже правительству. Неприбыльная модель создает «общий сектор», открытый для демократического участия.
Рекомендации комиссии, в состав которой входит легендарная правозащитница Долорес Уэрта, не обязывают OpenAI. Однако их отчет задает четкий ориентир для оценки действий компании в будущем. Видение комиссии включает демократизацию ИИ и реформу филантропии. Ключевой принцип: сообщества, на которые влияет ИИ, должны участвовать в его разработке, включая вопросы использования данных. Сегодня у общества почти нет рычагов влияния на ИИ-гигантов.
Основанная в 2015 году как некоммерческая лаборатория, OpenAI радикально изменилась. Теперь в ее структуру входит коммерческая компания с оценкой в $300 млрд. Но от корней не уйти. Недавняя встряска – увольнение и мгновенное восстановление CEO Сэма Олтмана советом директоров некоммерческого крыла в ноябре 2023 года – это лишь часть проблем. OpenAI под пристальным вниманием генеральных прокуроров Калифорнии и Делавэра (курирующих некоммерческий сектор) и судится с Илоном Маском, одним из основателей.
Планируемое преобразование коммерческого крыла в Корпорацию общественной пользы (Public Benefit Corporation, PBC) обяжет компанию балансировать интересы акционеров и свою миссию. Неприбыльная часть останется акционером новой PBC, хотя доля ее участия не разглашается.
Долорес Уэрта формулирует главную задачу: гарантировать, что ИИ станет «благом, а не проклятием». Для этого некоммерческое крыло OpenAI нуждается в расширенном мандаете, обеспечивающем широкое участие в развитии ИИ. Успех будет измеряться тем, что создается, кто вовлечен и насколько верны миссии. Общественность, как выяснила комиссия (изучив мнения жителей Калифорнии и онлайн-отзывы), вдохновлена изначальной целью OpenAI – приносить пользу человечеству, распределяя выгоды широко и равномерно. Но люди чувствуют себя «в темноте» в этом «веке интеллекта», желая знать: что происходит? Как создается ИИ? Где и кем принимаются ключевые решения?
Конкретные шаги комиссии таковы. Во-первых, OpenAI должен немедленно выделить «значительные ресурсы» неприбыльному крылу для работы в общественных интересах. Активы некоммерческой части на 2023 год составляли лишь $23 млн. Во-вторых, фокус должен быть на сокращении экономического неравенства, инвестициях в ИИ-грамотность и создании организации, доступной и управляемой «обычными людьми». Принцип управления: «Быть известным, видимым и формируемым теми, кому служишь».
Особо выделен Фонд быстрого реагирования для смягчения экономических потрясений уже сейчас. Комиссия прямо рекомендует финансировать театр, искусство и здравоохранение, направляя ресурсы на «человеческую деятельность». И ключевое требование: некоммерческое крыло должен возглавлять человек. Это названо «серьезной рекомендацией» и «признаком времени».
Сохраняя независимость, комиссия сознательно избегала контактов с CEO Сэмом Олтманом, хотя и цитирует его в отчете. Взаимодействие же с инженерами OpenAI характеризовалось «скромностью, серьезностью и искренним желанием понять... демократическую легитимность».
Изображение носит иллюстративный характер
Рекомендации комиссии, в состав которой входит легендарная правозащитница Долорес Уэрта, не обязывают OpenAI. Однако их отчет задает четкий ориентир для оценки действий компании в будущем. Видение комиссии включает демократизацию ИИ и реформу филантропии. Ключевой принцип: сообщества, на которые влияет ИИ, должны участвовать в его разработке, включая вопросы использования данных. Сегодня у общества почти нет рычагов влияния на ИИ-гигантов.
Основанная в 2015 году как некоммерческая лаборатория, OpenAI радикально изменилась. Теперь в ее структуру входит коммерческая компания с оценкой в $300 млрд. Но от корней не уйти. Недавняя встряска – увольнение и мгновенное восстановление CEO Сэма Олтмана советом директоров некоммерческого крыла в ноябре 2023 года – это лишь часть проблем. OpenAI под пристальным вниманием генеральных прокуроров Калифорнии и Делавэра (курирующих некоммерческий сектор) и судится с Илоном Маском, одним из основателей.
Планируемое преобразование коммерческого крыла в Корпорацию общественной пользы (Public Benefit Corporation, PBC) обяжет компанию балансировать интересы акционеров и свою миссию. Неприбыльная часть останется акционером новой PBC, хотя доля ее участия не разглашается.
Долорес Уэрта формулирует главную задачу: гарантировать, что ИИ станет «благом, а не проклятием». Для этого некоммерческое крыло OpenAI нуждается в расширенном мандаете, обеспечивающем широкое участие в развитии ИИ. Успех будет измеряться тем, что создается, кто вовлечен и насколько верны миссии. Общественность, как выяснила комиссия (изучив мнения жителей Калифорнии и онлайн-отзывы), вдохновлена изначальной целью OpenAI – приносить пользу человечеству, распределяя выгоды широко и равномерно. Но люди чувствуют себя «в темноте» в этом «веке интеллекта», желая знать: что происходит? Как создается ИИ? Где и кем принимаются ключевые решения?
Конкретные шаги комиссии таковы. Во-первых, OpenAI должен немедленно выделить «значительные ресурсы» неприбыльному крылу для работы в общественных интересах. Активы некоммерческой части на 2023 год составляли лишь $23 млн. Во-вторых, фокус должен быть на сокращении экономического неравенства, инвестициях в ИИ-грамотность и создании организации, доступной и управляемой «обычными людьми». Принцип управления: «Быть известным, видимым и формируемым теми, кому служишь».
Особо выделен Фонд быстрого реагирования для смягчения экономических потрясений уже сейчас. Комиссия прямо рекомендует финансировать театр, искусство и здравоохранение, направляя ресурсы на «человеческую деятельность». И ключевое требование: некоммерческое крыло должен возглавлять человек. Это названо «серьезной рекомендацией» и «признаком времени».
Сохраняя независимость, комиссия сознательно избегала контактов с CEO Сэмом Олтманом, хотя и цитирует его в отчете. Взаимодействие же с инженерами OpenAI характеризовалось «скромностью, серьезностью и искренним желанием понять... демократическую легитимность».
