Генеральный директор М⃰ Марк Цукерберг в программном документе, опубликованном 30 июля на сайте компании, объявил, что исследователи зафиксировали у систем искусственного интеллекта первые признаки самосовершенствования. Это происходит без прямого вмешательства или инструкций со стороны человека.
В документе Цукерберг заявляет: «За последние несколько месяцев мы начали замечать проблески того, как наши системы ИИ совершенствуют сами себя... Улучшение пока медленное, но неоспоримое». Это наблюдение знаменует собой критически важный этап в развитии технологии.
Самосовершенствование считается первым шагом на пути к созданию Искусственного Сверхинтеллекта (ИСИ) — гипотетического состояния, при котором ИИ превосходит человеческий потенциал и способен улучшать себя с экспоненциальной скоростью. Это явление может привести к так называемому «интеллектуальному взрыву».
Научное сообщество выделяет три уровня развития ИИ. Нынешние системы относятся к Узкому ИИ, способному выполнять сверхчеловеческие задачи в строго определённых областях, например, в прогнозировании структуры белков. Следующий этап — Общий Искусственный Интеллект (ОИИ), который сможет понимать, обучаться и адаптироваться подобно человеческому мозгу. Финальной стадией является ИСИ.
Момент достижения ОИИ учёные называют технологической сингулярностью. Наблюдения М⃰ указывают на возможное приближение к этому рубежу, что делает их открытие фундаментально важным для всей отрасли.
Данное явление имеет академический прецедент. В октябре 2024 года исследователи из Калифорнийского университета в Санта-Барбаре опубликовали в архиве препринтов arXiv работу, в которой описывалась протестированная ими система самосовершенствующегося ИИ.
В основе их работы лежит теоретическая концепция «Машины Гёделя» — устройства, способного переписывать собственный код для улучшения производительности. Ключевая особенность такой машины в том, что она вносит изменения только после того, как сможет формально доказать их пользу.
Экспериментальная реализация этой теории, названная «Агент Гёделя», получила доступ ко всей своей кодовой базе и инструментам для разработки улучшений. Исследование доказало, что агент способен самостоятельно улучшать свою производительность в таких областях, как кодирование, наука, математика и логическое мышление.
Результаты эксперимента показали, что «Агент Гёделя» постоянно демонстрировал более высокую производительность по сравнению с агентами, разработанными человеком, против которых он тестировался. Это подтверждает практическую возможность создания саморазвивающихся систем.
Вследствие этого прорыва М⃰ кардинально меняет свою политику. Компания больше не будет выпускать свои самые мощные системы в открытый доступ. Фреймворк с открытым исходным кодом (open-source) позволял любому желающему получить доступ к коду модели, но теперь эта практика будет прекращена для наиболее передовых разработок.
Марк Цукерберг видит в сверхинтеллекте инструмент, который поможет человечеству «ускорить темпы прогресса» и приведёт к «открытию новых, невообразимых сегодня вещей». Он считает, что это может стать преобразующим шагом в технологическом развитии.
Согласно его видению, в будущем у каждого человека может появиться «персональный сверхинтеллект». Такая система будет помогать достигать личных целей, создавать желаемые вещи, переживать любые приключения, становиться лучшим другом и расти как личность, чтобы стать тем, кем человек стремится быть.
Изображение носит иллюстративный характер
В документе Цукерберг заявляет: «За последние несколько месяцев мы начали замечать проблески того, как наши системы ИИ совершенствуют сами себя... Улучшение пока медленное, но неоспоримое». Это наблюдение знаменует собой критически важный этап в развитии технологии.
Самосовершенствование считается первым шагом на пути к созданию Искусственного Сверхинтеллекта (ИСИ) — гипотетического состояния, при котором ИИ превосходит человеческий потенциал и способен улучшать себя с экспоненциальной скоростью. Это явление может привести к так называемому «интеллектуальному взрыву».
Научное сообщество выделяет три уровня развития ИИ. Нынешние системы относятся к Узкому ИИ, способному выполнять сверхчеловеческие задачи в строго определённых областях, например, в прогнозировании структуры белков. Следующий этап — Общий Искусственный Интеллект (ОИИ), который сможет понимать, обучаться и адаптироваться подобно человеческому мозгу. Финальной стадией является ИСИ.
Момент достижения ОИИ учёные называют технологической сингулярностью. Наблюдения М⃰ указывают на возможное приближение к этому рубежу, что делает их открытие фундаментально важным для всей отрасли.
Данное явление имеет академический прецедент. В октябре 2024 года исследователи из Калифорнийского университета в Санта-Барбаре опубликовали в архиве препринтов arXiv работу, в которой описывалась протестированная ими система самосовершенствующегося ИИ.
В основе их работы лежит теоретическая концепция «Машины Гёделя» — устройства, способного переписывать собственный код для улучшения производительности. Ключевая особенность такой машины в том, что она вносит изменения только после того, как сможет формально доказать их пользу.
Экспериментальная реализация этой теории, названная «Агент Гёделя», получила доступ ко всей своей кодовой базе и инструментам для разработки улучшений. Исследование доказало, что агент способен самостоятельно улучшать свою производительность в таких областях, как кодирование, наука, математика и логическое мышление.
Результаты эксперимента показали, что «Агент Гёделя» постоянно демонстрировал более высокую производительность по сравнению с агентами, разработанными человеком, против которых он тестировался. Это подтверждает практическую возможность создания саморазвивающихся систем.
Вследствие этого прорыва М⃰ кардинально меняет свою политику. Компания больше не будет выпускать свои самые мощные системы в открытый доступ. Фреймворк с открытым исходным кодом (open-source) позволял любому желающему получить доступ к коду модели, но теперь эта практика будет прекращена для наиболее передовых разработок.
Марк Цукерберг видит в сверхинтеллекте инструмент, который поможет человечеству «ускорить темпы прогресса» и приведёт к «открытию новых, невообразимых сегодня вещей». Он считает, что это может стать преобразующим шагом в технологическом развитии.
Согласно его видению, в будущем у каждого человека может появиться «персональный сверхинтеллект». Такая система будет помогать достигать личных целей, создавать желаемые вещи, переживать любые приключения, становиться лучшим другом и расти как личность, чтобы стать тем, кем человек стремится быть.
