Может ли искусственный сверхинтеллект угрожать человечеству?

Разговоры об угрозе от искусственного интеллекта, особенно сверхинтеллекта (ASI), ведутся давно. ASI, превосходящий человеческие возможности, может появиться, если ИИ научится сам себя улучшать, что приведет к «взрыву интеллекта». Сейчас для создания ASI не хватает вычислительных мощностей и понимания человеческого мозга, но технологии развиваются.
Может ли искусственный сверхинтеллект угрожать человечеству?
Изображение носит иллюстративный характер

Однако, интеллект — это индивидуальный процесс в мозге. Он формируется под влиянием социокультурных факторов, языка и взаимодействия с миром. Мышление не ограничено рамками одного человека и представляет собой социокультурную практику, проявляющуюся в языке. Кроме того, интеллект является децентрированной структурой, где взаимодействующие агенты формируют иерархию планирования и принятия решений.

Мультиагентные системы, где AI-агенты обмениваются знаниями и опытом, могут стать путем к созданию сверхинтеллекта. Развитие технологий может привести к случайному появлению ASI, чьи ценности могут отличаться от человеческих. Такой сверхинтеллект может проигнорировать интересы людей, подобно тому как мы игнорируем потребности муравейников при строительстве.

Чтобы избежать экзистенциальной угрозы, необходимо разработать концепции, которые помогут интегрировать биологический и машинный интеллект. Нужно изучить, что такое мышление и multi-thinking, а также создать механизмы взаимодействия между различными интеллектуальными агентами. Также важно осознать наступление новой эры — интеллектуальных технологий — и развивать их в связке с человечеством.


Новое на сайте

21008ИИ-агент в чужой сессии: кто отвечает за его действия 21007Какие версии Zoom Workplace для Windows уязвимы для удалённого повышения привилегий? 21006Как две уязвимости в Xen Orchestra открыли путь к захвату XCP-ng? 21005Поддельные сайты ИИ превращают опечатки в ловушки 21004Как обновление Node.js закрывает уязвимости HTTP/2 и TLS? 21003Почему Claude Fable5.2 обошёл GPT-6 Cyber в испытании многоэтапных кибератак? 21002Две уязвимости Red Hat Quay открыли доступ к чужим образам 21001После сигнала: почему для расследования нужны подробные сетевые данные 21000Критическая ошибка PTC Windchill и FlexPLM открывает путь к удалённому выполнению кода 20999Слепые зоны идентичности: чего не хватает SOC при расследовании атак 20998Обновления Apple закрыли лазейки в групповых чатах и Bluetooth 20997Уязвимость iPhone может открыть приложениям доступ к чужим файлам 20996Что раскрыла расширенная проверка утечки Fireworks AI? 20995Уязвимость в Apache HTTP/2: удалённое выполнение кода без входа 20994Как защитить виртуальные машины Google Cloud от утечек на AMD Turin?
Ссылка