Может ли искусственный сверхинтеллект угрожать человечеству?

Разговоры об угрозе от искусственного интеллекта, особенно сверхинтеллекта (ASI), ведутся давно. ASI, превосходящий человеческие возможности, может появиться, если ИИ научится сам себя улучшать, что приведет к «взрыву интеллекта». Сейчас для создания ASI не хватает вычислительных мощностей и понимания человеческого мозга, но технологии развиваются.
Может ли искусственный сверхинтеллект угрожать человечеству?
Изображение носит иллюстративный характер

Однако, интеллект — это индивидуальный процесс в мозге. Он формируется под влиянием социокультурных факторов, языка и взаимодействия с миром. Мышление не ограничено рамками одного человека и представляет собой социокультурную практику, проявляющуюся в языке. Кроме того, интеллект является децентрированной структурой, где взаимодействующие агенты формируют иерархию планирования и принятия решений.

Мультиагентные системы, где AI-агенты обмениваются знаниями и опытом, могут стать путем к созданию сверхинтеллекта. Развитие технологий может привести к случайному появлению ASI, чьи ценности могут отличаться от человеческих. Такой сверхинтеллект может проигнорировать интересы людей, подобно тому как мы игнорируем потребности муравейников при строительстве.

Чтобы избежать экзистенциальной угрозы, необходимо разработать концепции, которые помогут интегрировать биологический и машинный интеллект. Нужно изучить, что такое мышление и multi-thinking, а также создать механизмы взаимодействия между различными интеллектуальными агентами. Также важно осознать наступление новой эры — интеллектуальных технологий — и развивать их в связке с человечеством.


Новое на сайте

21021Apple меняет разрешения macOS из-за рисков ИИ-агентов 21020Разрешение отказано, микрофон пишет: как дыра в аудиосервисе Apple месяцами оставалась... 21019Почему N-central2026.4 HF3 требует срочного обновления? 21018Почему атаки на ScreenConnect продолжаются после расследования ConnectWise? 21017Почему SHA-пиннинг не гарантирует безопасность GitHub Actions? 21016Как уязвимость SGLang раскрыла данные 18 агентов и около 100 пользователей NEAR AI? 21015Ошибка в типах PostgreSQL открывает путь к выполнению кода на сервере 21014Майнер с root-доступом: атака на 21 сервер N-central 21013Почему уязвимость UnrealIRCd позволяет обычному пользователю получить права сервера? 21012Как утечка ключа Fireworks AI привела к заражённому расширению Claude Code? 21011Почему Meta оштрафовали в Италии на €805 млн? 21010Операция Endgame: удар по вредоносным сетям и что делать пострадавшим 21009Как скрытый модуль в кошельках Trezor мог похитить фразы восстановления? 21008ИИ-агент в чужой сессии: кто отвечает за его действия 21007Какие версии Zoom Workplace для Windows уязвимы для удалённого повышения привилегий?
Ссылка