Научная фантастика исторически использовала концепцию обществ, управляемых сверхразумным искусственным интеллектом, как мощную политическую аллегорию. Со временем эта аналогия эволюционировала: страх перед советским коммунизмом середины XX века сменился критикой глобального капитализма, движимого алгоритмами.
Анализ литературоведа Джерри Канавана, проведенный в 2015 году, показывает, как американская научная фантастика того периода изображала компьютерные диктатуры в качестве метафоры коммунистического строя. Ярким примером служит эпизод «Яблоко» из оригинального сериала «Звёздный путь» 1967 года. В нем компьютер по имени Ваал правит обществом, поддерживая его в идиллическом, но примитивном и неизменном состоянии.
Капитан Кирк уничтожает Ваала, заявляя местным жителям, что теперь они смогут насладиться тем, «что мы называем свободой». Канаван интерпретирует мораль этого эпизода как «несколько ошеломляющую»: «Коммунизм, может, и сделает вас счастливыми, но он не сделает вас хорошими». Это прямолинейное осуждение отражало доминирующие настроения эпохи.
Более сложный взгляд представлен в рассказе Айзека Азимова «Неизбежный конфликт» 1950 года. В нем описывается доброжелательная диктатура искусственного интеллекта, где «машины с совершенным знанием» управляют человечеством ради его же блага. Это порождает философский спор: один из персонажей утверждает, что человечество «потеряло право голоса в собственном будущем».
В ответ ему возражают, что этот контроль всегда был иллюзией, поскольку человечество и так находилось «во власти экономических и социологических сил, которых оно не понимало». Этот аргумент предвосхитил будущую смену парадигмы в изображении машинного интеллекта, сместив акцент с политического контроля на экономический.
К концу XX века аналогия сместилась. Идеи либертарианского экономиста Фридриха Хайека, высказанные еще в 1967 году, обрели новую актуальность. Хайек утверждал, что величайшие достижения человечества являются результатом не централизованного планирования, а сложного рыночного процесса, в котором индивидуумы играют свою роль, не понимая системы в целом. Рынок, по сути, действует как «бог-компьютер», организующий человеческую деятельность по своей собственной логике.
Эта концепция нашла отражение в романе Чарльза Стросса «Accelerando» 2005 года. По сюжету, инопланетный вирус заражает экономику, превращая корпорации — «достаточно сложные алгоритмы распределения ресурсов» — в разумных существ. Эти новоявленные сущности вступают в высокоскоростные финансовые торги, которые в конечном итоге разрушают Землю, вынуждая человечество бежать.
По мнению Канавана, система в романе Стросса функционирует «в совершенно хайекианских терминах», но с одним ключевым отличием: агентами в ней выступают уже не люди, а «корпоративные финансовые алгоритмы». Таким образом, сверхчеловеческий интеллект, управляющий судьбами, стал метафорой не коммунистического Политбюро, а безличных сил глобального капитализма.
Параллели с реальным миром очевидны. Высокоскоростные торговые алгоритмы, анализирующие данные и совершающие сделки за микросекунды, являются почти буквальным воплощением идей Стросса. Известны случаи, когда такие алгоритмы вступали в «войны» друг с другом, приводя к обвалам на рынках. Сами корпорации можно рассматривать как «бессмертные, небиологические организмы», движимые императивами роста, потребления ресурсов и самосохранения.
В ответ на эту реальность некоторые марксистские мыслители предложили концепцию «акселерационизма». Идея заключается не в уничтожении системы, а в том, чтобы взять огромную вычислительную мощь алгоритмического капитализма и перенаправить ее на достижение позитивных целей, таких как «материальное изобилие и экологическое здоровье».
Эта альтернативная политическая визия также нашла свое отражение в фантастике. В романе Кима Стенли Робинсона «2312» «бог-компьютер, подобный Ваалу», представлен не как сила стагнации, а как инструмент для «человеческого процветания». Круг замкнулся: образ, некогда символизировавший угрозу, был переосмыслен как потенциальный инструмент освобождения.
В то время как американская фантастика использовала жанр для политических аллегорий, в других частях мира он выполнял иные функции. Согласно статье Ливии Гершон «Китайская научная фантастика до,,Задачи трёх тел"» от 5 марта 2024 года, в Китае этот жанр долгое время рассматривался как средство распространения современных знаний. История китайской научной фантастики насчитывает более века — первые романы в этом жанре были написаны как минимум в 1902 году.
Анализ литературоведа Джерри Канавана, проведенный в 2015 году, показывает, как американская научная фантастика того периода изображала компьютерные диктатуры в качестве метафоры коммунистического строя. Ярким примером служит эпизод «Яблоко» из оригинального сериала «Звёздный путь» 1967 года. В нем компьютер по имени Ваал правит обществом, поддерживая его в идиллическом, но примитивном и неизменном состоянии.
Капитан Кирк уничтожает Ваала, заявляя местным жителям, что теперь они смогут насладиться тем, «что мы называем свободой». Канаван интерпретирует мораль этого эпизода как «несколько ошеломляющую»: «Коммунизм, может, и сделает вас счастливыми, но он не сделает вас хорошими». Это прямолинейное осуждение отражало доминирующие настроения эпохи.
Более сложный взгляд представлен в рассказе Айзека Азимова «Неизбежный конфликт» 1950 года. В нем описывается доброжелательная диктатура искусственного интеллекта, где «машины с совершенным знанием» управляют человечеством ради его же блага. Это порождает философский спор: один из персонажей утверждает, что человечество «потеряло право голоса в собственном будущем».
В ответ ему возражают, что этот контроль всегда был иллюзией, поскольку человечество и так находилось «во власти экономических и социологических сил, которых оно не понимало». Этот аргумент предвосхитил будущую смену парадигмы в изображении машинного интеллекта, сместив акцент с политического контроля на экономический.
К концу XX века аналогия сместилась. Идеи либертарианского экономиста Фридриха Хайека, высказанные еще в 1967 году, обрели новую актуальность. Хайек утверждал, что величайшие достижения человечества являются результатом не централизованного планирования, а сложного рыночного процесса, в котором индивидуумы играют свою роль, не понимая системы в целом. Рынок, по сути, действует как «бог-компьютер», организующий человеческую деятельность по своей собственной логике.
Эта концепция нашла отражение в романе Чарльза Стросса «Accelerando» 2005 года. По сюжету, инопланетный вирус заражает экономику, превращая корпорации — «достаточно сложные алгоритмы распределения ресурсов» — в разумных существ. Эти новоявленные сущности вступают в высокоскоростные финансовые торги, которые в конечном итоге разрушают Землю, вынуждая человечество бежать.
По мнению Канавана, система в романе Стросса функционирует «в совершенно хайекианских терминах», но с одним ключевым отличием: агентами в ней выступают уже не люди, а «корпоративные финансовые алгоритмы». Таким образом, сверхчеловеческий интеллект, управляющий судьбами, стал метафорой не коммунистического Политбюро, а безличных сил глобального капитализма.
Параллели с реальным миром очевидны. Высокоскоростные торговые алгоритмы, анализирующие данные и совершающие сделки за микросекунды, являются почти буквальным воплощением идей Стросса. Известны случаи, когда такие алгоритмы вступали в «войны» друг с другом, приводя к обвалам на рынках. Сами корпорации можно рассматривать как «бессмертные, небиологические организмы», движимые императивами роста, потребления ресурсов и самосохранения.
В ответ на эту реальность некоторые марксистские мыслители предложили концепцию «акселерационизма». Идея заключается не в уничтожении системы, а в том, чтобы взять огромную вычислительную мощь алгоритмического капитализма и перенаправить ее на достижение позитивных целей, таких как «материальное изобилие и экологическое здоровье».
Эта альтернативная политическая визия также нашла свое отражение в фантастике. В романе Кима Стенли Робинсона «2312» «бог-компьютер, подобный Ваалу», представлен не как сила стагнации, а как инструмент для «человеческого процветания». Круг замкнулся: образ, некогда символизировавший угрозу, был переосмыслен как потенциальный инструмент освобождения.
В то время как американская фантастика использовала жанр для политических аллегорий, в других частях мира он выполнял иные функции. Согласно статье Ливии Гершон «Китайская научная фантастика до,,Задачи трёх тел"» от 5 марта 2024 года, в Китае этот жанр долгое время рассматривался как средство распространения современных знаний. История китайской научной фантастики насчитывает более века — первые романы в этом жанре были написаны как минимум в 1902 году.
