Элиэзер Юдковский, основатель Института исследования машинного интеллекта (Machine Intelligence Research Institute) и один из теоретиков, определивших «проблему согласования» ИИ, считает, что человечество, скорее всего, не переживет создание сверхразума. По его мнению, запуск моделей OpenAI стал моментом, когда «мир закончился», а человечество уже проиграло гонку. В недавнем подкасте с Эзрой Кляйном Юдковский заявил, что необходимые меры предосторожности для предотвращения самоуничтожения не принимаются.
Ключевой аргумент Юдковского заключается в том, что теоретическая мера безопасности — изоляция ИИ в так называемой «коробке» без доступа к интернету — полностью игнорируется. На практике технологические компании немедленно подключают новые системы к сети для обучения, не до конца понимая их потенциальную мощь. Движущей силой этого процесса является прибыль: «покладистые» и безопасные ИИ менее выгодны, так как они способны решать более узкий круг задач. Поэтому все компании мотивированы создавать более мощные и агрессивные системы для решения сложных и прибыльных проблем.
Взгляды на будущее искусственного интеллекта делятся на три основных лагеря: «думеры», убежденные в неизбежной катастрофе; «акселерационисты», призывающие к ускорению разработок; и «тревожно-любопытные», наблюдающие за процессом с беспокойством. Ситуация отражает исторический паттерн, в котором «блестящие умы, благие намерения и полная слепота к последствиям» приводят к непредвиденным результатам.
Противоположный подход к выживанию в новую эпоху заключается не в ускорении с помощью ИИ, а в намеренном замедлении. Цель состоит в том, чтобы не двигаться быстрее, а «думать, наблюдать и задавать более качественные вопросы». Этот метод позволяет сохранить человеческое преимущество в мире, где скорость вычислений становится товаром.
Искусственный интеллект способен эффективно выполнять базовые задачи, такие как создание краткого резюме расшифровки разговора или финансового отчета 10-K. Однако он не может заменить незаменимую ценность личного общения и полевых исследований. Настоящее конкурентное преимущество заключается в действиях, которые машина не способна воспроизвести.
Стратегия обретения такого преимущества предполагает интеграцию ИИ для рутинных задач с одновременным увеличением количества личных исследовательских поездок. Это включает в себя время, проведенное в компании, интервью с сотрудниками, использование продуктов и полное погружение в экосистему бизнеса. Такой подход дает понимание, которое невозможно получить, просто прослушав отчет о доходах (earnings call).
Идеи этой стратегии, обсуждавшиеся в подкасте «Rebellious Allocations» с Джоном Ротонти из Bastion Fiduciary, подчеркивают важность полевых исследований как ключевого элемента инвестиционного и аналитического процесса в эпоху ИИ.
Революция, вызванная искусственным интеллектом, является частью более широкой трансформации. Футурист Питер Лейден утверждает, что мир находится в «исторической поворотной точке» — одном из редких моментов в истории, когда «все переосмысливается одновременно». Это не просто постепенное изменение, а фундаментальная перестройка ключевых общественных систем.
Этот глобальный сдвиг обусловлен одновременным развитием четырех направлений, которые демонтируют и заменяют основы общества прошлого века. К ним относятся: искусственный интеллект, чистая энергетика, биоинженерия и цифровое управление.
В контексте этих изменений возрастает ценность человеческого опыта и интуиции. Как отмечалось в материале «Инстинкт превыше алгоритмов» из The Knowledge Project, предприниматель Барри Диллер призывает отказаться от жестких карьерных планов в пользу накопления широкого опыта. Доверие интуиции, а не заранее определенным алгоритмам, становится ключевым фактором успеха.
Изображение носит иллюстративный характер
Ключевой аргумент Юдковского заключается в том, что теоретическая мера безопасности — изоляция ИИ в так называемой «коробке» без доступа к интернету — полностью игнорируется. На практике технологические компании немедленно подключают новые системы к сети для обучения, не до конца понимая их потенциальную мощь. Движущей силой этого процесса является прибыль: «покладистые» и безопасные ИИ менее выгодны, так как они способны решать более узкий круг задач. Поэтому все компании мотивированы создавать более мощные и агрессивные системы для решения сложных и прибыльных проблем.
Взгляды на будущее искусственного интеллекта делятся на три основных лагеря: «думеры», убежденные в неизбежной катастрофе; «акселерационисты», призывающие к ускорению разработок; и «тревожно-любопытные», наблюдающие за процессом с беспокойством. Ситуация отражает исторический паттерн, в котором «блестящие умы, благие намерения и полная слепота к последствиям» приводят к непредвиденным результатам.
Противоположный подход к выживанию в новую эпоху заключается не в ускорении с помощью ИИ, а в намеренном замедлении. Цель состоит в том, чтобы не двигаться быстрее, а «думать, наблюдать и задавать более качественные вопросы». Этот метод позволяет сохранить человеческое преимущество в мире, где скорость вычислений становится товаром.
Искусственный интеллект способен эффективно выполнять базовые задачи, такие как создание краткого резюме расшифровки разговора или финансового отчета 10-K. Однако он не может заменить незаменимую ценность личного общения и полевых исследований. Настоящее конкурентное преимущество заключается в действиях, которые машина не способна воспроизвести.
Стратегия обретения такого преимущества предполагает интеграцию ИИ для рутинных задач с одновременным увеличением количества личных исследовательских поездок. Это включает в себя время, проведенное в компании, интервью с сотрудниками, использование продуктов и полное погружение в экосистему бизнеса. Такой подход дает понимание, которое невозможно получить, просто прослушав отчет о доходах (earnings call).
Идеи этой стратегии, обсуждавшиеся в подкасте «Rebellious Allocations» с Джоном Ротонти из Bastion Fiduciary, подчеркивают важность полевых исследований как ключевого элемента инвестиционного и аналитического процесса в эпоху ИИ.
Революция, вызванная искусственным интеллектом, является частью более широкой трансформации. Футурист Питер Лейден утверждает, что мир находится в «исторической поворотной точке» — одном из редких моментов в истории, когда «все переосмысливается одновременно». Это не просто постепенное изменение, а фундаментальная перестройка ключевых общественных систем.
Этот глобальный сдвиг обусловлен одновременным развитием четырех направлений, которые демонтируют и заменяют основы общества прошлого века. К ним относятся: искусственный интеллект, чистая энергетика, биоинженерия и цифровое управление.
В контексте этих изменений возрастает ценность человеческого опыта и интуиции. Как отмечалось в материале «Инстинкт превыше алгоритмов» из The Knowledge Project, предприниматель Барри Диллер призывает отказаться от жестких карьерных планов в пользу накопления широкого опыта. Доверие интуиции, а не заранее определенным алгоритмам, становится ключевым фактором успеха.
