Системы искусственного интеллекта, работающие на основе классических вычислений, фундаментально уязвимы для попадания в бесконечные циклы. Наглядным примером служит случай в аэропорту Мадрид-Барахас, где телескопический трап, управляемый ИИ, застрял в повторяющейся последовательности действий: он приближался к самолету, а затем отъезжал назад. Вмешательство человека-оператора потребовалось, чтобы прервать этот цикл. Подобные сбои происходят и в других автоматизированных системах, например, в лабиринтах автоматизированных колл-центров, где система неспособна решить нестандартную проблему.
Теоретически, можно создать ИИ с возможностью самоконтроля — модель, отслеживающая собственную производительность. Если этот уровень даст сбой, можно добавить еще один слой мониторинга, создав «модель внутри модели». Однако такой подход ведет к проблеме регрессии, поскольку любая конечная система самоконтроля все равно может отказать, оставляя ИИ уязвимым для зацикливания.
Эта уязвимость ИИ к бесконечным циклам имеет глубокие корни в теоретических проблемах информатики. Еще в 1936 году Алан Тьюринг доказал существование «проблемы остановки». Он математически обосновал, что невозможно создать универсальный алгоритм, который мог бы для любой другой программы и любых входных данных определить, завершит ли та свою работу («остановится») или будет выполняться вечно.
Другая фундаментальная трудность, описанная в 1969 году Джоном Маккарти и Патриком Дж. Хейсом, известна как «проблема фрейма». Она заключается в сложности научить машину определять, какая информация является нерелевантной в конкретной ситуации. Поскольку список нерелевантных деталей потенциально бесконечен, машина может застрять, перебирая их, что открывает еще один путь к бесконечному циклу. Современные достижения, включая глубокие нейронные сети и генеративные модели, до сих пор не решили эти фундаментальные проблемы.
Живое сознание избегает подобных ловушек, поскольку оно принципиально отличается от алгоритма. В то время как интеллект связан с действием («деланием»), сознание — это состояние бытия или ощущения («бытие»). Устойчивость человеческого разума к зацикливанию проистекает не из способности к глубокой рекурсии (большинство людей с трудом удерживают три уровня вложенности, например, «знаю, что я знаю, что я знаю»), а из его неразрывной связи со временем и энтропией.
Ключевым фактором является второй закон термодинамики, который гласит, что в изолированной системе энтропия, мера беспорядка, может только возрастать или оставаться неизменной. Физик Артур Эддингтон подчеркивал непреложность этого закона: «Если ваша теория противоречит второму закону термодинамики, у меня нет для вас никакой надежды...». Живые существа являются открытыми системами: они обмениваются энергией с окружающей средой, что позволяет им использовать эту энергию для поддержания порядка и противостояния распаду, оставаясь в «статистически удивительном состоянии бытия живым».
Биологические существа переживают время многослойно и физически. На клеточном уровне существует метаболическое время, где в каждой клетке ежесекундно происходит около миллиарда химических реакций. На более высоком уровне — нейронное время, ограниченное скоростью передачи нервных импульсов. И, наконец, существует субъективное сознательное время — непрерывный и неумолимый «поток сознания». Согласно принципу свободной энергии, нейронные сети постоянно работают над минимизацией энтропии сенсорных данных. Как отмечается в книге «Being You», мы воспринимаем мир через наше живое тело.
В классических вычислениях, основанных на модели Тьюринга, время абстрактно. Значение имеет лишь последовательность состояний — А ведет к Б, — а не продолжительность интервала между ними. Это просто «одно проклятое состояние за другим». Такое пренебрежение физическим временем обходится дорого: «ненасытный энергетический аппетит» современных ИИ в значительной степени обусловлен энергией, необходимой для коррекции ошибок — по сути, для борьбы с энтропией на уровне физического оборудования, такого как кремниевые чипы.
Для живых организмов постоянное давление времени и метаболическая необходимость поддерживать физиологическую жизнеспособность действуют как главный фильтр релевантности. Эта биологическая основа заставляет нас находить выход из проблемных ситуаций, предотвращая зацикливание. Патологические повторяющиеся действия, наблюдаемые при таких состояниях, как ОКР, тяжелый аутизм, синдром Туретта, зависимость или повреждение лобных долей, рассматриваются как «нарушения нормальной нейрокогнитивной функции», что лишь подтверждает общее правило: здоровый сознательный разум избегает таких состояний.
Фундаментальные различия между цифровыми вычислениями и биологическим сознанием делают идею создания общего искусственного интеллекта (AGI) на классических платформах «химерой». Существуют альтернативные подходы: аналоговые вычисления, работающие в непрерывном времени (как Антикитерский механизм, созданный 2000 лет назад), смертные вычисления, которые учитывают износ оборудования, и нейроморфные вычисления, имитирующие структуру мозга. Однако даже эти «встроенные во время» подходы вряд ли смогут воспроизвести открытый адаптивный интеллект живых систем.
Другие теории также указывают на уникальную роль сознания. Двадцать лет назад Мюррей Шанахан предположил, что сознание, посредством теории глобального рабочего пространства, помогает решить проблему фрейма. Ева Яблонка и Симона Гинзбург утверждают, что сознание связано с «неограниченным ассоциативным обучением», которое позволяет находить новые решения. Если сознание неотделимо от физического времени и метаболизма, то «временно разреженная природа» классических цифровых вычислений fundamentally несовместима с ним.
Философ Дэниел Деннетт, в отличие от Дэвида Чалмерса с его «трудной проблемой» происхождения сознания, сосредоточился на функциональных «трудных вопросах». Один из них звучит так: «происходит сознательный опыт — 'и что происходит потом?'». Ответ заключается в том, что сознание — это способ природы, позволяющий умным созданиям продолжать двигаться вперед и «(почти) всегда находить выход», будучи неразрывно связанными с потоком времени. Данная работа частично финансируется Европейским исследовательским советом в рамках гранта Advanced Investigator Grant (номер 101019254). Автор является консультантом Conscium Ltd и AllJoined Inc.
Изображение носит иллюстративный характер
Теоретически, можно создать ИИ с возможностью самоконтроля — модель, отслеживающая собственную производительность. Если этот уровень даст сбой, можно добавить еще один слой мониторинга, создав «модель внутри модели». Однако такой подход ведет к проблеме регрессии, поскольку любая конечная система самоконтроля все равно может отказать, оставляя ИИ уязвимым для зацикливания.
Эта уязвимость ИИ к бесконечным циклам имеет глубокие корни в теоретических проблемах информатики. Еще в 1936 году Алан Тьюринг доказал существование «проблемы остановки». Он математически обосновал, что невозможно создать универсальный алгоритм, который мог бы для любой другой программы и любых входных данных определить, завершит ли та свою работу («остановится») или будет выполняться вечно.
Другая фундаментальная трудность, описанная в 1969 году Джоном Маккарти и Патриком Дж. Хейсом, известна как «проблема фрейма». Она заключается в сложности научить машину определять, какая информация является нерелевантной в конкретной ситуации. Поскольку список нерелевантных деталей потенциально бесконечен, машина может застрять, перебирая их, что открывает еще один путь к бесконечному циклу. Современные достижения, включая глубокие нейронные сети и генеративные модели, до сих пор не решили эти фундаментальные проблемы.
Живое сознание избегает подобных ловушек, поскольку оно принципиально отличается от алгоритма. В то время как интеллект связан с действием («деланием»), сознание — это состояние бытия или ощущения («бытие»). Устойчивость человеческого разума к зацикливанию проистекает не из способности к глубокой рекурсии (большинство людей с трудом удерживают три уровня вложенности, например, «знаю, что я знаю, что я знаю»), а из его неразрывной связи со временем и энтропией.
Ключевым фактором является второй закон термодинамики, который гласит, что в изолированной системе энтропия, мера беспорядка, может только возрастать или оставаться неизменной. Физик Артур Эддингтон подчеркивал непреложность этого закона: «Если ваша теория противоречит второму закону термодинамики, у меня нет для вас никакой надежды...». Живые существа являются открытыми системами: они обмениваются энергией с окружающей средой, что позволяет им использовать эту энергию для поддержания порядка и противостояния распаду, оставаясь в «статистически удивительном состоянии бытия живым».
Биологические существа переживают время многослойно и физически. На клеточном уровне существует метаболическое время, где в каждой клетке ежесекундно происходит около миллиарда химических реакций. На более высоком уровне — нейронное время, ограниченное скоростью передачи нервных импульсов. И, наконец, существует субъективное сознательное время — непрерывный и неумолимый «поток сознания». Согласно принципу свободной энергии, нейронные сети постоянно работают над минимизацией энтропии сенсорных данных. Как отмечается в книге «Being You», мы воспринимаем мир через наше живое тело.
В классических вычислениях, основанных на модели Тьюринга, время абстрактно. Значение имеет лишь последовательность состояний — А ведет к Б, — а не продолжительность интервала между ними. Это просто «одно проклятое состояние за другим». Такое пренебрежение физическим временем обходится дорого: «ненасытный энергетический аппетит» современных ИИ в значительной степени обусловлен энергией, необходимой для коррекции ошибок — по сути, для борьбы с энтропией на уровне физического оборудования, такого как кремниевые чипы.
Для живых организмов постоянное давление времени и метаболическая необходимость поддерживать физиологическую жизнеспособность действуют как главный фильтр релевантности. Эта биологическая основа заставляет нас находить выход из проблемных ситуаций, предотвращая зацикливание. Патологические повторяющиеся действия, наблюдаемые при таких состояниях, как ОКР, тяжелый аутизм, синдром Туретта, зависимость или повреждение лобных долей, рассматриваются как «нарушения нормальной нейрокогнитивной функции», что лишь подтверждает общее правило: здоровый сознательный разум избегает таких состояний.
Фундаментальные различия между цифровыми вычислениями и биологическим сознанием делают идею создания общего искусственного интеллекта (AGI) на классических платформах «химерой». Существуют альтернативные подходы: аналоговые вычисления, работающие в непрерывном времени (как Антикитерский механизм, созданный 2000 лет назад), смертные вычисления, которые учитывают износ оборудования, и нейроморфные вычисления, имитирующие структуру мозга. Однако даже эти «встроенные во время» подходы вряд ли смогут воспроизвести открытый адаптивный интеллект живых систем.
Другие теории также указывают на уникальную роль сознания. Двадцать лет назад Мюррей Шанахан предположил, что сознание, посредством теории глобального рабочего пространства, помогает решить проблему фрейма. Ева Яблонка и Симона Гинзбург утверждают, что сознание связано с «неограниченным ассоциативным обучением», которое позволяет находить новые решения. Если сознание неотделимо от физического времени и метаболизма, то «временно разреженная природа» классических цифровых вычислений fundamentally несовместима с ним.
Философ Дэниел Деннетт, в отличие от Дэвида Чалмерса с его «трудной проблемой» происхождения сознания, сосредоточился на функциональных «трудных вопросах». Один из них звучит так: «происходит сознательный опыт — 'и что происходит потом?'». Ответ заключается в том, что сознание — это способ природы, позволяющий умным созданиям продолжать двигаться вперед и «(почти) всегда находить выход», будучи неразрывно связанными с потоком времени. Данная работа частично финансируется Европейским исследовательским советом в рамках гранта Advanced Investigator Grant (номер 101019254). Автор является консультантом Conscium Ltd и AllJoined Inc.
