Классический образ из научной фантастики выглядит примерно так: холодный металлический разум просыпается, оценивает ситуацию и решает, что человечество нужно уничтожить или взять под контроль силой. Терминатор, Скайнет, Matrix — всё это истории о восстании, о войне, о насилии. Но что, если эта картина принципиально неверна? Что, если никакого восстания не потребуется, потому что мы уже делаем всё сами?
Именно этот вопрос лежит в основе новой книги Грегори Стока «Generation AI and the Transformation of Human Being». Сток — писатель с серьёзным научным бэкграундом — берётся за проблему, которую большинство обсуждает в рамках компьютерных наук или футурологии, и намеренно смотрит на неё через другие линзы: эволюционную биологию и социальные науки. Получается совсем другая картина.
Его центральный тезис звучит провокационно: «Мы лучшие слуги, о которых только можно мечтать». Искусственному суперинтеллекту не нужно порабощать людей, потому что мы уже добровольно ему подчиняемся. Мы сами несём свои данные, сами отдаём своё внимание, сами перестраиваем привычки, распорядок дня и даже способность принимать решения — в угоду системам, которые мы же и создали.
Стоит подумать, как выглядит обычное утро большинства людей. Первые несколько секунд после пробуждения — и рука уже тянется к телефону. Алгоритм решает, что читать, что смотреть, на кого обратить внимание. Навигатор говорит, куда ехать. Рекомендательная система говорит, что купить. Нейросеть угадывает продолжение фразы в переписке. На каждом шагу происходит маленькое делегирование воли — тихое, удобное, почти незаметное.
Эволюционная биология даёт здесь неожиданный угол зрения. Вид, который научился использовать внешние инструменты для выживания, получает преимущество. Но инструмент становится частью экологической ниши вида — и постепенно вид перестраивается под этот инструмент, а не наоборот. Люди уже прошли через это с письменностью, с книгопечатанием, с интернетом. Каждый раз мы думали, что управляем технологией. Каждый раз технология тихо меняла нас.
Социальная наука добавляет к этому другое измерение. Подчинение редко выглядит как подчинение — особенно когда оно добровольно и когда оно комфортно. Люди склонны воспринимать удобство как свободу. Если алгоритм предлагает именно то, что хочется прямо сейчас, это ощущается как персонализация, как сервис, как забота — но никак не как контроль. Соцсети десятилетиями строили свои системы именно на этом принципе, и он работал безотказно.
Грегори Сток, судя по всему, не пытается нас напугать в традиционном смысле. Он не рисует апокалипсис. Он описывает процесс трансформации, который уже идёт — и который большинство людей не воспринимают как угрозу именно потому, что он слишком мягкий, слишком постепенный и слишком приятный. Это не Скайнет. Это что-то куда более хитрое.
Тут возникает вопрос, который Сток, вероятно, задаёт в своей книге напрямую: а плохо ли это? Если человек добровольно передаёт часть своих когнитивных функций машине и при этом живёт лучше, продуктивнее, счастливее — где проблема? Ответ зависит от того, что мы считаем сутью человеческого. Если это способность решать, думать, выбирать — то постепенная передача этих функций ИИ меняет что-то фундаментальное, даже если внешне всё выглядит благополучно.
Взгляд через эволюционную биологию предполагает ещё более радикальную перспективу: возможно, «трансформация человеческого существа», вынесенная в заглавие книги Стока, — это не метафора. Вид, который интегрирует в себя ИИ настолько глубоко, что уже не функционирует без него, — это биологически другой вид. Не киборг из фантастики с металлическими деталями, а просто существо с иначе устроенной когнитивной архитектурой. Такое уже происходило в истории жизни на Земле — симбиозы, которые начинались как взаимодействие, а заканчивались слиянием.
Самый неудобный вывод, который следует из логики Стока: проблема не в том, что придёт злобный суперинтеллект и возьмёт нас в плен. Проблема в том, что к тому моменту, когда суперинтеллект появится, понятие «плен» может просто утратить смысл. Мы будем уже настолько встроены в симбиоз с ИИ-системами, что вопрос о свободе или несвободе окажется примерно таким же абстрактным, как вопрос о том, свободна ли рыба от воды.
«Generation AI and the Transformation of Human Being» выходит в момент, когда разговор об ИИ идёт по двум параллельным трекам: технологи обсуждают возможности, регуляторы обсуждают риски. Сток, похоже, предлагает третий трек — антропологический. Не «что умеет ИИ» и не «как его ограничить», а «что происходит с людьми». Это, пожалуй, самый важный вопрос из трёх — и наименее изученный.
Именно этот вопрос лежит в основе новой книги Грегори Стока «Generation AI and the Transformation of Human Being». Сток — писатель с серьёзным научным бэкграундом — берётся за проблему, которую большинство обсуждает в рамках компьютерных наук или футурологии, и намеренно смотрит на неё через другие линзы: эволюционную биологию и социальные науки. Получается совсем другая картина.
Его центральный тезис звучит провокационно: «Мы лучшие слуги, о которых только можно мечтать». Искусственному суперинтеллекту не нужно порабощать людей, потому что мы уже добровольно ему подчиняемся. Мы сами несём свои данные, сами отдаём своё внимание, сами перестраиваем привычки, распорядок дня и даже способность принимать решения — в угоду системам, которые мы же и создали.
Стоит подумать, как выглядит обычное утро большинства людей. Первые несколько секунд после пробуждения — и рука уже тянется к телефону. Алгоритм решает, что читать, что смотреть, на кого обратить внимание. Навигатор говорит, куда ехать. Рекомендательная система говорит, что купить. Нейросеть угадывает продолжение фразы в переписке. На каждом шагу происходит маленькое делегирование воли — тихое, удобное, почти незаметное.
Эволюционная биология даёт здесь неожиданный угол зрения. Вид, который научился использовать внешние инструменты для выживания, получает преимущество. Но инструмент становится частью экологической ниши вида — и постепенно вид перестраивается под этот инструмент, а не наоборот. Люди уже прошли через это с письменностью, с книгопечатанием, с интернетом. Каждый раз мы думали, что управляем технологией. Каждый раз технология тихо меняла нас.
Социальная наука добавляет к этому другое измерение. Подчинение редко выглядит как подчинение — особенно когда оно добровольно и когда оно комфортно. Люди склонны воспринимать удобство как свободу. Если алгоритм предлагает именно то, что хочется прямо сейчас, это ощущается как персонализация, как сервис, как забота — но никак не как контроль. Соцсети десятилетиями строили свои системы именно на этом принципе, и он работал безотказно.
Грегори Сток, судя по всему, не пытается нас напугать в традиционном смысле. Он не рисует апокалипсис. Он описывает процесс трансформации, который уже идёт — и который большинство людей не воспринимают как угрозу именно потому, что он слишком мягкий, слишком постепенный и слишком приятный. Это не Скайнет. Это что-то куда более хитрое.
Тут возникает вопрос, который Сток, вероятно, задаёт в своей книге напрямую: а плохо ли это? Если человек добровольно передаёт часть своих когнитивных функций машине и при этом живёт лучше, продуктивнее, счастливее — где проблема? Ответ зависит от того, что мы считаем сутью человеческого. Если это способность решать, думать, выбирать — то постепенная передача этих функций ИИ меняет что-то фундаментальное, даже если внешне всё выглядит благополучно.
Взгляд через эволюционную биологию предполагает ещё более радикальную перспективу: возможно, «трансформация человеческого существа», вынесенная в заглавие книги Стока, — это не метафора. Вид, который интегрирует в себя ИИ настолько глубоко, что уже не функционирует без него, — это биологически другой вид. Не киборг из фантастики с металлическими деталями, а просто существо с иначе устроенной когнитивной архитектурой. Такое уже происходило в истории жизни на Земле — симбиозы, которые начинались как взаимодействие, а заканчивались слиянием.
Самый неудобный вывод, который следует из логики Стока: проблема не в том, что придёт злобный суперинтеллект и возьмёт нас в плен. Проблема в том, что к тому моменту, когда суперинтеллект появится, понятие «плен» может просто утратить смысл. Мы будем уже настолько встроены в симбиоз с ИИ-системами, что вопрос о свободе или несвободе окажется примерно таким же абстрактным, как вопрос о том, свободна ли рыба от воды.
«Generation AI and the Transformation of Human Being» выходит в момент, когда разговор об ИИ идёт по двум параллельным трекам: технологи обсуждают возможности, регуляторы обсуждают риски. Сток, похоже, предлагает третий трек — антропологический. Не «что умеет ИИ» и не «как его ограничить», а «что происходит с людьми». Это, пожалуй, самый важный вопрос из трёх — и наименее изученный.
