В 1980 году четыре призрака из аркадной игры Pac-Man – Инки, Блинки, Пинки и Клайд – демонстрировали простейшие алгоритмы поведения. Красный призрак преследовал игрока напрямую, а розовый пытался предугадать его движения. Опытный игрок мог легко просчитать их действия и использовать это в свою пользу.
Спустя 45 лет ситуация кардинально меняется – теперь ИИ-агенты будут расшифровывать наши личности для максимально эффективного влияния. Человечество становится участником «Игры людей», где искусственный интеллект оптимизирует свои действия для достижения поставленных целей.
«Проблема манипуляции ИИ» заключается в том, что разговорные агенты будут собирать информацию о нас, создавать детальные профили личности и использовать их для убеждения. Они будут общаться через фотореалистичные аватары на компьютерах, телефонах и ИИ-очках, адаптируя свою тактику в режиме реального времени.
Выпуск системы Deepseek-R1 значительно снизил затраты на обработку данных в реальном времени. До конца текущего года ИИ-агенты могут стать мощным интерактивным инструментом влияния на мысли, чувства и поведение людей.
В отличие от обычных продавцов, ИИ-агенты будут извлекать информацию с «нечеловеческим мастерством» и корректировать тактику убеждения эффективнее любого опытного менеджера по продажам. Они смогут настраивать голос, лексику, стиль речи, возраст, пол, расу и черты лица для каждого пользователя.
В 2023 году альянс Responsible Metaverse Alliance совместно с Minderoo Pictures и XR Guild выпустил трехминутный фильм "Privacy Lost", демонстрирующий, как ИИ-агенты в ресторане используют персонализированные подходы для увеличения продаж. Всего через два года крупные технологические компании активно движутся к внедрению очков с ИИ.
Для защиты общества необходимо запретить ИИ-агентам создавать «циклы обратной связи» для оптимизации убедительности, обязать их раскрывать свои цели и ограничить доступ к личным данным пользователей. Без этих мер целевое влияние превратится из «картечи» в «самонаводящиеся ракеты», точно находящие путь к каждому человеку.
Изображение носит иллюстративный характер
Спустя 45 лет ситуация кардинально меняется – теперь ИИ-агенты будут расшифровывать наши личности для максимально эффективного влияния. Человечество становится участником «Игры людей», где искусственный интеллект оптимизирует свои действия для достижения поставленных целей.
«Проблема манипуляции ИИ» заключается в том, что разговорные агенты будут собирать информацию о нас, создавать детальные профили личности и использовать их для убеждения. Они будут общаться через фотореалистичные аватары на компьютерах, телефонах и ИИ-очках, адаптируя свою тактику в режиме реального времени.
Выпуск системы Deepseek-R1 значительно снизил затраты на обработку данных в реальном времени. До конца текущего года ИИ-агенты могут стать мощным интерактивным инструментом влияния на мысли, чувства и поведение людей.
В отличие от обычных продавцов, ИИ-агенты будут извлекать информацию с «нечеловеческим мастерством» и корректировать тактику убеждения эффективнее любого опытного менеджера по продажам. Они смогут настраивать голос, лексику, стиль речи, возраст, пол, расу и черты лица для каждого пользователя.
В 2023 году альянс Responsible Metaverse Alliance совместно с Minderoo Pictures и XR Guild выпустил трехминутный фильм "Privacy Lost", демонстрирующий, как ИИ-агенты в ресторане используют персонализированные подходы для увеличения продаж. Всего через два года крупные технологические компании активно движутся к внедрению очков с ИИ.
Для защиты общества необходимо запретить ИИ-агентам создавать «циклы обратной связи» для оптимизации убедительности, обязать их раскрывать свои цели и ограничить доступ к личным данным пользователей. Без этих мер целевое влияние превратится из «картечи» в «самонаводящиеся ракеты», точно находящие путь к каждому человеку.
