Эпоха искусственного интеллекта принесла с собой не только впечатляющие технологические достижения, но и новые угрозы, одной из которых является стремительное распространение поддельных онлайн-отзывов. Инструменты генеративного ИИ, такие как ChatGPT от OpenAI, сделали создание фальшивых отзывов не только проще, но и быстрее, предоставляя злоумышленникам возможность в больших масштабах манипулировать мнениями потребителей. Это оказывает пагубное воздействие на различные отрасли, особенно в период праздничных покупок, когда люди активно полагаются на отзывы при принятии решений.
Поддельные отзывы, безусловно, не новое явление, однако теперь, благодаря возможностям ИИ, они стали массовыми и более убедительными. Такие фальшивки всё чаще встречаются на крупных платформах, таких как Amazon и Yelp, а также в различных секторах, включая электронную коммерцию, гостиничный бизнес, рестораны и услуги по ремонту. Проблема в том, что отличить искусственно сгенерированный отзыв от настоящего становится всё сложнее не только для обычных пользователей, но и для некоторых инструментов обнаружения ИИ.
Компания The Transparency Company, специализирующаяся на обнаружении поддельных отзывов, выявила, что к середине 2023 года около 14% из 73 миллионов проанализированных отзывов были, вероятно, сфабрикованы, а 2,3 миллиона из них были созданы, полностью или частично, с помощью ИИ. Аналогичную картину наблюдали и в компании DoubleVerify, заметившей в августе «значительное увеличение» фальшивых отзывов в мобильных приложениях. Примечательно, что всего лишь несколько месяцев спустя, в сентябре, Федеральная торговая комиссия США (FTC) подала в суд на компанию Rytr, разработчика инструмента для написания ИИ-текстов, обвинив её в содействии распространению поддельных отзывов.
Уже в октябре вступило в силу правило FTC о запрете покупки и продажи фальшивых отзывов. Однако проблема сохраняется. Некоторые компании продолжают предлагать стимулы, например, подарочные карты, за написание положительных отзывов. Тем не менее, платформы, такие как Amazon и Trustpilot, хотя и позволяют использовать ИИ для помощи в написании отзывов, при условии, что они отражают реальный опыт, требуют от пользователей предоставлять оригинальный текст, написанный человеком. Напротив, Yelp настаивает на том, чтобы все отзывы были полностью написаны людьми.
Технологии генерации текста на основе ИИ, как, например, ChatGPT, способны генерировать тексты в огромных масштабах, маскируясь под человеческую речь, что затрудняет их выявление. Компании разрабатывают методы и политики для борьбы с этой проблемой, однако эти методы не всегда эффективны. Например, компания Pangram Labs отмечает, что ИИ-сгенерированные отзывы часто содержат так называемые «пустые описания», лишённые конкретики. Они также содержат клише, такие как «это изменило мою жизнь» или «первое, что меня поразило», часто встречающиеся в ИИ-сгенерированных текстах.
Потребители, со своей стороны, могут повысить свою бдительность и обращать внимание на признаки того, что отзыв может быть сгенерирован ИИ. Это, в частности, чрезмерно позитивные или негативные отзывы, повторяющиеся обороты речи, отсутствие конкретных деталей и слишком «гладкий» стиль, лишённый человеческой индивидуальности. Фальшивые отзывы, особенно сгенерированные ИИ, подрывают доверие к онлайн-платформам. В результате пострадать могут как потребители, так и честные компании, а репутация онлайн-торговли оказывается под угрозой.
В борьбе с этой растущей проблемой важны усилия различных организаций. Так, Coalition for Trusted Reviews, группа, сформированная Amazon, Trustpilot, Glassdoor, Tripadvisor, Expedia и , стремится совместными усилиями выработать эффективные меры по борьбе с поддельными отзывами. С 1 января The Transparency Company будет возглавлять Маури Блэкман, инвестор и консультант технологических стартапов. Учёные, такие как профессор маркетинга Мичиганского государственного университета Шерри Хе и профессор поведенческой психологии Йельского университета Балаж Ковач, также изучают влияние ИИ на распространение дезинформации в онлайн-пространстве.
Эксперты предупреждают, что проблема фейковых отзывов является общей для всего интернет-пространства. Так, по словам Кей Дин, бывшей сотрудницы федеральных правоохранительных органов и главы организации Fake Review Watch, платформы должны нести ответственность за публикуемый пользователями контент, что в настоящий момент не является юридическим требованием. Макс Сперо, генеральный директор Pangram Labs, подчёркивает необходимость постоянного обновления методов обнаружения поддельных отзывов, поскольку ИИ-технологии постоянно развиваются, предоставляя новые возможности для обмана.
Несмотря на технические сложности, борьба с фальшивыми отзывами, тем не менее, продолжается. Федеральная торговая комиссия США активно преследует компании, занимающиеся распространением фальсификаций. Тем не менее, проблема поддельных онлайн-отзывов является серьёзным вызовом для всего онлайн-сообщества, а её решение требует совместных усилий со стороны разработчиков ИИ, онлайн-платформ, законодательных органов и потребителей.
Поддельные отзывы, безусловно, не новое явление, однако теперь, благодаря возможностям ИИ, они стали массовыми и более убедительными. Такие фальшивки всё чаще встречаются на крупных платформах, таких как Amazon и Yelp, а также в различных секторах, включая электронную коммерцию, гостиничный бизнес, рестораны и услуги по ремонту. Проблема в том, что отличить искусственно сгенерированный отзыв от настоящего становится всё сложнее не только для обычных пользователей, но и для некоторых инструментов обнаружения ИИ.
Компания The Transparency Company, специализирующаяся на обнаружении поддельных отзывов, выявила, что к середине 2023 года около 14% из 73 миллионов проанализированных отзывов были, вероятно, сфабрикованы, а 2,3 миллиона из них были созданы, полностью или частично, с помощью ИИ. Аналогичную картину наблюдали и в компании DoubleVerify, заметившей в августе «значительное увеличение» фальшивых отзывов в мобильных приложениях. Примечательно, что всего лишь несколько месяцев спустя, в сентябре, Федеральная торговая комиссия США (FTC) подала в суд на компанию Rytr, разработчика инструмента для написания ИИ-текстов, обвинив её в содействии распространению поддельных отзывов.
Уже в октябре вступило в силу правило FTC о запрете покупки и продажи фальшивых отзывов. Однако проблема сохраняется. Некоторые компании продолжают предлагать стимулы, например, подарочные карты, за написание положительных отзывов. Тем не менее, платформы, такие как Amazon и Trustpilot, хотя и позволяют использовать ИИ для помощи в написании отзывов, при условии, что они отражают реальный опыт, требуют от пользователей предоставлять оригинальный текст, написанный человеком. Напротив, Yelp настаивает на том, чтобы все отзывы были полностью написаны людьми.
Технологии генерации текста на основе ИИ, как, например, ChatGPT, способны генерировать тексты в огромных масштабах, маскируясь под человеческую речь, что затрудняет их выявление. Компании разрабатывают методы и политики для борьбы с этой проблемой, однако эти методы не всегда эффективны. Например, компания Pangram Labs отмечает, что ИИ-сгенерированные отзывы часто содержат так называемые «пустые описания», лишённые конкретики. Они также содержат клише, такие как «это изменило мою жизнь» или «первое, что меня поразило», часто встречающиеся в ИИ-сгенерированных текстах.
Потребители, со своей стороны, могут повысить свою бдительность и обращать внимание на признаки того, что отзыв может быть сгенерирован ИИ. Это, в частности, чрезмерно позитивные или негативные отзывы, повторяющиеся обороты речи, отсутствие конкретных деталей и слишком «гладкий» стиль, лишённый человеческой индивидуальности. Фальшивые отзывы, особенно сгенерированные ИИ, подрывают доверие к онлайн-платформам. В результате пострадать могут как потребители, так и честные компании, а репутация онлайн-торговли оказывается под угрозой.
В борьбе с этой растущей проблемой важны усилия различных организаций. Так, Coalition for Trusted Reviews, группа, сформированная Amazon, Trustpilot, Glassdoor, Tripadvisor, Expedia и , стремится совместными усилиями выработать эффективные меры по борьбе с поддельными отзывами. С 1 января The Transparency Company будет возглавлять Маури Блэкман, инвестор и консультант технологических стартапов. Учёные, такие как профессор маркетинга Мичиганского государственного университета Шерри Хе и профессор поведенческой психологии Йельского университета Балаж Ковач, также изучают влияние ИИ на распространение дезинформации в онлайн-пространстве.
Эксперты предупреждают, что проблема фейковых отзывов является общей для всего интернет-пространства. Так, по словам Кей Дин, бывшей сотрудницы федеральных правоохранительных органов и главы организации Fake Review Watch, платформы должны нести ответственность за публикуемый пользователями контент, что в настоящий момент не является юридическим требованием. Макс Сперо, генеральный директор Pangram Labs, подчёркивает необходимость постоянного обновления методов обнаружения поддельных отзывов, поскольку ИИ-технологии постоянно развиваются, предоставляя новые возможности для обмана.
Несмотря на технические сложности, борьба с фальшивыми отзывами, тем не менее, продолжается. Федеральная торговая комиссия США активно преследует компании, занимающиеся распространением фальсификаций. Тем не менее, проблема поддельных онлайн-отзывов является серьёзным вызовом для всего онлайн-сообщества, а её решение требует совместных усилий со стороны разработчиков ИИ, онлайн-платформ, законодательных органов и потребителей.
