Недавняя приостановка Apple своей новой функции новостных оповещений, генерируемых искусственным интеллектом, стала наглядным примером тех опасностей, которые таит в себе поспешное внедрение ИИ в сфере распространения новостей. Многочисленные неточности и последовавшая критика заставили технологического гиганта временно отказаться от инновационной функции, демонстрируя хрупкость баланса между технологическим прогрессом и ответственностью.
Разработанная Apple функция автоматически формировала краткие сводки из заголовков новостей, причём уведомления выглядели так, будто исходят непосредственно от приложений новостных организаций. Однако, этот многообещающий инструмент оказался подвержен ошибкам. Программное обеспечение искажало суть новостей, вызывая справедливое возмущение у изданий и прессы. В настоящее время данная функция отключена в последних бета-версиях операционных систем iOS 18.3, iPadOS 18.3 и macOS Sequoia 15.3 в категории «Новости и развлечения».
Критика в адрес Apple была резкой. Организация «Репортёры без границ» (RSF), в лице Венсана Бертье, заявила о недопустимости повторного запуска функции до тех пор, пока риск публикации неточных заголовков не будет сведён к нулю. СМИ и группы по защите прессы настаивали на немедленном отзыве новинки, справедливо опасаясь, что ошибки, сгенерированные искусственным интеллектом, лишь усугубят и без того тревожную ситуацию с дезинформацией и потерей доверия к новостям.
Особую тревогу вызывают так называемые «галлюцинации» искусственного интеллекта, то есть ситуации, когда он выдает не соответствующие действительности данные. Джонатан Брайт из Института Алана Тьюринга подчёркивает, что не существует системы, которая могла бы гарантировать полное отсутствие подобных ошибок, и поэтому необходим постоянный контроль со стороны человека. Неточные сводки затронули такие известные издания, как Sky News, New York Times и Washington Post, что, безусловно, не способствовало укреплению их репутации.
Стремление технологических компаний первыми выпускать на рынок новые продукты диктует свои условия. Часто искусственно сгенерированному контенту, например сводкам вверху поисковой выдачи, безоговорочно доверяют, хотя на самом деле это может оказаться далеко не так. В отличие от чат-ботов с искусственным интеллектом, которые снабжены предупреждениями о необходимости перепроверки информации, новый функционал Apple не имел подобных оговорок, что создавало ложное ощущение достоверности.
Примечательно, что Apple, обычно очень уверенная в качестве своих продуктов и не склонная реагировать на критику, на этот раз проявила необычную для себя гибкость. Компания публично признала необходимость совершенствования своего продукта. Впоследствии они заявили, что в других приложениях сводки, сгенерированные ИИ для оповещений приложений, будут отображаться курсивом, подчеркивая их сгенерированный характер. Главной задачей Apple на данный момент является обеспечение максимальной точности новостной информации.
Ироничным является тот факт, что ошибка в сводке, сгенерированной искусственным интеллектом, затронула именно Washington Post, чьим технологическим обозревателем является Джеффри А. Фаулер, который и сообщил об инциденте. Washington Post принадлежит Джеффу Безосу, основателю Amazon, хорошо знакомому с главой Apple, Тимом Куком. Эта нелепая случайность, тем не менее, лишний раз подчеркивает важность бдительности при использовании ИИ в критически важных областях, таких как новости.
Возникает вопрос: не наступит ли время, когда мы не сможем отличить правду от вымысла, и кто будет нести ответственность за последствия? Ситуация с новостной функцией Apple является тревожным звонком, напоминающим о том, что не все новые технологии приносят прогресс, и что поспешность может привести к катастрофическим последствиям. В данном случае, очевидность небрежности со стороны Apple заставляет задуматься о будущем новостной индустрии, которое, возможно, ещё не готово к широкому применению ИИ.
Изображение носит иллюстративный характер
Разработанная Apple функция автоматически формировала краткие сводки из заголовков новостей, причём уведомления выглядели так, будто исходят непосредственно от приложений новостных организаций. Однако, этот многообещающий инструмент оказался подвержен ошибкам. Программное обеспечение искажало суть новостей, вызывая справедливое возмущение у изданий и прессы. В настоящее время данная функция отключена в последних бета-версиях операционных систем iOS 18.3, iPadOS 18.3 и macOS Sequoia 15.3 в категории «Новости и развлечения».
Критика в адрес Apple была резкой. Организация «Репортёры без границ» (RSF), в лице Венсана Бертье, заявила о недопустимости повторного запуска функции до тех пор, пока риск публикации неточных заголовков не будет сведён к нулю. СМИ и группы по защите прессы настаивали на немедленном отзыве новинки, справедливо опасаясь, что ошибки, сгенерированные искусственным интеллектом, лишь усугубят и без того тревожную ситуацию с дезинформацией и потерей доверия к новостям.
Особую тревогу вызывают так называемые «галлюцинации» искусственного интеллекта, то есть ситуации, когда он выдает не соответствующие действительности данные. Джонатан Брайт из Института Алана Тьюринга подчёркивает, что не существует системы, которая могла бы гарантировать полное отсутствие подобных ошибок, и поэтому необходим постоянный контроль со стороны человека. Неточные сводки затронули такие известные издания, как Sky News, New York Times и Washington Post, что, безусловно, не способствовало укреплению их репутации.
Стремление технологических компаний первыми выпускать на рынок новые продукты диктует свои условия. Часто искусственно сгенерированному контенту, например сводкам вверху поисковой выдачи, безоговорочно доверяют, хотя на самом деле это может оказаться далеко не так. В отличие от чат-ботов с искусственным интеллектом, которые снабжены предупреждениями о необходимости перепроверки информации, новый функционал Apple не имел подобных оговорок, что создавало ложное ощущение достоверности.
Примечательно, что Apple, обычно очень уверенная в качестве своих продуктов и не склонная реагировать на критику, на этот раз проявила необычную для себя гибкость. Компания публично признала необходимость совершенствования своего продукта. Впоследствии они заявили, что в других приложениях сводки, сгенерированные ИИ для оповещений приложений, будут отображаться курсивом, подчеркивая их сгенерированный характер. Главной задачей Apple на данный момент является обеспечение максимальной точности новостной информации.
Ироничным является тот факт, что ошибка в сводке, сгенерированной искусственным интеллектом, затронула именно Washington Post, чьим технологическим обозревателем является Джеффри А. Фаулер, который и сообщил об инциденте. Washington Post принадлежит Джеффу Безосу, основателю Amazon, хорошо знакомому с главой Apple, Тимом Куком. Эта нелепая случайность, тем не менее, лишний раз подчеркивает важность бдительности при использовании ИИ в критически важных областях, таких как новости.
Возникает вопрос: не наступит ли время, когда мы не сможем отличить правду от вымысла, и кто будет нести ответственность за последствия? Ситуация с новостной функцией Apple является тревожным звонком, напоминающим о том, что не все новые технологии приносят прогресс, и что поспешность может привести к катастрофическим последствиям. В данном случае, очевидность небрежности со стороны Apple заставляет задуматься о будущем новостной индустрии, которое, возможно, ещё не готово к широкому применению ИИ.
