Искусственный интеллект (ИИ) стремительно проникает во все сферы науки, и геонауки не исключение. Однако, сложность алгоритмов ИИ и, как следствие, непрозрачность процессов принятия решений, порождают недоверие к получаемым результатам. Особенно остро эта проблема стоит в критически важных областях, таких как управление рисками стихийных бедствий, где цена ошибки чрезвычайно высока.
Решением этой проблемы становится внедрение методов объяснимого искусственного интеллекта (XAI). XAI позволяет сделать процессы принятия решений моделями ИИ прозрачными и понятными для пользователей. Это достигается за счет предоставления объяснений того, как именно модель пришла к тому или иному выводу. Профессор Войцех Самек, руководитель отдела искусственного интеллекта в Институте Фраунгофера Генриха Герца (HHI), сравнивает XAI с «увеличительным стеклом», позволяющим заглянуть внутрь «черного ящика» ИИ.
Применение XAI не только повышает доверие к технологиям ИИ, но и помогает выявлять скрытые проблемы в данных. Например, XAI способен обнаруживать «ложные» корреляции в обучающих данных, которые могут привести к неточным прогнозам модели. Это особенно важно для геонаук, где данные часто бывают сложными и неоднородными.
Несмотря на очевидные преимущества, XAI пока не получил широкого распространения в геонауках. Анализ 2,3 миллионов рефератов научных статей, опубликованных на платформе arXiv в период с 2007 по 2022 год, показал, что лишь 6,1% из них упоминают XAI. Это свидетельствует о значительном потенциале для роста и необходимости активного внедрения XAI в практику геолого-геофизических исследований.
Среди основных причин, побуждающих к использованию XAI, можно выделить: укрепление доверия к системам ИИ, получение новых знаний о данных и повышение эффективности работы самих систем ИИ. Однако, существуют и препятствия, такие как необходимость дополнительных усилий, времени и ресурсов для внедрения XAI.
Чтобы преодолеть эти барьеры и ускорить внедрение XAI в геонауках, необходимы комплексные меры. В журнале Nature Geoscience Моник Куглич, Ксименг Ченг, Джеки Ма, Войцех Самек и другие исследователи предложили несколько рекомендаций. Среди них: формирование спроса на объяснимые модели со стороны заинтересованных лиц, разработка образовательных ресурсов по XAI, создание международных партнерств для обмена знаниями и поддержка интеграции с оптимизированными рабочими процессами для стандартизации.
Институт Фраунгофера HHI, являясь мировым лидером в области исследований XAI, активно участвует в продвижении этих технологий. Институт координирует глобальную инициативу по применению ИИ в управлении рисками стихийных бедствий, поддерживаемую ООН, а именно – «Глобальную инициативу по обеспечению устойчивости к стихийным бедствиям с помощью решений на основе искусственного интеллекта». Доктор Моник Куглич, менеджер по инновациям в Fraunhofer HHI и председатель этой инициативы, подчеркивает: "XAI имеет очевидную добавленную ценность для геонаук, поскольку способствует более глубокому пониманию сложных процессов и повышению точности прогнозов». В исследовании, кроме перечисленных выше, приняли участие: Джеспер Драмш, Мигель-Анхель Фернандес-Торрес, Андреа Торети, Рустем Ариф Албайрак, Лоренцо Нава, Саман Гаффарян, Руди Венгусвами, Анируд Кул, Рагхаван Мутурегунатан и Артур Храст Эссенфельдер.
Изображение носит иллюстративный характер
Решением этой проблемы становится внедрение методов объяснимого искусственного интеллекта (XAI). XAI позволяет сделать процессы принятия решений моделями ИИ прозрачными и понятными для пользователей. Это достигается за счет предоставления объяснений того, как именно модель пришла к тому или иному выводу. Профессор Войцех Самек, руководитель отдела искусственного интеллекта в Институте Фраунгофера Генриха Герца (HHI), сравнивает XAI с «увеличительным стеклом», позволяющим заглянуть внутрь «черного ящика» ИИ.
Применение XAI не только повышает доверие к технологиям ИИ, но и помогает выявлять скрытые проблемы в данных. Например, XAI способен обнаруживать «ложные» корреляции в обучающих данных, которые могут привести к неточным прогнозам модели. Это особенно важно для геонаук, где данные часто бывают сложными и неоднородными.
Несмотря на очевидные преимущества, XAI пока не получил широкого распространения в геонауках. Анализ 2,3 миллионов рефератов научных статей, опубликованных на платформе arXiv в период с 2007 по 2022 год, показал, что лишь 6,1% из них упоминают XAI. Это свидетельствует о значительном потенциале для роста и необходимости активного внедрения XAI в практику геолого-геофизических исследований.
Среди основных причин, побуждающих к использованию XAI, можно выделить: укрепление доверия к системам ИИ, получение новых знаний о данных и повышение эффективности работы самих систем ИИ. Однако, существуют и препятствия, такие как необходимость дополнительных усилий, времени и ресурсов для внедрения XAI.
Чтобы преодолеть эти барьеры и ускорить внедрение XAI в геонауках, необходимы комплексные меры. В журнале Nature Geoscience Моник Куглич, Ксименг Ченг, Джеки Ма, Войцех Самек и другие исследователи предложили несколько рекомендаций. Среди них: формирование спроса на объяснимые модели со стороны заинтересованных лиц, разработка образовательных ресурсов по XAI, создание международных партнерств для обмена знаниями и поддержка интеграции с оптимизированными рабочими процессами для стандартизации.
Институт Фраунгофера HHI, являясь мировым лидером в области исследований XAI, активно участвует в продвижении этих технологий. Институт координирует глобальную инициативу по применению ИИ в управлении рисками стихийных бедствий, поддерживаемую ООН, а именно – «Глобальную инициативу по обеспечению устойчивости к стихийным бедствиям с помощью решений на основе искусственного интеллекта». Доктор Моник Куглич, менеджер по инновациям в Fraunhofer HHI и председатель этой инициативы, подчеркивает: "XAI имеет очевидную добавленную ценность для геонаук, поскольку способствует более глубокому пониманию сложных процессов и повышению точности прогнозов». В исследовании, кроме перечисленных выше, приняли участие: Джеспер Драмш, Мигель-Анхель Фернандес-Торрес, Андреа Торети, Рустем Ариф Албайрак, Лоренцо Нава, Саман Гаффарян, Руди Венгусвами, Анируд Кул, Рагхаван Мутурегунатан и Артур Храст Эссенфельдер.