Ssylka

Надежность ИИ в бизнесе: развеиваем мифы о галлюцинациях

Большие языковые модели (БЯМ) при генерации текста используют семплирование, выбирая на каждом шаге из нескольких вариантов продолжения. Это приводит к вариативности ответов, включая так называемые «галлюцинации» – нелогичные или неправдивые результаты. Для бизнес-задач, где важна точность, такое поведение неприемлемо.
Надежность ИИ в бизнесе: развеиваем мифы о галлюцинациях
Изображение носит иллюстративный характер

Управляя параметрами семплирования, такими как temperature, top_p и top_k, можно минимизировать «галлюцинации». Снижение температуры, например, уменьшает случайность выбора, делая ответы более предсказуемыми. Полное отключение семплирования путем задания минимальных значений этих параметров, обеспечивает получение практически одинакового ответа на один и тот же запрос.

Для критически важных задач можно использовать многократное дублирование запросов. Отправляя один и тот же запрос несколько раз, а затем выбирая наиболее часто встречающийся ответ, можно значительно повысить надежность и уменьшить вероятность ошибки. Это масштабируемый метод, подходящий для бизнес-применений, где цена запроса обычно невелика.

Внедрение БЯМ в бизнес требует внимательного контроля параметров генерации и, в некоторых случаях, использования дополнительных мер предосторожности, таких как дублирование запросов. В целом, уровень ошибок, достигаемый при правильном использовании, может быть ниже, чем у людей. Важно пересмотреть представление об ИИ как о «болталке» и рассматривать его как мощный инструмент для решения бизнес-задач.


Новое на сайте

14783Птицы от рассвета до заката: персональная выставка Джима мойра в Lady Lever Art Gallery 14782Новая жизнь фасада: надежда и история на стенах кинотеатра ABC 14781Поворот в доступности абортов: как законы и технологии меняют картину в США 14780Что стало с лицом Lil Nas X? 14779Взлом аккаунта министра: криптовалютная афера на платформе X 14778Google под прицелом антимонопольной комиссии Японии 14777Хор для тех, кто не умеет петь: как Zest Choir меняет отношение к музыке 14776Поглотила ли покупка Instagram конкуренцию на рынке соцсетей? 14775Как у прилавка с суши возникла уэльская морская трава? 14774Почему муравьи становятся новой целью международных браконьеров? 14773Как пятеро друзей из Dude Perfect стали символом семейного развлечения? 14772Может ли Хельсинки стать новой столицей европейских стартапов? 14771Кто стоял за великой железнодорожной кражей: элита преступного мира? 14770Meta возобновляет обучение искусственного интеллекта на публичных данных европейских...