Эксперты раскрыли способы снижения ошибок в работе нейросетей

Российские  эксперты назвали ключевые способы борьбы с галлюцинациями нейросетей —  генерацией текста, который выглядит правдоподобно, но содержит  вымышленные факты, неточные данные или ссылки на несуществующие  источники. Подобные ошибки способны не только создать для пользователя  серьезные затруднения при работе с информацией, но и привести к  финансовым и репутационным рискам для бизнеса.

Причины  возникновения ИИ‑галлюцинаций связаны с особенностями обучения и работы  языковых моделей. Они формируют ответы на основе вероятностных связей в  данных, а не на понимании фактов, поэтому при нехватке или  противоречивости информации стремятся «додумать» ответ.

«Чтобы  снизить такие ошибки, мы рекомендуем использовать несколько подходов.  Один из них — продуманная постановка вопросов и инструкций для модели,  чтобы она лучше понимала задачу. Еще один способ — так называемая  цепочка рассуждений, когда сложный запрос разбивают на простые шаги.  Часто применяют и специальные системы, которые перед формированием  ответа ищут информацию в проверенных базах данных. Кроме того, модели  дообучают на данных из конкретной области, чтобы они лучше понимали  термины и нюансы», — подчеркнул Лев Меркушов, руководитель направления  разработки ИИ-решений ВТБ.

Ищите наc на следующих площадках:

ВКонтакте

Telegram

RuTube