Нейросети иногда выдают ошибочные или выдуманные ответы. Причины кроются в обучающих данных, устройстве самой модели и формулировке запроса пользователя.
Эксперт в сфере искусственного интеллекта и управления знаниями Владимир Лещенко в беседе для 360.ru перечислил три основные причины, по которым нейросети выдают ошибочные или выдуманные ответы.
Как отмечает эксперт, главный источник недостоверных сведений это данные, на которых обучалась модель. Если в исходном массиве уже была ошибка, искусственный интеллект ее не распознает. В результате он будет считать свой ответ правильным.
Обучение нейросетей зачастую строится на информации из Интернета, чатов и литературных произведений, что напрямую влияет на качество итоговых ответов. Другой фактор связан с устройством самой модели и заложенным в нее алгоритмом обработки сведений. Кроме того, на результат влияет формулировка запроса пользователя, добавил специалист.
Лещенко также отметил, что галлюцинации возникают при недостатке данных. Именно тогда модель начинает креативить. При этом некоторые системы при отсутствии информации сообщают, что не располагают данными и не могут дать ответ.
VK
OK
Telegram
Дзен