IT-эксперт Лещенко заявил о природе галлюцинаций ИИ

Специалист в сфере искусственного интеллекта и управления знаниями Владимир Лещенко в комментарии для телеканала «360» перечислил три обстоятельства, из-за которых нейросети нередко формируют некорректные либо полностью вымышленные ответы на запросы аудитории.

Первую причину собеседник издания связал с обучающими наборами данных. Когда в исходной информации присутствовала ошибка, алгоритм не способен её распознать и воспринимает собственный ответ как правильный.

«Данные, на которых они работают, — очень часто данные интернета, каких-то чатов, возможно, литературных произведений», — отметил Лещенко.

Второй фактор — архитектура самой модели и заложенный в неё механизм переработки сведений. Третий — формулировка запроса: от того, как пользователь построит вопрос, напрямую зависит реакция системы.

Эксперт добавил, что вымышленные ответы появляются и при нехватке информации — тогда модель начинает креативить. Отдельные системы при отсутствии данных сообщают: «У меня нет данных, я не могу дать такой ответ». Итог, по словам Лещенко, определяется настройками.

Как ранее писала Общественная служба новостей, искусственный интеллект может стать благом для человечества, но только при условии ответственного и контролируемого использования.

IT-аналитик Владимир Ульянов заявил о рисках полной недоступности сайтов из-за капчи.