Фото: Кузьмичёнок Василий/Агентство «Москва»
Специалист в сфере искусственного интеллекта и управления знаниями Владимир Лещенко в комментарии для телеканала «360» перечислил три обстоятельства, из-за которых нейросети нередко формируют некорректные либо полностью вымышленные ответы на запросы аудитории.
Первую причину собеседник издания связал с обучающими наборами данных. Когда в исходной информации присутствовала ошибка, алгоритм не способен её распознать и воспринимает собственный ответ как правильный.
«Данные, на которых они работают, — очень часто данные интернета, каких-то чатов, возможно, литературных произведений», — отметил Лещенко.
Второй фактор — архитектура самой модели и заложенный в неё механизм переработки сведений. Третий — формулировка запроса: от того, как пользователь построит вопрос, напрямую зависит реакция системы.
Эксперт добавил, что вымышленные ответы появляются и при нехватке информации — тогда модель начинает креативить. Отдельные системы при отсутствии данных сообщают: «У меня нет данных, я не могу дать такой ответ». Итог, по словам Лещенко, определяется настройками.
Как ранее писала Общественная служба новостей, искусственный интеллект может стать благом для человечества, но только при условии ответственного и контролируемого использования.
IT-аналитик Владимир Ульянов заявил о рисках полной недоступности сайтов из-за капчи.
20 ноября патриарх Московский и всея Руси Кирилл отмечает 80-летие. В честь юбилея предстоятеля Русской православной церкви подготовлена программа мероприятий, включающая торжественные богослужения, концерты и выставки в разных городах. Главным…
В России предложили обязать государственные и муниципальные учреждения закупать не менее 25% продовольствия у небольших фермерских хозяйств. С такой инициативой выступил лидер партии «Справедливая Россия» Сергей Миронов. Соответствующий законопроект планируется…
В Краснодаре двухлетний ребенок самостоятельно покинул территорию частного детского сада и оказался возле проезжей части практически без одежды. Малыша заметил случайный прохожий, который вернул его воспитателям. Теперь обстоятельства произошедшего выясняет…
Александр Лукашенко в очередной раз отклонил утверждения о том, что белорусские власти якобы создают так называемый «обменный фонд» из заключенных для диалога с американской стороной. Об этом информирует ТАСС. Глава…
В Краснодаре двухлетний ребенок самостоятельно покинул территорию частного детского сада и оказался возле проезжей части практически без одежды. Малыша заметил случайный прохожий, который вернул его воспитателям. Теперь обстоятельства произошедшего выясняет…
Часть российских гражданок, задержанных в конце октября в столице Турции, по-прежнему находится в депортационном центре «Акюрт». Российское посольство продолжает следить за их положением и оказывать необходимую помощь. Об этом сообщили…