Фото: Кузьмичёнок Василий/Агентство «Москва»
Специалист в сфере искусственного интеллекта и управления знаниями Владимир Лещенко в комментарии для телеканала «360» перечислил три обстоятельства, из-за которых нейросети нередко формируют некорректные либо полностью вымышленные ответы на запросы аудитории.
Первую причину собеседник издания связал с обучающими наборами данных. Когда в исходной информации присутствовала ошибка, алгоритм не способен её распознать и воспринимает собственный ответ как правильный.
«Данные, на которых они работают, — очень часто данные интернета, каких-то чатов, возможно, литературных произведений», — отметил Лещенко.
Второй фактор — архитектура самой модели и заложенный в неё механизм переработки сведений. Третий — формулировка запроса: от того, как пользователь построит вопрос, напрямую зависит реакция системы.
Эксперт добавил, что вымышленные ответы появляются и при нехватке информации — тогда модель начинает креативить. Отдельные системы при отсутствии данных сообщают: «У меня нет данных, я не могу дать такой ответ». Итог, по словам Лещенко, определяется настройками.
Как ранее писала Общественная служба новостей, искусственный интеллект может стать благом для человечества, но только при условии ответственного и контролируемого использования.
IT-аналитик Владимир Ульянов заявил о рисках полной недоступности сайтов из-за капчи.
В Санкт-Петербурге разыскивают 12-летнюю девочку, местонахождение которой остается неизвестным с 5 октября. Информацию о поисках распространил поисково-спасательный отряд «Северо-Запад». «Пропал подросток, 12 лет. С 5 октября ее местоположение неизвестно», —…
Детский омбудсмен Ингушетии Зарема Чахкиева обратилась в правоохранительные органы с просьбой проверить семью тяжелобольного младенца. По предварительным данным, родители оставили ребенка в московской больнице, а собранные благотворительным фондом средства потратили…
В Уфе на газоне рядом с одним из жилых домов появились две необычные скульптуры. Фигуры изображают гусей, однако вместо птичьих голов у них вылеплены узнаваемые черты Владимира Ленина. На инсталляцию…
Сожитель предпринимательницы Елены Церетели Теймураз Гогиашвили мог сначала убить ее дочь после конфликта из-за покупки автомобиля, а затем застрелить и саму женщину. Такую версию произошедшего приводит Telegram-канал Mash. По данным…
Во Франции в понедельник во время протестных акций старшеклассников задержали 984 человека. Об этом сообщает телеканал BFMTV со ссылкой на данные Министерства внутренних дел страны. По информации ведомства, в ходе…
В российской столице произведено задержание Игоря Васильева, занимающего пост генерального директора военно-патриотического парка культуры и отдыха «Патриот». Информацию об этом распространило издание «Фонтанка», ссылаясь на собственные источники. На момент публикации…