Изображение сгенерировано нейросетью ChatGPT
Сотрудники университета Решетнева разработали методику, позволяющую нейросетям избавляться от недостоверных или выдуманных фактов. Разработка применима в образовании, на портале «Госуслуги», в медицине и юриспруденции. Официальное сообщение об этом поступило в агентство РИА Новости от пресс-службы вуза.
Проблема «галлюцинаций» нейросетей, когда алгоритмы уверенно выдают ложную информацию, остается острой. Для борьбы с ней ранее использовались RAG-системы (Retrieval-Augmented Generation). Такой подход предполагал, что нейросеть сначала ищет релевантные данные в базе знаний, затем формирует ответ.
Однако, как отметили в университете, ошибки все равно возникали из-за опечаток, противоречий в запросе или неполноты базы данных. Это требовало более совершенного решения, и команда ученых приступила к работе.
Команда под руководством доцента кафедры систем автоматизированного и интеллектуального обеспечения Анастасии Поляковой проанализировала типовые сценарии появления «галлюцинаций». Исследователи создали классификатор таких ошибок.
Затем они разработали автоматизированный пайплайн стресс-тестирования: система генерировала тестовые запросы, сравнивала ответы нейросети с эталонными значениями и оценивала точность при помощи специальных метрик и анализа семантического сходства. Этот подход позволил выявить уязвимости моделей.
Ранее сообщалось, что школьников начнут учить работе с ИИ и нейросетями на уроках информатики. Подробнее читайте в материале Общественной службы новостей.
Тридцать первого мая в Южно-Сахалинске спасатели эвакуировали туриста, получившего травму ноги на скальном массиве. Инцидент произошел днем в воскресенье, когда в единую дежурно-диспетчерскую службу «112» поступило сообщение о мужчине, который…
Член Совета Федерации Владимир Джабаров заявил, что отказ дипломатических представительств стран Европейского союза покидать Киев продиктован страхом перед крахом собственной пропаганды. Поводом для комментария сенатора стало предупреждение Министерства иностранных дел…
Народный артист РФ Эдгард Запашный предложил направить на международный музыкальный конкурс «Интервидение» в Саудовской Аравии сборный номер из двух-трех исполнителей, поющих на разных языках. Такое мнение он высказал в интервью…
Губернатор Севастополя Михаил Развожаев сообщил в социальной сети Max о временных ограничениях на продажу топлива в городе из-за повышенного спроса и необходимости пополнения запасов на автозаправочных станциях. По его данным,…
Председатель комитета Госдумы по малому и среднему предпринимательству Александр Демин («Новые люди») сообщил о введении с 1 сентября единого универсального QR-кода для безналичных платежей. По его словам, в магазинах и кафе появится один стандартизированный код, который заменит множество…
Премьер-министр Чехии Андрей Бабиш в интервью газете Financial Times заявил, что Европейский союз повторяет путь Римской империи на закате ее существования. Он выразил обеспокоенность текущим курсом объединения. Бабиш сравнил нынешнюю…