Изображение сгенерировано нейросетью ChatGPT
Сотрудники университета Решетнева разработали методику, позволяющую нейросетям избавляться от недостоверных или выдуманных фактов. Разработка применима в образовании, на портале «Госуслуги», в медицине и юриспруденции. Официальное сообщение об этом поступило в агентство РИА Новости от пресс-службы вуза.
Проблема «галлюцинаций» нейросетей, когда алгоритмы уверенно выдают ложную информацию, остается острой. Для борьбы с ней ранее использовались RAG-системы (Retrieval-Augmented Generation). Такой подход предполагал, что нейросеть сначала ищет релевантные данные в базе знаний, затем формирует ответ.
Однако, как отметили в университете, ошибки все равно возникали из-за опечаток, противоречий в запросе или неполноты базы данных. Это требовало более совершенного решения, и команда ученых приступила к работе.
Команда под руководством доцента кафедры систем автоматизированного и интеллектуального обеспечения Анастасии Поляковой проанализировала типовые сценарии появления «галлюцинаций». Исследователи создали классификатор таких ошибок.
Затем они разработали автоматизированный пайплайн стресс-тестирования: система генерировала тестовые запросы, сравнивала ответы нейросети с эталонными значениями и оценивала точность при помощи специальных метрик и анализа семантического сходства. Этот подход позволил выявить уязвимости моделей.
Ранее сообщалось, что школьников начнут учить работе с ИИ и нейросетями на уроках информатики. Подробнее читайте в материале Общественной службы новостей.
В пятницу вечером оказалось известно о том, что технологические и финансовые ограничения препятствуют амбициям Евросоюза по созданию собственного военного аналога американской спутниковой системы Starlink. Об этом в вечерний период проинформировал…
Народный банк Китая в сентябре купил около 23 тонн золота — это крупнейший месячный объём почти за три года. Центробанк увеличивает золотые резервы уже 23 месяца подряд, сообщает vestateka.ru. Интерес…
Средняя страховая пенсия по старости у неработающих пенсионеров в России в 2027 году вырастет до 30,2 тыс. рублей в месяц. Прибавка составит около 2,4 тыс. рублей, а повышение затронет 37,5…
Необходимо помнить о том, что использование функций автоматического списания средств помогает упорядочить семейный бюджет, однако подходит далеко не для всех типов расходов. Подключенная опция снижает риск пропустить обязательные переводы с…
С 2027 года страховые пенсии в России планируют повышать дважды в год вместо одной индексации. Новый порядок введет Социальный фонд России, сообщает ведомство. Первое увеличение выплат намечено на 1 февраля:…
Мясо и птица в России за год подорожали на 9,18%, а курица прибавила в цене 16%. При этом с начала 2026 года оптовая стоимость бройлеров выросла на 29%, свинины —…