Изображение сгенерировано нейросетью ChatGPT
Сотрудники университета Решетнева разработали методику, позволяющую нейросетям избавляться от недостоверных или выдуманных фактов. Разработка применима в образовании, на портале «Госуслуги», в медицине и юриспруденции. Официальное сообщение об этом поступило в агентство РИА Новости от пресс-службы вуза.
Проблема «галлюцинаций» нейросетей, когда алгоритмы уверенно выдают ложную информацию, остается острой. Для борьбы с ней ранее использовались RAG-системы (Retrieval-Augmented Generation). Такой подход предполагал, что нейросеть сначала ищет релевантные данные в базе знаний, затем формирует ответ.
Однако, как отметили в университете, ошибки все равно возникали из-за опечаток, противоречий в запросе или неполноты базы данных. Это требовало более совершенного решения, и команда ученых приступила к работе.
Команда под руководством доцента кафедры систем автоматизированного и интеллектуального обеспечения Анастасии Поляковой проанализировала типовые сценарии появления «галлюцинаций». Исследователи создали классификатор таких ошибок.
Затем они разработали автоматизированный пайплайн стресс-тестирования: система генерировала тестовые запросы, сравнивала ответы нейросети с эталонными значениями и оценивала точность при помощи специальных метрик и анализа семантического сходства. Этот подход позволил выявить уязвимости моделей.
Ранее сообщалось, что школьников начнут учить работе с ИИ и нейросетями на уроках информатики. Подробнее читайте в материале Общественной службы новостей.
По сообщению датского телеканала DR, которое опирается на секретные внутренние документы военного ведомства, Министерство обороны Дании признало, что для достижения целевых показателей по увеличению численности призывников придётся задействовать принудительные механизмы.…
В Москве прошло игровое шоу «НАШЫ ИГРЫ 2026», посвященное проектам разработчиков из стран СНГ. Мероприятие длилось два с половиной часа. За это время зрителям показали около пятидесяти игровых трейлеров, специально…
Сотрудникам Международного агентства по атомной энергии пообещали предоставить доступ к зоне поражения, возникшей после удара беспилотного летательного аппарата Вооруженных сил Украины по машинному залу энергоблока № 6 Запорожской АЭС. Директор по коммуникациям станции Евгения Яшина в беседе…
По сообщению РИА Новости, на Запорожском направлении российский военнослужащий сумел взять в плен трёх бойцов ВСУ — и ключевую роль в этом сыграла его способность свободно говорить на украинском языке.…
Пресс-центр МВД России распространил предупреждение о мошеннической схеме, нацеленной на держателей банковских карт. Злоумышленники, выдавая себя за работников кредитных организаций, в ходе телефонных разговоров убеждают граждан назвать конфиденциальные данные. В пресс-центре уточнили, что звонок является…
Французский люксовый дом Chanel, прекративший коммерческую деятельность на территории России, зарегистрировал в Федеральной службе по интеллектуальной собственности пять товарных знаков, передает ТАСС. Среди зарегистрированных позиций оказались Boy Chanel, Chance Chanel,…