Изображение сгенерировано нейросетью ChatGPT
Сотрудники университета Решетнева разработали методику, позволяющую нейросетям избавляться от недостоверных или выдуманных фактов. Разработка применима в образовании, на портале «Госуслуги», в медицине и юриспруденции. Официальное сообщение об этом поступило в агентство РИА Новости от пресс-службы вуза.
Проблема «галлюцинаций» нейросетей, когда алгоритмы уверенно выдают ложную информацию, остается острой. Для борьбы с ней ранее использовались RAG-системы (Retrieval-Augmented Generation). Такой подход предполагал, что нейросеть сначала ищет релевантные данные в базе знаний, затем формирует ответ.
Однако, как отметили в университете, ошибки все равно возникали из-за опечаток, противоречий в запросе или неполноты базы данных. Это требовало более совершенного решения, и команда ученых приступила к работе.
Команда под руководством доцента кафедры систем автоматизированного и интеллектуального обеспечения Анастасии Поляковой проанализировала типовые сценарии появления «галлюцинаций». Исследователи создали классификатор таких ошибок.
Затем они разработали автоматизированный пайплайн стресс-тестирования: система генерировала тестовые запросы, сравнивала ответы нейросети с эталонными значениями и оценивала точность при помощи специальных метрик и анализа семантического сходства. Этот подход позволил выявить уязвимости моделей.
Ранее сообщалось, что школьников начнут учить работе с ИИ и нейросетями на уроках информатики. Подробнее читайте в материале Общественной службы новостей.
Федеральная служба безопасности России обнародовала данные о предотвращённых терактах, организованных украинскими спецслужбами, и методах, которые они используют для переброски взрывчатых веществ на территорию РФ. Одним из основных способов, как сообщает…
Черногория приняла решение официально отменить безвизовый въезд для граждан России, сообщило местное издание DAN. В соответствии с обязательствами, взятыми на пути вступления в Евросоюз, балканская республика должна привести визовую политику…
Балерина Анастасия Волочкова рассказала о своем состоянии после госпитализации. В беседе с Общественной службой новостей звезда призналась, что сейчас продолжает проходить лечение. По словам звезды, она не восстановилась после операции…
Депутат Госдумы от ЛДПР Дмитрий Свищёв в интервью Общественной службе новостей разъяснил работникам их права на компенсацию за неиспользованные дни отпуска. По словам депутата, многие граждане не знают, что при…
Посол Армении в Вашингтоне Нарек Мкртчян встретился с руководителем службы внешней сельскохозяйственной деятельности США Дэниэлом Уитли. Стороны обсудили перспективы поставок армянской сельхозпродукции на американский рынок. Об этом сообщило дипломатическое представительство…
Виталий Жикович, фигурирующий в деле об убийстве 39-летней украинки Анастасии Березовской, которую разыскивал Интерпол по подозрению в причастности к взрыву в Монако, оборудовал в подвале собственного дома настоящую камеру для…