Изображение сгенерировано нейросетью ChatGPT
Сотрудники университета Решетнева разработали методику, позволяющую нейросетям избавляться от недостоверных или выдуманных фактов. Разработка применима в образовании, на портале «Госуслуги», в медицине и юриспруденции. Официальное сообщение об этом поступило в агентство РИА Новости от пресс-службы вуза.
Проблема «галлюцинаций» нейросетей, когда алгоритмы уверенно выдают ложную информацию, остается острой. Для борьбы с ней ранее использовались RAG-системы (Retrieval-Augmented Generation). Такой подход предполагал, что нейросеть сначала ищет релевантные данные в базе знаний, затем формирует ответ.
Однако, как отметили в университете, ошибки все равно возникали из-за опечаток, противоречий в запросе или неполноты базы данных. Это требовало более совершенного решения, и команда ученых приступила к работе.
Команда под руководством доцента кафедры систем автоматизированного и интеллектуального обеспечения Анастасии Поляковой проанализировала типовые сценарии появления «галлюцинаций». Исследователи создали классификатор таких ошибок.
Затем они разработали автоматизированный пайплайн стресс-тестирования: система генерировала тестовые запросы, сравнивала ответы нейросети с эталонными значениями и оценивала точность при помощи специальных метрик и анализа семантического сходства. Этот подход позволил выявить уязвимости моделей.
Ранее сообщалось, что школьников начнут учить работе с ИИ и нейросетями на уроках информатики. Подробнее читайте в материале Общественной службы новостей.
Спортивная инфраструктура в России активно развивается: открываются новые секции, государство внедряет различные инициативы. Однако перед родителями по-прежнему стоит вопрос выбора досуга для ребенка после школы. Об этом в понедельник, 31…
Дым, образующийся при возгорании розетки, проводки или электроприбора, содержит токсичные вещества. От отравления этими соединениями при пожарах погибает больше людей, чем от ожогов. О правилах поведения в подобной ситуации в…
Президент РФ Владимир Путин встретился с премьер-министром Индии Нарендрой Моди. Встреча проходила в Зале аксакалов в государственной резиденции «Ала-Арча» в Бишкеке. Об этом в понедельник, 31 августа, сообщает ТАСС. Индия…
Верховную раду Украины предложили перевести на работу в подвальное помещение в связи с участившимися воздушными тревогами в Киеве. Об этом в понедельник, 31 августа, сообщает ТАСС. В официальном сообщении украинского…
В Белгородской области зафиксированы новые жертвы в результате атак украинских беспилотников. Об этом в понедельник, 31 августа, сообщает РИА Новости. По данным оперштаба региона, в городе Шебекино ранения получили три…
Продукта, способного защитить человека от онкологического заболевания, не существует. Регулярное употребление брокколи, ягод или иных продуктов с так называемыми «противораковыми» свойствами само по себе не гарантирует снижения риска рака. Об…