Изображение сгенерировано нейросетью ChatGPT
Сотрудники университета Решетнева разработали методику, позволяющую нейросетям избавляться от недостоверных или выдуманных фактов. Разработка применима в образовании, на портале «Госуслуги», в медицине и юриспруденции. Официальное сообщение об этом поступило в агентство РИА Новости от пресс-службы вуза.
Проблема «галлюцинаций» нейросетей, когда алгоритмы уверенно выдают ложную информацию, остается острой. Для борьбы с ней ранее использовались RAG-системы (Retrieval-Augmented Generation). Такой подход предполагал, что нейросеть сначала ищет релевантные данные в базе знаний, затем формирует ответ.
Однако, как отметили в университете, ошибки все равно возникали из-за опечаток, противоречий в запросе или неполноты базы данных. Это требовало более совершенного решения, и команда ученых приступила к работе.
Команда под руководством доцента кафедры систем автоматизированного и интеллектуального обеспечения Анастасии Поляковой проанализировала типовые сценарии появления «галлюцинаций». Исследователи создали классификатор таких ошибок.
Затем они разработали автоматизированный пайплайн стресс-тестирования: система генерировала тестовые запросы, сравнивала ответы нейросети с эталонными значениями и оценивала точность при помощи специальных метрик и анализа семантического сходства. Этот подход позволил выявить уязвимости моделей.
Ранее сообщалось, что школьников начнут учить работе с ИИ и нейросетями на уроках информатики. Подробнее читайте в материале Общественной службы новостей.
В городе Васильевка Запорожской области сотрудница местной администрации чудом осталась жива после атаки беспилотников, в результате которой была разрушена часть многоквартирного дома. Об этом сообщает kp.ru. Во время налета женщина…
Евгения Яшина, директор по коммуникациям Запорожской АЭС, в комментарии РИА Новости подчеркнула принципиальное отличие атаки на атомный объект от удара по военному объекту. По ее словам, подобное воздействие не может быть точечным и обратимым. Вместо этого оно инициирует цепь…
В Польше 51-летний житель Згожельца присвоил крупную сумму наличных, выпавшую из инкассаторского автомобиля. Инцидент произошел 18 мая, и о нем сообщил телеканал TVN 24 со ссылкой на местные правоохранительные органы.…
В ночь на 31 мая в аэропортах Краснодарского края вводились временные ограничения на прием и выпуск воздушных судов. Меры предпринимались из соображений безопасности. Ограничения сняли около 03:55 по московскому времени. Об этом сообщает ТАСС. После снятия ограничений, по данным онлайн-табло…
Глава Военного комитета НАТО Джузеппе Каво Драгоне заявил о необходимости пересмотра подходов к обеспечению безопасности в современных условиях. Выступая на форуме «Диалог Шангри-Ла» в Сингапуре, он отметил, что государствам, обществам…
1 июня православная церковь отмечает праздник День Святого Духа или Духов день. Дата по старому стилю – 19 мая. Общественная служба новостей узнала, какие традиции, запреты и приметы приходятся в…