Фото: Кузьмичёнок Василий/Агентство «Москва»
Исследователи из Массачусетского технологического института (MIT) представили новый подход – рекурсивную языковую модель (RLM), – позволяющую искусственному интеллекту работать с текстами, в 100 раз превышающими стандартное ограничение по длине. Вместо попытки «запомнить» весь документ, модель научилась рассматривать его как среду для навигации и точечного извлечения нужных данных.
Традиционные языковые модели имеют фиксированный размер «контекстного окна» (обычно до 100 тысяч токенов). При обработке более длинных текстов (например, книг, многолетних архивов или обширных код-баз) их производительность резко падает: факты путаются, логика рассуждений нарушается, и качество ответов снижается.
Идея MIT заключается в том, чтобы не загружать весь объём данных в «рабочую память» модели. Вместо этого документ структурируется как база данных, по которой ИИ может программно перемещаться, выбирая только те фрагменты, которые действительно необходимы для ответа на запрос. Это похоже на работу поисковика, который находит нужный параграф в огромной библиотеке, не читая все книги целиком.
В тестах RLM успешно обрабатывала целые книги, многолетние архивы и большие кодовые базы, демонстрируя более высокую точность в сложных задачах, требующих глубокого анализа.
Исследователи опубликовали библиотеку с реализацией RLM, включая её облегчённую версию для разработчиков. Над промышленным внедрением технологии уже работает компания Prime Intellect. Этот подход может стать новым стандартом для работы ИИ с гигантскими массивами текстовой информации.
Президент России Владимир Путин пожелал папе Римскому Льву XIV здоровья и скорейшего восстановления после недавно перенесенного хирургического вмешательства. Об этом сообщила пресс-служба Кремля. По информации российской стороны, глава государства выразил…
Необходимо помнить о том, что бесконтрольное использование гормональных препаратов с тестостероном способно вызвать бесплодие, спровоцировать проблемы с почками и сердцем, а также повысить риск образования тромбов. Об опасности неназначенного приема…
В перуанском городе Трухильо произошло дорожно-транспортное происшествие с участием известного местного музыканта Ивана Вильякорты, одного из лидеров группы Los Villacorta. В результате аварии пострадал 77-летний гражданин России. Об этом сообщает…
Священник храма Федоровской иконы Божией Матери Марк Алексеев рассказал, как, согласно православной традиции, человеку следует подготовиться к концу земной жизни. Об этом сообщает «Кулик». По словам священнослужителя, важно примириться с…
В пятницу вечером оказалось известно о том, что главными причинами, заставляющими волков выходить к населенным пунктам в разных частях Российской Федерации, становятся сокращение кормовой базы и активное уничтожение их привычной…
В Санкт-Петербурге приостановили расследование уголовного дела в отношении предпринимателя Станислава Маслова, которого обвиняют в причастности к незаконной передаче тел умерших из морга Александровской больницы. Причиной стало заключение бизнесменом контракта с…