Фото: Кузьмичёнок Василий/Агентство «Москва»
Исследователи из Массачусетского технологического института (MIT) представили новый подход – рекурсивную языковую модель (RLM), – позволяющую искусственному интеллекту работать с текстами, в 100 раз превышающими стандартное ограничение по длине. Вместо попытки «запомнить» весь документ, модель научилась рассматривать его как среду для навигации и точечного извлечения нужных данных.
Традиционные языковые модели имеют фиксированный размер «контекстного окна» (обычно до 100 тысяч токенов). При обработке более длинных текстов (например, книг, многолетних архивов или обширных код-баз) их производительность резко падает: факты путаются, логика рассуждений нарушается, и качество ответов снижается.
Идея MIT заключается в том, чтобы не загружать весь объём данных в «рабочую память» модели. Вместо этого документ структурируется как база данных, по которой ИИ может программно перемещаться, выбирая только те фрагменты, которые действительно необходимы для ответа на запрос. Это похоже на работу поисковика, который находит нужный параграф в огромной библиотеке, не читая все книги целиком.
В тестах RLM успешно обрабатывала целые книги, многолетние архивы и большие кодовые базы, демонстрируя более высокую точность в сложных задачах, требующих глубокого анализа.
Исследователи опубликовали библиотеку с реализацией RLM, включая её облегчённую версию для разработчиков. Над промышленным внедрением технологии уже работает компания Prime Intellect. Этот подход может стать новым стандартом для работы ИИ с гигантскими массивами текстовой информации.
Парламентарий Госдумы Александр Бородай прокомментировал активизацию переброски вооружения на Украину через Польшу. Об этом пишет NEWS.ru. По словам депутата, Европа готовится к масштабному противостоянию с Россией. «Это объясняет рост военных…
Постоянно холодные руки и ноги могут быть как вариантом нормы, так и признаком проблем со здоровьем. Об этом RT рассказал врач-терапевт и кардиолог, кандидат медицинских наук Андрей Кондрахин. По его…
Заместитель председателя Совета безопасности России Дмитрий Медведев в соцсетях заявил, что Европа не сможет противостоять США в случае попытки Вашингтона забрать Гренландию и фактически уступит остров. Так он отреагировал на слова президента Франции Эммануэля Макрона о возможном…
По словам пророссийского хакера PalachPro, ему удалось получить доступ к секретным методичками НАТО, по которым обучают военнослужащих Молдавии. Об этом в среду, 14 января, сообщает РИА Новости. «В результате успешной…
Врач общей практики Тэмсин Льюис заявила, что ношение носков в постели может помочь быстрее заснуть и снизить проявления бессонницы, передает Metro. Специалист пояснила, что согревание стоп улучшает кровообращение, благодаря чему снижается общая…
В базе ФССП появилось исполнительное производство о принудительном выселении певицы Ларисы Долиной. Информация размещена на сайте службы. Согласно данным приставов, производство открыли 12 января на основании исполнительного листа. Его выдал…