Фото: Кузьмичёнок Василий/Агентство «Москва»
Исследователи из Массачусетского технологического института (MIT) представили новый подход – рекурсивную языковую модель (RLM), – позволяющую искусственному интеллекту работать с текстами, в 100 раз превышающими стандартное ограничение по длине. Вместо попытки «запомнить» весь документ, модель научилась рассматривать его как среду для навигации и точечного извлечения нужных данных.
Традиционные языковые модели имеют фиксированный размер «контекстного окна» (обычно до 100 тысяч токенов). При обработке более длинных текстов (например, книг, многолетних архивов или обширных код-баз) их производительность резко падает: факты путаются, логика рассуждений нарушается, и качество ответов снижается.
Идея MIT заключается в том, чтобы не загружать весь объём данных в «рабочую память» модели. Вместо этого документ структурируется как база данных, по которой ИИ может программно перемещаться, выбирая только те фрагменты, которые действительно необходимы для ответа на запрос. Это похоже на работу поисковика, который находит нужный параграф в огромной библиотеке, не читая все книги целиком.
В тестах RLM успешно обрабатывала целые книги, многолетние архивы и большие кодовые базы, демонстрируя более высокую точность в сложных задачах, требующих глубокого анализа.
Исследователи опубликовали библиотеку с реализацией RLM, включая её облегчённую версию для разработчиков. Над промышленным внедрением технологии уже работает компания Prime Intellect. Этот подход может стать новым стандартом для работы ИИ с гигантскими массивами текстовой информации.
2 июня православные верующие вспоминают благоверного князя Довмонта Псковского (во святом крещении Тимофея). В народе — Тимофей Грядочник. Дата по старому стилю — 20 мая. Общественная служба новостей узнала, какие…
Президент США Дональд Трамп заявил, что внутренние критики мешают ему вести переговоры по мирному соглашению с Ираном. Политики, по его словам, предъявляли противоречивые требования. Они настаивали то на ускорении процесса,…
Председатель Госдумы Вячеслав Володин в своем канале на платформе «Макс» анонсировал ряд важных законов, вступающих в силу в июне. Один из них продлевает до конца 2027 года эксперимент по ужесточению…
Президент США Дональд Трамп заявил, что Иран заинтересован в достижении соглашения с Вашингтоном и выразил уверенность, что потенциальная сделка будет выгодна для США и их союзников. Соответствующее заявление американский лидер…
Актриса Алена Яковлева поделилась своими мыслями о дружбе с бывшими мужьями и любовниками. 64-летняя народная актриса России рассказала о своей личной жизни, отметив, что до сих пор принимает подарки от…
Мошенники все чаще используют интерес россиян к искусственному интеллекту и современным технологиям для обмана граждан. Об этом сообщили в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России.…