Фото: Кузьмичёнок Василий/Агентство «Москва»
Исследователи из Массачусетского технологического института (MIT) представили новый подход – рекурсивную языковую модель (RLM), – позволяющую искусственному интеллекту работать с текстами, в 100 раз превышающими стандартное ограничение по длине. Вместо попытки «запомнить» весь документ, модель научилась рассматривать его как среду для навигации и точечного извлечения нужных данных.
Традиционные языковые модели имеют фиксированный размер «контекстного окна» (обычно до 100 тысяч токенов). При обработке более длинных текстов (например, книг, многолетних архивов или обширных код-баз) их производительность резко падает: факты путаются, логика рассуждений нарушается, и качество ответов снижается.
Идея MIT заключается в том, чтобы не загружать весь объём данных в «рабочую память» модели. Вместо этого документ структурируется как база данных, по которой ИИ может программно перемещаться, выбирая только те фрагменты, которые действительно необходимы для ответа на запрос. Это похоже на работу поисковика, который находит нужный параграф в огромной библиотеке, не читая все книги целиком.
В тестах RLM успешно обрабатывала целые книги, многолетние архивы и большие кодовые базы, демонстрируя более высокую точность в сложных задачах, требующих глубокого анализа.
Исследователи опубликовали библиотеку с реализацией RLM, включая её облегчённую версию для разработчиков. Над промышленным внедрением технологии уже работает компания Prime Intellect. Этот подход может стать новым стандартом для работы ИИ с гигантскими массивами текстовой информации.
Сервис «RWB Исследования» по заказу Ассоциации предприятий индустрии детских товаров ко Дню защиты детей выяснил, какие товары родители считают самыми ценными в первые годы жизни ребенка. В опросе участвовало более…
Telegram-канал «112» сообщил, что Артем Чекалин, бывший муж блогера Лерчек, подал апелляцию с просьбой об оправдании и отмене вынесенного приговора. Об этом заявил адвокат Константин Третьяков. В апреле суд признал…
Киевский режим продолжает добиваться серьёзной эскалации конфликта. В конце недели, как утверждается, России поспешно приписали причастность к падению дрона в Румынии ещё до полного выяснения обстоятельств, а затем, по сообщению…
Социальный фонд России начал прием заявлений на ежегодную семейную выплату для семей с двумя и более детьми. Об этом сообщили в пресс-службе ведомства. В фонде уточнили, что новая мера поддержки…
Самолет United Airlines, летевший из Ньюарка в Пальма-де-Майорку, экстренно развернули в небе из-за сети Bluetooth с провокационным названием «бомба». Как сообщает People, на борту находились 190 пассажиров и 12 членов…
Более трети россиян выразили желание вернуться в детство из-за ощущения безопасности и свободы. К такому выводу пришли исследователи медиахолдинга Rambler&Co и киностудии «Союзмультфильм» в преддверии 90-летия студии и Международного дня…