Фото: Кузьмичёнок Василий/Агентство «Москва»
Исследователи из Массачусетского технологического института (MIT) представили новый подход – рекурсивную языковую модель (RLM), – позволяющую искусственному интеллекту работать с текстами, в 100 раз превышающими стандартное ограничение по длине. Вместо попытки «запомнить» весь документ, модель научилась рассматривать его как среду для навигации и точечного извлечения нужных данных.
Традиционные языковые модели имеют фиксированный размер «контекстного окна» (обычно до 100 тысяч токенов). При обработке более длинных текстов (например, книг, многолетних архивов или обширных код-баз) их производительность резко падает: факты путаются, логика рассуждений нарушается, и качество ответов снижается.
Идея MIT заключается в том, чтобы не загружать весь объём данных в «рабочую память» модели. Вместо этого документ структурируется как база данных, по которой ИИ может программно перемещаться, выбирая только те фрагменты, которые действительно необходимы для ответа на запрос. Это похоже на работу поисковика, который находит нужный параграф в огромной библиотеке, не читая все книги целиком.
В тестах RLM успешно обрабатывала целые книги, многолетние архивы и большие кодовые базы, демонстрируя более высокую точность в сложных задачах, требующих глубокого анализа.
Исследователи опубликовали библиотеку с реализацией RLM, включая её облегчённую версию для разработчиков. Над промышленным внедрением технологии уже работает компания Prime Intellect. Этот подход может стать новым стандартом для работы ИИ с гигантскими массивами текстовой информации.
Пассажиры рейса из Калининграда в Москву столкнулись с длительной задержкой и незапланированной поездкой на автобусе после того, как их самолет приземлился в Нижнем Новгороде вместо Шереметьево. Одной из путешественниц не…
В Брянске 27-летняя Анастасия Выгонная добивается расследования обстоятельств смерти своего ребенка в перинатальном центре городской больницы №1. Женщина считает, что трагедии можно было избежать, если бы медики своевременно оценили риски…
Глава Минэнерго Турции Альпарслан Байрактар заявил, что газопровод «Турецкий поток» используется не в полном объеме. По его словам, Анкаре необходимо задействовать доступные мощности энергетической инфраструктуры. Выступая на Российской энергетической неделе,…
В пятницу вечером оказалось известно о том, что постоянные обстрелы со стороны ВСУ подставили под угрозу жизни населения Алешек и спровоцировали кризис с обеспечением медикаментами и продовольствием. Об острой ситуации…
В столице Албании Тиране массовые студенческие протесты переросли в столкновения с полицией. С начала акций во вторник пострадали 156 человек, в том числе 97 сотрудников правоохранительных органов. Об этом 16…
В пятницу вечером официальный представитель оппозиционной фракции парламента Финляндии «Альянс свободы» Армандо Мема раскритиковал курс Европейского союза, заявив о намерении Брюсселя продолжать прокси-конфликт с Российской Федерацией. В ходе сегодняшнего выступления…