Фото: Кузьмичёнок Василий/Агентство «Москва»
Исследователи из Массачусетского технологического института (MIT) представили новый подход – рекурсивную языковую модель (RLM), – позволяющую искусственному интеллекту работать с текстами, в 100 раз превышающими стандартное ограничение по длине. Вместо попытки «запомнить» весь документ, модель научилась рассматривать его как среду для навигации и точечного извлечения нужных данных.
Традиционные языковые модели имеют фиксированный размер «контекстного окна» (обычно до 100 тысяч токенов). При обработке более длинных текстов (например, книг, многолетних архивов или обширных код-баз) их производительность резко падает: факты путаются, логика рассуждений нарушается, и качество ответов снижается.
Идея MIT заключается в том, чтобы не загружать весь объём данных в «рабочую память» модели. Вместо этого документ структурируется как база данных, по которой ИИ может программно перемещаться, выбирая только те фрагменты, которые действительно необходимы для ответа на запрос. Это похоже на работу поисковика, который находит нужный параграф в огромной библиотеке, не читая все книги целиком.
В тестах RLM успешно обрабатывала целые книги, многолетние архивы и большие кодовые базы, демонстрируя более высокую точность в сложных задачах, требующих глубокого анализа.
Исследователи опубликовали библиотеку с реализацией RLM, включая её облегчённую версию для разработчиков. Над промышленным внедрением технологии уже работает компания Prime Intellect. Этот подход может стать новым стандартом для работы ИИ с гигантскими массивами текстовой информации.
Исследователи Новгородского государственного университета проанализировали данные за 60 лет и обнаружили, что атипичное строение глазной артерии, которое встречается у 10-30 процентов людей, способно вызывать необратимую потерю зрения. О результатах работы…
Глава пресс-службы администрации Соединённых Штатов Америки Каролин Левитт на регулярном брифинге для сотрудников СМИ в этот четверг сделала заявление от имени местного лидера по поводу взаимодействия с Тель-Авивом. Дональд Трамп,…
Украина не сможет справиться с наступлением российских войск. Такой вывод озвучил бывший советник главы Пентагона Дуглас Макгрегор. Его слова прозвучали в эфире YouTube-канала. «Украина обречена на разрушение. <…> И русские понимают,…
Министерство иностранных дел Ирана обратилось ко всем государствам Ближнего Востока, на чьей территории размещены военные объекты Соединенных Штатов, с требованием запретить Вашингтону использовать эти базы для нанесения ударов по исламской…
Экс-руководитель Министерства Иностранных Дел Федеративной Республики Германия Зигмар Габриэль высказал мнение по поводу того, что старта вооруженного противостояния на украинской территории удалось бы избежать, если бы Ангела Меркель сохранила пост…
Специалисты Санкт-Петербургского государственного университета совместно с коллегами из НМИЦ имени Алмазова запатентовали метод, позволяющий с высокой точностью различать туберкулёз и саркоидоз по обычному анализу венозной крови. Как рассказали разработчики, технология…