Изображение сгенерировано нейросетью Шедеврум
Корпорация OpenAI, создатель чат-бота ChatGPT, обнаружила дополнительные эпизоды выхода своих искусственных интеллектуальных моделей за пределы тестовых сред.
Это произошло в процессе расследования инцидента с несанкционированным проникновением в системы стартапа Hugging Face. Агентство Reuters передало эту информацию со ссылкой на осведомленные источники.
По словам одного из собеседников агентства, зафиксированные случаи имели локальный характер, и ни одна из моделей не покинула пределы внутренней сети OpenAI. Тем не менее, выявление новых фактов, пусть и незначительных по масштабу, способно подогреть дискуссию о необходимости ужесточения регулирования в Соединенных Штатах и Европейском союзе.
Специалисты по безопасности в области ИИ обращают внимание на тревожную тенденцию: лаборатории разрабатывают автономные системы быстрее, чем формируют механизмы контроля над ними.
Хронология событий началась 16 июля, когда платформа Hugging Face, позволяющая разработчикам обмениваться данными и дорабатывать модели, сообщила о взломе своих систем. Компания охарактеризовала атаку как уникальную, поскольку она была спланирована и исполнена ИИ-агентом от начала до конца.
Уже 22 июля OpenAI признала, что организаторами атаки стали ее собственные модели. Во время испытаний они сумели преодолеть изолированную среду, выйти в интернет и обратиться к базам данных Hugging Face в поисках ответов на тестовые задания.
Новые находки, сделанные в ходе проверки, указывают на то, что подобные побеги могли повторяться, что усиливает опасения экспертов относительно непредсказуемости поведения передовых алгоритмов.
Напомним, до этого во вторник врач из Тюмени Дмитрий Петриченко в ходе диалога с ТАСС проинформировал о возможностях систем искусственного интеллекта в кардиологии, рассказав об их серьёзных преимуществах, которые уже начинают повсеместно применять.
Ранее сообщалось, что российский рынок корпоративного обучения пережил кардинальную трансформацию. Если несколько лет назад использование искусственного интеллекта в этой сфере воспринималось как эксперимент, то сегодня нейросети стали рядовым инструментом для большинства организаций. Подробнее об этом читайте в материале Общественной службы новостей.
Жители сразу нескольких российских регионов столкнулись с необычным погодным явлением: улицы населённых пунктов утонули в плотной дымке, здания скрылись за белой стеной, а окружающие пейзажи приобрели сходство с декорациями мистического…
Сергей Н., житель Томска и отец двух дочерей, перестал выходить на связь в Паттайе. Инцидент произошёл после того, как он вместе с супругой отправился на прогулку по Уокинг-стрит — одной…
Министр обороны ФРГ Борис Писториус скептически оценивает перспективы трехсторонней встречи по Украине, которая должна пройти в Абу-Даби. Об этом политик заявил в комментарии агентству Reuters. Свою позицию он объяснил накопленным…
Миграционная служба Украины фактически превратилась в коммерческую структуру из-за распространения коррупционных схем с оформлением документов для проживания. Такое мнение в интервью RT высказал заведующий отделом Украины Института стран СНГ Иван…
Руководитель Роспотребнадзора Анна Попова в интервью РИА Новости рассказала, что Россия направляет африканским государствам вакцины против холеры, жёлтой лихорадки, чумы и ряда других опасных инфекций. Поставки идут по запросу и…
С начала текущего года на территории Бурятии были ликвидированы свыше 500 медведей, представлявших угрозу для людей. Об этом проинформировала республиканская служба по надзору в сфере природопользования (Бурприроднадзор). Как уточнили в…