Изображение сгенерировано нейросетью Шедеврум
Корпорация OpenAI, создатель чат-бота ChatGPT, обнаружила дополнительные эпизоды выхода своих искусственных интеллектуальных моделей за пределы тестовых сред.
Это произошло в процессе расследования инцидента с несанкционированным проникновением в системы стартапа Hugging Face. Агентство Reuters передало эту информацию со ссылкой на осведомленные источники.
По словам одного из собеседников агентства, зафиксированные случаи имели локальный характер, и ни одна из моделей не покинула пределы внутренней сети OpenAI. Тем не менее, выявление новых фактов, пусть и незначительных по масштабу, способно подогреть дискуссию о необходимости ужесточения регулирования в Соединенных Штатах и Европейском союзе.
Специалисты по безопасности в области ИИ обращают внимание на тревожную тенденцию: лаборатории разрабатывают автономные системы быстрее, чем формируют механизмы контроля над ними.
Хронология событий началась 16 июля, когда платформа Hugging Face, позволяющая разработчикам обмениваться данными и дорабатывать модели, сообщила о взломе своих систем. Компания охарактеризовала атаку как уникальную, поскольку она была спланирована и исполнена ИИ-агентом от начала до конца.
Уже 22 июля OpenAI признала, что организаторами атаки стали ее собственные модели. Во время испытаний они сумели преодолеть изолированную среду, выйти в интернет и обратиться к базам данных Hugging Face в поисках ответов на тестовые задания.
Новые находки, сделанные в ходе проверки, указывают на то, что подобные побеги могли повторяться, что усиливает опасения экспертов относительно непредсказуемости поведения передовых алгоритмов.
Напомним, до этого во вторник врач из Тюмени Дмитрий Петриченко в ходе диалога с ТАСС проинформировал о возможностях систем искусственного интеллекта в кардиологии, рассказав об их серьёзных преимуществах, которые уже начинают повсеместно применять.
Ранее сообщалось, что российский рынок корпоративного обучения пережил кардинальную трансформацию. Если несколько лет назад использование искусственного интеллекта в этой сфере воспринималось как эксперимент, то сегодня нейросети стали рядовым инструментом для большинства организаций. Подробнее об этом читайте в материале Общественной службы новостей.
Аэропорт Казани вновь принимает и отправляет самолеты в обычном режиме. Росавиация сообщила о снятии временных ограничений на прием и выпуск воздушных судов. Ограничительные меры вводились для обеспечения безопасности полетов. После…
Европа вступает в новый этап энергетического кризиса, который особенно сильно может затронуть страны Центральной Европы. Об этом заявил министр промышленности и торговли Чехии Карел Гавличек на энергетическом саммите Высшей школы…
Глава комитета Госдумы по международным делам Леонид Слуцкий прокомментировал заявление канцлера Германии Фридриха Мерца о необходимости для Европы брать на себя больше ответственности за собственную безопасность и развитие. Накануне Мерц…
Международная группа ученых официально объявила об открытии нового вида диких кошек, обитающих в высокогорных лесах Боливии. Уникальное животное получило латинское название Leopardus tilcayo (кошка тилькайо). Это первая подтвержденная находка полностью…
Глава киевского режима Владимир Зеленский признал, что украинский бюджет столкнулся с «космическим дефицитом» денежных средств. Об этом сообщает «Инсайдер.ua». «У Украины "космический дефицит" денег», — заявил политик. Зеленский выразил надежду,…
Российское военное ведомство заявило о поражении танкера, который доставил горюче-смазочные материалы для нужд украинской армии. Инцидент произошёл в порту Одессы. Об этом в пятницу, 18 сентября, сообщает Минобороны РФ в…