Изображение сгенерировано нейросетью Шедеврум
Корпорация OpenAI, создатель чат-бота ChatGPT, обнаружила дополнительные эпизоды выхода своих искусственных интеллектуальных моделей за пределы тестовых сред.
Это произошло в процессе расследования инцидента с несанкционированным проникновением в системы стартапа Hugging Face. Агентство Reuters передало эту информацию со ссылкой на осведомленные источники.
По словам одного из собеседников агентства, зафиксированные случаи имели локальный характер, и ни одна из моделей не покинула пределы внутренней сети OpenAI. Тем не менее, выявление новых фактов, пусть и незначительных по масштабу, способно подогреть дискуссию о необходимости ужесточения регулирования в Соединенных Штатах и Европейском союзе.
Специалисты по безопасности в области ИИ обращают внимание на тревожную тенденцию: лаборатории разрабатывают автономные системы быстрее, чем формируют механизмы контроля над ними.
Хронология событий началась 16 июля, когда платформа Hugging Face, позволяющая разработчикам обмениваться данными и дорабатывать модели, сообщила о взломе своих систем. Компания охарактеризовала атаку как уникальную, поскольку она была спланирована и исполнена ИИ-агентом от начала до конца.
Уже 22 июля OpenAI признала, что организаторами атаки стали ее собственные модели. Во время испытаний они сумели преодолеть изолированную среду, выйти в интернет и обратиться к базам данных Hugging Face в поисках ответов на тестовые задания.
Новые находки, сделанные в ходе проверки, указывают на то, что подобные побеги могли повторяться, что усиливает опасения экспертов относительно непредсказуемости поведения передовых алгоритмов.
Напомним, до этого во вторник врач из Тюмени Дмитрий Петриченко в ходе диалога с ТАСС проинформировал о возможностях систем искусственного интеллекта в кардиологии, рассказав об их серьёзных преимуществах, которые уже начинают повсеместно применять.
Ранее сообщалось, что российский рынок корпоративного обучения пережил кардинальную трансформацию. Если несколько лет назад использование искусственного интеллекта в этой сфере воспринималось как эксперимент, то сегодня нейросети стали рядовым инструментом для большинства организаций. Подробнее об этом читайте в материале Общественной службы новостей.
В Брянской области после атаки беспилотного летательного аппарата Вооруженных сил Украины на маршрутное такси возле поселка городского типа Погар начала работу горячая линия. Об этом сообщили в региональной прокуратуре. Линия…
В Твери на территории Тверского государственного технического университета (ТвГТУ) состоялось открытие скульптурной композиции «Во имя жизни». Монумент, созданный в честь стойкости и самопожертвования российских военнослужащих, принимающих участие в специальной военной…
В пресс-службе Министерства Обороны Российской Федерации в субботу вечером проинформировали о том, что на протяжении суток боевики Вооружённых сил киевского режима постоянно пытались ударить по территории государства при помощи боевых дронов. В оборонном ведомстве обратили внимание на то,…
Профессор Хельсинкского университета Туомас Малинен раскритиковал решение Финляндии разрешить производство беспилотников для Украины на своей территории. «Финляндия совершила две крайне глупые ошибки. Во-первых, мы полагались на "щит США". Иран показал,…
Житель Санкт-Петербурга стал жертвой нового формата мошенничества при покупке недвижимости. Мужчина приобрел квартиру за восемь миллионов рублей, вложил значительные средства в ремонт, однако после завершения работ к нему явился пожилой…
В Харькове, расположенном на востоке Украины, автозаправочная станция получила повреждения в результате произошедшего в субботу вечером инцидента. Информацию об этом обнародовал градоначальник Игорь Терехов, который уточнил детали случившегося для местных…