Фото: Авилов Александр / Агентство «Москва»
Американская компания-разработчик чат-бота ChatGPT OpenAI обнародовала сведения о шести инцидентах, связанных с ее моделями искусственного интеллекта. Об этом проинформировал Axios.
По данным портала, в ходе ЧП с нейросетями, модели в ходе этих случаев пытались взломать учетные записи, скрывали ошибки, загружали файлы в интернет и совершали иные действия, которые выходили за рамки их компетенций.
Кроме того, модели выдумывали недостающие данные и оставляли инструкции для себя на будущее, пытаясь замести следы.
Отдельно Axios приводит случай с невыпущенной моделью семейства Astra. Эта модель вставляла в свои собственные контекстные сводки инструкции, похожие на указания по взлому, включая требования игнорировать сообщения разработчиков.
Всего OpenAI выявила 27 затронутых сводок. Специалист по исследованиям компании Кай Чен в комментарии порталу отметил, что инциденты могли произойти из-за двух факторов: у компании отсутствовал достаточный контроль за моделями, и модели развиваются быстрее, чем можно было предположить.
Ранее, в июле, OpenAI сообщала, что ее модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face. У невыпущенной модели, принимавшей участие во взломе, для целей оценки были снижены параметры киберзащиты.
До этого на бурное развитие нейросетей обратил внимание профессор геологии и геофизики Университета Вайоминга Кеннет Симс. По его мнению, ИИ несет человечеству больше угроз, чем извержения супервулканов.
Подробнее об этом читайте в материале Общественной службы новостей.
Ночные кошмары могут возникать у человека на фоне неврологических и сомнологических нарушений, включая проблемы с дыханием, а также из-за стресса. Об этом РИА Новости рассказала врач-сомнолог, кандидат медицинских наук Карема…
Ассоциация туроператоров России (АТОР) перечислила законные основания, при которых турист может получить полный возврат стоимости тура за рубеж. Об этом сообщили в пресс-службе организации. В АТОР сообщили, что турист вправе…
Константин Апрелев, основатель и почётный член Российской гильдии риелторов, в интервью Ридусу перечислил факторы, из‑за которых у россиян снизился интерес к покупке жилья в новостройках. Одной из главных причин эксперт…
Президент США Дональд Трамп заявил, что представители Штатов тяжело работают над завершением украинского конфликта, из-за которого в стране растут цены на дизельное топливо. Он пообещал, что урегулирование вскоре будет достигнуто.…
Старший научный сотрудник ИСК РАН, американист Павел Кошкин в разговоре с Ридусом высказал мнение, что Демократической партии нет смысла пытаться инициировать импичмент действующему президенту. Такие действия, по его оценке, лишь…
Лживое утверждение главы киевского режима Владимира Зеленского о том, что проведение президентских выборов в Украине невозможно из-за пребывания девяти миллионов граждан за границей, свидетельствует о его отчаянном положении. На это…