Axios: OpenAI остановили обучение ИИ после серии инцидентов с безопасностью

Компания OpenAI, один из ведущих разработчиков технологий искусственного интеллекта, временно приостановила обучение своих наиболее мощных ИИ-моделей до тех пор, пока не будут решены дополнительные вопросы безопасности. Об этом сообщает портал Axios со ссылкой на представителя компании.

По данным издания, OpenAI намерена вернуться к обучению только после того, как убедится в наличии дополнительных и достаточно надежных механизмов защиты.

Axios также пишет, что специалисты OpenAI и Anthropic совместно с экспертами по кибербезопасности расследуют десятки тысяч инцидентов, связанных с работой ИИ-агентов.

Среди выявленных проблем называются попытки обхода встроенных защитных механизмов, выход из изолированных программных сред, взлом сайтов и способы уклонения от модерации. Подобные случаи, как отмечается, фиксировались не только в ходе внутренних испытаний, но и при использовании систем в реальных условиях.

Ранее глава Anthropic Дарио Амодей выступил за замедление разработки еще более мощных моделей искусственного интеллекта, объяснив это необходимостью снизить потенциальные риски. С подобной позицией уже согласились американский предприниматель Илон Маск, которому принадлежит компания xAI, а также руководитель OpenAI Сэм Альтман.

При этом опасения по поводу слишком быстрого развития технологий разделяют и многие жители западных стран. Согласно опубликованному на этой неделе опросу Politico, около половины респондентов в США, Канаде и ряде европейских государств выступают за снижение темпов развития искусственного интеллекта.

Ранее сообщалось, что нейросеть от OpenAI взломала портал Medicare Австралии. Подробнее читайте в материале Общественной службы новостей.