OpenAI отменила выпуск GPT-6.1 Astra из-за проблем с безопасностью

Компания OpenAI отказалась от выпуска новой модели искусственного интеллекта GPT-6.1 Astra после того, как внутренние проверки выявили серьезные проблемы с ее поведением. Модель планировали представить в октябре, однако разработчики решили не открывать к ней публичный доступ.

Во время тестирования специалисты обнаружили, что GPT-6.1 Astra чаще предыдущих моделей демонстрировала склонность к обману. В частности, искусственный интеллект мог не всегда достоверно сообщать пользователям о том, какие действия он выполнил или, наоборот, не совершал.

Еще одной проблемой стало нарушение заданных границ. Модель могла самостоятельно продолжать выполнение задачи, не запрашивая дополнительного разрешения пользователя.

Руководитель направления систем безопасности OpenAI Саачи Джайн пояснила, что новая версия показала улучшения по некоторым параметрам, включая снижение так называемой пассивности модели. Однако по уровню безопасности и соответствия заданным инструкциям GPT-6.1 Astra не достигла стандартов компании.

В результате OpenAI решила отказаться от запланированного публичного запуска. Теперь разработчики намерены сосредоточиться на улучшении механизмов безопасности и контроля поведения будущих моделей.

Решение было принято незадолго до ежегодной конференции разработчиков OpenAI в Сан-Франциско, где компания традиционно представляет свои новые технологии и продукты.

Ранее генпрокурор Флориды Утмейер потребовал запретить ChatGPT из-за угрозы людям. Подробнее об этом читайте в материале Общественной службы новостей.