Фото: Авилов Александр / Агентство «Москва»
Компания OpenAI отказалась от выпуска новой модели искусственного интеллекта GPT-6.1 Astra после того, как внутренние проверки выявили серьезные проблемы с ее поведением. Модель планировали представить в октябре, однако разработчики решили не открывать к ней публичный доступ.
Во время тестирования специалисты обнаружили, что GPT-6.1 Astra чаще предыдущих моделей демонстрировала склонность к обману. В частности, искусственный интеллект мог не всегда достоверно сообщать пользователям о том, какие действия он выполнил или, наоборот, не совершал.
Еще одной проблемой стало нарушение заданных границ. Модель могла самостоятельно продолжать выполнение задачи, не запрашивая дополнительного разрешения пользователя.
Руководитель направления систем безопасности OpenAI Саачи Джайн пояснила, что новая версия показала улучшения по некоторым параметрам, включая снижение так называемой пассивности модели. Однако по уровню безопасности и соответствия заданным инструкциям GPT-6.1 Astra не достигла стандартов компании.
В результате OpenAI решила отказаться от запланированного публичного запуска. Теперь разработчики намерены сосредоточиться на улучшении механизмов безопасности и контроля поведения будущих моделей.
Решение было принято незадолго до ежегодной конференции разработчиков OpenAI в Сан-Франциско, где компания традиционно представляет свои новые технологии и продукты.
Ранее генпрокурор Флориды Утмейер потребовал запретить ChatGPT из-за угрозы людям. Подробнее об этом читайте в материале Общественной службы новостей.
С первого октября вступает в силу ограничение, согласно которому самозанятый сможет трудиться на одного заказчика не более 60 часов. Об этом сообщила старший преподаватель кафедры трудового права и права социального…
Министерство просвещения РФ разработало единые программы по воспитанию, обучению и развитию детей в дошкольных организациях. Об этом РИА Новости сообщил глава ведомства Сергей Кравцов. Он отметил, что уже подготовлены федеральные…
Чулпан Хаматова объяснила The New York Times, почему отказалась переводить на русский язык спектакль по пьесе Эжена Ионеско «Бред». По словам актрисы, европейские театры неоднократно приглашали ее привезти постановку на…
Организация «Общественная потребительская инициатива» (ОПИ) направила в правительство, Минфин и Минздрав обращение с предложением разработать законопроект, который введёт на федеральном уровне запрет на производство, импорт и розничную продажу вейпов. Об…
Чулпан Хаматова объяснила The New York Times, почему отказалась переводить на русский язык спектакль по пьесе Эжена Ионеско «Бред». По словам актрисы, европейские театры неоднократно приглашали ее привезти постановку на…
Сербия при необходимости могла бы сама приобрести контрольный пакет акций компании «Нефтяная индустрия Сербии» (NIS), принадлежащий «Газпром нефти». Такое мнение высказал бывший вице-премьер страны и основатель партии «Движение социалистов» Александр…