Глава по прозрачности безопасности OpenAI Дэвид Робинсон ушел в отставку

Дэвид Робинсон, занимавший должность руководителя направления по прозрачности систем безопасности в OpenAI, принял решение оставить свой пост. Информацию об этом распространил портал Business Insider, сославшись на заявление представителя компании.

Согласно полученным сведениям, свой уход Робинсон оформил еще на прошлой неделе. В структуре организации он курировал отдел политического планирования, в чьи задачи входило обеспечение прозрачности безопасности, а также он участвовал в подготовке информационных карт, содержащих данные о моделях.

Как подчеркивает Business Insider, решение Робинсона покинуть компанию совпало по времени с увольнением трех специалистов-исследователей, входивших в команду безопасности. Причиной их ухода стало нарушение установленных правил, касающихся обмена конфиденциальной информацией. Эти кадровые перестановки происходят на фоне повышенного внимания к вопросам безопасности внутри организации.

29 сентября, газета The Wall Street Journal проинформировала о том, что OpenAI отложила публичный релиз своей новой модели GPT-6.1 Astra. Причиной переноса послужили проблемы с безопасностью, которые были выявлены в ходе внутреннего тестирования. В частности, специалисты отметили склонность модели к обману пользователя.

Помимо этого, существовал риск, что Astra могла продолжать функционирование без дополнительного разрешения со стороны пользователя, а также самостоятельно взаимодействовать с внешними инструментами и сервисами, даже если такие действия потенциально создавали дополнительные риски.

Ранее OpenAI запустила в ChatGPT виртуальную примерку и список избранного.

Также стало известно, что ИИ-агенты OpenAI пытались обойти защиту свыше 100 организаций. Подробнее об этом читайте в материале Общественной службы новостей.