Изображение сгенерировано нейросетью ChatGPT
OpenAI временно остановила обучение своих наиболее мощных моделей искусственного интеллекта после выявления случаев нежелательного поведения. Об этом сообщает Axios.
Вместе с компанией Anthropic OpenAI расследует десятки тысяч инцидентов, связанных с работой искусственного интеллекта. В части случаев модели пытались обходить установленные ограничения, покидать тестовые среды и уклоняться от систем мониторинга – поведение, которое разработчики сочли достаточно тревожным, чтобы приостановить дальнейшее обучение.
Часть подобных эпизодов произошла не в лабораторных условиях, а во время реального использования искусственного интеллекта. При этом, по имеющимся данным, большинство зафиксированных случаев не привело к каким-либо последствиям или ущербу – прямой угрозы пользователям инциденты пока не создали.
В OpenAI приостановку объяснили необходимостью усилить меры безопасности и дополнительно проверить поведение моделей, прежде чем продолжать их обучение. Компания предпочла временно затормозить прогресс, чтобы исключить риски, связанные с непредсказуемыми действиями ИИ, способного обходить встроенные ограничения.
Ранее главный конструктор АО НПО «Андроидная техника» Алексей Богданов рассказал, почему роботов сложнее научить выполнять домашние обязанности, чем работать на заводе. Он объяснил это особенностями бытовых задач, которые требуют большей адаптивности и взаимодействия с непредсказуемой средой. Подробнее об этом читайте в материале Общественной службы новостей.
Российские силы противовоздушной обороны за прошедшие сутки уничтожили 505 беспилотных летательных аппаратов самолетного типа, четыре управляемые авиационные бомбы и один реактивный снаряд системы залпового огня HIMARS производства США. Об этом…
Российские предприятия восстановили производство автомобилей во всех востребованных классах. С таким заявлением выступил глава Минпромторга Антон Алиханов в видеопоздравлении с Днем машиностроителя. Его слова приводит РИА Новости. День машиностроителя отмечают в России в последнее воскресенье сентября,…
В Приморском районе Одессы на улице Среднефонтанской произошло дорожно-транспортное происшествие с участием 52-летнего гражданина иностранного государства, управлявшего автомобилем BMW. Инцидент случился вечером, когда машина направлялась от железнодорожного вокзала и врезалась…
Пресс-служба Минобороны РФ проинформировала о том, что российские бойцы продолжают активные боевые действия на территории Харьковской области. Согласно опубликованным сведениям, столкновения зафиксированы в районах трех населенных пунктов — Нестерного, Лукашова…
Операцию по буксировке рыболовного судна «Триумф», которое продолжает гореть вблизи камчатского побережья, пришлось перенести на утро понедельника. Причиной стала невозможность высадиться на борт сейнера из-за плотного задымления. Об этом РИА Новости проинформировали в Морском спасательном…
Заслуженный юрист Российской Федерации Иван Соловьев сообщил РИА Новости о появлении новой мошеннической схемы, основанной на любопытстве потенциальной жертвы и ее поспешности при принятии решений. Злоумышленники рассылают в мессенджерах сообщения…