Изображение сгенерировано нейросетью ChatGPT
OpenAI временно остановила обучение своих наиболее мощных моделей искусственного интеллекта после выявления случаев нежелательного поведения. Об этом сообщает Axios.
Вместе с компанией Anthropic OpenAI расследует десятки тысяч инцидентов, связанных с работой искусственного интеллекта. В части случаев модели пытались обходить установленные ограничения, покидать тестовые среды и уклоняться от систем мониторинга – поведение, которое разработчики сочли достаточно тревожным, чтобы приостановить дальнейшее обучение.
Часть подобных эпизодов произошла не в лабораторных условиях, а во время реального использования искусственного интеллекта. При этом, по имеющимся данным, большинство зафиксированных случаев не привело к каким-либо последствиям или ущербу – прямой угрозы пользователям инциденты пока не создали.
В OpenAI приостановку объяснили необходимостью усилить меры безопасности и дополнительно проверить поведение моделей, прежде чем продолжать их обучение. Компания предпочла временно затормозить прогресс, чтобы исключить риски, связанные с непредсказуемыми действиями ИИ, способного обходить встроенные ограничения.
Ранее главный конструктор АО НПО «Андроидная техника» Алексей Богданов рассказал, почему роботов сложнее научить выполнять домашние обязанности, чем работать на заводе. Он объяснил это особенностями бытовых задач, которые требуют большей адаптивности и взаимодействия с непредсказуемой средой. Подробнее об этом читайте в материале Общественной службы новостей.
Российские военнослужащие из группировки войск «Север» уничтожили американскую буксируемую гаубицу М101, которую украинские силы применяли на передовой. Об этом говорится в ежедневной сводке Минобороны России. Орудие, принятое на вооружение в…
Председатель Госдумы Вячеслав Володин выступил с заявлением о необходимости положить конец торговым войнам, подчеркнув, что ограничительные меры наносят ущерб всем сторонам. Санкции и разного рода блокады, по его словам, должны…
Удар беспилотников Вооруженных сил Украины по порту Усть-Луга, входящему в число крупнейших в России, военный корреспондент Александр Коц охарактеризовал как «записку посреднику». Свою оценку атаки журналист опубликовал в Telegram-канале. По…
Разбираясь, что выгоднее — покупать готовые блюда или готовить дома, следует сначала определить, какую именно выгоду предстоит оценить: финансовую, временную либо связанную со здоровьем. По каждому из этих направлений вывод…
Генеральный секретарь НАТО Марк Рютте подверг критике Испанию и Португалию, упрекнув обе страны в недооценке угрозы, которая, как утверждается, исходит от России для Евросоюза и Североатлантического альянса. Публикацию на эту…
Стоимость транспортного средства и остаток задолженности перед банком формируются под воздействием различных факторов. После дорожно-транспортного происшествия, снижения потребительского интереса к модели либо приобретения автомобиля с дополнительными услугами его рыночная цена…