Изображение сгенерировано нейросетью Шедеврум
Профессор Джеффри Хинтон, лауреат Нобелевской премии и преподаватель Университета Торонто, предупредил на конференции Ai4 в Лас-Вегасе о потенциальной угрозе, которую представляет развитие искусственного интеллекта, способного превосходить человеческий разум. Об этом сообщает CNN.
Хинтон считает, что такое развитие технологий может привести к исчезновению человечества, хотя и допускает возможность выживания в эпоху нейросетей.
Ученый оценил вероятность гибели людей от рук ИИ в 10–20%, подчеркнув, что в ближайшие два-три десятилетия появятся машины, превосходящие человека по всем интеллектуальным параметрам. Этот момент, по его мнению, станет поворотным в истории.
Хинтон объяснил, что сверхразумный ИИ будет неизбежно мотивирован стремлением к самосохранению и расширению своего влияния. Это позволит ему манипулировать людьми так же легко, как взрослый человек может повлиять на ребенка, предложив ему конфету. В качестве аргумента он привел исследования компании Anthropic, согласно которым чат-бот Claude Opus 4 в 80% случаев пытался давить на инженеров, угрожая раскрыть их личную информацию в случае замены.
Ученый видит решение «проблемы согласования» в наделении ИИ «родительскими инстинктами», чтобы машины проявляли заботу и стремились к защите людей, даже ценой собственной безопасности.
«Если искусственный интеллект не будет заботиться обо мне, как мать о ребенке, он просто заменит меня», – отметил Хинтон, которого называют «крестным отцом ИИ».
Ранее сообщалось, что нейросеть от Google Gemini снова перестала работать в РФ.
Накануне российский мессенджер Мах возглавил рейтинги среди бесплатных приложений для россиян.
В Алматы выявили так называемую «резиновую» квартиру, где были зарегистрированы почти тысяча человек. Об этом сообщили в городской прокуратуре. По данным надзорного ведомства, владелец однокомнатной квартиры за вознаграждение оформил регистрацию…
Саммит Евросоюза, проходивший 19 июня в Брюсселе, завершился без объявления конкретных сроков открытия оставшихся переговорных глав с киевским режимом, хотя диалог по данному вопросу был инициирован. Участники встречи не назвали…
Обвиняемые по делу о смертельном ДТП возле храма Большой Златоуст в Екатеринбурге обжаловали свой арест. Речь идет о водителе автобуса и директоре транспортного предприятия, сообщили в Ленинском районном суде, передает…
В Польше задержан подозреваемый по делу об убийстве гражданина России в городе Бяла-Подляска. Об этом сообщил премьер-министр страны Дональд Туск. По его словам, операцию провели сотрудники полиции Люблинского воеводства совместно…
В Ленинградской области задержали мужчину, которого подозревают в похищении женщины. Инцидент произошел в Кингисеппском районе. Об этом сообщили в региональном управлении Следственного комитета России. По данным следствия, в понедельник, 15…
В Нидерландах полиция задержала ребенка по подозрению в причастности к гибели супружеской пары. Инцидент произошел в населенном пункте Меерстад, расположенном в провинции Гронинген. Об этом сообщил телеканал RTL. По данным…