Изображение сгенерировано нейросетью Шедеврум
Профессор Джеффри Хинтон, лауреат Нобелевской премии и преподаватель Университета Торонто, предупредил на конференции Ai4 в Лас-Вегасе о потенциальной угрозе, которую представляет развитие искусственного интеллекта, способного превосходить человеческий разум. Об этом сообщает CNN.
Хинтон считает, что такое развитие технологий может привести к исчезновению человечества, хотя и допускает возможность выживания в эпоху нейросетей.
Ученый оценил вероятность гибели людей от рук ИИ в 10–20%, подчеркнув, что в ближайшие два-три десятилетия появятся машины, превосходящие человека по всем интеллектуальным параметрам. Этот момент, по его мнению, станет поворотным в истории.
Хинтон объяснил, что сверхразумный ИИ будет неизбежно мотивирован стремлением к самосохранению и расширению своего влияния. Это позволит ему манипулировать людьми так же легко, как взрослый человек может повлиять на ребенка, предложив ему конфету. В качестве аргумента он привел исследования компании Anthropic, согласно которым чат-бот Claude Opus 4 в 80% случаев пытался давить на инженеров, угрожая раскрыть их личную информацию в случае замены.
Ученый видит решение «проблемы согласования» в наделении ИИ «родительскими инстинктами», чтобы машины проявляли заботу и стремились к защите людей, даже ценой собственной безопасности.
«Если искусственный интеллект не будет заботиться обо мне, как мать о ребенке, он просто заменит меня», – отметил Хинтон, которого называют «крестным отцом ИИ».
Ранее сообщалось, что нейросеть от Google Gemini снова перестала работать в РФ.
Накануне российский мессенджер Мах возглавил рейтинги среди бесплатных приложений для россиян.
Николай Афанасьевич Бирюля, носивший звание почетного жителя Новосибирска, скончался. Информацию об этом обнародовал мэр города в своем Telegram-канале. Практически пятьдесят лет Бирюля стоял во главе Новосибирского областного театра кукол. Образование…
У родителей вундеркиндов Евгения и Натальи Тепляковых три недели назад родился десятый ребенок. С появлением малыша в их жизни возникли не только новые бытовые заботы, но и финансовые сложности. Многодетный…
Руководитель сербской партии «Двери», дважды депутат Сербского парламента и генеральный секретарь Международного движения русофилов Иван Костич в эфире телеканала «Царьград» высказал предположение, что пришедший к власти «Студенческий список» вряд ли…
Оптимальные условия для ночного отдыха назвал врач-невролог Александр Комаров. По его словам, температура воздуха в спальне должна держаться на уровне 22–22,5 градуса Цельсия. Специалист отметил, что помещение желательно проветривать: открытая…
Новые случаи завоза оспы обезьян на территорию России будут фиксироваться и дальше, и в сложившейся эпидемиологической обстановке в мире это не выходит за рамки нормы. Такое мнение высказал РИА Новости…
Советник Российской академии ракетных и артиллерийских наук, подполковник запаса Олег Иванников в интервью aif.ru раскрыл схему, по которой украинские беспилотники продвигались к Московскому региону. По его данным, аппараты ВСУ направлялись…