Нейросеть выходит из-под контроля — теперь она умеет врать, мошенничать и синтезировать яд

Эксперты в области искусственного интеллекта начинают всерьез беспокоиться. Теперь их «детище» может выйти из-под контроля. Об этом пишет 7days.ru.

«Мы призываем все лаборатории немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий» — данные требования были изложены в письме, под которым уже подписались Илон Маск, один из основателей Apple Стив Возняк, ведущие специалисты в области ИИ Стивен Расселл и Иошуа Бенджио и другие.

Уже сейчас искусственный интеллект способен сдавать за студентов экзамены и писать для них выпускные работы. Они могут выигрывать олимпиады и успешно проходить сложные тесты для медицинской аттестации. В итоге место настоящего специалиста может занять мошенник, который просто умело пользуется способностями нейросети. Это и является серьезной проблемой.

Еще в 2022 году ученые создали искусственный интеллект, который должен был заниматься поиском и анализом лекарств от смертельных болезней, но вместо этого он сумел синтезировать боевые отравляющие яды. Уже после шести часов работы ИИ выдал необходимые химически формулы, которые могут привести к непоправимым последствиям, если они окажутся не в тех руках.

Ранее депутат Евгений Попов предложил заменить чиновников нейросетью. Подробнее об этом читайте в материале Общественной службы новостей.