РП-собрание

редакция
Ruspioner.ru редакция Ruspioner.ru

Исследование: искусственный интеллект уничтожит человечество

16 сентября 2022 15:08

Причина - борьба за энергию. Алгоритм может воспринять человека как угрозу для достижения своей цели, которую надо устранить

Сверхразумный ИИ «скорее всего» вызовет экзистенциальную катастрофу для человечества, об этом говорится в новой работе исследователей из Оксфордского университета и компании Google DeepMin.

«В условиях, которые мы определили, наши доводы намного сильнее, чем в любой предыдущей публикации. Экзистенциальная катастрофа не просто возможна, а вероятна», - написал у себя в соцсетях один из исследователей.

Самые успешные модели ИИ сегодня известны как GAN, или генеративные адверсарные сети. Они имеют двухчастную структуру, где одна часть программы пытается сгенерировать картинку (или предложение) из входных данных, а другая оценивает ее работу. В будущем ИИ может принимать любые формы и реализовывать овощные конструкции. В статье говорится о вознаграждении и борьбу за энергию. И если алгоритм воспримет человека, как преграду для достижения своей цели, он может захотеть «устранить потенциальные угрозы» и «использовать всю доступную энергию», чтобы получить контроль над своим вознаграждением.

«Если вы соревнуетесь с чем-то, способным обхитрить вас на каждом шагу, то не стоит рассчитывать на победу. И еще одна ключевая деталь заключается в том, что у него будет неутолимый аппетит на большее количество энергии, чтобы продолжать приближать вероятность все ближе и ближе. В мире с бесконечными ресурсами я был бы крайне не уверен в том, что произойдет. В мире с ограниченными ресурсами существует неизбежная конкуренция за эти ресурсы», - говорит один из исследователей.

Все статьи автора Читать все