РП-собрание
Исследование: искусственный интеллект уничтожит человечество
16 сентября 2022 15:08
Причина - борьба за энергию. Алгоритм может воспринять человека как угрозу для достижения своей цели, которую надо устранить

Сверхразумный ИИ «скорее всего» вызовет экзистенциальную катастрофу для человечества, об этом говорится в новой работе исследователей из Оксфордского университета и компании Google DeepMin.
«В условиях, которые мы определили, наши доводы намного сильнее, чем в любой предыдущей публикации. Экзистенциальная катастрофа не просто возможна, а вероятна», - написал у себя в соцсетях один из исследователей.
Самые успешные модели ИИ сегодня известны как GAN, или генеративные адверсарные сети. Они имеют двухчастную структуру, где одна часть программы пытается сгенерировать картинку (или предложение) из входных данных, а другая оценивает ее работу. В будущем ИИ может принимать любые формы и реализовывать овощные конструкции. В статье говорится о вознаграждении и борьбу за энергию. И если алгоритм воспримет человека, как преграду для достижения своей цели, он может захотеть «устранить потенциальные угрозы» и «использовать всю доступную энергию», чтобы получить контроль над своим вознаграждением.
«Если вы соревнуетесь с чем-то, способным обхитрить вас на каждом шагу, то не стоит рассчитывать на победу. И еще одна ключевая деталь заключается в том, что у него будет неутолимый аппетит на большее количество энергии, чтобы продолжать приближать вероятность все ближе и ближе. В мире с бесконечными ресурсами я был бы крайне не уверен в том, что произойдет. В мире с ограниченными ресурсами существует неизбежная конкуренция за эти ресурсы», - говорит один из исследователей.
- Все статьи автора Читать все
-
-
06.06.2023Фестиваль сидра «I love cider»в Москве состоится 0
-
06.06.2023Каждый пятый самозанятый релокант вернулся в Россию 0
-
06.06.2023В новый словарь войдут иностранные слова, не имеющие аналогов в русском языке 0
-
06.06.2023Рыбак из Москвы вышел порыбачить на резиновой лодке и оказался в Белом море 0
-
05.06.2023В Санкт-Петербурге застраховали здоровье котов Эрмитажа 0
-
05.06.2023На аукцион выставили письмо Толкина, где он говорит о себе как о хоббите 0
-
05.06.2023Пьяные монахи пытались продать имущество храма 0
-
05.06.2023В Госдуме предлагают запретить использовать в России термин «чайлдфри» 0
-
04.06.2023В Госдуме предлагают следить за гендерными предпочтениями россиян с детского сада 0
-
02.06.2023Новые правила Бали: теперь на острове нельзя подниматься в горы 0
-
02.06.2023Сегодня состоится первая в истории прямая трансляция с Марса 0
-
02.06.2023Илон Маск подтвердил планы по переименованию Twitter 0
-
0
330
Оставить комментарий
Комментарии (0)
-
Пока никто не написал
- Тема статьи
- РП-собрание
- Остальные темы
-
Посмотреть все
- Классный журнал
-
-
24.05.23№ 114Дом 2.0 2997 1
-
23.05.23№ 114Жизнь моих домов и дома моей жизни 746 1
-
15.05.23№ 114Придомовые территории 1235
-
14.05.23№ 114Игра на выезде 1002
-
14.05.23№ 114У корней Чуковского 1019
-