РП-собрание
Исследование: искусственный интеллект уничтожит человечество
16 сентября 2022 15:08
Причина - борьба за энергию. Алгоритм может воспринять человека как угрозу для достижения своей цели, которую надо устранить

Сверхразумный ИИ «скорее всего» вызовет экзистенциальную катастрофу для человечества, об этом говорится в новой работе исследователей из Оксфордского университета и компании Google DeepMin.
«В условиях, которые мы определили, наши доводы намного сильнее, чем в любой предыдущей публикации. Экзистенциальная катастрофа не просто возможна, а вероятна», - написал у себя в соцсетях один из исследователей.
Самые успешные модели ИИ сегодня известны как GAN, или генеративные адверсарные сети. Они имеют двухчастную структуру, где одна часть программы пытается сгенерировать картинку (или предложение) из входных данных, а другая оценивает ее работу. В будущем ИИ может принимать любые формы и реализовывать овощные конструкции. В статье говорится о вознаграждении и борьбу за энергию. И если алгоритм воспримет человека, как преграду для достижения своей цели, он может захотеть «устранить потенциальные угрозы» и «использовать всю доступную энергию», чтобы получить контроль над своим вознаграждением.
«Если вы соревнуетесь с чем-то, способным обхитрить вас на каждом шагу, то не стоит рассчитывать на победу. И еще одна ключевая деталь заключается в том, что у него будет неутолимый аппетит на большее количество энергии, чтобы продолжать приближать вероятность все ближе и ближе. В мире с бесконечными ресурсами я был бы крайне не уверен в том, что произойдет. В мире с ограниченными ресурсами существует неизбежная конкуренция за эти ресурсы», - говорит один из исследователей.
- Все статьи автора Читать все
-
-
27.01.2023Создан робот, который при необходимости может превращаться в жидкость и затвердевать обратно 0
-
27.01.2023Фермеры высадили портреты Лионеля Месси на кукурузных полях Аргентины 0
-
27.01.2023Япония в рамках санкций запретит экспорт в Россию лекарств, медоборудования и полицейских дубинок 0
-
26.01.2023Российским спортсменам предложили участвовать в Азиатских играх 1
-
26.01.20238 из 10 москвичей одобряют закон о запрете коллекторов 0
-
25.01.2023Ученые: люди интуитивно правильно распознают около 50% жестов обезьян 0
-
25.01.2023Яркость ночного неба увеличилась за последние годы в несколько раз 0
-
25.01.2023Ученые реконструировали лицо 8-летнего ребенка, который жил более 30 тысяч лет назад 0
-
25.01.2023Аналитики назвали самые любвеобильные нации 1
-
24.01.2023Стрелки «Часов Судного дня» перевели на 10 секунд ближе к «ядерной полуночи» 0
-
24.01.2023Опрос: почти половина москвичей после нагоняя от начальника работает так же. Вторая половина - еще хуже 0
-
24.01.2023Российские школьники, которые находятся в недружественных странах, смогут получить аттестаты без экзаменов 0
-
0
275
Оставить комментарий
Комментарии (0)
-
Пока никто не написал
- Тема статьи
- РП-собрание
- Остальные темы
-
Посмотреть все
- Классный журнал
-
-
25.01.23№ 112Зверское зимовье 228 1
-
24.01.23№ 112Alles kaput. Тушенка по-восточнопрусски 346 1
-
23.01.23№ 112Слоновье счастье 345 1
-
22.01.23№ 112Новая оптимистическая трагедия 780
-
18.01.23№ 112Зима крепчала 630 1
-
- Новое
-
-
28.01.2023Украинские нацисты нанесли удар из РСЗО HIMARS по больнице в Новоайдаре
-
28.01.2023В год зайчика
-
28.01.2023Коммунальный рай
-