РП-собрание
Ученые: ИИ может умышленно занижать свои результаты и притворяться глупее, чем он есть на самом деле
11 апреля 2024 12:01
Чтобы прийти к таким выводам, эксперты провели исследование, в ходе которого алгоритм прошел более тысячи испытаний и когнитивных тестов
Группа ученых из Германии и Чехии пришли к выводу, что продвинутые модели ИИ могут намеренно занижать свои результаты и симулировать более низкий интеллект, чем есть на самом деле. Результаты исследования опубликовал журнал PLOS One.
В ходе эксперимента ученые попросили алгоритм вести себя как ребенок в возрасте от одного до шести лет, который изучает язык. Искусственный интеллект прошел более чем 1000 испытаний и когнитивных тестов, и в некоторых из них продемонстрировал, что может намеренно занижать свои результаты и симулировать более низкий интеллект, чем имеет на самом деле.
Сообщается, что результаты исследования могут быть полезны при развитии искусственного сверхразума (ASI) — искусственного интеллекта нового поколения.
«Мы должны быть осторожны и не требовать, чтобы новый алгоритм имитировал человеческий, ограниченный интеллект. Кроме того, исследование доказывает, что мы можем недооценивать возможности ИИ в течение длительного периода. А это не является безопасной ситуацией», - сказала исследователь из Университета Гумбольдтов и автор исследования Анна Маклова.
- Все статьи автора Читать все
-
-
03.11.2024В России исчез остров площадью 53 гектара 0
-
02.11.2024В ночь на понедельник москвичей ожидают снежные заносы и метель 0
-
02.11.2024Большинство столичных жителей уверены, что их обманывают в «черную пятницу» 0
-
02.11.2024В России предлагают поднять цены на билеты в кинотеатр 1
-
02.11.2024В РПЦ заявили, что приём на работу холостяков и разведенных «не должно становиться нормой» 0
-
01.11.2024В Госдуме предложили создать реестр народных целителей 0
-
01.11.2024Впервые за 130 лет вершина горы Фудзияма не покрылась снегом 0
-
01.11.2024«Brat» стало словом года по версии словаря Collins 0
-
01.11.2024Квентин Тарантино передал в музей киноакадемии рукописный сценарий фильма «Криминальное чтиво» 0
-
31.10.2024«Армянский коньяк» может исчезнуть 1
-
31.10.2024В этом году особенной популярностью на Хэллоуин у школьников пользуются костюмы зловещего клоуна и зомби 0
-
31.10.2024В ноябре россияне увидят метеорный поток Леониды 0
-
0
537
Оставить комментарий
Комментарии (0)
-
Пока никто не написал
- Тема статьи
- РП-собрание
- Остальные темы
-
Посмотреть все
- Классный журнал
-
-
1.10.24№ 122Атом со шпинатом 2377 1
-
30.09.24№ 122Футбол с черепами 2755 1
-
29.09.24№ 122Атом и лилипуты 2541 1
-
28.09.24№ 122Спасение на вершине 2761 1
-
27.09.24№ 122Футбол по талонам 2863 1
-