РП-собрание

редакция
Ruspioner.ru редакция Ruspioner.ru

Ученые: ИИ может умышленно занижать свои результаты и притворяться глупее, чем он есть на самом деле

11 апреля 2024 12:01

Чтобы прийти к таким выводам, эксперты провели исследование, в ходе которого алгоритм прошел более тысячи испытаний и когнитивных тестов

Группа ученых из Германии и Чехии пришли к выводу, что продвинутые модели ИИ могут намеренно занижать свои результаты и симулировать более низкий интеллект, чем есть на самом деле. Результаты исследования опубликовал журнал PLOS One.

В ходе эксперимента ученые попросили алгоритм вести себя как ребенок в возрасте от одного до шести лет, который изучает язык. Искусственный интеллект прошел более чем 1000 испытаний и когнитивных тестов, и в некоторых из них продемонстрировал, что может намеренно занижать свои результаты и симулировать более низкий интеллект, чем имеет на самом деле.

Сообщается, что результаты исследования могут быть полезны при развитии искусственного сверхразума (ASI) — искусственного интеллекта нового поколения.

«Мы должны быть осторожны и не требовать, чтобы новый алгоритм имитировал человеческий, ограниченный интеллект. Кроме того, исследование доказывает, что мы можем недооценивать возможности ИИ в течение длительного периода. А это не является безопасной ситуацией», - сказала исследователь из Университета Гумбольдтов и автор исследования Анна Маклова.

Все статьи автора Читать все