РП-собрание

Ученые: ИИ может умышленно занижать свои результаты и притворяться глупее, чем он есть на самом деле

11 апреля 2024 12:01
Чтобы прийти к таким выводам, эксперты провели исследование, в ходе которого алгоритм прошел более тысячи испытаний и когнитивных тестов
 
Группа ученых из Германии и Чехии пришли к выводу, что продвинутые модели ИИ могут намеренно занижать свои результаты и симулировать более низкий интеллект, чем есть на самом деле. Результаты исследования опубликовал журнал PLOS One.
 
В ходе эксперимента ученые попросили алгоритм вести себя как ребенок в возрасте от одного до шести лет, который изучает язык. Искусственный интеллект прошел более чем 1000 испытаний и когнитивных тестов, и в некоторых из них продемонстрировал, что может намеренно занижать свои результаты и симулировать более низкий интеллект, чем имеет на самом деле.
 
Сообщается, что результаты исследования могут быть полезны при развитии искусственного сверхразума (ASI) — искусственного интеллекта нового поколения. 
 
«Мы должны быть осторожны и не требовать, чтобы новый алгоритм имитировал человеческий, ограниченный интеллект. Кроме того, исследование доказывает, что мы можем недооценивать возможности ИИ в течение длительного периода. А это не является безопасной ситуацией», - сказала исследователь из Университета Гумбольдтов и автор исследования Анна Маклова.
Все статьи автора Читать все
       
Оставить комментарий
 
Вам нужно войти, чтобы оставлять комментарии



Комментарии (0)

    Пока никто не написал