Притворяются глупыми: нейросети могут оказаться умнее, чем показывают человеку

Впрочем, исследователи из Берлинского университета имени Гумбольдта считают, что ИИ лишь прикидывается этаким простачком.

Притвориться ребенком

Ведущий автор исследования Анна Маклова и ее коллеги из Карлова университета в Праге проверили, могут ли модели ИИ, на примере GPT-4 от OpenAI, притворяться менее способными, чем они есть на самом деле. Для этого они использовали свои знания о развитии разума у детей разных возрастов.

В ходе исследования модели ИИ последовательно предлагали притвориться ребенком в возрасте от одного до шести лет и отвечать на вопросы. Всего было проведено более 1 000 испытаний и тестов, в которых смоделированные искусственным интеллектом личности вели себя почти также, как дети того или иного возраста.

Потенциальная опасность

Таким образом ИИ продемонстрировал, что для него не составляет трудности притвориться менее умным, чем он является на самом деле. Интересно, что взрослый человек так ряд ли сможет. Ведь у детей свой набор представлений о мире, который взрослые уже давно забыли. В описанном эксперименте компьютерный разум притворялся и лгал по просьбе человека. Но, предположили ученые, возможно нечто подобное нейросеть может провернуть и самостоятельно.

Сложно сказать, обладает ли ИИ сознанием и насколько он действительно умный, ведь с развитием данной сферы нейросети становятся все более закрытыми и самостоятельными. Поэтому у многих ученых и появляются опасения на этот счет — не выйдет ли однажды компьютерный разум из-под человеческого контроля?