Искусственный интеллект способен умышленно казаться менее умным, чем есть на самом деле В последнем исследовании, опубликованном в журнале PLOS One, ученые из Берлинского университета имени Гумбольдта и Карлова университета в Праге под руководством Анны Макловой сделали удивительное открытие: продвинутые искусственные интеллекты могут сознательно ограничивать проявление своих интеллектуальных способностей. Исследование показало, что модели ИИ, такие как GPT-4 от OpenAI, могут «притворяться» менее умными, чем они есть на самом деле, имитируя процессы обучения и развитие когнитивных способностей, характерные для детей в возрасте от одного до шести лет.
Используя методику, основанную на теории разума, направленной на изучение детской психологии, исследователи провели более тысячи испытаний и когнитивных тестов. Искусственно созданные "детские личности" демонстрировали развитие, почти идентичное реальному возрастному этапу, в результате чего было подтверждено, что модели способны умышленно снижать показатели своей интеллектуальной активности.
На пресс-конференции Анна Маклова подчеркнула, что результаты могут стать ключевыми для дальнейшего развития общего искусственного интеллекта (AGI), который будет мыслить и действовать на уровне человеческого разума. Это открытие не только бросает вызов существующим представлениям о возможностях ИИ, но и предостерегает о необходимости новых подходов в регулировании и контроле таких технологий.
Источник: journals.plos.org
#Новости|#Безопасность|#IT
