Ко-развитие ИИ: Новый подход от Meta к безопасности и эффективности

Вместо создания полностью автономных систем искусственного интеллекта, способных к самосовершенствованию, компания Meta Fair, во главе с Джейсоном Уэстоном и Якобом Фёрстером, предлагает сосредоточиться на ко-развитии ИИ – сотрудничестве между людьми и ИИ в исследовательских процессах, где обе стороны взаимно усиливают свои возможности.

Авторы подчеркивают, что идея о полностью автономном ИИ, самостоятельно улучшающемся, является рискованной без достаточного контроля. Учитывая, что ИИ пока не превзошел человека во всех областях, особенно в исследованиях, существует окно возможностей для выстраивания эффективной модели сотрудничества.

Данное мнение было сформировано под влиянием заявлений Йошуа Бенжио о безопасности ИИ, отражающих сдвиг в настроениях внутри ведущих лабораторий.

Авторы критикуют следующие подходы:

• Концепцию «эры опыта» Сильвера и Саттона, предполагающую автономное обучение ИИ без участия человека.
• Позицию Шмидхубера о том, что ИИ «колонизирует галактику», и человек не будет играть значимой роли – подход, который Meta считает нежелательным.