Кризис управління OpenAI: чи може модель DAO уникнути цього?

Нещодавно гігант у сфері штучного інтелекту OpenAI потрапив у серйозну кризу внутрішнього управління. Цей скандал викликав широкі обговорення в галузі щодо його організаційної структури, серед яких були й пропозиції, що OpenAI слід adopt DAO (децентралізовану автономну організацію) для моделі управління. Отже, якщо OpenAI дійсно прийме форму DAO, чи зможе це уникнути виникнення цієї кризи?

Насправді, OpenAI, як неприбуткова організація, що прагне створити безпечний загальний штучний інтелект (AGI) на благо всього людства, має багато спільного з багатьма DAO-організаціями. Проте проблеми, з якими наразі стикається OpenAI, не походять з самої організаційної структури, а викликані неясністю та нерозумністю правил управління.

Наприклад, рада директорів OpenAI як найвища влада спочатку складалася з 9 осіб, але наразі залишилося лише 6. Постійне зменшення кількості членів ради призводить до надмірної концентрації прийняття рішень, і навіть може виникнути ситуація, коли для ухвалення рішення про долю компанії достатньо згоди лише 2 осіб. Ще більш тривожним є те, що такі важливі рішення, як зміна генерального директора Сема Альтмана, фактично ухвалюються на закритих засіданнях частиною директорів, а не шляхом всебічного обговорення та розгляду серед усіх членів ради. Така практика явно недостатньо прозора та інклюзивна, і не враховує думки всіх зацікавлених сторін.

Натомість навіть прибуткові публічні компанії залучають незалежних директорів для підвищення прозорості корпоративного управління. Що стосується OpenAI, важливої організації, яка має відношення до розвитку базових технологій, соціальної безпеки та навіть долі людства, її механізм управління очевидно має великий потенціал для вдосконалення.

Виходячи з моделі управління DAO, OpenAI може розглянути можливість впровадження більшої кількості стримуючих сил, таких як представники працівників, і створити більш ефективний механізм управління. Це не лише підвищить прозорість і включеність прийняття рішень, а й краще збалансує інтереси всіх сторін, щоб уникнути повторення подібної кризи управління.

Варто зазначити, що DAO спочатку було запропоновано як концепцію, яка передбачає автономну роботу через код, максимально усуваючи людське втручання. Однак у реальному житті DAO часто не може повністю реалізувати цю ідею, а натомість поступається другим варіантом, розглядаючи організації, що базуються на блокчейн-мережі, як DAO. Це означає, що люди прийняли певний рівень реальності, керованої людьми, а обмеження коду слугують допоміжним засобом.

Цікаво, що мета AGI також полягає в прагненні до автономності. OpenAI чітко згадує у своїй організаційній структурі, що AGI - це високоавтономна система, здатна перевершити людину в більшості робіт з високою економічною вартістю. З точки зору базових принципів, AGI та DAO мають на меті створення дійсно автономних систем, і в цьому сенсі між ними немає суттєвих відмінностей.

Як нам ефективно управляти такими автономними системами? Чи слід більше покладатися на внутрішні людські цінності для їхнього налаштування, чи варто додати більше зовнішніх обмежень? Ці питання стосуються не лише сучасних великих мовних моделей (LLM), але й є важливими темами для обговорення в процесі розвитку майбутнього AGI.

Останні новини щодо кризи OpenAI показують, що до 90% працівників підписалися під бажанням звільнитися та слідувати за Семом Альтманом. Це явище відображає класичну суперечку в сфері DAO останніх років: що важливіше — правила, обумовлені кодом, чи колективна згода спільноти?

Хоча правила та обмеження можуть створити багато спільних думок, справжнє велике консенсус часто не формуються за допомогою правил. Лише спільне відчуття місії та культурні цінності можуть насправді досягти глибокої резонансу та одностайності. Ми вже знаємо, як створити цю резонанс між людьми, так що ж нам робити в епоху ШІ для досягнення цієї мети? Це питання варте нашого глибокого роздуму та дослідження.