Krisis Tata Kelola OpenAI: Dapatkah Model DAO Menghindarinya?

Baru-baru ini, raksasa di bidang kecerdasan buatan OpenAI terjebak dalam krisis tata kelola internal yang serius. Kontroversi ini memicu diskusi luas di kalangan industri mengenai struktur organisasinya, di mana beberapa orang mengusulkan agar OpenAI mengadopsi model tata kelola organisasi otonom terdesentralisasi (DAO). Lalu, jika OpenAI benar-benar mengadopsi bentuk DAO, apakah itu bisa menghindari terjadinya krisis ini?

Sebenarnya, OpenAI sebagai organisasi nirlaba yang berfokus pada menciptakan kecerdasan buatan umum yang aman (AGI) dan memberikan manfaat yang setara bagi seluruh umat manusia, memiliki tujuan yang cukup mirip dengan banyak organisasi DAO. Namun, masalah yang dihadapi OpenAI saat ini bukan berasal dari struktur organisasinya sendiri, melainkan disebabkan oleh ketidakjelasan dan ketidakadilan dalam aturan tata kelola.

Misalnya, dewan direksi OpenAI sebagai badan tertinggi, awalnya terdiri dari 9 orang, tetapi saat ini hanya tersisa 6 orang. Pengurangan anggota dewan yang terus menerus menyebabkan kekuasaan pengambilan keputusan terlalu terpusat, bahkan mungkin muncul situasi di mana hanya diperlukan persetujuan 2 orang untuk memutuskan nasib perusahaan. Yang lebih mengkhawatirkan adalah bahwa keputusan besar seperti penggantian CEO Sam Altman ternyata diambil dalam pertemuan tertutup oleh sebagian anggota dewan, bukan melalui diskusi dan deliberasi yang memadai oleh seluruh dewan. Tindakan ini jelas kurang transparan dan inklusif, dan tidak mempertimbangkan dengan baik pendapat dari semua pemangku kepentingan.

Sebagai perbandingan, bahkan perusahaan publik yang berorientasi pada keuntungan pun akan mengundang direktur independen untuk meningkatkan transparansi tata kelola perusahaan. Untuk organisasi penting seperti OpenAI yang berkaitan dengan perkembangan teknologi dasar, keamanan sosial, dan bahkan nasib umat manusia, mekanisme tata kelolanya jelas masih memiliki banyak ruang untuk perbaikan.

Dengan mengacu pada model tata kelola DAO, OpenAI dapat mempertimbangkan untuk memperkenalkan lebih banyak kekuatan penyeimbang, seperti perwakilan karyawan, dan membangun mekanisme tata kelola yang lebih efektif. Ini tidak hanya dapat meningkatkan transparansi dan inklusivitas dalam pengambilan keputusan, tetapi juga dapat lebih baik dalam menyeimbangkan kepentingan semua pihak, mencegah terulangnya krisis tata kelola serupa.

Perlu dicatat bahwa ketika DAO pertama kali diusulkan, inti dari konsepnya adalah untuk menjalankan secara mandiri melalui kode, meminimalkan intervensi manusia. Namun, dalam kenyataannya, DAO sering kali tidak dapat sepenuhnya mewujudkan ideal ini, tetapi malah menganggap organisasi yang melakukan tata kelola kolektif berdasarkan jaringan blockchain sebagai DAO. Ini berarti orang-orang menerima realitas pengaturan manusia sampai tingkat tertentu, sementara batasan kode dianggap sebagai alat bantu.

Menariknya, tujuan AGI juga mengejar otonomi. OpenAI secara jelas menyebutkan dalam struktur organisasinya bahwa AGI adalah sistem yang sangat otonom, yang dapat melampaui manusia dalam sebagian besar pekerjaan dengan nilai ekonomi tinggi. Dari prinsip dasar, AGI dan DAO sama-sama bertujuan untuk membangun sistem yang benar-benar memiliki otonomi, dan dalam hal ini, keduanya tidak memiliki perbedaan mendasar.

Dalam menghadapi sistem otonom seperti ini, bagaimana kita seharusnya melakukan tata kelola yang efektif? Apakah kita harus lebih bergantung pada penyelarasan dan pelatihan nilai-nilai manusia yang bersumber dari dalam, atau seharusnya kita menambahkan lebih banyak batasan eksternal? Pertanyaan-pertanyaan ini tidak hanya berlaku untuk model bahasa besar (LLM) saat ini, tetapi juga merupakan isu penting yang perlu dipikirkan dalam proses pengembangan AGI di masa depan.

Perkembangan terbaru dari krisis OpenAI menunjukkan bahwa hingga 90% karyawan yang menandatangani menyatakan bersedia untuk mengundurkan diri dan mengikuti Sam Altman. Fenomena ini mencerminkan sebuah perdebatan klasik di bidang DAO dalam beberapa tahun terakhir: mana yang lebih penting, aturan yang dibatasi oleh kode, atau konsensus komunitas yang lebih penting?

Meskipun aturan dan batasan dapat membentuk banyak konsensus, konsensus yang benar-benar besar sering kali tidak dibentuk oleh aturan. Hanya dengan rasa misi yang dibagikan dan nilai-nilai budaya yang dapat benar-benar mencapai resonansi dan keselarasan yang mendalam. Kita sudah tahu bagaimana menciptakan resonansi ini antara orang-orang, lalu, di era AI, bagaimana kita dapat mencapai tujuan ini? Pertanyaan ini layak untuk kita pikirkan dan eksplorasi lebih dalam.