Buterin Mendesak Info Finance untuk Menghentikan Eksploitasi dalam Tata Kelola AI

• Vitalik memperingatkan bahwa tata kelola AI yang naif rentan terhadap manipulasi dan eksploitasi.
• Info finance menciptakan keragaman model dan koreksi cepat, membuat tata kelola AI lebih aman.
• Prediction markets dan spot checks membantu mengamankan pengambilan keputusan dan pendanaan AI.

Co-founder Ethereum, Vitalik Buterin, telah memperingatkan bahwa model tata kelola AI yang naif membawa risiko serius dan menegaskan bahwa kerangka kerja yang mengandalkan AI untuk pendanaan atau pengambilan keputusan tetap rentan terhadap manipulasi dan eksploitasi. Menurutnya, sistem semacam itu memungkinkan aktor jahat untuk mengalihkan sumber daya, namun ia menganjurkan pendekatan yang disebut “info finance”, yang dirancang untuk membangun akuntabilitas dan mencegah penyalahgunaan melalui pasar, pengawasan manusia, dan pemeriksaan.

Kasus Melawan Tata Kelola AI yang Naif

Buterin menekankan bahwa tata kelola AI yang naif berisiko dan menambahkan bahwa jika AI digunakan untuk mengalokasikan dana, orang dapat memanipulasinya dengan prompt pilihan mereka dan mendapatkan uang secara berlebihan. Ia juga menjelaskan bahwa jika model bekerja tanpa batasan atau pedoman apa pun, model tersebut dapat disalahgunakan, sehingga mendorong peretas untuk menggunakan prompt dan menipu AI agar melepaskan sumber daya yang salah. 

Kerentanan semacam itu menempatkan AI dalam lingkaran berbahaya yang potensial. Lebih lanjut, Buterin mengungkapkan kelemahan sistemik yang, jika tidak diawasi, dapat dimanipulasi. Serangan tak terlihat, prompt injections adalah contoh bagaimana penyerang dapat dengan mudah mengambil keuntungan.

Info Finance sebagai Alternatif

Buterin memilih information finance sebagai pengganti tata kelola naif, menggambarkannya sebagai pendekatan “institution design”, yang memadukan persaingan pasar terbuka dengan verifikasi manusia. Ia mengatakan,

Sebagai alternatif, saya mendukung pendekatan info finance, di mana Anda memiliki pasar terbuka di mana siapa pun dapat berkontribusi dengan model mereka, yang tunduk pada mekanisme spot-check yang dapat dipicu oleh siapa saja dan dievaluasi oleh juri manusia.

Ia menjelaskan bahwa Info Finance memungkinkan kontributor eksternal untuk mengintegrasikan large language models (LLMs) tanpa harus mengkodekan satu sistem saja. Ini akan memungkinkan keragaman model, sehingga mengurangi kemungkinan kegagalan secara luas. Ini juga menciptakan insentif bagi pengembang dan spekulan untuk mengawasi dengan cermat adanya cacat dan bertindak cepat ketika masalah terjadi.

Salah satu mekanisme yang diusulkan melibatkan prediction markets atau decision markets. Beberapa model akan bersaing, dan peserta dapat mempertaruhkan hasil, menandakan model mana yang tampak paling andal. Juri manusia atau auditor akan secara berkala melakukan spot-check pada hasil, terutama dalam kasus berisiko tinggi.

Terkait: ETH Treasuries Melonjak ke $12B saat Vitalik Memperingatkan Risiko Leverage

Dampak bagi Crypto dan Pasar

Info finance bergantung pada akuntabilitas berlapis, dan ini menonjol dalam persaingan terbuka, yang memungkinkan model cacat untuk ditantang atau diganti. Pengawasan manusia ditambahkan melalui juri dan audit. Insentif ekonomi mencegah manipulasi, sementara transparansi membuat perilaku jahat menjadi terlihat.

Dengan menghubungkan tata kelola AI ke blockchain dan perdagangan, Buterin menyarankan bahwa cacat pada AI terpusat dapat meningkatkan minat pada solusi terdesentralisasi, yang sebagian besar dibangun di atas Ethereum. Selain itu, token seperti RNDR dari Render Network dan GRT dari The Graph menyediakan infrastruktur untuk komputasi AI, sehingga mendapatkan manfaat dari perkembangan tersebut. Lebih lanjut, para trader juga dapat menggunakan ETH dan token tersebut untuk arbitrase di tengah volatilitas pasar. 

Data on-chain menunjukkan bahwa terdapat lebih banyak transaksi ETH yang terkait dengan smart contract berbasis AI dan masalah tata kelola AI juga dapat berdampak pada saham teknologi, dengan perusahaan seperti NVIDIA dan Microsoft terlibat dalam investasi AI. Secara keseluruhan, Buterin menunjukkan bahwa Info Finance memungkinkan koreksi yang lebih cepat, sehingga menggantikan model cacat dan menghukum pelaku kejahatan. Ia juga menambahkan bahwa pemeriksaan juri dan spot check akan mencegah eksploitasi menyebar.

Artikel ini pertama kali muncul di Cryptotale dengan judul Buterin Pushes Info Finance to Stop Exploits in AI Governance.