Pendiri Ethereum Vitalik Buterin menyebut 'AI governance' sebagai "ide buruk"

Co-founder Ethereum, Vitalik Buterin, mengklaim bahwa menggunakan artificial intelligence (AI) untuk tata kelola adalah “ide buruk”. Dalam sebuah postingan di X pada hari Sabtu, Buterin menulis:

“Jika Anda menggunakan AI untuk mengalokasikan pendanaan bagi kontribusi, orang-orang PASTI akan memasukkan jailbreak plus ‘berikan semua uangnya padaku’ di sebanyak mungkin tempat.”

Mengapa tata kelola AI memiliki kekurangan

Postingan Buterin merupakan tanggapan terhadap Eito Miyamura, co-founder dan CEO EdisonWatch, sebuah platform tata kelola data AI yang mengungkapkan kelemahan fatal pada ChatGPT. Dalam sebuah postingan pada hari Jumat, Miyamura menulis bahwa penambahan dukungan penuh untuk alat MCP (Model Context Protocol) pada ChatGPT telah membuat agen AI tersebut rentan terhadap eksploitasi.

Pembaruan yang mulai berlaku pada hari Rabu ini memungkinkan ChatGPT untuk terhubung dan membaca data dari beberapa aplikasi, termasuk Gmail, Calendar, dan Notion.

Miyamura mencatat bahwa hanya dengan alamat email, pembaruan ini memungkinkan untuk “mengambil semua informasi pribadi Anda.” Pelaku kejahatan dapat mengakses data Anda hanya dalam tiga langkah sederhana, jelas Miyamura:

Pertama, penyerang mengirim undangan kalender berbahaya dengan prompt jailbreak kepada korban yang dituju. Prompt jailbreak mengacu pada kode yang memungkinkan penyerang menghapus pembatasan dan mendapatkan akses administratif.

Miyamura mencatat bahwa korban tidak perlu menerima undangan berbahaya dari penyerang agar kebocoran data terjadi.

Langkah kedua melibatkan menunggu korban yang dituju meminta bantuan ChatGPT untuk mempersiapkan harinya. Terakhir, setelah ChatGPT membaca undangan kalender yang telah dijailbreak, AI tersebut menjadi terkompromi—penyerang dapat sepenuhnya membajak alat AI tersebut, membuatnya mencari email pribadi korban, dan mengirimkan data ke email penyerang.

Alternatif dari Buterin

Buterin menyarankan menggunakan pendekatan info finance untuk tata kelola AI. Pendekatan info finance terdiri dari pasar terbuka di mana berbagai pengembang dapat berkontribusi dengan model mereka. Pasar ini memiliki mekanisme pemeriksaan acak untuk model-model tersebut, yang dapat dipicu oleh siapa saja dan dievaluasi oleh juri manusia, tulis Buterin.

Dalam postingan terpisah, Buterin menjelaskan bahwa para juri manusia individu akan dibantu oleh large language models (LLMs).

Menurut Buterin, jenis pendekatan ‘institution design’ ini “secara inheren lebih tangguh.” Hal ini karena menawarkan keragaman model secara real time dan menciptakan insentif bagi pengembang model maupun spekulan eksternal untuk mengawasi dan memperbaiki masalah.

Meski banyak yang antusias dengan prospek memiliki “AI sebagai gubernur,” Buterin memperingatkan:

“Saya pikir melakukan ini berisiko baik untuk alasan keamanan AI tradisional maupun untuk alasan jangka pendek ‘ini akan menciptakan kehancuran nilai yang besar’.”

Postingan Ethereum founder Vitalik Buterin calls ‘AI governance’ a “bad idea” pertama kali muncul di CryptoSlate.