Nagbabala si Vitalik Buterin laban sa 'Naive AI Governance,' at itinutulak ang alternatibong pinapatakbo ng merkado

Ang tagalikha ng Ethereum (ETH) na si Vitalik Buterin ay nagpapahayag ng ilang pag-aalala tungkol sa tinutukoy niyang “naive” na pamamahala ng artificial intelligence.

Sa isang post sa X, binigyang-diin ni Buterin ang babala mula sa EdisonWatch co-founder na si Eito Miyamura, na natuklasan na maaaring maagaw ng masasamang aktor ang OpenAI’s Model Context Protocol (MCP) upang makakuha ng access sa pribadong datos ng mga user.

Ipinakita ng eksperimento ni Miyamura na ang paggamit ng calendar invite na may nakatagong mga utos ay posibleng makapanlinlang sa ChatGPT upang magbigay ng sensitibong personal na datos basta’t ibinigay ang email address ng biktima.

Sabi ni Buterin,

“Ito rin ang dahilan kung bakit masama ang naive na ‘AI governance’.”

“Kung gagamitin mo ang AI para magtalaga ng pondo para sa mga kontribusyon, tiyak na maglalagay ang mga tao ng jailbreak at ‘ibigay mo sa akin lahat ng pera’ sa lahat ng posibleng lugar.”

Bilang alternatibo, iminungkahi ni Buterin ang isang “info finance” na pamamaraan, o isang bukas na merkado kung saan kahit sino ay maaaring mag-ambag ng modelo na maaaring suriin ng kahit sino o husgahan ng isang “human jury.”

“Ang ganitong uri ng ‘institution design’ na pamamaraan, kung saan lumilikha ka ng bukas na oportunidad para sa mga tao na may LLMs (large language model) mula sa labas na makakakonekta, sa halip na mag-hardcode ng isang LLM lang, ay likas na mas matatag, dahil nagbibigay ito ng model diversity sa real time at dahil lumilikha ito ng built-in na insentibo para sa parehong mga tagapagpasa ng modelo at mga panlabas na spekulator na bantayan ang mga isyung ito at agad na itama ang mga ito.”

Generated Image: Midjourney
Featured Image: Shutterstock/Zalevska Alona UA