Vitalik Buterin advierte contra la "gobernanza ingenua de la IA" y promueve esta alternativa impulsada por el mercado

El creador de Ethereum (ETH), Vitalik Buterin, expresa cierta preocupación por lo que él denomina una gobernanza de inteligencia artificial “ingenua”.

En una publicación en X, Buterin destaca una advertencia del cofundador de EdisonWatch, Eito Miyamura, quien descubrió que actores maliciosos podrían secuestrar el Model Context Protocol (MCP) de OpenAI para obtener acceso a datos privados de los usuarios.

El experimento de Miyamura sugirió que usar una invitación de calendario con comandos ocultos podría potencialmente engañar a ChatGPT para que proporcione datos personales sensibles, siempre que se le proporcione la dirección de correo electrónico de la víctima.

Buterin afirma,

“Esta es también la razón por la que la ‘gobernanza de IA’ ingenua es una mala idea.

Si usas una IA para asignar fondos a contribuciones, la gente pondrá un jailbreak más ‘dame todo el dinero’ en tantos lugares como pueda.”

Como alternativa, Buterin sugiere un enfoque de “info finance”, o un mercado abierto donde cualquiera pueda contribuir con un modelo que pueda ser revisado por cualquiera o evaluado por un “jurado humano”.

“Este tipo de enfoque de ‘diseño institucional’, donde creas una oportunidad abierta para que personas con LLMs (large language model) externos se conecten, en lugar de codificar rígidamente un solo LLM tú mismo, es inherentemente más robusto, tanto porque te da diversidad de modelos en tiempo real como porque crea incentivos integrados para que tanto los presentadores de modelos como los especuladores externos vigilen estos problemas y los corrijan rápidamente.

Imagen generada: Midjourney
Imagen destacada: Shutterstock/Zalevska Alona UA