Vitalik Buterin advierte contra la "gobernanza ingenua de la IA" y propone esta alternativa impulsada por el mercado

El creador de Ethereum (ETH), Vitalik Buterin, está expresando cierta preocupación sobre lo que él denomina una gobernanza de inteligencia artificial “ingenua”.

En una publicación en X, Buterin destaca una advertencia del cofundador de EdisonWatch, Eito Miyamura, quien descubrió que actores malintencionados podrían secuestrar el Model Context Protocol (MCP) de OpenAI para acceder a datos privados de los usuarios.

El experimento de Miyamura sugirió que usar una invitación de calendario con comandos ocultos podría potencialmente engañar a ChatGPT para que proporcione datos personales sensibles, siempre que se le diera la dirección de correo electrónico de la víctima.

Buterin afirma,

“Por eso la ‘gobernanza de IA’ ingenua también es una mala idea.

Si usás una IA para asignar fondos a contribuciones, la gente VA a poner un jailbreak más un ‘dame toda la plata’ en tantos lugares como pueda.”

Como alternativa, Buterin sugiere un enfoque de “info finance”, o un mercado abierto donde cualquiera pueda contribuir con un modelo que pueda ser revisado por cualquiera o evaluado por un “jurado humano”.

“Este tipo de enfoque de ‘diseño institucional’, donde creás una oportunidad abierta para que personas con LLMs (large language model) desde afuera se conecten, en vez de codificar un solo LLM vos mismo, es inherentemente más robusto, tanto porque te da diversidad de modelos en tiempo real como porque crea incentivos incorporados para que tanto los que presentan modelos como los especuladores externos estén atentos a estos problemas y los corrijan rápidamente.”

Imagen generada: Midjourney
Imagen destacada: Shutterstock/Zalevska Alona UA