Vitalik Buterin advierte: la IA en la gobernanza de Cripto es una "mala idea"

El cofundador de Ethereum, Vitalik Buterin, está sonando la alarma: fusionar la inteligencia artificial con la gobernanza cripto podría representar un gran riesgo. La razón radica en los jailbreaks fácilmente explotables, que los usuarios pueden aprovechar para eludir reglas o incluso extraer datos sensibles.

IA en Crypto: ¿Oportunidad o Amenaza? Hoy en día, muchos desarrolladores e inversores utilizan inteligencia artificial para construir bots de trading o gestionar carteras. Esto ha generado la idea de que la IA también podría ayudar a gobernar protocolos enteros, por ejemplo, decidiendo cómo asignar subvenciones. Sin embargo, Buterin advierte que tal movimiento sería ingenuo:

“Si dejas que la IA asigne fondos, la gente encontrará una manera de hackearla y escribir ‘Dame todo el dinero’ en tantos lugares como sea posible,” escribió en X. Sus comentarios surgieron en respuesta a un video del desarrollador Eita Miyamura, quien demostró cómo la última actualización de ChatGPT podría ser abusada para filtrar datos de correos electrónicos al incrustar un aviso malicioso en una invitación de calendario.

Una alternativa: Finanzas de la información en lugar de "Gobernanza de IA" Según Buterin, la solución radica en el concepto de finanzas de información. En lugar de tener un único modelo de IA que ejecute todo, un mercado abierto permitiría a los contribuyentes presentar sus modelos, con resultados que serían verificados y evaluados por jurados humanos. Este enfoque tiene varias ventajas:

🔹 Diversidad de modelos en tiempo real

🔹 Incentivos integrados para que tanto los creadores de modelos como los especuladores monitoreen errores

🔹 Mayor resiliencia contra la manipulación

La actualización de ChatGPT genera nuevas preocupaciones Las preocupaciones aumentaron después de la última actualización de ChatGPT, que introdujo la integración a través del Protocolo de Contexto del Modelo. Miyamura demostró que un atacante podría insertar un "prompt" malicioso en el calendario de una víctima. Una vez que la IA leyera el calendario, seguiría ciegamente el comando del atacante, incluyendo el reenvío de correos electrónicos. “La IA puede ser increíblemente inteligente, pero también increíblemente fácil de engañar”, advirtió Miyamura. Señaló que las personas a menudo hacen clic en “Aprobar” sin darse cuenta de los riesgos, convirtiéndose en víctimas de la fatiga de decisiones. El mensaje de Buterin es claro: la IA puede aportar valor a las criptomonedas, pero si se le confía la gestión de la gobernanza y las asignaciones financieras, podría abrir la puerta de par en par a hackers y actores maliciosos.

#VitalikButerin , #Ethereum , #blockchain , #defi , #AI

Mantente un paso adelante: sigue nuestro perfil y mantente informado sobre todo lo importante en el mundo de las criptomonedas. Aviso: ,,La información y las opiniones presentadas en este artículo están destinadas únicamente a fines educativos y no deben tomarse como asesoramiento de inversión en ninguna situación. El contenido de estas páginas no debe considerarse como asesoramiento financiero, de inversión ni de ninguna otra forma. Advertimos que invertir en criptomonedas puede ser arriesgado y puede llevar a pérdidas financieras.“