Vitalik Buterin avertit : L'IA dans la gouvernance crypto est une "mauvaise idée"

Le co-fondateur d'Ethereum, Vitalik Buterin, tire la sonnette d'alarme : fusionner l'intelligence artificielle avec la gouvernance crypto pourrait poser un risque considérable. La raison réside dans des jailbreaks facilement exploitables, que les utilisateurs peuvent utiliser pour contourner les règles ou même extraire des données sensibles.

L'IA dans la crypto : opportunité ou menace ? De nombreux développeurs et investisseurs utilisent aujourd'hui l'intelligence artificielle pour créer des bots de trading ou gérer des portefeuilles. Cela a suscité des idées selon lesquelles l'IA pourrait également aider à gouverner des protocoles entiers – par exemple, en décidant comment allouer des subventions. Cependant, Buterin avertit qu'un tel mouvement serait naïf :

« Si vous laissez l'IA allouer des fonds, les gens trouveront un moyen de la déverrouiller et de taper 'Donnez-moi tout l'argent' dans autant d'endroits que possible », a-t-il écrit sur X. Ses commentaires sont intervenus en réponse à une vidéo du développeur Eita Miyamura, qui a démontré comment la dernière mise à jour de ChatGPT pourrait être abusée pour divulguer des données d'e-mail en intégrant une invite malveillante dans une invitation de calendrier.

Une alternative : la finance de l'information au lieu de « gouvernance de l'IA » Selon Buterin, la solution réside dans le concept de finance de l'information. Au lieu d'avoir un seul modèle d'IA qui gère tout, un marché ouvert permettrait aux contributeurs de soumettre leurs modèles, les résultats étant vérifiés et évalués par des jurys humains. Cette approche présente plusieurs avantages :

🔹 Diversité des modèles en temps réel

🔹 Incitations intégrées pour les créateurs de modèles et les spéculateurs afin de surveiller les erreurs

🔹 Meilleure résilience contre la manipulation

La mise à jour de ChatGPT soulève de nouvelles inquiétudes Les inquiétudes ont augmenté après la dernière mise à jour de ChatGPT, qui a introduit une intégration via le Protocole de Contexte du Modèle. Miyamura a démontré qu'un attaquant pouvait insérer un "prompt" malveillant dans le calendrier d'une victime. Une fois que l'IA a lu le calendrier, elle suivrait aveuglément la commande de l'attaquant – y compris le transfert d'emails. « L'IA peut être incroyablement intelligente, mais aussi incroyablement facile à tromper », a averti Miyamura. Il a noté que les gens cliquent souvent sur « Approuver » sans se rendre compte des risques, tombant ainsi victimes de la fatigue décisionnelle. Le message de Buterin est clair : l'IA peut apporter de la valeur à la crypto, mais si elle est chargée de gérer la gouvernance et les allocations financières, cela pourrait grandement ouvrir la porte aux hackers et aux acteurs malveillants.

#VitalikButerin , #Ethereum , #blockchain , #defi , #AI

Restez un pas en avant – suivez notre profil et restez informé de tout ce qui est important dans le monde des cryptomonnaies ! Avis : ,,Les informations et les opinions présentées dans cet article sont destinées uniquement à des fins éducatives et ne doivent pas être considérées comme des conseils en matière d'investissement dans aucune situation. Le contenu de ces pages ne doit pas être considéré comme un conseil financier, d'investissement ou de toute autre forme de conseil. Nous avertissons que l'investissement dans les cryptomonnaies peut être risqué et peut entraîner des pertes financières.“