Je viens de lire quelque chose qui met vraiment en perspective à quel point l'espace crypto peut devenir fou. Vitalik Buterin a reçu en 2021 une énorme pile de jetons SHIB qu'il n'avait jamais demandée. Les créateurs de Shiba Inu les lui ont simplement balancés en espérant que l'association ferait monter leur coin. Le problème, c'est que ces jetons ont fini par valoir plus d'un milliard de dollars, et Vitalik a dû trouver comment les liquider avant l'effondrement inévitable.

La logistique seule est hilarante. Il a littéralement dû appeler sa belle-mère au Canada et lui demander de lui lire un numéro de 78 chiffres depuis son placard pour pouvoir le combiner avec un autre numéro de son sac à dos. C'est ce qui arrive quand on détient autant de valeur et qu'on essaie vraiment de sortir. Il a réussi à en vendre une partie contre de l'ETH et a donné $50 million à GiveWell, ce qui est solide. Mais il restait encore tellement de SHIB.

Il a donc divisé ce qui restait. La moitié est allée à CryptoRelief pour l'infrastructure médicale en Inde et ses propres recherches. L'autre moitié est allée à l'Institut du Futur de la Vie, qui se concentre sur les risques existentiels liés à l'IA, la biotechnologie et les armes nucléaires. C'est là que ça devient intéressant. Vitalik pensait que FLI liquiderait peut-être $10 à $25 millions, étant donné la faible liquidité du SHIB. Ils ont en réalité réussi à liquider environ $500 millions de leur moitié.

Mais ensuite, FLI a fait quelque chose qui a clairement dérangé Vitalik. Ils ont pivoté fortement vers une campagne politique et culturelle agressive sur l'IA au lieu de rester sur la feuille de route axée sur la recherche. Selon Vitalik, la justification de FLI est que l'AGI progresse si vite qu'ils doivent agir de manière agressive pour contrer le lobbying des grandes entreprises d'IA. La préoccupation de Vitalik, c'est que l'action politique coordonnée à grande échelle avec des fonds massifs a tendance à se retourner contre eux. Il craint que cela mène à des résultats inattendus, des réactions négatives, et que cela devienne à la fois autoritaire et fragile, même si ce n'était pas l'intention initiale.

Il a pointé du doigt des problèmes spécifiques avec leur approche de biosécurité, qui consiste à intégrer des garde-fous dans les modèles d'IA pour qu'ils refusent de produire des sorties dangereuses. Vitalik a qualifié cela de fragile, car les jailbreaks et le fine-tuning rendent ces restrictions faciles à contourner. Il craint que cette logique mène finalement à interdire l'IA open-source et à soutenir une seule entreprise approuvée pour établir une domination mondiale, ce qui, selon lui, ferait du reste du monde votre ennemi.

Il y a aussi un problème structurel avec les stratégies axées d'abord sur la régulation, que Vitalik a souligné. Quand les gouvernements restreignent les technologies dangereuses, les organisations de sécurité nationale sont exemptées, et ces mêmes organisations font souvent partie du risque elles-mêmes. C'est un cercle vicieux qui ne résout pas réellement le problème de fond.

Cela dit, Vitalik a mentionné qu'il a été encouragé par certains travaux récents de FLI, comme leur déclaration en faveur d'une IA pro-humaine qui rassemble apparemment conservateurs, progressistes, libertariens et différents pays. Ils étudient aussi les problèmes de concentration du pouvoir liés à l'IA. Mais le message principal est clair : un don que Vitalik n'a jamais voulu a fini par financer une organisation qui poursuit des stratégies avec lesquelles il est mal à l'aise, et ils déploient des centaines de millions de dollars de façons qu'il remet en question publiquement maintenant. Il aurait d'ailleurs directement exprimé ces préoccupations à FLI avant de rendre son message public.