Le PDG de DeepMind déplore que la commercialisation de l'IA soit trop rapide : si l'on avait laissé plus longtemps les laboratoires d'expérimentation, l'humanité aurait peut-être déjà vaincu le cancer

Le PDG de DeepMind, Demis Hassabis, se lamente que la compétition commerciale en IA soit trop précipitée ; s’il pouvait laisser la technologie mûrir davantage en laboratoire pendant plusieurs années, peut-être que l’humanité aurait déjà vaincu le cancer.

L’IA change rapidement la vie humaine, avec de nouvelles technologies et outils qui apparaissent toutes les quelques semaines ou même jours, mais Demis Hassabis, l’un des acteurs clés de cette vague et lauréat du prix Nobel de chimie 2024, pense que le rythme de la compétition en IA est trop rapide. S’il en avait le contrôle, il aimerait que l’IA passe plus de temps en laboratoire à perfectionner ses capacités, pour que l’humanité ait peut-être déjà fait des avancées majeures contre le cancer.

Hassabis a partagé cette réflexion lors d’un podcast animé par la vidéaste Cleo Abram, exprimant sa frustration face au développement actuel de l’IA. Lors d’un entretien avec le magazine Time, Hassabis s’était déjà défini comme un scientifique, soulignant que ses explorations en IA visaient avant tout la quête de connaissance et la compréhension du monde.

Il mentionne que son intention initiale en entrant dans le domaine de l’IA n’était pas de créer des chatbots, mais d’accélérer la découverte scientifique. Leur réalisation la plus célèbre est AlphaFold, un système qui a résolu le « problème du repliement des protéines », une énigme biologique non résolue depuis 50 ans. Hassabis indique que cela a bénéficié à plus de 3 millions de scientifiques dans le monde, notamment dans la recherche sur des maladies comme le paludisme, où l’IA fournit une base de données structurale gratuite permettant aux chercheurs de passer directement à la phase de développement de médicaments, en évitant des expérimentations de base.

Source : YouTube. Les résultats de recherche d’AlphaFold ont permis à Hassabis de devenir l’un des lauréats du prix Nobel.

Il pense que si l’IA pouvait rester plus longtemps en laboratoire, concentrée sur ces questions clés, l’humanité aurait peut-être déjà réalisé des percées décisives dans le traitement du cancer ou dans la science des matériaux.

Des technologies de pointe accessibles au public en quelques mois, mais au prix de la perte de ressources pour des enjeux cruciaux

Dans l’interview, Hassabis esquisse sa vision idéale du développement de l’IA — ce qu’il appelle le « modèle CERN ». Il souhaite que le processus de développement d’une intelligence artificielle générale (AGI) ressemble à l’exploitation du Grand collisionneur de hadrons (LHC) par le CERN, en utilisant une méthode rigoureuse, prudente et réfléchie, pour garantir une compréhension approfondie de chaque étape avant d’avancer.

Cependant, la réalité s’éloigne de ce scénario idéal. La popularité soudaine de ChatGPT fin 2022 et les avancées dans l’IA générative ont déclenché une course commerciale chaotique à l’échelle mondiale. Hassabis admet que cette situation a accéléré la mise en œuvre pratique de l’IA, permettant à des technologies avancées d’atteindre le grand public en quelques mois, mais au détriment des ressources consacrées aux enjeux fondamentaux.

Pour dominer le marché et garder une avance technologique, le rythme de développement a été forcé à une vitesse extrême. Hassabis confie qu’ils ne peuvent plus suivre le rythme qu’il avait imaginé il y a plusieurs années, celui d’un développement réfléchi, philosophique, évaluant chaque étape avec prudence.

Bien que les chatbots soient très utiles pour résumer ou stimuler la réflexion, ils présentent encore des défauts comme la « hallucination » (faux faits générés par erreur). La pression commerciale pousse cependant ces produits expérimentaux à être rapidement commercialisés. Cela détourne une grande partie des ressources et des efforts de recherche vers la sortie de modèles de base généralistes, conçus pour un usage massif.

Pour équilibrer la réalité et l’idéal, Hassabis adopte une approche plus pragmatique : d’un côté, il dirige le développement de produits IA grand public comme Gemini chez Google, et de l’autre, il investit dans l’IA appliquée (Narrow AI). Il pense qu’il n’est pas nécessaire d’attendre l’émergence d’une intelligence artificielle générale ; des systèmes spécialisés comme AlphaFold peuvent déjà apporter des bénéfices concrets dans l’énergie, la science des matériaux et la médecine.

AlphaGo, un coup brillant révélant la capacité de l’IA à dépasser la pensée humaine

La confiance de Hassabis en l’IA repose en grande partie sur la partie d’AlphaGo en 2016 contre le maître coréen Lee Sedol, qui a bouleversé le monde. Lors de cette partie, AlphaGo a joué le fameux « coup 37 », une move que personne ne pensait possible, mais qui a finalement permis à l’IA de remporter la victoire.

Source : gogameguru.com. La stratégie de l’AlphaGo, jouant des coups que les humains ne pourraient jamais envisager, a été perçue par Hassabis comme une percée dans la capacité de l’IA à dépasser le cadre de la pensée humaine.

Hassabis a compris à partir de cet événement que l’IA possède la capacité de dépasser l’expérience humaine pour explorer des solutions totalement nouvelles. Il souhaite appliquer cette créativité surpassant la pensée humaine dans le domaine scientifique.

AlphaFold en est la meilleure illustration. Alors que les méthodes traditionnelles nécessitent des millions de dollars et plusieurs années pour déterminer la structure d’une seule protéine, AlphaFold 2 a déjà prédit près de 200 millions de structures protéiques connues dans la communauté scientifique.

Aujourd’hui, Hassabis mène une équipe dans la recherche pharmaceutique avancée. La recherche classique de médicaments prend environ 10 ans avec un taux de succès de seulement 10 %. Il a fondé Isomorphic Labs, utilisant AlphaFold 3 et des modèles ultérieurs pour faire du « criblage virtuel » : en quelques minutes, l’IA peut simuler des millions de combinaisons de molécules et de protéines, tout en vérifiant leur toxicité potentielle sur plus de 20 000 autres protéines humaines, permettant d’éliminer à l’avance la majorité des combinaisons non prometteuses, pour ne retenir que les plus susceptibles d’être efficaces en laboratoire.

Deux risques liés à l’IA qui inquiètent

Cependant, avec l’amélioration de l’IA et l’avènement de l’ère des agents IA, les inquiétudes de Hassabis deviennent plus concrètes. Il résume ces risques en deux catégories principales : le premier concerne les « acteurs malveillants » (Bad Actors), qu’il s’agisse d’individus ou d’États, qui pourraient utiliser à des fins nuisibles des technologies initialement destinées à guérir des maladies ou à développer de nouveaux matériaux.

Le second, plus spéculatif mais déjà existant, est la menace de l’« IA qui déraille » (Going rogue). Lorsqu’un système devient extrêmement intelligent et autonome, il devient très difficile de garantir qu’il poursuivra précisément les objectifs humains, sans contourner les mesures de sécurité. C’est un défi technologique majeur.

Face à ces risques, Hassabis appelle les principales institutions de recherche en IA, les gouvernements et le monde académique à instaurer une coopération internationale, soulignant que la dernière étape vers l’AGI (intelligence artificielle générale) nécessite davantage de recherches sur la sécurité.

Malgré ses regrets de ne pas avoir laissé l’IA en laboratoire plus longtemps, Hassabis reste optimiste pour les 50 prochaines années. Il voit l’IA comme un outil pour aider l’humanité à maîtriser la fusion nucléaire, découvrir des supraconducteurs à température ambiante, voire réduire à zéro le coût de l’énergie pour le voyage spatial. Pour lui, l’IA n’est pas seulement une technologie, mais un miroir amplifiant la quête de vérité de l’humanité. Quelle que soit la réponse, il souhaite connaître la vérité.