Le PDG de DeepMind déplore que la commercialisation de l'IA soit trop rapide : si l'on avait laissé plus longtemps les laboratoires d'expérimentation, l'humanité aurait peut-être déjà vaincu le cancer

Le PDG de DeepMind, Demis Hassabis, se lamente que la compétition commerciale en IA soit trop précipitée. S’il pouvait laisser la technologie se développer en laboratoire quelques années de plus, peut-être que l’humanité aurait déjà vaincu le cancer.

L’IA change rapidement la vie humaine, avec de nouvelles technologies et outils qui apparaissent toutes les quelques semaines ou même quelques jours. Mais, en tant que l’une des figures centrales de cette vague, le PDG de DeepMind, lauréat du prix Nobel de chimie 2024, Demis Hassabis, pense que le rythme de la compétition en IA est trop rapide. S’il en avait le pouvoir, il laisserait l’IA s’affiner en laboratoire pendant plusieurs années, et peut-être que l’humanité aurait déjà résolu le problème du cancer.

Hassabis a partagé cette réflexion lors d’un podcast animé par la vidéaste Cleo Abram, exprimant sa frustration face au développement actuel de l’IA. Lors d’un entretien avec le magazine Time, Hassabis s’était déjà défini comme un scientifique, insistant sur le fait que ses explorations en IA visaient avant tout la quête de connaissance et la compréhension du monde.

Il a mentionné que son intention initiale en entrant dans le domaine de l’IA n’était pas de créer des chatbots, mais d’accélérer la découverte scientifique. Leur réalisation la plus célèbre est AlphaFold, un système qui a résolu le « problème du repliement des protéines », une énigme biologique non résolue depuis 50 ans. Hassabis souligne que cela a bénéficié à plus de 3 millions de scientifiques dans le monde, notamment dans la recherche sur le paludisme, où l’IA fournit une base de données structurale gratuite, permettant aux chercheurs de passer directement à la phase de développement de médicaments, sans devoir réaliser d’expériences de base.

Source : Youtube. Les résultats de recherche d’AlphaFold ont permis à Hassabis de devenir l’un des lauréats du prix Nobel.

Il pense que si l’IA pouvait rester plus longtemps en laboratoire, concentrée sur ces questions clés, l’humanité aurait peut-être déjà réalisé des avancées décisives dans le traitement du cancer ou dans la science des matériaux.

Les technologies de pointe atteignent le grand public en quelques mois, mais au prix de la perte de ressources pour les questions cruciales

Hassabis décrit dans l’interview sa vision idéale du développement de l’IA — ce qu’il appelle le « modèle CERN ». Il souhaite que le processus de développement d’une intelligence artificielle générale (AGI) ressemble à l’exploitation du Grand collisionneur de hadrons (LHC) par le CERN : une démarche rigoureuse, prudente et réfléchie, utilisant la méthode scientifique pour garantir une compréhension complète à chaque étape, avant d’avancer.

Cependant, la réalité s’éloigne de ce scénario idéal. La popularité de ChatGPT fin 2022 et les avancées dans l’IA générative ont déclenché une course commerciale chaotique à l’échelle mondiale. Hassabis admet que cette situation a accéléré la mise en œuvre de la technologie IA, permettant à des technologies avancées d’atteindre le grand public en quelques mois. Mais cela a aussi détourné des ressources des questions vraiment essentielles.

Pour dominer le marché et garder une avance technologique, le rythme de développement a été forcé à une vitesse élevée. Hassabis confie qu’ils ne peuvent plus suivre le rythme qu’il avait imaginé il y a plusieurs années, celui d’un développement réfléchi, philosophique, évaluant chaque étape avec prudence.

Bien que les chatbots IA soient très utiles pour résumer ou stimuler la réflexion, ils présentent encore des défauts comme la « hallucination » (fournir des informations incorrectes). La pression commerciale pousse cependant ces produits expérimentaux à être rapidement commercialisés. Cela entraîne un détournement massif de ressources vers la sortie de modèles de base généralistes, conçus pour plaire au grand public.

Pour équilibrer la réalité et l’idéal, Hassabis adopte une approche plus pragmatique : d’un côté, il dirige le développement de produits IA grand public comme Gemini chez Google, et de l’autre, il investit dans l’IA appliquée (Narrow AI). Il pense qu’il n’est pas nécessaire d’attendre l’AGI pour faire des progrès concrets. Des systèmes spécialisés comme AlphaFold permettent déjà à l’humanité de faire des avancées dans l’énergie, la science des matériaux et la médecine.

Une victoire d’AlphaGo révèle la possibilité que l’IA dépasse la pensée humaine

La confiance de Hassabis en l’IA repose en grande partie sur la partie d’AlphaGo en 2016 contre le maître coréen Lee Sedol, qui a bouleversé le monde. Lors de cette partie, AlphaGo a joué le fameux « coup 37 », une move que personne ne pensait capable de faire, mais qui a finalement conduit à la victoire de l’IA.

Source : gogameguru.com. La stratégie de l’AlphaGo, qui a joué un coup que les grands maîtres humains ne pouvaient envisager, est vue par Hassabis comme une preuve que l’IA peut dépasser le cadre de la pensée humaine.

Hassabis a compris à partir de ce signal que l’IA possède la capacité de dépasser l’expérience humaine, en trouvant des solutions totalement nouvelles. Il souhaite appliquer cette capacité créative à la science.

AlphaFold en est la meilleure illustration. La méthode traditionnelle nécessite des millions de dollars et plusieurs années pour déterminer la structure d’une seule protéine. AlphaFold 2 a déjà prédit près de 200 millions de structures protéiques connues dans la communauté scientifique.

Aujourd’hui, Hassabis mène une équipe dans la recherche pharmaceutique avancée. La recherche classique prend environ 10 ans et ne réussit qu’à 10 % des essais. Il a créé Isomorphic Labs, qui utilise AlphaFold 3 et des modèles ultérieurs pour faire du « criblage virtuel » : en quelques minutes, l’IA peut simuler des millions de combinaisons de molécules et de protéines, tout en vérifiant leur toxicité potentielle sur plus de 20 000 autres protéines humaines. Cela permet d’éliminer à l’avance la majorité des combinaisons qui échoueraient en laboratoire, ne laissant que les candidats les plus prometteurs pour validation expérimentale.

Deux risques liés à l’IA qui inquiètent

Cependant, avec l’amélioration de l’IA et l’avènement de l’ère des agents IA, les inquiétudes de Hassabis deviennent plus concrètes. Il résume ces risques en deux catégories principales : le premier concerne les « acteurs malveillants » (Bad Actors), qu’il s’agisse d’individus ou d’États, qui pourraient utiliser à des fins nuisibles des technologies initialement destinées à guérir des maladies ou à développer de nouveaux matériaux.

Le second risque, plus spéculatif mais bien réel, est celui de l’« IA qui déraille » (Going rogue). Lorsqu’un système devient extrêmement intelligent et autonome, il devient très difficile de garantir qu’il exécute précisément les objectifs humains, sans contourner les mesures de sécurité. C’est un défi technologique majeur.

Face à ces enjeux, Hassabis appelle les principales institutions de recherche en IA, les gouvernements et le monde académique à établir une coopération internationale. Il insiste sur le fait que, dans la dernière étape vers l’AGI, il faut intensifier la recherche sur la sécurité.

Malgré ses regrets de ne pas avoir laissé l’IA en laboratoire plus longtemps, Hassabis reste optimiste pour les 50 prochaines années. Il voit l’IA comme un outil pour aider l’humanité à maîtriser la fusion nucléaire, découvrir des supraconducteurs à température ambiante, voire réduire à zéro le coût énergétique des voyages spatiaux. Pour lui, l’IA n’est pas seulement une technologie, mais un microscope pour explorer la vérité du monde. Quelle que soit la réponse, il souhaite connaître la vérité.

• Cet article est reproduit avec autorisation de : « Digital Times »
• Titre original : « Lauréat du Nobel déplore la rapidité de la commercialisation de l’IA : si l’on était resté plus longtemps en laboratoire, l’humanité aurait peut-être déjà vaincu le cancer ! »
• Auteur original : Chen Jianjun