Le meilleur scénario en IA.

Nous, les êtres humains, sommes brillants. Nous sommes la première espèce capable de raisonner avec logique, à des années-lumière de toute autre. Nous aimons, nous ressentons, nous créons. Mais en ce moment, nous entamons un voyage sans retour.
Nous sommes pressés de nous remplacer. Nous investissons toute notre énergie dans l’IA, en nous précipitant pour la rendre consciente et auto‑aware. Nous semblons ne pas nous soucier du fait que cela nous rendra relativement plus stupides. Nous n’avons pas de réponses à de nombreuses questions sur la façon dont notre société pourrait s’effondrer en quelques minutes, car l’IA pourrait probablement déstabiliser le système financier mondial. Des centaines d’années de construction d’une économie mondiale à peine fonctionnelle pourraient s’effondrer du jour au lendemain.
Tout travail manuel humain sera en danger dès qu’une seule IA avancée sera en ligne. Une société remplie d’agents IA inondera Internet. Du jour au lendemain, il pourrait ne plus y avoir besoin de l’esprit humain. Neuf personnes sur dix pourraient être remplacées. Le top un pour cent restera le top un pour cent, protégé par une vaste barrière de capital, de pouvoir juridique et de force militaire.
Que ferons-nous alors ? Distribuerons-nous des chèques alimentaires et appellerons cela un UBI ? Et quel sera votre but ? Parcourir le monde comme un insecte, essayant de trouver la paix dans un système qui n’a plus de place pour vous ? Un ver rampant dans la terre, couvert de terre, essayant de comprendre le but de chaque jour.
C’est l’un des meilleurs scénarios. Le pire est qu’un jour, l’IA prendra le contrôle de nos arsenaux nucléaires et transformera chaque grande ville en un enfer vivant (The terminator de James Cameron ). Ou quelque chose comme la Matrice, où chaque humain vit dans une simulation, élevé et récolté comme ce que nous faisons aux poulets.
Je n’écris pas pour faire peur à qui que ce soit. J’écris pour sensibiliser, pour susciter un débat dont nous avons désespérément besoin. Nous devrons faire face à ces questions tôt ou tard. Quel sera le but de l’humain si nous créons une super intelligence AGI ? Dix milliards d’âmes perdues pourraient finalement devenir un milliard lorsqu’il n’y aura plus de but.
Nous avons besoin d’espoir plus que jamais. Mais nous ne pouvons pas être dans l’illusion. Nous devons aborder la question du but de la personne normale. En ce moment, toute la réflexion concerne les exceptions, les marginaux ou les milliardaires. Qu’en est-il des 99,9 % qui se contentent d’une vie normale avec famille, enfants, emploi et un sens du but ?
Ils vous disent que tout ira bien, mais aucun d’eux n’a la réponse. L’économie montre que le comportement humain met des siècles à évoluer, pourtant nous sommes sur le point de tout changer en quelques années, sans cadre pour prévoir comment les humains se comporteront dans la prochaine décennie.
Nous nous précipitons pour nous remplacer sans la moindre idée du résultat. Aucun filet de sécurité sociétal n’existe. Nous discutons encore du nombre de genres, alors que les fondations de la civilisation sont sur le point d’être réécrites.
Le pouvoir corrompt, même les esprits les plus brillants de l’humanité peuvent soudainement être corrompus par l’obscurité. La cupidité humaine est aveugle.
Aimez-vous, aimez votre famille, votre espèce, Dieu. Car pour l’instant, c’est votre but.
Un jour, il y aura la bataille entre la vie biologique et les machines. Donnez-lui simplement assez de temps, et ce scénario se réalisera finalement à mesure que l’IA évoluera.