L'AGI peut-elle vraiment changer le monde ? Commençons par résoudre cette question.

Pour que l'AGI devienne réalité, la puissance de calcul seule suffit-elle ? Clairement non. Le plus grand obstacle, en réalité, c'est la confiance : qui garantit que les agents IA n'agiront pas de manière imprévisible ? Qui va vérifier chacune de leurs décisions ?

Sans couche de confiance vérifiable, l'AGI n'est qu'un château en l'air. Pour que les agents IA opèrent dans des situations réelles, il faut un mécanisme pour les contraindre, les auditer, et permettre à chacun de retracer l'ensemble de leurs actions.

Il ne s'agit pas d'un problème technique, mais d'un problème d'infrastructure. L'AGI veut-elle servir l'humanité ? Il faut d'abord que l'humanité puisse lui faire confiance.