Le moment DeepSeek de TAO : l'ascension de Templar (SN3)

Auteur : CJ_Blockchain

Le 3 février 2025, un modèle nommé DeepSeek-R1 a discrètement été lancé sur la plateforme nationale de supercalcul Internet.

Au cours du mois suivant, grâce à ses performances directement comparables aux modèles propriétaires de pointe et à ses coûts d’entraînement « à prix cassé », il a conquis le monde entier.

Cela a provoqué la chute brutale des actions AI sur le marché américain et a marqué le début du « moment DeepSeek » pour l’IA chinoise.

Le 10 mars 2026, le subnet 3 Templar de Bittensor a annoncé avoir réalisé la plus grande pré-formation de modèle de langage décentralisé (LLM) de l’histoire — Covenant-72B.

Il s’agit de la plus grande pré-formation de modèle de langage décentralisé jamais réalisée :

720 millions de paramètres, sur un ensemble de données d’environ 1,1 trillion de tokens, entièrement via le réseau de Bittensor Subnet 3, sans permission, avec la participation libre de plus de 70 nœuds indépendants.

Bittensor a connu son propre moment DeepSeek.

1. Templar (SN3) : de la collecte de données à la transformation du paradigme de formation centrale

Anciennement appelé SN3, exploité par Omega Labs, Templar a initialement axé ses efforts sur la collecte et l’exploration de données multimodales. Avec l’évolution du mécanisme de Bittensor, cette sous-réseau a effectué une transition stratégique, passant de « transporteur de données » à « fondeur de modèles ».

Actuellement, Templar se positionne comme une infrastructure mondiale de pré-formation de grands modèles distribués. En utilisant un mécanisme d’incitation, il rassemble la puissance de calcul hétérogène à l’échelle mondiale, visant à résoudre les coûts de calcul extrêmement élevés et les problèmes de censure centralisée dans la formation de grands modèles. La livraison réussie de Covenant-72B a validé la maturité de ce mode de production décentralisé.

2. Covenant-72B : briser le plafond de taille de la formation décentralisée

Covenant-72B représente une étape majeure issue de Templar, et est actuellement le plus grand modèle pré-entraîné à architecture dense dans un réseau décentralisé.

• Paramètres clés : 72 milliards de paramètres, pré-entraîné sur le corpus DCLM haute performance.
• Performance : ses résultats dans les évaluations de modèles de base sont proches de ceux de Llama-2-70B de Meta.
• Optimisation par instruction : après ajustement fin, Covenant-72B-Chat montre une forte compétitivité dans IFEval (suivi d’instructions) et MATH (raisonnement mathématique), surpassant même certains modèles propriétaires de la même taille sur certains indicateurs.
• Efficacité en inférence : atteignant 450 tokens/sec, ce modèle résout le problème de latence dans les applications pratiques de grands modèles.

3. Algorithme SparseLoCo : moteur sous-jacent de la formation décentralisée

En entraînant un modèle de 72 milliards de paramètres sur un environnement Internet ordinaire, le principal défi est la bande passante de communication entre nœuds. Templar a réalisé une avancée qualitative grâce à l’algorithme clé SparseLoCo :

• Compression extrême : ne transmet que 1-3 % des gradients essentiels, quantifiés en 2 bits, réduisant considérablement la demande en bande passante.
• Synchronisation à faible fréquence : contrairement à la synchronisation à chaque étape des clusters traditionnels, SparseLoCo permet aux nœuds d’itérer localement entre 15 et 250 fois avant une synchronisation globale.
• Compensation d’erreur : via une accumulation locale des gradients, garantissant la convergence même avec plus de 97 % d’informations perdues.

Cette approche prouve que, même sans clusters coûteux comme InfiniBand, il est possible d’obtenir une intelligence de haut niveau via un réseau mondial distribué classique.

4. Évaluation de l’industrie et réaction du marché

Les avancées techniques de Templar ont attiré l’attention du secteur IA et des marchés financiers :

• Reconnaissance officielle :

Jack Clark, co-fondateur d’Anthropic, a classé Templar comme le plus grand réseau d’entraînement décentralisé actif au monde dans son rapport, soulignant que sa vitesse de développement dépasse les attentes du secteur.

Jason Calacanis (animateur du podcast All-In, investisseur renommé de la Silicon Valley) a récemment détaillé le mécanisme de Bittensor dans un blog, laissant entendre que l’on devrait envisager d’acheter.

• Stratégie institutionnelle :

Grayscale continue d’accumuler TAO, en le considérant comme une position clé dans la course à l’IA décentralisée.

DCG a créé Yuma, dédié à accélérer le développement de l’écosystème Bittensor (TAO), considéré comme le pari le plus important et direct de DCG sur l’IA décentralisée.

• Performance du marché :

$TAO : Après l’annonce de la réalisation du grand modèle 72B par Templar, TAO a augmenté de plus de 30 %, affichant une forte performance dans un marché volatil de BTC.

$Templar (SN-3) : Templar a augmenté de 75 % en 7 jours, étant considéré comme le principal « dragon » capturant l’émission de Bittensor. La capitalisation boursière actuelle n’est que de 70 millions.

5. Potentiel d’investissement des sous-réseaux et plafond écologique

Le succès de Templar ouvre de nouvelles perspectives pour l’écosystème Bittensor :

• Élever le plafond de valeur : longtemps, le public a douté que Bittensor ne soit qu’une « incitation par l’air ». Templar prouve que le protocole peut produire des outils de productivité compétitifs commercialement, faisant passer la valorisation de TAO d’une « narration » à un « produit ».
• Potentiel de la puissance de calcul hétérogène : avec le développement de « SparseLoCo hétérogène », les cartes graphiques grand public (comme RTX 4090) pourront participer directement à la formation de modèles de centaines de milliards de paramètres, démocratisant ainsi l’accès aux ressources.
• Opportunités déterministes des sous-réseaux : dans le cadre du mécanisme dTAO, des sous-réseaux comme Templar, dotés de barrières technologiques solides et capables de produire continuellement des modèles haute performance, ont une valeur de long terme très élevée.

Templar, MC actuel = 75 millions, FDV = 350 millions

Alors que les grandes entreprises de modèles comme OpenAI ont une valorisation de 840 milliards, Anthropic 350 milliards, Minimax 45 milliards.

Il ne s’agit pas de dire que Templar peut directement rivaliser avec ces sociétés, mais dans un contexte où la narration est rare, l’attention se dissipe et la confiance dans la décentralisation diminue, l’émergence de Templar constitue sans doute un puissant stimulant pour l’IA décentralisée.

Conclusion

Templar a prouvé que la décentralisation ne se limite pas au stockage de données, mais peut aussi produire de l’intelligence. Covenant-72B n’est qu’un début ; avec l’intégration verticale de SN3 (pré-formation), SN39 (puissance de calcul) et SN81 (apprentissage renforcé), une version décentralisée de l’OpenAI, fonctionnant sur blockchain, commence à émerger.

Depuis la naissance de l’industrie crypto jusqu’à aujourd’hui, de nombreuses narrations ont été invalidées. La décentralisation du stockage, de la puissance de calcul et des ordinateurs semble avoir été remise en question, mais il est réjouissant de voir des projets persévérer sur cette voie et réaliser des progrès.

Le succès de Templar n’est pas seulement le moment DeepSeek de Bittensor, mais peut-être aussi celui de la crypto en général.