Manus a obtenu des performances SOTA (State-of-the-Art) dans les tests de référence GAIA, montrant que ses performances dépassent celles des grands modèles de niveau équivalent d'Open AI. En d'autres termes, il est capable d'accomplir des tâches complexes de manière autonome, telles que des négociations commerciales internationales, impliquant la décomposition des termes du contrat, la prévision stratégique, la génération de solutions, et même la coordination des équipes juridiques et financières. Comparé aux systèmes traditionnels, Manus se distingue par sa capacité de décomposition dynamique des objectifs, sa capacité de raisonnement multimodal et sa capacité d'apprentissage renforcée par la mémoire. Il peut décomposer de grandes tâches en centaines de sous-tâches exécutables, traiter simultanément plusieurs types de données, et améliorer en permanence son efficacité décisionnelle en utilisant l'apprentissage par renforcement, tout en réduisant le taux d'erreurs.
Au milieu de l'étonnante rapidité du développement technologique, Manus suscite à nouveau des divergences dans l'industrie sur la voie de l'évolution de l'IA : l'avenir sera-t-il dominé par l'AGI ou par le MAS en collaboration ?
Il faut commencer par l'approche de conception de Manus, qui implique deux possibilités :
Un est le chemin AGI. En améliorant continuellement le niveau d'intelligence individuelle, il se rapproche de la capacité de décision globale de l'homme.
Il existe également une autre voie, la voie MAS. En tant que super coordinateur, il dirige des milliers d'agents dans des domaines verticaux pour une coopération coordonnée.
En surface, nous discutons de divergences de chemins, mais en réalité, nous discutons des contradictions sous-jacentes au développement de l'IA : comment équilibrer l'efficacité et la sécurité ? Plus l'intelligence individuelle se rapproche de l'AGI, plus le risque de boîte noire décisionnelle est élevé ; cependant, la collaboration de plusieurs agents peut disperser le risque, mais peut également entraîner une perte de fenêtre de décision critique en raison des retards de communication.
L'évolution de Manus a involontairement amplifié les risques inhérents au développement de l'IA. Par exemple, le trou noir de la vie privée des données : dans le domaine médical, Manus a besoin d'accéder en temps réel aux données génomiques des patients ; lors de négociations financières, il peut toucher des informations financières non publiques des entreprises ; par exemple, le piège des préjugés algorithmiques, lors de négociations d'embauche, Manus propose des salaires inférieurs à la moyenne pour les candidats de certains groupes ethniques ; lors de l'examen de contrats juridiques, le taux d'erreur dans l'interprétation des clauses de l'industrie émergente est presque de 50 %. Par exemple, pour contrer les failles d'attaque, les pirates informatiques implantent des fréquences vocales spécifiques pour induire Manus en erreur sur la fourchette de prix de l'adversaire lors des négociations.
Nous devons faire face à un point douloureux effrayant des systèmes d'IA : plus le système est intelligent, plus sa surface d'attaque est large.
Cependant, la sécurité est un terme qui revient constamment dans le web3, et sous le cadre du triangle impossible de V (la sécurité, la décentralisation et la scalabilité ne peuvent pas être réalisées simultanément dans un réseau blockchain), diverses méthodes de chiffrement ont également été développées :
Modèle de sécurité Zero Trust : Le principe central du modèle de sécurité Zero Trust est de "ne faire confiance à personne, toujours vérifier", ce qui signifie qu'aucun appareil, qu'il soit situé sur le réseau interne ou non, ne devrait être considéré comme digne de confiance par défaut. Ce modèle met l'accent sur une stricte authentification et autorisation pour chaque demande d'accès afin de garantir la sécurité du système.
Identité décentralisée (Decentralized Identity, DID) : DID est un ensemble de normes d'identification qui permet aux entités d'obtenir une identification de manière vérifiable et durable sans avoir besoin d'un registre centralisé. Cela permet de mettre en place un nouveau modèle d'identité numérique décentralisée, souvent associé à l'identité souveraine, et constitue une composante importante de Web3.
Le cryptage entièrement homomorphique (Fully Homomorphic Encryption, FHE) est une technologie de cryptage avancée qui permet d'effectuer des calculs arbitraires sur des données chiffrées sans les décrypter. Cela signifie que des tiers peuvent manipuler le texte chiffré et obtenir des résultats cohérents avec ceux obtenus en effectuant les mêmes opérations sur le texte en clair après décryptage. Cette caractéristique est d'une grande importance dans des scénarios nécessitant des calculs sans révéler les données d'origine, tels que le cloud computing et l'externalisation des données.
Le modèle de sécurité Zero Trust et le DID ont été confrontés à un certain nombre de projets au cours de plusieurs cycles haussiers, certains ont réussi, d'autres ont été submergés par la vague cryptographique, et en tant que la cryptographie la plus jeune : le cryptage entièrement homomorphique (Fully Homomorphic Encryption, FHE) est également un puissant outil pour résoudre les problèmes de sécurité à l'ère de l'IA. Le cryptage entièrement homomorphique (FHE) est une technique qui permet d'effectuer des calculs sur des données chiffrées.
Comment résoudre?
Tout d'abord, du point de vue des données. Toutes les informations saisies par l'utilisateur (y compris les caractéristiques biologiques, la voix et l'intonation) sont traitées de manière cryptée, de sorte que même Manus lui-même ne peut pas déchiffrer les données d'origine. Par exemple, dans le cas d'un diagnostic médical, les données génomiques des patients participent à l'analyse sous forme de texte chiffré, afin d'éviter toute fuite d'informations biologiques.
Au niveau de l'algorithme. Avec FHE, le "modèle d'entraînement crypté" rend même les développeurs incapables de sonder le chemin de décision de l'IA.
Au niveau de la collaboration. La communication entre plusieurs agents utilise un cryptage seuil, la compromission d'un seul noeud ne conduira pas à une fuite de données globale. Même lors d'exercices de simulation d'attaque et de défense de la chaîne d'approvisionnement, les attaquants ne peuvent pas obtenir une vue d'ensemble complète de l'activité après avoir infiltré plusieurs agents.
En raison de limitations techniques, la sécurité de web3 peut ne pas être directement liée à la plupart des utilisateurs, mais elle est indirectement liée à de nombreux intérêts. Dans cette sombre forêt, sans efforts pour se protéger, le jour où l'on échappera à l'identité de "légume" ne viendra jamais.
uPort a été lancé sur le réseau principal Ethereum en 2017, et il pourrait être l'un des premiers projets d'identité décentralisée (DID) à être lancé sur le réseau principal.
Et en ce qui concerne le modèle de sécurité Zero Trust, NKN a lancé son réseau principal en 2019.
Le réseau Mind est le premier projet FHE lancé sur le mainnet et le premier à avoir coopéré avec ZAMA, Google, DeepSeek, etc.
uPort et NKN sont des projets que je n'ai jamais entendu parler auparavant. Il semble que les projets de sécurité ne retiennent pas l'attention des spéculateurs. Est-ce que le réseau Mind pourra échapper à cette malédiction et devenir un leader dans le domaine de la sécurité ? Nous attendons avec impatience de le découvrir.
Le futur est déjà là. Plus l'IA se rapproche de l'intelligence humaine, plus elle a besoin d'un système de défense non humain. La valeur de FHE réside non seulement dans la résolution des problèmes actuels, mais aussi dans la préparation de l'ère de l'IA forte. Sur cette route dangereuse menant à l'AGI, FHE n'est pas une option, mais une nécessité vitale.
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Manus带来AGI的曙光初现，Sécurité de l'IA亦值得深思
Auteur : 0xResearcher
Manus a obtenu des performances SOTA (State-of-the-Art) dans les tests de référence GAIA, montrant que ses performances dépassent celles des grands modèles de niveau équivalent d'Open AI. En d'autres termes, il est capable d'accomplir des tâches complexes de manière autonome, telles que des négociations commerciales internationales, impliquant la décomposition des termes du contrat, la prévision stratégique, la génération de solutions, et même la coordination des équipes juridiques et financières. Comparé aux systèmes traditionnels, Manus se distingue par sa capacité de décomposition dynamique des objectifs, sa capacité de raisonnement multimodal et sa capacité d'apprentissage renforcée par la mémoire. Il peut décomposer de grandes tâches en centaines de sous-tâches exécutables, traiter simultanément plusieurs types de données, et améliorer en permanence son efficacité décisionnelle en utilisant l'apprentissage par renforcement, tout en réduisant le taux d'erreurs.
Au milieu de l'étonnante rapidité du développement technologique, Manus suscite à nouveau des divergences dans l'industrie sur la voie de l'évolution de l'IA : l'avenir sera-t-il dominé par l'AGI ou par le MAS en collaboration ?
Il faut commencer par l'approche de conception de Manus, qui implique deux possibilités :
Un est le chemin AGI. En améliorant continuellement le niveau d'intelligence individuelle, il se rapproche de la capacité de décision globale de l'homme.
Il existe également une autre voie, la voie MAS. En tant que super coordinateur, il dirige des milliers d'agents dans des domaines verticaux pour une coopération coordonnée.
En surface, nous discutons de divergences de chemins, mais en réalité, nous discutons des contradictions sous-jacentes au développement de l'IA : comment équilibrer l'efficacité et la sécurité ? Plus l'intelligence individuelle se rapproche de l'AGI, plus le risque de boîte noire décisionnelle est élevé ; cependant, la collaboration de plusieurs agents peut disperser le risque, mais peut également entraîner une perte de fenêtre de décision critique en raison des retards de communication.
L'évolution de Manus a involontairement amplifié les risques inhérents au développement de l'IA. Par exemple, le trou noir de la vie privée des données : dans le domaine médical, Manus a besoin d'accéder en temps réel aux données génomiques des patients ; lors de négociations financières, il peut toucher des informations financières non publiques des entreprises ; par exemple, le piège des préjugés algorithmiques, lors de négociations d'embauche, Manus propose des salaires inférieurs à la moyenne pour les candidats de certains groupes ethniques ; lors de l'examen de contrats juridiques, le taux d'erreur dans l'interprétation des clauses de l'industrie émergente est presque de 50 %. Par exemple, pour contrer les failles d'attaque, les pirates informatiques implantent des fréquences vocales spécifiques pour induire Manus en erreur sur la fourchette de prix de l'adversaire lors des négociations.
Nous devons faire face à un point douloureux effrayant des systèmes d'IA : plus le système est intelligent, plus sa surface d'attaque est large.
Cependant, la sécurité est un terme qui revient constamment dans le web3, et sous le cadre du triangle impossible de V (la sécurité, la décentralisation et la scalabilité ne peuvent pas être réalisées simultanément dans un réseau blockchain), diverses méthodes de chiffrement ont également été développées :
Le modèle de sécurité Zero Trust et le DID ont été confrontés à un certain nombre de projets au cours de plusieurs cycles haussiers, certains ont réussi, d'autres ont été submergés par la vague cryptographique, et en tant que la cryptographie la plus jeune : le cryptage entièrement homomorphique (Fully Homomorphic Encryption, FHE) est également un puissant outil pour résoudre les problèmes de sécurité à l'ère de l'IA. Le cryptage entièrement homomorphique (FHE) est une technique qui permet d'effectuer des calculs sur des données chiffrées.
Comment résoudre?
Tout d'abord, du point de vue des données. Toutes les informations saisies par l'utilisateur (y compris les caractéristiques biologiques, la voix et l'intonation) sont traitées de manière cryptée, de sorte que même Manus lui-même ne peut pas déchiffrer les données d'origine. Par exemple, dans le cas d'un diagnostic médical, les données génomiques des patients participent à l'analyse sous forme de texte chiffré, afin d'éviter toute fuite d'informations biologiques.
Au niveau de l'algorithme. Avec FHE, le "modèle d'entraînement crypté" rend même les développeurs incapables de sonder le chemin de décision de l'IA.
Au niveau de la collaboration. La communication entre plusieurs agents utilise un cryptage seuil, la compromission d'un seul noeud ne conduira pas à une fuite de données globale. Même lors d'exercices de simulation d'attaque et de défense de la chaîne d'approvisionnement, les attaquants ne peuvent pas obtenir une vue d'ensemble complète de l'activité après avoir infiltré plusieurs agents.
En raison de limitations techniques, la sécurité de web3 peut ne pas être directement liée à la plupart des utilisateurs, mais elle est indirectement liée à de nombreux intérêts. Dans cette sombre forêt, sans efforts pour se protéger, le jour où l'on échappera à l'identité de "légume" ne viendra jamais.
uPort et NKN sont des projets que je n'ai jamais entendu parler auparavant. Il semble que les projets de sécurité ne retiennent pas l'attention des spéculateurs. Est-ce que le réseau Mind pourra échapper à cette malédiction et devenir un leader dans le domaine de la sécurité ? Nous attendons avec impatience de le découvrir.
Le futur est déjà là. Plus l'IA se rapproche de l'intelligence humaine, plus elle a besoin d'un système de défense non humain. La valeur de FHE réside non seulement dans la résolution des problèmes actuels, mais aussi dans la préparation de l'ère de l'IA forte. Sur cette route dangereuse menant à l'AGI, FHE n'est pas une option, mais une nécessité vitale.