Manus ha logrado un rendimiento SOTA (State-of-the-Art) en las pruebas de referencia de GAIA, mostrando que su rendimiento supera a los grandes modelos de Open AI en el mismo nivel. En otras palabras, puede completar tareas complejas de forma independiente, como negociaciones comerciales internacionales, que implican desglose de cláusulas contractuales, anticipación de estrategias, generación de soluciones e incluso coordinación de equipos legales y financieros. En comparación con los sistemas tradicionales, la ventaja de Manus radica en su capacidad de descomposición dinámica de objetivos, capacidad de razonamiento multimodal y capacidad de aprendizaje reforzado. Puede descomponer tareas grandes en cientos de sub tareas ejecutables, manejar varios tipos de datos y utilizar el aprendizaje reforzado para mejorar continuamente su eficiencia de toma de decisiones y reducir la tasa de error.
¡Manus trae la primera luz de AGI, la seguridad de AI también merece una profunda reflexión!(https://img.gateio.im/social/moments-d8f9f7a6403c227fe590b5571b7e5a14)
Ante la sorprendente rapidez del desarrollo tecnológico, Manus ha vuelto a suscitar divergencias en la industria sobre el camino de evolución de la IA: ¿dominará el AGI el futuro, o será el MAS el líder en colaboración?
Esto debe empezar con la filosofía de diseño de Manus, que implica dos posibilidades:
Uno de los caminos es AGI. Elevando continuamente el nivel de inteligencia individual para que se acerque a la capacidad de toma de decisiones humanas.
Otra opción es la ruta MAS. Como supercoordinador, dirige a miles de Agentes de diferentes áreas verticales para una operación conjunta.
En apariencia, estamos discutiendo diferentes puntos de divergencia, pero en realidad estamos discutiendo la contradicción fundamental del desarrollo de la IA: ¿cómo equilibrar la eficiencia y la seguridad? A medida que la inteligencia individual se acerca más a la IAG, el riesgo de opacidad de las decisiones aumenta; mientras que la coordinación de múltiples agentes puede dispersar el riesgo, también puede perder ventanas críticas de decisión debido a retrasos en la comunicación.
La evolución de Manus ha ampliado inadvertidamente los riesgos inherentes al desarrollo de la IA. Por ejemplo, el agujero negro de la privacidad de los datos: en entornos médicos, Manus necesita acceder en tiempo real a los datos genómicos de los pacientes; durante las negociaciones financieras, podría acceder a información financiera no divulgada de la empresa; o la trampa de sesgo algorítmico, donde en negociaciones de contratación, Manus sugiere salarios por debajo del promedio para candidatos de ciertas etnias; en la revisión de contratos legales, la tasa de error en la interpretación de términos de industrias emergentes es casi del cincuenta por ciento. Otro ejemplo es la vulnerabilidad a los ataques, donde los hackers pueden engañar a Manus durante las negociaciones al introducir frecuencias de voz específicas para distorsionar los rangos de precios de los oponentes.
Tenemos que enfrentar un punto doloroso aterrador del sistema de IA: cuanto más inteligente es el sistema, más amplio es el campo de ataque.
Sin embargo, la seguridad es un término que se menciona constantemente en web3, y bajo el marco del triángulo imposible de V (la red blockchain no puede lograr simultáneamente seguridad, descentralización y escalabilidad), también se han desarrollado múltiples formas de cifrado:
Modelo de seguridad de confianza cero (Zero Trust Security Model): El concepto central del modelo de seguridad de confianza cero es "no confiar en nadie, siempre verificar", lo que significa que no se debe confiar por defecto en ningún dispositivo, independientemente de si se encuentra en la red interna. Este modelo enfatiza la estricta autenticación y autorización de cada solicitud de acceso para garantizar la seguridad del sistema.
Identidad descentralizada (Decentralized Identity, DID): DID es un conjunto de normas de identificación que permite a las entidades obtener identificación de forma verificable y duradera sin necesidad de un registro centralizado. Esto logra un nuevo modelo de identidad digital descentralizada, a menudo asociado con la identidad soberana, y es una parte importante de Web3.
Cifrado completamente homomórfico (Fully Homomorphic Encryption, FHE) es una tecnología de cifrado avanzada que permite realizar cálculos arbitrarios en datos cifrados sin descifrarlos. Esto significa que un tercero puede operar sobre el texto cifrado y obtener un resultado que, al descifrarse, coincide con el resultado de operar sobre el texto en claro. Esta característica es de gran importancia para escenarios en los que se necesitan realizar cálculos sin exponer los datos originales, como la computación en la nube y la externalización de datos.
El modelo de seguridad de confianza cero y DID tienen un cierto número de proyectos en la multitud de toros, algunos de los cuales han tenido éxito, mientras que otros se han perdido en la ola criptográfica. Como la forma más joven de cifrado: el cifrado completamente homomórfico (FHE) también es un gran arma para abordar los problemas de seguridad de la era de la IA. El cifrado completamente homomórfico (FHE) es una técnica que permite realizar cálculos en datos cifrados.
¿Cómo resolver?
En primer lugar, en cuanto a los datos. Toda la información ingresada por los usuarios (incluidas las características biológicas y el tono de voz) se procesa en estado cifrado, y ni siquiera Manus puede descifrar los datos originales. Por ejemplo, en el caso de diagnóstico médico, los datos genómicos de los pacientes se analizan encriptados en todo momento para evitar la divulgación de información biológica.
En el nivel del algoritmo. A través del 'entrenamiento del modelo de cifrado' implementado por FHE, ni siquiera los desarrolladores pueden espiar el camino de decisión de la IA.
En el nivel de colaboración. La comunicación entre múltiples Agentes utiliza cifrado de umbral, por lo que la piratería de un solo nodo no conducirá a una fuga de datos a nivel mundial. Incluso en el escenario de simulacro de ataque y defensa de la cadena de suministro, los atacantes no pueden obtener una vista completa del negocio después de infiltrarse en varios Agentes.
Y debido a limitaciones técnicas, la seguridad de web3 puede que no esté directamente relacionada con la mayoría de los usuarios, pero tiene beneficios indirectos intrincados. En este oscuro bosque, si no te armas lo suficiente, nunca podrás escapar de tu identidad de "cordero".
uPort fue lanzado en la red principal de Ethereum en 2017, y posiblemente sea el primer proyecto de identidad descentralizada (DID) lanzado en la red principal.
Y en cuanto al modelo de seguridad de confianza cero, NKN lanzó su mainnet en 2019.
Mind Network es el primer proyecto FHE en ser lanzado en la red principal y ha sido el primero en colaborar con ZAMA, Google, DeepSeek, entre otros.
uPort y NKN ya son proyectos que nunca he oído hablar, parece que los proyectos de seguridad realmente no son de interés para los especuladores. ¿Podrá Mind Network escapar de esta maldición y convertirse en un líder en el campo de la seguridad? Estaremos atentos.
El futuro ya está aquí. A medida que la IA se acerca a la inteligencia humana, necesita un sistema de defensa no humano. El valor de FHE no solo radica en resolver problemas actuales, sino también en allanar el camino para la era de la IA fuerte. En este difícil camino hacia la AGI, FHE no es una opción, sino una necesidad para la supervivencia.
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
Manus带来AGI的曙光初现， Seguridad de la IA亦值得深思
Autor: 0xResearcher
Manus ha logrado un rendimiento SOTA (State-of-the-Art) en las pruebas de referencia de GAIA, mostrando que su rendimiento supera a los grandes modelos de Open AI en el mismo nivel. En otras palabras, puede completar tareas complejas de forma independiente, como negociaciones comerciales internacionales, que implican desglose de cláusulas contractuales, anticipación de estrategias, generación de soluciones e incluso coordinación de equipos legales y financieros. En comparación con los sistemas tradicionales, la ventaja de Manus radica en su capacidad de descomposición dinámica de objetivos, capacidad de razonamiento multimodal y capacidad de aprendizaje reforzado. Puede descomponer tareas grandes en cientos de sub tareas ejecutables, manejar varios tipos de datos y utilizar el aprendizaje reforzado para mejorar continuamente su eficiencia de toma de decisiones y reducir la tasa de error.
¡Manus trae la primera luz de AGI, la seguridad de AI también merece una profunda reflexión!(https://img.gateio.im/social/moments-d8f9f7a6403c227fe590b5571b7e5a14)
Ante la sorprendente rapidez del desarrollo tecnológico, Manus ha vuelto a suscitar divergencias en la industria sobre el camino de evolución de la IA: ¿dominará el AGI el futuro, o será el MAS el líder en colaboración?
Esto debe empezar con la filosofía de diseño de Manus, que implica dos posibilidades:
Uno de los caminos es AGI. Elevando continuamente el nivel de inteligencia individual para que se acerque a la capacidad de toma de decisiones humanas.
Otra opción es la ruta MAS. Como supercoordinador, dirige a miles de Agentes de diferentes áreas verticales para una operación conjunta.
En apariencia, estamos discutiendo diferentes puntos de divergencia, pero en realidad estamos discutiendo la contradicción fundamental del desarrollo de la IA: ¿cómo equilibrar la eficiencia y la seguridad? A medida que la inteligencia individual se acerca más a la IAG, el riesgo de opacidad de las decisiones aumenta; mientras que la coordinación de múltiples agentes puede dispersar el riesgo, también puede perder ventanas críticas de decisión debido a retrasos en la comunicación.
La evolución de Manus ha ampliado inadvertidamente los riesgos inherentes al desarrollo de la IA. Por ejemplo, el agujero negro de la privacidad de los datos: en entornos médicos, Manus necesita acceder en tiempo real a los datos genómicos de los pacientes; durante las negociaciones financieras, podría acceder a información financiera no divulgada de la empresa; o la trampa de sesgo algorítmico, donde en negociaciones de contratación, Manus sugiere salarios por debajo del promedio para candidatos de ciertas etnias; en la revisión de contratos legales, la tasa de error en la interpretación de términos de industrias emergentes es casi del cincuenta por ciento. Otro ejemplo es la vulnerabilidad a los ataques, donde los hackers pueden engañar a Manus durante las negociaciones al introducir frecuencias de voz específicas para distorsionar los rangos de precios de los oponentes.
Tenemos que enfrentar un punto doloroso aterrador del sistema de IA: cuanto más inteligente es el sistema, más amplio es el campo de ataque.
Sin embargo, la seguridad es un término que se menciona constantemente en web3, y bajo el marco del triángulo imposible de V (la red blockchain no puede lograr simultáneamente seguridad, descentralización y escalabilidad), también se han desarrollado múltiples formas de cifrado:
El modelo de seguridad de confianza cero y DID tienen un cierto número de proyectos en la multitud de toros, algunos de los cuales han tenido éxito, mientras que otros se han perdido en la ola criptográfica. Como la forma más joven de cifrado: el cifrado completamente homomórfico (FHE) también es un gran arma para abordar los problemas de seguridad de la era de la IA. El cifrado completamente homomórfico (FHE) es una técnica que permite realizar cálculos en datos cifrados.
¿Cómo resolver?
En primer lugar, en cuanto a los datos. Toda la información ingresada por los usuarios (incluidas las características biológicas y el tono de voz) se procesa en estado cifrado, y ni siquiera Manus puede descifrar los datos originales. Por ejemplo, en el caso de diagnóstico médico, los datos genómicos de los pacientes se analizan encriptados en todo momento para evitar la divulgación de información biológica.
En el nivel del algoritmo. A través del 'entrenamiento del modelo de cifrado' implementado por FHE, ni siquiera los desarrolladores pueden espiar el camino de decisión de la IA.
En el nivel de colaboración. La comunicación entre múltiples Agentes utiliza cifrado de umbral, por lo que la piratería de un solo nodo no conducirá a una fuga de datos a nivel mundial. Incluso en el escenario de simulacro de ataque y defensa de la cadena de suministro, los atacantes no pueden obtener una vista completa del negocio después de infiltrarse en varios Agentes.
Y debido a limitaciones técnicas, la seguridad de web3 puede que no esté directamente relacionada con la mayoría de los usuarios, pero tiene beneficios indirectos intrincados. En este oscuro bosque, si no te armas lo suficiente, nunca podrás escapar de tu identidad de "cordero".
uPort y NKN ya son proyectos que nunca he oído hablar, parece que los proyectos de seguridad realmente no son de interés para los especuladores. ¿Podrá Mind Network escapar de esta maldición y convertirse en un líder en el campo de la seguridad? Estaremos atentos.
El futuro ya está aquí. A medida que la IA se acerca a la inteligencia humana, necesita un sistema de defensa no humano. El valor de FHE no solo radica en resolver problemas actuales, sino también en allanar el camino para la era de la IA fuerte. En este difícil camino hacia la AGI, FHE no es una opción, sino una necesidad para la supervivencia.