Manus получил оценку SOTA (State-of-the-Art) в бенчмарке GAIA, показав, что его производительность превосходит большие модели Open AI того же уровня. Другими словами, он может самостоятельно решать сложные задачи, такие как трансграничные деловые переговоры, которые включают в себя разбивку условий контракта, прогнозирование стратегий, выработку решений и даже координацию юридических и финансовых команд. По сравнению с традиционными системами, Manus имеет преимущество в способности к динамической разборке объектов, способности к кросс-модальному мышлению и способности к обучению с улучшением памяти. Он может разбивать большие задачи на сотни исполняемых подзадач, обрабатывать несколько типов данных одновременно и использовать обучение с подкреплением для постоянного повышения эффективности принятия решений и снижения количества ошибок.
Помимо восхищения быстрым развитием технологий, Манус в очередной раз вызвал разногласия в кругах по поводу пути эволюции ИИ: будет ли AGI доминировать в мире в будущем, или MAS будет доминировать синергетически?
Это начинается с философии дизайна Мануса, которая подразумевает две возможности:
Один из них – это путь AGI. Постоянно повышая уровень индивидуального интеллекта, он приближается к способности человека принимать всеобъемлющие решения.
Существует также тропа MAS. В качестве супер-координатора командуйте тысячами вертикальных агентов для совместной работы.
На первый взгляд, мы обсуждаем разные пути, но на самом деле мы обсуждаем глубинное противоречие развития ИИ: как сбалансировать эффективность и безопасность? Чем ближе монолитный интеллект к ОИИ, тем выше риск принятия решений по принципу «черного ящика». Несмотря на то, что совместная работа нескольких агентов может привести к увеличению рисков, она может пропустить критически важные окна принятия решений из-за задержек в обмене данными.
Эволюция Мануса незаметно увеличила риски, присущие развитию ИИ. Например, черные дыры в области конфиденциальности данных: в медицинских сценариях компании Manus необходим доступ к геномным данным пациента в режиме реального времени; Во время финансовых переговоров он может затронуть нераскрытую финансовую информацию компании; Например, ловушка алгоритмической предвзятости, в переговорах о приеме на работу Манус дает рекомендации по зарплате ниже среднего кандидатам определенной этнической принадлежности; При рассмотрении юридических контрактов процент неправильных оценок условий новых отраслей составляет почти половину. Другим примером является уязвимость состязательной атаки, когда хакеры имплантируют определенные голосовые частоты, чтобы позволить Манусу неправильно оценить диапазон предложения оппонента во время переговоров.
Мы должны столкнуться с ужасной болевой точкой для систем ИИ: чем умнее система, тем шире поверхность атаки.
Тем не менее, безопасность — это слово, которое часто упоминается в web3, и существует множество методов шифрования, производных от структуры невозможного треугольника V (блокчейн-сети не могут достичь безопасности, децентрализации и масштабируемости одновременно):
Основная идея модели безопасности Zero Trust :* — «никому не доверяй, всегда проверяй», то есть устройствам не следует доверять по умолчанию, независимо от того, находятся они во внутренней сети или нет. В этой модели особое внимание уделяется строгой аутентификации и авторизации для каждого запроса на доступ для обеспечения безопасности системы.
Децентрализованная идентификация (DID): DID — это набор стандартов идентификаторов, которые позволяют идентифицировать сущности проверяемым и постоянным образом без необходимости в централизованном реестре. Это позволяет создать новую модель децентрализованной цифровой идентификации, которую часто сравнивают с самостоятельной суверенной идентификацией, которая является неотъемлемой частью Web3.
Полностью гомоморфное шифрование (FHE) — это усовершенствованный метод шифрования, который позволяет выполнять произвольные вычисления с зашифрованными данными без их расшифровки. Это означает, что над зашифрованным текстом может работать третья сторона, а результат, полученный после расшифровки, будет таким же, как и результат той же операции над открытым текстом. Эта функция важна для сценариев, требующих вычислений без раскрытия необработанных данных, таких как облачные вычисления и аутсорсинг данных.
Модели безопасности с нулевым доверием и DID имеют определенное количество проектов в нескольких раундах бычьих рынков, и они либо преуспели, либо утонули в волне шифрования, и как самый молодой метод шифрования: полностью гомоморфное шифрование (FHE) также является большим убийцей для решения проблем безопасности в эпоху искусственного интеллекта. Полностью гомоморфное шифрование (FHE) — это технология, которая позволяет выполнять вычисления на основе зашифрованных данных.
Как это исправить?
Во-первых, на уровне данных. Вся вводимая пользователем информация (включая биометрию, тон голоса) обрабатывается в зашифрованном состоянии, и даже сам Манус не может расшифровать исходные данные. Например, в случае медицинского диагноза геномные данные пациента анализируются в зашифрованном виде, чтобы избежать утечки биологической информации.
Алгоритмический уровень. «Обучение криптографической модели», достигаемое с помощью FHE, делает невозможным для разработчиков заглянуть в путь принятия решений ИИ.
На уровне синергии. Пороговое шифрование используется для обмена данными между несколькими агентами, и один узел может быть взломан без глобальной утечки данных. Даже во время учений по атакам на цепочку поставок и защите злоумышленники проникают в сеть нескольких агентов, чтобы получить полное представление о бизнесе.
Из-за технических ограничений безопасность web3 может не иметь прямого отношения к большинству пользователей, но она неразрывно связана с косвенными интересами.
Запущенный в основной сети Ethereum в 2017 году, uPort стал, вероятно, первым проектом децентрализованной идентификации (DID), выпущенным в основной сети.
Что касается модели безопасности Zero Trust, NKN запустила свою основную сеть в 2019 году.
Mind Network — это первый проект PHE, запущенный в основной сети, и он взял на себя ведущую роль в сотрудничестве с ZAMA, Google, DeepSeek и т. д.
uPort и NKN уже являются проектами, о которых я никогда не слышал, и, похоже, что на проекты безопасности действительно не обращают внимания спекулянты, поэтому давайте подождем и посмотрим, сможет ли сеть Mind избежать этого проклятия и стать лидером в области безопасности.
Будущее уже здесь. Чем ближе ИИ к человеческому интеллекту, тем больше он нуждается в нечеловеческой защите. Ценность FHE заключается не только в решении сегодняшних проблем, но и в том, чтобы проложить путь к эре сильного искусственного интеллекта. На этом коварном пути к AGI FHE является не вариантом, а необходимостью для выживания.
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Манус приносит рассвет ОИИ, и безопасность ИИ также стоит задуматься
Manus получил оценку SOTA (State-of-the-Art) в бенчмарке GAIA, показав, что его производительность превосходит большие модели Open AI того же уровня. Другими словами, он может самостоятельно решать сложные задачи, такие как трансграничные деловые переговоры, которые включают в себя разбивку условий контракта, прогнозирование стратегий, выработку решений и даже координацию юридических и финансовых команд. По сравнению с традиционными системами, Manus имеет преимущество в способности к динамической разборке объектов, способности к кросс-модальному мышлению и способности к обучению с улучшением памяти. Он может разбивать большие задачи на сотни исполняемых подзадач, обрабатывать несколько типов данных одновременно и использовать обучение с подкреплением для постоянного повышения эффективности принятия решений и снижения количества ошибок.
! Манус приносит рассвет ОИИ, безопасность ИИ также стоит задуматься
Помимо восхищения быстрым развитием технологий, Манус в очередной раз вызвал разногласия в кругах по поводу пути эволюции ИИ: будет ли AGI доминировать в мире в будущем, или MAS будет доминировать синергетически?
Это начинается с философии дизайна Мануса, которая подразумевает две возможности:
Один из них – это путь AGI. Постоянно повышая уровень индивидуального интеллекта, он приближается к способности человека принимать всеобъемлющие решения.
Существует также тропа MAS. В качестве супер-координатора командуйте тысячами вертикальных агентов для совместной работы.
На первый взгляд, мы обсуждаем разные пути, но на самом деле мы обсуждаем глубинное противоречие развития ИИ: как сбалансировать эффективность и безопасность? Чем ближе монолитный интеллект к ОИИ, тем выше риск принятия решений по принципу «черного ящика». Несмотря на то, что совместная работа нескольких агентов может привести к увеличению рисков, она может пропустить критически важные окна принятия решений из-за задержек в обмене данными.
Эволюция Мануса незаметно увеличила риски, присущие развитию ИИ. Например, черные дыры в области конфиденциальности данных: в медицинских сценариях компании Manus необходим доступ к геномным данным пациента в режиме реального времени; Во время финансовых переговоров он может затронуть нераскрытую финансовую информацию компании; Например, ловушка алгоритмической предвзятости, в переговорах о приеме на работу Манус дает рекомендации по зарплате ниже среднего кандидатам определенной этнической принадлежности; При рассмотрении юридических контрактов процент неправильных оценок условий новых отраслей составляет почти половину. Другим примером является уязвимость состязательной атаки, когда хакеры имплантируют определенные голосовые частоты, чтобы позволить Манусу неправильно оценить диапазон предложения оппонента во время переговоров.
Мы должны столкнуться с ужасной болевой точкой для систем ИИ: чем умнее система, тем шире поверхность атаки.
Тем не менее, безопасность — это слово, которое часто упоминается в web3, и существует множество методов шифрования, производных от структуры невозможного треугольника V (блокчейн-сети не могут достичь безопасности, децентрализации и масштабируемости одновременно):
Основная идея модели безопасности Zero Trust :* — «никому не доверяй, всегда проверяй», то есть устройствам не следует доверять по умолчанию, независимо от того, находятся они во внутренней сети или нет. В этой модели особое внимание уделяется строгой аутентификации и авторизации для каждого запроса на доступ для обеспечения безопасности системы. Децентрализованная идентификация (DID): DID — это набор стандартов идентификаторов, которые позволяют идентифицировать сущности проверяемым и постоянным образом без необходимости в централизованном реестре. Это позволяет создать новую модель децентрализованной цифровой идентификации, которую часто сравнивают с самостоятельной суверенной идентификацией, которая является неотъемлемой частью Web3. Полностью гомоморфное шифрование (FHE) — это усовершенствованный метод шифрования, который позволяет выполнять произвольные вычисления с зашифрованными данными без их расшифровки. Это означает, что над зашифрованным текстом может работать третья сторона, а результат, полученный после расшифровки, будет таким же, как и результат той же операции над открытым текстом. Эта функция важна для сценариев, требующих вычислений без раскрытия необработанных данных, таких как облачные вычисления и аутсорсинг данных.
Модели безопасности с нулевым доверием и DID имеют определенное количество проектов в нескольких раундах бычьих рынков, и они либо преуспели, либо утонули в волне шифрования, и как самый молодой метод шифрования: полностью гомоморфное шифрование (FHE) также является большим убийцей для решения проблем безопасности в эпоху искусственного интеллекта. Полностью гомоморфное шифрование (FHE) — это технология, которая позволяет выполнять вычисления на основе зашифрованных данных.
Как это исправить?
Во-первых, на уровне данных. Вся вводимая пользователем информация (включая биометрию, тон голоса) обрабатывается в зашифрованном состоянии, и даже сам Манус не может расшифровать исходные данные. Например, в случае медицинского диагноза геномные данные пациента анализируются в зашифрованном виде, чтобы избежать утечки биологической информации.
Алгоритмический уровень. «Обучение криптографической модели», достигаемое с помощью FHE, делает невозможным для разработчиков заглянуть в путь принятия решений ИИ.
На уровне синергии. Пороговое шифрование используется для обмена данными между несколькими агентами, и один узел может быть взломан без глобальной утечки данных. Даже во время учений по атакам на цепочку поставок и защите злоумышленники проникают в сеть нескольких агентов, чтобы получить полное представление о бизнесе.
Из-за технических ограничений безопасность web3 может не иметь прямого отношения к большинству пользователей, но она неразрывно связана с косвенными интересами.
Запущенный в основной сети Ethereum в 2017 году, uPort стал, вероятно, первым проектом децентрализованной идентификации (DID), выпущенным в основной сети. Что касается модели безопасности Zero Trust, NKN запустила свою основную сеть в 2019 году. Mind Network — это первый проект PHE, запущенный в основной сети, и он взял на себя ведущую роль в сотрудничестве с ZAMA, Google, DeepSeek и т. д.
uPort и NKN уже являются проектами, о которых я никогда не слышал, и, похоже, что на проекты безопасности действительно не обращают внимания спекулянты, поэтому давайте подождем и посмотрим, сможет ли сеть Mind избежать этого проклятия и стать лидером в области безопасности.
Будущее уже здесь. Чем ближе ИИ к человеческому интеллекту, тем больше он нуждается в нечеловеческой защите. Ценность FHE заключается не только в решении сегодняшних проблем, но и в том, чтобы проложить путь к эре сильного искусственного интеллекта. На этом коварном пути к AGI FHE является не вариантом, а необходимостью для выживания.