Manus в тестах на базе GAIA продемонстрировал SOTA (State-of-the-Art) результаты, показывая, что его производительность превосходит аналогичные крупные модели Open AI. Другими словами, он способен самостоятельно выполнять сложные задачи, такие как международные коммерческие переговоры, включая декомпозицию условий контракта, стратегический прогноз, создание планов, а также координацию юридической и финансовой команд. По сравнению с традиционными системами, преимущества Manus заключаются в его способности динамического разложения целей, мульти-модального рассуждения и усиления памяти обучения. Он может разбивать крупные задачи на сотни выполнимых подзадач, одновременно обрабатывать различные типы данных и с помощью обучения с подкреплением постоянно повышать эффективность своих решений, снижая уровень ошибок.
Восхищаясь быстрым развитием технологий, Manus снова вызвал разногласия в отрасли относительно пути развития искусственного интеллекта: в будущем будет ли одновластие искусственного общего интеллекта, или же совместное превосходство множественного искусственного интеллекта?
Начнем с концепции дизайна Manus, в которой заложены два потенциальных варианта:
Один из путей AGI. Путем непрерывного повышения уровня интеллекта одного субъекта приблизить его к комплексной решающей способности человека.
Есть еще один путь MAS. Как суперкоординатор, командует тысячами агентов в вертикальных областях для совместных действий.
На первый взгляд, мы обсуждаем различия в путях, на самом деле обсуждаем мы основные противоречия в развитии искусственного интеллекта: как достичь баланса между эффективностью и безопасностью? С увеличением степени интеллекта отдельного агента до AGI растет риск темноты в принятии решений; в то время как сотрудничество нескольких агентов может снизить риск, но привести к упущению ключевого момента из-за задержек в коммуникации.
Эволюция Manus неосознанно увеличивает встроенные риски развития искусственного интеллекта. Например, существует риск потери данных о конфиденциальности: в медицинской среде Manus должен иметь постоянный доступ к геномным данным пациентов; в финансовых переговорах он может затрагивать непубличную финансовую отчетность предприятий; алгоритмический предвзятый ловушка может привести к тому, что Manus предложит кандидату определенной этнической группы зарплату ниже среднего уровня на переговорах о найме; кроме того, в процессе проверки юридических контрактов его ошибка в оценке условий новых отраслей составляет почти половину. Например, чтобы противодействовать уязвимостям в атаках, хакеры могут внедрять определенные голосовые частоты, чтобы заставить Manus неправильно оценивать диапазон цен оппонента в переговорах.
Нам приходится столкнуться с ужасной болью точки для AI-систем: чем умнее система, тем шире ее атакования.
Однако безопасность постоянно упоминается в web3, и в рамках треугольника невозможности Виталика (блокчейн сети не могут одновременно обеспечивать безопасность, децентрализацию и масштабируемость) также возникло множество способов шифрования:
Модель безопасности Zero Trust (Zero Trust Security Model): Основная идея модели безопасности Zero Trust заключается в том, что "не доверять никому, всегда проверять", то есть ни одно устройство, находящееся внутри сети, не должно быть доверено по умолчанию. Эта модель подчеркивает строгую идентификацию и авторизацию для каждого запроса на доступ, чтобы обеспечить безопасность системы.
Децентрализованный идентификатор (Decentralized Identity, DID): DID - это набор стандартов идентификации, который позволяет сущностям получать идентификацию в проверяемой и постоянной форме без необходимости централизованного реестра. Это реализует новую модель децентрализованной цифровой идентичности, часто сравниваемую с идентичностью с суверенитетом, и является важной частью Web3.
Полностью гомоморфное шифрование (Fully Homomorphic Encryption, FHE) - это передовая технология шифрования, которая позволяет выполнять произвольные вычисления с зашифрованными данными, не расшифровывая их. Это означает, что сторонний участник может выполнять операции с шифротекстом, и результат, полученный после расшифровки, будет совпадать с результатом выполнения тех же операций с открытым текстом. Эта особенность имеет важное значение для сценариев, где необходимо выполнять вычисления без раскрытия исходных данных, таких как облачные вычисления и внешнее хранение данных.
Модель нулевого доверия и DID имеют определенное количество проектов, проводящих наступательную борьбу во время многих бычьих рынков, они либо достигают успеха, либо тонут в волнах криптовалют, и как самый молодой способ криптографии: полностью гомоморфное шифрование (Fully Homomorphic Encryption, FHE) также является мощным средством решения проблем безопасности в эпоху искусственного интеллекта. Полностью гомоморфное шифрование (FHE) - это технология, позволяющая выполнять вычисления над зашифрованными данными.
Как решить?
Во-первых, на уровне данных. Вся введенная пользователем информация (включая биометрические данные, интонацию речи) обрабатывается в зашифрованном виде, и даже сам Manus не может расшифровать исходные данные. Например, в случае медицинской диагностики геномные данные пациента участвуют в анализе исключительно в зашифрованной форме, чтобы избежать утечки биологической информации.
На уровне алгоритма. С помощью FHE достигается «шифрованное обучение модели», даже разработчики не могут проследить путь принятия решений искусственного интеллекта.
На уровне совместной работы. Связь между несколькими агентами осуществляется с использованием криптографии порогов, взлом одного узла не приведет к утечке глобальных данных. Даже в ходе учений по обороне и атаке в цепочке поставок злоумышленник, проникнувший в несколько агентов, не сможет получить полное бизнес-представление.
Из-за технических ограничений безопасность web3 возможно не имеет прямого отношения к большинству пользователей, но имеет тонкую сеть косвенной заинтересованности. В этом темном лесу, если не вооружиться насквозь, то никогда не избавиться от статуса "поросенка".
uPort был выпущен в 2017 году на основной сети Ethereum и, вероятно, является одним из самых ранних проектов децентрализованной идентификации (DID), выпущенных на главной сети.
А в аспекте модели безопасности нулевого доверия NKN запустил свою основную сеть в 2019 году.
Mind Network - первый проект FHE, запущенный на основной сети, и первым прошел сотрудничество с ZAMA, Google, DeepSeek и другими.
uPort и NKN уже являются проектами, о которых мне никогда не говорили, похоже, что проекты безопасности действительно не привлекают внимания спекулянтов. Сможет ли Mind Network избежать этого проклятия и стать лидером в области безопасности? Давайте посмотрим.
Будущее уже наступило. Чем ближе искусственный интеллект к человеческому, тем больше нужна недочеловеческая оборонительная система. Ценность FHE заключается не только в решении текущих проблем, но и в подготовке почвы для эпохи сильного искусственного интеллекта. На этом опасном пути к Общему Искусственному Интеллекту FHE не является вариантом на выбор, а необходимым средством выживания.
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Manus приносит первые лучи AGI, Безопасность с помощью искусственного интеллекта также заслуживает внимания
Автор: 0xResearcher
Manus в тестах на базе GAIA продемонстрировал SOTA (State-of-the-Art) результаты, показывая, что его производительность превосходит аналогичные крупные модели Open AI. Другими словами, он способен самостоятельно выполнять сложные задачи, такие как международные коммерческие переговоры, включая декомпозицию условий контракта, стратегический прогноз, создание планов, а также координацию юридической и финансовой команд. По сравнению с традиционными системами, преимущества Manus заключаются в его способности динамического разложения целей, мульти-модального рассуждения и усиления памяти обучения. Он может разбивать крупные задачи на сотни выполнимых подзадач, одновременно обрабатывать различные типы данных и с помощью обучения с подкреплением постоянно повышать эффективность своих решений, снижая уровень ошибок.
Восхищаясь быстрым развитием технологий, Manus снова вызвал разногласия в отрасли относительно пути развития искусственного интеллекта: в будущем будет ли одновластие искусственного общего интеллекта, или же совместное превосходство множественного искусственного интеллекта?
Начнем с концепции дизайна Manus, в которой заложены два потенциальных варианта:
Один из путей AGI. Путем непрерывного повышения уровня интеллекта одного субъекта приблизить его к комплексной решающей способности человека.
Есть еще один путь MAS. Как суперкоординатор, командует тысячами агентов в вертикальных областях для совместных действий.
На первый взгляд, мы обсуждаем различия в путях, на самом деле обсуждаем мы основные противоречия в развитии искусственного интеллекта: как достичь баланса между эффективностью и безопасностью? С увеличением степени интеллекта отдельного агента до AGI растет риск темноты в принятии решений; в то время как сотрудничество нескольких агентов может снизить риск, но привести к упущению ключевого момента из-за задержек в коммуникации.
Эволюция Manus неосознанно увеличивает встроенные риски развития искусственного интеллекта. Например, существует риск потери данных о конфиденциальности: в медицинской среде Manus должен иметь постоянный доступ к геномным данным пациентов; в финансовых переговорах он может затрагивать непубличную финансовую отчетность предприятий; алгоритмический предвзятый ловушка может привести к тому, что Manus предложит кандидату определенной этнической группы зарплату ниже среднего уровня на переговорах о найме; кроме того, в процессе проверки юридических контрактов его ошибка в оценке условий новых отраслей составляет почти половину. Например, чтобы противодействовать уязвимостям в атаках, хакеры могут внедрять определенные голосовые частоты, чтобы заставить Manus неправильно оценивать диапазон цен оппонента в переговорах.
Нам приходится столкнуться с ужасной болью точки для AI-систем: чем умнее система, тем шире ее атакования.
Однако безопасность постоянно упоминается в web3, и в рамках треугольника невозможности Виталика (блокчейн сети не могут одновременно обеспечивать безопасность, децентрализацию и масштабируемость) также возникло множество способов шифрования:
Модель нулевого доверия и DID имеют определенное количество проектов, проводящих наступательную борьбу во время многих бычьих рынков, они либо достигают успеха, либо тонут в волнах криптовалют, и как самый молодой способ криптографии: полностью гомоморфное шифрование (Fully Homomorphic Encryption, FHE) также является мощным средством решения проблем безопасности в эпоху искусственного интеллекта. Полностью гомоморфное шифрование (FHE) - это технология, позволяющая выполнять вычисления над зашифрованными данными.
Как решить?
Во-первых, на уровне данных. Вся введенная пользователем информация (включая биометрические данные, интонацию речи) обрабатывается в зашифрованном виде, и даже сам Manus не может расшифровать исходные данные. Например, в случае медицинской диагностики геномные данные пациента участвуют в анализе исключительно в зашифрованной форме, чтобы избежать утечки биологической информации.
На уровне алгоритма. С помощью FHE достигается «шифрованное обучение модели», даже разработчики не могут проследить путь принятия решений искусственного интеллекта.
На уровне совместной работы. Связь между несколькими агентами осуществляется с использованием криптографии порогов, взлом одного узла не приведет к утечке глобальных данных. Даже в ходе учений по обороне и атаке в цепочке поставок злоумышленник, проникнувший в несколько агентов, не сможет получить полное бизнес-представление.
Из-за технических ограничений безопасность web3 возможно не имеет прямого отношения к большинству пользователей, но имеет тонкую сеть косвенной заинтересованности. В этом темном лесу, если не вооружиться насквозь, то никогда не избавиться от статуса "поросенка".
uPort и NKN уже являются проектами, о которых мне никогда не говорили, похоже, что проекты безопасности действительно не привлекают внимания спекулянтов. Сможет ли Mind Network избежать этого проклятия и стать лидером в области безопасности? Давайте посмотрим.
Будущее уже наступило. Чем ближе искусственный интеллект к человеческому, тем больше нужна недочеловеческая оборонительная система. Ценность FHE заключается не только в решении текущих проблем, но и в подготовке почвы для эпохи сильного искусственного интеллекта. На этом опасном пути к Общему Искусственному Интеллекту FHE не является вариантом на выбор, а необходимым средством выживания.