Manus показав SOTA (State-of-the-Art) результати в тестах на базі GAIA, що свідчить про перевагу його продуктивності над великими моделями на такому ж рівні, що належать до Open AI. Іншими словами, він може самостійно виконувати складні завдання, такі як міжнародні комерційні переговори, що включають розкладання умов контракту, передбачення стратегій, створення планів, а навіть координацію юридичного та фінансового відділів. У порівнянні з традиційними системами, Manus відзначається своєю здатністю до динамічного декомпозиції цілей, перехресного мультимодального мислення та здатністю підвищувати пам'ять через посилене навчання. Він може розкласти велике завдання на сотні виконавчих підзадач, одночасно обробляти різноманітні типи даних та постійно покращувати ефективність своїх рішень за допомогою посиленого навчання, знижуючи рівень помилок.
Поруч з швидким розвитком технологій, Manus знову викликав розбіжності в галузі щодо шляху еволюції штучного інтелекту: чи в майбутньому AGI буде єдиним лідером, чи MAS гратиме провідну роль в співпраці?
Це потрібно розпочати з концепції дизайну Manus, яка містить у собі два можливі варіанти:
Один з них - це шлях AGI. Шляхом постійного підвищення рівня інтелекту окремих осіб, щоб наблизити його до загальної здатності людини до прийняття рішень.
Існує ще один шлях MAS. Як суперкоординатор, він командує тисячами агентів у вертикальних областях для спільного бойового дійства.
На поверхні ми обговорюємо різні шляхи відхилень, насправді ми обговорюємо основні суперечності в розвитку штучного інтелекту: як балансувати ефективність та безпеку? Чим ближче одиночний інтелект до загального штучного інтелекту, тим вище ризик чорної скриньки в прийнятті рішень; тим часом, багатоагентне співробітництво, хоча може розподілити ризики, може пропустити важливі вікна прийняття рішень через затримки в комунікації.
Еволюція Manus невидимим чином збільшила вроджені ризики розвитку штучного інтелекту. Наприклад, чорна діра конфіденційності даних: в медичному контексті Manus потребує постійного доступу до геномних даних пацієнтів; під час фінансових переговорів можуть бути зачеплені недоступні для громадськості фінансові звіти підприємств; наприклад, пастка алгоритмічного упередження: під час найму Manus робить знижені заробітні плати для кандидатів певної раси нижче середнього рівня; під час перевірки юридичних угод помилковість розгляду умов для нових галузей становить майже половину. Знову ж таки, для боротьби з вразливостями атаки, хакери використовують вбудовану в Manus конкретну частоту голосу, щоб змусити його помилково розглядати діапазон цін противника під час переговорів.
Нам доводиться стикатися з жахливою болючкою AI-системи: чим розумніша система, тим ширший атакувальний вектор.
Однак безпека постійно згадується в термінах web3, і в рамках трикутника неможливості Віталіка (блокчейн мережа не може одночасно забезпечити безпеку, децентралізацію та масштабованість) також виникло багато способів шифрування:
Модель безпеки нульового довіри (Zero Trust Security Model): Основна ідея моделі безпеки нульового довіри полягає в тому, що «не вірити нікому, завжди перевіряти», тобто навіть якщо пристрій знаходиться в мережі внутрішнього рівня, йому не слід автоматично довіряти. Ця модель підкреслює необхідність строгої перевірки і авторизації кожного запиту на доступ, щоб забезпечити безпеку системи.
Децентралізований ідентифікатор (Decentralized Identity, DID): DID - це набір стандартів ідентифікації, який дозволяє сутностям отримувати ідентифікацію у перевіреному та стійкому способі без потреби централізованого реєстру. Це забезпечує нову модель децентралізованої цифрової ідентичності, яка часто порівнюється з ідентичністю власної особистості, і є важливою складовою Web3.
Повністю гомоморфне шифрування (Fully Homomorphic Encryption, FHE) - це передова технологія шифрування, що дозволяє виконувати будь-які обчислення з зашифрованими даними без їх розшифрування. Це означає, що третя сторона може операції з криптотекстом, і результат після розшифрування буде співпадати з результатом таких же операцій над відкритим текстом. Ця властивість має важливе значення для сценаріїв, де потрібно виконувати обчислення без розкриття початкових даних, таких як хмарні обчислення та зовнішнє зберігання даних.
Модель нульового довіри та DID мають певну кількість проектів, які виконуються в багаторазовому биковому ринку, вони можуть мати успіх або потонути в хвилях шифрування, і як наймолодший метод шифрування: повністю гомоморфне шифрування (Fully Homomorphic Encryption, FHE) також є великим засобом вирішення проблем безпеки в епоху штучного інтелекту. Повністю гомоморфне шифрування (FHE) - це технологія, що дозволяє виконувати обчислення на зашифрованих даних.
Як вирішити?
Спочатку, на рівні даних. Усю інформацію, введену користувачем (включаючи біометричні дані, голосовий тон), обробляється в зашифрованому вигляді, і навіть сам Manus не може розшифрувати початкові дані. Наприклад, у випадку медичної діагностики геномні дані пацієнта аналізуються у вигляді шифротексту, щоб уникнути витоку біологічної інформації.
На рівні алгоритмів. За допомогою FHE реалізовано "навчання зашифрованої моделі", розробникам навіть не вдасться розгледіти шляхи прийняття рішень штучного інтелекту.
На рівні співпраці. Комунікація кількох агентів використовує порогове шифрування, порушення безпеки одного вузла не призведе до розголошення глобальних даних. Навіть під час вправ з оборони та нападу в ланцюжку постачання зловмисник, який проникає в кілька агентів, не може отримати повноцінного бізнес-вигляду.
Через технічні обмеження, безпека web3 може не мати прямого зв'язку з більшістю користувачів, але має тонку павутину опосередкованих інтересів. У цьому темному лісі, якщо не забезпечити себе зброєю, ніколи не втекти від статусу "лукавої".
uPort був випущений на головній мережі Ethereum в 2017 році і, можливо, є одним з найперших проектів децентралізованої ідентичності (DID), які було випущено на головній мережі.
А в аспекті моделі безпеки нульового довіри NKN випустив свою основну мережу в 2019 році.
Mind Network - перший проект FHE, який вийшов на головну мережу і першим отримав співпрацю з ZAMA, Google, DeepSeek та іншими.
uPort та NKN вже є проектами, які мій колега ніколи не чув, здається, що проекти з безпеки дійсно не привертають увагу спекулянтів, чи може мережа Mind уникне цього прокляття та стане лідером у галузі безпеки, давайте спостерігати.
Майбутнє наступило. Чим штучний інтелект ближче до людського, тим більше потрібна нелюдська оборонна система. Цінність FHE полягає не лише в вирішенні поточних проблем, а й в підготовці до епохи сильного штучного інтелекту. На цій крутій дорозі до Загального Інтелектуального Агента, FHE не є вибірковою, але життєво важливою необхідністю.
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Manus приніс перші ознаки AGI, Безпека за допомогою штучного інтелекту також заслуговує на увагу
Автор: 0xДослідник
Manus показав SOTA (State-of-the-Art) результати в тестах на базі GAIA, що свідчить про перевагу його продуктивності над великими моделями на такому ж рівні, що належать до Open AI. Іншими словами, він може самостійно виконувати складні завдання, такі як міжнародні комерційні переговори, що включають розкладання умов контракту, передбачення стратегій, створення планів, а навіть координацію юридичного та фінансового відділів. У порівнянні з традиційними системами, Manus відзначається своєю здатністю до динамічного декомпозиції цілей, перехресного мультимодального мислення та здатністю підвищувати пам'ять через посилене навчання. Він може розкласти велике завдання на сотні виконавчих підзадач, одночасно обробляти різноманітні типи даних та постійно покращувати ефективність своїх рішень за допомогою посиленого навчання, знижуючи рівень помилок.
Поруч з швидким розвитком технологій, Manus знову викликав розбіжності в галузі щодо шляху еволюції штучного інтелекту: чи в майбутньому AGI буде єдиним лідером, чи MAS гратиме провідну роль в співпраці?
Це потрібно розпочати з концепції дизайну Manus, яка містить у собі два можливі варіанти:
Один з них - це шлях AGI. Шляхом постійного підвищення рівня інтелекту окремих осіб, щоб наблизити його до загальної здатності людини до прийняття рішень.
Існує ще один шлях MAS. Як суперкоординатор, він командує тисячами агентів у вертикальних областях для спільного бойового дійства.
На поверхні ми обговорюємо різні шляхи відхилень, насправді ми обговорюємо основні суперечності в розвитку штучного інтелекту: як балансувати ефективність та безпеку? Чим ближче одиночний інтелект до загального штучного інтелекту, тим вище ризик чорної скриньки в прийнятті рішень; тим часом, багатоагентне співробітництво, хоча може розподілити ризики, може пропустити важливі вікна прийняття рішень через затримки в комунікації.
Еволюція Manus невидимим чином збільшила вроджені ризики розвитку штучного інтелекту. Наприклад, чорна діра конфіденційності даних: в медичному контексті Manus потребує постійного доступу до геномних даних пацієнтів; під час фінансових переговорів можуть бути зачеплені недоступні для громадськості фінансові звіти підприємств; наприклад, пастка алгоритмічного упередження: під час найму Manus робить знижені заробітні плати для кандидатів певної раси нижче середнього рівня; під час перевірки юридичних угод помилковість розгляду умов для нових галузей становить майже половину. Знову ж таки, для боротьби з вразливостями атаки, хакери використовують вбудовану в Manus конкретну частоту голосу, щоб змусити його помилково розглядати діапазон цін противника під час переговорів.
Нам доводиться стикатися з жахливою болючкою AI-системи: чим розумніша система, тим ширший атакувальний вектор.
Однак безпека постійно згадується в термінах web3, і в рамках трикутника неможливості Віталіка (блокчейн мережа не може одночасно забезпечити безпеку, децентралізацію та масштабованість) також виникло багато способів шифрування:
Модель нульового довіри та DID мають певну кількість проектів, які виконуються в багаторазовому биковому ринку, вони можуть мати успіх або потонути в хвилях шифрування, і як наймолодший метод шифрування: повністю гомоморфне шифрування (Fully Homomorphic Encryption, FHE) також є великим засобом вирішення проблем безпеки в епоху штучного інтелекту. Повністю гомоморфне шифрування (FHE) - це технологія, що дозволяє виконувати обчислення на зашифрованих даних.
Як вирішити?
Спочатку, на рівні даних. Усю інформацію, введену користувачем (включаючи біометричні дані, голосовий тон), обробляється в зашифрованому вигляді, і навіть сам Manus не може розшифрувати початкові дані. Наприклад, у випадку медичної діагностики геномні дані пацієнта аналізуються у вигляді шифротексту, щоб уникнути витоку біологічної інформації.
На рівні алгоритмів. За допомогою FHE реалізовано "навчання зашифрованої моделі", розробникам навіть не вдасться розгледіти шляхи прийняття рішень штучного інтелекту.
На рівні співпраці. Комунікація кількох агентів використовує порогове шифрування, порушення безпеки одного вузла не призведе до розголошення глобальних даних. Навіть під час вправ з оборони та нападу в ланцюжку постачання зловмисник, який проникає в кілька агентів, не може отримати повноцінного бізнес-вигляду.
Через технічні обмеження, безпека web3 може не мати прямого зв'язку з більшістю користувачів, але має тонку павутину опосередкованих інтересів. У цьому темному лісі, якщо не забезпечити себе зброєю, ніколи не втекти від статусу "лукавої".
uPort та NKN вже є проектами, які мій колега ніколи не чув, здається, що проекти з безпеки дійсно не привертають увагу спекулянтів, чи може мережа Mind уникне цього прокляття та стане лідером у галузі безпеки, давайте спостерігати.
Майбутнє наступило. Чим штучний інтелект ближче до людського, тим більше потрібна нелюдська оборонна система. Цінність FHE полягає не лише в вирішенні поточних проблем, а й в підготовці до епохи сильного штучного інтелекту. На цій крутій дорозі до Загального Інтелектуального Агента, FHE не є вибірковою, але життєво важливою необхідністю.