Manus, GAIA benchmark testinde SOTA'nın (State-of-the-Art) performansını sergiledi ve Open AI'nın aynı seviyedeki büyük modellerini aştığını gösterdi. Başka bir deyişle, uluslararası ticari müzakereler gibi karmaşık görevleri bağımsız olarak yerine getirebilir; bu, sözleşme maddelerinin ayrıştırılması, stratejik öngörüler, çözüm üretme gibi konuları içerir ve hatta hukuk ve finans ekibini koordine edebilir. Geleneksel sistemlerle karşılaştırıldığında, Manus'ın dinamik hedef çözümleme yeteneği, çok modlu akıl yürütme yeteneği ve bellek güçlendirme öğrenme yeteneği avantaj sağlar. Büyük görevleri yüzlerce yürütülebilir alt göreve bölebilir, aynı anda birden fazla veri türünü işleyebilir ve sürekli kendi karar verme verimliliğini artırmak ve hata oranını düşürmek için pekiştirme öğrenme kullanabilir.
Teknolojinin hızlı gelişimine hayran kaldığımızda, Manus yine AI'nın evrim yolunda sektörde farklı bir görüş açısını ortaya çıkardı: Gelecekte, AGI'nın hakim olacağı mı, yoksa MAS'ın hakim olacağı mı?
Bu, Manus'un tasarım felsefesinden bahsetmek gerekiyor, içinde iki olasılık gizli:
Bir tanesi AGI yoludur. Bireysel zeka seviyesini sürekli olarak yükselterek, insanların genel karar verme yeteneğine yaklaşmasını sağlar.
Bir diğeri de MAS yoludur. Süper koordinatör olarak, binlerce dikey alan ajanının işbirliği yapmasını yönlendirir.
Yüzeysel olarak, farklı yolların ayrılması üzerine konuşuyor gibi görünüyoruz, ancak aslında tartıştığımız şey AI'nın gelişiminin temel çelişkileridir: Verimlilik ile güvenlik nasıl dengeye alınmalıdır? Bir bireysel zeka AGI'ye ne kadar yaklaşırsa, karar alma kutularının siyahlaşma riski o kadar artar; ancak çoklu Ajans işbirliği riski dağıtabilir, ancak iletişim gecikmesi nedeniyle kritik karar penceresini kaçırabilir.
Manus'ın evrimi, AI'nın inherent risklerini artırarak, görünmez bir şekilde büyüttü. Örneğin, veri gizlilik kara deliği: tıbbi senaryolarda, Manus'ın hastaların genom verilerine anlık erişime ihtiyacı var; finansal müzakerelerde, muhtemelen şirketin açıklanmamış mali rapor bilgilerine dokunacak; algoritma önyargı tuzakları, işe alım müzakerelerinde, Manus belirli etnik grup adaylarına ortalamanın altında maaş önerileri sunuyor; yasal sözleşmelerin incelenmesi sırasında, yeni sektör terimlerine yanlış değerlendirme oranı neredeyse yüzde elliye yakın. Bir diğer örnek olarak saldırı açıklarına karşı mücadele etmek, hacker'lar belirli ses frekanslarını implant ederek, Manus'ı müzakerelerde rakip teklif aralığını yanlış değerlendirmeye sevk ediyor.
AI sistemlerinin karşılaşmak zorunda olduğu korkunç bir acı nokta var: Ne kadar akıllı olursa, saldırı yüzü de o kadar geniş olur.
Ancak güvenlik, web3'te sürekli olarak bahsedilen bir terimdir; V tanrının imkansız üçgeninde (blok zinciri ağının aynı anda güvenlik, merkezi olmayanlık ve ölçeklenebilirlik sağlayamaması) çeşitli şifreleme yöntemleri de türetilmiştir:
Sıfır Güvenlik Modeli (Zero Trust Security Model): Sıfır Güvenlik Modeli'nin temel fikri, 'herkesi güvenmemek, her zaman doğrulama yapmaktır', yani cihazın iç ağda olup olmadığına bakılmaksızın varsayılan olarak güvenilmemesi gerektiğidir. Bu model, her erişim isteğinin sıkı kimlik doğrulaması ve yetkilendirme ile yapılmasını vurgular, böylece sistem güvenliği sağlanır.
Merkezi Olmayan Kimlik (Decentralized Identity, DID): DID, varlık tanımlayıcı standartlar kümesidir, varlıkların merkezi bir kayıt defterine ihtiyaç duymadan doğrulanabilir ve kalıcı bir şekilde tanınmasını sağlar. Bu, yeni bir merkezi olmayan dijital kimlik modelini gerçekleştirir ve genellikle kendi kendine egemen kimlikle ilişkilendirilir ve Web3'ün önemli bir parçasıdır.
Tam Homomorfik Şifreleme (Fully Homomorphic Encryption, FHE), şifreli veriler üzerinde herhangi bir hesaplama yapılmasına izin veren gelişmiş bir şifreleme teknolojisidir, verileri çözmeden herhangi bir hesaplama yapılmasına olanak tanır. Bu, üçüncü tarafların şifreli metinleri işleyebileceği ve sonucun, çözümleme sonrasında açık metin üzerinde yapılan aynı işlemin sonucuyla aynı olduğu anlamına gelir. Bu özellik, bulut bilişim ve veri dış kaynak kullanımı gibi, orijinal verileri açıklamadan hesaplama yapılması gereken senaryolar için önemli bir anlam taşır.
Sıfır Güvenlik Modeli ve DID, birçok boğa piyasası döneminde belirli miktarda projeyi ele alıyorlar, bazıları başarılı oluyor, bazıları ise kripto dalgasında boğuluyor. En genç kripto türü olarak, Tam Homomorfik Şifreleme (Fully Homomorphic Encryption, FHE) de AI çağında güvenlik sorunlarını çözmek için büyük bir silahtır. Tam Homomorfik Şifreleme (FHE), şifreli veriler üzerinde hesaplama yapılmasına izin veren bir teknolojidir.
Nasıl çözülür？
İlk olarak, veri seviyesi. Kullanıcı tarafından girilen tüm bilgiler (biyolojik özellikler, ses tonu dahil) şifrelenmiş durumda işlenir, hatta Manus bile orijinal verileri çözemez. Bir örnek vermek gerekirse, tıbbi teşhis durumunda, hasta genom verileri tamamen şifreli olarak analize katılır, biyolojik bilgi sızmasını önler.
Algoritmik düzeyde. Geliştiricilerin bile yapay zekanın karar yolunu anlamasını engelleyen "Şifreli Model Eğitimi" FHE aracılığıyla gerçekleştirilir.
İşbirliği düzeyinde. Birden fazla Ajan iletişimi eşik şifreleme kullanır, tek bir düğümün ele geçirilmesi tüm verilerin sızmasına neden olmaz. Tedarik zinciri saldırı ve savunma tatbikatında dahi, saldırgan birden fazla Ajanı ele geçirse bile, tam iş görünümünü elde edemez.
Ancak teknik kısıtlamalardan dolayı, web3 güvenliği çoğu kullanıcıyla doğrudan ilgili olmayabilir, ancak dolaylı olarak binlerce ilgili faydası bulunmaktadır. Bu karanlık ormanda, kendinizi güçlendirmek için çaba göstermezseniz, 'soğan' kimliğinden kaçma şansınız asla olmayacaktır.
uPort, 2017 yılında Ethereum ana ağı üzerinde piyasaya sürüldü ve muhtemelen ana ağda piyasaya sürülen en eski merkezi olmayan kimlik (DID) projelerinden biridir.
Ve sıfır güvenlik modeli açısından, NKN 2019 yılında ana ağını yayınladı.
Mind Network ZAMA, Google, DeepSeek ve diğerleri ile işbirliği yaparak ilk ana ağı başlatılan FHE projesidir.
uPort ve NKN, küçük editörün daha önce duymadığı projelerdir, güvenlik projeleri gerçekten spekülatörlerin ilgisini çekmiyor gibi görünüyor, Mind network bu lanetten kaçabilir mi, güvenlik alanında öncü olabilir mi, bekleyip görelim.
Gelecek çoktan geldi. Yapay zeka insan zekasına ne kadar yaklaşırsa, o kadar insan dışı savunma sistemlerine ihtiyaç duyar. FHE'nin değeri sadece mevcut sorunları çözmekle kalmaz, aynı zamanda güçlü yapay zeka çağında yol açar. AGI'ye doğru bu tehlikeli yolculukta, FHE bir seçenek değil, hayatta kalmanın bir gereğidir.
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Manus brings the dawn of AGI, Yapay Zeka Güvenliği also deserves deep consideration
Yazar: 0xResearcher
Manus, GAIA benchmark testinde SOTA'nın (State-of-the-Art) performansını sergiledi ve Open AI'nın aynı seviyedeki büyük modellerini aştığını gösterdi. Başka bir deyişle, uluslararası ticari müzakereler gibi karmaşık görevleri bağımsız olarak yerine getirebilir; bu, sözleşme maddelerinin ayrıştırılması, stratejik öngörüler, çözüm üretme gibi konuları içerir ve hatta hukuk ve finans ekibini koordine edebilir. Geleneksel sistemlerle karşılaştırıldığında, Manus'ın dinamik hedef çözümleme yeteneği, çok modlu akıl yürütme yeteneği ve bellek güçlendirme öğrenme yeteneği avantaj sağlar. Büyük görevleri yüzlerce yürütülebilir alt göreve bölebilir, aynı anda birden fazla veri türünü işleyebilir ve sürekli kendi karar verme verimliliğini artırmak ve hata oranını düşürmek için pekiştirme öğrenme kullanabilir.
Teknolojinin hızlı gelişimine hayran kaldığımızda, Manus yine AI'nın evrim yolunda sektörde farklı bir görüş açısını ortaya çıkardı: Gelecekte, AGI'nın hakim olacağı mı, yoksa MAS'ın hakim olacağı mı?
Bu, Manus'un tasarım felsefesinden bahsetmek gerekiyor, içinde iki olasılık gizli:
Bir tanesi AGI yoludur. Bireysel zeka seviyesini sürekli olarak yükselterek, insanların genel karar verme yeteneğine yaklaşmasını sağlar.
Bir diğeri de MAS yoludur. Süper koordinatör olarak, binlerce dikey alan ajanının işbirliği yapmasını yönlendirir.
Yüzeysel olarak, farklı yolların ayrılması üzerine konuşuyor gibi görünüyoruz, ancak aslında tartıştığımız şey AI'nın gelişiminin temel çelişkileridir: Verimlilik ile güvenlik nasıl dengeye alınmalıdır? Bir bireysel zeka AGI'ye ne kadar yaklaşırsa, karar alma kutularının siyahlaşma riski o kadar artar; ancak çoklu Ajans işbirliği riski dağıtabilir, ancak iletişim gecikmesi nedeniyle kritik karar penceresini kaçırabilir.
Manus'ın evrimi, AI'nın inherent risklerini artırarak, görünmez bir şekilde büyüttü. Örneğin, veri gizlilik kara deliği: tıbbi senaryolarda, Manus'ın hastaların genom verilerine anlık erişime ihtiyacı var; finansal müzakerelerde, muhtemelen şirketin açıklanmamış mali rapor bilgilerine dokunacak; algoritma önyargı tuzakları, işe alım müzakerelerinde, Manus belirli etnik grup adaylarına ortalamanın altında maaş önerileri sunuyor; yasal sözleşmelerin incelenmesi sırasında, yeni sektör terimlerine yanlış değerlendirme oranı neredeyse yüzde elliye yakın. Bir diğer örnek olarak saldırı açıklarına karşı mücadele etmek, hacker'lar belirli ses frekanslarını implant ederek, Manus'ı müzakerelerde rakip teklif aralığını yanlış değerlendirmeye sevk ediyor.
AI sistemlerinin karşılaşmak zorunda olduğu korkunç bir acı nokta var: Ne kadar akıllı olursa, saldırı yüzü de o kadar geniş olur.
Ancak güvenlik, web3'te sürekli olarak bahsedilen bir terimdir; V tanrının imkansız üçgeninde (blok zinciri ağının aynı anda güvenlik, merkezi olmayanlık ve ölçeklenebilirlik sağlayamaması) çeşitli şifreleme yöntemleri de türetilmiştir:
Sıfır Güvenlik Modeli ve DID, birçok boğa piyasası döneminde belirli miktarda projeyi ele alıyorlar, bazıları başarılı oluyor, bazıları ise kripto dalgasında boğuluyor. En genç kripto türü olarak, Tam Homomorfik Şifreleme (Fully Homomorphic Encryption, FHE) de AI çağında güvenlik sorunlarını çözmek için büyük bir silahtır. Tam Homomorfik Şifreleme (FHE), şifreli veriler üzerinde hesaplama yapılmasına izin veren bir teknolojidir.
Nasıl çözülür？
İlk olarak, veri seviyesi. Kullanıcı tarafından girilen tüm bilgiler (biyolojik özellikler, ses tonu dahil) şifrelenmiş durumda işlenir, hatta Manus bile orijinal verileri çözemez. Bir örnek vermek gerekirse, tıbbi teşhis durumunda, hasta genom verileri tamamen şifreli olarak analize katılır, biyolojik bilgi sızmasını önler.
Algoritmik düzeyde. Geliştiricilerin bile yapay zekanın karar yolunu anlamasını engelleyen "Şifreli Model Eğitimi" FHE aracılığıyla gerçekleştirilir.
İşbirliği düzeyinde. Birden fazla Ajan iletişimi eşik şifreleme kullanır, tek bir düğümün ele geçirilmesi tüm verilerin sızmasına neden olmaz. Tedarik zinciri saldırı ve savunma tatbikatında dahi, saldırgan birden fazla Ajanı ele geçirse bile, tam iş görünümünü elde edemez.
Ancak teknik kısıtlamalardan dolayı, web3 güvenliği çoğu kullanıcıyla doğrudan ilgili olmayabilir, ancak dolaylı olarak binlerce ilgili faydası bulunmaktadır. Bu karanlık ormanda, kendinizi güçlendirmek için çaba göstermezseniz, 'soğan' kimliğinden kaçma şansınız asla olmayacaktır.
uPort ve NKN, küçük editörün daha önce duymadığı projelerdir, güvenlik projeleri gerçekten spekülatörlerin ilgisini çekmiyor gibi görünüyor, Mind network bu lanetten kaçabilir mi, güvenlik alanında öncü olabilir mi, bekleyip görelim.
Gelecek çoktan geldi. Yapay zeka insan zekasına ne kadar yaklaşırsa, o kadar insan dışı savunma sistemlerine ihtiyaç duyar. FHE'nin değeri sadece mevcut sorunları çözmekle kalmaz, aynı zamanda güçlü yapay zeka çağında yol açar. AGI'ye doğru bu tehlikeli yolculukta, FHE bir seçenek değil, hayatta kalmanın bir gereğidir.