Manus, GAIA karşılaştırmasında bir SOTA (State-of-the-Art) puanı elde etti ve performansının Open AI'nin aynı seviyedeki büyük modellerinden daha iyi performans gösterdiğini gösterdi. Başka bir deyişle, sözleşme şartlarını belirlemeyi, stratejileri tahmin etmeyi, çözümler üretmeyi ve hatta hukuk ve finans ekiplerini koordine etmeyi içeren sınır ötesi iş görüşmeleri gibi karmaşık görevleri bağımsız olarak tamamlayabilir. Geleneksel sistemlerle karşılaştırıldığında Manus, dinamik nesne sökme yeteneği, modlar arası akıl yürütme yeteneği ve hafıza geliştirme öğrenme yeteneği avantajına sahiptir. Büyük görevleri yüzlerce yürütülebilir alt göreve bölebilir, aynı anda birden fazla veri türünü işleyebilir ve karar verme verimliliğini sürekli olarak iyileştirmek ve hata oranlarını azaltmak için pekiştirmeli öğrenmeyi kullanabilir.
Teknolojinin hızlı gelişimine hayret etmenin yanı sıra, Manus bir kez daha yapay zekanın evrim yolu hakkındaki çemberde anlaşmazlığa yol açtı: AGI gelecekte dünyaya hakim olacak mı yoksa MAS sinerjik olarak baskın mı olacak?
Bu, Manus'un iki olasılığı ima eden tasarım felsefesiyle başlar:
Biri AGI yoludur. Bireysel zeka seviyesini sürekli geliştirerek, insanoğlunun kapsamlı karar verme yeteneğine yakındır.
Bir de MAS yolu var. Bir süper koordinatör olarak, birlikte çalışmak için binlerce dikey ajana komuta edin.
Yüzeyde farklı yolları tartışıyoruz, ancak aslında yapay zeka gelişiminin altında yatan çelişkiyi tartışıyoruz: verimlilik ve güvenlik nasıl dengelenmelidir? Monolitik zeka AGI'ye ne kadar yakınsa, kara kutu karar verme riski o kadar yüksek olur. Çok aracılı işbirliği riski yayabilirken, iletişim gecikmeleri nedeniyle kritik karar verme pencerelerini kaçırabilir.
Manus'un evrimi, yapay zeka gelişiminin doğasında var olan riskleri görünmez bir şekilde büyüttü. Örneğin, veri gizliliği kara delikleri: tıbbi senaryolarda Manus'un hasta genomik verilerine gerçek zamanlı erişime ihtiyacı vardır; Finansal müzakereler sırasında, şirketin açıklanmayan finansal bilgilerine dokunabilir; Örneğin, algoritmik önyargı tuzağı, işe alım müzakerelerinde Manus, belirli bir etnik kökene sahip adaylara ortalamanın altında maaş önerileri verir; Yasal sözleşmeler incelendiğinde, ortaya çıkan endüstri terimlerinin yanlış değerlendirilme oranı neredeyse yarısıdır. Başka bir örnek, bilgisayar korsanlarının Manus'un müzakereler sırasında rakibin teklif aralığını yanlış değerlendirmesini sağlamak için belirli ses frekansları yerleştirdiği düşmanca saldırı güvenlik açığıdır.
Yapay zeka sistemleri için korkunç bir acı noktasıyla yüzleşmek zorundayız: sistem ne kadar akıllıysa, saldırı yüzeyi o kadar geniş olur.
Bununla birlikte, güvenlik, web3'te çokça dile getirilen bir kelimedir ve imkansız V üçgeni çerçevesinden türetilen çeşitli şifreleme yöntemleri vardır (blok zinciri ağları aynı anda güvenlik, ademi merkeziyetçilik ve ölçeklenebilirlik sağlayamaz):
Sıfır Güven Güvenlik Modeli'nin :* temel fikri "kimseye güvenme, her zaman doğrula"dır, yani dahili ağda olup olmadıklarına bakılmaksızın cihazlara varsayılan olarak güvenilmemelidir. Bu model, sistem güvenliğini sağlamak için her erişim isteği için sıkı kimlik doğrulama ve yetkilendirmeyi vurgular.
Merkezi Olmayan Kimlik (DID): DID, varlıkların merkezi bir kayıt defterine ihtiyaç duymadan doğrulanabilir ve kalıcı bir şekilde tanımlanmasını sağlayan bir dizi tanımlayıcı standardıdır. Bu, genellikle Web3'ün önemli bir parçası olan kendi kendine egemen kimlikle karşılaştırılan yeni bir merkezi olmayan dijital kimlik modelini mümkün kılar.
Tam Homomorfik Şifreleme (FHE), şifrelenmiş veriler üzerinde şifresini çözmeden rastgele hesaplama yapılmasına izin veren gelişmiş bir şifreleme tekniğidir. Bu, üçüncü bir tarafın şifreli metin üzerinde işlem yapabileceği ve şifre çözme işleminden sonra elde edilen sonucun, düz metin üzerindeki aynı işlemin sonucuyla aynı olduğu anlamına gelir. Bu özellik, bulut bilişim ve veri dış kaynak kullanımı gibi ham verileri açığa çıkarmadan hesaplama gerektiren senaryolar için önemlidir.
Sıfır güven güvenlik modelleri ve DID'ler, birden fazla boğa piyasası turunda belirli sayıda projeye sahiptir ve şifreleme dalgasında ya başarılı olmuşlar ya da boğulmuşlardır ve en genç şifreleme yöntemi olarak: Tam Homomorfik Şifreleme (FHE), yapay zeka çağındaki güvenlik sorunlarını çözmek için de büyük bir katildir. Tamamen homomorfik şifreleme (FHE), şifrelenmiş veriler üzerinde hesaplama yapılmasına izin veren bir teknolojidir.
Nasıl düzeltilir?
İlk olarak, veri düzeyinde. Kullanıcı tarafından girilen tüm bilgiler (biyometri, ses tonu dahil) şifreli bir durumda işlenir ve Manus'un kendisi bile orijinal verilerin şifresini çözemez. Örneğin, tıbbi teşhis durumunda, biyolojik bilgilerin sızmasını önlemek için hastanın genomik verileri şifreli metin olarak analiz edilir.
Algoritmik seviye. FHE aracılığıyla elde edilen "kriptografik model eğitimi", geliştiricilerin yapay zekanın karar verme yoluna göz atmasını imkansız hale getiriyor.
Sinerji düzeyinde. Eşik şifrelemesi, birden çok aracı iletişimi için kullanılır ve küresel veri sızıntısına neden olmadan tek bir düğüm ihlal edilebilir. Tedarik zinciri saldırısı ve savunma tatbikatlarında bile, saldırganlar işin eksiksiz bir görünümünü elde etmek için birden fazla aracıya sızar.
Teknik sınırlamalar nedeniyle, web3 güvenliği çoğu kullanıcıyla doğrudan ilgili olmayabilir, ancak dolaylı çıkarlarla ayrılmaz bir şekilde bağlantılıdır.
2017 yılında Ethereum ana ağında başlatılan uPort, muhtemelen ana ağda piyasaya sürülen ilk merkezi olmayan kimlik (DID) projesiydi.
Sıfır Güven güvenlik modeli açısından NKN, ana ağını 2019'da piyasaya sürdü.
Mind Network, ana ağda başlatılan ilk FHE projesidir ve ZAMA, Google, DeepSeek vb. ile işbirliğinde öncülük etmiştir.
uPort ve NKN zaten hiç duymadığım projeler ve görünüşe göre güvenlik projelerine spekülatörler tarafından gerçekten dikkat edilmiyor, bu yüzden bekleyelim ve Mind ağının bu lanetten kurtulup kurtulamayacağını ve güvenlik alanında lider olup olamayacağını görelim.
Gelecek burada. Yapay zeka insan zekasına ne kadar yakınsa, insan dışı savunmalara o kadar çok ihtiyaç duyar. FHE'nin değeri sadece günümüzün sorunlarını çözmek değil, aynı zamanda güçlü yapay zeka çağının önünü açmaktır. AGI'ye giden bu tehlikeli yolda, FHE bir seçenek değil, hayatta kalmak için bir gerekliliktir.
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Manus, AGI'nin şafağını getiriyor ve yapay zeka güvenliği de düşünmeye değer
Manus, GAIA karşılaştırmasında bir SOTA (State-of-the-Art) puanı elde etti ve performansının Open AI'nin aynı seviyedeki büyük modellerinden daha iyi performans gösterdiğini gösterdi. Başka bir deyişle, sözleşme şartlarını belirlemeyi, stratejileri tahmin etmeyi, çözümler üretmeyi ve hatta hukuk ve finans ekiplerini koordine etmeyi içeren sınır ötesi iş görüşmeleri gibi karmaşık görevleri bağımsız olarak tamamlayabilir. Geleneksel sistemlerle karşılaştırıldığında Manus, dinamik nesne sökme yeteneği, modlar arası akıl yürütme yeteneği ve hafıza geliştirme öğrenme yeteneği avantajına sahiptir. Büyük görevleri yüzlerce yürütülebilir alt göreve bölebilir, aynı anda birden fazla veri türünü işleyebilir ve karar verme verimliliğini sürekli olarak iyileştirmek ve hata oranlarını azaltmak için pekiştirmeli öğrenmeyi kullanabilir.
! Manus, AGI'nin şafağını getiriyor, yapay zeka güvenliği de düşünmeye değer
Teknolojinin hızlı gelişimine hayret etmenin yanı sıra, Manus bir kez daha yapay zekanın evrim yolu hakkındaki çemberde anlaşmazlığa yol açtı: AGI gelecekte dünyaya hakim olacak mı yoksa MAS sinerjik olarak baskın mı olacak?
Bu, Manus'un iki olasılığı ima eden tasarım felsefesiyle başlar:
Biri AGI yoludur. Bireysel zeka seviyesini sürekli geliştirerek, insanoğlunun kapsamlı karar verme yeteneğine yakındır.
Bir de MAS yolu var. Bir süper koordinatör olarak, birlikte çalışmak için binlerce dikey ajana komuta edin.
Yüzeyde farklı yolları tartışıyoruz, ancak aslında yapay zeka gelişiminin altında yatan çelişkiyi tartışıyoruz: verimlilik ve güvenlik nasıl dengelenmelidir? Monolitik zeka AGI'ye ne kadar yakınsa, kara kutu karar verme riski o kadar yüksek olur. Çok aracılı işbirliği riski yayabilirken, iletişim gecikmeleri nedeniyle kritik karar verme pencerelerini kaçırabilir.
Manus'un evrimi, yapay zeka gelişiminin doğasında var olan riskleri görünmez bir şekilde büyüttü. Örneğin, veri gizliliği kara delikleri: tıbbi senaryolarda Manus'un hasta genomik verilerine gerçek zamanlı erişime ihtiyacı vardır; Finansal müzakereler sırasında, şirketin açıklanmayan finansal bilgilerine dokunabilir; Örneğin, algoritmik önyargı tuzağı, işe alım müzakerelerinde Manus, belirli bir etnik kökene sahip adaylara ortalamanın altında maaş önerileri verir; Yasal sözleşmeler incelendiğinde, ortaya çıkan endüstri terimlerinin yanlış değerlendirilme oranı neredeyse yarısıdır. Başka bir örnek, bilgisayar korsanlarının Manus'un müzakereler sırasında rakibin teklif aralığını yanlış değerlendirmesini sağlamak için belirli ses frekansları yerleştirdiği düşmanca saldırı güvenlik açığıdır.
Yapay zeka sistemleri için korkunç bir acı noktasıyla yüzleşmek zorundayız: sistem ne kadar akıllıysa, saldırı yüzeyi o kadar geniş olur.
Bununla birlikte, güvenlik, web3'te çokça dile getirilen bir kelimedir ve imkansız V üçgeni çerçevesinden türetilen çeşitli şifreleme yöntemleri vardır (blok zinciri ağları aynı anda güvenlik, ademi merkeziyetçilik ve ölçeklenebilirlik sağlayamaz):
Sıfır Güven Güvenlik Modeli'nin :* temel fikri "kimseye güvenme, her zaman doğrula"dır, yani dahili ağda olup olmadıklarına bakılmaksızın cihazlara varsayılan olarak güvenilmemelidir. Bu model, sistem güvenliğini sağlamak için her erişim isteği için sıkı kimlik doğrulama ve yetkilendirmeyi vurgular. Merkezi Olmayan Kimlik (DID): DID, varlıkların merkezi bir kayıt defterine ihtiyaç duymadan doğrulanabilir ve kalıcı bir şekilde tanımlanmasını sağlayan bir dizi tanımlayıcı standardıdır. Bu, genellikle Web3'ün önemli bir parçası olan kendi kendine egemen kimlikle karşılaştırılan yeni bir merkezi olmayan dijital kimlik modelini mümkün kılar. Tam Homomorfik Şifreleme (FHE), şifrelenmiş veriler üzerinde şifresini çözmeden rastgele hesaplama yapılmasına izin veren gelişmiş bir şifreleme tekniğidir. Bu, üçüncü bir tarafın şifreli metin üzerinde işlem yapabileceği ve şifre çözme işleminden sonra elde edilen sonucun, düz metin üzerindeki aynı işlemin sonucuyla aynı olduğu anlamına gelir. Bu özellik, bulut bilişim ve veri dış kaynak kullanımı gibi ham verileri açığa çıkarmadan hesaplama gerektiren senaryolar için önemlidir.
Sıfır güven güvenlik modelleri ve DID'ler, birden fazla boğa piyasası turunda belirli sayıda projeye sahiptir ve şifreleme dalgasında ya başarılı olmuşlar ya da boğulmuşlardır ve en genç şifreleme yöntemi olarak: Tam Homomorfik Şifreleme (FHE), yapay zeka çağındaki güvenlik sorunlarını çözmek için de büyük bir katildir. Tamamen homomorfik şifreleme (FHE), şifrelenmiş veriler üzerinde hesaplama yapılmasına izin veren bir teknolojidir.
Nasıl düzeltilir?
İlk olarak, veri düzeyinde. Kullanıcı tarafından girilen tüm bilgiler (biyometri, ses tonu dahil) şifreli bir durumda işlenir ve Manus'un kendisi bile orijinal verilerin şifresini çözemez. Örneğin, tıbbi teşhis durumunda, biyolojik bilgilerin sızmasını önlemek için hastanın genomik verileri şifreli metin olarak analiz edilir.
Algoritmik seviye. FHE aracılığıyla elde edilen "kriptografik model eğitimi", geliştiricilerin yapay zekanın karar verme yoluna göz atmasını imkansız hale getiriyor.
Sinerji düzeyinde. Eşik şifrelemesi, birden çok aracı iletişimi için kullanılır ve küresel veri sızıntısına neden olmadan tek bir düğüm ihlal edilebilir. Tedarik zinciri saldırısı ve savunma tatbikatlarında bile, saldırganlar işin eksiksiz bir görünümünü elde etmek için birden fazla aracıya sızar.
Teknik sınırlamalar nedeniyle, web3 güvenliği çoğu kullanıcıyla doğrudan ilgili olmayabilir, ancak dolaylı çıkarlarla ayrılmaz bir şekilde bağlantılıdır.
2017 yılında Ethereum ana ağında başlatılan uPort, muhtemelen ana ağda piyasaya sürülen ilk merkezi olmayan kimlik (DID) projesiydi. Sıfır Güven güvenlik modeli açısından NKN, ana ağını 2019'da piyasaya sürdü. Mind Network, ana ağda başlatılan ilk FHE projesidir ve ZAMA, Google, DeepSeek vb. ile işbirliğinde öncülük etmiştir.
uPort ve NKN zaten hiç duymadığım projeler ve görünüşe göre güvenlik projelerine spekülatörler tarafından gerçekten dikkat edilmiyor, bu yüzden bekleyelim ve Mind ağının bu lanetten kurtulup kurtulamayacağını ve güvenlik alanında lider olup olamayacağını görelim.
Gelecek burada. Yapay zeka insan zekasına ne kadar yakınsa, insan dışı savunmalara o kadar çok ihtiyaç duyar. FHE'nin değeri sadece günümüzün sorunlarını çözmek değil, aynı zamanda güçlü yapay zeka çağının önünü açmaktır. AGI'ye giden bu tehlikeli yolda, FHE bir seçenek değil, hayatta kalmak için bir gerekliliktir.