イベント

クリエイターズアリーナ

キャンパスアンバサダー

動画クリエイターコンテスト

デイリースタディチャレンジ

話題のチェックイン

分散型アクセラレーション主義と人工知能：年間レビュー

上級

マクロトレンド AI

1/10/2025, 3:38:41 AM

この記事はd/accの概念について詳しく掘り下げ、人工知能に関連するリスクに対処するためのさまざまな戦略を比較しています。また、この文脈での暗号通貨の価値についても取り上げ、公共財の資金調達のメカニズムについても探求しています。最後に、将来の技術開発における課題にもかかわらず、人類は既存のツールとアイデアを活用してより良い世界を築く機会があると展望しています。

オリジナルタイトルを転送する：d/acc：1年後

約1年前に書きました技術楽観主義に関する記事, 私は技術への一般的な熱狂を表現し、それがもたらす巨大な利益について語りますが、同時に、超知能AIを中心とするいくつかの懸念についても慎重に述べます。その技術が誤った方法で構築されると、滅亡をもたらす可能性や、不可逆的な人間の無力化をもたらすリスクについてです。私の投稿の中での中心的な考えの1つは、分散化と民主的で、差別的な防御的加速の哲学でした。技術を加速させるが、害を与える能力ではなく、防衛能力の向上に焦点を当て、真実、偽り、善悪を決定する特定のエリートの手に権力を集中させるのではなく、権力を分散させる技術に焦点を当てることです。民主的な防御のようなものです。スイスそして歴史的には準アナーキストゾミア中世の封建制の領主や城とは異なります。

その後1年間で、その哲学とアイデアは大きく成熟しました。私はそのアイデアについて話しました80,000 Hours, そして多くの反応を見てきました。ほとんどは肯定的なものであり、一部は批判的なものもあります。作業自体は継続され、成果を上げています。進捗を見るin verifiableオープンソースワクチン健康な室内空気の価値がますます認められ、コミュニティノートが輝き続け、Gate.ioにとっての飛躍の年となりました。予測市場は情報ツールとしての役割を果たします、ZK-SNARKs政府IDとソーシャルメディア（そしてセキュリティEthereumウォレットthroughアカウント抽象化), オープンソースのイメージングツール医学やBCIなどの応用を持つことができます。そして、昨秋には最初の重大なd/accイベントがありました。Devconでの「d/acc Discovery Day」（d/aDDy）、すべてのd/acc（バイオ、物理、サイバー、情報防御、およびニューロテック）のすべての柱からのスピーカーをフィーチャーした。これらの技術に取り組んできた人々は、お互いの仕事にますます気づき始め、外部の人々もますます大きなストーリーに気づいています：Ethereumと暗号通貨を活気づけた同じ種類の価値観。より広い世界に適用できます.

d/accとは何か、何であり、何でないか

2042年です。メディアで新しいパンデミックがあなたの街で起こる可能性についての報告を見ています。これには慣れています：動物の病気の変異について人々が興奮することはありますが、ほとんどの場合何も起こりません。前の2つの潜在的なパンデミックは非常に早い段階で検出されました。排水モニタリングそしてソーシャルメディアのオープンソース分析そして、彼らは完全に立ち止まりました。しかし、今回、予測マーケットでは、少なくとも10,000件の症例の60%の可能性が示されているので、もっと心配しています。

ウイルスのシーケンスが昨日特定されました。あなたのポケット用のソフトウェアアップデートエアテスター新しいウイルス(1回の呼吸、または部屋の室内空気への15分間の曝露から)を検出できるようにすることは、すでに利用可能です。世界中の近代的な医療施設にある機器を使用してワクチンを生成するためのオープンソースの指示とコードは、数週間以内に利用可能になるはずです。ほとんどの人は、まだ何の対策も講じておらず、自分を守るために空気のろ過と換気の普及に頼っています。免疫疾患があるため、より慎重になります:ナビゲーションやレストランやイベントのレコメンデーションなどのタスクを処理するオープンソースのローカルランニングパーソナルアシスタントAIは、リアルタイムの空気テスターとCO2データも考慮して、最も安全な会場のみを推奨します。データは、何千人もの参加者とデバイスによって提供されます。zk-SNARKsそして差分プライバシーデータが漏れるリスクを最小限に抑えるか、その他の目的で悪用される可能性を減らすために（これらのデータセットにデータを提供したい場合は、これらの暗号ガジェットが実際に機能するかどうかを検証する他の個人アシスタントAIがあります）。

2ヶ月後、パンデミックは消え去りました：空気テスターが鳴ってウイルスが検出された場合にマスクを着用し、自分自身が陽性をテストした場合には自宅に留まるという基本的なプロトコルを守っている人々の60%が、既に大幅に減少していた伝播率を1未満に押し下げるのに十分でした。これは、受動的な重い空気ろ過によって既に大幅に減少していた伝播率をさらに1未満に押し下げるのに十分でした。20年前のCOVIDよりも5倍ひどいとシミュレーションで示されていた病気が、今日では問題にならないことがわかりました。

Devcon d/acc day

Devconでのd/accイベントからの最もポジティブな収穫の1つは、d/accの傘下で非常に異なる分野の人々を実際に興味を持たせ、お互いの仕事に関心を持たせることに成功したことです。

「多様性」を持つイベントを作ることは簡単ですが、異なるバックグラウンドや興味を持つ人々が実際に関わり合うことは難しいです。私は中学校や高校で長いオペラを強制的に観ることを思い出しますが、個人的にはつまらないと感じました。私はそれらを「評価するべき」と思っていましたが、もし私が評価しなければ、無教養なコンピューターサイエンスの人間だとされてしまいます。しかし、私はその内容とは本当の意味で関わることができませんでした。d/accの日は全くそんな感じではありませんでした：異なる分野の非常に異なる種類の仕事について学ぶことを本当に楽しんでいる人々の姿がありました。

もし、支配、減速、そして破滅に対するより明るい代替案を作りたいのであれば、このような広範な連携の構築が必要です。d/accは実際にそれに成功しているように思え、それだけでそのアイデアの価値を示しています。

d/accの核心的なアイデアはシンプルです：分散化された民主的な差分防御加速です。オフェンス/ディフェンスのバランスをディフェンスに傾ける技術を構築し、それを中央集権的な権限に依存しない方法で行います。これらの2つの側面には固有の結びつきがあります：分散化、民主主義、または自由な政治構造は、ディフェンスが容易な時に最も繁栄し、ディフェンスが困難な時に最も挑戦を受けます。そのような場合、より可能性の高い結果は、全ての者が全てに対して戦争の一時期を経て、最終的に最も強い者による支配の均衡です。

d/accの核心原則は、多くのドメインにわたって拡張されています:

チャートから私のテクノオプティミズム、去年

分散化、防御、加速を同時に目指す重要性を理解する1つの方法は、それぞれを諦めたときに得られる哲学と対比することです。

分散された加速、しかし「差分防御」の部分については気にしないでください。基本的に、e/acc、しかし分散化されています。このアプローチを取る人はたくさんいますが、一部自分自身をD / ACCとラベル付けしているが、彼らの焦点を「攻撃」に的確に説明しているが、より穏やかな方法で「分散型AI」や同様のトピックに興奮している他の多くの人々もいるが、私の見解では「防御的」な側面に十分な注意を払っていないと思う。

私の見解では、このアプローチは、あなたが心配している特定の部族による世界的な人間の独裁のリスクを回避するかもしれませんが、それは根本的な構造上の問題に対する答えを持っていません：攻撃を好む環境では、常に災害のリスクがあるか、誰かが自分自身を守る者として位置づけ、恒久的にトップに立つリスクがあります。AIの特定のケースでは、人間全体がAIと比較して無力化されるリスクに対しても良い答えを持っていません。

差動防御加速度は重要ですが、「分散化と民主主義」には興味がありません。安全のために中央集権的なコントロールを受け入れることは、一部の人々にとって永続的な魅力があります。読者の皆様は、多くの例やその欠点にすでに精通していることでしょう。最近、一部の人々は、極端な中央集権的なコントロールが将来の技術の極端な問題の唯一の解決策であると心配しています:参照してください。この仮想的なシナリオwhere “Everybody is fitted with a ‘freedom tag’ – a sequent to the more limited wearable surveillance devices familiar today, such as the ankle tag used in several countries as a prison alternative … encrypted video and audio is continuously uploaded and machine-interpreted in real time”. However, centralized control is a spectrum. One milder version of centralized control that’s usually overlooked, but is still harmful, is resistance to public scrutiny in biotech (eg. 食品, ワクチン)、そしてこの抵抗が挑戦されないことを可能にするクローズドソースの規範。

このアプローチのリスクは、もちろん、センター自体がしばしばリスクの源であるということです。これはCovidで見られました。ここで資金提供された機能利得研究複数の主要な世界政府パンデミックの原因となった可能性がありますが、中央集権的な認識論はWHOに導かれました認めないfor年Covidが空気感染するということ、そして強制的なソーシャルディスタンスそしてワクチン政策の命令は数十年にわたって反発を引き起こす可能性があります。AIや他の危険な技術に関連するリスクについても同様の状況が生じる可能性があります。分散型のアプローチは中央自体からのリスクによりよく対処することができます。

分散化された防衛ですが、加速には関心がありません-基本的には、技術の進歩を遅らせようとするか、経済デグロース.

この戦略の課題は二つあります。まず、技術と経済成長のバランスは人類にとって非常に良いものであり、それに遅れが生じることは好ましくありません。コストを課す that are 過小評価するのは難しい第二に、非独裁世界では、前進しないことは不安定です。最も「イカサマ」をしても、信じられるような方法で前進する人が先を行きます。減速主義的戦略はある程度、ある文脈で機能することがあります。例えば、ヨーロッパの食べ物がアメリカの食べ物よりも健康的であること、これまでの核不拡散の成功などが挙げられます。しかし、それらは永遠に機能することはありません。

d/accを使用して、私たちは次のことをしたいと考えています:

世界の多くが部族主義になっている時代に、原則に忠実であり、単に何でも建てるのではなく、世界をより安全で良くするための特定のものを構築したいと考えています。
指数関数的な技術進歩が進むことを認識し、世界が非常に非常に奇妙になること、そして人類の宇宙に対する総合的な「足跡」が増えることを認識してください。脆弱な動物、植物、人々を危険から守る能力を向上させる必要がありますが、唯一の方法は前進することです。
私たちを安全に保つ技術を構築するが、「良い人（または良いAI）が主導権を握っている」とは仮定しないようにします。これは、自然により効果的破壊するために使用するよりも、構築および保護するために使用する方が難しいです。

d/accについて考える別の方法は、フレームに戻ることです。海賊党運動00年代のヨーロッパでのエンパワーメント。

目標は、人間のエージェンシーを保持し、達成する世界を構築することです。両方私たち自身の運命を形作る能力に対する積極的な干渉(民間人として行動する他の人々、政府、または超知能ボットからのいずれからであろうと)を避けるという消極的な自由と、私たちが知識とリソースを持っていることを保証する積極的な自由。これは、何世紀にもわたる古典的なリベラルな伝統を反映しており、スチュワート・ブランドの「ツールへのアクセス「そしてジョン・スチュアート・ミルの教育に重点を置くalongside自由人類の進歩の重要な要素として - そしておそらく、バックミンスター・フラーの願望として、グローバルな解決の過程を見ることができる参加型で広く分散した. 私たちは、21世紀の技術的な状況を考慮しながら、これらと同じ目標を達成する方法として、D/ACCを見ることができます。

第三次元：生き残ると繁栄する

昨年の私の投稿では、d/accは具体的に防御技術に焦点を当てました: 物理防御、生物防御、サイバー防御、情報防御。しかし、分散化された防御だけでは世界を偉大にすることはできません: 人類が新たに得た分散化と安全性を活用して達成できる未来志向の前向きなビジョンも必要です。

昨年の投稿には、2つの場所で肯定的なビジョンが含まれていました:

超知能の課題に焦点を当て、私は（私にとってはオリジナルから遠い）我々がどのようにして無力化せずに超知能を持つことができるかについての道を提案しました:
1. 今日は、高度に自律的なエージェントとしてのAIではなく、AIとしてのツールを構築する時代です
2. 明日はツールを使う仮想現実、myoelectricsそして、脳-コンピューターインタフェースを使用して、AIと人間の間でより緊密なフィードバックを作り出します
3. 時間をかけて、最終的なエンドゲームに向けて進んでいくと、超知能体は機械と私たちの密接な組み合わせとなります。
情報防衛について話す時、私はまた、攻撃者に対抗してコミュニティの結束を維持し、高品質な議論を行うために役立つ防御的な社会技術だけでなく、コミュニティがより容易に高品質な判断を下すのを支援する進歩的な社会技術も存在すると付随的に言及しました。pol.isは一つの例であり、予測マーケットもう一つの場所です。

ただし、これらの2つのポイントは、d/accの議論から切り離されたものと感じられました。「ベースレイヤーでより民主的で防御重視の世界を作るためのアイデアをここに示しますが、ところで超知能をどのように実現するかについては無関係なアイデアをいくつか提案します」。

ただし、実際には、「防御的」と「進歩的」とされるD/ACCテクノロジーの間には非常に重要な関連性があると考えています。昨年の投稿からD/ACCチャートを拡大し、この軸を追加しましょう（また、それを「」というラベルに変更しましょう）。生き残る vs 繁栄する「）をチャートに追加して、どんな結果が出るか見てみることです:

あらゆるドメインにおいて、私たちがあるドメインで「生き残る」のに役立つ科学、アイデア、ツールは、「繁栄する」のに役立つ科学、アイデア、ツールと密接に関連しているという一貫したパターンがあります。いくつかの例:

最近の多くの抗コロナウイルス研究は、ウイルスの持続的な役割体内にある理由として、長期コロナが問題となっているメカニズムとしても注目されています。最近、ウイルスの持続性に関する兆候も見られます。アルツハイマー病の原因となる可能性があります- もしそうなら、これはすべての組織タイプにわたるウイルスの持続的な対処が加齢の解決の鍵である可能性を示しています。
低コストでミニチュアイメージングツール例えば、それらがOpenwaterによって作成されました治療に強力なものとなり得ますマイクロ血栓,またはウイルスの持続、癌にも使用できますBCI.
非常に類似した考え方が、より敵対的な環境のために構築された社会ツールの構築を促進しています。コミュニティノート, そして、 reasonably cooperative environments に構築されたソーシャルツール、たとえば pol.is.
予測市場は貴重なの両方で高い協力そして高い逆境環境。
ゼロ知識証明と同様の技術は、プライバシーを保護しながらデータ上で計算を行うため、科学などの有用な作業に利用できるデータを増やし、プライバシーを向上させます。
太陽光発電とバッテリーは素晴らしいです次のクリーンな経済成長の波を活性化する, しかし、それらは分散化と物理的な強度にも素晴らしいです。

これに加えて、科目間にも重要な相互依存関係があります。

BCIは、情報防衛と協業技術として非常に関連があります。なぜなら、私たちの考えや意図をより詳細に伝えることが可能になるからです。BCIは単にボットと意識の間の通信だけでなく、意識とボットを介した意識への通信も可能です。BCIの価値に関する多様なアイデア.
バイオテクノロジーには情報の共有が非常に依存しており、多くの場合、人々は情報を共有することに対して快適に感じるために、その情報が1つのアプリケーションにのみ使用されることを確信している必要があります。これはプライバシーテクノロジー（例：ZKP、FHE、難読化など）に依存しています。
コラボレーション技術は、他の技術分野の資金調達を調整するために使用できます

The hard question: AI safety, short timelines and regulation

異なる人々は非常に異なるAIのタイムラインを持っています。モンテネグロのZuzaluのチャート、2023年。

私の去年の投稿に対する最も説得力のある反論は、AIセーフティコミュニティからの批判でした。その議論は次のようになります。「確かに、強力なAIが出現するまでには半世紀かかるかもしれませんが、実際にはAGIまでのタイムラインは3年、超知能までのタイムラインはさらに3年と見られています。したがって、世界が破壊されたり不可逆的な罠に陥ったりするのを防ぐためには、良いことを加速するだけでなく、悪いことを遅らせる必要もあります。つまり、強力な規制を通過させることですが、これによって強力な人々が不快になるかもしれません。」私の去年の投稿では、「悪いことを遅らせる」ための具体的な戦略を呼びかけていませんでした。危険な形態の超知能を構築しないようにという曖昧な訴えだけでした。したがって、ここで直接質問に取り組む価値があります：もし私たちが...最も便利な世界人工知能のリスクが高く、タイムラインが潜在的に5年先の場合、私はどのような規制を支持するのでしょうか？

まず、新しい規制に対する慎重な姿勢の理由

昨年、提案された主なAI規制は、カリフォルニア州のSB-1047法案.SB-1047は、最もパワフルなモデル（$100M以上のトレーニングにかかるモデル、またはファインチューンの場合は$10M以上）の開発者に、リリース前に一定の安全テスト措置を取ることを義務付けました。さらに、AIモデルの開発者が十分な注意を払わない場合、責任を負うこととしました。多くの反対者は、この法案は「」と主張しました。オープンソースへの脅威「; 私は異議を唱えました、なぜならコストのしきい値が最も強力なモデルにしか影響を与えなかったからです：LLama3さえもしばらくは閾値未満でしょう。しかし、振り返ってみると、その法案にはより大きな問題があったと思います。ほとんどの規制と同様に、現在の状況に過度に適合しすぎていました。訓練コストに焦点を当てることは、すでに新しい技術の前では脆弱であることが証明されています。最近の最先端の品質Deepseek v3モデルは、コストをかけて訓練されました。たったの$6百万、そして新しいモデルでは、O1のコストは、より一般的にトレーニングから推論へとシフトしています。

第二に、AI超知能の終末シナリオに実際に責任を持つ最も可能性の高い行為者は現実的には軍である。バイオセキュリティの過去半世紀で見てきた(そしてそれ以上に)軍隊は恐ろしいことを厭わず、簡単に間違いを犯す可能性があります。現在、AIの軍事利用は急速に進んでいます(ウクライナ, ガザそして、政府が制定する安全規制は、デフォルトで彼ら自身の軍隊や軍隊と緊密に協力する企業を免除することになります。

それにもかかわらず、これらの主張は手を上げて何もしない理由ではありません。むしろ、私たちはこれらをガイドとして使用し、これらの懸念を最小限に抑えるためのルールを考えることができます。

戦略1:賠償責任

法的に訴えられる損害を引き起こすような行為をした場合、could be 提訴されましたこれにより、軍事などの「法の上にある」行為者からのリスクの問題は解決されませんが、これは過度適合を回避する非常に汎用性の高いアプローチであり、しばしばです。サポートby libertarian-leaning経済学者まさにその理由のためです。

これまで考慮されてきた責任の主な対象は次のとおりです:

ユーザー - AIを使用する人々
ユーザー向けにAIをサービスとして提供する中間業者であるデプロイヤー
開発者 - AIを構築する人々

ユーザーに責任を負わせることが最もインセンティブに適合するようです。モデルの開発と使用方法の間の関連性に注意しながら、翻訳を行います。はしばしば不明瞭です、ユーザーはAIの使用方法を完全に決定します。ユーザーに責任を負わせることで、私が考える正しい方法でAIを行うための強力なプレッシャーが生まれます：人間の心のためのメカスーツの構築に重点を置き、自己持続型の知的生命の新しい形式の作成には重点を置きません。前者は定期的にユーザーの意図に応答するため、ユーザーが望まなければ致命的な行動を起こしません。後者は「AIが暴走する」という典型的なシナリオを作り出す最もリスクが高いです。可能な限り責任を最終使用に近づけることのもう1つの利点は、責任が他の方法で有害な行動につながるリスクを最小限に抑えることです（例：クローズドソース、KYCおよび監視、国家/ビジネスの共謀によるユーザーの制限、例えばデバンキング、世界の大部分をロックアウト）。

ユーザーに責任を負わせることに対する古典的な論点があります: ユーザーはお金を持っていないかもしれず、匿名かもしれず、実際には壊滅的な被害に対して支払いができる人物がいないかもしれません。この議論は過大評価される可能性があります: 一部のユーザーが責任を負うには小さすぎるかもしれませんが、AI開発者の平均的な顧客はそうではないため、AI開発者はまだユーザーに高い責任リスクを負わせない製品を作ることに動機づけられます。それはまだ有効な議論であり、対応する必要があります。適切なレベルの注意を払うリソースを持つパイプライン内の誰かを動機づける必要があります。デプロイヤーや開発者はまだ容易に利用できるターゲットですが、多大な影響力を持つどのモデルがどれだけ安全か、または危険かについて

デプロイヤーの責任は合理的なように思えます。よく引用される懸念は、オープンソースモデルには機能しないということですが、これは管理可能なように思えます。特に最も強力なモデルが閉じたソースである可能性が高いため（そしてもしオープンであることが判明した場合、デプロイヤーの責任はあまり役に立たなくなりますが、多くの害も引き起こしません）。開発者の責任にも同様の懸念があります（ただし、オープンソースモデルの場合、最初に許可されていないことを行うためにモデルを微調整する必要があります）が、同じ反論が適用されます。一般的な原則として、制御に「税金」をかけ、本質的に「あなたはできる」と言っています。制御できないものを構築するまたは、制御できるものを作ることもできますが、制御できるものを作る場合は、制御の20%を私たちの目的に使用する必要があります」というのは、法的システムにとって合理的な立場のように思われます。

パイプライン内の他のアクターに責任を負わせるという未開拓のアイデアがありますが、これらのアクターはより豊富なリソースを持っている可能性が高いです。非常にd/accフレンドリーなアイデアの1つは、AIが（ハッキングなどによって）何らかの壊滅的に有害な行動を実行する過程で使用する機器の所有者または運営者に責任を負わせることです。これにより、世界（特にコンピューティングおよびバイオ）のインフラをできるだけ安全にするための大きなインセンティブが生まれます。

戦略2：産業規模のハードウェアにおけるグローバルな「ソフト一時停止」ボタン

もし私が責任規則よりも「筋肉質な」何かが必要だと確信していたなら、これが私が選ぶものです。目標は、重要な時期において世界中で利用可能な計算能力を約90〜99％削減し、人類が準備するためのさらなる時間を確保することです。1〜2年間の価値は過大評価されるべきではありません：「戦時モード」の1年は、怠惰な状況下での100年の作業に easily に匹敵することがあります。実装方法の一部として、「休止「具体的な提案などを含む、さまざまな方法が検討されてきました。」登録が必要ですと位置の確認ハードウェアの。

より高度なアプローチは、巧妙な暗号トリックを使用することです。たとえば、大規模な（ただし消費者ではない）AIハードウェアは、主要な国際機関から週に3回の署名（少なくとも1つは非軍事関連のもの）を受け取らないと継続して実行できないようにするための信頼性のあるハードウェアチップを装備することができます。署名はデバイスに依存しないものです（必要に応じて、ブロックチェーン上に公開されたことをゼロ知識の証明さえ要求できます）。したがって、すべてかなりなしがあります。すべての他のデバイスを承認せずに特定のデバイスを継続して実行する実用的な方法はありません。

これは、利益を最大化し、リスクを最小限に抑える点で「条件を満たしている」と感じられます。

それは便利な機能です。もし、私たちが近くに超知能AIが致命的なダメージのリスクを引き起こすことを示す警告サインを受け取った場合、私たちは移行をよりゆっくりと行いたいと思うでしょう。
このような重大な瞬間が訪れるまでは、ソフトポーズ機能があるだけでは、開発者にほとんど害を及ぼしません。
産業規模のハードウェアに焦点を当て、目標として90-99%を目指すことによって、消費者のノートパソコンにスパイチップやキルスイッチを取り付けるというディストピア的な努力を避け、小さな国々に対して彼らの意思に反した厳格な措置を強制することを避けることができます。
ハードウェアに焦点を当てることは、技術の変化に対して非常に堅牢に見えます。AIの複数の世代で見てきたように、品質は特に新しいパラダイムの初期バージョンでは利用可能な計算能力に強く依存しています。したがって、利用可能な計算能力を10〜100倍減らすことは、素早い戦いで人間がそれを止めようとする中で暴走する超知能AIが勝つか負けるかの違いを簡単に生むことができます。
署名のために週に一度オンラインにする必要があるという本質的な煩わしさは、このスキームを消費者向けハードウェアに拡張することに対する強い圧力を生み出すでしょう。
それはランダムな検査で検証される可能性があり、ハードウェアレベルで行うと特定のユーザーを免除するのが難しくなります（法的にシャットダウンを強制するのではなく技術的にアプローチすることは、これがすべてまたは何もない特性を持たないため、軍隊などの免除への滑りやすいリスクがはるかに大きくなります）。

ハードウェア規制は既に非常に真剣に検討されており、一般的には枠組みを通じて行われています。輸出統制、本質的には「私たちは自分たちの側を信じますが、相手の側は信じません」という哲学を持っています。レオポルド・アッシェンブレンナーは、アメリカが「決定的な利点を得るための競争そして基本的に中国を迫る彼らが実行することが許可されるボックスの数を制限するプロトコルに署名することです。私にとって、このアプローチはリスキーであり、欠点を組み合わせる可能性があります。マルチポーラレースそして中央集権化。もし私たちが人々を制限しなければならない場合、誰もが平等な立場で制限する方が良いと思われ、一方が他の人々を支配しようとするのではなく、実際に協力してそれを組織するための困難な仕事をすることが重要です。

AIリスクのd/accテクノロジー

これらの戦略（責任とハードウェアの一時停止ボタン）の両方には欠陥があり、明らかにそれらは一時的な処置に過ぎません：時点Tでスーパーコンピュータで可能になったことは、時点T + 5年にはおそらくノートパソコンでも可能になるでしょう。したがって、時間を稼ぐためにより安定したものが必要です。多くのd/acc技術がここで関連してきます。我々はd/acc技術の役割を次のように考えることができます：AIが世界を支配する場合、それはどのようにして行うのでしょうか？

それは私たちのコンピュータをハックします→サイバー防衛
それは超細菌を作り出す→生物防衛です
それは私たちを説得します（それを信頼するか、お互いを信用しないか）→ インフォディフェンス

前述のように、責任規則は、これらの防御策を採用し真剣に取り組むよう、世界のすべての部分に効果的に刺激を与えることができる、自然にD / ACCフレンドリーな規制スタイルです。台湾実験をしてきました最近、虚偽広告に対する責任を負っている例として、責任を利用して情報防衛を奨励する一例と見なすことができます。責任をどこにでも置くことに熱心になりすぎず、ただの自由の利点を覚えておくべきです。小さな人が訴訟の恐れなしにイノベーションに参加することを可能にするためのものです。しかし、セキュリティを強化するための強いプッシュが必要な場合、責任はかなり柔軟で効果的になり得ます。

暗号通貨の役割

多くのd / accは典型的なブロックチェーンのトピックをはるかに超えています：バイオセキュリティ、BCI、および協働的な議論ツールは、通常の暗号人が話すことからはるかに遠いように思われます。ただし、暗号とd / accの間にはいくつかの重要な関係があると思います。

d/accは、他の技術分野への暗号通貨（分散化、検閲耐性、オープンなグローバル経済と社会）の基本的な価値の拡張です。
仮想通貨利用者は自然と早期採用者であり、価値の合致があるため、仮想通貨コミュニティはデジタルアカウント技術の自然な早期ユーザーです。コミュニティに重点を置くこと（オンラインとオフラインの両方、例：イベントやポップアップ）と、これらのコミュニティが単にお互いと話すだけでなく、高いリスクを伴うことを実際に行っていることにより、仮想通貨コミュニティは、個人ではなくグループに基づいて動作するデジタルアカウント技術の基本的な動作テストベッドとして特に魅力的です（情報防御と生物防御の大部分など）。仮想通貨関係者は単に一緒に行動するだけです。
多くの暗号技術は、より強固で分散化された金融、ガバナンス、ソーシャルメディアインフラを構築するために使用することができます。プライバシー保護のためのゼロ知識証明、などの学問領域で。今日、最大の予測市場の多くはブロックチェーン上に構築されており、それらは徐々に洗練され、分散化され、民主化されつつあります。
また、暗号通貨と関連する技術においても、ウィンウィンの協力の機会があります。これらの技術は暗号通貨プロジェクトに非常に役立つだけでなく、d/accの目標達成にも重要です。形式的認証, コンピューターソフトウェアとハードウェアセキュリティ、敵対的に堅牢なガバナンステクノロジ。これらのことは、イーサリアムのブロックチェーン、ウォレット、DAOをより安全で堅牢なものにし、超知能AIによるものを含むサイバー攻撃に対する脆弱性を軽減するなど、重要な文明防衛目標も達成します。

Cursive は、完全準同型暗号化 (FHE) を使用して、プライバシーを保護しながら、ユーザーが他のユーザーと共通の関心のある領域を識別できるようにするアプリです。これは、多くの派生物の1つであるEdge Cityで使用されました。Zuzalu, in Chiang Mai.

これらの直接的な交差点に加えて、もう1つ重要な共通の関心事があります:資金調達メカニズム。

d/accと公共財の資金調達

私の持続的な関心事の1つは、公共財を資金提供するためのより良いメカニズムを考案することです：非常に多くの人々にとって価値のあるプロジェクトですが、持っていません自然に身近なビジネスモデル。これに関する私の過去の仕事には、二次資金化とその使用についてGitcoin Grants、レトロPGF、そして最近は深い資金調達.

多くの人々は、公共財に対して懐疑的な考えを持っています。この懐疑心は一般的に2つの源から来ています:

公共財は歴史的に、社会や経済における強引な中央計画や政府の介入の正当化として使用されてきた事実です。
一般的な認識は、公共財の資金調達には厳密さが欠け、運営が行われているということです社会的望ましさのバイアス - 良いと聞こえるもの、良いものではなく、社交ゲームをプレイできる内部者を好む -

これらは重要な批評であり、良い批評です。ただし、私は、強力な分散型の公共財の資金調達がd/accビジョンに不可欠であると主張します。なぜなら、中心的な制御点を最小限に抑えることが主要なd/accの目標であり、これは多くの伝統的なビジネスモデルを本質的に挫折させるからです。オープンソースで成功するビジネスを構築することは可能です。いくつかバルビgranteesしかし、一部の状況では、重要なプロジェクトに追加の継続的サポートが必要なほど困難な場合もあります。したがって、私たちは困難なことをしなければならず、上記の両方の批判に対処する方法で公共財の資金調達をどのように行うかを考える必要があります。

最初の問題の解決策は基本的には信頼性のある中立性そして@VitalikButerin中央集権化の意味。中央計画は、権力を乱用する可能性のあるエリートに制御権を与えるため問題があり、またしばしば現在の状況に過剰適合そして、時間の経過とともにますます効果が薄れていきます。2次資金調達や類似のメカニズムは、できるだけ信頼性があり、(建築的・政治的に) 分散化された方法で公共財を資金調達することに関して、明確に中立であるようになりました。

二番目の問題はより challenging. With quadratic funding, a common critique has been that it すぐに人気投票になりますプロジェクトの資金提供者は、大衆キャンペーンに多くの努力を払う必要があります。さらに、「人々の目の前にある」プロジェクト（例：エンドユーザーアプリケーション）は資金提供されますが、背後にあるプロジェクト（典型的な「ゲート」）は資金提供されません。ネブラスカの男性によって維持される依存関係"）資金調達はまったくありません。楽観的な資金調達は、少数の専門バッジ保持者に依存しています。ここでは、人気コンテストの影響は薄れますが、バッジ保持者との密接な個人的な関係の社会的影響が増幅されます。

ディープファンディング私はこの問題を解決するための最新の取り組みです。 Deep fundingには2つの主要な革新があります。

依存グラフ。各陪審員に世界的な質問（「プロジェクトAの人類に対する価値は何ですか？」）をする代わりに、ローカルな質問（「プロジェクトAとプロジェクトBのうち、アウトカムCにとってより価値のあるものはどちらですか？そしてどれくらいですか？」）をします。人間は世界的な質問に対して非常に悪いです。:有名な研究、 N匹の鳥を救うためにどれくらいのお金を支払うか尋ねられたとき、回答者はおおよそN=2,000、N=20,000およびN=200,000に対して約80ドル支払うと答えました。地元の質問ははるかに扱いやすいです。次に、地元の回答を「依存関係グラフ」を維持することによってグローバルな回答に組み合わせます：各プロジェクトについて、その成功にどの他のプロジェクトが貢献し、どれくらいですか？
AI as 蒸留された人間の判断陪審員はすべての質問の小さな無作為なサンプルにのみ割り当てられます。誰でもAIモデルを提出して、グラフのすべてのエッジを効率的に埋めるようにするオープンコンペティションがあります。最終的な回答は、陪審員の回答と最も互換性のある重み付けされたモデルの合計です。詳細については、「gate」を参照してください。ここにコードの例があります. このアプローチにより、メカニズムを非常に大規模なサイズにスケーリングすることができますが、陪審員はわずかな「ビット」の情報のみを提出する必要があります。これにより、腐敗の機会が減少し、各ビットが高品質になります。陪審員は、数百の質問を迅速にクリックするのではなく、各質問に長い時間をかけて考えることができます。AIのオープンな競争を使用することで、単一のAIトレーニングおよび管理プロセスからのバイアスを減らします。エンジンとしてのAIのオープン市場、およびステアリングホイールとしての人間を使用します。

しかし、深い資金調達は最新の例に過ぎません。以前にも他の公共財資金調達メカニズムのアイデアがあり、将来もさらに多くのものがあるでしょう。allo.expertそれらをカタログ化するのに非常に良い仕事をしています。根本的な目標は、市場が私的財を資金提供する方法に少なくとも近似するレベルの正確さ、公正さ、およびオープンエントリで公共財を資金提供できる社会的なガジェットを作成することです。完璧である必要はありません。なぜなら、市場自体が完璧からは程遠いからです。ただし、開発者がみんなのために利益をもたらす優れたオープンソースプロジェクトに取り組み続ける余裕を持ち、受け入れがたい妥協をする必要を感じないように効果的であるべきです。

今日、ほとんどのd/accの主要なプロジェクトはワクチンなどの主題にあります。BCI「ボーダーラインBCI」のような手首の筋電と視線追跡、抗老化薬、ハードウェアなどは、プロプライエタリです。これには、公共の信頼を確保するという大きなデメリットがあります。たくさんの以上エリア既に. それは競争力のある動態（「OUR TEAMはこの重要な産業を勝ち取らなければならない！」）に注意を向けることを促し、「これらの技術が超知能AIの世界で私たちを守るために十分に速く来る」という大きな競争から注意をそらします。これらの理由から、頑強な公共財の資金提供は、開放性と自由の強力な促進者になり得ます。これは、暗号コミュニティが努力を重ねてこれらの資金提供メカニズムを探求し、自身の文脈内でうまく機能するようにすることで、オープンソースの科学技術のさらなる普及のためにそれらを準備する別の方法です。

未来

次の数十年は重要な課題をもたらす。最近私の心にあるのは2つの課題です。

強力な新しい技術の波、特に強力なAIが迅速にやって来ていますが、これらの技術には避けるべき重要な罠があります。『人工超知能』が到来するまでには5年かかるかもしれませんし、50年かかるかもしれません。いずれにしても、デフォルトの結果が自動的にポジティブであることは明確ではありません。この投稿で説明されているように、前のもの、回避すべき多くの罠があります。
世界は協力的でなくなりつつあります。かつては時折高尚な原則（世界主義、自由、共通の人類愛など）に基づいて行動しているように見えた多くの強力な行為者が、今ではより公然と積極的に個人的または部族的な利益を追求しています。

ただし、これらの課題には明るい面もあります。まず、私たちは今、残りの作業をより速く行うために非常に強力なツールを持っています:

現在および近い将来のAIは、他の技術の構築に使用することができ、ガバナンスの一部として使用することもできます（深い資金調達など）。情報ファイナンスそれはBCIにも非常に関連しており、それ自体がさらなる生産性の向上をもたらす可能性があります。
大規模な調整は以前よりもはるかに大規模に可能になりました。インターネットとソーシャルメディアは調整の範囲を拡大し、グローバルファイナンス（暗号通貨を含む）はその力を増大させ、情報防御と協力ツールはその品質を向上させることができ、おそらくはBCI（人間-コンピュータ-人間）形式でその深さを増すことができます。
Formal verification, sandboxing (web browsers, Docker, キューブス, GrapheneOS、およびその他のテクノロジー（セキュアハードウェアモジュールなど）が改善し、より優れたサイバーセキュリティが可能になっています。
任意の種類のソフトウェアの作成は、2年前よりもはるかに簡単です。
最近のウイルスの作用に関する基本的な研究では、特に防御すべき最も重要な感染経路は空気感染であることが明確になり、バイオディフェンスの改善方法についてより明確な道筋が示されています。
最近のバイオテクノロジーの進歩（例：CRISPR、進歩でバイオイメージング)は、防衛用や他の目的であらゆる種類のバイオテクノロジーを製造しています。長寿, または super-happiness,または探索中複数新しいバイオ仮説、または単に本当に素晴らしいことをしています、もっとアクセスしやすくなりました。
コンピューティングとバイオテクノロジーの進歩により、健康を適応、監視、改善するために使用できる合成バイオツールが可能になりました。暗号化などのサイバー防御技術により、このパーソナライズされた側面がはるかに実行可能になります。

第二に、私たちが大切にしている多くの原則が、もはや古いガードの一部のセグメントによって占有されていないため、誰でも参加できる広範な連合によって回復されることができます。これは、世界中の誰でも参加できる広範な連合によって回復されることができます。これは、最近の政治的「再配置」のおそらく最大のメリットであり、利用する価値があります。暗号通貨はすでにこの恩恵を十分に受けており、d/accも同様にグローバルなアピールを見つけることができます。

ツールへのアクセスは、私たちが生物学や環境を適応させ、そして d/acc の「防御」部分は、他の人々が同じことをする自由を侵害することなく、これを行うことができることを意味します。自由主義的な多元主義の原則これは多様な方法で行われる可能性があるということを意味しており、共通の人間の目標への取り組みがあるため、それは達成されるべきです。

私たち人間は、輝く星であり続けます。私たちが星に向かって進む中で、人類の生存と自由、そして活動を守りながら、さらに輝かしい21世紀を築くという課題は難しいものですが、私はそれに対処できると確信しています。

免責事項:

この記事は[から転載されましたVitalik Buterin].元のタイトルを転送します: d/acc: 1 年後。すべての著作権は原著作者に帰属します[ビタリク・ブテリン]. この再版に異議がある場合は、お問い合わせください。gate学習チーム、そして彼らは迅速に対処します。
免責事項：本文中の見解や意見は著者個人のものであり、投資アドバイスを提供するものではありません。
ゲートラーンチームは、記事を他の言語に翻訳します。特記されていない限り、翻訳された記事のコピー、配布、または盗用は禁止されています。

株式

内容