Encaminhar o Título Original: d/acc: um ano depois

Há cerca de um ano, eu escrevi um artigo sobre o techno-otimismo, descrevendo meu entusiasmo geral pela tecnologia e os enormes benefícios que ela pode trazer, bem como minha cautela em torno de algumas preocupações específicas, em grande parte centradas em torno da IA superinteligente, e o risco de que ela possa trazer a desgraça ou o desempoderamento humano irreversível, se a tecnologia for construída de maneiras erradas. Uma das ideias centrais do meu post foi a filosofia de: descentralizada e democrática, aceleração defensiva diferencial. Acelerar a tecnologia, mas focar diferencialmente em tecnologias que melhoram nossa capacidade de defesa, em vez de nossa capacidade de causar danos, e em tecnologias que distribuem poder em vez de concentrá-lo nas mãos de uma elite singular que decide o que é verdadeiro, falso, bom ou mau em nome de todos. Defesa como no democrático Suíçae historicamente quase anarquistaZomia, não como os senhores e castelos do feudalismo medieval.

No ano desde então, a filosofia e ideias amadureceram significativamente. Eu falei sobre as ideias em 80,000 Horas, e tenho visto muitas respostas, em grande parte positivas e algumas críticas. O trabalho em si está continuando e dando frutos: nós estamos ver progressoem verificávelvacinas de código aberto, crescente reconhecimento do valor do ar interior saudável, Community Notes continuam a brilhar, um ano de destaque para mercados de previsão como uma ferramenta de informação, ZK-SNARKs em ID do governoerede social(e segurançaEthereumcarteirasatravésabstração de conta), ferramentas de imagem de código abertocom aplicações na medicina e BCI, e mais. No outono, tivemos o primeiro evento d/acc significativo: “d/acc Discovery Day” (d/aDDy) at Devcon, que contou com um dia inteiro de palestrantes de todos os pilares do d/acc (bio, físico, cibernético, defesa da informação, além de neurotecnologia). As pessoas que têm trabalhado nessas tecnologias há anos estão cada vez mais cientes do trabalho umas das outras, e as pessoas de fora estão cada vez mais cientes da história maior: os mesmos tipos de valores que motivaram o Ethereum e a criptografia pode ser aplicado ao mundo em geral.

Índice

• O que é e o que não é
• A terceira dimensão: sobreviver e prosperar
• A difícil questão: segurança da IA, prazos curtos e regulamentação
• O papel das criptomoedas na contabilidade distribuída
• d/acc e financiamento de bens públicos
• O futuro

O que é e o que não é

É o ano de 2042. Você está vendo relatos na mídia sobre uma nova pandemia potencialmente em sua cidade. Você está acostumado com isso: as pessoas ficam muito animadas com cada mutação de doença animal, e a maioria delas não leva a nada. As duas pandemias potenciais anteriores foram detectadas muito cedo através de monitoramento de águas residuaiseanálise de mídia social de código aberto, e parou completamente em seus rastros. Mas desta vez, os mercados de previsão estão mostrando uma chance de 60% de pelo menos 10.000 casos, então você está mais preocupado.

A sequência do vírus foi identificada ontem. Atualizações de software para o seu bolso teste de arpermitir que ele detecte o novo vírus (de um único sopro, ou de 15 minutos de exposição ao ar interno em um quarto) já estão disponíveis. Instruções de código aberto e código para gerar uma vacina usando equipamentos que podem ser encontrados em qualquer instalação médica moderna em todo o mundo devem estar disponíveis dentro de semanas. A maioria das pessoas ainda não está tomando nenhuma ação, contando principalmente com a ampla adoção de filtragem de ar e ventilação para se protegerem. Você tem uma condição imunológica, então está mais cauteloso: seu assistente pessoal AI em execução localmente de código aberto, que lida, entre outras tarefas, com navegação e recomendação de restaurantes e eventos, também leva em consideração dados de testadores de ar em tempo real e CO2 para recomendar apenas os locais mais seguros. Os dados são fornecidos por muitos milhares de participantes e dispositivos usando Zk-SNARKs e privacidade diferencialpara minimizar o risco de que os dados possam ser vazados ou abusados para qualquer outro fim (se você quiser contribuir com dados para esses conjuntos de dados, existem outros AIs de assistente pessoal que verificam provas formais de que esses dispositivos criptográficos realmente funcionam).

Dois meses depois, a pandemia desapareceu: parece que 60% das pessoas que seguem o protocolo básico de colocar uma máscara se o testador de ar apitar e mostrar a presença do vírus, e ficar em casa se testarem positivo pessoalmente, foi o suficiente para reduzir a taxa de transmissão, que já estava bastante reduzida devido à filtragem pesada passiva do ar, para abaixo de 1. Uma doença que simulações mostram que poderia ter sido cinco vezes pior do que a Covid vinte anos atrás acaba sendo um problema hoje.

Dia do Devcon d/acc

Uma das conclusões mais positivas do evento d/acc na Devcon foi o quanto o guarda-chuva d/acc conseguiu reunir pessoas de campos muito diferentes e fazê-las realmente interessadas no trabalho umas das outras.

Criar eventos com 'diversidade' é fácil, mas fazer com que pessoas diferentes, com diferentes origens e interesses, realmente se relacionem entre si é difícil. Ainda tenho lembranças de ser obrigado a assistir óperas longas no ensino médio e no ensino médio e pessoalmente achá-las entediantes. Eu sabia que eu deveria apreciá-las, porque se eu não o fizesse, eu seria considerado um preguiçoso sem cultura na área de ciência da computação, mas eu não me conectava com o conteúdo em um nível mais genuíno. O dia do d/acc não foi assim de maneira alguma: parecia que as pessoas realmente gostavam de aprender sobre diferentes tipos de trabalho em diferentes áreas.

Se quisermos criar uma alternativa mais brilhante à dominação, desaceleração e condenação, precisamos desse tipo de construção de coalizão ampla. D/acc parece estar realmente conseguindo, e isso por si só mostra o valor da ideia.

A ideia central do d/acc é simples: aceleração defensiva diferencial descentralizada e democrática. Construir tecnologias que desloquem o equilíbrio entre ataque e defesa para a defesa, e fazê-lo de uma forma que não dependa da transferência de mais poder para autoridades centralizadas. Há uma ligação inerente entre esses dois lados: qualquer tipo de estrutura política descentralizada, democrática ou liberal prospera melhor quando a defesa é fácil e sofre mais desafios quando a defesa é difícil - nesses casos, o resultado muito mais provável é algum período de guerra de todos contra todos, e eventualmente um equilíbrio de dominação pelo mais forte.

O princípio central do d/acc se estende por muitos domínios:

Gráfico de Meu Tecnologia-Otimismo, último ano

Uma maneira de entender a importância de tentar ser descentralizado, defensivo e acelerado ao mesmo tempo é contrastá-lo com a filosofia que você obtém quando desiste de cada um dos três.

• Aceleração descentralizada, mas não se preocupe com a parte "defensiva diferencial". Basicamente, seja ume/acc, mas descentralizado. Há muitas pessoas que adotam essa abordagem,algunsquem se rotulam como d/acc, mas descrevem sua atuação como "OFENSIVA", mas também muitos outros que estão animados com a "IA descentralizada" e tópicos similares de forma mais moderada, mas, em minha opinião, não dedicam atenção suficiente ao aspecto "defensivo".

Na minha opinião, essa abordagem pode evitar o risco de uma ditadura humana global pela tribo específica que você está preocupado, mas não tem uma resposta para o problema estrutural subjacente: em um ambiente que favorece a ofensa, há um risco constante de catástrofe ou alguém se posicionando como um protetor e estabelecendo-se permanentemente no topo. No caso específico da IA, também não tem uma boa resposta para o risco de os humanos como um todo serem desempoderados em comparação com as IAs.

• Aceleração defensiva diferencial, mas não se importe com "descentralizado e democrático". Abraçar o controle centralizado em nome da segurança tem apelo permanente para um subconjunto de pessoas, e os leitores, sem dúvida, já estão familiarizados com muitos exemplos e suas desvantagens. Recentemente, alguns se preocuparam que o controle centralizado extremo seja a única solução para os extremos das tecnologias futuras: veja.este cenário hipotéticoonde “Todo mundo é equipado com uma ‘etiqueta de liberdade’ – um sequente para os dispositivos de vigilância vestíveis mais limitados familiarizados hoje, como a etiqueta de tornozelo usada em vários países como alternativa à prisão … vídeo e áudio criptografados são continuamente carregados e interpretados por máquina em tempo real”. No entanto, o controle centralizado é um espectro. Uma versão mais branda de controle centralizado que geralmente é negligenciada, mas ainda é prejudicial, é a resistência à escrutínio público em biotecnologia (por exemplo, comida, vacinas), e as normas de código fechado que permitem que essa resistência não seja contestada.

O risco dessa abordagem é, é claro, que o centro é frequentemente ele próprio a fonte de risco. Vimos isso na Covid, onde a pesquisa de ganho de função financiada por vários grandes governos mundiaispode ter sido a origem da pandemia, a epistemologia centralizada levou à OMSnão reconhecendoparaAnosque a Covid é transmitida pelo ar e coercitivadistanciamento social e vacinamandatos levaram a reações políticas que podem repercutir por décadas. Uma situação semelhante pode muito bem ocorrer em torno de quaisquer riscos relacionados à IA ou outras tecnologias arriscadas. Uma abordagem descentralizada seria mais adequada para lidar com os riscos a partir do próprio centro.

• Defesa descentralizada, mas não se importa com a aceleração - basicamente, tentando desacelerar o progresso tecnológico ou econômicodegrowth.

O desafio com esta estratégia é duplo. Em primeiro lugar, em equilíbrio, a tecnologia e o crescimento econômico têm sido imensamente benéficos para a humanidade, e qualquer atraso nisso impõe custosque sãodifícil de exagerar. Em segundo lugar, num mundo não totalitário, não avançar é instável: quem "trapacear" mais e encontrar maneiras plausivelmente negáveis de avançar de qualquer maneira estará à frente. Estratégias deceleracionistas podem funcionar até certo ponto em alguns contextos: a comida europeia ser mais saudável que a comida americana é um exemplo, o sucesso até agora da não proliferação nuclear é outro. Mas elas não podem funcionar para sempre.

Com d/acc, queremos:

• Seja principista em um momento em que grande parte do mundo está se tornando tribal e não apenas construa qualquer coisa - queremos construir coisas específicas que tornem o mundo mais seguro e melhor.
• Reconheça que o progresso tecnológico exponencial significa que o mundo vai ficar muito muito estranho e que a "pegada" total da humanidade no universo só vai aumentar. Nossa capacidade de manter animais, plantas e pessoas vulneráveis longe do perigo deve melhorar, mas a única saída é seguir em frente.
• Construa tecnologia que nos mantenha seguros sem presumir que os "bons caras (ou boas IAs) estão no comando". Fazemos isso construindo ferramentas que são.naturalmente mais eficazquando usado para construir e proteger do que quando usado para destruir.

Outra maneira de pensar sobre d/acc é voltar a um quadro deos movimentos do Partido Piratana Europa no final dos anos 00: empoderamento.

O objetivo é construir um mundo onde preservamos a agência humana, alcançandoambosa liberdade negativa de evitar interferência ativa (seja de outras pessoas atuando como cidadãos privados, seja de governos, ou de robôs superinteligentes) com nossa capacidade de moldar nossos próprios destinos, e a liberdade positiva de garantir que tenhamos o conhecimento e os recursos para. Isso ecoa uma tradição liberal clássica de séculos atrás, que também inclui o foco de Stewart Brand emacesso às ferramentas“ e de John Stuart Millênfase na educaçãoao ladoliberdadecomo componentes-chave do progresso humano - e talvez, pode-se acrescentar, o desejo de Buckminster Fuller de ver o processo de resolução global serparticipativo e amplamente distribuído. Podemos ver d/acc como uma forma de alcançar esses mesmos objetivos dada a paisagem tecnológica do século 21.

A terceira dimensão: sobreviver e prosperar

Em meu post do ano passado, d/acc focou especificamente nas tecnologias defensivas: defesa física, defesa biológica, defesa cibernética e defesa de informações. No entanto, a defesa descentralizada não é suficiente para tornar o mundo grandioso: você também precisa de uma visão positiva e progressista do que a humanidade pode usar sua descentralização e segurança recém-encontradas para realizar.

O post do ano passado continha uma visão positiva, em dois lugares:

1. Concentrando-se nos desafios da superinteligência, propus um caminho (longe de original para mim) de como podemos ter superinteligência sem desempoderamento:
   1. Hoje, construa IA como ferramentas em vez de IA como agentes altamente autônomos
   2. Amanhã use ferramentas como realidade virtual, myoelectricse interfaces cérebro-computador para criar um feedback cada vez mais apertado entre a IA e os humanos
   3. Com o tempo, avançar em direção a um eventual jogo final em que a superinteligência seja uma combinação estreitamente acoplada de máquinas e nós.
2. Ao falar sobre a defesa de informações, também mencionei tangencialmente que, além da tecnologia social _defensiv_a que tenta ajudar as comunidades a manter a coesão e ter um discurso de alta qualidade diante dos atacantes, também existe a tecnologia social progressiva que pode ajudar as comunidades a fazer julgamentos de alta qualidade mais prontamente:pol.isé um exemplo, eprevisão mercadossão outro.

Mas esses dois pontos pareceram desconectados do argumento d / acc: "aqui estão algumas ideias para criar um mundo mais democrático e favorável à defesa na camada de base, e, a propósito, aqui estão algumas ideias não relacionadas sobre como podemos fazer superinteligência".

No entanto, acho que, na realidade, existem algumas conexões muito importantes entre o que rotulou acima como tecnologia d/acc "defensiva" e "progressiva". Vamos expandir o gráfico d/acc do post do ano passado, adicionando este eixo (também, vamos renomeá-lo "sobreviver vs prosperarAdicionando o símbolo ")" ao gráfico e vendo o que sai:

Há um padrão consistente, em todos os domínios, de que a ciência, ideias e ferramentas que podem nos ajudar a "sobreviver" em um domínio estão intimamente relacionadas à ciência, ideias e ferramentas que podem nos ajudar a "prosperar". Alguns exemplos:

• Muitas pesquisas recentes anti-Covid se concentram em o papel da persistência viralno corpo como um mecanismo para explicar por que a Covid Longa é um problema. Recentemente, também há sinais de persistência viral pode ser responsável pela doença de Alzheimer- se for verdade, isso implica que abordar a persistência viral em todos os tipos de tecido pode ser a chave para resolver o envelhecimento.
• Baixo custo e em miniaturaferramentas de imagemcomo aqueles sendoconstruído pela Openwaterpode ser poderoso para tratarmicrocoágulos, ou persistência viral, cânceres, e eles também podem ser usados para BCI.
• Ideias muito semelhantes motivam a construção de ferramentas sociais construídas para ambientes altamente adversos, como Notas da Comunidadee ferramentas sociais criadas para ambientes razoavelmente cooperativos, como pol.is.
• Os mercados de previsão são valiosoem ambosalta-cooperaçãoealta adversidadeambientes.
• Provas de conhecimento zero e tecnologias semelhantes para realizar cálculos em dados, preservando a privacidade, aumentam tanto os dados disponíveis para trabalhos úteis, como a ciência, quanto a privacidade.
• Energia solar e baterias são ótimas para impulsionando a próxima onda de crescimento econômico limpo, mas eles também são incríveis para descentralização e resiliência física.

Além disso, também existem importantes interdependências entre as áreas temáticas:

• O BCI é muito relevante como uma tecnologia de infodefesa e colaboração, porque poderia permitir uma comunicação muito mais detalhada de nossos pensamentos e intenções. BCI não é apenas bot-to-consciousness: também pode ser consciência-to-bot-to-consciousness. Isso ecoa Pluralidade de ideias sobre o valor do BCI.
• Muita biotecnologia depende do compartilhamento de informações, e em muitos contextos as pessoas só se sentirão confortáveis em compartilhar informações se tiverem confiança de que elas serão utilizadas para uma única aplicação. Isso depende da tecnologia de privacidade (por exemplo, ZKP, FHE, obfuscation...).
• A tecnologia de colaboração pode ser usada para coordenar o financiamento para qualquer uma das outras áreas de tecnologia

A pergunta difícil: segurança da IA, prazos curtos e regulamentação

Pessoas diferentes têm cronogramas de IA muito diferentes. Gráfico de Zuzalu em Montenegro, 2023.

O argumento contra o meu post do ano passado que eu achei mais convincente foi uma crítica da comunidade de segurança da IA. O argumento é o seguinte: 'claro, se tivermos meio século até termos uma IA forte, podemos concentrar nossas energias e construir todas essas coisas boas. Mas na verdade, está parecendo que temos prazos de três anos até a IA geral, e mais três anos até a superinteligência. E, portanto, se não queremos que o mundo seja destruído ou caia em uma armadilha irreversível, não podemos apenas acelerar o bem, também precisamos desacelerar o mal, e isso significa aprovar regulamentações poderosas que podem irritar pessoas poderosas'. No meu post do ano passado, de fato, não pedi nenhuma estratégia específica para 'desacelerar o mal', além de apelos vagos para não construir formas arriscadas de superinteligência. E, por isso, vale a pena abordar a pergunta diretamente: se estamos vivendo na mundo menos conveniente, onde o risco da IA é alto e os prazos estão potencialmente a cinco anos de distância, que regulamentação eu apoiaria?

Primeiro, o argumento de cautela em relação às novas regulamentações

No ano passado, a principal proposta de regulamentação de IA foi a Projeto de lei SB-1047 na Califórnia. O SB-1047 exigiu que os desenvolvedores dos modelos mais poderosos (aqueles que levam mais de US$ 100 milhões para treinar, ou mais de US$ 10 milhões no caso de ajustes finos) tomassem algumas medidas de teste de segurança antes de liberar. Além disso, impôs responsabilidade aos desenvolvedores de modelos de IA se eles tomarem cuidados insuficientes. Muitos detratores argumentaram que o projeto de lei era "Uma ameaça ao código aberto“; Discordei, pois os limites de custo significavam que afetava apenas os modelos mais potentes: até o LLama3 era provavelmente abaixo do limite. Olhando para trás, no entanto, acho que havia um problema maior com o projeto de lei: como a maioria das regulamentações, ele estava super ajustado à situação atual. O foco no custo de treinamento está se mostrando frágil diante da nova tecnologia: o recente modelo de qualidade state-of-the-art Deepseek v3 foi treinado a um custo deapenas $6 milhões, e em novos modelos como o1 os custos estão mudando do treinamento para a inferência de forma mais geral.

Segundo, os atores mais prováveis que seriam realmente responsáveis por um cenário de desastre de superinteligência de IA são realisticamente os militares. Como nósvisto nos últimos cinquenta anos de biossegurança(e além), os militares estão dispostos a fazer coisas assustadoras e podem facilmente cometer erros. O uso militar de IA está avançando rapidamente hoje (vejaUcrânia, GazaE qualquer regulamentação de segurança que um governo promulgue, por padrão, isentaria seu próprio exército e corporações que cooperam de perto com o exército.

Dito isso, esses argumentos não são razões para jogarmos as mãos para o alto e não fazer nada. Em vez disso, podemos usá-los como um guia e tentar criar regras que acionem essas preocupações da maneira menos invasiva possível.

Estratégia 1: Responsabilidade

Se alguém age de alguma forma que cause danos passíveis de ação legal, eles poderiaser processou. Isso não resolve o problema dos riscos dos militares e outros atores "acima da lei", mas é uma abordagem de propósito muito geral que evita o overfit, e muitas vezes é Suportadopor libertários inclinadoseconomistas exatamente por isso.

Os principais alvos de responsabilidade que foram considerados até agora são:

• Usuários - as pessoas que usam a IA
• Deployers - intermediários que oferecem IA como serviço para usuários
• Desenvolvedores - as pessoas que constroem a IA

Colocar a responsabilidade nos usuários é o mais compatível com incentivos. Embora a ligação entre como um modelo é desenvolvido e como ele acaba sendo usadomuitas vezes é confuso, o usuário decide exatamente como a IA é usada. A responsabilidade sobre os usuários cria uma forte pressão para fazer IA da maneira que considero correta: focar na construção de mechas para a mente humana, não em criar novas formas de vida inteligente autossustentável. O primeiro responde regularmente à intenção do usuário e, portanto, não causaria ações catastróficas, a menos que o usuário quisesse. Este último teria o maior risco de sair e criar um cenário clássico de "IA indo malandro". Outro benefício de colocar a responsabilidade o mais próximo possível do uso final é que ele minimiza o risco de que a responsabilidade leve as pessoas a tomar ações que são prejudiciais de outras maneiras (por exemplo, código fechado, KYC e vigilância, conluio estatal/empresarial para restringir clandestinamente os usuários, como por exemplo, desbanco, bloqueando grandes regiões do mundo).

Há um argumento clássico contra colocar a responsabilidade exclusivamente nos usuários: os usuários podem ser indivíduos comuns sem muito dinheiro, ou até mesmo anônimos, não deixando ninguém que possa realmente pagar por um dano catastrófico. Este argumento pode ser exagerado: mesmo que alguns usuários sejam pequenos demais para serem responsabilizados, o cliente médio de um desenvolvedor de IA não é, e assim os desenvolvedores de IA ainda teriam incentivo para construir produtos que possam dar aos seus usuários a garantia de que não enfrentarão um alto risco de responsabilidade. Dito isso, ainda é um argumento válido e precisa ser abordado. Você precisa incentivar alguém na cadeia que tenha os recursos para tomar o nível apropriado de cuidado para fazê-lo, e os implementadores e desenvolvedores são ambos alvos facilmente disponíveis que ainda ter muito influência sobre o quão seguro ou inseguro é um modelo.

A responsabilidade do implementador parece razoável. Uma preocupação comumente citada é que isso não funcionaria para modelos de código aberto, mas isso parece gerenciável, especialmente porque há uma alta probabilidade de que os modelos mais poderosos sejam fechados de qualquer maneira (e se eles se mostrarem abertos, então, embora a responsabilidade do implementador não seja muito útil, também não causa muitos danos). A responsabilidade do desenvolvedor tem a mesma preocupação (embora com modelos de código aberto haja algum obstáculo para precisar ajustar um modelo para fazer algo originalmente proibido), mas o mesmo contra-argumento se aplica. Como princípio geral, colocar um 'imposto' no controle e essencialmente dizer 'você pode 'construir coisas que você não controla, ou você pode construir coisas que você controla, mas se você construir coisas que você controla, então 20% do controle deve ser usado para nossos propósitos”, parece uma posição razoável para os sistemas legais terem.

Uma ideia que parece pouco explorada é colocar a responsabilidade sobre outros atores na calha, que têm mais garantia de ter bons recursos. Uma ideia que é muito amigável é colocar responsabilidade sobre os proprietários ou operadores de qualquer equipamento que uma IA assume (por exemplo, por hacking) no processo de execução de alguma ação catastrófica prejudicial. Isso criaria um incentivo muito amplo para fazer o trabalho árduo para tornar a infraestrutura mundial (especialmente de computação e bio) o mais segura possível.

Estratégia 2: Botão de pausa global "suave" em hardware em escala industrial

Se eu estivesse convencido de que precisamos de algo mais 'musculoso' do que regras de responsabilidade, isso é o que eu escolheria. O objetivo seria ter a capacidade de reduzir a computação disponível em todo o mundo em cerca de 90-99% por 1-2 anos em um período crítico, para ganhar mais tempo para a humanidade se preparar. O valor de 1-2 anos não deve ser superestimado: um ano em 'modo de guerra' pode valer facilmente cem anos de trabalho em condições de complacência. Maneiras de implementar um 'pausar“já foram exploradas, incluindo propostas concretas como requerendo registro e verificando localizaçãode hardware.

Uma abordagem mais avançada é usar truques criptográficos inteligentes: por exemplo, o hardware de IA em escala industrial (mas não de consumo) que é produzido pode ser equipado com um chip de hardware confiável que só permite continuar em execução se receber 3/3 assinaturas uma vez por semana de grandes entidades internacionais, incluindo pelo menos uma não afiliada ao militar. As assinaturas seriam independentes do dispositivo (se desejado, poderíamos até exigir uma prova de conhecimento zero de que foram publicadas em um blockchain), portanto, seria tudo ou nada: não haveria maneira prática de autorizar um dispositivo a continuar em execução sem autorizar todos os outros dispositivos.

Isso parece que "verifica as caixas" em termos de maximizar benefícios e minimizar riscos:

• É uma capacidade útil de se ter: se recebermos sinais de aviso de que a IA quase superinteligente está começando a fazer coisas que representam riscos de danos catastróficos, vamos querer fazer a transição de forma mais lenta.
• Até que um momento crítico aconteça, ter apenas a capacidade de pausar suavemente causaria pouco dano aos desenvolvedores.
• Concentrar-se em hardware em grande escala e ter como objetivo apenas 90-99% evitaria um esforço distópico de colocar chips espiões ou interruptores de desligamento em laptops de consumidores ou impor medidas draconianas a países pequenos contra sua vontade.
• Focar no hardware parece ser muito robusto às mudanças na tecnologia. Já vimos em várias gerações de IA que a qualidade depende muito do poder de computação disponível, especialmente nas primeiras versões de um novo paradigma. Portanto, reduzir o poder de computação disponível em 10-100 vezes pode facilmente fazer a diferença entre uma IA superinteligente fora de controle vencer ou perder uma batalha acelerada contra humanos que tentam impedi-la.
• A irritação inerente de precisar acessar a internet uma vez por semana para uma assinatura criaria uma forte pressão contra a extensão do esquema para hardware de consumo.
• Poderia ser verificado com inspeção aleatória, e fazê-lo a nível de hardware tornaria difícil isentar usuários específicos (abordagens baseadas em desligamentos forçados por motivos legais, em vez de técnicos, não têm essa propriedade de tudo ou nada, o que as torna muito mais propensas a escorregar em isenções para militares, etc)

A regulamentação de hardware já está sendo considerada com força, embora geralmente dentro do contexto decontroles de exportação, que têm inerentemente uma filosofia de "confiamos no nosso lado, mas não no outro lado". Leopold Aschenbrenner defendeu famosamente que os EUA devemcorrida para obter uma vantagem decisiva e então basicamente forçar a Chinapara assinar um protocolo limitando quantas caixas eles estão autorizados a executar. Para mim, essa abordagem parece arriscada e pode combinar as falhas decorridas multipolarese centralização. Se tivermos que limitar as pessoas, parece melhor limitar a todos em pé de igualdade e fazer o trabalho árduo de tentar cooperar para organizar isso em vez de uma parte procurar dominar todos os outros.

tecnologias d/acc em risco de IA

Ambas essas estratégias (responsabilidade e o botão de pausa de hardware) têm falhas e está claro que são apenas soluções temporárias: se algo se tornar possível em um supercomputador no tempo T, provavelmente será possível em um laptop no tempo T + 5 anos. E, portanto, precisamos de algo mais estável para ganhar tempo. Muitas tecnologias d/acc são relevantes aqui. Podemos analisar o papel da tecnologia d/acc da seguinte forma: se a IA assumir o controle do mundo, como ela o faria?

• Ele invade nossos computadores → ciberdefesa
• Cria uma super-praga → bio-defesa
• Isso nos convence (ou a confiar nele, ou a desconfiar um do outro) → info-defesa

Como mencionado brevemente acima, as regras de responsabilidade são um estilo naturalmente favorável à deficiência/precisão da regulamentação, porque podem motivar de forma muito eficiente todas as partes do mundo a adotarem essas defesas e levá-las a sério. Taiwantem estado experimentandocom responsabilidade por publicidade enganosa recentemente, o que pode ser visto como um exemplo de uso da responsabilidade para incentivar a defesa de informações. Não devemos ser muito entusiasmados em colocar a responsabilidade em todos os lugares e lembrar dos benefícios da velha liberdade em permitir que o pequeno empreendedor participe da inovação sem medo de processos, mas onde queremos um impulso mais forte para ser seguro, a responsabilidade pode ser bastante flexível e eficaz.

O papel da criptografia no d/acc

Muito do d/acc vai muito além dos típicos tópicos de blockchain: biossegurança, BCI e ferramentas de discurso colaborativo parecem estar bem distantes das coisas que uma pessoa de criptografia normalmente fala. No entanto, acredito que existem algumas ligações importantes entre cripto e d/acc, em particular:

• d/acc é uma extensão dos valores subjacentes da criptografia (descentralização, resistência à censura, economia global aberta e sociedade) para outras áreas de tecnologia.
• Porque os usuários de criptomoedas são naturalmente os primeiros a adotar, e há uma alinhamento de valores, as comunidades de criptomoedas são usuários naturais iniciais da tecnologia d/acc. A grande ênfase na comunidade (tanto online quanto offline, por exemplo, eventos e pop-ups), e o fato de que essas comunidades realmente fazem coisas de alto risco em vez de apenas conversar entre si, torna as comunidades de criptomoedas incubadoras e bancos de testes especialmente atrativos para tecnologias d/acc que funcionam fundamentalmente em grupos em vez de indivíduos (por exemplo, uma grande fração de defesa de informações e defesa biológica). As pessoas de criptomoedas simplesmente fazem coisas juntas.
• Muitas tecnologias cripto podem ser usadas em áreas de assuntos descentralizados: blockchains para construir infraestrutura financeira, de governança e de mídia social mais robusta e descentralizada, provas de conhecimento zero para proteger a privacidade, etc. Hoje, muitos dos maiores mercados de previsão são construídos em blockchains, e eles estão gradualmente se tornando mais sofisticados, descentralizados e democráticos.
• Existem também oportunidades de ganha-ganha para colaborar em tecnologias cripto-adjacentes que são muito úteis para projetos cripto, mas também são essenciais para alcançar os objetivos d/acc:verificação formal, software de computador e segurança de hardware, e tecnologia de governança adversária-robusta. Essas coisas tornam a blockchain do Ethereum, carteiras e DAOs mais seguros e robustos, e também alcançam objetivos importantes de defesa da civilização, como reduzir nossa vulnerabilidade a ciberataques, incluindo potencialmente de IA superinteligente.

Cursiva, um aplicativo que utiliza criptografia totalmente homomórfica (FHE) para permitir que os usuários identifiquem áreas de interesse comum com outros usuários, preservando a privacidade. Isso foi usado na Edge City, um dos muitos desdobramentos de Zuzalu, em Chiang Mai.

Além dessas interseções diretas, há também outro ponto de interesse compartilhado crucial: mecanismos de financiamento.

d/acc e financiamento de bens públicos

Um dos meus interesses contínuos é desenvolver mecanismos melhores para financiar bens públicos: projetos que são valiosos para grupos muito grandes de pessoas, mas que não tenhoum modelo de negócios naturalmente acessível. Meu trabalho passado nisso inclui minhas contribuições para financiamento quadráticoe seu uso emGitcoin Grants, PGF retrô, e mais recentemente financiamento profundo.

Muitas pessoas são céticas em relação aos bens públicos como conceito. O ceticismo geralmente vem de duas fontes:

1. O fato de que os bens públicos historicamente têm sido usados como justificativa para um planejamento central autoritário e intervenção governamental na sociedade e na economia.
2. Uma percepção geral de que o financiamento de bens públicos carece de rigor e é administrado em gateviés de desejabilidade social - o que soa bem, em vez do que é bom - e favorece os insiders que podem jogar o jogo social.

Essas são críticas importantes e boas críticas. No entanto, eu argumentaria que o financiamento forte de bens públicos descentralizados é essencial para uma visão de d/acc, porque um objetivo-chave de d/acc (minimizar pontos de controle centralizados) frustra muitos modelos de negócio tradicionais. É possível construir negócios bem-sucedidos com código aberto - váriasBalvigarantidosestão fazendo isso - mas em algumas situações é difícil o suficiente que projetos importantes precisem de suporte contínuo adicional. Portanto, temos que fazer o difícil, e descobrir como fazer o financiamento de bens públicos de uma maneira que aborde as duas críticas acima.

A solução para o primeiro problema é basicamente neutralidade credívele@VitalikButerin/o-significado-da-descentralização-a0c92b76a274">descentralização. O planejamento central é problemático porque dá controle a elites que podem se tornar abusivas e porque frequentemente sobreajusta à situação atuale se torna cada vez menos eficaz ao longo do tempo. O financiamento quadrático e mecanismos semelhantes eram precisamente sobre o financiamento de bens públicos de uma maneira que é tão credível, neutra e (arquitetonicamente e politicamente) descentralizada quanto possível.

O segundo problema é mais desafiador. Com financiamento quadrático, uma crítica comum tem sido que ele rapidamente se torna uma competição de popularidade, exigindo que os financiadores do projeto gastem muito esforço fazendo campanhas públicas. Além disso, projetos que estão "na frente dos olhos das pessoas" (por exemplo, aplicativos para usuários finais) são financiados, mas projetos que estão mais em segundo plano (o arquétipo "gate.io", por exemplo)dependência mantida por um cara em Nebraska“) não recebem nenhum financiamento. O financiamento retroativo da Optimism depende de um número menor de detentores de crachá especialistas; aqui, os efeitos do concurso de popularidade são diminuídos, mas os efeitos sociais de ter laços pessoais próximos com os detentores de crachá são ampliados.

Financiamento profundoé meu próprio esforço mais recente para resolver este problema. O financiamento profundo tem duas inovações principais:

1. O gráfico de dependência. Em vez de perguntar a cada jurado uma pergunta global ("qual é o valor do projeto A para a humanidade?"), fazemos uma pergunta local ("o projeto A ou o projeto B é mais valioso para o resultado C? E em quanto?"). Os seres humanos são notoriamente ruins em perguntas globais: em uma estudo famoso, quando perguntados quanto dinheiro pagariam para salvar N pássaros, os respondentes responderam aproximadamente $80 para N=2.000, N=20.000 e N=200.000. As perguntas locais são muito mais viáveis. Em seguida, combinamos as respostas locais em uma resposta global, mantendo um 'gráfico de dependência': para cada projeto, quais outros projetos contribuíram para o seu sucesso e quanto?
2. AI comojuízo humano destilado. Os jurados recebem apenas uma pequena amostra aleatória de todas as perguntas. Há uma competição aberta através da qual qualquer pessoa pode enviar modelos de IA que tentam preencher de forma eficiente todas as arestas no gráfico. A resposta final é a soma ponderada dos modelos que é mais compatível com as respostas do júri. Vejaaqui está um exemplo de código. Essa abordagem permite que o mecanismo se expanda para um tamanho muito grande, ao mesmo tempo em que exige que o júri envie apenas um pequeno número de “bits” de informação. Isso reduz as oportunidades de corrupção e garante que cada bit seja de alta qualidade: os jurados podem se dar ao luxo de pensar por um longo tempo em cada pergunta, em vez de clicar rapidamente em centenas. Ao usar uma competição aberta de IAs, reduzimos o viés de qualquer processo de treinamento e administração de IA individual. Mercado aberto de IAs como motor, humanos como volante.

Mas o financiamento profundo é apenas o exemplo mais recente; houve outras ideias de mecanismos de financiamento de bens públicos antes, e haverá muitas mais no futuro.allo.expertfaz um bom trabalho de catalogá-los. O objetivo subjacente é criar um gadget social que possa financiar bens públicos com um nível de precisão, justiça e entrada aberta que pelo menos se aproxime da maneira como os mercados financiam bens privados. Não precisa ser perfeito; afinal, os mercados estão longe de ser perfeitos. Mas deve ser eficaz o suficiente para que os desenvolvedores trabalhando em projetos de código aberto de alta qualidade que beneficiem a todos possam se dar ao luxo de continuar fazendo isso sem sentir a necessidade de fazer compromissos inaceitáveis.

Hoje, os principais projetos na maioria das áreas de assunto d/acc: vacinas, gateBCI, como "BCI limítrofe" comoeletromiografia de pulso e rastreamento ocular, medicamentos anti-envelhecimento, hardware, etc., são proprietários. Isso tem grandes desvantagens em termos de garantir a confiança pública, como vimos em muitosdaacima Áreas já. Também desloca a atenção para a dinâmica competitiva (“NOSSA EQUIPE deve vencer essa indústria crítica!”), e afastando-se da competição maior de garantir que essas tecnologias cheguem rápido o suficiente para estar lá para nos proteger em um mundo de IA superinteligente. Por essas razões, o financiamento de bens públicos robustos pode ser um grande impulsionador da abertura e liberdade. Esta é outra maneira pela qual a comunidade de criptomoedas pode ajudar d/acc: investindo esforços sérios na exploração desses mecanismos de financiamento e fazendo com que funcionem bem dentro de seu próprio contexto, preparando-os para uma adoção muito mais ampla para ciência e tecnologia de código aberto de forma mais geral.

O futuro

As próximas décadas trazem desafios importantes. Há dois desafios que têm estado em minha mente ultimamente:

• Poderosas novas ondas de tecnologia, especialmente a forte IA, estão chegando rapidamente e essas tecnologias vêm com armadilhas importantes que precisamos evitar. Pode levar cinco anos para que a 'superinteligência artificial' chegue aqui, pode levar cinquenta. De qualquer forma, não está claro que o resultado padrão seja automaticamente positivo e, como descrito neste post e ...a anterior, existem várias armadilhas a evitar.
• O mundo está se tornando menos cooperativo. Muitos atores poderosos que antes pareciam agir, pelo menos às vezes, com base em princípios elevados (cosmopolitismo, liberdade, humanidade comum... a lista continua) agora estão mais abertamente e agressivamente buscando o interesse próprio ou tribal.

No entanto, cada um desses desafios tem um lado positivo. Em primeiro lugar, agora temos ferramentas muito poderosas para fazer o nosso trabalho restante mais rapidamente:

• IA atual e futura pode ser usada para construir outras tecnologias e pode ser usada como ingrediente na governança (como em financiamento profundo ou informações financeiras). Também é muito relevante para a BCI, que por si só pode proporcionar ganhos adicionais de produtividade.
• A coordenação em larga escala agora é possível em escalas muito maiores do que antes. A internet e as redes sociais ampliaram o alcance da coordenação, as finanças globais (incluindo criptomoedas) aumentaram seu poder, e agora as ferramentas de defesa e colaboração de informações podem aumentar sua qualidade e, talvez em breve, a BCI em sua forma humana-computador-humano possa aumentar sua profundidade.
• Verificação formal, sandboxing (navegadores da web, Docker, Qubes, GrapheneOS, e muito mais), módulos de hardware seguros e outras tecnologias estão evoluindo a ponto de tornar a segurança cibernética muito melhor possível.
• Escrever qualquer tipo de software é significativamente mais fácil do que era há dois anos.
• Pesquisas básicas recentes sobre a compreensão de como os vírus funcionam, especialmente a compreensão simples de que a forma mais importante de transmissão a ser evitada é aérea, estão indicando um caminho muito mais claro para melhorar a defesa biológica.
• Recentes avanços na biotecnologia (por exemplo, CRISPR, avançosembioimagem) estão fazendo todos os tipos de biotecnologia, seja para defesa, ou longevidade, ou super-felicidade, ou explorando múltiploromance biohipóteses, ou simplesmente fazendo coisas realmente legaismuito mais acessível.
• Os avanços na computação e biotecnologia juntos estão possibilitando ferramentas bio sintéticas que você pode usar para adaptar, monitorar e melhorar sua saúde. A tecnologia de ciberdefesa, como a criptografia, torna a dimensão personalizada disso muito mais viável.

Em segundo lugar, agora que muitos princípios que valorizamos não estão mais ocupados por alguns segmentos específicos da velha guarda, eles podem ser recuperados por uma ampla coalizão à qual qualquer pessoa no mundo é bem-vinda para se juntar. Este é provavelmente o maior benefício das recentes "realocações" políticas em todo o mundo, e vale a pena aproveitar. As criptomoedas já fizeram um excelente trabalho aproveitando isso e encontrando apelo global; o d/acc pode fazer o mesmo.

O acesso às ferramentas significa que somos capazes de adaptar e melhorar nossas biologias e nossos ambientes, e a parte "defesa" de d/acc significa que somos capazes de fazer isso sem infringir a liberdade de outros para fazer o mesmo.Princípios pluralistas liberaisquer dizer que podemos ter muita diversidade na forma como isso é feito, e nosso compromisso com objetivos comuns da humanidade significa que deve ser feito.

Nós, humanos, continuamos a ser a estrela mais brilhante. A tarefa que temos pela frente, de construir um século 21 ainda mais brilhante que preserve a sobrevivência humana, a liberdade e o arbítrio enquanto caminhamos em direção às estrelas, é desafiadora. Mas estou confiante de que estamos à altura.

Aviso legal:

1. Este artigo foi reproduzido de [Vitalik Buterin]. Encaminhe o Título Original: d/acc: um ano depois. Todos os direitos autorais pertencem ao autor original [Vitalik Buterin]. Se houver objeções a esta reimpressão, por favor, entre em contato com o Gate Aprenderequipe e eles vão lidar com isso prontamente.
2. Isenção de Responsabilidade: As visões e opiniões expressas neste artigo são exclusivamente do autor e não constituem qualquer conselho de investimento.
3. A equipe de tradução do Gate Learn faz traduções do artigo para outros idiomas. A menos que mencionado, copiar, distribuir ou plagiar os artigos traduzidos é proibido.