d/acc: Uma Revisão e Perspectiva Após um Ano

No ano passado, escrevi um artigo sobre otimismo tecnológico, que expôs a paixão pela tecnologia e os enormes benefícios que ela pode trazer, ao mesmo tempo que expressou uma atitude cautelosa em relação a certas questões específicas, especialmente os riscos de destruição que a inteligência artificial superinteligente pode desencadear ou o risco de a humanidade perder poder de forma irreversível.

O ponto central do artigo é promover uma ideia: uma aceleração defensiva descentralizada, democrática e diferenciada. Devemos acelerar o desenvolvimento tecnológico, mas focar de forma diferenciada nas tecnologias que podem aumentar a capacidade de defesa, em vez de causar danos, e nos empenhar em promover a descentralização do poder, evitando que uma minoria de elites decida o que é certo ou errado em nome de todos. Devemos nos inspirar na Suíça democrática e nas regiões quase anarquistas da história, em vez do modelo de senhores e castelos sob o feudalismo medieval.

Durante este ano, essas ideias e conceitos evoluíram e amadureceram significativamente. Eu compartilhei essas ideias na plataforma "80,000 horas" e recebi várias respostas, a maioria positivas, embora também houvesse algumas críticas.

Este trabalho também fez progressos concretos: houve avanços no campo das vacinas de código aberto verificáveis; a conscientização sobre o valor de um ar interior saudável está se aprofundando; as "notas da comunidade" continuam a desempenhar um papel positivo; o mercado de previsões teve um ano de grandes avanços como ferramenta de informação; as provas de conhecimento zero foram aplicadas na identificação de identidade do governo e nas redes sociais ( e garantiram a segurança das carteiras Ethereum através da abstração de contas ); ferramentas de imagem de código aberto foram aplicadas nos campos da medicina e interface cérebro-máquina, entre outras.

No outono passado, recebemos o primeiro evento importante de d/acc: "Dia de Descoberta do d/acc"(d/aDDy), que reuniu palestrantes de diversos pilares do d/acc(, como biologia, física, redes, defesa da informação e tecnologia neural). O evento durou o dia inteiro. As pessoas que se dedicam a essas tecnologias há muito tempo entenderam melhor o trabalho umas das outras, e os externos também começaram a perceber essa visão mais ampla: os mesmos valores que impulsionam o desenvolvimento do Ethereum e das criptomoedas podem se expandir para um mundo mais amplo.

o significado e a extensão de d/acc

A ideia central do d/acc é clara e concisa: uma aceleração defensiva descentralizada, democrática e diferenciada. Devemos construir tecnologias que possam inclinar o equilíbrio entre ataque e defesa em direção à defesa, sem depender da transferência de mais poder para autoridades centrais durante o processo de implementação. Existe uma conexão intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a florescer quando a defesa é fácil de implementar, mas enfrenta sérios desafios quando a defesa se torna difícil.

Uma maneira de compreender a importância de tentar simultaneamente realizar a descentralização, a defesa e a aceleração é compará-la com a ideia que resulta da renúncia a qualquer um desses três aspectos:

1. Aceleração descentralizada, mas ignorando a parte de "defesa diferenciada": isso é semelhante a se tornar um aceleracionista eficaz (e/acc), mas ao mesmo tempo buscando a descentralização. Essa abordagem pode evitar o risco de um grupo específico impor um regime de ditadura sobre a humanidade global, mas não resolve os problemas estruturais potenciais: em um ambiente favorável ao ataque, sempre existe o risco contínuo de catástrofe, ou alguém pode se posicionar como protetor e ocupar permanentemente uma posição de domínio.

2. A defesa diferenciada acelera, mas ignora "descentralização e democracia": aceitar o controle centralizado para alcançar objetivos de segurança continua a ser atraente para algumas pessoas. No entanto, há um problema de grau com o controle centralizado. O próprio centro tende a se tornar a fonte de risco, como vimos durante a pandemia de COVID-19.

3. Defesa descentralizada, mas rejeição à aceleração: isso é essencialmente uma tentativa de desacelerar o progresso tecnológico ou impulsionar a recessão econômica. Essa estratégia enfrenta um duplo desafio: primeiro, o crescimento tecnológico e econômico é extremamente benéfico para a humanidade, qualquer atraso acarretará custos incalculáveis; segundo, em um mundo não autoritário, a estagnação é instável, e aqueles que "trapaceiam" mais, encontrando maneiras aparentemente razoáveis de continuar avançando, terão uma vantagem.

Através do d/acc, estamos comprometidos em alcançar os seguintes objetivos:

• Manter princípios em um mundo cada vez mais tribalizado, em vez de simplesmente construir coisas de forma cega. Esperamos construir coisas específicas para tornar o mundo mais seguro e melhor.

• Reconhecer que o avanço tecnológico exponencial significa que o mundo se tornará extremamente peculiar, e a "pegada" total da humanidade no universo inevitavelmente aumentará. Nossa capacidade de proteger animais, plantas e pessoas vulneráveis de danos deve continuar a aumentar, e o único caminho a seguir é avançar corajosamente.

• Construir tecnologias que realmente nos protejam, em vez de se basear na suposição de que "pessoas boas ( ou uma boa inteligência artificial ) controlam tudo". Conseguimos isso através da construção de ferramentas que, quando usadas para construir e proteger, são naturalmente mais eficazes do que quando usadas para destruir.

Uma outra perspectiva sobre o d/acc é retornar ao quadro do movimento dos Piratas da Europa no final dos anos 2000: empoderamento. O nosso objetivo é construir um mundo que possa preservar a agência humana, alcançando a liberdade negativa, ou seja, evitar que outros (, sejam cidadãos comuns, governos ou super-inteligências ), intervenham ativamente na nossa capacidade de moldar nosso próprio destino, ao mesmo tempo que alcançamos a liberdade positiva, ou seja, garantir que tenhamos conhecimento e recursos para exercer essa capacidade.

Terceira Dimensão: Desenvolvimento Colaborativo da Sobrevivência e Prosperidade

No artigo do ano passado, d/acc focou especialmente em tecnologias defensivas: defesa física, defesa biológica, defesa cibernética e defesa da informação. No entanto, a simples defesa descentralizada não é suficiente para construir um grande mundo: também precisamos de uma visão proativa e orientada para o futuro, que defina quais objetivos a humanidade pode alcançar após obter nova descentralização e segurança.

Existe um padrão consistente em vários campos, ou seja, a ciência, o pensamento e as ferramentas que nos ajudam a "sobreviver" em um determinado campo estão intimamente relacionados com a ciência, o pensamento e as ferramentas que nos ajudam a "prosperar". Aqui estão alguns exemplos específicos:

• Muitas pesquisas recentes sobre a COVID-19 têm se concentrado na persistência do vírus no corpo, o que é visto como um mecanismo-chave para o problema da COVID longa. Recentemente, também houve indícios de que a persistência do vírus pode ser um fator patogênico da doença de Alzheimer. Se essa ideia se confirmar, resolver a questão da persistência do vírus em todos os tipos de tecidos pode ser a chave para enfrentar o problema do envelhecimento.

• Ferramentas de baixo custo e microimagem têm um grande potencial no tratamento de microtrombos, presença contínua de vírus, câncer, entre outros, e também podem ser aplicadas na área de interfaces cérebro-máquina.

• Promover a construção de ferramentas sociais adaptadas a ambientes altamente adversariais (, como notas comunitárias ), e ferramentas sociais de ambientes de cooperação razoável (, como o Pol.is ), é uma ideia extremamente semelhante.

• Os mercados preditivos têm um valor importante tanto em ambientes de alta colaboração como em ambientes de alta competição.

• As provas de conhecimento zero e tecnologias semelhantes permitem calcular dados enquanto protegem a privacidade, aumentando a quantidade de dados disponíveis para trabalhos úteis, como pesquisa científica, e fortalecendo a proteção da privacidade.

• A energia solar e as baterias têm um significado extraordinário para impulsionar a próxima onda de crescimento da economia limpa, ao mesmo tempo que se destacam na descentralização e na resiliência física.

Desafio: Segurança da Inteligência Artificial, Cronograma Urgente e Dilema Regulatório

No ano passado, o argumento mais persuasivo contra o meu artigo veio da comunidade de segurança da inteligência artificial. O argumento era: "Se tivermos meio século para desenvolver a inteligência artificial forte, podemos nos concentrar em construir todas essas coisas benéficas. Mas, na realidade, parece que podemos ter apenas três anos para desenvolver a inteligência artificial geral, e mais três anos para alcançar a superinteligência. Portanto, se não queremos que o mundo caia em destruição ou de outra forma entre em um impasse irreversível, não podemos apenas acelerar o desenvolvimento de tecnologias benéficas, mas também devemos desacelerar o desenvolvimento de tecnologias prejudiciais, o que significa que precisamos de medidas regulatórias rigorosas que podem irritar os poderosos."

Se eu estivesse convencido de que precisamos de medidas mais "fortes" do que as regras de responsabilidade, eu escolheria a estratégia do "botão de pausa global em hardware em escala industrial". O objetivo é ter a capacidade de reduzir a capacidade computacional global disponível em cerca de 90%-99% durante períodos críticos, de forma contínua por 1-2 anos, para dar à humanidade mais tempo para se preparar. Os métodos para implementar a "pausa" já estão sendo explorados, incluindo algumas propostas específicas, como a exigência de registro de hardware e verificação de localização.

Um método mais avançado é usar técnicas de criptografia engenhosas: por exemplo, o hardware de inteligência artificial em escala industrial (, mas não o nível de consumo ), pode ser equipado com um chip de hardware confiável, que só permite que continue a funcionar após receber semanalmente a assinatura 3/3 de principais instituições internacionais (, incluindo pelo menos uma instituição não militar ). Essas assinaturas serão independentes do dispositivo, então será tudo ou nada: não há um método real para autorizar um dispositivo a continuar funcionando sem autorizar todos os outros dispositivos.

Essas duas estratégias ( responsabilidade e botão de pausa de hardware ) têm falhas, e é óbvio que são apenas soluções temporárias. Portanto, precisamos de medidas mais estáveis para ganhar tempo. Muitas tecnologias d/acc são relevantes aqui. Podemos ver a função da tecnologia d/acc da seguinte forma: se a inteligência artificial assumisse o controle do mundo, como isso aconteceria?

• Ele invade o nosso computador → Defesa de rede
• Produz super pragas → Defesa biológica
• Ele nos convence ( a confiar nele ou a não confiar um no outro )→ defesa da informação

O papel das criptomoedas no d/acc

Muitos aspectos de d/acc vão muito além dos temas típicos de blockchain, mas eu acredito que existem algumas conexões importantes entre criptomoedas e d/acc:

• d/acc é o valor básico das criptomoedas ( uma economia e sociedade global descentralizada, resistente à censura e aberta ) uma extensão para outros campos tecnológicos.

• Porque os utilizadores de criptomoedas são naturalmente adotantes precoces, e existe uma consistência nos valores, a comunidade de criptomoedas é uma utilização precoce natural da tecnologia d/acc.

• Muitas tecnologias de criptomoeda podem ser usadas em áreas temáticas de d/acc: blockchain para construir infraestruturas financeiras, de governança e de redes sociais mais robustas e descentralizadas, provas de conhecimento zero para proteger a privacidade, etc.

• Existem oportunidades de cooperação vantajosas nas tecnologias adjacentes às criptomoedas, que são muito úteis para projetos de criptomoedas e também são fundamentais para alcançar os objetivos de d/acc: verificação formal, segurança de software e hardware de computador, e tecnologias de governança robustas e resilientes.

d/acc e financiamento de bens públicos

Uma questão que sempre me interessou é encontrar melhores mecanismos para financiar bens públicos: ou seja, projetos que são valiosos para grupos muito grandes, mas que não têm um modelo comercial naturalmente acessível. Meu trabalho anterior nesta área incluiu contribuições para financiamento quadrático e sua aplicação em subsídios do Gitcoin, financiamento retroativo de bens públicos ( retro PGF ) e, mais recentemente, em subsídios de financiamento profundo.

Muitas pessoas têm uma atitude cética em relação ao conceito de bens públicos, principalmente por duas razões:

1. Bens públicos têm sido historicamente utilizados como justificativa para o governo implementar planos centrais rigorosos e intervenções na sociedade e na economia.

2. Uma visão comum é que o financiamento de bens públicos carece de rigor e opera com base em desvios de expectativas sociais, beneficiando aqueles que conseguem navegar nos jogos sociais.

Estas são críticas importantes e são críticas razoáveis. No entanto, eu reconheço