d/acc:一年后的回顾与展望

去年我撰写了一篇关于技术乐观主义的文章,阐述了对技术的热忱以及它可能带来的巨大效益,同时也表达了对某些特定问题的审慎态度,尤其是超级智能人工智能可能引发的毁灭风险或导致人类不可逆地丧失权力的风险。

文章的核心观点是倡导一种理念:去中心化、民主且差异化的防御性加速。我们要加速技术发展,但要有区别地聚焦于那些能够提升防御能力而非造成伤害能力的技术,并致力于推动权力分散,避免由少数精英代表所有人判定是非善恶。我们应该效仿民主的瑞士和历史上的准无政府主义地区,而非中世纪封建主义下的领主和城堡模式。

这一年来,这些理念和想法得到了显著发展和成熟。我在"80,000小时"平台上分享了这些想法,收获了诸多回应,大多数是积极的,当然也有一些批评声音。

这项工作本身也取得了切实进展:可验证开源疫苗领域有所突破;人们对健康室内空气价值的认知不断深化;"社区笔记"持续发挥积极作用;预测市场作为信息工具迎来突破之年;零知识证明在政府身份识别和社交媒体领域得到应用(并通过账户抽象确保了以太坊钱包安全);开源成像工具在医学和脑机接口领域获得应用,等等。

去年秋季,我们迎来了首个重要的d/acc活动:"d/acc发现日"(d/aDDy),汇聚了来自d/acc各个支柱领域(生物、物理、网络、信息防御和神经技术)的演讲者,活动持续了整整一天。长期致力于这些技术的人们更加了解彼此的工作,外部人士也越发意识到这一更宏大的愿景:推动以太坊和加密货币发展的相同价值观能够拓展至更广阔的世界。

d/acc的内涵与外延

d/acc的核心思想简洁明了:去中心化、民主且差异化的防御性加速。我们要构建能够促使攻防平衡向防御倾斜的技术,并且在实施过程中不依赖于将更多权力交予中央权威机构。这两个方面之间存在内在的紧密联系:任何一种去中心化、民主或自由的政治结构,在防御易于实施时往往能蓬勃发展,而在防御面临重重困难时则会遭遇严峻挑战。

理解尝试同时实现去中心化、防御性和加速性的重要意义的一种方式,是将其与放弃这三个方面中的任意一个所产生的理念进行对比:

1. 去中心化加速,但忽视"差异化防御"部分:这类似于成为一名有效加速主义者(e/acc),但同时追求去中心化。这种方式或许能避免特定群体对全球人类实施独裁统治的风险,但未能解决潜在的结构性问题:在有利于进攻的环境中,始终存在灾难降临的持续风险,或者有人会将自己定位为保护者并永久占据统治地位。

2. 差异化防御加速,但忽略"去中心化和民主":为实现安全目标而接受集中控制,这对一部分人始终具有吸引力。然而,集中控制存在程度的问题。中心本身往往会成为风险的源头,正如我们在新冠疫情期间所见证的那样。

3. 去中心化防御,但排斥加速:这本质上是试图减缓技术进步或推动经济衰退。这种策略面临双重挑战:首先,技术和经济增长对人类而言极为有益,任何延迟都会带来难以估量的代价;其次,在非极权主义世界中,停滞不前是不稳定的,那些"作弊"最多、能找到看似合理方式继续推进发展的人或群体将占据优势。

通过d/acc,我们致力于实现以下目标:

• 在当今世界日益部落化的趋势下坚守原则,而不仅仅是盲目构建各种事物。我们期望构建特定的事物,从而使世界变得更加安全、美好。

• 认识到指数级技术进步意味着世界将变得极为奇特,人类在宇宙中的总体"足迹"必然会不断增加。我们保护脆弱的动物、植物和人群免受伤害的能力必须持续提升,而唯一的出路便是勇往直前。

• 构建能够切实保护我们的技术,而不是基于"好人(或好的人工智能)掌控一切"的假设。我们通过构建在用于构建和保护时自然比用于破坏时更为有效的工具来达成这一目标。

思考d/acc的另一种视角是回归到21世纪00年代末欧洲海盗党运动的框架:赋权。我们的目标是构建一个能够保留人类能动性的世界,实现消极自由,即避免他人(无论是普通公民、政府,还是超级智能机器人)对我们塑造自身命运的能力进行积极干预,同时实现积极自由,即确保我们拥有知识和资源去践行这一能力。

第三维度:生存与繁荣的协同发展

在去年的文章中,d/acc特别聚焦于防御性技术:物理防御、生物防御、网络防御和信息防御。然而,单纯的去中心化防御并不足以构建一个伟大的世界:我们还需要一个具有前瞻性的积极愿景,明确人类在获得新的去中心化和安全性之后能够实现何种目标。

在各个领域中存在一个一致的模式,即那些能够帮助我们在某一领域"生存"的科学、思想和工具,与能够助力我们"繁荣"的科学、思想和工具密切相关。以下是一些具体例子:

• 众多近期的抗新冠研究聚焦于病毒在体内的持续存在,这被视为长新冠问题的一个关键机制。近来,也有迹象表明病毒持续存在可能是阿尔茨海默病的致病因素。倘若这一观点成立,那么解决所有组织类型中的病毒持续存在问题,或许将成为攻克衰老难题的关键所在。

• 低成本和微型成像工具在治疗微血栓、病毒持续存在、癌症等方面具有强大潜力,同时也可应用于脑机接口领域。

• 推动构建适用于高度对抗性环境的社会工具(如社区笔记)和合理合作环境的社会工具(如Pol.is)的理念极为相似。

• 预测市场在高合作和高对抗环境中均具有重要价值。

• 零知识证明及类似技术在保护隐私的同时对数据进行计算,既增加了可用于科学研究等有益工作的数据量,又增强了隐私保护。

• 太阳能和电池对于推动下一波清洁经济增长意义非凡,同时在去中心化和物理弹性方面也表现出色。

难题:人工智能安全、紧迫时间线与监管困境

去年我的文章所收到的最具说服力的反对观点来自人工智能安全社区。其论点为:"如果我们有半个世纪的时间来发展强人工智能,我们可以集中精力构建所有这些有益的事物。但实际上,看起来我们可能仅有三年时间发展到通用人工智能,再过三年发展到超级智能。因此,如果我们不想让世界陷入毁灭或以其他方式陷入不可逆转的困境,我们不能仅仅加速有益技术的发展,还必须减缓有害技术的发展,这意味着需要通过可能会触怒权势阶层的强有力监管措施。"

如果我确信我们需要比责任规则更"强有力"的措施,我会选择"工业规模硬件上的全球'软暂停'按钮"这一策略。目标是在关键时期具备将全球可用计算能力降低约90%-99%的能力,持续1-2年,为人类争取更多准备时间。实现"暂停"的方法已经在探索中,包括一些具体的提案,如要求硬件注册和验证位置。

一种更先进的方法是使用巧妙的加密技术手段:例如,生产出来的工业规模(但非消费级)人工智能硬件可以配备一个可信硬件芯片,只有在每周获得来自主要国际机构(包括至少一个非军事附属机构)的3/3签名时,才允许其继续运行。这些签名将与设备无关,所以这将是全有或全无的:没有实际方法可以授权一个设备继续运行而不授权所有其他设备。

这两种策略(责任和硬件暂停按钮)都存在漏洞,并且很明显它们只是暂时的权宜之计。因此,我们需要更稳定的措施来争取时间。许多d/acc技术在这里是相关的。我们可以如下看待d/acc技术的作用:如果人工智能接管世界,它会如何做到?

• 它入侵我们的计算机→网络防御
• 它制造超级瘟疫→生物防御
• 它说服我们(要么信任它,要么不信任彼此)→信息防御

加密货币在d/acc中的作用

d/acc的很多方面远远超出了典型的区块链主题,但我认为加密货币和d/acc之间存在一些重要联系:

• d/acc是加密货币的基本价值(去中心化、抗审查、开放的全球经济和社会)向其他技术领域的延伸。

• 因为加密货币用户是自然的早期采用者,并且存在价值观的一致性,加密货币社区是d/acc技术的自然早期用户。

• 许多加密货币技术可以用于d/acc主题领域:区块链用于构建更强大和去中心化的金融、治理和社交媒体基础设施,零知识证明用于保护隐私等。

• 在与加密货币相邻的技术方面也存在双赢的合作机会,这些技术对加密货币项目非常有用,同时也是实现d/acc目标的关键:形式验证、计算机软件和硬件安全以及具有对抗性的稳健治理技术。

d/acc与公共物品资助

我一直感兴趣的一个问题是想出更好的机制来资助公共物品:即对非常大的群体有价值但没有自然可及商业模式的项目。我过去在这方面的工作包括对二次方资金资助及其在Gitcoin赠款、追溯性公共物品资金(retro PGF)以及最近的深度资金资助中的贡献。

许多人对公共物品这个概念持怀疑态度,主要来自两个方面:

1. 公共物品在历史上一直被用作政府对社会和经济进行强硬中央计划和干预的理由。

2. 一种普遍看法是公共物品资助缺乏严谨性,并且是基于社会期望偏差运作的,有利于能够玩转社交游戏的内部人士。

这些都是重要的批评,而且是合理的批评。然而,我认