d/acc:一年後的回顧與展望

去年我撰寫了一篇關於技術樂觀主義的文章,闡述了對技術的熱忱以及它可能帶來的巨大效益,同時也表達了對某些特定問題的審慎態度,尤其是超級智能人工智能可能引發的毀滅風險或導致人類不可逆地喪失權力的風險。

文章的核心觀點是倡導一種理念:去中心化、民主且差異化的防御性加速。我們要加速技術發展,但要有區別地聚焦於那些能夠提升防御能力而非造成傷害能力的技術,並致力於推動權力分散,避免由少數精英代表所有人判定是非善惡。我們應該效仿民主的瑞士和歷史上的準無政府主義地區,而非中世紀封建主義下的領主和城堡模式。

這一年來,這些理念和想法得到了顯著發展和成熟。我在"80,000小時"平台上分享了這些想法,收獲了諸多回應,大多數是積極的,當然也有一些批評聲音。

這項工作本身也取得了切實進展:可驗證開源疫苗領域有所突破;人們對健康室內空氣價值的認知不斷深化;"社區筆記"持續發揮積極作用;預測市場作爲信息工具迎來突破之年;零知識證明在政府身分識別和社交媒體領域得到應用(並通過帳戶抽象確保了以太坊錢包安全);開源成像工具在醫學和腦機接口領域獲得應用,等等。

去年秋季,我們迎來了首個重要的d/acc活動:"d/acc發現日"(d/aDDy),匯聚了來自d/acc各個支柱領域(生物、物理、網路、信息防御和神經技術)的演講者,活動持續了整整一天。長期致力於這些技術的人們更加了解彼此的工作,外部人士也越發意識到這一更宏大的願景:推動以太坊和加密貨幣發展的相同價值觀能夠拓展至更廣闊的世界。

d/acc的內涵與外延

d/acc的核心思想簡潔明了:去中心化、民主且差異化的防御性加速。我們要構建能夠促使攻防平衡向防御傾斜的技術,並且在實施過程中不依賴於將更多權力交予中央權威機構。這兩個方面之間存在內在的緊密聯繫:任何一種去中心化、民主或自由的政治結構,在防御易於實施時往往能蓬勃發展,而在防御面臨重重困難時則會遭遇嚴峻挑戰。

理解嘗試同時實現去中心化、防御性和加速性的重要意義的一種方式,是將其與放棄這三個方面中的任意一個所產生的理念進行對比:

1. 去中心化加速,但忽視"差異化防御"部分:這類似於成爲一名有效加速主義者(e/acc),但同時追求去中心化。這種方式或許能避免特定羣體對全球人類實施獨裁統治的風險,但未能解決潛在的結構性問題:在有利於進攻的環境中,始終存在災難降臨的持續風險,或者有人會將自己定位爲保護者並永久佔據統治地位。

2. 差異化防御加速,但忽略"去中心化和民主":爲實現安全目標而接受集中控制,這對一部分人始終具有吸引力。然而,集中控制存在程度的問題。中心本身往往會成爲風險的源頭,正如我們在新冠疫情期間所見證的那樣。

3. 去中心化防御,但排斥加速:這本質上是試圖減緩技術進步或推動經濟衰退。這種策略面臨雙重挑戰:首先,技術和經濟增長對人類而言極爲有益,任何延遲都會帶來難以估量的代價;其次,在非極權主義世界中,停滯不前是不穩定的,那些"作弊"最多、能找到看似合理方式繼續推進發展的人或羣體將佔據優勢。

通過d/acc,我們致力於實現以下目標:

• 在當今世界日益部落化的趨勢下堅守原則,而不僅僅是盲目構建各種事物。我們期望構建特定的事物,從而使世界變得更加安全、美好。

• 認識到指數級技術進步意味着世界將變得極爲奇特,人類在宇宙中的總體"足跡"必然會不斷增加。我們保護脆弱的動物、植物和人羣免受傷害的能力必須持續提升,而唯一的出路便是勇往直前。

• 構建能夠切實保護我們的技術,而不是基於"好人(或好的人工智能)掌控一切"的假設。我們通過構建在用於構建和保護時自然比用於破壞時更爲有效的工具來達成這一目標。

思考d/acc的另一種視角是回歸到21世紀00年代末歐洲海盜黨運動的框架:賦權。我們的目標是構建一個能夠保留人類能動性的世界,實現消極自由,即避免他人(無論是普通公民、政府,還是超級智能機器人)對我們塑造自身命運的能力進行積極幹預,同時實現積極自由,即確保我們擁有知識和資源去踐行這一能力。

第三維度:生存與繁榮的協同發展

在去年的文章中,d/acc特別聚焦於防御性技術:物理防御、生物防御、網路防御和信息防御。然而,單純的去中心化防御並不足以構建一個偉大的世界:我們還需要一個具有前瞻性的積極願景,明確人類在獲得新的去中心化和安全性之後能夠實現何種目標。

在各個領域中存在一個一致的模式,即那些能夠幫助我們在某一領域"生存"的科學、思想和工具,與能夠助力我們"繁榮"的科學、思想和工具密切相關。以下是一些具體例子:

• 衆多近期的抗新冠研究聚焦於病毒在體內的持續存在,這被視爲長新冠問題的一個關鍵機制。近來,也有跡象表明病毒持續存在可能是阿爾茨海默病的致病因素。倘若這一觀點成立,那麼解決所有組織類型中的病毒持續存在問題,或許將成爲攻克衰老難題的關鍵所在。

• 低成本和微型成像工具在治療微血栓、病毒持續存在、癌症等方面具有強大潛力,同時也可應用於腦機接口領域。

• 推動構建適用於高度對抗性環境的社會工具(如社區筆記)和合理合作環境的社會工具(如Pol.is)的理念極爲相似。

• 預測市場在高合作和高對抗環境中均具有重要價值。

• 零知識證明及類似技術在保護隱私的同時對數據進行計算,既增加了可用於科學研究等有益工作的數據量,又增強了隱私保護。

• 太陽能和電池對於推動下一波清潔經濟增長意義非凡,同時在去中心化和物理彈性方面也表現出色。

難題:人工智能安全、緊迫時間線與監管困境

去年我的文章所收到的最具說服力的反對觀點來自人工智能安全社區。其論點爲:"如果我們有半個世紀的時間來發展強人工智能,我們可以集中精力構建所有這些有益的事物。但實際上,看起來我們可能僅有三年時間發展到通用人工智能,再過三年發展到超級智能。因此,如果我們不想讓世界陷入毀滅或以其他方式陷入不可逆轉的困境,我們不能僅僅加速有益技術的發展,還必須減緩有害技術的發展,這意味着需要通過可能會觸怒權勢階層的強有力監管措施。"

如果我確信我們需要比責任規則更"強有力"的措施,我會選擇"工業規模硬件上的全球'軟暫停'按鈕"這一策略。目標是在關鍵時期具備將全球可用計算能力降低約90%-99%的能力,持續1-2年,爲人類爭取更多準備時間。實現"暫停"的方法已經在探索中,包括一些具體的提案,如要求硬件註冊和驗證位置。

一種更先進的方法是使用巧妙的加密技術手段:例如,生產出來的工業規模(但非消費級)人工智能硬件可以配備一個可信硬件芯片,只有在每週獲得來自主要國際機構(包括至少一個非軍事附屬機構)的3/3籤名時,才允許其繼續運行。這些籤名將與設備無關,所以這將是全有或全無的:沒有實際方法可以授權一個設備繼續運行而不授權所有其他設備。

這兩種策略(責任和硬件暫停按鈕)都存在漏洞,並且很明顯它們只是暫時的權宜之計。因此,我們需要更穩定的措施來爭取時間。許多d/acc技術在這裏是相關的。我們可以如下看待d/acc技術的作用:如果人工智能接管世界,它會如何做到?

• 它入侵我們的計算機→網路防御
• 它制造超級瘟疫→生物防御
• 它說服我們(要麼信任它,要麼不信任彼此)→信息防御

加密貨幣在d/acc中的作用

d/acc的很多方面遠遠超出了典型的區塊鏈主題,但我認爲加密貨幣和d/acc之間存在一些重要聯繫:

• d/acc是加密貨幣的基本價值(去中心化、抗審查、開放的全球經濟和社會)向其他技術領域的延伸。

• 因爲加密貨幣用戶是自然的早期採用者,並且存在價值觀的一致性,加密貨幣社區是d/acc技術的自然早期用戶。

• 許多加密貨幣技術可以用於d/acc主題領域:區塊鏈用於構建更強大和去中心化的金融、治理和社交媒體基礎設施,零知識證明用於保護隱私等。

• 在與加密貨幣相鄰的技術方面也存在雙贏的合作機會,這些技術對加密貨幣項目非常有用,同時也是實現d/acc目標的關鍵:形式驗證、計算機軟件和硬件安全以及具有對抗性的穩健治理技術。

d/acc與公共物品資助

我一直感興趣的一個問題是想出更好的機制來資助公共物品:即對非常大的羣體有價值但沒有自然可及商業模式的項目。我過去在這方面的工作包括對二次方資金資助及其在Gitcoin贈款、追溯性公共物品資金(retro PGF)以及最近的深度資金資助中的貢獻。

許多人對公共物品這個概念持懷疑態度,主要來自兩個方面:

1. 公共物品在歷史上一直被用作政府對社會和經濟進行強硬中央計劃和幹預的理由。

2. 一種普遍看法是公共物品資助缺乏嚴謹性,並且是基於社會期望偏差運作的,有利於能夠玩轉社交遊戲的內部人士。

這些都是重要的批評,而且是合理的批評。然而,我認