d/acc: Tổng kết và triển vọng sau một năm

Năm ngoái, tôi đã viết một bài báo về chủ nghĩa lạc quan công nghệ, nêu rõ sự nhiệt huyết đối với công nghệ và những lợi ích to lớn mà nó có thể mang lại, đồng thời cũng bày tỏ thái độ thận trọng đối với một số vấn đề cụ thể, đặc biệt là những rủi ro hủy diệt mà trí tuệ nhân tạo siêu thông minh có thể gây ra hoặc dẫn đến việc nhân loại mất quyền lực một cách không thể đảo ngược.

Quan điểm cốt lõi của bài viết là khuyến khích một ý tưởng: tăng tốc phòng thủ phân cấp, dân chủ và khác biệt. Chúng ta cần tăng tốc phát triển công nghệ, nhưng cần tập trung một cách có chọn lọc vào những công nghệ có khả năng nâng cao khả năng phòng thủ thay vì gây hại, và cam kết thúc đẩy phân quyền, tránh việc một số ít tinh hoa đại diện cho tất cả để xác định đúng sai. Chúng ta nên học hỏi từ nền dân chủ của Thụy Sĩ và các khu vực gần như vô chính phủ trong lịch sử, thay vì mô hình lãnh chúa và lâu đài dưới chế độ phong kiến trung cổ.

Trong năm qua, những ý tưởng và quan niệm này đã phát triển và trưởng thành rõ rệt. Tôi đã chia sẻ những ý tưởng này trên nền tảng "80.000 giờ", nhận được nhiều phản hồi, phần lớn là tích cực, tất nhiên cũng có một số tiếng nói phê bình.

Công việc này cũng đã đạt được những tiến bộ thực chất: lĩnh vực vaccine mã nguồn mở có những bước đột phá; nhận thức về giá trị của không khí trong nhà khỏe mạnh ngày càng sâu sắc; "ghi chú cộng đồng" tiếp tục phát huy vai trò tích cực; thị trường dự đoán như một công cụ thông tin đã có một năm đột phá; bằng chứng không kiến thức được áp dụng trong nhận dạng danh tính chính phủ và lĩnh vực mạng xã hội ( và đảm bảo an toàn cho ví Ethereum thông qua trừu tượng hóa tài khoản ); công cụ hình ảnh mã nguồn mở đã được ứng dụng trong y học và lĩnh vực giao diện não máy, v.v.

Mùa thu năm ngoái, chúng tôi đã tổ chức sự kiện d/acc quan trọng đầu tiên: "Ngày Khám Phá d/acc" ( d/aDDy ), quy tụ các diễn giả đến từ các lĩnh vực trụ cột của d/acc ( như sinh học, vật lý, mạng, phòng thủ thông tin và công nghệ thần kinh ), sự kiện kéo dài suốt một ngày. Những người đã dành nhiều thời gian cho những công nghệ này hiểu rõ hơn về công việc của nhau, và những người bên ngoài cũng ngày càng nhận thức rõ hơn về tầm nhìn lớn lao này: các giá trị tương tự thúc đẩy sự phát triển của Ethereum và tiền điện tử có thể mở rộng ra một thế giới rộng lớn hơn.

Ý nghĩa và phạm vi của d/acc

Ý tưởng cốt lõi của d/acc rất đơn giản và rõ ràng: phòng thủ phi tập trung, dân chủ và khác biệt. Chúng tôi muốn xây dựng công nghệ có thể thúc đẩy sự cân bằng giữa tấn công và phòng thủ nghiêng về phía phòng thủ, và trong quá trình thực hiện không phụ thuộc vào việc trao nhiều quyền lực hơn cho các cơ quan quyền lực trung ương. Có một mối liên hệ chặt chẽ nội tại giữa hai khía cạnh này: bất kỳ cấu trúc chính trị nào phi tập trung, dân chủ hoặc tự do đều có xu hướng phát triển mạnh mẽ khi phòng thủ dễ thực hiện, trong khi đó sẽ gặp phải những thách thức nghiêm trọng khi phòng thủ gặp nhiều khó khăn.

Một cách để hiểu tầm quan trọng của việc cố gắng đồng thời thực hiện phi tập trung, khả năng phòng thủ và tốc độ, là so sánh nó với những ý tưởng phát sinh từ việc từ bỏ bất kỳ một trong ba khía cạnh này:

1. Tăng tốc phi tập trung, nhưng bỏ qua phần "phòng thủ khác biệt": điều này giống như trở thành một nhà tăng tốc chủ nghĩa hiệu quả (e/acc), nhưng đồng thời theo đuổi phi tập trung. Cách tiếp cận này có thể giúp tránh rủi ro của việc một nhóm cụ thể áp đặt chế độ độc tài lên toàn nhân loại, nhưng không giải quyết được các vấn đề cấu trúc tiềm ẩn: trong môi trường thuận lợi cho tấn công, luôn có rủi ro liên tục về thảm họa xảy ra, hoặc có thể có ai đó tự định vị mình là người bảo vệ và chiếm giữ vị trí thống trị vĩnh viễn.

2. Phòng ngừa khác biệt được tăng tốc, nhưng bỏ qua "phi tập trung và dân chủ": việc chấp nhận kiểm soát tập trung để đạt được mục tiêu an ninh luôn có sức hấp dẫn đối với một bộ phận người. Tuy nhiên, có vấn đề về mức độ kiểm soát tập trung. Trung tâm thường trở thành nguồn gốc của rủi ro, như chúng ta đã thấy trong thời kỳ đại dịch COVID-19.

3. Phòng thủ phi tập trung, nhưng lại loại trừ sự gia tốc: Về bản chất, điều này cố gắng làm chậm lại sự tiến bộ công nghệ hoặc thúc đẩy suy thoái kinh tế. Chiến lược này đối mặt với hai thách thức: đầu tiên, sự phát triển công nghệ và kinh tế cực kỳ có lợi cho nhân loại, bất kỳ sự trì hoãn nào cũng sẽ mang lại chi phí khó ước lượng; thứ hai, trong một thế giới không phải là chế độ độc tài, sự trì trệ là không ổn định, những người hoặc nhóm "gian lận" nhiều nhất, có thể tìm ra cách dường như hợp lý để tiếp tục thúc đẩy phát triển sẽ chiếm ưu thế.

Thông qua d/acc, chúng tôi cam kết đạt được các mục tiêu sau:

• Giữ vững nguyên tắc trong xu hướng ngày càng bộ lạc hóa của thế giới ngày nay, chứ không chỉ đơn thuần là xây dựng mù quáng nhiều thứ khác nhau. Chúng tôi mong muốn xây dựng những điều cụ thể, nhằm làm cho thế giới trở nên an toàn và tốt đẹp hơn.

• Nhận thức rằng sự tiến bộ công nghệ theo cấp số nhân có nghĩa là thế giới sẽ trở nên vô cùng kỳ lạ, "dấu chân" tổng thể của nhân loại trong vũ trụ chắc chắn sẽ ngày càng tăng. Khả năng của chúng ta trong việc bảo vệ động vật, thực vật và các nhóm người dễ bị tổn thương khỏi tổn hại phải được nâng cao liên tục, và con đường duy nhất là tiến về phía trước.

• Xây dựng công nghệ có thể thực sự bảo vệ chúng ta, thay vì dựa trên giả định "người tốt ( hoặc trí tuệ nhân tạo tốt ) kiểm soát mọi thứ". Chúng tôi đạt được điều này bằng cách xây dựng các công cụ tự nhiên hiệu quả hơn khi được sử dụng để xây dựng và bảo vệ so với khi được sử dụng để phá hoại.

Một cách suy nghĩ khác về d/acc là quay trở lại khung cảnh của phong trào Đảng Cướp Biển châu Âu vào cuối những năm 2000: trao quyền. Mục tiêu của chúng tôi là xây dựng một thế giới có thể bảo tồn tính chủ động của con người, đạt được tự do tiêu cực, tức là tránh sự can thiệp tích cực từ người khác (, bao gồm cả công dân bình thường, chính phủ, hay siêu trí tuệ nhân tạo ) vào khả năng tự định hình vận mệnh của chúng ta, đồng thời đạt được tự do tích cực, tức là đảm bảo rằng chúng ta có kiến thức và tài nguyên để thực hiện khả năng này.

Chiều thứ ba: Sự phát triển hợp tác giữa sinh tồn và thịnh vượng

Trong bài viết năm ngoái, d/acc đặc biệt tập trung vào các công nghệ phòng thủ: phòng thủ vật lý, phòng thủ sinh học, phòng thủ mạng và phòng thủ thông tin. Tuy nhiên, chỉ có phòng thủ phi tập trung đơn thuần thì không đủ để xây dựng một thế giới vĩ đại: chúng ta còn cần một tầm nhìn tích cực hướng tới tương lai, làm rõ những mục tiêu mà nhân loại có thể đạt được sau khi có được sự phi tập trung và an ninh mới.

Trong các lĩnh vực khác nhau có một mô hình nhất quán, đó là những khoa học, tư tưởng và công cụ có thể giúp chúng ta "sinh tồn" trong một lĩnh vực nào đó, có mối liên hệ chặt chẽ với những khoa học, tư tưởng và công cụ có thể giúp chúng ta "thịnh vượng". Dưới đây là một số ví dụ cụ thể:

• Nhiều nghiên cứu gần đây về COVID-19 tập trung vào sự tồn tại kéo dài của virus trong cơ thể, điều này được coi là một cơ chế chính của vấn đề COVID kéo dài. Gần đây, cũng có dấu hiệu cho thấy sự tồn tại kéo dài của virus có thể là yếu tố gây bệnh của bệnh Alzheimer. Nếu quan điểm này đúng, thì giải quyết vấn đề tồn tại kéo dài của virus trong tất cả các loại mô có thể trở thành chìa khóa để vượt qua vấn đề lão hóa.

• Công cụ hình ảnh chi phí thấp và vi mô có tiềm năng mạnh mẽ trong điều trị huyết khối vi mô, sự tồn tại kéo dài của virus, ung thư, và cũng có thể được áp dụng trong lĩnh vực giao diện não-máy.

• Thúc đẩy xây dựng các công cụ xã hội phù hợp với môi trường đối kháng cao như ghi chú cộng đồng ( và các công cụ xã hội trong môi trường hợp tác hợp lý như Pol.is ) có ý tưởng rất giống nhau.

• Thị trường dự đoán có giá trị quan trọng trong cả môi trường hợp tác cao và đối kháng cao.

• Chứng minh không có kiến thức và các công nghệ tương tự vừa bảo vệ quyền riêng tư vừa tính toán dữ liệu, không chỉ tăng cường khối lượng dữ liệu có thể sử dụng cho nghiên cứu khoa học và các công việc hữu ích khác, mà còn tăng cường bảo vệ quyền riêng tư.

• Năng lượng mặt trời và pin có ý nghĩa to lớn trong việc thúc đẩy làn sóng tăng trưởng kinh tế sạch tiếp theo, đồng thời cũng thể hiện xuất sắc trong việc phi tập trung và tính đàn hồi vật lý.

Thách thức: An ninh trí tuệ nhân tạo, thời gian khẩn cấp và tình huống quản lý

Năm ngoái, quan điểm phản đối thuyết phục nhất mà bài viết của tôi nhận được đến từ cộng đồng an toàn trí tuệ nhân tạo. Lập luận của họ là: "Nếu chúng ta có nửa thế kỷ để phát triển trí tuệ nhân tạo mạnh, chúng ta có thể tập trung vào việc xây dựng tất cả những điều hữu ích này. Nhưng thực tế, có vẻ như chúng ta chỉ có ba năm để phát triển trí tuệ nhân tạo tổng quát, và ba năm tiếp theo để phát triển trí tuệ siêu việt. Vì vậy, nếu chúng ta không muốn thế giới rơi vào sự diệt vong hoặc theo cách khác rơi vào tình huống không thể đảo ngược, chúng ta không thể chỉ đơn giản là tăng tốc phát triển công nghệ hữu ích, mà còn phải làm chậm lại sự phát triển của công nghệ có hại, điều này có nghĩa là cần phải có các biện pháp quản lý mạnh mẽ có thể khiến những người nắm quyền tức giận."

Nếu tôi tin rằng chúng ta cần các biện pháp "mạnh mẽ" hơn quy tắc trách nhiệm, tôi sẽ chọn chiến lược "nút tạm dừng toàn cầu trên phần cứng quy mô công nghiệp". Mục tiêu là có khả năng giảm khoảng 90%-99% sức mạnh tính toán toàn cầu trong các thời điểm quan trọng, kéo dài từ 1-2 năm, để mang lại cho nhân loại thêm thời gian chuẩn bị. Các phương pháp để thực hiện "tạm dừng" đã được khám phá, bao gồm một số đề xuất cụ thể như yêu cầu đăng ký phần cứng và xác minh vị trí.

Một phương pháp tiên tiến hơn là sử dụng các biện pháp mã hóa tinh vi: ví dụ, phần cứng trí tuệ nhân tạo quy mô công nghiệp ( nhưng không phải cấp tiêu dùng ) có thể được trang bị một chip phần cứng đáng tin cậy, chỉ được phép tiếp tục hoạt động khi nhận được chữ ký 3/3 từ các cơ quan quốc tế chính ( bao gồm ít nhất một cơ quan phi quân sự ) mỗi tuần. Những chữ ký này sẽ không liên quan đến thiết bị, vì vậy đây sẽ là tất cả hoặc không có gì: không có cách thực tế nào để ủy quyền cho một thiết bị tiếp tục hoạt động mà không ủy quyền cho tất cả các thiết bị khác.

Hai chiến lược này ( trách nhiệm và nút tạm dừng phần cứng ) đều tồn tại lỗ hổng, và rõ ràng chúng chỉ là biện pháp tạm thời. Do đó, chúng ta cần các biện pháp ổn định hơn để tranh thủ thời gian. Nhiều công nghệ d/acc là liên quan ở đây. Chúng ta có thể nhìn nhận vai trò của công nghệ d/acc như sau: nếu trí tuệ nhân tạo nắm quyền kiểm soát thế giới, nó sẽ làm như thế nào?

• Nó xâm nhập vào máy tính của chúng tôi → Phòng thủ mạng
• Nó tạo ra siêu dịch bệnh → Phòng thủ sinh học
• Nó thuyết phục chúng ta ( hoặc tin tưởng nó, hoặc không tin tưởng lẫn nhau ) → phòng thủ thông tin

Vai trò của tiền điện tử trong d/acc

Nhiều khía cạnh của d/acc vượt xa các chủ đề blockchain điển hình, nhưng tôi nghĩ có một số liên kết quan trọng giữa tiền điện tử và d/acc:

• d/acc là giá trị cơ bản của tiền điện tử ( một nền kinh tế và xã hội toàn cầu phi tập trung, chống kiểm duyệt và mở ) mở rộng sang các lĩnh vực công nghệ khác.

• Bởi vì người dùng tiền điện tử là những người áp dụng sớm tự nhiên, và có sự nhất quán về giá trị, cộng đồng tiền điện tử là những người sử dụng sớm tự nhiên của công nghệ d/acc.

• Nhiều công nghệ tiền điện tử có thể được sử dụng trong lĩnh vực chủ đề d/acc: Blockchain được sử dụng để xây dựng cơ sở hạ tầng tài chính, quản trị và mạng xã hội mạnh mẽ và phi tập trung hơn, bằng chứng không biết được sử dụng để bảo vệ quyền riêng tư, v.v.

• Cũng có cơ hội hợp tác đôi bên cùng có lợi trong các công nghệ liền kề với tiền điện tử, những công nghệ này rất hữu ích cho các dự án tiền điện tử, đồng thời cũng là chìa khóa để đạt được mục tiêu d/acc: xác minh hình thức, an toàn phần mềm và phần cứng máy tính cũng như các công nghệ quản trị vững chắc có khả năng chống lại.

d/acc và tài trợ hàng hóa công

Một câu hỏi mà tôi luôn quan tâm là làm thế nào để nghĩ ra cơ chế tốt hơn để tài trợ cho các hàng hóa công cộng: tức là những dự án có giá trị cho các nhóm rất lớn nhưng không có mô hình thương mại tự nhiên có thể tiếp cận. Công việc trước đây của tôi trong lĩnh vực này bao gồm việc tài trợ quỹ bình phương và những đóng góp của nó trong các khoản tài trợ của Gitcoin, quỹ hàng hóa công cộng hồi tố ( retro PGF ) và gần đây là các khoản tài trợ tài chính sâu.

Nhiều người có thái độ hoài nghi đối với khái niệm hàng hóa công, chủ yếu đến từ hai khía cạnh:

1. Hàng hóa công cộng từ trước đến nay luôn được sử dụng như một lý do để chính phủ thực hiện kế hoạch và can thiệp trung ương cứng rắn vào xã hội và kinh tế.

2. Một quan điểm phổ biến là việc tài trợ cho các hàng hóa công thiếu tính chặt chẽ và hoạt động dựa trên sự thiên lệch kỳ vọng xã hội, có lợi cho những người trong cuộc có khả năng tham gia vào các trò chơi xã hội.

Đây đều là những lời chỉ trích quan trọng và hợp lý. Tuy nhiên, tôi nhận