d/acc: Tinjauan dan Harapan Setelah Setahun

Tahun lalu saya menulis sebuah artikel tentang optimisme teknologi, yang menjelaskan antusiasme terhadap teknologi serta manfaat besar yang mungkin dibawanya, sambil juga menyampaikan sikap hati-hati terhadap beberapa masalah tertentu, terutama risiko kehancuran yang mungkin ditimbulkan oleh kecerdasan buatan super atau risiko kehilangan kekuasaan secara tidak dapat diubah bagi umat manusia.

Inti dari artikel ini adalah mendorong suatu konsep: percepatan defensif yang terdesentralisasi, demokratis, dan berbeda. Kita perlu mempercepat perkembangan teknologi, tetapi dengan fokus yang berbeda pada teknologi yang dapat meningkatkan kemampuan pertahanan dan bukan yang dapat menyebabkan kerugian, serta berkomitmen untuk mendorong distribusi kekuasaan, menghindari penilaian baik dan buruk oleh sekelompok elit. Kita harus meniru model demokratis Swiss dan daerah semi-anarkis dalam sejarah, bukan model tuan tanah dan kastil di bawah feodalisme abad pertengahan.

Selama setahun ini, ide dan pemikiran ini telah berkembang dan matang secara signifikan. Saya telah membagikan ide-ide ini di platform "80.000 Jam", dan menerima banyak tanggapan, sebagian besar positif, tentu saja ada juga beberapa suara kritis.

Pekerjaan ini sendiri juga telah mencapai kemajuan nyata: ada terobosan di bidang vaksin sumber terbuka yang dapat diverifikasi; kesadaran orang tentang nilai udara dalam ruangan yang sehat terus mendalam; "catatan komunitas" terus memainkan peran positif; pasar prediksi sebagai alat informasi memasuki tahun terobosan; bukti nol telah diterapkan dalam identifikasi identitas pemerintah dan media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan sumber terbuka telah diterapkan dalam bidang medis dan antarmuka otak-mesin, dan sebagainya.

Musim gugur tahun lalu, kami menyambut kegiatan d/acc penting pertama kami: "Hari Penemuan d/acc"(d/aDDy), yang mengumpulkan pembicara dari berbagai bidang pilar d/acc( biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf), acara ini berlangsung sepanjang hari. Orang-orang yang telah lama berkomitmen pada teknologi ini semakin memahami pekerjaan satu sama lain, dan orang luar juga semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong perkembangan Ethereum dan mata uang kripto dapat diperluas ke dunia yang lebih luas.

Makna dan Ruang Lingkup d/acc

Inti dari pemikiran d/acc sangat jelas: desentralisasi, demokratis, dan akselerasi defensif yang berbeda. Kami ingin membangun teknologi yang dapat mendorong keseimbangan serangan dan pertahanan menuju pertahanan, tanpa tergantung pada penyerahan lebih banyak kekuasaan kepada otoritas pusat selama proses implementasi. Ada hubungan erat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas cenderung berkembang pesat ketika pertahanan mudah dilaksanakan, dan menghadapi tantangan berat ketika pertahanan menghadapi banyak kesulitan.

Salah satu cara untuk memahami pentingnya mencoba untuk mewujudkan desentralisasi, defensif, dan akselerasi secara bersamaan adalah dengan membandingkannya dengan ide yang dihasilkan dari pengabaian salah satu dari ketiga aspek ini:

1. Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan diferensial": ini mirip dengan menjadi seorang akselerasionis yang efektif (e/acc), tetapi pada saat yang sama mengejar desentralisasi. Cara ini mungkin dapat menghindari risiko kelompok tertentu mendiktatori umat manusia secara global, tetapi tidak menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang menguntungkan bagi serangan, selalu ada risiko berkelanjutan bencana yang akan datang, atau seseorang akan memposisikan diri sebagai pelindung dan secara permanen menduduki posisi dominan.

2. Percepatan pertahanan yang terdistribusi, tetapi mengabaikan "desentralisasi dan demokrasi": menerima kontrol terpusat untuk mencapai tujuan keamanan selalu menarik bagi sebagian orang. Namun, ada masalah tingkat dalam kontrol terpusat. Pusat itu sendiri sering kali menjadi sumber risiko, seperti yang kita saksikan selama pandemi COVID-19.

3. Pertahanan desentralisasi, tetapi menolak percepatan: Ini pada dasarnya mencoba untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi. Strategi ini menghadapi tantangan ganda: pertama, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, setiap penundaan akan membawa biaya yang sulit diukur; kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil, mereka yang "curang" paling banyak, dapat menemukan cara yang tampak masuk akal untuk terus memajukan perkembangan akan memiliki keuntungan.

Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:

• Dalam tren dunia yang semakin tertribalisasi saat ini, tetap berpegang pada prinsip, bukan hanya membangun berbagai hal secara membabi buta. Kami berharap dapat membangun hal-hal tertentu untuk membuat dunia menjadi lebih aman dan lebih baik.

• Menyadari bahwa kemajuan teknologi eksponensial berarti dunia akan menjadi sangat aneh, jejak keseluruhan manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok yang rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah maju terus.

• Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik ( atau kecerdasan buatan yang baik ) mengontrol segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk dibangun dan dilindungi daripada untuk dihancurkan.

Satu perspektif lain tentang d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir dekade 2000-an: pemberdayaan. Tujuan kami adalah membangun dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif oleh orang lain ( baik itu warga biasa, pemerintah, atau robot super cerdas ) terhadap kemampuan kami untuk membentuk nasib kami sendiri, sekaligus mencapai kebebasan positif, yaitu memastikan kami memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini.

Dimensi Ketiga: Sinergi antara Bertahan Hidup dan Kemakmuran

Dalam artikel tahun lalu, d/acc secara khusus fokus pada teknologi defensif: pertahanan fisik, pertahanan biologi, pertahanan siber, dan pertahanan informasi. Namun, pertahanan desentralisasi semata tidak cukup untuk membangun dunia yang hebat: kita juga memerlukan visi positif yang proaktif, yang jelas tentang tujuan apa yang dapat dicapai manusia setelah mendapatkan desentralisasi dan keamanan baru.

Di berbagai bidang terdapat pola yang konsisten, yaitu ilmu pengetahuan, pemikiran, dan alat yang dapat membantu kita "bertahan" dalam suatu bidang, berkaitan erat dengan ilmu pengetahuan, pemikiran, dan alat yang dapat membantu kita "makmur". Berikut adalah beberapa contoh konkret:

• Banyak penelitian terbaru tentang COVID-19 berfokus pada keberadaan virus yang berkelanjutan di dalam tubuh, yang dianggap sebagai mekanisme kunci untuk masalah long COVID. Baru-baru ini, juga ada indikasi bahwa keberadaan virus yang berkelanjutan mungkin menjadi faktor penyebab penyakit Alzheimer. Jika pandangan ini benar, maka menyelesaikan masalah keberadaan virus yang berkelanjutan di semua jenis jaringan mungkin menjadi kunci untuk mengatasi masalah penuaan.

• Alat pencitraan berbiaya rendah dan mikro memiliki potensi besar dalam mengobati mikrothrombus, virus yang terus ada, kanker, dan juga dapat diterapkan di bidang antarmuka otak-mesin.

• Mendorong pembangunan alat sosial yang sesuai untuk lingkungan yang sangat kontradiktif ( seperti catatan komunitas ) dan alat sosial untuk lingkungan kerja sama yang wajar ( seperti Pol.is ) memiliki ide yang sangat mirip.

• Pasar prediksi memiliki nilai penting baik dalam lingkungan kolaborasi tinggi maupun lingkungan konfrontasi tinggi.

• Bukti nol-pengetahuan dan teknologi serupa melakukan perhitungan data sambil melindungi privasi, yang tidak hanya meningkatkan jumlah data yang dapat digunakan untuk penelitian ilmiah dan pekerjaan bermanfaat lainnya, tetapi juga meningkatkan perlindungan privasi.

• Energi surya dan baterai memiliki arti yang sangat penting untuk mendorong gelombang pertumbuhan ekonomi bersih berikutnya, sekaligus menunjukkan kinerja yang luar biasa dalam desentralisasi dan ketahanan fisik.

Tantangan: Keamanan Kecerdasan Buatan, Garis Waktu Mendesak dan Dilema Regulasi

Tahun lalu, argumen yang paling meyakinkan yang diterima oleh artikel saya datang dari komunitas keamanan kecerdasan buatan. Argumennya adalah: "Jika kita memiliki setengah abad untuk mengembangkan kecerdasan buatan yang kuat, kita bisa fokus untuk membangun semua hal yang bermanfaat ini. Namun, kenyataannya, tampaknya kita mungkin hanya memiliki waktu tiga tahun untuk berkembang menjadi kecerdasan buatan umum, dan tiga tahun lagi untuk berkembang menjadi kecerdasan super. Oleh karena itu, jika kita tidak ingin dunia terjebak dalam kehancuran atau terjerumus ke dalam masalah yang tidak dapat diubah, kita tidak hanya bisa mempercepat perkembangan teknologi yang bermanfaat, tetapi juga harus memperlambat perkembangan teknologi yang berbahaya, yang berarti perlu ada tindakan regulasi yang kuat yang mungkin akan membuat para pemegang kekuasaan marah."

Jika saya yakin kita memerlukan langkah-langkah yang lebih "kuat" daripada aturan tanggung jawab, saya akan memilih strategi "tombol 'soft pause' global pada perangkat keras skala industri". Tujuannya adalah untuk memiliki kemampuan mengurangi kapasitas komputasi global yang tersedia sekitar 90%-99% selama 1-2 tahun pada saat-saat kritis, memberikan waktu lebih bagi umat manusia untuk bersiap. Metode untuk mencapai "penangguhan" sudah dieksplorasi, termasuk beberapa proposal konkret, seperti meminta pendaftaran perangkat keras dan verifikasi lokasi.

Salah satu metode yang lebih maju adalah menggunakan teknik kriptografi yang cerdas: misalnya, perangkat keras kecerdasan buatan skala industri ( tetapi bukan tingkat konsumen ) dapat dilengkapi dengan chip perangkat keras tepercaya, yang hanya diizinkan untuk terus beroperasi setelah menerima tanda tangan 3/3 dari setidaknya satu lembaga internasional utama ( termasuk setidaknya satu lembaga afiliasi non-militer ) setiap minggu. Tanda tangan ini tidak akan terkait dengan perangkat, sehingga ini akan bersifat semuanya atau tidak sama sekali: tidak ada cara praktis untuk memberikan otorisasi kepada satu perangkat untuk terus beroperasi tanpa memberikan otorisasi kepada semua perangkat lainnya.

Kedua strategi ini ( tanggung jawab dan tombol jeda perangkat keras ) memiliki celah, dan jelas bahwa mereka hanya solusi sementara. Oleh karena itu, kita membutuhkan langkah-langkah yang lebih stabil untuk mengulur waktu. Banyak teknologi d/acc relevan di sini. Kita dapat melihat peran teknologi d/acc sebagai berikut: jika kecerdasan buatan mengambil alih dunia, bagaimana cara melakukannya?

• Itu menyerang komputer kami → pertahanan jaringan
• Itu menciptakan epidemi super → pertahanan biologis
• Itu meyakinkan kita ( untuk mempercayainya, atau tidak saling mempercayai )→ pertahanan informasi

Peran Cryptocurrency dalam d/acc

Banyak aspek d/acc jauh melampaui tema blockchain yang khas, tetapi saya percaya bahwa ada beberapa hubungan penting antara cryptocurrency dan d/acc:

• d/acc adalah nilai dasar cryptocurrency ( ekonomi dan masyarakat global yang terdesentralisasi, tahan sensor, dan terbuka ) perpanjangan ke bidang teknologi lainnya.

• Karena pengguna cryptocurrency adalah adopter awal yang alami, dan ada konsistensi dalam nilai-nilai, komunitas cryptocurrency adalah pengguna awal yang alami dari teknologi d/acc.

• Banyak teknologi cryptocurrency dapat digunakan di bidang tema d/acc: blockchain digunakan untuk membangun infrastruktur keuangan, pemerintahan, dan media sosial yang lebih kuat dan terdesentralisasi, bukti nol pengetahuan digunakan untuk melindungi privasi, dll.

• Ada peluang kolaborasi yang saling menguntungkan di bidang teknologi yang berdekatan dengan cryptocurrency, teknologi ini sangat berguna untuk proyek cryptocurrency, dan juga merupakan kunci untuk mencapai tujuan d/acc: verifikasi formal, keamanan perangkat lunak dan perangkat keras komputer, serta teknologi tata kelola yang tahan banting.

d/acc dan pendanaan barang publik

Satu pertanyaan yang selalu menarik minat saya adalah memikirkan mekanisme yang lebih baik untuk membiayai barang publik: yaitu proyek-proyek yang bernilai bagi kelompok yang sangat besar tetapi tidak memiliki model bisnis yang secara alami dapat diakses. Pekerjaan saya di masa lalu dalam hal ini termasuk kontribusi terhadap pendanaan kuadratik dan perannya dalam hibah Gitcoin, pendanaan barang publik retrospektif (retro PGF), serta kontribusi dalam pendanaan mendalam baru-baru ini.

Banyak orang skeptis terhadap konsep barang publik, terutama berasal dari dua aspek:

1. Barang publik telah digunakan dalam sejarah sebagai alasan bagi pemerintah untuk melakukan perencanaan dan intervensi pusat yang ketat terhadap masyarakat dan ekonomi.

2. Sebuah pandangan umum adalah bahwa pendanaan barang publik kurang ketat dan beroperasi berdasarkan bias harapan sosial, yang menguntungkan para insider yang dapat memainkan permainan sosial.

Ini semua adalah kritik yang penting, dan itu adalah kritik yang wajar. Namun, saya mengenali