Chuyển Tiêu Đề Gốc: d/acc: một năm sau

Khoảng một năm trước, tôi đã viếtmột bài viết về lạc quan công nghệMô tả sự hăng hái chung của tôi đối với công nghệ và những lợi ích to lớn mà nó mang lại, cũng như sự cẩn trọng của tôi đối với một số vấn đề cụ thể, chủ yếu xoay quanh trí tuệ nhân tạo siêu thông minh và nguy cơ mà nó có thể mang lại là hoặc sự diệt vong, hoặc sự làm mất quyền lực của con người một cách không thể đảo ngược, nếu công nghệ được xây dựng theo cách không đúng đắn. Một trong những ý tưởng cốt lõi trong bài viết của tôi là triết lý của: tăng tốc phòng ngự phòng thủ phi chính trị và dân chủ. Tăng tốc công nghệ, nhưng tập trung khác biệt vào các công nghệ cải thiện khả năng phòng ngự của chúng ta, thay vì khả năng gây hại, và trong các công nghệ phân phối quyền lực thay vì tập trung nó trong tay của một tầng lớp nguyên thủy quyết định điều gì là đúng, sai, tốt hoặc xấu thay mặt cho tất cả mọi người. Phòng ngự như trong chế độ dân chủThụy Sĩvà lịch sử gần như vô chính phủZomia, không giống như các lãnh chúa và lâu đài trong thời kỳ phong kiến thời Trung Cổ.

Trong năm kể từ đó, triết lý và ý tưởng đã trưởng thành đáng kể. Tôi đã nói về ý tưởng trên 80,000 HoursVà tôi đã thấy nhiều phản hồi, chủ yếu là tích cực và một số chỉ trích. Công việc đang tiếp tục và mang lại quả ngọt: chúng tôi đangnhìn thấy tiến triểntrong có thể xác minhvắc-xin mã nguồn mở, nhận thức ngày càng cao về giá trị của không khí trong nhà lành mạnh, Ghi chú Cộng đồng tiếp tục tỏa sáng, một năm bùng nổ cho thị trường dự đoán như một công cụ thông tin, ZK-SNARKs in Giấy tờ tùy thân của chính phủvàmạng xã hội (và bảo mậtEthereumvíquatài khoản trừ trừ) ,công cụ hình ảnh mã nguồn mởvới các ứng dụng trong y học và BCI, và hơn thế nữa. Vào mùa thu, chúng tôi đã có sự kiện d/acc quan trọng đầu tiên: “Ngày khám phá d/acc” (d/aDDy) tại Devcon, có sự tham gia của một ngày đầy đủ các diễn giả từ tất cả các trụ cột của d/acc (sinh học, vật lý, cyber, phòng thủ thông tin, cũng như công nghệ não). Những người đã làm việc trên những công nghệ này trong nhiều năm ngày càng nhận thức đến công việc của nhau, và những người bên ngoài ngày càng nhận thức đến câu chuyện lớn hơn: cùng những giá trị đã thúc đẩy Ethereum và tiền điện tử.có thể được áp dụng vào thế giới rộng hơn.

Mục lục

• What d/acc is and is not
• Chiều thứ ba: sống sót và phát triển
• Câu hỏi khó: An toàn trí tuệ nhân tạo, thời gian ngắn và quy định
• Vai trò của tiền điện tử trong d/acc
• d/acc và quỹ tài trợ hàng hóa công cộng
• Tương lai

Điều gì là và không phải là d/acc

Đó là năm 2042. Bạn đang thấy các báo cáo trên các phương tiện truyền thông về một đại dịch mới có khả năng xảy ra trong thành phố của bạn. Bạn đã quen với những điều này: mọi người quá phấn khích về mọi đột biến bệnh động vật, và hầu hết trong số họ không có gì. Hai đại dịch tiềm ẩn thực tế trước đó đã được phát hiện rất sớm thông qua giám sát nước thải và phân tích nguồn mở của mạng xã hội, và dừng lại hoàn toàn trong bước của họ. Nhưng lần này, thị trường dự đoán đang cho thấy có 60% khả năng ít nhất là 10.000 trường hợp, vì vậy bạn lo lắng hơn.

Dãy số cho vi-rút được xác định hôm qua. Cập nhật phần mềm cho túi của bạnbộ kiểm tra không khíđể cho phép nó phát hiện virus mới (từ một hơi thở duy nhất, hoặc từ 15 phút tiếp xúc với không khí trong một phòng) đã có sẵn. Hướng dẫn mã nguồn mở và mã để tạo ra một loại vaccine bằng cách sử dụng thiết bị có thể được tìm thấy trong bất kỳ cơ sở y tế hiện đại nào trên thế giới cũng nên có sẵn trong vài tuần tới. Hầu hết mọi người vẫn chưa thực hiện bất kỳ hành động nào cả, chủ yếu dựa vào việc sử dụng rộng rãi hệ thống lọc không khí và thông gió để bảo vệ họ. Bạn có một tình trạng miễn dịch nên bạn cẩn thận hơn: trợ lý cá nhân AI chạy cục bộ mã nguồn mở của bạn, nơi xử lý một số nhiệm vụ bao gồm điều hướng và việc đề xuất nhà hàng và sự kiện, cũng tính đến dữ liệu kiểm tra không khí thời gian thực và CO2 để chỉ đề xuất những địa điểm an toàn nhất. Dữ liệu được cung cấp bởi hàng nghìn cựu chiến binh và thiết bị sử dụngZk-SNARKvàdifferential privacyđể giảm thiểu rủi ro để dữ liệu có thể bị rò rỉ hoặc lạm dụng cho bất kỳ mục đích nào khác (nếu bạn muốn đóng góp dữ liệu cho các bộ dữ liệu này, có các trợ lý cá nhân AI khác xác minh chứng minh hình học rằng những công cụ mật mã này thực sự hoạt động).

Hai tháng sau đó, đại dịch biến mất: có vẻ như 60% số người tuân thủ giao thức cơ bản của việc đeo khẩu trang nếu máy kiểm tra không khí kêu beep và hiển thị có virus, và ở nhà nếu họ kiểm tra dương tính cá nhân, đã đủ để đẩy tỷ lệ lây nhiễm, đã giảm mạnh do quá trình lọc không khí nặng, xuống dưới 1. Một căn bệnh theo mô phỏng có thể nghiêm trọng gấp năm lần so với Covid hai mươi năm trước cuối cùng lại không phải là một vấn đề hôm nay.

Ngày Devcon d/acc

Một trong những điều tích cực nhất của sự kiện d/acc tại Devcon là mức độ mà ông dù trang phục thành công đã đưa mọi người lại gần nhau từ các lĩnh vực rất khác nhau và đã khiến họ thực sự quan tâm đến công việc của nhau.

Việc tạo ra các sự kiện với “đa dạng” dễ dàng, nhưng làm cho những người khác nhau với nền tảng và sở thích khác nhau thực sự liên kết với nhau là điều khó khăn. Tôi vẫn nhớ việc bị bắt buộc xem các vở opera dài đằng đẵng khi còn học cấp hai và cấp ba, và cá nhân tôi thấy chúng chán chê. Tôi biết rằng mình “nên” đánh giá cao chúng, vì nếu không thì tôi sẽ là một tay máy tính thô tục, nhưng tôi không thể kết nối với nội dung một cách chân thành hơn. d/acc day không hề cảm thấy như vậy: nó khiến người ta thực sự thích thú khi tìm hiểu về những loại công việc rất khác nhau trong các lĩnh vực khác nhau.

Nếu chúng ta muốn tạo ra một lựa chọn sáng hơn cho sự thống trị, sự chậm lại và sự tuyệt vọng, chúng ta cần loại sự hợp tác rộng lớn như vậy. Dường như d/acc đang thành công trong việc này, và điều đó cho thấy giá trị của ý tưởng.

Ý tưởng cốt lõi của d/acc rất đơn giản: tăng tốc phòng thủ khác biệt phi tập trung và dân chủ. Xây dựng công nghệ dịch chuyển sức mạnh từ tấn công sang phòng thủ, và làm điều này mà không phụ thuộc vào việc nhượng quyền lực hơn nữa cho các cơ quan tập trung. Có mối liên kết cố hữu giữa hai mặt này: bất kỳ cấu trúc chính trị phi tập trung, dân chủ hoặc tự do nào cũng phát triển tốt nhất khi phòng thủ dễ dàng, và gặp nhiều thách thức nhất khi phòng thủ khó khăn - trong những trường hợp đó, khả năng cao nhất là một thời kỳ chiến tranh của tất cả chống lại tất cả, và cuối cùng là một trạng thái cân bằng của cai trị bởi kẻ mạnh nhất.

Nguyên tắc cốt lõi của d/acc được mở rộng sang nhiều lĩnh vực:

Biểu đồ từ Sự lạc quan về công nghệ của tôi, năm ngoái

Một cách hiểu về sự quan trọng của việc cố gắng tạo ra sự phân quyền, phòng thủ và tăng tốc cùng một lúc, là so sánh nó với triết lý mà bạn nhận được khi bạn từ bỏ mỗi phần trong ba điều đó.

• Tăng tốc phi tập trung, nhưng không quan tâm đến phần “phòng thủ khác biệt”. Cơ bản là trở thành một e/acc, nhưng phi tập trung. Có rất nhiều người áp dụng phương pháp này,một sốCó những người tự xưng là d / acc nhưng mô tả tập trung của họ một cách hữu ích là “TẤN CÔNG”, nhưng cũng có rất nhiều người khác vô cùng phấn khích về “AI phi tập trung” và các chủ đề tương tự một cách ôn hòa hơn, nhưng theo quan điểm của tôi đặt quá ít sự chú ý vào khía cạnh phòng thủ.

Theo quan điểm của tôi, phương pháp này có thể tránh được nguy cơ độc tài nhân loại toàn cầu bởi bộ tộc cụ thể mà bạn đang lo lắng, nhưng nó không có câu trả lời cho vấn đề cơ bản: trong một môi trường ủng hộ tấn công, luôn có nguy cơ tiếp tục của hoặc thiên tai, hoặc ai đó định vị mình là người bảo vệ và lâu dài khẳng định vị trí ở đầu. Trong trường hợp cụ thể của AI, nó cũng không có câu trả lời tốt cho nguy cơ con người như một tổng thể bị mất quyền lực so với AI.

• Tăng tốc phòng ngự khác biệt, nhưng không quan tâm đến “phân quyền và dân chủ”. Sự chấp nhận kiểm soát tập trung vì mục đích an toàn có sức hấp dẫn lâu dài đối với một phần nhỏ người, và độc giả không thể không quen thuộc với nhiều ví dụ, và những hạn chế của chúng. Gần đây, một số người lo lắng rằng kiểm soát tập trung cực đoan là giải pháp duy nhất cho những cực kỳ của công nghệ tương lai: xem kịch bản giả tưởng nàynơi ‘Mọi người đều được trang bị một ‘thẻ tự do’ - một phiên bản tiếp theo của các thiết bị giám sát có thể mang được hạn chế hơn hiện nay, chẳng hạn như thẻ cổ chân được sử dụng ở một số quốc gia như một phương án thay thế tù … video và âm thanh được mã hóa được tải lên liên tục và được máy tính phiên dịch theo thời gian thực ‘. Tuy nhiên, kiểm soát tập trung là một phổ. Một phiên bản kiểm soát tập trung nhẹ hơn thường bị bỏ qua, nhưng vẫn gây hại, là sự chống lại sự kiểm tra công khai trong công nghệ sinh học (ví dụ, đồ ăn, vaccine), và các quy tắc nguồn đóng cho phép sự chống đối này không bị đặt vào thách thức.

Rủi ro của phương pháp này là trung tâm thường là nguồn gốc của rủi ro. Chúng ta đã thấy điều này trong đại dịch Covid, nơi nghiên cứu tăng cường chức năng được tài trợ bởi gate đã gây nên rủi ro.nhiều chính phủ lớn trên thế giới có thể là nguồn gốc của đại dịch, nhận thức luận tập trung đã dẫn đến WHO Không công nhậngatenămrằng Covid là bệnh lây qua không khí, và bắt buộcgiãn cách xã hộivàvaccinecác quy định đã dẫn đến phản ứng chính trị có thể gây sóng gió trong nhiều thập kỷ. Một tình huống tương tự có thể xảy ra xung quanh bất kỳ rủi ro nào liên quan đến trí tuệ nhân tạo, hoặc các công nghệ rủi ro khác. Một phương pháp phân quyền sẽ giải quyết tốt hơn các rủi ro từ chính trung tâm.

• Phòng thủ phi tập trung, nhưng không quan tâm đến việc tăng tốc - về cơ bản, cố gắng làm chậm tiến bộ công nghệ hoặc kinh tếgiảm trưởng.

Thách thức với chiến lược này là hai mặt. Thứ nhất, trên tổng thể công nghệ và tăng trưởng kinh tế đã mang lại lợi ích rất lớn cho nhân loại, và mọi sự chậm trễ đều có thể gây hậu quả tiêu cực.áp đặt chi phíđó làkhó diễn tả. Thứ hai, trong một thế giới phi toàn trị, không tiến lên là không ổn định: bất cứ ai “gian lận” nhiều nhất và tìm ra những cách có thể phủ nhận một cách hợp lý để thăng tiến bằng mọi cách sẽ vượt lên. Các chiến lược giảm tốc có thể hoạt động ở một mức độ nào đó trong một số bối cảnh: Thực phẩm châu Âu lành mạnh hơn thực phẩm Mỹ là một ví dụ, sự thành công của việc không phổ biến vũ khí hạt nhân cho đến nay là một ví dụ khác. Nhưng họ không thể làm việc mãi mãi.

Với d/acc, chúng tôi muốn:

• Hãy tuân theo nguyên tắc vào thời điểm mà nhiều phần của thế giới đang trở nên bộ tộc hóa, và không chỉ xây dựng bất cứ điều gì - thay vào đó, chúng tôi muốn xây dựng những điều cụ thể giúp thế giới trở nên an toàn và tốt đẹp hơn.
• Thừa nhận rằng tiến bộ công nghệ theo cấp số nhân có nghĩa là thế giới sẽ trở nên rất kỳ lạ, và tổng số “dấu chân” của nhân loại trên vũ trụ sẽ chỉ tăng lên. Khả năng của chúng ta để giữ cho động vật, thực vật và con người dễ bị tổn thương khỏi con đường nguy hiểm phải được cải thiện, nhưng lối thoát duy nhất là tiến về phía trước.
• Xây dựng công nghệ giúp bảo vệ chúng ta mà không phải giả định rằng “những người tốt (hoặc trí tuệ nhân tạo tốt) đang điều khiển”. Chúng tôi làm điều này bằng cách xây dựng các công cụ có tự nhiên hiệu quả hơnkhi được sử dụng để xây dựng và bảo vệ hơn khi được sử dụng để phá hủy.

Một cách khác để nghĩ về d/acc là quay trở lại một khung hình từcác phong trào của Đảng Hải tặcở châu Âu vào cuối những năm 2000: sự củng cố.

Mục tiêu là xây dựng một thế giới trong đó chúng ta bảo tồn sự hành động của con người, đạt đượccả haisự tự do tiêu cực trong việc tránh sự can thiệp tích cực (dù từ những người khác hành động như là các công dân tư nhân, hoặc từ chính phủ, hoặc từ các bot thông minh siêu việt) vào khả năng chúng ta tự tạo định mệnh của mình, và sự tự do tích cực trong việc đảm bảo rằng chúng ta có kiến thức và tài nguyên. Điều này phản ánh một truyền thống tự do cổ điển kéo dài hàng thế kỷ, trong đó cũng bao gồm sự tập trung của Stewart Brand vàotruy cập vào các công cụ“ và của John Stuart Mill nhấn mạnh vào giáo dụccùng vớilibertylà những thành phần quan trọng của sự tiến bộ của con người - và có lẽ, người ta có thể thêm rằng, mong muốn của Buckminster Fuller là thấy quá trình giải quyết toàn cầu đượctham gia và phân phối rộng rãi. Chúng ta có thể xem d / acc là một cách để đạt được các mục tiêu tương tự trong bối cảnh công nghệ của thế kỷ 21.

Chiều thứ ba: sống sót và thịnh vượng

Trong bài đăng của tôi năm ngoái, d/acc tập trung đặc biệt vào các công nghệ phòng thủ: phòng thủ vật lý, phòng thủ sinh học, phòng thủ mạng và phòng thủ thông tin. Tuy nhiên, phòng thủ phi tập trung không đủ để làm cho thế giới trở nên tuyệt vời: bạn cũng cần có một tầm nhìn tích cực hướng tới tương lai về việc con người có thể sử dụng sự phi tập trung và an toàn mới tìm được để đạt được điều gì đó.

Bài viết năm ngoái thực sự có một tầm nhìn tích cực, tại hai nơi:

1. Tập trung vào những thách thức của siêu trí tuệ, tôi đề xuất một con đường (rất khác biệt đối với tôi) về cách chúng ta có thể có siêu trí tuệ mà không làm yếu đuối:
   1. Hôm nay, xây dựng trí tuệ nhân tạo như là công cụ thay vì như là các tác nhân tự động cao cấp
   2. Ngày mai sử dụng các công cụ như thực tế ảo, myoelectricsvà các giao diện não-máy tính để tạo ra phản hồi ngày càng chặt chẽ hơn giữa trí tuệ nhân tạo và con người
   3. Với thời gian, chúng ta tiến đến một cuộc chơi cuối cùng trong đó trí tuệ nhân tạo siêu việt là sự kết hợp chặt chẽ của máy móc và con người.
2. Khi nói về bảo vệ thông tin, tôi cũng nhắc đến một cách gián tiếp rằng ngoài công nghệ xã hội phòng thủ cố gắng giúp cộng đồng duy trì sự đoàn kết và có cuộc trò chuyện chất lượng cao đối mặt với kẻ tấn công, còn có công nghệ xã hội tiến bộ có thể giúp cộng đồng dễ dàng đưa ra những quyết định chất lượng cao hơn:pol.islà một ví dụ, vàdự đoánthị trường là một cái khác.

Nhưng hai điểm này cảm thấy không liên quan đến lập luận d/acc: “đây là một số ý tưởng để tạo ra một thế giới dân chủ và ủng hộ phòng thủ hơn ở tầng cơ sở, và nhân tiện đây là một số ý tưởng không liên quan về cách chúng ta có thể làm nên siêu trí tuệ”.

Tuy nhiên, tôi nghĩ thực tế có một số mối quan hệ rất quan trọng giữa những gì được gắn nhãn là công nghệ d/acc “phòng thủ” và “tiến bộ”. Hãy mở rộng biểu đồ d/acc từ bài viết năm ngoái bằng cách thêm trục này (ngoài ra, hãy đổi tên nó thành “survive vs thrive“) vào biểu đồ và xem kết quả như thế nào:

Có một mẫu thường xuyên, trên tất cả các lĩnh vực, rằng khoa học, ý tưởng và công cụ có thể giúp chúng ta “sống sót” trong một lĩnh vực liên quan chặt chẽ đến khoa học, ý tưởng và công cụ có thể giúp chúng ta “thịnh vượng”. Một số ví dụ:

• Rất nhiều nghiên cứu chống Covid gần đây tập trung vào viral persistencetrong cơ thể như một cơ chế để giải thích tại sao Long Covid là một vấn đề lớn. Gần đây, cũng có dấu hiệu về sự tồn tại của vi-rútcó thể gây ra bệnh Alzheimer- nếu đúng, điều này ngụ ý rằng giải quyết sự tồn tại của vi rút trên tất cả các loại mô có thể là yếu tố quan trọng trong việc giải quyết quá trình lão hóa.
• Chi phí thấp và thu nhỏ công cụ hình ảnhnhư những cái như những cái đangxây dựng bởi Openwatercó thể mạnh mẽ trong việc điều trịmicroclots, hoặc sự tồn tại của virus, ung thư, và chúng cũng có thể được sử dụng cho BCI.
• Ý tưởng rất tương tự thúc đẩy việc xây dựng các công cụ xã hội dành cho môi trường cạnh tranh cao, như gate Ghi chú Cộng đồng, và các công cụ xã hội được xây dựng cho môi trường hợp tác hợp lý, như pol.is.
• Thị trường dự đoán là có giá trịcả haihợp tác caovàcao-mối-rủi-romôi trường.
• Các chứng minh không trình bày và các công nghệ tương tự để thực hiện tính toán trên dữ liệu trong khi bảo vệ quyền riêng tư đều tăng dữ liệu có sẵn cho công việc hữu ích như khoa học, và tăng cường quyền riêng tư.
• Năng lượng mặt trời và pin là tuyệt vời cho tăng cường sức mạnh cho đợt tăng trưởng kinh tế sạch tiếp theo, nhưng chúng cũng tuyệt vời cho việc phi tập trung và khả năng chống chịu vật lý.

Ngoài ra, còn có các phụ thuộc chéo quan trọng giữa các lĩnh vực chủ đề:

• BCI rất quan trọng như một công nghệ bảo vệ thông tin và hợp tác, vì nó có thể cho phép giao tiếp chi tiết hơn về suy nghĩ và ý định của chúng ta. BCI không chỉ là từ bot đến ý thức: nó cũng có thể là từ ý thức đến bot đến ý thức. Điều này phản ánh Các ý tưởng đa dạng về giá trị của BCI.
• Rất nhiều công nghệ sinh học phụ thuộc vào việc chia sẻ thông tin, và trong nhiều ngữ cảnh, mọi người chỉ sẵn lòng chia sẻ thông tin nếu họ tự tin rằng nó sẽ được sử dụng cho một ứng dụng duy nhất. Điều này phụ thuộc vào công nghệ bảo mật (ví dụ: ZKP, FHE, obfuscation…).
• Công nghệ hợp tác có thể được sử dụng để phối hợp việc tài trợ cho bất kỳ lĩnh vực công nghệ khác

Câu hỏi khó: An toàn của trí tuệ nhân tạo, thời hạn ngắn và quy định

Những người khác nhau có dòng thời gian AI rất khác nhau. Biểu đồ từ Zuzalu tại Montenegro, 2023.

Lập luận chống lại bài viết của tôi năm ngoái mà tôi thấy hấp dẫn nhất là một lời phê bình từ cộng đồng an toàn trí tuệ nhân tạo. Lập luận là: “chắc chắn, nếu chúng ta còn nửa thế kỷ cho đến khi chúng ta có trí tuệ nhân tạo mạnh mẽ, chúng ta có thể tập trung năng lượng và xây dựng tất cả những điều tốt đẹp này. Nhưng thực sự có vẻ như chúng ta có thời gian ba năm cho đến AGI, và ba năm nữa cho đến siêu trí tuệ. Và vì vậy nếu chúng ta không muốn thế giới bị phá hủy hoặc rơi vào một bẫy không thể đảo ngược, chúng ta không thể chỉ tăng tốc điều tốt đẹp, chúng ta cũng phải làm chậm điều xấu, và điều này có nghĩa là thông qua việc thông qua các quy định mạnh mẽ có thể làm cho những người mạnh có phần bực bội”.thế giới không thuận lợi nhất, nơi rủi ro AI cao và tiến độ có thể là năm năm tới, tôi sẽ ủng hộ quy định nào?

Đầu tiên, lập luận để cẩn trọng quanh các quy định mới

Năm ngoái, quy định chính về trí tuệ nhân tạo được đề xuất là Dự luật SB-1047 ở California. SB-1047 yêu cầu những nhà phát triển của những mô hình mạnh nhất (những mô hình mà cần hơn 100 triệu đô la để đào tạo hoặc hơn 10 triệu đô la trong trường hợp điều chỉnh tốt) phải thực hiện một số biện pháp kiểm tra an toàn trước khi phát hành. Ngoài ra, nó áp đặt trách nhiệm cho những nhà phát triển của các mô hình trí tuệ nhân tạo nếu họ không chăm sóc đúng mức. Nhiều người phản đối đã lập luận rằng dự luật này là “gate”.Một mối đe dọa đối với nguồn mở“; Tôi không đồng ý, bởi vì ngưỡng chi phí có nghĩa là nó chỉ ảnh hưởng đến các mô hình mạnh nhất: ngay cả LLama3 cũng vậy có lẽ dưới ngưỡng. Tuy nhiên, nhìn lại, tôi nghĩ có một vấn đề lớn hơn với dự luật này: giống như hầu hết các quy định khác, nó đã được chỉnh sửa quá nhiều cho tình huống hiện tại. Sự tập trung vào chi phí đào tạo đang chứng tỏ sự yếu đuối đối với công nghệ mới: mô hình Deepseek v3 chất lượng mới nhất được đào tạo với một chi phí là chỉ $6 triệuvà trong các mẫu mới như o1Chi phí đang chuyển từ việc đào tạo sang việc suy luận nói chung.

Thứ hai, những cá nhân có khả năng cao nhất sẽ thực sự chịu trách nhiệm cho kịch bản tàn phá của trí tuệ nhân tạo cực đại là các quân đội. Khi chúng tôi đã thấy trong nửa thế kỷ qua của an ninh sinh học(và hơn thế nữa), quân đội sẵn lòng thực hiện những điều đáng sợ, và họ có thể dễ dàng mắc phải lỗi lầm. Sử dụng quân sự trí tuệ nhân tạo đang phát triển nhanh chóng ngày nay (xem Ukraine, Gaza). Và bất kỳ quy định an ninh nào mà một chính phủ thông qua, theo mặc định sẽ miễn trừ quân đội của chính phủ đó và các công ty hợp tác chặt chẽ với quân đội.

Tuy nói vậy, những lập luận này không phải là lý do để chúng ta bỏ cuộc và không làm gì cả. Thay vào đó, chúng ta có thể sử dụng chúng như một hướng dẫn và cố gắng tìm ra các quy định sẽ gây ra những lo ngại này ít nhất.

Chiến lược 1: Trách nhiệm

Nếu ai đó hành động một cách gây ra thiệt hại có thể chịu trách nhiệm pháp lý, họ có thể be sued. Điều này không giải quyết vấn đề rủi ro từ quân đội và các nhà diễn xuất “trên pháp luật”, nhưng đây là một phương pháp rất tổng quát tránh việc phù hợp quá mức và thườngHỗ trợtheo chủ nghĩa tự do hướngnhà kinh tế vì lý do chính xác này.

Các mục tiêu chính cho trách nhiệm đã được xem xét cho đến nay là:

• Người dùng - những người sử dụng trí tuệ nhân tạo
• Deployers - trung gian cung cấp AI dưới dạng dịch vụ cho người dùng
• Nhà phát triển - những người xây dựng trí tuệ nhân tạo

Đặt trách nhiệm pháp lý lên người dùng cảm thấy tương thích khuyến khích nhất. Trong khi mối liên hệ giữa cách một mô hình được phát triển và cách nó kết thúc được sử dụng thường không rõ ràng, người dùng quyết định chính xác cách AI được sử dụng. Trách nhiệm pháp lý đối với người dùng tạo ra một áp lực mạnh mẽ để làm AI theo cách mà tôi cho là đúng đắn: tập trung vào việc xây dựng các bộ đồ mecha cho tâm trí con người, chứ không phải tạo ra các hình thức mới của cuộc sống thông minh tự duy trì. Cái trước phản hồi thường xuyên với ý định của người dùng và do đó sẽ không gây ra hành động thảm khốc trừ khi người dùng muốn. Loại thứ hai sẽ có nguy cơ lớn nhất là phát nổ và tạo ra một kịch bản “AI đi lừa đảo” cổ điển. Một lợi ích khác của việc đặt trách nhiệm pháp lý càng gần với việc sử dụng cuối cùng càng tốt là nó giảm thiểu rủi ro trách nhiệm pháp lý sẽ dẫn đến việc mọi người thực hiện các hành động có hại theo những cách khác (ví dụ: nguồn đóng, KYC và giám sát, thông đồng nhà nước / doanh nghiệp để bí mật hạn chế người dùng như với ví dụ: debanking, khóa các khu vực rộng lớn trên thế giới).

Có một cuộc tranh luận cổ điển chống lại việc chỉ đặt trách nhiệm duy nhất cho người dùng: người dùng có thể là những cá nhân thông thường không có quá nhiều tiền, hoặc thậm chí là ẩn danh, không có ai thực sự có thể trả tiền cho một thiệt hại thảm khốc. Cuộc tranh luận này có thể được nói quá mức: ngay cả khi một số người dùng quá nhỏ để chịu trách nhiệm, khách hàng trung bình của một nhà phát triển trí tuệ nhân tạo không phải như vậy, và do đó nhà phát triển trí tuệ nhân tạo vẫn được khuyến khích xây dựng các sản phẩm có thể mang đến cho người dùng của họ sự đảm bảo rằng họ sẽ không phải đối mặt với rủi ro trách nhiệm cao. Tuy nhiên, điều đó không có nghĩa là cuộc tranh luận không hợp lệ và cần được giải quyết. Bạn cần khuyến khích ai đó trong quy trình có tài nguyên để đảm bảo mức độ chăm sóc phù hợp và những người triển khai và nhà phát triển vẫn là những mục tiêu dễ dàng tiếp cận nhưng vẫn cần được đối mặt vớicó nhiều ảnh hưởng về mức độ an toàn hay không an toàn của một mô hình.

Trách nhiệm của người triển khai có vẻ hợp lý. Một lo ngại thường được đề cập là nó sẽ không hoạt động với các mô hình mã nguồn mở, nhưng điều này có vẻ khả quan, đặc biệt khi có một khả năng cao nhất định rằng các mô hình mạnh nhất sẽ được bảo mật mã nguồn đóng (và nếu chúng trở thành mã nguồn mở, thì mặc dù trách nhiệm của người triển khai không hữu ích lắm, nhưng cũng không gây nhiều hại). Trách nhiệm của nhà phát triển có cùng một lo ngại (mặc dù với các mô hình mã nguồn mở, có một chút trở ngại cần điều chỉnh một mô hình để làm cho nó thực hiện một số thứ ban đầu bị cấm), nhưng cùng một lập luận phản đối áp dụng. Như một nguyên tắc chung, đặt một “thuế” lên việc kiểm soát và trong thực tế nói “bạn có thể xây dựng những thứ mà bạn không kiểm soáthoặc bạn có thể xây dựng những điều mà bạn kiểm soát, nhưng nếu bạn xây dựng những điều mà bạn kiểm soát, thì 20% quyền kiểm soát phải được sử dụng cho mục đích của chúng tôi”, có vẻ là một quan điểm hợp lý cho các hệ thống pháp lý.

Một ý tưởng dường như chưa được khai thác kỹ lưỡng là đặt trách nhiệm cho các bên tham gia khác trong quy trình, những bên này có đủ tài nguyên. Một ý tưởng rất thân thiện với d/acc là đặt trách nhiệm cho chủ sở hữu hoặc nhà điều hành của bất kỳ thiết bị nào mà trí tuệ nhân tạo đảm nhận (ví dụ, bằng cách đánh hack) trong quá trình thực hiện một hành động gây thiệt hại thảm khốc. Điều này sẽ tạo ra động cơ rất rộng để làm việc chăm chỉ để làm cho cơ sở hạ tầng của thế giới (đặc biệt là máy tính và sinh học) an toàn nhất có thể.

Chiến lược 2: Nút tạm dừng toàn cầu trên phần cứng quy mô công nghiệp

Nếu tôi bị thuyết phục rằng chúng ta cần một cái gì đó “cơ bắp” hơn các quy tắc trách nhiệm, đây là những gì tôi sẽ làm. Mục tiêu sẽ là có khả năng giảm tính toán có sẵn trên toàn thế giới ~ 90-99% trong 1-2 năm vào thời điểm quan trọng, để mua thêm thời gian cho nhân loại chuẩn bị. Giá trị của 1-2 năm không nên được phóng đại: một năm “chế độ thời chiến” có thể dễ dàng có giá trị một trăm năm làm việc trong điều kiện tự mãn. Các cách để thực hiện một “tạm dừngĐã được khám phá, bao gồm các đề xuất cụ thể như yêu cầu đăng ký và xác minh vị trícủa phần cứng.

Một cách tiếp cận tiên tiến hơn là sử dụng thủ thuật mật mã thông minh: ví dụ, phần cứng AI quy mô công nghiệp (nhưng không phải người tiêu dùng) được sản xuất có thể được trang bị chip phần cứng đáng tin cậy chỉ cho phép nó tiếp tục chạy nếu nhận được 3/3 chữ ký mỗi tuần một lần từ các cơ quan quốc tế lớn, bao gồm ít nhất một cơ quan không liên kết với quân đội. Các chữ ký sẽ độc lập với thiết bị (nếu muốn, chúng tôi thậm chí có thể yêu cầu bằng chứng không có kiến thức rằng chúng được xuất bản trên blockchain), vì vậy nó sẽ là tất cả hoặc không có gì: sẽ không có cách thực tế nào để cho phép một thiết bị tiếp tục chạy mà không cho phép tất cả các thiết bị khác.

Điều này cảm giác như nó “đánh dấu các ô” trong việc tối đa hóa lợi ích và giảm thiểu rủi ro:

• Đó là một khả năng hữu ích cần có: nếu chúng ta nhận được các dấu hiệu cảnh báo rằng AI gần như siêu thông minh đang bắt đầu làm những việc có nguy cơ gây thiệt hại thảm khốc, chúng ta sẽ muốn thực hiện quá trình chuyển đổi chậm hơn.
• Cho đến khi một khoảnh khắc quan trọng xảy ra, việc chỉ có khả năng tạm dừng mềm cũng sẽ gây ít tổn thương cho các nhà phát triển.
• Tập trung vào phần cứng quy mô công nghiệp, và chỉ nhắm mục tiêu là 90-99%, sẽ tránh một số nỗ lực u tối của việc đặt chip gián điệp hoặc công tắc giết người vào laptop tiêu dùng hoặc áp đặt biện pháp hà khắc lên các quốc gia nhỏ một cách bắt buộc.
• Tập trung vào phần cứng dường như rất mạnh mẽ đối với những thay đổi trong công nghệ. Chúng ta đã thấy qua nhiều thế hệ của trí tuệ nhân tạo rằng chất lượng phụ thuộc mạnh mẽ vào khả năng tính toán có sẵn, đặc biệt là trong các phiên bản sớm của một mô hình mới. Vì vậy, giảm khả năng tính toán có sẵn từ 10-100 lần có thể dễ dàng tạo ra sự khác biệt giữa một trí tuệ nhân tạo vượt trội đang thắng hoặc thua trong cuộc chiến nhanh chóng với con người cố gắng ngăn chặn nó.
• Sự khó chịu vốn có của việc cần phải trực tuyến mỗi tuần một lần để có chữ ký sẽ tạo ra áp lực mạnh mẽ chống lại việc mở rộng chương trình sang phần cứng tiêu dùng.
• Nó có thể được xác minh bằng cách kiểm tra ngẫu nhiên và thực hiện nó ở cấp độ phần cứng sẽ gây khó khăn cho việc miễn trừ cho những người dùng cụ thể (các phương pháp dựa trên việc buộc tắt máy hợp pháp, thay vì về mặt kỹ thuật, không có tài sản tất cả hoặc không có gì này, khiến họ có nguy cơ trượt trượt cao hơn nhiều vào miễn trừ cho quân đội, v.v.)

Quy định phần cứng đang được xem xét mạnh mẽ, tuy nhiên thường thông qua khung gương của quyền kiểm soát xuất khẩucó bản chất là triết lý “chúng ta tin tưởng bên mình, nhưng không tin tưởng bên kia”. Leopold Aschenbrenner đã nổi tiếng đề xuất rằng Mỹ nên cuộc đua để có lợi thế quyết địnhvà sau đóthực chất ép Trung Quốcđể ký một giao thức giới hạn số lượng hộp họ được phép chạy. Đối với tôi, cách tiếp cận này có vẻ nguy hiểm và có thể kết hợp các khuyết điểm củacuộc đua đa cựcvà sự tập trung. Nếu chúng ta phải hạn chế con người, có vẻ tốt hơn nếu chúng ta hạn chế tất cả mọi người trên cơ sở bình đẳng và làm công việc khó khăn để thực sự cố gắng hợp tác để tổ chức điều đó thay vì một bên tìm cách thống trị tất cả mọi người khác.

công nghệ d/acc trong rủi ro AI

Cả hai chiến lược này (trách nhiệm pháp lý và nút tạm dừng phần cứng) đều có lỗ hổng trong đó và rõ ràng chúng chỉ là những khoảng trống tạm thời: nếu có thể làm điều gì đó trên siêu máy tính tại thời điểm T, nó có thể sẽ có thể xảy ra trên máy tính xách tay tại thời điểm T + 5 năm. Và vì vậy chúng ta cần một cái gì đó ổn định hơn để câu giờ. Nhiều công nghệ d / acc có liên quan ở đây. Chúng ta có thể nhìn vào vai trò của công nghệ d / acc như sau: nếu AI chiếm lĩnh thế giới, nó sẽ làm như thế nào?

• Nó xâm nhập máy tính của chúng tôi → phòng vệ mạng
• Nó tạo ra một siêu dịch → bảo vệ sinh học
• Nó thuyết phục chúng ta (hoặc tin tưởng nó, hoặc không tin tưởng lẫn nhau) → bảo vệ thông tin

Như đã đề cập ngắn gọn ở trên, quy tắc trách nhiệm là một phong cách quản lý tự nhiên thân thiện với d/acc, vì chúng có thể thúc đẩy một cách hiệu quả tất cả các bên trên thế giới áp dụng những phòng vệ này và coi chúng là nghiêm túc. Đài Loan đã được thử nghiệmvới trách nhiệm về quảng cáo sai lệch gần đây, điều này có thể được coi là một ví dụ về việc sử dụng trách nhiệm để khuyến khích bảo vệ thông tin. Chúng ta không nên quá nhiệt tình đặt trách nhiệm ở mọi nơi và hãy nhớ đến lợi ích của tự do truyền thống trong việc cho phép người nhỏ bé tham gia vào sáng tạo mà không sợ kiện cáo, nhưng nơi chúng ta muốn có sự đẩy mạnh để đảm bảo an toàn, trách nhiệm có thể rất linh hoạt và hiệu quả.

Vai trò của tiền mã hóa trong kế toán d/acc

Nhiều phần của d/acc đi xa hơn những chủ đề blockchain điển hình: an toàn sinh học, BCI và các công cụ thảo luận cộng tác dường như xa xôi so với những điều mà một người theo dõi tiền điện tử thông thường thường nói về. Tuy nhiên, tôi nghĩ rằng có một số mối liên kết quan trọng giữa tiền điện tử và d/acc, đặc biệt là:

• d/acc là một phần mở rộng của những giá trị cốt lõi của tiền điện tử (phi tập trung, chống kiểm duyệt, kinh tế và xã hội toàn cầu mở) cho các lĩnh vực công nghệ khác.
• Bởi vì người dùng tiền điện tử là những người chấp nhận sớm tự nhiên, và có sự phù hợp giá trị, cộng đồng tiền điện tử là những người dùng sớm tự nhiên của công nghệ d/acc. Sự tập trung mạnh mẽ vào cộng đồng (cả trực tuyến và ngoại tuyến, ví dụ, sự kiện và popup), và việc rằng những cộng đồng này thực sự thực hiện những việc quan trọng thay vì chỉ nói chuyện với nhau, khiến cho cộng đồng tiền điện tử trở thành một môi trường nuôi dưỡng và thử nghiệm hấp dẫn cho các công nghệ d/acc hoạt động căn bản trên các nhóm thay vì cá nhân (ví dụ, một phần lớn phòng vệ thông tin và phòng vệ sinh học). Người tiền điện tử chỉ đơn giản là làm những việc, cùng nhau.
• Nhiều công nghệ tiền điện tử có thể được sử dụng trong các lĩnh vực chủ đề d / acc: blockchain để xây dựng cơ sở hạ tầng tài chính, quản trị và truyền thông xã hội mạnh mẽ và phi tập trung hơn, không có bằng chứng kiến thức để bảo vệ quyền riêng tư, v.v. Ngày nay, nhiều thị trường dự đoán lớn nhất được xây dựng trên blockchain và chúng đang dần trở nên tinh vi, phi tập trung và dân chủ hơn.
• Ngoài ra, cũng có cơ hội cùng nhau thắng cả hai trong việc hợp tác về các công nghệ liên quan đến tiền mã hóa mà rất hữu ích đối với các dự án tiền mã hóa, nhưng cũng là chìa khóa để đạt được mục tiêu d/acc:xác minh chính thức, phần mềm máy tính và bảo mật phần cứng, và công nghệ quản trị chống lại kẻ thù. Những điều này làm cho blockchain Ethereum, ví và DAO an toàn và mạnh mẽ hơn, và cũng đạt được những mục tiêu quốc phòng quan trọng như giảm sự mất an toàn trước các cuộc tấn công mạng, bao gồm cả từ trí tuệ nhân tạo vượt trội.

Cursive, một ứng dụng sử dụng mã hóa hoàn toàn đồng dạng (FHE) để cho phép người dùng xác định các lĩnh vực chung quan tâm với người dùng khác, đồng thời bảo vệ sự riêng tư. Điều này đã được sử dụng tại Edge City, một trong số nhiều nhánh của Zuzalu, ở Chiang Mai.

Ngoài các giao điện trực tiếp này, có một điểm chung quan trọng khác nữa: các cộng cố tài chính.

Quỹ d/acc và quỹ hàng hóa công cộng

Một trong những sở thích liên tục của tôi là tạo ra các cơ chế tài trợ tốt hơn cho các hàng hóa công cộng: các dự án có giá trị đối với nhóm người rất lớn, nhưng màkhông cómột mô hình kinh doanh tự nhiên tiếp cận được. Công việc trước đó của tôi trong lĩnh vực này bao gồm những đóng góp của tôi vàoquadratic fundingvà việc sử dụng nó trongGitcoin Grants, retro PGF, và gần đây hơn nữa tiền gửi sâu.

Nhiều người hoài nghi về hàng hóa công như một khái niệm. Sự hoài nghi này thường xuất phát từ hai nguồn gốc:

1. Từ việc hàng hóa công cộng đã từng được sử dụng như là lý do để quy hoạch tập trung và can thiệp chính sách của chính phủ vào xã hội và kinh tế một cách quá mức.
2. Một quan điểm chung rằng việc tài trợ hàng hóa công cộng thiếu nghiêm túc và được điều hành trên cổngthiên vị mong muốn xã hội - những âm thanh nghe hay hơn là những gì tốt - và ưa thích những người nội bộ có thể chơi trò chơi xã hội.

Những lời phê bình này rất quan trọng và tốt. Tuy nhiên, tôi sẽ luận rằng việc tài trợ hàng hóa công cộng phi tập trung mạnh mẽ là rất quan trọng đối với tầm nhìn d/acc, vì một mục tiêu quan trọng của d/acc (giảm thiểu các điểm kiểm soát trung tâm) gây thách thức cho nhiều mô hình kinh doanh truyền thống. Việc xây dựng các doanh nghiệp thành công trên nguồn mở là hoàn toàn có thể - một vàiBalvigranteesđang làm như vậy - nhưng trong một số tình huống, điều này khá khó khăn đến mức các dự án quan trọng cần có sự hỗ trợ liên tục bổ sung. Do đó, chúng ta phải làm việc khó khăn và tìm cách tài trợ hàng hóa công cộng một cách giải quyết cả hai phê bình trên.

Giải pháp cho vấn đề đầu tiên về cơ bản là tin cậy tính trung lậpvà@VitalikButerin/the-meaning-of-decentralization-a0c92b76a274”>Decentralization. Quy hoạch trung tâm gặp vấn đề vì nó trao quyền kiểm soát cho các tầng lớp ưu tú có thể trở nên lạm dụng, và vì nó thường xuyên quá khớp với tình huống hiện tạivà dần trở nên ít hiệu quả hơn theo thời gian. Chi trả bậc hai và các cơ chế tương tự chính xác là về việc tài trợ hàng hóa công cộng một cách trung lập và phiến diện (về mặt kiến trúc và chính trị) nhất có thể.

Vấn đề thứ hai khó khăn hơn. Với quỹ được tài trợ bậc hai, một lời phê phán phổ biến là rằng nó nhanh chóng trở thành cuộc thi phổ biến, đòi hỏi các nhà tài trợ dự án phải dành nhiều công sức để vận động công khai. Hơn nữa, các dự án “trước mắt mọi người” (ví dụ: ứng dụng người dùng cuối) được tài trợ, nhưng các dự án có nhiều nền hơn (nguyên mẫu “phụ thuộc được duy trì bởi một người đàn ông ở Nebraska“) không nhận được bất kỳ quỹ nào cả. Kỳ vọng retro của quỹ dựa vào một số ít người nắm giữ huy hiệu chuyên gia; ở đây, hiệu ứng cuộc thi phổ biến giảm đi, nhưng hiệu ứng xã hội của việc có mối quan hệ gần gũi với người nắm giữ huy hiệu được khuếch đại.

Deep fundinglà nỗ lực mới nhất của tôi để giải quyết vấn đề này. Deep funding có hai đổi mới chính:

1. Biểu đồ phụ thuộc. Thay vì hỏi mỗi bồi thẩm đoàn một câu hỏi toàn cầu (“giá trị của dự án A đối với nhân loại là gì?”), chúng tôi đặt một câu hỏi địa phương (“dự án A hay dự án B có giá trị hơn kết quả C? Và bao nhiêu?”). Con người nổi tiếng là kém trong các câu hỏi toàn cầu: trong một nghiên cứu nổi tiếng, khi được hỏi họ sẽ trả bao nhiêu tiền để cứu N chim, những người trả lời trả lời khoảng 80 đô la cho N = 2.000, N = 20.000 và N = 200.000. Các câu hỏi địa phương dễ giải quyết hơn nhiều. Sau đó, chúng tôi kết hợp các câu trả lời địa phương thành một câu trả lời toàn cầu bằng cách duy trì “biểu đồ phụ thuộc”: đối với mỗi dự án, những dự án nào khác đã đóng góp vào thành công của nó và bao nhiêu?
2. AI as suy luận con người được lọc. Các thành viên hội đồng xét xử chỉ được phân công một mẫu nhỏ ngẫu nhiên của tất cả các câu hỏi. Có một cuộc thi mở trong đó bất kỳ ai đều có thể đệ trình các mô hình AI cố gắng điền đầy đủ các cạnh trong đồ thị một cách hiệu quả. Câu trả lời cuối cùng là tổng trọng số của các mô hình tương thích nhất với câu trả lời của ban giám khảo. Xem ở đây để có một ví dụ mã. Phương pháp này cho phép cơ chế mở rộng đến một quy mô rất lớn, đồng thời chỉ yêu cầu ban giám khảo gửi chỉ một số lượng nhỏ thông tin. Điều này giảm cơ hội cho sự tham nhũng và đảm bảo rằng mỗi bit đều chất lượng cao: ban giám khảo có thể dành thời gian suy nghĩ lâu hơn cho mỗi câu hỏi thay vì nhanh chóng bấm qua hàng trăm câu hỏi. Bằng cách sử dụng một cuộc thi mở của trí tuệ nhân tạo, chúng tôi giảm thiểu thiên hướng từ bất kỳ quy trình đào tạo và quản lý trí tuệ nhân tạo duy nhất nào. Thị trường mở của trí tuệ nhân tạo là động cơ, con người là bánh lái.

Nhưng quỹ sâu là ví dụ mới nhất; trước đó đã có những ý tưởng cơ chế quỹ hàng hóa công cộng khác, và trong tương lai sẽ còn nhiều ý tưởng khác nữa.allo.expertNó làm việc tốt trong việc phân loại chúng. Mục tiêu cốt lõi là tạo ra một công cụ xã hội có thể tài trợ cho hàng hóa công cộng với một mức độ chính xác, công bằng và mở cửa đủ gần với cách thị trường tài trợ cho hàng hóa tư nhân. Nó không cần phải hoàn hảo; cuối cùng, thị trường cũng rất khác hoàn toàn. Nhưng nó nên đủ hiệu quả để các nhà phát triển làm việc trên các dự án mã nguồn mở chất lượng cao có lợi cho tất cả mọi người có thể tiếp tục làm như vậy mà không cảm thấy cần phải thỏa hiệp không chấp nhận được.

Ngày nay, các dự án hàng đầu trong hầu hết các lĩnh vực chủ đề d / acc: vắc xin, BCI, “Biên giới BCI” giống nhưcổ tay điện và theo dõi mắt, các loại thuốc chống lão hóa, phần cứng, v.v., đều là tài sản riêng. Điều này có nhược điểm lớn về việc đảm bảo niềm tin của công chúng, như chúng ta đã thấy trong nhiều của trênkhu vựcđã. Nó cũng chuyển sự chú ý đến động lực cạnh tranh (“ĐỘI CỦA CHÚNG TÔI phải chiến thắng ngành công nghiệp quan trọng này!”), và rời xa cuộc cạnh tranh lớn hơn trong việc đảm bảo những công nghệ này đến đủ nhanh để bảo vệ chúng ta trong một thế giới trí tuệ nhân tạo siêu. Vì những lý do này, việc tài trợ hàng hóa công cộng mạnh mẽ có thể là một nguồn động viên mạnh mẽ cho sự mở cửa và tự do. Đây là một cách khác mà cộng đồng tiền điện tử có thể giúp đ/acc: bằng cách nỗ lực nghiêm túc để khám phá những cơ chế tài trợ này và làm cho chúng hoạt động tốt trong ngữ cảnh riêng của mình, chuẩn bị cho sự áp dụng rộng rãi hơn cho khoa học mã nguồn mở và công nghệ nói chung.

Tương lai

Những thập kỷ tiếp theo mang đến những thách thức quan trọng. Có hai thách thức mà gần đây tôi đã nghĩ đến:

• Các làn sóng công nghệ mới mạnh mẽ, đặc biệt là trí tuệ nhân tạo mạnh mẽ, đang đến nhanh chóng, và những công nghệ này đi kèm với những cạm bẫy quan trọng mà chúng ta cần tránh. Có thể mất năm năm để “trí tuệ siêu nhân tạo” đến đây, có thể mất năm mươi. Dù sao đi nữa, không rõ rằng kết quả mặc định có tự động tích cực, và như đã mô tả trong bài đăng này và cái trước đó, có nhiều bẫy cần tránh.
• Thế giới đang trở nên ít hợp tác hơn. Nhiều nhân vật quyền lực trước đây có vẻ như ít nhất là đôi khi hành động dựa trên các nguyên tắc cao cả (thiên chủng học, tự do, nhân loại chung… và còn nhiều hơn nữa) bây giờ đang rõ ràng hơn, và dạn dày hơn trong việc theo đuổi lợi ích cá nhân hoặc bộ tộc.

Tuy nhiên, mỗi thử thách này đều có một lớp lót bạc. Đầu tiên, bây giờ chúng ta có các công cụ rất mạnh mẽ để thực hiện công việc còn lại nhanh hơn:

• Trí tuệ nhân tạo hiện đại và trong tương lai có thể được sử dụng để xây dựng các công nghệ khác, và có thể được sử dụng như một thành phần trong quản trị (như trong việc tài trợ sâu hoặc thông tin tài chính). Điều này cũng rất liên quan đến BCI, nó có thể mang lại thêm lợi ích về năng suất.
• Quy mô phối hợp lớn hiện nay có thể được thực hiện ở quy mô lớn hơn rất nhiều so với trước đây. Internet và phương tiện truyền thông xã hội đã mở rộng tầm với của sự phối hợp, tài chính toàn cầu (bao gồm tiền điện tử) tăng cường quyền lực của nó, và hiện nay các công cụ phòng thủ thông tin và hợp tác có thể tăng cường chất lượng của nó và có thể sớm BCI dưới dạng con người-đến-máy tính-đến-con người có thể tăng cường độ sâu của nó.
• Xác minh chính thức, hộp cát (trình duyệt web, Docker, Qubes, GrapheneOS, và nhiều hơn thế nữa), các mô-đun phần cứng bảo mật, và các công nghệ khác đang được cải tiến đến mức làm cho an ninh mạng tốt hơn rất nhiều có thể.
• Viết bất kỳ loại phần mềm nào dễ dàng hơn rất nhiều so với hai năm trước.
• Nghiên cứu cơ bản gần đây về việc hiểu cách virus hoạt động, đặc biệt là sự hiểu biết đơn giản rằng hình thức truyền nhiễm quan trọng nhất cần phải phòng chống là qua không khí, đang cho thấy một hướng đi rõ ràng hơn để cải thiện phòng thủ sinh học.
• Các tiến bộ gần đây trong công nghệ sinh học (ví dụ như CRISPR, tiến bộtrongbio-imaging) đang sản xuất mọi loại công nghệ sinh học, cho dù cho mục đích quốc phòng hay tuổi thọ, hoặc siêu-hạnh-phúc, hoặc khám phá nhiềutiểu thuyết sinh họcgiả thuyết, hoặc đơn giản là doing really cool thingsrất dễ tiếp cận hơn.
• Các tiến bộ trong lĩnh vực máy tính và công nghệ sinh học cùng nhau tạo điều kiện cho các công cụ sinh học tổng hợp mà bạn có thể sử dụng để thích nghi, giám sát và cải thiện sức khỏe của mình. Công nghệ bảo vệ mạng như mật mã học làm cho khía cạnh cá nhân hóa của điều này trở nên khả thi hơn nhiều.

Thứ hai, bây giờ khi nhiều nguyên tắc mà chúng ta coi trọng không còn được chiếm đóng bởi một vài đoạn đặc biệt của lực lượng cũ, chúng có thể được giành lại bởi một liên minh rộng lớn mà bất kỳ ai trên thế giới cũng được chào đón. Điều này có lẽ là mặt tích cực lớn nhất của “điều chỉnh lại” chính trị gần đây trên khắp thế giới, và đáng giá để tận dụng. Crypto đã làm rất tốt trong việc tận dụng điều này và tìm kiếm sự hấp dẫn toàn cầu; d/acc cũng có thể làm điều tương tự.

Truy cập vào các công cụ có nghĩa là chúng ta có thể thích nghi và cải thiện sinh học và môi trường của chúng ta, và phần “phòng thủ” của d/acc có nghĩa là chúng ta có thể làm điều này mà không vi phạm quyền tự do của người khác để làm như vậy.Nguyên tắc đa dạng tự do Có nghĩa là chúng ta có thể có rất nhiều sự đa dạng về cách thực hiện điều này và cam kết của chúng ta đối với các mục tiêu chung của nhân loại có nghĩa là nó sẽ được thực hiện.

Chúng ta, con người, tiếp tục là ngôi sao sáng nhất. Nhiệm vụ phía trước chúng ta, xây dựng một thế kỷ 21 sáng sủa hơn nữa, bảo tồn sự sống và tự do và khả năng hành động của con người khi chúng ta tiến về vì sao, là một nhiệm vụ đầy thách thức. Nhưng tôi tin rằng chúng ta có đủ năng lực để thực hiện nó.

Thông báo:

1. Bài viết này được sao chép từ [ Vitalik Buterin]. Chuyển tiếp Tiêu đề Gốc: d / acc: một năm sau. Tất cả các quyền bản quyền thuộc về tác giả gốc [Vitalik Buterin]. Nếu có ý kiến phản đối với việc tái bản này, vui lòng liên hệ với Gate Learnđội ngũ và họ sẽ xử lý nó một cách nhanh chóng.
2. Miễn Trách Nhiệm Về Trách Nhiệm: Các quan điểm và ý kiến được thể hiện trong bài viết này chỉ thuộc về tác giả và không cấu thành bất kỳ lời khuyên đầu tư nào.
3. Đội ngũ Gate Learn thực hiện việc dịch bài viết sang các ngôn ngữ khác. Trừ khi có ghi chú, việc sao chép, phân phối hoặc đạo văn các bài viết dịch là cấm.