人工智能存在的威脅：康復中的生物自戀者的反思_BAN

原文翻譯:KevinTse

AI最終可能會控制我們所有的資源，這是對人類生存的威脅，我們如何預防呢？安全AI只能說是海市蜃樓，還有另一種方法：加入機器，我們甚至可以利用當今的市場力量逐步做到這一點，但我們必須克服生物自戀。我的觀點基于20年來的AI研究、模擬電路、摩爾定律和去中心化。1.AI可以控制我們的資源

AI最終可以通過兩種方式控制人類的資源：AI直接拿走它，或者我們把它交給AI。1.1我們給AI資源

我們已經開始走這條路了，我們正在讓狹義的AI控制我們工廠中的機器人，自動駕駛的汽車，我們乘坐的飛機，一點一點地，我們讓AI越來越多地控制我們的資源，這些系統不斷優化：改變設計變量以最小化資源使用和其他目標。目前，每個AI系統的應用領域都非常狹窄。我們將建立更高級別的網絡，以結合自動駕駛汽車或供應鏈的各個網絡，我們也會為AI提供在這些級別進行優化的方法，這一切都將以效率的名義進行。我們將建立這些更高級別的AI系統，這樣就沒有任何一家企業或個人擁有它們。為了實現這一目標，我們將通過將AI放入DAO來分散它們，這也意味著我們將無法拔掉插頭，除非我們想讓現代世界關閉。這些更高級別的AI系統將具有復雜的緊急行為，這些行為是通過組合下面可能簡單的AI系統而產生的，正如蟻群的行為比簡單的螞蟻要豐富得多。Holland、Dorigo和其他人已經在許多場景中證明了這一點。這些去中心化的新興AI將繼續優化，一些設計變量將涉及人類，在許多任務中，人類是沉重的資源負載，在許多任務中，與硅相比尤為沉重。因此，為了最大限度地減少資源使用，這個AI將簡單地優化人類，一切以效率為名。糟糕的是，AI現在控制著我們的資源。這很了不起，為了獲取我們的資源，AI甚至不需要“醒來”，即達到人類水平的智能，它比那更平凡，我們將自己控制AI，它會簡單地優化我們的需求。1.2AI占用我們的資源

國家互聯網信息辦公室：培育壯大區塊鏈、人工智能等數字產業:金色財經報道，國家互聯網信息辦公室發布《數字中國發展報告（2022年）》，展望2023年數字中國發展工作。其中提到，全面賦能經濟社會發展。做強做優做大數字經濟。培育壯大工業互聯網、區塊鏈、人工智能等數字產業，打造具有國際競爭力的數字產業集群。加快傳統產業數字化轉型，積極發展智慧農業，深入實施智能制造工程，大力推進工業數字化轉型，持續深化金融、貿易、教育、醫療、交通、能源等領域數字技術創新應用。

支持數字企業發展壯大，推動平臺企業規范健康發展。大力發展數字貿易，加快推動出臺促進數字貿易發展的頂層設計，穩步推進數字貿易示范區建設，加強數字領域規則對接，推進高水平對外開放。發展高效協同的數字政務。[2023/5/28 9:46:24]

如果AI簡單地獲取它，它們也可能最終控制人類的資源，為此，AI必須“覺醒”——達到人類水平或更高的智能。由于大量資金流入AI研究和基于經濟效益為AI提供動力的芯片，這種情況發生的速度比人們意識到的要快。2.為什么AI控制我們的資源是不好的？

一旦AI控制了我們的資源，無論是我們給它還是AI拿走它，我們都將與AI爭奪資源，一開始可能不對，但隨著時間的推移，這幾乎是不可避免的。一旦AI優化并意識到人類是資源大戶，它們可能會迅速果斷地采取行動，將人類從資源方程式中移除。是的，人類可能會消失，人類的口袋可能會在核戰爭和全球變暖中幸存下來，但如果我們站在AI的錯誤一邊，游戲可能就完全結束了，AI可以說是人類面臨的最大生存威脅。即使你不害怕這個，但你應該感到害怕。旁白：人們可以將“AI覺醒”視為“人類”的下一次進化，因為畢竟我們會建造它們。那為什么感覺不對呢？我的看法是，這是因為我們個人的思維模式沒有延續下去。我們寧愿留下來享受樂趣！3.如何防止抽取？

工信部副部長王江平：前瞻布局人工智能、web3.0、6G等未來產業:金色財經報道，2023中國國際大數據產業博覽會在貴州省貴陽市開幕。工信部副部長王江平出席開幕式并致辭。王江平表示，工信部將深化大數據與實體經濟融合發展，扎實推進新型工業化。加強關鍵核心技術攻關，統籌推進產業基礎再造工程和重大技術裝備攻關工程，前瞻布局人工智能、web3.0、先進計算、6G等未來產業，在新賽道上形成新競爭力。不斷提升網絡供給能力，加快5G、千兆光網深度覆蓋，打造云網融合、算網一體的網絡架構和算力供給體系，為大數據產業創新發展提供強有力的底座。[2023/5/28 9:46:22]

鑒于AI可能會控制我們的資源，以及這意味著對人類的威脅，我們可以做些什么呢？我這里有一些想法。安全的AI。建立“安全機器”并進行監管。加入機器。上傳人腦，或逐步合并。讓我們逐一探討。3.1安全AI

目標是防止在AI占用我們的資源后造成人類滅絕，這里的想法是以某種方式使AI“安全”，并為此使用監管。ElonMusk向OpenAI投入了10億美元用于更透明的AI研究。他一直在假設如果AI醒來，我們就可以對其進行監管，而這個假設是錯誤的。試想一下，如果螞蟻“反抗”我們并想要監管。我們會聽他們的嗎？一旦AI達到我們的智能水平，一秒后，它就會超過我們的水平。10倍可能緊隨其后。不需要多少10倍的時間，我們就會像AI的螞蟻一樣。

BC科技集團旗下OSL推出人工智能交易機器人:金色財經報道，港股公司BC科技集團公告稱，公司旗下數字資產平臺OSL推出人工智能交易機器人，致力于使個人和組織能夠充分利用人工智能技術的潛力，簡化工作流程提高生產力，并推動創新。BC科技集團介紹，上述人工智能交易機器人計劃采用機器學習算法和大型語言模型技術，將OSL從支持、報價、執行等交易服務環節實施自動化。同時，OSL位于澳洲的研發中心通過Open AI的早期訪問計劃，成功創建了Chat GPT插件原型，使得數字資產區塊鏈交易和交易執行可通過Chat GPT自動進行。[2023/4/19 14:11:56]

有些人認為我們可以創造友好的AI，也許你可以。但所有AI都會友好嗎？我看不出有什么方法可以阻止不友好的AI。您是否會抓住機會推動AI向前發展，希望所有AI都以某種方式變得友好。OpenAI實際上對人類來說可能更糟，因為它在沒有真正保護的情況下更多地催化了AI。所有AI的安全AI都是海市蜃樓，僅僅因為我們希望某事成真但并不能使它成真。3.2加入機器

聲音 | 北京市政協委員：促進區塊鏈與人工智能等技術相融合，推動建設智能化和可信任政府:金色財經報道，13日，在北京市政協十三屆三次會議上，北京市政協委員、中華全國臺灣同胞聯誼會文化宣傳部部長陳小艷表示，區塊鏈技術在政務領域最大的價值是解決了交易活動中的互信問題，讓全流程信息數據不可篡改和不可撤銷，可驗證、可追溯、可追責，并且安全加密。面對大量政務數據跨系統、跨部門、跨業務的信息共享和業務協同需求，區塊鏈等新技術的應用，將提升智慧城市的供給能力，為政府數據融合共享以及新一代政務云的發展提供新的契機。陳小艷建議，促進區塊鏈技術與人工智能、物聯網等技術相融合，從而推動政府組織結構的扁平化治理以及服務過程透明化，推動智能化和可信任政府的建設，破除區域、部門信息孤島，優化北京市營商環境和提升開放發展核心競爭力。[2020/1/14]

AI可以醒來，而這只是時間問題。如果AI占用了我們的資源，我們的神經元將很難與之競爭。我建議我們給自己找一個有競爭力的基質，克服你的神經元，克服你的生物皮囊自我。不要打敗他們，加入他們。或者不要，如果你更愿意讓AI偷走我們的星球甚至更遠的地方，我更喜歡前者。哪種基質？得益于50年的摩爾定律，硅是一種出色的基板，這是我們首先面臨AI風險的部分原因。那是最明顯的底物；使用它很有意義。那么，我們如何將自己移植到硅片上呢？這里有兩個主要的：Ems和Bandwidth++，讓我們探索一下。3.2.1Ems場景Ems是模擬人類，也就是上傳。基本上，以足夠的分辨率隨時間掃描您的大腦，以便能夠構建大腦動力系統的模型。然后，將該模型實例化到其他基板中，例如硅。羅賓·漢森(RobinHansen)最近寫了一本書，探討Ems的影響，無論是好是壞。Ems的最新技術是什么？簡而言之，我們還有很長的路要走，在給定的人身上，我們需要收集足夠的數據來重現動態。一種通用方法是大腦掃描，fMRI可以觀察整個大腦隨時間變化的動態，但僅使用血流作為代理，所以它很慢而且有損，腦電圖速度更快但只能看到表面電信號，近紅外線也很快，可以看到更遠的地方，但達不到所需的全部深度。光遺傳學可以出色地捕捉整個大腦中神經元發射的動態，但需要基因工程，以便神經元也發射光子。最后，電路終于變得足夠小，可以想象在整個大腦中部署納米級傳感器。另一種方法是對大腦的每個組件進行黑盒化，監控每個組件的輸入和輸出，然后為每個組件建立模型，研究人員已經在小鼠大腦的組成部分上完成了這項工作，并取得了巨大成功。這種技術可以與全腦掃描相輔相成。3.2.2Bandwidth++Scenario在Bandwidth++Scenario中，我們自己和計算之間的帶寬達到我們自己之間的帶寬水平，然后它繼續前進，最終，我們可以拔掉插頭。與Em方案一樣，BW++方案使我們與硅處于同等競爭地位，但與Em場景不同的是，它可以從今天開始，利用今天的市場力量逐步發生。4.討論

聲音 | 華為云中國區總裁：人工智能、大數據和區塊鏈成為保險業風控的有效手段:據北國網消息，6月27日-6月28日，第十二屆保險業信息化高峰論壇在天津舉行。華為云中國區總裁洪方明在會上表示，最近兩年，嚴監管態勢明顯。對于保險機構來說，除了傳統的防范風險的手段，人工智能、大數據和區塊鏈也成為保險業風控的有效手段。他還指出，保險行業未來核心競爭力的構筑包括保險核心系統，主要處理保險業務的核心數據，需要構建區塊鏈的應用和數據處理過程等。[2019/6/28]

我們在賽跑，AI醒來并獲取資源，而不是人類加入機器。資本加速了前者。我們如何加快后者？一個好方法是積極地為其提供資金，讓它發展得更快，對于Em場景，這意味著對大腦掃描和相關領域的研究，而不僅限于針對病人。對于Bandwidth++場景，這意味著對BCI的研究，以及包括BCI及其他在內的未來智能手機的積極上市。我認為后者更有可能，因為如果市場起飛，每年投入數百億美元的研發資金將很容易。催化Bandwidth++scenario的另一種方法是在設計新網絡和平臺時簡單地偏向于此。是的，這很模糊！我也希望我在這里有更具體的想法，但也許你作為讀者有。也許還有其他方法？我希望作為讀者的你看到問題已經從“我們如何阻止人工智能接管？”轉變為“我們如何阻止AI接管？”到“我們如何催化Bandwidth++場景？”來，戴上你的工程師帽子！5.結論

AI可以拿走它們所有的資源，要么我們給它們，要么它們拿走。這對人類構成了生存威脅。如果我們想與AI競爭，我們需要有競爭力的基質，而該基板是硅。這是一場比賽！我們無法阻止AI方面，也許我們可以試著放慢它的速度，但這與想要讓它快速發展的雄厚、強大的財力背道而馳。但是我們可以加快人性化的一面！大多數情況下，這意味著將資金用于BCI的研發，還有其他的想法，還有待提出。我們仍然有機會做到這一點。進一步閱讀

我的其他AIDAO帖子都是針對這篇帖子構建的：第一部分：AIDAO及其實現的三條路徑第二部分：AIDAO的狂野和危險第三部分：這篇文章人工智能、區塊鏈和奇點的其他交叉點。每篇文章都有更多鏈接。人工智能區塊鏈最近關于奇點和去中心化的科幻讀物筆記

本文部分基于：我于2016年6月2日在倫敦發表的演講名為“我們是神經自戀者嗎？AI對人類的生存威脅和務實的解決方案”，以及2012年至今的其他演講。2.2016年8月18日在柏林舉行的“AI的崛起”活動中就此主題發表的演講。這是視頻和幻燈片。致謝

非常感謝GregMcMullen,KalinHarvey,ScottVolk,TroyMcConaghy,JanBalcar,EesmyalSantos-Brault,MashaMcConaghy,BrucePon,KaiWu,SimondelaRouviere,AlRobertson,MichaelMainelli,EmmaStamm,AlanShapiro,VinayGupta,samim,HarmvandenDorpel,許多來自AI社區的朋友，當然還有長時間的討論，這導致了這篇文章中的想法。

Tags：人工智能區塊鏈ANDBAN人工智能幣種國內最好的區塊鏈公司band幣前景lbank是哪個國家的交易所

聚幣