科學家警告稱，遏制算法不會停止超級智能人工智能_EPIK

一組計算機科學家使用理論計算來證明算法無法控制超級智能AI。

他們的研究解決了牛津哲學家尼克·博斯特羅姆所說的控制問題：我們如何確保超智能機器為我們的利益服務？

研究人員構想了一種理論上的遏制算法，該算法可以通過模擬AI的行為并在程序的動作變得有害時停止程序來解決該問題。

著名AI科學家Ben Goertzel正式出任EpiK銘識協議專家顧問:著名AI科學家、SigularityNET創始人，機器人公民Sophia的首席科學家 Ben Goertzel 正式出任EpiK銘識協議專家顧問，將推動EpiK領域專家生態搭建，助力構建高質量的實用知識圖譜數據生態。同時，Ben將推動EpiK銘識在AGI 強人工智能領域的應用實踐，同EpiK銘識一起共筑新一代AI智能基石。

同時，EpiK銘識協議測試網5.0于今日成功上線，首日即完成注冊數量超 5,414 節點，活躍節點3,275 個，全網算力125 GB，主網上線在即，為雙方合作創建的有效數據提供穩定的存儲基礎。[2021/6/17 23:44:27]

但是，他們的分析發現，建立一種可以控制這種機器的算法從根本上來說是不可能的，人類與機器中心主任IyadRahwan說：

聲音 | Heriot-Watt大學科學家：區塊鏈技術在能源領域具有巨大潛力:據Coin Crypto Rama消息，在《可再生和可持續能源評論》中，蘇格蘭Heriot-Watt大學科學家稱區塊鏈技術在能源領域具有巨大潛力。該大學副教授Valentin Robu表示：“在能源應用中，區塊鏈通常與人工智能（AI）技術相結合，如多智能體系統和機器學習，這些技術可以實現智能微合同和本地能源交換。”這有助于建筑系統和能源服務提供商識別消費者能源模式，并可根據消費者個人需求開發適合的產品。研究助理Merlinda Andoni補充說：“區塊鏈可能被用于智能設備的自動化和安全通信，這將進一步促進智能電網應用和能源行業的脫碳化。”[2018/12/12]

如果將問題分解為理論計算機科學的基本規則，就會發現，命令AI不破壞世界的算法可能會無意中止其自身的運行。如果發生這種情況，您將不知道遏制算法是否仍在分析威脅，或者它是否已停止遏制有害的AI。實際上，這使遏制算法無法使用。

OK區塊鏈工程院首席科學家劉杰：區域鏈技術可分為四個方向:近日，OK區塊鏈工程院首席科學家劉杰表示，區域鏈技術可分為四個方向：一是有關區塊鏈網絡效率。在通過以太坊或者一些鏈進行交易的時候，每秒鐘處理速度直接影響了我們區塊鏈的應用。二是區塊鏈智能合約安全。此前交易所出的問題，因為智能合約數據溢出的問題，智能合約審核和簽訂變得非常重要，因為代碼是一種規則的，如果規則錯了，會使得安全變得不可信。三是區塊鏈和AI技術的結合。基于AI和大數據方法，可以在區塊鏈上產生一些約束力。四是政府監管的問題。[2018/5/28]

研究發現，由于計算的基本局限性，沒有一種算法可以計算出AI是否會危害世界：

假設超級智能將包含一個程序，該程序包含通用圖靈機在輸入時可能會像世界狀況一樣復雜地執行的所有程序，那么嚴格的圍堵要求對該程序進行仿真，這在理論上是不可能的。

到目前為止，這種類型的AI仍僅限于幻想領域。但是研究人員指出，這項技術正在朝著科幻小說作家所設想的超級智能系統的類型邁進。

研究的合著者，馬克斯·普朗克人類發展研究所的曼努埃爾·塞布里安說：“已經有機器獨立執行某些重要任務，而程序員卻沒有完全了解他們是如何學習的。”

“因此提出了一個問題，在某個時候這是否可能變得不可控制并且對人類構成危險。”

Tags：區塊鏈EPIKBENIOT區塊鏈專業學什么epikprime幣行情bend幣圈iota幣升值潛力

比特幣價格實時行情