暫停巨型人工智能實驗 馬斯克、ChatGPT之父、圖靈獎得主等全球大佬都簽了_FTX

3月22日，生命未來研究所 (Future of Life) 向全社會發布了一封《暫停大型人工智能研究》的公開信，呼吁所有人工智能實驗室立即暫停比GPT-4 更強大的人工智能系統的訓練，暫停時間至少為 6個月。

目前該公開信已獲得超過1100個人士支持，其中包括埃隆馬斯克、山姆·奧特曼、約書亞·本吉奧（2018年圖靈獎得主）等知名人士。

公開信正文

大量研究表明，具有人類競爭智能的 AI 系統可能對社會和人類構成深遠的風險，這一觀點也得到了頂級 AI 實驗室的認可。

正如廣泛認可的阿西洛馬人工智能原則（著名的阿西莫夫的機器人三大法則的擴展版本）中所述，高級 AI 可能代表地球生命史上的深刻變化，應以相應的關懷和資源進行規劃和管理。

幣安將于4月21日14:45暫停BEP2網絡的充提以支持BNB Beacon Chain網絡升級:4月19日消息，幣安預計將于北京時間2023年04月21日14:45暫停BNB Beacon Chain（BEP2）網絡的充值、提現業務，以支持BNB Beacon Chain（BEP2）將于BNB Beacon Chain網絡區塊高度310,182,000 （預計東八區時間2023年04月21日15:00）進行的網絡升級及硬分叉。[2023/4/19 14:13:35]

不幸的是，這種級別的規劃和管理并沒有發生，盡管最近幾個月人工智能實驗室陷入了一場失控的競賽，以開發和部署更強大的數字思維，沒有人——甚至他們的創造者——都無法理解，預測或可靠地控制。

當代人工智能系統現在在一般任務上變得與人類具有競爭力，我們必須捫心自問：

我們是否應該讓機器用宣傳和謊言充斥我們的信息渠道？

電競俱樂部TSM宣布暫停與FTX的合作關系:金色財經報道，據官方消息，電競俱樂部TSM宣布立即暫停其與FTX的合作關系。這意味著FTX品牌將不再出現在TSM的任何組織、電競戰隊和選手的社交媒體個人簡介中，選手服裝也將去除標志。這一過程可能需要一些時間來完成。FTX目前的形勢并沒有影響今年早些時候制定的TSM運營計劃。

據此前報道，去年6月，FTX與TSM簽署為期10年、價值2.1億美元的冠名權協議。TSM將在其參加的所有比賽中使用“TSM FTX”這一名稱，包括英雄聯盟、VALORANT、Apex Legends等。TSM還購買100萬美元的FTX代幣，用于在其員工和玩家之間分發。該交易是公開披露的電競團隊所獲最大贊助交易之一。該俱樂部的社交媒體名稱仍為“TSM FTX”。[2022/11/17 13:14:08]

我們應該自動化所有的工作，包括令人滿意的工作嗎？

NFT項目CryptoTrunks曾因gas費用過高而選擇短時暫停以減少環境影響:NFT項目CryptoTrunks允許用戶根據加密貨幣交易的碳足跡種植像素化樹，以顯示對環境的影響。該項目在啟動兩天后曾因gas費飆升至500 Gwei而一度選擇暫停項目運作，以此減少對環境的影響。一個小時后gas費用回落至150 Gwei，CryptoTrunks再次恢復運行。據悉，該項目創始人正在與Offsetra和Carbon.fyi合作，旨在將CryptoTrunks變成一個碳中性或碳負項目。他們計劃將由加密藝術家Reuben設計的創世樹（genesis trees）的部分收益捐贈給伯利茲的一個再造林計劃Bull Run。（Decrypt）[2021/5/24 22:37:06]

我們是否應該發展最終可能超過我們、超越我們、過時并取代我們的非人類思維？

我們應該冒險失去對我們文明的控制嗎？

Huobi Global將于今日18時暫停KAVA充提業務:據官方公告，為支持KAVA主網升級，Huobi Global將于3月4日18:00 暫停KAVA的充幣和提幣業務。待升級完成后將第一時間恢復，具體時間將以公告另行通知。[2021/3/4 18:14:47]

此類決定顯然不能委托給未經選舉產生的技術領導者。只有當我們確信它們的影響是積極的并且它們的風險是可控的時候，才應該開發強大的人工智能系統。這種信心必須有充分的理由，并隨著系統潛在影響的大小而增加。

OpenAI最近關于通用人工智能的聲明指出，“在某些時候，在開始訓練未來系統之前進行獨立審查可能很重要，并且對于最先進的努力來說，同意限制用于創建新系統的計算增長率楷模。” 我們同意這一觀點，并且認為現在就要行動起來。

因此，我們呼吁所有人工智能實驗室立即暫停訓練比 GPT-4 更強大的人工智能系統（包括目前正在訓練的 GPT-5）至少 6 個月。這種暫停應該是公開的和可驗證的，并且包括所有關鍵參與者。如果不能迅速實施這種暫停，政府應介入并暫停。

公告 | Upbit將于2019年8月1日12:00暫停QKC存取款業務:據官網公告，為支持QKC主網代幣遷移，Upbit將于2019年8月1日12:00暫停QKC存取款業務。待確認QKC主網代幣交易穩定后，恢復時間將另行通知。[2019/7/31]

人工智能實驗室和獨立專家應該利用這次暫停，共同開發和實施一套用于高級人工智能設計和開發的共享安全協議，并由獨立的外部專家進行嚴格審計和監督。這些協議應確保遵守它們的系統是安全的，無可置疑。

這并不意味著總體上暫停 AI 開發，只是從危險的競賽中倒退到具有緊急功能的更大的不可預測的黑盒模型。

人工智能研究和開發應該重新聚焦于使當今強大的、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。

與此同時，AI 開發人員必須與政策制定者合作，以顯著加快開發強大的 AI 治理系統。這些至少應包括：

專門負責 AI 的新的和有能力的監管機構；

監督和跟蹤高性能人工智能系統和大量計算能力；

出處和水印系統，以幫助區分真實與合成并跟蹤模型泄漏；

強大的審計和認證生態系統；

人工智能造成的傷害的責任；

為技術人工智能安全研究提供強大的公共資金；

以及資源充足的機構來應對人工智能將造成的巨大的經濟和破壞。

人類可以享受人工智能帶來的繁榮未來。成功創建強大的 AI 系統后，我們現在可以享受“AI 之夏”，收獲回報，設計這些系統以造福所有人，并為社會提供適應的機會。社會已經暫停其他可能對社會造成災難性影響的技術。

我們可以在這里這樣做。讓我們享受一個漫長的 AI 夏天，而不是毫無準備地陷入秋天。

云集行業大佬

目前已有超過1000人在該公開信上上簽字，包括馬斯克、山姆·奧特曼、約書亞·本吉奧（2018年圖靈獎得主）、巴勃羅·賈里洛·埃雷羅（石墨烯領域頂級專家）等行業大佬。

以下是部分名單：

Elon Musk，SpaceX、Tesla 和 Twitter 的首席執行官

Sam Altman，OpenAI首席執行官

Steve Wozniak，蘋果聯合創始人

Emad Mostaque，Stability AI 首席執行官

Yoshua Bengio，因開發深度學習而獲得圖靈獎，蒙特利爾學習算法研究所所長

Stuart Russell，伯克利計算機科學教授，智能系統中心主任，標準教科書“人工智能：現代方法”的合著者

Pablo Jarillo-Herrero，麻省理工學院物理學教授，美國國家科學院沃爾夫物理學獎

John J Hopfield，普林斯頓大學名譽教授，聯想神經網絡的發明者

Connor Leahy，Conjecture 首席執行官

……

頂級精英的憂慮

業內人士對于AI的擔心有增無減。

OpenAl公司的首席執行官山姆·阿爾特曼(Sam Altman) 近日表示，他對人工智能(AI)技術的潛力感到興奮，但也對一些潛在的濫用行為“有點害怕”。還表示“它有巨大的前景也有巨大的能力，但隨之而來的危險也是巨大的。”

「人工智能教父」Geoffrey Hinton近日在CBS NEWS的采訪表示，人工智能正處于一個「關鍵時刻」，通用人工智能 (AGI) 的出現比我們想象的更加迫近。

馬斯克在2023年世界政府峰會上談及ChatGPT，認為短期內人們需要警惕人工智能的安全問題，并呼吁對人工智能進行監管。

“我擔心的是，對于人工智能來說，如果它出了問題，從監管的角度來看，反應可能太慢了。我想說，未來文明面臨的最大風險之一是人工智能。”

但人工智能既有消極的一面，也有積極的一面。

”它前途無量，力量強大，但也伴隨著巨大的危險。看看核物理學的發現，我們可以得到核能發電，但是它也帶來了核彈。”

”總之，我認為我們應該深切關注這個問題，我們應該對從根本上對公眾構成風險的事情進行某種監管。”馬斯克表示。

寫在最后

從 ChatGPT3、ChatGPT4，再到文心一言，AI幾乎正在呈指數級速度發展發展，處于人工智能時代的颶風中，未來人類又應該何去何從......

金色財經 善歐巴

金色早8點

白話區塊鏈

歐科云鏈

Odaily星球日報

Arcane Labs

MarsBit

深潮TechFlow

BTCStudy

鏈得得

Tags：人工智能FTXCHACON人工智能chatGPT下載BAKC Vault (NFTX)blockchain錢包安卓版ECON幣

FIL幣