OpenAI 創始人 Sam Altman 發文：讓通用人工智能（AGI）成為人類的放大器_AGI

前言：OpenAI創始人SamAltman近日發文闡述了通用人工智能的短期和長期愿景。他認為通用人工智能將造福全人類，賦予每個人不可思議的新能力，但同時也伴隨著風險。我們的使命是確保通用人工智能——通常比人類更聰明的人工智能系統——造福全人類。

如果AGI成功創建，這項技術可以通過增加豐富度、推動全球經濟發展以及幫助發現改變可能性極限的新科學知識來幫助我們提升人類。

AGI有潛力賦予每個人不可思議的新能力；我們可以想象這樣一個世界，在這個世界中，我們所有人都可以獲得幾乎所有認知任務的幫助，為人類的聰明才智和創造力提供巨大的力量倍增器。

另一方面，AGI也會帶來嚴重的濫用、嚴重事故和社會混亂的風險。由于AGI的優勢如此之大，我們不認為社會能夠永遠阻止其發展，同時這樣做也是不可取的；相反，整個社會和AGI的開發者必須想辦法把它做好。

安全團隊：dForcenet合約遭受攻擊，總損失約370萬美元:金色財經報道，據區塊鏈安全審計公司Beosin旗下平臺監測顯示，dForcenet合約，分別在Optimism 和 Arbitrum兩條L2鏈上遭到了攻擊。兩條鏈上總損失約370萬美元。據Beosin安全技術人員分析，原因為項目方外部接口curve的使用方式不當，未考慮重入風險，影響了Oracle的價格，攻擊者在價格被操縱的情況下清算頭寸獲取利潤。

在Arbitrum上的攻擊交易獲利719,437枚dForce USD （USX） 和 1236 枚 ETH（約195萬美元）。ETH還留在Arbitrum鏈上的地址上，USX通過跨鏈橋轉移到Optimism鏈上。在Optimism鏈上的攻擊交易獲利1,037,000 USX，最后所有的USX被兌換成了1110 枚ETH（約175萬美元）。ETH還留在Optimism鏈上的地址上。[2023/2/10 11:59:11]

雖然我們無法準確預測會發生什么，當然我們目前的進展可能會碰壁，但我們可以闡明我們最關心的原則：

以色列法院裁定政府可以沒收哈馬斯有關數字錢包中的所有加密資產:12月19日消息，據以色列當地媒體報道，以色列國防部長Benny Gantz透露，12月15日，特拉維夫地方法院發布一項裁決允許當局從與伊斯蘭激進組織哈馬斯有關的數字錢包中再沒收33500美元。

在裁定之前，以色列政府僅被允許扣押與恐怖活動有直接聯系的數字資產，但不能扣押同一錢包中的額外資金。2021年12月，以色列政府從其錢包中沒收了75萬美元。[2022/12/19 21:53:41]

我們希望AGI能夠賦予人類在宇宙中最大程度地繁榮發展的能力。我們不希望未來成為一個不合格的烏托邦，但我們希望將好的一面最大化，將壞的一面最小化，讓AGI成為人類的放大器。我們希望AGI的好處、獲取和治理得到廣泛和公平的分享。我們希望成功應對巨大風險。在面對這些風險時，我們承認理論上似乎正確的事情在實踐中往往比預期的更奇怪。我們認為，我們必須通過部署功能較弱的技術版本來不斷學習和適應，以最大程度地減少“一次就可以搞定”的情況。短期愿景

Binance Custody完成SOC 2 Type 1和SOC 2 Type 2認證:12月4日消息，據官方推特，Binance Custody已完成SOC 2 Type 1和SOC 2 Type 2認證，包括ISO 27001和ISO 27701認證、以及平臺上進行的外部滲透測試也已經全部通過，本次認證由第三方公司審計。

據悉，SOC（System and Organization Controls）標準是美國注冊會計師協會（AICPA）制定的行業服務標準，包含SOC1、SOC2、SOC3三種形式，其中SOC2是一項專門針對服務高安全性、高保密性、高可用性的鑒證標準，是全球公認的、高度權威的、專業的安全性審計報告。Binance Custody表示，未來將每年接受這些安全和風險管理檢查，以維護這些標準并確保機構可以繼續安全地參與數字資產經濟。[2022/12/4 21:21:41]

我們認為現在有幾件事很重要，可以為AGI做準備。

近期做空者對Coinbase、MicroStrategy的做空興趣持續增漲:7月6日消息，越來越多賣空者開始關注MicroStrategy、Coinbase、以及Marathon和RiotBlockchain等大量比特幣礦業股。根據相關空頭興趣數據顯示，自5月31日以來，賣空者對Coinbase的空頭興趣增加了15%、Marathon增加21%、Block為8%、特斯拉為3%。

另據數據公司quantX數顯示，擁有最大比特幣儲備的上市公司MicroStrategy空頭興趣增長近7%，其中超過43%的流通股被做空，但該公司創始人Maher表示，做空MicroStrategy在某個時候會變得有風險，目前做空加密股票已經很危險，因為回補時間（平倉所需的天數）似乎已經顯著增加。（Blockworks）[2022/7/6 1:53:33]

首先，隨著我們不斷創建更強大的系統，我們希望部署它們并獲得在現實世界中操作它們的經驗。我們相信這是謹慎管理AGI存在的最佳方式——逐漸過渡到AGI世界比突然過渡要好。我們期望強大的AI能夠加快世界進步的速度，我們認為最好是逐步適應這一點。

外媒：Terra崩潰的罪魁禍首“錢包A”是Terraform Labs的錢包:6月14日消息，區塊鏈安全公司Uppsala Security和CoinDesk Korea對TerraUSD攻擊者錢包（0x8d47f08ebc5554504742f547eb721a43d4947d0a）“錢包A”的交易歷史進行了深入分析。推斷給算法Stablecoin Terra USD（UST）造成致命打擊的攻擊者錢包是TerraformLabs管理的錢包。表明造成數十萬億韓元投資者損失的Terra崩盤事件不是外部攻擊，而是內部所為。據悉，正在調查Terra事件的韓國檢察機關也確認了這種情況，并正在繼續深入調查。（CoinDesk Korea）[2022/6/14 4:26:12]

漸進的過渡讓民眾、政策制定者和機構有時間了解正在發生的事情，親身體驗這些系統的好處和缺點，調整我們的經濟，并實施監管。它還允許社會和AI共同進化，并允許人們在風險相對較低的情況下共同弄清楚他們想要什么。

我們目前認為，成功應對AI部署挑戰的最佳方法是采用快速學習和謹慎迭代的緊密反饋循環。社會將面臨AI系統被允許做什么、如何消除偏見、如何處理工作崗位流失等重大問題。最佳決策將取決于技術所采用的路徑，并且與任何新領域一樣，到目前為止，大多數專家預測都是錯誤的。這使得在真空中進行規劃非常困難。

一般來說，我們認為在世界上更多地使用AI會帶來好處，并希望推廣它。我們相信，民主化的訪問也將導致更多更好的研究、去中心化的權力、更多的利益以及更多的人貢獻新的想法。

隨著我們的系統越來越接近AGI，我們對模型的創建和部署變得越來越謹慎。我們的決定將需要比社會通常對新技術應用的謹慎得多，也比許多用戶希望的謹慎得多。AI領域的一些人認為AGI的風險是虛構的；如果結果證明他們是對的，我們會很高興，但我們將把這些風險視為真實存在。

在某些時候，部署的利弊之間的平衡可能會發生變化，在這種情況下，我們將圍繞持續部署顯著改變我們的計劃。

其次，我們正在努力創建更加一致和可控的模型。我們從GPT-3的第一個版本等模型到InstructGPT和ChatGPT的轉變就是一個早期的例子。

特別是，我們認為重要的是社會就如何使用AI達成極其廣泛的界限，但在這些界限內，個人用戶有很大的自由裁量權。我們最終的希望是世界機構就這些廣泛的界限應該是什么達成一致；在短期內，我們計劃對外部輸入進行實驗。世界上的機構將需要通過額外的能力和經驗得到加強，以便為有關AGI的復雜決策做好準備。

我們產品的“默認設置”可能會受到很大限制，但我們計劃讓用戶可以輕松更改他們正在使用的AI的行為。我們相信賦予個人做出自己的決定的權力和思想多樣性的內在力量。

隨著我們的模型變得更加強大，我們將需要開發新的對齊技術。我們的短期計劃是使用AI來幫助人類評估更復雜模型的輸出并監控復雜系統，而從長遠來看，使用AI來幫助我們提出新的想法以實現更好的對齊技術。

重要的是，我們認為我們經常需要在AI安全和能力方面共同取得進展。分開談論它們是錯誤的二分法。它們在很多方面是相關的。我們最好的安全工作來自與我們最有能力的模型一起運行。也就是說，提高安全進步與能力進步的比率很重要。

第三，我們希望就三個關鍵問題展開全球對話：如何治理這些系統，如何公平分配它們產生的收益，以及如何公平共享訪問權限。

除了這三個領域之外，我們還嘗試以一種使我們的激勵措施與良好結果相一致的方式來建立我們的結構。我們的章程中有一個條款是關于協助其他組織提高安全性，而不是在后期AGI開發中與他們競爭。我們對股東可以獲得的回報設定了上限，這樣我們就不會被激勵去嘗試無限制地獲取價值，也不會冒險部署具有潛在災難性危險的東西。我們有一個非營利組織來管理我們，讓我們為人類的利益而經營，包括讓我們做一些事情，比如在安全需要的情況下取消我們對股東的股權義務，并贊助世界上最全面的UBI實驗。

我們認為像我們這樣的努力在發布新系統之前提交獨立審計是很重要的；我們將在今年晚些時候更詳細地討論這個問題。在某些時候，在開始訓練未來系統之前獲得獨立審查可能很重要，并且對于最先進的努力來說，同意限制用于創建新模型的計算增長率。我們認為關于AGI工作何時應停止訓練運行、確定模型可以安全發布或從生產使用中撤出模型的公共標準很重要。最后，我們認為重要的是世界主要政府對超過一定規模的培訓有洞察力。

長期愿景

我們認為，人類的未來應該由人類決定，與公眾分享有關進步的信息很重要。應該對所有試圖建立AGI的努力進行嚴格審查，并對重大決策進行公眾咨詢。

第一代AGI將只是智能連續體上的一個點。我們認為進展很可能會從那里繼續，可能會在很長一段時間內保持我們在過去十年中看到的進展速度。如果這是真的，世界可能會變得與今天截然不同，風險可能會非常大。一個錯位的超級智能AGI可能會對世界造成嚴重的傷害；一個擁有決定性超級情報領導的專制政權也可以做到這一點。

可以加速科學發展的AI是一個值得思考的特例，也許比其他任何事情都更有影響力。有足夠能力加速自身進步的AGI可能會導致重大變化以驚人的速度發生。我們認為較慢的起飛更容易確保安全，并且AGI努力在關鍵時刻減速可能很重要。

成功過渡到一個擁有超級智能的世界可能是人類歷史上最重要、最有希望、最可怕的項目。成功遠未得到保證，而利害關系有望將我們所有人團結起來。

我們可以想象一個人類繁榮到我們任何人都無法完全想象的程度的世界。我們希望為世界貢獻一個與這種繁榮相一致的通用人工智能。

感謝BrianChesky、PaulChristiano、JackClark、HoldenKarnofsky、TashaMcCauley、NateSoares、KevinScott、BradSmith、HelenToner、AllanDafoe和OpenAI團隊審閱本文的草稿。

Tags：AGISOCTerraTERmagic幣發行量SocialAITerraNovaBlockster

XLM