ChatGPT爆重大漏洞：可能泄露1.2%用戶數據 AI安全引人震驚_NAI

美國時間3月25日，OpenAI官方發布了3月20日ChatGPT臨時中斷服務的調查報告，并表示有1.2%的ChatGPT Plus用戶可能數據被泄露。

根據OpenAI官網公告表示，3月20日以前，一個名為Redis-py的開源庫中的錯誤造成了緩存問題，該問題會導致用戶可能看到其他人聊天記錄的片段，甚至會向一些活躍用戶顯示其他用戶信用卡的最后四位數字、到期日期、姓名、電子郵件地址和付款地址。

本來可能還只是零星的用戶出現該類BUG，但令人神經大條的是，在20號早上，OpenAI在對服務器進行更改的時候出現失誤，導致Redis請求取消激增，問題進一步的加劇，所以出現了這個“1.2%”的可能。

根據OpenAI官方的說法，有兩種可能會使這些信息被暴露：

Offchain Labs已為編程環境Stylus編寫完整、有效的欺詐證明程序:5月25日消息，Arbitrum開發團隊Offchain Labs宣布已為下一代編程環境Stylus編寫了一個完整的、有效的欺詐證明程序，Stylus允許用戶部署以他們最喜歡的編程語言編寫的合約，包括Rust、C、C++等，此外還利用Nitro在WASM中為Stylus合約加強了安全性，擴大EVM+支持，Stylus預計將在今年接受審核并準備好投入生產。[2023/5/25 10:38:34]

1. 在特定時間內的付款確認郵件，可能會發給了一些錯誤的用戶，這些郵件上包含信用卡的后四位數字。

2. 在特定時間內，點擊“我的賬戶”-“管理我的訂閱”，可能會導致另一個活躍用戶的姓名、電子郵箱、付款地址、信用卡后四位被泄露。

OpenAI表示，目前已經聯系了這些可能已經泄露信息的用戶。

ChatGPT金融業應用首批研究成果可解讀美聯儲聲明、預測股價:金色財經報道，Man AHL機器學習在4月發表了兩篇新論文——《ChatGPT能否解讀美聯儲表態？》和《ChatGPT可以預測股價走勢嗎？回報可預測性和大型語言模型》，將這一人工智能聊天機器人應用于市場相關的任務，一項是解讀美聯儲的聲明是鷹派還是鴿派，另一項是確定消息面對某只股票而言是利好還是利空。ChatGPT在兩項測試中都取得了出色的成績，暗示該技術在將新聞報道、推文和演講稿等大量文字轉化為交易信號方面，可能邁出了重大一步。（新浪財經）[2023/4/18 14:09:37]

網址：https://openai.com/blog/march-20-chatgpt-outage（網頁自動翻譯，或不準確）

為了防止此類事情再次發生，OpenAI也在博文里說明了他們已經采取的行動：添加“冗余檢查”以確保提供的數據與用戶匹配；改進修復了其Redis集群在高負載下吐出錯誤的可能性......而且還強調他們的Redis開源維護者一直是出色的合作者。

Fei Labs：“使用Chainlink作為主要ETH/USD預言機”的提案已提交，投票即將開啟:去中心化穩定幣項目Fei Protocol開發團隊Fei Labs發推稱，有關“決定使用Chainlink作為主要ETH/USD預言機”的快照投票已經確認了社區支持，提案已經作為FIP-8提交給DAO，投票將在太平洋時間今晚10點（北京時間6月17日13時）進行。[2021/6/16 23:40:26]

雖然問題已經解決，但還是有大量的網民們依舊質疑OpenAI的安全性，還有網民詢問，為什么不能用GPT4檢查代碼上的錯誤。

CRO主網Crypto.org Chain已上線:官方消息，Crypto.com表示，CRO主網Crypto.org Chain已上線。[2021/3/25 19:17:01]

可能是為了安撫ChatGPT用戶的心緒，OpenAI CEO Sam Altman在當天立刻接受了媒體專訪。雖然只字未提此次用戶數據泄露事件，卻多次強調“AI安全”。

他提到了以下四點：

1.人工智能語言模型（如 GPT）的開發和改進需要一個包含公眾反饋的迭代過程，專注于解決偏見，并考慮 AI 安全性和一致性。

2.人工智能的進步，特別是GPT技術的進步，正在改變編程的性質，需要仔細考慮人工智能的安全性、語言輸出的監控和解決偏見。

Rose Chen：鏈上ChainUP WaaS聯盟 打造區塊鏈底層金融設施:1月7日下午5點，58學院AMA《打造區塊鏈底層金融設施》邀請到了鏈上ChainUP WaaS聯盟合伙人Rose Chen做客直播間。Rose Chen表示，鏈上ChainUP WaaS聯盟旨在打造區塊鏈底層金融設施，目前已有超過500家企業加入鏈上ChainUP WaaS聯盟，企業成員業務涵蓋錢包、交易所、OTC、資管、量化、礦池、媒體、項目方等，這些聯盟成員將資金托管在鏈上ChainUP WaaS系統中，不僅可以保障資金安全，還可以在內部進行無摩擦的價值轉移，實現多方合作和資源共享。鏈上ChainUP WaaS聯盟體系正在形成一個0成本、即時的區塊鏈底層清結算網絡，也將吸引更多優質企業參與者，最終賦能每一位聯盟企業成員，打造行業上下游協同效應，共建區塊鏈安全產業生態。[2021/1/7 16:40:06]

3.人工智能的發展，特別是神經網絡，有可能超越人類智能，大大提高生活質量，但也帶來了重大的風險和挑戰，必須通過不斷研究和開發人工智能安全性和一致性來解決。

4.OpenAI是一家營利性公司，致力于強大的AI技術，同時對安全問題保持透明。

OpenAI CTO Mira Murati也在其官網上發出自己的觀點，“人工智能系統正在成為日常生活的一部分。關鍵是要確保這些機器符合人類的意圖和價值觀。”而如今，他們一手創造的ChatGPT正在挑戰著他們所給到公眾的承諾。

隨著人類工作生活使用人工智能的頻次越來越高，AI安全問題也應該成為我們在當下及未來相當長一段時間應該重視的問題，AI技術不能只考慮跑得快，還要考慮不翻車。

根據openAI官方解釋，這是由于緩存問題導致用戶信息泄漏，然而這種錯誤，在互聯網行業中，并不是第一起。

早在2015年的圣誕節，Steam也因為緩存問題，使34000名左右用戶的個人信息被泄露。OpenAI投入巨量的精力和金錢在AI的潛在安全的研究上，卻被一個常見的老問題給絆倒。雖說“成大事者，不拘小節”，但“天下難事，必作于易；天下大事，必作于細。”希望未來OpenAI不會再出現此類的問題了。

我們詢問了GPT-4，AI安全問題應該如何解決，它回答道：

在人工智能（AI）領域，確保安全性是至關重要的。以下是一些建議和方法，以解決AI安全問題：

可解釋性和透明度：AI系統的設計應具備可解釋性，以便研究人員、用戶和監管機構理解其決策過程。提高透明度有助于確保AI系統的行為符合預期，便于發現潛在的安全隱患。

數據安全和隱私：AI系統通常需要大量數據進行訓練。保護這些數據的隱私和安全至關重要。采用加密、數據脫敏和差分隱私等技術，以確保數據在處理、傳輸和存儲過程中得到保護。

魯棒性和抗攻擊能力：AI系統應具備對抗對手的能力，包括識別和抵御對抗性攻擊、欺騙性輸入等。研究魯棒性訓練方法，提高系統的抗干擾能力。

可審計性：建立可審計的AI系統，以記錄關鍵決策過程。這將有助于追蹤潛在問題、確保合規性，并為未來糾正錯誤和不當行為提供依據。

倫理與法規遵循：確保AI系統符合倫理原則和法律法規，遵循公平、透明、可解釋等原則。研究AI倫理，制定相應的政策和指導方針。

持續監控和更新：隨著技術的進步和新的安全威脅的出現，需要不斷監控和更新AI系統，以確保其安全性和有效性。

多學科合作：鼓勵不同領域的研究人員、政策制定者、企業家和公眾共同參與AI安全問題的討論。跨學科合作將有助于制定更全面的安全策略。

開放研究和分享：開展開放、合作的研究，分享AI安全相關的知識、技術和最佳實踐。這將有助于整個AI領域在安全問題上取得進展。

通過積極采納這些措施和方法，我們可以降低AI領域的安全風險，推動人工智能的健康、可持續發展。

希望OpenAI在內的人工智能公司，都能為保障AI安全而多上心、多出力，AI行業才能夠更加健康地發展。

作者：鹿人 蒹葭 ChatGPT 排版：鹿人

金色財經 善歐巴

金色早8點

白話區塊鏈

Odaily星球日報

深潮TechFlow

歐科云鏈

Arcane Labs

MarsBit

BTCStudy

Tags：CHANAIOPENPENHealth Data ChainOPENAIERCOpengagaOpenSwap

DOGE