比特幣交易所 比特幣交易所
Ctrl+D 比特幣交易所
ads

OpenAI官方解讀ChatGPT插件:語言模型的“眼睛和耳朵”_CHAT

Author:

Time:1900/1/1 0:00:00

作者:OpenAI官方;翻譯:金色財經 & ChatGPT

根據我們的迭代部署理念,我們正在逐步推出ChatGPT插件,以便我們可以研究它們在現實世界中的使用、影響以及安全和協調方面的挑戰——所有這些我們都必須做好,才能實現我們的使命.

自從我們推出 ChatGPT 以來,用戶一直要求插件(許多開發人員正在嘗試類似的想法),因為它們可以解鎖大量可能的用例。我們從一小部分用戶開始,并計劃隨著我們了解更多(對于插件開發人員、ChatGPT 用戶,以及在 alpha 期之后,希望將插件集成到他們的產品中的 API 用戶)逐步推出更大規模的訪問。 我們很高興能夠建立一個塑造人機交互范式未來的社區。

被邀請的插件開發人員可以使用我們的文檔為 ChatGPT 構建插件,然后在向語言模型顯示的提示中列出已啟用的插件以及指導模型如何使用每個插件的文檔。第一批插件由Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram和Zapier創建。

我們自己也開發了兩個插件,一個網絡瀏覽器和代碼解釋器。我們還開源了知識庫檢索插件的代碼,任何開發人員都可以自行托管他們想要用來增強ChatGPT的信息。

今天,我們將開始將插件alpha訪問權限擴展到候補名單中的用戶和開發人員。雖然我們最初會優先考慮少數開發人員和 ChatGPT Plus 用戶,但我們計劃隨著時間的推移推出更大規模的訪問。

OpenAI發文介紹保障AI安全的方法:金色財經報道,ChatGPT 研發者 OpenAI 在其官方博客中發布了題為《Our approach to AI safety》(《我們保障 AI 安全的方法》)的文章,介紹了該公司確保 AI 模型安全性的部署。該文章介紹了六個方面的部署,一是構建越來越安全的 AI 系統,二是從實際使用中積累經驗以改善安全措施,三是保護兒童,四是尊重隱私,五是提高事實準確性,六是持續研究和參與。

該文章介紹,OpenAI 要求用戶必須年滿 18 周歲,或年滿 13 周歲經父母批準,才能使用其 AI 工具,該公司正在研究驗證選項。OpenAI 不允許其技術用于生成仇恨、騷擾、暴力或成人類別的內容,并阻止兒童性虐待等材料上傳到其圖片工具中等。[2023/4/6 13:47:56]

如何使用ChatGPT插件的示例

今天的語言模型雖然對各種任務有用,但仍然有限。他們可以從中學習的唯一信息是他們的訓練數據。此信息可能已過時,并且適用于所有應用程序。此外,語言模型唯一可以開箱即用的就是發出文本。此文本可能包含有用的說明,但要真正遵循這些說明,需要另一個過程。

雖然不是一個完美的類比,但插件可以成為語言模型的“眼睛和耳朵”,使它們能夠訪問太新、太私人或太具體而無法包含在訓練數據中的信息。為了響應用戶的明確請求,插件還可以使語言模型代表他們執行安全、受限的操作,從而提高整個系統的實用性。

我們預計開放標準將會出現,以統一應用程序接入AI 界面的方式。我們正在對這樣一個標準的外觀進行早期嘗試,我們正在尋找有興趣與我們一起構建的開發人員的反饋。

今天,我們開始逐步為 ChatGPT 用戶啟用早期合作者的現有插件,首先是 ChatGPT Plus 訂閱者。我們還開始推出開發人員為 ChatGPT 創建自己的插件的能力。

OpenSea已正式推出NFT稀有度開放標準OpenRarity:9月22日消息,OpenSea已正式推出NFT稀有度開放標準OpenRarity,用戶已可在NFT項目Cool Cats、Pudgy Penguins、Moonbirds系列中進行查看,創作者現在可以通過導航到他們的設置頁面將他們的NFT選擇加入OpenRarity。

注,OpenRarity是OpenSea與NFT分析工具Curio、NFT分析平臺icy.tools、Moonbirds母公司PROOF合作開發的NFT稀有度開放標準,旨在提供一個透明的、數學上合理的開源稀有度計算,提高NFT稀有度排名的透明度,開發者可以通過API訪問OpenRarity分數和排名。[2022/9/22 7:12:51]

在接下來的幾個月里,隨著我們從部署中學習并繼續改進我們的安全系統,我們將迭代這個協議,我們計劃讓使用 OpenAI 模型的開發人員能夠將插件集成到他們自己的應用程序中,而不是 ChatGPT。

將語言模型連接到外部工具會帶來新的機會,同時也會帶來重大的新 風險。

插件提供了解決與大型語言模型相關的各種挑戰的潛力,包括“幻覺”,跟上最近的事件,以及訪問(經許可的)專有信息源。通過集成對外部數據的顯式訪問——例如在線最新信息、基于代碼的計算或自定義插件檢索信息——語言模型可以通過基于證據的參考來加強它們的響應。

這些參考資料不僅增強了模型的實用性,還使用戶能夠評估模型輸出的可信度并仔細檢查其準確性,從而有可能減輕與我們最近的 GPT-4 系統卡片中討論的過度依賴相關的風險。最后,插件的價值可能遠遠超出通過幫助用戶處理各種新用例(從瀏覽產品目錄到預訂航班或訂購食物)的現有限制。

NBA 發展聯盟球隊Grand Rapids Drive將通過OpenNode 支持門票、商品等的比特幣支付:官方消息,NBA 發展聯盟球隊 Grand Rapids Drive 將通過比特幣支付解決方案 OpenNode 支持門票、商品等的比特幣支付,OpenNode 表示,未來希望在密歇根州以及 NBA 發展聯盟中推廣比特幣的使用。Grand Rapids Drive 目前是 NBA 發展聯盟中僅有的兩家支持加密貨幣支付的球隊之一。[2021/6/21 23:52:13]

與此同時,插件可能會采取有害或無意的行動,增加不法分子欺詐、誤導或虐待他人的能力,從而增加安全挑戰。通過增加可能的應用范圍,插件可能會增加因模型在新領域中采取的錯誤或錯誤協調操作而產生負面后果的風險。從第一天起,這些因素就指導了我們插件平臺的開發,我們實施了多項保障措施。

從第一天起,這些因素就指導了我們插件平臺的開發,我們實施了多項保障措施。

我們已經在內部和與外部合作者進行了紅隊演練,揭示了許多可能的相關場景。例如,我們的紅隊發現了插件的方法——如果在沒有安全措施的情況下發布——執行復雜的提示注入、發送欺詐和垃圾郵件、繞過安全限制或濫用發送到插件的信息。我們正在使用這些發現來通知安全設計緩解措施,這些緩解措施限制了有風險的插件行為,并提高了它們作為用戶體驗的一部分運行的方式和時間的透明度。我們還使用這些發現來告知我們逐步部署對插件的訪問的決定。

如果你是一名研究人員,有興趣研究該領域的安全風險或緩解措施,我們鼓勵你使用我們的研究人員訪問計劃。我們還邀請開發人員和研究人員提交與插件相關的安全和功能評估,作為我們最近開源的Evals 框架的一部分。

插件可能會產生廣泛的社會影響。例如,我們最近發布了一份工作論文,其中發現能夠使用工具的語言模型可能比沒有工具的語言模型產生更大的經濟影響,更普遍地說,根據其他 研究人員的發現,我們預計當前的人工智能技術浪潮將對工作轉變、替代和創造的速度有很大影響。我們渴望與外部研究人員和我們的客戶合作研究這些影響。

Open DeFi聯盟公布首批新成員:Open DeFi聯盟迎來首批新成員:Aave,Balancer,BlockScience,dydx,Ocean Protocol,Outlier Ventures,Quantstamp和SuperRare。該聯盟目前已有16名成員,其中4個為鎖定資產全球排名前20的DeFi項目。Open DeFi聯盟初始成員包括紅杉資本、Blockpower Capital、dForce、MCDEX、Antelope Holdings、DeBank、MoonSwap以及Conflux。

Aave創始人兼首席執行官Stani Kulechov感謝了Open DeFi聯盟對DeFi“無國界精神”的支持,并表示,作為聯盟一員,他為能夠合作構建金融工具和基礎設施而感到興奮。

dYdX商務發展經理David Gogel看到了中國市場所帶來的機會,認為:“中國市場在全球DeFi生態系統中發揮著重要作用,并且是促成全球DeFi生態系統成功的關鍵。中國龐大的用戶群將為全球市場帶來更多流動性、引入更多用戶和更多創新,從而催生出全球DeFi生態系統的增長潛力。”[2020/11/10 12:14:15]

一個知道何時以及如何瀏覽互聯網的實驗模型

受過去工作(我們自己的WebGPT,以及GopherCite,BlenderBot2,LaMDA2和其他)的啟發,允許語言模型從互聯網上讀取信息嚴格擴展了他們可以討論的內容量,超越了訓練語料庫的新鮮信息。

這是向 ChatGPT 用戶開放瀏覽體驗的一個例子,以前會讓模型禮貌地指出它的訓練數據沒有包含足夠的信息來讓它回答。在這個示例中,ChatGPT 檢索有關最新奧斯卡頒獎典禮的最新信息,然后執行現在熟悉的 ChatGPT 操作,這是瀏覽可以成為一種附加體驗的一種方式。

動態 | Particl Open Marketplace Alpha V2.0版本已發布:據Part項目官方消息,Part現已在Github發布Particl Open Marketplace Alpha V2.0版本。[2019/3/11]

ChatGPT瀏覽插件演示

除了為最終用戶提供明顯的實用性之外,我們認為使語言和聊天模型能夠進行徹底和可解釋的研究具有可擴展對齊的令人興奮的前景。

瀏覽最新信息

安全考慮

我們已經創建了一個網絡瀏覽插件,它可以讓語言模型訪問網絡瀏覽器,其設計將安全性和作為網絡良好公民的操作放在首位。該插件的基于文本的 Web 瀏覽器僅限于發出 GET 請求,這減少(但不會消除)某些類別的安全風險。這將瀏覽插件的范圍限定為可用于檢索信息,但不包括“事務性”操作,例如表單提交,這些操作具有更大的安全性和安全性問題。

瀏覽插件使用bing搜索 API 從 Web 檢索內容。因此,我們繼承了 Microsoft 在 (1) 信息來源可靠性和真實性以及 (2) 防止檢索有問題內容的“安全模式”方面的大量工作。該插件在一個獨立的服務中運行,因此 ChatGPT 的瀏覽活動與我們基礎設施的其余部分是分開的。

為了尊重內容創作者并遵守網絡規范,我們的瀏覽器插件的用戶代理令牌是ChatGPT-User,并配置為尊重網站的 robots.txt 文件。這可能偶爾會導致“點擊失敗”消息,這表明該插件正在遵守網站的指示以避免對其進行抓取。此用戶代理將僅用于代表 ChatGPT 用戶采取直接操作,而不用于以任何自動方式抓取網絡。我們還發布了IP 出口范圍。此外,已實施限速措施以避免向網站發送過多流量。

您可以使用 robots.txt 文件阻止 ChatGPT 抓取你的網站,當發生這種情況時,ChatGPT 將顯示此錯誤消息。

我們的瀏覽插件顯示訪問過的網站,并在 ChatGPT 的回復中引用其來源。這種增加的透明度層有助于用戶驗證模型響應的準確性,并回饋內容創建者。我們贊賞這是一種與網絡交互的新方法,并歡迎就其他方法將流量拉回來源并增加生態系統的整體健康狀況提供反饋。

一個可以使用 Python 處理上傳和下載的實驗性 ChatGPT 模型

我們為我們的模型提供了一個在 沙盒、防火墻執行環境中工作的 Python 解釋器,以及一些臨時磁盤空間。由我們的解釋器插件運行的代碼在一個持久會話中進行評估,該會話在聊天對話期間一直有效(具有上限超時),后續調用可以相互構建。我們支持將文件上傳到當前對話工作區并下載您的工作結果。

執行邏輯計算的代碼解釋器插件

我們希望我們的模型能夠使用它們的編程 技能為我們計算機的最基本功能提供更自然的接口。接觸到以指尖的速度工作的非常熱心的初級程序員可以使全新的工作流程變得輕松高效,并向新的受眾開放編程的好處。

從我們最初的用戶研究中,我們確定了使用代碼解釋器特別有用的用例:

解決定量和定性的數學問題

進行數據分析和可視化

在格式之間轉換文件

我們邀請用戶嘗試代碼解釋器集成并發現其他有用的任務。

ChatGPT解釋器插件演示

將我們的模型連接到編程語言解釋器的主要考慮因素是對 執行進行適當的沙盒處理,以便 AI 生成的代碼不會在現實世界中產生意外的副作用。我們在安全環境中執行代碼,并使用嚴格的網絡控制來防止外部互聯網訪問執行代碼。此外,我們對每個會話都設置了資源限制。禁用互聯網訪問限制了我們代碼沙箱的功能,但我們相信這是正確的初始權衡。第三方插件被設計為將我們的模型連接到外部世界的安全第一方法。

開源檢索插件使 ChatGPT 能夠訪問個人或組織信息源(經許可的)。它允許用戶通過提問或用自然語言表達需求,從他們的數據源中獲取最相關的文檔片段,例如文件、筆記、電子郵件或公共文檔。

作為一個開源和自托管的解決方案,開發人員可以部署他們自己的插件版本并在 ChatGPT 上注冊。該插件利用OpenAI 嵌入并允許開發人員選擇矢量數據庫(Milvus、Pinecone、Qdrant、Redis、Weaviate或Zilliz)來索引和搜索文檔。信息源可以使用 webhooks 與數據庫同步。

首先,訪問檢索插件存儲庫。

ChatGPT檢索插件演示

檢索插件允許 ChatGPT 搜索內容矢量數據庫,并將最佳結果添加到 ChatGPT 會話中。這意味著它沒有任何外部影響,主要風險是數據授權和隱私。開發人員應該只將他們有權使用的內容添加到他們的檢索插件中,并且可以在用戶的 ChatGPT 會話中共享。

一個知道何時以及如何使用插件的實驗模型

ChatGPT中的第三方插件

第三方插件由清單文件描述,其中包括插件功能的機器可讀描述以及如何調用它們,以及面向用戶的文檔。

示例:用于管理todo事項的插件的清單文件

創建插件的步驟是:

使用您希望語言模型調用的端點構建 API(這可以是新的 API、現有的 API 或圍繞專門為 LLM 設計的現有 API 的包裝器)。

創建一個記錄您的 API 的 OpenAPI 規范,以及一個鏈接到 OpenAPI 規范并包含一些特定于插件的元數據的清單文件。

在chat.openai.com上開始對話時,用戶可以選擇他們想要啟用的第三方插件。有關已啟用插件的文檔作為對話上下文的一部分顯示給語言模型,使模型能夠根據需要調用適當的插件 API 來實現用戶意圖。目前,插件是為調用后端 API 而設計的,但我們正在探索也可以調用客戶端 API 的插件。

ChatGPT第三方插件演示

ChatGPT 插件開發者體驗

我們正在努力開發插件并將它們帶給更廣泛的受眾。我們有很多東西要學,在大家的幫助下,我們希望構建一些既有用又安全的東西。

文章來源:https://openai.com/blog/chatgpt-plugins

金色財經 善歐巴

金色早8點

白話區塊鏈

Odaily星球日報

MarsBit

歐科云鏈

深潮TechFlow

Arcane Labs

BTCStudy

Tags:GPTHATCHATCHAAIGPT人工智能chatGPTchatcoin幣未來價值Chain

比特幣價格今日行情
ETHDenver大佬們詳解“賬戶抽象”的未來:如何吸引下一個10億用戶?_WEB

原文:《‘Account abstraction’ supercharges Ethereum wallets: Dummies guide》by Andrew Fenton 編譯:Katie.

1900/1/1 0:00:00
Web3.0古典音樂平臺KOLO.Market完成首輪股權融資_WEB

庫客音樂控股有限公司(以下簡稱“庫客”“庫客音樂”)(紐約證券交易所:KUKE),中國領先的古典音樂服務平臺,擁有約300萬首音頻和視頻音樂曲目.

1900/1/1 0:00:00
AIGC 行業專題報告:從 AI 技術演進看 AIGC_AIG

來源:未來智庫 AI(人工智能):第四次生產力革命AI(Artificial Intelligence):1952 年.

1900/1/1 0:00:00
Arbitrum空投的熱潮之下 如何看反女巫機制?_ARBI

近期,以太坊Layer 2 擴展協議Arbitrum 空投成為了加密貨幣社區熱議的當紅話題。鏈上數據顯示,Arbitrum在3月22日的交易數超121萬筆,創歷史新高,同時超過以太坊主網的108.

1900/1/1 0:00:00
梳理三大ZK系Layer2交互策略:zkSync、StarkNet及Scroll_TPS

受Arbitrum「撒錢」刺激,業界的空投熱情再次被點燃,而ZK Rollup系 Layer2 們則成為了所有羊毛黨們關注的焦點.

1900/1/1 0:00:00
AC Capital Panel:新興潛力賽道—全鏈游戲FOCG玩法初探_DAC

X to earn模式的Gamefi已經成為過去式,Gamefi行業在探索新的敘事和增長點,全鏈游戲概念悄然升起,由于其免許可、可互操作、可組合性備受青睞,也可以和其他 DeFi、NFT.

1900/1/1 0:00:00
ads