從chatGPT問世至今,AI就在以月為單位飛速進化著,其模型之多,迭代之快,讓很多人不不禁驚覺:人類似乎真的站在了AGI大門的邊緣。
而最近,美國專利商標局(USPTO)披露的一份文件顯示:OpenAI于7月18日提交了「GPT-5」的商標申請。并且已經被接收。
USPTO文件截圖
盡管在今年上半年,各個AI專家、學者已經多次聯合發表公開信,呼吁人們重視生成式AI的潛在風險,而OpenAI當時也宣布短期內不會有訓練GPT-5的計劃。
然而,科技的誘惑,終究還是讓人類打破了禁忌的邊界。
在這次披露的申請書中,OpenAI提到,尚未發布的GPT-5將具備眾多GPT-4所沒有的能力,而且幾乎每一項都劍指AGI。
USPTO文件截圖
那么,這樣的改變,對AI和人類而言,又意味著什么?
今天,本文就將嘗試從OpenAI的申請文件中披露的有限信息,對GPT-5可能的功能、變化,及所造成的影響,進行一番簡單的剖析。
ENS推出AI機器人NickGPT以解答與ENS相關的問題:6月5日消息,ENS 宣布推出 AI 機器人NickGPT,目前已部署至 Discord。NickGPT 是基于自定義自然語言模型開發的NickGPT受過ENS文檔訓練,可以回答用戶關于ENS的相關問題。[2023/6/5 21:17:17]
01通往AGI之路
在此次披露的文件中,OpenAI最先提到的一個變化,就是多模態功能的加強。
具體來說,GPT-5的功能包括把文本或語音從一種語言翻譯成另一種語言、語音識別、生成文本和語音等。
雖然在現在的GPT-4中,用戶同樣可以實現不同語種間的翻譯,但既然翻譯功能在這里被單獨挑出來,想必是重新優化過了。
那OpenAI為何會如此突出GPT-5的翻譯能力?
這或許是因為,GPT走向通用的前提之一,就是盡可能縮
小不同語言使用大模型的成本差距。
Dune 發布大語言模型路線圖,查詢解釋功能已集成 ChatGPT4:4月2日消息,區塊鏈分析平臺 Dune 在社區中發布大語言模型(LLM)路線圖,現已推出第一個 LLM 功能,并為用戶準備全套 LLM 功能與集成。Dune 已發布查詢解釋(Query Explanations),并集成 ChatGPT4,用戶可以點擊一個按鈕來顯示任何查詢的自然語言解釋,簡化 SQL 查詢。Dune 還通過 LLM 幫助用戶過渡到 Dune SQL。同時,Dune 支持使用 LLM 進行自然語言查詢,用戶可使用英語提出問題并查詢 Dune 數據集,而無需任何 SQL 知識。此外,Dune 還致力于研究解決如何在 Dune.com 上超過 70 萬張表與視圖中選擇正確的表的新方法;計劃使用 LLM 優化搜索與篩選;發布聊天機器人,幫助用戶快速瀏覽 Spellbook 與 Dune Docs 知識庫。[2023/4/2 13:40:24]
此前,牛津大學的研究成果顯示,由于OpenAI等服務所采用的服務器成本衡量,和計費的方式的不同,英語輸入和輸出的費用要比其他語言低得多。
其中簡體中文的費用大約是英語的兩倍,西班牙語是英語的1.5倍,而緬甸的撣語則是英語的15倍。
因為像中文這樣的語言有著不同、更復雜的結構,導致它們需要更高的詞元化率。
例如,根據OpenAI的GPT3分詞器,“你的愛意”的詞元,在英語中只需要兩個詞元,但在簡體中文中需要八個詞元。
CryptoGPT將于明日發行Token:金色財經報道,專注于人工智能的ZK Layer 2區塊鏈CryptoGPT將于明日發行自己的Token,該代幣的交易代碼為GPT,將于北京時間星期五19:00在加密貨幣交易所Bitfinex、Bybit、Bitget和其他交易所上市。[2023/3/10 12:52:53]
這意味著,除了英語之外的其他語言,使用和訓練模型要貴得多。
而一旦翻越了“語言障礙”這道檻,無疑會直接地掃清橫亙在GPT面前的這條通用性障礙。
除此之外,文件中突出的語音識別功能,看似只是一個不起眼的改動,但從某種程度上說,這也是OpenAI對GPT-5在通往AGI的道路上鋪下的又一塊路磚。
眾所周知,在今后的大模型發展方向上,模型變得邊緣化、終端化,已經成了一個愈發明顯的趨勢。
自從今年7月,高通發布了能在手機上運行的10億參數大模型后,榮耀、蘋果等廠商,也相繼宣布要推出自身的“大模型”手機。
以手機為起點,將來的AI數據,將會越來越多地在攝像頭、傳感器、自動駕駛等終端側進行處理。
而在這樣的應用場景中,語音識別無疑更便捷、高效。
?ChatGPT概念股漲幅擴大,美圖公司漲近9%:金色財經報道,行情顯示,截至發稿,美圖公司(01357.HK)漲8.89%、知乎-W(02390.HK)漲3.43%、京東集團-SW(09618.HK)漲3.66%、小米集團-W(01810.HK)漲2.45%。[2023/2/16 12:09:52]
例如,AI語言模型可以讓駕駛員可以通過語音控制車輛行駛。將駕駛員的語音指令轉化為可執行的指令,例如啟動、停止、加速、剎車等操作。
而類似于SIri那樣存在于手機系統中的智能助手,也會優先考慮通過語音指令來進行控制。
由此可見,語音識別并非只是錦上添花,而是GPT-5進入終端側的“標配”,
而通過在這一個個終端設備的下沉,GPT-5也將由此獲得更多邊緣化的、非語言的數據結構。
畢竟,大模型發展至今,能汲取的文本數據,已經差不多了,要想在通往AGI的路上再上一個臺階,這種“非文本”的數據,就顯得至關重要。
02挑戰專家模型
除了上述特點外,OpenAI提交的文件中還提到:“GPT-5可能還具備學習、分析、分類和回應數據的能力”。
從目前人工智能的發展趨勢來看,這很可能是指GPT-5具備了類似智能體的主動學習能力。
而這樣的能力,將會使GPT-5與以往只能被動地通過人類投喂數據,來學習新知識的模型相比,產生本質的區別。
GPT突破1850USDT,單日漲幅23.41%:據MXC抹茶行情顯示,GPT現報價1847USDT,單日內漲幅達到23.41%。據介紹,GPT為ECOC公鏈上的去中心化DEFI生態項目,主要作用為進行合約延時。[2020/12/11 14:56:09]
具體來說,主動學習的能力,是指模型可以根據自身的目標和需求,自主地選擇、獲取和處理數據,而不是僅僅依賴于人類提供的數據。
這樣可以讓模型更有效地利用數據中的信息和知識,更靈活地適應不同的數據環境和任務場景,而不只是被動地接收和輸出數據。
而這樣的能力,在GPT-5面臨一些比較陌生、垂直的領域時,就顯得尤為重要。
一些特定的領域,比如醫學、法律、金融等,通常有著自己特定的術語、規則和知識體系,對于普通的語言模型來說,可能難以理解和處理。
如果GPT-5具備了主動學習的能力,它可以自動地從網絡上搜集和更新這些領域的相關數據,分析和分類這些領域的基本概念、重要原理和最新動態,以及回應這些領域的常見問題、典型案例和實際應用。
如此,可以讓GPT-5更快地掌握這些領域的專業知識,更準確、高效地完成這些領域的相應任務。
而這一切,正是其邁向真正的通用大模型的關鍵。
因為如果GPT始終需要接入特定的“專家模型”,才能解決專業任務,那它就談不上真正的“通用”。
因為這樣會導致GPT對于不同領域和場景的智能能力存在差異和依賴,而且也會增加GPT與“專家模型”的溝通和協調成本,而不能保證在任何情況下都能實現高質量的服務。
此前,外媒Semianalysis就對今年3月發布的GPT-4進行了揭秘,曝光了OpenAI采用混合專家模型來構建GPT-4。
根據爆料,GPT-4使用了16個混合專家模型(mixtureofexperts),每個有1110億個參數,每次前向傳遞路由經過兩個專家模型。
然而,更多的專家模型意味著更難泛化,也更難實現收斂。
這是因為每個專家模型都有自己的參數和策略,往往很難協調一致,進而使得GPT難以平衡和“顧全大局”。
而在具備了主動學習的能力后,GPT-5將有可能利用多模態的理解和推理能力,以及知識圖譜和數據庫,來分析和理解獲取到的數據,并通過聚類算法和分類器,對相關數據進行關聯和歸納。
如此,GPT-5就能根據不同的數據環境和任務場景,有效地利用數據中的信息和知識。
03取代更多工作
如前所述,在掃清了語言障礙,并以便捷的語音識別功能進入終端側后,GPT-5將通過持續的主動學習能力,不斷汲取不同場景、領域和模態下的知識,進而向著AGI的道路高速前行。
可以預見的是,當具備了這樣強大“通用性”的GPT-5,開始向各領域擴散后,除了少數具有數據壁壘的行業外,大部分垂直領域的大模型,都將會逐漸黯然失色。
因為說到底,相當一部分專家或垂直大模型,本質上是某些企業算力、數據不足,無法高攀“通用大模型”,而不得不退而求其次的產物。
倘若一個通用大模型,憑借強大的學習能力,就能夠精通大部分行業,那誰又會愿意繁瑣地在不同的模型之間切換,并為不同的模型承擔多份訓練、使用成本呢?
從這點上來說,專家模型逐漸被通用模型取代,是人類在通往AGI道路上一個不可避免的歷史過程。
而與此相伴的另一個現象,則是更多細分的、瑣碎的工作被取代。
因為在有了更強大的通用大模型后,人們將會發現,其實很多崗位的工作內容,是可以被合并、被統合的。
產品經理和數據分析師就是一個可能的例子。
例如,在一個新產品開發的項目中,GPT-5可以根據給定的產品概念或需求,從網絡上搜索相關的市場調研、競品分析、用戶畫像等數據,并下載到自己的內存中。
之后,它會通過自己的多模態的理解和邏輯推理能力,以及知識圖譜和數據庫,來分析和理解獲取到的數據。
在得到了相應的數據,并將其進行分類和組織后,GPT-5就會通過語言理解能力,從對話系統的反饋中學習相關的營銷策略、用戶反饋等信息,并將其與給定的產品概念或需求進行比較和評估。
如此一來,產品經理和數據分析師這兩個崗位,就被高效地“合并”了。
而在通往AGI的未盡之路上,這樣被合并和取代的崗位,還有無數種。
因此,一個通用性更強的GPT-5,對人類而言,既是生產力進步的福音,但同時也是行業大地震的前奏。
到了那時,許多尚不具備通用大模型能力,又缺乏行業壁壘的企業,將會如沙子堆起的城堡一樣,脆弱地倒下。
而更多普通的個體,面對不斷被取代的崗位,將會更深刻地感受到時代的不確定性……
今日加密貨幣市場新聞實時更新和最新消息::最新的美聯儲會議紀要是在金融市場最近幾周增加對美聯儲緊縮的押注之后發布的。更準確地說,到1月底,大多數分析師預計只會再加息兩次,每次加息25個基點.
1900/1/1 0:00:00以太坊開發人員將期待已久的更新推遲了大約兩周。最終測試定于3月14日進行。 以太坊市值升至全球資產升至第87位超越IBM:Asset Dash數據顯示,目前以太坊市值達1122.81億美元,排名.
1900/1/1 0:00:00PancakeSwap第三季度路線圖:V3倉位管理器、收入共享池和擴展至更多鏈等:7月7日消息,PancakeSwap發布第三季度路線圖.
1900/1/1 0:00:00自倫敦硬分叉引入以太坊改進提案1559以來,區塊鏈共銷毀了278.3萬枚以太幣,目前價值87.6億美元.
1900/1/1 0:00:00由于加密貨幣價格普遍下跌,全球最大的比特幣基金灰度比特幣信托(GBTC)在11月17日星期四下跌超過7%.
1900/1/1 0:00:00知道要投資哪種加密貨幣可能是一項艱巨的任務。今天,我們來看看兩種有潛力的加密貨幣:Litecoin(LTC)和Fantom(FTM).
1900/1/1 0:00:00