比特幣交易所 比特幣交易所
Ctrl+D 比特幣交易所
ads

陸奇:大模型時代的范式轉移與創業機會(11個核心觀點)_NAI

Author:

Time:1900/1/1 0:00:00

導讀:

奇績創壇創始人兼CEO陸奇是中國AI布道人,也是中國針對大模型最有發言權的人之一。他曾在全球巨頭身居要職,先后任職于IBM、雅虎、微軟、百度,曾是華人在美國科技公司最有權威的高層人士,位至雅虎和微軟執行副總裁,回國加盟百度出任集團總裁兼COO。

他和OpenAI也有著深厚淵源。陸奇所掌管的奇績前身是YC中國,是美國著名創業孵化器YC的中國分支。他也是YC全球研究院院長。而OpenAI首席執行官SamAltman正是YC二代接班者、現任總裁。兩人雖相差24歲,卻是忘年交,相識已逾18年。

大模型時代變化速度太快,就連陸奇都說他跟不上大模型時代的狂飆速度了。

本文是其4月22日的演講內容整理而成。

#01?任何復雜體系,都是“信息-模型-行動”三個體系的組合

任何復雜體系,包括一個人、一家公司、一個社會,甚至數字化本身的數字化體系,都是復雜體系。

“三位一體”包括:

“信息”系統,從環境當中獲得信息;“模型”系統,對信息做一種表達,進行推理和規劃;“行動”系統,我們最終和環境做交互,達到人類想達到的目的。任何體系,都是這三個體系的組合,數字化系統尤其如此。數字化和人分不開。人也一樣,人要獲得信息、表達信息、行動解決問題或滿足需求。

今天大部分數字化產品和公司,包括Google、微軟、阿里、字節,本質是信息搬運公司。

一定要記住,我們所做的一切,一切的一切,包括在座的大部分企業都在搬運信息。Nothingmorethanthat,Youjustmovebytes。但它已經足夠好,改變了世界。

#02?結構性改變的關鍵點:從邊際成本到固定成本

歐易OKX將于7月18日18:00上線stETH:7月18日消息,據官方消息,歐易OKX將于7月18日18:00(HKT)上線stETH,并開通stETH/USDT和stETH/ETH交易對。其中,stETH充值已于7月18日10:00(HKT)開放,提現將于7月19日18:00(HKT)開放。

據悉,stETH是用戶通過以太坊流動性質押協議Lido來質押ETH、參與以太坊網絡POS產生的質押憑證。stETH是一種可轉移的基于rebase機制的實用代幣,代表通過協議抵押的總ETH的一部分,其中包括用戶存款和質押獎勵。由于stETH每天都會進行rebase,因此其每天都會更新其所代表的份額。[2023/7/18 11:01:21]

早在1995-1996年,通過PC互聯網迎來一個拐點。大量公司層出不窮,其中誕生了一家偉大公司叫Google。為什么會有這個拐點?為什么會有爆炸式增長?

原因是,獲取信息的邊際成本開始變成固定成本。

任何改變社會、改變產業的,永遠是結構性改變。這個結構性改變往往是一類大型成本,從邊際成本變成固定成本。

舉個例子,我在CMU念書開車離開匹茨堡出去,一張地圖3美元,獲取信息很貴。今天我要地圖,還是有價錢,但都變成固定價格。Google平均一年付10億美元做一張地圖,但每個用戶要獲得地圖的信息,基本上代價是0。也就是說,獲取信息成本變0的時候,它一定改變了所有產業。這就是過去20年發生的,今天基本是freeinformationeverywhere。

Google為什么偉大?它把邊際成本變成固定成本。Google固定成本很高,但它有個簡單商業模式叫廣告,它是世界上高盈利、改變世界的公司,這是拐點關鍵。

#03?2022-2023年的拐點:大模型

多鏈交易基礎設施zkLink完成第二輪代碼審計:5月9日消息,基于零知識證明的多鏈交易基礎設施 zkLink 宣布通過第二輪代碼安全審計,本輪審計由 ABDK Consulting 負責,包括智能合約、ZK-Rollup 電路和增量三個部分,均未發現任何重大安全問題,zkLink 計劃在接下來的幾個月內采取額外的安全措施,包括即將開啟的用戶資金安全測試 Dunkirk 等。此前 zkLink 于 2021 年 6 月完成由 Certik 進行的第一輪代碼審計,未發現重大漏洞。[2023/5/9 14:51:28]

2022-2023年的拐點是什么?它不可阻擋、勢不可擋,原因是什么?一模一樣。

模型的成本從邊際走向固定,因為有件事叫大模型。大模型是技術核心、產業化基礎。

OpenAI搭好了,發展速度爬升會很快。為什么模型這么重要、這個拐點這么重要,因為模型和人有內在關系。

我們每個人都是模型的組合。

人有三種模型:

認知模型,我們能看、能聽、能思考、能規劃;任務模型,我們能爬樓梯、搬椅子剝雞蛋;領域模型,我們有些人是醫生,有些人是律師,有些人是碼農。我們對社會所有貢獻都是這三種模型的組合。每個人不是靠手和腿的力量賺錢,而是靠腦袋活。

簡單想一想,如果你沒有多大見解,你的模型能力大模型都有,或者大模型會逐步學會你所有的模型,那會怎樣?——未來,唯一有價值的是你有多大見解。

#04?下一時代典型的職業,我們認為是創業者和科學家

人類社會是技術驅動。

從農業時代,人用工具做簡單勞動,最大問題是人和土地綁定,人缺少流通性,沒有自由。

工業發展對人最大變化是人可以動了,可以到城市和工廠。早期工業體系以體力勞動為主、腦力勞動為輔,但隨著機械化、電氣化、電子化,人的體力勞動下降。

數據:在ETH基金會向Kraken轉入1.5萬枚ETH之后,2只巨鯨拋售19090枚ETH:金色財經報道,據Lookonchain監測顯示,在ETH基金會向Kraken轉入15000枚ETH(價值約2970萬美元)之后,2只巨鯨驚慌失措地在Uniswap上拋出19090枚ETH(價值約3570萬美元)。其中,0x6071開頭地址以1873美元的價格用9,950枚ETH兌換了1863萬美元DAI。0x7641頭地址以1867美元的價格用9140枚ETH兌換了1707萬美元DAI。

金色財經此前報道,以太坊基金會錢包將1.5萬枚ETH轉入“Kraken5”地址。[2023/5/8 14:49:08]

信息化時代以后,人以腦力勞動為主,經濟從商品經濟轉向服務經濟——碼農、設計師、分析師成為我們時代的典型職業。

這一次大模型拐點會讓所有服務經濟中的人、藍領基本都受影響,因為他們是模型,除非有獨到見解,否則你今天所從事的服務大模型都有。

下一時代典型的職業,我們認為是創業者和科學家。

所以,這次變革影響每個人。它影響整個社會。

#05?三個拐點,逐漸展開

第一,信息無處不在,今天已經實現了;

第二,模型無處不在,接下來即將發生。以后手機上打開,任何聯網,模型就過來了。它教你怎么去解答法律問題,怎么去做醫學檢驗。不管什么樣的模型都可以無處不在。

第三,下個拐點將是:“行動”無處不在。也就是人需要在物理空間里行動,它的代價也從邊際走向固定。20年后,這個房子里所有一切都有機械臂,都有自動化的東西。我需要的任何東西,按個按鈕,軟件可以動,今天還需要找人。

總結來說,我們從根本性的三位一體結構分析未來,從過去的歷史拐點能清晰看到今天所面臨的拐點,本質是模型成本從邊際走向固定,將有一家甚至多家偉大公司誕生。毫無疑問,OpenAI處于領先。

數據:zkSync橋接存儲總價值突破19萬枚ETH,約合2.5億美元:金色財經報道,據Dune Analytics數據顯示,以太坊Layer2擴容解決方案zkSync跨鏈橋接存儲總價值已突破19萬枚ETH,本文撰寫時達到190,834ETH(按照當前ETH價格計算約合2.5億美元),參與橋接交易的用戶量為498,646個。

據此前報道,zkSync開發公司Matter Labs于11月中旬完成2億美元C輪融資,Blockchain Capital和Dragonfly共同領投。[2022/12/7 21:27:05]

雖然講得有點早,但我個人認為,OpenAI未來肯定比Google大。只不過是大1倍、5倍還是10倍。

#06?OpenAI是怎么把大模型時代帶來的?

為什么講OpenAI,不講Google、微軟。講真心話,因為我知道,微軟好幾千人也做這個,但不如OpenAI。

一開始比爾·蓋茨根本不相信OpenAI,大概6個月前他還不相信。4個月前看到GPT-4的demo,目瞪口呆。他寫了文章說:It’sashock,thisthingisamazing。谷歌內部也目瞪口呆。

SamAltman自己都surprise,連他都沒想到會那么快。

如果大家對技術感興趣,IlyaSutskever很重要,他堅信兩件事。

第一是模型架構。它要足夠深,只要到了一定深度,bignessisbetterness。只要有算力,只要有數據,越大越好。他們一開始是LSTM,后來看到Transformer就用Transformer。

第二個模型體系作為引擎。任何范式、改變一切的范式永遠有個引擎,這個引擎能不斷前進、不斷產生價值。

英國加密數字資產全黨議會小組呼吁新首相明確加密貨幣態度:10月26日消息,英國加密和數字資產全黨議會小組(APPG)主席Lisa Cameron表示,在英國任命Rishi Sunak為英國新首相之后,“英國加密貨幣和數字資產公司迫切需要明確英國政府對加密貨幣政策的態度”,Cameron表示,加密貨幣企業需要能夠提供監管清晰度和業務確定性的監管。

此前報道,Rishi Sunak曾在擔任英國財政大臣事發推表示要將努力使英國成為全球加密資產中心。[2022/10/26 16:39:17]

這個引擎基本是一個模型體系,它的核心是模型架構Transformer,就是sequencemodel:sequencein、sequenceout、encode、decode后者decodeonly。但最終的核心是GPT,也就是預訓練之后的Transformer,它可以把信息高度壓縮。

Ilya有個信念:如果你能高效壓縮信息,你一定已經得到知識,不然你沒法壓縮信息。所以,你把信息高效壓縮的話,yougottohavesomeknowledge。

Ilya堅信GPT3、3.5,當然GPT-4更是,它已經有一個世界模型在里面。雖然你做的事是predictnextword,這只不過是優化手段,它已經表達了世界的信息,而且它能持續地提高模型能力,尤其是目前研究比較多的在子概念空間當中做泛化。

在引擎基礎之上,ChatGPT封裝了世界上所有知識,有足夠強的學習和推理能力,加在一起,范式的臨界點到了。拐點已經到來。

Theonlywaytomakenaturallanguageworkisyouhaveknowledge。正好Transformer把這么多知識壓縮在一起了,這是它的最大突破。

#07?未來是一個模型無處不在的時代

現在OpenAI核心做的是,把推進速度變慢,每推進新版本,都有足夠時間讓用戶給他們足夠反饋,找到潛在風險點,有足夠時間彌補。但加在一起,增長飛輪的雛形基本上起來了。

有了飛輪,我認為發展路徑核心是模型的可延伸性和未來模型的生態。

未來的模型世界會怎么發展?首先是將有更多大模型會出來。更多更完整的模態和更完整的世界知識在這里。你有大量的知識、更多的模態,學習能力、泛化能力和泛化機制一定會加強。

在大模型之上建立的模型更多了。我判斷主要是有兩類模型和他們的組合。

第一,事情的模型,人類每一類需求都有領域/工作模型,其中有結構模型、流程模型、需求模型和任務模型,尤其是記憶和先驗。

第二,人的模型,包括認知/任務模型,它是個體的,其中有專業模型,有認知模型、運動模型和人的記憶先驗。人基本是這幾類模型的組合,律師也好,醫生也好,大量領域會有大量模型往前走。

ChatGPT代表的模型跟人的模型相輔相成,長期可以融在一起。我們看到的未來是更多模型的生態,新的領域、新的專業、新的結構、新的場景、新的適應能力,形成閉環,不斷加強認知和推理能力。當然,最終還是要所謂叫grounding,跟感知要ground,和接入行動的能力,形成真正的智能。

某種意義上20-30年后,這個模型世界跟生物世界有很多類似的地方。大模型我覺得像基因,有不同的種類,然后進化。我們目前能看到未來核心技術模型世界,它是用這個方法來向前驅動。

#08?大模型對每個人、每個行業都有結構性影響

世界在嘩嘩嘩地變。我曾經說1995-1996年有這種感覺,但這個比1995-1996年還要強。為什么?模型的成本從邊際轉向固定,知識創造就是模型和知識的獲取,它結構性做演變了。

生產資本從兩個層次全面提高。

第一,所有動腦筋的工作,可以降低成本、提升產能。我們目前有一個基本假設,碼農成本會降低,但對碼農的需求會大量增加,碼農不用擔心。因為對軟件的需求會大量增加,就是這個東西便宜了,都買嘛。軟件永遠可以解決更多問題,但有些行業未必。這是生產資本的廣泛提高。

第二,生產資本深層提升。有一些行業的生產資本本質是模型驅動,比如醫療就是一個模型行業,一個好醫生是一個好模型,一個好護士是一種好模型。醫療這種產業,本質是強模型驅動。現在模型提高了,科學也隨之提高。在游戲核心產業,我們的產能將本質性、深度提高。產業的發展速度會加快,因為科學的發展速度加快了,開發的速度加快了,每個行業的心跳都會加快。因此,我們認為下個拐點會加速。用大模型做機器人、自動化、自動駕駛,擋也擋不住。

它對每個人都將產生深遠和系統性影響。我們的假設是每個人很快將有副駕駛員,不光是1個,可能5個、6個。有些副駕駛員足夠強,變成正駕駛員,他自動可以去幫你做事。更長期,我們每個人都有一個駕駛員團隊服務。未來的人類組織是真人,加上他的副駕駛員和真駕駛員一起協同。

毫無疑問,每個行業也會有結構性影響,會系統性重組。這里有一個簡單公式。今天動腦筋的人一天平均工資多少小時?減掉ChatGPT現在大概平均是15美元/小時,再過3年可能不到1美元,再過5年可能幾十美分。然后就乘一下有多少數量。降本或者增效,讓碼農能變成super碼農,醫生變成super醫生。

大家可以按這個公式算一算。如果你是華爾街的對沖基金,你可以做空一大堆行業。

#09?數字化基礎層,存在著不同維度的創業機會

數字化基礎層,存在著不同維度的創業機會。

①?首先搬運信息,這個時代還有很多可以做。

②如果你是做模型的,我現在判斷什么都要重做一遍。大模型為先。很多設備也要重做,你要支持大模型,容器要重做,這些都有機會。云、中間的基礎設施、底層的硬件,包括數字化發展核心的基礎,尤其是開源的體系,這里是真正意義上是有大量機會。

③?第三代系統,即已經開始做機器人、自動化、自主系統。孫正義今天allin。這個也能用大模型做。馬斯克也看到這種機會。都是在第三代下一個拐點,創業公司完全可以把握的機會。

④同時并行的,我把它稱作“第三代++系統”,是碳基的生物計算,這一類公司有大量的量子計算,有很多機會。元宇宙和Web3今天有點冷,但從歷史長河角度來講,只是時間問題,因為這些技術都能真正意義上帶來未來的人類價值。

所以如果是這個創業項目,基礎層機會就在這里。

這是最好的生意。為什么?這個時代跟淘金時代很像。如果你那個時候去加州淘金,一大堆人會死掉,但是賣勺子的人、賣鏟子的人永遠可以賺錢。所謂的shoveandpickbusiness。

#10?以模型為先的平臺,將比以信息為先的平臺體量更大

按照我們幾天的判斷,以模型為先的平臺,將比以信息為先的平臺體量更大。平臺有以下幾個特征:

①?它是開箱即用;

②?要有一個足夠簡單和好的商業模式,平臺是開發者可以活在上面,可以賺足夠的錢、養活自己,不然不叫平臺;

③?他有自己殺手級應用。ChatGPT本身是個殺手應用,今天平臺公司就是你在蘋果生態上,你做得再好,只要做大蘋果就把你沒收了,因為它要用你底層的東西,所以你是平臺。平臺一般都有它的錨點,有很強的支撐點,長期OpenAI設備機會有很多——有可能這是歷史上第一個10萬億美元的公司。

這是一場激烈的競爭平臺之戰,未來一個體量很大的公司。在這個領域競爭是無比激烈。Thepriceistoobig,錯過太可惜。再怎么也得試一試。

#11?作為創始人,未來重要的不是技術,而是愿力和心力

今天創始人技術能力強,好像很牛、很重要,未來真的不重要。技術ChatGPT以后都能幫你做。

你作為創始人,越來越重要、越來越值錢的是愿力和心力。愿力是對于未來的獨到的判斷和信念,堅持、有強的韌勁。這是未來的創始人越來越重要的核心素養。

對初創團隊,工具能幫助探索方向,加速想法的迭代、產品的迭代,甚至資源獲取。

對未來人才的培養,一方面學習工具,思考和探索機會,長期適當時候培養自己的promptengineer。

Tags:ETHPENNAIOPENRETH價格SPENT幣OPENAIERCOpenSea

以太坊交易所
MarsBit日報 | BTC突破3萬美元關口;StarkNet橋接用戶量超Optimism;香港Web3.0協會成立_ABS

MarsBitCryptoDaily2023年4月11日 一、今日要聞 分析師:ssv.network開發公司自3月13日以來或已出售超48.5萬枚SSV鏈上分析師余燼分析顯示.

1900/1/1 0:00:00
斬獲大額融資、空投在即,一文了解公鏈 Sei Network 的最新進展和生態版圖_ORK

昨日,Layer1公鏈?SeiNetwork?宣布繼完成一輪估值為?8?億美元的3000萬美元融資后,其生態基金又完成5000萬美元新一輪融資.

1900/1/1 0:00:00
MarsBit日報 | HashKey Group推出生態積分HSK;香港SFC要求DeFi項目接受監管及申請牌照_ENT

MarsBitCryptoDaily2023年4月12日 一、?今日要聞 香港財政司司長陳茂波:必須適當監管Web3,將成立虛擬資產發展專責小組香港財政司司長陳茂波表示,推動第三代互聯網的發展.

1900/1/1 0:00:00
香港Web3小作文:奪回“Web3.0之都”高地,港府這次是認真的_比特幣

注:本文來自@elaineyang73推特,MarsBit整理如下: TL,Dr: 1.你跑了那么多會依然賺不到錢2.HK大會比想象中Scam少得多3.要LongHK最大的阻礙還是要解決出入金的.

1900/1/1 0:00:00
香港Web3小作文:HK本地版Web3感受_TOR

HK本地版Web3大會小作文1.疫情三年第一次迎來這么多外地的朋友齊聚香港,這一波至少港府贏麻了,KPI毫無壓力,每天都能看到港府官員們穿梭于不同的活動中作嘉賓.

1900/1/1 0:00:00
交易平臺激勵模式思考,流動性和交易行為哪個更值得激勵?_POOL

引言 本篇內容來自于MintVentures小組的一次在線討論,當時我提出了兩個問題,我們的研究員Lawrence和投資經理Scarlett給出了自己的想法,再結合了我對該問題的思考和延展.

1900/1/1 0:00:00
ads