比特幣交易所 比特幣交易所
Ctrl+D 比特幣交易所
ads

2023年 AI芯片公司正被奪命三連問_BTC

Author:

Time:1900/1/1 0:00:00

2023年,投資機構與股民們,正向AI芯片領域的上市公司,發起奪命三連問:

你做存算一體芯片了嗎?

(投資者向瀾起科技提問 圖源:同花順財經)

存算一體芯片進度如何?

(投資者向東芯股份提問 圖源:同花順財經)

存算一體芯片前景如何?

(投資者向恒爍股份提問 圖源:同花順財經)

以上的一系列發問,意味著存算一體不再“停留”于學界與產界,儼然火到了二級市場:股民、券商機構正加班加點狂補存算一體的課,于是傳統芯片大廠從2023年初至今,一直被“拷問”存算一體的布局情況。

一個自然而然的疑問是,存算一體為何突然變得如此火爆?

7.14發布新存儲產品OceanStor A310的華為,給出了自己的答案。華為數據存儲產品線總裁周躍峰表示,在通用大模型與行業大模型的訓練推理中面臨著諸多數據難題:海量數據跨域歸集慢、預處理與訓練中數據交互效率低、數據安全流動難。

法國擬議法案要求加密公司在2024年1月1日之前尋求監管機構授權:1月18日消息,根據立法者周二在國民議會通過的計劃,如果法國的加密公司尚未在2024年1月1日之前在該國金融監管機構注冊,則它們必須尋求監管機構的授權才能運營。這些計劃比參議院提供了更多的回旋余地,參議院在12月提出2023年10月的截止日期,以阻止加密公司濫用新的歐盟規則,即加密資產市場 (MiCA) 法規。

代表議會財政委員會起草新立法的Daniel Labaronne表示:“我建議把日期定在2024年1月1日,讓新加入的人有更多的時間來申請他們的許可,這很復雜,同時也給金融市場管理局更多的時間來處理申請。”Labaronne告訴委員會,如果沒有他提出的修正案,根據MiCA規定,“運營商只是注冊以受益于不追溯條款的風險”,這意味著他們直到2026年3月左右才需要獲得完整的許可證。

該委員會通過了他的提案,該提案必須在下周得到大會的批準,并與參議院進行談判。法國加密行業對這些提議表示擔憂,認為它們可能會損害法國成為加密貨幣中心的目標。(CoinDesk)[2023/1/18 11:17:52]

AI大模型對存儲帶來了新的挑戰,比如穩定性相較于傳統AI更差,同時有大量的數據預處理和準備工作,需要用近存計算(存算一體的一種)來系統性處理這個問題。

那么,這里“大量的數據”究竟有多少?據偲睿洞察測算,現階段 ChatGPT 日活一億,若每日有5%的人每秒同時提問,將會吞噬三峽大壩近一年的發電量。

Huobi 2021年2月銷毀 538.5萬個HT:3月15日,Huobi Global 發布2021年2月份HT運營月報。2月份Huobi 共銷毀 538.5萬個HT,約6970.9萬USDT,銷毀金額環比1月份上升19.85%,本次HT單月銷毀金額再創下新高。

本次銷毀HT均價約為12.94 USDT,HT當月流通盤通縮率約為2.05%,HT持有用戶數環比1月增長約23.6%,截至2021年3月15日Huobi Global HT現存總量為24460.7 萬HT,流通總量為19277.07 萬HT。[2021/3/15 18:46:28]

換言之,大模型正瘋狂索取算力,而以存算一體為代表的新興解決方案能夠解決大模型帶來的諸多挑戰。而事實上,大模型除了對算力提出嚴苛要求外,也給了AI芯片廠商“不少糖吃”。

本文試圖探究,大模型背景下,給了AI芯片廠商怎樣的好處?被ChatGPT“帶火”的存算一體廠商,未來格局如何?

PART-01 “福禍相依”的AI芯片廠商

大模型的風還在呼嘯,有關大模型的討論仍在如火如荼地進行。

8月初,在中國計算機學會(CCF)人工智能會議分論壇——“見疆見昆侖·AI大模型算力前沿”上,專家學者們一致表示,大模型時代,智能算力成為“稀缺資產”,如何善用算力資源,發揮其最大效益,已經成為每個參與者必須面對的挑戰。

而光是GPT-3對算力索取量,保守情況下,需三峽大壩徹夜“打工”才能滿足:

動態 | 證監會2020年系統工作會議:積極探索區塊鏈等創新金融科技的應用:中國證監會召開2020年系統工作會議,會議強調,2020年,證監會要以科技監管為支撐,進一步增強監管效能。推進監管科技基礎能力建設,加快構建新型監管模式。加強對證券期貨行業科技的監管,推動提升行業科技發展水平。積極探索區塊鏈等創新金融科技的應用。(中國證監會官網)[2020/1/17]

假設有1億人同時在線,每日有5%的人每秒同時提問,每個prompt占30個token,便需要1530萬顆H100芯片來提供其推理算力;而每顆H100的功耗在750W左右,若每天運行10個小時,這些H100芯片所在的數據中心一年的耗電量將達到840億kW*h,而三峽大壩一年的發電量是882億kW*h。

讓AI芯片廠商更為焦慮的是,這還只是ChatGPT一個大模型在推理階段的耗電量,百家大模型全階段、全部運作的耗電量,難以估量。

于是,一系列新興的解決方案紛紛被廠商挖掘出來:存算一體、chiplet、HBM等等。在這之中,由于存算一體推翻了傳統馮諾依曼架構下的存儲墻,實實在在做到了降本增效,成為今年的“紫微星”。

動態 | 西班牙加密貨幣知名博主稱中幣國際站為2020年最佳交易所之一:知名公鏈權威研究專家Jose Fernando Molina Pinos在MOTRIL@DIGITAL發布一篇名為“2020年最佳交易所”盤點文章,BW.io與幣安、Bitfinex同時上榜。Fernando Molina 是區塊鏈公鏈研究專家,同時也是西班牙加密貨幣行業粉絲最多,最有影響力的博主之一。[2020/1/15]

(圖源:偲睿洞察《AI大算力芯片行業報告-百舸爭流,創新者先》)

除了新興方案涌現讓AI芯片廠商喘了一口氣之外,大模型也為芯片廠商尤其是初創芯片廠商,帶來一個利好消息:軟件生態重要性正在下降。

早先技術不夠成熟之時,研究者們只能從解決某個特定問題起步,參數量低于百萬的小模型由此誕生。例如谷歌旗下的AI公司DeepMind,讓AlphaGO對上百萬種人類專業選手的下棋步驟進行專項“學習”。

而小模型多了之后,硬件例如芯片的適配問題迫在眉睫。故,當英偉達推出統一生態CUDA之后,GPU+CUDA迅速博得計算機科學界認可,成為人工智能開發的標準配置。

現如今紛紛涌現的大模型具備多模態能力,能夠處理文本、圖片、編程等問題,也能夠覆蓋辦公、教育、醫療等多個垂直領域。這也就意味著,適應主流生態并非唯一的選擇:在大模型對芯片需求量暴漲之時,芯片廠商或許可以只適配1-2個大模型,便能完成以往多個小模型的訂單。

動態 | 2020年BTC、BCH、BEAM等八大幣種即將減半:今年最值得期待、也是結果最不確定的事件將是比特幣的第三次減半。比特幣的第一次減半是在2012年11月28日,區塊獎勵由50個BTC減少到25個 BTC,比特幣價格增長13378%。2016年7月10日,完成了第二次減半,區塊獎勵從25個BTC減少到12.5個BTC,刺激了12160%的價格反彈。根據Bitcoinblockhalf.com計算顯示,目前距離比特幣第三次減半還有132 天。而今年,BEAM、ETC、BCH、BSV、DASH和ZEC等主流幣種都將迎來減半。[2020/1/3]

也就是說,ChatGPT的出現,為初創芯片廠商們提供了彎道超車的機會。這就意味著,AI芯片市場格局將發生巨變:不再是個別廠商的獨角戲,而是多個創新者的群戲。

當算力成為稀缺貨,同時適應主流生態不再成為必選項時,存算一體難掩光芒。此時,要不要投入,要投入多少,成為擺在AI芯片廠商面前的第二道難題。

對此,“過來人”芯片巨頭NVIDIA摸爬滾打多年給出的答案是,勇于創新,重金投入:

每一個新興技術的研發廠商,在前期無疑要面臨技術探索碰壁,下游廠商不認同等各個層面的問題。而在早期,誰先預判到未來的發展趨勢,并勇于邁出探索的腳步,鋪下合理的資源去嘗試,就會搶到先機。

當數據中心浪潮還未鋪天蓋地襲來、人工智能訓練還是小眾領域之時,英偉達已經投入重金,研發通用計算GPU和統一編程軟件CUDA,為英偉達謀一個好差事——計算平臺。

而在當時,讓GPU可編程,是“無用且虧本”的:不知道其性能是否能夠翻倍,但產品研發會翻倍。為此,沒有客戶愿意為此買單。但預判到單一功能圖形處理器不是長遠之計的英偉達毅然決定,在所有產品線上都應用CUDA。

在芯東西與英偉達中國區工程和解決方案高級總監賴俊杰博士的采訪中,賴俊杰表示:“為了計算平臺這一愿景,早期黃仁勛快速調動了英偉達上上下下非常多的資源。”

遠見+重金投入,在2012年,英偉達拿到了創新者的獎勵:2012年,深度學習算法的計算表現轟動學術圈,作為高算力且更為通用、易用的生產力工具,GPU+CUDA迅速風靡計算機科學界,成為人工智能開發的“標配”。

在AI大算力芯片的征途上,存算一體芯片迎來了自己的“黃金期”,超前投入,是為正解。

PART-02 非技術、資金雄厚者,勿進

窺見到存算一體的種種好處,現階段,存算一體芯片玩家陣營日益龐大。

據偲睿洞察不完全統計,自2019年起,新增的AI芯片廠商,多數在布局存算一體:在2019-2021年新增的AI芯片廠商有20家,在這之中,有10家選擇存算一體路線。

這無一不說明著,存算一體將成為繼GPGPU、ASIC等架構后的,一顆冉冉升起的新星。而這顆新星,并不是誰都可以摘。

在學界、產界、資本一致看好存算一體的境況下,強勁的技術實力、扎實的人才儲備以及對遷移成本接受度的精準把控,是初創公司在業內保持競爭力的關鍵,也是擋在新玩家面前的三大門檻。

強勁的技術實力,永遠是芯片領域的最高山。

首先是存算一體“涉獵廣泛”,涉及到芯片制造的全環節:從最底層的器件,到電路設計,架構設計,工具鏈,再到軟件層的研發;其次是其“牽一發而動全身”:在每一層做相應改變的同時,還要考慮各層級之間的適配度。

我們一層一層來看,一顆存算一體芯片被造出來,有怎樣的技術難題。

首先,在器件選擇上,廠商就“如履薄冰”:存儲器設計決定芯片的良率,一旦方向錯誤將可能導致芯片無法量產。

其次是電路設計層面。電路層面有了器件之后,需要用其做存儲陣列的電路設計。而目前在電路設計上,存內計算沒有EDA工具指導,需要靠手動完成,無疑又大大增加了操作難度。

緊接著,架構層面有電路之后,需要做架構層的設計。每一個電路是一個基本的計算模塊,整個架構由不同模塊組成,存算一體模塊的設計決定了芯片的能效比。模擬電路會受到噪聲干擾,芯片受到噪聲影響后運轉起來會遇到很多問題。

這種情況下,需要芯片架構師足夠了解模擬存內計算的工藝特點,同時針對這些特點去設計架構,在此基礎上,還要考慮到架構與軟件開發的適配度。軟件層面架構設計完成后,還需要開發相應的工具鏈。

(圖源:偲睿洞察《AI大算力芯片行業報告-百舸爭流,創新者先》)

而由于存算一體的原始模型與傳統架構下的模型不同,編譯器要適配完全不同的存算一體架構,確保所有計算單元能夠映射到硬件上,并且順利運行。

一條完整的技術鏈條下來,考驗著器件、電路設計、架構設計、工具鏈、軟件層開發各個環節的能力,與協調各個環節的適配能力,是耗時耗力耗錢的持久戰。

同時,根據以上環節操作流程可以看到,存算一體芯片亟需經驗豐富的電路設計師、芯片架構師。

鑒于存算一體的特殊性,能夠做成存算一體的公司在人員儲備上需要有以下兩點特征:

1、帶頭人需有足夠魄力。在器件選擇(RRAM、SRAM等)、計算模式(傳統馮諾依曼、存算一體等)的選擇上要有清晰的思路。這是因為,存算一體作為一項顛覆、創新技術,無人引領,試錯成本極高。能夠實現商業化的企業,創始人往往具備豐富的產業界、大廠經驗和學術背景,能夠帶領團隊快速完成產品迭代。

2、在核心團隊中,需要在技術的各個層級中配備經驗豐富的人才。例如架構師,其是團隊的核心。架構師需要對底層硬件,軟件工具有深厚的理解和認知,能夠把構想中的存算架構通過技術實現出來,最終達成產品落地;

3、此外,據量子位報告顯示,國內缺乏電路設計的高端人才,尤其在混合電路領域。存內計算涉及大量的模擬電路設計,與強調團隊協作的數字電路設計相比,模擬電路設計需要對于工藝、設計、版圖、模型pdk以及封裝都極度熟悉的個人設計師。

而這一系列的人才與技術,都要以落地效果為終極目標——落地才是第一生產力。在交付時,客戶考量的并不僅僅是存算一體技術,而是相較于以往產品而言,存算一體整體SoC的能效比、面效比和易用性等性能指標是否有足夠的提升,更重要的是,遷移成本是否在承受范圍內。

如果選擇新的芯片提升算法表現力需要重新學習一套編程體系,在模型遷移上所花的人工成本高出購買一個新GPU的成本,那么客戶大概率不會選擇使用新的芯片。

因此,存算一體在落地過程中是否能將遷移成本降到最低,是客戶在選擇產品時的關鍵因素。

在大模型背景下,存算一體芯片憑借著低功耗但高能效比的特性,正成為芯片賽道,冉冉升起的一顆新星。現如今,存算一體市場風云未定,仍處于“小荷才露尖尖角”階段。

但我們不可否認的是,存算一體玩家已然構筑了三大高墻,非技術實力雄厚,人才儲備扎實者,勿進。

36氪

媒體專欄

閱讀更多

金色財經 善歐巴

元宇宙Lab

比推 Bitpush News

Tags:BTCGPT比特幣人工智能BTCMT價格arbgpt幣上架幾家交易所比特幣市值占比查詢人工智能工程師月薪多少

歐易交易所app下載
同行相輕 ZK-EVM們的愛恨情仇_POL

作者:深潮TechFlow幾家做zk-EVM的項目,彼此都希望齊頭并進把擴容的賽道做大,同時背地里又可能暗暗較勁,希望自己是那個唯一。在加密世界里,說自己能解決一個問題往往價值千金.

1900/1/1 0:00:00
大模型的混沌年代:矛盾、分化與未來_OPEN

經歷了大半年的狂飆,中國大模型行業進入了一個新的周期。一面狂熱,一面冷峻,投資人們馬不停蹄地尋找這個時代的中國的OpenAI,頂著精英光環的大廠高層或科學家們決定放手一搏,曾經無法抵達的AGI時.

1900/1/1 0:00:00
SignalPlus:解析低IV行情下期權賣方的組合策略_NBS

作者:栗坤 Sober大多數馬賽克市場期權玩家認為當前 IV 在 30 附近或者以下(如下圖所示:IV vs RV.

1900/1/1 0:00:00
《經濟學人》舊文:比特幣如何成為信任機器?_加密貨幣

編譯:Web3小律 Gary Gensler曾說過目前的加密世界就是“狂野西部”,但是我們也沒必要因為西部眾多的不法之徒,而忽視了“西進運動”給那個時代帶來的拓荒精神.

1900/1/1 0:00:00
Jacobi資產管理公司推出歐洲首只比特幣ETF_比特幣

作者:Andrew Asmakov,Decrypt;編譯:松雪,金色財經歐洲先于美國推出首只比特幣交易所交易基金(ETF).

1900/1/1 0:00:00
Messari:美國國債推動RWA迅猛發展_PEND

編譯:胡子觀幣社區 目前,加密貨幣的頂級借貸協議提供的穩定幣收益率約為3%,而美國國債收益率則提供了更具吸引力的低風險替代方案。這導致了一些協議的興起,將這些離線收益率轉移到鏈上.

1900/1/1 0:00:00
ads