導?讀
本文為IPFS系列文第4篇,詳解IPFS的核心模塊——Bitswap。
星際文件系統是一個旨在創建持久且分布式存儲和共享文件的網絡傳輸協議。
與傳統的文件系統不同,它是一種基于內容尋址的點對點超媒體分發協議。
IPFS網絡中的節點構成一個分布式文件系統網絡,其中Bitswap是IPFS的核心模塊,負責與網絡中其他節點之間請求和發送數據塊。
圖1
IPFS將文件分解為稱為block的數據塊,這些塊由內容標識符標識。?
IPFS文件內容存儲在不同的節點上,每個節點存儲rootblock,少量節點存儲完整文件數據,大部分節點存儲部分文件block。因為block分散存儲在不同節點,Bitswap協議解決了從多個節點高效獲取全部數據塊的問題。
圖2?多節點文件存儲示意圖
總體架構
本文基于Bitswapv0.3.3版本進行分析。
IPFS微信指數日環比上升4.87%:金色財經報道,微信指數顯示,9月8日,區塊鏈微信指數為1450831,日環比下降3.70%;比特幣微信指數為492887,日環比下降16.01%;以太坊微信指數為130988,日環比下降11.83%;IPFS微信指數為221841,日環比上升4.87%。[2020/9/9]
IPFS向Bitswap獲取block,Bitswap是IPFSexchange接口的具體實現,負責完成IPFS網絡數據交換功能。
圖3?Bitswap組件架構圖
Bitswap協議內容比較繁瑣,為了降低實現復雜度協議劃分為block請求模塊、block發送模塊、會話管理模塊、block提供者發現模塊、網絡模塊等。
Bitswap模塊負責接收新的消息并且提供對外數據交換接口。
session管理模塊用來管理多個session,每個session管理一組文件的下載,來提高下載效率。
block發送模塊負責管理向其它節點發送數據塊。block請求模塊負責管理數據塊的請求。block提供者發現模塊負責通過DHT網絡發現網絡中的數據塊,通常session找不到已擁有所需block的節點時會調用此模塊進行數據塊發現。
IPFS星際特工搭建的節點成為Filecoin最新版本重啟后首個出算力節點:2020年7月24日14:30分,由幣碼翁區塊鏈研究院、IPFS星際特工搭建的節點t01068成為Filecoin最新版本calibration重啟后首個出算力節點,IPFS星際特工團隊表示:“接下來大礦工測試及filecoin主網上線IPFS星際特工將全面備戰,歡迎社會各界精英前來合作對接。[2020/7/24]
協議概述
為了完成節點間block交換,Bitswap定義了通信消息及通信協議。
圖4
Bitswap消息處理流程:
1、IPFS請求文件區塊,Bitswap發送want-have消息攜帶CID1信息到連接的所有節點。節點根據自己是否有CID1文件塊返回have或dont-have消息。
2、client向擁有CID1的節點發送want-block消息,節點返回相應的block消息。
3、當沒有節點有請求的block,Bitswap廣播want-have到所有的連接節點,或者通過DHT查找擁有文件區塊的節點。
模塊詳解
ChainUP聯合節點資本發起設立2000萬美元IPFS專項基金:2020年6月22日,由金色財經主辦,節點咨詢、IPFS100.com承辦,星際特工、麥客存儲聯合主辦的“星際漫游指南——IPFS技術與應用研討論壇”在深圳拉開帷幕。
在本次大會上,ChainUP聯合節點資本共同宣布發起設立2000萬美元IPFS專項基金,主要投資對象包括媒體平臺、算力云、礦機等;ChainUP創始人兼CEO鐘庚發、HashFin CEO Maggie作為主要嘉賓代表,出席了本次IPFS專項基金成立儀式。
ChainUP表示希望能夠借此機會,深度布局IPFS領域,助力Filecoin未來的應用場景早日落地。[2020/6/22]
▲?Bitswap模塊
Bitswap模塊負責接收新消息并且實現對外的數據交換接口。
當接收到新消息后,Bitswap處理流程:
1、記錄有關消息的一些統計信息
2、通知發送模塊wants消息,這樣數據發送模塊可以根據實際情況向需求節點發送響應消息。
3、通知發送模塊任何收到的blocks,發送模塊根據節點的需求列表可以將接收到的塊發送給任何需要它們的節點
4、向SessionManager通知接收到的blocks,HAVEs和DONT_HAVEs消息,這樣SessionManager可以通知消息相關的session。
MyEtherWallet發布網站托管功能,可自動將網站上傳至IPFS:金色財經報道,以太坊錢包MyEtherWallet正在發布一項名為“托管你自己的網站(Host Your Own Site)”的功能,該功能為用戶提供了一個簡單的界面,可將網站上傳到星際文件系統(IPFS)。這些網站托管在去中心化的P2P計算機網絡中,這使它們能夠抵御大多數傳統網絡上可用的審查工具。該集成可自動執行將網站上傳到IPFS的過程。[2020/6/19]
Bitswap通過FacadePattern提高了模塊使用的便利性,使得Bitswap子系統的用法變得簡單,避免了IPFS和Bitswap的高度耦合。
▲?Session管理模塊
session管理模塊用來管理多個數據塊下載session,每個session管理一組文件的下載。
當SessionManager收到新消息時,它將
1、通知BlockPresenceManager組件跟蹤每個block。
2、通知對接收到的block感興趣并想要的Sessions。
3、通知PeerManager組件收到的block,PeerManager檢查是否有任何wants被發送到節點以接收已經收到的塊。?如果是這樣,它將向那些節點發送“CANCEL”消息,防止其它節點重復發送消息。
動態 | BCH Devs發布基于IPFS的雙向支付概念:據News.bitcoin報道,BCH Devs(Bchd)的開發人員Chris Pacia透露了目前正在制作的新Bchd項目功能,該功能將允許基于比特幣現金的雙向支付渠道。此外,與Lightning Network相比,Bchd開發人員解釋說團隊已經創建了一個基于行星間文件系統(IPFS)的覆蓋網絡。[2018/12/17]
Session管理模塊通過協調多個session的數據需求來提高數據交互的效率,避免數據塊的重復請求、發送。
▲?Session模塊
Session管理一組文件的下載,用來提高一組文件塊,比如單個文件下載效率。當IPFS調用Bitswap時,Bitswap會創建一個新的Session并調用Session的相應方法,比如GetBlocks()獲取blocks。Session會管理一個節點列表,數據獲取過程只會向session中的節點獲取數據,而不是所有的連接節點。當Session中的節點都沒有某個block時,Bitswap才會通過DHT獲取具有block的節點并加入session。
由于session剛開始沒有任何節點,處于“discovery”模式。當IPFS最初從session請求block時,該session處理流程如下:
1、通知SessionInterestManager組件它感興趣的block。
2、通知sessionWantManager組件需要的block。
3、通知PeerManager組件向連接節點發送“want-have”消息,以發現哪些節點有需要的block。
4、查詢ProviderQueryManager組件以發現哪些節點具有該block。
當session收到帶有“HAVE”或“block”的消息時,它將通知SessionPeerManager組件。
當session收到帶有“block”的消息時,它將通知SessionInterestManager組件。
一旦session具有節點,就不再處于“discovery”模式。當IPFS請求后續block時,session將通知sessionWantSender組件。sessionWantSender組件通知PeerManager組件向會話中的節點發送“want-have”和“want-block”消息。
對于session所需的每個block,sessionWantSender組件通過與BlockPresenceManager組件核對哪些節點已為該block發送了“HAVE”,來確定哪個節點最有可能擁有該block。如果多個節點發送過“HAVE”,則會根據先前請求回復速度來選擇節點。
由于DHT內容發現速度慢并且網絡帶寬消耗大,session通過向一組含有目標數據塊可能性大的節點獲取數據,從而大大提高了數據塊獲取的效率。
▲?Block發送模塊
block發送模塊負責管理向其它節點發送數據塊,包含節點需求管理組件和消息發送任務隊列。
Engine是block發送模塊的處理類,當Engine被告知有新的wants時
1、將want添加到Ledger,Ledger會存儲每個節點的需求列表。
2、檢查blockstore中的相應block,并將任務添加到PeerTaskQueue組件。如果block庫沒有想要的block,則添加“DONT_HAVE”任務;如果blockstore有block,對于“want-have”添加了“HAVE”任務,對于“want-block”添加了“block”任務。
3、當Engine收到新block的消息時,它會檢查Ledger以查看是否有節點需要此block。對于發送“want-have”的每個節點向PeerTaskQueue組件添加一個?“HAVE”任務,對于為發送了“want-block”的每個節點,向PeerTaskQueue組件添加一個“block”任務。
4、Engine會定期從PeerTaskQueue組件中取出任務,并創建帶有“blocks”,“HAVEs”和“DONT_HAVEs”的消息。
PeerTaskQueue組件通過對任務進行優先級排序,發送隊列中數據量最少的節點方具有最高優先級,通過這種流控措施,提高數據塊發送處理效率。
▲?數據塊請求模塊
Block請求模塊負責管理數據塊的請求。PeerManager組件為連接到Bitswap的每個節點創建一個MessageQueue組件,記錄了“want-have”?、“want-block”已發送到哪個節點,并將任何新的wants定向到正確的節點。并且MessageQueue組件通過合并多個want為一條消息,然后將該消息發送給節點,從而提高了消息發送效率。
▲?內容發現模塊
當Bitswap找不到已擁有所需block的節點時,它會使用DHT進行內容發現。Bitswap通過ProviderQueryManager組件管理這些請求,ProviderQueryManager組件對請求進行速率限制,并對進行中的請求進行重復刪除處理。
總結
Bitswap作為IPFS網絡數據交換接口的具體實現,設計并實現了一套高效的節點間交換數據的協議。
協議主要關注點是如何快速、高效獲取需要的block,其中包括節點選擇策略,如何最大化利用每個節點的能力。
Bitswap通過FacadePattern提高了模塊使用的便利性,在具體實現上解耦復雜依賴到各功能模塊,從而降低系統實現的復雜度。
作者簡介
馬耀耀來自數據網格實驗室BitXMesh團隊研究方向:P2P網絡、數據安全傳輸
參考資料
https://github.com/ipfs/go-bitswap/blob/master/docs/how-bitswap-works.md
https://github.com/ipfs/specs/blob/master/BITSWAP.md
12月31日,區塊鏈分析公司Elliptic美國財政部擬議的規則要求用戶在將加密貨幣發送到私人錢包時,必須遵守KYC要求,這可能最終難以奏效.
1900/1/1 0:00:0012月29日,新浪財經通過梳理全年國際財經大事件,遴選出2020年國際財經十大財經新聞,其中包括“比特幣瘋漲突破28000美元,總市值突破5000億美元.
1900/1/1 0:00:00巴比特現場報道,12月19日,2020CCF區塊鏈技術大會暨首屆中國濟南區塊鏈產業發展高峰論壇在山東濟南舉行.
1900/1/1 0:00:00來源:華爾街見聞 作者:祁月 拜登提名的美國證交會主席GaryGensler正是當年《多德-弗蘭克法案》的起草人之一,華爾街視他為頭號死敵.
1900/1/1 0:00:00據36氪報道,工業互聯網企業樹根互聯技術有限公司宣布,已完成C輪8億元融資。本輪融資由IDG資本領投,騰訊戰略投資,海通投資、科源產業基金、天雅資本、建信金圓及現有股東眾為資本跟投,光源資本擔任.
1900/1/1 0:00:00據CoinDesk消息,基于波卡生態的開放式可編程保險市場TidalFinance完成195萬美元的種子輪融資,區塊鏈投資公司KR1領投.
1900/1/1 0:00:00