比特幣交易所 比特幣交易所
Ctrl+D 比特幣交易所
ads
首頁 > MANA > Info

區塊鏈說數據沒被篡改過,是不是在騙你 ?_HASH

Author:

Time:1900/1/1 0:00:00

前文《打破K/V存儲的性能瓶頸》中,我們提到用一個哈希值來反映區塊鏈系統中所有對象的當前狀態集合,并稱之為“世界狀態”。現在大多數區塊鏈底層平臺為了支持與其他鏈集成,或者為了部署在更小的終端,都會提供輕節點的功能,輕節點也就是存儲少量數據的“輕量級節點”,但因為沒有存儲全量數據,無法對其他節點的數據進行正確性的驗證。這里便需要其他節點生成一份數據證明,配合輕節點本地保存的“世界狀態”來進行數據的驗證。

這份數據證明是什么?又是怎么實現的?帶著這份疑問,本文將詳細介紹目前主流的數據證明的實現以及解決方案和優化思路。

介紹數據證明前,我們先要了解傳統的默克爾樹,以及對應的證明生成和驗證的流程。

默克爾樹,因發明人叫Merkle,并且是樹形結構而得名。如下圖,默克爾樹的葉節點存儲數據或者數據的哈希值,任一父節點包含了其子節點總和的哈希值。

默克爾樹最大的作用便是快速校驗部分數據是否在原始數據中。

舉個例子,要想驗證L2在上圖的這棵樹上,只需要節點列表即可,通過L2可以計算出Hash0-1,通過Hash0-1與Hash0-0可以計算出Hash0,再通過Hash0與Hash1,便可以得到一個樹根,再把該樹根與TopHash進行比對即可快速驗證L2是否在樹中。默克爾樹生成數據證明以及驗證數據證明的原理就是如此,生成證明時自底向上,不斷獲取父節點的兄弟節點,打包成數據證明;驗證時通過遍歷證明中的節點列表,不斷進行哈希得到父節點的操作,最后可以得到樹根節點,再把該樹根與原樹根進行比對,達到驗證的目的。

動態 | 外貿金融服務指導意見:鼓勵銀行保險機構探索區塊鏈等技術:金色財經報道,中國銀保監會、商務部、國家外匯管理局發布關于完善外貿金融服務的指導意見。指導意見中提到,鼓勵銀行保險機構進一步加強業務系統建設,通過銀企直連、銀保直連,實現貿易信息快速交換和線上貿易背景審核。鼓勵銀行保險機構整合線上線下服務資源,為客戶提供更多在線自助辦理業務的通道,提升服務效率。鼓勵銀行保險機構加強外貿金融業務數據積累與分析,為風險識別、計量、監測、管控及業務資源配置提供必要支撐。鼓勵銀行保險機構積極探索大數據、區塊鏈、生物識別、人工智能等現代信息技術在外貿金融業務中的應用。[2019/12/26]

這種基本的默克爾樹廣泛應用在區塊鏈系統中,例如比特幣中輕錢包的SPV便是應用該原理,比特幣中區塊記錄的root便是區塊中交易集合構成的默克爾樹的樹根,使得無需下載完整區塊,只需要區塊頭便可以驗證某條交易的有效性。

默克爾樹雖然滿足了數據證明以及驗證的需求,但是其二叉樹的結構,會使其在存儲龐大的狀態數據時,造成中間節點太多,有存儲壓力大的問題;并且默克爾樹在對數據的增刪改查方面沒有解決方案,我們知道狀態數據在執行合約時需要頻繁的讀寫,因此可以對數據進行查詢修改也是非常重要的,針對以上幾點問題,以太坊提出了默克爾帕特里夏樹。

聲音 | 斯雪明:預計我國在2019年具有投入產出的區塊鏈企業將超過600家:據中國電子銀行網報道,中國計算機學會區塊鏈專委會主任、河南省區塊鏈技術研究會特別顧問斯雪明在主題演講中指出,我國區塊鏈產業生態初步形成,產業規模較小。2018年上半年,我國提供區塊鏈專業技術支持、產品、解決方案等服務且有投入或產出的區塊鏈企業共425家,產業規模達到4.5億元。預計在2019年具有投入產出的區塊鏈企業將超過600家,產業規模有望超過8億元人民幣。[2019/4/23]

▲?什么是MPT?

MPT主要結合了默克爾樹和前綴樹的特點,前綴樹顧名思義,是一種利用字符串的公共前綴來進行查詢的樹,如下圖所示,用來查詢有共同前綴的數據不需要進行字符的比對,十分方便,但缺點也十分明顯,如果一個字符串與其他節點沒有公共前綴時,便會帶來很多節點的創建,造成存儲空間的浪費。

基于默克爾樹以及前綴樹的優缺點,MPT提出了四種節點類型:

1)空節點:用來表示空字符串;

動態 | 報告:中國新區塊鏈項目數量占全球新區塊鏈項目的25%:據The Block消息,數據服務提供商Blockdata的數據顯示,中國新區塊鏈項目數量占全球新區塊鏈項目的25%。截至11月,中國有263個區塊鏈項目正在開展。與此同時,根據北京智庫EO Intelligence的數據,中國已有615家區塊鏈公司或子公司,其中大多數已在過去兩年中推出。這包括中國互聯網巨頭百度、阿里巴巴和騰訊,他們已經開始了自己的區塊鏈項目。同時,在中國,區塊鏈主要用于金融服務、公共服務、醫療保健和供應鏈等領域。[2019/4/3]

2)分支節點:用來表示MPT樹中所有擁有超過1個子節點以上的非葉子節點,最多能容納十六個子節點;

3)葉子節點:表示為的一個鍵值對,其中key是一種十六進制編碼(HP編碼),value是節點具體內容的RLP編碼;

4)擴展節點:同樣表示為的一個鍵值對,不過value是其他節點的hash值,這個hash可以被當做key,用來在數據庫中查詢子節點;

動態 | 8名涉嫌利用“區塊鏈”“虛擬貨幣”等新概念詐騙團伙被逮捕:一個犯罪團伙連續實施詐騙,利用“區塊鏈”“虛擬貨幣”等新概念,謊稱發行“BNM”“TVB”等虛擬貨幣,大肆非法斂財,短短數月內,初步核實涉案金額達60余萬元。8名犯罪嫌疑人已被江蘇省蘇州市相城區檢察院批準逮捕。[2019/1/14]

相比于普通的前綴樹以及默克爾樹,MPT加入了擴展節點,可以將不共享的前綴壓進一個節點,帶來路徑壓縮的特性,降低了樹的高度,減少了空間浪費;分支節點的加入,使得單個節點最多能有十六個分叉,同樣也是降低了樹高;并且通過哈希值進行樹節點間的連接,確保了安全性與可驗證性。

對MPT上的數據進行增刪改查,需要通過前綴索引到對應的節點,葉子節點的改動會帶來新的分支節點或者擴展節點的加入,新的節點需要進行哈希計算得出新的哈希值,然后更新父節點的信息,造成索引路徑上節點的哈希值的連鎖的改動,最后生成一個唯一的“世界狀態”。

在MPT上,要想生成數據證明,也需要沿著樹進行前綴的索引,并把索引路徑上的節點打包成證明返回即可。驗證數據證明的時候,需要驗證葉子節點中鍵的正確性,并且對證明中的節點列表進行自底向上的哈希操作,最后比對樹根的值即可。

聲音 | 民生銀行北京分行史馨宇:借助區塊鏈等創新技術手段解決供應鏈金融痛點:12月22日訊,據北京商報消息,昨日,在第四屆北京金融論壇上,民生銀行北京分行交易銀行部副總經理史馨宇,自有資金有限、無法滿足融資規模持續增長要求、傳統授信模式難以滿足核心企業及供應鏈的要求等是供應鏈金融的痛點和難點。借助科技平臺、大數據、物聯網、區塊鏈等創新技術手段解決供應鏈金融中的痛點和難點,實現科技賦能。[2018/12/22]

▲?性能瓶頸

上文提到以太坊是以節點的哈希值作為數據庫存儲節點的鍵,這些節點的存儲與區塊號或交易并沒有任何綁定關系,并且散落在整個狀態空間中的,那么隨著交易量的增大,狀態變遷帶來的新節點也會增多,數據存儲壓力會越來越大。

由于以太坊底層采取的是leveldb存儲,對于每個鍵值的讀取最壞情況下需要一次磁盤IO,那么在執行合約的時候,將會有大量的時間耗費在狀態的讀取中,久而久之系統整體的性能會越來越差。

當下主流數據庫一般分為兩種:以LSM樹為主的數據庫例如leveldb、rocksdb;還有以B+樹為主的數據庫例如mysql。相同條件下B+樹的讀要比LSM樹更有效率,在聯盟鏈場景下,我們知道大部分應用場景都是讀多寫少,那么針對聯盟鏈,能不能基于B+樹來提出一種既能實現數據證明,又可以兼顧到讀寫性能的方法呢?答案是肯定的,我們提出了一種默克爾B+樹的結構,結合了B+樹以及默克爾樹的特點,降低了查詢所需的磁盤IO以及存儲的數據量,在保持高性能的同時,還能提供數據證明、數據可驗證的功能。

▲?什么是默克爾B+樹?

B+樹是一種n叉的平衡查找樹,所有鍵值對都會按鍵值的大小順序存放在最后一層葉子節點中,父節點會記錄其連接的子節點的最小鍵值,方便索引。

默克爾B+樹以B+樹為基礎,包含了兩種節點:處于最后一層的數據節點、索引節點,該樹具有以下的特點:

1)每個節點會有一個ID;

2)索引節點的子節點列表中存放了子節點的最小鍵以及哈希值;

3)數據節點的子節點列表存放的是狀態數據鍵值對;

4)每個節點的哈希值由它的子節點列表總和的哈希值得出;

如上圖,將狀態數據以鍵值對的形式存入數據節點,每個節點最后會以頁的形式存放到磁盤中,為了更適應磁盤的讀寫策略,規定每個頁大小為4K,這樣就可以通過計算出頁ID*頁大小的偏移量從磁盤讀取某個節點。

同樣我們規定每個節點最多容納4K的數據,如果某個數據節點插入太多鍵值對,導致其超過了4K的閾值,將會產生分裂,變為多個不超過閾值的新數據節點,并把對應的新節點信息插入到原父節點的子節點列表中,再遞歸檢查父節點即索引節點是否超過閾值,如果超過將會重復分裂過程。

這里我們會提供一個最大頁ID以及空閑ID列表來管理頁ID,當新建了一個節點時,會先去空閑ID列表查詢一下是否存在滿足條件的ID,有則取出來分配給新節點,否則會把最大頁ID分配給新節點,并遞增最大頁ID。有分配自然就會有回收,當節點A分裂為節點B和節點C時,節點A的頁ID就會被回收,納入到空閑ID列表中。當發現某個節點變為空節點時,也會被回收頁ID。

由于默克爾B+樹在每個節點都存儲了哈希值,每次對狀態數據的增刪改查,都會造成底層數據節點的變動,進而影響從數據節點到根節點路徑上的節點哈希值,最后生成出唯一的“世界狀態”。

在生成數據證明時,同樣是沿著樹根,通過鍵的比對向下索引,并把索引路徑上的節點打包成證明返回即可。驗證數據證明的時候,可以在數據證明中的節點路徑進行同樣的索引操作,驗證索引路徑的一致性,并且進行節點哈希值的正確性校驗,最后比對樹根的值即可。

▲?優化思路

根據上文來看,默克爾B+樹確實可以實現較高的讀寫效率以及可驗證性,但是還有很大的優化空間,基于此,我們打算從優化磁盤讀的角度提出優化思路。

對于節點限制在4K大小這點,可以有效提高節點分叉數,降低樹高,進而降低磁盤IO次數,但是仍然需要log(n)次的磁盤IO,為了最大化降低IO次數,我們把索引節點與數據節點分開存儲為索引文件和數據文件。索引節點中可以認為只存放了鍵,因此索引文件遠遠小于數據文件,把索引文件通過mmap的形式維護在內存中,這樣對底層的數據的讀取只需要數據文件的一次磁盤IO即可,大大提升了讀效率,在聯盟鏈讀多寫少的場景下具有較大的優勢。

本文是存儲系列推文的延續,主要闡述了區塊鏈中數據證明的實現。

首先介紹了對狀態數據做數據證明的背景需求,并以以太坊為例,詳細介紹其狀態數據存儲結構MPT,闡述了在MPT上數據證明以及驗證的實現,并進一步分析了以太坊的性能瓶頸。

針對聯盟鏈讀多寫少的場景,本文提出了一種以默克爾B+樹為基礎的解決方案,解釋了在默克爾B+樹上的數據證明以及驗證的實現,并且為了進一步提高性能,提供了優化思路,通過索引與數據分離的方式來完善可用性。

作者簡介

鄭柏川趣鏈科技基礎平臺部區塊鏈存儲研究小組

參考文獻

?https://github.com/ethereum/go-ethereum

https://en.wikipedia.org/wiki/Merkle_tree

Tags:區塊鏈HASHMPTASH區塊鏈的未來發展前景分析hashpowerjmpt幣合約地址BABYDOGECASH價格

MANA
Arbitrum鎖倉值一周飆升3200%,以太坊Layer 2季節來了?_ARBI

北京時間9月13日消息,據DuneAnalytics統計數據顯示,以太坊Layer2網絡Arbitrum的資產橋TVL已突破21億美元,其7天的TVL增長率超過了3200%,而在同期.

1900/1/1 0:00:00
調查:45%的加密貨幣持有者會受金·卡戴珊等名人的建議影響_MOR

據Cointelegraph9月23日消息,根據MorningConsultant對2200名美國成年人的調查顯示,其中45%持有加密貨幣的受訪者表示,如果某項數字資產得到名人的支持.

1900/1/1 0:00:00
從Layer 0到Layer 2,一文概述狀態通道的數學解釋_MOR

隨著區塊鏈行業的不斷發展,Layer2已經逐步上線,面向市場大眾,與此同時,Layer0與Layer1擴容解決方案也在不斷優化中.

1900/1/1 0:00:00
數據:Cosmos生態項目Terra市值是Cosmos的近3倍_CRYPTO

巴比特訊,9月11日,據coingecko數據顯示,Terra流通市值165億美元,排名Crypto市值TOP11。Cosmos流通市值是81億美元,排名Crypto市值TOP24.

1900/1/1 0:00:00
NFT項目Sneaky Vampire Syndicate的NFT頭像已售罄,持有者約為4600名_NFT

巴比特訊,9月13日,NFT項目SneakyVampireSyndicate發推表示,NFT已售罄,買家對SVS的需求是瘋狂的。目前不同的擁有者約為4600名.

1900/1/1 0:00:00
Cardano創始人:會有更多國家效仿薩爾瓦多的比特幣舉措_比特幣

據Cointelegraph9月8日報道,繼薩爾瓦多在周二歷史性地采用比特幣作為法定貨幣之后,Cardano創始人CharlesHoskinson預測.

1900/1/1 0:00:00
ads