原文標題:《Using On-Chain Data for Policy Research: Part 1》
原文作者:Brendan Malone,Paradigm
原文編譯:Kxp,BlockBeats
I. 引言
Crypto 政策在制定時很少會用到真實且細化的數據,原因主要有以下三點:
1. 新興技術領域的相關政策大多還停留在理論及定性分析層面,早期階段很少會使用到數據。
2. 盡管鏈上數據全部開放透明,但要想訪問這些數據人們需要在短期內完成大量工作(即直接從區塊鏈提取原始數據),即便對于 Crypto 原生從業者來說也是如此。
3. 區塊鏈「取證」公司和數據供應商有少量的數據產品,但它們都不具備靈活性/可定制性,也不能滿足經濟/金融研究人員的需求。
許多現代經濟學和金融學研究人員錯過了將工具應用于 Crypto 數據分析的機會。從設計上講,Crypto 可以向任何人提供細化數據,但大部分政策在制定時仍依賴于 CoinMarketCap 等外部預聚合時間序列數據源,而不是直接從數據源獲取數據,這又是什么原因導致的呢?
正如政策制定者可以查詢美國每家主要銀行的資產負債表,并逐秒觀察消費者存款的變化一樣,他們也可以毫不費力地查看整個 Ethereum 生態系統的 Stablecoin 發行情況,但大多數分析 Stablecoin 的政策文件卻采取了一種探討假設事件的分析方法。
ParaSpace創始人Yubo在團隊支持下建立新官推:5月11日消息,Paraspace_Official推特賬號于1小時前創建,該賬號發布推文稱:ParaSpace NFT社區,我們是核心開發團隊,目前由智能合約工程主管@0xJ_C運行。當前的Paraspace推特已被顧問非法控制:Jay、JennDuong和Thomas Schmidt。我們譴責他們企圖強行接管的虛假聲明。我們由30名工程師組成的核心團隊團結一致支持創始人Yubo,從而保護協議及其用戶。在接下來的4個小時里,我們將以完全透明的方式向社區發表講話。[2023/5/11 14:56:50]
我將在本篇中具體闡釋以下幾點內容,希望可以對想要使用鏈上數據的政策研究人員有所幫助:
· 鏈上數據的獲取方法
· 鏈上數據所采用的結構
· 提取和使用鏈上數據的幾個基本工具
在隨后的文章中,我將探討如何使用這里收集的數據來判斷 Crypto 市場的走勢。同時,我將在結尾發布可供免費使用的數據和代碼。通過闡明如何在區塊鏈中查詢數據,我希望向大家展示 Crypto 的開放性可以為數據決策開辟的新方法。
如果您就職于一家監管機構或研究機構,并在獲取 Crypto 數據時遇到了困難,歡迎與我們取得聯系分享你的想法,了解 Paradigm 可以為您提供哪些幫助。
II. 鏈上數據獲取方法
基于Injective的去中心化交易所Parallel已上線:金色財經報道,據官方推特,基于Injective的去中心化交易所Parallel已上線,支持現貨、永續合約和匿名交易,外匯市場即將推出。[2023/4/10 13:54:04]
一般來講,數據收集工作應集中在一個區塊鏈(Ethereum)及特定項目的子集上,這些項目主要是以美元計價、法幣支持的 Stablecoin,具體包括 USDC、Tether、Binance USD、Pax Dollar 和 Gemini Dollar。該方法廣泛適用于鏈上數據,即便你想創建一個不同的數據集。
Etherscan 這類區塊瀏覽器非常適用于查看交易快照以及收集特定智能合約的信息,但根據我的經驗,它們卻不太能用于生成大型數據集。在收集和處理原始數據時,你基本上有兩個選擇:(1)在本地運行一個完整的節點,或(2)查詢已經從鏈上直接寫入原始數據的數據庫。第一種方法對于專業技能和計算資源的要求比較高,而第二種方法則只需要基本的 SQL 和 Python 技能就可以實現,所以這里我們將采用第二種方法。
Dune 和谷歌云平臺(GCP)的 BigQuery 有最新的鏈上數據,這些數據都以表格的形式存儲在數據庫中,研究人員可使用 SQL 命令對其進行查詢。Dune 還提供免費的數據庫,不過其速度較慢,而且還有些局限性,但它非常適合于 A/B 測試的數據查詢,也有助于你熟悉數據庫的運行模式,尤其是對于那些不善于使用 SQL 查詢關聯數據庫的人。BigQuery 雖然更加靈活快捷,但谷歌會對計算資源收費,所以其價格也相對昂貴。我在第一次處理數據時,為了節省費用,我會先在 Dune 中測試查詢語句,然后再將其輸入 GCP 中運行。在大多數情況下,這種方法都能起到很好的效果(還有一點值得注意的是,Dune 的 Crypto 表格數量至少是 GCP 的 100 倍,包括一些用戶生成、預先清理過的高質量 Crypto 表格。相比之下,GCP 中的數據大多是原始區塊或交易。Dune 也有一些非常方便的內置數據可視化工具,值得單獨購買。)
Paradigm、a16z等加密風投機構資產管理規模激增:4月5日消息,數據顯示,Web3和加密風投機構Paradigm的資產管理規模達132億美元,相比其2020年12月提交的財報中披露的29.8億美元增長343%。
商業記者Eric Newcomer研究了Web3和加密領域部分風投機構最近向美國SEC提交的投資顧問注冊申請文件。文件顯示,Andreessen Horowitz(a16z)總資產管理規模超過546億美元,相比之前披露的358億美元增長近53%,其中專注于加密貨幣的基金資產管理規模約為90億美元。
此外,紅杉資本(Sequoia Capita)資產管理規模達855億美元,此前披露的數據為807億美元。老虎環球(Tiger Global)資產管理規模達1247億美元,相比2021年披露的791億美元增長約58%。(Cointelegraph)[2022/4/5 14:05:05]
III. 鏈上數據結構
要回答這個問題,你首先需要搞清楚自己處理數據的目的。對于這個測試案例,我決定為主要的法定支持 Stablecoin 建立一個大型的時間序列數據集,并觀察一些特定的行為: 鑄幣(即發行 Stablecoin),燒毀 (即停止流通 Stablecoin) 和轉移。我之所以選擇以這種方式進行研究,是因為政策制定者和學者目前最為關注法定支持的 Stablecoin,所以這些數據在短期內可能相當有用。
動態 | CryptoCompare:頂級加密貨幣交易所僅占全球現貨交易量的三分之一:CryptoGlobe今日報道,根據加密數據提供商CryptoCompare更新的加密交易所排名,頂級加密貨幣交易所僅占全球現貨交易量的三分之一。CryptoCompare調查了160個現貨加密貨幣交易所發現,頂級加密貨幣交易所(AA-B級)占全球交易量的33%,而較低級別的交易所(C-E級)則占全球交易量的67%。[2019/11/20]
以美元計價的幾大 Stablecoin 都采用了 ERC-20Token 標準。顧名思義,ERC-20 是一種在 Ethereum 上使用智能合約創建 Token 的標準化方式。如果你把區塊鏈理解為一個巨大的去中心化 Excel 表格,那么智能合約就類似于 Excel 函數。在函數中輸入參數之后,它將使用其內置邏輯產生一個特定的輸出結果(例如,MAX 函數就是用來輸出所輸入參數中的最大值)。
我們可以使用智能合約的 Ethereum 地址來對它們進行定位,這些地址是區塊鏈數據結構中的唯一標識符:
· USDC
· Tether USD
· Binance USD
· Pax Dollar
· Gemini Dollar
與 API 類似,智能合約也是可以重復使用的程序。每次智能合約獲得互動指令時,都會產生該互動的記錄,并由 Ethereum 協議以日志的形式記錄在區塊鏈上,而這些日志則構成了智能合約活動的可靠信息來源。
動態 | 投資公司SparkLabs將推出網絡安全和區塊鏈加速計劃:據Techcrunch消息,投資公司SparkLabs已經在亞太地區開展了加速器項目,現在它已經宣布了第一個基于美國土地的加速器計劃,它將是一個網絡安全和區塊鏈計劃,將于明年在華盛頓特區開展。[2018/9/20]
當智能合同執行一個特定函數時,例如燒毀 ERC-20 Stablecoin 以將其從流通中移除,該函數及其參數將作為交易日志記錄在區塊鏈上。
在下面的交易中,USDC Stablecoin 的發行商 Circle 燒毀了價值 1056.92 美元的 USDC。
如果你切換到「日志」標簽,你就可以查看交易事件日志,相應的字段為
· 地址:智能合約的合約地址。USDC Stablecoin 的合約地址是0xa0b86991c6218b36c1d19d4a2e9eb0ce3606eb48。
· 名稱:智能合約執行的函數,以及該函數中的參數。在這里,智能合約正在調用燒毀函數,該函數接收的參數指定了所燒毀幣的發送地點(例如燃燒池,必須是 Ethereum 地址)和燒毀幣的數量(其金額必須是小于 256 位的無符號整數)。
Etherscan 的輸出結果還會顯示主題和數據字段,這些字段包含了我們在分析交易時需要解析的大部分相關信息。
· Topic0 是函數簽名的哈希值。從本質上講,它會將函數及其參數經由單向算法得到一個唯一的函數哈希值。Ethereum 使用的是 Keccak-256 哈希函數,當你通過 Keccak-256 算法輸入函數簽名時,它總是會產生相同的哈希值,所以任何時候該哈希值出現在日志中,你都能確信是調用了同一個函數。
· Topic1 是燒毀函數的一個索引參數。在這里,Topic1 是燒毀的 Token 被發往的地址。(注意:如果燒毀函數有更多的參數,這些參數將作為額外的主題出現)
· 這里的數據字段表示所燒毀 Token 的數量。
既然我們已經了解了鏈上數據的基本結構,就可以開始從 Dune 和 GCP 中提取數據了。
IV. 提取并處理鏈上數據的基本工具
如前所述,在這個例子中,我選擇從現有數據庫中提取鏈上數據,而不是訪問 Ethereum 網絡上的活動節點。為了便于理解,我使用 SQL 從 GCP 提取了大量原始數據表格,然后在 Python 中使用 pandas 庫對其進行清理。
當我們從 GCP 提取表格時,我們將使用 BigQuery,它儲存有很多 Ethereum 的數據表,如下圖左邊一欄所示。當你點擊一個表格時,相應的數據庫模式就會出現,就如下圖中的 ethereum.logs 表。與此同時,其中涉及的地址、數據和主題都會記錄到日志數據中去。
下圖中的查詢語句將用于提取日志表中涉及與 USDC、Tether USD、Binance USD、Pax Dollar 或 Gemini Dollar 合約互動的所有記錄。除了 ethereum.logs 中的信息外,一些額外的信息也很有用,所以我還合并了 ethereum.block 表中的數據,其中涵蓋了 Gas 費等信息。
得到的表格可以直接由 Python 讀取,并借助 pandas 數據框架細分為以下字段:
· log_index
· transaction_hash
· transaction_index
· address
· data
· topics
· block_timestamp
· block_number
· block_hash
· number
· miner
· size
· gas_limit
· gas_used
· base_fee_per_gas
這些字段中的大多數都可以直接使用,不過第三節中討論的主題字段需要用 Python 進行一些額外的清理,以便將其分成多列。
V. 結語
這篇文章使用的是 Ethereum 的日志數據,同樣的方法也可以用來訪問鏈上的各種數據。Python 和 SQL 是大多數經濟學家和政策制定者所熟悉的工具,它們可以發揮很大作用。與傳統金融相比,Crypto 更具透明度。這樣一來,研究人員就可以利用實時數據來闡明金融體系的運作方式,并及時控制住可能出現的風險。
區塊律動BlockBeats
媒體專欄
閱讀更多
金色早8點
金色財經
1435Crypto
吳說區塊鏈
blockin
比推 Bitpush News
Block unicorn
Foresight News
Odaily星球日報
Bankless
DeFi之道
Tags:ETHEETHTHEETHERYFTetherEtherlandtogetherbnb幾個女主Ether Data
撰文:Miguel Cienfuegos自從非同質化代幣(NFT)的市場數據在 2021 年登上新聞之后,許多 Web3 的熱愛者和技術專家發布了專門的 NFT 帖子和文章.
1900/1/1 0:00:00香港特別行政區財經事務及庫務局于今日(10月31日)正式發布《有關香港虛擬資產發展的政策宣言》,就在香港發展蓬勃的虛擬資產行業和生態圈,闡明政府的政策立場和方針.
1900/1/1 0:00:00作者:比推 Jonathan Smith這兩天,趙長鵬(CZ)和 Sam Bankman-Fried (SBF) 在社交媒體上隔空對罵、互相拆臺.
1900/1/1 0:00:00隨著聯邦公開市場委員會(FOMC)為期兩天的政策會議即將結束,投資者似乎對美聯儲準備繼續加息充滿信心.
1900/1/1 0:00:00創作者:twinFin 翻譯者:Shaun@DAOrayaki.org審核者:Yofu@DAOrayaki.
1900/1/1 0:00:001.萬字長文:全面解讀新公鏈新生態近日,明星公鏈Aptos主網剛上線流通市值即超10億美元,本篇我們將從基于MOVE語言的公鏈生態(Aptos、Sui、Linera)、模塊化區塊鏈生態(Cele.
1900/1/1 0:00:00