在信息時代裸奔,我們總會被數據挾持、出賣。因為你的數據不屬于你。
時下,是應該聊聊數據和隱私的時候了。
2019年末,我曾把零知識證明、多方計算、可信執行環境等隱私計算技術的代表項目匯聚到一起做了一期極為深度的討論。
那時,在區塊鏈產業分布里已經有了隱私賽道,有少數項目在研究、拓展、嘗試,只是對于隱私、隱私計算以及數據等維度并沒有那么清晰的判斷。
把時間線放的更長一些,從2018年至今,我們其實看到了隱私項目向隱私計算的迭代,這一現象代表了一些技術的發展和應用的趨向性。
在對這些項目分析解構,對市場需求進行考證后,筆者認為此時該提出一個有效的觀點。
即:當今的區塊鏈隱私計算項目里,誰想拿下隱私計算第一槍,要率先建立隱私計算的“分布式數據湖”。
原因很簡單:數據存儲在數據庫里并不能直接產生價值,只有經過數據訓練才有價值,也就是數據要有為深度學習、聯邦學習服務的能力,而數據湖是這個路徑里的必然選項,基于去中心化模型里,會出現新的“分布式數據湖”。
本文里,我會為這個名詞開個腦洞,在符合邏輯推演的范圍內為大家闡述一個框架。但這種模型目前并未有非常成熟的案例,如有偏頗,歡迎各位指證。
先談一談什么叫數據湖
金色晨訊 | 5月30日隔夜重要動態一覽:21:00-7:00關鍵詞:數字美元項目、亞馬遜專利、法國央行、股票
1.CME比特幣期貨6月合約收跌0.94%。
2.股票市場過去12個月表現優于比特幣。
3.數字美元項目發布白皮書,旨在為美國CBDC奠定基礎。
4.美國專利商標局已批準亞馬遜的DLT系統專利申請。
5.法國央行發言人:已經建立“內部私人區塊鏈”以測試數字歐元。
6.國際貨幣基金組織重申反對馬紹爾群島國家數字貨幣。
7.巴西央行行長:最后一步將是數字貨幣。
8.俄羅斯加密社區就完全禁止加密交易的法案草案發起抗議。
9.Novi發言人:Calibra最初起名特意與Libra相似 更名旨在避免混淆。[2020/5/30]
數據湖的概念,來自大數據和機器學習業務。
我們日常一定聽過數據庫,數據庫的形式可大可小,是非常獨立的數據存儲單位,每個數據存儲位置都是一個數據庫,當數據庫之間被打通,形成一個大數據交互結構,就可以理解為數據湖的形象。
筆者在亞馬遜的AWSLakeFormation服務定義里查到了數據湖的名詞定義:
數據湖是一個安全的集中式輔助存儲庫,它以數據原始形式和可用于分析的形式存儲所有數據。利用數據湖,可以分解數據孤島并組合不同類型進行分析,獲得分析結果指導更好的業務決策。
金色午報 | 5月6日午間重要動態一覽:7:00-12:00關鍵詞:烏克蘭、鞍山、澳本聰、BTC減半
1. 烏克蘭代理能源部長提議該國核電站進行加密挖礦,以緩解過度發電問題;
2. 區塊鏈項目落戶馬鞍山軟件園 打造檔案信息化產業新高地;
3. 澳本聰再次被指控抄襲;
4. 中芯國際回科創上市 多次嘗試礦機但性能不足;
5. 數據顯示:115個地址控制著USDT供應總量的56%;
6. BTC減半倒計時進入最后5天 全網算力小幅度上升;
7. Pantera Capital創始人:疫情爆發以來啟用區塊鏈的匯款激增;
8. 觀點:比特幣市場投資者當前仍處于“早期狀態”。[2020/5/6]
所以我們可以理解為,當若干個原始存儲的數據庫連接起來,就是數據湖。但這個數據湖怎么工作呢?
這一段描述可以粗略看到一些工作需求。
“設置和管理數據湖包括加載來自不同來源的數據、監控這些數據流、設置分區、打開加密和管理密鑰、定義轉換作業并監控其操作、將數據重新組織成列格式、配置訪問控制設置、刪除冗余數據重復數據、匹配鏈接記錄、授予對數據集的訪問權限以及隨時間推移審核訪問權限。”
所以數據湖的主要功能是數據的交互,而處理其關鍵問題是加密和數據集的訪問權限。在我們所期待的去中心化數據湖里,似乎也是如此。
金色晨訊 | 3月11日隔夜重要動態一覽:21:00-7:00關鍵詞:標普500大漲,深圳科創委、區塊鏈法治
1.深圳市科創委:打造數字經濟創新發展試驗區。
2.河北省今年將促進區塊鏈技術應用及產業發展。
3.內蒙古自治區司法廳2020年將聚焦實施“區塊鏈 法治”工作模式。
4.市場不再預期美聯儲3月降息100個基點。
5.CME比特幣期貨3月合約收漲1.85%。
6.標普500指數創2018年12月以來最大單日漲幅。
7.Boerse Stuttgart CEO:歐洲新反洗錢規則使加密對機構更具吸引力。
8.外媒:法國巴黎銀行禁止客戶向Coinbase匯款。
9.比特幣日內寬幅震蕩,最高漲至8034.54美元,最低跌至7737.46美元。[2020/3/11]
再談一談我們期待的去中心化數據結構
去中心化的數據結構,是去中心化的隱私計算的基礎,很簡單,就是數據是分散在生產者處,存在于我們的手機、電腦其他終端設備里。
當然,手機數據大多是有緩存的,有些數據是短時存儲,我們所看到的那些互聯網App收取用戶的數據,都是其所需要的數據,而這些數據有些實時產生,在緩存里,有些存儲在本地存儲里。我們雖然在本地可以操作查看,但平臺也可以隨時拿走數據,因為所有權并非在用戶這里。
在去中心化的數據結構里,數據在本地存儲,還需要把所有數據加密,并且你所使用的App無法獲取你的數據,除非你主動向App提供交互,或者允許授權。
金色沙龍 | 犇睿資本創始人:加強網絡安全的管理控制,設計多層安全防護系統以減輕風險:今日舉行的金色沙龍圓桌討論中,針對“交易所如何設計合理的風控機制、設計原則是什么”的問題,犇睿資本創始人褚康表示,交易所衍生品產品面臨的風險主要包括,操作風險(如法律合規、稅務等我們常見的風險類型)、流動性風險、商譽風險和安全風險。這意味著交易所設計風控機制時應當:一是確保合規性審查,保證產品和交易的設計符合交易所所在地、交易發生地的監管需求。二是杠桿交易的合理設計,不能脫離合理的金融工具范疇,成為金融違規的工具。第三則要提供流動性的保障,以免受流動性不足的影響而拖累交易所聲譽。最后,加強網絡安全的管理控制,設計多層安全防護系統以減輕風險。[2020/2/26]
這個場景里,我們期待的是:平臺在沒有授權時是拿不走我們的數據的。但這僅代表的是成型的存儲數據。而我們有很多的數據,是需要經過中心化服務器處理的。
例如加入一個社交媒體,我們的用戶名,手機號,郵箱等等數據都是容易暴露的,理想狀態下,他人對我們選擇不公開的數據不可見,而關鍵的是,平臺也要對數據不可見,或者不可用。
這需要平臺具備一些基本的功能,而平臺的功能,一定是其背后開發功能中的體現,這就有關于我們知道的區塊鏈項目了,例如賬戶ID具備隱私功能,信息訪問權限的設定。
金色晨訊 | 央行聯手5銀行開發區塊鏈平臺 美國法官裁定兩起ICO欺詐案適用美國證券法?:1.SEC指控加密資產管理公司基金未注冊且虛假營銷
2.美國兩州要求印度扣押Bitconnect負責人資產
3.加州伯克利教授:穩定幣無法解決比特幣不穩定性
4. Coinbase、Circle等加密公司正組建區塊鏈協會
5.央行聯手5銀行開發區塊鏈平臺 中小微融資成本或降至6%以下?
6.美國金融業監管局首次對ICO提起欺詐指控
7.沙特阿拉伯英國銀行加入R3區塊鏈生態系統
8.趙長鵬:穩定幣是通往加密世界的橋梁
9.SEC控告未注冊經紀自營商提供加密貨幣[2018/9/12]
我們看到保護隱私的區塊鏈項目,都會在這方面努力。
不過區塊鏈和加密貨幣有一些天然隱私特性,例如區塊鏈的歸屬權、加密貨幣的無需許可以及地址的匿名性。
只是當數據真的形成一定的體量之后,大部分的業務都與生活息息相關,所以匿名性之后會有kyc,kyc后,數據的隱私和隱私計算,無可厚非的成為最重要組成部分。
區塊鏈世界里,誰能建立數據湖?
互聯網大數據技術早已和云計算融合多年,在傳統云計算里,AI需求的數據湖對數據的控制已經變得很簡單,進展到了SaaS級別。
例如上文的AWSLakeFormation其創建過程很簡單,只需定義數據源,制定要應用的數據訪問和安全策略就行。LakeFormation模塊會幫助使用方從數據庫和對象存儲中收集并按目錄分類數據,將數據移動到新的數據湖里,使用機器學習算法清理和分類數據,并保護對敏感數據的訪問權限。
而對外表象是,使用方建立應用的用戶可以訪問那些描述了可用數據集及其適當用法的集中數據目錄。然后,用戶可以通過所選的分析和機器學習服務,利用這些數據集。
簡而言之,這個邏輯把分布在各處的數據,最終在數據服務上體現了價值,這是去中心化世界里,很多項目想要實現的,如果只是簡單的把數據控制在用戶手里,那用戶仍只是體驗了平臺的服務,而并非將數據可以變現,雖然說數據token化就可能有交易價值,但這種交易價值暴力程度遠不及在人工智能里實現的產業價值。
例如,如果微信去中心化了,我們在微信的行為數據就再也不會直接拿走被利用到廣點通里,你的朋友圈里不會出現“你剛剛和其他人說過的”你想買的物品,也不會被粗暴的推薦某些產品。
區塊鏈項目想實現這樣的愿景,但發展之路可能略有曲折。因為這樣的應用很難實現。
我們看到的區塊鏈項目,除了Defi、Nft這些應用層項目,其他都是基礎設施,而以區塊鏈的基礎設施,性能很難完成互聯網平臺的業務需求。
當隨著區塊鏈以及加密貨幣不斷擴展,網絡中的用戶增加,每個地址的關聯數據也開始增加,所有用戶的數據集中呈現了龐大的規模。這些存在本地的數據,就也組成了龐大的數據集群。
在這基礎之上,能實現數據湖的,并不多。因為實現數據湖,需要單獨的算力、存儲、算法等等。在區塊鏈項目的設計里,這個部分可能需要單獨的一層網絡,或某一個參與網絡建設的角色。
大部分區塊鏈項目并不能建立這樣的功能,因為大部分區塊鏈項目的網絡只有能力維持Defi項目的運行,而缺乏足夠的存儲和計算能力。
除存儲和算力外,在這基礎設施里,需要有去中心化的數據結構,例如以DID為單位的用戶數據,需要有算力和存儲的經濟模型,還需要有安全的代碼和便于開發應用的中間件。
這些都讓隱私計算的項目屈指可數。
當然我們這樣判定的前提,是我們所指的隱私計算,是關于數據的隱私處理。而并非簡單通過合約執行的匿名、混幣、交易隱私等等。
在交易處理分層的概念已經在加密貨幣項目設計里得到共識后,我們期待的是區塊鏈負責數據的權益證明,而其他層控制的算力和存儲,完成隱私計算。
定義一個可實時的框架
在文章的最后,我們用數據湖的最終命題,去推論出一個加密貨幣隱私項目的設計框架。通過這個框架,可以部分對比如今市面上的隱私計算項目。
首先,區塊鏈為加密貨幣項目提供共識層的總帳本。在這個總帳本里,是所有公開留存的數據證明。
接下來,是如何將項目設計為具備隱私計算能力。
從初代的隱私項目看,主要是增加了匿名性和交易隱私,例如具備混幣合約的隱私幣,其可以將合約當作一種dapp服務,讓代幣進入合約之后的操作無法查詢。這樣的設計,主要是在鏈上部署合約,可能會使用密碼學算法或者零知識證明等標志性技術,以保證交易過程在不可見的情況下正確執行。
而如果是有硬件要求的隱私計算設計,那在前文我們所提到的區塊鏈網絡,其網絡節點搭建,就需要特殊的設備,或者在區塊鏈共識層外,再次搭建一個由特殊設備組成的計算網絡。
例如通過集合具備TEE計算區的硬件設備連接成網,就可以利用TEE保護區塊鏈上的交易執行、合約執行等,TEE是對計算進行的物理保護,有一些獨特的通信方式,讓可信計算區和其他需求點交互。
而如果區塊鏈網絡具備MPC等對計算要求較高的技術部署,就需要搭建區塊鏈網絡的節點設備經過特殊定制,或者在區塊鏈共識層外,建立一個layer2計算、存儲層,將算力和存儲都共享出去,提供數據隱私計算需要的資源。
有趣的是,因為MPC很多情況下還是依靠加密算法,為了更周密的隱私部署,MPC和TEE會在非區塊鏈的可信案例里組合應用比較多,而MPC在區塊鏈項目里,與零知識證明、加密算法融合應用比較多。
當我們確認了有足夠的算力和存儲資源。
一旦需要數據湖,如AWS數據湖模塊一樣,需要建立數據湖,并且定向收集需求點位的數據,匯集后,對數據所有權進行分類,在數據湖里,除了數據所有權外,進行機器學習訓練的訓練方,數據執行方等都需要明確對數據湖的權限,例如訓練方可能具備管理訓練算法的權限,而其對部分數據是可用不可見。
數據最終的價值表現,與數據在訓練等過程中的作用也需要在數據湖的作用中進行評估。而這些輔助的計算都是基本功能,數據在數據湖的進進出出都會在區塊鏈上留下公開的痕跡,以保證所有權的公平。
最后,當技術上完善之后,就是數據變現后的權益分配,需要對數據貢獻進行定義,可能需要通證化的量化工作來實現公平的分配。
以上的參與者,理想狀態下,是很多方。而將這個模型放小,可能只會關于如今具備數據交叉訓練需求的幾方。
因為大部分數據的處理難度也是顯而易見的,例如數據的清洗、篩選、脫敏等等。
但如果這種模型已經成為標配,必然會有一個標配的經濟模型支持,例如這些資源的消耗需要需求者買單。而數據的訓練結果,可能將塑造下一個驚艷的產品。
如果我們只是因為自由選擇區塊鏈網絡,那你也許會因為產品體驗的不自由而離開,但如果你希望可以通過數據塑造價值,那必然要等待你的數據可以因為隱私計算變得有價值,并且這個價值可以回歸于你自己。
那個時候用戶才不會因為數據成為待宰羔羊,因為你可以對不認可的授權者say?no,拿好你的個人數據庫。
PS:文章篇幅有限,接下來筆者會繼續完成一些補充文章,例如數據湖中的數據倉,例如權益分配的詳細方案。敬請關注《金色深核》欄目的后續文章。
習近平總書記在中央局第十八次集體學習時指出,“要把區塊鏈作為核心技術自主創新的重要突破口”。2020年4月21日,區塊鏈被國家發改委正式納入“新基建”范圍.
1900/1/1 0:00:00上個月,薩爾瓦多以84名議員中獲得62張贊成票通過了《比特幣法》,并在全球首開主權國家將比特幣作為法定貨幣的先例。?最近,該法案持續發酵,引來各方激辯.
1900/1/1 0:00:00日前,經濟日報聚焦北京市海淀區加快建設北京國際科技創新中心核心區的實踐探索,刊發了長篇調研報道《中關村新傳》,引發熱烈反響.
1900/1/1 0:00:00每天有成千上萬的人第一次使用去中心化交易所。然而,公鏈的特性通常會讓新手措手不及,即使是那些熟悉傳統市場的用戶。結果就是交易者的資金流向套利者和搶跑者,導致其操作受到預期之外的影響.
1900/1/1 0:00:00據IDC發布的《IDC全球區塊鏈支出指南2021v1》數據,2020年中國整體區塊鏈市場已達到4.79億美元規模,未來將保持50%以上的復合增長率.
1900/1/1 0:00:00比特幣奠定了一個去中心化和點對點數字資產的基礎,旨在用一種獨特的經濟安全模型來修復破損的國際貨幣體系,這種經濟安全模型無國界、無需信任、不受審查.
1900/1/1 0:00:00