比特幣交易所 比特幣交易所
Ctrl+D 比特幣交易所
ads

金色深核|誰能建立隱私計算的“分布式數據湖”?_ETH

Author:

Time:1900/1/1 0:00:00

在信息時代裸奔,我們總會被數據挾持、出賣。因為你的數據不屬于你。

時下,是應該聊聊數據和隱私的時候了。

2019年末,我曾把零知識證明、多方計算、可信執行環境等隱私計算技術的代表項目匯聚到一起做了一期極為深度的討論。

那時,在區塊鏈產業分布里已經有了隱私賽道,有少數項目在研究、拓展、嘗試,只是對于隱私、隱私計算以及數據等維度并沒有那么清晰的判斷。

把時間線放的更長一些,從2018年至今,我們其實看到了隱私項目向隱私計算的迭代(兩個技術標簽很早就存在,但行業關注點有了迭代),這一現象代表了一些技術的發展和應用的趨向性。

在對這些項目分析解構,對市場需求進行考證后,筆者認為此時該提出一個有效的觀點。

即:當今的區塊鏈隱私計算項目里,誰想拿下隱私計算第一槍,要率先建立隱私計算的“分布式數據湖”。

原因很簡單:數據存儲在數據庫里并不能直接產生價值,只有經過數據訓練才有價值,也就是數據要有為深度學習、聯邦學習服務的能力,而數據湖是這個路徑里的必然選項,基于去中心化模型里,會出現新的“分布式數據湖”。

本文里,我會為這個名詞開個腦洞,在符合邏輯推演的范圍內為大家闡述一個框架。但這種模型目前并未有非常成熟的案例,如有偏頗,歡迎各位指證。

金色財經挖礦數據播報:ETH今日全網算力上漲4.28%:金色財經報道,據蜘蛛礦池數據顯示:

BTC全網算力146.360EH/s,挖礦難度18.60T,目前區塊高度664391,理論收益0.00000735/T/天。

ETH全網算力304.684TH/s,挖礦難度3854.90T,目前區塊高度11585329,理論收益0.00910088/100MH/天。

BSV全網算力0.721EH/s,挖礦難度0.10T,目前區塊高度668491,理論收益0.00124775/T/天。

BCH全網算力2.402EH/s,挖礦難度0.22,目前區塊高度668776,理論收益0.00037466/T/天。[2021/1/4 16:23:01]

數據湖的概念,來自大數據和機器學習業務。

我們日常一定聽過數據庫,數據庫的形式可大可小,是非常獨立的數據存儲單位,每個數據存儲位置都是一個數據庫,當數據庫之間被打通,形成一個大數據交互結構,就可以理解為數據湖的形象。

筆者在亞馬遜的AWS Lake Formation服務定義里查到了數據湖的名詞定義:

數據湖是一個安全的集中式輔助存儲庫,它以數據原始形式和可用于分析的形式存儲所有數據。利用數據湖,可以分解數據孤島并組合不同類型進行分析,獲得分析結果指導更好的業務決策。

金色午報 | 9月8日午間重要動態一覽:7:00-12:00關鍵詞:上海虹口區、錨定幣、Filecoin、Swerve

1.當前DeFi協議中鎖定資產總額約合96.5億美元。

2.上海虹口區創立區塊鏈+社區生活服務工作模式。

3.以太坊鏈上比特幣錨定幣發行量突破7萬枚。

4.V神:當前正在發生垃圾郵件攻擊ethstatus。

5.PeterSchiff之子不顧其反對購買了更多的比特幣。

6.Filecoin更新經濟參數:區塊獎勵解鎖20天延遲移除。

7.韓國警察廳和三大通訊巨頭合作推出區塊鏈數字身份平臺。

8.Curve分叉項目Swerve上線3天鎖倉量達4.2億美元 接近前者一半。

9.褚康:本輪深度回調的主要原因是礦工拋售、美元走強及DeFi投機降溫。[2020/9/8]

所以我們可以理解為,當若干個原始存儲的數據庫連接起來,就是數據湖。但這個數據湖怎么工作呢?

這一段描述可以粗略看到一些工作需求。

“設置和管理數據湖包括加載來自不同來源的數據、監控這些數據流、設置分區、打開加密和管理密鑰、定義轉換作業并監控其操作、將數據重新組織成列格式、配置訪問控制設置、刪除冗余數據重復數據、匹配鏈接記錄、授予對數據集的訪問權限以及隨時間推移審核訪問權限。”

所以數據湖的主要功能是數據的交互,而處理其關鍵問題是加密和數據集的訪問權限。在我們所期待的去中心化數據湖里,似乎也是如此。

金色午報 | 7月21日午間重要動態一覽:7:00-12:00關鍵詞:上海監管沙箱、信標鏈、ETC、MakerDAO

1.上海監管沙箱試點公布首批8個金融創新項目。

2.以太坊測試網開發者:Ethereum2.0信標鏈將在11月發布。

3.韓國慶尚南道將向居民開放基于區塊鏈的綜合補貼運營平臺。

4.ETC首個L2擴展解決方案Connext狀態通道已于主網激活。

5.BitfinexCTO:Tether將繼續與CBDC共存。

6.39個地址所持BTC占總流通供應量的10.34%。

7.MakerDAO發起投票 計劃提高ETH和USDC債務上限。

8.灰度旗下關于BCH和LTC的單一基金獲得FINRA公開報價批準。

9. 波卡現已進入治理階段 未來24小時內將去除sudo許可模塊。[2020/7/21]

去中心化的數據結構,是去中心化的隱私計算的基礎,很簡單,就是數據是分散在生產者處,存在于我們的手機、電腦其他終端設備里。

當然,手機數據大多是有緩存的,有些數據是短時存儲,我們所看到的那些互聯網App收取用戶的數據,都是其所需要的數據,而這些數據有些實時產生,在緩存里,有些存儲在本地存儲里。我們雖然在本地可以操作查看,但平臺也可以隨時拿走數據,因為所有權并非在用戶這里。

在去中心化的數據結構里,數據在本地存儲,還需要把所有數據加密,并且你所使用的App無法獲取你的數據,除非你主動向App提供交互,或者允許授權。

分析 | 金色盤面:WRC/BTC 跌幅超過40%:金色盤面分析師表示:BTC這一輪的反彈并沒有改變市場整體弱勢的命運,WRC就是一個例子,今天再次出現40%的跌幅,價格在小數點后面數不清的位置上才能看到大于0的數字,真的是命運多舛。[2018/8/5]

這個場景里,我們期待的是:平臺在沒有授權時是拿不走我們的數據的。但這僅代表的是成型的存儲數據。而我們有很多的數據,是需要經過中心化服務器處理的。

例如加入一個社交媒體,我們的用戶名,手機號,郵箱等等數據都是容易暴露的,理想狀態下,他人對我們選擇不公開的數據不可見,而關鍵的是,平臺也要對數據不可見,或者不可用。

這需要平臺具備一些基本的功能,而平臺的功能,一定是其背后開發功能中的體現,這就有關于我們知道的區塊鏈項目了,例如賬戶ID具備隱私功能,信息訪問權限的設定。

我們看到保護隱私的區塊鏈項目,都會在這方面努力。

不過區塊鏈和加密貨幣有一些天然隱私特性,例如區塊鏈的歸屬權、加密貨幣的無需許可以及地址的匿名性。

只是當數據真的形成一定的體量之后,大部分的業務都與生活息息相關,所以匿名性之后會有kyc,kyc后,數據的隱私和隱私計算,無可厚非的成為最重要組成部分。

互聯網大數據技術早已和云計算融合多年,在傳統云計算里,AI需求的數據湖對數據的控制已經變得很簡單,進展到了SaaS級別。

金色財經獨家分析 雄安充分發揮區塊鏈金融優勢:今日消息,螞蟻雄安數字技術有限公司與中國銀行雄安分行在雄安新區簽署戰略合作協議,未來雙方將基于區塊鏈技術在雄安住房租賃相關領域開展深度合作。金色財經分析,雄安新區的區塊鏈應用正在逐漸鋪開,在“千年大計”布局之時區塊鏈發揮的作用正逐漸增多。不僅在租房領域,在建設雄安之時,區塊鏈能使各個環節更加透明和容易監管,今后也將更好地服務于雄安的智慧城市建設。[2018/4/20]

例如上文的AWS Lake Formation其創建過程很簡單,只需定義數據源,制定要應用的數據訪問和安全策略就行。Lake Formation模塊會幫助使用方從數據庫和對象存儲中收集并按目錄分類數據,將數據移動到新的數據湖里,使用機器學習算法清理和分類數據,并保護對敏感數據的訪問權限。

而對外表象是,使用方建立應用的用戶可以訪問那些描述了可用數據集及其適當用法的集中數據目錄。然后,用戶可以通過所選的分析和機器學習服務,利用這些數據集。

簡而言之,這個邏輯把分布在各處的數據,最終在數據服務上體現了價值,這是去中心化世界里,很多項目想要實現的,如果只是簡單的把數據控制在用戶手里,那用戶仍只是體驗了平臺的服務,而并非將數據可以變現,雖然說數據token化就可能有交易價值,但這種交易價值暴力程度遠不及在人工智能里實現的產業價值。

例如,如果微信去中心化了,我們在微信的行為數據就再也不會直接拿走被利用到廣點通里,你的朋友圈里不會出現“你剛剛和其他人說過的”你想買的物品,也不會被粗暴的推薦某些產品。

區塊鏈項目想實現這樣的愿景,但發展之路可能略有曲折。因為這樣的應用很難實現。

我們看到的區塊鏈項目,除了Defi、Nft這些應用層項目,其他都是基礎設施,而以區塊鏈的基礎設施,性能很難完成互聯網平臺的業務需求。

當隨著區塊鏈以及加密貨幣不斷擴展,網絡中的用戶增加,每個地址的關聯數據也開始增加,所有用戶的數據集中呈現了龐大的規模。這些存在本地的數據,就也組成了龐大的數據集群。

在這基礎之上,能實現數據湖的,并不多。因為實現數據湖,需要單獨的算力、存儲、算法等等。在區塊鏈項目的設計里,這個部分可能需要單獨的一層網絡,或某一個參與網絡建設的角色。

大部分區塊鏈項目并不能建立這樣的功能,因為大部分區塊鏈項目的網絡只有能力維持Defi項目的運行,而缺乏足夠的存儲和計算能力。

除存儲和算力外,在這基礎設施里,需要有去中心化的數據結構,例如以DID為單位的用戶數據,需要有算力和存儲的經濟模型,還需要有安全的代碼和便于開發應用的中間件。

這些都讓隱私計算的項目屈指可數。

當然我們這樣判定的前提,是我們所指的隱私計算,是關于數據的隱私處理。而并非簡單通過合約執行的匿名、混幣、交易隱私等等。

在交易處理分層的概念已經在加密貨幣項目設計里得到共識后,我們期待的是區塊鏈負責數據的權益證明,而其他層控制的算力和存儲,完成隱私計算。

在文章的最后,我們用數據湖的最終命題,去推論出一個加密貨幣隱私項目的設計框架。通過這個框架,可以部分對比如今市面上的隱私計算項目。

首先,區塊鏈為加密貨幣項目提供共識層的總帳本。在這個總帳本里,是所有公開留存的數據證明。

接下來,是如何將項目設計為具備隱私計算能力。

從初代的隱私項目看,主要是增加了匿名性和交易隱私,例如具備混幣合約的隱私幣,其可以將合約當作一種dapp服務,讓代幣進入合約之后的操作無法查詢。這樣的設計,主要是在鏈上部署合約,可能會使用密碼學算法或者零知識證明等標志性技術,以保證交易過程在不可見的情況下正確執行。

而如果是有硬件要求的隱私計算設計,那在前文我們所提到的區塊鏈網絡,其網絡節點搭建,就需要特殊的設備,或者在區塊鏈共識層外,再次搭建一個由特殊設備組成的計算網絡。

例如通過集合具備TEE計算區的硬件設備連接成網,就可以利用TEE保護區塊鏈上的交易執行、合約執行等,TEE是對計算進行的物理保護,有一些獨特的通信方式,讓可信計算區和其他需求點交互。

而如果區塊鏈網絡具備MPC等對計算要求較高的技術部署,就需要搭建區塊鏈網絡的節點設備經過特殊定制,或者在區塊鏈共識層外,建立一個layer2計算、存儲層,將算力和存儲都共享出去,提供數據隱私計算需要的資源。

有趣的是,因為MPC很多情況下還是依靠加密算法,為了更周密的隱私部署,MPC和TEE會在非區塊鏈的可信案例里組合應用比較多,而MPC在區塊鏈項目里,與零知識證明、加密算法融合應用比較多。

當我們確認了有足夠的算力和存儲資源。

一旦需要數據湖,如AWS數據湖模塊一樣,需要建立數據湖,并且定向收集需求點位的數據,匯集后,對數據所有權進行分類,在數據湖里,除了數據所有權外,進行機器學習訓練的訓練方,數據執行方等都需要明確對數據湖的權限,例如訓練方可能具備管理訓練算法的權限,而其對部分數據是可用不可見。

數據最終的價值表現,與數據在訓練等過程中的作用也需要在數據湖的作用中進行評估。而這些輔助的計算都是基本功能,數據在數據湖的進進出出都會在區塊鏈上留下公開的痕跡,以保證所有權的公平。

最后,當技術上完善之后,就是數據變現后的權益分配,需要對數據貢獻進行定義,可能需要通證化的量化工作來實現公平的分配。

以上的參與者,理想狀態下,是很多方。而將這個模型放小,可能只會關于如今具備數據交叉訓練需求的幾方。

因為大部分數據的處理難度也是顯而易見的,例如數據的清洗、篩選、脫敏等等。

但如果這種模型已經成為標配,必然會有一個標配的經濟模型支持,例如這些資源的消耗需要需求者買單。而數據的訓練結果,可能將塑造下一個驚艷的產品。

如果我們只是因為自由選擇區塊鏈網絡,那你也許會因為產品體驗的不自由而離開,但如果你希望可以通過數據塑造價值,那必然要等待你的數據可以因為隱私計算變得有價值,并且這個價值可以回歸于你自己。

那個時候用戶才不會因為數據成為待宰羔羊,因為你可以對不認可的授權者say no,拿好你的個人數據庫。

PS:文章篇幅有限,接下來筆者會繼續完成一些補充文章,例如數據湖中的數據倉,例如權益分配的詳細方案。敬請關注《金色深核》欄目的后續文章。

Tags:區塊鏈ETH加密貨幣DEFI區塊鏈域名成交eth官網查詢地址加密貨幣最新消息Clever DeFi

SHIB最新價格
金色前哨 | 推特CEO:比特幣將成為Twitter重要組成部分_ACK

人們常說,在美國科技公司創始人中,Twitter CEO Jack Dorsey(杰克·多西)是比特幣的最大信仰者(Believer)和建設者(Builder).

1900/1/1 0:00:00
金色趨勢丨波動率降至低位 大波動即將到來_BTC

這輪312瀑布低點啟動的行情,到目前已經持續了486天,走勢整體震蕩向上,一直見目前頂64850美金然后迎來了大調整,調整最大幅度接近56%,和以前牛市進程中的大調整相比屬于正常范圍.

1900/1/1 0:00:00
區塊鏈與AI、大數據等技術融合 將帶來哪些產業變革_IOT

隨著數據時代的發展,數據成為重要的資源,數據治理和數據安全的重要性更加凸顯。7月10日,在2021世界人工智能大會區塊鏈論壇上,多位專家、學者圍繞數據強調了區塊鏈技術與大數據、人工智能、隱私計算.

1900/1/1 0:00:00
金色微訪談第29期 | 全跨鏈DEX HDEX如何顛覆CEX和傳統DEX?_ERB

7月13日14:00,HDEX社區發起人Zeon做客金色微訪談第27期直播間,本次直播由金色財經花花主持,主題為“全跨鏈DEX,HDEX如何顛覆CEX和傳統DEX?”.

1900/1/1 0:00:00
金色觀察 | Nifty’s上線NFT社交媒體 在種子輪籌得1000萬美元_NIF

總部位于邁阿密的加密貨幣風投公司Nifty’s推出了據稱是第一個針對NFT的社交媒體平臺。Niftys.com首個合作伙伴是華納兄弟,將推出一系列即將上映的真人動畫電影《空中大灌籃:新傳奇》角色.

1900/1/1 0:00:00
DeFi周刊 | 數據:DeFi總用戶數量已達300萬_EFI

DeFi周刊是金色財經推出的一檔每周DeFi領域的總結欄目,內容涵蓋本周重要的DeFi數據、DeFi項目動態等.

1900/1/1 0:00:00
ads