AI生成式照片：火熱背后的隱私擔憂與刑事風險_人工智能

[引入]近期，以妙鴨相機為代表的AI生成式照片火了。僅需上傳個人正面照片和20張多光線多角度多表情的單人照片，即可收獲個人專屬數字分身，并能夠選擇各種模板將分身導入，打造私人訂制的寫真照片。這種AI定制化體驗，因為新穎有趣、滿足用戶的拍照需求而備受歡迎。但與此同時，妙鴨相機最初版本隱私政策的“霸王條款”引發了公眾對AI生成式照片背后蘊含的個人信息安全保護的擔憂。本文就將結合實踐案例，分析AI生成式照片獲取用戶生物特征信息可能造成的刑事風險，并就此提出AI技術刑事合規發展的法律建議。

一、問題提出——AI生成式照片廣受歡迎

AI換臉、AI繪畫的浪潮尚未消退，AI生成式照片又引領了一波流行風潮。與此前多平臺出現的純粹的AI合成照片不同，AI生成式照片是在收集用戶個人生物特征的基礎上，制作個人數字分身，并將其運用至各種寫真場景，滿足用戶定制化的照片需求的商業服務。2023年7月，妙鴨相機在微信小程序中上線。用戶在上傳單人正面照片和補充上傳20張多光線、多背景、多視角、多表情的單人無遮擋照片后，付費9.9元，即可獲得個人數字分身。在擁有數字分身后，用戶可以選擇心儀的寫真場景，如證件照、古風寫真、復古港風等多種模型，制作專屬于個人的寫真照片。與海馬體、天真藍等動輒幾百上千的付費寫真不同，AI生成式照片使得用戶僅需9.9元即可獲得多類型的個人照片，且寫真場景還在不斷更新，因此妙鴨相機一經上線就受到廣泛歡迎。

筆者在用妙鴨相機實驗時，因前方排隊人數高達4771人，需等待將近11個小時才能生成本人數字分身。經實踐發現，雖然妙鴨相機目前存在排隊時間長、寫真場景少、部分數字分身與本人差距大的局限，但AI技術是不斷學習發展的，隨著AI的不斷學習，以上問題全部都可得到解決，屆時寫真行業可能受到重大打擊。妙鴨相機的短期成功表明，AI技術及其應用已經逐漸滲透在用戶互聯網生活的細分領域，充分發揮便捷、低廉、精準化滿足用戶需求的優勢，使得用戶主動為AI服務付費，因此該技術的發展前景廣闊。但同時，AI生成式照片是在收集用戶生物特征的基礎上制作而成的，用戶累計上傳的21張照片能夠提取出其個人特征，此項技術如果不能得到規制，有可能引發用戶信息泄露的重大風險，妙鴨相機已出現的隱私政策風波就證實了這一觀點。

加密交易所的身份檢查因AI深度造假的發展而面臨風險:金色財經報道，人工智能（AI）的興起引發了人們對加密貨幣交易所身份驗證工具日益增長的擔憂。隨著人工智能技術的快速發展，創建深度偽造身份證明的過程變得比以往任何時候都容易。對加密貨幣中人工智能風險的擔憂已引發一些知名行業高管就此事發表講話。全球主要交易所幣安的首席執行官兼創始人趙長鵬于8月9日在Twitter上對不良行為者在加密貨幣中使用人工智能發出警報。趙長鵬寫道，“從視頻驗證的角度來看，這非常可怕。即使他們給你發了視頻，也不要給他們送錢。”[2023/8/9 21:34:50]

二、風波涌起——妙鴨相機隱私協議引發信息安全探討

如妙鴨相機等AI生成式照片多采用的是AIGC技術。AIGC(Artificial Intelligence and Graph Computing)技術，是一項結合計算和人工智能技術的新興技術，集合了機器學習和自然語言處理等技術，通過對海量數據的學習和分析，可以讓計算機模擬人類的創造力和判斷力，生成符合人類需求的內容，包括但不限于各種文本、圖像、音頻和視頻等多媒體內容。AIGC技術在圖像方向有著廣泛的應用，主要為圖像識別、圖像生成和圖像處理等方面，現有技術已經可以生成較高質量的圖像。可以說，AIGC技術在市場應用方面具有巨大發展前景。值得討論的是，想生成AI寫真需要將用戶個人照片上傳，數據的加工、處理、保存都在云端而非本地，如果不對此加以管控，與人體生物特征密切相關的數據就存在泄露或被非法利用的可能性，則有可能使本身造福人類的技術變為侵害個體權益的工具。

妙鴨相機問世幾天后，該應用的《用戶服務協議》條款引發了廣泛探討：“用戶需授權妙鴨相機在全世界（包括元宇宙等虛擬空間）范圍內享有永久的、不可撤銷的、可轉讓的、可轉授權的、免費的和非獨家的許可，使得妙鴨相機可以任何形式、任何媒體或技術（無論現在已知或以后開發）使用用戶的內容。”該條款表明，平臺默認用戶在使用該應用上傳照片后，授予平臺對照片享有免費的、不可撤銷的、可轉讓的許可，且該許可不限時間。此條款作為格式條款是用戶使用相機功能的前提，卻對用戶權益進行了極大限制，平臺很難保證用戶的照片不會被用作AI模型訓練或其他目的，甚至更有數字分身攜帶的用戶面部特征信息被用于違法犯罪的風險。雖然妙鴨相機在輿論壓力下修改了《用戶服務協議》，刪除了該條款，并承諾“您所上傳的照片只會用于數字分身制作，不會提取也不會用于識別和其他用途，且分身制作后自動刪除。”但是因為有“霸王條款”和各種AI照片犯罪的前例出現，部分用戶還是表達了對AI生成式照片的擔心，下文將詳細介紹AI生成式照片獲取的生物特征信息可能會引發的刑事法律風險，以幫助讀者提升防范意識。

Ankr宣布為ZetaChain提供基礎設施支持:4月4日消息，據官方消息，Web3基礎設施提供商Ankr宣布為ZetaChain提供基礎設施支持。通過Ankr的新ZetaChain RPC連接，用戶將能夠訪問ZetaChain社區和高級RPC，進行請求調用，并接收信息返回。[2023/4/4 13:43:37]

三、理性討論——AI生成式照片推廣蘊含的刑事法律風險

時至今日，AI技術已經以勢不可當之勢進入人們生活的方方面面，在技術發展滿足人類日益增長的對美好生活的需求的同時，也為法律規范和倫理體系帶來了新的挑戰，如何平衡AI技術發展和個人權益保護將是未來互聯網領域的重要命題。雖然，經筆者研究發現，以妙鴨相機為代表的AI生成式照片尚存在人臉描繪不夠精確、模板較少、算力有限等局限性，暫時無法替代為客戶提供體驗感的線下照相館，但是隨著AI技術的飛速發展，生成式照片的精確度將不斷提高，未來圖像市場的占有者還無法預料。因此，筆者認為討論生成式照片的刑事合規，預測人臉數字模型泄露的刑事風險具有重要意義。

（一）AI換臉詐騙風險

事實上，AI技術在便利人們生活的同時，也可能被不法分子利用，侵害公民之間的信任基礎。AI換臉技術已經不再新鮮，在國內某知名視頻網站可以檢索到大量換臉視頻，此類視頻大多是將明星的臉替換到其他人物上，對原版視頻進行二次加工創作，平臺也會在視頻頁面提示該視頻有AI換臉風險。隨意替換明星的臉是否侵害其肖像權是民事方面應該討論的問題，而筆者提及的是犯罪團伙在獲取個人數字模型的基礎上，通過AI換臉制作虛假視頻，實行詐騙犯罪的刑事問題。實務中，已經出現犯罪團伙利用事先獲取的用戶的面部、聲音等生物特征信息，通過微信、QQ等社交賬號虛構事實向用戶的親屬借錢，在親屬提出質疑后，用偽造好的用戶的個人形象進行視頻通話，獲取親屬信任、達成騙取財產目的的案例出現。因此，在互聯網技術已經發展到擁有用戶照片即可提取生物信息的基礎上，妙鴨相機等AI生成式照片的APP如果不能保管好用戶的個人信息，無疑是為犯罪分子提供了現成的制作AI換臉視頻的數據庫，尤其是妙鴨相機更改之前的用戶服務協議，將此行為事前取得用戶的知情同意，使得用戶權益受損的風險大大增加。

去中心化電影融資平臺Mogul集成Chainlink預言機:去中心化電影融資平臺Mogul在其v1版本中集成了Chainlink（LINK）預言機。Mogul Productions聯合創始人David Cormican表示，通過該集成將可驗證的鏈下數據帶到區塊鏈，以確保利潤分配的透明度，以及保護演員和工作人員的隱私和機密性。（U.today）[2021/2/12 19:34:20]

（二）AI侵犯公民個人信息風險

除通過AI換臉向熟人詐騙外，利用AI突破人臉識別技術，也是威脅用戶信息和財產安全的有害途徑之一。人臉識別技術是一項生物識別技術，主要是通過計算機視覺和圖像處理技術對人臉圖像進行特征提取和比對，從而實現對個體身份的確認和識別。以人臉識別技術為代表的生物識別技術被廣泛用于政府、銀行、電子商務等領域，許多APP的登錄和支付界面都可采取人臉識別完成驗證。但是，國內已經出現了通過用戶高清照片制作能夠通過APP人臉識別校驗的AI視頻的案例。7月11日，廣東省廣州市越秀區檢察院辦理的該省首例向互聯網法院提起的涉人臉識別公民個人信息保護民事公益訴訟案公開宣判，法院判決被告鄭某、任某、戴某、陳某立即停止對公民個人信息的侵害、支付公益損害賠償金、并公開進行賠禮道歉。2020年8月起，鄭某通過通訊軟件發布售賣高清身份證照片、身份證號碼等個人敏感信息的廣告，并組建群組專門用于個人信息非法交易，任某、戴某、陳某通過廣告加入該群組后，從鄭某手中購得與個人信息相匹配的高清身份證照片，利用其制作可以完成點頭、眨眼等動作，能夠通過一些App的人臉識別身份驗證的AI視頻，并有償售賣給下家。我國《刑法》第二百五十三條規定了侵犯公民個人信息罪，其中個人信息的范圍參照《個人信息保護法》包括生物識別信息，且其屬于需要取得單獨同意的敏感個人信息。與以往的非法獲取公民姓名、電話號碼、身份證號等個人信息后向公民實施詐騙行為相比，獲取公民生物識別信息并用于刑事犯罪的危害性更大，不僅有可能導致公民在完全不知情的情況下產生財產損失，也會使得眾多互聯網應用的人臉識別功能癱瘓，突破互聯網安全防線。

分析師：到2040年 Dai的供應量超數萬億美元才能維持現在的市值:加密貨幣分析師AlfaBlok發表報告指出，Dai的流通量每年需要增加70%以上，才能使MakerDAO (MKR)保持目前接近3.5億美元的市值。根據AlfaBlok的模型，到2040年，Dai的供應量將需要超過數萬億美元，而目前的供應量約為1億美元。（Cointelegraph）[2020/5/7]

（三）AI涉黃犯罪風險

AI生成式照片引發公眾擔憂的重要原因是，AI技術已經可以通過高清照片提取個人的生物特征信息，而個人生物特征信息泄露的風險不可想象。除財產詐騙外，AI換臉的涉黃犯罪也是侵犯公民權益、危害社會秩序的高危犯罪之一。目前，AI深度學習技術已經不斷趨于成熟，人臉模型訓練項目也實現簡單化、精確化、便捷化。實務中，出現不法分子用“AI換臉技術”合成他人穢視頻，利用網絡空間傳播，并用收費模式換取利益的案例。該行為，輕則侵犯當事人肖像權、名譽權和隱私權，重則涉嫌制作、傳播穢物品牟利罪。尤其是在互聯網開放、共享的空間下，用AI換臉技術制作他人穢視頻對當事人的身心都會造成極大傷害，此時更要注重對任何可能取得當事人生物特征的平臺的監管，防止監管不當造成當事人信息泄露，導致當事人陷入“換臉風波”。

四、刑事合規——如何在法律框架內平穩發展AI技術

AI生成式照片技術本身是一場革新，也走在了AI商業化、市場化的前列，因此不能因為技術具有風險就忽視技術的發展前景，重點是如何找到AI技術與個人權益的最佳平衡點，讓新技術助力人類發展。筆者將在下文從政府監管、平臺合規、用戶監督三方面，討論不同主體就在AI技術框架下進行個人權益保護應付出的努力。

Chain CEO Adam Ludwin：人們其實也想要監管數字貨幣: 據Yahoo Finance消息，今日Chain CEO Adam Ludwin在雅虎財經全市場峰會加密貨幣部分表示：“ 我認為什么時候公司運行受阻，就是什么時候他們需要借助金融機構來進行革新的時候了。”Ludwin認為，在加密路徑上發行傳統貨幣將是這個金融領域里很大的一部分。Ludwin提及監管時說道：“我在達沃斯世界經濟論壇，達沃斯的每一個人都說放松監管很好，但是當問及數字貨幣，他們又會說應該監管它。”[2018/2/8]

（一）政府促進AI合成技術監管立法

目前，我國已經出臺了《民法典》《個人信息保護法》《網絡安全法》等法律法規加強對公民個人信息的保護。就AI合成技術方面，2022年11月25日，國家互聯網信息辦公室、工業和信息化部、部聯合發布《互聯網信息服務深度合成管理規定》要求“深度合成服務提供者應當落實信息安全主體責任，建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發布審核、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理制度，具有安全可控的技術保障措施。”其中，針對人臉、人聲等生物識別信息特別強調“深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。”并“通過專業機構開展安全評估”和“向公眾提示深度合成情況”。2023年7月13日，《生成式人工智能服務管理暫行辦法》發布，該《辦法》規定了生成式人工智能服務提供者的數據來源合法保證義務、尊重知識產權義務、個人信息保護義務等內容，并設置了相應的監管責任和懲罰機制。由此可見，政府在不斷加強科學立法，督促生成式服務提供者履行用戶信息安全保障義務。后續，需要相關部門依照法律法規對生成式服務提供者進行定期監督，督促立法要求的落實，并采用技術手段開展數據反泄露管控，讓AI合成技術在監管中有序發展。

（二）平臺落實刑事合規政策要求

通過前文分析現有AI合成技術法律法規可知，生成式人工智能服務的提供者對于經同意收集而來的生物特征信息負有保管義務，不僅不可主動將該信息用于模型訓練，也要防止所獲得的信息泄露被不法分子用于刑事犯罪。否則，提供者可能就監管不力承擔刑事責任，如詐騙罪的共同犯罪或幫助信息網絡犯罪活動罪或侵犯公民個人信息罪等罪名。因此，為事先做到刑事合規，控制運行風險，以妙鴨相機為代表的AI生成式照片的提供者應當就個人信息保護作出努力。第一，事前，梳理平臺的《用戶服務協議》和《隱私政策》，依照國家法律法規，規定收集信息的用途和目的、明確數據保存的期限、保證收集數據不用于非法目的，不得在條款中不合理地限制用戶權利；第二，平臺運行過程中，對收集到的用戶生物特征信息履行保管義務，一是平臺不得非法售賣他人信息，二是平臺采取技術手段防止用戶信息泄露，在數字分身制作完成后及時刪除云端數據；第三，設置用戶舉報監管通道，對于可能泄露個人生物信息的線索及時查詢改正，處理違規行為。只有如此，平臺才能在既保證用戶權益的同時，保障自身的健康、有序、平穩發展。

（三）用戶增強權益保護意識

在政府和平臺均加強對個人信息保護的背景下，用戶作為個人信息的直接享有者，也應當提高防范意識，參與到信息保衛戰中。一是，在注冊使用AI生成式照片APP時認真閱讀《用戶協議》和《隱私政策》，及時發現不合理的條款并積極向有關部門反饋；二是，在上傳個人照片使用相關服務內容后，及時刪除原照片并要求平臺不再進行分享；三是，提高反詐意識，對于AI詐騙學會辨別和判斷，保護個人財產；四是，善于使用平臺內設的舉報通道，學會保存相關證據，在個人權益受到侵害后積極維護自己的權益。因為不掌握信息和資源，用戶確實在服務中處于劣勢方，但是積極學習AI知識，監督平臺對照片的使用，還是能夠為捍衛自身合法權益做出貢獻。

五、結論

AI生成式照片技術的誕生與發展，讓AI走進大眾的生活，并被大眾所接受。雖然公眾對于生成技術收集個人生物信息的安全性依舊有較大擔憂，但是妙鴨相機的活躍度與收益依舊表明其具有發展前景。因此文章在充分闡明AI收集生物特征信息可能引發的刑事風險的基礎上，就生成式服務提供者的刑事合規提出了些許應對策略。只有多方合力，探索AI技術市場化的可行性道路，才能使這項新技術真正造福大眾。

Foresight News

金色財經 Jason.

白話區塊鏈

金色早8點

LD Capital

-R3PO

MarsBit

深潮TechFlow

Tags：CHA人工智能HAIAINOMA CHAIN人工智能幣alilvchainSAINT價格

火幣交易所