抖音出手規范AI生成內容！全球監管呼聲四起,數字水印會是一劑良方嗎？_NCE

來源：《科創板日報》

作者：鄭遠方

圖片來源：由無界AI工具生成

抖音今日發布關于人工智能生成內容的平臺規范暨行業倡議。

其中提出，各生成式人工智能技術的提供者，均應對生成內容進行顯著標識，以便公眾判斷。同時使用統一的人工智能生成內容數據標準或元數據標準，便于其他內容平臺進行識別。

具體來看，針對創作者、主播、用戶、商家、廣告主等平臺生態參與者，抖音提出，在抖音應用生成式人工智能技術時，遵循以下規范：

美SEC：對加密對沖基金BKCoin和負責人Kevin Kang采取緊急行動:金色財經報道，美國證券交易委員會 (SEC) 宣布已對加密對沖基金 BKCoin Management提起緊急訴訟。此外，其聯合創始人Kevin Kang也將受到審查。SEC稱，至少從 2018 年 10 月到 2022 年 9 月，BKCoin 從至少 55 位投資者那里籌集了大約 1 億美元用于投資加密資產，但 BKCoin 和 Kang 卻使用部分資金進行龐氏式支付并供個人使用，其有權通過提起的緊急行動凍結BKCoin和Kevin Kang的資產。此外，該委員會已獲準任命一名接管人和其他緊急救濟人員。

金色財經此前報道，這位聯合創始人于 2022 年 12 月因涉嫌挪用客戶資金達 1200 萬美元而被解雇。[2023/3/7 12:46:04]

1）發布者應對人工智能生成內容進行顯著標識；

CZ：美元銀行轉賬用戶只占Binance月活用戶總量的0.01%，將盡快解決該問題:金色財經報道，針對 Binance 暫停美元銀行轉賬服務，Binance 首席執行官 CZ 在社交媒體上表示，目前美元銀行轉賬用戶只占 Binance 月活用戶總量的 0.01%，但即便如此，暫停該服務依然是一個糟糕的用戶體驗，Binance 正在努力盡快解決該問題。雖然一些銀行撤回了對加密貨幣的支持，但還有其他銀行將為加密貨幣提供服務。此外，CZ 透露 Binance 正在研究解決方案為土耳其地震中的人們提供幫助。[2023/2/7 11:51:52]

2）發布者需對人工智能生成內容產生的相應后果負責；

去中心化穩定幣協議Bluejay Finance完成290萬美元融資，Zee Prime Capital等參投:7月20日消息，去中心化穩定幣協議Bluejay Finance完成290萬美元融資， Zee Prime Capital、C2 Ventures、Stake Capital Group、RNR Capital、Daedalus Angels、Moonlanding Ventures、Oval Ventures等參投。（Crypto Daily）[2022/7/21 2:27:03]

3）虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證；

4）禁止利用生成式人工智能技術創作、發布侵權內容；

5）禁止利用生成式人工智能技術創作、發布違背科學常識、弄虛作假、造謠傳謠的內容。

抖音稱平臺也將提供統一的人工智能生成內容標識能力，幫助創作者打標，方便用戶區分。

針對這一方面，抖音發布了《關于人工智能生成內容標識的水印與元數據規范》。

其中，標識水印規范旨在幫助AI生成工具和創作者可以使用統一樣式和位置，來提示用戶內容由AI生成；標識元數據規范則是通過規范人工智能生成內容的元數據格式，在相關圖片和視頻元數據中寫入信息，達到行業通用識別的效果。

政策端，國家網信辦不久前也就《生成式人工智能服務管理辦法》公開征求意見，這也是國家首次針對生成式AI產業發布規范性政策。

其中，對利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人的責任進行了規定；同時，也提出對于生成式人工智能產品，提供者需要按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識等。

▌AI生成內容亟待監管

日前，甘肅省平涼市局網安大隊成功偵破一起利用人工智能技術制造虛假新聞的案件，抓獲犯罪嫌疑人洪某弟。這也是自1月10日《互聯網信息服務深度合成管理規定》頒布實施后，該省偵辦的首例案件。

伴隨大模型AI發展，ChatGPT等類似應用越來越火熱，因生成式人工智能引發的社會問題也開始出現。因此AI監管覆蓋范圍不斷擴大、監管技術不斷升級、監管主體逐漸國際化：

除了上文提到的我國《生成式人工智能服務管理辦法》之外，白宮本月剛剛宣布首個AI監管計劃，政府承諾發布指導方針草案，以確保對人工智能的使用保障“美國人民的權利和安全”；歐盟也表示希望對AI生成的內容進行強制性的規定，人工智能生成的一切，無論是文本還是圖像，都有義務告知它們是由人工智能完成的。

安信證券認為，當前對AI生成內容的判別主要可以由兩種技術途徑來完成：1）通過算法識別AI模型生成內容的特征，從而鑒別相應的內容是否由AI生成。2）通過對AI生成的內容添加特定的標識，來區分相應內容是否由AI生成。

值得一提的是，數字水印或許也有望成為有效解決方案的一種。數字水印是將一些標識信息直接嵌入數字載體當中，但不影響原載體的使用價值，也不容易被人的知覺系統覺察或注意。通過這些隱藏在載體中的信息，可確認內容創建者、購買者、傳送隱秘信息或者判斷載體是否被篡改。

OpenAI方面此前也表示，考慮在ChatGPT中添加水印，以降低模型被濫用帶來的負面影響。

據《科創板日報》不完全統計，A股中已布局AI生成內容識別的公司有：

Tags：人工智能ANCNANNCE人工智能工程師月薪多少Hurricane FinanceAsgard FinanceBinance Cartel

抹茶交易所