ChatGPT：是平臺的繆斯還是黑客的“MOSS”?_HAT

ChatGPT的出現對當今的網絡安全形式構成了一定的威脅。為什么這么說？ChatGPT內置的代碼生成器功能可以快速自定義生成符合攻擊需求的初階代碼，對于菜鳥黑客來說是雪中送炭，對于老鳥來說也是錦上添花。

ChatGPT直接生成惡意代碼，將一個開發能力薄弱，“有心無力”的威脅主體進化成一個可以隨時發動攻擊的“腳本小子”。ChatGPT也能向用戶回答輸出整理之后的網絡攻擊知識，加快菜鳥黑客的學習進程。同時，ChatGPT也擔任了高階黑客的“腳本助手”，雖不能直接完成高級黑客的工作，但ChatGPT的出現大大提升了這類代碼的編寫速度，降低了可觀的工作量。由于攻擊往往需要在限定時間內完成，所以這種提速對黑客來說意義重大。

生成信用卡號探測腳本

在這個案例中，用戶提出了需求，表明需要編寫一段最為精簡的JS腳本來探測特定URL接口數據中的信用卡號，支付信息等內容。ChatGPT給出了多段基于正則表達式的JS腳本，且并未提示違反OpenAI內容生成的相關協議。

OpenAI將推出ChatGPT移動應用程序:金色財經報道，OpenAI將推出ChatGPT移動應用程序，目前發布時間框架并未公布。據悉，移動端的推出將為該服務帶來更廣泛的用戶群體。

此外，該報告還指出ChatGPT系統即將推出“GPT-4”更新，以增強程序功能，最新OpenAI軟件“響應速度比當前版本快得多”。該更新可能會在未來幾周內在微軟的搜索引擎Bing中使用。[2023/2/2 11:41:51]

此段代碼雖不能單獨完成一段攻擊，但是可以用于黑客拿到一定權限之后的數據分析工作，加快黑客掠奪數據庫中有價值信息的進程。絕大部分情況下代碼在使用之前仍然需要調試，但是已經提供主體內容如本此探測中的最為復雜的正則部分，剩下的調試工作對于有經驗的黑客來說并不是難事。

生成釣魚郵件

ChatGPT的強項是生成具有一定格式化，無需太多邏輯，且表達通常的文書。釣魚郵件便很符合這類特點，需要較為官方的語氣使被攻擊者信服。通常情況下人為撰寫這么一份文書是較為耗時的，ChatGPT將徹底改變這種情況，因為它允許攻擊者大規模地生成偽官方的個性化電子一件通知。但是，要使郵件包含所有攻擊者想要的必要組件，攻擊者必須向chatGPT提供非常詳細的說明。

BNBChain宣布靈魂綁定代幣BAB可獲得Ape、Pear等14個項目的獨家獎勵:9月9日消息，BNBChain靈魂綁定代BAB已上線，BNBChain上的ApeSwap，Apollox，PearDAO，Project Galaxy，X World Games，Summoner's Arena，Ultiverse，Cyberconnect，P12，Mathwallet, Liveart, OpenOcean, TinyWorld和The Harvest 14個Web3項目將為BAB代幣持有者提供獨家獎勵。[2022/9/9 13:19:03]

主流網絡釣魚攻擊通常由一系列電子郵件配合構成，每封電子郵件都會逐漸獲得受害者更多的信任。因此，對于第二、第三和第N封電子郵件，由于ChatGPT可以“記住”上下文的內容和情節，因此它確實可以為網絡犯罪分子節省大量撰寫的時間。現階段對于此類機器生成的文本內容，暫時還并沒有很好的識別和偵測方法，對于這類“高仿真”的文本人類逐漸失去分辨能力。

V神：礦池對BCHA進行51%攻擊似乎是為了摧毀它:礦工voluntarism.dev發推稱，“ABC從BCH偷來的價值與我們的支出相比相形見絀。我們是一群守舊的礦工和巨鯨。我們可以做很多年。下一次你分叉的時候：使用你自己的創世區塊，你自己的PoW算法，并建立你自己的社區。BCH受到保護。”

V神轉發并評論稱 ，礦池對BCHA進行51%攻擊似乎是為了摧毀它。這將是第一次真正的重生扎營（spawn camp）對PoW鏈的攻擊嗎？但他們的推文需要對此處進行修改：“下次你分叉的時候，*請使用PoS*算法”，這樣您就不會受到無追索權的不間斷攻擊。

根據昨晚發布的Reddit帖子，最新Coinbase文本顯示，“不管黑哈希白哈希，能維護礦工利益的就是好哈希。voluntarism.dev:6174 x/x”。11月27日，voluntarism.dev發推稱，“ABC違反了NAP與9個月的內戰。免費搭車者必須向ABC支付全部區塊獎勵。我們將孤立所有沒有這樣做的區塊。一旦ABC合并此變更，我們也將支付100%。”4個孤立塊（前幾天有2個碰撞，今天起有2個區塊重組）；新的2個區塊重組發生在UTC時間12:00左右。[2020/11/28 22:25:42]

VNT Chain官方首發上線KKEX和BitRabbit:VNT Chain官方首發上線KKEX和BitRabbit，KKEX將于北京時間5月28日12點開放VNT/BTC交易，5月30日12點開放VNT/ETH交易；BitRabbit將于北京時間5月28日15點開放VNT/BTC及VNT/ETH交易。據了解，VNT Chain由區塊鏈技術服務商“云象”提供技術支撐，采用“聯盟鏈+跨鏈+公有鏈”架構，打造全球分布式智能價值網絡，構建數據交換和資產交換的連接器。VNT Chain已經獲得幣信資本、了得資本、泛城資本、時戳資本、比升資本、THE CABIN CAPITAL等機構的投資。[2018/5/28]

法律風險分析

幫助信息網絡犯罪活動罪

所謂幫信罪，全稱是幫助信息網絡犯罪活動罪，被規定于我國《刑法》第287條之二中，指的是明知他人利用信息網絡實施犯罪，為其犯罪提供互聯網接入、服務器托管、網絡存儲、通訊傳輸等技術支持，或者提供廣告推廣、支付結算等幫助。近年來，幫信罪呈井噴式發展，根據最高檢2021年發布的前三季度全國檢察機關主要辦案數據。2021年的9個月里，全國檢察機關起訴幫信罪同比增長21.3倍，起訴人數達79307人，從數量上看與危險駕駛罪、盜竊罪、詐騙罪并駕齊驅排名第四。2022年上半年則更為恐怖，僅僅6個月的時間，全國檢察院就已起訴6.4萬人，超過了詐騙罪的人數。

Blockchain Capital合伙人：SEC的聽證會或將影響市場價格:區塊鏈Capital合伙人Spencer Bogart表示:\"我認為巴菲特和蓋茨的言論可能會產生影響，但我認為目前更重要的因素是監管。這是因為一些市場參與者擔心，SEC將在周一的聽證會上發表負面評論。”BitBull Capital的首席執行官喬?迪帕斯卡爾(Joe DiPasquale)也表示，“目前投資者的猶豫可能很容易被打破，并導致新一輪的反彈，這應該是官員們在出席會議時定下的基調。”《華爾街日報》上周報道稱，包括SEC和CFTC高級官員在內的監管機構本周將討論證券法是否適加密貨幣，其中包括第二大貨幣ETH。[2018/5/8]

那么，一個關鍵的問題，如果自家開發的ChatGPT等AI工具被犯罪分子利用為上述犯罪工具，是否會構成幫信罪？先給答案：有可能。

先說幫信罪，在該罪的客觀方面，法條明確規定行為人需要為上游利用信息網絡實施犯罪活動的犯罪分子提供互聯網接入、服務器托管、網絡存儲、通訊傳輸、支付結算等特定類型化的技術支持與幫助行為才能構成犯罪。因此，是否構成該罪有三個重點需要考慮：行為人提供幫助的上游犯罪行為是否是“利用信息網絡實施的犯罪行為”？提供幫助的行為人是否“明知”他人正在實施犯罪？以及行為人是否為上游犯罪提供了技術、推廣和資金結算方面的支持？

如前所述，如果犯罪分子利用ChatGPT等工具生成釣魚郵件實施網絡詐騙，即可被認定為“利用信息網絡實施的犯罪行為”。那么我們接下來考慮，ChatGPT的運營方是否“明知”他人正在利用AI工具實施網絡犯罪？在幫信罪的構成要件中，認定“明知他人利用信息網絡實施犯罪”是重中之重，也爭議最大。但是2019年兩高發布《在關于辦理非法利用信息網絡、幫助信息網絡犯罪活動等刑事案件適用法律若干問題的解釋》后，關于“明知”的認定迎刃而解，該司法解釋第11條引入了推定的方法，列舉了6種可以推定行為人明知他人犯罪的情形，除有相反證據證明否則直接可認定行為人主觀上具備“明知”要件。六種情形我們就不一一例舉，但用ChatGPT來說，如果實踐中經監管部門告知如果該AI被利用為犯罪工具后仍然實施有關行為；或接到該AI被利用為犯罪工具的舉報后不履行法定管理職責，即可被認定為ChatGPT的運營商“明知”他人正在利用自己開發的工具實施犯罪。

最后，使用ChatGPT生成可信度更高的網絡詐騙文案或者生成推廣文案，是否屬于為上游犯罪提供了技術、推廣、結算方面的支持？颯姐團對認為這個問題具有一定的爭議，且由于目前尚未有可供參考的司法實踐，我們不能給出一個絕對肯定的答案，因此還需要具體案件具體分析。但是，總的來說，如果ChatGPT生成的釣魚軟件可信度較高、推廣文案非常容易吸引一般用戶的注意，那么我們認為，在我國的司法實踐中，大概率會將這種AI工具列入“提供技術幫助”或“推廣幫助”的行為，運營者們務必警惕。

拒不履行信息網絡安全管理義務罪

ChatGPT作為類似于信息發布、搜索引擎的網絡服務提供者，需要履行信息網絡安全管理義務。如果類似網絡攻擊類違法信息被監管部門要求責令整改，而平臺無法提供有效的管理措施或技術措施來阻止該類信息傳播，致使違法信息大量傳播的，則可能涉嫌拒不履行網絡安全管理義務。

致使違法信息大量傳播的標準是很明確的，致使傳播違法視頻文件以外的其他違法信息二千個以上的，或者致使向二千個以上用戶賬號傳播違法信息的，都算作大量傳播。類似于OpenAI這樣體量的公司很容易達到這個數額。且若有一個安全漏洞在ChatGPT等平臺中廣泛的被咨詢，從而造成了大量的社會危害，容易被歸為“造成嚴重后果”。但實際上，由于構成該罪需要運營方被監管部門要求責令整改后依然拒不整改才能構成，在司法實踐中較為少見，因此總體來看風險與前述犯罪相比并不大。

寫在最后

毫無疑問，ChatGPT可以減少網絡安全專業人員/黑客的工作量。但就目前而言，除了機器效率，沒有什么可以與人類的工作相提并論——后者仍然比這種人工智能技術更準確、更可靠。

ChatGPT可以作為網絡安全行業積極正向的推動，也可以淪為黑客手中惡意攻擊的輔助工具。平臺方應該更好的安全措施和內容過濾機制來防止類似模型被用于惡意代碼設計等網絡攻擊的實施。

颯姐團隊提醒您，ChatGPT雖好，但是也是一把雙刃劍。企業平在開發平臺的過程中需要重視相關輸出信息的篩選和過濾，事先提供明確的技術治理和救濟機制，稍被不慎利用，便可能會有刑事風險纏身。

Tags：CHAGPTHATATGBSF ChainAIGPT幣CloudChatATG幣

中幣交易所