金融圈注意了 BloombergGPT來了_區塊鏈

ChatGPT引爆的AI熱潮也“燒到了”金融圈，彭博社重磅發布為金融界打造的大型語言模型——BloombergGPT。

3月30日，根據彭博社最新發布的報告顯示，其構建迄今為止最大的特定領域數據集，并訓練了專門用于金融領域的LLM，開發了擁有500億參數的語言模型——BloombergGPT。

報告顯示，該模型依托彭博社的大量金融數據源，構建了一個3630億個標簽的數據集，支持金融行業內的各類任務。該模型在金融任務上的表現遠超過現有模型，且在通用場景上的表現與現有模型也能一較高下。

一般來說，在NLP領域，參數數量和復雜程度之間具有正相關性，GPT-3.5模型的參數量為2000億，GPT-3的參數量為1750億。

現場丨全國政協委員屠光紹：地方發展金融科技的主要政策措施集中在五大方面:金色財經報道，9月26日，外灘大會第三日，全國政協委員、上海交通大學兼職教授、上海高級金融學院執行理事屠光紹現場進行主題分享《金融科技熱潮與地方金融發展》指出，中國經濟快速發展的秘訣源于改革開放，個體經濟競相發展不斷創新，不斷深化改革和擴大開放。這種秘訣用到現在金融科技的發展上來，也是各地金融科技的浪潮與應用發展促進整個金融科技成為今年經濟發展的熱詞。目前，地方發展金融科技的主要政策措施集中在五大方面：金融科技的研發與創新、金融科技的基礎設施建設，金融科技企業的集聚、金融科技的運用和推廣、金融科技生態環境的營造。[2020/9/26]

關于BloombergGPT

報告指出，研究人員利用彭博社現有的數據，對資源進行創建、收集和整理，通過構建迄今為止最大的特定領域數據集來完成BloomberGPT，并基于通用和金融業務的場景進行混合模型訓練：

現場 | 世界金融科技大會“CHAIN 2020”于1月15日在香港召開:金色財經現場報道，1月15日，CHAIN 2020世界金融大會在中國香港召開。據悉，“CHAIN 2020”是迄今為止最大規模的區塊鏈教育大會，將舉辦一系列全球區塊鏈、金融科技教育和知識普及主題的會議活動，推進區塊鏈的大眾普及，促進區塊鏈和產業的融合發展，共同推動區塊鏈技術賦能商業、科技和社會。本場大會邀請政府官員、企業家和個人匯聚一堂，全球超35位專家將登臺分享，參會者超過10,000名。在CHAIN 2020香港大會上，各位專家將圍繞區塊鏈應用未來，智能合約在政府和公共領域治理中的應用，加密貨幣應用及投資機會，當下全球經濟問題等問題展開討論。其中，圓桌討論環節還將探討金融科技和資本市場未來，人工智能技術發展趨勢等。為了讓更多民眾了解區塊鏈技術的使用和加密貨幣的概念，提升民眾對區塊鏈及加密貨幣應用的了解，CHAIN 2020選擇了落戶亞洲。未來，CHAIN 2020將在亞洲地區舉辦一系列區塊鏈教育目的的大會，將促進區塊鏈技術在亞洲的大規模采用，推進各方建立正向合作關系，推動區塊鏈行業的長足發展。[2020/1/15]

彭博社主要是一家金融數據公司，數據分析師在公司成立的四十年的時間里收集了大量的金融文件，擁有廣泛的金融數據檔案，涵蓋了一系列的主題。

公告 | 物產中大：區塊鏈技術優化供應鏈金融:物產中大(600704.SH)今日發布2019年三季報，三季報指出，區塊鏈技術在物產中大的經營模式中發揮重要作用。物產中大具有智慧供應鏈物流體系和特色供應鏈金融體系兩大支撐平臺。在特色供應鏈金融體系中，物產中大利用區塊鏈技術在供應鏈上下游成功探索“信用幣”機制。具體而言，物產金屬等成員公司將以區塊鏈技術為核心的應收賬款平臺結合到供應鏈集成服務中， 通過聯合上下游客戶和金融機構，激活原本沉淀的應收賬款的支付與融資屬性， 大大加強了與上下游客戶的合作緊密程度和粘性，提升了資金使用效率。（證券時報）[2019/10/29]

我們將這些數據添加到公共數據集中，以創建一個擁有超過7000億個標簽的大型訓練語料庫。

使用這個訓練語料庫的一部分，我們訓練了一個具有彭博風格的，達500億參數的模型，該模型是根據Hoffmann和LeScao等人的指導方針設計，基于通用和金融業務的場景進行混合模型訓練。

政策 | 日本金融廳公布兩項監管動向:日本金融廳在虛擬貨幣監管方面公布了兩件大事，一是發布了最新的虛擬貨幣交易所注冊登記相關的審查信息，二是認證了日本虛擬貨幣交換業協會的自律監管資格。[2018/10/26]

結果表明，我們的混合訓練方法使我們的模型在金融任務上的表現大大超過了現有的模型，而在通用場景上的表現則與之相當甚至優于現有模型。

1.BloombergGPT優勢：特定領域模型仍有其不可替代性且彭博數據來源可靠

在論文中，彭博社指出，現階段，通用的自然語言處理模型可以涵蓋許多領域，但針對特定領域模型仍有其不可替代性，因彭博社的大多數應用均為金融領域，著手構建了一個針對金融領域的模型尤其優勢，同時可以在通用LLM基準測試上保持競爭力：

金色財經現場報道 清華經管學院中國金融研究中心主任何平：區塊鏈價值主要有兩個:金色財經現場報道，在清華大學區塊鏈教育、產業創新峰會?暨青藤鏈盟成立大會上，清華經管學院中國金融研究中心主任何平表示，區塊鏈價值主要有兩個，一個是增強安全性與互信，減少欺詐。第二個是促進多方交易中的透明度和效率。這兩個特點讓區塊鏈技術適合那些被低效率拖累的企業轉型，也適合為基于分布式市場和技術的新商業模型賦能。[2018/5/27]

除了構建金融領域的LLM外，本文的經驗也為其他研究領域的專用模型提供了參考。我們的方法是在特定領域和一般數據源上訓練LLM，以開發在特定領域和通用基準上表現優異的模型。

此外，我們的訓練數據不同于傳統的網絡爬取數據，網絡上的數據總有重復和錯誤，但我們的數據來源可靠。

2.BloombergGPT的訓練數據集：

BloombergGPT的訓練數據庫名為FINPILE，由一系列英文金融信息組成，包括新聞、文件、新聞稿、網絡爬取的金融文件以及提取到的社交媒體消息。

為了提高數據質量，FINPILE數據集也使用了公共數據集，例如ThePile、C4和Wikipedia。FINPILE的訓練數據集中大約一半是特定領域的文本，一半是通用文本。為了提高數據質量，每個數據集都進行了去重處理。

對金融領域的理解更準

報告指出，在金融領域中的自然語言處理在通用模型中也很常見，但是，針對金融領域，這些任務執行時將面臨挑戰：

以情感分析為例，一個題為“某公司將裁員1萬人”，在一般意義上表達了負面情感，但在金融情感方面，它有時可能被認為是積極的，因為它可能導致公司的股價或投資者信心增加。

報告指出，從測試來看，BloombergGPT在五項任務中的四項表現最佳，在NER中排名第二。因此，BloombergGPT有其優勢性。

測試一：ConvFinQA數據集是一個針對金融領域的問答數據集，包括從新聞文章中提取出的問題和答案，旨在測試模型對金融領域相關問題的理解和推理能力。

測試二：FiQASA，第二個情感分析任務，測試英語金融新聞和社交媒體標題中的情感走向。

測試三：標題，數據集包括關于黃金商品領域的英文新聞標題，標注了不同的子集。任務是判斷新聞標題是否包含特定信息，例如價格上漲或價格下跌等。

測試四：FPB，金融短語庫數據集包括來自金融新聞的句子情緒分類任務。

測試五：NER，命名實體識別任務，針對從提交給SEC的金融協議中收集金融數據，進行信用風險評估。

對于ConvFinQA來說，這個差距尤為顯著，因為它需要使用對話式輸入來對表格進行推理并生成答案，具有一定挑戰性。

ChatGPT為彭博點贊

華爾街見聞就這個問題專門詢問了ChatGPT，ChatGPT認為BloombergGPT是一項很有意義的技術進步：

它是專門為金融領域開發的一種語言模型，可以更好地處理金融領域的數據和任務，并且在金融領域的基準測試中表現出色。

這將有助于金融從業者更好地理解和應用自然語言處理技術，促進金融科技的發展。同時，BloombergGPT還可以為其他領域的語言模型的發展提供參考和借鑒。總的來說，BloombergGPT是一個有益的技術創新。

Tags：區塊鏈GPTBLOLOOM區塊鏈運用的技術中不包括哪一項a共識算法HGPT幣BLO價格Sakura Bloom

幣安app官網下載