11月26日，在2023全球數商大會上，星環科技成功舉辦了數據要素市場與大模型語料庫論壇暨中國大模型語料數據聯盟開放日活動。
論壇上，中國大模型語料庫的價值與挑戰圓桌對話，由星環科技智能量化事業部總經理曾晨光主持，上海市經濟和信息化委員會信息化推進處干部薛威、復旦大學大數據學院副院長陽德青、上海財聯社技術總監葉周、上海數交所技術開發高級經理孫江，從主管機構、學界、數據機構、交易所視角共同探討中國大模型語料庫建設。
圓桌對話實錄
曾晨光（主持人）：今年8月上海市發布了《立足數字經濟新賽道推動數據要素產業創新發展行動方案（2023-2025年）》，獲得了非常高的呼聲，越來越多人關注數據要素尤其是語料庫、數據交易和數據牌照等一系列落地內容?？煞裰攸c介紹一下未來行動方案發力點以及上海的特色？
薛威：我們今年10月份正式對外發布了這部行動方案，一共有23條，也是落實國家《數據二十條》的具體舉措。我挑幾個具體的方向：
第一，構建產業的數據樞紐，面向一些產業集成度較高的領域，建設重點樞紐型平臺，比如電力、核能、新材料、集成電路、人工智能等領域，我們將會布局建設能夠連接整個產業鏈上下游所有數據要素資源的樞紐性平臺和機構。
第二，構建行業特色型的數據空間。這次大會特別把國際數據空間協會的外賓請到主論壇現場，介紹了他們相關的經驗，我們希望在上海也針對比如金融、航運等特色領域，建設一批特色的行業數據空間。
第三，加快建設數據交易所。今天的數商大會就是數據交易所不斷提升能級的具體體現，我們為大家都構建了一些非常有實效和行業能級的平臺，希望大家同我們一起用好這些平臺的資源，一起推動上海數據要素產業的創新發展。
曾晨光（主持人）：上海數據交易所發布了首款大模型應用-入場咨詢助手問答數字人，想請問站在上海數據交易所的視角，如何推動國內語料庫的健康、高效、合規發展？
孫江：上海數據交易所的重要使命之一是提供給市場合規、高效、集約、低成本的數據流通交易基礎設施。要關注三點：數據要供得出、流得動、用得好。
我們在市經信委領導下，在人工智能協會的倡導下，于9月份開設了語料庫的版塊。目前語料庫板塊掛牌了69款數據產品，包括也有部分網紅產品已經進行了交易。
同時，在流得動方面也在國家工程實驗室的指導下，與梅宏院士的頂尖團隊構建鏈網融合數據交易技術創新方案、與鄔江興院士的頂尖團隊合作構建內生可信交付框架體系。產業數據跨域融合平臺的落地與推廣也在有序的進行中，以數據空間的方式，發揮數據要素乘數效應，提升niDts數據交易平臺的效能。
用得好方面，前兩年上海數據交易所提出了“無合規不掛牌，無場景不交易”，針對大模型應用也是一樣的道理。具體來說就是基于垂直行業要解決的具體問題，從場景出發聚焦大模型能力的輸出，拉動供需雙方進行數據撮合，形成語料庫供應的產業鏈發展。
曾晨光（主持人）：在專有領域的語料庫層面，財聯社本身是獲得巨大媒體資源的媒體平臺，同時在通用領域語料有很多貢獻，尤其是在金融領域的語料積累，據了解現在已經開始儲備一些微調的指令和預訓練高質量語料集，這些知識工程現在是什么進展？有什么最新的內容可以與大家分享？
葉周：財聯社在語料這塊，除了前面提到的語料的分級分類，還有一塊是SFT，或者是其他一些數據。從另一個視角來看，廣義的數據可以分成兩大類，一種是Data in training，訓練時候用的語料；還有一種是Data in use，在使用場景中重點積累，具體的使用又可以細分為SFT，針對像金融領域，比如要寫一篇財經的稿子，它的文風應該是怎么樣的，這種數據是在積累。還有一個是真正日常使用的，比如需要引用一些投研的觀點，或者做一些分析，通過向量查詢的方式來使用這些數據。還有一種隱蔽類型的數據就是我們的提示詞，這也是和星環科技在很多具體場景上積累的，比如像剛才提到的風控，也積累了一些提示詞，這幾塊都是目前我們正在投入積累的，也是發揮財聯社作為財經媒體和數據供應商的優勢。
曾晨光（主持人）：目前知識圖譜和大模型結合有幾個論調，有些人認為大模型已經具有知識了無需知識圖譜，也有人認為知識圖譜可以有效補充大模型知識的精準度和廣泛性避免幻覺，同時也有人認為可以把知識圖譜訓練到大模型中去。請分享一下見解。
陽德青：我所在的研究領域，基本過去十年都是專注于知識圖譜的研究。大模型有很多知識，我們不懂的，大模型能回答。知識圖譜到底還需不需要，從專業角度來講，它們是有所不同的，各有優劣，更好的方式是把這兩者結合起來。
具體談一談大模型和知識圖譜各自的優劣勢。先說大模型，基于大規模的語料訓練，知識儲備比較豐富，其強大之處在于自然語言理解和生成能力。但對于一些預訓練過程中沒有碰到的，尤其垂直領域比較深的、比較難的問題答，如果硬要回答，就會出現我們所說的幻覺。
知識圖譜優點在于其中的知識是正確的，知識以圖形式的存儲是其另一大優點，可以用一些圖的算法進行高階推理，而且很多時候能保證推理出來的知識正確性，這就可以彌補大模型的缺點。尤其在一些長尾的垂直領域，如果因大模型缺乏垂直領域知識不能回答的，基于該領域的知識圖譜就能回答。
而且很多時候我們會發現，一個問題換一種問法，大模型就不能問答了，或者稍微高階一些的推理大模型并不能實現。但知識圖譜因為有完備的、正確的知識，有友好的結構形式，可以實現推理的算法。使用大模型很重要一點就是評測，我們都知道，現在很多時候大模型靠的是人工專家的評測，成本很高。但有了知識圖譜來產生評測所需的標準答案，就能保證大模型評測的效果和對與錯，就能很正確的判定。
同樣利用大模型的優勢，可以彌補知識圖譜的不足，例如幫助更新知識圖譜，甚至補全知識圖譜，讓知識圖譜質量更高。之前對知識圖譜如果不采用一些自動化的方法主動更新當中的知識，它會過時，雖然以前的知識是正確的，但現在不一定正確。而大模型可以隨時隨地在補充新語料后進行預訓練，甚至通過強化學習人工的反饋，它可能掌握更多更新的知識，雖然有些知識可能會錯，但它新掌握的知識更多，而且是更及時的。這兩者是相輔相成的，并不是誰替代誰，誰淘汰誰的問題。
曾晨光（主持人）：建立健全數據交易、數據跨境、數據確權等相關立法的頂層設計是數據要素市場化的基石，很多數商可能更加關注，如何將自己的數據，或者結合公共數據平臺加工融合的數據進行商業化或市場化落地？
薛威：總體來講，所有在推進智能化、數據化的市場化工作中，第一個考慮的是應用場景。所以未來配置相關要素的模式也將是由場景牽引，第一就是需要什么樣的要素資源。我們在配置各種各樣的卡、算力等相關的資源。
第二項就是關于數據要素的配置，不光建設了數據交易所，也搭建了大模型數據語料聯盟，但需求和供給之間的配合實際是長期的，不能像以前其他商業化已經比較成熟的領域，只要拿出清單來，市場上總能找到想要的資源。數據領域的磨合實際是一個深度的、以數據應用場景為牽引的相互交流的過程，我們特別希望手上有數據的機構，能夠和我們最一線的技術人員進行一定程度的溝通。特別是安全領域。
世界上淺網的數據只占了所有數據的5%，而95%的數據還在深網之中，甚至還在各個專家的腦袋中，所以這個方面仍然需要大量的專家，比如今天新加入的人民檢察院，檢察院的檢察官們、記者朋友、律師們腦子里的知識如何進行數據化，如何供給到大模型業態中去，是政府部門特別關注的內容。
此外，我們在不斷推進一些法律法規和相關標準的建設，特別是針對于數據的三種產權，進入到大模型之后生成的結果，到底它的IP產權在誰手里面，是大家形成共識的一個過程。所以希望三個方面，我們政府部門和大家一道進行探索。
曾晨光（主持人）：大模型和語料庫是一個天然的產業鏈上下游關系，關于新型供應鏈的打通，還有什么需要注意的地方？
孫江：當下基于數據流通的基礎設施已經發生了本質性的改變，從傳統的信息化基礎設施，轉變為圍繞數據要素價值化的新型基礎設施。信息時代建立的是通道與節點，通過知識裂變產生價值。而在數據時代是圍繞數據本身，構建數據空間，加上算法、算力、網絡資源、安全設施。通過聚變形成規模價值效應，通過場景挖掘激發用數需求，通過工具與平臺釋放數據價值潛能。這也是數據作為生產要素的魅力所在。而模型也一樣，縱觀整個產業，我認為模型有三類潛在的生態。
第一，語料庫運營商。從數據的生命周期來看，從采集、加工、存儲、開發、共享、流通與交易，再進一步是做數據標注、分類分級，做語料庫的加工。我稱之為DIKC模型，也這就是從海量數據（Data）中挖掘信息價值（Information），形成知識庫（Knowledge），再在知識庫之上形成面向需求的多級語料數庫（Corpus）。例如當下隨著大模型技術興起的數據標注產業。
第二，模型加工集成商。各種各樣小模型加大模型集成，去解決模型應用開發最后一公里的問題，需要這些廠商來參與。
第三，大模型的工具平臺?，F在孕育出一些LLMOps廠商，包括AWS、騰訊云、星環科技等，他們在進行多元異構的管理平臺建設，包括預訓練、語料庫加工處理、微調、最后的價值評估，這樣一些工具平臺也會應運而生。
曾晨光（主持人）：有很多業內人士很關心，通用領域的語料開源開放是被理解的，但垂直領域，比如像金融，私有的大模型和開源大模型都有，但私有的數據和開源的數據沒有人去論證過，它的商業價值如何體現？未來站在大模型生產要素、生產力、生產關系層面怎么看待其商業價值？
葉周：這個問題比較抽象，財聯社在內容創作方面，幾個月前就已經把大模型能力用在采編環節，財聯社的生產就是生產內容，首當其沖受到大模型的沖擊。
比如微軟的copilot輔助程序員寫代碼，會根據所寫的內容自動補全一堆東西，如何把這種思維定式平行移植到財聯社編輯部里，這種模式還是以人為中心，小編或者記者也要休假、睡覺，就會錯過一些東西。有沒有可能完全屏蔽掉這種干擾，最終實現將源源不斷的素材從各個重要的渠道匯集過來，讓大模型直接生產，24小時連續不間斷。在此情況下，編輯部可能在稿件生產環節壓根不需要人的參與，我給它起了個名字叫“黑燈編輯部”，就一個無情的寫稿機器不斷的生成稿件。
在這種新的視角下，就要重新考慮大模型生產要素、生產力、生產關系。我們也在摸索，以往那種生產力或者人類社會的生產力之下我們做了很多妥協和折中，形成了現在比較穩定的生產關系，因為人的生產力是有限的，但是大模型的生產力目前來看遠遠沒到上限。如果還是用現有的這套生產關系去硬套新出來的生產力，那就好比是用前朝的劍來斬本朝的官。
曾晨光（主持人）：最近剛好拜讀了陽教授的論文，其中一片論文今年發在NLP最頂尖會議ACL上，并奪得杰出論文獎。我看到論文中planning script就是利用大模型來實現復雜任務規劃的非常有意思，而且讓大模型具有認知智能中類比能力也是非常重要的，想請問這樣的技術未來的應用方向以及相關規劃數據集準備上是否有更大前景和方向？
陽德青：本來我們做這個工作只是想去評測一下大模型在完成比較高階的認知智能任務的能力，比如規劃能力。在此過程中發現，大模型在回答很多問題，包括常識性問題的時候，因為掌握豐富的知識能做出回答，讓其做一些簡單的規劃任務，例如給出比較抽象的任務目標，讓其它產生完成任務的執行腳本，它也能正?；卮?。但如果對目標增加復雜一點的約束條件，即完成帶約束目標的具體規劃任務的話，生成的腳本就缺點比較明顯了。比如要求寫出為糖尿病病人做蛋糕的執行腳本，它產生的腳本中會有一步是要加糖，但糖尿病病人是不能吃糖的。
因此，我們在文中提出一個方案去改進大模型在這方面的能力，這篇論文能夠得到很多專家的認可還有一個很重要的原因是我們構建了相應的數據集。
要知道現在不是每個人、每個團隊、每個公司都用得起大模型，畢竟要花費不小的成本，很多時候只能使用規模相對小一點的模型。小模型的能力有缺陷，尤其是通用的學習能力，零樣本學習能力有欠缺的，不過有了我們這樣的數據集，對小模型進行訓練和指令微調，會發現提升后也可以接近大模型，雖然達不到大模型那么優秀的程度，但是夠用了。我們這篇論文里面做的工作就是提出了一套范式，為大模型和小模型在此類任務上的微調和評測生成質量更高、更可信的數據集，它的價值在于此，我覺得這是我們工作的一個很重要的貢獻。
曾晨光（主持人）：其實剛剛也提到了尤其垂直領域語料數據+小參數量大模型微調可以讓更多人使用成本低廉的AGI能力，尤其我也看到其實在美國有一些AGI獨角獸企業，就是做垂直領域微調指令的。您覺得尤其是圍繞垂直領域語料數據未來發展格局如何？
陽德青：首先垂直領域構建的能夠訓練垂直領域大模型的有質量的樣本要求還是挺高的，剛才也提到數據公有和私有的問題。首先，這些數據不一定已經公開成為網頁文本擺在那里可供大家使用，很多專業領域的知識可能都在專家腦袋里面，沒有變成可見的語料。剛才也提到，很多訓練樣本是靠人工去標注，但是人力成本是很高，人力也是有限的，那就需要模型自動產生。模型雖然產生數據的速度很快，成本也比較低，但也不保證百分之百正確，而且大模型完成一些特定領域的任務要做垂直領域的指令微調，這些數據哪里來？回答這個問題這可以和前面探討的第一個問題結合，可以依靠領域專家結合現有的領域文檔資料，并采用一些模型算法利用垂直領域中已經形成的領域知識圖譜，用人機協作的方式，讓人和小模型配合產生本領域的數據語料，去喂給大模型訓練或微調，而且能保證數據量足夠、質量夠高，這樣來訓練垂直領域大模型就可以擺脫沒有數據，或者擺脫只能依靠人工來產生數據的缺點。
至于未來格局如何，現在我還提不敢斷言，但我剛才提的幾個方式應該是可行并能并存的，大模型數據語料的構建不能只靠機器，也不能只靠人，需要人機協作。
曾晨光（主持人）：財聯社已經率先實現了這樣的落地，包括在垂直領域建設語料庫的經驗和方案。葉總作為數商代表，能不能給同行一些建議。
葉周：第一先趕緊用起來，這是毫無疑問的。我說的是真正的用起來，要真正把它用在生產環節中，這種情況下，才能真正持久的使用大模型，在大模型的使用中積累經驗。財聯社因為用得相對比較早，也積累了一些經驗，就數據而言，我們發現數據不是越多越好，很多數據用處不是特別大。比如炒股票，每天的K線高開低收，這是股票的幾個基本要素，5000個股票，一年200個交易日，每個交易日都有開盤價、最高價、最低價、成交量等，這個數據量很大，其中是沒有什么知識的，這種數據丟給大模型幾乎毫無用處。
什么是有用的？比如炒股的教材，有些技術面分析，像鉆石頂、雙尖底、矩形突破這些概念。你在網上一些論壇里面提到這些黑話，或者是雞頭頂、鵝頭頂這種技術類黑話，大模型是不知道的，你讓它自己總結也總結不出來的，這就是知識，這個知識就從一些教材中來。
所以我們現在正在摸索，如何把金融相關的教材作為語料投喂給大模型，我們最終還沒有看出效果的差異，只是方法的差異。但是從數據而言，哪些數據是有Knowledge的，哪些數據是沒有Knowledge的，這一點可以作為后續在大模型時代，無論數據供應商還是系統集成商，還是大模型應用者，我覺得這是比較有價值的判斷標準。
曾晨光（主持人）：這個論壇是大模型語料庫的價值與挑戰，尤其挑戰方面，還有哪些？對這些挑戰還有哪些建議？
孫江：未來通用大模型我認為會往集約型的方向去走，因為大模型技術作為一個工具，它最后是要和生產要素去結合，解決一些具體問題，賦能數字經濟及實體經濟。但是行業大模型不同，它本身具備了行業規模效應，如果能解決到具體問題、提升生產中的效果與效能，不管大模型也好，小模型也好，必將百花齊放。
既然有挑戰就有幾個困難點要克服。一是克服大模型幻覺的問題，因為要解決行業的具體問題，一定要讓大模型和行業語義進行對齊，特別是在政務領域、公共事業領域，去回答一些特定性問題，特別是法律法規的解讀與釋義，不能含糊不清。這就要與其他一些小模型結合，包括知識檢索、分類模型，實現精準化的回答。
二是數據要素化，數據要素化往前的階段是數字化、數據化，往下的階段是數智化。數字化轉型對很多企業還在發生和進行中，大量的企業數據還是停留在怎么把非結構化變成結構化，再里面提煉出有價值的知識，去形成一些行業的知識，最后賦能給行業上下游甚至整個社會。
三是智能問答，智能問答核心要解決的除了回答對錯以外，能不能提供情感關懷和情緒價值。我提的一個觀點就是大模型要加上元宇宙數字人，這也是我們上數所在開發的一款大模型應用—下個月要上線的”入場咨詢助手”，它就是一款結合大模型加上數字人，然后有情感表達，去提供行業知識、行業資訊，數據產品推薦、數商服務推薦、合規指引解讀的智能問答數字人。
四是要有一些評估標準。在數據領域里有合規評估、質量評估、價值評估。其實對模型工具或者模型應用，一定要有一套行之有效并且行業共識的評估標準與規范。通過這樣一個指標體系去衡量模型應用的開發質量，對效果進行評級。從而達到推動大模型生態高質量發展。
曾晨光（主持人）：相信這些挑戰也是語料聯盟未來要去克服的一些目標和方向，薛老師是否能給語料聯盟未來發展的方向給一些寄語或者期望？
薛威：語料聯盟最新的數字大概是42家成員機構，經常有新的機構加入。我覺得還是要有更強的服務大模型的意識，同時我更加關注一個問題，我把它稱為“大模型的好孩子、壞孩子問題”，到底怎么培育出來一個好的大模型，它既知道世界的美好，也知道世界的險惡，這是我們長期想要考慮的問題。所以價值對齊不僅僅是告訴它什么是對的過程，也是不斷的博弈，去讓它自身的存在感始終保持警惕的思考。我特別同意陽教授的講法，知識圖譜的確是有必要的，它最大的必要性在于，它讓大模型可以知道有些東西不會，你可以選擇說我不會，而不是按照概率學去編造一套可能可以滿足用戶傾向的需求，我覺得這是所有大模型語料數據聯盟成員單位都應當持續思考的問題。
