大模型運營標準研討會順利召開

會議時間:2023-09-06

會議類型:

隨著大規模預訓練模型(以下簡稱“大模型”)熱度不斷攀升,大模型與各行各業的深度融合正在塑造全新的數智化轉型路徑。當前,企業迫切尋求大模型落地場景,以實現生產方式的變革、任務性能的優化和員工效率的提高。然而,大模型工程化的路徑尚不明朗、專有模型的二次開發成本高、底層資源管理復雜、部署上線過程耗時長等問題成為了大模型賦能千行百業的阻礙。在此背景下,中國信息通信研究院云計算與大數據研究所(以下簡稱“中國信通院云大所”)已展開對大模型運營(LMOps)體系的研究,并啟動《大規模預訓練模型技術和應用評估方法 第3部分:模型運營》(以下簡稱“大模型運營標準”)標準編制,為專有大模型的構建、模型服務和應用的落地提供參考。


圖片

圖1:LMOps示意圖


















2023年6月30日上午,中國信通院云大所舉辦的“大模型運營標準專題研討會”在京成功召開。本次研討會邀請了來自上海浦東發展銀行、中移信息技術中心、中國移動研究院、北京中關村科金、騰訊、天云數據、好未來、科大訊飛、燧原科技、北京奇虎科技、啟明星辰、萬達信息、星鯨科技、北京熵簡科技、思謀科技、360集團、浪潮通信(排名不分先后)等單位的多位專家,圍繞大模型運營標準內容、大模型工程化應用現狀等話題進行研討交流。


圖片

圖2:會場照片


研討會由中國信通院云大所人工智能部高級業務主管秦思思主持,她從當前大模型處于百家爭鳴的局面為起點,闡述了大模型發展歷程、行業對大模型平臺的需求,分析了部分企業在大模型落地過程中面臨的困難,并詳細介紹了大模型運營標準后續規劃。中國信通院云大所人工智能部工程師胡慧,圍繞大模型平臺的數據處理和回流、模型訓練與微調、模型壓縮與測試、服務部署與托管、平臺支撐能力等環節進行內容講解,分別對各能力子域的基礎功能和高級功能的技術要求做了詳細介紹。


圖片

圖3:主要參編單位


隨后,與會專家學者們集思廣益,對征求意見稿開展深入交流,并提出了諸多寶貴意見和建議。同時圍繞大模型工程化落地等關鍵問題,特別是針對私有數據面臨的隱私風險、信息孤島問題,分享寶貴經驗并探討面臨的瓶頸,為大模型穩著陸提供實踐價值,為標準的持續優化提供寶貴信息。


?


中國信通院云大所將以此為基礎,繼續推動大模型工程化的創新發展,助力企業級大模型應用快速落地,為社會創造更多價值。大模型運營標準將于近期正式發布,一方面為應用方企業使用大模型賦能業務提供參考,另一方面為大模型平臺方企業優化和迭代產品能力提供指導,歡迎更多企業和專家的參與,有意者請與以下老師聯系。


聯系人:


胡老師

17371328072(微信同號)

huhui@caict.ac.cn


齊老師

15501080011(微信同號)

qijing1@caict.ac.cn


秦老師

13488684897(微信同號)

qinsisi@caict.ac.cn