中國信通院完成大模型可信標準征求意見稿

發布時間:2023-09-05

作者:NGAI

圖片

自去年以來,大模型技術突飛猛進,為經濟社會發展帶來新機遇的同時,也產生了諸多風險。在技術層面,大模型研發運營環節PB級別的訓練數據量、億級別的模型參數量和工程落地難度倍增等問題使得其固有的數據風險與模型風險顯著放大。在應用層面,大模型的廣泛應用與多場景融合更進一步引發了隱私泄露、偏見歧視和技術濫用等風險。如何統籌大模型技術發展和風險防范、共筑大模型可信生態引起社會各界高度關注。

圖片


為進一步理清大模型在落地過程中的可信問題,探索通過標準形成大模型可信的落地方法論,中國信息通信研究院(以下簡稱:中國信通院)于今年3月啟動了大模型可信相關標準的研究和討論工作。經過前期系列的討論和系統的研究,目前已經形成《大規模預訓練模型技術和應用評估方法 第5部分:可信要求》征求意見稿。2023年7月底,中國信通院組織對該征求意見稿的第二次研討會,來自移動集團、電信集團、聯通集團、北銀金科、中科院自動化所、北京交通大學、華為、螞蟻集團、360集團、科大訊飛、浪潮云、新華三、商湯、九章云極、燧原科技、Boss直聘等50余位行業專家參與本次會議。


圖片


中國信通院云計算與大數據研究所(以下簡稱“云大所”)人工智能部工程師吳思奇介紹了大模型可信的前期研究、工作進展及未來工作安排。


圖片


中國信通院云大所人工智能部工程師丁怡心組織討論了標準文稿。該文稿共分為基礎設施可信、數據可信、算法模型可信、應用可信4個能力域,評價體系貫穿大模型研發、運營、應用全過程。隨后與會專家針對標準文稿展開討論,圍繞硬件設備可信、軟件設備兼容性、數據采集、數據處理、模型可信、應用服務合規性等方面進行充分探討及交流。


圖片


?


目前,大模型可信標準研制工作持續推進,預計將于9月上旬正式發布,并于9月中旬開啟評估測試。歡迎感興趣的單位報名參與共建。


聯系人:


丁老師

13641208925

dingyixin@caict.ac.cn


吳老師

15927505636

wusiqi@caict.ac.cn