中國信通院順利召開大模型安全可信標準首次研討會

會議時間:2023-09-06

會議類型:

近期,中共中央政治局會議提出,要重視通用人工智能發展,營造創新生態,重視防范風險。大規模預訓練模型(以下簡稱“大模型”)引爆技術浪潮,人工智能發展迎來新拐點。一方面,大模型應用落地進程加速,正逐步適配各行各業多種實際需求。另一方面,大模型隱私泄露、侵犯知識產權、產生虛假內容等風險問題不斷暴露,應用過程中如何保障數據安全、保護用戶權利、保證內容可信已成為各方關注的焦點。中國信息通信研究院(以下簡稱“中國信通院”)高度重視大模型安全可信問題,依托人工智能關鍵技術和應用評測工業和信息化部重點實驗室大模型工作組和可信人工智能推進計劃啟動相關技術研究、標準編制及評估評測工作。


圖片


近日,大模型工作組順利召開大模型安全可信標準首次研討會,來自中國移動研究院、聯通研究院、北銀金科、中科院自動化所、華為、螞蟻、百度、360集團、浪潮云、??低?、貝殼、矽赫科技、馬上消費等60余位行業專家參會。同時,本次研討會特邀中國移動研究院安全技術研究所(安全管理中心)副所長楊凱,及北京交通大學計算機科學系主任、國家級青年人才?;w教授做主題分享。


圖片


中國信通院云計算與大數據研究所人工智能部主任曹峰在開場致辭中指出,當前大模型安全可信已收到各方廣泛關注。然而,當前大模型仍存在隱私安全、數據投毒、惡意使用等問題,亟需通過標準制定、評估測試等工作進行引導。未來,工作組將以大模型標準體系2.0為中心與各方攜手共推大模型工程化進程、共筑大模型可信生態。


圖片


中國移動研究院安全技術研究所(安全管理中心)副所長楊凱以《AI大模型可信安全研究初探》為主題,分享了中國移動對可信AI的思考和初步探索。中國移動AI大模型可信安全實施框架包含數據可信、模型可信和環境可信層面。綜合各因素之間的相互作用及對AI大模型置信度的影響,中國移動自研的大模型可信綜合評價體系將持續定量評價AI大模型的可信度,實現各項可信要素之間的動態平衡。


圖片


北京交通大學?;w教授帶來《可信大模型評測:從實驗室研究到工業生態建設》主題分享。桑教授指出,多模態預訓練發展迅速、應用邊界在不斷拓寬,一定程度上代表了知識驅動認知智能的趨勢。與此同時,多模態預訓練模型本身存在著公平性、魯棒性、數據隱私保護等可信問題,對應用造成風險。未來對于可信大模型的評價體系可從模型可信、模型安全、數據安全及內容安全等多個角度展開,構建面向大模型測試、診斷、修復的評測工作流。


圖片


中國信通院云大所人工智能部丁怡心對大模型安全可信前期調研情況、標準體系進行總體介紹。大模型安全可信標準分為基礎設施安全可信、數據安全可信、算法模型安全可信、應用安全可信4個能力域,涵蓋10個能力子域、近40個能力項,評價體系貫穿大模型研發、運營、應用全過程。與會專家對指標的定義、范圍、測試可行性等方面提出建議,并就軟硬件設施、數據、模型安全可信等方面展開討論。


圖片


圖片
圖片
圖片
圖片
圖片


會議最后,中國信通院云計算與大數據研究所人工智能部主任曹峰對會議進行了總結,介紹了大模型安全可信的下一步工作計劃與未來展望。


目前,大模型安全可以標準研制工作已經正式啟動,歡迎感興趣的單位報名參編。


聯系人:


丁老師

13641208925

dingyixin@caict.ac.cn


吳老師

15927505636

wusiqi@caict.ac.cn


圖片

掃碼報名