起草單位為國網信息通信產業集團有限公司、安徽繼遠軟件有限公司、福建億榕信息技術有限公司、北京國網信通埃森哲信息技術有限公司、國網重慶市電力公司電力科學研究院、四川大學、四川中電啟明星信息技術有限公司、國網重慶市電力公司、中國電力科學研究院有限公司、國網四川省電力公司、重慶大學、國家電網有限公司大數據中心。
主要起草人為李強、趙峰、邱鎮、劉迪、莊莉、李炳森、廖逍、黃曉光、向輝、王秋琳、余江斌、許中平、譚洪恩、呂躍春、蘇少春、楊迎春、周孔均、王曉東、鐘加勇、彭艦、田鵬、劉禮、呂小紅、厲仄平、黃飛虎、王金策、梁翀、郭慶、張琳瑜、崔迎寶、劉璟、宮曉輝、尹玉、周偉、梁翀、李溫靜、李道興、陳振宇、浦正國。
近年來,隨著邊緣計算的火熱,電力人工智能邊端側模型得到迅速發展,電力領域各場景孵化了相應的各類邊端側模型,并在各場景積累的大量的實踐經驗。但是,隨著電力人工智能邊端側模型規模和數量劇增,各廠家對模型定義以及模型精度遵循的是廠家內部的標準,導致各廠家對模型的把控力度不一,造成邊端側模型能力、精力和安全性有差異,增加了模型應用和準入的難度,也不利于工作流程的標準化。因此,擬制定電力人工智能邊端側模型統一標準規范,指導電力人工智能邊端側模型研發、模型測試、模型應用具有重要的指導意義。
從內容上來看,該標準主要包含以下幾個部分:
(1)范圍
本規范規定了電力人工智能邊端側模型技術應用相關的通用要求、安全性要求、效率要求、算子要求、模型應用封裝要求和模型評價指標及方法。本規范適用于電力輸變配和安檢等數據采集終端智能分析應用場景。
(2)規范性引用文件
本規范主要引用的文件主要包括:GB/T 5271.28-2001 信息技術 詞匯 第28部分:人工智能基本概念與專家系統;GB/T 35312-2017 中文語音識別終端服務接口規范;GB/T 38671-2020 信息安全技術 遠程人臉識別系統技術要求。
(3)術語和定義
主要包括電力人工智能邊端側模型、開放神經網絡交換、算子、目標檢測模型、測試數據集的術語和定義。
(4)縮略語
(5)通用要求
主要包括應用場景、硬件架構適配、模型超參轉換、邊端推理效率、應用安全等。電力人工智能邊端側模型主要應用電力業務邊端數據采集分析場景,需能夠快速適配主流邊緣計算硬件架構,支持基于不同運算框架之間的模型超參轉換,邊端推理效率和安全性方面符合基本要求。
(6)通用算子要求
邊端側應當支持常見的深度學習底層框架如表1所示,邊端側模型算子根據模型實際應用場景,進行差異化組合應用,分別對算子融合、自定義算子、高性能計算三方面做出要求。
表1
(7)模型封裝要求
包括模型初始化服務、數據管理服務和容器化模型打包。邊端側模型封裝應考慮模型管理與數據貫通要求,實現與邊緣智能服務平臺或人工智能平臺等管理系統的數據貫通,實現模型初始化消息隊列服務和數據管理服務,并采用Docker容器化方式進行封裝,如圖1所示。
圖1
(8)模型評價指標及方法
包括模型評價體系、安全性評價、魯棒性評價、模型推理效率評價、評價指標、評價方法、模型性能等級判定等。
該標準規范了電力人工智能邊端側模型評價方法,該標準效益主要體現在:
(1)制定統一的電力人工智能邊端側模型評價方法,可以使得不同應用場景數據采集終端智能分析對邊端側人工智能模型做出統一的評價,有利于提升電力邊端側數據匯集分析智能化水平。
(2)有利于構建低延時、低帶寬依賴、經濟智能、數據可控和高可靠性的邊端人工智能算力體系。