ICS 35.240.50
CCS L 77
团体标准
T/CES 101—2022
电力人工智能平台多级协同规范
Multi level collaboration specification of the artificial intelligence platform for
power industry
2022-06-22 发布 2022-06-24 实施
中国电工技术学会 发布
T/CES 101—2022
I
目 次
前言...................................................................................................................................................................Ⅱ
1 范围............................................................................................................................................................... 1
2 规范性引用文件........................................................................................................................................... 1
3 术语和定义................................................................................................................................................... 1
4 缩略语........................................................................................................................................................... 2
5 电力人工智能平台多级协同架构................................................................................................................ 3
5.1 协同框架................................................................................................................................................ 3
5.2 协同机制................................................................................................................................................ 4
5.3 技术要求................................................................................................................................................ 5
6 多级人工智能云平台样本中心协同要求.................................................................................................... 5
6.1 概览........................................................................................................................................................ 5
6.2 样本传输机制........................................................................................................................................ 6
6.3 样本资源协同机制................................................................................................................................ 6
6.4 样本索引协同机制................................................................................................................................ 6
6.5 技术要求................................................................................................................................................ 7
7 多级人工智能云平台模型中心协同要求.................................................................................................... 7
7.1 概览........................................................................................................................................................ 7
7.2 模型传输机制........................................................................................................................................ 7
7.3 模型资源协同机制................................................................................................................................ 8
7.4 模型索引协同机制................................................................................................................................ 8
7.5 模型服务协同机制................................................................................................................................ 8
7.6 技术要求................................................................................................................................................ 8
8 边端侧样本协同要求................................................................................................................................... 8
8.1 样本协同机制........................................................................................................................................ 8
8.2 样本数据采集........................................................................................................................................ 9
8.3 样本数据上传........................................................................................................................................ 9
8.4 样本技术要求........................................................................................................................................ 9
9 边端侧模型协同要求................................................................................................................................. 10
9.1 模型协同机制...................................................................................................................................... 10
9.2 模型部署.............................................................................................................................................. 10
9.3 模型运行指标上传............................................................................................................................... 11
9.4 模型技术要求...................................................................................................................................... 11
附录A(资料性附录) 资源元信息属性.................................................................................................... 12
附录B(资料性附录) 接口服务请求参数说明........................................................................................ 13
B.1 人工智能平台下发模型...................................................................................................................... 13
B.2 物联网平台下发模型.......................................................................................................................... 14
B.3 边缘物联网关上报样本数据.............................................................................................................. 15
B.4 物联网平台推送样本数据.................................................................................................................. 15
T/CES 101—2022
II
前 言
本文件按照GB/T 1.1—2020《标准化工作导则 第1 部分：标准化文件的结构和起草规则》的规定
起草。
请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。
本文件由国网信息通信产业集团有限公司提出。
本文件由中国电工技术学会标准工作委员会能源智慧化工作组归口。
本文件起草单位：国网信息通信产业集团有限公司、福建亿榕信息技术有限公司、安徽继远软件有
限公司、北京国网信通埃森哲信息技术有限公司、北京中电普华息技术有限公司、国网重庆市电力公司
电力科学研究院、四川大学、四川中电启明星信息技术有限公司、国网重庆市电力公司、中国电力科学
研究院有限公司、国网四川省电力公司、重庆大学、国网智能电网研究院有限公司、国家电网有限公司
大数据中心。
本文件主要起草人：李强、赵峰、刘迪、邱镇、庄莉、李炳森、廖逍、黄晓光、刘永清、向辉、许
中平、谭洪恩、吕跃春、苏少春、杨迎春、周孔均、钟加勇、彭舰、王秋琳、宋立华、黄飞虎、王金策、
田鹏、吕小红、厉仄平、苏江文、刘礼、邢国用、丘志强、禹国印、杨成、王晓东、宋卫平、张琳瑜、
崔迎宝、刘璟、白景坡、靳敏、李小宁、宫晓辉、梁翀、李温静、周伟、季知祥、陈振宇、赵保华、吴
鹏、郭庆、浦正国。
本文件为首次发布。
T/CES 101—2022
1
电力人工智能平台多级协同规范
1 范围
本文件规定了面向输电、变电、配电等电力领域的人工智能平台多级协同规范，包括人工智能平台
多级协同架构、多级人工智能云平台样本协同要求、多级人工智能云平台模型协同要求、边端侧样本协
同要求、边端侧模型协同要求。
本文件适用于电工行业人工智能平台云侧、边侧、端侧样本、模型共享和管理的多级协同，是电力
人工智能平台总体架构的细化与补充。
2 规范性引用文件
下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，
仅该日期对应的版本适用于本文件;不注日期的引用文件，其最新版本(包括所有的修改单)适用于本
文件。
GB/T 18336—2015 信息技术 安全技术 信息技术安全评估准则
GB/T 22239—2019 信息安全技术网络安全等级保护基本要求
GB/T 5271.1—2000 信息技术 词汇 第1 部分：基本术语
DL/T 1713—2017 信息系统非功能性需求规范
3 术语和定义
GB/T 5271.1—2000 界定的以及下列术语和定义适用于本文件。
3.1
人工智能平台 artificial intelligence platform
具备样本管理、模型管理、平台管理、服务接口管理、安全管理及跨域协同功能的人工智能软件系
统。平台包含面向电工领域的算法模型库和样本数据库，整合多种主流机器学习计算框架，支持从数据
集选择样本、模型创建、训练并部署运行为服务的全流程统一管理。
3.2
样本中心 sample center
统一管理和存储样本数据，并提供样本资源的调用服务，包含样本索引、样本源文件、样本标注、
样本管理等，为模型训练等提供支撑，在多级协同中负责样本协同，实现样本的共享。
3.3
模型中心 model center
统一管理和存储模型，并提供模型资源的调用服务，包含模型索引、模型文件、模型训练、模型部
署、模型管理，在多级协同中负责模型协同，实现模型的共享。
3.4
资源 resource
执行所要求的操作而必需的数据处理系统的任何组成部分。
T/CES 101—2022
2
3.5
配置 configuration
信息处理系统中的硬件和软件组织和互连起来的方式。
3.6
接口 interface
两个功能单元共享的边界，它由各种特征(如功能、物理互连、信号交换等)来定义。
3.7
数据标注 data annotation
对未经处理的数据，包括语音、图片、文本、视频等进行加工处理，转换为机器可识别信息的过程。
3.8
样本索引 sample indexs
样本逻辑存储的位置信息，包含样本路径、索引、管理服务，按样本来源、领域分类。
3.9
模型索引 model index
模型逻辑存储的位置信息，包含模型路径、索引、管理服务，按模型来源、领域分类。
3.10
模型部署 model deployment
提供模型部署接口，封装模型的属性和实现细节，设置属性的读取和修改的访问权限。
3.11
边侧 edge side
网络运营商或者服务提供商的IT 资源，对数据进行汇聚、存储和处理。
3.12
端侧 terminal side
终端设备，如无人机、机器人、摄像头、智能执法仪、智能融合终端、移动终端、声音采集装置等。
3.13
边缘物联网关 IoT edge agent
部署于边缘侧的装置或软件模块，利用本地通信网络对(智能)传感器、采集控制终端、表计、监
测装置等终端进行统一接入，实现对多种通信方式和协议规约的适配，根据统一边缘计算框架对数据进
行边缘处理和标准化建模，并接受来自云侧的模型文件并进行下发，安全连接至物联网平台。
3.14
物联网平台 IoT Platform
连接边侧设备与云侧相关业务系统，提供资源配置、数据汇集、基础管理的信息系统，支持连接管
理、网络管理、设备管理、用户管理等功能，一方面位于物联网设备层、物联网网关之间，另一方面位
于应用程序之间。
4 缩略语
下列缩略语适用于本文件。
FTP：文件传输协议(File Transfer Protocol)
FTPS：基于SSL 加密的文件传输协议(FTP over SSL)
HTTP：超文本传输协议(Hyper Text Transfer Protocol, HTTP)
HTTPS：超文本传输安全协议(Hyper Text Transfer Protocol over Secure Socket Layer)
JSON：JS 对象表示法(JavaScript Object Notation)
T/CES 101—2022
3
NFS：网络文件系统(Network File System)
POSIX：可移植操作系统接口(Portable Operating System Interface)
RESTful：表述性状态传递(Representational State Transfer)
RTSP：实时流传输协议(Real Time Streaming Protocol)
S3：简单存储服务(Simple Storage Service)
SFTP：安全文件传输协议(Secure File Transfer Protocol)
URL：统一资源定位器(Uniform Resource Locator)
XML：可扩展标记语言，标准通用标记语言的子集(Extensible Markup Language)
HDFS：分布式文件系统(Hadoop Distributed File System)
5G：第五代移动通信技术(5th Generation Mobile Communication Technology)
5 电力人工智能平台多级协同架构
5.1 协同框架
人工智能平台主要组成部分包含样本中心、模型中心，其中样本中心主要作用为样本资源管理，模
型中心主要作用为模型算法管理、模型服务部署，包括模型训练、算法管理、算力管理等。物联网平台
连接边侧设备与云侧相关业务系统，提供资源配置、数据汇集、基础管理的信息系统，支持连接管理、
网络管理、设备管理、用户管理等。三者相互关联，完成设备配置管理、模型与样本的管理与协同。与
一般信息系统相比，人工智能平台更加关注人工智能相关能力的整合，并且关注在多层级的电力企业组
织结构中不同层级平台之间的协同。特别在模型相关部分能够整合算力资源、管理样本、统筹部署模型
服务，使得组织能够更高效地支撑电力领域输电、变电、配电等领域的人工智能需求。
人工智能平台多级协同架构从框架上规范样本、模型数据在云-边-端模式下的数据协同、流转机制，
平台分为云侧、边侧、端层，其中云侧又细分为中心云、区域云，对应多层级电力企业组织结构中的总
部侧、下级单位侧，人工智能平台云、边、端多级协同结构如图1 所示。
图1 电力人工智能平台多级协同总体架构
T/CES 101—2022
4
图1 中的具体协同内容如下：
a) 云侧中心云、云侧区域云之间协同管理对象应包括样本资源、样本管理、模型资源、模型管理，
样本中心包含样本源文件、样本标注、样本元信息、样本索引之间的协同管理，模型中心包含
模型源文件、模型元信息、模型索引之间的协同管理，物联网平台负责模型发送、模型服务、
模型状态信息的协同管理;
b) 云侧、边侧之间协同管理对象应包括样本、模型，模型包含样模型推送、模型服务、模型状态
信息、物联网关的协同，样本包含样本源文件、样本元信息的协同;
c) 边侧、端侧之间协同管理对象应包括样本、模型，模型包含样模型发送、模型服务、模型状态
信息的协同，样本包含样本元信息、样本源文件的协同。
5.2 协同机制
5.2.1 云侧中心云与云侧区域云之间
中心云与区域云之间的协同机制包括样本协同机制和模型协同机制，详细机制如下：
a) 样本协同机制，中心云和区域云通过接口服务实现样本协同。中心云样本中心应具有样本资源
管理功能，并对区域云开放服务接口，区域云样本中心具有调用中心云样本资源服务接口能力。
1)区域云应能够通过样本中心调用中心云开放的服务接口，实现样本中心中样本资源索引的
增、删、改、查，中心云样本中心应具备样本资源索引的增、删、改、查的能力;区域云
应具备调用中心云开放的文件上传、下载服务能力，应能够调用中心云查询服务接口，展
示中心云中样本资源信息，中心云需开放样本上传、下载接口、样本资源查询接口;
2)中心云应具备样本资源审查功能，对上传、下载的文件审查，对上传下载请求进行审查，
审核通过后，完成文件在样本中心之间的上传和下载。
b) 模型协同机制，中心云和区域云通过接口服务实现模型协同。中心云的模型中心应具有模型资
源索引、模型文件、模型训练、模型服务等功能，并对区域云开放服务接口，区域云模型中心
应具有调用中心云模型资源索引、模型文件、模型训练、模型服务接口的能力。
1)区域云应能够调用中心云开放的服务接口实现模型中心模型资源索引的增、删、改、查，
中心云模型中心应具备模型资源索引的增、删、改、查的能力;区域云应能够调用中心云
模型文件上传、下载接口，实现模型源文件、模型元信息上传至中心云的模型中心和下载
至区域云的模型中心，应能够调用中心云查询接口，展示中心云中模型资源信息，中心云
需开放模型上传、下载，资源查询接口;
2)中心云应具备模型资源审查能力，对上传、下载的文件审查，对上传下载请求进行审查，
审核通过后，实现文件在模型中心之间的上传和下载;
3)区域云应能够调用中心云模型推理服务接口，实现模型的云端调用，中心云需具有模型部
署能力并提供接口，并审查服务接口调用请求;区域云应能够调用中心云模型状态接收接
口，实现模型运行信息的上传，中心云应提供状态信息接收服务、请求审查服务;
4)区域云应能够调用中心云模型训练接口，实现模型的云端训练，中心云应具有模型训练能
力并提供接口，并审查服务接口调用请求;区域云应能够调用中心云训练状态查询接口，
展示中心云中模型训练状态信息，中心云应提供状态信息查询服务、请求审查服务。
5.2.2 区域云侧与边侧之间
区域云侧与边侧之间的协同机制包括样本协同机制和模型协同机制，详细机制如下：
a) 样本协同机制，区域云侧与边侧通过边缘物联网关实现样本协同。区域云侧的样本中心应具有
样本接收、样本采集配置下发等功能和服务，边侧应具有样本采集配置接收、样本上传的功能
和服务;边侧应能够通过边缘物联网关实现样本源文件、样本元信息上传至区域云。
T/CES 101—2022
5
b) 模型协同机制，区域云侧与边侧通过边缘物联网关实现模型协同：
1)区域云应具有模型发送、更新、模型状态信息接收等功能和服务，边侧应具有模型接收、
模型运行、模型状态信息上传服务;
2)边侧应具备模型部署运行能力，并具有模型运行状态信息上传接口，区域云应能够通过模
型状态信息接收服务收集模型运行状态信息。
5.2.3 边侧与端侧之间
边侧与端侧之间的协同机制包括样本协同机制和模型协同机制，详细机制如下：
a) 样本协同机制：
边侧应具有样本接收、样本采集配置下发等功能和服务，端侧应具有样本采集配置接收、样本
上传的功能和服务，实现端侧样本源文件、样本元信息上传至边侧;样本传输宜支持5G 方式，
传输应具备加密能力。
b) 模型协同机制：
1)边侧应具有模型发送、更新、模型状态信息接收等功能和服务，端侧应具有模型接收、模
型运行、模型状态信息上传服务，模型传输宜支持5G 方式，传输应具备加密能力;
2)端侧应具备模型部署运行能力，应具备模型运行状态信息上传接口，边侧应能够通过模型
状态信息接收服务收集模型运行状态信息。
5.3 技术要求
5.3.1 样本协同机制规范
样本数据规范与接口规范：
a) 样本元数据宜采用JSON 或XML 格式;
b) 接口协议宜采用HTTP/HTTPS、SFTP、FTPS，HTTP/HTTPS 请求宜采用GET、POST、PUT、
PATCH 和DELETE 方法;
c) 服务接口可采用RESTful 方式进行设计。
5.3.2 模型协同机制规范
模型数据规范与接口规范：
a) 模型文件形式应为下列两种之一：
1)模型参数文件、模型结构文件;
2)模型镜像。
b) 模型元数据采用宜采用JSON 或XML 格式。
c) 接口协议宜采用HTTP/HTTPS、SFTP、FTPS，HTTP/HTTPS 请求宜采用GET、POST、PUT、
PATCH 和DELETE 方法。
d) 服务接口风格可采用RESTful 方式进行设计。
6 多级人工智能云平台样本中心协同要求
6.1 概览
多级人工智能云平台样本协同架构如图2 所示，多级人工智能云平台以中心云侧的样本审查为关键
点实现样本的协同，在中心云侧具有样本资源相关文件的物理存储和样本索引相关的逻辑存储功能。物
理存储过程为区域云侧将样本源文件、样本标注等样本资源上传，中心云审查通过后，中心云侧更新样
T/CES 101—2022
6
本资源，包含样本文件、样本索引的协同;逻辑存储过程为区域云侧上传样本索引，中心云审查通过后，
中心云侧更新样本索引，包含样本索引的协同。
图2 电力人工智能平台样本多级协同架构
6.2 样本传输机制
样本元信息宜采用http/https 接口方式实现上传和下载，数据应使用JSON 格式。样本源文件、样
本标注等文件资源可使用S3 存储协议、posix 协议或hdfs 接口方式，实现单个或批量的样本按来源和
领域传输至对象存储服务器分区存储。
6.3 样本资源协同机制
样本资源协同机制包括样本元信息上传与下载、样本元信息查询、样本源文件上传与下载、标注样
本上传与下载等能力。中心云侧提供样本资源上传、下载、查询服务与接口：
a) 样本资源上传与下载。区域云侧调用中心云样本资源上传接口，实现将样本中心的样本资源上
传至中心云的样本中心，区域云侧调用中心云样本资源下载接口，实现将中心云样本中心的样
本资源下载至区域云的样本中心，样本资源包含样本源信息、样本源文件、样本标注。
b) 样本资源查询。区域云调用中心云的样本资源查询接口，中心云审查后，实现对中心云样本中
心样本资源的查询。
6.4 样本索引协同机制
样本索引的协同管理机制中，中心云侧应具有样本索引新增、删除、修改、查询、上传等接口服务：
a) 样本索引上传与新增。区域云通过调用中心云侧样本索引上传接口，实现将区域云侧样本索引
上传至中心云样本中心，中心侧审查通过后判断是否为新增索引。
b) 样本索引修改与删除。区域云通过调用中心云侧样本索引修改或删除接口，中心侧审查通过后，
实现对中心云侧样本中心中样本索引的修改或删除。
c) 样本索引查询。区域云调用中心云的样本索引查询接口，中心云审查后，获得样本索引信息，
实现对中心云样本中心样本索引的查询。
T/CES 101—2022
7
6.5 技术要求
6.5.1 样本元信息定义要求
样本元信息应包含字段属性见附录表A.1。
6.5.2 样本资源格式和大小要求
样本资源文件应以压缩包方式进行协同，协同的所有样本应打包成一个压缩文件，具体要求如下：
a) 压缩包应支持tar、zip 格式，大小宜限制在5GB 以内;
b) 单个样本资源压缩包包含的样本宜在10 万个以内。
7 多级人工智能云平台模型中心协同要求
7.1 概览
多级人工智能云平台模型中心协同架构如图3 所示，多级人工智能云平台以中心云侧的模型审查为
关键点实现模型的协同，在中心云侧具有模型资源相关文件的物理存储和模型索引相关的逻辑存储功
能。物理存储过程为区域云侧将模型源文件、模型元信息等模型资源上传，中心云审查通过后，中心云
侧更新模型资源，包含模型源文件、模型元信息、模型索引的协同;逻辑存储过程为区域云侧上传模型
索引，中心云审查通过后，中心云侧更新模型索引，包含模型索引的协同。
图3 电力人工智能平台模型多级协同架构
7.2 模型传输机制
模型元信息宜采用HTTP/HTTPS 接口方式实现上传和下载，数据应使用JSON 格式。模型源文件
资源可使用S3 存储协议、挂载方式POSIX 协议或HDFS 接口方式，实现单个或批量的模型资源按来源
T/CES 101—2022
8
和领域传输至对象存储服务器分区存储。
7.3 模型资源协同机制
模型资源协同机制包括模型资源上传与下载、模型元信息查询等能力。中心云侧提供模型资源上传、
下载、查询服务与接口：
a) 模型资源上传与下载。区域云侧调用中心云模型资源上传接口，实现将模型中心的模型资源上
传至中心云的模型中心，区域云侧调用中心云模型资源下载接口，实现将中心云模型中心的样
本资源下载至区域云的模型中心，模型资源包含模型元信息、模型文件。
b) 模型元信息查询。区域云调用中心云的模型资源查询接口，中心云审查后，实现对中心云模型
中心模型资源的查询。
7.4 模型索引协同机制
模型索引的协同管理机制中，中心云侧应具有模型索引新增、删除、修改、查询、上传能力和服务：
a) 模型索引上传与新增。区域云通过调用中心云侧模型索引上传接口，实现将区域云侧模型索引
上传至中心云模型中心，中心侧审查通过后判断是否为新增索引。
b) 模型索引修改与删除。区域云通过调用中心云侧模型索引修改或删除接口，中心侧审查通过后，
实现对区域云侧模型中心中样本索引的修改或删除。
c) 模型索引查询。区域云调用中心云的模型索引查询接口，中心云审查后，获得模型索引信息，
实现对中心云模型中心模型索引的查询。
7.5 模型服务协同机制
模型服务的协同管理机制中，包括模型运行、模型状态信息上传等能力，中心云侧应具有模型运行、
模型状态信息收集服务：
a) 模型运行。中心云侧应具有模型运行能力，并提供模型推理调用接口，区域云具有模型推理接
口调用能力，实现模型服务云端调用。
b) 模型状态信息上传。区域云侧具有模型状态信息上传服务，中心云侧审查通过后，具有模型状
态信息接受能力。
7.6 技术要求
7.6.1 模型元信息定义要求
模型元信息应包含字段属性见附录表A.2。
7.6.2 样本资源格式和大小要求
模型资源文件应以压缩包方式进行协同，模型格式包括镜像文件和模型文件两种，具体要求如下：
a) 镜像文件压缩包宜为tar、zip 格式，大小不宜超过5GB;
b) 模型文件压缩包宜为tar、zip 格式，大小不宜超过2G。
8 边端侧样本协同要求
8.1 样本协同机制
边端侧样本协同框架如图4 所示，样本协同流程包括端设备与边缘物联网关、边缘物联网关与物联
网平台、物联网平台与人工智能平台样本上传和参数设置协同组成。
T/CES 101—2022
9
图4 边端侧样本协同框架
8.2 样本数据采集
端侧样本宜由无人机、机器人、摄像头、智能执法仪、布控球、智能融合终端、移动终端、声音采
集装置等设备获取，以图像、视频、音频等存储方式形成样本，边侧应具备汇聚端侧设备或者智能装置
样本能力。样本采集要求如下：
a) 边端侧设备应具备接收由人工智能平台、物联网平台下发的样本采集任务能力，边侧以及端侧
智能设备应按照设定的频率开展样本采样;
b) 边端侧设备应具备添加样本采集地点、时间、设备等属性信息能力，属性信息存储格式可为
XML、JSON 格式;
c) 边侧设备应具有样本初级处理能力，对来自端侧的设备检查数据有效性，实现数据的初步筛选
与优化。
8.3 样本数据上传
边侧设备汇聚端侧上传的样本，经过物联网平台上传到区域人工智能平台。边端样本上传要求如下：
a) 边端侧设备可设置定时或者触发条件，定期将本侧样本源文件及样本属性信息上传;
b) 边侧设备具备接收和处理端侧上传样本的能力，宜将样本压缩成tar、zip、rar 等格式，将样本
上传至物联网平台。
8.4 样本技术要求
8.4.1 通信方式
通信方式要求如下：
a) 边缘物联代理向物联网平台上报样本数据应采用MQTT 协议;
b) 边缘物联代理向物联网平台上报样本数据的主题和交互字段内容应满足附录B.3 要求;
c) 物联网平台向区域人工智能平台上报样本数据应采用消息队列方式;
d) 物联网平台向区域人工智能平台上报样本数据交互字段应满足附录B.4 要求;
e) 端侧向边侧上传视频数据时宜采用RTSP 协议。
T/CES 101—2022
10
8.4.2 响应时限
边端样本上传宜具备消息传输失败响应机制，响应时应满足DL/T 1713—2017 的规定。
8.4.3 可靠性
边侧和端侧的网络设备、通信线路和集群系统宜采用冗余，保证高可用性，在无不可抗力环境下应
满足7×24h 服务不中断，具体要求为：
a) 数据完整性：存储节点发生故障时，应确保数据完整;
b) 消息完整性：消息队列节点发生故障时，应确保消息不丢失，且不影响消息正常提交和消费;
c) 任务调度完整性：任务调度节点发生故障时，应不影响任务调度和执行;
d) 网络完整性：网络发生故障并恢复后，系统和任务、服务均可自动继续运行。
8.4.4 安全要求
人工智能样本采集、处理、上传的安全要求包括：
a) 应符合GB/T 18336—2015 的规定;
b) 应符合GB/T 22239—2019 的规定;
c) 应符合《中华人民共和国数据安全法》的规定。
9 边端侧模型协同要求
9.1 模型协同机制
协同流程应包括区域人工智能平台向物联网平台进行模型传输、物联网平台向边缘物联代理进行模
型传输并收集运行指标、边缘物联代理向端侧进行模型传输并收集运行指标。边端侧模型协同框架如图
5 所示。
图5 边端侧模型协同框架
9.2 模型部署
模型部署包括物联网平台向边缘物联网关、边缘物联网关向端侧进行模型部署、更新。具体要求
如下：
T/CES 101—2022
11
a) 区域人工智能平台应根据边端侧设备类型及特点，支持将待部署模型进行模型优化、转换和封
装，实现模型与设备的匹配;
b) 物联网平台向边端侧下发的模型部署时应进行身份鉴别和服务类型校验;
c) 区域人工智能平台可将模型的运行指标参数通过物联网平台发送至边端侧，边端侧对模型部署
请求进行校验，校验通过后，边端侧接受模型并部署模型;
d) 边端侧宜支持灰度更新模式，新模型部署前将旧模型进行本地备份，待新模型运行指标满足要
求后，进行旧模型本地自动删除，并将更新信息写入日志文件;
e) 边侧部署多个模型时，应支持多模型资源目录服务和模型版本管理功能。
9.3 模型运行指标上传
边侧设备汇聚端侧模型运行指标，经过物联网平台上传到区域人工智能平台。模型运行指标上传要
求如下：
a) 边侧设备应支持结构化和非结构化模型运行指标上传物联网平台。
b) 边侧完成模型部署后，应具备上传模型运行时计算资源占用、存储资源占用等信息的能力。同
时，边端侧设备将模型运行信息写入日志文件，日志应支持本地存储，支持物联网平台召测日
志文件的能力。
9.4 模型技术要求
9.4.1 边端侧模型协同技术要求包括模型性能和兼容性，具体要求如下：
a) 边端侧模型性能要求：
1)边端侧模型部署后，边端侧设备CPU 利用率、内存利用率应满足DL/T 1713—2017 的规定;
2)边端侧模型部署后的单次推理响应时间应满足DL/T 1713—2017 的规定;
3)边端侧模型部署后，边侧设备承载全部模型的运行性能应能满足各模型运行要求，不发生
因计算资源冲突导致的运行异常问题。
b) 边端侧模型兼容性要求。边端侧模型应根据边侧设备的芯片、架构(armv7l、arm64、amd64
等多种架构)平台进行模型转换。
9.4.2 安全要求如下：
人工智能模型部署、处理、上传的安全要求包括：
a) 应符合GB/T 18336—2015 的规定;
b) 应符合GB/T 22239—2019 的规定;
c) 应符合《中华人民共和国数据安全法》的规定。
T/CES 101—2022
12
附 录 A
(资料性附录)
资源元信息属性
样本资源元信息定义见表A.1，模型资源元信息定义见表A.2。
表A.1 样本资源元信息定义
序号 字段名称 字段描述
1 样本资源索引ID 样本所属的上级索引
2 样本名称 样本名称
3 样本描述 样本基本信息
4 样本大小 以MB 为单位
5 样本类别 图像/文本/音频/视频
6 样本文件格式 PNG/JPG/WAV/AVI
7 标注数据格式 COCO/PASCAL VOC
8 样本来源 样本数据来源
9 样本创建时间 样本创建时间，格式：yyyy 年MM 月dd 日 HH 时mm 分ss 秒
10 样本修改时间 样本修改时间，格式：yyyy 年MM 月dd 日 HH 时mm 分ss 秒
11 样本版本号 4位版本号，如V1.0.0.1
12 样本负责人 当前发布样本的负责人
13 样本负责人联系方式 当前发布样本的负责人联系方式
14 样本文件存储地址 /dataset
表A.2 模型资源元信息定义
序号 属性名称 属性描述
1 模型索引ID 模型所属的上级索引
2 模型名称 模型名称
3 模型描述 描述样本基本信息
4 模型大小 以MB 为单位
5 模型版本 4位版本号，如V1.0.0.1
6 模型开发框架 Pytorch 等
7 模型创建时间 模型创建时间，格式：yyyy 年MM 月dd 日 HH 时mm 分ss 秒
8 模型修改时间 模型修改时间，格式：yyyy 年MM 月dd 日 HH 时mm 分ss 秒
9 模型负责人 当前发布模型的负责人
10 模型负责人联系方式 当前发布模型的负责人联系方式
11 模型文件存储位置 如/model
T/CES 101—2022
13
附 录 B
(资料性附录)
接口服务请求参数说明
B.1 人工智能平台下发模型
功能说明：人工智能平台下发模型文件至物联网平台。
请求URL：/iot/task/model。
其中，请求体中的参数见表B.1。
表B.1 请求体body 字段描述
名称 类型 是否必选 描述
taskName String 是 任务名称
deviceList List 是 设备列表
enfileName String 是
文件名称
模型验证、安装、升级时选择文件的英文名称
fileVersion String 是 文件版本
pushCommandPolicy Int 是
命令推送速率
0, 100, 500, 1 000
retryInterval String 是
重试间隔
“0”：立即重试
“30”：隔30min 重试
“60”：隔60min 重试
“−1”：不重试
retryLimit Int 否 重试上限，分1、3、5、10 次
taskType String 是
任务类型
app_download：模型安装
app_upgrade：模型升级
app_verify：模型验证
appEnvironmentConfig Object 条件可选 模型环境配置信息
其中，device 定义见表B.2。
表B.2 device 参数描述
名称 类型 是否必需 描述
devId long 否 边设备ID
devSn String 是 设备SN
outerId String 否 外部系统设备id
productCode String 是 设备类型对应的唯一编码
T/CES 101—2022
14
其中，appEnvironmentConfig 定义见表B.3。
表B.3 appEnvironmentConfig 参数描述
名称 类型 是否必需 描述
cpuNumber Int 否 CPU核数
cpuLimit Int 否 CPU监控阈值，例如50 表示50%
memUnit Int 否 内存限值，单位：以M 为单位
memLimit Int 否 内存监控阈值，例如50 表示50%
响应参数见表B.4。
表B.4 响应参数描述
名称 类型 描述
mids JsonArray 命令数
B.2 物联网平台下发模型
B.2.1 下发模型到边侧
功能说明：物联网平台下发模型至边侧设备。
报文头部参数具体字段补充说明如下：
a) type 字段取值为：CMD_APP_INSTALL;
b) param 字段定义见表B.5。
表B.5 param 字段参数描述
字段 类型 是否必选 描述
jobId number 是 任务ID
policy number 否
从接收到该安装指令时间后开始安装的时间间隔(单位：s)，
缺省或等于0 时，表示立即升级
version string 是 应用版本号
cpu object 否 cpu资源配置参数
mem object 否 memory 资源配置参数
appName String 是 应用名称
aiProcessor String 否 边缘物联代理AI 加速卡类型
gpuShared String 否 是否使用GPU 共享，是/否
gpuCapacity String 否 GPU共享分配显存容量，单位MB
B.2.2 文件下载
功能说明：通过文件下载路径下载安装文件。
请求URL：/iot/files/{projectId}/up/{remoteFileName}。
其中，projectId 由物联网平台提供，remoteFileName 为传输的文件名。
请求头header 里参数详细说明见表B.6。
T/CES 101—2022
15
表B.6 请求头header 里参数
字段 类型 是否必选 描述
range String 否
为空时，认为是全量下载;如果range: bytes=0～9，
表示下载该文件的前10 个字节
B.2.3 部署结果上报
功能说明：当应用安装指令被执行完毕后，边侧设备将执行结果主动上报给物联网平台。
边设备发布Topic：/v1/${edgeId}/app/data。
报文头部参数具体字段说明如下：
a) type 字段取值为：REP_JOB_RESULT;
b) param 字段定义见表B.7。
表B.7 param 字段参数描述
字段 类型 是否必选 描述
jobId number 是 安装操作作为一个工作任务，分配的ID
result number 是 应用安装结果编码
info string 否 安装失败的描述，例如下载地址不可用
B.3 边缘物联网关上报样本数据
功能说明：边缘物理网关上报样本数据至物联网平台。
报文头部参数具体字段补充说明如下：
a) type 字段取值：
——传输样本数据时为：AI_SAMPLE;
——传输结果数据时为：AI_RESULT。
b) param 字段定义见表B.8。
表B.8 param 字段描述
字段 类型 是否必选 描述
method string 是 服务的命令名
data json 是 数据以物模型规范的数据格式上报
B.4 物联网平台推送样本数据
功能说明：物联网平台推送样本数据至人工智能平台。
交互主题：service_data。
报文头部参数具体字段补充说明如下：
a) type 字段取值，传输样本数据时为：AI_SAMPLE，传输结果数据时为：AI_RESULT;
b) param 字段定义见表B.9。
T/CES 101—2022
16
表B.9 param 字段描述
字段 类型 是否必选 描述
cmd string 是 服务的命令名
data json 是 数据以物模型规范的数据格式上报
评论