前言
本文件按照 GB/T 1.1—2020《标准化工作导则 第1部分:标准化文件的结构和起草规则》的规定起草。
请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。
本文件由全国信息技术标准化技术委员会(SAC/TC 28)提出并归口。
本文件起草单位:北京智源人工智能研究院、中国电子技术标准化研究院、中国电子技术标准化研究院华东分院、中国电力科学研究院有限公司、上海壁仞科技股份有限公司、上海燧原科技股份有限公司、北京大学、中国科学院计算技术研究所、浦江国家实验室、中科寒武纪科技股份有限公司、中国移动通信集团有限公司、天翼云科技有限公司、浪潮电子信息产业股份有限公司、浙江大华技术股份有限公司、京东科技信息技术有限公司、杭州海康威视数字技术股份有限公司、中通服咨询设计研究院有限公司、新华三技术有限公司、上海文鳐信息科技有限公司、中移物联网有限公司、成都理工大学、北京智芯微电子科技有限公司、蚂蚁科技集团股份有限公司、联想(北京)信息技术有限公司、南京南瑞瑞腾科技有限责任公司、中移雄安信息通信科技有限公司。
本文件主要起草人:敖玉龙、徐洋、常韬、张琦、顾泽宇、李亚玲、刘颖、杨雨泽、严小格、李琰、丁瑞全、梅敬青、刘古月、王煜炜、石伯明、黄岩哲、曹汐、董月文、李志、王思善、秦日臻、杨明、杨超、邸贺亮、孔维生、韩冬、彭剑峰、张承明、汪卫国、仲凯韬、孔栋、程晗蕾、刘勇、郭智慧、李蕾、王立晨、李卓桐、杨威、郭娜、芮子文、丁源、申志鹏、王绍飞、郑庆国。
人工智能统一通信库接口规范
1 范围
本文件确立了人工智能计算资源统一通信库框架和接口定义,规定了接口要求,描述了对应的符合性测试方法。
本文件适用于统一通信库的设计、开发、应用、测试、评估和维护。
2 规范性引用文件
下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中,注日期的引用文件,仅该日期对应的版本适用于本文件;不注日期的引用文件,其最新版本(包括所有的修改单)适用于本文件。
GB/T 41867—2022 信息技术 人工智能 术语
GB/T 45280—2025 人工智能 异构人工智能加速器统一接口
3 术语和定义
GB/T 41867—2022 界定的以及下列术语和定义适用于本文件。
3.1
人工智能加速处理器 artificial intelligence accelerator processor
人工智能加速芯片 artificial intelligence accelerator chip
具备适配人工智能算法的运算微架构,能够完成人工智能应用运算处理的集成电路元件。
注:在本文件中,在不引起误解的语境中,将人工智能加速处理器简称为加速器。
[来源:GB/T 41867—2022,3.1.5]
3.2 同构人工智能加速器 homogeneous artificial intelligence accelerator
计算架构及指令集兼容的人工智能加速器。
注:在本文件中,在不引起误解的语境中,将同构人工智能加速器简称为同构加速器。
3.3 异构人工智能加速器 heterogeneous artificial intelligence accelerator
计算架构及指令集不兼容的人工智能加速器。
注:在本文件中,在不引起误解的语境中,将异构人工智能加速器简称为异构加速器。
3.4 (应用编程)接口 (application programming)interface
〈人工智能〉用来使用人工智能加速器功能的语法和语义定义。
3.5 通信库 communications library
为分布式并行计算系统实现数据交互的软件库。
3.6 统一通信库 unified communication library
用于多种同构或异构加速器间高效通信的通信库。
注:统一通信库通过标准化接口屏蔽底层硬件差异,提供一致的通信语义。
3.7 通信域 communication domain
具有特定通信功能、协议和规则,用于实现信息传输、交换与处理的逻辑区域。
3.8 集合通信 collective communication
多个通信进程按照预定义的通信模式,协同完成数据广播、聚合、分发、规约、全规约、全聚合等操作的通信方式。
3.9 点对点通信 point⁃to⁃point communication
两个通信进程之间直接交换数据的通信方式。
3.10 统一内存 unified memory
由系统提供的一种内存管理机制,使主机(Host)与设备(Device)在统一逻辑地址空间中访问数据,实现跨主机与设备的同名访问和数据一致性管理。
3.11 指针 pointer
用于表示内存地址或对象地址的参数。
注:其值指向一段内存区域、数据对象或接口执行过程中需要访问的资源。
3.12 句柄 handle
用于标识某一系统资源、通信对象或运行时对象的不透明标识符。
4 缩略语
下列缩略语适用于本文件。
API:应用程序编程接口(Application Programming Interface)
APU:加速处理单元(Accelerated Processing Unit)
CCI:缓存一致性互联(Cache⁃Coherent Interconnect)
CPU:中央处理单元(Central Processing Unit)
DMA:直接内存访问(Direct Memory Access)
HBD:高带宽域(High⁃Bandwidth Domain)
LOC:本地链路(Local link)
NET:网络互联(NETwork interconnect)
PCI:外设组件互联(Peripheral Component Interconnect)
RDMA:远程直接内存访问(Remote Direct Memory Access)
XML:可扩展置标语言(eXtensible Markup Language)
5 统一通信库框架
5.1 框架概述
统一通信库框架及组件关系如图 1 所示,包括用户接口层、通信运行时层和可迁移抽象层。统一通信库向上可通过插件或集成方式对接不同的深度学习框架,向下可对接不同厂商硬件设备和通信协议进行高效同构或异构通信。

图 1 统一通信库框架
5.2 用户接口层
用户接口层是上层应用访问统一通信库的主要入口,提供标准化的接口和可扩展的通信编程能力。
a) 通信操作接口,定义一套标准化的 API,用于执行分布式通信操作,提供高效、统一的操作方法,使得上层应用能够无缝实现跨节点、跨设备的通信。
b) 通信编程语言接口,用于用户表达和定制符合特定需求的通信逻辑,优化通信效率并降低开发难度。缺失通信编程语言接口时,统一通信库通过通信操作接口执行通信操作。
5.3 通信运行时层
通信运行时层负责通信任务的执行、调度和优化。
a) 运行时服务,包含统一通信库中与通信非强相关的辅助型组件,用于提供通信优化所需信息,包括以下接口:
1) 拓扑接口:负责感知和描述系统的物理拓扑及拓扑结构,为通信优化提供必要的信息支持;
2) 模拟器接口:对通信操作进行模拟,通过代价建模预估不同算法策略耗时;
3) 监控工具接口:提供运行时监控、性能分析、故障诊断和系统可观测性等功能,确保通信库能够实时反馈系统状态,帮助开发者调优和排除故障。
b) 上层编排,对特定的通信操作进行任务编排及优化,包括统一编排接口,用于根据通信域拓扑,设备类型,通信操作类型等特征生成、管理并执行通信任务的编排方案。
c) 中间操作,定义可供上层编排组件调用的通信算子及通信域管理接口,为统一通信库的任务编排提供统一的控制入口,包括以下接口:
1) 集合通信算子接口:在不同子通信域上执行不同类型的集合通信操作;
2) 点对点通信算子接口:在不同子通信域内或之间执行点对点通信操作;
3) 通信域管理接口:对多个子通信域进行管理和调度;
4) 自定义算子接口:用户自定义算子接入统一通信库的入口。注册自定义算子后,可通过自定义算子执行通信操作。
d) 底层原语,定义一套细粒度的数据传输操作,包括数据转发、复制和点对点通信等,是构建复杂通信逻辑的基本元素,包括以下接口:
1) 主机侧原语接口:定义主机侧发起的用于完成通信操作的底层通信原语;
2) 设备侧原语接口:定义设备侧发起的用于完成通信操作的底层通信原语。
5.4 可迁移抽象层
可迁移抽象层为不同厂商的通信库、设备运行时及通信协议提供统一的接入接口,以实现对同构加速器和异构加速器的接入。
a) 通信库适配器接口,定义厂商原生通信库接入统一通信库所需实现的一组接口,使统一通信库能够复用厂商已有的通信能力。
b) 网络适配器接口,定义统一通信库调用机间网络通信协议所需实现的一组接口,用于支持跨节点的高效数据传输。
c) 设备适配器接口,定义加速器厂商运行时接入统一通信库所需实现的一组接口,提供对计算设备的抽象和控制,支持设备能力查询、状态查询与资源调度,并向上层提供一致性视图和接口。
6 接口定义
6.1 通用类型定义
6.1.1 数据类型
数据类型定义见表 1。
| 名称 | 符号 | 类型描述 |
| 8位有符号整型 | int8 | 1字节长度 |
| 8位无符号整型 | uint8_t | 1字节长度 |
| 16位有符号整型 | int16 | 2字节长度 |
| 16位无符号整型 | uint16_t | 2字节长度 |
| 32位有符号整型 | int32 | 4字节长度 |
| 32位无符号整型 | uint32_t | 4字节长度 |
| 名称 | 符号 | 类型描述 |
| 64位有符号整型 | int64 | 8字节长度 |
| 64位无符号整型 | uint64_t | 8字节长度 |
| 16位有符号浮点 | float16 | 2字节长度 |
| 32位有符号浮点 | float32 | 4字节长度 |
| 64位有符号浮点 | double | 8字节长度 |
| 16位截断浮点数 | bfloat16 | 2字节长度 |
| 8位有符号浮点 | float8 | 1字节长度 |
6.1.2 返回类型
返回类型定义见表 2。后续表格中统一使用返回码指代表 2 中各类返回类型对应的编码。
| 名称 | 类型描述 |
| 成功 | 操作执行成功 |
| 设备相关错误 | 设备相关接口调用错误,特指加速器运行时相关接口调用错误 |
| 系统错误 | 系统相关接口调用错误 |
| 内部错误 | 通信库内部(函数)接口调用错误 |
| 非法参数错误 | 通信库接口传入参数格式或范围错误 |
| 非法使用错误 | 通信库接口调用顺序或上下文错误 |
| 远端错误 | 通信库网络接口出现网络错误(网络建联报错等)或远端进程异常退出 |
| 执行中 | 通信库接口执行中但尚未完成 |
| 未支持 | 通信库接口尚未支持 |
6.1.3 规约类型
规约类型定义见表 3。
| 名称 | 符号 | 类型描述 |
| 加和 | SUM | 执行加和操作 |
| 最大 | MAX | 执行最大值操作 |
| 最小 | MIN | 执行最小值操作 |
| 平均 | AVG | 执行平均操作 |
| 乘积 | PROD | 执行乘积操作 |
6.1.4 数据存储类型
数据存储类型定义见表 4。
| 名称 | 符号 | 类型描述 |
| 主机内存 | HM | 数据存储在主机内存 |
| 设备内存 | DM | 数据存储在设备内存 |
| 统一内存 | UM | 数据存储在统一内存 |
6.1.5 数据拷贝类型
数据拷贝类型定义见表 5。
| 名称 | 符号 | 类型描述 |
| 主机到设备拷贝 | H2D | 执行从主机内存到设备内存的数据拷贝操作 |
| 设备到主机拷贝 | D2H | 执行设备内存到主机内存的数据拷贝操作 |
| 设备到设备拷贝 | D2D | 执行从设备内存到设备内存的数据拷贝操作 |
| 主机到主机拷贝 | H2H | 执行主机内存到主机内存数据拷贝操作 |
6.2 用户接口层
6.2.1 通信操作接口
6.2.1.1 集合通信操作接口
集合通信操作接口定义见 GB/T 45280—2025 的表 146~表 150、表 154。
6.2.1.2 点对点通信操作接口
点对点通信操作接口定义见 GB/T 45280—2025 的表 152 和表 153。
6.2.1.3 组调用操作接口
组调用操作接口定义见表 6。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 发起组调用 | 发起一个组调用 | 通信域数据结构指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 结束组调用 | 结束一个组调用,将组调用内部所有通信操作提交到对应的通信流上 | 通信域数据结构指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 |
6.2.1.4 内存管理接口
内存管理接口定义见表 7。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 内存分配 | 分配可用于通信优化的内存空间 | 内存地址指针 | 输入/输出 | 必选 |
| 分配内存空间大小 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 内存释放 | 释放可用于通信优化的内存空间 | 内存地址指针 | 输入/输出 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 内存注册 | 注册可用于零拷贝优化的缓冲区 | 通信域数据结构指针 | 输入 | 必选 |
| 缓冲区地址指针 | 输入/输出 | 必选 | ||
| 缓冲区大小 | 输入 | 必选 | ||
| 缓冲区注册句柄指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 内存注销 | 注销可用于零拷贝优化的缓冲区 | 通信域数据结构指针 | 输入 | 必选 |
| 缓冲区注册句柄指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
6.2.1.5 通信域管理接口
通信域管理接口定义见表 8。 其中,使用配置文件创建通信域的定义见 GB/T 45280—2025 的表140,销毁通信域的定义见 GB/T 45280—2025 的表 143。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 通信域初始化 | 根据根通信进程信息初始化通信域 | 通信域数据结构指针 | 输入/输出 | 必选 |
| 本通信进程编号 | 输入 | 必选 | ||
| 通信进程总数量 | 输入 | 必选 | ||
| 根通信进程标识(全局唯一标识) | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 拆分通信域 | 在已有通信域基础上拆分创建子通信域 | 子通信域数据结构指针 | 输入/输出 | 必选 |
| 本通信域数据结构指针 | 输入 | 必选 | ||
| 本通信进程的分组标识 | 输入 | 必选 | ||
| 本通信进程的分组顺序标识 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 结束通信 | 结束通信域任务队列中的所有操作,并释放相关网络资源 | 通信域数据结构指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 异常终止通信域 | 终止通信域任务队列中的所有操作,并释放所有资源 | 通信域数据结构指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 通信挂起 | 中止通信域任务队列中的通信操作并挂起通信域 | 通信域数据结构指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 通信恢复 | 恢复被挂起的通信域并重新提交被挂起通信域任务队列中的通信操作 | 通信域数据结构指针 | 输入/输出 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 生成通信进程标识 | 为当前通信进程生成标识(全局唯一标识) | 通信进程标识指针 | 输入/输出 | 必选 |
| 执行返回码 | 输出 | 必选 |
6.2.2 通信编程语言接口
6.2.2.1 管理类接口
管理类接口定义见表 9。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 内存注册 | 对用户提供的内存区域进行注册,使该区域具备被统一通信库用于设备侧通信访问,地址映射,远端访问或同步控制的能力 | 通信域句柄 | 输入 | 必选 |
| 缓冲区起始地址 | 输入 | 必选 | ||
| 缓冲区大小 | 输入 | 必选 | ||
| 被注册内存句柄 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 用于描述注册行为附加属性的扩展标志 | 输入 | 可选 | ||
| 内存注销 | 注销已注册内存对象,并释放与该内存对象相关的注册状态,地址映射及关联资源 | 通信域句柄 | 输入 | 必选 |
| 已注册内存句柄 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 设备通信上下文创建 | 创建设备侧通信上下文,并按照需求分配用于设备侧通信执行的同步、信号、计数器等上下文资源 | 通信域句柄 | 输入 | 必选 |
| 设备通信资源描述信息结构体指针 | 输入 | 必选 | ||
| 设备通信上下文句柄 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 通信团队创建 | 基于设备通信上下文创建参与方子集(通信团队),用于描述在通信域内参与特定通信任务的一组逻辑参与者 | 设备通信上下文句柄 | 输入 | 必选 |
| 团队创建描述信息结构体指针 | 输入 | 必选 | ||
| 通信团队句柄 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 通信团队销毁 | 销毁通信团队,并释放与该团队相关的逻辑划分信息及关联资源 | 通信团队句柄 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 设备内存句柄创建 | 基于已注册内存对象创建设备侧内存句柄 | 通信域句柄 | 输入 | 必选 |
| 已注册内存句柄 | 输入 | 必选 | ||
| 设备内存句柄 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 设备内存句柄销毁 | 销毁设备侧内存句柄,并释放与该句柄相关的设备侧资源 | 通信域句柄 | 输入 | 必选 |
| 设备内存句柄 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
6.2.2.2 同步与控制类接口
同步与控制类接口定义见表 10。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 屏障同步 | 在指定通信团队上执行同步屏障操作,使团队各参与方在到达该屏障前提交的相关操作满足预期的同步约束后再继续执行后续操作 | 设备通信上下文句柄 | 输入 | 必选 |
| 通信团队句柄 | 输入 | 必选 | ||
| 通信屏障标识 | 输入 | 必选 | ||
| 同步范围 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 执行流 | 输入 | 可选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 顺序约束 | 建立指定范围内的内存可见性与访问顺序约束,确保在该约束之前发起的相关内存访问或通信操作对后续操作满足规定的可见性和顺序要求 | 设备通信上下文句柄 | 输入 | 必选 |
| 内存可见性范围 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 执行流 | 输入 | 可选 | ||
| 完成性刷新 | 推动并完成当前设备通信上下文中已发起但尚未完成的数据传输、通知或相关操作 | 设备通信上下文句柄 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 执行流 | 输入 | 可选 | ||
| 信号等待 | 等待指定信号对象满足给定对比条件 | 设备通信上下文句柄 | 输入 | 必选 |
| 信号标识 | 输入 | 必选 | ||
| 预期值 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 执行流 | 输入 | 可选 | ||
| 计数器等待 | 等待指定计数器对象满足给定比较条件 | 设备通信上下文句柄 | 输入 | 必选 |
| 计数器标识 | 输入 | 必选 | ||
| 比较关系(如:大于/小于/等于) | 输入 | 必选 | ||
| 预期值 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 执行流 | 输入 | 可选 |
6.2.2.3 细粒度通信接口
细粒度通信接口定义见表 11。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 单边写 | 执行从本地源内存到远端目标内存的单边写操作。该接口允许调用方在不要求远端显式发起配对操作的情况下,将指定范围的数据写入远端指定内存区域 | 设备通信上下文句柄 | 输入 | 必选 |
| 通信团队句柄 | 输入 | 必选 | ||
| 远端目标内存句柄 | 输入 | 必选 | ||
| 远端目标内存偏移量 | 输入 | 必选 | ||
| 本地源内存句柄 | 输入 | 必选 | ||
| 本地源内存偏移量 | 输入 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 单边写 | 执行从本地源内存到远端目标内存的单边写操作。该接口允许调用方在不要求远端显式发起配对操作的情况下,将指定范围的数据写入远端指定内存区域 | 传输字节数 | 输入 | 必选 |
| 目标参与方标识 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 执行流 | 输入 | 可选 | ||
| 单边读 | 执行从远端源内存到本地目标内存的单边读操作。该接口允许调用方从目标参与方的指定内存区域读取数据,并写入本地指定内存区域 | 设备通信上下文句柄 | 输入 | 必选 |
| 通信团队句柄 | 输入 | 必选 | ||
| 远端源内存句柄 | 输入 | 必选 | ||
| 远端源内存偏移量 | 输入 | 必选 | ||
| 本地目标内存句柄 | 输入 | 必选 | ||
| 本地目标内存偏移量 | 输入 | 必选 | ||
| 传输字节数 | 输入 | 必选 | ||
| 源参与方标识 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 执行流 | 输入 | 可选 | ||
| 标量写入 | 将一个标量值写入目标参与方的指定远端地址 | 设备通信上下文句柄 | 输入 | 必选 |
| 通信团队句柄 | 输入 | 必选 | ||
| 远端目标内存句柄 | 输入 | 必选 | ||
| 远端目标内存偏移量 | 输入 | 必选 | ||
| 标量值 | 输入 | 必选 | ||
| 目标参与方标识 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 执行流 | 输入 | 可选 | ||
| 信号通知 | 向目标参与方发送信号通知,用于在参与方之间传递完成信息、阶段信息、事件通知等功能 | 设备通信上下文句柄 | 输入 | 必选 |
| 通信团队句柄 | 输入 | 必选 | ||
| 信号标识 | 输入 | 必选 | ||
| 信号值 | 输入 | 必选 | ||
| 目标参与方标识 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 执行流 | 输入 | 可选 |
6.3 通信运行时层
6.3.1 运行时服务
6.3.1.1 拓扑接口
拓扑接口定义见表 12。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 获取服务器拓扑信息 | 在当前服务器环境进行拓扑探测并输出服务器内拓扑信息描述 | 通信域结构体指针 | 输入 | 必选 |
| 服务器拓扑数据结构指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 从拓扑文件获取服务器拓扑信息 | 通过拓扑文件获取服务器内拓扑信息描述 | 拓扑文件描述符 | 输入 | 必选 |
| 服务器拓扑数据结构指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 生成拓扑文件 | 将服务器拓扑结构中的拓扑信息写入到拓扑描述文件中 | 服务器拓扑数据结构指针 | 输入 | 必选 |
| 拓扑文件描述符 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 获取加速器类型设备信息 | 拓扑探测中获取加速器信息,并创建描述该加速器的拓扑节点数据结构 | 服务器拓扑数据结构指针 | 输入 | 必选 |
| 加速器在主机中的总线标识号 | 输入 | 必选 | ||
| 描述加速器的拓扑节点数据结构指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 获取网络类型设备信息 | 拓扑探测中获取网络类型设备信息,并创建描述该网络设备的拓扑节点数据结构 | 服务器拓扑数据结构指针 | 输入 | 必选 |
| 网络设备在主机中的PCI路径信息 | 输入 | 必选 | ||
| 网络设备名称 | 输入 | 必选 | ||
| 描述网络设备的拓扑节点数据结构指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 创建拓扑节点 | 在服务器拓扑数据结构中创建一个设备节点 | 服务器拓扑数据结构指针 | 输入 | 必选 |
| 拓扑节点数据结构指针 | 输入/输出 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 创建拓扑节点 | 在服务器拓扑数据结构中创建一个设备节点 | 节点类型(见附录A) | 输入 | 必选 |
| 节点标识符 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 删除拓扑节点 | 在服务器拓扑数据结构中删除一个设备节点 | 服务器拓扑数据结构指针 | 输入 | 必选 |
| 节点类型(见附录A) | 输入 | 必选 | ||
| 节点标识符 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 连接拓扑节点 | 在服务器拓扑数据结构中为两个有物理连接关系的设备节点创建连接 | 本端拓扑节点数据结构指针 | 输入 | 必选 |
| 远端拓扑节点数据结构指针 | 输入 | 必选 | ||
| 链路类型(见附录A) | 输入 | 必选 | ||
| 链路带宽 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 计算拓扑路径 | 计算服务器拓扑中所有设备间的路径信息 | 服务器拓扑数据结构指针 | 输入 | 必选 |
| 通信域结构体指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 计算服务器内特定设备到其他设备的路径 | 计算服务器内特定设备到其他设备的路径 | 拓扑节点数据结构指针 | 输入 | 必选 |
| 服务器拓扑数据结构指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 打印拓扑路径 | 打印服务器拓扑所有节点间的路径信息,用于调试 | 服务器拓扑数据结构指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 |
6.3.1.2 模拟器接口
模拟器接口用于对特定通信算法进行模拟并通过代价模型给出算法的预估执行时间,帮助优化器选出最优算法。模拟器接口定义见表 13。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 预估同构通信域内部通信操作开销 | 对同构通信域内部通信算法进行模拟并预估其耗时 | 同构通信域数据结构指针 | 输入 | 必选 |
| 通信操作类型 | 输入 | 必选 | ||
| 算法类型 | 输入 | 必选 | ||
| 耗时变量指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 预估跨芯通信算法耗时 | 对特定跨芯通信算法进行模拟并预估其耗时 | 异构通信域指针 | 输入 | 必选 |
| 异构通信算法策略结构体指针 | 输入 | 必选 | ||
| 数据类型 | 输入 | 必选 | ||
| 耗时变量指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 预估跨芯点对点数据传输操作耗时 | 对跨芯点对点数据传输操作进行模拟并预估其耗时 | 异构通信域指针 | 输入 | 必选 |
| 跨芯点对点数据传输策略结构体指针 | 输入 | 必选 | ||
| 数据类型 | 输入 | 必选 | ||
| 耗时变量指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
6.3.1.3 监控工具接口
监控工具用于为统一通信库提供事件监控,故障诊断等能力,便于运维与开发调试。监控工具接口定义见表 14。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 监控通信事件 | 监控特定类型加速器通信事件,如监控集合通信/点对点通信事件、通信异常事件等 | 事件处理对象句柄 | 输入 | 必选 |
| 通信事件类型 | 输入 | 必选 | ||
| 事件元数据结构指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 解除监控事件 | 解除监控特定加速器通信事件 | 事件处理对象句柄 | 输入 | 必选 |
| 通信事件类型 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 监控同构节点通信原语完成时间 | 监控同构节点通信原语完成时间 | 同构通信域指针 | 输入 | 必选 |
| 协议类型 | 输入 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 监控同构节点通信原语完成时间 | 监控同构节点通信原语完成时间 | 算法类型 | 输入 | 必选 |
| 数据类型 | 输入 | 必选 | ||
| 通信原语 | 输入 | 必选 | ||
| 消息大小 | 输入 | 必选 | ||
| 通信原语元数据结构指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 监控异构节点通信原语完成时间 | 监控异构通信原语完成时间 | 异构通信域指针 | 输入 | 必选 |
| 协议类型 | 输入 | 必选 | ||
| 算法类型 | 输入 | 必选 | ||
| 数据类型 | 输入 | 必选 | ||
| 通信原语 | 输入 | 必选 | ||
| 消息大小 | 输入 | 必选 | ||
| 通信原语元数据结构指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 查询通信域运行状态 | 查询指定通信域的运行状态与关键属性,用于健康检查、资源确认与故障定位 | 通信域数据结构指针 | 输入 | 必选 |
| 状态查询类型 | 输入 | 必选 | ||
| 状态结果元数据结构指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 注册故障诊断回调 | 注册故障诊断回调函数,当检测到超时、异常退出、设备错误或通信异常等情况时触发回调,用于实现快速告警、自动采集错误信息,快速恢复等 | 事件处理对象句柄 | 输入 | 必选 |
| 故障类型 | 输入 | 必选 | ||
| 回调函数指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 采集网络性能统计信息 | 采集通信期间的网络性能信息,包括但不限于吞吐能力、时延,及拥塞相关指标 | 通信域数据结构指针 | 输入 | 必选 |
| 网络统计指标类型 | 输入 | 必选 | ||
| 统计窗口参数 | 输入 | 必选 | ||
| 网络性能统计元数据结构指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 查询通信域异步错误状态 | 查询通信域在异步执行过程中产生的错误状态,用于在通信算子异步提交后进行健康检查与故障诊断 | 通信域数据结构指针 | 输入 | 必选 |
| 异步错误状态元数据结构指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 获取通信域最近错误信息 | 获取指定通信域最近一次错误的可读信息,用于日志记录、告警上报与快速定位故障原因 | 通信域数据结构指针 | 输入 | 必选 |
| 错误信息字符串 | 输出 | 必选 | ||
| 获取错误返回码描述字符串 | 将错误返回码转换为可读的错误描述字符串,用于统一错误信息输出格式与跨组件诊断 | 错误返回码 | 输入 | 必选 |
| 错误描述字符串 | 输出 | 必选 |
6.3.2 上层编排
上层编排包括统一编排接口,统一编排接口见表 15。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 编排上下文创建 | 创建统一编排上下文,用于管理通信任务分析、编排方案生成、方案查询、方案更新和方案执行等过程所需的环境信息 | 通信域数据结构指针 | 输入 | 必选 |
| 编排上下文句柄 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 编排策略相关的配置参数 | 输入 | 可选 | ||
| 编排上下文销毁 | 销毁统一编排上下文,释放相关资源接口 | 编排上下文句柄 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 通信任务分析 | 对通信任务进行分析,识别任务涉及的通信操作类型、通信域类型(同构/异构),设备类型等特征,为生成编排方案提供依据 | 编排上下文句柄 | 输入 | 必选 |
| 通信任务描述结构体指针 | 输入 | 必选 | ||
| 任务分析结果结构体指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 编排方案生成 | 根据统一编排上下文、通信任务描述和任务分析结果生成编排方案。编排方案可包含一个或多个顺序或并行执行的通信阶段 | 编排上下文句柄 | 输入 | 必选 |
| 通信任务描述结构体指针 | 输入 | 必选 | ||
| 任务分析结果结构体指针 | 输入 | 必选 | ||
| 编排约束条件结构体指针 | 输入 | 可选 | ||
| 编排方案句柄 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 编排方案更新 | 当通信域信息、资源状态或任务参数发生变化时,对已有的编排方案进行更新,使其继续适用于当前通信任务 | 编排上下文句柄 | 输入 | 必选 |
| 编排方案句柄 | 输入 | 必选 | ||
| 更新信息描述结构体指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 编排方案执行 | 按照编排方案驱动通信任务执行 | 编排上下文句柄 | 输入 | 必选 |
| 编排方案句柄 | 输入 | 必选 | ||
| 发送缓冲区指针 | 输入 | 必选 | ||
| 接收缓冲区指针 | 输入 | 必选 | ||
| 执行流 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
6.3.3 中间操作
6.3.3.1 集合通信算子接口
通信运行时层的集合通信算子接口在设计上与用户接口层的集合通信操作接口保持一致。
对于复杂的跨芯片通信操作,可能由多个子通信域内的若干通信操作共同构成。中间操作层的集合通信算子接口的主要作用是为上层调度器提供统一的控制入口,使其能够在不同子通信域上执行不同类型的集合通信操作。
6.3.3.2 点对点通信算子接口
通信运行时层的点对点通信算子接口在设计上与用户接口层的点对点通信操作接口保持一致。
对于复杂的跨芯片通信操作,可能由多个子通信域内的若干通信操作共同构成。中间操作层的点对点通信算子接口的主要作用是为上层调度器提供统一的控制入口,使其能够在不同子通信域内或之间执行点对点通信操作。
6.3.3.3 自定义算子接口
自定义算子接口定义见表 16。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 自定义算子注册 | 将用户自定义的通信算子注册到统一通信库中,使统一通信库能够识别并管理该算子 | 通信域数据结构指针 | 输入 | 必选 |
| 自定义算子句柄 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 算子描述信息结构体指针 | 输入 | 可选 | ||
| 自定义算子注销 | 将已注册的自定义算子从统一通信库中移除,并释放相关资源 | 通信域数据结构指针 | 输入 | 必选 |
| 自定义算子句柄 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 自定义算子执行 | 调用已注册的自定义算子执行通信操作 | 通信域数据结构指针 | 输入 | 必选 |
| 自定义算子句柄 | 输入 | 必选 | ||
| 自定义算子输入参数指针 | 输入 | 必选 | ||
| 执行流 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
6.3.3.4 通信域管理接口
通信运行时层的通信域管理接口在设计上与用户接口层的通信域管理接口一致。
对于复杂的跨芯片通信操作,可能由多个子通信域内的若干通信操作共同构成。中间操作层的通信域管理接口旨在为上层调度器提供对多个子通信域管理调度的能力。
6.3.4 底层原语
6.3.4.1 主机侧原语接口
定义主机侧发起的,用于完成通信操作的底层通信原语。主机侧原语接口定义见表 17。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 申请数据缓冲区 | 在特定计算设备上申请线性内存,返回数据缓冲区指针 | 设备标识 | 输入 | 必选 |
| 缓冲区数据个数,按数据类型为单位计数 | 输入 | 必选 | ||
| 数据类型 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 数据缓冲区指针 | 输入/输出 | 可选 | ||
| 内存分配策略 | 输入 | 可选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 销毁数据缓冲区 | 释放数据缓冲区的内存 | 数据缓冲区指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 初始化数据缓冲区(同步) | 初始化内存,将内存中的内容设置为指定的值,同步接口 | 数据缓冲区指针 | 输入/输出 | 必选 |
| 初始化的值 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 初始化数据缓冲区(异步) | 初始化内存,将内存中的内容设置为指定的值,异步接口 | 数据缓冲区指针 | 输入/输出 | 必选 |
| 初始化的值 | 输入 | 必选 | ||
| 流 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 通信域原生集合通信接口 | 同构通信域内使用厂商原生实现进行集合通信 | 集合通信类型 | 输入 | 必选 |
| 发送数据缓冲区指针 | 输入 | 必选 | ||
| 接收数据缓冲区指针 | 输入 | 必选 | ||
| 参与此操作的数据个数,按数据类型为单位计数 | 输入 | 必选 | ||
| 本操作的根通信进程标识 | 输入 | 必选 | ||
| 本操作所在的通信域数据结构指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 本操作的发起通信进程所使用的流 | 输入 | 可选 | ||
| 数据发送 | 本通信进程发送输入缓冲区数据到对端通信进程 | 发送数据缓冲区地址 | 输入 | 必选 |
| 接收数据通信进程标识 | 输入 | 必选 | ||
| 本操作所在的通信域数据结构指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 本操作发起通信进程所使用的流 | 输入 | 可选 | ||
| 数据接收 | 从特定通信进程接收数据,存入本通信进程的接收缓冲中 | 接收数据缓冲区地址 | 输入 | 必选 |
| 发送数据通信进程标识 | 输入 | 必选 | ||
| 本操作所在的通信域数据结构指针 | 输入 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 数据接收 | 从特定通信进程接收数据,存入本通信进程的接收缓冲中 | 执行返回码 | 输出 | 必选 |
| 本操作发起通信进程所使用的流 | 输入 | 可选 | ||
| 数据接收转发 | 从指定通信进程接收数据,并转发至另一指定通信进程 | 接收数据通信进程标识 | 输入 | 必选 |
| 转发数据通信进程标识 | 输入 | 必选 | ||
| 参与此操作的数据个数 | 输入 | 必选 | ||
| 参与此操作的数据类型 | 输入 | 必选 | ||
| 本操作所在的通信域数据结构指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 本操作发起通信进程所使用的流 | 输入 | 可选 | ||
| 本地数据规约 | 对计算设备本地多个输入数据缓冲区的数据实施特定规约操作,再把结果放入指定输出缓冲区 | 输入数据缓冲区数组地址 | 输入 | 必选 |
| 输出数据缓冲区地址 | 输入 | 必选 | ||
| 规约操作缓冲区数量 | 输入 | 必选 | ||
| 规约类型 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 规约操作数据个数 | 输入 | 可选 | ||
| 规约操作数据类型 | 输入 | 可选 | ||
| 计算流 | 输入 | 可选 |
6.3.4.2 设备侧原语接口
定义设备侧发起的,用于完成通信操作的底层通信原语。设备侧原语接口定义见表 18。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 设备端发送数据 | 执行加速器设备函数在设备侧发起数据发送操作 | 发送缓冲区的设备端指针 | 输入 | 必选 |
| 发送数据数量,按数据类型为单位计数 | 输入 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 设备端发送数据 | 执行加速器设备函数在设备侧发起数据发送操作 | 数据类型 | 输入 | 必选 |
| 接收端通信进程标识 | 输入 | 必选 | ||
| 设备通信操作额外信息数据结构指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 设备端接收数据 | 执行加速器设备函数在设备侧发起数据接收操作 | 接收缓冲区的设备端指针 | 输入 | 必选 |
| 接收数据数量,按数据类型为单位计数 | 输入 | 必选 | ||
| 数据类型 | 输入 | 必选 | ||
| 发送端通信进程标识 | 输入 | 必选 | ||
| 设备通信操作额外信息数据结构指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 设备端终止通信 | 执行加速器设备函数在设备侧终止数据发送或接收,当前核函数不再产生新的通信请求 | 设备通信操作额外信息数据结构指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 设备端等待 | 执行加速器设备函数在设备侧等待当前核函数产生的所有通信请求被消费完毕 | 设备通信操作额外信息数据结构指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 申请数据缓冲区 | 在特定计算设备上申请线性内存,返回数据缓冲区指针 | 缓冲区数据个数,按数据类型为单位计数 | 输入 | 必选 |
| 数据类型 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 内存分配策略 | 输入 | 可选 | ||
| 缓冲区设备端指针 | 输入/输出 | 可选 | ||
| 销毁数据缓冲区 | 释放数据缓冲区的内存 | 数据缓冲区设备端指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 设备端本地数据规约 | 执行设备函数,对计算设备本地多个输入数据缓冲区的数据实施特定规约操作,再把结果放入指定输出缓冲区 | 输入数据缓冲区数组设备端指针 | 输入 | 必选 |
| 输出数据缓冲区设备端指针 | 输入 | 必选 | ||
| 规约操作缓冲区数量 | 输入 | 必选 | ||
| 规约类型 | 输入 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 设备端本地数据规约 | 执行设备函数,对计算设备本地多个输入数据缓冲区的数据实施特定规约操作,再把结果放入指定输出缓冲区 | 执行返回码 | 输出 | 必选 |
| 规约操作数据个数 | 输入 | 可选 | ||
| 规约操作数据类型 | 输入 | 可选 | ||
| 计算流 | 输入 | 可选 |
6.4 可迁移抽象层
6.4.1 通信库适配器接口
通信库适配器接口定义了一组对接厂商通信库的接口,使得统一通信库可以直接调用厂商原生通信库的通信操作接口。通信库开发厂商为适配统一通信库,利用厂商自研通信库接口实现统一通信库的通信库适配器接口。对于不支持的接口返回“未支持”执行返回码。通信库适配器接口在 6.2.1 定义的接口基础上,附加通信库信息获取接口定义,见表 19。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 获取通信库名称 | 获取通信库名称 | 通信库名称字符串 | 输入/输出 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 获取通信库版本 | 获取通信库版本 | 通信库版本号指针 | 输入/输出 | 必选 |
| 执行返回码 | 输出 | 必选 |
6.4.2 网络适配器接口
统一通信库网络适配器对接不同网络协议软件栈,并且使能统一通信库基于不同网络协议软件栈进行跨机通信操作。开发人员为适配新网络协议软件栈,利用网络协议软件栈对外暴露接口实现统一通信库网络适配器接口。对于不支持的接口返回“未支持”执行返回码。网络适配器接口定义见表 20。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 初始化网络适配器 | 根据当前所使用的网络协议软件栈初始化网络适配器状态 | 执行返回码 | 输出 | 必选 |
| 获取网络设备 | 获取支持指定网络协议的网络设备 | 设备数量指针 | 输入/输出 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 获取网络设备属性 | 查询特定网络设备属性 | 网络设备编号 | 输入 | 必选 |
| 设备属性结构体指针 | 输入 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 获取网络设备属性 | 查询特定网络设备属性 | 执行返回码 | 输出 | 必选 |
| 监听 | 在指定网络设备上建立监听端 | 网络设备编号 | 输入 | 必选 |
| 连接信息句柄指针 | 输入/输出 | 必选 | ||
| 监听信息句柄指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 连接 | 发送端向接收端发起连接请求,建立数据传输的链路连接 | 网络设备编号 | 输入 | 必选 |
| 连接信息句柄指针 | 输入 | 必选 | ||
| 发送端通信句柄指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 接受连接请求 | 接收端接受发送端的连接请求,建立数据传输的链路连接 | 监听信息句柄指针 | 输入 | 必选 |
| 接收端通信句柄指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 结束数据传输 | 发送端数据结束传输,并释放资源 | 发送端通信句柄指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 结束数据接收 | 接收端结束数据接收,并释放资源 | 接收端通信句柄指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 结束监听 | 接收端结束监听连接请求 | 监听信息句柄指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| DMA内存区域注册 | 注册可用于DMA的内存区域,通常需要以设备厂商提供的内核模块完成设备内存映射 | 通信上下文句柄 | 输入 | 必选 |
| 数据缓冲区指针 | 输入 | 必选 | ||
| 注册大小 | 输入 | 必选 | ||
| 内存属性 | 输入 | 必选 | ||
| 注册内存区域句柄指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 使用DMA内存文件描述符注册DMA内存区域 | 通过DMA内存文件描述符注册可用于DMA的内存区域 | 通信上下文句柄 | 输入 | 必选 |
| 数据缓冲区指针 | 输入 | 必选 | ||
| 注册大小 | 输入 | 必选 | ||
| 内存属性 | 输入 | 必选 | ||
| 内存起始偏移量 | 输出 | 必选 | ||
| DMA内存文件描述符 | 输出 | 必选 | ||
| 注册内存区域句柄指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 注销内存区域 | 注销已注册的内存区域 | 注册内存区域句柄指针 | 输入 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 注销内存区域 | 注销已注册的内存区域 | 通信上下文句柄 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 发送 | 使用双边通信语义进行数据发送 | 发送端通信句柄指针 | 输入 | 必选 |
| 待发送数据缓冲区指针 | 输入 | 必选 | ||
| 待发送数据大小 | 输入 | 必选 | ||
| 消息标签 | 输入 | 必选 | ||
| 关联的内存注册句柄 | 输入 | 必选 | ||
| 数据发送请求句柄指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 接收 | 使用双边通信语义进行数据接收 | 接收端通信句柄指针 | 输入 | 必选 |
| 待接收数据缓冲区指针 | 输入 | 必选 | ||
| 待接收数据大小 | 输入 | 必选 | ||
| 消息标签 | 输入 | 必选 | ||
| 关联的内存注册句柄 | 输入 | 必选 | ||
| 数据接收请求句柄指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 刷新缓冲区 | 接收端刷新接收缓冲区 | 接收端通信句柄指针 | 输入 | 必选 |
| 缓冲区指针 | 输入 | 必选 | ||
| 缓冲区大小 | 输入 | 必选 | ||
| 缓冲区关联的内存注册句柄 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 查询请求状态 | 查询请求状态,若请求未完成,返回已发送或接收字节数 | 发送或接收请求指针 | 输入 | 必选 |
| 完成状态 | 输入/输出 | 必选 | ||
| 完成字节数 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 远端内存写入 | 使用单边语义发起远端内存写入 | 请求发起端通信句柄指针 | 输入 | 必选 |
| 待发送数据缓冲区指针 | 输入 | 必选 | ||
| 待发送数据大小 | 输入 | 必选 | ||
| 消息标签 | 输入 | 必选 | ||
| 缓冲区关联的内存注册句柄 | 输入 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 远端内存写入 | 使用单边语义发起远端内存写入 | 远端内存写入请求句柄指针 | 输入/输出 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 远端内存读取 | 使用单边语义发起远端内存读取 | 请求发起端通信句柄指针 | 输入 | 必选 |
| 请求发起端目的缓冲区指针 | 输入 | 必选 | ||
| 读取数据大小 | 输入 | 必选 | ||
| 远端通知 | 使用单边语义向远端发送一个轻量通知 | 请求发起端通信句柄指针 | 输入 | 必选 |
| 待发送数据缓冲区指针 | 输入 | 必选 | ||
| 待发送数据大小 | 输入 | 必选 | ||
| 消息标签 | 输入 | 必选 | ||
| 缓冲区关联的内存注册句柄 | 输入 | 必选 | ||
| 通知请求句柄指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 通过网络设备名称获取网络设备编号 | 通过网络设备名称(字符串)获取网络设备在当前主机环境中的编号 | 网络设备名称(字符串) | 输入 | 必选 |
| 网络设备编号指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
6.4.3 设备适配器接口
统一通信库设备适配器模块支持对不同人工智能加速器设备的管理,使统一通信库可以对不同人工智能加速器设备进行操作,获取加速器设备的能力,并协同多个加速器设备进行通信操作。加速器厂商为适配统一通信库,利用厂商加速器运行时接口实现统一通信库设备适配器接口。对于不支持的接口返回“未支持”执行返回码。设备适配器接口定义见表 21。
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 设备同步 | 阻塞主机进程直到设备上所有前序任务执行完成 | 执行返回码 | 输出 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 内存拷贝 | 从特定内存空间(如主机内存)拷贝特定大小数据到特定内存空间(如设备内存) | 目的端内存指针 | 输入/输出 | 必选 |
| 源端内存指针 | 输入 | 必选 | ||
| 所拷贝内存大小 | 输入 | 必选 | ||
| 数据拷贝类型 | 输入 | 必选 | ||
| 流 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 内存赋值 | 把特定端侧上的特定内存赋为特定值 | 内存指针 | 输入/输出 | 必选 |
| 特定值 | 输入 | 必选 | ||
| 内存大小 | 输入 | 必选 | ||
| 数据存储类型 | 输入 | 必选 | ||
| 流 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 内存分配 | 在特定内存空间申请线性内存,返回所分配内存的指针 | 内存指针 | 输入/输出 | 必选 |
| 所分配内存大小 | 输入 | 必选 | ||
| 数据存储类型 | 输入 | 必选 | ||
| 流 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 内存释放 | 释放特定内存空间的内存 | 内存指针 | 输入 | 必选 |
| 数据存储类型 | 输入 | 必选 | ||
| 流 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 指定设备 | 指定当前进程所使用的设备 | 设备编号 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 获取设备 | 获取当前进程正使用的设备 | 设备编号指针 | 输入/输出 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 获取设备数量 | 获取可用设备数量 | 可用设备数量指针 | 输入/输出 | 可选 |
| 执行返回码 | 输出 | 必选 | ||
| 获取厂商信息 | 获取设备厂商信息 | 厂商信息指针 | 输入/输出 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 获取主机内存对应的设备端指针 | 获取主机端已分配的页锁定内存对应的设备端指针 | 设备端指针 | 输入/输出 | 必选 |
| 主机端页锁定内存地址指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 申请设备侧RDMA内存 | 在设备侧申请用于RDMA通信的内存,返回所分配内存的指针 | 内存指针 | 输入/输出 | 必选 |
| 所分配内存大小 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 释放设备侧RDMA内存 | 释放设备侧RDMA内存 | 内存指针 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 创建流 | 创建流 | 流指针 | 输入/输出 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 销毁流 | 销毁流 | 流 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 流同步 | 阻塞主机进程直到流上前序任务执行完成 | 流 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 流查询 | 查询流上所有任务的执行状态 | 流 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 流等待 | 阻塞流运行,直到指定的事件完成 | 流 | 输入 | 必选 |
| 事件 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 创建事件 | 创建事件 | 事件指针 | 输入/输出 | 必选 |
| 事件类型 | 输入 | 可选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 销毁事件 | 销毁事件 | 事件 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 事件同步 | 阻塞主机进程,直到指定的事件完成 | 事件 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 | ||
| 记录事件 | 在流中记录一个事件 | 事件 | 输入 | 必选 |
| 流 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 流等待事件 | 阻塞流运行,直到指定的事件完成 | 流 | 输入 | 必选 |
| 事件 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 事件状态查询 | 查询事件的完成状态 | 事件 | 输入 | 必选 |
| 执行返回码 | 输出 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 获取指定计算设备的PCI总线标识号 | 获取指定计算设备的PCI总线标识号 | PCI总线标识号指针 | 输入/输出 | 必选 |
| PCI总线标识号最大长度 | 输入 | 必选 | ||
| 计算设备标识号 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 根据PCI总线标识号获取计算设备句柄 | 根据PCI总线标识号获取计算设备句柄 | PCI总线标识号 | 输入 | 必选 |
| 计算设备句柄 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 获取指定计算设备对应的设备索引(见附录A) | 根据计算设备句柄获取对应的设备索引 | 计算设备句柄 | 输入 | 必选 |
| 索引变量指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 获取指定计算设备上高速互联链路的特定能力 | 获取指定计算设备上高速互联链路的特定能力 | 计算设备句柄 | 输入 | 必选 |
| 要查询的高速互联链路编号 | 输入 | 必选 | ||
| 要查询的高速互联能力类型 | 输入 | 必选 | ||
| 查询结果指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 获取指定计算设备的高速互联链路状态 | 通过计算设备句柄,高速互联链路编号来获取该计算设备上指定高速互联链路的状态 | 计算设备句柄 | 输入 | 必选 |
| 高速互联链路编号 | 输入 | 必选 | ||
| 存储链路状态的指针(用于标识链路是否启用) | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 获取计算设备上指定高速互联链路的远端PCI信息 | 获取指定计算设备上指定高速互联链路的远端PCI信息 | 计算设备句柄 | 输入 | 必选 |
| 高速互联链路编号 | 输入 | 必选 | ||
| PCI信息结构体指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 获取指定高速互联链路带宽 | 通过计算设备句柄,高速互联链路编号获取指定高速互联链路带宽 | 计算设备句柄 | 输入 | 必选 |
| 高速互联链路编号 | 输入 | 必选 | ||
| 带宽变量指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
| 名称 | 功能语义描述 | 参数 | 输入/输出 | 必选/可选 |
| 获取片级高速互联链路状态 | 通过计算设备句柄及链路编号获取计算设备上高速互联链路的使能状态 | 计算设备句柄 | 输入 | 必选 |
| 链路编号 | 输入 | 必选 | ||
| 状态指针(使能或未使能) | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 获取片级高速互联链路数量 | 通过计算设备句柄获取该计算设备上支持的级高速互联链路数量 | 计算设备句柄 | 输入 | 必选 |
| 片级高速互联链路数量指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 获取片级高速互联链路带宽 | 通过计算设备句柄及链路编号获取计算设备上高速互联链路的带宽 | 计算设备句柄 | 输入 | 必选 |
| 链路编号 | 输入 | 必选 | ||
| 带宽变量指针 | 输入/输出 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 下发主机回调函数 | 将一个主机回调函数插入指定流。该流上前序任务执行完成后在主机侧线程中调用该回调函数 | 流 | 输入 | 必选 |
| 主机侧回调函数 | 输入 | 必选 | ||
| 回调函数输入数据指针 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 计算事件间隔时间 | 计算两个事件之间设备端经过的时间 | 时间间隔变量指针 | 输入 | 必选 |
| 起始事件 | 输入 | 必选 | ||
| 结束事件 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 流等待值 | 用于控制指定设备执行流在目标地址处的值在满足给定条件前暂停后续操作执行 | 执行流 | 输入 | 必选 |
| 目标内存地址 | 输入 | 必选 | ||
| 目标值 | 输入 | 必选 | ||
| 等待条件标志 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 | ||
| 流写入值 | 用于控制指定设备执行流向目标地址写入值 | 执行流 | 输入 | 必选 |
| 目标内存地址 | 输入 | 必选 | ||
| 写入值 | 输入 | 必选 | ||
| 写值操作控制标志,可用于指定写入方式或内存语义 | 输入 | 必选 | ||
| 执行返回码 | 输出 | 必选 |
7 接口要求
7.1 接口符合性要求
7.1.1 一般要求
统一通信库接口符合以下要求:
a) 应提供第 5 章规定的必选组件接口;
b) 可提供第 5 章规定的可选组件接口。
7.1.2 用户接口要求
7.1.2.1 通信操作接口要求
统一通信库应支持 6.2.1 中定义的通信操作接口,包括:
a) 6.2.1.1 中定义的集合通信操作接口;
b) 6.2.1.2 中定义的点对点操作接口;
c) 6.2.1.3 中定义的组调用操作接口;
d) 6.2.1.4 中定义的内存管理接口;
e) 6.2.1.5 中定义的通信域管理接口。
7.1.2.2 通信编程语言接口要求
统一通信库实现通信编程语言组件时,应支持 6.2.2 中定义的通信编程语言接口。
7.1.3 通信运行时接口要求
7.1.3.1 运行时服务接口要求
统一通信库应支持第 6 章中定义的运行时服务接口,包括:
a) 6.3.1.1 中定义的拓扑接口;
b) 6.3.1.2 中定义的模拟器接口;
c) 6.3.1.3 中定义的监控工具接口。
7.1.3.2 统一编排接口要求
统一通信库实现统一编排组件时,应支持 6.3.2 中定义的统一编排接口。
7.1.3.3 中间操作接口要求
统一通信库应支持第 6 章中定义的中间操作接口,包括:
a) 6.3.3.1 中定义的集合通信算子接口;
b) 6.3.3.2 中定义的点对点通信算子接口;
c) 6.3.3.4 中定义的通信域管理接口。
统一通信库实现自定义算子组件时,还应支持 6.3.3.3 中定义的自定义算子接口。
7.1.3.4 底层原语接口要求
统一通信库应支持第 6 章中定义的底层原语接口,包括:
a) 6.3.4.1 中定义的主机侧原语接口;
b) 6.3.4.2 中定义的设备侧原语接口。
7.1.4 可迁移抽象层接口要求
统一通信库应支持第 6 章中定义的可迁移抽象层接口,包括:
a) 6.4.1 中定义的通信库适配器接口;
b) 6.4.2 中定义的网络适配器接口;
c) 6.4.3 中定义的设备适配器接口。
7.2 接口功能正确性要求
统一通信库接口的执行结果应符合相应接口在第 6 章中的功能语义描述。
7.3 数值正确性要求
7.3.1 适用范围
数值正确性要求仅适用于以下接口:
a) 6.2.1.1 中定义的集合通信操作接口中具有数据规约语义的接口,包括规约、全规约和规约分发接口;
b) 第 6 章中与 6.3.3.1 对应且具有数据规约语义的集合通信算子接口;
c) 第 6 章中自定义算子接口中所调用的自定义算子如包含数据规约语义。
7.3.2 要求内容
适用 7.3.1 的接口,其执行结果应与理论结果一致,或在允许误差范围内一致。数值正确性应采用绝对误差或相对误差进行表征。
8 接口测试
8.1 接口功能正确性测试方法
8.1.1 测试目的
验证接口执行结果是否符合第 6 章对应接口的语义描述。
8.1.2 测试步骤
测试步骤如下:
a) 根据被测接口的功能语义构造测试输入;
b) 调用被测接口;
c) 检查接口输出结果、对象状态变化或执行状态是否符合第 6 章接口语义;
d) 对于创建、查询、更新、销毁、注册、注销类接口,检查相关句柄或资源是否符合预期;
e) 对于同步、等待、通知、传输和通信操作类接口,检查执行结果是否符合预期。
8.1.3 预期结果
接口执行结果符合 7.2,判定功能正确性测试通过。
8.2 数值正确性测试方法
8.2.1 测试目的
验证适用 7.3 要求接口的执行结果是否满足数值正确性要求。
8.2.2 测试步骤
测试步骤如下:
a) 构造具有理论结果的输入数据;
b) 调用被测接口;
c) 获取接口输出结果;
d) 将接口输出结果与理论结果进行比较;
e) 计算绝对误差或相对误差。
绝对误差和相对误差计算方法见表 22。
| 测试项 | 测试指标 | 测试方法 |
| 绝对误差 | 绝对数据误差值errabs=| y-y'| | 使用实数计算执行对应接口的真实结果y,与接口输出结果y'进行误差计算 |
| 相对误差 | | y-y'|相对数据误差值errrel= | y| | 使用实数计算执行对应接口的真实结果y,与接口输出结果y'进行误差计算 |
8.2.3 端到端任务场景测试方法
执行结果达到 7.3.2 中的要求,则判定数值正确性测试通过。
附录 A(资料性) 统一通信库拓扑数据结构描述
统一通信库拓扑数据结构描述如下。
a) 拓扑数据结构包含服务器内的详细拓扑信息,包括设备信息和设备间互联信息。
b) 拓扑数据结构能够被转换为易理解的拓扑描述文件,推荐使用 XML 或 json 类可体现拓扑层级结构的文件类型。
c) 拓扑数据结构中包含以下设备节点类型:
1) APU:专用的加速处理单元,具备高度并行计算能力和优化的内存架构,用于加速特定计算任务的执行;
2) PCI:PCIe 总线架构中的交换设备,负责管理和路由 PCIe 设备间的数据传输,通过多端口设计实现设备间的高速互联;
3) CPU:NUMA 架构中的处理器节点,包含处理器核心及其直接相连的本地内存;
4) NET:实现网络通信的专用硬件设备,提供物理层和数据链路层的网络协议支持,支持高级网络特性如 RDMA;
5) HBD:高带宽,低延迟交换设备。
d) 拓扑数据结构中包含以下互联链路类型:
1) LOC:本地链路,主要用于描述节点内非高速互联的默认互联类型;
2) CCI:支持设备间缓存一致性的高速互联链路,提供高带宽、低延迟的数据传输;
3) PCI:基于 PCIe 协议的设备互联链路;
4) SYS:处理器间的高速互联链路,支持多处理器系统的数据交换和缓存一致性维护;
5) NET:通过网络接口实现的设备间通信链路,支持多种网络协议和技术,实现远距离数据传输。

评论