团 体 标 准
T/TAF 316—2025
端云协同人工智能服务用户数据保护要求
User data protection requirements of end cloud collaborative artificial
intelligence services
2025-11-17 发布 2025-11-17 实施
电信终端产业协会 发布
前 言
本文件按照GB/T 1.1—2020《标准化工作导则 第1部分：标准化文件的结构和起草规则》的规定起草。
请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。
本文件由电信终端产业协会(TAF)提出并归口。
本文件起草单位：中国信息通信研究院、博鼎实华(北京)技术有限公司、小米通讯技术有限公司、北京抖音信息服务有限公司、北京快手科技有限公司、北京火山引擎科技有限公司、南德认证检测(中国)有限公司深圳分公司、北京三星通信技术研究有限公司、华为终端有限公司、荣耀终端股份有限公司、玩咖欢聚科技(北京)有限公司。
本文件主要起草人：桑明臣、武林娜、王淞鹤、邓佑军、王艳红、杜云、陈鑫爱、李可心、顾世鸿、董霁、张倞诚、落红卫、王昕、张尧、杜蕾、周世乐、王彬、衣强、李辰淑、赵晓娜、刘伟峰。
引 言
随着大模型技术的快速发展，端侧设备受限于自身算力与存储能力，往往需依托端云协同架构(即端侧设备与云端服务协同计算)以提供智能化服务。然而，在该架构下，数据需在端侧与云端之间传输与处理，致使用户隐私泄露风险显著增加，具体表现为敏感数据明文传输、云端过度采集信息、算法决策不透明等。当前标准尚缺乏对端云协同场景的针对性约束，难以有效应对相关隐私挑战。
端云协同架构已被广泛应用于智能家居、车载系统、穿戴设备等多个领域，但其复杂的数据链路也导致用户隐私泄露事件频发，例如家庭监控数据在云端发生泄露、语音指令未经授权被用于模型训练等。本文件通过规范技术实现路径，降低用户数据在处理过程中的暴露风险，增强公众对人工智能技术的信任，推动数字社会可持续发展。
端云协同人工智能服务用户数据保护要求
1 范围
本文件规定了基于端云协同架构的人工智能服务用户数据保护的要求，适用于采用端云协同架构的智能终端设备(如智能手机、智能家居设备、车载系统等)及其配套云端服务在用户数据保护方面的技术与管理规范，主要内容包括端云协同通用要求、管理要求、端侧要求、云侧要求以及协同机制要求。
本文件适用于指导采用端云协同架构的智能终端设备提供人工智能服务，也适用于主管部门、第三方评估机构等组织对基于端云协同架构的人工智能服务的用户数据保护情况进行监督、管理和评估。
2 规范性引用文件
下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件;不注日期的引用文件，其最新版本(包括所有的修改单)适用于本文件。
T/TAF 268.4 生成式人工智能个人信息保护技术要求 第4部分：模型规制控制
3 术语和定义
下列术语和定义适用于本文件。
3.1
端云协同 end-cloud collaborative
通过整合端侧设备(End)和云侧(Cloud)的协同计算与资源调度能力，实现数据、算力和算法的动态优化分配。
3.2
基于端云协同架构的人工智能服务 artificial intelligence services based on an end-cloud
collaborative architecture
通过整合端侧设备、云侧资源的协同能力，部署和运行人工智能模型的服务体系，简称“端云协同人工智能服务”。
4 缩略语
下列缩略语适用于本文件。
API：应用程序编程接口(Application Programming Interface)
APP：移动互联网应用程序(Mobile Internet Applications)
HTTPS：超文本传输安全协议(Hyper Text Transfer Protocol Secure)
SDK：软件开发工具包(Software Development Kit)
5 概述
端云协同框架是一种分布式人工智能服务架构，通过终端设备与云端平台的深度协同，实现计算资源的优化配置与高效利用。该框架充分发挥终端设备的实时响应能力和云端平台的大规模计算优势，构建起“终端轻量化处理+云端复杂计算”的协同范式。
a) 端侧设备负责数据采集、轻量级推理和实时响应，同时将需要复杂处理的任务安全传输至云端。
b) 云侧平台则依托强大的计算能力，进行大规模模型训练、数据分析和全局优化，并将优化后的模型参数和计算结果下发给终端设备。
图 1 基于端云协同架构的人工智能服务数据交互示意图
6 通用要求
端云协同人工智能服务提供方满足以下要求：
a) 应公开人工智能服务个人信息处理规则，包括但不限于处理个人信息的目的、方式和范围，明确不同服务场景涉及的端云处理方式，明确征得用户同意后再进行个人信息处理;
b) 处理方式和处理的个人信息种类发生变更时，应重新征得用户授权同意;
c) 收集个人信息应遵循最小必要原则，收集个人敏感信息应单独取得用户同意;
d) 调用三方 APP、程序、插件或工具，获取三方数据时，应明确告知各来源数据的使用规则，记录三方来源用户数据使用情况;
e) 应公开个人信息的查阅、复制、更正、删除、注销、撤回同意以及投诉操作流程和方式方法，及时响应用户的投诉，15 个工作日内处理完成;
f) 端云协同产品或服务如果向未成年人提供服务，应单独制定个人信息处理规则，并取得其监护人的同意;
7 管理要求
端云协同人工智能服务提供方在管理方面满足以下要求：
a) 应制定人工智能服务开发管理规范，在业务需求提出和产品功能设计过程中，遵守合法、正当、必要和诚信原则。对涉及个人信息处理、第三方 SDK 集成和第三方人工智能大模型运用等典型场景、关键环节进行全面评估，确保符合相关法律法规和标准要求。详细记录评估人员、评估时间、评估结果和改进方案等信息;
b) 应制定人工智能服务测试管理规范，明确测试计划和测试流程，确保测试覆盖所有用户权益保护相关的典型场景和操作流程。严格按照测试计划和流程执行，详细记录测试的日期、时间、
参与人员、测试用例、发现的问题、测试结果等测试过程日志。定期审查和更新测试流程，确保测试的有效性和时效性;
c) 应制定人工智能服务运行监测规范，实时监测产品或服务在运行时是否存在恶意程序、安全漏洞、个人信息泄露、用户投诉等情况，发现及时处理;
d) 应制定人工智能服务更新管理规范，明确产品或服务的更新原则、更新方式、更新流程等内容。对更新内容进行测试验证，测试不通过的不予更新。当产品或服务存在重大功能权限调整或重大隐私政策变更时，及时告知用户;
e) 应制定人工智能服务运营账号管理规范，指定专门的部门或人员进行账号管理，对账号的申请、建立、删除等操作进行控制，对关键权限访问设置双人账号验证，定期检查账号是否符合账号管理要求;
f) 应制定人工智能服务应急响应机制，对处置风险隐患和可疑事件的操作进行记录，及时向本组织的事件处理部门报告，涉及个人用户数据应通知用户。当发生影响较大的安全事件时，应向主管部门进行报告;
g) 人工智能服务提供 API 服务的，应制定 API 管理规范，实施 API 调用用户鉴别和鉴权、API 访问控制、API 接口数据安全传输、API 调用日志记录;
h) 应建立人工智能服务个人信息保护组织机构或明确产品或服务个人信息保护牵头部门，统筹负责个人信息保护相关事务，明确工作职责和范围;
i) 应制定个人信息保护合规审计管理制度，明确合规审计的负责部门，确定与企业自身业务性质、业务规模、风险状况和管理水平相一致的审计频率，自行或委托专业机构对用户权益保护措施及执行情况进行合规审计。建立合规审计报告制度和报告线路，定期向企业董事会或高级管理层主要负责人汇报合规审计工作情况，若发生重大审计发现应及时向主管部门报告;
j) 应制定个人信息风险评估制度，定期梳理端云协同产品或服务用户权益保护法律法规清单，全面识别企业可能面临的合规风险点，建立相应的合规风险评估流程，定期开展合规风险评估，详细记录合规风险评估的过程和结果。对个人权益有重大影响的个人信息处理活动的，应开展个人信息保护影响评估;
k) 应制定员工个人信息保护培训计划，必要时可以聘请外部专业机构或人员协助开展培训。定期对员工开展考核，将考核结果作为绩效考核关键指标。
8 技术要求
8.1 协同机制要求
8.1.1 基础策略
端云协同人工智能服务在协同机制基础策略方面满足以下要求：
a) 应依据数据敏感性制定并执行差异化的端云资源调度策略，对高敏感数据宜优先调度至端侧本地处理，确需云侧参与时，须调度至具备相应防护能力的高安全域，以降低隐私泄露风险;
b) 应具备双向身份鉴别机制，防止中间人仿冒，端侧设备在接入云平台时应进行认证，未通过认证的端侧设备应阻止其接入;
c) 应对用户数据设置数据保护策略，可采取以下一种或几种保护策略：
1) 采用即用即删策略，在满足服务需求的前提下，云侧不保留用户对话记录，最大程度减少用户数据在云端的留存时间，降低数据泄露风险;
2) 建立安全可靠的用户数据中心，对用户数据进行集中管理和保护，同时采取严格的访问控制和安全防护措施，确保数据的安全性和完整性。
d) 应基于数据敏感性及任务安全需求评估结果，构建逻辑隔离的虚拟安全域，并对不同安全域实施差异化的安全防护措施，确保计算任务在与其安全等级相匹配的环境中被执行。
8.1.2 访问控制要求
端云协同人工智能服务在协同机制访问控制方面满足以下要求：
a) 应配置用户访问控制策略，严格限制默认用户的访问权限;
b) 应根据业务需要配置用户所需的最小权限,严格按策略要求控制用户访问业务、数据和网络资源等;
c) 用户与云平台环境的通信双方中任何一方超出一定时间无响应时,另一方应自动结束会话。
8.1.3 数据传输要求
端云协同人工智能服务在协同机制数据传输方面满足以下要求：
a) 应使用安全可靠的传输协议，如 HTTPS 等，防止数据在传输过程中被篡改、窃取或恶意攻击，确保数据的完整性和机密性;
b) 采用加密算法对敏感数据进行加密处理，确保数据在传输过程中的安全;
c) 应仅上传用于实现功能或服务的最小范围的数据，法律法规有另行要求的，从其规定。;
d) 非功能或业务所必需，应对数据在端侧进行脱敏或加密处理后再进行传输;
e) 宜避免不同安全等级的设备间进行不必要的传输。
8.2 端侧安全技术要求
8.2.1 数据收集
在服务过程中，数据收集应遵循“最小必要”原则，仅收集用于实现功能或服务目的所必需的数据。
8.2.2 数据存储
端云协同人工智能服务在端侧数据存储方面满足以下要求：
a) 非功能或业务所必需，模型服务过程中用户敏感个人信息(如人脸信息、银行账号信息、身份证号等)，应优先在端侧本地存储;
b) 对模型服务过程中涉及的原始数据、模型服务中间数据、服务使用记录、临时文件等数据进行本地存储的，应采取对应安全级别的处理及保护措施(如加密存储等);
c) 应对模型服务相关的本地存储数据进行安全访问控制。
8.2.3 数据使用
本地模型服务应运行在安全的环境中，防止数据处理过程中的数据损毁、泄露和丢失。
8.2.4 工具调用
涉及第三方工具调用，建立严格管理和安全评估机制，监控数据传输和使用，防止数据非法获取滥用。
8.2.5 安全控制
端云协同人工智能服务在端侧安全控制方面满足以下要求：
a) 涉及通过云侧能力增强模型服务的，宜向用户提供端云服务方式的设置或选择功能，例如本地端、云端;
b) 应具备威胁响应机制，针对安全问题及时更新本地防护策略，修复相关问题;
c) 涉及访问敏感数据或系统资源的，应在端侧留存相关操作日志并提供相关操作的使用记录，包括时间、频次、目的等。
8.3 云侧安全技术要求
8.3.1 数据接收与验证
端云协同人工智能服务在云侧数据接收与验证方面满足以下要求：
a) 应采用加密协议构建安全通道，进行严格握手过程，防止中间人攻击，保障数据传输保密性;
b) 应运用数据摘要算法计算数据的摘要值，与端侧发送摘要比对，确保数据完整性;
c) 应通过基于数字签名等方式的身份认证机制，验证端侧设备合法性，仅接收合法设备数据，记录并告警非法连接尝试;
d) 应对外部组件接入采取安全管控措施，防止非法接入导致的数据泄露风险。
8.3.2 数据存储保护
端云协同人工智能服务在云侧数据存储方面满足以下要求：
a) 应依据用户数据敏感程度，将数据划分等级，并采用分级存储策略，分别存储于对应安全防护级别的存储区域;
b) 应对敏感数据使用高强度加密算法进行存储加密，采用多因素密钥生成方式生成密钥，并定期更新，保障数据加密安全;
c) 宜利用分布式存储技术，确保数据的高可用性和容灾能力;
d) 应设置存储生命周期管理规则，对超过保存期限的用户数据，按照合规流程进行删除或归档处理，并详细记录操作日志，以便后续审计追溯;
e) 不同用户计算任务运行过程中产生的动态数据应隔离存储，防止数据相互干扰与越权访问。
8.3.3 数据处理管控
端云协同人工智能服务在云侧数据处理方面满足以下要求：
a) 应构建基于角色的访问控制矩阵，按照最小权限原则为数据处理人员和程序分配权限，严格限制模型训练等操作对数据的访问范围和操作类型;
b) 在人工智能模型训练过程中，应采取用户个人信息保护措施，满足T/TAF 268.4 第5 章要求;
c) 应对数据处理过程进行全程审计，详细记录操作时间、操作人员、操作内容及数据流向等信息，确保在出现问题时能够回溯检查。
8.3.4 数据共享与披露
端云协同人工智能服务在云侧数据共享披露方面满足以下要求：
a) 应严格规范用户数据共享行为，明确共享对象、范围和条件;在与第三方共享数据前，对第三方的数据保护能力进行全面评估;
b) 应签订详尽的数据共享协议，要求第三方遵循本标准的数据保护要求;
c) 在发生数据共享行为时，应及时向用户告知共享情况，保障用户的知情权。
8.3.5 环境安全
端云协同人工智能服务在云侧环境安全方面满足以下要求：
a) 应对模型数据、用户数据、服务过程中产生的数据采取严格的访问控制;
b) 应对未认证设备接入的行为进行告警，云平台应只开放与接入相关的服务端口;
c) 提供登录功能的云平台环境应配置登录失败处理功能,比如采取结束会话、限制非法登录次数及自动退出等方法;
d) 提供登录功能的云平台环境应核验用户身份,确保用户身份标识不重复,并设置用户认证信息复杂度功能检查,防止身份认证信息被轻易冒用;
e) 应对用户账号及口令信息实施加密存储。
评论