当前已有安全原则和部分产品基础,儿童安全验收尚未完成。
在线编程中心已有账户、课程、作品与班级等基础结构,AI 助教也有提示约束方面的探索。监护人同意、角色权限、数据留存、内容治理、退出删除和事件响应仍需形成端到端流程,并完成测试。
对外说明以当前可验证状态为准。“全面安全”“完全合规”等绝对表述缺乏现阶段证据。五项原则对应具体产品要求。
每项要求都需要界面入口、权限规则、处理流程和验证记录。
- 01
AI 身份持续显示
所有 AI 交互位置都要标明身份,并提醒孩子核对回答。
- 02
监护人按项目同意
功能、数据用途和保存期限分别说明,授权记录保留具体范围。
- 03
教师能够查看和控制
教师设置 AI 权限与提示上限,并处理评价、风险和异常情况。
- 04
数据控制在必要范围
每类数据都要对应明确目的、访问角色、保存期限和删除规则。
- 05
退出与删除可以执行
家长可以停止使用、撤回同意,并发起查阅、更正或删除请求。
身份透明
所有 AI 交互位置持续显示身份标识。界面同时提醒孩子回答可能出错,需要核对。
提示设置上限
AI 围绕当前任务提供分级线索。提示深度由教师设置,学习评价由教师完成。
风险转交
遇到情绪危机、伤害风险、敏感信息或教学范围外的问题时,系统停止自动推进并通知真人处理。
持续验证
输入与输出安全、越界测试、误判处置和审计记录都要在开放前验证,并在上线后持续复核。
只处理完成明确服务所需的数据。
每类数据先写明目的,再判断必要性。正式说明将列出数据清单、保存期限、访问角色和第三方处理情况。
- 01
每项处理先写明目的
账户、作品、代码、对话和语音分别对应具体服务目的。缺少明确目的的数据不进入处理范围。
- 02
不同数据分别设边界
作品展示、课堂记录、AI 对话和语音分别说明用途、可见范围、保存期限与撤回方式。
- 03
儿童内容默认限制可见
儿童作品和学习记录默认限于必要角色。公开展示需要单独说明,并提供可撤回的授权路径。
- 04
提供退出与删除入口
查阅、更正、导出、停止使用和删除都需要形成可执行、可记录、可复核的流程。
对不满十四周岁儿童的个人信息处理,将把专门告知、监护人同意和儿童个人信息保护要求纳入上线前验收;具体文本与适用方式以实际服务流程和专业法律复核为准。
可以查看、选择、撤回并提出申诉。
权利入口要用家长和孩子可以理解的语言说明,并提供可执行的处理流程和结果通知。
- 在孩子使用前,以易理解方式知道会使用哪些功能与数据
- 对需要单独同意的处理逐项作出选择,并查看授权范围
- 了解 AI 是否开启、能提示到什么程度,以及真人老师如何介入
- 查阅、更正、导出或请求删除与孩子相关的数据
- 撤回同意、停止使用,并获得清楚的后续处理说明
- 在发现不合适内容或异常行为时获得申诉与人工回应渠道
正式开放前的六项验收。
每一项都需要负责人、验证证据和复查节奏。当前列表说明验收范围,完成状态以实际记录为准。
- 待验收 · 01
秘密与权限
服务密钥只保留在服务端;完成身份验证、角色权限、访问审计与异常告警。
- 待验收 · 02
监护人流程
完成适龄告知、监护人同意、授权记录、撤回与账号关系验证。
- 待验收 · 03
数据治理
形成数据清单、目的与最少必要评估、保存期限、删除规则和第三方处理说明。
- 待验收 · 04
AI 安全验收
完成输入输出治理、红队测试、教师控制、人工转交与异常内容处置。
- 待验收 · 05
事件响应
建立报告、止损、调查、通知、补救和复盘流程,并明确责任人与响应窗口。
- 待验收 · 06
法律与专业复核
正式隐私政策、儿童个人信息规则与服务条款需依据实际产品流程由专业法律顾问核验。
产品原则对照公开专业资料。
这些资料用于课程和产品设计参考。发布机构未对 Code Harbor 作出背书,实际业务仍需独立完成法律与安全评估。
- 教育部义务教育信息科技课程标准(2022年版)
- 中国教育学会中小学生成式人工智能使用指南(2025年版)
- UNICEFAI and Children Guidance 3.0
- Scratch FoundationScratch Creative Learning Philosophy