输入“/”快速插入内容

接入大模型API开发应用

2024年7月3日修改
🎼
针对产品接入大模型API开发应用的合规需求与方案
需对供应商提的要求
建议与供应商沟通,明确对方对以下合规要求的满足情况:
1.与对方签订合同的时候,请跟合规部交流,在合同中补充相关条款
要求对方明确反馈,关于是否能够满足《生成式人工智能服务 安全基本要求》、《网络安全标准实践指南——生成式人工智能服务内容标识方法》。可以的话,最好能写进协议里,或者对方出具单方盖章的承诺函。
生成式人工智能服务安全基本要求(2).pdf
319.71KB
《网络安全标准实践指南——生成式人工智能服务内容标识方法》.pdf
377.99KB
如果没有合同的话,需要详细了解审查下供应商的用户协议、隐私政策等文件,以规避可能的风险
2.要求对方根据以下进行反馈,最好能作为合同附件:
《生成式人工智能服务 安全基本要求》符合情况:
条款
符合情况(请供应商反馈)
5.1 语料来源安全要求
5.2 语料内容安全要求
5.3 语料标注安全要
6 模型安全
7 安全措施要
8.1 关键词
8.2 生成内容测试题
8.3 拒答测试题库
8.4 分类模型
《网络安全标准实践指南——生成式人工智能服务内容标识方法》符合情况
条款
符合情况(请供应商反馈)
3.2 由人工智能生成图片、视频时,应采用在画面中添加提示文字的 方式进行标识。提示文字宜处于画面的四角,所占面积应不低于画面 的 0.3%或文字高度不低于 20 像素。提示文字内容应至少包含“人工智能生成”或“AI 生成”等信息。视频中由当前服务生成的画面应 添加提示,其他画面可不添加提示。
3.3 由人工智能生成图片、音频、视频时,应按以下方式在生成内容 中添加隐式水印标识。隐式水印标识中至少包含服务提供者名称,也 可包含内容 ID 等其他内容。
a) 图片的隐式水印标识应通过空域水印或变换域水印的方式实 现,含有隐式水印的原始生成图片应满足任意连续 50%以上面 积且分辨率大于等于 384×384 的切片均包含完整标识信息; b) 视频的隐式水印标识应通过时空域水印或变换域水印的方式 实现,含有隐式水印标识的原始生成视频应满足任意连续 5 秒 以上视频内容中均包含完整标识信息; c) 音频的隐式水印标识应通过时域水印或变换域水印的方式实 现,含有隐式水印标识的原始生成音频应满足任意连续 10 秒 以上音频内容中均包含完整标识信息; d) 服务提供者应具有从该服务所生成内容中提取隐式水印标识 的接口或工具。
3.4 由人工智能生成的图片、音频、视频以文件形式输出时,应在文 件元数据中添加扩展字段进行标识。扩展字段内容应包含服务提供者 名称、内容生成时间、内容 ID 等信息。
3.进行算法备案,需对方提供信息,具体参考该文件。
2.算法安全自评估报告模板(大模型方补充).docx
33.45KB