摘要
一句话总结 本文档概述了文本到图像生成系统 DALL·E 3 的基本功能，并重点介绍了其在部署前为降低潜在风险而采取的红队测试、风险评估及缓解措施等安全准备工作。
关键点
- 系统功能：DALL·E 3 是一种人工智能系统，能够根据输入的文本提示生成全新的图像。
- 版本提升：相较于 DALL·E 2，DALL·E 3 在图像生成质量以及对文本描述的还原度上均有进一步提升。
- 安全目标：部署前准备工作的核心目的是降低模型可能带来的风险并减少不良行为。
- 红队测试：引入外部专家进行对抗性测试，以主动发现并修复系统的潜在漏洞。
- 风险评估：对模型在实际应用场景中可能面临的核心风险进行了全面的评估。
- 缓解措施：实施了针对性的策略，以有效降低系统风险并减少意外输出。
- 涉及领域：该系统卡及相关研究涵盖 DALL·E、语言、伦理与安全、学习范式以及系统卡等领域。
正文
什么是 DALL·E 3？
DALL·E 3 是一种人工智能系统，能够接收文本提示作为输入，并生成全新的图像作为输出。它在 DALL·E 2 的基础上进行了升级，进一步提升了图像的生成质量以及对文本描述的还原度。
部署前的安全准备
在这份系统卡文档中，我们分享了为 DALL·E 3 部署所做的各项准备工作。为了降低模型可能带来的风险并减少不良行为，我们采取了以下关键措施：
- 外部专家红队测试：引入外部专家进行对抗性测试，以发现并修复潜在漏洞。
- 关键风险评估：对模型在实际应用中可能面临的核心风险进行全面评估。
- 风险缓解措施：实施针对性的策略，以有效降低系统风险和减少意外输出。
相关领域
该系统卡及相关研究主要涵盖以下领域：
- DALL·E
- 语言（Language）
- 伦理与安全（Ethics & Safety）
- 学习范式（Learning Paradigms）
- 系统卡（System Cards）