微软 DALL-E 3 禁止生成“世贸”、“双子塔”主题图片，官方回应“防止产生有害内容”

CTOnews.com 10 月 6 日消息，综合 The Verge 等媒体报道，日前一些使用微软 DALL-E 3 工具的用户创作出"人物或动漫角色驾驶飞机撞向两座高楼（通常指"双子塔"，Twin Tower）"的图片，引起不小争议。

在微软公关总监 Caitlin Roulston 给 The Verge 的一封电子邮件声明中回应称："公司正计划改进其系统，以帮助防止产生有害内容"。

与任何新兴技术一样，有人试图以非本意的方式来使用它。正因为如此，我们正实施一系列防护措施、过滤措施，使必应的图片生成工具为用户带来积极、有益的体验。

而经过 The Verge 测试，与"世界贸易中心""双子塔"等词汇有关的图片起初是可以生成的，而当其联系微软之后，上述词汇均已被屏蔽。从截图来看，该工具产生了一个弹窗提示：警告，可能会违反内容政策，因而被封锁。

CTOnews.com此前报道，不久前，微软宣布 OpenAI 最新的 DALL-E 3 图像生成器现在可供所有 Bing Chat 和 Bing Image Creator 用户免费使用。据微软介绍，DALL-E 3 是文本到图像生成的突破，由深度神经网络提供支持，可以从自然语言提示生成逼真且多样化的图像。

在 9 月举行的开发者大会上，微软宣布深化和 OpenAI 的合作，在 Bing Chat 中引入对 DALL-E 3 的支持，并于当月晚些时候宣布免费开放。该功能在过去一周左右的时间里逐渐开放使用，首先是针对必应企业用户，然后是必应图像创建器，现在该功能已对所有人开放。