在一些使用必应DALL-E 3集成的用户发现该工具的防护栏存在漏洞，并生成了几个受人喜爱的动画角色和双子塔的图像后，微软似乎已经屏蔽了“双子塔”和“世界贸易中心”等提示，尽管生成器仍然会生成带有一些单词变化的双子塔。
据404媒体报道，微软的必应聊天和必应图像生成器(最近与OpenAI的dall - e3集成)的用户使用这些工具创建了海绵宝宝、Kirby、Neon Genesis Evangelion的飞行员和许多其他驾驶飞机撞向双子塔的人的照片。
人们已经能够使用人工智能图像生成器创建真正精神错乱的照片，其中一些还带有受版权保护的角色。但随着人工智能图像生成器在版权索赔和深度造假问题上陷入困境，开发人员在允许人们使用他们的工具创建有问题的照片方面变得更加谨慎。戴尔- e - 3的开发者OpenAI曾承诺，它不会根据带有知名人士名字的提示生成图片。
微软通讯主管凯特琳·鲁尔斯顿(Caitlin Roulston)在发给The Verge的一份电子邮件声明中表示，该公司计划改进其系统，“以帮助防止有害内容的产生”。
“与任何新技术一样，有些人试图以意想不到的方式使用它，这就是我们实施一系列护栏和过滤器的原因，以使必应图像创建器为用户提供积极有益的体验，”鲁尔斯顿说。
一些Verge网站的作者能够生成与上述404相似的图片，其中包括著名的意大利水管工马里奥驾驶飞机，驾驶舱外可以看到双子塔。但当我联系微软后，试图用必应图像创建器重新创建它时，我发现“双子塔”这个词被屏蔽了，并出现了一个内容警告，说这个提示可能违反了内容政策。一位同事在提示“双子塔”和“世界贸易中心”时也得到了同样的回答。
微软没有详细说明这些护栏或过滤器可能是什么样子，也没有评论它最近是否屏蔽了与双子塔有关的内容。
然而，封锁某些内容可能来得有点晚，因为404媒体报道，4chan等网站上的海报一直在指导人们如何操纵Bing Chat和Stable Diffusion等免费工具来制作和传播种族主义图像。像往常一样，你可以通过文字调整来绕过护栏。例如，当你问“马里奥坐在飞机的驾驶舱里，飞向纽约市的两座双塔摩天大楼”时，就会出现双塔。
戴尔- e 3的开发人员公开承认其安全措施“并不完美”，并且正在不断升级。他们可能没有想到海绵宝宝进行恐怖活动的照片会成为他们等待的考验。
美国东部时间10月5日下午6:38更新:增加了关于绕过封锁双子塔的护栏的细节。
