一位微软经理声称，OpenAI的DALL-E 3存在安全漏洞，可能允许用户生成暴力或露骨的图像(类似于最近针对泰勒·斯威夫特的攻击)。
“我得出的结论是，DALL·e3构成了公共安全风险，应该从公共使用中移除，直到OpenAI能够解决与该模型相关的风险，”琼斯写信给美国参议员帕蒂·默里(民主党- wa)和玛丽亚·坎特韦尔(民主党- wa)，众议员亚当·史密斯(民主党- wa第九区)和华盛顿州总检察长鲍勃·弗格森(D)。
琼斯声称，他在12月初发现了一个漏洞，可以让他绕过戴尔- e3的安全护栏。
琼斯随后试图在领英上公开他的事业。
据称，微软的回应是要求他撤职。
琼斯照办了，但他说，微软法律团队从未给他更细致的答复。
OpenAI发言人在给Engadget的一封电子邮件中写道:“我们在12月1日收到微软员工的报告后，立即对其进行了调查，并确认他分享的技术并没有绕过我们的安全系统。
OpenAI发言人继续说道:“我们还为我们的产品、ChatGPT和DALL-E API实施了额外的保护措施，包括拒绝要求提供公众人物姓名的请求。”
与此同时，微软的一位发言人写信给Engadget，“我们致力于根据公司政策解决员工的所有担忧，并感谢员工在研究和测试我们最新技术以进一步提高其安全性方面所做的努力。”
微软发言人写道:“由于他的报告涉及OpenAI的一款产品，我们鼓励他通过OpenAI的标准报告渠道进行报告，我们的一位高级产品负责人与OpenAI分享了该员工的反馈，后者立即调查了此事。”
微软补充说，其负责任的人工智能办公室已经建立了一个内部报告工具，供员工报告和升级对人工智能模型的担忧。
这名举报人表示，上周在X上流传的泰勒·斯威夫特(Taylor Swift)的深度色情假照是一个例子，说明如果不加以控制，类似的漏洞可能会产生什么后果。
“微软意识到了这些漏洞和滥用的可能性，”琼斯总结道。
琼斯敦促他在华盛顿特区的代表们采取行动。
更新，2024年1月30日，美国东部时间晚上8:41:这个故事已经更新，增加了OpenAI和微软对Engadget的声明。