过滤系统升级:OpenAI再次开放DALL-E 2的面容编辑功能

在初期禁用了一段时间之后,OpenAI 本周再次开放了 DALL-E 2 的人脸编辑功能。有权访问的客户,可于即日起上传人脸、以使用 AI 驱动的图像生成系统对其进行编辑。此前该平台禁止用户使用和分享这部分内容,并禁止上传任何可能描绘真实人物的照片,包括名人和公众人物的照片。

过滤系统升级:OpenAI再次开放DALL-E 2的面容编辑功能

OpenAI 表示,得益于安全机制的改进,DALL-E 2 的面部编辑功能再次成为了可能。

因其最大限度地减少了来自深度伪造(Deepfakes)的潜在危害,以及试图创建涉性、政治和暴力内容的尝试。

该公司在致客户的电子邮件中写道:

我们接到了许多用户的反馈,称其想念可借助 DALL-E 来设计自己服装、发型,以及编辑家庭照片背景的功能。

此外一位外科医生提到,他一直在借助 DALL-E 来帮助向患者呈现可视化的整形结果。

还有电影制作人称,其希望能够与人一起编辑现场布景,以帮助其加速创作过程。

有鉴于此,我们特地创建了新的检测与响应技术,以防止 DALL-E 2 被滥用。

需要指出的是,政策变更并不意味着 OpenAI 彻底敞开了大门。现阶段的服务条款,仍禁止用户在未经许可的情况下上传他人照片、或其它未取得相关权益的图像。

另一方面,得到微软和 Khosla Ventures 等在内的著名风投支持的 OpenAI,也在极力避免陷入类似 Stability AI 的 Stable Diffusion 服务的相关争议。

作为一套拥抱开源的图像生成系统,未加限制的 Stable Diffusion 服务很快就陷入了被滥用的窘境 —— 比如被人用于制作艾玛·沃森的深度伪造色情内容。

最后,DALL-E 目前仍处于邀请测试阶段。8 月下旬的时候,OpenAI 宣称有超百万人使用了该服务。

至于 OpenAI 在实际政策执行上的一惯性,目前暂不得而知。但无论怎样,层出不穷的 Deepfake 形式,着实是对其过滤技术的一项真正考验。

声明:本站文章,有些原创,有些转载,如发现侵权侵请联系删除。本站所有原创帖均可复制、搬运,开网站就是为了大家一起乐乐,不在乎版权。对了,本站小水管,垃圾服务器,请不要采集,吐槽君纯属用爱发电,经不起折腾。

给TA打赏
共{{data.count}}人
人已打赏
技术宅

安全公司发警告:不要激活Edge、Chrome的增强拼写检查功能

2022-9-19 15:41:46

技术宅

苹果下周将发布iOS 16更新 承诺修复剪贴板、摄像头等问题

2022-9-20 19:15:27

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索