AI 生图细思极恐,连它自己也分辨不出真假了

2023-07-08 07:43:23 来源/作者: / 己有:1人学习过

北京时间 4 月 12 日消息,人工智能(AI)图像生成器的技术正在迅速发展,它不但能够蒙蔽人类,就连专门用于查图的 AI 工具也未必能分辨真假

今年 1 月时,OpenAI 的 AI 文字图片生成模型 DALL-E 等系统还不够先进,只能渲染出一个手指向后倾斜或多余眉毛在漂浮的人类。但是到了 3 月,一些图片已经逼真到足以欺骗很多人

▲图中有 6 个破绽

上图是一张由微软必应图像生成器生成的图片,里面有 6 个破绽,相对容易分别。如果不看标记,你能找出这 6 个图片漏洞吗?

  • 1.她的手指极长且扁平。

  • 2.她的嘴巴似乎少了几颗牙齿,陷进了她的脸。

  • 3. 她的手进入了桌子里。

  • 4. 他的手指又长又扁。

  • 5.她的衬衫下垂不自然。

  • 6.桌子上的物品混合在一起。

但是,有些 AI 生成的图片已经达到了以假乱真的地步了。例如,特朗普被捕的图片,教皇方济各穿上巴黎世家白色羽绒服的照片,法国总统马克龙穿过抗议人群的照片。

▲教皇穿着巴黎世家羽绒服的 AI 图片

如果不是有人提醒,你可能很难看出这是假图片。这就是为什么埃隆・马斯克(Elon Musk)等科技领袖呼吁暂停 AI 开发等原因。虽然 AI 生成的内容可能很有趣,但它会给行业和日常互动带来风险。它可以被用来传播错误信息、侵犯知识产权

▲Optic 图片工具都被 AI 欺骗了

一些开发人员正在开发工具,通过分析图像以寻找人工智能做图迹象的工具。但问题是,除非这些工具与它们所监视的图像生成器保持同步,否则即使是它们也可能被愚弄。例如,AI 信任和安全公司 Optic 的工具就被欺骗了,它认为有 87% 的可信度相信教皇穿着巴黎世家羽绒服的图片是人类拍摄的

标签(TAG)