AI骗局：深度伪造深度伪造（deepfake）是一个由深度学习（deep learning）和伪造（fake）合成的词它的意思很好理解，就是利用深度学习技术来伪造一些图片、视频，这类图片和视频一般以人类为主体其实早在 GPT、midjourney 之类的 AI 工具出现之前，深度伪造技术就已经出现了它最典型的一个应用，就是 AI 换脸在 2019 年，古装剧《长安十二时辰》里的“崔六郎”角色，就经过了 AI 换脸另外，在 2020 年的《三千杀鸦》《了不起的儿科医生》等影视剧中，也使用了 AI 换脸技术而最近的“短剧出海”，深度伪造技术也发挥了重要作用，利用 AI 换脸技术，一键就可以把中国人面孔换成外国人面孔，免去了翻拍的成本出海短剧一键换脸，图片截取自 X（原推特）现在一些 AI 换脸工具，甚至可以根据一张照片完成面部替换这些技术既可以用于平时的娱乐，也可以用于商业行为中，比如制作主播的数字人替身，实现 24 小时无间断直播卖货但如果深度伪造技术到了不法分子的手中，可能会成为他们做坏事的工具比如，骗子可以利用在网络上收集到的图片，制作 AI 换脸视频，利用这样的视频进行诈骗今年年初，中国香港的警方就接到一起报案，骗子通过 AI 换脸冒充某公司的首席财务官，要求公司财务转账 2 亿港币（约合人民币 1.8 亿元），公司财务转账之后几天，才意识到上当受骗了除此之外，还有骗子利用 AI 换脸，冒充被害人的朋友、儿女、父母等角色，对人实施诈骗而在视频中看到自己亲朋好友的画面，会让受害人放下戒心当坏人掌握了深度伪造技术，就实实在在地会对普通人的生活产生影响，任何人都有可能成为受骗者面对深度伪造内容我们该怎么办？那究竟要如何甄别深度伪造内容？对此，AI 机构和个人都有可以做的事情1对于 AI 公司AI 机构也在努力减少深度伪造技术滥用在一些图片生成模型的使用过程中，比如 Open AI 的 DALL·E 模型中，你是没有办法让 AI 对某张具体照片进行处理的，也没有办法生成特定的人脸内容大部分的 AI 生成模型都会屏蔽特殊的词汇，以防止模型被用来生成恶意的图片或者视频比如在“特朗普被捕”的假新闻图片泛滥之后，Midjourney 禁止了 arrest（被捕）这个词的使用另外，大部分机构包括 Open AI、Meta、midjourney 等等，都会在生成的图像数据中添加水印，而正规的提供 AI 换脸的机构，也会在视频里内嵌水印，和真人视频做区别当然了，不法分子在利益的驱使下，会绞尽脑汁去掉伪造痕迹他们的目的就是让人认为，这些图片视频是真的因此对每一个人来说，我们也需要了解一些防范方法2对于个人对于我们普通人来说，我们手中不太可能有专门的鉴别软件，也不太可能逐帧去分析画面中的破绽，但依然有一些简单方法可以帮助我们分析判断比如，因为有一些 AI 换脸视频是犯罪分子提前制作的如果视频里的人提到了让你转钱，你可以要求视频里的人做一些特定的动作，比如转个身，以及用手在摄像头前面停留一会、挥一挥通过这种方法，既可以分辨对方是不是一个提前录制好的视频，同时，手在脸前面晃动也会对一些简单的 AI 换脸工具进行干扰，“假人”可能会露出破绽除此之外，你也可以让对方回答一些只有你们才知道的消息，比如“你们最后一次见面是在哪里？”或者明知道对方没有孩子，也故意问一问对方孩子的消息，看看是不是骗子冒充的毕竟，对方已经提到让你转钱了，让对方做几个动作回答几个问题验证身份也并不过分而自己的钱袋子，当然要自己守护好此外，大家可以牢记公安部提到的，防诈骗“六个一律”“八个凡是”原则“六个一律”1、谈到银行卡，一律挂断；2、谈到中奖了，一律挂断；3、谈到“电话转接公检法”要求汇款的，一律挂断；4、所有短信，让你点击链接的，一律删掉；5、微信陌生人发来的链接，一律不点；6、提到“安全账户”的，一律是诈骗“八个凡是”1、凡是自称公检法要求汇款的；2、凡是让你汇款到“安全账户”的；3、凡是通知中奖、领奖要你先交钱的；4、凡是通知“家属”出事要先汇款的；5、凡是在电话中索要银行卡信息及验证码的；6、凡是让你开通网银接受检查的；7、凡是自称领导要求汇款的；8、凡是陌生网站要登记银行卡信息的参考文献[1]https://thispersondoesnotexist.com/[2]http://www.news.cn/legal/20240226/da985bba58bf4ea2a65b872d06aec6a5/c.html[3]https://www.scientificamerican.com/article/how-to-tell-if-a-photo-is-an-ai-generated-fake/[4]https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/[5]https://www.aiornot.com/策划制作作者丨小玮 科普创作者审核丨于旸 腾讯玄武实验室负责人策划丨王梦如责编丨王梦如校对丨徐来 林林
（图片来自网络侵删）
