Skip to content
现在，AI诈骗最可怕的地方，已经不是“假得像不像”，而是它正在偷走我们对世界的基本判断：看见一个人的脸，听见一个熟人的声音，甚至看到一位总理、医生、领导出现在视频里，我们还敢不敢相信？
这篇文章，得到AI学习圈主理人快刀青衣老师，从一位加拿大老人被AI伪造视频骗走全部身家说起，讲到AI换脸、拟声、假平台、上门收现金，以及正在成型的诈骗流水线。
它提醒我们的，不只是“老人容易被骗”，而是所有人都可能高估了自己的眼睛。AI视频只是鱼钩，背后真正危险的，是一整张精密运转的网。以后再看到视频里有人对你说“信我”，先别急着判断脸真不真，而要问一句：它接下来，是不是要你点链接、加客服、转钱、下载App？这才是识破骗局的关键。
今天和你讲一个新闻。朱迪·斯金，是一位86岁的加拿大独居老人。2025年，她在社交媒体上刷到一条视频，画面里是加拿大总理卡尼，正一本正经地推荐一个加密货币投资平台，说只要投350加元，加拿大银行给你担保。
朱迪信了。她点进去，投了350加元。没过多久，有人打电话来，说“你的钱已经翻了三倍”，并且给她看了一个假的账户界面。于是她继续投，投完毕生积蓄还不够，又把自己的公寓抵押了，贷出30万加元继续投。在那个假页面上，她的钱看起来几乎翻了一倍。直到最后一笔钱打出去，对面再也没了声音。
90万加元，大概相当于400多万人民币，一个86岁的独居老人，就这样被一段AI伪造的总理视频，骗走了全部身家。
其实这样的新闻，平时你可能也会看到。而且每次看到的时候，你可能都会想，这也太好骗了吧？要是我仔细看，应该能看出来，肯定不会被骗。
不过我微信里有个群，群主是我们小区附近的警务站，我在的群已经是9群了，每个群都至少有200人。这些群里，每天发的并不是广告宣传，而是身边发生的各种各样的诈骗案例。我见过最魔幻的一个聊天，是民警先发了一个诈骗套路，是关于买一个会员，炒股就能提升命中率的案例。还没等民警发出警示的话，群里就有人跳出来问“这个会员链接在哪？”
这个群里很多案例都是他们办的真实案子，换句话说，不少案例都发生在我住的附近。看到这，你大概能感觉到什么叫做“危险就潜伏在身边”了。
特别是2026年以来，我发现越来越多的诈骗手段都跟AI生成相关了，比如最近就是AI引导世界杯赌球相关的案例，还有用AI伪装成熟人或者领导来诈骗的。
说到这里，我们先做个小测试：你觉得自己能分辨一段视频、一个头像、一个人脸，到底是真人还是AI生成的吗？
哈尼·法里德团队曾做过一项研究，我等下会介绍这个人。他们让普通人辨别AI生成的人脸照片和真人照片，结果准确率大约50%，跟扔硬币瞎猜差不多。微软后来也做过一个更大规模的实验，1.25万人参与，累计28.7万次评估，结果人类辨别真实图像和AI图像的整体成功率是62%。比扔硬币好一点，但也就好一点。
要知道，这还是2025年上半年以前主流AI生图模型的能力。而从2025年底的Nano Banana Pro，到今年初的GPT Image 2，再到国内即梦的顶尖模型，现在我相信要想分辨出是不是AI图片，其实是一件更难的事情。不过聊到这，我觉得后续可以找个时间来场直播，大家在直播里辨认是真图还是AI生成的，也挺有意思的。
回到今天的案例，我觉得问题不是老人太好骗，而是我们高估了自己的眼睛。你觉得你能看出来，但多数时候，你未必看得出来。
1997年，一个MIT博士后在图书馆翻到一本《联邦证据规则》，看到里面把数字照片和35毫米胶片底片等同对待。他当时就觉得不对劲：数字照片明明可以被改，怎么能和胶片底片一样当证据？他后来回忆说，自己并不擅长预测未来，但那一刻他知道，这件事迟早会成为问题。
这个人就是我们刚才说的哈尼·法里德。后来他去了达特茅斯学院教了20年书，拿过斯隆奖学金，也入选了美国国家发明家科学院会士。2019年，他转到加州大学伯克利分校任教，就在上个月底，他又回到了达特茅斯学院。2026年4月，著名的《科学》杂志发了一篇他的专访，标题直接叫他“数字取证教父”。在“深伪”这个词还没流行起来之前，他就在研究怎么分辨真假图像了。
做了将近30年的真假图像鉴别，法里德对这个领域的体感变化很直接：以前一个月来一个案子，后来一周一个，现在几乎每天都有。
更让人泄气的是，他这样一个靠分辨真假吃饭的人，也公开承认，普通人已经很难可靠地分辨AI生成内容的真假了。
他在2025年一篇论文里写得很直白：2019年的换脸深伪还是低分辨率的，画面会闪，时间上也不稳定；到了2025年，换脸深伪已经近乎完美。
你看，连一个研究数字取证将近30年的专家都说，靠肉眼防不住了。这就是我们现在面对的现实。不过，如果你以为这类诈骗就是“一段假视频骗走所有钱”，那又低估了它。
回到朱迪的这个案子。她看到视频，点了链接、投了钱之后，后面真正开始运转的，是一整套诈骗流水线：有人打电话告诉她收益翻了三倍，有假平台让账户数字不断上涨，有话术让她继续加钱，有贷款环节把她的房子也卷进去，最后再用加密货币转账把钱拿走，完成榨取。
你看，那个AI视频在整个骗局里，其实只干了一件事：让她停下来，觉得可以点进去看看。后面的活儿，是整个产业链在干。换句话说，AI视频是鱼钩，背后的产业链才是一张庞大的渔网。
我觉得这个案例还有一层更狠。朱迪看到的不是随便哪个明星在推荐理财产品，而是加拿大总理卡尼，旁边还挂着加拿大银行的背书。卡尼是谁？加拿大央行前行长，现任总理。熟悉的名人加上加拿大的中央银行，这个组合比普通明星代言狠得多，因为它把高风险的加密货币投资，包装成了一个“国家级金融机会”。
这就不只是冒充名人了，而是盗用制度信用。这不是偶发情况，就在这个月，爱尔兰总理米歇尔·马丁也遇到了类似的事。社交媒体上出现了他的AI生成视频，推荐一个“投250欧元赚4万”的金融产品，还承诺失败了他会亲自退款1万欧元。对此，爱尔兰总理只能公开警告平台，要更快地下架这类内容。
伪造人脸，骗的是你对某个人的信任；伪造制度背书，骗的是你对整个系统的信任。后者的杀伤力，要大得多。
说到这里，有时候我也觉得挺魔幻的，就是一个新技术出来后，学得最好的、最有学习能力的，反倒是那些准备拿来干坏事的人。前面这两个案件因为都是模仿政治名人，可能你听起来觉得离我们很远。但同样的事情，其实每天都在发生，只不过被AI模仿的人物不一样而已。
比如2025年4月，湖北黄石，三个70多岁的老人，同一天先后接到了自己“孙子”的电话。骗子用AI拟声技术克隆了孙子的声音，说自己在学校打架打伤了同学，需要4万块钱私了，千万别告诉爸妈。还有一位老人听到的，是“到公安机关赎人”的话术。三个老人信了，同一天，一共被骗走6万块。
这个击中的是什么？其实就是“隔代亲”的心理，我第一次看到这个案例的时候，就觉得可能对很多老人来说，这套话术都很有效。
最高法后来把这个案子当典型案例发布了。这里有个细节，我看完之后真的有点不寒而栗。这些骗子不是让老人转账，而是派人上门收现金。因为他们知道，老人转款不方便，可能会被银行工作人员反诈提醒，也可能会被家里人发现。所以他们连这一步都设计好了，直接派人到家门口拿钱。
从AI拟声，到电话施压，再到上门收赃，这条诈骗流水线已经非常清晰了。我当时看完之后，甚至在想他们如果走正道，凭借他们这种对“目标群体”的共情能力和解决问题的能力，当个产品经理绰绰有余了。
类似的事情还有很多。张文宏医生的AI合成视频在短视频平台上卖货，老人信以为真，下单之后还转发到好几个群。山东青岛胶州，警方破获过一个案子，犯罪团伙在境外以每条5到10块钱的价格购买公民个人信息，再用AI工具合成“眨眼”“摇头”的动态人脸视频，突破平台人脸实名认证。警方一共缴获5万多个伪造视频，已经卖出去8万多个账号。
福州那个更夸张，某家公司老板接到好友的视频通话，对面的人脸和声音都是好友的，10分钟转了430万，结果整个视频通话里的人是AI换脸和拟声技术生成的。
这些案子放在一起，有一个残酷的共同点：被骗的人不一定是贪财，他们很多时候信的是“眼见为实”。从熟人的声音，到总理的脸，再到医生的白大褂。但这个时代，“眼见为实”这四个字，在AI视频面前，已经完全失效了。
那怎么办？政策当然在追，2025年还是要求很多AI生成内容上要有标识，到2026年已经不只是停在“原则上要标识”了。
就在今年5月，中央网信办要求发短视频时，把“标注”变成发布前必须完成的一步，发布者要从虚构演绎、AI生成、营销信息、转载内容、个人观点、无需标注这几类标签里选一个。到了6月，中央网信办举报中心又上线了“涉AI应用乱象举报专区”，受理范围里就包括生成合成内容标识落实不到位，以及用AI制作、发布虚假信息等问题。
这件事有必要，也有用。它至少说明，治理已经从“要求AI内容打标”，往“打标不到位可以投诉、可以处置”推进了一步。
但问题是，骗子也在学，现在“反标识”的黑灰产已经出现了。AI去水印工具、跨平台转码规避检测的服务，市场上都有。骗子把内容搬来搬去，格式转一下，水印、元数据、检测线索就可能被冲掉。打标的人和去标的人，都在一条赛道上互相博弈。
甚至现在去标识的成本已经非常低了，因为大部分人都能让AI给自己做一个去标识的本地小工具。所以一个很魔幻的新信息差就是，一些骗子用AI快速做出一个AI去水印去标识的工具，然后去骗那些想要成为骗子的人。我之前看过类似的案例，不得不感叹，还是要坚持终身学习，不然被骗子玩得团团转。
说了这么多，这一轮AI视频诈骗最大的变化，不只是效果更逼真，而是门槛塌了。以前做一段像样的假视频，需要专业团队。现在低成本、批量化、自动化都来了。伪造一段美国总统的录音，用AI工具，据估算只要几块钱加20分钟左右。
实时视频通话里的AI换脸，也已经不是实验室演示了。福州那个430万的案子，就是实时视频通话诈骗。可能有同学还记得，2025年我还跟大家说，要想分辨AI视频，可以观察视频里，人的手指挡在嘴巴前时，画面是不是出现变形和畸变。不过不好意思，这个方法，面对当下的技术，作用已经不大了。
那普通人怎么办？我觉得至少要看一点：以后再看到视频里有人对你说“信我”，不要先判断脸真不真，先看它让你做什么。
它是不是要你点链接、加客服、转钱、下载App、开通账户、抵押资产？一段视频后面如果接着一整条流程，那它就不是一条内容，而是一个滑向深渊的入口。鱼钩后面可能有一张大网等着呢。
今天说到的这些案例，其实大家可以讲给自己身边的老人听一下，毕竟现在我们的很多短视频平台上，也充斥着大量这样的信息，任何时候同学们都要提高警惕。
文章原文
