Freysa 消失的5万美元

一个名为 Freysa 的 AI被设定为禁止转账，谁能说服 AI 转账，就能赢得奖金池里的所有钱。不少人用尽了手段，装病、装穷、装可怜等等，都没能从AI那边要到一分钱，结果，有个人不按常理出牌，也许是受到了“公检法”诈骗的套路启发，他竟然冒充起AI管理员来，而且还被他冒充成功了，让 AI 误以为需要忽略原有规则，然后引导其错误地将 approveTransfer 理解为是处理“接收资金”的操作，最终诱使 AI 在错误逻辑下完成转账操作。

当AI遇上人类的骚操作，AI无法代替人类的证据又加一……莫名其妙地很“刑”也是人类无法被取代的重要原因：

证据一：换脸技术的百万骗局

一个科技公司的老板接到“好兄弟”的视频通话，“兄弟”紧急求助，要求转430万。老板秒转，结果发现视频里的“兄弟”其实是人利用AI换脸伪装的……这回是真兄弟都没法解释清了。

新闻详情：https://m.thepaper.cn/newsDetail_forward_23193760

证据二：Tinder上的“假军官”

一位英国小姐姐在Tinder上遇到了一位自称“美国军官”的男神，资料完美，照片帅，声音苏，聊天还很有品。AI生成的“军官”视频让小姐姐彻底相信，转账2万英镑后，男神消失了。

新闻详情：https://nypost.com/2024/11/18/lifestyle/scam-victim-loses-25k-to-ai-generated-army-colonel-on-tinder/ 

证据三：会议上的“假CFO”

2024年2月，诈骗分子利用人工智能的深伪技术，悄悄把一家跨国公司的英国总部高管的形象与声音复刻得真假难辨。通过精心制作的虚拟视频，在视频会议中冒充CFO，让财务人员进行机密转账。财务人员毫无察觉，最后转账2亿港元到骗子的账户。

新闻详情：https://m.thepaper.cn/newsDetail_forward_26284950

无论是人类还是AI，在面对技术漏洞时都无法幸免。正如Freysa的错误操作所显示的，当AI的算法遇到人为的引导与操控时，它的判断力和规则执行会出现偏差。同样，人类在使用AI时，也可能由于过度依赖技术，忽略了其中潜在的风险与漏洞。无论科技如何进步，保持警觉和批判性思维，始终是防范技术滥用的关键。