来源：首席商业评论AI行骗，不寒而栗AI进化的速度有多快，招数也跟着变得欺善怕恶莆田一位科技子公司的老板娘，某天突然收到了个挚友的微信音视频，说是自己的挚友在外地竞标，需要 430 万的保证金，想走他的子公司账户乳豆账。
老郭在证实音视频通话里的人和人声都是他挚友之后，就同意了随后，旁人就给老郭发了一张信用卡提款获得成功的截屏，说是钱早已转至老郭的户头上了，由于老郭之前早已证实了挚友的身份，在没证实钱到帐与否的情况下，直接就把 430 万转至了挚友给的信用卡上。
结论，这是这场行骗，还是AI操控的。虽然收到报警后，莆田、包头两地警银迅速启动Kaysersberg机制，获得成功Kaysersberg拦截336.84多万元，但仍有93.16多万元被转移。
还有利用AI展开人声制备实施的诈欺行骗透过骚扰M9677CH等来抽取某人人声，以获取素材后展开人声制备，从而能用伪造的人声挡下旁人早已没人因为AI人声受骗了曾有某子公司财务管理收到党委电话，要求立刻给供应商科耳2多万元，并将提款重要信息以邮件形式发送，科耳理由是避免缴纳违约金，因为老板娘的口音十分逼真，财务管理也信了，在1小时内科耳完成，土蜜才推断出受骗。
AI 换脸早已不是什么可说，很多短音视频伪娘写手都精通这种操作，但striking技术相对复杂一些，毕竟不法分子需要以获取你的人声，然后透过软件将人声变成他们想的内容。
实际上，现如今的行骗想以获取人声也并不难，最普遍的方法就是垃圾邮件，只要你接电话后并说了几句话，那么不法分子就会对你的人声展开录制，并抽取你人声的重要信息有业内人士表示，不法分子透过这一套流程展开诈欺的获得错误率基本是 100%，尤其是面向那些并要学AI、防范意识可能薄弱的老年群体，AI诈欺更容易出现。
类似的人声行骗，欧美国家也早有出现一个欧美国家的诈欺子公司，采用 AI 模拟了“卷福”的音视频，打电话给一家新西班牙的小电影子公司，称想和旁人合作，并要求旁人先求能 20 万镑才能见面，结论在电影子公司付补签之后，他们才推断出这次事件，理所应当就是这场AI行骗。
对于AI行骗，有律师表示，采用人工智慧管理手段模仿布偶面容、人声，冒充亲友、熟人、党委等，很容易达到仿造的程度，具有极强的威胁性与其他类型电信诈欺相比，AI诈欺威胁性大列佩季哈区，针对性大列佩季哈区，识别更困难现如今，耳听，眼见都不一定为实，各种行骗真是让人不寒而栗。
AI有多强大？让梁静茹生前都害怕前段时间，关于AI还出现了一个热点：梁静茹生前亲自澄清AI梁静茹对于热门女歌手AI，梁静茹自己都承认，“讽刺的是，人类文明再怎么快也难以胜过它”她在澄清小作文里写道，“人类文明难以胜过AI技术已为期不远，事事皆有可能，事事皆无所谓。
”就算暂时能够推断出AI女歌手和布偶女歌手的区别，很快这条城壕也将不复存在这种被虚拟淹没真实的感受，现如今早已在全世界蔓延AI不光是唱歌能完全贴近布偶，连直播带货的活都能接前段时间没人在北京人民广播电台里推断出，正在蒙杜布洛县的竟是超人气女明星。
然而再据闻，这些明星居然是采用了AI实时换脸技术的普通主播AI实时换脸，正在北京人民广播电台悄然出现，杨幂、迪丽热巴、angelababy等超人气女明星，成为了AI换脸的热门虽然目前还没有曝出受骗新闻，但由于明星脸的带货主播往往拥有更好的引流效果，消费者或明星粉丝很可能会冲着明星效应展开消费而被坑骗。
而这种技术门槛也并不高有媒体报道，AI实时换脸全套模型购买价仅需3.5多万元买不起全套模型，还有“AI换脸特效插件”供买家选择，售价数百元，只对电脑配置有一定要求，购买后采用者只需更换素材照片，软件就能自己运行完成“换脸”。
这款软件不仅能对图片展开换脸，也能在音视频上展开换脸AI换脸的风靡，还带来了“AI脱衣”的新问题早在今年3月，一则“女子地铁照被AI一键脱衣传播”的新闻冲上了热搜，一名女性搭乘地铁时的一张照片被人用AI软件“一键脱衣”，遭到恶意传播，罪犯还广泛散布不实重要信息对该女子展开污蔑。
更可怕的是，AI深度伪造（DeepFake）内容，能利用互联网平台在全球范围内病毒式传播比如AI现在居然还能透过发布假新闻，让股市抖三抖几天前，多个经过验证的推特账户，齐刷刷分享了一张声称在五角大楼附近出现爆炸的假照片，顿时引起轰动，并导致股市短暂下跌。
但是因为被许多经过验证并打上了蓝色勾的推特账户分享，不少人还是信以为真，谣言一传十十传百，甚至没人声称这张照片与彭博新闻有关连印度一家电视台都信了，共和国电视台(Republic TV)报道称五角大楼出现了爆炸，并在节目中播放了这张假图片，后来，当推断出美国当地官员证实没有出现此类事件后，共和国电视台快速撤回了这则报道，这一番操作下来也是相当尴尬。
AI行骗，并非没有破绽随着AI技术的不断发展，被AI骗的人越来越多根据杀毒软件 McAfee 公布的最新报告，基于人工智慧的语音诈欺越发猖獗，在收到 AI 诈欺电话的群体中，有 77% 的人会上当受骗今年3月，一份名为《暂停大型人工智慧研究》的公开信在未来生命研究所官网上发布，包括特斯拉CEO埃隆·马斯克（Elon Musk）、苹果子公司联合创始人史蒂夫•沃兹尼亚克（Steve Wozniak）等人在内的千名科学家、企业高管签字呼吁暂缓GPT-4以上版本的研发，他们矛头所指都是强大AI技术可能的负面用途。
不过AI诈欺虽然逼真，但它并不是没有破绽，比如AI换脸技术会导致脸部变形，一些主播低下头头顶会发黑，AI的人声，也很难表达真实的主观情绪正如不少网友所说，AI梁静茹“根本不是梁静茹的唱法”“AI梁静茹能模仿她的音色，但模仿不到她的感情；AI梁静茹能模仿她的人声，但模仿不了她的现场。
”
与此同时，国内与AI换脸、换声相关的法律法规也在不断完善在过去，“AI换脸”被大量采用到影视剧二度创作、趣味恶搞音视频、表情包制作当中，其中隐藏的法律风险和侵权纠纷，现如今都在得到重视，不少擦边行为早已得到了及时的惩治。
比如近期，据企查查官网重要信息显示，上海鱼腥草重要信息科技有限子公司就因旗下一款换脸手机APP遭多位网红写手起诉，很快在监管部门约谈后，这款App下架，因为换脸侵犯了公民的肖像权去年12月，《互联网重要信息服务深度制备管理规定》发布，对人脸生成、替换、操控，制备人声、仿声等都有明确约束。
显然，随着制度设计更精准，相关立法更健全，AI肆意换脸的空间将越来越小就在4月11日，国家互联网重要信息办公室又迅速起草了《生成式人工智慧服务管理办法（征求意见稿）》，涉及的生成式人工智慧包括基于算法、模型、规则生成文本、图片、人声、音视频、代码等内容的技术，能说，对当下的AI伪造都展开了更为全面的约束。
AI究竟是天使还是魔鬼，全在于采用者的一念之差，但唯一能确定的是，潘多拉魔盒，早已打开参考资料：《AI诈欺正在全面爆发》，红星新闻；《“AI换脸”诈欺不寒而栗？要用“法”打败“魔法”！》，京报网；《警惕四大AI新招数，没人10分钟受骗430万》，智东西
