AI诈骗越来越“全民化”，它到底离我们有多近？

第八届

中国数据新闻大赛

      12月2日，第八届中国数据新闻大赛决赛暨“新一代人工智能信息传播与社会治理”学术论坛在深圳大学隆重举办。我院专硕和学硕研究生郑心彤、任思莹、詹逸、蒋晓妍的作品《AI诈骗越来越“全民化”，它到底离我们有多近？》经过决赛的激烈角逐，获得优秀数据新闻作品二等奖。

 作品介绍 

     目前，AI软件层出不穷，与AI发展的“红”潮热浪相伴而生的是AI技术的“黑”色阴影：AI换脸、换声等诈骗行为。在这一背景下，作品紧密围绕“AI诈骗”，普及诈骗手段、受骗原因、金额等，并通过具体案例、群体画像和未来趋势展开，揭示AI诈骗的现状和全民化趋势，提高大众对于“AI诈骗”的风险感知与防范意识。

     在数据挖掘方面，团队从光明网、中国警方在线微博等网站抓取相关信息，提炼整合与主题相关的信息，为后续的研究提供了宝贵的数据支持。并且发放了问卷，围绕用户的隐私感知风险与意识、对于AI诈骗的认识以及防范措施进行调查。此外，团队还对有意向的群体进行了深度访谈，为作品提供案例支撑。

     在可视化呈现部分，作品采用交互可视化的呈现方式。在主视觉方面，红色是作品中的重点颜色，对视觉的冲击较强，具有区分信息和警示的作用。背景色调在第一部分分别用白色、灰色、红色与黑色的渐变来体现人物逐渐陷入危机与诈骗的陷阱之中；第二部分分别用黑色与灰色来区分不同现实情况与背后动因；第三部分色调逐渐过渡向白，预示着预防AI诈骗的未来一片明亮。

内容呈现

01

不该被骗的受害者

     今年8月初，王东乘飞机前往海口，中途要在北京转机。

      在机场候机期间，王东留意到手机收到一条短信:“我是老于，这是我的生活号码，不是工作内容联系，就用我这个号。”于是与王东相熟的一位领导，正好这段时间王东有事求助于他，王东赶紧回复“收到”

      紧接着，对方提出想加王东QQ联系。按照常理，很少有领导会使用QQ进行通信联络，但对方短信里说有私事和他谈，王东没有多想，遂按领导指示添加了QQ号。

 

       很快，对方用QQ打来了视频电话。电话接通后，王东隔着屏幕看到正是老于本人，他赶紧寒暄了几句。“我这边来人了，先挂了吧，咱用文字聊。”老于那边似乎有点儿忙，没说两句就挂断了电话。这回，王东愈发确信跟他联系的正是领导老于，在回复领导“指示”时也更加毕恭毕敬，有求必应。王东甚至为了不误事，改签了即将登机的航班，特意空出时间让手机信号保持畅通。

    “这两天家里做生意需要用钱，我不方便直接打款，你看手头是否方便，先帮我垫上，我再转钱给你。”老于向王东提出请求，开口就要158万。王东有些为难，他手头没有这么多流动资金。但老于给王东发来张银行回单，显示自己已经把钱汇到了他的户头。

    王东还是有些犹豫，因为他并没有收到银行的转账提醒，可老于说钱已经转过去，系统可能有“延迟”，又说自己现在很紧急，因为信任王东才把钱转给了他。因此，王东不敢怠慢，加紧联系亲戚、朋友，四处拆借出158万，分几笔打入老于指定的账户。

    很快，老于又说钱不够，还需要135万，王东东拼西凑又给老于转去80万元。就这样，王东推迟航班，在航站楼待了一个下午，四处筹钱，总计转出去200余万元。然而，老于打给王东的钱迟迟没有到账，他却还一个劲儿地让王东继续转钱。王东终于心生疑虑，大着胆子拨通了老于秘书的电话......

      “你是不是被人骗了?"真相如冷水浇头，王东被告知领导未曾联系过他，也不曾借款。王东紧急报案后，首都机场公安局刑侦一支队民警第一时间启动“警银合作”，对接收王东转账的四个账户进行了紧急止付操作，将账户锁死。在了解王东的被骗过程及逐笔汇款情况后，民警们加班加点，梳理账户内的钱款往来、资金流向，先后前往开户行所在地昆明、江西办理资金返还手续，并对开户人苗某和李某分别采取了刑事强制措施。

      王东是生意人，头脑十分精明，不会轻易被骗。假冒了领导的视频通话让他放下了戒备之心，最终掉入了设好的圈套。

      AI诈骗，不同于以往的诈骗它利用人工智能技术通过模仿、伪造他人的声音、面孔、视频等信息进行欺骗、敲诈、勒索等犯罪活动越来越多人成为受害者。

     基于此现状，我们针对AI诈骗相关话题做了一份调研报告敲响预防AI诈骗的警钟。

02

AI诈骗的灵魂拷问

第一问: AI诈骗的千层套路知多少?

①AI程序筛选受害人

      使用AI技术分析大量的社交媒体数据，定位目标群体并产生定制化脚本，从而实施精准诈骗。

②深度伪造(Deepfake)

     利用AI技术制作逼真的换脸视频或拟声音频，通过语音、视频电话欺骗他人。

③智能语音助手诈骗

    使用AI技术模仿真人声音，冒充银行或其他机构的工作人员，要求受害者提供个人信息或转账。

④AI成假新闻

    利用AI技术生成假新闻，误导公众，可能导致金融市场的波动或其他社会影响。

⑤AI虚账号诈骗

    利用AI技术生成社交平台虚拟账号，与受害者建立亲密关系，诱导受害者透露个人信息。

第二问:第一起AI诈骗事件是怎么发生的?

      2019年，国内就出现过一款换脸软件“ZAO”，许多明星、名人也因此遭到恶搞、造黄谣。很快，这款应用便因为涉及侵犯隐私而遭到下架。但由此带来的换脸诈骗技术却开始暗自滋生。

     据报道，第一起“AI换声”诈骗也发生在2019年。当时在英国，一名诈骗者利用先进的AI语音模仿软件，假扮公司高层，成功骗取一家英国能源公司总经理的22万欧元。

第三问: AI诈骗到底有多危险?

    时至今日，AI诈骗已经成为了一项极具危险性的诈骗手段，体现在以下几个方面:

01 案件数量庞大且还在不断增加

      从国外数据看，美国联邦贸易委员会(FTC 5月发布警告，称不法分子正在利用AI语音技术伪造紧急情况骗取钱财或信息，在新冠疫情期间，此类骗局暴涨了70%。美国纽约州国际诈骗问题专家MichaeSkiba5月对媒体估计，过去一年里，美国AI诈骗的案件数量同比已经上涨了50%到75%之间。

     

     从国内数据来看，2022年，我国AI诈骗案件就达到了50万件，涉及金额超过100亿元。

     

    问卷结果显示，约78%的人遇到过AI诈骗。

02 被骗成功率极高

    根据McAfee公布的最新报告，基于人工智能(AI) 的语音诈骗日益猖獗，在接到诈骗电话的群体中，77%的人会导致经济损失。

    问卷结果显示，约31%的人差点被骗，18%则已经被骗。

03 损失金额极大

    美国联邦调查局3月公布的年度报告显示，虽然利用AI技术诈骗造成的损失没有单独统计，但2022年美国网络诈骗造成的损失达103亿美元，创下五年来新高，报告还指出面向老年人的AI语音骗局是重灾区。

     而在我国，已有案件报道一骗子借助AI技术冒充熟人微信视频聊天， 10分钟就骗取了某公司法人430万元。警方接报后，在银行的全力协助下，及时拦截了该诈骗账户内的336.84万元被骗资金，但仍有93.16万元资金被转移。

04 案件破获概率极小

     针对“AI换脸”导致群众被欺诈的问题，公安机关发起专项会战侦破相关案件79起，抓获犯罪嫌疑人515名，这根本无法与我国AI诈骗案件总数和涉及金额数量相提并论。

03

为什么会被AI诈骗？

     在日常生活中，人们为什么会被AI诈骗，我们在问卷中得到了如下几种答案，归结为对AI的了解程度不够、拥有迫切需求、AI技术过于高超、受到威胁和恐吓。

主观原因：

① 对AI诈骗认识不够

②个人信息保护意识不高

      一位被列入公安部专家库的民警称: 这类诈骗如果得手必须做到: 收集到被换脸对象的个人身份信息、大量人脸图片、语音素材，通过AI生成以假乱真的音视频;窃取被换脸对象的微信号;充分掌握诈骗对象个人身份信息，熟悉其与被换脸对象的社会关系，综合作案成本很高。

     骗子想要成功实施诈骗，光具有AI技术是不够的，最重要的还是他们掌握了受害者的个人信息，然后才能对其进行精准诈骗。

     我们在问卷调查中设置了题目，让受众选出可能导致个人信息泄露的选项。94.27%的受众不能清楚判断哪些行为可能会导致自己的信息被泄露。

③太过自信不会被骗

      美国哥伦比亚大学戴维森教授于 1983 年发表的一篇题为《传播中第三人效应的作用》中提出“第三人效果”，认为人们在判断大众传播的影响力之际存在着一种普遍的感知定势，即倾向于认为大众媒介的信息对“我”或“你”未必有多大影响，然而会对“他”人产生不可估量的影响。

     放到AI诈骗具体语境中，第三人效果指的是人们认为诈骗的受害群体更可能是别人而非自己。现在因为诸多因素，多数人觉得被诈骗的人活该，形成了受害者论，从而造成了只有被诈骗的人才会发声以及认为“我不会被诈骗，诈骗离我很远”的现象。

     根据问卷结果显示，25.57%认为AI诈骗受害者是因为自身素质(学历、警惕性、智商 ) 较低才会被骗，23.28% 表示自己不会被骗，无所谓他人是否受骗。

      在被问及自己是否会成为AI诈骗的受害者时，有13.74% 认为自己一定不会被骗。在问卷统计中，曾经历过AI诈骗且(差点 ) 被骗的受众占问卷总人数的48.85%。在受骗者中，年龄在18至35周岁区间的年轻群体占比高达50.78%; 学历在本科及以上的高学历者占比49.22%; 高端就业者占比34.38%。

④受害者自身有脱单、用钱等急切需求

客观原因：

    01 技术革新过快，防护打击的措施跟不上。

    02 反AI诈骗宣传不到位、没有途径或途径少，宣传内容作用不明显。

    03 社会对反诈宣传的重视度和参与度不够。

    04 各部门协调性不足。

    05 监管落实不到位。

第四问:怎么杜绝AI诈骗?

     未来，AI诈骗会怎样?

     目前，AI诈骗相对于传统的诈骗手段仍然是少数，但工信部相关负责人表示，随着AI技术的不断发展，通过少量图片、音频信息合成特定视频，利用人工智能模型批量设计诈骗脚本等成为可能，客观上降低了电信网络诈骗的实施难度，AI类新型犯罪爆发可能性进一步提升。

    未来可能会出现更多AI诈骗方式，如:

①更加逼真的虚拟现实诈骗:用虚拟现实技术，诈骗者可能会创建一个完全虚构的环境，欺骗受害者。

②AI驱动的假身份创建:利用AI技术创建完整的假身份，包括假的社交媒体账户、假的工作经历等，用于欺骗。

③AI增强的金融诈骗:利用AI技术分析金融市场的数据，预测市场的走势，然后利用这些信息进行诈骗。

④自动化的勒索软件:利用AI技术自动寻找系统的漏洞，然后进行攻击，要求受害者支付赎金。

如果你遇到AI诈骗( 造成了损失)会怎么处理?

     遭遇诈骗及时报警可以算是一种常识，但问卷调查受众居然有约7%选择自认倒霉不作处理，约15%不选择立即报警。说明仍有不少人在对待AI诈骗的处理方法上存在盲区。

     在技术不断发展的新时代，诈骗手段越来越层出不穷，防范AI诈骗已经刻不容缓。针对上述被骗原因，我们提供了以下防范AI诈骗的方法：保护好个人信息，切勿在网络上或其他渠道暴露个人隐私以免不法分子利用AI技术针对性事实诈骗。

     以往，很多人总以为诈骗是只有老年群体或低学历群体才会经历的事，但现在由于技术的革新，诈骗手段愈发多样狡猾，而对反诈宣传的不上心、个人信息保护意识单薄、面对潜在的诈骗自信心过高等等因素又进一步加剧了受害风险，很多高学历、高收入的年轻群体都不幸中招。诈骗其实离我们每个人都并不遥远。

     现在起，为了自己，也为了身边人，请认真防范AI诈骗！

亮点解读

一是研究对象有针对性，采用滚雪球的方式积极寻找AI诈骗的受害者，并进行深入采访，获取第一手资料。

二是利用人们普遍喜欢听故事的心理，将道理融入情感，从而引发对AI技术的警觉和审视。

三是可视化交互性强，注重多模态交互呈现，为读者提供沉浸式的阅读体验。

     “AI诈骗”的手段层出不穷，手段层出不穷，我们很有可能成为受害者。提高科技发展是大势所趋，但如果先进技术被不法分子利用，则会引起严重后果。我们需要共同努力，提高鉴别能力，避免上当受骗。让AI真正成为能帮助我们工作生活的工具，成为推动社会发展的助力。

审核：杨发文 杨聪玲