当AI学会说谎，我们如何守护信息边界？警惕AI造谣、诈骗

东莞大朗律师获悉

当AI学会说谎

我们该如何守护真实的信息边界？

AI造谣、AI诈骗：别让技术沦为犯罪帮凶

网络安全与日常生活紧密相连

[]

精准医疗到自动驾驶

AI的进步让社会运转更高效

生活更便捷

但技术往往利弊共生

AI 快速发展也暗藏风险

AI 造谣 AI 诈骗

正成为亟待应对的严峻挑战

我们在拥抱 AI 便利的同时

必须高度警惕这些潜在危害

01、AI造谣

今年三月上旬，涉及“某医院前院长”病逝于异乡的谣言在网络上迅速扩散，引发网民广泛议论。但上海警方经过核实确认，该医院从未存在过名为“张某某”的前任院长，也查无同名员工记录。公安网络安全部门随即展开深入侦查，最终成功侦破这起伪造信息案件，将涉嫌造谣的王某某、郭某某、石某某三名嫌疑人悉数抓获。然而出乎意料的是，嫌疑人发布虚假信息时，对那家医院一无所知，对所谓的“张某某”院长也毫无概念。

经核实，王某某、郭某某、石某某这三人，借助500多个网络平台账号，选用社会关注事件、名人私生活、热门内容等话题作为目标，借助智能系统制造并散布了三十多万条虚假信息，给社会带来了很坏的影响。

近些年，AI技术进步很快，特别是自然语言处理和深度伪造技术越来越好，AI造谣变得更为隐蔽，不容易分辨，借助ai工具合成技术编造谣言，甚至能制造出非常逼真的图片、音视频，改变了“有图就有真相”的普遍看法，使人真假难分。

AI造谣的主要形式

01

生成逼真的假新闻、伪造的社交媒体帖子或恶意评论。

02

通过技术合成名人、政客的虚假影像或语音。

03

借助社交机器人与人工智能大朗镇律师，在社交平台上广泛传播虚假信息，造成不实观点的流行。

辨别AI造谣

制造虚假新闻事件、编造名人表态、杜撰伪科学知识、拼凑不实材料，意图让你上当受骗……如今造谣已借助人工智能技术，现在教你如何识破骗局！

保持怀疑态度

遇到任何显得异常圆满或者违背常理的内容，需要保持审慎之心。切勿轻信那些来源未经验证的情报。

查证信息真伪

发现内容可能是AI技术修改过的，可以用搜索引擎找到原始资料做对比核实。此外，借助一些专门用于识别图像编辑痕迹的工具，也能帮助进行判断。

增强个人隐私保护意识

保护个人隐私资料也是对抗人工智能虚假信息的关键环节。很多时候，犯罪分子会借助受害者的个人资料实施针对性骚扰。采取时常变换牢固的登录密码，小心传递所在地的资讯，这些做法能够减少遭受恶意侵害的可能性。

关注官方渠道

官方单位披露的内容相对可信，所以，一旦遇到含糊不清的消息，应该首先查阅政府部门、权威新闻单位等正规渠道公布的说明或消息。

积极参与网络环境净化

假如你发觉自己散播了错误信息，马上终止分享，同时向有关站点反映此内容。个体微小的行动积累起来，可以产生巨大的正面效应，大家合力保护良好的网络环境。

02、AI诈骗

2024年8月，市民刘先生向警方反映情况，他两个月前从一条短视频里认识了一位网友，名叫“焦女士”。彼此接触下来，刘先生觉得两人特别合得来。没过多久，“焦女士”说出去游玩时给刘先生买了一条手链，这让他非常感动。两人因此很快确立恋爱关系。后来，“焦女士”又透露刚开了一家服装铺，想请刘先生帮忙订购花圈庆祝开张，刘先生没多犹豫就把钱转给了对方指定的“花店掌柜”。紧接着的一个月里，“焦女士”故态复萌，以家人重病、采购原料需要用钱等借口，先后向刘先生骗取了将近二十万块钱。警方接到举报后，通过层层深入的调查东莞大朗律师，逐步查清了一个以杨某为头目的交友类诈骗集团。调查持续进行中，警方察觉到这伙犯罪分子安排紧凑，职责划分清晰，具体有专门负责在视频网站上发布内容以吸引顾客的人，有与可能受害对象交流的推销员，也有伪造聊天记录的“后期处理”人员，他们实施诈骗的过程像工厂流水线一样按部就班。

这种新型骗局之所以屡屡得手，关键在于它精准拿捏了人们内心深处的不变心理，即对身边人的天然信赖以及对权势者的本能敬畏。与过去单纯依靠口才技巧的传统电信欺诈不同，当前这种欺诈手段主要倚仗先进的科技支撑。它不再局限于简单的身份试探，而是能够逼真地重现熟人的音容笑貌，让人仿佛亲眼所见、亲耳所闻，其迷惑程度已达到惊人的地步。

AI诈骗常见套路

声音合成

不法分子利用骚扰电话的录音，采集特定人员的音色资料，随后运用技术手段加以模仿，最终能够借助人造的声音蒙混过关。

AI换脸

骗子先搜集人们在网上公布的各种信息，按照他们打算使用的骗法，借助人工智能筛选出目标对象。在视频通话时用人工智能换脸，骗取对方信任，进而实施诈骗行为。

东莞大朗镇律师?敬请于评论区发表高见，并对本文予以点赞及转发，以助广大读者把握法律与正义的界限。