AI诈骗效率高、成本低,“三个魔法”有效防范潜在威胁-全球微速讯
2023-06-01 15:04:44 来源:未央网
随着生成式AI技术,如GPT-4等强大的语言模型的广泛普及,人们对于AI在各个领域,如文本创作、艺术绘画、翻译,以及替代传统的人工客服等方面的潜力满怀期待。
然而,这种对未来技术的期待之余,我们也不得不面对AI技术可能被滥用的风险。让我们关注的是,一些犯罪分子已开始巧妙地利用AI技术进行电信诈骗,这无疑给我们的防范带来了新的挑战。
2019年,全球首例AI诈骗案发生在英国,一名诈骗者利用先进的AI语音模仿软件,假扮公司高层,成功骗取一家英国能源公司总经理的22万欧元。近期在国内,一例更令人震惊的案件中,某公司法人在使用微信与好友视频聊天的短短10分钟内被骗取了高达430万元。
(资料图片)
这些骇人听闻的案例揭示了AI生成虚假信息所潜在的巨大社会风险,同时也让我们对人工智能软件被用于各类犯罪活动的可能性深感忧虑。
在人工智能技术的兴起之时,我们正处于寻找最佳应用场景与商业落地的关键期。虽然这类个别的诈骗案例不会直接扼杀AI的发展,但如果不能妥善解决相关的安全和隐私问题,也许会对人工智能的前景产生负面影响,形成对AI发展的压力。
AI诈骗:为何成功率极高?
AI诈骗的出现在很大程度上得益于人工智能技术,尤其是深度学习和机器学习的快速发展。通过这些先进的技术,诈骗者能够逐步训练出能够模拟人类行为和语言的AI,甚至能制作出极为逼真的虚假视频或音频(例如:人工智能的深度换脸技术Deepfakes)。
这些伪造的内容极度真实,让识别真假变得异常困难,从而大大提高了诈骗者的欺骗效果。
在这个日益数字化的社会,人们在网络和社交媒体上的活动越来越频繁,每个人都在生成大量的数字化信息。这为诈骗者提供了广阔的操作空间,他们可以利用这些平台,配合AI技术,进行大规模、精准的诈骗行为。
无论是通过大数据分析来获取被诈骗对象的行为习惯,更精确地定位其所处的社会层级和经济实力,还是通过熟悉的偏好接近对象,获得其信任,最终达到诈骗目标,都显示了AI诈骗的高效性和隐蔽性。
诈骗者往往拥有比受害者更多的信息和技术资源,这使得受害者在面对这种高科技诈骗时,难以察觉和防御。因此,信息和技术的不对称性,无疑成为了AI诈骗的一大优势。
然而,尽管一些地方已经开始制定针对AI诈骗的法规,但法律和监管的滞后也是一个不容忽视的问题。现有的法律和规定往往无法跟上技术的快速发展,导致AI诈骗在法律漏洞中找到足够的操作空间。
最后不可忽视的是,经济激励是推动诈骗者行动的主要因素。由于AI诈骗往往难以被察觉,诈骗者可以获得更高的经济收益。这种巨大的利益诱惑,也使他们愈加积极地进行这种活动。
综上,可以看出,AI诈骗的成功率之高,主要源于其技术优势、社会数字化、信息不对称、法规滞后以及经济激励等因素。
AI诈骗与传统诈骗相比,成本更低
随着AI技术的发展,它不仅改变了许多领域的工作方式,还深刻地改变了诈骗的形态,使得电信诈骗更加难以防范。
举个例子,AI换脸技术已经相对成熟,可以以较低的成本合成出极其真实的动态视频。最近的一个案例中,一名女子被一段伪造的自己的视频所诈骗,让她相信自己无意间涉及了一场犯罪,最终被骗走了大量财物。
AI诈骗具有高度自动化的特点。经过适当训练的AI模型能够在无人工干预的情况下自动运行。这意味着一旦AI诈骗工具被创建并部署,它就可以全天候、24小时进行欺诈行为,无需人工参与,从而降低了诈骗的人力成本。
首先技术从哪来?在GitHub等开源社区上,就有开源使用的AI换脸软件。其中最知名的是Deepfacelive、Deepfacelab两种著名开源换脸模型。很多相关的技术社区、论坛、贴吧,有大量小白入门系列教程,甚至还有中文版AI现成模型下载,一些交易平台上也有大量教程与教学包售卖,价格数元起。
此外,AI诈骗具有很强的可扩展性。与需要人工参与的传统诈骗方式不同,AI诈骗可以在短时间内轻易扩展到大规模。
举例来说,某诈骗集团完全可以利用自动拨打系统、AI语音识别和自然语言处理技术,日均拨打几十万甚至上百万次电话(类似海外ip呼出),范围覆盖全国多个城市。这种规模的扩张仅需增加一些计算资源,就能让AI诈骗影响到更多的人。
AI诈骗利用深度伪造和自然语言处理等技术制造出相当逼真的假象,使得诈骗行为更难以被察觉。例如,某欧洲能源公司因为一通伪造的CEO电话而被诈骗了约22万欧元。因为它们可以在不被察觉的情况下模拟人类的行为,这降低了诈骗行为被发现和制止的可能性,进一步降低了诈骗的风险成本。
然而,我们需要意识到,开发和训练一个有效的AI模型并不容易,这需要大量的数据、专门的技术知识和计算资源,都需要投入一定的成本。
随着法律监管力度的加大和识骗技术的发展,AI诈骗的风险和成本也可能会增加。一些国家已经开始建立相关法律,对使用AI进行诈骗的行为给予严厉惩罚。因此,尽管AI诈骗在某些方面具有成本优势,但实施AI诈骗仍然需要考虑多方面的风险和代价。
魔法打败魔法:社交平台的关键角色
在这个数字化的时代,社交平台显然已成为AI诈骗的主要战场。人们在社交平台上进行大量的在线活动和社交互动,为诈骗者提供了丰富的目标选择和信息来源,使得AI诈骗在社交平台上层出不穷。
举例来说,在一次针对社交媒体用户的诈骗中,诈骗者利用AI技术模仿了受害者朋友的语音,发起了一次虚假的紧急求助。受害者在无法分辨语音真假的情况下,被骗取了大量资金。
另外,一些诈骗者使用深度学习技术制作了假冒名人的虚假视频,声称这些名人在推荐某种投资机会,从而骗取了无数人的财产。
社交平台的多元性和开放性使得监管和防范变得困难。用户众多且行为各异,诈骗者往往能够混入其中进行犯罪行为。一旦被识别出来,他们往往已经骗取了大量财富,并逃之夭夭。
因此,社交平台在防止AI诈骗中扮演着至关重要的角色。它们需要利用先进的技术手段进行预防,制定并执行明确的用户政策,加强对用户的教育和引导,以便尽可能地减少AI诈骗的发生。
升级技术魔法打败:首先,社交平台需要强化技术防护。借助机器学习等先进技术,平台可以检测并标记出异常行为或可疑账户。例如,通过分析用户的行为模式,机器学习算法可以寻找并识别出与正常行为模式不符的行为,这类行为往往暗示可能存在诈骗行为。
建立规则魔法打败:其次,社交平台应制定并执行明确的用户政策。5月9日,抖音平台发布了“关于人工智能生成内容的平台规范暨行业倡议”,明确禁止利用生成式人工智能技术创作、发布侵权内容,包括但不限于肖像权、知识产权等。一旦发现违规行为,平台将严格处罚。
其他平台也需要明确说明哪些行为是被禁止的,以及违反规定将面临的后果。对于违规用户,社交平台需要设立一个公正而快速的处理机制,以确保公平对待每一位用户。
培养意识魔法打败:再者,社交平台可以通过提升用户的网络安全意识来防止AI诈骗。通过发布有关如何安全使用社交平台的教育内容,教导用户如何识别和防范AI诈骗,用户们就可以有效地降低自身成为诈骗受害者的风险。
同时,提醒用户不轻易信任陌生人,以及警告用户注意保护个人信息也是重要的措施。
总的来说,社交平台在防止AI诈骗中扮演着至关重要的角色。
正如同一把锤子可以用来建房子也可以用来破坏房子,AI技术为社交平台带来更好的用户体验,本身是一件好事,关键在于如何使用。平台需要在多个方面采取积极行动,以确保用户的网络安全,利用自身的技术能力来削弱AI诈骗产生的弊端。
结言
AI诈骗无疑是当前AI发展面临的重大挑战之一,其影响不容忽视。然而,相信有读者会认为将其视为压倒AI发展的“最后一根稻草”或许过于悲观。事实上,技术发展总会伴随无限可能的延展,也并非危言耸听。
我们需要认识到这一问题,并通过多角度的努力,包括社交平台的技术防护、用户教育、法律监管等途径,共同应对并降低其对社会的潜在风险。
AI诈骗的出现确实揭示了AI技术的一面隐患,但同样的,我们也可以看到,众多企业、研究机构以及监管者正努力在探索解决方案,以确保AI技术的健康发展和应用。
未来,我们将会看到更多的科技创新帮助我们识别和防范AI诈骗,法律监管体系将更加完善,社交平台将提供更好的用户安全保障。
AI诈骗并不会成为阻碍我们前进的“最后一根稻草”,相反,它将成为推动我们继续前进、发展更安全、更负责任的AI技术的重要驱动力。我们要保持乐观,积极应对挑战,并共同努力创造一个更加安全、可信赖的数字化社会。
标签:
相关阅读
- (2023-06-01)AI诈骗效率高、成本低,“三个魔法”有效防范潜在威胁-全球微速讯
- (2023-06-01)天天头条:烟台市芝罘区山水龙城小学举办“童心永向党 童声颂党恩”六一合唱比赛
- (2023-06-01)山西近日加快能源产业绿色低碳转型-世界滚动
- (2023-06-01)加速全国布局!智微智能杭州营销及技术服务中心成立
- (2023-06-01)外媒:韩国出口连降8个月
- (2023-06-01)亿通科技:公司内部已经有对ChatGPT和AICG相关技术的研究
热点推荐
- (2023-06-01)AI诈骗效率高、成本低,“三个魔法”有效防范潜在威胁-全球微速讯
- (2023-06-01)天天头条:烟台市芝罘区山水龙城小学举办“童心永向党 童声颂党恩”六一合唱比赛
- (2023-06-01)618什么千元机值得买?1亿像素、4年持久流畅,OPPO K11x诚意十足
- (2023-06-01)山西近日加快能源产业绿色低碳转型-世界滚动
- (2023-06-01)越剧专场演出走进江北村-关注
- (2023-06-01)为乡村振兴插上科技“翅膀”
- (2023-06-01)四川广元朝天区放生国家级保护动物
- (2023-06-01)加强人员培训 筑牢安全屏障
- (2023-06-01)加速全国布局!智微智能杭州营销及技术服务中心成立
- (2023-06-01)外媒:韩国出口连降8个月
- (2023-06-01)浙沪两地携手联建区域治理新体系
- (2023-06-01)亿通科技:公司内部已经有对ChatGPT和AICG相关技术的研究
- (2023-06-01)医疗板块投资机会是否已经到来,哪些细分领域值得关注?华商基金实力派权益基金经理最新解读_环球快播报
- (2023-06-01)天天热推荐:真会玩!A股爆炒寺庙、彩票概念,峨眉山A、九华旅游被爆炒,券商给出神奇逻辑!关注寺庙经济抗周期防御属性
- (2023-06-01)世界最资讯丨数据知产保护的“北京方案”
- (2023-06-01)最新意大利刑法典(对于最新意大利刑法典简单介绍)
- (2023-06-01)铜川中院召开未成年人司法保护新闻发布会
- (2023-06-01)班鸠可以当宠物养_班鸠_世界动态
- (2023-06-01)焦点速递!美利信:新能源汽车领域是公司的重点开拓和深耕的业务版块
- (2023-06-01)全球热文:兆新股份:公司已关注人工智能在光伏电站运维层面的行业应用
- (2023-06-01)天天快看:奥士康:公司正在进行AMD服务器CPU主板类、GPU加速卡类和高速电脑类各平台专案测试阶段
- (2023-06-01)全球观察:张于喆:加快战略性新兴产业融合集群发展
- (2023-06-01)世界滚动:中梁控股(02772.HK)与现有票据持有人小组成员订立条款细则
- (2023-06-01)习主席复信的孟加拉国儿童 她的名字叫“中国”
- (2023-06-01)京东超市发618开门红战报:国潮纸尿裤等10个品类增数倍 低价品 趋势品大爆发-全球看点
- (2023-06-01)iPhone 14全系价格大跳水 今年618降价力度超1800元
- (2023-06-01)金字火腿:公司实控人目前质押公司股份为1亿股
- (2023-06-01)金字火腿:公司预制菜产品刚投入市场进行试销|世界看热讯
- (2023-06-01)金字火腿:公司向特定对象发行股票事宜 将根据进展情况及时披露
- (2023-06-01)德方纳米:5月31日融资买入2601.23万元,融资融券余额10.26亿元 看点
- (2023-06-01)海 利 得:5月31日融资买入172.91万元,融资融券余额1.18亿元
- (2023-06-01)2008年四川高考分数线是多少?2008年四川高考分数线高吗
- (2023-06-01)沪东中华中远海运中石油国事项目4号船顺利出坞|当前观察
- (2023-06-01)【新视野】快可电子:智能接线盒业务是公司近年来重点拓展的业务 目前已形成销售
- (2023-06-01)通宇通讯:公司业务产品包括基站天线、射频器件、微波天线、光模块等
- (2023-06-01)东方国信:公司目前没有脑接口方面布局
- (2023-06-01)晶澳科技:公司宁晋6GW n型倍秀电池项目已于近期投产 焦点讯息
- (2023-06-01)华特达因:公司在儿童保健和治疗领域进行了完整的产品布局
- (2023-06-01)风投成“张一鸣们”抵御焦虑的良药?|天天最资讯
- (2023-06-01)喀麦隆首发门将临赛前“跑”了 喀麦隆门将被处分了吗?
- (2023-06-01)九丰能源:5月31日融资买入171.8万元,融资融券余额9652.04万元 全球简讯
- (2023-06-01)城镇职工养老保险待遇是什么?一次性养老待遇是什么意思?
- (2023-06-01)招行信用卡循环利息怎么算?信用卡循环利息能退回吗?
- (2023-06-01)第三届“CCFA邻里节”收官
- (2023-06-01)医保缴费什么时候截止2023?新农合2024收费标准是多少钱?
- (2023-06-01)天天日报丨京津冀产业合作重点平台目录发布 促进区域深度融合发展
- (2023-06-01)闰月买鞋怎么说?闰月鞋是女儿还是媳妇买?
- (2023-06-01)世界速看:重庆破获一起非法经营成品油案
- (2023-06-01)天天快讯:近年最具影响力的15项油气勘探开发技术(之一)
- (2023-06-01)成本端大幅下跌 短期燃料油预计震荡偏弱运行
- (2023-06-01)中石油新疆销售 “化王复线反输”保障区域成品油稳定供应
- (2023-06-01)联合国工程船抵达“萨菲尔”号油轮附近为转移原油做准备
- (2023-06-01)深耕精细化运营 渤海银行“渤学多财”开创亲子财商+服务新模式
- (2023-06-01)【速看料】康力源开启招股:研发创新赋能 向全球领先健身设备供应商进军
- (2023-06-01)东方雨虹:固本强基,激活高质量发展澎湃动能 世界独家
- (2023-06-01)继续降价清库存!特斯拉(TSLA.US)将美国库存Model 3折扣翻倍至2680美元|天天资讯
- (2023-06-01)2011年安徽高考分数线是多少?2011年安徽高考分数排名查询
- (2023-06-01)实时焦点:花呗借的钱怎么转到微信_花呗立即提现的微信号
- (2023-06-01)休眠卡是什么意思?休眠卡如何激活呢?
- (2023-06-01)世界快资讯丨“超级炼化航母”启航:中国石油又迎里程碑时刻
- (2023-06-01)市场担忧石油需求前景 国际油价5月31日续跌超1% 世界球精选
- (2023-06-01)携手华为繁荣鸿蒙生态丨软通动力子公司通过HarmonyOS Connect生态解决方案合作伙伴认证 今日快讯
- (2023-06-01)当前热门:阿联酋央行与香港金融管理局加强金融合作
- (2023-06-01)每日短讯:北京大学2023年中国农业银行青年英才班一行赴软通动力参观交流
- (2023-06-01)巴州公安:“首违不罚、轻违不罚”举措受群众好评
- (2023-06-01)仙佑膏药:膏药行业拓展应用领域,满足多样化需求
- (2023-06-01)今日观点!皖仪科技:5月31日融券卖出金额1.27万元,占当日流出金额的0.18%
- (2023-06-01)国际英语怎么说_国际英语解释 环球动态
- (2023-06-01)万家基金管理有限公司关于旗下部分基金在陆享基金开通申购、转换、定投业务及参与其费率优惠活动的公告|当前报道
- (2023-06-01)“香港学生内地实习计划”复办 千余港生赴内地学习交流
- (2023-06-01)如何用废料制作相框_过年送女人最好的礼物是啥呀_天天微速讯
- (2023-06-01)热议:解压时刻,Vidda C1 Pro三色激光投影仪用音乐治愈我
- (2023-06-01)新消息丨梦幻西游手游月宫攻略2023-梦幻西游手游月宫攻略
- (2023-06-01)每日速看!甘露糖醇六硝酸酯_甘露糖醇
- (2023-06-01)世界快资讯:孙辉:七律*山寺桃园拾句
- (2023-06-01)开业 校庆 签约,贺州这三场活动圆满收官!_速讯
- (2023-06-01)电脑浏览器哪个好用速度快不占内存_电脑浏览器哪个好用速度快
- (2023-06-01)天天滚动:许家印突发!恒大财富:无法按原标准兑付……
- (2023-06-01)热点在线丨剩余装甲部队单位【1】
- (2023-05-31)新乳业席刚:未来五年年收入要双位数增长,负债率降低10%
- (2023-05-31)创兴资源(600193.SH)拟新设公司 为业务转型和创新发展打造新的载体和平台
- (2023-05-31)大连重工:拟6034.95万元挂牌转让大重宾馆资产 天天观点
- (2023-05-31)每日速讯:立高控股(08472.HK)完成配售合共8000万股 净筹791万港元
- (2023-05-31)今日要闻!金牛男性格与脾气_金牛男性格
- (2023-05-31)今日视点:马斯克中国行引发三大遐想:在华引入FSD、确定电池供应商、推进建设新工厂
- (2023-05-31)众生药业:目前来瑞特韦片已上线全国数百家的医疗终端 环球时讯
- (2023-05-31)可以出手买房了?北京中介:同户型比2月降了约30万,急售降得更多
- (2023-05-31)莱茵生物:目前公司工业大麻工厂生产运营正常
- (2023-05-31)景点、旅游、餐饮全线飘红!机构:暑期旅行预定逐步升温-世界新消息
- (2023-05-31)服务下沉,他们上门办理残疾人证延期手续_环球快资讯
- (2023-05-31)承德厂房以租代征怎么样赔偿
- (2023-05-31)今日看点:亚华电子:上海青芒智能为公司参股子公司 持股比例为5%
- (2023-05-31)寒武纪:思元370芯片及加速卡已完成与某头部运营商多个智能计算平台的适配
- (2023-05-31)兰州银行:目前银行涉及跨境人民币收付、外币汇款等跨境支付业
- (2023-05-31)东方通:AIGC内容监测已经应用到电信运营商、广电等行业部分客户
- (2023-05-31)观点:迈普医学:公司产品覆盖开颅手术所需要的关键植入医疗器械
- (2023-05-31)世界短讯!黑鸭卤水酸甜是什么原因?
- (2023-05-31)天猫优品高端家电博览会集结百余行业大牌 打响618家电零售冲锋战
- (2023-05-31)公路车骑行比山地车更轻松吗_骑公路车比山地车累吗_环球视点
- (2023-05-31)当前要闻:2023年小暑节气是数伏吗