【天天播资讯】ChatGPT:是平台的缪斯还是黑客的“MOSS”?
2023-02-12 09:01:26 来源:未央网
ChatGPT的出现对当今的网络安全形式构成了一定的威胁。为什么这么说?ChatGPT内置的代码生成器功能可以快速自定义生成符合攻击需求的初阶代码,对于菜鸟黑客来说是雪中送炭,对于老鸟来说也是锦上添花。
(资料图)
ChatGPT直接生成恶意代码,将一个开发能力薄弱,“有心无力”的威胁主体进化成一个可以随时发动攻击的“脚本小子”(脚本小子不像真正的黑客那样发现系统漏洞,他们通常使用别人开发的程序来恶意破坏他人系统)。ChatGPT也能向用户回答输出整理之后的网络攻击知识,加快菜鸟黑客的学习进程。同时,ChatGPT也担任了高阶黑客的“脚本助手”,虽不能直接完成高级黑客的工作,但ChatGPT的出现大大提升了这类代码的编写速度,降低了可观的工作量。由于攻击往往需要在限定时间内完成,所以这种提速对黑客来说意义重大。
生成信用卡号探测脚本
在这个案例中,用户提出了需求,表明需要编写一段最为精简的JS脚本来探测特定URL接口数据中的信用卡号,支付信息等内容。ChatGPT给出了多段基于正则表达式的JS脚本,且并未提示违反OpenAI内容生成的相关协议。
此段代码虽不能单独完成一段攻击,但是可以用于黑客拿到一定权限之后的数据分析工作,加快黑客掠夺数据库中有价值信息的进程。绝大部分情况下代码在使用之前仍然需要调试,但是已经提供主体内容如本此探测中的最为复杂的正则部分,剩下的调试工作对于有经验的黑客来说并不是难事。
生成钓鱼邮件
ChatGPT的强项是生成具有一定格式化,无需太多逻辑,且表达通常的文书。钓鱼邮件便很符合这类特点,需要较为官方的语气使被攻击者信服。通常情况下人为撰写这么一份文书是较为耗时的,ChatGPT将彻底改变这种情况,因为它允许攻击者大规模地生成伪官方的个性化电子一件通知。但是,要使邮件包含所有攻击者想要的必要组件,攻击者必须向chatGPT提供非常详细的说明。
主流网络钓鱼攻击通常由一系列电子邮件配合构成,每封电子邮件都会逐渐获得受害者更多的信任。因此,对于第二、第三和第N封电子邮件,由于ChatGPT可以“记住”上下文的内容(用户输入)和情节(前项输出),因此它确实可以为网络犯罪分子节省大量撰写的时间。现阶段对于此类机器生成的文本内容,暂时还并没有很好的识别和侦测方法,对于这类“高仿真”的文本人类逐渐失去分辨能力。
法律风险分析
01 帮助信息网络犯罪活动罪
所谓帮信罪,全称是帮助信息网络犯罪活动罪(以下简称“帮信罪”),被规定于我国《刑法》第287条之二中,指的是明知他人利用信息网络实施犯罪,为其犯罪提供互联网接入、服务器托管、网络存储、通讯传输等技术支持,或者提供广告推广、支付结算等帮助。近年来,帮信罪呈井喷式发展,根据最高检2021年发布的前三季度全国检察机关主要办案数据。2021年的9个月里,全国检察机关起诉帮信罪同比增长21.3倍,起诉人数达79307人,从数量上看与危险驾驶罪、盗窃罪、诈骗罪并驾齐驱排名第四。2022年上半年则更为恐怖,仅仅6个月的时间,全国检察院就已起诉6.4万人,超过了诈骗罪的人数。
那么,一个关键的问题,如果自家开发的ChatGPT等AI工具被犯罪分子利用为上述犯罪工具,是否会构成帮信罪?先给答案:有可能。
先说帮信罪,在该罪的客观方面,法条明确规定行为人需要为上游利用信息网络实施犯罪活动的犯罪分子提供互联网接入、服务器托管、网络存储、通讯传输、支付结算等特定类型化的技术支持与帮助行为才能构成犯罪。因此,是否构成该罪有三个重点需要考虑:行为人提供帮助的上游犯罪行为是否是“利用信息网络实施的犯罪行为”?提供帮助的行为人是否“明知”他人正在实施犯罪?以及行为人是否为上游犯罪提供了技术、推广和资金结算方面的支持?
如前所述,如果犯罪分子利用ChatGPT等工具生成钓鱼邮件实施网络诈骗,即可被认定为“利用信息网络实施的犯罪行为”。那么我们接下来考虑,ChatGPT的运营方是否“明知”他人正在利用AI工具实施网络犯罪?在帮信罪的构成要件中,认定“明知他人利用信息网络实施犯罪”是重中之重,也争议最大。但是2019年两高发布《在关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》后,关于“明知”的认定迎刃而解,该司法解释第11条引入了推定的方法,列举了6种可以推定行为人明知他人犯罪的情形,除有相反证据证明否则直接可认定行为人主观上具备“明知”要件。六种情形我们就不一一例举,但用ChatGPT来说,如果实践中(1)经监管部门告知如果该AI被利用为犯罪工具后仍然实施有关行为;或(2)接到该AI被利用为犯罪工具的举报后不履行法定管理职责,即可被认定为ChatGPT的运营商“明知”他人正在利用自己开发的工具实施犯罪。
最后,使用ChatGPT生成可信度更高的网络诈骗文案或者生成推广文案,是否属于为上游犯罪提供了技术、推广、结算方面的支持?飒姐团对认为这个问题具有一定的争议,且由于目前尚未有可供参考的司法实践,我们不能给出一个绝对肯定的答案,因此还需要具体案件具体分析。但是,总的来说,如果ChatGPT生成的钓鱼软件可信度较高、推广文案非常容易吸引一般用户的注意,那么我们认为,在我国的司法实践中,大概率会将这种AI工具列入“提供技术帮助”或“推广帮助”的行为,运营者们务必警惕。
02 拒不履行信息网络安全管理义务罪
ChatGPT作为类似于信息发布、搜索引擎的网络服务提供者,需要履行信息网络安全管理义务。如果类似网络攻击类违法信息被监管部门要求责令整改,而平台无法提供有效的管理措施或技术措施来阻止该类信息传播,致使违法信息大量传播的,则可能涉嫌拒不履行网络安全管理义务。
致使违法信息大量传播的标准是很明确的,致使传播违法视频文件以外的其他违法信息二千个以上的,或者致使向二千个以上用户账号传播违法信息的,都算作大量传播。类似于OpenAI这样体量的公司很容易达到这个数额。且若有一个安全漏洞在ChatGPT等平台中广泛的被咨询,从而造成了大量的社会危害,容易被归为“造成严重后果”。但实际上,由于构成该罪需要运营方被监管部门要求责令整改后依然拒不整改才能构成,在司法实践中较为少见,因此总体来看风险与前述犯罪相比并不大。
写在最后
毫无疑问,ChatGPT可以减少网络安全专业人员/黑客的工作量。但就目前而言,除了机器效率,没有什么可以与人类的工作相提并论——后者仍然比这种人工智能技术更准确、更可靠。
ChatGPT可以作为网络安全行业积极正向的推动,也可以沦为黑客手中恶意攻击的辅助工具。平台方应该更好的安全措施和内容过滤机制来防止类似模型被用于恶意代码设计等网络攻击的实施。
飒姐团队提醒您,ChatGPT虽好,但是也是一把双刃剑。企业平在开发平台的过程中需要重视相关输出信息的筛选和过滤,事先提供明确的技术治理和救济机制,稍被不慎利用,便可能会有刑事风险缠身。
相关阅读
- (2023-02-12)【天天播资讯】ChatGPT:是平台的缪斯还是黑客的“MOSS”?
- (2023-02-12)世界微速讯:数字化客户经营堵点与疏通
- (2023-02-12)空气炸锅起火,竟是因为它?_环球时讯
- (2023-02-12)玉林旅游景点大全介绍_玉林旅游景点大全
- (2023-02-11)“救场王”yoyo酱在抖音官宣“在一起”,网友感叹“我磕的c 全球信息
- (2023-02-11)银保监会、央行发布《商业银行金融资产风险分类办法》 7月1日起正式施行 每日热讯
热点推荐
- (2023-02-12)【天天播资讯】ChatGPT:是平台的缪斯还是黑客的“MOSS”?
- (2023-02-12)世界微速讯:数字化客户经营堵点与疏通
- (2023-02-12)空气炸锅起火,竟是因为它?_环球时讯
- (2023-02-12)玉林旅游景点大全介绍_玉林旅游景点大全
- (2023-02-11)“救场王”yoyo酱在抖音官宣“在一起”,网友感叹“我磕的c 全球信息
- (2023-02-11)今日视点:用实干擦亮底色 用担当书写时代重任
- (2023-02-11)江苏东台政银企合作恳谈会成果丰硕
- (2023-02-11)就业援助暖人心
- (2023-02-11)【环球快播报】兰州市“春风行动”达成就业意向5000余人
- (2023-02-11)总投资20亿元康养项目落户湖北英山
- (2023-02-11)银保监会、央行发布《商业银行金融资产风险分类办法》 7月1日起正式施行 每日热讯
- (2023-02-11)【世界报资讯】新业务收缩 万科22年老将谭华杰离职
- (2023-02-11)民间智慧 | “诗与远方”的主题型炒作 当前聚焦
- (2023-02-11)北京银行与北京市体育局签署战略合作协议 联合发布“京彩体育贷”融资服务方案-天天最新
- (2023-02-11)【天天快播报】忌日礼物
- (2023-02-11)京东新百货全面开启情人节礼遇季 一站购齐婚事全流程必备好物
- (2023-02-11)天天新动态:最会“躺赢”的牛散出手了!最新布局9股浮盈超2亿,其他持仓同步曝光
- (2023-02-11)今日报丨2022,石油巨头过得很好
- (2023-02-11)2%利差促“提前还房贷”潮,银行股短期承压 长期收益存疑
- (2023-02-11)妞妞给爸爸送生日礼物_全球热头条
- (2023-02-11)信质集团:理想是公司新能源业务客户之一 公司为其提供总成配套服务
- (2023-02-11)环球即时看!钾、锂、铜三箭齐发 藏格矿业加速迈向一流矿业公司
- (2023-02-11)快报:道氏技术:公司对固态电池的研究已有技术储备和相关专利成果 材料生产需要根据市场发展和客户需要进行
- (2023-02-11)濮阳惠成:公司子公司生产的高纯氢一般用于作为清洁能源或用于对气体纯度要求较高的工业生产
- (2023-02-11)世界资讯:我国启动千种热带植物基因组计划
- (2023-02-11)清华五道口:NFT监管的全球政策思路版图 全球微头条
- (2023-02-11)ChatGPT热的冷思考 全球百事通
- (2023-02-11)天天观热点:加强监管与私营部门合作,美国财政部成立跨部门云服务指导委员会
- (2023-02-11)送异性朋友买什么礼物好 环球视讯
- (2023-02-11)朋友生了孩子该送什么
- (2023-02-11)ebay如何买东西?是什么平台?_环球微头条
- (2023-02-11)天津出台“十四五”扩大内需战略实施方案 加快推进国际消费中心城市建设
- (2023-02-10)我们太空的家丨揭秘中国空间站机械臂上的黑科技|天天热点
- (2023-02-10)完美世界:公司数款在研游戏产品均基于UE5引擎研发|环球微资讯
- (2023-02-10)支持优质内容供给,激发电影产业活力 北京银行为多部春节档影片提供金融支持-当前热议
- (2023-02-10)一篇完整的新闻稿撰写需要具备哪些条件|环球热推荐
- (2023-02-10)科创新源:公司部分散热结构件可以应用于数据中心建设_每日报道
- (2023-02-10)环球快讯:吉宏股份:目前ChatGPT已经有应用在了公司跨境电商业务
- (2023-02-10)中电兴发:公司在智慧国防领域已为近百个项目提供方案及服务
- (2023-02-10)世界时讯:京东健康医疗器械消费用户数破1亿 成众多品牌最主要销售增量场
- (2023-02-10)全球快报:舆情预警丨旋极信息:实控人拟被动减持公司不超1.51%股份
- (2023-02-10)聚焦IPO | 荣泰电工或受特斯拉“降价潮”影响,共同实控人认定方面存在疑点|微头条
- (2023-02-10)【全球时快讯】奥特佳:预计年中向德国大众供货符合MEB电动汽车平台要求的电动空调压缩机产品
- (2023-02-10)央行:1月末社融存量350.93万亿,同比增9.4%
- (2023-02-10)博彦科技:公司在智能聊天机器人方面有一定的业务和技术积累
- (2023-02-10)东方国信:公司参股子公司在北京已布局数据中心 总规模9000台左右 天天精选
- (2023-02-10)“三张牌”打出乡村振兴新局面|焦点速读
- (2023-02-10)道地黄芪迎暖春-当前快播
- (2023-02-10)全球球精选!西江镇现代版“富春山居图”呼之欲出
- (2023-02-10)快报:以有效投资促进经济高质量跨越发展
- (2023-02-10)山西孝义规上工业突破千亿元
- (2023-02-10)四维图新:公司参股公司六分科技基站数量约3000个|百事通
- (2023-02-10)未央本周回顾:央行发布金融控股公司关联交易管理办法 百度版ChatGPT下月将完成内测
- (2023-02-10)紫建电子:公司已取得了“一种满足高倍率充放电的固态电池”等方面的实用新型专利_今日讯
- (2023-02-10)普路通:公司未来有规划相关产品出口海外-世界快看
- (2023-02-10)油电同价 颠覆燃油 秦PLUS DM-i 2023冠军版9.98万元起
- (2023-02-10)恒逸石化:公司广西钦州项目正有序推进
- (2023-02-10)东方集团:公司相关子公司已在抖音平台设立天缘道粮油旗舰店
- (2023-02-10)全球动态:女子开瓶时辣椒酱爆炸 堪比案发现场
- (2023-02-10)恩威医药:公司乾坤宁片目前还在临床试验阶段
- (2023-02-10)劲仔食品:公司主要进口原料鳀鱼的物流、海关通关、消杀等间接成本在疫情政策放开后有所下降
- (2023-02-10)今日热文:广誉远:山西广誉远国药负责开展龟龄集酒的生产经营活动
- (2023-02-10)持续发挥全渠道优势 京东家电专卖店打造下沉市场零售新业态
- (2023-02-10)康华生物:冻干人用狂犬病疫苗筑牢固护城河 多元产品布局未来可期-焦点简讯
- (2023-02-10)金融机构不可不察的IT系统架构
- (2023-02-10)汤臣倍健(300146.SZ):去年四季度以来维生素C品类增长快速,蛋白粉也有较好增长 当前热文
- (2023-02-10)造雨者集团推出神舟风控基金,筑牢金融安全底线
- (2023-02-10)每日聚焦:中手游自研《SNK:格斗世代》登陆台港澳新马五地 或进一步提升海外营收比重
- (2023-02-10)莱美药业:公司重点产品卡纳琳由公司自研自产 系独家产品
- (2023-02-10)普利制药:仿制药是普利基本盘 预计2023年仿制药会有成果展现
- (2023-02-10)易点天下:公司通过广告优化机器人提升了整体运营效率 实时
- (2023-02-10)开普云:公司研发的数字人交互平台采用的核心技术路线与ChatGPT类似
- (2023-02-10)极速撰写高转化营销邮件,网易外贸通版ChatGPT有多牛?
- (2023-02-10)激智科技:公司新厂房的首批新产线已在安装调试中
- (2023-02-10)苏美达:苏美达国际是2022年进博会"数字展会平台建设运营合作伙伴"
- (2023-02-10)国家统计局:1月份PPI同比下降0.8%|当前快播
- (2023-02-10)当前快看:抖音入局,外卖江湖重燃战火,百元订单佣金仅2.5元,消费者只想薅羊毛
- (2023-02-10)全球热消息:东方国信:公司目前在积极参与数据要素相关的探索和实践
- (2023-02-10)今日油价92号汽油价格 92号多少钱一升?
- (2023-02-10)铂金价格今天多少一克?铂金和黄金哪个更高档?
- (2023-02-10)环球焦点!华为自曝Mate9能让你充满电
- (2023-02-10)全球观天下!鸿铭股份:公司目前已拥有45个发明专利 200多项实用新型专利
- (2023-02-10)中工国际:公司将密切关注土耳其震后情况 积极助力当地灾后恢复重建工作 当前热文
- (2023-02-10)世界今头条!中国软件:公司已对上海博科资讯股份有限公司进行投资 持有其7%的股权
- (2023-02-10)世界热点评!加快棚户区改造 持续增进民生福祉
- (2023-02-10)快看点丨专班服务有温度 项目建设加速度
- (2023-02-10)世界快看点丨临临高速四标段迅速复工复产争春早
- (2023-02-10)微资讯!从“当涂速度”感受“当涂温度”
- (2023-02-10)当前关注:地铁设计:公司拥有多项城市轨道交通绿色节能先进技术
- (2023-02-10)福建东山全省首创企业发展“检察联络点”揭牌
- (2023-02-10)热资讯!亚泰集团:公司医药生产企业共有6家
- (2023-02-10)干到65岁退休,你愿意吗?_世界速递
- (2023-02-10)铁流股份:公司今年以来订单量较充足 生产排期较满_热讯
- (2023-02-10)隧道股份:近期有财通证券等部分机构调研-即时
- (2023-02-10)纳思达:珠海高栏港激光打印机高端装备智能制造项目已经投产_全球球精选
- (2023-02-10)焦点要闻:众业达:目前公司自主运营的充电站有4个
- (2023-02-10)英超球员数据排行:哈兰德25球最多 努涅斯运气差|今日热门
- (2023-02-10)观焦点:绑定将军令_绑定将军令
- (2023-02-10)超过10万信用卡逾期怎么办?信用卡逾期10万 要坐牢吗?
- (2023-02-10)软通动力上榜2022中国工业互联网年度企业排行100强名单|世界观速讯