每日讯息!慎用ChatGPT!已有行业协会发出“警报”
2023-04-11 14:02:42 来源:未央网
就在昨天,中国支付清算协会明确指出“ChatGPT这类智能化工具已经暴露出跨境数据泄露等风险。”并发出“谨慎使用ChatGPT等工具”的倡议,该倡议强调支付行业从业人员要提高思想认识,依法依规使用ChatGPT等智能化工具,正确认识相关工具的机遇和风险,全面评估使用ChatGPT等工具处理工作内容的风险;倡议支付行业从业人员在使用ChatGPT等工具时,要严格遵守国家及行业相关法律法规要求,不上传国家及金融行业涉密文件及数据、不上传非公开的资料及数据、客户资料、支付清算基础设施或系统的核心代码等内容;倡议各会员单位要进一步健全信息安全内控管理制度,开展有针对性的数据风险防控工作,加强宣传和引导,提升员工的风险防范和数据保护意识,切实维护国家金融及支付行业安全。
一、ChatGPT已发生多起数据泄漏事故
中国支付清算协会这一倡议是对近期ChatGPT频繁曝出数据泄露事件的回应,ChatGPT已经在世界范围内曝出数起敏感数据泄密事件,就在本月初,意大利个人数据保护局宣布,从即日起禁止使用ChatGPT并限制OpenAI公司处理意大利用户的个人信息,同时意大利个人数据保护局开始就ChatGPT泄露敏感信息事件进行立案调查。无独有偶,韩国某国际知名大型企业(某星)主管存储、芯片设计、晶圆代工等半导体核心业务部门亦因为员工使用ChatGPT导致机密数据泄露。
该泄露事件涉及三位员工,员工甲在运行半导体设备测量数据库下载程序的源代码时发生了错误,于是他复制所有有问题的源代码并将其输入到ChatGPT中询问解决方案。员工乙则将“设备测量”及“产量和缺陷”检测程序代码整个相关源输入ChatGPT,要求ChatGPT帮助其优化代码。员工丙则是一名行政人员,其将用自己手机录制的会议内容转化为文字后,输入到ChatGPT中,要求ChatGPT优化这份录音转文字的稿件,使其看起来像一篇精心制作的会议纪要。
(相关资料图)
上述三位员工的行为使得某星涉及半导体业务的敏感内容,此后该企业向公司所有员工告知“如果采取信息保护紧急措施后仍发生类似事故,公司内部网可能会禁止ChatGPT连接。”
事实上国内部分行业也已经对ChatGPT引发的敏感信息泄露问题发布了相关预警。除韩国某星外,微软、亚马逊等国际巨头企业亦对自己的员工发出预警,不要与ChatGPT分享公司的相关敏感信息,因为它们可能会被ChatGPT用于训练未来的语言模型。
出于对敏感数据泄露风险的担忧,花旗集团、德意志银行、高盛集团、摩根大通等企业亦明确禁止员工使用ChatGPT处理工作任务。更有1000多名科技行业领导和研究人员呼吁暂停先进AI的研发,以便相关的数据安全政策能够首先得到讨论施行。AI与数据政策中心(The Center for A.I and Digital Policy)亦要求美国联邦交易委员会禁止OpenAI发布ChatGPT新的商用版本。
二、ChatGPT泄露数据风险点位分析
中国支付清算协会以及上述各企业对于ChatGPT数据泄漏风险的担忧不无道理。ChatGPT的数据泄漏风险主要源于两部分,其一是ChatGPT本身的程序漏洞,其二是ChatGPT的工作原理。ChatGPT本身的程序漏洞可能会导致用户的聊天内容泄露。这类事故已经发生过数次,就在上个月末。有部分网友生成自己的ChatGPT聊天栏中出现了其他人聊天记录的标题,3月25日OpenAI发文证实是由于ChatGPT本身程序漏洞导致了泄露事故,OpenAI“已紧急修复该漏洞并向用户致歉”。事实上程序本身漏洞导致信息泄露并非“不可饶恕”,这些漏洞通常及时修补后就不会引起撼动ChatGPT根基的风波。而真正可能撼动ChatGPT根基的是后一种信息泄露风险点位,即ChatGPT的工作原理,实际上,ChatGPT的工作原理就注定了其在现阶段很难解决信息泄露的问题。
具体而言,传统的聊天软件通常会声称“本软件不会收集聊天记录、聊天信息也会点对点进行加密传输”,事实上绝大部分的聊天软件也都会做到这一点。但是这一点对于ChatGPT而言几乎不可能实现,原因在于ChatGPT这类大语言模型一定会收集用户的聊天内容,并将其用于后续算法训练,以使得自身进一步迭代成为更加高效的AI。因此,用户在与ChatGPT聊天的过程中提供的隐私内容,很可能会被ChatGPT收集,并成为其自身算法训练的素材,然后在其他场景中透露给别人。
于是”故事”(事故)就是这样产生的:某员工甲为图方便,将其单位的客户数据输入到ChatGPT中,希望ChatGPT根据数据生成相应的报告,其后这些客户数据就被ChatGPT收集并用作未来算法训练的素材。之后某商业间谍乙在使用ChatGPT时,询问ChatGPT某公司的客户数据大致是什么内容,ChatGPT立刻就将其在员工甲处“学习而来”的知识告诉了乙……
当然,现实的数据泄露情景更为复杂,本文仅是将其简化并以通俗易懂的方式呈现给读者,上述ChatGPT的工作原理在短时间内无法改变,实际上OpenAI已经在ChatGPT的使用指南中数次提醒用户输入ChatGPT聊天框的文本内容会被用于进一步训练模型,警告用户不要提交敏感信息,换言之,ChatGPT的工作原理就注定了其必定会触及到隐私数据保护、数据跨境传输等合规红线,而且这种“矛盾”似乎在短期内无法妥善解决。
三、企业引入AIGC服务的合规要点
接受新技术能够产生巨大的生产力变革,我们必须承认以ChatGPT为代表的AIGC、深度合成技术可能直接成为企业核心竞争力与吸引力的组成部分,对于AIGC、深度合成技术绝不能一禁了之,企业如何在现行的法律框架下发挥ChatGPT等工具的最大潜力,将会是企业合规新的难题。我国是最早对人工智能进行监管的国家之一,《互联网信息服务深度合成管理规定》已于今年1月10日施行。
在此之前《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规中亦涉及到AIGC、深度合成等内容。根据我国目前有关AIGC、深度合成的法律合规框架,企业如果希望在服务中引入AIGC,应当至少关注以下几点内容:
1.与深度合成服务提供者或者技术支持者的协议条款,重点关注在使用AI方面有何限制,有何免责场景。
2.审查深度合成服务的提供作者与技术支持者是否履行了《互联网信息服务深度合成管理规定》中的合规任务。
3.就员工内部使用ChatGPT等AIGC工具,制定合规使用政策,要求使用相关服务的员工至少应当明确哪些内容不可以通过AIGC处理,以避免企业自身敏感信息泄露。
4.如企业引入的AIGC内容可能会向企业自身的客户披露,那就必须在对外服务时告知哪些内容是由AI生成的,应当警惕内容的风险,确保可能受影响人群的知情权。
四、写在最后
传统聊天软件的服务提供商通常不会收集聊天记录,聊天记录亦会点对点加密,但ChatGPT等AIGC却会不可避免地收集聊天内容用于后续的算法训练,以使自身“迭代进化”,用户提供的隐私信息很可能在这样的机制之下被披露给第三方,实际上AIGC正在慢慢改变隐私数据处理的边界与预期,这对企业合规、数据相关法律规范制定者、司法机关都是一个挑战,未来可能会涉及的数据合规尤其是数据出境等问题,可能仍需进一步探索与研究。
标签:
相关阅读
- (2023-04-11)每日讯息!慎用ChatGPT!已有行业协会发出“警报”
- (2023-04-11)小红书出版物含危害公德内容被罚 违禁书籍怎么处罚?
- (2023-04-11)4月换小米手机,重点推荐这四款,都是性价比十足的机型
- (2023-04-11)视讯!美利信开启申购:营收近三年稳增 通信及新能源汽车领域双轮驱动 核心竞争力优势突出
- (2023-04-11)天气渐热 这份家庭防火指南要牢记-世界简讯
- (2023-04-11)启迪环境:公司控股股东为启迪科技服务有限公司
热点推荐
- (2023-04-11)每日讯息!慎用ChatGPT!已有行业协会发出“警报”
- (2023-04-11)世界今日讯!爱国者sata固态硬盘怎么样?值得入手吗?
- (2023-04-11)十大热门日本综艺节目 日本综艺看中国三军仪仗队
- (2023-04-11)通货膨胀和通货紧缩是什么意思?通货膨胀和失业率之间的关系?|环球快播报
- (2023-04-11)玉出抖in·玉翠定制周:契合定制化兴趣,寻找翡翠玉石生意增量
- (2023-04-11)南疆有哪些好看的美景?在喀什老城必做的6件事是什么?|每日热议
- (2023-04-11)qq浏览器恶意网站拦截是什么功能?qq浏览器主页如何修改? 天天快资讯
- (2023-04-11)观焦点:13岁儿童乘火车需要哪些证件?13岁小孩买火车票是儿童票吗?
- (2023-04-11)王凯结婚了吗 王凯最近的新电视剧叫什么?
- (2023-04-11)每日聚焦:授权与受权是什么意思有哪些区别?授权人是别人还是自己?
- (2023-04-11)寿险怎么申请理赔?寿险的种类有哪些? 资讯推荐
- (2023-04-11)实时焦点:拉手网怎么退款?拉手网是不是不能用了?
- (2023-04-11)手机存储卡打不开是怎么回事?手机储存卡有什么用?
- (2023-04-11)全球观察:注册制新股申购额度是多少? 新股申购的条件是什么?
- (2023-04-11)来宾有什么好玩的景点?来宾有什么好吃的美食?|环球速看
- (2023-04-11)箱体理论最早提出者是谁?箱体理论重点内容有哪些? 世界聚焦
- (2023-04-11)信用卡欠多少会被列入失信名单?信用卡还不上怎么解决?
- (2023-04-11)自然通风和新风系统哪个好用?空气质量变好还需要安装新风机吗?-全球头条
- (2023-04-11)拉动内需是什么意思?拉动内需有哪些常用手段?
- (2023-04-11)美术集训一般多长时间?美术生集训半年多少钱?
- (2023-04-11)智能电动晾衣机哪个好?智能晾衣机好不好?
- (2023-04-11)小红书出版物含危害公德内容被罚 违禁书籍怎么处罚?
- (2023-04-11)闰年2月有多少天?今年闰年二月为何是28天? 前沿资讯
- (2023-04-11)怎么用Photoshop制作GIF动态图?ps中如何调出历史记录?_最新快讯
- (2023-04-11)苹果天气崩了怎么办?苹果天气预报显示不出来怎么办?
- (2023-04-11)方硕单节16分再显“超巨”本色,曾凡博季后赛首秀18分 天天新视野
- (2023-04-11)天天观察:国债逆回购有哪些交易技巧?国债逆回购收益怎么样?
- (2023-04-11)劳动能力鉴定去哪里鉴定?劳动能力鉴定多久出结果?_今头条
- (2023-04-11)全聚德连亏三年 计划加强品牌宣传提高在社交平台曝光度
- (2023-04-11)天天快播:11月14日是什么节日?11月14日橙色情人节介绍
- (2023-04-11)什么叫公募基金和私募基金?公募基金和私募基金的区别有哪些?
- (2023-04-11)4月换小米手机,重点推荐这四款,都是性价比十足的机型
- (2023-04-11)视讯!美利信开启申购:营收近三年稳增 通信及新能源汽车领域双轮驱动 核心竞争力优势突出
- (2023-04-11)天天观热点:9批次手提式干粉灭火器不合格,其中1批次涉嫌假冒,贵州、河南等多地企业被通报
- (2023-04-11)天气渐热 这份家庭防火指南要牢记-世界简讯
- (2023-04-11)启迪环境:公司控股股东为启迪科技服务有限公司
- (2023-04-11)苏垦农发:控股子公司金太阳粮油2022年生产豆油约3万吨|世界通讯
- (2023-04-11)越秀资本:越秀产业基金持有的寒武纪股票已解除限售并按计划进行退出
- (2023-04-11)【天天速看料】山外山:公司的连续性血液净化设备具备DFPP的治疗模式
- (2023-04-11)阿里云正式推出大语言模型通义千问 天天微速讯
- (2023-04-11)百度指数是什么?百度指数怎么用? 聚焦
- (2023-04-11)【世界时快讯】数据依赖定义范围是什么?数据依赖是数学概念吗?
- (2023-04-11)快速去除虾线的方法是什么?虾有哪些营养? 环球热推荐
- (2023-04-11)当前简讯:天津空港经济区属于哪个区 天津空港属于东丽区吗?
- (2023-04-11)天天日报丨随机漫步理论是谁提出的?随机漫步理论正确吗?
- (2023-04-11)81年属鸡2024到2026未来三年运势好吗 机遇多多一路飙升 全球速讯
- (2023-04-11)天天热点!烽火集团是国企还是央企 烽火集团是什么企业?
- (2023-04-11)什么是波段操作?波段操作的要领和技巧?|当前动态
- (2023-04-11)永定河入什么海最后去哪里?永定河的源头在哪里?
- (2023-04-11)返利是什么意思?返利的目的是为了什么?
- (2023-04-11)不同证券账户可以同时打新吗 证券账户怎么开通有什么危险吗? 环球头条
- (2023-04-11)魏牌蓝山DHT- PHEV最新消息,将于4月13日上市 环球今日报
- (2023-04-11)当前讯息:彩钢瓦漏水的原因有哪些?彩钢瓦漏水用什么方法可以补漏?
- (2023-04-11)货车后轮一边烫一边不烫正常吗?机油到期了可以延迟换吗?-观察
- (2023-04-11)信用卡逾期协商还款容易吗?如何写信用卡协商还款申请书?
- (2023-04-11)月薪3000的人适合什么理财产品?理财产品的收益率是多少? 快播报
- (2023-04-11)持仓份额少于本金是怎么回事?持仓金额是实际金额吗?
- (2023-04-11)全球热资讯!信用卡逾期利息怎么计算?信用卡逾期怎么协商分期还款?
- (2023-04-11)集体供暖室内温度标准是多少度?集体供暖温度多少达标?
- (2023-04-11)天天资讯:桑榆之年是多少岁?冻梨之年是多少岁?
- (2023-04-11)焦点简讯:股票跌停后第二天能不能卖出?股票上涨的原理是什么?
- (2023-04-11)血压低头晕吃什么好?血压正常范围是多少? 快讯
- (2023-04-11)【环球时快讯】 如何在销售软文中利用交互式营销,提高用户参与度
- (2023-04-11)机构:市场延续分化格局 高低硫燃料油价差受到压制
- (2023-04-11)全球热点评!信达证券:4月股市风格大概率会偏向大盘价值
- (2023-04-11)广东将打造万亿世界级食品制造贸易高地 天天观天下
- (2023-04-11)重庆市与中国进出口银行签署战略合作协议
- (2023-04-11)环球微头条丨创维数字:机顶盒深度智能化结合大屏显示将提升为家庭智能载体
- (2023-04-11)佳都科技:加快推出能落地的AI大模型应用_全球百事通
- (2023-04-11)【新视野】透视邮储银行2022年财报:从主动授信里迸发的「三重价值」
- (2023-04-11)十大武汉特产排行榜 武汉有哪些特产适合送人?
- (2023-04-11)夏季解暑可以吃哪些食物?你知道解暑食谱吗?
- (2023-04-11)环球观焦点:25岁成为集团首席焊工 高磊:用技术突围无数奖牌
- (2023-04-11)视讯!cr2文件用什么打开 CR2格式能用手机打开吗?
- (2023-04-11)世界最资讯丨周口辖区两条高速公路项目建设跑出“加速度”
- (2023-04-11)易方达价值成长基金净值标准是什么?易方达积极成长净值为什么低?
- (2023-04-11)中国十大会计师事务所排名 2023会计师事务所排名
- (2023-04-11)出口信贷是消费信用吗?出口信贷的主要形式分为哪几种?_当前要闻
- (2023-04-11)和讯个股快报:2023年04月11日 亚宝药业(600351)10:24分,股价快速拉升-天天热点
- (2023-04-11)空气炸锅哪个品牌最好?空气炸锅食谱大全_信息
- (2023-04-11)焦点热议:量子电视是什么意思?led原色量子点电视好吗?
- (2023-04-11)热头条丨入干股需要承担哪些风险?干股和分红股的区别是什么?
- (2023-04-11)你知道朱棣的位置传给了谁吗?朱棣为什么要篡夺皇位呢?|天天新要闻
- (2023-04-11)万寿菊的功效与作用有哪些?万寿菊是几月开的花?
- (2023-04-11)摩羯女秀恩爱的目的和别的人可能不太一样 她秀恩爱是为了宣示自己的主权?_热头条
- (2023-04-11)物业管理费滞纳金标准是什么?物业服务费由哪些部分构成?
- (2023-04-11)十大手机APP排行榜 十大最强手机app分类
- (2023-04-11)夏季吃五谷杂粮 对身体有什么好处?你知道吗? 热消息
- (2023-04-11)顺德美食排行榜前十名 顺德十大老字号
- (2023-04-11)关注:港股内房股走强 碧桂园、龙湖集团等涨超7%
- (2023-04-11)绩优股和蓝筹股有什么不同?什么是绩优股?
- (2023-04-11)最新消息:八横八纵高铁网高清图是谁提出的?八横八纵高铁网什么时候建成?
- (2023-04-11)全球消息!图片工厂菜单工具栏使用教程是什么? 工具栏隐藏了怎么复原?
- (2023-04-11)《巡回检察组》大结局是什么?《巡回检察组》米振东为什么杀害郑玮丽?
- (2023-04-11)4年来首次!俄罗斯石油又迎新买家,能源收入却暴跌 世界资讯
- (2023-04-11)消息人士:沙特阿美等公司将向亚洲全量供应石油|即时看
- (2023-04-11)信用卡逾期6天会影响征信吗?信用卡逾期怎么办?
- (2023-04-11)【速看料】比亚迪发布云辇系统,用新技术重新定义车身控制
- (2023-04-11)林园出手这几只股,赵建平葛卫东加码布局,这个赛道股批量涨停,新一轮行情来了?
- (2023-04-11)中科建通科研创新解决不良地层地铁隧道开挖难题