微软宣布停售情绪状态分析技术 现有用户也将在今年内逐步停用
2022-06-22 17:06:08 来源:网易科技报道
6月22日消息,美国当地时间周二,微软宣布将停止销售基于面部图像分析个人情绪状态的自动化技术,并限制其面部识别工具的使用。
多年来,许多活动人士和学者始终担心,声称能够识别个人年龄、性别和情绪状态的面部分析软件可能存在偏见、侵入性,或者根本不可靠,因此不应该被允许出售。
微软承认的确存在上述问题,并在美国当地时间周二表示,计划从其人工智能(AI)服务中移除这些用于检测、分析和识别人脸的功能。微软将于本周停止向新用户出售该技术,现有用户也将在今年内逐步停用。
这些改变是微软加强对其AI产品控制努力的一部分。经过两年的审查,微软的一个团队制定了一份“负责任AI标准”。在长达27页的文件中,该公司列出了对负责任AI系统的具体要求,以确保它们不会对社会产生有害影响。
这些要求包括确保AI系统“为它们致力于解决的问题提供有效的解决方案”,以及“为已确定的人口群体(包括边缘化群体)提供类似质量的服务”。
这些技术将被用于帮助个人获得就业、教育、医疗保健、金融服务或人生机遇等做出重要决定,在发布之前,它们需要接受由微软首席负责任AI官娜塔莎·克兰普顿(Natasha Crampton)领导的团队的评估。
显然,微软对这种情绪识别工具的担忧加剧了,它可以将个人的面部表情归为愤怒、轻蔑、厌恶、恐惧、快乐、中立、悲伤或惊讶等。克兰普顿说:“我们表达自我的方式存在着巨大的文化、地理和个人差异,这引发了人们对AI识别工具可靠性的担忧,同时也会让人产生更大的疑问,即面部表情是否是反映个人内心情绪状态的可靠指标。”
克兰普顿还说,年龄和性别分析工具以及其他检测微笑等面部特征的工具,可能有助于盲人或视力不佳者解读视觉图像。但微软认为,向公众普遍提供这些分析工具不合适。克兰普顿强调,该系统的所谓性别分类器是二元的,“这与我们的价值观并不完全一致”。
微软还将对其人脸识别功能施加新的控制,该功能可用于身份核查或搜索特定的人。例如,网约车公司Uber在其应用中使用该软件来验证司机的脸是否与该司机账户上的ID匹配。想要使用微软面部识别工具的软件开发商需要申请访问权限,并解释他们计划如何部署该工具。
用户还将被要求申请并解释他们将如何使用其他可能被滥用的AI系统,如定制神经语音(Custom Neural Voice)。该服务可以根据某人的演讲样本生成人的声纹,这样作者就可以创建他们的合成声音,以用他们不会说的语言阅读有声读物。
由于该工具可能被滥用,比如生成某个人没有说过的话,用户必须经过一系列步骤来确认他们使用的声音得到了授权,并且录音中包括微软可以检测到的水印。克兰普顿说:“我们正在采取具体行动,以践行我们的AI原则,但这将是一段漫长的旅程。”
与其他科技公司一样,微软的AI产品在开发过程中也遭遇了许多挫折。2016年,微软在推特上发布了名为Tay的聊天机器人,旨在从与其互动的用户那里学习如何“理解对话”。然而,该机器人很快就开始发布具有种族歧视和攻击性的推文,微软最终不得不将其删除。
2020年,研究人员发现,微软、苹果、谷歌、IBM和亚马逊开发的“语音转文本”工具在黑人用户中的表现不太好。尽管微软的系统是其中最好的,但对白人的误认率为15%,而对黑人的误认率为27%。
虽然微软收集了各种各样的语音数据来训练其AI系统,但其始终没有彻底理解语言的多样化。因此,该公司聘请了来自华盛顿大学的社会语言学专家来帮助解释其需要了解的语言变体。这种方法超越了人口统计和地区差异,囊括了人们在正式和非正式场合的说话方式。
克兰普顿说:“认为种族是某个人说话方式的决定因素,实际上有很大误导性。我们咨询专家后了解到,实际上有很多因素会影响语言的多样性。解决语音与文本之间差距的过程,为公司在新标准制定指导方针提供了巨大帮助。”
克兰普顿还称:“现在是为AI制定规范的关键时期。”她指的是欧洲拟议中的法规,该法规对AI的使用设定了规则和限制。克兰普顿说:“我们希望能够利用我们的标准,为科技公司普遍应该遵守的标准的讨论和制定做出贡献。”
关于AI的潜在危害,科技界已经进行了多年的激烈辩论。争论的起因是,有些AI错误和失误对人们的生活产生了实际影响,比如决定人们是否能获得福利的算法。荷兰税务机构错误地剥夺了贫困家庭的儿童看护福利,因为一个有缺陷的算法排除了具有双重国籍的人。
用于识别和分析人脸的自动化软件一直备受争议。去年,Facebook关闭了其已有十年历史的照片识别系统。该公司负责AI业务的副总裁提到,“很多人对面部识别技术在社会中的地位感到担忧”。
几名黑人男子因面部识别匹配有误而被错误逮捕。2020年,在明尼阿波利斯市警察枪杀乔治·弗洛伊德(George Floyd)后,引发了“黑人的命也是命”(Black Lives Matter)的抗议活动。与此同时,亚马逊和微软宣布暂停美国警方使用其面部识别产品,称需要对其使用制定更明确的法律。
自那以后,美国华盛顿和马萨诸塞州通过了法规,其中要求对警察使用面部识别工具进行司法监督。克兰普顿说,微软曾考虑是否开始在有法律依据的州向警方提供其软件,但目前决定不这样做。她说,随着法律环境的变化,这种情况可能会改变。
普林斯顿大学计算机科学教授、著名AI专家阿温德·纳拉亚南(Arvind Narayanan)表示,公司可能正在放弃分析面部的技术,因为他们可能意识到,至少目前,这些系统没有太大的商业价值。微软没有透露其面部分析功能有多少用户。纳拉亚南预测,公司不太可能放弃其他侵入性技术,比如定向广告,它会让人们选择最好的广告来展示给特定用户,因为它们依然是“摇钱树”。 (小小)
相关阅读
- (2022-06-22)微软宣布停售情绪状态分析技术 现有用户也将在今年内逐步停用
- (2022-06-22)董宇辉语录:如果世界上只有一种美 那便没有了美
- (2022-06-22)今年上半年 空调维修业务增长80%清洗业务增长120%
- (2022-06-22)虚拟货币上演“惊魂时刻” 投资者纷纷抛售“踩踏效应”显现
- (2022-06-22)法国巴黎银行、德意志银行等大幅减持新东方在线 是怎么回事?
- (2022-06-22)做大做强项目“总盘子” 投资20亿元的超赢现代中药及白酒产业园“落户” 南召
热点推荐
- (2022-06-22)微软宣布停售情绪状态分析技术 现有用户也将在今年内逐步停用
- (2022-06-22)深耕数字贸易产业服务,大龙网与中东欧系列合作签约在重庆成功举办
- (2022-06-22)CZYMH是什么牌子的电动车?电动车办牌子去哪办理?
- (2022-06-22)什么是悟空理财?悟空理财最新官方消息是什么?
- (2022-06-22)买护肤品的网站有哪些?买大牌护肤品上哪个网站?
- (2022-06-22)最新证监会企业批文 证监会核发创业板批文 证监会受理企业名单
- (2022-06-22)广州出租车拒载最高罚款多少?广州出租车拒载议价怎么处理?
- (2022-06-22)787185康希诺中签号出炉 康希诺的中签率是多少?
- (2022-06-22)2022年农业种植上市公司龙头股有哪些?中国十大农业成长股有哪些?
- (2022-06-22)2022年4680电池概念股有哪些?新的电池概念股有哪些?
- (2022-06-22)2022年固态电池上市公司龙头有哪些?国产电池龙头上市公司有哪些?
- (2022-06-22)2022年东数西算概念股票有哪些?东数西算叠加医药概念股有哪些?
- (2022-06-22)2022年碳中和股票龙头股有哪些?碳中和概念股适合长期投资吗?
- (2022-06-22)2022年房地产龙头股有哪些?房地产十大龙头排名表
- (2022-06-22)2022年充电桩龙头股票有哪些?充电桩概念股哪个强?
- (2022-06-22)董宇辉语录:如果世界上只有一种美 那便没有了美
- (2022-06-22)曝天玑9000 Plus即将上市 新机Q3上市正面硬刚骁龙8+Gen1
- (2022-06-22)iPhone 14 Pro Max的1TB版本将涨到14000元以上 大家还会买吗?
- (2022-06-22)联发科发布天玑9000+移动平台 采用Armv9架构八核CPU
- (2022-06-22)前5月山东外贸“活力四射” 劳动密集型产品和农产品出口均保持两位数增长
- (2022-06-22)今年上半年 空调维修业务增长80%清洗业务增长120%
- (2022-06-22)每日热点:原油收盘:供应紧张及需求增长提振 原油期货收盘走高
- (2022-06-22)虚拟货币上演“惊魂时刻” 投资者纷纷抛售“踩踏效应”显现
- (2022-06-22)氢能概念股渐热 兰石重装(603169)高成长性被看好
- (2022-06-22)快资讯:沙特、科威特炼油厂拟扩建以缓解柴油危机
- (2022-06-22)短讯!浙江省舟山低硫燃料油保税船供买方报价发布 低硫燃料油期货定价体系再完善
- (2022-06-22)当前看点!“口嫌体直”?流向欧洲的俄罗斯石油悄然攀升
- (2022-06-22)最新:火药味十足!拜登雪佛龙在油价面前开“撕”
- (2022-06-22)每日速递:俄罗斯成为中国最大石油供应国
- (2022-06-22)法国巴黎银行、德意志银行等大幅减持新东方在线 是怎么回事?
- (2022-06-22)做大做强项目“总盘子” 投资20亿元的超赢现代中药及白酒产业园“落户” 南召
- (2022-06-22)今日看点:山西孝义:消费券+补贴 点燃城市烟火气
- (2022-06-22)今日播报!海南琼海市夯实发展基础 争当滨海城市带“优等生”
- (2022-06-22)播报:铁规 铁腕 铁面 铁心!长庆油田采油五厂安全管理“落地有声”
- (2022-06-22)最新资讯:安徽肥西官亭镇姚岗村:美丽乡村 幸福生活
- (2022-06-22)当前热点-科技赋能“一部手机”抓生产
- (2022-06-22)快消息!供需表现不同 国产燃料油走势渐显分化
- (2022-06-22)最资讯丨布伦特原油期货收涨
- (2022-06-21)各国央行如何应对通胀 英国央行如期加息25个基点
- (2022-06-21)美国消费者热情难再 中国运往美国的货物数量比去年同期减少30%
- (2022-06-21)受出口要求的限制等 下半年中国纺织品服装出口增速或回落
- (2022-06-21)“出口监管仓+”多路直通海外 降低企业整体运输成本
- (2022-06-21)“北转创”第一股泰祥股份将上市 开盘参考价20.13元/股
- (2022-06-21)小米新一代神机小米POCO X4 GT发布 支持IP53级防尘防水
- (2022-06-21)晓黑板将于8月31日停止运营 已注册的账号可正常使用
- (2022-06-21)红布林618:30%以上的香奈儿被90后收入囊中
- (2022-06-21)快手616:生鲜产品GMV同比增长超30%
- (2022-06-21)获利比例是什么意思?获利比例100%是涨还是跌?
- (2022-06-21)中国银行定期存款利率是多少?中国银行3年定期存款利率是多少?
- (2022-06-21)从百年巴黎到艺术米兰,九牧王中国山水裤秀刷新品牌创新力
- (2022-06-21)“明明可以靠抢还送你个雪糕 商家宅心仁厚呀”
- (2022-06-21)中国海油四天跌掉逾一千五百亿 油煤板块行情就此没落?
- (2022-06-21)无人售米机真能化解最后100米难题?品质把控是首要因素
- (2022-06-21)“巴菲特的午餐”为什么会这么昂贵?他会传授什么投资秘诀吗?
- (2022-06-21)绿联科技首次IPO 陷增收不增利困境过于依赖海外市场
- (2022-06-21)国际油价承压大幅下跌 布伦特原油下跌超5%纽约油价也大跌
- (2022-06-21)光伏板块高开高走 锦浪科技、宝馨科技等逾10股涨停或涨超10%
- (2022-06-21)前5月我国新能源商用车出口0.5万辆 同比增长54.4%
- (2022-06-21)2021年 重庆市通过整车口岸进口整车7564辆同比增长49.75%
- (2022-06-21)“重庆造”汽车加速出海 小康股份电动车出口2525台同比增长939.1%
- (2022-06-21)每日头条!12.88亿!中石油拟出售辽河储气库
- (2022-06-21)每日视讯:长庆安塞油田措施增油超万吨
- (2022-06-21)滚动:河北省邯郸市成品油质量抽查合格率99.91%
- (2022-06-21)今热点:俄媒:黑海石油钻井平台遭乌军袭击
- (2022-06-21)快资讯丨饱受总统批评和油价压力,巴西本届政府第三任石油公司总裁辞职
- (2022-06-21)郑州:选择房票安置的给予安置补偿金额8%的奖励
- (2022-06-21)短讯!新疆阿瓦提县:火红枸杞成了村民的“甜蜜果”
- (2022-06-21)当前聚焦:广西来宾烟草持续发力抓作风树新风
- (2022-06-21)热推荐:聚焦民之所盼 放心家政在行动
- (2022-06-21)快讯:安徽肥西铭传乡扎实开展自建房解危拆违安全治理工作
- (2022-06-21)前沿资讯!炼厂成本居高不下 燃料油基本面逐步改善
- (2022-06-21)消息!燃料价格高企难忍受?美能源部吁全球增加石油天然气产量
- (2022-06-20)公积金封顶是什么意思?为什么公积金要封顶?公积金封顶能用多少?
- (2022-06-20)完美世界股票代码是什么?完美世界股票解析 完美世界今年股票
- (2022-06-20)1.6亿人想买的产品,天猫在618为它开了个“专区”
- (2022-06-20)失业补助金每月几号发到卡上?天津失业补助金每月几号发?
- (2022-06-20)医疗保险怎么查询?12333社保个人查询网 2022医保缴费查询
- (2022-06-20)2022年深圳产假多少天?广东产假178天还是98天?
- (2022-06-20)油价什么时候能降下来?油价上涨的原因是什么?2022油价调整时间表
- (2022-06-20)养老保险怎么交?社保交满15年退休能领多少钱?
- (2022-06-20)2022年千金藤素上市公司有哪些?哪些上市公司能生产千金藤素?
- (2022-06-20)中国铁通宽带一年多少钱?2022年铁通宽带价格表
- (2022-06-20)少林寺门票价格多少钱一张?少林寺团游多少钱?
- (2022-06-20)招商银行滞纳金是按日算还是月?1万元税收滞纳金怎么算?
- (2022-06-20)十城统“烤” 宁夏盐池滩羊“以节兴市”促消费
- (2022-06-20)9家A股拟发行GDR 什么是GDR?GDR有什么用?
- (2022-06-20)首批REITs将迎解禁 中金普洛斯仓储物流封闭式REIT为12亿份
- (2022-06-20)A股市场融资余额增多 电力设备大涨逾13%
- (2022-06-20)截至2022年3月底 已登记的证券类私募基金管理人9117家
- (2022-06-20)微资讯!伊拉克石油部:伊拉克反对干涉欧佩克的决策
- (2022-06-20)美股市场低利率红利期步入尾声 美股核心资产普遍下跌
- (2022-06-20)大金融厚积薄发 中国平安(601318)综合金融和科技实力突出
- (2022-06-20)银行股低估值是安全垫 华泰证券(601688)优化交易平台体系
- (2022-06-20)新动态:上海石化火灾现场应急处置工作基本完成
- (2022-06-20)天天快报!“巨型海上石油加工厂”在大连完工交付
- (2022-06-20)济郑高铁郑州至濮阳段正式开通运营 创造一项世界纪录
- (2022-06-20)新动态:规范成品油市场经营行为
- (2022-06-20)热推荐:多因素致国际油价高位震荡
- (2022-06-20)今日要闻!重点项目观摩丨延长石油杏子川油田CO₂驱油与封存示范工程:变废为宝助增产
- (2022-06-20)今日热闻!湖北竹溪县委宣传部联系实际下基层挖典型