行业报告 AI展会 数据标注 标注供求
数据标注数据集
主页 > 大数据 正文

亚马逊放弃AI招聘工具,人工智能依然不能取代人

智造观点

对HR来说,最为重要的就是要招到对的人。高水平的面试官再加上多轮面试,往往会提高这次招聘的准确率。但多轮面试所提升的准确率,却是以牺牲工作效率为代价的。

而人工智能依赖于其强大的计算能力和,能够进行自动化的人才甄选,包括自动化笔试、面试以及基于聊天机器人的甄选工具。如此,人工智能便可以成倍地减少企业搜寻人才的时间,面试的效率将会得到大幅提升,使得HR们能用更多的精力去找到“对的人”。

只不过,理想很美好,现实很骨感,在真正使用人工智能进行招聘的过程中,AI偏见问题依然是目前无法得以解决的一个挑战。

前不久,美国《侨报》报道称,随着人工智能的快速发展,聊天机器人也开始被用在招聘求职中。具体而言,利用聊天机器人,公司在很短的时间内就能搜索到求职者,查看分析他们的技能,来匹配公司的招聘需要,从而安排下一步的面试程序。而求职者则需要和机器人斗智斗勇,方能得到进入第二轮面试的机会。

对此,希尔顿招聘副主管Sarah Smart表示:“人工智能会分析求职者的语调、眼神和回答的表情,来判断求职者是否对工作富有热情,从而来帮助我们筛选求职者。”当然,人工智能现在一般被用于低水平入门级别的工作招聘中,比如在零售季节性招聘时,大部分公司会选择使用人工智能聊天机器人。

AI招聘虽起作用,但依然存在缺陷

虽然AI招聘已发展的愈发普遍,但也并不是所有相关工具的应用都能一直进行下去,亚马逊的秘密AI招聘工具就是一个例子。最近,该公司的机器学习专家从其工具中发现了一个大问题:他们的新招聘引擎并不喜欢女性。有知情人士透露,该团队自2014年以来一直在建立计算机程序,以审查求职者的简历,目的是自动化寻找顶尖人才。

1000 (3)

讲真,自动化是亚马逊电子商务占市场主导地位的关键,无论是在仓库存储还是在推动定价决策上,人工智能都起到了一定的作用。除此以外,有知情人士透露,该公司正在研发一种实验性的招聘工具,试图通过人工智能技术对求职者进行一到五星级的评分,这有点类似于购物者对亚马逊商品进行评分一样。

知情人士表示,“每个公司都想要这个‘圣杯’,他们想要一个这样的引擎,可以从100份简历里排出前五名,然后直接进行雇佣。”只不过到了2015年,亚马逊逐渐意识到其新系统并未以性别中立的方式去评定这些候选人。

而造成这种结果的原因在于亚马逊的计算机模型的培训。简单来说,该公司通过向其算法提供10年内公司收到的简历来审查求职者,但在这些简历资料中,大部分都是男性,这也反映出了整个科技行业中男性的主导地位。

因此,亚马逊的系统便“记住”了男性求职者录取的概率更高,降低对女性简历录取的概率。虽然亚马逊建立了某些程序,使其对一些特定术语保持中立,但这还是不能保证机器不会用其他方式来对求职者进行歧视性的分类。

知情人士称,由于高管们对这个项目不再抱有希望,亚马逊最终决定在去年年初解散了该团队。至于亚马逊在进行人员招聘时,不会完全依赖于该系统产生的排名,只会查看这一工具提出的建议。对此,亚马逊拒绝评论其招聘引擎或面临的挑战,但该公司表示,它致力于工作场所的多样性和平等。

亚马逊的失败,为其他巨头提供了教训

关于亚马逊实验性的AI招聘工具,可以说是一个机器学习局限性的案例研究,同时也为越来越多的大型企业提供了一个教训,包括希尔顿和高盛集团公司,这些企业都在寻求自动化部分招聘流程。

1000 (4)

人才软件公司CareerBuilder 2017年的一项调查显示,大约55%的美国人力资源经理表示,人工智能将在未来五年内成为他们工作的常规部分。实际上,HR想要通过人工智能来提高工作效率,减轻工作负担,本就无可厚非。对很多雇主来说,他们长期以来一直的梦想就是利用技术扩大招聘网络,减少对招聘人员主观意见的依赖。但是,在卡内基梅隆大学教授机器学习的Nihar Shah等计算机科学家表示,要想完全实现,还有许多工作要做,比如,如何确保算法公平以及确保算法真正可解释。

说回亚马逊实验性的AI招聘工具,其开始时间正处于这家全球最大在线零售商发展的关键时期。由于低成本计算能力的激增,机器学习在技术领域越来越受欢迎。同时,亚马逊的人力资源部门即将开始大规模招聘,监管部门的文件显示,自2015年6月以来,该公司的全球员工人数增加了两倍多,达到575,700名员工。

因此,亚马逊选择在其爱丁堡工程中心建立了这样一个已发展到十几个人的团队,旨在开发人工智能,以便快速抓取网络信息并发现值得招募的求职者。据悉,该团队创建了500个专注于特定工作职位的计算机模型。他们会教每个模型认识过去求职者简历中出现的约5万个术语。

但有知情人士表示,在这些算法看来,IT申请者具备的一些常见技能是没什么意义的,比如编写各种计算机代码的能力。相反,这项技术更倾向于男性工程师简历中常出现的动词,像“执行”(executed)和“控制”(captured)。

当然,性别偏见并不是唯一的问题。在一定程度上,支持模特判断的数据如果存在问题,就意味着不符合条件的申请人经常被推荐用于各种各样的工作。而这项技术中出现的随机结果也是亚马逊结束该项目的原因之一。

问题还是解决方案?

除亚马逊外,其他公司的这项技术还在向前发展,这反映出雇主们迫切希望利用人工智能进行招聘的期望。比如,盐湖城附近的一家创业公司HireVue的首席执行官Kevin Parker表示,自动化正在帮助企业减少对招聘网络的长期依赖。他的公司尝试在视频面试中分析求职者的语言和面部表情,以减少招聘对文字简历的依赖。

1000 (5)

另外,像高盛这样的巨头也已经创建了自己的简历分析工具,试图将求职者与他们认为“最合适”的工作部门或职位进行匹配。而微软收购的LinkedIn是全球最大的专业求职平台,可根据其网站招聘信息算法为为雇主提供求职者的排名情况。但该公司副总裁John Jersin表示,其服务并不能取代传统的招聘人员。

“我当然不会相信任何人工智能系统能够独立做出招聘决定,”他说道。“这项技术还没有完全准备好。”另外一些人士则表示,他们担心人工智能的透明度。美国公民自由联盟(ACLU)目前正尝试确立一条法律,允许对那些测试招聘网站的歧视算法的研究人员和记者进行刑事起诉。对ACLU来说,他们已经越来越关注算法的公平问题。

总的来说,和所有代码一样,人工智能的偏见程度暂时只能取决于对它进行编程的工程师及其训练数据。考虑到人工智能在以往人类招聘行为中的模式进行学习,那么就意味着在招聘过程中存在的任何人类偏见行为,它都会学习到。更糟糕的是,如果这种算法偏差没有被HR注意到,那么整个人工智能系统可以做的不仅仅是强化偏见,更可能通过不断对其优化,造成更严重的后果。

撇开招聘不谈,类似的基于人工智能的系统已经暴露出了令人担忧的偏见问题,举个例子,在查找犯罪分子时歧视穷人、在预测犯罪时黑人的犯罪可能性更大,等等。在这些方面需要注意的是,算法编程中一个简单的错误可能会比一个有偏见的人类招聘人员造成的伤害大得多,后果严重的多。

因此,HR以及企业们必须注意到,人工智能还没有准备好创建一个标准来识别最合适的求职者,并确保不以表面价值输出结果,毕竟他们只是一个“没血没肉、没意识”的机器。

 

 

 

 

微信公众号

声明:本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,转载的目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,不为其版权负责。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。

网友评论:

发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:点击我更换图片
SEM推广服务

Copyright©2005-2028 Sykv.com 可思数据 版权所有    京ICP备14056871号

关于我们   免责声明   广告合作   版权声明   联系我们   原创投稿   网站地图  

可思数据 数据标注

扫码入群
扫码关注

微信公众号

返回顶部