肢体语言分析、声音评估、游戏化测试与简历快速扫描。时至今日,一些企业正利用一系列基于AI技术的招聘工具高效候选求职群体。也就是说,求职者们开始接受机器的检验,而AI成为判断他们是否适合特定岗位的主体。 企业越来越依赖这种看似高效的技术流程。IBM在2023年末对全球8500多位IT专业人士开展的一项调查显示,42%的企业正在使用AI筛选以“改善招聘与人力资源工作”,另有40%的受访者也表示正在考虑引入这项技术。 企业界的不少领导者,都希望AI招聘技术能够消除传统招聘流程中的种种偏见。但事实证明

AI招聘工具恐让企业错失最强求职者

肢体语言分析、声音评估、游戏化测试与简历快速扫描。时至今日,一些企业正利用一系列基于AI技术的招聘工具高效候选求职群体。也就是说,求职者们开始接受机器的检验,而AI成为判断他们是否适合特定岗位的主体。

企业越来越依赖这种看似高效的技术流程。IBM在2023年末对全球8500多位IT专业人士开展的一项调查显示,42%的企业正在使用AI筛选以“改善招聘与人力资源工作”,另有40%的受访者也表示正在考虑引入这项技术。

企业界的不少领导者,都希望AI招聘技术能够消除传统招聘流程中的种种偏见。但事实证明,某些场景下,情况恰恰相反。部分专家表示,这些工具可能无法准确筛选出最合格的求职者,人们甚至开始担心AI软件会剔除掉最好的候选人。

《算法:AI正在劫持你的职位、窃取你的未来》(Algorithm: How AI Can Hijack Your Career and Steal Your Future)一书作者、纽约大学新闻学助理教授Hilke Schellmann表示:“目前还没有充分证据表明AI招聘能够克服偏见……也无法证明AI工具可以挑选出最合格的候选人。”在她看来,此类软件给劳动力市场带来的最大风险并不像人们担心的那样由机器取代人类职位,而是从根本上让人们找不到工作。

伤害尽在不言中

不少合格的求职者,都发现自己没办法通过招聘平台的技术筛选。

在2020年备受瞩目的一个案例中,英国化妆师Anthea Mairoudhiou表示,她的公司要求她在疫情休假之后重新申请职位。AI筛选程序HireVue对她的过往表现进行了评估,发现尽管她的技能评估排名很高,但AI对她的肢体表达评分却很低,导致她彻底失去了这份工作。(HireVue公司随后于2021年取消了人脸分析功能。)Schellmann指出,其他员工也对类似平台提出了种种抱怨。

她补充称,求职者往往不清楚AI工具给出的结论,是否成为公司拒绝他们的核心理由。总的来看,AI软件并不会告知用户评估的依据和问题所在。她同时还强调,唯一可以肯定的就是AI招聘平台存在不少系统性缺陷。

在另一案例中,某位被刷掉的用户提交了同一份申请,只是修改了出生日期让自己显得更年轻。就这简单一改,让自己获得了参与面试的机会。还有一家公司,AI简历筛选程序通过现有员工的简历内容接受了重新训练,因此只要求职者在爱好栏中填上“棒球”或者“篮球”——也就是跟优秀男性老员工的爱好相同,系统就会给他们加分。而填上“垒球”的大多是女性,则会被系统无情减分。

Schellmann还表示,边缘化群体也经常“遭到忽视,因为他们的毕业院校和兴趣爱好跟主流群体不太一样。”

在某些情况下,AI系统甚至会做出明显涉及偏见的评判——比如年龄歧视或者性别歧视。但在多数情况下,一切都被藏在黑箱当中、毫无透明度可言。在她的研究中,Schellmann申请了一份客服中心的工作,并接受AI系统的筛选,最终得到了雇主的录用通知。可问题是她在该说英语时是在用德语乱讲一气,却在面试环节得到了很高评价;至于内容满满的真实简历,倒是被AI贬得一文不值。

她担心这种负面影响会随着技术的发展而进一步蔓延。在她看来,“心怀偏见的招聘经理已经够要命了,可能在一年之内伤害好多人。可一旦大公司用于处理申请材料的算法存在偏见……那受到伤害的很可能是数十万名申请者。”

“没人知道问题出在哪里”

她解释称,“根本没人知道问题出在哪里。”而且考虑到企业想要利用AI取代人力资源部门以节约资金,就是说AI必然会在短时间内处理大量简历,所以雇主根本没有动力复核流程中可能出现的问题。

根据她的研究,Schellmann还担心AI招聘软件厂商会“急于”将不够完善、甚至存在缺陷的产品推向市场,从而尽快攫取收益。“供应商们绝对不会承认自己的产品有问题,甚至损害人们的利益”,而使用这些产品的企业则“担心自己会面临大规模集体诉讼。”

牛津大学互联网研究所技术与监管教授Sandra Wachter表示,对AI招聘技术的正确使用必须得到各方重视。

她解释道:“保证AI系统的公正性与公平性不仅是道德和法律层面的要求,更有利于企业的切身利益。其中蕴藏着重大机会,能够保证AI正确发挥自己的优势,从而做出更公平、更公正的决策,同时帮助企业节约成本、提升效益。”

Wachter正致力于联合各方建立条件性人口统计差异测试,希望通过这种公开可用的工具帮助企业识别出偏见问题。“它可以充当警报系统,通知雇主当前算法是否存在偏见,并提供各种线索以帮助识别出具体偏见。”她还提到,“这种不平等源自招聘决策标准的制定,企业必须做出调整以保证系统的公平性和准确性。”自2020年立项以来,亚马逊和IBM都已经在实际应用这项技术。

与此同时,Schellmann还呼吁政府和非营利组织在全行业范围内建立“护栏与监管制度”,确保当前问题不致于长期存在。如果不抓紧时间进行干预,她担心AI很可能会加剧不平等问题,让未来的工作环境比过去更加糟糕。

Hijack偏见工具简历求职者发布于:北京市声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。

上一篇:美联储巴尔金:正在关注1个月与3个月期通胀指标 而不是12个月的长期指标    下一篇:2月23日基金净值:永赢稳益债券最新净值1.0903,涨0.06%    


Powered by 股票融资条件_股票融资规则 @2013-2022 RSS地图 HTML地图

Copyright 365站群 © 2014-2024 联华证券 版权所有