亚马逊AI惹众怒:一个没有意识的程序,竟然自己学会了“重男轻女”

时间:2020-01-09 来源: 热点专题

亚马逊遭遇了重大挫折。

很长一段时间以来,这个电子商务巨头一直在使用人工智能来提高效率,但我从未想到的是,原本被认为是公平、公正和无意识的人工智能也会“死去”

好吧,如果你不学习,你就必须学习别人对男孩的偏爱胜过对女孩的歧视。

路透社刚刚揭露了这个内部秘密。“事件”引起了相当大的轰动。

外国网民开始诉说他们的不满,讲述他们经历的不公平事件和美妙的计算机系统。另一组网民开始分析问题的原因。

亚马逊也掀起了一股讽刺的浪潮:

“可以说这种人工智能非常成功,因为它模仿了亚马逊目前的招聘状况。”

带有色眼镜的人工智能屏幕是许多人力资源部门的核心工作之一。对于像亚马逊这样的大公司来说,不仅有许多工作,还有许多求职者提供同样的工作。因此,没完没了地浏览简历成为人力资源部门的日常工作。此外,在收到的同一职位的简历中,总有一些不符合就业标准的“无关紧要”的简历。即使合适的人也会被归类为369人。有些人很优秀,而有些人比优秀的人更优秀。从求职者中选择最合适的人也是人力资源人员头疼的问题。

你能找到一个人工智能来帮助人力资源人员自动筛选简历吗?

所以,作为一家电器公司,亚马逊将其每日用星星标记商品的功能转移到人工智能上来标记求职者的简历。这样,人力资源人员可以高兴地说:“我,只看五星简历,人工智能很快为我挑选出来。”

该项目始于2014年,亚马逊的机器学习团队开始开发简历筛选人工智能。

但是到了2015年,亚马逊发现:哦,不,这个人工智能还不够好,已经学会了人类的性别歧视。

如果人工智能对提供“软件开发工程师”或其他技术职位的求职者的简历进行评分,它会将包含关键词“女性”的简历标记为低星号,而“男性”不会受到影响。

此外,如果简历上说申请人毕业于两所女子大学,人工智能也会给申请人一颗星星。路透社的线人没有说是哪两所学校。

人类能否找到工作取决于“人工智能的脸”。作为一名女性求职者,人工智能为什么要评判我?在美国,对这种可疑的歧视稍有疏忽就会导致大量的反对和大量的负面影响。亚马逊很快修改了人工智能,使其对“男性”和“女性”两个词保持中立。

但是,更改无法完成。今天教人工智能不要歧视女性。明天它会歧视黑人吗?后天会歧视同性恋、双性恋和变性者吗?后天它会发射地图枪吗?这些都不确定。

这取决于它“吃”了什么,和什么一起长大,也就是说,人工智能用什么数据训练。

都是你的人类罐子!

一个好的人工智能如何在成长过程中自动学会性别歧视的坏习惯?

这取决于它“吃”了什么,和什么一起长大,也就是说,人工智能用什么数据训练。

不幸的是,亚马逊仍然不得不独自承担责任,因为人工智能“吃掉”亚马逊自己的招聘数据,这些数据来自亚马逊过去10年收到的简历。根据这些简历,亚马逊的人工智能已经学会挑选男性求职者。

有很多人吗?

这些数据怎么了?根据路透社的分析,这可能是因为科技行业的大多数技术职位都是由男性占据的。

路透社整理了这些公司自2017年以来发布的数据,从中可以看出,对于谷歌、苹果、微软和脸书等公司来说,男性占总数的2/3,而选择技术职位的男性比例接近4/5。

人工智能从人类身上学到了歧视。

然而,数据的大小并不意味着少数数据会受到歧视,我相信亚马逊人工智能不会笨到只选择简历数据中大多数人的共同特征。这难道不会错过一些才能吗?

在黑客新闻(Hacker News)和红迪网(Reddit)的评论部分,一些对技术了解更多的网民将矛头指向了数据中反映的亚马逊在招聘中存在的性别歧视。

从技术上讲,可以说这种人工智能是成功的,因为它模仿了亚马逊目前的招聘状况。

并给出背后的逻辑。

机器学习过程不会引入任何偏差,但是训练数据中的任何偏差都会如实地显示在算法中。

换句话说,人工智能本身是一个无辜的“婴儿”,不会自主学习偏见和歧视。然而,如果亚马逊对教“婴儿”的“老师”的招聘数据有偏见,那么这些偏见将被“通过言行”教授给无辜的人工智能。

或者,人工智能从人类社会学到了人类偏见和歧视。

我们不想人工智能歧视女性,但这并不容易,因为人工智能不能忽视它所学习的人类社会中对女性的歧视。这绝对是一个难题,不仅在技术上,而且在哲学上。

人工智能无意中了解了人类的邪恶。这不是第一次了。

Tay,微软在此之前的聊天机器人,曾经在推特上学习过那些极端的人类言论,诅咒女权主义者和犹太人。

这次,人为错误让人工智能重复了同样的错误。"显然,我们还没有从微软泰勒中学到任何教训."一些网民评论道。

这个人工智能取决于关键词?

这不仅仅是训练数据的问题。路透社的报告还披露了亚马逊人工智能培训的细节。

?为特定的工作职能和职位开发了500个模型。

,训练每个模型来识别过去求职者简历中出现的近50,000个关键词。

?模型算法根据求职者技能的重要性对其进行优先排序。

所以这个人工智能,很多工作是捕捉关键词。例如,在男性求职者的简历中,它更喜欢使用“执行”和“抓住”这两个词,这也导致女性求职者在另一个方面处于不利地位。

因此,这也是性别歧视的一个原因。甚至,它可能给人们“钻空子”的机会。一位网友在

Reddit上评论道:

“亚马逊阅读简历的人工智能从一开始就注定要失败,因为任何人都可以学会如何写好简历。让我写一份医生简历。我打赌我比真正的医生写得更好。”

想想关于“简历写作技巧”的培训。他们是否都告诉过你,人力资源阅读简历只需要20到30秒,简历中的一些关键词和重要数据会吸引人力资源的注意力?

因此,这种捕捉关键词的机制使得许多人通过在简历中强行插入关键词来获得更高的星级,从而造成另一种不公平。

人工智能招聘是一个漫长的过程。

根据Careerbuilder 2017年在美国进行的一项调查,55%的人力资源经理表示,他们将在未来五年的日常工作中采用人工智能作为工具。

一些“激进”或有大量招聘需求的公司已经将人工智能应用于招聘过程。例如,希尔顿酒店将使用聊天机器人面试求职者,并在进入下一轮面试前为他们匹配合适的职位。

希尔顿招聘部副主任莎拉斯玛特在接受采访时说,“人工智能将分析求职者的语气、眼睛和回答的表情,以确定他们是否对自己的工作充满热情,从而帮助我们筛选求职者。”

具体的经历怎么样?经验丰富的聊天机器人采访者贾普瑟雷伊(Japser Rey)说,“和聊天机器人说话时,我不用担心分心,机器人也不用戴有色眼镜来判断人。它相对更加公平和公正。”

相对而言,大多数公司并不把人工智能放入具体的招聘决策环节,而只是作为一种辅助工具。

百度:人工智能适用于招聘。在今年的校园招聘中,人工智能被用来分析简历和推荐职位。

高盛:开发了一个简历分析工具,将求职者与“最合适”的部门相匹配。

LinkedIn:根据网站上公布的工作信息,该算法用于向雇主提供求职者的排名。

虽然人们不太喜欢人工智能招聘,但他们无法阻止人工智能最终会影响你找工作的趋势。

只会迟到,但不会缺席。

youtube.com

频道热点
新闻排行
  1. 在过去两年升温的新汽车制造运动中,肖鹏的汽车是一个很好的选择。不像威来汽车和乐视汽车具有传统汽车公司

    在过去两年升温的新汽车制造运动中,肖鹏的汽车是一个很好的选择。不像威来汽车和乐视汽车具有传统汽车公司...

  2.     由李小璐、李佳航、李泽锋、陈小纭主演的都市情感悬疑剧《读心》已于本周接近播出尾声。《读心》兼

        由李小璐、李佳航、李泽锋、陈小纭主演的都市情感悬疑剧《读心》已于本周接近播出尾声。《读心》兼...

  3. 办公室瑜伽随时随地都可以变瘦2015[指南]办公室瑜伽随时随地都可以变瘦。在办公室坐了很长时间后,你觉得背

    办公室瑜伽随时随地都可以变瘦2015[指南]办公室瑜伽随时随地都可以变瘦。在办公室坐了很长时间后,你觉得背...

  4. 投资界(微信标识:学究2012)9月3日报道,据相关媒体报道,玩具租赁平台玩具超人(ToySuperman)今年1月已从艺?

    投资界(微信标识:学究2012)9月3日报道,据相关媒体报道,玩具租赁平台玩具超人(ToySuperman)今年1月已从艺?...

  5. “为了生存!”的一名员工哀叹公司被收购。2011年上半年,也想坚定走融资发展道路的56.COM,几个月后决定以

    “为了生存!”的一名员工哀叹公司被收购。2011年上半年,也想坚定走融资发展道路的56.COM,几个月后决定以...

  6. 北京时间2014年7月29日:国内领先的汽车线束连接器模具及零部件企业天津柯文注塑有限公司(“天津柯文”)近日

    北京时间2014年7月29日:国内领先的汽车线束连接器模具及零部件企业天津柯文注塑有限公司(“天津柯文”)近日...

  7. “为了生存!”的一名员工哀叹公司被收购。2011年上半年,也想坚定走融资发展道路的56.COM,几个月后决定以

    “为了生存!”的一名员工哀叹公司被收购。2011年上半年,也想坚定走融资发展道路的56.COM,几个月后决定以...

  8. 2018年9月18日至19日,由Talk、上海市妇女儿童工作委员会和上海市妇联联合主办的2018年妇女大会在上海举行?

    2018年9月18日至19日,由Talk、上海市妇女儿童工作委员会和上海市妇联联合主办的2018年妇女大会在上海举行?...

  9. 在一个互联网和移动互联网流行的时代,音乐产业不再能仅靠版权收入生存。然而,京东、阿里等互联网公司加入

    在一个互联网和移动互联网流行的时代,音乐产业不再能仅靠版权收入生存。然而,京东、阿里等互联网公司加入...

  10. 3月5日,一段在线视频显示,一名疑似北京口音的年轻人在地铁上当众辱骂两名女性,并在地铁进站后将一名女性

    3月5日,一段在线视频显示,一名疑似北京口音的年轻人在地铁上当众辱骂两名女性,并在地铁进站后将一名女性...

日期归档
友情链接