创头条App
扫码下载APP
扫码下载APP

您是个人用户,您可以认领企业号

    免密码登录
  • 图形验证码
  • 获取验证码
  • 立即登录
第三方账号登录
·
·

Hello,新朋友

在发表评论的时候你至少需要一个响亮的昵称

GO
资讯 > VR/AR > AI应用风险「警示录」:我们创造了贫困,但算法却无力改变
分享到

AI应用风险「警示录」:我们创造了贫困,但算法却无力改变

时间:05-14 22:00 阅读:4597次 转载来源:搜狐科技

摘要:原标题:AI应用风险「警示录」:我们创造了贫困,但算法却无力改变编译|张震来源|卫报作者|VirginiaEubanks我们生活在一个紧缩开支的环境中。仅在过去几个月里,我们看到美国发生很多这种情况:政府公布的一项联邦预算提议减少对低收入者住房的支持,一项削减福利项目的行政令,以及一项在全国范围内建立贫困和工薪阶层人员电子登记册的计划。在福利削减的情况下,哪些家庭能够获得住房、食品和医疗保健这些基本的人类需求?又有哪

原标题:AI应用风险「警示录」:我们创造了贫困,但算法却无力改变

编译| 张震

来源| 卫报

作者| Virginia Eubanks

我们生活在一个紧缩开支的环境中。

仅在过去几个月里,我们看到美国发生很多这种情况:政府公布的一项联邦预算提议减少对低收入者住房的支持,一项削减福利项目的行政令,以及一项在全国范围内建立贫困和工薪阶层人员电子登记册的计划。

在福利削减的情况下,哪些家庭能够获得住房、食品和医疗保健这些基本的人类需求?又有哪些家庭不能获得呢? 现在,更多的是算法——而非人类来做出这种决定。

2010 年以来,我跑遍全国,研究并撰写高科技工具对公共服务项目影响的文章。

在印第安纳州,我调查了一项旨在实现国家福利资格流程自动化和私有化的应用案例。

在洛杉矶县,我研究了协调入住系统,这是一个数字工具,目的是将最适当的可用资源与最需要帮助的无家可归者进行匹配。

在宾夕法尼亚州的阿利根尼县,我研究了一个统计模型,该模型可以预测哪些儿童将来会成为被虐待或被忽视的儿童。

在我访问的每个地方,政策制定者、数据科学家和社会工作者都讲述了一个非常一致的事实:

公共项目对人工智能的需求很大,但提供帮助的能力很有限。

他们告诉我,自动化决策的目标是更公平地分配有限的资源,同时让算法在那些饱受痛苦,被边缘化的人群中做出取舍,避免人类因选择而需承担的心理压力。

在这张2017年10月28日的文件照片中,一个无家可归的人从洛杉矶贫民区的垃圾桶里拿食物,这个地区是全国最大的无家可归者聚集地

洛杉矶第三区关注住房和无家可归问题的议员莫莉•莱斯曼 (Molly Rysman) 在 2015 年谈到协调入住问题时表示:

我们 (对住房) 有着非同寻常的需求,但我们无法同时满足所有的这些需求。所以必须弄清楚:我们怎样才能做到让那些因流血快要死亡的人去看医生,让那些得了流感的人再等一等?这样的选择让我们很难过,但这就是我们所面临的现实问题。

其结果是,用于管理贫困的数字工具大量涌现,也减轻了我们因在解决经济困难方面的不足而不安的感觉。

自动化的资格认证体系取消了一线社会工作者的酌处权,福利办公室也被网上电子表格和私有化的呼叫中心所取代。

为了降低项目障碍和消除人类偏见而做出的努力似乎往往会产生相反的效果,反而阻碍了成千上万的人获得他们应得的服务。

例如,在印第安纳州,来自埃文斯维尔(Evansville)的 Omega Young 因没能参加电话再认证的预约从而没能获得医疗补助的覆盖。她错过了这个电话,因为她当时正因癌症晚期而入院接受治疗。

算法扮演着道德温度计的作用,筛选调查数据,根据它们计算出的贫困程度对无家可归的人进行排序。在最理想的状态下,这确保了那些最需要帮助的人更快地得到帮助。

但由于廉价住房的稀缺,就产生了「值得」这种情况,往往意味着这些住房会优先考虑那些服务最具成本效益的人。

预测模型利用统计数据来预测哪些父母会虐待自己的孩子。但是作为预测模型基础的数据仅仅集中在使用公共项目的家庭身上,导致高科技风险检测系统混淆了教养无方和无力教养的差别。

在匹兹堡,新的阿勒格尼家庭筛选工具(Allegheny Family Screening Tool)以人类服务部门公共服务数据库提供的 131 个不同变量作为权重进行评价,包括一个家庭是否接受 Snap,抑郁支持,或者城镇提供的医疗援助,以决定哪些电话应该打给该县的虐待和忽视热线,以便对儿童福利进行调查。

换句话说,我们越来越倾向于使用数字工具来对饱受贫困之苦的家庭进行排名和评价,已决定哪些家庭最应该得到帮助。

这种高科技鉴别方法的问题在于,它把社会问题当作自然灾害来对待,将社会问题看成是随机的、暂时的、不可避免的事情,这种方式掩盖了产生这些问题的政治抉择。

拿我在 Skid Row 和南洛杉矶的报道中亲眼目睹的住房危机为例,仅在洛杉矶县就有 5.8 万人无家可归,超过了瑞典、挪威、丹麦、芬兰和冰岛无家可归人数的总和。自 2014 年以来,洛杉矶县的无家可归人口每年都在增长; 去年,这一数字增加了23%。

在洛杉矶市中心,一个无家可归者的帐篷在幸运大街 (Lucky Ave) 前的人行道上搭起了帐篷。

可以看到,洛杉矶的住房危机不是随机的、暂时的或者不可避免的,过去不是,现在也不是。

上世纪 50 年代,反对者通过向众议院非美活动调查委员会(House un-American activities committee)报告住房管理部门,阻止了建造 1 万套廉价住房的计划。为穷人和工薪家庭提供住所的想法被认为是共产主义行为。

在 20 世纪 60 年代,该城进行总体规划时,拆除了那些老旧社区,但却没有建造替代性的住房。

无家可归问题是缩减开支政策的产物。

造成这种情况的原因是社会福利性住房供应不足,再加上收入水平停滞不前,公共服务体系不健全,将太多的资源用于了其他的地方,而那些需要帮助的人却无法得到法律上有权得到的援助。

美国住房危机是美国集体的责任,一个好的好消息是:如果我们制造了这场灾难,我们也能解决它。两个简单但在政治上很具有挑战性的补救措施,可以大大遏制住房问题的增长。

首先,拥有房屋的人可以同意放弃我们抵押贷款利息的减免。社会学家马修 · 德斯蒙德(Matthew Desmond)指出,作为一个国家,我们在 2016 年花费了大约 410 亿美元用于为穷人提供住房。

然而,我们在房屋所有者税收补贴上花费了逾 4 倍的资金——1710 亿美元,这些补贴主要惠及的是年收入超过 10 万美元的家庭。将这些资金用于创造和稳定低收入住房,可以在一年内解决无家可归的问题。

2015 年 11 月 20 日,费尔南多·洛佩兹在洛杉矶的洛杉矶河里洗澡。

其次,我们可以降低接受社会服务的障碍,增加对 TANF(「贫困家庭临时救助计划」(Temporary Assistance for Needy Families))、 Snap、 EITC(「Earned Income Tax Credit」收入所得税存款)和其他经济情况调查的津贴补助。

当一个家庭面临健康紧急情况、住房危机或失业时,没有多大进步的公共福利水平对他们几乎没有任何选择的余地。

在洛杉矶,自 1982 年以来,一般的救济金一直停留在每月 221 美元的水平。2015 年,《洛杉矶时报》报道称,每月有 13,000 名接受公共援助的人沦为无家可归者,仅仅是因为他们的福利水平与生活成本不相适应。

美国对日益严重的经济危机的处理,在缺乏政治意愿的情况下,高科技工具只会放大现有的不平等。然而,我们正在加倍实施紧缩性的政策,而不是直面极端贫困的根源。

紧缩性的支出政策意图削减本就十分缺少资金的项目金额。它的系统工程方法在效率和成本节约的双重要求下正取代我们所有的社会价值观——尊严、自决、公平、正当程序。

营养不良的悲惨处境、无家可归、可预防性的死亡和家庭破碎,筛查方法一直在强化极端贫穷也是一种生活——这种生活只能进行管理而无法完全根治,从而,这种筛查方法使我们免于对这些国家非自然原因产生的问题免于承担责任。

随着紧缩政策的扩大,自动化决策系统会扮演着绝对公正者的角色,那些涉及谁能生存,谁能获得救助而谁有不能的艰难抉择将留给系统自动做出。

我们授权机器做出这些决定,因为这种决定对我们来说太难了。我们知道,在决定别人生命价值的时候根本不存在一个道德的标准。

专访贝索斯,做一个亿万富翁兼电商帝国缔造者是一种怎样的体验?

声明:该文章版权归原作者所有,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本网联系。

评论

未登录的游客
游客

    为您推荐
  • 推荐
  • 人物
  • 专题
  • 干货
  • 地方
  • 行业
+加载更多资讯

阅读下一篇

《老大说》坚持涂料品牌23年——访中山市百事得化工总经理廖智南

《老大说》坚持涂料品牌23年——访中山市百事得化工总经理廖智南

返回创头条首页

©2015 创头条版权所有ICP许可证书京ICP备15013664号RSS