中央政府使用的人工智能和算法工具将在公共登记册上发布,此前警告称它们可能包含“根深蒂固的”种族主义和偏见。
官员们本周末证实,因涉嫌保密和存在偏见风险而受到活动人士质疑的工具将很快被命名。该技术已被用于多种目的,从试图检测假婚姻到根除福利索赔中的欺诈和错误。
此举对于那些一直在挑战人工智能在中央政府部署的活动家来说是一次胜利,而该技术可能会在公共部门迅速推广。诉诸司法的慈善机构公法项目(PLP)的高级研究员卡罗琳·塞尔曼(Caroline Selman)表示,这些系统的存在、细节和部署缺乏透明度。 “我们需要确保公共机构发布有关这些正在迅速推出的工具的信息。所采用的技术是合法、公平和非歧视的,符合每个人的利益。”
2020 年 8 月,内政部同意停止使用计算机算法来帮助分类签证申请,因为据称该算法包含“根深蒂固的种族主义和偏见”。在移民福利联合委员会和数字版权组织 Foxglove 提出法律质疑后,官员们暂停了该算法。
Foxglove 声称,一些国籍的人会自动获得“红色”交通灯风险评分,而这些人更有可能被拒绝签证。它说这个过程相当于种族歧视。
去年,该部门还因一种算法工具而受到挑战,该工具可以检测用于颠覆移民管制的假婚姻。人民党表示,它似乎可能歧视某些国家的人,向该慈善机构披露的平等评估显示,保加利亚、希腊、罗马尼亚和阿尔巴尼亚人更有可能被转介接受调查。
政府的数据伦理与创新中心(现为负责任的技术采用部门)在 2020 年 11 月的一份报告中警告说,有很多例子表明新技术“根深蒂固或放大了历史偏见,甚至造成了新形式的偏见或不公平” 。
该中心于 2021 年 11 月帮助部署人工智能和算法工具的公共机构制定了算法透明度记录标准。它建议将与公众互动或对决策有重大影响的模型发布在登记册或“存储库”上,并详细说明如何以及为何使用它们。
迄今为止,三年内仅在该存储库中发布了 9 条记录。这些模型都不是由内政部或工作和养老金部(DWP)运营的,而这些系统运营着一些最具争议的系统。
上届政府在二月份关于人工智能监管的咨询回复中表示,将强制各部门遵守报告标准。科学、创新和技术部 (DSIT) 本周末证实,各部门现在将根据该标准报告该技术的使用情况。
DSIT 发言人表示:“技术在改善公共服务方面具有巨大潜力,但我们知道维持正确的保障措施非常重要,包括在适当的情况下进行人工监督和其他形式的治理。
“算法透明度记录标准现在对所有部门都是强制性的,许多记录即将发布。我们继续探索如何将其扩展到整个公共部门。我们鼓励所有组织以通过工具、指南和标准建立公众信任的方式使用人工智能和数据。”
各部门可能会面临进一步的呼吁,要求披露有关其人工智能系统如何工作以及为降低偏见风险所采取的措施的更多细节。 DWP 正在使用人工智能来提前检测普遍信用索赔中潜在的欺诈行为,并且正在开发更多功能来检测其他领域的欺诈行为。
在其最新的年度报告中,该公司表示,已对其使用人工智能进行普遍信用预付款索赔进行了“公平”分析,该分析并未“立即出现任何歧视问题”。由于担心发布可能“让欺诈者了解该模型的运作方式”,DWP 尚未提供其评估的任何细节。
PLP 支持针对 DWP 因使用该技术而可能采取的法律行动。确实如此,敦促该部门提供有关如何使用该技术以及为减轻伤害而采取的措施的详细信息。该项目已经编制了自己的政府自动化决策工具登记册,迄今为止已跟踪了 55 个工具。
版权声明
本文为本站原创内容,转载需注明文章来源(https://www.eiefun.com),另:文中部分素材可能会引用自其他平台,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除