英国数百名社会工作者已经开始使用人工智能系统来记录对话、起草给医生的信件并提出人类工作者可能没有考虑到的行动建议。
斯温顿、巴尼特和金斯顿的议会等七个议会目前正在使用社会工作者手机上的人工智能工具来记录和分析面对面的会议。 Magic Notes AI 工具几乎可以即时撰写摘要并建议后续行动，包括起草给全科医生的信函。还有另外两打议会已经或正在试点。
Beam 声称，通过减少社会工作者记笔记和填写报告的时间，该工具每年有可能节省高达 20 亿英镑。Beam 是该系统背后的公司，从 Meta 和微软招募了员工。
但这项技术也可能引起人们的担忧，即忙碌的社会工作者如何权衡人工智能系统提出的行动，以及他们如何决定是否忽略拟议的行动。
英国社会工作者协会欢迎人工智能系统为面对面工作腾出时间，但表示它们“绝不能取代基于关系的社会工作实践和决策”。
一个试点委员会表示，需要进一步确保人工智能工具在记录可能改变生活的选择之前准确地总结会议内容。
根据伦敦卡姆登区的影响评估，一名角色扮演客户的人顺便提到，他们在使用手机时遇到了一些困难。人工智能生成了一份案例摘要，其中添加了一项潜在的行动来研究他们的技术培训，但角色扮演中的两个人都没有意识到这一点。
提供 Magic Notes 的 Beam 首席运营官塞布·巴克 (Seb Barker) 表示，飞行员的反馈都没有表明社会工作者会简单地按照 Magic Note 的指示去做；摘要和后续行动必须得到人员的批准。他表示，没有证据表明社会工作者在与客户会面时会停下来让人工智能制定行动计划。
英国有十分之一的成人社会工作者职位空缺，2023 年儿童和家庭社会工作者的职位空缺率是自 2017 年以来第二高，这使得政府对风险的评估达到“严重”。
斯温顿市议会已签署了一份为期六个月的使用该技术的合同，并表示该技术特别有助于患有阅读障碍的社会工作者。负责成人社会关怀事务的内阁成员雷·鲍尔曼议员表示，这“对我们的同事来说改变了游戏规则”。
威尔特郡议会的平等影响评估表示：“该工具不会就对话的撰写做出决定或采取完全自动化的行动：从业者必须始终拥有最终决定，并进行适当的质量检查和监督。”
时事通讯促销后
伦敦巴尼特区正在向 300 名成年社会护理人员提供该工具，因为工作人员“发现该工具可以让他们更充分地与居民互动”、节省时间并且“没有发现任何偏见问题”。一位发言人表示，人工智能摘要只是一个“起点”，需要由社会工作者编辑并由管理人员检查，然后才能作为正式记录归档。
根据国家审计署最近的评估，70% 的英国政府部门正在试点或计划使用人工智能系统。但支出监管机构表示，老化的 IT 系统、技能差距和数据质量问题可能会阻碍公共部门利用快速发展的技术。英国没有人工智能中央监管机构，但工党政府计划立法“对那些致力于开发最强大人工智能模型的人提出要求”。
Magic Notes 系统收集敏感信息，包括健康状况、个人财务、地址、出生日期、电话号码、性取向、种族血统和宗教信仰。它部署了旧金山公司 Deepgram 和 OpenAI 开发的人工智能算法。巴克表示，这些录音保存在 Beam 位于英国的服务器上，这些数据不会用于训练 Magic Notes 或任何其他人工智能系统。
克罗伊登市议会发言人表示：“我们正在评估该试点项目，并将在继续进行之前进行全面评估。人工智能的任何使用都将受到适当的检查和治理。”
英国社会工作者英格兰协会全国主任 Maris Stratulis 表示：“我们呼吁对人工智能进行监管，建立一个关于其使用的道德原则的国家框架，以及人工智能应用程序何时使用以及由哪些行业使用的透明度。对公民负责并维护人权。”
版权声明
本文为本站原创内容,转载需注明文章来源(https://www.eiefun.com)，另:文中部分素材可能会引用自其他平台，如有侵权或其它，请联系 admin@eiefun.com，我们会第一时间配合删除