技术乐观主义者和技术悲观主义者之间的辩论已经持续了几个世纪，随着人类进步的稳步前进带来了从车轮到印刷机再到智能手机的新技术。如今，关于人工智能的对话正变得越来越紧迫。
乐观主义者指出，历史已经无数次证明末日论者是错误的。以印刷机为例：15世纪的天主教会担心信息的传播会破坏整个欧洲的权威和稳定；一些知识分子担心信息落入平民手中会带来危险；手工艺行会反对通过手册实现其技能的民主化。最终，印刷术确实带来了危害——1486年出版的一本猎巫手册为几个世纪以来对被怀疑是女巫的妇女的迫害铺平了道路——但与它的启蒙好处相比，它们简直相形见绌。现代勒德分子并不是一个特别有吸引力的外衣，本周在英国举办的第一届全球人工智能安全峰会上，与会的政客们将面临很大的行业压力，要求他们放弃悲观主义并加入酷派。
回报可能是令人难以置信的。人工智能可以解决人类面临的一些生存挑战的答案：极大地加速发现痴呆和癌症等疾病的新疗法；面对微生物耐药性，创造新的抗生素；设计减少消耗和碳之间权衡的技术。在个人层面上，领先的人工智能专家和学者Stuart Russell表示，人工智能可以为我们每个人提供相当于随时待命的“高能律师、会计师和政治顾问”；为世界各地的孩子提供高质量的一对一辅导。每个人都可以随时接受治疗。
但这些巨大的好处也伴随着巨大的风险。承认人工智能本身可能构成生存威胁，这并不是科幻小说中的幻想。一些世界领先的人工智能技术专家和爱好者已经打破常规，呼吁加强监管。
人工智能的某些特征将使我们迄今为止经历的技术革命相形见绌。首先是它的规模：人工智能已经超越了摩尔定律，该定律预测计算能力将每两年翻一番。当今最尖端的人工智能比十年前强大50亿倍。所以，是的，人工智能将提高生产力，并从根本上改变人类工作的性质，就像它的前身技术一样，但其速度是我们以前从未见过的。虽然技术从未削弱对人类劳动力的需求——在其他工作岗位消失的同时创造了新的工作岗位——但它集中了经济力量并加剧了不平等。我们的政治制度准备好了吗？
除了规模之外，还可能缺乏人类控制。许多人工智能模型都充当黑匣子，其工作原理对用户来说是不可见的。自主人工智能模型正在开发中，可以追求高层次的目标；但开发人员能否预测一旦向世界释放自己将如何发展，以及如何阻止人工智能追求与社会利益不符的目标？对于社交媒体公司，我们已经看到，当他们的利润动机激励他们通过推动两极分化的内容和虚假信息来造成伤害时会发生什么；事实证明，尽管这是一种容易理解、可预测的现象，但监管起来却非常困难。
控制挑战意味着人工智能可以提供巨大的力量来对恶意利益造成破坏，甚至进化成为一
极客FUN (eiefun.com) 专注最新科技和人工智能领域，为您提供最新科技和AI的相关资讯、教程和免费AI工具。
版权声明
本文为本站原创内容,转载需注明文章来源(https://www.eiefun.com)，另:文中部分素材可能会引用自其他平台，如有侵权或其它，请联系 admin@eiefun.com，我们会第一时间配合删除