旧金山市检察官 David Chiu 正在提起诉讼，要求关闭 16 个最受欢迎的网站和应用程序，这些网站和应用程序允许用户“裸体”或“脱衣”照片，其中大部分是妇女和女孩，这些妇女和女孩越来越多地受到网上坏人的骚扰和剥削。
邱的诉讼称，这些网站“故意”设计为“在未经妇女和女孩同意的情况下制作虚假的裸体图像”，并吹嘘任何用户都可以上传任何照片，通过使用真实交换面孔的技术来“看到任何人的裸体”将真实的受害者转移到人工智能生成的露骨图像上。
Chiu 表示：“在加利福尼亚州和全国各地，受到人工智能生成的”未经同意的亲密图像 (NCII) 骚扰和伤害的妇女和女孩数量明显增加，而且“这种令人痛苦的趋势没有任何减弱的迹象”。西装说。
“鉴于裸体网站的广泛存在和流行”，“旧金山人和加利福尼亚人面临着他们或他们的亲人可能成为这种方式受害者的威胁，”邱的诉讼警告说。
邱在新闻发布会上表示，提起这一“史无前例的诉讼”不仅是为了保护加州人，也是为了保护“全球数量惊人的妇女和女孩”——从泰勒·斯威夫特等名人到中产阶级和女孩。高中女生。如果市政府官员获胜，每个裸体网站将因每项违反加州消费者保护法的行为而被处以 2,500 美元的罚款。
除了媒体报道对人工智能造成的危害发出警报之外，执法部门也呼吁禁止所谓的深度造假。
Chiu 表示，有害的深度赝品通常是“通过利用开源人工智能图像生成模型”创建的，例如稳定扩散的早期版本，可以对这些模型进行磨练或“微调”，以轻松“脱掉”妇女和女孩的照片。经常从社交媒体上撤下。虽然稳定扩散的最新版本使这种“令人不安”的滥用形式变得更加困难，但旧金山市官员在新闻发布会上指出，可微调的稳定扩散早期版本仍然广泛地被不良行为者滥用。
仅在美国，警方目前就因人工智能儿童色情图片虚假报道而陷入困境，以至于很难在线下调查虐待儿童案件，而且这些人工智能案件预计将继续“呈指数级”激增。人工智能的滥用已经蔓延得如此广泛，以至于“联邦调查局已经警告称，利用人工智能生成未经同意的色情内容的勒索计划有所增加，”邱在新闻发布会上说。 “对受害者的影响是毁灭性的”，损害“他们的声誉和心理健康”，导致“丧失自主权”，“在某些情况下导致个人产生自杀倾向”。
Chiu 代表加利福尼亚州人民提起诉讼，正在寻求一项禁令，要求裸体网站所有者停止运营“他们拥有或运营的所有能够创建人工智能生成的”可识别个人的未经同意的亲密图像的网站。 Chiu 说，这是让这些网站“对创建和分发人工智能生成的妇女和女童 NCII 以及帮助和教唆他人实施这种行为负责”的唯一方法。
他还希望颁布一项命令，要求“任何域名注册商、域名注册机构、网络主机、支付处理商或提供用户身份验证和授权服务或接口的公司”“限制”裸体网站运营商推出新网站，以防止任何进一步的不当行为。
Chiu 的诉讼隐去了他调查中发现的最有害网站的名称，但声称在 2024 年前六个月，这些网站“的访问量已超过 2 亿次”。
虽然受害者通常几乎没有法律追索权，但 Chiu 认为，禁止深度伪造色情内容、复仇色情内容和儿童色情内容的州和联邦法律，以及加州的不公平竞争法，可以用来关闭所有 16 个网站。邱预计，这场胜利将向其他裸体网站运营商发出警告，称可能会出现更多的下架行为。
“我们提起诉讼是为了关闭这些网站，但我们也想敲响警钟，”邱在新闻发布会上说。 “生成式人工智能有着巨大的前景，但与所有新技术一样，也会产生意想不到的后果，犯罪分子也会试图利用它们。我们必须清楚，这不是创新。这是性虐待。”
版权声明
本文为本站原创内容,转载需注明文章来源(https://www.eiefun.com)，另:文中部分素材可能会引用自其他平台，如有侵权或其它，请联系 admin@eiefun.com，我们会第一时间配合删除