AI 图像生成器 Midjourney 已停止免费试用其服务，因为它的几代人——包括唐纳德特朗普被捕和教皇穿着时尚夹克的伪造图像——在网上疯传，许多人将假照片误认为是真实照片。Midjourney 首席执行官兼创始人 David Holz 周二宣布了这一变化，理由是“异常需求和试用滥用”（通过华盛顿邮报发现）。
此前，Midjourney 允许任何人通过 Discord 注册使用其软件，在收取每月 10 美元起的订阅费之前提供 25 个免费图像生成。尽管专家多年来一直警告人工智能可能产生错误信息，但鉴于假货很容易被发现，这在以前并不是一个大问题。正如 Holz 去年 8 月告诉The Verge 的那样，“你现在真的不能强迫 [Midjourney] 进行深度造假。”
但是 6 个月对 AI 来说是一段很长的时间，3 月 15 日，Midjourney 发布了其软件的新版本（第 5 版），显着提高了描绘人物的图像质量。例如，畸形手以前是 AI 生成图像的标志，但现在已不再是挑战。灯光和面料也更加逼真，系统能够生成无数名人和公众人物的形象。
最近几周，这些改进导致许多 Midjourney 图像走红。它们不仅包括特朗普被捕和教皇看起来很时髦的假照片，还有法国总统埃马纽埃尔·马克龙走过巴黎正在进行的抗议活动，以及埃隆·马斯克与亚历山大·奥卡西奥-科尔特斯牵手。
迄今为止，Midjourney 对虚假图片带来的政治敏感性不断升级的威胁的反应是零散的，没有对其节制政策进行任何重大改革。Midjourney 的内容限制比一些竞争对手的服务（如 OpenAI 的 DALL-E）更宽松，但比其他服务（即 Stable Diffusion）更严格。
根据 Holz 去年 10 月的消息，Midjourney 保留了一份禁用词列表，“根据这些国家/地区用户的投诉，与不同国家/地区的主题相关”。但它没有共享此列表的完整版本，以尽量减少“戏剧性”。正如 Holz 去年所说，“几乎没有人会注意到 [禁令名单]，除非他们专门尝试制作违反我们 [服务条款] 规则的戏剧，‘不要使用我们的工具来制作戏剧。’” ”
但该公司扩大了这个名单，因为它的假货已经病毒式传播，例如最近禁止使用“逮捕”一词。这似乎是对调查记者艾略特·希金斯 (Eliot Higgins) 创建的描绘特朗普被捕的中途图像的 推特 热门帖子的回应。希金斯说他随后被禁止使用 Midjourney。
不过，此类限制很容易绕过。例如，在The Verge的测试中，我们无法生成带有提示“Donald Trump being arrested”的图像，但可以生成带有提示“Donald Trump 戴着手铐被警察包围”的相同输出。（如故事顶部的图片所示。）
在撰写本文时，Midjourney 仍不允许免费用户生成图像，尽管这可能会在未来发生变化。周二，霍尔兹表示，由于“GPU 短缺”，服务速度很慢。（AI 图像生成是一项计算密集型活动，而 Midjourney 在与用户共享之前会在云端生成图像。）但昨天，他表示滥用软件是停止免费试用的主要原因。
“我们尝试通过新的滥用安全措施重新开启试验，但它们似乎还不够，所以我们再次关闭它以维持对其他所有人的服务，”霍尔兹说。我们已经联系 Holz 征求意见，如果我们收到回复，我们会更新这个故事。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场，如有侵权或其它，请联系 admin@eiefun.com，我们会第一时间配合删除。