AI图像生成器中途已经停止了对其软件的免费试用。首席执行官DavidHolz告诉Verge，这是因为大量的新用户。

中程的软件可以用来制造虚假信息，比如唐纳德·特朗普被捕的假照片

AI图像生成器中途停止免费试用其服务，归咎于新用户的突然涌入。中程公司首席执行官兼创始人大卫·霍尔兹(DavidHolz)周二宣布了这一改变，最初援引“超乎寻常的需求和审判滥用”，在一条关于不和谐的信息中(这一声明是“华盛顿邮报”最先发现的)。Holz在给Verge的一封电子邮件中说，暂停是“因为大量的人为了获得免费的图像而建立了丢弃的帐户。”

霍尔茨在电子邮件中说：“我们认为凶手很可能是中国的一段视频。”“这与GPU暂时短缺的情况同时发生。这两件事结合在一起，降低了付费用户的服务。“

考虑到霍尔茨提到的“虐待”，人们最初认为，暂停与最近一系列利用中途拍摄的病毒图像有关，其中包括唐纳德·特朗普(Donald Trump)被捕的伪造照片，以及教皇穿着时髦夹克，有些人误以为这是真实的照片。然而，霍尔兹将早先的报道描述为“误解”，并指出，免费的中途试验从未包括获得最新版本的中途版，即第5版，该版本创造了最真实的图像，并被认为被用于这些病毒图片。

《中程》的第5版显著提高了描绘人物形象的图像质量。例如，畸形的手以前是人工智能生成图像的一个标志，现在已经不那么具有挑战性了。灯光和面料也更加逼真，系统能够生成无数名人和公众人物的图像。

这些改进似乎导致了最近几周中程的一些图片在网上疯传。这些照片不仅包括特朗普被捕和教皇看起来很时尚的假照片，还包括法国总统埃马纽埃尔·马克龙走过正在进行的巴黎抗议活动，埃隆·马斯克与亚历山大·奥卡西奥·科尔特斯手牵手。

到目前为止，Midjourney对来自虚假图像的政治敏感不断升级的威胁的反应是零碎的，没有对其审核政策进行任何重大改革。Midjourney的内容限制比一些竞争对手的服务（如OpenAI的DALL-E）更宽松，但比其他服务（即稳定扩散）更严格。

“审核很难，我们很快就会推出改进的系统。我们正在从专家和社区那里获得大量反馈和想法，并试图真正深思熟虑，“Holz告诉The Verge。

Midjourney根据Holz去年10月的一条消息，维护了一份“根据这些国家/地区用户的投诉与不同国家/地区的主题相关的”禁词列表。但它没有共享此列表的完整版本，以最大程度地减少“戏剧性”。正如霍尔茨去年所说，“几乎没有人注意到[禁令名单]，除非他们专门试图创造违反我们规则的戏剧（服务条款），’不要使用我们的工具来创造戏剧’。

但随着其假货的传播，该公司扩大了这个名单，例如，最近禁止使用“被捕”一词。这似乎是对一个流行的Twitter帖子的回应，该帖子描绘了特朗普被捕的中途图像，这些图像是由调查记者艾略特·希金斯（Eliot Higgins）创建的。希金斯说，他随后被禁止使用Midjourney。

但是，这些限制很容易绕过。例如，在The Verge的测试中，我们无法生成提示“唐纳德·特朗普被捕”的图像，但可以创建相同的输出，提示“唐纳德·特朗普戴着手铐被警察包围”。（如故事顶部的图像所示。