人工智能公司考虑禁止为2024年选举制作政治形象

　　开创性的人工智能图像生成公司Midjourney正在考虑禁止人们使用其软件制作乔·拜登和唐纳德·特朗普的政治图像，以避免被用来分散人们对美国2024年总统大选的注意力或误导人们。

　　“我不知道我有多在乎明年我们平台上的政治言论，”Midjourney的首席执行官大卫·霍尔茨(David Holz)上周表示。他补充说，“在接下来的12个月里”，该公司接近于“打击”——或禁止——政治形象，包括主要总统候选人的形象。

　　美国禁止使用人工智能语音的机器人电话

　　据彭博社报道，在与Midjourney用户在Discord聊天室的对话中，霍尔茨继续说道:“我知道制作特朗普的照片很有趣——我制作特朗普的照片。特朗普在美学上真的很有趣。然而，也许最好不要，最好在这次选举中稍微退出一点。我们将会看到。”

　　人工智能生成的图像最近引起了人们的关注。两周前，以泰勒·斯威夫特(Taylor Swift)肖像为特征的色情图像引发了立法者和支持这位歌手的所谓斯威夫特派(Swifties)要求加强对人工智能生成图像的保护。

　　斯威夫特的照片可以追溯到4chan，这是一个社区留言板，通常与分享性、种族主义、阴谋、暴力或其他反社会的材料有关，无论是否使用人工智能。

　　Holz的评论是在图像生成器运营商与用户玩猫捉老鼠游戏的时候做出的，以防止产生有问题的内容。

　　人工智能在政治领域引起了越来越多的关注，尽管《麻省理工科技评论》(MIT Technology Review)最近指出，关于人工智能可能如何威胁民主的讨论“缺乏想象力”。

　　“人们谈论用假图像(或假音频或视频)攻击对手的竞选活动的危险，因为我们已经有几十年处理伪造图像的经验，”该评论指出。它补充说:“我们不太可能将一个令人惊讶的选举结果归因于任何特定的人工智能干预。”

　　尽管如此，图像生成公司Inflection AI在10月份表示，该公司的聊天机器人Pi将不被允许为任何政治候选人代言。联合创始人穆斯塔法·苏莱曼(Mustafa Suleyman)在《华尔街日报》的一次会议上表示，即使聊天机器人功能完美，它们“可能仍将是人类的一部分”。

　　meta旗下的Facebook上周表示，作为打击大选年虚假信息的更广泛努力的一部分，它计划给使用人工智能工具创建的帖子贴上标签。微软附属公司OpenAI表示，将在其平台制作的图像中添加水印，以打击人工智能产生的政治深度造假。

　　“保护选举的公正性需要民主进程各个方面的合作，我们希望确保我们的技术不会被用于可能破坏这一进程的方式，”该公司上个月在一篇博客文章中写道。

　　OpenAI首席执行官萨姆·奥特曼(Sam Altman)最近在一次活动中表示:“我最担心的是，随着人工智能的新功能……将出现比2020年更好的深度造假。”

　　今年1月，一个假装是乔·拜登(Joe Biden)告诉新罕布什尔州选民待在家里的虚假音频电话，说明了人工智能操纵政治的潜力。美国联邦通信委员会后来宣布禁止在机器人通话中使用人工智能生成的声音。

　　“我们真正意识到的是，正在迅速扩大的创新和我们的思考之间的鸿沟——我们作为一个社会团结起来理解最佳实践、行为规范、我们应该做什么、应该制定什么新立法的能力——仍然进展得非常缓慢，”非营利组织All Tech is Human的主席大卫·瑞安·波尔加(David Ryan Polgar)此前告诉《卫报》。

　　Midjourney软件制作了一张特朗普被特工戴上手铐的假照片。其他出现在网上的照片还包括拜登和特朗普合作编织毛衣的老人形象，拜登咧嘴笑着用机关枪射击，或者特朗普在白宫会见教皇方济各。

　　该软件已经有了一些适当的保护措施。Midjourney的社区标准指导方针禁止“不尊重、有害、误导公众人物/事件的描述或潜在误导”的图像。

　　彭博社指出，允许或不允许的内容因所使用的软件版本而异。《中途旅行》的旧版本刊登了一张特朗普浑身裹着意大利面的照片，但新版本没有。

　　但如果Midjourney禁止人工智能生成政治图像，消费者(包括选民)可能会不知情。

　　霍尔兹说:“我们可能只是敲定它，什么也不说。”