人工智能公司考虑在 2024 年大选中禁止创建政治图像

据The Guardian 2月10日报道，这家领先的人工智能图像生成公司Midjourney正在考虑禁止人们使用其软件制作关于乔·拜登和唐纳德·特朗普的政治图像，以避免被用于转移注意力或误导有关2024年美国总统选举的信息。

上周，Midjourney的CEO大卫·霍尔兹表示：“我不确定我对我们平台在未来一年内的政治言论有多在乎。” 他补充说，公司正在考虑在“接下来的12个月内”限制或者禁止包括领先总统候选人在内的政治图像。

根据彭博社报道，霍尔兹在Discord的聊天室与Midjourney用户进行了对话，他继续说：“我知道制作特朗普图片很有趣 - 我也会制作特朗普图片。特朗普在审美上真的很有趣。然而，在这次选举期间最好还是不要制作，最好在这次选举中退出一点。我们会看到的。”

最近人工智能生成的图像已经引起了关注。两周前，涉及泰勒·斯威夫特肖像的色情图像引发了立法者和所谓支持这位歌手的“斯威夫特粉丝”的要求，要求加强对人工智能生成的图像的保护。

这些斯威夫特的图像被追溯到4chan，这是一个经常与共享性、种族主义、阴谋论、暴力或其他反社会材料有或无人工智能参与的社区信息板。

霍尔兹的评论是在图像生成运营商创建的保障措施与用户进行一场防范有害内容的猫鼠游戏之际发表的。

尽管麻省理工学院《技术评论》最近指出，有关人工智能可能威胁民主的讨论“缺乏想象力”。

“人们谈论攻击对手的竞选活动以虚假图像（或虚假音频或视频）的危险，因为我们已经有了几十年处理篡改图像的经验，”评论指出。它补充说：“我们不太可能将一个令人惊讶的选举结果归因于任何特定的人工智能干预。”

尽管如此，人工智能图像生成公司Inflection AI在十月表示，公司的聊天机器人Pi将不被允许支持任何政治候选人。联合创始人穆斯塔法·苏莱曼在《华尔街日报》的一次会议上表示，即使聊天机器人表现完美，“可能仍需要保持人类的参与”。

Meta的Facebook上周表示，计划将使用人工智能工具创建的帖子标记为打击选举年间的错误信息的一部分。与微软关联的OpenAI表示，将为使用其平台制作的图像添加水印，以打击人工智能生成的政治深度伪造。

该公司在上个月的一篇博客文章中表示：“保护选举的诚信需要来自民主过程的每一个角落的合作，我们希望确保我们的技术不会被用于可能破坏这一过程的方式。”

OpenAI首席执行官山姆·阿尔特曼最近在一次活动中表示：“我最担心的事情是，随着人工智能的新能力……会有比2020年更好的深度伪造。”

一月份，一段声称是乔·拜登告诉新罕布什尔州选民呆在家里的假电话展示了人工智能政治操纵的潜力。美国联邦通信委员会后来宣布禁止在电话自动拨号中使用人工智能生成的声音。

“我们真正意识到的是，创新（正在）迅速增长，而我们作为一个社会共同思考，共同行动，了解最佳实践，行为规范，我们应该做什么，应该有新的立法等方面的能力 - 这仍然是非常缓慢的，”非营利组织All Tech Is Human的总裁大卫·瑞恩·波尔加尔此前告诉《卫报》。

Midjourney软件制作了特朗普被特工手铐铐着的假图像。其他在网上出现的图像包括拜登和特朗普作为老年人共同织毛衣，拜登面带微笑开着机枪，特朗普在白宫会见教皇方济各。

该软件已经设置了许多安全措施。Midjourney的社区标准准则禁止“不尊重、有害、误导公众人物/事件描绘或潜在误导”的图像。

彭博社指出，允许或不允许取决于所使用的软件版本。Midjourney的旧版本制作了一张被意大利面条覆盖的特朗普的图像，但新版本没有制作这样的图像。

来源：The Guardian 作者：Edward Helmore

编辑：瓷瓷

（声明：请读者严格遵守所在地法律法规，本文不代表任何投资建议）