韩国应对人工智能和选举诚信问题

East Asia Forum4月1日报道:随着韩国为即将到来的选举做准备,该国正在探讨人工智能对选举过程可能产生的影响。虽然人工智能可以用于增强民主参与,但也存在滥用的担忧,例如虚假信息和深度伪造视频的传播。韩国已经采取了措施来解决这些问题,比如禁止政治竞选中的深度伪造视频。但批评人士认为,这些措施可能不够,需要更多的举措来确保人工智能在政治中的道德使用。韩国正在进行的辩论反映了关于人工智能在民主中的作用的更大全球对话。



在2024年4月10日韩国大选临近之际,该国正处于关于人工智能(AI)与民主之间相互作用的全球对话的前沿。这代表着一个关键的时刻,在技术改变民主参与的潜力与保护选举诚信的必要性交汇。


生成式人工智能工具为政党和候选人提供了自动创建选举承诺、演讲甚至竞选媒体(如歌曲和视频)的能力。这些技术利用先进算法从大量数据中生成类似人类的文本、音频和视觉。节省候选人时间和成本的能力,同时根据性别、年龄和地点有效地量身定制竞选承诺,为选民提供个性化和高效的沟通,带来了显著的优势。


但滥用的潜力是明显的,人工智能可能会对某些候选人造成不利影响。在2022年6月地方选举之前,韩国爆发了一场争议,当时人民力量党候选人的一名支持者制作了一个视频,其中包含一个以人工智能渲染的尹锡悦总统的化身,支持他们的候选人。这一事件引发了关于是否违反了《公职选举法》以及是否违反了总统在选举期间保持中立的职责的辩论。


为了打击虚假信息并维护民主公平,国民议会已经禁止在选举前90天内使用人工智能生成的深度伪造内容进行政治竞选。违反这项法律可能导致最高七年的监禁或最高3.8万美元(5000万韩元)的罚款。


选举监察员还建立了指导方针,以减轻与人工智能生成内容相关的风险。它要求在政治沟通中使用人工智能时透明,要求任何由人工智能辅助生成的内容都必须明确披露,以更好地确保选民不会被人工智能生成的虚假信息欺骗。


考虑到人工智能生成的内容传播的迅速性以及难以移除的挑战,韩国的科技公司与政府和政治机构一起采取了警惕的管理策略。


深脑人工智能公司,该公司是尹锡悦化身背后的初创公司,发布了一款可以帮助检测在线深度伪造视频的软件。韩国领先的搜索引擎Naver加大了监控力度,以防止新的滥用模式,包括人工智能生成的评论和深度伪造视频。该平台还推出了允许用户直接举报选举虚假信息的功能,并建立了一个专门的举报中心,以促进与国家选举委员会的沟通。


对当前法规有效性的怀疑


仍然存在,批评者指出了对海外产生的内容制定法规的挑战。国内互联网用户使用虚拟私人网络进一步使事情复杂化,可能会延长调查时间,直到选举结束之后,突显了政治舞台上对数字虚假信息的持续斗争。


对当前法规的批评者认为,仅关注内容创建的技术手段,例如禁止深度伪造视频,可能无法完全解决人工智能在政治中带来的挑战。他们认为,限制特定的IT技术,而不是解决其潜在问题,是有限的。还有担忧,这种做法可能导致过度审查,可能影响在线言论自由。


这突显了对法规的需要,重点是内容的真实性和道德使用,而不是用于创建它的工具。


辩论还涉及到人工智能在政治活动中不仅可以辅助,而且最终可以取代人类角色的潜力。人工智能专家认为,随着未来的进展,人工智能可以被训练来理解甚至体现政治意识形态。这一前景引发了关于准确性、偏见和政治决策中人类监督丧失的担忧,突显了在人工智能发展中持续研究和道德考虑的必要性。


韩国在选举竞选中禁止深度伪造技术反映了一种预防性地解决人工智能带来的挑战的努力。韩国中央选举委员会已经明确表示,鼓励选民参与的活动使用深度伪造视频或类似技术并不受法律限制,前提是它们不支持、谴责或提及特定候选人或政党。


这种立法方法旨在遏制人工智能滥用来传播虚假或有偏见的信息,表明了对平衡的重视,利用人工智能的机会来增强民主参与和效率,同时也防范其可能损害选举公平性和诚信的潜力。


韩国并不孤单,处于这个新数字民主时代。加拿大、印度、美国和其他国家今年都面临着类似的挑战。他们都在努力在利用人工智能的优势来进行选举过程中,以及在减轻其风险方面取得平衡。这一全球努力表明了保护民主诚信并利用技术进步的共同承诺。


这些措施的成功取决于监管机构和公众对人工智能技术的全面理解。韩国在4月大选之前采取的措施以及遇到的障碍将成为国际社会一个有益的案例研究,有助于就人工智能在数字时代民主实践和机构中的角色展开讨论。

 

新闻来源:East Asia Forum   作者:Tae Yeon EomTae Yeon Eom

编辑:Marine Don


(声明:请读者严格遵守所在地法律法规,本文不代表任何投资建议)

本文来源:元宇宙头条 文章作者:元宇宙头条
收藏
举报
元宇宙头条
累计发布内容523篇 累计总热度10万+
523篇 10万+
FTX 后院起火,Binance 釜底抽薪
FTX 后院起火,Binance 釜底抽薪
FTX 后院起火,Binance 釜底抽薪

元宇宙头条现已开放专栏入驻,详情请见入驻指南: #

免责声明:
1、本文版权归原作者所有,仅代表作者本人观点,不代表元宇宙头条观点或立场。
2、如发现文章、图片等侵权行为,侵权责任将由作者本人承担。

评论 共0条
默认
|
点赞
说点什么吧
相关文章
您需要登录后才可以回帖 立即登录

元宇宙头条
个人认证

下载APP

微信公众号