1960年，美国举行了史上首次总统大选电视辩论直播，给全球选举带来了革命性的影响。
21世纪，互联网和社交媒体先后问世，又大幅改变了各国选举的面貌。
到了2024年，我们可能又要见证人工智能（AI）给选举制度带来翻天覆地的冲击。
今年将是有史以来全球最多国家举行选举的“大选年”，而日益成熟的生成式AI技术和深伪技术，恐怕将使2024年成为名副其实的“深伪选举元年”。
即将在2月14日举行总统大选的印度尼西亚，一部让印尼已故前总统苏哈多“死而复生”的宣传视频浮出台面，就让世人再度见识到AI和深伪技术可能给选举带来的伤害。
据印尼媒体报道，印尼戈尔卡党副主席欧文（Erwin Aksa）1月7日在社媒平台X上载了一部深伪视频，视频中苏哈多赫然“复活”，为印尼戈尔卡党（Golkar）助选。
假苏哈多在视频中说：
“我是苏哈多总统，印尼的第二任总统，我邀请您投票给戈尔卡党的候选人。”
欧文没有否认这是一部AI生成的视频，还言之凿凿声称该深伪视频是为了提醒选民，他们手中的选票很重要，因为他们的选票能实现“印尼人民所憧憬的未来”。
截至今天（17日），该视频已有460万观看人次。
不少社运人士担忧，这类深伪技术将危及选举的公信力与公正性，并敦促印尼选举会采取更多措施，规范AI在竞选过程中的使用。
Harapan dan perjuangan bangsa Indonesia tak akan pernah padam, akan selalu diwujudkan dalam setiap generasi. Mimpi-mimpi Indonesia akan selalu terwujud. Pada 14 Februari 2024, kita akan menentukan nasib bangsa Indonesia. Kita harus memilih wakil rakyat dan pemimpin yang tepat… pic.twitter.com/Kpvr3WtaKW
— Erwin Aksa (@erwinaksa_id) January 7, 2024
一些国家的选举被深伪内容“搞鬼”
事实上，不少近期将举行选举的国家，也对深伪内容可能对选举带来的冲击感到担忧。
今年11月将迎来总统大选的美国，就因迟迟未在联邦层级制定防止深伪技术遭滥用的法规，而引发舆论抨击。
今年下半年可能解散国会举行大选的英国，也出现了类似呼声。
有调查显示，单在去年12月，就有超过100部仿冒英国首相苏纳克的深伪视频广告，在脸书付费推广。
负责进行调查的传媒公司警告，越来越纯熟的深伪技术可能加剧接下来英国选举遭虚假信息操纵的风险。
我国总理李显龙和副总理黄循财也曾相继遭诈骗平台制作成深伪内容进行宣传，如果换作是在选举时期，其潜在风险不容忽视。
国家法律若无针对AI生成的深伪内容加以钳制约束，设想一下，在新加坡大选前某天，社媒突然流传某某候选人的深伪偷情视频，或伪造一段他实际上不曾说过的话，谁能保证这不会对选举造成决定性影响？
尤其在差距相近的选战，少数选民转向就有可能影响大局，深伪内容可能造成的冲击，恐怕会更骇人听闻。
再举一些例子：
人们可能会看到某某国家领导人被送到医院的深伪视频，令选民对其健康产生疑虑。
人们也可能看到银行出现挤兑的画面，进而质疑国家的经济状况。
任何以假乱真的深伪内容，都可能在社交媒体上神不知鬼不觉散播，左右选举结果。
这类景象并非天方夜谭，近来已有部分国家的候选人成了AI介选的苦主。
去年9月的斯洛伐克国会选举，一名自由派政党领袖遭人制作深伪音档，伪造他有意提高啤酒价格和在选举中舞弊的虚假信息。
虽然该段录音很快被事实查核媒体戳破，但录音仍持续在社媒延烧，不少网民信以为真，进而影响了选情。
孟加拉今年1月7日国会选举前，也一度流传一名孟加拉反对派领袖建议其政党在加沙冲突“保持沉默”，以免触怒美国的深伪视频。
由于孟加拉回教徒占多数，公众普遍同情巴勒斯坦人，该深伪视频无疑会挑起孟加拉选民对该反对派领袖的不满。
上周六结束的台湾选举，也传出深伪疑云，一段被指疑似和民进党原任立委罗致政有关的不雅影片在互联网流传。
罗致政坚称该段视频是深伪内容，并向执法当局举报。
台湾调查局虽然还未公布该视频的鉴定报告，但在13日的立委选举，罗致政最终爆冷败给对手，显示该段视频确实对其选情造成了伤害。
该如何规范以假乱真的深伪内容？
值得警惕的是，一旦深伪内容的伤害持续扩大，除了侵蚀各国选举的公信力和公平性，也将摧毁政治人物与选民之间的信任。
政治人物未来面对真实指控时，可能动辄以相关内容是深伪或造假等理由，为自己涉及的丑闻辩驳，进一步导致人们的互信基础不再。
在假亦真时真亦假，眼见不一定为凭的混沌时代，制定规范生成式AI和深伪内容的相关法律刻不容缓。
新加坡昨日（16日）宣布推出面向国际社会的生成式人工智能治理框架。
框架内容包括了针对生成式AI制定过滤和分析工具，以及要求采用数码水印和密码源头标志等。
不过，我国目前仍未有避免深伪内容影响选举的相关规范出台。
随着新加坡可能在今年底或明年举行大选，相关风险不可轻忽。部分国家已经实施或计划拟定的新措施，或可提供一定的参考方向。
例如，美国华盛顿州的法律规定，任何以生成式AI技术或其他数码科技刻意窜改的照片、音档或视频，皆必须附上相关说明。
明尼苏达州去年8月也通过新法案，禁止任何有可能影响选举的深伪内容在选前90天内公开散播。
英国当局也准备添加新措施，要求所有线上宣传素材必须含有创作方的浮水印，以确保选民能清楚了解是谁试图通过相关内容左右他们，或内容是由谁付费推广。
作为深伪内容传播的温床，各大社交平台也相继提出应对措施。
去年11月，微软和旗下拥有脸书和Instagram的Meta都强调，社交平台上的政治广告，一旦是借助AI技术制作，就必须进行申报。
另一互联网巨擘谷歌也在去年9月作出了类似宣布。
随着生成式AI和深伪技术越来越强大，造假的成本和技术门槛愈来愈低，现阶段打击虚假信息的各项机制，已经不合时宜。
选前关键时刻，互联网充斥着以假乱真的假信息，将是民主选举的噩梦，留给各国制定相关防堵措施的时间已经所剩无几了。
