新加坡选举期间,候选人利用AI“代言”属违法,罚款高达100万元

鸿永阅览世界 2024-10-19 02:24:57

虽然延长《选举(维护网络广告诚信)法令》实行期,也就是延长禁止发布歪曲候选人言行深伪内容的有效期,或能进一步打击深伪内容,防止虚假的网络选举广告对选举及候选人造成影响,但在实际操作上存在困难,因此新法只适用于选举期间。

数码发展及新闻部长杨莉明在提呈法案时强调,法案延续了新加坡政府对进行选举的原则方针。法案针对包括深伪内容在内,可影响选举结果,且最具伤害性的数码生成或经数码窜改的内容。法案涵盖所有候选人,不论他们属于哪个政党,以及虚假内容所可能造成的影响。(gov.sg视频截图)

《选举(维护网络广告诚信)》法案10月15日在国会三读通过。法令生效后只会在选举令状颁布当天起生效,直到投票日投票活动结束为止。

数码发展及新闻部长杨莉明在提呈法案时强调,法案延续了新加坡政府对进行选举的原则方针。法案针对包括深伪内容(deepfake)在内,可影响选举结果,且最具伤害性的数码生成或经数码窜改的内容。法案涵盖所有候选人,不论他们属于哪个政党,以及虚假内容所可能造成的影响。

杨莉明以及参加法案辩论的朝野双方议员,纷纷提出许多海外例子,说明虚假内容如何影响候选人及左右选举结果。

多名议员也针对法令在选举期间的实行期发表看法。杨厝港区议员叶汉荣指出,具误导性或经窜改的内容或在竞选期展开前很久,就已经广泛传播。他问说政府是否考虑过延长法令的实行期,或设下一个“选前期”来执行相关保护措施,以有效应对更早就传播的虚假内容。

杨莉明回应时表示能够理解议员们的担忧,但也说:“即使我们要法令在选举前的某一段日子开始生效,我们也无法做到,而必须等到已颁布选举令状,以及已公布投票日。”

她也强调:“如果我们要有效地维护选举的诚信,那么法案中的保护措施必须适用于选举活动最密集、捣乱者最活跃的时候。这通常是选举期间……从选举令状的颁布开始,到投票结束后终止。”

正因为如此,资讯通信媒体发展局将会实施行为守则,全天候应对经数码窜改的内容,而不只局限于选举期间。换句话说,社交媒体平台业者在应对深伪内容方面,必须扮演更重要的角色。

个人之间或非公开群组

传播内容不受管制

议员们的另一个辩论焦点为法案基于用户隐私,并不针对私人谈话内容,也就是说个人之间或非公开群组内传播的内容,例如家庭成员或朋友之间的小型聊天群组,将不在管制范围内。

数名国会议员便针对即时通讯应用WhatsApp和Telegram等平台上的私人谈话内容,以及所可能涉及的风险,进一步提出疑问。

杨莉明回复时强调,法律无意监管私人谈话内容。她解释,选举官在判断谈话内容是否属于私人性质时,会考虑多方面因素,包括新加坡有多少人能接触到相关内容、聊天群组是否公开,以及群组成员之间的关系。

“例如成员人数非常多,且任何人都能自由加入的WhatsApp和Telegram聊天群组,就不应被视为私人谈话。如果在这些公开群组中传播禁止的内容,选举官会决定是否应采取行动。”

根据法案,选举官有权向任何人,包括社交媒体平台发出更正指示,要他们移除深伪内容,或禁止身在新加坡的用户接触这些内容,又或是停止或减少内容的数码传输活动。

若不遵守选举官更正指示

可被罚款最高达100万元

针对工人党盛港集选区议员何廷儒的相关提问,杨莉明说,法案中列明社交媒体平台业者若不遵守选举官发出的更正指示,可罚款最高100万元,而法庭将决定每项控状的适当罚款额。

她还指出,这个罚款额相当于其他同社交媒体平台服务有关法律所列出的罚款额。

虽然法案针对的是利用人工智能手法来数码生成或窜改的内容,但也包括使用Photoshop图像处理软件、配音或拼接手法等非人工智能手段生成的内容。后者虽然已被视为传统编辑方式,但同样能用来制成具伤害力和误导性的深伪内容。

这类逼真和栩栩如生的内容通过虚假陈述候选人的言行,误导或欺骗公众。何谓逼真,将经由客观评估。杨莉明说,虽然没有一套通用标准,但还是有适用于一般情况的重点可作为评估基础,例如内容同候选人非常相像,以及内容采用真实人物、事件和场所,让虚假内容显得更真实。

只要非候选人亲口说出

以人工智能代为发言也违法

即使候选人自己执笔,写下想要传达给选民的想法,但只要是利用人工智能技术来生成候选人样子的数字人代为发言,制成影片,在刚修正的法令下也是违法行为。

国会播放了一段数码发展及新闻部长杨莉明说话的影片,事实上是由人工智能技术生成的,并非由杨莉明本人拍摄。(数码发展及新闻部提供)

根据星期二(10月15日)在国会中通过的选举(维护网络广告诚信)法案,修订后的法律禁止任何人散播内容由数码生成或经数码窜改的网络选举广告,而这类广告描绘候选人说着或做着一些他们事实上没说过或做过的事情,但听到或看到内容的公众有理由相信内容的确是候选人的言行。

拟订法案时刻意不提供任何可能产生误解余地

数名议员针对如何定义虚假内容提出疑问,其中工人党阿裕尼集选区议员严燕松以数码发展及新闻部长杨莉明提出的例子进行反问,要求部长进一步说明情况。

严燕松问说,如果传达了候选人原本就要传达的内容,不存在歪曲候选人言行的情况,这类人工智能技术生成的内容会否被禁。

杨莉明以她在国会播放的一段深伪视频为例,明确表明这类影片同样违法。在该段影片中,一个貌似杨莉明的数字人说了几句话,声音和语气也同杨莉明一模一样。

杨莉明答复严燕松时说,人工智能技术生成的影片以她批准的剧本台词为基础,但影像是有问题的,因为她其实没有站在镜头前说过那段话。

“我们在拟订法案时,刻意不提供任何可能产生误解的余地。即使文字是你写的,只要你没有亲口说出来,而是用人工智能技术来生成内容,依旧是违法的。”

0 阅读:0