图源www.ctvnews.ca A sign at Facebook headquarters in Menlo Park, Calif., is seen on July 16, 2013. (AP Photo/Ben Margot)
2025年4月25日,正值加拿大联邦选举进入白热化阶段,一个追踪选举相关社交媒体活动的组织发出警告,称大量由人工智能(AI)生成的内容正在泛滥,填补了在线新闻的真空,使得本次联邦选举成为加拿大有史以来最具“反乌托邦”色彩的一次。
总部位于安大略省的媒体生态观测站(Media Ecosystem Observatory, MEO)的研究员安格斯·布里奇曼(Aengus Bridgman)表示,尽管大量复杂且虚假的网络内容涌现,但令人欣慰的是,到目前为止,这些内容对加拿大选民的影响似乎并不大。布里奇曼同时也是麦吉尔大学(McGill University)的教授,他指出:“我们尚未有任何证据表明加拿大人受到了操纵,或被说服相信了不真实的事情。”但他同时警告说:“这绝对是一个值得关注的问题,并且有可能发生,只是目前尚未出现。”
这场“反乌托邦”现象的出现,与加拿大《在线新闻法》(Online News Act)有关。该法案于2023年6月22日正式生效,要求Meta(Meta)和谷歌(Google)等科技巨头向新闻机构支付分享其内容的费用。作为回应,Meta于2023年8月宣布该法案“不可行”,并停止了加拿大用户在其平台上访问新闻。这意味着,在2025年4月28日的联邦选举中,加拿大人将面临前所未有的在线选举新闻真空。
布里奇曼表示,Meta对填补这一真空的内容没有进行适当的审核。“这感觉就像《黑镜》(Black Mirror)一样,感觉像反乌托邦,” 布里奇曼说道,他引用了Netflix(Netflix)的热门科幻剧《黑镜》,该剧每集都呈现了一个令人恐惧的关于技术如何塑造未来的预测。“Meta似乎认为这没问题。”
据报道,人工智能生成的内容包括深度伪造(deepfake)视频和表情包(meme),内容涉及政治人物的言论。该观测站还发现,冒充合法新闻来源,推广欺诈性投资计划(通常涉及加密货币)的人工智能生成内容也在增加。此外,人工智能还被用于改造Facebook(Facebook)上原有的买卖页面,使其成为一个政治团体倡导成为美国第51个州的平台。“新闻在这个平台上无法获取,但人工智能却假装成新闻,” 布里奇曼解释说。
不过,研究人员也发现,今年加拿大人点击和浏览合法加拿大新闻机构网站以获取选举信息的次数,比以往选举有所增加。这表明,尽管存在大量虚假信息,加拿大人仍然倾向于信任可靠的新闻来源。
Meta发言人朱莉娅·佩雷拉(Julia Perreira)回应称:“Meta在全球范围内有大约4万名员工负责安全和保障问题。”强调了他们为打击虚假信息所做的努力。
尽管如此,人工智能生成内容的大量涌现,以及由此产生的潜在风险,已经引起了人们对未来选举公正性的担忧。专家呼吁加强对在线内容的监管,提高公众对虚假信息的辨别能力,以确保选举的公平和透明。