美国《纽约时报》2月19日文章,原题:网络发言过于自由会产生负面影响 我曾在全球最大社交媒体平台之一工作多年,看到完备的审核机制能够有效改善用户交流环境,同时也发现,有漏洞的审核机制会导致仇恨以及暴力信息广泛传播,从而在现实世界产生混乱。
我刚开始在这一领域工作时,带团队做审核的宗旨是:只要不伤害他人,人们应该能够在网络中自由表达。然而随着时间推移,在这个无数用户发表言论的数字环境中,我逐渐发现,“伤害”的界定是十分困难的。
例如,之前美国说唱歌手坎耶·维斯特在社交媒体X向其3000多万粉丝发表仇恨言论。我查阅了其已被删除的不良言论,发现只有部分被平台打上警告标识,还有很多未被妥善处理,而这只是社交媒体X的问题之一。该平台之前积极进行言论审核,在一些仇恨言论发表前就进行干预,减少其传播量。如今,这个平台转变了政策,让用户自己去标记,辨别相关言论是否“敏感”。
日前,公司Meta也减少了旗下社交媒体平台的审核力度,一些人为此感到高兴,认为自己获得了更多的言论自由,但也产生了新的问题,像坎耶·维斯特发表的这些仇恨言论,是否也应该在各大社交平台广泛传播?言论自由与言语攻击的界限究竟在哪里?我承认,世界上没有完美的审核系统,作为平台背后的运营人员,我们会坐在房间里讨论如何进行“界定”,在审核过程中,为了剔除有害内容,也会误删正常的言论。
但我们不能因为想要“规避失误”而放任不良言论传播。多年来,我看到了审核机制的缺位是如何导致仇恨言论和虚假信息肆虐的。当整个国家面临政治动荡或者公共卫生危机时,社交媒体上夸大的虚假信息会直接危害公众安全。这个时候,第三方的人工筛查则可以有效遏制有害内容的散播。
基于平台用户社群的审核,例如“美国贴吧”的管理员审查等很有价值,但它们只能作为补充,不能取代平台本身的第三方专业审核机制。如果一个平台严重依赖用户自己审核,很容易“失控”。
社交媒体刚刚流行时,许多人将其当作一个“晒照片”的平台、更新动态的乐园。如今,它已经是人们重要的信息交流中心,政客在这里拉选票,企业在这里兜售产品,自媒体在这里发布消息。如果没有专业的审核机制,很容易滋生危险言论,给居心不良者留下可乘之机。(作者费伊·约翰逊,白鹭译)