跳到主要内容
在2018年3月28日拍摄的这张图片插图中,投射在屏幕上的社交媒体应用信号,信号,Whatsapp和电报的徽标旁边可以看到移动用户的身影。REUTERS/ Dado Ruvic / Illustration-RC147CF8D300
技术坦克

社交媒体平台应如何应对错误信息和仇恨言论?

社交媒体公司因处理不当而受到越来越多的审查 仇恨言论假新闻 在他们的平台上。考虑社交媒体平台的方法有两种:一方面,我们可以将它们视为仅使个人能够发布和共享内容的技术,这是一种具有象征意义的空白纸,任何人都可以在上面写任何东西。另一方面,可以辩称社交媒体平台现在已经发展了内容管理者。我认为这些公司应对其平台上发布的内容承担一些责任,并提出一套策略来帮助他们处理假新闻和仇恨言论。

人工智能与人类智慧共同

最初,社交媒体公司建立了自己的地位,不对平台上发布的内容承担任何责任。在随后的几年中,他们建立了自动化和人工驱动的编辑流程的组合,以促进或过滤某些类型的内容。除此之外,他们的用户越来越多地使用这些平台作为获取新闻的主要来源。 推特的时刻您可以在其中看到每日新闻的简短快照,这是Twitter如何逐渐成为新闻媒体的一个典型示例。随着社交媒体实际上成为新闻媒体,它们对所分发内容的责任级别应相应提高。

尽管我认为将社交媒体视为没有责任的中立内容共享技术是幼稚的,但我不认为我们对社交媒体的编辑期望与对传统新闻媒体的期望相同。

在社交媒体上共享的内容量巨大,因此无法建立全面的编辑系统。以Twitter为例:据估计 5亿 每天发送推文。假设每条推文平均包含20个单词,那么一天在Twitter上发布的内容量将等于182年内的《纽约时报》。仇恨言论的术语和重点会随着时间而改变,大多数虚假新闻中都包含一定程度的真实性。因此,社交媒体公司不能仅仅依靠人工智能或人类来监视和编辑其内容。他们应该开发结合利用人工智能和人类智能的方法。

在大海捞针中找针

为了克服这么多内容的编辑挑战,我建议两家公司只关注有限数量的主题,这些主题被认为具有重要意义,并产生重大后果。的 抗疫苗接种 运动和那些相信 平地理论 都在传播反科学和虚假内容。但是,相信疫苗会造成危害的后果比相信地球是平坦的后果更加危险。前者造成严重的公共卫生问题,后者则使人们在酒吧大笑。社交媒体公司应召集各个领域的专家小组,以不断监控可能对假新闻或仇恨言论造成严重伤害的主要话题。

同样重要的是要考虑社交媒体平台上的推荐算法可能会无意间促进假冒和仇恨言论。这些推荐系统的核心是根据用户的共同兴趣对用户进行分组,然后向每个组中的所有用户推广相同类型的内容。如果一组中的大多数用户对平地理论和防接种恶作剧感兴趣,则该算法将向只对平地感兴趣的同一组中的用户推广防接种内容理论。随着时间的流逝,暴露于此类促销内容可能会说服最初相信疫苗的使用者对其持怀疑态度。一旦确定了打击假冒和仇恨言论的主要重点领域,社交媒体公司就可以相当轻松地调整其推荐系统,以使用户不会对有害内容产生任何兴趣。

一旦确定了数量有限的主题,社交媒体公司应决定如何应对此类内容的传播。在极少数情况下,最适当的响应是毫不犹豫地检查并禁止内容。例如煽动暴力或邀请他人犯罪的帖子。最近的新西兰事件中,射击者在Facebook上直播了他令人发指的罪行,这是该内容绝对不可以在平台上发布和共享的主要示例。

脸书 目前,依靠其用户社区来标记此类内容,然后使用一支真人大军在24小时内监视此类内容,以确定它们是否确实违反了其使用条款。直播内容一旦达到一定的流行程度,便会受到人类的监视。尽管使用人工智能实时监视文本内容更容易,但我们用于分析图像和视频的技术正在迅速发展。例如, 雅虎! 最近,它公开了检测攻击性和成人图像的算法。 脸书的AI算法变得足够聪明,可以检测并标记未经同意的私密 图片.

利用信息应对错误信息

当前,社交媒体公司已采用两种方法来处理错误信息。第一个是彻底阻止此类内容。例如, Pinterest的 禁止反疫苗的内容和 脸书 禁止白人至上主义者的内容。另一种是在内容旁边提供替代信息以及伪造信息,以便用户接触到真实和正确的信息。这种由YouTube实施的方法鼓励用户点击包含经过验证和审查的信息的链接,这些信息将揭穿虚假或仇恨内容中的误导性声明。如果您在YouTube上搜索“疫苗会导致自闭症”,尽管您仍然可以观看由反vaxxers发布的视频,但您还会看到一个指向MMR疫苗的Wikipedia页面的链接,该链接揭穿了这种信念。

尽管我们还必须凭经验检查和比较这些替代方法的有效性,但我还是希望向用户提供真实的信息,并通过向他们展示可靠的信息源,让他们了解情况并故意放弃误导的信念。不管它们的短暂影响,想法的多样性最终将通过丰富我们的讨论使我们前进。社交媒体公司将能够在线审查内容,但他们无法控制想法如何离线传播。除非对个人提出反驳的论点,否则虚假和可恶的想法很容易传播, 因为他们有 过去,社交媒体不存在。

更多

获取布鲁金斯的每日更新