在线滥用的真实解决方案

那些研究仇恨言论的人知道算法不是银弹

转到“金融时报”的个人资料 英国"金融时报" 2月14日封锁了封锁

照片:RichVintage / Getty Images

由Madhumita Murgia

我最近写了一篇关于有史以来最大规模的网上虐待女性研究的新闻报道,国际特赦组织在Twitter上分析了针对800名面向公众的女性的信息,包括每位美国女议员和英国国会议员。

出土的仇恨数量令人震惊:平均而言,2017年每30秒就会对这些女性进行咳嗽。黑人女性成为目标的可能性是其两倍。工党政治家Diane Abbott收到了30,000条辱骂性推文。

另一位工党议员Paula Sherriff上周在King's Cross的YouTube工作室发表讲话,对自己的经历非常诚实。 "我记不起最后一天,我没有收到消息说我死得更好,"她说。

在社交媒体上制造干草的不仅仅是厌恶女性主义者 - 在种族,宗教,政治,性行为的基础上滥用,以及任何其他差别化的人类品质都会被人们所诟病。最近的研究还表明,在线滥用并不总是保持在线:社交媒体可以促进现实世界的滥用和激进化事件,使其成为那些试图播种分裂的人的危险有效工具。

华威大学2018年的一项研究得出结论,Facebook上的反难民评论导致了对德国难民的暴力仇恨犯罪。该研究估计,2015年1月至2017年2月期间,右翼替代德国党的职位对3,335起记录的反难民罪中的13%负有部分责任。另一项研究发现,暴露于极端主义在线内容可能导致实际风险增加 - 生活激进化和政治暴力。

社交媒体公司非常清楚这个问题;他们面临来自立法者的批评,因为他们认为他们没有行动。上周,英国工党呼吁新监管机构对在线内容进行监管并征收罚款。但社交平台一直不愿对其用户发布的内容承担主要责任。相反,他们已经部署了算法来向人类版主标记最令人震惊的帖子。 2017年的欧盟数据显示,Facebook,Twitter,YouTube和微软在24小时内删除了70%的被指控的非法仇恨言论,而2016年这一比例为28%。

然而,那些研究仇恨言论网络的人知道算法不是银弹;而依靠科技公司是不够的。伦敦智库战略对话研究所研究员扎赫德·阿马努拉说:"他们不能堵塞所有漏洞,他们没有专业知识,这些行为如何在线下传播。"

英国旨在打击仇恨和极端主义的基层倡议将从100万英镑的谷歌基金中获得资金

为了解决这个问题,ISD选择了22个基层倡议,以打击英国的线上和线下的仇恨和极端主义,从100万英镑的谷歌基金中获取资金。对谷歌而言,这是一种公开的方式,表明了对打击在线滥用行为的积极承诺;对于ISD来说,这是一个研究离线干预是否有助于减少在线滥用的机会。

在YouTube活动中展示的作品之一是社会企业社区公司总监Shamsher Chohan的作品。她的项目" Stand By Me"是一项旨在鼓励旁观者捍卫仇恨犯罪受害者的项目,是在英国脱欧公投后成立的。当这种罪行飙升时。该小组制作了关于目前可以采取哪些措施帮助受害者的视频和纸质指南,并培训当地大使传播信息。 Shah Rahman是伦敦东部Limehouse拳击学院的拳击手,在他意识到在他的运动中没有反对仇恨言论的国家政策之后,他推出了KO Racism来教育当地的孩子们。

这些举措的影响仍在测量中,但初步数据显示,到目前为止,他们通过现实网络已经达到了2万多人。这个数字听起来可能不是很大;事实上,同一项目在线上线的数量为444,611。然而,积极分子仍然专注于影响那些可以成为他们自己社区中其他人的变革驱动力的人 - 最终是在网络空间。算法尚未模仿有意义的人类接触的力量。

查看英文原文

查看更多文章

公众号:银河系1号

联系邮箱:public@space-explore.com

(未经同意,请勿转载)