By Mark Wilson

我们确实生活在假新闻时代,但它并非出生于传统新闻机构。社交媒体网络应该受到指责,因为它们允许任何人或机器人即时,前所未有地访问数百万人。因此,俄罗斯的宣传活动可能影响了2016年的选举,以及更多的父母选择不给孩子接种疫苗在现代史上比以往任何时候都更容易爆发deadly diseases like the measles.

在这种猖獗的错误信息气氛中,Twitter,Facebook和谷歌等公司拒绝禁止虚假新闻和错误信息。但是,一个不太可能的组织采取了一种令人耳目一新的简单方法来处理世界上至少一些最危险的错误信息:Pinterest,这家社交媒体公司以让用户引入食谱和家居装饰理念而闻名。

但Pinterest还处理了促进反疫苗接种议程和虚假医疗方法的用户。该公司现在全面阻止反疫苗接种搜索,甚至删除它检测到的上传到网站的反疫苗接种内容。被禁止的材料包括像针一样的宣传,宣称“骄傲是反vax,这意味着我不仅比你聪明,而且更有可能保持这种状态”或医生的证词,“我出来后医学院我为成千上万的孩子接种疫苗,这是我生命中最大的遗憾之一。“Pinterest问题的严重程度是不可能知道的。但该公司最近禁止了数十个促进反疫苗接种议程和假医疗的网站,然后用旧针脚擦洗了Pinterest。

“人们来到我们的平台寻找灵感,”Pinterest的Ifeoma Ozoma说道,“对于有害内容没有任何启发。”

Ozoma领导公司的公共政策和社会影响团队的合作伙伴关系。 2017年,Pinterest针对促进“自我伤害”的帖子制定了第一个正式政策,其中包括反疫苗接种内容和其他有害健康的错误信息。然后,在2018年,Pinterest开始积极地去除结果,寻找抗疫苗接种内容和某些假治疗,如葡萄籽治疗癌症的承诺。 Pinterest现在专注于从您的搜索工具和您在登录时看到的算法生成的主页源中消除此有害内容。

为了发现平台上的有害内容趋势,Pinterest不断收集用户反馈 - 通过调查或不太正式 - 并通过内容主持人对内容进行内部扫描。它还构建了自动化工具来阻止经常共享禁止内容的URL,但这些工具有其局限性。例如,他们可能无法识别与Facebook分享给Pinterest的不良内容,因为Facebook显示为值得信赖的URL。 Pinterest也有技术指纹图像为基础的模因已被标记和禁止,以防止它们被重新上传,所以他们无法再次进入Pinterest。在极少数情况下,Pinterest甚至会暂停帐户 - 尽管它总是会通知用户暂停的原因并提供上诉选项。

但是Pinterest如何决定应该阻止或删除1750亿个引脚中的哪一个,以及哪些引脚共享可接受的信息? Pinterest是如何从道德角度构建一个监管内容的价值体系的?

“我不想轻视它。 [错误信息]在工具和实施方面都是一个难题,但科学问题就像接种疫苗一样,“Ozoma说。 “所以对我们来说,这对我们来说并不难。有WHO. The CDC. The AAP“Pinterest在决定其政策及其在执行这些政策时使用的相关语言时,会咨询领先的全球卫生当局的报告。他们都认识到疫苗接种对公众健康至关重要。

但反疫苗接种宣传只是一个更大的公共卫生问题的一部分,这个问题因错误信息的传播而加剧。 Ozoma坚持认为Pinterest会轻易阻止任何可能造成明显伤害的健康声明。

从这个意义上说,Pinterest的错误信息政策令人耳目一新:“我们删除了有害的建议,针对个人或受保护群体的内容以及作为虚假宣传活动的一部分而创建的内容。现在我们专注于可能导致现实世界伤害的错误信息。“

如果对Pinterest的政策存在广泛的反对意见,那么您无法在线轻松找到它。也许这是因为,根据设计,一个被Pinterest阻挡其内容的反vaxxer无法在Pinterest上用更多的反vaxxer内容集结军队。

仅仅因为Pinterest阻止了一些有害内容并不意味着Pinterest会主动阻止all庸医科学在其平台上。 “有很多种,精油中的所有东西都会让你开心,因为精油可以治愈你的癌症,所以不要做你的化疗,”Ozoma说。该公司表示,只要没有人受伤,Pinterest就会阻止反化学内容,但会允许更多类似Goop的流行健康声明。

当然,这是一个不完美的解决方案。任何关于健康的伪科学声明都可能造成真正的伤害。 Ozoma似乎认识到了这一事实,当她告诉我,“优先级列表中还有其他一些东西可以引起我们的注意。”目前,Pinterest正在进行内容分类,解决有害健康信息中最公然和最严重的案例第一。

Pinterest的政策 - 将科学与宣传相结合 - 不应该是激进的。但与Pinterest的同行的错误信息政策相比,他们是。我联系了Facebook,Twitter,Snapchat和YouTube,听取了他们最新的官方政策,并了解它们如何影响在线共享的内容。

Facebook允许帖子被标记为错误信息,并在全球有39个事实检查合作伙伴来审查他们的链接。被认为是错误的故事将被算法显示为低于事实的故事。但Facebook只会删除违反其内容的内容Community Standards- 它积极地解决欺凌和欺诈问题但是在手腕上打了假新闻通过“授权人们决定阅读,信任和分享内容......”反疫苗接种和类似内容并未违反Facebook的社区准则。 (Facebook尚未在Instagram上解决与健康相关的错误信息,但表示正在研究这个话题。)“我们已经采取措施减少Facebook上与健康相关的错误信息的传播,但我们知道我们还有更多工作要做。 Facebook发言人写道,我们目前正在努力进行其他即将公布的更改。

当我在YouTube上搜索“反vax”时,它会带来第一个结果的噩梦。它的标题是“Pro-Vaccine vs. Anti-Vaccine:你的孩子应该接种疫苗吗?”的描述说:“我们把人们聚集在一起,支持和反对疫苗接种,看看他们是否能找到中间立场。”它并不完全宣传,但肯定不是新闻。视频的前提暗示科学需要找到一个中间立场,就好像聆听石油行业可能会解决全球变暖问题一样。

“错误信息是一项艰巨的挑战,任何关于医疗主题的错误信息都特别令人担忧,”YouTube发言人写道:

YouTube声称正在寻求提供更多背景信息 - 如链接可信资源 - 以及疫苗视频。它也有announced它会减少可能误导用户的有害内容的建议,例如伪造的奇迹治疗。只有一些反疫苗接种的内容会受到建议算法调整的影响。

Snapchat不会审核其服务的私人消息。但是,如果您在直播活动期间发布公共快照,并且选择将您的快照放入Stories群组视频中,则会事实检查您在视频中所说的任何内容有专门的记者团队。该过程将标记反疫苗接种内容。 Snapchat平台上的第三方发布合作伙伴必须遵守禁止虚假新闻的指导原则。并且其平台上的创作者(又名影响者)被禁止发布“恶意欺骗并故意散布导致伤害的虚假信息,例如否认存在悲剧事件”,这也包括反疫苗接种内容。

Twitter拒绝就此文发表评论。该公司没有管理反疫苗接种或任何其他错误信息的政策。在Twitter上搜索#antivaxx标签,你就会得到大量的宣传。

至于Pinterest,该公司承认它仍然处于监管错误信息的早期阶段。目前,它正在将这些内容视为全公司范围的问题,并且已经在整个组织中负责多个产品组 - 而不仅仅是公共政策 - 来处理它。 Pinterest现在面临的最大挑战是确保它真正阻止错误信息,并在问题开始之前利用自动化来预防问题。毫无疑问,Pinterest目前正在开发新的AI技术建立在其照片识别能力上,阻止新的危险内容,然后才能传播病毒。 Pinterest还希望其封锁搜索能为用户提供信息。现在,搜索“反疫苗接种”只会返回结果,“抱歉,我们找不到任何用于此搜索的Pins” - 并且它正在与一个未公开的第三方小组合作开发该消息。此外,Pinterest还与媒体分析公司Storyful合作,进一步努力检测和管理有害的错误信息,并通过Pinterest可能错过的不断发展的术语,更好地了解问题并发现错误信息趋势。

展望2020年,人们不禁怀疑Pinterest是否会采取如此积极的态度来监管一般的错误信息。从技术上讲,Pinterest目前的错误信息标准确实赋予它阻止内容的权力,比如奥巴马作为美国公民的地位。但是,这不是公司的优先事项。 “现在我们专注于可能导致现实世界伤害的错误信息,”Pinterest通信团队的Jamie Favazza澄清道。

即使如此,Pinterest似乎也是第一家愿意对其网页上的内容负责的社交媒体公司 - 可能超越行业支柱,例如禁止暴力或色情图片 - 认识到内容的真实性是用户体验的组成部分作为服务它的接口。

科技巨头打击反Vaxxers不是Twitter或Facebook。这是Pinterest。