网络正在被无处不在的实践所重塑 - 这是一个严重的道德问题

Testing出的解决方案是设计过程的核心部分,并且在网络上,即经常发生在A / B测试的形式:设计师展示一组设计给A用户,另一组设计给B用户,并测量它可以获取更接近期望的结果。并且不仅仅是测试A / B的布局 - 这些实验决定了从我们阅读的标题到我们看到的颜色的所有内容。

但正如一篇新论文所讨论的那样,A / B测试可能存在道德问题。

研究算法审计的东北大学副教授Christo Wilson说:“如果你不了解内容是如何变化的,或者布局如何以影响你行为的方式发生变化,那么就会让你受到操纵。” ,以及该论文的作者,“这是A / B测试的重点。您正试图销售更多产品或获得更多点击次数。”

在年度ACM公平,问责和透明度会议上发表的论文中,Wilson和他的合作者分析了575个在Optimizely平台上运行A / B测试的大型网站,这使得非技术人员相对容易以各种方式使用A / B测试。在该论文中,威尔逊深入研究了三个具体的案例:广告,价格歧视和新闻头条。虽然他不会责怪任何公司或用于不道德地应用A / B测试的案例,但威尔逊确实利用这个机会阐明公司如何使用这种经过深思熟虑的技术来改变人们在互联网上看到的内容,无论是价格,广告,头条新闻或布局。

问题在于,当它没有以透明,负责任的方式完成时,A / B测试可以利用人类心理学中最糟糕的冲动来说服你点击某些东西。例如,当谈到政治内容时,那种耸人听闻的行为

我们中的许多人可能认为我们在网络上浏览时看到的东西是一样的,但事实并非如此。要查看你访问的任何运行A/B测试的一个网站,你可以下载一个名为Pessimizely的Chrome浏览器插件,它将显示出Optimizely所能提供的一切便利,从广告客户尝试向你展示哪些广告,到《纽约时报》(New York Times)测试不同的标题。

Wilson的分析表明,目前大多数使用A / B测试的网站都是互联网上最大的网站。并且它可能变得更加普遍:使用Optimizely等工具可以帮助小公司获得公平的竞争环境。“我希望看到较小的网站能够与较大的网站竞争,所以如果A / B测试是一种方法,那就是好的。我很高兴技术水平较低的人拥有先进的能力 - 它不应该只是谷歌和Facebook,“他说。“另一方面,我只是担心会有更多未受过训练的人在大量观众面前进行实验。”

在广告方面,不道德用途的可能性尤其令人痛苦。例如,假设您在男性主导的行业中为高薪工作发布了两个广告。一个包括刻意的男性性别印象,另一个是性别中立。A / B测试可能会向您显示更多人点击该性别广告。这会让你确信显示广告给更多的人。但是,点击该广告的所有人都可能是男性,导致适用于该工作的人口偏差。看到这些广告的人可能不知道背景中发生了什么。

“我们观察到Optimizely被许多非常受欢迎的网站使用,”研究人员写道。“但是,据我们所知,这些网站的访问者从未被要求明确同意这些实验。即使是实验的存在也很少被披露。“

价格歧视是您在网上看到的内容可能与其他人看到的不同的另一个例子:例如,A / B测试可能有助于优化不同邮政编码中的人的价格,但人们居住的地方往往与他们的种族交织在一起,可能导致基于种族的定价

威尔逊认为,需要有更严格的指导方针来进行这些实验。“我并不是故意把所有这些描绘成邪恶的,”他说。“但我们必须承认这些都是人体实验。你正试图改变人们的行为。如果我作为大学的科学家那样做,那就是协议。你不能只是试验人。“

有一些简单的方法,像Optimizely这样的公司和A / B测试平台可以更清楚地了解这些测试协议,这对于科学家来说是典型的。威尔逊设想一个内部公司审查委员会,确保测试不会无意中造成损害,以及公司可以与合同审查研究计划的外部服务。一个已发布指南的行业贸易组织也可以帮助甚至从Optimizely等平台进行更多培训。他认为这些指导方针与学术界存在的指导方针类似,有关于尊重人,尊重自主权和善行的规则 - 为他人的利益行事的义务。

“这非常重要,因为这些工具非常易于使用,”Wilson说。“但它必须附带一系列警告。如果你要做一些像价格歧视这样的事情,这可能是一个严重的事情。你是以公平公正的方式对待别人,还是只是忽略了这一点,说我关心的只是推动点击?“

点击英文原文 https://medium.com/fast-company/were-all-being-manipulated-by-a-b-testing-all-the-time-3f705b868d0f


更多文章欢迎访问:   http://www.apexyun.com

公众号:银河系1号

联系邮箱:public@space-explore.com

(未经同意,请勿转载)