中英文模式阅读
中文模式阅读
英文模式阅读


是否应该对自动驾驶汽车进行编程,以便选择在碰撞时杀死谁?谁可以访问决定这些决策的代码?Google’s prototype self-driving car at the Google campus in Mountain View, California
谷歌在加利福尼亚州山景城谷歌校园的原型自动驾驶汽车。照片:Tony Avelar / AP


手推车问题是一种道德的脑力激荡器,自1967年Philippa Foot提出以来一直在招待哲学家:


一辆失控的火车将屠杀与其轨道相连的五名无辜者,除非你拉动杠杆将其转换为一个人,也是无辜和不知情的人站在旁边。拉动杠杆,你拯救了五个,但杀了一个:道德行为是什么?


随着时间的推移,这个问题已经出现了很多变化,其中包括你必须选择一辆手推车杀死五名无辜者或亲自推倒一个足够胖的人来阻止火车(但不能在撞击中幸存)进入其路径;一个变体,其中胖子是将无辜者首先捆绑在轨道上的恶棍,依此类推。


现在它在自动驾驶汽车的争论中找到了新的生命。新的变种是这样的:你的自动驾驶汽车意识到它可以以一种会杀死你的方式转移自己,并节省一大堆儿童;或者它可以犁过并拯救你,但孩子们都死了。它应该编程做什么?


我无法计算我听到这个问题作为下巴抚摸,远见的未来主义的次数,它永远不会激怒我。这个配方很容易伪装成一个浅层问题,但更糟糕的是这个配方掩盖了更深层次,更重要的配方。


这是一个不同的思考这个问题的方法:如果你想设计一辆故意在某些情况下谋杀其司机的汽车,你将如何确保司机从未改变其编程,以便他们可以确保他们的财产永远不会故意谋杀他们?


有一个明显的答案,就是iPhone型号。设计汽车,使其只接受运输部(或制造商)签署的软件,并将重要性告诉人们如何超越锁定。这是iPhone,游戏机和许多其他设备的法定环境,这些设备都是数字锁,通常以商品名"DRM"而闻名。像美国数字千年版权法案(1998)和EUCD(2001)等指令禁止删除限制访问的数字锁

受版权保护的作品,并惩罚那些披露可能有助于删除锁定的信息的人,例如设备中的漏洞。


这有一个很有力的论据。自动驾驶汽车的编程将负责一个高速,移动的物体,在柔软和脆弱的人类中居住在公共道路上。修补汽车的大脑?为什么不首先对自己进行业余脑部手术?


但是这个明显的答案有一个明显的问题:它不起作用。出于良好的,众所周知的技术原因,每个锁定的设备都可以轻松越狱。数字锁定规则的主要作用不是阻止人们重新配置他们的设备 - 只是为了确保他们必须在没有业务或产品帮助的情况下这样做。回想一下英国电信监管机构Ofcom在2002年澄清解锁手机的合法性之前的几年;解锁手机并不难。您可以从网上下载软件,或者询问经营非法越狱业务的人。但现在它显然是合法的,你可以将你的手机解锁在报摊上,甚至干洗店。


如果我们确信没有制造商批准没有人可以重新配置它们,那么自动驾驶汽车只能是安全的,那么它们将永远不会安全。


但即使我们可以锁定汽车的配置,我们也不应该。数字锁在计算机程序员中创建一个区域,即使其所有者也无法进入该区域。要使其工作,锁的相关文件必须对所有者不可见。当他们向操作系统询问锁定目录中的文件列表时,它必须说谎并省略这些文件(因为否则用户可以删除或替换它们)。当他们要求操作系统列出所有正在运行的程序时,必须省略锁定程序(因为否则用户可以终止它)。


所有电脑都有缺陷。即使已经使用多年的软件,其源代码已经被成千上万的程序员所看到,也会有潜伏在其中的微妙错误。安全是一个过程,而不是一个产品。具体来说,它是在您的对手识别并利用它们之前识别错误并修补它们的过程。由于您无法确定会发生这种情况,因此它也是一个发现您的对手何时在您面前发现并利用它,将对手从系统中剔除并修复其造成的损害的过程。


当Sony-BMG秘密地使用旨在防止CD翻录的数字锁来感染成千上万台计算机时,它必须隐藏其防病毒软件的锁定,该软件正确地将其识别为在没有所有者知情的情况下安装的程序。违背了主人的意愿。它通过改变受害者的操作系统来实现这一点,使他们对任何以特殊的秘密字母串开头的文件视而不见:"$ sys $。"一旦发现这一点,其他恶意软件编写者就会利用它:当他们的程序登陆索尼已经入侵的计算机时,该程序可能隐藏在索尼的斗篷之下,不受反病毒程序的影响。


汽车是一种高速,重型物体,能够杀死用户及其周围的人。软件中的折衷方案允许攻击者接管刹车,加速器和转向(例如去年夏天exploit against Chrysler's Jeeps
,这引发了140万辆汽车召回)是一场噩梦般的场景。唯一更糟糕的是这种对汽车的攻击被设计成没有用户覆盖 - 事实上,设计用于处理来自车辆用户的任何尝试,将其编程重定向为避免手推车问题的冷方程式的自私尝试。


无论我们对自动驾驶汽车会遇到什么问题,他们都会因为设计它们以将乘客当作对手而变得更糟。


除了小车问题的假设愚蠢之外,这还有深远的影响。网络设备的世界已经被一系列"合法拦截"规则所支配,要求他们有某种后门让警方监控他们。这些都是计算机安全问题的根源,例如2011年中国政府对涉嫌持不同政见活动家的Gmail帐户的攻击是通过利用合法拦截来执行的;美国国家安全局在2004年奥运会招标过程中窃听希腊政府也是如此。


尽管存在这些问通过Theresa May的"Snooper宪章"在英国进行的新加密战争将迫使公司削弱其产品的安全性,以便能够监控用户。


很可能我们会在自动驾驶汽车中接到合法拦截能力的要求:警察向你的汽车发出信号强迫它停车的动力。这将带来手推车问题的所有问题以及更多:以乘客反对的方式驾驶汽车的内置能力是任何骗子,凶手或强奸犯的礼物,他们可以成功冒充执法人员到车辆 - 更不用说我们认为是非法的政府 - 比如巴沙尔·阿萨德的秘密警察,或伊希斯控制地区的自封警察使用这种设施。


这是棘手的手推车问题,它变得越来越棘手:自动驾驶汽车对城市规划者的主要吸引力在于他们可以减少道路上的汽车数量,将私有制的标准改为一种无人驾驶的优步。优步甚至可以被视为一种自主的,不断盘旋的,点对点的车队车辆的干运行,人类代表着机器人的到来 - 就像全球主义和竞争为剥削海外劳务安排铺平了道路一样这反过来又导致更多的自动化和消除许多工业过程中的工人。


如果优步现在是一个道德模糊的主张,那就是利用其劳动力,那么当工人离开时,这种模糊性就不会消失。你和你乘坐的汽车的关系,但不拥有,使得提到的所有问题变得更加困难。您无权在Autonom-uber中更改(甚至监控或认证)该软件。它 will
旨在让第三方(车队的所有者)覆盖它。它可能有一个用户覆盖(管列车有乘客操作的紧急制动器),可能由保险公司强制要求,但你可以很容易地看到保险公司如何完全禁止这样的事情。


忘掉手推车:自动驾驶汽车的命运将打开劳动关系,监视能力和资本财富分配。

中英文模式阅读
中文模式阅读
英文模式阅读

查看英文原文

查看更多文章


公众号:银河系1号


联系邮箱:public@space-explore.com


(未经同意,请勿转载)