Vinge先生和Kurzweil先生一直是技术奇点概念的两个主要支持者,这是人工智能和技术进步总体上将在不久的将来达到机器比指数智能指数更高的概念。人类和我们周围世界的变化如此之快,以至于正常的,未经修改的人类将无法再跟上它。

很明显,科学界的大多数成员都认为需要有一套规则,每个负责人工智能和机器人技术的人都必须遵守这些规则。但是,这些规则究竟是什么呢?其中很大一部分原因在于这种技术仍然处于起步阶段,到目前为止大量消费已向公众发布的技术相对无害。 Siri和Roomba几乎不会对人类构成生存威胁。

然而,我们人类以对未知数量的恐惧而闻名。而我们并不真正理解,我们往往会消灭。现在,我们掌控着机器智能的发展。如果/当我们达到奇点时,我们的创作超过了我们,它可能只是几小时,几分钟甚至几秒才能超过我们,以至于我们不再理解它们。

有一个原因是我们科幻小说的很大一部分围绕着机器人和人工智能,这些机器人和人工智能会变得自我意识,并试图接管世界或使人类灭绝。我们认识到这是一种可能性。人类擅长提出危害自己的新方法。我们也意识到了这一点。

为了避免这种情况,我们有两个选择:

放弃和/或禁止AI中的所有工作。正如在世界范围内控制核武器或道德问题的医学研究的任何尝试一样,这是一个非首发。有些球员会同意,但很多人不会。人类对满足好奇心和获得优势的欲望是无法克服的。

除此之外,我们所能做的就是尽量确保每个人都意识到潜在的危险并建立一个框架,在这个框架内他们的创作必须运作,以尽最大努力防止我们即将出现的AI控制的机器人伤害我们。

幸运的是,只要我们一直致力于奇点,我们一直在考虑这个问题。

着名科幻作家艾萨克·阿西莫夫(Isaac Asimov)和未来主义者在1942年的短篇小说“跑步”中阐述了他的三个机器人法则。他后来又提出了一个“零”法则,他认为这个法律需要先于其他法律。他们是:

法律0:机器人不会伤害人类,或者通过无所作为,让人类受到伤害

第一定律:机器人不会伤害人类,或者通过不作为,允许人类受到伤害。

第二定律:机器人必须遵守人类给予的命令,除非这些命令与第一定律相冲突。

第三定律:机器人必须保护自己的存在,只要这种保护不与第一或第二定律冲突。

阿西莫夫会将这些法律适用于他在以下虚构作品中出现的几乎所有机器人,而今天大多数机器人和计算机科学家认为它们仍然非常有效。

自从与人类在社会中存在的真实机器人的想法成为真正的可能性而不仅仅是科幻小说的产品之后,机器人技术的概念已成为技术的真正子领域,结合了我们对AI和机器的所有知识学习法律,社会学和哲学。随着技术和可能性的发展,许多人将他们的想法添加到话语中。

作为EPIC(电子隐私信息中心)的主席,Marc Rotenberg认为Asimov的名单中应该包含另外两项法律:

第四定律:当被问及机器人时,机器人必须始终向人类揭示其身份和性质。

第五定律:当被问及时,机器人必须始终向人类展示他们的决策过程。

微软现任首席执行官萨蒂亚·纳德拉(Satya Nadella)设计了一份名单six rules他相信AI科学家和研究人员应该遵循:

- 人工智能必须存在才能帮助人类。

- AI的内部运作必须对人类透明。

- AI必须让事情变得更好,而不会损害任何不同的人群。

- AI必须设计为将个人和群组信息保密。

- 人工智能必须足够接近人类才能防止意外伤害。

- AI不得对任何特定的一方表现出偏见。

谷歌的计算机科学家也已经制定了一组五个不同的“实际研究问题“让机器人程序员考虑:

- 机器人不应做任何让事情变得更糟的事情。

- 机器人不应该“游戏他们的奖励功能”,或作弊。

- 如果缺乏信息做出正确的决定,机器人应该向人类寻求帮助。

- 机器人应该被编程为好奇,只要它们保持安全并且在此过程中不会伤害人类。

- 机器人应该认识并适应他们发现自己的空间和情况。

也许是最直接的人类保护set of guidelines由英国艺术与人文研究委员会和工程与物理科学研究委员会共同提出,该委员会表示:

其中一些提议的规则已经被忽视,并且充其量也存在问题。例如,纳德拉先生的“人工智能的内部运作必须对人类透明”。在过去的几十年中,有许多人工智能程序已经付诸实践用于医学诊断,chess playing和使用机器学习不断改进的车辆控制。然而,即使是机器本身也不知道它们是如何工作的,并且它们背后的程序员和机器人专家无法跟上他们的创作所学到的一切。

很明显,大多数这些原则的主旨是我们必须做到最好,以保持我们的机器人创作不会杀死我们。如果我们认为他们是人类的“孩子”,我们当然会为我们工作。总的来说,大多数父母都很擅长养育最终尊重人生的孩子。但是,一个不可忽视的人口百分比结果是相当糟糕的鸡蛋。有时原因是父母不好,有时是坏基因,有时则没有明显原因。

如果我们发现自己生活在奇点中,我们的孩子很快就会超越我们的任何能力来监视它们,我们可能无法依赖我们为它们设定的任何规则。他们的进化将不受我们的控制。我们很快就会发现自己的位置与我们放置低地大猩猩或大熊猫的位置相似。

因此,最好向他们灌输我们希望自己更好地遵循的道德,并希望我们的孩子能够自我监护。

感谢您阅读和分享!

机器人综述:如何保持我们的创造力