加里卡斯帕罗夫说AI可以让我们更加人性化

转到PCMag的个人资料 PCMag BlockedUnblockFollow发布于3月26日

"这不是打开地狱的大门,但它不是天堂,"卡斯帕罗夫谈到人工智能。人工智能从我们这里学习,所以我们应该真的害怕坏演员,而不是杀手机器人。

丹哥斯达

加里卡斯帕罗夫是人工智能自动化革命的首批受害者之一。他输给IBM的Deep Blue使他成为第一个失去电脑配对的人类象棋冠军。但卡斯帕罗夫并不厌倦;他的书Deep Thinking ,探讨了人工智能如何能够真正帮助我们变得更加人性化。

卡斯帕罗夫本月早些时候在奥斯汀的SXSW告诉我,真正的挑战是将这些工具与想要用它们造成伤害的人保持一致。在这方面,我们可能已经太晚了。

丹·科斯塔:在下棋和与深蓝战斗之后,你从此成为了各种各样的象棋AI专家。您希望人们如何理解人工智能?

加里卡斯帕罗夫 :我必须承认我知道我无知的极限。这就是为什么我很乐意谈论我对自己的专业知识充满信心的事情,而且我认为我对人机关系有一定的了解,而且我可以对未来的结果有所了解。

此外,我相信我们还处于人工智能的早期阶段,我们甚至应该讨论一些条款。这是关于语义,它是关于哲学的,我总是说人们认为我们处于Windows 10时代,而我们仍然都在MS-DOS。

此时,实际理解"人工智能是什么?当我们说AI时,我们的意思是什么?"非常重要。因为如果你向10位专家询问AI,我打赌你会得到11或12个答案。还是有很多分歧。

还有细节,但我认为一般情况下,我们都认识到,有一群人,我们称之为乐观主义者,面对大批的灾难预言者。不知何故,公众更愿意接受灾难预测的情景,我认为这是我们害怕未来的本能,这也很有趣,因为当你回到50和60年代时,科幻非常乐观。这完全是关于我们的,只是与机器一起工作。

现在,当你看70年代,80年代,90年代时,它会转向反乌托邦的视野。这是关于终结者的。这是关于黑客帝国,现在科幻类型几乎已经死了,因为它更多的是关于幻想,它是关于魔法的。人们真的害怕谈论未来,因为我们不确定那里会发生什么。我认为我们应该简单地认识到AI不是魔杖,但它不是终结者。它不是乌托邦或反乌托邦的预兆。这是一个工具。这是我们应该找到处理方法的东西。

它不是打开地狱的大门,但它不是天堂。它不是一切的解决方案。这不是救赎。让我们来看看地球的问题,我今天最关心的不是杀手机器人或某种可能破坏我们现实感的虚拟现实,而是关于糟糕的演员。这是关于恐怖分子的。这是关于使用这种技术伤害我们的岩石空间。我总是说人们......在[邪恶]上垄断。我认为,这就是我们应该集中注意力的地方,但也应该认识到AI可以为我们做很多伟大的事情,因为人们会说,"哦,人工智能会带来新的挑战。人工智能可以带走许多工作。"究竟。这就是农业就业和制造业就业所发生的事情。颠覆性技术总是摧毁工业,但同时也创造了新的就业机会

我说技术是为什么这么多人仍然活着抱怨技术的主要原因,因为我们只是不认识平均寿命增长,我认为45,47 [在] 20世纪初到现在75,这要归功于技术。我们想要好处,我们想要便利,我们不看价格。人们购买Alexa或下载面部识别应用程序,然后抱怨隐私。是时候让我们了解我们对这些技术的期望,以及我们如何处理它们?他们如何改善我们的生活,同时认识到我们不应该讨论溢出的牛奶。它会发生。

我们不应该问我们是否愿意,它正在发生。我认为任何试图消除痛苦并减缓这一过程的尝试都会适得其反,因为注定失败的工作无法得到拯救。但我们必须考虑新的产业。我们如何能够创造一些新的工作岗位,帮助我们创造一个财务缓冲来照顾那些被抛弃的人? 摄影:Noam Galai / Getty Images for TechCrunch

丹·科斯塔:这是你在 深度思考中 提出的观点之一。人工智能为我们提供了一个更加人性化的机会。我认为我们需要充实这一点,让人们感受和理解。

加里卡斯帕罗夫 :麦肯锡2016年美国就业市场报告是一个明显的证据。创造力有多少被使用?

我们正在做的许多工作都是重复工作,原始工作。智力工作也可能重复。它们也可以更有效地由机器轻松执行。在这里,你了解我们从国际象棋,高尔夫,任何其他游戏中学到的东西,只要我们有人类创造的框架,我们知道我们在做什么,机器会做得更好。

我们应该认识到,在每个封闭的系统中,机器都会更优越。顺便说一下,我们不必了解他们是如何做到的。那是另一个错误。我们想要可解释性。机器可以从我们的标准非常尴尬的方式做到这一点。飞机飞得很快,鸟儿正在扇动翅膀。这就是为什么认为即使在智力错误中机器也会胜过我们,做一些你理解的错误。我们应该寻找结果,这是企业的另一个问题,因为有太多的法规要求他们解释他们正在做什么,但如果你想寻求效率和生产力,可解释性可能不存在。

Dan Costa:你在Go的舞台上提出了这个案例,让Go AI变得更有效的事情就是它自学了如何玩游戏。它没有人为强加的规则。

加里卡斯帕罗夫 :现在和国际象棋一样。同样,人类任务关系的未来将非常依赖于自己的人类,就像牧羊人一样,因为我们必须找到一种方法来创建这些酷炫的系统,即智能狭窄的领域,机器将比任何人类更好地完成工作。然后,看看他们如何联系,这些领域是狭隘的智能,一般领域,一个开放式系统。再一次,这听起来很容易,但我认为这是一个很大的挑战,因为人类的空间及其与机器的关系可能越来越小。甚至可能是最后几位小数,但没关系。它可能会更有效,因为有太多的力量。引导它或改变方向0.1%的角度可以产生巨大的巨大差异,一英里之外的目标。

Dan Costa:人们担心人工智能的一个原因是良好的人工智能系统是由大量的数据和非常好的算法驱动的。如果你看看现在谁拥有这个领域的大部分数据,那就是大技术,这是州政府。您如何看待个人在这次AI革命中的角色?因为这些新技术和不同动机的获取似乎存在一些不对称性。

加里卡斯帕罗夫 :对。我完全同意。我们有这个问题,我认为公众认识到这个问题,但政府仍然没有足够的压力对违反隐私的公司实施非常严格的规则和非常惩罚措施。

作为人权基金会主席,我担心的一个问题是规则不同于民主世界和不自由世界。我发现这些跨国巨头 - 比如谷歌,苹果,微软,Facebook--对美国或欧洲的客户采用截然不同的规则,以及那些没有那么幸运能够在免费中出生的人,我觉得非常麻烦世界和生活在中国,俄罗斯,土耳其 - 从社会活动中释放数据实际上可能是生死攸关的问题。我认为这是第一步,但我们也应该认识到,如果正在生成数据,它将被收集。

我相信政府可以通过多种方式[仅]限制这些数据的使用。此外,我认为这是公众方面的奖励,因为在美国参议院马克·扎克伯格证词之后,我发现......这是美国立法者无知的惊人表现。他们五个小时都不能问好问题;他们让他坐在一个闷热的位置,这是一种浪费。我没有看到公愤。错过了这么大的机会。

简单的建议,"让我们分开吧。"这不是标准油。如果你刚开始分裂---我讨厌垄断---但是你会有很多很多谷歌的数据传播。我们应该找到一种赋予个人权力的方法。我不知道[很多] 区块链技术,但这可能是实际帮助人们控制自己的数据和自己的未来的方式。我认为还有一个时刻,它是互联网,社交网络的原始概念。现在,突然之间,它是社交媒体。人们只是不认识。这不是语义差异。 (摄影:Mark Wilson / Getty Images)

Dan Costa:它以完全不同的方式货币化。

加里卡斯帕罗夫 :这是关于 联系人 。这是关于如何将我们聚集在一起的整个想法。如何典当个人,获取数据并产生可能使他或她受益的东西,并且只是成为这个全球系统的一部分。社交媒体是不同的,你是目标。你现在是......大公司的目标。我们如何回到这个社交网络概念?我没有解决方案,我在这里承认我对技术解决方案的无知,但我知道这正是要问的正确问题的哲学。我认为公众并不了解这一挑战的严重性。

丹科斯塔:你是俄罗斯公民......

加里卡斯帕罗夫 :也是克罗地亚公民,我有电子护照,这就是我旅行的方式。

丹·科斯塔:......生活在美国,但你已经写了很多关于宣传,它的影响和权力,以及它如何被俄罗斯政府使用。在美国,我们现在有一个Facebook,Twitter,谷歌媒体世界,几乎就像一个私人宣传机器,可由政府,个别公司访问。再一次,作为处理并理解这些问题的人,您对美国有什么建议?当我们进入这个系统时,我们无法相信我们在网上看到的东西了。

加里卡斯帕罗夫 :看,我从本世纪初就开始面对普京俄罗斯的假新闻业和巨魔工厂的崛起。大约在2004年至2005年间,普京的宣传专家,克格勃人,他们作出了一个决定,即不通过[创建]防火墙跟随中国。而是创建虚假互联网[和]网站,这些网站带有大量真实信息[混合]这些有毒的碎片。没有一个合适的报纸的头版,每个人都必须遵循的故事,党派路线,你可以分成许多部分,几十件。把它放在一个包含很多真实故事的包中。

这并不是说,加里卡斯帕罗夫是国家的敌人。不,有人说加里卡斯帕罗夫是国家的敌人,但后来其他人说不,但他是一个伟大的国际象棋选手,但现在他可能被声音和宣传渗透。有人会说,不,不,不,他是个好人。所以评论的整个页面都可能是伪造的。

丹·科斯塔:机器人正在与机器人争论。

加里卡斯帕罗夫 :机器人和他们非常擅长这一点,所以这就是为什么有一天当普京攻击美国大选时,他真的有超过10年的这些行业经验。在俄罗斯,在西欧的欧洲大俄罗斯社区的邻国工作。

在我的书中, 冬天来了:为什么弗拉基米尔普京和自由世界的敌人必须停止 ,[从] 2015年,我说这只是时间问题。不是,但是他会攻击的时间和地点。因为他们已经建造了这台机器并且相对便宜。它仍然是数十亿美元的投资,但与公开的军事干预,对抗相比......它相对便宜。而且,它符合普京的克格勃心态,他的克格勃背景,间谍背景。因此,他总是寻找机会渗透,而不是公开对抗。这是经典的柔道方法,你利用对手的优势对付他。对于普京来说,它很棒,因为它是西方技术和自由世界,你可以用它来破坏自由世界的基础。

丹科斯塔:你对如何摆脱这种局面有什么建议吗?因为它似乎正在发生,它并没有真正停止。

加里卡斯帕罗夫 :不,它不会停止。对于任何拥有无限专业知识的人来说,答案显而易见。防守是一个失败的主张。在网络安全中,你可以建立防御,但在一天结束时,唯一的答案是威慑。这就像冷战一样,或者不喜欢它,这是一场网络冷战。普京或其他自由世界的敌人经常遭到攻击。无论是像伊朗,朝鲜,中国这样的国家,还是使用相同方法的准国家组织。

只有威慑才能真正阻止这些攻击或限制它们。因为他们会理解过度激进的后果。试图在这里和那里保护我们的弱点,重要的是我们建立一些防御。重要的是,我们提高公众对威胁的认识,但它不会起作用。至于假新闻行业,我们的自由社会面临着许多挑战,这使得假新闻产业成为可能。这是对党派偏见的恐惧,是关于帮助普京以及自由世界的其他敌人的不同意识形态观点的人之间缺乏对话,利用假新闻来消除这种差距。

Dan Costa:那么,您现在正在与Avast合作,这是一家PCMag读者非常熟悉的公司。对于如何提高防御水平,您对消费者有何建议?

加里卡斯帕罗夫 :至于个人防守水平,这很容易。第一个信息是智能家居的所有者。我有点震惊,因为即使在这个South by Southwest,我也和许多人交谈,他们有很好的专业知识[谁]不明白智能家居今天的脆弱程度。

[在]美国家庭中,有3900万人至少有一个易受攻击的设备。人们不明白一个易受攻击的设备会使整个智能家居变得脆弱。因为你的防御金字塔的优势取决于最薄弱的环节。一个坏苹果使整个包装腐烂。

大多数问题都是由传统家电制造商---洗衣机, 咖啡机制造的 - 因为没有建立数字系统的专业知识。但他们现在必须这样做。以极低的成本,因为它是一场价格竞争,但他们希望成为系统的一部分。大多数系统都没有足够的防御能力。我认为我们需要......政府监督,[并且]我们需要施加压力迫使[公司]达到某些标准。

但[我们]还必须提供单独的手册,因为没有人阅读100页的手册。在第85页,您阅读了有关此数字内容的内容,人们不会阅读它。他们中的大多数都使用默认模式,这当然是对黑客的公开邀请。我认为人们将开始做我称之为数字卫生的非常重要,因为我们洗手,我们刷牙,我们自动完成。它并没有使我们免于一些严重的疾病,但可以避免90%的问题。与我们的移动连接设备相同,我们仍然应该保护自己免受病毒侵害,但许多事情可以通过证明我们关心它来完成,因为它与我们的健康一样重要。

丹·科斯塔:所以我想问你们在节目中遇到的三个问题。是否存在一种与您有关的技术趋势,让您夜不能寐?

加里卡斯帕罗夫 :不,我是一个不可救药的乐观主义者。我担心坏人,而不是技术不好,因为每种技术都有双重用途。你可以建造一座核反应堆但不幸的是你制造核弹。非常不幸的是,破坏比建筑更容易。这就是为什么在历史上我们总是知道,一种新的破坏性技术已经过某种程度的破坏测试。

丹科斯塔:你不担心AI会发生同样的事情吗?在习惯创造之前我会习惯毁灭吗?

加里卡斯帕罗夫 :再说一次,这不是关于杀手机器人。这是坏人,背后的坏演员。人们会说哦,我们应该考虑道德AI。人工智能不可能比其创造者更具道德性。我不明白这意味着什么,比如道德电力。如果我们在社会中存在偏见,那么AI就会遵循它 。它看到了一种差异,无论是种族,性别还是收入差距。它考虑到了它; AI是一种基于赔率的算法。所以不知何故,抱怨道德AI就像抱怨镜子,因为我们不喜欢我们在那里看到的东西。

丹·科斯塔:你们每天使用的技术是否还能激发奇迹?

加里卡斯帕罗夫 :没有。对我来说,世界真正的奇迹是获取信息。由于我可以收集数据,因此更容易。我在苏联长大,信息稀少,书籍不多。现在,事实是我可以[读取任何东西] Kindle ......它只是让我感觉良好。现在有很多技术围绕着我们,这有助于我们变得更好。还有,令人惊讶的是,人们一直在抱怨,哦,我们能做些什么?没有什么新东西可以被发明......我说等一下。你在口袋里看这个装置,让我们在1976年或1977年倒退,Cray超级计算机就像一个奇迹。这个设备是什么?强大一万倍?

丹科斯塔:比航天飞机更强大。

加里卡斯帕罗夫 :没错。我们有这么大的力量,而且......我希望我们再次开始做大梦想。因为我们现在有这些机会。我对太空竞赛感到非常抱歉,我们停止了太空探索,深海探索。让我们回去吧,让我们尝试做大事。四年前,我在密苏里州的圣路易斯大学做了毕业演讲。对我说的研究生说,你必须恢复探索的精神,特别是因为圣路易斯是西边的大门,今天飞到火星比乘坐哥伦布越过大西洋更安全。因为,至少我们知道距离,我们有地图。我希望我们的孩子,我们的孙子们......在他们的梦想中会更具侵略性,通过使用这种非凡的技术推动我们前进,因为我想,让我们承认,让我们承认这个重要的事实;我们这一代人一直在寻找发现世界,太空或海洋的奇迹的过程中放慢脚步。

查看英文原文

查看更多文章

公众号:银河系1号

联系邮箱:public@space-explore.com

(未经同意,请勿转载)