从不介意杀手机器人 - 这是2019年需要注意的6个真正的AI危险

去年,一系列争议揭示了人工智能的一个更黑暗(和笨拙)的一面

转到MIT Technology Review的个人资料 麻省理工学院技术评论 BlockedUnblockFollow继1月10日

插图:MZ Tech

Will Knight和Karen Hao

曾经很时尚地担心超级智能机器占领世界的前景 。过去的一年表明,人工智能可能在此之前很久就会引发各种危害。

最新的人工智能方法在感知任务方面表现出色,例如分类图像和抄写语音,但对这些技能的炒作和兴奋掩盖了我们与构建机器一样聪明的程度。从2018年开始的六次争议就是警告,即使是最聪明的人工智能算法也会行为不端,或者不小心应用它们会产生可怕的后果。

1.自行撞车

在3月发生一起涉及优步自动驾驶汽车的致命事故后,调查人员发现该公司的技术灾难性地失败,其方式很容易被阻止。

像福特和通用汽车这样的汽车制造商,像优步这样的新人,以及一大批初创公司都急于将一项技术商业化,尽管该技术不成熟,但已经有数十亿美元的投资。 Alphabet的子公司Waymo取得了最大的进步;它去年在亚利桑那州推出了第一个全自动出租车服务 。但即使Waymo的技术也是有限的 ,自动驾驶汽车无法在各种条件下随处可见

需要注意的是,2019年: 美国和其他地方的监管机构迄今为止采取了不干涉的做法,因为它们担心会扼杀创新。美国国家公路交通安全管理局甚至表示可以放宽现有的安全规则 。但是行人和人类司机还没有签约成为豚鼠。 2019年的另一起严重事故可能会改变监管机构的态度。

2.政治操纵机器人

今年3月,有消息称,政治咨询公司Cambridge Analytica 利用Facebook的数据共享实践影响2016年美国总统大选 。由此引发的骚动表明,决定在社交媒体上展示什么新闻和信息的算法如何用来放大错误信息,破坏健康的辩论,并隔离具有不同观点的公民。

在国会听证会上,Facebook首席执行官马克扎克伯格承诺,人工智能本身可以通过培训来发现和阻止恶意内容尽管它仍远未能理解文本,图像或视频的含义。

需要注意的是2019年: 扎克伯格的承诺将在非洲两个最大的国家: 南非和尼日利亚举行的选举中进行测试。 2020年美国大选的长期开端也已经开始,它可能激发由人工智能驱动的新型错误信息技术,包括恶意聊天机器人

3.和平算法

去年,当谷歌员工得知他们的雇主正在向美国空军提供无人机图像分类技术时,人工智能和平运动就形成了。工人担心这可能是为自动化致命无人机袭击提供技术的重要一步。作为回应,该公司放弃了名为Maven的项目 ,并创建了一个人工智能道德规范

学术界和业界重量级人物支持禁止使用自主武器的运动。然而,人工智能的军事用途正在获得增长势头,其他公司, 如微软和亚马逊 ,对于提供帮助没有任何保留意见。

需要注意的是2019年: 尽管五角大楼在人工智能项目上的开支不断增加,但活动人士希望今年将举行一系列联合国会议上出现一项禁止自主武器先发制人条约

4.监视对峙

人工智能超人识别面孔的能力使得各国以极高的速度部署监控技术。通过面部识别功能,您还可以在社交媒体上解锁手机并自动为照片添加标签。

公民自由团体警告反乌托邦的未来 。该技术是侵入人们隐私的一种强大方式,培训数据的偏差使其有可能实现歧视自动化。

许多国家 - 尤其是中国 - 人脸识别被广泛用于警务政府监督 。亚马逊正在向美国移民和执法机构出售该技术

在2019年需要注意的是: 人脸识别将传播到车辆网络摄像头 ,它将用于跟踪您的情绪和身份 。但我们今年也可能会看到一些初步监管

假你要打破它

去年大量的" deepfake"视频展示了使用AI制作虚假剪辑是多么容易。这意味着虚假的名人色情片,许多奇怪的电影混搭 ,以及潜在的恶毒政治诽谤活动

生成对抗网络 (GAN),涉及两个决斗神经网络,可以召唤出非常逼真但完全构成的图像和视频。 Nvidia 最近展示了GAN如何能够生成你想要的任何种族,性别和年龄的真实照片。

在2019年要注意什么: 随着深度改进,人们可能会在今年开始被他们欺骗。 DARPA将测试检测深度探测的新方法 。但由于这也依赖于AI,它将是一场猫捉老鼠的游戏。

6.算法歧视

去年,许多商业工具都发现了偏见。在不平衡数据集上训练的视觉算法未能识别女性或有色人种;事实证明,雇用有历史数据的计划会使已经存在的歧视永久化

与偏见问题相关 - 并且更难以解决 - 是人工智能领域本身缺乏多样性。女性最多占据30%的行业职位 ,不到25%的顶尖大学教学职位。黑人和拉丁研究人员相对较少。

在2019年 会发生 什么: 我们将看到用于检测和减轻bia和算法的方法,这些方法可以从偏差数据中产生无偏的结果 。机器人学习国际会议是一项重要的人工智能会议, 将于 2020年在埃塞俄比亚举行,因为研究偏见问题的非洲科学家可能难以获得前往其他地区的签证。其他事件也可能发生变化。

查看英文原文

查看更多文章

公众号:银河系1号

联系邮箱:public@space-explore.com

(未经同意,请勿转载)