最近TechCrunch的文章一复出2017年联合研究从谷歌和斯坦福大学面向人工智能(AI)行业一个重大的挑战:当机器人学会规避规则会发生什么?

在这项研究中,研究小组用神经网络的合作,以提高转向卫星图像到谷歌地图的效率。人工智能代理奉命航拍图像转换成街道地图,和它的第一眼进行令人难以置信的好。只有当球队进一步的研究,他们发现代理已有效在指定的任务作弊。

TechCrunch的一块概述发现详细介绍了如何展开。虽然这种情况肯定强调的是,这些项目无法按面值,这块的作者,德文Coldewey判断不相信有什么本质上调皮关于谷歌/斯坦福机器人。Coldewey写道,“人们可以很容易以此作为‘机器越来越聪明’的叙述了一步,但事实是,它几乎是相反的。本机,不够聪明做将这些复杂的图像类型彼此的实际困难的工作,找到了一种方法,骗取该人类处于检测坏“。

有线的汤姆Simonite有一个稍微不同的观点。一个2018八月文章详细介绍了AI系统类似的例子走了流氓,包括发现了一种在雅达利大比分通过触发一个游戏漏洞,发布了一个机器人“的不义之财点洗澡。”正如他所说,“这些例子可以是可爱的,但这里的东西:由于AI系统变得更加强大和普遍,黑客可以在更间接导致更大的舞台兑现。”

例如,可以在AI代理任务是通过关闭网格,公用事业公司肆虐节能?研究人员在这里认识到潜在的问题。Simonite的文章引用了几个谁研究流氓AI项目为揭示这种行为的根源的唯一目的。

共识似乎是,AI impishness的行为不能完全避免。相反,工程师需要教练和与这些系统合作,在他们,列出任务非常具体。凯瑟琳奥尔森,一个谷歌研究员采访了有线的文章,说:“今天的算法,你说什么,你的意思是不是。”

这是所有那些谁交互和管理AI系统必不可少的智慧。随着技术变得更主流,这一点很重要,这仍然谨慎考虑的首要为了企业采用人工智能的继续。