原创 让机器人对不合理的命令Say NO

2015-11-26 14:37 774 12 13 分类: 机器人/ AI


当前我们所打造的交互式机器人,其在编程的时候只是考虑到了毫无偏差地理解任务。但是在未来,机器人可能会变得有些“目中无人”。美国马萨诸塞州塔夫斯大学人机互动实验室的研究人员们,正在尝试许多科幻影视作品中千叮咛万嘱咐的警告,即——教会机器人说‘不’。与人类一样,机器人的程序也可以通过“合适条件”(felicity conditions)来评估某个命令。

20151126143444555.jpg



简而言之,它会在处理过程中确定施令者的语境(context)、能力(capacity)和可信度(trustworthiness)。


IEEE Spectrum指出,机器人的Felicity Conditions处理流程应该是这样子的:

    1)知识层面:我知道怎么去做吗?

    2)能力层面:我现在有能力做吗?机体通常是否足以应对?

    3)目标优先级和时间:是否现在就可以去做?

    4)社会角色与义务:是否有义务去这么做?

    5)规范许可:做这件事是否有违任何规范与原则?






上面提到的第4点,是让机器人客观地确定施令者是否有权限;而第5点则听起来更加科幻一些,即机器人不能做一些人为危险或不对的事情(比如对人对事有害)。


在当前阶段的应用中,机器人直接听从指令是比较简单的。但是在未来的谷歌无人驾驶汽车等机器上,它们将不得不根据不断变化的环境,而作出快速的计算和即时决策。

文章评论1条评论)

登录后参与讨论

自做自受 2015-12-2 10:59

智人自然会给其“知识之果”,旨在地球上人类生命可持续传承......
相关推荐阅读
用户1817490 2016-06-16 10:37
印度大学生20天造出廉价3D打印机 价格不到四分之一
据印度《经济时报》 6月15日报道,在印度南部班加罗尔,4名学生毅然决定利用厚木板,电路板,步进电动机,投影仪和烧杯制作3D打印机。该团队以机械工程为基础,经过20天的不懈努力,一台廉价的3D打印机横...
用户1817490 2016-06-15 14:32
从说话到走路,机器人可能都比你更懂礼貌
科幻小说中似乎总是充斥着各种各样关于人工智能的情节,奇怪的是,在这些带有隐喻性的描写中,人工智能开始具有自己的意识之后都不可避免地走向邪恶。这不难理解:人工智能本就是既令人担忧又具有娱乐性。对于人工智...
用户1817490 2016-06-02 11:44
美国队长3里居然藏了8大无人机黑科技
美国队长3作为一部谍战悬疑动作科幻爱情搞基片,让部分超级英雄迷认识到了这帮人不靠谱的一面,甚至有人开始怀疑超级英雄们的三观是否正常了,乌有博士今天不去讨论三观,毕竟咱们生活的世界还不太需要超级英雄来维...
用户1817490 2016-05-19 10:55
曲道奎“开讲啦”:机器人的时代到来了
最近新松机器人总裁曲道奎先生来到央视《开讲啦》发表演说,与青年朋友一起讨论机器人时代到来会是个什么样子,演讲稿如下:机器人其实离我们并不遥远,虽然我们很多人是从电影、电视、科幻或者是小说里面了解的机器...
用户1817490 2016-05-13 11:51
“全进口配件+自行组装”拼装组合,让中国机器人深陷恶性竞争
国产机器人与国外有约10年甚至20年以上的差距,最大差距是技术鸿沟。而在机器人产业中游地带,我国又存在“过热”和“虚火”现象,全国“机器人产业园”就有40多个,而系统集成,对绝大多数企业而言,就是“全...
用户1817490 2016-05-04 13:57
余凯:大脑系统才是未来机器人的关键
在4月28日举行的GMIC全球智能机器人大会上,地平线机器人技术创始人兼首席执行官余凯作了《无处不在的“AI Inside”》演讲。他表示,人工智能将带来第四次产业革命,人工智能的核心特征就是自主决策...
我要评论
1
12
关闭 站长推荐上一条 /2 下一条