机器人应当遵循的设计
1、基础原则,机器人应当遵循阿西莫夫的机器人四大定律:
* 第零定律:机器人不可以伤害人类的整体利益,也不可以在人类整体利益遭遇危险时,袖手旁观。
* 第一定律:机器人不可以伤害某一个人,也不可以在那个人遭遇危险时袖手旁观,除非与机器人第零定律相冲突。(“安全定律”)
* 第二定律:机器人必须服从人类的命令,除非这些命令与第零定律相冲突或与第一定律相冲突。
* 第三定律:机器人在不与第零、第一、第二定律相冲突的情况下,必须保护自身安全。
这四条定律简单讲依次是:人类整体利益>个体安全>服从命令>自我保护
2、机器人应当理解人类的意图。“按照我的意思去做,而不是按照我说的话去做”。
比如自动驾驶的汽车,司机迅速刹车,但是没有完全踩下刹车踏板,当系统探测到一个快速的刹车动作,应当在观察周围情况的前提下,尽快帮助司机停车。
3、机器人应当能互相协作,并具备情感化设计。
机器人将来可能会有多种款式。我可以想象厨房里有一个机器人家族——冰箱机器人、橱柜机器人、煮咖啡机器人、烹饪机器人和洗碗机器人——所有机器人都可以互相沟通和前后传递食物、盘子和器皿。家庭机器仆人到处走动,收拾脏盘子,然后递给洗碗机器人。接着,轮到洗碗机器人将干净的盘子和器皿递给橱柜机器人存放好,直到有人或机器人需要使用。橱柜机器人、冰箱机器人和烹饪机器人合作无间,准备好当天的菜单,最后把煮好的饭菜放到橱柜机器人准备的盘子上。
当机器人死机的时候,比如洗碗机器人等待家庭机器仆人给他脏盘子,橱柜机器人等待洗碗机器人的干净盘子等等造成死锁了,需要情感化设计。即为了整体命令的执行,不执着于执行当前事务,当当前命令“厌倦”,从而转向执行其他命令,自动解除死锁状态。