全国首例机器人伤人事件告诫:谨慎对待弱人工智能的失控

来源:好宝网      2016-11-19 11:24:05      作者:张三丰

[导读] 高交会本是兵家摩拳擦掌,一比高下之地,今天却发生一件“不愉快”的事情,一台名为小胖的机器人突然发生故障,在没有指令的前提下自行打砸展台玻璃,最终导致部分展台破坏,更为严重的是,该机器人还砸

高交会本是兵家摩拳擦掌,一比高下之地,今天却发生一件“不愉快”的事情,一台名为小胖的机器人突然发生故障,在没有指令的前提下自行打砸展台玻璃,最终导致部分展台破坏,更为严重的是,该机器人还砸伤了路人。

伴随着热点流窜,网上更为详细、真实的现场图也流出,伤者被担架抬离会场,玻璃碎落一地,小胖机器人应景地沮丧了一脸,呆若木鸡于人群中,等待着审判。

小胖机器人

小胖机器人是北京进化者机器人有限公司旗下产品,据简介显示,这家公司立项于2014年8月,成立于2015年2月,发展至今员工数量达260人,按照公司规模属于中型公司,产品定位为家用陪伴机器人和商用服务型机器人。

机器人产生的流血事件,是Bug的原因吗?是观众失误操作?总之人受到伤害,毫无疑问,小胖作为机器人并不能承担对应的法律责任,它的爸爸要负起全责了。

受伤的路人

这个时候,既然法理不完善,那我们就需要搬出人类共识,在1950年末阿西莫夫撰写的《我,机器人》著作中,强调了机器人三大法则。

①机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。

②机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外。

③机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。

这次机器人违反了第一条。

在弱人工智能时代,机器人即使做出伤害,仍然是在可控范围之内,产品对应的商家可能负有生产劣质产品的罪名,而我们仍然没有意识到机器人在不远的未来不是一个产品,是一个独立的个体,机器人的行为和大脑发育应该有所受制,否则,机器人蓬勃的发展最后将走向“失控”。

随后,北京进化者机器人有限公司给出了情况汇报。

情况汇报


2016年最后一场行业盛会,第二届创新奖评选再度来袭,12月23日,北京亮马桥四季酒店,见证新资本、新产业、新技术、新理念带来全新变革。科技赋能产业,见证下一个商业风口!

2016亿欧创新者年会.jpg

本文作者极客王子,亿欧专栏作者;微信:liangjiemin-2016(添加时请注明“姓名-公司-职务”方便备注);转载请注明作者姓名和“来源:亿欧”;文章内容系作者个人观点,不代表亿欧对观点赞同或支持。