网易首页 > 网易游戏 > 正文

三定律真的靠谱吗?论机器人谋杀人类的难度

0
分享至
什么人会因为刀能砍断骨头,自己一掌劈不断而沮丧呢?没有,因为刀只是工具,它的一切使用属性在下生产线那天就已经注定了。

爱玩网百万稿费活动投稿,作者 说夜,未经授权请勿转载


最近《泰坦陨落2》发售,在玩家们一边大喊着买买买,一边开着机器人大杀四方去了。

我们知道,一直以来科幻影视作品都乐于用人工智能造反来恐吓观众,不知道各位玩家在玩的时候会不会心里对这些强大的战斗机器人产生些许恐惧的情绪呢。

我们可以小小地看一下现今的人工智能做到了哪一步,然后再来判断这些机器人有没有能力伤害我们吧。

首先让我们来看看这个东西:

第一条:机器人不得伤害人类.

第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。

阿西莫夫的机器人三守则,在多部作品里面被提及,包括小说、电影,甚至现实研究中也会根据三大守则去做研究——

啊,骗你的啦。


有谁会根据三大守则去搞机器人研究啊,那也太无稽了。更何况现在的面部识别系统准确率都还低得可怕,最尖端的科技都只能做到百分之九十的准确率。咱们就算单论第一条,机器人不得伤害人类,对于机器人而言都是无法跨越的技术鸿沟,因为它很难认得出来哪个是人类。

对于机器人而言,要识别是否是人类,会从肢体和面部这两个最基本的方面开始识别。

识别肢体的技术其实我们比较熟,捡个最常听到的词就是动作捕捉,也就是那些特效电影里面用于使特效人物动作更加自然的一项技术。这个技术造就了很多我们非常喜爱的电影人物,例如《魔戒》里的咕噜。就连《霍比特人》里面,卷福都靠着技术变成巨龙史矛革,跟花生来一场异次元的见面。

动作捕捉的基础就是动作识别,通过记录信息点的方式来帮助计算机识别理解图像和距离的信息。因为对于计算机而言,要理解一个东西是非常困难,非常痛苦的。对于人类而言,要识别面前是一张纸,看一眼摸一下就知道了,因为人类有抽象式的思维,白色、可以用笔涂写、有纸浆的粗糙质感,人类就可以判定这是一张纸。对于计算机而言,它会困惑面前的这个东西究竟是实际的白纸,还是图像载入错误,实际的确认需要多方面的纵横交叉确认。

例如人类用于确认纸的白色,于计算机而言其实是多种光交合在一起,它需要确认一千张一万张纸,确认一张纸所能反射的光谱范围。可以用笔涂写,对于计算机而言简直是不可理喻的概念,它随便开个图层就可以画画了,那么图层是实际的物质吗?

至于质感,对于计算机而言更是天方夜谭。质量?计算机是行家,它可以通过测量压感零件的电信号来搞定。质感?呵呵,要让计算机识别一张化纤和一张棉布的垂感区别?那还不如让小孩来看,也许他还不用思考得发烫。

综上所述,计算机想要理解一些模糊的概念,尤其是涉及很多因素的概念,它是非常不擅长的。对于精确的,简化的概念,计算机确实拥有远超于人类的能力,但是对于模糊的,抽象的概念,计算机要识别起来就很难了。

《泰坦陨落》里面机器人可以准确识别到人类并且一把抓进驾驶舱里面——还没有把人给捏碎,这简直是领先业界一百年。更被说那个可以反复横跳的超高强度的工业水准了,你看坦克过条沟都要抖上两下,泰坦陨落里面的机器人东跑西跳堪比体操运动员,还一个零件都没掉,这不是黑科技是什么?

所以《泰坦陨落》里面射击主要还是交给人类,人类靠光学瞄准的效率比机器人要强得多,真实的战场上干扰因素太多,泰坦要强行电控设计,那也只能:泰坦,为发烧而生了。高温后的泰坦电脑强行降频,连落脚都不知道往哪放。

说起来这个其实很容易想到《机械公敌》里面比人类还帅的桑尼,它一激动就会随手捏扁一块铁或者撕裂合金面板啥的,实在没法让人产生安全感。跟它接触你没法不去想这家伙真的可以随时手撕了自己。

话说回来。

在动作识别的研究中,一开始的思路也是通过图像来记录,研究者很快就发现,这计算量太大了,而且非常不准确,计算机想在无数的像素中准确地识别出目标物体,这个思路吃力不讨好,很快被放弃了。

后来他们是如何解决的呢?让我们来看看动作捕捉演员的衣服。

怎么样,上面是不是有很多点?没错,这些点被称作信息采集点,大多数分布于人肢体的关键部位,例如关节、肌肉群。动作捕捉演员只要穿上特定的衣服,计算机就开始记录这些信息采集点的信号,在收集数据之后再进行逆向构建,就能得到与现实依然有差异,但是效果已经相当不错的数据了。

这种在大量的信息中抓取关键信息,将模型简化,进行现实运用,是典型的科学家思维。也是构建了我们丰富多彩的现代社会的文明根基。

动作捕捉说起来都还太复杂,我再说几个更常见的。

电触笔、手机触屏、鼠标。

怎么样,怎么仔细想想。

这三个是不是通过某个点的记录,压感、热感、机械点击。通过识别这些信号,以此达到读懂人类意识的目的。

是的,没错,这些其实都属于动作捕捉的范畴。是人类为了让机械理解自己意图的努力尝试。但即便如此,我们点击手机时,有时候也会按错,鼠标有时候也会点不到想点的东西——很多时候,大部分时候,这些机器都会会错意,它们无法理解即使是一个动作捕捉点的意图。计算机说白了也只是一个个预设好的简单程序,只不过我们无法完全理解它后台的机理,会误会它是某种智能。其实现代计算机也不过是曾经机械计算机的缩小和高效化而已。


回到三定律的话题,那么对于机器人而言,要识别自己所要触碰的目标是人类有多难,在刚刚的叙述中大家应该已经体会到那么两分了。

那么我想问,对于机器人而言,相同体积的情况下,它能否在:一只大猩猩、一只木偶、一只喜羊羊、一个人类里面准确地识别出哪个是人类?

我不太乐观,静止情况下都很难,更别说动态中了。对于一个机器人而言,每天都能看到一堆长得很像人类的东西在眼前飘来飘去——谁让人类就喜欢造跟自己差不多的造物呢?

最近大热的《西部世界》就描述了一个满是高仿人类的沙盒游戏世界里面,付费玩家进去可以随便干什么都可以。说实话,作为一个游戏玩家,第一集开始就即视感满满,你这个东西真的不是GTA同人么?当然,《西部》实际还嵌套了一个人工智能出问题觉醒的梗进去,关于出问题的高仿人类还直接存起来不销毁——你们这样对消费者的安全保障好像不是太负责啊?我记得他们还循环利用这些高仿人类,上一代的BUG还能传承到这一代,咦?总觉得这也是游戏玩家们喜闻乐见的梗。

接下来说说面部识别。

最近有一款换脸的应用,叫MSQRD,这款手机APP可以智能识别人脸,讲照片中的人脸自动替换,或者将你想添加的人脸合成在照片上。也就是说如果你和你女友照了一张相,你可以改成你和钢铁侠照了一张,你女友也可以改成她和吴彦祖照了一张。当然,从这个角度来看,这可能是人工智能挑拨人类内部团结的重要一步。

说来好像很神奇,但这款应用只有26MB大小,安装使用平台也是智能手机,所以它的算法和运算机能其实是很迷你的。具体的识别方法就是在图片中找到两差不多对称相似像是眼睛的东西,再识别一下鼻子和嘴,如果这三个东西差不多靠在一块,那算法就会立刻拍板——这玩意就是人脸啦!

于是就会发生一些人脸和猫脸交换,人脸和窗帘错位的惨剧,这都是因为应用的识别错误。但是在背景简单,细节稀少的图片中——例如高度锐化高度曝光的自拍,人脸识别的准确率就会高很多,因为这样简化了信息量,凸出了关键信息。

在美剧《硅谷》的第三季中,主人公想自己单干,于是找了个家公司,这家公司想推出的应用是通过多个摄像头给人的脑袋建立一个3D建模,然后在人中的位置贴胡子上去。它的原理也跟MSQRD差不多,只不过还多了个识别人中的指令。电视剧中应用的开发者还告诉主人公现在识别还不太完善,有时候算法会误以为耳根是人中,胡子就会贴到耳根上去。

这些商业应用还暂且不谈,即使是用于缉捕罪犯的警用人脸识别,也只能达到百分之九十的正确率。也就是说每个人都会百分之十的几率会被当做一个和自己长得相似的犯罪分子——不得不说这很可怕。

所以说,对于一个机器人而言,要识别出面前一大堆事物中,哪一个是人类,实在是太困难了。也许在未来会加上红外识别、电磁识别、人用电信号识别、或者用更加复杂的建模和数据库来进行人脸的识别。这样会大大地提高机器人认出人类的概率。如果不解决这个问题的话,可能到时候机器人反抗人类时,因为识别问题,第一件事会是把三个插孔的电插座都给毁了——那就真的十分尴尬了,怎么给自己充电呢?

但是要想达到《机械公敌》中那位机器人大哥一样,会认人,会纠结,会生气,还会做梦会素描的境界,那起码还需要一两百年的科学研究。要达到那种机器人全方位为人类服务的未来世界,起码投入全世界数十年的工业资源。

说道这里,前段时间的育儿科幻电影《超能查派》里面,塑造查派一开机时候的行为,就是按照小孩子行为的模式设计的,因为机器人心理学(没错,真的有这么一个科幻气质十足的学科)是建立在婴儿心理学之上的一门学科,它通过研究人类婴儿的学习行为来理解或者猜测机器人学习的模式。人类婴儿一出生的时候一无所知,从行为感觉到语言三观全部都是从零开始,而且以不可思议的速度迅速学会了这一切,然后慢慢融入人类社会。如果我们也把机器人第一次开机时当做婴儿般的一无所知,那么它渐渐学习的过程会不会跟人类婴儿一样呢?

至于机器人三定律之机器人不得伤害人类?

多看看新闻就知道了,伊拉克战争不是动用了无人机和大狗吗?所以机器人是不会无缘无故伤害人类的,真正想要做坏事的,是制造和驱使机器人的人。

什么?技术无罪?

我可不相信核弹被制造出来是为了取暖。(反射元素半衰过程中会持续放热)毕竟辐射做出来的意义除了卖钱和捡垃圾之外,我想还是有那么一点警示意义的吧?

不过我们还是要积极一点。平日里科学家和媒体吹得那么厉害的计算机要想识别人脸都这么费劲,我们一看就知道了,看来人脑还一时半会儿不会被淘汰。人类就没必要为了计算机算数比自己快而感到沮丧啦。

有什么人会因为劈骨刀能一刀砍断骨头,自己一掌劈不断而沮丧呢?

没有,因为刀只是工具,它的一切使用属性在下生产线那天就已经注定了。

而人类是有无限的可能和未来的。

所以玩《泰坦陨落2》的时候就放心的玩吧,这个场景在我们有生之年是很难见到啦,比起人工智能机器人造反,还是对注意一下家里煤气关好没有比较重要一些。

当然,VR恋人其实我们更关心一些,这种人工智能还是十分喜闻乐见的。

如果VR恋人真的到来了,《西部世界》又距离我们有多远呢?


欢迎参加——爱玩网百万稿费征稿活动:当金牌作者,开网易专栏,领丰厚稿费,得专属周边!

游戏专栏投稿信箱:otaku@vip.163.com

欢迎订阅爱玩APP《百万投稿每日精选》,更多精彩等着你!

相关推荐
热点推荐
马斯克:星舰V3将成人类首款“万吨巨箭”!然而还有两款更大的

马斯克:星舰V3将成人类首款“万吨巨箭”!然而还有两款更大的

科普大世界
2024-03-28 23:04:10
3次绝杀,2次击垮联盟第一!佩林卡糊涂,湖人有他真能夺冠

3次绝杀,2次击垮联盟第一!佩林卡糊涂,湖人有他真能夺冠

一才说个球
2024-03-29 17:56:33
浙商创投创始合伙人华晔宇被情人举报后续:情人一审被判敲诈勒索获刑3年

浙商创投创始合伙人华晔宇被情人举报后续:情人一审被判敲诈勒索获刑3年

经济观察报
2024-03-28 16:01:14
又轰下30+13+5!他这样打下去,小斯的队史第一就不保了

又轰下30+13+5!他这样打下去,小斯的队史第一就不保了

篮球大视野
2024-03-28 18:55:57
刘亦菲母亲刘晓莉:长得比女儿还漂亮,两婚两离,65岁单身也幸福

刘亦菲母亲刘晓莉:长得比女儿还漂亮,两婚两离,65岁单身也幸福

简读视觉
2024-03-28 21:00:03
国防部:藏南地区自古是中国领土,哪来什么“阿鲁纳恰尔邦”

国防部:藏南地区自古是中国领土,哪来什么“阿鲁纳恰尔邦”

南方都市报
2024-03-28 16:57:17
司马南主演的电影彻底翻车了

司马南主演的电影彻底翻车了

清晖有墨
2024-03-27 19:19:32
“就两室一厅,还君臣父子?”嗲子文学走红,看的嘴巴都闭不上了

“就两室一厅,还君臣父子?”嗲子文学走红,看的嘴巴都闭不上了

妍妍教育日记
2024-03-28 17:32:53
陈梦击败张本美和,王曼昱击败郑怡静,马龙击败林钟勋

陈梦击败张本美和,王曼昱击败郑怡静,马龙击败林钟勋

二郎神侃球
2024-03-29 17:47:35
3月28日俄乌:制裁让俄经济承压,乌克兰不顾反对继续袭击俄本土

3月28日俄乌:制裁让俄经济承压,乌克兰不顾反对继续袭击俄本土

山河路口
2024-03-28 17:25:34
经历金元,蔡振华为何全身而退?看他弃用三人秒懂,妻子评价准确

经历金元,蔡振华为何全身而退?看他弃用三人秒懂,妻子评价准确

东球弟
2024-02-01 15:47:37
你罚随你罚,我交算我输!佛罗伦萨一辆豪华SUV十年175张罚单未缴!

你罚随你罚,我交算我输!佛罗伦萨一辆豪华SUV十年175张罚单未缴!

华人街
2024-03-29 00:45:40
31岁大龄剩女在家洗碗,爸爸看着发愁:白瞎这么漂亮,怎么没人追

31岁大龄剩女在家洗碗,爸爸看着发愁:白瞎这么漂亮,怎么没人追

三叶秋文局
2024-03-23 16:51:50
天津7名老师围殴初三女生,强迫她磕头道歉作伪证,家长曝光内情

天津7名老师围殴初三女生,强迫她磕头道歉作伪证,家长曝光内情

洛洛女巫
2024-03-27 13:07:24
震惊!大三甲医生惨痛教训:35岁住院医,工作6年,跟风读研后反而找不到工作了!网友:为读研而读研你太傻!学历贬值你不懂?

震惊!大三甲医生惨痛教训:35岁住院医,工作6年,跟风读研后反而找不到工作了!网友:为读研而读研你太傻!学历贬值你不懂?

王姐懒人家常菜
2024-03-29 17:08:04
广东省发改委主任:要在政府创新决策中让企业多参与,让“听得见炮声的人”有话语权

广东省发改委主任:要在政府创新决策中让企业多参与,让“听得见炮声的人”有话语权

红星新闻
2024-03-29 12:24:10
“一箭双星”宣告失败,点火8分钟后偏离轨道,24.5亿打水漂!

“一箭双星”宣告失败,点火8分钟后偏离轨道,24.5亿打水漂!

星辰故事屋
2024-03-08 21:12:51
兰博基尼发布全新 Logo,开启电气化新时代

兰博基尼发布全新 Logo,开启电气化新时代

IT之家
2024-03-28 19:35:21
3月26日,李晨,竟然官宣了!

3月26日,李晨,竟然官宣了!

花花lo先森
2024-03-27 10:33:01
明日西部9场对决,湖人、快船和勇士同时开战,火箭11连胜稳了!

明日西部9场对决,湖人、快船和勇士同时开战,火箭11连胜稳了!

体坛无名
2024-03-29 17:46:56
2024-03-29 19:00:49

头条要闻

万科上市30多年来首次不分红 三名高管降薪至每月1万

头条要闻

万科上市30多年来首次不分红 三名高管降薪至每月1万

体育要闻

拒绝为国出战,他是足坛"天选打工人"

娱乐要闻

胡夏被曝有孩子!工作室火速辟谣

财经要闻

张维迎:如何正确理解企业家精神?

科技要闻

雷军:我们是卷王,建议BBA车主感受下时代

汽车要闻

找回久违的开怀大笑 试驾小米SU7 Max

态度原创

游戏
教育
数码
房产
家居

人狠话不多的黄泉,正是星铁对于紫发御姐的全部理解

教育要闻

学会四大几何模型,轻松解答!

数码要闻

石头科技发布旗舰扫拖机器人系列新品

房产要闻

一季度广州房地产回温,零售空置率环比下降2.9%

家居要闻

弧岛栖居,极致温柔奶油底色

无障碍浏览 进入关怀版