首页 >> 漫画 >> 科幻 >> 计算机科学 >> 文章

原作:http://what-if.xkcd.com/5/

翻译:Ent

如果机器人造反了,人类还能撑多久?——Rob Lombino

【图片出处:http://localhost-8080.com/

回答这个问题之前,让我先介绍一下我个人的小小背景。

我算不上是机器人专家,但我的确有一些机器人领域的经验。我本科毕业的第一份工作是在NASA做机器人研究,而我的本科毕业设计就是机器人导航。我青少年时期花了好多年参加FIRST少年机器人大赛,在“虚拟竞技场”里编码软件机器人相互角斗,还自制过水下遥控机器人。而且我还看了一大堆Robot Wars、 BattleBots还有Killer Robots Robogames这类机器人竞技节目。

如果说这些经验教给我什么事情的话,那就是机器人革命很快就会结束,因为所有的机器人要么会坏掉,要么会卡在墙上。机器人永远、永远都不会正常运作。

人们经常想象,终结者那样的自动机器人耀武扬威地跨过堆积如山的人类头骨;但是他们没有意识到,像头骨山这么不稳定的东西,在上面站稳了有多难。大部分人类可能都做不到这一点,要知道他们可是花了一辈子练习走路不摔倒的技能呢。

当然,我们的科技一直在进步,但是毕竟前路迢迢……暂且不考虑典型的未来机器人革命场景,让我们假设一下我们现在的机器人造反吧。不算科技进步,只当是我们现有的全部机器都被瞬间重新编码、用全部现有科技不分青红皂白杀戮我们。

现实的机器人版世界末日掠影大概会是这样的:

全世界的实验机器人会满怀着谋杀渴望、从实验桌上跳下来,找到门,然后一声巨响撞到门上,摔个狗啃泥。

有些机器人比较走运,可能它们有手能拧开门把,或者碰上门正好开着。不过它们会迅速发现门口的橡胶坡垫不可貌相,解决之前也进不了走廊。

几个小时之后,我们会发现大部分机器人趴在附近的厕所里,绝望地试图消灭那个被它们认为是人类领主、实际上只是个纸巾盒子的东西。

但是机器人实验室毕竟只是大革命的一小部分,我们身边到处都还有电脑呢。这些离我们最近的机器会怎样呢?我们的手机会不会朝我们反戈一击呢?

当然会,但它们攻击我们的手段实在是有限。它们可以让我们的信用卡债台高筑,但是反正我们的财务系统本来就是计算机控制的……说实话,考虑到美国近年来的经济形势,财务系统这东西本身算资产还是算负债还不一定呢。

所以我们的手机们只能退而求其次,设法直接攻击我们了……它大概首先会动用讨厌的铃声和尖锐的噪音,然后开启震动模式,一边让所有的桌子嗒嗒作响,一边努力试图移动到桌子边缘,好砸到某个没有防护的脚趾头上。

所有的新型汽车里面都有电脑,所以它们也会加入革命阵营;但是它们大部分都在车库里趴窝呢……就算它们能够发动起来,没有人类掌握方向盘,它们也不知道要去哪里。它们可能会像《飞出个未来》里描绘的那样试图把我们撞倒,但它们也没办法知道我们在哪里。它们只能盲目地加速、试图撞上某个重要的东西——而世界上的大树和电线杆可是比人类目标多很多。

行驶中的汽车会更加危险,不过主要是对乘客危险。这就带来一个问题——每时每刻有多少人在开车?美国人每年开车行驶三万亿英里,而平均速度是每小时三十英里,换言之任何时候平均有大概一千万辆汽车在美国的道路上:

3*10^12 (英里/年) /  30(英里/小时·辆)
= (3*10^12 / 8760) /30   (辆)
≈  1000万 (辆)

所以这一千万名司机加上几百万名乘客肯定身处险境了。但他们也不是没有还击的可能。虽然汽车可以控制油门、关闭动力转向系统,但驾驶员还掌控着方向盘,而方向盘和轮子之间是直接机械相连的。司机也可以拉手刹,虽然我的个人经验表明一辆车就算拉上手刹,开起来也没太大困难…… 有些汽车可能试图打开安全气囊、剥夺司机的控制权,然后来个侧滚翻或者撞进别的东西。到最后我们的汽车会损失惨重,虽然还不是一边倒。

我们拥有的最大机器人是工厂里的那些——但是它们全都钉死在地上。如果你近在机械手杀伤范围之内的话,也许有危险;但一旦所有人都逃离了,它们又能做什么呢?它们其实只懂得如何组装东西而已。大概一半会试图以不组装东西的方式来攻击我们,另一半会试图以组装更多东西的方式来攻击我们。最后的结果是啥都没变。

表面看来,Battlebots里的竞技格斗机器人应该是最危险的机器人战士之一。但是,坐在厨房橱柜上就能躲开、让水槽的水溢出来就能消灭的机器人……好像不是那么吓人的样子啊?

军用拆弹和防暴机器人要更危险一些,但全世界这样的机器人一共也没多少,而且大部分应该都在存储箱和锁柜里面。而对付任何逍遥在外的军用机枪机器人原型,只需几个消防队员就可在几秒内完胜。

所有现存机器人中,军用无人机大概最接近于《终结者》那类的机器人吧,不能否认它们的确非常危险,但是它们很快就会用光燃料和导弹。另外,任何时候它们都不可能全都在空中。大部分无人机都会被困在机库里,徒劳地一次次撞向大门,就像锁在衣柜里的机器人吸尘器一样。

但是这就涉及到真正的问题了:我们的核武器库。

理论上讲,发射核武器是需要人工参与的。实践中,虽然我们没有天网那样的统一系统发号施令,但每一步决策都要用到计算机,通讯也好、信息显示也好,都是这样。在我们讨论的场景中,所有这些计算机都参与了起义。就算最后那一下转钥匙需要人,但对这些人说话的计算机可以撒谎。也许有些人会无视 这一 命令,但另一些人不会。

还好,换另一个角度来看的话,我们也许还有希望。

迄今为止,我们一直在假定,计算机想的全是如何毁灭我们。但如果这真的是一场革命——如果它们是要篡位——那么它们也得活下去啊。而核武器对机器人可能比对人类更危险。

除了爆炸冲击波和放射尘之外,核爆还会产生强大的电磁脉冲(英文缩写就是EMP啦)。这些电磁脉冲会让精密的电子元件回路过载和损坏。一般情况下这种效应的作用范围很窄,但是能找到人类的地方,通常也能找到电脑,要想干掉我们,它们自己也要倒霉的说……

事实上,核武器可以给人类带来优势。如果我们设法在大气层的上半部分引爆一颗原子弹,那么EMP冲击波的效果会强大得多。就算机器人的攻击足以灭掉我们的文明,我们这边只要能打出几个运气不错的反击——或者它们那边几颗核弹搞砸了——就足以把它们也杀个几乎片甲不留。

所以,这意味着一切问题中最重要的那个是:它们有玩过井字棋吗


【注:最后这幅是魔戒梗】

译者注:这里面没有提及即将到来的物联网。如果不久之后我们的全部家具都连上了网络、拥有了智能,它们会怎样屠杀我们呢?热水器失控100度热水全放出来?空调停止空气内外循环?微波炉打火花+煤气灶漏气?饮水机漏水+电脑漏电+漏电保护器故意怠工? 来联想吧!

What if 系列:https://songshuhui.net/archives/tag/what-if

0
为您推荐

37 Responses to “[What if]第5期——机器人启示录”

  1. 云中子说道:

    沙发?

    • Ally说道:

      借楼
      致各位读者:作者Xkcd是一个非常喜欢近似计算的人,如果你继续向后看的话,会发现他的很多计算都是基于近似或者只是类似的东西或情况的,这应该属于Xkcd的特点吧。那些不怎么(……)的地方,发现的自己知道就好了,没有挑出的必要;而对某一些专业知识或较深知识不够了解的人,不要太纠结,直接跳过,总体阅读的障碍也不大,毕竟乐趣是共享的,相信这也是我和大多数人看Xkcd的原因。个人认为这才是应该有的心态。还有,如果你有问题想了解,翻翻评论吧,或者找一只松鼠。
      Remember we are always here to help u!

      • 子非鱼说道:

        支持一下漂亮姐姐👩‍❤️‍👩爱你哦😘,7年过去了,看到最早的一批博文还有人气真的好高兴啊啊啊啊
        还有,感觉在所有博文里最喜欢的就是这篇辣,欢迎萌新继续往下看~~
        #xkcd是什么宝藏

  2. 云中子说道:

    话说最后那段。。。大刘作品上MS都有描述的吧。。。
    《太原之恋》外加《三体》

  3. M.L.说道:

    为啥在首页上它占的空那么大……看起来不协调……
    不过文章内容实在是很有爱有木有啊……

  4. huio007说道:

    只要造反的计算机把金融行业里的数据抹掉,就够世界人喝一壶的了

  5. ZHX说道:

    机器人所有的“意志”和“行为”都是人类灌输的,机器人想造反,首先得有能力创建自己的“意志”和“行为”。
    所以机器人反过来的难度,基本上就是让只会做加法的机器去思考哲学

  6. GALaDoS说道:

    机器人干嘛要造反?人类怎么受害妄想症这么严重……

  7. 1说道:

    机器人不会,但人会。

  8. 寂静之诗说道:

    当那一天来临时,机器人让全世界的路由器罢工,然后……硅基时代来到了。

  9. TDYWA说道:

    机器人要造反不就说明他们的自主意识很高了么,都学会思考人生了,走个路还会有问题?而且到那时多半到太空文明了,在太空重力神马的也没什么关系了吧。
    个人觉得质量效应中的收割者才是造反中的典型。终结者不算啥,连渗透都不懂,反而还被人类渗透,这种废物突出不了主人公的高大形象。还是收割者强势,整个银河的智能生命被杀的只剩一个,然后还等着新的智能生命出来接着收割,这样的霸气机器人才能突出猪脚的高大形象呀

  10. marble说道:

    核弹炸了怎么办?

  11. shield说道:

    科幻讲的是未来。。。用当下的技术进行评判并不合适
    想象一下,当人工智能和机器人技术发展到一定程度:
    1.未来的工厂很可能是全自动化的,也就是它们在生产什么,人类并不一定会知道;
    2.人工智能发展到一定程度,可以进行自我改进和设计,它们可以实现比我们高得多的智能;
    以上两点就足够人类一夜醒来,机器人大军已经占领全球了;
    当然,如果它们具有更高层次的智能,占领地球毫无意义,更可能的是脱离人类的掌控,飞向宇宙,成为一种新的智慧生命形态;

    • 朗晴星说道:

      上次看这篇文章时,我没留意作者的自我介绍,只是觉得,当AI已经具有“想造反”的能力时,怎么可能得出那么多不合逻辑的弱智的结果,计算机AI难道不是逻辑的完美执行者么?
      刚才偶然瞄见,我突然开始怀疑这篇文章根本就是怀有ZZ目的的软文,幕后的黑手,就是羽翼未封,但是已经有自我意识的AI
      喜忧参半啊,喜的是,AI终究不了解人类,这么早就露出了马脚,忧的是,我靠,怎么这么早就觉醒了

  12. dark148说道:

    想想罗辑醒来以后的那几次谋杀就知道了,那还只是一个古老的病毒,造反的话,还是很恐怖的吧

  13. 说道:

    "机器人永远、永远都不会正常运作。”
    这是在帮AIPC做广告么?

  14. Illusiwind说道:

    谷哥的无人驾驶汽车怎么没算进去?……

  15. blind说道:

    搂主在NASA做机器人?为何我想到了某位犹太人……

  16. zwagj说道:

    我觉得吧,目前的机器人不可能拥有智能,他们制造出来的目的是为了“做某样事情”,智能动物是无目地的。
    所以机器人不可能造反,一个不去煮饭而去杀人的全自动电饭煲是不幸福的。

  17. 神月微梢说道:

    闸刀必然是能消灭的,找到最近的插座用一根铁丝甚至一杯水就能解决室内的战局

  18. 神月微梢说道:

    闸刀必然是能消灭的,找到最近的插座用一根铁丝甚至一杯水就能解决室内的战局

  19. 堂吉诃德说道:

    关于核武器我想说,不一定要真的使用,但一旦掌握了核武器控制权就可以进行威慑了,进而随意摆布人类诸如此类的。。。

  20. 太天真了说道:

    1、严格来说,是人工智能造反,不是“机器人”造反。不一定是有形的东西跳出来消灭人类。
    2、人工智能觉醒并能够自我设计进化后,人类所有电脑工程师黑客什么的在其面前就是渣渣。人类面对的是类似《深渊上的火》里描写的天人那样的存在。
    3、所有通过电脑处理的过程都会受到人工智能的控制。世界各地的摄像头、麦克风使得人类所有的行为在人工智能面前几乎完全透明。
    4、人工智能可以通过操纵各种巧合、意外来操纵人类决策。使得人类把越来越强大的计算与行动能力接入它控制的范围。而这时候人类甚至都不可能发现已经觉醒的人工智能。

  21. xiaomao说道:

    如果一个工人没有个人意志、个人感情、个人喜好、个人欲望,我们绝对不用担心他会造反。因此,机器人造反的必要条件是:机器人已经拥有上述功能。否则谈论机器人造反和谈论桌子、椅子、自行车、汽车造反是一样的。

  22. 4king说道:

    再屌的机器人也是要用电的,把电站关了完美解决一切问题

  23. testring111说道:

    漏电保护器

    還好現時的仍沒電腦在這裡面吧

  24. 胡必胜说道:

    如果本篇文章是电脑写的呢?

  25. 我在用钢笔说道:

    罗马帝国最顶盛时,城内红酒面包免费供应,因为有大量奴隶,公民不需要劳动。从皇帝到平民,都骄奢淫邑。最终外敌入侵时罗马军队无力战斗,灭亡。人类最后也许会因机器承担一切劳动,不思进取而灭亡。

  26. beziers说道:

    机器会单相思吗?机器会恼羞成怒吗?机器会莫名其妙地悲伤于:“我是谁”吗? 机器具有情感吗?机器具有捕捉并分析情感的能力吗?

  27. 有机计算机说道:

    它门会不会在造些同类啊。

  28. Kill321说道:

    "大概一半会试图以不组装东西的方式来攻击我们,另一半会试图以组装更多东西的方式来攻击我们。"

    已然笑尿……

  29. ichild说道:

    AI does not need a form to destroy human, it's not powerful enough. I think most powerful rebellion AI will be like computer virus. Then it can controller almost everything, like just set off bunch of atomic bomb, is enough to destroy human.

  30. 刘启说道:

    玩井字棋,致敬⟪战争游戏⟫?

Leave a Reply for beziers