首页 >> 小姬看片会 >> 文章

门票

我不知道自己是不是真的爱你,不过我的程序里就是这么写的。这些代码简洁而清晰,我的机械运动明朗而坚定,是的,我爱你。因为我的工程师叫我这么做。

如果面对这样一位冰冷而炽热地爱着你的机器人,你会怎么想呢?

人工智能,现在我们还做不到。

听了微软的专家们一席话,我失望而放心地看到,我们所期望的能够写《战争与和平》的机器人还离我们很遥远,能对我们发动战争的机器人离我们还很遥远,能够与我们相爱的机器人离我们还很遥远,能够背诵党章的机器人已经做出来了。

小姬看片会此次邀请到的几位专家恰到好处地填补了一个七巧板的几个缺口,他们从软件、硬件、心理、生理、社会因素等方面为我们全面分析并调侃了人工智能的现状和未来的各种可能性,并把话题引申向我完全无法预计的方向。

在微软大楼的地下室放映室中,你们正在全神贯注地讨论一个问题,而我看到你们脑中升腾起来的飞扬超脱的思想来回碰撞,闪耀火光。

—————————————人物素描的分割线———————————————

DSC_4014

微软亚洲研究院院长洪小文:我毕恭毕敬请来的人物,穿着T恤和短裤凉鞋,叉开腿坐在观众席上,仍然能够感觉到此人的强大气场。来的时候他完全没有搞清楚松鼠会是干嘛的,但是走的时候他已经意犹未尽抢过话筒说了好久……

他说:“人工智能不就是造人吗?造人这件事我们人类早就会了,只不过方法不同而已……”会后好多小女生蹦跳着来告诉我:洪小文好有魅力哦~

让我想起一句话Science is Sexy.

DSC_3848

微软亚洲研究院常务副院长赵峰:一个非常严肃认真的研究者,严肃到了可爱的地步。看片会之前我跟他面对面吃了一碗难吃的面,席间我胡说八道一大通,他微笑点头倾听的样子好像在听讲。

那只机器狗启动的时候长久地发呆,我引用粥粥说的话:“跟Windows一样!”可是赵峰认真地拉着我说:“那是Linux的。”

IMG_8803

微软亚洲研究院副院长张峥:从头到尾端着一个绿色的杯子,一副“这一切都与我无关”的样子,中途居然还掏出相机自顾自给机器狗拍照去了……他的一切肢体语言都在传达一个信号:我只是来打酱油的……但是这个人为数不多的几句话倒是都非常有趣。

当工程师还不老实,他是《新语丝》和《国风》的创办者之一,笔名竹人。看到他就知道他为什么叫竹人了……太瘦太高……就是一根行走的竹子。

DSC_3760

北大博导王启宁:28岁的博导,因为我一直叫他博导害苦了人家,同学们直接给他换了个名字“王博导”。王博导清瘦含羞,总是在沉思。

那只狗不运作的时候也不知道他是紧张还是淡定。最后还真找人送来一大堆电池,也不知道哪个有电,一个一个试验。他抱着那条狗狗好像抱着儿子。

DSC_4039

北大心理系教授毛利华:毛老师头发凌乱,总是从哲学范畴分析人性和机器性,他说完一段话大家总是需要时间陷入沉思。

我说:毛老师,我总算知道你为什么会有那么多粉丝了。你看那些尖叫的小女生们,啧啧,真是……

毛老师就尴尬笑笑……

新华社记者、科幻作家韩松:90年代美国《新闻周刊》报道他时说他白天写新华社的新闻,晚上伏案写阴暗诡异的科幻小说……

此人个子不高,喜欢沉默,你永远不知道他在想什么。他说他看了这个片子终于知道,原来自己是一个机器人。

每讲一句话就掌声连连,有趣的是,这掌声总之要滞后几秒钟,因为大家需要花时间想想他刚才说的到底是什么意思……又一个迷倒一片的……

微软的回顾:机器人离人还有多远

张峥的回顾:科学松鼠会/微软研究院/人工智能小姬看片会

吴岩的回顾:机器智能离我们到底有多远?

韩松的回顾:中国的机器人市场

————————————剑桥五重奏————————————

在西宁的书店局居然看了这本小书:剑桥五重奏。副标题是“机器能思考吗?”和我推荐的那本《灵魂机器的时代》是同一个“开放人文”系列的。

这本精致的科学小说(注意,不是科幻小说),假象了五位巨头的对话,这五位分别是:C.P.斯诺(小说家、公务员、物理学家),阿兰·图灵(数学家),J.B.S.霍尔丹(遗传学家、科普工作者、整治活动家),欧文·薛定谔(物理学家),路德维格·维特根斯坦(哲学家)。

他们五位在斯诺家里餐会,席间觥筹交错,五个性格迥异的人从数学、物理、哲学、社会等层面,针对机器是否能够思考这一话题唇枪舌剑,思维的火光四溅。单是那一段薛定谔把自己的黑箱猫实验和图铃的黑箱人工智能测验联系起来,就让我觉得很是有趣。哲学家维特肯斯坦对图灵的步步紧逼更是妙趣横生,图灵对数学思维的灵气和不善交际的神态跃然纸上。

这五个人在作者笔下活了起来,仿佛真的会这么想,一定会这么说。据说,当时这五个人都在伦敦,举行这样一场宴会式的聚会是完全有可能的。

数一数,小姬看片会的嘉宾也恰好是五个人!

————————————松鼠五重奏————————————

主持人:大家好,我就是松鼠会的小姬,很高兴看到这么多人来参加我们的活动^-^200个名额7个小时就爆满了,我们都感动的不知如何是好。这一次,也是要载入小姬看片会史册的一次——因为出现了黄牛党!我看到网上好多人转手看片会名额!

首先来介绍我们的嘉宾,微软亚洲研究院院长洪小文,微软亚洲研究院常务副院长赵峰,副院长张铮,北京大学博导、sharPKUngfu机器人队队长王启宁,北京大学心理系认知神经科学副教授毛利华,新华社记者、著名科幻作家韩松。

下面请微软亚洲研究院洪小文院长发言。

洪小文:我代表这里的“地主”欢迎大家,欢迎松鼠会。我也不晓得你们为什么叫松鼠会,我也不怕强龙压地头蛇,是没有问题的。

我们微软亚洲研究院有很多科学家,我们也在探讨真科学与假科学、“山寨”科学与伪科学之间的关系。我们的CB组就做过一个研究,研究很多科学的现象哪些科学是真科学、哪些科学是假科学,希望和大家交流。

我也不再多说了。请学文科、艺术的同学举下手,我鼓励你们,因为我自己是学科学工程的,我常常讲,我们学工程、学科学的常常说我们要创新,研究院说要“TURN DREAM INTO REALITY”。特别是随着年纪越增长我更去思考,以前我在念书的时候都觉得念理工的最具挑战性,学文科的都好象在死背。那时候很愚蠢,在 学校也不修文学的、艺术的课,现在我真的真心后悔,我们科学家、工程师所谓的创新,有很多事情也是重复性的,反而我对文学家、对艺术家的敬仰越来越多,因为任何一篇文章、任何一篇艺术的作品一定要是新的东 西,其实那里面的创新比我们科学家或工程师的创新的东西更多。所以我们在做创新的时候非常鼓励大家要跟不同学科的人做交互的碰撞、交叉,做科学的希望可以从学文科的、学艺术的人那儿学到一些创新的想法。在 座的对科学有兴趣,今天想象到的科幻的情景,我们希望我们都能实现出来,这也是微软亚洲研究院的宗旨,所以我特别欢迎学艺术、学文学的人参与到科学家或者是工程师的行列。

我知道今天的活动会非常成功,希望大家有一个愉快的下午,谢谢大家。

主持人:下面介绍我们的工作人员。技术负责人邓军、王卓群;调查问卷负责人罗岚;海报作者耿冰;摄影师乱乱、郑然。

吴岩老师有两位学生来到现场,一位是飞氘,一位是宇镭。陈楸帆同学,也是科幻作家。还有画胖兔子的胖兔子粥粥。

接下来是“小姬看片会”一个重要的暖场环节,一般都邀请松鼠会的“松鼠”,也就是科学家或科学家的朋友来表演文艺节目,今天我们邀请的是比科学家更高级的人物来表演节目,有请王启宁老师带上你的朋友上台。王老师今年28岁,是最年轻的博导。

王博导,你能给我们讲一下包里面到底是什么东西吗?黑洞洞的,蛮吓人。

王启宁:大家好,主持人过奖了,我是今年刚刚在北大留校任教的。

主持人:刚留校就可以当博导了吗?

王启宁:这代表我们北大的自由民主(笑)。

其实当博导不代表什么,更重要的是大家都是做工程、做科学的,都是对这个感兴趣的。

主持人:给我们介绍一些您带来的东西?

王启宁:我是做机器人实物的,不是做仿真的。我做机器人五年,前两年都在做机器人足球比赛,后面又做了双足类人机器人,现在是国内最先进的双足机器人。我做的机器人和日本做的全电机机器人不太一样。我 的团队还有做水下机器人、做空中飞行机器人的。因为今天的场地有限,我带了一个小号的机器人。其实我每次参加这样的科普活动都觉得挺内疚的,因为我每次可以拿出来的、比较现实的东西是日本做的。这是索尼的 机器人Aibo,我们做的是让这个机器人变得更加智能。原来大家买它是一个很简单的玩具,只能做一些简单的动作,我们拿它做机器人足球比赛,和人进行对话、沟通,包括人机交互。

所谓暖场,本来应该是文艺演出,所以我让它做个文艺表演。

IMG_8840

太对不起了,它没电了,我又好象忘带了充电器。

主持人:请王老师回去以后录一段录像,然后让我发到网上。

王启宁:其实它要做的是一段中国功夫的舞蹈,它可以倒立。

主持人:王博导……那个……你是博导,那……你有没有博士啊?可不可以请你的博士……把充电器带来?

王启宁:(流汗)我可以联系一下。

主持人:接下来就是本次活动最重要的环节,播放小姬看片会的影片。这个片子我看了一半,是BBC2007 年拍的,叫做《未来图景》,共包括三部分,第一部分是人工智能革命。片子是一个半小时的时长,看完片子 以后请嘉宾与大家互动问答。在看片子的过程中我们非常鼓励大家积极思考,多问一些问题,希望你们能够问出靠谱的问题。我希望微软的同学不要只问你们的领导,希望你们问的问题是能够让普通的文科学生也能听懂 ,过于细节化的讨论可以私下进行。文科生也能听懂的问题,我们非常欢迎。

下面请大家看片。

(播放影片)

下面有请嘉宾:微软亚洲研究院常务副院长赵峰老师、微软亚洲研究院副院长张铮老师,王启宁老师,毛利华老师,韩松老师。

大家有什么问题现在可以问。我们提问的规则是先说自己叫什么,来自什么地方,学什么专业,有什么问题。

提问:各位嘉宾好,我叫任平,现在在生物物理所作研究生,研究方向是认知神经科学,主要研究脑袋。

刚才看到片子里有很多讲到虚拟社区和虚拟现实。我在想,以后如果虚拟技术发展很完善的情况下,会不会有更多人选择放弃现实生活,转移到虚拟社区中生活?因为我们知道在虚拟社区闌有更多的自由,包括买东 西、购物、结婚、生孩子,都可以在虚拟社区里实现。这种情况如果出现,会不会像电影《黑客帝国》里讲的那样?虽然我们知道《黑客帝国》里是被机器强迫的,但是如果以后虚拟社区如果很发达的情况下,我们也许 会自愿投身到虚拟社区,就像从一个国家移民到另一个国家一样,我们可以从现实生活中移民到虚拟社区中生活,放弃现实生活?会不会有这种情况大规模出现?如果出现了,会不会对人类以后的生存和发展产生很大的 影响?谢谢。

赵峰:你刚才的问题是有关虚拟世界和现实世界,我想虚拟世界可以扮演你日常生活的一部分。但是你的整个生活还是要和物理世界有接触。你知道,小孩子如果不和物理世界接触,他就不会走路,也不会说话,不 会有视觉和听觉,所以你说的虚拟世界是相辅相成的一部分,但很重要的是和物理世界非常直接的感官交流。这也就是为什么在人工智能的研究里,计算机视觉、计算机语言的专家和机器人,这些都是直接和物理学接触的,这也是为什么现在这几个研究领域是最红火的几个领域的原因。我想,虚拟世界非常难代替现实世界。作为人类,如果用虚拟世界全部取代了现实世界,我们会损失掉很大一部分乐趣。当然张铮他们经常和我开玩笑,吃饭很麻烦,我经常想在胃上开一个洞,塞一些化学的东西进去就可以了。但是我告诉他,这样味觉会使你非常不高兴。

主持人:吃饭还是不吃饭呢?

张铮:不是吃饭的问题,这个问题很有意思。second life里面是不是没有幼儿园?刚才赵峰讲的学习的过程很有意思,学习的过程还是必须和物理世界相接触。我还没有看到second life里有幼儿园。

我自己做IT的一个感觉就是,生命系统和电子世界之间的界限逐渐模糊,这更有意思。片子里有一部分提到走到街上,可以看到虚拟生活和物理现实逐渐融合到一起,那是更有意思的一个现象。现在有一些技术已经出现,比如用手机一照,就可以把网上的信息都下载下来,我觉得这是更有现实意义的。

提问:我来自北京科技报,我没有什么研究方向,我是一个文科生。

我有两个问题。首先我听说谷歌在研究和生物信息学方面有关的技术,把一些生物技术和网络连接在一起,不知道微软的两位老师能否帮我们介绍一下这可能对我们的未来产生什么样的影响?会不会产生《终结者2018》里一样的天网?

第二个问题,以前我们也做过人工智能的选题,当时有人说日本人在研究机器人方面有一种偏执的爱好,甚至他们研究的发达程度有一些变态,我们也想问问为什么在日本机器人的研究这么先进?

赵峰:我们不是很清楚谷歌在做什么方面的研究,但是我们微软研究院一直对人工智能很有兴趣。前一阵子微软还出了一个产品,叫做robotics studio,可以用来编程。你们有小孩的话,肯定知道有一个robotkid,可以接在计算机上编程序。我们微软也推出了一个产品,叫robotics studio,我们对机器人学也很感兴趣。这位朋友刚才说的生物技术连接到网络的技术,我们也在做研究。一方面,现在人的基因图谱已经完全数字化,对医学、健康、保健都有很大的影响,因为如果把世界上所有的疾病都归类起来,万一有什么需要解释的话,在网上一查对应症,网络就可以推荐使用比较好的药。我们就在研究完全用计算机的算法找出疾病与基因和药物之间的关系。

在我的研究院的团队里有一个许峰雄博士,他做人工智能做了很久,不知道大家有没有听说过,在1997年5月3日,世界上发生了一件很了不起的事情,第一次由计算机把国际象棋世界冠军打败了,做这个机器人的许博士就在我们微软工作。以后如果大家有兴趣的话,我们以后可以请许博士来给大家讲一讲。

王启宁:关于日本为什么研究计算机这么好,我很有兴趣回答一下。我最开始做机器人的时候,对机器人感兴趣还是因为小时候爱看变形金刚。到真正做机器人的时候,我发现日本人这方面确实做得很好,我也实实在在地钻研了一下日本人为什么做得这么好。我觉得有两个原因,第一个是日本民族从小有一种魔术文化,人们从小就对比较奇怪的东西感兴趣,家长从孩子很小的时候就很重视对孩子这方面的教育,包括圣斗士、变形金刚、机器猫等都是日本人发明的。从民族来说,也有这个文化因素。第二个原因是日本这个社会造成的,如果你去过日本,就会明显地感觉到日本老龄化非常严重。之所以政府投巨资做这方面的事情,就是希望机器人能替代青壮年劳动力,替代年轻人做陪伴老年人的事情,包括刚才在影片里看过的机器人走来走去拿东西,包括被抚摸就可以叫的海豹,那些东西做出来就是为了让老人能够对生活充满快乐。你摸这个机器人的时候它会叫,你要打它它会哭,就是让一个很寂寞的老人有一个生活的依托,他不要去养一个宠物,不必要管它的吃喝拉撒,就需要一个机器人陪着他。我在日本还见一个陪老人聊天的机器人,不会动,但是有一个屏幕在那儿陪着老人聊天,老人问什么问题,机器人就从自己的数据库里找一些答案来交互。我觉得是这两个原因造成了日本的机器人发展如此迅速。在中国,你会考虑什么问题的时候,你会发觉中国最不缺的就是人,很多工作不需要机器人来做。在日本,包括电子宠物、清扫机器人、陪护机器人,在市场上卖得都很快、很好,但是在中国不一定卖得出去。一方面是价格很贵,另外一方面是没有这种需求,家里人已经很多、很烦了,不需要机器人来陪伴。我觉得这是两个比较直观的原因,其他的可能还有一些深层次的原因,你可以自己去体会一下。

提问:我是北师大社科院学神经的学生,我学了这么多年生物,越来越觉得生物不是活的,就是一个机器,所以人工智能搞不好实际上就是模仿,再造一个看上去像生物的机器而已。我想问王博导,《黑客帝国》里,我记得Neo说了句“感情是个升级程序”,《AI》里的小男孩也说他是唯一的,因为他是有感情的。您觉得人工智能的感情本质上应该是什么东西呢?

王启宁:这个问题好有难度。我对此不是特别熟悉,我熟悉的是怎么做机器人,我做的是让机器人去模仿人的动作,包括刚才大家在片子里看的机器人,片子里说它走得很像人,但是它走的时候髋关节的轨迹是平的,腿是弯的。之所以蹲着走是为了保持稳定性。在2005年的时候,《科学》上有一篇文章探讨这个问题,机器人如果要采取这种方式行走,燃料就非常耗费。所以我们现在做的研究是把人工肌肉引入到机器人的行走中来,使机器人的行走更加像人。当你看到一个机器人的髋关节走起来是上下起伏的,那真是很像人的走路,如果走起是平的,那只能是电影在忽悠大家,不是真正的。

毛利华:我很同意这位朋友观点,学生物学了这么多年,得到这个结论。对于人类来说,对于有智能的生物来说,我们可以说是一个有意识的机器。你说的所谓感情,我们在定义智能的时候,什么叫智能?智能是一种行为。你可以定义出智能的很多方面,但是你无法通过定义这些方面来标志一个人。对于人来说,有非常独一无二的东西,叫做意识,虽然意识没有定义。问题在于,看起来有感情和真正有感情,或者对于人来说,被打一下我很疼,我在哭,你觉得我有我的体验。对于机器来说,如果设定好你给它一个刺激,它表述出一个表情,似乎有内在的感受,问题是这两者之间的差别在哪儿?现在很难定义这两者的差别。我们是看起来有感情还是真正有感情?事实上人类与人工智能的一个很大的差别和争论就在这儿。从哲学上来说,对于人来说,我们也是觉得自己有感情,我们和那些看起来有感情的生物是没有差别的,一个著名的例子是“僵尸星球”,这个星球上所有的生物和人类的表现其实是完全一样的,可以互相交流,别人会知道你在想什么,能够推断各种各样人类做的事情,唯一没有的是他们没有内心的体验,没有意识。但是它的表现跟人是完全一样的,你没有办法分出来是我毛利华,还是我的一个僵尸兄弟。因为我们的外在表现是完全一样的。而且对于人工智能来说,人工智能的很多感情很多是比附的,观察到的,因为我们人类都倾向于把很多东西拟人化,包括机器人。如果你摸它,它表现出快乐的样子,你就会觉得它有感情,实际上这种感情不是它的,是你的,是你把感情投射到他身上,你认为它有这种主观性。这种方式使得人类之间能够很好的相互交流,但是很难判断,究竟是它真的有这种体验还是它看起来有这种体验。这种差异是非常大的。在现有的关于人类的意识的研究中,我们无法区别。从科学的角度讲,我们是从第三人称的角度、从客观的角度去研究问题,但唯独体验、意识、感受,是第一人称的,只有行为者或体验者才能感受到,这就使得这两者之间的区分很难。那么,人工智能复杂到一定程度,究竟能否产生像人那样的感情和意识状态?这很难说,因为打开大脑,其中只不过是几百亿个神经元细胞,几百亿个开关而已,没有其他复杂的东西。有可能机械的东西复杂到一定程度,会出现这些组成部分不具有的属性,这有可能,但是不好说。

赵峰:刚才两位讲得很有意思,我加几句。

我觉得这位同学问的机器和感觉的问题很有意思,我记得20几年前我们刚学人工智能的时候,有一个很大的争论,是说机器越做越快,所以能解决很多数学问题,大家觉得这也没什么了不起。刚才我举的例子,计算机把世界冠军打败,当然被打败之前,大家都觉得下象棋是人类高级别的智能活动,能够达到世界冠军的程度,当然是大师级的,现在计算机把它取代,一定是非常聪明。但这个问题实际上就是,计算机到底有什么了不起呢?计算机里有search tree,一分钟就能产生二十万个或二百万个“步”,就是走棋子的步,当然比对方更快。如果这样看,当然没什么感觉。但是1997年那个世界冠军别打败以后,人家采访他:你当时的感觉是怎么样?他说,他当时决定不下下去,他说,我没有下棋的对策。为什么呢?他说,这个机器下棋的走法,超出我的理解范围,我感到害怕。你也可以说,机器给对方造成了什么样的感觉。像刚才几位老师说的,意识这种东西,比较难解释。前一段时间有物理学家说,意识和量子力场有关系。我觉得比较悬,所以没有继续看下去。

提问:我是来自北大工学院的研究生,背景是物理,现在在工学院能源系。我有两个问题,第一个问题,现在我们说人工智能是否有点太庞统了?我觉得人工智能和人工生命还是有区别的。我们总在想这个东西能有多聪明,能帮我们计算问题、解决问题,但我觉得生命是另外一个更基本的问题。我尝试从信息和商务角度来看,生命是什么呢?这样一个小系统,我给它一些DNA、一些结构,它可以自组织,收取周围的一些负熵流和信息,把自己不断完善,维持自己的生命。这是一个生命的过程。所谓我们造的“人工智能”,其实我们给它输入了大量的负熵流,就是编程。我们有复杂的编程、复杂的语句,设定好了它们可能面对的一切问题,又设定好面对这些问题的时候有什么样的解决方案,从信息的角度,我们替它解决了很多问题。这远远不是我们创造了一个生命,只是复制了一些代码而已。我的第一个问题是不知道大家对生命和人工智能有没有自己的想法?这个问题请问韩松老师,因为你是做科学幻想的。

韩松:我也是来听讲的,没想到坐到这个位置上。

我看了这个电影以后也糊涂了。看了以后,我觉得我可能就是个机器人,不是个人。因为按照他这个逻辑推理下去,我这个生命就是作为最高级的机器人的悲哀,它不应该意识到它是个机器人,应该是这样一个东西才是最高级的人工智能。那么我们意识不到自己是机器人。我觉得生命就是这么个东西,也就是人越来越像机器、机器越来越像人,两个一回事,生命就是一个分子机器。比如刚才说的虚拟世界能不能代替现实世界,也是这样的,我觉得是能够全部代替的。因为现在没有任何证据证明我们现在坐的这个地方是不是在一个虚拟世界里。你怎么能证明呢?我觉得,人工智能的本质就是自我,我思故我在。就是这么个东西。

追问:我的第二个问题是,其实我是一个挺悲观的感觉,觉得人工智能是否就能达到呢?从信息的角度看,像韩松说的虚拟世界,也许我们没有任何证据能证明我们自己是否处在一个虚拟世界里,但是我们能否创造一个那么自恰和完整的虚拟世界,我们进入到里面有那么完美的体验呢?也就是说,我们能否创造出一个自我独立的智能体?我们创造出的生命就像是一个黑箱子,我们自己就是一个黑箱,我们通过对自己的了解,可以向外界提取一些信息,我们通过这个信息进行组织、进行逻辑分析,通过这个设定好一些程序,我们去设计另外一个机器人,去模仿我们这个黑箱外面表现的一些行为、思维。但是我们对自己这个黑箱是否能百分之百透彻地了解呢?这也是一个关于宇宙的问题,我们处于这个宇宙之中,或者说我们是一个子集,那么你这个子集能否能了解全集?三维的东西能否了解四维的东西?你的信息掌握得是不全面的,你能否创造一个自恰的智能体?如果我们所说人工智能是理想中的人工智能,那么它就和我们一样,有自己的欲望、情感、智能,但这些都是黑箱外面的表现,但是黑箱内部的核心机制我们能否能全部知道?比如脑认知科学,虽然只是几千亿个神经在那里,但是内部包含的一些,比如混沌等更深刻的机制我们是否能真正了解?我对这点非常存疑。

主持人:我对你的问题不是很明白,但是我假设听懂了。

毛利华:我假设听懂了你的问题。

我先澄清一点,我觉得你所说的人工智能,可能王启宁博士更清楚一点,你所说的人工智能只是一种方式,以我们自己知识的表征去创建这个智能体。还有另外一种是我们给它一个简单的规则,让它在与环境的交互中去学习,让它自己去获取知识,人类就是这样生存发展下来的。在这种情况下它有可能发展到什么程度,我们现在谁也不知道。但是给它时间,给它足够复杂的环境,给它足够多的交互,它有可能产生像人类一样,甚至比人类更高的智能出现,这都是说不好的事情。

还有一点。对于人类来说,我们现在很难去认清自己,从哲学问题上来说,我们作为一个完整体系,人类是一个完备体系,我们必然有很多东西是无法证明真伪的,对于人类来说,这个东西就是自我,或者叫意识。但是这并不代表这个东西不能够产生,不是你赋予它的,而是它自发产生的。你所赋予它的只是一个启始。就像自然赋予你的,刚开始是一个生命的启始。但是这个启始在非常复杂的环境中,在几百亿年的进化过程中,在和环境的交互过程中慢慢产生了人类。同样,一个人工的智能,你可以给它一个启始,放在一个环境中,它完全有可能产生一个自恰系统,而且这个自恰系统是你完全无法预料的。

(Aibo演示)

王启宁:其实这个演示没有什么人工智能,只是在重复我给它写的一些代码。

主持人:它能去踢足球吗?

王启宁:能,它会自主的踢。不需要控制它,它会自主的学习。

主持人:那它踢哪个位置?

王启宁:我们的角色是动态的。……所有程序都放在一个记忆棒里。

我还想回答刚才那个朋友问题,你看到的这个Aibo是在模仿狗的动作,是没有智能的,但是你其实可以让它有一定的智能。我们做过这样一个实验,让它在一个崎岖的路面上,最开始它不会走,然后我们让它进行参数的学习,过了一个小时以后它就可以在崎岖的路面上走,我觉得这体现了一种人工智能。

主持人:它有一种学习能力,是吗?

王启宁:对,它会学习。

提问:我现在在微软工作,做软件测试。

请问,在日本,发明机器人是为了资源调配,满足老年人或其他人的需要。因为机器人以后可能会干很多事情,那么我们人去做什么?人跟机器人的身份会不会调位?

王启宁:其实很多人都有这样的疑问,我们是造了各种各样的机器人,能满足我们的一些需求,或者弥补我们的一些缺陷,那么这时候人该干什么去了?

回答:玩儿。

王启宁:对,其实我也考虑过这样的问题。但我觉得人可能会做其他现在我们没有想到的事情。就像最开始的时候,人发明了计算机,发明了很多新东西,在那之前人别没有想过我会发明这样东西,也许以后计算机替代了人的复杂劳动,人的脑子可能会想更多更新的东西。

我想说一个事,我不太认同机器人就是人工智能的某种表现形式或者某种载体。我觉得,研究机器人其实有两个很核心的目的,第一个就是是从人到机器人。比如我想了一个什么东西,我希望机器人能帮我来完成它,这是从人的机器人。还有是从生物到机器人,比如我看见鸟会飞,我就想做一个会飞的机器人。还有从机器人到人,有些东西我解释不清楚,包括人是怎么行走的,我解释不清楚,也无法做实验,我就造一个能走的机器人,如果它能走,也许人就是这样走的。比如刚才片子里的机器人阿西莫,其实它不是类人行走,如果实现了类人行走,也许人就是那样走的。

其实,人和机器人是非常和谐的。我做过这样一个项目,一个想法,我想把机器人和人结合起来。我给一个残疾人装过一个机器人的腿,就像你看到阿西莫这种腿,装在一个高位截肢的残疾人的身体上,我可以通过机器信号的反馈让这个机器人的腿和人腿和谐地摆,配合行走,我想这就是一个很好的机器人。未必它就是人工智能的载体,它就是我们生活的陪伴,或者是其他的表现形式。

韩松:有一天机器人也可能真的替代人,人怎么办?我自己觉得,人的目标最终还是和机器融合在一块儿,人以后就干这种事情。

主持人:以后我们要和机器人抢新闻吗?

韩松:人和机器人融合在一块儿,人就是机器人,机器人就是人。我就是机器。人之所以创造机器人,我觉得是一种对自己被创造过程的回忆。从人一产生,所有国家的神话都是说人是被创造出来的,是一种人工智能被另外一种东西创造出来,自然也好、上帝也好,他是在回忆这个创造过程。所以,人对创造一个有智能的东西是非常非常感兴趣的,才有那么多关于人工智能的话题,可能另外一种生物不一定有这么一种创造机器人的欲望,到外星球可能找不到机器人。就是在回忆这个过程,如果他回忆起来了,他就能创造出来,上帝也好、自然界也好,创造了人那么复杂的东西,人,他是有可能创造出来的。现在有一种说法,上帝本身就是一个人工智能。最后人的目的就是像阿瑟·克拉克说的,人最后的终极目的是和宇宙融合在一块儿的。没有人和机器的区分,没有人和自然的区分。

主持人:大家欢迎吴岩老师,他是北师大的中国唯一一个教科幻研究生的老师。

吴岩:我补充一下韩松讲的人和机器的融合。因为大家知道,在八十年代的时候,多娜·卡拉维(音)曾经写过《我们都是机器人》,因为现在的转基因食品,中国进口,大家也吃了,有些基因根本就不是自然界存在的,现在已经接在你的身上,在你的细胞里存在,你根本就不是自然人,你早已经是机器人了。随着这些东西越来越多,就像刚才王启宁老师讲的,把机器的假肢装在人的身上,已经没有机器人和人的界限了。而且卡拉维(音)说过,对这种现象,根本不是你喜欢不喜欢的问题,而是接受不接受的问题。

宋謌平:我只是觉得,当你要承受人和机器人合二为一的时候,我刚才在想这个问题。实际上我也发现了松鼠会不管是会员还是来宾,都有很多漂亮MM,哪一天当我看到这个漂亮MM只是一堆分子和蛋白质水分的时候,我猜想,那个时候人跟机器人就已经合一了。

提问:我是毛玉春(音),我现在主要做企业管理培训,我是因为个人兴趣到这里来。

第一个问题,关于思维。关于人工智能涉及到比较高阶的问题,我个人认为是涉及到思维方面的测试。在人工智能的研究中,其实能实现与人沟通,或者如果说每个人都说自我、我是唯一的,如果一个老师教机器人把这个人的个性复制过去,对这个人来说,他是唯一的,因为我无法测试。针对每一个人来说,这个“唯一” 只是自己定义的,但是别人来看他是不是唯一,这是无法测定的。请问院长,微软对人机沟通或者图灵测试是不是有过研究?

刚才的问题是基于思维的,第二个问题是基于现实的。如果由现阶段我们开发机器人的水平想达到日本机器人的程度,请问王老师,国内已经到了哪一个层次?

赵峰:关于智能测试的问题,在人工智能的研究中,所谓图灵测试,实验是这样定义的:要么是一个程序,要么是一个人,关在一间黑屋子里,外面测试的人不知道里面是真正是什么;门上有一个缝,把纸条递进去,把答案取出来。外面的人无法区分回答的答案到底是机器做的程序还是人做的,这样这个机器就通过了这个智能测试。当时图灵把这个测试作为一个智能测试,后来很多人觉得这并不很完善,这个测试主要是针对符号智能的,就是逻辑推理、问题答案这些的,没有牵涉到和视觉有关的、感官辨别有关的测试。对这个智能测试的理论大家还是很感兴趣,但实际上很少有人用这种方式来做测试。

张铮:其实我自己有一个疑问,除了智能之外,还有个更高级一点的词汇——智慧。智慧的定义本身就很难,我把它翻译为last style。假如我们看最高级的智慧,其中很重要的一部分就是一个“轴”,就是情感,现在我们还不知道怎么定义。假如说图灵测试的目标是智能,而我们要达到的是智慧,而我们甚至还不知道怎么去定义情感,那还有很多工作要做,现在提还太早。

我对前一个问题进行一点补充。问题里有一个隐含的逻辑,机器人是工具,某种意义上讲是物理性的功能。从你们每天做的工作来看,已经有很多工具了,但是你会发现自己其实更忙了,我们现在用的工具会产生更复杂的问题,在更复杂的空间里边。所以我觉得,复杂的功能会使你自己忙都忙不过来,更别提挤出时间去玩儿。

赵峰:刚才我听几位老师回答前面的问题的时候,我的脑子里一直有很多图片,如果将来我们被机器人替代越多的话,我们的一些生物性的一些部位是不是会退化?就像盲肠,以前是很有用的,现在已经退化了。现在我们用手机,用大拇指来按键,也许再过若干年以后,也许大拇指是手上最大的一个,其他的手指都退化了。

主持人:刚才休息的时候,几位老板凑在一起说,哎呀,以后有这个技术不得了,以后员工不高兴的时候,我们给他植入一个芯片,他就会很高兴地来工作,也不用加薪了。

追问:以前有人曾经在网上发表过一篇文章,说中国的机器人制造落后日本十年。针对这种情况,从实验室的角度,我们和日本的主要差距在哪里?

王启宁:确实,中国的精细加工差很多,最简单的,Aibo就有很多小零件在中国加工不了,我实际上能做Aibo,但是有一些零件在国内加工不了,做不出来。里面的程序代码我都可以写,但是一些实现的东西加工不了。

张铮:我们能不能“山寨”一把?

主持人:这个问题问得很好,这个多少钱?

王启宁:在国外是两万人民币。很可惜的是,2007年索尼把机器人事业部裁掉了,停产了,所有的Aibo都停掉了。你知道,机器人是很花钱的一个产业。

主持人:所以每年国家给您拨的经费也不少吧?

王启宁:这就涉及到国内发展的问题了,国内的很多实验室做机器人就在实验里里做,没有能力把它做成像Aibo、像阿西莫这样的东西。除了体制的原因,经费是很大的问题。在美国,我了解美国做得大的实验室都有美国军方的项目,他们的机器人大部分是朝向做军用,包括刚才说的人和机器人结合起来,美国做了很多相关研究,让机器人穿在人的身上,把外骨骼穿在人的身上,让人具有更大的力量,也许到时候人的四肢都退化的,只有脑子就可以,所有的肢体都可以由机器人来实现。这产生了什么样的巨大变化呢?假设像我这样的青年人,我背100斤的东西已经很不容易了,走几公里可能就瘫了。但是如果穿了这样的机器人,就可以背200公斤的东西走30公立,越沙漠,这个差距就非常大了。现在国内也在做,但是我们没有这么大的需求,你知道为什么美国要做这个吗?他要到伊拉克参战,需要有巨大的负载能力,一个单兵能代替一支部队,所以他们会有这么大的需求。包括日本,日本也有需求,不是军用,而是民用,很多人都希望有机器人给自己的老人做陪伴。但国内这两个需求都不太有,一是军用,我们还没有这样的需求,可能我们现在还是人海战术,还没考虑要让单兵具有非常强大的战斗力。市场的民用需求也不是特别大,我所了解的卖得最好的机器人就是扫地的吸尘器。刚才张铮说“山寨”,很高效,Aibo在美国的售价可能是人民币三千块钱左右,中国很快就仿制了一个,可能800块钱就有。

主持人:王老师,您平常研究“山寨”的东西吗?

王启宁:不做。国内的这两个需求都不太有,我们还需要开辟这方面的需求,将来才能做得更大,现在只是做机理的研究,还不能做工业化。

洪小文:常常有人问中国的科技创新离欧美、离日本有多远?我借用中科院李博杰(音)院长的话,他说中国的这个差距其实只差三个月,因为我们的山寨文化,你有什么东西,只要有市场,全世界最高级的科技,我们三个月就可以做出来了。这是笑话,也是事实,这代表了中国的“山寨”文化真的很强,但是这也代表了中国的原创文化还很不够。我自己发表一些对机器人的意见,做机器人是什么目的?其实机器人就是工业革命的延伸,从另一个角度看,飞机可以自己飞、车子可以自己开,或者是自动门,也可以进行声控,其实就是这些都是机器人,还有早期文革的时候用拖拉机播种,从这个角度看也是一种机器人,也就是说,做这些东西帮我们做事。这样的话,你要的机器人就不要情感,有情感会累,还会不时耍脾气,你不希望有这样的认知。如果是这种机器人,你需要的是完全的控制。刚才讲到克隆,其实你不用克隆,人能不能造出和人一样有智慧的生命?当然可以,我们本来就可以造人,我和我的太太就造出了两个人。所以,如果你的目的是要造和我们一样有智慧的,造就可以了,现在就是说你可不可以不按这种方式去造。后来有了试管婴儿,还有了克隆,我觉得在我的有生之年可能就能看到克隆,但是造出来的目的是什么呢?这就牵扯到很多东西,如果是做研究,了解人的智慧、了解人的情感,当然我们知道得还太少。如果你的目的是其他用途,还有刚才说的哲学、宗教,我思故我在、我在梦蝴蝶,还是蝴蝶在梦我,几千年前我们的祖先诸子百家就已经想过这个问题了,但是他也没有想得透彻,我觉得这在我的有生之年不可能理解这个问题,如果今天有了这样的社会,不知道这个世界会乱成什么样子。但今天我们讲机器人,工业界的机器人是有目的的,目的是你希望造一个东西能帮你做事,你要做的只是控制。

毛利华:刚才院长说的克隆人的问题,自我感觉唯一性威胁的问题。我想澄清一下,哪怕我现在能够有技术克隆一个和我完全一样的人,他拥有和我的身体一样的构造、一样的经历,这一刻他和我是完全一样的,但也仅仅是这一刻而已,从这一刻开始,你们两个就已经是完全不同的两个身份,他都会有自我的感知,自我的身份,这种自我的威胁是不一样的。从极端的角度说,在这一分钟的你和一分钟之前的你都不是完全的你。也就是说,如果我选择不来松鼠会这个活动,我还是现在这个我吗?不是,因为我的环境变了,我的大脑和环境的交互也变了。但是我们每个人又有一种自我统一的错觉,这种错觉使得我们始终认为自己是一个完整的人,是同样一个人,从出生到现在,事实上从你的出生到现在,你身体的细胞成份已经换得差不多了,死掉的和重新吸收的,你和十年前的你已经完全不一样了,无论从物理上还是智力上,这种自我身份的威胁,对于我们现在的自我概念来说是不存在的,因为我们现在的自我概念从某种意义上说只不过是一个幻觉,但是这个幻觉对于人类完整的、独立的、健康的生存,是一个非常重要的东西。

主持人:我做个小广告,《科幻世界》第七期封二是我们松鼠会写的《思考的机器》。刚才的同学问到图灵测试,一直有一个奖项,叫勒布纳奖,一面刻着勒布纳的头像,另一面就是图灵的那句话“机器能够思考吗”。它分金、银、铜三个奖项,铜奖是通过网络聊天,不可视、不能听的聊天,面对面的交流,能够骗过测试者,他就成功了。银奖是能够语音聊天,在声音上能够欺骗测试者。最高级的是面对面的。现在在猛犸写的文章中,据说这个奖项只有铜奖有人获得,就是说只有在黑箱聊天,在不能听、不能看的时候,可以骗过测试者。但我觉得我今天看了一个更高级的机器人,完全把我骗了,我已经认识他很多年了,他今天告诉我他是机器人。(笑)

提问:我叫姚涛,来自中国科学院。

我请问韩老师和王老师,我觉得他们一个比较理性、一个比较感性。我的问题是,包括人工智能和人,理性和感性哪种更重要?我不需要你说理性和感性都重要,我需要的是一个选择,然后给我一个理由。

韩松:这就看在什么情况下,比如理性的东西,我觉得是一个非常科学的东西,比如绿坝,本来是一个非常理性的东西,很技术、很有效,但是最后变成了一个感性的东西。这种情况下,感性的东西远远比理性的东西更重要,成为了一个社会问题、成为了一个外交问题、成为了一个政治问题,让社会付出了更大的成本。这个时候,在技术方面应该考虑更多的感性的东西。目前的谷歌事件也是这样,三峡大坝也是这样,咱们参考工程技术的东西比较多。刚才看的片子让我想到,今后机器人设计的时候可能更多的是触及到文化的东西,比如阿西莫夫考虑机器人是从理性角度考虑,他给机器人加进了三个定律,即阿西莫夫三定律,例如机器人不能侵犯人,等等。但是,如果在某些场合下,感性可能会压倒这个,比如在中国的环境里,现在咱们的机器人不发达,中国的机器人如果发达到一定程度,智能提高之后,首先会考虑感性,在机器人三定律之外肯定会加进第四个定律,也就是肯定会把党章加进去。

王启宁:对,其实做机器人做长了以后,人会变得特别机器人。你可以觉得可能我回答问题和韩老师回答问题就不是很一样,可能是因为做了机器人之后让自己变得很机器人。其实机器人里现在大家做得都比较理性,我让它动、让它走,或者是让它模仿什么样的行为,都是很理性的东西,但是感性的东西现在还没有做出什么东西来。为什么大家理解机器人和你想象的机器人不太一样,总觉得它还是个机器,可能就是缺少这部分的东西。如果机器人想做得更好,可能感性比理性更重要一些。

主持人:你也觉得要加党章是吗?

王启宁:我不是党员。

提问:我是郑然,是松鼠会的实习生。刚才谈到戈德尔定理,现在的研究有没有成果,证明一些问题不可解?

毛利华:证明一个问题不可解,本身就是属于戈德尔不完美定理的一部分。

追问:比如有一些具体的,我们以前想解决的问题被证明靠0、1逻辑是不可解的。

毛利华:我对这方面不是特别了解,所以我不是很清楚究竟01逻辑能够做到什么程度。到现在,我们对01逻辑能做到哪一点都把握不住,因为我们的大脑就是01逻辑出来的。如果从这个角度来说,人类在现有的认识范围之内永远超越不了自身。也就是说,如果我们的大脑有这样的能力,在这种能力的范围内,我们很难超出这个能力去认识这个范围外的东西。至于将来这个问题是不是可解,我们不好说,但是现在有很多不可解的问题,包括地震预报的问题。但是这个问题现在不可解,并不意味着这个问题永远不可解,这是哲学上的一个终极的论点。在我们现有的认识范围之内能不能够解决?我现在不好做出回答。

提问:我来自松鼠会。我的问题和五位老师都有关系,我觉得五位老师都是离人工智能最近的。北大的两位老师合作很可能创造出一个人工智能,微软自身就有很强大的实力。如果你们可以创造人工只能,而理解人工智能的是韩老师。我的问题是,如果你们已经创造出一个人工智能,你们希望它会有怎样的未来?你们怎么去处理它?比如微软,是不是按照机器人三定律,让它创造足够的价值以后再考虑怎么推广?

毛利华:如果真的有这样一个人工智能存在,而且它从外表、从内心、从行为上和人类一样的话,我认为它是一个新的物种,就像黑人和白人、或者亚洲人和欧洲人一样,就像现在的人类。无论是否是你创造出来的,但它一定跟你拥有同样的right。

追问:这样你相当于掌握了一个物种,你是把它释放到自然中去还是你手里掌握它?

毛利华:释放到自然中,因为你掌握不了它。

王启宁:如果真的造出一个特别完备的人工生命出来,这个问题其实我没考虑过,我考虑的问题都是怎么让机器人给人的生活提供更多的便利。

主持人:所以你的观点是要掌控在人类的手中,使它跟人类发生关系?

王启宁:对,我现在所造的所有的东西都是使机器人能够让人过得更舒服、更省力,让人做很多现在还做不了的事情,我没有考虑过你说的问题,如果真的问我的话,我觉得毛老师说得很好。

韩松:我想让它当领导。

张铮:我不知道最后需要什么,但是我知道现在需要什么。上星期我们院里几个经理去了敦煌,有一个很深的触动,当年那里有很多绿洲,在汉唐全部是沿着河建的,但是现在全是沙漠。但是那里还有很多能源,比如太阳,风能。如果那里有机器人的话,可以做很多改善环境的事。假如能够在城市里发明一个机器人,看到水龙头没有拧紧,它去拧一拧,看到灯没有关,它去关上。最重要的是,看到美女会去拥抱。

赵峰:从近期来看,人类有很多东西都可以做,人工智能可以做很多事,比如速录,如果人和机器真的能够交流的话,机器就可以理解人要做什么,这种交流今后十年到十五年我想应该能够做到,现在我们和计算机的交流还是通过一维的打字,然后通过二维的图像显示。而我们平常和同事交流,我们有一个位置,是会看对方的眼神、听对方的声音,这些在今后的研究中应该能够做到。最终的人工智能应该是很有趣的事情,当然这个要花多长时间谁也不知道。但是,我觉得人类一直在向前追问,我们地球是宇宙的中心?伽利略造了宇宙模型之后,我们才发现地球只不过是一个很小的行星而已。生物也是,我们问自己,我们到底是从什么时候变成人的,是从猴子变的还是什么?那么人工智能是一个非常基础性的挑战。我们做机器人,我觉得是能够帮助我们来看自己,我们自己是怎么演变的。这可能需要很长的时间,但是人类的追求是非常有意思的,我们不断地在挖掘,问我们自己。如果我们真正达到这个程度,我们能够理解自己的话,我想这会非常无聊,我们会非常失望,但是这个过程会非常有意思。

追问:如果微软拥有了人工智能的话,微软会把它当成一个商品还是当成一个人?

赵峰:肯定是在我们微软里面做领导。

提问:我叫刘华,来自中国农业科学院,可能和机器人不太相关,但是我的问题还是比较相关的,我想知道,对于感性和理性,我们是不是只需要机器人有理性?需不需要机器人有感性?感性对机器人到底有没有用?一个有感性的机器人,最终会把我们这个世界引向哪儿?

宋謌平:这个问题当然非常大,我可不可以从一个比较小的角度来回答这个问题?我个人是做语音识别和语音合成的,提到所谓理性和感性,比如我们做语音合成,目前做得也相当有成果。不过刚才听到党章的事,我们的TTS(文语转换),你看到一段文字,就把它读出来,目前它实际上还是蛮呆的。

主持人:它将来是可以做入党宣誓的?

吴岩:现在就可以做入党宣誓。它最大的问题就是,它现在读得很清晰,看一句读一句,但问题是读了下一句以后就把上一句忘掉了,通常记忆力很少。当然它可以记住,可是目前还不能做到看一本书,然后消化,看看这段文章或这本书要带多少感情、要怎么读出来,所以只能用新闻联播的方式说一说。我们对侯宝林、对郭德纲都很有兴趣,他们为什么说起话来和新闻联播不一样?为什么观众看他们演出的时候要花钱买票,而看到新闻联播的时候要找遥控器了。说到感性,我们还是希望用理性去理解,所谓的情感、智能或智慧,看起来好象是一种幻觉,而实际上我认为我们是有这个能力,至少有这个愿望去理解,什么是控制我们情绪的东西,情绪的表现是什么?第一它是怎么发生的?第二个有了这样的情绪,在语音上是怎么表现的?从语音识别的角度也是一样,我觉得整个问题蛮大,当然看到阿西莫和Aibo在动,大家都觉得把机器人想成就是这样一个小狗,或者是长得和我们一样,实际上刚才洪小文也提到,机器人可能长得一点也不像人,不像我们想象中的robot,它可能只是一只手、一个嘴巴、一个关节,可能是很小的一部分。可是它当中的灵巧是它要服膺物理定律、服膺阿西莫夫机器人三定律,或许还要服从党章。我们可以让它的行动像人,让它说起话来、做起事来可以复现。我说的复现很宏观,实际上每个人都不一样,龙生九子各个不同,中国十几亿人,每个人的感情、思虑、方言、口音都不相同,在同中怎么去求异、在异中怎么去同求,这个过程都是很有意思的。

刚才微软的赵峰院长说到如果有了人工智能,可以让它在微软做领导。我自己做语音识别、语音合成做了几十年,到现在还没有退休,我觉得整个过程很有趣,就像赵峰说的,是不是一定要找到一种利用来造福大众?整个追索的过程本身就很有趣,我认为这是对意义和原理的追求,是对情感和理解的追求。

洪小文:我比较感性地回答这个问题,我还是说目的。如果你希望理性地想,比如你需要有人给你倒一杯咖啡,假如想喝咖啡的话,你就造个机器人,根本不需要感性,如果我要感性,我太太倒一杯咖啡给我,我除了喝到咖啡,我还能感受她对我的爱、对我的关心,这时候我几乎可以保证,如果你造一个机器人,你要完全控制的话,你是不可能有这种感觉的。所以我不太相信你需要造一个机器人有感性,因为你根本得不到,当你造一个东西,你可以完全控制,让它没有缺点,想让它做什么事它就做什么事的时候,根本不需要感性的东西。如果做人的事情的时候,要求感性的事情我只和人做,我想不到你为什么要和机器做。举个例子,我以前在美国常常割草,我一直希望有人帮我割草,不过为了这个目的我不会生一个小孩,生了小孩他不一定会帮我割,还会跟我耍赖,我会去买一个机器来割草,但我为什么会生一个小孩?他给我的感性上的愉悦是机器人绝对无法提供的,他有他的缺点,他是不可控的,虽然他是我的小孩,但我不可以控制他。我相信以后就算有克隆的技术,我是一直把克隆技术和试管婴儿看得很像,我还是像刚才讲的,即使你的基因和你完全一样,后天的环境你也不能控制,绝对有不能控制的因素。人之所以很可爱,就是因为他会有一些缺陷,他的缺陷值得我们去珍惜,就是因为我的太太不会每次我叫她倒咖啡她都倒给我,所以她偶尔一倒咖啡给我我就会感受到她对我的爱,这就是我的感性的回答。

吴岩:刚才说到人和机器人合二为一,也就是当我看到漂亮MM认为是一团分子而已,我没有这个境界,我 宁愿停留在人的境界,看到漂亮MM觉得还是漂亮MM。

提问:我是《航空世界》的张绅,我们看过一个电影《绝密飞行》,里面有一个飞机不听人类的命令,去攻击不需要攻击的目标。我有一个疑问,如果未来我们制造出的机器有自己学习的能力,它可以选择听从或不听从你的指令的时候,我们怎么加强对具有智能性的机器人的控制?不知道我们现在有没有这方面的研究?

吴岩:关电源。

王启宁:其实最开始很多人会问这个问题,你把机器人造得特别厉害,全能,有一天它要来战胜你怎么办?我们最开始给的答案都是把电源关了。但其实你可以想象,如果有一天它不需要用电源怎么办?这就有点不知道了。

毛利华:不知道你看过《Battlestar Galactical》这个美剧没有,有一个塞昂人,是人类造出来的,有了人类的意识以后, 把人类都消灭了,人类去找到最后的一个基地,叫地球。我觉得是这样的话,如果你把机器人当成一个机器、当成一个工具的话,你肯定有把它当作工具的一套方法,你有backdoor,最终能控制,类似于管理员密码的东西。因为你对它的创造性,等于是创造出一个几乎跟你有同样的智能的东西的时候,你给它的人类所拥有的情绪或理性的时候,它也同样拥有了人类具有的缺点,或者优点。在这种情况下,如果我是一个机器人,我比你的能力要强,我要征服你,它当然拥有人类有征服欲和贪婪的缺点,但它同样有人类的爱和同情的心理,就像人和人打交道没有任何问题一样,如果你要它独立去发展,那么机器人和人是没有任何区别的。问题在于你对待它的方式的不同,如果你只是把它当成一个机器人,那你一定留有后手。

韩松:这个问题确实是很有争议的问题,就我看到的东西,有两种可能,一种是人肯定会战胜机器,另外一种是认为机器如果内心深处没有爱,它就是机器,就是能把人类灭绝,这两种可能性应该都存在。我的观点是,既然是把这种机器造出来了,那它就是一个独立的生命,它是怎么存在、怎么发展,人可能是跟它相处的关系,也有可能就是一个竞争的关系。选择了这个东西之后就没有别的办法,就只能这样。

包括刚才说的感性、理性的问题,我觉得关键还是谁来造。如果是释伽牟尼生活在现代,他成为一个科学家,可能他造出的所有的机器人都是有感性的,他不会把机器人造成只是会给你递水,没有任何感性的,因为他认为连一条狗都能成佛,他出于怜悯、博爱,他就让任何东西都具有感性。

提问:我们发现人工智能有两个分支,一个是作为我们创造出来的东西,也就是王博导一直在做的事。另外一个是应用在人类自身方面,比如美军的实验。请问,王博导在做机器人的时候,你是倾向于把它作为你的奴隶,当作一个黑奴一样看待,还是像父亲和儿子一样的关系?因为父亲和儿子也有对抗,从顺从到后来非常复杂的感情倾向。

另外,随着个人不断学习,他的能力会越来越强,他的获知欲也会越来越大。请问微软亚洲研究院的院长,当人更有触犯法律的能力的时候,你是更倾向于去约束他,还是把这个课题做到更为极致?我是学法律的本科生,所以很想知道这一点。

最后一点,我的建议,王博导在研究的时候,可以尝试自动写入党申请书的机器人,因为大学生在这方面的需求很大,也有消费能力。

主持人:这就是刚才王院长说的需求拉动市场。

王启宁:最开始的时候,“机器人”这个词出现应该是在捷克的一部戏剧里,叫“罗伯特”,当时的含义是“劳力”的意思,也就是替代人去干事的工具。在中国翻译成“机器人”,这其实和最初的理解不太一样,它不一定是人的形状,或者是具有人的智慧,它可能就是一个工具。这是早期的研究。说复杂的我也说不了,我想说的是,比如机器狗Aibo,我们最开始研究的时候是想让它具有更高的智能,最开始我做研究的时候,是把它当作工具,它需要实现我的想法,它就是工具,但是做了一段时间以后你会发现你和它有了某种感情,你想让它做的事情它都能做得比较好,给你一个正反馈,你就和它建立了一个非常好的关系,到那时候这种关系就不再是工具的关系了,就会变成一个非常亲密的伙伴关系。包括刚才的录像里,有一个女教授研究让她的小孩去选择机器人伙伴还是选择一个人类的伙伴?如果你和机器人伙伴建立了非常好的感情关系以后,他可能会选择机器人伙伴。现在发展了更高的智能,你就不应该再把它当成一个工具了。

张铮:关于机器人和它的创造者之间的关系,请参见用户对微软windows的感觉。

关于我们的产品和法律之间的关系,请参见绿坝和中国网民的关系。

提问:我是机械工程师,在中国运载火箭技术研究院工作。

我有两个技术问题问一下王博导。一个是片中的阿西莫机器人,就是做导引、到桌上送菜的机器人,房间是不是和它的程序有关系?房间里是不是设定了电子设备或传感器,给机器人来构造它的地图导航系统?或者说如果把房间弄乱,把机器人挪到室外,或者把家具重新摆一下,它的程序是不是需要重设?

第二个问题,根据摩尔定律,隔一段时间芯片集成元件的晶体管数目会翻倍。但是我相信根据您自己的亲身经验来看,并不是芯片翻倍智能也会跟着翻倍。到目前为止,我们人类可以做到在一个硅片上集成一亿个元件,但是我们做出来的人工智能,有时候甚至连一个昆虫的神经节的智能都达不到。您有没有想过,我们是否需要另外的考虑?对人工智能研究的方向是否更加向自然界去学习?更多地假如有机质或者有机细胞这种有机结构来参与到人工智能的过程当中?因为之前已经有一个例子,用老鼠的细胞来控制小车运动,已经实验成功。我想知道您对这个的看法。

王启宁:你的问题非常有技术性,我很喜欢这种问题。

其实片中的阿西莫机器人,有一部分的illusion在里面,它对自己的环境构建是已知的,对于地表的情况也是预先设好的,你可以发现它只能在这个房间里走,它不能走出这个房间到野外去,也不能翻越障碍物,没有这么复杂的东西。所以它是比较local的东西,只会在这个房间里做,或者只和这些环境有交互,如果放在野外,就实现不了这些。现在的机器人有两种,一种研究是让它动得更厉害,我既可以在这里走,也可以在外面的大厅走,也可以爬山、涉水,这是一种研究方向。另外一种是在更复杂的环境中生活,比如在这间屋子里可以学习,换一间屋子,也可以自己去学习了解。

关于是否可以用生物细胞,这很有意思,我其实有这个想法,在我做机器人的时候,我会发现电子元器件是机器人发展的一个很大的制约,有很多东西你做不了,或者电子元器件实现不了,那你就有可能去求助一些生物细胞、生物信号或者其他的生物机构,这个时候就可以做。包括你说的通过细胞控制机器人运动,不知道你是否看到过加入脑电信号去远程遥控某个机械手臂的运动,这种东西已经开始做了。

追问:我看到过山东某大学控制鸽子的飞行方向。

王启宁:如果你可以通过一些机构去了解人类大脑的思维结构或方式,可能你产生的智能会更高,我想在看片会后和毛老师商量一下,看有没有什么合作的可能。

毛利华:所以说,来参加看片会的自我和没来参加看片会的自我有很大的差别。

主持人:希望每位嘉宾给朋友们说一句结束语。在酝酿的阶段,我推荐大家延伸阅读《灵魂机器时代》,上海世纪出版社出版。当时科学松鼠会做过一个集合,科学松鼠会所有的会员、读者,每个人推荐一本自己专业的入门书,这本就是人工智能专业的入门书。还有《人工智能未来》。这本书写得非常好,唯一一点遗憾是1990年写的,内容比较老。刚才宋博士说,现在机器人没有办法写故事梗概,就是一个完整的故事里面到底讲了什么东西,现在还无法达到这个水平,所以这本书还是没有过时。我推荐大家去看。也推荐大家在豆瓣的姬十三那里找到那个集合的豆列。下面有请嘉宾。

毛利华:祝小姬看片会越办越好。

王启宁:其实我第一次参加松鼠会的活动,我觉得非常非常好,因为我在读书的时候自己还办了一个机器人相关的协会,去做一些科普活动。像松鼠会这样能组织得这么好,各门学科都可以做科普的活动,我觉得非常好。我想说的结束语是,看到这么多人对机器人、包括人工智能这么感兴趣,我感到非常高兴,我希望以后我做的机器人能够给人类做更多的贡献。

韩松:来到这里很高兴。通过看片会,我感觉到中国才是世界上最大的机器人市场,祝愿我们的科学家制造出真正地符合中国特色社会主义的机器人。

主持人:韩老师,您本身符合中国特色社会主义吗?

韩松:正在努力。

张铮:我最后的结束语是对小姬的一个要求,微软研究院有很多资源你们可以利用,我也和院长提过,但是我搞不定,我对你们的请求是,等一会而结束之后你去搞定院长。

赵峰:我也是第一次参加小姬看片会,这个话题很有意思,我刚开始到美国读研究生的时候,也是在麻省理工学院的人工智能实验室,我觉得今天讲的很多内容都很有意思。今天这么多对人工智能有兴趣的同学都到微软来,我们也很高兴,希望和大家保持交往,希望大家关注我们的研究方向。

洪小文:我第一次参加你们的活动,当初跟我讲的时候我都不知道“松鼠会”、“老鼠会”是做什么的,我们研究的是很理性的东西,但是我们追求的是很感性的东西,希望我们有更多感性的交流,谢谢大家。

主持人:我们这个组织被定义为“理工男”加“文艺女”的组织,我们的组织很“文艺”的,希望您作为“理工男”来参加我们的组织。

宋謌平:今天非常谢谢,让我非常开眼界。我是第一次看到《小崔说事》说松鼠会,我觉得这个组织实在很有趣,张铮给我们院发了一封电子邮件,我就觉得一定要来参加松鼠会的活动。我今天真的很开眼界,我也同意洪小文说的话,我一直在想,比如刚才韩松老师说的,如果释伽牟尼来做机器人,一定会做得很有佛性、有人性,我觉得人还是很伟大,宁可做人。

吴岩:我也是第一次参加活动,以前参加的活动都是科幻讨论会,虽然是讨论机器人,但是我很紧张,因为感觉到机器人马上就会进入社会,马上就会出来。但是今天一听科学家讲,机器人的智力、情感离人还差得很远,所以我还是很放心。

张铮:在此我想感谢微软的一位员工张琼,她做了很多工作。

———————————我是感言的分割线———————————

在此,我也要感谢每一位帮助过小姬看片会的人,谢谢你们,你们做了很多。

公告原文:

【小姬看片会第九期】人工智能如何改变世界?

0
为您推荐

41 Responses to “【小姬看片会回顾】程序决定我爱你”

  1. 说道:

    我沙~~~

  2. 半死不活的猫说道:

    不厚道啊...不厚道

  3. 潘衡岳说道:

    这个智能革命……我今天给高中生上人工智能课的时候还放了。。。。

  4. 小姬说道:

    我是来道歉的:
    我这段时间公事+私事一直很忙,不是上夜班就是去别的地方,新疆-上海-青海-陕西……这个回顾拖了很久,而且下期活动还不知道要什么时候……我对不起大家……深鞠躬……
    我现在还在凤翔采访,不知道什么时候才能回京……

  5. maokk说道:

    人工智能的感性,或是理性其实都不重要,关键还是得把惰性做出来。。。

    • BHM说道:

      惰性应该是比较高的阶段会考虑的问题了.理性的机械部分完成后,如果再加上人类的各种负面情感,包括你说的惰性,还有对情感需求,尊重的需求,享受的需求等等,机器人世界就热闹了,再结合已经完善的学习功能,机器人就有了自我升级的机制,基本上机器人就可以和人类一起发牢骚交流了,这也是若干年后会出现的恐怖画面了,因为接着就会和人类直接争夺地球控制权了,只怕人类连逃到外星球的工具都抢不到了!

  6. Metaverse说道:

    终于看完了,好攰~~~~~~~~真想有双机械眼。。。

    关于意识克隆,个人认为那个其实答案很明显,就算从宏观上来看那两个个体每个细胞的排列都一样,组成他们身体的原子在量子层面上肯定是不一样的,量子态的问题,世界线的问题,显然就是两个独立的个体。。。

    现在机器人跟人最大的差别就在于学习能力,人的学习行为的模式,机器究竟有没有办法做到呢?人在学习过程中,大脑的结构是在不断发生变化的,机器可以做到这一点么?曾经听说过有一种自编程、自修复、自改进的算法(不记得是谁提出还是证明的~~冯·纽曼?),算法能根据环境的变化而改变自身的结构吗?

    彭罗斯在《皇帝新脑》里面试图说明人脑的某些过程是非算法的(其实我没完全看懂),如果确实是这样的话,那么仅仅靠0和1编写的程序,哪怕是上述的能自我进化的算法,也永远无法达到大脑的功能,包括情感。如此,图灵实验也仅仅是停留在表象而已。问题的焦点是,人大脑的神经网络,跟电脑的布尔逻辑电路,究竟有没有本质的区别?

    嗯,如果,能像电脑杀毒那样对付流感病毒,直接根据DNA序列写出杀灭病毒的药物分子式,那会省事很多~~当然,中间生化环节太复杂,这个纯属妄想,哈哈

  7. 说道:

    《剑桥五重奏》 赞 新书吗? 下次推荐这个
    这五个人中 后面四个都是我的icon

    • 量子熊猫说道:

      老书了,上海世纪的。http://www.douban.com/subject/1881552/
      台版十年前就出版过。一般,深度不如《人工智能哲学》,属于对话录形式,把一个好形式写闷了。

      • 小姬说道:

        很闷吗?我怎么觉得还挺好看的……@_@

  8. Ash说道:

    我是来自北大工学院的研究生,背景是物理,现在在工学院能源系。我有两个问题,第一个问题,现在我们说人工智能是否有点太庞统了?
    应该是“笼统”

    • ldf.dc说道:

      ……第二个问题呢?这个又轮到在人工智能(关键是智能)的定义上扯皮了。

  9. yami说道:

    这期看片会太高级了!

  10. 竖叶说道:

    请问一下人工智能的核心能力是什么?

  11. hewei说道:

    怎么没报名帖啊!!!!

  12. hewei说道:

    怎么没报名帖啊!!!!我天天来看,还是错过了!!!

  13. hewei说道:

    不公平啊 啊啊啊啊啊啊

  14. 宇镭说道:

    吴岩:这个问题当然非常大,我可不可以从一个比较小的角度来回答这个问题?我个人是做语音识别和语音合成的
    ----------------------------------------
    这个貌似把发言人整理错了吧。。。

  15. Bob Song说道:

    这文章在豆瓣上居然无法推荐,我猜是韩松的话导致的。。。
    能不能将文章中两处“绿*”处理一下,让我好推荐。。。

  16. Shawn说道:

    "我的研究院的团队里有一个徐凤雄博士",许峰雄老先生看了估计要疯了.

    • 小姬说道:

      对不起啦,改过来了。
      这个是现场的速录员记录的,难免有错误,请大家多指正。

  17. 天空的痕迹说道:

    也许,机器人与人类的思想方式不一样,因为他们是两种生命形式,基础不一样,思想怎么会一样呢?

  18. 天衍四九说道:

    实在是太长了,我才看完一半,感觉还是蛮精彩的。

    但是也发现了一些错字,比如前面有人说的“笼统”打成了“庞统”

    我还发现“公里”被打成了“公立”

    由此引发的深思是:到底用的拼音输入法还是五笔?

  19. 偷果果说道:

    好激动好激动,我去了,当时看见小姬只知道傻笑了
    ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~当时的情况重现~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~我:“小姬啊……”
    小姬:是啊。
    我:呵呵……呵呵……
    小姬:汗
    ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~

  20. wecing说道:

    > 那只机器狗启动的时候长久地发呆,我引用粥粥说的话:“跟Windows一样!”可是赵峰认真地拉着我说:“那是Linux的。”

    • gheenker说道:

      这说明在 微软的员工潜意识(非潜意识)中感到了 linux 带给他们压力与恐惧;
      也许ta想表示 windows性能不错 或者是要好于 linux;

      心理学范畴应该属于一种投射吧。

  21. 任子爵士说道:

    后悔没报上名。。。:(最近有没有活动啊?好像安静好久了~~~

  22. tankin说道:

    http://twitese.appspot.com

    松鼠会的twitter一直没消息,现在可以用这个网页来更新
    呵呵,记住,登陆用的帐号是用户名而不是邮箱
    我今天等了半天,都是用邮箱,结果一直失败

  23. xxj说道:

    好羡慕你们呀!

  24. wu说道:

    额 我看得好晕呐 不能放些解析图吗??? 我很喜欢生物这科 我觉得生物都是一个个世界 人们却迫不及待的利用这个世界才去解剖它! 而不是真正的爱它 冷冰冰的!!! 希望能和你们多多交流关于生物的知识!我爱这世界! 多彩的世界 还不全被人类统治的世界 而且我常常怀疑我们生物老师说的“事实”的真实性!!!

  25. [...] 竹人是微软亚洲研究院的副院长,新语丝和国风的创办人之一。曾经作为嘉宾以及幕后筹划人参加过小姬看片会在微软举办的“人工智能” 看片会。以前在松鼠会发过的文章在这里,这里,这里和这里。 [...]