吴军：“机器人不伤害人”不成立 人工智能看病比肩中等医生

内容提示：本期节目窦文涛、许子东、吴军谈人工智能的话题，吴军谈到，“机器人不伤害人”定律已经不成立，人工智能看病已能比肩中等医生水平。

凤凰卫视5月2日《锵锵三人行》，以下为文字实录：

窦文涛：《锵锵三人行》，马后炮又开张了，我们这个节目马后炮的原因之一是什么呢，很多时候我都在等人，就是我们这节目天天播，天天请人。但是有时候碰到了一个新闻，一个事情，我就好像等一个人，可是这个人他在世界各地云游，我等的就是吴军老师，今天终于等来了。那许老师，你知道我是什么时候想等他的呢？

许子东：就是为了痛打落水狗呗。

窦文涛：打谁？

许子东：落水狗呗。

窦文涛：哦，阿尔法狗。我们节目现在也挺时尚的了，早上次吴军老师在这儿就给我们谈到了，我印象很深。因为他在谷歌工作过，还当过腾讯副总裁，也是硅谷的人才。但是，人家当然现在我感觉有点资本家。

吴军：我主要是知识技术。

窦文涛：就等于他是一个科学家我觉得应该是，但是他很有人文情怀，整天在朋友圈里发什么落叶呀、夕阳啊，感觉你好像是每天都挺腐败的过的，是不是？

吴军：没有，没有，我是有时候随身带着相机，看到什么好东西就照下来，然后有时候就分享出来。

窦文涛：这很不容易，就是像杨振宁说的那样，就是说你能从物理学里看出美，就是自然科学家他能够有这个审美，这好像也是您特别强调的。

吴军：这我觉得非常重要，因为我觉得人培养是一个全面的。而且前一阵我还写了篇短文，是一个人问我，说美国大学的每学期那么短，还学什么东西，我就跟他讲，这个学习是为了成长，你玩也是为了成长。你到了23、24岁，你发现你没玩过，这个成长就不完全了。

窦文涛：那我发现自打您玩起来之后，好像您就把您的自然科学也放弃了，您现在都不搞您当年的专业了，是吗？

吴军：没有，我也搞一些，但是我不自己搞，现在我呢一般是在支持三所大学在那儿，主要他们在搞。

窦文涛：你当老板了？

吴军：也不是说当老板了，就是说我对我感兴趣的项目会有一些，跟他们一些讨论，包括有些投资这些。

窦文涛：我问你一个问题，可能就是说你看像下围棋的一般来说，到一定年龄就知道自己老了或者说算不过来了，就会慢慢地趋向于退下赛台了。这个科学家，过去我们得到的概念，那科学是一生的事业，感觉你看爱因斯坦一辈子就琢磨着宇宙的秘密，没完没了的。那像您就感觉到后来，是出于什么原因不再做你一直孜孜以求的专业了？

吴军：是两个原因。一个是科学发展很快这个，就是说我们过去做这个东西，你可能如果按照原来这个路子走，很多人是越走越窄，我们大家对科学家一个印象是这样，越走越窄。再有一个，又出现很多新的东西，新的东西你可能感兴趣，那你未必有时间学或者是未必能学得很好，但是有人学了，比如说去年的时候，我跟朱棣文来聊他的新的这个想法。他是物理学家，然后从政，当了能源部部长，然后又回到斯坦福，回到斯坦福了，他就不再当物理学家，他在医学院，所以他找我的原因是说，他说我在医学院能不能给点支持，就这意思。所以，像他这种就是说属于自己个人在科学上不断追求，所以我觉得挺难的，这么一个年纪要从物理学完全转到医学上。

欧美很多科学奖只颁给40岁以下 认为40没到人生顶点这一辈子就没戏了

窦文涛：今天科学的发展会让老科学家觉得自己很容易被淘汰，或者说知识老化，或者说也会觉得科学慢慢也是一个年轻人的事业了，有这种感觉吗？

吴军：其实在欧美很长时间是这样子，因为你比如像菲尔兹奖它不给40岁以下的数学家，它就认为说你如果40岁以下没有达到人生的顶点，那你这一辈子就没戏了，数学这事儿就是没戏了，你就可能是智力不行，其他不行，就淘汰了。

窦文涛：40岁之上，那就等于是终身成就奖的感觉了。

吴军：在以后就是终身成就奖了，所以他40岁以前你必须要么得到菲尔兹奖，要么他就不给你了。个别的研究它是偏实验科学的，那个时间很长，因为它要时间验证，比如最典型有两个，一个是前两年的诺贝尔奖的希格斯场、希格斯粒子，他提出来的年纪并不大，但是因为花了几十年，欧洲人和美国人花了几十年来验证这个理论，从60年代到现在花了将近半个世纪验证，这个时间走了很长，走了将近一代半人或者两代人的时间，这是一个。

许子东：香港中文大学原来那个校长，他很晚才得奖，可他的研究是很年轻的时候的。

吴军：高锟，70年代的时候光纤，我们今天用的光纤之所以能够使用，都是靠他的理论。

许子东：不过也亏得他活得久，因为诺贝尔奖只给活着的人。

窦文涛：这又说到你们老文学家了，你觉得老作家今天有没有落伍的感觉？

许子东：这个正好是相反，你要是数学，他们就说40岁不发表论文，以后就难了。文学学术正好相反，40岁就出书，老师不鼓励，你出书太早，他就说你这个水库坝筑的不够高，你太早发表文章，太早成名未见得是好事。王尧当年就跟陈明远这样说，所以是不同的学科有不同的积累，钱钟书还专门拿那个老科学家这个字调侃了一番，到底是年纪老的的科学家，还是老的科学家呢？

窦文涛：这个说的有意思。

许子东：非常非常坏。

窦文涛：但是你说这个人工智能，这算是新的科学吧？

吴军：这历史其实蛮长的，最早提出来这个概念是1956年，而且今年也很巧，就是说提出这概念，最后一个科学家，他们1956年那拨人，马文·明斯基几个月前刚在麻省理工去世。

窦文涛：对，著名的马文·明斯基，这是历史上的一个。但是你知道我们请来了江铸久九段，他们围棋界的，我了解到，就是说看到这个阿尔法狗下出来的某一手棋，他是热泪盈眶，说是甚至说像江铸久就是说这就是当年吴清源老师期望的那种中和之棋，他就是这个感觉。你跟谷歌那些人不是挺熟的吗？

吴军：对，我是专门跟他们聊过。

窦文涛：对，我想知道他们的那个感觉是什么，当然不是他们新闻发布会上说的假话，是真话。

吴军：第一个就是说这是很有意思的一件事，因为计算机本身它不知道它在下围棋，它是在做一些运算，实际上计算机你要让计算机谈感受，就是说我不知道我是在下围棋，这是计算机。然后，谷歌内部那话就长了，我们讲讲它整个来龙去脉。就是说这公司DeepMind它要找一件事证明它的这个机器学习的能力很强，那么就找了围棋这么一件事。它有很多很多版本，几十个版本，就是每一次比如说又做了一个改进，改进出一个新的版本以后，就跟老的版本去下，看哪个版本能够赢，能够好，这就是新的版本替代老的版本。公司内部它就大概有几十个版本吧，每天假设我们说50个版本，每天这一个版本跟49个都在下，互相这一下，一天就上千盘就下下来了。

窦文涛：这个我就是说当时赢了李世石4：1，他们谷歌内部的人是什么感受？

吴军：他们事先其实还是有把握的。

窦文涛：他们已经断定，肯定。

吴军：对，事先他是有把握，他是这么算的，他是说就是说围棋选手好像是这样，如果你差一段，就是70%对30%，就是我们说八段选手对七段选手，八段的胜率是70%，七段是30%这样。那么，它跟第一个测试人是樊辉二段，那其实下了很多，下很多。它知道是这样，以职业二段的选手如果跟职业九段选手下，大概职业选手九段选手的胜率大概是95%到98%大概，九段也有好的九段和差的九段。比如说李世石或者是我们现在柯杰这种是好的九段，那可能对二段的胜率是98%，反正到不了百分之百。但是，阿尔法狗对职业二段的胜率是百分之百，这是他们能确定的，所以他觉得他比九段要厉害。

窦文涛：但是你知道这会给我带来一个不一定正确的一个见解吧。就是过去我感觉围棋是博大精深的，但是这一赢，我就觉得围棋是没人味的东西，你明白吗？过去我们觉得它像中医一样，它有很多感觉的，是道，是智慧的。但是这种胜利让我知道，甭管说的多么悬，它本质上就是一个计算的游戏，只要计算量足够先进、足够大，就胜负很分明。

吴军：是这样的。

窦文涛：那一切神秘的面纱。

许子东：是不是说同样这些机器，它今天能下围棋，它明天也能下国际象棋。

吴军：国际象棋是在十几年前已经完全解决了。

许子东：那它也可以下其他的桥牌、象棋，都可以下？

吴军：这些已经都，围棋几乎是最后一个。

窦文涛：中国网友提出来的就是打麻将给我们试试。

吴军：那这个打麻将要容易得多，比围棋容易，因为它是一个算概率的事儿，人是算不过它的。

窦文涛：打麻将有一个，我认为至少有四成靠运气吧，你摸到你这牌。

吴军：不是，你打多了的话，运气慢慢地就给中和掉了。

许子东：要是能把这个机器缩小一点，带进拉斯维加斯赌场的话，那我能赢吗？

吴军：不是，第一个拉斯维加斯不要说这个，连那眼镜都不让你戴，因为怕你记牌。说起这事儿，讲另外一个故事，就是信息论在香农之后最有名的一个人叫做托马斯·科弗，就是编写信息论那本书的那个人，斯坦福一个教授。他在拉斯维加斯就被定为不受欢迎的人，为什么呢，因为他算牌。算牌，后来我就问我的一个导师，因为是他的朋友的贾里尼克，这也是很有名的一个人，说为什么要把他赶走呢？他说倒不在于说他算牌，他赢了那点小钱。而在于说他把那一桌子人输钱的速度都放慢了。

窦文涛：听得懂吗？

吴军：把一桌子人，比如我们这一桌子人打牌，我老算牌，我虽然赢了点小钱，但是出牌都慢了，因为我就是。本来大家到那儿哗哗的钱就输光了，拉斯维加斯就有钱挣。

许子东：所以他就妨碍了赌场的生意。

吴军：妨碍赌场挣钱。

窦文涛：他就是心算吗？

吴军：他是心算。

许子东：那我的问题就是说，如果用这种机器，赌场是肯定就是了。

吴军：赌场就输了，因为它首先不要说用机器，你要记牌的话，赌场就输了，赌场是不洗牌的。

窦文涛：听上去吴老师也经常去玩儿。

吴军：我一般是不太赌。

吴军：“机器人不伤害人”定律已经不成立

窦文涛：你知道这个阿尔法狗赢了棋之后，在知乎上面他们有一个问题，担心，让你有什么担心，结果说三百多个回答里头，相当一部分人担心的就是怕这个，就是说所谓老问题，怕机器人统治我们。于是，又有人拿出当年那个科幻作家阿西莫夫，你记得吗，最著名的科幻很多时候就是寓言，他的三个定律，你可以看看这个定律，这个定律有一定的伦理性。你看，当时他的科幻小说里说，就给机器人要设定什么程序命令呢，一是机器人不能伤害人类或无所作为而导致人类受伤害。二呢是机器人必须听从命令，除非这些命令违背第一条。三呢是机器人必须保护自身，但这些保护不能跟第一条和第二条准则相违背，你看这是人设的逻辑。

《锵锵三人行》凤凰卫视中文台播出[节目专区] 

主持人：窦文涛[主持人专区]

首播时间：周一到周五23:00-23:35

重播时间：周一至周五13:00-13:35

想看更多金牌时评、热点解读、主播风采、幕后猛料？嘘！悄悄加入凤凰私享会（ID：phtvifeng），让小凤君带您走一走凤凰卫视的小后门。