马未都：如果人工智能拥有了意识肯定先学坏

2017年01月12日 14:51
来源：凤凰卫视

自动播放

核心提示：面对取得60胜0负的Master,棋圣聂卫平坦言感受到的是震撼。凤凰卫视1月11日《锵锵三人行》，以下为文字实录：窦文涛：《锵锵三人行》，咱们聂卫平棋圣好不容易来一趟，而且今天还精神好，没打

马未都：未来的老婆就是这么找的，就是根据机器人，里头那个很有意思，日本现在都有。日本现在就有，你到日本现在去卖手机那，它有一个一米二的小白人，这小白人它很厉害，它是上市第一天你跟它对话说，它经常哑巴，它不知道你跟它说什么。但是十天以后，忽然发现谁都说不过它，一开始人都说怎么进步这么快，它因为它有120个，在120个门面对应了这十天来所有客人的说话，你这么多客人跟它说话，你再说很难超出这个范围，就跟下围棋似的，你前面人类下过多少盘，你都输进去，它就知道你怎么回事了。它这个机器很快就会应对你各种说话，这还是现在比较初级的，它干吗，它卖手机，它为什么一米二，它说日本科学家人家很贼，说为了让人类有优越感，你比它个儿高，你这么低着头看它。你把它设置成两米，它这么低着头看你，你都没优越感了，所以它就一米二。你拿一手机进来，它马上说你这是苹果5吧？机器什么毛病，电不足吧？你每天下午三点钟就没电了吧，你带一充电宝吧。它把所有牌号的手机它扫一秒钟，它就知道你什么问题，它的大概率事件，这个手机最容易出的问题，它来提示你。然后它告诉你，你应该换一个手机。

窦文涛：所以，您看，这次您这个下棋对这个，您会觉得有点害怕吗？

聂卫平：没有，还没有。

马未都：聂老师怕什么，是我们怕，我们怕未来的生活。

窦文涛：要叫我我就会怕，比如说我干了一辈子围棋，我是顶尖世界第一人，我突然我会感觉到它是个什么力量，比我高处这么多，从古以来，几千年围棋史上没有过的这么一个水准，甚至是不属于人类能达到的。但玩的又是一个人的游戏，你会有这种有点……

聂卫平：我只觉得很神秘，对，很神秘。但我觉得它是给我们带来福音的，带来好的（东西），是对围棋发展有利的。

马未都：聂老师大度，围棋下到这份上大度。

窦文涛：那您说比如说对围棋发展有利，是意味着有些招数我们人类过去从没见过？

聂卫平：没见过，它确实下了很多让我们匪夷所思的招，有很多。

窦文涛：但是您认为您也很难去复制它的匪夷所思。

聂卫平：我们人是肯定掌握不好，如果下了的话，是肯定不行。比如我的学生要下，那要被我骂的，不可以这么下的。

窦文涛：但是你从它那儿学习到了什么？它怎么就能提高了你的水准？

聂卫平：它关键是后来厉害，就是它对棋的那个理解在我们人之上。

窦文涛：它有理解吗？

聂卫平：我认为是。

马未都：计算。

聂卫平：我们对围棋的理解目前停留在就是人类的现在目前所谓人类最高水平，就是停留在，我们打个比方说是A吧，它已经到B、C、D以后，那它已经比我们快好多个等级以后去了。就是它的下法，就是它的构思现在是在我们之上的，大局观好。

窦文涛：大局观完好。

马未都：这就是未来人工智能战胜人类的一个标准，大局观。

聂卫平：就是我刚才说的局部，你看着是不太好，但是你仔细看，它在大局上还是保持着平衡，就它没有太落后，大局上是。也就是说在它的电脑里，它这个结果，它之所以这么下，认为它是50%，甚至于51%。

马未都：可控。

聂卫平：但是它没有落后如果这样下只有40%，它就不这么下了。

窦文涛：你比如人跟人下，有时候可以用点阴谋，蒙你或者是佯攻，引的对方，误导对方。你觉得跟它下能来这个吗？

聂卫平：没有，没用的。

窦文涛：但是它会跟你这个吗？

聂卫平：我相信它也不会，你们常说的，它是个没有感情的动物，它没这些东西。

窦文涛：没有心理性的东西。

聂卫平：狡猾的东西它没有，它就是一个正规规规矩矩的一步一步的。

马未都：人家机器人全是正能量。

窦文涛：你这讲得好。

马未都：咱们这老有负能量，实在不行了吧，过去我们跟人下棋、打牌，明着抓一手破牌，假装特得意，诈唬对方，以至对方认输，是吧？它就是利用人的这种缺陷。

窦文涛：所以，这个事儿，聂老师是在围棋领域，您是领略了这个，但是为什么我就说真正他们计算机专家说，说这个围棋对人工智能来说是个简单的事儿，并不那么复杂。

马未都：有可能。

窦文涛：你现在想，将来战争系统，你比如说美国国防部，美国有国防部吗？对，美国国防部，它可能战争上本质上也是一个计算，各种资源的一种计算。

聂卫平：如果在战争上运用人工智能的话，那这人工智能应该终止，不能用它。

窦文涛：太可怕了，那比原子弹还厉害。

聂卫平：对，所以人工智能只能是给人类造福的。

马未都：娶个人工智能的媳妇，据说这人工智能的媳妇它会涉及到很多有意思的东西。比如它有一点性格小缺陷，这种性格缺陷它是经过计算，不能把你惹翻，前提是不能把你惹翻。然后，等于说小吵怡情，夫妻之间得小吵一下，然后它可以给你微做一些刁难，然后隔一段时间，它会告诉你，我还有点什么秘密没告诉你，就是折磨你。

窦文涛：但是你知道，最近我推荐你们看看有个美剧，美国电视剧叫《西部世界》，很火，就是讲的人工智能，就是讲的就跟弄一个迪斯尼乐园，但是迪斯尼乐园里边都是跟人一样，生物机器人。但是这些生物机器人它已经复杂到什么，给它进入很多程式，比如说会有感情，会有爱情，连爱你也是一种设定好的一个命令，然后游客进去，真人进去就一枪打死他们，或者跟他们发生故事。就像编电影情节一样，它幻想的这么一个乐园。但是这个事儿里边人们有很多思考，比方说它就说这个人工智能这个无穷的算法在逐渐复杂的过程中，说人类是怎么来的，人类是进化过程当中的意外，是那个遗传。咱每次父母遗传都会变异一点，变异一点，很多变异优胜劣汰，就被淘汰了。但有些偶然的变异，适于生存，人不就是这么出现的吗？那它的意思，它反倒经常发现，纰漏和差错，就是这个电脑程式太复杂了以后，它在运转过程中，它会出现一些偶然的纰漏和差错。而它这些纰漏和差错有可能会带来它自己有没有意识的一种东西，他提出这么一种至少是思考，就是说慢慢的算法，因为你想让这个机器人越来越像人，但是够复杂了以后，它突然有一天产生了类似于自我意识的一种东西。这玩意儿到了那一天。

马未都：你就控制不了它了。

窦文涛：你就控制不了了。

聂卫平：那太可怕了，胡作非为那可太可怕了。

窦文涛：而且人类绝对就不是对手。

马未都：所以我就说了，它只要有自我意识，它一定先学坏，它不会先学好。人都是先学坏，后学好，人类的其实你从野蛮到文明就是一个先学坏，后学好的个过程。我们现在为什么要制止战争，是因为战争是个坏事，大家都意识到了。人一开始就是爱打仗，最简单的事儿，我想把你的杯子拿过来，你不给我，我就打你一顿，你就给我了，不就是吗？这就是很简单的事儿。

窦文涛：对，将来可能它得奴役着咱们，你不是棋圣吗？陪我下棋玩玩。

马未都：除非你能够有一个东西，一生不能教给它，就是它的储能系统，就是一个指令断了能，它就完了。

窦文涛：就怕没电。

马未都：没电了。

窦文涛：没电，就像聂棋圣没了氧。《锵锵三人行》，广告之后见，甚至它可以让你更进一步的想，你有什么根据认为您就不是机器人？你不是被制造的吗？就是你的大脑里。

马未都：我告诉你很容易，我们是碳分子组成的，机器人是硅分子组成的。

窦文涛：那您这工业水平还低，这将来假如说存在一个造物主的话，问题是人也是个非常精密复杂的机器。而且，人，其实你的大脑里是根据程式，就是计算，你是根据很多程式来运转的，包括你的感情。为什么你看到他就喜欢了，那你也没有什么根据说你就一定不是被制造的。

马未都：就不是，它是这样，人跟机器之间就是现在的差距就这一步了，就是处理模糊阶段。你比如说什么样子，长成什么样为漂亮，你这个事儿要拿文字写，拿数据写都比较麻烦。就是我看一眼，我就知道这女孩漂亮，这个漂亮是你从小接受所有信息的一个直接反应。所以，我们中国人认为的东方式的漂亮和西方式的不一样。你比如西方人一看中国人那个细眉细眼的女孩，中国人说那多难看，那女孩，外国人觉得特漂亮。就是它的信息系统，它在处理这个模糊阶段，那我觉得人类的这个过程，人类思维的过程就是把模糊阶段这块拉大、缩小的一个过程。如果缩小到零，就是计算，纯计算，对与错。但是大部分是模糊的。

窦文涛：所以你刚才讲的感情，我也觉得很有意思。我觉得聂老师当年中日围棋擂台赛，其实他是有一个情怀在的，为国争光，他们那一代的运动员就是为国争光。但是您说您面对将来机器，乃至于人工智能的发展，就过去咱们的很多这种情怀，您会觉得困惑吗？

马未都：以后我弄一机器，聂老师也弄一机器，咱俩机器对机器下，人跟人单下，你知道吗？比赛就是这么着，你人跟机器这意义不大，只是现在在探讨机器的这个成就，科学的成就是有意义的。如果说你将来比如说以后有一个叫人机大赛的一个比赛，这就没意义了。

窦文涛：您比如说您现在要教学生，以后您觉得您会不会让他多跟这个master下下？

聂卫平：master它是不可能拿出来给人类来玩儿的，来教人的，应该是不可能的。

窦文涛：为什么？

聂卫平：因为它成本太高了，就是它动一下，就是好像是我听说是几百万美元。

窦文涛：跟您下一盘棋。

聂卫平：几百万美元。

窦文涛：天呐。

马未都：所以咱下不上，你想下都下不上，人家不支持你。

聂卫平：它一千台别的机器都跟着动，联机在动这个。我听说它这个，当然我这个数字是个大概，反正它那个成本特别地高，不能用来下，它自己也支撑不了。

窦文涛：把谷歌下破产了，虽然赢了60回。