- 发帖可能变空内容，邪门暂不知所以然
- 『稷下学宫』新认证方式，24年网站打算和努力目标
主题：【原创】人工智能会成为人类智能的终结吗 -- 晨枫
家园 【原创】人工智能会成为人类智能的终结吗 谷歌的AlphaGo战胜欧洲围棋冠军，引起轰动。人工智能是否会成为人类智能的终结，再次成为热门话题。
计算机在国际象棋里战胜世界冠军，这已经是好几年前的新闻了。围棋比国际象棋更复杂，计算的复杂性是高得多的层次，一般认为不可能靠穷举法计算出正确步骤。谷歌AlphaGo在人类专业对手不让子的情况下，5：0大胜，这确实是惊人的成就，但这依然应该放到大框架下来看。围棋尽管复杂，但依然是有限问题，只有有限的棋盘、有限的棋子。靠穷举法已经不可能，但机器学习、深度学习可以看作更“聪明”的穷举法，只是通过学习减少需要穷举的组合，极大地提高了穷举的效率，相当于研究前人的精华棋谱，掌握在一定棋局时的成功应对路数。谷歌AlphaGo还可以自己与自己对弈，快速积累经验，储存更多成功的棋局，用于实战时的指导。这与人类下棋时并无原则不同，好棋手走一步看两步，这看两步其实也是在评估不同走法的优劣，其中经验（包括来自棋谱的间接经验）指导了评估和测试的方向，减少了无效的“胡思乱想”。
随着CPU速度的提高、内存容量和速度的提高，计算复杂性的门槛越来越高，机器学习使得“智能比较”和“智能穷举”越来越现实，很多过去认定不可能破解的问题现在可以破解了。按某种估计，围棋的复杂度是10的170次方，比国际象棋的10的47次方多100多个0，换句话说，计算机战胜围棋世界冠军也只是一个时间问题。但这就是人工智能吗？究竟什么是智能？事实上，人类对于智能并没有统一、精确的定义。在某种意义上，这和泛泛的“好”一样，只是相对于“坏”。智能只是相对于愚钝而言。
人类智能的最大特点其实在于突变和急智，在于灵机一动、超常思维和创造性。纯经验的思维与条件反射没有本质差异，谈不上智能。在有限棋盘、明确规则情况下，如果能突破计算复杂性的障碍的话，纯经验、穷举法是可以找到最优解的。但换到无限棋盘、模糊甚至动态规则的情况下，纯经验、穷举法就不灵了。赵括的故事人人知道，这不是兵书的错，而是对棋盘和规则的理解错误。熟读唐诗三百首依然只是鹦鹉学舌，单靠这是成不了李白杜甫的。法律是人类智能能做到的最明确无误、最没有歧义的文字，但法庭判决依然不可能由计算机做出，因为再明晰的法律条文依然有模糊的边界，再清楚的被告行为依然有模糊和多义的解释。具体到计算机下围棋上，如果开盘时临时把棋盘加大一倍，棋子增加，人类棋手和计算机棋手都会大吃一惊，但人类棋手会根据经验和原则边摸索边继续下棋，计算机也会，但先前的“机械记忆”的经验就不一定有能力外推到新的棋局了，可能要从头来起。有足够运算速度的话，依然可以边考虑下一步对策，变自我大战3000万个回合，迅速积累经验，但利用前人棋谱这样的学习就难了。
人类对于自身的智能依然缺乏理解，尤其是对于突变思维缺乏理解。人工智能按照人类对智能的理解来实现的话，在本质上无法突破这个极限，就好象在二维空间里怎么划道道，也成不了三维的图像一样。除非人类对于自身的智能有了突破性的理解，人工智能终结人类智能的可能性并不存在。但人类理解自身智能可能有逻辑和哲学上的怪圈，自己不可能真正理解自己。这就像永动机一样。
但纯经验的人工智能依然可以在明确定义、可重复的任务中达到人类的程度。比如说，早已没人试图在心算中打败计算机了。即使是只可意会不可言传的厨艺，只要可重复，人工智能就能做到。可能缺乏点灵性，但口味还是有保证的。这对人类意味这什么呢？这逼着人类向着智能型发展，只有机器想不出、做不到的事情，才是人类的保留地。这和机器时代正好相反，那时是只要机器能做的，都交给机器去做。英文中有一句话，even a monkey can do it，意思就是说，根本不需要懂脑子。在人工智能发达之后，if a monkey can do it, a monkey will do it, there will be no place left for you。
未来社会将高度重视教育和思考，体能、敏捷反而成为修身养性的东西，因为人类的体能和敏捷不可能超过机器，只有人类的创造性思维才是优越性所在。
顺便说一句：如果有机会，应该试一下临时改变围棋规则，比如说，在开赛的时候才临时改动规则，测试人类棋手和人工智能棋手的反应，这或许更说明人类和人工智能的能力。
关键词(Tags): #科海泛舟， 通宝推：鸾鸟轩翥,爱莲,普鲁托,蓝鸟,盲人摸象,家园 万物都是图灵机? 这是《图灵的秘密》一书中的章节名称。而且这一章可以免费试读，有兴趣可以看一看：
- 复 万物都是图灵机?
家园 摘几段 这个章节类似卷轴把历史上相关的思想进步都串联在一起。听说维基百科下一代在做这样的事，把各相关主题连接起来在某个可以探讨的主题下，而不是现在这样碎片化。
下面几段印象比较深的，以前都看到过，但值得回味。
一旦二元论被抛弃，思维就必然被看作是大脑物理活动（协同身体的其他部分）的一种自然表现，而不是什么超自然的东西。虽然我们在情感上有一丝排斥，但是结论是昭然的：首先，思维在能力和局限上等同于图灵机；其次，理论上完全可能制造人工的思维。（这是理论上的结论，人可以仿造自然界的东西，自然一部分的人类思维也在其中）
显然设计一台能模仿人类思维的计算机是没有意义的，这需要输入很多的数据，而且如果没有多年的训练和积累的经验，效果也不会好。不过，理论上是否可以制造一台机器可以通过无限制图灵测试呢？（丹尼特认为无限制图灵测试是很难但很公平的测试）这样的机器有意识吗？丹尼特认为这两个问题的答案都是肯定的。（again，理论上成立不代表实践中可以做到，人工智能在完全模仿人类的道路上又很远的路要走，也不具备短期的意义，机器人可以替代人主要指的某方面的能力，而不是成为一个超人）
不管你更倾向于大脑是以什么样的机理进行工作的，一个令人胆寒的隐含结论是，机械运作的结果决定了我们的决定，而不是其他东西.
这个观点通常称为拉普拉斯妖（Laplace's Demon）。我们很难避免这一推理：在大爆炸之后，宇宙中每个原子（包括组成大脑中细胞的那些）的运动就按照一种已经确定的模式固定下来。
当然，拉普拉斯妖并不真的存在。为了跟踪宇宙中每个粒子的运动，必须用一台比宇宙自身还大的计算机存储数据。海森堡测不准原理告诉我们，基础粒子的位置和时间不能同时确定。在数学上，把研究这些原子碰撞结果的问题归类为“多体问题”（many-body problem），而即使是3体问题的计算就足够让人头疼的了。
如果宇宙确实是一台图灵机，即使我们知道当前的“完全格局”以及这个机器具有的所有格局，还是不能够预测它未来的走向，除非真正地“跑”一遍“程序”。（想起了分形。长期不可测但是短期没得跑。）
不确定性是自由意识的基础。（个体表现为自由的，无规律可循，但是数量一大，放在一起就表现出规律了。物质如此，人更是如此）
家园 几点看法 关于人的判断模式，以及直觉
晨大说的很对，在一些边界模糊的区域，人类可以做判断，而机器不可以，这可以说是因为边界模糊，参数动态化，导致了穷举法的失败，因为数据量太大了，穷举法的耗时太长，以至于超出某个边界之后，我们就认为机器宕机了。但是，在这种情况下，我仍然认为，人依靠直觉，依靠经验来做判断的这种模式，归根结底仍然是穷举法，只不过，这种穷举法是借用了以前穷举法的结论的穷举法。这种方式，其实是对时间的折叠，通过对过去经验的归纳，使得在做出判断时，避免了在相同条件下的无谓的穷举耗时，使得整个判断过程显得非常快速。而直觉，某种程度上也是基于过往经验和人体自身的本能的（本能也是经验的归纳，只不过写在基于里面），只不过直觉发生的情况，往往是事件本身的表征和经验中的判断节点不完全吻合，而人根据这些不是充分吻合的点做出充分的判断的一种情况。
关于人工智能
机器和人相差的是一个学习的过程，或者说，机器缺乏自我编程的程序。而人也不是一上来就会自我编程的，需要经过很长一段时间的积累，这段时间有可能和从单细胞发展到现代人类所需时间一样的时间。如果用我上面说的穷举法来解释，机器要发展出人工智能，需要先把世界的所有问题先穷举一遍，形成经验，才能产生时间的折叠，机器的人工智能才会真正有实用价值。
家园 现在人工智能的突破，能够解决某些抽象语义的判断问题。 以前我们对数据的特征描述，是比较简单直观的。即使转换成数字、浮点数、矩阵，都是用已有的数学模型来描述特定的数据。这种方式在面对来自真实世界的需求时，某些简单的对应关系能够解决的很好，如数据库对应记账，但当真实世界的各种抽象概念和已知的数学模型不符时，则力不从心。比如从各种文章中找出一篇“文笔好”的文章，人工智能不知道何谓“文笔好”。
深度学习和大数据为代表的技术，在某些抽象概念的判断上有突破之处。它能够从低层次的直观数据中通过训练学习，找到这些数据背后的一些深层次的相关联系，这些联系的表现形式，不是明确的参数或者公式、定理，而是数据，人也说不清这些数据到底是什么，但它们确实是能够独立于训练数据存在的，通过一定的算法，代表某些抽象的分类判断。
譬如说，我们想找出“云朵”的图像。云对于图像数据，是抽象的概念，形状千奇百怪，颜色也不一样，我们就没有准确的数学模型来描述，但通过深度学习，我们可以从海量的云朵图像中得到代表“云朵图像”的一组数据，这样可以判断一张新的图像，是否是“云朵”。这次的围棋算法我不太懂，但根据介绍，人工智能也是在判断局势优劣这样的抽象概念时，采用了深度学习技术，那么这个策略在目前的技术条件下确实是可行的。
最后说到主题，我认为人类的智能是很复杂的，存在很多领域。目前人工智能的突破有一定意义，但说能终结或取代人类智能就太夸张了。
家园 现阶段人造智能水平的提升首先就是人类智能提升的结果。 人类所以成为人类，是因为人类有主观能动性、能思考、会创新、会继承。
一个机器，连生命都不是，本身还是人造的，怎么可能终结人类智能呢？
魔高一尺，道高一丈。我对人类有信心。
家园 是的，人类的创造性思维才是优越性所在。 目前再好的机器都只是在更快、更好、更准确的重复人类创造出来的成果。
现在的机器只能举一反一，如果哪天能举一反三，那就麻烦了。
家园 研究人工智能的对创造性思维也有建树 这世上聪明人多得是，不可能没人研究这个问题。
我能找到的最靠谱的结论是人的举一反三能力来自“比喻”的能力。就是人的灵机一现其实是在某个方面触动了两个看似不同事物的相似部分。
这个意思就是说人的创造性思维其实也不是没有来源的，而是无数积累的结果。但是有的人寻找相似性的能力比别人更高一些，于是可以创造出似乎以前不存在的事物，其实之间是存在相似的部分，而人可以把其他的部分填空而创造。
当然这个思维模式既包括创造概念也包括创造实物，而且也符合一般观察下创新是渐进的，而且是量变引起质变这个过程。也许从广义上这还是一个搜索问题，当然还没有发展到有人弄出数学模型的地步。
我自己的理解是人的思维特点是归纳总结容易，因此在高层次上容易找到相似点，但是从高层次向下外推，在低层次上“填空”，这个比较困难，但是机灵的人还是可以比别人做的好。
家园 人类智能不全来自于积累 一般认为，小孩子的想象力特别丰富，看似不相关的事务都能联想起来，能力甚至超过成人。小孩子的积累肯定少于成人。
家园 创造力 创造力、想象力是和胡思乱想一样的，特别是在小孩身上，对了就是创造力，我们不断夸，而错的就是胡思乱想，我们也不在意，这归根究底是试错和穷举
家园 人类大脑发育过程中不停地简化 人脑发育就是将神经元简化不予以联结，小孩的神经元数量甚至多于成年人，只是这些神经元没有“经验”，随着年龄增长，只有那些“世故”的神经元保留下来，也就是我们所说的年轻人“成熟”了。
一般大家谈到人类大脑有10亿个神经元，其实真正用上的是1%左右，其它都是惰性的，在发育过程中已经放弃的了。
其实一个人的心智成熟只不过是理性和逻辑能力的建立而已。大科学家就是在这两方面有过人之处。大脑逻辑能力建立后，思维模式就建立了，不需要巨大的神经元数目。
也就是说人类大脑是通用型的，不是AI专用型的，比如只会下棋就不会做菜。
AI可能把成功的计算模式保留下来，同人脑成熟的过程差不多，只是AI的记忆容量和CPU能力超强并可以扩张，而人类大脑的1400cc容量是固定化了。
家园 但是这个过程还不能解释创造力 这也是目前AI的局限之一。
晨枫提到小孩子想象力非常丰富，经常把不想关的事物联系起来，虽然大多数都在成人眼里严重可笑的，我想这个过程其实是小孩子在学习的过程中发生的正常现象，通过不断试错确定下自己的逻辑通道，慢慢把模式固定下来，类似神经网络的学习过程，也就是你说的成年后神经链接数量下降（或者某种类似的直观描述），还可能出现了过拟合现象（比如我们说有的人跟不上变化了）。
但是人的学习过程是不停止的，只是这个学习的范围越来越小，只能在局部优化，整体上的变化没有可能了，因为人脑也没有重置清零这个功能。
不过这里提到的难题是人脑如何在这样的条件仍然可以发明创造，虽然一般看来年轻人比老年人更容易创新，也许创新本身就是学习过程中一种？