- 发帖可能变空内容，邪门暂不知所以然
- 『稷下学宫』新认证方式，24年网站打算和努力目标
主题：AlphaGo和F-35 -- 晨枫
家园 AlphaGo和F-35 这两天，两条新闻较有意思：
1、AlphaGo打败李世石（就用“石”吧，他那个名字太怪癖）
2、F-35的雷达时常需要在飞行中重启
AlphaGo去年打败樊麾，坊间已经吵翻了天，人工智能是否会战胜人类智能再次成为热门话题。AlphaGo接下来挑战李世石，人民普遍看好李世石，认为这一次人类准定能战胜电脑，结果电脑再次战胜，至少是胜了第一盘。接下来有可能AlphaGo大战柯洁。不管最后战绩如何，有一天人类下围棋下不过电脑，这不用太惊讶。在有限“棋盘”和明确规则条件下，再复杂的对策都只是一个复杂性的问题，随着电脑的速度提高和学习能力的提高，总有战胜人类的一天。电脑算数字的本事早就超过人类，电脑搜索信息的本事也是早就超过人类，尽管这两个问题在解决的时候都非轻而易举，只是人类如今已经习以为常罢了。谷歌搜索世界上难以计数的网页，定时收集海量信息，在搜索是很快提出有效而且正确率相当高的答案，而且在不完全输入甚至部分错误输入时提供具有不错准确度的猜测，这在计算方法上是一个了不起的突破。那人工智能会战胜人类智能吗？F-35提供了一个有趣的对照。
近日报导，F-35的雷达（实际上应该说是火控系统）时常需要在空中重启，因为F-35的雷达图像不光包括雷达数据，还包括光电和机外数据。换句话说，飞行员不再是看着分别的雷达图像、光电图像、数据链传送过来的态势，然后在脑袋里整合成统一的完整态势，而是有电脑整合出统一态势，然后提供给飞行员。不知道洛马或者诺斯罗普（F-35的APG-81雷达的制造商）比谷歌笨（完全有可能的），还是这确实是难以解决的问题，现在的说法是，若干来源提供互不一致的信息的时候，系统整合就会出问题。系统整合本来就是为不完全一致的信息而设计的，但信息不一致度有一定的极限，包括距离、性质上的差别和一段时间里的累计不一致量（不管是如何定义的）达到一定极限，然后系统就崩溃了。人类也碰到过这样的情况，战场上所谓“战争之雾”指的就是这个。人类对于这样的不定性没有一定之规，否则按部就班、按图索骥就完了，也无所谓不定性了。在这样的情况下，人类常常依靠经验或者更加准确地说：直觉。要是人类碰到APG-81雷达这样的问题，或许会根据直觉无视雷达或者光电或者机外的信息，然后以自认为尚可信任的信息源为基准，重新标定。但到底在什么情况下以什么信息源为基准，并没有一定之规，而是靠直觉或者经验。电脑看来还没有这个直觉。以后电脑会有直觉吗？现在还看不出这个可能。
只要给定规则，电脑善于逻辑推理，假以时日，从已知的范例中推导出未知的新结论都是可能的。但现在还看不出电脑有突变性思维的能力。比如说，项羽的破釜沉舟和韩信的背水一战都是违反兵家常识的，也是战例上没有的，相信电脑是无法做出这样的决策的。人类在拼死相争的时候，经常会出急智；电脑“拼死相争”的话，会出现决策同质化的问题吗？另外，现在也看不到电脑提问题的能力。设问、答疑是智能的关键元素。
关键词(Tags): #科海泛舟， 通宝推：领班军机,用户甲,故乡在喀什,风暴,普鲁托,蓝鸟,桥上,高中三年,盲人摸象,strain2,老陈70,尚儒,梓童,侧翼,未知如之何,家园 关于人工智能的各种悲观和乐观言论都不靠谱 因为用摩尔定律去套人工智能的发展本身就是个谬误。
认知能力的提高的核心是认识水平或者说观测角度，也就是对自身在宇宙中的定位的准确认识。这个自我认识其实是个哲学问题，人工智能再发达也是人造人设的，所以不论其学习能力提高到什么水平，它的认知能力永远不可能跳出人类已知的哲学体系和逻辑范畴。
通宝推：盲人摸象,家园 人工智能的发展或可以比较生命的起源 如果认可主流的生命起源说，那么人工智能自我发展的可能性要远远大得多，一旦机器自我意识产生，人类末日就差不多了。
家园 那人就是神，7天造宇宙和亚当夏娃的犹太人的神 人的根本是超越自己，所以，ＡＩ的问题不是超越人，而是超越ＡＩ，ＡＩ的真正的问题不是挑战人，ＡＩ的真正的问题是挑战ＡＩ
如果ＡＩ不能超越ＡＩ，超越了人也没意义，因为那只是超越一时一地的人，而人超越人
家园 搞的太复杂了！首先，人工智能是人造的工具 说好听的人工智能是人造的智能，只是夸制造人工智能的人们呢
既然夸制造人工智能的人们，说人工智能的时候就别忘了他们
所以，一个简单一点的问题是人工智能超越制造人工智能的人们的智能
家园 但是人和人的哲学体系与逻辑范畴却不平等 试想第一个发明核裂变人的不告诉别人，自己与一帮人关门造原子弹，然后靠这个大杀器奴役别人。这正是二战结束时的情形。
人工智能是人造的不假，但是此人非彼人，人与人之间的哲学体系与逻辑体系也不近相同，那么此人造不出来强AI不代表彼人造出来的AI的智商不会超过此人，世界从此统治在一小撮人手上。
为什么是摩尔定律，因此人类的哲学体系与逻辑范畴现在被电子带领扩展，神经网络如果没有这十年的计算机发展，也得不到长足的进步，但是这个进步却并没有存在于人类的逻辑范畴之内，人类无法解释深度学习是如何成功的。也许许多年后，在大量的AI实践之后，会有理论上的突破，就想人类科学发展史上发生的那样，扩展了人类的哲学体系与逻辑范畴。
对了，人的哲学体系与逻辑范畴也不是止步不前的，有帮研究宇宙的人没事就是发现新的宇宙爆炸，探测到引力波，但是这些让普通人有何乐观或悲观的着力点呢。谷歌那帮人就是类似，本来没别人什么事。但是总有人会跳出来说AI统治地球，这与说恐龙统治地球有什么区别。
通宝推：说几句,家园 还是赵家中西合璧的乔治·奥威尔聪明智慧 人早就是组织人了，根本就没有神马个人
而且，也根本就没有哲学，因为哲学是神学的分支，要知道神马是哲学首先需要知道神马是书，也就是神马是“book”
老中自己没神就以为西方也没神，西方虽然是“all men created equal”，却不是“all books created equal”，因为西方有一本圣经
中国才是“all books created equal”，因此中国才是“all men created equal”
别以为奴役你是什么固定的形式，绳子或铁链子捆着还天天砸石头
也别以为你是天天乱跑还可以辞职找新工作甚至投票选总统就没被奴役，就自由了
因为，奴役本来就是个“度”的概念，别以为死刑犯人就绝对没自由，也别以为绳子或铁链子捆着还天天砸石头就一点自由也没有
所以，用不着试想，自己与一帮人关门造原子弹，然后靠这个大杀器奴役别人，这正是二战结束时到今天的现实情形
通宝推：聂盘,方天化几,家园 什么是书？就是焚书坑儒里的那个书么 这个all “填空” created equal只是一个原则，一种哲学，现实中远远没有达到科学意义上的实现，但是明显的世界文明在向这个方向发展，我们今天知道这句话，就比“王侯将相宁有种乎“有了进步，这个没有人否认吧。
西方现代文明脱胎于其中世纪以前的一神教历史，这个也不能用于否认西方近代到现代的巨变。拿西方中世纪的文明去理解西方文明是不可能解释虎门销烟的。
没有一神教的中华文明就万物平等了？显然这不符合一般人的常识，不夸张的说皇权教在中华文明的地位是不差于西方的上帝教的，从身体到心理，同样奴役着子民。西方的皇上这点上缺了一神教的帮助，是比不上中国皇上的。
如果只是比较西方一神教与中华文明的先进与落后，是对理解现实世界的许多问题帮助不大的，但是人类不同文明的发展过程的同质性还是很大的，这是现代世界人类不同种族肤色语言多数都可以接受彼此的“人”的概念的基础，这不只是政治正确，也是生物学支持的结论。因此，着重比较相异的成分对与竞争博弈有帮助，但是对于联储主席提出的问题关系不大。
主席提出的问题是针对了人通过各种手段超越自己的认识范围的一种可能性，当然这不是指的人类自己的冥思苦想，而是通过造出AI能不能超越自己智力的一个基本问题。
这个问题有意思的地方在于它揭示了人认知方式的一个特点，用河里通用的话讲就是你的屁股决定了你思想的边界。对未知敬畏，则上述可能性就存在；否则，就不存在。当然在未知面前，这个结论本身也可以被当作一种屁股，那么就是循环论证，无穷匮也了。
不过，一神教出身的西方文明在近代与现代证明了，在抛弃了中世纪一神教这个屁股之后，走出了一条让其他文明膛目结舌的路。那么膛目结舌之后，有的人发挥寻找root cause的精神把目光集中在一神教这个历史来源上，希望找到一神教有什么特殊的地方。但是我的看法是一神教也好一皇教也好，都不是原因。原因反而在于人家抛弃了一神教，结果就是对未知的无穷求索，blah，blah。。。
此处略去五百字。。。
一句话，AI能不能超越人的智力，不在于人类目前怀抱的是什么哲学，而在于抛弃了什么哲学。
家园 啥叫科学意义上的实现？ 这个all “填空” created equal只是一个原则，一种哲学，现实中远远没有达到科学意义上的实现，但是明显的世界文明在向这个方向发展，我们今天知道这句话，就比“王侯将相宁有种乎“有了进步，这个没有人否认吧。对你来说all “填空” created equal只是一个文字格式，没法讨论
具体到“书”或“人”就不只是“一个原则，一种哲学”，也不是“现实中远远没有达到科学意义上的实现”
因为，all书created equal在中国就是一个现实，在西方有一本《圣经》书高于别的书也是一个现实
西方现代文明脱胎于其中世纪以前的一神教历史，这个也不能用于否认西方近代到现代的巨变。拿西方中世纪的文明去理解西方文明是不可能解释虎门销烟的。请问，“拿西方中世纪的文明去理解西方文明是不可能解释虎门销烟的”从何而来？
难道理解西方文明就必须解释虎门销烟吗？解释虎门销烟成了理解西方文明的标志吗？
没有一神教的中华文明就万物平等了？显然这不符合一般人的常识，不夸张的说皇权教在中华文明的地位是不差于西方的上帝教的，从身体到心理，同样奴役着子民。西方的皇上这点上缺了一神教的帮助，是比不上中国皇上的。谁说没有一神教的中华文明就万物平等了？
难道有一神教的西方文明就万物平等了？
这种话没意思
如果只是比较西方一神教与中华文明的先进与落后，是对理解现实世界的许多问题帮助不大的，但是人类不同文明的发展过程的同质性还是很大的，这是现代世界人类不同种族肤色语言多数都可以接受彼此的“人”的概念的基础，这不只是政治正确，也是生物学支持的结论。因此，着重比较相异的成分对与竞争博弈有帮助，但是对于联储主席提出的问题关系不大。不知道你是怎么看出来的，我只是说了两个东西，人和书，中国跟西方有所不同，无所谓先进与落后
主席提出的问题是针对了人通过各种手段超越自己的认识范围的一种可能性，当然这不是指的人类自己的冥思苦想，而是通过造出AI能不能超越自己智力的一个基本问题。问题是啥叫“超越自己智力”？是具体的人的智力，还是抽象的人的智力，因为一旦人通过造出AI超越了自己智力，这个事实本身人的智力就已经不再是那个被超越了的智力了
这个问题有意思的地方在于它揭示了人认知方式的一个特点，用河里通用的话讲就是你的屁股决定了你思想的边界。对未知敬畏，则上述可能性就存在；否则，就不存在。当然在未知面前，这个结论本身也可以被当作一种屁股，那么就是循环论证，无穷匮也了。我不知道啥是对未知敬畏，只知道对未知好奇
不过，一神教出身的西方文明在近代与现代证明了，在抛弃了中世纪一神教这个屁股之后，走出了一条让其他文明膛目结舌的路。那么膛目结舌之后，有的人发挥寻找root cause的精神把目光集中在一神教这个历史来源上，希望找到一神教有什么特殊的地方。但是我的看法是一神教也好一皇教也好，都不是原因。原因反而在于人家抛弃了一神教，结果就是对未知的无穷求索，blah，blah。。。不过，西方文明不是一神教出身的，西方文明是多神教出身的，因为，中东处女生亚洲人基督成了西方人的神之前人家早就有自己的神了
此处略去五百字。。。
一句话，AI能不能超越人的智力，不在于人类目前怀抱的是什么哲学，而在于抛弃了什么哲学。AI能不能超越人的智力，在于怎么定义“人的智力”，也就是怎么定义“超越人的智力”
因为，“人的智力”在变化，AI能不能超越茹毛饮血的人的智力？
一句话，造出“超越人的智力”之后的AI的“人的智力”是不是造出“超越人的智力”之前的AI的“人的智力”
家园 举个例子，阿尔法狗的围棋智力前天超过了小李子的 这样定义智力可以吧。
主席上面提出的问题是AI全方位超越人在那个时间点的全方位智力，不是重理轻文，也不是浅AI的围棋啊，汽车啊，语音啊什么，而是此AI眼中的人类与人类眼中的黑猩猩一样，或者你眼中看茹毛饮血的古人类的情形。
智力当然是动态的，速度不同，加速度不同而已，这个不难理解吧。
家园 定义智力是小李子的智力可以吧。 你没回答啥叫“科学意义上的实现”？
这样定义不智力可以吧
主席上面提出的问题是AI全方位超越人在那个时间点的全方位智力，不是重理轻文，也不是浅AI的围棋啊，汽车啊，语音啊什么，而是此AI眼中的人类与人类眼中的黑猩猩一样，或者你眼中看茹毛饮血的古人类的情形。在那个时间点？
那个人的全方位智力？
小李子的吗？
人的全方位智力，包括制造超越小李子的智力AI的智力的那些人的智力吗？
不是重理轻文？
你脑子里都是帽子啊
你趁早说AI超越AI不就得了，比如AI超越制造AI的人的智力
要不然你趁早说AI超越黑猩猩不就得了
我眼中可没有看茹毛饮血的古人类的情形
智力当然是动态的，速度不同，加速度不同而已，这个不难理解吧。啥都是动态的
难理解为什么要说智力当然是动态的
也难理解智力的速度和加速度
智力的速度和加速度怎么算？
家园 文科思维和理科思维 老话题了。但是结合到人工智能的发展，就又有很多内容可以讨论。
理科思维特点就是每一步推理都能找到上一步的根据，每一个结论都能反推出原始的条件。同样的条件，无论何时何地都能得到同样的结论。简单说就是在结论和条件之间有一条清晰的逻辑链。
而文科思维呢？是联想，是跳跃，是共鸣。楼船夜雪瓜洲渡，铁马冰河入梦来。飞流直下三千尺，疑是银河落九天。我做的馅儿饼，是田纳西最好的。
你看，条件和结论之间没有必然联系。但是好的文艺作品，又在条件和结论之间能看到若隐若现，似是而非的联系。听着交响曲《田园》，我们脑海里能浮现出田园景色的绘画和照片。
计算机是理科生的儿子，所以其思维可以说是更快更广的理科思维。现在的人工智能，阿发狗也好，自驾狗也好，在超强的计算和搜索能力上加进了自我学习，自我提高的能力，使今后计算机的能力会有飞跃式的发展。
但是，计算机最后能学会文科思维吗？能从地上爬的逻辑上升的天上飞的联想，乃至幻想吗？
个人认为这不可能。因为制造计算机的理科生都不会联想。偶尔有大牛跳一下，提出一个假说，还要小心求证。
因此，我不担心今后人类会被计算机控制。至少在计算机学会文科思维之前。
担心世界被计算机控制的人里面，是不是文科生的比例更高？可以统计一下。
不明觉厉，细思极恐，然并卵。
重启不灵拔电源
文科式的担忧还要用文科式的表达以及文科式的解决方案。家园 电脑可以有直觉 狗的智能程度已经发展出了直觉。
它是两个算法的混合，一个是贝叶斯网络，一个是蒙特卡洛法。一个倾向于模式的分析，一个倾向于数值的判断。如果通过自学习能够分析出较佳的应手，说明神经网络已经找到围棋在不同形状下的行棋模式，因为神经网络是基于模式识别的。狗就是基于模式识别指导下的最优值取舍。
人的直觉就是不同经验在大脑中的竞争，人做出的任何选择都是先有一个直觉的应对，然后有的因为重要，再加以理性的分析取舍，有的不重要就直接接受直觉选择。所以这个直觉也就是人的应对方式，它是基于当前情境做出的近似判断，也是对经验背后所蕴藏的内在模式的识别。比如一张刀疤脸的出现，会引起警觉，视觉中的刀疤会激活相关记忆，与脸的信息结合起来，形成有关危险的兴奋，这种通路的激活就是一种已经建立起的、对应的模式的唤起。
神经网络可以不知道自己在做什么，但在大量学习后可以建立起到事物背后的模式，我认为这是人脑智能的基本特征。人工智能学习借鉴了这个认知的方式，用普遍的智能形成方式结合海量的学习、海量的记忆、光速的运算，能达到超越人脑的直觉效果，是完全应该的。
通宝推：NoName,