西西河

主题:【原创】人工智能的突破临界点 -- 达萨

共:💬239 🌺1128 🌵1 新:
全看分页树展 · 主题 跟帖
家园 咳咳,三大问题也可以归为一大问号

就是智能有没有能力造出比自己更聪明的智能。这是著名的智能拐点论的含义。

虽然人的智商在提高(如果把智商定义为知识与技能的话),其实一些动物的智商也在提高,只不过非常缓慢,从人的观察很难发现罢了,比如猩猩乌鸦等在人类的教育下学习提高。但是人的智商提高速度与上限还是觉察的,毕竟爱因斯坦那样的不是整天有。但是如果人的寿命提高十倍,显然人的智商也会跟着提高,老人睿智(老年痴呆之前)以及世界团队领袖的层级与年龄成正比都是证明。

因此,这个智能的定义也可以用通过学习提高智商的能力(速度与上升空间)来解释。一个解释是如果人工智能可以生存(机器当然没有生物的生老病死)远远超越人的生物寿命,只要学习能力与人可以相提并论,超越人的智商是个时间问题。目前的问题是,机器还不具备可以与人相提并论的学习能力,以及提及的情感能力。

这里也带出一个人类对智能了解甚少的问题,情感能力在人类的智商里起什么作用,甚至广义的说情感在智能上有什么关系,我个人的看法是人的自我意识尤其生物的生存是进化出情感的主要原因。说白了,智能只是工具,情感才是保证了人类这种具备智能的生物,在生存竞争中进化的主要能力。比如,我想要什么,我要做什么,我得到什么,这些才是智能的真正三大问题。而这些基本上都是情感的产物。

换句话说,情感不是智能,而是动物原始的通过生存竞争发展出来的条件反射一样的简单回路,在发展出智能之后的进化出来的。比如,人的情绪就可能受自己的想象影响,这是许多精神类疾病的主要因素。

从这个角度出发,我更倾向于一个没有情感能力的人工智能,这样的智能才可能真正成为人类的工具,而不是会向你提出你提到那个三大问题的“人造机器人”。从商业化出发,当然人在面对一个具备情感(好的情感)能力的智能时更容易接受,而不是一个冷冰冰的高度智慧机器那种不安全感,但那是人自己的问题,就是说人自己的情感导致了对一切智能都同时应该具备情感能力的要求。但是从伦理角度看,人工智能不具备情感才是人类的福祉。人类世界的许多问题其实都是智能兼具了情感之后才产生出来的,因为你无法在造出智能的基础上只造出好的情感而不同时产生坏的情感,比如智能低下的狗狗我们可以训练其只表现好的情感(对人类而言),但是与人相同或更高的智能,人类就不可能再去控制了。

另一个解释就是智能拐点,即智能具备改进自己的能力。这个从广义上来说人类也是如此,办教育,优生,嫁宝马,这些其实都是人类从自然进化演变过来的进化本能。那么就是说,拐点的意思就是智能具备了自我进化的能力。

注意智能进化包含了两部分,而不是单纯的基因重组那样的生物体才进化,因为智能同时具备学习能力,所以拐点的重点是类似“基因重组”那样的自我体才的改进,而不是单纯的通过学习来提高智商。

全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河