西西河

主题:【脑洞】由恩格斯的几段话而产生的联想 -- AleaJactaEst

共:💬57 🌺112 🌵1 新:
全看分页树展 · 主题 跟帖
家园 2个问题需要你自己再思考一下:

第1个问题:一个复杂系统的构成越庞大,参与人员越多,就表明这个系统的专业性就越强,分工细化就越精细,个体在里面就只是一个螺丝钉,试图瓦解摧毁系统,没有一个有组织性、纪律性的“团体”主导,居中指控运筹,是不可能的。这可以理解为常说的”系统性风险“,原有的控制系统(与政治体制同义)失灵,新兴系统侵蚀原有系统。

其实,这也是“保密”工作的理论基石,分工而分而治之。从古至今,所有情报保密,大型工程保密,几乎都是用这个最基本的手段进行控制 。比如皇帝陵寝工程施工就是通过将整体工程分散发包实现整体工程的保密,而掌握工程总图的人却只有极少数几个人,人一少,控制和监视就变得简单。三峡工程和中国核武器工程也是这么个搞法。河里关于核武器的宣传文中,经常的案例,很多夫妻近在百里却互相不知道对方工作就是这么回事。

可能你会说,这些技术骨干会联盟成一个你说的那种”团体“。但问题在于3点:一,一旦形成这么个团体,这个团体就具有了利益诉求,既然有利益诉求,就一定是在政治中而不是在技术中去寻找解决方案。同样,既然是因为共同的利益诉求组成了团体,起主导的就是利益需要,AI技术就只能是手中打人的工具而服务于人,一旦共同的利益需要不再,团体就会分化重组。这里面,起决定作用的就是人心,人性——自私、贪婪。二,这种团体的形成需要时间,需要具有政治才干的英雄,需要有共同的利益基础,这些东西都不是技术所能解决的,而一定是利益和现实社会的政治经济问题才能孕育出来的。三,这种团体(已经是政治性团体,而不是技术性联盟了)的形成不可能无声无息,会受到当局的严密监视。

第2个问题,AI的理论基础是图灵机。忙总的《外行瞎扯人工智能》一文有介绍。这篇文章带有很强的哲学思辨色彩,要费点劲去读。

摘要一些观点:

在图灵测试中,图灵有一个非常强的假设或先决条件:测试者(询问者)必须是人,或者说只有人才能以测试者的身份,来判断一个被测试者是计算机还是人。

这个先决条件本质是什么呢?显然就是:人的智能要高于计算机,因为人至少会一样计算机不会的事情:测试一台计算机的智能。

所以图灵在测试之前实际上已经假定:人的智能永远高于计算机,如果测试结果是:人的智能与计算机相同或人的智能低于计算机,那么结论与前提就会矛盾,就出现悖论,但是如果结论是:人的智能高于计算机,,那就只前提的重复,而毫无价值,因为这是我们测试的假设,这种测试就没有意义。

所以,用图灵测试就会得到矛盾,也即图灵测试无法判断人的智能高于计算机或者低于计算机,计算机不可能像人一样思考或者能够想人一样思考,计算机不可能具有人的智能或者有人的智能。

所以图灵机(现代计算机)建立在假设计算机是没有能力判断计算机或者人有没有智能的,所以必须依赖人来判断自己有没有智能,否则计算机就没有智能。

所以计算机的智能只能来自于测试者也就是人的判断。也就是现代所有基于图灵机结构的计算机,必须经过人的测试才能具有智能,这个命题等价于:

所有智能计算机都离不开人,因为它们必须由人来判断它们的智能。

再推广一下:计算机必须经常性地由人来判断智能。一旦脱离人的判断范围,计算机就将丧失智能。人说它有它就有,说它没有它就没有。

所以人类掌握了最后判断计算机有没有智能的能力,所以只要是基于图灵机结构的计算机,不管性能多么超级,都只是人的工具,不存在超越人类的可能。

所以人于计算机的本质区别是:人具有判断智能的能力,一个人不需要由另外一个人或计算机判断自己有无智能,他自己就能做。计算机则必须依靠人来判断。

……

这也就说目前不存在我们常识理解的人工智能。

当然,可能未来会有超越图灵理论的“人工智能”理论基础的出现,但现在不是还没出现嘛。

并且,以常人观点,现在所有人工智能都是建立在严格的逻辑推理基础之上的,但人脑智能和人类社会,并不完全受逻辑推理支配,这是人与机器的最大区别。

全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河