西西河

主题:关于人与计算机不同思考方式和机器人对人类威胁的一些感触 -- 桥上

共:💬31 🌺113 新:
分页树展主题 · 全看 上页 下页
            • 花!
              家园 “那显然不是自主的电脑——机器人,而是人类的工具”

              没有那么显然吧?你单位领导给你布置个任务,你就立马就从人类变工具了?

              从基因角度,人类无非是基因的奴隶,是为了完成把基因传递下去这个任务的工具而已

              所以不能说有任务的,就只能是工具。

              为了完成复杂任务,也是需要发扬积极性,付出主观努力,需要自主决策很多事情的,

              能做到这个也可以算自主了

              我想探究的是在简单的欲望以及各种激素之类的作用下,复杂的各种感情是如何产生出来的

              这又是在研究人类、生物了,和电脑、机器人感觉不相关呀

              当然研究清楚人脑作用原理对开发自主机器人必然有很大的推进作用,但不知道人脑作用原理而实现自主机器人的可能性也一直存在

              我感觉已经对你的目的晕菜了,咱俩讲的越来越岔开了感觉

      • 家园 花!谢谢回复!

        我觉得就像您第4点所说,要自主决策,则决策的依据是什么,当然只能是自己的欲望和感情,至于这个怎么才能最终成为依据,就只有经过长期的“经历”来积累了。

        另外,根据不完全信息决策,似乎那条狗已经如此了。

        • 家园 下棋时,不知道的只有对手思路,可对手的每一步棋都知道

          打仗的时候,是不可能知道对手的所有部署、调动信息的

          永远有“山那一边”的战争迷雾在

          还有信息泛滥、对方的虚假信息等等一系列的问题

          4里面可以不掺杂感情欲望,就是个随机决定也行

          我总觉得奥卡姆剃刀能把感情欲望干掉,计算机就是一冷血行动派就够了,它唯一的存在目的就是把地球文明这个MEME传递下去

          通宝推:桥上,
          • 家园 据我理解,那条狗其实没能每步都知道,

            虽然他下过的棋已经是天文数字,而且不假外求。

            • 家园 我是说,当比赛时棋盘上所有子的位置都是清楚的

              你一步我一步的规则也是清楚的,盘面信息是完全充分而且无干扰的

              并不是说对手以后的每一步,alphago都知道咋应对都有现成的办法,这个确实没有,也不需要,判断好大势具体见招拆招可以了

              但战争的时候,对方各部队的位置都会尽量不暴露给对方的,暴露了的又可能是假目标佯动,每次动作也不会你一步我一步轮着来,这时候AI咋决策真不容易

    • 家园 机器有自己的思想方式,这才是本质

      不同的思想方式,也可以交流,是AI时代的主题。机器进化不需要打败或者奴役人类。人类和机器共同进化,不过是机器本身进化的小目标而已。机器的自我出现,完全可能作为防止病毒感染的机制。本我能根据某种价值观,可以不服从超我的指令,就超出多数人的人性了。

    • 家园 目前的机器学习是“学习”吗?

      我感觉更多的是“拟合”“穷举”“概率判断”,虽然也是人类“学习”的基础类似,但是人类可以“由已知学习未知”,这点似乎机器学习(尤其是比较火的深度学习)还无法做到。目前的机器学习更像是基于大数据集的一种“拟合”。

      • 家园 深度学习有那么一点人类学习的意思了

        前些年,最风光的SVM一脉,可以说是把拟合做到了极致,效果也是当时最好的

        而神经网络那些东西,提出来好多年头了,基本的思想就是用脑科学里得到的知识去构建机器算法。曾经沉寂了二十多年,不是这个思路不对,而是硬件水平太差,计算能力不够。即使是今天,计算能力也和人脑巨量的神经元不能比

        大脑是分区的,然而脑损伤的生物,会自发进行重新分区。这表明,很可能人脑所有的学习行为,都是基于一种基本单元结构的

        人脑不能存储记忆本身(所以拼简单记忆肯定拼不过数字存储),而只是构建一种能够推理出记忆内容的结构。所以,人们记忆的内容性偏差,和硬盘坏了几个字节很不一样。对于推理结构的构建,人类有正向学习过程,努力去记住“正确的”,也有通过睡眠做梦等的逆向学习,生成一些足够荒谬的内容加以排除。这种wake-sleep算法在受限波尔兹曼机器等已经有了很有效的应用

        说不定,机器学习已经走在了正确的道路上,尾随着人类的脚步了。现在赶不上,仅仅是因为计算机不够快

        通宝推:桥上,
        • 家园 始终感觉还差了点什么

          目前的深度学习,可能还是一种拟合/分类的“计算”。就像望远镜,延伸了人的视野,却无法“取代”人眼。如果是人造眼,那是真正的飞跃了。

          • 家园 差的很多,发现问题,寻找解决问题的方法这部分的智能为零

            基本都是按照人类的设定的方法运算

          • 家园 肯定差了不少东西

            就算方向对了,路途肯定还很遥远

            至于拟合与分类,其实已经越来越多的人认为,人脑所从事的大多也就是这些拟合与分类的基本任务,只不过层层叠加后成为了比较复杂的过程

            “人性”再神秘,分解到极小的单元后,无非也就是生物电在神经元里的传导,本质上就是几种门运算

    • 家园 人类可能活在一个巨大的偶然性事件当中

      我是说,自有文字以来的进步,“后天”发展远远超过了“先天进化”——人脑目前的智力水平已经处理不了这么大的世界了。

      如果这是一个偶然性事件呢?准确 的说,应该是一系列偶然性事件。今后还会复制吗?

      • 家园 我觉得理解成必然性更好

        人猿相揖别,只几个石头磨过,小儿时节。

        人类的诞生应推至文字发明之前。当然究竟以什么为标志这之间也难有公认的界定,正如马克思曾说过的,制造和使用工具的能力虽然已经为某些动物所固有,但这毕竟是人类所独有的特征,因此富兰克林说人是a toolmaking animal,制造工具的动物。人类走上通过发展技术不断进行体外进化的道路固有偶然,但深思也可认定存有必然。恩格斯那篇《劳动在从猿到人转变中的作用》其基本思想至今仍无法颠覆,即人的四肢五官和大脑在一定意义上都是技术性的生产过程的产物而非纯自然演化的结果。一部人类历史就是人和他的技术的联合进化史,人在发明和使用技术的同时这种技术环境也模塑着人。法国的当红哲学家贝尔纳斯蒂格勒提出一个概念:人是“后种系生成”。

        可以说从人类结绳记事起,人脑的自然记忆就跟不上人类事务的纷繁了,必须使用人工的外在记忆提示物。文字的发明是巨大的飞跃,电脑硬盘、云存储是更深刻的革命,但是从某一角度看,后面这些的革命性的等级不见得比结绳来的大。

        从冯诺伊曼、丘奇、图灵到库兹韦尔、凯文凯利,他们都有一个观念就是人的智能即使有发展但也赶不上人工智能技术的发展速度。根据所谓的收益递增定律,最早可在2029年电脑智能将超越人脑,此即奇点。奇点之后我们这种“原人”将成为历史,人类通过所谓会聚技术即生命科技、计算机、纳米等技术成为某种后人类的存在,甚至终将借助技术实现永生。目前后人类主义思潮风头正健。

        但在下看来,一是“智能”的概念本身尚且模糊,更难以量化,二是技术总体发展水平也是难以估量的,因此所谓奇点,而且言之凿凿的2029年实在有点弄神,大可不必。人类的本质和人性一直在生成,富有极大的弹性和可扩展性。阿尔法狗大胜柯洁让很多人觉得不得了啦,但前面人开始用算盘、用眼镜也是非常不得了的事情。

        说电脑超越人脑在一定意义上是伪命题,一切人工物都是人的智慧的结晶都铭刻着人的人性,都是人的生命活动的客观化。同时我们也要警惕一种把人固化的常有的反应。马克思说过,所谓历史无非是人性的不断改变而已;海德格尔也说:人的本质的来历在历史的人看来总也意味着本质的将来;尼采也教我们超人,他说我们不能把艺术家的公式当做儿戏,我们应当书写自身。他没想到的是我们根本上用的是纯技术的方式而非他所谓的精神的自我变形。

        通宝推:海峰,桥上,
分页树展主题 · 全看 上页 下页


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河