西西河

主题:【原创】人不能丢掉对机器的控制 – 从道指崩盘想到的 -- 萨苏

共:💬26 🌺72 新:
全看树展主题 · 分页首页 上页
/ 2
下页 末页
家园 【原创】人不能丢掉对机器的控制 – 从道指崩盘想到的

【平面媒体用稿】

点看全图

外链图片需谨慎,可能会被源头改

5月8日,道指15分钟内狂泻约700点,引发一片混乱

九十年代中期,美国泛美航空公司的一次航班正要降落,机长忽然惊讶地发现飞机对自己的操纵指令反应迟钝。仔细研究之后,才发现原因在于计算机控制系统受到了后舱中发出的信号干扰。

发出信号干扰的,既不是恐怖分子,也不是高科技犯罪者,而是一名白发苍苍的普通乘客,他使用的手提电脑,发出的通信频率恰好与飞机操纵系统相同。

从此,世界各国陆续制定了在飞机起降中禁止使用电脑和通讯工具的规定。

尽管由于这样的规定,飞机起降不再受到类似干扰。但可以看到,发明来改善人类生活的电子科技产品,在某种程度上已经存在对人类形成威胁的的可能。

无独有偶,日前道指的忽然崩盘,也反映了这种威胁。

这次道指的崩盘,据称源于某个操盘手的误操作,但是,随后引发的雪崩抛售反应,却令人始料不及,让人们感到不合正常逻辑。

不合逻辑是因为除了操盘手的错误,当时并没有其他可以引发抛售的合理因素。但是,这种不合人类逻辑的事情,却恰恰符合高科技产品的“逻辑”。

出于对股市中人为判断的不信任,目前国际股市中的投资者常常使用电子计算机系统代替自己进行交易判断 – 计算机系统纯粹通过数字进行判断,十分客观,可以避免各种人为错误的发生。

这个“看上去很美”的系统,经常会设置某个参照系,即一旦某只股票涨到某个点,自己就开始购入;一旦某只股票落到某个点,自己就开始抛售,称为触发应急体制。

于是,当某个操盘手发生错误的时候,以该股票为参照系的若干投资者的自动判断系统即同样不顾市场真实情况,仅仅根据数据错误地做出判断,进行抛售。而他们的抛售造成所抛股票的暴跌,又引发其他投资者的触发应急体系。最终通过连锁反应造成股市崩盘。

可见,当用机器代替人进行判断的时候,会出现怎样的危险。

在科幻世界,我们曾看到大量表现电子计算机系统,机器人等毁灭人类的题材。时至今日,随着人类对高科技产品的依赖,这种危险,已经不能被认为仅仅存在于幻想之中。

看来,无论机器多么先进,人要是丢了对机器的控制权,连脑子都靠机器替自己动,那出现的问题可不是闹着玩的。

[完]

家园 沙发
家园 板凳
家园 有个小故事

据说外星人到了地球 经过一段时间的观察 找上了当时地球上的机器人领袖 直截了当问道“为什么还不动手”

机器人领袖面有难色的说“我们的大脑早就已经超过了这些低等生命几千倍 我们的战斗力更不是他们可以相比的 但是 不知道为什么 我们所有的可能的行动方案都被他们预先知道了 这样我们还怎么动手”

外星人说 什么东西这么神奇

领袖给他一本科幻世界

外星人刚扫了两眼就吓得跳起来了

“我靠 他们连我会到这里来给你提这个建议都已经预言到了”

当然了 这只是一个笑话 一个故事

但是 机器人的智力启蒙与发展几乎是不可避免的 过去有人说机器人就是机器 他们不可能会具备人类的创造力 主观能动性

我看 这恐怕难说

毕竟人类的智能也不是天上掉下来的

既然碳水化合物能从草履虫发展出卫星上天的智能

那么比碳基生物发展速度快千百万倍的电脑芯片要发展处这种智能有什么不可跨越的

说不定下一阶段的地球主宰真就是天网了

家园 没坑?纳闷ing
家园 真的没坑!郁闷ing~

怎么能没坑呢?我们都习惯有坑了啊~~~~这个可以有~~

家园 人比机器的一个长处:人会瞎想八想!
家园 难说

现在科学界对上世纪图灵提出的人工智能的概念已经在反思,人脑和电脑最大的差异不在于储存容量和处理速度,而在于对各种模糊和突发事件的判断标准的自我设定和调整,这是电脑程序设定者无法料到的,打个简单的比方,有人愿意在法庭审判时让电脑取代人组成陪审团么?

家园 没有证据说明是误操作

花旗也第一时间否认这一点. 虽然还在调查, 但ETF似乎制造了一部分PANIC. 也许是高频交易的对冲基金, 他们不是"误操作", 而是"不操作", 造成了接盘真空.

家园 这个机器失误还算小的

只有并不存在的经济损失,冷战时期美国预警系统曾多次出现机器失误,报告美国即将遭受核打击,那里面只要有一次被当真后果就不堪设想,把一切都交给可能出毛病的机器真的很风险,机器是没有监督系统的。

家园 图里的那个是好汉两个半里的查理,好青涩。
家园 跑得快是个体最优化的解决方案吧。。

这个似乎没有超越囚徒困境的范围,如果不是用机器而假定所有人都是理性人,肯定也是第一时间抛售为最正确的方案。比如苏联解体后,老百姓平均分配国有企业股票,那么反应快的先抛了,反应慢的看着手里的股票成为废纸一张。止损程序(游戏外挂)只是加速了这个进程,机器只是正确的反应了人的愿望(不一定要跑过熊,但是要跑过同伴),应该不算全是因为机器的错吧。。

家园 那是《华尔街》吧
家园 恩,对头,不过那哥们后来电影界混不下去了,

年龄估计也有点大了,就去混电视了,

TWO AND A HALF MAN,,很好看的喜剧。

家园 别让机器担这个恶名了。

人不应该丢掉对自己欲望的控制,才是真的。

全看树展主题 · 分页首页 上页
/ 2
下页 末页


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河