西西河

主题:【原创】我的chatGPT的使用体验 -- Swell

共:💬285 🌺1767 🌵12 新:
全看分页树展 · 主题 跟帖
家园 感觉你说冯诺依曼架构和哈弗架构的区别可能有点让人误解

冯诺依曼结构和哈佛结构区别是,

冯诺依曼结构是一种将程序指令存储器和数据存储器合并在一起的存储器结构,其数据总线和指令线是共用的,为了区分采用分时复用技术。优点是指令丰富,功能较强,但取指令和取数据不能同时进行,指令运行速度受到限制。

哈佛结构使用两个独立的存储器模块,分别存储指令和数据,每个存储模块都不允许指令和数据并存,使用独立的两条总线,分别作为CPU与每个存储器之间的专用通信路径。优点是:取指令和取数据可以同时进行。

也正是冯诺依曼结构这种特点,使得如今冯诺依曼结构在AI处理大数据时候,容易发生“"冯-诺依曼瓶颈 ",例如CPU从工作存储器中读取指令,然后向加速器发送一个复杂的功能操作。为了 "发送 "该功能,主机CPU必须读取要操作的数据并将其发送到加速器卡。现在,一个基于冯-诺依曼的加速系统至少要发生两组数据移动,如果操作CPU必须从工作存储器中获取数据,则可能要发生三组数据移动。

所以新的AI采用GPU/CPU协同就是一种突破这种架构的尝试,CPU发送数据位置给GPU,而GPU的EU执行单元直接在本地自己的内存上进行处理,完成后通知CPU。

通宝推:铁手,桥上,葡萄,唐家山,
全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河