翻到一个空白页,先捡要点把之前听到的技术局限和适配人工智能体的优势记下来,又另起一页。
稍稍回忆了下刚听到的内容,记录下通信链路带宽瓶颈和后面的解释。
凭记忆写完后,抬头看曲卓。
“第二。”曲卓继续:“单芯片本地内存只有2Kb,做科学计算够用,但对人工智能体要加载的庞大数据来说,太小了。
如果加外置内存,每一次读取大容量知识库,都需要通过串行链路向外存取,会加重我刚才说的通讯链路带宽压力,进一步推高延迟。”
稍稍给了邓副局长一些记录的时间,曲卓继续说:“第三,也是我之前提到的,时钟异步的问题。
大规模集群中,不存在全局统一时钟。当多节点需要同步协作推演时,必须额外增加同步握手协议,这会占用,并持续消耗带宽。
第四,动态负载均衡很难。AI智能体推理任务的负载极不稳定,有的分支快速收敛,有的分支持续深度推演。
超立方体构架缺少全局调度单元,容易出现一部分芯片满载、一部分闲置,导致算力利用率波动巨大。
简单的说,就是……空有很高的算力。但在实际使用中,资源无法被高效利用。一千多颗处理器忙的忙死,闲的闲死。
而这种负载不均衡的情况,又会加重温度变化和电压波动。时钟抖动的情况进一步加剧,协作推演时效率更低,带宽消耗更大,还加重网络堵塞。”
邓副局长边记录边消化,虽然对具体原理依旧不甚明了,但通过文字的纸面含义能看出来,四个点劣势不是孤立存在的,而是相互关联相互叠加……
喜欢1976步步生莲请大家收藏:(m.xtyxsw.org)1976步步生莲天悦小说网更新速度全网最快。