课程定位

同一个模型在不同计算设备上的速度、能耗和稳定性可能不同。比较硬件时，除了理论计算能力，还需要看数据怎样移动、内存能否放下实际输入，以及使用的软件能否调用硬件能力。本专题围绕AI芯片加速与存算一体的课纲方向，把硬件原理与推理场景中的验证问题联系起来。

课程内容与学习重点

先看任务怎样占用运算和内存

用一个图像或文本推理任务梳理输入、模型参数、中间结果和输出，标注哪些阶段需要计算、哪些阶段受数据访问影响。记录工作负载的输入长度、并发方式、精度及硬件利用情况，再讨论慢在数据准备、计算、存储还是输出。以输入较短、请求数较多的情形为例，单次操作和整体处理量都可作为观察指标。学习时可比较同一任务在不同输入条件下的行为，理解评估边界如何影响读数。

理解加速器与存算一体的设计取舍

可以从计算单元、存储层级和数据传输三个方面看加速思路，理解为什么一些方案尝试减少计算与存储之间的数据往返。再讨论不同方案与算子支持、数值精度、软件栈适配和使用范围的关系。遇到一项吞吐或能耗演示，可问清测量范围、实际负载和比对设备，区别芯片级指标与服务端体验。若考虑迁移既有模型，还需了解是否要改模型结构、部署方式或兼容测试。

用可对照的试验核对技术适用范围

以同一种实际任务编制一页试验记录，保留模型版本、输入设置、运行时间、设备和软件条件，分别观察响应速度、处理量、资源占用及输出变化。对数据并不完整的设备案例，可以先列出需要补查的信息，再比较哪些指标已经得到支持。整理阶段性判断时，区分公开资料中的规格、可重现的验证和仍待确认的成本或运维影响。将这些内容沉淀为方案对照表，供产品、研发与采购沟通。

适合人群

适合电子硬件、算法工程、计算平台、AI产品和科技项目人员。可携带公开设备参数或简化的推理任务，事先列出关心的响应、规模或成本约束。硬件基础较少时可先熟悉模型推理、内存和数据传输三个概念，具体先修程度可详询。课前还可以找一份公开的性能图表，区分纵轴、样本和用于比较的参考设备。

开课与报名咨询

单专题开课时间、授课城市、学习时长、费用及参加方式详询。可在页面咨询表填写想了解的方向。

需要自己设计芯片才能听懂吗？专题围绕技术思路与应用判断，可以从已有任务和性能记录理解硬件影响。是否包含更深入的设计练习请确认当期安排。

理论算力高是否代表部署效果更好？需对照真实工作负载、内存、软件适配和输出质量。理论指标可作为比较的一项资料。

温馨提示：课程内容为拟定，具体实际讲授内容由授课老师根据学员情况灵活调整，最终以课堂授课为准。