5.2 模型设计与分析问题 3 的建模基于问题 1 生成的调度序列和问题 2 生成的缓存分配方案包括地址偏 移和 Spill 操作列表最终输出是一个优化后的调度方案该方案需在以下多目标约束下寻求平衡1主要目标最小化总执行时间即所有节点完成执行的时间点。2约束条件总额外数据搬运量不能显著增加。这里的“不显著”通常意味着搬运 量的增长应控制在合理阈值内以避免能效退化。3可选目标对执行时间和数据搬运量进行联合优化寻找最优解。对此本文所构建的性能优化模型会在问题 1 与问题 2 的基础上进一步实现了调度 方案的综合效能提升优化策略构建于前期已生成的调度序列与缓存分配方案之上不进 行耗时的迭代搜索或重复计算降低优化过程的计算开销满足实际部署中对响应速度的 要求增强方法的工程实用性。在优化过程不依赖于特定算子的计算结构或领域知识而 是完全基于 DAG 的通用属性进行决策使其能够对于未在训练集中出现的未知算子类型也具备良好的泛化能力。在本问题中摒弃了黑箱式启发式算法或者元启发式算法而是对于每一步优化决策 均有明确的逻辑依据和可追溯的推理链条使得方法具有更好的可分析性同时通过系统 性的实验设计与完备的评估流程平衡“总执行时间”与“总额外数据搬运量”这两个核 心竞争指标增强模型在复杂约束下进行多目标决策的科学性与鲁棒性。但需要注意的是这样的调优策略模型也会一定程度上导致解空间探索不足、缺乏自 适应性等局限性具体的模型评价分析和相应的改进方向在第6章给出了详细的讨论与陈述。5.3 实验分析针对问题 3本文旨在实现总执行时间与总额外数据搬运量两项关键指标的联合优化。 由于前两问的优化目标集中于降低数据搬运开销未充分考量指令级并行性所生成的调 度方案在总执行时间方面往往表现不佳。为减少数据搬运调度策略倾向于将同一缓冲区 的相关操作集中排列直至其被释放该方式虽有利于数据局部性却限制了不同硬件单 元间的并行执行机会进而导致计算资源利用率下降和执行时间延长。反之若单纯以缩短执行时间为目标调度序列将更积极地挖掘硬件并行能力但可 能因此增大瞬时缓存压力致使多个缓冲区的生命周期重叠程度升高。当总缓存需求超出 硬件容量时将引发更多的 Spill 操作不仅增加额外数据搬运量其自身执行也进一步带来时间开销。值得注意的是两项指标之间并非简单的权衡关系在某些情况下通过优化数据复 用与流水排布有可能在减少数据搬运的同时降低总执行时间。为实现有效的多目标优化 本文综合采用了调度顺序调整、缓存分配策略细化以及 Spill 操作智能触发等一系列方法 系统探索不同策略对性能指标的影响机制以期在控制数据搬运成本的基础上显著提升执行效率。在优化调度序列的过程中本文通过为节点时间跨度 cp、依赖的缓冲区大小关系 delta 和 L0 节点分配优先度 isallocL0 等影响调度顺序的因素赋予不同权重以调节总额外数据 搬运量与总执行时间之间的权衡关系并据此搜索满足多目标需求的权重配置。总执行时 间随权重变化的计算结果如图8所示。实验结果表明当 cp 设置较高而 delta 设置较低时总执行时间普遍呈现下降趋势。 然而在进一步分析中可以发现总执行时间与 L0 节点分配权重 isallocL0 之间存在与算 子结构相关的交互影响。以 FlashAttention 和 Matmul 类算子为例当 cp 权重过高时总执 行时间不降反升。根据这样的结果本文推测其原因为过低的 delta 权重削弱了缓存占 用的控制能力导致调度过程中缓存驻留压力增大进而引入更多 Spill 操作节点。这些额 外操作反而抵消了并行性所带来的时间收益造成总执行时间的增加。同时为满足赛题要求在尽可能减少总执行时间的同时不显著增加数据搬运量本文进一步分析了卷积类算子在不同参数配置下两项指标的变化关系。如表5所示对于 Conv Case0 数据集当 cp 权重设为 0.9、delta 权重设为 0.1 时总额外数据搬运量处于较低水 平而在该基础上适当调整参数可在搬运量未显著上升的前提下进一步降低总执行时间。 对于 Conv Case1 数据集当 cp 与 delta 权重均设为 0.5 时搬运量较低随后逐步提升 cp 权 重总执行时间明显缩短而搬运量仅小幅增加体现出良好的权衡特性。遗憾的是受时间所限未能进行更细粒度的参数搜索以确定使得两项指标同时达到更优平衡的配置。如图9 所示本文所提调度算法在处理 Matmul Case0 时生成的时序流水图呈现出更为 紧凑的指令排布反映出各硬件单元之间的空闲时间显著减少从而有效降低了总执行时 间。
