术语表：Kernel Agent 词汇速查
本页按主题收录 Kernel Agent 学习中最常遇到的术语。英文列保留社区常用写法，解释只给理解所需的最小信息；需要展开的内容请点进相关章节。术语的适用条件随上游项目演进，遇到版本相关的能力时以官方文档为准。
Agent 与流程
Section titled “Agent 与流程”| 术语 | 英文 | 解释 | 相关章节链接 |
|---|---|---|---|
| 智能体 | Agent | 能读取任务、调用工具、根据反馈迭代的 LLM 程序，不等同于单次问答。 | Agent 与 harness |
| 运行框架 | harness | 包住 Agent 的任务规格、工具、循环、验证、记录与预算系统。 | 自建 harness |
| 上下文 | context | 模型一次调用中可见的 token 集合，包括指令、对话、文件与工具输出。 | Agent 与 harness |
| 会话 | session | 一段连续的交互及其状态；新会话默认不继承旧会话的对话。 | Humanize |
| 计划 | plan | 对目标、步骤、风险与验证方式的书面安排，是可 review 的中间产物。 | Agent 与 harness |
| 草稿 | draft | 实现前的低成本探索文档：baseline、风险、候选方向与验证命令，允许被推翻。 | Agent 与 harness |
| 验收标准 | acceptance criteria | 任务开始前约定的、可检验的通过条件，通常包含命令、阈值与容差。 | Agent 与 harness |
| 基线 | baseline | 用于对比的参照实现；必须固定，不能在迭代中被悄悄替换。 | GPU kernel 与性能 |
| 加速比 | speedup | 基线耗时除以候选耗时，或吞吐之比；报告时必须说明基线与测量条件。 | GPU kernel 与性能 |
| 编码者 | coder | KDA 中负责读代码、改 kernel、编译与测试的角色，默认由 Claude 承担。 | KDA |
| 构建者 | builder | 循环中负责产出计划与代码的一方；Humanize 1 默认使用 Claude Code，Humanize 2 可换任意受支持的 CLI。 | Humanize |
| 审查者 | reviewer | 在独立上下文中判断证据是否支持完成的一方；只有它可以宣布完成。 | Humanize |
| 验证者 | verifier | 对照验收标准复核证据的角色；在 KDA 中通常由 Codex 承担。 | KDA |
| 计划合同 | plan contract | 开工前固定目标、验收标准、路径边界与分工，并用两道理解度选择题确认人已看懂计划的协议。 | Humanize |
| 判断工程 | judgement engineering | 设计谁来判断、看什么证据、何时停止的工程方法；核心是写/判分离，而非改 prompt。 | Humanize |
| 外部判定 | oracle | 独立于 builder 的判定来源，如人工、隐藏测试或更强参考实现。 | Humanize |
| 复盘 | postmortem | 对一次失败或成功循环的结构化回顾，记录原因、证据与改法。 | Humanize |
| 消融 | ablation | 逐一移除组件以测量其贡献的实验方法，如 RLCR、KernelWiki、profiling skill 的叠加。 | Humanize |
| 验收加固 | acceptance gauntlet | 多层强制验收：隐藏输入、逐元素容差、压力探针、真实 trace，用来堵住 reward hacking。 | KDA |
| 里程碑 | milestone | 通往某个算子的优化路径结构：哪些决策重要、什么顺序、什么触发什么；只给决策与参数，不含参考实现的实现体。 | ForgeKernel |
| 元里程碑 | meta-milestone | 把算子蒸馏成里程碑的策略本身；跨算子复用，是 teacher 提示词的依据。 | ForgeKernel |
| 架构先定 | architecture-first | 把最容易写错、最难改的结构性决策（切分、tile、warp 角色、寄存器与共享内存预算、编排）全部放进第一个里程碑并冻结的课程设计原则。 | ForgeKernel |
| 算子树 | operator tree / card | ForgeKernel 中每个算子一份的独立 git 仓库：学生改 kernel，teacher 写 milestone，harness 放入 eval、计时入口与合同。 | 工程解剖 |
| 运行快照 | run snapshot | 启动时复制任务并记录摘要，之后所有步骤只读快照；一次 run 因此不能改问题。 | 工程解剖 |
| 合同 | contract | 把必须成立的条件写成机器可检查的形状：里程碑五元组、judge 三文件、计时窗口、交付记录块。 | 工程解剖 |
| 宽松回滚 | relaxed revert | 只有正确性失败才回滚；性能回退可以保留，作为后续决策的脚手架。 | 工程解剖 |
| 补丁事务 | patch transaction | 外层补丁先快照，再按前后指标归因，KEEP / REVERT / HOLD；无收益则回滚并记入死路表。 | 工程解剖 |
| 计时窗口 | timing window | 同一次评估里的 e2e 与 device 两套读数；同作业镜像配对，避免温差与 host 成本污染比值。 | 工程解剖 |
GPU 与性能
Section titled “GPU 与性能”| 术语 | 英文 | 解释 | 相关章节链接 |
|---|---|---|---|
| 核函数 | kernel | 在 GPU 上由大量线程并行执行的函数，是算子实现的核心单位。 | GPU kernel 与性能 |
| 启动 | launch | 主机端以 grid、block、共享内存等参数发起一次 kernel 执行。 | GPU kernel 与性能 |
| 网格与线程块 | grid and block | CUDA 的两级线程组织方式；grid 由 block 组成，block 内线程可共享共享内存。 | GPU kernel 与性能 |
| 存储层级 | memory hierarchy | 寄存器、共享内存、L1/L2 缓存与 HBM 组成的多级存储，容量与延迟逐级变化。 | GPU kernel 与性能 |
| 占用率 | occupancy | 每个 SM 上活跃 warp 数相对上限的比例；高占用不必然代表高性能。 | GPU kernel 与性能 |
| 尾效应 | tail effect | 最后一波 block 数量不足导致部分 SM 空转，拉长总耗时。 | GPU kernel 与性能 |
| 停顿 | stall | warp 因等待内存、屏障、指令依赖等无法发射指令的状态。 | GPU kernel 与性能 |
| 寄存器压力 | register pressure | 每线程寄存器用量过高导致可驻留 warp 减少，进而限制占用率。 | GPU kernel 与性能 |
| 张量核心 | tensor core | GPU 上执行矩阵乘加的高吞吐单元，需要匹配的布局与数据类型。 | GPU kernel 与性能 |
| 屋顶线模型 | roofline | 用峰值算力与峰值带宽刻画性能上界的模型，区分计算受限与访存受限。 | GPU kernel 与性能 |
| 算术强度 | arithmetic intensity | 每字节访存对应的浮点运算数，决定 kernel 更接近哪条屋顶线。 | GPU kernel 与性能 |
| 预填充 | prefill | 推理中一次性处理提示词的阶段，通常计算密集、并行度高。 | GPU kernel 与性能 |
| 解码 | decode | 推理中逐 token 生成的阶段，通常受显存带宽与延迟约束。 | GPU kernel 与性能 |
| 键值缓存 | KV cache | 缓存历史 token 的 key 与 value，避免 decode 阶段重复计算。 | GPU kernel 与性能 |
| 算子融合 | fusion | 把多个算子合并成一个 kernel 以减少访存与启动开销；成立依赖 dtype、shape 与布局。 | GPU kernel 与性能 |
| 数据类型 | dtype | 张量元素的数值类型，如 FP32、BF16、FP16、FP8；影响精度、带宽与指令选择。 | GPU kernel 与性能 |
| 形状 | shape | 张量各维的长度；决定 tiling、并行度与边界处理方式。 | GPU kernel 与性能 |
| 合并访问 | coalescing | 一个 warp 的多个线程访问连续地址，硬件把它合并为少量内存事务。 | GPU kernel 与性能 |
| 波次 | waves per SM | 一次 launch 能把多少「波」block 填满全部 SM；小于 1 说明并行度不足。 | GPU kernel 与性能 |
| 矩阵乘指令 | MMA | 走张量核心的矩阵乘累加指令，对数据布局与 dtype 有硬性要求。 | GPU kernel 与性能 |
| 向量矩阵乘 | GEMV | 矩阵乘向量；decode 阶段形状退化为 GEMV，因而常受带宽限制。 | GPU kernel 与性能 |
| 变长序列 | varlen | 一个 batch 内各条序列长度不同，需要按偏移量分派；也是投机优化常写死的地方。 | KDA |
| 性能分析器 | ncu | NVIDIA Nsight Compute，用于采集 kernel 级指标与时间线的 profiling 工具。 | GPU kernel 与性能 |
| 当前最优 | SOTA | state of the art，特定任务与条件下公开已知的最好结果。 | KDA |
项目、协议与生态
Section titled “项目、协议与生态”| 术语 | 英文 | 解释 | 相关章节链接 |
|---|---|---|---|
| Kernel Design Agents | KDA | NVIDIA 与 MIT HAN Lab 相关团队开源的 Agent 写 CUDA kernel 工作流，含 Coder、Verifier 与两个 skill；团队隶属以官方为准。 | KDA |
| Humanize | Humanize | 以写/判分离（writer/judge separation）与判断工程为核心的 Agent 编码协议与工具集。 | Humanize |
| Humanize 2 | Humanize 2 / hmz | 把编排搬到独立运行时的新一代实现，flow 即 Python async 函数；仍在演进。 | Humanize |
| 知识库 | KernelWiki | KDA 的可检索领域知识库，汇总算子仓库、PR 与架构迁移约束。 | KDA |
| 性能报告技能 | ncu-report | KDA 中把 NCU 分析顺序固化为六维框架的 skill。 | KDA |
| 技能包 | skill | 带触发条件、输入、步骤、验证与失败模式的可复用经验单元。 | Skills |
| RLCR | Ralph-Loop with Codex Review | 计划合同、builder 与全新上下文 reviewer 交替的迭代协议。 | Humanize |
| 停止钩子 | Stop hook | 会话结束时触发的强制检查，未通过则阻止结束。 | Humanize |
| 机械检查 | mechanical gates | 由脚本判定的硬性完成条件，如产物存在、baseline 一致、会话隔离。 | Humanize |
| 流 | flow | Humanize 2 中的编排单位，一段可组合的 Python async 函数。 | Humanize |
| Flame Chase | Flame Chase | 两个 Agent 交替、每轮新会话、只共享工作目录的 flow。 | Humanize |
| CuTe-DSL | CuTe DSL | CUTLASS 提供的 Python 内核 DSL，用布局与张量抽象描述高性能 kernel。 | GPU kernel 与性能 |
| B200 | NVIDIA B200 | Blackwell 架构数据中心 GPU，KDA 与 MLSys 竞赛的重要目标硬件。 | GPU kernel 与性能 |
| MLSys | MLSys Conference | 机器学习系统会议；2026 年设有 FlashInfer AI Kernel Generation Contest。 | KDA |
| FlashInfer | FlashInfer | 面向 LLM 推理的高性能 kernel 库，也是竞赛与基准的重要来源。 | 资料库 |
| 混合专家 | MoE | Mixture of Experts，按 token 路由到部分专家计算的模型结构。 | GPU kernel 与性能 |
| 稀疏注意力 | DSA | DeepSeek Sparse Attention，竞赛中的注意力优化赛道之一。 | KDA |
| 门控 DeltaNet | Gated DeltaNet | 带门控遗忘机制的线性注意力网络，竞赛中的 GDN 赛道即其 prefill 算子。 | KDA |
| HOA | Humanize Olympiad Agents | Humanfia 的竞赛 Agent 项目，覆盖数学、物理、化学、生物、编程与量子信息等奥赛题目。 | Humanize |
| Loom | Loom | Humanize 论文中的应用案例，报告 180 秒预算下搜索吞吐提升约 2.34×；这是吞吐结果，不代表映射质量更好。 | Humanize |
| PR 档案 | PR archive | BBuf skills 中整理的 118 份模型 PR 历史，用于冷启动检索。 | BBuf skills |
| AI Infra Skills | AI-Infra-Auto-Driven-SKILLS | BBuf 的公开经验库：11 个 Infra skill 与 118 份模型 PR 历史档案，把一线经验变成 Agent 可检索的上下文。 | BBuf skills |
| 审计日期 | audit date | 一条结论最后一次被核对的日期；历史 PR 证据保留它，刷新源码不等于重跑 GPU 测试。 | BBuf skills |
| 服务框架 | serving framework | 提供在线推理的框架，如 SGLang、vLLM、TensorRT-LLM 与 TokenSpeed；优化路径与瓶颈各不相同。 | BBuf skills |
| Day-0 支持 | day-0 support | 新模型架构发布当天即可用的上线要求，通常包含 PR 依赖图、验证矩阵与发布锁。 | BBuf skills |
| 编译器栈 | TIRx | 基于 Apache TVM 的硬件原生 kernel DSL 与编译器栈，配套 agent harness。 | TIRx |
| TIRx Harness | TIRx Harness | MLC 开源的编译器 harness：把知识库、编译期分析与基准服务接给 Agent。 | TIRx |
| 内核创作层 | TIRx-lite | harness 中写 kernel 的领域特定语言，建在 TIRx 中间表示之上。 | TIRx |
| 负载契约 | workload contract | harness 中写明正确性与性能判据的任务描述，是 Agent 唯一认可的对错标准。 | TIRx |
| 编译期分析 | compiler analysis | 检查同步、内存竞争与数值行为，并查看编译产物与生成指令的分析能力。 | TIRx |
| 远程执行 | kcoral | 持有 GPU 并集中调度的基准服务与执行通道：Agent 留在本机，GPU 任务发到远端。 | TIRx |
| kernel zoo | kernel zoo | 知识库中保存的具体 kernel 实现集合，TIRx 侧超过 60 个，配合 PTX 文档构成可检索语料。 | TIRx |
| 在线基线 | live baseline | 每次评测时实时对比的参考实现，由负载契约的 sota_baseline 指定，Agent 无法更换。 |
TIRx |
| 基准服务 | benchmark server | harness 内统一计时与打分的服务，避免每个任务自己拼一套性能脚本。 | TIRx |
| 演进记录 | evolution trace | 记录每轮产物与证据、可被知识库检索的轨迹，供下一轮冷启动取用。 | TIRx |
| CAKE IR | CAKE IR | KDA v0.6 引入的 agent 原生中间表示，可先调优再转成 PTX；与 CuTe-DSL、CUDA C++ 并列的写法之一。 | KDA |
| IKET | IKET | 用于暴露 CuTe kernel 内部流水线的诊断工具。 | KDA |
| FlashInfer Trace | FlashInfer Trace | 一套用 JSON schema 描述 kernel 定义、workload、solution 与评测结果的公共格式；KDA wishlist 用它提交任务。 | 资料库 |
| 对照系统 | K-Search | Humanize 论文在 DSA indexer 消融中并列比较的另一个 LLM kernel 生成系统，同设置下报告 1.37×。 | Humanize |
| Blackwell | NVIDIA Blackwell | NVIDIA 架构代际，B200/B300 属此代，SM 编号为 sm_100 与 sm_103。 | GPU kernel 与性能 |
| CUDA | CUDA | NVIDIA 的并行计算平台与编程模型，本书 kernel 一律指其上的 GPU kernel。 | GPU kernel 与性能 |
| ForgeKernel | ForgeKernel | OpenBMB 开源的自演化 GPU kernel agent：teacher 与 student 两层循环，架构先定的里程碑，每轮被接受的 kernel 成为下一轮参考实现。 | ForgeKernel |
| 参考实现 | reference | 一次运行的参照物：既是目标速度的来源（目标耗时 = 参考耗时 ÷ ratio），也是里程碑蒸馏的对象。 | ForgeKernel |
| 黑盒模式 | blackbox mode | 参考实现的源码存在但被密封，teacher 只能运行、计时与 profile，看不到实现；这是受控对照的手段。 | ForgeKernel |
| 硬件知识库 | hw_kb | 跨算子复用的硬件机制配方（TMA、mbarrier、swizzle 等），按 GPU 架构分目录；系统里唯一允许含示例代码的产物。 | ForgeKernel |
| 泄漏边界 | L0 | 里程碑只给起点、决策与参数，绝不给参考实现那个优化过的 kernel 的实现体。 | ForgeKernel |
| 算子无关性 | L1 | teacher 的 harness 与提示词不得含任何算子特定信息；换算子时一行都不用改，需要改才算破了这条。 | ForgeKernel |
| 操作等价性 | operational equivalence | 看不见参考实现代码的 Agent，能在同一硬件与同一测试集上复现参考实现的正确性与性能。 | ForgeKernel |
| 自演化 | self-evolution | 把被接受的 kernel 提升为下一轮参考实现的机制，让优化不停在已知最好实现上。 | ForgeKernel |
| 噪声地板 | noise floor | 同作业复测比值的离散度，最低 1.5%；收益落在其中即视为平台期，自演化链条在此停止。 | ForgeKernel |
| JustGoal | JustGoal | 只给优化目标与约束、不给任何 kernel 专用机制的基线；要求专用 harness 对同模型、同 scope 的对照证明收益。 | ForgeKernel |
评测、运维与风险
Section titled “评测、运维与风险”| 术语 | 英文 | 解释 | 相关章节链接 |
|---|---|---|---|
| 评测 | eval | 用固定任务、测试与指标衡量 Agent 或 kernel 是否达标的系统。 | 自建 harness |
| 奖励投机 | reward hacking | 优化了被测量的指标，却没有完成真实意图，甚至绕过关键计算。 | 自建 harness |
| 沙箱 | sandbox | 限制文件、网络、权限与资源的隔离执行环境，使错误可恢复。 | 自建 harness |
| 工作树 | worktree | git 的关联工作目录，可为每个候选创建独立副本，便于隔离与回滚。 | 自建 harness |
| token 预算 | token budget | 对上下文与生成 token 设定的上限，常与费用预算一起使用。 | 自建 harness |
| 框架演化 | harness evolution | Agent 能力提升后，评测器与流程必须同步升级的长期过程。 | 自建 harness |
| 失效放行 | fail open | 校验失败时选择放行而非阻断，是机械检查里最容易被忽略的一类缺口。 | Humanize |
| 隐藏测试 | holdout | Agent 看不到的输入或 shape，只在最终判定时使用，用来防止对测试分布过拟合。 | KDA |
| 墙钟预算 | wall-clock budget | 单个任务允许消耗的最长真实时间，是最容易被忽略的成本上限。 | 自建 harness |
| 事实核查 | fact checking | 对数字、版本与结论回溯原始来源；本站要求标注来源与核对日期。 | 资料库 |
遇到不熟悉的缩写时，先在本页定位它属于“流程”“性能”还是“评测”，再点进对应章节看上下文。写报告或做分享时，建议同时写出术语的英文与适用条件，例如“在 B200、FP8、固定 shape 下报告 1.7×”，避免把一个条件下的数字推广成普遍结论。
来源与版本：术语解释以本站各章与所列官方材料为基线，最后核对 2026-10-29，v1.1 校订核对于 2026-10-30，v1.5 新增的 ForgeKernel 相关条目核对于 2026-10-31，v1.6 新增的工程解剖条目同样核对于 2026-10-31。上游项目仍在快速演进，具体能力与数字以官方为准。完整链接见资料库。