把学习 AI 的过程，
留成能复用的笔记。

1. 2026-10-18

   KV cache 复用的三种粒度：从 page 到 prefix

   显存不够时总说要省 KV，但省在哪一层决定了要不要重算。这篇把 page、sequence、prefix 三级复用拆开对比。

   推理优化14 分钟
2. 2026-10-09

   用 Landlock 给 Agent 的 shell 上锁

   一次最小权限实践：deny-by-default 之外，真正麻烦的是把网络和临时目录写清楚，否则脚本根本跑不起来。

   工程实践11 分钟
3. 2026-09-27

   投机解码读后记：接受率不是全部

   论文里的接受率很高，端到端却没快多少。草稿模型的开销和批处理形状，会把这部分收益吃掉一半。

   论文精读9 分钟
4. 2026-09-15

   把 Agent 的工具调用写成可审计的账本

   每次调用记什么字段，决定了事后能不能复盘。我按请求、决策、执行三段记账，踩了两个坑。

   工程实践12 分钟
5. 2026-09-02

   LoRA 合并的数值坑：bf16 下的权重漂移

   合并后推理，输出和合并前对不上。用 fp32 累加、逐层比对误差，才定位到这处漂移来自哪里。

   训练微调8 分钟
6. 2026-08-21

   推理服务调度器在读什么：一次 profile 记录

   把等待时间拆成排队、拷贝和预处理三段，才发现瓶颈不在我以为的算子那里。

   推理优化15 分钟
7. 2026-08-07

   长上下文外推的几种做法与代价

   位置插值、分块注意力、检索增强各自解决不同问题，混着用时要先想清楚哪一层在退化。

   论文精读10 分钟

这个分类下暂时还没有手记，换一个看看。