SOSP 2026：人工选定的 AI 基础设施论文
本页仅覆盖用户人工选定的 18 篇，不是 SOSP 2026 全会筛选结果。已拿到并阅读 11 篇全文；另 7 篇仅有公开摘要，页内和下表均标明证据等级。
paper_count只数本页的选定集合。
纳入范围与证据状态
纳入由用户给定清单决定。本次不继续搜寻暂不可得的全文，也不替代用户重新筛全会。已取得的 11 篇 PDF 保存在 papers/sosp-2026/，相应文本保存在 markdowns/sosp-2026/；文本由 pdftotext -raw 提取并标记原 PDF 页码，没有使用 MinerU，故图表、公式和复杂排版应回 PDF 核对。摘要页的 source_pdf、source_md 为空，不能把其中摘要数字当作已核对正文的实验结论。
五条研究主线
1. 推理服务：把不同约束变成调度决策
Janus-SOSP26 面向生产多模型负载，在常驻池与弹性池之间分配副本、按模型与请求特征路由；ACDC-SOSP26 面向离线批处理，在真实生产日志中区分长短请求、并行策略与尾部空转；LLM-42-SOSP26 则处理另一个约束：同一提示的可复现输出，允许普通动态批处理先跑，再验证有确定性需求的请求。三篇的目标不能用单个吞吐倍数排序：Janus 关心多模型 SLO 与容量，ACDC 关心离线完成效率，LLM-42 还需核对确定性与回滚开销。
摘要级证据的 SANDHI-SOSP26 聚焦多模型显存权重共享，StreamInfer-SOSP26 聚焦 MoE 专家并行跨 GPU 屏障，Bedrock-WLM-SOSP26 聚焦跨区域生产负载管理，LMTracer-SOSP26 聚焦 LLM 在线性能定位。四者覆盖不同层，值得后续拿全文比较“模型驻留、单请求调度、跨区域路由、观测反馈”的闭环。当前不能据摘要推导它们各自的图表或适用边界。
2. 训练与工作流：状态跨阶段移动
TensorHub-SOSP26 管 RL 训练中的权重传输及弹性副本，让更新中的权重安全、及时到达 rollout 端；CrystalLLM-SOSP26 用少量 GPU 构造目标规模的训练执行图，让所关心的 rank 真跑、其他 rank 回放，适合调试性能。两者分别处理真实运行和仿真诊断，不能把“权重分发速度”和“仿真精度”视为同一指标。
DiFlow-SOSP26 则把文生图工作流拆成模型级节点，调度共享模型并用 GPU 原生张量传输保持 ControlNet 与基础模型的重叠。它说明“拆分”只有在模型可复用、跨节点 I/O 受控时才有利；CrystalLLM-SOSP26 的分片回放也依赖真实通信与预取能跟上。跨论文看，缩小执行单元给调度器自由度，却把数据依赖与生命周期管理交给控制面。
3. GPU 层：谁在决定计算边界
Ave-SOSP26 用数据流不变量给智能体生成的内核提供编译期约束；MeldKernel-SOSP26 让变长 attention 的计算在 SM cluster 内外动态映射并即时归约。前者的中心问题是“优化改写是否仍守住数据来源关系”，后者是“高性能实现怎样避免跨 SM 长尾与全局中间态”。仅摘要的 MorphX-SOSP26 则把 kernel 的资源占用做成可运行时调整的弹性对象。三者都进入 GPU kernel，但一个改变优化过程，一个改变单个 kernel 内执行，一个改变多个任务间共享。
摘要级证据的 EnerTune-SOSP26 从能耗与 SLO 共同出发做 GPU 任务放置。它提醒人们高利用率并不等于低能耗；未来比较 GPU 多任务方案时，除了前台延迟和后台吞吐，还应在同一任务组合上记录功率、焦耳/请求和搬迁开销。
4. 模型状态：同一份权重应在何处、以什么形式存在
TensorDex-SOSP26 在模型仓库里按 tensor 粒度选择差分参考，优化长期存储占用与读取吞吐；TensorHub-SOSP26 在 RL 训练期间转移动态权重；SANDHI-SOSP26 据摘要在在线多模型服务时合并权重组件以节省 HBM；Anchor-SOSP26 据摘要把 GPU 显存对象与 worker 进程寿命解耦。这四篇可画成同一份权重的生命周期：仓库保存 → 训练分发 → 在线驻留 → 进程故障后恢复。每段对“相同”的定义不同：TensorDex 要位级无损；SANDHI 可能接受满足准确率阈值的合并；Anchor 关注故障后内存对象是否仍可安全使用。因此跨段共享不能只看容量数字。
5. 上下文与可观测性：分别看语义状态、运行成本
llmovoice-SOSP26 管的是语音应用的语义、伴随语音和环境状态，通过多保真记忆构造有界提示；不是 GPU KV cache 管理。QProf-SOSP26 管跨微服务请求的传递性成本，真实论文主要验证 RPC QPS 与 CPU 画像；不是专门的 GPU/LLM profiler。LMTracer-SOSP26 公开摘要指向生产 LLM 系统的细粒度 GPU 性能诊断，但还没有全文可核对。把这三篇都叫“上下文/观测”会掩盖它们的层次差异：用户交互语义、跨服务资源成本、单推理栈执行细节。
设计空间矩阵
| 论文 | 调整对象 | 核心机制 | 最强可引用结果 | 当前证据边界 |
|---|---|---|---|---|
| Janus-SOSP26 | 多模型服务副本 | 常驻/弹性双池与路由 | 双池 SLO 达标率 97.8%（论文所测配置） | 全文；Ascend 910C 生产样本 |
| ACDC-SOSP26 | 离线 LLM 批次 | 特征画像、并行策略与批处理 | 论文页列出多组负载结果 | 全文；生产 H20 负载 |
| SANDHI-SOSP26 | 在线显存权重 | 细粒度组件合并 | HBM 最多 -49.8%，吞吐最多 2.93× | 仅摘要；峰值非同场景保证 |
| StreamInfer-SOSP26 | MoE 跨 GPU token | 队列、抗长尾通信 | 解码吞吐最高 1.7× | 仅摘要；16×L40S/A100 |
| Bedrock-WLM-SOSP26 | 全球推理流量 | 准入、跨区路由、编排 | 30+ 区域，数百万请求/分钟 | 仅摘要；规模非优化倍数 |
| LMTracer-SOSP26 | 在线性能事件 | 轻量 GPU 探针和关联 | 修复后延迟 -21.2%、吞吐 +24.5% | 仅摘要；开销口径冲突 |
| TensorHub-SOSP26 | RL 动态权重 | 弹性传输与保留 | 跨 DC GPU 停顿最多少 19 倍，训练步快 13% | 全文；两个指标不可混同 |
| CrystalLLM-SOSP26 | 训练 rank | 真执行+虚拟通信回放 | 512–2048 GPU 平均时间误差 0.58% | 全文；8192 无真机精度基线 |
| DiFlow-SOSP26 | 文生图模型节点 | DAG、共享、延迟数据获取 | 90% SLO 下最高 3× 请求率 | 全文；8–32 H800 实机 |
| Ave-SOSP26 | 内核优化过程 | tag 不变量、SMT、智能体 | 专家库有效吞吐的 89–99% | 全文；MI300X 主要评测 |
| MeldKernel-SOSP26 | 单 GPU SM 任务 | 混合 cluster、流水、即时归约 | attention 最佳基线平均约 1.3× | 全文；部分 MLA 点为 0.98× |
| MorphX-SOSP26 | GPU 多任务 kernel | 可运行时变形的内核 | 相同前台延迟下后台吞吐最高 2.24× | 仅摘要 |
| Anchor-SOSP26 | 进程与 GPU 内存 | daemon 持有显存、worker 重连 | Qwen3-235B 恢复 143.78→27.85 秒 | 仅摘要；仅浅层中断 |
| TensorDex-SOSP26 | 模型仓库 tensor | 位级指纹、预测、分簇差分 | FM++ 以去重后容量计减少 70.5% | 全文；2890 个所选模型 |
| LLM-42-SOSP26 | 确定性推理请求 | 快路径、固定形状核验、回滚 | 10% 确定性 ShareGPT 吞吐 +33% | 全文；100% 时有负结果 |
| llmovoice-SOSP26 | 语音交互状态 | 多保真记忆、上下文投影 | 每轮成本最高低 24.9× | 全文；与 GPU KV 无关 |
| EnerTune-SOSP26 | GPU 共置与功率 | 能耗模型和放置 | 摘要报告能耗改善 1.4–2.3× | 仅摘要 |
| QProf-SOSP26 | 跨服务请求成本 | skeletal trace、CPU 采样、fan-in | QPS ±10% 命中率 65%→73% | 全文；非专门 AI/GPU 实验 |
下一轮应核验的问题
- 证据等级升级：拿到 7 篇缺失 PDF 后，逐篇核对系统名、方法细节、模型/硬件、P99 与消融；当前摘要数字一律不可当成完整版结论。
- 统一服务指标：对 Janus-SOSP26、DiFlow-SOSP26、LLM-42-SOSP26 和 EnerTune-SOSP26，在相同请求长度分布、SLO、GPU 成本和功率口径下比较达标率/美元/焦耳，而不是比较各自“最高倍数”。
- 权重生命周期故障注入：把 TensorDex-SOSP26 的冷启动、TensorHub-SOSP26 的更新、Anchor-SOSP26 的进程恢复连接起来测，特别检查版本一致性和跨租户隔离。
- 可观测性闭环：由 LMTracer-SOSP26 定位单推理栈问题，由 QProf-SOSP26 归因跨服务成本，分别检查它们的采样偏差、探针开销以及因果归因边界。