<?xml version="1.0" encoding="UTF-8" ?>
<rss version="2.0">
    <channel>
      <title>Awesome System Papers Wiki</title>
      <link>https://ai-infra-wiki-erx.pages.dev</link>
      <description>最近的10条笔记 on Awesome System Papers Wiki</description>
      <generator>Quartz -- quartz.jzhao.xyz</generator>
      <item>
    <title>OSDI-2026</title>
    <link>https://ai-infra-wiki-erx.pages.dev/conferences/OSDI-2026</link>
    <guid>https://ai-infra-wiki-erx.pages.dev/conferences/OSDI-2026</guid>
    <description><![CDATA[ OSDI 2026：AI 基础设施论文 从会议的 136 篇正式论文中筛出 49 篇，其主要问题直接涉及 AI 模型的训练、推理、检索或这些工作负载所需的硬件与集群系统。 筛选口径 纳入条件是：论文的核心问题、设计机制或主要评测围绕 AI/ML 工作负载，且贡献位于系统层，包括运行时、调度、编译器、存储与内存路径、网络、故障恢复或可观测性。判断依据是论文正文的问题定义与主实验，而不是标题里有没有“AI”“LLM”“GPU”。因此 Strata-OSDI26、Helmsman-OSDI26、Umap-OSDI26 和 MoonBright-OSDI26 都在本页：它们分别处理长上下文 KV 缓存... ]]></description>
    <pubDate>Thu, 22 Oct 2026 07:19:20 GMT</pubDate>
  </item><item>
    <title>index</title>
    <link>https://ai-infra-wiki-erx.pages.dev/</link>
    <guid>https://ai-infra-wiki-erx.pages.dev/</guid>
    <description><![CDATA[ AI 基础设施论文 Wiki 本分支目前只整理 OSDI 2026。按论文的问题定义、方法和主要评测，从会议 136 篇正式论文中选出 49 篇 AI 基础设施工作。每篇页面保留实验规模、基线、指标和适用边界；会议综述给出分类与跨论文比较。 Conferences OSDI-2026 — 49 篇：推理服务、KV 缓存、训练与 RL、GPU 软件栈、可靠性、检索与数据路径。 阅读入口 长上下文缓存：Strata-OSDI26、ECHO-OSDI26、DirectKV-OSDI26 推理服务：BatchGen-OSDI26、EcoServe-OSDI26、Prism-OSDI26 训练与 RL：... ]]></description>
    <pubDate>Thu, 22 Oct 2026 07:19:20 GMT</pubDate>
  </item><item>
    <title>log</title>
    <link>https://ai-infra-wiki-erx.pages.dev/log</link>
    <guid>https://ai-infra-wiki-erx.pages.dev/log</guid>
    <description><![CDATA[ Wiki 更新记录 [2026-10-22] OSDI 2026 AI 基础设施重建 重筛 136 篇会议论文，纳入 49 篇；OSDI-2026 记录筛选口径和边界案例。 论文页采用 main 已有的全文研读版本，并逐一核对当前原文 Markdown 路径；此前的 12 篇短页被替换。 重写会议综述与首页，只呈现本次纳入的 OSDI 2026 论文。 . ]]></description>
    <pubDate>Thu, 22 Oct 2026 07:19:20 GMT</pubDate>
  </item><item>
    <title>ADAngel-OSDI26</title>
    <link>https://ai-infra-wiki-erx.pages.dev/papers/ADAngel-OSDI26</link>
    <guid>https://ai-infra-wiki-erx.pages.dev/papers/ADAngel-OSDI26</guid>
    <description><![CDATA[ ADAngel：用自适应计算映射加速任意精度量化 LLM（OSDI 2026） 原题：ADAngel: Accelerating Arbitrary-Precision Quantized LLMs with Adaptive Computing Mapping 一句话总结：ADAngel 发现 W4A8 等不对称精度矩阵乘的最佳实现会随 prefill/decode、矩阵形状和 bit-width 改变，于是用 DPR 模型统一表达并构造 Padding、Split、Bitwise 三类 kernel，再为指定模型和 GPU 离线穷举建表；Llama-3-8B 在 Jetson AGX Or... ]]></description>
    <pubDate>Thu, 22 Oct 2026 07:19:20 GMT</pubDate>
  </item><item>
    <title>AEGIS-OSDI26</title>
    <link>https://ai-infra-wiki-erx.pages.dev/papers/AEGIS-OSDI26</link>
    <guid>https://ai-infra-wiki-erx.pages.dev/papers/AEGIS-OSDI26</guid>
    <description><![CDATA[ AEGIS：大规模 LLM 训练中的在线静默错误检测 原题：Safeguarding LLM Training at Scale: Online SDC Detection and Insights from 35 Million GPU Hours 一句话总结：AEGIS 把“在线发现可疑计算”和“离线确认错误”拆成 cSensor 与 cVerifier，并组合高精度代数校验和训练中已有的重复计算；它在 3,500 万 GPU-hours 的生产部署中以平均 0.86% 开销发现 18 起 SDC，但这个开销来自采样策略，不能理解为每个算子都被完整检查。 问题与动机 静默数据损坏（sile... ]]></description>
    <pubDate>Thu, 22 Oct 2026 07:19:20 GMT</pubDate>
  </item><item>
    <title>Alibaba-ASI-OSDI26</title>
    <link>https://ai-infra-wiki-erx.pages.dev/papers/Alibaba-ASI-OSDI26</link>
    <guid>https://ai-infra-wiki-erx.pages.dev/papers/Alibaba-ASI-OSDI26</guid>
    <description><![CDATA[ Alibaba ASI：超大规模异构生产 AI 集群的刻画与调度 原题：Heterogeneity at Hyperscale: Characterization and Scheduling of Large Production AI Clusters at Alibaba (Operational Systems) 一句话总结：Alibaba ASI 的六个月、15.5 万 GPU trace 表明，生产集群的主要困难已经不是“把一个 GPU 切得更细”，而是 GPU 型号锁定、8-GPU 节点上的剩余卡、CPU 配比、网络拓扑和在线服务预留容量相互叠加；论文用 IPC 去碎片和 Spo... ]]></description>
    <pubDate>Thu, 22 Oct 2026 07:19:20 GMT</pubDate>
  </item><item>
    <title>BatchGen-OSDI26</title>
    <link>https://ai-infra-wiki-erx.pages.dev/papers/BatchGen-OSDI26</link>
    <guid>https://ai-infra-wiki-erx.pages.dev/papers/BatchGen-OSDI26</guid>
    <description><![CDATA[ BatchGen：面向大规模批推理的序列协程架构（OSDI 2026） 原题：BatchGen: An Architecture for Scalable and Efficient Batch Inference 一句话总结：BatchGen认为互动服务“一个sequence长期绑一张GPU、一次forward不可中断”的执行模型不适合离线大批量任务：MoE tokens分散到几百个experts后，每个expert仍吃不到足够batch；heavy-tail output又让最后几条sequence拖住整批。它把sequence表示成可YIELD/COMBINE/PARTITION/MIG... ]]></description>
    <pubDate>Thu, 22 Oct 2026 07:19:20 GMT</pubDate>
  </item><item>
    <title>Chen-LLMDataPipelines-OSDI26</title>
    <link>https://ai-infra-wiki-erx.pages.dev/papers/Chen-LLMDataPipelines-OSDI26</link>
    <guid>https://ai-infra-wiki-erx.pages.dev/papers/Chen-LLMDataPipelines-OSDI26</guid>
    <description><![CDATA[ 教传统存储理解大模型训练（OSDI 2026） 原题：Teaching The Old Dog New Tricks: Building Efficient Data Pipelines for Large-Scale LLM Pre-training (Operational Systems) 一句话总结：这篇 ByteDance 生产经验论文发现，大模型训练已经把传统 HDFS 的三个旧接口推到新瓶颈——异地 evaluation 被小 tensor 的 WAN 往返拖慢，同步恢复把少数 checkpoint 文件读成热点，多模态训练则主要卡在 CPU 解码而不是读盘；系统利用训练框架提前... ]]></description>
    <pubDate>Thu, 22 Oct 2026 07:19:20 GMT</pubDate>
  </item><item>
    <title>CoPilotIO-OSDI26</title>
    <link>https://ai-infra-wiki-erx.pages.dev/papers/CoPilotIO-OSDI26</link>
    <guid>https://ai-infra-wiki-erx.pages.dev/papers/CoPilotIO-OSDI26</guid>
    <description><![CDATA[ 让 CPU 协助 GPU 完成 I/O（OSDI 2026） 原题：CoPilotIO: CPU as a Co-pilot for GPU I/O to Free GPU Compute 一句话总结：GPU 自己轮询 NVMe completion 会同时阻塞 warp、争用 SM 调度槽并制造显存流量；CoPilotIO 让 GPU 直接提交请求、CPU 在用户态轮询 completion，再用硬件 barrier 唤醒 GPU，并在 CPU 跟不上时才启用 GPU 协同轮询，因此用 24 个而不是 72 个以上的 SM 跑满约 25 GB/s PCIe，DLRM 相对 BaM 加速 1.... ]]></description>
    <pubDate>Thu, 22 Oct 2026 07:19:20 GMT</pubDate>
  </item><item>
    <title>Cocoon-OSDI26</title>
    <link>https://ai-infra-wiki-erx.pages.dev/papers/Cocoon-OSDI26</link>
    <guid>https://ai-infra-wiki-erx.pages.dev/papers/Cocoon-OSDI26</guid>
    <description><![CDATA[ 面向相关噪声差分隐私训练的系统架构（OSDI 2026） 原题：Cocoon: A System Architecture for Differentially Private Training with Correlated Noises 一句话总结：相关噪声可以让训练中的噪声相互抵消、改善模型效用，却要保留约 (b̂−1)×模型参数量 的历史并每步做 GEMV；Cocoon 把历史分到 GPU、CPU 和 CXL-NMP，就地并行计算，并为稀疏 embedding 预计算、合并未来噪声，非平凡 DLRM 配置相对较好基线快 2.33–10.82 倍、含 NMP 的大模型配置快 1.23–2... ]]></description>
    <pubDate>Thu, 22 Oct 2026 07:19:20 GMT</pubDate>
  </item>
    </channel>
  </rss>