文档中心 / AI 热点雷达 / llm-d 1.0 发布：Kubernetes 原生分布式推理服务走向生产就绪

llm-d 1.0 发布：Kubernetes 原生分布式推理服务走向生产就绪

来源：IBM Research：AI · 时间：2026-10-20T12:00:00.000Z

事件速览

IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0，这是一个 Kubernetes 原生的分布式推理服务框架，支持任意模型、任意加速器和任意云。