文档中心 / AI 热点雷达 / Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引…

Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎

来源：Google Developers Blog（RSS） · 时间：2026-10-19T16:00:00.000Z

事件速览

Google 在 PyTorch 相关公告中推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎，分别与 Inferact、RadixArk 合作开发，让开发者用熟悉的 PyTorch 工具在 TPU 上部署模型。