工作坊: Triton 语言与 vLLM
vLLM在月之暗面的应用实践与未来展望
Speakers
Presentation Slides
Presentation Video
1、vLLM 在 Moonshot 的大规模应用 2、vLLM 与 Mooncake PD 分离架构 3、未来发展的前景与方向