工作坊: Triton 语言与 vLLM

vLLM在月之暗面的应用实践与未来展望

Speakers
许欣然
Date / Time
2024-10-17
14:30
Presentation Slides
Presentation Slides
Presentation Video
YouTube

1、vLLM 在 Moonshot 的大规模应用 2、vLLM 与 Mooncake PD 分离架构 3、未来发展的前景与方向