Hacker News · Show HN· wangweinoo1·· 3 小时前精选AI 评分72
Show HN: GPUWorks – A 40 MB GPU cluster manager for vLLM/SGLang, no K8s needed
Show HN: GPUWorks – A 40 MB GPU cluster manager for vLLM/SGLang, no K8s needed
AI 导读
作者在 Hacker News 上展示 GPUWorks,这是一个 40MB 的轻量级 GPU 集群管理器和模型即服务(MaaS)平台,支持 vLLM、SGLang 等推理引擎,无需 Kubernetes。
来源:Hacker News · Show HN · github.com