跳到正文
热点事件持续更新

Zilla 开源 LLM 网关演示发布

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

开发者 kit2509 在 Hacker News 发布 Show HN 演示,展示开源 LLM 网关 Zilla:它在 7161、7162、7163 三个端口分别接收 OpenAI、Anthropic、Gemini 格式的请求,按模型名路由并在 API 方言之间翻译,客户端只需改 base URL。 演示分两部分。第一部分需 Zilla 2.6.0 或更高版本(该版本新增 Gemini API);第二部分需 Zilla Plus 许可证密钥和具备 bedrock:InvokeModel、bedrock:InvokeModelWithResponseStream 权限的 AWS 凭证。用户自己的 API 密钥直接透传给服务商,不存入 zilla.yaml。首次 docker compose up 时,tei 需下载模型,耗时数分钟。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. Hacker News · Show HN精选
    Zilla 开源 LLM 网关:用 OpenAI SDK 直接调用 Claude 和 Gemini

    Zilla 发布开源 LLM 网关,在 7161、7162、7163 三个端口分别接收 OpenAI、Anthropic、Gemini 格式的请求,按模型名路由并在 API 方言之间翻译,客户端只需改 base URL。

本事件热度走势

可比范围当前
9
可比范围峰值
1010月22日 23:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。