跳到正文
热点事件持续更新

排查 AsyncOpenAI 在线程池中因 asyncio.run 导致的内存泄漏并修复

1 篇报道1 个报道来源17 小时前更新

先了解这件事

报道摘要

作者在生产服务中发现内存缓慢泄漏,14 小时增长 5.35 GB、峰值 13.4 GB 逼近 16 GB 容器上限。根因是后台线程池用 asyncio.run() 每次新建事件循环,导致 AsyncOpenAI 客户端无法复用,每次都新建连接池和 SSL 上下文泄漏。

摘自 掘金

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. 掘金精选
    排查 AsyncOpenAI 客户端每次新建事件循环导致的内存泄漏,用持久化循环复用客户端降低 47% 增长斜率

    作者在生产服务中发现内存缓慢泄漏,14 小时增长 5.35 GB、峰值 13.4 GB 逼近 16 GB 容器上限。根因是后台线程池用 asyncio.run() 每次新建事件循环,导致 AsyncOpenAI 客户端无法复用,每次都新建连接池和 SSL 上下文泄漏。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。