排查 AsyncOpenAI 在线程池中因 asyncio.run 导致的内存泄漏并修复
热点事件持续更新
排查 AsyncOpenAI 在线程池中因 asyncio.run 导致的内存泄漏并修复
1 篇报道1 个报道来源17 小时前更新
先了解这件事
报道摘要
作者在生产服务中发现内存缓慢泄漏,14 小时增长 5.35 GB、峰值 13.4 GB 逼近 16 GB 容器上限。根因是后台线程池用 asyncio.run() 每次新建事件循环,导致 AsyncOpenAI 客户端无法复用,每次都新建连接池和 SSL 上下文泄漏。
摘自 掘金
最新进展10月30日 00:17
排查 AsyncOpenAI 客户端每次新建事件循环导致的内存泄漏,用持久化循环复用客户端降低 47% 增长斜率报道时间线
沿着报道,了解事件的不同侧面。
10月30日
- 掘金精选排查 AsyncOpenAI 客户端每次新建事件循环导致的内存泄漏,用持久化循环复用客户端降低 47% 增长斜率
作者在生产服务中发现内存缓慢泄漏,14 小时增长 5.35 GB、峰值 13.4 GB 逼近 16 GB 容器上限。根因是后台线程池用 asyncio.run() 每次新建事件循环,导致 AsyncOpenAI 客户端无法复用,每次都新建连接池和 SSL 上下文泄漏。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。