Hacker News · Show HN· jweaz·· 4 小时前精选AI 评分38
Univo 开源:5 行 Python 代码做离线去重,10 万条名称 4.5 秒
Show HN: Find duplicates in 5 lines of Python (offline, lightweight, fast, Rust)
AI 导读
作者在 Hacker News 发布开源 Python 库 Univo,用模糊匹配、本地嵌入和字段级规则查找重复记录,pip install univo 后 5 行代码即可运行,无需训练和 API key,数据不出本机。
推荐理由
作者开源了一个离线去重库,给出与 RapidFuzz、SemHash 的对比和基准数据,适合做数据清洗或实体匹配的开发者评估。
来源:Hacker News · Show HN · github.com