跳到正文
Hacker News · Show HN· jweaz·· 4 小时前精选AI 评分38

Univo 开源:5 行 Python 代码做离线去重,10 万条名称 4.5 秒

Show HN: Find duplicates in 5 lines of Python (offline, lightweight, fast, Rust)

AI 导读

作者在 Hacker News 发布开源 Python 库 Univo,用模糊匹配、本地嵌入和字段级规则查找重复记录,pip install univo 后 5 行代码即可运行,无需训练和 API key,数据不出本机。

推荐理由

作者开源了一个离线去重库,给出与 RapidFuzz、SemHash 的对比和基准数据,适合做数据清洗或实体匹配的开发者评估。

来源:Hacker News · Show HN · github.com