留学目录站遭爬虫抓取,D1单日读取50亿行
热点事件持续更新
留学目录站遭爬虫抓取,D1单日读取50亿行
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
免费留学目录站 Studies Multiverse 的开发者复盘称,站点被爬虫抓取约 5 万页面后,Cloudflare D1 数据库单日读取量一度达到 50 亿行。该站收录 224 个国家的 31,000 所院校,运行在 Cloudflare Workers 和 D1 上。 开发者称已做三项修复:筛选列表本就设 noindex 并指向普通列表,现在对爬虫直接返回 301 跳转到普通列表;课程详情页暂设 noindex,对爬虫返回简短的 403;普通用户访问不受影响。 这些措施能否把读取量降回正常水平,报道未给出后续数据。
AI 根据报道生成 · 1 小时前更新
最新进展10月18日 17:39
免费留学目录站被爬虫抓取 5 万页面,D1 单日读取量冲到 50 亿行报道时间线
沿着报道,了解事件的不同侧面。
10月18日
- DEV.to · 独立开发精选免费留学目录站被爬虫抓取 5 万页面,D1 单日读取量冲到 50 亿行
Studies Multiverse 是一个免费留学目录站,收录 224 个国家的 31,000 所院校,跑在 Cloudflare Workers 和 D1 上。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。