标签归档:Claude

AI 爬虫疯狂刷流量?Nginx 封禁爬虫 IP 实战方案

暂无留言

最近半年我的这个站被 AI 爬虫刷了好几次次,每月流量直接爆掉。Ban 的 IP 规则已经几百条,乱七八糟的蜘蛛刷的流量大就直接拉黑。下面分享一套 Nginx 封禁 AI 爬虫 IP 的实战方案,从识别到拦截,一步到位。 AI 爬虫和传统搜索引擎蜘蛛不同,它们不遵守 robots.txt,UA 伪装成正常浏览器,请求频率极高,专门抓取内容用于训练大模型。常见 AI 爬虫包括 GPTBot、ChatGPT-User、Claude-Web、PerplexityBot、Bytespider 等 …