PHP
发布日期:2026 年 7 月 23 日
生效日期:2026 年 6 月中旬起(第一阶段);2026 年 9 月 15 日起(第二阶段)
最后更新:2026 年 7 月 23 日
一、公告背景
轻之舟百科(CaelLab Wiki)是由虚舟实验室(CaelLab)运营、社区成员共同建设的开放式网络百科全书。本站所有内容均由人类编辑者创作、审校和维护,凝聚了社区成员的知识积累与劳动成果。
自 2023 年以来,大量自动化爬虫程序以"AI 训练数据收集"为目的,大规模、高频次地抓取互联网公开内容,用于训练大语言模型(LLM)及其他人工智能系统。此类行为未经内容创作者知情同意,实质上构成了对原创内容的系统性掠夺,严重损害了创作者权益和开放知识生态的健康发展。
轻之舟百科作为坚持人类创作价值的知识平台,决定采取明确措施,禁止一切用于 AI 训练的爬虫访问本站。
二、禁止范围
第一阶段:2026 年 6 月中旬起生效
以下爬虫/蜘蛛程序被明确禁止访问轻之舟百科:
- 专门用于收集 AI 训练数据的爬虫程序
- 以"数据集构建""语料收集""模型训练"等为目的的自动化抓取工具
- 任何在 User-Agent、服务条款或公开说明中披露其 AI 训练用途的爬虫
- 已知由 AI 公司运营或为其提供数据服务的爬虫(包括但不限于 OpenAI-GPTBot、Anthropic-ClaudeBot、Google-Extended、Bytespider、CCBot 等)
第二阶段:2026 年 9 月 15 日起生效
以下爬虫/蜘蛛程序将被纳入禁止范畴:
- 混合用途爬虫:即同时声称用于"搜索索引"和"AI 训练"双重目的的爬虫程序
- 以搜索索引为名义、但实际或兼用于 AI 模型训练的爬虫
- 未明确区分搜索索引数据与 AI 训练数据用途的爬虫
- 搜索引擎爬虫中附带"AI 概览""AI 摘要""智能回答"等功能的抓取组件
重要说明:混合用途爬虫即使保留了传统搜索索引功能,只要其抓取数据被用于或可能被用于 AI 训练,即属于本公告禁止范围。本站不再接受"部分用途合法"的辩解。
三、允许访问的爬虫
以下类型的爬虫在遵守 本站 robots.txt 及访问政策 的前提下,可以继续访问:
- 传统搜索引擎爬虫:仅用于网页索引和搜索结果展示,明确不参与 AI 模型训练的爬虫(如 Googlebot、Bingbot 等,前提是其运营商公开承诺不将本站数据用于 AI 训练)
- 学术研究机构爬虫:用于非商业性学术研究,且明确不用于构建商业 AI 模型的爬虫(需事先向本站申请并获得书面许可)
- 档案馆/图书馆爬虫:用于数字保存和公共利益存档的爬虫(如 Internet Archive 的 Wayback Machine,需遵守合理抓取频率)
- 本站授权合作伙伴:经虚舟实验室书面授权的数据使用方
四、技术措施
本站已实施并将持续升级以下反爬虫措施:
- robots.txt 声明:在 robots.txt 中明确禁止已知 AI 训练爬虫的访问
- User-Agent 过滤:基于 User-Agent 字符串识别并拦截已知 AI 训练爬虫
- 行为分析拦截:通过流量模式分析识别异常抓取行为(如超高速、大规模、无规律页面遍历)
- IP 段封禁:对确认属于 AI 训练爬虫的 IP 地址及 IP 段实施封禁
- 验证码挑战:对疑似自动化抓取工具触发人机验证
- 法律追责:对严重违规者保留追究法律责任的权利
五、合规指引
如果你是爬虫运营方
- 请仔细阅读本站的 robots.txt 文件 和本页面公告
- 如你的爬虫涉及 AI 训练用途,请立即停止对轻之舟百科的访问
- 如你认为你的爬虫被误拦截,请通过下方联系方式提交申诉,说明你的爬虫用途、数据处理方式及与 AI 训练的关系
如果你是普通用户
- 你无需采取任何行动,正常浏览不受影响
- 如发现疑似 AI 训练爬虫在本站活动,欢迎向管理员举报
- 支持人类创作,拒绝 AI 洗稿
六、常见问题
Q1:为什么禁止混合用途爬虫?
A:混合用途爬虫声称同时用于搜索索引和 AI 训练,但实际上无法保证数据不被用于 AI 训练。一旦数据被抓取,内容创作者无法追踪其后续用途。为避免任何不确定性,本站对混合用途爬虫采取零容忍政策。
Q2:这会影响搜索引擎收录吗?
A:不会。传统搜索引擎爬虫(不用于 AI 训练)仍可正常访问和索引本站内容。本站欢迎真正服务于信息检索的搜索引擎。
Q3:AI 搜索引擎(如 Perplexity、AI 搜索概览)是否被禁止?
A:是的。任何将本站内容用于生成 AI 回答、AI 摘要或 AI 概览的抓取行为,均属于本公告禁止范围。
Q4:学术引用和合理使用是否受影响?
A:不受影响。人类读者正常访问、学术引用、合理使用均不受本政策限制。本政策仅针对自动化爬虫程序。
Q5:本政策是否具有法律效力?
A:本政策作为本站使用条款的组成部分,具有合同约束力。违规访问可能构成未经授权的计算机访问,本站保留采取法律行动的权利。
七、联系方式
如对本公告有任何疑问,或需要申请爬虫白名单,请通过以下方式联系:
- Wiki:wiki@caellab.com
- 权利:rights@caellab.com