llms.txt 是什么?
llms.txt 是放在网站根目录(your-site.com/llms.txt)的一个 Markdown 文件,用来给 AI 一份精选的网站简介和链接清单:你是谁、有哪些关键页面、每页讲什么。它由 Jeremy Howard 在 2024-09-03 提出,规范写在 llmstxt.org。按提案的说法,AI 在回答问题时读这份文件,再顺着链接去看详细内容。
它是社区提案,不是互联网标准。robots.txt 有正式的标准(RFC 9309),llms.txt 没有,所以各家 AI 读不读、怎么读,都是各家自己的事。
llms.txt 的格式长什么样?
按 llmstxt.org 的规范,文件是 Markdown,按顺序有这几部分,只有第一项必须有:
- 一个 H1,写项目或网站的名字(唯一必须有的部分)。
- 一段引用(blockquote),用一两句话概括网站。
- 零段或多段补充说明,可以是除标题以外的任何 Markdown。
- 零个或多个 H2 小节,每节是链接清单:[名字](网址),后面可以加冒号和一句说明。
- 一个叫 Optional 的 H2 小节,放次要的链接,AI 需要更短的上下文时可以跳过。
提案还建议每个页面另外提供一份干净的 Markdown 版,网址是在原网址后面加 .md。下面是一个按规范写的例子:
# Acme Invoices > Acme Invoices is invoicing software for solo consultants. Plans start at $9 a month; it supports PDF export and 12 currencies. Acme works with Stripe and PayPal. It does not offer payroll. ## Product - [Features](https://acme.example/features.md): what the app can do - [Pricing](https://acme.example/pricing.md): plans, limits and refund policy ## Docs - [Quick start](https://acme.example/docs/start.md): create and send your first invoice - [API reference](https://acme.example/docs/api.md): REST endpoints and authentication ## Optional - [Changelog](https://acme.example/changelog.md): release notes
llms.txt 到底有没有用?
现状是:Google 公开说了不用;几家 AI 公司没有官方说过爬虫会读它。下面是查得到出处的说法,2026-11-04 逐条核对:
| 谁 | 说了什么 | 出处和时间 |
|---|---|---|
| Google(John Mueller) | 在 Bluesky 上写:没有任何 AI 系统现在使用 llms.txt。他还说,消费级的聊天机器人会抓你的页面,但没有一个会抓 llms.txt。 | 2025-06-17 的 Bluesky 帖子,Search Engine Roundtable 2025-06-18 报道 |
| Google(Search Central 文档) | 生成式 AI 优化指南写明:不需要为了出现在 Google 搜索里而创建 llms.txt 这类文件,Google 搜索自己不使用它们,也不会因此影响你的可见度;为别的服务做是可以的。 | developers.google.com 的指南页,页面没写日期,查看于 2026-11-04 |
| OpenAI | 没有官方确认。爬虫文档(bots 页)里没有写 GPTBot、OAI-SearchBot、ChatGPT-User 会读别人网站的 llms.txt。 | 查看于 2026-11-04 |
| Anthropic | 没有官方确认。爬虫说明里没有写 ClaudeBot、Claude-SearchBot、Claude-User 会读 llms.txt。 | 查看于 2026-11-04 |
| Perplexity | 没有官方确认。爬虫文档里没有写 PerplexityBot、Perplexity-User 会读 llms.txt。 | 查看于 2026-11-04 |
另有一个容易被误读的事实:OpenAI、Perplexity、Anthropic 自己的开发者文档站都发布了 llms.txt(2026-11-04 实测都能打开)。这说明他们愿意让别人的 AI 工具读自己的文档,不等于他们的搜索爬虫会去读你的 llms.txt。
所以,目前没有公开的证据显示做了 llms.txt 会让你在 ChatGPT、Perplexity、Claude 或 Google 里被更多推荐。别指望靠它拿到推荐。
什么情况下值得做 llms.txt?
| 情况 | 值得做吗 | 原因 |
|---|---|---|
| 你有开发者文档或 API 文档 | 值得 | 提案的目的是帮 AI 工具读懂一个网站;文档站做它成本很低,OpenAI、Anthropic、Perplexity 的文档站也都发布了。 |
| 你是普通的产品站或内容站,想被 AI 推荐 | 可以做,但排在后面 | 没有证据显示它带来推荐。先做爬虫放行、正文直出、被引用的网页里有你,再做它。 |
| 你指望它提高 Google 排名 | 不值得 | Google 文档写明 Google 搜索会忽略它。 |
做它的代价主要是维护:页面改了价格、功能,这份文件也要同步改,不然就是在给 AI 一份过时的简介。Google 的文档说它不会伤害你的搜索表现。
怎么做一份 llms.txt?
1. 先写好首页和价格页
llms.txt 只是链接清单,AI 点进去看到的还是你的页面。页面正文要直接写在 HTML 里,见 AI 爬虫会执行 JavaScript 吗。
2. 起草文件
用 llms.txt 生成器:输入网址,它从首页和 sitemap 里读出名字、简介和主要页面,生成一份按规范排好的草稿。
3. 手改成你自己的话
H1 写产品名,引用段写一两句:你是什么、给谁用、多少钱。链接清单只放最关键的页面(功能、价格、文档、关于),次要的放进 Optional。数字写上来源和日期。
4. 放到根目录并确认能打开
网址是 your-site.com/llms.txt,应该返回 200 的纯文本或 Markdown。如果用了防火墙或 CDN,也用 AI 爬虫检查 看一眼爬虫能不能进来。
5. 看有没有人读
过几周在服务器日志里搜 /llms.txt 的请求,看是哪些 User-Agent 来的。有记录才说明有爬虫在读,没有就别抱期望。
llms.txt 之外还有更值得先做的事:AI 爬虫的 robots.txt 怎么写,以及 AI 可见度审计清单。
常见问题
llms.txt 能提高 ChatGPT 或 Google 里的推荐和排名吗?
没有公开证据。Google 的文档写明 Google 搜索会忽略它;OpenAI、Anthropic、Perplexity 没有官方说过爬虫会读它。做了不会伤害搜索表现,但也别指望有效果。
llms.txt 能代替 robots.txt 吗?
不能,两者是两件事。robots.txt 决定爬虫能不能抓你的页面,是有正式标准的;llms.txt 是给 AI 看的简介和链接清单,只是提案,不管访问权限。
我必须按 llmstxt.org 的格式写吗?
要被叫做 llms.txt,就按它的规范:Markdown,唯一必须有的是 H1,其余部分可选。格式规范之外没有人保证哪家 AI 会读。
怎么知道有没有 AI 读了我的 llms.txt?
在服务器或 CDN 的日志里搜 /llms.txt 的请求,看 User-Agent。没有请求,就说明至少没有爬虫来读。
llms.txt 里该放什么?
放最关键的页面:产品功能、价格、文档、关于,每条写一句说明,数字带来源和日期。次要内容放进 Optional 小节。不要塞满全站的链接。
出处
- llmstxt.org · The /llms.txt file (2024 年提出)
- Search Engine Roundtable · Google Says No AI System Currently Uses LLMs.txt (2025-06-18 发表,2026-11-04 核对;引用 John Mueller 2025-06-17 在 Bluesky 的帖子)
- Google · Google’s Guide to Optimizing for Generative AI Features on Google Search (查看于 2026-11-04,页面没写日期)
- OpenAI · Overview of OpenAI Crawlers (查看于 2026-11-04)
- Perplexity · Perplexity Crawlers (查看于 2026-11-04)
- Anthropic · Does Anthropic crawl data from the web, and how can site owners block the crawler? (查看于 2026-11-04)
- kagentx 评测:案例页的数据,日期写在每个例子里。