robots.txt 的正则表达式

发布于 2024-11-14 18:26:20 字数 648 浏览 2 评论 0原文

我正在尝试设置 robots.txt,但我不确定正则表达式。

我有四个不同的页面,全部以三种不同的语言提供。我想我可以使用正则表达式,而不是列出每个页面乘以 3。

nav.aspx
page.aspx/changelang(可能附加一个查询字符串,例如“?toLang=fr”。)
mypage.aspx?id
login.aspx/logoff (=12346?...等等 - 每次都不同)

!所有四种语言均采用 3 种不同语言,例如:

www.example.com/es/nav.aspx
www.example.com/it/nav.aspx
www.example.com/fr/nav.aspx

现在,我的问题是:以下正则表达式正确吗?

User-Agent: *
Disallow: /*nav\.aspx$
Disallow: /*page.aspx/changelang
Disallow: /*mypage\.aspx?id
Disallow: /*login\.aspx\/logoff

谢谢

I am trying to set up my robots.txt, but I am not sure about the regexps.

I've got four different pages all available in three different languages. Instead of listing each page times 3, I figured I could use a regexp.

nav.aspx

page.aspx/changelang (might have a query string attached such as "?toLang=fr".)

mypage.aspx?id and
login.aspx/logoff (=12346?... etc - different each time)

! All four in 3 different languages, e.g:

www.example.com/es/nav.aspx

www.example.com/it/nav.aspx

www.example.com/fr/nav.aspx

Now, my question is: Is the following regexp correct?

User-Agent: *
Disallow: /*nav\.aspx$
Disallow: /*page.aspx/changelang
Disallow: /*mypage\.aspx?id
Disallow: /*login\.aspx\/logoff

Thanks

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

潇烟暮雨 2024-11-21 18:26:20

robots.txt 中不允许使用正则表达式,但 Googlebot(和其他一些机器人)可以理解一些简单的模式匹配:

您的 robots.txt 应如下所示:

User-agent: *
Disallow: /*nav.aspx$
Disallow: /*page.aspx/changelang
Disallow: /*mypage.aspx?id
Disallow: /*login.aspx/logoff

User-agent 指令小写有效一个。您不必转义 . 或“/”。

您可以在此处了解有关此内容的更多信息:使用 robots.txt 文件阻止或删除页面

Regular Expressions are not allowed in robots.txt, but Googlebot (and some other robots) can understands some simple pattern matching:

Your robots.txt should look like this:

User-agent: *
Disallow: /*nav.aspx$
Disallow: /*page.aspx/changelang
Disallow: /*mypage.aspx?id
Disallow: /*login.aspx/logoff

User-agent directive is valid with lower case a. You don't have to escape . or `/'.

You can read more about this here: Block or remove pages using a robots.txt file

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文