使用 c++ 解析 robots.txt 文件

发布于 2024-09-24 10:53:13 字数 77 浏览 4 评论 0原文

是否有任何库可以解析robots.txt,如果它不存在,我如何使用 boost regex 在 C++ 中编写它?

is there is any library to parse robots.txt, and if it does not exist, how can i write it in c++ with boost regex?

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

梦幻的味道 2024-10-01 10:53:13

查看示例 在 Boost Regex 库中。如果您编辑问题以更好地了解您在 robots.txt 文件中查找的内容,有人可以帮助您使用正则表达式语法。

例如,如果您尝试查找文件中所有用户代理的名称,则可以使用如下表达式。

boost::regex expression("^User-agent:\s*(.*)");

Check out the examples in the Boost Regex library. If you edit your question to give a better idea of what exactly you are looking for in your robots.txt file, someone can help you with the Regex syntax.

For example, if you are trying to find the names of all User-agents in the file, you could use an expression like this.

boost::regex expression("^User-agent:\s*(.*)");
~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文