lxml 是否可以以不区分大小写的方式工作？

Question

我正在尝试从任意网站抓取 META 关键字和描述标签。显然我无法控制该网站，所以必须接受我所得到的。它们的标签和属性有多种大小写，这意味着我需要不区分大小写。我不敢相信 lxml 作者竟然如此顽固地坚持完全强制遵守标准，因为它排除了对其库的大部分使用。

我希望能够说 doc.cssselect('meta[name=description]') （或一些 XPath 等效项），但这不会捕获 标签由于大写 D。

我目前正在使用它作为解决方法，但这太可怕了！

for meta in doc.cssselect('meta'):
    name = meta.get('name')
    content = meta.get('content')

    if name and content:
        if name.lower() == 'keywords':
            keywords = content
        if name.lower() == 'description':
            description = content

标签名称 meta 似乎不区分大小写，但属性却不然。更烦人的是 meta 也区分大小写！

Answer 1

属性的值必须区分大小写。

您可以使用任意正则表达式来选择元素：

#!/usr/bin/env python
from lxml import html

doc = html.fromstring('''
    <meta name="Description">
    <meta name="description">
    <META name="description">
    <meta NAME="description">
''')
for meta in doc.xpath('//meta[re:test(@name, "^description$", "i")]',
                      namespaces={"re": "http://exslt.org/regular-expressions"}):
    print html.tostring(meta, pretty_print=True),

输出：

<meta name="Description">
<meta name="description">
<meta name="description">
<meta name="description">

Answer 2

lxml 是一个 XML 解析器。 XML 区分大小写。您正在解析 HTML，因此您应该使用 HTML 解析器。 BeautifulSoup 很受欢迎。它唯一的缺点是速度可能很慢。

Answer 3

您可以使用

doc.cssselect.xpath("//meta[translate(@name,
    'ABCDEFGHJIKLMNOPQRSTUVWXYZ', 'abcdefghjiklmnopqrstuvwxyz')='description']")

它将“name”的值转换为小写，然后进行匹配。

另请参阅：

• XPath：如何进行小写调用在xpath中
• Xpath翻译函数将东西变成小写？