我无法用 BeautifulSoup 刮任何东西

Question

我正在使用 BeautifulSoup 来抓取一些网页内容。

我正在学习这个示例代码，但我总是得到“无”响应。

代码：

import urllib2
from BeautifulSoup import BeautifulSoup

soup = BeautifulSoup(urllib2.urlopen('http://www.velocidadcuchara.com/2011/08/helado-platano-light.html').read())

post = soup.find('div', attrs={'id': 'topmenucontainer'})

print post

知道我做错了什么吗？

谢谢！！

Answer 1

我不认为你做错了什么。

令 BeautifulSoup 感到困惑的是第二个脚本标签。该标签看起来像这样：

<script type='text/javascript'>
<!--//--><![CDATA[//><!--
var arVersion = navigator.appVersion.split("MSIE")
var version = parseFloat(arVersion[1])

function fixPNG(myImage) 
{
    if ((version >= 5.5) && (version < 7) && (document.body.filters)) 
    {
       var imgID = (myImage.id) ? "id='" + myImage.id + "' " : ""
       var imgClass = (myImage.className) ? "class='" + myImage.className + "' " : ""
       var imgTitle = (myImage.title) ? 
                     "title='" + myImage.title  + "' " : "title='" + myImage.alt + "' "
       var imgStyle = "display:inline-block;" + myImage.style.cssText
       var strNewHTML = "<span " + imgID + imgClass + imgTitle
                  + " style=\"" + "width:" + myImage.width 
                  + "px; height:" + myImage.height 
                  + "px;" + imgStyle + ";"
                  + "filter:progid:DXImageTransform.Microsoft.AlphaImageLoader"
                  + "(src=\'" + myImage.src + "\', sizingMethod='scale');\"></span>"
       myImage.outerHTML = strNewHTML     
    }
}
//--><!]]>
</script>

但 BeatifulSoup 似乎认为它仍在注释或其他内容中，并将文件的其余部分作为脚本标签的内容包含在内。

尝试一下：

print str(soup.findAll('script')[1])[:2000]

你就会明白我的意思。

如果删除 CDATA，那么您应该会发现页面解析正确：

soup = BeautifulSoup(
    urllib2.urlopen('http://www.velocidadcuchara.com/2011/08/helado-platano-light.html')
    .read()
    .replace('<![CDATA[', '').replace('<!]]>', ''))

Answer 2

你的 HTML 有点奇怪。 BeautifulSoup 尽力了，但有时它就是无法解析它。

尝试将第一个 元素移动到 内，这可能会有所帮助。

Answer 3

您可以尝试使用 lxml lib。

lxml 文章

from lxml.html import parse
doc = parse('http://java.sun.com').getroot()
post = doc.cssselect('div#topmenucontainer')