Perl 网络抓取工具，从 DIV 中提取仅具有“样式”的内容标签？

Question

我被困在这个问题上一整天了..我对 Perl 中的解析/抓取还很陌生，但我以为我已经掌握了它直到这..我一直在尝试使用不同的 Perl 模块（tokeparser，tokeparser：简单，网络解析器和其他一些）...我有以下字符串（实际上是整个 HTML 页面，但这只是显示相关部分..我正在尝试提取“text1”和“text1_a”。等等（“text1”等只是作为示例放在那里）...所以基本上我认为我需要先从每个中提取这个：

"<span style="float: left;">test1</span>test1_a"

然后解析它以获得两个值..我不'不知道为什么这给我带来了这么多麻烦，因为我以为我可以在 tokeparser:simple 中完成它，但我似乎无法返回 DIV 内部的值，我想知道它是否因为它包含另一组标签（标签）

字符串（代表html网页）

<div id="dataID" style="font-size: 8.5pt; width: 250px; color: rgb(0, 51, 102); margin-right: 10px; float: right;">
<div style="width: 250px; text-align: right;"><span style="float: left;">test1</span>test1_a</div>
<div style="width: 250px; text-align: right;"><span style="float: left;">test2</span>test2_a</div>
<div style="width: 250px; text-align: right;"><span style="float: left;">test3</span>test3_a</div>

我在perl web解析器模块中的尝试：

my $uri  = URI->new($theurl);

my $proxyscraper = scraper {
process 'div[style=~"width: 250px; text-align: right;"]',
'proxiesextracted[]' => scraper {
process '.style',  style => 'TEXT';
};
result 'proxiesextracted';

我只是盲目地试图理解web：parser模块，因为基本上没有关于它的文档，所以我只是从他们在模块中包含的示例以及我在互联网上找到的示例..非常感谢任何建议。

Answer 1

如果你想要一个 DOM 解析器（更容易使用树浏览，稍微慢一些）。尝试 HTML::TreeBuilder

HTML::Element 手册页（包含模块）

另请注意，look_down 认为“”（空字符串）和 undef 是

不同的东西，在属性值中。
所以这个：

 $h->look_down("alt", "")

让我们得出你的答案：

use HTML::TreeBuilder;

# check html::treebuilder pod, there are a few ways to construct (file, fh, html string)
my $tb = HTML::TreeBuilder->new_from_(constructor)

$tb->look_down( _tag => 'div', style => '' )->as_text;

Answer 2

使用 Web::Scraper，尝试：

#!/usr/bin/perl

use strict;
use warnings;
use Data::Dumper::Simple;
use Web::Scraper;

$Data::Dumper::Indent = 1;

my $html = '<div id="dataID" style="font-size: 8.5pt; width: 250px; color: rgb(0, 51, 102); margin-right$
<div style="width: 250px; text-align: right;"><span style="float: left;">test1</span>test1_a</div>
<div style="width: 250px; text-align: right;"><span style="float: left;">test2</span>test2_a</div>
<div style="width: 250px; text-align: right;"><span style="float: left;">test3</span>test3_a</div>';


my $proxyscraper = scraper {
    process '//div[@id="dataID"]/div', 'proxiesextracted[]' => scraper {
       process '//span', 'data1' => 'TEXT';
       process '//text()', 'data2' => 'TEXT';
     }
};

my $results = $proxyscraper->scrape( $html );

print Dumper($results);

它给出：

$results = {
  'proxiesextracted' => [
    {
      'data2' => 'test1_a',
      'data1' => 'test1'
    },
    {
      'data2' => 'test2_a',
      'data1' => 'test2'
    },
    {
      'data2' => 'test3_a',
      'data1' => 'test3'
    }
  ]
};

希望这有帮助