数据抓取问题

Question

我正在从 Facebook 页面上抓取墙上帖子的数据，以下是网址：

http://www.facebook.com/GMHTheBook?v=wall&ref=ts#!/GMHTheBook?v=wall&ref=ts

我成功抓取了所有内容可见的墙柱使用 CURL。

问题：

在可见的墙帖末尾，有一个较早的帖子链接，单击该链接后会显示更多墙帖。现在，我如何手动点击该链接来显示更多墙上帖子并废弃这些帖子？

有什么解决方案使用任何方法吗？我正在使用 CURL，但我希望有任何解决方案来处理这种情况？

更新：

现在我使用此代码来获取所有数据，找到下一个链接并获取该网址的数据等等，这是代码：

ini_set('display_errors', true);
error_reporting(E_ALL);

$data = json_decode(file_get_contents(($url)), true);

$names = array();
$stories = array();

foreach($data['data'] as $post)
{
    $names[] = $post['from']['name'];
    $stories[] = $post['message'];
}

$url = $data['paging']['next'];

// this is meant to scrap data recurssively from the next links
while($url !== '')
{
    $url = $data['paging']['next'];
    $data = json_decode(file_get_contents(($url)), true);

    foreach($data['data'] as $post)
    {
        $names[] = $post['from']['name'];
        $stories[] = $post['message'];
    }

    $url = urldecode($data['paging']['next']);
    echo $url . '<br />';
}


for($j = 0; $j < count($names); $j++)
{
  $data .= $names[$j] . '|' . $stories[$j] . "\n";
}

$h = fopen("data.txt", "a+");
fwrite($h, $data);
fclose($h);

但问题是脚本继续运行，根本没有输出，也没有创建文件。我也将脚本时间设置设置为更高的值。 allow_url_fopen 也设置为打开。脚本中有什么问题或者我可能没有以正确的方式进行递归？有什么解决方案/替代方案吗？

Answer 1

您应该使用图形 API。您正在抓取的数据以 JSON 格式提供，位于

• http://graph.facebook.com/GMHTheBook/feed

并包含用于获取上一页/下一页的链接，例如分页。

示例：

$data = json_decode(file_get_contents(($url)));
foreach($data->data as $post) {
    echo $post->from->name, ': ',
         $post->message,
         PHP_EOL;
}

上面将输出墙上的所有帖子。对于分页，

echo $data->paging->previous;
echo $data->paging->next;

这样做将输出两个 URL。您所要做的就是再次加载它们。

Answer 2

按钮/链接可能会启动一个 XMLHttpRequest，因此请使用 firebug/开发人员控制台/无论您使用什么，在浏览器中查看它正在请求什么 url 以及使用什么 HTTP 标头等。然后只需使用 cURL 执行相同的请求，您就可以了知道了？

Answer 3

http://www.facebook.com/ajax/stream/profile.php?__a=1&profile_id=139878432710216&viewer_id=(your facebook id)&filter=1&max_time=1283023194&_log_clicktype=Filter%20Stories%20or%20Pagination&ajax_log=1

它是通过ajax加载的。您还需要弄清楚这些变量。最长时间可能是从什么时候开始显示帖子。

好的，上面的链接可以更短（相同的输出）...

http://www.facebook.com/ajax/stream/profile.php?__a=1&profile_id=139878432710216&max_time=1283023194