我如何从 mediwiki 获取数据

Question

您好，我正在使用以下 api 从 mediawiki 获取数据。当我复制此 url 并将其粘贴到浏览器中时，会出现 xml 响应。 http://en.wikipedia.org/w/api.php?action=query&prop=revisions&titles=API|Main_Page&rvprop=timestamp|user|comment|content

但是当我尝试使用curl时，它给我错误“脚本应该使用包含联系信息的信息性用户代理字符串，否则它们可能会在没有通知的情况下被IP阻止。”。

我为此使用以下代码。任何人都可以追踪我的错误吗？

$url='http://en.wikipedia.org/w/api.php?action=query&prop=revisions&titles=API|Main_Page&rvprop=timestamp|user|comment|content';
$curl = curl_init();
        curl_setopt($curl, CURLOPT_URL, $url); 
        curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);
        //curl_setopt($curl, CURLOPT_TIMEOUT, 1); 
        $objResponse = curl_exec($curl);
        curl_close($curl);

        echo $objResponse;die;

Answer 1

这将绕过引荐来源网址用户代理检查：

    <?php


    function getwiki($url="", $referer="", $userAgent="") {
        if($url==""||$referer==""||$userAgent=="") { return false;};
        $headers[] = 'Accept: image/gif, image/x-bitmap, image/jpeg, image/pjpeg';
        $headers[] = 'Connection: Keep-Alive';
        $headers[] = 'Content-type: application/x-www-form-urlencoded;charset=UTF-8';
        $user_agent = $userAgent;
        $process = curl_init($url);
        curl_setopt($process, CURLOPT_HTTPHEADER, $headers);
        curl_setopt($process, CURLOPT_HEADER, 0);
        curl_setopt($process, CURLOPT_USERAGENT, $user_agent);
        curl_setopt($process, CURLOPT_REFERER, $referer);
        curl_setopt($process, CURLOPT_TIMEOUT, 30);
        curl_setopt($process, CURLOPT_RETURNTRANSFER, 1);
        curl_setopt($process, CURLOPT_FOLLOWLOCATION, 1);
        $return = curl_exec($process);
        curl_close($process);
        return $return;
    }

    //edited to include Adam Backstrom's sound advice
    echo getwiki('http://en.wikipedia.org/w/api.php?action=query&prop=revisions&titles=API|Main_Page&rvprop=timestamp|user|comment|content', 'http://en.wikipedia.org/', 'Mozilla/5.0 (compatible; YourCoolBot/1.0; +http://yoursite.com/botinfo)');

    ?>

Answer 2

来自 MediaWiki API：快速入门指南：

传递一个正确标识您的客户端的 User-Agent 标头：不要使用客户端库中的默认 User-Agent，而是使用包含客户端名称和版本号的自定义用户代理，例如 MyCuteBot/0.1 .

在 Wikimedia wiki 上，未能提供 User-Agent 标头或提供空或通用标头将导致请求失败并出现 HTTP 403 错误。请参阅元：用户代理策略。其他 MediaWiki 维基可能有类似的政策。

来自 meta:User-Agent 策略：

如果您运行机器人，请发送一个 User-Agent 标头，用于识别机器人并提供某种联系方式，例如：User-Agent: MyCoolTool (+http://example.com/MyCoolToolPage/)