Question

pycurl（http://pycurl.sourceforge.net）是一个用C语言写的libcurl Python实现，功能非常强大，支持的操作协议有FTP、HTTP、HTTPS、TELNET等，可以理解成Linux下curl命令功能的Python封装，简单易用。本节通过调用pycurl提供的方法，实现探测Web服务质量的情况，比如响应的HTTP状态码、请求延时、HTTP头信息、下载速度等，利用这些信息可以定位服务响应慢的具体环节，下面详细进行说明。

pycurl模块的安装方法如下：

easy_install pycurl   #easy_install安装方法
pip install pycurl   #pip安装方法
#源码安装方法
# 要求curl-config包支持，需要源码方式重新安装curl
# wget http：//curl.haxx.se/download/curl-7.36.0.tar.gz
# tar -zxvf curl-7.36.0.tar.gz
# cd curl-7.36.0
# ./configure
# make && make install
# export LD_LIBRARY_PATH=/usr/local/lib
#
# wget https：//pypi.python.org/packages/source/p/pycurl/pycurl-7.19.3.1.tar.gz --no-check-certificate
# tar -zxvf pycurl-7.19.3.1.tar.gz
# cd pycurl-7.19.3.1
# python setup.py install --curl-config=/usr/local/bin/curl-config

校验安装结果如下：

>>> import pycurl
>>> pycurl.version
'PycURL/7.19.3.1 libcurl/7.36.0 OpenSSL/1.0.1e zlib/1.2.3'

2.4.1　模块常用方法说明

pycurl.Curl类实现创建一个libcurl包的Curl句柄对象，无参数。更多关于libcurl包的介绍见http://curl.haxx.se/libcurl/c/libcurl-tutorial.html。下面介绍Curl对象几个常用的方法。

close方法，对应libcurl包中的curl_easy_cleanup方法，无参数，实现关闭、回收Curl对象。

perform方法，对应libcurl包中的curl_easy_perform方法，无参数，实现Curl对象请求的提交。

setopt（option，value）方法，对应libcurl包中的curl_easy_setopt方法，参数option是通过libcurl的常量来指定的，参数value的值会依赖option，可以是一个字符串、整型、长整型、文件对象、列表或函数等。下面列举常用的常量列表：

c = pycurl.Curl   #创建一个curl对象
c.setopt（pycurl.CONNECTTIMEOUT， 5）   #连接的等待时间，设置为0则不等待
c.setopt（pycurl.TIMEOUT， 5）   #请求超时时间
c.setopt（pycurl.NOPROGRESS， 0）   #是否屏蔽下载进度条，非0则屏蔽
c.setopt（pycurl.MAXREDIRS， 5）   #指定HTTP重定向的最大数
c.setopt（pycurl.FORBID_REUSE， 1）   #完成交互后强制断开连接，不重用
c.setopt（pycurl.FRESH_CONNECT，1）   #强制获取新的连接，即替代缓存中的连接
c.setopt（pycurl.DNS_CACHE_TIMEOUT，60）   #设置保存DNS信息的时间，默认为120秒
c.setopt（pycurl.URL，"http：//www.baidu.com"）   #指定请求的URL
c.setopt（pycurl.USERAGENT，"Mozilla/5.2 （compatible； MSIE 6.0； Windows NT 5.1； SV1； .NET CLR 1.1.4322； .NET CLR 2.0.50324）"）   #配置请求HTTP头的User-Agent
c.setopt（pycurl.HEADERFUNCTION， getheader）  #将返回的HTTP HEADER定向到回调函数getheader
c.setopt（pycurl.WRITEFUNCTION， getbody）   #将返回的内容定向到回调函数getbody
c.setopt（pycurl.WRITEHEADER， fileobj）    #将返回的HTTP HEADER定向到fileobj文件对象
c.setopt（pycurl.WRITEDATA， fileobj）   #将返回的HTML内容定向到fileobj文件对象

getinfo（option）方法，对应libcurl包中的curl_easy_getinfo方法，参数option是通过libcurl的常量来指定的。下面列举常用的常量列表：

c = pycurl.Curl   #创建一个curl对象
c.getinfo（pycurl.HTTP_CODE）   #返回的HTTP状态码
c.getinfo（pycurl.TOTAL_TIME）   #传输结束所消耗的总时间
c.getinfo（pycurl.NAMELOOKUP_TIME）   #DNS解析所消耗的时间
c.getinfo（pycurl.CONNECT_TIME）   #建立连接所消耗的时间
c.getinfo（pycurl.PRETRANSFER_TIME）   #从建立连接到准备传输所消耗的时间
c.getinfo（pycurl.STARTTRANSFER_TIME）   #从建立连接到传输开始消耗的时间
c.getinfo（pycurl.REDIRECT_TIME）   #重定向所消耗的时间
c.getinfo（pycurl.SIZE_UPLOAD）   #上传数据包大小
c.getinfo（pycurl.SIZE_DOWNLOAD）   #下载数据包大小
c.getinfo（pycurl.SPEED_DOWNLOAD）   #平均下载速度
c.getinfo（pycurl.SPEED_UPLOAD）   #平均上传速度
c.getinfo（pycurl.HEADER_SIZE）   #HTTP头部大小

我们利用libcurl包提供的这些常量值来达到探测Web服务质量的目的。

2.4.2　实践：实现探测Web服务质量

HTTP服务是最流行的互联网应用之一，服务质量的好坏关系到用户体验以及网站的运营服务水平，最常用的有两个标准，一为服务的可用性，比如是否处于正常提供服务状态，而不是出现404页面未找到或500页面错误等；二为服务的响应速度，比如静态类文件下载时间都控制在毫秒级，动态CGI为秒级。本示例使用pycurl的setopt与getinfo方法实现HTTP服务质量的探测，获取监控URL返回的HTTP状态码，HTTP状态码采用pycurl.HTTP_CODE常量得到，以及从HTTP请求到完成下载期间各环节的响应时间，通过pycurl.NAMELOOKUP_TIME、pycurl.CONNECT_TIME、pycurl.PRETRANSFER_TIME、pycurl.R等常量来实现。另外通过pycurl.WRITEHEADER、pycurl.WRITEDATA常量得到目标URL的HTTP响应头部及页面内容。实现源码如下：

【/home/test/pycurl/simple1.py】

# -*- coding： utf-8 -*-
import os，sys
import time
import sys
import pycurl
URL="http：//www.google.com.hk"   #探测的目标URL
c = pycurl.Curl   #创建一个Curl对象
c.setopt（pycurl.URL， URL）   #定义请求的URL常量
c.setopt（pycurl.CONNECTTIMEOUT， 5）   #定义请求连接的等待时间
c.setopt（pycurl.TIMEOUT， 5）   #定义请求超时时间
c.setopt（pycurl.NOPROGRESS， 1）   #屏蔽下载进度条
c.setopt（pycurl.FORBID_REUSE， 1）   #完成交互后强制断开连接，不重用
c.setopt（pycurl.MAXREDIRS， 1）   #指定HTTP重定向的最大数为1
c.setopt（pycurl.DNS_CACHE_TIMEOUT，30）   #设置保存DNS信息的时间为30秒
#创建一个文件对象，以”wb”方式打开，用来存储返回的http头部及页面内容
indexfile = open（os.path.dirname（os.path.realpath（__file__））+"/content.txt"， "wb"）
c.setopt（pycurl.WRITEHEADER， indexfile）   #将返回的HTTP HEADER定向到indexfile文件对象
c.setopt（pycurl.WRITEDATA， indexfile）   #将返回的HTML内容定向到indexfile文件对象
try：
  c.perform   #提交请求
except Exception，e：
  print "connecion error："+str（e）
  indexfile.close
  c.close
  sys.exit
NAMELOOKUP_TIME =  c.getinfo（c.NAMELOOKUP_TIME）   #获取DNS解析时间
CONNECT_TIME =  c.getinfo（c.CONNECT_TIME）   #获取建立连接时间
PRETRANSFER_TIME =  c.getinfo（c.PRETRANSFER_TIME）   #获取从建立连接到准备传输所消
                                    #耗的时间
STARTTRANSFER_TIME = c.getinfo（c.STARTTRANSFER_TIME）   #获取从建立连接到传输开始消
                                     #耗的时间
TOTAL_TIME = c.getinfo（c.TOTAL_TIME）   #获取传输的总时间
HTTP_CODE =  c.getinfo（c.HTTP_CODE）   #获取HTTP状态码
SIZE_DOWNLOAD =  c.getinfo（c.SIZE_DOWNLOAD）   #获取下载数据包大小
HEADER_SIZE = c.getinfo（c.HEADER_SIZE）   #获取HTTP头部大小
SPEED_DOWNLOAD=c.getinfo（c.SPEED_DOWNLOAD）   #获取平均下载速度
#打印输出相关数据
print "HTTP状态码：%s" %（HTTP_CODE）
print "DNS解析时间：%.2f ms"%（NAMELOOKUP_TIME*1000）
print "建立连接时间：%.2f ms" %（CONNECT_TIME*1000）
print "准备传输时间：%.2f ms" %（PRETRANSFER_TIME*1000）
print "传输开始时间：%.2f ms" %（STARTTRANSFER_TIME*1000）
print "传输结束总时间：%.2f ms" %（TOTAL_TIME*1000）
print "下载数据包大小：%d bytes/s" %（SIZE_DOWNLOAD）
print "HTTP头部大小：%d byte" %（HEADER_SIZE）
print "平均下载速度：%d bytes/s" %（SPEED_DOWNLOAD）
#关闭文件及Curl对象
indexfile.close
c.close

代码的执行结果如图2-9所示。

图2-9　探测到的Web服务质量

查看获取的HTTP文件头部及页面内容文件content.txt，如图2-10所示。

图2-10　content.txt截图

参考提示

2.4.1节pycurl模块的常用类与方法说明参考官网http://pycurl.sourceforge.net/doc/index.html。