python urllib

转载自：http://hi.baidu.com/woshihuanquan/blog/item/5b38e60ea0b090cc7bcbe101.html

 

一。该模块的用途：
1。从制定的URL获取数据
2。对URL字符串进行格式化处理
二。__version__='1.17'的urllib模块中的主要函数和类介绍：
1。函数：
(1)def urlopen(url, data=None, proxies=None)
参数说明：
url                     符合URL规范的字符串（包括http,ftp,gopher,local-file标准)
data                  向指定的URL发送的数据字符串，GET和POST都可，但必须符合标准格式
                         格式为key=value&key1=value1....
proxies              代理服务器地址字典，如果未指定，在WINDOWS平台上则依据IE的设置
                         不支持需要验证的代理服务器
                          例如:proxies = {'http': 'http://www.someproxy.com:3128'}
                          该例子表示一个http代理服务器http://www.someproxy.com:3128
函数实现说明:
                          该函数使用类FancyURLopener从URLopener继承来的open方法执行具体的操作。

返回值:
                         返回一个类似文件对象的对象(file_like) object
                          该对象拥有的方法为
                          read()
                          readline()
                          readlines()
                          fileno()
                          close()
                          以上方法同file object的类似方法的使用方法基本一致
                          info()返回从服务器传回的MIME标签头
                          geturl()返回真实的URL,之所以称为真实，是因为对于某些重定向的URL,将返回被重定后的。

(2)def urlretrieve(url, filename=None, reporthook=None, data=None):
参数说明：
url                         符合URL规范的字符串
filename                本地文件路径的字符串，从URL返回的数据将保存在该文件中,如果设置为None
                              则生成一个临时文件

reporthook 一个函数引用，自己可以任意定义该函数的行为，只需要保证函数有三个参数
                             urlretrieve为这个函数传递的三个参数的含义为:
                             第一个参数为目前为止传递的数据块数量
                             第二个参数为每个数据块的大小，单位为byte
                             第三个参数文件总的大小（某些时候可能为-1)
data                      向指定的URL发送的数据字符串，GET和POST都可，但必须符合标准格式
                             格式为key=value&key1=value1....
函数实现说明:
                             该函数使用类FancyURLopener从URLopener继承来的retrieve方法执行具体的操作。
返回值：
                             返回一个元组 (filename, headers)
                             filename为参数中的 filename
                             headers 为从服务器传回的MIME标签头

(3)def urlcleanup():
参数说明：                 无参数
函数实现说明：该函数使用类FancyURLopener从URLopener继承来的cleanup方法执行具体的操作。
                                   清除使用urlopen或urlretrieve后产生的缓存文件
返回值:                       无返回值

(4)def quote(s, safe = '/'):
参数说明：
s                需要转化的字符串
safe           需要保留不转化的字符序列
函数实现说明:
                  根据rfc 2396规定，URL保留字符为
                  reserved             = ";" | "/" | "?" | ":" | "@" | "&" | "=" | "+" |"$" | ","
                  但是这些字符并不是在所有类型的URL中都保留不转化，
                  所以要求使用该函数的时候在转化不同的URL时设置不同的保留字符
                  其中在任意部分都不转化的字符为:大小写字母，数字，'_','.','-'
                  对于汉字，也可以使用，但要加上相应的编码，比如quote(u'蟒蛇'.encode('gb2312'))
        
                  该函数会将所有非保留的字符转化成%xx这样的形式，其中xx为两位的十六进制数      
返回值：
                  转化后的字符串

(5)def quote_plus(s, safe = ''):
参数说明：
s              需要转化的字符串
safe 需要保留不转化的字符序列
函数实现说明：
                与quote函数基本一致，只是把参数s中的空格转化成'+',而不是%20
返回值：
                转化后的字符串

(6)def unquote(s):
参数说明：
s             需要反向转化的字符串
函数实现说明：
              与quote作用相反的解析函数
返回值：
               转化后的字符串

(7)def unquote_plus(s):
s             需要反向转化的字符串
函数实现说明：
               与quote_plus作用相反的解析函数
返回值：
                转化后的字符串

(8)def urlencode(query,doseq=0):
参数说明：
query         可以是一个由二元元组做元素的元组，也可以是一个字典
doseq         如何对参数字符串化
函数实现说明：
                  将成对的数据按照URL中的要求组成一个参数字符串
                  例如:
                 query = (('name','cs'),('age','1'),('height','2'))
                  re = urllib.urlencode(query)
                  print re
                  query1 = {'name':'cs','age':'1','height':'2'}
                  print urllib.urlencode(query1)
                  这两个的效果基本一样,但字典类型会自动排序,
                  输出结果为:
                  name=cs&age=1&height=2
                  age=1&name=cs&height=2

                 doseq参数的意义，文档太简短，尝试了一下，发现在如何字符串化上不同
                  query1 = {'name':'cs','age':('a','b'),'height':'1'}
                  print urllib.urlencode(query1,1)
                  print urllib.urlencode(query1,0)
                  输出结果为:
                  age=a&age=b&name=cs&height=1
                  age=%28%27a%27%2C+%27b%27%29&name=cs&height=1
返回值:
                  经过拚接的参数字符串

(9)def url2pathname(pathname):
参数说明：
pathname        URL字符串
函数实现说明:
                       该函数将根据操作系统确定如何转化URL中的'/'为'\' ，
                       然后其他的就和quote行为一样了(就是将字符串传递给quote来处理的)
返回值:
                       符合本地文件路径格式的字符串


(10)def pathname2url(pathname):
参数说明：
pathname 符合本地文件路径命名的格式的字符串
函数实现说明:
                       该函数将根据操作系统确定如何转化URL中的'/'为'\' ，
                       然后其他的就和unquote行为一样了(就是将字符串传递给unquote来处理的)
返回值:
                       符合URL标准的字符串

（注：9，10这两个函数一般不直接用，而是在提供的以统一的方法定位网络和本地资源的接口函数中使用）

(11)def splittag(url):
(12)def localhost():
(13)def thishost():
(14)def ftperrors():
(15)def unwrap(url):
(16)def splittype(url):
(17)def splithost(url):
(18)def splituser(host):
(19)def splitpasswd(user):
(20)def splitport(host):
(21)def splitnport(host, defport=-1):
(22)def splitquery(url):
(23)def splitattr(url):
(24)def splitvalue(attr):
(25)def splitgophertype(selector):
(26)def getproxies_environment():

(11)---(26)这些函数都是作为工具函数来使用的，主要用来对URL中的数据进行分割，如果需要添加新的协议，需要对这些函数做修改，其他的时候不会直接使用。

2。类:

（1）class URLopener:
类说明:
                该类只是一个基础类，提供了基本的和服务器打交道的方法,缺乏具体的错误处理方法，
                如果需要类对具体的错误具有相应的处理功能，可以从该类继承,
                然后在子类里添加相应的错误处理方法.

该类的方法:
               def __init__(self, proxies=None, **x509):
               def close(self):
                     close只是调用了cleanup方法
               def cleanup(self):
                     如果在子类中覆写了该方法，需要注意，不能在该方法中
                     使用任何全局对象，或者从其他模块引入的对象
                     因为该方法不能保证在其他的对象销毁后不被调用
    
               def addheader(self, *args):
                     添加MIME标签头的内容
               def open(self, fullurl, data=None):
                     与urlopen函数的功能基本一样
               def open_unknown(self, fullurl, data=None):
               def open_unknown_proxy(self, proxy, fullurl, data=None):
                     在open方法里，如果传入的url（可能是代理服务器）不能被自动识别出来，
                     则把相应的url传入open_unknown或open_unknown_proxy
                     然后引发一个异常
    
               def retrieve(self, url, filename=None, reporthook=None, data=None):
                     与urlretrieve函数的基本功能一样

               def http_error(self, url, fp, errcode, errmsg, headers, data=None):
               def http_error_default(self, url, fp, errcode, errmsg, headers):
                     错误处理方法将去寻找形如http_error_‘errorcode’的错误处理方法
                     添加错误处理方法:应该在该该类的子类中添加这种形式的错误处理方法
                     可以参考类FancyURLopener中的错误处理方法
  
              def open_http(self, url, data=None):
               def open_gopher(self, url):
               def open_file(self, url):
               def open_local_file(self, url):
               def open_ftp(self, url):
               def open_data(self, url, data=None):
                     在open方法里，根据不同的url将使用上边这些方法打开
                     如果要加入新的协议，需要在子类中添加一个open_XXX的方法
                     然后修改splittype，splithost等工具函数，添加相关的信息

(2)class FancyURLopener(URLopener):
类说明:
                 为HTTP协议增加了错误处理方法，如果需要增加自己的错误处理方法
                 只需要添加形如http_error_%d的方法，%d应该为错误号
                 编写自己的URL处理类可以参考该类
该类的方法:

                 这些错误处理方法，会被URLopener类的错误处理函数自动搜索到
                 def __init__(self, *args, **kwargs):
                 def http_error_default(self, url, fp, errcode, errmsg, headers):
                 def http_error_302(self, url, fp, errcode, errmsg, headers, data=None):
                 def redirect_internal(self, url, fp, errcode, errmsg, headers, data):

                       http协议返回的是302错误，然后确定不是500错误后，使用方法redirect_internal
                 def http_error_301(self, url, fp, errcode, errmsg, headers, data=None):
                 def http_error_303(self, url, fp, errcode, errmsg, headers, data=None):
                 def http_error_307(self, url, fp, errcode, errmsg, headers, data=None):
                 def http_error_401(self, url, fp, errcode, errmsg, headers, data=None):
                 def http_error_407(self, url, fp, errcode, errmsg, headers, data=None):
                 def retry_proxy_http_basic_auth(self, url, realm, data=None):
                 def retry_proxy_https_basic_auth(self, url, realm, data=None):
                 def retry_http_basic_auth(self, url, realm, data=None):
                 def retry_https_basic_auth(self, url, realm, data=None):
                 def get_user_passwd(self, host, realm, clear_cache = 0):
                def prompt_user_passwd(self, host, realm):
                       当访问需要被授权时,该类将使用该方法,让用户输入认证信息
                       从该类继承的子类,可以覆写该方法,以实现更多的控制功能
                       以下为该方法的源代码
                       def prompt_user_passwd(self, host, realm):
                       """Override this in a GUI environment!"""
                       import getpass
                       try:
                          user = raw_input("Enter username for %s at %s: " % (realm,host))
                          passwd = getpass.getpass("Enter password for %s in %s at %s: " %(user, realm, host))
                          return user, passwd
                      except KeyboardInterrupt:
                          print
                          return None, None