零基础写python爬虫之urllib2中的两个重要概念：Openers和Handlers
在开始后面的内容之前，先来解释一下urllib2中的两个个方法：info&/ geturl
urlopen返回的应答对象response(或者HTTPError实例)有两个很有用的方法info()和geturl()
1.geturl()：
这个返回获取的真实的URL，这个很有用，因为urlopen(或者opener对象使用的)或许会有重定向。获取的URL或许跟请求URL不同。
以人人中的一个超级链接为例,
我们建一个urllib2_test10.py来比较一下原始URL和重定向的链接：
from urllib2 import Request, urlopen, URLError, HTTPError&
old_url = '/b1UZuP'&
req = Request(old_url)&
response = urlopen(req)&&&
print 'Old url :' + old_url&
print 'Real url :' + response.geturl()&
运行之后可以看到真正的链接指向的网址：
这个返回对象的字典对象，该字典描述了获取的页面情况。通常是服务器发送的特定头headers。目前是httplib.HTTPMessage 实例。
经典的headers包含"Content-length"，"Content-type"，和其他内容。
我们建一个urllib2_test11.py来测试一下info的应用：
from urllib2 import Request, urlopen, URLError, HTTPError&
old_url = ''&
req = Request(old_url)&
response = urlopen(req)&&&
print 'Info():'&
运行的结果如下，可以看到页面的相关信息：
下面来说一说urllib2中的两个重要概念：Openers和Handlers。
1.Openers：
当你获取一个URL你使用一个opener(一个urllib2.OpenerDirector的实例)。
正常情况下，我们使用默认opener：通过urlopen。
但你能够创建个性的openers。
2.Handles：
Openers使用处理器handlers，所有的“繁重”工作由handlers处理。
每个handlers知道如何通过特定协议打开URLs，或者如何处理URL打开时的各个方面。
例如HTTP重定向或者HTTP cookies。
如果你希望用特定处理器获取URLs你会想创建一个openers，例如获取一个能处理cookie的opener，或者获取一个不重定向的opener。
要创建一个 opener，可以实例化一个OpenerDirector，
然后调用.add_handler(some_handler_instance)。
同样，可以使用build_opener，这是一个更加方便的函数，用来创建opener对象，他只需要一次函数调用。
build_opener默认添加几个处理器，但提供快捷的方法来添加或更新默认处理器。
其他的处理器handlers你或许会希望处理代理，验证，和其他常用但有点特殊的情况。
install_opener 用来创建（全局）默认opener。这个表示调用urlopen将使用你安装的opener。
Opener对象有一个open方法。
该方法可以像urlopen函数那样直接用来获取urls：通常不必调用install_opener，除了为了方便。
说完了上面两个内容，下面我们来看一下基本认证的内容，这里会用到上面提及的Opener和Handler。
Basic Authentication 基本验证
为了展示创建和安装一个handler，我们将使用HTTPBasicAuthHandler。
当需要基础验证时，服务器发送一个header(401错误码) 请求验证。这个指定了scheme 和一个‘realm'，看起来像这样：Www-authenticate: SCHEME realm="REALM".
Www-authenticate: Basic realm="cPanel Users"
客户端必须使用新的请求，并在请求头里包含正确的姓名和密码。
这是“基础验证”，为了简化这个过程，我们可以创建一个HTTPBasicAuthHandler的实例，并让opener使用这个handler就可以啦。
HTTPBasicAuthHandler使用一个密码管理的对象来处理URLs和realms来映射用户名和密码。
如果你知道realm(从服务器发送来的头里)是什么，你就能使用HTTPPasswordMgr。
通常人们不关心realm是什么。那样的话，就能用方便的HTTPPasswordMgrWithDefaultRealm。
这个将在你为URL指定一个默认的用户名和密码。
这将在你为特定realm提供一个其他组合时得到提供。
我们通过给realm参数指定None提供给add_password来指示这种情况。
最高层次的URL是第一个要求验证的URL。你传给.add_password()更深层次的URLs将同样合适。
说了这么多废话，下面来用一个例子演示一下上面说到的内容。
我们建一个urllib2_test12.py来测试一下info的应用：
# -*- coding: utf-8 -*-&
import urllib2&
# 创建一个密码管理者&
password_mgr = urllib2.HTTPPasswordMgrWithDefaultRealm()&
# 添加用户名和密码&
top_level_url = ""&
# 如果知道 realm, 我们可以使用他代替 ``None``.&
# password_mgr.add_password(None, top_level_url, username, password)&
password_mgr.add_password(None, top_level_url,'why', '1223')&
# 创建了一个新的handler&
handler = urllib2.HTTPBasicAuthHandler(password_mgr)&
# 创建 "opener" (OpenerDirector 实例)&
opener = urllib2.build_opener(handler)&
a_url = '/'&
# 使用 opener 获取一个URL&
opener.open(a_url)&
# 安装 opener.&
# 现在所有调用 urllib2.urlopen 将用我们的 opener.&
urllib2.install_opener(opener)&
注意：以上的例子我们仅仅提供我们的HHTPBasicAuthHandler给build_opener。
默认的openers有正常状况的handlers：ProxyHandler，UnknownHandler，HTTPHandler，HTTPDefaultErrorHandler， HTTPRedirectHandler，FTPHandler， FileHandler， HTTPErrorProcessor。
代码中的top_level_url 实际上可以是完整URL(包含"http:"，以及主机名及可选的端口号)。
也可以是一个“authority”(即主机名和可选的包含端口号)。
例如：“” or “:8080”。
后者包含了端口号。
如果您喜欢本文请分享给您的好友，谢谢！
下一篇：没有了
评论列表（网友评论仅供网友表达个人看法，并不表明本站同意其观点或证实其描述）urllib2与urllib一些常用方法的比较 -- 简明现代魔法酷勤网 C 程序员的那点事！
当前位置： >
浏览次数：次
最近在用 Python 封装一个内部 RESTful API，所以用到urllib模块，结果发现连 Request 对象都不支持，那还玩个毛，于是我惊喜地发现还有一个urllib2，嗯，居然自带 Request，连httplib都可以不用了，真好哇，结果发现尼玛竟然只支持GET/POST，想要发其他 HTTP Request 比如DELETE/PUT的话，要不就还是用回httplib，要不得用。
另外，从包名来说，照理urllib2应该是个升级版吧，结果发现有些 urllib 里用得好好的方法比如urlquote、urlencode在urllib2里又没了。这特么是在逗我？搜了一下发现，原来 Python 2 时代的 Best Practice 是两个模块一起用，呃&我也承认自己的智商不够，可是这种搞法是不是太乱了点。
可能也 Python 的开发者觉得这个状况太莫名奇妙，于是 Python 3 重新整合成了唯一的urllib，不过。Python 的粉丝们估计觉得这种搞法依然稀烂，简直特么不是给人用的，所以有人自己写了个模块，口号是 HTTP For Humans ，感觉简直是嘲讽全开啊。
这方面 Perl 就比较鸡贼了，你要玩儿 HTTP 客户端是吧？标准库里没有哦，电池不内置哦，自己去写吧，于是催生出了几乎有标准库地位的LWP::UserAgent、HTTP::Request等，使用起来思路是很清晰的。我在当初用 Perl 封装 API 的时候一点都没觉得复杂。
当然，我也不是说 Python 不好，Python好的地方多了去了，很多第三方库都是神器，何况类似的这种历史包袱从整体上说 Perl 比 Python 还要重，只是无论哪种语言都最常用的那些库，比如文件系统、数据库、HTTP请求等，我在当初学 Perl 都没有这方面的迷惑， 而一个风评比 鬼畜Perl 要简洁优雅的语言（喷 Perl 最多的大概就是 Python 的使用者了），却在这里有些混乱，的确是大出我意料之外& 所以编程语言语言战争这种事情，真的是很无谓，在什么合适的地方用合适的语言就好了，喷个锤子。
& 相关主题：Python库urllib与urllib2主要区别分析
作为一个Python菜鸟，之前一直懵懂于urllib和urllib2，以为2是1的升级版。今天看到老外写的一篇《Python: difference between urllib and urllib2》才明白其中的区别 You might be intrigued by the existence of two separate URL modules in Python -url
作为一个Python菜鸟，之前一直懵懂于urllib和urllib2，以为2是1的升级版。今天看到老外写的一篇《Python: difference between urllib and urllib2》才明白其中的区别
You might be intrigued by the existence of two separate URL modules in Python -urllib and urllib2. Even more intriguing: they are not alternatives for each other. So what is the difference between urllib and urllib2, and do we need them both?
你可能对于Python中两个独立存在的-urllib2和-urllib2感到好奇。更有趣的是：它们并不是可以相互代替的。那么这两个模块间的区别是什么，并且这两个我们都需要吗？
urllib and& urllib2are both Python modules that do URL request related stuff but offer different functionalities. Their two most significant differences are listed below:
urllib 和urllib2都是接受URL请求的相关模块，但是提供了不同的功能。两个最显著的不同如下：
•urllib2 can accept a
object to set the headers for a URL request,urllib accepts only a URL. That means, you cannot masquerade your User Agent string etc.
urllib2可以接受一个Request类的实例来设置URL请求的headers，urllib仅可以接受URL。这意味着，你不可以伪装你的User Agent字符串等。
•urllib provides the
method which is used for the generation of GET query strings, urllib2 doesn't have such a function. This is one of the reasons why urllib is often used along with urllib2.
urllib提供urlencode方法用来GET查询字符串的产生，而urllib2没有。这是为何urllib常和urllib2一起使用的原因。&
For other differences between urllib and urllib2 refer to their documentations, the links are given in the References section.
Tip: if you are planning to do HTTP stuff only, check out httplib2, it is much better than httplib or urllib or urllib2.
提示：如果你仅做HTTP相关的，看一下httplib2，比其他几个模块好用。
(责任编辑：admin)
------分隔线----------------------------
各位朋友，下面的相关文章可能对您很有帮助!
自从安装了Office2013后发现office套件中有很多的好东西，今天要和大家分享的就是Offi...
之前参加了一个课程，里面有一节讲到了用视频作为启动界面。讲师用的是自定义VideoVie...
jQuery选择器的强大不仅在于选择器支持基本的css选择符，还支持很多CSS的伪类选择符，...
华为畅享5s参数 屏幕规格5.5英寸720像素 CPU型号骁龙616（64位） RAM内存2GB ROM存储1...
迷雾编年史的趣味玩法还是相当优秀的，接下来小编就跟大家一起看看迷雾编年史的趣味玩...
宋民国可爱qq微信表情包无水印...