教程集 www.jiaochengji.com
教程集 >  Python编程  >  Python入门  >  正文 python爬虫实战:request如何定义headers

python爬虫实战:request如何定义headers

发布时间:2020-11-26   编辑:jiaochengji.com
教程集为您提供python爬虫实战:request如何定义headers等资源,欢迎您收藏本站,我们将为您提供最新的python爬虫实战:request如何定义headers资源

都说知识之间是相互汇通和包容的,借着我们之前才讲过header的热乎劲,为大家带来新朋友request的同时,也不忘记再来跟我们的老朋友header见见面。说到这里已经有小伙伴开始好奇,request会定义headers呢?简单的来说就是request帮助header进行网页访问,接下来看看是如何进行的吧。


对于写爬虫来讲,模拟浏览器是发请求的时候做的最多的事情了,最常见的模拟浏览器无非就是伪装headers:

In [23]: url = 'http://xlzd.me'
 
In [24]: headers = {'User-Agent': 'my custom user agent', 'Cookie': 'haha'}
 
In [25]: requests.get(url, headers=headers)

 

拓展:

怎样取出HTTP response里面的内容呢?

In [7]: r = requests.get('http://xlzd.me')
 
In [8]: r.encoding
Out[8]: 'UTF-8'
 
In [9]: r.headers
Out[9]: {'Content-Encoding': 'gzip', 'Transfer-Encoding': 'chunked', 'Vary': 'Accept-Encoding', 'Server': 'nginx', 'Connection': 'keep-alive', 'Date': 'Fri, 11 Dec 2015 06:42:31 GMT', 'Content-Type': 'text/html; charset=UTF-8', 'X-Pingback': 'http://xlzd.me/action/xmlrpc'}
 
In [10]: r.cookies
Out[10]: <RequestsCookieJar[]>
 
In [11]: r.text
Out[11]: u'<!DOCTYPE HTML>\n<html>\n\t<hea......

requests会自动对响应内容编码,所以就可以通过r.text取出响应文本了。对于别等响应内容(文件、图片、...),则可以通过r.content取出来。对于json内容,也可以通过r.json()来取。

本篇的借助request访问网页浏览的方法大家肯定都学会了,从代码上面看,算是最简单的一种。如果之间有其他方法没有学会的小伙伴,可以以后都使用request方法。

您可能感兴趣的文章:
《Python2爬虫入门教程指南》(系列教程)
python爬虫一般都爬什么信息
Python 爬虫学习系列教程
python爬虫实战:request如何定义headers
python百度反收集如何使用
python中的urllib2怎么用
python和爬虫有什么关系
python网络爬虫怎么写
python爬虫可以自学吗
Python爬虫进阶之Robots协议

[关闭]
~ ~