1.cookie的作用
cookie 是指某些网站为了辨别用户身份、进行session跟踪而储存在用户本地终端上的数据,就像有些网站上的一些数据是需要登录后才能看得到,那么想抓取某个页面内容,就需要用到cookie来模拟登陆了。
在用cookie模拟登陆的时候,需要用到python中的CookieJar
,CookieJar中有一些子类,例如:
- FileCookieJar,LWPCookieJar,MoziliaCookieJar
- CookieJar 管理http生成的cookie,负责cookie的存储工作,向http当中添加指定的cookie
MozillaCookieJar
和LWPCookieJar
类都是FileCookieJar
的子类。实现了具体的把cookie内容保存为文件的方法。只是这两个类对应的标准不同而已。
2 获取cookie
from http.cookiejar import CookieJar,LWPCookieJar from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener from urllib.parse import urlencode import ssl # ----------------------------------------获取cookie--------------------------- # 生成一个管理cookie的对象 cookie_obj = CookieJar() # 创建一个支持cookie的对象,对象属于HTTPCookieProcessor cookie_handler = HTTPCookieProcessor(cookie_obj) #创建一个opener opener = build_opener(cookie_handler) response = opener.open('http://www.baidu.com') print(response) #打印cookie for cookie in cookie_obj: print('key:',cookie.name) print('value:',cookie.value)
3 保存cookie的文件
from http.cookiejar import CookieJar,LWPCookieJar from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener filename = 'neihan.txt' # 设置cookie保存的文件 cookie_obj = LWPCookieJar(filename=filename) # 创建一个支持cookie的对象,对象属于HTTPCookieProcessor cookie_handler = HTTPCookieProcessor(cookie_obj) #创建一个opener opener = build_opener(cookie_handler) #请求网页 response = opener.open('http://www.neihanshequ.com') # 保存cookie到指定的文件当中去 # ignore_expires=True 即便目标cookie已经在文件中存在,仍然对其写入 # ignore_discard=True 即便cookie将要/已经过期,仍然写入 cookie_obj.save(ignore_expires=True,ignore_discard=True)
4 使用本地的cookie进行请求
from http.cookiejar import CookieJar,LWPCookieJar from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener cookie = LWPCookieJar() #从文件中读取cookie到变量 cookie.load('neihan.txt') request = Request('http://www.neihanshequ.com') # 创建一个支持cookie的对象,对象属于HTTPCookieProcessor cookie_handler = HTTPCookieProcessor(cookie) #创建一个opener opener = build_opener(cookie_handler) #请求网页 response = opener.open(request) # print(response.read().decode())
5 使用cookie进行模拟登陆
from http.cookiejar import CookieJar,LWPCookieJar from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener from urllib.parse import urlencode import ssl cookie = LWPCookieJar(filename='meishi.txt') cookie_handler = HTTPCookieProcessor(cookie) opener = build_opener(cookie_handler) headers={ 'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:61.0) Gecko/20100101 Firefox/61.0' } post_url = 'https://i.meishi.cc/login.php?redirect=https%3A%2F%2Fi.meishi.cc%2Flogin.php%3Fac%3Dzhuce' # urlencode对url当中的参数进行编码 # urlencode()编码的对象为字典类型 post_data = urlencode({ 'username':'***********', #自己的登陆账号 'password':'************' #自己的登陆密码 }) # 请求url 并传参,设置编码方式 request = Request(post_url,bytes(post_data,encoding='utf-8')) # 解决证书问题 ssl._create_default_https_context = ssl._create_unverified_context response = opener.open(request) print(response.read().decode()) cookie.save(ignore_discard=True,ignore_expires=True)
这里的post_url
是抓包获取来的
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对的支持。如果你想了解更多相关内容请查看下面相关链接