Python3爬虫实现Cookie传递的两种方法及实战登录示例

Felix

发布时间：2026-10-14| 2人浏览过

原创

本文详细解析Python3爬虫中携带Cookie的两种核心方法：直接写入Header头部和使用requests库的cookies参数。通过哈工大ACM站点的登录实战，演示如何利用urllib和cookiejar实现自动登录及后续页面访问，帮助开发者解决身份验证相关的爬虫需求。

Cookie机制与爬虫应用基础

Cookie源自英文单词“点心”，指服务器在客户端访问Web服务时，于客户端硬盘上存储的信息片段，形象地比喻为服务器分发给客户的“点心”。通过Cookie，服务器能够追踪并识别特定客户状态，这一机制在需要区分用户身份的场合（如电子商务平台）中尤为关键。

当客户端首次向服务器发起请求时，服务器会在客户端本地保存包含该客户相关信息的Cookie。此后，客户端每次向服务器发起请求时，均会在HTTP请求数据中自动附带该Cookie。服务器通过解析HTTP请求中的Cookie内容，即可获取关于该客户的详细信息。

Python3爬虫携带Cookie的两种方法

接下来，我们将探讨在Python3爬虫中携带Cookie的具体实现方式。

第一种方法是将Cookie直接写入HTTP请求的Header头部中。


# coding:utf-8
import requests
from bs4 import BeautifulSoup
cookie = '''cisession=19dfd70a27ec0eecf1fe3fc2e48b7f91c7c83c60;CNZZDATA1000201968=181584
6425-1478580135-https%253A%252F%252Fwww.baidu.com%252F%7C1483922031;Hm_lvt_f805f7762a9a2
37a0deac37015e9f6d9=1482722012,1483926313;Hm_lpvt_f805f7762a9a237a0deac37015e9f6d9=14839
26368'''
header = {
'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Geck
o) Chrome/53.0.2785.143 Safari/537.36',
'Connection': 'keep-alive',
'accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8',
'Cookie': cookie}
url = 'https://www.jb51.net/article/191947.htm'
wbdata = requests.get(url,headers=header).text
soup = BeautifulSoup(wbdata,'lxml')
print(soup)

第二种方法是利用Python的requests库，通过其内置参数插入Cookie。


# coding:utf-8
import requests
from bs4 import BeautifulSoup
cookie = {
"cisession":"19dfd70a27ec0eecf1fe3fc2e48b7f91c7c83c60",
"CNZZDATA100020196":"1815846425-1478580135-https%253A%252F%252Fwww.baidu.com%252F%7C1483
922031",
"Hm_lvt_f805f7762a9a237a0deac37015e9f6d9":"1482722012,1483926313",
"Hm_lpvt_f805f7762a9a237a0deac37015e9f6d9":"1483926368"
}
url = 'https://www.jb51.net/article/191947.htm'
wbdata = requests.get(url,cookies=cookie).text
soup = BeautifulSoup(wbdata,'lxml')
print(soup)

实战：使用Cookie登录哈工大ACM站点

此外，我们通过一个具体的实例来扩展说明。

本例演示如何使用Cookie登录哈工大ACM在线评测系统。

首先，需要确定站点登录接口的URL地址。

登录地址为：http://acm.hit.edu.cn/hoj/system/login

接着，查看登录时需要提交的POST数据，主要包含user（用户名）和password（密码）。

相关代码实现如下：


#!/usr/bin/env python
# -*- coding: utf-8 -*-
"""
__author__ = 'pi'
__email__ = 'pipisorry@126.com'

"""
import urllib.request, urllib.parse, urllib.error
import http.cookiejar

LOGIN_URL = 'http://acm.hit.edu.cn/hoj/system/login'
values = {'user': '******', 'password': '******'} # , 'submit' : 'Login'
postdata = urllib.parse.urlencode(values).encode()
user_agent = r'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/44.0.2403.157 Safari/537.36'
headers = {'User-Agent': user_agent, 'Connection': 'keep-alive'}

cookie_filename = 'cookie.txt'
cookie = http.cookiejar.MozillaCookieJar(cookie_filename)
handler = urllib.request.HTTPCookieProcessor(cookie)
opener = urllib.request.build_opener(handler)

request = urllib.request.Request(LOGIN_URL, postdata, headers)
try:
  response = opener.open(request)
  page = response.read().decode()
  # print(page)
except urllib.error.URLError as e:
  print(e.code, ':', e.reason)

cookie.save(ignore_discard=True, ignore_expires=True) # 保存cookie到cookie.txt中
print(cookie)
for item in cookie:
  print('Name = ' + item.name)
  print('Value = ' + item.value)

get_url = 'http://acm.hit.edu.cn/hoj/problem/solution/?problem=1' # 利用cookie请求訪问还有一个网址
get_request = urllib.request.Request(get_url, headers=headers)
get_response = opener.open(get_request)
print(get_response.read().decode())
# print('You have not solved this problem' in get_response.read().decode())

至此，关于Python3爬虫携带Cookie的实例代码介绍完毕。如需了解更多Python3爬虫相关技巧，建议查阅本站往期文章或继续关注后续更新，感谢大家的支持！