Python爬取CCTV今日说法数据实战:API接口与Excel存储

本文介绍使用Python爬取CCTV《今日说法》节目数据的方法。通过调用CCTV视频API接口获取每期节目的时间与简介,利用requests库发起请求,并结合xlwt库将结果保存为Excel文件。文章提供了完整的代码示例,展示了如何解析JSON数据并处理分页逻辑,适合希望学习基础爬虫技术的数据爱好者参考。

Python爬取CCTV今日说法数据实战:API接口与Excel存储

Python多线程爬虫实战:从单线程到线程池优化

本文对比了Python单线程与多线程爬虫的性能差异,详细讲解了如何使用multiprocessing.dummy模块中的Pool类构建线程池。通过具体代码案例,展示了如何利用线程池处理阻塞型网络请求,从而显著缩短视频数据下载时间,适用于需要批量处理耗时操作的场景。

Python多线程爬虫实战:从单线程到线程池优化

Python爬虫urllib库核心模块与用法详解

本文详细介绍Python内置urllib库的四大核心模块:urllib.request用于发起HTTP请求,urllib.error处理网络异常,urllib.parse解析与拼接URL,以及urllib.robotparser解析robots.txt。通过对比Python 2与3的差异,演示urlopen、Request对象、代理设置、Cookie处理及参数编码等关键用法,帮助开发者掌握底层网络请求原理。

Python爬虫urllib库核心模块与用法详解

Python爬虫之requests库基本介绍

本文详细介绍Python第三方库requests的基本用法,涵盖安装配置、GET与POST请求、参数传递、JSON解析、文件保存、代理设置、Cookie维持及异常处理等核心功能,帮助开发者快速掌握HTTP客户端操作。

Python实现微信公众号文章图片批量下载与PDF生成工具

本文介绍了一款基于Python的微信公众号文章图片抓取与PDF转换工具。该工具支持自动解析文章中的图片链接并批量下载,利用fpdf库将图片按原始比例整合为PDF文档,同时添加序号以便查阅。文章提供了完整的代码逻辑说明及操作示例,帮助开发者快速实现图文内容的本地化归档。

Python实现微信公众号文章图片批量下载与PDF生成工具

Python Scrapy框架中Request与Response对象详解

本文详细介绍Python Scrapy框架中Request和Response对象的核心用法。解析Request对象的url、callback、method等关键参数,演示如何通过FormRequest发送POST请求,并列举Response对象的text、body、xpath等常用属性,帮助开发者掌握Scrapy基础数据交互机制。

Python Scrapy框架中Request与Response对象详解

Python爬虫XPath实战详解:从环境配置到58同城房源抓取

本文深入解析Python爬虫中XPath的核心用法。从lxml库的安装与etree对象实例化入手,详细讲解子节点、属性、索引及文本提取等XPath表达式语法。通过本地HTML测试与58同城二手房信息抓取实战,演示如何定位节点并提取关键数据,帮助开发者掌握高效的数据抓取技巧。

Python爬虫XPath实战详解:从环境配置到58同城房源抓取

Python抓取移动App数据使用mitmweb监听请求与响应

本文介绍如何利用mitmweb这一Web版可视化工具监听移动App的网络请求与响应。通过启动服务并访问默认端口8081,用户可以在浏览器界面中查看URL列表、请求详情及响应数据。文章还演示了如何编辑响应信息、使用Replay功能重发请求以及查看详细信息,并对比了mitmweb与mitmdump结合Python处理的适用场景,为移动App数据抓取提供可视化分析方案。

Python抓取移动App数据使用mitmweb监听请求与响应

Python网络爬虫实战:抓取并保存中国大学排名数据

本文介绍如何使用Python编写网络爬虫,自动获取中国大学排名网站的前20所大学信息。通过requests库请求网页,利用BeautifulSoup解析HTML结构,提取学校名称、省份及总分等关键字段,并将结果格式化输出至控制台及本地文本文件,实现数据的自动化采集与持久化存储。

Python网络爬虫实战:抓取并保存中国大学排名数据