CentOS 7 下 Python 3.5.3 及 Scrapy 依赖环境配置指南

竹里
竹里
发布时间:2026-10-13| 2人浏览过
原创

本文记录在 CentOS 系统中从源码编译安装 Python 3.5.3 并配置 Scrapy 爬虫框架依赖包的完整过程。重点解决系统缺失 sqlite3 导致的 Python 编译失败问题,通过手动编译 sqlite3 源码并修改 setup.py 指定路径,成功构建支持数据库操作的 Python 环境,最后列出 fake-useragent、pymysql 等关键依赖包的安装命令。

本地虚拟环境开发完成后,在上线部署阶段需要逐一安装所需的依赖包,现将相关配置步骤记录如下:

在 CentOS 系统中编译安装 Python 3.5.3

wget https://www.python.org/ftp/python/3.5.3/Python-3.5.3.tgz
tar -xf Python-3.5.3.tgz cd Python-3.5.3
./configure --prefix=/usr/local/python353 make & make install

完成 Python 3.5.3 的安装后,为避免影响系统自带的 Python 2.x 版本,需要创建相应的软链接:

#做python3软链
ln -s /usr/local/python353/bin/python3 /usr/local/bin/
#pip3软链
ln -s /usr/local/python353/bin/pip3 /usr/local/bin/

上传项目程序,并开始安装 Scrapy 及其相关依赖包:

#user agent包
pip3 install fake-useragent -i https://pypi.douban.com/simple/
#pymysql包
pip3 install pymysql -i https://pypi.douban.com/simple/
#PooledDB依赖包
pip3 install DBUtils -i https://pypi.douban.com/simple/
#PIL模块依赖包
pip3 install Image -i https://pypi.douban.com/simple/

在 CentOS 系统安装过程中,常遇到一个较为棘手的问题:系统未预装 sqlite3,导致编译或运行时报错。解决该问题的方法是手动下载并安装 sqlite3:

sudo wget http://www.sqlite.org/2017/sqlite-autoconf-3190300.tar.gz

执行编译安装命令:

tar zxvf sqlite-autoconf-3190300.tar.gz cd sqlite-autoconf-3190300
./configure --prefix=/usr/local/sqlite3
make && make install

重新编译 Python,定位到 Python 3.5.3 的源码安装目录,编辑 setup.py 脚本,搜索关键字“sqlite3”:

sqlite_inc_paths = [ '/usr/include',
'/usr/include/sqlite',
'/usr/include/sqlite3',
'/usr/local/include',
'/usr/local/include/sqlite',
'/usr/local/include/sqlite3',
]

在配置列表的最后一行添加 sqlite3 编译安装的路径,具体配置如下:

sqlite_inc_paths = [ '/usr/include',
'/usr/include/sqlite',
'/usr/include/sqlite3',
'/usr/local/include',
'/usr/local/include/sqlite',
'/usr/local/include/sqlite3',
'/usr/local/sqlite3',
]

重新执行 Python 3.5.3 的编译与安装流程:

./configure --prefix=/usr/local/python353
make && make install

相关标签:

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。