Python爬虫实战:抓取Bilibili游戏排行榜标题与链接

七月
七月
发布时间:2026-10-12| 2人浏览过
原创

本文介绍如何使用Python的Requests和BeautifulSoup库,从Bilibili游戏排行榜页面抓取视频标题及对应链接。通过逐步优化代码,解决HTML解析、链接协议补全(http:)及数据提取问题,最终实现简洁高效的数据爬取,适合Python初学者参考学习。

本教程演示如何利用Python爬虫技术,获取Bilibili网站游戏类排行榜中的所有视频名称及其跳转链接。

首先导入requests用于发起网络请求,以及BeautifulSoup用于解析HTML文档。

import requests
from bs4 import BeautifulSoup

接下来,我们需要构造目标网站的URL,发送请求并获取网页内容,随后进行解析并将结果打印输出。

e = requests.get('https://www.bilibili.com/v/popular/rank/game')   #当前网站链接
html = e.content
soup = BeautifulSoup(html,'html.parser')    #解析html
print(soup)

初步运行代码后,输出的HTML源码较为冗长且杂乱,不够直观。为了提高代码的可读性和效率,我们对代码进行优化。

在原有基础上添加特定逻辑,专门针对目标数据类别进行提取,使代码结构更加简洁清晰。

div_people_list = soup.find('ul', attrs={'class': 'rank-list'})  #爬取ul类class为rank-list下的数据

观察优化后的输出结果,发现虽然部分数据已提取,但格式仍不够简洁明了。

继续完善代码逻辑,具体实现如下:

ca_s = div_people_list.find_all('a', attrs={'class': 'title'})   #爬取a类class为title下的数据

此时,视频链接和标题已成功提取,但仔细观察会发现存在细节瑕疵。

我们添加代码遍历提取结果,逐个打印标题和链接。注意,此时提取的链接格式为//www.bilibili.com/video/BV1yZ4y1D7ef。

由于上述链接缺少前缀协议(http:),直接点击可能导致错误。因此,我们需要在链接前手动拼接'http:',确保链接完整后可正常访问,并打印最终结果。

for t in ca_s:
    url = t['href']
    name = t.get_text()
    print(name+'\t点击链接直接观看链接:'+f'http:{url}')

运行优化后的代码,可以看到视频标题和完整的可点击链接均已成功爬取并显示。

以下是完整的实现代码:

import requests
from bs4 import BeautifulSoup
 
e = requests.get('https://www.bilibili.com/v/popular/rank/game')   #当前网站链接
html = e.content
soup = BeautifulSoup(html,'html.parser')    #解析html
div_people_list = soup.find('ul', attrs={'class': 'rank-list'})  #爬取ul类class为rank-list下的数据
ca_s = div_people_list.find_all('a', attrs={'class': 'title'})   #爬取a类class为title下的数据
 
#挨个传输到t,然后打印数据
for t in ca_s:
    url = t['href']
    name = t.get_text()
    print(name+'\t点击链接直接观看链接:'+f'http:{url}')

至此,关于使用Python爬虫获取Bilibili网页基本内容的教程介绍完毕。如需了解更多相关Python爬取Bilibili内容的技巧,欢迎查阅本站往期文章或继续浏览后续内容。感谢大家的支持!

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。