Python实现FTP文件定时自动下载脚本详解
本文详细解析如何利用Python内置的ftplib、os及time模块,实现FTP文件的定时自动下载。通过判断文件存在性、执行时间段及日期切换逻辑,确保数据及时同步。脚本保存为pyw文件后可在后台持续运行,无需依赖系统计划任务,具备简洁高效、支持断点续传及日志记录等特点。
本文深入解析使用Python实现FTP文件定时自动下载的具体过程,通过详细的示例代码展示实现细节,为相关开发或运维工作提供有价值的参考。
需求背景
一、需求背景
某数据公司每日在15:00至17:00的时间窗口内,通过FTP服务器发布当日数据供客户端下载。我方系统需要在此时段内及时获取当日数据,并将其保存至指定的本地目录中。
技术方案分析
二、技术方案分析
1、实现FTP连接、目录查询及文件下载功能;
解决方案:调用Python内置的ftplib模块中的FTP类来完成相关操作;
2、判断目标文件是否已成功下载;
解决方案:利用os模块中的path.exists方法检查本地文件是否存在;
3、确保仅在指定的时间段内执行下载任务;
解决方案:使用内置的time模块获取当前时间,并与预设的开始和结束时间进行比对;
4、处理日期跨天切换的情况;
解决方案:使用内置的time模块获取当前日期,并与变量中记录的日期进行对比,以判断是否需要更新文件。
代码实现
三、代码实现
#!/usr/bin/env python
# _*_ coding:utf-8 _*_
'''
@Time : 2019-11-11 13:30
@Author : Peanut_C
@FileName: ftp_auto_download.py
'''
import time
from ftplib import FTP
import os
remote_path = "/xxx/yy/z/" # 远端目录
begin_time = 1500 # 任务开始时间
end_time = 1700 # 任务结束时间
today = time.strftime("%Y%m%d") # 当天日期
today_file = today + 'test.txt' # 得到当天日期的目标文件名
remote_file = remote_path + today_file # 远端文件名
local_file = '\\\\local\\' + today + '\\' + today_file # 本地文件名
log_file = 'C:\\\\log\\ftp_log.txt'
def ftp_connect():
"""用于FTP连接"""
ftp_server = 'w.x.y.z' # ftp站点对应的IP地址
username = 'ftpuser' # 用户名
password = 'ftppass' # 密码
ftp = FTP()
ftp.set_debuglevel(0) # 较高的级别方便排查问题
ftp.connect(ftp_server, 21)
ftp.login(username, password)
return ftp
def remote_file_exists():
"""用于FTP站点目标文件存在检测"""
ftp = ftp_connect()
ftp.cwd(remote_path) # 进入目标目录
remote_file_names = ftp.nlst() # 获取文件列表
ftp.quit()
if today_file in remote_file_names:
return True
else:
return False
def download_file():
"""用于目标文件下载"""
ftp = ftp_connect()
bufsize = 1024
fp = open(local_file, 'wb')
ftp.set_debuglevel(0) # 较高的级别方便排查问题
ftp.retrbinary('RETR ' + remote_file, fp.write, bufsize)
fp.close()
ftp.quit()
while True:
if int(time.strftime("%H%M")) in range(begin_time, end_time): # 判断是否在执行时间范围
if int(time.strftime("%Y%m%d")) - int(today) == 0: # 判断是否跨日期
while not os.path.exists(local_file): # 判断本地是否已有文件
if remote_file_exists(): # 判断远端是否已有文件
download_file()
with open(log_file, 'a') as f:
f.write('\n' + time.strftime("%Y/%m/%d %H:%M:%S") + " 今日文件已下载!")
time.sleep(60) # 下载完毕静默1分钟
else:
time.sleep(180)
break # 注意,此处跳出循环重新判断日期,避免周末或当天没文件时陷入内层循环
else:
time.sleep(180)
else:
"""如果跨日期,则根据当前日期,更新各文件日期"""
today = time.strftime("%Y%m%d") # 当天日期
today_file = today + 'test.txt' # 得到当天日期的目标文件名
remote_file = remote_path + today_file # 远端文件名
local_file = '\\\\local\\' + today + '\\' + today_file # 本地文件名
with open(log_file, 'a') as f:
f.write('\n' + time.strftime("%Y/%m/%d %H:%M:%S") + " 任务启动, 文件日期已更新。")
else:
time.sleep(1800)
运行效果说明
四、运行效果说明
将脚本保存为pyw格式文件后,任务将在后台持续运行,无需配置操作系统的计划任务,从而简化运维流程。
设计中未引入额外的下载标记文件,主要出于两点考虑:一是保持逻辑简洁;二是若本地文件被误删或移动,脚本可自动重新下载,无需人工干预。
日志记录方面,每天仅写入任务启动时间和文件下载成功的标志,并附带对应的时间戳。如有更详细的审计需求,可在此基础上扩展日志内容。
希望上述方案能帮助到有类似需求的朋友。
以上就是本文的全部内容,希望对大家的学习有所帮助,也欢迎大家继续支持本站。
免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。









