FTP 大文件上传优化

千家信息网最后更新 2025年12月02日FTP 大文件上传优化
优化方案思路：通过tar把大文件切分成多个100m大小的文件，然后通过多进程上传。
脚本如下： #!/bin/bash
#######################################
#Author:Jianjun Zhang
#Create Data:2017-03-22
#Propose:For big file upload
#Modify Data:
#######################################
#使用tar切分大文件成多个100m的小文件
tar -czf - ftp_test.dmp | split -b 100m -d - ftp_test.tar.gz
#计算切分成了多少个小文件
fc=`ls -l |grep "ftp_test.tar.gz*" |wc -l`
echo $fc
#使用for循环
for ((a=0; a<$fc; a++))
do
if [ "$a" -lt 10 ]; then
i=0"$a"
else
i="$a"
fi
#查看ftp进程数量，当小于5个FTP进程的时候继续在启用一个FTP进程
fpc=`ps -ef|grep "ftp -v -n 192.168.1.100" |wc -l`
while [ "$fpc" -gt 5 ]
do
sleep 5
fpc=`ps -ef|grep "ftp -v -n 192.168.1.100" |wc -l`
echo $fpc
done
echo $i
#FTP部分
echo user ftp_test ftp_test > ftp"$i".txt
echo binary >> ftp"$i".txt
echo hash >> ftp"$i".txt
echo prompt >> ftp"$i".txt
echo cd result_bj >>ftp"$i".txt
echo passive >>ftp"$i".txt
echo put ftp_test.tar.gz"$i" >> ftp"$i".txt
echo bye >> ftp"$i".txt
echo start upload the expdp file.
sleep 2
#后台执行FTP
ftp -v -n 192.168.1.100 < ftp"$i".txt &
rm -rf ftp"$i".txt
done
结论：上传时间约为单个文件上传的1/5，且不会出现FTP上传进程僵死的情况，缺点是这样上传很占用带宽。