Python怎么爬取网站音乐素材

本篇内容主要讲解"Python怎么爬取网站音乐素材"，感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷，实用性强。下面就让小编来带大家学习"Python怎么爬取网站音乐素材"吧!

前言

基本开发环境

• Python 3.6

• Pycharm

相关模块的使用

import osimport concurrent.futuresimport requestsimport parsel

安装Python并添加到环境变量，pip安装需要的相关模块即可。

一、确定需求

如果想要验证这个链接是否是音频的真实下载地址，可以复制链接粘贴到新的窗口中。

https://downsc.chinaz.net/Files/DownLoad/sound1/202102/s830.mp3

老思路了，复制链接中的某些参数在开发者工具中进行搜索，很明显 s830 就是音频的ID了。

搜索 s830 找到来源，发现网页页面中自带有下载地址。获取音频下载地址之后需要自己拼接url。

网页数据不复杂，相对而言还是比较简单的。
1、请求当前网页数据，获取音频地址以及音频标题
2、保存下载就可以了

三、代码实现

获取音频ID以及音频标题

def main(html_url):    html_data = get_response(html_url).text    selector = parsel.Selector(html_data)    lis = selector.css('#AudioList .container .audio-item')    for li in lis:        name = li.css('.name::text').get().strip()        src = li.css('audio::attr(src)').get()        audio_url = 'https:' + src        save(name, audio_url)        print(name, audio_url)

保存数据

def save(name, audio_url):    header = {        'Upgrade-Insecure-Requests': '1',        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'    }    audio_content = requests.get(url=audio_url, headers=header).content    path = 'audio\\'    if not os.path.exists(path):        os.mkdir(path)    with open(path + name + '.mp3', mode='wb') as f:        f.write(audio_content)

这里想要重新给一个headers参数，不然会下载不了。代码会一直运行，但是没有反应

多线程爬取

if __name__ == '__main__':    executor = concurrent.futures.ThreadPoolExecutor(max_workers=5)    for page in range(1, 31):        url = f'https://sc.chinaz.com/yinxiao/index_{page}.html'        # main(url)        executor.submit(main, url)

到此，相信大家对"Python怎么爬取网站音乐素材"有了更深的了解，不妨来实际操作一番吧！这里是网站，更多相关内容可以进入相关频道进行查询，关注我们，继续学习！