怎么利用Python爬取网页内容

这篇文章主要讲解了"怎么利用Python爬取网页内容"，文中的讲解内容简单清晰，易于学习与理解，下面请大家跟着小编的思路慢慢深入，一起来研究和学习"怎么利用Python爬取网页内容"吧！

编写执行代码

首先,你要安装requests和BeautifulSoup4,然后执行如下代码. import requests from bs4 import BeautifulSoup iurl = 'http://news.sina.com.cn/c/nd/2017-08-03/doc-ifyitapp0128744.shtml' res = requests.get(iurl) res.encoding = 'utf-8' #print(len(res.text)) soup = BeautifulSoup(res.text,'html.parser') #标题 H1 = soup.select('#artibodyTitle')[0].text #来源 time_source = soup.select('.time-source')[0].text #来源 origin = soup.select('#artibody p')[0].text.strip() #原标题 oriTitle = soup.select('#artibody p')[1].text.strip() #内容 raw_content = soup.select('#artibody p')[2:19] content = [] for paragraph in raw_content: content.append(paragraph.text.strip()) '@'.join(content) #责任编辑ae = soup.select('.article-editor')[0].text

感谢各位的阅读，以上就是"怎么利用Python爬取网页内容"的内容了，经过本文的学习后，相信大家对怎么利用Python爬取网页内容这一问题有了更深刻的体会，具体使用情况还需要大家实践验证。这里是，小编将为大家推送更多相关知识点的文章，欢迎关注！