urllib和BeautifulSoup爬取维基百科的词条简单实例

发布时间：2020-12-15 01:04:33 所属栏目：C语言来源：网络整理

导读：本文实例主要实现的是使用urllib和BeautifulSoup爬取维基百科的词条，具体如下。简洁代码： #引入开发包from urllib.request import urlopenfrom bs4 import BeautifulSoupimport re#请求URL并把结果用UTF-8编码resp=urlopen("https://zh.wikipedia.org/wik

本文实例主要实现的是使用urllib和BeautifulSoup爬取维基百科的词条，具体如下。

简洁代码：

#引入开发包
from urllib.request import urlopen
from bs4 import BeautifulSoup
import re
#请求URL并把结果用UTF-8编码
resp=urlopen("https://zh.wikipedia.org/wiki/Wikipedia:%E9%A6%96%E9%A1%B5").read().decode("utf-8")
#使用BeautifulSoup去解析
soup=BeautifulSoup(resp,"html.parser")
#print(soup)
#获取所有以/wiki/开头的a标签的href属性
listUrl=soup.findAll("a",href=re.compile("^/wiki/"))
#输出所有词条对应的名称和URL
for link in listUrl:
  if not re.search(".(jpg|JPG)$",link["href"]):
    print(link.get_text(),"<----->","https://zh.wikipedia.org"+link["href"])

运行结果：

总结

总的来说，Python是简洁而又强大的，调用几个库，就能实现其他语言一大堆代码才能实现的功能。

以上就是本文关于urllib和BeautifulSoup爬取维基百科的词条简单实例的全部内容，希望对大家有所帮助。感兴趣的朋友可以继续参阅本站其他相关专题，如有不足之处，欢迎留言指出。感谢朋友们对本站的支持！

您可能感兴趣的文章:

python爬虫入门教程--HTML文本的解析库BeautifulSoup（四）
python 3利用BeautifulSoup抓取div标签的方法示例
Python利用BeautifulSoup解析Html的方法示例
python爬虫之BeautifulSoup 使用select方法详解
Python2/3中urllib库的一些常见用法
Python2.X/Python3.X中urllib库区别讲解
python 3.6 tkinter+urllib+json实现火车车次信息查询功能
Python爬虫中urllib库的进阶学习

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!