【0基础学爬虫】爬虫基础之网页解析库的使用_全球百事通

大数据时代，各行各业对数据采集的需求日益增多，网络爬虫的运用也更为广泛，越来越多的人开始学习网络爬虫这项技术，K哥爬虫此前已经推出不少爬虫进阶、逆向相关文章，为实现从易到难全方位覆盖，特设【0基础学爬虫】专栏，帮助小白快速入门爬虫，本期为网页解析库的使用。

概述

前几期的文章中讲到了网络请求库的使用，我们已经能够使用各种库对目标网址发起请求，并获取响应信息。本期我们会介绍各网页解析库的使用，讲解如何解析响应信息，提取所需数据。

XPath的使用

XPath 是一门在 XML 文档中查找信息的语言。XPath 可用来在 XML 文档中对元素和属性进行遍历。同样，XPath 也支持HTML文档的解析。

【资料图】

介绍

XPath 使用路径表达式来匹配HTML文档中的节点或节点集，路径表达式基于HTML文档树，因此在学习XPath 时需要对网页结构有一个初步了解，关于网页结构这些在之前的文章《网页基本结构》中已经介绍到了。

安装

使用XPath 需要安装Python的第三方库lxml，可以使用命令pip install lxml进行安装

使用

下文中，我们会通过一个示例来了解xpath的用法。

    
这是一个测试网页1
这是一个测试网页2
    
        
北京
        
上海
        
广州
        
深圳
    
标题
内容1
内容2
内容3

这是一个简单的网页body结构。我们想要提取页面中的信息，就需要先分析它的结构，理清结构后，编写路径表达式就会更加方便。在前文对xpath的介绍中我们了解到xpath是对XML或HTML文档进行解析的功能，但在代码中，示例中的html文本只是一段字符串，所以在使用xpath进行匹配前首先要将字符串转成HTML对象。

from lxml import etreeelement = """    
        
这是一个测试网页1
    
    
这是一个测试网页2
    
        
            
北京
            
上海
            
广州
            
深圳
        
    
    
标题
    
内容1
    
内容2
    
内容3
"""html = etree.HTML(element)print(html)#输出：

将文本转化为html对象后，就可以使用xpath进行匹配了。

路径表达式

选取节点

以示例代码为例，我们想要匹配所有的li标签，可以这样实现：

html.xpath("//li")#输出 [, , , ]

谓语

获取id属性值为box的div标签信息

html.xpath("//div[@id="box"]")#输出 []

获取所有class属性值为article的标签信息

html.xpath("//*[@class="article"]")#输出 [, , , ]

获取所有class属性值为article的标签下h3标签的文本信息

html.xpath("//*[@class="article"]/h3/text()")#输出 ["标题"]

获取所有class属性值为article的标签下p标签的文本信息

html.xpath("//*[@class="article"]/p/text()")#输出 ["内容1", "内容2", "内容3"]

获取第一个li标签的文本信息

html.xpath("//li[1]/text()")#输出 ["北京"]

获取最后一个li标签下的所有文本信息

html.xpath("//li[last()]//text()")#输出 ["深圳"]

获取倒数第二个li标签下的所有文本信息

html.xpath("//li[last()-1]//text()")#输出 ["广州"]

获取前两个li标签下的文本信息

html.xpath("//li[position()<3]//text()")#输出 ["北京", "上海"]

选取多个路径

html.xpath("//div[@class="article"]/h3/text() | //div[@id="box"]/p/text()")#输出 ["这是一个测试网页1", "标题"]

轴

轴可定义相对于当前节点的节点集。

获取ul标签下的子li标签下的a标签的href属性

html.xpath("//ul/child::li/a/@href")#输出 ["sz.html"]

获取a标签的所有先辈div标签

html.xpath("//a/ancestor::div")#输出 []

获取a标签的所有属性

html.xpath("//a/attribute::*")#输出 ["sz", "sz.html", "_self"]

获取id属性值为u2的li标签之后的所有p标签的文本信息

html.xpath("//li[@id="u2"]/following::p/text()")#输出 ["内容1", "内容2", "内容3"]

获取id属性值为u2的li标签之前的所有p标签的文本信息

html.xpath("//li[@id="u2"]/preceding::p/text()")#输出 ["这是一个测试网页1", "这是一个测试网页2"]

获取id属性值为u2的li标签之后的所有同级标签的文本信息

html.xpath("//li[@id="u2"]/following-sibling::*/text()")#输出 ["广州"]

获取id属性值为u3的li标签之前的所有同级标签的文本信息

html.xpath("//li[@id="u2"]/preceding-sibling::*/text()")#输出 ["北京"]

运算符

获取id属性值为u1或者u2的标签下的文本信息

html.xpath("//li[@id="u1" or @id="u2"]/text()")#输出 ["北京", "上海"]

判断a标签的name属性值是否为sz

html.xpath("//a/@name="sz"")#输出 True

函数

xpath提供了非常多的内置函数，这些函数可以用于各种值的计算与处理，这里只介绍常用的函数。

获取所有属性值包含test的标签的文本信息

html.xpath("//*[contains(attribute::*,"test")]/text()")#输出 ["这是一个测试网页1", "这是一个测试网页2"]

将id为u1的li标签和id为u2的li标签的文本信息进行拼接

html.xpath("concat(//li[@id="u1"]/text(),//li[@id="u2"]/text())")#输出 北京上海

获取id属性值以u开头的所有li标签的文本信息

html.xpath("//li[starts-with(@id,"u")]/text()")#输出 ["北京", "上海", "广州"]

上文中讲到的路径表达式的写法只是xpath中比较常用的写法，基本能够覆盖大部分需求。xpath路径也可以通过F12开发者工具直接获取，在 element 中右键需要匹配的节点元素，复制完整xpath即可。复制下来的完整xpath路径如：/html/body/ul/li[1]。这种方法虽然简单，但实际上路径并不准确，而且路径为绝对路径，相对复杂，所以路径表达式推荐自己手动编写。

BeautifulSoup的使用

BeautifulSoup与上文中介绍的xpath一样，都是用于解析XML或HTML标签中的信息。BeautifulSoup 与 xpath 各有优势，使用哪个可以凭个人喜好。

安装

目前流行的 beautifulsoup 版本为beautifulsoup4，下面简称bs4。

pip install beautifulsoup4

使用

与 xpath 不同，bs4 需要自己选择解析器，常用的解析器有：

html.parser：Python内置解析器

lxml HTML：HTML解析器

lxml XML：XML解析器

各解析器之间的区别主要在于文档解析容错能力，对于不规范的 HTML 文本，它们的解析结果并不一致。

这里我们推荐使用 lxml 作为解析器，使用 lxml 作为解析器需要提前安装 lxml 第三方库。

from bs4 import BeautifulSouphtml = """    
        
这是一个测试网页1
    
    
这是一个测试网页2
    
        
            
北京
            
上海
            
广州
            
深圳
        
    
    
标题
    
内容1
    
内容2
    
内容3
"""soup = BeautifulSoup(html,"lxml")#返回完整的html文本

bs4的写法比较简洁，更人性化。

soup.body ：获取body信息soup.li ：获取第一个li标签soup.div ：获取第一个div标签soup.li["id"] ：获取第一个li标签的id属性值soup.a.attrs ：获取第一个a标签的所有属性值，返回类型为字典

获取多个信息

soup.find_all("li") ：获取所有li标签soup.find_all(["p","a"]) ：获取所有p标签与a标签soup.find_all("div","article") ：获取所有类名为article的div标签soup.find_all(id="box") ：获取所有id属性值为box的标签

节点

soup.ul.parent ：获取ul标签的父节点soup.find("a").find_parent("li") ：获取第一个a标签的父li标签soup.find("a").find_parents("li") ：获取第一个a标签的所有父li标签soup.find("li").find_next_siblings("li") ：获取第一个li标签后的兄弟li标签soup.find("li").find_next_sibling("li") ：获取第一个li标签后的第一个兄弟li标签soup.find(attrs={"id":"u4"}).find_previous_siblings("li") ：获取id属性值为u4的li标签前的所有兄弟li标签soup.find(attrs={"id":"u4"}).find_previous_sibling("li") ：获取id属性值为u4的li标签前的第一个兄弟li标签

CSS选择器

BeautifulSoup 支持大部分的CSS选择器，CSS选择器在之前的文章《网页基本结构》中做了介绍。

soup.select("div h3") ：获取div下的h3标签soup.select("#city #u2") ：获取id属性值为city的标签下id值u2的标签soup.select("a[href="sz.html"]") ：获取href属性值为sz.html的a标签soup.select_one(".article") ：获取第一个类名为article的标签

bs4 作用上与 xpath 基本一致，但是 bs4 的优势就在于语句的简洁性，用bs4匹配数据比 xpath 稍微简单一些，但是它在性能上比 xpath 要稍弱。

re正则表达式的使用

正则表达式（Regular Expression，通常简写为“regex”或“regexp”）是一种用来匹配文本字符串的模式。在编程和文本处理中，正则表达式通常被用来进行字符串匹配、搜索、替换等操作。

实际开发中，我们会对一些非结构化数据进行解析，对于这类数据，无论是 xpath 还是 BeautifulSoup 都无法进行解析。这时我们就需要用到正则表达式，正则表达式的强大在于它能够匹配任意类型的文本数据，可以帮助开发者快速的处理文本数据。

安装

Python 中内置了 re 库，无需额外安装

使用

compile函数

re.compile 可以将正则表达式样式的字符串编译为一个正则表达式对象，可以通过这个对象来调用下述方法。

pattern = re.compile("\d")

match函数

re.match 会从字符串的起始位置进行匹配正则表达式，匹配成功后会返回匹配成功的结果，匹配失败则返回None。

import re#匹配字符apattern = re.compile("a") #从字符串开头开始匹配print(pattern.match("cat")) #从下标为1的位置开始匹配print(pattern.match("cat",1)) 

运行结果：

None

表达式匹配：

#以hello开头中间为数字后面是World的字符串pattern = re.compile("^hello\s(\d+)\sWorld") print(pattern.match("hello 123 World!!!")) 

运行结果：

可以看到，两次的运行结果都是一个对象，可以使用group()方法获取匹配到的文本信息。

pattern = re.compile("^hello\s(\d+)\sWorld")result = pattern.match("hello 123 World!!!")print(result.group())print(result.group(1))

运行结果：

hello 123 World123

group(1)会返回第一个被括号包围的匹配结果，示例中被括号包围的是\d+，所以输出的结果为123。

Search函数

match函数是从字符串的开头开始匹配，想要从其它地方开始匹配需要自己传入位置，用这种方法匹配数据局限性很大。我们想要从任意位置开始匹配数据可以使用 re.search 函数。

pattern = re.compile("(\d+)")result = pattern.search("hello 123 World321!!!")print(result)print(result.group(1))

运行结果：

123

可以看到，使用 search 方法我们无需指定位置，它会搜寻整个字符串，返回第一个匹配成功的结果。

findall函数

search 函数可以从任意位置进行匹配，但是它只会返回第一个匹配成功的结果。我们想要获取所有匹配成功的结果就需要用到 findall 函数。

pattern = re.compile("(\d+)")result = pattern.findall("hello 123 World321!!!")print(result)

运行结果：

["123", "321"]

findall 函数会返回一个列表，因此 findall 函数返回的结果无法使用 group 方法。

通用匹配

在实际开发中，我们往往会遇到非常复杂的文本结构如：

"hello 123 this is a 999Regex Demo!!!World321"

这时如果使用\w,\s进行匹配会显得非常复杂，这时我们就可以使用一个通配组合.*，上文中介绍到了.是匹配任意字符，*是匹配0或多个表达式，.*搭配在一起就是匹配任意多个字符。使用.*可以简单有效的进行数据匹配。

#匹配hello World之间的信息pattern = re.compile("hello(.*)World")result = pattern.findall("hello123 World this is a 999Regex Demo!!!World321")print(result)

运行结果：

["123 World this is a 999Regex Demo!!!"]

这里我们可以看到，使用.*后它匹配到了第一个 hello 到最后一个 World 之间的所有文本。但如果我们想要匹配 hello 到第一个 world 之间的信息呢。这时我们就需要了解一下贪婪匹配与非贪婪匹配。

贪婪与非贪婪

顾名思义，贪婪模式表示尽可能多的匹配，非贪婪模式表示尽可能少的匹配。从上文的示例我们可以看到re.compile("hello(.*)World")它会从 hello 开始，匹配到最后一个 World，这显然就是贪婪模式，它会尽可能多的匹配，也就是匹配到最后一个符合规则的位置。正则表达式中，非贪婪模式需要使用到?，前文中讲到了?是匹配0到1次，使用?就能实现尽可能少的匹配。

#匹配hello World之间的信息(非贪婪)pattern = re.compile("hello(.*?)World")result = pattern.findall("hello123 World this is a 999Regex Demo!!!World321")print(result)

运行结果：

["123 "]

可以看到使用.*?后，正则表达式只匹配到第一个 World 就停下了，这样就实现了非贪婪匹配。

Newspaper智能解析库的使用

Newspaper 是 Python 的第三方库，主要用于抓取新闻网页。它能够自动解析网页内容，匹配出新闻的各种信息。而且操作简单，非常容易上手。但是它并不适用于实际开发，因为它不够稳定，存在各种问题，无法应对爬虫开发中可能遇到的问题，如反爬虫等，所以这里对它只做介绍。

安装

命令行安装：pip install newspaper3k

使用

它的使用非常简单，传入目标网址后，调用 download() 方法下载网页源代码，使用 parse() 方法解析源码。

from newspaper import Article# 目标新闻网址url = "https://目标文章"news = Article(url, language="zh")news.download()news.parse()#获取新闻网页源码print(news.html)#获取新闻标题print(news.title)#获取新闻正文print(news.text)#获取新闻作者print(news.authors)#获取新闻发布时间print(news.publish_date)#获取新闻关键词print(news.keywords)#获取新闻摘要print(news.summary)#获取新闻配图地址print(news.top_image)#获取新闻视频地址print(news.movies)

Newspaper 可以与 requests 配合使用，通过 requests 获取源码，由 Newspaper 进行解析提取。Newspaper 库并不能完美的解析出各种信息，适合非专业人士使用。

总结

上文中，讲到了四个爬虫解析库的使用，其中 xpath 与 beautifulSoup 主要用于对 html 文本的解析，正则表达式主要用于对非结构化文本的解析，无法用 xpath 和 beautifulSoup 解析的文本信息通常会使用正则来进行匹配。Newspaper 是智能解析库，使用它可以自动解析新闻信息，无需自己编写表达式，但是缺点也很明显 。

与网络请求库一样，网页解析库的使用是每一个爬虫初学者都应该牢牢掌握的知识点，能够熟练的使用解析库才能更好的完成数据采集工作。

标签：