揭秘正則表達式在Python爬蟲中的實戰技巧與案例分析

提問者:用戶RMPI 發布時間: 2025-05-23 11:13:38 閱讀時間: 3分鐘

最佳答案

引言

正則表達式(Regular Expression,簡稱Regex)是Python爬蟲中弗成或缺的東西之一。它可能幫助我們高效地從網頁中提取所需信息,如文本、鏈接、圖片等。本文將深刻探究正則表達式在Python爬蟲中的實戰技能,並經由過程具體案例分析,幫助讀者更好地懂得跟利用正則表達式。

正則表達式基本

1.1 不雅點介紹

正則表達式是一種用於處理字元串的富強東西,它可能婚配、查找跟調換符合特定形式的文本。Python經由過程re模塊供給對正則表達式的支撐。

1.2 基本構成元素

正則表達式由以下基本構成元素構成:

  • 特別字元:如.、*、+、?、^、$等。
  • 量詞:如*、+、?、{m,n}等,用於指定婚配的次數。
  • 地位錨點:如^、$、\b、\B等,用於指定婚配的地位。
  • 斷言:如(?:…)、(?=…)、(?!…)等,用於指定婚配的前提。

1.3 正則表達式語法則矩

  • 元字元:存在特別意思的字元,如.、*、+、?等。
  • 字符集:用於婚配一組字元,如[a-z]、[0-9]等。
  • 分組:用於捕獲婚配的子串,如(…)。
  • 引用:用於引用分組婚配的子串,如\1、\2等。

實戰技能

2.1 貪婪與非貪婪婚配

  • 貪婪婚配:默許情況下,正則表達式採用貪婪婚配,老是實驗婚配儘可能多的字元。
  • 非貪婪婚配:利用非貪婪量詞,如*?、+?、??等,可能婚配儘可能少的字元。

2.2 分組與引用

  • 分組:利用括弧()將須要捕獲的子串括起來。
  • 引用:利用\1、\2等引用分組婚配的子串。

2.3 零寬斷言

  • 零寬斷言:用於婚配特定地位的形式,而不耗費任何字元。

案例分析

3.1 網頁數據抓取

3.1.1 提取圖片地點

import re

html_content = '''
<html>
<head>
    <title>Example</title>
</head>
<body>
    <img src="http://example.com/image1.jpg" alt="Image 1">
    <img src="http://example.com/image2.jpg" alt="Image 2">
</body>
</html>
'''

pattern = r'<img\s+src="([^"]+)"'
images = re.findall(pattern, html_content)
print(images)  # 輸出:['http://example.com/image1.jpg', 'http://example.com/image2.jpg']

3.1.2 提取鏈接

pattern = r'<a\s+href="([^"]+)"'
links = re.findall(pattern, html_content)
print(links)  # 輸出:['http://example.com/link1', 'http://example.com/link2']

3.2 數據清洗

3.2.1 清理德律風號碼中的特別字元

phone_number = '123-456-7890'
pattern = r'[^0-9]'
cleaned_number = re.sub(pattern, '', phone_number)
print(cleaned_number)  # 輸出:1234567890

3.3 提取超鏈接

pattern = r'<a\s+href="([^"]+)"'
links = re.findall(pattern, html_content)
print(links)  # 輸出:['http://example.com/link1', 'http://example.com/link2']

3.4 提取網頁中的文本內容

pattern = r'<p>(.*?)</p>'
text_content = re.findall(pattern, html_content)
print(text_content)  # 輸出:['Example text', 'Another example text']

3.5 從JSON數據中提取特定鍵值對

import json

json_data = '{"name": "John", "age": 30, "city": "New York"}'
data = json.loads(json_data)
pattern = r'"name":\s*"([^"]+)"'
name = re.search(pattern, json_data).group(1)
print(name)  # 輸出:John

3.6 清理HTML標籤

pattern = r'<[^>]+>'
cleaned_html = re.sub(pattern, '', html_content)
print(cleaned_html)  # 輸出:Example text Another example text

總結

正則表達式在Python爬蟲中存在廣泛的利用。經由過程控制正則表達式的實戰技能,我們可能高效地從網頁中提取所需信息。本文經由過程具體案例分析,幫助讀者更好地懂得跟利用正則表達式。在現實利用中,請根據具體須要機動應用正則表達式,以進步爬蟲效力。

相關推薦
    发布时间:2024-11-11
    一般情况下首先得向每位小孩家长道歉,然后根据小孩的上学天数,逐一给每家退没用完的学费,我家朋友小孩上一家幼儿园因为经营不善,倒闭啦,然后就按照学生未上完的学费退的款,如果要是幼儿园因为非可抗拒因素,退费的问题就另当别论啦!
    发布时间:2024-11-11
    路易士集成灶是品牌。路易士厨电隶属于美的集团,是美的旗下的高端厨电品牌,主要生产高端厨房电器,如烟灶、消毒柜、蒸箱、烤箱等。路易士厨电以其高品质、高性能、高设计感的产品而著名,是国内高端厨电市场的领导品牌之一。
    发布时间:2024-11-11
    一、查询缺额信息符合调剂要求的考生可以登录中国研究生招生信息网(https://yz.chsi.com.cn/),进入网上调剂系统,查询各单位公布的调剂缺额信息和调剂要求,锁定几所目标院校。二、填写调剂志愿选择好调剂院校后按要求填写调
    发布时间:2024-11-11
    小项、中项、大项是指在统计学上用于分类和总结数据的术语。大项是最总体的分类,中项是对大项的细分,小项则更具体地划分了中项。例如,在调查某个城市的食品消费情况中,大项可以是食品消费,中项可以是餐饮消费、超市购物消费等,小项则可以是每个餐饮
    发布时间:2024-11-11
    1、将肉桂枝和/或肉桂叶装入蒸馏锅进行蒸馏,其内的肉桂枝和/或肉桂叶的肉桂油被水蒸气蒸出,与水蒸气形成混合蒸气。2、混合蒸汽进入到蒸发器冷凝成油水混合液后输入冷凝器中,进行加热蒸发转化成蒸汽进入水蒸。3、油水混合液经过油水分离器后
    发布时间:2024-11-11
    鹦鹉是鹦形目(学名:Psittaciformes)众多羽毛艳丽、爱叫的鸟。典型的攀禽,对趾型足,两趾向前两趾向后,适合抓握,鸟喙强劲有力,可以食用硬壳果。羽色鲜艳,常被作为宠物饲养。它们以其美丽的羽毛,善学人语技能的特点,更为人们所欣赏和钟
    发布时间:2024-11-11
    在散打运动中常用的有直、摆、勾、劈、鞭拳等五种拳法,这些拳法在实战中具有速度快和灵活多变的特点,它能以最短的距离,最快的速度击中对手。拳法益于结合进行训练,并且能任意配合其它技术使用,掌握的好,利用的巧妙能给对手造成很大的威胁。直拳:以左直
    发布时间:2024-11-11
    有可能会,有可能不会,要么你的手机是中端机或者低端机,高端机,如果你是中端机或者低端机的话你一边听歌,一边玩游戏,会影响你玩游戏的性能,会导致你手机发烫,然后使你玩游戏的时候卡顿,如果你是高端机的话,比如苹果那种的就不会发生那种情况,一边听
    发布时间:2024-11-11
    1、孤独界杠把子 2、酷到无路可走 3、曲未终人已散 4、当时我就萌了5、最凉不过人心6、谁把流年搁浅7、我记得我帅过8、余生独自流浪9、错过了就算了夕鍚下嘚箛影10、一只孤独的鬼11、久伴不如酒伴
    发布时间:2024-11-11
    土木工程结构设计中,在地基基础设计时,直接承受基础荷载的土层称为持力层。持力层受力最大,直接影响建筑物安全,故在设计中要验算包括该地层在内的整个地基强度,必要时,还要验算它们的沉降。持力层地基承受的荷载是随着土体深度的加深而慢慢减小,到