Python HTMLParser模塊解析html獲取url實(shí)例
HTMLParser是python用來解析html的模塊。它可以分析出html里面的標(biāo)簽、數(shù)據(jù)等等,是一種處理html的簡(jiǎn)便途徑。HTMLParser采用的是一種事件驅(qū)動(dòng)的模式,當(dāng)HTMLParser找到一個(gè)特定的標(biāo)記時(shí),它會(huì)去調(diào)用一個(gè)用戶定義的函數(shù),以此來通知程序處理。它主要的用戶回調(diào)函數(shù)的命名都是以handler_開頭的,都是HTMLParser的成員函數(shù)。當(dāng)我們使用時(shí),就從HTMLParser派生出新的類,然后重新定義這幾個(gè)以handler_開頭的函數(shù)即可。這幾個(gè)函數(shù)包括:
handle_startendtag 處理開始標(biāo)簽和結(jié)束標(biāo)簽
handle_starttag 處理開始標(biāo)簽,比如<xx>
handle_endtag 處理結(jié)束標(biāo)簽,比如</xx>
handle_charref 處理特殊字符串,就是以&#開頭的,一般是內(nèi)碼表示的字符
handle_entityref 處理一些特殊字符,以&開頭的,比如
handle_data 處理數(shù)據(jù),就是<xx>data</xx>中間的那些數(shù)據(jù)
handle_comment 處理注釋
handle_decl 處理<!開頭的,比如<!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"
handle_pi 處理形如<?instruction>的東西
這里我以從網(wǎng)頁(yè)中獲取到url為例,介紹一下。要想獲取到url,肯定是要分析<a>標(biāo)簽,然后取到它的href屬性的值。下面是代碼:
#-*- encoding: gb2312 -*-
import HTMLParser
class MyParser(HTMLParser.HTMLParser):
def __init__(self):
HTMLParser.HTMLParser.__init__(self)
def handle_starttag(self, tag, attrs):
# 這里重新定義了處理開始標(biāo)簽的函數(shù)
if tag == 'a':
# 判斷標(biāo)簽<a>的屬性
for name,value in attrs:
if name == 'href':
print value
if __name__ == '__main__':
a = '<html><head><title>test</title><body><a href="http://www.tjdsmy.cn">鏈接到163</a></body></html>'
my = MyParser()
# 傳入要分析的數(shù)據(jù),是html的。
my.feed(a)