国家统计局统计用区划代码和城乡划分代码爬虫-(二)总体实现

本文详细分析了国家统计局统计用区划代码和城乡划分代码爬虫的实现过程,这是第二篇,详细分析了爬取全过程。

详细的代码开源在GitHub上:NBSPRC-spider


一、总体思路说明

首先我定义了一个网页爬取函数,然后依次定义省级代码获取函数、市级代码获取函数、区级代码获取函数、街道代码获取函数、居委会代码获取函数,这些函数都会调用网页爬取函数。其中区级代码获取函数、街道代码获取函数、居委会代码获取函数这三个函数都是多线程实现爬取的。最后我将爬取得到的数据输出为csv格式文件。

1、库函数导入

1
2
3
4
5
6
7
8
import requests
from lxml import etree
import csv
import time
import pandas as pd
from queue import Queue
from threading import Thread
from fake_useragent import UserAgent

2、网页爬取函数

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
# 下面加入了num_retries这个参数,经过测试网络正常一般最多retry一次就能获得结果
def getUrl(url,num_retries = 5):
ua = UserAgent()
headers = {'User-Agent':ua.random}
try:
response = requests.get(url,headers = headers)
response.encoding = response.apparent_encoding
data = response.text
return data
except Exception as e:
if num_retries > 0:
time.sleep(10)
print(url)
print("requests fail, retry!")
return getUrl(url,num_retries-1) #递归调用
else:
print("retry fail!")
print("error: %s" % e + " " + url)
return #返回空值,程序运行报错

3、获取省级代码函数

1
2
3
4
5
6
7
8
9
10
11
12
def getProvince(url):
province = []
data = getUrl(url)
selector = etree.HTML(data)
provinceList = selector.xpath('//tr[@class="provincetr"]')
for i in provinceList:
provinceName = i.xpath('td/a/text()') #这里如果采用//a/text()路径会出现问题!!
provinceLink = i.xpath('td/a/@href')
for j in range(len(provinceLink)):
provinceURL = url[:-10] + provinceLink[j] #根据获取到的每个省的链接进行补全,得到真实的URL。
province.append({'name':provinceName[j],'link':provinceURL})
return province
1
pro = getProvince("http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/index.html")
1
2
df_province = pd.DataFrame(pro)
df_province['link']
0     http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
1     http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
2     http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
3     http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
4     http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
5     http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
6     http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
7     http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
8     http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
9     http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
10    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
11    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
12    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
13    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
14    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
15    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
16    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
17    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
18    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
19    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
20    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
21    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
22    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
23    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
24    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
25    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
26    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
27    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
28    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
29    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
30    http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...
Name: link, dtype: object

信息写入csv文件

1
df_province.to_csv('province.csv', sep=',', header=True, index=False)

4、获取市级代码函数

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
def getCity(url_list):
city_all = []
for url in url_list:
data = getUrl(url)
selector = etree.HTML(data)
cityList = selector.xpath('//tr[@class="citytr"]')
#下面是抓取每一个城市的代码、URL
city = []
for i in cityList:
cityCode = i.xpath('td[1]/a/text()')
cityLink = i.xpath('td[1]/a/@href')
cityName = i.xpath('td[2]/a/text()')
for j in range(len(cityLink)):
cityURL = url[:-7] + cityLink[j]
city.append({'name':cityName[j],'code':cityCode[j],'link':cityURL})
city_all.extend(city) #所有省的城市信息合并在一起
return city_all
1
city = getCity(df_province['link'])
1
2
df_city = pd.DataFrame(city)
df_city
codelinkname
0110100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...市辖区
1120100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...市辖区
2130100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...石家庄市
3130200000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...唐山市
4130300000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...秦皇岛市
5130400000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...邯郸市
6130500000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...邢台市
7130600000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...保定市
8130700000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...张家口市
9130800000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...承德市
10130900000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...沧州市
11131000000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...廊坊市
12131100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...衡水市
13139000000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...省直辖县级行政区划
14140100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...太原市
15140200000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...大同市
16140300000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阳泉市
17140400000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...长治市
18140500000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...晋城市
19140600000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...朔州市
20140700000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...晋中市
21140800000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...运城市
22140900000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...忻州市
23141000000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...临汾市
24141100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...吕梁市
25150100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...呼和浩特市
26150200000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...包头市
27150300000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...乌海市
28150400000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...赤峰市
29150500000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...通辽市
............
314622900000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...临夏回族自治州
315623000000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...甘南藏族自治州
316630100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...西宁市
317630200000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...海东市
318632200000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...海北藏族自治州
319632300000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...黄南藏族自治州
320632500000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...海南藏族自治州
321632600000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...果洛藏族自治州
322632700000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...玉树藏族自治州
323632800000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...海西蒙古族藏族自治州
324640100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...银川市
325640200000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...石嘴山市
326640300000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...吴忠市
327640400000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...固原市
328640500000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...中卫市
329650100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...乌鲁木齐市
330650200000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...克拉玛依市
331650400000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...吐鲁番市
332650500000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...哈密市
333652300000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...昌吉回族自治州
334652700000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...博尔塔拉蒙古自治州
335652800000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...巴音郭楞蒙古自治州
336652900000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阿克苏地区
337653000000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...克孜勒苏柯尔克孜自治州
338653100000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...喀什地区
339653200000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...和田地区
340654000000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...伊犁哈萨克自治州
341654200000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...塔城地区
342654300000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阿勒泰地区
343659000000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...自治区直辖县级行政区划

信息写入csv文件

1
df_city.to_csv('city.csv', sep=',', header=True, index=False)

5、获取区级代码函数—多线程实现

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
def getCounty(url_list):
queue_county = Queue() #队列
thread_num = 10 #进程数
county = [] #记录区级信息的字典(全局)

def produce_url(url_list):
for url in url_list:
queue_county.put(url) # 生成URL存入队列,等待其他线程提取

def getData():
while not queue_county.empty(): # 保证url遍历结束后能退出线程
url = queue_county.get() # 从队列中获取URL
data = getUrl(url)
selector = etree.HTML(data)
countyList = selector.xpath('//tr[@class="countytr"]')
#下面是爬取每个区的代码、URL
for i in countyList:
countyCode = i.xpath('td[1]/a/text()')
countyLink = i.xpath('td[1]/a/@href')
countyName = i.xpath('td[2]/a/text()')
#上面得到的是列表形式的,下面将其每一个用字典存储
for j in range(len(countyLink)):
countyURL = url[:-9] + countyLink[j]
county.append({'code':countyCode[j],'link':countyURL,'name':countyName[j]})

def run(url_list):
produce_url(url_list)

ths = []
for _ in range(thread_num):
th = Thread(target = getData)
th.start()
ths.append(th)
for th in ths:
th.join()

run(url_list)
return county
1
county = getCounty(df_city['link'])
1
2
df_county = pd.DataFrame(county)
df_county
codelinkname
0130702000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...桥东区
1130703000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...桥西区
2130705000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...宣化区
3130706000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...下花园区
4130708000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...万全区
5130709000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...崇礼区
6130722000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...张北县
7130723000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...康保县
8130724000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...沽源县
9130725000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...尚义县
10130726000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...蔚县
11130727000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阳原县
12130602000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...竞秀区
13130606000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...莲池区
14130607000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...满城区
15130608000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...清苑区
16130609000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...徐水区
17130623000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...涞水县
18130624000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阜平县
19130626000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...定兴县
20130627000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...唐县
21130628000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...高阳县
22130629000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...容城县
23130630000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...涞源县
24130631000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...望都县
25130632000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...安新县
26130633000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...易县
27130634000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...曲阳县
28130635000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...蠡县
29130636000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...顺平县
............
2822653128000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...岳普湖县
2823653129000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...伽师县
2824654221000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...额敏县
2825652901000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阿克苏市
2826654223000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...沙湾县
2827652922000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...温宿县
2828653130000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...巴楚县
2829654224000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...托里县
2830652923000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...库车县
2831654225000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...裕民县
2832653131000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...塔什库尔干塔吉克自治县
2833654226000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...和布克赛尔蒙古自治县
2834652924000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...沙雅县
2835652925000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...新和县
2836652926000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...拜城县
2837652927000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...乌什县
2838652928000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阿瓦提县
2839652929000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...柯坪县
2840659001000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...石河子市
2841659002000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阿拉尔市
2842659003000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...图木舒克市
2843659004000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...五家渠市
2844659006000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...铁门关市
2845654301000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阿勒泰市
2846654321000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...布尔津县
2847654322000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...富蕴县
2848654323000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...福海县
2849654324000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...哈巴河县
2850654325000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...青河县
2851654326000000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...吉木乃县

排序

由于多线程的关系,数据的顺序已经被打乱,所以这里按照区代码进行“升序”排序。

1
df_county_sorted = df_county.sort_values(by = ['code']) #按1列进行升序排序

信息写入csv文件

1
df_county_sorted.to_csv('county.csv', sep=',', header=True, index=False)

6、获取街道代码函数—多线程实现

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
def getTown(url_list):
queue_town = Queue() #队列
thread_num = 50 #进程数
town = [] #记录街道信息的字典(全局)

def produce_url(url_list):
for url in url_list:
queue_town.put(url) # 生成URL存入队列,等待其他线程提取

def getData():
while not queue_town.empty(): # 保证url遍历结束后能退出线程
url = queue_town.get() # 从队列中获取URL
data = getUrl(url)
selector = etree.HTML(data)
townList = selector.xpath('//tr[@class="towntr"]')
#下面是爬取每个区的代码、URL
for i in townList:
townCode = i.xpath('td[1]/a/text()')
townLink = i.xpath('td[1]/a/@href')
townName = i.xpath('td[2]/a/text()')
#上面得到的是列表形式的,下面将其每一个用字典存储
for j in range(len(townLink)):
townURL = url[:-11] + townLink[j]
town.append({'code':townCode[j],'link':townURL,'name':townName[j]})

def run(url_list):
produce_url(url_list)

ths = []
for _ in range(thread_num):
th = Thread(target = getData)
th.start()
ths.append(th)
for th in ths:
th.join()

run(url_list)
return town
1
town = getTown(df_county['link'])
1
2
df_town = pd.DataFrame(town)
df_town
codelinkname
0130706001000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...城镇街道办事处
1130706002000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...煤矿街道办事处
2130706200000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...花园乡
3130706201000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...辛庄子乡
4130706202000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...定方水乡
5130706203000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...段家堡乡
6130702001000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...红旗楼街道办事处
7130702002000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...胜利北路街道办事处
8130702003000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...五一路街道办事处
9130702004000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...花园街街道办事处
10130702005000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...工业路街道办事处
11130702101000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...姚家庄镇
12130623001000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...城区社区管理办公室街道办事处
13130624100000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阜平镇
14130624101000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...龙泉关镇
15130626100000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...定兴镇
16130623100000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...涞水镇
17130624102000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...平阳镇
18130624103000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...城南庄镇
19130624104000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...天生桥镇
20130624105000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...王林口镇
21130624202000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...台峪乡
22130624203000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...大台乡
23130624204000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...史家寨乡
24130624205000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...砂窝乡
25130724100000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...平定堡镇
26130724101000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...小厂镇
27130724102000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...黄盖淖镇
28130724103000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...九连城镇
29130724200000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...高山堡乡
............
42532659002509000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...兵团十六团
42533659002511000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...兵团第一师水利水电工程处
42534659002512000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...兵团第一师塔里木灌区水利管理处
42535659002513000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阿拉尔农场
42536659002514000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...兵团第一师幸福农场
42537659002515000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...中心监狱
42538659002516000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...兵团一团
42539659002517000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...兵团农一师沙井子水利管理处
42540659002518000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...西工业园区管理委员会
42541659002519000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...兵团二团
42542659002520000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...兵团三团
42543522701001000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...广惠街道办事处
42544522701002000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...文峰街道办事处
42545522701004000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...小围寨街道办事处
42546522701005000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...沙包堡街道办事处
42547522701006000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...绿茵湖街道办事处
42548522701106000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...墨冲镇
42549522701107000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...平浪镇
42550522701110000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...毛尖镇
42551522701111000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...匀东镇
42552522701208000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...归兰水族乡
42553652928100000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阿瓦提镇
42554652928101000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...乌鲁却勒镇
42555652928102000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...拜什艾日克镇
42556652928200000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阿依巴格乡
42557652928201000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...塔木托格拉克乡
42558652928202000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...英艾日克乡
42559652928203000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...多浪乡
42560652928204000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...巴格托格拉克乡
42561652928405000http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhf...阿克苏监狱

排序

由于多线程的关系,数据的顺序已经被打乱,所以这里按照街道代码进行“升序”排序。

1
df_town_sorted = df_town.sort_values(by = ['code']) #按1列进行升序排序

信息写入csv文件

1
df_town_sorted.to_csv('town.csv', sep=',', header=True, index=False)

7、获取居委会代码函数—多线程实现

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
def getVillage(url_list):
queue_village = Queue() #队列
thread_num = 200 #进程数
town = [] #记录街道信息的字典(全局)

def produce_url(url_list):
for url in url_list:
queue_village.put(url) # 生成URL存入队列,等待其他线程提取

def getData():
while not queue_village.empty(): # 保证url遍历结束后能退出线程
url = queue_village.get() # 从队列中获取URL
data = getUrl(url)
selector = etree.HTML(data)
villageList = selector.xpath('//tr[@class="villagetr"]')
#下面是爬取每个区的代码、URL
for i in villageList:
villageCode = i.xpath('td[1]/text()')
UrbanRuralCode = i.xpath('td[2]/text()')
villageName = i.xpath('td[3]/text()')
#上面得到的是列表形式的,下面将其每一个用字典存储
for j in range(len(villageCode)):
town.append({'code':villageCode[j],'UrbanRuralCode':UrbanRuralCode[j],'name':villageName[j]})

def run(url_list):
produce_url(url_list)

ths = []
for _ in range(thread_num):
th = Thread(target = getData)
th.start()
ths.append(th)
for th in ths:
th.join()

run(url_list)
return town
1
village = getVillage(df_town['link'])
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/14/07/24/140724204.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/14/07/27/140727400.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/14/10/29/141029204.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/15/01/04/150104008.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/14/09/81/140981102.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/15/01/02/150102001.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/14/09/81/140981210.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/15/04/21/150421202.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/15/04/25/150425100.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/15/04/22/150422401.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/15/04/02/150402402.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/15/04/30/150430207.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/15/01/21/150121105.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/15/07/22/150722105.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/15/25/26/152526103.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/21/04/21/210421209.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/21/04/22/210422108.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/21/05/02/210502002.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/21/06/03/210603007.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/21/05/02/210502010.html
requests fail, retry!
http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2016/21/05/03/210503005.html
requests fail, retry!

由于数据量很大,所以这里我没有爬取完毕。

赞赏一杯咖啡
0%