最近參加了數(shù)學(xué)建模囊蓝,在解題過程中有了一些心得抖拦,記錄一下
非常渴望能得到python大大們的指點(diǎn)幻工,非常感謝
Andrew_liu的博客對(duì)我的python學(xué)習(xí)有很大的幫助,在這里向他表示感謝
1. 文件處理步驟
- 利用Notepad++打開待處理文件黎茎,搜索到需要提取出的信息
- 分析信息在字典中的層次囊颅,采用合適方式進(jìn)行提取,主要有兩種情況:
2.1 信息是字典中的一個(gè)序列傅瞻,利用序列名直接在字典中進(jìn)行提取
2.2 信息是字典中某一序列的一部分踢代,分析其特征設(shè)計(jì)正則表達(dá)式進(jìn)行提取 - 去除其中的空數(shù)據(jù)和無效數(shù)據(jù)
注意字符的編碼格式,我是統(tǒng)一用的utf-8格式
利用異常處理可以避免文件遍歷時(shí)出現(xiàn)的中斷
JSON的object對(duì)應(yīng)python中的字典(dict)嗅骄,可以直接按照字典進(jìn)行處理
2. 實(shí)現(xiàn)的功能
- 在所給的JSON文件中提取出以下信息:簡(jiǎn)歷ID胳挎,性別,婚姻狀況溺森,學(xué)歷慕爬,性別,預(yù)期職位屏积,預(yù)計(jì)薪資
- 將所抽取的信息保存到另一個(gè)JSON文件中
3. 用到的python模塊
-
json
模塊:用于編碼和解碼JSON對(duì)象 -
re
模塊:正則表達(dá)式模塊
個(gè)人使用的python版本是3.5.1
re
模塊在python標(biāo)準(zhǔn)庫中医窿,直接導(dǎo)入就好
json
模塊需要利用pip安裝
4. 源代碼
輸入文件每一行的開頭都有
'#RESUMEID#'
,利用strip()
去除
輸入文件有兩個(gè)炊林,為了避免覆蓋姥卢,將寫入文件'outputJsonFile'
的打開方式設(shè)為'a+'
代碼re.findall(r'"major":"(.*?)"', line, re.S)
利用正則抽取專業(yè)信息
字符編碼格式為'utf-8'
import re
import json
def processJson(inputJsonFile, outputJsonFile):
fin = open(inputJsonFile, 'r', errors='ignore', encoding='utf-8')
fout = open(outputJsonFile, 'a+', errors='ignore', encoding='utf-8')
for eachline in fin:
line = eachline.strip()
line = line.strip('#RESUMEID#')
js = None
majorStr = re.findall(r'"major":"(.*?)"', line, re.S)
married = re.findall(r'"married":(.*?),', line, re.S)
try:
js = json.loads(line)
except Exception as e:
continue
if ((js["expectPosition"]=='') or (js["expectPosition"]=='其他') or (js["address"]=='')
or (js["expectSalary"]=='') or (js["expectSalary"]=='面議/月')):
continue
if (re.search(r'"expectSalary":"([0-9]*?)-', line, re.S)):
js["expectSalary"] = re.findall(r'"expectSalary":"(.*?)-', line, re.S)
else:
continue
jsout = {"ID":js["id"] , "address":js["address"], 'gender':js["gender"], "degree":js["degree"],
"major":majorStr, "married": married,"expectPosition":js["expectPosition"],
"expectSalary":js["expectSalary"]}
outStr = json.dumps(jsout, ensure_ascii = False)
fout.write(outStr)
fout.write('\n')
fin.close()
fout.close()
if __name__ == '__main__':
processJson('201601.txt.json', 'Q1inputData.json')
processJson('201602.txt.json', 'Q1inputData.json')