崗位職責(zé)： 1.對(duì)指定的網(wǎng)站進(jìn)行網(wǎng)頁(yè)抓取、數(shù)據(jù)提取、破解反爬策略； 2.負(fù)責(zé)多平臺(tái)信息抽取、數(shù)據(jù)清洗、入庫(kù)、服務(wù)化等研發(fā)和優(yōu)化工作； 3.參與開(kāi)發(fā)和設(shè)計(jì)分布式網(wǎng)絡(luò)爬蟲(chóng)系統(tǒng)，進(jìn)行信息的抓取和分析工作； 4.研究?jī)?yōu)化爬蟲(chóng)算法，提升爬蟲(chóng)系統(tǒng)的穩(wěn)定性、可擴(kuò)展性； 5.獨(dú)立解決實(shí)際開(kāi)發(fā)過(guò)程中碰到的各類(lèi)產(chǎn)品數(shù)據(jù)需求和接口問(wèn)題。 任職資格： 1、本科及以上學(xué)歷，計(jì)算機(jī)相關(guān)專(zhuān)業(yè)，5年以上工作經(jīng)驗(yàn)。 2、精通python編程語(yǔ)言，熟悉scrapy等常用數(shù)據(jù)抓取框架以及原理，熟悉網(wǎng)頁(yè)信息和APP數(shù)據(jù)抽取，能夠設(shè)計(jì)分布式爬蟲(chóng)系統(tǒng)框架； 3、精通 Charles等抓包工具，精通網(wǎng)頁(yè)抓取原理及技術(shù)，精通正則表達(dá)式，熟練從結(jié)構(gòu)化和非結(jié)構(gòu)化的數(shù)據(jù)中獲取信息； 4、精通 JS debugger、JS逆向; 5、精通 selenium 、DrissionPage 等自動(dòng)化抓取技術(shù)； 6、把握網(wǎng)絡(luò)爬蟲(chóng)核心技術(shù)研究方向,研究?jī)?yōu)化算法,提升爬蟲(chóng)系統(tǒng)的穩(wěn)定性、可擴(kuò)展性; 7、研究爬蟲(chóng)策略和防屏蔽規(guī)則,解決封賬號(hào)、封IP、驗(yàn)證碼、頁(yè)面跳轉(zhuǎn)等難點(diǎn)攻克,提升網(wǎng)頁(yè)抓取的效率和質(zhì)量 8、優(yōu)先條件,對(duì)APP脫殼、APP逆向反編譯或者有快手、抖音數(shù)據(jù)爬取經(jīng)驗(yàn)，或者對(duì)機(jī)器學(xué)習(xí)算法有一定了解。