崗位職責(zé):
1、 三年以上Python網(wǎng)絡(luò)爬蟲開發(fā)經(jīng)驗(yàn),熟悉python java JavaScript等編程語言;
2、負(fù)責(zé)公司有關(guān)網(wǎng)絡(luò)抓取方面的工作,處理網(wǎng)絡(luò)數(shù)據(jù)抓取規(guī)劃、匯總,具備搭建數(shù)據(jù)采集平臺,建立爬蟲系統(tǒng),對數(shù)據(jù)的抓取、解析、調(diào)度、存儲、維護(hù)等開發(fā)工作;
3、爬蟲核心算法和策略優(yōu)化,熟悉采集系統(tǒng)的調(diào)度策略,分析爬蟲系統(tǒng)瓶頸設(shè)計(jì)實(shí)現(xiàn)相應(yīng)策略和算法,提升爬蟲的抓取效率和質(zhì)量;
4、負(fù)責(zé)服務(wù)器的網(wǎng)絡(luò)設(shè)置、維護(hù)和優(yōu)化、安全監(jiān)控、設(shè)備系統(tǒng)性能管理和優(yōu)化、網(wǎng)絡(luò)性能管理和優(yōu)化保障服務(wù)器與數(shù)據(jù)庫安全等。
任職要求:
1、熟悉熟悉 Python generator, lucence , scrapy,pyspider,Selenium 等框架及系統(tǒng),掌握基本的Xpath,Selenium等用法及Requests,lxml庫,Selenium;或熟悉httpclient、htmlparser、lucene、slor等相關(guān)技術(shù),Lucene/Nutch/等開源工具;
2、 精通抓包工具至少一種,熟悉使用網(wǎng)頁抓取原理及技術(shù),異步編程, 多線程,多進(jìn)程編程, 事件驅(qū)動編程;
3、 熟悉Windows和linux系統(tǒng),基本網(wǎng)絡(luò)設(shè)備的簡單配置和管理及計(jì)算機(jī)硬件、操作系統(tǒng)維護(hù);
4、 具有較強(qiáng)的分析和解決問題能力,以解決技術(shù)難題為樂趣,有想法,敢于挑戰(zhàn);
5、熟悉MySQL,MongoDB及有集群數(shù)據(jù)庫開發(fā)經(jīng)驗(yàn);
6、 有 simPy 仿真經(jīng)驗(yàn)者優(yōu)先。
1、 三年以上Python網(wǎng)絡(luò)爬蟲開發(fā)經(jīng)驗(yàn),熟悉python java JavaScript等編程語言;
2、負(fù)責(zé)公司有關(guān)網(wǎng)絡(luò)抓取方面的工作,處理網(wǎng)絡(luò)數(shù)據(jù)抓取規(guī)劃、匯總,具備搭建數(shù)據(jù)采集平臺,建立爬蟲系統(tǒng),對數(shù)據(jù)的抓取、解析、調(diào)度、存儲、維護(hù)等開發(fā)工作;
3、爬蟲核心算法和策略優(yōu)化,熟悉采集系統(tǒng)的調(diào)度策略,分析爬蟲系統(tǒng)瓶頸設(shè)計(jì)實(shí)現(xiàn)相應(yīng)策略和算法,提升爬蟲的抓取效率和質(zhì)量;
4、負(fù)責(zé)服務(wù)器的網(wǎng)絡(luò)設(shè)置、維護(hù)和優(yōu)化、安全監(jiān)控、設(shè)備系統(tǒng)性能管理和優(yōu)化、網(wǎng)絡(luò)性能管理和優(yōu)化保障服務(wù)器與數(shù)據(jù)庫安全等。
任職要求:
1、熟悉熟悉 Python generator, lucence , scrapy,pyspider,Selenium 等框架及系統(tǒng),掌握基本的Xpath,Selenium等用法及Requests,lxml庫,Selenium;或熟悉httpclient、htmlparser、lucene、slor等相關(guān)技術(shù),Lucene/Nutch/等開源工具;
2、 精通抓包工具至少一種,熟悉使用網(wǎng)頁抓取原理及技術(shù),異步編程, 多線程,多進(jìn)程編程, 事件驅(qū)動編程;
3、 熟悉Windows和linux系統(tǒng),基本網(wǎng)絡(luò)設(shè)備的簡單配置和管理及計(jì)算機(jī)硬件、操作系統(tǒng)維護(hù);
4、 具有較強(qiáng)的分析和解決問題能力,以解決技術(shù)難題為樂趣,有想法,敢于挑戰(zhàn);
5、熟悉MySQL,MongoDB及有集群數(shù)據(jù)庫開發(fā)經(jīng)驗(yàn);
6、 有 simPy 仿真經(jīng)驗(yàn)者優(yōu)先。
職位類別: 大數(shù)據(jù)挖掘
舉報
- 公司性質(zhì):民營企業(yè)
- 所在地區(qū):廣東-深圳市-寶安區(qū)
- 聯(lián)系人:何小姐
- 手機(jī):會員登錄后才可查看
- 郵箱:會員登錄后才可查看
- 郵政編碼:
工作地址
- 地址:寶安創(chuàng)業(yè)二路七星創(chuàng)意工場創(chuàng)新樓202室






