中国僵尸片,亚洲欧美国产另类视频,亚洲精品无码人妻无码,亚洲有码转帖,亚洲欧美精品伊人久久,97精品依人久久久

更新于 8月8日

爬蟲/數(shù)據(jù)開發(fā)工程師

面議
  • 南京建鄴區(qū)
  • 5-10年
  • 本科
  • 全職
  • 招1人

雇員點評標簽

  • 工作環(huán)境好
  • 同事很nice
  • 團隊執(zhí)行強
  • 氛圍活躍
  • 人際關系好
  • 交通便利
  • 實力大公司
  • 吃住環(huán)境好

職位描述

爬蟲開發(fā)數(shù)據(jù)采集計算機軟件
崗位職責
(1)負責服務端基于Java / Python編程技術實現(xiàn)系統(tǒng)內(nèi)外部數(shù)據(jù)同步、數(shù)據(jù)采集及數(shù)據(jù)分析等功能模塊的編碼工作,確保數(shù)據(jù)處理過程的代碼質(zhì)量與可維護性;
(2)參與技術方案設計,與項目經(jīng)理、前后端開發(fā)、AI開發(fā)協(xié)作,推動數(shù)據(jù)采集需求與系統(tǒng)業(yè)務邏輯的精準對接;
(3)設計并開發(fā)數(shù)據(jù)采集模塊,通過爬蟲技術抓取外部公開數(shù)據(jù),結合 ETL 工具實現(xiàn)數(shù)據(jù)同步,完成數(shù)據(jù)解析、清洗、轉(zhuǎn)換及結構化入庫;
(4)遵循公司代碼規(guī)范,編寫高可復用的爬蟲與數(shù)據(jù)處理代碼,參與代碼審查,優(yōu)化數(shù)據(jù)采集性能(如分布式爬蟲架構)與反爬策略(如 IP 池管理);
(5)參與數(shù)據(jù)模塊的測試、聯(lián)調(diào)及上線工作,確保內(nèi)外部數(shù)據(jù)的一致性、準確性,保障系統(tǒng)中數(shù)據(jù)相關功能的交付質(zhì)量。

任職資格
(1)本科或以上學歷,計算機科學、軟件工程、數(shù)據(jù)科學等相關專業(yè);
(2)5 年及以上 Java 開發(fā)經(jīng)驗,3 年及以上爬蟲與數(shù)據(jù)開發(fā)復合經(jīng)驗,具備爬蟲類項目經(jīng)驗,具備企業(yè)級數(shù)據(jù)采集與處理的項目落地能力。有爬取過招標類網(wǎng)站數(shù)據(jù)經(jīng)驗者優(yōu)先考慮;
(3)熟悉 Spring Boot、MyBatisplus開發(fā)框架,能設計數(shù)據(jù)采集模塊與投標系統(tǒng)的接口集成方案;
(4)精通 MySQL/PostgreSQL 數(shù)據(jù)庫,掌握索引優(yōu)化、分庫分表及數(shù)據(jù)建模,能設計爬蟲與內(nèi)部數(shù)據(jù)的存儲架構;熟悉 Redis 緩存、Kafka 消息隊列,實現(xiàn)數(shù)據(jù)實時同步與異步處理;
(5)精通 Scrapy、HttpClient 等爬蟲框架,掌握 IP 池輪換、請求頻率控制、UA 隨機化等反爬技術;熟悉 Selenium、Puppeteer 等,能抓取動態(tài)頁面數(shù)據(jù);熟練使用 BeautifulSoup/JSoup 等解析 HTML,通過正則表達式提取關鍵信息;了解分布式爬蟲架構(如 Scrapy-Redis),具備 TB 級情報數(shù)據(jù)采集與處理經(jīng)驗;
(6)熟悉 ETL 工具(如 Kettle、DataX)或其他數(shù)據(jù)同步框架,能完成企業(yè)內(nèi)部系統(tǒng)平臺的數(shù)據(jù)對接;熟悉數(shù)據(jù)清洗、轉(zhuǎn)換規(guī)則,能基于業(yè)務規(guī)范設計數(shù)據(jù)校驗邏輯;掌握 SQL 優(yōu)化技巧,能編寫復雜查詢語句實現(xiàn)數(shù)據(jù)關聯(lián)分析;了解數(shù)據(jù)可視化基礎(如 ECharts 圖表開發(fā)),可配合前端展示數(shù)據(jù)采集結果;
(7)熟練使用 Git 版本控制工具,理解前后端協(xié)作模式,具備容器化部署(Docker/Kubernetes)經(jīng)驗;
(8)能夠適應出差。

工作地點

南京建鄴區(qū)中通服咨詢設計研究院有限公司

職位發(fā)布者

劉女士/企業(yè)HR

立即溝通
公司Logo中通服設計院公司標簽
中通服咨詢設計研究院有限公司始建于1963年,系致力于通信、建筑、信息化、電力、節(jié)能環(huán)保的咨詢、設計、研究與實施的國家級重點高新技術企業(yè),住建部、工信部等政府部門國家標準和行業(yè)標準制定單位之一,通信運營商集團總部主要技術支撐單位。國家發(fā)改委認定的國家企業(yè)技術中心,江蘇省省長質(zhì)量獎獲獎單位。公司以“成為國內(nèi)一流、國際有影響力的通信、建筑、信息化以及節(jié)能環(huán)保行業(yè)技術服務提供商”為愿景,多年來潛心傳承智慧網(wǎng)絡,創(chuàng)意與靈感構建無窮想象。公司定位于“新一代綜合智慧服務商”,以中國通服智慧城市工程院為載體,智慧城市總承包建設能力處于國內(nèi)領先地位。公司擁有一流的企業(yè)管理和有競爭力的薪酬體系,奉行“以人為本”、“上善若水”的企業(yè)文化。公司注重員工能力的提升和職業(yè)生涯發(fā)展,培育出一批高素質(zhì)、高水平的學科帶頭人,期待優(yōu)秀的你與我們共同發(fā)展成長!
公司主頁