日日噜夜夜草|一级黄色录像高清版|调教白富美加勒比久久|亚洲欧洲精品婷婷|日韩综合无码色色|日韩精品一区妖精视频|亚洲无码中文字幕hd|99亚洲思思丝袜|手机看片国产精品大胆亚洲|成人无码视频一区二区在线播放

更新于 今天

數(shù)據(jù)開發(fā)工程師(ETL / 數(shù)據(jù)倉庫方向)

8000-16000元
  • 成都武侯區(qū)
  • 5-10年
  • 本科
  • 全職
  • 招1人

職位描述

SQLPythonJavaKettleOracleMySQL數(shù)據(jù)開發(fā)數(shù)據(jù)清洗Hadoop
1、崗位職責:
負責數(shù)據(jù)抽取、清洗、轉(zhuǎn)換、加載(ETL)全流程開發(fā)與優(yōu)化,對接業(yè)務(wù)系統(tǒng)數(shù)據(jù)源(如業(yè)務(wù)庫、日志、API 等),設(shè)計全量 / 增量抽取策略,定義數(shù)據(jù)清洗、脫敏、標準化規(guī)則,保障數(shù)據(jù)一致性、準確性與時效性。
維護 MySQL、Oracle、PostgreSQL 等主流關(guān)系型數(shù)據(jù)庫,負責表結(jié)構(gòu)設(shè)計、索引優(yōu)化、SQL 查詢性能調(diào)優(yōu),處理千萬級以上數(shù)據(jù)量的存儲與查詢需求,解決數(shù)據(jù)庫運維中的性能瓶頸與異常問題。
基于Hadoop 生態(tài)(HDFS、YARN)、Spark(Spark SQL/PySpark)、Hive、HBase 等大數(shù)據(jù)技術(shù),處理 TB/PB 級海量數(shù)據(jù),完成數(shù)據(jù)聚合、分析及業(yè)務(wù)指標計算,支撐大數(shù)據(jù)應(yīng)用場景落地。
參與數(shù)據(jù)倉庫搭建,結(jié)合業(yè)務(wù)需求進行數(shù)據(jù)建模(維度建模、關(guān)系建模),設(shè)計星型 / 雪花模型,劃分業(yè)務(wù)主題域(如用戶、訂單、商品),搭建數(shù)據(jù)分層架構(gòu)(ODS、DW、DM),支撐數(shù)據(jù)分析與業(yè)務(wù)決策。
編寫 Shell 腳本實現(xiàn) ETL 任務(wù)自動化調(diào)度、數(shù)據(jù)備份、日志清理等運維工作;使用 Python(Pandas/NumPy/PySpark)開發(fā)數(shù)據(jù)處理腳本,完成批量數(shù)據(jù)校驗、異常數(shù)據(jù)修復(fù)及跨系統(tǒng)數(shù)據(jù)交互。
配合數(shù)據(jù)分析師、業(yè)務(wù)團隊梳理數(shù)據(jù)需求,提供數(shù)據(jù)支持;監(jiān)控 ETL 任務(wù)運行狀態(tài),及時排查任務(wù)失敗、數(shù)據(jù)延遲等問題,建立任務(wù)監(jiān)控與告警機制,保障數(shù)據(jù)鏈路穩(wěn)定。
2. 崗位要求:
關(guān)系型數(shù)據(jù)庫能力:熟練操作 MySQL、Oracle、PostgreSQL 等至少 2 種主流關(guān)系型數(shù)據(jù)庫,具備復(fù)雜 SQL(多表關(guān)聯(lián)、子查詢、窗口函數(shù))編寫能力,掌握表結(jié)構(gòu)設(shè)計、索引優(yōu)化、分區(qū)表配置及數(shù)據(jù)庫性能調(diào)優(yōu)技巧,能處理千萬級數(shù)據(jù)量的存儲與查詢場景。
大數(shù)據(jù)技術(shù)能力:熟悉 Hadoop 生態(tài)體系(HDFS、YARN、MapReduce),掌握 Spark(Spark SQL、PySpark)、Hive(HQL 編寫、分區(qū)優(yōu)化)、HBase 等大數(shù)據(jù)工具的使用,能基于大數(shù)據(jù)框架完成海量數(shù)據(jù)清洗、轉(zhuǎn)換、聚合,有 TB/PB 級數(shù)據(jù)處理經(jīng)驗者優(yōu)先。
ETL 全流程能力:精通 ETL 工藝全流程,理解數(shù)據(jù)抽?。ㄈ?/ 增量)、轉(zhuǎn)換(清洗、脫敏、邏輯計算)、加載(全量覆蓋 / 增量追加)的核心邏輯;熟悉至少 1 種 ETL 工具(如 Kettle、DataX、Flink CDC、Talend),能解決 ETL 過程中的數(shù)據(jù)一致性、異常重試、任務(wù)依賴等問題,有 ETL 調(diào)度工具(Airflow、Azkaban)使用經(jīng)驗者優(yōu)先。
數(shù)據(jù)建模能力:具備基礎(chǔ)數(shù)據(jù)建模能力,熟悉維度建模、關(guān)系建模方法論,能結(jié)合業(yè)務(wù)場景設(shè)計星型 / 雪花模型,完成業(yè)務(wù)主題域劃分、指標定義及數(shù)據(jù)倉庫分層(ODS→DW→DM)設(shè)計,理解業(yè)務(wù)數(shù)據(jù)與指標邏輯的對應(yīng)關(guān)系。
腳本與 Linux 能力:熟練掌握 Linux 操作系統(tǒng)常用命令(文件管理、進程監(jiān)控、權(quán)限配置、日志分析);能獨立編寫 Shell 腳本實現(xiàn)自動化任務(wù)(如 ETL 任務(wù)調(diào)度、數(shù)據(jù)備份、批量執(zhí)行 SQL);熟練使用 Python 進行數(shù)據(jù)處理,掌握 Pandas、NumPy、PySpark 等庫,能開發(fā)腳本解決數(shù)據(jù)校驗、批量處理需求。
3、經(jīng)驗與學歷要求:
本科及以上學歷,計算機、大數(shù)據(jù)、統(tǒng)計學、信息管理等相關(guān)專業(yè)優(yōu)先;3-6 年及以上數(shù)據(jù)開發(fā) / ETL 相關(guān)工作經(jīng)驗,有數(shù)據(jù)倉庫搭建、企業(yè)級數(shù)據(jù)鏈路建設(shè)經(jīng)驗者優(yōu)先;有金融、電商、零售等行業(yè)數(shù)據(jù)處理經(jīng)驗者優(yōu)先(根據(jù)公司業(yè)務(wù)調(diào)整)。
4、薪酬:8k--25k

工作地點

成都武侯區(qū)科華天成科華中路139號科華天成大廈28樓

職位發(fā)布者

熊女士/企業(yè)管理員

當前在線
立即溝通
公司Logo四川匯融農(nóng)鏈科技有限公司
四川匯融農(nóng)鏈科技有限公司是一家專注于涉農(nóng)供應(yīng)鏈數(shù)字科技服務(wù)的創(chuàng)新企業(yè),通過數(shù)字化技術(shù)推動農(nóng)業(yè)供應(yīng)鏈的轉(zhuǎn)型升級。公司以科技創(chuàng)新為核心,為金融機構(gòu)及涉農(nóng)產(chǎn)業(yè)鏈上下游企業(yè)提供高效、智能的解決方案。公司業(yè)務(wù)涵蓋軟件開發(fā)(包括電商平臺、交易平臺、倉儲管理系統(tǒng)、信貸管理系統(tǒng)、數(shù)據(jù)中臺、智能風控系統(tǒng)等)、技術(shù)服務(wù)(供應(yīng)鏈金融平臺運營、IT運維、云計算、大數(shù)據(jù)分析)、系統(tǒng)集成(幫助金融機構(gòu)整合IT基礎(chǔ)設(shè)施,將創(chuàng)新業(yè)務(wù)融入現(xiàn)有框架)以及創(chuàng)新業(yè)務(wù)探索(新型農(nóng)業(yè)供應(yīng)鏈金融模式與智能化改造)。公司團隊在傳統(tǒng)銀行信貸風控管理、互聯(lián)網(wǎng)金融風險管理、信貸業(yè)務(wù)運營、客戶服務(wù)、電商業(yè)務(wù)等領(lǐng)域擁有豐富的實戰(zhàn)經(jīng)驗,具備豐富的銀行系統(tǒng)開發(fā)運營經(jīng)驗,公司研發(fā)運營的“匯融農(nóng)鏈”系統(tǒng),創(chuàng)造性地建立農(nóng)業(yè)供應(yīng)鏈金融新模式?!皡R融農(nóng)鏈”通過整合農(nóng)業(yè)產(chǎn)業(yè)鏈資源,為金融機構(gòu)提供三農(nóng)產(chǎn)業(yè)鏈一體化管理平臺和三農(nóng)產(chǎn)業(yè)的綜合金融服務(wù)平臺,協(xié)助金融機構(gòu)實現(xiàn)三農(nóng)金融業(yè)務(wù)的數(shù)字化、智能化管理,提升金融服務(wù)效率和風險控制能力。公司提供的供應(yīng)鏈業(yè)務(wù)一體化管理平臺,助力金融機構(gòu)和三農(nóng)企業(yè)實現(xiàn)供應(yīng)鏈全流程的透明化、高效化管理,促進涉農(nóng)產(chǎn)業(yè)鏈的協(xié)同發(fā)展,構(gòu)建農(nóng)業(yè)物聯(lián)網(wǎng)生態(tài),致力成為涉農(nóng)供應(yīng)鏈數(shù)字科技服務(wù)領(lǐng)域的領(lǐng)軍企業(yè)。
公司主頁