更新于 今天

大數(shù)據(jù)架構師

2萬-2.5萬
  • 武漢洪山區(qū)
  • 5-10年
  • 本科
  • 全職
  • 招1人

職位描述

大數(shù)據(jù)開發(fā)數(shù)據(jù)庫開發(fā)數(shù)據(jù)治理
崗位職責:
1.負責設計并實施分布式數(shù)據(jù)平臺架構,優(yōu)化數(shù)據(jù)存儲、處理和分析流程。參與大數(shù)據(jù)平臺產(chǎn)品的規(guī)劃、設計、開發(fā)和迭代,提升平臺的穩(wěn)定性、可擴展性和易用性。
2.基于Hadoop、Spark、Flink等大數(shù)據(jù)處理框架,設計并實現(xiàn)高效的海量數(shù)據(jù)模型,確保數(shù)據(jù)的高效存儲與訪問。負責數(shù)據(jù)開發(fā)流程,包括數(shù)據(jù)清洗、轉換、加載及數(shù)據(jù)治理工作,以滿足業(yè)務對數(shù)據(jù)的高并發(fā)訪問需求。
3.利用開源框架進行大數(shù)據(jù)的采集工作,確保數(shù)據(jù)的完整性、準確性和及時性。進行深度數(shù)據(jù)分析,挖掘數(shù)據(jù)價值,為業(yè)務決策提供數(shù)據(jù)支持。整理分析結果,形成清晰、易于理解的報告或可視化展示。
4.針對大數(shù)據(jù)處理過程中的性能瓶頸,進行調優(yōu)和故障排查。利用Hadoop、Spark、Flink等技術的特性,優(yōu)化資源配置和作業(yè)調度,提高數(shù)據(jù)處理效率。
5.關注大數(shù)據(jù)領域的新技術、新趨勢,探索其在業(yè)務中的應用可能性,推動技術升級和創(chuàng)新。
任職要求:
1.擁有5年或以上大數(shù)據(jù)開發(fā)經(jīng)驗,其中至少3年專注于大數(shù)據(jù)架構設計與實現(xiàn)。具備扎實的大數(shù)據(jù)理論基礎和實踐經(jīng)驗,能夠獨立完成復雜的大數(shù)據(jù)項目。
2.具備豐富的大數(shù)據(jù)架構設計經(jīng)驗,能夠根據(jù)業(yè)務需求設計高可用、可擴展的大數(shù)據(jù)平臺架構。熟悉分布式系統(tǒng)原理,能夠設計并實施分布式數(shù)據(jù)存儲和處理方案。能夠評估新技術在大數(shù)據(jù)平臺上的應用潛力,并進行技術選型與集成。
3.熟練掌握Hadoop、Spark、Flink等大數(shù)據(jù)核心技術,能夠針對不同量級的數(shù)據(jù)量進行配置調優(yōu)和組件維護。熟悉Hbase、Hdfs、MapReduce、Yarn、Zookeeper、Hive、Kafka等大數(shù)據(jù)生態(tài)系統(tǒng)中的關鍵組件,能夠閱讀并理解源碼,解決復雜問題。了解并能應用NoSQL數(shù)據(jù)庫(如MongoDB、Cassandra等)以及實時數(shù)據(jù)流處理技術(如Storm、Samza等)。
4.具備豐富的海量數(shù)據(jù)性能處理經(jīng)驗,能夠基于Hive和MySQL進行SQL優(yōu)化,提升查詢效率。熟悉數(shù)據(jù)分區(qū)、索引、緩存等策略,能夠設計并實施有效的數(shù)據(jù)預處理和存儲方案,降低數(shù)據(jù)處理成本。能夠快速定位并解決大數(shù)據(jù)處理過程中的性能瓶頸和故障問題。
5.熟悉數(shù)據(jù)倉庫建模方法,能夠設計合理的數(shù)據(jù)模型以滿足業(yè)務需求。具備數(shù)據(jù)質量與數(shù)據(jù)治理經(jīng)驗,了解數(shù)據(jù)生命周期管理、數(shù)據(jù)安全管理等相關知識。能夠制定并執(zhí)行數(shù)據(jù)治理策略,確保數(shù)據(jù)的準確性、完整性和一致性。
6.熟練使用Java核心框架,如Spring Cloud、Spring Boot等,能夠編寫高效、可維護的代碼。了解Python、Scala等大數(shù)據(jù)相關編程語言,能夠根據(jù)需要選擇最合適的編程語言進行開發(fā)。
7.具備良好的溝通表達能力和跨團隊協(xié)作能力,能夠與團隊成員、業(yè)務方有效溝通,協(xié)同推進項目進展。
8.對新技術保持好奇心,愿意不斷學習新知識,探索新技術在大數(shù)據(jù)領域的應用。具備創(chuàng)新思維,能夠提出并推動技術改進和優(yōu)化方案,持續(xù)提升大數(shù)據(jù)平臺的性能和穩(wěn)定性。

工作地點

慧谷大廈A棟

入職公司信息

  • 入職公司: 某信息化公司
  • 公司地址: 武漢江夏區(qū)
  • 公司人數(shù): 500-999人

認證資質

  • 人力資源服務許可認證

    人力資源服務許可證是由國家人力資源與社會保障相關部門頒發(fā),代表人才經(jīng)紀人所在企業(yè)可以合法開展人力資源相關業(yè)務的資質證件。展示該標簽代表該企業(yè)發(fā)布此職位時已上傳《人力資源服務許可證》或《人力資源服務備案證書》并經(jīng)由平臺審驗通過。

職位發(fā)布者

江映逸/人事經(jīng)理

三日內(nèi)活躍
立即溝通
公司Logo武漢安楨瑞網(wǎng)絡科技有限公司
武漢安楨瑞網(wǎng)絡科技有限公司,成立于2020年,位于湖北省武漢市烽火創(chuàng)新谷,毗鄰光谷廣場,鬧中取靜,環(huán)境優(yōu)美,綠化滿分,辦公舒適。,是一家以從事軟件和信息技術服務業(yè)為主的企業(yè)。休息區(qū),辦公區(qū),餐飲配套,商務洽談(谷咖啡、芯源)、郵科院社區(qū)醫(yī)院等設施一應俱全。要努力工作,更要用心生活,我們提倡好形象、好事業(yè)、好心情的氛圍!
公司主頁