首頁 > 制度大全 > 數據工程架構師(研發)職位描述與崗位職責任職要求

數據工程架構師(研發)職位描述與崗位職責任職要求

2024-07-26 閱讀 3776

職位描述

職責描述

1)負責大數據項目的設計、開發工作;

2)負責數據挖掘分析的算法分析與設計工作;

3)負責大數據智能文本分析等相關文本挖掘工作;

4)針對海量文本內容進行語義識別,自動分類,主題抽取,情感分析等文本挖掘工作;

5)負責大數據架構搭建工作;

6)負責大數據前沿技術、開源項目學習研究。

任職要求

1)本科及以上學歷,計算機或數學相關專業;

2)五年以上大數據行業從業經驗,熟悉大數據相關技術體系,有大數據實際項目技術開發經驗(hadoop,druid.io,storm,spark,elasticsearch等),至少一年以上的帶團隊經驗;

3)精通java/python編程語言,熟練掌握常用的數據結構和算法;

4)熟悉常見的開源框架,對新技術敏感,具有良好的系統分析、架構設計能力;

5)熟悉Linux/unix操作系統,能針對所使用的大數據框架對系統參數進行調優;

6)熟悉linux/UNIXshell、熟悉(Perl/python/shell)任意一種腳本語言。

篇2:數據架構師崗位工作職責

1、深入理解MDM主數據管理思想和流程;

2、理解業務數據、主數據與元數據的區別與關系;

3、參與過數據模型的設計與開發;

4、深入理解數據清洗,標準化,轉換,匹配,數據質量、安全管理的原理和業務流程;

5、參與過數據ETL開發與設計;

6、熟練運用主流DBMS,nosql數據庫。

篇3:大數據系統架構師崗位職責大數據系統架構師職責任職要求

大數據系統架構師崗位職責

職責描述:

1.負責客戶業務需求、數據分析需求的調研、收集與分析;

2.負責Kyligence大數據平臺整體架構和數據架構設計,根據具體業務需求和產品對數據模型進行統一分析和規劃;

3.負責技術設計及技術實現規范編制,指導開發團隊進行項目設計、項目實現及技術匯報;

4.負責項目重難點模塊的功能設計和難點攻堅;

5.參與大數據平臺的應用設計、開發、測試及優化工作。

任職要求:

1.計算機相關專業,本科及以上學歷;

2.有5年以上工作經驗,3年以上數據倉庫架構和大數據系統設計經驗;

3.精通Hadoop、Hive、HBase原理及優化,熟悉大數據生態技術圈,如Storm、Spark、Flume、Sqoop、Kafka、Zookeeper、ES等,有大規模集群架構設計、開發及管理經驗;

4.熟練使用SQL語言,掌握Oracle、DB2、GP、MySQL等至少兩種數據庫系統的使用,有較好的SQL性能調優經驗;

5.至少熟悉Java,Scala,Python,Shell等編程語言中的2種;

6.熟悉數據治理及應用,元數據管理的設計與應用;

7.熟悉數據倉庫模型的設計,分層設計原理,并結合大數據技術組建解決模型應用的問題;

8.優秀的分析和解決問題的能力,對挑戰性問題充滿激情;

9.具備良好的文檔撰寫能力和技術團隊管理能力;

10.具備良好的團隊合作精神,較強的溝通能力,具備良好的技術領導能力;

11.有Hive數據倉庫或者ApacheKylin的開發經驗者優先考慮;