職位描述：

工作職責(zé)：

1、研發(fā)業(yè)界領(lǐng)先的大數(shù)據(jù)計算引擎，服務(wù)于今日頭條全公司的數(shù)十個用戶產(chǎn)品線；

2、面向超大規(guī)模數(shù)據(jù)問題，每天千億增量的用戶行為數(shù)據(jù)，秒級處理PB級別的數(shù)據(jù)計算；

3、善于理解和抽象業(yè)務(wù)問題，支撐多樣的海量數(shù)據(jù)分析場景。

任職要求：

1、強(qiáng)悍的系統(tǒng)設(shè)計&編碼能力，追求優(yōu)雅的設(shè)計和優(yōu)秀的代碼質(zhì)量，高標(biāo)準(zhǔn)，快速行動；

2、對Hive/Kylin/Presto/Spark/Tez/Impala的一項或多項有深入研究者優(yōu)先；

3、有PB規(guī)模的數(shù)據(jù)處理經(jīng)驗者優(yōu)先/4、開源項目commiter或貢獻(xiàn)過patch者優(yōu)先，請在簡歷上說明。

篇2:大數(shù)據(jù)工程師崗位工作職責(zé)

簡介:大數(shù)據(jù)(bigdata),指無法在一定時間范圍內(nèi)用常規(guī)軟件工具進(jìn)行捕捉、管理和處理的數(shù)據(jù)集合,是需要新處理模式才能具有更強(qiáng)的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力的海量、高增長率和多樣化的信息資產(chǎn)。

大數(shù)據(jù)工程師職位描述(模板一)

崗位職責(zé):

1.負(fù)責(zé)數(shù)據(jù)分析、加工、清洗、處理程序的開發(fā);

2.從事海量數(shù)據(jù)分析、挖掘相關(guān)工作;

3.負(fù)責(zé)大數(shù)據(jù)相關(guān)平臺的搭建、開發(fā)、維護(hù)、優(yōu)化;

4.對業(yè)務(wù)部門的數(shù)據(jù)分析需求給予實現(xiàn)與支持;

5.對公司的“數(shù)據(jù)驅(qū)動運(yùn)營”的業(yè)務(wù)目標(biāo)進(jìn)行大數(shù)據(jù)架構(gòu)方案實現(xiàn)。

任職要求:

1.計算機(jī)相關(guān)專業(yè),本科及以上學(xué)歷,3年以上Java開發(fā)工作經(jīng)驗,學(xué)習(xí)能力突出;

2.熟悉hadoop生態(tài)系統(tǒng)內(nèi)常見項目的使用(hdfs、hive、hbase、spark、zookeeper、yarn等),具有python、spark、MapReduce開發(fā)經(jīng)驗,有實際大數(shù)據(jù)項目經(jīng)驗優(yōu)先;

3.熟練掌握Oracle、MySql等主流數(shù)據(jù)庫;

4.精通JAVA,熟悉基于J2EE的WEB架構(gòu)設(shè)計,熟悉Web開發(fā)流程,有豐富的WebMVC(Struts/SpringMVC、Spring,Hibernate/Mybatis等)開發(fā)經(jīng)驗;

5.熟悉Linu*/Uni*系統(tǒng)環(huán)境下的操作;熟悉Tomcat等應(yīng)用服務(wù)器的配置和優(yōu)化;

6.具有良好的溝通能力、組織能力及團(tuán)隊協(xié)作精神,有較強(qiáng)的分析和解決問題的能力。

大數(shù)據(jù)工程師職位描述(模板二)

崗位職責(zé):

1.大數(shù)據(jù)平臺功能規(guī)劃、設(shè)計;

2.大數(shù)據(jù)平臺的設(shè)計、研發(fā);

3.大數(shù)據(jù)平臺實施、數(shù)據(jù)接入。

任職要求:

1.統(tǒng)招本科及以上學(xué)歷,計算機(jī)科學(xué)、軟件工程、數(shù)學(xué)、統(tǒng)計學(xué)相關(guān)專業(yè)畢業(yè);

2.具有扎實的Java基礎(chǔ),精通SQL、mysql以及2年以上軟件開發(fā)經(jīng)驗;

3.熟悉HADOOP平臺架構(gòu),有hadooop、HBase、Hive、Spark、kafka使用經(jīng)驗;

4.熟練Python進(jìn)行數(shù)據(jù)處理,網(wǎng)頁爬取;

5.有非結(jié)構(gòu)化數(shù)據(jù)解析、識別經(jīng)驗優(yōu)先。

大數(shù)據(jù)工程師職位描述(模板三)

崗位職責(zé):

1.負(fù)責(zé)數(shù)據(jù)倉庫建設(shè)、設(shè)計、優(yōu)化和落地;

2.負(fù)責(zé)數(shù)據(jù)ETL開發(fā)、數(shù)據(jù)平臺建設(shè)、設(shè)計并實現(xiàn)對BI分析、數(shù)據(jù)產(chǎn)品開發(fā)。

任職要求:

1.985院校計算機(jī)相關(guān)專業(yè)本科以上學(xué)歷;

2.有較扎實的數(shù)據(jù)倉庫理論基礎(chǔ),對數(shù)據(jù)模型建設(shè)、應(yīng)用層建設(shè)有比較豐富的經(jīng)驗;

3.有Hadoop、Hive、Spark、Impala等大數(shù)據(jù)技術(shù)使用經(jīng)驗者優(yōu)先。

大數(shù)據(jù)工程師職位描述(模板四)

崗位職責(zé):

1.主要負(fù)責(zé)電信業(yè)務(wù)的大數(shù)據(jù)開發(fā)工作;

2.結(jié)合業(yè)務(wù)需求設(shè)計數(shù)據(jù)分析場景,并形成后臺實現(xiàn)方案,獨立完成業(yè)務(wù)數(shù)據(jù)建模,并將結(jié)果轉(zhuǎn)化為運(yùn)營指標(biāo);

3.對產(chǎn)品全生命周期跟進(jìn),協(xié)調(diào)各種資源保證產(chǎn)品順利發(fā)展。

任職要求:

1.計算機(jī)或者相關(guān)專業(yè)本科及以上學(xué)歷,3年及以上相關(guān)工作經(jīng)驗;

2.熟練掌握java開發(fā)語言,熟悉多線程和線程調(diào)優(yōu),如懂scala開發(fā)更佳;

3.熟悉Linu*服務(wù)器環(huán)境、熟悉shell;

4.熟悉分布式系統(tǒng)、集群管理、SOA架構(gòu)等相關(guān)技術(shù),熟悉hadooponyarn集群部署和工作原理,熟練掌握MR開發(fā),有大型集群開發(fā)運(yùn)維經(jīng)驗更佳;

5.熟悉以下技術(shù)中3種及以上者優(yōu)先考慮:hive、hbase、impala、Ngin*、zookeeper、redis、kafka、storm、spark、es、爬蟲;

6.具有良好的溝通能力和團(tuán)隊精神,具有良好的抗壓能力。

大數(shù)據(jù)工程師職位描述(模板五)

崗位職責(zé):

1.負(fù)責(zé)大數(shù)據(jù)處理平臺應(yīng)用的開發(fā)工作;

2.利用Hadoopyarn/Storm/Spark進(jìn)行開發(fā)、存儲、分布式計算應(yīng)用的代碼實現(xiàn);

3.優(yōu)化Hadoopyarn/Storm/Spark參數(shù),實現(xiàn)系統(tǒng)調(diào)優(yōu),滿足行業(yè)應(yīng)用的實時大數(shù)據(jù)處理需求;

4.學(xué)習(xí)新技術(shù),提高整個平臺的計算能力和效率;

5.開發(fā)基于HIVE、Hbase、ES等數(shù)據(jù)處理方式的腳本程序。

任職要求:

1.3年以上Hadoop/Storm/Spark開發(fā)經(jīng)驗,對分布式、并行計算理論有深刻理解;

2.精通java/scala/python任一語言;

3.對Hadoop/Storm/Spark源碼有研究,有大數(shù)據(jù)平臺開發(fā)工作經(jīng)驗者優(yōu)先;

4.有很好的技術(shù)敏感性,良好的學(xué)習(xí)能力和吃苦耐勞能力;

5.具有較好的溝通協(xié)調(diào)能力、團(tuán)隊合作能力、文檔編寫能力。

篇3:貴金屬大數(shù)據(jù)工程師崗位職責(zé)

大數(shù)據(jù)工程師工作職責(zé):

1.負(fù)責(zé)公司大數(shù)據(jù)平臺框架的研發(fā)設(shè)計工作。

2.通過對貴金屬業(yè)務(wù)規(guī)則的理解,完成對數(shù)據(jù)的分析和處理。

3.開發(fā)數(shù)據(jù)后臺,將數(shù)據(jù)分析結(jié)果呈現(xiàn)到前端。

任職要求:

1.全日制本科以上學(xué)歷,計算機(jī),數(shù)學(xué)或統(tǒng)計相關(guān)專業(yè)。

2.有數(shù)據(jù)分析,數(shù)據(jù)處理等相關(guān)領(lǐng)域的工作經(jīng)驗。

3.有PB級別的文本數(shù)據(jù)的清洗和處理經(jīng)驗。

4.熟悉常用的大數(shù)據(jù)技術(shù)。如:sparkstreaming,hbase,kafka等。

5.熟悉Java開發(fā)語言。