大數據架構師的主要職責說明(精選26篇)
大數據架構師的主要職責說明 篇1
職責:
1、負責公司大數據底層框架的整體架構設計,結合公司實際業務情況進行技術選型及大數據戰略規劃;
2、負責公司項目的整體評估、設計、架構及關鍵模塊的開發;
3、負責架構優化,協助團隊解決開發過程中遇到的技術難題;
4、負責新技術的調研和大數據相關開源組件的研究,并能在團隊進行推廣應用;
5、參與數據分析、數據建模、項目核心模塊及核心框架的開發;
6、負責大數據平臺的性能條有和問題診斷。
任職要求:
1、計算機相關專業,本科及以上學歷,3-5年以上工作經驗,2-3年大數據相關經驗;
2、具有扎實的大數據和數據倉庫理論功底,負責過大數據平臺或數據倉庫設計;
3、對基于Hadoop的大數據體系有深入的認識,具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目應用研發經驗,有Hadoop集群搭建和管理經驗,度過Hadoop和Spark源碼;
4、熟悉Linux和Python語言,了解Scala原理和底層技術;
5、熟悉分布式系統的架構及對其進行設計和優化,對海量數據的清晰、分析處理及存儲有相關的實戰經驗;
6、算法基礎扎實,熟悉常見的數據結構,深入理解分布式算法和以上提到的分布式系統,
7、必須有一線coding的能力;
8、有統計學、數學知識,海量數據處理、分析和挖掘,大型互聯網公司從業經歷著優先。
大數據架構師的主要職責說明 篇2
職責:
(1) 負責公司大數據平臺搭建,相關的設計和技術開發工作,負責大數據存儲系統、分布式計算系統、數據集成、挖掘算法等的設計、研發以及維護、優化工作;
(2) 通過數據分析技術,挖掘有利于營銷中各業務場景的變量或規則類標簽,以提升模型效果,為文旅、教育業務提供數學模型理論及編程支撐;
(3) 對接溝通業務系統研發團隊和產品部門,提供數據驅動方面的專業咨詢方案,并對業務的大數據應用場景提出建設性意見;
(4) 配合部門領導進行項目需求分析、設計開發工作。
任職要求:
(1) 計算機、統計學,數學等相關專業本科以上學歷,5年以上大數據或文旅、教育數據產品設計開發經驗,高效高質量產出需求和技術文檔;
(2) 精通Hadoop,熟悉大數據生態技術,如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等,有大規模集群架構、開發及運維經驗;熟悉HDFS/MapReduce等;
(3) 熟悉Java,能夠獨立應用python、R、SAS或類似分析工具進行數據分析;
(4) 熟悉大數據挖掘、可視化分析,各種BI算法和產品等,在計算廣告、搜索引擎、推薦系統、用戶畫像等有一個或多個算法領域的研發經驗,能夠運用數據作為產品解決業務方運營及決策問題;
(5) 有互聯網行業工作經驗者優先,有海量數據的機器學習算法實踐經驗優先;
(6) 工作認真、負責,有良好的團隊合作精神,良好的分析能力、溝通技巧。
大數據架構師的主要職責說明 篇3
職責:
1. 負責公司大數據平臺的設計和開發,負責spark, hadoop, flink等云計算平臺的開發和優化;制定數據架構規范,進行核心代碼編寫,指導團隊落地;
2. 負責數據基礎架構和數據處理體系的升級和優化,技術難題攻關,持續提升核心系統性能,保證系統的安全、穩定、高效運行
3. 設計并實現對BI分析、數據產品開發、算法開發的系統性支持
4. 研究未來數據模型和計算框架的創新與落地,包括但不限于以下領域:大規模數據實時化、研發模式敏捷化、數據計算框架輕量化、數據模型組織方式業務化等方面參與制定并實踐團隊的技術發展路線
5. 建立良好的公司內外的業界技術影響力;參與培養未來數據人才;有效輔導團隊,提升數據研發能力
任職要求:
1. 有很強的數據設計抽象能力,善于從復雜的數據問題中找到關鍵路徑,能夠開發創新而實際的分析方法以解決復雜的商業問題
2. 有作為技術負責人系統化解決問題的成功案例;有海量數據建模實踐經驗優先
3. 熟練掌握Hadoop、Spark、Flink、HBase的原理特性以及適用場景,精通流式計算開發,有開源二次開發經驗者優先,有NLP數據處理經驗者優先
4. 性格積極樂觀,誠信,能自我驅動,有較強的語言表達能力;具備強烈的進取心、求知欲及團隊合作精神;具有良好的溝通、團隊協作、計劃和創新的能力
5. 本科以上學歷,扎實的計算機專業基礎,有5年以上大數據平臺開發經驗;
大數據架構師的主要職責說明 篇4
職責:
1、負責大數據平臺的技術選型,基于Spark、Hadoop大數據平臺建設和開發;
2、完成包括數據模型設計、數據采集、數據存儲等方面的大數據系統架構的設計和數據層架構設計;
3、構建數據中臺,為多種行業應用提供主數據(畫像標簽/關系圖譜)、數據模型、人工智能業務算法及數據服務。
4、對海量數據處理的業務需求進行評估和方案設計、拆分任務并指導工程師完成開發;
5、帶領大數據技術團隊提供并實現大數據平臺上各項數據分析和數據可視化的架構設計,支撐解決方案實施。
任職要求:
1、本科及以上學歷,具有5年及以上大數據架構設計和開發經驗;2年及以上帶領團隊經驗;溝通能力強。在大型互聯網企業從事大數據架構設計者優先考慮;有分布式大型商業軟件系統設計經驗、主導過大型商業軟件的架構設計并取得過市場商業成功者優先考慮;
2、熟悉整個大數據的完整處理流程,包括數據的采集、清洗、預處理、存儲、分析挖據、機器學習和數據可視化;
3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流數據庫的使用,并能進行性能調優;
4、具備優秀的團隊意識和溝通能力,學習能力和主動性強,具有鉆研精神,充滿激情,樂于接受挑戰。
大數據架構師的主要職責說明 篇5
職責:
1. 負責大數據基礎和應用平臺的整體規劃和架構設計,參與需求分析,架構設計,詳細設計以及技術選型決策
2. 參與數據挖掘和建模相關核心算法的代碼實現
3. 負責大數據算法平臺的技術把關,性能調優,控制架構質量,解決項目技術難題;對研發項目和任務需求進行評估和方案設計、拆分任務并指導工程師完成開發
4. 帶領團隊提供并實現大數據算法平臺上各項數據接入、數據挖掘分析及數據可視化的架構設計與能力,支持解決方案實施
5. 負責數據庫設計、應用架構設計、核心技術選型等工作
6. 協調解決開發中的技術問題、設計和監控運營指標,保障系統穩定運行
7. 培養,指導有能力的員工,指導工程師進行技術驗證實現,核心技術攻關,解決開發過程中的技術難題
任職要求:
1. 熟悉大數據和數據倉庫的系統架構設計方法
2. 熟練使用并理解HadoopSpark架構及生態。(Hadoop,Hive,Hbase,Elasticsearch,Kafka,SparkFlink等)
3. 熟悉分布式系統架構,有分布式實時、離線和機器學習平臺的架構和開發經驗,具備海量數據清洗、分析處理及存儲的實踐經驗
4. 熟練使用JAVA,具有大規模分布式系統調優經驗
5. 熟悉AI相關算法,熟悉機器學習、深度學習。熟悉AI學習開源框架(Tensorflow、PyTorch等)者優先;
6. 具備良好的團隊合作精神,對工作充滿激情。
7. 熟悉FusionInsight平臺開發經驗者優先
大數據架構師的主要職責說明 篇6
職責:
1.負責公司大數據底層框架的整體架構設計,結合公司實際業務情況進行技術選型及大數據戰略規劃;
2.負責統一數據平臺項目的整體評估、設計、架構及關鍵模塊的開發,不斷提升系統的穩定性和效率;
3.負責架構優化及系統關鍵模塊的設計開發,協助團隊解決開發過程中的技術難題;
4.建立良好的公司內外的業界技術影響力;有效輔導團隊,提升數據研發能力;
任職要求:
1.從事大數據項目相關開發和設計2年以上經驗;有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;
2.擁有一定的算法和數據結構基礎;有很強的數據設計抽象能力,善于從復雜的數據問題中找到關鍵路徑;
3.熟悉目前正在發展的大數據分布式平臺前沿技術的應用;包括但不僅僅限于:hadoop、storm、spark、等;
4. 良好的邏輯思維能力,良好的業務解讀能力,懂電力或通信業務優先;
5.具有鉆研精神,樂于接受挑戰;
大數據架構師的主要職責說明 篇7
職責:
1、負責DMP技術架構設計與構建,根據業務規劃及技術規劃制定應用架構方案;
2、負責設計構建DMP數據采集、存儲及分析框架,設計數據處理的技術流程和規范;
3、負責核心功能的架構與代碼模板編寫,開發與維護系統公用核心模塊;
4、負責基于大數據技術的海量數據的自動化分析處理和統計工作。
崗位要求:
1、計算機或相關專業本科以上學歷,三年以上的開發經驗,二年以上大數據相關軟件架構的實際經驗;
2、精通大數據處理技術,熟悉Hadoop/Storm技術體系,有Hadoop、Hive、Hbase項目經驗;
3、具有較強的架構能力,具有分布式計算、實時計算、數據倉庫、數據挖掘系統的架構經歷優先;
4、對數據敏感,洞察力強,了解國內外廣告發展趨勢;
5.、擅長系統分析與設計,精通常用的設計模式,擅長性能調優;
6、熟悉DMP/RTB技術原理,了解用戶的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業從業經歷。
大數據架構師的主要職責說明 篇8
職責:
1、大數據平臺的規劃、設計、實施,并優化數據庫;
2、對數據庫進行管理,負責數據庫應用系統的運營及監控;
3、對數據庫性能分析與調優,排錯,保證數據正確率;
4、配合其他部門進行的數據處理、查詢,統計和分析工作;
5、完成公司下達的項目開發任務。
任職要求:
1、計算機及相關專業本科以上學歷,5年以上軟件開發從業經驗,其中包括至少2年以上的大數據開發工作經驗;
2、熟悉hive,hadoop/spark,hbase等大數據相關技術架構,有管理或優化大型分布式集群經驗;
3、熟悉linux基本命令,精通SQL腳本的編寫,有豐富的數據庫管理、運維調優經驗;
4、熟悉C++、Java、C#等開發語言;
5、有互聯網電商行業大數據分析處理和大型數據倉庫的設計和實施經驗;
6、有分布式系統分析及架構設計經驗和大型計算集群的基礎設施開發維護經驗;
7、快速處理系統突發事件的能力,較強的學習和創新能力;
8、良好的溝通能力和團隊合作精神。
大數據架構師的主要職責說明 篇9
職責:
負責大數據平臺的規劃和搭建、完成大數據平臺的日常運營工作,為數據分析和展現提供支持;
對系統框架相關技術和業務進行培訓,并負責核心代碼編寫,指導團隊開發及解決出現的系統問題;
參與基于大數據平臺的創新業務場景進行數據產品的架構設計,負責數據產品的研發交付;
負責處理大數據平臺的疑難問題,為數據團隊提供可靠的技術支持;
負責數據質量、穩定性等數據管理,數據內部共享融通的數據平臺,讓數據標準更規范、數據獲取更高效;
及時跟進大數據領域新技術并分享,提升團隊技術能力。
任職要求:
本科或以上學歷,5年以上數據系統建設經驗,3年以上大數據架構設計經驗;
精通 java,python,scala 等一種大數據開發語言,熟悉Hadoop生態圈,包括但不限于hdfs,hive,spark, 有豐富的大數據項目的實踐經驗;
具備創新精神,條理清晰,溝通表達和邏輯思維能力強;
熟悉數據倉庫的設計和開發,對數據架構有深入的了解和具備相關的項目實踐經驗優先;
對SQL on Hadoop 的開源查詢引擎(如Presto、 Apache Drill ) 原理有深入研究優先;
有敏捷大數據和數據可視化實踐經驗優先。
大數據架構師的主要職責說明 篇10
職責:
1)負責公司軟件產品整體架構的設計和關鍵功能實現
2)負責公司架構長期看護以及優化;
3)負責軟件部門各模組間的協調配合;
4)提高鞏固軟件代碼質量;
5)負責大數據流式框架的設計、優化及部署;
6)規劃研發部門員工的技術發展路線并提供必要的幫助和指導
任職資格:
1)本科及以上學歷,計算機相關專業,5年以上工作經驗;
2)頻繁換工作,比如一年一個公司,請繞路;
3)3年以上產品架構經驗,主導過產品的成功上線;
4)對底層設備通訊協議,B/S系統,手機APP開發等都有一定的了解;
5)對各種主流語言C#\Java\Pathon有一定的了解
5)精通各種大數據架構,并深入研究過其中一種,有storm\kafka等流式實時處理經驗為佳
6)能夠承擔較強的工作壓力,有良好的自我驅動能力和責任感;
7)具備優秀的邏輯思維能力、表達能力、溝通協調能力。
大數據架構師的主要職責說明 篇11
1、負責大數據平臺資源規劃、權限控制、運維架構設計,為各產品業務提供穩定、高效、安全的運行環境;
2、負責實時,離線數據分析處理及實時平臺的建設和搭建
3、熟悉 Flink 流式計算引擎的使用以及源碼原理,并且有相關的流式處理平臺的經驗。
4、Java基礎扎實,熟練掌握垃圾回收,網絡,多線程編程,了解 python 或 scala
5、負責大數據平臺技術架構、數據架構的分析與設計;
大數據架構師的主要職責說明 篇12
職責:
1. 負責設計企業級大數據平臺的整體架構,從技術層面制定清晰的大數據產品與系統技術架構,并負責實現關鍵技術和產品。
2. 負責設計具有創新價值的大數據底層平臺、大數據上層應用系統等,帶領團隊完成有質變的技術解決方案。
3. 負責組織同事研究行內最前沿的技術發展方向,突破現有的技術難題。
4. 負責研究院對外項目合作協調與支持,編寫項目建設方案及后期項目建設支持。
任職要求:
1. 碩士及以上學歷,計算機相關專業。
2. JAVA基礎扎實,不少于8年的一線開發經驗,精通Spring boot/MyBatis/Restful API的開發與管理. 熟悉ReactJS/Angular/Vue之一前端開發技術,熟悉Maven或Ant.,熟悉Python語言開發加分。
3. 不少于4年大數據的直接研發經驗,精通Hadoop/Spark系統,有hands-on的架構設計、性能調優、開發經驗。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系統的開發經驗。
4. 掌握分布式系統原理,對分布式存儲、流式計算、消息隊列中的一項或多項有深入的理解和認識。
5. 熟悉分布式系統的監控、運維、故障恢復,高可用原理和設計理念。
6. 算法基礎扎實,熟悉常見的數據結構,掌握大規模高并發訪問、大數據開發等處理經驗;熟練的Linux系統, 網絡, 內存和存儲等方面知識。
7. 必須要有千萬級別的項目管理經驗,包括但不限于前期需求溝通,建設方案編寫,中期項目實施,進度匯報,后期項目維護。
大數據架構師的主要職責說明 篇13
職責:
1.負責企業數據中心建設,設計數據邏輯模型和物理模型,并完成相關開發
2.梳理公司各業務線常用的指標和維度,統一指標定義口徑
3.根據數據應用開發和數據分析需求,設計數據倉庫信息層模型,提高數據開發的效率
4.負責數據模型的運營和優化,及時響應業務邏輯變更,保證模型的數據質量和穩定性
5.負責公司數據標簽體系的建設,并推動標簽體系在實際業務場景中落地
崗位要求:
1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗
2.有較強的數據分析能力,精通數據倉庫架構,熟悉Erwin或PowerDesigner建模工具
3.精通一種主流關系數據庫(如mysql等),熟悉Hive開發
4.有電商業務經驗,元數據管理,數據質量管理或標簽體系搭建經驗者優先
5.優秀的協調溝通與團隊協作能力,極強的責任心,能承受一定的工作壓力,認同企業文化和團隊價值
大數據架構師的主要職責說明 篇14
職責:
1、負責大數據平臺架構的規劃與設計;
2、負責大數據平臺技術框架的選型與技術難點攻關;
3、參與企業級大數據產品和應用規劃;
4、研究跟進大數據架構領域新技術并分享;
5、大數據處理和分析應用平臺的設計指導。
任職資格:
1、 具備深厚的分布式系統或數據庫系統的理論基礎,熟悉分布式計算系統的工作機制,具有分布式文件系統、分布式數據庫系統、集群存儲系統等架構設計經驗;
2、熟悉BI平臺架構及相關項目標準,大數據解決方案包括Hadoop、Spark、Storm、機器學習等大數據平臺解決方案;
3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流數據數據庫;
4、 精通Linux/Unix環境,精通J java、scala、python、R中的一種或多種語言;
5、 具備優秀的團隊意識和溝通能力,學習能力和主動性強,具有鉆研精神,充滿激情,樂于接受挑戰;
6、大專及以上學歷,3年及以上工作經驗。
大數據架構師的主要職責說明 篇15
職責:
1、負責規劃科技大數據平臺及科技數據入庫自動化的方案設計;
2、負責大數據平臺的開發和維護,以及對外服務接口的開發;
3、負責大數據平臺的優化和改進工作。
任職要求
1、計算機相關專業本科及以上學歷,5年以上開發經驗,其中3年以上為互聯網、大數據相關的開發經驗;
2、熟知Hadoop生態圈體系,精通Hadoop/Spark/Storm/Kafka中的一項或幾項,深刻理解MapReduce的運行原理和機制,有MPI經驗者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相關數據庫的構建和操作,尤其是數據庫集群的構建和操作,熟悉Neo4j者尚佳;
4、具有機器學習相關項目經驗者優先。
大數據架構師的主要職責說明 篇16
職責:
1、正確理解業務需求,對需求進行工作量評估;
2、參與項目相關的需求、設計、投產手冊等文檔的編寫;
3、根據進度計劃,完成所承擔功能模塊的設計、開發、單元測試、聯調測試;
4、配合測試組修復代碼缺陷,確保功能實現與代碼質量;
5、負責所承擔功能模塊投產、部署,及上線后的日常維護;
6、完成項目經理或者架構師安排的其他工作;
任職資格:
1、本科以上學歷,計算機相關專業,兩年以上大數據開發經驗;
2、熟悉Linux 環境,掌握shell或python;
3、熟練使用hadoop,hive,HBase,YARN,kafka,spark等大數據開發組件;
4、精通 ETL,數據倉庫的設計和開發;
5、有大數據處理實戰經驗,熟悉整個大數據的完整處理流程,包括數據的采集、清洗、存儲;
6、較強的動手能力和學習能力,良好的溝通能力、團隊協調能力;
7、具有銀行、金融行業從業背景者優先。
大數據架構師的主要職責說明 篇17
職責:
1、數據分析軟件平臺架構搭建
2、負責深度學習核心框架或高性能后臺服務系統的架構設計工作,包括系統總體規劃、架構設計、系統分析、軟件實現、性能優化;
3、指導開發人員開發,并解決系統出現的問題,理解物業需求;
4、制定開發計劃和控制開發進度,負責指導研發團隊開展設計工作;
任職要求:
1、碩士以上,計算機或先關專業;
2、5年左右軟件開發經驗,含3年以上系統分析、設計經驗,有大型軟件項目大型軟件項目;有中大型互聯網企業數據庫架構設計及管理經驗,
3、 具備良好的組件級建模能力,熟悉HTTP、TCP等協議
4、熟練使用UML進行軟件架構設計,至少精通EA,RATIONAL, VISIO等一種設計工具.
5、精通至少一種編程語言,熟悉 Linux 相關技術,能獨立在上面進行開發、測試和部署
6、深入理解數據庫、數據倉庫、大數據、分布式體系架構和關鍵技術
大數據架構師的主要職責說明 篇18
職責:
1、負責面向政府信領域的企業(不限于)大數據平臺、大數據應用等系統的架構設計、技術規劃、技術選型
2、跟進業界大數據技術發展動態,匹配行業應用訴求,制定大數據策略,提前識別關鍵技術并完成技術驗證;
3、支撐售前完成項目解決方案技術架構的設計及重要客戶的交流;
4、負責指導研發完成大數據產品的開發
5、帶領團隊進行產品核心技術的創新和積累
崗位要求:
1、熟悉BI和大數據領域的解決方案,具備該領域全面的技術積累,包括報表平臺,OLAP引擎和DB,ETL,數據倉庫建模和設計,海量分布式數據處理分析架構;
2、在大數據處理和分析領域具有3年或者以上的技術規劃、架構設計經驗,并有成功的項目實踐;
3、4年以上Hadoop實戰經驗,熟悉Hadoop底層文件系統及分布式計算框架,具備傳統數據倉庫、MPP、Hadoop等混搭平臺架構的設計能力和數據建模能力,對大規模數據并行計算、傳輸、處理等有豐富的經驗;
4、有實際應用storm、spark、flume、kafka等項目經驗優先;
5、卓越的技術領導力,善于溝通、發現和解決產品需求階段、開發階段和測試階段的問題,并能提供合理解決方案,有大中型互聯網企業工作背景優先。
大數據架構師的主要職責說明 篇19
職責:
1、負責公司的大數據平臺的數倉架構、系統架構設計;
2、負責帶領團隊完成輿情分析相關的挖掘方案設計;
3、負責大數據研發組團隊管理;
4、負責帶領團隊完成輿情平臺的方案文檔撰寫、迭代開發;
5、負責研發規范制定,研究行業前沿技術;
6、參與產品規劃及設計討論。
任職要求:
1、本科五年工作經驗及以上,有至少五年的大數據技術實踐經驗,有NLP或AI相關經驗;
2、有很強的架構設計能力和良好的表達能力;
3、有一定的項目管理及團隊管理能力;
4、精通Hadoop、Spark生態圈中的常用組件原理及應用;
6、理解媒體業務,精通數據倉庫的規劃和設計;
5、精通掌握Java或Python編程,有性能調優能力;
4、熟悉NLP算法原理及應用;
6、對新生事物或者新技術有濃厚興趣,學習能力強。
大數據架構師的主要職責說明 篇20
職責:
1.負責數據倉庫建設,基于數據驅動構建企業級數據模型,根據架構設計進行各層數據模型開發。
2.面向PB級別超大規模數據處理和查詢需求,設計適合業務變化的合理的多維數據分析系統架構,滿足多樣性需求。
3.構建設計良好的數據流、調度系統、查詢引擎、監控系統,保證系統穩定高效運行,以實現數據的最大價值。
4.指導團隊成員開展數據倉庫建設。
5.參與重點項目的評審,參與企業數據管理體系建設。
任職要求:
1.統招本科及以上學歷。
2.從事數據倉庫領域至少5年以上,熟悉數據倉庫模型設計與ETL開發經驗 ,掌握Kimball的維度建模設計方法,具備海量數據加工處理(ETL)相關經驗 。
3.具有一定數據模型和數據架構基礎,熟悉hadoop\hive和常用數據庫。
4. 精通SQL,有一定的SQL性能調優經驗,熟悉hive sql的開發。
5.具有管理團隊開發經驗,具備良好的組織能力、協調能力及項目管理能力。
6.具有較好的文字功底及語言表達能力,能夠快速、準確地理解需求。
7.具有專研、快速學習和創新精神,具備獨立分析問題和解決問題的能力。
8.具有責任心,時間觀念強,工作獨立性強,有良好的團隊合作精神。
9.全日制普通本科畢業。
大數據架構師的主要職責說明 篇21
1、負責公司大數據處理框架研發工作,設計與開發分布式存儲、數據處理與分析架構。
2、負責大數據平臺與產品和相關技術的追蹤及研究。
3、負責大數據的處理工作,以及業務數據提取、加載、轉換處理流程的開發和優化。
4、利用大數據平臺工具對數據維護。
5、負責相關項目的技術支持和服務。
6、持續對系統的技術架構進行改進和優化。
大數據架構師的主要職責說明 篇22
職責:
1、負責公司大數據產品的架構設計,包含數據收集、數據存儲、數據應用,并完成相關架構設計文檔的撰寫;
2、參與規劃從數據源到數據應用的整體流程,并參與相關產品的決策;
3、負責解決核心技術問題,對技術方案進行決策;
4、負責大數據研發團隊建設、人才梯隊培養和技術團隊管理;
5、積極了解業界發展,研究與跟蹤大數據新技術發展方向。
任職要求:
1、精通GoldenGate For BigData相關理論,具備大型數據利用的生產實戰經驗;
2、精通數據驅動的理論,設計并生產上線相關數據驅動的產品;
3、精通常用消息中間件的使用,例如kafka/RocketMQ/Apache Pulsar,有解讀相關源碼者優先;
4、掌握hadoop、spark生態體系相關產品的使用,掌握MapReduce編程或Spark編程;
5、了解傳統數據倉庫理論及相關ETL工具,例如kettle/datastage;
6、熟悉Oracle、Mongodb、Mysql數據庫的使用;
7、扎實的Java語言基礎,熟悉Java開發工具和調試工具的使用;
8、良好的團隊協作精神,有能力對團隊在軟件設計、實現和測試方面進行指導;
9、良好的邏輯分析能力和溝通能力,執行力強、對待工作認真嚴謹、責任心強、具備出色的學習能力和團隊合作精神,有一定的推動能力;
10、計算機科學、信息技術或相關領域本科以上學歷,具有5年以上數據平臺項目開發經驗,3年以上的架構設計經驗,具有大數據平臺應用大型項目架構設計經驗優先;
大數據架構師的主要職責說明 篇23
職責:
1、負責大數據平臺及BI系統框架設計、規劃、技術選型,架構設計并完成系統基礎服務的開發;
2、負責海量埋點規則、SDK標準化、埋點數據采集、處理及存儲,業務數據分布存儲、流式/實時計算等應用層架構搭建及核心代碼實現;
3、開發大數據平臺的核心代碼,項目敏捷開發流程管理,完成系統調試、集成與實施,對每個項目周期技術難題的解決,保證大數據產品的上線運行;
4、負責大數據平臺的架構優化,代碼評審,并根據業務需求持續優化數據架構,保證產品的可靠性、穩定性;
5、指導開發人員完成數據模型規劃建設,分析模型構建及分析呈現,分享技術經驗;
6、有效制定各種突發性研發技術故障的應對預案,有清晰的隱患意識;
7、深入研究大數據相關技術和產品,跟進業界先進技術;
【任職要求】
1、統計學、應用數學或計算機相關專業大學本科以上學歷;
2、熟悉互聯網移動端埋點方法(點擊和瀏覽等行為埋點),無埋點方案等,有埋點SDK獨立開發經驗者優選;
3、熟悉Hadoop,MR/MapReduce,Hdfs,Hbase,Redis,Storm,Python,zookeeper,kafka,flinkHadoop,hive,mahout,flume,ElasticSearch,KafkaPython等,具備實際項目設計及開發經驗;
4、熟悉數據采集、數據清洗、分析和建模工作相關技術細節及流程
5、熟悉Liunx/Unix操作系統,能熟練使用shell/perl等腳本語言,熟練掌握java/python/go/C++中一種或多種編程語言
6、具備一定的算法能力,了解機器學習/深度學習算法工具使用,有主流大數據計算組件開發和使用經驗者優先
7、熟悉大數據可視化工具Tableau/echarts
8、具有較強的執行力,高度的責任感、很強的學習、溝通能力,能夠在高壓下高效工作;
大數據架構師的主要職責說明 篇24
職責:
1、負責企業大數據平臺的基礎建設、管理及制定拓展規劃;
2、負責大數據平臺相關自動化服務工具的設計、開發;
3、參與Hadoop、Hbase、Spark等核心平臺組件的開發、優化;
4、對平臺特殊場景化的數據應用制定相關實踐方案;
5、大數據團隊的搭建。
任職資格:
1、統招本科以上學歷,計算機等相關專業,5年以上工作經驗;
2、具有Hadoop等大規模集群管理經驗、海量(PB)數據處理經驗;
3、精通Hadoop、Hive、Hbase等離線平臺相關組件的原理機制;
4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分布式系統;
5、熟悉高并發、分布式開發等相關知識,具有后端服務優化相關經驗;
6、熟悉爬蟲常用框架以及反爬技術;
7、具有良好的溝通能力、分析問題與攻關問題的能力;
8、有責任心,工作積極,對新領域新技術有熱情。
大數據架構師的主要職責說明 篇25
職責:
1、負責規劃大數據平臺及應用產品的需求和技術方案設計;
2、負責數據對接和對外服務設計、開發和維護,并能保證質量和性能;
3、負責基于大數據平臺的應用設計、開發和維護;
4、能從系統全局和各子系統的角度思考可能存在的問題,并提出改進方案建議;
任職要求:
1、大學本科6年以上工作經驗,計算機相關專業。
2、至少4年以上的Java開發經驗,3年以上大數據應用系統的開發和設計經驗。
3、熟悉Hadoop生態圈技術體系, 對離線計算、內存計算和流式計算均有深刻理解, 如Hadoop、Storm、Spark三個中的任意二個, 能進行平臺和組件優化。
4、精通Hive、HBase倉庫設計,深刻理解MR運行原理和機制,能進行以提供高任務執行效率的優化。
5、精通Java開發,熟悉JVM調優, 對GC有深刻理解。
6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相關技術, 能進行hbase可靠性診斷和維護。
7、快速研究和學習技術能力。
大數據架構師的主要職責說明 篇26
職責
1、負責公司大數據平臺的整體架構設計,包含數據收集、數據存儲、數據挖掘、數據輸出;
2、負責規劃從數據源到數據應用的整體流程,并參與用戶產品和數據產品的決策;
3、負責海量數據分析、用戶行為分析,構建用戶數據模型;
4、負責解決核心技術問題,對技術方案進行決策;
5、技術團隊管理。
6、熟悉手機IOS、安卓系統APP開發
任職資格
1、計算機相關專業畢業,本科以上學歷;
2、5年以上相關工作經驗,具備軟件產品架構設計經驗,熟練掌握高性能、高擴展性架構設計方法;
3、熟練掌握java或c++任意一門語言、熟悉linux操作系統;
4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大數據技術,并能夠基于上述項目開發大數據相關應用;
5、熟悉基本數據挖掘方法和技術;
6、強烈的敬業精神,良好的溝通與協調能力,能有效組織協調團隊完成各類開發工作;
7、熱愛技術,相信數據的價值,對大數據有深刻的理解。