數據處理工程師崗位職責(通用31篇)
數據處理工程師崗位職責 篇1
職責描述:
1、負責文本數據處理,如格式轉換、分詞處理、實體抽取、專業詞典整理等;
2、自然語言處理相關工具開發;
3、協助訓練nlp模型。
任職要求:
1、計算機相關專業(本科2年以上);
2、精通c/c++或java,熟悉python、bash?shell等腳本語言;
3、熟悉正則表達式,了解常用分類、聚類算法及相應工具;
4、熟悉使用基本分類、聚類算法及相應工具;
5、具備nlp相關工作(特別是數據處理與分析)經驗,了解nlp基本知識;
6、其他:耐心、細致;較強的邏輯思維能力;性格踏實穩定,抗壓能力強。
數據處理工程師崗位職責 篇2
職責描述:
1、負責poi數據的屬性分析、處理和關系挖掘,構建地圖領域的知識圖譜。
2、負責nlp、數據挖掘、深度學習等方向的前沿算法研發,并結合地圖場景優化。
任職要求:
1、計算機、數學或相關專業,三年以上工作經驗。
2、熟悉數據結構和算法設計,熟練使用c++、python。
3、熟悉nlp、機器學習、數據挖掘領域的常用算法與工具,對前沿技術保持熱情。
4、良好的.分析和解決問題能力,能獨立承擔研發工作。
5、有地圖數據優化工作背景優先。
團隊介紹
主要支持北京崗位
對地圖(無人駕駛)、廣告(廣點通)、快報感興趣的歡迎勾搭
數據處理工程師崗位職責 篇3
數據處理工程師(大數據項目)全成通信上海全成通信技術有限公司,全成通信,全成崗位職責:
1、負責大數據平臺的日常維護和監控
2、負責大數據項目日報發布工作
3、負責日報數據的統計
4、負責大數據項目日常數據的計算、分析和維護
任職要求:
1、一年以上相關工作經驗,有電信行業經驗者優先
2、熟悉linux和excel,熟練使用perl或者其他的'腳本語言
3、具有oracledll/dml技術的使用經驗
4、具有良好的團隊合作精神,有較強的學習能力、適應能力、溝通能力
數據處理工程師崗位職責 篇4
數據處理工程師崗位職責
數據處理工程師1)直接面對客戶,參與項目運作中數據處理,了解客戶軟硬件要求;
2)參與、協助數據收集和模型建構;
3)安裝、調試公司軟件在客戶端上線;
4)開發常用數據處理功能,幫助業務團隊提高工作效率;
5)與香港、新加坡和紐約團隊合作,為亞太地區技術服務提供支持。·計算機或軟件相關專業,本科及以上學歷;
·掌握兩門以及常見數據庫設計開發技術,mysql、oracle、sqlserver、hive等;
·具有參加過etl開發項目,處理過(大)數據經驗優先;
·工作細心、認真負責且善于溝通,能快速理解業務,對數據敏感,并能主導項目的進度,保證團隊產出。1)直接面對客戶,參與項目運作中數據處理,了解客戶軟硬件要求;
2)參與、協助數據收集和模型建構;
3)安裝、調試公司軟件在客戶端上線;
4)開發常用數據處理功能,幫助業務團隊提高工作效率;
5)與香港、新加坡和紐約團隊合作,為亞太地區技術服務提供支持。
數據處理工程師崗位職責 篇5
1、3年以上etl開發經驗,熟悉etl開發規范和流程;
2、熟練使用datastage、informatica、kettle、hive、plsql、spark、mapreduce等工具中的一個或多個,有開發、維護經驗;
3、熟練編寫存儲過程,擅長sql優化;
4、熟悉oracle、sqlserver等常用數據庫中的`一個或多個;
5、熟悉perl、shell腳本,linux操作系統;
6、有大型數據倉庫、bi相關項目的開發經驗,精通架構、建模者優先;
7、熟練使用erwin或powerdesigner等進行數據建模;
8、以下經驗優先考慮:流式處理、日志處理、數據倉庫全日制本科以上學歷(985/211),計算機科學與技術/軟件工程/數據相關專業
1、3年以上etl開發經驗,熟悉etl開發規范和流程;
2、熟練使用datastage、informatica、kettle、hive、plsql、spark、mapreduce等工具中的一個或多個,有開發、維護經驗;
3、熟練編寫存儲過程,擅長sql優化;
4、熟悉oracle、sqlserver等常用數據庫中的一個或多個;
5、熟悉perl、shell腳本,linux操作系統;
6、有大型數據倉庫、bi相關項目的開發經驗,精通架構、建模者優先;
7、熟練使用erwin或powerdesigner等進行數據建模;
8、以下經驗優先考慮:流式處理、日志處理、數據倉庫
數據處理工程師崗位職責 篇6
崗位職責:
深入研究業內領先的技術思路,輸出具有創新價值的預研項目可行性分析報告以及相關實驗數據;
負責產品、銷售、供應鏈、電商等公司數據的海量挖掘,并建立和優化用戶標簽、特征模型、產品精準匹配、異常預警等;
負責大數據下傳統機器學習算法的并行化實現及應用,并提出改進方法和思路;
參與公司大數據架構,負責BI實施中的數據挖掘模塊算法研究、模型建立和優化,幫助實現數據挖掘和分析平臺的建設;
負責相關數據挖掘項目的需求收集、項目建立、項目設計開發和結果輸出質量把控,通過數據挖掘結果驅動業務執行;
配合技術進行數據挖掘模型開發和模型封裝,例如決策規則模型、預警模型、流失模型、效果標桿模型、客戶生命周期管理模型等;
任職要求:
大學本科及以上學歷,統計學、計算機、信息技術、數學相關專業;
兩年以上數據建模經驗;
數據主流數據庫,mysql、oracle、DB2等傳統結構化數據倉庫,熟悉HBase、MongoDB等非結構化數據庫;
熟悉常用的聚類、分類、回歸、關聯、時間序列等監督式和非監督式學習算法;
熟悉R、Python、MLlib等數據挖掘工具中至少一種。
熟悉spark、storm等大數據計算框架者優先。
數據處理工程師崗位職責 篇7
1、基于大數據平臺的海量數據,負責業務相關的數據挖掘研發,及定向相關技術研發;
2、負責大數據可視化研究及平臺構建及優化工作;
3、負責數據挖掘分析體系的建設,并建立和規范數據挖掘模型標準;
4、協助項目團隊做好數據和應用的對接,完成項目的執行及交付;
5、配合架構師進行技術攻關和核心挖掘算法改善。
數據處理工程師崗位職責 篇8
1、負責數據接入、數據提取、數據清洗、底層重構、業務主題建模等工作;
2、參與數據集市開發,用戶畫像標簽開發;
3、負責接口平臺、自助分析平臺等系統的建設和維護;
4、針對具體大數據應用場景,提供有效解決方案,并針對具體模型落地實施;
數據處理工程師崗位職責 篇9
崗位職責:
1.從事數學建模及數據挖掘應用方法研究;
2.與開發部門配合實現相應的數據分析模塊的開發;
3.制定公司數據可管理體系,建產研究用數據平臺。
任職要求:
1.應用數學、統計學、計算機等專業碩士以上學歷;
2.具備常用機器學習、數據挖掘相關知識,會spark;
3.具備一種或多種開發語言(如scalapython java等)的.程序和算法開發能力,掌握常用數據結構和算法;
4.有視頻、地圖、文本、社交等大數據分析能力;
5.有工業數據分析工作經驗者優先。
數據處理工程師崗位職責 篇10
1.負責工業設備組網及數據采集方案設計;
2.負責設計方案所需傳感器、儀表選型,布線圖、數據存儲方式、數據表等詳細設計;
3.負責與設備廠商、數控系統廠商進行業務協議、通信協議及接口協調;
4.負責現場數據采集相關軟硬件安裝調試;
5.負責和用戶現場對口協調、技術指導及現場培訓。
數據處理工程師崗位職責 篇11
1、負責數據倉庫(HADOOP)ETL工作以及數據運營;
2、負責數據產品的業務需求梳理、數據開發以及維護;
3、負責數據倉庫的'維度建模以及設計相關的腳本調度;
4、負責維度模型的數據處理的腳本開發,程序開發以及接口對接。
數據處理工程師崗位職責 篇12
1、針對具體的業務場景需求、定義數據分析及挖掘問題;
2、使用統計學分析方法、挖掘算法、構建有效且通用的數據分析模型,對數據挖掘方案進行驗證、開發、改進和優化,實現數據挖掘的功能應用;
3、搭建高擴展高性能的數據分析模型庫,作為數據分析團隊的基礎工具;
4、完成領導安排的其他工作。
數據處理工程師崗位職責 篇13
•在行業擔任數據工程師或后端工程師超過4年
•您將了解數據倉庫的概念(建模,調整,維護)
•您非常精通SQL,并渴望指導和教其他SQL
•您精通Python或任何其他腳本語言和軟件開發
•您在分布式數據處理/傳統RDBMS / MPP / NoSQL系統和數據建模方面有很強的低估/經驗
•您在Spark / Kafka / HBase / Redis / Kettle方面擁有豐富的經驗
•您受到探索數據的好奇心和動力的驅動
•您具有處理數據管道的DevOps問題的經驗
•對數據驅動業務,關鍵思想家,問題解決者和自我啟動者的熱情
•獲得認可大學的相關學科的學士學位
數據處理工程師崗位職責 篇14
1、參與部門項目的售前工作,參與現場交流,深入挖掘用戶需求,編寫投標方案,參與投標;
2、完成所負責項目的需求規格說明書的編寫,并向項目組開發人員和測試人員講解需求,如需求發生變化及時調整需求。
3、完成所負責項目的概要設計,并解決項目進展過程中的需求與設計問題;
4、可承擔部分項目經理的職責,組織相關資源對項目工作進行計劃/控制/調整;
數據處理工程師崗位職責 篇15
1.數據庫軟件安裝、系統搭建、測試環境同步數據等;
2.數據庫日常檢查及維護,并形成文檔登記歸檔;
3.數據庫故障排除與應急處理;
4.數據庫性能分析及優化;
5.為各應用部門提供技術支持。
數據處理工程師崗位職責 篇16
•識別,分析和解決計劃支持問題。
•與BU利益相關者合作,確定并優先考慮數據和統計要求,包括要收集的特定數據元素。
•協助開發和實施數據庫,數據收集系統/工具,數據分析以及其他優化統計效率和質量的策略(包括確定流程改進以更好地滿足業務需求)。
•分析大量數據集,提出有見地的業務建議。
•通過查看報告和績效指標來確定和糾正數據收集問題,從而確保數據的準確性和完整性。
•識別,分析,解釋和建模數據湖中數據的趨勢或模式。
•為各種受眾設計和生成準確有效的統計數據可視化產品和報告。
•通過促進技術和非技術利益相關者之間的溝通,確保技術團隊了解計劃和業務工作的短期和長期目標
•準時交付優質,易懂,明確的產品。
•參與構建機器學習策略平臺。
•對數據驅動業務,關鍵思想家,問題解決者和自我啟動者的熱情
•促進技術和非技術利益相關者之間交流的能力
•出色的書面和口頭交流能力。
數據處理工程師崗位職責 篇17
崗位職責:
業務數據的收集整理和分析;
負責公安、交通領域的業務建模和算法設計;
分析項目數據需求,完成系統中數據分析模塊的設計、實現和測試;
設計、構建和優化基于大數據的存儲平臺架構,編寫相關技術文檔;
設計并實現基于開源項目(Cobar,Spark等)的海量數據集成與處理平臺;
為其他部門提供數據分析支撐。
任職資格:
計算機相關專業;
熟悉數據挖掘算法,對分類、聚類、時序、圖等算法有很深了解;
熟練掌握Hadoop、Spark生態系統組件(MR、HBase、Hive、ZooKeeper、Spark SQL、Spark Mlib等),有相關大數據架構,開發成功案例;
熟練的使用、開發ETL工具經驗,有數據庫建模ER建模經驗優先;
有海量數據BI或數據挖掘項目實施和管理經驗,對數據挖掘理論方法有一定了解者優先;
熟悉的Bash Shell和Python等腳本編程能力;
強烈的責任心和工作熱情,良好的團隊合作精神。
數據處理工程師崗位職責 篇18
崗位職責:
1.參與金融大數據平臺系統和算法的研發和優化;
2.基于大數據金融場景,進行信用風險模型,風控模型,營銷模型的創新設計;
3.與業務部門溝通合作,將數據模型應用于實際業務。
任職要求:
1.計算機相關專業碩士及以上學歷,至少7年以上相關工作經驗;;
2.具有良好的商業敏感度和優秀的數據分析技能,能夠開發創新而實際的.分析方法以解決復雜的商業問題。
3.熟悉機器學習的一般模型;例如分類.聚類.預測,理解一些常用的特征選擇和矩陣分解算法。
4.熟悉深度神經網絡和常用模型(如CNN,DBN,sparseconding,RNN等),有Caffe或Theano或ConvNet的實踐經驗。
5.在語義理解檢索(如知識圖譜表示.結構化預測.語義解析.信息檢索.知識挖掘等)有過深入的工作與研究。
6.較強的自學能力.優秀的邏輯思維能力和良好的溝通表達能力和敬業精神。
7.具備良好的系統分析能力,良好的抽象思維和邏輯思維能力,獨立分析問題解決問題的能力;
8.可承受較大壓力,有責任感,較強的溝通協調能力,具有團隊合作精神;
9.有互聯網公司.大型金融企業和大型IT企業工作經歷的優先。
數據處理工程師崗位職責 篇19
1、進行GIS數據建庫和數據處理方案的設計和實現;
2、運用相關GIS軟件進行數據空間化處理建庫;
3、進行影像識別及處理;
4、進行數據采集處理建庫項目管理。
數據處理工程師崗位職責 篇20
1.負責海量數據的分析開發工作;
2.完成數據挖掘模型,跟蹤模型的實施和效果,定期優化算法和分析策略,分析研究后提供建設性建議;
3.優化大數據存儲、計算等各方面性能,確保能從海量大數據信息里,有效進行數據分析和挖掘;
4.根據用戶的活動記錄進行特征篩選和關聯挖掘。提高關聯準確性;
5.參與相關數據標準和規范的制定。
數據處理工程師崗位職責 篇21
1.負責直播業務相關數據倉庫的數據模型設計;
3.參與數據倉庫ETL流程設計、開發和優化,解決ETL過程相關技術問題;
3.參與項目規劃,數據采集設計,數據倉庫開發,模型開發,報表開發等;
4. 總結數據倉庫建模的方法,負責數據產品平臺化和系統化;
數據處理工程師崗位職責 篇22
1.根據項目經理或高級數據挖掘工程師要求獨立完成項目的數據搜集和數據處理;
2.能夠快速根據項目需要學習并理解行業知識,并能在項目經理或高級數據挖掘工程指導下完成部分數據分析工作;
3.能夠使用SAS,SPSS,或R,Python等開源平臺根據用戶需求定制開發相應的算法;
4.理解數據挖掘模型及預測分析結果,撰寫相關分析報告;
5.了解數據倉庫及商務智能背景,熟練掌握一類數據展現分析工具,如:Tableau,Cognos等;
數據處理工程師崗位職責 篇23
相關文件的定義和編寫
2.生產良率和拋料率的監控和改善
3.生產異常的分析解決
4.技術人員的班別安排
5.設備保養的'安排和作業follow
6.設備故障維修&coordinator
7.配合新產品導入或者其他需求的試產驗證
8.主管交付的其他事項
數據處理工程師崗位職責 篇24
1、維護數據庫穩定運行,持續發現和解決潛在的問題;
2、負責數據庫的性能優化,使用新技術和新架構滿足日益增長的業務需求;
3、負責數據庫的監控系統設計,為開發團隊提供平臺支持;
4、負責數據庫的運維方面的相關工作,包括數據庫的安裝部署、壓力測試、備份恢復、知識庫管理等
5、負責數據庫進行容量規劃、架構設計,提高業務高可用性和容災能力;
6、負責數據庫相關工作的整體規劃,提供決策建議。
數據處理工程師崗位職責 篇25
崗位職責:
1.負責銜接大數據平臺與前端的數據傳輸;
2.根據客戶需求設計大數據業務平臺架構、配置組件;
3.負責后臺服務的調試與測試,梳理接口文檔、開發文檔與測試文檔。
任職資格:
1.碩士以上,或較為優秀的本科生;后端開發經驗2年以上;
2.有基于b/s架構進行實際業務平臺開發的經驗,有to b軟件開發經驗更佳;
3.通用軟件開發基礎、軟件架構基礎、scrum敏捷開發方法,有大數據基礎更佳;
4.精通java或python語言,有rcp框架經驗更佳;熟練掌握mybatis、springcloud / springboot、node.js等框架,精通sql技術;了解以太網通信協議,熟悉websocket技術。熟練使用git,svn等工具;
5.學習能力強,勇于挑戰,代碼質量意識強,篤信“工程即魔法”。
數據處理工程師崗位職責 篇26
1、空間數據采集、內業處理;
2、電子地圖制作、配圖以及地圖服務發布;
3、編制空間數據建庫工作文檔;
4、對成果數據的分類整理、歸檔;
5、領導安排的其他工作任務。
數據處理工程師崗位職責 篇27
崗位職責:
1、對通信和金融業務數據進行分析和挖掘,滿足研發和運營等部門的業務需求和決策需求;
2、能根據業務特點選擇最合適的數據挖掘算法,并做調優;
3、支持數據分析、挖掘算法平臺的部署和日常運營;
4、撰寫分析類報告。
任職資格:
1、大學本科或本科以上統計學、數學或其他相關專業,對數據結構熟悉;
2、熟練使用python進行數據分析、處理、可視化。熟悉numpy/pandas/matplotlib等常用模塊。熟練使用sql,最好用過hive-sql或spark-sql;
3、對hadoop/spark有一定了解。能夠簡單使用hadoop系列命令;
4、對線性回歸,決策森林,xgboost,評分卡等數據挖掘相關算法有一定了解;
5、做過web接口調試,熟悉json者優先;
6、熟練掌握PPT和EXCEL制作;
7、具備良好的學習、溝通與表達能力,具有較強的團隊合作精神,對工作富有熱情,能承受工作壓力;
8、有運營商或金融類相關數據經驗工作優先考慮;
9、能適應中長期現場出差。
數據處理工程師崗位職責 篇28
1、對海量業務數據進行分析,并利用算法挖掘用戶行為特征,發現潛在規律,建立機器學習算法并優化;
2、利用數據挖掘技術分析、預測用戶的消費行為;
3、建立各種業務邏輯模型和數學模型,幫助公司改善運營管理,節省成本。
任職要求:
1、大學本科及以上學歷;
2、統計學、會計學、數學、物理等相關專業;
3、本科5年以上同崗位工作經驗,研究生3年以上同崗位工作經驗;
4、對統計學和數據挖掘算法原理有較為深刻的理解,了解數據倉庫思想,熟悉SPSS、SAS、R、MAHOUT等數據挖掘軟件之一;
5、熟悉決策樹、聚類、邏輯回歸,關聯分析、SVM,貝葉斯等數據挖掘算法,有海量數據挖掘的項目經驗;
6、有用戶行為分析、用戶建模、業務建模、數學建模經驗優先;
7、良好的邏輯分析能力、分析問題和解決問題的`能力,對數據敏感,良好的溝通能力。
數據處理工程師崗位職責 篇29
1、負責產品數據庫研發,參與系統整體架構設計;
2、根據產品目標負責相關業務的數據分析、建模、設計評審,跟進產品過程中數據庫設計;
3、負責產品模塊的數據層分析、設計、編碼、測試;
4、能夠獨立完成產品數據層開發任務,負責各類數據接口開發;
5、負責各類型數據操作處理和兼容問題;數據庫復雜SQL開發和調優。
數據處理工程師崗位職責 篇30
崗位職責:
1.按產品功能需求說明,設計相應數據庫業務邏輯及規則,并完成腳本封裝。
2.根據產品適配計劃,進行新適配數據庫的預研。
3.根據業務需求,提供數據庫元數據創建語句。
4.協助產品內容、數據庫知識體系、業務算法模型等研發。
技能要求:
1.熟悉Oracle、SQL Server、MySQL數據庫架構及原理,并有實際運維經驗。
2.熟悉MySQL、PostgreSQL和MongoDB等開源數據庫架構及原理,并有實際運維經驗。
3.熟悉RDS for MySQL、PostgreSQL等云數據庫架構及原理,并有實際運維經驗。
4.熟悉達夢、人大金倉、南大通用、神州通用、高斯、熱璞、巨杉等國產數據庫架構及原理,并有實際運維經驗。
5.熟悉PolarDB、OceanBase、Tidb等數據庫架構及原理,并有實際運維經驗。
6.深刻理解數據庫原理及架構,有二線dba經驗者優先。
7.熟悉Unix、Linux、Windows等操作系統架構及原理,并能熟練使用。
8.熟悉主流自動化運維、監控產品,有實際開發及使用經驗的優先。
9.熟練使用shells、Python等腳本語言。
10.熟悉腳本開發規范,具有數據庫開發背景的`優先。
11.深入理解數據庫的數據字典,并熟悉對象定義,有自定義對象開發經驗的優先。
12.善于溝通,皮實,良好的學習能力。
13.本科(含)以上學歷,計算機或相關專業的優先。
數據處理工程師崗位職責 篇31
1.負責企業級數據倉庫設計、規劃、建設、實施、管理,數據倉庫架構設計與數據開發,創建數據倉庫、數據集市
2.熟悉數據倉庫領域知識,從架構和技術層面參與建設數據倉庫,包括元數據管理、數據質量、主數據管理、性能優化和調優。
3.負責數據倉庫平臺相關數據管理工作,如研發規范、質量規范、保障規范的制定與推動實施落地
4.配合和協助數據分析/數據挖掘形成底層/中間層的業務邏輯切片