大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述(通用31篇)
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇1
職責(zé):
1.參與公司數(shù)據(jù)平臺(tái)系統(tǒng)規(guī)劃和架構(gòu)工作,主導(dǎo)系統(tǒng)的架構(gòu)設(shè)計(jì)和項(xiàng)目實(shí)施,確保項(xiàng)目質(zhì)量和關(guān)鍵性能指標(biāo)達(dá)成;
2.統(tǒng)籌和推進(jìn)制造工廠內(nèi)部數(shù)據(jù)系統(tǒng)的構(gòu)建,搭建不同來源數(shù)據(jù)之間的邏輯關(guān)系,能夠?yàn)楣具\(yùn)營診斷、運(yùn)營效率提升提供數(shù)據(jù)支持;
3.負(fù)責(zé)數(shù)據(jù)系統(tǒng)需求對(duì)接、各信息化系統(tǒng)數(shù)據(jù)對(duì)接、軟件供應(yīng)商管理工作
5.根據(jù)現(xiàn)狀制定總體的數(shù)據(jù)治理方案及數(shù)據(jù)體系建立,包括數(shù)據(jù)采集、接入、分類、開發(fā)標(biāo)準(zhǔn)和規(guī)范,制定全鏈路數(shù)據(jù)治理方案;深入挖掘公司數(shù)據(jù)業(yè)務(wù),超強(qiáng)的數(shù)據(jù)業(yè)務(wù)感知力,挖掘數(shù)據(jù)價(jià)值,推動(dòng)數(shù)據(jù)變現(xiàn)場景的落地,為決策及業(yè)務(wù)賦能;
6.定義不同的數(shù)據(jù)應(yīng)用場景,推動(dòng)公司的數(shù)據(jù)可視化工作,提升公司數(shù)據(jù)分析效率和數(shù)據(jù)價(jià)值轉(zhuǎn)化。
任職要求:
1.本科以上學(xué)歷,8年以上軟件行業(yè)從業(yè)經(jīng)驗(yàn),5年以上大數(shù)據(jù)架構(gòu)設(shè)計(jì)經(jīng)驗(yàn),熟悉BI平臺(tái)、大數(shù)據(jù)系統(tǒng)相關(guān)技術(shù)架構(gòu)及技術(shù)標(biāo)準(zhǔn);
2.熟悉數(shù)據(jù)倉庫、熟悉數(shù)據(jù)集市,了解數(shù)據(jù)挖掘、數(shù)據(jù)抽取、數(shù)據(jù)清洗、數(shù)據(jù)建模相關(guān)技術(shù);
3.熟悉大數(shù)據(jù)相關(guān)技術(shù):Hadoop、Hive、Hbase、Storm、Flink、Spark、Kafka、RabbitMQ;
4.熟悉制造企業(yè)信息化系統(tǒng)及相關(guān)數(shù)據(jù)庫技術(shù);
5.具備大數(shù)據(jù)平臺(tái)、計(jì)算存儲(chǔ)平臺(tái)、可視化開發(fā)平臺(tái)經(jīng)驗(yàn),具有制造企業(yè)大數(shù)據(jù)系統(tǒng)項(xiàng)目開發(fā)或?qū)嵤┙?jīng)驗(yàn)優(yōu)先;
6.對(duì)數(shù)據(jù)敏感,具備優(yōu)秀的業(yè)務(wù)需求分析和報(bào)告展示能力,具備制造企業(yè)數(shù)據(jù)分析和數(shù)據(jù)洞察、大數(shù)據(jù)系統(tǒng)的架構(gòu)設(shè)計(jì)能力,了解主流的報(bào)表工具或新興的前端報(bào)表工具;
7.有較強(qiáng)的溝通和組織協(xié)調(diào)能力,具備結(jié)果導(dǎo)向思維,有相關(guān)項(xiàng)目管理經(jīng)驗(yàn)優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇2
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)平臺(tái)及BI系統(tǒng)框架設(shè)計(jì)、規(guī)劃、技術(shù)選型,架構(gòu)設(shè)計(jì)并完成系統(tǒng)基礎(chǔ)服務(wù)的開發(fā);
2、負(fù)責(zé)海量埋點(diǎn)規(guī)則、SDK標(biāo)準(zhǔn)化、埋點(diǎn)數(shù)據(jù)采集、處理及存儲(chǔ),業(yè)務(wù)數(shù)據(jù)分布存儲(chǔ)、流式/實(shí)時(shí)計(jì)算等應(yīng)用層架構(gòu)搭建及核心代碼實(shí)現(xiàn);
3、開發(fā)大數(shù)據(jù)平臺(tái)的核心代碼,項(xiàng)目敏捷開發(fā)流程管理,完成系統(tǒng)調(diào)試、集成與實(shí)施,對(duì)每個(gè)項(xiàng)目周期技術(shù)難題的解決,保證大數(shù)據(jù)產(chǎn)品的上線運(yùn)行;
4、負(fù)責(zé)大數(shù)據(jù)平臺(tái)的架構(gòu)優(yōu)化,代碼評(píng)審,并根據(jù)業(yè)務(wù)需求持續(xù)優(yōu)化數(shù)據(jù)架構(gòu),保證產(chǎn)品的可靠性、穩(wěn)定性;
5、指導(dǎo)開發(fā)人員完成數(shù)據(jù)模型規(guī)劃建設(shè),分析模型構(gòu)建及分析呈現(xiàn),分享技術(shù)經(jīng)驗(yàn);
6、有效制定各種突發(fā)性研發(fā)技術(shù)故障的應(yīng)對(duì)預(yù)案,有清晰的隱患意識(shí);
7、深入研究大數(shù)據(jù)相關(guān)技術(shù)和產(chǎn)品,跟進(jìn)業(yè)界先進(jìn)技術(shù);
【任職要求】
1、統(tǒng)計(jì)學(xué)、應(yīng)用數(shù)學(xué)或計(jì)算機(jī)相關(guān)專業(yè)大學(xué)本科以上學(xué)歷;
2、熟悉互聯(lián)網(wǎng)移動(dòng)端埋點(diǎn)方法(點(diǎn)擊和瀏覽等行為埋點(diǎn)),無埋點(diǎn)方案等,有埋點(diǎn)SDK獨(dú)立開發(fā)經(jīng)驗(yàn)者優(yōu)選;
3、熟悉Hadoop,MR/MapReduce,Hdfs,Hbase,Redis,Storm,Python,zookeeper,kafka,flinkHadoop,hive,mahout,flume,ElasticSearch,KafkaPython等,具備實(shí)際項(xiàng)目設(shè)計(jì)及開發(fā)經(jīng)驗(yàn);
4、熟悉數(shù)據(jù)采集、數(shù)據(jù)清洗、分析和建模工作相關(guān)技術(shù)細(xì)節(jié)及流程
5、熟悉Liunx/Unix操作系統(tǒng),能熟練使用shell/perl等腳本語言,熟練掌握java/python/go/C++中一種或多種編程語言
6、具備一定的算法能力,了解機(jī)器學(xué)習(xí)/深度學(xué)習(xí)算法工具使用,有主流大數(shù)據(jù)計(jì)算組件開發(fā)和使用經(jīng)驗(yàn)者優(yōu)先
7、熟悉大數(shù)據(jù)可視化工具Tableau/echarts
8、具有較強(qiáng)的執(zhí)行力,高度的責(zé)任感、很強(qiáng)的學(xué)習(xí)、溝通能力,能夠在高壓下高效工作;
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇3
職責(zé):
1. 負(fù)責(zé)產(chǎn)品級(jí)業(yè)務(wù)系統(tǒng)架構(gòu)(如業(yè)務(wù)數(shù)據(jù)對(duì)象識(shí)別,數(shù)據(jù)實(shí)體、數(shù)據(jù)屬性分析,數(shù)據(jù)標(biāo)準(zhǔn)、端到端數(shù)據(jù)流等)的設(shè)計(jì)與優(yōu)化。協(xié)助推動(dòng)跨領(lǐng)域重大數(shù)據(jù)問題的分析、定位、解決方案設(shè)計(jì),從架構(gòu)設(shè)計(jì)上保障系統(tǒng)高性能、高可用性、高安全性、高時(shí)效性、分布式擴(kuò)展性,并對(duì)系統(tǒng)質(zhì)量負(fù)責(zé)。
2.負(fù)責(zé)云數(shù)據(jù)平臺(tái)的架構(gòu)設(shè)計(jì)和數(shù)據(jù)處理體系的優(yōu)化,推動(dòng)云數(shù)據(jù)平臺(tái)建設(shè)和持續(xù)升級(jí),并制定云數(shù)據(jù)平臺(tái)調(diào)用約束和規(guī)范。
3. 結(jié)合行業(yè)應(yīng)用的需求負(fù)責(zé)數(shù)據(jù)流各環(huán)節(jié)上的方案選型,主導(dǎo)云數(shù)據(jù)平臺(tái)建設(shè),參與核心代碼編寫、審查;數(shù)據(jù)的統(tǒng)計(jì)邏輯回歸算法、實(shí)時(shí)交互分析;數(shù)據(jù)可視化方案等等的選型、部署、集成融合等等。
4. 對(duì)云數(shù)據(jù)平臺(tái)的關(guān)注業(yè)內(nèi)技術(shù)動(dòng)態(tài),持續(xù)推動(dòng)平臺(tái)技術(shù)架構(gòu)升級(jí),以滿足公司不同階段的數(shù)據(jù)需求。
任職要求:
1. 熟悉云計(jì)算基礎(chǔ)平臺(tái),包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基礎(chǔ)環(huán)境,熟悉控制、計(jì)算、存儲(chǔ)和網(wǎng)絡(luò);
2. 掌握大型分布式系統(tǒng)的技術(shù)棧,如:CDN、負(fù)載均衡、服務(wù)化/異步化、分布式緩存、NoSQL、數(shù)據(jù)庫垂直及水平擴(kuò)容;熟悉大數(shù)據(jù)應(yīng)用端到端的相關(guān)高性能產(chǎn)品。
3. 精通 Java,Python,Shell 編程語言,精通 SQL、NoSQL 等數(shù)據(jù)庫增刪改查的操作優(yōu)化;
4. PB 級(jí)別實(shí)戰(zhàn)數(shù)據(jù)平臺(tái)和生產(chǎn)環(huán)境的實(shí)施、開發(fā)和管理經(jīng)驗(yàn);
5. 熟悉 Docker 等容器的編排封裝,熟悉微服務(wù)的開發(fā)和日常調(diào)度;
6.計(jì)算機(jī)、軟件、電子信息及通信等相關(guān)專業(yè)本科以上學(xué)歷,5 年以上軟件工程開發(fā)經(jīng)驗(yàn),2 年以上大數(shù)據(jù)架構(gòu)師工作經(jīng)驗(yàn)。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇4
職責(zé):
根據(jù)大數(shù)據(jù)業(yè)務(wù)需求,設(shè)計(jì)大數(shù)據(jù)方案及架構(gòu),實(shí)現(xiàn)相關(guān)功能;
搭建和維護(hù)大數(shù)據(jù)集群,保證集群規(guī)模持續(xù)、穩(wěn)定、高效平穩(wěn)運(yùn)行;
負(fù)責(zé)大數(shù)據(jù)業(yè)務(wù)的設(shè)計(jì)和指導(dǎo)具體開發(fā)工作;
負(fù)責(zé)公司產(chǎn)品研發(fā)過程中的數(shù)據(jù)及存儲(chǔ)設(shè)計(jì);
針對(duì)數(shù)據(jù)分析工作,能夠完成和指導(dǎo)負(fù)責(zé)業(yè)務(wù)數(shù)據(jù)建模。
職位要求:
計(jì)算機(jī)、自動(dòng)化或相關(guān)專業(yè)(如統(tǒng)計(jì)學(xué)、數(shù)學(xué))本科以上學(xué)歷,3年以上大數(shù)據(jù)處理相關(guān)工作經(jīng)驗(yàn);
精通大數(shù)據(jù)主流框架(如 Hadoop、hive、Spark等);
熟悉 MySQL、NoSQL(MongoDB、Redis)等主流數(shù)據(jù)庫,以及rabbit MQ等隊(duì)列技術(shù);
熟悉hadoop/spark生態(tài)的原理、特性且有實(shí)戰(zhàn)開發(fā)經(jīng)驗(yàn);
熟悉常用的數(shù)據(jù)挖掘算法優(yōu)先.
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇5
職責(zé):
1、大數(shù)據(jù)平臺(tái)架構(gòu)規(guī)劃與設(shè)計(jì);
2、負(fù)責(zé)大數(shù)據(jù)平臺(tái)技術(shù)框架的選型與技術(shù)難點(diǎn)攻關(guān);
3、能夠獨(dú)立進(jìn)行行業(yè)大數(shù)據(jù)應(yīng)用的整體技術(shù)框架、業(yè)務(wù)框架和系統(tǒng)架構(gòu)設(shè)計(jì)和調(diào)優(yōu)等工作,根據(jù)系統(tǒng)的業(yè)務(wù)需求,能夠指導(dǎo)開發(fā)團(tuán)隊(duì)完成實(shí)施工作;
4、負(fù)責(zé)數(shù)據(jù)基礎(chǔ)架構(gòu)和數(shù)據(jù)處理體系的升級(jí)和優(yōu)化,不斷提升系統(tǒng)的穩(wěn)定性和效率,為相關(guān)的業(yè)務(wù)提供大數(shù)據(jù)底層平臺(tái)的支持和保證;
5、培養(yǎng)和建立大數(shù)據(jù)團(tuán)隊(duì),對(duì)團(tuán)隊(duì)進(jìn)行技術(shù)指導(dǎo)。
任職要求:
1、計(jì)算機(jī)相關(guān)專業(yè)的背景專業(yè)一類院校畢業(yè)本科、碩士學(xué)位,8年(碩士5年)以上工作經(jīng)驗(yàn)(至少擁有3年以上大數(shù)據(jù)項(xiàng)目或產(chǎn)品架構(gòu)經(jīng)驗(yàn));
2、精通Java,J2EE 相關(guān)技術(shù),精通常見開源框架的架構(gòu),精通關(guān)系數(shù)據(jù)庫系統(tǒng)(Oracle MySQL等)和noSQL數(shù)據(jù)存儲(chǔ)系統(tǒng)的原理和架構(gòu);
3、精通SQL和Mapreduce、Spark處理方法;
4、精通大數(shù)據(jù)系統(tǒng)架構(gòu),熟悉業(yè)界數(shù)據(jù)倉庫建模方法及新的建模方法的發(fā)展,有DW,BI架構(gòu)體系的專項(xiàng)建設(shè)經(jīng)驗(yàn);
5、對(duì)大數(shù)據(jù)體系有深入認(rèn)識(shí),熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大數(shù)據(jù)技術(shù),并能設(shè)計(jì)相關(guān)數(shù)據(jù)模型;
6、很強(qiáng)的學(xué)習(xí)、分析和解決問題能力,可以迅速掌握業(yè)務(wù)邏輯并轉(zhuǎn)化為技術(shù)方案,能獨(dú)立撰寫項(xiàng)目解決方案、項(xiàng)目技術(shù)文檔;
7、具有較強(qiáng)的內(nèi)外溝通能力,良好的團(tuán)隊(duì)意識(shí)和協(xié)作精神;
8、機(jī)器學(xué)習(xí)技術(shù)、數(shù)據(jù)挖掘、人工智能經(jīng)驗(yàn)豐富者優(yōu)先考慮;
9、 具有能源電力行業(yè)工作經(jīng)驗(yàn)者優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇6
職責(zé):
1、負(fù)責(zé)公司大數(shù)據(jù)產(chǎn)品的架構(gòu)設(shè)計(jì),包含數(shù)據(jù)收集、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)應(yīng)用,并完成相關(guān)架構(gòu)設(shè)計(jì)文檔的撰寫;
2、參與規(guī)劃從數(shù)據(jù)源到數(shù)據(jù)應(yīng)用的整體流程,并參與相關(guān)產(chǎn)品的決策;
3、負(fù)責(zé)解決核心技術(shù)問題,對(duì)技術(shù)方案進(jìn)行決策;
4、負(fù)責(zé)大數(shù)據(jù)研發(fā)團(tuán)隊(duì)建設(shè)、人才梯隊(duì)培養(yǎng)和技術(shù)團(tuán)隊(duì)管理;
5、積極了解業(yè)界發(fā)展,研究與跟蹤大數(shù)據(jù)新技術(shù)發(fā)展方向。
任職要求:
1、精通GoldenGate For BigData相關(guān)理論,具備大型數(shù)據(jù)利用的生產(chǎn)實(shí)戰(zhàn)經(jīng)驗(yàn);
2、精通數(shù)據(jù)驅(qū)動(dòng)的理論,設(shè)計(jì)并生產(chǎn)上線相關(guān)數(shù)據(jù)驅(qū)動(dòng)的產(chǎn)品;
3、精通常用消息中間件的使用,例如kafka/RocketMQ/Apache Pulsar,有解讀相關(guān)源碼者優(yōu)先;
4、掌握hadoop、spark生態(tài)體系相關(guān)產(chǎn)品的使用,掌握MapReduce編程或Spark編程;
5、了解傳統(tǒng)數(shù)據(jù)倉庫理論及相關(guān)ETL工具,例如kettle/datastage;
6、熟悉Oracle、Mongodb、Mysql數(shù)據(jù)庫的使用;
7、扎實(shí)的Java語言基礎(chǔ),熟悉Java開發(fā)工具和調(diào)試工具的使用;
8、良好的團(tuán)隊(duì)協(xié)作精神,有能力對(duì)團(tuán)隊(duì)在軟件設(shè)計(jì)、實(shí)現(xiàn)和測試方面進(jìn)行指導(dǎo);
9、良好的邏輯分析能力和溝通能力,執(zhí)行力強(qiáng)、對(duì)待工作認(rèn)真嚴(yán)謹(jǐn)、責(zé)任心強(qiáng)、具備出色的學(xué)習(xí)能力和團(tuán)隊(duì)合作精神,有一定的推動(dòng)能力;
10、計(jì)算機(jī)科學(xué)、信息技術(shù)或相關(guān)領(lǐng)域本科以上學(xué)歷,具有5年以上數(shù)據(jù)平臺(tái)項(xiàng)目開發(fā)經(jīng)驗(yàn),3年以上的架構(gòu)設(shè)計(jì)經(jīng)驗(yàn),具有大數(shù)據(jù)平臺(tái)應(yīng)用大型項(xiàng)目架構(gòu)設(shè)計(jì)經(jīng)驗(yàn)優(yōu)先;
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇7
職責(zé):
1. 規(guī)劃設(shè)計(jì)大數(shù)據(jù)平臺(tái)整體架構(gòu),規(guī)劃各種組件,并且指導(dǎo)技術(shù)團(tuán)隊(duì)完成相關(guān)系統(tǒng)驗(yàn)證、安裝、部署、配置;
2. 負(fù)責(zé)制定大數(shù)據(jù)平臺(tái)技術(shù)規(guī)范和接口規(guī)范,指導(dǎo)研發(fā)團(tuán)隊(duì)按照規(guī)范進(jìn)行系統(tǒng)開發(fā);
3. 配合商務(wù)人員完成售前技術(shù)支持工作;
4. 完成其他與數(shù)據(jù)應(yīng)用有關(guān)的技術(shù)工作;
任職要求:
1. 計(jì)算機(jī)相關(guān)專業(yè)本科學(xué)歷,5年以上工作經(jīng)驗(yàn);
2. 對(duì)大數(shù)據(jù)技術(shù)棧有非常深刻的了解;具備架構(gòu)設(shè)計(jì)的實(shí)際經(jīng)驗(yàn);
3. 對(duì)信息安全架構(gòu)設(shè)計(jì)及實(shí)施有一定的經(jīng)驗(yàn);
4. 熟悉Linux、Windows等操作系統(tǒng)的安裝配置;
5. 熟悉互聯(lián)網(wǎng)應(yīng)用的安裝配置;熟悉常見大數(shù)據(jù)技術(shù)棧組件的安裝配置;熟悉Visio等繪圖工具的使用;
6. 有衛(wèi)生信息化建設(shè)經(jīng)驗(yàn)者優(yōu)先;有容器安裝部署經(jīng)驗(yàn)者優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇8
職責(zé):
1、負(fù)責(zé)企業(yè)大數(shù)據(jù)平臺(tái)的基礎(chǔ)建設(shè)、管理及制定拓展規(guī)劃;
2、負(fù)責(zé)大數(shù)據(jù)平臺(tái)相關(guān)自動(dòng)化服務(wù)工具的設(shè)計(jì)、開發(fā);
3、參與Hadoop、Hbase、Spark等核心平臺(tái)組件的開發(fā)、優(yōu)化;
4、對(duì)平臺(tái)特殊場景化的數(shù)據(jù)應(yīng)用制定相關(guān)實(shí)踐方案;
5、大數(shù)據(jù)團(tuán)隊(duì)的搭建。
任職資格:
1、統(tǒng)招本科以上學(xué)歷,計(jì)算機(jī)等相關(guān)專業(yè),5年以上工作經(jīng)驗(yàn);
2、具有Hadoop等大規(guī)模集群管理經(jīng)驗(yàn)、海量(PB)數(shù)據(jù)處理經(jīng)驗(yàn);
3、精通Hadoop、Hive、Hbase等離線平臺(tái)相關(guān)組件的原理機(jī)制;
4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分布式系統(tǒng);
5、熟悉高并發(fā)、分布式開發(fā)等相關(guān)知識(shí),具有后端服務(wù)優(yōu)化相關(guān)經(jīng)驗(yàn);
6、熟悉爬蟲常用框架以及反爬技術(shù);
7、具有良好的溝通能力、分析問題與攻關(guān)問題的能力;
8、有責(zé)任心,工作積極,對(duì)新領(lǐng)域新技術(shù)有熱情。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇9
1.負(fù)責(zé)大數(shù)據(jù)基礎(chǔ)和應(yīng)用平臺(tái)的整體規(guī)劃和架構(gòu)設(shè)計(jì),參與需求分析,架構(gòu)設(shè)計(jì),詳細(xì)設(shè)計(jì)以及技術(shù)選型決策
2.參與數(shù)據(jù)挖掘和建模相關(guān)核心算法的代碼實(shí)現(xiàn)
3.負(fù)責(zé)大數(shù)據(jù)算法平臺(tái)的技術(shù)把關(guān),性能調(diào)優(yōu),控制架構(gòu)質(zhì)量,解決項(xiàng)目技術(shù)難題;對(duì)研發(fā)項(xiàng)目和任務(wù)需求進(jìn)行評(píng)估和方案設(shè)計(jì)、拆分任務(wù)并指導(dǎo)工程師完成開發(fā)
4.帶領(lǐng)團(tuán)隊(duì)提供并實(shí)現(xiàn)大數(shù)據(jù)算法平臺(tái)上各項(xiàng)數(shù)據(jù)接入、數(shù)據(jù)挖掘分析及數(shù)據(jù)可視化的架構(gòu)設(shè)計(jì)與能力,支持解決方案實(shí)施
5.負(fù)責(zé)數(shù)據(jù)庫設(shè)計(jì)、應(yīng)用架構(gòu)設(shè)計(jì)、核心技術(shù)選型等工作
6.協(xié)調(diào)解決開發(fā)中的技術(shù)問題、設(shè)計(jì)和監(jiān)控運(yùn)營指標(biāo),保障系統(tǒng)穩(wěn)定運(yùn)行
7.培養(yǎng),指導(dǎo)有能力的員工,指導(dǎo)工程師進(jìn)行技術(shù)驗(yàn)證實(shí)現(xiàn),核心技術(shù)攻關(guān),解決開發(fā)過程中的技術(shù)難題
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇10
職責(zé):
1. 負(fù)責(zé)大數(shù)據(jù)基礎(chǔ)平臺(tái)、海量數(shù)據(jù)存儲(chǔ)/處理分布式平臺(tái)、數(shù)據(jù)分析系統(tǒng)架構(gòu)設(shè)計(jì)和研發(fā);
2. 負(fù)責(zé)實(shí)時(shí)計(jì)算平臺(tái)基礎(chǔ)架構(gòu)設(shè)計(jì)、部署、監(jiān)控、優(yōu)化升級(jí);
3. 制定項(xiàng)目/數(shù)據(jù)倉庫設(shè)計(jì)及實(shí)現(xiàn)規(guī)范,指導(dǎo)設(shè)計(jì)研發(fā)和部署;
4. 協(xié)助策略和算法團(tuán)隊(duì)工作,保障數(shù)據(jù)挖掘建模和工程化;
5. 深入研究大數(shù)據(jù)相關(guān)技術(shù)和產(chǎn)品,跟進(jìn)業(yè)界先進(jìn)技術(shù);
任職要求:
1. 全日制本科及以上學(xué)歷,5年以上軟件和分布式系統(tǒng)研發(fā)經(jīng)驗(yàn),3年以上大數(shù)據(jù)系統(tǒng)架構(gòu)經(jīng)驗(yàn);
2. 精通Hadoop/HBase/Spark/Storm/Redis技術(shù)及其生態(tài)圈;
3. 具備良好的系統(tǒng)分析能力、故障診斷能力;
4 有大數(shù)據(jù)策略、算法、可視化經(jīng)驗(yàn)優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇11
1、搭建基于Hadoop/Spark的數(shù)據(jù)挖掘體系和大數(shù)據(jù)分析系統(tǒng)架構(gòu);
2、研究大數(shù)據(jù)領(lǐng)域前沿?cái)?shù)據(jù)挖掘技術(shù),并引入相應(yīng)技術(shù)在數(shù)據(jù)中心的使用;
3、進(jìn)行大數(shù)據(jù)系統(tǒng)框架設(shè)計(jì)、模型算法開發(fā);
4、負(fù)責(zé)大型數(shù)據(jù)挖掘項(xiàng)目方案制定、項(xiàng)目實(shí)施落地及優(yōu)化等;
5、開展數(shù)據(jù)爬取、聚類分析、輿情分析、魚骨圖分析、定價(jià)策略等領(lǐng)域數(shù)據(jù)挖掘工作;
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇12
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)平臺(tái)技術(shù)框架的技術(shù)選型和搭建;
2、負(fù)責(zé)核心技術(shù)問題公關(guān),建設(shè)高可靠性,擴(kuò)展性及高性能大數(shù)據(jù)/數(shù)據(jù)應(yīng)用平臺(tái);
3、負(fù)責(zé)規(guī)劃數(shù)據(jù)挖掘的整體流程,負(fù)責(zé)大數(shù)據(jù)開發(fā)團(tuán)隊(duì)業(yè)務(wù)需求開發(fā);
4、與其他團(tuán)隊(duì)密切配合,尋求數(shù)據(jù)層面的業(yè)務(wù)價(jià)值,利用數(shù)據(jù)分析結(jié)論推動(dòng)產(chǎn)品優(yōu)化;
5、研究和分享大數(shù)據(jù)架構(gòu)領(lǐng)域新技術(shù)。
任職要求:
1、計(jì)算機(jī)相關(guān)專業(yè)全日制統(tǒng)招本科及以上;
2、5年以上工作經(jīng)驗(yàn),至少3年以上大數(shù)據(jù)項(xiàng)目相關(guān)工作經(jīng)驗(yàn),能夠設(shè)計(jì)大型大數(shù)據(jù)系統(tǒng)的架構(gòu)和技術(shù)方案;
3、精通Hadoop/Spark/Hbase/Hive等大數(shù)據(jù)技術(shù),精通ETL技術(shù);
4、熟悉數(shù)據(jù)挖掘,了解典型大數(shù)據(jù)算法和策略;
5、熟悉主流Java技術(shù)框架,精通關(guān)系型數(shù)據(jù)庫及SQL語言,熟悉NoSQL/JSON/XML;
6、有較強(qiáng)的學(xué)習(xí)能力和問題解決能力,邏輯嚴(yán)密、思路清晰;
7、有數(shù)據(jù)倉庫經(jīng)驗(yàn)者優(yōu)先,有金融行業(yè)項(xiàng)目經(jīng)驗(yàn)者優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇13
1、基于公司大數(shù)據(jù)基礎(chǔ)和數(shù)據(jù)資產(chǎn)積累,負(fù)責(zé)大數(shù)據(jù)應(yīng)用整體技術(shù)架構(gòu)的設(shè)計(jì)、優(yōu)化,建設(shè)大數(shù)據(jù)能力開放平臺(tái);負(fù)責(zé)大數(shù)據(jù)應(yīng)用產(chǎn)品的架構(gòu)設(shè)計(jì)、技術(shù)把控工作。
2、負(fù)責(zé)制定大數(shù)據(jù)應(yīng)用系統(tǒng)的數(shù)據(jù)安全管控體系和數(shù)據(jù)使用規(guī)范。
3、作為大數(shù)據(jù)技術(shù)方案到產(chǎn)品實(shí)現(xiàn)的技術(shù)負(fù)責(zé)人,負(fù)責(zé)關(guān)鍵技術(shù)點(diǎn)攻堅(jiān)工作,負(fù)責(zé)內(nèi)部技術(shù)推廣、培訓(xùn)及知識(shí)轉(zhuǎn)移工作。
4、負(fù)責(zé)大數(shù)據(jù)系統(tǒng)研發(fā)項(xiàng)目任務(wù)規(guī)劃、整體進(jìn)度、風(fēng)險(xiǎn)把控,有效協(xié)同團(tuán)隊(duì)成員并組織跨團(tuán)隊(duì)技術(shù)協(xié)作,保證項(xiàng)目質(zhì)量與進(jìn)度。
5、負(fù)責(zé)提升產(chǎn)品技術(shù)團(tuán)隊(duì)的技術(shù)影響力,針對(duì)新人、普通開發(fā)人員進(jìn)行有效輔導(dǎo),幫助其快速成長。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇14
職責(zé):
1、 基于公司大數(shù)據(jù)基礎(chǔ)和數(shù)據(jù)資產(chǎn)積累,負(fù)責(zé)大數(shù)據(jù)應(yīng)用整體技術(shù)架構(gòu)的設(shè)計(jì)、優(yōu)化,建設(shè)大數(shù)據(jù)能力開放平臺(tái);負(fù)責(zé)大數(shù)據(jù)應(yīng)用產(chǎn)品的架構(gòu)設(shè)計(jì)、技術(shù)把控工作。
2、 負(fù)責(zé)制定大數(shù)據(jù)應(yīng)用系統(tǒng)的數(shù)據(jù)安全管控體系和數(shù)據(jù)使用規(guī)范。
3、 作為大數(shù)據(jù)技術(shù)方案到產(chǎn)品實(shí)現(xiàn)的技術(shù)負(fù)責(zé)人,負(fù)責(zé)關(guān)鍵技術(shù)點(diǎn)攻堅(jiān)工作,負(fù)責(zé)內(nèi)部技術(shù)推廣、培訓(xùn)及知識(shí)轉(zhuǎn)移工作。
4、 負(fù)責(zé)大數(shù)據(jù)系統(tǒng)研發(fā)項(xiàng)目任務(wù)規(guī)劃、整體進(jìn)度、風(fēng)險(xiǎn)把控,有效協(xié)同團(tuán)隊(duì)成員并組織跨團(tuán)隊(duì)技術(shù)協(xié)作,保證項(xiàng)目質(zhì)量與進(jìn)度。
5、 負(fù)責(zé)提升產(chǎn)品技術(shù)團(tuán)隊(duì)的技術(shù)影響力,針對(duì)新人、普通開發(fā)人員進(jìn)行有效輔導(dǎo),幫助其快速成長。
任職資格:
1、 計(jì)算機(jī)、數(shù)學(xué)或相關(guān)專業(yè)本科以上學(xué)歷,5-20xx年工作經(jīng)驗(yàn),具有大型系統(tǒng)的技術(shù)架構(gòu)\應(yīng)用架構(gòu)\數(shù)據(jù)架構(gòu)相關(guān)的實(shí)踐工作經(jīng)驗(yàn)。
2、 有分布式系統(tǒng)分析及架構(gòu)設(shè)計(jì)經(jīng)驗(yàn),熟悉基于計(jì)算集群的軟件系統(tǒng)架構(gòu)和實(shí)施經(jīng)驗(yàn)。
3、 掌握Hadoop/Spark/Storm生態(tài)圈的主流技術(shù)及產(chǎn)品,深入了解Hadoop/Spark/Storm生態(tài)圈產(chǎn)品的工作原理及應(yīng)用場景。
4、 掌握Mysql/Oracle等常用關(guān)系型數(shù)據(jù)庫,能夠?qū)QL進(jìn)行優(yōu)化。
5、 熟悉分布式系統(tǒng)基礎(chǔ)設(shè)施中常用的技術(shù),如緩存(Varnish、Memcache、Redis)、消息中間件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有實(shí)踐經(jīng)驗(yàn)者優(yōu)先。
6、 熟悉Linux,Java基礎(chǔ)扎實(shí),至少3-5年以上Java應(yīng)用開發(fā)經(jīng)驗(yàn),熟悉常用的設(shè)計(jì)模式和開源框架。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇15
職責(zé):
負(fù)責(zé)大數(shù)據(jù)平臺(tái)架構(gòu)的規(guī)劃和設(shè)計(jì),主導(dǎo)系統(tǒng)的架構(gòu)設(shè)計(jì)和核心模塊開發(fā),確保項(xiàng)目質(zhì)量和關(guān)鍵性能指標(biāo)達(dá)成;
負(fù)責(zé)大數(shù)據(jù)平臺(tái)技術(shù)框架的選型與技術(shù)難點(diǎn)攻關(guān),指導(dǎo)開發(fā)大數(shù)據(jù)平臺(tái)的開發(fā),保證大數(shù)據(jù)產(chǎn)品的上線運(yùn)行;
負(fù)責(zé)深入理解業(yè)務(wù)需求,對(duì)業(yè)務(wù)建模,設(shè)計(jì)系統(tǒng)架構(gòu),滿足業(yè)務(wù)需求;
負(fù)責(zé)協(xié)助策略和算法工作,保障數(shù)據(jù)挖掘建模和工程化;
負(fù)責(zé)根據(jù)業(yè)務(wù)需求整合優(yōu)化數(shù)據(jù)架構(gòu),保證產(chǎn)品的可靠性、穩(wěn)定性;
負(fù)責(zé)指導(dǎo)開發(fā)人員完成數(shù)據(jù)模型規(guī)劃建設(shè)、分析模型構(gòu)建及分析呈現(xiàn);
負(fù)責(zé)研發(fā)技術(shù)發(fā)展方向,新技術(shù)領(lǐng)域的探索,將新技術(shù)應(yīng)用到公司大數(shù)據(jù)平臺(tái),提升公司效能
任職要求:
本科及以上學(xué)歷,擁有5年以上大數(shù)據(jù)平臺(tái)產(chǎn)品或分布式系統(tǒng)設(shè)計(jì)經(jīng)驗(yàn),6年以上的開發(fā)經(jīng)驗(yàn);
精通Hadoop,熟悉大數(shù)據(jù)生態(tài)技術(shù),如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr 、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等,有大規(guī)模集群架構(gòu)、開發(fā)及運(yùn)維經(jīng)驗(yàn);
熟練掌握java/Scala語言,實(shí)現(xiàn)面向?qū)ο箝_發(fā)思想OOA,OOD,OOP;
熟悉linux操作系統(tǒng),熟練掌握腳本言語Shell/Perl/Python等編碼語言;
熟練掌握數(shù)據(jù)倉庫設(shè)計(jì),開發(fā)工作。能夠根據(jù)業(yè)務(wù)設(shè)計(jì)并開發(fā)數(shù)據(jù)倉。
具備源碼級(jí)問題解決和集群優(yōu)化改造能力者優(yōu)先;
能快速的學(xué)習(xí)新的開源框架和知識(shí)體系,并應(yīng)用到現(xiàn)有架構(gòu)體系中;
邏輯清晰,快速的學(xué)習(xí)能力,良好的溝通能力、團(tuán)隊(duì)協(xié)調(diào)能力。
具備良好的團(tuán)隊(duì)合作精神,較強(qiáng)的溝通交流能力,具備良好的技術(shù)領(lǐng)導(dǎo)能力;
具備良好的文檔撰寫能力和技術(shù)團(tuán)隊(duì)管理能力
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇16
職責(zé):
1、負(fù)責(zé)相關(guān)開源系統(tǒng)/組件的性能、穩(wěn)定性、可靠性等方面的深度優(yōu)化;
2、負(fù)責(zé)解決項(xiàng)目上線后生產(chǎn)環(huán)境的各種實(shí)際問題,保障大數(shù)據(jù)平臺(tái)在生產(chǎn)上的安全、平穩(wěn)運(yùn)行;
3、推動(dòng)優(yōu)化跨部門的業(yè)務(wù)流程, 參與業(yè)務(wù)部門的技術(shù)方案設(shè)計(jì)、評(píng)審、指導(dǎo);
4、負(fù)責(zé)技術(shù)團(tuán)隊(duì)人員培訓(xùn)、人員成長指導(dǎo)。
5、應(yīng)項(xiàng)目要求本月辦公地址在錦江區(qū)金石路316號(hào)新希望中鼎國際辦公,月底項(xiàng)目結(jié)束后在總部公司辦公
任職要求:
1、熟悉linux、JVM底層原理,能作為技術(shù)擔(dān)當(dāng),解決核心技術(shù)問題;
2、3年以上大數(shù)據(jù)平臺(tái)項(xiàng)目架構(gòu)或開發(fā)經(jīng)驗(yàn),對(duì)大數(shù)據(jù)生態(tài)技術(shù)體系有全面了解,如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;
3、掌握git、maven、gradle、junit等工具和實(shí)踐, 注重文檔管理、注重工程規(guī)范優(yōu)先;
4、熟悉Java后臺(tái)開發(fā)體系,具備微服務(wù)架構(gòu)的項(xiàng)目實(shí)施經(jīng)驗(yàn),有Dubbo/Spring cloud微服務(wù)架構(gòu)設(shè)計(jì)經(jīng)驗(yàn)優(yōu)先;
5、性格開朗、善于溝通,有極強(qiáng)的技術(shù)敏感性和自我驅(qū)動(dòng)學(xué)習(xí)能力,注重團(tuán)隊(duì)意識(shí)。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇17
職責(zé):
1. 負(fù)責(zé)大數(shù)據(jù)基礎(chǔ)和應(yīng)用平臺(tái)的整體規(guī)劃和架構(gòu)設(shè)計(jì),參與需求分析,架構(gòu)設(shè)計(jì),詳細(xì)設(shè)計(jì)以及技術(shù)選型決策
2. 參與數(shù)據(jù)挖掘和建模相關(guān)核心算法的代碼實(shí)現(xiàn)
3. 負(fù)責(zé)大數(shù)據(jù)算法平臺(tái)的技術(shù)把關(guān),性能調(diào)優(yōu),控制架構(gòu)質(zhì)量,解決項(xiàng)目技術(shù)難題;對(duì)研發(fā)項(xiàng)目和任務(wù)需求進(jìn)行評(píng)估和方案設(shè)計(jì)、拆分任務(wù)并指導(dǎo)工程師完成開發(fā)
4. 帶領(lǐng)團(tuán)隊(duì)提供并實(shí)現(xiàn)大數(shù)據(jù)算法平臺(tái)上各項(xiàng)數(shù)據(jù)接入、數(shù)據(jù)挖掘分析及數(shù)據(jù)可視化的架構(gòu)設(shè)計(jì)與能力,支持解決方案實(shí)施
5. 負(fù)責(zé)數(shù)據(jù)庫設(shè)計(jì)、應(yīng)用架構(gòu)設(shè)計(jì)、核心技術(shù)選型等工作
6. 協(xié)調(diào)解決開發(fā)中的技術(shù)問題、設(shè)計(jì)和監(jiān)控運(yùn)營指標(biāo),保障系統(tǒng)穩(wěn)定運(yùn)行
7. 培養(yǎng),指導(dǎo)有能力的員工,指導(dǎo)工程師進(jìn)行技術(shù)驗(yàn)證實(shí)現(xiàn),核心技術(shù)攻關(guān),解決開發(fā)過程中的技術(shù)難題
任職要求:
1. 熟悉大數(shù)據(jù)和數(shù)據(jù)倉庫的系統(tǒng)架構(gòu)設(shè)計(jì)方法
2. 熟練使用并理解HadoopSpark架構(gòu)及生態(tài)。(Hadoop,Hive,Hbase,Elasticsearch,Kafka,SparkFlink等)
3. 熟悉分布式系統(tǒng)架構(gòu),有分布式實(shí)時(shí)、離線和機(jī)器學(xué)習(xí)平臺(tái)的架構(gòu)和開發(fā)經(jīng)驗(yàn),具備海量數(shù)據(jù)清洗、分析處理及存儲(chǔ)的實(shí)踐經(jīng)驗(yàn)
4. 熟練使用JAVA,具有大規(guī)模分布式系統(tǒng)調(diào)優(yōu)經(jīng)驗(yàn)
5. 熟悉AI相關(guān)算法,熟悉機(jī)器學(xué)習(xí)、深度學(xué)習(xí)。熟悉AI學(xué)習(xí)開源框架(Tensorflow、PyTorch等)者優(yōu)先;
6. 具備良好的團(tuán)隊(duì)合作精神,對(duì)工作充滿激情。
7. 熟悉FusionInsight平臺(tái)開發(fā)經(jīng)驗(yàn)者優(yōu)先
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇18
1、數(shù)據(jù)分析軟件平臺(tái)架構(gòu)搭建
2、負(fù)責(zé)深度學(xué)習(xí)核心框架或高性能后臺(tái)服務(wù)系統(tǒng)的架構(gòu)設(shè)計(jì)工作,包括系統(tǒng)總體規(guī)劃、架構(gòu)設(shè)計(jì)、系統(tǒng)分析、軟件實(shí)現(xiàn)、性能優(yōu)化;
3、指導(dǎo)開發(fā)人員開發(fā),并解決系統(tǒng)出現(xiàn)的問題,理解物業(yè)需求;
4、制定開發(fā)計(jì)劃和控制開發(fā)進(jìn)度,負(fù)責(zé)指導(dǎo)研發(fā)團(tuán)隊(duì)開展設(shè)計(jì)工作;
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇19
1. 負(fù)責(zé)數(shù)瀾大數(shù)據(jù)平臺(tái)的架構(gòu)設(shè)計(jì)和研發(fā),建立數(shù)據(jù)生態(tài)服務(wù),解決海量數(shù)據(jù)面臨的挑戰(zhàn);
2. 管理和優(yōu)化Hadoop、Spark等集群,計(jì)算作業(yè)的調(diào)優(yōu),保證集群和平臺(tái)的高效和穩(wěn)定;
3. 負(fù)責(zé)Hadoop、Spark、Flink的功能、性能和擴(kuò)展,解決并實(shí)現(xiàn)業(yè)務(wù)需求;
4. 負(fù)責(zé)大數(shù)據(jù)產(chǎn)品的自動(dòng)化、離線與實(shí)時(shí)計(jì)算、即席計(jì)算、數(shù)據(jù)質(zhì)量、數(shù)據(jù)安全、機(jī)器學(xué)習(xí)等平臺(tái)的設(shè)計(jì)和開發(fā);
5. 調(diào)研和把握當(dāng)前的最新技術(shù),將其中的先進(jìn)技術(shù)引入到自己的平臺(tái)中,改善產(chǎn)品,提升競爭力;
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇20
1、建設(shè)大數(shù)據(jù)平臺(tái),主要技術(shù)為k8s, docker;
2、跟進(jìn)開源社區(qū)的更新,閱讀文檔,驗(yàn)證feature;
3、閱讀容器生態(tài)圈各組件的開源項(xiàng)目代碼,開發(fā)新功能;
4、持續(xù)提升平臺(tái)的性能和穩(wěn)定性。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇21
1.負(fù)責(zé)大數(shù)據(jù)平臺(tái)的基礎(chǔ)技術(shù)規(guī)劃,編制相關(guān)規(guī)范文檔。
2.負(fù)責(zé)大數(shù)據(jù)平臺(tái)的數(shù)據(jù)采集,處理,存儲(chǔ)以及挖掘分析的架構(gòu)實(shí)現(xiàn)。
3.負(fù)責(zé)大數(shù)據(jù)平臺(tái)的實(shí)際規(guī)劃建設(shè),包括環(huán)境和框架的規(guī)劃搭建以及部分核心編碼工作。
4.負(fù)責(zé)大數(shù)據(jù)相關(guān)技術(shù)發(fā)展方向的預(yù)研。
5.參與業(yè)務(wù)需求調(diào)研,根據(jù)需求及行業(yè)特點(diǎn)設(shè)計(jì)大數(shù)據(jù)解決方案并跟進(jìn)具體實(shí)施項(xiàng)目。
6.制定大數(shù)據(jù)平臺(tái)中數(shù)據(jù)質(zhì)量,業(yè)務(wù)質(zhì)量監(jiān)控及管理辦法。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇22
1、負(fù)責(zé)面向政府信領(lǐng)域的企業(yè)(不限于)大數(shù)據(jù)平臺(tái)、大數(shù)據(jù)應(yīng)用等系統(tǒng)的架構(gòu)設(shè)計(jì)、技術(shù)規(guī)劃、技術(shù)選型
2、跟進(jìn)業(yè)界大數(shù)據(jù)技術(shù)發(fā)展動(dòng)態(tài),匹配行業(yè)應(yīng)用訴求,制定大數(shù)據(jù)策略,提前識(shí)別關(guān)鍵技術(shù)并完成技術(shù)驗(yàn)證;
3、支撐售前完成項(xiàng)目解決方案技術(shù)架構(gòu)的設(shè)計(jì)及重要客戶的交流;
4、負(fù)責(zé)指導(dǎo)研發(fā)完成大數(shù)據(jù)產(chǎn)品的開發(fā)
5、帶領(lǐng)團(tuán)隊(duì)進(jìn)行產(chǎn)品核心技術(shù)的創(chuàng)新和積累
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇23
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)開發(fā)團(tuán)隊(duì)建設(shè);
2、負(fù)責(zé)行業(yè)大數(shù)據(jù)產(chǎn)品架構(gòu)設(shè)計(jì)與研發(fā);
3、負(fù)責(zé)帶領(lǐng)團(tuán)隊(duì)進(jìn)行行業(yè)大數(shù)據(jù)產(chǎn)品關(guān)鍵技術(shù)攻關(guān)。
任職要求:
1、有三年以上大數(shù)據(jù)應(yīng)用、開發(fā)經(jīng)驗(yàn);具備海量數(shù)據(jù)加工處理(ETL)相關(guān)經(jīng)驗(yàn),對(duì)數(shù)據(jù)挖掘及機(jī)器學(xué)習(xí)有較為深刻的理解;
2、熟悉Hadoop相關(guān)技術(shù),對(duì)HDFS、MapReduce、Hive、HBase有一定的使用和開發(fā)經(jīng)驗(yàn);
3、熟悉Linux,熟練使用Shell或Python,進(jìn)行腳本編寫;
4、對(duì)數(shù)據(jù)結(jié)構(gòu)和數(shù)據(jù)統(tǒng)計(jì)分析算法有較為深刻理解;
5、掌握至少一種主流關(guān)系數(shù)據(jù)庫開發(fā)技術(shù):Oracle、SQL Server、MySQL等;
6、掌握實(shí)時(shí)流計(jì)算技術(shù),有Spark、Storm開發(fā)經(jīng)驗(yàn)者優(yōu)先;
7、需要具備2年以上研發(fā)團(tuán)隊(duì)管理經(jīng)驗(yàn)。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇24
職責(zé):
1.負(fù)責(zé)數(shù)據(jù)倉庫建設(shè),基于數(shù)據(jù)驅(qū)動(dòng)構(gòu)建企業(yè)級(jí)數(shù)據(jù)模型,根據(jù)架構(gòu)設(shè)計(jì)進(jìn)行各層數(shù)據(jù)模型開發(fā)。
2.面向PB級(jí)別超大規(guī)模數(shù)據(jù)處理和查詢需求,設(shè)計(jì)適合業(yè)務(wù)變化的合理的多維數(shù)據(jù)分析系統(tǒng)架構(gòu),滿足多樣性需求。
3.構(gòu)建設(shè)計(jì)良好的數(shù)據(jù)流、調(diào)度系統(tǒng)、查詢引擎、監(jiān)控系統(tǒng),保證系統(tǒng)穩(wěn)定高效運(yùn)行,以實(shí)現(xiàn)數(shù)據(jù)的最大價(jià)值。
4.指導(dǎo)團(tuán)隊(duì)成員開展數(shù)據(jù)倉庫建設(shè)。
5.參與重點(diǎn)項(xiàng)目的評(píng)審,參與企業(yè)數(shù)據(jù)管理體系建設(shè)。
任職要求:
1.統(tǒng)招本科及以上學(xué)歷。
2.從事數(shù)據(jù)倉庫領(lǐng)域至少5年以上,熟悉數(shù)據(jù)倉庫模型設(shè)計(jì)與ETL開發(fā)經(jīng)驗(yàn) ,掌握Kimball的維度建模設(shè)計(jì)方法,具備海量數(shù)據(jù)加工處理(ETL)相關(guān)經(jīng)驗(yàn) 。
3.具有一定數(shù)據(jù)模型和數(shù)據(jù)架構(gòu)基礎(chǔ),熟悉hadoop\hive和常用數(shù)據(jù)庫。
4. 精通SQL,有一定的SQL性能調(diào)優(yōu)經(jīng)驗(yàn),熟悉hive sql的開發(fā)。
5.具有管理團(tuán)隊(duì)開發(fā)經(jīng)驗(yàn),具備良好的組織能力、協(xié)調(diào)能力及項(xiàng)目管理能力。
6.具有較好的文字功底及語言表達(dá)能力,能夠快速、準(zhǔn)確地理解需求。
7.具有專研、快速學(xué)習(xí)和創(chuàng)新精神,具備獨(dú)立分析問題和解決問題的能力。
8.具有責(zé)任心,時(shí)間觀念強(qiáng),工作獨(dú)立性強(qiáng),有良好的團(tuán)隊(duì)合作精神。
9.全日制普通本科畢業(yè)。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇25
職責(zé):
1、負(fù)責(zé)規(guī)劃科技大數(shù)據(jù)平臺(tái)及科技數(shù)據(jù)入庫自動(dòng)化的方案設(shè)計(jì);
2、負(fù)責(zé)大數(shù)據(jù)平臺(tái)的開發(fā)和維護(hù),以及對(duì)外服務(wù)接口的開發(fā);
3、負(fù)責(zé)大數(shù)據(jù)平臺(tái)的優(yōu)化和改進(jìn)工作。
任職要求
1、計(jì)算機(jī)相關(guān)專業(yè)本科及以上學(xué)歷,5年以上開發(fā)經(jīng)驗(yàn),其中3年以上為互聯(lián)網(wǎng)、大數(shù)據(jù)相關(guān)的開發(fā)經(jīng)驗(yàn);
2、熟知Hadoop生態(tài)圈體系,精通Hadoop/Spark/Storm/Kafka中的一項(xiàng)或幾項(xiàng),深刻理解MapReduce的運(yùn)行原理和機(jī)制,有MPI經(jīng)驗(yàn)者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相關(guān)數(shù)據(jù)庫的構(gòu)建和操作,尤其是數(shù)據(jù)庫集群的構(gòu)建和操作,熟悉Neo4j者尚佳;
4、具有機(jī)器學(xué)習(xí)相關(guān)項(xiàng)目經(jīng)驗(yàn)者優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇26
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)項(xiàng)目技術(shù)架構(gòu)評(píng)估與設(shè)計(jì);
2、負(fù)責(zé)關(guān)鍵功能的開發(fā),技術(shù)難題的解決,以及輸出代碼的關(guān)鍵把控;
3、負(fù)責(zé)對(duì)使用關(guān)鍵技術(shù)的預(yù)研和選型,完成PoC;
4、指導(dǎo)工程師完成開發(fā)工作,并能分享技術(shù)經(jīng)驗(yàn)。
任職要求:
1、3年以上相關(guān)工作經(jīng)驗(yàn),其中具有1年以上架構(gòu)設(shè)計(jì)經(jīng)驗(yàn)
2、熟悉商業(yè)智能系統(tǒng)相關(guān)技術(shù),如 ETL、數(shù)據(jù)倉庫、OLAP開發(fā);
3、精通設(shè)計(jì)模式,熟悉面向服務(wù)架構(gòu)(SOA)以及其它常用軟件架構(gòu)思想,有SOA方案設(shè)計(jì)、開發(fā)實(shí)施的實(shí)際經(jīng)驗(yàn),要具備實(shí)際的服務(wù)規(guī)劃、服務(wù)粒度劃分經(jīng)驗(yàn);并且要善于設(shè)計(jì)可重用組件和可定制化產(chǎn)品。
4、相關(guān)技術(shù)棧:Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;
5、有扎實(shí)的計(jì)算機(jī)基礎(chǔ),熟悉Java等編程語言;
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇27
職責(zé):
1.負(fù)責(zé)過多個(gè)大數(shù)據(jù)項(xiàng)目的架構(gòu);
2.精通Hadoop、Spark, HBase等主流的大數(shù)據(jù)平臺(tái)、精通各組件優(yōu)化設(shè)計(jì)原理;
3.精通大數(shù)據(jù)實(shí)時(shí)流式處理的設(shè)計(jì)和應(yīng)用;
3.熟悉大數(shù)據(jù)平臺(tái)調(diào)優(yōu),具備大數(shù)據(jù)生產(chǎn)平臺(tái)調(diào)優(yōu)經(jīng)驗(yàn);
4.金融行業(yè),運(yùn)營商行業(yè)大數(shù)據(jù)架構(gòu)經(jīng)驗(yàn)更優(yōu);
5.研究大數(shù)據(jù)技術(shù)的最新發(fā)展,并引入到公司技術(shù)架構(gòu);
6.指導(dǎo)大數(shù)據(jù)工程師的日常工作,并培養(yǎng)技術(shù)骨干。
任職資格:
1.計(jì)算機(jī)相關(guān)專業(yè)本科或以上學(xué)歷;
2.具有5年以上大數(shù)據(jù)相關(guān)開發(fā)經(jīng)驗(yàn);
3.具有2年以上帶團(tuán)隊(duì)經(jīng)驗(yàn)
4.對(duì)Hadoop/Hive/Spark/HBase/ES等等大數(shù)據(jù)常用技術(shù)有深刻理解,能夠帶領(lǐng)團(tuán)隊(duì)進(jìn)行技術(shù)攻堅(jiān),完成中間件的實(shí)施、改造、調(diào)優(yōu);
5.精通海量數(shù)據(jù)和實(shí)時(shí)數(shù)據(jù)的分析處理,能對(duì)線上的數(shù)據(jù)處理性能問題做調(diào)優(yōu);
6.精通數(shù)據(jù)倉庫以及維度建模原理,有大型數(shù)據(jù)倉庫建設(shè)經(jīng)驗(yàn);
7.精通關(guān)系型數(shù)據(jù)庫和NoSQL數(shù)據(jù)庫的使用,熟悉相關(guān)理論;
8.溝通順暢,重點(diǎn)突出,高效。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇28
職責(zé):
1、負(fù)責(zé)公司的大數(shù)據(jù)處理框架的研發(fā)設(shè)計(jì)工作,梳理可實(shí)現(xiàn)方案和技術(shù)規(guī)范;
2、開發(fā)、完善公司大數(shù)據(jù)平臺(tái);參與公司離線、實(shí)時(shí)大數(shù)據(jù)處理系統(tǒng)的設(shè)計(jì)、開發(fā)、測試及多個(gè)業(yè)務(wù)模塊的自動(dòng)化集成;
3、負(fù)責(zé)業(yè)務(wù)平臺(tái)數(shù)據(jù)統(tǒng)計(jì)分析模塊的設(shè)計(jì)與規(guī)劃;
4、負(fù)責(zé)公司產(chǎn)品研發(fā)過程中的數(shù)據(jù)及存儲(chǔ)設(shè)計(jì);
5、帶領(lǐng)和培養(yǎng)團(tuán)隊(duì)完成組織分解的目標(biāo);
任職要求:
1、統(tǒng)招本科及以上學(xué)歷,計(jì)算機(jī)、軟件工程相關(guān)專業(yè),至少8年以上工作經(jīng)驗(yàn),5年以上大數(shù)據(jù)開發(fā)經(jīng)驗(yàn);
2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相關(guān)技術(shù)的基礎(chǔ)架構(gòu)
3、熟悉數(shù)據(jù)倉庫,數(shù)據(jù)算法,分布式計(jì)算技術(shù)理論,具有大數(shù)據(jù)整體系統(tǒng)架構(gòu)設(shè)計(jì)經(jīng)驗(yàn);
4、熟悉Linux系統(tǒng),熟練使用shell/perl/python腳本處理問題;
5、對(duì)深度學(xué)習(xí)框架(Tensorflow)和機(jī)器學(xué)習(xí)(svm 隨機(jī)深林貝葉斯等)有一定了解的優(yōu)先;
6、能夠組織項(xiàng)目開發(fā)組協(xié)同工作,包括團(tuán)隊(duì)溝通、計(jì)劃、開發(fā)環(huán)境管理等
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇29
1)負(fù)責(zé)大數(shù)據(jù)平臺(tái)系統(tǒng)架構(gòu)設(shè)計(jì)、核心開發(fā)工作(Hadoop&Spark技術(shù)方向),基于業(yè)務(wù)場景設(shè)計(jì)最優(yōu)的系統(tǒng)解決方案。
2)構(gòu)架支持大數(shù)量級(jí)的數(shù)據(jù)的大數(shù)據(jù)平臺(tái)系統(tǒng),及相關(guān)監(jiān)控,拓展系統(tǒng)設(shè)計(jì)及實(shí)現(xiàn)。
3)利用Hadoop、Spark等大數(shù)據(jù)技術(shù)對(duì)海量數(shù)據(jù)進(jìn)行處理,支持BI和數(shù)據(jù)科學(xué)(建模)的應(yīng)用實(shí)現(xiàn)。
4)對(duì)現(xiàn)有系統(tǒng)的進(jìn)行架構(gòu)深入分析及系統(tǒng)優(yōu)化,進(jìn)一步提升系統(tǒng)的性能及數(shù)據(jù)處理能力。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇30
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)基礎(chǔ)平臺(tái)、海量數(shù)據(jù)存儲(chǔ)處理分布式平臺(tái)、數(shù)據(jù)分析系統(tǒng)架構(gòu)設(shè)計(jì)和研發(fā);
2、負(fù)責(zé)實(shí)時(shí)計(jì)算平臺(tái)基礎(chǔ)架構(gòu)設(shè)計(jì)、部署、監(jiān)控、優(yōu)化升級(jí);
3、制定項(xiàng)目數(shù)據(jù)倉庫設(shè)計(jì)及實(shí)現(xiàn)規(guī)范,指導(dǎo)設(shè)計(jì)研發(fā)和部署;
4、協(xié)助策略和算法團(tuán)隊(duì)工作,保障數(shù)據(jù)挖掘建模和工程化;
5、深入研究大數(shù)據(jù)相關(guān)技術(shù)和產(chǎn)品,跟進(jìn)業(yè)界先進(jìn)技術(shù)。
任職要求:
1、3年以上大數(shù)據(jù)系統(tǒng)架構(gòu)經(jīng)驗(yàn);
2、精通Hadoop HBase Hive Spark Flink Kafka Redis技術(shù)及其生態(tài)圈;
3、具備Java Scala Python等開發(fā)經(jīng)驗(yàn),熟悉數(shù)據(jù)挖掘和分析的策略與算法;
4、精通數(shù)據(jù)抽取,海量數(shù)據(jù)傳輸,數(shù)據(jù)清洗的常用方法和工具。
5、具備良好的系統(tǒng)分析能力、故障診斷能力;
6、有大數(shù)據(jù)策略、算法、可視化經(jīng)驗(yàn)優(yōu)先;
7、有在華為云存儲(chǔ)產(chǎn)品和大數(shù)據(jù)產(chǎn)品的開發(fā)使用經(jīng)驗(yàn)優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇31
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)基礎(chǔ)平臺(tái)的整體規(guī)劃和架構(gòu)設(shè)計(jì),參與需求分析、技術(shù)決策以及詳細(xì)設(shè)計(jì);
2、為現(xiàn)有大數(shù)據(jù)集群Hadoop、hive平臺(tái)提供性能調(diào)優(yōu)、架構(gòu)優(yōu)化重組,解決系統(tǒng)中的關(guān)鍵問題和技術(shù)難題;
3、把握基礎(chǔ)業(yè)務(wù)復(fù)雜系統(tǒng)的設(shè)計(jì),確保系統(tǒng)的架構(gòu)質(zhì)量,編寫核心部分代碼;
4、持續(xù)挑戰(zhàn)新的技術(shù)方向,攻克大數(shù)據(jù)量,高并發(fā),穩(wěn)定性等各種技術(shù)難點(diǎn)。
任職資格:
1、計(jì)算機(jī)或相關(guān)專業(yè)本科及以上學(xué)歷;
2、5年以上hadoop的應(yīng)用開發(fā)經(jīng)驗(yàn),5年以上數(shù)據(jù)倉庫開發(fā)實(shí)踐經(jīng)驗(yàn),至少一個(gè)企業(yè)級(jí)數(shù)據(jù)倉庫項(xiàng)目開發(fā)經(jīng)驗(yàn)或者大數(shù)據(jù)處理項(xiàng)目經(jīng)驗(yàn);
3、良好的編程開發(fā)能力,精通PHP及其他開發(fā)語言;
4、熟悉mysql等數(shù)據(jù)庫經(jīng)驗(yàn),具備優(yōu)秀的SQL編寫、調(diào)優(yōu)能力;
5、熟練掌握Linux常規(guī)命令與工具,精通shell, perl, python等腳本語言至少一種;
6、軟件基礎(chǔ)理論知識(shí)扎實(shí),具有良好的數(shù)據(jù)結(jié)構(gòu)、算法功底;
7、對(duì)新技術(shù)敏感,學(xué)習(xí)能力強(qiáng),樂于接受挑戰(zhàn),具有良好的團(tuán)隊(duì)合作精神;