大数据架构师工作的职责（通用15篇）
大数据架构师工作的职责 篇1
职责：
1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;
2. 负责实时计算平台基础架构设计、部署、监控、优化升级;
3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;
4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;
5. 深入研究大数据相关技术和产品，跟进业界先进技术。
任职要求：
1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;
2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;
3. 具备Java/C++/Scala等开发经验，熟悉数据挖掘和分析的策略与算法;
4. 具备良好的系统分析能力、故障诊断能力;
5. 有大数据策略、算法、可视化经验优先;
6、211/985 重点学校毕业优先。
大数据架构师工作的职责 篇2
职责：
1、正确理解业务需求，对需求进行工作量评估;
2、参与项目相关的需求、设计、投产手册等文档的编写;
3、根据进度计划，完成所承担功能模块的设计、开发、单元测试、联调测试;
4、配合测试组修复代码缺陷，确保功能实现与代码质量;
5、负责所承担功能模块投产、部署，及上线后的日常维护;
6、完成项目经理或者架构师安排的其他工作;
任职资格：
1、本科以上学历，计算机相关专业，两年以上大数据开发经验;
2、熟悉Linux 环境，掌握shell或python;
3、熟练使用hadoop，hive，HBase，YARN，kafka，spark等大数据开发组件;
4、精通 ETL，数据仓库的设计和开发;
5、有大数据处理实战经验，熟悉整个大数据的完整处理流程，包括数据的采集、清洗、存储;
6、较强的动手能力和学习能力，良好的沟通能力、团队协调能力;
7、具有银行、金融行业从业背景者优先。
大数据架构师工作的职责 篇3
职责：
1. 负责设计企业级大数据平台的整体架构，从技术层面制定清晰的大数据产品与系统技术架构，并负责实现关键技术和产品。
2. 负责设计具有创新价值的大数据底层平台、大数据上层应用系统等，带领团队完成有质变的技术解决方案。
3. 负责组织同事研究行内最前沿的技术发展方向，突破现有的技术难题。
4. 负责研究院对外项目合作协调与支持，编写项目建设方案及后期项目建设支持。
任职要求：
1. 硕士及以上学历，计算机相关专业。
2. JAVA基础扎实,不少于8年的一线开发经验，精通Spring boot/MyBatis/Restful API的开发与管理. 熟悉ReactJS/Angular/Vue之一前端开发技术，熟悉Maven或Ant.，熟悉Python语言开发加分。
3. 不少于4年大数据的直接研发经验，精通Hadoop/Spark系统，有hands-on的架构设计、性能调优、开发经验。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系统的开发经验。
4. 掌握分布式系统原理，对分布式存储、流式计算、消息队列中的一项或多项有深入的理解和认识。
5. 熟悉分布式系统的监控、运维、故障恢复，高可用原理和设计理念。
6. 算法基础扎实，熟悉常见的数据结构，掌握大规模高并发访问、大数据开发等处理经验;熟练的Linux系统, 网络, 内存和存储等方面知识。
7. 必须要有千万级别的项目管理经验，包括但不限于前期需求沟通，建设方案编写，中期项目实施，进度汇报，后期项目维护。
大数据架构师工作的职责 篇4
职责：
1、负责大数据项目平台架构的评估、规划和设计
2、开发大数据平台的核心模块代码，负责大数据平台的搭建，完成系统调试、集成与实施，保证大数据产品的上线运行
3、根据业务需求整合优化数据架构，保证产品的可靠性、稳定性
4、指导开发人员完成数据模型规划建设，分析模型构建及分析呈现
5、深入研究大数据相关技术和产品，跟进业界先进技术;
6、根据项目要求编写相关技术文档;
7、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;
8、负责核心模块研发，负责大数据平台的搭建，完成系统调试、集成与实施;
9. 负责关键功能的开发，技术难题的解决，以及输出代码的关键把控;
10. 负责对使用关键技术的预研和选型，完成 PoC ;
11. 指导工程师完成开发工作，并能分享技术经验。
任职资格:
1、精通Linux操作系统，熟练使用Java;
2、3年以上大数据项目实战经验，两个项目的架构设计经验，熟悉Hadoop、Hbase、Storm、Spark、Pig等开源框架，并熟悉其工作原理;
3、有Hadoop、Spark、Hbase平台性能调优经验;
4、熟悉其它分布式存储相关技术，包括HDFS，Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;
5、熟悉Java开发常用框架.如Spring、MyBatis等;
6、熟悉关系型数据库如oracle及数据库编程。
7、能够根据项目情况安排人力、分配任务，具有较强的团队管理能力。
8、硕士以上学历，20xx年以上的工作经验。
大数据架构师工作的职责 篇5
职责：
1、负责企业大数据平台的基础建设、管理及制定拓展规划;
2、负责大数据平台相关自动化服务工具的设计、开发;
3、参与Hadoop、Hbase、Spark等核心平台组件的开发、优化;
4、对平台特殊场景化的数据应用制定相关实践方案;
5、大数据团队的搭建。
任职资格:
1、统招本科以上学历，计算机等相关专业，5年以上工作经验;
2、具有Hadoop等大规模集群管理经验、海量(PB)数据处理经验;
3、精通Hadoop、Hive、Hbase等离线平台相关组件的原理机制;
4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分布式系统;
5、熟悉高并发、分布式开发等相关知识，具有后端服务优化相关经验;
6、熟悉爬虫常用框架以及反爬技术;
7、具有良好的沟通能力、分析问题与攻关问题的能力;
8、有责任心，工作积极，对新领域新技术有热情。
大数据架构师工作的职责 篇6
职责：
1、负责spark, hadoop, flink等开发和优化。
2、参与前期需求沟通和分析，以产品化开发的思维，完成需求分解和数据架构设计。
3、与研发和数据科学家合作保证产品定义清晰，按时完成产品上线。
4、能够洞察市场状况，与各部门合作转化为基于大数据挖掘的新策略或方案.
5、主动创造和发掘新的基于大数据挖掘产品商业模式.
任职要求：
1、全日制本科及以上学历，计算机软件相关专业，5年以上开发经验，3年以上架构经验
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式数据存储和分布式计算平台原理，流式计算开发，有开源二次开发经验者优先。
3、精通大数据挖掘、机器学习.熟练掌握Java/Perl/Python至少一种编程语言。
4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;
5、良好的跨部门沟通合作能力，解决不同观点能力并取得结果。具备敏锐的互联网产品理解力，学习能力和逻辑思维能力强;
6、较强的自我驱动力、推动和协调能力，强烈的责任心和团队合作精神;
大数据架构师工作的职责 篇7
职责：
1、负责大数据项目技术架构评估与设计;
2、负责关键功能的开发，技术难题的解决，以及输出代码的关键把控;
3、负责对使用关键技术的预研和选型，完成PoC;
4、指导工程师完成开发工作，并能分享技术经验。
任职要求：
1、3年以上相关工作经验，其中具有1年以上架构设计经验
2、熟悉商业智能系统相关技术，如 ETL、数据仓库、OLAP开发;
3、精通设计模式，熟悉面向服务架构(SOA)以及其它常用软件架构思想，有SOA方案设计、开发实施的实际经验，要具备实际的服务规划、服务粒度划分经验;并且要善于设计可重用组件和可定制化产品。
4、相关技术栈：Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;
5、有扎实的计算机基础，熟悉Java等编程语言;
大数据架构师工作的职责 篇8
职责：
1.负责公司新业务方向平台大数据基础架构的搭建及后期数据处理体系的升级和优化，不断提升系统的稳定性和效率。为公司未来方向性产品提供大数据底层平台的支持和保证。
2.负责制定大数据平台调用约束和规范;
3.负责大数据方向技术难题的解决，以及代码质量的把控;
4.作为大数据开发团队的leader,负责大数据系统平台开发团队建设与人才梯队培养，分享技术经验，撰写相关技术文档指导和培训工程师。
任职要求：
1.热衷于大数据技术，并能平衡大数据性能、稳定性、扩展性多重要素进行设计和优化;
2.熟悉服务器基本知识，能够评估系统硬件性能瓶颈;
3.掌握Linux操作系统的配置，管理及优化，能够独立排查及解决操作系统层的各类问题，并能提供解决问题的理论依据;
4.精通Java服务器编程，熟悉JVM原理，对数据结构和算法设计有较为深刻的理解;
5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底层架构，熟悉原理、源码、集群部署，包括参数优化、Bug修复，贡献过代码或提交过bug者优先
6.具备数据中心资源管理、监控、调度等系统研发经验者优先，具备分布式系统研发经验者优先;
7.具有应用大数据技术处理的项目开发、维护超过两年的经验者优先;
8.具有良好的文档编写能力，可进行方案设计、架构设计。
大数据架构师工作的职责 篇9
职责：
1.能够带领技术人员基于hadoop平台进行海量数据应用系统开发;
2.负责结构化和非结构化数据的解析和清洗,海量数据查询和报表展现;
3.负责超大规模数据平台的搭建、维护和优化;
4.负责大数据采集、存储框架研究，参与在线或离线数据存储模型设计;
5.负责大数据平台新技术的开发使用和性能优化，测试。
任职资格：
1.计算机相关专业本科及以上学历;
2. 熟悉hadoop相关各种开源项目，比如HDFS/Hive/Hbase等有实际应用。(5年以上开发经验者优先);
3.两年以上熟练编写mapreduce代码经验，有三年以上网络日志分析、ETL经验。熟悉日志分析框架chukwa,flume,scribe者优先;
4.两年以上海量数据存储的安装部署、优化、二次开发经验，对大规模数据存储、传输、处理等有丰富的经验;
5.在数据挖掘、数据密集型处理、分布式计算、网格计算领域有深入理论基础;
6.具有较强的文档撰写能力，较强的团队精神和合作精神，对工作有热情，能承受压力。
大数据架构师工作的职责 篇10
职责
1、负责公司大数据平台的整体架构设计，包含数据收集、数据存储、数据挖掘、数据输出;
2、负责规划从数据源到数据应用的整体流程，并参与用户产品和数据产品的决策;
3、负责海量数据分析、用户行为分析，构建用户数据模型;
4、负责解决核心技术问题，对技术方案进行决策;
5、技术团队管理。
6、熟悉手机IOS、安卓系统APP开发
任职资格
1、计算机相关专业毕业，本科以上学历;
2、5年以上相关工作经验，具备软件产品架构设计经验，熟练掌握高性能、高扩展性架构设计方法;
3、熟练掌握java或c++任意一门语言、熟悉linux操作系统;
4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大数据技术，并能够基于上述项目开发大数据相关应用;
5、熟悉基本数据挖掘方法和技术;
6、强烈的敬业精神，良好的沟通与协调能力，能有效组织协调团队完成各类开发工作;
7、热爱技术，相信数据的价值，对大数据有深刻的理解。
大数据架构师工作的职责 篇11
职责：
1.负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;
2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发，不断提升系统的稳定性和效率;
3.负责架构优化及系统关键模块的设计开发，协助团队解决开发过程中的技术难题;
4.建立良好的公司内外的业界技术影响力;有效辅导团队，提升数据研发能力;
任职要求：
1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;
2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力，善于从复杂的数据问题中找到关键路径;
3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于：hadoop、storm、spark、等;
4. 良好的逻辑思维能力，良好的业务解读能力，懂电力或通信业务优先;
5.具有钻研精神，乐于接受挑战;
大数据架构师工作的职责 篇12
职责：
1、负责大数据平台架构的评估、规划和设计 ;负责海量数据采集、处理及存储、应用方案的技术选型及架构实现;
2、开发大数据平台的核心代码，负责大数据平台的搭建，完成系统调试、集成与实施，技术难题的解决，保证大数据产品的上线运行 ;
3、根据业务需求持续优化数据架构，保证产品的可靠性、稳定性 ;
4、指导开发人员完成数据模型规划建设，分析模型构建及分析呈现 ，分享技术经验;
5、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;
6、深入研究大数据相关技术和产品，跟进业界先进技术;
任职资格：
1.本科及以上学历，数学或计算机相关专业毕业，不少于5年的工作经验，具有扎实的计算机基础理论知识;
2.有3年以上Hadoop、Spark、Hbase平台性能调优经验;熟悉sparkstreaming等实时计算技术
3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等，具备实际项目设计及开发经验;
4.熟悉sparkstreaming等相关的实时计算技术;
5.熟悉大规模数据挖掘、机器学习、自然语言处理、分布式计算中一项或多项技术，并具备多年的实际工作经验;
6.熟悉主流关系型数据库(Oracle、MySql)、NoSql数据库，熟悉pl/sql编程;精通Linux操作系统，熟练使用Java;熟悉常用框架.如Spring、MyBatis等;
7.具有较强的执行力，高度的责任感、很强的学习、沟通能力，能够在高压下高效工作;
大数据架构师工作的职责 篇13
职责：
1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;
2. 负责实时计算平台基础架构设计、部署、监控、优化升级;
3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;
4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;
5. 深入研究大数据相关技术和产品，跟进业界先进技术;
任职要求：
1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;
2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;
3. 具备良好的系统分析能力、故障诊断能力;
4 有大数据策略、算法、可视化经验优先。
大数据架构师工作的职责 篇14
职责：
1. 负责大数据基础和应用平台的整体规划和架构设计，参与需求分析，架构设计，详细设计以及技术选型决策
2. 参与数据挖掘和建模相关核心算法的代码实现
3. 负责大数据算法平台的技术把关，性能调优，控制架构质量，解决项目技术难题;对研发项目和任务需求进行评估和方案设计、拆分任务并指导工程师完成开发
4. 带领团队提供并实现大数据算法平台上各项数据接入、数据挖掘分析及数据可视化的架构设计与能力，支持解决方案实施
5. 负责数据库设计、应用架构设计、核心技术选型等工作
6. 协调解决开发中的技术问题、设计和监控运营指标，保障系统稳定运行
7. 培养，指导有能力的员工，指导工程师进行技术验证实现，核心技术攻关，解决开发过程中的技术难题
任职要求：
1. 熟悉大数据和数据仓库的系统架构设计方法
2. 熟练使用并理解HadoopSpark架构及生态。(Hadoop，Hive，Hbase，Elasticsearch，Kafka，SparkFlink等)
3. 熟悉分布式系统架构，有分布式实时、离线和机器学习平台的架构和开发经验，具备海量数据清洗、分析处理及存储的实践经验
4. 熟练使用JAVA，具有大规模分布式系统调优经验
5. 熟悉AI相关算法，熟悉机器学习、深度学习。熟悉AI学习开源框架(Tensorflow、PyTorch等)者优先;
6. 具备良好的团队合作精神，对工作充满激情。
7. 熟悉FusionInsight平台开发经验者优先
大数据架构师工作的职责 篇15
职责：
1、大数据平台架构规划与设计;
2、负责大数据平台技术框架的选型与技术难点攻关;
3、能够独立进行行业大数据应用的整体技术框架、业务框架和系统架构设计和调优等工作，根据系统的业务需求，能够指导开发团队完成实施工作;
4、负责数据基础架构和数据处理体系的升级和优化，不断提升系统的稳定性和效率，为相关的业务提供大数据底层平台的支持和保证;
5、培养和建立大数据团队，对团队进行技术指导。
任职要求：
1、计算机相关专业的背景专业一类院校毕业本科、硕士学位，8年(硕士5年)以上工作经验(至少拥有3年以上大数据项目或产品架构经验);
2、精通Java，J2EE 相关技术，精通常见开源框架的架构，精通关系数据库系统(Oracle MySQL等)和noSQL数据存储系统的原理和架构;
3、精通SQL和Mapreduce、Spark处理方法;
4、精通大数据系统架构，熟悉业界数据仓库建模方法及新的建模方法的发展，有DW，BI架构体系的专项建设经验;
5、对大数据体系有深入认识，熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大数据技术，并能设计相关数据模型;
6、很强的学习、分析和解决问题能力，可以迅速掌握业务逻辑并转化为技术方案，能独立撰写项目解决方案、项目技术文档;
7、具有较强的内外沟通能力，良好的团队意识和协作精神;
8、机器学习技术、数据挖掘、人工智能经验丰富者优先考虑;
9、 具有能源电力行业工作经验者优先。