大数据架构师的基本职责（通用15篇）
大数据架构师的基本职责 篇1
职责：
1.负责整个大数据平台架构的设计和构建;
2.负责构建大数据平台的数据交换、任务调度等通用平台;
3.制定开发、测试、实施、维护的标准和规范，指导和培训工程师，不断提升团队能力。
4.参与系统需求分析、架构设计、技术选型、应用设计与开发以及测试与部署，负责编写核心部分代码。
5.持续挑战新的技术方向，攻克大数据量、高并发、高可用、可扩展等技术难点。
任职要求：
1.3年以上大数据架构经验，丰富的数据仓库、数据挖掘、机器学习项目经验
2.大规模数据处理的架构和设计实战经验
3.精通Spark、MR，熟练HDFS、Yarn、Hbase、Hive、MongoDB，熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等，并具有丰富的大型数据平台工程经验
4.深刻理解大数据处理(流计算，分布式计算，分布式文件系统，分布式存储等)相关技术和实现方法
5.熟悉主数据、元数据、数据质量等企业数据管理相关的体系和方法，熟练Linux/Unix平台上的开发环境
6.本科或以上学历，计算机软件或相关专业，丰富的java开发经验和互联网背景优先。
7.具有比较强的问题分析和处理能力，有比较优秀的动手能力，热衷技术，精益求精
大数据架构师的基本职责 篇2
职责：
1、负责大数据平台的架构设计、核心代码开发等任务;根据项目要求编写相关技术文档;
2、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;
3、负责核心模块研发，负责大数据平台的搭建，完成系统调试、集成与实施;
4、负责建立和维护大数据平台技术标准规范，指导开发人员编写代码;
任职要求：
1、本科及以上计算机相关专业毕业;
2、精通离线和实时数据处理流程，掌握离线数据处理框架hive、impala、spark-sql等，掌握实时数据处理常用技术工具，包括Storm、SparkStreaming等;
3、熟悉大数据技术生态圈，精通大数据技术架构，有大数据平台构建经验;
4、掌握常见数据流接入工具，包括Flume、kafka等;
5、熟练掌握基本的Linux操作系统和某种脚本语言编程(如Shell等);
6、掌握一种或以上实时处理语言，如JAVA、SCALA、PYTHON等，有SCALA经验者优先;
7、有实际大规模数据(TB级以上)处理经验优先;
大数据架构师的基本职责 篇3
职责：
1. 深刻理解政府行业业务模式，构建政府行业的数据模型，制定公司大数据技术发展路线;
2. 对接业务研究和技术部门，主动搜集和转化需求，组织数据中心业务开发，进行数据相关产品需求分析和设计;
3. 搭建数据仓库，研发数据库管理系统，搜集、提取、处理业务积累的海量数据，开展数据分析和挖掘;
4. 根据公司战略和发展需要，规划数据中心重点工作和任务;落实部门人员、事务管理，开展跨部门、跨地区协作，协助对外交流与合作。
职位要求：
1. 5年以上相关工作经验，有团队管理和项目管理经验者优先;
2.了解政府运作机制，掌握财政行业知识，有电子政务行业经验者优先;
3. 熟练掌握使用Java或Python,精通数据库查询语言如SQL，Oracle等,在机器学习模型和算法方向有应用经验者优先;
4. 具备数据中心产品策划整体思维，有大数据处理、分析、挖掘经验者优先;
5. 逻辑思维严密，具备业务抽象、分解和标准化的能力，口头和书面表达优秀;
6. 有较强的大局意识和良好的团队合作意识，富有领导力，具备优秀的人际交往和沟通能力。
大数据架构师的基本职责 篇4
职责:
1、从事电信行业大数据项目相关业务调研、产品标准建设、核心模型设计和优化、系统测试等相关工作
2、与数据专业委员会一起研究数据建模方案和建模工具，负责产品线产品的数据架构、数据模型设计
3、参与研究数据库之间的数据转换方式，参与项目中的数据移植工作，收集在项目中的数据移植经验，优化产品的数据模型
4、负责培训本部门队伍的数据模型基础理论工作，建立数据模型团队
岗位要求：
1、统招本科学历，3年以上主流数据上(DB2、Oracle、SQLServer、Mysql等)ETL设计、开发经验，具备大型数据仓库逻辑模型和物理模型设计经验，精通SQL，有较好的SQL性能调优经验;
2、拥有Python，R等数学建模工具的使用经验，并具备一定的数据处理和建模经验，可以输出相应的模型分析结果、模型比较、模型效率以及对模型的理论和判断依据方法并对其进行完整的解释和说明;
3、熟悉统计学基本原理，做过实战的数据建模项目;
4、有分布式数据仓库建设相关经验者优先，具备电信行业数据仓库建设相关经验者优先;
大数据架构师的基本职责 篇5
职责：
1、负责公司的大数据处理框架的研发设计工作，梳理可实现方案和技术规范;
2、开发、完善公司大数据平台;参与公司离线、实时大数据处理系统的设计、开发、测试及多个业务模块的自动化集成;
3、负责业务平台数据统计分析模块的设计与规划;
4、负责公司产品研发过程中的数据及存储设计;
5、带领和培养团队完成组织分解的目标;
任职要求：
1、统招本科及以上学历，计算机、软件工程相关专业，至少8年以上工作经验，5年以上大数据开发经验;
2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相关技术的基础架构
3、熟悉数据仓库，数据算法，分布式计算技术理论，具有大数据整体系统架构设计经验;
4、熟悉Linux系统，熟练使用shell/perl/python脚本处理问题;
5、对深度学习框架(Tensorflow)和机器学习(svm 随机深林贝叶斯等)有一定了解的优先;
6、能够组织项目开发组协同工作，包括团队沟通、计划、开发环境管理等
大数据架构师的基本职责 篇6
1、建设大数据平台，主要技术为k8s, docker;
2、跟进开源社区的更新，阅读文档，验证feature;
3、阅读容器生态圈各组件的开源项目代码，开发新功能;
4、持续提升平台的性能和稳定性。
大数据架构师的基本职责 篇7
职责：
1、负责大数据项目或产品中架构设计、数据仓库公共层与应用层建模;
2、负责大数据项目或产品中业务需求的需求理解、数据指标维度需求梳理、数据探查和分析，指导技术团队进行工作;
3、负责大数据项目中的具体技术管理工作，完成验收目标。
4、发现并解决数据质量问题，推动整体数据质量提升。
任职要求：
1、计算机相关专业，3年以上数据研发与数据仓库相关开发经验;
2、熟练掌握维度建模方法，有大型数仓构建经验优先;
3、精通Oracle/DB2/Teradata等主流数据库编程，有较好的SQL性能调优经验;
4、扎实的编程基础和动手能力，精通至少一门编程语言，有大数据、分布式开发经验尤佳;
5、有良好沟通协调能力，有带领小团队或项目管理工作经验;
6、具备很强的责任心，做事细致、严谨，同时需要具备较强的沟通和学习能力，能快速理解行业的需求，对农业等行业数据应用有经验者优先;
7、能够接受出差。
大数据架构师的基本职责 篇8
职责：
1、负责公司大数据产品的架构设计，包含数据收集、数据存储、数据应用，并完成相关架构设计文档的撰写;
2、参与规划从数据源到数据应用的整体流程，并参与相关产品的决策;
3、负责解决核心技术问题，对技术方案进行决策;
4、负责大数据研发团队建设、人才梯队培养和技术团队管理;
5、积极了解业界发展，研究与跟踪大数据新技术发展方向。
任职要求：
1、精通GoldenGate For BigData相关理论，具备大型数据利用的生产实战经验;
2、精通数据驱动的理论，设计并生产上线相关数据驱动的产品;
3、精通常用消息中间件的使用，例如kafka/RocketMQ/Apache Pulsar，有解读相关源码者优先;
4、掌握hadoop、spark生态体系相关产品的使用，掌握MapReduce编程或Spark编程;
5、了解传统数据仓库理论及相关ETL工具，例如kettle/datastage;
6、熟悉Oracle、Mongodb、Mysql数据库的使用;
7、扎实的Java语言基础，熟悉Java开发工具和调试工具的使用;
8、良好的团队协作精神，有能力对团队在软件设计、实现和测试方面进行指导;
9、良好的逻辑分析能力和沟通能力，执行力强、对待工作认真严谨、责任心强、具备出色的学习能力和团队合作精神，有一定的推动能力;
10、计算机科学、信息技术或相关领域本科以上学历，具有5年以上数据平台项目开发经验，3年以上的架构设计经验，具有大数据平台应用大型项目架构设计经验优先;
大数据架构师的基本职责 篇9
职责：
1、负责大数据开发团队建设;
2、负责行业大数据产品架构设计与研发;
3、负责带领团队进行行业大数据产品关键技术攻关。
任职要求：
1、有三年以上大数据应用、开发经验;具备海量数据加工处理(ETL)相关经验，对数据挖掘及机器学习有较为深刻的理解;
2、熟悉Hadoop相关技术，对HDFS、MapReduce、Hive、HBase有一定的使用和开发经验;
3、熟悉Linux，熟练使用Shell或Python，进行脚本编写;
4、对数据结构和数据统计分析算法有较为深刻理解;
5、掌握至少一种主流关系数据库开发技术：Oracle、SQL Server、MySQL等;
6、掌握实时流计算技术，有Spark、Storm开发经验者优先;
7、需要具备2年以上研发团队管理经验。
大数据架构师的基本职责 篇10
职责：
1.负责过多个大数据项目的架构;
2.精通Hadoop、Spark, HBase等主流的大数据平台、精通各组件优化设计原理;
3.精通大数据实时流式处理的设计和应用;
3.熟悉大数据平台调优，具备大数据生产平台调优经验;
4.金融行业，运营商行业大数据架构经验更优;
5.研究大数据技术的最新发展，并引入到公司技术架构;
6.指导大数据工程师的日常工作，并培养技术骨干。
任职资格：
1.计算机相关专业本科或以上学历;
2.具有5年以上大数据相关开发经验;
3.具有2年以上带团队经验
4.对Hadoop/Hive/Spark/HBase/ES等等大数据常用技术有深刻理解，能够带领团队进行技术攻坚，完成中间件的实施、改造、调优;
5.精通海量数据和实时数据的分析处理，能对线上的数据处理性能问题做调优;
6.精通数据仓库以及维度建模原理，有大型数据仓库建设经验;
7.精通关系型数据库和NoSQL数据库的使用，熟悉相关理论;
8.沟通顺畅，重点突出，高效。
大数据架构师的基本职责 篇11
职责：
1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;
2. 负责实时计算平台基础架构设计、部署、监控、优化升级;
3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;
4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;
5. 深入研究大数据相关技术和产品，跟进业界先进技术;
任职要求：
1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;
2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;
3. 具备良好的系统分析能力、故障诊断能力;
4 有大数据策略、算法、可视化经验优先。
大数据架构师的基本职责 篇12
职责：
1、负责面向政府信领域的企业(不限于)大数据平台、大数据应用等系统的架构设计、技术规划、技术选型
2、跟进业界大数据技术发展动态，匹配行业应用诉求，制定大数据策略，提前识别关键技术并完成技术验证;
3、支撑售前完成项目解决方案技术架构的设计及重要客户的交流;
4、负责指导研发完成大数据产品的开发
5、带领团队进行产品核心技术的创新和积累
岗位要求：
1、熟悉BI和大数据领域的解决方案，具备该领域全面的技术积累，包括报表平台，OLAP引擎和DB，ETL，数据仓库建模和设计，海量分布式数据处理分析架构;
2、在大数据处理和分析领域具有3年或者以上的技术规划、架构设计经验，并有成功的项目实践;
3、4年以上Hadoop实战经验，熟悉Hadoop底层文件系统及分布式计算框架，具备传统数据仓库、MPP、Hadoop等混搭平台架构的设计能力和数据建模能力，对大规模数据并行计算、传输、处理等有丰富的经验;
4、有实际应用storm、spark、flume、kafka等项目经验优先;
5、卓越的技术领导力，善于沟通、发现和解决产品需求阶段、开发阶段和测试阶段的问题，并能提供合理解决方案，有大中型互联网企业工作背景优先。
大数据架构师的基本职责 篇13
职责：
1、负责大数据平台架构的评估、规划和设计 ;负责海量数据采集、处理及存储、应用方案的技术选型及架构实现;
2、开发大数据平台的核心代码，负责大数据平台的搭建，完成系统调试、集成与实施，技术难题的解决，保证大数据产品的上线运行 ;
3、根据业务需求持续优化数据架构，保证产品的可靠性、稳定性 ;
4、指导开发人员完成数据模型规划建设，分析模型构建及分析呈现 ，分享技术经验;
5、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;
6、深入研究大数据相关技术和产品，跟进业界先进技术;
任职资格：
1.本科及以上学历，数学或计算机相关专业毕业，不少于5年的工作经验，具有扎实的计算机基础理论知识;
2.有3年以上Hadoop、Spark、Hbase平台性能调优经验;熟悉sparkstreaming等实时计算技术
3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等，具备实际项目设计及开发经验;
4.熟悉sparkstreaming等相关的实时计算技术;
5.熟悉大规模数据挖掘、机器学习、自然语言处理、分布式计算中一项或多项技术，并具备多年的实际工作经验;
6.熟悉主流关系型数据库(Oracle、MySql)、NoSql数据库，熟悉pl/sql编程;精通Linux操作系统，熟练使用Java;熟悉常用框架.如Spring、MyBatis等;
7.具有较强的执行力，高度的责任感、很强的学习、沟通能力，能够在高压下高效工作;
大数据架构师的基本职责 篇14
职责：
1. 负责大数据基础和应用平台的整体规划和架构设计，参与需求分析，架构设计，详细设计以及技术选型决策
2. 参与数据挖掘和建模相关核心算法的代码实现
3. 负责大数据算法平台的技术把关，性能调优，控制架构质量，解决项目技术难题;对研发项目和任务需求进行评估和方案设计、拆分任务并指导工程师完成开发
4. 带领团队提供并实现大数据算法平台上各项数据接入、数据挖掘分析及数据可视化的架构设计与能力，支持解决方案实施
5. 负责数据库设计、应用架构设计、核心技术选型等工作
6. 协调解决开发中的技术问题、设计和监控运营指标，保障系统稳定运行
7. 培养，指导有能力的员工，指导工程师进行技术验证实现，核心技术攻关，解决开发过程中的技术难题
任职要求：
1. 熟悉大数据和数据仓库的系统架构设计方法
2. 熟练使用并理解HadoopSpark架构及生态。(Hadoop，Hive，Hbase，Elasticsearch，Kafka，SparkFlink等)
3. 熟悉分布式系统架构，有分布式实时、离线和机器学习平台的架构和开发经验，具备海量数据清洗、分析处理及存储的实践经验
4. 熟练使用JAVA，具有大规模分布式系统调优经验
5. 熟悉AI相关算法，熟悉机器学习、深度学习。熟悉AI学习开源框架(Tensorflow、PyTorch等)者优先;
6. 具备良好的团队合作精神，对工作充满激情。
7. 熟悉FusionInsight平台开发经验者优先
大数据架构师的基本职责 篇15
职责：
1、负责大数据基础平台的整体规划和架构设计，参与需求分析、技术决策以及详细设计;
2、为现有大数据集群Hadoop、hive平台提供性能调优、架构优化重组，解决系统中的关键问题和技术难题;
3、把握基础业务复杂系统的设计，确保系统的架构质量，编写核心部分代码;
4、持续挑战新的技术方向，攻克大数据量，高并发，稳定性等各种技术难点。
任职资格:
1、计算机或相关专业本科及以上学历;
2、5年以上hadoop的应用开发经验，5年以上数据仓库开发实践经验，至少一个企业级数据仓库项目开发经验或者大数据处理项目经验;
3、良好的编程开发能力，精通PHP及其他开发语言;
4、熟悉mysql等数据库经验，具备优秀的SQL编写、调优能力;
5、熟练掌握Linux常规命令与工具，精通shell, perl, python等脚本语言至少一种;
6、软件基础理论知识扎实，具有良好的数据结构、算法功底;
7、对新技术敏感，学习能力强，乐于接受挑战，具有良好的团队合作精神;