学习大数据是比较复杂的,涉及到很多技术层面的知识。大数据技术学什么课程总体来说可以分为三大阶段:离线数仓阶段、实时仓库阶段和实践项目阶段。每一个阶段需要掌握的能力、技术点以及胜任的职位将在下文中为大家详细阐述。
第一阶段:离线数仓(7周)
1.掌握能力
掌握企业级基建环境部署、Hive和Spark数据开发、数据仓库搭建、数据抽取、数据清洗、数据转换、数据加载、数据应用和京东离线ETL。
2.技术点
Java、MySQL、Maven、Git、OpenResty、Linux、Shell、HDFS、YARN、Zookeeper、MapReduce、Scala、Python、SparkCore、Hive、SparkSQL、Presto、Sqoop、DataX、Flume、CDH、数仓架构、维度建模、SuperSet、Azkaban、Airflow等。掌握企业级基建环境部署、Hive和Spark数据开发、数据仓库搭建、数据抽取、数据清洗、数据转换、数据加载、数据应用和京东离线ETL。
3.胜任职位
离线数据工程师、数据仓库工程师、ETL工程师、数据采集工程师、数据支持工程师、BI商业分析师、数据可视化工程师、Hadoop工程师、Spark工程师。
第二阶段:实时仓库(5周)
1.掌握能力
掌握流数据接入、基于Flink实时数据开发、流批一体数据仓库开发、数据湖开发、实时ETL、实时监控系统和京东实时数据开发。
2.技术点
Kafka、Structured Streaming、Hudi、Canal、Flink、ClickHouse、HBase、Phoenix、Elasticsearch、Redis。
3.胜任职位
实时工程师、Flink工程师、实时数据仓库工程师、实时ETL工程师、Spark工程师。
第三阶段:实时仓库(4周)
1.掌握能力
掌握企业项目开发流程、用户画像开发、企业级推荐系统开发、数据治理、基于生产环境项目部署和京东项目性能调优。
2.技术点
数据采集与监控平台、准实时数据仓库、用户画像、推荐系统、基于Flink的实时数据仓库、元数据管理与数据治理。
3.胜任职位
数据服务工程师、离线数据仓库开发工程师、BI商业分析师、实时数据仓库工程师、实时监控系统工程师、ETL工程师、数据可视化工程师、数据治理工程师、高级数据开发工程师、推荐工程、数据平台工程师、数据架构师。
以上就是大数据技术学什么课程的解答,千锋设有大数据人才共建班,千锋好程序员大数据+数据智能,与京东云大厂合作共建大数据技术领域的实战型前瞻深度课程。对大厂热门技术及项目进行系统、深度的研发和建设,形成独特的教研壁垒。如果你想了解大数据培训课程,欢迎咨询千锋教育!