本課程的授課師資都是有著多年在一線從事Hadoop與Spark大數(shù)據(jù)項目的資深講師,采用原理技術(shù)剖析和實戰(zhàn)案例相結(jié)合的方式開展互動教學(xué)、強化以建立大數(shù)據(jù)項目解決方案為主體的應(yīng)用開發(fā)、技術(shù)討論與交流咨詢,在學(xué)習的同時促進講師學(xué)員之間的交流,讓每個學(xué)員都能在課程培訓(xùn)過程中學(xué)到實實在在的大數(shù)據(jù)技術(shù)知識體系,以及大數(shù)據(jù)技術(shù)應(yīng)用實戰(zhàn)技能,具備實際大數(shù)據(jù)應(yīng)用項目的動手開發(fā)實踐與運維管理部署能力。
授課過程中,根據(jù)學(xué)員需求,增設(shè)交流環(huán)節(jié),可將具體工作中遇到的實際問題展開討論,講師會根據(jù)學(xué)員的實際情況微調(diào)授課內(nèi)容,由講師帶著全部學(xué)員積極討論,并給出一定的時間讓學(xué)員上臺發(fā)言,現(xiàn)場剖析問題的癥結(jié),規(guī)劃出可行的解決方案。
大數(shù)據(jù)人員,開發(fā)人員、架構(gòu)師、運維工程師、對大數(shù)據(jù)有興趣的朋友。
深刻理解在“互聯(lián)網(wǎng)+”時代下大數(shù)據(jù)的產(chǎn)生背景、發(fā)展歷程和演化趨勢;
了解業(yè)界市場需求和國內(nèi)外最新的大數(shù)據(jù)技術(shù)潮流,洞察大數(shù)據(jù)的潛在價值;
理解大數(shù)據(jù)項目解決方案及業(yè)界大數(shù)據(jù)應(yīng)用案例,從而為企業(yè)在大數(shù)據(jù)項目中的技術(shù)選型及技術(shù)架構(gòu)設(shè)計提案;
掌握業(yè)界最流行的Hadoop與Spark大數(shù)據(jù)技術(shù)體系;
掌握大數(shù)據(jù)采集技術(shù);
掌握大數(shù)據(jù)分布式存儲技術(shù);
掌握NoSQL與NewSQL分布式數(shù)據(jù)庫技術(shù);
掌握大數(shù)據(jù)倉庫與統(tǒng)計機器學(xué)習技術(shù);
掌握大數(shù)據(jù)分析挖掘與商業(yè)智能(BI)技術(shù);
掌握大數(shù)據(jù)離線處理技術(shù);
掌握Storm流式大數(shù)據(jù)處理技術(shù);
掌握基于內(nèi)存計算的大數(shù)據(jù)實時處理技術(shù);
掌握大數(shù)據(jù)管理技術(shù)的原理知識和應(yīng)用實戰(zhàn);
深入理解大數(shù)據(jù)平臺技術(shù)架構(gòu)和使用場景;
嫻熟運用Hadoop與Spark大數(shù)據(jù)技術(shù)體系規(guī)劃解決方案滿足實際項目需求;
熟練地掌握基于Hadoop與Spark大數(shù)據(jù)平臺進行應(yīng)用程序開發(fā)、集群運維管理和性能調(diào)優(yōu)技巧。
-- 大數(shù)據(jù)技術(shù)基礎(chǔ);
-- 業(yè)界主流的大數(shù)據(jù)技術(shù)方案;
-- 大數(shù)據(jù)計算模型(1) — 批處理MapReduce;
-- 大數(shù)據(jù)存儲系統(tǒng)與應(yīng)用實踐;
-- Hadoop框架與生態(tài)發(fā)展,以及應(yīng)用實踐操作;
-- 大數(shù)據(jù)計算模型(2) — 實時處理/內(nèi)存計算?Spark;
-- 大數(shù)據(jù)倉庫查詢技術(shù)Hive、SparkSQL、Impala,以及應(yīng)用實踐;
-- Hadoop集群運維監(jiān)控工具;
-- 大數(shù)據(jù)計算模型(3) — 流處理Storm, SparkStreaming;
-- 大數(shù)據(jù)ETL操作工具,與大數(shù)據(jù)分布式采集系統(tǒng);
-- 面向OLTP型應(yīng)用的NoSQL數(shù)據(jù)庫及應(yīng)用實踐;
-- 大數(shù)據(jù)項目選型、實施、優(yōu)化等問題交流討論。
學(xué)習內(nèi)容
大數(shù)據(jù)技術(shù)基礎(chǔ)
大數(shù)據(jù)的產(chǎn)生背景與發(fā)展歷程
大數(shù)據(jù)的4V特征,以及與云計算的關(guān)系
大數(shù)據(jù)應(yīng)用需求以及潛在價值分析
業(yè)界新的大數(shù)據(jù)技術(shù)發(fā)展態(tài)勢與應(yīng)用趨勢
大數(shù)據(jù)項目的系統(tǒng)與技術(shù)選型,及落地實施的挑戰(zhàn)
“互聯(lián)網(wǎng) ”時代下的電子商務(wù)、制造業(yè)、零售批發(fā)、電信運營商、互聯(lián)網(wǎng)金融業(yè)、電子政務(wù)、移動互聯(lián)網(wǎng)、教育信息化等行業(yè)實踐與應(yīng)用案例介紹
業(yè)界主流的大數(shù)據(jù)技術(shù)方案
大數(shù)據(jù)軟硬件系統(tǒng)全棧與關(guān)鍵技術(shù)介紹
主流的大數(shù)據(jù)解決方案介紹
Apache大數(shù)據(jù)平臺方案剖析
CDH大數(shù)據(jù)平臺方案剖析
HDP大數(shù)據(jù)平臺方案剖析
大數(shù)據(jù)解決方案與傳統(tǒng)數(shù)據(jù)庫方案比較
大數(shù)據(jù)計算模型(1)— 批處理MapReduce
MapReduce產(chǎn)生背景與適用場景
MapReduce計算模型的基本原理
MapReduce作業(yè)執(zhí)行流程
MapReduce基本組件,JobTracker和TaskTracker
MapReduce高級編程應(yīng)用,Combiner和Partitioner
MapReduce性能優(yōu)化技巧
MapReduce案例分析與開發(fā)實踐操作
大數(shù)據(jù)存儲系統(tǒng)與應(yīng)用實踐
分布式文件系統(tǒng)HDFS產(chǎn)生背景與適用場景
HDFS master-slave系統(tǒng)架構(gòu)與工作原理
HDFS核心組件技術(shù)講解
HDFS高可用機制
HDFS集群的安裝、部署與配置,熟練HDFS shell命令操作
分布式小文件存儲系統(tǒng)的平臺架構(gòu)、核心技術(shù)與應(yīng)用場景
分布式對象存儲系統(tǒng)的平臺架構(gòu)、核心技術(shù)與應(yīng)用場景
Hadoop框架與生態(tài)發(fā)展,以及應(yīng)用實踐操作
Hadoop的發(fā)展歷程
Hadoop大數(shù)據(jù)生態(tài)圈系統(tǒng)與工具全貌介紹
Hadoop 1.0的核心組件與適用范圍
Hadoop 2.0的核心組件YARN工作原理,以及與Hadoop 1.0的區(qū)別
Hadoop資源管理與作業(yè)調(diào)度機制
Hadoop常用性能優(yōu)化技術(shù)
Hadoop集群安裝與部署實踐,以及MapReduce程序在YARN上執(zhí)行
大數(shù)據(jù)計算模型(2)— 實時處理/內(nèi)存計算 Spark
MapReduce計算模型的瓶頸
Spark產(chǎn)生動機、基本概念與適用場景
Spark編程模型與RDD彈性分布式數(shù)據(jù)集的工作原理與機制
Spark實時處理平臺運行架構(gòu)與核心組件
Spark容錯機制、Spark作業(yè)調(diào)度機制、Scala開發(fā)介紹與實踐
Spark集群部署與配置實踐,Spark開發(fā)環(huán)境構(gòu)建,Spark案例程序分析,Spark程序開發(fā)與運行,Spark與Hadoop集群集成實踐
大數(shù)據(jù)倉庫查詢技術(shù)Hive、SparkSQL、Impala,以及應(yīng)用實踐
基于MapReduce的大型分布式數(shù)據(jù)倉庫Hive基礎(chǔ)知識與應(yīng)用場景
Hive數(shù)據(jù)倉庫的平臺架構(gòu)與核心技術(shù)剖析
Hive metastore的工作機制與應(yīng)用
Hive數(shù)據(jù)倉庫實踐:Hive集群安裝部署,數(shù)據(jù)倉庫表導(dǎo)入導(dǎo)出與分區(qū)操作,HiveSQL操作,Hive客戶端操作
基于Spark的大型分布式數(shù)據(jù)倉庫SparkSQL基礎(chǔ)知識與應(yīng)用場景
Spark SQL實時數(shù)據(jù)倉庫的實現(xiàn)原理與工作機制
SparkSQL應(yīng)用分析與操作實踐
基于MPP的大型分布式數(shù)據(jù)倉庫Impala基礎(chǔ)知識與應(yīng)用場景
Impala實時查詢系統(tǒng)平臺架構(gòu)、關(guān)鍵技術(shù)剖析
Hadoop集群運維監(jiān)控工具
Hadoop大數(shù)據(jù)運維監(jiān)控管理系統(tǒng)HUE平臺介紹
Hadoop運維管理監(jiān)控系統(tǒng)Ambari工具介紹
第三方運維系統(tǒng)與工具Ganglia, Nagios
大數(shù)據(jù)計算模型(3)— 流處理Storm, SparkStreaming
流數(shù)據(jù)處理應(yīng)用場景與流數(shù)據(jù)處理的特點
流數(shù)據(jù)處理工具Storm的平臺架構(gòu)與集群工作原理
Storm關(guān)鍵技術(shù)與并發(fā)機制
Storm編程模型與基本開發(fā)模式
Storm數(shù)據(jù)流分組
Storm可靠性與Acker機制
Storm應(yīng)用案例分析與實踐:Storm集群安裝部署,程序開發(fā)運行操作實踐,Storm與Hadoop集群的集成
流數(shù)據(jù)處理工具Spark Streaming基本概念與數(shù)據(jù)模型
Spark Streaming工作機制
大數(shù)據(jù)ETL操作工具,與大數(shù)據(jù)分布式采集系統(tǒng)
Hadoop與DBMS之間數(shù)據(jù)交互工具的應(yīng)用
Sqoop導(dǎo)入導(dǎo)出數(shù)據(jù)的工作原理,以及Sqoop工具的安裝部署與實踐操作,利用Sqoop實現(xiàn)MySQL與Hadoop集群之間的數(shù)據(jù)導(dǎo)入導(dǎo)出交互
Flume-NG數(shù)據(jù)采集系統(tǒng)的數(shù)據(jù)流模型與系統(tǒng)架構(gòu)
Kafka分布式消息訂閱系統(tǒng)的應(yīng)用介紹與平臺架構(gòu),及其使用模式
面向OLTP型應(yīng)用的NoSQL數(shù)據(jù)庫及應(yīng)用實踐
關(guān)系型數(shù)據(jù)庫瓶頸,以及NoSQL數(shù)據(jù)庫的發(fā)展,概念,分類,及其在半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)場景下的適用范圍
列存儲NoSQL數(shù)據(jù)庫HBase簡介與數(shù)據(jù)模型剖析
HBase分布式集群系統(tǒng)架構(gòu)與讀寫機制,ZooKeeper分布式協(xié)調(diào)服務(wù)系統(tǒng)的工作原理與應(yīng)用
HBase表設(shè)計模式與primary key設(shè)計規(guī)范
HBase分布式集群安裝、部署與操作實踐
文檔NoSQL數(shù)據(jù)庫MongoDB簡介與數(shù)據(jù)模型剖析
MongoDB集群模式、讀寫機制與常用API操作
Cassandra分布式數(shù)據(jù)庫的平臺架構(gòu)以及關(guān)鍵技術(shù)
Cassandra一致性哈希算法與數(shù)據(jù)分布策略,以及NWR策略
鍵值型NoSQL數(shù)據(jù)庫Redis簡介與數(shù)據(jù)模型剖析
Redis多實例集群架構(gòu)與關(guān)鍵技術(shù)
NewSQL數(shù)據(jù)庫技術(shù)簡介及其適用場景
大數(shù)據(jù)項目選型、實施、優(yōu)化等問題交流討論
大數(shù)據(jù)項目的需求分析、應(yīng)用實施、系統(tǒng)優(yōu)化,以及解決方案等咨詢與交流討論
無認證考試
暫無開班信息
人工智能訓(xùn)練師(三級)進階
隨著人工智能技術(shù)的快速發(fā)展,社會對相關(guān)專業(yè)人才的需求不斷增加。上海交通大學(xué)憑借其在人工智能領(lǐng)域的學(xué)科優(yōu)勢和科研實力,開展人工智能訓(xùn)練師培訓(xùn)項目,旨在培養(yǎng)適應(yīng)市場需求的專業(yè)技術(shù)人才。
開課時間:暫無
人工智能訓(xùn)練師(三級)基礎(chǔ)
隨著人工智能技術(shù)的快速發(fā)展,社會對相關(guān)專業(yè)人才的需求不斷增加。上海交通大學(xué)憑借其在人工智能領(lǐng)域的學(xué)科優(yōu)勢和科研實力,開展人工智能訓(xùn)練師培訓(xùn)項目,旨在培養(yǎng)適應(yīng)市場需求的專業(yè)技術(shù)人才。
開課時間:暫無
DeepSeek核心技術(shù)原理和本地部署微調(diào)實戰(zhàn)
隨著人工智能技術(shù)的快速發(fā)展,智能助手(如DeepSeek-V3)在多模態(tài)理解、個性化交互、知識推理等領(lǐng)域的應(yīng)用日益廣泛。DeepSeek-V3作為深度求索公司推出的第三代智能助手,憑借其先進的核心技術(shù)(如大規(guī)模預(yù)訓(xùn)練、多模態(tài)理解、上下文感知等),在智能客服、內(nèi)容創(chuàng)作、教育、醫(yī)療等領(lǐng)域展現(xiàn)了強大的潛力。
開課時間:暫無