高并發高性能大容量數據庫設計培訓
【課程編號】:NX20895
高并發高性能大容量數據庫設計培訓
【課件下載】:點擊下載課程綱要Word版
【所屬類別】:研發管理培訓
【培訓課時】:2天,6小時/天
【課程關鍵字】:大容量數據庫培訓
我要預訂
咨詢電話:027-5111 9925 , 027-5111 9926手機:18971071887郵箱:Service@mingketang.com
課程背景
隨著互聯網的快速普及和寬帶提速,信息技術深入的滲透至人們生活的每個角落,如智能手機、移動設備等,為人們的生產和生活提供了極大的便利,如辦公、購物、休閑、娛樂等,同時,每時每刻產生著海量的數據,對于數據的收集、存儲、分析、挖掘、應用、創新提出了巨大的挑戰。尤其是在線實時高并發大容量的業務要求軟件系統具有高效、高并發、大容量的同時,要保證事務的特征,如ACID,即原子性、一致性、持久性、隔離性,但是針對此應用場景,傳統的關系數據庫已經無法滿足生產實際需求,因此,必須采用新的數據庫系統才能解決以上挑戰,也即是采用高性能的分布式數據庫系統。
針對大數據時代對高并發高性能大容量數據庫的需求,尹老師總結多年分布式數據庫使用與設計經驗,精心打造了分布式數據庫課程,該課程從分布式數據庫原理、性能、應用實踐、性能對比等方面對這些數據庫進行全面的剖析與介紹,為企業的技術選型、應用實踐奠定理論與實踐基礎,為企業適應大數據時代做了技術儲備。
培訓目標
1、本課程介紹高并發高性能大容量分布式數據庫系統,包括高并發高性能大容量數據庫設計原理、部署方法、優缺點和應用模式等;
2、本課程介紹數據存儲架構,包括數據分片、弱的事務、分布式一致性協議算法、強一致性、平滑無限水平擴展節點的分布式數據庫;
3、介紹較新的高并發系統分布式緩存集群設計,代表產品有阿里的HBase、Redis、Redis Cluster,并且目前都已經在互聯網場景進行了實踐,取得了不錯的效果;
4、本課程介紹NoSQL原理及分類及使用,這些產品的原理、性能、實踐、多個維度對比等方面進行有針對性的剖析,為企業的技術升級做準備。
培訓對象
1、本課程適合于高并發高性能大容量數據庫設計應用人員;
2、適合于互聯網、金融機構等分布式數據庫使用人員;
3、適合于大數據、人工智能、數據挖掘人員;
培訓方式
以課堂講解、演示、案例分析為主,輔以互動研討、現場答疑、學以致用。
課程大綱
第一天
第1個主題:高并發高性能大容量數據庫設計(介紹當前主流的高并發高性能大容量數據庫設計原理、部署方法、優缺點和應用模式)(60分鐘)
1、業界主流的高并發高性能大容量數據庫有哪些
2、高并發高性能大容量數據庫的應用場景
a)大數據非結構化數據的應用場景
b)大數據歷史明細查詢的應用場景
c)秒殺高并發的應用場景
d)實時高并發業務的應用場景
e)在線實時統計分析的應用場景
3、高并發高性能大容量數據庫的具體應用案例
a)分布式內存庫在運營商話單詳單查詢系統中的應用
b)分布式內存庫在金融行業流水業務查詢系統中的應用
c)分布式內存庫在微博自媒體業務中應用
4、高并發高性能大容量數據庫設計原理
5、高并發高性能大容量數據庫部署方法
6、高并發高性能大容量數據庫優缺點
7、高并發高性能大容量數據庫應用模式
8、分布式內存庫的特性
9、CAP理論
10、BASE思想
11、RWN理論
12、分布式關系型內存庫
a)MySQL Cluster
13、分布式NoSQL列式內存庫
a)HBase
b)Cassandra
c)GemFire
14、分布式文檔內存庫
a)MongoDB
15、高并發系統分布式緩存集群
a)HBase
b)Redis Cluster
16、案例:GemFire在實時交易系統12306的使用案例分享
第2個主題:NoSQL原理及分類及使用(深入剖析NoSQL原理及分類及使用)(60分鐘)
1、什么是NoSQL
2、NoSQL基礎概念
3、NoSQL種類與特點
4、NoSQL原理
5、NoSQL數據庫架構
6、NoSQL分類
7、NoSQL使用
8、內存數據庫
9、內存數據庫原理
10、內存數據庫優劣勢剖析
11、單機NoSQL數據庫
12、分布式NoSQL數據庫
13、典型的NoSQL數據庫
14、實例分享:NoSQL數據庫案例剖析
第3個主題:Redis基礎知識(詳細介紹Redis基礎知識)(30分鐘)
1、Redis簡介
2、Redis安裝部署
3、Redis配置詳解
4、客戶端
5、Redis Key類型
6、Redis String類型
7、Redis Hash類型
8、Redis Set類型和ZSet類型
9、Redis List類型
10、Redis Key超時機制
11、Redis 持久化
12、Redis副本
13、Redis常用命令介紹
第4個主題:高并發系統分布式緩存集群設計(深入介紹高并發系統分布式緩存集群設計)(60分鐘)
1、Redis數據庫原理
2、Redis數據庫應用
3、Redis開發實踐(倒排索引)
4、Redis開發調試
5、Redis優化
6、Redis發布訂閱機制剖析
7、Redis集群搭建
8、Codis介紹
9、Codis整體設計
10、Codis架構
11、Codis組件介紹
第5個主題:Redis高級管理(深入介紹Redis的高級管理功能)(30分鐘)
1、Redis安全
2、Redis加密
3、Redis信號處理
4、Redis連接管理
5、Redis高可用方案
6、Redis監測
7、Redis Benchmarks
第6個主題:HBase查詢的優化(深入剖析大數據分布式NoSQL技術及原理,并指導學員如何進行調優)(180分鐘)
1、HBase介紹
2、HBase應用
3、HBase的特點
4、HBase邏輯模型
5、HBase列族與列
6、HBase時間戳
7、行式數據庫 vs 列式數據庫
8、HBase物理模型
9、HBase集群部署優化方案介紹:HBase集群建立時的優化方法
10、倒排索引
11、HBase調優課堂實戰案例:假如知道每天的活躍用戶為一個集合,如何快速計算自定義時間段內的活躍用戶?需要去重的
12、HBase分頁查詢方案介紹:是否有合適的分頁查詢方法?
13、HBase按條件快速查詢方案介紹:假如rowkey的設計原則是:地區+廠家+拍照方+id+時間戳,如何快速的查找一個id一天的所有存儲記錄?如何快速查找按地區、廠商、拍照方、自定義時間段內自由排列組合的所有存儲記錄?
14、HBase Filter
15、HBase Coprocessor
第二天
第7個主題:MongoDB文檔數據庫(深入剖析MongoDB文檔數據庫功能與項目應用)(120分鐘)
1、什么是MongoDB
2、MongoDB發展現狀與趨勢
3、介紹MongoDB基礎概念
4、MongoDB架構剖析
5、MongoDB文檔與集合
6、MongoDB集群搭建
7、MongoDB狀態監控
8、MongoDB安全認證
9、MongoDB備份和恢復
10、MongoDB Shell操作
11、MongoDB數據類型
12、文檔的增加、修改與刪除
13、Java訪問MongoDB文檔的調試
14、MongoDB查詢介紹
15、MongoDB MapReduce統計分析
16、MongoDB索引
17、MongoDB性能優化
18、MongoDB主從復制
19、MongoDB Sharding分片
20、Spark操作MongoDB項目案例:運營商話務數據分析案例剖析
第8個主題:MongoDB文檔數據庫(深入剖析MongoDB文檔數據庫功能與項目應用)(90分鐘)
1、MongoDB架構剖析
2、MongoDB文檔與集合
3、MongoDB集群搭建
4、Java訪問MongoDB文檔的調試
5、MongoDB查詢調優
6、提高讀寫速度的優化
7、MongoDB MapReduce統計分析
8、MongoDB索引
9、MongoDB性能優化
10、內存的優化方法
11、MongoDB主從復制
12、MongoDB Sharding分片
13、MongoDB副本集、分片集群優化案例:Mongodb副本集、分片集群建立的優化方法?
14、MongoDB優化方案剖析:為什么分片測試讀寫的速度比副本集要慢?
第9個主題:關系型分布式內存庫MySQL Cluster(深入剖析關系型分布式內存庫MySQL Cluster數據庫功能與實現原理)(90分鐘)
1、什么是MySQL Cluster
2、MySQL Cluster發展現狀與趨勢
3、介紹MySQL Cluster基礎概念
4、MySQL Cluster架構剖析
5、NDB Cluster存儲引擎
6、無共享體系結構
7、管理(MGM)節點
8、數據節點
9、SQL節點
10、標準MySQL客戶端
11、MySQL Cluster應用場景
12、案例分享:MySQL Cluster在電商平臺中的應用
第10個主題:數據存儲架構(介紹數據存儲架構)(30分鐘)
1、數據存儲架構
2、數據單機版存儲架構
3、數據分布式存儲架構
4、中心集群
5、去中心化集群
6、關系型數據庫
7、層次數據存儲架構
8、網狀數據存儲架構
9、行式數據存儲架構
10、行式數據庫原理
11、行式數據庫架構
12、關系型數據庫理論
13、RDBMS
14、行式數據庫優劣勢剖析
15、列式數據存儲架構
16、列式數據庫
17、列式數據庫原理
18、日志結構文件系統
19、列式數據庫架構
20、列式數據庫優劣勢剖析
第11個主題:分布式事務(介紹分布式事務)(30分鐘)
1、強事務ACID
2、弱一致性、強一致性
3、分布式事務
4、兩步提交、三步提交
5、分布式技術的存儲、計算、算法、開發等能力的完美結合
6、弱事務
7、數據的強一致性
8、分布式一致性協議算法
9、平滑無限水平擴展節點
10、深入分析企業業務數據特點
11、思想的應用
12、事務剖析
13、分布式事務剖析
14、分布式系統的職責分離思想
15、CAP理論
16、BASE思想
17、RWN原理
18、事務的特征ACID
19、弱一致性事務
20、強一致性事務
21、分布式事務
22、兩階段提交
23、三階段提交
24、數據庫事務隔離標準分析
25、ANSI事務隔離級別
26、P1 臟讀(“Dirty read”)
27、P2 不可重復讀(“Non-repeatable read”)
28、P3 幻讀(“Phantom”)
29、基于鎖的事務隔離
30、基于快照的事務隔離
31、兩階段提交(2 Phase Commit簡稱2PC)協議
32、產品應用案例
尹老師
多年從事人工智能、深度學習、大數據、區塊鏈、云計算、物聯網研發工作經驗,資深軟件架構師,數學博士,北航移動云計算碩士,Cloudera大數據認證(圖1),項目管理師(PMP)認證(圖2),移動云計算專家,主要研究方向包括人工智能、深度學習、機器學習、數據挖掘、數據分析、大數據、云計算、移動開發、互聯網營銷、電子商務、項目管理等;曾就職于阿里等互聯網企業,IBM、華為等知名大型企業,現任某大型知名互聯網企業首席架構,負責人工智能、深度學習、機器學習、數據挖掘、數據分析、大數據、區塊鏈、云計算、PaaS平臺研發工作。
IT從業近二十年,秉承理論與實踐相結合,在學習中實踐,在實踐中學習,積累了豐富的理論與實踐經驗,并且樂于將自己的經驗分享。尹老師具有敏銳的目光與頭腦,發現并集成整合社會資源,為企業節省資源并創造價值,達到為合作伙伴創收的目的。曾為多家國內知名企業提供培訓與咨詢,包含阿里集團、華為、中國移動、中國電信、中國聯通、當當網、中石油、中石化、中國電網、中國銀行、中國工商銀行、浦發銀行、阿爾卡特朗訊、中航國際等。擁有人工智能、深度學習、機器學習、數據挖掘、數據分析、大數據、區塊鏈、物聯網、大流量、高并發、分布式的大型網站架構和設計經驗。曾主導過多個人工智能、深度學習、機器學習、數據挖掘、數據分析、區塊鏈、物聯網、私有云、公有云建設項目,早些年也主導過ERP、CMS等軟件項目,積累了豐富的實踐經驗,這些項目中包含多個數百萬、上千萬的大型項目。項目經歷:呼叫中心人工智能客服研發項目、貴州省政府云呼叫中心建設項目、廣東發展銀行電營、運維大數據分析項目、中石油工程設計西南分公司云計算項目評審委員、中石油大數據挖掘項目,電商庫存預測大數據分析項目、大型ERP、電子商務、CRM、電子政務等多個項目。
尹老師在工作中研究新技術、新框架、及時更新知識體系,并長期堅持編寫架構核心代碼。在技術平臺方面,善于TensorFlow、Keras、Hadoop、Spark、Docker、Kubernetes、OpenStack、Storm等技術平臺的應用與運維。深入理解TensorFlow、Keras、Hadoop、HDFS、HBase、MapReduce、Zookeeper、Hive、Sqoop、BigTable 等人工智能、大數據技術和開源框架理論。對于云計算體系有深刻認識,及獨到的見解,如OpenStack的技術架構、安裝部署、運維等。在移動云計算方面,善于設計與建設云計算體系;也善于移動云計算相關的咨詢與培訓。在項目管理方面,善于使用敏捷項目管理方法,把客戶的需求變更作為常態,作為軟件架構設計的一部分,減少需求變更帶來的返工;善于捕捉、挖掘、分析客戶需求,為用戶提供滿意的產品。
講師經驗
1、阿里巴巴集團云計算、大數據、區塊鏈、物聯網咨詢師
2、百度云計算、大數據、區塊鏈、物聯網咨詢師及講師
3、中國移動多省人工智能、大數據、區塊鏈、物聯網、云計算特聘講師
4、中國移動多省Docker特聘講師
5、中國移動研究院微特聘講師
6、中國聯通總部人工智能、大數據、區塊鏈、物聯網、云計算特聘講師
7、中國電信人工智能、大數據、區塊鏈、物聯網、云計算、虛擬化特約講師
8、中國人民銀行人工智能、大數據、區塊鏈、物聯網特聘講師
9、中國工商銀行人工智能、大數據、區塊鏈、物聯網講師
10、花旗銀行人工智能、大數據、區塊鏈、物聯網講師
11、招商銀行人工智能、大數據調優、區塊鏈、物聯網講師
12、中信銀行人工智能、分布式數據庫、區塊鏈、物聯網講師
13、中國航天三院人工智能、大數據、區塊鏈、物聯網咨詢師
14、中國石油人工智能、大數據、區塊鏈、物聯網、云計算特聘講師
15、中國石化人工智能、大數據、云計算特聘講師
16、中國電力科學研究院流計算特聘講師
17、西安電信十所人工智能、大數據架構設計、區塊鏈、物聯網講師
18、RedHat(中國)大數據咨詢師
19、中電28所人工智能、大數據、區塊鏈、物聯網特聘講師
20、北京中電普華人工智能、大數據、區塊鏈、物聯網特聘講師
21、中國石油東方地球物理公司大數據咨詢師
22、當當網人工智能、云計算、大數據咨詢師
23、北航人工智能、云計算、大數據、區塊鏈、物聯網特聘企業講師
24、阿爾卡特-朗訊(Alcatel-Lucent)虛擬化與OpenStack培訓特約講師
25、中石油工程設計西南分公司云計算數據中心建設項目
26、廣東發展信用卡精準營銷項目
27、廣東發展銀行電營、運維大數據分析項目
28、電商庫存預測大數據分析項目
29、中航國際大綜貿易云計算規劃項目咨詢、培訓講師
30、北京民生軟件SaaS平臺研發咨詢師
31、北京立達資本項目管理信息系統解決方案咨詢師
32、曾任大型ERP、電子商務、CRM、電子政務等項目經理
項目經驗
1、云呼叫中心人工智能客服項目研發
2、云呼叫中心PaaS平臺首席架構師
3、貴州省政府云呼叫中心建設項目
4、廣東發展信用卡智能精準營銷項目
5、廣東發展銀行電營、運維大數據分析、區塊鏈、物聯網項目
6、中石油工程設計西南分公司云計算項目評審委員、培訓講師
7、中石油人工智能、大數據挖掘、區塊鏈、物聯網項目,項目經理
8、電商庫存預測大數據分析項目
9、智能物流、智能供應鏈管理項目
10、中航國際大綜貿易云計算規劃項目咨詢、培訓講師
11、北京民生軟件SaaS平臺研發咨詢師
12、北京立達資本項目管理信息系統解決方案咨詢師
13、曾任大型ERP、電子商務、CRM、電子政務等多個項目的項目經理
我要預訂
咨詢電話:027-5111 9925 , 027-5111 9926手機:18971071887郵箱:Service@mingketang.com