課程大綱

第一篇：數(shù)據(jù)分析與機器學(xué)習(xí)引入

第一節(jié)：python基礎(chǔ)

python基本數(shù)據(jù)類型：list, dict, tuple, set等

Python文件操作：txt, excel等

Python 的標準庫和第三方庫

Python高級用法：切片、迭代、map、filter、reduce

Python文件操作

關(guān)于形成Pythonic代碼習(xí)慣的思考

代碼和案例實踐

大素數(shù)計算與優(yōu)化及其思考

負二項分布與比賽勝率

本福特定律的優(yōu)化方法

第二節(jié)：數(shù)據(jù)分析和預(yù)處理

Numpy/Scipy/Pandas/Matplotlib/Seaborn 庫

Numpy 基礎(chǔ)屬性與數(shù)組創(chuàng)建

Numpy 索引

Numpy 數(shù)學(xué)運算與常用分布

Pandas 數(shù)據(jù)處理與分析

Pandas 文件讀寫和個性化控制

Pandas 的 concat 與 merge

Matplotlib 基本圖結(jié)構(gòu)介紹

基于 Matplotlib 繪制散點圖、柱狀圖、等高線圖、3D 圖等

多圖合并與圖片文件存取

典型圖像處理

多種數(shù)學(xué)曲線

多項式擬合

代碼和案例實踐

快速傅里葉變換FFT與信號處理

soble/Prewitt/Laplacian算子與卷積網(wǎng)絡(luò)

卷積與（指數(shù)）移動平均線

股票數(shù)據(jù)分析

缺失數(shù)據(jù)的處理和預(yù)測

環(huán)境數(shù)據(jù)異常檢測和分析

快速傅里葉變換FFT

圖像處理與奇異值分解SVD

第二篇：機器學(xué)習(xí)模型詳解

第三節(jié)：機器學(xué)習(xí)核心原理與回歸分析

線性回歸

Logistic/Softmax回歸

廣義線性回歸

L1/L2正則化

Ridge與LASSO

Elastic Net

梯度下降算法：BGD與SGD

特征選擇與過擬合

Softmax回歸的概念源頭

最大熵模型

K-L散度

代碼和案例實踐

股票數(shù)據(jù)的特征提取和應(yīng)用

泰坦尼克號乘客缺失數(shù)據(jù)處理和存活率預(yù)測

環(huán)境檢測數(shù)據(jù)異常分析和預(yù)測

模糊數(shù)據(jù)查詢和數(shù)據(jù)校正方法

PCA與鳶尾花數(shù)據(jù)分類

二手車數(shù)據(jù)特征選擇與算法模型比較

廣告投入與銷售額回歸分析

鳶尾花數(shù)據(jù)集的分類

第四節(jié)：決策和隨機森林

熵、聯(lián)合熵、條件熵、KL 散度、互信息

最大似然估計與最大熵模型

ID3、C4.5、CART 詳解

決策樹的正則化

預(yù)剪枝和后剪枝

Bagging

隨機森林

不平衡數(shù)據(jù)集的處理

利用隨機森林做特征選擇

使用隨機森林計算樣本相似度

異常值檢測

代碼和案例實踐

隨機森林與特征選擇

決策樹應(yīng)用于回歸

多標記的決策樹回歸

決策樹和隨機森林的可視化

葡萄酒數(shù)據(jù)集的決策樹/隨機森林分類

泰坦尼克乘客存活率估計

第五節(jié)：聚類分析

各種相似度度量及其相互關(guān)系

Jaccard 相似度和準確率、召回率

Pearson 相關(guān)系數(shù)與余弦相似度

K-means 與 K-Medoids 及變種

層次聚類：自頂向下，自底向上

AP 算法(Sci07)/LPA 算法及其應(yīng)用

密度聚類 DBSCAN/DensityPeak(Sci14)

譜聚類 SC

聚類評價和結(jié)果指標

代碼和案例實踐

K-Means++算法原理和實現(xiàn)

向量量化 VQ 及圖像近似

并查集的實踐應(yīng)用

密度聚類的異常值檢測

譜聚類用于圖片分割

第六節(jié)：關(guān)聯(lián)規(guī)則挖掘算法

項、事務(wù)

支持度、置信度、lift 值、Conviction

關(guān)聯(lián)規(guī)則算法詳述

頻繁項集及其快速發(fā)現(xiàn)

閾值選擇問題 

BFS 和 DFS 搜索策略

計數(shù)法和交集法

Apriori、Eclat

FP-growth

代碼和案例實際

商品和用戶相關(guān)性分析與推薦

用戶相似性評價的不同方案與異同比較

并查集的實踐應(yīng)用

關(guān)聯(lián)規(guī)則與 SVD、LFM 的實戰(zhàn)區(qū)別

第七節(jié)：XGBoost 與

LightGBM 模型詳解

定義樹的復(fù)雜度

boosting tree 的提升思路

殘差的選擇

XGBoost 損失函數(shù)的提成

Loss 的精確一階導(dǎo)數(shù)和二階導(dǎo)數(shù)

近似加權(quán)分位法

稀疏自適應(yīng)分割策略

XGBoost 的過擬合與正則化目標函數(shù)

算法成功之處和存在的問題

boosting 框架總覽

重新認識樣本的梯度

GOSS 思想在 LightGBM 中的應(yīng)用

貪心和啟發(fā)式特征搜索

EFB 候選特征的選擇

Histogram 算法與 Pre-sorted 算法對數(shù)據(jù)結(jié)構(gòu)的影響

樣本采樣與權(quán)重

再談引入稀疏數(shù)據(jù)的原因

單邊采樣帶來的訓(xùn)練樣本減少

代碼和案例實踐

收入分類模型的提升應(yīng)用

XGBoost 庫與 sklearn 庫的使用

提升模型在用戶感知評分預(yù)測的應(yīng)用

XGBoost 用于真實信號數(shù)據(jù)中的分類建模和調(diào)參

鉆井工況數(shù)據(jù)在 LightGBM 中的實踐

      LightGBM 與 XGBoost 的性能比較

      基站小區(qū)節(jié)能預(yù)測建模

      哪些場景不適合 LightGBM

第三篇：深度學(xué)習(xí)原理與實踐

第八節(jié)：卷積神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，濾波器，卷積

池化，激活函數(shù)，反向傳播

目標分類與識別、目標檢測與追蹤

AlexNet、VGGNet、GoogleLeNet

Inception-V3/V4

ResNet、DenseNet

代碼和案例實踐

數(shù)字圖片分類

卷積核與特征提取

以圖搜圖

人證合一

卷積神經(jīng)網(wǎng)絡(luò)調(diào)參經(jīng)驗分享

第九節(jié)：卷積神經(jīng)網(wǎng)絡(luò)高

級應(yīng)用

Inception-V3/V4

ResNet、DenseNet

使用遷移學(xué)習(xí)實現(xiàn)蒙古文識別

獲取中間隱層的特征及可視化

隱層特征的意義和使用

遷移學(xué)習(xí)的 trick

學(xué)習(xí)率、衰減、凍結(jié)等問題

代碼和案例實踐

數(shù)字圖片分類

卷積核與特征提取

以圖搜圖

人證合一

卷積神經(jīng)網(wǎng)絡(luò)調(diào)參經(jīng)驗分享

貓狗大戰(zhàn)詳解

海量蒙古文識別

隱特征可視化及其應(yīng)用

第十節(jié)：圖像目標檢測與

視頻分類

視頻關(guān)鍵幀處理

卷積的位置不變形與圖像定位的關(guān)系

物體檢測與定位

RCNN，F(xiàn)ast-RCNN，F(xiàn)aster-RCNN，MaskRCNN

YOLOv4、SSD

UNet 及其與殘差網(wǎng)絡(luò)的結(jié)合

FaceNet 與特征

EfficientNet、EfficientDet

視頻幀的目標定位

時空卷積網(wǎng)絡(luò)

SlowFast

代碼和案例實踐

人臉檢測

OCR 字體定位和識別

?？妥R云

氣象識別

視頻分類的 trick

政務(wù)大廳視頻監(jiān)控的真實系統(tǒng)

第十一節(jié)：循環(huán)神經(jīng)網(wǎng)絡(luò) RNN

語言模型 Bi-Gram/Tri-Gram/N-Gram

分詞算法的原理及類似應(yīng)用

詞性標注

語義關(guān)系抽取

詞向量

文本分類：基于 CNN 和基于 LSTM 的方法比較

機器翻譯：Seq2Seq 的典型應(yīng)用

Transformer、BERT 等模型原理

文本摘要與信息抽取

閱讀理解

問答系統(tǒng)

情感分析

代碼和案例實踐

知識圖譜：命名實體識別的實踐

知識圖譜：實體關(guān)系的判定與分類

HMM 分詞及 CRF 的異同

文本摘要的生成

智能對話系統(tǒng)和 SeqSeq 模型

閱讀理解的實現(xiàn)與 Attention

機器翻譯

使用 LSTM 生成文本

第四篇：AIGC與大模型實踐

第十二節(jié)：擴散模型

GAN-VAE-流模型-擴散模型的技術(shù)發(fā)展和變化

CLIP 和擴散模型的結(jié)合：基于 CLIP 模型的多模態(tài)引導(dǎo)圖像生成：圖文引導(dǎo)

GLIDE：文本引導(dǎo)

Diffusion-CLIP 模型

擴散和去噪(Diffusion&Denoise)

訓(xùn)練和采樣(Training&Sampling)

離散步驟的馬爾可夫鏈

分子熱動力學(xué)的擴散過程

離散加噪

DDPM-最經(jīng)典的擴散模型

DDIM：加速采樣、可控擴散

IVLR：迭代去燥的圖像編輯，低通濾波上采樣

RePaint: 被掩碼的區(qū)域進行擴散生成

代碼和案例實踐

低質(zhì)量噪聲圖像修復(fù)

精確復(fù)原原圖

圖像去除遮擋、圖像補全

圖像生成（人物恢復(fù)青春、人物變瘦）

第十三節(jié)：GPT1、 GPT2、GPT3、chatGPT原理與實戰(zhàn)

監(jiān)督微調(diào)（SFT）模型

指示學(xué)習(xí)和提示學(xué)習(xí)

簡單提示、小樣本提示、基于用戶的提示

指令微調(diào)

RLLHF 技術(shù)詳解（從人類的反饋中學(xué)習(xí)）

聚合問答數(shù)據(jù)訓(xùn)練獎勵模型（RM）

強化學(xué)習(xí)微調(diào)、PPO

InstructGPT 遵循用戶意圖使用強化學(xué)習(xí)方案

Instruct Learning vs. Prompt Learning

ChatGPT 增加增加了 Chat 屬性

AI 系統(tǒng)的新范式

GPT1-GPT2-GPT3-InstructGPT 的-chatGPT 的技術(shù)關(guān)系

代碼和案例實踐

使用 chatGPT 打造你的私人聊天助理

演示提示詞技巧，翻譯器潤色器、JavaScript 控制臺 、Excel Sheet

網(wǎng)站定制 chatgpt-web

第十四節(jié)： AIGC 圖文引導(dǎo)圖像生成

圖像引導(dǎo)、文本引導(dǎo)、圖像+文本引導(dǎo)

CLIP 和擴散模型的結(jié)合：基于 CLIP 模型的多模態(tài)引導(dǎo)圖像生成：圖文引

導(dǎo)

GLIDE：文本引導(dǎo)

DALL·E 2：diffusion model 和 CLIP 結(jié)合在一起

隱式分類器引導(dǎo)的圖像生成

Blended Diffusioni 模型

Diffusion-CLIP 模型

DiffEdit 模型

代碼和案例實踐

實現(xiàn)圖像引導(dǎo)、文字引導(dǎo)、圖文引導(dǎo)下的圖片生成

Diffusion LM

知識圖譜-圖網(wǎng)絡(luò)等“邊緣技術(shù)”在 AIGC 中的應(yīng)用

AIGC 的可能應(yīng)用領(lǐng)域和行業(yè)影響

第五篇：EXIN AI 認證考試內(nèi)容

符合道德倫理和可持續(xù)的人類和人工智能（AI）

1.1 回顧人類智能和 AI 的一般定義

考生能夠:

1.1.1 描述智能體的概念

1.1.2 利用 Robert Dilt 的模型描述關(guān)于人類思維邏輯水平的現(xiàn)代方法

考生能夠:

1.2.1 回顧道德倫理的一般定義

1.2.2 回顧以人為中心且合乎道德的宗旨不能違背基本權(quán)利、原則和價值觀

1.2.3 回顧合乎道德的 AI 是通過技術(shù)可靠的值得信賴的 AI 實現(xiàn)的

1.2.4 回顧以人為中心、合乎道德且可信賴的 AI 會持續(xù)得到評估和監(jiān)測

1.3 描述可持續(xù)發(fā)展的三個基礎(chǔ)領(lǐng)域，以及聯(lián)合國的 17 個可持續(xù)發(fā)展目標

1.4 描述 AI 在“通用化設(shè)計”和“第四次工業(yè)革命”中的作用

1.5 理解機器學(xué)習(xí)（ML）對 AI 的發(fā)展起到了極大的推動作用

考生能夠:

1.5.1 描述“在經(jīng)驗中學(xué)習(xí)”及其與 ML 的關(guān)系（Tom Mitchell 給出的

明確定義）

AI 和機器人

2.1 表明已理解 AI 智能體定義，并：

考生能夠:

2.1.1 列出四個理性智能體依賴項

2.1.2 描述智能體的性能度量、環(huán)境、執(zhí)行器和傳感器

2.1.3 描述智能體的四個類型：反射性智能體、基于模型的反射性智能體、

基于目標的智能體、基于效用的智能體

2.1.4 描述 AI 智能體與 ML 之間的關(guān)系

2.2 描述機器人的概念

考生能夠:

2.2.1 描述機器人范式。

2.3 描述智能機器人，以及：

考生能夠:

2.3.1 智能機器人與智能體的關(guān)系

AI 優(yōu)勢的應(yīng)用 - 挑戰(zhàn)和 風(fēng)險

3.1 描述可持續(xù)性與以人為中心且合乎道德的 AI 之間的關(guān)系，以及我們

的價值觀將如何推動 AI 的使用，進而改變?nèi)祟?、社會和組織

3.2 解釋 AI 的優(yōu)勢

考生能夠:

3.2.1 列舉機器、人類和機器系統(tǒng)的優(yōu)勢

3.3 描述 AI 的挑戰(zhàn)

考生能夠:

3.3.1 列舉 AI 引起的道德挑戰(zhàn)

3.3.2 列舉與人類系統(tǒng)相比 AI 系統(tǒng)存在的限制的一般示

3.4 表明已理解 AI 項目的風(fēng)險

考生能夠:

3.4.1 舉出至少一個關(guān)于 AI 風(fēng)險的一般示例

3.4.2 具體描述典型的 AI 項目團隊

3.4.3 描述什么是領(lǐng)域?qū)＜?/span>

3.4.4 描述什么是“符合目標”（fit-of-purpose）。

3.4.5 描述瀑布項目和敏捷項目之間的區(qū)別

3.5 列舉 AI 的機遇

識別典型的 AI 項目資金來源，并理解什么是美國宇航局技術(shù)就緒水平

（TRL）

如何從創(chuàng)建ML工具箱開始 AI 項目 - 理論和實踐

4.1 講解如何通過數(shù)據(jù) - 功能、軟件和硬件學(xué)習(xí)

考生能夠:

4.1.1 列舉常見的開源 ML 功能、軟件和硬件。

4.1.2 描述 ML 的基礎(chǔ)理論

4.1.3 描述準備數(shù)據(jù)過程中的典型任務(wù)

4.1.4 描述典型的 ML 算法類型

4.1.5 描述數(shù)據(jù)可視化的典型方法。

4.2 回顧哪個典型的狹義 AI 對 ML 有用，以及 AI 智能體的功能

人類和機器的管理、作用和責(zé)任

5.1 表明已理解 AI（特別是 ML）將促使人類和機器協(xié)同工作

5.2 列舉人類與機器協(xié)同工作的未來方向

5.3 說明項目中采用的“從經(jīng)驗中學(xué)習(xí)”的敏捷方法

考生能夠:

5.3.1 說明敏捷項目所需的團隊成員類型。