《人工智能》
本次更新内容为人工智能第四、五阶段:
阶段概述:本阶段讲解,逻辑回归算法,Softmax回归算法,SVM支持向量机算法,SMO优化算法。
达成目标:通过本阶段学习,推导逻辑回归算法、SVM算法的判别式和损失函数,算法的优化、实现算法和应用开发实战。将会对分类算法有深入认知,对于理解后续神经网络算法和深度学习学习至关重要。
章节3_SVM支持向量机算法 |
30_SVM与感知机关系_几何距离与函数距离 |
31_SVM的思想 |
32_几种SVM_SVM的损失函数 |
33_数学预备知识_拉格朗日函数 |
34_硬间隔SVM的两步优化 |
35_总结硬间隔SVM |
36_软间隔SVM和总结流程 |
37_非线性SVM |
38_SVM在sklearn中的使用_超参数 |
章节4_SMO优化算法 |
39_SVM算法流程总结 |
40_SMO算法求解思路_分解成很多个子二次规划问题分别求解 |
41_SMO将交给它的目标函数变成二元函数进一步变成一元函数 |
42_对一元函数求极值点_推导出旧的α和新的α的关系 |
43_将公式467带入导函数进一步简化_对求解出的新的α2进行剪裁 |
44_再次说明α2如何进行剪裁的思路_根据α2求α1 |
45_启发式选择两个α |
46_如何计算阈值b |
47_SVM的SMO实现读取数据和计算fx与Ei |
48_SVM的SMO实现判断违背条件的α1 |
49_SVM的SMO实现应用公式计算alphas和b |
50_SVM绘制已有数据点和超平面以及边界 |
51_关于sklearn中的SVM封装的类和超参 |
52_概率化输出_SVM的合页损失函数_Tensorflow实现GD方式求解SVM |
53_OVR和OVO多分类_算法小结_对比逻辑回归 |
阶段概述:本阶段讲解,K-means聚类算法,K-means聚类算法的变形,密度聚类,层次聚类、谱聚类、PCA降维算法、EM期望最大化、GMM高斯混合模型。
达成目标:通过本阶段学习,掌握无监督机器学习算法的作用和原理,透彻理解聚类和降维的本质区别,今后可以正确选择无监督学习算法,并实战开发。
章节1_聚类系列算法 |
01_KMeans聚类流程_距离测度欧式距离和余弦距离 |
02_距离测度欧式距离和余弦距离的场景_TFIDF |
03_KMeans的一些变形_KMeans的损失函数推导及假设 |
04_mini-batchKMeans_Canopy聚类_聚类评估指标 |
05_KMeans代码测试不同情况下的聚类效果 |
06_层次聚类_密度聚类_谱聚类 |
章节2_EM算法和GMM高斯混合模型 |
08_单个高斯分布GM的参数估计 |
09_理解GMM高斯混合分布的对数似然函数 |
10_GMM参数估计Πμσ的流程 |
11_Jensen不等式的应用 |
12_将EM算法应用到GMM中并且推导出了μ和Σ的公式 |
13_将EM算法应用到GMM中并且推导出Π的公式 |
14_GMM前景背景分离 |
15_通过声音文件利用GMM算法识别性别 |
16_通过声音文件利用GMM算法识别是谁 |
章节3_PCA降维算法 |
17_特征选择与特征映射 |
18_PCA的最大投影方差思路 |
19_最大投影方差推导_最小投影距离思路 |
20_SVD其实就可以去实现PCA了 |
21_PCA的几种应用 |
另附各章节课程资料