Part0 项目说明

• 机器学习与模式识别知识的思维导图和笔记。
• 参考：李航《统计学习方法》、周志华《机器学习》、黄庆明/兰艳艳/郭嘉丰/山世光《模式识别与机器学习》课程

Part1 预修知识

Part2 总概

• 统计机器学习概论
• 0.AI垂直领域应用
• 1.常用特征工程方法
• 2.常用分类算法
• 3.常用回归预测算法
• 4.常用优化方法

Part3 常用模型

1.监督学习SupervisedLearning

1.1.判别函数DiscriminantFunction

• 总概
• 线性判别函数
  • Fisher判别
  • 感知机
  • 最小平方误差法判别
• 非线性判别
  • 势函数法
  • 广义线性判别
  • 分段线性判别

1.2.贝叶斯分类NaiveBayes

1.3.支持向量机SVM

1.4.决策树DecisionTree

1.5.逻辑斯蒂回归LogisticRegression

1.6.高斯判别模型GaussDiscriminantModel

1.7.神经网络NeuralNetwork

1.8.k近邻kNN

1.9.最大熵模型MaximumEntropyModel

1.10.概率图模型ProbabilityGrapyModel

• 总概
• 有向图模型
  • 隐马尔可夫模型HMM
  • 最大熵马尔可夫模型MEMM
• 无向图模型
  • 条件随机场模型CRF

1.11.线性回归LinearRegression

2.半监督学习SemiSupervisedLearning

2.无监督学习UnsupervisedLearning

2.1聚类Clustering

2.2 维归约DimensionReduction

3.集成学习EnsembleLearning

Part4 优化算法

1.EM算法

2.梯度下降法

Part5 常用策略

Part6 特定领域应用

1.nlp

• 1.词的向量表示
• 2.命名实体识别

2.知识图谱

• 1.知识图谱简介
• 2.知识表示方法
• 3.知识框架学习
• 4.实体识别
• 5.实体消歧
• 6.关系抽取