Posts

All the articles I've posted.

• 《统计学习方法》读书笔记7：支持向量机

  26 Dec, 2017

  机器学习

  线性可分 SVM、函数间隔与几何间隔、间隔最大化、对偶问题、合页损失函数，以及通过核技巧解决非线性分类问题的笔记。

• 拉格朗日对偶性

  26 Dec, 2017

  机器学习

  从高中的拉格朗日乘数法出发，系统介绍带约束最优化问题中的拉格朗日对偶性：原始问题、广义拉格朗日函数、对偶问题及 KKT 条件。

• 《统计学习方法》读书笔记6：logistic回归与最大熵模型

  25 Dec, 2017

  机器学习

  logistic 分布与二项 logistic 回归的模型形式、极大似然估计求参，以及最大熵原理与最大熵模型，并指出其对偶函数极大化等价于极大似然估计。

• 《统计学习方法》读书笔记5：决策树

  22 Dec, 2017

  机器学习

  决策树的特征选择（信息增益、信息增益比）、ID3 与 C4.5 生成算法、基于损失函数的剪枝流程，以及 CART 算法概述。