Tag: 机器学习

All the articles with the tag "机器学习".

• 迭代优化算法

  27 Mar, 2018

  机器学习

  从不动点迭代法开始，系统梳理 Newton-Raphson 方法以及用牛顿法求函数极值点；并推广到多元函数的牛顿法与拟牛顿法（拟牛顿条件）。

• 《统计学习方法》读书笔记7：支持向量机

  26 Dec, 2017

  机器学习

  线性可分 SVM、函数间隔与几何间隔、间隔最大化、对偶问题、合页损失函数，以及通过核技巧解决非线性分类问题的笔记。

• 拉格朗日对偶性

  26 Dec, 2017

  机器学习

  从高中的拉格朗日乘数法出发，系统介绍带约束最优化问题中的拉格朗日对偶性：原始问题、广义拉格朗日函数、对偶问题及 KKT 条件。

• 《统计学习方法》读书笔记6：logistic回归与最大熵模型

  25 Dec, 2017

  机器学习

  logistic 分布与二项 logistic 回归的模型形式、极大似然估计求参，以及最大熵原理与最大熵模型，并指出其对偶函数极大化等价于极大似然估计。