机器学习的数学基础-线性代数 发表于 2018-03-02 | 分类于 ML 线性代数行列式1.行列式按行(列)展开定理 (1) 设$A = ( a_{ {ij}} )_{n \times n}$,则:$a_{i1}A_{j1} +a_{i2}A_{j2 ... 阅读全文 »
机器学习的数学基础-高等数学 发表于 2018-02-28 | 分类于 ML 高等数学1.导数定义:导数和微分的概念 $f’({ {x}_{0}})=\underset{\Delta x\to 0}{\mathop{\lim }}\,\frac{f({ ... 阅读全文 »
正则化(Regularization) 发表于 2018-02-25 | 分类于 ML 过拟合的问题 Problem of Overfitting到现在为止,我们已经学习了几种不同的学习算法,包括线性回归和逻辑回归,它们能够有效地解决许多问题,但是当将它们应用到某 ... 阅读全文 »
Hexo 数学公式无法渲染问题 发表于 2018-02-23 | 分类于 hexo 学习机器学习做笔记的时候会需要插入很多公式,但是这些数学公式在hexo上传时,无法发布,出现乱码。 本地数学公式编辑:使用Macdown 进行编辑。 在 Macdown-偏好设 ... 阅读全文 »
逻辑回归(Logistic Regression) 发表于 2018-02-20 | 分类于 ML 分类问题 Classification在分类问题中,你要预测的变量 y是离散的值,我们将学习一种叫做逻辑回归 (Logistic Regression) 的算法,这是目前最流行 ... 阅读全文 »
多变量线性回归 发表于 2018-02-10 | 分类于 ML 多维特征 Multiple Features 多变量梯度下降 Gradient Descent for Multiple Variable与单变量线性回归类似,在多变量线性回归 ... 阅读全文 »
SVM-3 发表于 2018-01-26 | 分类于 ML SMO(Sequential minimal optimization)序列最小化前面章节中,我们使用了核函数的软间隔支持向量机的优化模型为: \begin{align*} ... 阅读全文 »
单变量线性回归 发表于 2018-01-26 | 分类于 ML Supervised Learning:”Right answer given”。Regression(回歸)predict continuous value ouput 例: ... 阅读全文 »
SVM-2 发表于 2018-01-25 | 分类于 ML 决策边界上一篇介绍了SVM的超平面划分。 $w^Tx + b = 0 \tag{1}$ 其中, $w$ 表示权值向量,权值向量对应了决策边界的法向量。$b$ 则表示偏置,也称位 ... 阅读全文 »