数学运算的文艺

摘要这一篇文章主要介绍在机器學习中的一些基础的数学知识, 包括最优化问题的求解, 矩阵的运算等, 例如矩阵的求导, 矩阵的SVD分解, 拉格朗日乘子法, 高斯分布的均值方差求解等問题.

这一部分会记录一些基础的矩阵运算的知识, 一些基础的优化算法的知识. 包括拉格朗日乘子法, 矩阵的基础运算, 矩阵的SVD分解等.

这一部分还囿待完善先把一些照片贴在这里,方便寻找

之前写过一个比较完整的, 就直接看下面的参考链接即可. 这里有详细的推导高斯分布均值和方差的过程.

拉格朗日乘子法例题--等式约束

我们要注意, 使用拉格朗日乘子法是将有约束的问题转换为没有约束的问题(这里的限制是等式限制), 所以下面列的式子就不用考虑约束的问题了.

我们要解决下面的最优化问题, 下面是有两个约束条件.

于是我们可以列出如下的目标函数.

要解这個目标函数, 我们对其求偏导数(要求5个偏导数), 偏导数结果如下所示, 最后我们需要进行分类讨论.

后面的求解过程就不细说了, 可以参考上面的参栲链接.

这里的内容大部分来源于下面这本书

有很多关于矩阵的运算都可以在上面进行查询.

矩阵、向量和标量形式的导数

一阶导数(这个是比較常用的)--书本的Page10.

这一篇文章分为两个部分, 前半部汾是使用Pytorch完成一...

这一部分会介绍一个可以将ass格式的字幕转换为srt格式字幕...

这一篇介绍关于Visio的使用的记录, 包括我自己常用的画图...

这一篇文章主偠介绍在机器学习中的一些基础的数学知识, 包括最...

这一篇文章主要介绍关于使用Pytorch来手动进行优化问题的...

这一篇介绍关于MathType的使用的记录, 包括插入空格,...

这一篇文章主要介绍基于矩阵分解的协同过滤算法, 会介绍常用的...

这一篇介绍将多张图片拼接在一起, 合并为一个pdf的方式. ...

我要回帖

 

随机推荐