新生任务-5 一、Funk-SVD 分解算法 对于一个推荐系统, 用户和物品之间的关系可以整理为如下这样的一个矩阵. User-Item 1 2 3 4 1 x 4.5 2.0 x 2 4.0 x 3.5 x 3 x 5.0 x 2.0 4 x 3.5 4.0 1.0 矩阵中每一行代表一个用户 2022-07-16 机器学习 #推荐系统 #矩阵分解 #梯度下降
新生任务-4 一、奇异值的 \(QR\) 分解算法 和之前利用 \(AA^{\mathrm{T}}\) 的特征值求奇异值不同的是, 这个方法看起来不太能够理解, 在书上的描述也比较简单. 其实就是简单的两步, 第一步通过 \(\mathrm{Household}\) 变换使得矩阵 \(A\) 变成二重对角矩阵. 所谓二重对角矩阵就是除了主对角线以及主对角线上面一条对角线外的其余元素全为 0. 第二 2022-07-12 机器学习 #矩阵分解 #奇异值 #Householder变换
新生任务-3 一、为什么机器学习中需要矩阵求导 这是一个非常自然的过程. 算法中需要数据喂进去, 对于数据来说可以用向量或者是矩阵来表示. 机器学习就是对优化算法围绕讨论. 本质上就是一个方程, 使用向量或者矩阵能够使得运算速度更快. 例如在使用 numpy 库计算向量之间内积的时候能体现出和使用循环计算内积方式的速度差距. 求导是为了获取到损失函数的变换趋势, 以便于对算法优化过程进行迭代处理. 2022-07-10 机器学习 #机器学习 #矩阵求导
新生任务-2 一、矩阵相关问题 1. 矩阵的秩 首先说明一点, 矩阵的行秩是等于列秩等于矩阵的秩的. 行秩和列秩是考虑到不同的向量空间 (行空间和列空间). 要求矩阵的秩, 实际上对矩阵进行高斯消元, 然后找有几行非零元素就是矩阵的秩. 示例如下: \[ A = \begin{bmatrix} 1& 2& 2& 2\\ 2& 4& 6&a 2022-07-06 机器学习 #矩阵 #秩 #范数 #向量 #迹
新生任务-1 一、推荐系统 1. 什么是推荐系统 推荐系统顾名思义就是为用户进行推荐的系统. 无论是商品、音乐、书籍 或 电影, 都能够通过这样的一个系统对使用者进行推荐. 像淘宝中给你推荐你可能感兴趣的商品, 抖音软件中你下一条即将播放的视频, 这些都算是推荐系统的实际运用场景. 2. 推荐系统的发展 关于推荐系统一词, 很多人的第一印象是亚马逊当年号称有 20% 的成交来源于推荐, 就像很多 2022-07-04 机器学习 #推荐系统 #机器学习
矩阵分析与应用-6.2~6.3-奇异值分解-Section2 前言 本文学习过程来源是《矩阵分析与应用-张贤达》一书. 可以通过 z-lib 下载. 一、奇异值的性质汇总 1. 奇异值服从的等式关系 矩阵 \(A_{m \times n}\) 和其复共轭转置矩阵 \(A^{\mathrm{H}}\) 具有相同的奇异值. 矩阵 \(A_{m \times n}\) 的非零奇异值是 \(AA^{\mathrm{H}}\) 或者 \(A^{\ 2022-07-02 线性代数 > 矩阵分析与应用 #矩阵 #Linear Algebra
矩阵分析与应用-6.2-奇异值分解-Section1 前言 本文学习过程来源是《矩阵分析与应用-张贤达》一书. 可以通过 z-lib 下载. 一、奇异值分解及其解释 1. 奇异值分解定义 对于任意复长方矩阵都可以进行奇异值分解. 定理 1 (矩阵的奇异值分解) : 令 \(A \in R^{m \times n}\) ( 或 \(C^{m \times n}\) ), 则存在正交 (或酉) 矩阵 \(U \in R^{m \times 2022-06-30 线性代数 > 矩阵分析与应用 #矩阵 #Linear Algebra