平方损失 平方损失 平方损失 Square Error ,作为机器学习中最为经典,也是最为朴素的损失算法,值得进一步进行探讨。 本篇文章对背后的数学原理、最优化算法进行探讨。 概率数学原理 简单理解(图像) 数据如下表 x0x_0x0 yyy 1 1 2 3 3 2 4 6 5.06 7.23 6 7 上图中的绿色点都是对应数据样本在二维笛卡尔坐标系中的 2023-11-24
机器学习最优化算法 批量梯度下降 定义 梯度下降法 (gradient descent) 是一个最优化算法,常用于机器学习和人工智能当中递归逼近最小偏差模型。 在已知表达式的情况下可以代替二分三分,且效率较高。 在发展过程中衍生出了随机梯度下降算法和批量梯度下降算法,本文介绍批量梯度下降算法。 数学原理 推导过程 不妨令 xix^ixi 为第 iii 组输入数据,h(xi)h(x^i)h(xi) 为预测结果 2023-08-09