企业官网建设流程全解析

电力建设规范下载网站,学校网站建设技术,网站建设技术方案怎么写,推广产品最好的方式这段时间在看一篇文章#xff0c;但是当文章讲到损失函数部分时我就开始有点模糊了#xff0c;因为我记不起来损失函数的相关数学概念了#xff0c;那就从下面三个方面来对知识点进行巩固#xff1a; 损失函数基本概念损失函数数学原理常见损失函数 1. 损失函数基础概念但是当文章讲到损失函数部分时我就开始有点模糊了因为我记不起来损失函数的相关数学概念了那就从下面三个方面来对知识点进行巩固损失函数基本概念损失函数数学原理常见损失函数1. 损失函数基础概念是衡量模型预测结果与真实标签之间差异的数学函数在监督学习中我们的核心目标是找到最优参数 使得损失函数最小化2. 损失函数数学原理比较两个概率模型一个是确定的现实模型一个是我们设计的概率模型1最小二乘法这里的1/2是为了求导方便2最大似然概率是从事件推结果似然是从结果概率推事件似然函数的推导过程这里使用log将连乘变成连加同时log不改变其单调性添加-号将寻找最大值问题变成寻找最小值3信息论基础不同类型的模型可以使用熵来进行统一衡量,熵越大越混乱此处应该寻找熵的最小值信息量一个系统从不确定变得确定难度有多大为满足逻辑下图公式2自洽则信息量公式中应该有log熵的计算公式相对熵KL散度这里是以P为基准看Q与P的距离交叉熵这里P是人脑对应的模型Q是用于分类的模型此任务用于判断是不是猫3. 较为常见的损失函数两类1均方差损失函数MSE通过计算模型预测值与真实值之间差值的平方的平均值衡量回归任务中预测结果的准确性旨在使预测值尽可能接近真实值。2交叉熵损失函数CE用于衡量分类任务中模型预测的概率分布与真实标签之间的差异旨在通过最小化损失来使模型预测更加接近真实类别。结合不同任务特性选用适配的损失函数可参考知乎文章(59 封私信 / 30 条消息) 深度学习损失函数完全指南理论、实现与应用 - 知乎