企业官网建设流程全解析

做药公司的网站前置审批,互联网广告服务经营范围,株洲平台公司有几家,深圳网站制作公司哪家好一、 图像数据的介绍 1.1 灰度图像 从这里开始我们进入到了图像数据相关的部分#xff0c;也是默认你有之前复试班计算机视觉相关的知识#xff0c;但是一些基础的概念我仍然会提。 昨天我们介绍了minist这个经典的手写数据集#xff0c;作为图像数据#xff0c;相较于结…一、 图像数据的介绍1.1 灰度图像从这里开始我们进入到了图像数据相关的部分也是默认你有之前复试班计算机视觉相关的知识但是一些基础的概念我仍然会提。昨天我们介绍了minist这个经典的手写数据集作为图像数据相较于结构化数据表格数据他的特点在于他每个样本的的形状并不是(特征数)而是(宽高通道数)上述是昨天的代码我们介绍了图像数据的预处理这是我们首次接触图像数据他和之前的结构化数据有什么差异点呢结构化数据如表格的形状通常是 (样本数, 特征数)例如 (1000, 5) 表示 1000 个样本每个样本有 5 个特征。图像数据的形状更复杂需要保留空间信息高度、宽度、通道因此不能直接用一维向量表示。其中颜色信息往往是最开始输入数据的通道的含义因为每个颜色可以用红绿蓝三原色表示因此一般输入数据的通道数是 3。1.2 彩色图像在 PyTorch 中图像数据的形状通常遵循 (通道数, 高度, 宽度) 的格式即 Channel First 格式这与常见的 (高度, 宽度, 通道数)Channel Last如 NumPy 数组不同。---注意顺序关系注意点如果用matplotlib库来画图需要转换下顺序我们后续介绍模型输入通常需要 批次维度Batch Size形状变为 (批次大小, 通道数, 高度, 宽度)。例如批量输入 10 张 MNIST 图像时形状为 (10, 1, 28, 28)。二、 图像相关的神经网络的定义考虑课程内容的推进今日的内容只提定义不涉及训练和测试过程2.1 黑白图像模型的定义实际定义中输入图像还存在batchsize这一维度在 PyTorch 中模型定义和输入尺寸的指定不依赖于 batch_size无论设置多大的 batch_size模型结构和输入尺寸的写法都是不变的。三、显存占用的主要组成部分昨天说到了在面对数据集过大的情况下由于无法一次性将数据全部加入到显存中所以采取了分批次加载这种方式。即一次只加载一部分数据保证在显存的范围内。那么显存设置多少合适呢如果设置的太小那么每个batchsize的训练不足以发挥显卡的能力浪费计算资源如果设置的太大会出现OOTout of memory显存一般被以下内容占用模型参数与梯度模型的权重Parameters和对应的梯度Gradients会占用显存尤其是深度神经网络如 Transformer、ResNet 等一个 1 亿参数的模型如 BERT-base单精度float32参数占用约 400MB1e8×4Byte加上梯度则翻倍至 800MB每个权重参数都有其对应的梯度。部分优化器如 Adam会为每个参数存储动量Momentum和平方梯度Square Gradient进一步增加显存占用通常为参数大小的 2-3 倍其他开销。浙大疏锦行