张量
机器学习框架中最基础的数据结构,是标量、向量、矩阵向更高维度的推广。在图像处理中,彩色图片表示为四维张量 [batch, height, width, channels],视频则增加时间维度变为五维。
时间轴 (近 90 天)
在深度学习中,参数以张量形式存储于显存或磁盘,读取意味着加载与解析,写入则涉及格式、精度与一致性约束,且往往需要与计算图、优化器状态协同。
在Lean中,张量可以表示为带索引的有限维数组类型,形状约束通过依赖类型在编译期静态检查。
张量是机器学习中的核心数据结构,可以理解为多维数组的统称:标量是0维张量,向量是1维,矩阵是2维,更高维度则是N维张量。
前向传播是神经网络从输入层到输出层完整计算一次的过程;自回归语言模型生成N个token需N次前向传播,延迟随输出长度线性增长;分类器式模型只需一次前向传播。
张量是机器学习框架中最基础的数据结构,彩色图像通常表示为形状为[batch, height, width, channels]的四维张量,视频则再加一维时间轴。
神经网络的权重本质上是多维数组(张量),存储在 .safetensors、.gguf 或 .bin 等格式文件中,数字本身静态无法自行执行
步长记录了在每个维度上移动一步所需跨越的内存单元数,使得转置、切片等操作可以在不复制数据的情况下通过修改步长完成
张量在实现层面是一块连续的一维内存,配合形状(shape)和步长(stride)两个元数据来描述多维逻辑视图
PyTorch的张量本质上是多维数组,与NumPy的ndarray高度相似,但张量可以在GPU上运行并内置自动微分支持
全部知识事实 (9)
PyTorch的张量本质上是多维数组,与NumPy的ndarray高度相似,但张量可以在GPU上运行并内置自动微分支持
60%待验证在深度学习中,参数以张量形式存储于显存或磁盘,读取意味着加载与解析,写入则涉及格式、精度与一致性约束,且往往需要与计算图、优化器状态协同。
50%待验证在Lean中,张量可以表示为带索引的有限维数组类型,形状约束通过依赖类型在编译期静态检查。
50%待验证张量是机器学习中的核心数据结构,可以理解为多维数组的统称:标量是0维张量,向量是1维,矩阵是2维,更高维度则是N维张量。
50%待验证前向传播是神经网络从输入层到输出层完整计算一次的过程;自回归语言模型生成N个token需N次前向传播,延迟随输出长度线性增长;分类器式模型只需一次前向传播。
50%待验证张量是机器学习框架中最基础的数据结构,彩色图像通常表示为形状为[batch, height, width, channels]的四维张量,视频则再加一维时间轴。
50%待验证神经网络的权重本质上是多维数组(张量),存储在 .safetensors、.gguf 或 .bin 等格式文件中,数字本身静态无法自行执行
50%待验证步长记录了在每个维度上移动一步所需跨越的内存单元数,使得转置、切片等操作可以在不复制数据的情况下通过修改步长完成
50%待验证张量在实现层面是一块连续的一维内存,配合形状(shape)和步长(stride)两个元数据来描述多维逻辑视图
50%