Pytorch 多维数组运算过程的索引处理方式

背景：对 python 不熟悉，能看懂代码，也能实现一些简单的功能，但是对 python 的核心思想和编程技巧不熟，所以使 Pytorch 写 loss 的时候遇到很多麻烦，尤其是在 batch_size > 1 的时候，做矩阵乘法之类的运算会觉得特别不顺手。

所幸，在边查边写的过程中，理解了 python 中多维运算的实现规则。

1、python 的基本索引规则

从 0 开始

对于给定的范围，如 b = a[m:n], 那么 b 为由 （n-m）个数据组成的新数组，由 a[m],a[m+1],...,a[n-1] 构成。(若 n<m, 得到空)

2、单个 tensor 运算，使用 dim 参数

torch 中对 tensor 的操作方法，若不加 dim 参数表示对整体的 tensr 进行操作，若增加 dim 参则表示按维操作。

例：

a = [[1,2],[3,4],[5,6]] (torch.tensor)

　　torch.mean(a) => 3.5

　　torch.mean(a,dim=0) => [1.5, 3.5, 5.5]

　　torch.mean(a,dim=1) => [[3],[4]]

　　torch.mean(a,dim=0) => [3,4]

　　torch.mean(a,dim=1) => [1.5, 3.5, 5.5]　

注: torch.mean() 是一个降维的操作，所以不会出现在取均值后保持跟原 Tensor 同维的情况。 dim 参数存在时降一维，不存在时得到的是整个 Tensor 的均值。

3、两个 tensor 运算，构造对应形状

以乘法为例：

3.1 矩阵乘向量

a = [[1,2],[3,4],[5,6]]

b = [1,1]

计算乘法 c = a@b

若 a 拓展为 （N,3,2） N 为 batch_size, 计算 c2 = a@b

若 a,b 同时拓展， 变成（N, 2）,那么需要做一个变换 b = b.view(N,2,1),计算 c3 = a@b

3.2 矩阵乘矩阵

a = [[1,2],[3,4],[5,6]]

b =[ [1,1],[1,1]]

计算乘法 c = a@b

若 a 拓展为 （N,3,2） N 为 batch_size, 计算 c2 = a@b

若 a,b 同时拓展， 变成（N, 2, 2）,计算 c3 = a@b

以上这篇Pytorch 多维数组运算过程的索引处理方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持我们。

赞 (0)

相关推荐

  • Numpy与Pytorch 矩阵操作方式

    Numpy 随机矩阵: np.random.randn(d0, d1, d2, ...) 矩阵大小与形状: np.ndarray.size 与 np.dnarray.shape Pytorch 随机矩阵: torch.randn(d0, d1, d2, ...) 添加维度: tensor.unsqueeze(0) 压缩维度: tensor.squeeze(0) 按维度拼接tensor: torch.cat(inputs, dim=0, ...) 维度堆叠: torch.stack(inputs,

  • numpy中实现ndarray数组返回符合特定条件的索引方法

    在numpy的ndarray类型中,似乎没有直接返回特定索引的方法,我只找到了where函数,但是where函数对于寻找某个特定值对应的索引很有用,对于返回一定区间内值的索引不是很有效,至少我没有弄明白应该如何操作尴尬.下面先说一下where函数的用法吧. (1)where函数的使用场景: 例如现在我生成了一个数组: import numpy as np arr=np.array([1,1,1,134,45,3,46,45,65,3,23424,234,12,12,3,546,1,2]) 现在a

  • python返回数组的索引实例

    使用python里的index nums = [1, 2, 3, 4, 5, 6, 1, 9] print nums.index(max(nums)) print nums.index(1) 该方法同样适合于字符串: str1 = 'abcd' print str1.index('c') 但是对于数组或者字符串里面含有不止一个要检索的数字时,只会返回第一个元素的索引. nums = [1, 2, 3, 4, 5, 6, 1, 9] print nums.index(2) print nums[:

  • python中找出numpy array数组的最值及其索引方法

    在list列表中,max(list)可以得到list的最大值,list.index(max(list))可以得到最大值对应的索引 但在numpy中的array没有index方法,取而代之的是where,其又是list没有的 首先我们可以得到array在全局和每行每列的最大值(最小值同理) >>> a = np.arange(9).reshape((3,3)) >>> a array([[0, 1, 2], [9, 4, 5], [6, 7, 8]]) >>&

  • Pytorch 多维数组运算过程的索引处理方式

    背景:对 python 不熟悉,能看懂代码,也能实现一些简单的功能,但是对 python 的核心思想和编程技巧不熟,所以使 Pytorch 写 loss 的时候遇到很多麻烦,尤其是在 batch_size > 1 的时候,做矩阵乘法之类的运算会觉得特别不顺手. 所幸,在边查边写的过程中,理解了 python 中多维运算的实现规则. 1.python 的基本索引规则 从 0 开始 对于给定的范围,如 b = a[m:n], 那么 b 为由 (n-m)个数据组成的新数组,由 a[m],a[m+1],

  • python 实现二维数组的索引、删除、拼接操作

    python 实现二维数组的索引、删除、拼接操作

    1.数组的索引 我用的是iloc函数.导入数据是data,索引data.iloc[i,j],i代表行,j代表列.如果要索引i行之后的所有行元素,使用data.iloc[i:,j], i行之前的所有行,使用data.iloc[:i,j]. 2.数组的拼接 可以使用append函数.np.apend(a,b),a和b为待拼接的数组. 由于我需要把一维数组按行拼接成二维数组,选择vstack函数,可以实现垂直方向的拼接.np.vstack((a,b)) 3.数组删除一行或多行元素 我用的是drop函数

  • C语言之关于二维数组在函数中的调用问题

    C语言之关于二维数组在函数中的调用问题

    目录 关于二维数组在函数中的调用问题 函数调用二维数组 二维数组如何放到函数中使用 下面以一个二维矩阵的转置为例 关于二维数组在函数中的调用问题 之前在学习二维数组的时候感觉理解起来很简单,所以理解一下就过去了,但是当自己真正的去用二维数组数组解决一些问题(特别是在函数调用二维数组的过程中)才真正发现原来使用起来还是要去注意一些细节的.废话不多说,直接上干货! 函数调用二维数组 在函数中调用二维数组的具体格式如下: 1.声明:这是声明的两种格式,在这里定义的是一个N*5的二维字符数组,各位看官一

  • C语言二维数组几种常用的表示方法

    名称:二维数组的几种表示方法 说明:常用的有以下几种二维数组的表示方法: (1).第一种是普通的二维数组的表示方法. (2).第二种是用一维数组来表示二维数组,从显示的元素地址可以看出,二维数组和一维数组表示的二维数组在内存中的储存方式其实是一样的,不过使用二维数组看起来要简单些,只要不用进行地址转换. (3).第三种表示是用指针数组.本例中的c[i]中的元素其实是地址.这种方法对各个元素大小不一样的情况下比较适用.如:假定有若干个不等长字符串需要我们处理,如果使用a [i ][j]结构,则j必

  • numpy库ndarray多维数组的维度变换方法(reshape、resize、swapaxes、flatten)

    numpy库对多维数组有非常灵巧的处理方式,主要的处理方法有: .reshape(shape) : 不改变数组元素,返回一个shape形状的数组,原数组不变 .resize(shape) : 与.reshape()功能一致,但修改原数组 In [22]: a = np.arange(20) #原数组不变 In [23]: a.reshape([4,5]) Out[23]: array([[ 0, 1, 2, 3, 4], [ 5, 6, 7, 8, 9], [10, 11, 12, 13, 14

  • Java多维数组详解

    Java多维数组详解

    目录 0.前言及思维导图 0.1 怎么理解多维数组? 0.2 思维导图: 1.多维数组的动态初始化 1.1 语法格式 1.2 以例助解 2.多维数组的引用 2.1引用方式 3.补充:获取数组长度 总结 0.前言及思维导图 0.1 怎么理解多维数组? 多维数组可以看成是数组的数组,比如二维数组就是一个特殊的一维数组,其每一个元素都是一个一维数组. 0.2 思维导图: 1.多维数组的动态初始化 ★以二维数组为例 1.1 语法格式 直接为每一维分配空间,格式如下: type[][] typeName

  • JS实现二维数组元素的排列组合运算简单示例

    JS实现二维数组元素的排列组合运算简单示例

    本文实例讲述了JS实现二维数组元素的排列组合运算.分享给大家供大家参考,具体如下: 用js实现二维数组里面的元素排列组合一个小demo: 源码: <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> <html xmlns="http://www.w3

  • python中numpy的矩阵、多维数组的用法

    1. 引言 最近在将一个算法由matlab转成python,初学python,很多地方还不熟悉,总体感觉就是上手容易,实际上很优雅地用python还是蛮难的.目前为止,觉得就算法仿真研究而言,还是matlab用得特别舒服,可能是比较熟悉的缘故吧.matlab直接集成了很多算法工具箱,函数查询.调用.变量查询等非常方便,或许以后用久了python也会感觉很好用.与python相比,最喜欢的莫过于可以直接选中某段代码执行了,操作方便,python也可以实现,就是感觉不是很方便. 言归正传,做算法要用

  • Numpy ndarray 多维数组对象的使用

    Numpy ndarray 多维数组对象的使用

    介绍 目前它是Python数值计算中最为重要的基础包,将numpy的数组的对象作为数据交互的通用语,一般我们要充分理解好矩阵计算的原理,这需要你要有一些线性代数的基础知识.在对数据处理.清洗.构造子集.过滤.变换以及其他计算的过程快速的进行向量化计算,后续也会介绍R语言,因为R语言就是一个原生态基于向量化计算的编程语言. Numpy的核心特征之一就是一个N维数组对象--ndarray,这是一个快速灵活的大型数据集容器,可以进行科学数值计算. 代码操作 import numpy as np 导入好

  • JavaScript实现多维数组的方法

    在C#里,定义多维数组,可以通过这样简单的代码实现: 复制代码 代码如下: int[,]myArray=new int[4,5]; 在JavaScript中不能通过直接定义实现多维数组,那么该怎么实现呢?首先定义一维数组: 复制代码 代码如下: var myArray=new Array(); 然后再将一维数组的成员定义成数组(之所以可以进行再定义,因为JavaScript是弱类型): 复制代码 代码如下: myArray[0]=new Array(); 到此为止,就定义了一个第一个索引为0的二

随机推荐