数据操作

为了能够完成各种数据操作，我们需要某种方法来存储和操作数据。 通常，我们需要做两件重要的事：

1. 获取数据；
2. 将数据读入计算机后对其进行处理。 如果没有某种方法来存储数据，那么获取数据是没有意义的。

首先，我们介绍n维数组，也称为张量（tensor）。
张量表示一个由数值组成的数组，这个数组可能有多个维度。 具有一个轴的张量对应数学上的向量（vector）； 具有两个轴的张量对应数学上的矩阵（matrix）； 具有两个轴以上的张量没有特殊的数学名称。
无论使用哪个深度学习框架，它的张量类（在MXNet中为ndarray， 在PyTorch和TensorFlow中为Tensor）都与Numpy的ndarray类似。 但深度学习框架又比Numpy的ndarray多一些重要功能：

• 首先，GPU很好地支持加速计算，而NumPy仅支持CPU计算；
• 其次，张量类支持自动微分。 这些功能使得张量类更适合深度学习。

张量定义

首先，我们导入torch。请注意，虽然它被称为PyTorch，但是代码中使用torch而不是pytorch。

import torch

首先，我们可以使用 arange(n) 创建一个行向量 x。这个行向量包含以0开始的前n个整数，它们默认创建为整数。也可指定创建类型为浮点数。张量中的每个值都称为张量的元素（element）。
例如，张量 x 中有 12 个元素。除非额外指定，新的张量将存储在内存中，并采用基于CPU的计算。

x = torch.arange(12)
print(x)

输出为：

tensor([ 0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11])

可以通过张量的shape属性来访问张量的形状（即沿每个轴的长度）。

print(x.shape)

输出为：

torch.Size([12])

如果想知道张量中元素的总数，即所有方向形状的乘积，可以访问它的大小（size）属性。

print(x.numel())

输出为：

12

要想改变一个张量的形状而不改变元素数量和元素值，可以调用reshape函数。
例如，可以把张量x从形状为(12,)的行向量转换为形状为(3,4)的矩阵。 这个新的张量包含与转换前相同的值，但是它被看成一个3行4列的矩阵。 要重点说明一下，虽然张量的形状发生了改变，但其元素值并没有变。 注意，通过改变张量的形状，张量的大小不会改变。

y = x.reshape(3, 4)
print(y)

输出为：

tensor([[ 0,  1,  2,  3],
        [ 4,  5,  6,  7],
        [ 8,  9, 10, 11]])

要想把一个矩阵转换为行向量，可以调用flatten函数。 这个函数会把矩阵展平为一个行向量。 注意，flatten函数不会改变张量的形状，而是返回一个新的张量，其元素值与原张量相同。

z = y.flatten()
print(z)

输出为：

tensor([ 0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11])

实际使用中，不需要通过手动指定每个维度来改变形状。
也就是说，如果我们的目标形状是（高度,宽度）， 那么在知道宽度后，高度会被自动计算得出，不必我们自己做除法。
在上面的例子中，为了获得一个3行的矩阵，我们手动指定了它有3行和4列，也可以通过-1来调用此自动计算出维度的功能。 即我们可以用x.reshape(-1,4)或x.reshape(3,-1)来取代x.reshape(3,4)。

x = torch.arange(12)
print(x.reshape(-1,4))
print(x.reshape(3,-1))

输出为：

tensor([[ 0,  1,  2,  3],
        [ 4,  5,  6,  7],
        [ 8,  9, 10, 11]])
tensor([[ 0,  1,  2,  3],
        [ 4,  5,  6,  7],
        [ 8,  9, 10, 11]])

有时，我们希望使用全0、全1、其他常量，或者从特定分布中随机采样的数字来初始化矩阵。 我们可以创建一个形状为（2,3,4）的张量，其中所有元素都设置为0。

x = torch.zeros(2, 3, 4)
print(x)

输出为：

tensor([[[0., 0., 0., 0.],
         [0., 0., 0., 0.],
         [0., 0., 0., 0.]],

        [[0., 0., 0., 0.],
         [0., 0., 0., 0.],
         [0., 0., 0., 0.]]])

同样，我们可以创建一个形状为（2,3,4）的张量，其中所有元素都设置为1。

x = torch.ones(2, 3, 4)
print(x)

输出为：

tensor([[[1., 1., 1., 1.],
         [1., 1., 1., 1.],
         [1., 1., 1., 1.]],

        [[1., 1., 1., 1.],
         [1., 1., 1., 1.],
         [1., 1., 1., 1.]]])

有时我们想通过从某个特定的概率分布中随机采样来得到张量中每个元素的值。
例如，当我们构造数组来作为神经网络中的参数时，我们通常会随机初始化参数的值。 以下代码创建一个形状为（3,4）的张量。 其中的每个元素都从均值为0、标准差为1的标准高斯分布（正态分布）中随机采样。

x = torch.randn(3, 4)
print(x)

或者

x = torch.normal(0, 1, size=(3, 4))
print(x)

输出为：

tensor([[-0.2231, -0.1213,  0.0363, -0.1829],
        [ 0.1292, -0.0223, -0.0912,  0.0323],
        [ 0.0223, -0.0363,  0.1213, -0.2231]])

(每次运行的输出结果都不一样)
还可以直接通过提供包含数值的Python列表（或嵌套列表），来为所需张量中的每个元素赋予确定值。 在这里，最外层的列表对应于轴0，内层的列表对应于轴1。

x = torch.tensor([[1, 2, 3], [4, 5, 6]])
print(x)

输出为：

tensor([[1, 2, 3],
        [4, 5, 6]])

多维情况如下：

x = torch.tensor([[[[1, 2, 3], [4, 5, 6]],[[7, 8, 9], [0, 0, 0]]],[[[3, 2, 1], [6, 5, 4]],[[9, 8, 7], [0, 0, 0]]]])
print(x)

输出为：

tensor([[[[1, 2, 3],
          [4, 5, 6]],

         [[7, 8, 9],
          [0, 0, 0]]],

        [[[3, 2, 1],
          [6, 5, 4]],

         [[9, 8, 7],
          [0, 0, 0]]]]) 

运算符

在数学表示法中，我们将通过符号$f:\mathbb{R}\to \mathbb{R}$来表示一元标量运算符（只接收一个输入）。
这意味着该函数从任何实数（$\mathbb{R}$）映射到另一个实数。

同样，我们通过符号$f:\mathbb{R},\mathbb{R}\to \mathbb{R}$表示二元标量运算符，这意味着该函数接收两个输入，并产生一个输出。
给定同一形状的任意两个向量$\mathbf{u}$和$\mathbf{v}$和二元运算符$f$，我们可以得到向量$\mathbf{c}=F(\mathbf{u},\mathbf{v})$。

具体计算方法是$c_i\leftarrow f(u_i,v_i)$，其中$i$是索引, $c_i$、$u_i$和$v_i$分别是向量$\mathbf{c}$、$\mathbf{u}$和$\mathbf{v}$中的元素。
在这里，我们通过将标量函数升级为按元素向量运算来生成向量值

• $F:{\mathbb{R}}^d,{\mathbb{R}}^d\to {\mathbb{R}}^d$。

对于任意具有相同形状的张量，常见的标准算术运算符（+、-、*、/和**）都可以被升级为按元素运算。
我们可以在同一形状的任意两个张量上调用按元素操作。
在下面的例子中，我们使用逗号来表示一个具有5个元素的元组，其中每个元素都是按元素操作的结果。

x = torch.tensor([1, 2, 3, 4, 5])
y = torch.tensor([5, 4, 3, 2, 1])
z = x + y, x - y, x * y, x / y, x ** y# **运算符是求幂运算
print(z)

输出为：

(tensor([6, 6, 6, 6, 6]),
 tensor([-4, -2,  0,  2,  4]),
 tensor([5, 8, 9, 8, 5]),
 tensor([0.2000, 0.5000, 1.0000, 2.0000, 5.0000]),
 tensor([ 1, 16, 27, 16,  5]))

“按元素”方式可以应用更多的计算，包括像求指数的幂这样的一元运算符。

print(torch.exp(x))

输出为：

tensor([ 2.7183,  7.3891, 20.0855, 54.5982, 148.4132])

除了按元素计算外，我们还可以执行线性代数运算，包括向量点积和矩阵乘法。后续会学到。

我们也可以把多个张量连结（concatenate）在一起，把它们端对端地叠起来形成一个更大的张量。
我们只需要提供张量列表，并给出沿哪个轴连结即可。

下面的例子分别演示了当我们沿行（轴-0，形状的第一个元素）和按列（轴-1，形状的第二个元素）连结两个矩阵时，会发生什么情况。
我们可以看到，第一个输出张量的轴-0长度（$6$）是两个输入张量轴-0长度的总和（$3+3$）；第二个输出张量的轴-1长度（$8$）是两个输入张量轴-1长度的总和（$4+4$）。

x = torch.arange(12, dtype=torch.float32).reshape((3,4))
y = torch.tensor([[2.0, 1, 4, 3], [1, 2, 3, 4], [4, 3, 2, 1]])
z = torch.cat((x, y), dim=0)
print(z)

z = torch.cat((x, y), dim=1)
print(z)

输出为：

(tensor([[ 0.,  1.,  2.,  3.],
         [ 4.,  5.,  6.,  7.],
         [ 8.,  9., 10., 11.],
         [ 2.,  1.,  4.,  3.],
         [ 1.,  2.,  3.,  4.],
         [ 4.,  3.,  2.,  1.]]),
 tensor([[ 0.,  1.,  2.,  3.,  2.,  1.,  4.,  3.],
         [ 4.,  5.,  6.,  7.,  1.,  2.,  3.,  4.],
         [ 8.,  9., 10., 11.,  4.,  3.,  2.,  1.]]))

我们也可以通过逻辑运算符构建二元张量。
以X == Y为例： 对于每个位置，如果X和Y在该位置相等，则新张量中相应项的值为1。 这意味着逻辑语句X == Y在该位置处为真，否则该位置为0。

x == y

输出为：

array([[False,  True, False,  True],
       [False, False, False, False],
       [False, False, False, False]])

对张量中的所有元素进行求和，会产生一个单元素张量。

x.sum()

输出为：

tensor(66.)

广播机制

上面的部分是在相同形状的两个张量上执行按元素操作。
在某些情况下，即使形状不同，我们仍然可以通过调用 广播机制（broadcasting mechanism）来执行按元素操作。 这种机制的工作方式如下：

1. 通过适当复制元素来扩展一个或两个数组，以便在转换之后，两个张量具有相同的形状；
2. 对生成的数组执行按元素操作。

在大多数情况下，我们将沿着数组中长度为1的轴进行广播，如下例子：

a = torch.arange(3).reshape((3, 1))
b = torch.arange(2).reshape((1, 2))
a, b

输出为：

(tensor([[0],
         [1],
         [2]]),
 tensor([[0, 1]]))

在这个例子中，a和b的形状分别为(3, 1)和(1, 2)。 如果让它们相加，它们的形状不匹配。
我们将两个矩阵广播为一个更大的$3\times 2$矩阵，如下所示：矩阵a将复制列，矩阵b将复制行，然后再按元素相加。

a + b

输出为：

tensor([[0, 1],
        [1, 2],
        [2, 3]])

广播机制可以让我们在不同形状的张量上执行按元素操作，而无需编写特定的循环。

索引、切片和分割

张量的索引、切片和分割操作可以让我们从张量中取出我们需要的子部分。

索引操作可以让我们从张量中按位置访问单个元素，而切片操作可以让我们按范围访问子张量。 分割操作可以让我们把张量分割成多个子张量。

索引操作的语法为tensor[i]，其中i是一个整数或整数元组。
切片操作的语法为tensor[i:j]，其中i和j是整数或整数元组，可以省略其中之一。
分割操作的语法为tensor.split(split_size, dim=0)，其中split_size是一个整数，表示每块的大小，dim表示沿哪个轴进行分割。
例如：我们可以用[-1]选择最后一个元素，可以用[1:3]选择第二个和第三个元素：

x[-1], x[1:3], x.split(2,1)

输出为：

(tensor([ 8.,  9., 10., 11.]),
 tensor([[ 4.,  5.,  6.,  7.],
         [ 8.,  9., 10., 11.]]),
 (tensor([[0., 1.],
          [4., 5.],
          [8., 9.]]),
  tensor([[ 2.,  3.],
          [ 6.,  7.],
          [10., 11.]])))

内存分配问题

运行一些操作可能会导致为新结果分配内存。
例如，如果我们用y = x + y，我们将取消引用y指向的张量，而是指向新分配的内存处的张量。

before = id(y)
y = y + x
id(y) == before

输出为：

False

这种行为的后果除了内存滥用外，还可能导致其他引用仍然会指向旧的内存位置，这样某些代码可能会无意中引用旧的参数。
为了避免这种问题，可以只用执行原地操作——切片表示法将操作的结果分配给先前分配的数组，例如Y[:] = <expression>。

before = id(y)
y[:] = y + x
id(y) == before

输出为：

True

此外，我们也可以使用X += Y来减少操作的内存开销。

before = id(y)
y += x
id(y) == before

输出为：

True

转换为其他Python对象

转换为NumPy张量

将深度学习框架定义的张量转换为NumPy张量ndarray很容易，反之也同样容易。
torch张量和numpy数组将共享它们的底层内存，就地操作更改一个张量也会同时更改另一个张量。

A = X.numpy()
B = torch.tensor(A)
type(A), type(B)

输出为：

(numpy.ndarray, torch.Tensor)

转换为Python标量

要将大小为1的张量转换为Python标量，我们可以调用item函数或Python的内置格式转换函数。

a = torch.tensor([3.5])
a, a.item(), float(a), int(a)

输出为：

(tensor([3.5000]), 3.5, 3.5, 3)