前言


PyTorch中的数据类型为Tensor,Tensor与Numpy中的ndarray类似,同样可以用于标量,向量,矩阵乃至更高维度上面的计算。PyTorch中的tensor又包括CPU上的数据类型和GPU上的数据类型,一般GPU上的Tensor是CPU上的Tensor加cuda()函数得到。通过使用Type函数可以查看变量类型。系统默认的torch.Tensor是torch.FloatTensor类型。例如data
= torch.Tensor(2,3)是一个2*3的张量,类型为FloatTensor;
data.cuda()就将其转换为GPU的张量类型,torch.cuda.FloatTensor类型。

① 基本类型

如图所示,下面是cpu和gpu版本的张量(Tensor)的基本类型,一共是8种。



* torch.FloatTensor(2, 2) 构建一个2*2 Float类型的张量

* torch.DoubleTensor(2, 2) 构建一个2*2 Double类型的张量
* torch.ByteTensor(2, 2) 构建一个2*2 Byte类型的张量
* torch.CharTensor(2, 2) 构建一个2*2 Char类型的张量
* torch.ShortTensor(2, 2) 构建一个2*2 Short类型的张量
* torch.IntTensor(2, 2) 构建一个2*2 Int类型的张量
* torch.LongTensor(2, 2) 构建一个2*2 Long类型的张量
官网还介绍了从python的基本数据类型list和科学计算库numpy.ndarray转换为Tensor的例子:
>>> torch.tensor([[1., -1.], [1., -1.]]) tensor([[ 1.0000, -1.0000], [ 1.0000,
-1.0000]]) >>> torch.tensor(np.array([[1, 2, 3], [4, 5, 6]])) tensor([[ 1, 2, 3
], [4, 5, 6]])
② 张量类型之间的转换

2.1 CPU和GPU的Tensor之间转换

从cpu –> gpu,使用data.cuda()即可。
若从gpu –> cpu,则使用data.cpu()。

2.2 Tensor与Numpy Array之间的转换

Tensor –> Numpy.ndarray 可以使用 data.numpy(),其中data的类型为torch.Tensor。
Numpy.ndarray –> Tensor 可以使用torch.from_numpy(data),其中data的类型为numpy.ndarray。

2.3 Tensor的基本类型转换(也就是float转double,转byte这种。)

为了方便测试,我们构建一个新的张量,你要转变成不同的类型只需要根据自己的需求选择即可

*
tensor = torch.Tensor(2, 5)

*
torch.long() 将tensor投射为long类型
newtensor = tensor.long()

*
torch.half()将tensor投射为半精度浮点(16位浮点)类型
newtensor = tensor.half()

*
torch.int()将该tensor投射为int类型
newtensor = tensor.int()

*
torch.double()将该tensor投射为double类型
newtensor = tensor.double()

*
torch.float()将该tensor投射为float类型
newtensor = tensor.float()

*
torch.char()将该tensor投射为char类型
newtensor = tensor.char()

*
torch.byte()将该tensor投射为byte类型
newtensor = tensor.byte()

*
torch.short()将该tensor投射为short类型
newtensor = tensor.short()

思考

据我目前使用来看,最常用的还是Tensor.byte(),
Tensor.float()。因为pytorch底层很多计算的逻辑默认需要的是这些类型。但是如果当你需要提高精度,比如说想把模型从float变为double。那么可以将要训练的模型设置为
model = model.double()。此外,还要对所有的张量进行设置:
pytorch.set_default_tensor_type('torch.DoubleTensor')
,不过double比float要慢很多,要结合实际情况进行思考。

参考资料

[1] pytorch张量torch.Tensor类型的构建与相互转换以及torch.type()和torch.type_as()的用法
<https://ptorch.com/news/71.html>
[2] PyTorch torch.Tensor 教程 <https://pytorch.org/docs/stable/tensors.html>

友情链接
KaDraw流程图
API参考文档
OK工具箱
云服务器优惠
阿里云优惠券
腾讯云优惠券
华为云优惠券
站点信息
问题反馈
邮箱:ixiaoyang8@qq.com
QQ群:637538335
关注微信