· 每个Tensor有torch.dtype、torch.device、torch.layout三种属性:

· torch.dtype标识tensor类型（like:torch.float32）；
  torch.device标识tensor对象在创建之后所存储在的设备名称(cpu; cuda)；
  torch.layout标识tensor内存布局的对象。
  -- 稀疏的张量：torch.sparse_coo_tensor, coo类型表示非零元素的坐标形式。

稀疏的好处：1. 简化模型：多0<->数据/参数稀疏，可简化；
                      2. 对数据进行稀疏化表示可减小在内存中的开销。

【Attention--张量的稀疏和低秩：
 张量的稀疏性和低秩性是两个不同的概念。
        稀疏性指的是张量中大部分元素为零。在实际应用中，稀疏张量可以帮助节省存储空间和计算资源。例如，在自然语言处理中，词袋模型中的词向量矩阵通常是稀疏的，因为一个文本中只会包含少量的词汇。
        低秩性指的是张量的秩较低，即可以用较少的基向量来表示。低秩张量可以用于数据压缩和降维。例如，在图像处理中，使用奇异值分解（SVD）可以将图像表示为低秩张量，从而实现图像的压缩和重构。】