来自不同阵列的行跨行pytorch点产品

Question

我正在尝试编码类似于变形金刚纸中的位置编码的内容。 为了这样做，我需要执行以下操作：

对于以下三个矩阵，我想在行级别上加入它们（即每个堆叠在一起的第一行，第二行，等等），然后应用点每个矩阵及其转置之间的产品，最后将它们弄平并堆叠在一起。我将在以下示例中澄清：

x = torch.tensor([[1,1,1,1],
                  [2,2,2,2],
                  [3,3,3,3]])
y = torch.tensor([[0,0,0,0],
                  [0,0,0,0],
                  [0,0,0,0]])
z = torch.tensor([[4,4,4,4],
                  [5,5,5,5],
                  [6,6,6,6]])

concat = torch.cat([x, y, z], dim=-1).view(-1, x.shape[-1])
print(concat)

 张量（[[[1，1，1，1]，
        [0，0，0，0]，
        [4、4、4、4]，
        [2，2，2，2]，
        [0，0，0，0]，
        [5，5，5，5]，
        [3，3，3，3]，
        [0，0，0，0]，
        [6，6，6，6]]）
 

# Here I get each three rows together, and then apply dot product, flatten, and stack them.
concat = torch.stack([
            torch.flatten(
                torch.matmul(
                    concat[i:i+3, :], # 3 is the number of tensors (x,y,z)
                    torch.transpose(concat[i:i+3, :], 0, 1))
                )
            for i in range(0, concat.shape[0], 3)
            ])

print(concat)

 张量（[[[4，0，16，0，0，0，0，16，0，64]，
        [16、0、40、0、0、0、0、40、0、100]，
        [36，0，72，0，0，0，0，72，0，144]]）
 

最后，我能够获得我想要的最后一个矩阵。我的问题是，是否有一种方法可以像在最后一步一样使用循环而无需使用循环？我希望一切都在张量中。

Answer 1

torch.einsum使matmul您想要的轴更容易。

c = torch.concat([x, y, z], dim=-1).reshape(-1, *x.shape)
torch.einsum('ijl,ikl->ikj', c, c).reshape(3, -1)

输出

tensor([[  4,   0,  16,   0,   0,   0,  16,   0,  64],
        [ 16,   0,  40,   0,   0,   0,  40,   0, 100],
        [ 36,   0,  72,   0,   0,   0,  72,   0, 144]])

Answer 2

您引入的循环只需要在那里即可获得数据的“切片列表”，这几乎与重塑数据相同。您基本上是在引入一个额外的维度，其中有3个条目。基本上是从形状[n，k]到[n，3，k]。
对于直接与张量合作，您只需调用.Reshape即可达到相同的形状。之后，您使用的代码其余代码也几乎完全相同。由于尺寸的变化，必须稍微更改转置。

总而言之，您想要的是：

concat2 = concat.reshape((-1, 3, concat.shape[1]))
torch.flatten(
  torch.matmul(
    concat2, 
    concat2.transpose(1,2)
  ), 
  start_dim=1,
)