C++ 中的高效矩阵分解为方形子矩阵

Question

我通过使用一维数据类型并将其包装成行和列，在 C++ 中实现了矩阵数据类型。现在，我希望能够从此时开始创建方形/分块子矩阵，并且我想在内存中进行操作。

问题是我希望其中一些子矩阵可以转移到 GPU 内存并可以在那里并行处理它们。例如，这对于矩阵乘法很有用。由于这些子矩阵在主内存中未对齐，因此如果不创建单独的副本，将它们作为单个单元复制到设备内存似乎是不可能的？我希望将这种直接 GPU 子矩阵复制映射到 CPU 原始矩阵，以达到更新和提高效率的目的。我事先不知道确切的分区。

有人知道我怎样才能实现它吗？

提醒一下，矩阵需要按块划分，而不是按行划分，这在 C/C++ 中相对容易。

Answer 1

如果在创建“主”矩阵时已知所需的子矩阵，并且它们形成主矩阵的一个分区，则可以创建一个类似于这样的复合矩阵类：

// supposing an IMatrix<T> interface (pure virtual members only) class

template< typename T >
struct CompositeMatrix : public IMatrix<T> {
   typedef std::vector<PlainMatrix<T>*> tMatrices;

   tMatrices submatrices;
   T& element( size_t row, size_t column ) {
       return findsubmatrix( row, column )->element( row, column );
   }

   // find algorithm implementing 'chain of responsibility-like' pattern.
   PlainMatrix<T>* findsubmatrix( size_t row, size_t col ) {
     for( tMatrices::iterator it = submatrices.begin()
        ; it != submatrices.end()
        ; ++it)
     {
        if( it->contains( row,col ) ) return *it;            
     }
     return NULL;
   }
};

“PlainMatix”可以组织为内存高效的方式。

Answer 2

如果矩阵的维度是 2 的幂，您可以将它们以 z-order。这样，您只需要子矩阵的开始索引和结束索引即可通过一次调用 cudaMemcpy 来复制它。