“为了” MATLAB 中的循环与矢量化

Question

我正在 MATLAB 中进行编程，并且按照建议，我总是尝试使用矢量化。但最终程序进展得很慢。所以我发现在一个地方使用循环时代码明显更快（下面的示例）。

我想知道我是否误解了某些内容或做错了什么，因为在这种情况下性能很重要，而且我不想继续猜测矢量化或循环是否会更快。

% data initialization

k = 8;
n = 2^k+1;
h = 1/(n-1);
cw = 0.1;

iter = 10000;

uloc = zeros(n);
fploc = uloc;
uloc(2:end-1,2:end-1) = 1;
vloc = uloc;
ploc = ones(n);

uloc2 = zeros(n);
fploc2 = uloc2;
uloc2(2:end-1,2:end-1) = 1;
vloc2 = uloc2;
ploc2 = ones(n);

%%%%%%%%%%%%%%%%%%%%%%
% vectorized version %
%%%%%%%%%%%%%%%%%%%%%%
tic
for it=1:iter
    il=2:4;
    jl=2:4;
    fploc(il,jl) = h/6*(-uloc(il-1,jl-1) + uloc(il-1,jl)...
        -2*uloc(il,jl-1)+2*uloc(il,jl+1)...
        -uloc(il+1,jl) + uloc(il+1,jl+1)...
        ...
        -vloc(il-1,jl-1) - 2*vloc(il-1,jl)...
        +vloc(il,jl-1) - vloc(il,jl+1)...
        + 2*vloc(il+1,jl) + vloc(il+1,jl+1))...
        ...
        +cw*h^2*(-ploc(il-1,jl)-ploc(il,jl-1)+4*ploc(il,jl)...
        -ploc(il+1,jl)-ploc(il,jl+1));
end
toc


%%%%%%%%%%%%%%%%%%%%%%
%    loop version    %
%%%%%%%%%%%%%%%%%%%%%%
tic
for it=1:iter
    for il=2:4
        for jl=2:4
            fploc2(il,jl) = h/6*(-uloc2(il-1,jl-1) + uloc2(il-1,jl)...
                -2*uloc2(il,jl-1)+2*uloc2(il,jl+1)...
                -uloc2(il+1,jl) + uloc2(il+1,jl+1)...
                ...
                -vloc2(il-1,jl-1) - 2*vloc2(il-1,jl)...
                +vloc2(il,jl-1) - vloc2(il,jl+1)...
                + 2*vloc2(il+1,jl) + vloc2(il+1,jl+1))...
                ...
                +cw*h^2*(-ploc2(il-1,jl)-ploc2(il,jl-1)+4*ploc2(il,jl)...
                -ploc2(il+1,jl)-ploc2(il,jl+1));
        end
    end
end
toc

Answer 1

我没有仔细检查你的代码，但是最新版本的 Matlab 中的 JIT 编译器已经改进到你所面临的情况相当常见的程度 - 循环可以比矢量化代码更快。很难提前知道哪个会更快，因此最好的方法是以最自然的方式编写代码，分析它，然后如果存在瓶颈，尝试从循环切换到矢量化（或其他方式）。

Answer 2

MATLAB 的即时编译器 (JIT) 在过去几年中得到了显着改进。尽管您认为通常应该对代码进行矢量化是正确的，但根据我的经验，这仅适用于某些操作和函数，并且还取决于函数正在处理的数据量。

要找出最有效的方法，最好的方法是分析您的 MATLAB使用和不使用矢量化的代码。

Answer 3

也许几个元素的矩阵并不能很好地测试矢量化效率。最终，这取决于应用程序的效果。

此外，通常矢量化代码看起来更好（更符合底层模型），但很多情况下并非如此，最终会损害实现。您所做的很棒，因为现在您知道什么最适合您。

Answer 4

我不会称之为矢量化。

您似乎正在执行某种过滤操作。这种滤波器的真正矢量化版本是原始数据乘以滤波器矩阵（即代表整个 for 循环的一个矩阵）。

这些矩阵的问题在于它们非常稀疏（对角线周围只有一些非零元素），以至于使用它们几乎没有效率。您可以使用稀疏命令，但即使如此，优雅的表示法可能也无法证明所需的额外内存是合理的。

Matlab 过去不擅长 for 循环，因为即使是循环计数器等仍然被视为复杂矩阵，因此每次迭代都会评估此类矩阵的所有检查。我的猜测是，在 for 循环内，每次应用滤波器系数时仍然会执行所有这些检查。

也许 matlab 函数 filter 和 filter2 在这里很有用？
您还可以阅读这篇文章：改进 MATLAB 矩阵构造代码：或者，为初学者编写矢量化代码

Answer 5

一种可能的解释是启动开销。如果在幕后创建临时矩阵，请为内存分配做好准备。另外，我猜 MATLAB 无法推断出你的矩阵很小，因此会有循环开销。因此，您的矢量化版本可能最终会出现这样的代码：

double* tmp=(double*)malloc(n*sizeof(double));
for(size_t k=0;k<N;++k)
    {
//  Do stuff with elements
    }
free(tmp);

将其与已知数量的操作进行比较：

double temp[2];
temp[0]=...;
temp[1]=...;

因此，当 malloc-loopcounter-free 时间与每次计算的工作负载相比较长时，JIT 可能会更快。