如何使用Pytorch中的数据加载程序访问下一步数据？

Question

我正在使用训练神经网络的代码。该代码使用Pytorch的数据加载器为每次迭代加载数据。代码看起来如下所示

for step, data in enumerate(dataloader, 0):
      ............................................................
      output = neuralnetwork_model(data)
      .............................................................

，步骤是一个整数，可在每个步骤中给出值0、1、2、3的整数。数据给出了一批样本。代码在每个步骤中将相应的批次传递给神经网络。

我需要在步骤n处访问步骤n+1的数据。我需要这样的东西

for step, data in enumerate(dataloader, 0):
      ............................................................
      output = neuralnetwork_model(data)
      access = data_of_next_step
      .............................................................

我该如何实现？

Answer 1

在迭代级别上执行此类操作似乎更加方便，而不必更改数据加载器实现。查看 n连续元素具有重叠 您可以实现这使用 itertools.tees.tees.tees.tee ：

def pairwise(iterable):
    "s -> (s0,s1), (s1,s2), (s2, s3), ..."
    a, b = tee(iterable)
    next(b, None)
    return zip(a, b)

因此，您只需要在包装的数据加载程序上迭代以下方式：

>>> for batch1, batch2 pairwise(dataloader)
...     # batch1 is current batch
...     # batch2 is batch of following step