每次迭代删除张量流数据集图

发布于 2025-01-10 20:24:31 字数 268 浏览 1 评论 0原文

我需要多次迭代来操作张量流数据集。但是,当使用地图操作数据集时,我遇到了内存问题。我非常确定张量流每次调用映射时都会绘制函数图,并且我想每次迭代删除该图。

我正在尝试使用 tf.keras.backend.clear_session 并手动删除它,但我仍然遇到内存问题。

for i in range(10000):
  keras.backend.clear_session()
  ds = tf_dataset.map(map_fn)
  del ds

I need to manipulate a tensorflow dataset over many iterations. However, when manipulating the dataset using map, I'm getting memory issues. I'm pretty sure that tensorflow is drawing a function graph each time calling map, and I would like to delete that graph each iteration.

I'm trying to use tf.keras.backend.clear_session and deleting it manually, but I'm still running into memory issues.

for i in range(10000):
  keras.backend.clear_session()
  ds = tf_dataset.map(map_fn)
  del ds

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文