AWS CLI 显示失败的 S3 CP 或 SYNC 上传

发布于 2025-01-09 19:05:45 字数 261 浏览 0 评论 0原文

我在使用 AWS CLI 时遇到问题,如果我对较小的文件 (<10GB) 执行 s3 cps3 同步,它就可以工作很好,但是当我对文件 (>10gb) 尝试相同的命令时,它返回退出状态 1,这意味着某些文件无法复制。

有没有办法显示/列出无法复制/同步的文件? 注意:所有副本都在 s3 到 s3 之间(相同的存储桶、相同的区域、相同的 ACL,只是不同的“文件夹路径”)

I'm having an issue with AWS CLI where if I do an s3 cp or s3 sync with smaller files (<10GB) it works fine but when I try same command with files (>10gb) it returns an exit status of 1 which means some files failed to copy.

Is there a way to show/list the files that failed to copy/sync?
Note: All copies are between s3 to s3 ( same bucket, same region, same ACL, just different "folders paths")

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(2

素手挽清风 2025-01-16 19:05:45

处理文件时查看官方文档超过 10GB,您需要在 CLI 命令中指定参数 --expected-size,否则当达到默认部分限制 10,000 时,上传可能会失败。

大于 50GB 的文件示例:

aws s3 cp - s3://mybucket/stream.txt --expected-size 54760833024

我希望这对您有用。
继续摇摆!

Looking at the official docs, when work with files more than 10gb you need to specify in CLI commands an argument --expected-size or the upload may fail when it reaches the default part limit of 10,000.

Example for a file larger than 50GB:

aws s3 cp - s3://mybucket/stream.txt --expected-size 54760833024

I hope that works for you.
Keep rocking!.

哎呦我呸! 2025-01-16 19:05:45

面临一个不同的问题,导致我提出同样的问题:有没有办法查看哪些上传失败?

根据 AWS 文档,您可以使用 --only-show-errors 标志仅在命令的输出中获取失败的上传。适用于 s3 cps3sync

Faced a different problem that led me to the same question: is there a way to see which uploads failed?

Per AWS docs, you can use the --only-show-errors flag to get only failing uploads in the output of the command. Works for both s3 cp and s3 sync.

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文