上传到 s3 时压缩文件

发布于 2025-01-20 04:40:10 字数 355 浏览 5 评论 0原文

我正在使用 boto3.client 将“字节”写入 s3 远程上的文件。有没有办法在压缩数据的同时写入数据? 例如。使用诸如 codec="snappy" 之类的选项或类似的选项?

代码:

s3 = boto3.client("s3")
bytesio = io.BytesIO()
bytesio.write(bytes_data)
bytesio.seek(0)
key = OUTPUT_REMOTE_DIR + test.avro
s3.put_object(Body=bytesio.getvalue(), Bucket=OUTPUT_BUCKET, Key=key)

I'm writing "bytes" to a file on s3 remote, using boto3.client. Is there a way to write data while compressing it simultaneously?
eg. using some option like codec="snappy" or something like that?

Code:

s3 = boto3.client("s3")
bytesio = io.BytesIO()
bytesio.write(bytes_data)
bytesio.seek(0)
key = OUTPUT_REMOTE_DIR + test.avro
s3.put_object(Body=bytesio.getvalue(), Bucket=OUTPUT_BUCKET, Key=key)

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文