获取此 GZIPInputStream 的未压缩大小？

Question

我有一个从另一个 ByteArrayInputStream 构造的 GZIPInputStream。我想知道 gzip 数据的原始（未压缩）长度。虽然我可以读到GZIPInputStream的末尾，然后统计数字，但这会花费很多时间并浪费CPU。在阅读之前我想知道尺寸。

对于 GZIPInputStream 是否有类似于 ZipEntry.getSize() 的方法：

public long getSize()
自： API 级别 1
获取此 ZipEntry 的未压缩大小。

Answer 1

可以通过读取 gzip 压缩文件的最后四个字节来确定未压缩的大小。

我在这里找到了这个解决方案：

http://www.abeel.be/content /确定-未压缩的大小-gzip-file

此外，此链接还有一些示例代码（已更正为使用 long 而不是 int，以应对大小2GB 到 4GB 之间进行 int 环绕）：

RandomAccessFile raf = new RandomAccessFile(file, "r");
raf.seek(raf.length() - 4);
byte b4 = raf.read();
byte b3 = raf.read();
byte b2 = raf.read();
byte b1 = raf.read();
long val = ((long)b1 << 24) | ((long)b2 << 16) | ((long)b3 << 8) | (long)b4;
raf.close();

val 是以字节为单位的长度。请注意：当未压缩文件大于 4GB 时，您无法确定正确的未压缩大小！

Answer 2

基于@Alexander 的回答：

RandomAccessFile raf = new RandomAccessFile(inputFilePath + ".gz", "r");
raf.seek(raf.length() - 4);
byte[] bytes = new byte[4];
raf.read(bytes);
fileSize = ByteBuffer.wrap(bytes).order(ByteOrder.LITTLE_ENDIAN).getInt();
if (fileSize < 0)
  fileSize += (1L << 32);
raf.close();

Answer 3

是否有类似的方法，如 ZipEntry.getSize()
GZIP输入流

否。它不在 Javadoc =>它不存在。

您需要这个长度做什么？

Answer 4

除了解压缩整个东西之外，没有可靠的方法来获取长度。请参阅 使用 zlib 的 gzip 文件访问功能的未压缩文件大小。

Answer 5

如果您可以猜测压缩率（如果数据与您已经处理的其他数据相似，则这是一个合理的期望），那么您可以计算出任意大文件的大小（有一些错误）。同样，这假设一个文件包含单个 gzip 流。以下假设第一个大于估计大小（基于估计比率）90% 的大小是真实大小：

estCompRatio = 6.1;
RandomAccessFile raf = new RandomAccessFile(inputFilePath + ".gz", "r");
compLength = raf.length();
byte[] bytes = new byte[4];
raf.read(bytes);
uncLength = ByteBuffer.wrap(bytes).order(ByteOrder.LITTLE_ENDIAN).getInt();
raf.seek(compLength - 4);
uncLength = raf.readInt();
while(uncLength < (compLength * estCompRatio * 0.9)){
  uncLength += (1L << 32);
}

[将 estCompRatio 设置为 0 相当于@Alexander 的答案]

Answer 6

基于 4 个尾部字节的更紧凑版本的计算（避免使用字节缓冲区，调用 Integer.reverseBytes 来反转读取字节的字节顺序）。

private static long getUncompressedSize(Path inputPath) throws IOException
{
    long size = -1;
    try (RandomAccessFile fp = new RandomAccessFile(inputPath.toFile(), "r")) {        
        fp.seek(fp.length() - Integer.BYTES);
        int n = fp.readInt();
        size = Integer.toUnsignedLong(Integer.reverseBytes(n));
    }
    return size;
}

Answer 7

相反，从底层 FileInputStream 获取 FileChannel。它告诉您压缩文件的文件大小和当前位置。例子：

@Override
public void produce(final DataConsumer consumer, final boolean skipData) throws IOException {
    try (FileInputStream fis = new FileInputStream(tarFile)) {
        FileChannel channel = fis.getChannel();
        final Eta<Long> eta = new Eta<>(channel.size());
        try (InputStream is = tarFile.getName().toLowerCase().endsWith("gz")
            ? new GZIPInputStream(fis) : fis) {
            try (TarArchiveInputStream tais = (TarArchiveInputStream) new ArchiveStreamFactory()
                .createArchiveInputStream("tar", new BufferedInputStream(is))) {

                TarArchiveEntry tae;
                boolean done = false;
                while (!done && (tae = tais.getNextTarEntry()) != null) {
                    if (tae.getName().startsWith("docs/") && tae.getName().endsWith(".html")) {
                        String data = null;
                        if (!skipData) {
                            data = new String(tais.readNBytes((int) tae.getSize()), StandardCharsets.UTF_8);
                        }
                        done = !consumer.consume(data);
                    }

                    String progress = eta.toStringPeriodical(channel.position());
                    if (progress != null) {
                        System.out.println(progress);
                    }
                }
                System.out.println("tar bytes read: " + tais.getBytesRead());
            } catch (ArchiveException ex) {
                throw new IOException(ex);
            }
        }
    }
}

Answer 8

不，不幸的是，如果您想获得未压缩的大小，您必须读取整个流并增加一个计数器，就像您在问题中提到的那样。为什么需要知道尺寸？尺寸的估计是否适合您的目的？