使用base64编码器和InputStreamReader的问题

Question

我的数据库中有一些 CLOB 列，我需要将 Base64 编码的二进制文件放入其中。 这些文件可能很大，所以我需要流式传输它们，我无法一次读取整个文件。

我正在使用 org.apache.commons.codec.binary.Base64InputStream 进行编码，但遇到了问题。我的代码本质上是这样

FileInputStream fis = new FileInputStream(file);
Base64InputStream b64is = new Base64InputStream(fis, true, -1, null);
BufferedReader reader = new BufferedReader(new InputStreamReader(b64is));

preparedStatement.setCharacterStream(1, reader);

当我运行上面的代码时，我在执行更新期间得到其中之一 java.io.IOException：底层输入流返回零字节，它被抛出到InputStreamReader代码深处。

为什么这不起作用？在我看来，reader 会尝试从 Base 64 流中读取，而该流会从文件流中读取，一切都应该很顺利。

Answer 1

这似乎是 Base64InputStream 中的一个错误。你调用它是正确的。

您应该将此报告给 Apache commons 编解码器项目。

简单测试用例：

import java.io.*;
import org.apache.commons.codec.binary.Base64InputStream;

class tmp {
  public static void main(String[] args) throws IOException {
    FileInputStream fis = new FileInputStream(args[0]);
    Base64InputStream b64is = new Base64InputStream(fis, true, -1, null);

    while (true) {
      byte[] c = new byte[1024];
      int n = b64is.read(c);
      if (n < 0) break;
      if (n == 0) throw new IOException("returned 0!");
      for (int i = 0; i < n; i++) {
        System.out.print((char)c[i]);
      }
    }
  }
}

InputStream 的 read(byte[]) 调用不允许返回 0。它确实在任何长度为 3 字节倍数的文件上返回 0 。

Answer 2

有趣的是，我在这里做了一些测试，当您使用 InputStreamReader 读取 Base64InputStream 时，无论流的来源如何，它确实会抛出该异常，但当您读取时它可以完美地工作它作为二进制流。正如 Trashgod 提到的，Base64 编码是有框架的。实际上，InputStreamReader 应该再次调用 Base64InputStream 上的 flush()，以查看它是否不再返回任何数据。

除了实现您自己的 Base64InputStreamReader 或 Base64Reader 之外，我没有看到其他方法可以解决此问题。 这实际上是一个错误，请参阅 Keith 的回答。

作为一种解决方法，您也可以将其存储在数据库中的 BLOB 而不是 CLOB 中，并使用 PreparedStatement#setBinaryStream()反而。是否存储为二进制数据并不重要。无论如何，您都不希望有如此大的 Base64 数据可索引或可搜索。

---

更新：因为这不是一个选项，并且让 Apache Commons Codec 人员修复 Base64InputStream 错误，我将其报告为 CODEC-101 可能需要一些时间，您可以考虑使用其他第 3 方 Base64 API。我在这里找到了一个（公共领域，所以你可以用它做任何事情你想要的，甚至放在你自己的包中），我在这里测试过它，它工作得很好。

InputStream base64 = new Base64.InputStream(input, Base64.ENCODE);

---

更新 2：commons 编解码器人员已修复了很快。

Index: src/java/org/apache/commons/codec/binary/Base64InputStream.java
===================================================================
--- src/java/org/apache/commons/codec/binary/Base64InputStream.java (revision 950817)
+++ src/java/org/apache/commons/codec/binary/Base64InputStream.java (working copy)
@@ -145,21 +145,41 @@
         } else if (len == 0) {
             return 0;
         } else {
-            if (!base64.hasData()) {
-                byte[] buf = new byte[doEncode ? 4096 : 8192];
-                int c = in.read(buf);
-                // A little optimization to avoid System.arraycopy()
-                // when possible.
-                if (c > 0 && b.length == len) {
-                    base64.setInitialBuffer(b, offset, len);
+            int readLen = 0;
+            /*
+             Rationale for while-loop on (readLen == 0):
+             -----
+             Base64.readResults() usually returns > 0 or EOF (-1).  In the
+             rare case where it returns 0, we just keep trying.
+
+             This is essentially an undocumented contract for InputStream
+             implementors that want their code to work properly with
+             java.io.InputStreamReader, since the latter hates it when
+             InputStream.read(byte[]) returns a zero.  Unfortunately our
+             readResults() call must return 0 if a large amount of the data
+             being decoded was non-base64, so this while-loop enables proper
+             interop with InputStreamReader for that scenario.
+             -----
+             This is a fix for CODEC-101
+            */
+            while (readLen == 0) {
+                if (!base64.hasData()) {
+                    byte[] buf = new byte[doEncode ? 4096 : 8192];
+                    int c = in.read(buf);
+                    // A little optimization to avoid System.arraycopy()
+                    // when possible.
+                    if (c > 0 && b.length == len) {
+                        base64.setInitialBuffer(b, offset, len);
+                    }
+                    if (doEncode) {
+                        base64.encode(buf, 0, c);
+                    } else {
+                        base64.decode(buf, 0, c);
+                    }
                 }
-                if (doEncode) {
-                    base64.encode(buf, 0, c);
-                } else {
-                    base64.decode(buf, 0, c);
-                }
+                readLen = base64.readResults(b, offset, len);
             }
-            return base64.readResults(b, offset, len);
+            return readLen;
         }
     }

我在这里尝试了一下，效果很好。

Answer 3

“为了获得最高效率，请考虑包装 InputStreamReader 内 BufferedReader 例如：“

BufferedReader in = new BufferedReader(new InputStreamReader(b64is));

附录：作为 Base64已填充为 4 个字符的倍数，请验证源代码是否未被截断。可能需要flush()。