对 HBase 表进行批量放入时出现 RejectedExecutionException

Question

我正在尝试将行批量放入 HBase (0.90.0) 中，大小约为 1000（行），我有多个生产者线程将数据写入队列，还有一个消费者线程每隔几分钟唤醒一次，并写入所有内容在队列中作为批处理发送到 HBase。但是，我收到以下异常，我不确定这意味着什么。

Caused by: java.util.concurrent.RejectedExecutionException
    at java.util.concurrent.ThreadPoolExecutor$AbortPolicy.rejectedExecution(ThreadPoolExecutor.java:1760)
    at java.util.concurrent.ThreadPoolExecutor.reject(ThreadPoolExecutor.java:767)
    at java.util.concurrent.ThreadPoolExecutor.execute(ThreadPoolExecutor.java:658)
    at java.util.concurrent.AbstractExecutorService.submit(AbstractExecutorService.java:92)
    at org.apache.hadoop.hbase.client.HConnectionManager$HConnectionImplementation.processBatch(HConnectionManager.java:1135)

非常感谢任何帮助！

Answer 1

如果可以，请避免对过去已 close() 的 HTable 执行 Put 或其他操作。

通常没有在代码中间执行 htable.close() 的充分理由是，htable.flushCommits() 可能就足够了。当您的代码不再使用 HBase 时，请尝试保留 htable.close() 作为最终确定步骤。

这个 Jira 更深入地介绍了这个错误：https://issues.apache.org/jira /browse/HBASE-3692

因此，请检查您的代码，搜索对 close() 的调用，然后删除它们，或者根据需要将其替换为 flushCommits()到。我遇到了与您相同的问题，删除不必要的 htable.close() 调用足以避免该问题。

Answer 2

几个月来，我一直在使用 CDH 4.7 中的 HBase 0.94.15 的代码中寻找一个非常类似的错误，今晚我终于找到了该错误的原因。它似乎已在最新的 HBase 中修复，因此快速解决方法是升级。

问题是 HTablePool.PooledHTable.close()。 Java 的 Closeable接口表示多次调用 close() 没有任何影响。但是，如果您遵循代码，您将看到池化表接口不遵循此规则，并且第二次关闭它们实际上会将包装的表再次放回池中。在第二次关闭时，实际包装的表可能正在另一个线程中使用。这可能会导致连接在使用时关闭，甚至另一个线程访问同一个包装表。

1. 线程 A 从池中获取表 T
2. 线程 A 关闭表 T
3. 线程 B 从池中获取表 T
4. 线程 A 再次关闭表 T（并且 HTablePool.PooledHTable.close() 不会抱怨）
5. 线程 B开始使用表 T
6. 表 T 被标记为未使用，并且：
   • 池判断表 T 的使用时间不够长，可以真正关闭
   • 线程 C 从池中获取表 T 并开始使用它

我们的修复方法是删除第二个 close() 在台球桌上。不再有 RejectedExecutionException！

最新 HBase 检查池化表接口是否已关闭，如果是，则不会再次关闭包装表。它还会引发异常，该异常仍然不符合 Java Closeable 接口，但那是另一回事了。