在Java中，如何测试与公共方法中包装的执行器服务并行运行的私有代码

Question

我有一个现有的非并行代码，我们最近通过使用执行器服务使其并发。在我们的场景中，添加并发性可确保限制发送到另一个 API 的请求数量。因此，我们正在调用外部服务并限制请求，等待所有请求完成，以便稍后在发送最终响应之前合并响应。

考虑到私有方法是并行的，我陷入了如何向这样的代码添加单元测试/模拟测试的困境。我在下面添加了我的代码结构来解释我的情况。

我想在这里测试

@Test
public void processRequest() {
  ...
}

代码

int MAX_BULK_SUBREQUEST_SIZE = 10;
public void processRequest() {
    ...
    // call to private method
    ResponseList responseList = sendRequest(requestList);
}

private void sendRequest(List<..> requestList) {
   List<Response> responseList = new ArrayList<>();
   ExecutorService executorService = Executors.newFixedThreadPool(10);
   
   int numOfSubRequests = requestList.size();
   for (int i = 0; i < numOfSubRequests; i += MAX_BULK_SUBREQUEST_SIZE) {
                List<Request> requestChunk;
                if (i + MAX_BULK_SUBREQUEST_SIZE >= numOfSubRequests) {
                    requestChunk = requestList.subList(i, numOfSubRequests);
                } else {
                    requestChunk = requestList.subList(i, i + MAX_BULK_SUBREQUEST_SIZE);
                }
                
                // parallelization
                executorService.submit(() -> {
                    Response responseChunk = null;
                    try {
                        responseChunk = callService(requestChunk); // private method
                    } catch (XYZException e) {
                        ...
                        try {
                            throw new Exception("Internal Server Error");
                        } catch (Exception ex) {
                            ...
                        }
                    }
                    responseList.add(responseChunk);
                });
            }
            executorService.shutdown();
            try {
                executorService.awaitTermination(Long.MAX_VALUE, TimeUnit.DAYS);
            } catch (InterruptedException e) {..}
        }
        return responseList;

}

private Response callService(..) {

  // call to public method1
  method1(..);

  // call to public method2
  method2(..);
}

Answer 1

我能够通过单元测试并添加一个模拟来验证调用方法的次数。如果它在分块后并行运行，则该方法将被调用多次，其数量等于它将处理的块数。