使用 ab 进行测试时，套接字服务器挂起，等待 BufferedReader.readline()

Question

我正在制作一个基于 Java 的网络服务器。但是当我用 ApacheBench 测试它时，它有时会停止响应。

在 Macbook Air 上：

ab -n 20000 -c 40 -d  http://localhost:1080/

在完成 16400 或更多请求后保证超时。

在 Ubuntu 桌面上

ab -n 20000 -c 1000 -d  http://localhost:1080/

大多数情况下都可以成功完成，但有时运行几次后就会停止响应。

我已经确定（使用 Eclipse），当服务器停止响应时，它正在等待 BufferedReader.readline() ，我用它来读取 HTTP 请求标头。但我不知道为什么要等待。

测试代码在这里：

import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStreamReader;
import java.io.PrintWriter;
import java.net.ServerSocket;
import java.net.Socket;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

public class TestServer {
    public static void main(String[] args){
        ServerSocket socket = null;

        try{
            socket = new ServerSocket(1080);
            ExecutorService pool = Executors.newFixedThreadPool(10);
            while(true){
                Socket s = socket.accept();
                pool.execute(new RequestHandler(s) );
            }
        }
        catch(Exception e){
            e.printStackTrace();
        }
        finally{
            if(null!=socket){
                try {
                    socket.close();
                } catch (IOException e) {
                    e.printStackTrace();
                }
            }
        }

    }
}

class RequestHandler implements Runnable{
    final Socket s;
    public RequestHandler(Socket s) {
        this.s = s;
    }

    public void run() {
        try {
            BufferedReader br = new BufferedReader(new InputStreamReader(s.getInputStream()));
            String line = br.readLine();

            PrintWriter pw = new PrintWriter(s.getOutputStream());
            pw.print("HTTP/1.0 200 OK\r\nContent-Type: text/html\r\n\r\n");
            pw.print(line);
            pw.flush();
        } catch (IOException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        }
        finally{
            if(s!=null){
                try {
                    s.close();
                } catch (IOException e) {
                    // TODO Auto-generated catch block
                    e.printStackTrace();
                }
            }
        }
    }
}

顺便说一句，在编写测试代码时，我发现了一些奇怪的东西

如果

BufferedReader br = new BufferedReader(new InputStreamReader(s.getInputStream()));
String line = br.readLine();

替换为

String line = "don't read the socket";

ab 将失败并显示这样的消息：“apr_socket_recv：连接被拒绝（111）连接由对等方重置（104） )"

但是用 Firefox 4 打开 localhost:1080 会看到“不读取套接字”的混乱情况。

Answer 1

我想知道这是否是 ApacheBench 测试的故意部分：查看当打开连接但没有发送数据时服务器的行为。据推测 ApacheBench 是开源的，因此您可以看看它在 16400 次尝试后是否会调用一些特殊行为（我打赌它会打开套接字，然后不发送请求）。

无论如何，您可能需要确保在套接字上设置显式超时，以防您的 Java 版本默认为 0（=无限）。不要假设每个客户端都会表现得完美并且总是向您发送您所期望的精确数据。

因此，作为一般规则，您需要确保您的 Web 服务器不会在“发生异常情况”时崩溃 - 网络就是这样，有时数据包/连接会随机丢失，您需要处理它。操作系统很可能会限制连接可以打开的时间长度，因此您的服务器可能会突然看到操作系统“从其脚下拉起地毯”。我想 ApacheBench 测试可能会模拟一些像这样的小精灵（这甚至可能是您在 Ubuntu 中看到的，尽管 readLine() 挂起可能是模拟不在开放连接上发送请求，正如我提到的）。