-
HTTP 요청을 수신하고 응답을 반환하는 데 사용되는 엔드포인트를 나타낸다. 톰캣은 커넥터가 없다면 사실상 서블릿 컨테이너의 역할밖에 수행하지 못한다. 결국 커넥터를 통해 웹 서버의 기능을 제공하는 것이다.
-
아래는 톰캣의 conf/server.xml에 정의되어 있는 Connector 태그의 세부사항이다.
<!-- A "Connector" represents an endpoint by which requests are received
and responses are returned. Documentation at : Java HTTP Connector: /docs/config/http.html
Java AJP Connector: /docs/config/ajp.html APR (HTTP/AJP) Connector: /docs/apr.html
Define a non-SSL/TLS HTTP/1.1 Connector on port 8080 -->
<Connector URIEncoding="UTF-8" acceptCount="100" compressableMimeType="text/html,text/xml,text/plain,text/javascript,text/css,application/javascript"
compression="on" compressionMinSize="2048" disableUploadTimeout="true" enableLookups="false" maxHttpHeaderSize="8192"
maxThreads="1024" minSpareThreads="25" noCompressionUserAgents="gozilla, traviata"
port="8080" protocol="HTTP/1.1" redirectPort="443" useBodyEncodingForURI="true">
-
Catalina 엔진이 HTTP 요청을 수행하기 위해선 요청을 받아야 하는 것이 먼저다. 기억하자. 커넥터가 먼저다.
-
커넥터는 ‘port’ 속성에 명시된 특정 TCP 포트에서 연결을 수신할 수 있도록 대기하고 있으며, 들어온 HTTP 요청을 처리하고 응답을 생성하는 책임을 담당하는 엔진으로 전달한다.
- 하나의 포트당 하나의 커넥터만 지정할 수 있다.
- 만약 Request Header에
http://www.leeho.com/doSomething URL 요청이 들어오면 톰캣은 www.leeho.com만 추출해서 톰캣 설정에 있는 host와 비교해서 매칭시킵니다.
- 뒤이어 언급되는 엔진이 해당 요청을 처리한 뒤 커넥터에 응답합니다. 응답을 받은 커넥터는 프로토콜에 맞춰 클라이언트에게 다시 응답합니다.
-
여기서 생성되는 요청들에는 스레드가 하나씩 할당되고, 특정 속성에 의해 생성되는 스레드의 수는 임의 조절이 가능하다.
- 여기서 스레드는 커넥션을 맺는 역할이다.
- 톰캣이 맺을 수 있는 커넥션의 수와 스레드의 수는 엄연히 다르다.
-
커넥터는 프로토콜에 따라 HTTP Connector, HTTP2 Upgrade Protocol, AJP Connector 가 존재한다.
-
여기서 짚고 넘어갈 몇 개의 속성을 확인해보자.
- options img
- protocol
- 커넥터가 통신에 사용할 프로토콜을 정의하는 속성이다. 기본적으로 HTTP/1.1 로 설정되지만 AJP, HTTP 2 프로토콜로도 수정이 가능하다.
- SSLEnabled
- true로 설정 시 커넥터가 SSL Handshake를 사용할 수 있다.
- maxConnections
- 서버가 주어진 시간에 수락하고 처리할 최대 연결 수를 의미한다. 디폴트 값은 커넥터 유형에 따라 다르며 NIO 및 NIO2의 경우 10000개, APR의 경우 8192개다.
- 만약 임계치에 도달하면 서버는 추가 연결은 수락하지만 처리하지 않는다. 스레드가 커넥션 요청을 처리 가능한 상태가 될 때까지 커넥터가 생성한 큐에 대기한 뒤, 처리가 가능해진 경우에 처리된다.
- 여기서 큐의 최대값은 acceptCount에서 설정할 수 있으며 기본값은 100이다. 그리고 이 큐마저 가득 채워지면 요청이 거절되거나 타임 아웃이 발생하게 된다.
- maxThreads
- 커넥터가 생성할 최대 요청 처리 스레드 수로 처리할 수 있는 최대 동시 요청 수를 결정하는 값이다. 기본값은 200으로 설정된다.
- 스프링의 쓰레드 풀이 200개라는 소리가 바로 여기서 나온 것이다.
- 커넥터가 사용하는 쓰레드 풀을 Executor (Shared Thread Pool)로 설정했다면 값이 무시된다. 이 경우 executor가 커넥터에 매핑되기 위해선 server.xml 내에서 커넥터 태그보다 먼저 설정되어야 한다.
- 현재 사용 가능한 요청 처리 스레드에서 처리할 수 있는 것보다 많은 동시 요청이 수신될 때, 스레드를 추가로 얼마나 생성할 것인지에 대한 속성이다.
- 이 값을 너무 낮게 설정하면 요청이 서버 소켓 내부에 있는 큐에 쌓이게 되며, 소켓이 가득 차면 연결이 거부된다.
- parseBodyMethods
- 기본적으로 톰캣은 POST 요청이 오는 경우에만 Request Body를 파싱한다. 따라서 만약 다른 HTTP Method에 대해서 application/x-www-form-urlencoded 컨텐츠 타입에서 Request Body를 파싱하고 싶다면 위 속성에 원하는 HTTP Method를 넣어주면 된다. 하지만 POST 이외의 설정은 Tomcat이 서블릿 사양의 의도에 어긋나는 방식으로 동작하도록 만들기 때문에 권장되지 않는다. 또한 TRACE의 경우는 아예 403 forbidden을 뱉어버린다. 건들지 말자.
- acceptCount
- 이 옵션은 request Queue의 길이를 정의한다. HTTP request가 들어왔을때, idle thread가 없으면 queue에서 idle thread가 생길때 까지 요청을 대기하는 queue의 길이이다.
- 보통 queue에 메세지가 쌓였다는 것은 해당 톰캣 인스턴스에 처리할 수 있는 쓰레드가 없다는 이야기이고, 모든 쓰레드를 사용해도 요청을 처리를 못한다는 것은 이미 장애 상태일 가능성이 높다.
- 그래서 큐의 길이를 길게 주는 것 보다는, 짧게 줘서, 요청을 처리할 수 없는 상황이면 빨리 에러 코드를 클라이언트에게 보내서 에러처리를 하도록 하는 것이 좋다.
- Queue의 길이가 길면, 대기 하는 시간이 길어지기 때문에 장애 상황에서도 계속 응답을 대기를 하다가 다른 장애로 전파 되는 경우가 있다. 순간적인 과부하 상황에 대비 하기 위해서 큐의 길이를 0 보다는 10내외 정도로 짧게 주는 것이 좋다.
-
위에서도 언급했지만 커넥터는 굉장히 중요하다. 그 이유는 서블릿은 사실 HTTP 요청을 받을 수 있는 그 어떠한 코드도 존재하지 않기 때문이다.
- 서블릿 코드 자체는 특정 포트에서 요청을 수신하지 않으며 클라이언트와 직접 통신하지도 않으며 리소스에 대한 액세스를 관리할 책임도 없다.
- 이러한 것들을 가능케 하는 것은 서블릿 컨테이너인 톰캣(+@ 커넥터)가 존재하기 때문이라는 점을 잊지 말자.
