媒介

在利用tomcat时，常常会碰着毗连数、线程数之类的设置问题，要真正领略这些观念，必需先相识Tomcat的毗连器（Connector）。

在前面的文章 详解Tomcat设置文件server.xml 中写到过：Connector的主要成果，是吸收毗连请求，建设Request和Response工具用于和请求端互换数据；然后分派线程让Engine（也就是Servlet容器）来处理惩罚这个请求，并把发生的Request和Response工具传给Engine。当Engine处理惩罚完请求后，也会通过Connector将响应返回给客户端。

可以说，Servlet容器处理惩罚请求，是需要Connector举办调治和节制的，Connector是Tomcat处理惩罚请求的骨干，因此Connector的设置和利用对Tomcat的机能有着重要的影响。这篇文章将从Connector入手，接头一些与Connector有关的重要问题，包罗NIO/BIO模式、线程池、毗连数等。

按照协议的差异，Connector可以分为HTTP Connector、AJP Connector等，本文只接头HTTP Connector。

一、Nio、Bio、APR

1、Connector的protocol

Connector在处理惩罚HTTP请求时，会利用差异的protocol。差异的Tomcat版本支持的protocol差异，个中最典范的protocol包罗BIO、NIO和APR（Tomcat7中支持这3种，Tomcat8增加了对NIO2的支持，而到了Tomcat8.5和Tomcat9.0，则去掉了对BIO的支持）。

BIO是Blocking IO，顾名思义是阻塞的IO；NIO是Non-blocking IO，则长短阻塞的IO。而APR是Apache Portable Runtime，是Apache可移植运行库，操作当地库可以实现高可扩展性、高机能；Apr是在Tomcat上运行高并发应用的首选模式，可是需要安装apr、apr-utils、tomcat-native等包。

2、如何指定protocol

Connector利用哪种protocol，可以通过<connector>元素中的protocol属性举办指定，也可以利用默认值。

指定的protocol取值及对应的协议如下：

假如没有指定protocol，则利用默认值HTTP/1.1，其寄义如下：在Tomcat7中，自动选取利用BIO或APR（假如找到APR需要的当地库，则利用APR，不然利用BIO）；在Tomcat8中，自动选取利用NIO或APR（假如找到APR需要的当地库，则利用APR，不然利用NIO）。

3、BIO/NIO有何差异

无论是BIO，照旧NIO，Connector处理惩罚请求的大抵流程是一样的：

在accept行列中吸收毗连（当客户端向处事器发送请求时，假如客户端与OS完成三次握手成立了毗连，则OS将该毗连放入accept行列）；在毗连中获取请求的数据，生成request；挪用servlet容器处理惩罚请求；返回response。为了便于后头的说明，首先明晰一下毗连与请求的干系：毗连是TCP层面的（传输层），对应socket；请求是HTTP层面的（应用层），必需依赖于TCP的毗连实现；一个TCP毗连中大概传输多个HTTP请求。

在BIO实现的Connector中，处理惩罚请求的主要实体是JIoEndpoint工具。JIoEndpoint维护了Acceptor和Worker：Acceptor吸收socket，然后从Worker线程池中找出空闲的线程处理惩罚socket，假如worker线程池没有空闲线程，则Acceptor将阻塞。个中Worker是Tomcat自带的线程池，假如通过<Executor>设置了其他线程池，道理与Worker雷同。

在NIO实现的Connector中，处理惩罚请求的主要实体是NIoEndpoint工具。NIoEndpoint中除了包括Acceptor和Worker外，照旧用了Poller，处理惩罚流程如下图所示（图片来历：http://gearever.iteye.com/blog/1844203）。

Acceptor吸收socket后，不是直接利用Worker中的线程处理惩罚请求，而是先将请求发送给了Poller，而Poller是实现NIO的要害。Acceptor向Poller发送请求通过行列实现，利用了典范的出产者-消费者模式。在Poller中，维护了一个Selector工具；当Poller从行列中取出socket后，注册到该Selector中；然后通过遍历Selector，找出个中可读的socket，并利用Worker中的线程处理惩罚相应请求。与BIO雷同，Worker也可以被自界说的线程池取代。

通过上述进程可以看出，在NIoEndpoint处理惩罚请求的进程中，无论是Acceptor吸收socket，照旧线程处理惩罚请求，利用的仍然是阻塞方法；但在“读取socket并交给Worker中的线程”的这个进程中，利用非阻塞的NIO实现，这是NIO模式与BIO模式的最主要区别（其他区别对机能影响较小，临时略去不提）。而这个区别，在并发量较大的景象下可以带来Tomcat效率的显著晋升：

今朝大大都HTTP请求利用的是长毗连（HTTP/1.1默认keep-alive为true），而长毗连意味着，一个TCP的socket在当前请求竣事后，假如没有新的请求到来，socket不会立马释放，而是等timeout后再释放。假如利用BIO，“读取socket并交给Worker中的线程”这个进程是阻塞的，也就意味着在socket期待下一个请求或期待释放的进程中，处理惩罚这个socket的事情线程会一直被占用，无法释放；因此Tomcat可以同时处理惩罚的socket数目不能高出最大线程数，机能受到了极大限制。而利用NIO，“读取socket并交给Worker中的线程”这个进程长短阻塞的，当socket在期待下一个请求或期待释放时，并不会占用事情线程，因此Tomcat可以同时处理惩罚的socket数目远大于最大线程数，并发机能大大提高。

二、3个参数：acceptCount、maxConnections、maxThreads