你的位置:首页 > ASP.net教程

[ASP.net教程]如何设置tomcat线程池大小?


  • 背景

在我们的日常开发中都涉及到使用tomcat做为服务器,但是我们该设置多大的线程池呢?以及根据什么原则来设计这个线程池呢?接下来,我将介绍本人是怎么设计以及计算的。

  • 目标

确定tomcat服务器线程池大小

  • 具体方法

 众所周知,tomcat接受一个request后处理过程中,会设计到cpu的时间和IO等待的时间。其中IO等待时,cpu被动放弃执行,其他线程就可以利用这段时间片进行操作。

所以我们可以采用服务器IO优化的通用规则:

线程大小 = ( (线程io时间 + 线程cpu)  / 线程cpu time) * cpu核数

举例: 线程io时间为100ms(IO操作比如数据库查询,同步远程调用等),线程cpu时间10ms,服务器物理机核数为4个。通过上面的公式,我们计算出来的大小是 ((100 + 10 )/10 ) *4 = 44。理论上我们有依据,但是实际计算过程中我们怎么知道线程IO时间和cpu时间呢? 这个就设计到实际编码过程中的处理时间监控。下面我说一下我的做法

  1. 通过java 实现内置的filter接口,我们可以拿到一个request消耗的总时间

public class MoniterFilter implements Filter {  private static final Logger logger = LoggerFactory.getLogger(MoniterFilter.class);  @Override  public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException,      ServletException {    long start = System.currentTimeMillis();    HttpServletRequest httpRequest = (HttpServletRequest) request;    HttpServletResponse httpResponse = (HttpServletResponse) response;    String uri = httpRequest.getRequestURI();    String params = getQueryString(httpRequest);    try {      chain.doFilter(httpRequest, httpResponse);    } finally {      long cost = System.currentTimeMillis() - start;      logger.info("access url [{}{}], cost time [{}] ms )", uri, params, cost);    }   private String getQueryString(HttpServletRequest req) {    StringBuilder buffer = new StringBuilder("?");    Enumeration<String> emParams = req.getParameterNames();    try {      while (emParams.hasMoreElements()) {        String sParam = emParams.nextElement();        String sValues = req.getParameter(sParam);        buffer.append(sParam).append("=").append(sValues).append("&");      }      return buffer.substring(0, buffer.length() - 1);    } catch (Exception e) {      logger.error("get post arguments error", buffer.toString());    }    return "";  }  @Override  public void destroy() {  }  @Override  public void init(FilterConfig filterConfig) throws ServletException {  }}

  2. 通过添加切面来监控线程IO耗时(jdk,cglib)

public class DaoInterceptor implements MethodInterceptor {  private static final Logger logger = LoggerFactory.getLogger(DaoInterceptor.class);  @Override  public Object invoke(MethodInvocation invocation) throws Throwable {    StopWatch watch = new StopWatch();    watch.start();    Object result = null;    Throwable t = null;    try {      result = invocation.proceed();    } catch (Throwable e) {      t = e == null ? null : e.getCause();      throw e;    } finally {      watch.stop();      logger.info("({}ms)", watch.getTotalTimeMillis());    }    return result;  }}

通过上述代码就可以计算出相应时间,从而计算出线程大小啦。但是我们就到此为止了吗?

其实还没有,计算出的数值只是存在理论情况下,我们还是需要通过压测工具(Jmeter)来压测一下线服务器,同时根据qps值来动态微调刚才计算出的线程池大小。

至此,线程池大小应该就出来啦。