本文,主要讲的是tomcat内存和线程方面的优化
1.调整tomcat的内存
Java 的内存模型分为:
Young,年轻代(易被 GC)。Young 区被划分为三部分,
Eden 区和两个大小严格相同的 Survivor 区,其中 Survivor 区间中,某一时刻只有其中一个是被使用的,另外一个留做垃圾收集时复制对象用,在 Young 区间变满的时候,minor GC 就会将存活的对象移到空闲的Survivor 区间中,
根据 JVM 的策略,在经过几次垃圾收集后,任然存活于 Survivor 的对象将被移动到 Tenured 区间。
Tenured,终身代。Tenured 区主要保存生命周期长的对象,一般是一些老的对象,当一些对象在 Young 复制转移一定的次数以后,对象就会被转移到 Tenured 区,
一般如果系统中用了 application 级别的缓存,缓存中的对象往往会被转移到这一区间。
Perm,永久代。主要保存 class,method,filed 对象,这部门的空间一般不会溢出,除非一次性加载了很多的类,不过在涉及到热部署的应用服务器的时候,有时候会遇到
java.lang.OutOfMemoryError : PermGen space 的错误,造成这个错误的很大原因就有可能是每次都重新部署,但是
重新部署后,类的 class 没有被卸载掉,这样就造成了大量的 class 对象保存在了 perm 中,这种情况下,
一般重新启动应用服务器可以解决问题。
分类选项说明堆空间-Xms启动JVM时的初始堆大小 -Xmx堆空间最大值新生代空间-XX:NewRatio新生代与老年代的比例 -XX:NewSize新生代大小 -XX:SurvivorRationEden区域SurvivorRation区的比例永久代空间-XX:PermSize启动JVM时的初始永久代大小 -XX:MaxPermSize永久代空间最大值
参数说明:
-Dfile.encoding:默认文件编码
-server:表示这是应用于服务器的配置,JVM 内部会有特殊处理的
-Xmx1024m:设置JVM最大可用内存为1024MB
-Xms1024m:设置JVM最小内存为1024m。此值可以设置与-Xmx相同,以避免每次垃圾回收完成后JVM重新分配内存。
-XX:NewSize:设置年轻代大小
-XX:MaxNewSize:设置最大的年轻代大小
-XX:PermSize:设置永久代大小
-XX:MaxPermSize:设置最大永久代大小
-XX:NewRatio=4:设置年轻代(包括 Eden 和两个 Survivor 区)与终身代的比值(除去永久代)。设置为 4,则年轻代与终身代所占比值为 1:4,年轻代占整个堆栈的 1/5
-XX:MaxTenuringThreshold=10:设置垃圾最大年龄,默认为:15。如果设置为 0 的话,则年轻代对象不经过 Survivor 区,直接进入年老代。对于年老代比较多的应用,可以提高效率。如果将此值设置为一个较大值,则年轻代对象会在 Survivor 区进行多次复制,这样可以增加对象再年轻代的存活时间,增加在年轻代即被回收的概论。
-XX:+DisableExplicitGC:这个将会忽略手动调用 GC 的代码使得 System.gc() 的调用就会变成一个空调用,完全不会触发任何 GC
方法如下:
1. linux 下编辑tomcat安装目录下的bin目录下的catalina.sh文件,windows下为catalina.batvi catalina.sh2. 查找到tomcat内存参数一行:/ JAVA_OPTS,如果找不到则在第一行写上3. 将JAVA_OPTS="-Xms 1024m –Xmx 1520m"一行的两个参数依据服务器实际内存数量分别进行更改:注意:在 Linux 下,下面的的参数值是被引号包围的,而 Windows 不需要引号包围。
# OS specific support. $var _must_ be set to either true or false.# 修改JVM内存大小【以下给出1G内存环境下java jvm 的参数设置参考】#JAVA_OPTS=’-Xms【初始化内存大小】 -Xmx【可以使用的最大内存】 -XX:PermSize=【内存永久保留区域】 -XX:MaxPermSize=【内存最大永久保留区域】’JAVA_OPTS="-server -Xms800m -Xmx800m -XX:PermSize=64M -XX:MaxNewSize=256m -XX:MaxPermSize=128m -Djava.awt.headless=true"
# -----------------------------------------------------------------------------# OS specific support. $var _must_ be set to either true or false.# 修改JVM内存大小#JAVA_OPTS=’-Xms【初始化内存大小】 -Xmx【可以使用的最大内存】 -XX:PermSize=【内存永久保留区域】 -XX:MaxPermSize=【内存最大永久保留区域】’JAVA_OPTS="-Dfile.encoding=UTF-8 -server -Xms2048m -Xmx2048m -XX:NewSize=512m -XX:MaxNewSize=1024m -XX:PermSize=256m -XX:MaxPermSize=256m -XX:MaxTenuringThreshold=10 -XX:NewRatio=2 -XX:+DisableExplicitGC"
一般说来,您应该使用物理内存的 80% 作为堆大小。说明:以上两个参数关系到tomcat承受的访问性能,但也要根据服务器实际内存情况设定。有人建议Xms和Xmx的值取成一样比较好,说是可以加快内存回收速度。
这两个值的大小一般根据需要进行配置。初始化堆的大小执行了虚拟机在启动时向系统申请的内存的大小。一般而言,这个参数不重要。但是有的应用程序在大负载的情况下会急剧地占用更多的内存,此时这个参数就是显得很重要,假如虚拟机启动时配置使用的内存比较小而在这种情况下有许多对象进行初始化,虚拟机就必须重复地增加内存来满足使用。由于这种原因,我们一般把-Xms和-Xmx设为相同大,而堆的最大值受限于系统使用的物理内存。一般使用数据量较大的应用程序会使用持久对象,内存使用有可能迅速地增长。当应用程序需要的内存超出堆的最大值时虚拟机就会提示内存溢出,并且导致应用服务崩溃。因此一般建议堆的最大值配置为可用内存的最大值的80%。
另外需要考虑的是Java提供的垃圾回收机制。虚拟机的堆大小决定了虚拟机花费在收集垃圾上的时间和频度。收集垃圾能够接受的速度和应用有关,应该通过分析实际的垃圾收集的时间和频率来调整。假如堆的大小很大,那么完全垃圾收集就会很慢,但是频度会降低。假如您把堆的大小和内存的需要一致,完全收集就很快,但是会更加频繁。调整堆大小的的目的是最小化垃圾收集的时间,以在特定的时间内最大化处理客户的请求。在基准测试的时候,为确保最好的性能,要把堆的大小设大,确保垃圾收集不在整个基准测试的过程中出现。
假如系统花费很多的时间收集垃圾,请减小堆大小。一次完全的垃圾收集应该不超过 3-5 秒。假如垃圾收集成为瓶颈,那么需要指定代的大小,检查垃圾收集的周详输出,研究 垃圾收集参数对性能的影响。一般说来,您应该使用物理内存的 80% 作为堆大小。当增加处理器时,记得增加内存,因为分配能够并行进行,而垃圾收集不是并行的。
2.调整tomcat的线程参数
Tomcat 6/7/8 的优化参数有点不一样,最好按下面的方式看一下官网这个文档是否还保留着这个参数启动tomcat,访问该地址,下面要讲解的一些配置信息,在该文档下都有说明的:
文档:http://127.0.0.1:8080/docs/config你也可以直接看网络版本:
Tomcat 6 文档:https://tomcat.apache.org/tomcat-6.0-doc/configTomcat 7 文档:https://tomcat.apache.org/tomcat-7.0-doc/config/Tomcat 8 文档:https://tomcat.apache.org/tomcat-8.0-doc/config/如果你需要查看 Tomcat 的运行状态可以配置tomcat管理员账户,然后登陆 Tomcat 后台进行查看编辑 /opt/tomcat7/bin/conf/tomcat-users.xml 文件,在里面添加下面信息:
<role rolename="manager"/><role rolename="manager-gui"/><role rolename="admin"/><role rolename="admin-gui"/><user username="tomcat" password="tomcat" roles="admin-gui,admin,manager-gui,manager"/>
编辑配置文件:vim /usr/program/tomcat7/conf/server.xml
打开默认
被注释的连接池配置:
默认值:修改为:
<Executorname="tomcatThreadPool"namePrefix="catalina-exec-"maxThreads="500"minSpareThreads="100" prestartminSpareThreads = "true" maxQueueSize = "100"/>
重点参数解释:
maxThreads,最大并发数,
默认设置 200,一般建议在 500 ~ 800,根据硬件设施和业务来判断
minSpareThreads,Tomcat 初始化时创建的线程数,默认设置 25
prestartminSpareThreads,在 Tomcat 初始化的时候就初始化 minSpareThreads 的参数值,如果不等于 true,minSpareThreads 的值就没啥效果了
maxQueueSize,最大的等待队列数,超过则拒绝请求修改默认的链接参数配置:
默认值:
<Connector port="8080"protocol="HTTP/1.1"connectionTimeout="20000"redirectPort="8443" />修改为:
<Connector executor="tomcatThreadPool" port="8080" protocol="org.apache.coyote.http11.Http11Nio2Protocol"connectionTimeout="20000" maxConnections="10000"redirectPort="8443" enableLookups="false" acceptCount="100" maxPostSize="10485760" compression="on" disableUploadTimeout="true"compressionMinSize="2048" acceptorThreadCount="2"compressableMimeType="text/html,text/xml,text/plain,text/css,text/javascript,application/javascript" URIEncoding="utf-8"/>
重点参数解释:
protocol,Tomcat 8 设置 nio2 更好:org.apache.coyote.http11.Http11Nio2Protocol(如果这个用不了,就用下面那个)
protocol,Tomcat 6、7 设置 nio 更好:org.apache.coyote.http11.Http11NioProtocol
acceptCount,指定当所有可以使用的处理请求的线程数都被使用时,可以放到处理队列中的请求数,超过这个数的请求将不予处理,默认设置 100
maxPostSize,以 FORM URL 参数方式的 POST 提交方式,限制提交最大的大小,
默认是 2097152(2兆),它使用的单位是字节。10485760 为 10M。
如果要禁用限制,则可以设置为 -1。
acceptorThreadCount,用于接收连接的线程的数量,默认值是1。一般这个指需要改动的时候是因为该服务器是一个多核CPU,如果是
多核 CPU 一般配置为 2.
提示:
其中和最大连接数相关的参数为maxThreads和acceptCount。如果要加大并发连接数,应同时加大这两个参数。web server允许的最大连接数还受制于操作系统的内核参数设置,通常Windows是2000个左右,Linux是1000个左右
在tomcat配置文档server.xml中的配置中,和连接数相关的其他参数有:
enableLookups:
是否反查域名【禁用DNS查询】,默认值为true。为了提高处理能力,应配置为false
connnectionTimeout:
网络连接超时,默认值60000,单位:毫秒。配置为0表示永不超时,这样配置有隐患的。通常可配置为30000毫秒。
maxKeepAliveRequests:
nginx动态的转给tomcat,nginx是不能keepalive的,而tomcat端默认开启了keepalive,会等待keepalive的timeout,默认不设置就是使用connectionTimeout。所以必须设置tomcat的超时时间,并关闭tomcat的keepalive。否则会产生大量tomcat的socket timewait。maxKeepAliveRequests="1"就可以避免tomcat产生大量的TIME_WAIT连接,从而从一定程度上避免tomcat假死。
试试设置tomcat/conf/server.xml:maxKeepAliveRequests="1"connectionTimeout="20000"maxKeepAliveRequests="1"表示每个连接只响应一次就关闭,这样就不会等待timeout了。
<Connector executor="tomcatThreadPool"port="8080" protocol="HTTP/1.1"connectionTimeout="30000" maxKeepAliveRequests="1"redirectPort="8443" bufferSize="8192" sockedBuffer="65536" acceptCount="200"/>
bufferSize:
输入流缓冲大小,默认值2048 bytes。
compression:
压缩传输,取值on/off/force,默认值off。
tomcat中如何禁止和允许列目录下的文档
在{tomcat_home}/conf/web.xml中,把listings参数配置成false即可,如下:
<servlet>...<init-param><param-name>listings</param-name><param-value>false</param-value></init-param>...</servlet>
tomcat中如何禁止和允许主机或IP地址访问
<Host name="localhost" ...>...<Valve className="org.apache.catalina.valves.RemoteHostValve" allow="*.mycompany.com,www.yourcompany.com"/><Valve className="org.apache.catalina.valves.RemoteAddrValve" deny="192.168.1.*"/>...</Host>cat /webgame/tomcat/conf/server.xml
禁用 AJP(如果你服务器没有使用 Apache)
把下面这一行注释掉,默认 Tomcat 是开启的。
<!-- <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" /> -->