百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

性能测试之tomcat+nginx负载均衡

off999 2025-01-07 14:56 21 浏览 0 评论

nginx tomcat 配置

准备工作:两个tomcat 执行命令 cp -r apache-tomcat-8.5.56 apache-tomcat-8.5.56_2

修改被复制的tomcat2下conf的server.xml 的端口号,不能与tomcat1的端口号重复,不然会启动报错 ,一台电脑上想要启动多个tomcat,需要修改server.xml文件的3个端口

分别修改tomcat1和tomcat2 端口,这里有三个端口需要修改,分别如下:   
    
shutdown 端口:8005  主要负责启动关闭.   
    
ajp端口:8009 主要负责通过ajp均衡(常用于apache和tomcat整合)   
    
http端口:8080 可以通过web页面直接访问(nginx+tomcata整合)   

tomcat2的http端口修改为888】1

tomcat2的ajp端口修改为8010

tomcat2的shutdown端口修改为8006

分别在每个tomca的bin目录下启动服务 startup

使用 lsof -f:8080 lsof -f:8881 查看是否端口被占用,得知项目已经成功被启动

两个端口访问都是正常的



nginx conf文件讲解

  • 全局块:配置影响nginx全局的指令。一般有运行nginx服务器的用户组,nginx进程pid存放路径,日志存放路径,配置文件引入,允许生成worker process数等
  • events块:配置影响nginx服务器或与用户的网络连接有每个进程的最大连接数,选取哪种事件驱动模型处理连接请求,是否允许同时接受多个网路连接,开启多个网络连接序列化等。
  • http块;可以嵌套多个server,配置代理,缓存,日志定义等绝大多数功能和第三方模块的配置。如文件引入,mime-type定义,日志自定义,是否使用sendfile传输文件,连接超时时间,单连接请求数等
  • server块:配置虚拟主机的相关参数,一个http中可以有多个server
  • location块:配置请求的路由,以及各种页面的处理情况配置负载均衡

worker_processes 设置nginx工作的进程数,一般设置与cpu核数相等或2倍


events {

use epoll;

worker_connections 1024;

}

epoll 事件模型,处理效率高

worker_connections 单个worker进程允许客户端最大连接数,实际最大值=work_processes * worker_connections

multi_accept 告诉nginx收到一个新连接的通知后接受尽可能多的连接,默认是on,设置为on后,多个worker按串行方式来处理连接,也就是一个连接只有一个worker被唤醒,其他的处于休眠状态,设置为off后,多个worker按并行方式来处理连接,也就是一个连接会唤醒所有的worker,直到连接分配完毕,没有取得连接的继续休眠。参数只针对非常大量连接有优化作用。


  • Include mime.types : 媒体类型include 只是一个在当前文件中包含另一个文件内容的指令。
  • default_type application/octet-stream :默认媒体类型足够支持所以请求。
  • sendfIle on:开启高效文件传输模式,sendfle指令指定nginx是否调用sendfle数来输出文件,对于普通应用设为 on,如果用来进行下载等应用磁盘IO重负载应用,可设置为off,以平衡磁盘与网络IO处理速度,降低系统的负载。注意:如果图片显示不正常把这个改成off。
  • tcp_nopush on:必须在sendfle开启模式才有效,防止网络阻塞,积极的减少网络报文段的数量(将响应头和正文的开始部分一起发送,而不一个接一个的发送)
  • keepalive_timeout 网络会话保持时间
  • tcp_nodelay:也是防止网络阻塞,需要开启keepalive参数才有效
  • client header buffer size 4k:客户端请求头部的缓冲区大小,这个可以根据你的系统分页大小来设置,一般一个请求头的大小不会超过1k,不过由于一般系统分页都要大于1k,所以这里设置为分页大小。分页大小可以用命令getconf PAGESIZE取得
  • open file cache max=102400 inactive=20s : 为打开文件指定缓存,默认是没有启用的,max指定缓存数量,建议和打开文件数一致,inactive 是指经过多长时间文件没被请求后删除缓存
  • open file cache valid 30s:这个是指检查一次缓存的有效信息的频率
  • open file cache min uses 1: open file cache指今中的inactive 参数时间内文件的最少使用次数,如果超过这数字,文件描述符一直是在缓存中打开的,如上,如果有一个文件在inactive 时间内一次没被使用,它将被移除
  • client header timeout : 设置请求头的超时时间。我们也可以把这个设置低一些如果超过这个时间没有发送任何数据,nginx 将返回request time out的错误
  • client body timeout :设置请求体的超时时间。可以把这个设置低一些,超过这个时间没有发送任何数据,和上面一样的错误提示
  • reset timeout connection : 通知nginx关闭未响应的客户端连接,会释放那个客户端所占有的内存空间
  • send timeout:响应客户端超时时间,这个超时时间仅限于两个活动之间的时间,如果超过这个时间,客户端没有任何活动,nginx关闭连接。
  • server tokens:并不会nginx执行的速度更快,但它可以关闭在错误页面中的nginx版本信息,更安全
  • client max body size:上传文件大小的限制

配置负载均衡

在nginx.conf 配置

upstream zcz_app {
server 192.168.43.138:8080 weight=1 max_fails=2 fail_timeout=30s;
server 192.168.43.138:8881 weight=1 max_fails=2 fail_timeout=30s;
}

负载均衡以upstream为模块定义,后面跟模块名称

  • server ip地址:服务端口:
  • 均衡策略: weight 权重
  • 轮询次数:max_fails
  • 轮询时长:fail_timeout

在location模块下使用负载均衡,注解自带的location,新增上面定义的负载均衡

location / {
proxy_next_upstream http_502 http_504 error timeout invalid_header;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_pass http://zcz_app;
root html;
index index.html index.htm;
}

重新加载配置文件

/usr/local/nginx/sbin/nginx -s reload

未负载均衡前需要加上端口号

负载均衡后访问不需要加端口号

负载均衡的几种方式

轮询:默认策略,如果服务器down掉了,会自动删除该服务器;此策略适合服务器配置相当,无状态且短平快的服务使用

iphash依据ip分配 :iphash不能与backup同时使用:此策略适合有状态服务,比如session; 服务器需要别除,必须手动停掉 (常用于灰度发布,通过配置iphash 实现)

least conn最小连接 :此负载均衡策略适合请求处理时间长短不一造成服务器过载的情况

weight权重 :权重越高分配到需要处理的请求越多;此策略可以与least conn和ip hash结合使用,此策略比较适合服务器的硬件配置差别比较大的情况

fair响应时间 :负载均衡策略的实现需要安装第三方插件;按照服务器端的响应时间来分配请求,响应时间短的优先分配

url_hash依据URL分配 :按访问ur的hash结果来分配请求,使每个url定向到同一个后端服务器,要配合缓存命中来使用

相关推荐

阿里云国际站ECS:阿里云ECS如何提高网站的访问速度?

TG:@yunlaoda360引言:速度即体验,速度即业务在当今数字化的世界中,网站的访问速度已成为决定用户体验、用户留存乃至业务转化率的关键因素。页面加载每延迟一秒,都可能导致用户流失和收入损失。对...

高流量大并发Linux TCP性能调优_linux 高并发网络编程

其实主要是手里面的跑openvpn服务器。因为并没有明文禁p2p(哎……想想那么多流量好像不跑点p2p也跑不完),所以造成有的时候如果有比较多人跑BT的话,会造成VPN速度急剧下降。本文所面对的情况为...

性能测试100集(12)性能指标资源使用率

在性能测试中,资源使用率是评估系统硬件效率的关键指标,主要包括以下四类:#性能测试##性能压测策略##软件测试#1.CPU使用率定义:CPU处理任务的时间占比,计算公式为1-空闲时间/总...

Linux 服务器常见的性能调优_linux高性能服务端编程

一、Linux服务器性能调优第一步——先搞懂“看什么”很多人刚接触Linux性能调优时,总想着直接改配置,其实第一步该是“看清楚问题”。就像医生看病要先听诊,调优前得先知道服务器“哪里...

Nginx性能优化实战:手把手教你提升10倍性能!

关注△mikechen△,十余年BAT架构经验倾囊相授!Nginx是大型架构而核心,下面我重点详解Nginx性能@mikechen文章来源:mikechen.cc1.worker_processe...

高并发场景下,Spring Cloud Gateway如何抗住百万QPS?

关注△mikechen△,十余年BAT架构经验倾囊相授!大家好,我是mikechen。高并发场景下网关作为流量的入口非常重要,下面我重点详解SpringCloudGateway如何抗住百万性能@m...

Kubernetes 高并发处理实战(可落地案例 + 源码)

目标场景:对外提供HTTPAPI的微服务在短时间内收到大量请求(例如每秒数千至数万RPS),要求系统可弹性扩容、限流降级、缓存减压、稳定运行并能自动恢复。总体思路(多层防护):边缘层:云LB...

高并发场景下,Nginx如何扛住千万级请求?

Nginx是大型架构的必备中间件,下面我重点详解Nginx如何实现高并发@mikechen文章来源:mikechen.cc事件驱动模型Nginx采用事件驱动模型,这是Nginx高并发性能的基石。传统...

Spring Boot+Vue全栈开发实战,中文版高清PDF资源

SpringBoot+Vue全栈开发实战,中文高清PDF资源,需要的可以私我:)SpringBoot致力于简化开发配置并为企业级开发提供一系列非业务性功能,而Vue则采用数据驱动视图的方式将程序...

Docker-基础操作_docker基础实战教程二

一、镜像1、从仓库获取镜像搜索镜像:dockersearchimage_name搜索结果过滤:是否官方:dockersearch--filter="is-offical=true...

你有空吗?跟我一起搭个服务器好不好?

来人人都是产品经理【起点学院】,BAT实战派产品总监手把手系统带你学产品、学运营。昨天闲的没事的时候,随手翻了翻写过的文章,发现一个很严重的问题。就是大多数时间我都在滔滔不绝的讲理论,却很少有涉及动手...

部署你自己的 SaaS_saas如何部署

部署你自己的VPNOpenVPN——功能齐全的开源VPN解决方案。(DigitalOcean教程)dockovpn.io—无状态OpenVPNdockerized服务器,不需要持久存储。...

Docker Compose_dockercompose安装

DockerCompose概述DockerCompose是一个用来定义和管理多容器应用的工具,通过一个docker-compose.yml文件,用YAML格式描述服务、网络、卷等内容,...

京东T7架构师推出的电子版SpringBoot,从构建小系统到架构大系统

前言:Java的各种开发框架发展了很多年,影响了一代又一代的程序员,现在无论是程序员,还是架构师,使用这些开发框架都面临着两方面的挑战。一方面是要快速开发出系统,这就要求使用的开发框架尽量简单,无论...

Kubernetes (k8s) 入门学习指南_k8s kubeproxy

Kubernetes(k8s)入门学习指南一、什么是Kubernetes?为什么需要它?Kubernetes(k8s)是一个开源的容器编排系统,用于自动化部署、扩展和管理容器化应用程序。它...

取消回复欢迎 发表评论: