当系统出现压力时,Dubbo的服务调用会因为执行超时而重试,这会导致请求数增多,系统压力更大,从而可能出现雪崩效应。
为了防止这种现象,这里除了合理设置超时时长,重试次数之外,将对系统进行限流,合理现在入口的流量。
当前Dubbo框架内的服务调用,采用的是Dubbo框架。Dubbo外的调用,包括从手机端,PC端,PHP等调用CRM服务,是通过Nginx做负载均衡和代理,那么我们可以在Nginx上做限流配置。
下面是规划的架构图:
Nginx的限流配置,下面是配置方案:
参数
值
说明
当个IP并发连接数
10
表示一个IP能发起10个并发连接数
单个地址每秒请求数
10r/s
rate是请求频率. 每秒允许10个请求
令牌桶
burst=120
burst表示缓存住的请求数,令牌桶范围内的请求则排队,超出直接返回错误。
Session容器大小
200m
按照32bytes/session,可以处理6400000个session
示例配置如下:
limit_zone one $binary_remote_addr 200m;
limit_req_zone $binary_remote_addr zone=req_one:200m rate=10r/s;
limit_conn one 10;
limit_req zone=req_one burst=100;
热门工具 换一换