Javaweb应用使用限流处理大量的并发请求详解
发布时间：2020-12-14 21:07:29 所属栏目：Java 来源：网络整理
导读：在web应用中，同一时间有大量的客户端请求同时发送到服务器，例如抢购、秒杀等。这个时候如何避免将大量的请求同时发送到业务系统。 第一种方法：在容器中配置最大请求数，如果大于改请求数，则客户端阻塞。该方法有效的阻止了大量的请求同时访问业务系统，
|
在web应用中，同一时间有大量的客户端请求同时发送到服务器，例如抢购、秒杀等。这个时候如何避免将大量的请求同时发送到业务系统。 第一种方法：在容器中配置最大请求数，如果大于改请求数，则客户端阻塞。该方法有效的阻止了大量的请求同时访问业务系统，但对用户不友好。 第二种方法：使用过滤器，保证一定数量的请求能够正常访问系统，多余的请求先跳转到排队页面，由排队页面定时发起请求。过滤器实现如下：
public class ServiceFilter implements Filter {
private static final int MAX_COUNT = 20;
private AtomicInteger filterCount = 0;
public void doFilter(ServletRequest request,ServletResponse response,FilterChain chain) throws IOException,ServletException {
System.out.println("before"+filterCount);
if(filterCount > MAX_COUNT) {
//请求个数太多，跳转到排队页面
request.getRequestDispatcher("index.jsp").forward(request,response);
} else {
//请求个数加1
filterCount.incrementAndGet();
chain.doFilter(request,response);
//访问结束，请求个数减1
filterCount.decrementAndGet();
}
}
此种方式的实现就是限流。可以参考RateLimiter的令牌桶限流策略的实现。
public class RateLimiterUtils {
private static Logger logger = LoggerFactory.getLogger(RateLimiterUtils.class);
private static final ConcurrentHashMap<String,RateLimiter> resourceLimitMap =
new ConcurrentHashMap<String,RateLimiter>();
/**
* 限流
* @param resource 需要限流的对象的标识
* @return true表示得到了许可，没有达到限流阀值，false表示得不到许可，达到了限流阀值。
* @author: hejinen
* @date:2016年10月19日 上午11:08:49
*/
public static boolean rateLimit(String resource) {
RateLimiter limit = getRateLimit(resource);
return limit.tryAcquire();
}
/**
* 获取某个需限流对象的RateLimiter，如不存在则创建新的
* @param resouce 需要限流的对象标识
*/
public static RateLimiter getRateLimit(String resource) {
RateLimiter limit = resourceLimitMap.get(resource);
if(limit == null) {
synchronized(RateLimiterUtils.class) {
limit = resourceLimitMap.get(resource);
double qps = getQpsByResource(resource);
if(limit == null) {
limit = RateLimiter.create(qps);
resourceLimitMap.put(resource,limit);
LoggerUtil.info(RateLimiterUtils.class,"create rate limiter for key:{0},QPS:{1}",resource,qps);
}
}
}
return resourceLimitMap.get(resource);
}
}
总结 以上就是本文关于Javaweb应用使用限流处理大量的并发请求详解的全部内容，希望对大家有所帮助。感兴趣的朋友可以继续参阅本站：javaweb设计中filter粗粒度权限控制代码示例、Javaweb项目session超时解决方案、Javaweb使用cors完成跨域ajax数据交互等，有什么问题可以随时留言，小编会及时回复大家的。感谢朋友们对本站的支持！ （编辑：李大同） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |