当前位置:首页 > 科技  > 软件

五分钟技术趣谈 | 业务系统常用限流算法浅析

来源: 责编: 时间:2023-09-18 21:40:32 411观看
导读Part 01什么是限流? 业务系统限流是指系统在面临高并发或者大流量请求的情况下,限制新的请求对系统的访问,从而保证系统的稳定性和安全性。Part 02为什么要限流? 系统资源和处理能力都是有限的,如果一个系统不限制流量,比

图片VsB28资讯网——每日最新资讯28at.com

Part 05

滑动窗口算法 

为了解决固定窗口算法中的临界问题,让流量限制更加平滑,产生了滑动窗口算法。该算法将固定窗口中分割出多个小窗口,分别记录每个小窗口内的访问次数,然后根据时间将窗口往前滑动并删除过期的小窗口。VsB28资讯网——每日最新资讯28at.com

图片VsB28资讯网——每日最新资讯28at.com

假设窗口时间还是1分钟,滑动窗口算法把它划分为6个小周期,每个小周期是10秒,对应滑动窗口被划分为6个小格子。每隔10秒时间窗口就会往右滑动一格,每个小窗口都有独立的计数器,如果请求是43秒到达的,40秒到50秒小窗口对应的计数器就会加1。VsB28资讯网——每日最新资讯28at.com

我们看下滑动窗口是如何解决临界问题的,假设1分钟内的限流阀值还是10,50秒到60秒内(比如58秒的时候)来了10个请求,落在绿色格子里。时间过了60秒这个点之后又来10个请求,落在红色格子里。滑动窗口过了60秒这个点后会右移一个小格,当前的窗口时间段是10秒到70秒,这个区域的请求已经超过限定的10了,所以红色格子的请求都会被拒绝。VsB28资讯网——每日最新资讯28at.com

滑动窗口算法虽然解决了临界问题,但是一旦到达限流阈值后,请求都会被直接拒绝。在实际应用中我们要的限流效果不是把流量一下子掐断,而是让流量平滑地进入系统当中。VsB28资讯网——每日最新资讯28at.com

Part 06

漏桶算法 

如何更加平滑的限流,我们来看看漏桶算法。漏桶算法的限流原理可以认为就是进水漏水的过程。请求像水一样以任意速率注入漏桶,而漏桶会按照固定的速率将水漏掉;当进水速度超过漏水速度时,漏桶会装满,此后进入的水会溢出,也就是请求被丢弃。VsB28资讯网——每日最新资讯28at.com

图片VsB28资讯网——每日最新资讯28at.com

漏桶算法主要目的是将网络中的突发流量整合成平滑稳定的流量,不过由于漏桶对流量的控制过于严格,导致部分场景下不能充分利用系统资源。因为漏桶的漏水速率是固定的,即使在某一时刻下游系统处理能力富余,漏桶也不会允许突发流量通过。流量突发时我们希望系统在稳定的同时,能尽可能快的处理用户请求,接下来介绍的令牌桶算法能够在一定程度上解决流量突发的问题。VsB28资讯网——每日最新资讯28at.com

Part 07

令牌桶算法 

令牌桶算法是对漏桶算法的一种改进,除了能够限流外,还允许一定程度的流量突发。其原理是设置一个令牌桶,以恒定速率向令牌桶放入令牌,请求到达时尝试从令牌桶中拿令牌,只有拿到令牌才能够放行,否则请求将会被拒绝。VsB28资讯网——每日最新资讯28at.com

令牌桶具有以下特点:VsB28资讯网——每日最新资讯28at.com

  • 根据限流大小定速往令牌桶里放令牌。
  • 如果令牌数量超过令牌桶容量的限制就丢弃令牌。
  • 每一个请求首先去令牌桶拿令牌,拿到令牌就处理请求,拿不到令牌就直接拒绝。

图片VsB28资讯网——每日最新资讯28at.com

Part 08

 小结  

最后我们对上述四种限流算法进行一下简单的总结。VsB28资讯网——每日最新资讯28at.com

固定窗口算法实现简单,但是流量曲线不够平滑有突刺现象,在窗口切换时可能会产生两倍阈值流量的临界问题。滑动窗口算法作为固定窗口算法的一种改进,有效解决了窗口切换时的临界问题。阿里开源的流量控制框架Sentinel就是基于滑动窗口实现的。VsB28资讯网——每日最新资讯28at.com

漏桶算法能够对流量起到平滑整流的作用,让随机不确定的流量以固定的速率流出,但是不能解决流量突发问题。令牌桶算法能够在限制数据的平均传输速率的同时还允许某种程度的突发传输。Guava的RateLimiter限流组件,就是基于令牌桶算法实现的。VsB28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-26-10423-0.html五分钟技术趣谈 | 业务系统常用限流算法浅析

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: T·Club技术开放日杭州站精彩回顾:音视频技术创新探索与应用实践 T·Club

下一篇: Python中30个常见的内置函数使用讲解(一)

标签:
  • 热门焦点
  • Redmi Buds 4开箱简评:才199还有降噪 可以无脑入

    在上个月举办的Redmi Note11T Pro系列新机发布会上,除了两款手机新品之外,Redmi还带来了两款TWS真无线蓝牙耳机产品,Redmi Buds 4和Redmi Buds 4 Pro,此前我们在Redmi Note11T
  • K6:面向开发人员的现代负载测试工具

    K6 是一个开源负载测试工具,可以轻松编写、运行和分析性能测试。它建立在 Go 和 JavaScript 之上,它被设计为功能强大、可扩展且易于使用。k6 可用于测试各种应用程序,包括 Web
  • 线程通讯的三种方法!通俗易懂

    线程通信是指多个线程之间通过某种机制进行协调和交互,例如,线程等待和通知机制就是线程通讯的主要手段之一。 在 Java 中,线程等待和通知的实现手段有以下几种方式:Object 类下
  • 19个 JavaScript 单行代码技巧,让你看起来像个专业人士

    今天这篇文章跟大家分享18个JS单行代码,你只需花几分钟时间,即可帮助您了解一些您可能不知道的 JS 知识,如果您已经知道了,就当作复习一下,古人云,温故而知新嘛。现在,我们就开始今
  • 中国家电海外掘金正当时|出海专题

    作者|吴南南编辑|胡展嘉运营|陈佳慧出品|零态LT(ID:LingTai_LT)2023年,出海市场战况空前,中国创业者在海外纷纷摩拳擦掌,以期能够把中国的商业模式、创业理念、战略打法输出海外,他们依
  • ESG的面子与里子

    来源 | 光子星球撰文 | 吴坤谚编辑 | 吴先之三伏大幕拉起,各地高温预警不绝,但处于厄尔尼诺大“烤”之下的除了众生,还有各大企业发布的ESG报告。ESG是“环境保
  • 网红炒股不为了赚钱,那就是耍流氓!

    来源:首席商业评论6月26日高调宣布入市,网络名嘴大v胡锡进居然进军了股市。在一次财经媒体峰会上,几个财经圈媒体大佬就“胡锡进炒股是否知道认真报道”展开讨论。有
  • 滴滴违法违规被罚80.26亿 共存在16项违法事实

    滴滴违法违规被罚80.26亿 存在16项违法事实开始于2121年7月,历经一年时间,网络安全审查办公室对“滴滴出行”网络安全审查终于有了一个暂时的结束。据“网信
  • 三翼鸟智能家居亮相电博会,让用户体验更真实

    2021电博会在青岛国际会展中心开幕中,三翼鸟直接把“家”搬到了现场,成为了展会的一大看点。这也是三翼鸟继9月9日发布了行业首个一站式定制智慧家平台后的
Top