当前位置：首页 > 科技 > 软件

服务治理怎么做：降级、熔断、全链路压测

来源：责编：时间：2024-06-27 07:58:18 247观看

导读图片服务降级的常见场景系统负载过高：在高峰期或者流量激增的情况下，为了防止系统崩溃，可以暂时关闭或降低某些非关键服务的质量。依赖服务故障：当某个依赖服务不可用时，通过服务降级可以提供替代方案或者简化的功能，以确保

图片

服务降级的常见场景

系统负载过高：在高峰期或者流量激增的情况下，为了防止系统崩溃，可以暂时关闭或降低某些非关键服务的质量。
依赖服务故障：当某个依赖服务不可用时，通过服务降级可以提供替代方案或者简化的功能，以确保系统核心功能的正常运作。
网络问题：在网络延迟或不稳定的情况下，降低某些服务的请求频率或数据量，以减轻系统负担。
资源不足：当系统资源（如 CPU、内存）不足时，通过服务降级减少资源消耗。

服务降级的策略

功能降级：暂时关闭或简化某些非关键功能。例如，关闭推荐系统、日志记录等不影响核心功能的服务。
数据降级：降低数据返回的粒度或数量。例如，从详细数据切换为概要数据。
延迟处理：将非紧急的任务延迟处理或批量处理。例如，将某些后台任务延迟执行，减轻当前系统负担。
限流：限制部分用户的访问，优先保证核心用户或付费用户的服务质量。

实施服务降级的技术手段

熔断器模式（Circuit Breaker Pattern）：当检测到某个服务不可用时，主动切断对该服务的调用，避免影响其他服务。
限流器（Rate Limiter）：限制单位时间内的请求数量，防止系统过载。
降级开关：通过配置中心动态调整服务降级策略，灵活应对不同场景。
缓存：使用缓存减轻数据库或其他后端服务的压力，提供快速响应。

图片

工作流程

请求通过熔断器：

每个请求通过熔断器进行计数，监控其成功或失败状态。
如果请求成功，计数器重置。
如果请求失败，计数器记录失败。

监控和评估：

Hystrix 会监控一段时间内（例如 10 秒）的请求数量和失败率。
如果在这段时间内请求数量超过设定的最小请求数，并且失败率超过设定的阈值，熔断器将跳到打开状态。

短路请求：

在打开状态下，所有请求都会被短路，不会真正调用下游服务，而是立即返回一个预设的降级响应。
这样可以防止下游服务的故障影响到整个系统，并减轻下游服务的负载。

尝试恢复：

在打开状态持续一段时间后，熔断器进入半开状态，允许少量请求通过。
如果这些请求成功，熔断器将关闭，恢复正常请求。
如果这些请求失败，熔断器将重新打开，并继续短路请求。

服务灰度发布设计与实践

图片

优点：

降低风险：通过逐步发布新版本，团队可以在小范围内验证新功能的有效性，降低全量发布带来的风险。
快速反馈：在发布过程中，可以迅速收集用户反馈和监控数据，及时发现和解决问题。
持续交付：灰度发布与持续交付和持续部署实践相结合，可以实现快速、频繁和稳定的发布。
平滑过渡：避免了大规模发布带来的潜在问题，确保系统平稳运行。

服务灰度发布的工具

服务网关：如 NGINX、Kong 等，可以配置流量路由规则，实现灰度发布。
容器编排：如 Kubernetes，可以通过配置滚动更新和分阶段发布策略实现灰度发布。
服务网格：如 Istio、Linkerd，可以细粒度地控制服务间的流量，实现灰度发布。

图片

服务全链路压测设计

图片

本文链接：http://www.28at.com/showinfo-26-96766-0.html服务治理怎么做：降级、熔断、全链路压测

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：聊聊性能指标CPU利用率如何计算的？

下一篇：二维码是什么？二维码有什么用？二维码绘制过程？二维码如何生成?

标签：

热门焦点

影音体验是真的强简单聊聊iQOO Pad

大公司的好处就是产品线丰富，非常细分化的东西也能给你做出来，例如早先我们看到了新的vivo Pad2，之后我们又在iQOO Neo8 Pro的发布会上看到了iQOO的首款平板产品iQOO Pad。虽
小米平板5 Pro 12.4简评：多专多能兼顾影音娱乐的大屏利器

疫情带来了网课，网课盘活了安卓平板，安卓平板市场虽然中途停滞了几年，但好的一点就是停滞的这几年行业又有了新的发展方向，例如超窄边框、高刷新率、多摄镜头组合等，这就让安卓
6月iOS设备好评榜：第一蝉联榜首近一年

作为安兔兔各种榜单里变化最小的那个，2023年6月的iOS好评榜和上个月相比没有任何排名上的变化，仅仅是部分设备好评率的下降，长年累月的用户评价和逐渐退出市场的老款机器让这
多线程开发带来的问题与解决方法

使用多线程主要会带来以下几个问题：（一）线程安全问题　　线程安全问题指的是在某一线程从开始访问到结束访问某一数据期间，该数据被其他的线程所修改，那么对于当前线程而言，该线程
一篇文章带你了解 CSS 属性选择器

属性选择器对带有指定属性的 HTML 元素设置样式。可以为拥有指定属性的 HTML 元素设置样式，而不仅限于 class 和 id 属性。一、了解属性选择器CSS属性选择器提供了一种简单而
2023年，我眼中的字节跳动

此时此刻（2023年7月），字节跳动从未上市，也从未公布过任何官方的上市计划；但是这并不妨碍它成为中国最受关注的互联网公司之一。从2016-17年的抖音强势崛起，到2018年的“头腾
华为Mate60标准版细节曝光：经典星环相机模组回归

这段时间以来，关于华为新旗舰的爆料日渐密集。据此前多方爆料，今年华为将开始恢复一年双旗舰战略，除上半年推出的P60系列外，往年下半年的Mate系列也将
AI芯片初创公司Tenstorrent获三星和现代1亿美元投资

Tenstorrent是一家由芯片行业资深人士Jim Keller领导的加拿大初创公司，专注于开发人工智能芯片，该公司周三表示，已经从现代汽车集团和三星投资基金等
上海举办人工智能大会活动，建设人工智能新高地

人工智能大会在上海浦江两岸隆重拉开帷幕，人工智能新技术、新产品、新应用、新理念集中亮相。8月30日晚，作为大会的特色活动之一的上海人工智能发展盛典人工

服务治理怎么做：降级、熔断、全链路压测

服务降级的常见场景

服务降级的策略

实施服务降级的技术手段

工作流程

服务灰度发布的工具

影音体验是真的强简单聊聊iQOO Pad

小米平板5 Pro 12.4简评：多专多能兼顾影音娱乐的大屏利器

6月iOS设备好评榜：第一蝉联榜首近一年

多线程开发带来的问题与解决方法

一篇文章带你了解 CSS 属性选择器

2023年，我眼中的字节跳动

华为Mate60标准版细节曝光：经典星环相机模组回归

AI芯片初创公司Tenstorrent获三星和现代1亿美元投资

上海举办人工智能大会活动，建设人工智能新高地

最新推荐

猜你喜欢

热门推荐

相关资讯