服务治理怎么做：降级、熔断、全链路压测-28资讯网——每日最新资讯28at.com

知多少

科技

全部频道

服务治理怎么做：降级、熔断、全链路压测

2024-06-27 07:58:18 软件 107观看

摘要图片服务降级的常见场景系统负载过高：在高峰期或者流量激增的情况下，为了防止系统崩溃，可以暂时关闭或降低某些非关键服务的质量。依赖服务故障：当某个依赖服务不可用时，通过服务降级可以提供替代方案或者简化的功能，以确保

图片

服务降级的常见场景

系统负载过高：在高峰期或者流量激增的情况下，为了防止系统崩溃，可以暂时关闭或降低某些非关键服务的质量。
依赖服务故障：当某个依赖服务不可用时，通过服务降级可以提供替代方案或者简化的功能，以确保系统核心功能的正常运作。
网络问题：在网络延迟或不稳定的情况下，降低某些服务的请求频率或数据量，以减轻系统负担。
资源不足：当系统资源（如 CPU、内存）不足时，通过服务降级减少资源消耗。

服务降级的策略

功能降级：暂时关闭或简化某些非关键功能。例如，关闭推荐系统、日志记录等不影响核心功能的服务。
数据降级：降低数据返回的粒度或数量。例如，从详细数据切换为概要数据。
延迟处理：将非紧急的任务延迟处理或批量处理。例如，将某些后台任务延迟执行，减轻当前系统负担。
限流：限制部分用户的访问，优先保证核心用户或付费用户的服务质量。

实施服务降级的技术手段

熔断器模式（Circuit Breaker Pattern）：当检测到某个服务不可用时，主动切断对该服务的调用，避免影响其他服务。
限流器（Rate Limiter）：限制单位时间内的请求数量，防止系统过载。
降级开关：通过配置中心动态调整服务降级策略，灵活应对不同场景。
缓存：使用缓存减轻数据库或其他后端服务的压力，提供快速响应。

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

工作流程

请求通过熔断器：

每个请求通过熔断器进行计数，监控其成功或失败状态。
如果请求成功，计数器重置。
如果请求失败，计数器记录失败。

监控和评估：

Hystrix 会监控一段时间内（例如 10 秒）的请求数量和失败率。
如果在这段时间内请求数量超过设定的最小请求数，并且失败率超过设定的阈值，熔断器将跳到打开状态。

短路请求：

在打开状态下，所有请求都会被短路，不会真正调用下游服务，而是立即返回一个预设的降级响应。
这样可以防止下游服务的故障影响到整个系统，并减轻下游服务的负载。

尝试恢复：

在打开状态持续一段时间后，熔断器进入半开状态，允许少量请求通过。
如果这些请求成功，熔断器将关闭，恢复正常请求。
如果这些请求失败，熔断器将重新打开，并继续短路请求。

服务灰度发布设计与实践

图片

优点：

降低风险：通过逐步发布新版本，团队可以在小范围内验证新功能的有效性，降低全量发布带来的风险。
快速反馈：在发布过程中，可以迅速收集用户反馈和监控数据，及时发现和解决问题。
持续交付：灰度发布与持续交付和持续部署实践相结合，可以实现快速、频繁和稳定的发布。
平滑过渡：避免了大规模发布带来的潜在问题，确保系统平稳运行。

服务灰度发布的工具

服务网关：如 NGINX、Kong 等，可以配置流量路由规则，实现灰度发布。
容器编排：如 Kubernetes，可以通过配置滚动更新和分阶段发布策略实现灰度发布。
服务网格：如 Istio、Linkerd，可以细粒度地控制服务间的流量，实现灰度发布。

图片

图片

图片

图片

图片

图片

图片

服务全链路压测设计

图片

图片

图片

图片

图片

图片

图片

图片

本文链接：http://www.28at.com/showinfo-26-96766-0.html服务治理怎么做：降级、熔断、全链路压测

声明：本网页内容旨在传播知识，不代表本站观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

显示全文

最新热点

Copyright © 2019-2023 天津谷骐科技有限公司版权所有
津ICP备18001702号