嘘~ 正在从服务器偷取页面 . . .

SpringCloud Sentinel


SpringCloud Alibaba Sentinel 实现熔断与限流

相关链接:

一、概述

1、背景

随着服务在系统之间的分布越来越重要,可靠性变得越来越重要。Sentinel是一个功能强大的流控制组件,以“流”为突破口,涵盖流量控制、并发限制、电路中断、自适应系统保护等多个领域,保证微服务的可靠性。

  • 2012 年,Sentinel 诞生,主要功能为入口流量控制。
  • 2013-2017 年,Sentinel 在阿里巴巴集团内部迅速发展,成为基础技术模块,覆盖了所有的核心场景。Sentinel 也因此积累了大量的流量归整场景以及生产实践。
  • 2018 年,Sentinel 开源,并持续演进。
  • 2019 年,Sentinel 朝着多语言扩展的方向不断探索,推出 C++ 原生版本,同时针对 Service Mesh 场景也推出了 Envoy 集群流量控制支持,以解决 Service Mesh 架构下多语言限流的问题。
  • 2020 年,推出 Sentinel Go 版本,继续朝着云原生方向演进。

2、官方地址

Sentinel 项目地址 :https://github.com/alibaba/Sentinel

官网地址:https://sentinelguard.io/zh-cn/

官方介绍:https://sentinelguard.io/zh-cn/docs/introduction.html

官方指南https://github.com/alibaba/Sentinel/wiki/%E6%96%B0%E6%89%8B%E6%8C%87%E5%8D%97

下载地址:https://github.com/alibaba/Sentinel/releases

Spring Cloud 官方https://spring-cloud-alibaba-group.github.io/github-pages/greenwich/spring-cloud-alibaba.html#_spring_cloud_alibaba_sentinel

二、Sentinel

1、Sentinel 基本概念

资源

资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容,例如,由应用程序提供的服务,或由应用程序调用的其它应用提供的服务,甚至可以是一段代码。在接下来的文档中,我们都会用资源来描述代码块。

只要通过 Sentinel API 定义的代码,就是资源,能够被 Sentinel 保护起来。大部分情况下,可以使用方法签名,URL,甚至服务名称作为资源名来标示资源。

规则

围绕资源的实时状态设定的规则,可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。

Sentinel 使用

Sentinel 的使用可以分为两个部分:

  • 核心库(Java 客户端):不依赖任何框架/库,能够运行于 Java 7 及以上的版本的运行时环境,同时对 Dubbo / Spring Cloud 等框架也有较好的支持(见 主流框架适配)。
  • 控制台(Dashboard):控制台主要负责管理推送规则、监控、集群限流分配管理、机器发现等。

主要特征

Sentinel

2、Sentinel 功能和设计理念

2.1 流量控制

流量控制在网络传输中是一个常用的概念,它用于调整网络包的发送数据。然而,从系统稳定性角度考虑,在处理请求的速度上,也有非常多的讲究。任意时间到来的请求往往是随机不可控的,而系统的处理能力是有限的。我们需要根据系统的处理能力对流量进行控制。Sentinel 作为一个调配器,可以根据需要把随机的请求调整成合适的形状,如下图所示:

Sentinel 流量

流量控制有以下几个角度:

  • 资源的调用关系,例如资源的调用链路,资源和资源之间的关系;
  • 运行指标,例如 QPS、线程池、系统负载等;
  • 控制的效果,例如直接限流、冷启动、排队等。

Sentinel 的设计理念是可以自由选择控制的角度,并进行灵活组合,从而达到想要的效果。

2.2 熔断降级

什么是熔断降级

除了流量控制以外,降低调用链路中的不稳定资源也是 Sentinel 的使命之一。由于调用关系的复杂性,如果调用链路中的某个资源出现了不稳定,最终会导致请求发生堆积。这个问题和 Hystrix 里面描述的问题是一样的。

熔断降级

Sentinel 和 Hystrix 的原则是一致的: 当调用链路中某个资源出现不稳定,例如,表现为 timeout,异常比例升高的时候,则对这个资源的调用进行限制,并让请求快速失败,避免影响到其它的资源,最终产生雪崩的效果。

熔断降级设计理念

在限制的手段上,Sentinel 和 Hystrix 采取了完全不一样的方法。

Hystrix 通过线程池的方式,来对依赖(在我们的概念中对应资源)进行了隔离。这样做的好处是资源和资源之间做到了最彻底的隔离。缺点是除了增加了线程切换的成本,还需要预先给各个资源做线程池大小的分配。

Sentinel 对这个问题采取了两种手段:

  • 通过并发线程数进行限制

和资源池隔离的方法不同,Sentinel 通过限制资源并发线程的数量,来减少不稳定资源对其它资源的影响。这样不但没有线程切换的损耗,也不需要您预先分配线程池的大小。当某个资源出现不稳定的情况下,例如响应时间变长,对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后,对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。

  • 通过响应时间对资源进行降级

除了对并发线程数进行控制以外,Sentinel 还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后,所有对该资源的访问都会被直接拒绝,直到过了指定的时间窗口之后才重新恢复。

2.3 系统负载保护

Sentinel 同时提供系统维度的自适应保护能力。防止雪崩,是系统防护中重要的一环。当系统负载较高的时候,如果还持续让请求进入,可能会导致系统崩溃,无法响应。在集群环境下,网络负载均衡会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器也处在一个边缘状态的时候,这个增加的流量就会导致这台机器也崩溃,最后导致整个集群不可用。

针对这个情况,Sentinel 提供了对应的保护机制,让系统的入口流量和系统的负载达到一个平衡,保证系统在能力范围之内处理最多的请求。

三、Sentinel 控制台

下载地址:https://github.com/alibaba/Sentinel/releases

下载到本地 sentinel-dashboard-1.8.0.jar

注意:

(1)sentinel 控制台需要 java8环境

(2)sentinel 使用的是8080端口。

启动命令:

java -jar sentinel-dashboard-1.8.0.jar

启动之后访问sentinel 控制台地址:http://localhost:8080

登录账户/密码:sentinel/sentinel

四、Sentinel 案例

更多的例子可以参考: Sentinel Demo 集锦

创建微服务sentinel-service-8401 。

1、引入POM依赖

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>cloud2020</artifactId>
        <groupId>com.xiaocai.springcloud</groupId>
        <version>1.0-SNAPSHOT</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>

    <artifactId>sentinel-service-8401</artifactId>

    <dependencies>
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
        </dependency>

        <dependency>
            <groupId>com.alibaba.csp</groupId>
            <artifactId>sentinel-datasource-nacos</artifactId>
        </dependency>

        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
        </dependency>

        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-openfeign</artifactId>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-devtools</artifactId>
            <scope>runtime</scope>
            <optional>true</optional>
        </dependency>
        <dependency>
            <groupId>cn.hutool</groupId>
            <artifactId>hutool-all</artifactId>
            <version>4.6.3</version>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <optional>true</optional>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>

    </dependencies>

</project>

2、YML配置

server:
  port: 8401

spring:
  application:
    name: sentinel-service
  cloud:
    nacos:
      discovery:
        server-addr: localhost:8848
    sentinel:
      transport:
        dashboard: localhost:8080
        port: 8719  #默认8719,假如被占用了会自动从8719开始依次+1扫描。直至找到未被占用的端口

management:
  endpoints:
    web:
      exposure:
        include: '*'

3、主启动类

package com.xiaocai.springcloud.alibaba;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.discovery.EnableDiscoveryClient;


@EnableDiscoveryClient
@SpringBootApplication
public class SentinelServiceApp8401
{
    public static void main(String[] args) {
        SpringApplication.run(SentinelServiceApp8401.class, args);
    }
}

4、业务类

package com.xiaocai.springcloud.alibaba.controller;

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

@RestController
public class FlowLimitController
{
    @GetMapping("/v1/order/all/list")
    public String all() {
        return "------order all";
    }

    @GetMapping("/v1/order/history/list")
    public String history() {

        return "------order history";
    }

}

5、测试

启动Nacos 服务,端口8848,http://localhost:8848/nacos/#/login

启动Sentinel 服务,端口8080;启动控制台:java -jar sentinel-dashboard-1.7.2.jar,控制台的访问地址:http://localhost:8080 用户名密码:sentinel/sentinel

启动微服务 sentinel-service-8401。

Sentinel采用的懒加载机制,如果要在Sentinel 控制台查看,需要先访问一次服务。

访问地址:http://localhost:8401/v1/order/all/list

服务启动

五、流控规则

1、流控元素

添加流控规则

资源名:唯一名称

针对来源:sentinel 可以针对调用进行限流,添加微服务名,默认default(不区分来源)

阈值类型/单机阈值:

  • QPS 每秒的请求数据,当调用该资源API的QPS达到阈值的时候,进行限流
  • 线程数,当调用该api的线程达到阈值的时候,进行限流
  • 流控模式:
    • 直接:api达到限流条件时,直接限流
    • 关联:当关联的资源达到阈值时,就限流自己
    • 链路:只记录指定链路上的流量,指定资源从入口资源进入的流量如果达到阈值就进行限流。api级别的针对来源的限流。
  • 是否集群:本次测试非集群。
  • 流控效果:
    • 快速失败:直接失败、返回抛出的异常,系统默认设置。
    • Warm Up:预热模式,根据codeFactor(冷加载因子,默认是3)从阈值除以codeFactor,经过预热时长后,才达到设置的QPS阈值
    • 排队等待:匀速排队,让请求以匀速的速度通过,阈值类型必须设置为QPS,否则无效。

1、流量控制规则

field说明默认值
resource资源名,限流规则的作用对象如具体的url
count限流阀值,超过这个值就会触发
grade阈值类型,QPS或者线程数QPS
limitApp流控针对的调用来源default,代表不区分调用来源
strategy判断是根据资源本身还是根据其它关联资源(refResource)还是根据链路入口根据资源本身
controlBehavior流控效果(直接拒绝/排队等待/慢启动)直接拒绝

同一个资源可以同时有多个限流规则。

2、流控模式

(1)直接模式

在微服务里新流控规则,资源名:/v1/order/all/list

针对来源默认,阈值类型QPS,单机阈值 2,流控模式选直接,流控效果快速失败

快速刷新访问:http://localhost:8401/v1/order/all/list ,查看效果。

Blocked by Sentinel (flow limiting)

(2)关联模式

当关联的资源达到阈值时,就限流自己。当资源A关联的资源B达到了阈值,资源A将被限流。

在微服务里新流控规则,资源名:/v1/order/all/list

针对来源默认,阈值类型QPS,单机阈值 2,

流控模式选关联,关联资源/v1/order/history/list ,流控效果快速失败。

保存设置。

快速刷新访问资源B:http://localhost:8401/v1/order/history/list ,也可以使用postman模拟并发密集访问,在postman里新建多线程集合组,将访问地址添加进新的线程组,点击Run 执行,使得大批量线程高并发访问资源B。

然后访问资源A:http://localhost:8401/v1/order/all/list

资源A 被流控:

Blocked by Sentinel (flow limiting)

(3)链路模式

链路流控模式指的是,当从某个接口过来的资源达到限流条件时,开启限流;它的功能有点类似于针对 来源配置项,区别在于:针对来源是针对上级微服务,而链路流控是针对上级接口,也就是说它的粒度 更细。

“流控规则”菜单,添加流控规则,填写资源名:/v1/order/all/list
以QPS为例,填写单机阈值为1
高级选项,流控模式选择“链路”
入口资源处填写的应为/order/all/list的入口资源地址,即sentinel_web_servlet_context
流控效果以“快速失败”为例
点击新增。
测试发送请求:http://localhost8401/order/all/list 时,如果1秒内请求次数超过1次,就会自动触发限流。
此外,通过其他微服务模块请求资源 /order/all/list时,如果1秒内请求次数超过1次,同样会触发限流。

流控模式为“链路模式”下的配置就此完成。

实际上,链路的控制指的就是对一条链路的访问进行控制。

资源 A —> 资源B —> 资源C

资源 A —> 资源D —> 资源E

此时对资源A进行限流,实际上是对资源A之后的资源B、资源C、资源D 、资源E也一同进行限流。资源A对于后续资源(B/C/D/E)来说就入口资源。

3、流控效果

(1)直接模式

直接拒绝RuleConstant.CONTROL_BEHAVIOR_DEFAULT)方式是默认的流量控制方式,当QPS超过任意规则的阈值后,新的请求就会被立即拒绝,拒绝方式为抛出FlowException。这种方式适用于对系统处理能力确切已知的情况下,比如通过压测确定了系统的准确水位时。

官方的Demo参见 FlowQpsDemo

官方文档关于排队等待

(2)预热

系统初始化的默认阈值为10 / 3,即为3,也就是刚开始的时候阈值只有3,当经过5s后,阈值才慢慢提高到10;

Warm Up(RuleConstant.CONTROL_BEHAVIOR_WARM_UP)方式,即预热/冷启动方式。当系统长期处于低水位的情况下,当流量突然增加时,直接把系统拉升到高水位可能瞬间把系统压垮。通过”冷启动”,让通过的流量缓慢增加,在一定时间内逐渐增加到阈值上限,给冷系统一个预热的时间,避免冷系统被压垮。详细文档可以参考 流量控制 - Warm Up 文档,具体的例子可以参见 WarmUpFlowDemo

官方文档关于预热Warm Up

根据codeFactor(冷加载因子,默认为3)的值,即请求 QPS 从 threshold / 3 开始,经预热时长逐渐升至设定的 QPS 阈值 ;

源码位置:com.alibaba.csp.sentinel.slots.block.flow.controller.WarmUpController

应用场景:秒杀系统的开启瞬间,会有很多流量上来,很可能会把系统打挂,预热方式就是为了保护系统,可以慢慢的把流量放进来,慢慢的把阈值增长到设定值;

预热模式

(3)排队等待

匀速排队(RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER)方式会严格控制请求通过的间隔时间,也即是让请求以均匀的速度通过,对应的是漏桶算法。

匀速排队,让请求以均匀的速度通过,阈值类型必须设置成QPS,否则无效。

“流控规则”菜单,添加流控规则,填写资源名:/v1/order/all/list
以QPS为例,填写单机阈值为1,高级选项,流控模式选择“直接”,流控效果以“排队等待”,点击新增。

设置的含义:/v1/order/all/list每秒1次请求,QPS大于1后,再有请求就排队,等待超时时间为20000毫秒;

这种方式主要用于处理间隔性突发的流量,例如消息队列。想象一下这样的场景,在某一秒有大量的请求到来,而接下来的几秒则处于空闲状态,我们希望系统能够在接下来的空闲期间逐渐处理这些请求,而不是在第一秒直接拒绝多余的请求。

排队等待

这种方式主要用于处理间隔性突发的流量,例如消息队列。想象一下这样的场景,在某一秒有大量的请求到来,而接下来的几秒则处于空闲状态,我们希望系统能够在接下来的空闲期间逐渐处理这些请求,而不是在第一秒直接拒绝多余的请求。

注意:匀速排队模式暂时不支持 QPS > 1000 的场景。

源码位置:com.alibaba.csp.sentinel.slots.block.flow.controller.RateLimiterController

官方文档关于排队等待

4、按资源名称限流

在sentinel-service-8401 的业务类添加

    @GetMapping("/byResource")
    @SentinelResource(value = "byResource",blockHandler = "handleException")
    public String byResource()
    {
        return "按资源名称限流测试--正常返回";
    }
    public String handleException(BlockException exception)
    {
        return "按资源名称限流测试--自定义返回,服务降级";
    }

添加流控规则:

添加流控规则注意资源名没有/ ,上述配置表示1秒钟内查询次数大于1,就会触发降级,进入handleException快速失败返回。

添加成功后

添加流控规则

测试步骤:

启动之后,访问测试地址:http://localhost:8401/byResource

每秒访问一次,正常返回。

快速刷新,或者使用jmeter并发测试,返回了自己定义的限流处理信息:

按资源名称限流测试--自定义返回,服务降级

5、按URL限流

在sentinel-service-8401 的业务类添加

    @GetMapping("/rateLimit/byUrl")
    @SentinelResource(value = "byUrl")
    public String byUrl()
    {
        return "按url限流测试OK";
    }

添加流控规则

注意:按URL限流前面有/

测试快速刷新:http://localhost:8401/rateLimit/byUrl

Blocked by Sentinel (flow limiting)

6、自定义限流

创建自定义限流处理类:CustomerBlockHandler类用于自定义限流处理逻辑。

CustomerBlockHandler 类:

package com.xiaocai.springcloud.alibaba.myhandler;

import com.alibaba.csp.sentinel.slots.block.BlockException;

public class CustomerBlockHandler {

    public static String handleException(BlockException exception) {
        return "自定义限流处理信息....CustomerBlockHandler";

    }
}

业务代码块:

@GetMapping("/rateLimit/customerBlockHandler")
@SentinelResource(value = "customerBlockHandler",
        blockHandlerClass = CustomerBlockHandler.class,
        blockHandler = "handlerException2")
public String customerBlockHandler()
{
    return  "按自定义限流正常返回" ;
}

启动服务,调用一次:http://localhost:8401/rateLimit/customerBlockHandler

7、@SentinelResource

@SentinelResource

@SentinelResource 用于定义资源,并提供可选的异常处理和 fallback 配置项。 @SentinelResource 注解包含以下属性:

  • value:资源名称,必需项(不能为空)

  • entryType:entry 类型,可选项(默认为 EntryType.OUT)

  • blockHandler / blockHandlerClass: blockHandler 对应处理 BlockException 的函数名称,可选项。blockHandler 函数访问范围需要是 public,返回类型需要与原方法相匹配,参数类型需要和原方法相匹配并且最后加一个额外的参数,类型为 BlockException。blockHandler 函数默认需要和原方法在同一个类中。若希望使用其他类的函数,则可以指定 blockHandlerClass 为对应的类的 Class 对象,注意对应的函数必需为 static 函数,否则无法解析。

  • fallback / fallbackClass:fallback 函数名称,可选项,用于在抛出异常的时候提供 fallback 处理逻辑。fallback 函数可以针对所有类型的异常(除了 exceptionsToIgnore 里面排除掉的异常类型)进行处理。fallback 函数签名和位置要求:

    • 返回值类型必须与原函数返回值类型一致;

    • 方法参数列表需要和原函数一致,或者可以额外多一个 Throwable 类型的参数用于接收对应的异常。

      fallback 函数默认需要和原方法在同一个类中。若希望使用其他类的函数,则可以指定 fallbackClass 为对应的类的 Class 对象,注意对应的函数必需为 static 函数,否则无法解析。

  • defaultFallback(since 1.6.0):默认的 fallback 函数名称,可选项,通常用于通用的 fallback 逻辑(即可以用于很多服务或方法)。默认 fallback 函数可以针对所有类型的异常(除了 exceptionsToIgnore 里面排除掉的异常类型)进行处理。若同时配置了 fallback 和 defaultFallback,则只有 fallback 会生效。defaultFallback 函数签名要求:

    • 返回值类型必须与原函数返回值类型一致;

    • 方法参数列表需要为空,或者可以额外多一个 Throwable 类型的参数用于接收对应的异常。

      defaultFallback 函数默认需要和原方法在同一个类中。若希望使用其他类的函数,则可以指定 fallbackClass 为对应的类的 Class 对象,注意对应的函数必需为 static 函数,否则无法解析。

  • exceptionsToIgnore(since 1.6.0):用于指定哪些异常被排除掉,不会计入异常统计中,也不会进入 fallback 逻辑中,而是会原样抛出。

    注:1.6.0 之前的版本 fallback 函数只针对降级异常(DegradeException)进行处理,不能针对业务异常进行处理。

特别地,若 blockHandler 和 fallback 都进行了配置,则被限流降级而抛出 BlockException 时只会进入 blockHandler 处理逻辑。若未配置 blockHandler、fallback 和 defaultFallback,则被限流降级时会将 BlockException 直接抛出(若方法本身未定义 throws BlockException 则会被 JVM 包装一层 UndeclaredThrowableException)。

更多说明:https://github.com/alibaba/Sentinel/wiki/%E6%B3%A8%E8%A7%A3%E6%94%AF%E6%8C%81

Sentinel主要有三个核心API

  • SphU定义资源
  • Tracer定义统计
  • ContextUtil定义了上下文

六、熔断降级规则

Sentinel 熔断降级会在调用链路中某个资源出现不稳定状态(超时/异常比例升高)时,对该资源进行限流,让请求快速失败,避免影响到其他的资源而导致级联错误。当资源被降级后,在接下来的降级时间窗口之内,对该资源的调用都自动熔断(默认行为是抛出DegradeException)。

Sentinel 熔断降级和 Hystrix 熔断降级相比,Sentinel 熔断降级没有半开状态。

1、基本降级元素

特别说明:这里的使用的1.8的截图,所以熔断策略里出现了 “慢调用比例” 替换了旧版的 “RT”

降级规则元素

资源名:唯一名称

降级策略:

  • RT - 平均响应时间;
  • 异常比例,秒级;
  • 异常数,分钟数;

2、熔断降级规则

熔断降级规则(DegradeRule)包含下面几个重要的属性:

Field说明默认值
resource资源名,即规则的作用对象
grade熔断策略,支持慢调用比例/异常比例/异常数策略慢调用比例
count慢调用比例模式下为慢调用临界 RT(超出该值计为慢调用);异常比例/异常数模式下为对应的阈值
timeWindow熔断时长,单位为 s
minRequestAmount熔断触发的最小请求数,请求数小于该值时即使异常比率超出阈值也不会熔断(1.7.0 引入)5
statIntervalMs统计时长(单位为 ms),如 60*1000 代表分钟级(1.8.0 引入)1000 ms
slowRatioThreshold慢调用比例阈值,仅慢调用比例模式有效(1.8.0 引入)

(1)RT - 平均响应时间

RT - 平均响应时间(DEGRADE_DRADE_RT):RT以秒为单位,平均响应时间超出阈值((DegradeRule 中的count,以ms 为单位)且在实际窗口内的请求大于或等于5,两个条件同时满足后触发降级。窗口期结束后关闭断路器。RT 最大4900 更大的需要配置使用需要配置:

-Dcsp.sentinel.statistic.max.rt=XXX 

RT 流程

代码:

    @GetMapping("/testD")
    public String rtTest()
    {
        try { 
            TimeUnit.SECONDS.sleep(1); 
        } catch (InterruptedException e) { 
            e.printStackTrace(); 
        }
        log.info("rtTest 测试 RT");

        return "------rtTest-----";
    }

模拟测试,可以使用jmeter进行压力测试。新建线程组,线程数手指成10,Ramp-Up Period 设置1,循环设置永远。

RT -测试

后续停止jemeter ,再次访问,资源恢复访问。

1.8之后策略更换为慢调用比例

(2)异常比例

异常比例(DEGRADE_GRADE_EXCEPTION_RATIO):秒级。 当资源每秒请求量QPS 大于或等于5 且 异常比例(每秒异常总数占通过量的比值)超过阈值(DegradeRule 中的count)时,触发降级,资源进入降级状态;时间窗口(DegradeRule 中的 timewindow,以s为单位)结束后,关闭降级。

异常比例的阈值范围是[0.0 , 1.0] ,代表 0% - 100%。

异常比例 流程

测试代码:

@GetMapping("/testD")
    public String testD()
    {
        log.info("testD 测试 异常比例");
        int age = 10/0;
        return "------testD-----";
    }

降级规则设置:

异常比例设置

测试说明:

按上述配置,使用浏览器访问,因为写了 10/0 ,所以每次访问都会报错。

使用jmeter 测试

jmeter 测试

jmeter 测试,直接高并发请求,多次调用达到配置条件后,微服务不再报错,而是提示降级。

(3)异常数

异常数:分钟级,(分钟统计的)异常数超过阈值时触发降级;时间窗口结束后,关闭降级。

异常数(DEGRADE_GRADE_EXCEPTION_COUNT):当资源近1分钟的异常数目超过阈值之后会进行熔断降级。注意由于统计时间是分钟基本,时间窗口要大于或等于60秒。

timeWindow 小于60秒,结束熔断之后仍有可能再进入熔断状态。

异常数 流程

测试代码:

@GetMapping("/testE")
public String testE()
{
    log.info("testE 测试异常数");
    int age = 10/0;
    return "------testE 测试异常数 ------";
} 

降级规则设置

降级规则设置

3、自定义降级提示

返回的异常打到了前台用户界面看不到,不友好。

错误类com.alibaba.csp.sentinel.slots.block.BlockException

因为需要自定义。

自定义降级提示信息:使用@SentinelResource 注解。

示例

@GetMapping("/testHotKey")
@SentinelResource(value = "testHotKey",blockHandler = "deal_testHotKey")
public String testHotKey(@RequestParam(value = "p1",required = false) String p1,
                         @RequestParam(value = "p2",required = false) String p2) {
    //int age = 10/0;
    return "------testHotKey";
}

public String deal_testHotKey (String p1, String p2, BlockException exception){
    return "------deal_testHotKey ----user words ";  
}

此时熔断降级时使用 deal_testHotKey 的方法返回。

需要注意的是:@SentinelResource 注解的降级只负责sentinel 控制台配置的规则的降级。针对异常,@SentinelResource 注解不负责。

4、服务降级+fallback 案例

sentinel + ribbon + openFeign + fallback

启动 nacos 和 sentinel 服务。

先加入Ribbon。

4.1 准备两个服务提供端

sentinel-provider-service-9003

sentinel-provider-service-9004

4.1.1 引入pom依赖

<dependencies>
    <!--SpringCloud ailibaba nacos -->
    <dependency>
        <groupId>com.alibaba.cloud</groupId>
        <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
    </dependency>

    <!-- SpringBoot整合Web组件 -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-actuator</artifactId>
    </dependency>
    <!--日常通用jar包配置-->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-devtools</artifactId>
        <scope>runtime</scope>
        <optional>true</optional>
    </dependency>
    <dependency>
        <groupId>org.projectlombok</groupId>
        <artifactId>lombok</artifactId>
        <optional>true</optional>
    </dependency>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-test</artifactId>
        <scope>test</scope>
    </dependency>
</dependencies>

4.1.2 YML配置

YML配置:

server:
  port: 9003

spring:
  application:
    name: nacos-provider-service
  cloud:
    nacos:
      discovery:
        server-addr: localhost:8848 #配置Nacos地址

management:
  endpoints:
    web:
      exposure:
        include: '*'

4.1.3 启动类

package com.xiaocai.springcloud.alibaba;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.discovery.EnableDiscoveryClient;


@SpringBootApplication
@EnableDiscoveryClient
public class ProviderServiceApp_9003
{
    public static void main(String[] args) {
        SpringApplication.run(ProviderServiceApp_9003.class, args);
    }
}

4.1.4 业务类

package com.xiaocai.springcloud.alibaba.controller;


import com.xiaocai.springcloud.alibaba.entities.CommonResult;
import com.xiaocai.springcloud.alibaba.entities.User;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RestController;

import java.util.HashMap;


@RestController
public class UserProviderController
{
    @Value("${server.port}")
    private String serverPort;

    public static HashMap<Long, User> hashMap = new HashMap<>();
    static{
        hashMap.put(1L,new User(1L,"zhangxiaocai"));
        hashMap.put(2L,new User(2L,"zhangsan"));
        hashMap.put(3L,new User(3L,"lisi"));
    }

    @GetMapping(value = "/v1/getUser/{id}")
    public CommonResult<User> getUser(@PathVariable("id") Long id){
        User user = hashMap.get(id);
        CommonResult<User> result = new CommonResult(200,"from mysql,serverPort:  "+serverPort,user);
        return result;
    }
}

4.1.5 测试

测试访问:http://localhost:9003/v1/getUser/1

属性sentinel 出现微服务。

4.1.6 第二个工程

跟上述步骤一致,改下端口号。

4.2 准备一个消费端

sentinel-consumer-9009,使用Ribbon

4.2.1 引入pom依赖

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>cloud2020</artifactId>
        <groupId>com.xiaocai.springcloud</groupId>
        <version>1.0-SNAPSHOT</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>

    <artifactId>sentinel-consumer-9009</artifactId>

    <dependencies>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-openfeign</artifactId>
        </dependency>
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
        </dependency>
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-devtools</artifactId>
            <scope>runtime</scope>
            <optional>true</optional>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <optional>true</optional>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
    </dependencies>
</project>

4.2.2 相关配置

YML配置:

server:
  port: 9009


spring:
  application:
    name: nacos-consumer-service
  cloud:
    nacos:
      discovery:
        server-addr: localhost:8848
    sentinel:
      transport:
        dashboard: localhost:8080
        port: 8719

service-url:
  nacos-user-service: http://nacos-provider-service

java 配置类:

package com.xiaocai.springcloud.alibaba.config;

import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;


@Configuration
public class ApplicationContextConfig
{
    @Bean
    @LoadBalanced
    public RestTemplate getRestTemplate()
    {
        return new RestTemplate();
    }
}

使用 Ribbon 负载均衡

4.2.3 启动类

package com.xiaocai.springcloud.alibaba;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.discovery.EnableDiscoveryClient;
import org.springframework.cloud.openfeign.EnableFeignClients;


@EnableDiscoveryClient
@SpringBootApplication
public class ConsumerNacosApp_9009
{
    public static void main(String[] args) {
        SpringApplication.run(ConsumerNacosApp_9009.class, args);
    }
}

4.2.4 业务类

controller 类:

package com.xiaocai.springcloud.alibaba.controller;

import com.alibaba.csp.sentinel.annotation.SentinelResource;
import com.alibaba.csp.sentinel.slots.block.BlockException;
import com.xiaocai.springcloud.alibaba.entities.CommonResult;
import com.xiaocai.springcloud.alibaba.entities.User;

import lombok.extern.slf4j.Slf4j;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

import javax.annotation.Resource;


@RestController
@Slf4j
public class CircleBreakerController {

    public static final String SERVICE_URL = "http://nacos-provider-service";

    @Resource
    private RestTemplate restTemplate;

    @RequestMapping("/consumer/fallback/{id}")
    //@SentinelResource(value = "fallback") //没有配置
    //@SentinelResource(value = "fallback",fallback = "handlerFallback") //fallback只负责业务异常
    //@SentinelResource(value = "fallback",blockHandler = "blockHandler") //blockHandler只负责sentinel控制台配置违规
    @SentinelResource(value = "fallback",fallback = "handlerFallback",blockHandler = "blockHandler",
            exceptionsToIgnore = {IllegalArgumentException.class})
    public CommonResult<User> fallback(@PathVariable Long id) {
        CommonResult<User> result = restTemplate.getForObject(SERVICE_URL + "/v1/getUser/"+id, CommonResult.class,id);

        if (id == 4) {
            throw new IllegalArgumentException ("IllegalArgumentException,非法参数异常....");
        }else if (result.getData() == null) {
            throw new NullPointerException ("NullPointerException,该ID没有对应记录,空指针异常");
        }

        return result;
    }

    //fallback
    public CommonResult handlerFallback(@PathVariable  Long id,Throwable e) {
        User user = new User(id,"null");
        return new CommonResult<>(444,"异常备选响应handlerFallback,exception内容  "+e.getMessage(),user);
    }

    //blockHandler
    public CommonResult blockHandler(@PathVariable  Long id,BlockException blockException) {
        User user = new User(id,"null");
        return new CommonResult<>(445,"blockHandler-sentinel 限流,无此流水: blockException  "+blockException.getMessage(),user);
    }
}

4.2.5 测试

测试访问:http://localhost:9009/consumer/fallback/1

刷新sentinel 出现微服务。

可以分别使用以下四个配置进行测试,访问,并查看异常和负载均衡效果。

配置一:

@SentinelResource(value = "fallback") //没有配置

重启后测试访问一:

配置二:

@SentinelResource(value = "fallback",fallback = "handlerFallback") //fallback只负责业务异常

重启后测试访问二:

配置三:

@SentinelResource(value = "fallback",blockHandler = "blockHandler") //blockHandler只负责sentinel控制台配置违规    

重启后,进行简单的QPS限流测试,资源名:9/consumer/fallback ,限流阈值1等,方便模拟即可。

测试访问三:

配置四:

@SentinelResource(value = "fallback",fallback = "handlerFallback",blockHandler = "blockHandler", exceptionsToIgnore = {IllegalArgumentException.class})

重启后测试访问四:

已经加入Ribbon,再加入Feign。

4.3 Feign的加入

在消费端工程添加 Feign 的支持。

4.3.1 引入POM依赖

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>

4.3.2 追加Feign的支持

#对Feign的支持
feign:
  sentinel:
    enabled: true

4.3.3 添加Feign封装接口

ProviderUserService 接口:

package com.xiaocai.springcloud.alibaba.service;

import com.xiaocai.springcloud.alibaba.entities.CommonResult;
import com.xiaocai.springcloud.alibaba.entities.User;
import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;


@FeignClient(value = "nacos-provider-service",fallback = ProviderUserFallbackService.class)
public interface ProviderUserService
{
    @GetMapping(value = "/v1/getUser/{id}")
    public CommonResult<User> getUser(@PathVariable("id") Long id);
} 

fallback 对应的服务降级支持类ProviderUserFallbackService

package com.xiaocai.springcloud.alibaba.service;


import com.xiaocai.springcloud.alibaba.entities.CommonResult;
import com.xiaocai.springcloud.alibaba.entities.User;
import org.springframework.stereotype.Component;


@Component
public class ProviderUserFallbackService implements ProviderUserService
{
    @Override
    public CommonResult<Payment> getUser(Long id)
    {
        return new CommonResult<>(44444,"服务降级返回,---PaymentFallbackService",new Payment(id,"errorSerial"));
    }
}

4.3.4 主启动类

主启动类追加 Feign 支持的注解@EnableFeignClients

 package com.xiaocai.springcloud.alibaba;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.discovery.EnableDiscoveryClient;
import org.springframework.cloud.openfeign.EnableFeignClients;


@EnableDiscoveryClient
@SpringBootApplication
@EnableFeignClients
public class ConsumerNacosApp_9009
{
    public static void main(String[] args) {
        SpringApplication.run(ConsumerNacosApp_9009.class, args);
    }
}

4.3.5 追加controller 测试入口

CircleBreakerController 追加测试feign的调用入口:

// OpenFeign
@Resource
private ProviderUserService providerUserService;

@GetMapping(value = "/consumer/openfeign/{id}")
public CommonResult<User> getUser(@PathVariable("id") Long id) {
    return providerUserService.getUser(id);
}

4.3.6 测试验证

重启服务访问。

Feign 的测试验证:http://lcoalhost:9009/consumer/openfeign/1

Feign 的测试验证:http://lcoalhost:9009/consumer/getUser/1

测试消费端9009调用服务端9003,此时故意关闭9003微服务提供者,看消费侧自动降级,不会被耗死。

5、熔断降级框架比较

比较项SentinelHystrixresilience4j
隔离策略信号量隔离(并发线程数限流)线程池隔离/信号量隔离信号量隔离
熔断降级策略基于响应时间、异常比例、异常数基于异常比例基于异常比例、响应时间
实时统计实现滑动窗口(LeapArray)滑动窗口(RxJava)Ring Bit Buffer
动态规则配置支持多种数据源支持多种数据源有限支持
扩展性多个扩展点插件的形式接口形式
基于注解支持支持支持支持
限流基于QPS/调用关系限流有限支持Rate Limiter
流量整形支持预热模式、匀速器模式、预热排队模式不支持简单的Rate Limiter 模式
系统自适应支持不支持不支持
控制台提供开销即用的控制台,可以配置规则、查看秒级监控、机器发现简单的监控查看不提供控制台,可 对接其他监控系统

七、热点限流

热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的 Top K 数据,并对其访问进行限制。比如:

  • 商品 ID 为参数,统计一段时间内最常购买的商品 ID 并进行限制
  • 用户 ID 为参数,针对一段时间内频繁访问的用户 ID 进行限制

热点参数限流会统计传入参数中的热点参数,并根据配置的限流阈值与模式,对包含热点参数的资源调用进行限流。热点参数限流可以看做是一种特殊的流量控制,仅对包含热点参数的资源调用生效。

Sentinel 利用 LRU 策略统计最近最常访问的热点参数,结合令牌桶算法来进行参数级别的流控。热点参数限流支持集群模式。

1、热点参数规则

热点参数规则(ParamFlowRule)类似于流量控制规则(FlowRule):

属性说明默认值
resource资源名,必填
count限流阈值,必填
grade限流模式QPS 模式
durationInSec统计窗口时间长度(单位为秒),1.6.0 版本开始支持1s
controlBehavior流控效果(支持快速失败和匀速排队模式),1.6.0 版本开始支持快速失败
maxQueueingTimeMs最大排队等待时长(仅在匀速排队模式生效),1.6.0 版本开始支持0ms
paramIdx热点参数的索引,必填,对应 SphU.entry(xxx, args) 中的参数索引位置
paramFlowItemList参数例外项,可以针对指定的参数值单独设置限流阈值,不受前面 count 阈值的限制。仅支持基本类型和字符串类型
clusterMode是否是集群参数流控规则false
clusterConfig集群流控相关配置

主要元素

热点规则设置

2、参数限流

资源请求中含有某个位置的参数时进行限流。

测试代码同上:

@GetMapping("/testHotKey")
@SentinelResource(value = "testHotKey",blockHandler = "deal_testHotKey")
public String testHotKey(@RequestParam(value = "p1",required = false) String p1,
                         @RequestParam(value = "p2",required = false) String p2) {
    //int age = 10/0;
    return "------testHotKey";
}

public String deal_testHotKey (String p1, String p2, BlockException exception){
    return "------deal_testHotKey ----user words ";  
}

热点限流配置:

参数索引:0

流控模式:QPS

阈值:1

是否集群:否

是否例外项:无

演示:方法testHostKey里面第一个参数只要QPS超过每秒1次,马上降级处理。

测试快速刷新访问1:http://localhost:8401/testHotKey?p1=abc 限流

测试快速刷新访问2:http://localhost:8401/testHotKey?p1=abc&p2=33 限流

测试快速刷新访问3:http://localhost:8401/testHotKey?p2=33 不限流

3、参数例外项

p1参数当它是某个特殊值时,它的限流值和平时不一样。

参数例外项设置

规则解释:

当p1等于5的时候,阈值变为200。http://localhost:8401/testHotKey?p1=5

当p1不等于5的时候,阈值就是平常的1。http://localhost:8401/testHotKey?p1=2

八、系统规则

系统保护规则是从应用级别的入口流量进行控制,从单台机器的 load、CPU 使用率、平均 RT、入口 QPS 和并发线程数等几个维度监控应用指标,让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。

系统保护规则是应用整体维度的,而不是资源维度的,并且仅对入口流量生效。入口流量指的是进入应用的流量(EntryType.IN),比如 Web 服务或 Dubbo 服务端接收的请求,都属于入口流量。

系统规则支持以下的模式:

  • Load 自适应(仅对 Linux/Unix-like 机器生效):系统的 load1 作为启发指标,进行自适应系统保护。当系统 load1 超过设定的启发值,且系统当前的并发线程数超过估算的系统容量时才会触发系统保护(BBR 阶段)。系统容量由系统的 maxQps * minRt 估算得出。设定参考值一般是 CPU cores * 2.5
  • CPU usage(1.5.0+ 版本):当系统 CPU 使用率超过阈值即触发系统保护(取值范围 0.0-1.0),比较灵敏。
  • 平均 RT:当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护,单位是毫秒。
  • 并发线程数:当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。
  • 入口 QPS:当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护。

示例:

系统规则设置

原理

先用经典图来镇楼:

TCP-BBR-pipe

我们把系统处理请求的过程想象为一个水管,到来的请求是往这个水管灌水,当系统处理顺畅的时候,请求不需要排队,直接从水管中穿过,这个请求的RT是最短的;反之,当请求堆积的时候,那么处理请求的时间则会变为:排队时间 + 最短处理时间。

  • 推论一: 如果我们能够保证水管里的水量,能够让水顺畅的流动,则不会增加排队的请求;也就是说,这个时候的系统负载不会进一步恶化。

我们用 T 来表示(水管内部的水量),用RT来表示请求的处理时间,用P来表示进来的请求数,那么一个请求从进入水管道到从水管出来,这个水管会存在 P * RT 个请求。换一句话来说,当 T ≈ QPS * Avg(RT) 的时候,我们可以认为系统的处理能力和允许进入的请求个数达到了平衡,系统的负载不会进一步恶化。

接下来的问题是,水管的水位是可以达到了一个平衡点,但是这个平衡点只能保证水管的水位不再继续增高,但是还面临一个问题,就是在达到平衡点之前,这个水管里已经堆积了多少水。如果之前水管的水已经在一个量级了,那么这个时候系统允许通过的水量可能只能缓慢通过,RT会大,之前堆积在水管里的水会滞留;反之,如果之前的水管水位偏低,那么又会浪费了系统的处理能力。

  • 推论二: 当保持入口的流量是水管出来的流量的最大的值的时候,可以最大利用水管的处理能力。

然而,和 TCP BBR 的不一样的地方在于,还需要用一个系统负载的值(load1)来激发这套机制启动。

注:这种系统自适应算法对于低 load 的请求,它的效果是一个“兜底”的角色。对于不是应用本身造成的 load 高的情况(如其它进程导致的不稳定的情况),效果不明显。

九、规则持久化

第三节已经说明了sentinel 控制台的使用。

1、Sentinel 配置持久化

但是在测试过程中,微服务重启,之前配置的Sentinel规则就消失了,说明之前的规则配置都是临时的,但是在生产环境需要将配置规则进行持久化,不可能每次重启微服务都要去配置一次。

如何持久化?

将限流配置规则持久化进Nacos保存,只要刷新8401某个rest地址,sentinel控制台的流控规则就能看到,只要Nacos里面的配置不删除,针对8401上Sentinel上的流控规则持续有效。

2、案例

修改sentinel-service-8401

2.1 引入pom 依赖

<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>sentinel-datasource-nacos</artifactId>
</dependency>

2.2 YML配置添加数据源

追加数据源的配置

spring:
   cloud:
    sentinel:
    datasource:
     ds1:
      nacos:
        server-addr:localhost:8848
        dataid:${spring.application.name}
        groupid:DEFAULT_GROUP
        data-type:json
            rule-type:flow

完整的YML配置:

server:
  port: 8401

spring:
  application:
    name: sentinel-service
  cloud:
    nacos:
      discovery:
        server-addr: localhost:8848
    sentinel:
      transport:
        dashboard: localhost:8080
        port: 8719  #默认8719,假如被占用了会自动从8719开始依次+1扫描。直至找到未被占用的端口
        datasource:
          ds1:
            nacos:
              server-addr: localhost:8848
              dataId: sentinel-service
              groupId: DEFAULT_GROUP
              data-type: json
              rule-type: flow  

management:
  endpoints:
    web:
      exposure:
        include: '*'

feign:
  sentinel:
    enabled: true # 激活Sentinel对Feign的支持

2.3 Nacos 业务规则配置

添加配置:

内容解析:

[
    {
         "resource": "/retaLimit/byUrl",
         "limitApp": "default",
         "grade":   1,
         "count":   1,
         "strategy": 0,
         "controlBehavior": 0,
         "clusterMode": false    
    }
]

2.4 测试

启动8401,访问地址:http://localhost:8401/rateLimit/byUrl

刷新sentinel发现业务规则出现。

快速刷新访问地址:http://localhost:8401/rateLimit/byUrl

停止端口为8401的服务,再看sentinel 控制台,规则没有了。

重新启动端口为8401的服务,再看sentinel控制台,规则可能不会立即出现,再次刷新访问地址:http://localhost:8401/rateLimit/byUrl

重新配置出现了,说明持久化验证通过。

十、新版Sentinel

Sentinel在1.8.0版本对熔断降级做了大的调整,可以定义任意时长的熔断时间,引入了半开启恢复支持。

1、熔断状态

熔断有三种状态,分别为OPEN、HALF_OPEN、CLOSED。

状态说明
OPEN表示熔断开启,拒绝所有请求
HALF_OPEN探测恢复状态,如果接下来的一个请求顺利通过则结束熔断,否则继续熔断
CLOSED表示熔断关闭,请求顺利通过

2、熔断策略

熔断降级支持慢调用比例、异常比例、异常数三种熔断策略。先明确下面两个概念:慢调用:指耗时大于阈值RT的请求称为慢调用,阈值RT由用户设置

最小请求数:允许通过的最小请求数量,在最小请求数量内不发生熔断,由用户设置

(1)慢调用比例

属性说明
最大RT需要设置的阈值,超过该值则为慢应用
比例阈值慢调用占所有的调用的比率,范围:[0~1]
熔断时长在这段时间内发生熔断、拒绝所有请求
最小请求数即允许通过的最小请求数,在该数量内不发生熔断

执行逻辑

熔断(OPEN):请求数大于最小请求数并且慢调用的比率大于比例阈值则发生熔断,熔断时长为用户自定义设置。

探测(HALFOPEN):当熔断过了定义的熔断时长,状态由熔断(OPEN)变为探测(HALFOPEN)。

  • 如果接下来的一个请求小于最大RT,说明慢调用已经恢复,结束熔断,状态由探测(HALF_OPEN)变更为关闭(CLOSED)
  • 如果接下来的一个请求大于最大RT,说明慢调用未恢复,继续熔断,熔断时长保持一致

(2)异常比例

通过计算异常比例与设置阈值对比的一种策略。

属性说明
异常比例阈值异常比例=发生异常的请求数÷请求总数取值范围:[0~1]
熔断时长在这段时间内发生熔断、拒绝所有请求
最小请求数即允许通过的最小请求数,在该数量内不发生熔断

执行逻辑

熔断(OPEN):当请求数大于最小请求并且异常比例大于设置的阈值时触发熔断,熔断时长由用户设置。

探测(HALFOPEN):当超过熔断时长时,由熔断(OPEN)转为探测(HALFOPEN)

  • 如果接下来的一个请求未发生错误,说明应用恢复,结束熔断,状态由探测(HALF_OPEN)变更为关闭(CLOSED)
  • 如果接下来的一个请求继续发生错误,说明应用未恢复,继续熔断,熔断时长保持一致

(3)异常数

通过计算发生异常的请求数与设置阈值对比的一种策略。

属性说明
异常数请求发生异常的数量
熔断时长在这段时间内发生熔断、拒绝所有请求
最小请求数即允许通过的最小请求数,在该数量内不发生熔断

执行逻辑

熔断(OPEN):当请求数大于最小请求并且异常数量大于设置的阈值时触发熔断,熔断时长由用户设置。探测(HALFOPEN):当超过熔断时长时,由熔断(OPEN)转为探测(HALFOPEN)

  • 如果接下来的一个请求未发生错误,说明应用恢复,结束熔断,状态由探测(HALF_OPEN)变更为关闭(CLOSED)
  • 如果接下来的一个请求继续发生错误,说明应用未恢复,继续熔断,熔断时长保持一致

4、规则参数说明

熔断降级DegradeRule中的属性进行说明

属性说明
resource资源名称
grade降级策略 0:慢调用比例 1:异常比例 2:异常数量
count用户设置的阈值,根据不同的策略分别表示最大RT、异常比例阈值、异常数阈值
timeWindow熔断时长
minRequestAmount最小请求数,默认为5
slowRatioThreshold慢调用比率阈值,默认为1.0
statIntervalMs熔断时长,默认为1秒

1.慢调用策略

[
    {
        "count": 3000,
        "grade": 0,
        "limitApp": "default",
        "minRequestAmount": 100,
        "resource": "/v1/test1",
        "slowRatioThreshold": 0.5,
        "statIntervalMs": 1000,
        "timeWindow": 5
    }
]

2.异常比例

{
    "count": 0.3,
    "grade": 1,
    "limitApp": "default",
    "minRequestAmount": 200,
    "resource": "degrade02",
    "slowRatioThreshold": 1,
    "statIntervalMs": 1000,
    "timeWindow": 5
}

3.异常数

{
    "count": 1000,
    "grade": 2,
    "limitApp": "default",
    "minRequestAmount": 300,
    "resource": "degrade03",
    "slowRatioThreshold": 1,
    "statIntervalMs": 1000,
    "timeWindow": 5
}


版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 Small-Rose / 张小菜 !
评论
  目录