（4）ASP.NET Core3.1 Ocelot負載均衡

1.負載均衡

Ocelot能夠在每一個路由的可用下游服務中實現負載均衡，這使咱們更有效地選擇下游服務來處理請求。負載均衡類型：
●LeastConnection：根據服務正在處理請求量的狀況來決定哪一個服務來處理新請求，即將新請求發送到具備最少現有請求的服務去處理。算法狀態沒有分佈在Ocelot集羣中。
●RoundRobin：遍歷可用服務併發送請求。算法狀態沒有分佈在Ocelot集羣中。
●NoLoadBalancer：從配置或服務發現中獲取第一個可用服務來處理新請求。
●CookieStickySessions：經過使用Cookie，確保特定的請求可以被分配到特定的服務上進行處理。
在Ocelot負載均衡項目示例中，經過網關項目的路由LoadBalancerOptions選項能夠配置負載均衡類型：

{
  "Routes": [
    {
      //下游路由服務地址
      "DownstreamPathTemplate": "/api/values",
      //下游服務地址訪問協議類型http或者https
      "DownstreamScheme": "http",
      //下游服務的主機和端口
      "DownstreamHostAndPorts": [
        {
          "Host": "localhost",
          "Port": 9001
        },
        {
          "Host": "localhost",
          "Port": 9002
        }
      ],
      //上游服務地址，即下游服務真實訪問地址
      "UpstreamPathTemplate": "/",
      //負載均衡類型：輪詢
      "LoadBalancerOptions": {
        "Type": "RoundRobin"
      },
      //上游服務HTTP請求方式，例如Get、Post
      "UpstreamHttpMethod": [ "Get" ]
    }
  ]
}

新請求經過上游訪問下游服務的時候，Ocelot會根據LoadBalancerOptions負載均衡選項類型來分發到具體下游服務。

2.服務發現

下面展現如何使用服務發現來設置路由：

{
    "DownstreamPathTemplate": "/api/posts/{postId}",
    "DownstreamScheme": "https",
    "UpstreamPathTemplate": "/posts/{postId}",
    "UpstreamHttpMethod": [ "Put" ],
    "ServiceName": "product",
    "LoadBalancerOptions": {
        "Type": "LeastConnection"
    }
}

設置此選項後，Ocelot將從服務發現提供程序中查找下游主機和端口，並在全部可用服務中進行負載平衡請求。若是您從服務發現提供者（領事）中添加和刪除服務，Ocelot會中止調用已刪除的服務，並開始調用已添加的服務。後續學習服務發現這塊知識點時候會從新再講解。

3.項目演示

3.1APIGateway項目

該項目經過LoadBalancerOptions配置選項定義服務負載均衡請求機制，事例項目使用的負載均衡類型是RoundRobin，在Program添加Ocelot支持代碼以下：

public static IWebHostBuilder CreateWebHostBuilder(string[] args) =>
    WebHost.CreateDefaultBuilder(args)
            //.UseStartup<Startup>()
            .UseUrls("http://*:9000")
            .ConfigureAppConfiguration((hostingContext, config) =>
        {
            config.SetBasePath(hostingContext.HostingEnvironment.ContentRootPath)
                //添加Ocelot配置文件
.AddJsonFile("configuration.json")
                .AddEnvironmentVariables();
        })
        .ConfigureServices(s =>
        {
            //添加Ocelot服務;
            s.AddOcelot();
        })
        .Configure(a =>
        {
　　　　//使用Ocelot
            a.UseOcelot().Wait();
        });

3.2APIServicesA和APIServicesB下游服務項目

APIServicesA和APIServicesB項目分別新建兩個GET請求方法，代碼分別以下：

//APIServicesA
[Route("api/[controller]")]
public class ValuesController : Controller
{
    // GET api/values
    [HttpGet]
    public string Get()
    {
        return "From APIServiceA";
    }
}
//APIServicesB
[Route("api/[controller]")]
public class ValuesController : Controller
{
    // GET api/values
    [HttpGet]
    public string Get()
    {
        return "From APIServiceB";
    }        
}

3.3項目運行

●經過dotnet run命令啓動APIGateway項目（網關層）

dotnet run --project APIGateway項目路徑\APIGateway.csproj

●經過dotnet run命令啓動APIServicesA項目

dotnet run --project APIServicesA項目路徑\APIServicesA.csproj

●經過dotnet run命令啓動APIServicesB項目

dotnet run --project APIServicesB項目路徑\APIServicesB.csproj

經過瀏覽器查看輪詢分發給下游服務返回的結果：


負載均衡輪詢分發下游服務成功。

4.自定義負載均衡

Ocelot支持自定義負載均衡的方法。自定義負載均衡的類須要繼承ILoadBalancer接口類，下面咱們定義一個簡單的負載均衡循環輸出下游服務的示例：

public class CustomLoadBalancer : ILoadBalancer
{
    private readonly Func<Task<List<Service>>> _services;
    private readonly object _lock = new object();
    private int _last;

    public CustomLoadBalancer(Func<Task<List<Service>>> services)
    {
        _services = services;
    }
    public async Task<Response<ServiceHostAndPort>> Lease(HttpContext httpContext)
    {
        var services = await _services();
        lock (_lock)
        {
            if (_last >= services.Count)
            {
                _last = 0;
            }
            var next = services[_last];
            _last++;
            return new OkResponse<ServiceHostAndPort>(next.HostAndPort);
        }
    }
    public void Release(ServiceHostAndPort hostAndPort)
    {
    }
}

在Ocelot中註冊此類：

Func<IServiceProvider, DownstreamRoute, IServiceDiscoveryProvider, CustomLoadBalancer> loadBalancerFactoryFunc =
(serviceProvider, Route, serviceDiscoveryProvider) => new CustomLoadBalancer(serviceDiscoveryProvider.Get);
s.AddOcelot().AddCustomLoadBalancer(loadBalancerFactoryFunc);

最後在路由的LoadBalancerOptions配置選項上修改成CustomLoadBalancer自定義負載均衡類名：

"LoadBalancerOptions": {
  "Type": "CustomLoadBalancer"
}

運行項目調試查看結果：
第一次請求時候分發到APIServicesA項目。

第二次請求時候分發到APIServicesB項目。

從上面結果來看，自定義負載均衡成功。

參考文獻：
Ocelot官網