.Net弹性和瞬态故障处理库Polly实现弹性策略
和故障处理策略不同的是,弹性策略并不是针对委托执行过程中的异常进行处理,而是改变委托本身的行为,因此弹性策略并没有故障定义这一过程,它的处理流程为:
- 定义策略
- 应用策略
Polly对弹性策略也做了不少支持,本文这里就简单的介绍一下。
弹性策略:超时(Timeout)
超时策略用于控制委托的运行时间,如果达到指定时间还没有运行,则触发超时异常。
Policy.Timeout(TimeSpan.FromSeconds(3), TimeoutStrategy.Pessimistic);
超时策略常见的重载版本有如下几个:
Policy.Timeout(300); Policy.Timeout(TimeSpan.FromMilliseconds(3)); Policy.Timeout(() => TimeSpan.FromSeconds(3)); Policy.Timeout(TimeSpan.FromSeconds(3), TimeoutStrategy.Optimistic);
超时策略:
Polly支持两种超时策略:
- TimeoutStrategy.Pessimistic: 悲观模式
当委托到达指定时间没有返回时,不继续等待委托完成,并抛超时TimeoutRejectedException异常。 - TimeoutStrategy.Optimistic:乐观模式
这个模式依赖于 co-operative cancellation,只是触发CancellationTokenSource.Cancel函数,需要等待委托自行终止操作。
其中悲观模式比较容易使用,因为它不需要在委托额外的操作,但由于它本身无法控制委托的运行,函数本身并不知道自己被外围策略取消了,也无法在超时的时候中断后续行为。因此用起来反而还不是那么实用。
一个乐观模式的的策略示例如下:
var policy = Policy.Timeout(300); var cts = new CancellationTokenSource(); policy.Execute(ct => { for (int i = 0; i < 1000; i++) { Thread.Sleep(100); ct.ThrowIfCancellationRequested(); } }, cts.Token);
复合策略:
在日常的使用中,仅仅只有超时往往是并不够的,很多时候还需要和重试等其它故障处理策略一起使用,如:
Policy.Handle<TimeoutRejectedException>() .Retry(3) .Wrap(Policy.Timeout(3, TimeoutStrategy.Pessimistic));
弹性策略:无操作(NoOp)
在开发过程中,处于测试或定位问题时的需要,有时我们也需要一个没有任何行为的策略,Polly系统默认提供了一个.
Policy.NoOp();
这个啥都没干,也没啥好介绍的了。
弹性策略:缓存(Cache)
有的时候,数据更新并不是频繁的,此时可以使用缓存策略减少对服务的访问,提高系统性能:
var memoryCacheProvider = new Polly.Caching.MemoryCache.MemoryCacheProvider(new System.Runtime.Caching.MemoryCache("cache")); var cachePolicy = Policy.Cache(memoryCacheProvider, TimeSpan.FromMinutes(5)); //Context.ExecutionKey就是cache的key var context = new Context("cache_key"); for (int i = 0; i < 3; i++) { var cache = cachePolicy.Execute(_ => { Console.WriteLine("get value"); return 3; }, context); Console.WriteLine(cache); }
PS:这个示例使用了MemoryCache,需要使用Nuget安装Polly.Caching.MemoryCache程序包,以及添加System.Runtime.Caching的引用。
从运行结果可以看到,虽然三次执行都有结果,但系统只有第一次才需要执行函数,剩下两次都是直接从缓存中获取的结果。
系统也提供了多种不同的过期策略:
Policy.Cache(memoryCacheProvider, new AbsoluteTtl(DateTimeOffset.Now.Date.AddDays(1))); Policy.Cache(memoryCacheProvider, new SlidingTtl(TimeSpan.FromMinutes(5)));
对于布式缓存,Polly也有默认的实现,只需要安装Polly.Caching.IdistributedCache程序包即可,它提供了SqlServer和Redis的支持。
关于Cache的更多内容,可以参考官方文档:Cache
弹性策略:舱壁隔离(Bulkhead Isolation)
舱壁隔离是一种并发控制的行为,并发控制是一个比较常见的模式,Polly也提供了这方面的支持,如:
//该策略下最多只有12个任务并发执行 Policy.Bulkhead(12);
超过了并发数的任务会抛BulkheadRejectedException,如果要放在队列中等待,Polly也提供了等待队列的支持:
Policy.Bulkhead(12, 100);
这种方式下,有12个并发任务,每个任务维持着一个并发队列,每个队列可以自持最大100个任务。
不过,和微软自己的DataFlow模块比起来,感觉Polly模块的并发控制的功能还是比较弱的。不过这也它本身的应用场景也相关,如果需要更强大的策略,也可以自行封装。
弹性策略:策略封装(PolicyWrap)
我们可以通过PolicyWrap的方式,封装出一个更加强大的策略:
var fallback = Policy<int>.Handle<TimeoutException>().Fallback(100); var retry = Policy<int>.Handle<TimeoutException>().Retry(2); Policy.Wrap(fallback, retry);
这个策略就是将Retry和Fallback组合起来,形成一个retry and fallback的策略,也可以写成如下形式:
var retryAndFallback = fallback.Wrap(retry);
当执行这个新策略时:
retryAndFallback.Execute(DoSomething);
等价于执行:
fallback.Execute(()=> retry.Execute(DoSomething));
到此这篇关于Polly实现弹性策略的文章就介绍到这了。希望对大家的学习有所帮助,也希望大家多多支持我们。