人人都能看懂的 6 种限流实现方案(纯干货)

为什么要限流

限流是指对系统中的请求进行控制，限制流量到达一定的阈值，从而保护系统的可用性、稳定性和安全性。在高并发场景、恶意攻击、突发事件等情况下，未实现限流可能导致服务器崩溃、数据库宕机、带宽溢出等问题。因此，限流是保障系统稳定可靠的重要手段。

6 种限流实现方案

1. 固定窗口计数器算法

这是最基本的实现方式，将时间分为固定大小的窗口，每个窗口内允许的请求数量是固定的，如果超过限制就拒绝或缓存处理。缺点是无法应对突发的流量，容易造成封锁正常访问。

2. 滑动窗口算法

同样是将时间分为固定大小的窗口，但系统会计算多个窗口内的请求数量，而不是单个窗口。这样有助于应对突发流量的情况，但是实现相对复杂。

3. 令牌桶算法

这种算法将请求数量转化为令牌，请求需要消耗掉令牌，如果没有令牌则拒绝请求，而令牌也会自动回复。优点是实现简单，可以应对突发流量，缺点是不利于尽量使用服务器带宽。

4. 漏桶算法

漏桶算法类似于令牌桶，但是将请求数量解释为水滴，而服务器就像是一个漏桶，每秒钟可以漏掉一定数量的水滴，如果超出了这个数量，则会缓存或拒绝请求。这种算法能够较好地平衡服务器带宽和请求处理速度。

5. 基于时间窗口的排队限流算法

这种算法是将请求放入到队列中，如果队列的请求数量超过限制，则拒绝或缓存请求。优点是容易实现，缺点是可能会导致请求积压和长时间的等待。

6. 混合算法

针对复杂的应用场景，可以综合使用多种算法，以达到更好的限流效果。例如，使用令牌桶算法限制长连接的请求数量，使用漏桶算法限制瞬时流量等。

实例说明

实例1：基于时间窗口的排队限流算法

比如一个网站页面访问比较费时，为了避免请求积压，我们可以引入一个请求队列。具体实现方式如下：

class RequestQueue:
    def __init__(self, max_requests, time_window):
        self.max_requests = max_requests
        self.time_window = time_window
        self.queue = deque()

    def push(self, request_time):
        self.queue.append(request_time)
        self.flush_old()
        if len(self.queue) > self.max_requests:
            return False
        return True

    def flush_old(self):
        while self.queue:
            if self.queue[0] < time.time() - self.time_window:
                self.queue.popleft()
            else:
                break

我们可以设置每秒最多允许10个请求，如下所示：

queue = RequestQueue(10, 1)
for i in range(15):
    if queue.push(time.time()):
        print('Request {} accepted'.format(i))
    else:
        print('Request {} rejected'.format(i))

输出结果如下：

Request 0 accepted
Request 1 accepted
Request 2 accepted
Request 3 accepted
Request 4 accepted
Request 5 accepted
Request 6 accepted
Request 7 accepted
Request 8 accepted
Request 9 accepted
Request 10 rejected
Request 11 rejected
Request 12 rejected
Request 13 rejected
Request 14 rejected

当请求的数量超过10个时，会被拒绝。

实例2：滑动窗口算法

以Python为例，我们可以使用第三方库 statsd 来实现滑动窗口限流。首先，安装 statsd：

pip install statsd

下面是一个使用 statsd 实现滑动窗口算法的简单示例：

from statsd import StatsClient
import time

statsd = StatsClient(host='localhost', port=8125)

def main():
    while True:
        statsd.incr('requests')
        if int(statsd.get_count('requests', window_size=10)) > 10:
            print('Too many requests')
        time.sleep(0.1)

if __name__ == '__main__':
    main()

这个例子使用了 statsd 客户端来统计请求次数，并使用 get_count() 方法获取一段时间内的请求次数。如果请求次数超过了10次，则会输出 'Too many requests' 消息。

总结

限流作为一种重要的保护系统稳定性和安全性的手段，应用在很多高并发、复杂场景中。根据实际需求和场景，我们可以使用不同的限流算法来实现。在实践中，也可以采用多种算法的组合来提高系统的稳定性和安全性。