基于并发服务器几种实现方法(总结)

当我们在设计高并发服务器时，需要考虑使用哪种实现方法来提高服务器的并发处理能力，以下是几种基于并发服务器的常用实现方法：

I/O 复用（select、poll、epoll）

I/O 复用是通过一个进程管理多个 I/O 事件的模型，可以同时监听多个文件描述符，当其中任意一个文件描述符就绪时操作系统会通知进程进行读写操作。select、poll、epoll 都是常用的 I/O 复用模型。

select

select 是最早的 I/O 复用模型，它使用一个 fd_set 集合来存储待监听的文件描述符，同时通过 select 函数进行监听，当 fd_set 集合中有一个或多个文件描述符就绪时，select 函数会返回并通知进程进行读写操作。

poll

poll 是 select 模型的改进，它使用一个 pollfd 结构体数组来存储待监听的文件描述符，同时通过 poll 函数进行监听，当 pollfd 数组中有一个或多个文件描述符就绪时，poll 函数会返回并通知进程进行读写操作。

epoll

epoll 是 Linux 中的 I/O 复用模型，它使用一个 epoll_event 结构体来存储待监听的文件描述符，同时通过 epoll_ctl 和 epoll_wait 函数进行监听，当 epoll_event 中有一个或多个文件描述符就绪时，epoll_wait 函数会返回并通知进程进行读写操作。相比于 select 和 poll，epoll 更加高效，因为它使用了基于事件驱动的机制，无需轮询。

多进程/多线程

多进程/多线程模型可以通过创建多个进程或者多个线程来对客户端进行并发处理。

多进程

多进程模型会创建多个子进程来处理客户端请求，每个子进程独立运行，互不影响。优点是简单易用，每个子进程独立控制资源，缺点是进程切换开销大。

多线程

多线程模型会创建多个线程来处理客户端请求，每个线程独立运行，互不影响。优点是线程切换开销小，缺点是线程间共享资源需要加锁，否则容易发生资源竞争问题。

异步服务器（异步 I/O）

异步服务器采用异步 I/O 实现并发处理，当一个 I/O 请求发生时，会立即返回，后续的 I/O 操作由操作系统异步处理，不需要阻塞进程。

总结

以上是基于并发服务器的几种实现方法，在使用时可以根据具体情况来选择合适的实现方式，提高服务器的并发处理能力。

示例1：使用 I/O 复用模型实现 Echo 服务器

import socket
import select

server_socket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
server_socket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
server_socket.bind(("", 12345))
server_socket.listen(5)
inputs = [server_socket]

while True:
    readable, _, _ = select.select(inputs, [], [])
    for sock in readable:
        if sock is server_socket:
            client_socket, _ = sock.accept()
            inputs.append(client_socket)
        else:
            data = sock.recv(1024)
            if data:
                sock.send(data)
            else:
                sock.close()
                inputs.remove(sock)

示例2：使用多线程模型实现 Echo 服务器

import socket
import threading

def client_handler(client_socket, address):
    while True:
        data = client_socket.recv(1024)
        if data:
            client_socket.send(data)
        else:
            client_socket.close()
            break

server_socket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
server_socket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
server_socket.bind(("", 12345))
server_socket.listen(5)

while True:
    client_socket, address = server_socket.accept()
    t = threading.Thread(target=client_handler, args=(client_socket, address))
    t.start()