Reactor线程模型的对比

发表于 2021-04-14 分类于 netty Waline：阅读次数：

在高性能网络通信框架中，I/O 模型和线程模型是两个核心的关注点。对于 I/O 多路复用模型，需要将 selector 上的事件分发给对应的事件处理者。在 Reactor 线程模型中，Reactor 作为事件分发器，负责分发各种 I/O 事件。

一个 server 启动后，需要监听网络端口上的远程连接。

当有 client 请求建立连接时，selector 上会产生 accept 事件，Reactor 将 accept 事件交给 acceptor 处理，从而建立连接。

连接建立好后，server 和 client 之间就可以发送和接收数据了，数据的接收需要经过 decode 操作解析成所需的格式，然后 compute 进行业务逻辑处理，发送前需要 encode 成网络传输所需的格式。

整体流程为：accept -> 建立连接 -> read -> decode -> compute -> encode -> send

Reactor线程模型对比

单线程模型

所有的操作全部运行在一个 Reactor 线程中，一次只能接收和处理一个连接。

当一个请求未处理完时，selector 无法接收新的请求，也就无法建立新的连接，会造成请求超时。

即使每个请求的响应都很快，同时能够处理的请求数量也很有限。

多线程模型

多线程的改进在于将 decode、compute、encode 这些非 I/O 操作放到了线程池中进行处理，这样一来，业务逻辑的耗时长短不会对 Reactor 线程造成影响，Reactor 线程只需要负责处理 accept、read、send 等 I/O 操作即可。

主从多线程模型

在多线程模型中，Reactor 需要处理多种 I/O 操作，其中 read 和 send 操作可能因为数据量大导致耗时较长，这会影响其他事件的处理，从而影响并发度。

主从多线程模型中，Reactor 根据职责划分为 mainReactor 和 subReactor，其中 mainReactor 只负责分发 accept 事件给 acceptor 处理，acceptor 与 mainReactor 运行在同一个线程中，建立连接后交给 subReacotr 处理。subReactor 与多线程模型中的 Reactor 类似，它负责 read 和 send 操作，将 decode、compute和encode 操作放到业务线程池中处理。为了提高并发度，可以创建多个 subReactor，这样就可以充分利用多处理的能力。

netty中的实现

netty 中的 bossGroup 对应 Reactor 线程模型中的 mainReactor，workerGroup 对应 Reactor 线程模型中的 subReactor，可通过配置 bossGroup 和 workerGroup 参数指定线程模型。

单线程模型

// 配置eventLoopGroup为单线程
EventLoopGroup eventLoopGroup = new NioEventLoopGroup(1);

// bossGroup和workerGroup共用一个EventLoopGroup
ServerBootstrap b = new ServerBootstrap();
b.group(eventLoopGroup)
  .channel(NioServerSocketChannel.class)
  ...

多线程模型

// 配置eventLoopGroup为单线程
EventLoopGroup eventLoopGroup = new NioEventLoopGroup(1);

// bossGroup和workerGroup共用一个EventLoopGroup
ServerBootstrap b = new ServerBootstrap();
b.group(eventLoopGroup)
  .channel(NioServerSocketChannel.class)
  .childHandler(new ChannelInitializer<SocketChannel>() {
     @Override
     public void initChannel(SocketChannel ch) throws Exception {
         p.addLast(new MyHandler);
     }
 });

// MyHandler中将decode、compute、encode事件放到业务线程池中处理

主从多线程模型

// 配置bossGroup
EventLoopGroup bossGroup = new NioEventLoopGroup(1);
// 配置workerGroup，默认线程数为NettyRuntime.availableProcessors() * 2
EventLoopGroup workerGroup = new NioEventLoopGroup();

// bossGroup和workerGroup为单独的EventLoopGroup
ServerBootstrap b = new ServerBootstrap();
b.group(bossGroup, workerGroup)
  .channel(NioServerSocketChannel.class)
  .childHandler(new ChannelInitializer<SocketChannel>() {
     @Override
     public void initChannel(SocketChannel ch) throws Exception {
         p.addLast(new MyHandler);
     }
 });

// MyHandler中将decode、compute、encode事件放到业务线程池中处理