分布式服务框架原理与实践之 通信框架
1.技术点
1.1 长连接还是短连接？
长连接更加省资源，长连接只有在首次创建或者链路重连才会创建链路，实现多消息复用同一个链路、
1.2 采用BIO还是NIO、？
采用nio，因为nio的多路复用技术，Selector可以管理多个通道Channel，nio的非阻塞更加高效、
1.3 自己研制还是选择开源nio框架
netty已经经过诸多项目的考验，并且API层对底层进行了细节隐藏，更加便捷；
netty解决了java 传统nio的bug；
2.功能设计
2.1服务端的设计
原则：1.服务端只提供上层的API，不与任何协议绑定。
2.服务端提供给用户的API尽量的屏蔽底层的通信细节，防止底层变更引起级联变 更。
3.功能不在于全面，而在于可扩展。
2.2客户端设计：
1.第一步创建Bootstrap实例。
2.初始化TCP链接参数，设置编解码handler和其他业务handler，
3.connect方法发起异步TCP连接操作；
connect为异步链接，程序不会等待。TCP是否连接可以通过返回的ChannelFuture对象来通知连接结果。（同步等待：wait后notify，会有InterruptionException；注册监听器：等待操作完成后异步通知）
4.采用连接监听器的方式，异步通知结果；
5.服务端返回TCP握手应答，矽统回调监听器操作完成接口。
6.操作完成接口中实现的逻辑，通知客户端连接操作完成。
3.可靠性设计
3.1 链路有效性检测
当前流行的做法是：心跳检测
心跳检测的机制：
1.TCP层面：TCP的Keep-Alive;它的作用域是整个TCP协议栈；
2.协议层：主要是长连接连接协议中，例如SMPP协议。
3.应用层：通过各个业务与产品通过约定方式定时给对方发送信条消息。
心跳检测的目的：
确认当前的链路是可用的。
不同的协议，心跳机制：
1.ping-pong型心跳：请求-响应型，一方发出ping，收到信息后立即回复pong；
2.ping-ping型心跳：双方按照约定定时想对方发送ping；属于双向心跳。
心跳检测策略：
1.心跳超时：连续N次未检测到对方发送来的ping或者pong信息，则认为链路失效；
2.心跳失败：读取或者发送消息的时候发生了I/o异常；
无论是超时还是失败，都要关闭链路，并且有客户端发起重连，保证恢复正常。
Netty心跳检测利用链路空闲检测机制实现的，空闲机制分为：
1.读空闲：链路持续时间t没有读取任何消息
2.写空闲：链路持续时间t没有发送消息
3.读写空闲：链路持续时间t没有读或者写消息
Netty默认读写空闲机制；利用netty提供的链路空闲检测机制，可以非常灵活的实现链路空闲时的有效性检测；
3.2 断连重连机制
利用netty的CloseChannel，可以方便的检测链路状态，一旦链路关闭，则可以重连。
3.3 消息缓存重发
我们调用发送消息接口的时候，消息并没真正写入Socket中，而是先放入了nio框架的消息发送队列中，由Reactor线程扫描待发送的消息队列，异步的发送给通信对方；遗憾的是 消息队列中挤压部分消息而此时链路断开，这部分消息就会丢失，netty和mina都没有对 消息缓存和重新发送 进行提供，需要自己封装实现。
基于netty如下：
1）、调用ChannelHandlerContext的write（）方法时候，返回ChannelFuture对象，我们在ChannelFuture中注册发送结果监听Listener；
2）、在listener的operationComplete方法中判断操作结果，如果操作不成功，将之前发送的消息添加到重发队列；
3）、链路重连成功之后，根据策略，将缓存队列中的消息重新发送出去。
3.4 资源优雅释放
netty提供了相应的接口和类库进行资源优雅释放
优雅释放：
java优雅停机是通过注册jdk的shutdownHook来实现；当系统受到退出指令的时候，首先标记系统处于退出状态，不再接收新消息，然后积压的信息处理完最后资源回收接口调用销毁资源，最后线程退出执行。
一般优雅退出有时间限制，例如30s。如果还未处理完强制执行kill -9 pid
4 性能设计
4.1 性能差：
1.网络传输问题
BIO通信模型，服务端为请求的线程生成不能与并发访问呈线性关系，所以会发生句柄溢出，线程堆栈溢出等，
2.序列化性能差
Java序列化机制是java内部的一种对象编解码机制，无法跨语言使用；
相较于其他开源序列化框架，java序列化后的码流太大，不利于传输或者存储。
序列化性能差，CPU占有率高
3.线程模型问题
同步阻塞I/O，tcp每个链接占一个线程，阻塞导致线程无法及时释放，导致性能下降；
4.2 通信性能三原则：
1.传输：NIO、 BIO、 AIO
2.协议：相较于公有协议，内部私有协议往往性能被设计的更优。
3.线程：Reactor线程模型的不用，对性能影响很大。
4.3 高性能之道
1）、异步非阻塞通信
netty的I/O线程NioEventLoop由于聚合了多路复用器Selector，可以同时处理很多SocketChannel,这就解决了传统同步阻塞IO一个连接一个线程的模型，架构性能、伸缩性得到了提升。
2）、高效的I/O线程模型
netty支持Reactor单线程模型、Reactor多线程模型、主从Reactor多线程模型
3）、高性能的序列化框架
netty默认提供google的Protobuf的二进制序列化框架。
同时，netty还提供了零拷贝、内存池等性能相关的特性。
想要学习Dubbo框架、zookeper基本原理、redis分布式缓存、JVM性能优化，Nginx+apache+Tomcat集群部署、大数据hadoop,Hbase实时计算spark、storm、数据分析分词和权重等核心技术；需要的可以关注之后私信哈，记得要点赞转发噢！！！