不一样的网络协议-------KCP协议详解
1、kcp 的协议特点
1.1、RTO 不翻倍
RTO(Retransmission TimeOut)，重传超时时间。tcp x 2，kcp x 1.5，提高传输速度
1.2、选择重传
TCP丢包时会全部重传从该包开始以后的数据，而KCP选择性重传，只重传真正丢失的数据包。
1.3、快速重传
tcp 重传模式
超时重传：超过规定的时间 RTO 则重传
快速重传：收到三个冗余ACK，不去等待RTO ，直接重传
这里指的是收到fastresend个失序报文后，不等待超时，直接重传，减少丢包等待时间。
1.4、非延迟 ACK
tcp 为充分利用带宽，延迟发送 ACK，RTT 时间较大，延长了丢包时的判断过程。而 kcp 的 ACK 是否延迟发送可以调节。
1.5、ACK + UNA
ARQ （自动重传请求，Automatic Repeat-reQuest）模型响应有两种方式
UNA：此编号前所有包已收到，tcp
ACK：该编号包已收到
只用 UNA 将导致全部重传，只用 ACK 则丢失成本太高，以往协议都是二选其一。而 kcp 协议中，除去单独的 ACK 包（精确）外，所有包都有 UNA 信息。
1.6、非退让流控
KCP正常模式同TCP一样使用公平退让法则，即发送窗口大小由：发送缓存大小、接收端剩余接收缓存大小、丢包退让、慢启动这四要素决定。但传送及时性要求很高的小数据时，可选择仅用前两项来控制发送频率。以牺牲部分公平性及带宽利用率之代价，换取了流畅传输的效果。
KCP 实时性好，但带宽利用率较低，因为非退让流控，不断尝试发送数据，有效包不多，每个包应答，占用一定的带宽
2.kcp 实现
UDP收到的报文通过kcp_input传递给KCP，KCP会对数据进行解包，重新封装成应用层用户数据，应用层通过kcp_recv获取。应用层通过kcp_send发送数据，KCP会把用户数据拆分kcp报文，通过kcp_output，以UDP(send)的方式发送。
2.1、kcp 数据结构
kcp 报文结构：
conv：会话编号，通信双方必须一致。cmd：报文类型IKCP_CMD_ACK 确认命令IKCP_CMD_PUSH 数据推送命令IKCP_CMD_WASK 接收窗口询问大小命令IKCP_CMD_WINS 接收窗口大小告知命令wnd: 己方可用接收窗口大小，接收窗口大小 - 接收队列大小frg：segmen t分片。0，最后一个分片。3 2 1 0sn：segment 报文的序列号。ts：发送时间戳，用于计算RTO和RTTuna：待接收的序列号，其实确认号，表示该序列号之前的所有报文都收到了，可以删除len：数据长度，DATA的长度DATA: 用户数据
kcp 使用的 Segment 定义如下
struct IKCPSEG
{
struct IQUEUEHEAD node; // 用来串接多个 KCP segment，即前向后向指针
IUINT32 conv; // 会话编号
IUINT32 cmd; // 报文类型
IUINT32 frg; // 分片
IUINT32 wnd; // 可用接收窗口大小(接收窗口大小-接收队列大小)
IUINT32 ts; // 发送时刻的时间戳
IUINT32 sn; // 分片 segment 的序号
IUINT32 una; // 待接收消息序号
IUINT32 len; // 数据长度
IUINT32 resendts; // 下次超时重传该报文的时间戳
IUINT32 rto; // 重传超时时间
//发送端在发送过程中携带着RTO，该发送端会启动一个定时器，进行定时，如果超过RTO就会重传
IUINT32 fastack; // 收到ack时该分片被跳过的次数，用于快速重传
IUINT32 xmit; // 记录了该报文被传输了几次
char data[1]; // 实际传输的数据 payload
};
每一个 KCP 用户都需要调用 ikcp_create 创建一个 kcp 控制块 ikcpcb。ikcpcb 结构用来实现整个 KCP 协议。
struct IKCPCB
{
IUINT32 conv; // 标识会话
IUINT32 mtu; // 最大传输单元,默认数据为1400,最小为50
IUINT32 mss; // 最大分片大小,不大于mtu
IUINT32 state; // 连接状态(0xffffffff表示断开连接)
IUINT32 snd_una; // 第一个未确认的包
IUINT32 snd_nxt; // 下一个待分配包的序号
IUINT32 rcv_nxt; // 待接收消息序号.为了保证包的顺序,接收方会维护一个接收窗口,接收窗口有一个起始序号rcv_nxt 以及尾序号rcv_nxt + rcv_wnd(接收窗口大小)
IUINT32 ts_recent;
IUINT32 ts_lastack;
IUINT32 ssthresh; // 拥塞窗口的阈值
IINT32 rx_rttval; // RTT的变化量,代表连接的抖动情况
IINT32 rx_srtt; // smoothed round trip time，平滑后的RTT；
IINT32 rx_rto; // 收ACK接收延迟计算出来的重传超时时间
IINT32 rx_minrto; // 最小重传超时时间
IUINT32 snd_wnd; // 发送窗口大小
IUINT32 rcv_wnd; // 接收窗口大小，本质上而言如果接收端一直不去读取数据则rcv_queue就会满(达到rcv_wnd)
IUINT32 rmt_wnd; // 远端接收窗口大小
IUINT32 cwnd; // 拥塞窗口大小, 动态变化
IUINT32 probe; // 探查变量, IKCP_ASK_TELL表示告知远端窗口大小。IKCP_ASK_SEND表示请求远端告知窗口大小；
IUINT32 current;
IUINT32 interval; // 内部flush刷新间隔，对系统循环效率有非常重要影响, 间隔小了cpu占用率高, 间隔大了响应慢
IUINT32 ts_flush; // 下次flush刷新的时间戳
IUINT32 xmit; // 发送segment的次数, 当segment的xmit增加时，xmit增加(重传除外)
IUINT32 nrcv_buf; // 接收缓存中的消息数量
IUINT32 nsnd_buf; // 发送缓存中的消息数量
IUINT32 nrcv_que; // 接收队列中消息数量
IUINT32 nsnd_que; // 发送队列中消息数量
IUINT32 nodelay; // 是否启动无延迟模式。无延迟模式rtomin将设置为0，拥塞控制不启动；
IUINT32 updated; //是否调用过update函数的标识；
IUINT32 ts_probe; // 下次探查窗口的时间戳；
IUINT32 probe_wait; // 探查窗口需要等待的时间；
IUINT32 dead_link; // 最大重传次数，被认为连接中断；
IUINT32 incr; // 可发送的最大数据量；
struct IQUEUEHEAD snd_queue; //发送消息的队列
struct IQUEUEHEAD rcv_queue; //接收消息的队列, 确认过用户可读取
struct IQUEUEHEAD snd_buf; //发送消息的缓存
struct IQUEUEHEAD rcv_buf; //接收消息的缓存
IUINT32 *acklist; //待发送的ack的列表 当收到一个数据报文时，将其对应的 ACK 报文的 sn 号以及时间戳 ts
//同时加入到acklist 中，即形成如 [sn1, ts1, sn2, ts2 …] 的列表
IUINT32 ackcount; // 记录 acklist 中存放的 ACK 报文的数量
IUINT32 ackblock; // acklist 数组的可用长度，当 acklist 的容量不足时，需要进行扩容
void *user; // 指针，可以任意放置代表用户的数据，也可以设置程序中需要传递的变量；
char *buffer; // 存储字节流信息
int fastresend; // 触发快速重传的重复ACK个数；
int fastlimit;
int nocwnd; // 取消拥塞控制
int stream; // 是否采用流传输模式
int logmask; // 日志的类型，如IKCP_LOG_IN_DATA，方便调试
int (*output)(const char *buf, int len, struct IKCPCB *kcp, void *user);//发送消息的回调函数
void (*writelog)(const char *log, struct IKCPCB *kcp, void *user); // 写日志的回调函数
};
需要C/C++ Linux服务器架构师学习资料加qun812855908获取（资料包括C/C++，Linux，golang技术，Nginx，ZeroMQ，MySQL，Redis，fastdfs，MongoDB，ZK，流媒体，CDN，P2P，K8S，Docker，TCP/IP，协程，DPDK，ffmpeg等），免费分享
2.2、kcp 报文发送
KCP 中，数据发送流程分为：
上层应用调用 ikcp_send 将数据写入 snd_queue
下层函数 ikcp_flush 决定将多少数据从 snd_queue 移动到 snd_buf，进行发送
ikcp_send
ikcp_send
ikcp_send 的功能：把用户发送的数据根据MSS分片成KCP的数据包格式，插入待发送队列
分片方式
流模式：检测每个发送队列⾥的分片是否达到 MSS，没有达到则用新的数据填充分片。
消息模式：将用户数据的每个分片设置 sn 和 frag，将分片后的数据存入发送队列，接收方通过 sn 和 frag 解包。即使⼀个分片的数据量可能不能达到MSS，也会作为⼀个包发送出去。
int ikcp_send(ikcpcb *kcp, const char *buffer, int len)
{
// 1、如果KCP开启流模式
if (kcp->stream != 0) {
if (!iqueue_is_empty(&kcp->snd_queue)) {
// 取出 snd_queue 中的最后一个报文，将其填充到 mss 的长度，设置frg为0
IKCPSEG *old = iqueue_entry(kcp->snd_queue.prev, IKCPSEG, node);
// 旧分片内数据长度小于mss
if (old->len < kcp->mss) {
int capacity = kcp->mss - old->len; // 还能容纳的数据长度
int extend = (len < capacity)? len : capacity; // 需要填充的长度
seg = ikcp_segment_new(kcp, old->len + extend); // 新建segment
assert(seg);
if (seg == NULL) {
return -2;
}
// 新分片添加到发送队列尾部
iqueue_add_tail(&seg->node, &kcp->snd_queue);
// 拷贝旧分片的数据到新分片
memcpy(seg->data, old->data, old->len);
// 将buffer中的数据也拷贝到新分片
if (buffer) {
memcpy(seg->data + old->len, buffer, extend);
buffer += extend; // buffer指向剩余数据的开头
}
seg->len = old->len + extend;
seg->frg = 0;
len -= extend; // 更新len为剩余数据长度
iqueue_del_init(&old->node); // 删除old
ikcp_segment_delete(kcp, old);
}
}
if (len <= 0) {
return 0;
}
}
// 2、计算数据需要分成多少段报文
if (len <= (int)kcp->mss) count = 1; // mss 1376 + head 24 = mtu 1400
else count = (len + kcp->mss - 1) / kcp->mss;
if (count >= (int)IKCP_WND_RCV) return -2; // 超过对方的初始接收窗口
if (count == 0) count = 1;
// fragment
// 3、将数据全部新建 segment 插入发送队列尾部，队列计数递增, frag 递减
for (i = 0; i < count; i++) {
int size = len > (int)kcp->mss ? (int)kcp->mss : len;
seg = ikcp_segment_new(kcp, size);
assert(seg);
if (seg == NULL) {
return -2;
}
if (buffer && len > 0) { // 仍有待发送的数据
memcpy(seg->data, buffer, size);
}
seg->len = size;
// 分片编号，逆序。流模式情况下分片编号不用填写
seg->frg = (kcp->stream == 0)? (count - i - 1) : 0;
iqueue_init(&seg->node);
iqueue_add_tail(&seg->node, &kcp->snd_queue); // 加入到 snd_queue 中
kcp->nsnd_que++;
if (buffer) {
buffer += size;
}
len -= size;
}
}
应用层调用 ikcp_send 之后将用户数据置入 snd_queue 中，当 KCP 调用 ikcp_flush 时才将数据从 snd_queue 中 移入到 snd_buf 中，然后调用 kcp->output() 发送。
检查 kcp->update 是否更新，未更新直接返回。kcp->update 由 ikcp_update 更新，上层应用需要每隔一段时间（10-100ms）调用 ikcp_update 来驱动 KCP 发送数据；
// 'ikcp_update' haven't been called.
if (kcp->updated == 0) return;
准备将 acklist 中记录的 ACK 报文发送出去，即从 acklist 中填充 ACK 报文的 sn 和 ts 字段；
// flush acknowledges
// 逐一获取 acklist 中的 sn 和 ts，编码成 segment，以流的方式凑够 MTU 发送
count = kcp->ackcount; // 需要应答的分片数量
for (i = 0; i < count; i++) {
size = (int)(ptr - buffer);
// 超过 MTU 大小直接发送
if (size + (int)IKCP_OVERHEAD > (int)kcp->mtu) {
ikcp_output(kcp, buffer, size);
ptr = buffer; // 新建分片
}
ikcp_ack_get(kcp, i, &seg.sn, &seg.ts); // 应答包
ptr = ikcp_encode_seg(ptr, &seg); // 编码segment协议头
}
kcp->ackcount = 0;
检查当前是否需要对远端窗口进行探测。由于 KCP 流量控制依赖于远端通知其可接受窗口的大小，一旦远端接受窗口 kcp->rmt_wnd 为0，那么本地将不会再向远端发送数据，因此就没有机会从远端接受 ACK 报文，从而没有机会更新远端窗口大小。在这种情况下，KCP 需要发送窗口探测报文到远端，待远端回复窗口大小后，后续传输可以继续：
// probe window size (if remote window size equals zero)
// 1、远端窗口大小为0，需要发送窗口探测报文
if (kcp->rmt_wnd == 0) {
// 初始化探测间隔和下一次探测时间
if (kcp->probe_wait == 0) {
kcp->probe_wait = IKCP_PROBE_INIT; // 默认7秒探测
kcp->ts_probe = kcp->current + kcp->probe_wait; // 下一次探测时间
}
else {
//远端窗口为0，发送过探测请求，但是已经超过下次探测的时间
// 检测是否到了探测时间
if (_itimediff(kcp->current, kcp->ts_probe) >= 0) {
// 更新探测间隔probe_wait
if (kcp->probe_wait < IKCP_PROBE_INIT)
kcp->probe_wait = IKCP_PROBE_INIT;
kcp->probe_wait += kcp->probe_wait / 2;
if (kcp->probe_wait > IKCP_PROBE_LIMIT)
kcp->probe_wait = IKCP_PROBE_LIMIT;
// 更新下次探测时间ts_probe
kcp->ts_probe = kcp->current + kcp->probe_wait;
// 更新探测变量probe为IKCP_ASK_SEND，发送探测消息
kcp->probe |= IKCP_ASK_SEND;
}
}
}
// 2、远端窗口正常，则不需要发送窗口探测
else {
kcp->ts_probe = 0; // 更新下次探测时间为0
kcp->probe_wait = 0; // 更新探测窗口等待时间为0
}
将窗口探测报文和窗口回复报文发送出去
// flush window probing commands
if (kcp->probe & IKCP_ASK_SEND) {
seg.cmd = IKCP_CMD_WASK; // 窗口探测[询问对方窗口size]
size = (int)(ptr - buffer);
if (size + (int)IKCP_OVERHEAD > (int)kcp->mtu) {
ikcp_output(kcp, buffer, size);
ptr = buffer;
}
ptr = ikcp_encode_seg(ptr, &seg);
}
// flush window probing commands
if (kcp->probe & IKCP_ASK_TELL) {
seg.cmd = IKCP_CMD_WINS; // 窗口告知[告诉对方我方窗口size]
size = (int)(ptr - buffer);
if (size + (int)IKCP_OVERHEAD > (int)kcp->mtu) {
ikcp_output(kcp, buffer, size);
ptr = buffer;
}
ptr = ikcp_encode_seg(ptr, &seg);
}
kcp->probe = 0; //清空标识
计算本次发送可用的窗口大小，这里 KCP 采用了可以配置的策略，正常情况下，KCP 的窗口大小由发送窗口 snd_wnd，远端接收窗口 rmt_wnd 以及根据流控计算得到的 kcp->cwnd 共同决定；但是当开启了 nocwnd 模式时，窗口大小仅由前两者决定；
// calculate window size
// 若没有流控，取发送窗口和远端接收窗口最小值
cwnd = _imin_(kcp->snd_wnd, kcp->rmt_wnd);
// 若存在流控，则取当前拥塞窗口、发送窗口和远端接收窗口三者最小值
if (kcp->nocwnd == 0) cwnd = _imin_(kcp->cwnd, cwnd);
将缓存在 snd_queue 中的数据移到 snd_buf 中等待发送
// move data from snd_queue to snd_buf
// 从snd_queue移动到snd_buf的数量不能超出对方的接收能力，发送符合拥塞范围的分片
while (_itimediff(kcp->snd_nxt, kcp->snd_una + cwnd) < 0) {
IKCPSEG *newseg;
if (iqueue_is_empty(&kcp->snd_queue)) break;
newseg = iqueue_entry(kcp->snd_queue.next, IKCPSEG, node);
iqueue_del(&newseg->node);
iqueue_add_tail(&newseg->node, &kcp->snd_buf); // 添加到发送缓存
kcp->nsnd_que--;
kcp->nsnd_buf++;
//设置数据分片的属性
newseg->conv = kcp->conv;
newseg->cmd = IKCP_CMD_PUSH;
newseg->wnd = seg.wnd; // 告知对方当前的接收窗口
newseg->ts = current; // 当前时间
newseg->sn = kcp->snd_nxt++; // 序号
newseg->una = kcp->rcv_nxt; // 告诉对方可以发送的下一个包序号
newseg->resendts = current; // 当前发送的时间
newseg->rto = kcp->rx_rto; // 超时重传的时间
newseg->fastack = 0; // 是否快速重传
newseg->xmit = 0; // 重传次数
}
在发送数据之前，先设置快重传的次数和重传间隔；KCP 允许设置快重传的次数，即 fastresend 参数。例如设置 fastresend 为2，并且发送端发送了1,2,3,4,5几个包，收到远端的ACK: 1, 3, 4, 5，当收到ACK3时，KCP知道2被跳过1次，收到ACK4时，知道2被**“跳过”**了2次，此时可以认为2号丢失，不用等超时，直接重传2号包；每个报文的 fastack 记录了该报文被跳过了几次，由函数 ikcp_parse_fastack 更新。于此同时，KCP 也允许设置 nodelay 参数，当激活该参数时，每个报文的超时重传时间将由 x2 变为 x1.5，即加快报文重传：
// calculate resent
// 是否设置快重传次数
resent = (kcp->fastresend > 0)? (IUINT32)kcp->fastresend : 0xffffffff;
// 是否开启nodelay
rtomin = (kcp->nodelay == 0)? (kcp->rx_rto >> 3) : 0;
将 snd_buf 中的数据发送出去
// flush data segments
// 发送snd buf的分片，只要数据还在snd_buf 说明对方还没有应答
// 1、新的报文，正常发送
// 2、超时重传
// 3、快速重传（如果有）
for (p = kcp->snd_buf.next; p != &kcp->snd_buf; p = p->next) {
IKCPSEG *segment = iqueue_entry(p, IKCPSEG, node);
int needsend = 0;
// 1、如果该报文是第一次传输，那么直接发送
if (segment->xmit == 0) {
needsend = 1;
segment->xmit++; // 分片发送次数 + 1
segment->rto = kcp->rx_rto; // 超时时间间隔
segment->resendts = current + segment->rto + rtomin; // 下一次要发送的时间
}
// 2、当前时间达到了该报文的重传时间，但并没有新的ack到达，出现丢包, 重传
else if (_itimediff(current, segment->resendts) >= 0) {
needsend = 1;
segment->xmit++;
kcp->xmit++;
// 根据 nodelay 参数更新重传时间
if (kcp->nodelay == 0) {
segment->rto += _imax_(segment->rto, (IUINT32)kcp->rx_rto);
} else {
IINT32 step = (kcp->nodelay < 2)? ((IINT32)(segment->rto)) : kcp->rx_rto;
segment->rto += step / 2; //报文超时等待时间更新，控制RTO=1.5
}
segment->resendts = current + segment->rto; //下一次发送的时间
lost = 1; // 丢包，反应到拥塞控制策略去了
}
// 3、该报文的的被跳过次数超过设置的快速重传次数，需要重传
else if (segment->fastack >= resent) {
if ((int)segment->xmit <= kcp->fastlimit || kcp->fastlimit <= 0) {
needsend = 1;
segment->xmit++;
segment->fastack = 0; // 重置该分片被跳过的次数
segment->resendts = current + segment->rto;
change++; // 标识快速重传的发生
}
}
// 需要发送数据
if (needsend) {
int need;
segment->ts = current;
segment->wnd = seg.wnd; // 己方可用接收窗口大小
segment->una = kcp->rcv_nxt; // 待接收的下一个包序号
size = (int)(ptr - buffer);
need = IKCP_OVERHEAD + segment->len;
// 小包封装成大包发送
if (size + need > (int)kcp->mtu) {
ikcp_output(kcp, buffer, size);
ptr = buffer;
}
// 把segment封装成线性buffer发送 头部+数据
ptr = ikcp_encode_seg(ptr, segment);
if (segment->len > 0) {
memcpy(ptr, segment->data, segment->len);
ptr += segment->len;
}
if (segment->xmit >= kcp->dead_link) {
kcp->state = (IUINT32)-1;
}
}
}
// flash remain segments
size = (int)(ptr - buffer); // 剩余的数据
// 最终只要有数据要发送，一定发出去
if (size > 0) {
ikcp_output(kcp, buffer, size);
}
根据设置的 lost 和 change 更新窗口大小；注意 快重传和丢包时的窗口更新算法不一致，这一点类似于 TCP 协议的拥塞控制和快恢复算法
// update ssthresh
//如果发生了快速重传，拥塞窗口阈值降低为当前未确认包数量的一半或最小值
if (change) {
IUINT32 inflight = kcp->snd_nxt - kcp->snd_una;
kcp->ssthresh = inflight / 2;
if (kcp->ssthresh < IKCP_THRESH_MIN)
kcp->ssthresh = IKCP_THRESH_MIN;
kcp->cwnd = kcp->ssthresh + resent; // 动态调整拥塞控制窗口
kcp->incr = kcp->cwnd * kcp->mss;
}
// 如果发生了丢包，阈值减半, cwd 窗口保留为 1
if (lost) {
kcp->ssthresh = cwnd / 2;
if (kcp->ssthresh < IKCP_THRESH_MIN)
kcp->ssthresh = IKCP_THRESH_MIN;
kcp->cwnd = 1; // 动态调整拥塞控制窗口
kcp->incr = kcp->mss;
}
if (kcp->cwnd < 1) {
kcp->cwnd = 1;
kcp->incr = kcp->mss;
}
2.3、kcp 报文接收
ikcp_recv
应用层接收函数为 ikcp_recv，主要做三件事
读取组好包的数据 rcv_queue -> 用户 buffer
将接收缓存 rcv_buf 的分片转移到接收队列 rcv_queue
如果有接收空间则将 kcp->probe |= IKCP_ASK_TELL ; 以在update的时候告知对方可以发送数据了。
首先检测一下本次接收数据之后，是否需要进行窗口恢复。在前面的内容中解释过，KCP 协议在远端窗口为0的时候将会停止发送数据，此时如果远端调用 ikcp_recv 将数据从 rcv_queue 中移动到应用层 buffer 中之后，表明其可以再次接受数据，为了能够恢复数据的发送，远端可以主动发送 IKCP_ASK_TELL 来告知窗口大小；
if (kcp->nrcv_que >= kcp->rcv_wnd)
recover = 1; // 标记可以开始窗口恢复
开始将 rcv_queue 中的数据根据分片编号 frg merge 起来，然后拷贝到用户的 buffer 中。
// merge fragment
// 将属于同一个消息的各分片重组完整数据，并删除rcv_queue中segment，nrcv_que减少
// 经过 ikcp_send 发送的数据会进行分片，分片编号为倒序序号，因此frg为0的数据包标记着完整接收到了一次 send 发送过来的数据
for (len = 0, p = kcp->rcv_queue.next; p != &kcp->rcv_queue; ) {
int fragment;
seg = iqueue_entry(p, IKCPSEG, node);
p = p->next;
if (buffer) {
memcpy(buffer, seg->data, seg->len); // 把queue的数据就放入用户buffer
buffer += seg->len;
}
len += seg->len;
fragment = seg->frg;
if (ikcp_canlog(kcp, IKCP_LOG_RECV)) {
ikcp_log(kcp, IKCP_LOG_RECV, "recv sn=%lu", (unsigned long)seg->sn);
}
if (ispeek == 0) {
iqueue_del(&seg->node);
ikcp_segment_delete(kcp, seg); // 删除节点
kcp->nrcv_que--; // nrcv_que接收队列-1
}
// frg = 0，完整的数据接收到, 本次数据接收结束
if (fragment == 0) //
break;
}
下一步将 rcv_buf 中的数据转移到 rcv_queue 中，这个过程根据报文的 sn 编号来确保转移到 rcv_queue 中的数据一定是按序的：
// move available data from rcv_buf -> rcv_queue
// 将 rcv_buf 中的数据转移到 rev_queue
// 根据报文的sn来确保转移到 rcv_queue 中的数据一定是按序的
while (! iqueue_is_empty(&kcp->rcv_buf)) {
seg = iqueue_entry(kcp->rcv_buf.next, IKCPSEG, node);
// 1、根据 sn 确保数据是按序转移到 rcv_queue 中
// 2、接收队列nrcv_que < 接收窗口rcv_wnd;
if (seg->sn == kcp->rcv_nxt && kcp->nrcv_que < kcp->rcv_wnd) {
iqueue_del(&seg->node);
kcp->nrcv_buf--;
iqueue_add_tail(&seg->node, &kcp->rcv_queue);
kcp->nrcv_que++; // 接收队列 有多少个分片 + 1
kcp->rcv_nxt++; // 接收序号 + 1
} else {
break;
}
}
最后进行窗口恢复。此时如果 recover 标记为1，表明在此次接收之前，可用接收窗口为0，如果经过本次接收之后，可用窗口大于0，将主动发送 IKCP_ASK_TELL 数据包来通知对方已可以接收数据：
// fast recover
// nrcv_que小于rcv_wnd, 说明接收端有空间继续接收数据了
if (kcp->nrcv_que < kcp->rcv_wnd && recover) {
// ready to send back IKCP_CMD_WINS in ikcp_flush
// tell remote my window size
kcp->probe |= IKCP_ASK_TELL;
}
kcp_input
ikcp_recv 仅为上层调用的接口，KCP 协议需要从底层接受数据到 rcv_buf 中，这是通过函数 ikcp_input 实现。ikcp_input 中的所有功能都在一个外层的循环中实现：
首先将接收到的数据包进行解码，并进行基本的数据包长度和类型校验；KCP 协议只会接收到前文中所介绍的四种数据包；
调用 ikcp_parse_una 来确定已经发送的数据包有哪些被对方接收到。KCP 中所有的报文类型均带有 una 信息。发送端发送的数据都会缓存在 snd_buf 中，直到接收到对方确认信息之后才会删除。当接收到 una 信息后，表明 sn 小于 una 的数据包都已经被对方接收到，因此可以直接从 snd_buf 中删除。同时调用 ikcp_shrink_buf 来更新 KCP 控制块的 snd_una 数值。
// 删除小于snd_buf中小于una的segment
ikcp_parse_una(kcp, una);
// 更新snd_una为snd_buf中seg->sn或kcp->snd_nxt ，更新下一个待应答的序号
ikcp_shrink_buf(kcp);
处理 IKCP_CMD_ACK 报文
if (cmd == IKCP_CMD_ACK) {
if (_itimediff(kcp->current, ts) >= 0) { // 根据应答判断rtt
//更新rx_srtt，rx_rttval，计算kcp->rx_rto
ikcp_update_ack(kcp, _itimediff(kcp->current, ts));
}
//遍历snd_buf中（snd_una, snd_nxt），将sn相等的删除，直到大于sn
ikcp_parse_ack(kcp, sn); // 将已经ack的分片删除
ikcp_shrink_buf(kcp); // 更新控制块的 snd_una
if (flag == 0) {
flag = 1; //快速重传标记
maxack = sn; // 记录最大的 ACK 编号
latest_ts = ts;
} else {
if (_itimediff(sn, maxack) > 0) {
maxack = sn; // 记录最大的 ACK 编号
latest_ts = ts;
}
}
处理 IKCP_CMD_PUSH 报文
else if (cmd == IKCP_CMD_PUSH) { //接收到具体的数据包
if (_itimediff(sn, kcp->rcv_nxt + kcp->rcv_wnd) < 0) {
// 对该报文的确认 ACK 报文放入 ack 列表中
ikcp_ack_push(kcp, sn, ts);
// 判断接收的数据分片编号是否符合要求，即：在接收窗口（滑动窗口）范围之内
if (_itimediff(sn, kcp->rcv_nxt) >= 0) { // 是要接受起始的序号
seg = ikcp_segment_new(kcp, len);
seg->conv = conv;
seg->cmd = cmd;
seg->frg = frg;
seg->wnd = wnd;
seg->ts = ts;
seg->sn = sn;
seg->una = una;
seg->len = len;
if (len > 0) {
memcpy(seg->data, data, len);
}
// 将该报文插入到 rcv_buf 链表中
ikcp_parse_data(kcp, seg);
}
}
}
对于接收到的 IKCP_CMD_WASK 报文，直接标记下次将发送窗口通知报文；而对于报文 IKCP_CMD_WINS 无需做任何特殊操作;
else if (cmd == IKCP_CMD_WASK) {
// ready to send back IKCP_CMD_WINS in ikcp_flush
// tell remote my window size
// 如果是探测包，添加相应的标识位
kcp->probe |= IKCP_ASK_TELL;
}
else if (cmd == IKCP_CMD_WINS) {
// do nothing，如果是 tell me 远端窗口大小，什么都不做
}
据记录的最大的 ACK 编号 maxack 来更新 snd_buf 中的报文的 fastack，这个过程在介绍 ikcp_flush 中提到过，对于 fastack 大于设置的 resend 参数时，将立马进行快重传；
最后，根据接收到报文的 una 和 KCP 控制块的 una 参数进行流控；