CN1878131A - 进行流量控制的方法和系统 - Google Patents

Abstract

本发明涉及一种进行流量控制的方法和系统，其核心是：首先获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果，当确认所述获取综合参数或所述CPU占有率检测结果数据超过设定阈值时，通过设定全局共享参数进行流量控制。本发明通过双重检测机制，能够对系统过载情况把握得更加准确，保证了系统处理能力得到有效的利用；而且，通过设定全局共享参数进行流量控制，保证了重要业务在系统过载时得到优先处理。另外通过设置全局共享参数对预进入输入缓冲区的消息和/或设置不同优先级的内部队列中的消息进行控制，更能保证重要业务在系统过载时得到优先处理，提高了系统的有效处理率以及有效消息的处理率。

Description

进行流量控制的方法和系统

技术领域

本发明涉及电子及通信领域，尤其涉及一种进行流量控制的方法和系统。

背景技术

在电子及通信领域，系统资源，如CPU处理能力、定时器、内存缓冲区等非常有限。随着系统通信流量的增大，各个通信流程往往由于分配不到系统资源，而出现连接请求异常终止的现象，终端用户会认为连接请求等待的时间过长，而再次试呼，这样无疑会导致连接请求的负荷加重。当连接请求负荷过重时，就可能会造成CPU占用率过高，导致系统性能急剧下降，进而导致成功呼叫密度下降。

成功呼叫密度下降意味着接通率下降、吞吐量下降，通信延迟增大。被拒绝的呼叫次数占呼叫总次数的比例越大，吞吐量下降的速率越快，最终将导致话务量的损失，以及用户满意度的下降。因而，尽早地决定拒绝或接收连接请求，即对连接请求消息进行流量控制，能够使有限的系统资源得到有效的利用。

与本发明相关的现有技术中，进行流量控制的技术方案，结合图1进行说明：

首先将上一环节来的待处理的消息放到系统的输入缓冲区；

同时，系统实时检测CPU占用率，如果系统CPU占用率在一段时间内平均值未超过设定阈值，则准入模块正常读取输入缓冲内的消息并对其进行处理，然后将处理后的消息发送到输出缓冲区；如果系统CPU占用率在一段时间内平均值超过设定阈值，则通知准入模块开始启动流量控制，准入模块将进入系统的过量消息包丢弃，持续一段时间，直到CPU占用率回落到另一个设定的阈值，系统恢复正常运行。

由上述现有技术的技术方案可以看出，其存在如下不足：

1、现有技术仅仅以CPU占用率作为流量控制的依据，导致系统处理能力不能得到有效的利用。

因为影响系统处理能力的实质因素是消息包在输入缓冲区内等待的时间过长，而CPU占用率增大仅仅是一种表象，如果仅仅以CPU占用率作为流量控制的依据，有可能导致过早结束系统过载状态，此时CPU不能满负荷工作，因此系统处理能力不能得到有效的利用。

2、现有技术对消息不加区分直接丢弃，导致系统对消息的有效处理率下降。

对于一个流程，因为流程中间的消息优先级高于流程的初始消息，如果对消息不加区分就直接丢弃，将会导致系统对消息的有效处理率下降。

3、一部分消息在输入缓冲区内等待的时间过长，已经没有必要处理。如果不将延时过长而失效的消息包剔除，系统将有一部分资源花费在无效的处理上，而对有效消息的处理率下降。

发明内容

本发明的目的是提供一种进行通信流量控制的方法和系统，通过本发明，解决了现有技术中由于仅仅以CPU占用率作为流量控制的依据而导致系统处理能力不能得到有效的利用的问题。解决了现有技术中由于对消息不加区分直接丢弃而导致系统对消息的有效处理率下降的问题。

另外，本发明的目的是提供另一种进行通信流量控制的方法和系统，解决了现有技术中由于未将延时过长而失效的消息包剔除，导致系统对有效消息的处理率下降的问题。

本发明的目的是通过以下技术方案实现的：

本发明提供了一种进行流量控制的方法，包括：

A、获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果；

B、当确认所述获取综合参数或所述CPU占有率检测结果数据超过设定的阈值时，通过设定的全局共享参数进行通信流量的控制。

其中，所述步骤B具体包括：

B1、判断所述获取的综合参数或所述CPU占有率检测结果数据是否超过设定的阈值，若否，则执行步骤B2；若是，则执行步骤B3；

B2、清除流控标志，进入正常运行状态，并执行步骤B1；

B3、设置流控标志，通过设置的全局共享参数进行通信流量的控制，然后继续执行步骤B1。

其中，所述全局共享参数包括：

消息优先级配置参数和/或调度扫描权重参数。

其中，所述步骤B3包括：

B31、读取所述全局共享参数；

B32、根据所述全局共享参数对不同优先级等级的内部队列中的消息流量进行相应级别的流量控制，然后继续执行步骤B1。

其中，所述步骤B32具体包括：

B321、根据所述全局共享参数判断优先级等级最高的内部队列是否满，若是，则进行紧急流量控制，然后继续执行步骤B1；否则，执行步骤B322；

B322、根据所述全局共享参数判断优先级等级最高的内部队列以外的内部队列是否满，若是，则进行一般性流量控制，然后继续执行步骤B1；否则，执行步骤B1。

其中，步骤B321中所述进行紧急流量控制的过程具体包括：

B3211、当确认内部队列中的消息为初始消息或重试消息时，根据设定的消息优先级配置参数，将初始消息或重试消息的优先级等级降低一级；

B3212、按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息或重试消息进行调度；

或，

B3213、当确认内部队列中的消息为初始消息或重试消息时，根据设定的调度扫描权重参数将优先级等级最高的内部队列的调度扫描权重增加一级，并将优先级等级最低的内部队列的调度扫描权重降低一级；

B3214、根据变化后的调度扫描权重参数以及优先级等级从高到低的顺序对所述初始消息或重试消息进行调度；

或，

B3215、当确认内部队列中的消息为初始消息或重试消息时，根据设定的消息优先级配置参数，将初始消息的优先级等级降低一级；以及，根据设定的调度扫描权重参数将优先级等级最高的内部队列的调度扫描权重增加一级，并将优先级等级最低的内部队列的调度扫描权重降低一级；

B3216、根据变化后的调度扫描权重参数，以及按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息或重试消息进行调度；

或，

B3217、当确认所述内部队列中的消息为初始消息时，则根据设定的消息优先级配置参数，将初始消息的优先级等级下降一级。

B3218、判断所述内部队列中的消息是否为重试初始消息，若是，则根据设定的消息优先级配置参数，将初始消息的优先级等级再下降一级，然后执行步骤B3219；否则，直接执行步骤B3220；

B3219、按照下降后的优先级等级从高到低的顺序对优先级等级下降后的重试初始消息进行调度；

B3220、按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息进行调度。

或，

B3221、当确认所述内部队列中的消息为初始消息时，则根据设定的消息优先级配置参数，将初始消息的优先级等级下降一级；

B3222、判断所述内部队列中的消息是否为重试初始消息，若是，则根据设定的消息优先级配置参数，将初始消息的优先级等级再下降一级，以及，根据设定的调度扫描权重参数将优先级等级最高的内部队列的调度扫描权重增加一级，并将优先级等级最低的内部队列的调度扫描权重降低一级，然后执行步骤B3223；否则，直接执行步骤B3224；

B3223、根据变化后的调度扫描权重参数，以及按照下降后的优先级等级从高到低的顺序对优先级等级下降后的重试初始消息进行调度；

B3224、根据变化后的调度扫描权重参数，以及按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息进行调度。

其中，步骤B322中所述进行一般性流量控制的过程具体包括：

B3221、根据设定的消息优先级配置参数，将内部队列中的重试消息的优先级等级降低一级；

B3222、按照下降后的优先级等级从高到低的顺序对优先级等级下降后的重试消息进行调度。

其中，所述步骤B具体包括：

B4、判断所述获取的综合参数或所述CPU占有率检测结果数据是否超过设定的阈值，若否，则清除流控标志，进入正常运行状态；若是，则执行步骤B5；

B5、设置流控标志，通过设置的全局共享参数进行通信流量的控制。

B6、根据输入缓冲区内的消息量和/或内部队列中的消息量进行通信流量的控制。

其中，所述步骤B6具体包括：

B61、判断输入缓冲区内是否有消息，若是，对准备进入所述输入缓冲区的消息进行准入控制，然后继续执行步骤B4；否则，清流控标志，进入正常运行状态；

或，

B62、判断内部队列中是否有消息，若是，则通过对不同优先级队列设置的调度扫描权重参数进行调度处理，然后继续执行步骤B4；否则，清流控标志，进入正常运行状态；

或，

B63、判断输入缓冲区内是否有消息，若是，则对准备进入所述输入缓冲区的消息进行准入控制，然后继续执行步骤B4；否则，执行步骤B64；

B64、判断内部队列中是否有消息，若是，则通过为不同优先级队列设置的调度扫描权重参数进行通信流量的控制，然后继续执行步骤B4；否则，清流控标志，进入正常运行状态。

其中，所述步骤B6还包括：

B65、判断调度扫描次数是否已到，若是，则结束此过程；否则，转入步骤B6。

其中，步骤B6中所述对准备进入所述输入缓冲区的消息进行准入控制的过程具体包括：

C1、从输入缓冲区读一条消息，并设定所述消息的消息生存期；

C2、根据用户身份标识判断所述消息是否为初始消息或重试消息，若是，则将所述初始消息或重试消息的优先级降低一个等级，然后执行步骤C3；否则，直接执行步骤C3；

C3、根据所述消息的优先级等级，判断对应的内部队列是否满，若是，则丢弃所述消息；否则，将所述携带消息生存期的消息放入内部队列中，然后结束此过程；

或，

C4、从输入缓冲区读一条消息，并设定所述消息的消息生存期；

C5、根据用户身份标识判断所述消息是否为初始消息，若是，则将所述初始消息的优先级降低一个等级，然后执行步骤C6；否则，直接执行步骤C6；

C6、根据用户身份标识判断所述消息是否为重试消息，若是，则将所述重试消息的优先级再降低一个等级，然后执行步骤C7；否则直接执行步骤C7；

C7、根据所述消息的优先级等级，判断对应的内部队列是否满，若是，则丢弃所述消息；否则，将所述消息放入内部队列中，然后结束此过程。

其中，步骤B6中所述通过对不同优先级队列设置的调度扫描权重参数进行调度处理的过程具体包括：

D1、根据加权调度算法，按照从高到低的优先级等级顺序从内部队列中读取一条消息；

D2、判断本优先级的内部队列中的消息是否调度完毕，若是，则对下一等级的优先级的内部队列中的消息进行调度；否则，转入步骤D1；

D3、判断所有优先级内部队列是否调度扫描完毕，若是，则结束此过程；否则，转入步骤D1。

其中，步骤D1中所述加权调度算法具体包括：

每轮扫描所有的内部队列；以及，

根据设定的调度扫描权重参数，每轮从优先级等级高的内部队列中调度读出的消息数量大于从优先级等级低的内部队列中调度读出的消息数量；以及，

每轮从所有优先级内部队列中调度读出的消息数量总和，与每轮从输入缓冲区调度读入的消息数量总和保持平衡；以及，

如果增大高优先级内部队列的调度扫描权重参数，则降低低优先级内部队列的调度扫描权重参数。

其中，在所述步骤D1之前还包括：

判断内部队列中的消息是否达到为其设定的消息生存期，若是，则将所述消息从内部队列中直接丢弃；否则，执行步骤D1。

本发明提供的一种进行流量控制的系统，包括：

主控模块、流控模块、输入缓冲区和内部队列；

所述主控模块获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果；并当确认所述获取综合参数或所述CPU占有率检测结果数据超过设定的阈值时，根据设定的全局共享参数通过所述流控模块，对准备进入输入缓冲区内的消息和内部队列中的消息进行流量控制。

其中，所述的系统还包括：

准入模块，用于接受主控模块的控制或主控模块和流控模块的控制，对准备进入输入缓冲区内的消息流量进行控制。

其中，所述的系统还包括：

调度模块，用于接受主控模块的控制或主控模块和流控模块的控制，根据设定的全局共享参数对内部队列中的消息流量进行调度读出。

由上述本发明提供的技术方案可以看出，本发明首先获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果，当确认所述获取综合参数或所述CPU占有率检测结果数据超过设定的阈值时，通过设定的全局共享参数进行通信流量控制。通过本发明采用的CPU占有率和缓冲延时/长度的双重检测机制，能够对系统的过载情况把握的更加准确，从而保证系统处理能力能够得到有效的利用；而且，本发明能够通过设定的全局共享参数进行通信流量控制，从而保证了重要业务在系统过载时得到优先处理，解决了现有技术中由于对消息不加区分直接丢弃而导致系统对消息的有效处理率下降的问题。

另外本发明还通过设置的全局共享参数对准备进入输入缓冲区的消息流量和/或设置不同优先级的内部队列中的消息流量进行控制以及通过为消息设定的消息生存期，更进一步保证了重要业务在系统过载时得到优先处理，使系统对消息的有效处理率以及有效消息的处理率得到提高。

附图说明

图1为现有技术的原理图；

图2为本发明第一实施例的原理图；

图3为本发明第二实施例的原理图；

图4为本发明第三实施例的原理图；

图5为本发明第四实施例的原理图；

图6为本发明第五实施例的流程图；

图7为本发明第五实施例中所述通过设置的全局共享参数进行通信流量的控制的流程图；

图8为本发明第六实施例的流程图；

图9为本发明第六实施例中所述调用准入模块，对准备进入所述输入缓冲区的消息进行准入控制的流程图一；

图10为本发明第六实施例中所述调用准入模块，对准备进入所述输入缓冲区的消息进行准入控制的流程图二；

图11为本发明第七九实施例的流程图；

图12为本发明第七实施例中所述调用调度模块，通过对不同优先级队列设置的调度扫描权重参数进行调度处理的流程图；

图13为本发明第八实施例的流程图。

具体实施方式

本发明提供了一种进行通信流量控制的方法和系统，其核心是：主控模块获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果；当确认所述获取综合参数或所述CPU占有率检测结果数据超过设定的阈值时，通过设定的全局共享参数进行通信流量的控制。

本发明提供的一种进行通信流量控制的系统的第一实施例的原理图如图2所示，包括：输入缓冲00、输出缓冲01、准入模块02、调度模块03、内部队列04、主控模块05、流控模块06和可配置全局共享参数数据库07。

输入缓冲区00，用于缓存来自上一环节的消息包；

输出缓冲区01，用于缓存已经处理的消息等待下一环节处理；

准入模块02，用于接受主控模块的控制或主控模块和流控模块的控制，对准备进入输入缓冲区内的消息流量进行控制：判断准备输入输入缓冲区00的消息是否具备准入条件，若具备准入条件，则根据全局流控参数设置消息优先级，启动定时器，设定消息生存期(Time to Live，TTL)，即在每条消息前面增加一个TTL字段，填入初始值，例如5s，然后根据消息的优先级等级将消息放入对应的缓冲区内。对不符合准入条件的消息直接丢弃。

调度模块03，用于接受主控模块的控制或主控模块和流控模块的控制，根据设定的全局共享参数对内部队列中的消息流量进行调度读出：从内部队列04中调度扫描消息并进行处理。调度扫描按照流控模块06设定全局共享参数中的调度扫描权重参数进行，即每轮扫描所有队列，对的内部队列扫描处理的消息包个数按照内部队列的调度扫描权重从高到低的顺序依次减少。每次处理消息包的个数就是一个算法参数。算法参数可由流控模块通过全局共享参数进行动态调整。在处理的过程中，每处理一个消息包读一次定时器，得到消息包在队列中的等待时间，然后将队列中所有消息包的TTL减去等待时间。若发现TTL为0，就将消息丢弃；若发现内部队列已满，则将预进入内部队列中的消息丢弃。

内部队列04，本发明设置了三个优先级内部队列，优先级等级为1的内部队列优先级最高，优先级等级为3的内部队列优先级最低，当然可以根据系统需要设置其它数量的内部队列。

主控模块05，用于完成流量检测、启动流控运行模式和恢复正常运行模式等功能。所述主控模块获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果；并当确认所述获取综合参数或所述CPU占有率检测结果数据超过设定的阈值时，根据设定的全局共享参数通过所述流控模块，启动流控运行模式对准备进入输入缓冲区内的消息和内部队列中的消息进行流量控制。

流控模块06，接收主控模块05的命令，通过设定全局共享参数对内部队列中的消息流量进行控制，并通过设定的全局共享参数影响准入模块和调度模块的行为；并将所设定的全局共享参数放置在可配置全局参数数据库07中。

可配置全局共享参数数据库07，对流控模块和主控模块是可写的，对准入模块和调度模块是只读的。全局共享参数包括消息优先级配置参数和调度扫描权重参数等。

实施时，将本发明嵌入到将要进行流量控制的主机中，本发明随主机通信程序一起启动运行。

正常时，内部队列04将内部队列长度和消息包在内部队列中的平均停留时间上报给主控模块05；

主控模块05监控通信流量，即输入缓冲区长度和延时综合参数，附加CPU占有率检测结果，只有当通信主机发生拥塞时，本发明的主控模块05检测到内部队列或CPU占有率异常，则通知流控模块06通过设定全局共享参数，使整个系统进入流控模式，即对系统的通信流量进行控制。

所述对系统的通信流量进行控制的过程可包括如下三个过程：

1、主控模块05通过流控模块06，根据设定的全局共享参数对消息流量进行控制。

2、主控模块05调度或通过流控模块06调度准入模块02，根据设定的全局共享参数对准备进入输入缓冲区的消息流量进行控制。

3、主控模块05调度或通过流控模块06调度调度模块03，根据设定全局共享参数对内部队列中的消息流量进行控制。

如采用单任务的操作系统，将上述三个过程(主控、准入和调度)串行处理。如采用多任务的操作系统，将上述三个过程并行处理。

针对本发明所述系统提供的第二实施例，如图3所示，其与第一实施例的不同之处在于，其不包括调度模块03和准入模块02。在实现流量控制的过程中，仅仅包括主控模块05通过流控模块06，根据设定的全局共享参数对消息流量进行控制的过程。

针对本发明所述系统提供的第三实施例，如图4所示，其与第一实施例的不同之处在于，其不包括调度模块03。在实现流量控制的过程中，包括主控模块05通过流控模块06，根据设定的全局共享参数对消息流量进行控制的过程，以及，主控模块05调度或通过流控模块06调度准入模块02，根据设定的全局共享参数对准备进入输入缓冲区的消息流量进行控制的过程。

针对本发明所述系统提供的第四实施例，如图5所示，其与第一实施例的不同之处在于，其不包括准入模块02。在实现流量控制的过程中，包括主控模块05通过流控模块06，根据设定的全局共享参数对消息流量进行控制的过程，以及，主控模块05调度或通过流控模块06调度调度模块03，根据设定全局共享参数对内部队列中的消息流量进行控制的过程。

本发明提供的一种进行通信流量控制的方法的第五实施例，如图6所示，包括：

步骤S101，获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果。

步骤S102，判断所述获取的综合参数或所述CPU占有率检测结果数据是否超过设定的阈值，若否，则执行步骤S103；若是，则执行步骤S104。

步骤S103，清除流控标志，进入正常运行状态。

步骤S104，置流控标志，通过设置的全局共享参数进行通信流量的控制，然后继续执行步骤S102。

在步骤S104中，所述全局共享参数包括：消息优先级配置参数和/或调度扫描权重参数。在此步骤中，首先读取所述全局共享参数；然后根据所述全局共享参数对不同优先级等级的内部队列中的消息流量进行相应级别的流量控制。具体实现过程，如图7所示，包括如下步骤：

步骤S51，读取所述全局共享参数；

步骤S52，根据所述全局共享参数判断优先级等级最高的内部队列是否满，若是，则执行步骤S53，即进行紧急流量控制，然后执行步骤S56；否则，执行步骤S54；

步骤S54，根据所述全局共享参数判断优先级等级最高的内部队列以外的内部队列是否满，若是，则执行步骤S55，即进行一般性流量控制；否则，执行步骤S56，即返回步骤S103，即清除流控标志，进入正常运行状态。

在步骤S53中所述进行紧急流量控制的过程具体包括种情况。

第一种情况，当确认内部队列中的消息为初始消息或重试消息时，仅仅根据设定的消息优先级配置参数对所述内部队列的优先级等级进行调整，并根据调整后的优先级等级对该内部队列中的消息流量进行控制。具体实现过程如下：

步骤531，当确认内部队列中的消息为初始消息或重试消息时，根据设定的消息优先级配置参数，将初始消息或重试消息的优先级等级降低一级。

步骤532，按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息或重试消息进行调度。

第二种情况，当确认内部队列中的消息为初始消息或重试消息时，结合内部队列的优先级调整该优先级队列的调度扫描权重参数，然后根据调整后的调度扫描权重参数对该内部队列中的消息流量进行控制。具体实现过程如下：

步骤533，当确认内部队列中的消息为初始消息或重试消息时，根据设定的调度扫描权重参数将优先级等级最高的内部队列的调度扫描权重增加一级，并将优先级等级最低的内部队列的调度扫描权重降低一级。

步骤534，根据变化后的调度扫描权重参数以及优先级等级从高到低的顺序对所述初始消息或重试消息进行调度。

第三种情况，当确认内部队列中的消息为初始消息或重试消息时，不仅调整该内部队列的优先级，而且还根据当前内部队列的优先级对该内部队列的调度扫描权重参数进行调整，并根据调整后的优先级以及调度扫描权重参数对该内部队列中的消息流量进行控制。具体实现过程如下：

步骤535，当确认内部队列中的消息为初始消息或重试消息时，根据设定的消息优先级配置参数，将初始消息的优先级等级降低一级；以及，根据设定的调度扫描权重参数将优先级等级最高的内部队列的调度扫描权重增加一级，并将优先级等级最低的内部队列的调度扫描权重降低一级；

步骤536，根据变化后的调度扫描权重参数，以及按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息或重试消息进行调度；

第四种情况，当确认内部队列中的消息为初始消息时，不仅调整该内部队列的优先级，而且还要进一步判断所述消息是否为重试初始消息，并根据判断结果进一步调整该内部队列的优先级，然后根据调整后的优先级对该内部队列中的消息流量进行控制。具体实现过程包括：

步骤537，当确认所述内部队列中的消息为初始消息时，则根据设定的消息优先级配置参数，将初始消息的优先级等级下降一级。

步骤538，判断所述内部队列中的消息是否为重试初始消息，若是，则根据设定的消息优先级配置参数，将初始消息的优先级等级再下降一级，然后执行步骤539；否则，直接执行步骤540。

步骤539，按照下降后的优先级等级从高到低的顺序对优先级等级下降后的重试初始消息进行调度。

步骤540，按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息进行调度。

第五种情况，在第四种的基础上结合调整该内部队列的调度扫描权重参数，对该内部队列中的消息流量进行控制。具体实现过程包括：

步骤541，当确认所述内部队列中的消息为初始消息时，则根据设定的消息优先级配置参数，将初始消息的优先级等级下降一级。

步骤542，判断所述内部队列中的消息是否为重试初始消息，若是，则根据设定的消息优先级配置参数，将初始消息的优先级等级再下降一级，以及，根据设定的调度扫描权重参数将优先级等级最高的内部队列的调度扫描权重增加一级，并将优先级等级最低的内部队列的调度扫描权重降低一级，然后执行步骤543；否则，直接执行步骤544。

步骤543，根据变化后的调度扫描权重参数，以及按照下降后的优先级等级从高到低的顺序对优先级等级下降后的重试初始消息进行调度。

步骤544，根据变化后的调度扫描权重参数，以及按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息进行调度。

在上述步骤S55中，所述进行一般性流量控制的过程具体包括：

首先根据设定的消息优先级配置参数，将内部队列中的重试消息的优先级等级降低一级；然后按照下降后的优先级等级从高到低的顺序对优先级等级下降后的重试消息进行调度。

针对本发明所述的方法提供的第六实施例，如图8所示，包括：

步骤S201，获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果。

步骤S202，判断所述获取的综合参数或所述CPU占有率检测结果数据是否超过设定的阈值，若否，则执行步骤S203；若是，则执行步骤S204。

步骤S203，清除流控标志，进入正常运行状态。

步骤S204，置流控标志，通过设置的全局共享参数进行通信流量的控制。此步骤与上述第五实施例中的描述雷同，不再详细描述。

步骤S205，判断输入缓冲区内是否有消息，若是，则执行步骤S206；否则，执行步骤S203，清流控标志，进入正常运行状态；

步骤S206，调用准入模块，对准备进入所述输入缓冲区的消息进行准入控制，然后继续执行步骤S202。

步骤S206的具体实施过程包括两种情况，第一种情况如图9所示，包括如下步骤：

21、从输入缓冲区读一条消息，并设定所述消息的消息生存期；

22、根据用户身份标识判断所述消息是否为初始消息或重试消息，若是，则执行步骤23，将所述初始消息或重试消息的优先级降低一个等级，然后执行步骤24；否则，直接执行步骤24；

24、根据所述消息的优先级等级，判断对应的内部队列是否满，若是，则执行步骤25，丢弃所述消息；否则，执行步骤26，将所述携带消息生存期的消息放入内部队列中，然后执行步骤27；

27、判断调度扫描次数是否已到，若是，则执行步骤28，结束此过程，返回步骤S202；否则，转入步骤21。

第二种情况如图10所示，包括如下步骤：

31、从输入缓冲区读一条消息，并设定所述消息的消息生存期；

32、根据用户身份标识判断所述消息是否为初始消息，若是，则执行步骤33，即将所述初始消息的优先级降低一个等级，然后执行步骤34；否则，直接执行步骤34；

34、根据用户身份标识判断所述消息是否为重试初始消息，若是，则执行步骤35，即将所述重试初始消息的优先级再降低一个等级，然后执行步骤36；否则直接执行步骤36；

36、根据所述消息的优先级等级，判断对应的内部队列是否满，若是，则执行步骤37，即丢弃所述消息，然后执行步骤39；否则，执行步骤38，即将所述消息放入内部队列中，然后执行步骤39。

39，判断调度扫描次数是否已到，若是，则执行步骤40，结束此过程，返回步骤S202；否则，转入步骤31。

针对本发明所述的方法提供的第七实施例，如图11所示，包括：

步骤S301，获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果。

步骤S302，判断所述获取的综合参数或所述CPU占有率检测结果数据是否超过设定的阈值，若否，则执行步骤S303；若是，则执行步骤S304。

步骤S303，清除流控标志，进入正常运行状态。

步骤S304，置流控标志，通过设置的全局共享参数进行通信流量的控制。此步骤与上述第五实施例中的描述雷同，不再详细描述。

步骤S305，判断内部队列中是否有消息，若是，则执行步骤S306；否则执行步骤S307，清流控标志，进入正常运行状态；

步骤S306，调用调度模块，通过对不同优先级队列设置的调度扫描权重参数进行调度处理，然后继续执行步骤S302。

步骤S306中所述调用调度模块，通过对不同优先级队列设置的调度扫描权重参数进行调度处理的过程，如图12所示，具体包括：

71、判断内部队列中的消息是否达到为其设定的消息生存期，若是，则执行步骤72，将所述消息从内部队列中直接丢弃；否则，执行步骤73。

73、根据加权调度算法，按照从高到低的优先级等级顺序从内部队列中读取一条消息。

步骤73中所述加权调度算法具体包括：

每轮扫描所有的内部队列；以及，

根据设定的调度扫描权重参数，每轮从优先级等级高的内部队列中调度读出的消息数量大于从优先级等级低的内部队列中调度读出的消息数量；以及，

每轮从所有优先级内部队列中调度读出的消息数量总和，与每轮从输入缓冲区调度读入的消息数量总和保持平衡；以及，

如果增大高优先级内部队列的调度扫描权重参数，则降低低优先级内部队列的调度扫描权重参数。

74、判断本优先级的内部队列中的消息是否调度完毕，若是，则执行步骤75，对下一等级的优先级的内部队列中的消息进行调度，然后执行步骤76；否则，转入步骤71；

76、判断所有优先级内部队列是否调度扫描完毕，若是，则执行步骤77，结束此过程，返回步骤S302；否则，转入步骤71。

针对本发明所述的方法提供的第八实施例，如图13所示，包括：

步骤S401，获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果。

步骤S402，判断所述获取的综合参数或所述CPU占有率检测结果数据是否超过设定的阈值，若否，则执行步骤S403；若是，则执行步骤S404。

步骤S403，清除流控标志，进入正常运行状态。

步骤S404，置流控标志，通过设置的全局共享参数进行通信流量的控制。此步骤与上述第五实施例中的描述雷同，不再详细描述。

步骤S405，判断输入缓冲区内是否有消息，若是，则执行步骤S406；否则，执行步骤S407；

步骤S406，即调用准入模块，对准备进入所述输入缓冲区的消息进行准入控制。此步骤与上述第六实施例中的描述雷同，不再详细描述。

步骤S407，判断内部队列中是否有消息，若是，则执行步骤S408；否则，执行步骤S409，清流控标志，进入正常运行状态。

步骤S408，调用调度模块，通过为不同优先级队列设置的调度扫描权重参数进行通信流量的控制，然后返回步骤S402。此步骤与上述第七实施例中的描述雷同，不再详细描述。

由上述本发明提供的技术方案可以看出，本发明首先获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果，当确认所述获取综合参数或所述CPU占有率检测结果数据超过设定的阈值时，通过设定的全局共享参数进行通信流量控制。通过本发明采用的CPU占有率和缓冲延时/长度的双重检测机制，能够对系统的过载情况把握的更加准确，从而保证系统处理能力能够得到有效的利用；而且，本发明能够通过设定的全局共享参数进行通信流量控制，从而保证了重要业务在系统过载时得到优先处理，解决了现有技术中由于对消息不加区分直接丢弃而导致系统对消息的有效处理率下降的问题。

另外本发明还通过设置的全局共享参数对准备进入输入缓冲区的消息流量和/或设置不同优先级的内部队列中的消息流量进行控制以及通过为消息设定的消息生存期，更进一步保证了重要业务在系统过载时得到优先处理，使系统对消息的有效处理率以及有效消息的处理率得到提高。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求的保护范围为准。

Claims (17)

1、一种进行流量控制的方法，其特征在于，包括：

A、获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果；

B、当确认所述获取综合参数或所述CPU占有率检测结果数据超过设定的阈值时，通过设定的全局共享参数进行通信流量的控制。

2、根据权利要求1所述的方法，其特征在于，所述步骤B具体包括：

B1、判断所述获取的综合参数或所述CPU占有率检测结果数据是否超过设定的阈值，若否，则执行步骤B2；若是，则执行步骤B3；

B2、清除流控标志，进入正常运行状态，并执行步骤B1；

B3、设置流控标志，通过设置的全局共享参数进行通信流量的控制，然后继续执行步骤B1。

3、根据权利要求2所述的方法，其特征在于，所述全局共享参数包括：

消息优先级配置参数和/或调度扫描权重参数。

4、根据权利要求3述的方法，其特征在于，所述步骤B3包括：

B31、读取所述全局共享参数；

B32、根据所述全局共享参数对不同优先级等级的内部队列中的消息流量进行相应级别的流量控制，然后继续执行步骤B1。

5、根据权利要求4所述的方法，其特征在于，所述步骤B32具体包括：

B321、根据所述全局共享参数判断优先级等级最高的内部队列是否满，若是，则进行紧急流量控制，然后继续执行步骤B1；否则，执行步骤B322；

B322、根据所述全局共享参数判断优先级等级最高的内部队列以外的内部队列是否满，若是，则进行一般性流量控制，然后继续执行步骤B1；否则，执行步骤B1。

6、根据权利要求5所述的方法，其特征在于，步骤B321中所述进行紧急流量控制的过程具体包括：

B3211、当确认内部队列中的消息为初始消息或重试消息时，根据设定的消息优先级配置参数，将初始消息或重试消息的优先级等级降低一级；

B3212、按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息或重试消息进行调度；

或，

B3213、当确认内部队列中的消息为初始消息或重试消息时，根据设定的调度扫描权重参数将优先级等级最高的内部队列的调度扫描权重增加一级，并将优先级等级最低的内部队列的调度扫描权重降低一级；

B3214、根据变化后的调度扫描权重参数以及优先级等级从高到低的顺序对所述初始消息或重试消息进行调度；

或，

B3215、当确认内部队列中的消息为初始消息或重试消息时，根据设定的消息优先级配置参数，将初始消息的优先级等级降低一级；以及，根据设定的调度扫描权重参数将优先级等级最高的内部队列的调度扫描权重增加一级，并将优先级等级最低的内部队列的调度扫描权重降低一级；

B3216、根据变化后的调度扫描权重参数，以及按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息或重试消息进行调度；

或，

B3217、当确认所述内部队列中的消息为初始消息时，则根据设定的消息优先级配置参数，将初始消息的优先级等级下降一级。

B3218、判断所述内部队列中的消息是否为重试初始消息，若是，则根据设定的消息优先级配置参数，将初始消息的优先级等级再下降一级，然后执行步骤B3219；否则，直接执行步骤B3220；

B3219、按照下降后的优先级等级从高到低的顺序对优先级等级下降后的重试初始消息进行调度；

B3220、按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息进行调度。

或，

B3221、当确认所述内部队列中的消息为初始消息时，则根据设定的消息优先级配置参数，将初始消息的优先级等级下降一级；

B3222、判断所述内部队列中的消息是否为重试初始消息，若是，则根据设定的消息优先级配置参数，将初始消息的优先级等级再下降一级，以及，根据设定的调度扫描权重参数将优先级等级最高的内部队列的调度扫描权重增加一级，并将优先级等级最低的内部队列的调度扫描权重降低一级，然后执行步骤B3223；否则，直接执行步骤B3224；

B3223、根据变化后的调度扫描权重参数，以及按照下降后的优先级等级从高到低的顺序对优先级等级下降后的重试初始消息进行调度；

B3224、根据变化后的调度扫描权重参数，以及按照下降后的优先级等级从高到低的顺序对优先级等级下降后的初始消息进行调度。

7、根据权利要求5所述的方法，其特征在于，步骤B322中所述进行一般性流量控制的过程具体包括：

B3221、根据设定的消息优先级配置参数，将内部队列中的重试消息的优先级等级降低一级；

B3222、按照下降后的优先级等级从高到低的顺序对优先级等级下降后的重试消息进行调度。

8、根据权利要求1所述的方法，其特征在于，所述步骤B具体包括：

B4、判断所述获取的综合参数或所述CPU占有率检测结果数据是否超过设定的阈值，若否，则清除流控标志，进入正常运行状态；若是，则执行步骤B5；

B5、设置流控标志，通过设置的全局共享参数进行通信流量的控制。

B6、根据输入缓冲区内的消息量和/或内部队列中的消息量进行通信流量的控制。

9、根据权利要求8所述的方法，其特征在于，所述步骤B6具体包括：

B61、判断输入缓冲区内是否有消息，若是，对准备进入所述输入缓冲区的消息进行准入控制，然后继续执行步骤B4；否则，清流控标志，进入正常运行状态；

或，

B62、判断内部队列中是否有消息，若是，则通过对不同优先级队列设置的调度扫描权重参数进行调度处理，然后继续执行步骤B4；否则，清流控标志，进入正常运行状态；

或，

B63、判断输入缓冲区内是否有消息，若是，则对准备进入所述输入缓冲区的消息进行准入控制，然后继续执行步骤B4；否则，执行步骤B64；

B64、判断内部队列中是否有消息，若是，则通过为不同优先级队列设置的调度扫描权重参数进行通信流量的控制，然后继续执行步骤B4；否则，清流控标志，进入正常运行状态。

10、根据权利要求9所述的方法，其特征在于，所述步骤B6还包括：

B65、判断调度扫描次数是否已到，若是，则结束此过程；否则，转入步骤B6。

11、根据权利要求9所述的方法，其特征在于，步骤B6中所述对准备进入所述输入缓冲区的消息进行准入控制的过程具体包括：

C1、从输入缓冲区读一条消息，并设定所述消息的消息生存期；

C2、根据用户身份标识判断所述消息是否为初始消息或重试消息，若是，则将所述初始消息或重试消息的优先级降低一个等级，然后执行步骤C3；否则，直接执行步骤C3；

C3、根据所述消息的优先级等级，判断对应的内部队列是否满，若是，则丢弃所述消息；否则，将所述携带消息生存期的消息放入内部队列中，然后结束此过程；

或，

C4、从输入缓冲区读一条消息，并设定所述消息的消息生存期；

C5、根据用户身份标识判断所述消息是否为初始消息，若是，则将所述初始消息的优先级降低一个等级，然后执行步骤C6；否则，直接执行步骤C6；

C6、根据用户身份标识判断所述消息是否为重试消息，若是，则将所述重试消息的优先级再降低一个等级，然后执行步骤C7；否则直接执行步骤C7；

C7、根据所述消息的优先级等级，判断对应的内部队列是否满，若是，则丢弃所述消息；否则，将所述消息放入内部队列中，然后结束此过程。

12、根据权利要求9所述的方法，其特征在于，步骤B6中所述通过对不同优先级队列设置的调度扫描权重参数进行调度处理的过程具体包括：

D1、根据加权调度算法，按照从高到低的优先级等级顺序从内部队列中读取一条消息；

D2、判断本优先级的内部队列中的消息是否调度完毕，若是，则对下一等级的优先级的内部队列中的消息进行调度；否则，转入步骤D1；

D3、判断所有优先级内部队列是否调度扫描完毕，若是，则结束此过程；否则，转入步骤D1。

13、根据权利要求12所述的方法，其特征在于，步骤D1中所述加权调度算法具体包括：

每轮扫描所有的内部队列；以及，

根据设定的调度扫描权重参数，每轮从优先级等级高的内部队列中调度读出的消息数量大于从优先级等级低的内部队列中调度读出的消息数量；以及，

每轮从所有优先级内部队列中调度读出的消息数量总和，与每轮从输入缓冲区调度读入的消息数量总和保持平衡；以及，

如果增大高优先级内部队列的调度扫描权重参数，则降低低优先级内部队列的调度扫描权重参数。

14、根据权利要求10所述的方法，其特征在于，在所述步骤D1之前还包括：

判断内部队列中的消息是否达到为其设定的消息生存期，若是，则将所述消息从内部队列中直接丢弃；否则，执行步骤D1。

15、一种进行流量控制的系统，其特征在于，包括：

主控模块、流控模块、输入缓冲区和内部队列；

所述主控模块获取内部队列长度和消息包在内部队列中平均停留时间的综合参数，或CPU占有率检测结果；并当确认所述获取综合参数或所述CPU占有率检测结果数据超过设定的阈值时，根据设定的全局共享参数通过所述流控模块，对准备进入输入缓冲区内的消息和内部队列中的消息进行流量控制。

16、根据权利要求15所述的系统，其特征在于，还包括：

准入模块，用于接受主控模块的控制或主控模块和流控模块的控制，对准备进入输入缓冲区内的消息流量进行控制。

17、根据权利要求15或16所述的系统，其特征在于，还包括：

调度模块，用于接受主控模块的控制或主控模块和流控模块的控制，根据设定的全局共享参数对内部队列中的消息流量进行调度读出。

Images