CN1863202B - 提高负载均衡设备和服务器处理性能的方法 - Google Patents
提高负载均衡设备和服务器处理性能的方法 Download PDFInfo
- Publication number
- CN1863202B CN1863202B CN200510109123XA CN200510109123A CN1863202B CN 1863202 B CN1863202 B CN 1863202B CN 200510109123X A CN200510109123X A CN 200510109123XA CN 200510109123 A CN200510109123 A CN 200510109123A CN 1863202 B CN1863202 B CN 1863202B
- Authority
- CN
- China
- Prior art keywords
- server
- load balancing
- balancing device
- information
- processing performance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明提供了提高负载均衡设备和服务器处理性能的方法,该方法主要包括:在负载均衡设备和服务器之间进行各种信息的交互,根据交互的信息,负载均衡设备和服务器进行相应的配置处理。利用本发明所述方法,可以更好地对新服务器进行部署,更好地利用负载均衡设备的资源,提高负载均衡设备的安全性等处理功能。
Description
技术领域
本发明涉及网络通讯领域,尤其涉及一种提高负载均衡设备和服务器处理性能的方法。
背景技术
在实际网络应用中,当一台服务器的性能不足以支撑应用的时候,就需要多台服务器一起对外提供服务。此时,就需要用到负载均衡技术。
负载均衡是由多台服务器以对称的方式组成一个服务器集合,每台服务器都具有等价的地位,都可以单独对外提供服务而无须其他服务器的辅助。通过某种负载分担技术,将外部发送来的请求均匀分配到对称结构中的某一台服务器上,而接收到请求的服务器独立地回应客户的请求。
负载均衡的组网示意图如图1所示。在图1所示的组网中,多台服务器组成了一个服务器群。当用户发起访问时,用户的访问请求将首先到达负载均衡设备上,负载均衡设备再把请求分发到相应的服务器上。一般的负载均衡设备不对应用层进行分析,而是根据网络层的信息直接进行分担处理。
在图1所示的组网中,当服务器群中需要加入新的服务器设备时,在负载均衡设备中需要增加针对该新的服务器的配置,使得后续的应用可以逐步分担到该新的服务器上。
上述现有的负载均衡设备的缺点为:不能方便地在现有的负载均衡组网中增加新的服务器。在实际应用中,各种服务器的性能可能不一样,比如有的服务器可以处理100个请求,而有的服务器可以处理300个请求或者更多。当需要在现有的负载均衡组网中增加新的服务器设备的时候,需要对负载均衡设备上的配置进行改动。比如在负载均衡设备上增加一条命令,指出该新的服务器的处理能力。同时,上述现有的负载均衡设备不能充分地利用现有资源,安全性也较差。
发明内容
本发明的目的是提供一种提高负载均衡设备和服务器处理性能的方法,从而可以提高负载均衡设备的处理性能。
本发明的目的是通过以下技术方案实现的:
一种提高负载均衡设备和服务器处理性能的方法,包括:
在负载均衡设备和服务器之间进行服务器初始配置信息的交互,根据交互的服务器初始配置信息,负载均衡设备和服务器进行相应的配置处理;
当有新的服务器需要加入时,该新的服务器向负载均衡设备发送携带该服务器能力数据的信息;
负载均衡设备收到所述服务器发送的信息后,将信息中携带的服务器的能力数据保存在其内部的数据表中,向所述服务器返回携带负载均衡设备的外部IP地址的响应信息,所述服务器将所述外部IP地址作为向负载均衡设备发送的报文的数据区中的IP地址。
所述的方法具体包括:
负载均衡设备和服务器之间基于传输控制协议TCP或用户数据报协议UDP或流控制传送协议SCTP进行各种信息的交互。
所述的方法具体包括:
负载均衡设备和服务器之间通过中转设备进行各种信息的交互,该中转设备包括信息收集设备或代理设备。
能力数据进行处理后,向服务器返回响应信息。
所述的方法具体包括:
负载均衡设备和服务器之间通过信息交互,保持负载均衡设备和服务器之间的连接;
负载均衡设备和服务器之间通过信息交互,注销服务器在负载均衡设备上的初始配置信息。
所述的方法具体包括:
负载均衡设备和服务器之间通过信息交互,对负载均衡设备上的会话表项进行处理。
所述的方法具体包括:
当服务器需要通知负载均衡设备去保持或者删除会话表项时,服务器向负载均衡设备发送相应的请求信息;
负载均衡设备根据接收到的请求信息,进行相应的保持或者删除会话表项的处理后,向服务器返回响应信息。
所述的当服务器需要通知负载均衡设备去保持或者删除会话表项时,服务器向负载均衡设备发送相应的请求信息具体包括:
如果用户在服务器上注册成功,则服务器向负载均衡设备发送保持该用户的会话表项的请求信息,否则,发送删除该用户的会话表项的请求信息;
当负载均衡设备上产生各种无用的会话表项时,服务器向负载均衡设备发送删除该无用的会话表项的请求信息。
由上述本发明提供的技术方案可以看出,本发明通过在负载均衡设备和服务器之间基于一种协议机制进行各种消息的交互,从而可以更好地对新服务器进行部署,更好地利用负载均衡设备的资源,提高负载均衡设备的安全性等处理功能。
附图说明
图1为负载均衡的组网示意图;
图2为本方法所述方法的处理流程图;
图3为负载均衡设备和服务器之间进行注册报文和注册响应报文的交互示意图;
图4为负载均衡设备的内部IP地址和外部IP地址的示意图;
图5为负载均衡设备将服务器发送过来的报文IP头中服务器的IP地址替换为对外的IP地址的示意图;
图6为负载均衡设备和服务器之间进行保活报文、注销报文和会话表项处理报文的交互示意图;
图7为SIP用户在SIP服务器上进行注册的示意图;
图8为服务器与负载均衡设备之间通过中转设备进行中转的示意图。
具体实施方式
本发明提供了一种提高负载均衡设备和服务器处理性能的方法,本发明的核心为:在负载均衡设备和服务器之间基于一种协议机制进行各种消息的交互,根据交互的消息,负载均衡设备和服务器进行相应的配置处理。
下面结合附图来详细描述本发明,本方法所述方法的处理流程如图2所示,包括如下步骤:
步骤2-1、负载均衡设备和服务器之间基于一种协议机制进行注册报文、注册相应报文的交互,互相建立连接。
本发明首先在负载均衡设备和服务器之间建立一种协议机制,该协议可以基于TCP(传输控制协议)、UDP(用户数据报协议)或SCTP(流控制传送协议)等其他的协议,如果服务器与负载均衡设备之间已经采用了某种协议,该协议也可以作为已经采用的协议的一部分。
负载均衡设备与服务器之间建立了协议机制后,可以首先进行相互认证操作,在认证通过之后再互相进行信息的交互。认证的机制可以采用类似CHAP(质询握手身份验证协议)或者PAP(密码身份验证协议)的机制,也可以采用其他认证机制。
负载均衡设备与服务器之间通过建立的协议机制可以进行各种信息的交互。当有新的服务器需要加入时,负载均衡设备和该新的服务器之间首先进行注册报文、注册响应报文的交互,该交互过程的示意图如图3所示。
首先服务器向负载均衡设备发起一个注册报文,该注册报文中携带以下信息:
1、报文类型,该报文类型是注册报文;
2、本服务器的能力数据;
3、本服务器的名称,该信息为可选信息。
当负载均衡设备收到服务器发送的注册报文后,将注册报文中携带的服务器的能力数据进行保存后,向服务器返回一个注册响应报文,该注册响应报文中携带以下信息:
1、报文类型,该报文类型是响应报文;
2、负载均衡设备的外部IP地址,该信息为可选信息;
3、简化服务器配置的其他信息,该信息为可选信息。
负载均衡设备根据接收到的注册报文,便知道新的服务器的性能数据, 因此,负载均衡设备便不需要对该新的服务器进行额外的配置工作。
在实际应用中,可以在负载均衡设备中维护一张数据表,表中记录各个服务器的性能数据、当前的处理值等。这张表是负载均衡设备分发流量的一个依据。
负载均衡设备与服务器之间互相交互的注册报文和注册响应报文可以分在多个报文中进行传输。
一般情况下,负载均衡设备有内外两个IP地址,内部IP地址对服务器可见,外部IP地址对用户可见。服务器不用配置特殊的路由信息,就可以与负载均衡设备的内部IP地址相连。基于路由等因素,服务器不与负载均衡设备的外部IP地址进行连接。负载均衡设备的内部IP地址和外部IP地址的示意图如图4所示。
下面我们介绍上述注册响应报文中携带的负载均衡设备的外部IP地址信息的作用。
服务器向负载均衡设备发送的一些协议报文,比如SIP(起始会话协议)、H.323等协议报文,需要在报文数据中携带本机的IP地址信息。由于负载均衡设备一般不对服务器发出的报文的内容再做修改,而只是修改报文的IP头,将报文IP头中服务器的IP地址替换为负载均衡设备的对外的IP地址,而报文数据区中携带的IP地址是不做修改的,然后,负载均衡设备将进行了替换的报文转发给用户。上述替换过程的示意图如图5所示。
当用户接收到上述负载均衡设备转发的报文后,用户将看到两个不同的IP地址,一个是IP头中的IP地址,另一个是数据区中的IP地址。这样的情况可能会导致后续流程出现错误。
为解决上述问题,当服务器接收到上述注册响应报文中携带的负载均衡设备的外部IP地址信息后,服务器在后续报文的发送中,便可以直接把数据区中的IP地址填写成该负载均衡设备的外部IP地址。于是,最后用户看到的 报文中将只携带一个IP地址。
在上述注册响应报文中除了携带负载均衡设备的外部IP地址之外,还可以携带其他的一些信息给服务器。比如服务器所应该共同具备的一些属性信息。具体携带的信息与服务器实际的应用环境相关。
在负载均衡设备与服务器之间成功地进行了注册报文和注册响应报文的交互后,负载均衡设备与服务器之间便建立了连接。
步骤2-2、负载均衡设备和服务器之间建立连接后,基于所述协议机制进行保活报文、注销报文和会话表项处理报文等的交互。
负载均衡设备和服务器之间成功建立了连接后,负载均衡设备和服务器之间便可以通过建立的协议机制,进行其它各种信息的交互。比如,如图6所示,进行保活报文和保活响应报文、注销报文和注销响应报文、会话表项处理请求报文和会话表项处理响应报文的交互。
保活报文和保活响应报文每隔一段时间便在负载均衡设备和服务器之间进行传递,以保持负载均衡设备和服务器之间的连接。
服务器向负载均衡设备发送注销报文,负载均衡设备进行相应的操作,返回注销响应报文后,于是,便注销了服务器在负载均衡设备上的注册,断开了负载均衡设备和服务器之间的连接。
下面我们介绍上述会话表项处理请求报文和会话表项处理响应报文的作用。
为了保证同一个用户的多个报文能够在同一台服务器上进行处理,负载均衡设备需要针对每个用户生成一个会话表。由于会话表的资源是有限的,当某个会话表已经失效时,负载均衡设备会对该会话表进行老化等处理,以释放该会话表所占用的资源。
下面以SIP协议为例来说明上述情况。在通常情况下,SIP用户需要先在服务器上注册成功,后续才能作为被叫或者主叫。而当SIP用户注册成功 后,针对该用户的会话表在负载均衡设备上将一直存在,直到用户注销或者断开为止。
当某个SIP用户没有在服务器上注册成功时。针对该用户的会话表在负载均衡设备上不需要长时间保留。同时,在有网络攻击发生的情况下,负载均衡设备上会产生有很多这种不需要长时间保留的会话表项。当这种表项达到很大的数量时,会占用大量的资源,将导致负载均衡设备对于正常用户也没有足够的资源去创建会话表项,于是,会导致正常的服务被拒绝。现有的负载均衡设备并不能区分上述各种不同的会话表项。SIP用户在SIP服务器上进行注册的示意图如图7所示。
为解决上述问题,本发明通过在负载均衡设备与服务器之间建立的协议机制,在负载均衡设备与服务器之间进行会话表项处理请求报文、会话表项处理响应报文的交互。
当服务器需要通知负载均衡设备去保持或者删除某个会话表项时,服务器便向负载均衡设备发送相应的会话表项处理请求报文。负载均衡设备根据接收到的会话表项处理请求报文,进行相应的保持或者删除某个会话表项处理后,向服务器返回会话表项处理响应报文。
比如,当服务器需要通知负载均衡设备去保持某个会话表项时,服务器向负载均衡设备发送的会话表项处理请求报文中将携带以下信息:
1、报文类型,该报文类型是保持特定某个会话表项;
2、具体标记该会话表项的信息,比如源、目的IP地址/端口等;
3、该会话表项需要保持的时间。
当负载均衡设备收到这个会话表项处理请求报文后,会进行相应的保持特定会话表项的处理,然后,返回一个会话表项处理响应报文,该响应报文中将携带以下信息:
1、报文类型,该报文类型是是对保持会话表项的响应。
2、响应结果,是响应成功或失败。
同样,当服务器需要通知负载均衡设备去删除某个会话表项时,也向负载均衡设备发送相应的会话表项处理请求报文。
负载均衡设备与服务器之间通过上述会话表项处理请求报文、会话表项处理响应报文的交互,就可以有效地利用负载均衡设备的资源,同时可以增加负载均衡组网的安全性。
在实际应用中,服务器与负载均衡设备之间可以不进行直接交互,而是通过第三方进行中转,比如,通过中转设备进行中转。服务器与负载均衡设备之间通过中转设备进行中转的示意图如图8所示。
中转设备可以是一个集中的信息收集设备,其他的设备都是从这台信息收集设备上去取信息,负载均衡设备与服务器分别与该设备进行交互。比如服务器向该设备写数据(如服务器的性能指标等),而负载均衡设备去读取这些数据。
中转设备也可以一种代理设备,也就是分别代理负载均衡设备以及服务器的功能。对于负载均衡设备来说,该代理设备就是服务器;而对于服务器来说,该代理设备就是负载均衡设备。
以上所述,仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应该以权利要求的保护范围为准。
Claims (7)
1.一种提高负载均衡设备和服务器处理性能的方法,其特征在于,包括:
在负载均衡设备和服务器之间进行服务器初始配置信息的交互,根据交互的服务器初始配置信息,负载均衡设备和服务器进行相应的配置处理;
当有新的服务器需要加入时,该新的服务器向负载均衡设备发送携带该服务器能力数据的信息;
负载均衡设备收到所述服务器发送的信息后,将信息中携带的服务器的能力数据保存在其内部的数据表中,向所述服务器返回携带负载均衡设备的外部IP地址的响应信息,所述服务器将所述外部IP地址作为向负载均衡设备发送的报文的数据区中的IP地址。
2.根据权利要求1所述提高负载均衡设备和服务器处理性能的方法,其特征在于,所述的方法具体包括:
负载均衡设备和服务器之间基于传输控制协议TCP或用户数据报协议UDP或流控制传送协议SCTP进行各种信息的交互。
3.根据权利要求1所述提高负载均衡设备和服务器处理性能的方法,其特征在于,所述的方法具体包括:
负载均衡设备和服务器之间通过中转设备进行各种信息的交互,该中转设备包括信息收集设备或代理设备;
能力数据进行处理后,向服务器返回响应信息。
4.根据权利要求1、2或3所述提高负载均衡设备和服务器处理性能的方法,其特征在于,所述的方法具体包括:
负载均衡设备和服务器之间通过信息交互,保持负载均衡设备和服务器之间的连接;
负载均衡设备和服务器之间通过信息交互,注销服务器在负载均衡设备 上的初始配置信息。
5.根据权利要求1、2或3所述提高负载均衡设备和服务器处理性能的方法,其特征在于,所述的方法具体包括:
负载均衡设备和服务器之间通过信息交互,对负载均衡设备上的会话表项进行处理。
6.根据权利要求5所述提高负载均衡设备和服务器处理性能的方法,其特征在于,所述的方法具体包括:
当服务器需要通知负载均衡设备去保持或者删除会话表项时,服务器向负载均衡设备发送相应的请求信息;
负载均衡设备根据接收到的请求信息,进行相应的保持或者删除会话表项的处理后,向服务器返回响应信息。
7.根据权利要求6所述提高负载均衡设备和服务器处理性能的方法,其特征在于,所述的当服务器需要通知负载均衡设备去保持或者删除会话表项时,服务器向负载均衡设备发送相应的请求信息具体包括:
如果用户在服务器上注册成功,则服务器向负载均衡设备发送保持该用户的会话表项的请求信息,否则,发送删除该用户的会话表项的请求信息;
当负载均衡设备上产生各种无用的会话表项时,服务器向负载均衡设备发送删除该无用的会话表项的请求信息。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN200510109123XA CN1863202B (zh) | 2005-10-18 | 2005-10-18 | 提高负载均衡设备和服务器处理性能的方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN200510109123XA CN1863202B (zh) | 2005-10-18 | 2005-10-18 | 提高负载均衡设备和服务器处理性能的方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN1863202A CN1863202A (zh) | 2006-11-15 |
| CN1863202B true CN1863202B (zh) | 2011-04-06 |
Family
ID=37390529
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN200510109123XA Expired - Fee Related CN1863202B (zh) | 2005-10-18 | 2005-10-18 | 提高负载均衡设备和服务器处理性能的方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN1863202B (zh) |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101252540B (zh) * | 2008-04-07 | 2010-07-07 | 华耀环宇科技(北京)有限公司 | 一种基于外部策略服务器交互的网络流量分配方法 |
| CN101340327B (zh) | 2008-08-21 | 2011-11-30 | 腾讯科技(深圳)有限公司 | 实现网络服务器负载均衡的方法和系统 |
| CN102045396A (zh) * | 2010-12-20 | 2011-05-04 | 福建星网视易信息系统有限公司 | 服务器文件的负载均衡方法 |
| CN102761608B (zh) * | 2012-06-28 | 2016-06-01 | 深圳市深信服电子科技有限公司 | Udp会话复用的方法和负载均衡设备 |
| CN103024018A (zh) * | 2012-12-04 | 2013-04-03 | 北京蓝汛通信技术有限责任公司 | 一种在单台设备运行多cdn服务进程的方法及装置 |
| CN104363300B (zh) * | 2014-11-26 | 2018-06-05 | 浙江宇视科技有限公司 | 一种服务器集群中计算任务分布式调度装置 |
| CN115134227B (zh) * | 2022-06-17 | 2024-09-20 | 京东科技信息技术有限公司 | 用于维护服务器的方法和装置 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1372405A (zh) * | 2001-02-26 | 2002-10-02 | 阿瓦雅通信以色列有限公司 | 接续持续连接 |
| CN1403934A (zh) * | 2001-09-06 | 2003-03-19 | 华为技术有限公司 | 对流媒体服务器实现负载均衡的方法和设备 |
| CN1545275A (zh) * | 2003-11-21 | 2004-11-10 | 清华大学深圳研究生院 | 基于Netfilter架构的流媒体集群服务内容调度方法 |
| CN1545262A (zh) * | 2003-11-11 | 2004-11-10 | 浙江大学 | 一种网络服务器结构及其服务提供过程 |
| CN1585399A (zh) * | 2004-05-25 | 2005-02-23 | 华中科技大学 | 一种集群服务器的负载均衡方法 |
-
2005
- 2005-10-18 CN CN200510109123XA patent/CN1863202B/zh not_active Expired - Fee Related
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1372405A (zh) * | 2001-02-26 | 2002-10-02 | 阿瓦雅通信以色列有限公司 | 接续持续连接 |
| CN1403934A (zh) * | 2001-09-06 | 2003-03-19 | 华为技术有限公司 | 对流媒体服务器实现负载均衡的方法和设备 |
| CN1545262A (zh) * | 2003-11-11 | 2004-11-10 | 浙江大学 | 一种网络服务器结构及其服务提供过程 |
| CN1545275A (zh) * | 2003-11-21 | 2004-11-10 | 清华大学深圳研究生院 | 基于Netfilter架构的流媒体集群服务内容调度方法 |
| CN1585399A (zh) * | 2004-05-25 | 2005-02-23 | 华中科技大学 | 一种集群服务器的负载均衡方法 |
Non-Patent Citations (1)
| Title |
|---|
| 第4页倒数第1-2段. |
Also Published As
| Publication number | Publication date |
|---|---|
| CN1863202A (zh) | 2006-11-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4154615B2 (ja) | Sipサーバ共有モジュール装置、sipメッセージ中継方法、及びプログラム | |
| CN101534302B (zh) | 一种提供tcp服务的方法、系统和相关装置 | |
| CN101729500B (zh) | 一种ip会话标识方法、装置和系统 | |
| CN101848235A (zh) | 一种支持nat穿越的实时多媒体数据p2p传输方案 | |
| CN112911027A (zh) | 用于建立媒体会话的方法和装置 | |
| EP3125502A1 (en) | Method for providing access to a web server | |
| CN102035813B (zh) | 端到端呼叫的实现方法、端到端呼叫终端及系统 | |
| CN101159657A (zh) | 一种实现私网穿越的方法、设备及服务器 | |
| WO2013056628A1 (zh) | 实现心跳机制的方法、应用服务器、网络数据库及系统 | |
| CN117439815B (zh) | 一种基于反向透明桥接的内网穿透系统及方法 | |
| CN100454905C (zh) | 穿越网络地址转换的方法 | |
| WO2011032447A1 (zh) | 新网与互联网互通的实现方法、系统及通信端 | |
| WO2023116165A1 (zh) | 网络负载均衡方法、装置、电子设备、介质和程序产品 | |
| CN100493033C (zh) | 一种穿越网络地址转换的方法 | |
| CN1863202B (zh) | 提高负载均衡设备和服务器处理性能的方法 | |
| CN113055220B (zh) | 基于云的nat环境的可缩放且鲁棒的网络管理 | |
| WO2011038639A1 (zh) | 端到端即时通讯的实现方法、端到端即时通讯终端及系统 | |
| CN1917512B (zh) | 一种建立对等直连通道的方法 | |
| WO2010054561A1 (zh) | 一种媒体流代理方法、语音交换机及通信系统 | |
| CN100393039C (zh) | 无ip地址设备网管方法 | |
| CN102710644A (zh) | 一种ip监控系统中节约带宽的方法及装置 | |
| CN1863152B (zh) | 内网用户之间传递各种报文的方法 | |
| CN101510901B (zh) | 一种分布式设备间的通信方法、通信设备和通信系统 | |
| CN101170502B (zh) | 一种实现堆叠成员间互访的方法及系统 | |
| CN102255980B (zh) | 管理会话初始协议呼叫信息的方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C14 | Grant of patent or utility model | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20110406 |