[go: up one dir, main page]

JP2003150570A - サーバへの接続の振り分け方法および振り分け装置、ならびにそのプログラムと記録媒体 - Google Patents

サーバへの接続の振り分け方法および振り分け装置、ならびにそのプログラムと記録媒体

Info

Publication number
JP2003150570A
JP2003150570A JP2001344439A JP2001344439A JP2003150570A JP 2003150570 A JP2003150570 A JP 2003150570A JP 2001344439 A JP2001344439 A JP 2001344439A JP 2001344439 A JP2001344439 A JP 2001344439A JP 2003150570 A JP2003150570 A JP 2003150570A
Authority
JP
Japan
Prior art keywords
server
connection
connections
content
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001344439A
Other languages
English (en)
Other versions
JP3800508B2 (ja
Inventor
Koji Yamamoto
浩司 山本
Takuya Asaka
卓也 朝香
Katsunori Ori
織  克典
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2001344439A priority Critical patent/JP3800508B2/ja
Publication of JP2003150570A publication Critical patent/JP2003150570A/ja
Application granted granted Critical
Publication of JP3800508B2 publication Critical patent/JP3800508B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Computer And Data Communications (AREA)

Abstract

(57)【要約】 【課題】サーバ上のキャッシュをできるだけ活用するこ
とにより、ディスクアクセスを最小限に抑え、コンテン
ツ配信速度を高めること。 【解決手段】複数サーバ13,14,15に単一ないし
複数の同一のコンテンツ群を配置し、接続を各サーバに
割り振っていくことで、負荷分散を図る。コンテンツ毎
に最後にそのコンテンツへのアクセスが生じてからのタ
イムアウト時間を設定しておく。新規に接続要求が生じ
ると、タイムアウト時間内であれば、そのコンテンツの
配信で最後に接続を振ったサーバに接続を振る。接続振
り分け装置12のデータ取得部121は、各サーバの各
種データ(ラウンドトリップタイム、現在の接続本数、
CPU利用率、ディスクI/O量、トータルスループッ
ト等)を取得する。データ記憶部122は、最後に接続
を振り分けたサーバと時刻を記憶しておく。算出部12
3は、記録から振り分けるべきサーバを算出する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、サーバ上のキャッ
シュを活用することにより、ディスクアクセスを最小限
に抑え、それによりコンテンツ配信速度を高めるように
したサーバへの接続の振り分け方法および振り分け装
置、ならびにそのプログラムと記録媒体に関する。
【0002】
【従来の技術】インターネットを通して巨大なファイル
をロードしたり、映像をストリーミング磁気テープ装置
で鑑賞したり、Webページを閲覧したりする際に、配
信要求の集中という問題がしばしば発生する。これを回
避するためには、サーバを複数台用意して、接続を振り
分けるという回避手法がとられる。以下、図8を例にと
り、サーバへの接続の振り分けについて簡単に説明す
る。
【0003】図8では、DNS(Domain Nam
e System)12を振り分け装置として機能させ
る方法を示している。サーバ13,14,15には同じ
www.ntt.co.jpというドメイン名が与えら
れている。クライアント11からDNS12に対してw
ww.ntt.co.jpのIPアドレスを教えて欲し
いという問い合わせに対し、DNS(この場合には、振
り分け装置として機能)12が、接続の振り分けのポリ
シーに照らし合わせて、IPアドレスをクライアント1
1に返答する。あるクライアント11には、192.168.1.
1という回答を返送し、別のクライアント11’には19
2.168.1.2という回答を返送することになる。
【0004】このように動作させることで、www.n
tt.co.jpへの接続を3台のサーバ13,14,
15に振り分け、サーバへの負荷を分散することが可能
である。なお、ここでは、DNS12を接続の振り分け
装置として利用する方法を示したが、他にも振り分け装
置で接続要求をするパケットに記述されている要求先の
IPアドレスを付け替えて振り分けを行う方法等も存在
するが、詳細は省略する。
【0005】従来、接続サーバの振り分け方法として
は、下記の技術が存在する。 (接続ラウンドロビン方式)この方法は、振り分け装
置において、振り分けるサーバを順番に指定していく方
法である。例えば、図8に示すように3台のサーバ1
3,14,15があった場合には、最初の接続をサーバ
13に振り分け、次の接続をサーバ14に振り分け、そ
の次の接続をサーバ15に振り分け、次の接続をサーバ
13に振り分けるという具合に、接続を振り分けるサー
バを順番に指定していく方式である。
【0006】(最低接続本数サーバ選択方式)この方
法は、振り分け装置において、現在の接続本数が最も少
ないサーバに接続を振り分ける方法である。例えば、図
8に示すように3台のサーバ13,14,15があり、
それぞれ現在の接続本数がサーバ13は4本、サーバ1
4は3本、サーバ15は2本であった場合に、その時発
生した接続要求に対して現在の接続本数の最も少ないサ
ーバ15に接続を振り分ける。なお、この場合に、接続
数の把握は振り分け装置12が行う。
【0007】(ランドトリップタイムによるサーバ選
択方式)この方法は、振り分け装置において、ping
等のアクティブなサーバレスポンス測定法を用いて、接
続要求が発生した時点で最もレスポンスタイムの短いサ
ーバに振り分ける方法である。ここで、pingは、I
Pの上位プロトコルの一種であるICMP(Inter
net Control Message Proto
col)を用いて、相手先ホストに対して返答要求を送
出するプログラムである。IPベースのネットワークで
つながったホスト同士の接続性の確認のために使用され
ることが多い。また、返答が戻るまでのターン・アラウ
ンド時間を調べる機能を持つものもあり、相手先への到
達経路の混み具合の目安にすることができる。
【0008】この例においては、アクティブなレスポン
ス測定手法としてpingを用いることにする。図8に
示すように3台のサーバ13,14,15があった場合
に、振り分け装置12は接続要求の発生を受けて、それ
ぞれのサーバ13,14,15に対してpingを用い
てそれぞれのサーバ13,14,15へのラウンドトリ
ップタイムを測定する。その結果、最もラウンドトリッ
プタイムの短かかったサーバを最もレスポンスの良いサ
ーバと判断し、そのサーバに対して接続を振り分ける手
法をとる。なお、実装によっては、定期的にping等
のアクティブなサーバレスポンス測定法を用いて測定を
しておき、接続要求が発生した時には、最も新しい測定
結果を基にサーバを選択するという方法も存在する。
【0009】(サーバリソース監視による振り分け方
式)この方法は、振り分け装置において、振り分け先の
サーバのリソース(例えば、CPU利用率、ディスクI
/O量、現在のスループット)を監視して、それらのど
れか1つ、もしくは複数の組み合わせを判断の尺度と
し、最もリソースに余裕のあるサーバに接続を振り分け
る方式である。
【0010】
【発明が解決しようとする課題】通常、サーバにおいて
は、ディスクから一度読み出したデータをメモリ上のキ
ャッシュ領域に保存しておく。これらのデータは、ディ
スクから新しいデータがキャッシュに読み込まれること
により、キャッシュ領域から削除されるまで、キャッシ
ュ領域上に残り続ける。こうすることにより、読み出し
およびアクセス速度の遅いディスクへのアクセスを極力
避けることが可能となる(キャッシュの機能)。コンテ
ンツ配信において、ディスクへのアクセスの頻発が発生
した場合に、ディスクがシステムのボトルネックとなる
可能性が高い。しかしながら、従来の複数サーバへの接
続の振り分け方法では、キャッシュを有効に活用するこ
とが考慮されておらず、その結果、コンテンツ配信にお
いて、性能を十分に発揮できるとは言い難い。
【0011】図9は、従来手法でのディスク上のデータ
およびキャッシュのイメージを示す図である。図9で
は、従来技術を用いて振り分けを行った場合に、性能を
発揮できない具体例が示されている。すなわち、図9で
は、矢印はファイルの読み出し位置を示している。これ
らの矢印が左から右に進んで行くことにより、データを
読み出していく。横線領域はキャッシュに無い領域であ
り、グレイの領域はキャッシュにある領域である。キャ
ッシュ上にデータが無い場合には、ディスクからデータ
を読み出し、キャッシュ上にデータがある場合には、デ
ィスクにはアクセスせずにキャッシュ上に配置されたデ
ータを読み出す。図9の例では、合計6本の接続が3台
のサーバに2本ずつ振り分けられているが、どの接続も
キャッシュからデータを読んでいないことがわかる。従
来の振り分け方法では、キャッシュの有効活用を考慮に
入れていないために、このような状況が発生する可能性
が高い。
【0012】そこで、本発明の目的は、これら従来の課
題を解決し、サーバ上のキャッシュを活用することによ
り、ディスクアクセスを最小限に抑えることで、コンテ
ンツ配信速度を高めることが可能なサーバへの接続の振
り分け方法および振り分け装置、ならびにそのプログラ
ムと記録媒体を提供することにある。
【0013】
【課題を解決するための手段】上記目的を達成するた
め、本発明によるサーバへの接続の振り分け方法は、複
数サーバに単一ないし複数の同一のコンテンツ群を配置
し、接続をそれぞれのサーバに割り振っていくことによ
り、負荷分散を図るシステムであって、コンテンツ毎に
最後にそのコンテンツへのアクセスが生じてからのタイ
ムアウト時間を設定しておく、新規に接続要求が発生し
た場合に、そのタイムアウト時間内であれば、そのコン
テンツの配信で最後に接続を振ったサーバに接続を振る
ようにする。(この手法は、複数サーバに同一のコンテ
ンツが配置されている場合に、有効に作用する)
【0014】また、キャッシュを持っているサーバに振
り分けることができない時、すなわち、タイムアウト時
間内のサーバが存在しない場合に、従来の振り分け方法
の一つであるping等のアクティブなサーバレスポン
スタイム測定法を用いて、最もレスポンスタイムの短い
サーバに振り分けるようにする。また、キャッシュを持
っているサーバに振り分けることができない時、すなわ
ち、タイムアウト時間内のサーバが存在しない場合に、
従来の振り分け方法の一つである、最も接続数の少ない
サーバを選択する手法を用いて接続を振り分ける。さら
に、キャッシュを持っているサーバに振り分けることが
できない時、すなわち、タイムアウト時間内のサーバが
存在しない場合に、従来の振り分け方法の一つである、
サーバリソースを測定し、最もリソースに余裕のあるサ
ーバを選択する手法を用いて、接続を振り分ける。
【0015】
【発明の実施の形態】以下、本発明の実施例を、図面に
より詳細に説明する。 (請求項1の実施例)図4は、ディスクおよびメモリの
データ転送速度とアクセス時間の関係を示す図である。
コンテンツ配信サーバにおいて、データをディスクから
読み出す速度とソフトウェアキャッシュ上に配置された
データを読み出す場合では、速度に明らかな差が見られ
る。すなわち、図4に示すように、ディスクの最良状態
のときには、アクセス時間が0msecで、読み出し速
度は43.3Mbyte/secであり、ディスクの最
悪状態のときには、アクセス時間が26.4msecと
かなり遅く、かつ読み出し速度も2.6Mbyte/s
ecと低速度である。これに対して、キャッシュが内蔵
されたメモリのアクセス時間は0.006msec、読
み出し速度は938Mbyte/secと極めて速い。
【0016】請求項1の発明では、複数のサーバに単一
ないし複数の同一のコンテンツ群を配置し、接続をそれ
ぞれのサーバに割り振っていくことにより、負荷分散を
図るシステムであって、コンテンツ毎に最後にそのコン
テンツへのアクセスが生じてからのタイムアウト時間を
設定しておき、新規に接続要求が発生した場合には、そ
のタイムアウト時間内であればそのコンテンツの配信で
最後に接続を振ったサーバに接続を振るようにする。
【0017】本発明では、サーバの振り分け装置で、デ
ータがキャッシュ上に配置されている可能性の高いサー
バを選択することにより、コンテンツ等の配信性能の向
上を図る。請求項1の方法を用いることにより、よりキ
ャッシュにデータが配置されている可能性の高いサーバ
の選択が可能となるので、ディスクへのアクセス頻度が
低減できる。図4の結果から、キャッシュからデータを
読み込む場合と、ディスクからデータを読み込む場合と
では、速度に明らかに差が見られるので、本発明は極め
て有効な手法となる。
【0018】図1は、本発明の一実施例を示すサーバへ
の接続の振り分けに係る実験環境の図であり、図2は、
請求項1の手法と従来手法の性能差を示す図である。図
1に示すように、クライアント11をスイッチ12Aに
接続するとともに、スイッチ12Aを3台のサーバ1
3,14,15に接続した。クライアント11とスイッ
チ12Aの間はギガイーサネット(登録商標)で接続さ
れ、サーバ13,14,15とスイッチ12Aの間は1
00メガファストイーサネット(登録商標)で接続され
る。各サーバ13,14,15には、1Gbyteのコ
ンテンツが8個配置されている。また、クライアント1
1からサーバ13,14,15への接続要求の発生間隔
をλ=0.1の指数分布に従って発生させ、接続するコ
ンテンツの選択をランダムに行う。例えば、最初の接続
はコンテンツ1、次にある時間を置いてコンテンツ3、
次にコンテンツ1、次にコンテンツ7という具合に接続
の要求を発生させていく。
【0019】本実験においては、振り分け装置が無いの
で、クライアント11に接続装置があるかのように振る
舞わせる。具体的には、接続要求の時間と接続先のコン
テンツが記述された接続要求のリストを事前に作成し、
それぞれの接続要求がどのサーバに振り分けられるか
を、請求項1の方法、従来のラウンドトリップタイムの
最も短かったものを選択する方法、最も接続本数の少な
いサーバを選択する方法、ラウンドロビンを用いる方法
のそれぞれについて検討し、その結果、接続要求の時間
と接続先のコンテンツと接続先のサーバが記述されたリ
ストを作成して、そのリストに従って接続を発生させ
た。なお、スイッチ12Aは、実験段階であるため、人
手により計算結果に基づいて接続を切り替えていくよう
になっている。
【0020】比較検討の対象として、ラウンドロビンに
よる手法と、最低接続本数のサーバに接続する手法と、
pingを用いてラウンドトリップタイムを測定して最
良のものを選択する手法とを用いた。また、本発明の実
験では、振り分けのタイムアウト時間を30秒に設定し
た。評価は、クライアント11のトータルスループット
によって行う。なお、トータルスループットとは、クラ
イアントマシンが単位時間に得たデータの総量のことを
指す。図2に示す結果により、請求項1の手法が有効で
あることが明らかになった。
【0021】図3は、本発明の一実施例を示す接続の振
り分け装置のブロック構成図である。接続振り分け装置
12は、クライアント11からの接続要求をサーバ1
3,14,15に振り分ける機能を持つ。この装置12
は、データ取得部121とデータ記憶部122と算出部
123とからなる。データ取得部121では、振り分け
先のサーバの各種データ(ラウンドトリップタイム、現
在の接続本数、CPU利用率、ディスクI/O量、トー
タルスループット)を取得する。データ記憶部122で
は、コンテンツ毎に最後に接続を振り分けたサーバおよ
びその時の時刻を記憶しておく。算出部123では、デ
ータ取得部121が取得したデータおよびデータ記憶部
122に蓄積された接続記録から、振り分けるべきサー
バを算出する。
【0022】(請求項1〜5の動作)図5は、図3にお
ける接続振り分け装置の処理フローチャートである。装
置が起動されると、データ取得部121がクライアント
11からの新規接続要求を検出し(ステップ101)、
タイムアウト時間内に同一コンテンツの配信を行ったサ
ーバの有無を判別し(ステップ102)、あれば、最後
に接続の行われたサーバへ接続を振り分ける(ステップ
103)。また、同一コンテンツの配信が行われたサー
バが無ければ、ラウンドロビンで接続するサーバを選
択する。あるいは、ラウンドトリップタイムの最も短
いサーバを選択する(請求項3)。あるいは、現在の
接続本数の最も少ないサーバを選択する(請求項4)。
あるいは、リソースに最も余裕のあるサーバを選択す
る(請求項5)(ステップ104)。このステップ10
4では、上記〜のいずれかの処理を行うものとす
る。
【0023】(請求項2の実施例)請求項2では、請求
項1の手法を用いる際に、必要となるタイムアウト時間
の定量的な算出方法を示すものである。キャッシュデー
タのキャッシュ領域への配置アルゴリズムはFIFOで
あることから、データがキャッシュ領域に存在し続ける
時間に、最後にそのコンテンツへのアクセスが生じてか
らの時間で見積もることが可能となるので、この時間に
着目することで振り分けるサーバの選択が可能となる。
キャッシュ上に配置されたデータを読み込んでいる接続
がない状態で、サーバのトータルスループットをT(M
bps)、キャッシュ可能領域をMc(Mbyte)と
すると、キャッシュが入れ替わる時間Tc(sec)
は、次式で表わされる。 Tc=8Mc/T(sec) ・・・・・・・・・・・・・・(1) 請求項2によれば、請求項1の発明を用いる際に必要と
なる動的に変化していくキャッシュ上のデータが上書き
される時間を推定することが可能になる。
【0024】図6は、請求項2に関する処理の動作フロ
ーチャートである。接続振り分け装置12の算出部12
3は、起動されると、サーバのスループットを計測し
(ステップ201)、請求項2の式(1)を参照してタ
イムアウト時間の設定を行う(ステップ202)。この
動作をある一定周期で繰り返し行う。
【0025】(請求項3の実施例)請求項3では、請求
項1の手法において、請求項1の手法が失敗に終った場
合には、従来のラウンドトリップタイムによる手法を追
加的に行うものである。すなわち、キャッシュを持って
いるサーバに振り分けることができない時、つまりタイ
ムアウト時間内のサーバが存在しない場合には、従来の
振り分け手法の一つである、ping等のアクティブな
サーバレスポンスタイム測定法を用いて、最もレスポン
スタイムの短いサーバに振り分ける。
【0026】例えば、図3に示すように、3台のサーバ
13,14,15が接続振り分け装置12に接続されて
いる場合、接続振り分け装置12はクライアント11か
らの接続要求の発生を受けて、それぞれのサーバ13,
14,15に対してpingを用いてそれぞれのサーバ
13,14,15へのラウンドトリップタイムを測定す
る。すなわち、pingは、ホスト名かIPアドレスを
指定してパケットを打ち、それに対する応答時間を調べ
ることができる。これにより、ラウンドトリップ時間を
測定することができる。ラウンドトリップタイムとは、
あるコンピュータから別のコンピュータに対してパケッ
トを送信し、それに対する応答が返ってくるまでの時間
のことである。データ取得部121は、その測定結果を
取得し、測定の結果を取得してデータ記憶部122に転
送する。データ記憶部122は、送られてきた測定結果
を蓄積するとともに、コンテンツ毎に最後に接続を振り
分けたサーバおよびその時の時刻を記憶しておく。算出
部123は、データ記憶部122に蓄積されたデータか
ら、計算式で算出を行い、最もラウンドトリップタイム
の短かったサーバを最もレスポンスの良いサーバと判断
し、そのサーバに対して接続を振り分ける。
【0027】(請求項4の実施例)請求項4の手法で
は、キャッシュを持っているサーバに振り分けることが
できない場合、つまり、タイムアウト時間内のサーバが
存在しない場合には、従来の振り分け方法の一つであ
る、最も接続数の少ないサーバを選択する手法を用いて
接続を振り分ける。図7は、請求項4の実施例を示す処
理の説明図である。請求項1の方法と従来技術における
最も接続本数の少ないサーバに接続を振り分ける方法と
を組み合わせる手法であって、図7はこの請求項4の手
法における実際の処理の具体例を示している。
【0028】請求項1の方法を用いる際に必要となるタ
イムアウト時間は、30秒であるとデータから推定され
た。まず、クライアントから接続((1)コンテンツ1
への接続要求)が来ている。初期状態では、どのサーバ
にも接続がないので、サーバ1に接続を振り分ける。次
に、10秒後に接続((2)コンテンツ2への接続要
求)が来ているが、コンテンツ2の配信は初めてである
ので、優先的に振り分けるサーバが存在しないため、サ
ーバ2に振り分ける。その10秒後に接続((3)コン
テンツ1に接続要求)が来ている。コンテンツ1の配信
は接続((1)コンテンツ1への接続要求)で行ってお
り、先ほどの配信開始から20秒経過している。タイム
アウト時間が30秒であるので、まだサーバ1のキャッ
シュにこれから配信を行うデータが残っていると考えら
れるので、接続((3)コンテンツ1への接続要求)は
サーバ1に振り分ける。
【0029】その10秒後に接続((4)コンテンツ4
への接続要求)が来ているが、コンテンツ4の配信を行
うのは初めてであるので、最も接続数の少ないサーバ3
に接続を振り分ける。その10秒後に接続((5)コン
テンツ4への接続要求)が来ているが、コンテンツ4は
10秒前にサーバ3に振り分けたので、サーバ3に接続
((5)コンテンツ4への接続要求)を振り分ける。そ
の20秒後に接続((6)コンテンツ1への接続要求)
が来ているが、コンテンツ1が最後に配信されたのは5
0秒前であり、タイムアウト時間を過ぎてしまっている
ため、サーバ1のキャッシュにこれから配信するデータ
が配置されていないので、最も接続本数の少ないサーバ
2に接続を振り分ける。このようにして、各サーバ1,
2,3には、それぞれ2本ずつ接続されていることにな
る。
【0030】次に、サーバの現在の接続本数に関するデ
ータを、接続振り分け装置12のデータ取得部121が
取得する方法の一例を説明する。サーバの接続本数のデ
ータを取得する手法は複数存在するが、それらのうちで
主に用いられている手法は下記の方法である。 (a)SNMP(Simple Network Ma
nagement Protocol)を利用し、サー
バの各種情報を一元取得管理することができる。 (b)独自に管理システムを構築する手法:上記SNM
Pを用いての管理が不可である場合には(例えば、SN
MPでは効率の悪い場合)、各サーバにリソースを報告
するデーモンを配置し、接続本数を定期的に報告するプ
ログラムにより、必要とされるデータを取得する方法が
ある。これは、振り分け装置12から問い合わせがサー
バのサーバリソース監視プログラムに送られると、この
プログラムから振り分け装置12に対して、それに対す
る返答が返される。
【0031】(請求項5の実施例)請求項5では、請求
項1の手法において、キャッシュを持っているサーバに
振り分けることができない時、つまりタイムアウト時間
内のサーバが存在しない場合には、従来の振り分け手法
の一つである、サーバリソースを測定し、最もリソース
の余裕のあるサーバを選択する手法を用いて接続を振り
分ける。図3に示すように、接続振り分け装置12にお
いて、データ取得部121が振り分け先のサーバ13,
14,15のリソース(例えば、CPU利用率、ディス
クI/O量、現在のスループット等)を監視して、それ
らのどれか1つを判断の基準として、最もリソースに余
裕のあるサーバに接続を振り分ける。データ取得部12
1は、CPU利用率、ディスクI/O量、現在のスルー
プット等を監視して、情報を取得する。データ記憶部1
22は、データ取得部121が取得したデータを蓄積す
るとともに、コンテンツ毎に最後に接続を振り分けたサ
ーバおよびその時の時刻を蓄積する。算出部123は、
データ記憶部122に蓄積された接続記録から、振り分
けるべきサーバを算出し、接続を振り分ける。
【0032】データ取得部121が、CPU利用率、デ
ィスクI/O量、現在のスループット等に関するデータ
を取得する方法の一例を説明する。請求項4で説明した
と同じように、サーバのCPU利用率、ディスクI/O
量、スループット等のデータを取得する手法は複数存在
するが、それらのうちで主に用いられている手法は下記
の方法である。 (a)SNMP(Simple Network Ma
nagement Protocol)を利用し、サー
バの各種情報を一元取得管理することができる。(b)
独自に管理システムを構築する手法:上記SNMPを用
いての管理が不可である場合には(例えば、SNMPで
は効率の悪い場合)、各サーバにリソースを報告するデ
ーモンを配置し、CPU利用率やディスクI/O量やト
ータルスループットを定期的に報告するプログラムによ
り、必要とされるデータを取得する方法がある。これ
は、振り分け装置12から問い合わせがサーバのサーバ
リソース監視プログラムに送られると、このプログラム
から振り分け装置12に対して、それに対する返答が返
される。
【0033】(プログラムとその記録媒体)図5の接続
の振り分け装置の処理フローまたは図6の請求項2に関
する処理フローをそれぞれコンピュータで実行可能なプ
ログラムに変換し、変換されたプログラムをCD−RO
M等の記録媒体に格納しておく。これにより、DNSや
その他のコンピュータにこの記録媒体を装着し、プログ
ラムをコンピュータにインストールするか、ネットワー
クを介して他のコンピュータにダウンロードすること
で、プログラムを実行させれば、本発明を容易に実現す
ることができる。
【0034】
【発明の効果】以上説明したように、本発明によれば、
サーバ上のキャッシュをできるだけ活用することによ
り、ディスクアクセスを最小限に抑えることができ、そ
の結果、コンテンツ配信速度を高めることができる、と
いう効果を奏する。
【図面の簡単な説明】
【図1】本発明の一実施例を示すサーバへの接続の振り
分け装置のブロック図(請求項1)である。
【図2】本発明(請求項1)の手法と従来手法の性能差
を示す図である。
【図3】図1における接続振り分け装置のブロック構成
図である。
【図4】ディスクおよびメモリのデータ転送速度とアク
セス時間を示す図である。
【図5】図3における接続振り分け装置の処理フローチ
ャートである。
【図6】本発明の一実施例を示すタイムアウト時間の設
定方法を示す処理フローチャート(請求項2)である。
【図7】本発明を用いた実際の処理の例を示す説明図
(請求項4)である。
【図8】従来における複数サーバによる振り分け負荷分
散の図である。
【図9】従来手法におけるディスク上のデータおよびキ
ャッシュのイメージを示す図である。
【符号の説明】
11…クライアント、12A…スイッチ、13,14,
15…サーバ、12…接続振り分け装置、121…デー
タ取得部、122…データ記憶部、123…算出部。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 織 克典 東京都千代田区大手町二丁目3番1号 日 本電信電話株式会社内 Fターム(参考) 5B045 BB28 BB48 GG01 GG04 5B082 HA02 HA05 HA08 5B089 GA11 GA21 HA10 JB22 KA05 KA06

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 複数サーバに単一ないし複数の同一のコ
    ンテンツ群を配置し、接続をそれぞれのサーバに割り振
    っていくことにより、負荷分散を図るサーバへの接続の
    振り分け方法において、 コンテンツ毎に最後に当該コンテンツへのアクセスが生
    じてからのタイムアウト時間を設定しておき、 新規に接続要求が来た場合には、上記タイムアウト時間
    内であれば、当該コンテンツの配信で最後に接続を振っ
    たサーバに接続を振り分けるようにすることを特徴とす
    るサーバへの接続の振り分け方法。
  2. 【請求項2】 請求項1に記載サーバへの接続の振り分
    け方法において、 前記タイムアウト時間を定量的に算出する場合、キャッ
    シュ上に配置されたデータを読み込んでいる接続がない
    状態で、サーバのトータルスループットをT(Mbp
    s)、キャッシュ可能領域をMc(Mbyte)とする
    と、キャッシュが入れ替わる時間Tc(sec)は、T
    c=8Mc/T(sec)で算出できることから、最後
    に当該コンテンツへのアクセスが生じてからの上記時間
    Tcで見積ることができ、これに基づいて振り分けるサ
    ーバを選択することを特徴とするサーバへの接続の振り
    分け方法。
  3. 【請求項3】 請求項1に記載のサーバへの接続の振り
    分け方法において、 前記タイムアウト時間内に振り分けるべきサーバが存在
    しない時には、ping等のアクティブなサーバレスポ
    ンスタイム測定法を用いて、最もレスポンスタイムの短
    かいサーバに振り分けることを特徴とするサーバへの接
    続の振り分け方法。
  4. 【請求項4】 請求項1に記載のサーバへの接続の振り
    分け方法において、 前記タイムアウト時間内に振り分けるべきサーバが存在
    しない時には、最も接続数の少ないサーバに振り分ける
    ことを特徴とするサーバへの接続の振り分け方法。
  5. 【請求項5】 請求項1に記載のサーバへの接続の振り
    分け方法において、 前記タイムアウト時間内に振り分けるべきサーバが存在
    しない時には、サーバリソースを測定し、最もリソース
    に余裕のあるサーバを選択することにより、該サーバに
    接続を振り分けることを特徴とするサーバへの接続の振
    り分け方法。
  6. 【請求項6】 接続要求をサーバに振り分ける接続振り
    分け装置において、 振り分け先のサーバのラウンドトリップタイム、現在の
    接続本数、CPU利用率、ディスクI/O量、トータル
    スループットのいずれかを含む各種データを取得するデ
    ータ取得手段と、コンテンツ毎に最後に接続を振り分け
    たサーバおよび該サーバに振り分けた時刻を記憶するデ
    ータ記憶手段と、上記データ取得手段が取得したデータ
    および上記データ記憶手段に記憶された接続記録から、
    振り分けるべきサーバを算出する算出手段とを有するこ
    とを特徴とする接続振り分け装置。
  7. 【請求項7】 請求項1から請求項5までの中のいずれ
    かに記載のサーバへの接続の振り分け方法の手順をコン
    ピュータに実行させるための接続振り分け用プログラ
    ム。
  8. 【請求項8】 請求項7に記載の接続振り分け用プログ
    ラムを格納したことを特徴とするコンピュータで読み取
    り可能な記録媒体。
JP2001344439A 2001-11-09 2001-11-09 サーバへの接続の振り分け方法およびそのプログラムと記録媒体 Expired - Lifetime JP3800508B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001344439A JP3800508B2 (ja) 2001-11-09 2001-11-09 サーバへの接続の振り分け方法およびそのプログラムと記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001344439A JP3800508B2 (ja) 2001-11-09 2001-11-09 サーバへの接続の振り分け方法およびそのプログラムと記録媒体

Publications (2)

Publication Number Publication Date
JP2003150570A true JP2003150570A (ja) 2003-05-23
JP3800508B2 JP3800508B2 (ja) 2006-07-26

Family

ID=19157969

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001344439A Expired - Lifetime JP3800508B2 (ja) 2001-11-09 2001-11-09 サーバへの接続の振り分け方法およびそのプログラムと記録媒体

Country Status (1)

Country Link
JP (1) JP3800508B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007317183A (ja) * 2006-05-16 2007-12-06 Thomson Licensing ネットワークデータストレージシステム
JP2010165193A (ja) * 2009-01-16 2010-07-29 Fujitsu Ltd 負荷分散装置、負荷分散方法および負荷分散プログラム
JP2011109180A (ja) * 2009-11-12 2011-06-02 Oki Networks Co Ltd 通信制御装置、通信制御プログラム、データ配信サーバ、データ配信プログラム、及び、データ配信システム
JP2012070327A (ja) * 2010-09-27 2012-04-05 Oki Networks Co Ltd 配信システム、配信サーバ管理装置、配信サーバ管理プログラム、配信サーバ及び配信プログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007317183A (ja) * 2006-05-16 2007-12-06 Thomson Licensing ネットワークデータストレージシステム
JP2010165193A (ja) * 2009-01-16 2010-07-29 Fujitsu Ltd 負荷分散装置、負荷分散方法および負荷分散プログラム
US8539077B2 (en) 2009-01-16 2013-09-17 Fujitsu Limited Load distribution apparatus, load distribution method, and storage medium
JP2011109180A (ja) * 2009-11-12 2011-06-02 Oki Networks Co Ltd 通信制御装置、通信制御プログラム、データ配信サーバ、データ配信プログラム、及び、データ配信システム
JP2012070327A (ja) * 2010-09-27 2012-04-05 Oki Networks Co Ltd 配信システム、配信サーバ管理装置、配信サーバ管理プログラム、配信サーバ及び配信プログラム

Also Published As

Publication number Publication date
JP3800508B2 (ja) 2006-07-26

Similar Documents

Publication Publication Date Title
JP4529974B2 (ja) サーバ負荷分散システム、サーバ負荷分散装置、コンテンツ管理装置、及びサーバ負荷分散プログラム
CN106656800B (zh) 一种路径选取方法及系统、网络加速节点及网络加速系统
US8631129B2 (en) Service provider optimization of content management
CN111181849B (zh) 回源路径确定方法、确定装置、计算机设备和存储介质
JP3786328B2 (ja) サーバおよび通信制御方法
KR101072966B1 (ko) 파일 데이터 분배 방법, 디바이스, 및 시스템
CN1331333C (zh) 基于对等式分布计算技术的并行信息传送方法及其系统
JP2002091936A (ja) 負荷分散装置及び負荷見積もり方法
US20030172163A1 (en) Server load balancing system, server load balancing device, and content management device
WO2010020152A1 (zh) 实现网络服务器负载均衡的方法、系统和域名解析服务器
US20130007253A1 (en) Method, system and corresponding device for load balancing
CN103780714B (zh) 一种dns服务器的探测方法及装置
CN111464649B (zh) 一种访问请求回源方法和装置
CN101287011A (zh) 内容分发网络中响应用户服务请求的方法、系统和设备
CN112445774A (zh) 一种分布式共享文件系统及其数据处理方法
WO2022151643A1 (zh) 一种域名解析方法及系统
CN109639796A (zh) 一种负载均衡实现方法、装置、设备及可读存储介质
JP6272190B2 (ja) 計算機システム、計算機、負荷分散方法及びそのプログラム
CN115883657B (zh) 一种云盘服务加速调度系统
CN110213349A (zh) 一种http调度方法及装置
CN113676514A (zh) 一种文件回源方法及装置
JP2002259354A (ja) ネットワークシステム及び負荷分散方法
JP3800508B2 (ja) サーバへの接続の振り分け方法およびそのプログラムと記録媒体
JP3510623B2 (ja) ネットワークサーバ割当装置
JP2000112908A (ja) 負荷分散dnsシステム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051202

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060217

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060315

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060420

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3800508

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090512

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100512

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100512

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110512

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120512

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130512

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140512

Year of fee payment: 8

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term