[go: up one dir, main page]

JP2016031640A - Virtual machine management apparatus, virtual machine management system, virtual machine management method, and virtual machine management program - Google Patents

Virtual machine management apparatus, virtual machine management system, virtual machine management method, and virtual machine management program Download PDF

Info

Publication number
JP2016031640A
JP2016031640A JP2014153688A JP2014153688A JP2016031640A JP 2016031640 A JP2016031640 A JP 2016031640A JP 2014153688 A JP2014153688 A JP 2014153688A JP 2014153688 A JP2014153688 A JP 2014153688A JP 2016031640 A JP2016031640 A JP 2016031640A
Authority
JP
Japan
Prior art keywords
virtual machine
physical machine
information
resource
machine
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014153688A
Other languages
Japanese (ja)
Other versions
JP6384180B2 (en
Inventor
敦子 森
Atsuko Mori
敦子 森
祥順 中島
Yoshiyuki Nakashima
祥順 中島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2014153688A priority Critical patent/JP6384180B2/en
Publication of JP2016031640A publication Critical patent/JP2016031640A/en
Application granted granted Critical
Publication of JP6384180B2 publication Critical patent/JP6384180B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Stored Programmes (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a management device, a management system, a management method and a management program, capable of surely moving a virtual machine.SOLUTION: In a management device 12, a relay point calculation function unit 14 calculates a relay point (100), and a virtualization resource control function unit 17 acquires resource information of a virtual machine of a movement object from a data center DC1 of a movement source (202). The management device requires securement of a resource with the acquired resource information of the virtual machine of the movement object, at the virtualization resource control function part (104). In a data center DC2 of the relay point and a data center DC3 of a movement destination, according to the requirement from the management device, the resource of the virtual machine of the movement target is secured in a usable manner. Consequently, before movement of the virtual machine, a resource that the virtual machine uses can be secured.SELECTED DRAWING: Figure 14

Description

開示の技術は、仮想マシン管理装置、仮想マシン管理システム、仮想マシン管理方法、及び仮想マシン管理プログラムに関する。   The disclosed technology relates to a virtual machine management apparatus, a virtual machine management system, a virtual machine management method, and a virtual machine management program.

物理的なコンピュータ(以下、物理マシンという)の利用効率の向上などを目的として、1台の物理マシン上に、複数の仮想的なコンピュータ(以下、仮想マシンという)を構築する仮想化技術が実現されている。近年、仮想化技術による仮想マシンを含む物理マシンを使用して業務処理を行うことが一般的になってきている。   Realization of virtualization technology to build multiple virtual computers (hereinafter referred to as virtual machines) on a single physical machine for the purpose of improving the utilization efficiency of physical computers (hereinafter referred to as physical machines) Has been. In recent years, it has become common to perform business processing using physical machines including virtual machines based on virtualization technology.

物理マシン上に構築された仮想マシンは、別の物理マシンへ移動が可能である。例えば、特定の物理マシン上に構築された仮想マシンで稼働中の業務処理を停止することなく、仮想マシンを別の物理マシンに移動するライブマイグレーション(live migration)と呼ばれる技術が知られている。ライブマイグレーション技術を適用すると、業務処理を実行中の或る物理マシン上で稼働している仮想マシンが別の物理マシン上に移し替えられる。   A virtual machine built on a physical machine can be moved to another physical machine. For example, a technique called live migration that moves a virtual machine to another physical machine without stopping a business process that is running on the virtual machine constructed on a specific physical machine is known. When the live migration technology is applied, a virtual machine running on a certain physical machine that is executing a business process is transferred to another physical machine.

移動元の物理マシン上の仮想マシンを移動先である別の物理マシンへ移動する場合、不具合なく確実な仮想マシンの移動が要求される。例えば、ライブマイグレーション技術では、仮想マシンを移動する処理の実行時に、物理マシンの資源を消費することが知られている。物理マシンの資源が飽和状態のときに仮想マシンの移動を開始すると、ライブマイグレーションによる負荷に応じて物理マシンで提供するサービスの低下が生じる場合がある。物理マシンで提供するサービスの低下を抑制するために、仮想マシンの移動時に、移動元の物理マシンに仮想マシンの移動に用いる資源を確保する技術が知られている。   When moving a virtual machine on a source physical machine to another physical machine that is a destination, it is required to move the virtual machine reliably without any problems. For example, in the live migration technology, it is known that physical machine resources are consumed when executing a process of moving a virtual machine. If the movement of the virtual machine is started when the resources of the physical machine are saturated, the service provided by the physical machine may be reduced depending on the load due to live migration. In order to suppress a decrease in service provided by a physical machine, a technique is known in which resources used for moving a virtual machine are secured in a source physical machine when the virtual machine is moved.

また、仮想マシンの移動を確実にするために、仮想マシンが移動可能な移動先の物理マシンを設定しておき、仮想マシンの稼働状況を監視して仮想マシンを移動するときに移動先の物理マシンおよび移動経路を選定する技術が知られている。   To ensure the movement of the virtual machine, set the destination physical machine to which the virtual machine can be moved, monitor the operating status of the virtual machine, and move the virtual machine. A technique for selecting a machine and a moving route is known.

特開2011−090537号公報JP 2011-090537 A 特開2011−232916号公報JP 2011-232916 A

ところで、仮想マシンを移動する場合、移動元の物理マシンと移動先の物理マシンとの間を移動元の物理マシンおよび移動先の物理マシン以外の物理マシンで中継する場合がある。例えば、移動元の物理マシンから移動先の物理マシンへ、仮想マシンを長距離移動する場合、物理マシンの応答時間に基づき、中継する物理マシンを選定して移動経路を設定して、設定された移動経路に応じて仮想マシンを移動する。仮想マシンで稼働中の業務処理を停止することなく、移動元から移動先まで中継地を経由して仮想マシンを移動する場合、移動した先の各物理マシンにおいて仮想マシンが動作可能であることが望ましい。   By the way, when moving a virtual machine, there is a case where a physical machine other than the source physical machine and the destination physical machine relays between the source physical machine and the destination physical machine. For example, when a virtual machine is moved over a long distance from the source physical machine to the destination physical machine, the physical path to be relayed is selected based on the response time of the physical machine, and the transfer route is set. The virtual machine is moved according to the movement route. When a virtual machine is moved from a source to a destination via a relay point without stopping the business process that is running on the virtual machine, the virtual machine may be operable on each destination physical machine desirable.

しかしながら、移動した先の物理マシンにおいて仮想マシンを動作するための資源が不足して仮想マシンの動作に不具合が生じることにより、仮想マシンの移動に不具合が生じる場合がある。つまり、移動元の物理マシンから中継地の物理マシンを経由して移動先の物理マシンまで仮想マシンを移動できない場合がある。   However, there may be a problem in the movement of the virtual machine due to a shortage of resources for operating the virtual machine in the destination physical machine and a problem in the operation of the virtual machine. In other words, the virtual machine may not move from the source physical machine to the destination physical machine via the relay destination physical machine.

1つの側面では、移動元の物理マシンから移動先の物理マシンまで仮想マシンを確実に移動することを目的とする。   In one aspect, an object is to reliably move a virtual machine from a source physical machine to a destination physical machine.

開示の技術では、移動元の第1の物理マシン上で稼働する移動対象の仮想マシンが、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへ、移動される。取得部は、第1の物理マシンにおける移動対象の仮想マシンの資源割当量の情報を含む資源割当情報を取得する。また、取得部は、第1の物理マシン、第2の物理マシンおよび第3の物理マシンの各々の位置情報と、移動対象の仮想マシンが移動される物理マシンの移動順序情報とを取得する。要求部は、取得部で取得した位置情報に基づいて、第2の物理マシンおよび第3の物理マシンの各々に、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信する。指示部は、第2の物理マシン及び第3の物理マシンの各々から、要求部で送信した要求情報の応答を受け取り、取得部で取得した位置情報、移動順序情報および受け取った応答に基づいて、移動対象の仮想マシンを、移動順序情報に従って移動する指示を行う。   In the disclosed technology, a virtual machine to be moved that operates on the first physical machine that is the movement source is relayed by the second physical machine that is the relay destination, and is moved to the third physical machine that is the movement destination. . The acquisition unit acquires resource allocation information including information on the resource allocation amount of the virtual machine to be moved in the first physical machine. Further, the acquisition unit acquires position information of each of the first physical machine, the second physical machine, and the third physical machine, and movement order information of the physical machine to which the virtual machine to be moved is moved. The request unit secures the resource allocation amount indicated by the resource allocation information of the virtual machine to be migrated to each of the second physical machine and the third physical machine based on the position information acquired by the acquisition unit. The request information shown is transmitted. The instruction unit receives the response of the request information transmitted by the request unit from each of the second physical machine and the third physical machine, and based on the position information acquired by the acquisition unit, the movement order information, and the received response, An instruction is given to move the virtual machine to be moved according to the movement order information.

1つの実施態様では、移動元の物理マシンから移動先の物理マシンまで仮想マシンを確実に移動できる。   In one embodiment, the virtual machine can be reliably moved from the source physical machine to the destination physical machine.

第1実施形態に係る仮想マシン管理システムを示すブロック図である。1 is a block diagram illustrating a virtual machine management system according to a first embodiment. FIG. 仮想化基盤テーブルの一例を示すイメージ図である。It is an image figure which shows an example of a virtualization infrastructure table. 仮想マシンテーブルの一例を示すイメージ図である。It is an image figure which shows an example of a virtual machine table. 仮想化基盤稼働率情報テーブルの一例を示すイメージ図である。It is an image figure which shows an example of a virtual infrastructure utilization rate information table. 仮想化リソース空塞管理テーブルの一例を示すイメージ図である。It is an image figure which shows an example of a virtual resource empty block management table. 仮想化リソースタイマー管理テーブルに係るVM時限タイマーテーブルの一例を示すイメージ図である。It is an image figure which shows an example of the VM time limit timer table which concerns on the virtual resource timer management table. 仮想化リソースタイマー管理テーブルに係るタイムリミット値テーブルの一例を示すイメージ図である。It is an image figure which shows an example of the time limit value table which concerns on the virtualization resource timer management table. 中継地リストの一例を示すイメージ図である。It is an image figure which shows an example of a relay point list. CPUの使用率を模式化して説明するための説明図である。FIG. 6 is an explanatory diagram for schematically explaining a usage rate of a CPU. メモリの使用率を模式化して説明するための説明図である。It is explanatory drawing for demonstrating and explaining the usage rate of a memory. 仮想マシン管理システムを実現可能なコンピュータシステムのブロック図である。It is a block diagram of the computer system which can implement | achieve a virtual machine management system. 管理装置における処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of a process in a management apparatus. データセンターで実行される仮想化基盤プログラムの処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of a process of the virtualization infrastructure program performed in a data center. 仮想マシンのリソース参照およびリソース確保についての情報授受の一例を示すシーケンス図である。FIG. 11 is a sequence diagram illustrating an example of information exchange regarding resource reference and resource reservation of a virtual machine. 管理装置で実行される情報取得処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the information acquisition process performed with a management apparatus. データセンターで実行されるリソース参照処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the resource reference process performed in a data center. 管理装置で実行されるリソース確保を要求する処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the process which requests | requires resource reservation performed with a management apparatus. データセンターで実行されるリソース確保処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the resource securing process performed in a data center. ライブマイグレーションにおける情報授受の一例を示すシーケンス図である。It is a sequence diagram showing an example of information exchange in live migration. 管理装置で実行される移動処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the movement process performed with a management apparatus. データセンターで実行される移動処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the movement process performed in a data center. 仮想マシンのリソース解放についての情報授受の一例を示すシーケンス図である。It is a sequence diagram which shows an example of information transfer about the resource release of a virtual machine. 管理装置で実行されるリソース解放の要求処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of a request process of the resource release performed with a management apparatus. データセンターで実行されるリソース解放処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the resource release process performed in a data center. 実施形態に係る仮想マシン管理システムにおける情報授受の一例を示すシーケンス図である。It is a sequence diagram showing an example of information exchange in the virtual machine management system according to the embodiment. 第2実施形態に係る情報取得処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the information acquisition process which concerns on 2nd Embodiment. 第2実施形態に係るリソース参照処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the resource reference process which concerns on 2nd Embodiment. 第2実施形態に係るリソース確保要求処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the resource securing request process which concerns on 2nd Embodiment. 第2実施形態に係るリソース確保処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the resource securing process which concerns on 2nd Embodiment. 第2実施形態に係るライブマイグレーションにおける情報授受の一例を示すシーケンス図である。It is a sequence diagram which shows an example of information transfer in the live migration which concerns on 2nd Embodiment. 第2実施形態に係る管理装置で実行される移動処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the movement process performed with the management apparatus which concerns on 2nd Embodiment. 第3実施形態に係る仮想マシン管理システムにおける情報授受の一例を示すシーケンス図である。It is a sequence diagram which shows an example of information transfer in the virtual machine management system which concerns on 3rd Embodiment. 第3実施形態に係る仮想化基盤稼働率情報テーブルの一例を示すイメージ図である。It is an image figure which shows an example of the virtual infrastructure utilization rate information table which concerns on 3rd Embodiment. 第3実施形態に係る仮想化リソース空塞管理テーブルの一例を示すイメージ図である。It is an image figure which shows an example of the virtual resource empty block management table which concerns on 3rd Embodiment.

以下、図面を参照して開示の技術の実施形態の一例を詳細に説明する。   Hereinafter, an example of an embodiment of the disclosed technology will be described in detail with reference to the drawings.

<第1実施形態>
図1に、本実施形態に係る仮想マシン管理システム10の構成の一例を示す。仮想マシン管理システム10では、管理用ネットワーク等によるネットワーク20に、管理装置12と、仮想マシンを含む複数拠点のデータセンターと、が各々接続されている。図1には、仮想マシン管理システム10に、3拠点のデータセンター22(図1ではDC1,DC2,DC3と内部表記)が含まれる一例を示す。なお、図1では、仮想マシン管理システム10に、3拠点のデータセンター22が含まれる一例を示したが、3拠点に限定されるものではなく、4拠点以上でもよい。
<First Embodiment>
FIG. 1 shows an example of the configuration of a virtual machine management system 10 according to the present embodiment. In the virtual machine management system 10, a management apparatus 12 and a plurality of data centers including virtual machines are connected to a network 20 such as a management network. FIG. 1 shows an example in which the virtual machine management system 10 includes three data centers 22 (in FIG. 1, DC1, DC2, and DC3 are indicated internally). In FIG. 1, an example in which the virtual machine management system 10 includes three data centers 22 is shown, but the number is not limited to three, and may be four or more.

管理装置12は、ライブマイグレーションの実行に関係して、データセンター22における仮想マシンが用いる資源(以下、リソースという。)を管理するためのものであり、例えばコンピュータで実現可能である(詳細は後述)。管理装置12は、情報収集管理機能部13、中継地算出機能部14、マイグレーション管理機能部15、仮想化リソース制御機能部17、及び記憶部16を含む。なお、管理装置12は、仮想化リソース管理機能部18を含むことができる。また、記憶部16は、物理マシンおよび仮想マシンの状態等を各種の管理情報として保持する。   The management device 12 is for managing resources (hereinafter referred to as resources) used by virtual machines in the data center 22 in relation to execution of live migration, and can be realized by, for example, a computer (details will be described later). ). The management device 12 includes an information collection management function unit 13, a relay point calculation function unit 14, a migration management function unit 15, a virtualized resource control function unit 17, and a storage unit 16. The management device 12 can include a virtual resource management function unit 18. In addition, the storage unit 16 holds physical machine and virtual machine states as various types of management information.

情報収集管理機能部13は、ネットワーク20に接続される各種ノードのIPアドレス(Internet Protocol Address)、およびノード間の遅延時間等の各種情報を収集したり管理したりする機能部である。各種ノードは、管理装置12と相違する他の管理装置、データセンターに備えられる物理マシン、および物理マシン上で動作する仮想マシン、そして物理マシンおよび仮想マシンに接続されるネットワーク機器を含む。例えば、情報収集管理機能部13は、仮想マシン管理システム10上の仮想化基盤に関する情報、および仮想マシンに関する情報等を収集し、記憶部16に記憶して管理する。なお、仮想マシンに関する情報は、仮想マシンを示す情報、および仮想マシンで用いるリソースを示すリソース情報を含む。例えば、リソース情報は、仮想マシンで用いるリソースについて、リソースの名称と、使用量(割り当て量)とを含む。   The information collection management function unit 13 is a function unit that collects and manages various information such as IP addresses (Internet Protocol Address) of various nodes connected to the network 20 and delay times between the nodes. The various nodes include other management devices different from the management device 12, physical machines provided in the data center, virtual machines operating on the physical machines, and network devices connected to the physical machines and virtual machines. For example, the information collection management function unit 13 collects information on the virtualization infrastructure on the virtual machine management system 10, information on the virtual machine, and the like, and stores and manages the information in the storage unit 16. Note that the information regarding the virtual machine includes information indicating the virtual machine and resource information indicating the resource used in the virtual machine. For example, the resource information includes the name of the resource and the usage amount (allocation amount) for the resource used in the virtual machine.

中継地算出機能部14は、管理者等の指示により、ライブマイグレーションを実行する場合に、移動元のデータセンターから移動先のデータセンターまでの中継地を算出する機能部である。中継地算出機能部14は、ライブマイグレーションにより移動対象の仮想マシンを移動する、移動元のデータセンター22および移動先のデータセンター22を示す情報の入力によって、移動元から移動先へ中継する中継地および経路(順序)を算出する。   The relay point calculation function unit 14 is a functional unit that calculates a relay point from the source data center to the destination data center when performing live migration in accordance with an instruction from an administrator or the like. The relay point calculation function unit 14 moves the virtual machine to be moved by live migration, and relays from the source to the destination by inputting information indicating the source data center 22 and the destination data center 22. And the route (order) is calculated.

なお、中継地算出機能部14は、算出した移動元から移動先へ中継する中継地および経路(順序)を示す情報を保持してもよく、記憶部16に記憶してもよい。中継地および経路(順序)を示す情報を記憶部16に記憶する場合、中継地算出機能部14が情報収集管理機能部13へ情報を送り、情報収集管理機能部13が記憶部16に記憶してもよい。   The relay point calculation function unit 14 may hold information indicating the calculated relay point and route (order) to be relayed from the movement source to the movement destination, or may be stored in the storage unit 16. When information indicating the relay point and the route (order) is stored in the storage unit 16, the relay point calculation function unit 14 sends information to the information collection management function unit 13, and the information collection management function unit 13 stores the information in the storage unit 16. May be.

マイグレーション管理機能部15は、ライブマイグレーションに関係する情報および処理を管理する機能部であり、ネットワーク20に接続される他の管理装置、およびデータセンターに対して情報を授受するインタフェース機能を含む。例えば、マイグレーション管理機能部15は、移動元から移動先へ中継地算出機能部14で算出された中継地および経路(順序)に応じてデータセンター22へ仮想マシン28の移動を指示する。   The migration management function unit 15 is a function unit that manages information and processing related to live migration, and includes an interface function that exchanges information with other management devices connected to the network 20 and a data center. For example, the migration management function unit 15 instructs the data center 22 to move the virtual machine 28 according to the relay point and route (order) calculated by the relay point calculation function unit 14 from the movement source to the movement destination.

仮想化リソース制御機能部17は、データセンター22において仮想マシンを管理する仮想化リソース管理機能部34に対して、仮想マシン28が用いるリソースの確保、および解放の各々の制御を指示する機能部である。つまり、仮想化リソース制御機能部17は、移動元から中継地を介して移動先へ仮想マシン28が確実に移動されるように、データセンター22へ仮想マシン28が用いるリソースを確保する指示をしたり、使用が終了したリソースを解放する指示をしたりする。   The virtualization resource control function unit 17 is a function unit that instructs the virtualization resource management function unit 34 that manages virtual machines in the data center 22 to control the securing and releasing of resources used by the virtual machine 28. is there. In other words, the virtualization resource control function unit 17 instructs the data center 22 to secure resources used by the virtual machine 28 so that the virtual machine 28 is reliably moved from the movement source to the movement destination via the relay point. Or give instructions to release resources that have been used.

なお、管理装置12は、仮想化リソース管理機能部18を備えて、データセンター22における仮想マシンの管理を行ってもよい。   Note that the management apparatus 12 may include the virtual resource management function unit 18 and manage virtual machines in the data center 22.

ネットワーク20に接続されるデータセンター22は、仮想化技術を用いて1台または複数台の各物理マシン上に、1台または複数台の仮想マシンを構築することができる。データセンター22では、構築される1台または複数台の仮想マシンの各々を管理する。本実施形態では、説明を簡単にするため、データセンター22を1台の物理マシンとして説明する。   The data center 22 connected to the network 20 can construct one or a plurality of virtual machines on one or a plurality of physical machines using a virtualization technique. In the data center 22, each of one or a plurality of virtual machines to be constructed is managed. In this embodiment, the data center 22 is described as one physical machine for the sake of simplicity.

なお、以下の説明で、3拠点のデータセンター22またはデータセンター22に含まれる要素について個別に対象とする場合は、記号(図1に示すDC1,DC2,DC3)を付与して区別して扱う。また、仮想マシンを移動する場合のデータセンター22として、移動元のデータセンター22DC1、中継地のデータセンター22DC2、および移動先のデータセンター22DC3を一例として説明する。   In the following description, when the data center 22 at three sites or the elements included in the data center 22 are individually targeted, symbols (DC1, DC2, DC3 shown in FIG. 1) are assigned and distinguished. In addition, as a data center 22 when moving a virtual machine, a data center 22DC1 of a movement source, a data center 22DC2 of a relay site, and a data center 22DC3 of a movement destination will be described as an example.

データセンター22は、ゲートウェイ(GW)24、仮想化基盤26、および仮想マシン28を含む。GW24は、情報を目的地へ仲介するためのものであり、ネットワーク20に接続されるGW・ルータ機能部30を含む。GW・ルータ機能部30は、所謂ルータと呼ばれる接続機器の機能を有した機能部である。なお、GW・ルータ機能部30は、管理装置12からの指示により他のデータセンター22との間の遅延時間を計測する等の各種機能を含む。   The data center 22 includes a gateway (GW) 24, a virtualization infrastructure 26, and a virtual machine 28. The GW 24 mediates information to a destination, and includes a GW / router function unit 30 connected to the network 20. The GW / router function unit 30 is a function unit having a function of a connected device called a router. The GW / router function unit 30 includes various functions such as measuring a delay time with another data center 22 according to an instruction from the management device 12.

仮想化基盤26は、仮想マシンを管理し、ライブマイグレーションを実現するための機能部である。仮想化基盤26は、仮想化基盤主要機能部32、仮想化リソース管理機能部34、および仮想化リソース制御機能部36を含んでいる。   The virtualization infrastructure 26 is a functional unit for managing virtual machines and realizing live migration. The virtualization infrastructure 26 includes a virtualization infrastructure main function unit 32, a virtualization resource management function unit 34, and a virtualization resource control function unit 36.

仮想化基盤主要機能部32は、仮想化技術を用いて物理マシン上に仮想マシンを構築して稼働するための、主要機能を含む。例えば、仮想化基盤主要機能部32は、ライブマイグレーション等のイベントに応じて管理装置12に、ライブマイグレーションの実行中の各種情報を通知するイベント通知機能を含む。   The virtualization infrastructure main function unit 32 includes main functions for constructing and operating a virtual machine on a physical machine using a virtualization technique. For example, the virtualization infrastructure main function unit 32 includes an event notification function for notifying the management apparatus 12 of various information during execution of live migration in response to an event such as live migration.

仮想化リソース管理機能部34は、管理装置12からの指示に応じて、データセンター22で管理する仮想マシン28が用いるリソースの確保、および解放の各々の処理を管理する機能を含む。   The virtual resource management function unit 34 includes a function for managing each process of securing and releasing resources used by the virtual machine 28 managed in the data center 22 in accordance with an instruction from the management device 12.

仮想化リソース制御機能部36は、仮想マシン28が用いるリソースの確保、解放、およびライブマイグレーション実行等のイベントに応じて、仮想マシンが用いるリソースの確保、および解放等の各々の処理を実行する機能を含む。   The virtual resource control function unit 36 performs functions such as securing and releasing resources used by a virtual machine in response to events such as securing and releasing resources used by the virtual machine 28 and executing live migration. including.

仮想マシン28は、仮想化基盤26上で動作するOS(Operating System)とアプリケーションプログラムを含む仮想マシン機能部38が動作されることによる仮想的なコンピュータである。また、仮想マシン28は、管理装置12の指示により別のデータセンター22の仮想化基盤26上へライブマイグレーションされる。   The virtual machine 28 is a virtual computer by operating a virtual machine function unit 38 including an OS (Operating System) operating on the virtualization platform 26 and an application program. In addition, the virtual machine 28 is live migrated onto the virtualization infrastructure 26 of another data center 22 according to an instruction from the management apparatus 12.

本実施形態では、仮想マシン管理システム10において、仮想マシン28を確実にライブマイグレーションする処理を実行するために、記憶部16に記憶される管理情報を用いる。管理情報の一例に、仮想化基盤テーブル63、仮想マシンテーブル64、仮想化基盤稼働率情報テーブル65、仮想化リソース空塞管理テーブル66、仮想化リソースタイマー管理テーブル67の各々に格納される情報がある。なお、本実施形態では、ライブマイグレーションする処理は、中継地リスト68(図8)の情報を参照して実行される。   In the present embodiment, the management information stored in the storage unit 16 is used in the virtual machine management system 10 in order to execute a process for reliably performing live migration of the virtual machine 28. As an example of management information, information stored in each of the virtualization infrastructure table 63, the virtual machine table 64, the virtualization infrastructure operating rate information table 65, the virtualization resource empty / busy management table 66, and the virtualization resource timer management table 67 is shown. is there. In the present embodiment, the live migration process is executed with reference to the information in the relay point list 68 (FIG. 8).

図2に、仮想化基盤テーブル63の一例を示す。仮想化基盤テーブル63には、ネットワーク20に接続される全てのデータセンター22の各々に含まれる仮想化基盤26を示す情報および最終更新日時を示す情報が管理情報として登録される。図2の例では、仮想化基盤テーブル63は、「HV ID」、「HV Name」、「HV IP」、「Site ID」、「Latency」、及び「Latest」の各々を示す情報を含む。   FIG. 2 shows an example of the virtualization infrastructure table 63. In the virtualization infrastructure table 63, information indicating the virtualization infrastructure 26 included in each of all the data centers 22 connected to the network 20 and information indicating the last update date / time are registered as management information. In the example of FIG. 2, the virtualization infrastructure table 63 includes information indicating each of “HV ID”, “HV Name”, “HV IP”, “Site ID”, “Latency”, and “Latest”.

図2の例に示す仮想化基盤テーブル63の「HV ID」は、仮想化基盤26に固有の識別情報である。「HV Name」は、仮想化基盤26の名称を示す情報である。「HV IP」は、物理マシンの位置情報としての、仮想化基盤26に割り当てられるIPアドレス等の位置を示す情報である。「Site ID」は、仮想化基盤26を含む物理マシンであるデータセンター22の識別情報である。「Latency」は、仮想化基盤26に対してアクセスするのに要する時間を示す情報である。「Latest」は、「HV ID」、「HV Name」、「Site ID」、及び「Latency」を示す情報を取得し登録または更新した最新日時を示す情報である。   “HV ID” in the virtualization infrastructure table 63 illustrated in the example of FIG. 2 is identification information unique to the virtualization infrastructure 26. “HV Name” is information indicating the name of the virtualization infrastructure 26. “HV IP” is information indicating the position of an IP address or the like assigned to the virtualization platform 26 as physical machine position information. “Site ID” is identification information of the data center 22 which is a physical machine including the virtualization infrastructure 26. “Latency” is information indicating the time required to access the virtualization platform 26. “Latest” is information indicating the latest date and time when information indicating “HV ID”, “HV Name”, “Site ID”, and “Latency” is acquired and registered or updated.

図3に、仮想マシンテーブル64の一例を示す。仮想マシンテーブル64には、ネットワーク20に接続される全てのデータセンター22の各々に含まれる仮想マシン28を示す情報および仮想マシン28のリソース情報が管理情報として登録される。図3の例では、仮想マシンテーブル64は、「VM ID」、「VM Name」、「CPU」、「Memory」、「HDD」、「NIC」、「NW-Name」、及び「HV ID」の各々を示す情報を含む。   FIG. 3 shows an example of the virtual machine table 64. In the virtual machine table 64, information indicating the virtual machines 28 included in each of all the data centers 22 connected to the network 20 and resource information of the virtual machines 28 are registered as management information. In the example of FIG. 3, the virtual machine table 64 includes “VM ID”, “VM Name”, “CPU”, “Memory”, “HDD”, “NIC”, “NW-Name”, and “HV ID”. Contains information indicating each.

図3の例に示す仮想マシンテーブル64の「VM ID」は、仮想マシン28に固有の識別情報である。「VM Name」は、仮想マシン28の名称を示す情報である。「CPU」、「Mem」、及び「HDD」は、仮想マシン28の主なリソース情報の一例である。「CPU」は、CPUの使用率を示し、「Mem」は、メモリの使用量を示し、「HDD」は、ハードディスク装置等の2次記憶媒体の使用量を示す。「NIC」は、ネットワーク20への接続ポート数を示す情報である。「NW-Name」は、仮想マシン28が参加するネットワークを示す情報である。「HV ID」は、仮想マシン28を担当する仮想化基盤26に固有の識別情報である。   “VM ID” in the virtual machine table 64 illustrated in the example of FIG. 3 is identification information unique to the virtual machine 28. “VM Name” is information indicating the name of the virtual machine 28. “CPU”, “Mem”, and “HDD” are examples of main resource information of the virtual machine 28. “CPU” indicates the usage rate of the CPU, “Mem” indicates the usage amount of the memory, and “HDD” indicates the usage amount of the secondary storage medium such as a hard disk device. “NIC” is information indicating the number of ports connected to the network 20. “NW-Name” is information indicating a network in which the virtual machine 28 participates. “HV ID” is identification information unique to the virtualization infrastructure 26 in charge of the virtual machine 28.

図4に、仮想化基盤稼働率情報テーブル65の一例を示す。仮想化基盤稼働率情報テーブル65には、仮想マシンテーブル64(図3)に示す各々の情報に、「リソースID」を示す情報が対応付けられた情報が管理情報として登録される。図4の例に示す仮想化基盤稼働率情報テーブル65の「リソースID」は、仮想マシン28が使用するリソースを仮想マシン28毎に識別するための識別情報である。   FIG. 4 shows an example of the virtual infrastructure operating rate information table 65. Information in which information indicating “resource ID” is associated with each piece of information shown in the virtual machine table 64 (FIG. 3) is registered as management information in the virtualization platform operation rate information table 65. The “resource ID” in the virtualization platform operation rate information table 65 illustrated in the example of FIG. 4 is identification information for identifying the resource used by the virtual machine 28 for each virtual machine 28.

図5に、仮想化リソース空塞管理テーブル66の一例を示す。仮想化リソース空塞管理テーブル66には、仮想マシン28が使用するリソースの割当状態を示す情報を含む情報が管理情報として登録される。図5の例では、仮想化リソース空塞管理テーブル66は、「リソースID」、「空塞状態」、「HV ID」、および「Latest」の各々を示す情報を含む。   FIG. 5 shows an example of the virtual resource empty / busy management table 66. Information including information indicating the allocation status of resources used by the virtual machine 28 is registered in the virtualized resource empty / busy management table 66 as management information. In the example of FIG. 5, the virtualized resource empty / busy management table 66 includes information indicating “resource ID”, “empty / busy state”, “HV ID”, and “Latest”.

図5の例に示す仮想化リソース空塞管理テーブル66の「リソースID」は、仮想マシン28が使用するリソースを識別するための識別情報であり、「リソースID」を通じて仮想化基盤稼働率情報テーブル65を参照できる。「空塞状態」は、仮想マシン28が使用するリソースの割当状態を示す情報である。空塞状態として記憶される割当状態を示す情報の一例として、空き状態の場合に「idle」、使用状態の場合に「busy」、確保状態の場合に「temporary」、及びマイグレーション中状態の場合に「temporary on migration」の値が記憶される。「HV ID」は、仮想マシン28を担当する仮想化基盤26に固有の識別情報であり、「HV ID」を通じて仮想マシンテーブル64を参照できる。「Latest」は、「リソースID」、「空塞状態」、および「HV ID」を示す情報を取得して登録または更新した最新日時を示す情報である。   The “resource ID” of the virtual resource empty / busy management table 66 shown in the example of FIG. 5 is identification information for identifying the resource used by the virtual machine 28, and the virtualization infrastructure operating rate information table through the “resource ID”. 65 can be referred to. The “empty state” is information indicating an allocation state of resources used by the virtual machine 28. As an example of information indicating the allocation status stored as an empty status, “idle” in the idle status, “busy” in the used status, “temporary” in the secured status, and in the migration status The value of “temporary on migration” is stored. “HV ID” is identification information unique to the virtualization platform 26 in charge of the virtual machine 28, and the virtual machine table 64 can be referred to through “HV ID”. “Latest” is information indicating the latest date and time when information indicating “resource ID”, “empty state”, and “HV ID” is acquired and registered or updated.

図6及び図7に、仮想化リソースタイマー管理テーブル67の一例を示す。仮想化リソースタイマー管理テーブル67は、仮想マシン28が使用するリソースを、未使用時等に確保しておく時間を定めるタイムテーブルである。本実施形態では、仮想化リソースタイマー管理テーブル67として、VM時限タイマーテーブル67Aと、タイムリミット値テーブル67Bとを用いる。VM時限タイマーテーブル67Aには、「リソースID」を示す情報に、「タイムリミット値」を示す情報が対応付けられる。タイムリミット値テーブル67Bには、「リソースクラス」を示す情報に、「タイムリミット値」を示す情報が対応付けられる。「リソースクラス」は、仮想マシン28が使用するリソースの種類及び大きさなどに応じて予めクラス分けされるリソースのクラスを示す情報である。   6 and 7 show an example of the virtual resource timer management table 67. FIG. The virtual resource timer management table 67 is a time table for determining a time for securing resources used by the virtual machine 28 when not in use. In the present embodiment, a VM timed timer table 67A and a time limit value table 67B are used as the virtualized resource timer management table 67. In the VM time limit timer table 67A, information indicating “resource ID” is associated with information indicating “time limit value”. In the time limit value table 67B, information indicating “resource class” is associated with information indicating “time limit value”. The “resource class” is information indicating a class of resources that are classified in advance according to the type and size of the resources used by the virtual machine 28.

本実施形態では、仮想マシン28が使用するリソース毎に、リソースを確保しておくタイムリミット時間を定める。例えば、リソースID「VRSid007」のリソースがリソースクラス「VRS_class0」に分類されている場合を説明する。リソースID「VRSid007」のリソースについて、図7に示すタイムリミット値テーブル67Bで、リソースクラス「VRS_class0」のタイムリミット値「T001」が特定される。特定されたタイムリミット値「T001」がリソースID「VRSid007」に対応付けてVM時限タイマーテーブル67Aに登録される。   In the present embodiment, for each resource used by the virtual machine 28, a time limit time for securing the resource is determined. For example, a case where the resource with the resource ID “VRSid007” is classified into the resource class “VRS_class0” will be described. For the resource with the resource ID “VRSid007”, the time limit value “T001” of the resource class “VRS_class0” is specified in the time limit value table 67B shown in FIG. The identified time limit value “T001” is registered in the VM time limit timer table 67A in association with the resource ID “VRSid007”.

図8に、中継地リスト68の一例を示す。中継地リスト68は、中継地算出機能部14で算出される移動元から移動先へ中継する中継地および経路(順序)を示す情報のリストである。図8に示す例では、移動元から移動先まで仮想マシン28が移動する経路で、4か所のデータセンター22に仮想マシン28が滞在する場合を示す。第1HV〜第4HVの各々は、データセンター22の仮想化基盤26を示す情報が格納される。また、図8に示す例では、「H0001」で示す移動元の仮想化基盤26から、「H0003」で示す移動先の仮想化基盤26までについての中継地及び経路について、3種類の中継地および経路が算出されたことを示す。なお、図8に示す例では、4か所のデータセンター22を仮想マシン28が位置する場合を示すが、4か所に限定されるものではなく、3か所でもよく、5か所以上でもよい。また、4か所で種類が相違する経路が算出される場合を示すが、仮想マシン28が位置する数を固定とするものではなく、経路毎に、3か所以上のデータセンター22を仮想マシン28が位置すればよい。また、複数種類の経路が算出された中継地リスト68は、データセンター22間の情報遅延時間などにより優先度を付与し、優先度が高いものからリスト化することができる。   FIG. 8 shows an example of the relay location list 68. The relay point list 68 is a list of information indicating relay points and routes (order) relayed from the movement source to the movement destination calculated by the relay point calculation function unit 14. The example illustrated in FIG. 8 illustrates a case where the virtual machine 28 stays at four data centers 22 on a route along which the virtual machine 28 moves from the movement source to the movement destination. Each of the first HV to the fourth HV stores information indicating the virtualization infrastructure 26 of the data center 22. Further, in the example shown in FIG. 8, three types of relay locations and routes are provided from the source virtualization platform 26 indicated by “H0001” to the destination virtualization platform 26 indicated by “H0003”. Indicates that the route has been calculated. The example shown in FIG. 8 shows the case where the virtual machine 28 is located in four data centers 22, but the number is not limited to four, and may be three or five or more. Good. In addition, although a case where different types of routes are calculated at four locations is shown, the number of virtual machines 28 is not fixed, and three or more data centers 22 are connected to virtual machines for each route. 28 should just be located. Further, the relay point list 68 from which a plurality of types of routes are calculated can be given priority according to the information delay time between the data centers 22 and the like, and can be listed from the one with the highest priority.

ここで、仮想マシン28が用いるリソースの確保について説明する。本実施形態では、ライブマイグレーションを実行するにあたり、仮想マシン28が用いるリソースを確保してからライブマイグレーションを実行する。   Here, securing of resources used by the virtual machine 28 will be described. In this embodiment, when performing live migration, the resource used by the virtual machine 28 is secured and then live migration is performed.

図9に、仮想マシン28が用いるリソースとして、CPUの使用率を模式化したCPUリソース33のイメージ図を示す。図9の例は、仮想化技術によるCPUの仮想性能が40GHzの場合に、2GHz単位のセルで使用率であるCPUリソース33を管理することを示すものである。例えば、移動元のデータセンター22Aにおいて、第1の仮想マシン28Aと、第2の仮想マシン28Bが稼働する場合を考える。第1の仮想マシン28Aが30%のCPU使用率で6GHz分を使用する場合、移動元のデータセンター22Aの仮想化リソース管理機能部34Aは、3つのセル33Aを使用することを管理する。また、第2の仮想マシン28Bが20%のCPU使用率で4GHz分を使用する場合、仮想化リソース管理機能部34Aは、2つのセル33Bを使用することを管理する。   FIG. 9 shows an image diagram of the CPU resource 33 in which the CPU usage rate is schematically illustrated as a resource used by the virtual machine 28. The example of FIG. 9 shows that when the virtual performance of the CPU by the virtualization technology is 40 GHz, the CPU resource 33 that is the usage rate is managed in a cell of 2 GHz unit. For example, consider a case where the first virtual machine 28A and the second virtual machine 28B are operating in the migration source data center 22A. When the first virtual machine 28A uses 6 GHz with a CPU usage rate of 30%, the virtualization resource management function unit 34A of the data center 22A of the migration source manages the use of the three cells 33A. When the second virtual machine 28B uses 4 GHz with a CPU usage rate of 20%, the virtual resource management function unit 34A manages the use of the two cells 33B.

図10に、仮想マシン28が用いるリソースとして、メモリの使用率を模式化したメモリリソース35のイメージ図を示す。図10の例は、仮想化技術によるメモリの仮想性能が80GBの場合に、4GB単位のセルで使用量であるメモリリソース35を管理することを示すものである。例えば、第1の仮想マシン28Aのメモリ使用量が8GB分である場合、移動元のデータセンター22Aの仮想化リソース管理機能部34Aは、2つのセル35Aを使用することを管理する。また、第2の仮想マシン28Bのメモリ使用量が12GB分である場合、仮想化リソース管理機能部34Aは、3つのセル35Bを使用することを管理する。   FIG. 10 shows an image diagram of the memory resource 35 in which the memory usage rate is schematically shown as a resource used by the virtual machine 28. The example of FIG. 10 shows that when the virtual performance of the memory by the virtualization technology is 80 GB, the memory resource 35 that is the usage amount is managed in a cell of 4 GB unit. For example, when the memory usage of the first virtual machine 28A is 8 GB, the virtualization resource management function unit 34A of the migration source data center 22A manages the use of the two cells 35A. When the memory usage of the second virtual machine 28B is 12 GB, the virtual resource management function unit 34A manages the use of the three cells 35B.

ライブマイグレーション実行時に、第1の仮想マシン28Aおよび第2の仮想マシン28Bの何れかが移動対象の仮想マシン28であるとき、移動対象の仮想マシン28のリソース情報が管理装置12の仮想化リソース制御機能部17により取得される。ここでは、CPUリソース33およびメモリリソース35が取得される。管理装置12の仮想化リソース制御機能部17は、中継先のデータセンター22Bおよび移動先のデータセンター22Cの各々の仮想化リソース管理機能部34B,34Cにリソース確保を指示する。中継先のデータセンター22B、および移動先のデータセンター22Cの各仮想化リソース管理機能部34B,34Cは、管理装置12の仮想化リソース制御機能部17からの指示に応じて、仮想化リソース制御機能部36B,36Cへリソース確保を指示する。仮想化リソース制御機能部36B,36Cは、各々リソース確保を実行する。   When any one of the first virtual machine 28A and the second virtual machine 28B is the migration target virtual machine 28 during the live migration, the resource information of the migration target virtual machine 28 is the virtualization resource control of the management apparatus 12. Acquired by the function unit 17. Here, the CPU resource 33 and the memory resource 35 are acquired. The virtualization resource control function unit 17 of the management apparatus 12 instructs the virtual resource management function units 34B and 34C of the relay destination data center 22B and the migration destination data center 22C to secure resources. Each of the virtualization resource management function units 34B and 34C of the relay destination data center 22B and the migration destination data center 22C responds to an instruction from the virtualization resource control function unit 17 of the management apparatus 12 with a virtualization resource control function. The unit 36B, 36C is instructed to secure resources. Each of the virtual resource control function units 36B and 36C executes resource reservation.

なお、仮想マシン管理システム10は開示の技術における仮想マシン管理システムの一例であり、管理装置12は開示の技術における仮想マシン管理装置の一例である。また、情報収集管理機能部13は、開示の技術における取得部の一例であり、仮想化リソース制御機能部17は、開示の技術における要求部および指示部の一例である。   The virtual machine management system 10 is an example of a virtual machine management system in the disclosed technique, and the management device 12 is an example of a virtual machine management apparatus in the disclosed technique. The information collection management function unit 13 is an example of an acquisition unit in the disclosed technology, and the virtual resource control function unit 17 is an example of a request unit and an instruction unit in the disclosed technology.

仮想マシン管理システム10は、図11に示すコンピュータシステム40で実現することができる。管理装置12は、例えば、図11に示すコンピュータ42で実現することができる。また、データセンター22は、図11に示す物理マシン70で実現することができる。   The virtual machine management system 10 can be realized by a computer system 40 shown in FIG. The management device 12 can be realized by, for example, the computer 42 shown in FIG. The data center 22 can be realized by the physical machine 70 shown in FIG.

管理装置12をコンピュータ42で実現する場合、コンピュータ42はCPU44、メモリ46、及び不揮発性の格納部54を備える。CPU44、メモリ46、及び格納部54は、バス53を介して互いに接続される。また、コンピュータ42は、表示装置であるディスプレイ48、入力装置であるキーボード49およびマウス50を備え、ディスプレイ48、キーボード49およびマウス50はバス53に接続される。さらに、コンピュータ42は、記録媒体69に対して読み書きするための装置(RW装置)51を備え、RW装置51はバス53に接続される。また、コンピュータ42は、ネットワーク20に接続するためのインタフェースを含む通信部(I/O)52を備える。なお、格納部54はHDD(Hard Disk Drive)やフラッシュメモリ等によって実現できる。   When the management device 12 is realized by the computer 42, the computer 42 includes a CPU 44, a memory 46, and a nonvolatile storage unit 54. The CPU 44, the memory 46, and the storage unit 54 are connected to each other via a bus 53. The computer 42 includes a display 48 that is a display device, and a keyboard 49 and a mouse 50 that are input devices. The display 48, the keyboard 49, and the mouse 50 are connected to a bus 53. Further, the computer 42 includes a device (RW device) 51 for reading and writing from / to the recording medium 69, and the RW device 51 is connected to the bus 53. The computer 42 also includes a communication unit (I / O) 52 including an interface for connecting to the network 20. The storage unit 54 can be realized by an HDD (Hard Disk Drive), a flash memory, or the like.

なお、ディスプレイ48、キーボード49、マウス50、及びRW装置51は、省略してもよく、必要に応じてバス53に接続するようにしてもよい。   The display 48, the keyboard 49, the mouse 50, and the RW device 51 may be omitted, and may be connected to the bus 53 as necessary.

格納部54には、コンピュータ42を管理装置12として機能させるためのプログラム、及び情報が記憶される。具体的には、格納部54には、管理プログラム55、テーブル62が記憶される。管理プログラム55は、情報収集プロセス56、中継地算出プロセス57、マイグレーション管理プロセス58、仮想化リソース制御プロセス59を含む。なお、管理プログラム55は、仮想化リソース管理プロセス60を含むことができる。また、テーブル62は、仮想化基盤テーブル63、仮想マシンテーブル64、仮想化基盤稼働率情報テーブル65、仮想化リソース空塞管理テーブル66、及び仮想化リソースタイマー管理テーブル67を含む。なお、格納部54には、テーブル62を構成する情報の各々が記憶され、テーブル62を構成する情報の各々がメモリ46に展開されることによりテーブルとなる。   The storage unit 54 stores a program and information for causing the computer 42 to function as the management device 12. Specifically, the storage unit 54 stores a management program 55 and a table 62. The management program 55 includes an information collection process 56, a relay point calculation process 57, a migration management process 58, and a virtualized resource control process 59. The management program 55 can include a virtual resource management process 60. The table 62 includes a virtualization infrastructure table 63, a virtual machine table 64, a virtualization infrastructure operating rate information table 65, a virtualization resource empty / busy management table 66, and a virtualization resource timer management table 67. The storage unit 54 stores each piece of information constituting the table 62, and each piece of information constituting the table 62 is developed in the memory 46 to become a table.

CPU44は、管理プログラム55を格納部54から読み出してメモリ46に展開し、管理プログラム55に含まれるプロセスを順次実行することで、コンピュータ42は図1に示す管理装置12として動作する。CPU44は、情報収集プロセス56を実行することで、図1に示す情報収集管理機能部13として動作し、中継地算出プロセス57を実行することで、図1に示す中継地算出機能部14として動作する。また、CPU44は、マイグレーション管理プロセス58を実行することで、図1に示すマイグレーション管理機能部15として動作する。さらに、CPU44は、仮想化リソース制御プロセス59を実行することで、図1に示す仮想化リソース制御機能部17として動作する。なお、管理プログラム55に仮想化リソース管理プロセス60が含まれる場合、CPU44が仮想化リソース管理プロセス60を実行することで、図1に示す仮想化リソース管理機能部18として動作する。   The CPU 44 reads out the management program 55 from the storage unit 54 and expands it in the memory 46, and sequentially executes the processes included in the management program 55, whereby the computer 42 operates as the management apparatus 12 shown in FIG. The CPU 44 operates as the information collection management function unit 13 shown in FIG. 1 by executing the information collection process 56, and operates as the relay point calculation function unit 14 shown in FIG. 1 by executing the relay point calculation process 57. To do. The CPU 44 operates as the migration management function unit 15 shown in FIG. 1 by executing the migration management process 58. Further, the CPU 44 operates as the virtual resource control function unit 17 illustrated in FIG. 1 by executing the virtual resource control process 59. When the management program 55 includes the virtual resource management process 60, the CPU 44 operates as the virtual resource management function unit 18 illustrated in FIG. 1 by executing the virtual resource management process 60.

管理装置12がコンピュータ42で実現される場合、テーブル62の各情報を格納した格納部54の記憶領域は、図1に示すテーブルを記憶する記憶部16として用いられる。つまり、格納部54に記憶されたテーブル62を構成する各情報の記憶領域は、図1に示すテーブルの各情報を記憶する記憶部16の記憶領域に対応され、管理装置12において記憶部16の記憶領域に記憶された各情報が展開されることによりテーブルとなる。   When the management device 12 is realized by the computer 42, the storage area of the storage unit 54 that stores each piece of information in the table 62 is used as the storage unit 16 that stores the table shown in FIG. That is, the storage area of each information constituting the table 62 stored in the storage unit 54 corresponds to the storage area of the storage unit 16 storing each information of the table shown in FIG. Each information stored in the storage area is expanded to form a table.

データセンター22を物理マシン70で実現する場合、物理マシン70はCPU72、メモリ74、及び不揮発性の格納部82を備える。CPU72、メモリ74、及び格納部82は、バス81を介して互いに接続される。また、物理マシン70は、表示装置であるディスプレイ76、入力装置であるキーボード77およびマウス78を備え、ディスプレイ76、キーボード77およびマウス78はバス81に接続される。さらに、物理マシン70は、記録媒体69に対して読み書きするための装置(RW装置)79を備え、RW装置79はバス81に接続される。また、物理マシン70は、ネットワーク20に接続するためのインタフェースを含む通信部(I/O)80を備える。なお、格納部82はHDDやフラッシュメモリ等によって実現できる。   When the data center 22 is realized by the physical machine 70, the physical machine 70 includes a CPU 72, a memory 74, and a nonvolatile storage unit 82. The CPU 72, the memory 74, and the storage unit 82 are connected to each other via a bus 81. The physical machine 70 includes a display 76 that is a display device, and a keyboard 77 and a mouse 78 that are input devices. The display 76, the keyboard 77, and the mouse 78 are connected to a bus 81. Further, the physical machine 70 includes a device (RW device) 79 for reading and writing from / to the recording medium 69, and the RW device 79 is connected to the bus 81. The physical machine 70 includes a communication unit (I / O) 80 including an interface for connecting to the network 20. The storage unit 82 can be realized by an HDD, a flash memory, or the like.

なお、ディスプレイ76、キーボード77、マウス78、及びRW装置79は、省略してもよく、必要に応じてバス81に接続するようにしてもよい。   The display 76, the keyboard 77, the mouse 78, and the RW device 79 may be omitted, and may be connected to the bus 81 as necessary.

格納部82には、物理マシン70をデータセンター22として機能させるためのプログラム、及び情報が記憶される。具体的には、格納部82には、GWプログラム83、仮想化基盤プログラム84、仮想マシンプログラム88が記憶される。仮想化基盤プログラム84は、仮想化基盤主要プロセス85、仮想化リソース管理プロセス86、および仮想化リソース制御プロセス87を含む。   The storage unit 82 stores a program and information for causing the physical machine 70 to function as the data center 22. Specifically, the storage unit 82 stores a GW program 83, a virtualization infrastructure program 84, and a virtual machine program 88. The virtualization infrastructure program 84 includes a virtualization infrastructure main process 85, a virtualization resource management process 86, and a virtualization resource control process 87.

物理マシン70のCPU72は、格納部82からプログラムを読み出してメモリ74に展開し、順次実行することで、物理マシン70は図1に示すデータセンター22として動作する。具体的には、CPU72は、GWプログラム83を格納部82から読み出してメモリ74に展開し、GWプログラム83を実行することで、物理マシン70は図1に示すデータセンター22のGW24として動作する。また、CPU72は、仮想化基盤プログラム84を格納部82から読み出してメモリ74に展開し、仮想化基盤プログラム84に含まれるプロセスを順次実行することで、物理マシン70は図1に示すデータセンター22の仮想化基盤26として動作する。さらに、CPU72は、仮想マシンプログラム88を実行することで、図1に示す仮想マシン28として動作する。   The CPU 72 of the physical machine 70 reads out the program from the storage unit 82, expands it in the memory 74, and executes it sequentially, whereby the physical machine 70 operates as the data center 22 shown in FIG. Specifically, the CPU 72 reads the GW program 83 from the storage unit 82, expands it in the memory 74, and executes the GW program 83, whereby the physical machine 70 operates as the GW 24 of the data center 22 shown in FIG. In addition, the CPU 72 reads the virtualization infrastructure program 84 from the storage unit 82, expands it in the memory 74, and sequentially executes the processes included in the virtualization infrastructure program 84, so that the physical machine 70 can execute the data center 22 shown in FIG. It operates as the virtualization platform 26 of the system. Furthermore, the CPU 72 operates as the virtual machine 28 illustrated in FIG. 1 by executing the virtual machine program 88.

なお、CPU72は、仮想化基盤プログラム84の仮想化基盤主要プロセス85を実行することで、図1に示す仮想化基盤主要機能部32として動作する。また、CPU72は、仮想化リソース管理プロセス86を実行することで、仮想化リソース管理機能部34として動作し、仮想化リソース制御プロセス87を実行することで、仮想化リソース制御機能部36として動作する。   The CPU 72 operates as the virtualization infrastructure main function unit 32 shown in FIG. 1 by executing the virtualization infrastructure main process 85 of the virtualization infrastructure program 84. Further, the CPU 72 operates as the virtual resource management function unit 34 by executing the virtual resource management process 86, and operates as the virtual resource control function unit 36 by executing the virtual resource control process 87. .

また、以下の説明で、データセンター22を物理マシン70で実現する場合、物理マシン70または物理マシン70に含まれる要素について個別に対象とする場合は、記号(図11に示すDC1,DC2,DC3)を付与して区別して扱う。具体的には、移動元のデータセンター22DC1を実現する物理マシン70は、物理マシン70DC1と表記して説明する。また、中継地のデータセンター22DC2を実現する物理マシン70は物理マシン70DC2と表記し説明する。さらに、移動先のデータセンター22DC3を実現する物理マシン70は物理マシン70DC3と表記して説明する。   Further, in the following description, when the data center 22 is realized by the physical machine 70, the symbols (DC1, DC2, DC3 shown in FIG. 11) are used when the physical machine 70 or elements included in the physical machine 70 are individually targeted. ) To distinguish. Specifically, the physical machine 70 that realizes the migration source data center 22DC1 will be described as a physical machine 70DC1. Further, the physical machine 70 that realizes the data center 22DC2 at the relay point will be described as a physical machine 70DC2. Further, the physical machine 70 that realizes the destination data center 22DC3 will be described as a physical machine 70DC3.

なお、管理プログラム55は、開示の技術における仮想マシン管理プログラムの一例である。また、管理プログラム55は、管理装置12を開示の技術における仮想マシン管理装置として機能させるためのプログラムでもある。また、格納部54の実現例であるHDDは、開示の技術の記録媒体の一例である。また、光ディスク等の記録媒体69も開示の技術の記録媒体の一例である。   The management program 55 is an example of a virtual machine management program in the disclosed technology. The management program 55 is also a program for causing the management apparatus 12 to function as a virtual machine management apparatus in the disclosed technology. An HDD that is an implementation example of the storage unit 54 is an example of a recording medium of the disclosed technology. A recording medium 69 such as an optical disk is also an example of a recording medium of the disclosed technology.

次に、本実施形態に係る仮想マシン管理システム10の動作について説明する。なお、第1実施形態では、1台の仮想マシン28を移動対象として、移動元のデータセンター22DC1から、中継地のデータセンター22DC2を中継して、移動先のデータセンター22DC3へ移動する場合を説明する。   Next, the operation of the virtual machine management system 10 according to this embodiment will be described. In the first embodiment, a case is described in which one virtual machine 28 is set as a movement target, and the data center 22DC2 at the relay point is relayed from the data center 22DC1 at the movement source to the data center 22DC3 at the movement destination. To do.

図12に、仮想マシン管理システム10をコンピュータシステム40で実現する場合に管理装置12として動作するコンピュータ42における処理の流れの一例を示す。   FIG. 12 shows an example of the flow of processing in the computer 42 that operates as the management apparatus 12 when the virtual machine management system 10 is realized by the computer system 40.

コンピュータシステム40では、コンピュータ42で管理プログラム55が実行されることで、コンピュータ42が管理装置12(図1)として動作する。また、物理マシン70において、GWプログラム83、仮想化基盤プログラム84、および仮想マシンプログラム88が実行されることで、物理マシン70はデータセンター22として動作される。   In the computer system 40, the management program 55 is executed by the computer 42, whereby the computer 42 operates as the management device 12 (FIG. 1). In addition, the physical machine 70 operates as the data center 22 by executing the GW program 83, the virtualization infrastructure program 84, and the virtual machine program 88 in the physical machine 70.

なお、管理装置12として動作するコンピュータ42のCPU44は、情報収集プロセス56を実行し、各種情報を取得し、収集した各種情報をテーブル62に登録する。つまり、コンピュータ42のCPU44は、管理プログラム55に含まれる情報収集プロセス56を実行することで、情報収集管理機能部13として動作し、定期的、ユーザの指示、または後述するプロセスの要求に応じて情報収集処理を実行する。また、情報収集管理機能部13は、収集した各種情報をテーブル62に登録する。   The CPU 44 of the computer 42 that operates as the management apparatus 12 executes the information collection process 56, acquires various types of information, and registers the collected various types of information in the table 62. That is, the CPU 44 of the computer 42 operates as the information collection management function unit 13 by executing the information collection process 56 included in the management program 55, and periodically, in response to a user instruction or a process request described later. Execute information collection processing. Further, the information collection management function unit 13 registers the collected various information in the table 62.

例えば、データセンター22に、仮想化基盤26が構築された場合、情報収集管理機能部13は、構築された仮想化基盤26を示す情報を収集し、収集した各情報を仮想化基盤テーブル63(図2参照)に登録する。また、情報収集管理機能部13は、登録済みの仮想化基盤26を示す情報が更新された場合には、更新された仮想化基盤26を示す情報で、仮想化基盤テーブル63を更新する。   For example, when the virtualization infrastructure 26 is constructed in the data center 22, the information collection management function unit 13 collects information indicating the constructed virtualization infrastructure 26, and stores the collected information in the virtualization infrastructure table 63 ( (See FIG. 2). In addition, when information indicating the registered virtualization infrastructure 26 is updated, the information collection management function unit 13 updates the virtualization infrastructure table 63 with the information indicating the updated virtualization infrastructure 26.

また、仮想化基盤26に仮想マシン28が構築された場合、情報収集管理機能部13は、構築された仮想マシン28を示す情報を収集し、収集した各情報を仮想マシンテーブル64(図3参照)に登録する。また、情報収集管理機能部13は、登録済みの仮想マシン28を示す情報が更新された場合には、更新された仮想マシン28を示す情報で、仮想マシンテーブル64を更新する。また、情報収集管理機能部13は、仮想マシン28を示す情報を収集する場合、仮想マシンで用いるリソースを示すリソース情報を識別するためのリソースIDを付与して、仮想化基盤稼働率情報テーブル65(図4参照)に登録する。また、情報収集管理機能部13は、登録済みの情報が更新された場合には、更新された情報で、仮想化基盤稼働率情報テーブル65を更新する。   When the virtual machine 28 is constructed on the virtualization platform 26, the information collection management function unit 13 collects information indicating the constructed virtual machine 28, and stores the collected information in the virtual machine table 64 (see FIG. 3). ). Further, when information indicating the registered virtual machine 28 is updated, the information collection management function unit 13 updates the virtual machine table 64 with the information indicating the updated virtual machine 28. In addition, when collecting information indicating the virtual machine 28, the information collection management function unit 13 assigns a resource ID for identifying resource information indicating a resource used in the virtual machine, and the virtualization platform operation rate information table 65 (See FIG. 4). In addition, when the registered information is updated, the information collection management function unit 13 updates the virtualization infrastructure operating rate information table 65 with the updated information.

さらに、情報収集管理機能部13は、仮想マシン28で用いるリソースの状態も収集して、仮想化リソース空塞管理テーブル66(図5参照)に登録する。また、情報収集管理機能部13は、登録済みの情報が更新された場合には、更新された情報で、仮想化基盤稼働率情報テーブル65を更新する。   Furthermore, the information collection management function unit 13 also collects the status of resources used in the virtual machine 28 and registers them in the virtualized resource empty / busy management table 66 (see FIG. 5). In addition, when the registered information is updated, the information collection management function unit 13 updates the virtualization infrastructure operating rate information table 65 with the updated information.

まず、管理装置12として動作するコンピュータ42のCPU44は、ステップ100で、移動対象の仮想マシン28について、移動元のデータセンター22から移動先のデータセンター22へ中継する中継地のデータセンター22を算出する。つまり、CPU44が中継地算出プロセス57を実行することによって、中継地算出機能部14(図1)は、例えば、キーボード49等でユーザにより入力された仮想マシン28の移動元および移動先を示す情報に応じて、中継地および経路(順序)を算出する。例えば、中継地および経路(順序)として、「HV IP」で示される位置情報の移動元の仮想化基盤26から「HV IP」で示される位置情報の移動先の仮想化基盤26までの移動時間が最短となる中継地および経路が算出される。つまり、移動対象の仮想マシン28を含む仮想化基盤26が、次に仮想マシン28を受け入れる仮想化基盤26として移動時間が最短となる仮想化基盤26を、移動元の仮想化基盤26から移動先の仮想化基盤26まで順次求める。算出された中継地および経路(順序)を示す情報は、中継地リスト68(図8)として記憶される。   First, in step 100, the CPU 44 of the computer 42 operating as the management apparatus 12 calculates the data center 22 of the relay point for relaying from the movement source data center 22 to the movement destination data center 22 for the movement target virtual machine 28. To do. That is, when the CPU 44 executes the relay point calculation process 57, the relay point calculation function unit 14 (FIG. 1), for example, information indicating the movement source and the movement destination of the virtual machine 28 input by the user using the keyboard 49 or the like. Depending on the above, the relay point and route (order) are calculated. For example, as the relay point and route (order), the travel time from the virtualization platform 26 of the location information indicated by “HV IP” to the virtualization platform 26 of the location information indicated by “HV IP” The relay point and route with the shortest are calculated. In other words, the virtualization platform 26 including the virtual machine 28 to be moved is the next virtualization platform 26 to receive the virtual machine 28, and the virtualization platform 26 having the shortest migration time is transferred from the migration source virtualization platform 26 to the migration destination. The virtualization platform 26 is sequentially obtained. Information indicating the calculated relay point and route (order) is stored as a relay point list 68 (FIG. 8).

次に、CPU44は、ステップ102で、仮想マシン28、および移動元から中継地を介して移動先のデータセンター22についての情報を取得する。つまり、CPU44が仮想化リソース制御プロセス59のうちの情報取得処理を実行することによって、仮想化リソース制御機能部17(図1)は仮想マシン28およびデータセンター22の情報を取得する。まず、仮想化リソース制御機能部17は、中継地リスト68(図8)を参照し、移動対象の仮想マシン28について移動元から、中継地を介して移動先へ至る物理マシン70および経路(順序)を示す情報を取得する。ここでは、中継地リスト68から経路番号「1」の情報が取得された場合を説明する。つまり、「H0001」で示される仮想化基盤26が移動元であり、「H0003」で示される仮想化基盤26が移動先である。また、「H0002」および「H0004」で示される仮想化基盤26が中継地である。なお、以下の説明を簡単にするため、中継地は、「H0002」で示される仮想化基盤26を代表して説明する。   Next, in step 102, the CPU 44 acquires information about the virtual machine 28 and the destination data center 22 from the source via the relay point. That is, the virtual resource control function unit 17 (FIG. 1) acquires information on the virtual machine 28 and the data center 22 when the CPU 44 executes information acquisition processing in the virtual resource control process 59. First, the virtualization resource control function unit 17 refers to the relay destination list 68 (FIG. 8), and moves the physical machine 70 and the route (order) from the source to the destination via the relay site for the virtual machine 28 to be moved. ) Is acquired. Here, a case where the information of the route number “1” is acquired from the relay point list 68 will be described. That is, the virtualization infrastructure 26 indicated by “H0001” is the migration source, and the virtualization infrastructure 26 indicated by “H0003” is the migration destination. Further, the virtualization infrastructure 26 indicated by “H0002” and “H0004” is a relay point. In order to simplify the following description, the relay point will be described on behalf of the virtualization platform 26 indicated by “H0002”.

仮想化リソース制御機能部17は、移動対象の仮想マシン28が使用するリソース情報を取得する。移動対象の仮想マシン28が使用するリソース情報の取得は、情報収集管理機能部13へリソース情報を取得する指示に対する応答により取得する。つまり、情報収集管理機能部13は、仮想マシンテーブル64(図)3および仮想化基盤稼働率情報テーブル65(図4)を参照し、移動対象の仮想マシン28が使用するリソース情報を応答する。ここでは、仮想化リソース制御機能部17は、「VRSid001」で示されるリソースIDの仮想マシン28が使用するリソース情報を取得する。   The virtualized resource control function unit 17 acquires resource information used by the virtual machine 28 to be moved. Acquisition of resource information used by the migration target virtual machine 28 is acquired by a response to the instruction to acquire the resource information to the information collection management function unit 13. That is, the information collection management function unit 13 refers to the virtual machine table 64 (FIG.) 3 and the virtualization infrastructure operating rate information table 65 (FIG. 4), and responds with resource information used by the virtual machine 28 to be moved. Here, the virtualized resource control function unit 17 acquires the resource information used by the virtual machine 28 with the resource ID indicated by “VRSid001”.

次に、CPU44は、ステップ104で、中継地および移動先のデータセンター22に移動対象の仮想マシン28のリソースを確保する要求を実行する。つまり、CPU44が仮想化リソース制御プロセス59のうちのリソース確保処理を実行することによって、仮想化リソース制御機能部17(図1)はデータセンター22にリソースの確保を要求する。つまり、仮想化リソース制御機能部17は、中継地および移動先のデータセンター22として動作する物理マシン70へ、移動対象の仮想マシン28が使用するリソース情報(リソースID「VRSid001」で示される情報)が示すリソースを確保する要求を実行する。移動対象の仮想マシン28が使用するリソース情報の一例は、リソースの使用率を示す情報、例えばCPU負荷、CPU利用率、メモリ利用量がある。   Next, in step 104, the CPU 44 executes a request for securing resources of the virtual machine 28 to be moved in the relay point and the data center 22 of the movement destination. In other words, the virtual resource control function unit 17 (FIG. 1) requests the data center 22 to secure resources by the CPU 44 executing the resource securing process in the virtualized resource control process 59. That is, the virtual resource control function unit 17 uses the resource information (information indicated by the resource ID “VRSid001”) used by the virtual machine 28 to be moved to the physical machine 70 that operates as the relay point and the data center 22 of the movement destination. A request to secure the resource indicated by is executed. An example of resource information used by the migration target virtual machine 28 includes information indicating a resource usage rate, such as a CPU load, a CPU usage rate, and a memory usage amount.

次に、CPU44は、ステップ106において、移動対象の仮想マシン28を移動するライブマイグレーションを実行する。つまり、CPU44がマイグレーション管理プロセス58を実行することによって、マイグレーション管理機能部15(図1)は、移動対象の仮想マシン28を移動する指示をする。ライブマイグレーションの実行が終了すると、次のステップ108で、ステップ104で確保を要求したリソースの解放を指示する。つまり、CPU44が仮想化リソース制御プロセス59のうちの解放処理を実行することによって、仮想化リソース制御機能部17(図1)はステップ102の実行により確保されたリソースIDのリソースの解除(解放)を要求する。   Next, in step 106, the CPU 44 executes live migration for moving the virtual machine 28 to be moved. That is, when the CPU 44 executes the migration management process 58, the migration management function unit 15 (FIG. 1) instructs to move the virtual machine 28 to be moved. When the execution of live migration is completed, in the next step 108, the release of the resource requested to be secured in step 104 is instructed. That is, the virtual resource control function unit 17 (FIG. 1) releases (releases) the resource with the resource ID secured by the execution of step 102 by the CPU 44 executing the release process of the virtual resource control process 59. Request.

一方、管理装置12として動作するコンピュータ42からの指示に応じて、データセンター22として動作する物理マシン70では、各種処理が実行される。   On the other hand, various processes are executed in the physical machine 70 operating as the data center 22 in accordance with an instruction from the computer 42 operating as the management apparatus 12.

なお、物理マシン70のCPU72は、GWプログラム83を実行することで、管理装置12または他のデータセンター22との情報授受が可能となる。また、CPU72は、仮想化基盤プログラム84を実行することで、仮想化技術による仮想化環境の構築が可能となる。さらに、CPU72は、仮想マシンプログラム88を実行することで、仮想化環境における仮想マシン28の構築が可能となる。   Note that the CPU 72 of the physical machine 70 can exchange information with the management apparatus 12 or another data center 22 by executing the GW program 83. Further, the CPU 72 can construct a virtual environment by using a virtualization technology by executing the virtualization platform program 84. Furthermore, the CPU 72 can construct the virtual machine 28 in the virtual environment by executing the virtual machine program 88.

図13に、データセンター22として動作する物理マシン70で実行される仮想化基盤プログラム84による処理の流れの一例を示す。   FIG. 13 shows an example of the flow of processing by the virtualization platform program 84 executed on the physical machine 70 operating as the data center 22.

物理マシン70のCPU72は、ステップ200で、管理装置12として動作するコンピュータ42からの指示が、移動対象の仮想マシン28のリソース情報の取得のためのリソース参照の要求であるか否かを判断する。CPU72は、ステップ200で肯定判断の場合、ステップ202へ進み、移動対象の仮想マシン28のリソース参照処理を実行し、本処理ルーチンを終了する。一方、ステップ200で否定判断の場合、CPU72は、ステップ204へ進み、管理装置12として動作するコンピュータ42からの指示が、移動対象の仮想マシン28のリソース確保の要求であるか否かを判断する。CPU72は、ステップ204で肯定判断の場合、ステップ206へ進み、移動対象の仮想マシン28のリソース確保処理を実行し、本処理ルーチンを終了する。   In step 200, the CPU 72 of the physical machine 70 determines whether or not the instruction from the computer 42 that operates as the management apparatus 12 is a resource reference request for acquiring the resource information of the migration target virtual machine 28. . If the determination in step 200 is affirmative, the CPU 72 proceeds to step 202, executes the resource reference process of the migration target virtual machine 28, and ends this processing routine. On the other hand, if the determination in step 200 is negative, the CPU 72 proceeds to step 204 and determines whether or not the instruction from the computer 42 operating as the management apparatus 12 is a request for securing the resources of the virtual machine 28 to be moved. . If the determination in step 204 is affirmative, the CPU 72 proceeds to step 206, executes the resource securing process for the virtual machine 28 to be moved, and ends this processing routine.

ステップ204で否定判断の場合、CPU72は、ステップ208へ進み、管理装置12として動作するコンピュータ42からの指示が、移動対象の仮想マシン28の移動要求であるか否かを判断する。ステップ208で肯定判断の場合、CPU72は、ステップ210へ進み、移動対象の仮想マシン28の移動処理を実行し、本処理ルーチンを終了する。一方、ステップ208で否定判断の場合、CPU72は、ステップ212へ進み、管理装置12として動作するコンピュータ42からの指示が、ステップ206で確保したリソースの解放要求であるか否かを判断する。ステップ212で肯定判断の場合、CPU72は、ステップ214へ進み、確保済みのリソース解放処理を実行し、本処理ルーチンを終了する。   If the determination in step 204 is negative, the CPU 72 proceeds to step 208 and determines whether or not the instruction from the computer 42 operating as the management apparatus 12 is a movement request for the virtual machine 28 to be moved. If the determination in step 208 is affirmative, the CPU 72 proceeds to step 210, executes the movement process of the virtual machine 28 to be moved, and ends this processing routine. On the other hand, if the determination in step 208 is negative, the CPU 72 proceeds to step 212 and determines whether or not the instruction from the computer 42 operating as the management apparatus 12 is a resource release request secured in step 206. If the determination in step 212 is affirmative, the CPU 72 proceeds to step 214, executes a secured resource release process, and ends this processing routine.

次に、仮想マシン管理システム10において、ライブマイグレーション前に、中継地および移動先のデータセンター22にリソースを確保することについてさらに説明する。   Next, in the virtual machine management system 10, securing resources in the relay point and the data center 22 at the destination before live migration will be further described.

図14に、仮想マシン管理システム10における仮想マシン28のリソース参照およびリソース確保についての情報授受の一例を示す。   FIG. 14 illustrates an example of information exchange regarding resource reference and resource reservation of the virtual machine 28 in the virtual machine management system 10.

管理装置12の中継地算出機能部14は、入力された仮想マシン28の移動元および移動先を示す情報に応じて、中継地および経路(順序)を算出する(ステップ100)。仮想化リソース制御機能部17は、仮想マシン28およびデータセンター22の情報を取得する(ステップ102)。つまり、中継地リスト68から経路番号「1」の情報が取得され、移動元の仮想化基盤26が「H0001」で、中継地の仮想化基盤26が「H0002」で、移動先の仮想化基盤26が「H0003」である。また、移動対象の仮想マシン28は、VMID「V0001」のVM Name「VM-A1-1」で示される仮想マシン28である。つまり、仮想化リソース制御機能部17は、VMID「V0001」のVM Name「VM-A1-1」で示される仮想マシン28のリソース情報(図3)を取得する。具体的には、管理装置12は、移動元のデータセンター22の物理マシン70からの応答を受け取り、移動対象のVMID「V0001」で示される仮想マシン28のリソース情報を、仮想マシンテーブル64(図3)に登録する。また、管理装置12は、受け取った移動対象のVMID「V0001」で示される仮想マシン28のリソース情報を、リソースID「VRSid001」を付与して仮想化基盤稼働率情報テーブル65に登録する。   The relay point calculation function unit 14 of the management apparatus 12 calculates a relay point and a route (order) according to the input information indicating the movement source and the movement destination of the virtual machine 28 (step 100). The virtualization resource control function unit 17 acquires information about the virtual machine 28 and the data center 22 (step 102). That is, the information of the route number “1” is acquired from the relay point list 68, the source virtualization infrastructure 26 is “H0001”, the relay destination virtualization infrastructure 26 is “H0002”, and the destination virtualization infrastructure 26 is “H0003”. Further, the migration target virtual machine 28 is the virtual machine 28 indicated by the VM Name “VM-A1-1” with the VMID “V0001”. That is, the virtualized resource control function unit 17 acquires the resource information (FIG. 3) of the virtual machine 28 indicated by the VM Name “VM-A1-1” of the VMID “V0001”. Specifically, the management apparatus 12 receives a response from the physical machine 70 of the migration source data center 22 and stores the resource information of the virtual machine 28 indicated by the migration target VMID “V0001” in the virtual machine table 64 (FIG. Register in 3). Further, the management apparatus 12 registers the resource information of the virtual machine 28 indicated by the received migration target VMID “V0001” in the virtualization infrastructure operating rate information table 65 with the resource ID “VRSid001”.

一方、移動元のデータセンター22の物理マシン70は、管理装置12の要求に応じて、移動対象の仮想マシン28のリソース参照処理を実行する(ステップ202)。つまり、移動元のデータセンター22の仮想化リソース管理機能部34が管理装置12からの要求を受け付け、仮想化リソース制御機能部36へ移動対象のVMID「V0001」で示される仮想マシン28のリソース参照を指示する。仮想化リソース制御機能部36は、移動対象の仮想マシン28のリソースを確認し、リソース情報として仮想化リソース管理機能部34へ返信する。仮想化リソース管理機能部34は、移動対象の仮想マシン28のリソースを示すリソース情報を管理装置12へ応答する。   On the other hand, the physical machine 70 of the migration source data center 22 executes resource reference processing of the migration target virtual machine 28 in response to a request from the management apparatus 12 (step 202). That is, the virtual resource management function unit 34 of the migration source data center 22 receives a request from the management apparatus 12, and refers to the resource of the virtual machine 28 indicated by the VMID “V0001” to be migrated to the virtual resource control function unit 36. Instruct. The virtual resource control function unit 36 confirms the resource of the virtual machine 28 to be moved, and sends it back to the virtual resource management function unit 34 as resource information. The virtual resource management function unit 34 responds to the management apparatus 12 with resource information indicating the resources of the migration target virtual machine 28.

管理装置12は、情報取得が終了すると、仮想化リソース制御機能部17で、中継地および移動先のデータセンター22に移動対象の仮想マシン28のリソースの確保を要求する(ステップ104)。つまり、仮想化リソース制御機能部17は、中継地で「H0002」の仮想化基盤26および移動先で「H0003」の仮想化基盤26へ、リソースID「VRSid001」で示されるリソースの確保を要求する。   When the information acquisition is completed, the management device 12 requests the virtual resource control function unit 17 to secure the resources of the virtual machine 28 to be moved from the relay center and the data center 22 of the movement destination (step 104). That is, the virtualization resource control function unit 17 requests the virtualization infrastructure 26 of “H0002” at the relay point and the virtualization infrastructure 26 of “H0003” at the movement destination to secure the resource indicated by the resource ID “VRSid001”. .

中継地のデータセンター22の物理マシン70は、移動対象の仮想マシン28のリソース確保処理を実行する(ステップ206)。つまり、管理装置12からのリソースID「VRSid001」のリソース確保の要求を、中継地のデータセンター22における仮想化リソース管理機能部34が受け付け、仮想化リソース制御機能部36へ移動対象の仮想マシン28のリソース確保を指示する。仮想化リソース制御機能部36は、リソース確保の指示に応じてリソースを確保する要求を仮想化基盤主要機能部32へ指示する。仮想化基盤主要機能部32は、仮想化リソース制御機能部36からのリソース確保指示に応じてリソースの確保を行う処理を実行し、処理結果を示すリソース確保処理結果情報を仮想化リソース制御機能部36へ通知する。リソース確保処理結果情報の一例は、リソースの確保が完了したことを示す情報がある。仮想化リソース制御機能部36は、リソース確保処理結果情報の通知を、仮想化リソース管理機能部34へ送る。仮想化リソース管理機能部34は、リソース確保処理結果情報を管理装置12へ応答する。なお、リソース確保処理結果情報は、移動対象の仮想マシン28のリソースの確保を完了したこと示す場合、確保したリソースを示す情報を含む。   The physical machine 70 of the data center 22 at the relay site executes the resource securing process for the virtual machine 28 to be moved (step 206). In other words, the virtual resource management function unit 34 in the data center 22 at the relay point accepts a request for securing the resource with the resource ID “VRSid001” from the management apparatus 12, and the virtual machine 28 to be moved to the virtual resource control function unit 36. Instruct to secure resources. The virtualization resource control function unit 36 instructs the virtualization platform main function unit 32 to make a resource reservation request in accordance with the resource reservation instruction. The virtualization infrastructure main function unit 32 executes a process for securing a resource in response to a resource securing instruction from the virtualization resource control function unit 36, and obtains resource securing process result information indicating a processing result. 36 is notified. An example of the resource securing process result information is information indicating that resource securing has been completed. The virtual resource control function unit 36 sends a notification of resource reservation processing result information to the virtual resource management function unit 34. The virtual resource management function unit 34 responds to the management apparatus 12 with the resource securing process result information. Note that the resource securing process result information includes information indicating the secured resource when indicating that the securing of the resource of the migration target virtual machine 28 is completed.

管理装置12は、中継地のデータセンター22の物理マシン70からの応答を受け取り、リソースID「VRSid007」を付与して仮想化基盤稼働率情報テーブル65(図4)および仮想化リソース空塞管理テーブル66(図5)に登録する。仮想化基盤稼働率情報テーブル65には、物理マシン70で確保したリソースを示す情報に対して、仮想マシン28は未定であるため、VMID、VM Name、およびNW Nameを示す情報は、未定であることを示す「NONE」の情報が記憶される。また、仮想化基盤稼働率情報テーブル65のリソースID「VRSid007」に対応する仮想化リソース空塞管理テーブル66の空塞情報には、確保状態を示す「temporary」の情報が記憶される。   The management device 12 receives a response from the physical machine 70 of the data center 22 at the relay site, assigns a resource ID “VRSid007”, and a virtual infrastructure availability information table 65 (FIG. 4) and a virtual resource empty / busy management table 66 (FIG. 5). In the virtualization platform operation rate information table 65, the virtual machine 28 has not been determined for the information indicating the resources secured by the physical machine 70, so the information indicating the VMID, VM Name, and NW Name is not yet determined. "NONE" information indicating that is stored. Also, “temporary” information indicating the secured state is stored in the empty / busy information of the virtual resource empty / busy management table 66 corresponding to the resource ID “VRSid007” of the virtual infrastructure operating rate information table 65.

本実施形態では、物理マシン70でリソースが確保された場合、未使用時等に確保されたリソースを解放するためのタイムリミット値を定めることができる。例えば、リソースID「VRSid007」の空塞情報に、確保状態を示す「temporary」の情報が記憶された場合、仮想化リソースタイマー管理テーブル67を参照してタイムリミット値が定められる。具体的には、リソースID「VRSid007」は、仮想マシン28が使用する予め定めたリソースの種類及び大きさ等に対応する「VRS_class0」のリソースクラスに設定される。「VRS_class0」のリソースクラスは、「T001」のタイムリミット値になるので(図7に示すタイムリミット値テーブル67B参照)、リソースID「VRSid007」のタイムリミット値は「T001」になる(図6に示すVM時限タイマーテーブル67A参照)。   In the present embodiment, when resources are secured in the physical machine 70, a time limit value for releasing resources secured when not in use can be determined. For example, when information of “temporary” indicating the secured state is stored in the air / busy information of the resource ID “VRSid007”, the time limit value is determined with reference to the virtualization resource timer management table 67. Specifically, the resource ID “VRSid007” is set to the resource class “VRS_class0” corresponding to the type and size of a predetermined resource used by the virtual machine 28. Since the resource class “VRS_class0” has the time limit value “T001” (see the time limit value table 67B shown in FIG. 7), the time limit value of the resource ID “VRSid007” becomes “T001” (see FIG. 6). (See VM timed timer table 67A shown).

移動先のデータセンター22の物理マシン70も同様に、移動対象の仮想マシン28のリソース確保処理を実行する(ステップ206)。   Similarly, the physical machine 70 of the migration destination data center 22 executes the resource securing process of the migration target virtual machine 28 (step 206).

管理装置12は、移動対象の仮想マシン28のリソース確保が終了すると、移動対象の仮想マシン28を移動するライブマイグレーションを実行する(ステップ106)。   When the management apparatus 12 finishes securing the resources of the migration target virtual machine 28, the management apparatus 12 executes live migration for moving the migration target virtual machine 28 (step 106).

図15に、管理装置12として動作するコンピュータ42で実行されるステップ102(図12)における情報取得処理の流れの一例を示す。また、図16に、移動元のデータセンター22として動作する物理マシン70で実行されるステップ202(図13)におけるリソース参照処理の流れの一例を示す。   FIG. 15 shows an example of the flow of information acquisition processing in step 102 (FIG. 12) executed by the computer 42 that operates as the management apparatus 12. FIG. 16 shows an example of the flow of resource reference processing in step 202 (FIG. 13) executed by the physical machine 70 operating as the migration source data center 22.

管理装置12の仮想化リソース制御機能部17として動作するコンピュータ42のCPU44は、ステップ110で、中継地リスト68を参照して、移動元から中継地を介して移動先のデータセンター22についての情報を取得する。次にCPU44は、ステップ112で、移動元で稼働する移動対象の仮想マシン28が使用するリソース情報を取得する。つまり、CPU44は、移動元のデータセンター22の物理マシン70へリソース情報を要求し、応答によりリソースID「VRSid001」で示すことになるリソース情報を取得する。   In step 110, the CPU 44 of the computer 42 operating as the virtual resource control function unit 17 of the management apparatus 12 refers to the relay location list 68, and information on the data center 22 that is the destination from the source via the relay location. To get. Next, in step 112, the CPU 44 acquires resource information used by the migration target virtual machine 28 operating at the migration source. That is, the CPU 44 requests resource information from the physical machine 70 of the migration source data center 22 and acquires the resource information indicated by the resource ID “VRSid001” as a response.

一方、移動元のデータセンター22として動作する物理マシン70のCPU72は、ステップ220において仮想化リソース管理機能部34で、管理装置12の要求を受け付け、仮想化リソース制御機能部36へ仮想マシン28のリソース参照を指示する。次にCPU72は、ステップ222において、仮想化リソース制御機能部36で、移動対象の仮想マシン28のリソースを確認する取得処理を実行して仮想化リソース管理機能部34へ返信する。次にCPU72は、ステップ224において、仮想化リソース管理機能部34で、移動対象の仮想マシン28のリソースを示すリソース情報を取得結果として応答する。   On the other hand, the CPU 72 of the physical machine 70 operating as the migration source data center 22 accepts a request from the management device 12 at the virtualization resource management function unit 34 in step 220 and sends the virtual machine 28 to the virtualization resource control function unit 36. Indicates resource reference. Next, in step 222, the CPU 72 executes an acquisition process for confirming the resources of the virtual machine 28 to be moved by the virtualization resource control function unit 36 and returns the acquisition process to the virtualization resource management function unit 34. Next, in step 224, the CPU 72 responds with resource information indicating the resource of the virtual machine 28 to be moved as an acquisition result in the virtual resource management function unit 34.

図17に、管理装置12として動作するコンピュータ42で実行されるステップ104(図12)におけるリソース確保を要求する処理の流れの一例を示す。また、図18に、データセンター22として動作する物理マシン70で実行されるステップ206(図13)におけるリソース確保処理の流れの一例を示す。   FIG. 17 shows an example of the flow of processing for requesting resource reservation in step 104 (FIG. 12) executed by the computer 42 operating as the management apparatus 12. FIG. 18 shows an example of the flow of resource securing processing in step 206 (FIG. 13) executed by the physical machine 70 operating as the data center 22.

管理装置12の仮想化リソース制御機能部17として動作するコンピュータ42のCPU44は、ステップ114で、中継地および移動先のデータセンター22に移動対象の仮想マシン28のリソースの確保を要求する。つまり、CPU44は、リソースID「VRSid001」のリソース情報によるリソースの確保を要求する。   In step 114, the CPU 44 of the computer 42 that operates as the virtualization resource control function unit 17 of the management apparatus 12 requests the relay center and the destination data center 22 to secure the resources of the virtual machine 28 to be moved. That is, the CPU 44 requests to secure the resource by the resource information of the resource ID “VRSid001”.

一方、データセンター22の物理マシン70のCPU72は、ステップ226において仮想化リソース管理機能部34で、管理装置12からの要求を受け付け、仮想化リソース制御機能部36へ移動対象の仮想マシン28のリソース確保を指示する。つまり、CPU72は、リソースID「VRSid001」のリソース情報によるリソースを確保する指示を行う。次にCPU72は、ステップ228において、仮想化リソース制御機能部36で、リソースを確保する要求を仮想化基盤主要機能部32へ行う。CPU72は、次のステップ230において、仮想化基盤主要機能部32で、リソースを確保する処理を実行し、処理結果を示すリソース確保処理結果情報を仮想化リソース制御機能部36へ通知する。また、仮想化リソース制御機能部36は、リソース確保処理結果情報の通知を、仮想化リソース管理機能部34へ送る。次にCPU72は、ステップ232において、仮想化リソース管理機能部34で、移動対象の仮想マシン28のリソースについてのリソース確保処理結果情報を管理装置12へ応答する。   On the other hand, the CPU 72 of the physical machine 70 in the data center 22 receives the request from the management apparatus 12 at the virtual resource management function unit 34 in step 226 and transfers the resource of the virtual machine 28 to be moved to the virtual resource control function unit 36. Instruct to secure. That is, the CPU 72 instructs to secure a resource based on the resource information of the resource ID “VRSid001”. Next, in step 228, the CPU 72 uses the virtualization resource control function unit 36 to make a request for securing resources to the virtualization infrastructure main function unit 32. In the next step 230, the CPU 72 executes a process for securing resources in the virtualization infrastructure main function unit 32, and notifies the virtualization resource control function unit 36 of resource securing process result information indicating a processing result. In addition, the virtual resource control function unit 36 sends a notification of resource securing process result information to the virtual resource management function unit 34. Next, in step 232, the CPU 72 uses the virtual resource management function unit 34 to respond to the management apparatus 12 with resource reservation processing result information for the resources of the virtual machine 28 to be moved.

例えは、データセンター22の物理マシン70において、第1の仮想マシン28Aが稼働中に、第2の仮想マシン28Bのリソースを確保する場合を考える。仮想マシン28が用いるCPU使用率をリソースとする場合、第1の仮想マシン28Aが30%のCPU使用率(6GHz分)で稼働中のとき、CPUリソース33は、3つのセル33Aを使用することになる(図9)。データセンター22の物理マシン70に第2の仮想マシン28Bの20%のCPU使用率(4GHz分)であるリソースを確保する要求を受け取ると、仮想化リソース管理機能部34は、空きのリソースから2つのセル33Bを確保することを実行する。   For example, consider a case in which the resources of the second virtual machine 28B are secured in the physical machine 70 of the data center 22 while the first virtual machine 28A is operating. When the CPU usage rate used by the virtual machine 28 is a resource, the CPU resource 33 uses three cells 33A when the first virtual machine 28A is operating at a CPU usage rate of 30% (for 6 GHz). (FIG. 9). When receiving a request to reserve a resource having a CPU usage rate of 20% (for 4 GHz) of the second virtual machine 28B in the physical machine 70 of the data center 22, the virtualized resource management function unit 34 starts from the free resource. Securing two cells 33B is executed.

また、例えば、仮想マシン28が用いるメモリの使用率をリソースとする場合、第1の仮想マシン28Aが8GB分のメモリ使用量で稼働中のとき、メモリリソース35は、2つのセル35Aを使用することになる(図10)。データセンター22の物理マシン70に第2の仮想マシン28Bの12GB分のメモリ使用量であるリソースを確保する要求を受け取ると、仮想化リソース管理機能部34は、第3つのセル35Bを確保することを実行する。   Also, for example, when the usage rate of the memory used by the virtual machine 28 is used as a resource, the memory resource 35 uses two cells 35A when the first virtual machine 28A is operating with a memory usage amount of 8 GB. (FIG. 10). When receiving a request to secure a resource that is the memory usage of 12 GB of the second virtual machine 28B to the physical machine 70 of the data center 22, the virtualization resource management function unit 34 secures the third cell 35B. Execute.

ところで、データセンター22の物理マシン70では、リソースの確保を失敗する場合がある。そこで、管理装置12では、リソースの確保に失敗したデータセンター22を除外して移動先までの中継地および経路(順序)を再度算出して処理を継続する。   By the way, in the physical machine 70 of the data center 22, securing of resources may fail. Therefore, the management apparatus 12 excludes the data center 22 that failed to secure the resource, recalculates the relay point and route (order) to the destination, and continues the processing.

つまり、管理装置12の仮想化リソース制御機能部17として動作するコンピュータ42のCPU44は、ステップ116で、ステップ114による要求の応答がリソース確保の成功か否かを判断する。ステップ116で肯定判断の場合には、そのまま本処理ルーチンを終了する。一方、ステップ116で否定判断される場合には、ステップ118へ処理を移行する。ステップ118では、リソース確保に失敗した中継地を除き、移動元から移動先に至る中継地のデータセンター22を再算出する指示を、中継地算出機能部14へ行い、中継地のデータセンター22を示す情報を再取得する。中継地を示す情報の再取得は、中継地リスト68の中からリソース確保に失敗した中継地を除く経路を選択することにより実行できる。次に、CPU44は、ステップ114へ戻り、再取得した中継地のデータセンター22を示す情報に応じてリソース確保処理を実行する。   In other words, the CPU 44 of the computer 42 operating as the virtualized resource control function unit 17 of the management apparatus 12 determines in step 116 whether the response to the request in step 114 is a successful resource reservation. If the determination in step 116 is affirmative, this processing routine is terminated as it is. On the other hand, if a negative determination is made in step 116, the process proceeds to step 118. In step 118, an instruction to recalculate the data center 22 at the relay point from the movement source to the movement destination is removed except for the relay point where the resource securing has failed, and the relay point data center 22 is set to the relay point calculation function unit 14. Re-acquire the indicated information. The re-acquisition of the information indicating the relay point can be executed by selecting a route from the relay point list 68 excluding the relay point that failed to secure the resource. Next, the CPU 44 returns to step 114 and executes a resource securing process according to the information indicating the data center 22 of the relay site that has been reacquired.

なお、CPU44は、ステップ116で肯定判断した場合、物理マシン70で確保されたリソースを未使用時等に解放するため、タイムリミット値を定めることができる。例えば、リソースID「VRSid007」のリソースについては、「VRS_class0」のリソースクラスが設定され、「T001」のタイムリミット値で(図7に示すタイムリミット値テーブル67B参照)、タイムリミット値が「T001」に設定される(図6に示すVM時限タイマーテーブル67A参照)。   If the CPU 44 makes an affirmative determination in step 116, it can set a time limit value in order to release resources reserved in the physical machine 70 when not in use. For example, for the resource with the resource ID “VRSid007”, the resource class “VRS_class0” is set, the time limit value is “T001” (see the time limit value table 67B shown in FIG. 7), and the time limit value is “T001”. (See VM timed timer table 67A shown in FIG. 6).

次に、仮想マシン管理システム10におけるライブマイグレーション処理についてさらに説明する。   Next, live migration processing in the virtual machine management system 10 will be further described.

図19に、仮想マシン管理システム10におけるライブマイグレーションについての情報授受の一例を示す。   FIG. 19 shows an example of information exchange about live migration in the virtual machine management system 10.

管理装置12のマイグレーション管理機能部15は、移動順序に従って、受け入れ先のデータセンター22へ仮想マシン28の受け入れ確認を行った後に、仮想マシン28の移動を指示する(ステップ106)。   The migration management function unit 15 of the management apparatus 12 confirms the acceptance of the virtual machine 28 to the accepting data center 22 in accordance with the order of movement, and then instructs the movement of the virtual machine 28 (step 106).

まず、移動元のデータセンター22から中継地のデータセンター22へ仮想マシン28を移動する場合について説明する。この場合、中継地のデータセンター22は、移動元のデータセンター22で稼働する仮想マシン28の受け入れ先である。移動元のデータセンター22と受け入れ先である中継地のデータセンター22との間で、仮想マシン28が移動される(ステップ210)。   First, the case where the virtual machine 28 is moved from the data center 22 of the movement source to the data center 22 of the relay site will be described. In this case, the data center 22 at the relay site is an accepting destination for the virtual machine 28 operating in the data center 22 at the movement source. The virtual machine 28 is moved between the data center 22 of the movement source and the data center 22 of the relay destination as the reception destination (Step 210).

受け入れ先のデータセンター22の物理マシン70は、仮想化基盤主要機能部32で、管理装置12の要求に応じて、移動対象の仮想マシン28を受け入れることが可能か否かを確認し、確認結果を返信する。次に、移動元のデータセンター22の物理マシン70は、仮想マシン28が受け入れ先で受け入れ可能である場合、管理装置12からの指示に応じて、仮想化基盤主要機能部32で、仮想マシン28の移動処理を実行する。受け入れ先のデータセンター22の物理マシン70は、仮想化基盤主要機能部32で、仮想マシン28の受け入れ処理を実行し、処理結果を、移動元のデータセンター22へ返信する。移動元のデータセンター22の仮想化基盤主要機能部32は、仮想マシン28の移動処理による処理結果を示す情報で、管理装置12へ応答する。   The physical machine 70 of the receiving data center 22 confirms whether or not the virtual machine 28 to be moved can be received by the virtualization infrastructure main function unit 32 in response to a request from the management apparatus 12, and the confirmation result Reply. Next, when the virtual machine 28 can be accepted at the receiving destination, the physical machine 70 of the migration source data center 22 performs the virtual machine 28 in the virtualization infrastructure main function unit 32 in accordance with an instruction from the management device 12. Execute the move process. The physical machine 70 of the receiving data center 22 executes the receiving process of the virtual machine 28 in the virtualization infrastructure main function unit 32, and returns the processing result to the moving source data center 22. The virtualization infrastructure main function unit 32 of the migration source data center 22 responds to the management apparatus 12 with information indicating the processing result of the migration process of the virtual machine 28.

管理装置12は、受け入れ先で仮想マシン28の受け入れが可能である場合、仮想化リソース空塞管理テーブル66(図5)の空塞情報に、マイグレーション中状態を示す「temporary on migration」の値を登録し、仮想マシン28の移動開始を指示する。つまり、移動元におけるリソースID「VRSid001」の空塞情報を「temporary on migration」に更新し、受け入れ先におけるリソースID「VRSid007」の空塞情報を「temporary」から「temporary on migration」に更新する。   When the virtual machine 28 can be accepted at the accepting destination, the management apparatus 12 sets a value of “temporary on migration” indicating the migration status in the empty / busy information of the virtual resource empty / busy management table 66 (FIG. 5). Register and instruct the virtual machine 28 to start moving. In other words, the vacancy information of the resource ID “VRSid001” at the migration source is updated to “temporary on migration”, and the vacancy information of the resource ID “VRSid007” at the reception destination is updated from “temporary” to “temporary on migration”.

次に、中継地のデータセンター22から移動先のデータセンター22へ仮想マシンを移動する場合について説明する。この場合、中継地のデータセンター22は、仮想マシンの移動元のデータセンターであり、移動先のデータセンター22は、仮想マシンの受け入れ先である。移動元のデータセンター22から受け入れ先である中継地のデータセンター22へ仮想マシン28を移動するのと同様に、中継地のデータセンター22と受け入れ先である移動先のデータセンター22との間で、仮想マシン28が移動される(ステップ210)。   Next, a case where a virtual machine is moved from the data center 22 at the relay point to the data center 22 as the movement destination will be described. In this case, the data center 22 at the relay site is the data center that is the migration source of the virtual machine, and the data center 22 that is the migration destination is the reception destination of the virtual machine. In the same manner as when the virtual machine 28 is moved from the data center 22 at the transfer source to the data center 22 at the relay destination as the reception destination, between the data center 22 at the relay destination and the data center 22 at the transfer destination as the reception destination. The virtual machine 28 is moved (step 210).

図20に、管理装置12として動作するコンピュータ42で実行されるステップ106(図12)における移動処理の流れの一例を示す。また、図21に、移動元及び受け入れ先のデータセンター22として動作する物理マシン70で実行されるステップ210(図13)における移動処理の流れの一例を示す。   FIG. 20 shows an example of the movement process in step 106 (FIG. 12) executed by the computer 42 operating as the management apparatus 12. FIG. 21 shows an example of the flow of migration processing in step 210 (FIG. 13) executed by the physical machine 70 operating as the migration source and reception destination data center 22.

管理装置12のマイグレーション管理機能部15として動作するコンピュータ42のCPU44は、ステップ120で、受け入れ先のデータセンター22へ、移動元の仮想マシン28の受け入れを要求する受入情報を通知する。次にCPU44は、ステップ122で、受け入れ先のデータセンター22からの返信が、受け入れ可能であることを示す情報であるか否かを判断する。CPU44は、ステップ122で肯定判断した場合、ステップ124へ処理を移行し、移動元のデータセンター22における仮想化基盤26へ、移動対象の仮想マシン28の移動を指示する。   In step 120, the CPU 44 of the computer 42 operating as the migration management function unit 15 of the management apparatus 12 notifies the acceptance data center 22 of acceptance information requesting acceptance of the migration source virtual machine 28. Next, in step 122, the CPU 44 determines whether or not the reply from the receiving data center 22 is information indicating that it can be accepted. If an affirmative determination is made in step 122, the CPU 44 shifts the processing to step 124 and instructs the virtualization platform 26 in the migration source data center 22 to move the migration target virtual machine 28.

次にCPU44は、ステップ126で、移動元のデータセンター22からの返信が、仮想マシン28の移動に成功したことを示す情報であるか否かを判断する。ステップ126で、CPU44が肯定判断した場合、次のステップ128で、最終の移動先のデータセンター22であるか否かを判別することにより仮想マシン28の移動順序で次のデータセンター22がないか否かを判断する。次のデータセンター22が存在する場合、CPU44は、ステップ128で否定判断し、ステップ120へ処理を戻す。一方、CPU44がステップ128で肯定判断した場合、移動順序に従って仮想マシン28の移動が全て成功しているものとして、本処理ルーチンを終了する。   Next, in step 126, the CPU 44 determines whether or not the reply from the migration source data center 22 is information indicating that the migration of the virtual machine 28 was successful. If the CPU 44 makes an affirmative determination in step 126, in the next step 128, it is determined whether or not there is a next data center 22 in the movement order of the virtual machine 28 by determining whether or not the data center 22 is the final migration destination. Judge whether or not. If the next data center 22 exists, the CPU 44 makes a negative determination in step 128 and returns the process to step 120. On the other hand, if the CPU 44 makes an affirmative determination in step 128, it is assumed that the movement of the virtual machine 28 has all been successful in accordance with the movement order, and this processing routine ends.

一方、データセンター22の仮想化基盤主要機能部32として動作する物理マシン70のCPU72は、ステップ240で、自己の仮想化基盤26が仮想マシン28の受け入れ先であるか否かを判断する。ステップ240の判断は、管理装置12から受入情報を受信したか否かを判別することにより判断できる。自己の仮想化基盤26が仮想マシン28の受け入れ先である場合、CPU72は、ステップ240で肯定判断し、ステップ242へ処理を移行する。CPU72は、ステップ242で、仮想マシン28を受け入れることが可能であるか否かを確認し、確認結果を管理装置12へ返信する。次にCPU72は、ステップ244で、管理装置12へ返信した確認結果が仮想マシン28を受け入れ可能か否かを判断し、否定判断の場合、そのまま本処理ルーチンを終了する。一方、CPUは、ステップ244で肯定判断した場合、ステップ246へ処理を移行し、仮想化基盤26に仮想マシン28を受け入れる処理を実行し、処理結果を管理装置12へ通知する。   On the other hand, the CPU 72 of the physical machine 70 that operates as the virtualization infrastructure main function unit 32 of the data center 22 determines whether or not its virtualization infrastructure 26 is the reception destination of the virtual machine 28 in step 240. The determination in step 240 can be made by determining whether or not acceptance information has been received from the management device 12. When the own virtualization platform 26 is the reception destination of the virtual machine 28, the CPU 72 makes an affirmative determination at step 240 and shifts the processing to step 242. In step 242, the CPU 72 confirms whether or not the virtual machine 28 can be accepted, and returns a confirmation result to the management apparatus 12. Next, in step 244, the CPU 72 determines whether or not the confirmation result returned to the management apparatus 12 can accept the virtual machine 28. If the determination result is negative, this processing routine is terminated. On the other hand, if the CPU makes an affirmative determination in step 244, the process proceeds to step 246, executes a process of accepting the virtual machine 28 in the virtualization platform 26, and notifies the management apparatus 12 of the process result.

また、自己の仮想化基盤26が移動対象の仮想マシン28を管理する仮想化基盤26である場合、CPU72は、ステップ240で否定判断し、ステップ248へ処理を移行する。ステップ248では、CPU72は、移動対象の仮想マシン28を受け入れ先に移動する処理を実行し、次のステップ250で処理結果を管理装置12へ応答する。   If the own virtualization infrastructure 26 is the virtualization infrastructure 26 that manages the migration target virtual machine 28, the CPU 72 makes a negative determination in step 240 and shifts the processing to step 248. In step 248, the CPU 72 executes a process of moving the virtual machine 28 to be moved to the receiving destination, and returns a processing result to the management apparatus 12 in the next step 250.

ところで、データセンター22の物理マシン70では、稼働状況によって仮想マシン28を受け入れることが困難な場合がある。また、仮想マシン28の移動を失敗する場合がある。そこで、管理装置12では、データセンター22で仮想マシン28の受け入れが困難な場合、または仮想マシン28の移動を失敗する場合、該当するデータセンター22を除外して移動先までの中継地および経路(順序)を再度算出して処理を継続する。   Incidentally, it may be difficult for the physical machine 70 in the data center 22 to accept the virtual machine 28 depending on the operation status. In addition, the movement of the virtual machine 28 may fail. Therefore, when it is difficult for the management device 12 to accept the virtual machine 28 at the data center 22 or when the movement of the virtual machine 28 fails, the management device 12 excludes the corresponding data center 22 and relay points and routes ( The order is calculated again and the processing is continued.

つまり、管理装置12として動作するコンピュータ42のCPU44は、ステップ132において、マイグレーション管理機能部15より仮想化リソース制御機能部17へ、仮想マシン28の受け入れが困難、または移動が失敗したことを通知する。仮想化リソース制御機能部17は、図17に示すステップ118の処理と同様に、移動先に至る中継地のデータセンター22を再算出する指示を、中継地算出機能部14へ行い、中継地のデータセンター22を示す情報を再取得する。なお、ステップ132では、仮想マシン28の受け入れが困難な場合には、移動先に至る中継地のデータセンター22を再算出する指示を、中継地算出機能部14へ行う。また、仮想マシン28の移動処理の過程であることが考えられるため、移動に失敗した場合、ステップ132では、失敗した中継地を移動元として移動先に至る中継地のデータセンター22を再算出する指示を、中継地算出機能部14へ行う。次のステップ134では、図17に示す処理と同様に、中継地および移動先のリソースを確保し、本処理ルーチンを終了する。   In other words, the CPU 44 of the computer 42 operating as the management apparatus 12 notifies the virtualization resource control function unit 17 from the migration management function unit 15 that the acceptance of the virtual machine 28 is difficult or the migration has failed in step 132. . The virtualization resource control function unit 17 instructs the relay point calculation function unit 14 to recalculate the relay point data center 22 reaching the destination, similarly to the process of step 118 shown in FIG. Information indicating the data center 22 is reacquired. In step 132, if it is difficult to accept the virtual machine 28, an instruction to recalculate the data center 22 at the relay point reaching the destination is given to the relay point calculation function unit 14. In addition, since it is considered that the process is in the process of moving the virtual machine 28, if the movement fails, in step 132, the data center 22 of the relay point reaching the destination is recalculated with the failed relay point as the movement source. An instruction is given to the relay point calculation function unit 14. In the next step 134, similarly to the processing shown in FIG. 17, the relay point and the destination resource are secured, and this processing routine ends.

次に、仮想マシン管理システム10において、仮想マシン28の移動前に、中継地および移動先のデータセンター22に確保したリソースを、解放することについてさらに説明する。   Next, in the virtual machine management system 10, the release of the resources secured in the relay point and the destination data center 22 before the movement of the virtual machine 28 will be further described.

図22に、仮想マシン管理システム10における仮想マシン28のリソース解放についての情報授受の一例を示す。   FIG. 22 shows an example of information exchange regarding the resource release of the virtual machine 28 in the virtual machine management system 10.

管理装置12では、マイグレーション管理機能部15による仮想マシン28の移動処理が終了すると(ステップ106)、仮想化リソース制御機能部17によって、確保済みの仮想マシン28のリソースの解放を要求する(ステップ108)。つまり、管理装置12は、仮想化リソース空塞管理テーブル66に基づいて、仮想マシン28の移動のために確保したリソースの開放を要求する。具体的には、管理装置12は、確保済みの仮想マシン28のリソースについて、移動処理が終了してから未使用のまま所定時間を経過したリソース、または確保してから未使用のまま所定時間を経過したリソースの解放を要求する。   In the management apparatus 12, when the migration process of the virtual machine 28 by the migration management function unit 15 is completed (step 106), the virtual resource control function unit 17 requests the release of the reserved virtual machine 28 resources (step 108). ). In other words, the management device 12 requests the release of the resources reserved for the movement of the virtual machine 28 based on the virtual resource empty / busy management table 66. Specifically, the management device 12 sets the resource of the reserved virtual machine 28 to a resource that has been used for a predetermined period of time after the migration process has been completed, or a predetermined period of time that has not been used and has been reserved. Request release of elapsed resources.

移動元のデータセンター22の物理マシン70は、管理装置12の要求に応じて、確保済みの仮想マシン28のリソースの解除(解放)する確保リソース解放処理を実行する(ステップ214)。つまり、仮想化リソース管理機能部34が管理装置12からの要求を受け付け、仮想化リソース制御機能部36へ確保済みの仮想マシン28のリソース解放を指示する。仮想化リソース制御機能部36は、リソース解放の指示に応じてリソースを解放する要求を仮想化基盤主要機能部32へ指示する。仮想化基盤主要機能部32は、仮想化リソース制御機能部36からのリソース解放指示に応じてリソースを解放し、解放を完了すると仮想化リソース制御機能部36へリソース解放完了を通知する。仮想化リソース制御機能部36は、リソース解放完了の通知を、仮想化リソース管理機能部34へ送る。仮想化リソース管理機能部34は、仮想マシン28のリソースの解放を完了したこと示す情報を管理装置12へ応答する。   In response to a request from the management apparatus 12, the physical machine 70 of the migration source data center 22 executes a secured resource release process for releasing (releasing) the resources of the secured virtual machine 28 (step 214). That is, the virtual resource management function unit 34 receives a request from the management device 12 and instructs the virtual resource control function unit 36 to release the resources of the reserved virtual machine 28. The virtualization resource control function unit 36 instructs the virtualization platform main function unit 32 to release a resource in response to a resource release instruction. The virtualization infrastructure main function unit 32 releases resources in response to a resource release instruction from the virtualization resource control function unit 36, and notifies the virtualization resource control function unit 36 of the completion of resource release when the release is completed. The virtual resource control function unit 36 sends a resource release completion notification to the virtual resource management function unit 34. The virtual resource management function unit 34 responds to the management apparatus 12 with information indicating that the release of the resources of the virtual machine 28 has been completed.

中継地および移動先のデータセンター22の物理マシン70も同様に、順次、仮想マシン28のリソース解放処理を実行する(ステップ214)。   Similarly, the physical machine 70 of the relay point and the data center 22 of the movement destination sequentially executes the resource release process of the virtual machine 28 (step 214).

図23に、管理装置12として動作するコンピュータ42で実行されるステップ108(図12)におけるリソース解放の要求処理の流れの一例を示す。また、図24に、データセンター22として動作する物理マシン70で実行されるステップ214(図13)におけるリソース解放処理の流れの一例を示す。   FIG. 23 shows an example of the flow of resource release request processing in step 108 (FIG. 12) executed by the computer 42 operating as the management apparatus 12. FIG. 24 shows an example of the flow of resource release processing in step 214 (FIG. 13) executed by the physical machine 70 operating as the data center 22.

管理装置12の仮想化リソース制御機能部17として動作するコンピュータ42のCPU44は、ステップ140で、仮想化リソース空塞管理テーブル66(図5)から1個のリソースIDを取得する。次にCPU44は、ステップ142で、ステップ140で取得したリソースIDが最後のリソースIDに対する処理が終了したか否かを判別することで全てのリソースIDに対する処理が終了したか否かを判断する。CPU44は、ステップ142で肯定判断した場合には、そのまま本処理ルーチンを終了し、否定判断した場合にはステップ144へ処理を移行する。   In step 140, the CPU 44 of the computer 42 that operates as the virtual resource control function unit 17 of the management apparatus 12 acquires one resource ID from the virtual resource empty / busy management table 66 (FIG. 5). Next, in step 142, the CPU 44 determines whether or not the processing for all resource IDs has been completed by determining whether or not the processing for the last resource ID of the resource ID acquired in step 140 has been completed. If the determination is affirmative in step 142, the CPU 44 ends the processing routine as it is. If the determination is negative, the CPU 44 proceeds to step 144.

ステップ144では、CPU44は、ステップ140で取得したリソースIDのリソースの状態が確保状態である「temporary」か否かを判断し、肯定判断の場合はステップ146へ処理を移行し、否定判断の場合はステップ152へ処理を移行する。ステップ146では、CPU44は、仮想化リソース空塞管理テーブル66を参照し、確保状態の経過時間T(現在時刻から最終更新時刻を減算した時間)を計算し、ステップ148へ進む。CPU44は、ステップ148で、経過時間Tが確保状態用に予め定めた時間T1を超えるか否かを判断する。予め定めた時間T1は、リソースの確保後に(図17に示すステップ116の肯定判断後に)、定めたタイムリミット値を用いることができる。例えば、リソースID「VRSid007」には、「VRS_class0」のリソースクラスで「T001」のタイムリミット値が設定される(図6および図7)。経過時間Tが時間T1以内の場合、確保されたリソースが利用される可能性があるため、CPU44はステップ148で否定判断し、ステップ140へ処理を戻し、次のリソースIDについての処理を実行する。一方、経過時間Tが時間T1を超える場合、CPU44はステップ148で肯定判断し、ステップ150で、リソースの解放を指示した後に、ステップ140へ処理を戻し、次のリソースIDについての処理を実行する。なお、ステップ150では、リソースの解放を指示する場合に、リソースIDを示す情報を含めて指示する。   In step 144, the CPU 44 determines whether or not the resource state of the resource ID acquired in step 140 is “temporary” in the secured state. If the determination is affirmative, the process proceeds to step 146. Shifts the processing to step 152. In step 146, the CPU 44 refers to the virtual resource empty / busy management table 66, calculates the elapsed time T (time obtained by subtracting the last update time from the current time) in the secured state, and proceeds to step 148. In step 148, the CPU 44 determines whether or not the elapsed time T exceeds a time T1 that is predetermined for the secured state. The predetermined time limit value can be used as the predetermined time T1 after the resource is secured (after affirmative determination in step 116 shown in FIG. 17). For example, the resource ID “VRSid007” is set with the time limit value “T001” in the resource class “VRS_class0” (FIGS. 6 and 7). If the elapsed time T is within the time T1, the reserved resource may be used. Therefore, the CPU 44 makes a negative determination in step 148, returns the process to step 140, and executes the process for the next resource ID. . On the other hand, if the elapsed time T exceeds the time T1, the CPU 44 makes an affirmative determination in step 148, and after instructing the release of the resource in step 150, returns the process to step 140 and executes the process for the next resource ID. . In step 150, when an instruction to release a resource is given, an instruction including information indicating a resource ID is given.

CPU44は、ステップ144で否定判断した場合、ステップ152で、ステップ140で取得したリソースIDのリソースの状態がマイグレーション中状態である「temporary on migration」か否かを判断する。CPU44は、ステップ152で肯定判断した場合、ステップ154へ処理を移行し、否定判断した場合、ステップ140へ処理を戻す。ステップ154では、CPU44は、仮想化リソース空塞管理テーブル66を参照し、マイグレーション中状態の経過時間T(現在時刻から最終更新時刻を減算した時間)を計算し、ステップ156へ進む。CPU44は、ステップ156で、経過時間Tがマイグレーション中状態用に予め定めた時間T2を超えるか否かを判断する。予め定めた時間T2は、時間T1と同一であってもよく、異なる時間を定めてもよい。本実施形態では、時間T1と時間T2とが同一の場合を説明する。経過時間Tが時間T2以内の場合、確保されたリソースが利用される可能性があるため、CPU44はステップ156で否定判断し、ステップ140へ処理を戻し、次のリソースIDについての処理を実行する。一方、経過時間Tが時間T2を超える場合、CPU44はステップ156で肯定判断し、ステップ158で、リソースの解放を指示した後に、ステップ140へ処理を戻し、次のリソースIDについての処理を実行する。なお、ステップ158では、リソースの解放を指示する場合に、リソースIDを示す情報を含めて指示する。   When the CPU 44 makes a negative determination in step 144, the CPU 44 determines in step 152 whether or not the resource state of the resource ID acquired in step 140 is “temporary on migration” which is a migration state. If the determination is affirmative in step 152, the CPU 44 proceeds to step 154. If the determination is negative, the CPU 44 returns the process to step 140. In step 154, the CPU 44 refers to the virtual resource empty / busy management table 66, calculates the elapsed time T (time obtained by subtracting the last update time from the current time) in the migration state, and proceeds to step 156. In step 156, the CPU 44 determines whether or not the elapsed time T exceeds a time T2 that is predetermined for the in-migration state. The predetermined time T2 may be the same as the time T1, or may be different. In the present embodiment, a case where time T1 and time T2 are the same will be described. If the elapsed time T is within the time T2, the reserved resource may be used. Therefore, the CPU 44 makes a negative determination in step 156, returns the process to step 140, and executes the process for the next resource ID. . On the other hand, when the elapsed time T exceeds the time T2, the CPU 44 makes an affirmative determination in step 156, and after instructing the release of the resource in step 158, returns the process to step 140 and executes the process for the next resource ID. . In step 158, when an instruction to release the resource is given, an instruction including information indicating the resource ID is given.

一方、データセンター22の物理マシン70のCPU72は、ステップ260において仮想化リソース管理機能部34で、管理装置12からのリソース解放要求を受け付け、仮想化リソース制御機能部36へ確保済みの仮想マシン28のリソース解放を指示する。つまり、CPU72は、リソースIDを示す情報で指示されたリソースの解放を指示することを、仮想化リソース制御機能部36へ行う。次にCPU72は、ステップ262において、仮想化リソース制御機能部36で、確保済みのリソースを解放する処理を実行する要求を仮想化基盤主要機能部32へ行う。CPU72は、次のステップ264において、仮想化基盤主要機能部32で、指示されたリソースIDのリソースを解放し、解放を完了すると仮想化リソース制御機能部36へリソース解放完了を通知する。また、仮想化リソース制御機能部36は、リソース解放完了の通知を、仮想化リソース管理機能部34へ送る。次にCPU72は、ステップ266において、仮想化リソース管理機能部34で、仮想マシン28のリソースの解放を完了したこと示す情報を管理装置12へ応答する。   On the other hand, the CPU 72 of the physical machine 70 in the data center 22 accepts a resource release request from the management apparatus 12 at the virtual resource management function unit 34 in step 260, and the virtual machine 28 that has been secured to the virtual resource control function unit 36. Instructs the release of resources. That is, the CPU 72 instructs the virtualization resource control function unit 36 to instruct the release of the resource designated by the information indicating the resource ID. Next, in step 262, the CPU 72 makes a request to the virtualization infrastructure main function unit 32 to execute a process for releasing the secured resource in the virtualization resource control function unit 36. In the next step 264, the CPU 72 releases the resource of the instructed resource ID in the virtualization infrastructure main function unit 32, and when the release is completed, notifies the virtualization resource control function unit 36 of the resource release completion. In addition, the virtual resource control function unit 36 sends a resource release completion notification to the virtual resource management function unit 34. Next, in step 266, the CPU 72 uses the virtualization resource management function unit 34 to respond to the management apparatus 12 with information indicating that the release of the resources of the virtual machine 28 has been completed.

以上説明したように、第1実施形態では、仮想マシン28の移動、例えばライブマイグレーションを行う前に、中継地および移動先の環境で、移動対象の仮想マシン28が使用するリソースを確保してから、ライブマイグレーションを実行する。つまり、仮想マシン28を移動する以前に、仮想マシン28が使用するリソースを予め確保でき、仮想マシン28を確実に移動することができる。また、仮想マシン28が使用するリソースを予め確保してから移動するので、仮想マシン28の移動後の仮想マシン28の稼働時に、リソース不足による仮想マシン28の性能低下を招くことはない。   As described above, in the first embodiment, before the virtual machine 28 is moved, for example, live migration is performed, the resources used by the virtual machine 28 to be moved are secured in the relay site and the destination environment. Execute live migration. That is, before moving the virtual machine 28, the resources used by the virtual machine 28 can be secured in advance, and the virtual machine 28 can be moved reliably. Further, since the resource used by the virtual machine 28 is secured in advance, the virtual machine 28 is moved before the virtual machine 28 is moved, so that the performance of the virtual machine 28 is not deteriorated due to insufficient resources.

また、第1実施形態では、移動元から移動先へ中継する中継地および経路(順序)を、中継地算出機能部14において算出し、算出された中継地および経路(順序)を示す情報に基づいて、仮想マシン28を移動する。従って、仮想マシン28を移動する中継地および経路(順序)を算出する部分を構成として分離でき、中継地算出機能部14で算出された情報を用いて、移動元から移動先へ至る仮想マシン28の移動を確実に行うことができる。   In the first embodiment, the relay point and route (order) to be relayed from the source to the destination are calculated by the relay point calculation function unit 14, and based on the information indicating the calculated relay point and route (order). The virtual machine 28 is moved. Therefore, a relay point and a part for calculating a route (order) for moving the virtual machine 28 can be separated as a configuration, and the virtual machine 28 from the movement source to the movement destination using the information calculated by the relay point calculation function unit 14. Can be reliably moved.

さらに、第1実施形態では、仮想マシン28が使用するリソースの確保が困難な場合に、移動元から移動先へ中継する中継地および経路(順序)を再取得する。従って、仮想マシン28の移動前に、仮想マシン28が使用するリソースを確保できる中継地および経路を特定でき、性能低下の可能性を含む仮想マシン28の移動を中止することができる。再取得で特定された中継地および経路によって、仮想マシン28を移動するので、移動対象の仮想マシン28の性能を低下させることなく、仮想マシン28を移動できる。   Furthermore, in the first embodiment, when it is difficult to secure the resources used by the virtual machine 28, the relay point and the route (order) relayed from the movement source to the movement destination are reacquired. Therefore, before the movement of the virtual machine 28, it is possible to specify a relay point and a route that can secure the resources used by the virtual machine 28, and it is possible to stop the movement of the virtual machine 28 including the possibility of performance degradation. Since the virtual machine 28 is moved according to the relay point and route specified by the reacquisition, the virtual machine 28 can be moved without degrading the performance of the virtual machine 28 to be moved.

また、第1実施形態では、仮想マシン28の移動中に、移動が困難な状況になる場合に、移動が困難な状況になった移動元から移動先へ中継する中継地および経路を再取得する。従って、仮想マシン28の移動中であっても、仮想マシン28が使用するリソースを確保できる中継地および経路を特定でき、移動対象の仮想マシン28の性能を低下させることなく、仮想マシン28を移動できる。   In the first embodiment, when the movement of the virtual machine 28 becomes difficult, the relay point and the route relayed from the movement source that has become difficult to move to the movement destination are reacquired. . Therefore, even when the virtual machine 28 is moving, it is possible to specify a relay point and a route that can secure the resources used by the virtual machine 28, and the virtual machine 28 can be moved without degrading the performance of the virtual machine 28 to be moved. it can.

さらにまた、第1実施形態では、移動対象の仮想マシン28が使用するリソースを確保してから、所定時間の未使用状態である場合に、確保済みのリソースを解放する。従って、リソースを長時間確保した状態で維持させることを抑制できる。また、第1実施形態では、移動対象の仮想マシン28を移動してから、所定時間を経過した場合に、確保済みのリソースを解放する。従って、仮想マシン28の移動後にリソースを長時間確保した状態で維持させることを抑制できる。   Furthermore, in the first embodiment, after a resource used by the virtual machine 28 to be moved is secured, the secured resource is released when the resource is unused for a predetermined time. Therefore, it is possible to suppress maintaining resources in a state in which the resources are secured for a long time. In the first embodiment, the reserved resources are released when a predetermined time elapses after the virtual machine 28 to be moved is moved. Therefore, it is possible to prevent the resources from being maintained in a state in which the virtual machines 28 are secured for a long time after the movement.

<第2実施形態>
次に第2実施形態を説明する。第2実施形態は、複数の仮想マシンを移動する場合に開示の技術を適用したものである。なお、第2実施形態は、第1実施形態と略同様の構成のため、同一部分には同一符号を付して詳細な説明を省略する。
Second Embodiment
Next, a second embodiment will be described. In the second embodiment, the disclosed technology is applied when moving a plurality of virtual machines. Since the second embodiment has substantially the same configuration as the first embodiment, the same parts are denoted by the same reference numerals and detailed description thereof is omitted.

図25に、第2実施形態にかかる仮想マシン管理システム10における仮想マシン28のリソース参照およびリソース確保についての情報授受の一例を示す。   FIG. 25 illustrates an example of information exchange regarding resource reference and resource reservation of the virtual machine 28 in the virtual machine management system 10 according to the second embodiment.

管理装置12の中継地算出機能部14は、中継地および経路(順序)を算出し(ステップ100)、仮想化リソース制御機能部17は、仮想マシン28およびデータセンター22の情報を取得する(ステップ102)。なお、第2実施形態では、移動対象の仮想マシン28は、VM IDが「V0001」、「V0002」、「V0003」で示される仮想マシン28とする。移動元のデータセンター22は、「V0001」、「V0002」、および「V0003」のVM IDで示される移動対象の仮想マシン28のリソース参照処理を実行する(ステップ202)。管理装置12は、複数の仮想マシン28の各リソース情報に、リソースID「VRSid001」、「VRSid002」、「VRSid003」を付与して仮想化基盤稼働率情報テーブル65に登録し、中継地および移動先に仮想マシン28のリソースの確保を要求する(ステップ104)。   The relay point calculation function unit 14 of the management apparatus 12 calculates a relay point and a route (order) (step 100), and the virtualization resource control function unit 17 acquires information of the virtual machine 28 and the data center 22 (step). 102). In the second embodiment, the virtual machine 28 to be moved is a virtual machine 28 whose VM IDs are indicated by “V0001”, “V0002”, and “V0003”. The migration source data center 22 executes the resource reference process of the migration target virtual machine 28 indicated by the VM IDs “V0001”, “V0002”, and “V0003” (step 202). The management apparatus 12 assigns resource IDs “VRSid001”, “VRSid002”, and “VRSid003” to each resource information of the plurality of virtual machines 28 and registers them in the virtualization infrastructure operating rate information table 65, and relay points and destinations Is requested to secure the resources of the virtual machine 28 (step 104).

中継地のデータセンター22は、移動対象の仮想マシン28のリソース確保処理を実行する(ステップ206)。なお、詳細は後述するが、第2実施形態では、中継地のデータセンター22に、複数の移動対象の仮想マシン28の各々のリソースを確保することを要求しない。つまり、第2実施形態では、複数の移動対象の仮想マシン28を順次移動することを前提として、移動対象の複数の仮想マシン28のうち最大のリソースを使用可能にリソース領域を確保しておき、確保したリソース領域を用いる。従って、管理装置12は、中継地のデータセンター22に、移動対象の複数の仮想マシン28のうち最大のリソースを使用可能に確保する指示を行う。そして、管理装置12は、仮想化リソース空塞管理テーブル66の空塞情報に、確保状態を示す「temporary」の情報が記憶される。一方、移動先のデータセンター22は、複数の移動対象の仮想マシン28の各々のリソースを確報するリソース確保処理を実行する(ステップ206)。   The data center 22 at the relay site executes a resource securing process for the virtual machine 28 to be moved (step 206). Although details will be described later, in the second embodiment, it is not required to secure each resource of the plurality of migration target virtual machines 28 in the data center 22 at the relay point. That is, in the second embodiment, on the premise that the plurality of migration target virtual machines 28 are sequentially moved, a resource area is secured so that the largest resource among the plurality of migration target virtual machines 28 can be used, Use the reserved resource area. Therefore, the management apparatus 12 instructs the data center 22 at the relay site to ensure that the maximum resource among the plurality of virtual machines 28 to be moved can be used. Then, the management device 12 stores “temporary” information indicating the secured state in the empty / busy information of the virtual resource empty / busy management table 66. On the other hand, the migration destination data center 22 executes a resource securing process for reporting each resource of the plurality of migration target virtual machines 28 (step 206).

図26に、第2実施形態にかかる管理装置12における情報取得処理の流れの一例を示す。また、図27に、第2実施形態にかかる移動元のデータセンター22におけるリソース参照処理の流れの一例を示す。   FIG. 26 shows an example of the flow of information acquisition processing in the management apparatus 12 according to the second embodiment. FIG. 27 shows an example of the flow of resource reference processing in the migration source data center 22 according to the second embodiment.

コンピュータ42のCPU44は、中継地リスト68を参照して、移動元から中継地を介して移動先のデータセンター22についての情報を取得する(ステップ110)。次にCPU44は、ステップ112Aで、移動元で稼働する移動対象の複数の仮想マシン28が使用する各リソース情報(リソースIDの「VRSid001」「VRSid002」「VRSid003」で示すリソース情報)を取得する。   The CPU 44 of the computer 42 refers to the relay location list 68 and acquires information about the destination data center 22 from the source via the relay location (step 110). Next, in step 112A, the CPU 44 acquires each resource information (resource information indicated by resource IDs “VRSid001”, “VRSid002”, and “VRSid003”) used by the plurality of migration target virtual machines 28 operating at the migration source.

一方、物理マシン70のCPU72は、ステップ220Aで、仮想化リソース制御機能部36へ移動対象の複数の仮想マシン28のリソース参照を指示し、ステップ222Aで、複数の仮想マシン28のリソースを確認する。次にCPU72は、ステップ224Aにおいて、移動対象の複数の仮想マシン28のリソースを示すリソース情報を取得結果として応答する。   On the other hand, the CPU 72 of the physical machine 70 instructs the virtualization resource control function unit 36 to refer to the resources of the plurality of virtual machines 28 to be moved in step 220A, and checks the resources of the plurality of virtual machines 28 in step 222A. . Next, in step 224A, the CPU 72 responds with resource information indicating the resources of the plurality of virtual machines 28 to be moved as an acquisition result.

図28に、第2実施形態にかかる管理装置12におけるリソース確保要求処理の流れの一例を示す。また、図29に、第2実施形態にかかるデータセンター22におけるリソース確保処理の流れの一例を示す。   FIG. 28 shows an example of the flow of resource securing request processing in the management apparatus 12 according to the second embodiment. FIG. 29 shows an example of the flow of resource securing processing in the data center 22 according to the second embodiment.

管理装置12の仮想化リソース制御機能部17として動作するコンピュータ42のCPU44は、ステップ114Aで、移動対象の複数の仮想マシン28のリソースを示すリソース情報のうち、最大となるリソースを示すリソース情報を特定する。次にCPU44は、ステップ114Bで、中継地のデータセンター22に、ステップ114Aで求めた最大のリソースを示すリソース情報の確保を要求する。なお、ステップ114Bでは、ステップ114Aで求めた最大のリソースを示すリソース情報を確保する要求を行うために、最大のリソース以上のリソースを示すリソース情報を要求してもよい。次のステップ114Cでは、CPU44は、移動先のデータセンター22に移動対象の複数の仮想マシン28の各々のリソースの確保を要求する。つまり、CPU44は、リソースID「VRSid001」「VRSid002」「VRSid003」のリソース情報によるリソースの確保を要求する。   In step 114A, the CPU 44 of the computer 42 that operates as the virtualized resource control function unit 17 of the management apparatus 12 sets resource information indicating the maximum resource among the resource information indicating the resources of the plurality of virtual machines 28 to be moved. Identify. Next, in step 114B, the CPU 44 requests the relay center data center 22 to secure resource information indicating the maximum resource obtained in step 114A. In step 114B, in order to make a request for securing resource information indicating the maximum resource obtained in step 114A, resource information indicating a resource greater than or equal to the maximum resource may be requested. In the next step 114C, the CPU 44 requests the migration destination data center 22 to secure each resource of the plurality of virtual machines 28 to be migrated. That is, the CPU 44 requests to secure a resource by using resource information of resource IDs “VRSid001”, “VRSid002”, and “VRSid003”.

一方、データセンター22では、CPU72は、まず、ステップ225で、管理装置12からの要求が中継地に対するものであるか否かを判断する。管理装置12からの要求が中継地に対する場合、CPU72は、ステップ225で肯定判断し、ステップ225Aにおいて、図18に示す処理と同様に、要求された(最大の)リソースを示すリソース情報によるリソースを確保する処理を実行する。一方、CPU72が、ステップ225で否定判断した場合、移動先のデータセンター22として、複数のリソースを確保する処理を実行する。つまり、CPU72は、ステップ226Aで、仮想化リソース制御機能部36へ移動対象の複数の仮想マシン28のリソース確保を指示する。次にCPU72は、ステップ228Aにおいて、仮想化リソース制御機能部36で、各リソースを確保する要求を仮想化基盤主要機能部32へ行う。CPU72は、次のステップ230Aにおいて、仮想化基盤主要機能部32で、複数のリソースを確保し、確保を完了すると仮想化リソース制御機能部36へ複数のリソース確保完了を通知する。また、仮想化リソース制御機能部36は、複数のリソース確保完了の通知を、仮想化リソース管理機能部34へ送る。次にCPU72は、ステップ232Aにおいて、仮想化リソース管理機能部34で、移動対象の複数の仮想マシン28のリソースの確保を完了したこと示す情報を管理装置12へ応答する。   On the other hand, in the data center 22, the CPU 72 first determines in step 225 whether or not the request from the management apparatus 12 is for the relay point. When the request from the management apparatus 12 is for the relay point, the CPU 72 makes an affirmative determination in step 225, and in step 225A, similarly to the processing shown in FIG. 18, the resource based on the resource information indicating the requested (maximum) resource is obtained. Execute the securing process. On the other hand, when the CPU 72 makes a negative determination in step 225, the CPU 72 executes a process of securing a plurality of resources as the data center 22 of the movement destination. That is, the CPU 72 instructs the virtualization resource control function unit 36 to secure the resources of the plurality of virtual machines 28 to be moved in step 226A. Next, in step 228A, the CPU 72 uses the virtualization resource control function unit 36 to make a request for securing each resource to the virtualization infrastructure main function unit 32. In the next step 230A, the CPU 72 reserves a plurality of resources in the virtualization infrastructure main function unit 32, and notifies the virtualization resource control function unit 36 of the completion of securing a plurality of resources when the reservation is completed. In addition, the virtual resource control function unit 36 sends a plurality of resource reservation completion notifications to the virtual resource management function unit 34. Next, in step 232A, the CPU 72 responds to the management apparatus 12 with information indicating that the virtual resource management function unit 34 has secured the resources of the plurality of virtual machines 28 to be moved.

図30に、第2実施形態にかかる仮想マシン管理システム10におけるライブマイグレーションについての情報授受の一例を示す。   FIG. 30 shows an example of information exchange about live migration in the virtual machine management system 10 according to the second embodiment.

管理装置12のマイグレーション管理機能部15は、移動順序に従って、受け入れ先のデータセンター22へ仮想マシン28の受け入れ確認を行った後に仮想マシン28の移動を指示することを(ステップ106)、移動対象の複数の仮想マシン28の各々について、順次実行する。   The migration management function unit 15 of the management apparatus 12 instructs the movement of the virtual machine 28 after confirming the acceptance of the virtual machine 28 to the receiving data center 22 in accordance with the movement order (step 106). Each of the plurality of virtual machines 28 is sequentially executed.

まず、移動元から受け入れ先として中継地へ仮想マシン28を移動する場合、移動元のデータセンター22と受け入れ先である中継地のデータセンター22との間で、仮想マシン28が移動される(ステップ210)。中継地のデータセンター22では、移動対象の複数の仮想マシン28のうち最大のリソースが使用可能に確保された1つの共通利用リソース(CPUリソース33及びメモリリソース35として確保されるリソース領域)を用いる。   First, when the virtual machine 28 is moved from the movement source to the relay destination as the reception destination, the virtual machine 28 is moved between the data center 22 of the movement source and the data center 22 of the relay destination as the reception destination (step) 210). In the data center 22 at the relay site, one common use resource (resource area secured as the CPU resource 33 and the memory resource 35) in which the maximum resource among the plurality of virtual machines 28 to be moved is secured is used. .

なお、管理装置12は、仮想化リソース空塞管理テーブル66(図5)の空塞情報に、複数の各仮想マシン28の移動中にのみ、マイグレーション中状態を示す「temporary on migration」の値を登録してもよく、複数の仮想マシン28の移動中にマイグレーション中状態を示す「temporary on migration」の値を維持させてもよい。   Note that the management device 12 sets the “temporary on migration” value indicating the migration state only during the movement of each of the plurality of virtual machines 28 to the vacancy information of the virtual resource vacancy management table 66 (FIG. 5). Registration may be performed, and a value of “temporary on migration” indicating a migration in progress state may be maintained while a plurality of virtual machines 28 are moving.

次に、中継地のデータセンター22から移動先のデータセンター22へ仮想マシンを移動する場合、中継地のデータセンター22と受け入れ先である移動先のデータセンター22との間で、仮想マシン28が移動される(ステップ210)。中継地のデータセンター22では、共通利用リソースとして確保されたリソースを用いて中継地のデータセンター22から、移動先のデータセンター22へ、仮想マシンが移動される。   Next, when a virtual machine is moved from the data center 22 at the relay site to the data center 22 at the transfer destination, the virtual machine 28 is connected between the data center 22 at the relay location and the data center 22 as the transfer destination. It is moved (step 210). In the data center 22 at the relay point, the virtual machine is moved from the data center 22 at the relay point to the data center 22 at the transfer destination using the resources secured as the common use resource.

図31に、第2実施形態にかかる移動元及び受け入れ先のデータセンター22として動作する物理マシン70で実行されるステップ210(図13)における移動処理の流れの一例を示す。なお、管理装置12で実行される移動対象の複数の仮想マシン28の移動処理は、図20に示す移動処理(図12に示すステップ106)を繰り返し実行するため、詳細な説明を省略する。   FIG. 31 shows an example of the flow of migration processing in step 210 (FIG. 13) executed by the physical machine 70 operating as the migration source and reception destination data center 22 according to the second embodiment. Note that the movement process of the plurality of virtual machines 28 to be moved executed by the management apparatus 12 repeatedly executes the movement process shown in FIG. 20 (step 106 shown in FIG. 12), and thus detailed description thereof is omitted.

データセンター22の仮想化基盤主要機能部32として動作する物理マシン70のCPU72は、仮想マシン28の受け入れが可能である場合(ステップ244で肯定判断した場合)、ステップ245へ処理を移行する。CPU72は、ステップ245で、自己の仮想化基盤26が中継地の仮想化基盤26であるか否かを判断する。ステップ245の判断は、管理装置12から中継地を示す受入情報であるか否かを判別することにより判断できる。CPU72は、ステップ245で、肯定判断した場合、ステップ247へ処理を移行し、移動対象の複数の仮想マシン28のうち最大のリソースが使用可能に確保された1つの共通利用リソースを用いて仮想マシン28を受け入れる。一方、CPU72は、ステップ245で、否定判断した場合、図21に示すステップ246の処理と同様に、仮想化基盤26に仮想マシン28を受け入れる処理を実行する。   When the CPU 72 of the physical machine 70 that operates as the virtualization infrastructure main function unit 32 of the data center 22 can accept the virtual machine 28 (when an affirmative determination is made at step 244), the process proceeds to step 245. In step 245, the CPU 72 determines whether or not its own virtualization infrastructure 26 is the virtualization infrastructure 26 at the relay site. The determination in step 245 can be determined by determining whether or not the received information indicates a relay point from the management device 12. If the CPU 72 makes an affirmative determination in step 245, the process proceeds to step 247, and the virtual machine uses one common usage resource in which the maximum resource among the plurality of virtual machines 28 to be moved is secured. Accept 28. On the other hand, if the CPU 72 makes a negative determination in step 245, the CPU 72 executes a process of accepting the virtual machine 28 in the virtualization platform 26 as in the process of step 246 shown in FIG. 21.

以上説明したように、第2実施形態では、複数の仮想マシン28を移動する場合に、中継地における環境で、移動対象の複数の仮想マシン28の各々が使用するリソースのうち最大となるリソース以上の1つのリソースを確保して移動を実行する。従って、中継地のデータセンター22において、複数の仮想マシン28の各々を移動するときに、複数の仮想マシン28のリソースの総和を確保する必要はない。これにより、第2実施形態では、第1実施形態の効果に加えて、中継地における環境で、移動対象の複数の仮想マシン28を移動するにあたり、リソース確保によるリソースの消費を抑制することができる。   As described above, in the second embodiment, when a plurality of virtual machines 28 are moved, the resource that is the largest of the resources used by each of the plurality of virtual machines 28 to be moved in the environment at the relay point is greater than or equal to the maximum resource. Secure one resource and execute the movement. Accordingly, when moving each of the plurality of virtual machines 28 in the data center 22 at the relay site, it is not necessary to secure the total of the resources of the plurality of virtual machines 28. As a result, in the second embodiment, in addition to the effects of the first embodiment, it is possible to suppress resource consumption due to resource reservation when moving a plurality of virtual machines 28 to be moved in an environment at a relay point. .

<第3実施形態>
次に第3実施形態を説明する。なお、第3実施形態は、第1実施形態と同様の構成のため、同一部分には同一符号を付して詳細な説明を省略する。
<Third Embodiment>
Next, a third embodiment will be described. In addition, since 3rd Embodiment is the structure similar to 1st Embodiment, it attaches | subjects the same code | symbol to the same part, and abbreviate | omits detailed description.

第1実施形態および第2実施形態では、移動対象の仮想マシン28が使用するリソースを参照して、受け入れ先のデータセンター22に、移動対象の仮想マシン28が使用するリソースを確保した。第3実施形態では、所定の時期に、仮想化基盤26に予め定めた一定量のリソースを予約してしておき、仮想マシン28を移動するときに、予約したリソースを、確保用のリソースとして用いるものである。つまり、ネットワーク20に接続され、仮想マシン28の移動について、受け入れ先となる可能性を有するデータセンター22に、予め定めた一定量のリソースを、仮想マシン28の移動用のリソースとして予約する。   In the first embodiment and the second embodiment, the resources used by the migration target virtual machine 28 are secured in the receiving data center 22 by referring to the resources used by the migration target virtual machine 28. In the third embodiment, a predetermined amount of resources are reserved in the virtualization platform 26 at a predetermined time, and when moving the virtual machine 28, the reserved resources are used as resources for securing. It is what is used. In other words, a predetermined amount of resources are reserved as resources for moving the virtual machine 28 in the data center 22 that is connected to the network 20 and has the possibility of receiving the movement of the virtual machine 28.

図32に、仮想マシン管理システム10における仮想マシン28のリソース参照およびリソース確保までの情報授受の一例を示す。   FIG. 32 shows an example of information exchange until resource reference and resource reservation of the virtual machine 28 in the virtual machine management system 10.

まず、管理装置12では、ライブマイグレーションの処理前に、仮想化リソース制御機能部17で、ネットワーク20に接続されるデータセンター22の各々に、仮想マシン28が使用するリソース用として定めたリソースの予約を行う(ステップ101)。つまり、管理装置12は、仮想化リソース制御機能部17で、データセンター22の各々に、仮想マシン28が使用するリソースとして予め定めた量のリソースを予約しておく。詳細には、管理装置12は、仮想化基盤テーブル63を参照して、仮想マシン28を構築可能な仮想化基盤26へ、予め定めたリソースを、仮想マシン28の移動時に使用可能に予約する要求を行う。なお、仮想マシン28が使用するリソース用として定めたリソースは、予め定めた仮想マシン28が使用するリソースの所定数分(例えば3倍)のリソースを定めることができる。   First, in the management apparatus 12, before the live migration process, the virtual resource control function unit 17 reserves resources determined for the resources used by the virtual machine 28 in each of the data centers 22 connected to the network 20. (Step 101). In other words, the management device 12 reserves a predetermined amount of resources as resources used by the virtual machine 28 in each of the data centers 22 by the virtualization resource control function unit 17. Specifically, the management device 12 refers to the virtualization infrastructure table 63 and requests to reserve a predetermined resource to the virtualization infrastructure 26 capable of constructing the virtual machine 28 so that it can be used when the virtual machine 28 is moved. I do. Note that the resource determined for the resource used by the virtual machine 28 can be determined by a predetermined number (for example, three times) of the resource used by the predetermined virtual machine 28.

データセンター22の各々では、管理装置12からのリソース予約処理を実行する(ステップ207)。つまり、管理装置12からのリソース予約の要求を、仮想化リソース管理機能部34が受け付け、仮想化リソース制御機能部36へリソース予約を指示する。仮想化リソース制御機能部36は、リソース予約の指示に応じてリソースを予約する要求を仮想化基盤主要機能部32へ指示する。仮想化基盤主要機能部32は、仮想化リソース制御機能部36からのリソース予約指示に応じてリソースを使用可能に予約し、予約を完了すると仮想化リソース制御機能部36へリソース予約完了を通知する。仮想化リソース制御機能部36は、リソース予約完了の通知を、仮想化リソース管理機能部34へ送る。仮想化リソース管理機能部34は、リソースの予約を完了したこと示す情報を管理装置12へ応答する。   In each of the data centers 22, resource reservation processing from the management device 12 is executed (step 207). That is, the virtual resource management function unit 34 receives a resource reservation request from the management apparatus 12 and instructs the virtual resource control function unit 36 to make a resource reservation. The virtualization resource control function unit 36 instructs the virtualization platform main function unit 32 to make a resource reservation request in response to a resource reservation instruction. The virtualization infrastructure main function unit 32 reserves resources according to the resource reservation instruction from the virtualization resource control function unit 36, and notifies the virtualization resource control function unit 36 of completion of resource reservation when the reservation is completed. . The virtual resource control function unit 36 sends a notification of resource reservation completion to the virtual resource management function unit 34. The virtual resource management function unit 34 responds to the management apparatus 12 with information indicating that the resource reservation has been completed.

管理装置12は、データセンター22の各々からの応答を受け取り、仮想化基盤稼働率情報テーブル65(図4)および仮想化リソース空塞管理テーブル66(図5)に登録する。仮想化基盤稼働率情報テーブル65には、予約したリソースを示す情報に対して、仮想マシン28は未定であるため、VMID、VM Name、およびNW Nameを示す情報は、未定であることを示す「NONE」の情報が記憶される。また、仮想化リソース空塞管理テーブル66の空塞情報には、確保状態を示す「temporary」またはマイグレーション中状態を示す「temporary on migration」の情報が記憶される。なお、仮想化リソース空塞管理テーブル66の空塞情報には、予約したリソースを示す情報として専用の情報を記憶してもよい。   The management device 12 receives a response from each of the data centers 22 and registers it in the virtualization infrastructure operating rate information table 65 (FIG. 4) and the virtual resource empty / busy management table 66 (FIG. 5). In the virtualization platform operation rate information table 65, since the virtual machine 28 is undetermined with respect to the information indicating the reserved resource, the information indicating the VMID, VM Name, and NW Name is undetermined. NONE "information is stored. In addition, in the vacancy information of the virtual resource vacancy management table 66, information on “temporary” indicating the secured state or “temporary on migration” indicating the in-migration state is stored. Note that dedicated information may be stored as information indicating the reserved resource in the empty / busy information of the virtualized resource empty / busy management table 66.

図33に、第3実施形態にかかる仮想化基盤稼働率情報テーブル65の一例を示す。また、図34に、第3実施形態にかかる仮想化リソース空塞管理テーブル66の一例を示す。   FIG. 33 shows an example of the virtual infrastructure operating rate information table 65 according to the third embodiment. FIG. 34 shows an example of the virtual resource empty / busy management table 66 according to the third embodiment.

図33は、仮想化基盤稼働率情報テーブル65にはリソースID「VRS002」、「VRS003」および「VRS006」、「VRS007」によるリソースが予約されることを示す。図34は、リソースID「VRS002」、「VRS003」および「VRS006」、「VRS007」によるリソースが、予約されたリソースとしてマイグレーション中状態を示す「temporary on migration」の情報が記憶されたことを示す。   FIG. 33 shows that resources with resource IDs “VRS002”, “VRS003”, “VRS006”, and “VRS007” are reserved in the virtualization infrastructure operating rate information table 65. FIG. 34 shows that “temporary on migration” information indicating that the resources with the resource IDs “VRS002”, “VRS003”, “VRS006”, and “VRS007” are being reserved is stored.

以上説明したように、第3実施形態では、仮想マシン28の移動前に、事前に一定量のリソースを予約しておくので、仮想マシン28の移動時に使用するリソース確保の失敗を抑制できる。   As described above, in the third embodiment, since a certain amount of resources are reserved in advance before the movement of the virtual machine 28, it is possible to suppress failure in securing resources used when the virtual machine 28 is moved.

なお、上記では仮想マシン管理システム10をコンピュータシステム40により実現する一例を説明した。しかし、これらの構成に限定されるものではなく、上記説明した要旨を逸脱しない範囲において、各種の改良及び変更を行っても良いのはもちろんである。   In the above description, an example in which the virtual machine management system 10 is realized by the computer system 40 has been described. However, the present invention is not limited to these configurations, and various improvements and modifications may be made without departing from the gist described above.

また、上記ではプログラムが記憶部に予め記憶(インストール)されている態様を説明したが、これに限定されるものではない。例えば、開示の技術における管理プログラムおよび仮想化基盤プログラムは、CD−ROMやDVD−ROM等の記録媒体に記録されている形態で提供することも可能である。   Moreover, although the aspect by which the program was previously memorize | stored (installed) in the memory | storage part was demonstrated above, it is not limited to this. For example, the management program and the virtualization platform program in the disclosed technology can be provided in a form recorded on a recording medium such as a CD-ROM or a DVD-ROM.

本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。   All documents, patent applications and technical standards mentioned in this specification are to the same extent as if each individual document, patent application and technical standard were specifically and individually stated to be incorporated by reference. Incorporated by reference in the book.

以上の実施形態に関し、更に以下の付記を開示する。   Regarding the above embodiment, the following additional notes are disclosed.

(付記1)
移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへ、移動する場合に、前記第1の物理マシンにおける移動対象の仮想マシンの資源割当量の情報を含む資源割当情報を取得すると共に、第1の物理マシン、前記第2の物理マシンおよび前記第3の物理マシンの各々の位置情報と、移動対象の仮想マシンが移動される物理マシンの移動順序情報とを取得する取得部と、
前記取得部で取得した位置情報に基づいて、前記第2の物理マシンおよび前記第3の物理マシンの各々に、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信する要求部と、
前記第2の物理マシン及び前記第3の物理マシンの各々から、前記要求部で送信した要求情報の応答を受け取り、前記取得部で取得した位置情報、移動順序情報および受け取った応答に基づいて、移動対象の仮想マシンを、前記移動順序情報に従って移動する指示を行う指示部と、
を備えた仮想マシン管理装置。
(Appendix 1)
When the migration target virtual machine operating on the migration source first physical machine is relayed by the second physical machine at the relay location and moved to the third physical machine at the migration destination, the first virtual machine is moved. Resource allocation information including information on the resource allocation amount of the virtual machine to be moved in the physical machine, and positional information of each of the first physical machine, the second physical machine, and the third physical machine; An acquisition unit that acquires movement order information of a physical machine to which a virtual machine to be moved is moved;
Indicates that the resource allocation amount indicated by the resource allocation information of the migration target virtual machine is secured in each of the second physical machine and the third physical machine based on the location information acquired by the acquisition unit. A request part for transmitting request information;
From each of the second physical machine and the third physical machine, a response of the request information transmitted by the request unit is received, and based on the position information acquired by the acquisition unit, the movement order information, and the received response, An instruction unit for instructing to move a virtual machine to be moved according to the movement order information;
A virtual machine management device.

(付記2)
前記取得部は、入力された、移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを示す情報、前記第1の物理マシンを示す情報、および移動先の第3の物理マシンを示す情報に基づいて、中継地の前記第2の物理マシンを示す情報を求めて、移動対象の仮想マシンが移動される物理マシンの移動順序情報を求める順序演算部から、前記位置情報および前記移動順序情報を取得する
ことを含む付記1に記載の仮想マシン管理装置。
(Appendix 2)
The acquisition unit is configured to input the information indicating the migration target virtual machine operating on the migration source first physical machine, the information indicating the first physical machine, and the migration destination third physical machine. Based on the indicated information, the position information and the movement are obtained from an order calculation unit that obtains information indicating the second physical machine at the relay point and obtains movement order information of the physical machine to which the virtual machine to be moved is moved. The virtual machine management device according to appendix 1, including obtaining order information.

(付記3)
前記指示部は、前記第2の物理マシンおよび前記第3の物理マシンの各々から、前記資源割当情報により示される資源割当量を確保したことを示す応答を受け取った場合、移動対象の仮想マシンを、移動する指示を行い、前記第2の物理マシン及び前記第3の物理マシンの少なくとも一方から、前記資源割当量を確保したことを示す応答を受け取れなかった場合、前記応答を受け取れなかった第2の物理マシンと相違する物理マシンの位置情報および前記移動順序情報を、再取得する指示を行う
ことを含む付記1または付記2に記載の仮想マシン管理装置。
(Appendix 3)
When the instruction unit receives a response indicating that the resource allocation amount indicated by the resource allocation information is secured from each of the second physical machine and the third physical machine, the instruction unit selects the virtual machine to be moved. If a response indicating that the resource allocation amount has been secured has not been received from at least one of the second physical machine and the third physical machine, a second instruction that has not received the response is issued. The virtual machine management device according to Supplementary Note 1 or Supplementary Note 2, which includes issuing an instruction to reacquire physical machine position information and movement order information that are different from the physical machine.

(付記4)
前記指示部は、前記第2の物理マシンまたは前記第3の物理マシンから、移動対象の仮想マシンの移動が失敗したことを示す情報を受け取ったときに、前記第2の物理マシンと相違する物理マシンの位置情報を、前記中継地の第2の物理マシンの位置情報として再取得する指示を行う
ことを含む付記1〜付記3の何れか1項に記載の仮想マシン管理装置。
(Appendix 4)
When the instruction unit receives information indicating that the movement of the virtual machine to be moved has failed from the second physical machine or the third physical machine, the instruction unit differs from the second physical machine. The virtual machine management device according to any one of appendix 1 to appendix 3, including an instruction to reacquire machine location information as location information of the second physical machine at the relay point.

(付記5)
前記取得部は、前記第1の物理マシン上で稼働する複数の移動対象の仮想マシンの各々の資源割当情報を取得し、
前記要求部は、前記取得部で取得した資源割当情報のうち、確保する資源割当量が所定量以上を示す資源割当情報により示される資源割当量を確保することを示す要求情報を送信する
ことを含む付記1〜付記4の何れか1項に記載の仮想マシン管理装置。
(Appendix 5)
The acquisition unit acquires resource allocation information for each of a plurality of migration target virtual machines operating on the first physical machine,
The request unit transmits request information indicating that a resource allocation amount indicated by resource allocation information indicating that a resource allocation amount to be secured is a predetermined amount or more among the resource allocation information acquired by the acquisition unit is secured. The virtual machine management device according to any one of appendix 1 to appendix 4, including the virtual machine management device.

(付記6)
複数の物理マシンの各々に、予め定めた資源割当量を確保する処理を実行する確保部
をさらに備え、
前記要求部は、前記確保部で確保した資源割当量を用いて、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信する
ことを含む付記1〜付記5の何れか1項に記載の仮想マシン管理装置。
(Appendix 6)
Each of the plurality of physical machines further includes a securing unit that executes processing for securing a predetermined resource allocation amount,
The request unit includes transmitting request information indicating that the resource allocation amount indicated by the resource allocation information of the migration target virtual machine is secured using the resource allocation amount secured by the securing unit. The virtual machine management device according to any one of appendix 5.

(付記7)
前記移動対象の仮想マシンが移動されたことを示す情報を受け取った場合に、前記第2の物理マシンおよび前記第3の物理マシンの各々に対して、前記確保した資源割当量の資源の割り当てを解放する処理を実行する解放部
をさらに備えた付記1〜付記6の何れか1項に記載の仮想マシン管理装置。
(Appendix 7)
When information indicating that the virtual machine to be moved has been moved is received, the allocated resource allocation amount is allocated to each of the second physical machine and the third physical machine. The virtual machine management device according to any one of supplementary notes 1 to 6, further comprising a release unit that executes a release process.

(付記8)
前記要求部より前記要求情報を送信した前記第2の物理マシン及び前記第3の物理マシンの少なくとも一方の物理マシンについて、前記要求情報を送信してから所定時間を経過しても前記移動対象の仮想マシンが移動されたことを示す情報を受け取れない場合に、該当する前記第2の物理マシンおよび前記第3の物理マシンの少なくとも一方の物理マシンに対して、前記確保した資源割当量の資源の割り当てを解放する処理を実行する解放部
をさらに備えた
ことを含む付記1〜付記6の何れか1項に記載の仮想マシン管理装置。
(Appendix 8)
For at least one of the second physical machine and the third physical machine that has transmitted the request information from the request unit, even if a predetermined time elapses after the request information has been transmitted, When the information indicating that the virtual machine has been moved cannot be received, the resource allocation amount of the secured resource allocation amount is assigned to at least one of the corresponding second physical machine and the third physical machine. The virtual machine management device according to any one of supplementary notes 1 to 6, further comprising: a release unit that executes a process for releasing the allocation.

(付記9)
移動対象の仮想マシンが稼働する移動元の第1の物理マシンと、前記移動対象の仮想マシンの移動を中継する中継地の第2の物理マシンと、前記移動対象の仮想マシンの移動先の第3の物理マシンと、を含む仮想マシンシステムにおいて、
前記移動対象の仮想マシンを、移動元の第1の物理マシンから中継地の第2の物理マシンで中継して移動先の第3の物理マシンへ移動する制御を実行するコンピュータに、
前記コンピュータが、
前記第1の物理マシンにおける移動対象の仮想マシンの資源割当量の情報を含む資源割当情報を取得すると共に、第1の物理マシン、前記第2の物理マシンおよび前記第3の物理マシンの各々の位置情報と、移動対象の仮想マシンが移動される物理マシンの移動順序情報とを取得し、
取得した位置情報に基づいて、前記第2の物理マシンおよび前記第3の物理マシンの各々に、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信し
前記第2の物理マシン及び前記第3の物理マシンの各々から、送信した要求情報の応答を受け取り、取得した位置情報、移動順序情報および受け取った応答に基づいて、移動対象の仮想マシンを、前記移動順序情報に従って移動する指示を行う、
処理を実行させる仮想マシン管理システム。
(Appendix 9)
A first physical machine that is a migration source on which the virtual machine to be moved operates, a second physical machine that relays the movement of the virtual machine that is the movement target, and a first destination that is the movement destination of the virtual machine that is the movement target A virtual machine system including three physical machines,
A computer that executes control for relaying the virtual machine to be moved from the first physical machine that is the movement source to the second physical machine that is the relay destination and moving to the third physical machine that is the movement destination.
The computer is
The resource allocation information including information on the resource allocation amount of the virtual machine to be moved in the first physical machine is acquired, and each of the first physical machine, the second physical machine, and the third physical machine is acquired. Obtain location information and movement order information of the physical machine to which the virtual machine to be moved is moved,
Based on the acquired position information, request information indicating that the resource allocation amount indicated by the resource allocation information of the virtual machine to be moved is secured to each of the second physical machine and the third physical machine. The received request information response is received from each of the second physical machine and the third physical machine, and based on the acquired position information, movement order information, and received response, the virtual machine to be moved is Instructing movement according to the movement order information,
A virtual machine management system that executes processing.

(付記10)
仮想マシンが動作可能な複数の物理マシンを有する仮想マシンシステムにおいて、移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへの移動を制御する仮想マシン管理方法であって、
コンピュータに、
前記コンピュータが
移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへ、移動する場合に、前記第1の物理マシンにおける移動対象の仮想マシンの資源割当量の情報を含む資源割当情報を取得すると共に、第1の物理マシン、前記第2の物理マシンおよび前記第3の物理マシンの各々の位置情報と、移動対象の仮想マシンが移動される物理マシンの移動順序情報とを取得し、
取得した位置情報に基づいて、前記第2の物理マシンおよび前記第3の物理マシンの各々に、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信し、
前記第2の物理マシン及び前記第3の物理マシンの各々から、送信した要求情報の応答を受け取り、取得した位置情報、移動順序情報および受け取った応答に基づいて、移動対象の仮想マシンを、前記移動順序情報に従って移動する指示を行う、
ことを含む処理を実行させる仮想マシン管理方法。
(Appendix 10)
In a virtual machine system having a plurality of physical machines on which the virtual machine can operate, the migration target virtual machine running on the migration source first physical machine is relayed by the second physical machine at the relay site and moved. A virtual machine management method for controlling movement to a third physical machine,
On the computer,
When the computer relays the virtual machine to be moved running on the first physical machine of the movement source to the second physical machine of the relay destination and moves to the third physical machine of the movement destination, The resource allocation information including information on the resource allocation amount of the virtual machine to be moved in the first physical machine is acquired, and each of the first physical machine, the second physical machine, and the third physical machine is acquired. Obtain location information and movement order information of the physical machine to which the virtual machine to be moved is moved,
Based on the acquired position information, request information indicating that the resource allocation amount indicated by the resource allocation information of the virtual machine to be moved is secured to each of the second physical machine and the third physical machine. And
A response of the transmitted request information is received from each of the second physical machine and the third physical machine, and based on the acquired position information, movement order information, and the received response, the virtual machine to be moved is Instruct to move according to the movement order information,
Virtual machine management method for executing processing including the above.

(付記11)
仮想マシンが動作可能な複数の物理マシンを有する仮想マシンシステムにおいて、移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへ、移動する制御をコンピュータに実行させる仮想マシン管理プログラムであって、
前記コンピュータに、
前記コンピュータが
移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへ、移動する場合に、前記第1の物理マシンにおける移動対象の仮想マシンの資源割当量の情報を含む資源割当情報を取得すると共に、第1の物理マシン、前記第2の物理マシンおよび前記第3の物理マシンの各々の位置情報と、移動対象の仮想マシンが移動される物理マシンの移動順序情報とを取得し、
取得した位置情報に基づいて、前記第2の物理マシンおよび前記第3の物理マシンの各々に、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信し、
前記第2の物理マシン及び前記第3の物理マシンの各々から、送信した要求情報の応答を受け取り、取得した位置情報、移動順序情報および受け取った応答に基づいて、移動対象の仮想マシンを、前記移動順序情報に従って移動する指示を行う、
処理を実行させる仮想マシン管理プログラム。
(Appendix 11)
In a virtual machine system having a plurality of physical machines on which the virtual machine can operate, the migration target virtual machine running on the migration source first physical machine is relayed by the second physical machine at the relay site and moved. A virtual machine management program for causing a computer to execute control to move to the third physical machine,
In the computer,
When the computer relays the virtual machine to be moved running on the first physical machine of the movement source to the second physical machine of the relay destination and moves to the third physical machine of the movement destination, The resource allocation information including information on the resource allocation amount of the virtual machine to be moved in the first physical machine is acquired, and each of the first physical machine, the second physical machine, and the third physical machine is acquired. Obtain location information and movement order information of the physical machine to which the virtual machine to be moved is moved,
Based on the acquired position information, request information indicating that the resource allocation amount indicated by the resource allocation information of the virtual machine to be moved is secured to each of the second physical machine and the third physical machine. And
A response of the transmitted request information is received from each of the second physical machine and the third physical machine, and based on the acquired position information, movement order information, and the received response, the virtual machine to be moved is Instruct to move according to the movement order information,
Virtual machine management program that executes processing.

10 仮想マシン管理システム
12 管理装置
13 情報収集管理機能部
14 中継地算出機能部
15 マイグレーション管理機能部
16 記憶部
17 仮想化リソース制御機能部
18 仮想化リソース管理機能部
20 ネットワーク
22 データセンター
24 ゲートウェイ
26 仮想化基盤
28 仮想マシン
30 GW・ルータ機能部
32 仮想化基盤主要機能部
34 仮想化リソース管理機能部
36 仮想化リソース制御機能部
38 仮想マシン機能部
40 コンピュータシステム
42 コンピュータ
44 CPU
46 メモリ
51 RW装置
54 格納部
55 管理プログラム
56 情報収集プロセス
57 中継地算出プロセス
58 マイグレーション管理プロセス
59 仮想化リソース制御プロセス
60 仮想化リソース管理プロセス
62 テーブル
63 仮想化基盤テーブル
64 仮想マシンテーブル
65 仮想化基盤稼働率情報テーブル
66 仮想化リソース空塞管理テーブル
67 仮想化リソースタイマー管理テーブル
68 中継地リスト
69 記録媒体
70 物理マシン
72 CPU
74 メモリ
79 RW装置
82 格納部
83 GWプログラム
84 仮想化基盤プログラム
85 仮想化基盤主要プロセス
86 仮想化リソース管理プロセス
87 仮想化リソース制御プロセス
88 仮想マシンプログラム
DESCRIPTION OF SYMBOLS 10 Virtual machine management system 12 Management apparatus 13 Information collection management function part 14 Relay point calculation function part 15 Migration management function part 16 Storage part 17 Virtualization resource control function part 18 Virtualization resource management function part 20 Network 22 Data center 24 Gateway 26 Virtualization platform 28 Virtual machine 30 GW / router function unit 32 Virtualization platform main function unit 34 Virtualization resource management function unit 36 Virtualization resource control function unit 38 Virtual machine function unit 40 Computer system 42 Computer 44 CPU
46 Memory 51 RW device 54 Storage unit 55 Management program 56 Information collection process 57 Relay point calculation process 58 Migration management process 59 Virtualization resource control process 60 Virtualization resource management process 62 Table 63 Virtualization infrastructure table 64 Virtual machine table 65 Virtualization Base operating rate information table 66 Virtualized resource idle / busy management table 67 Virtualized resource timer management table 68 Relay destination list 69 Recording medium 70 Physical machine 72 CPU
74 Memory 79 RW device 82 Storage unit 83 GW program 84 Virtualization infrastructure program 85 Virtualization infrastructure main process 86 Virtualization resource management process 87 Virtualization resource control process 88 Virtual machine program

Claims (8)

移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへ、移動する場合に、前記第1の物理マシンにおける移動対象の仮想マシンの資源割当量の情報を含む資源割当情報を取得すると共に、第1の物理マシン、前記第2の物理マシンおよび前記第3の物理マシンの各々の位置情報と、移動対象の仮想マシンが移動される物理マシンの移動順序情報とを取得する取得部と、
前記取得部で取得した位置情報に基づいて、前記第2の物理マシンおよび前記第3の物理マシンの各々に、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信する要求部と、
前記第2の物理マシン及び前記第3の物理マシンの各々から、前記要求部で送信した要求情報の応答を受け取り、前記取得部で取得した位置情報、移動順序情報および受け取った応答に基づいて、移動対象の仮想マシンを、前記移動順序情報に従って移動する指示を行う指示部と、
を備えた仮想マシン管理装置。
When the migration target virtual machine operating on the migration source first physical machine is relayed by the second physical machine at the relay location and moved to the third physical machine at the migration destination, the first virtual machine is moved. Resource allocation information including information on the resource allocation amount of the virtual machine to be moved in the physical machine, and positional information of each of the first physical machine, the second physical machine, and the third physical machine; An acquisition unit that acquires movement order information of a physical machine to which a virtual machine to be moved is moved;
Indicates that the resource allocation amount indicated by the resource allocation information of the migration target virtual machine is secured in each of the second physical machine and the third physical machine based on the location information acquired by the acquisition unit. A request part for transmitting request information;
From each of the second physical machine and the third physical machine, a response of the request information transmitted by the request unit is received, and based on the position information acquired by the acquisition unit, the movement order information, and the received response, An instruction unit for instructing to move a virtual machine to be moved according to the movement order information;
A virtual machine management device.
前記指示部は、前記第2の物理マシンおよび前記第3の物理マシンの各々から、前記資源割当情報により示される資源割当量を確保したことを示す応答を受け取った場合、移動対象の仮想マシンを、移動する指示を行い、前記第2の物理マシン及び前記第3の物理マシンの少なくとも一方から、前記資源割当量を確保したことを示す応答を受け取れなかった場合、前記応答を受け取れなかった第2の物理マシンと相違する物理マシンの位置情報および前記移動順序情報を、再取得する指示を行う
請求項1に記載の仮想マシン管理装置。
When the instruction unit receives a response indicating that the resource allocation amount indicated by the resource allocation information is secured from each of the second physical machine and the third physical machine, the instruction unit selects the virtual machine to be moved. If a response indicating that the resource allocation amount has been secured has not been received from at least one of the second physical machine and the third physical machine, a second instruction that has not received the response is issued. The virtual machine management apparatus according to claim 1, wherein an instruction to reacquire physical machine position information and the movement order information different from the physical machine is issued.
前記取得部は、前記第1の物理マシン上で稼働する複数の移動対象の仮想マシンの各々の資源割当情報を取得し、
前記要求部は、前記取得部で取得した資源割当情報のうち、確保する資源割当量が所定量以上を示す資源割当情報により示される資源割当量を確保することを示す要求情報を送信する
請求項1または請求項2に記載の仮想マシン管理装置。
The acquisition unit acquires resource allocation information for each of a plurality of migration target virtual machines operating on the first physical machine,
The request unit transmits request information indicating that a resource allocation amount indicated by resource allocation information indicating that a resource allocation amount to be secured is a predetermined amount or more among the resource allocation information acquired by the acquisition unit is secured. The virtual machine management apparatus according to claim 1 or 2.
複数の物理マシンの各々に、予め定めた資源割当量を確保する処理を実行する確保部をさらに備え、
前記要求部は、前記確保部で確保した資源割当量を用いて、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信する
請求項1〜請求項3の何れか1項に記載の仮想マシン管理装置。
Each of the plurality of physical machines further includes a securing unit that executes a process of securing a predetermined resource allocation amount,
The request unit transmits request information indicating that the resource allocation amount indicated by the resource allocation information of the migration target virtual machine is secured using the resource allocation amount secured by the securing unit. 4. The virtual machine management device according to any one of 3 above.
前記移動対象の仮想マシンが移動されたことを示す情報を受け取った場合に、前記第2の物理マシンおよび前記第3の物理マシンの各々に対して、前記確保した資源割当量の資源の割り当てを解放する処理を実行する解放部
を含む請求項1〜請求項4の何れか1項に記載の仮想マシン管理装置。
When information indicating that the virtual machine to be moved has been moved is received, the allocated resource allocation amount is allocated to each of the second physical machine and the third physical machine. The virtual machine management device according to claim 1, further comprising: a release unit that executes a release process.
移動対象の仮想マシンが稼働する移動元の第1の物理マシンと、前記移動対象の仮想マシンの移動を中継する中継地の第2の物理マシンと、前記移動対象の仮想マシンの移動先の第3の物理マシンと、を含む仮想マシンシステムにおいて、
前記移動対象の仮想マシンを、移動元の第1の物理マシンから中継地の第2の物理マシンで中継して移動先の第3の物理マシンへ移動する制御を実行するコンピュータに、
前記コンピュータが、
前記第1の物理マシンにおける移動対象の仮想マシンの資源割当量の情報を含む資源割当情報を取得すると共に、第1の物理マシン、前記第2の物理マシンおよび前記第3の物理マシンの各々の位置情報と、移動対象の仮想マシンが移動される物理マシンの移動順序情報とを取得し、
取得した位置情報に基づいて、前記第2の物理マシンおよび前記第3の物理マシンの各々に、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信し
前記第2の物理マシン及び前記第3の物理マシンの各々から、送信した要求情報の応答を受け取り、取得した位置情報、移動順序情報および受け取った応答に基づいて、移動対象の仮想マシンを、前記移動順序情報に従って移動する指示を行う、
処理を実行させる仮想マシン管理システム。
A first physical machine that is a migration source on which the virtual machine to be moved operates, a second physical machine that relays the movement of the virtual machine that is the movement target, and a first destination that is the movement destination of the virtual machine that is the movement target A virtual machine system including three physical machines,
A computer that executes control for relaying the virtual machine to be moved from the first physical machine that is the movement source to the second physical machine that is the relay destination and moving to the third physical machine that is the movement destination.
The computer is
The resource allocation information including information on the resource allocation amount of the virtual machine to be moved in the first physical machine is acquired, and each of the first physical machine, the second physical machine, and the third physical machine is acquired. Obtain location information and movement order information of the physical machine to which the virtual machine to be moved is moved,
Based on the acquired position information, request information indicating that the resource allocation amount indicated by the resource allocation information of the virtual machine to be moved is secured to each of the second physical machine and the third physical machine. The received request information response is received from each of the second physical machine and the third physical machine, and based on the acquired position information, movement order information, and received response, the virtual machine to be moved is Instructing movement according to the movement order information,
A virtual machine management system that executes processing.
仮想マシンが動作可能な複数の物理マシンを有する仮想マシンシステムにおいて、移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへの移動を制御する仮想マシン管理方法であって、
コンピュータに、
前記コンピュータが
移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへ、移動する場合に、前記第1の物理マシンにおける移動対象の仮想マシンの資源割当量の情報を含む資源割当情報を取得すると共に、第1の物理マシン、前記第2の物理マシンおよび前記第3の物理マシンの各々の位置情報と、移動対象の仮想マシンが移動される物理マシンの移動順序情報とを取得し、
取得した位置情報に基づいて、前記第2の物理マシンおよび前記第3の物理マシンの各々に、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信し、
前記第2の物理マシン及び前記第3の物理マシンの各々から、送信した要求情報の応答を受け取り、取得した位置情報、移動順序情報および受け取った応答に基づいて、移動対象の仮想マシンを、前記移動順序情報に従って移動する指示を行う、
ことを含む処理を実行させる仮想マシン管理方法。
In a virtual machine system having a plurality of physical machines on which the virtual machine can operate, the migration target virtual machine running on the migration source first physical machine is relayed by the second physical machine at the relay site and moved. A virtual machine management method for controlling movement to a third physical machine,
On the computer,
When the computer relays the virtual machine to be moved running on the first physical machine of the movement source to the second physical machine of the relay destination and moves to the third physical machine of the movement destination, The resource allocation information including information on the resource allocation amount of the virtual machine to be moved in the first physical machine is acquired, and each of the first physical machine, the second physical machine, and the third physical machine is acquired. Obtain location information and movement order information of the physical machine to which the virtual machine to be moved is moved,
Based on the acquired position information, request information indicating that the resource allocation amount indicated by the resource allocation information of the virtual machine to be moved is secured to each of the second physical machine and the third physical machine. And
A response of the transmitted request information is received from each of the second physical machine and the third physical machine, and based on the acquired position information, movement order information, and the received response, the virtual machine to be moved is Instruct to move according to the movement order information,
Virtual machine management method for executing processing including the above.
仮想マシンが動作可能な複数の物理マシンを有する仮想マシンシステムにおいて、移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへ、移動する制御をコンピュータに実行させる仮想マシン管理プログラムであって、
前記コンピュータに、
前記コンピュータが
移動元の第1の物理マシン上で稼働する移動対象の仮想マシンを、中継地の第2の物理マシンで中継して、移動先の第3の物理マシンへ、移動する場合に、前記第1の物理マシンにおける移動対象の仮想マシンの資源割当量の情報を含む資源割当情報を取得すると共に、第1の物理マシン、前記第2の物理マシンおよび前記第3の物理マシンの各々の位置情報と、移動対象の仮想マシンが移動される物理マシンの移動順序情報とを取得し、
取得した位置情報に基づいて、前記第2の物理マシンおよび前記第3の物理マシンの各々に、移動対象の仮想マシンの資源割当情報により示される資源割当量を確保することを示す要求情報を送信し、
前記第2の物理マシン及び前記第3の物理マシンの各々から、送信した要求情報の応答を受け取り、取得した位置情報、移動順序情報および受け取った応答に基づいて、移動対象の仮想マシンを、前記移動順序情報に従って移動する指示を行う、
処理を実行させる仮想マシン管理プログラム。
In a virtual machine system having a plurality of physical machines on which the virtual machine can operate, the migration target virtual machine running on the migration source first physical machine is relayed by the second physical machine at the relay site and moved. A virtual machine management program for causing a computer to execute control to move to the third physical machine,
In the computer,
When the computer relays the virtual machine to be moved running on the first physical machine of the movement source to the second physical machine of the relay destination and moves to the third physical machine of the movement destination, The resource allocation information including information on the resource allocation amount of the virtual machine to be moved in the first physical machine is acquired, and each of the first physical machine, the second physical machine, and the third physical machine is acquired. Obtain location information and movement order information of the physical machine to which the virtual machine to be moved is moved,
Based on the acquired position information, request information indicating that the resource allocation amount indicated by the resource allocation information of the virtual machine to be moved is secured to each of the second physical machine and the third physical machine. And
A response of the transmitted request information is received from each of the second physical machine and the third physical machine, and based on the acquired position information, movement order information, and the received response, the virtual machine to be moved is Instruct to move according to the movement order information,
Virtual machine management program that executes processing.
JP2014153688A 2014-07-29 2014-07-29 Virtual machine management apparatus, virtual machine management system, virtual machine management method, and virtual machine management program Expired - Fee Related JP6384180B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014153688A JP6384180B2 (en) 2014-07-29 2014-07-29 Virtual machine management apparatus, virtual machine management system, virtual machine management method, and virtual machine management program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014153688A JP6384180B2 (en) 2014-07-29 2014-07-29 Virtual machine management apparatus, virtual machine management system, virtual machine management method, and virtual machine management program

Publications (2)

Publication Number Publication Date
JP2016031640A true JP2016031640A (en) 2016-03-07
JP6384180B2 JP6384180B2 (en) 2018-09-05

Family

ID=55441984

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014153688A Expired - Fee Related JP6384180B2 (en) 2014-07-29 2014-07-29 Virtual machine management apparatus, virtual machine management system, virtual machine management method, and virtual machine management program

Country Status (1)

Country Link
JP (1) JP6384180B2 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012118980A (en) * 2010-11-29 2012-06-21 Internatl Business Mach Corp <Ibm> Method, system, and computer program for providing plan for highly reliable shift in stability-limited virtualized environment
JP2014067322A (en) * 2012-09-27 2014-04-17 Hitachi Ltd Load distribution system of virtual server, and load distribution method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012118980A (en) * 2010-11-29 2012-06-21 Internatl Business Mach Corp <Ibm> Method, system, and computer program for providing plan for highly reliable shift in stability-limited virtualized environment
JP2014067322A (en) * 2012-09-27 2014-04-17 Hitachi Ltd Load distribution system of virtual server, and load distribution method

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
山登庸次ほか: "低利用者影響・低コストの共有ホスティングサーバ更改技術の開発", 電子情報通信学会論文誌, vol. 第J95-B巻 第4号, JPN6018009050, 1 April 2012 (2012-04-01), JP, pages 547 - 555, ISSN: 0003757408 *

Also Published As

Publication number Publication date
JP6384180B2 (en) 2018-09-05

Similar Documents

Publication Publication Date Title
JP6729399B2 (en) System, virtualization control device, control method of virtualization control device, and program
JP5815512B2 (en) Resource management method, computer system, and program
JP6447329B2 (en) Parallel computing controller, parallel computing system, and migration time estimation program
JP6963168B2 (en) Information processing device, memory control method and memory control program
JP6263424B2 (en) Management system and management method
CN103297412B (en) Thin client system, connection management server, connection management method and computer-readable medium
JPWO2012066640A1 (en) Computer system, migration method and management server
JPWO2018002991A1 (en) Control device, VNF placement destination selection method, and program
JPWO2017179537A1 (en) SOFTWARE UPDATE CONTROL DEVICE, SOFTWARE UPDATE CONTROL SYSTEM, SOFTWARE UPDATE CONTROL METHOD, AND RECORDING MEDIUM CONTAINING SOFTWARE UPDATE CONTROL PROGRAM
JP5994601B2 (en) Parallel computer, parallel computer control program, and parallel computer control method
US8826074B2 (en) Live module diagnostic testing
JP5867238B2 (en) Auto scaling method, auto scaling program and computer node
JP6010975B2 (en) Job management apparatus, job management method, and program
JP2016131298A (en) Path calculation device and path calculation method
WO2016121879A1 (en) Virtualization control apparatus, arrangement destination selecting method and program
JP2017182435A (en) Virtualization system, management server, and migration method
JP6384180B2 (en) Virtual machine management apparatus, virtual machine management system, virtual machine management method, and virtual machine management program
WO2019159875A1 (en) Arrangement constitution device and arrangement constitution method
JP2013105237A (en) Job processing system, job processing device, load distributing device, job processing program, and load distributing program
JP2014067322A (en) Load distribution system of virtual server, and load distribution method
JP2016062535A (en) Information processing system, information processing system control method, and control program
US20120151493A1 (en) Relay apparatus and relay management apparatus
JP5504651B2 (en) Virtual machine system, information processing apparatus, resource management method, program, and recording medium
JP5965781B2 (en) Resource management apparatus, resource management method and program
JP5601473B2 (en) Shared resource management system and shared resource management method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170406

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180509

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180710

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180723

R150 Certificate of patent or registration of utility model

Ref document number: 6384180

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees