[go: up one dir, main page]

JP2001325582A - Time series data learning and prediction device - Google Patents

Time series data learning and prediction device

Info

Publication number
JP2001325582A
JP2001325582A JP2000149822A JP2000149822A JP2001325582A JP 2001325582 A JP2001325582 A JP 2001325582A JP 2000149822 A JP2000149822 A JP 2000149822A JP 2000149822 A JP2000149822 A JP 2000149822A JP 2001325582 A JP2001325582 A JP 2001325582A
Authority
JP
Japan
Prior art keywords
prediction
learning
time
data
series data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000149822A
Other languages
Japanese (ja)
Other versions
JP3637412B2 (en
Inventor
Isao Shiromaru
功 四郎丸
Isao Yamada
一三雄 山田
Kenji Tominaga
堅治 冨永
Koji Oga
幸治 大賀
Buichi Maruyama
武一 丸山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chugoku Electric Power Co Inc
Hitachi Ltd
Original Assignee
Chugoku Electric Power Co Inc
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chugoku Electric Power Co Inc, Hitachi Ltd filed Critical Chugoku Electric Power Co Inc
Priority to JP2000149822A priority Critical patent/JP3637412B2/en
Publication of JP2001325582A publication Critical patent/JP2001325582A/en
Application granted granted Critical
Publication of JP3637412B2 publication Critical patent/JP3637412B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Feedback Control In General (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

(57)【要約】 【課題】 予測パラメータに関する教師データの変化幅
に応じて、ニューラルネットの学習・予測方式を選択す
ることで、規格化に伴う予測誤差を低減し、時系列デー
タの将来値を精度よく予測できる装置を提供する。 【解決手段】 プラント10からデータ収集部30で収
集した時系列データについて、変化率計算部50で変化
率データを計算する。学習・予測方式選択部60で、予
測パラメータの時系列データおよび変化率データの変化
幅を比較して、変化幅の小さいデータでニューラルネッ
トを学習する方式を選択する。選択した学習方式にもと
づきニューラルネット学習部70で予測モデルを作成し
て、予測モデル格納部90に保存する。学習・予測方式
選択部60で選択した予測方式にもとづいて、ニューラ
ルネット予測部80で予測モデルを予測モデル格納部9
0から入力し、予測を実行する。マンマシン部20では
予測結果を表示する。
(57) [Summary] [Problem] To reduce a prediction error due to standardization by selecting a learning / prediction method of a neural network according to a variation width of teacher data related to a prediction parameter, and to obtain a future value of time-series data. To provide a device capable of accurately predicting A change rate calculator calculates change rate data for time-series data collected by a data collection unit from a plant. The learning / prediction method selection unit 60 compares the change width of the time-series data of the prediction parameter and the change width of the change rate data, and selects a method of learning a neural network with data having a small change width. A prediction model is created by the neural network learning unit 70 based on the selected learning method, and is stored in the prediction model storage unit 90. On the basis of the prediction method selected by the learning / prediction method selection unit 60, the neural network prediction unit 80 stores the prediction model in the prediction model storage unit 9.
Input from 0 and execute prediction. The man-machine section 20 displays the prediction result.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、時系列データの将
来値を予測するニューラルネットを用いた時系列データ
学習・予測装置に係り、特に、予測パラメータに関する
データ(教師データ)の変化幅に応じて、ニューラルネ
ットの学習・予測方式を選択する時系列データ学習・予
測装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a time-series data learning / prediction apparatus using a neural network for predicting a future value of time-series data. In addition, the present invention relates to a time series data learning and prediction device for selecting a learning and prediction method of a neural network.

【0002】[0002]

【従来の技術】株価、交通量、電力需要あるいは大規模
プラントのプロセス値などの将来状態を精度よく予測す
ることは、将来起こりうる事態に適切に対処するために
重要である。しかしながら、このような対象の将来状態
は様々な要因が複雑に絡み合って決まるため、因果関係
にもとづいて予測モデルを構築することは一般に困難で
ある。
2. Description of the Related Art It is important to accurately predict future states such as stock prices, traffic volumes, power demands, or process values of large-scale plants in order to appropriately cope with possible future situations. However, since the future state of such an object is determined by various factors intricately intertwined, it is generally difficult to construct a prediction model based on a causal relationship.

【0003】このような場合、収集した時系列データを
用いて予測モデルを構築する手法が有効である。例え
ば、時系列データを統計的に処理した回帰モデルや、時
系列データに含まれる動的なパターンを学習するニュー
ラルネット等がある。特にニューラルネットは、予測対
象の非線形性もモデル化が可能なことから、上記対象の
将来状態の予測に有効である。
In such a case, it is effective to construct a prediction model using the collected time-series data. For example, there are a regression model that statistically processes time-series data, a neural network that learns a dynamic pattern included in the time-series data, and the like. In particular, a neural network is effective in predicting the future state of the target because the nonlinearity of the target can be modeled.

【0004】ニューラルネットを用いた時系列データの
学習・予測方法の概要を示す。まず、ニューラルネット
の学習では、学習データである入力データとそれに対応
する教師データをそれぞれの時系列データの変化幅にも
とづいて、通常0から1に規格化する。これは、ニュー
ラルネットの各ユニットに閾値が0から1のシグモイド
関数を用いており、学習データを0から1に規格化する
ことで学習の収束性が高まるためである。このように規
格化した時系列データをニューラルネットの入出力ユニ
ットに与え、誤差逆伝播法等の学習アルゴリズムでニュ
ーラルネットの出力値と教師データが一致するように最
適化計算を行う。
An outline of a method of learning and predicting time-series data using a neural network will be described. First, in learning of a neural network, input data, which is learning data, and teacher data corresponding thereto are normally normalized from 0 to 1 based on the variation width of each time-series data. This is because a sigmoid function with a threshold value of 0 to 1 is used for each unit of the neural network, and the convergence of learning is improved by normalizing the learning data from 0 to 1. The time series data thus standardized is supplied to the input / output unit of the neural network, and optimization calculation is performed by a learning algorithm such as an error back propagation method so that the output value of the neural network matches the teacher data.

【0005】つぎに、予測では、学習したニューラルネ
ットの入力ユニットに、学習時と同様に規格化した時系
列データを与える。ここで得られるニューラルネットの
出力値は規格化した値のため、学習時に教師データを規
格化した値で変換し、所望の予測値を算出する。
Next, in prediction, standardized time-series data is given to the input unit of the learned neural network as in the case of learning. Since the output value of the neural network obtained here is a normalized value, at the time of learning, the teacher data is converted with the normalized value to calculate a desired predicted value.

【0006】以上のようにニューラルネットで時系列デ
ータの学習・予測を実施する一例として、特開平10−
187226号公報がある。
As an example of learning and predicting time-series data using a neural network as described above, Japanese Patent Application Laid-Open No.
There is 187226 gazette.

【0007】[0007]

【発明が解決しようとする課題】しかしながら、規格化
した時系列データを用いてニューラルネットの学習・予
測を行う場合、予測する時系列データの変化幅が大きい
場合、予測誤差が大きくなる問題があった。
However, when learning / predicting a neural network using standardized time-series data, there is a problem that a prediction error increases when the range of change of the predicted time-series data is large. Was.

【0008】本発明の目的は、ニューラルネットを用い
た時系列データの学習・予測において、予測する時系列
データの規格化に関わる誤差を低減し、予測精度向上を
図るもので、予測に用いる時系列データの変化幅によっ
て、学習・予測方式を選択することでこれを実現する時
系列データの学習・予測装置を提供することにある。
An object of the present invention is to improve the prediction accuracy in learning and prediction of time-series data using a neural network, in order to reduce errors relating to standardization of the time-series data to be predicted, and to improve prediction accuracy. An object of the present invention is to provide a learning / prediction apparatus for time-series data, which realizes this by selecting a learning / prediction method according to a variation width of the series data.

【0009】[0009]

【課題を解決するための手段】上記の目的は、時系列デ
ータを収集するデータ収集部と、収集した時系列データ
を記憶するデータ記憶部と、記憶した時系列データの変
化率データを計算する変化率計算部と、予測パラメータ
の時系列データを学習・予測するか、予測パラメータの
時系列データの変化率データを学習・予測するかを選択
する学習・予測方式選択部と、前記学習・予測方式選択
部で選択した方式でニューラルネットを学習するニュー
ラルネット学習部と、学習したニューラルネットを格納
する予測モデル格納部と、前記学習・予測方式選択部で
選択した方式で時系列データの将来値を予測するニュー
ラルネット予測部と、ニューラルネットの学習・予測を
実行するためのユーザ設定ならびに前記ニューラルネッ
ト予測部での予測結果の表示を行うマンマシン部を備え
たことによって達成される。
An object of the present invention is to provide a data collection unit for collecting time-series data, a data storage unit for storing the collected time-series data, and calculating change rate data of the stored time-series data. A change rate calculator, a learning / prediction method selector for selecting whether to learn / predict time-series data of prediction parameters or to learn / predict change rate data of time-series data of prediction parameters; A neural network learning unit that learns the neural network in the method selected by the method selection unit, a prediction model storage unit that stores the learned neural net, and a future value of the time-series data in the method selected by the learning / prediction method selection unit. Neural network prediction unit for predicting the user, user settings for executing learning and prediction of the neural network, and prediction by the neural network prediction unit It is achieved by having a man-machine unit for displaying the results.

【0010】上記の手段によれば、学習・予測する対象
を時系列データと変化率データとから選択することがで
きる。これにより、予測精度の高いほうの学習・予測を
実行することが実現できる。
[0010] According to the above means, an object to be learned / predicted can be selected from time series data and change rate data. As a result, it is possible to realize learning and prediction with higher prediction accuracy.

【0011】また上記の目的は、前記学習・予測選択部
が、予測パラメータの時系列データの変化幅と前記変化
率計算部で求めた予測パラメータの時系列データの変化
率データの変化幅とを比較し、変化幅の小さい方のデー
タをニューラルネットで学習・予測に用いるよう選択す
ることで達成される。
The above object is also provided in that the learning / prediction selecting unit determines the change width of the time series data of the prediction parameter and the change width of the change rate data of the time series data of the prediction parameter obtained by the change rate calculating unit. This is achieved by comparing and selecting the data with the smaller change width to be used for learning and prediction by a neural network.

【0012】上記の手段によれば、学習・予測する対象
を時系列データ自身か変化率データかを、それぞれの変
化幅に基づいて小さいほうを選択することができる。こ
れにより、ニューラルネットの学習において、データの
規格化に関わる誤差を低減し、予測精度の向上が実現で
きる。
According to the above-mentioned means, it is possible to select the smaller one of the object to be learned / predicted, the time-series data itself and the change rate data, based on the width of each change. As a result, in learning of the neural network, errors relating to data normalization can be reduced and prediction accuracy can be improved.

【0013】また上記の目的は、前記ニューラルネット
予測部が、時系列データを用いて予測する場合の時系列
データ用予測手段と、変化率データを用いて予測する場
合の変化率データ用予測手段を有することによって達成
される。
It is another object of the present invention to provide a neural network predicting unit for predicting time series data using time series data, and a prediction unit for change rate data when predicting using change rate data. This is achieved by having

【0014】上記の手段によれば、予測パラメータの変
化に応じて、学習・予測する対象を時系列データ自身と
変化率データとの間で切り替えることができる。これに
より、予測実行中の予測パラメータの変化に対して、よ
り予測精度の高い予測方式を選択することができる。
According to the above-mentioned means, the learning / prediction target can be switched between the time series data itself and the change rate data in accordance with the change of the prediction parameter. Accordingly, it is possible to select a prediction method with higher prediction accuracy with respect to a change in the prediction parameter during the prediction.

【0015】また上記の目的は、前記学習・予測方式選
択部が、予測実行毎もしくは複数回おきに、予測方式の
選択を行い、前記ニューラルネット予測部が、前記選択
条件に適合する予測モデルを前記予測モデル格納部から
入力して予測することで達成される。
The object of the present invention is to provide a learning / prediction method selection unit which selects a prediction method every time a prediction is executed or every plural times, and wherein the neural network prediction unit selects a prediction model which satisfies the selection conditions. This is achieved by performing prediction by inputting from the prediction model storage unit.

【0016】上記の手段によれば、学習・予測する対象
を時系列データ自身と変化率データとの間で自動的に切
り替えることができる。これにより、予測実行中の予測
パラメータの変化に対して、自動的に予測精度の高い予
測方式を選択することができる。
According to the above means, the object to be learned / predicted can be automatically switched between the time series data itself and the change rate data. This makes it possible to automatically select a prediction method with high prediction accuracy in response to a change in the prediction parameter during the prediction.

【0017】また上記の目的は、前記学習・予測方式選
択部が、選択された時系列データもしくは変化率データ
の最大値と最小値を規格化の上限値と下限値として設定
し、前記ニューラルネット学習部及びニューラルネット
予測部が、前記選択された時系列データもしくは変化率
データについて前記上限値と下限値を用いて規格化した
後該データで学習・予測を実行することで達成される。
The above-mentioned object is also achieved by the learning / prediction method selecting section setting the maximum value and the minimum value of the selected time-series data or the change rate data as the upper limit value and the lower limit value of the normalization, The learning unit and the neural network prediction unit normalize the selected time-series data or the change rate data using the upper limit value and the lower limit value, and then perform learning / prediction on the data.

【0018】上記の手段によれば、ニューラルネットに
時系列データもしくは変化率データを規格化して与える
ことにより、学習の収束性が向上する。
According to the above means, the convergence of learning is improved by standardizing and providing the time series data or the change rate data to the neural network.

【0019】[0019]

【発明の実施の形態】以下、本発明の実施形態を図面を
参照して説明する。
Embodiments of the present invention will be described below with reference to the drawings.

【0020】図1は、本発明に好適な一実施形態の時系
列データ学習・予測装置の構成を示す。本実施形態の時
系列データ学習・予測装置は、マンマシン部20、デー
タ収集部30、データ記憶部40、変化率計算部50、
学習・予測方式選択部60、ニューラルネット学習部7
0、ニューラルネット予測部80、モデル格納部90か
らなる。ニューラルネット学習部70は、学習用データ
処理手段710と学習手段720からなり、ニューラル
ネット予測部80は、予測用データ処理手段810と時
系列データ用予測手段820と変化率データ用予測手段
830からなる。
FIG. 1 shows a configuration of a time-series data learning / prediction apparatus according to an embodiment suitable for the present invention. The time-series data learning / prediction device of the present embodiment includes a man-machine unit 20, a data collection unit 30, a data storage unit 40, a change rate calculation unit 50,
Learning / prediction method selection unit 60, neural network learning unit 7
0, a neural network prediction unit 80, and a model storage unit 90. The neural network learning unit 70 includes a learning data processing unit 710 and a learning unit 720, and the neural network prediction unit 80 includes a prediction data processing unit 810, a time series data prediction unit 820, and a change rate data prediction unit 830. Become.

【0021】つぎに、図1の時系列データ学習・予測装
置における各部の動作および信号の流れを説明する。
Next, the operation of each unit and the flow of signals in the time-series data learning / prediction apparatus of FIG. 1 will be described.

【0022】マンマシン部20は、学習・予測を実行す
るための設定と、学習・予測を実行した結果の表示に用
いられる。学習・予測の設定として、ユーザは、予測対
象の予測パラメータ名と予測時間と予測実行周期、学習
に用いる入力パラメータ名、データ収集のサンプリング
時間、後述する学習・予測方式選択部60の起動周期、
ニューラルネットのパラメータをマンマシン部20で入
力する。ニューラルネットのパラメータには、ニューラ
ルネットの入力層および中間層ユニット数、学習係数、
ユニット間の結合係数の初期値、学習データのサンプリ
ング方法、学習の収束条件がある。学習・予測の実行結
果の表示については、表示例を後述説明する。
The man-machine section 20 is used for setting for executing learning / prediction and for displaying the result of executing learning / prediction. As the setting of learning / prediction, the user sets the prediction parameter name, prediction time, and prediction execution cycle of the prediction target, the input parameter name used for learning, the sampling time of data collection, the activation cycle of the learning / prediction method selection unit 60 described later,
The parameters of the neural network are input by the man-machine unit 20. The parameters of the neural network include the number of units in the input layer and hidden layer of the neural network, the learning coefficient,
There are initial values of coupling coefficients between units, a sampling method of learning data, and learning convergence conditions. A display example of the execution result of the learning / prediction will be described later.

【0023】データ収集部30では、前記設定されたデ
ータ収集のサンプリング時間毎に、前記設定された予測
パラメータ名と入力パラメータ名で検索して、プラント
10からデータを収集し、データ記憶部40に保存す
る。データ記憶部40では、データ収集時間と該時間で
の予測パラメータと入力パラメータのデータをセットに
して保存し、後述するニューラルネットの学習・予測で
は、前記時間情報をもとに必要な時系列データを入力し
て処理することができる。
The data collecting unit 30 collects data from the plant 10 by searching for the set prediction parameter name and input parameter name for each set sampling time of the data collection, and stores the data in the data storage unit 40. save. The data storage unit 40 stores the data collection time, the prediction parameter at that time, and the data of the input parameter as a set, and in learning / prediction of a neural network, which will be described later, necessary time-series data based on the time information. Can be input and processed.

【0024】本実施形態の時系列データ学習・予測装置
では、データ記憶部40に格納された時系列データを用
いてニューラルネットを学習して、注目する予測パラメ
ータの将来値を予測する。ニューラルネットで時系列デ
ータを予測する方法としては、予測時間先での将来値自
身を予測する方法と、予測時間までの現在値からの変化
分(以後、変化率データと称する)を予測する方法があ
る。ニューラルネットの学習における予測パラメータに
関するデータ(以後、教師データ)として、前者では予
測時間先での将来値を用い、後者では予測時間までの現
在値からの変化分を用いるが、ともにニューラルネット
には規格化して与えることが、学習の収束性向上の観点
から望ましい。
In the time-series data learning / prediction apparatus of the present embodiment, the neural network is learned using the time-series data stored in the data storage unit 40 to predict the future value of the prediction parameter of interest. As a method of predicting time-series data using a neural network, a method of predicting a future value itself at a prediction time point and a method of predicting a change from a current value up to the prediction time (hereinafter, referred to as change rate data) There is. As data on prediction parameters in learning of the neural network (hereinafter referred to as teacher data), the former uses future values ahead of the prediction time, and the latter uses the change from the current value up to the prediction time. It is desirable to give it in a standardized manner from the viewpoint of improving the convergence of learning.

【0025】ここで、教師データを規格化することによ
り発生するニューラルネットの予測誤差について説明す
る。まず、ニューラルネットの学習・予測に用いる時系
列データとして、入力データは共通で、教師データは規
格化後のデータ形状が同じで規格化に用いる値の大きさ
だけが異なる、2つの学習・予測について考える。この
場合、ニューラルネットの学習に用いる入力データと教
師データは規格化により同じ形状になるので、2つの予
測パラメータの学習誤差は等しくなる。よって、それぞ
れ学習したニューラルネットに共通の入力データを与え
て予測すると、ニューラルネットからの出力値は同じに
なり、予測誤差は同じになる。ところが、実際の予測値
は、ニューラルネットの出力値を学習時に規格化した値
で変換したものであり、規格化の値が大きい予測パラメ
ータでは、規格化の値が小さい予測パラメータに対して
予測誤差が大きくなる。すなわち、ニューラルネットの
学習に用いる教師データの変化幅が大きい場合、実際の
予測値で予測誤差が大きく現れる。
Here, the prediction error of the neural network generated by normalizing the teacher data will be described. First, as the time-series data used for learning and prediction of the neural network, the input data is common, and the teacher data has the same data shape after normalization, but differs only in the size of the value used for normalization. think about. In this case, the input data and the teacher data used for the learning of the neural network have the same shape due to the normalization, so that the learning errors of the two prediction parameters are equal. Therefore, when common input data is given to each of the learned neural networks for prediction, the output values from the neural networks become the same, and the prediction errors become the same. However, the actual predicted value is obtained by converting the output value of the neural network with a value normalized at the time of learning. For a prediction parameter having a large standardization value, the prediction error is smaller than a prediction parameter having a small standardization value. Becomes larger. That is, when the change width of the teacher data used for learning the neural network is large, a large prediction error appears in the actual predicted value.

【0026】以上の知見より、ニューラルネットで時系
列データを予測する場合、予測パラメータに関する教師
データの変動幅が小さいほうが予測誤差を低減できる。
前述したように、時系列データの予測に用いる教師デー
タとしては、予測時間先での将来値自身を用いる場合
と、予測時間までの現在値からの変化分を用いる場合が
あるが、それぞれの時系列データの変化幅を比較して、
変化幅の小さい時系列データを用いる学習・予測方法が
予測誤差低減に有効であるといえる。
From the above findings, when predicting time-series data using a neural network, the smaller the fluctuation range of the teacher data regarding the prediction parameters, the smaller the prediction error.
As described above, as the teacher data used for predicting the time-series data, there are a case where the future value itself at the prediction time destination is used and a case where the change from the current value up to the prediction time is used. Compare the range of change in the series data,
It can be said that a learning / prediction method using time-series data having a small change width is effective for reducing a prediction error.

【0027】そこで、これを実現する学習・予測方法に
ついて、以下、具体的に図1を用いて説明する。はじめ
に、予測パラメータの学習方法について説明する。
A learning / prediction method for realizing this will be specifically described below with reference to FIG. First, a prediction parameter learning method will be described.

【0028】まず、予測パラメータの学習方式を選択す
る。変化率計算部50で、データ記憶部40から予測パ
ラメータに関する時系列データを入力して予測時間まで
の現在値からの変化率データを計算する。変化率データ
は、マンマシン部20で設定した予測時間にもとづき、
ある時点の時系列データとその時点から予測時間分先の
データとの差分として算出する。
First, a learning method of a prediction parameter is selected. The change rate calculation unit 50 inputs time-series data on the prediction parameter from the data storage unit 40 and calculates change rate data from the current value up to the prediction time. The change rate data is based on the estimated time set by the man-machine unit 20,
It is calculated as the difference between the time-series data at a certain point in time and the data at a point in time later than the point in time by the estimated time.

【0029】例えば、予測パラメータの時系列データy
(t)が、 y(t+Δt)、y(t)、…、y(t−(m−1)・Δt)、y(t
−m・Δt)、… で、予測時間がm・Δtの場合には、該時系列データの
変化率データΔy(t)は、数1、数2
For example, time series data y of prediction parameters
(T) is y (t + Δt), y (t),..., Y (t− (m−1) · Δt), y (t
−m · Δt),..., And when the prediction time is m · Δt, the change rate data Δy (t) of the time-series data is represented by Equations (1) and (2).

【0030】[0030]

【数1】 Δy(t)=y(t+m・Δt)−y(t)Δy (t) = y (t + m · Δt) −y (t)

【0031】[0031]

【数2】 Δy(t−Δt)=…、y(t+(m−1)・
Δt)−y(t−Δt) 等のように算出する。ここで、Δtは前記データ収集の
サンプリング時間である。
Δy (t−Δt) =..., Y (t + (m−1) ·
Δt) −y (t−Δt) or the like. Here, Δt is the sampling time of the data collection.

【0032】以上のように算出した予測パラメータの変
化率データは、対応する時間とともに学習・予測方式選
択部60に送られる。
The rate-of-change data of the prediction parameters calculated as described above is sent to the learning / prediction method selecting section 60 together with the corresponding time.

【0033】学習・予測方式選択部60では、予測パラ
メータに関して、データ記憶部40から時系列データを
取り込むとともに、該時系列データの取り込み時間に対
応した変化率データを変化率計算部50から入力する。
入力したそれぞれのデータから最大値と最小値を求め
て、その差分を該データの変化幅とする。両データの変
化幅を比較し、変化幅が小さいほうのデータを教師デー
タとして用いる。
The learning / prediction method selection unit 60 fetches time-series data from the data storage unit 40 with respect to prediction parameters, and inputs change rate data corresponding to the time of fetching the time-series data from the change rate calculation unit 50. .
The maximum value and the minimum value are obtained from each of the input data, and the difference is used as the change width of the data. The change widths of both data are compared, and the data with the smaller change width is used as teacher data.

【0034】また、学習・予測方式選択部60では、後
述する学習用データ処理手段710で実施するデータの
規格化に用いる上限値と下限値を設定する。入力パラメ
ータに関しては、データ記憶部40から、前記予測パラ
メータの時系列データの取り込み時間に対応した時系列
データを入力して最大値と最小値を求め、これを規格化
の上限値と下限値とする。予測パラメータに関しては、
前記選択したデータの最大値と最小値を用いる。なお、
入力パラメータのニューラルネットへの入力データとし
て、時系列データの代わりに変化率データを用いること
もできる。入力パラメータの変化率データは、予測パラ
メータと同様に変化分計算部50において、一時点過去
にサンプリングした値と現在値との差分で算出する。入
力データの選択は、予測パラメータに関する教師データ
の選択に合わせて自動的に行われる。例えば、変化率デ
ータを予測する場合は、入力データにも変化率データを
用いる。
The learning / prediction method selecting section 60 sets an upper limit value and a lower limit value used for data normalization performed by the learning data processing means 710 described later. As for the input parameters, the time series data corresponding to the time of capturing the time series data of the prediction parameters is input from the data storage unit 40 to obtain the maximum value and the minimum value, and the maximum value and the minimum value are defined as the upper and lower values of the standardization. I do. For the prediction parameters,
The maximum value and the minimum value of the selected data are used. In addition,
As the input data of the input parameters to the neural network, change rate data can be used instead of the time series data. The change rate data of the input parameter is calculated by the difference between the value sampled in the past at the temporary point and the current value in the change calculating section 50 in the same manner as the prediction parameter. The selection of the input data is automatically performed in accordance with the selection of the teacher data related to the prediction parameter. For example, when predicting change rate data, change rate data is used as input data.

【0035】以上の処理の流れを図2に示す。予測パラ
メータ及び入力パラメータに関して、データ記憶部40
から各々時系列データを入力し、変化率計算部50から
該時系列データに対応した変化率データを入力する(2
01)。入力した各々のデータに関して、最大値および
最小値を算出する(202)。入力したデータをパラメ
ータ名で検索する(203)。予測パラメータであれ
ば、該予測パラメータの時系列データの変化幅を該デー
タの最大値と最小値から算出し、また予測パラメータの
変化率データの変化幅を該データの最大値と最小値から
算出する(204)。ステップ203で入力パラメータ
であれば、入力パラメータとして用いるデータ(時系列
データもしくは変化率データ)の最大値と最小値を規格
化の上限値と下限値として登録する(205)。
FIG. 2 shows the flow of the above processing. For the prediction parameters and the input parameters, the data storage unit 40
, Time-series data is input, and change rate data corresponding to the time-series data is input from the change rate calculation unit 50 (2).
01). A maximum value and a minimum value are calculated for each input data (202). The input data is searched by the parameter name (203). If it is a prediction parameter, the change width of the time-series data of the prediction parameter is calculated from the maximum value and the minimum value of the data, and the change width of the change rate data of the prediction parameter is calculated from the maximum value and the minimum value of the data. (204). If it is an input parameter in step 203, the maximum value and the minimum value of the data (time-series data or change rate data) used as the input parameter are registered as the upper limit value and the lower limit value of the standardization (205).

【0036】予測パラメータに関して、時系列データの
変化幅が変化率データの変化幅より小さいか判定する
(206)。時系列データの変化幅が小さければ、予測
パラメータに関して、時系列データを用いた学習・予測
方式を選択し(207)、予測パラメータに関する時系
列データの最大値と最小値を、予測パラメータに対する
規格化の上限値と下限値として登録する(208)。ス
テップ206の判定において、変化率データの変化幅が
小さい場合は、予測パラメータに関して変化率データを
用いた学習・予測方式を選択部し(209)、予測パラ
メータに関する変化率データの最大値と最小値を、予測
パラメータに対する規格化の上限値と下限値として登録
する(210)。
With respect to the prediction parameters, it is determined whether the change width of the time series data is smaller than the change width of the change rate data (206). If the change width of the time-series data is small, a learning / prediction method using the time-series data is selected for the prediction parameter (207), and the maximum value and the minimum value of the time-series data regarding the prediction parameter are normalized to the prediction parameter. Are registered as the upper limit value and the lower limit value (208). If it is determined in step 206 that the change width of the change rate data is small, a learning / prediction method using the change rate data for the prediction parameter is selected (209), and the maximum value and the minimum value of the change rate data for the prediction parameter are determined. Are registered as upper and lower limits of normalization for the prediction parameter (210).

【0037】マンマシン部20では、予測パラメータま
たは入力パラメータの時系列データと変化率データ、最
大値と最小値を図3のように表示する。
The man-machine unit 20 displays the time series data and the change rate data of the prediction parameter or the input parameter, and the maximum value and the minimum value as shown in FIG.

【0038】学習・予測方式選択部60で設定したニュ
ーラルネットの学習方式と予測パラメータおよび入力パ
ラメータの規格化に関する情報は、マンマシン部20で
図4のようにユーザに示される。この情報には、予測パ
ラメータおよび入力パラメータについて、学習・予測方
式選択部60で選択した学習に用いるデータと、取り込
んだデータの最大値と最小値、規格化に用いる上限値と
下限値がある。ユーザは、図4の画面の上で、学習方式
の変更や規格化に用いる上限値と下限値の変更を行うこ
とができる。
The information on the learning method of the neural network set by the learning / prediction method selection unit 60 and the standardization of the prediction parameters and the input parameters is shown to the user by the man-machine unit 20 as shown in FIG. This information includes, for the prediction parameters and the input parameters, data used for learning selected by the learning / prediction method selection unit 60, maximum and minimum values of the fetched data, and upper and lower values used for normalization. The user can change the learning method and change the upper and lower limits used for standardization on the screen of FIG.

【0039】例えば、図4では予測および入力パラメー
タはすべて「ON表示」で変化率データを用いる学習の
設定になっているが、各パラメータについて時系列デー
タを「ON表示」にすることにより、時系列データを用
いた学習に変更される。また、上限値と下限値について
は、画面上で直接数値を書き換えることで設定を変更す
ることができる。
For example, in FIG. 4, prediction and input parameters are all set to "ON display" and learning using change rate data. However, by setting time series data to "ON display" for each parameter, Changed to learning using sequence data. The upper limit and the lower limit can be changed by directly rewriting the numerical values on the screen.

【0040】このように、学習方式およびデータの規格
化の設定は、予測パラメータおよび入力パラメータのデ
ータの変化幅にもとづいて自動的に設定されるが、ユー
ザ自身が図3で時系列データと変化率データを確認し
て、図4の画面上で設定を変更することができる。
As described above, the setting of the learning method and the data normalization is automatically set based on the change width of the data of the prediction parameter and the input parameter. After checking the rate data, the setting can be changed on the screen of FIG.

【0041】以上のように学習・予測方式選択部60で
設定した、ニューラルネットの学習方式と、選択した学
習方式に用いる教師データ及び入力データと、データの
規格化に用いる上限値と下限値を、学習用データ処理手
段710に出力する。
As described above, the learning method of the neural network, the teacher data and input data used for the selected learning method, and the upper limit value and the lower limit value used for data normalization set by the learning / prediction method selection unit 60 are set. , To the learning data processing means 710.

【0042】つぎに、ニューラルネット学習部70にお
けるニューラルネットの学習について説明する。
Next, the learning of the neural network in the neural network learning section 70 will be described.

【0043】ニューラルネット学習部70では、前記学
習・予測方式選択部60から入力した、学習方式、教師
データと入力データ、データの規格化に用いる上限値と
下限値、マンマシン部20で設定したニューラルネット
のパラメータによって、予測モデルを作成する。
The neural network learning unit 70 sets the learning method, teacher data and input data, the upper and lower values used for data normalization, and the man-machine unit 20 input from the learning / prediction method selector 60. A prediction model is created based on the parameters of the neural network.

【0044】学習用データ処理手段710では、予測パ
ラメータに関する教師データと入力パラメータに関する
入力データついて、学習・予測方式選択部60で設定し
たそれぞれの上限値と下限値を用いて、下限値に対する
規格化後の値が0に、上限値に対する規格化後の値が1
になるように次式数3にもとづいて規格化する。
The learning data processing means 710 normalizes the teacher data relating to the prediction parameters and the input data relating to the input parameters using the respective upper and lower limits set by the learning / prediction method selector 60 to the lower limit. The value after is 0 and the value after normalization to the upper limit is 1
Is normalized based on the following equation (3).

【0045】[0045]

【数3】 Y=(y−min)/(max−min) ここで、Yは規格化後のデータ、yは規格化前のデー
タ、minは該データの下限値、maxは該データの上
限値である。このように規格化した教師データと入力デ
ータのペアが学習データとして学習手段720に提供さ
れる。
Y = (y-min) / (max-min) where Y is data after normalization, y is data before normalization, min is the lower limit of the data, and max is the upper limit of the data. Value. The pair of teacher data and input data thus standardized is provided to the learning means 720 as learning data.

【0046】ニューラルネットによる学習手段720で
は、マンマシン部20で設定したニューラルネットのパ
ラメータにもとづき、学習用データ処理手段710から
入力した、予測パラメータに関する規格化後の教師デー
タy(t+ΔT)と入力パラメータに関する規格化後の
入力データxi(t)を用いて、ニューラルネットのユ
ニット間の結合係数を最適化して予測モデルを作成す
る。インデックスiはニューラルネットへの入力パラメ
ータの番号、tは時間を示す。図5は、予測モデルとな
るニューラルネットの例を示す。この例では、n個の入
力パラメータを用いている。
The learning means 720 based on the neural network inputs, based on the parameters of the neural network set by the man-machine unit 20, the teacher data y (t + ΔT) after the standardization regarding the prediction parameters, which is input from the learning data processing means 710. The prediction model is created by optimizing the coupling coefficient between the units of the neural network using the input data xi (t) after the parameter standardization. Index i indicates the number of the input parameter to the neural network, and t indicates time. FIG. 5 shows an example of a neural network serving as a prediction model. In this example, n input parameters are used.

【0047】このニューラルネットは、規格化後の入力
データxi(t)の現時点から過去mΔt時点までのデ
ータをΔt毎にサンプリングして入力し、将来時点ΔT
の予測パラメータに関する予測値yp(t+ΔT)を出
力するものである。このニューラルネットの出力値yp
(t+ΔT)が教師データy(t+ΔT)と等しくなる
ように、最適化手法を用いてユニット間の結合係数wj
を調整する。ここで、インデックスjは結合係数の番号
である。
This neural network samples and inputs data from the present time of the standardized input data xi (t) to the past mΔt at every Δt, and inputs the data at the future time ΔT
Output the prediction value yp (t + ΔT) for the prediction parameter of (i). Output value yp of this neural network
The coupling coefficient wj between units using an optimization method so that (t + ΔT) becomes equal to the teacher data y (t + ΔT).
To adjust. Here, the index j is the number of the coupling coefficient.

【0048】学習の終了は、前記調整した結合係数を用
いて求めたニューラルネットの出力値yp(t+ΔT)
と教師データy(t+ΔT)との差をマンマシン部20
で設定した学習の収束条件(閾値)と比較し収束誤差が
ないか、もしくは学習回数が終了したことのどちらか一
方を満足したときに終了と判定される。このように最適
化したユニット間の結合係数wjは、予測モデルとし
て、予測パラメータおよび入力パラメータの名称、学習
データの規格化の上限値と下限値、学習方式、ニューラ
ルネットのパラメータといった予測モデル情報ととも
に、モデル格納部90に保存される。
When the learning is completed, the output value yp (t + ΔT) of the neural network obtained by using the adjusted coupling coefficient is used.
And the difference between the teacher data y (t + ΔT) and the man-machine unit 20
It is determined that there is no convergence error compared with the learning convergence condition (threshold) set in (1) or that the number of times of learning has been completed is satisfied. The coupling coefficient wj between the units optimized as described above is used as a prediction model together with prediction model information such as names of prediction parameters and input parameters, upper and lower limits of standardization of learning data, learning methods, and parameters of a neural network. Are stored in the model storage unit 90.

【0049】学習した予測モデルが、教師データとして
予測パラメータの時系列データを用いた場合には、予測
時間分先での将来値を規格化した値で出力する。一方、
教師データとして変化率データを用いた場合には、現在
値からの変化分を規格化した値で出力する。以上が予測
パラメータの学習方法である。
When the learned prediction model uses time-series data of prediction parameters as teacher data, it outputs a future value at the prediction time ahead as a standardized value. on the other hand,
When the change rate data is used as the teacher data, the change from the current value is output as a standardized value. The above is the learning method of the prediction parameter.

【0050】図6は、以上の学習処理のフローを説明す
るものである。学習用データ処理手段710で教師デー
タと入力データの規格化をする(601)。規格化した
教師データと入力データのペアを学習手段720に供給
し、ニューラルネットのパラメータを設定する(60
2)。ニューラルネットでは誤差逆伝播法で結合係数計
算をする(603)。計算した段階での結合係数を用い
て求めたニューラルネットの出力値と教師データとの差
を設定された収束条件で比較し(604)、収束誤差が
なければ終了してモデル格納部90に予測モデルの保存
をする(606)。収束条件が成立しなければ、設定さ
れた学習回数と前記結合係数の計算ループ回数と比較し
(605)、学習回数が終了した時点で終了しその時予
測モデルを保存する(606)。
FIG. 6 illustrates the flow of the above learning process. The learning data processing means 710 normalizes the teacher data and the input data (601). The pair of the standardized teacher data and input data is supplied to the learning means 720, and the parameters of the neural network are set (60).
2). In the neural network, the coupling coefficient is calculated by the back propagation method (603). The difference between the output value of the neural network calculated using the coupling coefficient at the stage of calculation and the teacher data is compared under the set convergence condition (604). The model is saved (606). If the convergence condition is not satisfied, the set number of times of learning is compared with the number of loops for calculating the coupling coefficient (605). When the number of times of learning is completed, the process is terminated and the prediction model is stored at that time (606).

【0051】つぎに、予測パラメータの予測方法につい
て説明する。
Next, a method of predicting a prediction parameter will be described.

【0052】ニューラルネット予測部80では、学習・
予測方式選択部60から、予測方式、対応するデータお
よびデータの規格化に用いる上限値と下限値を入力し、
モデル格納部90から予測モデルを入力し、予測を実行
する。予測実行のタイミングはマンマシン部20で設定
した予測実行周期に従い、以下説明する処理が実行され
る。
The neural network predicting section 80 performs learning and
From the prediction method selection unit 60, input a prediction method, corresponding data and an upper limit value and a lower limit value used for data normalization,
The prediction model is input from the model storage unit 90 and prediction is performed. The timing of the prediction execution is in accordance with the prediction execution cycle set by the man-machine unit 20, and the processing described below is executed.

【0053】まず、予測パラメータの予測方式を選択す
る。
First, a prediction method of a prediction parameter is selected.

【0054】学習・予測方式選択部60で、予測パラメ
ータに関する現時点までの時系列データと、該時系列デ
ータの取り込み時間に対応した変化率データの変動幅を
比較し、変化幅が小さいデータを教師データとして学習
した予測モデルを用いる予測方式を選択する。ここで用
いる変化率データの算出は、前述した学習方式と同様の
手順で行う。予測方式の選択処理の起動は前記予測実行
周期毎に行われるが、ユーザがマンマシン部20で、例
えば、予測実行10回に1回起動等のように設定して、
起動回数を間引くことができる。
The learning / prediction method selecting section 60 compares the time series data of the prediction parameters up to the present time with the variation width of the change rate data corresponding to the time of capturing the time series data, and identifies the data having the small variation width as the teacher. A prediction method using a prediction model learned as data is selected. The calculation of the change rate data used here is performed in the same procedure as in the learning method described above. The selection of the prediction method is started at each of the prediction execution cycles, but the user sets the start in the man-machine unit 20, for example, once every ten times of the prediction execution.
The number of startups can be reduced.

【0055】予測に用いる入力パラメータの入力データ
は、学習・予測方式選択部60で選択した予測方式に対
応して自動的に決められる。例えば、時系列データを予
測する場合は、入力データも時系列データを用いる。し
かしながら、学習方式での入力データの選択と同様に、
マンマシン部20でユーザが図4の画面上で変更するこ
とができる。また、入力データの規格化に用いる上限値
と下限値も同様に変更できる。
The input data of the input parameters used for the prediction are automatically determined in accordance with the prediction method selected by the learning / prediction method selection unit 60. For example, when predicting time-series data, time-series data is used as input data. However, similar to the selection of input data in the learning method,
The user can make changes on the screen shown in FIG. In addition, the upper limit value and the lower limit value used for normalizing the input data can be similarly changed.

【0056】以上のように学習・予測方式選択部60で
設定したニューラルネットの予測方式と、選択した予測
方式で用いる入力データと、入力データの規格化に用い
る上限値と下限値は、予測用データ処理部810に出力
される。
As described above, the prediction method of the neural network set by the learning / prediction method selection unit 60, the input data used in the selected prediction method, and the upper and lower values used for normalizing the input data are used for the prediction. The data is output to the data processing unit 810.

【0057】つぎに、ニューラルネット予測部80にお
ける予測方法を説明する。
Next, a prediction method in the neural network prediction unit 80 will be described.

【0058】予測用データ処理手段810では、入力パ
ラメータに関する入力データについて、学習・予測方式
選択部60で設定した上限値と下限値を用いて、数3
で、学習時と同様に0から1に規格化する。規格化した
入力データは、前記選択した予測方式に応じて、時系列
データを予測する場合は時系列データ予測手段820
に、変化率データを予測する場合には変化率データ予測
手段830に入力される。さらに、学習・予測方式選択
部60で設定した、予測方式、予測パラメータおよび入
力パラメータの名称、入力データの規格化の上限値と下
限値、ニューラルネットのパラメータを用いて、今回の
予測で用いる予測モデルをモデル格納部90から検索す
る。それにより、学習したユニット間の結合係数wjを
時系列データを予測する場合は時系列データ用予測手段
820に、変化率データの場合は変化率データ用予測手
段830に、入力する。
The prediction data processing means 810 uses the upper limit value and the lower limit value set by the learning / prediction method selector 60 for the input data relating to the input parameters, and
Thus, the value is normalized from 0 to 1 as in the learning. When the time-series data is predicted according to the selected prediction method, the standardized input data is used as the time-series data prediction means 820.
When the change rate data is predicted, the data is input to the change rate data prediction means 830. Further, using the prediction method, the names of the prediction parameters and the input parameters, the upper and lower limits of the standardization of the input data, and the parameters of the neural network set in the learning / prediction method selector 60, the prediction used in the current prediction is performed. The model is retrieved from the model storage unit 90. Thereby, the coupling coefficient wj between the learned units is input to the time-series data prediction unit 820 when predicting the time-series data, and is input to the change-rate data prediction unit 830 for the change rate data.

【0059】時系列データ用予測手段820では、入力
パラメータの規格化した時系列データを予測モデルに入
力する。ニューラルネットの予測モデルは数4の式で表
現される。
The time-series data prediction means 820 inputs the time-series data in which the input parameters are standardized to the prediction model. The prediction model of the neural network is expressed by Equation (4).

【0060】[0060]

【数4】 Y=Σwi・fi(Σwij・fj(Xj)) ここで、Xjは入力層の各ユニットに入力する入力変
数、Yは出力層のユニットから出力する出力変数、wij
は入力層のjユニットと中間層のiユニットとの結合係
数、wiは中間層のiユニットと出力層のユニット(1
つ)との結合係数、fj(X)はユニットjのシグモイ
ド関数、Σは各インデックスについて和をとる記号であ
る。
Equation 4] Y = Σw i · f i ( Σw ij · f j (X j)) where, X j is the input variable to be input to each unit of the input layer, Y is the output variable to be output from the unit of the output layer , W ij
Is the coupling coefficient between the j unit of the input layer and the i unit of the intermediate layer, w i is the unit of the intermediate layer i and the unit of the output layer (1
F j (X) is a sigmoid function of the unit j, and Σ is a symbol for summing each index.

【0061】これにより、予測時間先での予測パラメー
タの将来値が規格化した値で求まる。そこで、この規格
化した出力値を前記規格化で用いた上限値と下限値で次
式数5にもとづいて逆変換し、最終的な予測パラメータ
の予測値を得る。
As a result, the future value of the prediction parameter ahead of the prediction time is obtained as a standardized value. Therefore, the normalized output value is inversely transformed with the upper limit value and the lower limit value used in the normalization based on the following equation (5) to obtain the final predicted value of the prediction parameter.

【0062】[0062]

【数5】 y=Y・(max−min)+min ここで、数5は数3式を変数yについて解いたものであ
り、Yはニューラルネットの出力値、yは実際の時系列
データの予測値、minおよびmaxはそれぞれ予測パ
ラメータの下限値と上限値である。
Y = Y · (max−min) + min Here, Equation 5 is obtained by solving Equation 3 for a variable y, Y is the output value of the neural network, and y is the prediction of the actual time-series data. The values, min and max are the lower and upper limits of the prediction parameters, respectively.

【0063】予測パラメータの予測に当り、ニューラル
ネットの予測対象が予測パラメータ自身か、変化率デー
タかを判定し、予測パラメータの予測の場合は前記予測
結果の出力をし、判定により変化率データの場合は変化
率データの予測を行なう。
In predicting the prediction parameter, it is determined whether the prediction target of the neural network is the prediction parameter itself or the change rate data. In the case of the prediction of the prediction parameter, the prediction result is output, and the determination is performed based on the determination. In this case, change rate data is predicted.

【0064】変化率データ用予測手段830では、入力
パラメータの規格化した変化率データを予測モデルに入
力する。数4式により、予測時間までの現在値からの変
化分が規格化した値で求まる。この出力値に対して、前
記時系列データの出力値を変換して実際の予測値を求め
た同じ数5式を用いて、変化率データの上限値と下限値
で逆変換して予測パラメータの実際の変化分を求める。
そして最終的な予測値は、求められた実際の変化分と予
測パラメータの現在値との和で求められる。これを変化
率データからの予測値として出力する。
The change rate data prediction means 830 inputs the change rate data in which the input parameters are standardized to the prediction model. The amount of change from the current value up to the predicted time is obtained by the standardized value by Expression 4. The output value of the time-series data is converted into the output value of the time-series data to obtain the actual predicted value. Find the actual change.
Then, the final predicted value is obtained by the sum of the obtained actual change and the current value of the predicted parameter. This is output as a predicted value from the change rate data.

【0065】図7は、予測処理のフローを説明するもの
である。予測用データ処理手段810で入力データの規
格化をする(701)。次に予測モデルの選択をし、時
系列データ用予測手段820か、変化率データ用予測手
段830を選択する(702)。ニューラルネットに規
格化した時系列データまたは変化率データを入力し、出
力値の計算をする(703)。得られたニューラルネッ
トの出力値を上下限値で逆変換する(704)。ニュー
ラルネットの予測対象が予測パラメータ自身か変化率デ
ータかを判定し(705)、変化率データの場合は、予
測実行時の予測パラメータと逆変換した値との和をとり
(706)、予測値出力する(707)。予測パラメー
タの場合は逆変換した値を予測値出力とする(70
7)。
FIG. 7 explains the flow of the prediction process. Input data is normalized by the prediction data processing means 810 (701). Next, a prediction model is selected, and either the time series data prediction unit 820 or the change rate data prediction unit 830 is selected (702). The time series data or the change rate data normalized to the neural network is input, and the output value is calculated (703). The output value of the obtained neural network is inversely transformed with the upper and lower limits (704). It is determined whether the prediction target of the neural network is the prediction parameter itself or the change rate data (705). In the case of the change rate data, the sum of the prediction parameter at the time of executing the prediction and the value obtained by performing the inverse conversion is obtained (706), Output (707). In the case of a prediction parameter, the inversely converted value is used as a predicted value output (70
7).

【0066】以上の予測結果は、マンマシン部20で図
8のように表示される。
The above prediction result is displayed by the man-machine unit 20 as shown in FIG.

【0067】このように、本実施形態によれば、予測パ
ラメータの将来値を予測するにあたり、時系列データと
変化率データの変化幅にもとづいて学習・予測方式を選
択し、規格化に伴う予測誤差を低減することができるの
で、精度よい将来値を得ることが可能になる。
As described above, according to the present embodiment, in predicting the future value of the prediction parameter, the learning / prediction method is selected based on the change width of the time series data and the change rate data, and the prediction accompanying the standardization is performed. Since the error can be reduced, it is possible to obtain an accurate future value.

【0068】[0068]

【発明の効果】以上説明したように、本発明によれば、
学習・予測する対象を時系列データ自身と変化率データ
とから選択することができる。これにより、予測精度の
より高い学習・予測を実行することが実現する。
As described above, according to the present invention,
The learning / prediction target can be selected from the time-series data itself and the change rate data. As a result, it is possible to execute learning and prediction with higher prediction accuracy.

【0069】また本発明によれば、学習・予測する対象
を時系列データ自身か変化率データかを、それぞれの変
化幅に基づいて小さいほうを選択することができる。こ
れにより、ニューラルネットの学習において、データの
規格化に関わる誤差を低減して、予測精度向上が実現す
る。
Further, according to the present invention, whether the object to be learned / predicted is the time-series data itself or the change rate data, the smaller one can be selected based on the respective change widths. Thereby, in learning of the neural network, an error relating to data normalization is reduced, and prediction accuracy is improved.

【0070】また本発明によれば、予測パラメータの変
化に応じて、学習・予測する対象を時系列データと変化
率データとの間で切り替えることができる。これによ
り、予測実行中の予測パラメータの変化に対して、より
予測精度の高い予測方式を選択することが実現する。
Further, according to the present invention, the object to be learned / predicted can be switched between the time series data and the change rate data according to the change of the prediction parameter. Thus, it is possible to select a prediction method having higher prediction accuracy with respect to a change in a prediction parameter during prediction execution.

【0071】また本発明によれば、学習・予測する対象
を時系列データ自身と変化率データとの間で自動的に切
り替えることができる。これにより、予測実行中の予測
パラメータの変化に対して、自動的に予測精度の高い方
式を選択することが実現する。
Further, according to the present invention, it is possible to automatically switch the object to be learned / predicted between the time series data itself and the change rate data. Thus, it is possible to automatically select a method with high prediction accuracy in response to a change in the prediction parameter during the prediction.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明に好適な一実施形態である時系列データ
学習・予測装置の構成図である。
FIG. 1 is a configuration diagram of a time-series data learning / prediction apparatus that is a preferred embodiment of the present invention.

【図2】学習・予測方式選択部の処理の流れ図である。FIG. 2 is a flowchart of processing of a learning / prediction method selecting unit.

【図3】マンマシン部における時系列データと変化率デ
ータの一表示例図である。
FIG. 3 is a display example diagram of time-series data and change rate data in a man-machine unit.

【図4】マンマシン部における学習・予測方式と規格化
に関する情報の提供および設定画面の一表示例図であ
る。
FIG. 4 is a display example diagram of a provision and setting screen of information on a learning / prediction method and standardization in a man-machine unit.

【図5】予測モデルとなるニューラルネットの一構成図
である。
FIG. 5 is a configuration diagram of a neural network serving as a prediction model.

【図6】ニューラルネット学習部の処理の流れ図であ
る。
FIG. 6 is a flowchart of a process of a neural network learning unit.

【図7】ニューラルネット予測部の処理の流れ図であ
る。
FIG. 7 is a flowchart of a process of a neural network prediction unit.

【図8】予測結果の一表示例図である。FIG. 8 is a display example diagram of a prediction result.

【符号の説明】[Explanation of symbols]

10…プラント、20…マンマシン部、30…データ収
集部、40…データ記憶部、50…変化率計算部、60
…学習・予測方式選択部、70…ニューラルネット学習
部、80…ニューラルネット予測部、90…モデル格納
部、710…学習用データ処理手段、720…学習手
段、810…予測用データ処理手段、820…時系列デ
ータ用予測手段、830…変化率データ用予測手段。
DESCRIPTION OF SYMBOLS 10 ... Plant, 20 ... Man-machine part, 30 ... Data collection part, 40 ... Data storage part, 50 ... Change rate calculation part, 60
... Learning / prediction method selection unit, 70 neural network learning unit, 80 neural network prediction unit, 90 model storage unit, 710 learning data processing unit, 720 learning unit, 810 prediction data processing unit, 820 ... prediction means for time series data, 830 ... prediction means for change rate data.

───────────────────────────────────────────────────── フロントページの続き (72)発明者 山田 一三雄 広島県広島市中区小町4番33号 中国電力 株式会社内 (72)発明者 冨永 堅治 茨城県日立市大みか町七丁目2番1号 株 式会社日立製作所電力・電機開発本部内 (72)発明者 大賀 幸治 茨城県日立市大みか町七丁目2番1号 株 式会社日立製作所電力・電機開発本部内 (72)発明者 丸山 武一 茨城県日立市大みか町五丁目2番1号 株 式会社日立製作所大みか工場内 Fターム(参考) 5H004 GB01 GB06 GB20 KC24 KC25 KC28 KC38 KD31 MA47  ──────────────────────────────────────────────────続 き Continuing on the front page (72) Inventor Kazumio Yamada 4-33 Komachi, Naka-ku, Hiroshima City, Hiroshima Prefecture Inside Chugoku Electric Power Co., Inc. (72) Inventor Kenji Tominaga 7-2-1, Omika-cho, Hitachi City, Ibaraki Prefecture No. 7 Power Systems and Electricity Development Division, Hitachi, Ltd. (72) Inventor Koji Oga 7-2-1, Omika-cho, Hitachi City, Ibaraki Prefecture Power Systems and Electricity Development Division, Hitachi, Ltd. (72) Inventor Takeichi Maruyama 5-2-1 Omika-cho, Hitachi-shi, Ibaraki F-term in Hitachi Ltd.'s Omika factory F-term (reference) 5H004 GB01 GB06 GB20 KC24 KC25 KC28 KC38 KD31 MA47

Claims (5)

【特許請求の範囲】[Claims] 【請求項1】 ニューラルネットを用いて時系列データ
から予測モデルを作成し、該予測モデルを用いて時系列
データの将来値を予測する、時系列データ学習・予測装
置において、 時系列データを収集するデータ収集部と、収集した時系
列データを記憶するデータ記憶部と、記憶した時系列デ
ータの変化率データを計算する変化率計算部と、予測パ
ラメータの時系列データを学習・予測するか、予測パラ
メータの時系列データの変化率データを学習・予測する
かを選択する学習・予測方式選択部と、前記学習・予測
方式選択部で選択した方式でニューラルネットを学習す
るニューラルネット学習部と、学習したニューラルネッ
トを格納する予測モデル格納部と、前記学習・予測方式
選択部で選択した方式で時系列データの将来値を予測す
るニューラルネット予測部と、ニューラルネットの学習
・予測を実行するためのユーザ設定ならびに前記ニュー
ラルネット予測部での予測結果の表示を行うマンマシン
部からなる時系列データ学習・予測装置。
1. A time-series data learning / prediction apparatus for generating a prediction model from time-series data using a neural network and predicting a future value of the time-series data using the prediction model. A data collection unit, a data storage unit that stores the collected time-series data, a change rate calculation unit that calculates the change rate data of the stored time-series data, and whether to learn and predict the time-series data of the prediction parameter, A learning / prediction method selection unit that selects whether to learn / predict the change rate data of the time-series data of the prediction parameter, and a neural network learning unit that learns the neural network using the method selected by the learning / prediction method selection unit. A prediction model storage unit for storing the learned neural network, and a prediction model storage unit for predicting a future value of the time-series data using the method selected by the learning / prediction method selection unit. And Rarunetto predictor, the time-series data learning-predicting apparatus comprising a man-machine unit for displaying the prediction result of the user setting as well as the neural network prediction unit for executing the learning and prediction of the neural network.
【請求項2】 請求項1に記載の時系列データ学習・予
測装置において、 前記学習・予測方式選択部は、予測パラメータの時系列
データの変化幅と前記変化率計算部で求めた予測パラメ
ータの時系列データの変化率データの変化幅とを比較
し、変化幅の小さい方のデータをニューラルネットで学
習・予測に用いるよう選択するものであることを特徴と
する時系列データ学習・予測装置。
2. The time-series data learning / prediction apparatus according to claim 1, wherein the learning / prediction method selecting unit selects a change width of the time-series data of the prediction parameter and a change width of the prediction parameter obtained by the change rate calculating unit. A time-series data learning / prediction apparatus characterized by comparing a change width of change rate data of time-series data and selecting data having a smaller change width to be used for learning / prediction by a neural network.
【請求項3】 請求項1または2に記載の時系列データ
学習・予測装置において、 前記ニューラルネット予測部は、時系列データを用いて
予測する場合の時系列データ用予測手段と、時系列デー
タの変化率データを用いて予測する場合の変化率データ
用予測手段を有することを特徴とする時系列データ学習
・予測装置。
3. The time-series data learning / prediction device according to claim 1, wherein the neural network prediction unit predicts time-series data using time-series data; A time-series data learning / prediction device, comprising: a prediction unit for a change rate data when the prediction is performed using the change rate data of the time series.
【請求項4】 請求項1、2および3のいずれかに記載
の時系列データ学習・予測装置において、 前記学習・予測方式選択部は、予測実行毎もしくは複数
回おきに、予測方式の選択を行い、前記ニューラルネッ
ト予測部は、前記選択条件に適合する予測モデルを前記
予測モデル格納部から入力して予測を実行するものであ
ることを特徴とする時系列データ学習・予測装置。
4. The time-series data learning / prediction device according to claim 1, wherein the learning / prediction method selection unit selects a prediction method every time a prediction is executed or every plural times. The neural network prediction unit performs a prediction by inputting a prediction model that satisfies the selection condition from the prediction model storage unit and performs prediction.
【請求項5】 請求項1、2、3および4のいずれかに
記載の時系列データ学習・予測装置において、 前記学習・予測方式選択部は、選択した時系列データも
しくは変化率データの最大値と最小値を規格化の上限値
と下限値として設定し、前記ニューラルネット学習部及
び前記ニューラルネット予測部は、前記選択された時系
列データもしくは変化率データについて前記上限値と下
限値を用いて規格化した後該データで学習・予測を実行
するものであることを特徴とする時系列データ学習・予
測装置。
5. The time-series data learning / prediction apparatus according to claim 1, wherein the learning / prediction method selecting unit selects a maximum value of the selected time-series data or change rate data. And the minimum value is set as an upper limit value and a lower limit value of normalization, and the neural network learning unit and the neural network prediction unit use the upper limit value and the lower limit value for the selected time-series data or change rate data. A time-series data learning / prediction apparatus, which performs learning / prediction on the data after normalization.
JP2000149822A 2000-05-17 2000-05-17 Time-series data learning / prediction device Expired - Lifetime JP3637412B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000149822A JP3637412B2 (en) 2000-05-17 2000-05-17 Time-series data learning / prediction device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000149822A JP3637412B2 (en) 2000-05-17 2000-05-17 Time-series data learning / prediction device

Publications (2)

Publication Number Publication Date
JP2001325582A true JP2001325582A (en) 2001-11-22
JP3637412B2 JP3637412B2 (en) 2005-04-13

Family

ID=18655619

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000149822A Expired - Lifetime JP3637412B2 (en) 2000-05-17 2000-05-17 Time-series data learning / prediction device

Country Status (1)

Country Link
JP (1) JP3637412B2 (en)

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005257416A (en) * 2004-03-10 2005-09-22 Internatl Business Mach Corp <Ibm> Diagnostic device, detection device, control method, detection method, program, and recording medium
JP2006277609A (en) * 2005-03-30 2006-10-12 Chugoku Electric Power Co Inc:The Waiting time prediction method, waiting time prediction system, and program
JP2006277610A (en) * 2005-03-30 2006-10-12 Chugoku Electric Power Co Inc:The Waiting time prediction method, waiting time prediction system, and program
JP2007066202A (en) * 2005-09-01 2007-03-15 Fujitsu Ltd Data analysis program
JP2008225857A (en) * 2007-03-13 2008-09-25 Yamaguchi Univ Fire alarm device that can predict fire occurrence time
CN104765346A (en) * 2015-03-26 2015-07-08 华东理工大学 Full-process modeling method for oil refining process
CN104804761A (en) * 2015-03-26 2015-07-29 华东理工大学 Real-time yield prediction method for hydrocracking device
WO2017110171A1 (en) * 2015-12-24 2017-06-29 みずほ証券 株式会社 Transaction management system, transaction management method, and transaction management program
CN107798425A (en) * 2017-10-16 2018-03-13 中国科学院地理科学与资源研究所 A kind of space-time based on big data obscures degrees of exposure assessment system and method
JP2018054765A (en) * 2016-09-27 2018-04-05 日本電気株式会社 Data processing device, data processing method, and program
JP2019045905A (en) * 2017-08-29 2019-03-22 学校法人早稲田大学 Behavior prediction system and behavior prediction method
WO2019181728A1 (en) * 2018-03-20 2019-09-26 株式会社Gsユアサ Degradation estimating device, computer program, and degradation estimating method
WO2019181729A1 (en) * 2018-03-20 2019-09-26 株式会社Gsユアサ Deterioration estimation device, computer program and deterioration estimation method
CN110309968A (en) * 2019-06-28 2019-10-08 万帮充电设备有限公司 A kind of Dynamic Pricing System and method based on pile group prediction charge volume
JP2020119487A (en) * 2019-01-25 2020-08-06 株式会社 ビーアイマトリックスBi Matrix Co.,Ltd Deep-learning forecast data reflection system using olap result with pivot table structure
WO2020186453A1 (en) * 2019-03-19 2020-09-24 北京汇真网络传媒科技有限公司 Universal logical reasoning method and system for implementing agent based on wide learning algorithm
CN112602100A (en) * 2019-01-23 2021-04-02 欧姆龙株式会社 Motion analysis device, motion analysis method, motion analysis program, and motion analysis system
CN112669606A (en) * 2020-12-24 2021-04-16 西安电子科技大学 Traffic flow prediction method for training convolutional neural network by utilizing dynamic space-time diagram
JPWO2021157667A1 (en) * 2020-02-04 2021-08-12
JPWO2021157670A1 (en) * 2020-02-04 2021-08-12
JP2021140303A (en) * 2020-03-03 2021-09-16 トヨタ自動車株式会社 Learning method, learning system and learning program
WO2021250987A1 (en) * 2020-06-09 2021-12-16 株式会社プレイド Information processing device, information processing method, and recording medium
CN113798920A (en) * 2021-09-23 2021-12-17 大连理工大学 Cutter wear state monitoring method based on variational automatic encoder and extreme learning machine
DE112020005677T5 (en) 2019-11-18 2022-09-15 Kabushiki Kaisha Tokai Rika Denki Seisakusho Learning device, learning method and measuring device
CN116583710A (en) * 2020-12-18 2023-08-11 株式会社普利司通 Estimating device, estimating method, estimating program, and learning model generating device

Cited By (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005257416A (en) * 2004-03-10 2005-09-22 Internatl Business Mach Corp <Ibm> Diagnostic device, detection device, control method, detection method, program, and recording medium
US7720640B2 (en) 2004-03-10 2010-05-18 International Business Machines Corporation Diagnostic data detection and control
JP2006277609A (en) * 2005-03-30 2006-10-12 Chugoku Electric Power Co Inc:The Waiting time prediction method, waiting time prediction system, and program
JP2006277610A (en) * 2005-03-30 2006-10-12 Chugoku Electric Power Co Inc:The Waiting time prediction method, waiting time prediction system, and program
JP2007066202A (en) * 2005-09-01 2007-03-15 Fujitsu Ltd Data analysis program
JP2008225857A (en) * 2007-03-13 2008-09-25 Yamaguchi Univ Fire alarm device that can predict fire occurrence time
CN104765346A (en) * 2015-03-26 2015-07-08 华东理工大学 Full-process modeling method for oil refining process
CN104804761A (en) * 2015-03-26 2015-07-29 华东理工大学 Real-time yield prediction method for hydrocracking device
WO2017110171A1 (en) * 2015-12-24 2017-06-29 みずほ証券 株式会社 Transaction management system, transaction management method, and transaction management program
JP2017117152A (en) * 2015-12-24 2017-06-29 みずほ証券株式会社 System, method, and program for transaction management
JP2018054765A (en) * 2016-09-27 2018-04-05 日本電気株式会社 Data processing device, data processing method, and program
JP2019045905A (en) * 2017-08-29 2019-03-22 学校法人早稲田大学 Behavior prediction system and behavior prediction method
CN107798425A (en) * 2017-10-16 2018-03-13 中国科学院地理科学与资源研究所 A kind of space-time based on big data obscures degrees of exposure assessment system and method
WO2019181728A1 (en) * 2018-03-20 2019-09-26 株式会社Gsユアサ Degradation estimating device, computer program, and degradation estimating method
WO2019181729A1 (en) * 2018-03-20 2019-09-26 株式会社Gsユアサ Deterioration estimation device, computer program and deterioration estimation method
JP2019168453A (en) * 2018-03-20 2019-10-03 株式会社Gsユアサ Device, computer program, and method for estimating deterioration
JP2019168452A (en) * 2018-03-20 2019-10-03 株式会社Gsユアサ Device, computer program, and method for estimating deterioration
US11243262B2 (en) 2018-03-20 2022-02-08 Gs Yuasa International Ltd. Degradation estimation apparatus, computer program, and degradation estimation method
CN112602100A (en) * 2019-01-23 2021-04-02 欧姆龙株式会社 Motion analysis device, motion analysis method, motion analysis program, and motion analysis system
CN112602100B (en) * 2019-01-23 2023-08-01 欧姆龙株式会社 Action analysis device, action analysis method, storage medium, and action analysis system
JP6997133B2 (en) 2019-01-25 2022-01-17 株式会社 ビーアイマトリックス Deep learning prediction data reflection system using OLAP results of pivot table structure
JP2020119487A (en) * 2019-01-25 2020-08-06 株式会社 ビーアイマトリックスBi Matrix Co.,Ltd Deep-learning forecast data reflection system using olap result with pivot table structure
WO2020186453A1 (en) * 2019-03-19 2020-09-24 北京汇真网络传媒科技有限公司 Universal logical reasoning method and system for implementing agent based on wide learning algorithm
CN110309968A (en) * 2019-06-28 2019-10-08 万帮充电设备有限公司 A kind of Dynamic Pricing System and method based on pile group prediction charge volume
DE112020005677T5 (en) 2019-11-18 2022-09-15 Kabushiki Kaisha Tokai Rika Denki Seisakusho Learning device, learning method and measuring device
WO2021157667A1 (en) * 2020-02-04 2021-08-12 株式会社ダイセル Prediction device, prediction method, and program
WO2021157670A1 (en) * 2020-02-04 2021-08-12 株式会社ダイセル Prediction apparatus, prediction method, and program
US12321163B2 (en) 2020-02-04 2025-06-03 Daicel Corporation Prediction apparatus, prediction method, and program
JPWO2021157667A1 (en) * 2020-02-04 2021-08-12
JP7627666B2 (en) 2020-02-04 2025-02-06 株式会社ダイセル Prediction device, prediction method, and program
CN115039114A (en) * 2020-02-04 2022-09-09 株式会社大赛璐 Prediction device, prediction method, and program
JPWO2021157670A1 (en) * 2020-02-04 2021-08-12
JP7583749B2 (en) 2020-02-04 2024-11-14 株式会社ダイセル Prediction device, prediction method, and program
JP2021140303A (en) * 2020-03-03 2021-09-16 トヨタ自動車株式会社 Learning method, learning system and learning program
CN113420885A (en) * 2020-03-03 2021-09-21 丰田自动车株式会社 Learning method, learning system, and learning program
JP2021197166A (en) * 2020-06-09 2021-12-27 株式会社プレイド Information processor, information processing method and program
JP2021196657A (en) * 2020-06-09 2021-12-27 株式会社プレイド Information processor, information processing method and program
WO2021250987A1 (en) * 2020-06-09 2021-12-16 株式会社プレイド Information processing device, information processing method, and recording medium
CN116583710A (en) * 2020-12-18 2023-08-11 株式会社普利司通 Estimating device, estimating method, estimating program, and learning model generating device
CN112669606B (en) * 2020-12-24 2022-07-12 西安电子科技大学 Traffic flow prediction method for training convolutional neural network by utilizing dynamic space-time diagram
CN112669606A (en) * 2020-12-24 2021-04-16 西安电子科技大学 Traffic flow prediction method for training convolutional neural network by utilizing dynamic space-time diagram
CN113798920A (en) * 2021-09-23 2021-12-17 大连理工大学 Cutter wear state monitoring method based on variational automatic encoder and extreme learning machine

Also Published As

Publication number Publication date
JP3637412B2 (en) 2005-04-13

Similar Documents

Publication Publication Date Title
JP2001325582A (en) Time series data learning and prediction device
CN115236535B (en) Battery SOC estimation method, device, equipment and storage medium
CN115392037A (en) Equipment failure prediction method, device, equipment and storage medium
CN119005091B (en) Intelligent design system and design method for analog integrated circuit
CN118861992A (en) A multimodal data processing method, device, equipment and medium for intelligent manufacturing
CN116523001A (en) Method, device and computer equipment for constructing weak line identification model of power grid
JPH08314892A (en) Interest rate forecasting system applying neural network to econometric model
CN114338416B (en) Space-time multi-index prediction method and device and storage medium
CN118627633A (en) A risk analysis method based on Bayesian network in a specific scenario
CN116722545B (en) Photovoltaic power generation prediction method based on multi-source data and related equipment
CN114707635A (en) Model construction method and device based on network architecture search and storage medium
CN117709684A (en) Production management method, system, equipment and medium based on real-time productivity estimation
US8001061B2 (en) First and second unsupervised learning processes combined using a supervised learning apparatus
CN112070162A (en) Multi-class processing task training sample construction method, device and medium
CN111475496A (en) Multi-condition constraint-based time series data generation method, device and medium
CN115936926A (en) A SMOTE-GBDT-based unbalanced electricity stealing data classification method, device, computer equipment and storage medium
JP4643586B2 (en) Optimal design management device, optimal design calculation system, optimal design management method, optimal design management program
CN110689158B (en) Method, device and storage medium for predicting destination
CN116882192A (en) Parameter and state variable-oriented data assimilation method for space-time asynchronous update
CN116453335A (en) Short-time traffic flow prediction method based on CLA-BLSA model
JP2022088341A (en) Equipment learning device and method
CN119853023B (en) A power load forecasting method based on SLSTM-RMTN model
CN117039855B (en) An intelligent load prediction method and system for power systems
CN112052903A (en) Method, equipment and medium for constructing training samples for multi-label processing tasks
CN118861993B (en) Indoor air quality parameter prediction method and system based on heterogeneous characteristics

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040217

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040928

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041025

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041220

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3637412

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080121

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090121

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090121

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100121

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110121

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110121

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120121

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130121

Year of fee payment: 8

EXPY Cancellation because of completion of term