JP2779119B2

JP2779119B2 - 学習認識装置

Info

Publication number: JP2779119B2
Application number: JP5216785A
Authority: JP
Inventors: 太郎今川; 敏行香田; 良宏小島; 進丸野; 泰治〆木
Original assignee: Matsushita Electric Industrial Co Ltd
Current assignee: Panasonic Holdings Corp
Priority date: 1992-10-06
Filing date: 1993-08-31
Publication date: 1998-07-23
Anticipated expiration: 2013-07-23
Also published as: JPH076149A

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、入力されたパターンデ
ータの学習及び認識を行う学習認識装置に関するもので
ある。

【０００２】

【従来の技術】従来の、入力されたパターンデータに対
して、まず大分類を行って入力データが属するカテゴリ
群を選択し、つぎに選択されたカテゴリ群において、細
分類を行なうことによって入力データの認識を行なうパ
ターン認識装置の例としては、たとえば、電子情報通信
学会論文誌Ｄ−II Vol.J75-D-II No.3 pp545-553「大規
模ニューラルネット”ＣｏｍｂＮＥＴ−II”」に示され
ている。

【０００３】図２５はこの従来のパターン認識装置の構
成図を示すものであり、101は大分類部であり、入力パ
ターン信号を各カテゴリ群に大分類するものである。10
2は細分類部であり、入力パターン信号を各カテゴリ群
内で細分類するものである。103は群選択部であり、大
分類部101の出力値（以下、適合度と呼ぶ。）から複数
個のカテゴリ群を選択するものである。104は細分類部
入力信号選択部であり、群選択部103で得られる群選択
情報に基づいて入力パターン信号を入力する細分類部10
2を選択するものである。105は識別部であり、群選択部
103で選択されたカテゴリ群の適合度と細分類部102の出
力値から入力パターン信号の識別を行なうものである。

【０００４】大分類部101において、106は入力部であ
り、入力パターン信号を入力するものである。107は多
入力一出力信号処理部であり、入力パターン信号に対す
る各カテゴリ群の適合度を計算するものである。

【０００５】細分類部102において、108は入力部であ
り、細分類部入力信号選択部104から出力した入力パタ
ーン信号を入力するものである。109は多入力一出力信
号処理部であり、それに接続されている下層の入力部10
8、または多入力一出力信号処理部109の出力と、その連
結の度合である重み係数とを各々掛け合わせて総和した
ものをしきい値処理して出力するものである。ここで
は、これら複数個の多入力一出力信号処理部を層構造を
持ち、各層内相互の結合がなく、上位層にのみ信号が伝
搬するようにネットワーク接続することによって、入力
パターン信号に対するカテゴリ群内の各カテゴリに類似
する度合が求められる。110は最大値選択部であり、最
上位層の複数個の前記多入力ー出力信号処理部の出力の
中から最大値を選択するものである。

【０００６】識別部105において、111は類似度計算部で
あり、群選択部103で選択されたカテゴリ群の適合度
と、そのカテゴリ群に対応する細分類部102の出力値か
ら各カテゴリの類似度を計算するものである。112はカ
テゴリ識別部であり、類似度計算部111から得られた各
カテゴリの類似度の最大値を求めることによって、入力
パターン信号の識別を行なうものである。

【０００７】以上のように構成された従来のパターン認
識装置について、以下その動作を説明する。認識対象物
のｎ個の特徴データからなる入力パターン信号Ｘ

【０００８】

【数１】Ｘ＝（ｘ₁，ｘ₂，…，ｘ_n）（１）を、まず、大分類部101の入力部106に入力する。入力部
106はパターンデータの特徴データ数に等しくｎ個用意
されており、各特徴データｘ_iはそれぞれ対応する入力
部106に入力する。大分類部101の各多入力一出力信号処
理部107は、それに接続されている入力部101の入力ｘ_j
とその連結の度合である重み係数ｖ_ij （１≦ｉ≦ｍ_r；
ｍ_rはカテゴリ群の数、１≦j≦ｎ）とを乗算したものの
総和を計算した後、これを入力パターン信号Ｘ及び、各
多入力一出力信号処理部107の重み係数ベクトルＶ_i（数
２）

【０００９】

【数２】Ｖ_i＝（ｖ_i1，ｖ_i2，…，ｖ_in）（２）のノルム｜Ｘ｜、｜Ｖ_i｜の積で割り算したものを出力
する。つまり、重み係数ベクトルＶ_iをもつ多入力一出
力信号処理部107の出力値sim(Ｘ，Ｖ_i)は（数３）

【００１０】

【数３】 sim(Ｘ，Ｖ_i) ＝(Ｘ・Ｖ_i) / (｜Ｘ｜｜Ｖ_i｜) （３）但し、Ｘ・Ｖ_i ＝ Σ_j(ｘ_j・ｖ_ij) ｜Ｘ｜＝ ( Σｘ_j ² )^1/2 ｜Ｖ_i｜＝ ( Σｖ_ij ² )^1/2 と表わすことができる。ここで、Σ_jはｊについての総
和を表わす。

【００１１】なお、重み係数ベクトルＶ_iについては、
類似した入力パターン信号に対して決まった多入力一出
力信号処理部１０７が最大出力を発生するように、あら
かじめ設計しておく。

【００１２】これらの重み係数ベクトルＶ_i は、従来例
によると、以下のような手法で設計する。まず第１過程
では、重み係数ベクトル設計用の入力パターン信号Ｘを
入力する毎に、最もsim(Ｘ，Ｖ_i)の大きいＶ_Cを求め
（このとき、ＸはＶ_Cに最適整合するという。）、Ｖ_C
をＸに近づける。また、１つの重み係数ベクトルに最適
整合する入力パターン信号がある一定数以上になった時
には、その重み係数ベクトルが担当する領域を２つに分
割する。第２過程では、重み係数ベクトル設計用の全入
力パターン信号に対して、最適整合するＶ_i を求め、そ
れが前回と変化したかどうかを調べる。そして、変更が
あれば、そのＶ_i を修正する。このとき、第１過程と同
様に、重み係数ベクトルの分裂も行なう。これを重み係
数ベクトルの修正、分裂がなくなるまで繰り返す。

【００１３】このようにして、重み係数ベクトルの設計
を行なうことによって、入力パターン信号は複数のカテ
ゴリ群に大分類する。そして、各多入力一出力信号処理
部107の出力値は、入力パターン信号Ｘに対する各カテ
ゴリ群の適合度として群選択部103に出力する。

【００１４】群選択部103では、大分類部101で得られた
適合度の大きい順に任意個のカテゴリ群を選び、どのカ
テゴリ群が選択されたかを示す群選択情報とそれに対応
する適合度を出力する。

【００１５】群選択部103から得られる群選択情報に基
づいて、細分類入力信号選択部104は、入力パターン信
号を入力する細分類部102を選択し、入力パターン信号
をこれらの細分類部102へ出力する。

【００１６】群選択部103で選択されたカテゴリ群に対
応する各々の細分類部102（即ち、細分類入力信号選択
部104から入力パターン信号を入力された細分類部）で
は、まず、入力部108に、入力パターン信号Ｘが入力す
る。入力部108は、パターン信号の特徴データ数に等し
くＮ個用意されており、各特徴データｘ_iはそれぞれ対
応する入力部108に入力する。細分類部102の各多入力一
出力信号処理部109はそれに接続されている下層の入力
部108、または多入力一出力信号処理部109の出力とその
連結の度合である重み係数とを掛け合わせたものの総和
をしきい値関数で変換した後、その値を上層へ出力す
る。ここで、各細分類部102の最上位層の多入力一出力
信号処理部109は、各カテゴリ群に含まれるパターンデ
ータのカテゴリ数と同じ個数に設定され、最上位層の各
多入力一出力信号処理部109は、これらの各カテゴリに
対応している。最大値選択部80は最上位層の各多入力一
出力信号処理部109の出力値の中で最大のものを選び、
この多入力一出力信号処理部109に対応するカテゴリ
と、その最大出力値を出力する。

【００１７】なお、各多入力一出力信号処理部109の重
み係数は、カテゴリ群内の各カテゴリをもつ入力パター
ン信号に対して、その各カテゴリに対応する最上位層の
多入力一出力信号処理部109が最大出力を発生するよう
に、あらかじめ学習されている。

【００１８】具体的には、このような重み係数の学習方
法は、誤差逆伝搬法と呼ばれる学習アルゴリズムによっ
て行われる。誤差逆伝搬法については、たとえばネイチ
ャー323(1986)、第533頁〜第536頁掲載のもの。（ D.E.
Rumelhart , G.E.Hintonand R.J.Williams " Learning
Representations by Back-Propagating Errors", Natu
re, vol.323. pp.533-536, Oct. 9, 1986）に示されて
いる。

【００１９】以下、その誤差逆伝搬法の概略について説
明する。

【００２０】まず、重み係数学習用のパターン信号Ｘが
細分類部102の入力部108に入力する。各多入力一出力信
号処理部109は、既に説明したように、各々それに接続
されている下層の入力部108、または多入力一出力信号
処理部109の出力とその連結の度合である重み係数とを
掛け合わせたものの総和をしきい値関数で変換した後、
その値を上層へ出力する。ここで、全ての最上位層の多
入力一出力信号処理部109の出力信号ｏ_k と望ましい出
力信号ｔ_k（これを教師信号と呼ぶ）との誤差Ｅは（数
４）のように求められる。

【００２１】

【数４】Ｅ＝0.5Σ_pΣ_k（ｔ_k−ｏ_k）² （４）但し、Σ_p は教師信号のパターン数に関する総和であ
る。学習の目的は、誤差Ｅを最小にする重み係数の値を
決定することであり、各多入力一出力信号処理部間109
の重み係数の変更量△ｗ_ij は（数５）に基づいて計算
する。

【００２２】

【数５】 △ｗ_ij ＝ −ε∂Ｅ／∂ｗ_ij （５）但し、εは学習レートと呼ばれる正の定数である。この
ような（数５）に基づいた重み係数の更新を、学習用の
パターン信号が入力するたびに繰り返すことにより、誤
差Ｅを小さくすることができる。誤差Ｅが十分小さくな
ると、出力信号が望ましい値に十分近くなったものとし
て、学習を終了する。

【００２３】このような重み係数の学習方法によって、
カテゴリ群内の各カテゴリをもつ入力パターン信号に対
し、その各カテゴリに対応する最上位層の多入力一出力
信号処理部109が最大出力を発生するようにすることが
できる。従って、最上位層の複数個の多入力一出力信号
処理部109の中で、最大出力を発生するものを最大値選
択部80で選ぶことにより、各カテゴリ群内において、即
ち、各細分類部において入力パターン信号のカテゴリを
認識することができる。

【００２４】識別部105では、まず、類似度計算部111に
おいて、群選択部103で選択されたカテゴリ群の適合度
と、そのカテゴリ群に対応する細分類部102の出力値か
ら（数６）数を用いて細分類部102で得られた各カテゴ
リの類似度を計算し、これらの類似度をカテゴリ識別部
112に出力する。

【００２５】

【数６】（類似度）＝（適合度）^a（出力値）^b （６）但し、ａ，ｂは実定数とする。

【００２６】最後に、カテゴリ識別部112は、類似度計
算部111から得られる各カテゴリの類似度を比較し、そ
れらの中で最大となる類似度に対応するカテゴリを識別
結果として出力する。

【００２７】

【発明が解決しようとする課題】しかしながら、上記の
ような従来の認識装置では、各細分類部の学習は、入力
パターン信号が各カテゴリ群に属する度合すなわち群帰
属度を考慮せず、単一の細分類部でまったく独立に行わ
れるので、カテゴリ群間の境界に位置する入力パターン
に対する認識精度が劣化する。

【００２８】また、未学習パターンを誤認識した時に再
度そのパターンを学習する際（追加学習）、大分類部で
群帰属度が最大と判断された細分類部にそのパターンの
カテゴリが属しているとは限らず、どの細分類部を学習
すべきかの判断が出来ないので、追加学習が出来ないと
いう課題を有していた。

【００２９】本発明はかかる従来の認識装置の課題に対
し、必要に応じて新しいカテゴリを細分類部に追加する
とともに、入力パターンに対する群帰属度を用いて各細
分類部を協調的に学習を行ない、カテゴリ群の境界に位
置するパターンの認識率の向上が可能で、しかも効率的
に追加学習が行える学習認識装置を提供することを目的
とする。

【００３０】

【課題を解決するための手段】本発明は上記目的を達成
するために、類似パターンの集合から成るカテゴリ群に
対して入力パターン信号がカテゴリ群に属する度合であ
る群帰属度を計算する手段を複数のカテゴリ群に対して
設けた大分類部と、入力パターン信号が各カテゴリ群に
含まれるカテゴリに属する度合である群内類似度を計算
する手段を設けた群内類似度算出部と、群内類似度と群
帰属度の積を計算する複数の乗算器から成り、群内類似
度の重み付けを行う識別信号荷重部と、識別信号荷重部
から出力する重み付した群内類似度信号の比較を行うカ
テゴリ識別部と、学習に必要な教師信号を発生する教師
信号発生部と、教師信号発生部から出力する教師信号と
識別信号荷重部の出力とカテゴリ識別部との出力にもと
づいて群内類似度算出部の重み変更量を制御する学習制
御部と、学習制御信号と大分類部から出力する群帰属度
の積を演算する複数の乗算器から成り、学習制御部から
出力した学習制御信号の重み付けを行う学習制御信号荷
重部と、学習制御信号荷重部の出力と群内類似度算出部
との出力にもとづき群内類似度算出部の重み係数を更新
する重み係数更新部と群内類似度算出部とからなる複数
の細分類部とによって構成した学習認識装置である。

【００３１】

【作用】本発明は上記の構成において、学習の進み具合
いを反映した学習制御信号を、大分類部が出力する群帰
属度で重み付けした信号にもとづいて細分類部の重み修
正を行なうため、各細分類部が協調して学習し、カテゴ
リ群の境界に位置するパターンの認識率の向上が可能で
ある。

【００３２】また、カテゴリ追加部が必要に応じて細分
類部に新たなカテゴリを追加するため効率的に追加学習
を行なうことが可能である。

【００３３】さらに、学習の推移に従って群帰属度の算
出方法を変化させることで初期の学習と追加学習のそれ
ぞれの場合において適切な群帰属度算出を行ない効果的
な学習が可能となる。

【００３４】

【実施例】以下、本発明の実施例について図面を参照し
て説明する。

【００３５】一般に学習認識装置に入力するパターン信
号としては、音声等の時系列パターン、文字・画像等の
空間パターン等などがあるが、本発明においては、いず
れのパターン信号でも構わない。

【００３６】図１は本発明の学習認識装置の第一の実施
例のブロック図を示すものである。図１において、１は
細分類部であり、入力パターン信号がカテゴリ群内に含
まれる各カテゴリに類似する度合である群内類似度を計
算する群内類似度算出部１ａと、前記群内類似度算出部
１ａの出力と後述する学習制御信号荷重部６の出力に応
じて前記群内類似度算出部１ａの重み係数を更新する重
み係数更新部１ｂからなる。２は大分類部であり、類似
したパターンから成るカテゴリ群に対して入力パターン
信号が各カテゴリ群に属する度合である群帰属度を計算
するものである。２ａはカテゴリ群を代表する参照用パ
ターン信号が複数記憶されている群辞書である。２ｂは
前記群辞書２ａからの群参照用パターン信号を用いて群
帰属度を計算する群参照用パターン類似度算出部、７は
識別信号荷重部であり、細分類部１で得られた群内類似
度を前記大分類部２で計算された群帰属度により重み付
けするものである。前記識別信号荷重部７において、７
ａは乗算器であり、大分類部２で計算された群帰属度と
細分類部１から得られる群内類似度を乗算するものであ
る。３はカテゴリ識別部であり、各カテゴリ毎に乗算器
７ａの出力値の大きいものを複数個選択しそれらの出力
値の総和（カテゴリ類似度）を計算した後、カテゴリ類
似度の中から最大値を求めることによって、入力パター
ン信号のカテゴリの識別を行なうものである。４は教師
信号発生部である。５は学習制御部で、５ｂは比較器で
前記教師信号発生部４の出力と前記カテゴリ識別部３の
出力との比較を行い、５ａは重み変更量制御部で前記比
較器５ｂの比較結果にもとづき学習を行うための指示信
号として、両者が一致せずかつ入力パターン信号のカテ
ゴリーが存在する細分類部に対しては１を、一致する場
合には０を出力する。６は学習制御信号荷重部で、前記
学習算出部５から出力する指示信号を群帰属度により重
み付けするものである。

【００３７】図２は、大分類部２の構成の一実施例を示
すブロック図である。２aは類似パターンの集合から成
るカテゴリ群を代表する群参照用パターン信号を複数個
記憶する群辞書、２bは前記群辞書からの群参照用パタ
ーン信号を用いて群帰属度を計算する群参照用パターン
類似度算出部、21は入力部であり、入力パターン信号を
入力するものである。22は距離計算部であり、群辞書２
aの全ての群参照用パターン信号と入力パターン信号と
の距離を計算するものである。23は割算器であり、距離
計算部22の出力の逆数を計算するものである。24は加算
器であり、各々の割算器23の出力の総和を求めるもので
ある。25は乗算器であり、加算器24の出力と距離計算部
22の出力を乗算するものである。26は割算器であり、乗
算器25の出力の逆数を計算するものである。

【００３８】図３は、細分類部１の類似度算出部１ａの
第一の実施例を示すブロック図である。31は入力部であ
り、入力パターン信号を入力するものである。32はカテ
ゴリ辞書であり、入力パターン信号の各カテゴリの代表
値を示すカテゴリ参照用パターン信号が複数個記憶され
ているものである。33は距離計算部であり、カテゴリ辞
書32の全てのカテゴリ参照用パターン信号と入力パター
ン信号との距離を計算するものである。34は割算器であ
り、距離計算部33の出力の逆数を計算するものである。
35は加算器であり、各々の割算器34の出力の総和を求め
るものである。36は乗算器であり、加算器35の出力と距
離計算部33の出力を乗算するものである。37は割算器で
あり、乗算器36の出力の逆数を計算するものである。

【００３９】以上のように構成された学習認識装置につ
いて、以下その動作を説明する。認識対象物のｎ個の特
徴データからなる入力パターン信号Ｘ（数７）を

【００４０】

【数７】Ｘ＝（ｘ₁，ｘ₂，…，ｘ_n）（７）大分類部２に入力する。大分類部２では、入力部21が入
力パターン信号Ｘをｒ個の距離計算部22へ出力する。各
々の距離計算部22は、群辞書２ａに記憶されている各カ
テゴリ群を代表する群参照用パターン信号Ｖ_i （１≦ｉ
≦ｒ；ｒは群参照用パターン信号の数、すなわちカテゴ
リ群数）を読みだし、（数８）に示すＸとＶ_i の距離ｄ
_i を計算し、各々対応する割算器23、及び乗算器25へ出
力する。但し、ｆはｆ＞１を満たす実数とする。

【００４１】

【数８】ｄ_i＝‖Ｘ−Ｖ_i‖^2/(f-1) （１≦ｉ≦ｒ）（８）各々の割算器23は、距離ｄ_iの逆数を計算し、その出力
を加算器24へ出力する。加算器24は、全ての割算器23の
出力の総和を計算し、その出力をｒ個の乗算器25へ出力
する。各々の乗算器25では、対応する距離計算部22と加
算器24の出力を乗算し、その出力を対応する割算器26に
入力する。各々の割算器26では、対応する乗算器25の出
力の逆数を計算する。最終的に大分類部２では、この各
割算器26の出力が入力パターン信号Ｘに対する各カテゴ
リ群の群帰属度μ_i （１≦ｉ≦ｒ）として出力する。つ
まり、各カテゴリ群の群帰属度μ_i （１≦ｉ≦ｒ）は
（数９）のように表わすことができる。

【００４２】

【数９】 μ_i ＝１／ Σ_k=1 ^r（ｄ_i/ ｄ_k）（９）ここで、Σ_k=1 ^rはｋについて１からｒまでの和を表わ
す。

【００４３】なお、群辞書２ａに記憶されている各カテ
ゴリ群を代表する群参照用パターン信号は、あらかじ
め、従来のクラスタリング手法、たとえば、電子情報通
信学会編長尾真著「パターン情報処理」（コロナ社）に
示されているＫ平均アルゴリズム、及びIsodataアルゴ
リズムや、Y.Linde, A.Buzo, and R.M.Gray による"An
Algorithm for Vector Quantizer design," IEEE Tran
s. Commun.,COM-28,1, pp.84-95, Jan.1980 に示されて
いるＬＢＧアルゴリズムを用いて設計する。

【００４４】以下、Ｋ平均アルゴリズムを用いて群辞書
２ａを設計する方法について簡単に説明する。１．認識対象物の群辞書設計用のパターン信号の集合か
ら、ｒ個（但し、ｒはあらかじめ定められたカテゴリ群
数）のパターン信号を適当に選び、これらをｒ個の群参
照用パターン信号Ｖ_i（１≦ｉ≦ｒ）とする。２．全ての群辞書設計用のパターン信号Ｘについて、そ
れぞれ、（数１０）に示す距離ｄ_i

【００４５】

【数１０】ｄ_i＝‖Ｘ−Ｖ_i‖ （１０）を最小にするＶ_iを求める。このとき、Ｘはカテゴリ群
Ｓ_i（１≦ｉ≦ｒ）に属するものとする。３．各Ｓ_iに属するパターン信号Ｘの平均値を求め、こ
れをＶ_i’とする。４．Ｖ_i’＝Ｖ_iが全てのｉについて成立すれば、このと
きの群参照用パターン信号Ｖ_iを群辞書２ａに記憶す
る。そうでなければ、Ｖ_i’を新たな群参照用パターン
信号Ｖ_iとして、２．に戻る。このようにして、群参照用パターン信号を設計すること
によって、全てのパターン信号はいくつかの類似したパ
ターン信号の部分集合（カテゴリ群）に分割することが
できる。なお、Isodataアルゴリズム及び、ＬＢＧアル
ゴリズムもこのＫ平均アルゴリズムと基本的にはほぼ同
じ手法である。

【００４６】各細分類部１の類似度算出部１ａは入力部
31が入力パターン信号Ｘをｃ個の距離計算部33へ出力す
る。各々の距離計算部33は、カテゴリ辞書32に記憶され
ている各カテゴリの代表値を示すカテゴリ参照用パター
ン信号（重み係数）Ｗ_j （１≦ｊ≦ｃ；ｃはカテゴリ参
照用パターン信号の数）を読みだし、（数１１）に示す
ＸとＷ_jの距離ｄ_jを計算し、各々対応する割算器34、及
び乗算器36へ出力する。

【００４７】

【数１１】ｄ_j＝‖Ｘ−Ｗ_j‖^2/(f-1) （１≦j≦ｃ）（１１）但し、ｆはｆ＞１を満たす実数とする。

【００４８】各々の割算器34は、距離ｄ_jの逆数を計算
し、その出力を加算器35へ出力する。加算器35は、全て
の割算器34の出力の総和を計算し、その出力をｃ個の乗
算器36へ出力する。各々の乗算器36では、対応する距離
計算部33と加算器35の出力を乗算し、その出力を対応す
る割算器37に入力する。各々の割算器37では、対応する
乗算器36の出力の逆数を計算する。最終的に、細分類部
１では、この各割算器37の出力が入力パターン信号Ｘに
対する各カテゴリの群内類似度ベクトル（ν₁,ν₂,…,
ν_c）として、識別信号荷重部７に出力する。つまり、
細分類部１における各カテゴリの群内類似度は（数１
２）のように表す。

【００４９】

【数１２】 ν_j ＝１／ Σ_k=1 ^c（ｄ_j/ ｄ_k）（１２）ここで、Σ_k=1 ^cはｋについて１からｃまでの和を表わ
す。

【００５０】識別信号荷重部７では、乗算器７ａが大分
類部２で計算したｉ番めのカテゴリ群の群帰属度μ
_iと、そのカテゴリ群に対応する細分類部１から得られ
る群内類似度ベクトル（ν₁,ν₂,…,ν_c）を乗算し、そ
れらの出力をカテゴリ識別部３に出力する。つまり、乗
算器７ａは、（群参照用パターン信号の数×各細分類部
におけるカテゴリ参照用パターン信号数の総和）個用意
されており、カテゴリ群ｐの群帰属度μ_p（１≦ｐ≦
ｒ；ｒはカテゴリ群の数）とそのカテゴリ群ｐに対応す
る細分類部１から得られたあるカテゴリｑの群内類似度
ν_pq（１≦ｑ≦ｃ；ｃはカテゴリ群に属するカテゴリ
数）が入力する乗算器７ａの出力値ξ_pqは（数１３）の
ように表する。

【００５１】

【数１３】 ξ_pq＝μ_p・ν_pq （１３）カテゴリ識別部３では、全ての乗算器７ａの出力値を、
各カテゴリ毎にまとめて分類し、その出力値の大きいも
のを複数個選択する。そして、各カテゴリ毎に、これら
の選択された出力値の総和をカテゴリ類似度ｒ_s（1≦s
≦N_C；N_Cはカテゴリの数）として求め、それらの中で最
大となる類似度に対応するカテゴリを認識結果として出
力する。なお、乗算器７ａの出力値を各カテゴリ毎に複
数個選択する方法としては、乗算器７ａの出力値がある
しきい値以上のものを選択するとしてもよい。

【００５２】教師信号算出部４は、入力パターン信号Ｘ
に同期して、パターンＸのカテゴリに対応する要素の
み"1" でそれ以外は"0" の教師信号ベクトルＴ=( t₁,
t₂,…,tN_C)を生成する。学習制御部５は識別信号荷重部
７の出力値と教師信号との比較結果にもとづき学習を行
うための指示信号Ｅとして、両者が一致せずかつ入力パ
ターン信号のカテゴリーが存在する細分類部にに対して
は１を、一致する場合には０を出力する。

【００５３】学習制御信号荷重部６は、（数１４）のよ
うに指示信号Ｅ_p（ｐ番目の細分類部に対する指示信
号）と前記群帰属度を乗算器６ａで乗算し対応する細分
類部１の重み係数更新部１ｂに出力し、重み係数更新部
１ｂは群類似度算出部１ａのカテゴリ参照用パターン信
号（重み係数）を、前記類似度算出部１ａの出力と前記
学習制御信号荷重部の出力とから、たとえば、学習ベク
トル量子化法（ＬＶＱ）と呼ばれる学習アルゴリズムに
類した手法を用いて更新する。

【００５４】

【数１４】Ｅ'_p＝Ｅ_p・ μ_p （１４）ここでＥ'_pはp番目の細分類部に対する荷重学習制御信
号、Ｅ_pはｐ番目のカテゴリに対する学習制御信号、μ_p
は荷重学習制御信号が入力する細分類部ｐに対する群類
似度を表す。

【００５５】学習ベクトル量子化法については、たとえ
ば、T.Kohonenによる"LearningVector Quantization fo
r Pattern Recognition"，Helsinki University ofTech
nology, Report TKK-F-A601(1986.11)に示されている。

【００５６】以下、ｐ番目の細分類部を例に学習ベクト
ル量子化法について簡単に説明する。カテゴリ参照用パ
ターン信号Ｗ_jの初期値は、各カテゴリ群に含まれる入
力パターン信号の集合からなるカテゴリ辞書設計用のパ
ターン信号から、各カテゴリ毎に任意に選択されたもの
及び、群辞書２ａの設計の際に説明したＫ平均アルゴリ
ズム等の従来のクラスタリング法等によりあらかじめ用
意しておき、入力パターン信号Ｘが入力する度に以下の
ステップを各細分類部に実行する。

【００５７】１．前記群内類似度ν_jの中で類似度が
最大のカテゴリ参照用パターン信号Ｗ_kを選択し、Ｗkの
カテゴリをＣkとする。

【００５８】２．・入力パターン信号ＸのカテゴリとＣ
kが一致する場合、Ｗ_kを学習制御信号荷重部６の出力
Ｅ'_pに比例してＸに近付ける。同様に両者が一致しない
場合はＷ_kをＥ'_pに比例してＸから遠ざける。

【００５９】・Ｗ_k以外のカテゴリ参照用パターン信号
は更新されない。ただし、群帰属度の小さい細分類部に対しては上記の手
続きを省略することができる。

【００６０】このようにして、全ての入力パターン信号
Ｘに対する識別結果が、そのカテゴリに一致するまで上
記学習動作を繰り返すことにより、この学習認識装置は
入力パターンに対する認識が可能となる。

【００６１】以上のように本実施例によれば、大分類部
が出力する群帰属度で重み付けした学習制御信号にもと
づいて各細分類部の重み修正を行なうため、入力パター
ン信号が属するカテゴリの存在する細分類部が協調して
学習し、カテゴリ群の境界に位置するパターンの認識率
の向上が可能である。

【００６２】図４は本発明の学習認識装置の第二の実施
例で、群選択部および入力信号選択部を有するものを示
す。図４において、細分類部１、類似度算出部１ａ、重
み係数更新部１ｂ、大分類部２、群辞書２ａ、カテゴリ
識別部３、教師信号発生部４、学習制御部５、学習制御
号荷重部６、識別信号荷重部７、乗算器６ａ、７ａは、
上述した第一の実施例のものと同様である。本実施例で
は上記に加え、群選択部８は大分類部２が出力する群帰
属度にもとづき複数個のカテゴリ群を選択するものであ
る。入力信号選択部９は前記群選択部８の選択結果にも
とづき入力パターン信号を入力する細分類部を選択する
ものである。

【００６３】以上のように構成された学習認識装置につ
いて、以下その動作を説明する。学習認識動作に関して
は上述した学習認識装置の第一の実施例と同様である
が、群選択部８は群帰属度の大きいカテゴリ群を選択
し、その結果を入力信号選択部９に出力する。また選択
したカテゴリ群についてのみ群帰属度を学習制御信号荷
重部６ならびに識別信号荷重部７に出力する。

【００６４】このように本実施例によれば、群選択部８
が選択した群帰属度の大きいカテゴリ群についてのみ細
分類部の認識と学習を行うため、高速で効果的な学習認
識が可能となる。

【００６５】図５は本発明の学習認識装置の第三の実施
例で、限定群選択部８ａと群帰属度切り替え部１１を更
に有するものを示す。図５において、細分類部１、類似
度算出部１ａ、重み係数更新部１ｂ、大分類部２、群辞
書２ａ、カテゴリ識別部３、教師信号発生部４、学習制
御部５、学習制御号荷重部６、識別信号荷重部７、乗算
器６ａ、７ａ、群選択部８、入力信号選択部９は上述し
た第二の実施例のものと同様である。本実施例では上記
に加え、カテゴリ情報記憶部１０が各細分類部１に属す
るカテゴリの情報を記憶し、限定群選択部８ａが前記カ
テゴリ情報記憶部１０の記憶内容にもとづき、入力パタ
ーン信号のカテゴリが存在する細分類部の中で群帰属度
の大きい方から少なくとも１つの群帰属度を選択する。
また、群帰属度切り替え部１１は群選択部６の出力と限
定群選択部８ａの出力を切り替えて学習制御信号荷重部
６に出力する。

【００６６】以上のように構成された学習認識装置につ
いて、以下その動作を説明する。学習認識動作に関して
は上述した学習認識装置の第二の実施例と同様である
が、初期の学習時には群帰属度切り替え部１１が群選択
部６の群帰属度を学習制御信号荷重部６に出力し、追加
学習時には限定群選択部６ａの群帰属度を学習制御信号
荷重部６に出力するように切り替える。

【００６７】このように本実施例によれば、未学習の入
力パターン信号を学習する場合、限定群選択部６ａが入
力パターン信号のカテゴリの存在する細分類部に選択的
に群帰属度を出力するため、未学習パターンの追加学習
が可能となる。また、入力パターン信号に関連ある細分
類部のみ学習を行うため、追加学習が学習認識装置全体
に影響を与えにくく、学習済みのパターンに対する認識
性能に影響がでにくい追加学習が可能となる。

【００６８】図６は本発明の学習認識装置の第四の実施
例で群帰属度荷重部１２を有するものを示す。図６にお
いて、細分類部１、類似度算出部１ａ、重み係数更新部
１ｂ、大分類部２、群辞書２ａ、カテゴリ識別部３、教
師信号発生部４、学習制御部５、学習制御号荷重部６、
識別信号荷重部７、乗算器６ａ、７ａ、カテゴリ情報記
憶部１０は上述した第三の実施例のものと同様である。
本実施例では上記に加え、群帰属度荷重部１２がカテゴ
リ情報記憶部１０の記憶内容にもとづき大分類部２の出
力の重み付けを行う。

【００６９】図７は、その群帰属度荷重部１２の一実施
例を示すブロック図である。

【００７０】91は荷重部で、大分類部２の出力を重み付
けするものである。92は荷重調整部で、カテゴリ情報記
憶部１０に記憶された各細分類部に属するカテゴリの情
報により、入力パターンのカテゴリが存在するカテゴリ
群を選択し、その群帰属度が大きくなる様に前記荷重部
92の荷重を調整するものである。

【００７１】以上のように構成された学習認識装置につ
いて、以下その動作を説明する。学習認識動作に関して
は上述した学習認識装置の第三の実施例と同様である
が、群帰属度荷重部１２が、カテゴリ情報記憶部１０の
記憶内容にもとづき、入力パターンのカテゴリが存在す
る細分類部の群帰属度がより大きくなるように荷重を調
整しながら群帰属度を重み付けを行う。

【００７２】このように本実施例によれば、群帰属度荷
重部１２が入力パターン信号のカテゴリの存在する細分
類部に対する群帰属度を大きくすることで、入力パター
ン信号に関連ある細分類部の学習が強調され効果的な未
学習パターンの追加学習が可能となる。

【００７３】図８は本発明の学習認識装置の第五の実施
例でカテゴリ追加部１３を有するものを示す。図８にお
いて、細分類部１、類似度算出部１ａ、重み係数更新部
１ｂ、大分類部２、群辞書２ａ、カテゴリ識別部３、教
師信号発生部４、学習制御部５、学習制御信号荷重部
６、識別信号荷重部７、乗算器６ａ、７ａは、カテゴリ
情報記憶部１０は上述した第三の実施例のものと同様で
ある。本実施例では上記に加え、カテゴリ追加部１３
が、細分類部１に対して新たなカテゴリに対する群内類
似度を計算する手段を付加し、カテゴリ情報記憶部１０
は各細分類部１に属するカテゴリ情報を記憶する。

【００７４】以上のように構成された学習認識装置につ
いて、以下その動作を説明する。ここでは、細分類部１
の類似度算出部１ａとしては、図３に示す構成のものを
例にとって説明する。認識動作に関しては上述した学習
認識装置の第一の実施例と同様である。学習動作に関し
ても上述した学習認識装置の第一の実施例と同様である
が、カテゴリ追加部１３はカテゴリ情報記憶部１０のカ
テゴリ情報と教師信号発生部４から出力する教師信号を
比較して、学習すべき入力パターン信号の属するカテゴ
リが学習を行なう細分類部に属していない場合に、新た
に前記入力パターン信号の属するカテゴリに対する群内
類似度を計算する手段を細分類部１に付加する。図３に
おいて説明すると、対象となる細分類部１に含まれる群
内類似度算出部１ａのカテゴリ辞書32に、現在入力され
ている入力パターン信号をカテゴリ参照用パターンとし
て追加し、追加したカテゴリに対する距離計算部33、割
算器34、加算器35、乗算器36、割算器37を新たに設け
る。同時に新たなカテゴリ情報をカテゴリ情報記憶部１
０に記憶する。

【００７５】このように本実施例によれば、カテゴリ追
加部１３が細分類部１に新たなカテゴリに対する群内類
似度算出手段１ａを付加するため、大分類部２で正確に
分類できないような新たな変動の大きいパターンを効率
良く追加学習することが可能となる。

【００７６】図９は本発明の学習認識装置の第六の実施
例で帰属度依存カテゴリ追加制御部１４を有するものを
示す。図９において細分類部１、類似度算出部１ａ、重
み係数更新部１ｂ、大分類部２、群辞書２ａ、カテゴリ
識別部３、教師信号発生部４、学習制御部５、学習制御
信号荷重部６、識別信号荷重部７、乗算器６ａ、７ａ、
カテゴリ情報記憶部１０、カテゴリ追加部１３は、上述
した第五の実施例のものと同様である。本実施例では上
記に加え、帰属度依存カテゴリ追加制御部１４が大分類
部２の出力する群帰属度の値に応じてカテゴリ追加部１
３がカテゴリ追加を行なうか行なうか否かを細分類部１
ごとに切替える。

【００７７】図１０は本発明の学習認識装置に用いる帰
属度依存カテゴリ追加制御部１４の一実施例を示す。１
４aは入力した複数の群帰属度信号の最大値を検出する
最大値検出器、１４bはカテゴリ追加の基準となる群帰
属度の値を記憶する記憶部、１４cは前記最大値検出器
１４aが検出した群帰属度の最大値と前記記憶部１４bが
記憶する基準となる群帰属度とを比較する比較器、１４
dは前記比較器の比較結果にもとづき、群帰属度の最大
値が基準となる群帰属度を越えた場合にカテゴリ追加の
指示信号を出力するカテゴリ追加指示部である。

【００７８】以上のように構成された学習認識装置につ
いて、以下その動作を説明する。ここでは、細分類部の
類似度算出部１ａとしては、図３に示す構成のものを例
にとって説明する。認識動作に関しては上述した学習認
識装置の第一の実施例と同様である。学習動作に関して
は上述した学習認識装置の第五の実施例と同様である
が、帰属度依存カテゴリ追加制御部１４は、学習すべき
入力パターン信号の属するカテゴリが学習を行なう細分
類部１に属していない場合に、常に対象となる細分類部
１全てにカテゴリ追加を行なうのではなく、対象となる
細分類部に属するカテゴリ群の群帰属度があらかじめ定
めた基準を越えた場合にのみ追加を行なうようにカテゴ
リ追加部１３を制御する。また、群帰属度の大きい方か
ら一部の細分類部１のみをカテゴリ追加の対象とするこ
とも可能である。

【００７９】このように本実施例によれば、大分類部２
の分類基準から大きく外れた場合にのみカテゴリ追加を
行ない、その他の場合には群内類似度算出部１ａの重み
変更による学習と切替えることで効率の良い追加学習が
可能となる。

【００８０】図１１は本発明の学習認識装置の第七の実
施例で誤差依存カテゴリ追加制御部１５を有するものを
示す。図１１において細分類部１、類似度算出部１ａ、
重み係数更新部１ｂ、大分類部２、群辞書２ａ、カテゴ
リ識別部３、教師信号発生部４、学習制御信号荷重部
６、識別信号荷重部７、乗算器６ａ、７ａ、カテゴリ情
報記憶部１０、カテゴリ追加部１３は、上述した第五の
実施例のものと同様である。本実施例では上記に加え、
誤差算出器５ｃと重み変更量制御部５ａで学習制御部５
を構成し、誤差依存カテゴリ追加制御部１５が学習制御
部５の出力する学習制御信号の値に応じて前記カテゴリ
追加を行なうか行なうか否かを切替える。

【００８１】図１２は本発明の学習認識装置に用いる誤
差依存カテゴリ追加制御部１５の一実施例を示す。１５
aはカテゴリ追加の基準となる誤差の値を記憶する記憶
部、１５bは誤差信号と前記記憶部１５bが記憶する基準
となる誤差値とを比較する比較器、１５cは前記比較器
の比較結果にもとづき、誤差信号が基準となる誤差値を
越えた場合にカテゴリ追加の指示信号を出力するカテゴ
リ追加指示部である。

【００８２】図１３は、類似度算出部１ａの第二の実施
例の構成を具体的に示すブロック図である。41は入力部
であり、入力パターン信号を入力するものである。42は
多入力一出力信号処理部であり、それに接続されている
下層の入力部41、または多入力一出力信号処理部42の出
力と、その連結の度合である重み係数とを各々掛け合わ
せて総和したものをしきい値処理して出力するものであ
る。ここでは、これら複数個の多入力一出力信号処理部
を層構造を持ち、上位層にのみ信号が伝搬するようにネ
ットワーク接続することによって、入力パターン信号に
対するカテゴリ群内の各カテゴリに類似する度合である
類似度が求められる。

【００８３】図１４は、前記多入力一出力信号処理部42
の構成を具体的に示すブロック図である。図１４におい
て、51は入力部あり、入力パターン信号を入力するもの
である。52は重み係数記憶部であり、入力部51からの複
数の入力信号を重み付ける重み係数を記憶するものであ
る。53は乗算器であり、重み係数記憶部52の重み係数と
入力部51からの入力信号を乗算するものである。54は加
算器であり、全ての乗算器53の出力値を総和するもので
ある。55はしきい値処理部であり、加算器54の出力値を
一定範囲の値に制限するものである。

【００８４】以上のように構成された細分類部１の類似
度算出部１ａの第二の実施例を示すブロック図につい
て、以下その動作を説明する。第一の実施例同様に、細
分類部１では、入力部31に、入力パターン信号Ｘを入力
する。入力部41は、パターンデータの特徴データ数に等
しくＮ個用意されており、各特徴データｘ_iはそれぞれ
対応する入力部41に入力する。各々の多入力一出力信号
処理部42は、図４に示すようにそれに接続されている下
層の入力部41、または多入力一出力信号処理部42の出力
と重み係数記憶部52に記憶されているその接続の度合で
ある重み係数ｗ_ijとを乗算器53により掛け合わせ、各々
の乗算器53の出力の総和を加算器54で計算した後、しき
い値処理部55で変換し、その出力値を上層へ出力する。
つまり、図４に示すある層のｉ番目の多入力一出力信号
処理部42の出力値Ｉ_iは、入力部51への入力値をＩ_j 、
それに接続されている入力とその接続の度合である重み
係数をｗ_ij（ｉ番目の多入力一出力信号処理部とｊ番目
の入力との結合重み）とすれば、（数１５）のように表
する。

【００８５】

【数１５】Ｉ_i ＝ｆ（Σ_jｗ_ij・Ｉ_j）（１５）ここで、Σ_jはｊについての総和を表わす。なお、しき
い値処理部55の入出力特性を図１５に示す。たとえば、
出力を（０，１）の範囲に制限するしきい値処理部55の
入出力特性は（数１６）のようになる。

【００８６】

【数１６】ｆ（ａ） = 1 / (1 + exp(-ａ+θ)) （１６）但し、ａはしきい値処理部55、の入力である。なお、し
きい値処理部55の入出力特性としては上記以外のしきい
値関数でもよい。

【００８７】最上位層の多入力一出力信号処理部42は、
各カテゴリ群に含まれるパターン信号のカテゴリの数と
同じ個数に設定されており、最上位層の各多入力一出力
信号処理部42は、これらの各カテゴリに対応している。
つまり、最上位層の各多入力一出力信号処理部42の出力
が、入力パターン信号に対するカテゴリ群内の各カテゴ
リに類似する度合である類似度として、識別信号荷重部
７に出力する。

【００８８】以上のように構成された学習認識装置につ
いて、以下その動作を説明する。認識動作に関しては上
述した学習認識装置の第一の実施例と同様である。学習
動作に関しては上述した学習認識装置の第五の実施例と
同様であるが、誤差算出器５ｃは識別信号荷重部７の出
力値と教師信号との誤差をカテゴリ毎に計算し誤差信号
ベクトルＥ=（e₁, e₂,…, e_Nc）を（数１７）のように
計算する。

【００８９】

【数１７】Ｅ_i＝Ｔ_i−Σξ_i (1≦i≦Nc；Ncはカテゴリの数) （１７）ここで、Ｅ_iはｉ番目のカテゴリに対する誤差、Ｔ_iはｉ
番目のカテゴリに対する教師信号、Σξ_iはｉ番目のカ
テゴリに対応する全ての乗算器７ａの出力の和を表す。
重み変更量制御部５ａは前記誤差算出器５ｃで計算した
誤差を学習制御信号として学習制御信号荷重部６に出力
する。

【００９０】学習制御信号荷重部６は、（数１８）のよ
うに前記学習制御信号Ｅと前記群帰属度を乗算器６ａで
乗算し対応する細分類部１の重み係数更新部１ｂに出力
する。

【００９１】

【数１８】Ｅ'_ip＝Ｅ_i・ μ_p （１８）ここでＥ'_ipはi番目のカテゴリのp番目の細分類部に対
する荷重学習制御信号、Ｅ_iはi番目のカテゴリに対する
学習制御信号、μ_pは荷重学習制御信号を入力する細分
類部pに対する群類似度を表す。

【００９２】誤差依存カテゴリ追加制御部１５は、学習
すべき入力パターン信号の属するカテゴリが学習を行な
う細分類部に属していない場合に、常に対象となる細分
類部にカテゴリ追加を行なうのではなく、学習制御信号
の値があらかじめ定めた基準を越えた場合にのみ追加を
行なうようにカテゴリ追加部１３を制御する。

【００９３】重みの修正手法については、各細分類部に
おいて学習制御信号荷重部６の出力を誤差信号として扱
い、前記誤差逆伝搬法を用いて誤差を減少する方向に重
みを更新することができる。

【００９４】このように本実施例によれば、本学習認識
装置の識別基準から大きく外れた場合にのみカテゴリ追
加を行ない、その他の場合には群内類似度算出部の重み
変更による学習と切替えることで効率の良い追加学習が
可能となる。なお、誤差依存カテゴリ追加制御部１５
は、上述した帰属度依存カテゴリ追加制御部１４と併用
することも可能である。

【００９５】図１６は本発明の学習認識装置の第八の実
施例で帰属度制御部１６を有するものを示す。図１６に
おいて細分類部１、類似度算出部１ａ、重み係数更新部
１ｂ、大分類部２、群辞書２ａ、カテゴリ識別部３、教
師信号発生部４、学習制御信号荷重部６、識別信号荷重
部７、乗算器６ａ、７ａ、カテゴリ情報記憶部１０、カ
テゴリ追加部１３、誤差依存カテゴリ追加制御部１５は
上述した第七の実施例のものと同様であり、学習制御部
５としては図１１に示す構成のものと同様であり、大分
類部の類似度算出部としては、図２に示す構成のものと
同様である。本実施例では上記に加え、学習監視部１６
aが誤差算出部５ｃの誤差変化とパターンを入力する回
数を監視し、定数制御部１６bは前記１６aの監視結果に
もとづき大分類部２の距離計算部22の計算に用いる定数
の値を変化させる。

【００９６】図１７は本発明の大分類部に用いる距離計
算部の一実施例を示す。２２a₀〜２２a_n( n はパターン
データの特徴データ数)は群参照用パターン信号と入力
パターン信号との差を計算する減算器、２２b₀〜２２b_n
は前記減算器の出力のべき乗を計算するべき乗器、２
２cは前記べき乗器の出力の和を計算する加算器、２２d
は前記加算器の出力のべき乗を計算するべき乗器であ
る。

【００９７】以上のように構成された学習認識装置につ
いて、以下その動作を説明する。認識動作に関しては上
述した学習認識装置の第一の実施例と同様である。学習
動作に関しては上述した学習認識装置の第七の実施例と
同様であるが、帰属度制御部１６は少数のカテゴリ群が
相対的に大きな群帰属度を有するように群帰属度を算出
し、学習が推移するに従いより多くのカテゴリ群が相対
的に大きな群帰属度を有するように群帰属度の算出方法
を変化させる。学習の推移は学習監視部１６aによって
監視する。学習監視部１６aは入力されたパターンの数
があらかじめ定めた基準を越えるまたは、誤差算出部５
ｃの出力をもとに誤差の変化量があらかじめ定めた基準
を下回った場合には、定数制御部１６bに定数変更の指
示を出す。定数制御部１６bは学習監視部１６aから指示
を受けると、大分類部の距離計算部22のべき乗器２２b₀
〜２２b_n、２２dのべき乗計算の指数を２２b₀〜２２b_n
については増加させ、２２dについては２２b₀〜２２b_n
の逆数に設定する。（数８）においてはｆを変化させる
ことで実現することができる。すなわち学習初期におい
てはｆを１に非常に近い値を持たせることで一つのカテ
ゴリ群についてのみ群帰属度が大きい値を有し、他のカ
テゴリ群は相対的に小さい値を有するようになる。学習
が進むにつれてｆの値を大きくすることで、複数のカテ
ゴリ群が相対的に大きな群帰属度を有するようになる。
学習時の重みの変更量は群帰属度に比例した値となるた
め、学習初期においては少数のカテゴリ群のみを強く選
択するため一つの入力パターン信号に対して一部の細分
類部のみが学習し、学習が進むにつれて多くの細分類部
が学習を行なう協調的な学習へ滑らかに移行することに
なる。本実施例によれば、各細分類部において適切な
重みが獲得れていない学習初期には局所的な学習で効率
良く学習を進め、学習後期あるいは追加学習を行なう段
階で協調的な学習を行なうことで、局所的な重みの変更
で全体としての重み係数のバランスを壊すことを防ぎ、
効果的な追加学習が可能となる。

【００９８】図１８は、類似度算出部１ａの第三の実施
例を示すブロック図である。本実施例では、パターン入
力信号２組（第一特徴データ、第二特徴データ）を三つ
のカテゴリーに対する類似度を算出するもので、経路選
択単位ｎを複数個組み合わせて分岐構造を構築し、一つ
の分岐構造中に二層の層構造を構成してある。下位層、
を経路選択単位ｎ１１〜ｎ１２で構成し、上位層を学習
認識単位ｑ３１〜ｑ３３で構成する。各経路選択単位の
信号入力部には判断すべき特徴データを、教師信号入力
部には教師信号を入力する。

【００９９】図１９は本発明の類似度算出部１ａの第三
の実施例に用いる経路選択単位の一実施例を示すもので
ある。ｎ１は信号入力部で、信号入力端子ｎ１ａを介し
て入力された認識の対象となる信号を量子化器ｎ２に入
力する。量子化器ｎ２は入力された信号を量子化し、量
子化した結果を経路荷重部ｎ３ｂに出力する。ｎ３ａは
経路入力部で、経路入力端子ｎ３ａ０を介して入力され
た経路信号を経路荷重部ｎ３ｂに入力する。ｎ３ｅ１〜
ｎ３ｅ５は経路出力端子で、経路選択単位または学習認
識単位を階層的に組合せるときに、これらの端子を互い
に連結するものである。

【０１００】経路荷重部ｎ３ｂは、経路入力部ｎ３ａと
経路出力部ｎ３ｅとの間を接続する荷重ｎ３ｂ０１〜ｎ
３ｂ０５と、前記荷重の値を前記量子化結果に応じて荷
重ｎ３ｂ０１〜３ｂ０５に設定する荷重設定部ｎ３ｂ０
とで構成する。経路荷重部ｎ３ｂでは、荷重設定部ｎ３
ｂ０が入力信号の量子器ｎ２の量子化結果に基づいて、
前記荷重値をそれぞれの量子化レベルに対応する荷重に
設定する。すなわち荷重設定部ｎ３ｂ０は量子化結果に
もとづき各荷重の値の振り分けを行う。荷重ｎ３ｂ０１
〜ｎ３ｂ０５は、経路入力部から入力された経路信号を
重み付けし、経路出力部ｎ３ｅは、この重み付けした経
路信号を経路出力端子ｎ３ｅ１〜ｎ３ｅ５に出力する。
ｎ４は量子化制御部で内部状態記憶部ｎ５に記憶する経
路選択単位の内部状態にもとづき前記量子化器２の量子
化する範囲の変更および経路設定部ｎ３ｂ０がいくつの
荷重に荷重値を振り分けるかを変化させる。すなわち、
経路荷重部ｎ３ｂに含まれる荷重は全て使われるのでは
なく、必要に応じて量子化制御部ｎ４は内部状態記憶部
ｎ５の記憶内容にもとづいて必要な数を変化させる。

【０１０１】図２０は本発明の類似度算出部１ａの第三
の実施例に用いる学習認識単位の一実施例を示す。ｑ１
は教師信号入力部、ｑ３ａは経路入力部、ｑ３ｂは経路
荷重部で、経路入力部ｑ３ａの出力値に重み付けを行な
う荷重ｑ３ｂ０１〜ｑ３ｂ０１０及び前記結合荷重を変
更する学習器ｑ３ｂ１から成る。ｑ３ｃは重み付けされ
た荷重の出力を加算する加算器である。

【０１０２】学習器ｑ３ｂ１は学習認識単位の出力と教
師信号入力部ｑ１からの入力値とにもとづいて、荷重ｑ
３ｂ０１〜３ｂ０５０の値を決定する。

【０１０３】次に、このように構成した類似度算出部２
ｂの学習動作を説明する。各分岐構造の下層の経路選択
単位ｎ１１〜ｎ１２の経路入力端子への経路入力信号と
して、"１"を与える。又、これらの経路選択単位の量子
化器への信号入力端子には、認識対象物の特徴デ−タを
入力する（この図の場合には、二個の特徴デ−タをの経
路選択単位に入力する）。

【０１０４】各経路選択単位は、これらの特徴デ−タを
量子化器ｎ２で量子化し、この量子化した値にもとづい
て、荷重設定部ｑ３ｂ０はそれぞれのデータに対応する
荷重値をその量子化レベルに基づいて設定する。このよ
うに一つの経路選択単位において複数の経路が選択さ
れ、上層へ前記荷重の値を掛けた値が送られる。このと
き内部状態記憶部ｎ５は入力した特徴データの統計量を
内部状態として保持し、特徴データを入力するごとに記
憶内容を更新する。量子化制御部ｎ４は内部状態記憶部
ｎ５の記憶内容にもとづき、過去に入力した特徴データ
の分散が大きいときには経路荷重部ｎ３ｂで用いる荷重
と経路の数を増し、より精度の高い経路の選択を可能に
する。同時に量子化制御部ｎ４は経路荷重部ｎ３ｂの経
路の増加にあわせて、量子化器ｎ２の量子化基準を変更
する。

【０１０５】上層の学習認識単位ｑの教師信号入力端子
ｑ１ａには認識対象の信号が分類したい三つのカテゴリ
ーの内どのカテゴリーに属するかを示す教師入力信号、
すなわち、学習認識単位ｑ３１〜ｑ３３の内で最も大き
い値を出力することが望ましい学習認識単位に対して”
１”を入力し、他の学習認識単位に対しては０を入力す
る。重みの変更方法については前述の誤差逆伝搬法など
を用いることができる。

【０１０６】次に、図１８に示した類似度算出部の認識
動作を説明する。学習の動作と全く同様に、各分岐構造
の下層の経路選択単位ｎ１１〜ｎ１２の経路入力端子へ
の経路信号として、まず”１”を与える。又、これらの
経路選択単位の量子化器への信号入力端子には、認識対
象物の特徴デ−タを入力する。（この図の場合には、二
個の特徴デ−タを、それぞれの経路選択単位に入力す
る。）各経路選択単位は、特徴デ−タを量子化器ｎ２で
量子化し、この量子化した値に基づいて、荷重設定部ｎ
３ｂ０は特徴データに対応する前記荷重値を、その量子
化レベル位置に基づいて設定する。このように、認識時
には一つの経路が選択され、上層の学習認識単位ｑ３１
〜ｑ３３の入力端子へ、経路信号と前記荷重の値をかけ
た値が送られる。

【０１０７】最上位層の学習認識単位は、経路入力部か
らの入力値に対して結合荷重を乗じ、加算器で総和を求
めた値を出力する。このとき、複数の学習認識単位の中
で最大値を出力した学習認識単位が表わすカテゴリーが
認識結果となる。また、認識時には荷重およびしきい値
の変更は行なわれない。このようにして前記学習認識装
置は、入力した認識対象物特徴デ−タに基づき、認識対
象物の分類、認識判断を行なうことができる。

【０１０８】図２１は本発明の学習認識装置の第九の実
施例で量子化基準記憶部１７と量子化基準制御部１８を
有するものを示す。図２１において細分類部１、類似度
算出部１ａ、重み係数更新部１ｂ、大分類部２、群辞書
２ａ、カテゴリ識別部３、教師信号発生部４、学習制御
部５、学習制御信号荷重部６、識別信号荷重部７、乗算
器６ａ、７ａ、カテゴリ情報記憶部１０、カテゴリ追加
部１３は上述した第七の実施例のものと同様であり、大
分類部の類似度算出部としては図２に示す構成のものと
同様であり、細分類部の類似度算出部としては図１８に
示す構成のものと同様である。本実施例では上記に加
え、類似度算出部１ａの量子化制御部ｎ４が内部状態記
憶部ｎ５の記憶内容と比較に用いる定数を量子化基準記
憶部１７が記憶する。量子化基準制御部１８は前記量子
化基準記憶部の記憶する定数を変化させる。

【０１０９】図２２は、本発明の学習認識装置の第九の
実施例に用いる量子化基準制御部１８の第一の実施例を
示すブロック図である。図２２において１８ａは量子化
定数制御部で、１８ｂは誤差監視部である。誤差監視部
１８ｂは誤差算出部５ｃの出力する誤差信号を監視し、
誤差の減少あるいは誤差変化の減少を検出する。量子化
定数制御部１８ａは誤差監視部１８ｂで検出した結果に
もとづき量子化基準記憶部１７に記憶する定数を変化さ
せる。

【０１１０】図２３は、本発明の学習認識装置の第九の
実施例に用いる量子化基準制御部１８の第二の実施例を
示すブロック図である。図２３において１８ａは量子化
定数制御部で、１８ｃは学習回数監視部である。学習回
数監視部１８ｃは入力する入力パターン信号の入力回数
を監視する。量子化定数制御部１８ａは学習回数監視部
１８ｃで検出した学習回数にもとづき量子化基準記憶部
１７に記憶する定数を変化させる。

【０１１１】図２４は、本発明の学習認識装置の第九の
実施例に用いる量子化基準制御部１８の第三の実施例を
示すブロック図である。図２４において１８ａは量子化
定数制御部で、１８ｄはカテゴリ追加監視部である。カ
テゴリ追加監視部１８ｄはカテゴリ追加部１３のカテゴ
リ追加動作を監視する。量子化定数制御部１８ａはカテ
ゴリ追加監視部１８ｄがカテゴリ追加を検出した場合に
量子化基準記憶部１７に記憶する定数を変化させる。

【０１１２】以上のように構成された学習認識装置につ
いて、以下その動作を説明する。認識動作に関しては上
述した学習認識装置の第七の実施例と同様である。学習
動作に関しても上述した学習認識装置の第七の実施例と
同様であるが、誤差の大きい場合、あるいは学習回数の
少ない場合、あるいはカテゴリ追加動作が行われた場合
には各細分類部の経路荷重部ｎ３ｂにおいて詳細な経路
選択が行えるように量子化基準制御部１８が各細分類部
ごとに量子化制御部ｎ４が用いる比較基準を変化させ
る。

【０１１３】本実施例によれば、誤差信号・学習回数・
カテゴリ追加動作に応じて各細分類部において経路選択
の精度を変化させることで細分類部ごとに効果的な学習
・追加学習が可能となる。

【０１１４】なお、本発明の各手段は、コンピュータを
用いてソフトウェア的に実現し、あるいはそれら各機能
を有する専用のハード回路を用いて実現する事が出来
る。

【０１１５】

【発明の効果】以上述べたところから明らかなように、
本発明の学習認識装置は、上記したように、大分類部が
出力する群帰属度で重み付けした誤差信号に基づいて細
分類部の重み修正を行なうため、入力パターン信号が属
するカテゴリの存在する細分類部が協調して学習し、カ
テゴリ群の境界に位置するパターンの認識率の向上が可
能である。

【０１１６】また、大分類部の分類基準から大きく外れ
たパターンに対しては、カテゴリ追加部が必要に応じて
細分類部に新たなカテゴリを追加するため効率的に追加
学習を行なうことが可能である。

【０１１７】また、学習の推移に従って群帰属度の算出
方法を変化させることで初期の学習と追加学習のそれぞ
れの場合において適切な群帰属度算出を行ない効果的な
学習が可能である。

【図面の簡単な説明】

【図１】本発明の学習認識装置の第一の実施例を示すブ
ロック図である。

【図２】同じく学習認識装置に用いる大分類部の一実施
例を示すブロック図である。

【図３】同じく学習認識装置に用いる類似度算出部の第
一の実施例を示すブロック図である。

【図４】同じく学習認識装置の第二の実施例を示すブロ
ック図である。

【図５】同じく学習認識装置の第三の実施例を示すブロ
ック図である。

【図６】同じく学習認識装置の第四の実施例を示すブロ
ック図である。

【図７】同じく学習認識装置に用いる群帰属度荷重部の
一実施例を示すブロック図である。

【図８】同じく学習認識装置の第五の実施例を示すブロ
ック図である。

【図９】同じく学習認識装置の第六の実施例を示すブロ
ック図である。

【図１０】同じく学習認識装置に用いる帰属度依存カテ
ゴリ追加制御部の一実施例を示すブロック図である。

【図１１】同じく学習認識装置の第七の実施例を示すブ
ロック図である。

【図１２】同じく学習認識装置に用いる誤差依存カテゴ
リ追加制御部の一実施例を示すブロック図である。

【図１３】同じく学習認識装置に用いる類似度算出部の
第二の実施例を示すブロック図である。

【図１４】同じく学習認識装置に用いる類似度算出部の
第二の実施例の多入力一出力信号処理部の一実施例を示
すブロック図である。

【図１５】同じく学習認識装置に用いる類似度算出部の
第二の実施例の多入力一出力信号処理部のしきい値処理
部の入出力特性の一実施例を示す図である。

【図１６】同じく学習認識装置の第八の実施例を示すブ
ロック図である。

【図１７】同じく学習認識装置に用いる距離計算部の一
実施例を示すブロック図である。

【図１８】同じく学習認識装置に用いる細分類部の第三
の実施例を示すブロック図である。

【図１９】同じく学習認識装置に用いる細分類部の第三
の実施例の経路選択単位の一実施例を示すブロック図で
ある。

【図２０】同じく学習認識装置に用いる細分類部の第三
の実施例の学習認識単位の一実施例を示すブロック図で
ある。

【図２１】同じく学習認識装置の第九の実施例を示すブ
ロック図である。

【図２２】同じく学習認識装置に用いる量子化基準制御
部の第一の実施例を示すブロック図である。

【図２３】同じく学習認識装置に用いる量子化基準制御
部の第二の実施例を示すブロック図である。

【図２４】同じく学習認識装置に用いる量子化基準制御
部の第三の実施例を示すブロック図である。

【図２５】従来の学習認識装置の実施例を示すブロック
図である。

【符号の説明】１細分類部 24 加算器１ａ群内類似度算出部 25 乗算器１ｂ重み係数更新部 26 割算器２大分類部 31 入力部２ａ群辞書 32 カテゴリ辞書２ｂ群参照用パターン 33 距離計算部類似度算出部 34 割算器３カテゴリ識別部 35 加算器４教師信号発生部 36 乗算器５学習制御部 37 割算器５ａ重み変更量制御部 41 入力部５ｂ比較器 42 多入力一出力信号処理部６学習制御信号荷重部 51 入力部６ａ乗算器 52 重み係数記憶部７識別信号荷重部 53 乗算器７ａ乗算器 54 加算器８群選択部 55 しきい値処理部９入力信号選択部 91 荷重部 10 カテゴリ情報記憶部 92 荷重調整部 11 群帰属度切り替え部 n 経路選択単位 12 群帰属度荷重部 n1 信号入力部 13 カテゴリ追加部 n11〜n12 経路選択単位 14 帰属度依存カテゴリ n1a 信号入力単位追加制御部 n2 量子化器 14a 最大値検出器 n3a 経路入力部 14b 記憶部 n3b 経路選択部 14c 比較器 n3b0 荷重設定部 14d カテゴリ追加指示部 n3b01〜n3b05 荷重 15 誤差依存カテゴリ n3e 経路出力部追加制御部 n3e1〜n3e5 経路出力端子 15a 記憶部 n4 量子化制御部 15b 比較器 n5 内部状態記憶部 15c カテゴリ追加指示部 q 学習認識単位 16 帰属度制御部 q11〜q12 学習認識単位 16a 学習監視部 q1 教師信号入力部 16b 定数制御部 q3a 経路入力部 17 量子化基準制御部 q3b01〜q3b010 荷重 18 量子化基準記憶部 q3ｃ加算器 18a 量子化定数制御部 101 大分類部 18b 誤差監視部 102 細分類部 18c 学習回数監視部 103 群選択部 18d カテゴリ追加監視部 104 細分類部入力信号選択部 21 入力部 105 識別部 22 距離計算部 106 入力部 22a₀〜22a_n 減算器 107 多入力一出力信号処理部 22b₀〜22b_n べき乗器 108 入力部であ 22c 加算器 109 多入力一出力信号処理部 22d べき乗器 110 最大値選択部 23 割算器 111 類似度計算部 112 カテゴリ識別部

───────────────────────────────────────────────────── フロントページの続き (72)発明者丸野進大阪府門真市大字門真1006番地松下電器産業株式会社内 (72)発明者〆木泰治大阪府門真市大字門真1006番地松下電器産業株式会社内 (56)参考文献特開平２−235170（ＪＰ，Ａ) 特開平２−238588（ＪＰ，Ａ) 特開平３−31975（ＪＰ，Ａ) 特開平４−143872（ＪＰ，Ａ) 特開平４−184686（ＪＰ，Ａ) (58)調査した分野(Int.Cl.⁶，ＤＢ名) G06F 15/18 520 G06T 7/00 ＥＰＡＴ（ＱＵＥＳＴＥＬ) ＪＩＣＳＴファイル（ＪＯＩＳ) ＷＰＩ（ＤＩＡＬＯＧ)

Claims

(57)【特許請求の範囲】

【請求項１】類似パターンの集合から成るカテゴリ群に
対して入力パターン信号が前記カテゴリ群に属する度合
である群帰属度を計算する手段を複数のカテゴリ群に対
して設けた大分類部と、前記入力パターン信号が各カテ
ゴリ群に含まれるカテゴリに属する度合である群内類似
度を計算する手段を設けた群内類似度算出部と、前記群
内類似度と前記群帰属度の積を計算する複数の乗算器を
有し、前記群内類似度の重み付けを行う識別信号荷重部
と、前記識別信号荷重部から出力する重み付した群内類
似度信号の比較を行うカテゴリ識別部と、学習に必要な
教師信号を発生する教師信号発生部と、前記教師信号発
生部から出力する教師信号と前記識別信号荷重部の出力
と前記カテゴリ識別部との出力にもとづいて前記群内類
似度算出部の重み変更量を制御する学習制御部と、前記
学習制御部から出力する学習制御信号と前記大分類部か
ら出力した群帰属度の積を演算する複数の乗算器を有
し、前記学習制御信号の重み付けを行う学習制御信号荷
重部と、前記学習制御信号荷重部の出力と前記群内類似
度算出部との出力にもとづき前記群内類似度算出部の重
み係数を更新する重み係数更新部とを備え、その重み係
数更新部と前記群内類似度算出部とで構成される細分類
部が複数個備えられていることを特徴とする学習認識装
置。
【請求項２】教師信号発生部から出力した教師信号と
前記カテゴリ識別部の識別結果の比較を行う比較器と、
前記比較器の比較結果に応じて前記群内類似度算出部の
重み変更量を決定する重み変更量制御部とによって、前
記学習制御部を構成したことを特徴とする請求項１記載
の学習認識装置。
【請求項３】教師信号発生部から出力した教師信号と
前記識別信号荷重部の出力との差を計算する誤差算出部
と、前記誤差算出部の出力に応じて前記群内類似度算出
部の重み変更量を決定する重み変更量制御部とによっ
て、前記学習制御部を構成したことを特徴とする請求項
１又は、２記載の学習認識装置。
【請求項４】大分類部の出力する群帰属度にもとづき
複数個のカテゴリ群を選択する群選択部と、前記群帰属
度にもとづき入力パターン信号を入力する細分類部を選
択する、前記入力信号選択部とを設けたことを特徴とす
る請求項１〜３記載のいずれかの学習認識装置。
【請求項５】各カテゴリ群に属するカテゴリの種類を
記憶したカテゴリ記憶部と、前記カテゴリ記憶部の記憶
内容と大分類部の出力する群帰属度とにもとづき、複数
のカテゴリ群を選択する限定群選択部と、前記群選択部
と前記限定群選択部とを切り替える群選択部切り替え部
とを設けたことを特徴とする請求項４記載の学習認識装
置。
【請求項６】群帰属度荷重部を設け、前記群帰属度荷
重部がカテゴリ記憶部の記憶内容にもとづき、群帰属度
を重み付けすることを特徴とする請求項１〜５記載のい
ずれかの学習認識装置。
【請求項７】カテゴリ記憶部の記憶内容と教師信号と
にもとづき、各細分類部の群内類似度算出部に新たなカ
テゴリに対する類似度を計算する手段を付加するカテゴ
リ追加部を設けたことを特徴とする請求項１〜６記載の
いずれかの学習認識装置。
【請求項８】大分類部が出力する群帰属度にもとづ
き、前記カテゴリ追加部がカテゴリ追加を行なうか否か
をカテゴリ群ごとに切り替える帰属度依存カテゴリ追加
制御部を設けたことを特徴とする請求項７記載の学習認
識装置。
【請求項９】群帰属度の最大値を求める最大値検出器
と、基準となる群帰属度を記憶する記憶部と、前記最大
値検出器で検出した群帰属度の最大値と前記記憶部に記
憶させた群帰属度とを比較する比較器と、前記比較器の
比較結果に基づき群帰属度の最大値が前記基準となる群
帰属度を越えた場合に、前記カテゴリ追加部にカテゴリ
追加を行なうよう指示を出すカテゴリ追加指示部とによ
って、前記帰属度依存カテゴリ追加制御部を構成したこ
とを特徴とする請求項８記載の学習認識装置。
【請求項１０】誤差算出部が出力する誤差信号に基づ
き、前記カテゴリ追加部がカテゴリ追加を行なうか否か
をカテゴリ群ごとに切替える誤差依存カテゴリ追加制御
部を設けたことを特徴とする請求項７〜９記載のいずれ
かの学習認識装置。
【請求項１１】基準となる誤差の値を記憶する記憶部
と、前記誤差算出部の出力と前記記憶部に記憶させた誤
差とを比較する比較器と、前記比較器の比較結果にもと
づき誤差が前記基準となる誤差を越えた場合に前記カテ
ゴリ追加部がカテゴリ追加を行なうよう指示を出すカテ
ゴリ追加指示部とによって誤差依存カテゴリ追加制御部
を構成したことを特徴とする請求項１０記載の学習認識
装置。
【請求項１２】類似パターンの集合から成るカテゴリ
群を代表する群参照用パターン信号を複数個記憶させた
群辞書と、前記群参照用パターン信号を用いて群帰属度
を計算する群参照用パターン類似度算出部とによって、
前記大分類部を構成したことを特徴とする請求項１〜１
１記載のいずれかの学習認識装置。
【請求項１３】帰属度制御部を設け、前記大分類部の
群帰属度の算出に用いる計算定数を変化させることを特
徴とする請求項１〜１２記載のいずれかの学習認識装
置。
【請求項１４】学習の回数を測る学習監視部と定数を
制御する定数制御部とによって帰属度制御部を構成し、
前記定数制御部が前記学習監視部の出力にもとづき大分
類部の群帰属度の算出に用いる計算定数を変化させるこ
とを特徴とする請求項１３記載の学習認識装置。
【請求項１５】誤差算出部の出力変化を計算する学習
監視部と定数を制御する定数制御部とによって帰属度制
御部を構成し、前記定数制御部が前記学習監視部の出力
にもとづき大分類部の群帰属度の計算定数を変化させる
ことを特徴とする請求項１３又は、１４記載の学習認識
装置。
【請求項１６】入力パターン信号と群辞書に記憶させ
た全ての群参照用パターン信号との距離を計算する複数
個の距離計算部と、前記距離計算部の出力の逆数を計算
する複数個の割算器と、前記割算器の各出力を加算する
加算器と、前記加算器の出力と前記距離計算部の出力を
乗算する複数個の乗算器と、前記乗算器の出力の逆数を
計算する複数個の割算器とによって、前記大分類部を構
成したことを特徴とする請求項１〜１５記載のいずれか
の学習認識装置。
【請求項１７】入力した複数の信号の差を計算する複
数の減算器と、加算器とべき乗器とを複数設けた信号強
調器とにより、前記大分類部の距離計算部を構成し、前
記信号強調器のべき乗器のべき乗計算の指数の値を変化
させる定数制御部によって、前記帰属度制御部を構成し
たことを特徴とする請求項１６記載の学習認識装置。
【請求項１８】複数の重み係数を保持する重み係数記
憶部と、複数の入力信号を入力する入力部と、前記重み
係数記憶部に貯えられた重み係数で前記入力部からの入
力信号を重み付けする乗算手段と、前記乗算手段で重み
付けされた複数の入力信号を加え合わせる加算手段と、
前記加算手段の出力を一定範囲の値に制限するしきい値
処理部とからなる多入力ー出力信号処理部を複数個層構
造に配置し、信号が下位層から上位層に伝搬するように
接続して、前記細分類部を構成したことを特徴とする請
求項１〜１７記載のいずれかの学習認識装置。
【請求項１９】入力パターン信号の各カテゴリの代表
値を示すカテゴリ参照用パターン信号が複数個記憶され
ているカテゴリ辞書と、入力パターン信号と前記カテゴ
リ辞書に記憶されている全てのカテゴリ参照用パターン
信号との距離を計算する複数個の距離計算部と、前記距
離計算部の出力の逆数を計算する複数個の割算器と、前
記割算器の各出力を加算する加算器と、前記加算器の出
力と前記距離計算部の出力を乗算する複数個の乗算器
と、前記乗算器の出力の逆数を計算する複数個の割算器
とを設けて、前記細分類部を構成したことを特徴とする
請求項１〜１７記載のいずれかの学習認識装置。
【請求項２０】経路選択単位は、信号入力部と、前記
信号入力部からの入力信号を量子化する量子化器と、単
一または複数の経路入力端子を有する経路入力部と、単
一または複数の経路出力端子を有する経路出力部と、前
記量子化器の量子化出力に応じて経路を選択する経路荷
重部と、経路選択単位の内部状態を記憶させる内部状態
記憶部と、前記内部状態記憶部の記憶内容にもとづいて
前記量子化器の量子化する数と量子化範囲を変化させる
量子化制御部と、経路選択単位の構成を記憶させる構造
記憶部とにより構成し、学習認識単位は、教師信号入力部と、複数の経路入力端
子を有する経路入力部と、前記経路入力部からの入力に
対して重み付けを行なう荷重と、前記荷重からの出力を
加算する加算器と、荷重の値を決定する学習器とにより
構成し、前記経路選択単位を階層的に組み合わせて複数の分岐構
造を構成し、その上層に前記学習認識単位を配置して、
前記細分類部を構成したことを特徴とする請求項１〜１
７記載のいずれかの学習認識装置。
【請求項２１】内部状態記憶部の記憶内容に対する比
較基準を記憶する量子化基準記憶部と、前記量子化基準
記憶部の記憶内容を前記細分類部ごとに変化させる量子
化基準制御部とを設けたことを特徴とする請求項２０記
載の学習認識装置。
【請求項２２】誤差算出部の出力変化を計算する誤差
監視部と、前記誤差監視部の出力にもとづき量子化基準
を変化させる量子化定数制御部とによって量子化基準制
御部を構成したことを特徴とする請求項２１記載の学習
認識装置。
【請求項２３】学習回数を監視する学習回数監視部
と、前記学習回数監視部の出力にもとづき量子化基準を
変化させる量子化定数制御部とによって、前記量子化基
準制御部を構成したことを特徴とする請求項２１又は、
２２記載の学習認識装置。
【請求項２４】カテゴリ追加部のカテゴリ追加を監視
するカテゴリ追加監視部を設け、前記カテゴリ追加監視
部の出力にもとづき量子化基準を変化させる量子化定数
制御部とによって、前記量子化基準制御部を構成したこ
とを特徴とする請求項２１〜２３記載のいずれかの学習
認識装置。