JP2002329188A

JP2002329188A - データ分析装置

Info

Publication number: JP2002329188A
Application number: JP2001133662A
Authority: JP
Inventors: Hirotsugu Kashimura; 洋次鹿志村; Hitoshi Ikeda; 仁池田; Sukeji Kato; 典司加藤
Original assignee: Fuji Xerox Co Ltd
Current assignee: Fujifilm Business Innovation Corp
Priority date: 2001-04-27
Filing date: 2001-04-27
Publication date: 2002-11-15

Abstract

(57)【要約】【課題】クラスタ数が事前にわかっていなかったり、
分類対象のデータについて事前の知識がない場合にも、
人為的操作を介することなく、実用的な分類を達成でき
るようクラスタを形成でき、分類処理に資することがで
きるデータ分析装置を提供する。【解決手段】ＳＯＭ学習によって形成した格子空間マ
ップについて、その重みベクトルの次元を縮退した縮退
マップを生成する。当該縮退マップに基づいて、格子空
間マップ内に分類境界を設定し、当該分類境界に従っ
て、分類対象データを分類するデータ分析装置である。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、画像や味覚などの
データを分類認識するデータ分析装置に係り、特に分類
手順の改良に関する。

【０００２】

【従来の技術】近年、人間の脳内の情報処理を模倣した
新しい情報処理技術が発展してきている。この人間の脳
を模倣するシステムとしては、ニューラルネットワーク
や階層型モジュールネットワークが知られており、多く
は視覚情報処理、すなわち画像認識などの分野に関連し
て研究が行われている。この研究のうち、網膜に相当す
る画像データの取得部から入力される一連の画像部分を
その物理的、画像上の特徴に基づいて類否判断する処理
は、クラスタ分類などと呼ばれている。

【０００３】脳の複雑系に対する情報処理(オブジェク
ト認識、推論、学習等)を司る大脳新皮質は１０００か
ら２０００個の神経細胞からなり、特に視覚情報の処理
において特徴的なことは、網膜からの情報を受け取る視
覚野に、階層的な構造を有するコラムが配置されている
ことである。このコラムは、脳内の視覚情報処理の基本
単位と考えられており、各コラムは特定の視覚パターン
に反応するようになっていることが知られている。さら
に、類似パターンに反応するコラム同士が近接配置され
る。すなわち、大脳新皮質は、類似の入力刺激に対する
選択性を備えるのであり、選択性を実現する大脳新皮質
の特定の領域を「領野」と呼んでいる。

【０００４】具体的に、視覚系の情報処理を担当する領
野である視覚野での情報伝達経路は、時空間的な解析を
司るＶ１（第一次視覚野；primary visual cortex）、
Ｖ２（第二次視覚野）、Ｖ３（第三次視覚野）及びＭＴ
（Middle Temporal）を経由する背側経路（dorsal path
way）と、形状解析を行うＶ１、Ｖ２、Ｖ４（第四次視
覚野）、ＰＩＴ（Posterior Inferior Temporal）、及
びＡＩＴ（Anterior Inferior Temporal）を経由する腹
側経路（ventral pathway）とに大別でき、視覚情報は
それぞれの経路を通じて頭頂連合野へ導かれ、運動系と
統合されることが解剖学的研究から知られている。より
具体的に、腹側経路の流れにおいては、網膜や、視覚野
のＶ１、Ｖ２といった初期視覚は、受容野（コラムが受
け持つ視野内の領域）の決定、色や線分解析といった機
能を備え、その情報を上位階層へ伝達する。この初期視
覚の機能は、いわば画像処理における前処理に相当す
る。

【０００５】これらの低次の領野を経た入力情報はＶ４
と呼ばれる領野に導かれ、各コラムが担当する受容野に
基づき、基本的なパターン（テキスチャー）の組合せ情
報へ変換される。この組み合わせ情報はＶ４よりも広い
受容野を備えたＰＩＴにおいて、部分画像としてその特
徴分析がなされ、更に広い受容野を持つＡＩＴで物体と
して解析・認識される。

【０００６】すなわち、コンピュータシステムを利用し
て脳を模倣した情報処理を実現する過程では、これら時
空間的解析を行う第１システムと、形状解析のための第
２システムとを少なくとも用いる必要がある。従来、こ
れらの目的のために、脳を模倣したデータ解析のための
装置として、次の３機能を実現する必要がある。

【０００７】１．基本単位となるコラム機能モデルの実
現２．コラムを基本単位とする階層的な領野モデルの実現３．コラム機能モデルへの学習データ及び認識データの
抽出

【０００８】

【発明が解決しようとする課題】しかしながら、これら
の３機能をそれぞれ実現するための研究の過程では、所
定の画像データ（顔のデータなど）に認識の対象を限っ
て調整すればある程度の機能実現が可能であるものの、
対象物を限らずに各機能を実現しようとすると、各機能
のモデル化等が容易でない。

【０００９】［関連技術］そこで、上記機能と等価な機
能を提供するための簡便な方法として、入力画像データ
を格子空間マップ上で分類整理するものがある。この分
類整理のためには、例えば自己組織化特徴マッピング
（以下、ＳＯＭと略す）（T. Kohonen. Self-organizin
g formation of topologically correct feature maps.
BiologicalCybernetics, 1982）を利用している。

【００１０】すなわち、処理対象画像データから認識対
象ごとの部分画像データ（顔の画像データであれば、
目、鼻、口のそれぞれに分割したデータ）を生成し、各
部分画像データごとに格子空間マップの定義を変更す
る。このＳＯＭを利用したデータ処理装置では、部分画
像データに基づいて複数の特徴量を演算し、この複数の
特徴量からなる特徴量セットと、格子空間上に配列され
た格子との重みベクトルを格子空間マップとして定義す
る。ここでは、特徴量セットに含まれる特徴量の各々に
ついて重みが定義され、この各成分の重みをまとめたも
のを重みベクトルと称している。

【００１１】当初、重みベクトルは次の方法で初期化さ
れる。すなわち、上記Kohonenの文献に示されるよう
に、学習の対象となる入力ベクトル群（ここでの特徴量
セットに相当する）の中から一つ、その学習ステップで
参照する入力ベクトルＩをランダムに選び出し、各格子
の重みベクトルの初期化を行う。また、同じく、Kohone
nによれば、各重みベクトルに乱数で初期値を設定する
こととしても構わない。

【００１２】次に、重みベクトルの学習を行う。この学
習課程においては、学習用の特徴量セットが生成され、
当該学習用特徴量セットと格子空間上の各格子の重みベ
クトルとの所定測度（例えばユークリッド測度）が演算
される。そして各格子のうち、関係が最大（測度が最
小）となる格子を見いだす。そして格子空間上、その格
子に対し近傍に存在する各格子について、学習用特徴量
セットとの測度が小さくなるように、その重みベクトル
を補正する。このような重みベクトルの補正を行いつつ
学習を繰り返すことで、互いに類似する特徴量からなる
特徴量セットに対し、最小測度を有する格子が特定の領
域に集中するようになり、画像データの分類に適用可能
な状態となる。

【００１３】しかしながら、ここで当該学習後の格子空
間マップを利用してデータ分類を行うときには、分類の
基準となる境界線を上記格子空間上に形成し、分類対象
として与えられたデータについての特徴量セットに対し
て最小測度を有する格子が、どの境界線内に属するか
（この境界線で区切られた格子空間上の領域を以下、ク
ラスタと呼ぶ）に基づき、当該データを分類することが
適切である。すなわち、クラスタの境界を決定する方法
が求められる。

【００１４】そこでクラスタ境界を決定するために、各
格子についての重みベクトルの各成分を参照する方法が
考えられている。具体的に、顔の画像データであれば、
特徴量としてエネルギー、エントロピー、相関などの量
が定義されており、例えばエネルギーに対応する重み成
分を参照して、それが事前に定められた所定のしきい値
以下の格子からなるグループと、しきい値より大となる
格子からなるグループとに２分する。そして、しきい値
より大となる格子からなるグループについて、エントロ
ピーに対応する重み成分を参照して、同様の処理を繰り
返すことで、格子空間上にクラスタを形成するのであ
る。

【００１５】この方法によると、分類対象となる画像デ
ータに対してどのような特徴量を使用するかを予め検討
する必要がある。また、複数の標本データからクラスタ
を形成する一般的な手法として、最尤度推定法、K-mean
s法、LBG（Linde-Buzo-Gray）法、MDS（Multi-Dimensio
nal Scaling）法などが知られている。しかし、これら
の方法はクラスタの数を当初から予定したり、適切なし
きい値設定を調整するなど人為的操作が不可欠であっ
た。

【００１６】また解析対象のデータから得られる特徴量
セットの要素数が比較的小さく、学習後のマップ解析が
容易であったので、上記のような単純なクラスタ形成法
を適用できたのであるが、分類対象を広げて特徴量セッ
トの要素数を大きくすると単に上記のクラスタ形成法を
適用するだけでは、精度の高い境界決定ができないこと
が知られている。

【００１７】このように特徴量セットの要素数が大きく
なると境界が複雑に入り組んだ状態になる。ＳＯＭ等で
得られた格子空間マップに対し、後処理として境界を決
定する手法として、U-Matrix法（Unified Distance Mat
rix Methods）やポテンシャル法と呼ばれるものがあ
る。ここで、U-Matrix法については、A. Ultsch et .a
l. "Knowledge Extraction from Artificial Neural Ne
tworks and Applications",Proc. Transputer Anwender
Treffen/ World Transputer Congress TAT/WTC 93 Aac
hen, Springer 1993に詳細な記述があり、ポテンシャル
法については、D.Coomans, D.L.Massart; Anal.Chim.Ac
ta.,5-3,225-239(1981)に詳細な説明があるので、詳し
い内容を省いて、その概略を説明する。

【００１８】まず、U-Matrix法は、格子空間マップ内の
任意の格子と、それに隣接する格子との距離を求め、そ
の値を格子間に３次元的に再マッピングするものであ
る。ここで格子間距離には、互いに隣接する２つの格子
にプロトタイピングされた重みベクトルの成分毎の差の
絶対値和や、差の２乗平均などが用いられる。要する
に、U-Matrixの基本的な考え方は、互いに類似する特徴
量セットの各々に対し、測度が最小となるような格子間
の距離を小さくし、３次元的には「谷」に属するように
する。逆に、互いに異なる特徴量セットの各々に対し、
測度が最小となるような格子間の距離を大きくして、相
対的に「山」となるようにする。そして、この山に沿っ
て境界を決定する。つまり、U-Matrixは、ＳＯＭがベク
トル量（特徴量セットなど）の類似度でマッピングを行
い、入力空間での距離は保存されない点を補うものであ
る。U-Matrix法は、山と谷のコントラストが明確な場合
は、人為的介入の要なく比較的適切な境界を決定できる
が、境界が緩やかに変化する場合やクラスタごとに山や
谷の高さ深さが異なる場合には人為的介入が必要となる
点で上記関連技術の域を出ないものである。

【００１９】また、ポテンシャル法は、いわゆる教師無
し学習に基づく境界決定法であるということができる。
この方法では、所定の関数（ポテンシャル関数）を用い
て、全ての入力データ群（特徴量セットの群）の各々の
入力データを関数群の組み合わせによって近似し、その
結果としての確率密度関数を推定する方法である。これ
により確率密度関数の重なりの少ない部分（谷）を境界
として用いる。ここでポテンシャル関数としてはガウシ
アン型を用いることが多い。具体的には、Ｎ個の入力ベ
クトルからなる入力データ群があるとき、それぞれＫ次
元の大きさを持つとするとｌ番目の入力データが他の入
力データから受ける平均的なポテンシャル（ｌ番目入力
が全体の入力集合に対する寄与率）Ψｌを次の（１），
（２）式によって定義する。

【００２０】

【数１】

【００２１】尚、ｘ_klはｌ番目入力のｋ番目の成分を意
味する。また、αはスムージングパラメータで分類され
るクラスタの数に影響を与える。従って、ポテンシャル
法では、その分布形状を仮定する分布関数の最適化や、
各種パラメータの最適化が入力ベクトル集合ごとに求め
られ、要するに分類対象となるデータの特性について事
前に知識が必要であるうえ、人為的調整が不可欠とな
る。

【００２２】さらに、これらの研究を基礎にして、特開
平７−２３４８５４号公報「クラスタ分類装置」や、特
開平８−３６５５７号公報「クラスタ分類装置」、「自
己組織化特徴マップ上のデータ密度ヒストグラムを用い
た教師無しクラスタ分類法」、電子情報通信学会論文誌
D-II Vol. J79-DII No.7 pp. 1280-1290 1996年7月等
には、U-Matrix法の発展形として、隣接格子間距離や、
入力に反応する（入力に対して測度最小となる）格子数
の分布、ないし集積度を用いる技術が開示されている。
この技術によると、測度最小となる格子がクラスタ内に
集中するというＳＯＭの傾向に着目したもので、クラス
タ間の重心距離が大きい場合には十分な効果が得られる
と期待されるものの、格子空間マップ上でクラスタが複
雑に絡み合い、境界が複雑な形状となるときには十分な
効果が得られない。

【００２３】結局、上記関連技術の域では、画像の分
類、ワインの味覚といった感性量分類や、Ｗｅｂアクセ
スログ解析等に用いられる要素数の多いデータや各要素
成分の独立性が保証されない場合には、クラスタ分類が
困難になる。すなわち、このままでは人為的にパラメー
タ調整を行うことが不可欠になって、適用用途が限定さ
れてしまう。

【００２４】本発明は上記実情に鑑みて為されたもの
で、クラスタ数が事前にわかっていなかったり、分類対
象のデータについて事前の知識がない場合にも、人為的
操作を介することなく、実用的な分類を達成できるよう
クラスタを形成でき、分類処理に資することのできるデ
ータ分析装置を提供することを目的とする。

【００２５】

【課題を解決するための手段】上記従来例の問題点を解
決するための本発明は、複数の入力データについて、そ
れぞれの入力データに対応するｎ個（ｎは２以上）の特
徴量データからなる特徴量セットを演算する手段と、前
記特徴量セットの各成分から格子空間をなす各格子への
マッピング係数を定義する格子空間マップを生成する手
段と、を具備し、事前に複数の学習用入力データを利用
して学習を行い、その結果として、互いに類似する特徴
量セットが前記格子空間内の所定領域に集中してマッピ
ングされるように定義された前記格子空間マップを保持
し、当該格子空間マップを用いてデータの分類を行うデ
ータ分析装置において、前記特徴量セットの各成分に対
応する格子ごとのマッピング係数を所定の合成条件で合
成して得られるｍ個の合成量から、前記格子空間上の各
格子への縮退マッピングを生成するマップ縮退手段と、
前記縮退マッピングに基づいて前記格子空間マップ上に
データの分類境界を設定する境界設定手段と、を含むこ
とを特徴としている。

【００２６】ここで、合成特徴量を生成する際には、学
習によって形成された格子空間マップを参照して生成を
行う。すなわち、格子空間マップをなす、各格子につい
ての重みベクトル（マッピング係数に相当する）のノル
ム（Norm）を定義し、このノルム分布を維持させる合成
量の組を生成する。

【００２７】また、前記マップ縮退手段は、マッピング
係数に対する主成分分析に基づいて、合成量の合成条件
を決定することが好ましい。さらに、これによる合成量
の数ｍは、主成分分析時の各成分の寄与率や寄与率の変
化の比較によって決定され、又は合成量に基づく元の格
子空間マップの再現性に応じて決定されることが好まし
い。

【００２８】さらに、前記合成量の数ｍは、主成分分析
時の各成分の寄与率や寄与率の変化の比較により決めら
れる数ｍ１と、合成量に基づく元の格子空間マップの再
現性に応じて決定される数ｍ２とのうち、いずれか少な
い方の値とすることも好ましい。

【００２９】さらに、特徴量サブセットの選択を学習用
入力データに対して行ってもよい。すなわち、上記従来
例の問題点を解決するための本発明は、複数の入力デー
タに基づいてｎ個（ｎは２以上）の特徴量データからな
る特徴量セットを演算する手段と、前記特徴量セットか
ら格子空間をなす各格子へのマッピングを定義する格子
空間マップを生成する手段と、を具備し、事前に複数の
学習用入力データを利用して学習を行い、その結果とし
て、互いに類似する特徴量セットが前記格子空間内の所
定領域に集中してマッピングされるように定義された前
記格子空間マップを保持し、当該格子空間マップを用い
てデータの分類を行うデータ分析装置において、前記学
習用入力データに基づく特徴量セットの各成分を所定の
合成条件で合成して得られるｍ個（ｍは１以上ｎ未満）
の学習用合成特徴量を演算する合成手段と、前記学習用
合成特徴量のセットを用いて縮退格子空間マップを学習
形成する手段と、を含み、前記学習形成の結果として保
持される縮退格子空間マップ上に、分類境界を設定する
境界設定手段と、を含むことを特徴としている。

【００３０】さらに、上記従来例の問題点を解決するた
めの本発明は、複数の入力データについて、それぞれの
入力データに対応するｎ個（ｎは２以上）の特徴量デー
タからなる特徴量セットを演算する工程と、前記特徴量
セットの各成分から格子空間をなす各格子へのマッピン
グ係数を定義する格子空間マップを生成する工程と、を
具備し、事前に複数の学習用入力データを利用して学習
を行い、その結果として、互いに類似する特徴量セット
が前記格子空間内の所定領域に集中してマッピングされ
るように定義された前記格子空間マップを利用してデー
タの分類を行うデータ分析方法において、前記特徴量セ
ットの各成分に対応する格子ごとのマッピング係数を所
定の合成条件で合成して得られるｍ個（ｍは１以上ｎ未
満）の合成量から、前記格子空間上の各格子への縮退マ
ッピングを生成するマップ縮退工程と、前記縮退マッピ
ングに基づいて前記格子空間マップ上にデータの分類境
界を設定する境界設定工程と、を含むことを特徴として
いる。

【００３１】さらに、上記従来例の問題点を解決するた
めの本発明は、コンピュータに、複数の入力データに基
づいてｎ個（ｎは２以上）の特徴量データからなる特徴
量セットを演算する手順と、前記特徴量セットから格子
空間へのマッピングを定義する格子空間マップを生成す
る手順と、を実行させ、複数の学習用入力データを利用
して事前に行われた学習結果として、互いに類似する特
徴量セットが前記格子空間内の所定領域に集中してマッ
ピングされるように定義された前記格子空間マップを利
用して、データの分類を行わせるデータ分析プログラム
において、前記格子空間マップを所定の条件で縮退して
得られる縮退マッピングを生成するマップ縮退手順と、
前記縮退マッピングに基づいて前記格子空間マップ上に
データの分類境界を設定する手順と、を含むことを特徴
としている。

【００３２】

【発明の実施の形態】［第１実施形態］本発明の第１の
実施の形態について図面を参照しながら説明する。尚、
以下の説明では、説明のため、分類対象のデータとして
画像データの場合を例示するが、実際の利用において
は、画像データのみならず、味覚データなど他の感覚器
データであってもよいし、さらに実験結果などの測定デ
ータであっても構わない。

【００３３】本実施の形態に係るデータ分析装置１は、
図１に示すように、ＣＰＵ１１と、ＲＡＭ１２と、ＲＯ
Ｍ１３と、ハードディスク１４と、画像入力用インタフ
ェース１５と、ディスプレイ１６と、外部記憶部１７と
から基本的に構成され、各部はバス接続されている。す
なわち、本実施の形態のデータ分析装置１は、一般的な
パーソナルコンピュータによってソフトウエア的に実現
される。このソフトウエアは、一般的にはＣＤ−ＲＯＭ
やＤＶＤ−ＲＯＭなどの記録媒体に格納された状態で頒
布され、またはネットワークを介してダウンロードされ
る（ネットワークに対する接続インタフェースは図示を
省略した）。そして、当該記録媒体によって頒布される
場合には外部記憶部１７にて読み出されて、所定のイン
ストール処理により、ハードディスク１４に格納され
る。また、ネットワークを介してダウンロードされた場
合も同様に、ハードディスク１４にインストールされ
る。

【００３４】ＣＰＵ１１は、このハードディスク１４に
格納されているプログラムに従って動作し、基本的には
Ｗｉｎｄｏｗｓ（登録商標）等のオペレーティングシス
テムの管理下で本実施の形態のデータ分析装置１を具現
化するデータ分析ソフトウエア等を実行する。具体的
に、本実施の形態のデータ分析プログラムは、図２に示
すように、画像処理部２１と、選択処理部２２と、分類
処理部２３とからなり、画像処理部２１は、さらにホワ
イトニング処理部３１と、ガボールフィルタ処理部３２
とを含んでなり、選択処理部２２は、画像抽出処理部３
５と、選択信号生成処理部３６とを備え、分類処理部２
３は、特徴量生成部４１と、学習処理部４２と、境界決
定処理部４３と、分類実行部４４とを備えている。ここ
では、これらの各部が、それぞれソフトウエアモジュー
ルとして実現されることとしているが、ハードウエア的
に論理回路によって構成されても構わない。このＣＰＵ
１１における処理については後に詳しく述べる。

【００３５】ＲＡＭ１２は、ＣＰＵ１１のワークメモリ
として利用されるもので、ＣＰＵ１１の処理中に各種パ
ラメータやデータを記憶するために用いられる。ＲＯＭ
１３は、主としてオペレーティングシステムの読み込み
の処理など、データ分析装置１が起動する際に必要とな
るプログラムが格納されている。この起動用プログラム
の内容は広く知られているので、その説明を省略する。

【００３６】ハードディスク１４は、オペレーティング
システムの本体や、種々のプログラムがインストールさ
れている。また、本実施の形態においては、このハード
ディスク１４には、既に説明したように、データ分析プ
ログラムがインストールされている。尚、ここではハー
ドディスク内に格納されている場合について例示した
が、例えばＳＲＡＭ（Static Random Access Memory）
や、ＥＥＰＲＯＭ等の不揮発性メモリにインストールし
ても構わないし、図１に示したように、ＣＰＵ１１と同
一筐体に含まなくても、図示しないネットワークインタ
フェースを介して接続される別のコンピュータ内にイン
ストールされていてもよい。

【００３７】画像入力用インタフェース１５には、スキ
ャナ等の画像入力装置が接続され、当該画像入力装置か
ら画像データの入力を受けて、ＣＰＵ１１に出力する。
ディスプレイ１６は、ＣＰＵ１１からの指示に従って、
画像を表示する。

【００３８】［処理の詳細］ここで、ＣＰＵ１１のデー
タ分析の処理について、図２の機能ブロックを参照しな
がら説明する。ＣＰＵ１１のデータ分析の処理は、学習
課程と、実際の分類過程に分けることができるが、機能
ブロックとしてはいずれの過程においても同じものが用
いられる。

【００３９】まず、各ブロックの処理の概要を説明する
と、画像処理部２１は、画像入力用インタフェース１５
を介して入力された画像データをグレースケールのデー
タに変換し、さらに学習、分類すべき画像の特徴が明確
になるように所定の変換を施し、選択処理部２２に出力
する。選択処理部２２は、画像処理部２１から入力され
る画像データから、学習すべき部分画像データを分割し
て抽出し、分類処理部２３に出力する。分類処理部２３
は、学習課程においては、入力される部分画像データに
基づいてＳＯＭを行って格子空間マッピングを学習形成
し、分類過程においては、この格子空間マッピングを変
更せずに、学習形成された格子空間マッピングに従っ
て、入力される部分画像データの分類を行う。この学習
課程から分類過程に移行する際に、境界の決定処理が行
われ、格子空間マッピング内に境界が設定される。

【００４０】次に各部の動作についてより詳しく説明す
る。画像処理部２１のホワイトニング処理部３１は、入
力されたグレースケールの画像データに対し、フーリエ
変換を施して周波数成分に分割し、その低周波成分を除
去し、各周波数毎の成分の大きさを均等化した上で逆フ
ーリエ変換して、ガボールフィルタ処理部３２に出力す
る。この処理は、人間の網膜の神経節細胞において行わ
れる情報処理を模したもので、画像を構成する周波数成
分について、各周波数成分ごとの寄与を均一にするとと
もに低域を遮断し、照明による影の影響を低減するもの
である。これにより、画像の詳細な特徴が明確になる。

【００４１】ガボールフィルタ処理部３２は、次の
（３）式によるガボールフィルタ処理を行い、その結果
を選択処理部２２に出力する。

【００４２】

【数２】ここで、

【数３】は、画像データの注目点を示す位置ベクトルであり、

【数４】は、各画素のベクトルである。またσは分散を表す。こ
のように、調和関数をガウス関数で変調して得られるガ
ボール関数を適用したことで、画像の注目点の部分が周
辺部よりも詳細に見えるという人間の視野と同等の状態
を模している。つまり、処理対象の画像データの周辺部
の輝度分散を小さくして背景部分の処理への影響を低減
する。

【００４３】選択処理部２２の画像抽出処理部３５は、
選択信号生成処理部３６から入力される選択信号に従っ
て、画像処理部２１から入力される画像データから部分
画像データを抽出し、分類処理部２３に出力する。選択
信号生成処理部３６は、画像処理部２１から入力される
画像データを所定の画像ブロックに分割するための信号
を出力する。ここで、画像ブロックは、画像データを例
えば８×８ピクセルの正方ブロックに分割したものでよ
いが、互いに隣接するブロックとの間で、例えばその半
分の値である４ピクセルずつ重複するように分割する。

【００４４】また、選択処理部２２は、次の（４）式に
よって分割した部分画像データから意味のあるブロック
のみを取り出して、分類処理部２３に出力することが好
ましい。この（４）式は、エントロピーの演算に相当
し、背景部分に相当する部分画像データに対しては小さ
い値となり、顔であれば、輪郭や目、鼻、口などの対象
部分（特徴部分）については大きい値となるものであ
る。したがって、この（４）式のＩＥの大きいもののみ
を取り出して分類処理部２３に出力することで、画像デ
ータの特徴的な部分を取り出すことができるようにな
る。

【００４５】

【数５】ここでＰ_Lは、部分画像データに含まれる画素のうち、
特定の輝度レベルＬが出現する回数である。

【００４６】分類処理部２３の特徴量生成部４１は、選
択処理部２２から入力される複数の部分画像データの各
々について、事前に定められた処理に従って、複数の特
徴量を演算して出力する。この複数の特徴量の集合が特
徴量セットに相当する。尚、各特徴量がスカラである場
合等では、この特徴量セットは特徴量のベクトルとな
る。ここでは、特徴量をこのようにベクトル（特徴量ベ
クトル）として配列した場合について説明する。

【００４７】学習処理部４２は、学習モードと分類モー
ドとの２つの動作モードを有し、各動作モードで異なる
処理を行う。具体的に学習モードにあるときには、学習
処理部４２は、Ｍ×Ｍ′の格子状に配列したノード（格
子）の各々について、特徴量ベクトルと同じ次元の重み
ベクトルを管理している。ここで、Ｍ×Ｍ′に、２次元
に配列しているのは単なる便宜であって、ｎ次元（ｎ＞
２）に配列しても構わない。

【００４８】すなわち、学習処理部４２は、学習モード
では、入力された特徴量ベクトルを学習用データとし
て、Ｍ×Ｍ′の格子空間上に、ＳＯＭ（自己組織化マッ
プ）によって格子空間マップを形成する。つまり、入力
された特徴量ベクトルと、各格子ごとに割り当てられた
重みベクトルとの距離を所定の測度で演算する。ここで
は簡単のため、ユークリッド測度を用いる。そして、こ
の距離が最小となる格子（最整合ノード）ｃを検出す
る。そして、この最整合ノード近傍の複数の格子につい
て、その重みベクトルを当該入力された特徴量ベクトル
を用いて更新する。具体的にこの更新は、次の（５）式
によって行われる。

【００４９】

【数６】

【００５０】α(t)と、σ(t)とは、時間に関する単調減
少関数であり、||ｒ_c−ｒ_j||は、最整合ノードである格
子と、格子_jとのユークリッド距離を表す。また、ｔ
は、「時刻」であり、特徴量ベクトルが入力されるごと
にインクリメントされる（（５）式の左辺参照）。

【００５１】この（５）式を用いた処理の繰り返しによ
り、格子空間マップが形成され、互いに類似する特徴量
ベクトルに対する最整合ノードが連続的な領域を形成す
るようになる。つまり、この格子空間には、多次元の入
力信号である特徴量ベクトルから２次元のマップへの非
線形射影が位相を保持したまま形成され、重みの更新に
より、データの特徴部分が組織化され、その学習成果と
して類似のデータに反応する格子が近接して存在してい
るようになる。

【００５２】学習処理部４２は、学習モードから分類モ
ードに設定が変更される際に、境界決定処理部４３に対
し、境界決定をすべき旨の指示を出力する。また、分類
モードにおいては、学習処理部４２は、入力された特徴
量ベクトルに対し、学習結果としての格子空間マップを
利用して最整合ノードを検索し、最整合ノードを分類実
行部４４に出力する。この際、学習処理部４２は、
（５）式を用いた自己組織化を行わない。

【００５３】境界決定処理部４３は、学習処理部４２か
ら入力された境界設定をすべき旨の指示に従って、各格
子をクラスタ分類する。この境界決定処理部４３の動作
については、後に詳しく説明する。

【００５４】分類実行部４４は、学習処理部４２が分類
モードにあるときに動作し、分類対象のデータ（部分画
像データなど）の入力を受けて、これを保持し、学習処
理部４２から最整合ノードの情報の入力を受けて、この
最整合ノードが境界決定処理部４３によって境界決定さ
れたクラスタのうち、どのクラスタに属するかの情報と
ともに、保持している分類対象データをディプレイ１６
等に分類結果として出力する。

【００５５】［境界決定処理］ここで、境界決定処理部
４３の動作について説明する。境界決定処理部４３は、
図３に示すように、主成分分析部５１と、フィルタ部５
２と、境界解析部５３とから基本的に構成されている。
主成分分析部５１は、格子空間マップ（各格子の重みベ
クトル）の情報を取得し、当該重みベクトルの各々に対
する主成分分析（ＰＣＡ；Principal Component Analys
is）により、重みベクトルの線形合成として得られる、
合成重みベクトルの成分のうち、寄与率の大きいものか
ら順に並び替えて、その結果を出力する。このＰＣＡに
ついては広く知られたものであるのでその詳細な説明は
省略する。尚、寄与率は、主成分分析において定義され
る一般的な量であり、具体的には重みベクトルが（６）
式のように表されているとき、

【数７】これに対する線形合成により得られる合成重みベクトル
を（７）式とすると、

【数８】当該線形合成の係数の組は、各格子の重みベクトルに基
づく分散共分散行列の固有ベクトルとして得られ、対応
する固有値の総和で除したものが寄与率に相当する。

【００５６】フィルタ部５２は、寄与率の順に並び替え
られた合成重みベクトルのうち、最大の寄与率を有する
合成重みベクトル成分と、当該最大の寄与率に対し、所
定の割合（例えば最大寄与率の１０％）以上の大きさの
寄与率を有する合成重みベクトル成分までを出力する。
すなわち、このフィルタ部５２は、寄与率が所定の値よ
り大きいｍ個の（ｍは１以上で、かつ重みベクトルの成
分の数ｎ以下となる）合成重みベクトルを選択的に出力
する。この選択された合成重みベクトルの成分が本発明
の合成量に相当し、この主成分分析部５１とフィルタ部
５２とが縮退マッピングを生成するマップ縮退手段を実
現している。ここでは寄与率を用いたが、二乗分数に関
係している固有値そのものを同様に用いてもよい。

【００５７】境界解析部５３は、フィルタ部５２によっ
て選択的に出力された選択された合成重みベクトルの成
分について、その統計量的値（中間値・平均値・中央値
等）をしきい値として、そのしきい値を越えるものとし
きい値を下回るものとにそれぞれ異なる符号を付与す
る。但し、ＰＣＡの場合、平均値は０となる。尚、ラン
ダムな学習データや高次元の学習データに基づくＳＯＭ
に対しては中央値を利用することが好ましい。またここ
で、符号としては、例えば合成重みベクトルの成分のう
ち、最大寄与率を有する第１成分について、その第１成
分の格子内分布の中央値より、当該第１成分の値が大き
い格子に「１１」、中央値以下の格子に「００」を付与
する（図４（ａ））。同様に、２番目に大きい寄与率を
有する第２成分について、その中央値より第２成分の値
が大きい格子に「０１」、中央値以下の格子に「００」
を付与し（図４（ｂ））、３番目のものについて中央値
より大きい第３成分を有する格子に「１０」、中央値以
下の格子に「００」を付与する（図４（ｃ））。この処
理はいわば、格子空間を２値化する処理に相当する。な
お、フィルタ部５２は、選択された各成分の組み合わせ
の和に対する中央値で境界を設定してもよい。

【００５８】そして境界解析部５３は、各格子につい
て、第１から第３成分に関係する符号を連結して、６ビ
ットの符号を生成する。具体的に第１成分について「１
１」、第２成分について「０１」、第３成分について
「１０」の符号が付されているときには、符号「１１０
１１０」を生成する。境界解析部５３は、この連結後の
符号が互いに共通する格子を一つのクラスタに分類す
る。つまり、格子空間上で、隣接する格子の各々に対す
る連結後の符号が異なる部分に境界を設定する。

【００５９】このように、寄与率が大きくなるように合
成し、その寄与率に応じて選択された成分を利用して境
界を設定することで、元の格子空間マップを定義する重
みベクトルを用いるよりも的確な基準で、実用的な分類
を実現できる。

【００６０】フィルタ部５２はまた、次の方法によって
合成重みベクトルのうち、境界解析に用いる成分を決定
してもよい。当該最大の寄与率を有する合成重みベクト
ル成分と、当該最大の寄与率から、順に寄与率の変化率
を求め、所定の割合（例えば変化率が５％）以上を有す
る成分までの合成重みベクトルを出力する。この方法
は、寄与率又は固有値が単調に減少しない場合に有利と
なる。具体的には、第１成分の寄与率の大きさに対し、
第２成分がその３０％の大きさに、第３成分が第１成分
に対し２５％の大きさに、第４成分が１０％となってい
たとすると、変化率が５％以上となる成分、すなわち第
３成分までが境界解析に用いられる。

【００６１】更に、フィルタ部５２はまた、次の方法に
よって合成重みベクトルのうち、境界解析に用いる成分
を決定してもよい。すなわち、当初ｌを「１」とし、元
の重みベクトルのノルム（所定測度での大きさ）

【数９】と、合成量のうち寄与率の大きいものから候補としてｌ
個を選択し、このｌ個からなる合成量のベクトルを逆変
換したベクトルのノルム

【数１０】とを演算し、これらに基づいて、元の重みベクトルがど
れだけ再現されるか（元の重みベクトルの再現率）を次
の（８）式を利用して演算する。

【００６２】

【数１１】

【００６３】そして、元の重みベクトルの再現率が事前
に定められた割合よりも大きくなるまでｌをインクリメ
ントする。この方法によれば、再現率が高くなるので、
分類は容易になる。

【００６４】さらに、寄与率に応じて選択すべき合成量
の数をｍ１とし、寄与率の変化に応じて選択すべき合成
量の数をｍ２とし、重みベクトルの再現率に応じて決定
される、選択すべき合成量の数をｍ３として、いずれか
少ない数を選択すべき数ｍとすることも好ましい。この
ようにして決められたｍ個を寄与率の大きい順に選択す
るのである。

【００６５】［動作］本実施の形態に係るデータ分析装
置によると、ＳＯＭ学習で得られる格子空間内の各格子
に対するｎ次元の重みベクトルについて、元の重みベク
トルのノルムを所定の割合で再現するよう定義されたｍ
次元（ｍは１以上ｎ未満）の量が合成等により生成され
る。そして、この量に基づいて格子の分類を実行する。
これによってクラスタ数が事前にわかっていなかった
り、分類対象のデータについて事前の知識がない場合に
も、人為的操作を介することなく、実用的な分類を達成
できるようクラスタを形成でき、分類処理に資すること
ができる。

【００６６】［第２実施形態］尚、ここまでの説明で
は、既に学習によって形成された格子空間マップについ
ての主成分分析によって境界設定に利用する合成量を選
択していたが、学習用データに基づいて生成される特徴
量ベクトルに対し、主成分分析を行って、同様に特徴量
ベクトルの次元ｎよりも少ないｍ個の合成特徴量を生成
して選択し、これによって境界形成用の格子空間マップ
（境界用マップ）を形成することも好ましい。

【００６７】さらに、この境界用マップを別途生成せ
ず、当該境界用マップを格子空間マップとして用いても
よい。この場合には、分類モードにおいて入力される分
類対象のデータから得られる特徴量ベクトルに対し、学
習時に定義された合成特徴量を生成して、この合成特徴
量と、境界用マップを兼ねた格子空間マップとを参照し
て分類を実行する。

【００６８】

【実施例】図５は、本発明の第１の実施の形態に係るデ
ータ分析装置１によって、３つのワイナリーＡ〜Ｃで製
造されたワインを複数の味覚特徴量のセット（特徴量ベ
クトル）として分類した場合の例（ａ）と、ＭＤＳ法を
用い、手作業で分類した場合の例（ｂ）とを示す。

【００６９】尚、図５（ａ）及び（ｂ）は、縦横の座標
の意味が異なっているので、対応する位置には必ずしも
相関はない。図５（ａ）に示すように、データ分析装置
１による分類の結果では、ワインは、その味覚特徴量に
基づいて３つのワイナリーに分類されたのに対し、図５
（ｂ）に示すように、ＭＤＳ法によっては、特徴量ベク
トル群は、４つの領域に分けられた。詳しく見ると、ワ
イナリーＣについては、共通部分を有しながら、異なる
特性があるものとして分類されたのである。

【００７０】これに対し、データ分析装置１でもＭＤＳ
を用いた手作業と同様の４つのクラスタ分解結果が得ら
れ、ワイナリーＣは２つに分けられている。尚、図５
（ａ）において、格子は、上下の辺が連続し、左右の辺
が連続するとして定義される（具体的に３７×３７の格
子空間において、１行１列の格子は、３７行１列の格子
と、１行３７列の格子に隣接する）ことに注意された
い。

【００７１】

【発明の効果】本発明によれば、複数の入力データにつ
いて、それぞれの入力データに対応するｎ個（ｎは２以
上）の特徴量データからなる特徴量セットを演算し、特
徴量セットの各成分から格子空間をなす各格子へのマッ
ピング係数を定義する格子空間マップを生成して、事前
に複数の学習用入力データを利用して学習を行い、その
結果として、互いに類似する特徴量セットが格子空間内
の所定領域に集中してマッピングされるように定義され
た格子空間マップを保持し、当該格子空間マップを用い
てデータの分類を行うデータ分析装置であって、特徴量
セットの各成分に対応する格子ごとのマッピング係数を
所定の合成条件で合成して得られるｍ個（ｍは１以上ｎ
未満）の合成量から、格子空間上の各格子への縮退マッ
ピングを生成し、この縮退マッピングに基づいて格子空
間マップ上にデータの分類境界を設定するデータ分析装
置としているので、クラスタ数が事前にわかっていなか
ったり、分類対象のデータについて事前の知識がない場
合にも、人為的操作を介することなく、実用的な分類を
達成できるようクラスタを形成でき、分類処理に資する
ことができる。

【図面の簡単な説明】

【図１】本発明の実施の形態に係るデータ分析装置の
構成ブロック図である。

【図２】ＣＰＵ１１におけるデータ分析処理プログラ
ムの機能ブロック図である。

【図３】境界決定処理部４３の機能ブロック図であ
る。

【図４】データ分析装置における境界決定処理を表す
説明図である。

【図５】本発明のデータ分析装置による分析例を表す
説明図である。

【符号の説明】

１データ分析装置、１１ＣＰＵ、１２ＲＡＭ、１
３ＲＯＭ、１４ハードディスク、１５画像入力用
インタフェース、１６ディスプレイ、１７外部記憶
部、２１画像処理部、２２選択処理部、２３分類
処理部、３１ホワイトニング処理部、３２ガボールフ
ィルタ処理部、３５画像抽出処理部、３６選択信号
生成処理部、４１特徴量生成部、４２学習処理部、
４３境界決定処理部、４４分類実行部、５１主成分
分析部、５２フィルタ部、５３境界解析部。

フロントページの続き (72)発明者加藤典司神奈川県足柄上郡中井町境430 グリーンテクなかい富士ゼロックス株式会社内Ｆターム(参考） 5L096 FA19 GA55 GA59

Claims

【特許請求の範囲】

【請求項１】複数の入力データについて、それぞれの
入力データに対応するｎ個（ｎは２以上）の特徴量デー
タからなる特徴量セットを演算する手段と、前記特徴量セットの各成分から格子空間をなす各格子へ
のマッピング係数を定義する格子空間マップを生成する
手段と、を具備し、事前に複数の学習用入力データを利用して学習を行い、
その結果として、互いに類似する特徴量セットが前記格
子空間内の所定領域に集中してマッピングされるように
定義された前記格子空間マップを保持し、当該格子空間
マップを用いてデータの分類を行うデータ分析装置にお
いて、前記特徴量セットの各成分に対応する格子ごとのマッピ
ング係数を所定の合成条件で合成して得られるｍ個の合
成量から、前記格子空間上の各格子への縮退マッピング
を生成するマップ縮退手段と、前記縮退マッピングに基づいて前記格子空間マップ上に
データの分類境界を設定する境界設定手段と、を含むことを特徴とするデータ分析装置。
【請求項２】請求項１に記載のデータ分析装置におい
て、前記マップ縮退手段は、マッピング係数に対する主成分
分析に基づいて、合成量の合成条件を決定することを特
徴とするデータ分析装置。
【請求項３】請求項２に記載のデータ分析装置におい
て、前記合成量の数ｍは、主成分分析時の各成分の寄与率又
は寄与率の変化の比較によって決定されることを特徴と
するデータ分析装置。
【請求項４】請求項２に記載のデータ分析装置におい
て、前記合成量の数ｍは、合成量に基づく元の格子空間マッ
プの再現性に応じて決定されることを特徴とするデータ
分析装置。
【請求項５】請求項２に記載のデータ分析装置におい
て、前記合成量の数ｍは、主成分分析時の各成分の寄与率又
は寄与率の変化の比較により決められる数ｍ１と、合成
量に基づく元の格子空間マップの再現性に応じて決定さ
れる数ｍ２とのうち、いずれか少ない方の値とすること
を特徴とするデータ分析装置。
【請求項６】複数の入力データに基づいてｎ個（ｎは
２以上）の特徴量データからなる特徴量セットを演算す
る手段と、前記特徴量セットから格子空間をなす各格子へのマッピ
ングを定義する格子空間マップを生成する手段と、を具
備し、事前に複数の学習用入力データを利用して学習を行い、
その結果として、互いに類似する特徴量セットが前記格
子空間内の所定領域に集中してマッピングされるように
定義された前記格子空間マップを保持し、当該格子空間
マップを用いてデータの分類を行うデータ分析装置にお
いて、前記学習用入力データに基づく特徴量セットの各成分を
所定の合成条件で合成して得られるｍ個（ｍは１以上ｎ
未満）の学習用合成特徴量を演算する合成手段と、前記学習用合成特徴量のセットを用いて縮退格子空間マ
ップを学習形成する手段と、を含み、前記学習形成の結果として保持される縮退格子空間マッ
プ上に、分類境界を設定する境界設定手段と、を含むことを特徴とするデータ分析装置。
【請求項７】複数の入力データについて、それぞれの
入力データに対応するｎ個（ｎは２以上）の特徴量デー
タからなる特徴量セットを演算する工程と、前記特徴量セットの各成分から格子空間をなす各格子へ
のマッピング係数を定義する格子空間マップを生成する
工程と、を具備し、事前に複数の学習用入力データを利用して学習を行い、
その結果として、互いに類似する特徴量セットが前記格
子空間内の所定領域に集中してマッピングされるように
定義された前記格子空間マップを利用してデータの分類
を行うデータ分析方法において、前記特徴量セットの各成分に対応する格子ごとのマッピ
ング係数を所定の合成条件で合成して得られるｍ個（ｍ
は１以上ｎ未満）の合成量から、前記格子空間上の各格
子への縮退マッピングを生成するマップ縮退工程と、前記縮退マッピングに基づいて前記格子空間マップ上に
データの分類境界を設定する境界設定工程と、を含むことを特徴とするデータ分析方法。
【請求項８】請求項７に記載のデータ分析方法におい
て、前記合成量の合成に際し、前記マッピング係数に対
する主成分分析に基づいて、合成条件を決定し、前記合
成量の数ｍは、主成分分析時の合成量の寄与率又は寄与
率の変化の比較によって決定されることを特徴とするデ
ータ分析方法。
【請求項９】請求項７に記載のデータ分析方法におい
て、前記合成量の合成に際し、前記マッピング係数に対
する主成分分析に基づいて、合成条件を決定し、前記合
成量の数ｍは、合成量に基づく元の格子空間マップの再
現性に応じて決定されることを特徴とするデータ分析方
法。
【請求項１０】請求項７に記載のデータ分析方法にお
いて、前記合成量の合成に際し、前記マッピング係数に
対する主成分分析に基づいて、合成条件を決定し、前記
合成量の数ｍは、主成分分析時の各合成量の寄与率又は
寄与率の変化の比較により決められる数ｍ１と、合成量
に基づく元の格子空間マップの再現性に応じて決定され
る数ｍ２とのうち、いずれか少ない方の値とすることを
特徴とするデータ分析方法。
【請求項１１】コンピュータに、複数の入力データに基づいてｎ個（ｎは２以上）の特徴
量データからなる特徴量セットを演算する手順と、前記特徴量セットから格子空間へのマッピングを定義す
る格子空間マップを生成する手順と、を実行させ、複数の学習用入力データを利用して事前に行われた学習
結果として、互いに類似する特徴量セットが前記格子空
間内の所定領域に集中してマッピングされるように定義
された前記格子空間マップを利用して、データの分類を
行わせるデータ分析プログラムにおいて、前記格子空間マップを所定の条件で縮退して得られる縮
退マッピングを生成するマップ縮退手順と、前記縮退マッピングに基づいて前記格子空間マップ上に
データの分類境界を設定する手順と、を含むことを特徴とするデータ分析プログラム。
【請求項１２】請求項１１に記載のデータ分析プログ
ラムを格納したことを特徴とするコンピュータ読み取り
可能な記録媒体。