[go: up one dir, main page]

JP3258195B2 - 音像定位制御装置 - Google Patents

音像定位制御装置

Info

Publication number
JP3258195B2
JP3258195B2 JP06776595A JP6776595A JP3258195B2 JP 3258195 B2 JP3258195 B2 JP 3258195B2 JP 06776595 A JP06776595 A JP 06776595A JP 6776595 A JP6776595 A JP 6776595A JP 3258195 B2 JP3258195 B2 JP 3258195B2
Authority
JP
Japan
Prior art keywords
head
digital filter
transfer function
sound
sound image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP06776595A
Other languages
English (en)
Other versions
JPH08265900A (ja
Inventor
正幸 中沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP06776595A priority Critical patent/JP3258195B2/ja
Priority to US08/574,850 priority patent/US5715317A/en
Publication of JPH08265900A publication Critical patent/JPH08265900A/ja
Application granted granted Critical
Publication of JP3258195B2 publication Critical patent/JP3258195B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S1/00Two-channel systems
    • H04S1/007Two-channel systems in which the audio signals are in digital form

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Stereophonic System (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、音像定位制御装置に関
し、詳細には、位置センサから得られた聴取者の頭3次
元上の位置・方向情報を元に、頭部音響伝達関数を算出
し、モノラル音源とその頭部音響伝達関教を畳み込みす
ることで、任意の位置に音像を定位させる音像定位制御
装置に関するものである。
【0002】
【従来の技術】従来、3次元の音像の定位制御を行うた
めには、音源からの音波が人の両耳(鼓膜)に到達する
経路を考え、壁の反射、回折、散乱等の伝達経路と、頭
部音響伝達関数とよばれる頭部や耳介による反射、回
折、共振等の伝達経路についての考察が必要であり、現
在このような研究が各方面で盛んに行われている。この
頭部音響伝達関数を用いて音像を頭外定位させるという
理論については昔から数多くの文献が発表されており、
すでに著名な文献として鹿島出版発行のブラウェルト、
森本、後藤らの「空間音響」がある。この理論自体は3
0年程前に論文発表された内容であり、既に多くの人が
知るところとなっている。現在では、この理論を用いて
数多くの特許が申請されている。
【0003】例えば、特開平5−252598号公報に
開示されている頭外定位へッドホン受聴装置は、両耳へ
ッドホンと音像定位フィルタを用いて頭外に音像を定位
させる。この方法は個人毎に空間レスポンス(頭部音響
伝達関数:HRTF)、実耳へッドフォンレスポンス情
報を測定することなしに、あらかじめ用意されている空
間レスポンスおよび、逆へッドフォンレスポンスから、
十分な頭外感、方向感を得られるようにすることに主眼
をおいている。
【0004】以下、頭外定位へッドホン受聴装置を図1
3を用いて説明する。
【0005】頭外定位へッドホン受聴装置は、音源から
のアナログ信号をA/D変換するA/D変換部301
と、音源を記憶しておく音源記憶部304とを具備して
おり、A/D変換部301と音源記憶部304とには、
そられの内の何れかを選択する切り替えスイッチ307
が接続されている。切り替えスイッチ307には空間の
伝達特性を模擬する音像定位フィルタを構成する畳み込
み演算部302が接続されており、畳み込み演算部30
2には、フィルタ係数を設定するデータを予め少数の典
型的なフィルタ係数のセットとして記憶する空間インパ
ルスレスポンス記憶部305と、ヘッドホン逆インパル
スレスポンス記憶部306と、畳み込み演算部302の
出力をD/A変換するD/A変換部303が接続されて
いる。なお、畳み込み演算部302は、右耳用畳み込み
演算部302Rと左耳用畳み込み演算部302Lとから
構成されている。
【0006】次に、この従来例の動作について説明す
る。
【0007】空間インパルスレスポンス記憶部305
と、ヘッドホン逆インパルスレスポンス記憶部306の
データべースを用いて、特定利用者に最適な音像定位フ
ィルタが選択、生成される。これにより、利用者毎のレ
スポンス測定なしに、受聴者に十分な頭外感、方向定位
感が得られるようにし得る。
【0008】また、特開平5−300599号公報に開
示されている音響装置では、演算によって任意の角度の
バイノーラル化が行われ、計測の手数や記憶のためのメ
モリの容量を削減する方法について述べられている。こ
の任意の角度のバイノーラル化は水平面に関するもので
ある。
【0009】以下、図14を参照しながら特開平5−3
00599号公報に開示されている音響装置について説
明する。
【0010】音響装置は、所定の角度間隔毎の複数の角
度で計測された、それぞれ左及び右の頭部音響伝達関数
を記憶したメモリ401を具備しており、メモリ401
には、制御回路402及びレジスタ4021L、402
2L、4021R、24022Rが接続されている。そ
して、レジスタ4021L、4022L、4021R、
4022Rには、内挿・補間の演算を行う演算回路40
3L、403Rが接続されており、演算回路403L、
403Rには、演算によって算出された頭部音響伝達関
数をモノラル音源405からの信号に重畳する重畳回路
404L、404Rが接続されており、重畳回路404
L、404Rにはヘッドホン406L、406Rが接続
されている。
【0011】次に、この従来例の動作について説明す
る。
【0012】制御回路402からの信号が、所定の角度
間隔毎の複数の角度で計測された左および右の頭部音響
伝達関数を記憶したメモリ401に供給され、音像を定
位させたい任意の角度を挟んだ所定の角度の伝達関数が
読み出される。このメモリ401から読み出された伝達
関数がそれぞれレジスタ4021L、4022L、40
21R、4022Rに書き込まれ、これらのレジスタか
らの信号がそれぞれ内挿・補間の演算回路403L、4
03Rに供給される。また、制御回路402からの内挿
・補間の比率を制御する信号が演算回路403L、40
3Rに供給され、この比率に従って演算が行われる。こ
れによって算出された頭部音響伝達関数が重畳回路40
4L、404Rに供給され、モノラル信号源405から
の信号に重畳されて、左および右のへッドフォン406
L、406Rに供給される。
【0013】また、特開平6−98400号公報に開示
されている音像定位装置は、音像の定位位置を前方に設
定した場合と後方に設定した場合とで音像の定位感の差
を明瞭にすることが可能な音像定位装置である。音像位
置操作器は、方向ダイヤル及び距離スライダを備え、二
つの音響信号の時間差・振幅差・位相差を制御すること
で、任意の位置に音像を定位させている。図15におけ
る音像位置操作器509の方向ダイヤル509aおよび
距離スライダ509bを操作することにより、音声の音
像定位位置が決定されると、音像位置操作器509から
出力される角度信号θおよび距離信号Dに基づいて制御
パラメータ生成器510から、遅延時間制御を行う信号
Tl及びTrと、振幅制御を行う信号Cl及びCrと、
前方/後方の音像定位位置を切替える信号F/Bとが出
力される。これらの各種制御信号に基づいて、入力オー
ディォ信号ASLには、遅延器501及び乗算器503
によって所定の時間遅延差および振幅差が与えられ、ヘ
ッドホンアンプ505からヘッドホン506に信号が出
力される。後方の音像定位を得る場合には、信号F/B
に応答してインバ−タ507により一方のチャンネルの
位相が反転され、遅延器502及び乗算器504を通し
てヘッドホンアンプ505からヘッドホン506に信号
が出力される。
【0014】
【発明が解決しようとする課題】しかしながら、特開平
5−252598号公報に開示されている頭外定位へッ
ドホン受聴装置では、予め用意されている空間レスポン
ス及び逆ヘッドホンレスポンスから、十分な頭外感、方
向感を得られるようにすることに主眼をおいているた
め、任意の位置といった、より限定した範囲および、連
続的に位置を変化させる手段、畳み込み演算時間の削減
方法について論じてはいない。
【0015】また、特開平5−300599号公報に開
示されている音響装置は、任意の角度のバイノーラル化
は水平面内のものであり、空間上の任意の位置について
は述べられていない。また、計測の手数や記憶のための
メモリの容量を削減することについては論じているが、
畳み込みの演算時間の削減方法については述べられてい
ない。
【0016】更に、特開平6−98400号公報に開示
されている音像定位装置は、時間差・振幅差・位相差を
別々に与える方法をとっているが、同様に畳み込みの演
算時間の削減方法については述べられていない。音像定
位装置を実現するには、使用メモリの削減はもちろん重
要ではあるが、畳み込みの演算時間の問題がより大き
く、ハードウェア設計等に関係する。したがって、いか
に次数の削減を行い、畳み込みの演算時間の削減を行う
かがより現実的な問題となる。
【0017】本発明は、上記のような課題を解消するた
めになされたもので、畳み込みの演算時間を削減し、3
次元空間の頭部音響伝達関数の補間推定に距離減衰を加
えることで、任意の位置に音像を定位させ、かつその定
位をリアルタイムに制御し得る音像定位装置を提供する
ことを目的とする。
【0018】
【課題を解決するための手段】本発明によれば、前述の
目的は、モノラル音源の信号を入力して3次元の任意の
位置に音像定位するステレオ信号を出力する音像定位制
御装置において、聴取者の頭の位置及び方向を3次元で
計測する計測手段と、計測された前記頭の方向に対応す
る頭部音響伝達関数を近似するデジタルフィルタを求め
るデジタルフィルタ演算手段と、計測された前記頭の位
置に基づいて音圧減衰量を算出して前記デジタルフィル
タの係数の補正を行うデジタルフィルタ補正手段と、前
記音源のデータと前記デジタルフィルタとを畳み込み処
理する畳み込み演算手段とを備える音像定位制御装置で
あって、前記畳み込み手段はリングバッファ手段を備え
ことを特徴とする請求項1に記載の音像定位制御装置
によって達成される。
【0019】本発明によれば、前述の目的は、モノラル
音源の信号を入力して3次元の任意の位置に音像定位す
るステレオ信号を出力する音像定位制御装置において、
聴取者の頭の位置及び方向を3次元で計測する計測手段
と、計測された前記頭の方向に対応する頭部音響伝達関
数を近似するデジタルフィルタを求めるデジタルフィル
タ演算手段と、計測された前記頭の位置に基づいて音圧
減衰量を算出して前記デジタルフィルタの係数の補正を
行うデジタルフィルタ補正手段と、前記音源のデータと
前記デジタルフィルタとを畳み込み処理する畳み込み演
算手段とを備える音像定位制御装置であって、前記デジ
タルフィルタ演算手段は、IIR型デジタルフィルタの
係数又は頭部音響伝達関数のインパルス応答を各方向毎
に複数格納したテーブルを備える、頭部音響伝達関数を
近似するIIR型デジタルフィルタのARMAパラメー
タ演算手段と、近似された頭部音響伝達関数を任意の方
向に補間する伝達関数補間手段と、補間された頭部音響
伝達関数の左右の耳に対する音量バランスの調整を行う
シグナルパワー補正手段とを備えることを特徴とする請
求項2に記載の音像定位制御装置によって達成される。
【0020】本発明によれば、前述の目的は、前記伝達
関数補間手段は、前記テーブルに格納されている4つの
デジタルフィルタから補間を行うことを特徴とする請求
項3に記載の音像定位制御装置によって達成される。
【0021】本発明によれば、前述の目的は、モノラル
音源の信号を入力して3次元の任意の位置に音像定位す
るステレオ信号を出力する音像定位制御装置において、
聴取者の頭の位置及び方向を3次元で計測する計測手段
と、計測された前記頭の方向に対応する頭部音響伝達関
数を近似するデジタルフィルタを求めるデジタルフィル
タ演算手段と、計測された前記頭の位置に基づいて音圧
減衰量を算出して前記デジタルフィルタの係数の補正を
行うデジタルフィルタ補正手段と、前記音源のデータと
前記デジタルフィルタとを畳み込み処理する畳み込み演
算手段とを備える音像定位制御装置であって、前記デジ
タルフィルタ演算手段は、頭部音響伝達関数を近似する
IIR型デジタルフィルタのARMAパラメータ演算手
段と、近似された頭部音響伝達関数を任意の方向に補間
する伝達関数補間手段と、補間された頭部音響伝達関数
の左右の耳に対する音量バランスの調整を行うシグナル
パワー補正手段とを備え、前記シグナルパワー補間手段
は、左右の耳へのIIR型デジタルフィルタの出力のシ
グナルパワーを演算するシグナルパワー演算手段と、左
右の耳への出力の音量バランスの調整を行うシグナルパ
ワー調整手段とを備えることを特徴とする請求項4に記
載の音像定位制御装置によって達成される。
【0022】
【0023】
【0024】
【0025】
【0026】
【作用】請求項1に記載の音像定位制御装置において
は、計測手段により聴取者の頭の位置及び方向が3次元
で計測され、デジタルフィルタ演算手段により頭の方向
に対応する頭部音響伝達関数を近似したデジタルフィル
タが求められ、デジタルフィルタ補正手段により頭の位
置に基づいて音圧減衰量が算出されて前記デジタルフィ
ルタの係数が補正され、畳み込み演算手段により音源の
データとデジタルフィルタとが畳み込み処理される。
こで、リングバッファ手段が畳み込み処理を行う際に使
用される。これにより、聴取者の頭の位置及び方向に応
じて3次元空間の任意の位置に音像を定位させるように
制御することが可能となる。また、畳み込み処理におけ
るワークメモリ処理が軽減され、処理速度の向上が計れ
る。
【0027】請求項2に記載の音像定位制御装置におい
ては、IIR型デジタルフィルタのARMAパラメータ
演算手段により頭部音響伝達関数がデジタルフィルタに
よって近似され、伝達関数補間手段により、更に前記デ
ジタルフィルタは任意の方向に補間され、シグナルパワ
ー補正手段により補間された頭部音響伝達関数の左右の
耳に対する音量バランスの調整が行われる。ここで、テ
ーブルにIIR型デジタルフィルタの係数または、頭部
音響伝達関数のインパルス応答が各方向別に複数格納さ
れる。頭部音響伝達関数を近似するのにIIR型を用い
ることにより、フィルタの次数を低減することが可能と
なり、演算時間を短縮し得る。従って、ハードウエアの
コストを削減すること、及びサンプリングレートを高く
設定して音像を制御する周波数帯域を広げることが可能
となる。
【0028】請求項3に記載の音像定位制御装置におい
ては、伝達関数補間手段によりIIR型デジタルフィル
タの係数又は頭部音響伝達関数のインパルス応答が各方
向別に複数格納されているテーブルの4つのデジタルフ
ィルタから補間が行われる。これにより、3次元空間に
おける頭部音響伝達関数を効率的に補間し得る。
【0029】請求項4に記載の音像定位制御装置におい
ては、シグナルパワー演算手段により左右の耳のIIR
型デジタルフィルタの出力のシグナルパワーが演算さ
れ、シグナルパワー調整手段により左右の耳への出力の
音量バランスの調整が行われる。これにより、聴取者の
頭の方向に応じて3次元空間の任意の位置に音像を定位
させるよう制御することが可能となる。
【0030】
【0031】
【0032】
【0033】
【0034】
【実施例】以下、本発明の音像定位制御装置の実施例を
図を参照しながら説明する。なお、特に指定がない限
り、デジタルフィルタは、IIRデジタルフィルタを示
すものとする。
【0035】本実施例の音像定位制御装置は、図1に示
すように、3次元上の頭の位置・方向を計測する計測手
段としての位置センサ11と、頭の位置・方向に対応し
た頭部音響伝達関数の演算・補間を行うデジタルフィル
タ演算手段、及び音源と頭との距離に比例した音圧減衰
量の算出・補正を行うデジタルフィルタ補正手段として
のマイクロ・プロセッサ12と、デジタルフィルタの次
数と頭部音響伝達関数の近似誤差について考慮されたデ
ジタルフィルタ及びモノラル音源を畳み込み処理する畳
み込み演算手段としての畳み込みプロセッサ13とを具
備している。
【0036】位置センサ11は、授聴者の頭の位置を基
準とした音源の相対位置・方向を検出するもので、磁界
効果または電波や音波の到達時間の遅れを利用した位置
検出方法が用いられている。そのため、位置センサ11
は、センサ受け部111と、センサ発信部112と、外
部との通信を行うためのシリアルポート113と、通信
を行うと共にセンサ情報を位置情報に変換するプロセッ
サ114と、通信プロトコル、センサ補正情報及びセン
サ初期化パラメータを格納するためのRAM115及び
ROM116とを備えている。
【0037】マイクロプロセッサ12は、RAM121
とROM122とに格納された制御プログラムを元にプ
ロセッサ123の制御で動作し、音源の位置・方向情報
を得るために必要な種々の命令をシリアルポート124
に送信する。また、得られた位置情報から、その得られ
た位置に音像を定位させることのできるデジタルフィル
タを演算し、BUS125に対してデジタルフィルタの
係数など定位に必要な情報を送信する。そして、位置情
報やデジタルフィルタ係数などをディスプレイ126を
通して視覚的に表示することができる。
【0038】畳み込みプロセッサ13は、ライン・イン
131からのモノラル信号とRAM136内に格納され
ているデジタルフィルタとをプロセッサ135により畳
み込み演算し、ライン・アウト132へステレオ出力す
るものである。この畳み込みプロセッサ13は、ROM
133に格納されている情報により初期化を行った後、
BUS134からデジタルフィルタ係数など定位に必要
な情報を受け取る。その情報は、プロセッサ135を制
御する制御プログラムと共にRAM136に格納され
る。一定の処理間隔毎にマイクロ・プロセッサ12に対
して位置・方向が変更されたかどうかの問い合わせを行
い、位置・方向が変更された場合には、新たなデジタル
フィルタ係数など定位に必要な情報を送るよう指示す
る。位置・方向が変更されていない場合には、引き続い
て畳み込み処理を行う。ライン・イン131から入力さ
れたモノラル信号は、A−D/D−A138でデジタル
及びアナログ変換された後、シリアルポート137を通
して、プロセッサ135に入力される。
【0039】図3及び図4は、マイクロ・プロセッサ1
2で使用される各方向別に複数格納された頭部音響伝達
関数のテーブルまたはデジタルフィルタ係数テーブルの
フォーマットである。図3は、IIR型デジタルフィル
タの係数を格納するフォーマットであり、図4は、頭部
音響伝達関数のインパルス応答を格納するフォーマット
である。図3のフォーマットは、MAおよびAR係数の
2種類を格納するのに対し、図4のフォーマットは、イ
ンパルス応答のサンプル値そのものを格納するという違
いがある。3次元空間をサポートするために、水平方向
(Azimuth)、垂直方向(Elevation)
のデータおよびその次数を格納している。最初の項の増
幅率(Amplitude)は、畳み込みプロセッサの
制約によるもので、係数の絶対値の範囲が、0〜1に限
られるためである。この制約がなければ、必要のないも
のである。サンプルレートは、格納されているデータの
サンプリング間隔を示している。本実施例では、どちら
もサンプルレート44.1KHzに対する値である。
【0040】次に、本実施例の動作を図2のフローチャ
ートに沿って説明する。
【0041】最初に位置センサ11の動作を図2の右側
のフローチャートに沿って説明する。
【0042】位置センサ11では、センサ受け部11
1、センサ発信部112の装置自体のハード初期化が行
われた後(S231)、マイクロ・プロセッサ12から
の初期化情報が得られて、3次元上の空間の位置がセン
チメートルまたはインチで算出するかのソフト処理の初
期化が行われる(S232)。そのあと、センサにより
センシングされ、位置・方向情報の演算が行われる(S
233)。次に、マイクロ・プロセッサ12から送られ
る位置・方向情報の送信のリクエスト信号の判断が行わ
れ(S234)、リクエスト信号がきた場合には、位置
情報及び傾き情報として、X座標、Y座標、Z座標、Y
aw、Pitch、Ro1eの各情報がシリアルポート
113に対して送信され、マイクロ・プロセッサ12に
送られる(S235)。
【0043】次に、マイクロ・プロセッサ12の動作を
図2の中央のフローチャートを用いて具体的に説明す
る。
【0044】マイクロ・プロセッサ12では、まず最初
に各方向別に複数格納された頭部伝達関教のテーブルま
たはデジタルフィルタ係数テーブルが読み込まれる(S
221)。そのあと、畳み込みプロセッサ13の制御プ
ログラムがBUS134を通して畳み込みプロセッサ1
3に送られる(S222)。そして、テーブルに格納さ
れている、サンプルレート、チャンネル数、アジマス
数、エレベーション数、デジタルフィルタのタップ数、
デジタルフィルタ係数のメモリ確保領域数がマイクロ・
プロセッサに送信される(S223)。マイクロ・プロ
セッサ12では、そのあと位置センサ11の初期化信号
がシリアルポート124に対して送られ(S224)、
位置センサ11が初期化された後、再びシリアルポート
124に対して、位置・方向情報取得のリクエスト信号
が送られ、同じシリアルポート124から位置・方向情
報が得られ、センサ受け部111とセンサ発信部112
の相対的な距離情報が算出される(S225)。通常、
このセンサ受け部111により、受聴者の頭の位置が示
され、センサ発信部112により、音源の位置が示され
る。この位置・方向情報を初めて取得した場合には、次
のステップの位置・方向および距離が変わったかどうか
を判断するステップにより無条件に変更があったと判断
され(S226)、このあと、デジタルフィルタ係数、
時間遅れ係数の送信開始の合図である係数転送開始フラ
グが畳み込みプロセッサ13に送信される(S22
7)。
【0045】そして、後述する図5の頭部音響伝達関数
の補間処理、図7のデジタルフィルタ演算処理に従いデ
ジタルフィルタの演算が行われ(S228)、BUS1
25を通して、デジタルフィルタ数、時間遅れ係数が畳
み込みプロセッサ13に送信される(S229)。位置
・傾き情報の取得が初めてでない場合には、次のステッ
プで位置・方向および距離が変わったかどうかを判断し
(S226)、変わった場合には、図5、図7の手順で
デジタルフィルタの演算が行われ、畳み込みプロセッサ
13へ送信される。変わっていない場合には、再び、位
置・方向情報の取得と距離情報の算出が行われる(S2
25)。位置・傾き情報の取得が初めての場合は、位置
・方向が変わったと無条件に判断し、上記ステップで処
理を行う。
【0046】デジタルフィルタの係数が送信される際
に、その係数が整数型である場合と、固定少数点もしく
は浮動少数点型である場合とで、処理が余分に必要にな
る場合がある。これは、マイクロ・プロセッサ12での
メモリにおける数値フォーマットの表現方法と畳み込み
プロセッサ13でのメモリにおける数値フォーマットの
表現方法の違いに依存する。この主な理由は、畳み込み
プロセッサ側で高速演算のためから標準的なフォーマッ
トであるIEEEフォーマットとは異なった形式をとる
ことがあるためである。このフォーマットの変換は、畳
み込みプロセッサ13に送信される前にマイクロ・プロ
セッサ側で行うか、マイクロ・プロセッサ12側では何
もせずに、畳み込みプロセッサ13側で受け取ってから
行うかの2つの方法があり、マイクロ・プロセッサ12
と畳み込みプロセッサ13の処理速度およびメモリ量の
トレードオフから決定される。本実施例の音場制御装置
では、マイクロ・プセッサ12側で行っている(S22
9)。
【0047】次に畳み込みプロセッサ13の動作を図2
の左側のフローチャートを用いて具体的に説明する。
【0048】畳み込みプロセッサ13では、まず最初に
マイクロ・プロセッサ12からBUS134を通して送
信されてくる制御プログラムの受信が行われる(S21
1)。そのあと、同様にBUS134を通して送信され
てくるサンプルレート、チャンネル数、アジマス数、エ
レべーション数、デジタルフィルタのタップ数(デジタ
ルフィルタの次数と同じ)、デジタルフィルタ係数のメ
モリ確保領域数が受信される(S212)。そして、デ
ジタルフィルタ用のメモリが確保されたあと、モノラル
音響信号入力用のライン・イン131のデバイスおよ
び、畳み込み処理をしたあとのステレオ音響信号出力用
のライン・アウト132がオープンされる(S21
3)。次に、マイクロ・プロセッサ12からのデジタル
フィルタの係数転送開始フラグの受信が行われ(S21
4)、係数の受信が行われるかどうかの判断が行われる
(S215)。デジタルフィルタ係数および時間遅れ係
数がマイクロ・プロセッサ12からBUS134を通し
て送信されてくる場合には、その係数の受信が行われ
(S216)、RAM136に格納される。そのあと
は、モノラルの音響信号がライン・イン131から読み
込まれ(S217)、図8に示される畳み込み演算フロ
ーに従い、デジタルフィルタと畳み込み演算が行われた
あと(S218)、ステレオの音響信号がライン・アウ
ト132に出力される(S219)。係数の受信を行わ
ない場合には、デジタルフィルタ係数および時間遅れ係
数が受信されず、直ちにモノラル音響信号とデジタルフ
ィルタの畳み込み演算が行われる(S218)。
【0049】ここでの畳み込み演算処理では、リングバ
ッファを用いることで畳み込み演算処理の軽減を図って
いる。図8にそのフローチャートを示す(下記で詳しく
説明する)。以下の式に示す畳み込み演算式およびその
ブロック図9の性質上、畳み込み演算後の過去の出力結
果を必要とするため、過去の出力結果用のメモリを使用
する。
【0050】
【数1】
【0051】ここでZは、Z変換を示し、その累乗はサ
ンプリングの遅れを示している。図9のH(z)は、伝
達関数であり、Y(n)は、出力y(n)に対するZ変
換を、X(n)は、入力x(n)に対するZ変換を示し
ている。aおよびbはデジタルフィルタの係数を示す。
そしてその過去の出力結果は、次々に更新されるため、
参照位置も追加更新と同時に変更される。通常このワー
クメモリは、図10に示されるような線形な型のもので
あるため、1つの出力結果を得たあとは、ワークメモリ
の内容を1つずつずらすという処理が必要となる。本実
施例の音像定位制御装置の畳み込み演算処理では、図1
0に示されるような線形な型のワークメモリではなく、
図11に示されるようなリング形式のものを使用する。
こうすることで、メモリの内容を1つずつずらすという
処理は不要となり、参照位置をずらすだけになり、制御
プログラムのステップ数が減ると同時に、処理速度の向
上も図れる。ここでも同様に、Zは、Z変換を示し、そ
の累乗はサンプリング(ここでは出力結果)の遅れを示
している。
【0052】次に、3次元空間における任意方向の頭部
音響伝達関数の推定方法について図5のフローチャート
および図6の補間の概念図を用いて説明する。
【0053】図6のT(a,e)は、アジマスa、エレ
ベーションbにおける伝達関数を示しており、T(a,
e)、T(a,e+1)、T(a+1,e)、T(a+
1,e+1)は既知であり、デジタルフィルタテーブル
からの演算または頭部音響伝達関数テーブルより与えら
れる。今、求めたい位置の頭部伝達関数を図中央の、X
軸方向p対q、Y軸方向m対nの比率で分割される位置
とした場合、その位置の頭部音響伝達関数T{a+p/(p
+q),e+n/(m+n)}は、比率による補間で、以下の式で
求められる。
【0054】これを3次元空間に拡張するには、3次元
上の3つの平面(x,y,z座標では、x−y,y−
z,x−z平面)での補間を行えばよい。従って、基準
座標となる1つの点を加えて、合計4点(4つの頭部音
響伝達関数)から補間を行えばよい。
【0055】
【数2】
【0056】次に、頭部音響伝達関数の補間方法につい
て図5のフローチャートに従って説明する。
【0057】音響伝達関数テーブルが、デジタルフィル
タの係数として与えられている場合は、インパルスとの
畳み込み演算が行われてインパルス応答が算出されるフ
ローが必要となるが(S501)、あとの処理はインパ
ルス応答が与えられている場合と同様の処理になる。求
めたい方向に隣接される3つのインパルス応答A、B、
Cが選択される(S502)。そのインパルス応答に対
して、時間遅れを取り除いたものが算出される(S50
3)。すなわち、それぞれのチャンネルの信号の立上り
は時間軸上でゼロから始まり、立上りの時間差はなくな
る。次にそれぞれのシグナルパワーが算出される(S5
04)。算出には次の式が用いられる。なお、ここでN
は、インパルス応答のサンプル数であり、Xは、インパ
ルス応答の係数である。
【0058】
【数3】
【0059】次に、比率に応じてインパルス応答および
シグナルパワーの配分が行われ、求めたい方向のインパ
ルス応答とシグナルパワーが3つのインパルス応答から
求められる(S505)。そのあと、求められたインパ
ルス応答に対してシグナルパワーの調整が行われた後
(S506)、ARMAモデルによるIIRフィルタの
推定が行われる(S507)。
【0060】このARMAモデルによるIIRデジタル
フィルタの演算方法については、図7のフローチャート
を用いて具体的に説明する。このフローでは、ARモデ
ルを基本としてARMAモデルの算出が行われるが、A
Rモデルのデジタルフィルタ係数の求め方については、
倍風館より出版されている秋月影雄、松山泰男、吉江修
共著による「C言語 デジタル信号処理」に詳しく書か
れている、広く一般的な手法を用いる。
【0061】まず最初に、インパルス応答Aが与えられ
(S701)、周波数特性Aが求められる(S70
2)。次に、インパルス応答AからAR係数を算出した
あと(S703)、そのAR係数を用いたデジタルフィ
ルタの周波数特性Bが求められる(S704)。そし
て、先に求めた周波数特性Aと周波数特性Bの差分が求
められ(S705)、周波数特性Cとされる。そして、
周波数特性Cを持つインパルス応答Bが求められ(S7
06)、インパルス応答Bに相当するAR係数Bが再び
演算される(S707)。この2つのAR係数がARM
AモデルのAR係数とMA係数として、最終的にIIR
デジタルフィルタ係数が算出される(S708)。これ
は、最初のAR係数Aだけでは近似できない周波数特性
の差分を、MA係数として再び求めるということであ
る。
【0062】最後に、インパルス応答のシグナルパワー
と同じになるように、IIRデジタルフィルタのシグナ
ルパワーが調整される(S709)。ここで問題となる
ARおよびMA係数の次数は、図12に示す例のよう
に、インパルス応答Aの周波数特性と最終的に求められ
たIIRデジタルフィルタの周波数特性との誤差を踏ま
えて試聴による実験とを併用した結果、最も次数の少な
いものが採用されている。
【0063】図12(a)及び図12(b)は、水平面
内正面方向における左右のIIRデジタルフィルタの例
を示している。MA軸、AR軸はそれぞれの係数の次数
を示しており、縦軸は、各次数における周波数特性の誤
差の平均音圧差を示している。どちらにおいても、M
A、ARを最大次数にした場合、最も誤差がすくない
が、それ以外でも極小値になり得る次数がある。正面方
向(右)では、MA係数の次数が15程度、AR係数の
次数が18および32程度の時である。本実施例で用い
る次数は、このように誤差および次数が少なく、試聴に
よる実験でも良好に定位されるものが採用されている。
【0064】最後に、畳み込み演算を図8のフローチャ
ートに沿って説明する。
【0065】畳み込みプロセッサ13では、モノラルの
音響信号をある程度のバッファサイズ入力された後に、
時系列ごと、すなわち最初のサンプル信号から処理が始
められる。処理は、左側、右側の順に行われ、まず最初
に、1つのサンプルが取り出され(S801)、左右の
耳への出力信号である畳み込み演算結果のための変数の
初期化が行われる(S802)。そのあと、左耳への時
間遅れが考慮され、入力された音響信号に時間遅れが施
される(S803)。そして、マイクロ・プロセッサ1
2で演算され、畳み込みプロセッサ13上のRAM13
6に格納されているデジタルフィルタ係数(ARMA係
数)と入力信号および過去の畳み込み結果と畳み込み処
理が行われる(S804)。このあと、入力信号および
過去の畳み込み結果バッファの参照位置の移動が行われ
(S805)、この結果は、リングバッファに格納され
る(S806)。右耳の畳み込み処理も左耳と同様に、
入力信号に時間遅れの処理が施され(S807)、AR
MA係数と入力信号および過去の畳み込み結果との掛け
算と足し算が行われる(S808)。そして、入力信号
および過去の畳み込み結果バッファの参照位置の移動が
行われ(S809)、結果がリングバッファに保存され
る(S810)。この一連の処理がlineIn131
から読み込まれたサンプリング数だけ繰り返される(S
811)。サンプリングの数だけ繰り返されたあとは、
line 0ut132から畳み込み結果がステレオ信
号として出力される(ただし、出力処理は、畳み込み演
算フローには入らない)。
【0066】以上、これまで述べてきたフローに従っ
て、畳み込みプロセッサ13のライン・イン131に入
力されたモノラル音響信号は、最終的には畳み込みプロ
セッサ13のライン・アウト132にステレオ音響信号
として出力される。
【0067】ここで、マイクロ・プロセッサ12のBU
S125および畳み込みプロセッサ13のBUS134
は、バス・ラインで結ばれている必要は無く、シリアル
ポートによる接続でも通信は可能であるが、転送スピー
ドすなわちボーレートを高いものにすることが必要とな
る。また、位置センサ11のシリアルポート113、マ
イクロ・コンピュ−タ12のシリアルポート124およ
び畳み込みプロセッサ13のシリアルポート137、及
びA−D/D−A変換器138は、バス・ラインによる
接続でも構わない。この場合は、バス・ラインにするこ
とで、単位時間あたりの位置・方向情報の転送や、アナ
ログからデジタル、デジタルからアナログの転送スピー
ドが上がり、より多くの情報を送る事ができる。
【0068】
【発明の効果】請求項1に記載の音像定位制御装置によ
れば、聴取者の頭の位置及び方向に応じて3次元空間の
任意の位置に音像を定位させるように制御することが可
能となる。また、畳み込み処理におけるワークメモリ処
理が軽減され、処理速度の向上が計れる。
【0069】請求項2に記載の音像定位制御装置によれ
ば、頭部音響伝達関数を近似するのにIIR型を用いる
ことにより、フィルタの次数を低減することが可能とな
り、演算時間を短縮し得る。従って、ハードウェアのコ
ストを削減すること、及びデジタルフィルタの係数を保
存して置くメモリを削減することができる。すなわちサ
ンプリングレートを高く設定して音像を制御する周波数
帯域を広げることが可能となる。
【0070】請求項3に記載の音像定位制御装置によれ
ば、3次元空間における頭部音響伝達関数を効率的に補
間し得る。
【0071】請求項4に記載の音像定位制御装置によれ
ば、聴取者の頭の方向に応じて左右の耳への音圧バラン
スを調節でき、3次元空間の任意の位置に音像を定位さ
せる精度を高くすることが可能となる。
【0072】
【0073】
【0074】
【0075】
【図面の簡単な説明】
【図1】本発明の実施例の音像定位制御装置の全体構成
を示すブロック図である。
【図2】図1の音像定位制御装置の処理手順を示すフロ
ーチャートである。
【図3】IIR型デジタルフィルタの係数を格納するフ
ォーマットを示す図である。
【図4】頭部音響伝達関数のインパルス応答を格納する
フォーマットを示す図である。
【図5】頭部音響伝達関数の補間フローチャートを示す
図である。
【図6】頭部音響伝達関数の補間の概念を示す図であ
る。
【図7】デジタルフィルタを求めるための演算を示すフ
ローチャートである。
【図8】畳み込み演算処理を示すフローチャートであ
る。
【図9】畳み込み演算のブロック図である。
【図10】線形型ワークメモリの概念図である。
【図11】リング形式のワークメモリの概念図である。
【図12】AR係数およびMA係数の次数の違いによる
誤差を示す図である。
【図13】従来の頭外定位へッドホン受聴装置を示すブ
ロック図である。
【図14】従来の音響装置を示すブロック図である。
【図15】従来の音像定位装置を示すブロック図であ
る。
【符号の説明】
11 位置センサ 12 マイクロ・プロセッサ 13 畳み込みプロセッサ 111 センサ受け部 112 センサ発信部 113,124,137 シリアルポート 114,123,135 プロセッサ 115,121,136 RAM 116,122,133 ROM 125,134 BUS 126 ディスプレイ 131 ライン・イン 132 ライン・アウト 138 A−D/D−A変換器
フロントページの続き (58)調査した分野(Int.Cl.7,DB名) H04S 1/00 H04R 5/033 H04S 5/00 H04S 7/00

Claims (4)

    (57)【特許請求の範囲】
  1. 【請求項1】 モノラル音源の信号を入力して3次元の
    任意の位置に音像定位するステレオ信号を出力する音像
    定位制御装置において、聴取者の頭の位置及び方向を3
    次元で計測する計測手段と、計測された前記頭の方向に
    対応する頭部音響伝達関数を近似するデジタルフィルタ
    を求めるデジタルフィルタ演算手段と、計測された前記
    頭の位置に基づいて音圧減衰量を算出して前記デジタル
    フィルタの係数の補正を行うデジタルフィルタ補正手段
    と、前記音源のデータと前記デジタルフィルタとを畳み
    込み処理する畳み込み演算手段とを備える音像定位制御
    装置であって、 前記畳み込み手段はリングバッファ手段を備える ことを
    特徴とする音像定位制御装置。
  2. 【請求項2】 モノラル音源の信号を入力して3次元の
    任意の位置に音像定位するステレオ信号を出力する音像
    定位制御装置において、聴取者の頭の位置及び方向を3
    次元で計測する計測手段と、計測された前記頭の方向に
    対応する頭部音響伝達関数を近似するデジタルフィルタ
    を求めるデジタルフィルタ演算手段と、計測された前記
    頭の位置に基づいて音圧減衰量を算出して前記デジタル
    フィルタの係数の補正を行うデジタルフィルタ補正手段
    と、前記音源のデータと前記デジタルフィルタとを畳み
    込み処理する畳み込み演算手段とを備える音像定位制御
    装置であって、 前記デジタルフィルタ演算手段は、IIR型デジタルフ
    ィルタの係数又は頭部音響伝達関数のインパルス応答を
    各方向毎に複数格納したテーブルを備える、頭部音響伝
    達関数を近似するIIR型デジタルフィルタのARMA
    パラメータ演算手段と、近似された頭部音響伝達関数を
    任意の方向に補間する伝達関数補間手段と、補間された
    頭部音響伝達関数の左右の耳に対する音量バランスの調
    整を行うシグナルパワー補正手段とを備えることを特徴
    とする音像定位制御装置。
  3. 【請求項3】 前記伝達関数補間手段は、前記テーブル
    に格納されている4つのデジタルフィルタから補間を行
    ことを特徴とする請求項2に記載の音像定位制御装
    置。
  4. 【請求項4】 モノラル音源の信号を入力して3次元の
    任意の位置に音像定 位するステレオ信号を出力する音像
    定位制御装置において、聴取者の頭の位置及び方向を3
    次元で計測する計測手段と、計測された前記頭の方向に
    対応する頭部音響伝達関数を近似するデジタルフィルタ
    を求めるデジタルフィルタ演算手段と、計測された前記
    頭の位置に基づいて音圧減衰量を算出して前記デジタル
    フィルタの係数の補正を行うデジタルフィルタ補正手段
    と、前記音源のデータと前記デジタルフィルタとを畳み
    込み処理する畳み込み演算手段とを備える音像定位制御
    装置であって、 前記デジタルフィルタ演算手段は、頭部音響伝達関数を
    近似するIIR型デジタルフィルタのARMAパラメー
    タ演算手段と、近似された頭部音響伝達関数を任意の方
    向に補間する伝達関数補間手段と、補間された頭部音響
    伝達関数の左右の耳に対する音量バランスの調整を行う
    シグナルパワー補正手段とを備え、 前記シグナルパワー補間手段は、左右の耳へのIIR型
    デジタルフィルタの出力のシグナルパワーを演算するシ
    グナルパワー演算手段と、左右の耳への出力の音量バラ
    ンスの調整を行うシグナルパワー調整手段とを備えるこ
    とを特徴とする音像定位制御装置。
JP06776595A 1995-03-27 1995-03-27 音像定位制御装置 Expired - Fee Related JP3258195B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP06776595A JP3258195B2 (ja) 1995-03-27 1995-03-27 音像定位制御装置
US08/574,850 US5715317A (en) 1995-03-27 1995-12-19 Apparatus for controlling localization of a sound image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP06776595A JP3258195B2 (ja) 1995-03-27 1995-03-27 音像定位制御装置

Publications (2)

Publication Number Publication Date
JPH08265900A JPH08265900A (ja) 1996-10-11
JP3258195B2 true JP3258195B2 (ja) 2002-02-18

Family

ID=13354365

Family Applications (1)

Application Number Title Priority Date Filing Date
JP06776595A Expired - Fee Related JP3258195B2 (ja) 1995-03-27 1995-03-27 音像定位制御装置

Country Status (2)

Country Link
US (1) US5715317A (ja)
JP (1) JP3258195B2 (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9324240D0 (en) 1993-11-25 1994-01-12 Central Research Lab Ltd Method and apparatus for processing a bonaural pair of signals
EP0762804B1 (en) 1995-09-08 2008-11-05 Fujitsu Limited Three-dimensional acoustic processor which uses linear predictive coefficients
US6181800B1 (en) * 1997-03-10 2001-01-30 Advanced Micro Devices, Inc. System and method for interactive approximation of a head transfer function
US6173061B1 (en) * 1997-06-23 2001-01-09 Harman International Industries, Inc. Steering of monaural sources of sound using head related transfer functions
TW379512B (en) 1997-06-30 2000-01-11 Matsushita Electric Industrial Co Ltd Apparatus for localization of a sound image
GB9805534D0 (en) 1998-03-17 1998-05-13 Central Research Lab Ltd A method of improving 3d sound reproduction
FI116505B (fi) * 1998-03-23 2005-11-30 Nokia Corp Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä
JP3781902B2 (ja) * 1998-07-01 2006-06-07 株式会社リコー 音像定位制御装置および音像定位制御方式
US6178250B1 (en) 1998-10-05 2001-01-23 The United States Of America As Represented By The Secretary Of The Air Force Acoustic point source
JP2001028799A (ja) * 1999-05-10 2001-01-30 Sony Corp 車載用音響再生装置
US7308325B2 (en) * 2001-01-29 2007-12-11 Hewlett-Packard Development Company, L.P. Audio system
US7116788B1 (en) 2002-01-17 2006-10-03 Conexant Systems, Inc. Efficient head related transfer function filter generation
FR2842064B1 (fr) * 2002-07-02 2004-12-03 Thales Sa Systeme de spatialisation de sources sonores a performances ameliorees
US20040091120A1 (en) * 2002-11-12 2004-05-13 Kantor Kenneth L. Method and apparatus for improving corrective audio equalization
US20050147261A1 (en) * 2003-12-30 2005-07-07 Chiang Yeh Head relational transfer function virtualizer
JP2006222801A (ja) * 2005-02-10 2006-08-24 Nec Tokin Corp 移動音像提示装置
US20060182284A1 (en) * 2005-02-15 2006-08-17 Qsound Labs, Inc. System and method for processing audio data for narrow geometry speakers
JP4300194B2 (ja) * 2005-03-23 2009-07-22 株式会社東芝 音響再生装置、音響再生方法および音響再生プログラム
US8175286B2 (en) * 2005-05-26 2012-05-08 Bang & Olufsen A/S Recording, synthesis and reproduction of sound fields in an enclosure
US20060277034A1 (en) * 2005-06-01 2006-12-07 Ben Sferrazza Method and system for processing HRTF data for 3-D sound positioning
GB2437399B (en) * 2006-04-19 2008-07-16 Big Bean Audio Ltd Processing audio input signals
KR100718160B1 (ko) 2006-05-19 2007-05-14 삼성전자주식회사 혼선제거장치 및 방법
JP4914124B2 (ja) * 2006-06-14 2012-04-11 パナソニック株式会社 音像制御装置及び音像制御方法
KR101431253B1 (ko) * 2007-06-26 2014-08-21 코닌클리케 필립스 엔.브이. 바이노럴 오브젝트―지향 오디오 디코더
TWI377521B (en) * 2008-05-27 2012-11-21 Novatek Microelectronics Corp Image processing apparatus and method
JP5540240B2 (ja) * 2009-09-25 2014-07-02 株式会社コルグ 音響装置
WO2012042905A1 (ja) * 2010-09-30 2012-04-05 パナソニック株式会社 音響再生装置および音響再生方法
US8767968B2 (en) 2010-10-13 2014-07-01 Microsoft Corporation System and method for high-precision 3-dimensional audio for augmented reality
US9800990B1 (en) * 2016-06-10 2017-10-24 C Matter Limited Selecting a location to localize binaural sound
JP7071647B2 (ja) * 2019-02-01 2022-05-19 日本電信電話株式会社 音像定位装置、音像定位方法、およびプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2964514B2 (ja) * 1990-01-19 1999-10-18 ソニー株式会社 音響信号再生装置
JPH0739968B2 (ja) * 1991-03-25 1995-05-01 日本電信電話株式会社 音響伝達特性模擬方法
JP3435168B2 (ja) * 1991-11-18 2003-08-11 パイオニア株式会社 音程制御装置及び方法
JP2741817B2 (ja) * 1992-03-06 1998-04-22 日本電信電話株式会社 頭外定位ヘッドホン受聴装置
JP3374408B2 (ja) * 1992-04-21 2003-02-04 ソニー株式会社 音響装置
JP2871387B2 (ja) * 1992-07-27 1999-03-17 ヤマハ株式会社 音像定位装置
US5404406A (en) * 1992-11-30 1995-04-04 Victor Company Of Japan, Ltd. Method for controlling localization of sound image
US5596644A (en) * 1994-10-27 1997-01-21 Aureal Semiconductor Inc. Method and apparatus for efficient presentation of high-quality three-dimensional audio

Also Published As

Publication number Publication date
JPH08265900A (ja) 1996-10-11
US5715317A (en) 1998-02-03

Similar Documents

Publication Publication Date Title
JP3258195B2 (ja) 音像定位制御装置
CN107018460B (zh) 具有头部跟踪的双耳头戴式耳机呈现
AU699647B2 (en) Method and apparatus for efficient presentation of high-quality three-dimensional audio
US6418226B2 (en) Method of positioning sound image with distance adjustment
US12273702B2 (en) Headtracking for pre-rendered binaural audio
US6970569B1 (en) Audio processing apparatus and audio reproducing method
US7917236B1 (en) Virtual sound source device and acoustic device comprising the same
JP2008522483A (ja) 多重チャンネルオーディオ入力信号を2チャンネル出力で再生するための装置及び方法と、これを行うためのプログラムが記録された記録媒体
US7174229B1 (en) Method and apparatus for processing interaural time delay in 3D digital audio
JP2003111197A (ja) 音声信号処理方法および音声再生システム
EP0744881B1 (en) Headphone reproducing apparatus
JP2900985B2 (ja) ヘッドホン再生装置
JP4306815B2 (ja) 線形予測係数を用いた立体音響処理装置
JPH099398A (ja) 音像定位装置
JP3810110B2 (ja) 線型予測係数を用いた立体音響処理装置
US12495270B2 (en) Apparatus and method for personalized binaural audio rendering
JPH10257598A (ja) 仮想音像定位用音響信号合成装置
JPH10126898A (ja) 音像定位装置及び音像定位方法
JPH08126099A (ja) 音場信号再生装置
JPH08191225A (ja) 音場再生装置
JPH10294999A (ja) 仮想音像定位用音響信号合成装置
JP2909521B2 (ja) 頭外音像定位ステレオ受聴器受聴方法
HK40054072B (en) Headtracking for pre-rendered binaural audio
JPH07288898A (ja) 音像制御装置
HK40054072A (en) Headtracking for pre-rendered binaural audio

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071207

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081207

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091207

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091207

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees