JP2010078964A

JP2010078964A - 演算装置および方法、量子化装置および方法、並びにプログラム

Info

Publication number: JP2010078964A
Application number: JP2008247682A
Authority: JP
Inventors: Yukihiko Mogi; 幸彦茂木; Masato Kamata; 征人鎌田
Original assignee: Sony Corp
Current assignee: Sony Corp
Priority date: 2008-09-26
Filing date: 2008-09-26
Publication date: 2010-04-08
Anticipated expiration: 2028-09-26
Also published as: CN101685437A; US20100082717A1; JP4702645B2; US8601039B2

Abstract

【課題】処理に必要なメモリ容量をより低減する。
【解決手段】逆量子化テーブル作成部７２は、入力データＸに対応する量子化前の値Ｙを量子化して得られる量子化値Ｚと、量子化値Ｚを逆量子化して得られる逆量子化値Ｗとを対応付けた逆量子化テーブルを作成し、範囲決定部９１は、入力データＸが入力されたとき、量子化前の値Ｙが、逆量子化テーブルにおいて隣り合う逆量子化値Ｗを境界値とする範囲のうち、いずれの範囲に含まれるかを決定し、量子化値決定部９２は、範囲決定部９１により決定された範囲の境界値としての逆量子化値Ｗのうち、量子化前の値Ｙに近い値の逆量子化値Ｗに対応付けられている量子化値Ｚを決定する。本発明は、例えば、量子化処理とともに逆量子化処理を行うオーディオ符号化装置に適用することができる。
【選択図】図５

Description

本発明は、演算装置および方法、量子化装置および方法、並びにプログラムに関し、特に、処理に必要なメモリ容量をより低減することができるようにする演算装置および方法、量子化装置および方法、並びにプログラムに関する。

アナログ信号をデジタル信号処理で扱うためには、信号の定義域を離散化する標本化処理に加え、信号の値域を離散化する量子化処理が必要である。また、既に値域の離散化が行われたデジタル信号を、より少ないデータ量で扱う場合には、さらに粗く離散化することがあり、この過程も量子化処理に含まれる。量子化処理においては、離散化後の値を量子化値と呼び、その量子化値が割り当てられた符号を量子化符号と呼ぶ。また、隣り合う量子化値の間隔を量子化ステップ幅、値域全体に含まれる量子化値の数を量子化ステップ数とそれぞれ呼ぶ。

一方、デジタル信号処理を行った結果得られるデジタル信号を、アナログ信号として出力する場合等には、量子化符号から、元の連続的な値や小さい量子化ステップ幅で離散化された値を復元する過程が必要となる。この過程を逆量子化処理と呼ぶ。逆量子化処理においては、量子化符号に対応する量子化値を逆量子化変換により変換して元の値に復元する。

ここで、量子化値は、量子化処理において連続的な値を離散的な値に近似したものであるため、逆量子化処理による復元値（逆量子化値）と元の値との間には、量子化処理による誤差が発生する。したがって、逆量子化処理においては、量子化処理が行われる前の値（量子化前の値）を完全に復元することはできず、復元される逆量子化値は、量子化誤差を含んだ近似値となる。

一般に、量子化ステップ幅が大きい場合、量子化誤差は大きくなるが、量子化ステップ数は少なくなるので、量子化符号を表現するのに必要なデータ量は少なくなる。一方、量子化ステップ幅が小さい場合、量子化誤差は小さくなるが、量子化ステップ数は大きくなるので、量子化符号を表現するのに必要なデータ量は多くなる。

量子化において、量子化ステップ幅が一定であるものを線形量子化と呼ぶのに対して、量子化ステップ幅が一定ではないものを非線形量子化と呼ぶ。非線形量子化は、線形量子化と比較して、下記のような特徴を有している。

まず、信号の出現確率に偏りがある場合、出現の確率が高い値（信号）の近傍では、量子化ステップ幅を小さくし、出現の確率が低い値の近傍では、量子化ステップ幅を大きくした非線形量子化処理を行うことで、線形量子化処理と比較して、平均的に量子化誤差を小さくすることができる。また、同様の手法により、量子化ステップ数を信号の出現確率に応じて調整することにより、線形量子化処理と比較して、平均量子化誤差を悪化させることなく、データ量を削減することもできる。

また、特に、オーディオ信号や画像信号の場合、聴覚や視覚の特性に従い、人間が感覚的に敏感になる値の近傍では、量子化ステップ幅を小さくし、人間が感覚的に敏感でない値の近傍では、量子化ステップ幅を大きくすることで、線形量子化処理と比較して、量子化誤差を人間に知覚させにくくすることができる。また、同様の手法により、量子化ステップ数を人間の知覚の特性に合わせて調整することにより、線形量子化処理と比較して、人間が知覚する誤差を悪化させることなく、データ量を削減することもできる。

したがって、非線形量子化処理は、信号の出現確率に偏りがある信号や、オーディオ信号または画像信号等の人間の感覚的な特性に従う信号等を扱う様々な分野で利用されている。

ところで、オーディオ信号を符号化する方式として、MPEG（Moving Picture Expert Group）オーディオ規格が知られている。MPEGオーディオ規格には複数の符号化方式があるが、ISO/IEC（International Organization for Standardization/International Electrotechnical Commission）13818-7にて、MPEG-2オーディオ規格AAC（Advanced Audio Coding）という符号化方式が標準化されている。

また、さらに拡張されたISO/IEC 14496-3にて、MPEG-4オーディオ規格AACという符号化方式が標準化されている。なお、以下では、MPEG-2オーディオ規格AACとMPEG-4オーディオ規格AACとを併せて、AAC規格と呼ぶこととする。

AAC規格に準拠した従来のオーディオ符号化装置は、聴覚心理モデル保持部、ゲイン制御部、スペクトル処理部、量子化／符号化部、およびマルチプレクサ部を備えている。

オーディオ符号化装置に入力されたオーディオ信号は、聴覚心理モデル保持部において、時間軸に沿ってブロック化され、分割帯域ごとに人間の聴覚特性に従って分析されて、各分割帯域の許容誤差強度が算出される。

また、入力されたオーディオ信号は、ゲイン制御部において、４つの等間隔の周波数帯域に分割され、所定の帯域について利得調整が行われる。

さらに、利得調整されたオーディオ信号は、スペクトル処理部において、周波数領域のスペクトルデータに変換され、聴覚心理モデル保持部によって算出された許容誤差強度に基づいて、所定の処理が施される。そして、所定の処理が施されたスペクトルデータ（オーディオ信号）は、量子化／符号化部において、符号列に変換され、マルチプレクサ部において、各種の情報が多重化されることで、ビットストリームとして出力される。

上述した量子化／符号化部においては、オーディオ信号に対して非線形量子化処理が行われる。

また、オーディオ信号の量子化処理において、量子化／符号化部は、全ての入力値に対する量子化値を逆量子化し、量子化誤差が所定の範囲内に収まっているか否かを確認する。量子化誤差は、逆量子化値と入力値との差分を求めることで得られ、量子化／符号化部においては、この差分が所定の範囲内の値となっているか否かの判定が行われる。

上述のような量子化処理や逆量子化処理において、予め変換式の値を保持するテーブルを用意し、入力値に対して、テーブルを参照することで変換値を取得することが提案されている（例えば、特許文献１参照）。

特許文献１の手法によれば、非線形な逆量子化処理においては、入力値である量子化値が整数値であるので、入力値としての量子化値と、逆量子化値との関係を予め逆量子化テーブルとして作成することで、逆量子化処理の実行時には、逆量子化テーブルに基づいて一意に逆量子化値を決定することができる。

同様にして、非線形な量子化処理においても、量子化値Ｚと、入力値としての量子化前の値のとりうる範囲との関係を予め量子化テーブルとして作成することで、量子化処理の実行時には、量子化テーブルに基づいて一意に量子化値を決定することができる。

特許第３８７７６８３号公報

しかしながら、上述した手法においては、量子化テーブルのテーブル値と、逆量子化テーブルのテーブル値とを合計した数のテーブル値を用意する必要があり、多大なメモリ容量を必要とすることになる。

本発明は、このような状況に鑑みてなされたものであり、処理に必要なメモリ容量をより低減することができるようにするものである。

本発明の第１の側面の演算装置は、所定のデータに所定の変換を施して得られる離散値と、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値とを対応付けた逆変換テーブルを作成する逆変換テーブル作成手段と、前記所定のデータが入力されたとき、前記所定のデータが、前記逆変換テーブルにおいて隣り合う前記逆変換値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定手段と、前記範囲決定手段により決定された前記範囲の境界値としての前記逆変換値のうち、前記所定のデータに近い値の前記逆変換値に対応付けられている前記離散値を決定する離散値決定手段とを備える。

前記演算装置には、前記逆変換テーブルに基づいて、ハッシュテーブルを作成するハッシュテーブル作成手段をさらに設け、前記範囲決定手段には、少なくとも１つの前記範囲を、前記ハッシュテーブルに基づいて、前記逆変換テーブルにおける前記範囲の初期探索値を決定させ、前記初期探索値に基づいて、前記逆変換テーブルにおいて、前記所定のデータがいずれの範囲に含まれるかを決定させることができる。

前記ハッシュテーブル作成手段には、前記逆変換テーブルにおける前記範囲の境界値としての前記逆変換値の指数部と仮数部の少なくともいずれか１つを用いて、前記ハッシュテーブルを作成させることができる。

前記範囲決定手段には、前記所定のデータが入力されたとき、前記逆変換テーブルにおいて、入力された前記所定のデータが含まれる前記範囲を二分探索させることができる。

本発明の第１の側面の演算方法は、所定のデータに所定の変換を施して得られる離散値と、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値とを対応付けた逆変換テーブルを作成する逆変換テーブル作成ステップと、前記所定のデータが入力されたとき、前記所定のデータが、前記逆変換テーブルにおいて隣り合う前記逆変換値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定ステップと、前記範囲決定ステップにおいて決定された前記範囲の境界値としての前記逆変換値のうち、前記所定のデータに近い値の前記逆変換値に対応付けられている前記離散値を決定する離散値決定ステップとを含む。

本発明の第１の側面のプログラムは、所定のデータに所定の変換を施して得られる離散値と、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値とを対応付けた逆変換テーブルを作成する逆変換テーブル作成ステップと、前記所定のデータが入力されたとき、前記所定のデータが、前記逆変換テーブルにおいて隣り合う前記逆変換値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定ステップと、前記範囲決定ステップにおいて決定された前記範囲の境界値としての前記逆変換値のうち、前記所定のデータに近い値の前記逆変換値に対応付けられている前記離散値を決定する離散値決定ステップとを含む処理をコンピュータに実行させる。

本発明の第２の側面の量子化装置は、所定のデータを量子化して得られる量子化値と、前記量子化値を逆量子化して得られる逆量子化値とを対応付けた逆量子化テーブルを作成する逆量子化テーブル作成手段と、前記所定のデータが入力されたとき、前記所定のデータが、前記逆量子化テーブルにおいて隣り合う前記逆量子化値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定手段と、前記範囲決定手段により決定された前記範囲の境界値としての前記逆量子化値のうち、前記所定のデータに近い値の前記逆量子化値に対応付けられている前記量子化値を決定する量子化値決定手段とを備える。

本発明の第２の側面の量子化方法は、所定のデータを量子化して得られる量子化値と、前記量子化値を逆量子化して得られる逆量子化値とを対応付けた逆量子化テーブルを作成する逆量子化テーブル作成ステップと、前記所定のデータが入力されたとき、前記所定のデータが、前記逆量子化テーブルにおいて隣り合う前記逆量子化値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定ステップと、前記範囲決定ステップにより決定された前記範囲の境界値としての前記逆量子化値のうち、前記所定のデータに近い値の前記逆量子化値に対応付けられている前記量子化値を決定する量子化値決定ステップとを含む。

本発明の第２の側面のプログラムは、所定のデータを量子化して得られる量子化値と、前記量子化値を逆量子化して得られる逆量子化値とを対応付けた逆量子化テーブルを作成する逆量子化テーブル作成ステップと、前記所定のデータが入力されたとき、前記所定のデータが、前記逆量子化テーブルにおいて隣り合う前記逆量子化値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定ステップと、前記範囲決定ステップにより決定された前記範囲の境界値としての前記逆量子化値のうち、前記所定のデータに近い値の前記逆量子化値に対応付けられている前記量子化値を決定する量子化値決定ステップとを含む処理をコンピュータに実行させる。

本発明の第３の側面の演算装置は、所定のデータに所定の変換を施して得られる離散値と、前記離散値が取り得る所定のデータの範囲とを対応付けた変換テーブルを作成する変換テーブル作成手段と、前記離散値が入力されたとき、前記変換テーブルにおいて、入力された前記離散値に対応する前記変換テーブルのデータから、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値を算出する算出手段とを備える。

本発明の第３の側面の演算方法は、所定のデータに所定の変換を施して得られる離散値と、前記離散値が取り得る所定のデータの範囲とを対応付けた変換テーブルを作成する変換テーブル作成ステップと、前記離散値が入力されたとき、前記変換テーブルにおいて、入力された前記離散値に対応する前記変換テーブルのデータから、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値を算出する算出ステップと含む。

本発明の第３の側面のプログラムは、所定のデータに所定の変換を施して得られる離散値と、前記離散値が取り得る所定のデータの範囲とを対応付けた変換テーブルを作成する変換テーブル作成ステップと、前記離散値が入力されたとき、前記変換テーブルにおいて、入力された前記離散値に対応する前記変換テーブルのデータから、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値を算出する算出ステップとを含む処理をコンピュータに実行させる。

本発明の第４の側面の逆量子化装置は、所定のデータを量子化して得られる量子化値と、前記量子化値が取り得る所定のデータの範囲とを対応付けた量子化テーブルを作成する量子化テーブル作成手段と、前記量子化値が入力されたとき、前記量子化テーブルにおいて、入力された前記量子化値に対応する前記量子化テーブルのデータから、前記量子化値を逆量子化して得られる逆量子化値を算出する算出手段とを備える。

本発明の第４の側面の逆量子化方法は、所定のデータを量子化して得られる量子化値と、前記量子化値が取り得る所定のデータの範囲とを対応付けた量子化テーブルを作成する量子化テーブル作成ステップと、前記量子化値が入力されたとき、前記量子化テーブルにおいて、入力された前記量子化値に対応する前記量子化テーブルのデータから、前記量子化値を逆量子化して得られる逆量子化値を算出する算出ステップとを含む。

本発明の第４の側面のプログラムは、所定のデータを量子化して得られる量子化値と、前記量子化値が取り得る所定のデータの範囲とを対応付けた量子化テーブルを作成する量子化テーブル作成ステップと、前記量子化値が入力されたとき、前記量子化テーブルにおいて、入力された前記量子化値に対応する前記量子化テーブルのデータから、前記量子化値を逆量子化して得られる逆量子化値を算出する算出ステップとを含む処理をコンピュータに実行させる。

本発明の第１の側面においては、所定のデータに所定の変換を施して得られる離散値と、離散値に所定の変換の逆変換を施して得られる逆変換値とを対応付けた逆変換テーブルが作成され、所定のデータが入力されたとき、所定のデータが、逆変換テーブルにおいて隣り合う逆変換値を境界値とする範囲のうち、いずれの範囲に含まれるかが決定され、決定された範囲の境界値としての逆変換値のうち、所定のデータに近い値の逆変換値に対応付けられている離散値が決定される。

本発明の第２の側面においては、所定のデータを量子化して得られる量子化値と、量子化値を逆量子化して得られる逆量子化値とを対応付けた逆量子化テーブルが作成され、所定のデータが入力されたとき、所定のデータが、逆量子化テーブルにおいて隣り合う逆量子化値を境界値とする範囲のうち、いずれの範囲に含まれるかが決定され、決定された範囲の境界値としての逆量子化値のうち、所定のデータに近い値の逆量子化値に対応付けられている量子化値が決定される。

本発明の第３の側面においては、所定のデータに所定の変換を施して得られる離散値と、離散値が取り得る所定のデータの範囲とを対応付けた変換テーブルが作成され、離散値が入力されたとき、変換テーブルにおいて、入力された離散値に対応する変換テーブルのデータから、離散値に所定の変換の逆変換を施して得られる逆変換値が算出される。

本発明の第４の側面においては、所定のデータを量子化して得られる量子化値と、量子化値が取り得る所定のデータの範囲とを対応付けた量子化テーブルが作成され、量子化値が入力されたとき、量子化テーブルにおいて、入力された量子化値に対応する量子化テーブルのデータから、量子化値を逆量子化して得られる逆量子化値が算出される。

本発明の第１乃至第４の側面によれば、処理に必要なメモリ容量をより低減することが可能となる。

以下、本発明の実施の形態について図を参照して説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態
２．第２の実施の形態
３．第３の実施の形態
４．第４の実施の形態

＜１．第１の実施の形態＞
［オーディオ符号化装置の構成例］
図１に、本発明を適用したオーディオ符号化装置の一実施の形態の構成例を示す。

図１のオーディオ符号化装置は、聴覚心理モデル保持部１１、ゲイン制御部１２、スペクトル処理部１３、量子化／符号化部１４、およびマルチプレクサ部１５から構成される。

オーディオ符号化装置に入力されたオーディオ信号は、聴覚心理モデル保持部１１およびゲイン制御部１２に供給される。聴覚心理モデル保持部１１は、入力されたオーディオ信号を時間軸に沿ってブロック化し、ブロック化されたオーディオ信号を分割帯域ごとに人間の聴覚特性に従って分析して、各分割帯域の許容誤差強度を算出する。聴覚心理モデル保持部１１は、算出した許容誤差強度を、スペクトル処理部１３、および、量子化／符号化部１４に供給する。

ゲイン制御部１２は、AAC規格の符号化アルゴリズムとして用意されているMain，LC（Low Complexity），SSR（Scalable Sampling Rate）の３つのプロファイルのうちの、SSRプロファイルのみに使用される。ゲイン制御部１２は、入力されたオーディオ信号を４つの等間隔の周波数帯域に分割し、例えば、最低域以外の帯域について利得調整を行って、スペクトル処理部１３に供給する。

スペクトル処理部１３は、ゲイン制御部１２において利得調整されたオーディオ信号を周波数領域のスペクトルデータに変換する。また、スペクトル処理部１３は、聴覚心理モデル保持部１１から供給された許容誤差強度に基づいて、スペクトル処理部１３の各部を制御し、スペクトルデータに所定の処理を施す。

スペクトル処理部１３は、MDCT（Modified Discrete Cosine Transform）部２１，TNS（Temporal Noise Shaping）処理部２２、インテンシティ／カップリング部２３、予測部２４、およびM/Sステレオ（Middle/Side Stereo）部２５を備えている。

MDCT部２１は、ゲイン制御部１２から供給された時間領域のオーディオ信号を周波数領域のスペクトルデータ（MDCT係数）に変換し、TNS処理部２２に供給する。TNS処理部２２は、MDCT部２１からのスペクトルデータを、時間領域の信号であるかのように見立てて線形予測を行い、スペクトルデータに対して予測フィルタリングを行って、ビットストリームとして、インテンシティ／カップリング部２３に供給する。インテンシティ／カップリング部２３は、TNS処理部２２からのスペクトルデータとしてのオーディオ信号に対して、異なるチャンネルの相関を利用した圧縮処理（ステレオ相関符号化処理）を施す。

予測部２４は、上述した３つのプロファイルのうちの、Mainプロファイルのみに使用される。予測部２４は、インテンシティ／カップリング部２３においてステレオ相関符号化されたオーディオ信号と、量子化／符号化部１４から供給されるオーディオ信号とを用いて予測符号化を行い、その結果得られたオーディオ信号をM/Sステレオ部２５に供給する。M/Sステレオ部２５は、予測部２４からのオーディオ信号をステレオ相関符号化し、量子化／符号化部１４に供給する。

量子化／符号化部１４は、正規化係数部３１、量子化部３２、およびハフマン符号化部３３を備えており、スペクトル処理部１３のM/Sステレオ部２５からのオーディオ信号を符号列に変換し、マルチプレクサ部１５に供給する

正規化係数部３１は、M/Sステレオ部２５からのオーディオ信号を量子化部３２に供給するとともに、そのオーディオ信号に基づいて、オーディオ信号の量子化に用いる正規化係数を算出し、量子化部３２およびハフマン符号化部３３に供給する。図１の量子化装置においては、例えば、聴覚心理モデル保持部１１からの許容誤差強度が用いられて、分割帯域ごとの正規化係数として、量子化ステップパラメータが算出される。

量子化部３２は、正規化係数部３１からの正規化係数を用いて、正規化係数部３１から供給されたオーディオ信号を非線形量子化し、その結果得られたオーディオ信号（量子化値）をハフマン符号化部３３および予測部２４に供給する。ハフマン符号化部３３は、予め定められたハフマン符号表に基づいて、正規化係数部３１からの正規化係数と、量子化部３２からの量子化値とをハフマン符号化し、マルチプレクサ部１５に供給する。

マルチプレクサ部１５は、ゲイン制御部１２およびMDCT部２１乃至正規化係数部３１からそれぞれ供給された、オーディオ信号の符号化の過程で生成された各種の情報と、ハフマン符号化部３３からのハフマン符号とを多重化する。これにより、マルチプレクサ部１５は、オーディオ信号のビットストリームを生成し、生成したオーディオ信号のビットストリームを出力する。

一般的なオーディオ符号化装置の量子化部において行われる非線形量子化処理は、スペクトル処理部からのオーディオ信号の値を入力値Ｘとし、量子化ステップ幅を表す量子化ステップパラメータをｑとすると、式（１）を計算することにより行われる。すなわち、式（１）が計算されて、オーディオ信号としての入力値Ｘから量子化値Ｚが求められる。

なお、式（１）において、(int)(Ａ)は、浮動小数点数Ａの小数部分を切り捨てて整数部分を得る演算を示す。

AAC規格の符号化においては、量子化値Ｚは１４ビットと規定されているため、量子化前の値Ｙ＝Ｘ／２^q/4とすると、量子化前の値Ｙは、逆算することで、０≦Ｙ＜8191.5943^(4/3)の範囲の値とされる。したがって、量子化値Ｚは、０≦Ｚ≦8191の範囲の整数となり、量子化値Ｚがこの範囲内の値となるように、量子化ステップ幅を表す量子化ステップパラメータｑが定められる。

また、量子化部においては、全ての入力値Ｘに対する量子化値Ｚが逆量子化され、量子化誤差が所定の範囲内に収まっているか否かが確認される。例えば、式（２）の演算により逆量子化が行われ、逆量子化値Ｗが得られる。

そして、量子化誤差は、逆量子化値Ｗと入力値Ｘとの差分を求めることで得られ、この差分が所定の範囲内の値となっているか否かの判定が行われる。

［量子化前の値、量子化値、および逆量子化値の関係］
ここで、図２乃至図４を参照して、量子化前の値Ｙ、量子化値Ｚ、および逆量子化値Ｗの関係について説明する。

図２は、式（１）において、Ｙ＝Ｘ／２^q/4としたときの、量子化値Ｚ（＝０乃至8191）に対して式（１）により算出される量子化前の値Ｙの範囲を示す量子化テーブルを示している。

図２においては、量子化前の値Ｙが、０≦Ｙ＜4.9999600e-01Fの範囲においては、量子化値Ｚが０であり、4.9999600e-01F≦Ｙ＜1.8629548e+00Fの範囲においては、量子化値Ｚが１であり、・・・、1.6510260e+05F≦Ｙ＜1.6512946e+05Fの範囲においては、量子化値Ｚが8191であることを示している。

図３は、量子化値（＝０乃至8192）に対して式（２）により算出される逆量子化値Ｗを示す逆量子化テーブルを示している。

図３においては、逆量子化値Ｚが０であるとき、逆量子化値Ｗは0.0000000e+00Fであり、逆量子化値Ｚが１であるとき、逆量子化値Ｗは1.0000000e+00Fであり、・・・、逆量子化値Ｚが8192であるとき、逆量子化値Ｗは1.6514032e+05Fであることを示している。

図４は、量子化前の値Ｙの範囲、量子化値Ｚ、および逆量子化値Ｗの関係を説明する図である。

図４においては、図２の量子化テーブルを基に与えられる、量子化値Ｚ＝０乃至６それぞれをとりうる量子化前の値Ｙの範囲と、図３の逆量子化テーブルを基に与えられる、それぞれの量子化値Ｚに対応する逆量子化値Ｗとが示されている。

なお、図４において、値の表記は、小数点以下第２位までとしている。

ここで、量子化値Ｚに対応する逆量子化値Ｗの中間値をＶとすると、逆量子化値Ｗの中間値Ｖと、量子化値Ｚをとりうる量子化前の値Ｙの範囲の境界値とは、ほとんど差がなく、ほぼ同一とみなすことができる。

例えば、図４において、量子化値Ｚ＝０および１に対応する逆量子化値Ｗ＝0.00および1.00の中間値Ｖは0.50となり、量子化値Ｚ＝０および１のそれぞれをとりうる量子化前の値Ｙの境界値は0.50となる。また、量子化値Ｚ＝１および２に対応する逆量子化値Ｗ＝1.00および2.52の中間値Ｖは1.76となり、量子化値Ｚ＝１および２のそれぞれをとりうる量子化前の値Ｙの境界値は1.86となる。量子化値Ｚ＝２および３に対応する逆量子化値Ｗ＝2.52および4.33の中間値Ｖは3.43となり、量子化値Ｚ＝２および３のそれぞれをとりうる量子化前の値Ｙの境界値は3.57となる。以降、同様に、得られる逆量子化値Ｗの中間値Ｖと、量子化値Ｚをとりうる量子化前の値Ｙの範囲の境界値とは、ほぼ同一の値となる。

すなわち、量子化値Ｚに対応する量子化前の値Ｙの範囲は、図４で示される関係となる場合、量子化値Ｚに対応する逆量子化値Ｗの中間値Ｖによって表すことができる。

［量子化部の構成例］
次に、図５のブロック図を参照して、量子化部３２の構成例について説明する。

図５の量子化部３２は、逆量子化テーブル作成部７１および探索量子化部７２から構成され、正規化係数部３１からのオーディオ信号としての入力データＸに基づいて、量子化値Ｚを出力する。

逆量子化テーブル作成部７１は、量子化値Ｚに対応する逆量子化値Ｗを算出し、量子化値Ｚと逆量子化値Ｗとを対応付けた逆量子化テーブルを作成し、探索量子化部７２に供給する。より具体的には、逆量子化テーブル作成部７１は、上述した式（２）で示される計算を行うことにより、離散値（整数値）である量子化値Ｚに対応する逆量子化値Ｗを算出する。すなわち、逆量子化テーブル作成部７１は、０≦Ｚ≦8192の範囲の整数それぞれに対応する逆量子化値Ｗを算出する。

探索量子化部７２は、逆量子化テーブル作成部７１から供給された逆量子化テーブルに基づいて、正規化係数部３１から供給された入力データＸに対応する量子化前の値Ｙが、逆量子化テーブルにおいて隣り合う逆量子化値Ｗを境界値とする範囲のうち、いずれの範囲に含まれるかを決定し、その範囲に対応付けられている量子化値Ｚを、ハフマン符号化部３３に供給する。

探索量子化部７２は、範囲決定部９１および量子化値決定部９２を備えている。

範囲決定部９１は、正規化係数部３１からの入力データＸが入力されたとき、入力データＸに対応する量子化前の値Ｙが、逆変換テーブルにおいて隣り合う逆量子化値Ｗを境界値とする範囲のうち、いずれの範囲に含まれるかを決定する。

量子化値決定部９２は、範囲決定部９１により決定された範囲の境界値としての逆量子化値Ｗのうち、量子化前の値Ｙに近い値の逆量子化値Ｗに対応付けられている量子化値Ｚを決定する。

以上の構成により、量子化部３２は、予め作成した逆量子化テーブルの逆量子化値に基づいて、入力された入力データから得られる量子化前の値に対応する量子化値を探索し、出力する。

次に、図６のフローチャートを参照して、図５の量子化部３２の逆量子化テーブル作成処理について説明する。量子化部３２において、逆量子化テーブル作成処理は、量子化処理を行う前に行われる。

ステップＳ３１において、逆量子化テーブル作成部７１は、量子化値Ｚに対応する逆量子化値Ｗを算出し、量子化値Ｚと逆量子化値Ｗとを対応付けた逆量子化テーブルを作成し、探索量子化部７２に供給する。より具体的には、逆量子化テーブル作成部７１は、式（２）で示される計算を行うことにより、量子化値Ｚ＝０，…，8192に対応する逆量子化値W[s]（s=０，…，8192）を算出し、図３で示した逆量子化テーブルを作成する。

以上の処理により、量子化処理を行う前に、逆量子化値Ｗと、量子化値Ｚとを対応付けた逆量子化テーブルを作成することができる。

［量子化部の量子化処理］
次に、図７のフローチャートを参照して、図５の量子化部３２の量子化処理について説明する。

ステップＳ６１において、範囲決定部９１は、正規化係数部３１からの入力データＸが入力されたとき、入力データＸに対応する量子化前の値Ｙが、逆量子化テーブルにおいて隣り合う逆量子化値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する。より具体的には、範囲決定部９１は、量子化前の値Y[m]が含まれる逆量子化値を境界値とする範囲W[k-1]≦Y[m]＜W[k]を決定する。ここで、ｍは、入力データＸの数（識別子）を表し、０乃至data_sizeの値をとるものとする。また、k-1，ｋは、量子化値Ｚに相当し、１≦ｋ≦8192の値をとる。例えば、量子化前の値Ｙが0.80であるとき、範囲決定部９１は、図３の逆量子化テーブルに基づいて、0.00≦Y[m]＜1.00である範囲を決定する。また、量子化前の値Ｙが8.26であるとき、範囲決定部９１は、図３の逆量子化テーブルに基づいて、6.35≦Y[m]＜8.55である範囲を決定する。

ステップＳ６２において、量子化値決定部９２は、範囲決定部９１により決定された範囲の境界値としての逆量子化値のうち、量子化前の値Ｙに近い値の逆量子化値Ｗに対応付けられている量子化値Ｚを決定し、ハフマン符号化部３３に供給して、処理は、ステップＳ６３に進む。すなわち、量子化値決定部９２は、範囲決定部９１により決定された、量子化前の値Y[m]が含まれる範囲W[k-1]≦Y[m]＜W[k]において、Y[m]-W[k-1]≦W[k]-Y[m]であるときは、量子化値Z[m]＝k-1とし、Y[m]-W[k-1]≦W[k]-Y[m]でないとき（Y[m]-W[k-1]＞W[k]-Y[m]であるとき）は、量子化値Z[m]＝kとする。例えば、量子化前の値Ｙが0.80で、範囲決定部９１により決定された範囲が0.00≦Y[m]＜1.00であるとき、量子化値決定部９２は、図４に基づいて、逆量子化値Ｗ＝1.00に対応付けられている量子化値Ｚ＝１を決定する。また、量子化前の値Ｙが8.26で、範囲決定部９１により決定された範囲が6.35≦Y[m]＜8.55であるとき、量子化値決定部９２は、図４に基づいて、逆量子化値Ｗ＝8.55に対応付けられている量子化値Ｚ＝５を決定する。

図８は、図７のフローチャートのステップＳ６１およびＳ６２における処理をＣ言語で記述したプログラムの例を示している。

図８のプログラム８１において、各行の左端の数字は、各行の行番号を示しており、説明のために設けたものである。つまり、実際の記述においては不要である。以降、他のプログラムの例においても同様であるものとする。

プログラム８１の１行目は、入力データの識別子を表すｍを０からdata_size個まで１ずつインクリメントし、以下の処理を繰り返すことを定義している。

プログラム８１の２，３行目においては、ｍ番目に入力された量子化前の値Y[m]が、図３の逆量子化テーブルに基づいて、逆量子化値W[1]より小さいか否かが判定される。量子化前の値Y[m]が、逆量子化値W[1]より小さい場合、パラメータｋについて、k = 1が与えられる。

一方、量子化前の値Y[m]が、逆量子化値W[1]より小さくない場合、５，６行目においては、ｍ番目に入力された量子化前の値Y[m]が、逆量子化値W[2]より小さいか否かが判定される。量子化前の値Y[m]が、逆量子化値W[2]より小さい場合、パラメータｋについて、k = 2が与えられる。

以降、同様にして、N-8行目まで、量子化前の値Y[m]が含まれる範囲が、逆量子化テーブルの逆量子化値によって決定される（ステップＳ６１の処理）。

そして、N-2行目において、２行目乃至N-8行目の処理で決定された量子化前の値Y[m]が含まれる範囲W[k-1]≦Y[m]＜W[k]において、Y[m]-W[k-1]≦W[k]-Y[m]であるときは、量子化値Z[m]＝k-1に決定され、Y[m]-W[k-1]≧W[k]-Y[m]であるときは、量子化値Z[m]＝kに決定される（ステップＳ６２の処理）。

なお、パラメータｋがk = 8192に決定された場合、W[8192]に対応する量子化値Z[m]は存在しないので（上述したように、量子化値Ｚの範囲は０≦Ｚ≦8191であるので）、量子化値Z[m] = 8191に決定される。

図７のフローチャートに戻り、ステップＳ６３において、探索量子化部７２は、data_size個全ての入力データに対して、量子化値Ｚの探索の処理を終えたか否かを判定する。全ての入力データに対して、量子化値Ｚの探索の処理を終えていないと判定された場合、処理は、ステップＳ６１に戻り、data_size個全ての入力データに対して処理を終えるまで、ステップＳ６１乃至Ｓ６３を繰り返す。

以上の処理により、量子化値Ｚと逆量子化値Ｗとの関係を示す逆量子化テーブルを用いて、入力された入力データＸから算出される量子化前の値Ｙに対応する量子化値Ｚを決定することができる。したがって、式（１）で示される演算に基づいた量子化テーブルを作成することなく、量子化テーブル（図２）と逆量子化テーブル（図３）とのテーブル値の数の合計（16385個）の、ほぼ半分の8193個のテーブル値を有する逆量子化テーブルのみを用意すればよいので、処理に必要なメモリ容量をより低減することが可能となる。

また、量子化前の値Ｙは、Ｙ＝Ｘ／２^q/4で与えられるので、式（１）で示される、非線形関数である３／４乗のべき乗関数の演算をすることなく量子化値Ｚを決定でき、より効率良く非線形な演算を行うことが可能となる。

以上においては、8193個の条件を順番に探索することによって量子化値を決定する例について説明してきたが、例えば、二分探索を用いれば、１３回の条件の判定で、量子化値を決定することができる。

ところで、図９の量子化値Ｚに対するヒストグラムに示されるように、量子化値Ｚについて、Ｚ＜１０程度の量子化値が得られる量子化処理の頻度は高く、量子化値Ｚ＝０となる量子化処理の頻度が最も高い。また、量子化値Ｚが大きくなるにつれて、その量子化値Ｚが得られる量子化処理の頻度は低くなっている。すなわち、図９は、量子化値Ｚが小さい程、その量子化値Ｚが得られる量子化処理の回数が多いことを示している。なお、図９においては、横軸が量子化値Ｚを示しており、縦軸が量子化処理の頻度（回数）を示している

以下では、量子化処理の頻度の傾向を利用した量子化部の例について説明する。

＜２．第２の実施の形態＞
［量子化部の構成例］
図１０は、量子化処理の頻度の傾向を利用した量子化部の構成例を示している。なお、図１０の量子化部１５１において、図５の量子化部３２に設けられたものと同様の機能を備える構成については、同一名称および同一符号を付するものとし、その説明は、適宜省略するものとする。

すなわち、図１０の量子化部１５１において、図５の量子化部３２と異なるのは、ハッシュテーブル作成部１７１を新たに設け、探索量子化部７２に代えて、探索量子化部１７２を設けた点である。

図１０の量子化部１５１においては、逆量子化テーブル作成部７１は、作成した逆量子化テーブルを、ハッシュテーブル作成部１７１および探索量子化部１７２に供給する。

ハッシュテーブル作成部１７１は、逆量子化テーブル作成部７１からの逆量子化テーブルに基づいて、ハッシュテーブルを作成し、探索量子化部１７２に供給する。

ここで、ハッシュテーブルとは、逆量子化テーブルのテーブル値である逆量子化値で決定される範囲を、量子化前の値に応じたグループに分け、そのグループを示す情報をテーブル値とするテーブルである。すなわち、ハッシュテーブルによれば、量子化前の値が入力されたとき、その量子化前の値に対応したグループが決定され、そのグループにおいて、最初に探索すべきテーブル値である初期探索値から探索が開始される。したがって、逆量子化テーブルに定義された全てのテーブル値を順次探索するより高速にテーブル値を探索することができる。なお、ハッシュテーブルの作成の詳細は後述する。

探索量子化部１７２は、初期探索値決定部１９１、範囲決定部１９２、および量子化値決定部１９３を備えている。初期探索値決定部１９１は、ハッシュテーブル作成部１７１から供給されたハッシュテーブルを用いて、逆量子化テーブルにおける探索開始の値（初期探索値）を決定する。範囲決定部１９２は、ハッシュテーブル作成部１７１から供給されたハッシュテーブルと、逆量子化テーブル作成部７２から供給された逆量子化テーブルとに基づいて、正規化係数部３１から供給された入力データＸから算出された量子化前の値Ｙが、逆量子化テーブルにおいて隣り合う逆量子化値Ｗを境界値とする範囲のうち、いずれの範囲に含まれるかを、初期探索値決定部１９１によって決定された初期探索値から探索する。量子化値決定部１９３は、範囲決定部１９２によって決定された範囲の境界値としての逆量子化値Ｗのうち、量子化前の値Ｙに近い値の逆量子化値Ｗに対応付けられている量子化値Ｚを決定し，ハフマン符号化部３３に供給する。

以上の構成により、量子化部１５１は、予め作成した逆量子化テーブルとハッシュテーブルとに基づいて、入力された入力データから得られる量子化前の値に対応する量子化値を探索し、出力する。

［量子化部のハッシュテーブル作成処理］
次に、図１１のフローチャートを参照して、図１０の量子化部１５１のハッシュテーブル作成処理について説明する。量子化部１５１において、ハッシュテーブル作成処理は、量子化処理を行う前に行われる。なお、図１１のフローチャートにおけるステップＳ１３１の処理は、図６のフローチャートを参照して説明した逆量子化テーブル作成処理と同様であるので、その説明は省略するものとする。

すなわち、ステップＳ１３３において、ハッシュテーブル作成部１７１は、逆量子化テーブル作成部７１からの逆量子化テーブルに基づいて、ハッシュテーブルを作成し、探索量子化部１７２に供給する。

より具体的には、例えば、ハッシュテーブル作成部１７１は、IEEE（Institute for Electrical and Electronics Engineering）754に基づく浮動小数点数の指数部と仮数部を用いてハッシュテーブルを作成する。

IEEE754の規格に基づく単精度浮動小数点数を示す浮動小数点型のデータは、図１２に示されるように、３２ビットのビット列で構成される。すなわち、浮動小数点数のデータの最下位ビットである０ビット目から２２ビット目までの部分は、仮数部の仮数Ｆとされ、２３ビット目から３０ビット目までは指数部の指数Ｅとされ、最上位の３１ビット目は符号ビットＳとされる。

ここで、符号ビットＳは、仮数部が正である場合には「０」とされ、仮数部が負の場合には「１」とされる。また、指数部のビット構成は「指数＋バイアス」となる。例えば、IEEE754の規格では、単精度のバイアスとして１２７が用いられているため、指数の数値が「０」であるときは、指数部の値は「１２７」（＝０＋１２７）となり、指数部は１２７のビット構成（０ｘ７ｆ）となる（「０ｘ」は「７ｆ」が１６進数であることを示す）。

なお、指数部が０と２５５の場合は、特別な値の意味を持つが、その説明は省略する。

このような浮動小数点型のデータにより表される値は、数値表現形式で表すと、式（３）に示す通りとなる。

なお、式（３）において、「．Ｆ」は、仮数Ｆの上位ビットの前に小数点が位置するものとして仮数部を小数点表現していることを示す。また、式（３）における「Ｂ」はバイアス成分を示しており、「Ｓ」は符号ビットを示している。

次に、上述した浮動小数点数の指数部および仮数部を用いたハッシュテーブルの作成手順の一例を説明する。

ハッシュテーブル作成部１７１は、指数部について、８ビットの指数部の値から125を減算し、その値をindex1とする。ここでは、量子化値Ｚ＝０となる範囲が０≦Ｙ＜0.4999600であり、0.25≦0.4999600＜0.5を満たし、0.25乃至0.5の区間は指数部の値が125となるので、指数部の減算値を125とする。また、量子化値Ｚ＝8191となる範囲は、1.6512946×10⁵≦Ｙであり、1.6512946×10⁵を単精度浮動小数点数で表現したときの指数部は144となる。index1は、０乃至１９の値をとる。

また、ハッシュテーブル作成部１７１は、仮数部について、２３ビットの仮数部のうちの上位４ビットを、index2とする。index2は、０乃至１５の値をとる。

index1およびindex2を要素数とする２次元配列としてのハッシュテーブルに対して、ハッシュテーブル作成部１７１は、8193個の逆変換テーブルの値から指数部および仮数部を取り出し、index1とindex2のいずれかの値が変化する逆量子化テーブルのインデックスを要素として、ハッシュテーブル（２次元配列）に配置していく。

後述する図１５の逆量子化テーブルW[8193]を用いて、ハッシュテーブルの作成の手順について説明する。インデックス１のW[1]=1.0000000は、index1=2，index2=0となり、インデックス２のW[2]=2.5198421は、index1=3，index2=4となる。これにより量子化値Ｚ＝１または２となる範囲は1.0000000≦Ｙ＜2.5198421であるので、この区間の量子化前の値Ｙに対するindex1とindex2の組み合わせはindex1=2，index2=0乃至15、またはindex1=3，index2=0乃至3のいずれかになる。これらのindex1とindex2のハッシュテーブルには逆量子化テーブルのインデックス１を配置しておく。同様に、インデックス２のW[2]=2.5198421は、index1=3，index2=4となり、インデックス３のW[3]=4.3267488は、index1=4，index2=1となる。これにより量子化値Ｚ＝２または３となる範囲は2.5198421≦Ｙ＜4.3267488であるので、この区間の量子化前の値Ｙに対するindex1とindex2の組み合わせはindex3=3，index2=4乃至15、またはindex3=4，index2=0のいずれかになる。これらのindex1とindex2のハッシュテーブルには逆量子化テーブルのインデックス２を配置しておく。

図１３は、後述する図１５の逆量子化テーブルW[8193]に基づいて、上述した手順で作成されるハッシュテーブルdequantize_hash[index1][index2]をＣ言語で記述した例を示している。

図１３のプログラム２０１において、１行目乃至Ｎ行目に記述されるdequantize_hash[20][16]は、２０×１６の２次元配列を表している。

例えば、３，４行目には、index1=０，index2=０乃至１６であるテーブル値が記述されている。６，７行目には、index1=１，index2=０乃至１６であるテーブル値が記述されている。以降、同様にして、テーブル値が記述され、N-3，N-2行目には、index1=１９，index2=０乃至１６であるテーブル値が記述されている。

図１３のプログラム２０１に示されるとおり、ハッシュテーブルに指数部および仮数部を用いると、ハッシュテーブルのテーブル値（要素）として、量子化値が小さいものが多く割り当てられている。

特に、３乃至２８行目のindex1 = 8以下の場合、隣り合う値との差が１しかないので、後述する量子化処理において、index1 = 8以下となる量子化前の値Ｙについては、１回のみの探索で量子化値Ｚを決定することができる。

また、上述のハッシュテーブルを用いた場合、例えば、index1 = 18，index2 = 0のとき、そのときのテーブル値4096と、次のテーブル値4287との差（量子化前の値の範囲）が191あるので、191回の探索を行う必要がある。しかしながら、図９で示したように、このテーブル値付近の量子化値はほとんど発生しないので、探索の回数が多くなったとしても問題ではない。

以上の処理により、量子化処理を行う前に、逆量子化テーブルにおけるテーブル値の探索を高速にするハッシュテーブルを作成することができる。

［量子化部の量子化処理］
次に、図１４のフローチャートを参照して、図１０の量子化部１５１の量子化処理について説明する。

ステップＳ１６１において、範囲決定部１９２は、正規化係数部３１からの入力データＸが入力されたとき、入力データＸに対応する量子化前の値Ｙが、逆変換テーブルにおいて隣り合う逆量子化値Ｗを境界値とする範囲の中の、所定の範囲のうち、いずれの範囲に含まれるかを決定する。より具体的には、範囲決定部１９２は、正規化係数部３１からの入力データＸから、量子化前の値Ｙ＝Ｘ／２^q/4を算出し、逆変換テーブルにおいて隣り合う逆量子化値Ｗを境界値とする範囲について、量子化前の値Ｙが含まれる範囲を、条件文を用いて所定の回数だけ探索する。

ステップＳ１６２において、範囲決定部１９２は、ステップＳ１６１の処理において、量子化前の値Ｙが含まれる逆量子化値の範囲が求まったか否かを判定する。すなわち、範囲決定部１９２は、条件文を用いての所定回数の探索によって、量子化前の値Ｙが含まれる範囲が決定したか否かを判定する。

ステップＳ１６２において、条件文を用いての所定回数の探索によって、量子化前の値Ｙが含まれる範囲が決定した場合、処理は、ステップＳ１６３に進む。

ステップＳ１６３において、量子化値決定部１９３は、範囲決定部１９２により決定された範囲の境界値としての逆量子化値のうち、量子化前の値Ｙに近い値の逆量子化値Ｗに対応付けられている量子化値Ｚを決定し、ハフマン符号化部３３に供給して、処理は、ステップＳ１６７に進む。

一方、ステップＳ１６２において、所定回数の探索によって、量子化前の値Ｙが含まれる範囲が決定しなかった場合、処理は、ステップＳ１６４に進む。

ステップＳ１６４において、初期探索値決定部１９１は、ハッシュテーブル作成部１７１から供給されたハッシュテーブルを用いて、逆量子化テーブルにおける初期探索値を決定する。より具体的には、探索量子化部１７２は、正規化係数部３１からの入力データＸから、量子化前の値Ｙ＝Ｘ／２^q/4を算出し、算出した量子化前の値Ｙの指数部および仮数部に基づいてindex1とindex2を算出し、ハッシュテーブルから逆量子化テーブルの初期探索値を求める。

ステップＳ１６５において、範囲決定部１９２は、初期探索値と、逆量子化テーブル作成部７１から供給された逆量子化テーブルとに基づいて、入力データＸに対応する量子化前の値Ｙが含まれる、逆量子化値Ｗを境界値とする範囲W[k-1]≦Y[m]＜W[k]を探索し、決定する。

ステップＳ１６６において、量子化値決定部１９３は、範囲決定部１９２により決定された範囲の境界値としての逆量子化値Ｗのうち、量子化前の値Ｙに近い値の逆量子化値Ｗに対応付けられている量子化値Ｚを決定する。より具体的には、量子化値決定部１９３は、範囲決定部１９２により決定された、量子化前の値Y[m]が含まれる範囲W[k-1]≦Y[m]＜W[k]において、Y[m]-W[k-1]≦W[k]-Y[m]であるときは、量子化値Z[m]＝k-1とし、Y[m]-W[k-1]≦W[k]-Y[m]でないときは、量子化値Z[m]＝kとする。量子化値決定部１９３は、決定した量子化値Ｚを、ハフマン符号化部３３に供給する。

ステップＳ１６７において、探索量子化部１７２は、data_size個全ての入力データに対して、量子化前の値Ｙが含まれる範囲の探索の処理を終えたか否かを判定する。全ての入力データに対して、量子化前の値Ｙが含まれる範囲の探索の処理を終えていないと判定された場合、処理は、ステップＳ１６１に戻り、data_size個全ての入力データに対して処理を終えるまで、ステップＳ１６１乃至Ｓ１６７を繰り返す。

図１５は、図１４のフローチャートのステップＳ１６１乃至Ｓ１６７における処理をＣ言語で記述したプログラムの例を示している。

図１５のプログラム２１１において、１行目乃至8195行目のW[8193]は、逆量子化テーブルを示している。

8197行目乃至8200行目は、値uni0が異なる型のデータとして用いられることを定義している。また、8201行目は、入力データの識別子を表すｍを０からdata_size個まで１ずつインクリメントし、以下の処理を繰り返すことを定義している。

8203行目乃至8213行目は、量子化前の値Y[m]（=uni0.f）が含まれる範囲が順番に４回、条件文により探索され、パラメータｋが決定される（ステップＳ１６１の処理）。

また、8216行目乃至8218行目においては、図１３で説明したハッシュテーブルdequantize_hash[index1][index2]を用いて、量子化前の値Y[m]（=uni0.f）の初期探索値が決定される（ステップＳ１６４の処理）。

さらに、8219行目および8220行目においては、初期探索値ｋと逆量子化テーブルW[k]とに基づいて、量子化前の値Y[m]（=uni0.f）が含まれる範囲が探索（決定）され、パラメータｋが決定される（ステップＳ１６５の処理）。

そして、8228行目において、8216行目乃至8220行目の処理で決定された量子化前の値Y[m]が含まれる範囲W[k-1]≦Y[m]＜W[k]において、Y[m]-W[k-1]≦W[k]-Y[m]であるときは、量子化値Z[m]＝k-1に決定され、Y[m]-W[k-1]≦W[k]-Y[m]でないときは、量子化値Z[m]＝kに決定される（ステップＳ１６３，Ｓ１６６の処理）。

このようにして、量子化前の値が大きい場合には、ハッシュテーブルによって初期探索値が決定されるので、小さな値から順次探索していく図８のプログラム８１よりも高速に、量子化前の値が含まれる範囲が探索される。

以上の処理により、量子化値Ｚと逆量子化値Ｗとの関係を示す逆量子化テーブルを用いて、入力された入力データＸから算出される量子化前の値Ｙに対応する量子化値Ｚを決定することができる。したがって、式（１）で示される演算に基づいた量子化テーブルを作成することなく、量子化テーブルと逆量子化テーブルとのテーブル値の数の合計（16385個）の、ほぼ半分の8193個のテーブル値を有する逆量子化テーブルのみを用意すればよいので、処理に必要なメモリ容量をより低減することが可能となる。

また、量子化前の値Ｙは、Ｙ＝Ｘ／２^q/4で与えられるので、式（１）で示される、非線形関数である３／４乗のべき乗関数の演算をすることなく、また、ハッシュテーブルにより、より少ない回数の探索によって量子化値Ｚを決定できるので、より効率良く、かつ、より迅速に非線形な演算の演算結果を出力することが可能となる。

なお、以上においては、逆量子化テーブルに基づく条件文判定と、ハッシュテーブルによる初期探索値の決定とを併用して量子化値Ｚを求めるようにしたが、ハッシュテーブルによる初期探索値の決定のみで量子化値Ｚを求めるようにしてもよい。

また、上述した、逆量子化テーブルに基づく条件文判定と、ハッシュテーブルによる初期探索値の決定とを併用した手法において、条件文に、逆量子化テーブルの逆量子化値を用いるようにしたが、逆量子化値の中間値を用いるようにしてもよい。

図１６は、図１５のプログラム２１１において、条件文に逆量子化値の中間値を用いるようにした場合の処理をＣ言語で記述したプログラムの例を示している。

図１６のプログラム２２１においては、図１５のプログラム２１１における１行目乃至8195行目の逆量子化テーブルW[8193]は省略されている。

また、図１６のプログラム２２１において、図１５のプログラム２１１と異なるのは、７行目乃至23行目の処理において、量子化前の値Y[m]（=uni0.f）が含まれる範囲が決定されると、量子化値Z[m]も決定される点である。このことは、図４で説明した関係において、量子化前の値Ｙの範囲の境界値と、逆量子化値Ｗの中間値Ｖの範囲とはほぼ同一であることによる。

このように、頻度の高い量子化処理により得られる量子化値について、条件文に逆量子化値の中間値を用いて、入力された入力データＸから算出される量子化前の値Ｙに対応する量子化値Ｚを決定することができる。したがって、頻度の高い量子化処理により得られる量子化値については、量子化前の値Y[m]が含まれる範囲W[k]が、Y[m]-W[k-1]≦W[k]-Y[m]であるか否かを判定する必要がないので、より効率良く、かつ、より迅速に非線形な演算を行うことが可能となる。

［固定小数点数での応用例］
以上においては、量子化前の値や逆量子化テーブルの値を、浮動小数点数として扱ってきたが、これらの値を固定小数点数として扱うこともできる。より具体的には、量子化値に対応する逆量子化値の範囲を浮動小数点数で算出し、その浮動小数点数を基に、固定小数点数の整数部分を算出すればよい。

以下に、上述した、浮動小数点数で表現された逆量子化テーブルW[8193]に対して、３２ビットのうちの８ビット目に小数点の位置を設けて、固定小数点数とした場合の、逆量子化テーブルとハッシュテーブルを併用した例について説明する。範囲テーブル値は、小数点の位置が８ビット目なので、256倍して整数部分のみをとることで作成される。

まず、初期探索値決定部１９１におけるハッシュテーブルのindex1およびindex2の算出は、以下の手順で行われる。

すなわち、量子化前の値Ｙにおいて、１がたつ最上位ビットの位置cntを探索し、index1は、式（４）より算出される。

式（４）において、Ｐは、小数点位置を示しており、この場合、Ｐ＝８である。また、式（４）における“２”は、浮動小数点数のハッシュテーブル作成の際に、指数部の基準となった125と、IEEE754の規格で定められているバイアス127との差分である。

また、index2は、式（５）および式（６）で示されるように、量子化前の値Ｙにおいて、１がたつ最上位ビットを０にして、cnt−４分右シフトすることで算出されるものとする。

なお、式（５）における“mask”は、１６進数で「0x40000000」（２進数で「100 0000 0000 0000 0000 0000 0000 0000」（３２ビット））から始まり、量子化前の値Ｙに対して１がたつ最上位ビットまで１ビットずつ右シフト演算されていく。“mask”は、最終的に、量子化前の値Ｙに対して１がたつ最上位ビットを表す値になる。すなわち、式（５）で減算することで、１がたつ最上位ビットを０にしている。式（６）における“>>”は、右シフト演算を表している。

図１７は、図１６で説明した逆量子化テーブルW[8193]における浮動小数点数の値を３２ビットで８ビット目に小数点の位置がある固定小数点数とした場合の例をＣ言語で記述したプログラムの例を示している。

図１７のプログラム２３１において、１行目乃至8195行目のWint[8193]は、固定小数点数化された逆量子化テーブルを示している。

8197行目は、整数型の値yinを定義している。また、8198行目は、入力データの識別子を表すｍを０からdata_size個まで１ずつインクリメントし、以下の処理を繰り返すことを定義している。

8200行目乃至8216行目の処理は、図１２のフローチャートのステップＳ１６２の処理に対応し、３２ビットで８ビット目に小数点の位置がある、固定小数点数化された量子化前の値Y[m]（=yin）が含まれる中間値Ｖの範囲が６回探索され、量子化値Z[m]が決定される。

8219行目乃至8226行目の処理は、上述の式（４）乃至（６）の演算に相当する処理である。

また、8227行目乃至8229行目においては、図１３で説明したハッシュテーブルdequantize_hash[index1][index2]を用いて、量子化前の値Y[m]（=yin）の初期探索値が決定される（ステップＳ１６４の処理）。

さらに、8230行目および8231行目においては、初期探索値ｋと逆量子化テーブルWint[k]とに基づいて、量子化前の値Y[m]（=yin）が含まれる範囲が探索（決定）され、パラメータｋが決定される（ステップＳ１６５の処理）。

そして、8239行目において、8227行目乃至8231行目の処理で決定された量子化前の値Y[m]が含まれる範囲W[k-1]≦Y[m]＜W[k]において、Y[m]-W[k-1]≦W[k]-Y[m]であるときは、量子化値Z[m]＝k-1に決定され、Y[m]-W[k-1]≦W[k]-Y[m]でないときは、量子化値Z[m]＝kに決定される（ステップＳ１６６の処理）。

このように、量子化テーブルを作成することなく、固定小数点数の値からなる逆量子化テーブルと、ハッシュテーブルとを用いた探索によって量子化値を決定できるので、処理に必要なメモリ容量をより低減することが可能となる。

［実行結果］
ここで、図１８を参照して、上述した量子化処理を適用したときのサイクル数について説明する。図１８は、RISC(Reduced Instruction Set Computer) CPUであるMIPS社R4000を用いて、上述した量子化処理をそれぞれ実行したときのサイクル数を示している。

図１８に示されるように、本発明の、逆量子化テーブル（条件文）を用いて量子化処理を実行したときのサイクル数を1.00とすると、条件文とハッシュテーブルとを併用した量子化処理（図１４）を実行したときのサイクル数は、0.70となり、30％の効率改善がされている。また、条件文とハッシュテーブルとを併用した量子化処理（図１６のプログラム２２１）において、条件文に、逆量子化値の中間値を用いたときのサイクル数は、0.45となり、55％の効率改善がされている。

＜３．第３の実施の形態＞
以上においては、逆量子化処理を行うための逆量子化テーブルを用いた量子化処理について説明してきたが、図４で説明した関係に基づいて、量子化処理を行うための量子化テーブルを用いて、逆量子化処理を行うようにすることもできる。

［逆量子化部の構成例］
図１９は、量子化処理を行うための量子化テーブルを用いて、逆量子化処理を行う逆量子化部の構成例を示している。

図１９の逆量子化部２５１は、例えば、図１の量子化部３２による量子化処理における量子化誤差の評価のための逆量子化処理を行う。

図１９の逆量子化部２５１は、量子化テーブル作成部２７１および逆量子化値算出部２７２から構成される。

量子化テーブル作成部２７１は、量子化値Ｚに対応する量子化前の値Ｙの範囲を算出し、量子化値Ｚと量子化前の値Ｙの範囲とを対応付けた量子化テーブル（図２）を作成し、逆量子化値算出部２７２に供給する。より具体的な量子化前の値Ｙの範囲の求め方は、式（７）の量子化前の値Ｙを小さい値から増加させていき、離散値である量子化値Ｚの値が変化したときの量子化前の値Ｙ、すなわち境界となる値を求める。

逆量子化値算出部２７２は、量子化テーブル作成部２７１から供給された量子化テーブルに基づいて、量子化部３２から供給された量子化値Ｚに対応する逆量子化値Ｗを算出して、出力する。

以上の構成により、逆量子化部２５１は、予め作成した量子化テーブルに基づいて、図示せぬ量子化部から入力された量子化値に対応する逆量子化値を算出し、出力する。

［逆量子化部の量子化テーブル作成処理］
次に、図２０のフローチャートを参照して、図１９の逆量子化部２５１の量子化テーブル作成処理について説明する。逆量子化部２５１において、量子化テーブル作成処理は、逆量子化処理を行う前に行われる。

ステップＳ２３１において、量子化テーブル作成部２７１は、量子化値Ｚに対応する量子化前の値Ｙの範囲を算出し、量子化値Ｚと量子化前の値Ｙの範囲とを対応付けた量子化テーブルを作成し、逆量子化値算出部２７２に供給する。より具体的には、量子化テーブル作成部２７１は、式（７）の量子化前の値Ｙを小さい値から増加させていき、離散値である量子化値Ｚの値が変化したときの量子化前の値Ｙ、すなわち境界となる値を求める。すなわち、量子化テーブル作成部２７１は、8193個の量子化値Z[m]（m=０，…，8192）に対応する量子化前の値Y[Z[m]]の範囲を求める。

以上の処理により、逆量子化処理を行う前に、量子化値Ｚと、量子化前の値Ｙの範囲（境界値）とを対応付けた量子化テーブルを作成することができる。

［逆量子化部の逆量子化処理］
次に、図２１のフローチャートを参照して、図２１の逆量子化部２５１の逆量子化処理について説明する。

ステップＳ２６１において、逆量子化値算出部２７２は、量子化テーブル作成部２７１から供給された量子化テーブルを用いて、図示せぬ量子化部から供給された量子化値Ｚに対応する逆量子化値Ｗを算出して、出力する。

ここで、図４において、中間値V[m-1]とV[m]との中間値が逆量子化値W[m]とほぼ同一であるので、その逆量子化値W[m]は、量子化前の値Y[m-1]とY[m]との中間値とほぼ同一であるということができる。例えば、図４において、中間値V[0]=0.50とV[1]=1.76との中間値は1.13となり、逆量子化値W[1]=１と近い値となる。また、図４において、中間値V[1]=1.76とV[2]=3.43との中間値は2.59となり、逆量子化値W[2]=2.52と近い値となる

このことより、逆量子化値算出部２７２は、式（８）で示される計算を行うことにより、量子化値Z[m]に対応する逆量子化値W[m]を算出する。

ステップＳ２６２において、逆量子化値算出部２７２は、data_size個全ての量子化値Ｚに対して、逆量子化値Ｗの算出の処理を終えたか否かを判定する。全ての量子化値Ｚに対して、逆量子化値Ｗの算出の処理を終えていないと判定された場合、処理は、ステップＳ２６２に戻り、data_size個全ての量子化値Ｚに対して処理を終えるまで、ステップＳ２６２，Ｓ２６３を繰り返す。

以上の処理により、量子化値Ｚと量子化前の値Ｙの範囲との関係を示す量子化テーブルを用いて、入力された量子化値Ｚに対応する逆量子化値Ｗを決定できる。したがって、逆量子化テーブルを作成することなく、量子化テーブルと逆量子化テーブルとのテーブル値の数の合計（16385個）の、ほぼ半分の8193個のテーブル値を有する量子化テーブルのみを用意すればよいので、処理に必要なメモリ容量をより低減することが可能となる。

＜４．第４の実施の形態＞
以上においては、AAC規格の量子化処理について説明してきたが、ISO/IEC11172-3にて標準化されているMPEG-1オーディオレイヤ３（MP3）の量子化処理においても、式（１）および式（２）と同様の量子化および逆量子化処理が行われているので、MP3の量子化および逆量子化処理においても、本発明を適用することができる。

また、以上においては、非線形関数としてAAC規格の量子化処理で用いられるべき乗関数を例に説明してきたが、式（９）および式（１０）に示されるように、入力値Ｘに対する所定の関数func(X)と、その逆関数inv_func(Y)との対応関係が明らかであり、いずれか一方の入力値が離散値である場合には、本発明を適用することができる。

さらに、以上においては、逆量子化テーブルを予め算出しておくようにしたが、例えば、処理の最中に、逆量子化テーブルのテーブル値が変化する場合には、適宜、テーブル値を算出し直すことができる。

［演算装置の構成例］
ここで、図２２のブロック図を参照して、入力値Ｘに対して、所定の関数func(X)による演算を施し、離散値Ｙを出力する演算装置について説明する。

図２２の演算装置３５１は、逆変換テーブル作成部３７１および探索変換部３７２から構成される。

逆変換テーブル作成部３７１は、例えば、上述した式（１０）に基づいて、離散値Ｙに対応する逆変換値Ｗを算出し、離散値Ｙと、対応する逆変換値Ｗとを対応付けた逆変換テーブルを作成し、探索変換部３７２に供給する。

探索変換部３７２は、逆変換テーブル作成部３７１から供給された逆変換テーブルに基づいて、入力された入力値Ｘが、逆変換テーブルにおいて隣り合う逆変換値Ｗを境界値とする範囲のうち、いずれの範囲に含まれるかを決定し、その範囲に対応付けられている離散値Ｙを出力する。

探索変換部３７２は、範囲決定部３９１および離散値決定部３９２を備えている。

範囲決定部３９１は、入力値Ｘが入力されたとき、入力値Ｘが、逆変換テーブルにおいて隣り合う逆変換値Ｗを境界値とする範囲のうち、いずれの範囲に含まれるかを決定する。

離散値決定部３９２は、範囲決定部３９１により決定された範囲の境界値としての逆変換値Ｗのうち、入力値Ｘに近い値の逆変換値Ｗに対応付けられている離散値Ｙを決定し、外部の装置に出力する。

以上の構成により、演算装置３５１は、予め作成した逆変換テーブルの逆変換値に基づいて、入力された入力値に対応する離散値を探索し、出力する。

［演算装置の逆変換テーブル作成処理］
次に、図２３のフローチャートを参照して、図２２の演算装置３５１の逆変換テーブル作成処理について説明する。演算装置３５１において、逆変換テーブル作成処理は、離散値探索処理を行う前に行われる。

ステップＳ３３１において、逆変換テーブル作成部３７１は、例えば、上述した式（１０）に基づいて、離散値Ｙに対応する逆変換値Ｗを算出し、離散値Ｙと、対応する逆変換値Ｗとを対応付けた逆変換テーブルを作成し、探索変換部３７２に供給する。

以上の処理により、離散値変換処理を行う前に、逆変換値と離散値とを対応付けた逆変換テーブルを作成することができる。

［演算装置の離散値探索処理］
次に、図２４のフローチャートを参照して、図２２の演算装置３５１の離散値探索処理について説明する。

ステップＳ３６１において、範囲決定部３９１は、入力値Ｘが、逆変換テーブルにおいて隣り合う逆変換値Ｗを境界値とする範囲のうち、いずれの範囲に含まれるかを決定する。

ステップＳ３６２において、離散値決定部３９２は、範囲決定部３９１により決定された範囲の境界値としての逆変換値Ｗのうち、入力値Ｘに近い値の逆変換値Ｗに対応付けられている離散値Ｙを決定し、外部の装置に出力する。

ステップＳ３６３において、探索変換部３７２は、全ての入力値Ｘに対して、離散値Ｙの決定の処理を終えたか否かを判定する。全ての入力値Ｘに対して、離散値Ｙの決定の処理を終えていないと判定された場合、処理は、ステップＳ３６１に戻り、全ての入力値Ｘに対して処理を終えるまで、ステップＳ３６１乃至Ｓ３６３を繰り返す。

以上の処理により、離散値Ｙと逆変換値Ｗの関係を示す逆変換テーブルを用いて、入力された入力値Ｘに対応する離散値Ｙを決定できる。すなわち、入力値Ｘと離散値Ｙの関係を示す変換テーブルを作成することなく、逆変換テーブルのみを用意すればよいので、処理に必要なメモリ容量をより低減することが可能となる。

なお、図２２の演算装置３５１は、１つの入力値Ｘに対して、その入力値Ｘに対応する離散値Ｙとその逆変換値Ｗとが対応付けられた、１つの逆変換テーブルを有するようにしたが、入力値の種類毎に、それぞれ対応する離散値とその逆変換値とが対応付けられた、複数の逆変換テーブルを有するようにしてもよい。すなわち、演算装置３５１は、入力値の種類を示す情報やアドレス等に応じて、対応する逆変換テーブルを読み出し、読み出した逆変換テーブルを用いて、その入力値に対応する離散値を出力することができる。

これにより、複数種類の入力値に対して、それぞれの離散値を出力する場合であっても、入力値の種類に応じた逆変換テーブルを読み出すことによって、１つの演算装置のみで複数種類の離散値を出力することができる。

上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等に、プログラム記録媒体からインストールされる。

図２５は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。

コンピュータにおいて、CPU（Central Processing Unit）９０１，ROM（Read Only Memory）９０２，RAM（Random Access Memory）９０３は、バス９０４により相互に接続されている。

バス９０４には、さらに、入出力インタフェース９０５が接続されている。入出力インタフェース９０５には、キーボード、マウス、マイクロホン等よりなる入力部９０６、ディスプレイ、スピーカ等よりなる出力部９０７、ハードディスクや不揮発性のメモリ等よりなる記憶部９０８、ネットワークインタフェース等よりなる通信部９０９、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等のリムーバブルメディア９１１を駆動するドライブ９１０が接続されている。

以上のように構成されるコンピュータでは、CPU９０１が、例えば、記憶部９０８に記憶されているプログラムを、入出力インタフェース９０５およびバス９０４を介して、RAM９０３にロードして実行することにより、上述した一連の処理が行われる。

コンピュータ（CPU９０１）が実行するプログラムは、例えば、磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等）、光磁気ディスク、もしくは半導体メモリ等よりなるパッケージメディアであるリムーバブルメディア９１１に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。

そして、プログラムは、リムーバブルメディア９１１をドライブ９１０に装着することにより、入出力インタフェース９０５を介して、記憶部９０８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部９０９で受信し、記憶部９０８にインストールすることができる。その他、プログラムは、ROM９０２や記憶部９０８に、あらかじめインストールしておくことができる。

なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。

また、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。

本発明を適用したオーディオ符号化装置の一実施の形態の構成例を示すブロック図である。量子化テーブルの例を示す図である。逆量子化テーブルの例を示す図である。量子化前の値、量子化値、および逆量子化値の関係について説明する図である。図１のオーディオ符号化装置における量子化部の構成例を示すブロック図である。図５の量子化部の逆量子化テーブル作成処理について説明するフローチャートである。図５の量子化部の量子化処理について説明するフローチャートである。図７のフローチャートのステップＳ６２およびＳ６３における処理をＣ言語で記述したプログラムの例を示す図である。量子化値に対する量子化処理の頻度について説明する図である。量子化部の他の構成例を示すブロック図である。図１０の量子化部のハッシュテーブル作成処理について説明するフローチャートである。浮動小数点型のデータについて説明する図である。ハッシュテーブルをＣ言語で記述した例を示す図である。図１０の量子化部の量子化処理について説明するフローチャートである。図１４のフローチャートのステップＳ１７２乃至Ｓ１７８における処理をＣ言語で記述したプログラムの例を示す図である。図１５のプログラムにおいて、条件文に逆量子化値の中間値を用いるようにした場合の処理をＣ言語で記述したプログラムの例を示す図である。図１６のプログラムの例において浮動小数点数を固定小数点数とした場合の例をＣ言語で記述したプログラムの例を示す図である。量子化処理を適用したときのサイクル数について説明する図である。量子化テーブルを用いて逆量子化処理を行う逆量子化部の構成例を示すブロック図である。図１９の逆量子化部の量子化テーブル作成処理について説明するフローチャートである。図１９の逆量子化部の逆量子化処理について説明するフローチャートである。本発明を適用した演算装置の一実施の形態の構成例を示すブロック図である。図２２の演算装置の逆変換テーブル作成処理について説明するフローチャートである。図２２の演算装置の離散値探索処理について説明するフローチャートである。パーソナルコンピュータの構成例を示すブロック図である。

符号の説明

３２量子化部，７１逆量子化テーブル作成部，７２探索量子化部，９１範囲決定部，９２量子化値決定部，１５１量子化部，１７１ハッシュテーブル作成部，１７２探索量子化部，１９１初期探索値決定部，１９２範囲決定部，１９３量子化値決定部，２５１逆量子化部，２７１量子化テーブル作成部，２７２逆量子化値算出部，３５１演算装置，３７１逆変換テーブル作成部，３７２探索変換部，３９１範囲決定部，３９２離散値決定部

Claims

所定のデータに所定の変換を施して得られる離散値と、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値とを対応付けた逆変換テーブルを作成する逆変換テーブル作成手段と、
前記所定のデータが入力されたとき、前記所定のデータが、前記逆変換テーブルにおいて隣り合う前記逆変換値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定手段と、
前記範囲決定手段により決定された前記範囲の境界値としての前記逆変換値のうち、前記所定のデータに近い値の前記逆変換値に対応付けられている前記離散値を決定する離散値決定手段と
を備える演算装置。
前記逆変換テーブルに基づいて、ハッシュテーブルを作成するハッシュテーブル作成手段をさらに備え、
前記範囲決定手段は、少なくとも１つの前記範囲を、前記ハッシュテーブルに基づいて、前記逆変換テーブルにおける前記範囲の初期探索値を決定し、前記初期探索値に基づいて、前記逆変換テーブルにおいて、前記所定のデータがいずれの範囲に含まれるかを決定する
請求項１に記載の演算装置。
前記ハッシュテーブル作成手段は、前記逆変換テーブルにおける前記範囲の境界値としての前記逆変換値の指数部と仮数部の少なくともいずれか１つを用いて、前記ハッシュテーブルを作成する
請求項２に記載の演算装置。
前記範囲決定手段は、前記所定のデータが入力されたとき、前記逆変換テーブルにおいて、入力された前記所定のデータが含まれる前記範囲を二分探索する
請求項１に記載の演算装置。
所定のデータに所定の変換を施して得られる離散値と、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値とを対応付けた逆変換テーブルを作成する逆変換テーブル作成ステップと、
前記所定のデータが入力されたとき、前記所定のデータが、前記逆変換テーブルにおいて隣り合う前記逆変換値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定ステップと、
前記範囲決定ステップにおいて決定された前記範囲の境界値としての前記逆変換値のうち、前記所定のデータに近い値の前記逆変換値に対応付けられている前記離散値を決定する離散値決定ステップと
を含む演算方法。
所定のデータに所定の変換を施して得られる離散値と、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値とを対応付けた逆変換テーブルを作成する逆変換テーブル作成ステップと、
前記所定のデータが入力されたとき、前記所定のデータが、前記逆変換テーブルにおいて隣り合う前記逆変換値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定ステップと、
前記範囲決定ステップにおいて決定された前記範囲の境界値としての前記逆変換値のうち、前記所定のデータに近い値の前記逆変換値に対応付けられている前記離散値を決定する離散値決定ステップと
を含む処理をコンピュータに実行させるプログラム。
所定のデータを量子化して得られる量子化値と、前記量子化値を逆量子化して得られる逆量子化値とを対応付けた逆量子化テーブルを作成する逆量子化テーブル作成手段と、
前記所定のデータが入力されたとき、前記所定のデータが、前記逆量子化テーブルにおいて隣り合う前記逆量子化値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定手段と、
前記範囲決定手段により決定された前記範囲の境界値としての前記逆量子化値のうち、前記所定のデータに近い値の前記逆量子化値に対応付けられている前記量子化値を決定する量子化値決定手段と
を備える量子化装置。
所定のデータを量子化して得られる量子化値と、前記量子化値を逆量子化して得られる逆量子化値とを対応付けた逆量子化テーブルを作成する逆量子化テーブル作成ステップと、
前記所定のデータが入力されたとき、前記所定のデータが、前記逆量子化テーブルにおいて隣り合う前記逆量子化値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定ステップと、
前記範囲決定ステップにより決定された前記範囲の境界値としての前記逆量子化値のうち、前記所定のデータに近い値の前記逆量子化値に対応付けられている前記量子化値を決定する量子化値決定ステップと
を含む量子化方法。
所定のデータを量子化して得られる量子化値と、前記量子化値を逆量子化して得られる逆量子化値とを対応付けた逆量子化テーブルを作成する逆量子化テーブル作成ステップと、
前記所定のデータが入力されたとき、前記所定のデータが、前記逆量子化テーブルにおいて隣り合う前記逆量子化値を境界値とする範囲のうち、いずれの範囲に含まれるかを決定する範囲決定ステップと、
前記範囲決定ステップにより決定された前記範囲の境界値としての前記逆量子化値のうち、前記所定のデータに近い値の前記逆量子化値に対応付けられている前記量子化値を決定する量子化値決定ステップと
を含む処理をコンピュータに実行させるプログラム。
所定のデータに所定の変換を施して得られる離散値と、前記離散値が取り得る所定のデータの範囲とを対応付けた変換テーブルを作成する変換テーブル作成手段と、
前記離散値が入力されたとき、前記変換テーブルにおいて、入力された前記離散値に対応する前記変換テーブルのデータから、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値を算出する算出手段と
を備える演算装置。
所定のデータに所定の変換を施して得られる離散値と、前記離散値が取り得る所定のデータの範囲とを対応付けた変換テーブルを作成する変換テーブル作成ステップと、
前記離散値が入力されたとき、前記変換テーブルにおいて、入力された前記離散値に対応する前記変換テーブルのデータから、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値を算出する算出ステップと
を含む演算方法。
所定のデータに所定の変換を施して得られる離散値と、前記離散値が取り得る所定のデータの範囲とを対応付けた変換テーブルを作成する変換テーブル作成ステップと、
前記離散値が入力されたとき、前記変換テーブルにおいて、入力された前記離散値に対応する前記変換テーブルのデータから、前記離散値に前記所定の変換の逆変換を施して得られる逆変換値を算出する算出ステップと
を含む処理をコンピュータに実行させるプログラム。
所定のデータを量子化して得られる量子化値と、前記量子化値が取り得る所定のデータの範囲とを対応付けた量子化テーブルを作成する量子化テーブル作成手段と、
前記量子化値が入力されたとき、前記量子化テーブルにおいて、入力された前記量子化値に対応する前記量子化テーブルのデータから、前記量子化値を逆量子化して得られる逆量子化値を算出する算出手段と
を備える逆量子化装置。
所定のデータを量子化して得られる量子化値と、前記量子化値が取り得る所定のデータの範囲とを対応付けた量子化テーブルを作成する量子化テーブル作成ステップと、
前記量子化値が入力されたとき、前記量子化テーブルにおいて、入力された前記量子化値に対応する前記量子化テーブルのデータから、前記量子化値を逆量子化して得られる逆量子化値を算出する算出ステップと
を含む逆量子化方法。
所定のデータを量子化して得られる量子化値と、前記量子化値が取り得る所定のデータの範囲とを対応付けた量子化テーブルを作成する量子化テーブル作成ステップと、
前記量子化値が入力されたとき、前記量子化テーブルにおいて、入力された前記量子化値に対応する前記量子化テーブルのデータから、前記量子化値を逆量子化して得られる逆量子化値を算出する算出ステップと
を含む処理をコンピュータに実行させるプログラム。