[go: up one dir, main page]

JP2018533058A - ビットバジェットに応じて２サブフレームモデルと４サブフレームモデルとの間で選択を行うステレオ音声信号の左チャンネルおよび右チャンネルを符号化するための方法およびシステム - Google Patents

ビットバジェットに応じて２サブフレームモデルと４サブフレームモデルとの間で選択を行うステレオ音声信号の左チャンネルおよび右チャンネルを符号化するための方法およびシステム Download PDF

Info

Publication number
JP2018533058A
JP2018533058A JP2018515518A JP2018515518A JP2018533058A JP 2018533058 A JP2018533058 A JP 2018533058A JP 2018515518 A JP2018515518 A JP 2018515518A JP 2018515518 A JP2018515518 A JP 2018515518A JP 2018533058 A JP2018533058 A JP 2018533058A
Authority
JP
Japan
Prior art keywords
channel
encoding
primary
secondary channel
bit budget
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018515518A
Other languages
English (en)
Other versions
JP6976934B2 (ja
Inventor
トミー・ヴァイヤンクール
ミラン・ジェリネク
Original Assignee
ヴォイスエイジ・コーポレーション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ヴォイスエイジ・コーポレーション filed Critical ヴォイスエイジ・コーポレーション
Publication of JP2018533058A publication Critical patent/JP2018533058A/ja
Priority to JP2021182560A priority Critical patent/JP7244609B2/ja
Application granted granted Critical
Publication of JP6976934B2 publication Critical patent/JP6976934B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008—Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/002—Dynamic bit allocation
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/032—Quantisation or dequantisation of spectral components
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/06—Determination or coding of the spectral characteristics, e.g. of the short-term prediction coefficients
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/08—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters
    • G10L19/09—Long term prediction, i.e. removing periodical redundancies, e.g. by using adaptive codebook or pitch predictor
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/08—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters
    • G10L19/12—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters the excitation function being a code excitation, e.g. in code excited linear prediction [CELP] vocoders
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16—Vocoder architecture
    • G10L19/18—Vocoders using multiple modes
    • G10L19/24—Variable rate codecs, e.g. for generating different qualities using a scalable representation such as hierarchical encoding or layered encoding
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/26—Pre-filtering or post-filtering
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/06—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being correlation coefficients
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/21—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being power information
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S1/00—Two-channel systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S1/00—Two-channel systems
    • H04S1/007—Two-channel systems in which the audio signals are in digital form
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/01—Multi-channel, i.e. more than two input channels, sound reproduction with two speakers wherein the multi-channel information is substantially preserved
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/03—Aspects of down-mixing multi-channel audio to configurations with lower numbers of playback channels, e.g. 7.1 -> 5.1

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Quality & Reliability (AREA)
  • Stereophonic System (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Stereo-Broadcasting Methods (AREA)
  • Transmission Systems Not Characterized By The Medium Used For Transmission (AREA)

Abstract

ステレオ音声信号の左チャンネルおよび右チャンネルを符号化するためのステレオ音声符号化方法およびシステムは、プライマリチャンネルおよびセカンダリチャンネルを生成するためにステレオ音声信号の左チャンネルおよび右チャンネルをダウンミックスし、プライマリチャンネルおよびセカンダリチャンネルを符号化する。プライマリチャンネルを符号化し、セカンダリチャンネルを符号化することは、プライマリチャンネルを符号化するための第1のビットバジェットおよびセカンダリチャンネルを符号化するための第2のビットバジェットを決定することを含む。第2のビットバジェットが十分である場合、セカンダリチャンネルは、4サブフレームモデルを使用して符号化され、第2のビットバジェットが4サブフレームモデルを使用するのに不十分である場合、セカンダリチャンネルは、2サブフレームモデルを使用して符号化される。

Description

本開示は、ステレオ音声の符号化に関し、これに限らないが特に、複雑なオーディオシーンにおいて良好なステレオ品質を低ビットレートおよび低遅延で生成することができるステレオスピーチおよび/またはオーディオ符号化に関する。
従来の会話用の電話技術は、ユーザの片耳にのみ音声を出力するために1つのトランスデューサのみを有するハンドセットによって実装されてきた。ここ10年間に、ユーザは、それらのユーザの可搬型のハンドセットを、主に音楽を聴き、ときどきスピーチも聞くためにユーザの両耳で音声を聞くヘッドフォンと併せて使用し始めた。それにもかかわらず、可搬型のハンドセットが会話のスピーチを送受信するために使用されるとき、内容は、未だにモノラルであるが、ヘッドフォンが使用されるときにはユーザの両耳に与えられる。
すべての内容が参照により本明細書に組み込まれる参考文献[1]に記載の最新の3GPPスピーチコーディング規格により、可搬型のハンドセットを通じて送受信されるコーディングされた音声、たとえば、スピーチおよび/またはオーディオの品質が著しく改善されていた。次の自然なステップは、受信機が通信リンクの反対側で捕捉される実際のオーディオシーンに可能な限り近づくようにステレオ情報を送信することである。
たとえば、すべての内容が参照により本明細書に組み込まれる参考文献[2]に記載のオーディオコーデックにおいては、通常、ステレオ情報の送信が使用される。
会話のスピーチのコーデックに関しては、モノラル信号が規範である。ステレオ信号が送信されるときは、左チャンネルと右チャンネルとの両方がモノラルコーデックを使用してコーディングされるので、ビットレートを倍にする必要があることが多い。これはほとんどの筋書きでは上手く機能するが、ビットレートを倍にし、2つのチャンネル(左チャンネルおよび右チャンネル)の間のいかなる潜在的な冗長性も利用することができないという欠点を呈する。さらに、全体のビットレートを妥当なレベルに保つために、各チャンネルに関して非常に低いビットレートが使用され、したがって、全体的な音声品質に影響を与える。
可能な代替的な手法は、すべての内容が参照により本明細書に組み込まれる参考文献[6]に記載のいわゆるパラメトリックステレオ(parametric stereo)を使用することである。パラメトリックステレオは、たとえば、両耳間時間差(ITD)または両耳間強度差(IID)などの情報を送信する。後者の情報は、周波数帯域毎に送信され、低ビットレートでは、ステレオ送信に関連するビットバジェット(bit budget)は、これらのパラメータが効率的に機能することを可能にするほど十分には大きくない。
パニング因子(panning factor)を送信することが、基本的なステレオ効果を低ビットレートで生成するのに役立つ可能性があるが、そのような技術は、雰囲気を保つためにまったく役立たず、固有の限界を呈する。パニング因子の速すぎる適応は、聞き手の邪魔になり、一方、パニング因子の遅すぎる適応は、発話者の実際の位置を反映せず、そのことは、邪魔をする話者がいる場合にまたは背景雑音の変動が重大であるときに良い品質を得ることを難しくする。現在、すべてのあり得るオーディオシーンに関して素晴らしい品質で会話のステレオスピーチを符号化することは、広帯域(WB)信号に関して約24kb/sの最小ビットレートを必要とし、そのビットレート未満では、スピーチの品質は、損なわれ始める。
労働力のグローバル化および作業チームの全世界への分散がますます進んでいることにより、通信の改善のニーズが存在する。たとえば、遠隔会議の参加者は、異なる遠く離れた場所にいる可能性がある。一部の参加者は、それらの参加者の自動車の中にいる可能性があり、その他の参加者は、大きな無響室の中にいる可能性があり、またはそれらの参加者のリビングルームの中にいる可能性さえある。実際、すべての参加者は、それらの参加者が対面で議論しているかのように感じたいと望む。可搬型のデバイスにステレオスピーチ、より広くステレオ音声を実装することは、これに向けた大きなステップである。
米国特許第８５７７０４５号明細書
3GPP TS 26.445, v.12.0.0，「Codec for Enhanced Voice Services (EVS); Detailed Algorithmic Description」，2014年9月 M. Neuendorf, M. Multrus, N. Rettelbach, G. Fuchs, J. Robillard, J. Lecompte, S. Wilde, S. Bayer, S. Disch, C. Helmrich, R. Lefevbre, P. Gournayら，「The ISO/MPEG Unified Speech and Audio Coding Standard - Consistent High Quality for All Content Types and at All Bit Rates」，J. Audio Eng. Soc.，第61巻，第12号，956〜977頁，2013年12月 B. Bessette, R. Salami, R. Lefebvre, M. Jelinek, J. Rotola-Pukkila, J. Vainio, H. Mikkola, およびK. Jarvinen，「The Adaptive Multi-Rate Wideband Speech Codec (AMR-WB)」，Special Issue of IEEE Trans. Speech and Audio Proc.，第10巻，620〜636頁，2002年11月 R.G. van der WaalおよびR.N.J. Veldhuis，「Subband coding of stereophonic digital audio signals」，Proc. IEEE ICASSP，第5巻，3601〜3604頁，1991年4月 Dai Yang, Hongmei Ai, Chris Kyriakakis, およびC.-C. Jay Kuo，「High-Fidelity Multichannel Audio Coding With Karhunen-Loeve Transform」，IEEE Trans. Speech and Audio Proc.，第11巻，第4号，365〜379頁，2003年7月 J. Breebaart, S. van de Par, A. Kohlrausch, およびE. Schuijers，「Parametric Coding of Stereo Audio」，EURASIP Journal on Applied Signal Processing，第9号，1305〜1322頁，2005年 3GPP TS 26.290 V9.0.0，「Extended Adaptive Multi-Rate - Wideband (AMR-WB+) codec; Transcoding functions (Release 9)」，2009年9月
第1の態様によれば、本開示は、ステレオ音声信号の左チャンネルおよび右チャンネルを符号化するためのステレオ音声符号化方法に関し、この方法は、プライマリチャンネルおよびセカンダリチャンネルを生成するためにステレオ音声信号の左チャンネルおよび右チャンネルをダウンミックスするステップと、プライマリチャンネルを符号化し、セカンダリチャンネルを符号化するステップとを含む。プライマリチャンネルを符号化し、セカンダリチャンネルを符号化するステップは、プライマリチャンネルを符号化するための第1のビットバジェットおよびセカンダリチャンネルを符号化するための第2のビットバジェットを決定するステップを含む。第2のビットバジェットが十分である場合、セカンダリチャンネルは、4サブフレームモデルを使用して符号化される。第2のビットバジェットが4サブフレームモデルを使用するのに不十分である場合、セカンダリチャンネルは、2サブフレームモデルを使用して符号化される。
第2の態様によれば、ステレオ音声信号の左チャンネルおよび右チャンネルを符号化するためのステレオ音声符号化システムが提供され、このシステムは、プライマリチャンネルおよびセカンダリチャンネルを生成するためのステレオ音声信号の左チャンネルおよび右チャンネルのダウンミキサと、プライマリチャンネルのエンコーダおよびセカンダリチャンネルのエンコーダと、プライマリチャンネルを符号化するための第1のビットバジェットおよびセカンダリチャンネルを符号化するための第2のビットバジェットのビット割り当て推定器と、第2のビットバジェットが十分である場合、4サブフレームモデルを使用するセカンダリチャンネルの符号化を選択し、第2のビットバジェットが4サブフレームモデルを使用するのに不十分である場合、2サブフレームモデルを使用するセカンダリチャンネルの符号化を選択するための判断モジュールとを含む。
第3の態様によれば、ステレオ音声信号の左チャンネルおよび右チャンネルを符号化するためのステレオ音声符号化システムが提供され、このシステムは、少なくとも1つのプロセッサと、プロセッサに接続された、非一時的命令を含むメモリとを含み、この命令は、実行されるときにプロセッサに、プライマリチャンネルおよびセカンダリチャンネルを生成するためのステレオ音声信号の左チャンネルおよび右チャンネルのダウンミキサと、プライマリチャンネルのエンコーダおよびセカンダリチャンネルのエンコーダと、プライマリチャンネルを符号化するための第1のビットバジェットおよびセカンダリチャンネルを符号化するための第2のビットバジェットのビット割り当て推定器と、第2のビットバジェットが十分である場合、4サブフレームモデルを使用するセカンダリチャンネルの符号化を選択し、第2のビットバジェットが4サブフレームモデルを使用するのに不十分である場合、2サブフレームモデルを使用するセカンダリチャンネルの符号化を選択するための判断モジュールとを実施させる。
さらなる態様は、ステレオ音声信号の左チャンネルおよび右チャンネルを符号化するためのステレオ音声符号化システムに関し、このシステムは、少なくとも1つのプロセッサと、プロセッサに接続された、非一時的命令を含むメモリとを含み、この命令は、実行されるときにプロセッサに、プライマリチャンネルおよびセカンダリチャンネルを生成するためにステレオ音声信号の左チャンネルおよび右チャンネルをダウンミックスすることと、プライマリチャンネルを符号化し、セカンダリチャンネルを符号化することと、プライマリチャンネルを符号化するための第1のビットバジェットおよびセカンダリチャンネルを符号化するための第2のビットバジェットを推定することと、第2のビットバジェットが十分である場合、4サブフレームモデルを使用するセカンダリチャンネルの符号化を選択し、第2のビットバジェットが4サブフレームモデルを使用するのに不十分である場合、2サブフレームモデルを使用するセカンダリチャンネルの符号化を選択することとを行わせる。
本開示は、さらに、実行されるときにプロセッサに上述の方法の動作を実施させる非一時的命令を含むプロセッサ可読メモリに関する。
ステレオ音声信号の左チャンネルおよび右チャンネルを符号化するためのステレオ音声符号化方法およびシステムの上述のおよびその他の目的、利点、および特徴は、添付の図面を参照して例としてのみ与えられるそのステレオ音声符号化方法およびシステムの例示的な実施形態の以下の非限定的な説明を読むとより明らかになるであろう。
下の説明において開示されるステレオ音声符号化方法およびシステムの実装のあり得る文脈を示すステレオ音声処理および通信システムの概略ブロック図である。 統合されたステレオ設計として提示される第1のモデルによるステレオ音声符号化方法およびシステムを同時に示すブロック図である。 組み込み型のモデルとして提示される第2のモデルによるステレオ音声符号化方法およびシステムを同時に示すブロック図である。 図2および図3のステレオ音声符号化方法の時間領域ダウンミックス動作の下位動作ならびに図2および図3のステレオ音声符号化システムのチャンネルミキサのモジュールを同時に示すブロック図である。 線形化された長期相関差(long-term correlation difference)が因子βおよびエネルギー正規化因子(energy normalization factor)εにどのようにマッピングされるかを示すグラフである。 フレーム全体にわたってpca/klt方式を使用することと、「余弦」マッピング関数を使用することとの間の違いを示す複数曲線のグラフである。 背景にオフィスの雑音がある小さな反響のある部屋の中でバイノーラル式のマイクロフォンセットアップを使用して記録されたステレオサンプルに時間領域ダウンミックスを適用した結果として得られるプライマリチャンネル、セカンダリチャンネル、ならびにこれらのプライマリチャンネルおよびセカンダリチャンネルのスペクトルを示す複数曲線のグラフである。 ステレオ音声信号のプライマリYチャンネルとセカンダリXチャンネルとの両方の符号化の最適化の可能な実装によるステレオ音声符号化方法およびシステムを同時に示すブロック図である。 図8のステレオ音声符号化方法およびシステムのLPフィルタのコヒーレンス分析動作および対応するLPフィルタのコヒーレンスアナライザを示すブロック図である。 ステレオ音声復号方法およびステレオ音声復号システムを同時に示すブロック図である。 図10のステレオ音声復号方法およびシステムのさらなる特徴を示すブロック図である。 本開示のステレオ音声符号化システムおよびステレオ音声デコーダを形成するハードウェア構成要素の例示的な構成の簡略化されたブロック図である。 事前適応因子(pre-adaptation factor)を使用してステレオ音像の安定性を高める図2および図3のステレオ音声符号化方法の時間領域ダウンミックス動作の下位動作ならびに図2および図3のステレオ音声符号化システムのチャンネルミキサのモジュールのその他の実施形態を同時に示すブロック図である。 時間遅延補正(temporal delay correction)の動作および時間遅延補正器のモジュールを同時に示すブロック図である。 代替的なステレオ音声符号化方法およびシステムを同時に示すブロック図である。 ピッチのコヒーレンス分析の下位動作およびピッチコヒーレンスアナライザのモジュールを同時に示すブロック図である。 時間領域および周波数領域において動作可能である時間領域ダウンミックスを使用するステレオ符号化方法およびシステムを同時に示すブロック図である。 時間領域および周波数領域において動作可能である時間領域ダウンミックスを使用するその他のステレオ符号化方法およびシステムを同時に示すブロック図である。
本開示は、これに限らないが特に複雑なオーディオシーンからのステレオ音声の内容、たとえば、スピーチおよび/またはオーディオの内容の現実感のある表現の、低ビットレートおよび低遅延の生成および送信に関する。複雑なオーディオシーンは、(a)マイクロフォンによって記録される音声信号の間の相関が低く、(b)背景雑音の重大な変動があり、および/または(c)邪魔をする話者が存在する状況を含む。複雑なオーディオシーンの例は、A/Bマイクロフォン構成を備えた大きな無反響会議室、バイノーラル式のマイクロフォンを備えた小さな反響のある部屋、およびモノラル/サイドマイクロフォンセットアップ(mono/side microphones set-up)を備えた小さな反響のある部屋を含む。これらすべての部屋の構成は、変動する背景雑音および/または邪魔をする話者を含み得る。
すべての内容が参照により本明細書に組み込まれる参考文献[7]に記載の3GPP AMR-WB+などの知られているステレオ音声コーデックは、特に低ビットレートでモノラルモデルに近くない音声をコーディングするには不十分である。特定の場合は、既存のステレオ技術を使用して符号化するのが特に難しい。そのような場合は、以下を含む。
- LAAB(A/Bマイクロフォンセットアップを備えた大きな無響室)
- SEBI(バイノーラル式のマイクロフォンセットアップを備えた小さな反響のある部屋)、および
- SEMS(モノラル/サイドマイクロフォンセットアップを備えた小さな反響のある部屋)
変動する背景雑音および/または邪魔をする話者を追加することは、これらの音声信号をパラメトリックステレオなどのステレオ専用技術を使用して低ビットレートで符号化することをさらに難しくする。そのような信号を符号化するための頼みの綱は、2つのモノラルチャンネルを使用し、したがって、使用されているビットレートおよびネットワーク帯域幅を倍にすることである。
最新の3GPP EVSの会話のスピーチ規格は、広帯域(WB)の動作のための7.2kb/sから96kb/sまでおよび超広帯域(SWB)の動作のための9.6kb/sから96kb/sまでのビットレートの範囲を提供する。これは、EVSを使用する3つの最も低いデュアルモノラルビットレートは、WBの動作のために14.4、16.0、および19.2kb/sであり、SWBの動作のために19.2、26.3、および32.8kb/sである。すべての内容が参照により本明細書に組み込まれる参考文献[3]に記載の展開された3GPP AMR-WBのスピーチの品質はその以前のコーデックよりも高くなるが、雑音の多い環境内の7.2kb/sにおけるコーディングされたスピーチの品質は、明瞭とはほど遠く、したがって、14.4kb/sにおけるデュアルモノラルのスピーチの品質も制限されることが予測され得る。そのような低いビットレートにおいては、最良の可能なスピーチの品質が可能な限り多く得られるように、ビットレートの使用が最大化される。下の説明において開示されるステレオ音声符号化方法およびシステムによって、会話のステレオスピーチの内容のための最小限の総ビットレートは、複雑なオーディオシーンの場合でさえも、WBのために約13kb/sであり、SWBのために約15.0kb/sであるはずである。デュアルモノラルの手法で使用されるビットレート未満であるビットレートにおいて、ステレオスピーチの品質および明瞭度は、複雑なオーディオシーンに関して大きく改善される。
図1は、下の説明において開示されるステレオ音声符号化方法およびシステムの実装のあり得る文脈を示すステレオ音声処理および通信システム100の概略ブロック図である。
図1のステレオ音声処理および通信システム100は、通信リンク101を介したステレオ音声信号の送信をサポートする。通信リンク101は、たとえば、有線または光ファイバリンクを含む可能性がある。代替的に、通信リンク101は、少なくとも部分的に無線周波数リンクを含む可能性がある。無線周波数リンクは、セルラー電話技術によって発見され得るような共有された帯域幅リソースを必要とする複数の同時通信をサポートすることが多い。示されていないが、通信リンク101は、後で再生するために符号化されたステレオ音声信号を記録し、記憶する処理および通信システム100の単一デバイス実装のストレージデバイスによって置き換えられ得る。
引き続き図1を参照すると、たとえば、マイクロフォン102および122の対が、たとえば、複雑なオーディオシーン内で検出された元のアナログステレオ音声信号の左103チャンネルおよび右123チャンネルを生成する。上述の説明に示されるように、音声信号は、これに限らないが特にスピーチおよび/またはオーディオを含み得る。マイクロフォン102および122は、A/B、バイノーラル、またはモノラル/サイドセットアップによって配置され得る。
元のアナログ音声信号の左103チャンネルおよび右123チャンネルは、それらを元のデジタルステレオ信号の左105チャンネルおよび右125チャンネルに変換するためにアナログ-デジタル(A/D)コンバータ104に供給される。元のデジタルステレオ音声信号の左105チャンネルおよび右125チャンネルは、ストレージデバイス(図示せず)に記録され、そこから供給される可能性もある。
ステレオ音声エンコーダ106は、デジタルステレオ音声信号の左105チャンネルおよび右125チャンネルを符号化し、それによって、任意の誤り訂正エンコーダ108に配信されるビットストリーム107の形態の下で多重化される1組の符号化パラメータを生成する。任意の誤り訂正エンコーダ108は、存在するとき、結果として得られるビットストリーム111を通信リンク101上で送信する前にビットストリーム107内の符号化パラメータのバイナリ表現に冗長性を加える。
受信機側では、任意の誤り訂正デコーダ109は、受信されたデジタルビットストリーム111内の上述の冗長な情報を利用して、通信リンク101上での送信中に発生した可能性がある誤りを検出し、訂正し、受信された符号化パラメータを伴うビットストリーム112を生成する。ステレオ音声デコーダ110は、デジタルステレオ音声信号の合成された左113チャンネルおよび右133チャンネルを生成するためにビットストリーム112内の受信された符号化パラメータを変換する。ステレオ音声デコーダ110内で再構築されたデジタルステレオ音声信号の左113チャンネルおよび右133チャンネルは、デジタル-アナログ(D/A)コンバータ115においてアナログステレオ音声信号の合成された左114チャンネルおよび右134チャンネルに変換される。
アナログステレオ音声信号の合成された左114チャンネルおよび右134チャンネルは、それぞれ、ラウドスピーカユニット116および136の対において再生される。代替的に、ステレオ音声デコーダ110からのデジタルステレオ音声信号の左113チャンネルおよび右133チャンネルはストレージデバイス(図示せず)に供給され、記録される可能性もある。
図1の元のデジタルステレオ音声信号の左105チャンネルおよび右125チャンネルは、図2、図3、図4、図8、図9、図13、図14、図15、図17、および図18の左Lチャンネルおよび右Rチャンネルに対応する。また、図1のステレオ音声エンコーダ106は、図2、図3、図8、図15、図17、および図18のステレオ音声符号化システムに対応する。
本開示によるステレオ音声符号化方法およびシステムは、2つの部分からなり、第1のモデルおよび第2のモデルが、提供される。
図2は、EVSコアに基づく統合されたステレオ設計として提示される第1のモデルによるステレオ音声符号化方法およびシステムを同時に示すブロック図である。
図2を参照すると、第1のモデルによるステレオ音声符号化方法は、時間領域ダウンミックス動作201、プライマリチャンネル符号化動作202、セカンダリチャンネル符号化動作203、および多重化動作204を含む。
時間領域ダウンミックス動作201を実行するために、チャンネルミキサ251は、2つのステレオチャンネル(右チャンネルRおよび左チャンネルL)をミックスしてプライマリチャンネルYおよびセカンダリチャンネルXを生成する。
セカンダリチャンネル符号化動作203を実行するために、セカンダリチャンネルのエンコーダ253は、最小限の数のビット(最小ビットレート)を選択し、使用して、下の説明において定義される符号化モードのうちの1つを使用してセカンダリチャンネルXを符号化し、対応するセカンダリチャンネルが符号化されたビットストリーム206を生成する。関連するビットバジェットは、フレームの内容に応じてあらゆるフレームを変更する可能性がある。
プライマリチャンネル符号化動作202を実施するために、プライマリチャンネルのエンコーダ252が使用される。セカンダリチャンネルのエンコーダ253は、セカンダリチャンネルXを符号化するために現在のフレームにおいて使用されたビット208の数をプライマリチャンネルのエンコーダ252にシグナリングする。任意の好適な種類のエンコーダが、プライマリチャンネルのエンコーダ252として使用され得る。非限定的な例として、プライマリチャンネルのエンコーダ252は、CELP型エンコーダである可能性がある。この例示的な実施形態において、プライマリチャンネルのCELP型エンコーダは、レガシーのEVSエンコーダの修正されたバージョンであり、EVSエンコーダは、プライマリチャンネルとセカンダリチャンネルとの間の柔軟なビットレートの割り当てを可能にするためにより大きなビットレートのスケーラビリティを提供するように修正される。このようにして、修正されたEVSエンコーダは、対応するビットレートでプライマリチャンネルYを符号化するためにセカンダリチャンネルXを符号化するために使用されないすべてのビットを使用し、対応するプライマリチャンネルが符号化されたビットストリーム205を生成することができる。
マルチプレクサ254は、多重化動作204を完了するために、プライマリチャンネルビットストリーム205およびセカンダリチャンネルビットストリーム206を連結して多重化されたビットストリーム207を形成する。
第1のモデルにおいて、セカンダリチャンネルXを符号化するために使用される(ビットストリーム206内の)ビットの数および対応するビットレートは、プライマリチャンネルYを符号化するために使用される(ビットストリーム205内の)ビットの数および対応するビットレートよりも小さい。これは、2つのチャンネルXおよびYのビットレートの合計が一定の総ビットレートを表す2つの可変ビットレートチャンネルと見なされ得る。この手法は、プライマリチャンネルYを多かれ少なかれ強調した異なる特色を有する可能性がある。第1の例によれば、プライマリチャンネルYが最大限に強調されるとき、セカンダリチャンネルXのビットバジェットは、強引に最小にされる。第2の例によれば、プライマリチャンネルYの強調がより弱い場合、セカンダリチャンネルXのためのビットバジェットは、より一定にされる可能性があり、つまり、セカンダリチャンネルXの平均ビットレートが、第1の例と比べてわずかに高い。
入力デジタルステレオ音声信号の右Rチャンネルおよび左LチャンネルはEVS処理において使用されるフレームの継続時間に対応する可能性がある所与の継続時間の連続的なフレームによって処理されることが、思い出される。各フレームは、フレームの所与の継続時間および使用されているサンプリングレートに応じて右Rチャンネルおよび左Lチャンネルのいくつかのサンプルを含む。
図3は、組み込み型のモデルとして提示される第2のモデルによるステレオ音声符号化方法およびシステムを同時に示すブロック図である。
図3を参照すると、第2のモデルによるステレオ音声符号化方法は、時間領域ダウンミックス動作301、プライマリチャンネル符号化動作302、セカンダリチャンネル符号化動作303、および多重化動作304を含む。
時間領域ダウンミックス動作301を完了するために、チャンネルミキサ351は、2つの入力右Rチャンネルおよび左Lチャンネルをミックスして、プライマリチャンネルYおよびセカンダリチャンネルXを形成する。
プライマリチャンネル符号化動作302において、プライマリチャンネルのエンコーダ352は、プライマリチャンネルYを符号化してプライマリチャンネルが符号化されたビットストリーム305を生成する。やはり、任意の好適な種類のエンコーダが、プライマリチャンネルのエンコーダ352として使用され得る。非限定的な例として、プライマリチャンネルのエンコーダ352は、CELP型エンコーダである可能性がある。この例示的な実施形態において、プライマリチャンネルのエンコーダ352は、たとえば、レガシーのEVSモノラル符号化モードまたはAMR-WB-IO符号化モードなどのスピーチコーディング規格を使用し、つまり、ビットストリーム305のモノラル部分は、ビットレートがレガシーのEVS、AMR-WB-IO、またはレガシーのAMR-WBデコーダと互換性があるとき、そのようなデコーダと相互運用可能である。選択されている符号化モードに応じて、プライマリチャンネルYの何らかの調整が、プライマリチャンネルのエンコーダ352による処理のために必要とされる可能性がある。
セカンダリチャンネル符号化動作303において、セカンダリチャンネルのエンコーダ353は、下の説明において定義される符号化モードのうちの符号化モードのうちの1つを使用してより低いビットレートでセカンダリチャンネルXを符号化する。セカンダリチャンネルのエンコーダ353は、セカンダリチャンネルが符号化されたビットストリーム306を生成する。
多重化動作304を実行するために、マルチプレクサ354は、プライマリチャンネルが符号化されたビットストリーム305をセカンダリチャンネルが符号化されたビットストリーム306と連結して、多重化されたビットストリーム307を形成する。これは、ステレオに関連するセカンダリチャンネルが符号化されたビットストリーム306が相互運用可能なビットストリーム305の上に追加されるので組み込み型のモデルと呼ばれる。セカンダリチャンネルビットストリーム306は、多重化されたステレオビットストリーム307(連結されたビットストリーム305およびビットストリーム306)から任意の瞬間に引き剥がされ、結果として、本明細書において上で説明されたレガシーのコーデックによって復号可能なビットストリームをもたらす可能性があり、一方、最も新しいバージョンのコーデックのユーザは、引き続き完全なステレオの復号を享受することができる。
上述の第1のモデルおよび第2のモデルは、実際のところ互いに近い。2つのモデルの間の主な違いは、ビット割り当てが相互運用性の考慮事項のために第2のモデルにおいてはより制限される一方で、第1のモデルにおいては2つのチャンネルYおよびXの間で動的なビット割り当てを使用する可能性である。
上述の第1のモデルおよび第2のモデルを実現するために使用される実装および手法の例が、下の説明において与えられる。
1)時間領域ダウンミックス
上述の説明において示されたように、低ビットレートで動作する知られているステレオモデルは、モノラルモデルに近くないスピーチをコーディングするのに困難を抱えている。これまでの手法は、すべての内容が参照により本明細書に組み込まれる参考文献[4]および[5]に記載されているように、2つのベクトルを得るために、たとえば、カルフネン-ロエヴェ変換(klt)を使用する主成分分析(pca)に関連する周波数帯域毎の相関をたとえば使用して周波数帯域毎に周波数領域においてダウンミックスを実行する。これら2つのベクトルのうちの一方が、すべての非常に相関がある内容を組み込む一方、他方のベクトルは、あまり相関がないすべての内容を定義する。低ビットレートでスピーチを符号化するための最もよく知られている方法は、知られている周波数領域の解決策が直接適用され得ない、CELP(Code-Excited Linear Prediction:符号励振線形予測)などの時間領域のコーデックを使用する。そうした理由で、周波数帯域毎のpca/kltの背後にある考え方は興味深いが、内容がスピーチであるとき、プライマリチャンネルYは、時間領域に変換して戻される必要があり、そのような変換の後、その内容は、特にCELPなどのスピーチに固有のモデルを使用する上述の構成の場合、もはやこれまでのスピーチのように見えない。これは、スピーチのコーデックの性能を落とす影響がある。さらに、低ビットレートにおいては、スピーチのコーデックの入力は、コーデックの内部モデルの予測に可能な限り近いべきである。
低ビットレートのスピーチのコーデックの入力が予測されるスピーチ信号に可能な限り近いべきであるという考え方から始まって、第1の技術が開発された。第1の技術は、これまでのpca/klt方式の進化に基づく。これまでの方式は周波数帯域毎にpca/kltを計算するが、第1の技術は、直接時間領域内でフレーム全体にわたってpca/kltを計算する。これは、背景雑音または邪魔をする話者が存在しないものとして、アクティブなスピーチセグメント中に十分に機能する。pca/klt方式は、どちらのチャンネル(左Lチャンネルまたは右Rチャンネル)が最も有用な情報を含むかを判定し、このチャンネルは、プライマリチャンネルのエンコーダに送信される。残念なことに、フレーム毎のpca/klt方式は、背景雑音が存在する場合または2人以上の人が互いに話しているとき、信頼できない。pca/klt方式の原理は、一方の入力チャンネル(RまたはL)または他方の入力チャンネルの選択を含み、多くの場合、符号化されるプライマリチャンネルの内容の急激な変化につながる。少なくとも上の理由で、第1の技術は、十分に信頼できず、したがって、第2の技術が、第1の技術の欠陥を克服するために本明細書において提示され、入力チャンネルの間のより滑らかな遷移を可能にする。この第2の技術は、図4〜図9を参照して本明細書において説明される。
図4を参照すると、時間領域ダウンミックスの動作201/301(図2および図3)は、以下の下位動作、すなわち、エネルギー分析下位動作401、エネルギー動向分析下位動作402、LおよびRチャンネル正規化相関分析(L and R channel normalized correlation analysis)下位動作403、長期(LT)相関差計算下位動作404、長期相関差-因子β変換および量子化下位動作405、ならびに時間領域ダウンミックス下位動作406を含む。
(スピーチおよび/またはオーディオなどの)低ビットレートの音声のコーデックの入力ができる限り同質であるべきであるという考え方に留意しながら、エネルギー分析下位動作401は、関係(1)を使用して各入力チャンネルRおよびLのrms(2乗平均平方根)エネルギーをフレームによって最初に決定するためにチャンネルミキサ252/351においてエネルギーアナライザ451によって実行される。
Figure 2018533058
ここで、添字LおよびRは、それぞれ、左チャンネルおよび右チャンネルを意味し、L(i)は、チャンネルLのサンプルiを意味し、R(i)は、チャンネルRのサンプルiを意味し、Nは、フレーム毎のサンプル数に対応し、tは、現在のフレームを意味する。
そして、エネルギーアナライザ451は、関係(1)のrms値を使用して、関係(2)を使用して各チャンネルに関する長期rms値
Figure 2018533058
 を決定する。
Figure 2018533058
ここで、tは、現在のフレームを表し、t-1は、前のフレームを表す。
エネルギー動向分析下位動作402を実行するために、チャンネルミキサ251/351のエネルギー動向アナライザ452は、長期rms値
Figure 2018533058
 を使用して、関係(3)を使用して各チャンネルLおよびRにおけるエネルギーの動向
Figure 2018533058
 を決定する。
Figure 2018533058
長期rms値の動向は、マイクロフォンによって捕捉された時間的なイベントが次第に小さくなっているかどうか、またはそれらの時間的なイベントがチャンネルを変えているかどうかを示す情報として使用される。長期rms値およびそれらの動向は、本明細書において後で説明されるように、長期相関差の収束の速度αを決定するためにも使用される。
チャンネルLおよびR正規化相関分析下位動作403を実行するために、LおよびR正規化相関アナライザ453は、関係(4)を使用してフレームtにおいてスピーチおよび/またはオーディオなどの音声のモノラル信号バージョンm(i)に対して正規化された左Lチャンネルおよび右Rチャンネルの各々に関する相関GL|Rを計算する。
Figure 2018533058
ここで、Nは、上述のように、フレーム内のサンプルの数に対応し、tは、現在のフレームを表す。現在の実施形態においては、関係1から4によって決定されたすべての正規化された相関およびrms値が、フレーム全体に関して時間領域で計算される。別の可能な構成において、これらの値は、周波数領域において計算され得る。たとえば、スピーチの特徴を有する音声信号に適合される本明細書において説明される技術は、周波数領域の一般の(generic)ステレオオーディオコーディング方法と本開示において説明される方法との間を切り替えることができるより大きなフレームワークの一部である可能性がある。この場合、周波数領域において正規化された相関およびrms値を計算することは、複雑さまたはコードの再利用の点で何らかの利点をもたらし得る。
下位動作404において長期(LT)相関差を計算するために、計算器454は、関係(5)を使用して、現在のフレームにおける各チャンネルLおよびRに関して、平滑化された正規化された相関を計算する。
Figure 2018533058
ここで、αは、収束の上述の速度である。最後に、計算器454は、関係(6)を使用して長期(LT)相関差
Figure 2018533058
 を決定する。
Figure 2018533058
1つの例示的な実施形態において、収束の速度αは、関係(2)において計算された長期のエネルギーおよび関係(3)において計算された長期のエネルギーの動向に応じて値0.8または0.5を有する可能性がある。たとえば、収束の速度αは、左Lチャンネルおよび右Rチャンネルの長期のエネルギーが同じ方向に発展し、フレームtにおける長期相関差
Figure 2018533058
 とフレームt-1における長期相関差
Figure 2018533058
 との間の差が小さく(この例示的な実施形態に関しては0.31未満)であり、左Lチャンネルおよび右Rチャンネルの長期rms値のうちの少なくとも1つが特定の閾値(この例示的な実施形態においては2000)を超えているとき、値0.8を有する可能性がある。そのような場合は、チャンネルLとチャンネルRとの両方が滑らかに発展しており、一方のチャンネルから他方のチャンネルへのエネルギーの高速な変化がなく、少なくとも1つのチャンネルが意味のあるレベルのエネルギーを含むことを意味する。そうではなく、右Rチャンネルおよび左Lチャンネルの長期のエネルギーが異なる方向に発展するとき、長期相関差の間の差が大きいとき、または2つの右Rチャンネルおよび左Lチャンネルが低いエネルギーを有するとき、αは、長期相関差
Figure 2018533058
 の適応の速度を高めるために0.5に設定される。
変換および量子化下位動作405を実行するために、長期相関差
Figure 2018533058
 が計算器454において適切に推定されると、コンバータおよび量子化器455は、この差を、量子化され、図1の101などの通信リンクを通じて多重化されたビットストリーム207/307内でデコーダに送信するために(a)プライマリチャンネルのエンコーダ252(図2)、(b)セカンダリチャンネルのエンコーダ253/353(図2および図3)、および(c)マルチプレクサ254/354(図2および図3)に供給される因子βに変換する。
因子βは、1つのパラメータへと組み合わされるステレオ入力の2つの側面を表す。第1に、因子βは、プライマリチャンネルYを生成するために一緒に組み合わされる右Rチャンネルおよび左Lチャンネルのそれぞれの割合または寄与を表し、第2に、因子βは、音声のモノラル信号バージョンがそのように見えるものにエネルギー領域において近いプライマリチャンネルを得るためにプライマリチャンネルYに適用するエネルギースケーリング因子も表す可能性がある。したがって、組み込み型の構造の場合、それは、ステレオパラメータを運ぶセカンダリビットストリーム306を受信する必要なしにプライマリチャンネルYが単独で復号されることを可能にする。このエネルギーパラメータは、セカンダリチャンネルXの大域的なエネルギーがセカンダリチャンネルのエンコーダの最適なエネルギーの範囲により近いように、セカンダリチャンネルXの符号化の前にセカンダリチャンネルXのエネルギーを再スケーリングするために使用される可能性もある。図2に示されるように、因子β内に本来存在するエネルギー情報も、プライマリチャンネルとセカンダリチャンネルとの間のビット割り当てを改善するために使用され得る。
量子化された因子βは、インデックスを使用してデコーダに送信され得る。因子βは(a)プライマリチャンネルへの左チャンネルおよび右チャンネルのそれぞれの寄与と、(b)音声のモノラル信号バージョンを得るためにプライマリチャンネルに適用するためのエネルギースケーリング因子、またはプライマリチャンネルYとセカンダリチャンネルXとの間にビットをより効率的に割り当てるのに役立つ相関/エネルギー情報との両方を表し得るので、デコーダに送信されるインデックスは、同じ数のビットによって2つの互いに異なる情報要素を運ぶ。
長期相関差
Figure 2018533058
 と因子βとの間のマッピングを得るために、この例示的な実施形態において、コンバータおよび量子化器455は、関係(7)に示されるように、まず、長期相関差
Figure 2018533058
 を-1.5から1.5までの間に制限し、それから、この長期相関差を0と2との間で線形化して一時的な線形化された長期相関差
Figure 2018533058
 を得る。
Figure 2018533058
代替的な実装において、その値をたとえば0.4と0.6との間にさらに制限することによって、線形化された長期相関差
Figure 2018533058
 によって満たされる空間の一部のみを使用することが決定され得る。この追加的な制限は、ステレオ音像の局所化(localization)を削減するが、さらに、いくつかの量子化ビットを節約する効果を有する。設計上の選択に応じて、この選択肢が考慮され得る。
線形化の後、コンバータおよび量子化器455は、関係(8)を使用して「余弦」領域への線形化された長期相関差
Figure 2018533058
 のマッピングを実行する。
Figure 2018533058
時間領域ダウンミックス下位動作406を実行するために、時間領域ダウンミキサ456は、関係(9)および(10)を使用して、プライマリチャンネルYおよびセカンダリチャンネルXを右Rチャンネルおよび左Lチャンネルの混合として生成する。
Y(i) = R(i)・(1 - β(t)) + L(i)・β(t) (9)
X(i) = L(i)・(1 - β(t)) - R(i)・β(t) (10)
ここで、i = 0,…,N-1は、フレーム内のサンプルのインデックスであり、tは、フレームのインデックスである。
図13は、事前適応因子を使用してステレオ音像の安定性を高める図2および図3のステレオ音声符号化方法の時間領域ダウンミックス動作201/301の下位動作ならびに図2および図3のステレオ音声符号化システムのチャンネルミキサ251/351のモジュールのその他の実施形態を同時に示すブロック図である。図13に示される代替的な実装において、時間領域ダウンミックス動作201/301は、以下の下位動作、すなわち、エネルギー分析下位動作1301、エネルギー動向分析下位動作1302、LおよびRチャンネル正規化相関分析下位動作1303、事前適応因子計算下位動作1304、正規化された相関に事前適応因子を適用する動作1305、長期(LT)相関差計算下位動作1306、利得-因子β変換および量子化下位動作1307、ならびに時間領域ダウンミックス下位動作1308を含む。
下位動作1301、1302、および1303は、図4の下位動作401、402、および403ならびにアナライザ451、452、および453に関連して上述の説明において説明されたのと実質的に同じ方法で、エネルギーアナライザ1351、エネルギー動向アナライザ1352、ならびにLおよびR正規化相関アナライザ1353によってそれぞれ実行される。
下位動作1305を実行するために、チャンネルミキサ251/351は、両方のチャンネルのエネルギーおよび特徴に応じて相関GL|R(GL(t)およびGR(t))の発展が平滑化されるように関係(4)からのそれらの相関GL|Rに相関事前適応因子arを直接適用するための計算器1355を含む。信号のエネルギーが低い場合、または信号が何らかの無声の(unvoiced)特徴を有する場合、相関利得の発展はより遅い可能性がある。
事前適応因子計算下位動作1304を実行するために、チャンネルミキサ251/351は、(a)エネルギーアナライザ1351からの関係(2)の長期左および右チャンネルエネルギー値、(b)前のフレームのフレーム分類、ならびに(c)前のフレームの音声活動(voice activity)情報を供給される事前適応因子計算器1354を含む。事前適応因子計算器1354は、関係(6a)を使用して、アナライザ1351からの左チャンネルおよび右チャンネルの最小の長期rms値
Figure 2018533058
 に応じて0.1と1との間で線形化される可能性がある事前適応因子arを計算する。
Figure 2018533058
実施形態において、係数Maは、値0.0009を有する可能性があり、係数Baは、値0.16を有する可能性がある。変形形態において、事前適応因子arは、たとえば、2つのチャンネルRおよびLの前の分類が無声の特徴およびアクティブな信号を示す場合、強制的に0.15にされる可能性がある。音声区間検出(VAD:voice activity detection)ハングオーバー(hangover)フラグも、フレームの内容の前の部分がアクティブなセグメントであったと判定するために使用される可能性がある。
左Lチャンネルおよび右Rチャンネルの正規化された相関GL|R(関係(4)からのGL(t)およびGR(t))に事前適応因子arを適用する動作1305は、図4の動作404とは異なる。αが収束の上述の定義された速度(関係(5))であるものとして、正規化された相関GL|R(GL(t)およびGR(t))に因子(1-α)を適用することによって長期の(LT)平滑化された正規化された相関を計算する代わりに、計算器1355は、関係(11b)を使用して左Lチャンネルおよび右Rチャンネルの正規化された相関GL|R(GL(t)およびGR(t))に事前適応因子arを直接適用する。
Figure 2018533058
計算器1355は、長期(LT)相関差の計算器1356に提供される適合された相関利得τL|Rを出力する。時間領域ダウンミックス201/301の動作(図2および図3)は、図13の実装においては、それぞれ図4の下位動作404、405、および406と同様の長期(LT)相関差計算下位動作1306、長期相関差-因子β変換および量子化下位動作1307、ならびに時間領域ダウンミックス下位動作1308を含む。
時間領域ダウンミックス201/301の動作(図2および図3)は、図13の実装においては、それぞれ図4の下位動作404、405、および406と同様の長期(LT)相関差計算下位動作1306、長期相関差-因子β変換および量子化下位動作1307、ならびに時間領域ダウンミックス下位動作1308を含む。
下位動作1306、1307、および1308は、下位動作404、405、および406と、計算器454、コンバータおよび量子化器455、ならびに時間領域ダウンミキサ456とに関連して上述の説明において説明されたのと実質的に同じ方法で計算器1356、コンバータおよび量子化器1357、ならびに時間領域ダウンミキサ1358によってそれぞれ実行される。
図5は、線形化された長期相関差
Figure 2018533058
 が因子βおよびエネルギーのスケーリングにどのようにマッピングされるかを示す。右Rおよび左Lチャンネルエネルギー/相関がほとんど同じであることを意味する1.0の線形化された長期相関差
Figure 2018533058
 に関して、因子βは0.5に等しく、エネルギー正規化(再スケーリング)因子εは1.0であることが、観測され得る。この状況で、プライマリチャンネルYの内容は、基本的にモノラルミックス(mono mixture)であり、セカンダリチャンネルXは、サイドチャンネル(side channel)を形成する。エネルギー正規化(再スケーリング)因子εの計算が、以下で説明される。
一方、線形化された長期相関差
Figure 2018533058
 が2に等しく、つまり、エネルギーのほとんどが左チャンネルL内にある場合、因子βは1であり、エネルギー正規化(再スケーリング)因子は0.5であり、プライマリチャンネルYが基本的に統合された設計の実装において左チャンネルLを含むかまたは組み込み型の設計の実装において左チャンネルLのダウンスケーリングされた表現を含むことを示す。この場合、セカンダリチャンネルXは、右チャンネルRを含む。例示的な実施形態において、コンバータおよび量子化器455または1357は、31個の可能な量子化エントリを使用して因子βを量子化する。因子βの量子化されたバージョンは、5ビットのインデックスを用いて表され、上述のように、多重化されたビットストリーム207/307に統合するためにマルチプレクサに供給され、通信リンクを通じてデコーダに送信される。
実施形態において、因子βは、ビットレートの割り当てを決定するためにプライマリチャンネルのエンコーダ252/352とセカンダリチャンネルのエンコーダ253/353との両方に関するインジケータとして使用される可能性もある。たとえば、β因子が0.5に近く、つまり、2つの入力チャンネルのエネルギー/モノラルとの相関が互いに近い場合、より多くのビットがセカンダリチャンネルXに割り当てられ、より少ないビットがプライマリチャンネルYに割り当てられるが、ただし、両方のチャンネルの内容が非常に近い場合に、セカンダリチャンネルが非常に低エネルギーであり、非アクティブ(inactive)と考えられる可能性が高く、したがって、非常にわずかなビットがセカンダリチャンネルを符号化することを可能にすることを例外とする。一方、因子βが0または1により近い場合、ビットレートの割り当ては、プライマリチャンネルYに有利になる。
図6は、フレーム全体上に上述のpca/klt方式を使用すること(図6の上2つの曲線)と因子βを計算するために関係(8)において作り出された「余弦」関数を使用すること(図6の下の曲線)との間の差を示す。元来、pca/klt方式は、最小または最大を探す傾向がある。これは、図6の真ん中の曲線によって示されるアクティブなスピーチの場合は上手く機能するが、背景雑音のあるスピーチに関しては、図6の真ん中の曲線によって示されるように0から1へと連続的に切り替わる傾向があるのであまり上手く機能しない。限界である0および1へのあまりにも頻繁な切り替わりは、低ビットレートでコーディングするとき、多くのアーティファクトを生じる。潜在的な解決策は、pca/klt方式の判断を滑らかにならすことだったであろうが、これが、スピーチのバーストおよびそれらの正しい位置の検出に悪影響を与えたであろう一方で、関係(8)の「余弦」関数は、この点に関してより効率的である。
図7は、背景にオフィスの雑音がある小さな反響のある部屋の中でバイノーラル式のマイクロフォンセットアップを使用して記録されたステレオサンプルに時間領域ダウンミックスを適用した結果として得られるプライマリチャンネルY、セカンダリチャンネルX、ならびにこれらのプライマリチャンネルYおよびセカンダリチャンネルXのスペクトルを示す。時間領域ダウンミックス動作の後、両方のチャンネルは引き続き同様のスペクトルの形状を有し、セカンダリチャンネルXは引き続きスピーチに似た時間的内容を有し、したがって、ユーザがスピーチに基づくモデルを使用してセカンダリチャンネルXを符号化することを可能にすることが分かる。
上述の説明において提示された時間領域ダウンミックスは、位相が反転される右Rチャンネルおよび左Lチャンネルの特別な場合にいくつかの問題を示す可能性がある。右Rチャンネルおよび左Lチャンネルを合計してモノラル信号を得ることは、互いを打ち消す右Rチャンネルおよび左Lチャンネルをもたらす。このあり得る問題を解決するために、実施形態において、チャンネルミキサ251/351は、モノラル信号のエネルギーを右Rチャンネルと左Lチャンネルとの両方のエネルギーと比較する。モノラル信号のエネルギーは、少なくとも、右Rチャンネルおよび左Lチャンネルのうちの一方のエネルギーよりも大きいはずである。そうでない場合、この実施形態において、時間領域ダウンミックスモデルが、位相の反転された特別な場合に入る。この特別な場合が存在すると、因子βは、強制的に1にされ、セカンダリチャンネルXは、強制的に一般または無声モードを使用して符号化され、したがって、非アクティブコーディングモードを避け、セカンダリチャンネルXの適切な符号化を保証する。エネルギーの再スケーリングが適用されないこの特別な場合は、因子βの送信のために利用可能な最後のビットの組合せ(インデックス値)を使用することによってデコーダにシグナリングされる(基本的に、上述のように、βが5ビットを使用して量子化され、31個のエントリ(量子化レベル)が量子化のために使用されるので、32番目の可能なビットの組合せ(エントリまたはインデックス値)がこの特別な場合をシグナリングするために使用される)。
代替的な実装において、位相のずれたまたはほとんど位相のずれた信号の場合などでは、上述のダウンミックスおよびコーディング技術のために準最適である信号の検出がより強調される可能性がある。これらの信号が検出されると、基礎をなすコーディング技術が、必要に応じて適合される可能性がある。
概して、本明細書において説明される時間領域ダウンミックスに関して、入力ステレオ信号の左Lチャンネルおよび右Rチャンネルの位相がずれているとき、ダウンミックスプロセス中に何らかの打ち消しが起こる可能性があり、それが、準最適な品質につながる可能性がある。上の例において、これらの信号の検出は、簡単であり、コーディングの方針は、両方のチャンネルを別々に符号化することを含む。しかしときには、位相のずれた信号などの特別な信号によって、サイドチャンネルがより強調されるモノラル/サイドと同様のダウンミックス(β=0.5)を引き続き実行することがより効率的である可能性がある。これらの信号の何らかの特別な取り扱いが有益である可能性があることを考慮すると、そのような信号の検出は、慎重に実行される必要がある。さらに、上述の説明において説明された通常の時間領域ダウンミックスモデルおよびこれらの特別な信号を扱っている時間領域ダウンミックスモデルからの遷移が、2つのモデルの間の切り替わりが最小限の主観的影響(subjective effect)を有するように、非常に低いエネルギーの領域において、または両方のチャンネルのピッチが安定しない領域においてトリガされる可能性がある。
LチャンネルとRチャンネルとの間の時間遅延補正(TDC)(図17および図18の時間遅延補正器1750参照)、またはすべての内容が参照により本明細書に組み込まれる参考文献[8]に記載されているものと同様の技術が、ダウンミックスモジュール201/301、251/351に入る前に実行される可能性がある。そのような実施形態において、因子βは、結局、上で説明された意味とは異なる意味を持つことになる可能性がある。この種の実装に関しては、時間遅延補正が予測されたとおりに働くという条件で、因子βは、0.5に近くなる可能性があり、つまり、時間領域ダウンミックスの構成はモノラル/サイド構成に近い。時間遅延補正(TDC)の適切な動作によって、サイドは、より少ない量の重要な情報を含む信号を含む可能性がある。その場合、セカンダリチャンネルXのビットレートは、因子βが0.5に近いとき、最小である可能性がある。一方、因子βが0または1に近い場合、これは、時間遅延補正(TDC)が遅延のずれた状況を適切に克服し得ず、セカンダリチャンネルXの内容がより複雑である可能性が高く、したがって、より高いビットレートを必要とすることを意味する。両方の種類の実装に関して、因子βと、それに関連してエネルギー正規化(再スケーリング)因子εとは、プライマリチャンネルYとセカンダリチャンネルXとの間のビット割り当てを改善するために使用され得る。
図14は、ダウンミックス動作201/301およびチャンネルミキサ251/351の一部を形成する位相のずれた信号の検出の動作および位相ずれ信号検出器1450のモジュールを同時に示すブロック図である。位相のずれた信号の検出の動作は、時間領域ダウンミックス動作201/301と位相ずれに特有の時間領域ダウンミックス動作1404との間の選択を行うために、図14に示されるように、位相ずれ信号検出動作1401、切り替わり位置(switching position)検出動作1402、およびチャンネルミキサ選択動作1403を含む。これらの動作は、それぞれ、位相ずれ信号検出器1451、切り替わり位置検出器1452、チャンネルミキサセレクタ1453、上述の時間領域ダウンチャンネルミキサ251/351、および位相ずれに特有の時間領域ダウンチャンネルミキサ1454によって実行される。
位相ずれ信号検出1401は、前のフレーム内のプライマリチャンネルとセカンダリチャンネルとの間の開ループ相関(open loop correlation)に基づく。この目的で、検出器1451は、関係(12a)および(12b)を使用して前のフレームにおいてサイド信号s(i)とモノラル信号m(i)との間のエネルギーの差Sm(t)を計算する。
Figure 2018533058
そして、検出器1451は、関係(12c)を使用して長期のモノラルに対するサイドのエネルギーの差
Figure 2018533058
 を計算する。
Figure 2018533058
ここで、tは、現在のフレームを示し、t-1は、前のフレームであり、非アクティブな内容は、音声区間検出器(VAD:Voice Activity Detector)ハングオーバーフラグからまたはVADハングオーバーカウンタから導出され得る。
長期のモノラルに対するサイドのエネルギーの差
Figure 2018533058
 に加えて、参考文献[1]の5.1.10節において定義された各チャンネルYおよびXの最終ピッチ開ループ最大相関(pitch open loop maximum correlation)CF|Lも、現在のモデルが準最適であると考えられるときを判断するために考慮に入れられる。
Figure 2018533058
 は、前のフレームにおけるプライマリチャンネルYのピッチ開ループ最大相関を表し、
Figure 2018533058
 は、前のフレームにおけるセカンダリチャンネルXの開ピッチループ最大相関(open pitch loop maximum correlation)を表す。準最適性フラグFsubが、以下の基準に従って切り替わり位置検出器1452によって計算される。
長期のモノラルに対するサイドのエネルギーの差
Figure 2018533058
 が特定の閾値よりも大きい場合、たとえば、
Figure 2018533058
 であるとき、両方のピッチ開ループ最大相関
Figure 2018533058
 が0.85と0.92との間にあり、つまり、信号が十分な相関を有するが、ただし、有声の信号ほどには相関がない場合、準最適性フラグFsubは1に設定され、左Lチャンネルと右Rチャンネルとの間の位相のずれた状態を示す。
そうでない場合、準最適性フラグFsubは0に設定され、左Lチャンネルと右Rチャンネルとの間に位相のずれ状態がないことを示す。
準最適性フラグの判断にいくらかの安定性を加えるために、切り替わり位置検出器1452は、各チャンネルYおよびXのピッチの曲線に関する基準を実装する。切り替わり位置検出器1452は、例示的な実施形態において、準最適性フラグFsubの少なくとも3つの連続したインスタンスが1に設定され、プライマリチャンネルまたはセカンダリチャンネルのうちの1つの最後のフレームのピッチの安定性ppc(t-1)またはpsc(t-1)が64を超えるとき、チャンネルミキサ1454が準最適な信号をコーディングするために使用されると決定する。ピッチの安定性は、関係(12d)を使用して切り替わり位置検出器1452によって計算される、参考文献[1]の5.1.10において定義された3つの開ループピッチ(open loop pitch)p0|1|2の絶対的な差の合計に存する。
ppc = |p1 - p0| + |p2 - p1|およびpsc = |p1 - p0| + |p2 - p1| (12d)
切り替わり位置検出器1452は、チャンネルミキサセレクタ1453に判断を伝え、そして今度は、チャンネルミキサセレクタ1453が、それに応じてチャンネルミキサ251/351またはチャンネルミキサ1454を選択する。チャンネルミキサセレクタ1453は、チャンネルミキサ1454が選択されるときに、以下の条件が満たされるまで、つまり、いくつかの連続するフレーム、たとえば、20個のフレームが最適であると考えられ、プライマリチャンネルまたはセカンダリチャンネルのうちの1つの最後のフレームのピッチの安定性ppc(t-1)またはpsc(t-1)が所定の数、たとえば、64を超えており、長期のモノラルに対するサイドのエネルギーの差
Figure 2018533058
 が0以下であるという条件が満たされるまでこの判断が継続するようなヒステリシス(hysteresis)を実装する。
2)プライマリチャンネルとセカンダリチャンネルとの間の動的な符号化
図8は、スピーチまたはオーディオなどのステレオ音声信号のプライマリYチャンネルとセカンダリXチャンネルとの両方の符号化の最適化の可能な実装によるステレオ音声符号化方法およびシステムを同時に示すブロック図である。
図8を参照すると、ステレオ音声符号化方法は、低複雑性プリプロセッサ851によって実施される低複雑性前処理動作801、信号分類器852によって実施される信号分類動作802、判断モジュール853によって実施される判断動作803、4サブフレームモデルの一般のみの符号化(four (4) subframes model generic only encoding)モジュール854によって実施される4サブフレームモデルの一般のみの符号化動作804、2サブフレームモデル符号化モジュール855によって実施される2サブフレームモデル符号化動作805、およびLPフィルタコヒーレンスアナライザ856によって実施されるLPフィルタコヒーレンス分析動作806を含む。
時間領域ダウンミックス301がチャンネルミキサ351によって実行された後、組み込み型のモデルの場合、プライマリチャンネルYは、(a)レガシーのEVSエンコーダまたは任意のその他の好適なレガシーの音声エンコーダなどのレガシーのエンコーダをプライマリチャンネルのエンコーダ352として使用して符号化される(プライマリチャンネル符号化動作302)(上述の説明において述べられたように、任意の好適な種類のエンコーダがプライマリチャンネルのエンコーダ352として使用され得ることに留意されたい)。統合された構造の場合、専用のスピーチコーデックが、プライマリチャンネルのエンコーダ252として使用される。専用スピーチエンコーダ252は、可変ビットレート(VBR)に基づくエンコーダ、たとえば、フレーム毎のレベルで可変ビットレートの取り扱いを可能にするより高いビットレートのスケーラビリティを持つように修正されたレガシーのEVSエンコーダの修正されたバージョンである可能性がある(上述の説明において述べられたように、任意の好適な種類のエンコーダがプライマリチャンネルのエンコーダ252として使用され得ることにやはり留意されたい)。これは、セカンダリチャンネルXを符号化するために使用されるビットの最小の量が各フレームにおいて変わり、符号化される音声信号の特徴に適合されることを可能にする。最後に、セカンダリチャンネルXのシグネチャは、可能な限り同質になる。
セカンダリチャンネルX、すなわち、より低いエネルギー/モノラル入力との相関の符号化は、これに限らないが特にスピーチに似た内容のために最小限のビットレートを使用するように最適化される。その目的のために、セカンダリチャンネルの符号化は、LPフィルタ係数(LPC)および/またはピッチのラグ807などのプライマリチャンネルYに既に符号化されたパラメータを利用することができる。特に、以降で説明されるように、プライマリチャンネルの符号化中に計算されたパラメータが、セカンダリチャンネルの符号化中に計算される対応するパラメータと、セカンダリチャンネルの符号化中に再利用されるのに十分なだけ近いかどうかが判断される。
第1に、低複雑性前処理動作801が、低複雑性プリプロセッサ851を使用してセカンダリチャンネルXに適用され、LPフィルタ、音声区間検出(VAD)、および開ループピッチが、セカンダリチャンネルXに応じて計算される。後者の計算は、たとえば、EVSのレガシーのエンコーダにおいて実行され、上で示されたようにすべての内容が参照により本明細書に組み込まれる参考文献[1]の5.1.9、5.1.12、および5.1.10節においてそれぞれ説明される計算によって実施され得る。上述の説明において述べられたように、任意の好適な種類のエンコーダがプライマリチャンネルのエンコーダ252/352として使用され得るので、上の計算は、そのようなプライマリチャンネルのエンコーダにおいて実行される計算によって実施され得る。
そして、セカンダリチャンネルXの信号の特徴が、同じ参考文献[1]の5.1.13節に記載のEVS信号分類機能の技術と同様の技術を使用してセカンダリチャンネルXを無声、一般、または非アクティブとして分類するために信号分類器852によって分析される。これらの動作は、当業者に知られており、簡単にするために3GPP TS 26.445、v.12.0.0規格から引き出され得るが、代替的な実装も、使用され得る。
a.プライマリチャンネルのLPフィルタ係数の再利用
ビットレートの消費の重要な部分は、LPフィルタ係数(LPC)の量子化にある。低ビットレートにおいて、LPフィルタ係数の完全な量子化は、ビットバジェットうち最大でほぼ25%を占める可能性がある。セカンダリチャンネルXが周波数の内容においてプライマリチャンネルYと近いことが多いが、ただしエネルギーレベルが最も低いことを考慮すると、プライマリチャンネルYのLPフィルタ係数を再利用することが可能かどうかは、検証する価値がある。そのようにするために、図8に示されるように、プライマリチャンネルYのLPフィルタ係数(LPC)807を再利用するか否かの可能性を確認するためにわずかなパラメータが計算され、比較される、LPフィルタコヒーレンスアナライザ856によって実施されるLPフィルタコヒーレンス分析動作806が開発された。
図9は、図8のステレオ音声符号化方法およびシステムのLPフィルタコヒーレンス分析動作806および対応するLPフィルタコヒーレンスアナライザ856を示すブロック図である。
図8のステレオ音声符号化方法およびシステムのLPフィルタコヒーレンス分析動作806および対応するLPフィルタコヒーレンスアナライザ856は、図9に示されるように、LP(線形予測)フィルタアナライザ953によって実施されるプライマリチャンネルLPフィルタ分析下位動作903、重み付けフィルタ954によって実施される重み付け下位動作904、LPフィルタアナライザ962によって実施されるセカンダリチャンネルLPフィルタ分析下位動作912、重み付けフィルタ951によって実施される重み付け下位動作901、ユークリッド距離アナライザ952によって実施されるユークリッド距離分析下位動作902、残差(residual)フィルタ963によって実施される残差フィルタリング下位動作913、残差のエネルギーの計算器964によって実施される残差エネルギー計算下位動作914、減算器965によって実施される減算下位動作915、エネルギーの計算器960によって実施される(スピーチおよび/またはオーディオなどの)音声エネルギー計算下位動作910、セカンダリチャンネル残差フィルタ956によって実施されるセカンダリチャンネル残差フィルタリング動作906、残差のエネルギーの計算器957によって実施される残差エネルギー計算下位動作907、減算器958によって実施される減算下位動作908、利得比計算器によって実施される利得比計算下位動作911、比較器966によって実施される比較下位動作916、比較器967によって実施される比較下位動作917、判断モジュール968によって実施されるセカンダリチャンネルLPフィルタ使用判断下位動作918、ならびに判断モジュール969によって実施されるプライマリチャンネルLPフィルタ再利用判断下位動作919を含む。
図9を参照すると、LPフィルタアナライザ953が、プライマリチャンネルYに対してLPフィルタ分析を実行し、一方、LPフィルタアナライザ962は、セカンダリチャンネルXに対してLPフィルタ分析を実行する。プライマリYチャンネルおよびセカンダリXチャンネルの各々に対して実行されるLPフィルタ分析は、参考文献[1]の5.1.9節に記載の分析と同様である。
そして、LPフィルタアナライザ953からのLPフィルタ係数Ayが、セカンダリチャンネルXの第1の残差フィルタリングrYのために残差フィルタ956に供給される。同じようにして、LPフィルタアナライザ962からの最適なLPフィルタ係数Axが、セカンダリチャンネルXの第2の残差フィルタリングrXのために残差フィルタ963に供給される。どちらかのフィルタ係数AYまたはAXによる残差フィルタリングは、関係(11)を使用して実行される。
Figure 2018533058
ここで、この例において、sxは、セカンダリチャンネルを表し、LPフィルタの次数は、16であり、Nは、通常は12.8kHzのサンプリングレートで20msのフレームの継続時間に対応する256であるフレーム内のサンプルの数(フレームサイズ)である。
計算器910は、関係(14)を使用してセカンダリチャンネルX内の音声信号のエネルギーExを計算する。
Figure 2018533058
計算器957は、関係(15)を使用して残差フィルタ956からの残差のエネルギーEryを計算する。
Figure 2018533058
減算器958は、計算器960からの音声エネルギーから計算器957からの残差エネルギーを引いて予測利得GYを生成する。
同じようにして、計算器964は、関係(16)を使用して残差フィルタ963からの残差のエネルギーErxを計算する。
Figure 2018533058
減算器965は、計算器960からの音声エネルギーからこの残差エネルギーを引いて予測利得GXを生成する。
計算器961は、利得比GY/GXを計算する。比較器966は、利得比GY/GXを、例示的な実施形態においては0.92である閾値τと比較する。比GY/GXが閾値τよりも小さい場合、比較の結果が、判断モジュール968に送信され、判断モジュール968は、セカンダリチャンネルXを符号化するためにセカンダリチャンネルのLPフィルタ係数を使用することを強制する。
ユークリッド距離アナライザ952は、プライマリチャンネルYに応じてLPフィルタアナライザ953によって計算された線スペクトル対lspYと、セカンダリチャンネルXに応じてLPフィルタアナライザ962によって計算された線スペクトル対lspXとの間のユークリッド距離などのLPフィルタの類似性の測定を実行する。当業者に知られているように、線スペクトル対lspYおよびlspXは、量子化領域におけるLPフィルタ係数を表す。アナライザ952は、関係(17)を使用してユークリッド距離distを決定する。
Figure 2018533058
ここで、Mは、フィルタの次数を表し、lspYおよびlspXは、それぞれ、プライマリYチャンネルおよびセカンダリXチャンネルに関して計算された線スペクトル対を表す。
アナライザ952においてユークリッド距離を計算する前に、スペクトルの特定の部分が多かれ少なかれ強調されるようにそれぞれの重み係数によって線スペクトル対lspYおよびlspXの両方の組を重み付けすることが可能である。その他のLPフィルタの表現も、LPフィルタの類似性の測定値を計算するために使用され得る。
ユークリッド距離distが知られると、そのユークリッド距離は、比較器967において閾値σと比較される。例示的な実施形態において、閾値σは、値0.08を有する。比GY/GXが閾値τ以上であると比較器966が判定し、ユークリッド距離distが閾値σ以上であると比較器967が判定するとき、比較の結果が、判断モジュール968に送信され、判断モジュール968は、セカンダリチャンネルXを符号化するためにセカンダリチャンネルのLPフィルタ係数を使用することを強制する。比GY/GXが閾値τ以上であると比較器966が判定し、ユークリッド距離distが閾値σ未満であると比較器967が判定するとき、これらの比較の結果が、判断モジュール969に送信され、判断モジュール969は、セカンダリチャンネルXを符号化するためにプライマリチャンネルのLPフィルタ係数を再利用することを強制する。後者の場合、プライマリチャンネルのLPフィルタ係数がセカンダリチャンネルの符号化の一部として再利用される。
特定の場合、たとえば、LPフィルタ係数も符号化するために利用可能なビットレートがまだ存在するほど信号が符号化することが十分に容易である無声のコーディングモードの場合、セカンダリチャンネルXを符号化するためにプライマリチャンネルのLPフィルタ係数を再利用することを制限するためにいくつかの追加のテストが行われる可能性がある。非常に低い残差利得がセカンダリチャンネルのLPフィルタ係数によって既に得られているとき、またはセカンダリチャンネルXが非常に低いエネルギーレベルを有するとき、プライマリチャンネルのLPフィルタ係数を再利用することを強制することも可能である。最後に、LPフィルタ係数を再利用することが強制され得る変数τ、σ、残差利得のレベル、または非常に低いエネルギーレベルは、利用可能なビットバジェットに応じておよび/または内容の種類に応じて適合され得る。たとえば、セカンダリチャンネルの内容が非アクティブであると考えられる場合、たとえエネルギーが高いとしても、プライマリチャンネルのLPフィルタ係数を再利用すると判断される可能性がある。
b.セカンダリチャンネルの低ビットレートの符号化
プライマリYチャンネルおよびセカンダリXチャンネルが右R入力チャンネルと左L入力チャンネルとの両方のミックスである可能性があるので、これは、たとえセカンダリチャンネルXのエネルギーの内容がプライマリチャンネルYのエネルギーの内容と比べて低いとしても、チャンネルのアップミックスが実行されると、コーディングアーティファクトが知覚される可能性があることを示唆する。そのような起こり得るアーティファクトを制限するために、セカンダリチャンネルXのコーディングシグネチャ(coding signature)は、すべての意図されていないエネルギーの変動を制限するために可能な限り一定に保たれる。図7に示されるように、セカンダリチャンネルXの内容は、プライマリチャンネルYの内容と同様の特徴を有し、そのために、非常に低いビットレートのスピーチに似たコーディングモデルが、作られた。
再び図8を参照すると、LPフィルタコヒーレンスアナライザ856が、判断モジュール969からのプライマリチャンネルのLPフィルタ係数を再利用する判断、または判断モジュール968からのセカンダリチャンネルのLPフィルタ係数を使用する判断を、判断モジュール853に送信する。そして、判断モジュール803は、プライマリチャンネルのLPフィルタ係数が再利用されるとき、セカンダリチャンネルのLPフィルタ係数を量子化しないと判断し、判断がセカンダリチャンネルのLPフィルタ係数を使用するというものであるとき、セカンダリチャンネルのLPフィルタ係数を量子化すると判断する。後者の場合、量子化されたセカンダリチャンネルのLPフィルタ係数が、多重化されたビットストリーム207/307に含めるためにマルチプレクサ254/354に送信される。
4サブフレームモデルの一般のみの符号化動作804および対応する4サブフレームモデルの一般のみの符号化モジュール854においては、ビットレートをできる限り低く保つために、プライマリチャンネルYからのLPフィルタ係数が再利用され得るとき、セカンダリチャンネルXが信号分類器852によって一般として分類されるとき、ならびに入力右Rチャンネルおよび左Lチャンネルのエネルギーが中心に近く、つまり、右Rチャンネルと左Lチャンネルとの両方のエネルギーが互い近いときにのみ、参考文献[1]の5.2.3.1節に記載のACELPの探索が使用される。そして、4サブフレームモデルの一般のみの符号化モジュール854におけるACELPの探索中に見つかったコーディングパラメータが、セカンダリチャンネルビットストリーム206/306を構築するために使用され、多重化されたビットストリーム207/307に含めるためにマルチプレクサ254/354に送信される。
そうではなく、2サブフレームモデル符号化動作805および対応する2サブフレームモデル符号化モジュール855においては、プライマリチャンネルYからのLPフィルタ係数が再利用され得ないとき、一般の内容のセカンダリチャンネルXを符号化するためにハーフバンド(half-band)モデルが使用される。非アクティブな無声の内容に関しては、スペクトルの形状のみがコーディングされる。
符号化モジュール855において、非アクティブな内容の符号化は、参考文献[1]の(a) 5.2.3.5.7節および5.2.3.5.11節ならびに(b) 5.2.2.1節にそれぞれ記載されているように必要とされるとき、(a)雑音による穴埋め(noise filling)付きの周波数領域のスペクトル帯域の利得のコーディングおよび(b)セカンダリチャンネルのLPフィルタ係数のコーディングを含む。非アクティブな内容は、たった1.5kb/sの低いビットレートで符号化され得る。
符号化モジュール855において、セカンダリチャンネルXの無声の符号化は、無声の符号化が無声のセカンダリチャンネルに関して符号化されるセカンダリチャンネルのLPフィルタ係数の量子化のために追加のいくつかのビットを使用することを除いてセカンダリチャンネルXの非アクティブの符号化と同様である。
ハーフバンド一般コーディングモデルが、参考文献[1]の5.2.3.1節に記載のACELPと同様にして構築されるが、フレーム毎に2サブフレームのみで使用される。したがって、そのようにするために、参考文献[1]の5.2.3.1.1節に記載の残差、参考文献[1]の5.2.3.1.4節に記載の適応コードブックのメモリ、および入力セカンダリチャンネルが、最初に、2分の1にダウンサンプリングされる。LPフィルタ係数も、参考文献[1]の5.4.4.2節に記載の技術を使用して12.8kHzのサンプリング周波数の代わりにダウンサンプリングされた領域を表すように修正される。
ACELPの探索の後、帯域幅の拡張が、励振の周波数領域において実行される。帯域幅の拡張は、まず、比較的低いスペクトル帯域のエネルギーを比較的高い帯域に複製する。スペクトル帯域のエネルギーを複製するために、初めの9つのスペクトル帯域のエネルギーGbd(i)が、参考文献[1]の5.2.3.5.7節に記載されたように発見され、終わりの帯域が、関係(18)に示されるように埋められる。
Gbd(i) = Gbd(16 - i - 1), for i = 8,…,15 (18)
そして、参考文献[1]の5.2.3.5.9節に記載の周波数領域において表された励起ベクトルの高周波数の内容fd(k)が、関係(19)を使用して比較的低い帯域の周波数の内容を用いて埋められる。
fd(k) = fd(k - Pb), for k = 128,…,255 (19)
ここで、ピッチのオフセットPbは、参考文献[1]の5.2.3.1.4.1節に記載の複数のピッチ情報に基づき、関係(20)に示されるように周波数ビンのオフセットに変換される。
Figure 2018533058
ここで、
Figure 2018533058
 は、サブフレーム毎の復号されたピッチ情報の平均を表し、Fsは、内部サンプリング周波数であり、この例示的な実施形態においては12.8kHzであり、Frは、周波数分解能である。
そして、2サブフレームモデル符号化モジュール855において実行される低レートの非アクティブの符号化、低レートの無声の符号化、またはハーフバンド一般符号化中に見つかったコーディングパラメータが、多重化されたビットストリーム207/307に含めるためにマルチプレクサ254/354に送信されるセカンダリチャンネルビットストリーム206/306を構築するために使用される。
c.セカンダリチャンネルの低ビットレートの符号化の代替的な実装
セカンダリチャンネルXの符号化は、最良の可能な品質を実現し、一定のシグネチャを保ちながら最小限の数のビットを使用するという同じ目的を持って異なるようにして実現され得る。セカンダリチャンネルXの符号化は、LPフィルタ係数およびピッチ情報の潜在的な再利用とは独立して、利用可能なビットバジェットによって部分的に駆動される可能性がある。また、2サブフレームモデル符号化(動作805)は、ハーフバンドであるかまたはフルバンド(full band)であるかのどちらかである可能性がある。セカンダリチャンネルの低ビットレートの符号化のこの代替的な実装においては、プライマリチャンネルのLPフィルタ係数および/またはピッチ情報が、再利用される可能性があり、2サブフレームモデル符号化が、セカンダリチャンネルXを符号化するために利用可能なビットバジェットに基づいて選択される可能性がある。さらに、下に提示される2サブフレームモデル符号化は、その入力/出力パラメータをダウンサンプリング/アップサンプリングする代わりにサブフレーム長を倍にすることによって生成された。
図15は、代替的なステレオ音声符号化方法および代替的なステレオ音声符号化システムを同時に示すブロック図である。図15のステレオ音声符号化方法およびシステムは、同じ参照番号を使用して特定され、簡潔にするために説明が本明細書において繰り返されない図8の方法およびシステムの動作およびモジュールのうちのいくつかを含む。加えて、図15のステレオ音声符号化方法は、動作202/302におけるその方法の符号化の前にプライマリチャンネルYに適用される前処理動作1501、ピッチコヒーレンス分析動作1502、無声/非アクティブ判断動作1504、無声/非アクティブコーディング判断動作1505、および2/4サブフレームモデル判断動作1506を含む。
下位動作1501、1502、1503、1504、1505、および1506は、低複雑性プリプロセッサ851と同様のプリプロセッサ1551、ピッチコヒーレンスアナライザ1552、ビット割り当て推定器1553、無声/非アクティブ判断モジュール1554、無声/非アクティブ符号化判断モジュール1555、および2/4サブフレームモデル判断モジュール1556によってそれぞれ実行される。
ピッチコヒーレンス分析動作1502を実行するために、ピッチコヒーレンスアナライザ1552は、プリプロセッサ851および1551によって、プライマリYチャンネルとセカンダリXチャンネルとの両方の開ループピッチ、それぞれ、OLpitchpriおよびOLpitchsecを供給される。図15のピッチコヒーレンスアナライザ1552は、ピッチコヒーレンス分析動作1502の下位動作およびピッチコヒーレンスアナライザ1552のモジュールを同時に示すブロック図である図16により詳細に示される。
ピッチコヒーレンス分析動作1502は、プライマリチャンネルYとセカンダリチャンネルXとの間の開ループピッチの類似性の評価を実行して、どのような状況においてプライマリの開ループピッチがセカンダリチャンネルXを符号化する際に使用され得るのかを判断する。この目的で、ピッチコヒーレンス分析動作1502は、プライマリチャンネル開ループピッチ加算器1651によって実行されるプライマリチャンネル開ループピッチ総和下位動作1601と、セカンダリチャンネル開ループピッチ加算器1652によって実行されるセカンダリチャンネル開ループピッチ総和下位動作1602とを含む。加算器1652からの総和が、減算器1653を使用して加算器1651からの総和から引かれる(下位動作1603)。下位動作1603からの減算の結果は、ステレオのピッチのコヒーレンスを与える。非限定的な例として、下位動作1601および1602における総和は、各チャンネルYおよびXのために利用可能な3つの前の連続した開ループピッチに基づく。開ループは、たとえば、参考文献[1]の5.1.10節において定義されたように計算され得る。ステレオのピッチのコヒーレンスSpcは、関係を(21)を用いて下位動作1601、1602、および1603において計算される。
Figure 2018533058
ここで、pp|s(i)は、プライマリYチャンネルおよびセカンダリXチャンネルの開ループピッチを表し、iは、開ループピッチの位置を表す。
ステレオのピッチのコヒーレンスが所定の閾値Δ未満であるとき、プライマリチャンネルYからのピッチ情報の再利用が、セカンダリチャンネルXを符号化するために利用可能なビットバジェットに応じて許される可能性がある。また、利用可能なビットバジェットに応じて、プライマリYチャンネルとセカンダリXチャンネルとの両方に関して有声の特徴を有する信号に関するピッチ情報の再利用を制限することが可能である。
この目的で、ピッチコヒーレンス分析動作1502は、(たとえば、プライマリおよびセカンダリチャンネルのコーディングモードによって示される)利用可能なビットバジェットおよび音声信号の特徴を考慮する判断モジュール1654によって実行される判断下位動作1604を含む。利用可能なビットバジェットが十分であるかまたはプライマリYチャンネルとセカンダリXチャンネルとの両方に関する音声信号が有声の特徴を持たないことを判断モジュール1654が検出するとき、判断は、セカンダリチャンネルXに関連するピッチ情報を符号化する(1605)というものである。
利用可能なビットバジェットがセカンダリチャンネルXのピッチ情報を符号化するという目的には少ないかまたはプライマリYチャンネルとセカンダリXチャンネルとの両方に関する音声信号が有声の特徴を持つことを判断モジュール1654が検出するとき、判断モジュールは、ステレオのピッチのコヒーレンスSpcを閾値Δと比較する。ビットバジェットが少ないとき、閾値Δは、ビットバジェットがより重大である(セカンダリチャンネルXのピッチ情報を符号化するのに十分である)場合と比較してより大きな値に設定される。ステレオのピッチのコヒーレンスSpcの絶対値が閾値Δ以下であるとき、モジュール1654は、セカンダリチャンネルXを符号化するためにプライマリチャンネルYからのピッチ情報を再利用する(1607)と判断する。ステレオのピッチのコヒーレンスSpcの値が閾値Δよりも大きいとき、モジュール1654は、セカンダリチャンネルXのピッチ情報を符号化する(1605)と判断する。
チャンネルが有声の特徴を有することを保証することは、滑らかなピッチの発展の見込みを高め、したがって、プライマリチャンネルのピッチを再利用することによってアーティファクトを付け加えるリスクを下げる。非限定的な例として、ステレオビットバジェットが14kb/s未満であり、ステレオのピッチのコヒーレンスSpcが6(Δ=6)以下であるとき、プライマリのピッチ情報が、セカンダリチャンネルXを符号化する際に再利用される可能性がある。別の非限定的な例によれば、ステレオビットバジェットが14kb/sを超えており、26kb/s未満である場合、プライマリYチャンネルとセカンダリXチャンネルとの両方が、有声であると考えられ、ステレオのピッチのコヒーレンスSpcが、より低い閾値Δ=3と比較され、それが、22kb/sのビットレートのプライマリチャンネルYのピッチ情報のより低い再利用のレートにつながる。
再び図15を再び参照すると、ビット割り当て推定器1553が、チャンネルミキサ251/351からの因子βを供給され、LPフィルタコヒーレンスアナライザ856からのプライマリチャンネルのLPフィルタ係数を再利用するかまたはセカンダリチャンネルのLPフィルタ係数を使用し、符号化するという判断を供給され、ピッチコヒーレンスアナライザ1552によって決定されたピッチ情報を供給される。プライマリおよびセカンダリチャンネルの符号化の要件に応じて、ビット割り当て推定器1553は、プライマリチャンネルYを符号化するためのビットバジェットをプライマリチャンネルのエンコーダ252/352に提供し、セカンダリチャンネルXを符号化するためのビットバジェットを判断モジュール1556に提供する。1つの可能な実装において、INACTIVEでないすべての内容に関して、総ビットレートのうちのわずかな部分が、セカンダリチャンネルに割り当てられる。そして、セカンダリチャンネルのビットレートが、
Bx = BM + (0.25・ε- 0.125)・(Bt - 2・BM) (21a)
のように上述のエネルギー正規化(再スケーリング)因子εに関連する量だけ増やされ、ここで、Bxは、セカンダリチャンネルXに割り当てられるビットレートを表し、Btは、利用可能な総ステレオビットレートを表し、BMは、セカンダリチャンネルに割り当てられる最小ビットレートを表し、通常、総ステレオビットレートの約20%である。最後に、εは、上述のエネルギー正規化因子を表す。したがって、プライマリチャンネルに割り当てられるビットレートは、総ステレオビットレートとセカンダリチャンネルのステレオビットレートとの間の差に対応する。代替的な実装において、セカンダリチャンネルのビットレートの割り当ては、以下のように記述され得る。
Figure 2018533058
ここでもやはり、Bxは、セカンダリチャンネルXに割り当てられるビットレートを表し、Btは、利用可能な総ステレオビットレートを表し、BMは、セカンダリチャンネルに割り当てられる最小ビットレートを表す。最後に、εidxは、エネルギー正規化因子の送信されるインデックスを表す。したがって、プライマリチャンネルに割り当てられるビットレートは、総ステレオビットレートとセカンダリチャンネルのビットレートとの間の差に対応する。すべての場合において、INACTIVEな内容に関して、セカンダリチャンネルのビットレートは、通常は2kb/sに近いビットレートを与えるセカンダリチャンネルのスペクトルの形状を符号化するために必要とされる最小ビットレートに設定される。
一方、信号分類器852は、セカンダリチャンネルXの信号の分類を判断モジュール1554に提供する。音声信号が非アクティブまたは無声であると判断モジュール1554が判定する場合、無声/非アクティブ符号化モジュール1555は、セカンダリチャンネルXのスペクトルの形状をマルチプレクサ254/354に提供する。代替的に、判断モジュール1554は、音声信号が非アクティブでも無声でもないときに判断モジュール1556に知らせる。そのような音声信号に関して、セカンダリチャンネルXを符号化するためのビットバジェットを使用して、判断モジュール1556は、4サブフレームモデルの一般のみの符号化モジュール854を使用してセカンダリチャンネルXを符号化するために十分な数の利用可能なビットが存在するかどうかを判定し、そうでない場合、判断モジュール1556は、2サブフレームモデル符号化モジュール855を使用してセカンダリチャンネルXを符号化することを選択する。4サブフレームモデルの一般のみの符号化モジュールを選択するために、セカンダリチャンネルのために利用可能なビットバジェットは、LP係数およびピッチ情報および利得を含む他のあらゆるものが量子化されるかまたは再利用されると、代数的コードブック(algebraic codebook)に少なくとも40ビットを割り当てるのに十分なだけ大きくなければならない。
上述の説明から理解されるように、4サブフレームモデルの一般のみの符号化動作804および対応する4サブフレームモデルの一般のみの符号化モジュール854においては、ビットレートをできるだけ低く保つために、参考文献[1]の5.2.3.1節に記載のACELPの探索が使用される。4サブフレームモデルの一般のみの符号化においては、ピッチ情報が、プライマリチャンネルから再利用される可能性がありまたは再利用されない可能性がある。そして、4サブフレームモデルの一般のみの符号化モジュール854におけるACELPの探索中に見つかったコーディングパラメータが、セカンダリチャンネルビットストリーム206/306を構築するために使用され、多重化されたビットストリーム207/307に含めるためにマルチプレクサ254/354に送信される。
代替的な2サブフレームモデル符号化動作805および対応する代替的な2サブフレームモデル符号化モジュール855において、一般コーディングモデルが、参考文献[1]の5.2.3.1節に記載のACELPと同様にして構築されるが、フレーム毎に2サブフレームのみで使用される。したがって、そのようにするために、サブフレームの長さが、64サンプルから128サンプルまで増やされるが、内部サンプリングレートを12.8kHzに引き続き保つ。ピッチコヒーレンスアナライザ1552がセカンダリチャンネルXを符号化するためにプライマリチャンネルYからのピッチ情報を再利用すると決定した場合、プライマリチャンネルYの初めの2つのサブフレームのピッチの平均が計算され、セカンダリチャンネルXの前半のフレームに関するピッチの推定値として使用される。同様に、プライマリチャンネルYの最後の2つのサブフレームのピッチの平均が計算され、セカンダリチャンネルXの後半のフレームのために使用される。プライマリチャンネルYから再利用されるとき、LPフィルタ係数が補間され、参考文献[1]の5.2.2.1節に記載のLPフィルタ係数の補間が、第2のおよび第4の補間因子によって第1のおよび第3の補間因子を置き換えることによって2サブフレーム方式に適応するように修正される。
図15の実施形態において、4サブフレーム符号化方式と2サブフレーム符号化方式とのどちらかに決定するプロセスは、セカンダリチャンネルXを符号化するために利用可能なビットバジェットによって駆動される。上述のように、セカンダリチャンネルXのビットバジェットは、利用可能な総ビットバジェット、因子βまたはエネルギー正規化因子ε、時間遅延補正(TDC)モジュールが存在するか否か、プライマリチャンネルYからのLPフィルタ係数および/またはピッチ情報の再利用が可能か否かなどの異なる要素から導出される。
LPフィルタ係数とピッチ情報との両方がプライマリチャンネルYから再利用されるときにセカンダリチャンネルXの2サブフレーム符号化モデルによって使用される絶対的な最小ビットレートは、一般信号に関して約2kb/sであり、一方、4サブフレーム符号化方式に関しては約3.6kb/sである。ACELPに似たコーダに関しては、2または4サブフレーム符号化モデルを使用すると、品質の大部分が、参考文献[1]の5.2.3.1.5節において定義された代数的コードブック(ACB)の探索に割り当てられ得るビットの数に由来する。
そのとき、品質を最大化するために、4サブフレームの代数的コードブック(ACB)の探索と2サブフレームの代数的コードブック(ACB)の探索との両方のために利用可能なビットバジェットを比較し、その後にコーディングされるものがすべて考慮に入れられるという発想である。たとえば、特定のフレームに関して、セカンダリチャンネルXをコーディングするために4kb/s(20msのフレーム毎に80ビット)が存在する場合、ピッチ情報が送信される必要があるが、LPフィルタ係数が再利用され得る。そのとき、80ビットから取り除かれるのは、代数的コードブックを符号化するために利用可能なビットバジェットを得るための、セカンダリチャンネルのシグナリング、セカンダリチャンネルのピッチ情報、利得、ならびに2サブフレームと4サブフレームとの両方のための代数的コードブックを符号化するための最小限の量のビットである。たとえば、4サブフレームの代数的コードブックを符号化するために少なくとも40ビットが利用可能である場合、4サブフレーム符号化モデルが選択され、そうでない場合、2サブフレーム方式が使用される。
3)部分的なビットストリームからのモノラル信号の近似
上述の説明において説明されたように、時間領域ダウンミックスは、モノラルと相性が良く、つまり、プライマリチャンネルYがレガシーのコーデックによって符号化され(上述の説明において述べられたように、任意の好適な種類のエンコーダがプライマリチャンネルのエンコーダ252/352として使用され得ることに留意されたい)、ステレオのビットがプライマリチャンネルビットストリームに付加される組み込み型の構造の場合、ステレオのビットが引き剥がされる可能性があり、レガシーのデコーダが仮説的なモノラル合成に主観的に近い合成を生み出す可能性がある。そのようにするためには、プライマリチャンネルYを符号化する前に、エンコーダ側で単純なエネルギーの正規化が必要とされる。プライマリチャンネルYのエネルギーを音声のモノラル信号バージョンのエネルギーに十分に近い値に再スケーリングすることによって、レガシーのデコーダによるプライマリチャンネルYの復号は、音声のモノラル信号バージョンのレガシーのデコーダによる復号と同様になり得る。エネルギーの正規化の関数は、関係(7)を使用して計算された線形化された長期相関差
Figure 2018533058
 と直接結びつけられ、関係(22)を使用して計算される。
Figure 2018533058
正規化のレベルが、図5に示される。実際には、関係(22)を使用する代わりに、正規化値εを因子βのそれぞれの可能な値(この例示的な実施形態においては31個の値)に関連付けるルックアップテーブルが使用される。たとえ統合化モデルでステレオ音声信号、たとえば、スピーチおよび/またはオーディオを符号化するときにこの追加のステップが必要とされないとしても、これは、ステレオのビットを復号することなくモノラル信号のみを復号するときに役立つ可能性がある。
4)ステレオの復号およびアップミックス
図10は、ステレオ音声復号方法およびステレオ音声復号システムを同時に示すブロック図である。図11は、図10のステレオ音声復号方法およびステレオ音声復号システムのさらなる特徴を示すブロック図である。
図10および図11のステレオ音声復号方法は、デマルチプレクサ1057によって実施される多重分離動作1007、プライマリチャンネルのデコーダ1054によって実施されるプライマリチャンネル復号動作1004、セカンダリチャンネルデコーダ1055によって実施されるセカンダリチャンネル復号動作1005、および時間領域チャンネルアップミキサ1056によって実施される時間領域アップミックス動作1006を含む。セカンダリチャンネル復号動作1005は、図11に示されるように、判断モジュール1151によって実施される判断動作1101、4サブフレーム一般デコーダ1152によって実施される4サブフレーム一般復号動作1102、および2サブフレーム一般/無声/非アクティブデコーダ1153によって実施される2サブフレーム一般/無声/非アクティブ復号動作1103を含む。
ステレオ音声復号システムにおいて、ビットストリーム1001が、エンコーダから受信される。デマルチプレクサ1057は、ビットストリーム1001を受信し、そのビットストリーム1001から、プライマリチャンネルY(ビットストリーム1002)の符号化パラメータ、セカンダリチャンネルX(ビットストリーム1003)の符号化パラメータ、およびプライマリチャンネルのデコーダ1054、セカンダリチャンネルデコーダ1055、およびチャンネルアップミキサ1056に供給される因子βを抽出する。上述のように、因子βは、プライマリチャンネルのエンコーダ252/352とセカンダリチャンネルのエンコーダ253/353との両方がビットレートの割り当てを決定するためのインジケータとして使用され、したがって、プライマリチャンネルのデコーダ1054およびセカンダリチャンネルデコーダ1055は、両方とも、ビットストリームを適切に復号するために因子βを再利用している。
プライマリチャンネルの符号化パラメータは、受信されたビットレートのACELPコーディングモデルに対応し、レガシーのまたは修正されたEVSコーダに関連する可能性がある(上述の説明において述べられたように、任意の好適な種類のエンコーダがプライマリチャンネルのエンコーダ252として使用され得ることにここで留意されたい)。プライマリチャンネルのデコーダ1054は、参考文献[1]と同様の方法を使用してプライマリチャンネル符号化パラメータ(図11に示されるようコーデックモード1、β、LPC1、Pitch1、固定のコードブックインデックス1、および利得1)を復号して復号されたプライマリチャンネルY'を生成するためにビットストリーム1002を供給される。
セカンダリチャンネルデコーダ1055によって使用されるセカンダリチャンネル符号化パラメータは、セカンダリチャンネルXを復号するために使用されるモデルに対応し、以下を含み得る。
(a)プライマリチャンネルYからのLPフィルタ係数(LPC1)および/またはその他の符号化パラメータ(たとえば、ピッチのラグPitch1など)を再利用する一般コーディングモデル。セカンダリチャンネルデコーダ1055の4サブフレーム一般デコーダ1152(図11)は、デコーダ1054からプライマリチャンネルYからのLPフィルタ係数(LPC1)および/もしくはその他の符号化パラメータ(たとえば、ピッチのラグPitch1など)、ならびに/またはビットストリーム1003(図11に示されるβ、Pitch2、固定のコードブックインデックス2、および利得2)を供給され、符号化モジュール854(図8)の方法の反対の方法を使用して復号されたセカンダリチャンネルX'を生成する。
(b)その他のコーディングモデルは、プライマリチャンネルYからのLPフィルタ係数(LPC1)および/またはその他の符号化パラメータ(たとえば、ピッチのラグPitch1など)を再利用する可能性がありまたは再利用しない可能性があり、ハーフバンド一般コーディングモデル、低レート無声コーディングモデル、および低レート非アクティブコーディングモデルを含む。例として、非アクティブコーディングモデルは、プライマリチャンネルのLPフィルタ係数LPC1を再利用する可能性がある。セカンダリチャンネルデコーダ1055の2サブフレーム一般/無声/非アクティブデコーダ1153(図11)は、プライマリチャンネルYからのLPフィルタ係数(LPC1)および/もしくはその他の符号化パラメータ(たとえば、ピッチのラグPitch1など)、ならびに/またはビットストリーム1003(図11に示されるコーデックモード2、β、LPC2、Pitch2、固定のコードブックインデックス2、および利得2)を供給され、符号化モジュール855(図8)の方法の反対の方法を使用して復号されたセカンダリチャンネルX'を生成する。
セカンダリチャンネルX(ビットストリーム1003)に対応する受信された符号化パラメータは、使用されているコーディングモデルに関連する情報(コーデックモード2)を含む。判断モジュール1151は、この情報(コーデックモード2)を使用してどちらのコーディングモデルが使用されるべきであるかを決定し、4サブフレーム一般デコーダ1152および2サブフレーム一般/無声/非アクティブデコーダ1153に示す。
組み込み型の構造の場合、因子βが、デコーダ側のルックアップテーブル(図示せず)に記憶されるエネルギースケーリングインデックスを取り出すために使用され、時間領域アップミックス動作1006を実行する前にプライマリチャンネルY'を再スケーリングするために使用される。最後に、因子βは、チャンネルアップミキサ1056に供給され、復号されたプライマリY'チャンネルおよびセカンダリX'チャンネルをアップミックスするために使用される。時間領域アップミックス動作1006は、関係(23)および(24)を使用して復号された右R'チャンネルおよび左L'チャンネルを得るためにダウンミックスの関係(9)および(10)の逆として実行される。
Figure 2018533058
ここで、n = 0,…,N-1は、フレーム内のサンプルのインデックスであり、tは、フレームのインデックスである。
5)時間領域の符号化および周波数領域の符号化の統合
周波数領域のコーディングモードが使用される現在の技術の応用のために、いくらか複雑性を取り除くかまたはデータフローを簡素化するために周波数領域において時間のダウンミックスを実行することも考えられる。そのような場合、時間領域ダウンミックスの利点を保つために、すべてのスペクトル係数に同じミックス因子(mixing factor)が適用される。これは、周波数領域ダウンミックスの応用のほとんどの場合と同様に周波数帯域毎にスペクトル係数を適用することからの逸脱であることが、観察され得る。ダウンミキサ456は、関係(25.1)および(25.2)を計算するように適合され得る。
FY(k) = FR(k)・(1 - β(t)) + FL(k)・β(t) (25.1)
FX(k) = FL(k)・(1 - β(t)) - FR(k)・β(t) (25.2)
ここで、FR(k)は、右チャンネルRの周波数係数kを表し、同様に、FL(k)は、左チャンネルLの周波数係数kを表す。そして、プライマリYチャンネルおよびセカンダリXチャンネルが、ダウンミックスされた信号の時間表現を得るために逆周波数変換を適用することによって計算される。
図17および図18は、プライマリYチャンネルおよびセカンダリXチャンネルの時間領域のコーディングと周波数領域のコーディングとの間を切り替えることができる周波数領域ダウンミックスを使用する時間領域ステレオ符号化方法およびシステムの可能な実装を示す。
そのような方法およびシステムの第1の変化形が、時間領域および周波数領域において動作可能である時間領域のダウンスイッチング(down-switching)を使用するステレオ符号化方法およびシステムを同時に示すブロック図である図17に示される。
図17において、ステレオ符号化方法およびシステムは、前の図を参照して説明され、同じ参照番号によって特定される多くの上述の動作およびモジュールを含む。判断モジュール1751(判断動作1701)は、時間遅延補正器1750からの左L'チャンネルおよび右R'チャンネルが時間領域において符号化されるべきであるかまたは周波数領域において符号化されるべきであるのかを判定する。時間領域のコーディングが選択される場合、図17のステレオ符号化方法およびシステムは、たとえば、前の図のステレオ符号化方法およびシステムと実質的に同じ方法で、図15の実施形態と同様に限定なしに動作する。
判断モジュール1751が周波数コーディングを選択する場合、時間-周波数コンバータ1752(時間-周波数変換動作1702)が、左L'チャンネルおよび右R'チャンネルを周波数領域に変換する。周波数領域ダウンミキサ1753(周波数領域ダウンミックス動作1703)は、プライマリYおよびセカンダリX周波数領域チャンネルを出力する。周波数領域のプライマリチャンネルは、周波数-時間コンバータ1754(周波数-時間変換動作1704)によって時間領域に変換して戻され、結果として得られる時間領域のプライマリチャンネルYが、プライマリチャンネルのエンコーダ252/352に適用される。周波数領域ダウンミキサ1753からの周波数領域のセカンダリチャンネルXは、通常のパラメトリックおよび/または残差エンコーダ1755(パラメトリックおよび/または残差符号化動作1705)によって処理される。
図18は、時間領域および周波数領域において動作可能である周波数領域のダウンミックを使用するその他のステレオ符号化方法およびシステムを同時に示すブロック図である。図18において、ステレオ符号化方法およびシステムは、図17のステレオ符号化方法およびシステムと同様であり、新しい動作およびモジュールのみが、説明される。
時間領域アナライザ1851(時間領域分析動作1801)が、上述の時間領域チャンネルミキサ251/351(時間領域ダウンミックス動作201/301)を置き換える。時間領域アナライザ1851は、図4のモジュールのうちのほとんどを含むが、時間領域ダウンミキサ456は除く。したがって、時間領域アナライザ1851の役割は、もっぱら因子βの計算を提供することである。この因子βは、プリプロセッサ851と、時間領域の符号化のために、周波数領域ダウンミキサ1753から受信された周波数領域のセカンダリXチャンネルおよびプライマリYチャンネルを時間領域にそれぞれ変換する周波数-時間領域コンバータ1852および1853(周波数-時間領域変換動作1802および1803)とに供給される。したがって、コンバータ1852の出力は、プリプロセッサ851に提供される時間領域のセカンダリチャンネルXであり、一方、コンバータ1853の出力は、プリプロセッサ1551とエンコーダ252/352との両方に提供される時間領域のプライマリチャンネルYである。
6)例示的なハードウェア構成
図12は、上述のステレオ音声符号化システムおよびステレオ音声復号システムの各々を形成するハードウェア構成要素の例示的な構成の簡略化されたブロック図である。
ステレオ音声符号化システムおよびステレオ音声復号システムの各々は、モバイル端末の一部として、ポータブルメディアプレイヤーの一部として、または任意の同様のデバイスに実装され得る。(図12の1200として特定される)ステレオ音声符号化システムおよびステレオ音声復号システムの各々は、入力1202、出力1204、プロセッサ1206、およびメモリ1208を含む。
入力1202は、ステレオ音声符号化システムの場合にデジタルもしくはアナログ形式の入力ステレオ音声信号の左Lチャンネルおよび右Rチャンネルを受信するか、またはステレオ音声復号システムの場合にビットストリーム1001を受信するように構成される。出力1204は、ステレオ音声符号化システムの場合に多重化されたビットストリーム207/307を供給するか、またはステレオ音声復号システムの場合に復号された左チャンネルL'および右チャンネルR'を供給するように構成される。入力1202および出力1204は、共通のモジュール、たとえば、シリアル入力/出力デバイスに実装され得る。
プロセッサ1206は、入力1202、出力1204、およびメモリ1208に動作可能なように接続される。プロセッサ1206は、図2、図3、図4、図8、図9、図13、図14、図15、図16、図17、および図18に示されたステレオ音声符号化システムならびに図10および図11に示されたステレオ音声復号システムの各々の様々なモジュールの機能を支援するコード命令を実行するための1つまたは複数のプロセッサとして実現される。
メモリ1208は、プロセッサ1206によって実行可能なコード命令を記憶するための非一時的なメモリ、特に、実行されるときにプロセッサに本開示において説明されるようにステレオ音声符号化方法およびシステムならびにステレオ音声復号方法およびシステムの動作およびモジュールを実施させる非一時的命令を含むプロセッサ可読メモリを含み得る。メモリ1208は、プロセッサ1206によって実行される様々な機能からの中間処理データを記憶するためのランダムアクセスメモリまたはバッファを含む可能性もある。
当業者は、ステレオ音声符号化方法およびシステムならびにステレオ音声復号方法およびシステムの説明が例示的であるに過ぎず、限定的であるようにまったく意図されていないことを認識するであろう。その他の実施形態は、本開示の恩恵を受けるそのような当業者にそれらのその他の実施形態自体をすぐに示唆する。さらに、開示されるステレオ音声符号化方法およびシステムならびにステレオ音声復号方法およびシステムは、ステレオ音声を符号化および復号する既存のニーズおよび問題に対する価値ある解決策を提供するためにカスタマイズされ得る。
明瞭にするために、ステレオ音声符号化方法およびシステムならびにステレオ音声復号方法およびシステムの実装の決まり切った特徴のすべてが示され、説明されている訳ではない。もちろん、ステレオ音声符号化方法およびシステムならびにステレオ音声復号方法およびシステムのいずれのそのような実際の実装の開発においても、アプリケーション、システム、ネットワーク、およびビジネスに関連する制約に準拠することなどの開発者の特定の目的を実現するために数多くの実装に固有の判断がなされる必要がある可能性があり、これらの特定の目的が実装毎および開発者毎に変わることは、理解されるであろう。さらに、開発の努力は複雑で、時間がかかる可能性があるが、それでもなお、本開示の恩恵を受ける音声処理の分野の通常の技術を有する者にとっては工学技術の日常的な仕事であることが、理解されるであろう。
本開示によれば、本明細書において説明されたモジュール、処理動作、および/またはデータ構造は、様々な種類のオペレーティングシステム、計算プラットフォーム、ネットワークデバイス、コンピュータプログラム、および/または汎用機械を使用して実装され得る。加えて、当業者は、配線されたデバイス、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)などのより汎用目的の性質の少ないデバイスも使用され得ることを認めるであろう。一連の動作および下位動作を含む方法がプロセッサ、コンピュータまたはマシンによって実装され、それらの動作および下位動作がプロセッサ、コンピュータ、またはマシンによって読み取り可能な一連の非一時的なコード命令として記憶され得る場合、それらの動作および下位動作は、有形のおよび/または非一時的な媒体に記憶される可能性がある。
本明細書において説明されたステレオ音声符号化方法およびシステムならびにステレオ音声復号方法およびシステムのモジュールは、本明細書において説明された目的に好適なソフトウェア、ファームウェア、ハードウェア、またはソフトウェア、ファームウェア、もしくはハードウェアの任意の組合せを含み得る。
本明細書において説明されたステレオ音声符号化方法およびステレオ音声復号方法において、様々な動作および下位動作は、様々な順序で実行される可能性があり、動作および下位動作の一部は、任意である可能性がある。
本開示は本開示の非限定的な例示的実施形態として上で説明されたが、これらの実施形態は、本開示の精神および本質を逸脱することなく添付の請求項の範囲内で随意に修正され得る。
参考文献
以下の参考文献は、本明細書において参照され、それらの参考文献のすべての内容は、参照により本明細書に組み込まれる。
[1] 3GPP TS 26.445, v.12.0.0，「Codec for Enhanced Voice Services (EVS); Detailed Algorithmic Description」，2014年9月
[2] M. Neuendorf, M. Multrus, N. Rettelbach, G. Fuchs, J. Robillard, J. Lecompte, S. Wilde, S. Bayer, S. Disch, C. Helmrich, R. Lefevbre, P. Gournayら，「The ISO/MPEG Unified Speech and Audio Coding Standard - Consistent High Quality for All Content Types and at All Bit Rates」，J. Audio Eng. Soc.，第61巻，第12号，956〜977頁，2013年12月
[3] B. Bessette, R. Salami, R. Lefebvre, M. Jelinek, J. Rotola-Pukkila, J. Vainio, H. Mikkola, およびK. Jarvinen，「The Adaptive Multi-Rate Wideband Speech Codec (AMR-WB)」，Special Issue of IEEE Trans. Speech and Audio Proc.，第10巻，620〜636頁，2002年11月
[4] R.G. van der WaalおよびR.N.J. Veldhuis，「Subband coding of stereophonic digital audio signals」，Proc. IEEE ICASSP，第5巻，3601〜3604頁，1991年4月
[5] Dai Yang, Hongmei Ai, Chris Kyriakakis, およびC.-C. Jay Kuo，「High-Fidelity Multichannel Audio Coding With Karhunen-Loeve Transform」，IEEE Trans. Speech and Audio Proc.，第11巻，第4号，365〜379頁，2003年7月
[6] J. Breebaart, S. van de Par, A. Kohlrausch, およびE. Schuijers，「Parametric Coding of Stereo Audio」，EURASIP Journal on Applied Signal Processing，第9号，1305〜1322頁，2005年
[7] 3GPP TS 26.290 V9.0.0，「Extended Adaptive Multi-Rate - Wideband (AMR-WB+) codec; Transcoding functions (Release 9)」，2009年9月
[8] Jonathan A. Gibbs，「Apparatus and method for encoding a multi-channel audio signal」，米国特許第8577045(B2)号
100 ステレオ音声処理および通信システム
101 通信リンク
102 マイクロフォン
103 左
104 アナログ-デジタル(A/D)コンバータ
105 左
106 ステレオ音声エンコーダ
107 ビットストリーム
108 誤り訂正エンコーダ
109 エラー訂正デコーダ
110 ステレオ音声デコーダ
111 ビットストリーム
112 ビットストリーム
113 左
114 左
115 デジタル-アナログ(D/A)コンバータ
116 ラウドスピーカユニット
122 マイクロフォン
123 右
125 右
133 右
134 右
136 ラウドスピーカユニット
201 時間領域ダウンミックス動作
202 プライマリチャンネル符号化動作
203 セカンダリチャンネル符号化動作
204 多重化動作
205 ビットストリーム
206 ビットストリーム
207 多重化されたビットストリーム
208 ビット
251 チャンネルミキサ
252 プライマリチャンネルのエンコーダ
253 セカンダリチャンネルのエンコーダ
254 マルチプレクサ
301 時間領域ダウンミックス動作
302 プライマリチャンネル符号化動作
303 セカンダリチャンネル符号化動作
304 多重化動作
305 ビットストリーム
306 ビットストリーム
307 多重化されたビットストリーム
351 チャンネルミキサ
352 プライマリチャンネルのエンコーダ
353 セカンダリチャンネルのエンコーダ
354 マルチプレクサ
401 エネルギー分析下位動作
402 エネルギー動向分析下位動作
403 LおよびRチャンネル正規化相関分析下位動作
404 長期(LT)相関差計算下位動作
405 長期相関差-因子β変換および量子化下位動作
406 時間領域ダウンミックス下位動作
451 エネルギーアナライザ
452 エネルギー動向アナライザ
453 LおよびR正規化相関アナライザ
454 計算器
455 コンバータおよび量子化器
456 時間領域ダウンミキサ
801 低複雑性前処理動作
802 信号分類動作
803 判断動作
804 4サブフレームモデルの一般のみの符号化動作
805 2サブフレームモデル符号化動作
806 LPフィルタコヒーレンス分析動作
807 LPフィルタ係数(LPC)および/またはピッチのラグ
851 低複雑性プリプロセッサ
852 信号分類器
853 判断モジュール
854 4サブフレームモデルの一般のみの符号化モジュール
855 2サブフレームモデル符号化モジュール
856 LPフィルタコヒーレンスアナライザ
901 重み付け下位動作
902 ユークリッド距離分析下位動作
903 プライマリチャンネルLPフィルタ分析下位動作
904 重み付け下位動作
906 セカンダリチャンネル残差フィルタリング動作
907 残差エネルギー計算下位動作
908 減算下位動作
910 音声エネルギー計算下位動作
911 利得比計算下位動作
912 セカンダリチャンネルLPフィルタ分析下位動作
913 残差フィルタリング下位動作
914 残差エネルギー計算下位動作
915 減算下位動作
916 比較下位動作
917 比較下位動作
918 セカンダリチャンネルLPフィルタ使用判断下位動作
919 プライマリチャンネルLPフィルタ再利用判断下位動作
951 重み付けフィルタ
952 ユークリッド距離アナライザ
953 LPフィルタアナライザ
954 重み付けフィルタ
956 セカンダリチャンネル残差フィルタ
957 残差のエネルギーの計算器
958 減算器
960 エネルギーの計算器
962 LPフィルタアナライザ
963 残差フィルタ
964 残差のエネルギーの計算器
965 減算器
966 比較器
967 比較器
968 判断モジュール
969 判断モジュール
1001 ビットストリーム
1002 ビットストリーム
1003 ビットストリーム
1004 プライマリチャンネル復号動作
1005 セカンダリチャンネル復号動作
1006 時間領域アップミックス動作
1007 多重分離動作
1054 プライマリチャンネルのデコーダ
1055 セカンダリチャンネルのデコーダ
1056 時間領域チャンネルアップミキサ
1057 デマルチプレクサ
1101 判断動作
1102 4サブフレーム一般復号動作
1103 2サブフレーム一般/無声/非アクティブ復号動作
1151 判断モジュール
1152 4サブフレーム一般デコーダ
1153 2サブフレーム一般/無声/非アクティブデコーダ
1200 ステレオ音声符号化システムおよびステレオ音声復号システム
1202 入力
1204 出力
1206 プロセッサ
1208 メモリ
1301 エネルギー分析下位動作
1302 エネルギー動向分析下位動作
1303 LおよびRチャンネル正規化相関分析下位動作
1304 事前適応因子計算下位動作
1305 正規化された相関に事前適応因子を適用する動作
1306 長期(LT)相関差計算下位動作
1307 利得-因子β変換および量子化下位動作
1308 時間領域ダウンミックス下位動作
1351 エネルギーアナライザ
1352 エネルギー動向アナライザ
1353 LおよびR正規化相関アナライザ
1354 事前適応因子計算器
1355 計算器
1356 長期(LT)相関差の計算器
1357 コンバータおよび量子化器
1358 時間領域ダウンミキサ
1401 位相ずれ信号検出動作
1402 切り替わり位置検出動作
1403 チャンネルミキサ選択動作
1404 位相ずれに特有の時間領域ダウンミックス動作
1450 位相ずれ信号検出器
1451 位相ずれ信号検出器
1452 切り替わり位置検出器
1453 チャンネルミキサセレクタ
1454 位相ずれに特有の時間領域ダウンチャンネルミキサ
1501 前処理動作
1502 ピッチコヒーレンス分析動作
1504 無声/非アクティブ判断動作
1505 無声/非アクティブコーディング判断動作
1506 2/4サブフレームモデル判断動作
1551 プリプロセッサ

Claims (17)

  1. ステレオ音声信号の左チャンネルおよび右チャンネルを符号化するためのステレオ音声符号化方法であって、
    プライマリチャンネルおよびセカンダリチャンネルを生成するために前記ステレオ音声信号の前記左チャンネルおよび前記右チャンネルをダウンミックスするステップと、
    前記プライマリチャンネルを符号化し、前記セカンダリチャンネルを符号化するステップであって、前記プライマリチャンネルを符号化するための第1のビットバジェットおよび前記セカンダリチャンネルを符号化するための第2のビットバジェットを決定することを含む、ステップと
    を含み、
    前記第2のビットバジェットが十分である場合、前記セカンダリチャンネルが、4サブフレームモデルを使用して符号化され、
    前記第2のビットバジェットが前記4サブフレームモデルを使用するのに不十分である場合、前記セカンダリチャンネルが、2サブフレームモデルを使用して符号化される、方法。
  2. 前記ステレオ音声信号の前記左チャンネルおよび前記右チャンネルをダウンミックスする前記ステップが、前記プライマリチャンネルおよび前記セカンダリチャンネルを生成するために前記ステレオ音声信号の前記左チャンネルおよび前記右チャンネルを時間領域ダウンミックスするステップを含む、請求項1に記載の方法。
  3. 前記プライマリチャンネルを符号化する前記ステップが、プライマリチャンネルのコーディングパラメータを生成するステップを含み、前記セカンダリチャンネルを符号化する前記ステップが、セカンダリチャンネルのコーディングパラメータを生成するステップを含み、前記方法が、
    前記プライマリチャンネルの符号化から再利用されない(a)LPフィルタ係数および/または(b)ピッチ情報、ならびに利得を含むセカンダリチャンネルのコーディングパラメータを現在のフレームにおいて符号化するために必要とされるビットバジェットを決定するステップと、
    残りのビットバジェットが前記現在のフレームにおいて4つの代数的コードブックを量子化することを可能にするのかまたは2つだけの代数的コードブックを量子化することを可能にするのかを判定するステップと
    を含む、請求項1または2に記載の方法。
  4. 前記2サブフレームモデルが使用されるときにサブフレーム長を倍にするステップと、
    前記2サブフレームモデルを考慮に入れることによって前記プライマリチャンネルのLPフィルタ係数を適応させるために、再利用されるときに前記プライマリチャンネルの前記LPフィルタ係数を補間するステップと
    を含む、請求項3に記載の方法。
  5. 時間領域ダウンミックスと周波数領域ダウンミックスとの間で選択を行うステップを含む、請求項1から4のいずれか一項に記載の方法。
  6. 前記左チャンネルおよび前記右チャンネルを時間領域から周波数領域に変換するステップと、
    周波数領域のプライマリチャンネルおよび周波数領域のセカンダリチャンネルを生成するために周波数領域の左チャンネルおよび周波数領域の右チャンネルを周波数領域ダウンミックスするステップと
    を含む、請求項1から5のいずれか一項に記載の方法。
  7. 前記周波数領域のプライマリチャンネルおよび前記周波数領域のセカンダリチャンネルを時間領域エンコーダによる符号化のために時間領域に変換して戻すステップを含む、請求項6に記載の方法。
  8. ステレオ音声信号の左チャンネルおよび右チャンネルを符号化するためのステレオ音声符号化システムであって、
    プライマリチャンネルおよびセカンダリチャンネルを生成するための前記ステレオ音声信号の前記左チャンネルおよび前記右チャンネルのダウンミキサと、
    前記プライマリチャンネルのエンコーダおよび前記セカンダリチャンネルのエンコーダと、
    前記プライマリチャンネルを符号化するための第1のビットバジェットおよび前記セカンダリチャンネルを符号化するための第2のビットバジェットのビット割り当て推定器と、
    前記第2のビットバジェットが十分である場合、4サブフレームモデルを使用する前記セカンダリチャンネルの符号化を選択し、前記第2のビットバジェットが前記4サブフレームモデルを使用するのに不十分である場合、2サブフレームモデルを使用する前記セカンダリチャンネルの符号化を選択するための判断モジュールと
    を含む、システム。
  9. 前記ダウンミキサが、前記プライマリチャンネルおよび前記セカンダリチャンネルを生成するための前記ステレオ音声信号の前記左チャンネルおよび前記右チャンネルの時間領域ダウンミキサである、請求項8に記載のシステム。
  10. 前記プライマリチャンネルのエンコーダが、プライマリチャンネルのコーディングパラメータを生成し、
    前記セカンダリチャンネルのエンコーダが、
    セカンダリチャンネルのコーディングパラメータを生成し、
    前記プライマリチャンネルの符号化から再利用されない(a)LPフィルタ係数および/または(b)ピッチ情報、ならびに利得を含むセカンダリチャンネルのコーディングパラメータを現在のフレームにおいて符号化するために必要とされるビットバジェットを決定し、
    残りのビットバジェットが前記現在のフレームにおいて4つの代数的コードブックを量子化することを可能にするのかまたは2つだけの代数的コードブックを量子化することを可能にするのかを判定する、請求項8または9に記載のシステム。
  11. 前記セカンダリチャンネルのエンコーダが、
    前記2サブフレームモデルが使用されるときにサブフレーム長を倍にし、
    前記2サブフレームモデルを考慮に入れることによって前記プライマリチャンネルのLPフィルタ係数を適応させるために、再利用されるときに前記プライマリチャンネルの前記LPフィルタ係数を補間する、請求項10に記載のシステム。
  12. 前記ダウンミキサが、時間領域ダウンミックスと周波数領域ダウンミックスとの間で選択を行う、請求項8から11のいずれか一項に記載のシステム。
  13. 時間領域から周波数領域への前記左チャンネルおよび前記右チャンネルのコンバータを含み、
    前記ダウンミキサが、周波数領域のプライマリチャンネルおよび周波数領域のセカンダリチャンネルを生成するために周波数領域の左チャンネルおよび周波数領域の右チャンネルをミックスする、請求項8から12のいずれか一項に記載のシステム。
  14. 時間領域エンコーダによる符号化のために時間領域に戻す、前記周波数領域のプライマリチャンネルおよび前記周波数領域のセカンダリチャンネルのコンバータを含む、請求項13に記載のシステム。
  15. ステレオ音声信号の左チャンネルおよび右チャンネルを符号化するためのステレオ音声符号化システムであって、
    少なくとも1つのプロセッサと、
    前記プロセッサに接続された、非一時的命令を含むメモリと
    を含み、前記命令は、実行されるときに前記プロセッサに、
    プライマリチャンネルおよびセカンダリチャンネルを生成するための前記ステレオ音声信号の前記左チャンネルおよび前記右チャンネルのダウンミキサと、
    前記プライマリチャンネルのエンコーダおよび前記セカンダリチャンネルのエンコーダと、
    前記プライマリチャンネルを符号化するための第1のビットバジェットおよび前記セカンダリチャンネルを符号化するための第2のビットバジェットのビット割り当て推定器と、
    前記第2のビットバジェットが十分である場合、4サブフレームモデルを使用する前記セカンダリチャンネルの符号化を選択し、前記第2のビットバジェットが前記4サブフレームモデルを使用するのに不十分である場合、2サブフレームモデルを使用する前記セカンダリチャンネルの符号化を選択するための判断モジュールと
    を実施させる、システム。
  16. ステレオ音声信号の左チャンネルおよび右チャンネルを符号化するためのステレオ音声符号化システムであって、
    少なくとも1つのプロセッサと、
    前記プロセッサに接続された、非一時的命令を含むメモリと
    を含み、前記命令は、実行されるときに前記プロセッサに、
    プライマリチャンネルおよびセカンダリチャンネルを生成するために前記ステレオ音声信号の前記左チャンネルおよび前記右チャンネルをダウンミックスすることと、
    前記プライマリチャンネルを符号化し、前記セカンダリチャンネルを符号化することと、
    前記プライマリチャンネルを符号化するための第1のビットバジェットおよび前記セカンダリチャンネルを符号化するための第2のビットバジェットを推定することと、
    前記第2のビットバジェットが十分である場合、4サブフレームモデルを使用する前記セカンダリチャンネルの符号化を選択し、前記第2のビットバジェットが前記4サブフレームモデルを使用するのに不十分である場合、2サブフレームモデルを使用する前記セカンダリチャンネルの符号化を選択することと
    を行わせる、システム。
  17. 実行されるときにプロセッサに請求項1から7のいずれか一項に記載の方法の動作を実施させる非一時的命令を含むプロセッサ可読メモリ。
JP2018515518A 2015-09-25 2016-09-22 ビットバジェットに応じて２サブフレームモデルと４サブフレームモデルとの間で選択を行うステレオ音声信号の左チャンネルおよび右チャンネルを符号化するための方法およびシステム Active JP6976934B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021182560A JP7244609B2 (ja) 2015-09-25 2021-11-09 ビットバジェットに応じて２サブフレームモデルと４サブフレームモデルとの間で選択を行うステレオ音声信号の左チャンネルおよび右チャンネルを符号化するための方法およびシステム

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201562232589P 2015-09-25 2015-09-25
US62/232,589 2015-09-25
US201662362360P 2016-07-14 2016-07-14
US62/362,360 2016-07-14
PCT/CA2016/051109 WO2017049400A1 (en) 2015-09-25 2016-09-22 Method and system for encoding left and right channels of a stereo sound signal selecting between two and four sub-frames models depending on the bit budget

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021182560A Division JP7244609B2 (ja) 2015-09-25 2021-11-09 ビットバジェットに応じて２サブフレームモデルと４サブフレームモデルとの間で選択を行うステレオ音声信号の左チャンネルおよび右チャンネルを符号化するための方法およびシステム

Publications (2)

Publication Number Publication Date
JP2018533058A true JP2018533058A (ja) 2018-11-08
JP6976934B2 JP6976934B2 (ja) 2021-12-08

Family

ID=58385516

Family Applications (6)

Application Number Title Priority Date Filing Date
JP2018515504A Active JP6804528B2 (ja) 2015-09-25 2016-09-22 ステレオ音声信号をプライマリチャンネルおよびセカンダリチャンネルに時間領域ダウンミックスするために左チャンネルと右チャンネルとの間の長期相関差を使用する方法およびシステム
JP2018515518A Active JP6976934B2 (ja) 2015-09-25 2016-09-22 ビットバジェットに応じて２サブフレームモデルと４サブフレームモデルとの間で選択を行うステレオ音声信号の左チャンネルおよび右チャンネルを符号化するための方法およびシステム
JP2018515517A Active JP6887995B2 (ja) 2015-09-25 2016-09-22 セカンダリチャンネルを符号化するためにプライマリチャンネルのコーディングパラメータを使用するステレオ音声信号を符号化するための方法およびシステム
JP2020199441A Active JP7140817B2 (ja) 2015-09-25 2020-12-01 ステレオ音声信号をプライマリチャンネルおよびセカンダリチャンネルに時間領域ダウンミックスするために左チャンネルと右チャンネルとの間の長期相関差を使用する方法およびシステム
JP2021084635A Active JP7124170B2 (ja) 2015-09-25 2021-05-19 セカンダリチャンネルを符号化するためにプライマリチャンネルのコーディングパラメータを使用するステレオ音声信号を符号化するための方法およびシステム
JP2021182560A Active JP7244609B2 (ja) 2015-09-25 2021-11-09 ビットバジェットに応じて２サブフレームモデルと４サブフレームモデルとの間で選択を行うステレオ音声信号の左チャンネルおよび右チャンネルを符号化するための方法およびシステム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018515504A Active JP6804528B2 (ja) 2015-09-25 2016-09-22 ステレオ音声信号をプライマリチャンネルおよびセカンダリチャンネルに時間領域ダウンミックスするために左チャンネルと右チャンネルとの間の長期相関差を使用する方法およびシステム

Family Applications After (4)

Application Number Title Priority Date Filing Date
JP2018515517A Active JP6887995B2 (ja) 2015-09-25 2016-09-22 セカンダリチャンネルを符号化するためにプライマリチャンネルのコーディングパラメータを使用するステレオ音声信号を符号化するための方法およびシステム
JP2020199441A Active JP7140817B2 (ja) 2015-09-25 2020-12-01 ステレオ音声信号をプライマリチャンネルおよびセカンダリチャンネルに時間領域ダウンミックスするために左チャンネルと右チャンネルとの間の長期相関差を使用する方法およびシステム
JP2021084635A Active JP7124170B2 (ja) 2015-09-25 2021-05-19 セカンダリチャンネルを符号化するためにプライマリチャンネルのコーディングパラメータを使用するステレオ音声信号を符号化するための方法およびシステム
JP2021182560A Active JP7244609B2 (ja) 2015-09-25 2021-11-09 ビットバジェットに応じて２サブフレームモデルと４サブフレームモデルとの間で選択を行うステレオ音声信号の左チャンネルおよび右チャンネルを符号化するための方法およびシステム

Country Status (16)

Country Link
US (8) US10339940B2 (ja)
EP (8) EP3353784B1 (ja)
JP (6) JP6804528B2 (ja)
KR (3) KR102636424B1 (ja)
CN (4) CN108352162B (ja)
AU (1) AU2016325879B2 (ja)
CA (4) CA2997296C (ja)
DK (1) DK3353779T3 (ja)
ES (4) ES2904275T3 (ja)
MX (4) MX383266B (ja)
MY (2) MY186661A (ja)
PL (1) PL3353779T3 (ja)
PT (1) PT3353779T (ja)
RU (6) RU2763374C2 (ja)
WO (5) WO2017049400A1 (ja)
ZA (2) ZA201801675B (ja)

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2904275T3 (es) 2015-09-25 2022-04-04 Voiceage Corp Método y sistema de decodificación de los canales izquierdo y derecho de una señal sonora estéreo
US12125492B2 (en) 2015-09-25 2024-10-22 Voiceage Coproration Method and system for decoding left and right channels of a stereo sound signal
CN107742521B (zh) * 2016-08-10 2021-08-13 华为技术有限公司 多声道信号的编码方法和编码器
WO2018058379A1 (zh) * 2016-09-28 2018-04-05 华为技术有限公司 一种处理多声道音频信号的方法、装置和系统
PT3539127T (pt) * 2016-11-08 2020-12-04 Fraunhofer Ges Forschung Dispositivo de downmix e método para executar o downmix de pelo menos dois canais e codificador multicanal e descodificador multicanal
CN108269577B (zh) 2016-12-30 2019-10-22 华为技术有限公司 立体声编码方法及立体声编码器
ES2911515T3 (es) * 2017-04-10 2022-05-19 Nokia Technologies Oy Codificación de audio
EP3396670B1 (en) * 2017-04-28 2020-11-25 Nxp B.V. Speech signal processing
US10224045B2 (en) 2017-05-11 2019-03-05 Qualcomm Incorporated Stereo parameters for stereo decoding
CN109300480B (zh) * 2017-07-25 2020-10-16 华为技术有限公司 立体声信号的编解码方法和编解码装置
CN117133297A (zh) * 2017-08-10 2023-11-28 华为技术有限公司 时域立体声参数的编码方法和相关产品
CN109389984B (zh) 2017-08-10 2021-09-14 华为技术有限公司 时域立体声编解码方法和相关产品
CN113782039A (zh) * 2017-08-10 2021-12-10 华为技术有限公司 时域立体声编解码方法和相关产品
CN109389987B (zh) * 2017-08-10 2022-05-10 华为技术有限公司 音频编解码模式确定方法和相关产品
CN109427338B (zh) 2017-08-23 2021-03-30 华为技术有限公司 立体声信号的编码方法和编码装置
CN109427337B (zh) * 2017-08-23 2021-03-30 华为技术有限公司 立体声信号编码时重建信号的方法和装置
US10891960B2 (en) * 2017-09-11 2021-01-12 Qualcomm Incorproated Temporal offset estimation
KR102736785B1 (ko) 2017-09-20 2024-12-03 보이세지 코포레이션 씨이엘피 코덱에 있어서 서브-프레임들간에 비트-예산을 할당하는 방법 및 디바이스
CN109859766B (zh) * 2017-11-30 2021-08-20 华为技术有限公司 音频编解码方法和相关产品
CN110556117B (zh) 2018-05-31 2022-04-22 华为技术有限公司 立体声信号的编码方法和装置
CN114420139A (zh) * 2018-05-31 2022-04-29 华为技术有限公司 一种下混信号的计算方法及装置
CN110556118B (zh) 2018-05-31 2022-05-10 华为技术有限公司 立体声信号的编码方法和装置
CN115831130A (zh) * 2018-06-29 2023-03-21 华为技术有限公司 立体声信号的编码方法、解码方法、编码装置和解码装置
CN115132214A (zh) 2018-06-29 2022-09-30 华为技术有限公司 立体声信号的编码、解码方法、编码装置和解码装置
EP3928315A4 (en) * 2019-03-14 2022-11-30 Boomcloud 360, Inc. SPATIALLY AWARENESS MULTI-BAND COMPRESSION SYSTEM WITH PRIORITY
EP3719799A1 (en) 2019-04-04 2020-10-07 FRAUNHOFER-GESELLSCHAFT zur Förderung der angewandten Forschung e.V. A multi-channel audio encoder, decoder, methods and computer program for switching between a parametric multi-channel operation and an individual channel operation
CN111988726A (zh) * 2019-05-06 2020-11-24 深圳市三诺数字科技有限公司 一种立体声合成单声道的方法和系统
BR112021020507A2 (pt) 2019-05-07 2021-12-07 Voiceage Corp Métodos e dispositivos para detectar um ataque em um sinal de som a ser codificado e para codificar o ataque detectado
CN112151045B (zh) * 2019-06-29 2024-06-04 华为技术有限公司 一种立体声编码方法、立体声解码方法和装置
CN112233682B (zh) * 2019-06-29 2024-07-16 华为技术有限公司 一种立体声编码方法、立体声解码方法和装置
BR112022000230A2 (pt) * 2019-08-01 2022-02-22 Dolby Laboratories Licensing Corp Codificação e decodificação de fluxos de bits de ivas
CN110534120B (zh) * 2019-08-31 2021-10-01 深圳市友恺通信技术有限公司 一种移动网络环境下的环绕声误码修复方法
CN110809225B (zh) * 2019-09-30 2021-11-23 歌尔股份有限公司 一种应用于立体声系统的自动校准喇叭的方法
US10856082B1 (en) * 2019-10-09 2020-12-01 Echowell Electronic Co., Ltd. Audio system with sound-field-type nature sound effect
ES3020557T3 (en) 2020-02-03 2025-05-23 Voiceage Corp Switching between stereo coding modes in a multichannel sound codec
US12170091B2 (en) * 2020-03-09 2024-12-17 Nippon Telegraph And Telephone Corporation Sound signal encoding method, sound signal decoding method, sound signal encoding apparatus, sound signal decoding apparatus, program, and recording medium
WO2021181746A1 (ja) * 2020-03-09 2021-09-16 日本電信電話株式会社 音信号ダウンミックス方法、音信号符号化方法、音信号ダウンミックス装置、音信号符号化装置、プログラム及び記録媒体
US12374343B2 (en) * 2020-03-09 2025-07-29 Nippon Telegraph And Telephone Corporation Sound signal encoding method, sound signal decoding method, sound signal encoding apparatus, sound signal decoding apparatus, program, and recording medium
JP7396459B2 (ja) * 2020-03-09 2023-12-12 日本電信電話株式会社 音信号ダウンミックス方法、音信号符号化方法、音信号ダウンミックス装置、音信号符号化装置、プログラム及び記録媒体
CA3170065A1 (en) 2020-04-16 2021-10-21 Vladimir Malenovsky Method and device for speech/music classification and core encoder selection in a sound codec
CN113571073A (zh) * 2020-04-28 2021-10-29 华为技术有限公司 一种线性预测编码参数的编码方法和编码装置
CN111599381A (zh) * 2020-05-29 2020-08-28 广州繁星互娱信息科技有限公司 音频数据处理方法、装置、设备及计算机存储介质
CN111885414B (zh) * 2020-07-24 2023-03-21 腾讯科技（深圳）有限公司 一种数据处理方法、装置、设备及可读存储介质
US12494210B2 (en) 2020-09-09 2025-12-09 Voiceage Corporation Method and device for classification of uncorrelated stereo content, cross-talk detection, and stereo mode selection in a sound codec
EP4243015A4 (en) 2021-01-27 2024-04-17 Samsung Electronics Co., Ltd. AUDIO PROCESSING APPARATUS AND METHOD
CN112767956B (zh) * 2021-04-09 2021-07-16 腾讯科技（深圳）有限公司 音频编码方法、装置、计算机设备及介质
CN114258568B (zh) * 2021-11-26 2024-12-03 北京小米移动软件有限公司 一种立体声音频信号处理方法、装置、编码设备、解码设备及存储介质
WO2024142358A1 (ja) * 2022-12-28 2024-07-04 日本電信電話株式会社 音信号処理装置、音信号処理方法、プログラム
WO2024142360A1 (ja) * 2022-12-28 2024-07-04 日本電信電話株式会社 音信号処理装置、音信号処理方法、プログラム
JPWO2024142357A1 (ja) * 2022-12-28 2024-07-04

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002526798A (ja) * 1998-09-30 2002-08-20 テレフォンアクチーボラゲット エル エム エリクソン（パブル） 複数チャネル信号の符号化及び復号化
JP2007529021A (ja) * 2003-12-19 2007-10-18 テレフオンアクチーボラゲット エル エム エリクソン（パブル） 忠実度最適化可変フレーム長符号化
JP2008529056A (ja) * 2005-02-23 2008-07-31 テレフオンアクチーボラゲット エル エム エリクソン（パブル） マルチチャネル音声符号化における適応ビット割り当て
JP2013546013A (ja) * 2010-10-22 2013-12-26 オランジュ 逆位相のチャネルに対する、改善されたステレオパラメトリック符号化／復号
JP2014500521A (ja) * 2010-10-25 2014-01-09 ヴォイスエイジ・コーポレーション 低ビットレート低遅延の一般オーディオ信号の符号化

Family Cites Families (64)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01231523A (ja) * 1988-03-11 1989-09-14 Fujitsu Ltd ステレオ信号符号化装置
JPH02124597A (ja) * 1988-11-02 1990-05-11 Yamaha Corp 複数チャンネルの信号圧縮方法
US6330533B2 (en) * 1998-08-24 2001-12-11 Conexant Systems, Inc. Speech encoder adaptively applying pitch preprocessing with warping of target signal
EP1054575A3 (en) 1999-05-17 2002-09-18 Bose Corporation Directional decoding
US6397175B1 (en) * 1999-07-19 2002-05-28 Qualcomm Incorporated Method and apparatus for subsampling phase spectrum information
SE519976C2 (sv) * 2000-09-15 2003-05-06 Ericsson Telefon Ab L M Kodning och avkodning av signaler från flera kanaler
SE519981C2 (sv) * 2000-09-15 2003-05-06 Ericsson Telefon Ab L M Kodning och avkodning av signaler från flera kanaler
ES2403178T3 (es) * 2002-04-10 2013-05-16 Koninklijke Philips Electronics N.V. Codificación de señales estéreo
JP2004325633A (ja) * 2003-04-23 2004-11-18 Matsushita Electric Ind Co Ltd 信号符号化方法、信号符号化プログラム及びその記録媒体
JP2005202248A (ja) 2004-01-16 2005-07-28 Fujitsu Ltd オーディオ符号化装置およびオーディオ符号化装置のフレーム領域割り当て回路
DE102004009954B4 (de) * 2004-03-01 2005-12-15 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Verarbeiten eines Multikanalsignals
US7668712B2 (en) * 2004-03-31 2010-02-23 Microsoft Corporation Audio encoding and decoding with intra frames and adaptive forward error correction
SE0400998D0 (sv) 2004-04-16 2004-04-16 Cooding Technologies Sweden Ab Method for representing multi-channel audio signals
US7283634B2 (en) 2004-08-31 2007-10-16 Dts, Inc. Method of mixing audio channels using correlated outputs
US7630902B2 (en) * 2004-09-17 2009-12-08 Digital Rise Technology Co., Ltd. Apparatus and methods for digital audio coding using codebook application ranges
WO2006035705A1 (ja) * 2004-09-28 2006-04-06 Matsushita Electric Industrial Co., Ltd. スケーラブル符号化装置およびスケーラブル符号化方法
US7848932B2 (en) 2004-11-30 2010-12-07 Panasonic Corporation Stereo encoding apparatus, stereo decoding apparatus, and their methods
EP1691348A1 (en) * 2005-02-14 2006-08-16 Ecole Polytechnique Federale De Lausanne Parametric joint-coding of audio sources
US7573912B2 (en) 2005-02-22 2009-08-11 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschunng E.V. Near-transparent or transparent multi-channel encoder/decoder scheme
US9626973B2 (en) 2005-02-23 2017-04-18 Telefonaktiebolaget L M Ericsson (Publ) Adaptive bit allocation for multi-channel audio encoding
US7751572B2 (en) 2005-04-15 2010-07-06 Dolby International Ab Adaptive residual audio coding
US8227369B2 (en) 2005-05-25 2012-07-24 Celanese International Corp. Layered composition and processes for preparing and using the composition
CN101180675A (zh) * 2005-05-25 2008-05-14 皇家飞利浦电子股份有限公司 多通道信号的预测编码
EP1920437A4 (en) * 2005-07-29 2010-01-06 Lg Electronics Inc METHOD FOR SIGNALING CUTTING INFORMATION
CN101253557B (zh) * 2005-08-31 2012-06-20 松下电器产业株式会社 立体声编码装置及立体声编码方法
US7974713B2 (en) * 2005-10-12 2011-07-05 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Temporal and spatial shaping of multi-channel audio signals
EP1952391B1 (en) * 2005-10-20 2017-10-11 LG Electronics Inc. Method for decoding multi-channel audio signal and apparatus thereof
KR100888474B1 (ko) * 2005-11-21 2009-03-12 삼성전자주식회사 멀티채널 오디오 신호의 부호화/복호화 장치 및 방법
JP2007183528A (ja) 2005-12-06 2007-07-19 Fujitsu Ltd 符号化装置、符号化方法、および符号化プログラム
US9009057B2 (en) 2006-02-21 2015-04-14 Koninklijke Philips N.V. Audio encoding and decoding to generate binaural virtual spatial signals
JP4875142B2 (ja) 2006-03-28 2012-02-15 テレフオンアクチーボラゲット エル エム エリクソン（パブル） マルチチャネル・サラウンドサウンドのためのデコーダのための方法及び装置
MX2009003570A (es) 2006-10-16 2009-05-28 Dolby Sweden Ab Codificacion mejorada y representacion de parametros para codificacion de objetos de mezcla descendente de multicanal.
US20100121633A1 (en) * 2007-04-20 2010-05-13 Panasonic Corporation Stereo audio encoding device and stereo audio encoding method
US8046214B2 (en) * 2007-06-22 2011-10-25 Microsoft Corporation Low complexity decoder for complex transform coding of multi-channel sound
EP2201566B1 (en) * 2007-09-19 2015-11-11 Telefonaktiebolaget LM Ericsson (publ) Joint multi-channel audio encoding/decoding
GB2453117B (en) 2007-09-25 2012-05-23 Motorola Mobility Inc Apparatus and method for encoding a multi channel audio signal
CA2701457C (en) * 2007-10-17 2016-05-17 Oliver Hellmuth Audio coding using upmix
KR101505831B1 (ko) * 2007-10-30 2015-03-26 삼성전자주식회사 멀티 채널 신호의 부호화/복호화 방법 및 장치
US8103005B2 (en) * 2008-02-04 2012-01-24 Creative Technology Ltd Primary-ambient decomposition of stereo audio signals using a complex similarity index
CN101981616A (zh) 2008-04-04 2011-02-23 松下电器产业株式会社 立体声信号变换装置、立体声信号逆变换装置及其方法
EP2144230A1 (en) * 2008-07-11 2010-01-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Low bitrate audio encoding/decoding scheme having cascaded switches
CN102177426B (zh) * 2008-10-08 2014-11-05 弗兰霍菲尔运输应用研究公司 多分辨率切换音频编码/解码方案
CN102292767B (zh) * 2009-01-22 2013-05-08 松下电器产业株式会社 立体声音响信号编码装置、立体声音响信号解码装置及它们的编解码方法
EP2395504B1 (en) * 2009-02-13 2013-09-18 Huawei Technologies Co., Ltd. Stereo encoding method and apparatus
WO2010097748A1 (en) 2009-02-27 2010-09-02 Koninklijke Philips Electronics N.V. Parametric stereo encoding and decoding
CN101826326B (zh) * 2009-03-04 2012-04-04 华为技术有限公司 一种立体声编码方法、装置和编码器
AU2010225051B2 (en) * 2009-03-17 2013-06-13 Dolby International Ab Advanced stereo coding based on a combination of adaptively selectable left/right or mid/side stereo coding and of parametric stereo coding
US8666752B2 (en) 2009-03-18 2014-03-04 Samsung Electronics Co., Ltd. Apparatus and method for encoding and decoding multi-channel signal
BR112012009447B1 (pt) * 2009-10-20 2021-10-13 Voiceage Corporation Codificador de sinal de áudio, decodificador de stnai, de áudio, método para codificar ou decodificar um sinal de áudio usando um cancelamento de aliasing
KR101710113B1 (ko) * 2009-10-23 2017-02-27 삼성전자주식회사 위상 정보와 잔여 신호를 이용한 부호화／복호화 장치 및 방법
EP2323130A1 (en) * 2009-11-12 2011-05-18 Koninklijke Philips Electronics N.V. Parametric encoding and decoding
WO2011073600A1 (fr) * 2009-12-18 2011-06-23 France Telecom Codage/decodage parametrique stereo avec optimisation du traitement de reduction des canaux
KR101698439B1 (ko) * 2010-04-09 2017-01-20 돌비 인터네셔널 에이비 Mdct-기반의 복소수 예측 스테레오 코딩
US8463414B2 (en) * 2010-08-09 2013-06-11 Motorola Mobility Llc Method and apparatus for estimating a parameter for low bit rate stereo transmission
CN102844808B (zh) * 2010-11-03 2016-01-13 华为技术有限公司 用于编码多通道音频信号的参数编码器
ES2571742T3 (es) * 2012-04-05 2016-05-26 Huawei Tech Co Ltd Método de determinación de un parámetro de codificación para una señal de audio multicanal y un codificador de audio multicanal
JP5977434B2 (ja) 2012-04-05 2016-08-24 ホアウェイ・テクノロジーズ・カンパニー・リミテッド パラメトリック空間オーディオ符号化および復号化のための方法、パラメトリック空間オーディオ符号器およびパラメトリック空間オーディオ復号器
US9479886B2 (en) * 2012-07-20 2016-10-25 Qualcomm Incorporated Scalable downmix design with feedback for object-based surround codec
RU2630370C9 (ru) * 2013-02-14 2017-09-26 Долби Лабораторис Лайсэнзин Корпорейшн Способы управления межканальной когерентностью звуковых сигналов, подвергнутых повышающему микшированию
TWI634547B (zh) * 2013-09-12 2018-09-01 瑞典商杜比國際公司 在包含至少四音訊聲道的多聲道音訊系統中之解碼方法、解碼裝置、編碼方法以及編碼裝置以及包含電腦可讀取的媒體之電腦程式產品
TWI557724B (zh) * 2013-09-27 2016-11-11 杜比實驗室特許公司 用於將 n 聲道音頻節目編碼之方法、用於恢復 n 聲道音頻節目的 m 個聲道之方法、被配置成將 n 聲道音頻節目編碼之音頻編碼器及被配置成執行 n 聲道音頻節目的恢復之解碼器
JP6151866B2 (ja) * 2013-12-23 2017-06-21 ウィルス インスティテュート オブ スタンダーズ アンド テクノロジー インコーポレイティド オーディオ信号のフィルタ生成方法およびそのためのパラメータ化装置
US10068577B2 (en) * 2014-04-25 2018-09-04 Dolby Laboratories Licensing Corporation Audio segmentation based on spatial metadata
ES2904275T3 (es) 2015-09-25 2022-04-04 Voiceage Corp Método y sistema de decodificación de los canales izquierdo y derecho de una señal sonora estéreo

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002526798A (ja) * 1998-09-30 2002-08-20 テレフォンアクチーボラゲット エル エム エリクソン（パブル） 複数チャネル信号の符号化及び復号化
JP2007529021A (ja) * 2003-12-19 2007-10-18 テレフオンアクチーボラゲット エル エム エリクソン（パブル） 忠実度最適化可変フレーム長符号化
JP2008529056A (ja) * 2005-02-23 2008-07-31 テレフオンアクチーボラゲット エル エム エリクソン（パブル） マルチチャネル音声符号化における適応ビット割り当て
JP2013546013A (ja) * 2010-10-22 2013-12-26 オランジュ 逆位相のチャネルに対する、改善されたステレオパラメトリック符号化／復号
JP2014500521A (ja) * 2010-10-25 2014-01-09 ヴォイスエイジ・コーポレーション 低ビットレート低遅延の一般オーディオ信号の符号化

Also Published As

Publication number Publication date
CA2997296C (en) 2023-12-05
MX382211B (es) 2025-03-13
HK1253570A1 (zh) 2019-06-21
US10839813B2 (en) 2020-11-17
EP3353784C0 (en) 2025-03-05
JP7124170B2 (ja) 2022-08-23
EP3353779B1 (en) 2020-06-24
US10339940B2 (en) 2019-07-02
MX2018003242A (es) 2018-09-26
KR102636424B1 (ko) 2024-02-15
MY186661A (en) 2021-08-04
CN108352164A (zh) 2018-07-31
AU2016325879A1 (en) 2018-04-05
WO2017049398A1 (en) 2017-03-30
CN108352162B (zh) 2023-05-09
US10319385B2 (en) 2019-06-11
RU2018114901A3 (ja) 2020-03-10
HK1257684A1 (en) 2019-10-25
EP3353777A1 (en) 2018-08-01
JP2021131569A (ja) 2021-09-09
US20180277126A1 (en) 2018-09-27
RU2018114901A (ru) 2019-10-28
HK1259477A1 (en) 2019-11-29
WO2017049399A1 (en) 2017-03-30
EP3353784A4 (en) 2019-05-22
JP6887995B2 (ja) 2021-06-16
US20180268826A1 (en) 2018-09-20
US20190228785A1 (en) 2019-07-25
JP7244609B2 (ja) 2023-03-22
CA2997296A1 (en) 2017-03-30
RU2020124137A3 (ja) 2021-11-12
RU2018114899A3 (ja) 2020-02-25
US10325606B2 (en) 2019-06-18
RU2764287C1 (ru) 2022-01-17
EP3699909B1 (en) 2025-11-19
EP3353784B1 (en) 2025-03-05
MY188370A (en) 2021-12-06
JP2018533056A (ja) 2018-11-08
US20180286415A1 (en) 2018-10-04
RU2020125468A (ru) 2020-09-24
RU2728535C2 (ru) 2020-07-30
ES2809677T3 (es) 2021-03-05
JP2022028765A (ja) 2022-02-16
RU2729603C2 (ru) 2020-08-11
CN108352163A (zh) 2018-07-31
KR102636396B1 (ko) 2024-02-15
US10984806B2 (en) 2021-04-20
CA2997331C (en) 2023-12-05
EP3353778A1 (en) 2018-08-01
JP7140817B2 (ja) 2022-09-21
DK3353779T3 (da) 2020-08-10
ZA201801675B (en) 2020-09-30
US20190228784A1 (en) 2019-07-25
EP3353780B1 (en) 2021-12-01
CN108352164B (zh) 2022-12-06
PL3353779T3 (pl) 2020-11-16
JP2021047431A (ja) 2021-03-25
EP4235659A3 (en) 2023-09-06
MX2021005090A (es) 2023-01-04
RU2018114898A (ru) 2019-10-25
EP3353780A4 (en) 2019-05-22
EP3353778B1 (en) 2023-07-05
RU2765565C2 (ru) 2022-02-01
PT3353779T (pt) 2020-07-31
MX383266B (es) 2025-03-13
RU2020124137A (ru) 2020-09-04
US20180261231A1 (en) 2018-09-13
RU2018114898A3 (ja) 2020-02-11
US10522157B2 (en) 2019-12-31
EP3353779A1 (en) 2018-08-01
EP3353780A1 (en) 2018-08-01
CN116343802A (zh) 2023-06-27
KR20180056661A (ko) 2018-05-29
KR20180056662A (ko) 2018-05-29
CN108352163B (zh) 2023-02-21
JP6804528B2 (ja) 2020-12-23
MX2018003703A (es) 2018-04-30
EP3353777A4 (en) 2019-05-15
EP3961623B1 (en) 2025-11-19
US11056121B2 (en) 2021-07-06
KR102677745B1 (ko) 2024-06-25
ES2955962T3 (es) 2023-12-11
RU2018114899A (ru) 2019-10-25
RU2020125468A3 (ja) 2021-11-26
KR20180059781A (ko) 2018-06-05
MX2021006677A (es) 2023-03-01
RU2763374C2 (ru) 2021-12-28
RU2730548C2 (ru) 2020-08-24
ES2949991T3 (es) 2023-10-04
EP3699909A1 (en) 2020-08-26
US10573327B2 (en) 2020-02-25
WO2017049400A1 (en) 2017-03-30
EP3353784A1 (en) 2018-08-01
CA2997334A1 (en) 2017-03-30
EP3353779A4 (en) 2019-08-07
EP3353778A4 (en) 2019-05-08
ES2904275T3 (es) 2022-04-04
WO2017049397A1 (en) 2017-03-30
CA2997332A1 (en) 2017-03-30
AU2016325879B2 (en) 2021-07-08
CN108352162A (zh) 2018-07-31
JP2018533057A (ja) 2018-11-08
ZA202003500B (en) 2022-06-29
EP3353777B8 (en) 2023-08-23
WO2017049396A1 (en) 2017-03-30
JP6976934B2 (ja) 2021-12-08
CA2997513A1 (en) 2017-03-30
EP3961623A1 (en) 2022-03-02
US20180233154A1 (en) 2018-08-16
EP3353777B1 (en) 2023-06-21
US20190237087A1 (en) 2019-08-01
EP4235659A2 (en) 2023-08-30
CA2997331A1 (en) 2017-03-30
HK1253569A1 (zh) 2019-06-21

Similar Documents

Publication Publication Date Title
JP7244609B2 (ja) ビットバジェットに応じて２サブフレームモデルと４サブフレームモデルとの間で選択を行うステレオ音声信号の左チャンネルおよび右チャンネルを符号化するための方法およびシステム
US20210027794A1 (en) Method and system for decoding left and right channels of a stereo sound signal
HK40069408A (en) Method and system for decoding left and right channels of a stereo sound signal
HK1259052A1 (zh) 用於解码立体声声音信号的左和右声道的方法和系统
HK1259052B (en) Method and system for decoding left and right channels of a stereo sound signal
HK1259477B (en) Method and system for encoding left and right channels of a stereo sound signal selecting between two and four sub-frames models depending on the bit budget
HK1253569B (en) Method and system for encoding a stereo sound signal using coding parameters of a primary channel to encode a secondary channel
HK1253570B (en) Method and system using a long-term correlation difference between left and right channels for time domain down mixing a stereo sound signal into primary and secondary channels
HK1257684B (en) Method and system for time domain down mixing a stereo sound signal into primary and secondary channels using detecting an out-of-phase condition of the left and right channels

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190904

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210719

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211110

R150 Certificate of patent or registration of utility model

Ref document number: 6976934

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250