RU2512090C2 - Apparatus and method of generating wide bandwidth signal - Google Patents
Apparatus and method of generating wide bandwidth signal Download PDFInfo
- Publication number
- RU2512090C2 RU2512090C2 RU2011100134/08A RU2011100134A RU2512090C2 RU 2512090 C2 RU2512090 C2 RU 2512090C2 RU 2011100134/08 A RU2011100134/08 A RU 2011100134/08A RU 2011100134 A RU2011100134 A RU 2011100134A RU 2512090 C2 RU2512090 C2 RU 2512090C2
- Authority
- RU
- Russia
- Prior art keywords
- patch
- signal
- input signal
- algorithm
- band
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims description 31
- 230000003595 spectral effect Effects 0.000 claims abstract description 128
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 114
- 230000005236 sound signal Effects 0.000 claims abstract description 55
- 238000001228 spectrum Methods 0.000 claims abstract description 35
- 238000004590 computer program Methods 0.000 claims description 11
- 238000003860 storage Methods 0.000 claims description 11
- 238000004458 analytical method Methods 0.000 claims description 6
- 230000005540 biological transmission Effects 0.000 claims description 6
- 238000012545 processing Methods 0.000 abstract description 8
- 230000000694 effects Effects 0.000 abstract 1
- 239000000126 substance Substances 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 10
- 238000012546 transfer Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 4
- 230000010076 replication Effects 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 230000002441 reversible effect Effects 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 101000822695 Clostridium perfringens (strain 13 / Type A) Small, acid-soluble spore protein C1 Proteins 0.000 description 1
- 101000655262 Clostridium perfringens (strain 13 / Type A) Small, acid-soluble spore protein C2 Proteins 0.000 description 1
- 101000655256 Paraclostridium bifermentans Small, acid-soluble spore protein alpha Proteins 0.000 description 1
- 101000655264 Paraclostridium bifermentans Small, acid-soluble spore protein beta Proteins 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/038—Speech enhancement, e.g. noise reduction or echo cancellation using band spreading techniques
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Computational Linguistics (AREA)
- Quality & Reliability (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Stereophonic System (AREA)
- Reverberation, Karaoke And Other Acoustics (AREA)
- Transmitters (AREA)
- Digital Transmission Methods That Use Modulated Carrier Waves (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
Description
Осуществления согласно изобретению касаются обработки звукового сигнала и, в частности, устройства и способа генерирования сигнала с расширенной полосой пропускания от входного сигнала, устройства и способа получения сигнала с уменьшенной полосой пропускания, основанного на входном сигнале и звуковом сигнале.Embodiments according to the invention relate to processing an audio signal, and in particular, to an apparatus and method for generating an extended bandwidth signal from an input signal, a device and a method for producing a signal with reduced bandwidth based on an input signal and an audio signal.
Перцепционно адаптированное кодирование звуковых сигналов, обеспечивающее существенное уменьшение скорости передачи данных для эффективного хранения и передачи этих сигналов, получило широкое применение во многих областях. Известно много кодирующих алгоритмов, например MPEG 1/2 Слой 3 ("МР3") или MPEG 4 ААС (Перспективное звуковое кодирование). Однако используемое для этого кодирование, в особенности при работе на самых низких скоростях передачи битов, может привести к ухудшению субъективного звукового качества, которое часто вызывается, главным образом, вынужденным ограничением полосы пропускания звукового сигнала, подлежащего передаче, на стороне кодирующего устройства.Perceptually adapted coding of audio signals, which provides a significant reduction in the data rate for efficient storage and transmission of these signals, has been widely used in many fields. Many coding algorithms are known, for
Как известно из WO 9857436, чтобы подвергнуть звуковой сигнал ограничению полосы в такой ситуации на стороне кодирующего устройства и закодировать только нижнюю полосу звукового сигнала, используется высококачественное звуковое кодирующее устройство («основное кодирующее устройство»). Верхняя полоса, однако, характеризуется только очень грубо, то есть рядом параметров, которые воспроизводят огибающую спектра верхней полосы. Тогда на стороне декодера синтезируется верхняя полоса. С этой целью предлагается гармоническое перемещение, где нижняя полоса декодированного звукового сигнала подается на гребенку фильтров. Каналы гребенки фильтров нижней полосы соединены с каналами гребенки фильтров верхней полосы или «заплатаны», и каждый заплатанный сигнал с ограниченной полосой частот подвергается регулированию огибающей. Синтезирующая гребенка фильтров, принадлежащая гребенке фильтров для специального анализа, получает сигналы с ограниченной полосой частот звукового сигнала в нижней полосе и сигналы с ограниченной полосой частот, подвергшиеся регулированию огибающей, нижней полосы, которые гармонически вставляются в верхнюю полосу. Выходной сигнал синтезирующей гребенки фильтров является звуковым сигналом, расширенным относительно его оригинальной полосы пропускания, который передается со стороны кодирующего устройства на сторону декодера посредством основного кодирующего устройства, работающего на очень низкой скорости передачи данных. В частности, вычисления гребенки фильтров и вставка заплаты в области гребенки фильтров могут оказаться очень трудоемкими.As is known from WO 9857436, in order to subject the audio signal to band limitation in such a situation on the encoder side and to encode only the lower band of the audio signal, a high-quality audio encoder (“main encoder”) is used. The upper band, however, is characterized only very roughly, that is, by a number of parameters that reproduce the envelope of the spectrum of the upper band. Then on the decoder side the upper band is synthesized. To this end, harmonic movement is proposed, where the lower band of the decoded audio signal is fed to the filter bank. The channels of the low pass filter bank are connected to the channels of the high filter bank or are “patched”, and each paid signal with a limited frequency band is subjected to envelope control. The synthesizing filter bank belonging to the filter bank for special analysis receives signals with a limited frequency band of the audio signal in the lower band and signals with a limited frequency band subjected to the control of the envelope of the lower band, which are harmoniously inserted into the upper band. The output of the synthesizing filter bank is an audio signal expanded with respect to its original passband, which is transmitted from the encoder to the decoder by the main encoder operating at a very low data rate. In particular, calculating the filter bank and inserting a patch in the area of the filter bank can be very time consuming.
Упрощенные способы расширения полосы пропускания звуковых сигналов с ограниченной полосой вместо этого используют функцию копирования низкочастотных частей сигнала (LF-H4) в высокочастотный диапазон (НР-ВЧ), чтобы аппроксимировать информацию, которая отсутствует из-за ограничения полосы. Такие способы описаны в работе М.Дитца, Л.Лильерида, К.Кьерлинга и О.Кунца, «Репликация спектральной полосы, новый подход к звуковому кодированию», на 112-ом Съезде AES (Общество инженеров-звукотехников), Мюнхен, май 2002 г.; в работе С.Мелтцера, Р.Бема и Ф.Хенна, «Улучшенные звуковые кодер-декодеры с SBR (РБП - регистр буферной памяти) для цифрового радиовещания, такие как «Всемирное цифровое Радио» (DRM)», на 112-ом Съезде AES, Мюнхен, май 2002 г.; в работе Т.Циглера, А.Эрета, П.Экстранда и М.Лутцкого, «Улучшение тр3 посредством SBR: Характеристики и возможности нового mp3PRO алгоритма», на 112-ом Съезде AES, Мюнхен, май 2002 г.; Международный Стандартный ISO/IEC 14496-3:2001/FPDAM 1, «Расширение полосы пропускания», ISO/IEC, 2002, или «Способ и устройство для расширения полосы пропускания речи», Васу Айенгар и др. Патент США №5455888.Simplified methods for expanding the bandwidth of limited band audio signals instead use the low-frequency portions of the signal (LF-H4) to copy to the high-frequency range (HP-HF) to approximate information that is missing due to bandwidth limitation. Such methods are described in the work of M. Dietz, L. Lillerid, K. Kierling and O. Kunts, “Spectral band replication, a new approach to sound coding”, at the 112th AES Congress (Society of Sound Engineers), Munich, May 2002 g .; by S. Meltzer, R. Behm, and F. Henn, “Enhanced Audio Codecs with SBR (RBR - Buffer Memory Register) for Digital Broadcasting, such as World Digital Radio (DRM)”, at the 112th Congress AES, Munich, May 2002; in the work of T. Ziegler, A. Eret, P. Ekstrand and M. Lutsky, “Improving tr3 with SBR: Characteristics and capabilities of the new mp3PRO algorithm”, at the 112th AES Congress, Munich, May 2002; International Standard ISO / IEC 14496-3: 2001 / FPDAM 1, “Bandwidth Expansion”, ISO / IEC, 2002, or “Method and apparatus for expanding speech bandwidth”, Vasu Iyengar et al. US Patent No. 5455888.
В этих способах гармоническое перемещение не выполняется, но последовательные сигналы с ограниченной полосой частот нижней полосы вводятся в последовательные каналы гребенки фильтров верхней полосы. Таким образом, достигается грубая аппроксимация верхней полосы звукового сигнала. На следующем этапе эта грубая аппроксимация сигнала ассимилируется относительно оригинала посредством постобработки, используя управляющую информацию, полученную от оригинального сигнала. Здесь, например, масштабные коэффициенты служат для адаптации огибающей спектра, для обратной фильтрации и для добавления минимального уровня шума для адаптации тональности, и дополнения синусоидальных частей сигнала для недостающих гармоник, как это также описано в стандарте MPEG-4 Высокоэффективное улучшенное звуковое кодирование (НЕ-ААС).In these methods, harmonic movement is not performed, but sequential signals with a limited frequency band of the lower band are introduced into the serial channels of the filter bank of the upper band. Thus, a rough approximation of the upper band of the audio signal is achieved. In the next step, this rough approximation of the signal is assimilated relative to the original by post-processing using control information received from the original signal. Here, for example, scale factors are used to adapt the envelope of the spectrum, to reverse filter, and to add a minimum noise level to adapt the tonality, and to complement the sinusoidal parts of the signal for missing harmonics, as also described in the MPEG-4 standard. High-performance advanced sound coding (NOT- AAS).
Кроме этого, дальнейшие способы используют фазовый вокодер для расширения полосы пропускания. При использовании фазового вокодера для спектрального расширения частотные линии перемещаются все дальше друг от друга. Если в спектре существуют промежутки, например, в результате квантизации, то они даже увеличиваются при расширении. При адаптации энергии остающиеся линии в спектре получают слишком много энергии по сравнению с соответствующими линиями в оригинальном сигнале.In addition, further methods use a phase vocoder to expand bandwidth. When using a phase vocoder for spectral expansion, the frequency lines move farther apart. If there are gaps in the spectrum, for example, as a result of quantization, then they even increase with expansion. With energy adaptation, the remaining lines in the spectrum receive too much energy compared to the corresponding lines in the original signal.
Фиг.13 показывает схематическую иллюстрацию расширения полосы пропускания 1300 посредством использования фазового вокодера. В этом примере две заплаты 1312, 1314 добавлены к низкочастотной полосе 1302 сигнала. Подавленная ВЧ-составляющая 1320 сигнала, также называемая частотой разделения (Xover), является частотой низкого уровня соседней заплаты 1312, и двойная частота разделения (x-over частота) является подавленной ВЧ-составляющей соседней заплаты 1312 и подавленной НЧ-составляющей следующей заплаты 1314. Фазовый вокодер удваивает частоту частотных линий низкочастотной полосы 1302 сигнала, чтобы получить соседнюю заплату 1312, и утраивает частоты частотных линий низкочастотной полосы 1302 сигнала, чтобы получить следующую заплату 1314. Поэтому спектральная плотность соседней заплаты 1312 - только половина спектральной плотности низкочастотной полосы 1302 сигнала, а спектральная плотность следующей заплаты 1314 является только одной третьей спектральной плотности низкочастотной полосы 1302 сигнала.FIG. 13 shows a schematic illustration of a bandwidth extension 1300 by using a phase vocoder. In this example, two
Концентрация энергии в полосах (заплатах) только до нескольких частотных линий приводит к существенному изменению тембра, который отличается от оригинала. Энергия прежнего большего количества полос (частотных линии) суммируется на меньшем количестве остающихся.The concentration of energy in the bands (patches) only up to several frequency lines leads to a significant change in timbre, which differs from the original. The energy of the previous larger number of bands (frequency lines) is summed up on the smaller number of remaining ones.
Некоторые примеры фазовых вокодеров и их применений представлены в работе Фредерика Нагеля и Саши Диша «Способ гармонического расширения полосы пропускания для звуковых кодер-декодеров," ICASSP '09 и в работе М. Пукетта «Вокодер с фазовой синхронизацией». IEEE ASSP Конференция по Применению обработки звуковых и акустических сигналов, Мохонк 1995", в работе Ребеля, А.: «Переходное обнаружение и сохранение в фазовом вокодере»; citeseer.ist.psu.edu/679246.html, в работе Лароша Л., Долсона М.: «Улучшенная модификация временной шкалы звука, полученная посредством фазового вокодера», IEEE. Транс, обработка речи и звука, издание 7, №3, стр.323-332 и Патент США 6549884.Some examples of phase vocoders and their applications are presented in the work of Frederick Nagel and Sasha Disch, “A Method for Harmoniously Extending Bandwidth for Audio Codec Decoders,” ICASSP '09, and in M. Puckett's “Phase Locked Vocoder.” IEEE ASSP Processing Application Conference sound and acoustic signals, Mohonck 1995 ", in the work of Rebel, A .:" Transient detection and storage in a phase vocoder "; citeseer.ist.psu.edu/679246.html, in the work of Larosh L., Dolson M .: “Improved modification of the time scale of sound obtained by means of a phase vocoder”, IEEE. Trans, Speech and Sound Processing, Vol. 7, No. 3, pp. 323-332 and US Pat. No. 6,549,884.
Один из подходов к заполнению промежутков показан в WO 00/45379. Он содержит способ и устройство для расширения исходных кодирующих систем, использующих высокочастотное восстановление. Это применение решает проблему недостаточного шумового содержания в восстановленном высоком диапазоне посредством адаптивного добавления минимального уровня шума. Добавление шума может заполнить промежутки, но качество звука или субъективное качество могут значительно не улучшиться.One approach to filling gaps is shown in WO 00/45379. It contains a method and apparatus for expanding source coding systems using high frequency recovery. This application solves the problem of insufficient noise content in the restored high range by adaptively adding a minimum noise level. Adding noise can fill in the gaps, but sound quality or subjective quality may not significantly improve.
Задача данного изобретения - обеспечить концепцию расширения полосы пропускания звуковых сигналов, которая улучшает субъективное качество сигналов с расширенной полосой пропускания.The objective of the invention is to provide a concept for expanding the bandwidth of audio signals, which improves the subjective quality of signals with extended bandwidth.
Это достигается посредством использования устройства согласно пунктам 1 и 11 патентной формулы, звукового сигнала согласно пункту 14 и способа согласно пунктам 15 и 16.This is achieved by using the device according to
Осуществление изобретения обеспечивает устройство для генерирования сигнала с расширенной полосой пропускания от входного сигнала. Входной сигнал предоставляется для первой полосы посредством данных первого разрешения и для второй полосы посредством данных второго разрешения; второе разрешение ниже, чем первое разрешение. Устройство включает генератор заплат и объединитель. Генератор заплат формируется, чтобы генерировать первую заплату от первой полосы входного сигнала согласно первому алгоритму создания «заплат», и формируется, чтобы генерировать вторую заплату от первой полосы входного сигнала согласно второму алгоритму создания «заплат». Спектральная плотность второй заплаты, генерированной согласно второму алгоритму создания «заплат», выше, чем спектральная плотность первой заплаты, генерированной согласно первому алгоритму создания «заплат». Объединитель формируется, чтобы объединить первую заплату, вторую заплату и первую полосу входного сигнала, чтобы получить сигнал с расширенной полосой пропускания. Устройство для генерирования сигнала с расширенной полосой пропускания формируется, чтобы масштабировать входной сигнал согласно первому алгоритму создания «заплат» и согласно второму алгоритму создания «заплат» или чтобы масштабировать первую заплату и вторую заплату так, чтобы сигнал с расширенной полосой пропускания удовлетворял критерию огибающей спектра.The implementation of the invention provides a device for generating a signal with an expanded bandwidth from the input signal. An input signal is provided for the first band by the first resolution data and for the second band by the second resolution data; the second resolution is lower than the first resolution. The device includes a patch generator and combiner. A patch generator is generated to generate a first patch from the first strip of the input signal according to the first patch algorithm, and is formed to generate a second patch from the first strip of the input signal according to the second patch algorithm. The spectral density of the second patch generated according to the second patch creation algorithm is higher than the spectral density of the first patch generated according to the first patch creation algorithm. A combiner is formed to combine the first patch, the second patch, and the first input signal band to obtain an extended bandwidth signal. A device for generating a signal with a wider bandwidth is formed to scale the input signal according to the first algorithm for creating “patches” and according to the second algorithm for creating a “patches”, or to scale the first patch and the second patch so that the signal with the extended bandwidth satisfies the criterion of the envelope of the spectrum.
Осуществления согласно данному изобретению основаны на центральной идее о том, что заплата с низкой спектральной плотностью (что означает, например, что заплата включает промежутки по сравнению с низкочастотной полосой входного сигнала) объединяется с заплатой с высокой спектральной плотностью (что означает, например, что заплата включает только несколько промежутков или не включает промежутки совсем по сравнению с низкочастотной полосой входного сигнала) для расширения полосы пропускания входного сигнала. Так как обе заплаты генерируются, основываясь на входном сигнале, высокочастотное расширение полосы пропускания низкочастотной полосы входного сигнала может обеспечить хорошую аппроксимацию оригинального звукового сигнала. Дополнительно, первая и вторая заплаты могут быть масштабированы до (посредством масштабирования входного сигнала) или после генерирования, чтобы удовлетворять критерию огибающей спектра, так как огибающая спектра оригинального звукового сигнала должна учитываться при восстановлении высокочастотной полосы входного сигнала. Таким образом, субъективное качество или звуковое качество сигнала с расширенной полосой пропускания может быть значительно улучшено.Implementations according to this invention are based on the central idea that a patch with a low spectral density (which means, for example, that the patch includes gaps in comparison with the low-frequency band of the input signal) is combined with a patch with a high spectral density (which means, for example, that the patch includes only a few gaps or does not include gaps at all compared to the low-frequency band of the input signal) to expand the bandwidth of the input signal. Since both patches are generated based on the input signal, high-frequency bandwidth expansion of the low-frequency band of the input signal can provide a good approximation of the original audio signal. Additionally, the first and second patches can be scaled before (by scaling the input signal) or after generation to satisfy the spectral envelope criterion, since the spectral envelope of the original audio signal must be taken into account when restoring the high-frequency band of the input signal. Thus, the subjective quality or sound quality of an extended bandwidth signal can be significantly improved.
В некоторых осуществлениях согласно изобретению первый алгоритм создания «заплат» является гармоническим алгоритмом создания «заплат». Другими словами, первая заплата генерируется так, чтобы только частоты, которые являются целыми кратными частот первой полосы входного сигнала, содержались в первой заплате. Кроме того, второй алгоритм создания «заплат» может быть смешивающим алгоритмом создания «заплат». Это означает, например, что вторая заплата может генерироваться так, чтобы вторая заплата содержала частоты, которые являются целыми кратными частот первой полосы входного сигнала и частот, которые не являются целыми кратными частот первой полосы входного сигнала. Поэтому спектральная плотность второй заплаты выше, чем спектральная плотность первой заплаты. Посредством комбинирования первой заплаты и второй заплаты недостающие частотные линии первой заплаты могут быть заполнены частотными линиями второй заплаты. Таким образом, промежутки гармонического расширения полосы пропускания согласно первому алгоритму создания «заплат» могут быть заполнены второй заплатой, и звуковое качество сигнала с расширенной полосой пропускания может быть значительно улучшено.In some implementations according to the invention, the first patch generation algorithm is a harmonic patch generation algorithm. In other words, the first patch is generated so that only frequencies that are integer multiples of the frequencies of the first band of the input signal are contained in the first patch. In addition, the second patch generation algorithm may be a mixing patch generation algorithm. This means, for example, that a second patch can be generated so that the second patch contains frequencies that are integer multiples of the frequencies of the first band of the input signal and frequencies that are not integer multiples of the frequencies of the first band of the input signal. Therefore, the spectral density of the second patch is higher than the spectral density of the first patch. By combining the first patch and the second patch, the missing frequency lines of the first patch can be filled with the frequency lines of the second patch. Thus, the intervals of harmonic bandwidth expansion according to the first “patch” creation algorithm can be filled with a second patch, and the sound quality of the extended bandwidth signal can be significantly improved.
Некоторые осуществления согласно изобретению касаются устройства для получения сигнала с уменьшенной полосой пропускания, основанного на входном сигнале. Устройство включает определитель данных огибающей спектра, генератор управляющих данных масштабирования заплаты и выходной интерфейс. Определитель данных огибающей спектра формируется, чтобы определить данные огибающей спектра, основанные на высокочастотной полосе входного сигнала. Генератор управляющих данных масштабирования заплаты формируется, чтобы генерировать управляющие данные масштабирования заплаты для масштабирования сигнала с уменьшенной полосой пропускания в декодере, или для масштабирования первой заплаты и второй заплаты декодером так, чтобы сигнал с расширенной полосой пропускания, генерированный декодером, удовлетворял критерию огибающей спектра. Критерий огибающей спектра основывается на данных огибающей спектра. Первая заплата генерируется от низкочастотной полосы сигнала с уменьшенной полосой пропускания согласно первому алгоритму создания «заплат», и вторая заплата генерируется от низкочастотной полосы сигнала с уменьшенной полосой пропускания согласно второму алгоритму создания «заплат». Спектральная плотность второй заплаты, генерированная согласно второму алгоритму создания «заплат», выше, чем спектральная плотность первой заплаты, генерированной согласно первому алгоритму создания «заплат». Выходной интерфейс формируется, чтобы объединить низкочастотную полосу входного сигнала, данные огибающей спектра и управляющие данные масштабирования мощности для получения сигнала с уменьшенной полосой пропускания. Далее, выходной интерфейс формируется, чтобы получить сигнал с уменьшенной полосой пропускания для передачи или хранения.Some implementations according to the invention relate to a device for receiving a signal with a reduced bandwidth based on the input signal. The device includes a spectral envelope determinant, a patch scaling control data generator, and an output interface. The spectral envelope data determiner is formed to determine the spectral envelope data based on the high frequency band of the input signal. A patch scaling control data generator is generated to generate patch scrolling control data for scaling a signal with a reduced bandwidth in a decoder, or for scaling a first patch and a second patch with a decoder so that the expanded bandwidth signal generated by the decoder satisfies the spectral envelope criterion. The spectral envelope criterion is based on the data of the spectral envelope. The first patch is generated from the low-frequency band of the signal with a reduced bandwidth according to the first “patch” algorithm, and the second patch is generated from the low-frequency band of the signal with a reduced bandwidth according to the second “patch” algorithm. The spectral density of the second patch generated according to the second patch creation algorithm is higher than the spectral density of the first patch generated according to the first patch creation algorithm. An output interface is configured to combine the low frequency band of the input signal, the spectral envelope data and the power scaling control data to obtain a signal with a reduced bandwidth. Further, an output interface is configured to receive a signal with a reduced bandwidth for transmission or storage.
Некоторые дальнейшие осуществления согласно изобретению касаются звукового сигнала, включающего первую полосу и вторую полосу. Первая полоса представлена данными первого разрешения, и вторая полоса представлена данными второго разрешения. Второе разрешение ниже, чем первое разрешение. Данные второго разрешения основываются на данных огибающей спектра второй полосы и управляющих данных масштабирования заплаты второй полосы для масштабирования звукового сигнала в декодере или для масштабирования первой заплаты и второй заплаты декодером так, чтобы сигнал с расширенной полосой пропускания, генерированный декодером, удовлетворял критерию огибающей спектра. Критерий огибающей спектра основывается на данных огибающей спектра. Первая заплата генерируется от первой полосы звукового сигнала согласно первому алгоритму создания «заплат», и вторая заплата генерируется от первой полосы звукового сигнала согласно второму алгоритму создания «заплат». Спектральная плотность второй заплаты, генерированной согласно второму алгоритму создания «заплат», выше, чем спектральная плотность первой заплаты, генерированной согласно первому алгоритму создания «заплат».Some further implementations according to the invention relate to an audio signal comprising a first band and a second band. The first strip is represented by the first resolution data, and the second strip is represented by the second resolution data. The second resolution is lower than the first resolution. The second resolution data is based on the second-band spectrum envelope data and the second-band patch scaling control data for scaling the audio signal in the decoder or for scaling the first and second patches by the decoder so that the extended bandwidth signal generated by the decoder satisfies the spectral envelope criterion. The spectral envelope criterion is based on the data of the spectral envelope. The first patch is generated from the first strip of the audio signal according to the first patch algorithm, and the second patch is generated from the first strip of the audio signal according to the second patch algorithm. The spectral density of the second patch generated according to the second patch creation algorithm is higher than the spectral density of the first patch generated according to the first patch creation algorithm.
Осуществления согласно изобретению будут впоследствии рассмотрены более детально со ссылкой на приложенные рисунки, в которых:Implementations according to the invention will subsequently be considered in more detail with reference to the attached drawings, in which:
Фиг.1 - блок-схема устройства для генерирования сигнала с расширенной полосой пропускания от входного сигнала;Figure 1 - block diagram of a device for generating a signal with extended bandwidth from the input signal;
Фиг.2а - схематическая иллюстрация генерированной первой заплаты;Figure 2a is a schematic illustration of a generated first patch;
Фиг.2b - схематическая иллюстрация генерированной первой и второй заплаты;Fig.2b is a schematic illustration of the generated first and second patches;
Фиг.3а - блок-схема устройства для генерирования сигнала с расширенной полосой пропускания от входного сигнала;Figa - block diagram of a device for generating a signal with an expanded bandwidth from the input signal;
Фиг.3b - схематическая иллюстрация синусоидального входного сигнала с ограниченным уровнем;Fig. 3b is a schematic illustration of a limited level sinusoidal input signal;
Фиг.3с - схематическая иллюстрация полуволнового выпрямленного синусоидального входного сигнала;Fig. 3c is a schematic illustration of a half-wave rectified sinusoidal input signal;
Фиг.3d - схематическая иллюстрация волнового выпрямленного синусоидального входного сигнала с ограниченным уровнем;Fig. 3d is a schematic illustration of a wave rectified sinusoidal input signal with a limited level;
Фиг.4 - блок-схема устройства для генерирования сигнала с расширенной полосой пропускания от входного сигнала;4 is a block diagram of a device for generating a signal with an expanded bandwidth from the input signal;
Фиг.5а - схематическая иллюстрация выполнения гребенки фильтров фазового вокодера;Fig. 5a is a schematic illustration of a filter bank of a phase vocoder;
Фиг.5b - детальная иллюстрация фильтра фиг.5а;Fig. 5b is a detailed illustration of the filter of Fig. 5a;
Фиг.5с - схематическая иллюстрация манипулирования сигналом с амплитудным кодированием и сигналом с частотным кодированием в канале фильтра фиг.5а;Fig. 5c is a schematic illustration of manipulating a signal with amplitude coding and a signal with frequency coding in the filter channel of Fig. 5a;
Фиг.6 - схематическая иллюстрация выполнения преобразования фазового вокодера;6 is a schematic illustration of a phase vocoder transform;
Фиг.7 - блок-схема устройства для генерирования сигнала с расширенной полосой пропускания от входного сигнала;7 is a block diagram of a device for generating a signal with an expanded bandwidth from the input signal;
Фиг.8 - блок-схема устройства для генерирования сигнала с расширенной полосой пропускания от входного сигнала;Fig. 8 is a block diagram of an apparatus for generating an extended bandwidth signal from an input signal;
Фиг.9 - блок-схема устройства для генерирования сигнала с расширенной полосой пропускания от входного сигнала;Fig.9 is a block diagram of a device for generating a signal with an expanded bandwidth from the input signal;
Фиг.10 - блок-схема устройства для получения сигнала с уменьшенной полосой пропускания, основанного на входном сигнале;Figure 10 is a block diagram of a device for receiving a signal with a reduced bandwidth based on the input signal;
Фиг.11 - блок-схема способа генерирования сигнала с расширенной полосой пропускания от входного сигнала;11 is a flowchart of a method for generating an extended bandwidth signal from an input signal;
Фиг.12 - блок-схема способа получения сигнала с уменьшенной полосой пропускания, основанного на входном сигнале;12 is a flowchart of a method for obtaining a signal with a reduced bandwidth based on an input signal;
Фиг.13 - схематическая иллюстрация известного алгоритма расширения полосы пропускания.13 is a schematic illustration of a known bandwidth expansion algorithm.
В дальнейшем те же самые номера ссылки частично используются для объектов и функциональных узлов, имеющих те же самые или подобные функциональные свойства, и их описание относительно номера должно применяться также к другим номерам, чтобы уменьшить избыточность в описании осуществлений.Hereinafter, the same reference numbers are partially used for objects and functional units having the same or similar functional properties, and their description regarding the number should also be applied to other numbers in order to reduce redundancy in the description of implementations.
Фиг.1 показывает блок-схему устройства 100 для генерирования сигнала с расширенной полосой пропускания 122 для входного сигнала 102 согласно осуществлению изобретения. Входной сигнал 102 представлен для первой полосы данными первого разрешения и для второй полосы данными второго разрешения; второе разрешение ниже, чем первое разрешение. Устройство 100 включает генератор заплат 110, соединенный с объединителем 120. Генератор заплат 120 генерирует первую заплату 112 от первой полосы входного сигнала 102 согласно первому алгоритму создания «заплат» и генерирует вторую заплату 114 от первой полосы входного сигнала 102 согласно второму алгоритму создания «заплат». Спектральная плотность второй заплаты 114, генерированной согласно второму алгоритму создания «заплат», выше, чем спектральная плотность первой заплаты 112, генерированной согласно первому алгоритму создания «заплат». Объединитель 120 объединяет первую заплату 112, вторую заплату 114 и первую полосу входного сигнала 102, чтобы получить сигнал с расширенной полосой пропускания 122. Далее, устройство 100 для генерирования сигнала с расширенной полосой пропускания 122 масштабирует входной сигнал 102 согласно первому алгоритму создания «заплат» и согласно второму алгоритму создания «заплат» или масштабирует первую заплату 112 и вторую заплату 114 так, чтобы сигнал с расширенной полосой пропускания 122 удовлетворял критерию огибающей спектра.FIG. 1 shows a block diagram of an apparatus 100 for generating an
Спектральная плотность означает, например, плотность различных частот или частотных линий в пределах частотного диапазона. Например, частотный диапазон от 0 Гц до 10 кГц, включающий частотные части с частотами 4 кГц и 8 кГц, имеет более низкую спектральную плотность, чем тот же самый частотный диапазон, включающий частотные части с частотами 2 кГц, 4 кГц, 6 кГц, 8 кГц и 10 кГц. Так как спектральная плотность первой заплаты 112 ниже, чем спектральная плотность второй заплаты 114, первая заплата 112 включает промежутки по сравнению со второй заплатой 114. Поэтому вторая заплата 114 может использоваться для заполнения этих промежутков. Так как обе заплаты основываются на первой полосе входного сигнала 102, обе заплаты связаны с характеристикой оригинального сигнала, соответствующего входному сигналу 102. Поэтому сигнал с расширенной полосой пропускания 122 может быть хорошей аппроксимацией оригинального сигнала, и субъективное качество или звуковое качество сигнала с расширенной полосой пропускания 122 может быть значительно улучшено при использовании описанной концепции. Таким образом, больше энергии может быть распределено между остающимися линиями и, например, можно избежать неестественного звука.Spectral density means, for example, the density of different frequencies or frequency lines within a frequency range. For example, a frequency range from 0 Hz to 10 kHz, including frequency parts with frequencies of 4 kHz and 8 kHz, has a lower spectral density than the same frequency range, including frequency parts with frequencies of 2 kHz, 4 kHz, 6 kHz, 8 kHz and 10 kHz. Since the spectral density of the
Например, первый алгоритм создания «заплат» может быть гармоническим алгоритмом создания «заплат». Поэтому генератор заплат 110 может генерировать первую заплату 112, включающую только частоты, которые являются целыми кратными частот первой полосы входного сигнала 102. Гармоническое расширение полосы пропускания может обеспечить хорошую аппроксимацию тональной структуры оригинального сигнала, но этот алгоритм создания «заплат» оставит промежутки между гармоническими частотами. Эти промежутки могут быть заполнены второй заплатой. Например, второй алгоритм создания «заплат» может быть смешивающим алгоритмом создания «заплат», что означает, что генератор заплат 110 может генерировать вторую заплату 114, включающую целые кратные частот первой полосы входного сигнала 102 (гармонические частоты) и частоты, которые не являются целыми кратными частот первой полосы входного сигнала 102 (негармонические частоты). Негармонические частоты могут использоваться для заполнения промежутков первой заплаты 112. Можно также объединить целую вторую заплату 114 (включая гармонические частоты) с первой заплатой 112. В этом примере усиление гармонических частот в результате соединения гармонических частотных частей первой заплаты 112 и второй заплаты 114 может приниматься во внимание соответствующим масштабированием первой заплаты 112 и/или второй заплаты 114.For example, the first patch creation algorithm may be a harmonic patch creation algorithm. Therefore, the
Первая заплата 112 и вторая заплата 114 включают, по крайней мере, частично тот же самый частотный диапазон. Например, первая заплата 112 включает частотный диапазон от 4 кГц до 8 кГц, а вторая заплата 114 включает частотный диапазон от 6 кГц до 10 кГц. В некоторых осуществлениях согласно изобретению подавленная НЧ-составляющая частоты первой заплаты равна подавленной НЧ-составляющей частоты второй заплаты, а подавленная ВЧ-составляющая частоты первой заплаты 112 равна подавленной ВЧ-составляющей частоты второй заплаты 114. Например, обе заплаты включают частотный диапазон от 4 кГц до 8 кГц.The
Фиг.2а и 2b показывают пример первой заплаты 112 согласно первому алгоритму создания «заплат» 212 и второй заплаты 114 согласно второму алгоритму создания «заплат» 214. Для лучшей иллюстрации фиг.2а показывает только первые заплаты 112, и фиг.2b показывает первые заплаты 112 и соответствующие вторые заплаты 114. Фиг.2а иллюстрирует пример 200 для первой полосы 202 входного сигнала 102 и двух первых заплат 112, генерированных согласно первому алгоритму создания «заплат» 212. В этом примере заплата включает ту же самую полосу пропускания, что и первая полоса 202 входного сигнала 102. Полоса пропускания может также быть различной. Подавленная ВЧ-составляющая 220 первой полосы 202 входного сигнала 102 обозначена частотой «Xover» (частота разделения). В примере, показанном на фиг.2а, заплаты начинаются на частоте, равной кратному частоты разделения Xover 220. Частотные линии в пределах первых заплат 112 являются целыми кратными частотных линий первой полосы 202 входного сигнала 102 и могут, например, генерироваться фазовым вокодером. Эти первые заплаты 112 включают промежутки в показателях недостающих частотных линий по сравнению с первой полосой 202 входного сигнала 102.Figures 2a and 2b show an example of a
Фиг.2b дополнительно показывает пример 250 двух соответствующих вторых заплат 114. Эти заплаты генерируются согласно второму алгоритму создания «заплат» 214 и включают гармонические и негармонические частоты. Негармонические частотные линии могут использоваться для заполнения промежутков первых заплат 112. Частотные линии вторых заплат 114 могут генерироваться, например, нелинейным искажением.FIG. 2b further shows an example 250 of two corresponding
Таким образом, промежутки могут заполняться не произвольно как, например, при заполнении промежутков шумом. Промежутки заполняются, основываясь на данных первого разрешения первой полосы входного сигнала и, следовательно, основываясь на оригинальном сигнале.Thus, the gaps can be filled not arbitrarily, as, for example, when filling the gaps with noise. The gaps are filled based on the first resolution data of the first band of the input signal and, therefore, based on the original signal.
Первая полоса входного сигнала 102 может представлять, например, низкочастотную полосу оригинального звукового сигнала, кодируемого с высоким разрешением. Вторая полоса входного сигнала 102 может представлять, например, высокочастотную полосу оригинального звукового сигнала и может квантоваться одним или несколькими параметрами как, например, данные огибающей спектра, данные о шуме и/или недостающие гармонические данные с низким разрешением. Оригинальный звуковой сигнал может быть, например, звуковым сигналом, зарегистрированным микрофоном до обработки или кодирования.The first strip of the
Масштабирование входного сигнала согласно первому алгоритму создания «заплат» и согласно второму алгоритму создания «заплат» означает, например, что входной сигнал масштабируется один раз согласно первому алгоритму создания «заплат» прежде, чем генерируется первая заплата, и затем первая заплата генерируется, основываясь на масштабированном входном сигнале, и что входной сигнал масштабируется один раз согласно второму алгоритму создания «заплат» прежде, чем генерируется вторая заплата, и затем вторая заплата генерируется, основываясь на масштабированном входном сигнале, так, чтобы после объединения первой заплаты, второй заплаты и первой полосы входного сигнала сигнал с расширенной полосой пропускания удовлетворял критерию огибающей спектра. Альтернативно, первая заплата и вторая заплата масштабируются после их генерирования так, что сигнал с расширенной полосой пропускания также удовлетворяет критерию огибающей спектра. Также возможно масштабирование входного сигнала согласно первому алгоритму создания «заплат» и согласно второму алгоритму создания «заплат» вместе с масштабированием первой заплаты и второй заплаты.Scaling the input signal according to the first patch creation algorithm and according to the second patch creation algorithm means, for example, that the input signal is scaled once according to the first patch creation algorithm before the first patch is generated, and then the first patch is generated based on a scaled input signal, and that the input signal is scaled once according to the second “patch” algorithm before the second patch is generated, and then the second patch is generated, basing Referring to the scaled input signal, so that after combination of the first patch, the second patch and the first band input signal with extended bandwidth satisfy the spectral envelope criterion. Alternatively, the first patch and the second patch are scaled after they are generated so that the extended bandwidth signal also satisfies the spectral envelope criterion. It is also possible to scale the input signal according to the first “patch” creation algorithm and according to the second “patch” creation algorithm together with scaling of the first patch and the second patch.
Объединитель 120 может быть, например, сумматором, а сигнал с расширенной полосой пропускания 122 может быть взвешенной суммой первой заплаты 112, второй заплаты 114 и первой полосы входного сигнала 102.
Удовлетворение критерию огибающей спектра означает, например, что огибающая спектра сигнала с расширенной полосой пропускания основывается на данных огибающей спектра, содержащихся во входном сигнале. Данные огибающей спектра могут генерироваться кодирующим устройством и могут представлять вторую полосу оригинального сигнала. Таким образом, огибающая спектра сигнала с расширенной полосой пропускания может быть хорошей аппроксимацией огибающей спектра оригинального сигнала.Satisfying the spectral envelope criterion means, for example, that the spectral envelope of the extended bandwidth signal is based on the data of the spectral envelope contained in the input signal. Spectral envelope data may be generated by an encoder and may represent a second band of the original signal. Thus, the spectral envelope of an extended bandwidth signal can be a good approximation of the spectral envelope of the original signal.
Устройство 100 может также включать основной декодер для декодирования первой полосы входного сигнала 102.The device 100 may also include a main decoder for decoding the first strip of the
Генератор заплат 110 и объединитель 120 могут быть, например, специально разработанными аппаратными средствами или частью процессора или микроконтроллера, или могут быть компьютерной программой, формируемой для запуска на компьютере или микроконтроллере. Устройство 100 может быть частью декодера или звукового декодера.The
Фиг.3а показывает блок-схему устройства 300 для генерирования сигнала с расширенной полосой пропускания 122 от входного сигнала 102 согласно осуществлению изобретения. В этом примере генератор заплат 110 включает фазовый вокодер 310 для генерирования первой заплаты и ограничитель амплитуды 320 для того, чтобы генерировать вторую заплату 114. Фазовый вокодер 310 и ограничитель амплитуды 320 соединены с объединителем 120. Фазовый вокодер 310 может расширять первую полосу входного звукового сигнала 102 для генерирования первой заплаты 112, включающей гармонические частоты. На этапе нелинейной обработки ограничитель амплитуды 320 может ограничивать входной сигнал 102, чтобы генерировать вторую заплату 114, включающую гармонические и негармонические частоты. Альтернативно ограничителю амплитуды 320 также полуволновый выпрямитель, волновой выпрямитель, микшер или диод, используемые в квадратной области характеристической кривой, могут использоваться для генерирования негармонических частот, основанных на входном сигнале 102, на стадии нелинейной обработки.FIG. 3a shows a block diagram of an
Фиг.3b, 3с и 3d показывают примеры сигнала с ограничением уровня и/или выпрямленного входного сигнала 102 для генерирования негармонических частот. Фиг.3b показывает схематическую иллюстрацию 350 синусоидального входного сигнала с ограничением уровня 102. При ограничении сигнала появляются точки разрыва в форме резких изменений наклона сигнала 380, и генерируются гармонические и негармонические части с более высокими частотами.3b, 3c and 3d show examples of a level-limited signal and / or a rectified
Альтернативно, фиг.3с показывает схематическую иллюстрацию 360 полуволнового выпрямленного синусоидального входного сигнала 102, также вызывающего точки разрыва 380.Alternatively, FIG. 3c shows a
Далее, возможна комбинация ограничения и выпрямления. Фиг.3d показывает схематическую иллюстрацию 370 сигнала с ограничением уровня и волнового выпрямленного синусоидального входного сигнала 102, вызывающего различные точки разрыва 380.Further, a combination of restriction and rectification is possible. FIG. 3d shows a
При ограничении и/или выпрямлении или применении других способов нелинейной обработки производящей точки разрыва 380 может генерироваться широкий спектр различных частот. Поэтому заплата, генерированная согласно такому алгоритму создания «заплат», может иметь высокую спектральную плотность.By limiting and / or rectifying or using other non-linear processing methods of the producing
Фиг.4 показывает блок-схему устройства 400 для генерирования сигнала с расширенной полосой пропускания 122 от входного сигнала 102 согласно осуществлению изобретения. Устройство 400 подобно устройству, показанному на фиг.3а, но дополнительно включает селектор спектральных линий 410. Фазовый вокодер 310 и ограничитель амплитуды 320 соединены с селектором спектральных линий 410, а селектор спектральных линий 410 соединен с объединителем 120. Селектор спектральных линий 410 может выбрать множество частотных линий второй заплаты 114, чтобы получить измененную вторую заплату 414, которая может быть дополнительной к первой заплате. Частотная линия второй заплаты 114 может быть выбрана, если отсутствует соответствующая частотная линия первой заплаты 112. Другими словами, селектор спектральных линий 410 выбирает частотные линии второй заплаты 114 для заполнения промежутков первой заплаты 112 и может игнорировать частоты второй заплаты 114, уже содержащиеся в первой заплате 112. Таким образом, измененная вторая заплата 414 может включать промежутки в частотах, уже содержащихся в первой заплате 112.4 shows a block diagram of an
В этом примере объединитель 120 объединяет первую заплату 112, измененную вторую заплату 414 и первую полосу входного сигнала 102.In this example,
Селектор спектральных линий 410 может быть, например, частью генератора заплат 110 (как показано на фиг.4) или отдельным узлом.The spectral line selector 410 may be, for example, part of a patch generator 110 (as shown in FIG. 4) or a separate unit.
В дальнейшем со ссылкой на Фиг.5 и 6 показаны возможные исполнения фазового вокодера 310 согласно данному изобретению. Фиг.5а показывает исполнение гребенки фильтров фазового вокодера, где звуковой сигнал подается на вход 500 и получается на выходе 510. В частности, каждый канал схематической гребенки фильтров, проиллюстрированной на фиг.5а, включает полосовой фильтр 501 и последующий осциллятор 502. Выходные сигналы всех осцилляторов из каждого канала объединяются объединителем, который, например, исполняется как сумматор и обозначается цифрой 503, чтобы получить выходной сигнал. Каждый фильтр 501 осуществляется таким образом, что он обеспечивает сигнал с амплитудным кодированием с одной стороны и сигнал с частотным кодированием с другой стороны. Сигнал с амплитудным кодированием и сигнал с частотным кодированием - сигналы времени, иллюстрирующие увеличение амплитуды в фильтре 501 с течением времени, в то время как сигнал с частотным кодированием представляет увеличение частоты сигнала, отфильтрованного фильтром 501.Hereinafter, with reference to FIGS. 5 and 6, possible embodiments of a
Схематическое устройство фильтра 501 проиллюстрировано на фиг.5b. Каждый фильтр 501 фиг.5а может быть расположен как на фиг.5b, где, однако, только частоты fi, подаваемые двум входным микшерам 551 и сумматору 552, отличаются от канала к каналу. Микшированные выходные сигналы микшеров 551 оба отфильтрованы фильтрами нижних частот 553, где сигналы нижних частот различны, поскольку они были генерированы частотами местного осциллятора (частоты LO), которые не совпадают по фазе на 90°. Верхний фильтр нижних частот 553 обеспечивает квадратурный сигнал 554, в то время как нижний фильтр 553 обеспечивает совпадающий по фазе сигнал 555. Эти два сигнала, то есть Q и I, поставляются координатному преобразователю 556, который генерирует амплитудно-фазовое представление от прямоугольного представления. Магнитудный сигнал или амплитудный сигнал соответственно фиг.5а с течением времени выводится на выходе 557. Фазовый сигнал поставляется устройству для развертывания фазы 558. На выходе элемента 558 больше нет никакого фазового значения, которое всегда находится между 0 и 360°, но имеется фазовое значение, которое линейно увеличивается. Это «развернутое» фазовое значение поставляется фазовому/частотному преобразователю 559, который может, например, быть исполнен как простой калькулятор разности фаз, который вычитает фазу предыдущей точки во времени из фазы в данной точке во времени, чтобы получить частотное значение для данной точки во времени, или любые другие средства для получения аппроксимации фазовой производной. Это частотное значение добавляется к постоянному частотному значению fi канала фильтра i, чтобы получить изменяющееся во времени частотное значение на выходе 560. Частотное значение на выходе 560 имеет постоянную составляющую, равную fi, и переменную составляющую, равную девиации частоты, на которую данная частота сигнала в канале фильтра отклоняется от средней частоты fi.A schematic diagram of a
Таким образом, как проиллюстрировано на Фиг.5а и 5b, фазовый вокодер достигает разделения спектральной информации и временной информации. Спектральная информация содержится в специальном канале или в частоте fi, которая обеспечивает прямую часть частоты для каждого канала, в то время как временная информация содержится в девиации частоты или в эволюции магнитуды с течением времени соответственно.Thus, as illustrated in FIGS. 5a and 5b, the phase vocoder achieves the separation of spectral information and time information. The spectral information is contained in a special channel or in the frequency f i , which provides a direct part of the frequency for each channel, while the temporal information is contained in the frequency deviation or in the evolution of magnitude over time, respectively.
Фиг.5с показывает манипуляцию, как она выполняется, для генерирования первой заплаты согласно изобретению, в частности посредством использования фазового вокодера 310 и, более подробно, вставленного там, где расположены пунктирные линии проиллюстрированной схемы на фиг.5а.Fig. 5c shows the manipulation of how it is performed to generate the first patch according to the invention, in particular by using a
Для масштабирования времени, например, амплитудные сигналы A(t) в каждом канале или частоте сигналов f(t) в каждом канале могут быть уменьшены в 10 раз или интерполированы. В целях перемещения, поскольку это полезно для данного изобретения, выполняется интерполяция, то есть временное расширение или распространение сигналов A(t) и f(t), чтобы получить сигналы распространения A'(t) и f(t), где интерполяция регулируется фактором распространения 598. Фактор распространения может быть отобран, например, так, чтобы фазовый вокодер генерировал гармонические частоты. Посредством интерполирования фазового изменения, то есть значения перед дополнением постоянной частоты сумматором 552, частота каждого индивидуального осциллятора 502 на фиг.5а не меняется. Временное изменение полного звукового сигнала замедляется, однако, фактором 2. В результате получается распространенный во времени тон, имеющий оригинальный основной тон, то есть оригинальную основную волну с ее гармониками.To scale the time, for example, the amplitude signals A (t) in each channel or the frequency of the signals f (t) in each channel can be reduced by 10 times or interpolated. In order to move, since it is useful for the present invention, interpolation is performed, i.e., temporarily expanding or propagating the signals A (t) and f (t) to obtain propagation signals A '(t) and f (t), where the interpolation is controlled by a
Посредством выполнения обработки сигнала, проиллюстрированной на фиг.5с, звуковой сигнал может быть сокращен до его оригинальной длительности, например, посредством децимации фактора 2, в то время как все частоты одновременно удваиваются. Это приводит к перемещению основного тона фактором 2, где, однако, получается звуковой сигнал, который имеет ту же самую длину, что и оригинальный звуковой сигнал, то есть то же самое число сэмплов.By performing the signal processing illustrated in FIG. 5c, the audio signal can be reduced to its original duration, for example, by decimating factor 2, while all frequencies are doubled at the same time. This leads to the movement of the fundamental tone by factor 2, where, however, an audio signal is obtained that has the same length as the original audio signal, that is, the same number of samples.
В качестве альтернативы выполнению гребенки фильтров, проиллюстрированной на фиг.5а, может также выполняться преобразование фазового вокодера, как изображено на фиг.6. Здесь, звуковой сигнал 698 подается в процессор FFT, или более широко, в процессор кратковременного преобразования Фурье (STFT) 600 в качестве последовательности временных выборок. Процессор FFT 600 осуществляется, чтобы выполнить временную обработку звукового сигнала методом окна, чтобы затем посредством последующего FFT вычислить магнитудный спектр и также фазовый спектр, где это вычисление выполняется для последовательных спектров, которые соединены с блоками звукового сигнала, которые сильно перекрываются.As an alternative to performing the filter bank illustrated in FIG. 5 a, phase vocoder conversion may also be performed as shown in FIG. 6. Here, an
В крайнем случае для каждого нового сэмпла звукового сигнала может быть вычислен новый спектр, где новый спектр также может быть вычислен, например, только для каждого двадцатого нового сэмпла. Это расстояние 'а' в сэмплах между двумя спектрами предпочтительно производится контроллером 602. Контроллер 602 далее осуществляется, чтобы снабжать процессор IFFT (быстрое обратное преобразование Фурье) 604, который осуществляется, чтобы выполнять операцию наложения - добавления. В частности, процессор IFFT 604 осуществляется таким образом, что он выполняет обратное кратковременное преобразование Фурье посредством выполнения одного IFFT на спектр, основанный на магнитудном спектре и фазовом спектре, чтобы затем выполнить операцию наложения - добавления, чтобы получить результирующий временной сигнал. Операция наложения - добавления выполняется, чтобы устранить блокирующее действие, введенное окном анализа.In the extreme case, a new spectrum can be calculated for each new sample of the sound signal, where a new spectrum can also be calculated, for example, only for every twentieth new sample. This distance 'a' in the samples between the two spectra is preferably made by the
Временное распространение сигнала времени достигается расстоянием 'b' между двумя спектрами, поскольку они обрабатываются процессором IFFT 604, которое больше, чем расстояние 'а' между спектрами, используемыми при генерировании спектров FFT. Основная идея состоит в том, чтобы распространить звуковой сигнал посредством простого размещения обратных FFT дальше друг от друга, чем анализирующих FFTs. В результате спектральные изменения в синтезируемом звуковом сигнале происходят более медленно, чем в оригинальном звуковом сигнале.Temporal propagation of the time signal is achieved by the distance 'b' between the two spectra, since they are processed by the
Без изменения фазового масштаба в блоке 606 это, однако, приведет к возникновению частотных артефактов. Когда, например, рассматривается один единственный элемент разрешения по частоте, для которого выполняются последовательные фазовые значения в 45°, это подразумевает, что сигнал в пределах этой гребенки фильтров увеличивается по фазе со скоростью 1/8 цикла, то есть 45° на временной интервал, где временной интервал является временным интервалом между последовательными FFTs. Если теперь обратные FFTs располагаются дальше друг от друга, это означает, что 45° увеличение фазы происходит на более длинном временном интервале. Это означает, что частота этой части сигнала была непреднамеренно изменена. Чтобы устранить этот артефакт, изменяется масштаб фазы посредством того же самого фактора, которым звуковой сигнал распространялся во времени. Фаза каждого спектрального значения FFT, таким образом, увеличивается на фактор b/а так, чтобы устранить эту непреднамеренную модификацию частоты.Without changing the phase scale in
В то время, как в осуществлении, проиллюстрированном на фиг.5с, распространение посредством интерполяции управляющих сигналов амплитуды/частоты было достигнуто для одного осциллятора сигналов в выполнении гребенки фильтров фиг.5а, распространение на фиг.6 достигается расстоянием между двумя спектрами IFFT, которое больше, чем расстояние между двумя спектрами FFT, то есть 'b' больше, чем 'а', где, однако, для предотвращения появления артефакта выполняется изменение масштаба фазы согласно отношению 'b/а'. Расстояние 'b' может быть выбрано, например, так, чтобы фазовый вокодер генерировал гармонические частоты.While in the embodiment illustrated in FIG. 5c, the propagation by interpolation of the amplitude / frequency control signals was achieved for one signal oscillator in the filter bank of FIG. 5a, the propagation in FIG. 6 is achieved by the distance between the two IFFT spectra, which is greater than the distance between the two FFT spectra, that is, 'b' is greater than 'a', where, however, to prevent the appearance of an artifact, the phase scale is changed according to the ratio 'b / a'. The distance 'b' can be chosen, for example, so that the phase vocoder generates harmonic frequencies.
Фиг.7 показывает блок-схему устройства 700 для генерирования сигнала с расширенной полосой пропускания 122 от входного сигнала 102 согласно осуществлению изобретения. Устройство 700 подобно устройству, показанному на фиг.1, но включает регулятор мощности 710, первое устройство регулирования мощности 720 и второе устройство регулирования мощности 730. Регулятор мощности 710 соединен с первым устройством регулирования мощности 720 и со вторым устройством регулирования мощности 730. Первое устройство регулирования мощности 720 и второе устройство регулирования мощности 730 соединены с генератором заплат 110. Регулятор мощности 710 может управлять масштабированием входного сигнала согласно первому и второму алгоритму создания «заплат», основанному на данных огибающей спектра, содержащихся во входном сигнале, и основанному на управляющих данных масштабирования заплат, содержащихся во входном сигнале. Альтернативно, вместо управляющих данных масштабирования заплаты, содержащихся во входном сигнале, может использоваться, по крайней мере, один сохраненный параметр управления масштабированием заплаты. Параметр управления масштабированием заплаты может сохраняться в памяти параметра управления масштабированием заплаты, которая может быть частью регулятора мощности 710 или отдельным узлом. Первое устройство регулирования мощности 720 может масштабировать входной сигнал 102 согласно первому алгоритму создания «заплат», и второе устройство регулирования мощности 730 может масштабировать входной сигнал 102 согласно второму алгоритму создания «заплат». Другими словами, входной сигнал 102 может быть предварительно обработан так, чтобы могла быть генерирована первая и вторая заплата так, чтобы сигнал с расширенной полосой пропускания удовлетворял критерию огибающей спектра. Для этого данные огибающей спектра могут определять огибающую спектра сигнала с расширенной полосой пропускания 122, а управляющие данные масштабирования заплаты или параметр управления масштабированием заплаты могут установить соотношение между первой заплатой 112 и второй заплатой 114 или могут установить абсолютные значения первой заплаты 112 и/или второй заплаты 114. Первое устройство регулирования мощности 720 и второе устройство регулирования мощности 730 могут быть частью регулятора мощности 710 или отдельными узлами, как показано на фиг.7. Регулятор мощности 710 может быть частью генератора заплаты 110 или отдельным узлом, как также показано на фиг.7. Устройства регулирования мощности 720, 730 могут быть, например, усилителями или фильтрами, управляемыми регулятором мощности 710.7 shows a block diagram of an
Альтернативно, масштабирование выполняется после генерирования заплат. Соответственно фиг.8 показывает блок-схему устройства 800 для генерирования сигнала с расширенной полосой пропускания 122 от входного сигнала 102 согласно осуществлению изобретения. Устройство 800 подобно устройству, показанному на фиг.7, но устройства регулирования мощности 720, 730 расположены между генератором заплат 110 и объединителем 120. В этом примере генератор заплат 110 соединен с первым устройством регулирования мощности 720 и соединен со вторым устройством регулирования мощности 730. Первое устройство регулирования мощности 720 и второе устройство регулирования мощности 730 соединены с объединителем 120. Таким образом, первая заплата 112 может быть масштабирована первым устройством регулирования мощности 720 согласно первому алгоритму создания «заплат», и вторая заплата 114 может быть масштабирована вторым устройством регулирования мощности 730 согласно второму алгоритму создания «заплат». Устройства регулирования мощности, управляемые регулятором мощности 710, снова основываются на данных огибающей спектра и на управляющих данных масштабирования заплаты или параметре управления масштабированием заплаты, как описано выше.Alternatively, scaling is performed after the patches are generated. Accordingly, FIG. 8 shows a block diagram of an
Альтернативно, возможно также масштабирование или регулирование мощности только одной из двух заплат, сопровождаемое объединением заплат посредством объединителя 120 и масштабированием объединенных заплат до объединения объединенных заплат с первым диапазоном входного сигнала 102. Другими словами, сначала одна заплата может быть масштабирована, чтобы реализовать предварительно определенное соотношение (например, основанное на управляющих данных масштабирования заплаты) между двумя заплатами, а затем объединенные заплаты масштабируются (например, основанное на данных огибающей спектра), чтобы удовлетворять критерию огибающей спектра.Alternatively, it is also possible to scale or adjust the power of only one of the two patches, followed by combining the patches by
Управляющие данные масштабирования заплаты могут включать, например, простой фактор или множество параметров для масштабирования распределения мощности. Управляющие данные масштабирования заплаты могут указывать, например, соотношение мощностей между первой заплатой и второй заплатой на полной второй полосе или полной высокочастотной полосе или абсолютное значение мощности первой заплаты и/или второй заплаты на полной второй полосе или полной высокочастотной полосе, и могут быть представлены, по крайней мере, одним параметром. Альтернативно, данные масштабирования заплаты включают фактор для каждого множества поддиапазонов, составляющих вторую полосу или высокочастотную полосу, например, подобные данным огибающей спектра на поддиапазон при применении репликации спектральной полосы пропускания. Альтернативно, данные масштабирования заплаты могут также показывать передаточную функцию фильтра. Например, параметры передаточной функции фильтра для масштабирования первой заплаты и/или параметры передаточной функции фильтра для масштабирования второй заплаты могут содержаться во входном сигнале. Таким образом, параметры могут представлять функцию частоты. Другой альтернативой могут быть параметры управления масштабированием заплаты, представляющие дифференциальную функцию первой заплаты и второй заплаты. Согласно этим примерам масштабирование входного сигнала или масштабирование первой заплаты и второй заплаты может основываться на управляющих данных масштабирования заплаты, включающих, по крайней мере, один параметр.The patch scaling control data may include, for example, a simple factor or a plurality of parameters for scaling a power distribution. The patch scaling control data may indicate, for example, the power ratio between the first patch and the second patch in the full second band or full high frequency band or the absolute value of the power of the first patch and / or second patch in the full second band or full high frequency band, and can be represented, at least one parameter. Alternatively, the patch scaling data includes a factor for each of a plurality of subbands constituting a second band or a high frequency band, for example, similar to spectral envelope data for a subband when applying spectral bandwidth replication. Alternatively, patch scaling data may also show the transfer function of the filter. For example, the parameters of the filter transfer function for scaling the first patch and / or the parameters of the filter transfer function for scaling the second patch may be contained in the input signal. Thus, the parameters can represent a function of frequency. Another alternative may be patch control parameters representing the differential function of the first patch and the second patch. According to these examples, scaling of the input signal or scaling of the first patch and the second patch can be based on the patch scaling control data including at least one parameter.
Фиг.9 показывает блок-схему устройства 900 для генерирования сигнала с расширенной полосой пропускания 122 от входного сигнала 102 согласно осуществлению изобретения. Устройство 900 подобно устройству, показанному на фиг.8, но включает, дополнительно, сумматор шума 910, сумматор недостающих гармоник 920, устройство регулирования мощности шума 940 и устройство регулирования мощности недостающих гармоник 950. Сумматор шума 910 соединен с устройством регулирования мощности шума 940, который соединен с объединителем 120. Сумматор недостающих гармоник 920 соединен с устройством регулирования мощности недостающих гармоник 950, которое соединено с объединителем 120. Далее, регулятор мощности 710 соединен с устройством регулирования мощности шума 940 и устройством регулирования мощности недостающих гармоник 950. Сумматор шума 910 может генерировать шумовую заплату 912, основанную на шумовых данных, содержащихся во входном сигнале 102.FIG. 9 shows a block diagram of an
Шумовая заплата 912 может масштабироваться устройством регулирования мощности шума 940. Регулятор мощности 710 может управлять устройством регулирования мощности шума 940, основанного на данных огибающей спектра и/или данных масштабирования шума, содержащихся во входном сигнале 102. Таким образом, шум оригинального сигнала может быть аппроксимирован, чтобы улучшить звуковое качество сигнала с расширенной полосой пропускания.The
Сумматор недостающих гармоник 920 может генерировать заплату недостающих гармоник 922, основанную на данных недостающих гармоник, содержащихся во входном сигнале. Заплата недостающих гармоник 922 может содержать гармонические частоты, которые могут появиться только в высокочастотной полосе оригинального сигнала и поэтому не могут быть воспроизведены, если доступна только информация низкочастотной полосы оригинального сигнала в показателях первой полосы входного сигнала 102. Данные недостающих гармоник могут предоставлять информацию об этих недостающих гармониках. Заплата недостающих гармоник 922 может масштабироваться устройством регулирования мощности недостающих гармоник 950. Регулятор мощности 710 может управлять устройством регулирования мощности недостающих гармоник 950, основанных на данных огибающей спектра или основанных на данных масштабирования недостающих гармоник, содержащихся во входном сигнале 102.The missing
Объединитель 120 может объединять первую заплату 112, вторую заплату 114, первую полосу входного сигнала 102, шумовую заплату 912 и заплату недостающей гармоники 922, чтобы получить сигнал с расширенной полосой пропускания 122. Регулятор мощности 710 в комбинации с устройством регулирования мощности может масштабировать первую заплату 112, вторую заплату 114, шумовую заплату 912 и заплату недостающей гармоники 922, основанные на данных огибающей спектра, так, чтобы удовлетворять критерию огибающей спектра.
Фиг.10 показывает блок-схему устройства 1000 для получения сигнала с уменьшенной полосой пропускания 1032, основанного на входном сигнале 1002 согласно осуществлению изобретения. Устройство 1000 включает определитель данных огибающей спектра 1010, генератор управляющих данных масштабирования заплаты 1020 и выходной интерфейс 1030. Определитель данных огибающей спектра 1010 и генератор управляющих данных масштабирования заплаты 1020 соединены с выходным интерфейсом 1030. Определитель данных огибающей спектра 1010 может определять данные огибающей спектра 1012, основанные на высокочастотной полосе входного сигнала 1002. Генератор управляющих данных масштабирования заплаты 1020 может генерировать управляющие данные масштабирования заплаты 1022 для масштабирования сигнала с уменьшенной полосой пропускания 1032 в декодере или для масштабирования первой заплаты и второй заплаты декодером так, чтобы сигнал с расширенной полосой пропускания, произведенный декодером, удовлетворял критерию огибающей спектра. Критерий огибающей спектра основывается на данных огибающей спектра. Первая заплата генерируется от первой полосы сигнала с уменьшенной полосой пропускания 1032 согласно первому алгоритму создания «заплат», и вторая заплата генерируется от первой полосы сигнала с уменьшенной полосой пропускания 1032 согласно второму алгоритму создания «заплат». Спектральная плотность второй заплаты, генерированной согласно второму алгоритму создания «заплат», выше, чем спектральная плотность первой заплаты, генерированной согласно первому алгоритму создания «заплат». Выходной интерфейс 1030 объединяет низкочастотную полосу входного сигнала 1002, данные огибающей спектра 1012 и управляющие данные масштабирования заплаты 1022, чтобы получить сигнал с уменьшенной полосой пропускания 1032. Далее, выходной интерфейс 1030 обеспечивает сигнал с уменьшенной полосой пропускания 1032 для передачи или хранения.10 shows a block diagram of an
Устройство 1000 может также включать основное кодирующее устройство для кодирования низкочастотной полосы входного сигнала. Основное кодирующее устройство может быть, например, дифференциальным кодирующим устройством, энтропийным кодирующим устройством или перцепционным звуковым кодирующим устройством.
Устройство 1000 может быть частью кодирующего устройства, формируемого, чтобы обеспечить сигнал для декодера, описанного выше. Управляющие данные масштабирования заплаты 1022 могут включать, например, простой фактор или множество параметров для масштабирования распределения мощности. Управляющие данные масштабирования заплаты могут показывать, например, соотношение мощностей между первой заплатой и второй заплатой на полной высокочастотной полосе или абсолютную величину мощности первой заплаты и/или второй заплаты на полной высокочастотной полосе и могут быть представлены, по крайней мере, одним параметром. Альтернативно, данные масштабирования заплаты включают фактор, определенный для каждого множества поддиапазонов, образующих высокочастотную полосу, например, подобной данным огибающей спектра на поддиапазон при применении репликации спектральной полосы пропускания. Альтернативно, данные масштабирования заплаты могут также показать передаточную функцию фильтра. Например, параметры передаточной функции фильтра для масштабирования первой заплаты и/или параметры передаточной функции фильтра для масштабирования второй заплаты могут быть определены для того, чтобы генерировать управляющие данные масштабирования заплаты. Таким образом, параметры могут быть генерированы, основываясь на функции частоты. Другая альтернатива может генерироваться параметрами управления масштабированием заплаты, представляющими дифференциальную функцию первой заплаты и второй заплаты.The
Управляющие данные масштабирования заплаты 1022 могут быть генерированы посредством анализа входного сигнала 1002 и выбора параметров управления масштабированием заплаты, хранящихся в памяти параметра управления масштабированием заплаты, основанного на анализе входного сигнала 1002, чтобы получить управляющие данные масштабирования заплаты 1022.Patch scaling
Альтернативно, генерирование управляющих данных масштабирования заплаты 1022 может быть реализовано способом анализа через синтез. Для этого генератор управляющих данных масштабирования заплаты 1020 может включать, дополнительно, генератор заплат (как описано для декодера) и компаратор. Генератор заплат может генерировать первую заплату от низкочастотной полосы входного сигнала 1002 согласно первому алгоритму создания «заплат», и вторую заплату от низкочастотной полосы входного сигнала 1002 согласно второму алгоритму создания «заплат». Спектральная плотность второй заплаты, генерированной согласно второму алгоритму создания «заплат», может быть выше, чем спектральная плотность первой заплаты, генерированной согласно первому алгоритму создания «заплат». Компаратор может сравнивать первую заплату, вторую заплату и высокочастотную полосу входного сигнала, чтобы получить управляющие данные масштабирования заплаты 1022. Другими словами, концепция, описанная выше, также применима к устройству 1000. Таким образом, устройство 1000 может извлечь управляющие данные масштабирования заплаты 1022 посредством сравнения заплат или объединения заплат с входным сигналом, который может, например, быть оригинальным звуковым сигналом. Дополнительно, устройство 1000 может также включать селектор спектральных линий, регулятор мощности, сумматор шума и/или сумматор недостающих гармоник, как описано выше. Таким образом, также шумовые данные, управляющие данные масштабирования шумовой заплаты, недостающие гармонические данные и/или управляющие данные масштабирования недостающих гармонических заплат могут быть извлечены способом анализа через синтез.Alternatively, the generation of scaling control data for the
Некоторые осуществления согласно изобретению касаются звукового сигнала, включающего первую полосу и вторую полосу. Первая полоса представлена данными первого разрешения, а вторая полоса представлена данными второго разрешения, где второе разрешение ниже, чем первое разрешение. Данные второго разрешения основываются на данных огибающей спектра второй полосы и управляющих данных масштабирования заплаты второй полосы для масштабирования звукового сигнала в декодере или для масштабирования первой заплаты и второй заплаты декодером, так, чтобы сигнал с расширенной полосой пропускания, произведенный декодером, удовлетворял критерию огибающей спектра. Критерий огибающей спектра основывается на данных огибающей спектра. Первая заплата генерируется от первой полосы звукового сигнала согласно первому алгоритму создания «заплат», а вторая заплата генерируется от первой полосы звукового сигнала согласно второму алгоритму создания «заплат». Спектральная плотность второй заплаты, генерированной согласно второму алгоритму создания «заплат», выше, чем спектральная плотность первой заплаты, генерированной согласно первому алгоритму создания «заплат».Some embodiments of the invention relate to an audio signal including a first band and a second band. The first strip is represented by the first resolution data, and the second strip is represented by the second resolution data, where the second resolution is lower than the first resolution. The second resolution data is based on the second-band spectrum envelope data and the second-band patch scaling control data for scaling the audio signal in the decoder or for scaling the first and second patches with the decoder so that the extended-bandwidth signal produced by the decoder satisfies the spectral envelope criterion. The spectral envelope criterion is based on the data of the spectral envelope. The first patch is generated from the first strip of the audio signal according to the first patch algorithm, and the second patch is generated from the first strip of the audio signal according to the second patch algorithm. The spectral density of the second patch generated according to the second patch creation algorithm is higher than the spectral density of the first patch generated according to the first patch creation algorithm.
Звуковой сигнал может быть, например, сигналом с уменьшенной полосой пропускания, основанным на оригинальном звуковом сигнале. Первая полоса звукового сигнала может представлять низкочастотную полосу оригинального звукового сигнала, кодированного с высоким разрешением. Вторая полоса звукового сигнала может представлять высокочастотную полосу оригинального звукового сигнала и может квантоваться, по крайней мере, двумя параметрами: параметр огибающей спектра, представленный данными огибающей спектра, и параметр управления масштабированием заплаты, представленный управляющими данными масштабирования заплаты. Основанный на таком звуковом сигнале декодер согласно концепции, описанной выше, может генерировать сигнал с расширенной полосой пропускания, обеспечивающий хорошую аппроксимацию оригинального звукового сигнала с улучшенным звуковым качеством, по сравнению с известными концепциями.The audio signal may be, for example, a signal with a reduced bandwidth based on the original audio signal. The first band of the audio signal may represent the low frequency band of the original high resolution encoded audio signal. The second band of the audio signal can represent the high-frequency band of the original audio signal and can be quantized with at least two parameters: the spectral envelope parameter represented by the spectral envelope data and the patch scaling control parameter represented by the patch scaling control data. Based on such an audio signal, a decoder according to the concept described above can generate an extended bandwidth signal providing a good approximation of the original audio signal with improved sound quality compared to known concepts.
Фиг.11 показывает блок-схему способа 1100 для генерирования сигнала с расширенной полосой пропускания от входного сигнала согласно осуществлению изобретения. Входной сигнал представлен для первой полосы данными первого разрешения и для второй полосы данными второго разрешения, второе разрешение ниже, чем первое разрешение. Способ 1100 включает генерирование 1110 первой заплаты, генерирование 1120 второй заплаты, масштабирование 1130 входного сигнала или масштабирование 1130 первой заплаты и второй заплаты и объединение 1140 первой заплаты, второй заплаты и первой полосы входного сигнала, чтобы получить сигнал с расширенной полосой пропускания. Первая заплата генерируется 1110 от первой полосы входного сигнала согласно первому алгоритму создания «заплат», а вторая полоса генерируется 1120 от первой полосы входного сигнала согласно второму алгоритму создания «заплат». Спектральная плотность второй заплаты, генерированной 1120 согласно второму алгоритму создания «заплат», выше, чем спектральная плотность первой заплаты, генерированной 1110 согласно первому алгоритму создания «заплат». Входной сигнал может быть масштабирован 1130 согласно первому алгоритму создания «заплат» и согласно второму алгоритму создания «заплат», или первая заплата и вторая заплата могут быть масштабированы 1130 так, чтобы сигнал с расширенной полосой пропускания удовлетворял критерию огибающей спектра.11 shows a flow diagram of a
Далее, способ 1100 может быть расширен шагами согласно концепции, описанной выше. Способ 1100 может быть, например, реализован как компьютерная программа для запуска на компьютере или микроконтроллере.Further,
Фиг.12 показывает блок-схему способа 1200 для предоставления сигнала с уменьшенной полосой пропускания, основанного на входном сигнале согласно осуществлению изобретения. Способ 1200 включает определение 1210 данных огибающей спектра, основанных на высокочастотной полосе входного сигнала, генерирование 1220 управляющих данных масштабирования заплаты, объединение 1230 низкочастотной полосы входного сигнала, данных огибающей спектра и управляющих данных масштабирования заплаты, чтобы получить сигнал с уменьшенной полосой пропускания, и обеспечение 1240 сигнала с уменьшенной полосой пропускания для передачи или хранения. Управляющие данные масштабирования заплаты генерируются 1220 для масштабирования сигнала с уменьшенной полосой пропускания в декодере или для масштабирования первой заплаты и второй заплаты декодером так, чтобы сигнал с расширенной полосой пропускания, генерированный декодером, удовлетворял критерию огибающей спектра. Критерий огибающей спектра основывается на данных огибающей спектра. Первая заплата генерируется от низкочастотной полосы сигнала с уменьшенной полосой пропускания согласно первому алгоритму создания «заплат», а вторая заплата генерируется от низкочастотной полосы сигнала с уменьшенной полосой пропускания согласно второму алгоритму создания «заплат». Спектральная плотность второй заплаты, генерированной согласно второму алгоритму создания «заплат», выше, чем спектральная плотность первой заплаты, генерированной согласно первому алгоритму создания «заплат».12 shows a flowchart of a
Далее, способ 1200 может быть расширен шагами согласно концепции, описанной выше. Способ 1200 может быть, например, реализован как компьютерная программа для запуска на компьютере или микроконтроллере.Further,
Некоторые осуществления согласно изобретению касаются устройства для генерирования сигнала с расширенной полосой пропускания посредством использования фазового вокодера для расширения полосы пропускания, объединенного с нелинейным искажением или шумовым заполнением для получения более плотного спектра. При применении фазового вокодера для спектрального распространения частотные линии перемещаются дальше друг от друга. Если в спектре существуют промежутки, например, в результате квантизации, они даже увеличиваются при распространении. При адаптации энергии остающиеся линии в спектре получают слишком много энергии. Это предотвращается посредством заполнения промежутков или шумом, или далее гармониками, которые могут быть получены нелинейным искажением сигнала. Таким образом, больше энергии может быть распределено между остающимися линиями. При концентрации энергии в полосах только на нескольких частотных линиях возникает неестественный или металлический звук. Энергия ранее существовавшего большего количества полос собирается на остающихся.Some implementations according to the invention relate to a device for generating a signal with extended bandwidth by using a phase vocoder to expand the bandwidth combined with non-linear distortion or noise filling to obtain a denser spectrum. When using a phase vocoder for spectral propagation, the frequency lines move further apart. If there are gaps in the spectrum, for example, as a result of quantization, they even increase during propagation. With energy adaptation, the remaining lines in the spectrum receive too much energy. This is prevented by filling the gaps with either noise or further harmonics that can be obtained by non-linear signal distortion. Thus, more energy can be distributed between the remaining lines. When energy is concentrated in the bands on only a few frequency lines, an unnatural or metallic sound arises. The energy of the pre-existing more bands is collected on the remaining.
Если в спектре нет никаких промежутков, но, по крайней мере, присутствует шум, часть энергии остается на минимальном уровне шума. При применении нелинейного искажения спектр может быть снова уплотнен, с одной стороны, шумом, произведенным искажением, с другой стороны, дальнейшими гармоническими частями, управляемыми соответствующим выбором части сигнала, подлежащей искажению.If there are no gaps in the spectrum, but at least noise is present, part of the energy remains at a minimum noise level. When applying nonlinear distortion, the spectrum can again be densified, on the one hand, by the noise produced by the distortion, on the other hand, by further harmonic parts controlled by the appropriate selection of the signal part to be distorted.
Сигнал с расширенной полосой пропускания тогда может быть, например, взвешенной суммой фильтрованного искаженного сигнала и сигналом, который был генерирован при помощи фазового вокодера. Другими словами, сигнал с расширенной полосой пропускания может быть взвешенной суммой первой заплаты, второй заплаты и первой полосы входного сигнала.The extended bandwidth signal can then be, for example, the weighted sum of the filtered distorted signal and the signal that was generated using the phase vocoder. In other words, an extended bandwidth signal can be a weighted sum of the first patch, second patch, and first input band.
Некоторые осуществления согласно изобретению касаются концепции, подходящей для всех звуковых применений, где полная полоса пропускания недоступна. Например, для передачи по радио звукового содержания при помощи цифровых радио-услуг, Интернет-потока или других звуковых коммуникационных применений может использоваться описанная концепция.Some embodiments of the invention relate to a concept suitable for all audio applications where full bandwidth is not available. For example, to transmit audio content via radio using digital radio services, an Internet stream, or other audio communication applications, the concept described may be used.
При описании этого изобретения в терминах нескольких осуществлений существуют изменения, перестановки и эквиваленты, которые находятся в пределах области этого изобретения. Следует также заметить, что имеется много альтернативных методов осуществления способов и структур данного изобретения. Поэтому предполагается, что приложенные ниже пункты патентной формулы интерпретируются как включающие все такие изменения, перестановки и эквиваленты, которые находятся в пределах истинной сущности и объема данного изобретения.When describing this invention in terms of several implementations, there are changes, permutations, and equivalents that are within the scope of this invention. It should also be noted that there are many alternative methods for implementing the methods and structures of the present invention. Therefore, it is assumed that the following claims are interpreted as including all such changes, permutations, and equivalents that are within the true essence and scope of this invention.
В частности, указано, что в зависимости от условий изобретательная схема может также быть осуществлена в программном обеспечении. Выполнение может быть на цифровом носителе данных, в частности на дискете или компакт-диске, с электронно-считываемыми управляющими сигналами, способными взаимодействовать с программируемой компьютерной системой так, чтобы соответствующий способ был реализован. Обычно изобретение также состоит из компьютерного программного продукта с управляющей программой, сохраненной на машиночитаемом носителе для выполнения изобретательного способа, когда компьютерный программный продукт выполнен на компьютере. Другими словами, изобретение может также быть реализовано как компьютерная программа с управляющей программой для выполнения способа, когда компьютерный программный продукт выполнен на компьютере.In particular, it is indicated that, depending on the conditions, an inventive scheme may also be implemented in software. The execution may be on a digital storage medium, in particular on a floppy disk or CD, with electronically readable control signals capable of interacting with a programmable computer system so that the corresponding method is implemented. Typically, the invention also consists of a computer program product with a control program stored on a computer-readable medium for performing an inventive method when the computer program product is executed on a computer. In other words, the invention can also be implemented as a computer program with a control program for executing a method when the computer program product is executed on a computer.
Claims (18)
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US7984908P | 2008-07-11 | 2008-07-11 | |
| US61/079,849 | 2008-07-11 | ||
| PCT/EP2009/004603 WO2010003557A1 (en) | 2008-07-11 | 2009-06-25 | Apparatus and method for generating a bandwidth extended signal |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| RU2011100134A RU2011100134A (en) | 2012-07-20 |
| RU2512090C2 true RU2512090C2 (en) | 2014-04-10 |
Family
ID=41162740
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| RU2011100134/08A RU2512090C2 (en) | 2008-07-11 | 2009-06-25 | Apparatus and method of generating wide bandwidth signal |
Country Status (17)
| Country | Link |
|---|---|
| EP (1) | EP2291842B1 (en) |
| JP (1) | JP5255699B2 (en) |
| KR (1) | KR101239812B1 (en) |
| CN (1) | CN102105931B (en) |
| AR (1) | AR072483A1 (en) |
| AU (1) | AU2009267460B2 (en) |
| BR (2) | BRPI0910528B1 (en) |
| CA (1) | CA2729474C (en) |
| CO (1) | CO6541514A2 (en) |
| ES (1) | ES2461141T3 (en) |
| MX (1) | MX2011000365A (en) |
| MY (1) | MY163454A (en) |
| PL (1) | PL2291842T3 (en) |
| RU (1) | RU2512090C2 (en) |
| TW (1) | TWI415116B (en) |
| WO (1) | WO2010003557A1 (en) |
| ZA (1) | ZA201009164B (en) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| RU2589305C1 (en) * | 2014-11-18 | 2016-07-10 | Федеральное государственное казенное военное образовательное учреждение высшего профессионального образования "Военный учебно-научный центр Военно-воздушных сил "Военно-воздушная академия имени профессора Н.Е. Жуковского и Ю.А. Гагарина" (г. Воронеж) Министерства обороны Российской Федерации | High-frequency signal generation method and device for its implementation |
| RU2731372C2 (en) * | 2015-07-24 | 2020-09-02 | Саунд Обджект Текнолоджиз С.А. | Method and system for decomposing an acoustic signal into sound objects, as well as a sound object and use thereof |
Families Citing this family (21)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| SG10201408425QA (en) | 2010-01-19 | 2015-01-29 | Dolby Int Ab | Improved subband block based harmonic transposition |
| CA2792452C (en) | 2010-03-09 | 2018-01-16 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Apparatus and method for processing an input audio signal using cascaded filterbanks |
| CA2792368C (en) | 2010-03-09 | 2016-04-26 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Apparatus and method for handling transient sound events in audio signals when changing the replay speed or pitch |
| ES2655085T3 (en) | 2010-03-09 | 2018-02-16 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Magnitude response and improved time alignment in bandwidth extension based on a phase vocoder for audio signals |
| JP5554876B2 (en) * | 2010-04-16 | 2014-07-23 | フラウンホーファーゲゼルシャフト ツール フォルデルング デル アンゲヴァンテン フォルシユング エー.フアー. | Apparatus, method and computer program for generating a wideband signal using guided bandwidth extension and blind bandwidth extension |
| US12002476B2 (en) | 2010-07-19 | 2024-06-04 | Dolby International Ab | Processing of audio signals during high frequency reconstruction |
| EP3291230B1 (en) | 2010-07-19 | 2019-04-17 | Dolby International AB | Processing of audio signals during high frequency reconstruction |
| IL317702A (en) * | 2010-09-16 | 2025-02-01 | Dolby Int Ab | Method and system for cross product enhanced subband block based harmonic transposition |
| US8490008B2 (en) * | 2011-11-10 | 2013-07-16 | Research In Motion Limited | Touchscreen keyboard predictive display and generation of a set of characters |
| EP2791937B1 (en) * | 2011-11-02 | 2016-06-08 | Telefonaktiebolaget LM Ericsson (publ) | Generation of a high band extension of a bandwidth extended audio signal |
| CN102543086B (en) * | 2011-12-16 | 2013-08-14 | 大连理工大学 | A device and method for voice bandwidth extension based on audio watermark |
| EP2704142B1 (en) * | 2012-08-27 | 2015-09-02 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Apparatus and method for reproducing an audio signal, apparatus and method for generating a coded audio signal, computer program and coded audio signal |
| EP2709106A1 (en) * | 2012-09-17 | 2014-03-19 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Apparatus and method for generating a bandwidth extended signal from a bandwidth limited audio signal |
| EP2830060A1 (en) * | 2013-07-22 | 2015-01-28 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Noise filling in multichannel audio coding |
| US9564141B2 (en) * | 2014-02-13 | 2017-02-07 | Qualcomm Incorporated | Harmonic bandwidth extension of audio signals |
| EP2980795A1 (en) * | 2014-07-28 | 2016-02-03 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Audio encoding and decoding using a frequency domain processor, a time domain processor and a cross processor for initialization of the time domain processor |
| JP2016038435A (en) | 2014-08-06 | 2016-03-22 | ソニー株式会社 | Encoding device and method, decoding device and method, and program |
| WO2016149085A2 (en) * | 2015-03-13 | 2016-09-22 | Psyx Research, Inc. | System and method for dynamic recovery of audio data and compressed audio enhancement |
| TWI752166B (en) | 2017-03-23 | 2022-01-11 | 瑞典商都比國際公司 | Backward-compatible integration of harmonic transposer for high frequency reconstruction of audio signals |
| CN116110424B (en) * | 2021-11-11 | 2025-07-15 | 腾讯科技(深圳)有限公司 | Voice bandwidth expansion method and related device |
| CN114758672B (en) * | 2022-03-30 | 2025-06-13 | 深圳市潮流网络技术有限公司 | Audio generation method, device and electronic device |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5455888A (en) * | 1992-12-04 | 1995-10-03 | Northern Telecom Limited | Speech bandwidth extension method and apparatus |
| EP0945852A1 (en) * | 1998-03-25 | 1999-09-29 | BRITISH TELECOMMUNICATIONS public limited company | Speech synthesis |
| RU2256293C2 (en) * | 1997-06-10 | 2005-07-10 | Коудинг Технолоджиз Аб | Improving initial coding using duplicating band |
| US7003451B2 (en) * | 2000-11-14 | 2006-02-21 | Coding Technologies Ab | Apparatus and method applying adaptive spectral whitening in a high-frequency reconstruction coding system |
Family Cites Families (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US654988A (en) * | 1900-03-16 | 1900-07-31 | Leonhard Lederer | Process of making acetyl cellulose. |
| SE512719C2 (en) * | 1997-06-10 | 2000-05-02 | Lars Gustaf Liljeryd | A method and apparatus for reducing data flow based on harmonic bandwidth expansion |
| SE9903553D0 (en) * | 1999-01-27 | 1999-10-01 | Lars Liljeryd | Enhancing conceptual performance of SBR and related coding methods by adaptive noise addition (ANA) and noise substitution limiting (NSL) |
| MXPA03002115A (en) | 2001-07-13 | 2003-08-26 | Matsushita Electric Industrial Co Ltd | Audio signal decoding device and audio signal encoding device. |
| EP1430475A1 (en) * | 2001-08-31 | 2004-06-23 | Koninklijke Philips Electronics N.V. | Bandwidth extension of a sound signal |
| JP4380174B2 (en) * | 2003-02-27 | 2009-12-09 | 沖電気工業株式会社 | Band correction device |
| US7577259B2 (en) * | 2003-05-20 | 2009-08-18 | Panasonic Corporation | Method and apparatus for extending band of audio signal using higher harmonic wave generator |
| JP2005010621A (en) * | 2003-06-20 | 2005-01-13 | Matsushita Electric Ind Co Ltd | Voice bandwidth extension apparatus and bandwidth extension method |
| CN101044553B (en) * | 2004-10-28 | 2011-06-01 | 松下电器产业株式会社 | Scalable encoding apparatus, scalable decoding apparatus, and methods thereof |
| KR100647336B1 (en) * | 2005-11-08 | 2006-11-23 | 삼성전자주식회사 | Adaptive Time / Frequency-based Audio Coding / Decoding Apparatus and Method |
| JP5141180B2 (en) * | 2006-11-09 | 2013-02-13 | ソニー株式会社 | Frequency band expanding apparatus, frequency band expanding method, reproducing apparatus and reproducing method, program, and recording medium |
-
2009
- 2009-06-25 EP EP09776840.2A patent/EP2291842B1/en active Active
- 2009-06-25 BR BRPI0910528-0A patent/BRPI0910528B1/en active IP Right Grant
- 2009-06-25 MY MYPI2011000040A patent/MY163454A/en unknown
- 2009-06-25 ES ES09776840.2T patent/ES2461141T3/en active Active
- 2009-06-25 BR BR122017003818-4A patent/BR122017003818B1/en active IP Right Grant
- 2009-06-25 JP JP2011516992A patent/JP5255699B2/en active Active
- 2009-06-25 CA CA2729474A patent/CA2729474C/en active Active
- 2009-06-25 RU RU2011100134/08A patent/RU2512090C2/en active
- 2009-06-25 PL PL09776840T patent/PL2291842T3/en unknown
- 2009-06-25 KR KR1020117000441A patent/KR101239812B1/en active Active
- 2009-06-25 CN CN2009801270931A patent/CN102105931B/en active Active
- 2009-06-25 MX MX2011000365A patent/MX2011000365A/en active IP Right Grant
- 2009-06-25 WO PCT/EP2009/004603 patent/WO2010003557A1/en not_active Ceased
- 2009-06-25 AU AU2009267460A patent/AU2009267460B2/en active Active
- 2009-07-03 TW TW098122551A patent/TWI415116B/en active
- 2009-07-07 AR ARP090102552A patent/AR072483A1/en active IP Right Grant
-
2010
- 2010-12-21 ZA ZA2010/09164A patent/ZA201009164B/en unknown
- 2010-12-29 CO CO10164070A patent/CO6541514A2/en active IP Right Grant
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5455888A (en) * | 1992-12-04 | 1995-10-03 | Northern Telecom Limited | Speech bandwidth extension method and apparatus |
| RU2256293C2 (en) * | 1997-06-10 | 2005-07-10 | Коудинг Технолоджиз Аб | Improving initial coding using duplicating band |
| EP0945852A1 (en) * | 1998-03-25 | 1999-09-29 | BRITISH TELECOMMUNICATIONS public limited company | Speech synthesis |
| US7003451B2 (en) * | 2000-11-14 | 2006-02-21 | Coding Technologies Ab | Apparatus and method applying adaptive spectral whitening in a high-frequency reconstruction coding system |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| RU2589305C1 (en) * | 2014-11-18 | 2016-07-10 | Федеральное государственное казенное военное образовательное учреждение высшего профессионального образования "Военный учебно-научный центр Военно-воздушных сил "Военно-воздушная академия имени профессора Н.Е. Жуковского и Ю.А. Гагарина" (г. Воронеж) Министерства обороны Российской Федерации | High-frequency signal generation method and device for its implementation |
| RU2731372C2 (en) * | 2015-07-24 | 2020-09-02 | Саунд Обджект Текнолоджиз С.А. | Method and system for decomposing an acoustic signal into sound objects, as well as a sound object and use thereof |
Also Published As
| Publication number | Publication date |
|---|---|
| AR072483A1 (en) | 2010-09-01 |
| CN102105931A (en) | 2011-06-22 |
| ES2461141T3 (en) | 2014-05-16 |
| MX2011000365A (en) | 2011-02-25 |
| EP2291842A1 (en) | 2011-03-09 |
| ZA201009164B (en) | 2011-10-26 |
| JP2011527452A (en) | 2011-10-27 |
| CO6541514A2 (en) | 2012-10-16 |
| HK1154112A1 (en) | 2012-04-20 |
| WO2010003557A1 (en) | 2010-01-14 |
| CN102105931B (en) | 2013-04-10 |
| AU2009267460A1 (en) | 2010-01-14 |
| MY163454A (en) | 2017-09-15 |
| JP5255699B2 (en) | 2013-08-07 |
| PL2291842T3 (en) | 2014-08-29 |
| BR122017003818B1 (en) | 2024-03-05 |
| TWI415116B (en) | 2013-11-11 |
| KR101239812B1 (en) | 2013-03-06 |
| BRPI0910528B1 (en) | 2020-09-24 |
| AU2009267460B2 (en) | 2013-01-10 |
| BR122017003818A2 (en) | 2019-09-03 |
| TW201007708A (en) | 2010-02-16 |
| KR20110033188A (en) | 2011-03-30 |
| BRPI0910528A2 (en) | 2018-05-22 |
| CA2729474A1 (en) | 2010-01-14 |
| CA2729474C (en) | 2015-09-01 |
| RU2011100134A (en) | 2012-07-20 |
| EP2291842B1 (en) | 2014-03-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| RU2512090C2 (en) | Apparatus and method of generating wide bandwidth signal | |
| US8880410B2 (en) | Apparatus and method for generating a bandwidth extended signal | |
| KR101369267B1 (en) | Audio encoder and bandwidth extension decoder | |
| AU2009210303B2 (en) | Device and method for a bandwidth extension of an audio signal | |
| US20230395085A1 (en) | Audio processor and method for generating a frequency enhanced audio signal using pulse processing | |
| USRE50655E1 (en) | Apparatus and method for generating a bandwidth extended signal | |
| HK1154112B (en) | Apparatus and method for generating a bandwidth extended signal | |
| HK40052620A (en) | Audio processor and method for generating a frequency enhanced audio signal using pulse processing |