[go: up one dir, main page]

WO2004029930A1 - Voice recognition device, control device and method for computer-assisted completion of an electronic dictionary for a voice recognition device - Google Patents

Voice recognition device, control device and method for computer-assisted completion of an electronic dictionary for a voice recognition device Download PDF

Info

Publication number
WO2004029930A1
WO2004029930A1 PCT/DE2003/003159 DE0303159W WO2004029930A1 WO 2004029930 A1 WO2004029930 A1 WO 2004029930A1 DE 0303159 W DE0303159 W DE 0303159W WO 2004029930 A1 WO2004029930 A1 WO 2004029930A1
Authority
WO
WIPO (PCT)
Prior art keywords
utterance
speech recognition
speech
dictionary
similarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/DE2003/003159
Other languages
German (de)
French (fr)
Inventor
Michael Küstner
Ronald Römer
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Infineon Technologies AG
Original Assignee
Infineon Technologies AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Infineon Technologies AG filed Critical Infineon Technologies AG
Publication of WO2004029930A1 publication Critical patent/WO2004029930A1/en
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/06Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/065Adaptation
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • G10L15/183Speech classification or search using natural language modelling using context dependencies, e.g. language models
    • G10L15/187Phonemic context, e.g. pronunciation rules, phonotactical constraints or phoneme n-grams
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/06Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/063Training
    • G10L2015/0631Creating reference templates; Clustering

Definitions

  • Speech recognition device control device and method for computer-aided supplementing of an electronic dictionary for a speech recognition device
  • the invention relates to a speech recognition device, a control device and a method for computer-aided addition of an electronic dictionary for a speech recognition device.
  • Speech recognition and a separate unit for speaker-dependent speech recognition are provided.
  • Recognition of speaker-dependent utterances usually a speech recognition device based on the principle of DTW (Dynamic Time Warping).
  • Speech recognition generally follows in such a way that a spoken speech signal is broken down into a sequence of spoken units, in other words, is mapped onto these.
  • the sequence of spoken units usually a sequence of phonemes, is compared with previously stored phoneme sequences, which represent reference utterances and are stored in an electronic dictionary. Is the phoneme sequence of the speech signal sufficiently similar to a reference utterance in the electronic dictionary, the spoken voice signal is recognized as representing the reference utterance and the reference utterance is output to the user as a speech recognition result.
  • the electronic dictionary flexibly expandable, in other words, it is desirable to be able to add a reference utterance to the electronic dictionary, to change a reference utterance stored in the dictionary, or to change a reference utterance stored in the dictionary delete electronic dictionary.
  • a disadvantage of the known procedure is in particular that the management of the electronic dictionary takes place in an uncontrolled manner and, for this reason, the size of the electronic dictionary can fundamentally increase without restriction, which leads to a considerable deterioration in the recognition performance of the speech recognition device and to an increased storage space requirement for storing the electronic dictionary can.
  • the speaker-independent and speaker-dependent speech recognition in to carry out speech recognition states which are logically completely separate from one another, the speaker-dependent and speaker-independent speech recognition being carried out by different speech recognition units.
  • a DTW speech recognition unit is usually used to recognize dynamically expandable entries in a user-definable electronic dictionary, for example an electronic telephone book, in which electronic dictionary, for example, a name of a subscriber spoken by a user can be stored.
  • a user-definable electronic dictionary for example an electronic telephone book, in which electronic dictionary, for example, a name of a subscriber spoken by a user can be stored.
  • Speech recognition according to the prior art for a user utterance which contains both speaker-dependent and speaker-independent partial utterances is therefore very user-unfriendly.
  • [2] describes a method and a device for speech recognition, in which a vocabulary is added a new word spoken by a user as a phoneme sequence, the phoneme sequence being formed from speaker-independent phonemes.
  • [3] describes a method in which a feature extraction is carried out for a spoken-in speech signal and a sequence of hidden Markov models, each representing a phoneme, is formed for the feature vectors formed therefrom, so that a word model is generated which contains the spoken-in speech signal best represented.
  • the word model is stored as a new word to be recognized in a memory of the recognition device, ie clearly in an electronic dictionary, so that it can be used as a reference word for the speech recognition in a recognition mode of the speech recognition device.
  • the invention is based on the problem of managing an electronic dictionary in a manner, in particular to add new reference statements, which ensures an improved recognition rate in the context of speech recognition using the electronic dictionary.
  • the speech recognition device has at least one speech recognition unit, which is preferably set up for speaker-independent speech recognition.
  • a plurality of speech recognition units for example a speech recognition unit for speaker-independent speech recognition and a speech recognition unit for speaker-dependent speech recognition, can be provided.
  • any number of speech recognition units can be provided, which use one or more electronic dictionaries according to the invention for speech recognition.
  • the speech recognition device has an electronic dictionary coupled to the speech recognition unit, in which the words taken into account in the context of the speech recognition are stored.
  • a word spacing determination unit is provided for determining the similarity of a first utterance to at least one second utterance in an utterance comparison space. Furthermore, a dictionary supplement unit is provided for supplementing the electronic dictionary with the first utterance, the supplementing the electronic Dictionary depends on the determined similarity of the first utterance with at least the second utterance.
  • a control device for controlling a technical system has a speech recognition device as described above, the control commands provided for controlling the technical system for speech recognition being stored in the electronic dictionary.
  • the similarity to at least one second utterance is determined in an utterance comparison space.
  • the electronic dictionary is supplemented by the first utterance depending on the determined similarity of the first utterance with at least the second utterance.
  • a first utterance which is preferably spoken by a user and is present, for example, in the form of a sequence of phonemes formed from an analog speech signal, is checked to determine whether it meets one or more similarity criteria for one or more other utterances.
  • the first utterance is only added to the electronic dictionary if the first utterance meets the similarity criterion. Otherwise the request to add the first utterance to the dictionary will be rejected and the first utterance will be rejected.
  • an electronic dictionary used in the context of speech recognition is only supplemented with a new entry if it is ensured that the similarity criterion is met; in other words, an entry in.
  • the electronic dictionary is made when the Speech recognition performance, that is to say the recognition rate in the context of speech recognition using the supplemented electronic dictionary is not reduced or is reduced only to an acceptable extent represented by the similarity criterion.
  • the embodiments of the invention described below relate both to the speech recognition device, the control device and the method for the computer-aided addition of an electronic dictionary.
  • Speech recognition device can have a dictionary similarity determination unit with which the similarity of the first utterance to the second utterance is determined.
  • the second utterance is stored in the electronic dictionary.
  • the speech recognition device preferably the dictionary supplement unit, but alternatively to the word spacing determination unit, is set up in such a way that the first utterance is only added to the electronic dictionary if the
  • Similarity of the first utterance to the second utterance is less than a predetermined first similarity value.
  • This procedure clearly means that the first utterance is only added to the electronic dictionary if the distance value formed in the utterance comparison space, which describes the distance between the feature vectors representing the first utterance to the feature vectors representing the second utterance, is greater than one predefined similarity threshold.
  • this procedure means that for an utterance before it is stored in the electronic dictionary, it is first checked whether the distance to the reference utterances previously stored in the electronic dictionary is sufficiently large.
  • the word similarity determination unit has an utterance similarity determination unit for determining the similarity of the first utterance to a third utterance.
  • the speech recognition device preferably the dictionary supplement unit, alternatively the word spacing determination unit, is set up in such a way that the first utterance is only added to the electronic dictionary if the similarity of the first utterance to the third utterance is greater than a predetermined second similarity threshold.
  • Speech by a user that the spoken utterances are compared with each other and that an utterance can only be added to the electronic dictionary if several utterances are sufficiently similar to one another, so that the first utterance is selected as a representative of the multiple utterances of the same speech utterances and for this is then checked whether the distance to the stored reference utterances in the dictionary is sufficiently large.
  • This embodiment of the invention clearly represents a two-step procedure, whereby on the one hand it is achieved that the smallest possible number of new utterances is guaranteed in the case of unequal acoustic speech utterances, but the highest possible number of ones
  • Additions to the electronic dictionary that is, entry assumptions with the same acoustic speech is achieved. Furthermore, the procedure described above achieves the lowest possible number of additional acoustic additions with the highest possible speech recognition rate of a speech recognition device using the supplemented electronic dictionary.
  • the speech recognition unit is set up for speaker-independent speech recognition.
  • a speech signal mapping unit coupled to the electronic dictionary can be provided for mapping the speech signal spoken by a user onto a sequence of spoken units which represents the speech signal.
  • the sequence of spoken units is preferably set up in such a way that it can be processed by the speech recognition unit as part of the speaker-independent speech recognition, the sequence of spoken units representing the first utterance.
  • the speech signal can be spoken into the speech recognition device by a user at the beginning of the method, but can alternatively already be stored in a purely analog or analog-digitized form as a speech signal and can be fed to the computer, for example, via a telecommunications network.
  • the voice signals can also alternatively be stored in the memory of the speech recognition device, in which case the formation of the sequence of spoken units is based on the signals already stored in the memory.
  • the speech recognition unit can be set up for speaker-independent speech recognition based on Hidden Markov models, which are each trained on one predefined utterance stored in an electronic dictionary, for example a word and a sequence of words.
  • the speech recognition unit can alternatively be designed for speaker-independent speech recognition by means of statistical classifiers which are trained in a corresponding manner for speaker-independent speech recognition using an electronic dictionary with the utterances intended for speech recognition.
  • statistical classifiers which are trained in a corresponding manner for speaker-independent speech recognition using an electronic dictionary with the utterances intended for speech recognition.
  • methods using artificial neural networks can be used as statistical classifiers.
  • the sequence of speech units is preferably formed by a phoneme chain, alternatively by means of a sequence of syllables, letters or a sequence of other speech units that are suitable for speech recognition.
  • phonemes as loudspeaker units enables the use of units known per se in the context of speech recognition for the formation of phonemes from speech signals
  • Speech recognition device can be implemented inexpensively.
  • the invention can clearly be seen in the fact that by using a statistical method for parameter optimization, the above-described requirements for supplementing an electronic dictionary are found to be a sensible, optimized compromise.
  • the quality of the speech recognition device is scalable.
  • speaker-dependent and speaker-independent vocabularies can be combined to form an overall vocabulary. If command words are present in a speaker-dependent part of the total vocabulary of words which activate control functions of a technical system to be controlled, their function is not impaired by new entries, since it is guaranteed that the similarity of a new word to the command words is sufficiently low so that a corresponding influencing is avoided.
  • Similarity thresholds allow the use of statistical methods, which are explained in more detail below, which can determine the optimal working range of the speech recognition device for a fixed number of entries.
  • the entry of a preferably speaker-dependent entry in the electronic dictionary is thus preferably implemented using a two-stage process.
  • a candidate that is to say a speech that is to be stored in the electronic dictionary, is spoken NR e p ea times.
  • each of the NR e p ea t statements on a respective sequence of spoken language is spoken NR e p ea times.
  • Units preferably a sequence of phonemes.
  • the sequence of language units created by the combination of the recognized speech-language units is also referred to below as a symbol chain.
  • the second level is used to determine the similarity or the distance of the respective entry candidate to the reference utterances previously stored in the electronic dictionary, generally the vocabulary that already exists.
  • the entry is only saved in the electronic dictionary if the entry candidates are sufficiently far away or have a low enough similarity to the existing vocabulary.
  • an acoustic addition to the current entry is preferably requested. The experiment is repeated in the first stage after the acoustic addition.
  • the invention is suitable for a scenario in which the speech recognition device is set up as an E bedded system, since in such a case the available computing power is relatively low and thus switching between different speech recognition units, for example a speech recognition unit for speaker-dependent speech recognition and a speech recognition unit speaker-independent speech recognition, is not feasible.
  • a control device for controlling a telecommunication device for example one, is suitable as the control device for controlling a technical system
  • Telephone device a fax machine, a PDA, a notebook etc., or to control a terminal in which at least two of the device functionalities described above are integrated in a common device.
  • this device which can be controlled with a clearly defined and limited vocabulary, can be controlled by means of a voice dialog, which voice dialog is relatively clear and thus can be implemented economically even by means of an embedded system.
  • Figure 1 is a block diagram of a speech recognition device according to an embodiment of the invention.
  • FIG. 2 shows a block diagram in which the merging of an ' electronic dictionary with words previously entered and trained exclusively for speaker-independent speech recognition and a dictionary in which utterances relating to speaker-dependent speech recognition are stored, which are merged according to the invention into a common dictionary for speaker-independent speech recognition ;
  • Figure 3 is a table in which the intended
  • Speech recognition states and the state transitions between different speech recognition states are shown;
  • Figure 4 is an illustration of a dialog state diagram according to an embodiment of the invention.
  • Figure 5 is a flow chart in which the individual
  • FIG. 6 shows a detailed illustration of the individual method steps for initializing the
  • Speech recognition device according to an embodiment of the invention
  • FIG. 7 shows a message flow diagram in which the individual method steps for carrying out a
  • Figure 8 is a message flow diagram in which the individual steps to complete an electronic
  • FIG. 9 shows a first functional diagram according to a "'
  • Figure 10 shows a second functional diagram according to an embodiment of the invention.
  • FIGS. 11A and 11B are tables in which speech prompts presented to the user in the context of the speech dialogue according to a first exemplary embodiment of the invention (FIG. 9A) and additional actions of the speech recognition device (FIG. 9B) according to a first exemplary embodiment of the invention are shown;
  • FIG. 12 shows a speech dialog state diagram of a first state according to a first exemplary embodiment of the
  • FIGS. 13A and 13B show a speech dialog state diagram of a second state of a speech recognition device according to the first exemplary embodiment of the invention (FIG. 13A) and the associated flow diagram (FIG. 13B);
  • FIGS. 14A and 14B show a speech dialog state diagram of a third state of a speech recognition device according to the first exemplary embodiment of the invention (FIG. 14A) and the associated flow diagram
  • FIGS. 15A and 15B show a speech dialog state diagram of a fourth state of a speech recognition device according to the first exemplary embodiment of the invention
  • FIGS. 16A and 16B show a speech dialog state diagram of a fifth state of a speech recognition device according to the first exemplary embodiment of the invention (FIG. 16A) and the associated flow diagram (FIG. 16B);
  • FIGS. 17A and 17B show a speech dialog state diagram of a sixth state of a speech recognition device according to the first exemplary embodiment of the invention (FIG. 17A) and the associated flow diagram (FIG. 17B);
  • FIGS. 18A and 18B show a speech dialog state diagram of a seventh state of a speech recognition device according to the first exemplary embodiment of the invention (FIG. 18A) and the associated flow diagram (FIG. 18B);
  • FIG. 19 shows a speech dialog state diagram of a first state of a speech recognition device according to a second exemplary embodiment of the invention;
  • Figure 20 is a speech dialog state diagram of a second
  • FIG. 21 shows a speech dialog state diagram of a third state of a speech recognition device according to the second exemplary embodiment of the invention.
  • FIG. 22 shows a telecommunication device with a speech recognition device according to an embodiment of the invention
  • Figure 23 shows a car radio with a speech recognition device according to an embodiment of the invention.
  • FIG. 1 shows a speech recognition device 100 according to a
  • the speech recognition device 100 operates in a first operating mode as a speech recognition device, in which
  • Speech recognition mode the speech recognition device a spoken utterance 101, spoken by a user (not shown) of the speech recognition device 100, is recognized using a method for speaker-independent speech recognition.
  • Operating mode hereinafter also referred to as dictionary supplement mode, a spoken utterance is converted into a sequence of spoken units, subsequently into a sequence of phonemes, and, as will be explained in more detail below, possibly added to the electronic dictionary as a supplementary entry and therein saved.
  • the speech signal 101 spoken by the user is fed to a microphone 102 and, as the recorded electrical analog signal 103, is subjected to preprocessing, in particular preamplification by means of a preprocessing unit 104, in particular by means of a preamplifier, and as preprocessed and amplified analog signal 105 to an analog / digital converter 106 supplied, converted there into a digital signal 107 and supplied as a digital signal 107 to a computer 108.
  • the microphone 102, the preprocessing unit 104, in particular the amplification unit, and the analog / digital converter 106 can be implemented as separate units or else as units integrated in the computer 108.
  • the digitized signal 107 is fed to the computer 108 via its input interface 109.
  • the computer 108 also has a microprocessor 110, a memory 111 and an output interface 112, all of which are coupled to one another by means of a computer bus 113.
  • An electronic dictionary 114 which contains the entries which contain speech words as reference words, is stored in the memory 111.
  • DSP digital signal processor
  • a computer program, which is set up for speaker-independent speech recognition, is also stored in the digital signal processor 123.
  • the algorithms used can be implemented in hard-wired logic, that is, directly in hardware.
  • the computer 108 is coupled by means of the input interface 109 to a keyboard 115 and a computer mouse 116 via electrical lines 117, 118 or a radio connection, for example an infrared connection or a Bluetooth connection.
  • a radio connection for example an infrared connection or a Bluetooth connection.
  • the computer 108 is coupled to a loudspeaker 121 and an actuator 122 by means of the output interface 114.
  • Actuator 122 generally represents every possible actuator in the context of the control of a technical system in FIG. 1, for example implemented in the form of a hardware switch or in the form of a computer program in the event that, for example, a telecommunication device or another technical system, for example a car radio Stereo system, a video recorder, a television, the computer itself or any other technical system to be controlled.
  • the preprocessing unit 104 has a filter bank with a plurality of bandpasses, which measure the energy of the input speech signal 103 in individual frequency bands. So-called
  • Short-term spectra are formed by rectifying the output signals of the bandpasses, smoothing them and at short intervals are sampled, according to the exemplary embodiment, every 10 msec.
  • the so-called cepstrum coefficients of two successive time windows as well as their temporal first derivation and their temporal second derivative are determined and combined to form a super feature vector and fed to the computer 108.
  • a speech recognition unit for speech-independent speech recognition is implemented in the form of a computer program, the speech recognition based on the principle of the Hidden Markov models, according to the exemplary embodiment in the DSP 123.
  • a hidden Markov model is stored for each basic entry, each in the following manner using a training data record, that is to say a set of training courses Voice signals, spoken by one or more training users, is determined.
  • the training of the Hidden Markov models takes place in three phases:
  • a third phase in which the code book, ie the HMM prototype feature vectors, is calculated for a number of feature vector components selected in a selection step.
  • HMM training The entirety of these three phases is referred to below as the training of the Hidden Markov models (HMM training).
  • the HMM training is carried out using the DSP 123 as well as using predetermined training scripts, vividly carried out by suitably equipped computer programs.
  • each phonetic unit formed that is to say each phoneme, is divided into three successive phoneme segments, corresponding to an initial phase (first phoneme segment), a central phase (second phoneme segment) and an end phase (third phoneme segment) of a sound, that is to say of a phoneme.
  • each sound is modeled in a three-state sound model, that is, with a three-state HMM.
  • the three phoneme segments are lined up in a Bakis topology or generally a left-right topology and the concatenation of these three lined up segments is carried out as part of the speaker-independent speech recognition.
  • a Viterbi algorithm for decoding the feature vectors which are formed from the input speech signal 101 is carried out in the speech recognition mode.
  • the LDA matrix 304 (step 403) is determined by means of an LDA matrix calculation unit 303.
  • the LDA matrix is used to transform a respective super feature vector y to a feature vector x according to the following rule:
  • A an LDA matrix, y a super feature vector,
  • the LDA matrix A is determined in such a way that
  • the components of the feature vector x are essentially uncorrelated from one another on a statistical average
  • Methods for determining an LDA matrix A can be used without restriction.
  • Class j (2) where Nj is the number of super feature vectors yj in class j.
  • each super feature vector yv has a dimension Dy of
  • each super feature vector y * contains the components of two time windows immediately following one another in the context of the short-term analysis (this justifies factor 2 above).
  • any number of vector components adapted to the respective application can be contained in the super feature vector yv, for example up to 20 cepstrums. Coefficients and their associated temporal first derivatives and second derivatives.
  • the average intra-scattering matrix S is defined as:
  • the average inter-scattering matrix Sj b is defined as:
  • the LDA matrix A is broken down according to the following rule:
  • the first transformation matrix U is used to diagonalize the average intra-scatter matrix S w and is determined by transforming the positively definite and symmetrical average intra-scatter matrix S w into its eigenvector space.
  • the average intra-scattering matrix S w is a diagonal matrix, the components of which are positive and greater than or equal to zero. The components whose values are greater than zero correspond to the average variance in the respective dimension defined by the corresponding vector component.
  • the second transformation matrix W is used to normalize the average variances and is determined according to the following rule:
  • the transformation UW is also called whitening.
  • the third transformation matrix V is formed, which is formed according to the following rule:
  • B • S_k ⁇ B also represents a positively defined and symmetrical matrix that is transformed into its eigenvector space.
  • a diagonalized average intra-scattering matrix S w A diagonalized average intra-scattering matrix S w :
  • the values are the eigenvalues of the average inter
  • Scattering matrix Sj b and represent a measure for the so-called pseudo-entropy of the feature vector components, which is also referred to below as the information content of the feature vector components. Note that the trace of each matrix is invariant with respect to any one
  • a dimension reduction is then carried out by sorting the ⁇ ⁇ values in order of decreasing size and omitting the ⁇ ⁇ values, that is to say disregarding them that are smaller than a predetermined threshold value.
  • the predetermined threshold value can also be defined cumulatively.
  • the LDA matrix A can be adjusted by sorting the rows according to the eigenvalues ⁇ ⁇ the rows that are sufficient to be omitted Belong to "small" variances and thus have only a low information content (low pseudo-entropy).
  • the last method for the partial method in the course of training the Hidden Markov models is the clustering of the feature vectors, which is carried out by means of a cluster unit and which results as a result
  • Codebook has, in each case specifically for a training data record with a predetermined number of feature vector components.
  • the entirety of the representatives of the segment classes is referred to as a code book and the representatives themselves are also referred to as prototypes of the phoneme segment class.
  • prototype feature vectors are determined in accordance with the Baum-Welch training described in [1].
  • the basic entries of the electronic dictionary that is to say the basic entries for speaker-independent speech recognition, were created and stored in the manner described above and the corresponding hidden Markov models were trained.
  • the electronic dictionary with the basic entries 201 is designated by the reference symbol 200 in FIG.
  • the new electronic dictionary 204 thus clearly contains the basic entries 201 as well as the linguistic utterances converted into phoneme chains, that is to say the originally speaker-dependent entries, which can be regarded as speaker-independent representatives of new entries due to the conversion into phoneme chains.
  • the common electronic dictionary 204 thus forms the search space for the Viterbi search in the context of speaker-independent speech recognition.
  • the expressions of a user are clearly mapped to a sequence of phonemes and a phoneme dictionary 202 is formed which contains the sequences of phonemes (phoneme chains).
  • the microprocessor 110 is the controller SDA 80D51U-A from Infineon Technologies AG and the method for forming hidden Markov models is based on the software and a digital signal processor (DSP) from Oak.
  • DSP digital signal processor
  • Electronic messages are used for communication between the microprocessor 110 and the DSP 123 from Oak in order to trigger predetermined events and actions in the microprocessor 110 or the DSP 123.
  • HMM states the following messages are provided for different speech recognition states, hereinafter also referred to as HMM states:
  • the speech recognizer has the following four HMM speech recognition states:
  • a pause state PAUSE 303 and an operating mode state RUN 304 are pause states PAUSE 303 and an operating mode state RUN 304.
  • the initialization state INIT 301 can be changed to the stop state STOP 302, which happens automatically when all databases are loaded (step 305). Another transition from the initialization state INIT 301 to one of the other states PAUSE, RUN 303, 304 is not provided.
  • Initialization state INIT 301 are passed if the loaded databases are inconsistent (step 306), in which case the InitHM SRDefault message is transmitted from the DSP 123 to the microprocessor 110.
  • the DSP 123 changes to the pause state PAUSE 303 (step 307).
  • the DSP 123 After receiving the "RUN" command in the form of the StartHMMSR message from the microprocessor 110, the DSP 123 changes to the RUN 304 operating mode state (step 308).
  • the pause state PAUSE 303 can be changed to the initialization state INIT 301 (step 309) if the databases are inconsistent. This occurs in the case when the DSP 123 receives the InitHMMSRDefault message from the microprocessor 110.
  • the DSP 123 After receiving the "STOP" command in the form of the StopHMMSR message from the microprocessor 110, the DSP 123 changes to the STOP state STOP 302 (step 310).
  • the DSP 123 After receiving the "RUN" command in the form of the StartHMMSR message from the microprocessor 110, the DSP 123 changes from the pause state PAUSE 303 to the operating mode state 304 (step 311).
  • the speech recognition unit can go from the RUN 304 operating mode state to the initialization state INIT 301 return if the databases are inconsistent (step 312). This happens when the DSP 123 receives the InitHMMSRDefault message from the microprocessor 110.
  • the speech recognition unit After receiving the "STOP" command in the form of the StopHMMSR message from the microprocessor 110, the speech recognition unit, in other words the DSP 123, returns from the RUN 304 operating mode state to the STOP 302 stop state (step 313).
  • the speech recognition unit changes from the operating mode state RUN 304 to the pause state PAUSE 303 after receiving the command "PAUSE" (step 314). This happens when the DSP 123 receives the message PauseHMMSR from the microprocessor 110 ,
  • This message initiates the loading of the speech recognition parameters into the Oak DSP 123,
  • This message starts loading the program to determine the LDA matrix
  • the Oak Software is informed in the DSP 123 that the Switched Memory Block (SMB), according to this embodiment of 16 KByte size, is accessible to the Oak Software, since the total number of blocks and segments contained in the Application to be taken into account by the speech recognizer in which microprocessor 110 is known.
  • SMB Switched Memory Block
  • This message indicates to the Oak DSP 123 that the speech recognizer should be stopped and should go into the stop state 302, • CodebookBlockLoadedAndSwitched.
  • SetHMMSearchParams (minStableTime, wordStartupPenalty, transitionPenalty) are provided, with which the search parameters minStableTime, wordStartupPenalty and transitionPenalty can be set for the speaker-dependent dictionary.
  • the search parameter minStableTime specifies the time - in units of the number of frames - within which the hypothesis must not change in order to output the message HypothesisStable.
  • the search parameters wordStartupPenalty and transitionPenalty are used within the search to calculate the optimal path.
  • the search parameter transitionPenalty specifies a penalty value that evaluates a transition from a state i to a state j.
  • the search parameter wordStartupPenalty specifies an initial penalty value that is used to enter a new word model.
  • This message can be transmitted to the microprocessor 110 by the speech recognizer in the Oak DSP 123 in any state of the firmware of the DSP 123. With the message SetHMMSearchParams (minStableTime, wordStartupPenalty, transitionPenalty) the search is reset and the parameters for the search space are defined.
  • a speech dialog is used for the interactive communication of the speech recognizer with a human user in order to allow the user predefined control options and thus an interactive intervention in the system to be controlled, that is to say in the computer 108 using the speech recognizer.
  • Every speech dialog i.e. every speech application, starts from a basic state after its activation.
  • a number of commands are defined for a speech application, which are also referred to below as keywords.
  • Each command can have a single word or multiple words.
  • Each command is linked to an action that is uniquely assigned to the respective command (see voice dialog state diagram 400 in FIG. 4).
  • Actions 408, each associated with a command 406 in the form of a command-action tuple (407, 409), can control a device, such as a CD player or a communication device, or another element of a stereo system or generally a technical system and terminate the speech recognition application, or perform additional actions in the same step, triggered with the same command, or, for example, emit a sound by means of the loudspeaker 121, and then change to the same speech dialog state or to a different speech dialog state.
  • a temporally preceding speech dialog state X1 401 is shown, as well as its transition to the current speech dialog state X 402, the speech dialog state diagram 400 also taking into account those to be taken into account in the current speech dialog state X 402
  • Words stored in an electronic dictionary 403 the electronic dictionary 403 containing both the words 404 previously stored in the form of speaker-independent, previously trained HMMs, generally the speaker-independent utterances with any number of words 404, and list entries 405 which originally contain speaker-dependent utterances which, however, as will be explained further below, are mapped to a sequence of phonemes, which are then accessible to speaker-independent speech recognition.
  • the commands 406 and the actions 408 are each contained in a command-action tuple (407, 409).
  • the maximum length of a phoneme sequence with respect to its temporal length is or with regard to the number of permissible phonemes depending on the application.
  • 255 states are permissible per list entry 405, so that the largest number of permissible phonemes per list entry 405 is less than or equal to 85.
  • the commands are generated from the available vocabulary, that is to say from the words 404 or list entries 405 contained in the dictionary 403.
  • Each command 406, 407 is necessarily linked to an action 408, 409.
  • the command structure is as follows:
  • an action 407, 409 is a synonym for a reaction of the respective technical system that is fundamentally as complex as desired; in abstract terms, the reaction of the speech recognizer for controlling the actuator 122 in FIG.
  • Action 407, 409 provides, for example, feedback from the speech recognizer according to the invention and, in order to indicate to the user that something was recognized at all, switching to another speech dialog state, loading a new electronic dictionary, or executing an action assigned to the command , for example that
  • Dial an entered phone number.
  • the same action can be defined for different commands.
  • microprocessor 110 that is to say the 80D51 controller and the digital signal processor 123 from Oak Technologies, is described below in the form of message flow diagrams.
  • an acoustic signal is issued to the user by means of the loudspeaker 121 from a start state 501 after the DSP 123 has been activated, that is to say in other words after the speech recognizer has started, in order to signal the user, that the speech recognition process has been activated.
  • a transition is made to a first cycle (Cycle_0) 502, in which the HMMs are initialized.
  • End state 505 passed, in which the speech recognizer is deactivated.
  • test step 506 is used to check whether a change should be made to a new speech dialog state.
  • a third check step checks whether a change should be made in the electronic dictionary, for example whether a new entry should be added to the electronic dictionary or whether an entry from the electronic dictionary is to be removed or whether only an entry in the electronic dictionary is to be changed.
  • test step 509 again checks whether the speech recognition is to be ended.
  • FIG. 6 shows the implementation of the first cycle 502 in detail in a message flow diagram 600.
  • the HMMs are initialized.
  • StartHMMSRFlowgraph 601 is transmitted from the microprocessor 110 to the DSP 123, with which the respective HMM in the DSP 123 is started.
  • the DSP 123 sends a confirmation message 602 to the microprocessor 110.
  • a message InitHMMSRParams 603 is then sent by the microprocessor 110 to the DSP 123, which activates the loading of the speech recognition parameters into the DSP 123.
  • a confirmation message 604 is transmitted from the DSP 123 to the microprocessor 110.
  • a StartLoadHMMLDA 605 message is sent from the microprocessor 110 to the DSP 123 in order to start the loading of the computer program which causes the determination of an LDA matrix, as described above, for the respective HMM.
  • the DSP 123 sends a message SMBRequestLoadHMMLDA 606 to the microprocessor 110, which responds to this message with a confirmation message 607, with which the microprocessor 110 indicates that the program codes necessary for performing a linear discriminant analysis are available in a switched memory block.
  • StartLoadHMMDictionary 608 which is sent from the microprocessor 110 to the DSP 123, the microprocessor 110 transmits to the DSP 123 the electronic dictionary for the basic dialog state of the respective speech dialog in the respective application in the DSP 123.
  • the DSP 123 responds to the receipt of the StartLoadHMMDictionary 608 message with a message
  • SMBRequestLoadHMMDictionary 609 with which the active vocabulary of the respective electronic dictionary from the Microprocessor 110 is requested.
  • This request SMBRequestLoadHMMDictionary 609 is acknowledged with a confirmation message 610 from the microprocessor 110 after it has been received.
  • a message SMBRequestCodebookBlock 611 is transmitted from the DSP 123 to the microprocessor 110 and the microprocessor 110 responds with a message CodebookBlockLoadedAndSwitched 612 with which the microprocessor 110 transmits the switched memory blocks (SMBs) with the requested codebook data to the DSP 123.
  • SMBs switched memory blocks
  • the DSP requests additional blocks in which the required code book, in other words the required code book data, is contained.
  • the microprocessor 110 in turn reacts to the message SMBRequestCodebookBlock 613 with a message CodebookBlockLoadedAndSwitched 614, with which it transmits one or more further SMBs with the required code book data to the DSP 123, the total number of blocks and required segments now being known in the speech recognizer ,
  • the speech recognizer then goes into the STOP state STOP 302 and only leaves this state after receiving the "Start" command, which the microprocessor 110 transmits to the DSP 123 by means of the StartHMMSR 615 message, and the DSP 123 confirms receipt of the StartHMMSR message 615 with a confirmation message 616.
  • the DSP 123 sends a message SMBRequestCodebookBlock 617 to the
  • Microprocessor 110 transmits, which then periodically sends a response message, also for each frame a message CodebookBlockLoadedAndSwitched 618 transmitted to the DSP 123, with which the SMB was switched and a new codebook block was transmitted by the microprocessor 110 to the DSP 123.
  • the messages SMBRequestCodebookBlock 617 and CodebookBlockLoadedAndSwitched 618 are exchanged for each frame between the microprocessor 110 and the DSP 123 until the DSP 123 transmits the speech recognition result in a message HMMHypothesisStable 619 to the microprocessor 110, which receives an acknowledgment message 620 upon receipt responding.
  • the DSP 123 Despite transmitting the speech recognition result, the DSP 123 remains in the RUN 304 operating mode state.
  • a speech recognition result is thus available in the microprocessor 110 and the microprocessor 110 now decides what should happen next in the speech dialog, depending on the application.
  • a method for speaker-independent speech recognition is used to determine which device is actually to be controlled, for example whether a CD player, a tape recorder, a cassette recorder, a radio, a telecommunication terminal (such as a telephone, a facsimile device, a teletext device, a mobile radio device, a PDA, etc.) is to be controlled.
  • the second cycle 503 is performed, with the exchanged messages between the microprocessor
  • a message SetHMMSearchParams 701 is transmitted by the microprocessor 110 to the DSP 123 in order to indicate to the DSP 123 that it should load new parameters for the search.
  • the receipt of this message is confirmed with a confirmation message 702 from the DSP 123 to the microprocessor 110.
  • a message StartLoadHMMDictionary 703 is then transmitted from the microprocessor 110 to the DSP 123, by means of which message the loading of the electronic dictionary for the respective new speech dialog state into the DSP 123 is started.
  • SMBRequestLoadHMMDictionary 704 the signal processor 123 requests the respective electronic dictionary from the microprocessor 110, divided into blocks (SMB) of 16 KB each.
  • SMB blocks of 16 KB each.
  • the microprocessor 110 indicates that the requested electronic dictionary is available in SMBs and can be copied from the DSP 123 to another location.
  • Microprocessor 110 is sent to and received by the DSP 123 and is confirmed by the DSP 123 by means of a confirmation message 707, the speech recognizer in the DSP 123 changes to the RUN 304 operating mode state and a message exchange takes place in a second phase, in which the DSP 123 transmits an SMBRequestCodebookBlock 708 message to the microprocessor 110 for each frame, which responds to this message with a CodebookBlockLoadedAndSwitched 709 message, likewise for each frame.
  • CodebookBlockLoadedAndSwitched 709 is informed to the DSP 123 by the microprocessor 110 that the SMB has been switched and that a new codebook block with codebook data has been loaded on the part of the microprocessor 110 and is therefore available for the DSP 123.
  • SMBRequestCodebookBlock 708 and CodebookBlockLoadedAndSwitched 709 are exchanged for each frame, as described above, until the speech recognizer has determined a speech recognition result, whereupon the DSP 123 transmits a message HMMHypothesisStable 710 to the microprocessor 110, which simultaneously indicates that and which speech recognition result has been determined by the DSP 123.
  • the microprocessor 110 responds to the HMMHypothesisStable 710 message with a confirmation message 711 and only after receiving a "pause" command does the microprocessor 110 transmit a PauseHMMSR 712 message to the DSP 123, which responds to the receipt of this message with a confirmation message 713, whereupon the speech recognizer enters the message PAUSE 303 paused.
  • each new dictionary is a dynamic dictionary.
  • List entries for example in a phone book list.
  • the list entries according to this exemplary embodiment of the invention are stored in a fixed memory location of the flash memory, which is provided as memory 111 in the computer 108.
  • new list entries can be added to the electronic dictionary and old, no longer required list entries can be removed from the electronic dictionary, so that a dynamic, that is to say a changeable, number of words is contained in the electronic dictionary which can be recognized by the speech recognition unit using a speaker-independent speech recognition technique.
  • search space also depends on the current number and size of the basic entries contained in the dictionary and list entries is dependent. For this reason, the most efficient file management, in particular efficient management of the electronic dictionaries, makes sense.
  • the third cycle 507 is provided in particular for adding new list entries, as is shown in detail below in a message flow diagram 800 (cf. FIG. 8).
  • the third cycle 507 is executed when a state transition from one speech dialog state to another speech dialog state does not require a change in the dictionary.
  • An example of such a state transition is an intrinsic loop, that is, a transition from a speech dialog state to itself.
  • a message StartHMMSR 801 is transmitted from microprocessor 110 to DSP 123, which then acknowledges receipt of the message StartHMMSR 801 with a confirmation message 802, which puts the speech recognizer in the operating mode state RUN 304 is located.
  • the DSP 123 transmits a message SMBRequestCodebookBlock 803 in a corresponding manner, as described above in connection with the second cycle 603, to the microprocessor 110, which in turn, as described above, for each frame with a message CodebookBlockLoadedAndSwitched 804 reacts and thus provides the requested data to the DSP 123.
  • the exchange of the messages SMBRequestCodebookBlock 803 and CodebookBlockLoadedAndSwitched 804 takes place in a corresponding manner until a result of the speech recognition has been determined by the DSP 123 and the result is transmitted by means of a message HMMHypothesisStable 805 to the microprocessor 110, which receives the message HMMHypothesisStable 805 acknowledged with a confirmation message 806.
  • the speech recognizer remains in the RUN 404 operating mode state and only after receiving a "pause" command does the microprocessor 110 send a PauseHMMSR 807 message to the DSP 123, which acknowledges receipt with an acknowledgment message 808, whereupon the speech recognizer goes into the pause state PAUSE 403 passes.
  • the respective HMM is thus initialized in the first cycle 502, which is always carried out after an HMM speech dialog is started.
  • a new electronic dictionary is usually provided in the DSP for each new speech dialog state
  • the second cycle 503 is performed. In the event that the current dictionary is changed and does not change to another dialog state, the second cycle 503 is also used.
  • the third cycle 507 is carried out.
  • two operating levels to be distinguished from one another are usually provided in a speech recognition application according to the invention.
  • the first operating level is formed by the communication between the DSP 123 and the microprocessor 110 and the speech recognition carried out by the DSP 123 of a speech signal spoken by a user.
  • the second level of operation is the level of software that runs on the microprocessor 110, in other words, the speech dialog.
  • the tasks in a speech recognition application are divided between the microprocessor 110 and the DSP 123 in such a way that the less computationally intensive implementation of the speech dialog is usually carried out by the microprocessor 110, and the very computation-intensive actual speech recognition by the DSP 123.
  • the file management in particular the management of the electronic dictionaries, is carried out by the microprocessor 110.
  • the microprocessor 110 performs the following tasks in particular:
  • the speech recognition process is either ended (step 505) or continued in the third cycle 507 or the second cycle 503.
  • the speech dialog is started in the first cycle 502, and possibly one or more state transitions have previously been performed using the second cycle 503 to other speech dialog states.
  • the phoneme chain [entry] represents the recognized speaker-dependent list entry in the dictionary.
  • This entry is removed from the list in the respective dictionary. Furthermore, according to this exemplary embodiment it is provided that the memory management reorganizes the memory which is occupied by the list entry and thus releases it again to be occupied by other list entries. In this way, economical memory management can be implemented.
  • a security loop can be provided according to the invention, in which the user is asked again whether he really wants to delete the entered list entry. This possibly means a self-loop in the current speech dialog state without changing the dictionary, that is to say in this case the third cycle 507 is carried out.
  • the phoneme chain [entry] and the “delete” command are buffered.
  • the speech dialog and thus also the speech recognition process can be ended (step 505) or that
  • Speech recognition method can be continued by means of a transition to another dialog state (second cycle 503) or a self-loop in the current dialog state (third cycle 507).
  • This task is the most complex routine. As in the previous two procedures, the first cycle 502 is started this time and the second cycle 503 may have been performed one or more times. After receiving the command "Add [entry]", which was recognized by the speech recognizer, the system goes into a speech dialog state, in which the phoneme dictionary is loaded, in which phoneme dictionary the available phonemes, each one depend on the language used, are included.
  • the speech recognizer asks the user to speak the respective utterance which is to be added to the dictionary as a list entry one or more times into the speech recognition system.
  • the utterance must be spoken into the speech recognition system at least once.
  • the recognition rate for the list entry is the better, the more representational utterances of the same speech utterance are obtained from the speech recognition unit, in other words, the more often the same speech utterance by the user in the
  • Speech recognition system is spoken.
  • a computer variable which determines the number of inputs of a speech utterance into the speech recognition system, in other words, the number of
  • Representative utterances indicate which variable is incremented for each new representative utterance.
  • the third cycle 507 is carried out, the first utterance is temporarily stored in a buffer as a representative utterance, and the value of the computer variable described above is increased by the value “1”.
  • the value of the computer variable is "3"
  • the procedure explained in more detail below is started, in which it is checked whether the utterance is stored as a new list entry in the electronic dictionary or whether the desired utterance is shown in cannot be saved in the electronic dictionary.
  • an utterance it is clearly checked for an utterance to be entered as a list entry whether several spoken-in speech signals for the same utterance are sufficiently similar in a comparison space and at least one of the representational utterances of the spoken-in speech signals for a same utterance is a sufficiently large distance of the words or list entries already stored in the dictionary and only if these two conditions are met, the electronic dictionary is supplemented by the new spoken utterance.
  • similarity measures or distance measures are used as threshold value parameters, which means that, using statistical methods, the optimal range of the speech recognizer for a predetermined number of in the Dictionary contained words or list entries can be determined.
  • MIN_FOR_WORD This parameter, also referred to below as the intra-similarity value, is used to determine the similarity between the entry candidates
  • the inter-threshold is used to determine the similarity between an entry candidate and an entry of the existing vocabulary.
  • the optimal threshold values for the respective application are determined independently of one another, the threshold values being determined in a training phase.
  • the threshold values determined in the training phase are accordingly used as constant values in operation.
  • the training procedure for determining the threshold values is explained below for the specific case of two entry candidates. However, it should be pointed out that the method can be applied to any number of entry candidates for a speech utterance.
  • the number of speaker-dependent entries is set to N.
  • the distance d (s_, s j ) is used as a measure of similarity.
  • the distance d (sj_, sj) is a measure of the distance between the phoneme sequences s ⁇ and SJ. According to this In the exemplary embodiment, a standardized distance is used, since the phoneme chains can also have unequal lengths.
  • both the acceptance rate (AR) and the false acceptance rate (FAR) are determined to determine the intra-threshold value.
  • a threshold value variable T takes numbers from the range of values of the intra-threshold value MIN_FOR_WORD.
  • the function values AR (T) and FAR (T) are determined using a loop that includes all N entries.
  • the function curve is then plotted for both functions using the threshold value variable T.
  • the optimal intra-threshold value MIN_FOR_WORD * is determined by evaluating an optimality criterion which is explained in more detail below.
  • the relative distances d (s, sj) between the entry candidates should only assume small values, ie the distance should go against the value "0".
  • the values of the distance d (si, Sj) can exceed the threshold value variable value T, so that the acceptance rate would be low.
  • the acceptance rate increases relatively quickly.
  • N ⁇ R (T) is the number of acceptances for a threshold variable value T.
  • the false acceptance rate (FAR) for unequal acoustic utterances that is to say in the event that s ⁇ «SJ, is then calculated.
  • NFAR denotes the number of false acceptances for a threshold variable value T.
  • the FAR (T) function is also used for a small one
  • Threshold variable value T assume a small value and there is also a monotonically increasing function curve in this case.
  • Threshold value variable T as a parameter, the optimal intra-threshold value MIN_FOR_WORD * is obtained at the point at which the two curves of the functions AR (T) and FAR (T) have the greatest distance from one another, as is the case in the function diagram
  • the optimal inter-threshold value is then calculated.
  • An acoustic addition is to be understood as speaking an additional parameter to the utterance to be spoken in, for example in the event that the utterance is a surname of a person, in addition the first name of that person.
  • an acoustic addition is not absolutely necessary according to the invention; alternatively, the application for entry of the new utterance in the electronic dictionary can also be rejected or the rejection can be made after a predetermined number of spoken utterances, according to which there is still no sufficiently high-quality signal, be rejected.
  • the threshold value variable T takes numbers from the range of values of the inter-threshold value MAX_TO_DICT.
  • the previously determined intra-threshold value MIN_FOR_WORD * can be used.
  • the acceptance rate (ERA) is measured on the inter-threshold value MIN_FOR_WORD *.
  • EAR (T) The relative number of speaker-dependent entries EAR (T) is measured for each threshold value variable value T from the value range of the inter-threshold value MAX_TO_DICT, that is, EAR (T) results according to the following rule:
  • NEAR (T) denotes the number of accepted candidates for a threshold variable value T.
  • the total number of entries in the dictionary depends on the current threshold variable value T. If there are speaker-dependent and speaker-independent entries in the respective common dictionary, the total word estimate M (T) results from the sum of the number of speaker-dependent entries and the speaker-independent entries.
  • the detection rate ER (T) thus results from the following rule:
  • CR W (T) denotes the number of correctly recognized words for a threshold variable value T.
  • the corresponding recognition rate ER ( T) can be determined as a function of the threshold value variable T by means of simple reading or by means of an appropriate automated evaluation.
  • the inter-threshold MAX_TO_DICT is limited upwards by the maximum recognition rate ERM ⁇ XIN given a fixed number of speaker-dependent entries in the dictionary.
  • This two-stage statistical method according to the invention has the advantage that, given the number of speaker-dependent entries N, a work area is found in which the recognition rate can move.
  • the microprocessor 110 manages the file that represents the dictionary. After the file has been changed, the speech recognition unit can be activated again for speech recognition.
  • the second cycle 503 is repeated, in which cycle the message StartLoadHMMDictionary is provided with the respective identifier, that is to say the ID of the respective defined dictionary, it should be noted that the ID remains unchanged for the respective application and cannot be changed at runtime.
  • a special dictionary is loaded, namely the phoneme dictionary.
  • the utterance is analyzed using the phonemes stored in the phoneme dictionary.
  • the file management of the dictionary file which has saved speaker-dependent list entries, is a task of the microprocessor 110, as stated above.
  • the speech recognizer After recognizing a command which triggers the application to delete an entry in the dictionary or to add an entry to the dictionary, the speech recognizer can be put into the pause state PAUSE 303 or it can be ended (step 505).
  • the file management process in which the dictionary is accessed starts by comparing the speaker-dependent spoken utterance with all entries stored in the dictionary, both with the speaker-dependent entries and with the speaker-independent entries.
  • the file manager is responsible for deleting the entries or changing any entries only in the speaker-dependent list of entries in the dictionary.
  • the microprocessor 110 knows the memory size available for the dictionary, that is to say in particular the microprocessor 110 knows at which point in the memory 111 the speaker-dependent list begins and at which it ends.
  • the rejection can be done using special voice prompts, for example predefined and recorded voice prompts for the different cases:
  • a possible language prompt to be output to the user in the event that an input which was actually intended as a command was not recognized as a word which is contained in the dictionary is: "What?"
  • the voice dialogue according to this exemplary embodiment of the invention is a simplified schematic telephone voice dialogue.
  • FIGS. 11A and 11B the speech prompts (FIG. 11A) defined according to this exemplary embodiment are listed in a first table 1100 and additional system reactions in table 1101 shown in FIG. 12B.
  • a voice prompt is to be understood as a predefined utterance of the system, which either represents a voice utterance of a system administrator that has previously been recorded and is simply reproduced by the computer 108, or it can be a synthesized voice signal that is generated from textual information about a voice signal by the computer 108 was converted.
  • FIG. 12 shows an HMM state diagram 1200 for a first state 0 in which the HMMs have not yet started.
  • the state diagram 1200 is to be understood in such a way that after receipt of the command 1201 StartHMMSRFlowgraph 1202, the action 1203 of the state transition 1204 into the second state and the output 1205 of the voice prompt ⁇ a>, that is to say the output of the beep by means of the loudspeaker 121.
  • FIG. 13A shows an HMM state diagram 1300 for the second state 1 and FIG. 13B shows the associated flow diagram.
  • the dictionary in this second HMM state 1 has the following entries: "CD player, cassette recorder, radio, telephone, cancel", in other words, the speech recognizer loads in the second speech dialogue state 1 this dictionary and can only recognize the words contained in this electronic dictionary.
  • the speech recognizer recognizes the received words as a command as they are contained in the command list in the speech dialog state diagram 1300, a corresponding state transition is initiated in a next subsequent state, the speech dialogue states 2, 3 and 4 being further explained for reasons of Clarity can not be explained in more detail.
  • FIG. 14A and the associated flow diagram 1410 is shown in Fig. 14B.
  • the dictionary of the sixth speech dialog state 5 has the following terms: "Number, Dial, Name, Save, Delete, Cancel" as basic entries, that is to say as speaker-independent entries and a list of speaker-dependent entries, designated in FIG. 14A with ⁇ name> ,
  • the speech dialogue state diagram 1500 for the seventh speech dialogue state 6 is shown in FIG. 15A and the associated flow diagram 1510 in FIG. 15B.
  • the dictionary in the seventh speech dialog state 6 has the following entries: "zero, one, two, three, four, five, six, seven, eight, nine, dial, cancel", which words in the seventh speech dialog state 6 of the speaker-independent speech recognizer can be recognized.
  • either the seventh speech dialog state 6 remains, for example in the case when digits are recognized, which are temporarily stored or the first state 0 is entered in the event that the "Select" command or "Cancel" command is detected.
  • the system branches to the eighth speech dialog state 7, which is shown in the speech dialog state diagram 1600 in FIG. 1A and the associated sequence diagram 1610 in FIG. 16 is shown.
  • an electronic dictionary is provided with the following entries: "zero, one, two, three, four, five, six, seven, eight, nine, dial, cancel".
  • this state essentially three commands can be recognized and processed, namely the input of individual digits, whereupon the eighth speech dialog state 7 remains and the respectively recognized digit is temporarily stored; the command to save, whereupon in a further explained the ninth voice dialog state 8 is changed to output the voice prompt ⁇ p> and the beep ⁇ a> and the command "Cancel", whereupon the first voice dialog state 0 is passed to output the voice prompt ⁇ f> (cf. Fig.llA).
  • the voice dialog state diagram 1700 of the ninth voice dialog state 8 is shown in Fig. 17A and the associated flow diagram 1710 is shown in Fig. 17B.
  • an input name is converted into a sequence of phonemes using the phoneme dictionary, which is the dictionary of the ninth speech dialogue state.
  • the tenth speech dialog state 9 is entered, in which the respective list entry is stored in the electronic dictionary.
  • the speech dialog state diagram 1800 for the tenth speech dialogue state 9 and the associated flow diagram 1810 are shown in FIGS. 1A and 1B.
  • FIG. 19 shows a speech dialog state diagram 1900 of a first speech dialog state 1 according to the second exemplary embodiment of the invention.
  • the dictionary of the first speech dialog state 1 has the following entries: "Name, Save, Delete, Dial, Phonebook, Help, Yes, No, List of Names".
  • the following commands 1902 are defined in the first speech dialog state 1 and can be recognized by the speech recognizer: "Save name, delete ⁇ name>, select ⁇ name>, delete phone book, yes, no, help".
  • the system switches to the second speech dialog state 2 and the phoneme dictionary is loaded.
  • the following voice prompt is also output to the user: "Please speak the name.”
  • the first voice dialog state 1 After recognizing the command “delete phone book", the first voice dialog state 1 also remains and the voice prompt is output: "Do you really want to delete the phone book?" and the command "delete phone book” is cached. In the event that the "yes" command is recognized, the first speech dialog state 1 also remains, and the command temporarily stored in the buffer with the associated information is executed and, depending on the respective temporarily stored command, file management is started.
  • the cached " ⁇ name>” is deleted from the dictionary, that is, the list of names.
  • the basic dictionary is also reloaded.
  • the actuator controls the telephone in such a way that a communication connection to the subscriber with the associated telephone number is established ,
  • the speech recognizer recognizes the command "No"
  • the first speech dialog state is lingered and the memory is initialized as actions and the basic dictionary 1901 is reloaded.
  • FIG. 20 shows a speech dialogue state diagram 2000 for a second speech dialogue state 2 according to the second exemplary embodiment of the invention.
  • the available phonemes are stored in the phoneme dictionary 2001, the user-defined entries ⁇ name> can be recognized as possible commands 2002 and the action 2003 of a recognized command is intended to remain in the second speech dialog state and to change the number of allowed attempts to increase the value 1, and in the event that the number of permitted attempts has been exceeded, to change to the first speech dialog state 1.
  • the first phoneme sequence that is to say the first utterance
  • the first phoneme sequence is buffered.
  • the utterance is buffered as a second utterance in the form of a second phoneme chain.
  • the uttered utterance is cached as a third utterance in the form of a third phoneme chain and file management is then started, which carries out the following method steps:
  • the three cached statements are matched.
  • the request is rejected, the buffer is emptied and the actions of the second speech dialog state 2003 are carried out again.
  • the two best utterances are then compared with the entries contained in the dictionary. If the similarity in the sense of the above description using the inter-threshold is too great, the request for an additional name in the dictionary is rejected and the buffer is emptied. In In this case, the action 2003 of the second speech dialog state is carried out again.
  • the desired user-defined entry is added to the dictionary as a list entry.
  • the best acoustic representation of the entered linguistic utterance is saved as a voice prompt.
  • a speech dialog state diagram 2100 of the third speech dialog state is shown in Fig. 21.
  • the electronic dictionary 2101 of the third speech dialog state 3 has the following entries: "zero, one, two, two, three, four, five, six, seven, eight, nine, save, correction, back, cancel, help".
  • command chains can be recognized and interpreted by the speech recognizer as commands 2102: " ⁇ numeric keypad>, save, correction, back, cancel, help". If the command " ⁇ number block>" is recognized, the respectively recognized numbers are temporarily stored in the buffer and the speech recognizer remains in the third speech dialog state 3.
  • the content of the buffer memory is saved in the list of telephone numbers and a speech dialog state transition takes place to the first speech dialog state 1 with simultaneous loading of the basic dictionary.
  • the third speech dialog state 3 also remains and the last digit buffered in the buffer is deleted.
  • FIG. 22 shows a mobile radio telephone device 2200, in which the speech recognition device 100 shown in FIG. 1 is integrated. Furthermore, a PDA (Personal Digital Assistant) can be integrated into the mobile radio telephone device 2200 as well as further telecommunication functions, such as for example the sending and / or receiving of
  • PDA Personal Digital Assistant
  • the mobile radio telephone device 2200 can be expanded by additional multimedia functionalities, for example a camera can be integrated in the mobile radio telephone device 2200.
  • Fig. 23 shows a car radio 2300 in which (symbolically shown in Fig. 23) a large number of different components are integrated, for example a navigation system 2301, a CD player 2302, a cassette recorder 2303, a radio 2304, a telephone device with hands-free system 2305 and the speech recognition device 100, as shown in Fig.l.
  • the information can be exchanged between the user and the car radio 2300 both by means of the speech recognition device 100 and via a screen 2306.
  • the invention is particularly suitable for controlling a system providing a multitude of different functionalities, such as a car radio 2300 provided with a multitude of different functions, since an arbitrarily complicated voice dialog structure can be set up and implemented very flexibly and independently of the speaker.

Landscapes

  • Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Machine Translation (AREA)

Abstract

According to the invention, the similarity between a first utterance, before it is used in an electronic dictionary for a voice recognition unit to enable voice recognition, and at least one second utterance is determined in an utterance comparison area. The electronic dictionary is completed according to the determined similarities between the first utterance and at least the second utterance.

Description

Beschreibungdescription

Spracherkennungseinrichtung, Steuereinrichtung und Verfahren zum rechnergestützten Ergänzen eines elektronischen Wörterbuches für eine SpracherkennungseinrichtungSpeech recognition device, control device and method for computer-aided supplementing of an electronic dictionary for a speech recognition device

Die Erfindung betrifft eine Spracherkennungseinrichtung, eine Steuereinrichtung sowie ein Verfahren zum rechnergestützten Ergänzen eines elektronischen Wörterbuches für eine Spracherkennungseinrichtung.The invention relates to a speech recognition device, a control device and a method for computer-aided addition of an electronic dictionary for a speech recognition device.

Im Rahmen der Spracherkennung werden üblicherweise zwei unterschiedliche Verfahren unterschieden, die so genannte sprecherabhängige Spracherkennung und die so genannte sprecherunabhängige Spracherkennung.Within the framework of speech recognition, two different methods are usually distinguished, the so-called speaker-dependent speech recognition and the so-called speaker-independent speech recognition.

Insbesondere in einer Spracherkennungsanwendung, in der die Spracherkennungseinrichtung in Form eines Embedded Systems in einer Rechnerleistungs-schwachen Umgebung eingebettet ist, sind üblicherweise- eine Einheit für die sprecherunabhängigeIn particular in a speech recognition application in which the speech recognition device is embedded in the form of an embedded system in a low-computing environment, there is usually a unit for the speaker-independent

Spracherkennung und eine davon separate Einheit für die sprecherabhängige Spracherkennung vorgesehen.Speech recognition and a separate unit for speaker-dependent speech recognition are provided.

Im Rahmen der sprecherunabhängigen Spracherkennung werden üblicherweise Hidden Markov Modelle eingesetzt, für dieHidden Markov models are usually used for speaker-independent speech recognition, for which

Erkennung sprecherabhängiger Äußerungen üblicherweise eine Spracherkennungseinrichtung basierend auf dem Prinzip des DTW (Dynamic Time Warping) .Recognition of speaker-dependent utterances usually a speech recognition device based on the principle of DTW (Dynamic Time Warping).

Die Spracherkennung verfolgt in der Regel in der Weise, dass ein eingesprochenes Sprachsignal in eine Folge lautsprachlicher Einheiten zerlegt wird, anders ausgedrückt, auf diese abgebildet wird. Die Folge lautsprachlicher Einheiten, üblicherweise eine Folge von Phonemen, wird mit zuvor gespeicherten Phonemfolgen, welche Referenzäußerungen repräsentieren und in einem elektronischen Wörterbuch gespeichert sind, verglichen. Ist die Phonemfolge des eingesprochenen Sprachsignals zu einer Referenzäußerung in dem elektronischen Wörterbuch ausreichend ähnlich, so wird das eingesprochene Sprachsignal als die Referenzäußerung repräsentierend erkannt und die Referenzäußerung wird dem Benutzer als Spracherkennungsergebnis ausgegeben.Speech recognition generally follows in such a way that a spoken speech signal is broken down into a sequence of spoken units, in other words, is mapped onto these. The sequence of spoken units, usually a sequence of phonemes, is compared with previously stored phoneme sequences, which represent reference utterances and are stored in an electronic dictionary. Is the phoneme sequence of the speech signal sufficiently similar to a reference utterance in the electronic dictionary, the spoken voice signal is recognized as representing the reference utterance and the reference utterance is output to the user as a speech recognition result.

In einigen Anwendungsfällen ist es von Vorteil, das elektronische Wörterbuch flexibel erweiterbar zu gestalten, anders ausgedrückt, es ist wünschenswert, dem elektronischen Wörterbuch eine Referenzäußerung hinzufügen zu können, eine in dem Wörterbuch gespeicherte Referenzäußerung zu ändern oder auch eine in dem Wörterbuch gespeicherte Referenzäußerung aus dem elektronischen Wörterbuch zu löschen.In some applications, it is advantageous to make the electronic dictionary flexibly expandable, in other words, it is desirable to be able to add a reference utterance to the electronic dictionary, to change a reference utterance stored in the dictionary, or to change a reference utterance stored in the dictionary delete electronic dictionary.

Zu diesem Zweck ist es gemäß dem Stand der Technik bekannt, das elektronische Wörterbuch als elektronische Datei einzurichten, in die neue Referenzäußerungen hineingeschrieben werden können, wenn ein Benutzer die entsprechenden Zugriffsrechte zu der Datei des elektronischenFor this purpose, it is known in the prior art to set up the electronic dictionary as an electronic file into which new reference statements can be written if a user has the appropriate access rights to the electronic file

Wörterbuches besitzt.Dictionary owns.

Nachteilig an der bekannten Vorgehensweise ist insbesondere, dass die Verwaltung des elektronischen Wörterbuches unkontrolliert erfolgt und aus diesem Grund die Größe des elektronischen Wörterbuches grundsätzlich unbeschränkt ansteigen kann, was zu einer erheblichen Verschlechterung der Erkennungsleistung der Spracherkennungseinrichtung sowie zu einem erhöhten Speicherplatzbedarf zur Speicherung des elektronischen Wörterbuches führen kann.A disadvantage of the known procedure is in particular that the management of the electronic dictionary takes place in an uncontrolled manner and, for this reason, the size of the electronic dictionary can fundamentally increase without restriction, which leads to a considerable deterioration in the recognition performance of the speech recognition device and to an increased storage space requirement for storing the electronic dictionary can.

Ferner ist es in einer üblichen Spracherkennungsanwendung, in der sowohl ein Spracherkennungsverfahren zur sprecherabhängigen Spracherkennung und ein Spracherkennungsverfahren zur sprecherunabhängigen Spracherkennung vorgesehen sind, üblich, die sprecherunabhängige und sprecherabhängige Spracherkennung in voneinander logisch vollständig getrennten Spracherkennungszuständen durchzuführen, wobei die sprecherabhängige und sprecherunabhängige Spracherkennung von unterschiedlichen Spracherkennungseinheiten durchgeführt werden.Furthermore, in a conventional speech recognition application in which both a speech recognition process for speaker-dependent speech recognition and a speech recognition process for speaker-independent speech recognition are provided, the speaker-independent and speaker-dependent speech recognition in to carry out speech recognition states which are logically completely separate from one another, the speaker-dependent and speaker-independent speech recognition being carried out by different speech recognition units.

Ein Beispiel hierfür ist in der automatischen Spracherkennung im Rahmen einer Telefonanwendung zu sehen, bei dem beispielsweise ein vorgegebenes sprecherunabhängiges Kommando „Anrufen" gespeichert ist im Rahmen der Spracherkennung mittels Hidden Markov Modellen. Dies bedeutet, dass zum Erkennen dieses Kommandos ein Verfahren zur sprecherunabhängigen Spracherkennung eingesetzt wird.An example of this can be seen in automatic speech recognition in the context of a telephone application, in which, for example, a predefined speaker-independent command “call” is stored as part of speech recognition using hidden Markov models. This means that a method for speaker-independent speech recognition is used to recognize this command becomes.

Eine DTW-Spracherkennungseinheit wird üblicherweise zum Erkennung von dynamisch erweiterbaren Einträgen eines benutzerdefinierbaren elektronischen Wörterbuches, beispielsweise eines elektronischen Telefonbuches, verwendet, in welchem elektronischen Wörterbuch beispielsweise ein von einem Benutzer eingesprochener Name eines Teilnehmers gespeichert werden kann.A DTW speech recognition unit is usually used to recognize dynamically expandable entries in a user-definable electronic dictionary, for example an electronic telephone book, in which electronic dictionary, for example, a name of a subscriber spoken by a user can be stored.

In diesem Zusammenhang ist darauf hinzuweisen, dass bei dem oben beschriebenen Szenario aufgrund der Tatsache, dass die Spracherkennungseinheiten auf unterschiedlichenIn this context it should be noted that in the scenario described above due to the fact that the speech recognition units on different

Spracherkennungsprinzipien und Spracherkennungsalgorithmen basieren, auch unterschiedliche Dateien für die Speicherung der jeweiligen für die Spracherkennung verwendeten elektronischen Wörterbücher vorgesehen sind.Based on speech recognition principles and speech recognition algorithms, different files are also provided for storing the respective electronic dictionaries used for speech recognition.

Grundlagen über Hidden Markov Modelle und somit über die sprecherunabhängige Spracherkennung sind in [1] zu finden. Ferner sind in [1] Grundlagen über das Dynamic Time Warping, anders ausgedrückt über die so genannte dynamische Zeitverzerrung, beschrieben. In [1] sind weiterhin Grundlagen über den Viterbi-Algorithmus und das Training von Hidden Markov Modellen unter Verwendung eines Viterbi-Algorithmus beschrieben.Foundations of hidden Markov models and thus of speaker-independent speech recognition can be found in [1]. Furthermore, in [1] basics about dynamic time warping, in other words about so-called dynamic time distortion, are described. In [1] there are also basics about the Viterbi algorithm and the training of hidden Markov models are described using a Viterbi algorithm.

Das Umschalten zwischen unterschiedlichen Spracherkennungseinrichtungen, insbesondere das Laden eines neuen, für das jeweilige Spracherkennungsverfahren verwendete elektronische Wörterbuch und das Initialisieren des jeweiligen Spracherkenners sind sehr zeitaufwendig. Damit ist eine Spracherkennung gemäß dem Stand der Technik für eine Äußerung eines Benutzers, die sowohl sprecherabhängige als auch sprecherunabhängige Teiläußerungen enthält, sehr bedienungsunfreundlich.Switching between different speech recognition devices, in particular loading a new electronic dictionary used for the respective speech recognition process and initializing the respective speech recognizer are very time-consuming. Speech recognition according to the prior art for a user utterance which contains both speaker-dependent and speaker-independent partial utterances is therefore very user-unfriendly.

Ferner sind die zusätzlichen Kosten für sowohl die Entwicklung als auch die Speicherung und den Erwerb zweier, voneinander unterschiedlichen Spracherkennungseinrichtungen, erheblich.Furthermore, the additional costs for the development as well as the storage and the acquisition of two mutually different speech recognition devices are considerable.

In [2] sind ein Verfahren und eine Vorrichtung zur Spracherkennung beschrieben, bei denen einem Wortschatz ein neu von einem Benutzer eingesprochenes Wort als Phonemfolge hinzugefügt wird, wobei die Phonemfolge aus sprecherunabhängigen Phonemen gebildet werden.[2] describes a method and a device for speech recognition, in which a vocabulary is added a new word spoken by a user as a phoneme sequence, the phoneme sequence being formed from speaker-independent phonemes.

[3] beschreibt ein Verfahren, bei dem zu einem eingesprochenen Sprachsignal eine Merkmalsextraktion vorgenommen wird und zu den daraus gebildeten Merkmalsvektoren eine Folge von Hidden Markov Modellen, welche jeweils eine Phonem repräsentieren, gebildet werden, so dass ein Wortmodell erzeugt wird, welches das eingesprochene Sprachsignal am besten repräsentiert . Das Wortmodell wird als ein neues zu erkennendes Wort in einen Speicher der Erkennungsvorrichtung, d.h. anschaulich in einem elektronischen Wörterbuch, gespeichert, so dass es in einem Erkennungsmodus der Spracherkennungsvorrichtung als Referenz- Wort für die Spracherkennung verwendet werden kann. Der Erfindung liegt das Problem zugrunde, ein elektronisches Wörterbuch in einer Weise zu verwalten, insbesondere um neue Referenzäußerungen zu ergänzen, die eine verbesserte Erkennungsrate im Rahmen einer Spracherkennung unter Verwendung des elektronischen Wörterbuches gewährleistet.[3] describes a method in which a feature extraction is carried out for a spoken-in speech signal and a sequence of hidden Markov models, each representing a phoneme, is formed for the feature vectors formed therefrom, so that a word model is generated which contains the spoken-in speech signal best represented. The word model is stored as a new word to be recognized in a memory of the recognition device, ie clearly in an electronic dictionary, so that it can be used as a reference word for the speech recognition in a recognition mode of the speech recognition device. The invention is based on the problem of managing an electronic dictionary in a manner, in particular to add new reference statements, which ensures an improved recognition rate in the context of speech recognition using the electronic dictionary.

Das Problem wird durch die Spracherkennungseinrichtung, durch die Steuereinrichtung sowie durch das Verfahren zum rechnergestützten Ergänzen eines elektronischen Wörterbuches für eine Spracherkennungseinrichtung zur Spracherkennung mit den Merkmalen gemäß den unabhängigen Patentansprüchen gelöst .The problem is solved by the speech recognition device, by the control device and by the method for computer-aided addition of an electronic dictionary for a speech recognition device for speech recognition with the features according to the independent patent claims.

Die Spracherkennungseinrichtung weist mindestens eine Spracherkennungseinheit auf, die vorzugsweise eingerichtet ist zur sprecherunabhängigen Spracherkennung.The speech recognition device has at least one speech recognition unit, which is preferably set up for speaker-independent speech recognition.

Gemäß einer Ausgestaltung der Erfindung können mehrere Spracherkennungseinheiten, beispielsweise eine Spracherkennungseinheit zur sprecherunabhängigen Spracherkennung und eine- Spracherkennungseinhei -zur sprecherabhängigen Spracherkennung vorgesehen sein. Grundsätzlich kann eine beliebige Anzahl von Spracherkennungseinheiten vorgesehen sein, welche ein oder mehrere erfindungsgemäße elektronische Wörterbücher zur Spracherkennung verwenden.According to one embodiment of the invention, a plurality of speech recognition units, for example a speech recognition unit for speaker-independent speech recognition and a speech recognition unit for speaker-dependent speech recognition, can be provided. In principle, any number of speech recognition units can be provided, which use one or more electronic dictionaries according to the invention for speech recognition.

Ferner weist die Spracherkennungseinrichtung ein mit der Spracherkennungseinheit gekoppeltes elektronisches Wörterbuch auf, in dem die im Rahmen der Spracherkennung berücksichtigen Wörter gespeichert sind.Furthermore, the speech recognition device has an electronic dictionary coupled to the speech recognition unit, in which the words taken into account in the context of the speech recognition are stored.

Eine Wortabstands-Ermittlungseinheit ist vorgesehen zum Ermitteln der Ähnlichkeit einer ersten Äußerung zu mindestens einer zweiten Äußerung in einem Äußerungs-Vergleichsraum. Ferner ist eine Wörterbuch-Ergänzungseinheit zum Ergänzen des elektronischen Wörterbuches um die erste Äußerung, vorgesehen, wobei das Ergänzen des elektronischen Wörterbuches abhängig von der ermittelten Ähnlichkeit der ersten Äußerung mit mindestens der zweiten Äußerung erfolgt.A word spacing determination unit is provided for determining the similarity of a first utterance to at least one second utterance in an utterance comparison space. Furthermore, a dictionary supplement unit is provided for supplementing the electronic dictionary with the first utterance, the supplementing the electronic Dictionary depends on the determined similarity of the first utterance with at least the second utterance.

Eine Steuereinrichtung zum Steuern eines technischen Systems weist eine oben beschriebene Spracherkennungseinrichtung auf, wobei in dem elektronischen Wörterbuch die zum Steuern des technischen Systems vorgesehenen Steuerbefehle zur Spracherkennung gespeichert sind.A control device for controlling a technical system has a speech recognition device as described above, the control commands provided for controlling the technical system for speech recognition being stored in the electronic dictionary.

Bei einem Verfahren zum rechnergestützten Ergänzen eines elektronischen Wörterbuches für eine Spracherkennungseinheit zur Spracherkennung, in dem die im Rahmen der Spracherkennung berücksichtigten Wörter gespeichert sind, wird für mindestens eine erste Äußerung die Ähnlichkeit zu mindestens einer zweiten Äußerung in einem Äußerungs-Vergleichsraum ermittelt. Das elektronische Wörterbuch wird um die erste Äußerung ergänzt abhängig von der ermittelten Ähnlichkeit der ersten Äußerung mit mindestens der zweiten Äußerung.In a method for the computer-aided addition of an electronic dictionary for a speech recognition unit for speech recognition, in which the words taken into account in the context of speech recognition are stored, the similarity to at least one second utterance is determined in an utterance comparison space. The electronic dictionary is supplemented by the first utterance depending on the determined similarity of the first utterance with at least the second utterance.

Anschaulich wird durch erfindungsgemäß für eine vorzugsweise von einem Benutzer eingesprochene erste Äußerung, die beispielsweise in Form eines aus einem analogen Sprachsignal gebildeten Folge von Phonemen vorliegt, überprüft, ob sie einem oder mehreren Ähnlichkeitskriterien zu einer oder mehreren weiteren Äußerungen genügt. Die erste Äußerung wird nur dann dem elektronischen Wörterbuch hinzugefügt, wenn die erste Äußerung dem Ähnlichkeitskriterium genügt . Sonst wird der Antrag auf Ergänzung des Wörterbuches um die erste- Äußerung abgelehnt und die erste Äußerung wird verworfen.Clearly, according to the invention, a first utterance, which is preferably spoken by a user and is present, for example, in the form of a sequence of phonemes formed from an analog speech signal, is checked to determine whether it meets one or more similarity criteria for one or more other utterances. The first utterance is only added to the electronic dictionary if the first utterance meets the similarity criterion. Otherwise the request to add the first utterance to the dictionary will be rejected and the first utterance will be rejected.

Auf diese Weise wird erreicht , dass ein im Rahmen der Spracherkennung eingesetztes elektronisches Wörterbuch nur dann um einen neuen Eintrag ergänzt wird, wenn gewährleistet ist , dass das Ähnlichkeitskriterium erfüllt ist , anders ausgedrückt kann auf diese Weise erreicht werden, dass beispielsweise nur dann ein Eintrag in das elektronische Wörterbuch vorgenommen wird, wenn die Spracherkennungsleistung, das heißt die Erkennungsrate im Rahmen der Spraσherkennung unter Verwendung des ergänzten elektronischen Wörterbuches nicht oder nur in einem akzeptablen, durch das Ähnlichkeitskriterium repräsentierten Maße, reduziert wird.In this way, it is achieved that an electronic dictionary used in the context of speech recognition is only supplemented with a new entry if it is ensured that the similarity criterion is met; in other words, an entry in. Can only be achieved in this way the electronic dictionary is made when the Speech recognition performance, that is to say the recognition rate in the context of speech recognition using the supplemented electronic dictionary is not reduced or is reduced only to an acceptable extent represented by the similarity criterion.

Bevorzugte Weiterbildungen der Erfindung ergeben sich aus den abhängigen Ansprüchen.Preferred developments of the invention result from the dependent claims.

Die im Folgenden beschriebenen Ausgestaltungen der Erfindung betreffen sowohl die Spracherkennungseinrichtung, die Steuereinrichtung als auch das Verfahren zum rechnergestützten Ergänzen eines elektronischen Wörterbuches.The embodiments of the invention described below relate both to the speech recognition device, the control device and the method for the computer-aided addition of an electronic dictionary.

Die Wortähnlichkeits-Ermittlungseinheit derThe word similarity determination unit of the

Spracherkennungseinrichtung kann eine Wδrterbuchähnlichkeits- Ermittlungseinheit- aufweisen, mit der die Ähnlichkeit der ersten Äußerung mit der zweiten Äußerung ermittelt wird.Speech recognition device can have a dictionary similarity determination unit with which the similarity of the first utterance to the second utterance is determined.

In diesem Fall ist die zweite Äußerung in dem elektronischen Wörterbuch gespeichert. Die Spracherkennungseinrichtung, vorzugsweise die Wörterbuch-Ergänzungseinheit, alternativ jedoch auf die Wortabstands-Ermittlungseinheit, ist derart eingerichtet, dass die erste Äußerung nur dann dem elektronischen Wörterbuch hinzugefügt wird, wenn dieIn this case, the second utterance is stored in the electronic dictionary. The speech recognition device, preferably the dictionary supplement unit, but alternatively to the word spacing determination unit, is set up in such a way that the first utterance is only added to the electronic dictionary if the

Ähnlichkeit der ersten Äußerung zu der zweiten Äußerung geringer ist als ein vorgegebener erster Ähnlichkeitswert.Similarity of the first utterance to the second utterance is less than a predetermined first similarity value.

Anschaulich bedeutet diese Vorgehensweise, dass die erste Äußerung nur dann dem elektronischen Wörterbuch hinzugefügt wird, wenn der in dem Äußerungs-Vergleichsraum gebildete Abstandswert, der den Abstand zwischen den die erste Äußerung repräsentierenden Merkmalsvektoren zu den die zweite Äußerung repräsentierenden Merkmalsvektoren beschreibt, größer ist als ein vorgegebener Ähnlichkeits-Schwellenwert. Anders ausgedrückt bedeutet diese Vorgehensweise, dass für eine Äußerung vor deren Speicherung in dem elektronischen Wörterbuch zunächst überprüft wird, ob der Abstand zu den schon zuvor in dem elektronischen Wörterbuch gespeicherten Referenzäußerungen ausreichend groß ist .This procedure clearly means that the first utterance is only added to the electronic dictionary if the distance value formed in the utterance comparison space, which describes the distance between the feature vectors representing the first utterance to the feature vectors representing the second utterance, is greater than one predefined similarity threshold. In other words, this procedure means that for an utterance before it is stored in the electronic dictionary, it is first checked whether the distance to the reference utterances previously stored in the electronic dictionary is sufficiently large.

Gemäß einer anderen Ausgestaltung der Erfindung ist es vorgesehen, dass die Wortähnlichkeits-Ermittlungseinheit eine Äußerungsähnlichkeits-Ermittlungseinheit aufweist, zum Ermitteln der Ähnlichkeit der ersten Äußerung mit einer dritten Äußerung. Die Spracherkennungseinrichtung, vorzugsweise die Wörterbuch-Ergänzungseinheit, alternativ die Wortabstands-Ermittlungseinheit ist derart eingerichtet, dass die erste Äußerung nur dann dem elektronischen Wörterbuch hinzugefügt wird, wenn die Ähnlichkeit der ersten Äußerung zu der dritten Äußerung größer ist als eine vorgegebene zweite Ähnlichkeitsschwelle.According to another embodiment of the invention, it is provided that the word similarity determination unit has an utterance similarity determination unit for determining the similarity of the first utterance to a third utterance. The speech recognition device, preferably the dictionary supplement unit, alternatively the word spacing determination unit, is set up in such a way that the first utterance is only added to the electronic dictionary if the similarity of the first utterance to the third utterance is greater than a predetermined second similarity threshold.

Anschaulich beschrieben bedeutet diese Vorgehensweise insbesondere bei mehrfachem Einsprechen der gleichenDescribed clearly, this procedure means in particular if the same is spoken several times

Sprachäußerung durch einen Benutzer, dass die eingesprochenen Äußerungen miteinander verglichen werden und eine Äußerung nur dann überhaupt dem elektronischen Wörterbuch zugefügt werden kann, wenn mehrere Äußerungen aneinander ausreichend ähnlich sind, so dass die erste Äußerung als Repräsentant der mehreren Äußerungen der gleichen Sprachäußerungen ausgewählt wird und für diese dann überprüft wird, ob der Abstand zu den gespeicherten Referenzäußerungen in dem Wörterbuch ausreichend groß ist .Speech by a user that the spoken utterances are compared with each other and that an utterance can only be added to the electronic dictionary if several utterances are sufficiently similar to one another, so that the first utterance is selected as a representative of the multiple utterances of the same speech utterances and for this is then checked whether the distance to the stored reference utterances in the dictionary is sufficiently large.

Diese Ausgestaltung der Erfindung stellt anschaulich eine zweistufige Vorgehensweise dar, wodurch zum Einen erreicht wird, dass eine möglichst geringe Anzahl von neuen Äußerungen bei ungleichen akustischen Sprachäußerungen gewährleistet ist, wobei jedoch eine möglichst hohe Anzahl von erfolgtenThis embodiment of the invention clearly represents a two-step procedure, whereby on the one hand it is achieved that the smallest possible number of new utterances is guaranteed in the case of unequal acoustic speech utterances, but the highest possible number of ones

Ergänzungen des elektronischen Wörterbuches, das heißt von Eintrags-Annahmen bei gleichen akustischen Sprachäußerungen erreicht wird. Ferner wird durch die oben beschriebene Vorgehensweise eine möglichst geringe Anzahl von zusätzlichen akustischen Ergänzungen bei einer möglichst hohen Spracherkennungsrate einer das ergänzte elektronische Wörterbuch verwendenden Spracherkennungseinrichtung erreicht.Additions to the electronic dictionary, that is, entry assumptions with the same acoustic speech is achieved. Furthermore, the procedure described above achieves the lowest possible number of additional acoustic additions with the highest possible speech recognition rate of a speech recognition device using the supplemented electronic dictionary.

Gemäß einer anderen Ausgestaltung der Erfindung ist die Spracherkennungseinheit eingerichtet zur sprecherunabhängigen Spracherkennung.According to another embodiment of the invention, the speech recognition unit is set up for speaker-independent speech recognition.

Ferner kann eine mit dem elektronischen Wörterbuch gekoppelte Sprachsignal-Abbildungseinheit zum Abbilden des von einem Benutzer eingesprochenen Sprachsignals auf eine Folge lautsprachlicher Einheiten, welche das Sprachsignal repräsentiert, vorgesehen sein.Furthermore, a speech signal mapping unit coupled to the electronic dictionary can be provided for mapping the speech signal spoken by a user onto a sequence of spoken units which represents the speech signal.

Die Folge lautsprachlicher Einheiten ist vorzugsweise derart eingerichtet, dass diese von der Spracherkennungseinheit im Rahmen der sprecherunabhängigen Spracherkennung verarbeitet werden kann, wobei die Folge lautsprachlicher Einheiten die erste Äußerung repräsentiert.The sequence of spoken units is preferably set up in such a way that it can be processed by the speech recognition unit as part of the speaker-independent speech recognition, the sequence of spoken units representing the first utterance.

Das Sprachsignal kann zu Beginn des Verfahrens von einem Benutzer in die Spracherkennungseinrichtung eingesprochen werden, kann jedoch alternativ schon in rein analoger oder analog-digitalisierter Form als Sprachsignal gespeichert werden und beispielsweise über ein Telekommunikationsnetz dem Rechner zugeführt werden. Die Sprachsignale können ferner alternativ in dem Speicher der Spracherkennungseinrichtung gespeichert sein, in welchem Fall die Bildung der Folge lautsprachlicher Einheiten auf der Grundlage der schon in dem Speicher gespeicherten Signale erfolgt .The speech signal can be spoken into the speech recognition device by a user at the beginning of the method, but can alternatively already be stored in a purely analog or analog-digitized form as a speech signal and can be fed to the computer, for example, via a telecommunications network. The voice signals can also alternatively be stored in the memory of the speech recognition device, in which case the formation of the sequence of spoken units is based on the signals already stored in the memory.

Die Spracherkennungseinheit kann eingerichtet sein zur sprecherunabhängigen Spracherkennung basierend auf Hidden Markov Modellen, die jeweils trainiert sind auf eine vorgegebene, in einem elektronischen Wörterbuch gespeicherte Äußerung, beispielsweise ein Wort und eine Folge von Worten.The speech recognition unit can be set up for speaker-independent speech recognition based on Hidden Markov models, which are each trained on one predefined utterance stored in an electronic dictionary, for example a word and a sequence of words.

Die Spracherkennungseinheit kann zur sprecherunabhängigen Spracherkennung alternativ mittels statistischer Klassifikatoren, die in entsprechender Weise zur sprecherunabhängigen Spracherkennung unter Verwendung eines elektronischen Wörterbuches mit den zur Spracherkennung vorgesehenen Äußerungen trainiert sind, ausgestaltet sein. Als statistische Klassifikatoren können beispielsweise Verfahren unter Verwendung künstlicher neuronaler Netze eingesetzt werden.The speech recognition unit can alternatively be designed for speaker-independent speech recognition by means of statistical classifiers which are trained in a corresponding manner for speaker-independent speech recognition using an electronic dictionary with the utterances intended for speech recognition. For example, methods using artificial neural networks can be used as statistical classifiers.

Die Folge lautsprachlicher Einheiten wird vorzugsweise von einer Phonemkette gebildet, alternativ mittels einer Folge von Silben, Buchstaben oder einer Folge anderer lautsprachlicher Einheiten, welche zur Spracherkennung geeignet sind.The sequence of speech units is preferably formed by a phoneme chain, alternatively by means of a sequence of syllables, letters or a sequence of other speech units that are suitable for speech recognition.

Durch den Einsatz von Phonemen' als lautsprachliche Einheiten wird die Verwendung von im Rahmen der Spracherkennung an sich bekannter Einheiten zum Bilden von Phonemen aus Sprachsignalen erst ermöglicht, womit dieThe use of phonemes as loudspeaker units enables the use of units known per se in the context of speech recognition for the formation of phonemes from speech signals

Spracherkennungseinrichtung kostengünstig realisierbar ist.Speech recognition device can be implemented inexpensively.

Anschaulich kann die Erfindung darin gesehen werden, dass mittels Einsatzes eines statistischen Verfahrens zur Parameteroptimierung die oben beschriebenen Anforderungen an die Ergänzung eines elektronischen Wörterbuches ein sinnvoller optimierter Kompromiss gefunden wird.The invention can clearly be seen in the fact that by using a statistical method for parameter optimization, the above-described requirements for supplementing an electronic dictionary are found to be a sensible, optimized compromise.

Darüber hinaus werden Vorhersagen bezüglich der Erkennungsqualität, das heißt der erreichbaren Erkennungsrate bei einer festen Anzahl von Einträgen in dem elektronischen Wörterbuch möglich. Anders ausgedrückt bedeutet dies, dass die Qualität der Spracherkennungseinrichtung skalierbar ist.In addition, predictions regarding the recognition quality, that is to say the achievable recognition rate with a fixed number of entries in the electronic dictionary, are possible. In other words, the quality of the speech recognition device is scalable.

Erfindungsgemäß können sprecherabhängige und sprecherunabhängige Wortschätze zu einem Gesamtwortschatz zusammengefasst werden. Sind Befehlsworte in einem sprecherabhängigen Teil des GesamtwortSchatzes vorhanden, welche Steuerfunktionen eines zu steuernden technischen Systems aktivieren, so wird deren Funktion nicht durch neue Einträge beeinträchtigt, da gewährleistet ist, dass die Ähnlichkeit eines neu einzutragenden Wortes zu den Befehlsworten ausreichend gering ist, so dass eine entsprechende Beeinflussung vermieden wird.According to the invention, speaker-dependent and speaker-independent vocabularies can be combined to form an overall vocabulary. If command words are present in a speaker-dependent part of the total vocabulary of words which activate control functions of a technical system to be controlled, their function is not impaired by new entries, since it is guaranteed that the similarity of a new word to the command words is sufficiently low so that a corresponding influencing is avoided.

Die Verwendung von Ähnlichkeitsmaßen oder Distanzmaßen als Schwellwertparamter, anschaulich als dieThe use of similarity measures or distance measures as threshold parameters, more clearly than that

Ähnlichkeitsschwellen erlauben den Einsatz von statistischen Verfahren, die im Folgenden näher erläutert werden, welche den optimalen Arbeitsbereich der Spracherkennungsreinrichtung für eine feste Anzahl von Einträgen bestimmen können.Similarity thresholds allow the use of statistical methods, which are explained in more detail below, which can determine the optimal working range of the speech recognition device for a fixed number of entries.

Die Aufnahme eines vorzugsweise sprecherabhängigen Eintrags in das elektronische Wörterbuch wird somit vorzugsweise mittels eines zweistufigen Verfahrens realisiert.The entry of a preferably speaker-dependent entry in the electronic dictionary is thus preferably implemented using a two-stage process.

In der ersten Stufe wird ein Kandidat, das heißt eine Sprachäußerung, welche in das elektronische Wörterbuch eingespeichert werden soll, NRepea -mal eingesprochen. Mittels der Spracherkennungseinrichtung wird jede der NRepeat Äußerungen auf eine jeweilige Folge von lautsprachlichenIn the first stage, a candidate, that is to say a speech that is to be stored in the electronic dictionary, is spoken NR e p ea times. Using the speech recognition device, each of the NR e p ea t statements on a respective sequence of spoken language

Einheiten, vorzugsweise eine Folge von Phonemen, abgebildet. Die durch den Verbund der erkannten lautsprachlichen Einheiten entstandene Folge von Spracheinheiten wird nachfolgend auch als Symbolkette bezeichnet.Units, preferably a sequence of phonemes. The sequence of language units created by the combination of the recognized speech-language units is also referred to below as a symbol chain.

Nur wenn alle NRepea Symbolketten der jeweiligen aktuellen Sprachäußerung eine genügend geringe Distanz oder, anders ausgedrückt, genügend starke Ähnlichkeit zueinander aufweisen, liegt überhaupt ein „Eintragskandidat" vor.Only if all NR epea symbol chains of the respective current speech are a sufficiently short distance or, otherwise expressed, that they are sufficiently similar to one another, there is a "candidate for entry" at all.

Ist dies nicht der Fall, so wird der Antrag auf Eintrag der Sprachäußerung in das elektronische Wörterbuch abgewiesen.If this is not the case, the request for the entry of the utterance in the electronic dictionary is rejected.

Der Versuch kann jedoch beliebig häufig wiederholt werden.However, the attempt can be repeated any number of times.

Mittels der zweiten Stufe wird die Ähnlichkeit oder die Distanz des jeweiligen Eintragskandidaten zu den in dem elektronischen Wörterbuch zuvor schon gespeicherten Referenzäußerungen, allgemein dem bereits vorhandenen Wortschatz, ermittelt.The second level is used to determine the similarity or the distance of the respective entry candidate to the reference utterances previously stored in the electronic dictionary, generally the vocabulary that already exists.

Nur wenn die Eintragskandidaten eine genügend große Distanz oder eine genügend geringe Ähnlichkeit zum bereits vorhandenen Wortschatz aufweisen, dann wird der Eintrag in das elektronische Wörterbuch gespeichert. In dem anderen Fall wird vorzugsweise eine akustische Ergänzung des aktuellen Eintrags gefordert. Der Versuch wird nach erfolgter akustischer Ergänzung in der ersten Stufe wiederholt.The entry is only saved in the electronic dictionary if the entry candidates are sufficiently far away or have a low enough similarity to the existing vocabulary. In the other case, an acoustic addition to the current entry is preferably requested. The experiment is repeated in the first stage after the acoustic addition.

Die Erfindung eignet sich insofern für ein Szenario, in dem die Spracherkennungseinrichtung als ein E bedded System eingerichtet ist, da in einem solchem Fall die verfügbare Rechenleistung relativ gering ist und somit ein Umschalten zwischen unterschiedlichen Spracherkennungseinheiten, beispielsweise einer Spracherkennungseinheit zur sprecherabhängigen Spracherkennung sowie einer Spracherkennungseinheit zur sprecherunabhängigen Spracherkennung, nicht realisierbar ist.In this respect, the invention is suitable for a scenario in which the speech recognition device is set up as an E bedded system, since in such a case the available computing power is relatively low and thus switching between different speech recognition units, for example a speech recognition unit for speaker-dependent speech recognition and a speech recognition unit speaker-independent speech recognition, is not feasible.

Als Steuereinrichtung zum Steuern eines technischen Systems eignet sich beispielsweise eine Steuereinrichtung zum Steuern eines Telekommunikationsgerätes, beispielsweise einesA control device for controlling a telecommunication device, for example one, is suitable as the control device for controlling a technical system

Telefongerätes, eines Telefaxgerätes, eines PDAs, eines Notebooks etc., oder zum Steuern eines Endgerätes, in dem zumindest zwei der oben beschriebenen Geräte-Funktionalitäten in einem gemeinsamen Gerät integriert sind. Insbesondere diesem mit einem klar definierten und begrenzten Wortschatz zu steuernden Geräte können mittels eines Sprachdialogs gesteuert werden, welcher Sprachdialog relativ übersichtlich und somit selbst mittels eines Embedded Systems kostengünstig realisierbar ist.Telephone device, a fax machine, a PDA, a notebook etc., or to control a terminal in which at least two of the device functionalities described above are integrated in a common device. In particular, this device, which can be controlled with a clearly defined and limited vocabulary, can be controlled by means of a voice dialog, which voice dialog is relatively clear and thus can be implemented economically even by means of an embedded system.

Ausführungsbeispiele der Erfindung sind in den Figuren dargestellt und werden im Folgenden näher erläutert.Exemplary embodiments of the invention are shown in the figures and are explained in more detail below.

Es zeigenShow it

Figur 1 ein Blockdiagramm einer Spracherkennungseinrichtung gemäß einem Ausführungsbeispiel der Erfindung;Figure 1 is a block diagram of a speech recognition device according to an embodiment of the invention;

Figur 2 ein Blockdiagramm, in dem das Zusammenführen eines' elektronischen Wörterbuches mit ausschließlich zur sprecherunabhängigen Spracherkennung zuvor eingegebenen und trainierten Worten enthalten sind und einem Wörterbuch, in dem Äußerungen zur sprecherabhängigen Spracherkennung gespeichert sind, welche erfindungsgemäß zusammengeführt werden zu einem gemeinsamen Wörterbuch für die sprecherunabhängige Spracherkennung;FIG. 2 shows a block diagram in which the merging of an ' electronic dictionary with words previously entered and trained exclusively for speaker-independent speech recognition and a dictionary in which utterances relating to speaker-dependent speech recognition are stored, which are merged according to the invention into a common dictionary for speaker-independent speech recognition ;

Figur 3 eine Tabelle, in der die vorgesehenenFigure 3 is a table in which the intended

Spracherkennungs-Zustände und die Zustandsübergänge zwischen unterschiedlichen Spracherkennungszuständen dargestellt sind;Speech recognition states and the state transitions between different speech recognition states are shown;

Figur 4 eine Darstellung eines Dialog- Zustandsdiagramms gemäß einem Ausführungsbeispiel der Erfindung;Figure 4 is an illustration of a dialog state diagram according to an embodiment of the invention;

Figur 5 ein Ablauf diagramm, in dem die einzelnenFigure 5 is a flow chart in which the individual

Verfahrensschritte zur Spracherkennung sowie zum Ergänzen des elektronischen Wörterbuches der Spracherkennungseinrichtung gemäß einem Ausführungsbeispiel der Erfindung dargestellt sind;Process steps for speech recognition and for supplementing the electronic dictionary of Speech recognition device according to an embodiment of the invention are shown;

Figur 6 eine detaillierte Darstellung der einzelnen Verfahrensschritte zur Initialisierung derFIG. 6 shows a detailed illustration of the individual method steps for initializing the

Spracherkennungseinrichtung gemäß einem Ausführungsbeispiel der Erfindung;Speech recognition device according to an embodiment of the invention;

Figur 7 ein Nachrichtenflussdiagramm, in dem die einzelnen Verfahrensschritte zum Durchführen einesFIG. 7 shows a message flow diagram in which the individual method steps for carrying out a

Sprachdialogs gemäß einem Ausführungsbeispiel der Erfindung dargestellt sind;Voice dialogs are shown according to an embodiment of the invention;

Figur 8 ein Nachrichtenflussdiagramm, in dem die einzelnen Schritte zum Ergänzen eines elektronischenFigure 8 is a message flow diagram in which the individual steps to complete an electronic

Wörterbuches in der Spracherkennungseinrichtung gemäß einem Ausführungsbeispiel der Erfindung dargestellt sind;Dictionaries in the speech recognition device according to an embodiment of the invention are shown;

Figur 9 ein erstes Funktionsdiagramm gemäß einem " ' FIG. 9 shows a first functional diagram according to a "'

Ausführungsbeispiel der Erfindung;Embodiment of the invention;

Figur 10 ein zweites Funktionsdiagramm gemäß einem Ausführungsbeispiel der Erfindung;Figure 10 shows a second functional diagram according to an embodiment of the invention;

Figuren 11A und 11B Tabellen, in denen dem Benutzer dargestellten Sprach-Prompts im Rahmen des Sprachdialogs gemäß einem ersten Ausführungsbeispiel der Erfindung (Figur 9A) sowie zusätzliche Aktionen der Spracherkennungseinrichtung (Figur 9B) gemäß einem ersten Ausführungsbeispiel der Erfindung dargestellt sind;FIGS. 11A and 11B are tables in which speech prompts presented to the user in the context of the speech dialogue according to a first exemplary embodiment of the invention (FIG. 9A) and additional actions of the speech recognition device (FIG. 9B) according to a first exemplary embodiment of the invention are shown;

Figur 12 ein Sprachdialog-Zustandsdiagramm eines ersten Zustands gemäß einem ersten Ausführungsbeispiel derFIG. 12 shows a speech dialog state diagram of a first state according to a first exemplary embodiment of the

Erfindung; Figuren 13A und 13B ein Sprachdialog-Zustandsdiagramm eines zweiten Zustands einer Spracherkennungseinrichtung gemäß dem ersten Ausführungsbeispiels der Erfindung (Figur 13A) und das zugehörige Ablaufdiagramm (Figur 13B) ;Invention; FIGS. 13A and 13B show a speech dialog state diagram of a second state of a speech recognition device according to the first exemplary embodiment of the invention (FIG. 13A) and the associated flow diagram (FIG. 13B);

Figuren 14A und 14B ein Sprachdialog-Zustandsdiagramm eines dritten Zustands einer Spracherkennungseinrichtung gemäß dem ersten Ausführungsbeispiel der Erfindung (Figur 14A) und das zugehörige AblaufdiagrammFIGS. 14A and 14B show a speech dialog state diagram of a third state of a speech recognition device according to the first exemplary embodiment of the invention (FIG. 14A) and the associated flow diagram

(Figur 14B) ;(Figure 14B);

Figuren 15A und 15B ein Sprachdialog-Zustandsdiagramm eines vierten Zustands einer Spracherkennungseinrichtung gemäß dem ersten Ausführungsbeispiel der ErfindungFIGS. 15A and 15B show a speech dialog state diagram of a fourth state of a speech recognition device according to the first exemplary embodiment of the invention

(Figur 15A) und das zugehörige Abiaufdiagramm (Figur 15B)-;(Figure 15A) and the associated sequence diagram (Figure 15B) -;

Figuren 16A und 16B ein Sprachdialog-Zustandsdiagramm eines fünften Zustands einer Spracherkennungseinrichtung gemäß dem ersten Ausführungsbeispiel der Erfindung (Figur 16A) und das zugehörige Ablaufdiagramm (Figur 16B) ;FIGS. 16A and 16B show a speech dialog state diagram of a fifth state of a speech recognition device according to the first exemplary embodiment of the invention (FIG. 16A) and the associated flow diagram (FIG. 16B);

Figuren 17A und 17B ein Sprachdialog-Zustandsdiagramm eines sechsten Zustands einer Spracherkennungseinrichtung gemäß dem ersten Ausführungsbeispiel der Erfindung (Figur 17A) und das zugehörige Ablaufdiagramm (Figur 17B) ;FIGS. 17A and 17B show a speech dialog state diagram of a sixth state of a speech recognition device according to the first exemplary embodiment of the invention (FIG. 17A) and the associated flow diagram (FIG. 17B);

Figuren 18A und 18B ein Sprachdialog-Zustandsdiagramm eines siebenten Zustands einer Spracherkennungseinrichtung gemäß dem ersten Ausführungsbeispiel der Erfindung (Figur 18A) und das zugehörige Ablaufdiagramm (Figur 18B) ; Figur 19 ein Sprachdialog-Zustandsdiagramm eines ersten Zustands einer Spracherkennungseinrichtung gemäß einem zweiten Ausführungsbeispiel der Erfindung;FIGS. 18A and 18B show a speech dialog state diagram of a seventh state of a speech recognition device according to the first exemplary embodiment of the invention (FIG. 18A) and the associated flow diagram (FIG. 18B); FIG. 19 shows a speech dialog state diagram of a first state of a speech recognition device according to a second exemplary embodiment of the invention;

Figur 20 ein Sprachdialog-Zustandsdiagramm eines zweitenFigure 20 is a speech dialog state diagram of a second

Zustands einer Spracherkennungseinrichtung gemäß dem zweiten Ausführungsbeispiel der Erfindung;State of a speech recognition device according to the second embodiment of the invention;

Figur 21 ein Sprachdialog-Zustandsdiagramm eines dritten Zustands einer Spracherkennungseinrichtung gemäß dem zweiten Ausführungsbeispiel der Erfindung;FIG. 21 shows a speech dialog state diagram of a third state of a speech recognition device according to the second exemplary embodiment of the invention;

Figur 22 ein Telekommunikationsgerät mit einer Spracherkennungseinrichtung gemäß einem Ausführungsbeispiel der Erfindung;FIG. 22 shows a telecommunication device with a speech recognition device according to an embodiment of the invention;

Figur 23 ein Autoradio mit -einer Spracherkennungseinrichtung gemäß einem Ausführungsbeispiel der Erfindung.Figure 23 shows a car radio with a speech recognition device according to an embodiment of the invention.

Fig.l zeigt eine Spracherkennungseinrichtung 100 gemäß einem1 shows a speech recognition device 100 according to a

Ausführungsbeispiel der Erfindung.Embodiment of the invention.

Die Spracherkennungseinrichtung 100 arbeitet je nach Betriebsmodus in einem ersten Betriebsmodus als Spracherkennungseinrichtung, wobei in demDepending on the operating mode, the speech recognition device 100 operates in a first operating mode as a speech recognition device, in which

Spracherkennungsmodus die Spracherkennungseinrichtung eine eingesprochene Äußerung 101, eingesprochen von einem Benutzer (nicht dargestellt) der Spracherkennungseinrichtung 100, erkannt wird unter Verwendung eines Verfahrens zur sprecherunabhängigen Spracherkennung. In einem zweitenSpeech recognition mode, the speech recognition device a spoken utterance 101, spoken by a user (not shown) of the speech recognition device 100, is recognized using a method for speaker-independent speech recognition. In a second

Betriebsmodus, im Weiteren auch bezeichnet als Wörterbuch- Ergänzungsmodus, wird eine eingesprochene Äußerung in eine Folge von lautsprachlichen Einheiten umgewandelt, im Weiteren in eine Folge von Phonemen, und, wie im Folgenden noch näher erläutert wird, möglicherweise dem elektronischen Wörterbuch als Ergänzungseintrag zugeführt und darin gespeichert. In beiden Betriebsmodi wird das von dem Benutzer eingesprochene Sprachsignal 101 einem Mikrofon 102 zugeführt, und als aufgenommenes elektrisches Analogsignal 103 einer Vorverarbeitung, insbesondere einer Vorverstärkung mittels einer Vorverarbeitungseinheit 104, insbesondere mittels eines Vorverstärkers unterzogen und als vorverarbeitetes und verstärktes Analogsignal 105 einem Analog-/Digitalwandler 106 zugeführt, dort in ein digitales Signal 107 umgewandelt und als digitales Signal 107 einem Rechner 108 zugeführt.Operating mode, hereinafter also referred to as dictionary supplement mode, a spoken utterance is converted into a sequence of spoken units, subsequently into a sequence of phonemes, and, as will be explained in more detail below, possibly added to the electronic dictionary as a supplementary entry and therein saved. In both operating modes, the speech signal 101 spoken by the user is fed to a microphone 102 and, as the recorded electrical analog signal 103, is subjected to preprocessing, in particular preamplification by means of a preprocessing unit 104, in particular by means of a preamplifier, and as preprocessed and amplified analog signal 105 to an analog / digital converter 106 supplied, converted there into a digital signal 107 and supplied as a digital signal 107 to a computer 108.

Es ist in diesem Zusammenhang anzumerken, dass das Mikrofon 102, die Vorverarbeitungseinheit 104, insbesondere die Verstärkungseinheit, und der Analog-/Digitalwandler 106 als separate Einheiten oder auch als in dem Rechner 108 integrierte Einheiten realisiert sein können.In this context, it should be noted that the microphone 102, the preprocessing unit 104, in particular the amplification unit, and the analog / digital converter 106 can be implemented as separate units or else as units integrated in the computer 108.

Gemäß diesem Ausführungsbeispiel ist es vorgesehen, dass das digitalisierte Signal 107 dem Rechner 108 über dessen Eingangsschnittstelle 109 zugeführt wird.According to this exemplary embodiment, it is provided that the digitized signal 107 is fed to the computer 108 via its input interface 109.

Der Rechner 108 weist ferner einen Mikroprozessor 110, einen Speicher 111 sowie eine Ausgangsschnittstelle 112 auf, welche alle miteinander mittels eines Computerbus 113 gekoppelt sind.The computer 108 also has a microprocessor 110, a memory 111 and an output interface 112, all of which are coupled to one another by means of a computer bus 113.

Mittels des Mikroprozessors 110 werden die im Weiteren beschriebenen Verfahrensschritte, insbesondere die Verfahren zur Ergänzung des elektronischen Wörterbuches und der jeweils bereitgestellte Sprachdialog durchgeführt . Ein elektronisches Wörterbuch 114, welches die Einträge enthält, die im Rahmen der Spracherkennung als Referenzworte enthalten, ist in dem Speicher 111 gespeichert.The method steps described below, in particular the methods for supplementing the electronic dictionary and the respectively provided speech dialogue, are carried out by means of the microprocessor 110. An electronic dictionary 114, which contains the entries which contain speech words as reference words, is stored in the memory 111.

Ferner ist ein ebenfalls mit dem Computerbus 113 gekoppelter digitaler Signalprozessor (DSP) 123 vorgesehen, der einen speziell auf die verwendeten sprecherunabhängigen Spracherkennungsalgorithmen hin spezialisierter MikroController aufweist.Furthermore, a digital signal processor (DSP) 123, which is also coupled to the computer bus 113, is provided, which is specific to the speaker-independent used Has speech recognition algorithms specialized microcontrollers.

In dem digitalen Signalprozessor 123 ist ferner ein Computerprogramm gespeichert, welches eingerichtet ist- zur sprecherunabhängigen Spracherkennung. Alternativ können die verwendeten Algorithmen in hartverdrahteter Logik, das heißt unmittelbar selbst in Hardware, realisiert sein.A computer program, which is set up for speaker-independent speech recognition, is also stored in the digital signal processor 123. Alternatively, the algorithms used can be implemented in hard-wired logic, that is, directly in hardware.

Ferner ist der Rechner 108 mittels der Eingangsschnittstelle 109 mit einer Tastatur 115 sowie einer Computermaus 116 über elektrische Leitungen 117, 118 oder eine Funkverbindung, beispielsweise eine Infrarot-Verbindung oder eine Bluetooth- Verbindung gekoppelt .Furthermore, the computer 108 is coupled by means of the input interface 109 to a keyboard 115 and a computer mouse 116 via electrical lines 117, 118 or a radio connection, for example an infrared connection or a Bluetooth connection.

Über zusätzliche Kabel oder Funkverbindungen, beispielsweise eine Infrarot-Verbindung oder eine Bluetooth-Verbindung 119, 120 ist der Rechner 108 mittels der Ausgangsschnittstelle 114 mit einem Lautsprecher 121 sowie einem Aktor 122 gekoppelt.Via additional cables or radio connections, for example an infrared connection or a Bluetooth connection 119, 120, the computer 108 is coupled to a loudspeaker 121 and an actuator 122 by means of the output interface 114.

Der Aktor 122 repräsentiert in Fig.l allgemein jeden möglichen Aktor im Rahmen der Steuerung eines technischen Systems, beispielsweise realisiert in Form eines Hardwareschalters oder in Form eines Computerprogramms für den Fall, dass beispielsweise ein Telekommunikationsgerät oder ein anderes technisches System, beispielsweise ein Autoradio, eine Stereoanlage, ein Videorecorder, ein Fernseher, der Computer selbst oder irgendeine andere technische Anlage gesteuert werden soll.Actuator 122 generally represents every possible actuator in the context of the control of a technical system in FIG. 1, for example implemented in the form of a hardware switch or in the form of a computer program in the event that, for example, a telecommunication device or another technical system, for example a car radio Stereo system, a video recorder, a television, the computer itself or any other technical system to be controlled.

Gemäß dem Ausführungsbeispiel der Erfindung weist die Vorverarbeitungseinheit 104 eine Filterbank mit einer Mehrzahl von Bandpässen auf, welche die Energie des eingegebenen Sprachsignals 103 in einzelnen Frequenzbändern messen. Mittels der Filterbank werden so genannteAccording to the exemplary embodiment of the invention, the preprocessing unit 104 has a filter bank with a plurality of bandpasses, which measure the energy of the input speech signal 103 in individual frequency bands. So-called

Kurzzeitspektren gebildet, indem die Ausgangssignale der Bandpässe gleichgerichtet, geglättet und in kurzen Abständen abgetastet werden, gemäß dem Ausführungsbeispiel alle 10 msec. Die so genannten Cepstrum-Koeffizienten von zwei aufeinander folgenden Zeitfenstern sowie deren zeitliche erste Ableitung sowie deren zeitliche zweite Ableitung werden ermittelt und zu jeweils einem Super-Merkmalsvektor zusammengefasst und dem Rechner 108 zugeführt.Short-term spectra are formed by rectifying the output signals of the bandpasses, smoothing them and at short intervals are sampled, according to the exemplary embodiment, every 10 msec. The so-called cepstrum coefficients of two successive time windows as well as their temporal first derivation and their temporal second derivative are determined and combined to form a super feature vector and fed to the computer 108.

In dem Rechner 108 ist, wie oben beschrieben, in Form eines Computerprogramms eine Spracherkennungseinheit, wobei die Spracherkennung auf dem Prinzip der Hidden Markov Modelle basiert, zur sprecherunabhängigen Spracherkennung realisiert, gemäß dem Ausführungsbeispiel in dem DSP 123.In the computer 108, as described above, a speech recognition unit for speech-independent speech recognition is implemented in the form of a computer program, the speech recognition based on the principle of the Hidden Markov models, according to the exemplary embodiment in the DSP 123.

In einem Basis-Wortschatz, der zu Beginn des Verfahrens in einem elektronischen Wörterbuch 114 gespeichert ist, ist zu jeweils einem Basis-Eintrag ein Hidden Markov Modell gespeichert, das jeweils auf folgende Weise unter Verwendung eines Trainings-Datensatzes, das heißt einer Menge von Trainings-Sprachsignalen, eingesprochen von einem oder mehreren Trainings-Nutzern, ermittelt wird.In a basic vocabulary, which is stored in an electronic dictionary 114 at the beginning of the method, a hidden Markov model is stored for each basic entry, each in the following manner using a training data record, that is to say a set of training courses Voice signals, spoken by one or more training users, is determined.

Das Training der Hidden Markov Modelle erfolgt gemäß diesem Ausführungsbeispiel in drei Phasen:According to this exemplary embodiment, the training of the Hidden Markov models takes place in three phases:

• einer erste Phase, in der die in der Trainings-Datenbank enthaltenen Sprachsignale segmentiert werden,A first phase in which the speech signals contained in the training database are segmented,

• einer zweiten Phase, in der die LDA-Matrix (lineare Diskriminanzanalyse-Matrix) berechnet wird sowie• a second phase in which the LDA matrix (linear discriminant analysis matrix) is calculated and

• einer dritten Phase, in der das Codebuch, das heißt die HMM-Prototypen-Merkmalsvektoren für jeweils eine in einem Auswahlschritt ausgewählte Anzahl von Merkmalsvektor-Komponenten berechnet werden.A third phase, in which the code book, ie the HMM prototype feature vectors, is calculated for a number of feature vector components selected in a selection step.

Die Gesamtheit dieser drei Phasen wird im Weiteren als das Training der Hidden Markov Modelle bezeichnet (HMM-Training) .The entirety of these three phases is referred to below as the training of the Hidden Markov models (HMM training).

Das HMM-Training wird unter Verwendung des DSPs 123 sowie unter Verwendung von vorgegebenen Trainingskripts, anschaulich von geeignet eingerichteten Computerprogrammen, durchgeführt .The HMM training is carried out using the DSP 123 as well as using predetermined training scripts, vividly carried out by suitably equipped computer programs.

Gemäß diesem Ausführungsbeispiel wird jede gebildete lautsprachliche Einheit, das heißt jedes Phonem, in drei aufeinander folgende Phonemsegmente aufgeteilt, entsprechend einer Initial-Phase (erstes Phonemsegment) , einer zentralen Phase (zweites Phonemsegment) und einer Endphase (drittes Phonemsegment) eines Lauts, das heißt eines Phonems.According to this exemplary embodiment, each phonetic unit formed, that is to say each phoneme, is divided into three successive phoneme segments, corresponding to an initial phase (first phoneme segment), a central phase (second phoneme segment) and an end phase (third phoneme segment) of a sound, that is to say of a phoneme.

Anders ausgedrückt wird jeder Laut in einem Lautmodell mit drei Zuständen, das heißt mit einem Drei-Zustands-HMM modelliert .In other words, each sound is modeled in a three-state sound model, that is, with a three-state HMM.

Während der Spracherkennung werden die drei Phonemsegmente in einer Bakis-Topologie oder allgemein einer Links-Rechts- Topologie aneinander gereiht und auf die Konkatenation dieser drei aneinander gereihten Segmente wird die Berechnung im Rahmen der sprecherunabhängigen Spracherkennung durchgeführt .During speech recognition, the three phoneme segments are lined up in a Bakis topology or generally a left-right topology and the concatenation of these three lined up segments is carried out as part of the speaker-independent speech recognition.

Wie im Weiteren noch näher erläutert wird, wird in dem Spracherkennungsmodus ein Viterbi-Algorithmus zum Dekodieren der Merkmalsvektoren, welche aus dem eingegebenen Sprachsignal 101 gebildet werden, durchgeführt.As will be explained in more detail below, a Viterbi algorithm for decoding the feature vectors which are formed from the input speech signal 101 is carried out in the speech recognition mode.

Nach erfolgter Segmentierung wird die LDA-Matrix 304 (Schritt 403) mittels einer LDA-Matrix-Berechnungseinheit 303 ermittelt .After segmentation has taken place, the LDA matrix 304 (step 403) is determined by means of an LDA matrix calculation unit 303.

Die LDA-Matrix dient zur Transformation eines jeweiligen Super-Merkmalsvektors y auf einen Merkmalsvektor x gemäß folgender Vorschrift:The LDA matrix is used to transform a respective super feature vector y to a feature vector x according to the following rule:

x = AT • ( - y), (i) x = A T • (- y), ( i )

wobei mit x ein Merkmalsvektor, A eine LDA-Matrix, y ein Super-Merkmalsvektor,being with x a feature vector, A an LDA matrix, y a super feature vector,

• y ein globaler Verschiebungsvektor• y a global displacement vector

bezeichnet wird.referred to as.

Die LDA-Matrix A wird derart bestimmt, dassThe LDA matrix A is determined in such a way that

• die Komponenten des Merkmalsvektors x im statistischen Durchschnitt voneinander im Wesentlichen unkorreliert sind,The components of the feature vector x are essentially uncorrelated from one another on a statistical average,

• die statistischen Varianzen innerhalb einer Segmentklasse im statistischen Durchschnitt normalisiert sind, • die Zentren der Segmentklassen im statistischen Durchschnitt einen maximalen Abstand voneinander aufweisen und• the statistical variances within a segment class are normalized in the statistical average, • the centers of the segment classes are at a maximum distance from one another in the statistical average and

• die Dimension der Merkmalsvektoren x möglichst, vorzugsweise Spracherkennungsanwendungs-abhängig, reduziert wird.• The dimension of the feature vectors x is reduced as much as possible, preferably depending on the speech recognition application.

Im Folgenden wird das Verfahren zum Bestimmen der LDA-Matrix A gemäß diesen Ausführungsbeispielen erläutert.The method for determining the LDA matrix A according to these exemplary embodiments is explained below.

Es ist jedoch anzumerken, dass alternativ alle bekanntenHowever, it should be noted that alternatively all known ones

Verfahren zum Bestimmen einer LDA-Matrix A ohne Einschränkung eingesetzt werden kann.Methods for determining an LDA matrix A can be used without restriction.

Es wird angenommen, dass J Segmentklassen existieren, wobei jede Segmentklasse j einen Satz Dy-dimensionaler Super-It is assumed that J segment classes exist, with each segment class j having a set of Dy-dimensional super

Merkmalsvektoren y enthält, das heißt, dass gilt:Contains feature vectors y, that is to say:

Klasse j = (2)

Figure imgf000022_0001
wobei mit Nj die Anzahl der in der Klasse j sich befindenden Super-Merkmalsvektoren yj bezeichnet wird.Class j = (2)
Figure imgf000022_0001
where Nj is the number of super feature vectors yj in class j.

MitWith

J N = ∑Nj (3) j=lJ N = ∑Nj (3) j = l

wird die Gesamtzahl der Super-Merkmalsvektoren y bezeichnet.is the total number of super feature vectors y.

Es ist anzumerken, dass die Super-Merkmalsvektoren yv unterNote that the super feature vectors yv are below

Verwendung der oben beschriebenen Segmentierung der Sprachsignal-Datenbank ermittelt worden sind.Using the segmentation of the speech signal database described above have been determined.

Gemäß diesem Ausführungsbeispiel weist jeder Super- Merkmalsvektor yv eine Dimension Dy vonAccording to this exemplary embodiment, each super feature vector yv has a dimension Dy of

Dy = 78 (= 2 • 3 • 13)D y = 78 (= 2 • 3 • 13)

auf, wobei 13 MFCC-Koeffizienten (Cepstrums-Koeffizienten) in dem Super-Merkmalsvektor yv enthalten sind, sowie deren jeweilige zeitliche erste Ableitung und deren jeweilige zeitliche zweite Ableitung (dies begründet obigen Faktor 3) ., where 13 MFCC coefficients (cepstrums coefficients) are contained in the super feature vector yv, as well as their respective temporal first derivative and their respective temporal second derivative (this justifies factor 3 above).

Ferner sind in jedem Super-Merkmalsvektor y* jeweils die Komponenten zweier zeitlich unmittelbar aufeinanderfolgender Zeitfenster im Rahmen der Kurzzeitanalyse enthalten (dies begründet obigen Faktor 2) .In addition, each super feature vector y * contains the components of two time windows immediately following one another in the context of the short-term analysis (this justifies factor 2 above).

Es ist in diesem Zusammenhang anzumerken, dass grundsätzlich eine beliebige, an die jeweilige Anwendung angepasste Zahl von Vektorkomponenten in dem Super-Merkmalsvektor yv enthalten sein kann, beispielsweise bis zu 20 Cepstrums- Koeffizienten und deren zugehörigen zeitlichen erste Ableitungen und zweite Ableitungen.It should be noted in this connection that in principle any number of vector components adapted to the respective application can be contained in the super feature vector yv, for example up to 20 cepstrums. Coefficients and their associated temporal first derivatives and second derivatives.

Der statistische Mittelwert oder anders ausgedrückt das Zentrum der Klasse j ergibt sich gemäß folgender Vorschrift :The statistical mean or, in other words, the center of class j results from the following rule:

Figure imgf000024_0001
Figure imgf000024_0001

Die Kovarianzmatrix ΣJ der Klasse j ergibt sich gemäß folgender Vorschrift :The covariance matrix ΣJ of class j results according to the following rule:

Figure imgf000024_0002
Figure imgf000024_0002

Die Durchschnitts-Intra-Streumatrix S ist definiert als:The average intra-scattering matrix S is defined as:

J S w = ∑ (l)-∑j' (6) j=lJ S w = ∑ (l) -∑j ' ( 6 ) j = l

mitWith

p(τ) = -J-, (7)p (τ) = -J-, (7)

NN

wobei p(j) als Gewichtungsfaktor der Klasse j bezeichnet wird.where p (j) is called the weighting factor of class j.

In analoger Weise ist die Durchschnitts-Inter-Streumatrix Sjb definiert als:In an analogous manner, the average inter-scattering matrix Sj b is defined as:

J ib - Σ P IÖ) fe [Ϊm - ϊϊ)) ■■ ( [ϊΫj, - ff (8) j=l mitJ ib - Σ P IÖ) fe [Ϊm - ϊϊ)) ■■ ([ϊΫj, - ff (8) j = l With

Figure imgf000025_0001
Figure imgf000025_0001

als dem Durchschnitts-Super-Merkmalsvektor über alle Klassen.as the average super feature vector across all classes.

Die LDA-Matrix A wird zerlegt gemäß folgender Vorschrift:The LDA matrix A is broken down according to the following rule:

A = U • W • V, (10)A = U • W • V, (10)

wobei mitbeing with

• U eine erste Transformationsmatrix,U a first transformation matrix,

• W eine zweite Transformationsmatrix und • V eine dritte Transformationsmatrix• W is a second transformation matrix and • V is a third transformation matrix

bezeichnet wird.referred to as.

Die erste Transformationsmatrix U wird verwendet, um die Durchschnitts-Intra-Streumatrix Sw zu diagonalisieren und wird ermittelt, indem die positiv definite und symmetrische Durchschnitts-Intra-Streumatrix Sw in ihren Eigenvektorraum transformiert wird. In ihrem Eigenvektorräum ist die Durchschnitts-Intra-Streumatrix Sw eine Diagonal-Matrix, deren Komponenten positiv und größer oder gleich null sind. Die Komponenten, deren Werte größer null sind, entsprechen der Durchschnitts-Varianz in der jeweiligen durch die entsprechende Vektorkomponente definierten Dimension.The first transformation matrix U is used to diagonalize the average intra-scatter matrix S w and is determined by transforming the positively definite and symmetrical average intra-scatter matrix S w into its eigenvector space. In its eigenvector space, the average intra-scattering matrix S w is a diagonal matrix, the components of which are positive and greater than or equal to zero. The components whose values are greater than zero correspond to the average variance in the respective dimension defined by the corresponding vector component.

Die zweite Transformationsmatrix W wird zum Normalisieren der Durchschnitts-Varianzen verwendet und wird ermittelt gemäß folgender Vorschrift:The second transformation matrix W is used to normalize the average variances and is determined according to the following rule:

Figure imgf000025_0002
Die Transformation U-W wird auch als Weißung bezeichnet.
Figure imgf000025_0002
The transformation UW is also called whitening.

MitWith

B = U • W (12)B = U • W (12)

ergibt sich für die Matrix Bτ • S_w • B die Einheitsmatrix, welche bei j eder beliebigen orthonormalen Lineartransformation unverändert bleibt .the matrix B τ • S_ w • B results in the unit matrix, which remains unchanged for any orthonormal linear transformation.

Um die Durchschnitts-Inter-Streumatrix Sfr zu diagonalisieren wird die dritte Transformationsmatrix V, die gebildet wird gemäß folgender Vorschrift :In order to diagonalize the average inter-scattering matrix S f r, the third transformation matrix V is formed, which is formed according to the following rule:

Figure imgf000026_0001
Figure imgf000026_0001

wobei B • S_k B ebenfalls eine positiv defimte und symmetrische Matrix darstellt, in ihren Eigenvektorraum transformiert wird.where B • S_k B also represents a positively defined and symmetrical matrix that is transformed into its eigenvector space.

In dem TransformationsraumIn the transformation space

x = AT • ^ - y) (14)x = A T • ^ - y) (14)

ergeben sich somit folgende Matrizen:the following matrices result:

Eine diagonalisierte Durchschnitts-Intra-Streumatrix Sw:A diagonalized average intra-scattering matrix S w :

Sw = diag(l)d: =1...D (15)S w = diag (l) d: = 1 ... D (15)

VV

und eine diagonalisierte Durchschnitts-Inter-Streumatrix S_b:and a diagonalized average inter-scattering matrix S_b:

S3bh == ddiiaagg((σσ||))d=1 „ , (16) wobei mit diag(ccj)j_1 D eine Dy x Dy Diagonalmatrix mit denS3 bh == ddiiaagg ((σσ ||)) d = 1 „, (16) where with diag (c c j) j_ 1 D a Dy x Dy diagonal matrix with the

Komponenten c^ in der Zeile/Spalte d und sonst mit Komponenten mit dem Wert Null, bezeichnet wird.Components c ^ in the row / column d and otherwise with components with the value zero.

Die Werte

Figure imgf000027_0001
sind die Eigenwerte der Durchschnitts-Inter-The values
Figure imgf000027_0001
are the eigenvalues of the average inter

Streumatrix Sjb und stellen ein Maß für die so genannte Pseudoentropie der Merkmalsvektor-Komponenten dar, welche im Folgenden auch als Informationsgehalt der Merkmalsvektor- Komponenten bezeichnet wird. Es ist anzumerken, dass die Spur jeder Matrix invariant ist bezüglich irgendeinerScattering matrix Sj b and represent a measure for the so-called pseudo-entropy of the feature vector components, which is also referred to below as the information content of the feature vector components. Note that the trace of each matrix is invariant with respect to any one

Orthogonaltransformation, womit sich ergibt, dass die SummeOrthogonal transformation, which results in the sum

Dy σ2 = ∑σ^ (17) . d=lDy σ 2 = ∑σ ^ (17). d = l

die Gesamt-Durchschnitts-Varianz des Durchschnitts-Vektors XJ der J Klassen darstellt.represents the total average variance of the average vector XJ of the J classes.

Es ergibt sich somit eine ermittelte Anhängigkeit der Pseudoentropie der Merkmalsvektoren von den jeweils in dem Merkmalsvektor enthaltenen bzw. berücksichtigten Merkmalsvektor-Komponenten.This results in a determined dependency of the pseudo-entropy of the feature vectors on the feature vector components contained or taken into account in the feature vector.

Gemäß diesem Ausführungsbeispiel wird anschließend eine Dimensionsreduktion vorgenommen, indem die σ^ -Werte in in ihrer Größe abfallender Reihenfolge sortiert werden und die σ^ -Werte weggelassen werden, das heißt unberücksichtigt bleiben, die kleiner sind als ein vorgegebener Schwellwert. Der vorgegebene Schwellwert kann ferner kumulativ definiert sein.In accordance with this exemplary embodiment, a dimension reduction is then carried out by sorting the σ ^ values in order of decreasing size and omitting the σ ^ values, that is to say disregarding them that are smaller than a predetermined threshold value. The predetermined threshold value can also be defined cumulatively.

Dann kann die LDA-Matrix A angepasst werden, indem die Zeilen entsprechend den Eigenwerten σ^ sortiert werden die Zeilen weggelassen werden, die zu den ausreichend „kleinen" Varianzen gehören und damit nur einen geringen Informationsgehalt (geringe Pseudoentropie) aufweisen.Then the LDA matrix A can be adjusted by sorting the rows according to the eigenvalues σ ^ the rows that are sufficient to be omitted Belong to "small" variances and thus have only a low information content (low pseudo-entropy).

Gemäß diesem Ausführungsbeispiel werden die Komponenten mitAccording to this embodiment, the components with

2 den 24 größten Eigenwerten σ^ verwendet, anders ausgedrückt2 uses the 24 largest eigenvalues σ ^ , in other words

D 'x 24.D 'x 24.

Die vier oben beschriebenen Teilschritte zum Ermitteln der LDA-Matrix A 304 (Schritt 403) sind in folgender Tabelle zusammengefasst :The four sub-steps described above for determining the LDA matrix A 304 (step 403) are summarized in the following table:

Figure imgf000028_0001
Figure imgf000028_0001

Figure imgf000029_0001
Figure imgf000029_0001

Das letzte Verfahren zum Teil-Verfahren im Rahmen des Trainings der Hidden Markov Modelle ist das Clustern der Merkmalsvektoren, welches mittels einer Clustereinheit durchgeführt wird und welches als Ergebnis ein jeweiligesThe last method for the partial method in the course of training the Hidden Markov models is the clustering of the feature vectors, which is carried out by means of a cluster unit and which results as a result

Codebuch hat, jeweils spezifisch für einen Trainingsdatensatz mit einer vorgegebenen Anzahl von Merkmalsvektor-Komponenten.Codebook has, in each case specifically for a training data record with a predetermined number of feature vector components.

Die Gesamtheit der Repräsentanten der Segmentklassen wird als Codebuch bezeichnet und die Repräsentanten selbst werden auch als Prototypen der Phonemsegmentklasse bezeichnet.The entirety of the representatives of the segment classes is referred to as a code book and the representatives themselves are also referred to as prototypes of the phoneme segment class.

Die Prototypen, im Weiteren auch als Prototyp- Merkmalsvektoren bezeichnet, werden gemäß dem in [1] beschriebenen Baum-Welch-Training ermittelt.The prototypes, hereinafter also referred to as prototype feature vectors, are determined in accordance with the Baum-Welch training described in [1].

Auf die oben beschriebene Weise wurden die Basiseinträge des elektronischen Wörterbuches, das heißt die Basiseinträge zur sprecherunabhängigen Spracherkennung erstellt und gespeichert und die entsprechenden Hidden Markov Modelle trainiert.The basic entries of the electronic dictionary, that is to say the basic entries for speaker-independent speech recognition, were created and stored in the manner described above and the corresponding hidden Markov models were trained.

Somit existiert für jeden Basiseintrag jeweils ein Hidden Markov Modell .There is therefore a Hidden Markov model for each basic entry.

Das elektronische Wörterbuch mit den Basiseinträgen 201 ist in Fig.2 mit dem Bezugszeichen 200 bezeichnet.The electronic dictionary with the basic entries 201 is designated by the reference symbol 200 in FIG.

Wie im Folgenden noch näher erläutert wird, wird für eine oder mehrere Äußerungen, die von einem Benutzer eingesprochen werden, und welche in ihrer Gesamtheit anschaulich als ein sprecherabhängiges Wörterbuch 202 in Fig.2 bezeichnet sind, jeweils eine Folge 203 von Phonemen ermittelt und als eine solche Folge 203 von Phonemen als ein neuer Eintrag in dem gemeinsamen elektronische Wörterbuch 204, welches nunmehr die Basiseinträge 201 sowie die neuen Einträge 203 in Form von Phonemketten enthält, gespeichert.As will be explained in more detail below, for one or more utterances that are spoken by a user and which in their entirety are clearly referred to as a speaker-dependent dictionary 202 in FIG. 2, each determined a sequence 203 of phonemes and saved as such a sequence 203 of phonemes as a new entry in the common electronic dictionary 204, which now contains the basic entries 201 and the new entries 203 in the form of phoneme chains.

Anschaulich enthält das neue elektronische Wörterbuch 204 somit die Basiseinträge 201 als auch die in Phonemketten umgewandelten sprachlichen Äußerungen, das heißt die ursprünglich sprecherabhängigen Einträge, welche aufgrund der Umwandlung in Phonemketten als sprecherunabhängige Repräsentanten neuer Einträge angesehen werden können.The new electronic dictionary 204 thus clearly contains the basic entries 201 as well as the linguistic utterances converted into phoneme chains, that is to say the originally speaker-dependent entries, which can be regarded as speaker-independent representatives of new entries due to the conversion into phoneme chains.

Auf diese Weise wird eine sprecherunabhängige Spracherkennung auf der Basis des gemeinsamen elektronischen Wörterbuches 204 ermöglicht .In this way, speaker-independent speech recognition is made possible on the basis of the common electronic dictionary 204.

Das gemeinsame elektronische Wörterbuch 204 bildet somit den Suchraum für die Viterbi-Suche im Rahmen der sprecherunabhängigen Spracherkennung.The common electronic dictionary 204 thus forms the search space for the Viterbi search in the context of speaker-independent speech recognition.

Anschaulich werden die Äußerungen eines Benutzers auf eine Folge von Phonemen abgebildet und es wird ein Phonem- Wörterbuch 202 gebildet, welches die Folgen von Phonemen (Phonemketten) enthält.The expressions of a user are clearly mapped to a sequence of phonemes and a phoneme dictionary 202 is formed which contains the sequences of phonemes (phoneme chains).

Somit werden für den an sich sprecherabhängigen Teil im Rahmen der sprecherunabhängigen Spracherkennung keine Kommandos oder Wörter erkannt, sondern Phonemketten.Thus, no commands or words are recognized for the speaker-dependent part as part of speaker-independent speech recognition, but rather phoneme chains.

Diese Phonemketten werden in dem neuen elektronischen Wörterbuch 204 gespeichert.These phoneme strings are stored in the new electronic dictionary 204.

Die Ergänzung des elektronischen Wörterbuches 200 um die benutzerdefinierten Einträge, das heißt um die Phonemketten wird, wie im Folgenden noch näher erläutert wird, insbesondere ermöglicht durch ein Dateimanagement in dem Rechner 108, mittels dessen die Speicherung der sprecherabhängigen Listeneinträge und der Basiseinträge in dem sprecherunabhängigen Wörterbuch 200 und die Kommunikation mit der Spracherkennungsanwendung realisiert und verwaltet wird.The addition of the user-defined entries to the electronic dictionary 200, that is to say the phoneme chains, is made possible in particular by file management in the, as will be explained in more detail below Computer 108, by means of which the storage of the speaker-dependent list entries and the basic entries in the speaker-independent dictionary 200 and the communication with the speech recognition application is implemented and managed.

Gemäß diesem Ausführungsbeispiel ist der Mikroprozessor 110 der Controller SDA 80D51U-A der Firma Infineon Technologies AG und das Verfahren zum Bilden von Hidden Markov Modellen basiert auf der Software und einem Digitalen Signalprozessor (DSP) der Firma Oak.According to this exemplary embodiment, the microprocessor 110 is the controller SDA 80D51U-A from Infineon Technologies AG and the method for forming hidden Markov models is based on the software and a digital signal processor (DSP) from Oak.

Zur Kommunikation zwischen dem Mikroprozessor 110 und dem DSP 123 der Firma Oak werden elektronische Nachrichten verwendet, um vorgegebene Ereignisse und Aktionen in dem Mikroprozessor 110 bzw. dem DSP 123 auszulösen.Electronic messages are used for communication between the microprocessor 110 and the DSP 123 from Oak in order to trigger predetermined events and actions in the microprocessor 110 or the DSP 123.

Gemäß diesem Ausführungsbeispiel der Erfindung sind folgende Nachrichten für unterschiedliche Spracherkenner-Zustände, im Weiteren auch als HMM-Zustände bezeichnet, vorgesehen:According to this exemplary embodiment of the invention, the following messages are provided for different speech recognition states, hereinafter also referred to as HMM states:

Zunächst werden die im Rahmen des Spracherkenners zulässigen Spracherkenner-Zustände erläutert .First, the speech recognition states permitted within the speech recognizer are explained.

Wie Fig.3 zu entnehmen ist, weist der Spracherkenner folgende vier HMM-Spracherkenner-Zustände auf:As can be seen in FIG. 3, the speech recognizer has the following four HMM speech recognition states:

• einen Initialisierungszustand INIT 301,An initialization state INIT 301,

• einen Stopp-Zustand STOP 302,A stop state STOP 302,

• einen Pause-Zustand PAUSE 303 und • einen Betriebsmodus-Zustand RUN 304.A pause state PAUSE 303 and an operating mode state RUN 304.

Wie dem Zustandsübergangs-Diagramm 300 in Fig.3 zu entnehmen ist, sind folgende Zustandsübergänge vorgesehen.As can be seen from the state transition diagram 300 in FIG. 3, the following state transitions are provided.

Von dem Initialisierungszustand INIT 301 kann in den Stopp- Zustand STOP 302 übergegangen werden, was automatisch passiert, wenn alle Datenbanken geladen sind (Schritt 305) . Ein anderer Übergang aus dem Initialisierungszustand INIT 301 in einen der anderen Zustände PAUSE, RUN 303, 304 ist nicht vorgesehen.The initialization state INIT 301 can be changed to the stop state STOP 302, which happens automatically when all databases are loaded (step 305). Another transition from the initialization state INIT 301 to one of the other states PAUSE, RUN 303, 304 is not provided.

Aus dem Stopp-Zustand STOP 302 kann in denFrom the stop state STOP 302 can in the

Initialisierungszustand INIT 301 übergegangen werden, wenn die geladenen Datenbanken inkonsistent sind (Schritt 306) , in welchem Fall die Nachricht InitHM SRDefault von dem DSP 123 an den Mikroprozessor 110 übermittelt wird.Initialization state INIT 301 are passed if the loaded databases are inconsistent (step 306), in which case the InitHM SRDefault message is transmitted from the DSP 123 to the microprocessor 110.

Wird von dem Spracherkenner, das heißt dem DSP 123, das Kommando „PAUSE" in Form der Nachricht PauseHMMSR von dem Mikroprozessor 110 erhalten, so geht der DSP 123 in den Pausen-Zustand PAUSE 303 über (Schritt 307) .If the "PAUSE" command in the form of the PauseHMMSR message is received by the microprocessor 110 from the speech recognizer, that is to say the DSP 123, the DSP 123 changes to the pause state PAUSE 303 (step 307).

Nach Erhalt des Kommandos „RUN" in Form der Nachricht StartHMMSR von dem Mikroprozessor 110 geht der DSP 123 in den Betriebsmodus-Zustand RUN 304 über (Schritt 308) .After receiving the "RUN" command in the form of the StartHMMSR message from the microprocessor 110, the DSP 123 changes to the RUN 304 operating mode state (step 308).

Aus dem Pause-Zustand PAUSE 303 kann in den Initialisierungszustand INIT 301 übergegangen werden (Schritt 309) , wenn die Datenbanken inkonsistent sind. Dies erfolgt in dem Fall, wenn der DSP 123 die Nachricht InitHMMSRDefault von dem Mikroprozessor 110 empfängt.The pause state PAUSE 303 can be changed to the initialization state INIT 301 (step 309) if the databases are inconsistent. This occurs in the case when the DSP 123 receives the InitHMMSRDefault message from the microprocessor 110.

Nach Erhalt des Kommandos „STOPP" in Form der Nachricht StopHMMSR von dem Mikroprozessor 110 geht der DSP 123 in den Stopp-Zustand STOP 302 über (Schritt 310) .After receiving the "STOP" command in the form of the StopHMMSR message from the microprocessor 110, the DSP 123 changes to the STOP state STOP 302 (step 310).

Nach Erhalt des Kommandos „RUN" in Form der Nachricht StartHMMSR von dem Mikroprozessor 110 geht der DSP 123 aus dem Pausen-Zustand PAUSE 303 in den Betriebsmodus-Zustand 304 über (Schritt 311) .After receiving the "RUN" command in the form of the StartHMMSR message from the microprocessor 110, the DSP 123 changes from the pause state PAUSE 303 to the operating mode state 304 (step 311).

Schließlich kann die Spracherkennungseinheit aus dem Betriebsmodus-Zustand RUN 304 in den Initialisierungszustand INIT 301 zurückkehren, wenn die Datenbanken inkonsistent sind (Schritt 312) . Dies geschieht, wenn der DSP 123 von dem Mikroprozessor 110 die Nachricht InitHMMSRDefault empfängt.Finally, the speech recognition unit can go from the RUN 304 operating mode state to the initialization state INIT 301 return if the databases are inconsistent (step 312). This happens when the DSP 123 receives the InitHMMSRDefault message from the microprocessor 110.

Nach Erhalt des Kommandos „STOPP" in Form der Nachricht StopHMMSR von dem Mikroprozessor 110 kehrt die Spracherkennungseinheit, anders ausgedrückt der DSP 123, aus dem Betriebsmodus-Zustand RUN 304 in den Stopp-Zustand STOP 302 zurück (Schritt 313) .After receiving the "STOP" command in the form of the StopHMMSR message from the microprocessor 110, the speech recognition unit, in other words the DSP 123, returns from the RUN 304 operating mode state to the STOP 302 stop state (step 313).

Schließlich ist vorgesehen, dass die Spracherkennungseinheit aus dem Betriebsmodus-Zustand RUN 304 in den Pause-Zustand PAUSE 303 übergeht nach Empfangen des Kommandos „PAUSE" (Schritt 314) . Dies geschieht, wenn der DSP 123 von dem Mikroprozessor 110 die Nachricht PauseHMMSR empf ngt.Finally, it is provided that the speech recognition unit changes from the operating mode state RUN 304 to the pause state PAUSE 303 after receiving the command "PAUSE" (step 314). This happens when the DSP 123 receives the message PauseHMMSR from the microprocessor 110 ,

Zusammenfassend sind zur Kommunikation zwischen dem Mikroprozessor 110 und dem Oak DSP 123 folgende Nachrichten vorgesehen:In summary, the following messages are provided for communication between the microprocessor 110 and the Oak DSP 123:

In dem Initialisierungszustand INIT 301 , in dem der Spracherkenner mit Default -Werten nach der Aktivierung initialisiert wird, sind folgende Nachrichten, die an den Oak DSP 123 oder von dem Oak DSP 123 gesendet werden können, definiert :In the initialization state INIT 301, in which the speech recognizer is initialized with default values after activation, the following messages are defined which can be sent to the Oak DSP 123 or from the Oak DSP 123:

• InitHMMSRDef ult :InitHMMSRDef ult:

Mit dieser Nachricht wird das Setzen von Default-Werten für den Spracherkenner in der Oak Software in dem DSP 123 initialisiert, • InitHMMSRPara s :This message initiates the setting of default values for the speech recognizer in the Oak software in the DSP 123, • InitHMMSRPara s:

Mit dieser Nachricht wird das Laden der Spracherkenner- Parameter in den Oak DSP 123 initialisiert,This message initiates the loading of the speech recognition parameters into the Oak DSP 123,

• StartLoadHMMLDA:• StartLoadHMMLDA:

Mit dieser Nachricht wird das Laden des Programms zum Ermitteln der LDA-Matrix gestartet,This message starts loading the program to determine the LDA matrix,

• StartLoadHMMDictionary:• StartLoadHMMDictionary:

Mit dieser Nachricht wird das Laden eines elektronischen Wörterbuches abhängig von dem jeweiligen Zustand bzw. dem jeweiligen Sprachdialog, gestartet, CodebookBlockLoadedAndSwitched :With this message is loading an electronic Dictionary depending on the respective state or the respective speech dialog, started, CodebookBlockLoadedAndSwitched:

Mit dieser Nachricht wird der Oak Software in dem DSP 123 mitgeteilt, dass der Switched Memory Block (SMB) , gemäß diesem Ausführungsbeispiel der Größe 16 KByte, für die Oak Software zugänglich ist, da nunmehr die gesamte Anzahl von Blöcken und Segmenten, die in der Anwendung von dem Spracherkenner berücksichtigt werden, in dem Mikroprozessor 110 bekannt sind.With this message, the Oak Software is informed in the DSP 123 that the Switched Memory Block (SMB), according to this embodiment of 16 KByte size, is accessible to the Oak Software, since the total number of blocks and segments contained in the Application to be taken into account by the speech recognizer in which microprocessor 110 is known.

In dem Stopp-Zustand STOP 302, in dem der Spracherkenner deaktiviert ist, sind folgende Nachrichten vorgesehen, die an den Oak DSP 123 oder von dem Oak DSP 123 gesendet werden können:In the STOP state STOP 302, in which the speech recognizer is deactivated, the following messages are provided, which can be sent to the Oak DSP 123 or from the Oak DSP 123:

InitHMMSRDefault ,InitHMMSRDefault,

InitHMMSRParams , .InitHMMSRParams,.

StartLoadHMMLDA,StartLoadHMMLDA,

StartLoadHMMDictionary, • PauseHMMSR :StartLoadHMMDictionary, • PauseHMMSR:

Mit dieser Nachricht wird dem Oak DSP 123 mitgeteilt, dass der Spracherkenner in den Deaktiviert-Zustand übergehen soll, • StartHMMSR: Mit dieser Nachricht wird der Spracherkenner in dem OakWith this message the Oak DSP 123 is informed that the speech recognizer should go into the deactivated state, • StartHMMSR: With this message the speech recognizer in the Oak

DSP 123 gestartet.DSP 123 started.

In dem Pausen-Zustand PAUSE 303, in dem die Vorverarbeitung in dem Spracherkenner durchgeführt wird, jedoch noch keine Merkmalsextraktion erfolgt, sind folgende Nachrichten vorgesehen, die an den Oak DSP 123 oder von dem Oak DSP 123 übermittelt werden können:In the pause state PAUSE 303, in which the preprocessing is carried out in the speech recognizer, but no feature extraction has yet taken place, the following messages are provided, which can be transmitted to the Oak DSP 123 or from the Oak DSP 123:

InitHMMSRDefault ,InitHMMSRDefault,

InitHMMSRParams ,InitHMMSRParams,

StartLoadHMMLDA,StartLoadHMMLDA,

StartLoadHMMDictionary,StartLoadHMMDictionary,

StartHMMSR, • StopHMMSR:StartHMMSR, StopHMMSR:

Mit dieser Nachricht wird dem Oak DSP 123 angegeben, dass der Spracherkenner gestoppt werden soll und in den Stopp-Zustand 302 übergehen soll, • CodebookBlockLoadedAndSwitched.This message indicates to the Oak DSP 123 that the speech recognizer should be stopped and should go into the stop state 302, • CodebookBlockLoadedAndSwitched.

In dem Betriebsmodus-Zustand RUN 304, in dem der Spracherkenner voll aktiv ist und die Spracherkennung durchführt, sind folgende Nachrichten vorgesehen, die an den Oak DSP 123 oder von dem Oak DSP 123 übermittelt werden können :In the operating mode state RUN 304, in which the speech recognizer is fully active and carries out the speech recognition, the following messages are provided, which can be transmitted to the Oak DSP 123 or from the Oak DSP 123:

InitHMMSRDefault ,InitHMMSRDefault,

InitHMMSRParams ,InitHMMSRParams,

StartLoadHMMLDA, • StartLoadHMMDictionary,StartLoadHMMLDA, • StartLoadHMMDictionary,

PauseHMMSR,PauseHMMSR,

StopHMMSR,StopHMMSR,

CodebookBlockLoadedAndSwitched.CodebookBlockLoadedAndSwitched.

Ferner ist eine zusätzliche NachrichtThere is also an additional message

SetHMMSearchParams (minStableTime, wordStartupPenalty, transitionPenalty) vorgesehen, mit der die Suchparameter minStableTime, wordStartupPenalty und transitionPenalty für das sprecherabhängige Wörterbuch gesetzt werden können.SetHMMSearchParams (minStableTime, wordStartupPenalty, transitionPenalty) are provided, with which the search parameters minStableTime, wordStartupPenalty and transitionPenalty can be set for the speaker-dependent dictionary.

Der Suchparameter minStableTime gibt die Zeit an - in der Einheit der Anzahl von Frames -, innerhalb der sich die Hypothese nicht ändern darf, um die Nachricht HypothesisStable auszugeben.The search parameter minStableTime specifies the time - in units of the number of frames - within which the hypothesis must not change in order to output the message HypothesisStable.

Die Suchparameter wordStartupPenalty und transitionPenalty werden innerhalb der Suche zur Berechnung des optimalen Pfades verwendet. Der Suchparameter transitionPenalty gibt einen Strafwert an, der einen Übergang von einem Zustand i zu einem Zustand j bewertet. Der Suchparameter wordStartupPenalty gibt einen Anfangsstrafwert an, der verwendet wird, um in ein neues Wortmodell einzutreten. Diese Nachricht kann von dem Spracherkenner in dem Oak DSP 123 in jedem Zustand der Firmware des DSP 123 an den Mikroprozessor 110 übermittelt werden. Mit der Nachricht SetHMMSearchParams (minStableTime, wordStartupPenalty, transitionPenalty) wird die Suche zurückgesetzt und die Parameter für den Suchraum werden definiert.The search parameters wordStartupPenalty and transitionPenalty are used within the search to calculate the optimal path. The search parameter transitionPenalty specifies a penalty value that evaluates a transition from a state i to a state j. The search parameter wordStartupPenalty specifies an initial penalty value that is used to enter a new word model. This message can be transmitted to the microprocessor 110 by the speech recognizer in the Oak DSP 123 in any state of the firmware of the DSP 123. With the message SetHMMSearchParams (minStableTime, wordStartupPenalty, transitionPenalty) the search is reset and the parameters for the search space are defined.

Im Folgenden wird die Struktur von den im Weiteren erläuterten Sprachdialog-Zuständen in einem Sprachdialog in dessen Rahmen die Spracherkennung durchgeführt wird, dargelegt .The structure of the voice dialog states explained below is set out below in a voice dialog in which the voice recognition is carried out.

Ein Sprachdialog dient zur interaktiven Kommunikation des Spracherkenners mit einem menschlichen Benutzer, um dem Benutzer vordefinierte Steuerungsmöglichkeiten und somit einen interaktiven Eingriff in das zu steuernde System, das heißt in den Rechner 108 unter Verwendung des Spracherkenners, zu ermöglichen.A speech dialog is used for the interactive communication of the speech recognizer with a human user in order to allow the user predefined control options and thus an interactive intervention in the system to be controlled, that is to say in the computer 108 using the speech recognizer.

In diesem Zusammenhang ist darauf hinzuweisen, dass die Sprachdialog-Zustände nicht zu verwechseln sind mit den oben beschriebenen Zuständen des Spracherkenners selbst .In this context, it should be pointed out that the speech dialogue states should not be confused with the states of the speech recognizer itself described above.

Jeder Sprachdialog, das heißt jede Sprachanwendung startet nach ihrer Aktivierung ausgehend von einem Basiszustand.Every speech dialog, i.e. every speech application, starts from a basic state after its activation.

Gemäß diesem Ausführungsbeispiel wird für eine Sprachanwendung eine Anzahl von Befehlen definiert, die im Weiteren auch als Schlüsselwörter bezeichnet werden.According to this exemplary embodiment, a number of commands are defined for a speech application, which are also referred to below as keywords.

Jeder Befehl kann ein einzelnes oder mehrere einzelne Wörter aufweisen. Mit jedem Befehl ist eine dem jeweiligen Befehl eindeutig zugeordnete Aktion gekoppelt (siehe Sprachdialog- Zustandsdiagramm 400 in Fig.4) . Aktionen 408, welche jeweils mit einem Befehl 406 in Form eines Befehl-Aktion-Tupels (407, 409) verknüpft sind, können ein Gerät, wie beispielsweise einen CD-Spieler oder ein Kommunikationsgerät oder ein anderes Element einer Stereoanlage oder allgemein eines technischen Systems steuern und die Spracherkennungsanwendung beenden, oder noch zusätzliche Aktionen in dem gleichen Schritt, ausgelöst mit dem gleichen Befehl, durchführen, oder beispielsweise einen Ton mittels des Lautsprechers 121 ausgeben, und dann in den gleichen Sprachdialog-Zustand oder in einen anderen Sprachdialog-Zustand übergehen.Each command can have a single word or multiple words. Each command is linked to an action that is uniquely assigned to the respective command (see voice dialog state diagram 400 in FIG. 4). Actions 408, each associated with a command 406 in the form of a command-action tuple (407, 409), can control a device, such as a CD player or a communication device, or another element of a stereo system or generally a technical system and terminate the speech recognition application, or perform additional actions in the same step, triggered with the same command, or, for example, emit a sound by means of the loudspeaker 121, and then change to the same speech dialog state or to a different speech dialog state.

In dem Sprachdialog-Zustandsdiagramm 400 in Fig.4 ist ein zeitlich vorangegangener Sprachdialog-Zustand X-l 401 dargestellt sowie dessen Übergang in den aktuellen Sprachdialog-Zustand X 402, wobei das Sprachdialog- Zustandsdiagramm 400 ferner die in dem aktuellen Sprachdialog-Zustand X 402 zu berücksichtigenden Wörter in einem elektronischen Wörterbuch 403 gespeichert hat, wobei das elektronische Wörterbuch 403 sowohl die zuvor in Form von sprecherunabhängigen, zuvor trainierten HMMs gespeicherten Wörter 404, allgemein die sprecherunabhängigen Äußerungen mit einer beliebigen Anzahl von Wörtern 404 enthält sowie Listeneinträge 405, welche ursprünglich sprecherabhängige Äußerungen enthalten, die jedoch, wie im Weiteren noch erläutert wird, auf eine Folge von Phonemen abgebildet werden, welche dann einer sprecherunabhängigen Spracherkennung zugänglich sind.In the speech dialog state diagram 400 in FIG. 4, a temporally preceding speech dialog state X1 401 is shown, as well as its transition to the current speech dialog state X 402, the speech dialog state diagram 400 also taking into account those to be taken into account in the current speech dialog state X 402 Words stored in an electronic dictionary 403, the electronic dictionary 403 containing both the words 404 previously stored in the form of speaker-independent, previously trained HMMs, generally the speaker-independent utterances with any number of words 404, and list entries 405 which originally contain speaker-dependent utterances which, however, as will be explained further below, are mapped to a sequence of phonemes, which are then accessible to speaker-independent speech recognition.

In einem jeweiligen Sprachdialog-Zustandsdiagramm 400 sind ferner, wie oben erläutert, die Befehle 406 und die Aktionen 408 in jeweils einem Befehls-Aktions-Tupel (407, 409) enthalten.In a respective speech dialog state diagram 400, as explained above, the commands 406 and the actions 408 are each contained in a command-action tuple (407, 409).

Gemäß diesem Ausführungsbeispiel ist die maximale Länge einer Phonemfolge hinsichtlich ihrer zeitlichen Länge oder hinsichtlich der Anzahl zulässiger Phoneme anwendungsabhängig .According to this exemplary embodiment, the maximum length of a phoneme sequence with respect to its temporal length is or with regard to the number of permissible phonemes depending on the application.

Gemäß diesem Ausführungsbeispiel sind 255 Zustände pro Listeneintrag 405 zulässig, so dass die größte Zahl zulässiger Phoneme pro Listeneintrag 405 kleiner oder gleich 85 ist.According to this exemplary embodiment, 255 states are permissible per list entry 405, so that the largest number of permissible phonemes per list entry 405 is less than or equal to 85.

Die Befehle werden aus dem zur Verfügung stehenden Vokabular, das heißt aus den in dem Wörterbuch 403 enthaltenen Wörtern 404 oder Listeneinträgen 405 erzeugt.The commands are generated from the available vocabulary, that is to say from the words 404 or list entries 405 contained in the dictionary 403.

Jeder Befehl 406, 407 ist notwendigerweise mit einer Aktion 408, 409 verknüpft.Each command 406, 407 is necessarily linked to an action 408, 409.

Die Befehlsstruktur ist wie folgt:The command structure is as follows:

• Befehl = ein oder mehrere Wörter,• command = one or more words,

• Befehl = ein oder mehrere Wörter + ein Listeneintrag,• command = one or more words + a list entry,

• Befehl = ein Listeneintrag + ein oder mehrere Wörter, • Befehl = ein oder mehrere Wörter + ein Listeneintrag + ein oder mehrere Wörter,• command = one list entry + one or more words, • command = one or more words + one list entry + one or more words,

• Befehl = ein Listeneintrag.• Command = a list entry.

Eine Aktion 407, 409 stellt im Rahmen dieser Beschreibung ein Synonym für eine grundsätzlich beliebig komplexe Reaktion des jeweiligen technischen Systems dar, abstrakt betrachtet die Reaktion des Spracherkenners zur Ansteuerung des Aktors 122 in Fig.1.In the context of this description, an action 407, 409 is a synonym for a reaction of the respective technical system that is fundamentally as complex as desired; in abstract terms, the reaction of the speech recognizer for controlling the actuator 122 in FIG.

Als Aktion 407, 409 sind beispielsweise erfindungsgemäß vorgesehen ein Feedback des Spracherkenners und, um dem Benutzer anzuzeigen, dass überhaupt etwas erkannt wurde, ein Umschalten in einen anderen Sprachdialog-Zustand, ein Laden eines neuen elektronischen Wörterbuches, oder das Ausführen einer dem Befehl zugeordneten Aktion, beispielsweise dasAction 407, 409 provides, for example, feedback from the speech recognizer according to the invention and, in order to indicate to the user that something was recognized at all, switching to another speech dialog state, loading a new electronic dictionary, or executing an action assigned to the command , for example that

Wählen einer eingegeben Telefonnummer. Es ist in diesem Zusammenhang anzumerken, dass eine gleiche Aktion für unterschiedliche Befehle definiert sein kann.Dial an entered phone number. In this context it should be noted that the same action can be defined for different commands.

Im Folgenden werden in Form von Nachrichtenflussdiagrammen die Kommunikation zwischen dem Mikroprozessor 110, das heißt dem 80D51-Controller und dem digitalen Signalprozessor 123 der Firma Oak Technologies beschrieben.The communication between the microprocessor 110, that is to say the 80D51 controller and the digital signal processor 123 from Oak Technologies, is described below in the form of message flow diagrams.

Wie in dem Ablaufdiagramm 500 in Fig.5 dargestellt ist, wird von einem Startzustand 501 nach erfolgter Aktivierung des DSP 123, das heißt anders ausgedrückt nach erfolgtem Starten des Spracherkenners ein akustisches Signal an den Benutzer mittels des Lautsprechers 121 ausgegeben, um diesem zu signalisieren, dass das Spracherkennungsverfahren aktiviert worden ist.As is shown in the flowchart 500 in FIG. 5, an acoustic signal is issued to the user by means of the loudspeaker 121 from a start state 501 after the DSP 123 has been activated, that is to say in other words after the speech recognizer has started, in order to signal the user, that the speech recognition process has been activated.

Ausgehend von dem Startzustand 601 wird in einen ersten Zyklus (Cycle_0) 502 übergegangen, in welchem die HMMs initialisiert werden.Starting from the start state 601, a transition is made to a first cycle (Cycle_0) 502, in which the HMMs are initialized.

Anschließend wird in einen zweiten Zyklus (Cycle_l) 503 übergegangen und nach dessen Durchführung wird überprüft, ob das Spracherkennungsverfahren beendet werden soll (Prüfschritt 504) und für den Fall, dass das Spracherkennungsverfahren beendet werden soll, wird in einenSubsequently, a transition is made to a second cycle (Cycle_l) 503 and after its execution it is checked whether the speech recognition process is to be ended (test step 504) and, in the event that the speech recognition process is to be ended, one

Ende-Zustand 505 übergegangen, in welchem der Spracherkenner deaktiviert wird.End state 505 passed, in which the speech recognizer is deactivated.

Soll die Spracherkennung jedoch nicht beendet werden, so wird in einem zusätzlichen Prüfschritt (Prüfschritt 506) überprüft, ob in einen neuen Sprachdialog-Zustand übergegangen werden soll.However, if the speech recognition is not to be ended, an additional test step (test step 506) is used to check whether a change should be made to a new speech dialog state.

Ist das der Fall, so wird der zweite Zyklus 503 für den neuen Sprachdialog-Zustand durchgeführt. Soll jedoch der Sprachdialog-Zustand nicht verändert werden, so wird in einem dritten Prüfschritt (Prüfschritt 507) überprüft, ob in dem elektronischen Wörterbuch eine Veränderung vorgenommen werden soll, beispielsweise ob ein neuer Eintrag dem elektronischen Wörterbuch hinzugefügt werden soll oder ob ein Eintrag aus dem elektronischen Wörterbuch entfernt werden soll oder ob lediglich ein Eintrag in dem elektronischen Wörterbuch verändert werden soll.If this is the case, then the second cycle 503 is carried out for the new speech dialog state. However, if the speech dialog state is not to be changed, a third check step (check step 507) checks whether a change should be made in the electronic dictionary, for example whether a new entry should be added to the electronic dictionary or whether an entry from the electronic dictionary is to be removed or whether only an entry in the electronic dictionary is to be changed.

Ist dies der Fall, so wird wiederum in den zweiten Zyklus 503 verzweigt .If this is the case, the system branches again to the second cycle 503.

Ist dies jedoch nicht der Fall, so wird ein, im Folgenden noch näher erläuterter, dritter Zyklus (Cycle_2) 508, durchgeführt.If this is not the case, however, a third cycle (Cycle_2) 508, which will be explained in more detail below, is carried out.

Nach Beendigung des dritten Zyklus 508 wird in einem vierten Prüfschritt (Prüfschritt 509) wiederum überprüft, ob die Spracherkennung beendet werden soll .After the third cycle 508 has ended, a fourth test step (test step 509) again checks whether the speech recognition is to be ended.

Soll die Spracherkennung beendet werden, so wird in den Endezustand 505 übergegangen und der Spracherkenner wird deaktiviert, sonst wird in den zweiten Prüfschritt 506 verzweigt, in dem überprüft wird, ob ein neuer Sprachdialog- Zustand eingenommen werden soll.If the speech recognition is to be ended, a transition is made to the end state 505 and the speech recognizer is deactivated, otherwise a branch is made to the second test step 506, in which it is checked whether a new speech dialog state is to be assumed.

Fig.6 zeigt in einem Nachrichtenflussdiagramm 600 die Realisierung des ersten Zyklus 502 im Detail.6 shows the implementation of the first cycle 502 in detail in a message flow diagram 600.

In dem ersten Zyklus 502 werden die HMMs initialisiert.In the first cycle 502, the HMMs are initialized.

In einer Initialisierungsphase, in welcher sich der Spracherkenner in dem Initialisierungszustand INIT 301 befindet, wird von dem Mikroprozessor 110 eine Nachricht StartHMMSRFlowgraph 601 an den DSP 123 übermittelt, womit das jeweilige HMM in dem DSP 123 gestartet wird. In Reaktion auf die Nachricht StartHMMSRFlowgraph 601 sendet der DSP 123 eine Bestätigungsnachricht 602 an den Mikroprozessor 110.In an initialization phase, in which the speech recognizer is in the initialization state INIT 301, a message StartHMMSRFlowgraph 601 is transmitted from the microprocessor 110 to the DSP 123, with which the respective HMM in the DSP 123 is started. In response to the StartHMMSRFlowgraph 601 message, the DSP 123 sends a confirmation message 602 to the microprocessor 110.

Anschließend wird von dem Mikroprozessor 110 eine Nachricht InitHMMSRParams 603 an den DSP 123 gesendet, womit das Laden der Spracherkennungsparameter in den DSP 123 aktiviert wird.A message InitHMMSRParams 603 is then sent by the microprocessor 110 to the DSP 123, which activates the loading of the speech recognition parameters into the DSP 123.

Als Antwort auf die Nachricht InitHMMSRParams 603 wird eine Bestätigungsnachricht 604 von dem DSP 123 an den Mikroprozessor 110 übermittelt.In response to the InitHMMSRParams 603 message, a confirmation message 604 is transmitted from the DSP 123 to the microprocessor 110.

In einem weiteren Schritt wird eine Nachricht StartLoadHMMLDA 605 von dem Mikroprozessor 110 an den DSP 123 gesendet, um das Laden des Computerprogramms, welches das Ermitteln einer LDA-Matrix bewirkt, wie oben beschrieben, für das jeweilige HMM startet.In a further step, a StartLoadHMMLDA 605 message is sent from the microprocessor 110 to the DSP 123 in order to start the loading of the computer program which causes the determination of an LDA matrix, as described above, for the respective HMM.

Als Antwort darauf sendet das DSP 123 eine Nachricht SMBRequestLoadHMMLDA 606 an den Mikroprozessor 110, welcher auf diese Nachricht mit einer Bestätigungsnachricht 607 reagiert, mit der der Mikroprozessor 110 anzeigt, dass die notwendigen Programmcodes zur Durchführung einer linearen Diskriminanzanalyse in einem Switched Memory Block verfügbar sind.In response, the DSP 123 sends a message SMBRequestLoadHMMLDA 606 to the microprocessor 110, which responds to this message with a confirmation message 607, with which the microprocessor 110 indicates that the program codes necessary for performing a linear discriminant analysis are available in a switched memory block.

In einer weiteren Nachricht StartLoadHMMDictionary 608, welche von dem Mikroprozessor 110 an den DSP 123 gesendet wird, übermittelt der Mikroprozessor 110 dem DSP 123 das elektronische Wörterbuch für den Basis-Dialog-Zustand des jeweiligen Sprachdialogs in der jeweiligen Anwendung in dem DSP 123.In a further message StartLoadHMMDictionary 608, which is sent from the microprocessor 110 to the DSP 123, the microprocessor 110 transmits to the DSP 123 the electronic dictionary for the basic dialog state of the respective speech dialog in the respective application in the DSP 123.

Auf den Empfang der Nachricht StartLoadHMMDictionary 608 reagiert das DSP 123 mit einer NachrichtThe DSP 123 responds to the receipt of the StartLoadHMMDictionary 608 message with a message

SMBRequestLoadHMMDictionary 609, mit der das aktive Vokabular des jeweiligen elektronischen Wörterbuches von dem Mikroprozessor 110 angefordert wird. Diese Anforderung SMBRequestLoadHMMDictionary 609 wird mit einer Bestätigungsnachricht 610 seitens des Mikroprozessors 110 nach erfolgtem Empfang quittiert.SMBRequestLoadHMMDictionary 609, with which the active vocabulary of the respective electronic dictionary from the Microprocessor 110 is requested. This request SMBRequestLoadHMMDictionary 609 is acknowledged with a confirmation message 610 from the microprocessor 110 after it has been received.

Anschließend wird von dem DSP 123 eine Nachricht SMBRequestCodebookBlock 611 an den Mikroprozessor 110 übermittelt und der Mikroprozessor 110 reagiert darauf mit einer Nachricht CodebookBlockLoadedAndSwitched 612, mit der der Mikroprozessor 110 die Switched Memory Blocks (SMBs) mit den angeforderten Codebuch-Daten dem DSP 123 überträgt.Subsequently, a message SMBRequestCodebookBlock 611 is transmitted from the DSP 123 to the microprocessor 110 and the microprocessor 110 responds with a message CodebookBlockLoadedAndSwitched 612 with which the microprocessor 110 transmits the switched memory blocks (SMBs) with the requested codebook data to the DSP 123.

In einer weiteren Nachricht SMBRequestCodebookBlock 613 fordert der DSP zusätzliche Blöcke an, in denen das benötigte Codebuch, anders ausgedrückt die benötigten Codebuch-Daten, enthalten ist.In a further message SMBRequestCodebookBlock 613, the DSP requests additional blocks in which the required code book, in other words the required code book data, is contained.

Auf die Nachricht SMBRequestCodebookBlock 613 reagiert der Mikroprozessor 110 wiederum mit einer Nachricht CodebookBlockLoadedAndSwitched 614, mit der er einen oder mehrere weitere SMBs mit den benötigten Codebuch-Daten dem DSP 123 überträgt, wobei nunmehr die gesamte Anzahl von Blöcken und benötigter Segmente in dem Spracherkenner bekannt sind.The microprocessor 110 in turn reacts to the message SMBRequestCodebookBlock 613 with a message CodebookBlockLoadedAndSwitched 614, with which it transmits one or more further SMBs with the required code book data to the DSP 123, the total number of blocks and required segments now being known in the speech recognizer ,

Anschließend geht der Spracherkenner in den Stopp-Zustand STOP 302 über und verlässt diesen Zustand erst nach Empfang des Kommandos „Start", das von dem Mikroprozessor 110 dem DSP 123 mittels der Nachricht StartHMMSR 615 übermittelt, und der DSP 123 bestätigt den Empfang der Nachricht StartHMMSR 615 mit einer Bestätigungsnachricht 616.The speech recognizer then goes into the STOP state STOP 302 and only leaves this state after receiving the "Start" command, which the microprocessor 110 transmits to the DSP 123 by means of the StartHMMSR 615 message, and the DSP 123 confirms receipt of the StartHMMSR message 615 with a confirmation message 616.

In dem Betriebsmodus-Zustand 404 wird von dem DSP 123 in periodischen Zeitabständen, das heiß anschaulich für jedes Frame eine Nachricht SMBRequestCodebookBlock 617 an denIn the operating mode state 404, the DSP 123 sends a message SMBRequestCodebookBlock 617 to the

Mikroprozessor 110 übermittelt, welcher daraufhin periodisch eine Antwortnachricht, ebenfalls für jedes Frame in Form einer Nachricht CodebookBlockLoadedAndSwitched 618 dem DSP 123 übermittelt, mit der der SMB umgeschaltet wurde und ein neuer Codebuch-Block seitens des Mikroprozessors 110 dem DSP 123 übermittelt wurde.Microprocessor 110 transmits, which then periodically sends a response message, also for each frame a message CodebookBlockLoadedAndSwitched 618 transmitted to the DSP 123, with which the SMB was switched and a new codebook block was transmitted by the microprocessor 110 to the DSP 123.

Die Nachrichten SMBRequestCodebookBlock 617 und CodebookBlockLoadedAndSwitched 618 werden für jedes Frame zwischen dem Mikroprozessor 110 und dem DSP 123 ausgetauscht so lange, bis von dem DSP 123 das Spracherkennungsergebnis in einer Nachricht HMMHypothesisStable 619 an den Mikroprozessor 110 übermittelt wird, welcher auf den Empfang mit einer Bestätigungsnachricht 620 reagiert.The messages SMBRequestCodebookBlock 617 and CodebookBlockLoadedAndSwitched 618 are exchanged for each frame between the microprocessor 110 and the DSP 123 until the DSP 123 transmits the speech recognition result in a message HMMHypothesisStable 619 to the microprocessor 110, which receives an acknowledgment message 620 upon receipt responding.

Der DSP 123 bleibt trotz Übermitteins des Spracherkennungsergebnisses in dem Betriebsmodus-Zustand RUN 304.Despite transmitting the speech recognition result, the DSP 123 remains in the RUN 304 operating mode state.

Erst nach Erhalt einer Nachricht PauseHMMSR 621, welche von dem Mikroprozessor 110 gesendet wird, geht der DSP 123 in den Pausezustand PAUSE 303 über und sendet zuvor jedoch noch eineOnly after receiving a PauseHMMSR 621 message, which is sent by the microprocessor 110, does the DSP 123 go into the PAUSE 303 pause state and, however, does send one before

Bestätigungsnachricht 622 an den Mikroprozessor 110.Confirmation message 622 to microprocessor 110.

Somit ist ein Spracherkennungsergebnis in dem Mikroprozessor 110 verfügbar und der Mikroprozessor 110 entscheidet nunmehr, was in dem Sprachdialog anwendungsabhängig als nächstes geschehen soll.A speech recognition result is thus available in the microprocessor 110 and the microprocessor 110 now decides what should happen next in the speech dialog, depending on the application.

Es wird im Folgenden angenommen, dass eine Anwendung mehrere unterschiedliche Geräte steuert, wobei ein Telekommunikationsgerät, insbesondere ein Telefon, nur eines unter vielen ist.In the following it is assumed that an application controls several different devices, whereby a telecommunication device, in particular a telephone, is only one of many.

In diesem Fall wird in einem ersten Dialogschritt des Sprachdialogs mittels eines Verfahrens zur sprecherunabhängigen Spracherkennung ermittelt, welches Gerät tatsächlich gesteuert werden soll, beispielsweise ob ein CD- Spieler, ein Tonbandgerät, ein Kassettenrekorder, ein Radio, ein Telekommunikationsendgerät (wie beispielsweise ein Telefon, ein Telefaxgerät, ein Teletextgerät , ein Mobilfunkgerät , ein PDA, etc.) gesteuert werden soll.In this case, in a first dialogue step of the speech dialogue, a method for speaker-independent speech recognition is used to determine which device is actually to be controlled, for example whether a CD player, a tape recorder, a cassette recorder, a radio, a telecommunication terminal (such as a telephone, a facsimile device, a teletext device, a mobile radio device, a PDA, etc.) is to be controlled.

Ohne Einschränkung der Allgemeingültigkeit wird nun angenommen, dass als zu steuerndes Gerät in dem ersten Sprachdialogschritt ein Telefon ausgewählt wird, so dass das Ergebnis des ersten Zyklus 502 ist, dass übergegangen werden soll in das Menü, anders ausgedrückt in den Sprachdialog- Zustand zur Steuerung eines Telefons.Without restricting the general applicability, it is now assumed that a telephone is selected as the device to be controlled in the first voice dialog step, so that the result of the first cycle 502 is that the menu should be changed, in other words the voice dialog state to control a phone.

In dem Fall, wenn ein Zustandsübergang von einem Sprachdialog-Zustand in einen anderen Sprachdialog-Zustand erfolgen soll, ist üblicherweise eine Veränderung des aktuell im Rahmen der Spracherkennung verwendeten elektronischenIn the case when a state transition from one speech dialog state to another speech dialogue state is to take place, there is usually a change in the electronic currently used in the context of speech recognition

Wörterbuches, welches ja üblicherweise abhängig ist von dem jeweiligen Sprachdialog-Zustand, erforderlich.Dictionary, which is usually dependent on the respective speech dialog state, required.

In diesem Fall wird der zweite Zyklus 503 durchgeführt, wobei die ausgetauschten Nachrichten zwischen dem MikroprozessorIn this case, the second cycle 503 is performed, with the exchanged messages between the microprocessor

110 und dem DSP 123 in einem Nachrichtenflussdiagramm 700 in Fig.7 im Detail dargestellt ist.110 and the DSP 123 is shown in detail in a message flow diagram 700 in FIG.

In einer ersten Phase, in der sich der Spracherkenner in dem Pausenzustand PAUSE 303 befindet, wird von dem Mikroprozessor 110 eine Nachricht SetHMMSearchParams 701 an den DSP 123 übermittelt, um dem DSP 123 anzugeben, dass er neue Parameter für die Suche laden soll . Der Empfang dieser Nachricht wird mit einer Bestätigungsnachricht 702 von dem DSP 123 an den Mikroprozessor 110 bestätigt.In a first phase, in which the speech recognizer is in the pause state PAUSE 303, a message SetHMMSearchParams 701 is transmitted by the microprocessor 110 to the DSP 123 in order to indicate to the DSP 123 that it should load new parameters for the search. The receipt of this message is confirmed with a confirmation message 702 from the DSP 123 to the microprocessor 110.

Anschließend wird von dem Mikroprozessor 110 eine Nachricht StartLoadHMMDictionary 703 an den DSP 123 übermittelt, mittels welcher Nachricht das Laden des elektronischen Wörterbuches für den jeweiligen neuen Sprachdialog-Zustand in den DSP 123 gestartet wird. Mit einer Nachricht SMBRequestLoadHMMDictionary 704 fordert der Signalprozessor 123 von dem Mikroprozessor 110 das jeweilige elektronische Wörterbuch, aufgeteilt in Blöcken (SMB) zu jeweils 16 KBytes, an. Mit einer Bestätigungsnachricht 806 zeigt der Mikroprozessor 110 an, dass das angeforderte elektronische Wörterbuch in SMBs verfügbar ist und von dem DSP 123 in einen anderen Speicherort kopiert werden kann.A message StartLoadHMMDictionary 703 is then transmitted from the microprocessor 110 to the DSP 123, by means of which message the loading of the electronic dictionary for the respective new speech dialog state into the DSP 123 is started. With a message SMBRequestLoadHMMDictionary 704, the signal processor 123 requests the respective electronic dictionary from the microprocessor 110, divided into blocks (SMB) of 16 KB each. With a confirmation message 806, the microprocessor 110 indicates that the requested electronic dictionary is available in SMBs and can be copied from the DSP 123 to another location.

Mittels einer Nachricht StartHMMSR 706, welche von demBy means of a message StartHMMSR 706, which from the

Mikroprozessor 110 an den DSP 123 gesendet und von diesem empfangen wird und seitens des DSP 123 mittels einer Bestätigungsnachricht 707 bestätigt wird, geht der Spracherkenner in dem DSP 123 in den Betriebsmodus-Zustand RUN 304 über und es erfolgt ein Nachrichtenaustausch in einer zweiten Phase, in welcher der DSP 123 für jeden Rahmen eine Nachricht SMBRequestCodebookBlock 708 an den Mikroprozessor 110 übermittelt, welcher auf diese Nachricht jeweils mit einer Nachricht CodebookBlockLoadedAndSwitched 709, ebenfalls für jeden Rahmen, reagiert. Mit der NachrichtMicroprocessor 110 is sent to and received by the DSP 123 and is confirmed by the DSP 123 by means of a confirmation message 707, the speech recognizer in the DSP 123 changes to the RUN 304 operating mode state and a message exchange takes place in a second phase, in which the DSP 123 transmits an SMBRequestCodebookBlock 708 message to the microprocessor 110 for each frame, which responds to this message with a CodebookBlockLoadedAndSwitched 709 message, likewise for each frame. With the message

CodebookBlockLoadedAndSwitched 709 wird dem DSP 123 von dem Mikroprozessor 110 jeweils mitgeteilt, dass der SMB umgeschaltet wurde und ein neuer Codebuch-Block mit Codebuch- Daten auf Seiten des Mikroprozessors 110 geladen wurde und somit für den DSP 123 verfügbar ist.CodebookBlockLoadedAndSwitched 709 is informed to the DSP 123 by the microprocessor 110 that the SMB has been switched and that a new codebook block with codebook data has been loaded on the part of the microprocessor 110 and is therefore available for the DSP 123.

Diese Nachrichten SMBRequestCodebookBlock 708 und CodebookBlockLoadedAndSwitched 709 werden, wie oben beschrieben, für jeden Rahmen ausgetauscht so lange, bis der Spracherkenner ein Spracherkennungsergebnis ermittelt hat, woraufhin der DSP 123 eine Nachricht HMMHypothesisStable 710 an den Mikroprozessor 110 übermittelt, mit dem gleichzeitig angegeben wird, dass und welches Spracherkennungsergebnis von dem DSP 123 ermittelt worden ist.These messages SMBRequestCodebookBlock 708 and CodebookBlockLoadedAndSwitched 709 are exchanged for each frame, as described above, until the speech recognizer has determined a speech recognition result, whereupon the DSP 123 transmits a message HMMHypothesisStable 710 to the microprocessor 110, which simultaneously indicates that and which speech recognition result has been determined by the DSP 123.

Wiederum bleibt der Spracherkenner in dem Betriebsmodus- Zustand RUN 304. Der Mikroprozessor 110 reagiert auf die Nachricht HMMHypothesisStable 710 mit einer Bestätigungsnachricht 711 und erst nach Erhalt eines Befehls „Pause" übermittelt der Mikroprozessor 110 dem DSP 123 eine Nachricht PauseHMMSR 712, der auf Empfang dieser Nachricht mit einer Bestätigungsnachricht 713 reagiert, woraufhin der Spracherkenner in den Pausezustand PAUSE 303 übergeht.Again, the speech recognizer remains in the RUN 304 operating mode state. The microprocessor 110 responds to the HMMHypothesisStable 710 message with a confirmation message 711 and only after receiving a "pause" command does the microprocessor 110 transmit a PauseHMMSR 712 message to the DSP 123, which responds to the receipt of this message with a confirmation message 713, whereupon the speech recognizer enters the message PAUSE 303 paused.

Zusammenfassend ist zu dem in Fig.7 dargestellten zweiten Zyklus 503 anzumerken, dass für den Fall, dass sich der Spracherkenner in einem Sprachdialog-Zustand befindet, in dem sowohl Basiseinträge (sprecherunabhängig) als auch Listeneinträge (an sich sprecherabhängig, umgewandelt in Phonemfolgen, damit ebenfalls sprecherunabhängig) in einem Wörterbuch enthalten sind, das jeweils neue Wörterbuch ein dynamisches Wörterbuch ist.In summary, regarding the second cycle 503 shown in FIG. 7, it should be noted that in the event that the speech recognizer is in a speech dialog state in which both basic entries (speaker-independent) and list entries (per se speaker-dependent, converted into phoneme sequences) are used are also independent of the speaker) are contained in a dictionary, each new dictionary is a dynamic dictionary.

Es enthält, wie oben beschrieben, sprecherunabhängige Befehle und an sich sprecherabhängige, benutzerdefinierteAs described above, it contains speaker-independent commands and speaker-dependent, user-defined commands

Listeneinträge beispielsweise in einer Telefonbuchliste.List entries, for example in a phone book list.

Die Listeneinträge gemäß diesem Ausführungsbeispiel der Erfindung sind an einer festen Speicherstelle des Flashspeichers, welcher als Speicher 111 in dem Rechner 108 vorgesehen ist, gespeichert.The list entries according to this exemplary embodiment of the invention are stored in a fixed memory location of the flash memory, which is provided as memory 111 in the computer 108.

Neue Listeneinträge können erfindungsgemäß dem elektronischen Wörterbuch hinzugefügt werden und alte, nicht mehr benötigte Listeneinträge können aus dem elektronischen Wörterbuch entfernt werden, so dass eine dynamische, das heißt eine veränderbare, Anzahl Wörter in dem elektronischen Wörterbuch enthalten ist, welche von der Spracherkennungseinheit erkannt werden können unter Verwendung eines Verfahrens zur sprecherunabhängigen Spracherkennung. Es ist ferner anzumerken, dass auch der Suchraum von der aktuellen Anzahl und der Größe der in dem Wörterbuch enthaltenen Basiseinträge und Listeneinträge abhängig ist . Aus diesem Grund ist eine möglichst effiziente Dateiverwaltung, insbesondere eine effiziente Verwaltung der elektronischen Wörterbücher sinnvoll .According to the invention, new list entries can be added to the electronic dictionary and old, no longer required list entries can be removed from the electronic dictionary, so that a dynamic, that is to say a changeable, number of words is contained in the electronic dictionary which can be recognized by the speech recognition unit using a speaker-independent speech recognition technique. It should also be noted that the search space also depends on the current number and size of the basic entries contained in the dictionary and list entries is dependent. For this reason, the most efficient file management, in particular efficient management of the electronic dictionaries, makes sense.

Zum Hinzufügen oder Entfernen von Listeneinträgen von dem sprecherabhängigen Teil des jeweiligen Wörterbuches, das heißt der Listeneinträge in dem Wörterbuch, ist eine Veränderung des aktuellen Wörterbuches erforderlich.To add or remove list entries from the speaker-dependent part of the respective dictionary, that is, the list entries in the dictionary, a change in the current dictionary is required.

Insbesondere zum Hinzufügen neuer Listeneinträge ist der dritte Zyklus 507 vorgesehen, wie er im Folgenden in einem Nachrichtenflussdiagramm 800 (vergleiche Fig.8) im Detail dargestellt ist.The third cycle 507 is provided in particular for adding new list entries, as is shown in detail below in a message flow diagram 800 (cf. FIG. 8).

Der dritte Zyklus 507 wird ausgeführt, wenn ein Zustandsübergang von einem Sprachdialog-Zustand in einen anderen Sprachdialog-Zustand keine Veränderung des Wörterbuches erfordert .The third cycle 507 is executed when a state transition from one speech dialog state to another speech dialog state does not require a change in the dictionary.

Ein Beispiel für einen solchen Zustandsübergang ist eine Eigenschleife, das heißt ein Übergang von einem Sprachdialog- Zustand in sich selbst.An example of such a state transition is an intrinsic loop, that is, a transition from a speech dialog state to itself.

Wie Fig.8 zu entnehmen ist, wird in einer ersten Phase von dem Mikroprozessor 110 eine Nachricht StartHMMSR 801 an den DSP 123 übermittelt, welcher daraufhin mit einer Bestätigungsnachricht 802 den Erhalt der Nachricht StartHMMSR 801 quittiert, womit sich der Spracherkenner in dem Betriebsmodus-Zustand RUN 304 befindet, .As can be seen in FIG. 8, in a first phase a message StartHMMSR 801 is transmitted from microprocessor 110 to DSP 123, which then acknowledges receipt of the message StartHMMSR 801 with a confirmation message 802, which puts the speech recognizer in the operating mode state RUN 304 is located.

Anschließend wird von dem DSP 123 eine Nachricht SMBRequestCodebookBlock 803 in entsprechender, oben im Zusammenhang mit dem zweiten Zyklus 603 beschriebener Weise für jeden Rahmen periodisch an den Mikroprozessor 110 übermittelt, welcher wiederum, wie oben beschrieben für jeden Rahmen mit einer Nachricht CodebookBlockLoadedAndSwitched 804 reagiert und damit die angeforderten Daten dem DSP 123 bereitstellt .Subsequently, the DSP 123 transmits a message SMBRequestCodebookBlock 803 in a corresponding manner, as described above in connection with the second cycle 603, to the microprocessor 110, which in turn, as described above, for each frame with a message CodebookBlockLoadedAndSwitched 804 reacts and thus provides the requested data to the DSP 123.

Der Austausch der Nachrichten SMBRequestCodebookBlock 803 und CodebookBlockLoadedAndSwitched 804 erfolgt in entsprechender Weise so lange, bis von dem DSP 123 ein Ergebnis der Spracherkennung ermittelt worden ist und das Ergebnis mittels einer Nachricht HMMHypothesisStable 805 an den Mikroprozessor 110 übermittelt wird, welcher den Empfang der Nachricht HMMHypothesisStable 805 mit einer Bestätigungsnachricht 806 quittiert .The exchange of the messages SMBRequestCodebookBlock 803 and CodebookBlockLoadedAndSwitched 804 takes place in a corresponding manner until a result of the speech recognition has been determined by the DSP 123 and the result is transmitted by means of a message HMMHypothesisStable 805 to the microprocessor 110, which receives the message HMMHypothesisStable 805 acknowledged with a confirmation message 806.

Wiederum verbleibt der Spracherkenner in dem Betriebsmodus- Zustand RUN 404 und erst nach Erhalt eines Befehls „Pause" sendet der Mikroprozessor 110 eine Nachricht PauseHMMSR 807 an den DSP 123, welcher den Empfang mit einer Bestätigungsnachricht 808 quittiert, woraufhin der - Spracherkenner in den Pausezustand PAUSE 403 übergeht.Again, the speech recognizer remains in the RUN 404 operating mode state and only after receiving a "pause" command does the microprocessor 110 send a PauseHMMSR 807 message to the DSP 123, which acknowledges receipt with an acknowledgment message 808, whereupon the speech recognizer goes into the pause state PAUSE 403 passes.

Zusammenfassend wird somit in dem ersten Zyklus 502, der immer durchgeführt wird, nachdem ein HMM-Sprachdialog gestartet wird, das jeweilige HMM initialisiert.In summary, the respective HMM is thus initialized in the first cycle 502, which is always carried out after an HMM speech dialog is started.

Für jeden neuen Sprachdialog-Zustand ist es üblicherweise vorgesehen, ein neues elektronisches Wörterbuch in den DSPA new electronic dictionary is usually provided in the DSP for each new speech dialog state

123 zu laden. Um dies zu erreichen wird der zweite Zyklus 503 durchgeführt. In dem Fall, dass das aktuelle Wörterbuch verändert wird und nicht in einen anderen Dialog-Zustand übergegangen wird, wird ebenfalls der zweite Zyklus 503 verwendet.123 to load. To achieve this, the second cycle 503 is performed. In the event that the current dictionary is changed and does not change to another dialog state, the second cycle 503 is also used.

Bei Verbleiben in dem aktuellen Sprachdialog-Zustand ohne Veränderung des Wörterbuches wird der dritte Zyklus 507 durchgeführt . Somit sind üblicherweise in einer Spracherkennungsanwendung gemäß der Erfindung zwei voneinander zu unterscheidende Betriebsebenen vorgesehen.If the current speech dialog state remains without changing the dictionary, the third cycle 507 is carried out. Thus, two operating levels to be distinguished from one another are usually provided in a speech recognition application according to the invention.

Die erste Betriebsebene wird gebildet von der Kommunikation zwischen dem DSP 123 und dem Mikroprozessor 110 und die von dem DSP 123 ausgeführte Spracherkennung eines von einem Benutzer eingesprochenen Sprachsignals.The first operating level is formed by the communication between the DSP 123 and the microprocessor 110 and the speech recognition carried out by the DSP 123 of a speech signal spoken by a user.

Die zweite Betriebsebene ist die Ebene der Software, die auf dem Mikroprozessor 110 abläuft, anders ausgedrückt, der Sprachdialog .The second level of operation is the level of software that runs on the microprocessor 110, in other words, the speech dialog.

Somit sind die Aufgaben in einer Spracherkennungsanwendung zwischen dem Mikroprozessor 110 und dem DSP 123 derart aufgeteilt, dass üblicherweise die nicht so rechenintensive Realisierung des Sprachdialogs von dem Mikroprozessor 110 übernommen wird, und die sehr rechenintensive eigentliche Spracherkennung von dem DSP 123.Thus, the tasks in a speech recognition application are divided between the microprocessor 110 and the DSP 123 in such a way that the less computationally intensive implementation of the speech dialog is usually carried out by the microprocessor 110, and the very computation-intensive actual speech recognition by the DSP 123.

Die Dateiverwaltung, insbesondere die Verwaltung der elektronischen Wörterbücher erfolgt seitens des Mikroprozessors 110.The file management, in particular the management of the electronic dictionaries, is carried out by the microprocessor 110.

Der Mikroprozessor 110 übernimmt insbesondere folgende Aufgaben :The microprocessor 110 performs the following tasks in particular:

• Hinzufügen eines neuen Listeneintrags zu dem jeweiligen Wörterbuch,Adding a new list entry to the respective dictionary,

• Entfernen eines Listeneintrags aus dem jeweiligen Wörterbuch,Removing a list entry from the respective dictionary,

• Entfernen der gesamten Liste aus dem Wörterbuch.• Remove the entire list from the dictionary.

Die oben beschriebenen drei Aufgaben werden im Folgenden näher erläutert :The three tasks described above are explained in more detail below:

1. Entfernen der gesamten Liste aus dem jeweiligen elektronischen Wörterbuch Der Sprachdialog startet mit dem ersten Zyklus 502. Jeder Zustandsübergang von einem Sprachdialog-Zustand in den nächsten bewirkt die Ausführung des zweiten Zyklus 503.1. Remove the entire list from the relevant electronic dictionary The voice dialog starts with the first cycle 502. Each state transition from one voice dialog state to the next causes the second cycle 503 to be executed.

Nach Erkennen des Befehls "Liste löschen" wird die Dateiverwaltung gestartet.After recognizing the command "delete list" the file management is started.

Alle Listeneinträge in der Liste des elektronischen Wörterbuches werden gelöscht.All list entries in the list of the electronic dictionary are deleted.

Anschließend existiert noch immer ein elektronisches Wörterbuch, welches jedoch nunmehr nur noch die sprecherunabhängigen Basiseinträge enthält oder sogar leer ist, wenn das Wörterbuch nur an sich sprecherabhängige und benutzerdefinierte Einträge enthalten hat.Subsequently, an electronic dictionary still exists, which, however, now only contains the speaker-independent basic entries or is even empty if the dictionary only contained speaker-dependent and user-defined entries.

Nachdem die Liste aus dem Wörterbuch gelöscht ist wird das Spracherkennungsverfahren entweder beendet (Schritt 505) oder in dem dritten Zyklus 507 oder dem zweiten Zyklus 503 weitergeführt .After the list is deleted from the dictionary, the speech recognition process is either ended (step 505) or continued in the third cycle 507 or the second cycle 503.

2. Entfernen eines einzelnen Listeneintrags aus dem jeweiligen Wörterbuch2. Remove a single list entry from the respective dictionary

Wiederum wird der Sprachdialog in dem ersten Zyklus 502 gestartet und möglicherweise wurden zuvor ein oder mehrere Zustandsübergange unter Verwendung des zweiten Zyklus 503 zu anderen Sprachdialog-Zuständen durchgeführt.Again, the speech dialog is started in the first cycle 502, and possibly one or more state transitions have previously been performed using the second cycle 503 to other speech dialog states.

Wird der Befehl "Lösche [Eintrag] " erkannt, so wird die Dateiverwaltung von dem Mikroprozessor 110 gestartet. Die Phonemkette [Eintrag] repräsentiert den erkannten an sich sprecherabhängigen Listeneintrag in dem Wörterbuch.If the command "delete [entry]" is recognized, the file management is started by the microprocessor 110. The phoneme chain [entry] represents the recognized speaker-dependent list entry in the dictionary.

Dieser Eintrag wird aus der Liste in dem jeweiligen Wörterbuch entfernt. Ferner ist gemäß diesem Ausführungsbeispiel vorgesehen, dass die Speicherverwaltung den Speicher, welcher mit dem Listeneintrag belegt ist, reorganisiert und somit wieder zum Belegen mit anderen Listeneinträgen freigibt. Auf diese Weise kann eine ökonomische Speicherverwaltung realisiert werden.This entry is removed from the list in the respective dictionary. Furthermore, according to this exemplary embodiment it is provided that the memory management reorganizes the memory which is occupied by the list entry and thus releases it again to be occupied by other list entries. In this way, economical memory management can be implemented.

Um zu gewährleisten, dass tatsächlich der richtige gewünschte Listeneintrag aus dem elektronischen Wörterbuch entfernt wird, kann erfindungsgemäß eine Sicherheitsschleife vorgesehen sein, in welcher der Benutzer noch einmal gefragt wird, ob er tatsächlich den eingegebenen Listeneintrag löschen will. Dies bedeutet möglicherweise eine Selbstschleife in dem aktuellen Sprachdialog-Zustand ohne Verändern des Wörterbuches, das heißt in diesem Fall wird der dritte Zyklus 507 durchgeführt.In order to ensure that the correct desired list entry is actually removed from the electronic dictionary, a security loop can be provided according to the invention, in which the user is asked again whether he really wants to delete the entered list entry. This possibly means a self-loop in the current speech dialog state without changing the dictionary, that is to say in this case the third cycle 507 is carried out.

In diesem Fall werden die Phonemkette [Eintrag] und der „Lösche"-Befehl zwischengespeichert. Nachdem der gewünschte Eintrag aus dem Wörterbuch entfernt worden ist oder nachdem der Löschbefehl aufgrund einer Benutzereingabe, mit der in der Sicherheitsschleife angegeben ist, dass der angegebene Eintrag nicht gelöscht werden soll, beendet wird, kann der Sprachdialog und damit auch das Spracherkennungsverfahren beendet werden (Schritt 505) oder dasIn this case, the phoneme chain [entry] and the “delete” command are buffered. After the desired entry has been removed from the dictionary or after the delete command based on a user input with which it is indicated in the security loop that the specified entry is not deleted is to be ended, the speech dialog and thus also the speech recognition process can be ended (step 505) or that

Spracherkennungsverfahren kann mittels Übergangs in einen anderen Dialog-Zustand (zweiter Zyklus 503) oder einer Selbstschleife in dem aktuellen Dialog-Zustand (dritter Zyklus 507) weitergeführt werden.Speech recognition method can be continued by means of a transition to another dialog state (second cycle 503) or a self-loop in the current dialog state (third cycle 507).

3. Hinzufügen neuer Listeneinträge zu dem jeweiligen Wörterbuch3. Add new list entries to the respective dictionary

Diese Aufgabe stellt die komplexeste Routine dar. Wie in den beiden vorangegangenen Vorgehensweisen wird auch diesmal mit dem ersten Zyklus 502 begonnen und der zweite Zyklus 503 kann einmal oder mehrmals durchgeführt worden sein. Nach Empfang des Befehls "Ergänze [Eintrag]", welche von dem Spracherkenner erkannt wurde, geht das System in einen Sprachdialog-Zustand über, in dem das Phonem-Wörterbuch geladen wird, in welchem Phonem-Wörterbuch die zur Verfügung stehenden Phoneme, welche jeweils abhängig sind von der verwendeten Sprache, enthalten sind.This task is the most complex routine. As in the previous two procedures, the first cycle 502 is started this time and the second cycle 503 may have been performed one or more times. After receiving the command "Add [entry]", which was recognized by the speech recognizer, the system goes into a speech dialog state, in which the phoneme dictionary is loaded, in which phoneme dictionary the available phonemes, each one depend on the language used, are included.

Der Spracherkenner fordert den Benutzer auf, die jeweilige Äußerung, welche dem Wörterbuch als Listeneintrag zugefügt werden soll, einmal oder mehrmals in das SpracherkennungsSystem einzusprechen.The speech recognizer asks the user to speak the respective utterance which is to be added to the dictionary as a list entry one or more times into the speech recognition system.

Es ist ersichtlich, dass die Äußerung zumindest einmal in das Spracherkennungssystem eingesprochen werden muss. Wie im Weiteren noch näher erläutert wird, ist die Erkennungsrate für den Listeneintrag umso besser, je mehr Repräsentanz- Äußerungen einer gleichen Sprachäußerung von der Spracherkennungseinheit erhalten wird, anders ausgedrückt, je häufiger eine gleiche Sprachäußerung von dem Benutzer in dasIt can be seen that the utterance must be spoken into the speech recognition system at least once. As will be explained in more detail below, the recognition rate for the list entry is the better, the more representational utterances of the same speech utterance are obtained from the speech recognition unit, in other words, the more often the same speech utterance by the user in the

Spracherkennungssystem eingesprochen wird.Speech recognition system is spoken.

Im Weiteren wird angenommen, dass drei Repräsentanz- Äußerungen verfügbar sind, das heißt dass die Sprachäußerung von dem Benutzer dreimal in das Spracherkennungssystem eingesprochen worden ist.Furthermore, it is assumed that three representational utterances are available, that is to say that the speech utterance has been spoken three times by the user into the speech recognition system.

Erfindungsgemäß ist eine Computer-Variable vorgesehen, die die Anzahl von Eingaben einer Sprachäußerung in das Spracherkennungssystem, anders ausgedrückt, die Anzahl vonAccording to the invention, a computer variable is provided which determines the number of inputs of a speech utterance into the speech recognition system, in other words, the number of

Repräsentanz-Äußerungen angibt, welche Variable für jede neue Repräsentanz-Äußerung inkrementiert wird. Nach erfolgtem Einsprechen der ersten Äußerung werden der dritte Zyklus 507 durchgeführt, die erste Äußerung als Repräsentanz-Äußerung in einem Zwischenspeicher zwischengespeichert und der Wert der oben beschriebenen Computer-Variable um den Wert „1" erhöht. In dem Fall, in dem der Wert der Computer-Variable gleich „3" ist, wird die im Folgenden näher erläuterte Vorgehensweise gestartet, bei der überprüft wird, ob die Äußerung als neuer Listeneintrag in dem elektronischen Wörterbuch gespeichert wird oder ob die gewünschte Äußerung in dem elektronischen Wörterbuch nicht gespeichert werden kann.Representative utterances indicate which variable is incremented for each new representative utterance. After the first utterance has been spoken, the third cycle 507 is carried out, the first utterance is temporarily stored in a buffer as a representative utterance, and the value of the computer variable described above is increased by the value “1”. In the case in which the value of the computer variable is "3", the procedure explained in more detail below is started, in which it is checked whether the utterance is stored as a new list entry in the electronic dictionary or whether the desired utterance is shown in cannot be saved in the electronic dictionary.

Anschaulich wird gemäß diesem Ausführungsbeispiel der Erfindung für eine als Listeneintrag einzutragende Äußerung überprüft, ob bei mehreren eingesprochenen Sprachsignalen zu einer gleichen Äußerung diese in einem Vergleichsraum ausreichend ähnlich zueinander sind und zumindest eine der Repräsentanz-Äußerungen der eingesprochenen Sprachsignale zu einer gleichen Sprachäußerung einen ausreichend großen Abstand von dem schon in dem Wörterbuch gespeicherten Wörtern oder Listeneinträgen aufweist und nur dann, wenn diese beiden Bedingungen erfüllt sind, wird das elektronische Wörterbuch um die neue eingesprochene Sprachäußerung ergänzt .In accordance with this exemplary embodiment of the invention, it is clearly checked for an utterance to be entered as a list entry whether several spoken-in speech signals for the same utterance are sufficiently similar in a comparison space and at least one of the representational utterances of the spoken-in speech signals for a same utterance is a sufficiently large distance of the words or list entries already stored in the dictionary and only if these two conditions are met, the electronic dictionary is supplemented by the new spoken utterance.

Auf diese Weise wird es ermöglicht, benutzerfreundlich und ressourcensparend ein elektronisches Wörterbuch für eine sprecherunabhängige Spracherkennung zu realisieren, wobei folgende Rahmenbedingungen angestrebt werden:In this way it is possible to implement an electronic dictionary for speaker-independent speech recognition in a user-friendly and resource-saving manner, the following framework conditions being sought:

• Es soll eine möglichst geringe Anzahl von Eintrags- Annahmen bei ungleichen akustischen Äußerungen erfolgen;• The smallest possible number of entry assumptions should take place in the event of unequal acoustic expressions;

• Es soll eine möglichst hohe Anzahl von Eintrags-Annahmen bei gleichen akustischen Äußerungen erfolgen;• The highest possible number of entry assumptions should be made with the same acoustic utterances;

• Es soll eine möglichst geringe Anzahl von zusätzlichen akustischen Ergänzungen erfolgen, was zu Ressourcenproblemen führen würde;• The number of additional acoustic additions should be as small as possible, which would lead to resource problems;

• Es soll ein Wortschatz gebildet werden, der eine möglichst hohe Erkennungsrate bietet .• A vocabulary should be formed which offers the highest possible recognition rate.

Anschaulich werden somit Ähnlichkeitsmaße oder Distanzmaße als Schwellwertparameter eingesetzt, womit unter Verwendung von statistischen Verfahren auch der optimale Bereich des Spracherkenners für eine vorgegebene Anzahl von in dem Wörterbuch enthaltenen Wörtern oder Listeneinträgen bestimmt werden kann.Clearly, similarity measures or distance measures are used as threshold value parameters, which means that, using statistical methods, the optimal range of the speech recognizer for a predetermined number of in the Dictionary contained words or list entries can be determined.

Zur Lösung des oben genannten Optimierungsproblems werden im Folgenden zwei Parameter eingeführt :To solve the optimization problem mentioned above, two parameters are introduced below:

• MIN_FOR_WORD : Dieser Parameter, im Weiteren auch bezeichnet als Intra-Ähnlichkeitswert , dient zur Bestimmung der Ähnlichkeit zwischen den Eintragskandidaten untereinander,• MIN_FOR_WORD: This parameter, also referred to below as the intra-similarity value, is used to determine the similarity between the entry candidates,

• MAX_TO_DICT: Dieser Parameter, im Weiteren auch als• MAX_TO_DICT: This parameter, hereinafter also as

Inter-Schwellwert bezeichnet, dient zur Bestimmung der Ähnlichkeit zwischen einem Eintragskandidaten und einem Eintrag des bereits vorhandenen Wortschatzes.The inter-threshold is used to determine the similarity between an entry candidate and an entry of the existing vocabulary.

Basierend auf der Annahme, dass die Variablen MIN_FOR_WORD und MAX_TO_DICT voneinander statistisch unabhängig sind werden die für die jeweilige Anwendung optimalen Schwellwerte jeweils unabhängig voneinander bestimmt, wobei die Bestimmung der Schwellwerte in einer Trainingsphase erfolgt . Die in der Trainingsphase ermittelten Schwellwerte werden im Betrieb entsprechend als konstante Werte verwendet.Based on the assumption that the variables MIN_FOR_WORD and MAX_TO_DICT are statistically independent of one another, the optimal threshold values for the respective application are determined independently of one another, the threshold values being determined in a training phase. The threshold values determined in the training phase are accordingly used as constant values in operation.

Das Trainingsverfahren zum Ermitteln der Schwellwerte wird im Folgenden für den konkreten Fall von zwei Eintragskandidaten erklärt. Es ist jedoch darauf hinzuweisen, dass das Verfahren auf eine beliebige Anzahl von Eintragskandidaten für eine Sprachäußerung anwendbar ist.The training procedure for determining the threshold values is explained below for the specific case of two entry candidates. However, it should be pointed out that the method can be applied to any number of entry candidates for a speech utterance.

Darüber hinaus wird die Zahl der sprecherabhängigen Einträge auf N festgesetzt.In addition, the number of speaker-dependent entries is set to N.

Als Ähnlichkeitsmaß wird im Weiteren die Distanz d(s_,sj) verwendet. Die Distanz d(sj_,sj) ist ein Maß für den Abstand zwischen den Phonemfolgen s^ und SJ . Gemäß diesem Ausführungsbeispiel wird eine normierte Distanz verwendet, da die Phonemketten auch ungleiche Längen aufweisen können.The distance d (s_, s j ) is used as a measure of similarity. The distance d (sj_, sj) is a measure of the distance between the phoneme sequences s ^ and SJ. According to this In the exemplary embodiment, a standardized distance is used, since the phoneme chains can also have unequal lengths.

Als Distanzmaß kann grundsätzlich ein beliebiges Maß, welches geeignet ist zum Bestimmen eines Abstandes zwischen zwei Symbolketten, das heißt anschaulich zwischen zwei Folgen lautsprachlicher Einheiten, gemäß diesem Ausführungsbeispiel zwischen zwei Phonemfolgen, beispielsweise das so genannte Levenstein-Abstandsmaß oder auch der so genannte Mahalanobis- Abstand, eingesetzt werden.In principle, any measure that is suitable for determining a distance between two symbol chains, that is to say clearly between two sequences of spoken units, according to this exemplary embodiment, between two phoneme sequences, for example the so-called Levenstein distance measure or the so-called Mahalanobis distance, can be used as a distance measure , are used.

Ferner kann jede beliebige Vergleichsnorm verwendet werden, die obige Anforderung erfüllt.Any comparison standard that meets the above requirement can also be used.

Zunächst wird zur Bestimmung des Intra-Schwellwerts sowohl die Akzeptanzrate (AR) also die Falsch-Akzeptanzrate (FAR) ermittelt .First, both the acceptance rate (AR) and the false acceptance rate (FAR) are determined to determine the intra-threshold value.

Eine Schwellwertvariable T nimmt in diesem Fall Zahlen aus dem Wertebereich des Intra-Schwellwerts MIN_FOR_WORD an. Für jede Realisierung der Schwellwertvariable T werden somit unter Verwendung einer Schleife, welche alle N Einträge einschließt, die Funktionswerte AR(T) und FAR(T) bestimmt.In this case, a threshold value variable T takes numbers from the range of values of the intra-threshold value MIN_FOR_WORD. For each realization of the threshold value variable T, the function values AR (T) and FAR (T) are determined using a loop that includes all N entries.

Für beide Funktionen wird anschließend der Funktionsverlauf über die Schwellwertvariable T aufgetragen. Der optimale Intra-Schwellwert MIN_FOR_WORD* wird durch Auswertung eines im Weiteren näher erläuterten Optimalitätskriterium bestimmt.The function curve is then plotted for both functions using the threshold value variable T. The optimal intra-threshold value MIN_FOR_WORD * is determined by evaluating an optimality criterion which is explained in more detail below.

Zunächst wird die Akzeptanzrate AR für gleiche akustischeFirst, the acceptance rate AR for the same acoustic

Sprachäußerungen, das heißt für den Fall, dass s = SJ ist, berechnet .Expressions of speech, that is to say in the event that s = SJ, are calculated.

Im statistischen Durchschnitt sollten in diesem Fall die relativen Distanzen d(s ,sj) zwischen den Eintragskandidaten nur kleine Werte annehmen, das heißt die Distanz sollte gegen den Wert „0" gehen. Für einen kleinen Schwellwertvariablenwert T können die Werte der Distanz d(si,Sj) jedoch den Schwellwertvariablenwert T übersteigen, womit die Akzeptanzrate gering wäre. Für einen großen Schwellwertvariablenwert T nimmt die Akzeptanzrate jedoch relativ schnell zu.In this case, on a statistical average, the relative distances d (s, sj) between the entry candidates should only assume small values, ie the distance should go against the value "0". For a small one Threshold value variable value T, however, the values of the distance d (si, Sj) can exceed the threshold value variable value T, so that the acceptance rate would be low. For a large threshold variable value T, however, the acceptance rate increases relatively quickly.

Die Akzeptanzrate ergibt sich gemäß folgender Vorschrift:The acceptance rate results according to the following regulation:

AR(T) = ^AR(T) A R ( T ) = ^ AR (T)

NN

wobei mit N^R(T) die Anzahl der erfolgten Akzeptanzen für einen Schwellwertvariablenwert T bezeichnet wird.where N ^ R (T) is the number of acceptances for a threshold variable value T.

Als Akzeptanzbedingung wird folgende Vorschrift verwendet, dass ein Eintrittskandidat akzeptiert wird, wenn gilt:The following rule is used as an acceptance condition that an entry candidate is accepted if:

d(si,sj) < T. (19)d (si, sj) <T. (19)

Die Funktion AR(T) wird für einen kleinen Schwellwertvariablenwert T ebenfalls einen kleinen Wert annehmen, anschließend ergibt sich ein monoton wachsender Funktionsverlauf, bis die Sättigung der Funktion AR(T), das heißt AR(T = 1) , erreicht wird.The function AR (T) will also assume a small value for a small threshold value variable T, then a monotonically increasing function curve results until the saturation of the function AR (T), that is to say AR (T = 1), is reached.

Anschließend wird die Falsch-Akzeptanzrate (FAR) für ungleiche akustische Sprachäußerungen, das heißt für den Fall das gilt s± « SJ , berechnet.The false acceptance rate (FAR) for unequal acoustic utterances, that is to say in the event that s ± «SJ, is then calculated.

Im statistischen Durchschnitt sollten in diesem Fall die Werte der relativen Distanz d(si,Sj) zwischen denIn this case, the values of the relative distance d (si, S j ) between the

Eintragskandidaten größere Werte annehmen. Für einen kleinen Schwellwertvariablenwert T würde die Distanz d(si,sj) den Intra-Schwellwert oftmals übersteigen und somit ist die Falsch-Akzeptanzrate gering. Für einen größeren Schwellwertvariablenwert T nimmt die Falsch-Akzeptanzrate relativ langsam zu. Die Falsch-Akzeptanzrate wird in diesem Ausführungsbeispiel der Erfindung gemäß folgender Vorschrift ermittelt:Entry candidates accept larger values. For a small threshold variable value T, the distance d (si, sj) would often exceed the intra-threshold value and the false acceptance rate is therefore low. For a larger threshold variable value T, the false acceptance rate increases relatively slowly. The false acceptance rate is determined in this exemplary embodiment of the invention in accordance with the following regulation:

FAR(T) = AR(T) , (20)FAR (T) = AR (T) , (20)

NN

wobei mit NFAR(T) die Anzahl von Falsch-Akzeptanzen für einen Schwellwertvariablenwert T bezeichnet wird.where NFAR (T) denotes the number of false acceptances for a threshold variable value T.

Die Falsch-Akzeptanzbedingung gemäß diesem Ausführungsbeispiel lautet :The false acceptance condition according to this exemplary embodiment is:

Figure imgf000057_0001
Figure imgf000057_0001

Die Funktion FAR(T) wird ebenfalls für einen kleinenThe FAR (T) function is also used for a small one

Schwellwertvariablenwert T einen kleinen Wert annehmen und es ergibt sich auch in diesem Fall ein monoton steigender Funktionsverlauf .Threshold variable value T assume a small value and there is also a monotonically increasing function curve in this case.

Im Vergleich zu der Funktion FAR(T) wird die Sättigung aber, verglichen mit der Funktion AR(T), erst für einen größeren Schwellwertvariablenwert T eintreten. Somit entspricht das Funktionsbild beider Funktionen AR(T) und FAR(T) qualitativ ungefähr dem einer Hysteresis-Kurve.In comparison to the FAR (T) function, however, the saturation will only occur for a larger threshold value value T compared to the AR (T) function. Thus, the functional image of both functions AR (T) and FAR (T) corresponds roughly to that of a hysteresis curve.

Trägt man beide Funktionsverläufe gegen dieIf you wear both functions against the

Schwellwertvariable T als Parameter auf, so ergibt sich der optimale Intra-Schwellwert MIN_FOR_WORD* an der Stelle, an der beide Kurven der Funktionen AR(T) und FAR(T) den größten Abstand zueinander haben, wie dies in dem FunktionsdiagrammThreshold value variable T as a parameter, the optimal intra-threshold value MIN_FOR_WORD * is obtained at the point at which the two curves of the functions AR (T) and FAR (T) have the greatest distance from one another, as is the case in the function diagram

900 in Fig.9 skizziert ist, das heißt es gilt:900 is sketched in Fig. 9, that means:

MIN _ FOR _ WORD* = arg max|JAR(τ) - FAR(τ)|] . (22 )MIN _ FOR _ WORD * = arg max | JAR (τ) - FAR (τ) |]. (22)

TT

Anschließend wird der optimale Inter-Schwellwert berechnet.The optimal inter-threshold value is then calculated.

Bei dieser Berechnung sollte beachtet werden, dass nach jeder Abweisung einer einzutragenden Äußerung nach erfolgtem Vergleich mit dem Inhalt des elektronischen Wörterbuches eine akustische Ergänzung, das heißt ein erneutes Einsprechen der gleichen Äußerung durch den Benutzer angefordert werden sollte.With this calculation it should be noted that after each Rejection of an utterance to be entered after a comparison has been made with the content of the electronic dictionary, an acoustic addition, that is to say that the user should request the same utterance again.

Unter einer akustischen Ergänzung ist das Einsprechen eines zusätzlichen Parameters zu der eigentlich einzusprechenden Äußerung, beispielsweise für den Fall, dass die Äußerung ein Nachname einer Person ist, zusätzlich der Vorname derjenigen Person, zu verstehen.An acoustic addition is to be understood as speaking an additional parameter to the utterance to be spoken in, for example in the event that the utterance is a surname of a person, in addition the first name of that person.

Eine akustische Ergänzung ist erfindungsgemäß jedoch nicht unbedingt erforderlich, alternativ kann auch einfach der Antrag auf Eintragung der neuen Äußerung in das elektronische Wörterbuch zurückgewiesen werden oder die Zurückweisung kann nach einer vorgegebenen Anzahl von eingesprochenen Äußerungen, nach denen noch immer kein qualitativ ausreichend hochwertiges Signal vorliegt, zurückgewiesen werden.However, an acoustic addition is not absolutely necessary according to the invention; alternatively, the application for entry of the new utterance in the electronic dictionary can also be rejected or the rejection can be made after a predetermined number of spoken utterances, according to which there is still no sufficiently high-quality signal, be rejected.

Für die nachfolgende Erläuterung wird angenommen, dass nur ein Vergleich pro Eintrag zugelassen ist. Anders ausgedrückt bedeutet dies, dass die akustische Erweiterung gemäß dem im Folgenden beschriebenen Ausführungsbeispiel nicht vorgesehen ist.For the following explanation it is assumed that only one comparison per entry is permitted. In other words, the acoustic expansion according to the exemplary embodiment described below is not provided.

Findet man einen optimalen Schwellwert für diesen Fall, so wird auch die Anzahl der akustischen Ergänzungen auf ein vernünftiges Maß reduziert.If one finds an optimal threshold value for this case, the number of acoustic additions is reduced to a reasonable level.

Der Schwellwertvariablenwert T nimmt in diesem Fall Zahlen aus dem Wertebereich des Inter-Schwellwerts MAX_TO_DICT an.In this case, the threshold value variable T takes numbers from the range of values of the inter-threshold value MAX_TO_DICT.

Unter Verwendung der Unabhängigkeitsannahme, wie sie oben dargelegt wurde, kann zur Durchführung der zweitenUsing the independence assumption as set out above can be used to carry out the second

Optimierungsaufgabe der zuvor ermittelte Intra-Schwellwert MIN_FOR_WORD* eingesetzt werden. Zunächst wird auf den Inter-Schwellwert MIN_FOR_WORD* die Akzeptanzrate (ÄRA) gemessen.Optimization task, the previously determined intra-threshold value MIN_FOR_WORD * can be used. First, the acceptance rate (ERA) is measured on the inter-threshold value MIN_FOR_WORD *.

Für jeden Schwellwertvariablenwert T aus dem Wertebereich des Inter-Schwellwerts MAX_TO_DICT wird die relative Anzahl der sprecherabhängigen Einträge EAR(T) gemessen, das heißt EAR(T) ergibt sich gemäß folgender Vorschrift:The relative number of speaker-dependent entries EAR (T) is measured for each threshold value variable value T from the value range of the inter-threshold value MAX_TO_DICT, that is, EAR (T) results according to the following rule:

EAR(τ) = NEARW (23)EAR (τ) = N EARW (23 )

NN

wobei mit NEAR(T) die Anzahl der aufgenommenen Kandidaten für einen Schwellwertvariablenwert T bezeichnet wird.where NEAR (T) denotes the number of accepted candidates for a threshold variable value T.

Als Akzeptanzbedingung wird folgende Vorschrift verwendet :The following rule is used as an acceptance condition:

d(wk+ι, W) > T, (24)d (w k + ι, W)> T, (24)

wobei mitbeing with

• W der in dem Wörterbuch bereits gespeicherte Wortschatz, das heißt die gespeicherten Wörter oder die gespeicherten Listeneinträge (W = [wi, W2, W3 , ..., wj ) und • wjς+ι der neue Eintrag• W is the vocabulary already saved in the dictionary, that is the saved words or the saved list entries (W = [wi, W 2 , W 3 , ..., wj) and • wjς + ι the new entry

bezeichnet wird.referred to as.

Für einen kleinen Schwellwertvariablenwert T werden auch Einträge akzeptiert, welche nur einen geringen Abstand zum vorhandenen Wortschatz W in dem jeweiligen Vergleichsraum aufweisen. Für einen großen Schwellwertvariablenwert T hingegen werden kaum noch Einträge aufgenommen. Die Funktion EAR(T) weist somit einen monoton fallenden Verlauf auf. Anschließend wird die Erkennungsrate für den j eweils aktuellen Schwellwertvariablenwert T unter Verwendung des aktuellen Gesamtwortschatzes M (T) bestimmt .For a small threshold variable value T, entries are also accepted which are only a short distance from the existing vocabulary W in the respective comparison space. On the other hand, hardly any entries are made for a large threshold value variable T. The function EAR (T) thus has a monotonically falling course. The recognition rate for the current threshold value variable T is then determined using the current total vocabulary M (T).

In diesem Zusammenhang ist anzumerken, dass die Gesamtzahl von Einträgen im Wörterbuch abhängig ist von dem aktuellen Schwellwertvariablenwert T . Sind sprecherabhängige und sprecherunabhängige Einträge in dem j eweiligen gemeinsamen Wörterbuch vorhanden, so ergibt sich der Gesamt wort schätz M (T) aus der Summe der Anzahl der sprecherabhängigen Einträge und der sprecherunabhängigen Einträge . Die Erkennungsrate ER (T) ergibt sich somit gemäß folgender Vorschrift :In this context it should be noted that the total number of entries in the dictionary depends on the current threshold variable value T. If there are speaker-dependent and speaker-independent entries in the respective common dictionary, the total word estimate M (T) results from the sum of the number of speaker-dependent entries and the speaker-independent entries. The detection rate ER (T) thus results from the following rule:

ER(τ) = CRWÖ N ER (τ) = CRWÖ N

wobei mit CRW (T) die Anzahl der korrekt erkannten Wörter für einen Schwellwertvariablenwert T bezeichnet wird.where CR W (T) denotes the number of correctly recognized words for a threshold variable value T.

Für einen kleinen Schwellwertvariablenwert T werden relativ viele Einträge in das gemeinsame elektronische Wörterbuch aufgenommen, die Verwechslungsgefahr ist somit entsprechend hoch, die Worterkennungsrate dagegen relativ niedrig. Für einen großen Schwellwertvariablenwert T werden weniger Einträge zum Speichern in dem gemeinsamen Wörterbuch akzeptiert, womit jedoch aufgrund des zunehmenden Abstands der Einträge in dem Wortschatz untereinander die Erkennungsrate ER(T) zunimmt. Die Funktion ER(T) weist somit einen monoton steigenden Verlauf auf .For a small threshold variable value T, a relatively large number of entries are recorded in the common electronic dictionary, the risk of confusion is accordingly high, but the word recognition rate is relatively low. For a large threshold variable value T, fewer entries are accepted for storage in the common dictionary, but as a result of the increasing distance between the entries in the vocabulary, the recognition rate ER (T) increases. The function ER (T) thus has a monotonically increasing profile.

Zur Bestimmung des Optimalitätskriteriums ist anzumerken, dass die Forderung gilt, für ein festes N einen optimalen Bereich des Inter-Schwellwerts MAX_TO_DICT zu finden.To determine the optimality criterion, it should be noted that the requirement applies to find an optimal range of the inter-threshold value MAX_TO_DICT for a fixed N.

Somit wird ein Kompromiss zwischen der Anzahl der aufzunehmenden Einträge und der zugehörigen Erkennungsrate ER(T) erforderlich. Beobachtet man die Funktion EAR(T) bis nach Verlassen des Maximums, das heißt solange EAR(T) den Wert „1" aufweist, in welchem Bereich immer N Wörter aufgenommen werden zur Speicherung in dem elektronischen Wörterbuch, so kann die entsprechende Erkennungsrate ER(T) in Abhängigkeit von dem Schwellwertvariablenwert T mittels einfachen Ablesens oder mittels entsprechender automatisierter Auswertung ermittelt werden.A compromise between the number of entries to be recorded and the associated recognition rate ER (T) is therefore necessary. If the function EAR (T) is observed until after leaving the maximum, that is, as long as EAR (T) has the value “1”, in which area N words are always recorded for storage in the electronic dictionary, the corresponding recognition rate ER ( T) can be determined as a function of the threshold value variable T by means of simple reading or by means of an appropriate automated evaluation.

Es ist zu beachten, dass die Normierung der Erkennungsrate bis zum Verlassen des Maximums von EAR(T) auf den Wert M(T) = N erfolgt.It should be noted that the detection rate is normalized until the maximum is exceeded from EAR (T) to the value M (T) = N.

Demnach ergibt sich ein Arbeitsbereich für den Inter- Schwellwert MAX_TO_DICT, welcher zu niedrigen Werten des Schwellwertvariablenwert T von der minimalen Erkennungsrate ERMIN|N bei fest vorgegebener Anzahl von sprecherabhängigen Einträgen N in dem Wörterbuch begrenzt ist.This results in a working range for the inter-threshold value MAX_TO_DICT, which is limited to low values of the threshold value variable value T by the minimum recognition rate ER MIN | N with a fixed predetermined number of speaker-dependent entries N in the dictionary.

Diese Situation ist in dem Funktionsdiagramm 1000 in Fig.10 dargestellt. Nach oben wird der Inter-Schwellwert MAX_TO_DICT von der maximalen Erkennungsrate ERM^XIN bei einer fest vorgegebenen Anzahl sprecherabhängiger Einträge in dem Wörterbuch begrenzt.This situation is shown in the function diagram 1000 in FIG. 10. The inter-threshold MAX_TO_DICT is limited upwards by the maximum recognition rate ERM ^ XIN given a fixed number of speaker-dependent entries in the dictionary.

Für den Inter-Schwellwert MAX_TO_DICT uss somit gelten:The following therefore apply to the inter-threshold value MAX_TO_DICT uss:

Figure imgf000061_0001
Figure imgf000061_0001

Dieses erfindungsgemäße zweistufige statistische Verfahren weist den Vorteil auf, dass bei gegebener Anzahl von sprecherabhängigen Einträgen N ein Arbeitsbereich gefunden wird, in dem sich die Erkennungsrate bewegen kann.This two-stage statistical method according to the invention has the advantage that, given the number of speaker-dependent entries N, a work area is found in which the recognition rate can move.

Umgekehrt ist es ebenso möglich, eine minimale Erkennungsrate zu fordern und dann die maximale Anzahl von Einträgen, die zum Einspeichern in dem Wörterbuch zugelassen sind, zu ermitteln.Conversely, it is also possible to request a minimum recognition rate and then the maximum number of entries that are permitted to be stored in the dictionary.

In dem Sprachdialog-Zustand, in dem sprecherabhängige und sprecherunabhängige Einträge in dem Wörterbuch gespeichert sind, ist es möglich, neue benutzerdefiniert Namen, das heißt allgemein benutzerdefinierbare Äußerungen in dem Wörterbuch als Listeneintrag hinzuzufügen oder einen alten Listeneintrag aus dem Wörterbuch zu löschen.In the speech dialog state, in which speaker-dependent and speaker-independent entries are stored in the dictionary, it is possible to add new user-defined names, that is to say generally user-definable utterances in the dictionary, as a list entry or to delete an old list entry from the dictionary.

In beiden Fällen verwaltet der Mikroprozessor 110 die Datei, welche das Wörterbuch repräsentiert. Nachdem die Datei verändert worden ist, kann die Spracherkennungseinheit wieder zur Spracherkennung aktiviert werden.In both cases, the microprocessor 110 manages the file that represents the dictionary. After the file has been changed, the speech recognition unit can be activated again for speech recognition.

So lange der Sprachdialog fortgesetzt wird, wird der zweite Zyklus 503 wiederholt, in welchem Zyklus die Nachricht StartLoadHMMDictionary mit dem jeweiligen Kennzeichner, das heißt der ID versehen wird des jeweiligen definierten Wörterbuches, wobei anzumerken ist, dass die ID für die jeweilige Anwendung unverändert bleibt und somit zur Laufzeit nicht verändert werden kann.As long as the speech dialogue continues, the second cycle 503 is repeated, in which cycle the message StartLoadHMMDictionary is provided with the respective identifier, that is to say the ID of the respective defined dictionary, it should be noted that the ID remains unchanged for the respective application and cannot be changed at runtime.

Um einen neuen Eintrag in das elektronische Wörterbuch einzufügen bedeutet dies, dass für den ersten Schritt das elektronische Wörterbuch nicht geändert wird, weshalb der dritte Zyklus 507 durchgeführt wird, um in den aktuellen Sprachdialog-Zustand zurückzukehren.In order to insert a new entry into the electronic dictionary, this means that the electronic dictionary is not changed for the first step, which is why the third cycle 507 is carried out in order to return to the current speech dialog state.

Um eine neue Äußerung zu der sprecherabhängigen Liste in demTo make a new statement on the speaker dependent list in the

Wörterbuch hinzuzufügen, wird zunächst ein spezielles Wörterbuch geladen, nämlich das Phonem-Wörterbuch. Die Äußerung wird unter Verwendung der in dem Phonem-Wörterbuch gespeicherten Phoneme analysiert. Die Dateiverwaltung der Wδrterbuchdatei, welche sprecherabhängige Listeneinträge gespeichert hat, ist wie oben angegeben, eine Aufgabe des Mikroprozessors 110.To add a dictionary, a special dictionary is loaded, namely the phoneme dictionary. The utterance is analyzed using the phonemes stored in the phoneme dictionary. The file management of the dictionary file, which has saved speaker-dependent list entries, is a task of the microprocessor 110, as stated above.

Nach Erkennen eines Befehls, welches die Anwendung anstößt, einen Eintrag in dem Wörterbuch zu löschen oder dem Wörterbuch einen Eintrag hinzuzufügen, kann der Spracherkenner in den Pausezustand PAUSE 303 gesetzt werden oder er kann beendet werden (Schritt 505) .After recognizing a command which triggers the application to delete an entry in the dictionary or to add an entry to the dictionary, the speech recognizer can be put into the pause state PAUSE 303 or it can be ended (step 505).

Dann kann die Dateiverwaltung durchgeführt werden.Then the file management can be done.

Der Prozess der Dateiverwaltung, im Rahmen dessen auf das Wörterbuch zugegriffen wird, startet, indem die sprecherabhängige eingesprochene Äußerung mit allen in dem Wörterbuch gespeicherten Einträgen verglichen wird, sowohl mit den sprecherabhängigen Einträgen als auch mit den sprecherunabhängigen Einträgen.The file management process in which the dictionary is accessed starts by comparing the speaker-dependent spoken utterance with all entries stored in the dictionary, both with the speaker-dependent entries and with the speaker-independent entries.

In dem Fall, in dem ein Eintrag aus dem Wörterbuch gelöscht werden soll, wird der entsprechende Eintrag in dem gesamten Wörterbuch gesucht .In the event that an entry is to be deleted from the dictionary, the corresponding entry is searched in the entire dictionary.

Die Dateiverwaltung ist verantwortlich für das Löschen der Einträge oder das Ändern irgendwelcher Einträge nur in der sprecherabhängigen Liste von Einträgen in dem Wörterbuch.The file manager is responsible for deleting the entries or changing any entries only in the speaker-dependent list of entries in the dictionary.

Im Rahmen der Dateiverwaltung ist dem Mikroprozessor 110 die für das Wörterbuch zur Verfügung stehende Speichergrδße bekannt, das heißt insbesondere ist dem Mikroprozessor 110 bekannt, an welcher Stelle des Speichers 111 die sprecherabhängige Liste beginnt und an welcher sie endet .In the context of file management, the microprocessor 110 knows the memory size available for the dictionary, that is to say in particular the microprocessor 110 knows at which point in the memory 111 the speaker-dependent list begins and at which it ends.

In dem Fall, in dem der Speicher 111 voll belegt ist oder anders ausgedrückt, in dem Fall, in dem nicht genugIn the case where the memory 111 is full, or in other words, in the case where not enough

Speicherplatz für das Aufnehmen einer neuen Äußerung in dem Speicher 111 enthalten ist, wird der Antrag auf Eintragen einer neuen Äußerung zurückgewiesen.Space to record a new utterance in the Memory 111 is included, the request to register a new statement is rejected.

Die Zurückweisung kann unter Verwendung spezieller Sprach- Prompts, beispielsweise vordefinierter und aufgenommener Sprach-Prompts für die unterschiedlichen Fälle erfolgen:The rejection can be done using special voice prompts, for example predefined and recorded voice prompts for the different cases:

• Ein dem Benutzer auszugebender möglicher Sprach-Prompt für den Fall, dass eine eigentlich als Befehl gedachte Eingabe nicht als ein Wort erkannt wurde, das in dem Wörterbuch enthalten ist, ist: "Wie bitte?"A possible language prompt to be output to the user in the event that an input which was actually intended as a command was not recognized as a word which is contained in the dictionary is: "What?"

• Für den Fall, dass die Äußerung, die dem Wörterbuch hinzugefügt werden soll, schon in dem Wörterbuch vorhanden ist, ist ein dem Benutzer auszugebender möglicher Sprach-Prompt:• In the event that the utterance that is to be added to the dictionary already exists in the dictionary, a possible language prompt to be output to the user is:

"[Eintrag] ist schon verfügbar.""[Entry] is already available."

• Für den Fall, dass kein Speicherplatz mehr verfügbar ist, ist ein dem Benutzer auszugebender möglicher Sprach-Prompt : " [Liste] ist voll."• In the event that there is no more storage space available, a possible voice prompt to be output to the user is: "[List] is full."

Im Folgenden ist ein Beispiel für eine solche Verwaltung in einer Metasprache in einem C-Pseudocode angegeben: The following is an example of such administration in a metalanguage in a C pseudo code:

StartDiatσguö(HStartDiatσguö (H

State_1 (Actlon) { // Dialogue atate 1, basic State cycleJJ (HMMHyρothtssisStab!e(RβcResult)) = true) thβπ { case(State_1 (Actlon) {// Dialogue atate 1, basic State cycleJJ (HMMHyρothtssisStab! E (RβcResult)) = true) thβπ {case (

RecResult» CD-Player : Actlαn « goto state ä; da b,a RecResu!t=*Täpe : Actlon » goto statβ._3j do c,a ReeResuttβ Radio : Acft» « state_4; do d,a RecResult ~ Telephone : AcliOπ - goto state Sϊ da e,a RecResuit» eancel : Action « StopHM SRFIawgraph; do fRecResult »CD-Player: Actlαn« goto state ä; da b, a RecResu! t = * Täpe: Actlon »goto statβ._3j do c, a ReeResuttβ Radio: Acft» «state_4; do d, a RecResult ~ Telephone: AcliOπ - goto state Sϊ da e, a RecResuit »eancel: Action« StopHM SRFIawgraph; do f

))

}}

}}

} do (Action)} do (action)

do l,m,t da ιt,a stαfdo l, m, t da ιt, a stαf

do fdo f

( do u,s

Figure imgf000065_0001
(do u, s
Figure imgf000065_0001

} dα<AcUαn) Im Folgenden wird ein erstes Ausführungsbeispiel für einen konkreten Sprachdialog näher erläutert .} dα <AcUαn) A first exemplary embodiment for a concrete speech dialogue is explained in more detail below.

Es werden unterschiedliche Sprachdialog-Zustände angegeben und es werden die Aktionen des Systems aufgezeigt, die nach Erkennen eines definierten Befehls durchgeführt werden.Different speech dialog states are specified and the actions of the system are shown, which are carried out after recognizing a defined command.

Der Sprachdialog gemäß diesem Ausführungsbeispiel der Erfindung ist ein vereinfachter schematischer Telefon- Sprachdialog.The voice dialogue according to this exemplary embodiment of the invention is a simplified schematic telephone voice dialogue.

In den Fig.llA und Fig.llB sind in einer ersten Tabelle 1100 die gemäß diesem Ausführungsbeispiel definierten Sprach- Prompts (Fig.llA) aufgeführt und in der in Fig.l2B gezeigten Tabelle 1101 zusätzliche Systemreaktionen.In FIGS. 11A and 11B, the speech prompts (FIG. 11A) defined according to this exemplary embodiment are listed in a first table 1100 and additional system reactions in table 1101 shown in FIG. 12B.

Unter einem Sprach-Prompt ist eine vordefinierte Äußerung des Systems zu verstehen, die entweder eine zuvor aufgenommene und einfach nur von dem Rechner 108 wiedergegebene Sprachäußerung eines Systemverwalters darstellt oder es kann ein synthetisiertes Sprachsignal sein, welches aus textueller Information zu einem Sprachsignal mittels des Rechners 108 umgewandelt wurde .A voice prompt is to be understood as a predefined utterance of the system, which either represents a voice utterance of a system administrator that has previously been recorded and is simply reproduced by the computer 108, or it can be a synthesized voice signal that is generated from textual information about a voice signal by the computer 108 was converted.

Unter der zusätzlichen Systemreaktion sind Aktionen desActions of the are under the additional system reaction

Systems zu verstehen, nachdem ein spezieller Befehl von dem Spracherkenner erkannt worden ist.Systems to understand after a special command has been recognized by the speech recognizer.

Fig.12 zeigt ein HMM-Zustandsdiagramm 1200 für einen ersten Zustand 0, in dem die HMMs noch nicht gestartet sind.12 shows an HMM state diagram 1200 for a first state 0 in which the HMMs have not yet started.

Das Zustandsdiagramm 1200 ist derart zu verstehen, dass nach Erhalt des Befehls 1201 StartHMMSRFlowgraph 1202 die Aktion 1203 des Zustandsübergangs 1204 in den zweiten Zustand sowie die Ausgabe 1205 des Sprach-Prompts <a> erfolgt, das heißt die Ausgabe des Pieptons mittels des Lautsprechers 121. Fig.l3A zeigt ein HMM-Zustandsdiagramm 1300 für den zweiten Zustand 1 sowie Fig.l3B das zugehörige Ablaufdiagramm.The state diagram 1200 is to be understood in such a way that after receipt of the command 1201 StartHMMSRFlowgraph 1202, the action 1203 of the state transition 1204 into the second state and the output 1205 of the voice prompt <a>, that is to say the output of the beep by means of the loudspeaker 121. FIG. 13A shows an HMM state diagram 1300 for the second state 1 and FIG. 13B shows the associated flow diagram.

Wie dem Sprachdialog-Zustandsdiagramm 1300 zu entnehmen ist, weist das Wörterbuch in diesem zweiten HMM-Zustand 1 folgende Einträge auf: "CD-Spieler, Kassettenrekorder, Radio, Telefon, Abbrechen", anders ausgedrückt, der Spracherkenner lädt in dem zweiten Sprachdialog-Zustand 1 dieses Wörterbuch und kann auch nur die Wörter erkennen, die in diesem elektronischen Wörterbuch enthalten sind.As can be seen from the speech dialog state diagram 1300, the dictionary in this second HMM state 1 has the following entries: "CD player, cassette recorder, radio, telephone, cancel", in other words, the speech recognizer loads in the second speech dialogue state 1 this dictionary and can only recognize the words contained in this electronic dictionary.

Erkennt der Spracherkenner die empfangenen Worte als einen Befehl, wie sie in der Befehlsliste in dem Sprachdialog- Zustandsdiagramm 1300 enthalten sind, so wird ein entsprechender Zustandsübergang initiiert in einen nächsten Folgezustand, wobei die Sprachdialog-Zustände 2, 3 und 4 im Weiteren aus Gründen der Übersichtlichkeit nicht näher erläutert werden.If the speech recognizer recognizes the received words as a command as they are contained in the command list in the speech dialog state diagram 1300, a corresponding state transition is initiated in a next subsequent state, the speech dialogue states 2, 3 and 4 being further explained for reasons of Clarity can not be explained in more detail.

Es wird somit ohne Einschränkung der Allgemeingültigkeit im Folgenden lediglich der Sprachdialog hinsichtlich der Telefon-Anwendung näher erläutert, das heißt die Verzweigung des Sprachdialogs für den Fall, wenn der Befehl "Telefon" erkannt wurde und somit in den sechsten Sprachdialog-Zustand 5, wie er in dem Sprachdialog-Zustandsdiagramm 1400 inThus, without restricting the generality, only the voice dialog with regard to the telephone application is explained in more detail below, that is to say the branching of the voice dialog for the case when the "telephone" command has been recognized and thus into the sixth voice dialog state 5 as it is in the speech dialog state diagram 1400 in

Fig.l4A und dem zugehörigen Ablaufdiagramm 1410 in Fig.l4B dargestellt ist.Fig. 14A and the associated flow diagram 1410 is shown in Fig. 14B.

Das Wörterbuch des sechsten Sprachdialog-Zustands 5 weist folgende Begriffe auf: "Nummer, Wählen, Name, Speichern, Löschen, Abbrechen" als Basiseinträge, das heißt als sprecherunabhängige Einträge und eine Liste von sprecherabhängigen Einträgen, in Fig.l4A bezeichnet mit <Name>.The dictionary of the sixth speech dialog state 5 has the following terms: "Number, Dial, Name, Save, Delete, Cancel" as basic entries, that is to say as speaker-independent entries and a list of speaker-dependent entries, designated in FIG. 14A with <name> ,

Für den Fall, dass der Befehl "Wähle Nummer" von einem Benutzer eingegeben und von dem Spracherkenner erkannt wurde, wird in einen siebten Sprachdialog-Zustand 6 verzweigt und es werden die Sprach-Prompts <g> und <a> ausgegeben.In the event that the "dial number" command has been entered by a user and recognized by the speech recognizer, is branched into a seventh speech dialog state 6 and the speech prompts <g> and <a> are output.

Das Sprachdialog-Zustandsdiagramm 1500 für den siebten Sprachdialog-Zustand 6 ist in Fig.l5A und das dazugehörige Ablaufdiagramm 1510 in Fig.l5B dargestellt.The speech dialogue state diagram 1500 for the seventh speech dialogue state 6 is shown in FIG. 15A and the associated flow diagram 1510 in FIG. 15B.

Das Wörterbuch in dem siebten Sprachdialog-Zustand 6 weist folgende Einträge auf: "Null, Eins, Zwei, Drei, Vier, Fünf, Sechs, Sieben, Acht, Neun, Wählen, Abbrechen", welche Worte in dem siebten Sprachdialog-Zustand 6 von dem sprecherunabhängigen Spracherkenner erkannt werden können.The dictionary in the seventh speech dialog state 6 has the following entries: "zero, one, two, three, four, five, six, seven, eight, nine, dial, cancel", which words in the seventh speech dialog state 6 of the speaker-independent speech recognizer can be recognized.

Je nachdem, welcher Befehl von dem Spracherkenner erkannt wird, wird entweder in dem siebten Sprachdialog-Zustand 6 verharrt, beispielsweise in dem Fall, wenn Ziffern erkannt werden, welche zwischengespeichert werden oder es wird in den ersten Zustand 0 übergegangen für den Fall, dass der Befehl "Wähle" oder der Befehl "Abbrechen" erkannt wird.Depending on which command is recognized by the speech recognizer, either the seventh speech dialog state 6 remains, for example in the case when digits are recognized, which are temporarily stored or the first state 0 is entered in the event that the "Select" command or "Cancel" command is detected.

Für den Fall, dass in dem sechsten Sprachdialog-Zustand 5 der Befehl "Speicher Name" erkannt wurde, wird in den achten Sprachdialog-Zustand 7 verzweigt, welcher in dem Sprachdialog-Zustandsdiagramm 1600 in Fig.lδA und das zugehörige Abiaufdiagramm 1610 in Fig.16 dargestellt ist.In the event that the "memory name" command was recognized in the sixth speech dialog state 5, the system branches to the eighth speech dialog state 7, which is shown in the speech dialog state diagram 1600 in FIG. 1A and the associated sequence diagram 1610 in FIG. 16 is shown.

Für den achten Sprachdialog-Zustand 7 ist ein elektronisches Wörterbuch mit folgenden Einträgen vorgesehen: "Null, Eins, Zwei, Drei, Vier, Fünf, Sechs, Sieben, Acht, Neun, Wählen, Abbrechen".For the eighth speech dialog state 7, an electronic dictionary is provided with the following entries: "zero, one, two, three, four, five, six, seven, eight, nine, dial, cancel".

Ferner ist vorgesehen, dass in diesem Zustand im Wesentlichen drei Befehle erkannt und verarbeitet werden können, nämlich die Eingabe von einzelnen Ziffern, woraufhin in dem achten Sprachdialog-Zustand 7 verblieben wird und die jeweils erkannte Ziffer zwischengespeichert wird; den Befehl des Speicherns, woraufhin in einen im Weiteren näher erläuterten neunten Sprachdialog-Zustand 8 übergegangen wird unter Ausgabe des Sprach-Prompts <p> und des Pieptons <a> sowie den Befehl "Abbrechen", woraufhin in den ersten Sprachdialog- Zustand 0 übergegangen wird unter Ausgabe des Sprach-Prompts <f> (vgl . Fig.llA) .It is further provided that in this state essentially three commands can be recognized and processed, namely the input of individual digits, whereupon the eighth speech dialog state 7 remains and the respectively recognized digit is temporarily stored; the command to save, whereupon in a further explained the ninth voice dialog state 8 is changed to output the voice prompt <p> and the beep <a> and the command "Cancel", whereupon the first voice dialog state 0 is passed to output the voice prompt <f> (cf. Fig.llA).

Das Sprachdialog-Zustandsdiagramm 1700 des neunten Sprachdialog-Zustands 8 ist in Fig.l7A und das zugehörige Ablaufdiagramm 1710 ist in Fig.l7B dargestellt.The voice dialog state diagram 1700 of the ninth voice dialog state 8 is shown in Fig. 17A and the associated flow diagram 1710 is shown in Fig. 17B.

In dem neunten Sprachdialog-Zustand 8 wird ein eingegebener Name in eine Folge von Phonemen umgewandelt unter Verwendung des Phonem-Wörterbuches, welches das Wörterbuch des neunten Sprachdialog-Zustands darstellt.In the ninth speech dialog state 8, an input name is converted into a sequence of phonemes using the phoneme dictionary, which is the dictionary of the ninth speech dialogue state.

Nach Erkennen des Befehls <Name> wird in den zehnten Sprachdialog-Zustand 9 übergegangen, in dem der jeweilige Listeneintrag in dem elektronischen Wörterbuch gespeichert wird.After recognizing the command <name>, the tenth speech dialog state 9 is entered, in which the respective list entry is stored in the electronic dictionary.

Das Sprachdialog-Zustandsdiagramm 1800 für den zehnten Sprachdialog-Zustand 9 und das zugehörige Ablaufdiagramm 1810 sind in den Fig.lδA bzw. Fig.lβB dargestellt.The speech dialog state diagram 1800 for the tenth speech dialogue state 9 and the associated flow diagram 1810 are shown in FIGS. 1A and 1B.

Nach erfolgtem Speichern des Namens in dem elektronischen Wörterbuch wird in den ersten Sprachdialog-Zustand 0 übergegangen.After the name has been saved in the electronic dictionary, the transition to the first speech dialog state 0 takes place.

Im Folgenden wird ein zweites, vereinfachtes Ausführungsbeispiel der Erfindung näher erläutert.A second, simplified exemplary embodiment of the invention is explained in more detail below.

Fig.19 zeigt ein Sprachdialog-Zustandsdiagramm 1900 eines ersten Sprachdialog-Zustands 1 gemäß dem zweiten Ausführungsbeispiel der Erfindung. Das Wörterbuch des ersten Sprachdialog-Zustands 1 weist folgende Einträge auf: "Name, Speichern, Löschen, Wählen, Telefonbuch, Hilfe, Ja, Nein, Liste von Namen".19 shows a speech dialog state diagram 1900 of a first speech dialog state 1 according to the second exemplary embodiment of the invention. The dictionary of the first speech dialog state 1 has the following entries: "Name, Save, Delete, Dial, Phonebook, Help, Yes, No, List of Names".

Folgende Befehle 1902 sind in dem ersten Sprachdialog-Zustand 1 definiert und können von dem Spracherkenner erkannt werden: "Name speichern, <Name> löschen, <Name> wählen, Telefonbuch löschen, Ja, Nein, Hilfe".The following commands 1902 are defined in the first speech dialog state 1 and can be recognized by the speech recognizer: "Save name, delete <name>, select <name>, delete phone book, yes, no, help".

Die Befehle sind mit den entsprechenden, im Folgenden näher erläuterten Aktionen 1903 eindeutig verknüpft.The commands are clearly linked to the corresponding actions 1903, which are explained in more detail below.

So wird nach Erkennen des Befehls „Name speichern" in den zweiten Sprachdialog-Zustand 2 übergegangen und es wird das Phonem-Wörterbuch geladen. Ferner wird folgender Sprach- Prompt an den Benutzer ausgegeben: „Bitte sprechen Sie den Namen . "After the command "Save name" has been recognized, the system switches to the second speech dialog state 2 and the phoneme dictionary is loaded. The following voice prompt is also output to the user: "Please speak the name."

Wird der Befehl „<Name> löschen" erkannt, so wird kein Sprachdialog-Zustands-Ubergang durchgeführt, sondern es wird einerseits der Sprach-Prompt: „Wollen Sie wirklich <Name> löschen?" ausgegeben und es werden sowohl die Angabe als auch der Befehl „<Name> löschen" zwischengespeichert.If the command "delete <name>" is recognized, then no speech dialog state transition is carried out, but on the one hand the speech prompt: "Do you really want to delete <name>?" are output and both the specification and the command "Delete <name>" are buffered.

Wird der Befehl „<Name> wählen" erkannt, so wird wiederum nicht in einen anderen Sprachdialog-Zustand übergegangen und es wird folgender Sprach-Prompt ausgegeben: „Wollen Sie wirklich <Name> wählen?" und die Angaben von „<Name>" und von „<Name> wählen" werden zwischengespeichert.If the command "Select <name>" is recognized, the system does not change to another voice dialog state and the following voice prompt is output: "Do you really want to select <name>?" and the information of "<name>" and of "select <name>" are buffered.

Nach Erkennen des Befehls „Telefonbuch löschen" wird weiterhin ebenfalls in dem ersten Sprachdialog-Zustand 1 verharrt und es wird der Sprach-Prompt ausgegeben: „Wollen Sie wirklich das Telefonbuch löschen?" und der Befehl „Telefonbuch löschen" wird zwischengespeichert. Für den Fall, dass der Befehl „Ja" erkannt wird, wird ebenfalls in dem ersten Sprachdialog-Zustand 1 verharrt und es wird der in dem Zwischenspeicher zwischengespeicherte Befehl mit der zugehörigen Information ausgeführt und abhängig von dem jeweiligen zwischengespeicherten Befehl wird die Dateiverwaltung gestartet.After recognizing the command "delete phone book", the first voice dialog state 1 also remains and the voice prompt is output: "Do you really want to delete the phone book?" and the command "delete phone book" is cached. In the event that the "yes" command is recognized, the first speech dialog state 1 also remains, and the command temporarily stored in the buffer with the associated information is executed and, depending on the respective temporarily stored command, file management is started.

Beispielsweise wird für den Fall, dass der Befehl „<Name> löschen" zwischengespeichert ist der zwischengespeicherte „<Name>" aus dem Wörterbuch, das heißt der Namensliste, gelöscht. Ferner wird das Basiswörterbuch erneut geladen.For example, in the event that the "delete <name>" command is cached, the cached "<name>" is deleted from the dictionary, that is, the list of names. The basic dictionary is also reloaded.

Ist der Befehl „<Name> wählen" zwischengespeichert, so wird die dem zwischengespeicherten „<Name>" zugehörige Ziffernfolge von dem Telefon gewählt, anders ausgedrückt, der Aktor steuert das Telefon derart, dass eine Kommunikationsverbindung zu dem Teilnehmer mit der zugehörigen Telefonnummer aufgebaut wird.If the command "select <name>" is temporarily stored, the sequence of digits belonging to the temporarily stored "<name>" is dialed by the telephone, in other words, the actuator controls the telephone in such a way that a communication connection to the subscriber with the associated telephone number is established ,

Ist der Befehl „Telefonbuch löschen" zwischengespeichert, so wird die gesamte „Liste", wie sie als Information ebenfalls zwischengespeichert ist, aus dem Wörterbuch gelöscht. Ferner wird das Basiswδrterbuch erneut geladen.If the command "delete phone book" is cached, the entire "list", as it is also cached as information, is deleted from the dictionary. The base dictionary is also reloaded.

Erkennt der Spracherkenner den Befehl „Nein", so wird in dem ersten Sprachdialog-Zustand verweilt und es werden als Aktionen der Speicher initialisiert und das Basiswörterbuch 1901 erneut geladen.If the speech recognizer recognizes the command "No", the first speech dialog state is lingered and the memory is initialized as actions and the basic dictionary 1901 is reloaded.

Für den Fall, dass der Befehl „Hilfe" erkannt wurde, so werden dem Benutzer alle in diesem Sprachdialog-Zustand verfügbaren Befehle grafisch zur Auswahl dargestellt .In the event that the "Help" command has been recognized, all commands available in this speech dialog state are graphically presented to the user for selection.

Fig.20 zeigt ein Sprachdialog-Zustandsdiagramm 2000 für einen zweiten Sprachdialog-Zustand 2 gemäß dem zweiten Ausführungsbeispiel der Erfindung. In dem Phonem-Wörterbuch 2001 sind die verfügbaren Phoneme gespeichert, als mögliche Befehle 2002 können die benutzerdefinierten Einträge <Name> erkannt werden und als Aktion 2003 eines erkannten Befehls ist vorgesehen, in dem zweiten Sprachdialog-Zustand zu verbleiben und die Zahl der erlaubten Versuche um den Wert 1 zu erhöhen, und für den Fall, dass die Zahl erlaubter Versuche überschritten wurde, in den ersten Sprachdialog-Zustand 1 überzugehen.20 shows a speech dialogue state diagram 2000 for a second speech dialogue state 2 according to the second exemplary embodiment of the invention. The available phonemes are stored in the phoneme dictionary 2001, the user-defined entries <name> can be recognized as possible commands 2002 and the action 2003 of a recognized command is intended to remain in the second speech dialog state and to change the number of allowed attempts to increase the value 1, and in the event that the number of permitted attempts has been exceeded, to change to the first speech dialog state 1.

Ist keine Äußerung in dem zweiten Sprachdialog-Zustand in dem Zwischenspeicher zwischengespeichert, so wird die erste Phonemfolge, das heißt die erste Äußerung, zwischengespeichert. Ist jedoch schon eine Äußerung in dem Zwischenspeicher zwischengespeichert, so wird die Äußerung als zweite Äußerung in Form einer zweiten Phonemkette zwischengespeichert .If no utterance is temporarily stored in the buffer in the second speech dialog state, the first phoneme sequence, that is to say the first utterance, is buffered. However, if an utterance has already been buffered in the buffer, the utterance is buffered as a second utterance in the form of a second phoneme chain.

Für den Fall, dass schon zwei Äußerungen zwischengespeichert worden sind, wird die eingesprochene Äußerung als dritte Äußerung in Form einer dritten Phonemkette zwischengespeichert und anschließend wird die Dateiverwaltung gestartet, welche folgende Verfahrensschritte durchführt:In the event that two utterances have already been cached, the uttered utterance is cached as a third utterance in the form of a third phoneme chain and file management is then started, which carries out the following method steps:

Zunächst erfolgt ein Matching der drei zwischengespeicherten Äußerungen. Für den Fall, dass kein Match der drei zwischengespeicherten Äußerungen erreicht wird, wird die Anforderung zurückgewiesen, der Zwischenspeicher geleert und die Aktionen des zweiten Sprachdialog-Zustandes 2003 werden erneut durchgeführt.First, the three cached statements are matched. In the event that no match of the three cached utterances is achieved, the request is rejected, the buffer is emptied and the actions of the second speech dialog state 2003 are carried out again.

Anschließend werden die zwei besten Äußerungen mit den in dem Wörterbuch enthaltenen Einträge verglichen. Wenn die Ähnlichkeit im Sinne der obigen Beschreibung unter Verwendung des Inter-Schwellwerts zu groß ist, wird der Antrag auf Eintragen eines zusätzlichen Namens in das Wörterbuch zurückgewiesen und der Zwischenspeicher wird geleert . In diesem Fall wird die Aktion 2003 des zweiten Sprachdialog- Zustandes erneut durchgeführt .The two best utterances are then compared with the entries contained in the dictionary. If the similarity in the sense of the above description using the inter-threshold is too great, the request for an additional name in the dictionary is rejected and the buffer is emptied. In In this case, the action 2003 of the second speech dialog state is carried out again.

Für den Fall, dass kein Match erzeugt werden konnte, wird überprüft, ob der Speicher schon voll belegt ist und für den Fall, dass der Speicher voll belegt ist, wird der Antrag auf Eintragen eines neuen benutzerdefinierten Eintrags in das Wörterbuch zurückgewiesen und es erfolgt ein Sprachdialog- Zustandsübergang in den ersten Sprachdialog-Zustand 1 und gleichzeitig wird das Basiswörterbuch geladen.In the event that a match could not be generated, a check is carried out to determine whether the memory is already fully occupied and, in the event that the memory is fully occupied, the request for the entry of a new user-defined entry in the dictionary is rejected and it is carried out Speech dialog state transition to the first speech dialog state 1 and at the same time the basic dictionary is loaded.

Für den Fall, dass ausreichend freier Speicherplatz verfügbar ist und die obigen Überprüfungen positiv verlaufen sind, wird der gewünschte benutzerdefinierte Eintrag als Listeneintrag dem Wörterbuch hinzugefügt. Als Sprach-Prompt wird in diesem Fall die beste akustische Repräsentation der eingegeben sprachlichen Äußerung gespeichert.In the event that sufficient free space is available and the above checks have been positive, the desired user-defined entry is added to the dictionary as a list entry. In this case, the best acoustic representation of the entered linguistic utterance is saved as a voice prompt.

Anschließend erfolgt ein Sprachdialog-Zustandsübergang in den im Folgenden näher erläuterten dritten Sprachdialog-Zustands 3 unter gleichzeitigem Laden eines Ziffern-Wörterbuches 2101, genauer des Wörterbuches, welches in dem dritten Sprachdialog-Zustand 3 verwendet wird.This is followed by a voice dialog state transition into the third voice dialog state 3, which is explained in more detail below, while simultaneously loading a number dictionary 2101, more precisely the dictionary which is used in the third voice dialog state 3.

Ein Sprachdialog-Zustandsdiagramm 2100 des dritten Sprachdialog-Zustands ist in Fig.21 dargestellt.A speech dialog state diagram 2100 of the third speech dialog state is shown in Fig. 21.

Das elektronische Wörterbuch 2101 des dritten Sprachdialog- Zustands 3 weist folgende Einträge auf: „Null, Eins, Zwei, Zwo, Drei, Vier, Fünf, Sechs, Sieben, Acht, Neun, Speichern, Korrektur, Zurück, Abbrechen, Hilfe".The electronic dictionary 2101 of the third speech dialog state 3 has the following entries: "zero, one, two, two, three, four, five, six, seven, eight, nine, save, correction, back, cancel, help".

Als Befehle 2102 sind folgende Befehlsketten von dem Spracherkenner erkennbar und interpretierbar: „<Ziffernblock>, Speichern, Korrektur, Zurück, Abbrechen, Hilfe". Wird der Befehl „<Ziffernblock>" erkannt, so werden die jeweils erkannten Ziffern in dem Zwischenspeicher zwischengespeichert und der Spracherkenner verbleibt in dem dritten Sprachdialog-Zustand 3.The following command chains can be recognized and interpreted by the speech recognizer as commands 2102: "<numeric keypad>, save, correction, back, cancel, help". If the command "<number block>" is recognized, the respectively recognized numbers are temporarily stored in the buffer and the speech recognizer remains in the third speech dialog state 3.

Wird der Befehl „Speichern" erkannt, so wird der Inhalt des Zwischenspeichers in der Liste von Telefonnummern gespeichert und es erfolgt ein Sprachdialog-Zustandsübergang in den ersten Sprachdialog-Zustand 1 unter gleichzeitigem Laden des Basis-Wörterbuches.If the "Save" command is recognized, the content of the buffer memory is saved in the list of telephone numbers and a speech dialog state transition takes place to the first speech dialog state 1 with simultaneous loading of the basic dictionary.

Bei Erkennen des Befehls „Korrektur" wird als Aktion 2103 der zeitlich zuletzt erkannte Ziffernblock, welcher im Zwischenspeicher zwischengespeichert ist, gelöscht. Ferner wird in dem dritten Sprachdialog-Zustand 3 verblieben.When the “correction” command is recognized, the last time that the numeric keypad, which is temporarily stored in the buffer, is deleted as action 2103. In addition, the third speech dialog state 3 remains.

Bei Erkennen des Befehls „Zurück" wird ebenfalls in dem dritten Sprachdialog-Zustand 3 verblieben und die in dem Zwischenspeicher zwischengespeicherte letzte Ziffer wird gelöscht.When the command “Back” is recognized, the third speech dialog state 3 also remains and the last digit buffered in the buffer is deleted.

Bei Erkennen des Befehls „Abbrechen" wird in den ersten Sprachdialog-Zustand 1 übergegangen unter gleichzeitigem Laden des Basis-Wörterbuches .When the "Cancel" command is recognized, the system switches to the first speech dialog state 1 while simultaneously loading the basic dictionary.

Bei Erkennen des Befehls „Hilfe" werden dem Benutzer wieder alle in dem dritten Sprachdialog-Zustand 3 verfügbaren Befehle zur Auswahl dargestellt.When the "Help" command is recognized, the user is again presented with all of the commands available in the third speech dialog state 3.

Fig.22 zeigt ein Mobilfunk-Telefongerät 2200, in dem die in Fig. 1 dargestellte Spracherkennungseinrichtung 100 integriert ist. Ferner kann in das Mobilfunk-Telefongerät 2200 ein PDA (Personal Digital Assistant) integriert sein sowie weitere Telekommunikations-Funktionen, wie beispielsweise das Senden und/oder Empfangen vonFIG. 22 shows a mobile radio telephone device 2200, in which the speech recognition device 100 shown in FIG. 1 is integrated. Furthermore, a PDA (Personal Digital Assistant) can be integrated into the mobile radio telephone device 2200 as well as further telecommunication functions, such as for example the sending and / or receiving of

Faxmitteilungen oder von SMS-Mitteilungen (Short Message Service-Mitteilungen) oder von MMS-Mitteilungen (Multimedia Message Service-Mitteilungen) . Ferner kann das Mobilfunk- Telefongerät 2200 um zusätzliche Multimediafunktionalitäten erweitert sein, beispielsweise kann eine Kamera in das Mobilfunk-Telefongerät 2200 integriert sein.Fax messages or SMS messages (Short Message Service messages) or MMS messages (Multimedia Message service messages). Furthermore, the mobile radio telephone device 2200 can be expanded by additional multimedia functionalities, for example a camera can be integrated in the mobile radio telephone device 2200.

Fig.23 zeigt ein Autoradio 2300, in dem (symbolisch in Fig.23 dargestellt) eine Vielzahl unterschiedlicher Komponenten integriert sind, so beispielsweise ein Navigationssystem 2301, ein CD-Spieler 2302, ein Kassettenrekorder 2303, ein Radio 2304, ein Telefongerät mit Freisprechanlage 2305 sowie die Spracherkennungseinrichtung 100, wie sie in Fig.l dargestellt ist. Die Information kann sowohl mittels der Spracherkennungseinrichtung 100 als auch über einen Bildschirm 2306 zwischen dem Benutzer und dem Autoradio 2300 ausgetauscht werden.Fig. 23 shows a car radio 2300 in which (symbolically shown in Fig. 23) a large number of different components are integrated, for example a navigation system 2301, a CD player 2302, a cassette recorder 2303, a radio 2304, a telephone device with hands-free system 2305 and the speech recognition device 100, as shown in Fig.l. The information can be exchanged between the user and the car radio 2300 both by means of the speech recognition device 100 and via a screen 2306.

Gerade zur Steuerung eines eine Vielzahl von unterschiedlichen Funktionalitäten bereitstellenden Systems, wie eines mit einer Vielzahl unterschiedlicher Funktionen versehenen Autoradios 2300 eignet sich die Erfindung sehr gut, da sehr flexibel und sprecherunabhängig eine beliebig komplizierte Sprachdialog-Struktur aufgebaut und realisiert werden kann. The invention is particularly suitable for controlling a system providing a multitude of different functionalities, such as a car radio 2300 provided with a multitude of different functions, since an arbitrarily complicated voice dialog structure can be set up and implemented very flexibly and independently of the speaker.

In diesem Dokument ist folgende Veröffentlichung zitiert:The following publication is cited in this document:

[1] E.G. Schukat-Talamazzini, Automatischer Spracherkennung, Grundlagen, statistische Modelle und effiziente Algorithmen, Vieweg Verlag, ISBN 3-528-05492-1, Seite 121 - 164, 1995[1] E.G. Schukat-Talamazzini, Automatic Speech Recognition, Fundamentals, Statistical Models and Efficient Algorithms, Vieweg Verlag, ISBN 3-528-05492-1, pages 121-164, 1995

[2] EP 0 797 185 Bl[2] EP 0 797 185 Bl

[3] DE 695 14 382 T2 [3] DE 695 14 382 T2

BezugszeichenlisteLIST OF REFERENCE NUMBERS

100 Spracherkennungseinrichtung100 speech recognition device

101 Sprachsignal101 voice signal

102 Mikrofon102 microphone

103 Aufgenommenes analoges Sprachsignal103 Recorded analog voice signal

104 Vorverarbeitung104 preprocessing

105 Vorverarbeitetes Sprachsignal105 Preprocessed voice signal

106 Analog-/Digital-Wandler106 analog / digital converter

107 Digitales Sprachsignal107 Digital voice signal

108 Rechner108 computers

109 Eingangsschnittstelle109 input interface

110 Mikroprozessor110 microprocessor

111 Speicher111 memory

112 Ausgangsschnittstelle112 output interface

113 Computerbus113 computer bus

114 Elektronisches Wörterbuch114 Electronic dictionary

115 Tastatur115 keyboard

116 Computermaus116 computer mouse

117 Kabel117 cables

118 Kabel118 cables

119 Funkverbindung 120 Funkverbindung119 radio connection 120 radio connection

121 Lautsprecher121 speakers

122 Aktor122 actuator

123 DSP123 DSP

200 Sprecherunabhängiges Wörterbuch200 speaker-independent dictionary

201 Basiseintrag201 basic entry

202 Sprecherabhängiges Wörterbuch202 Speaker dependent dictionary

203 Eintrag speicherabhängiges Wörterbuch203 Entry memory-dependent dictionary

204 Gemeinsames Wörterbuch204 Common dictionary

300 Spracherkenner-Zustandsdiagramm 301 Initialisierungszustand300 speech recognizer state diagram 301 initialization state

302 Stopp-Zustand 303 Pausen-Zustand 304 Betriebsmodus-Zustand 305 Verfahrensschritt 306 Verfahrensschritt 307 Verfahrensschritt 308 Verfahrensschritt302 Stop state 303 Pause state 304 operating mode state 305 method step 306 method step 307 method step 308 method step

309 Verfahrensschritt309 step

310 Verfahrensschritt310 step

311 Verfahrensschritt311 procedural step

312 Verfahrensschritt312 procedural step

313 Verfahrensschritt313 procedural step

314 Verfahrensschritt314 procedural step

400 Sprachdialog-Zustandsdiagramm400 speech dialog state diagram

401 zeitlich vorangegangener Sprachdialog-Zustand 402 Sprachdialog-Zustand X 403 Wörterbuch 404 Wort401 Voice dialog state preceding 402 Voice dialog state X 403 Dictionary 404 word

405 sprachabhängiger Listeneintrag405 language-dependent list entry

406 Befehl406 command

407 Befehlsantrag 408 Aktion407 command request 408 action

409 Aktionsantrag409 request for action

500 Ablaufdiagramm500 flowchart

501 Startzustand501 start state

502 Erster Zyklus502 First cycle

503 Zweiter Zyklus503 Second cycle

504 Erster Prüfschritt504 First test step

505 Ende-Zustand505 end state

506 Zweiter Prüfschritt506 Second test step

507 Dritter Prüfschritt507 Third test step

508 Dritter Zyklus508 Third cycle

509 Vierter Prüfschritt509 Fourth test step

600 Nachrichtenflussdiagramm600 message flow diagram

601 Nachricht StartHMMSRFlowgraph601 message StartHMMSRFlowgraph

602 Bestätigungsnachricht 603 Nachricht InitHMMSRParams602 confirmation message 603 InitHMMSRParams message

604 Bestätigungsnachricht604 confirmation message

605 Nachricht StartLoadHMMLDA605 Message StartLoadHMMLDA

606 Nachricht SMBRequestLoadHMMLDA606 Message SMBRequestLoadHMMLDA

607 Bestätigungsnachricht607 confirmation message

608 Nachricht StartLoadHMMDictionary608 Message StartLoadHMMDictionary

609 Nachricht SMBRequestLoadHMMDictionary609 Message SMBRequestLoadHMMDictionary

610 Bestätigungsnachricht610 confirmation message

611 Nachricht SMBRequestCodebookBlock611 Message SMBRequestCodebookBlock

612 Nachricht CodebookBlockLoadedAndSwitched612 CodebookBlockLoadedAndSwitched message

613 Nachricht SMBRequestCodebookBlock613 Message SMBRequestCodebookBlock

614 Nachricht CodebookBlockLoadedAndSwitched614 CodebookBlockLoadedAndSwitched message

615 Nachricht StartHMMSR615 Message StartHMMSR

616 Bestätigungsnachricht616 confirmation message

617 Nachricht SMBRequestCodebookBlock617 Message SMBRequestCodebookBlock

618 Nachricht CodebookBlockLoadedAndSwitched618 CodebookBlockLoadedAndSwitched message

619 Nachricht HMMHypothesisStable 620 Bestätigungsnachricht619 message HMMHypothesisStable 620 confirmation message

621 Nachricht PauseHMMSR621 Message pause HMMSR

622 Bestätigungsnachricht622 confirmation message

700 Nachrichtflussdiagramm700 message flow diagram

701 Nachricht SetHMMSearchParams701 message SetHMMSearchParams

702 Bestätigungsnachricht702 confirmation message

703 Nachricht StartLoadHMMDictionary703 Message StartLoadHMMDictionary

704 Nachricht SMBRequestLoadHMMDictionary 705 Bestätigungsnachricht704 message SMBRequestLoadHMMDictionary 705 confirmation message

706 Nachricht StartHMMSR706 message StartHMMSR

707 Bestätigungsnachricht707 confirmation message

708 Nachricht SMBRequestCodebookBlock708 Message SMBRequestCodebookBlock

709 Nachricht CodebookBlockLoadedAndSwitched709 Message CodebookBlockLoadedAndSwitched

710 Nachricht HMMHypothesisStable710 Message HMMHypothesisStable

711 Bestätigungsnachricht711 confirmation message

712 Nachricht PauseHMMSR712 Message break HMMSR

713 Bestätigungsnachricht713 confirmation message

800 Nachrichtenflussdiagramm 801 Nachricht StartHMMSR800 message flow diagram 801 message StartHMMSR

802 Bestätigungsnachricht802 confirmation message

803 Nachricht SMBRequestCodebookBlock803 Message SMBRequestCodebookBlock

804 Nachricht CodebookBlockLoadedAndSwitched804 Message CodebookBlockLoadedAndSwitched

805 Nachricht HMMHypothesisStable805 Message HMMHypothesisStable

806 Bestätigungsnachricht806 confirmation message

807 Nachricht PauseHMMSR807 Message break HMMSR

808 Bestätigungsnachricht808 confirmation message

900 Funktionsdiagramm900 functional diagram

1000 Funktionsdiagramm1000 function diagram

1100 Tabelle „Sprach-Prompts"1100 "Language Prompts" Table

1101 Tabelle „Zusätzliche Systemreaktionen"1101 Table "Additional system reactions"

1200 Sprachdialogzustandsdiagramm1200 speech dialog state diagram

1201 Befehl1201 command

1202 Befehlsantrag1202 Command request

1203 Aktion1203 action

1204 Aktionsantrag1204 Action request

1205 Aktionsantrag1205 Action request

1300 Sprachdialogzustandsdiagramm 1310 Ablaufdiagramm1300 Speech dialog state diagram 1310 Flow diagram

1400 Sprachdialogzustandsdiagramm 1410 Ablaufdiagramm1400 Speech dialog state diagram 1410 Flow diagram

1500 Sprachdialogzustandsdiagramm 1510 Ablaufdiagramm1500 Speech dialog state diagram 1510 Flow diagram

1600 Sprachdialogzustandsdiagramm 1610 Ablaufdiagramm1600 Speech dialog state diagram 1610 Flow diagram

1700 Sprachdialogzustandsdiagramm 1710 Ablaufdiagramm 1800 Sprachdialogzustandsdiagramm 1810 Ablaufdiagramm1700 Voice dialog state diagram 1710 Flow diagram 1800 speech dialog state diagram 1810 flow diagram

1900 Sprachdialogzustandsdiagramm1900 Speech dialog state diagram

1901 Wörterbuch1901 dictionary

1902 Befehlsliste1902 command list

1903 Aktionsliste1903 action list

2000 Sprachdialogzustandsdiagramm 2001 Vernehmwörterbuch2000 speech dialog state diagram 2001 interrogation dictionary

2002 Befehlsliste2002 command list

2003 Aktionsliste2003 action list

2100 Sprachdialogzustandsdiagramm2100 speech dialog state diagram

2101 Ziffernwörterbuch2101 number dictionary

2102 Befehlsliste2102 command list

2103 Aktionsliste2103 Action list

2200 Mobilfunktelefon2200 mobile phone

2300 Autoradio2300 car radio

2301 Navigationssystem2301 navigation system

2302 CD-Spieler2302 CD player

2303 Radio2303 radio

2304 Kassettenrekorder2304 tape recorder

2305 Telefon2305 phone

2306 Bildschirm 2306 screen

Claims

Patentansprüche claims 1. Spracherkennungseinrichtung mit1. Speech recognition device with • einer Spracherkennungseinheit, • einem mit der Spracherkennungseinheit gekoppelten elektronischen Wörterbuch, in dem die im Rahmen der Spracherkennung berücksichtigten Wörter gespeichert sind,A speech recognition unit, an electronic dictionary coupled to the speech recognition unit, in which the words taken into account in the context of the speech recognition are stored, • einer Wortabstands-Ermittlungseinheit zum Ermitteln der Ähnlichkeit einer ersten Äußerung zu mindestens einer zweiten Äußerung in einem Äußerungs-Vergleichsraum, wobei die erste Äußerung und die zweite Äußerung jeweils eine Folge lautsprachlicher Einheiten aufweisen,A word spacing determination unit for determining the similarity of a first utterance to at least one second utterance in an utterance comparison space, the first utterance and the second utterance each having a sequence of spoken units, • einer Wörterbuch-Ergänzungseinheit zum Ergänzen des elektronischen Wörterbuches um die erste Äußerung, abhängig von der ermittelten Ähnlichkeit der ersten Äußerung mit mindestens der zweiten Äußerung.A dictionary supplement unit for supplementing the electronic dictionary with the first utterance, depending on the determined similarity of the first utterance with at least the second utterance. 2. Spracherkennungseinrichtung gemäß Anspruch 1, • bei der die Wortähnlichkeits-Ermittlungseinheit eine2. Speech recognition device according to claim 1, • in which the word similarity determination unit is a Wörterbuchähnlichkeits-Ermittlungseinheit aufweist zum Ermitteln der Ähnlichkeit der ersten Äußerung mit der zweiten Äußerung,Dictionary similarity determination unit has to determine the similarity of the first utterance with the second utterance, • wobei die zweite Äußerung in dem elektronischen Wörterbuch gespeichert ist,Wherein the second utterance is stored in the electronic dictionary, • wobei die Spracherkennungseinrichtung derart eingerichtet ist, dass die erste Äußerung nur dann dem elektronischen Wörterbuch hinzugefügt wird, wenn die Ähnlichkeit der ersten Äußerung zu der zweiten Äußerung geringer ist als eine vorgegebene ersteWherein the speech recognition device is set up in such a way that the first utterance is only added to the electronic dictionary if the similarity of the first utterance to the second utterance is less than a predetermined first Ähnlichkeitsschwelle .Similarity threshold. 3. Spracherkennungseinrichtung gemäß Anspruch 1 oder 2 ,3. Speech recognition device according to claim 1 or 2, • bei der die Wortähnlichkeits-Ermittlungseinheit eine Äußerungsähnlichkeits-Ermittlungseinheit aufweist zumIn which the word similarity determination unit has an utterance similarity determination unit for Ermitteln der Ähnlichkeit der ersten Äußerung mit einer dritten Äußerung, • wobei die Spracherkennungseinrichtung derart eingerichtet ist, dass die erste Äußerung nur dann dem elektronischen Wörterbuch hinzugefügt wird, wenn die Ähnlichkeit der ersten Äußerung zu der dritten Äußerung größer ist als eine vorgegebene zweite Ähnlichkeitsschwelle .Determining the similarity of the first utterance to a third utterance, Wherein the speech recognition device is set up in such a way that the first utterance is only added to the electronic dictionary if the similarity of the first utterance to the third utterance is greater than a predetermined second similarity threshold. 4. Spracherkennungseinrichtung gemäß einem der Ansprüche 1 bis 3, bei der die Spracherkennungseinheit eingerichtet ist zur sprecherunabhängigen Spracherkennung4. Speech recognition device according to one of claims 1 to 3, in which the speech recognition unit is set up for speaker-independent speech recognition 5. Spracherkennungseinrichtung gemäß einem der Ansprüche 1 bis 4, • mit einer mit dem elektronischen Wörterbuch gekoppelten Sprachsignal-Abbildungseinheit zum Abbilden des von einem Benutzer eingesprochenen Sprachsignals auf eine Folge lautsprachlicher Einheiten, welche das Sprachsignal repräsentiert, • wobei die Folge lautsprachlicher Einheiten derart eingerichtet ist, dass sie von der Spracherkennungseinheit im Rahmen der sprecherunabhängigen Spracherkennung verarbeitet werden kann, • wobei die Folge lautsprachlicher Einheiten die erste Äußerung repräsentiert.5. Speech recognition device according to one of claims 1 to 4, • with a speech signal imaging unit coupled to the electronic dictionary for imaging the speech signal spoken by a user onto a sequence of spoken units representing the speech signal, • the sequence of spoken units being set up in this way that it can be processed by the speech recognition unit as part of the speaker-independent speech recognition, • the sequence of spoken units representing the first utterance. 6. Spracherkennungseinrichtung gemäß Anspruch 4 oder 5, bei der die Spracherkennungseinheit derart eingerichtet ist, dass die sprecherunabhängige Spracherkennung basierend auf folgenden Prinzipien erfolgt:6. Speech recognition device according to claim 4 or 5, in which the speech recognition unit is set up in such a way that the speaker-independent speech recognition is based on the following principles: • Spracherkennung mittels Hidden Markov Modellen,• Speech recognition using hidden Markov models, • Spracherkennung mittels statistischer Klassifikatoren, insbesondere mittels mindestens eines künstlichen Neuronalen Netzes.• Speech recognition using statistical classifiers, in particular using at least one artificial neural network. 7. Spracherkennungseinrichtung gemäß Anspruch 6, bei dem die Folge lautsprachlicher Einheiten von einer Phonemkette gebildet wird.7. Speech recognition device according to claim 6, in which the sequence of phonetic units is formed by a phoneme chain. 8. Spracherkennungseinrichtung gemäß einem der Ansprüche 1 bis 7, eingerichtet als ein Embedded System.8. Speech recognition device according to one of claims 1 to 7, set up as an embedded system. 9. Steuereinrichtung zum Steuern eines technischen Systems mit einer Spracherkennungseinrichtung gemäß einem der Ansprüche 1 bis 8, wobei in dem elektronischen Wörterbuch die zum Steuern des technischen Systems vorgesehenen Steuerbefehle gespeichert sind.9. Control device for controlling a technical system with a speech recognition device according to one of claims 1 to 8, wherein the control commands provided for controlling the technical system are stored in the electronic dictionary. 10. Telekommunikationsgerät mit einer Steuereinrichtung gemäß Anspruch 9.10. Telecommunication device with a control device according to claim 9. 11. Verfahren zum rechnergestützten Ergänzen eines elektronischen Wörterbuches für eine Spracherkennungseinheit zur Spracherkennung, in dem die im Rahmen der Spracherkennung berücksichtigten Wörter gespeichert sind,11. Method for the computer-aided addition of an electronic dictionary for a speech recognition unit for speech recognition, in which the words taken into account in the context of the speech recognition are stored, • bei dem für eine erste Äußerung die Ähnlichkeit zu mindestens einer zweiten Äußerung in einem Äußerungs- Vergleichsraum ermittelt wird, wobei die erste Äußerung und die zweite Äußerung jeweils eine Folge lautsprachlicher Einheiten aufweisen,In which, for a first utterance, the similarity to at least one second utterance is determined in an utterance comparison space, the first utterance and the second utterance each having a sequence of spoken units, • bei dem das elektronische Wörterbuch um die erste Äußerung ergänzt wird abhängig von der ermittelten Ähnlichkeit der ersten Äußerung mit mindestens der zweiten Äußerung.• in which the electronic dictionary is supplemented by the first utterance depending on the determined similarity of the first utterance with at least the second utterance. 12. Verfahren gemäß Anspruch 11,12. The method according to claim 11, • bei dem die Ähnlichkeit der ersten Äußerung mit der zweiten Äußerung ermittelt wird, wobei die zweite Äußerung in dem elektronischen Wörterbuch gespeichert ist,In which the similarity of the first utterance to the second utterance is determined, the second utterance being stored in the electronic dictionary, • bei dem die erste Äußerung nur dann dem elektronischen Wörterbuch hinzugefügt wird, wenn die Ähnlichkeit der ersten Äußerung zu der zweiten Äußerung geringer ist als eine vorgegebene erste Ähnlichkeitsschwelle.• where the first utterance is only added to the electronic dictionary if the similarity of the first utterance to the second utterance is less than a predetermined first similarity threshold. 13. Verfahren gemäß Anspruch 11 oder 12, • bei dem die Ähnlichkeit der ersten Äußerung mit einer dritten Äußerung ermittelt wird, • bei dem die erste Äußerung nur dann dem elektronischen Wörterbuch hinzugefügt wird, wenn die Ähnlichkeit der ersten Äußerung zu der dritten Äußerung größer ist als eine vorgegebene zweite Ähnlichkeitsschwelle.13. The method according to claim 11 or 12, • in which the similarity of the first utterance to a third utterance is determined, • in which the first utterance is only added to the electronic dictionary if the similarity of the first utterance to the third utterance is greater as a predetermined second similarity threshold. 14. Verfahren gemäß einem der Ansprüche 11 bis 13, bei dem zu mindestens einem von einem Benutzer eingesprochenen Sprachsignal eine Folge lautsprachlicher Einheiten, welche das Sprachsignal repräsentiert, als erste Äußerung gebildet wird, wobei die erste Äußerung derart eingerichtet ist, dass sie von der Spracherkennungseinheit im Rahmen einer sprecherunabhängigen Spracherkennung verarbeitet werden kann14. The method as claimed in one of claims 11 to 13, in which, for at least one speech signal spoken by a user, a sequence of spoken units, which represents the speech signal, is formed as the first utterance, the first utterance being set up in such a way that it is generated by the speech recognition unit can be processed as part of a speaker-independent speech recognition 15. Verfahren gemäß einem der Ansprüche 11 bis 14, eingesetzt zur Spracherkennung.15. The method according to any one of claims 11 to 14, used for speech recognition. 16. Verfahren gemäß Anspruch 15, eingesetzt zur sprecherunabhängigen Spracherkennung. 16. The method according to claim 15, used for speaker-independent speech recognition.
PCT/DE2003/003159 2002-09-23 2003-09-23 Voice recognition device, control device and method for computer-assisted completion of an electronic dictionary for a voice recognition device Ceased WO2004029930A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE2002144169 DE10244169A1 (en) 2002-09-23 2002-09-23 Speech recognition device, control device and method for computer-aided supplementing of an electronic dictionary for a speech recognition device
DE10244169.3 2002-09-23

Publications (1)

Publication Number Publication Date
WO2004029930A1 true WO2004029930A1 (en) 2004-04-08

Family

ID=31969428

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/DE2003/003159 Ceased WO2004029930A1 (en) 2002-09-23 2003-09-23 Voice recognition device, control device and method for computer-assisted completion of an electronic dictionary for a voice recognition device

Country Status (2)

Country Link
DE (1) DE10244169A1 (en)
WO (1) WO2004029930A1 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5754977A (en) * 1996-03-06 1998-05-19 Intervoice Limited Partnership System and method for preventing enrollment of confusable patterns in a reference database
US6185530B1 (en) * 1998-08-14 2001-02-06 International Business Machines Corporation Apparatus and methods for identifying potential acoustic confusibility among words in a speech recognition system
US20010003173A1 (en) * 1999-12-07 2001-06-07 Lg Electronics Inc. Method for increasing recognition rate in voice recognition system
EP1205908A2 (en) * 2000-11-07 2002-05-15 Canon Kabushiki Kaisha Pronunciation of new input words for speech processing

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0789901B1 (en) * 1994-11-01 2000-01-05 BRITISH TELECOMMUNICATIONS public limited company Speech recognition

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5754977A (en) * 1996-03-06 1998-05-19 Intervoice Limited Partnership System and method for preventing enrollment of confusable patterns in a reference database
US6185530B1 (en) * 1998-08-14 2001-02-06 International Business Machines Corporation Apparatus and methods for identifying potential acoustic confusibility among words in a speech recognition system
US20010003173A1 (en) * 1999-12-07 2001-06-07 Lg Electronics Inc. Method for increasing recognition rate in voice recognition system
EP1205908A2 (en) * 2000-11-07 2002-05-15 Canon Kabushiki Kaisha Pronunciation of new input words for speech processing

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
BURCHARD B ET AL: "A SINGLE CHIP PHONEME BASED HMM SPEECH RECOGNITION SYSTEM FOR CONSUMER APPLICATIONS", IEEE TRANSACTIONS ON CONSUMER ELECTRONICS, IEEE INC. NEW YORK, US, vol. 46, no. 3, August 2000 (2000-08-01), pages 914 - 919, XP001142922, ISSN: 0098-3063 *

Also Published As

Publication number Publication date
DE10244169A1 (en) 2004-04-01

Similar Documents

Publication Publication Date Title
DE102012212185B4 (en) Maintaining and providing language models
DE60111329T2 (en) Adapting the phonetic context to improve speech recognition
DE69919842T2 (en) LANGUAGE MODEL BASED ON THE LANGUAGE RECOGNITION HISTORY
DE69629763T2 (en) Method and device for determining triphone hidden markov models (HMM)
DE60005326T2 (en) DETECTION UNITS WITH COMPLEMENTARY LANGUAGE MODELS
DE60302407T2 (en) Ambient and speaker-adapted speech recognition
DE69827988T2 (en) Speech models for speech recognition
DE69425818T2 (en) SYSTEM AND METHOD FOR VOICE COMMAND CONTROL AND SPEAKER IDENTITY CHECK
DE60125542T2 (en) SYSTEM AND METHOD FOR VOICE RECOGNITION WITH A VARIETY OF LANGUAGE RECOGNITION DEVICES
DE69329855T2 (en) METHOD FOR DETECTING ALPHANUMERIC STRINGS SPEAKED ON A TELEPHONE NETWORK
DE69414752T2 (en) Speaker independent recognition system for isolated words using a neural network
DE602004012909T2 (en) A method and apparatus for modeling a speech recognition system and estimating a word error rate based on a text
DE102007033472A1 (en) Method for speech recognition
WO2005013261A1 (en) Speech recognition method, and communication device
DE60133537T2 (en) AUTOMATIC UMTRAINING OF A LANGUAGE RECOGNITION SYSTEM
DE102020215954A1 (en) DIALOGUE SYSTEM AND PROCEDURE FOR CONTROLLING THESE
DE60214850T2 (en) FOR A USER GROUP, SPECIFIC PATTERN PROCESSING SYSTEM
DE69636731T2 (en) System and method for recording names in a voice recognition database
DE69923026T2 (en) Speaker and environment adaptation on the basis of voice eigenvectors and the maximum likelihood method
DE69333762T2 (en) Voice recognition system
WO2001086634A1 (en) Method for creating a speech database for a target vocabulary in order to train a speech recognition system
EP3989057A1 (en) Adaptive speech assistant operable by a user using a user terminal
WO1993002448A1 (en) Method and device for recognizing individual words of spoken speech
DE102004017486A1 (en) Method for noise reduction in a voice input signal
WO2004029931A1 (en) Voice recognition device, control device and method for computer-assisted completion of an electronic dictionary for a voice recognition device

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A1

Designated state(s): CN US

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LU MC NL PT RO SE SI SK TR

121 Ep: the epo has been informed by wipo that ep was designated in this application
DFPE Request for preliminary examination filed prior to expiration of 19th month from priority date (pct application filed before 20040101)
122 Ep: pct application non-entry in european phase