DE102024201254B3 - Method and device for detecting a hands-off state on a steering wheel of a vehicle - Google Patents
Method and device for detecting a hands-off state on a steering wheel of a vehicle Download PDFInfo
- Publication number
- DE102024201254B3 DE102024201254B3 DE102024201254.8A DE102024201254A DE102024201254B3 DE 102024201254 B3 DE102024201254 B3 DE 102024201254B3 DE 102024201254 A DE102024201254 A DE 102024201254A DE 102024201254 B3 DE102024201254 B3 DE 102024201254B3
- Authority
- DE
- Germany
- Prior art keywords
- trained
- machine learning
- vehicle
- learning model
- component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
- B62D—MOTOR VEHICLES; TRAILERS
- B62D6/00—Arrangements for automatically controlling steering depending on driving conditions sensed and responded to, e.g. control circuits
- B62D6/007—Arrangements for automatically controlling steering depending on driving conditions sensed and responded to, e.g. control circuits adjustable by the driver, e.g. sport mode
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
- B62D—MOTOR VEHICLES; TRAILERS
- B62D15/00—Steering not otherwise provided for
- B62D15/02—Steering position indicators ; Steering position determination; Steering aids
- B62D15/025—Active steering aids, e.g. helping the driver by actively influencing the steering system after environment evaluation
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2510/00—Input parameters relating to a particular sub-units
- B60W2510/20—Steering systems
- B60W2510/202—Steering torque
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Mechanical Engineering (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Transportation (AREA)
- Chemical & Material Sciences (AREA)
- Combustion & Propulsion (AREA)
- Automation & Control Theory (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Traffic Control Systems (AREA)
Abstract
Die Erfindung betrifft ein Verfahren zum Erkennen eines Hands-Off-Zustands (6) an einem Lenkrad (51) eines Fahrzeugs (50), wobei mindestens eine Lenkungsgröße (4) an dem Lenkrad (51) erfasst wird, wobei die erfasste mindestens eine Lenkungsgröße (4) einem trainierten Maschinenlernmodell (5) als Eingangsdaten zugeführt wird, wobei das Maschinenlernmodell (5) darauf trainiert ist, einen Hands-Off-Zustand (6) ausgehend von zumindest der erfassten mindestens einen Lenkungsgröße (4) zu erkennen und eine zugehörige Zustandsgröße als Ausgangsdaten (20) auszugeben, wobei das trainierte Maschinenlernmodell (5) derart bereitgestellt wird, dass das trainierte Maschinenlernmodell (5) mindestens drei bezüglich eines Signalflusses aufeinander folgende Komponentenabschnitte (5-x) aufweist, wobei in einem ersten Komponentenabschnitt (5-1) eine trainierte Komponente (7-1) bereitstellt wird, wobei mindestens eine trainierte Komponente (5-2-x) in mindestens einem mittleren Komponentenabschnitt (5-2) korrespondierend mit einer Fahrzeugkonfiguration des Fahrzeugs (50) bereitgestellt wird, und wobei in einem letzten Komponentenabschnitt (5-3) eine trainierte Komponente (7-3-x) korrespondierend mit der Fahrzeugkonfiguration des Fahrzeugs (50) bereitgestellt wird. Ferner betrifft die Erfindung eine Vorrichtung (1) zum Erkennen eines Hands-Off-Zustands (6) an einem Lenkrad (51). The invention relates to a method for detecting a hands-off state (6) on a steering wheel (51) of a vehicle (50), wherein at least one steering variable (4) is detected on the steering wheel (51), wherein the detected at least one steering variable (4) is fed to a trained machine learning model (5) as input data, wherein the machine learning model (5) is trained to detect a hands-off state (6) based on at least the detected at least one steering variable (4) and to output an associated state variable as output data (20), wherein the trained machine learning model (5) is provided in such a way that the trained machine learning model (5) has at least three component sections (5-x) that follow one another with respect to a signal flow, wherein a trained component (7-1) is provided in a first component section (5-1), wherein at least one trained component (5-2-x) in at least one middle component section (5-2) corresponding to a vehicle configuration of the vehicle (50) is provided, and wherein in a last component section (5-3) a trained component (7-3-x) corresponding to the vehicle configuration of the vehicle (50) is provided. Furthermore, the invention relates to a device (1) for detecting a hands-off state (6) on a steering wheel (51).
Description
Die Erfindung betrifft ein Verfahren und eine Vorrichtung zum Erkennen eines Hands-Off-Zustands an einem Lenkrad eines Fahrzeugs. Ferner betrifft die Erfindung ein Verfahren und eine Vorrichtung zum Bereitstellen eines trainierten Maschinenlernmodells zum Erkennen eines Hands-Off-Zustands an einem Lenkrad eines Fahrzeugs. Weiter betrifft die Erfindung ein Verfahren und eine Vorrichtung zum Warten einer Gesamtheit aus in Fahrzeugen bereitgestellten zum Erkennen eines Hands-Off-Zustands trainierten Maschinenlernmodellen.The invention relates to a method and a device for detecting a hands-off state on a steering wheel of a vehicle. The invention also relates to a method and a device for providing a trained machine learning model for detecting a hands-off state on a steering wheel of a vehicle. The invention also relates to a method and a device for maintaining a totality of machine learning models provided in vehicles that have been trained to detect a hands-off state.
In Fahrzeugen werden zur Überwachung einer Fahreraktivität Sensoren, wie z.B. ein kapazitives Lenkrad, eingesetzt. Ein solches Lenkrad erkennt eine Berührung oder Nichtberührung („Hands-Off“) des Lenkrades durch den Fahrer mittels eines kapazitiven Sensors. Ein Ergebnis wird nutzenden Funktionen, wie z.B. einem Längs- und/oder Querführungsassistenzsystem, übermittelt. Aus der Berührung der Hände am Lenkrad kann auf eine Fahreraktivität und auf eine Aufmerksamkeit des Fahrers geschlossen werden. Es kann beispielsweise vorgesehen sein, den Fahrer darauf hinzuweisen, die Hände an das Lenkrad zu legen, sofern erkannt wird, dass die Hände während einer Querführung für eine vorgegebene Zeit nicht am Lenkrad waren.Sensors such as a capacitive steering wheel are used in vehicles to monitor driver activity. Such a steering wheel detects whether the driver has touched or not touched the steering wheel (“hands-off”) using a capacitive sensor. A result is transmitted to the functions used, such as a longitudinal and/or lateral guidance assistance system. Driver activity and driver attention can be determined from the touch of the hands on the steering wheel. For example, it can be intended to advise the driver to put their hands on the steering wheel if it is detected that the hands were not on the steering wheel for a specified time during lateral guidance.
Um zusätzliche Kosten für einen kapazitiven Sensor im Lenkrad zu sparen, ist es bekannt, die Fahreraktivität mit Hilfe von Maschinenlernmodellen, insbesondere mit Hilfe von künstlichen Neuronalen Netzen, ausgehend von einem am Lenkrad erfassten Drehmoment (Handmoment) zu überwachen. Ein solches Verfahren ist beispielsweise aus der
Eine große Herausforderung von lenkmomentbasierten Erkennungen besteht darin, im gemessenen (verrauschten) Lenkmoment das vom Fahrer induzierte Lenkmoment zu identifizieren. Viele Faktoren können zu einem verrauschten Lenkmoment führen, insbesondere eine Position des Sensors (dieser bildet in der Regel einen Teil des Lenkgetriebes bzw. der Lenkunterstützung, wodurch über die Elastizitäten der Lenksäule in Verbindung mit dem Lenkrad ein drehschwingungsfähiges System entsteht, dessen Eigendynamik die präzise Messung des durch den Fahrer induzierten Moments erschwert); eine Stärke der Reibung im Lenksystem; eine Rückanregung aus der Straße durch Unebenheiten; ein Eigengewicht des Lenkrads / des Lenksystems; eine Vibration des Lenkrads durch eine Assistenzfunktion (z.B. durch eine haptische Rückkopplung beim Verlassen der Fahrbahn).A major challenge of steering torque-based detection is to identify the steering torque induced by the driver in the measured (noisy) steering torque. Many factors can lead to a noisy steering torque, in particular a position of the sensor (this usually forms part of the steering gear or steering assistance, which creates a system capable of torsional vibration via the elasticity of the steering column in conjunction with the steering wheel, the inherent dynamics of which make it difficult to precisely measure the torque induced by the driver); a level of friction in the steering system; a re-excitation from the road due to unevenness; a dead weight of the steering wheel / steering system; a vibration of the steering wheel due to an assistance function (e.g. due to haptic feedback when leaving the lane).
Zudem können sich die Charakteristiken (die zur Hands-Off-Erkennung genutzt werden) des gemessen Lenkmoments durch äußere Einflüsse verändern, z.B. durch eine Temperatur, einen Beladungszustand des Fahrzeugs, das Vorhandensein eines Anhängers, einen Reifentyp und/oder einen Zustand des Reifens, eine Lenksystemveränderung über die Lebensdauer, eine Fahrbahn-Steigung/Neigung/Schräglage usw.In addition, the characteristics (used for hands-off detection) of the measured steering torque can change due to external influences, e.g. temperature, vehicle loading, the presence of a trailer, tire type and/or tire condition, steering system changes over the service life, road gradient/inclination/slant, etc.
Für eine möglichst robuste Erkennung des Hands-Off-Zustands ist es insbesondere nötig, dass alle genannten Einflüsse und Szenarien in den Trainingsdaten vorhanden sind. Dies ist in der Praxis jedoch nur schwer möglich, da bereits die Eingangsdaten einen sehr großen Dimensionsraum aufspannen.In order to achieve the most robust possible recognition of the hands-off state, it is particularly necessary that all of the influences and scenarios mentioned are present in the training data. In practice, however, this is difficult to achieve, since the input data already spans a very large dimensional space.
Der Erfindung liegt die Aufgabe zu Grunde, das Erkennen eines Hands-Off-Zustands mittels eines trainierten Maschinenlernmodells zu verbessern.The invention is based on the object of improving the recognition of a hands-off state by means of a trained machine learning model.
Die Aufgabe wird erfindungsgemäß durch ein Verfahren mit den Merkmalen des Patentanspruchs 1 und eine Vorrichtung mit den Merkmalen des Patentanspruchs 3 gelöst. Ferner wird die Aufgabe erfindungsgemäß durch ein Verfahren mit den Merkmalen des Patentanspruchs 6 und eine Vorrichtung mit den Merkmalen des Patentanspruchs 11 gelöst. Weiter wird die Aufgabe erfindungsgemäß durch ein Verfahren mit den Merkmalen des Patentanspruchs 12 und eine Vorrichtung mit den Merkmalen des Patentanspruchs 13 gelöst. Vorteilhafte Ausgestaltungen der Erfindung ergeben sich aus den Unteransprüchen.The object is achieved according to the invention by a method having the features of patent claim 1 and a device having the features of
Insbesondere wird gemäß einem ersten Aspekt ein Verfahren zum Erkennen eines Hands-Off-Zustands an einem Lenkrad eines Fahrzeugs zur Verfügung gestellt, wobei mindestens eine Lenkungsgröße an dem Lenkrad erfasst wird, wobei die erfasste mindestens eine Lenkungsgröße einem trainierten Maschinenlernmodell als Eingangsdaten zugeführt wird, wobei das Maschinenlernmodell darauf trainiert ist, einen Hands-Off-Zustand ausgehend von zumindest der erfassten mindestens einen Lenkungsgröße zu erkennen und eine zugehörige Zustandsgröße als Ausgangsdaten auszugeben, wobei das trainierte Maschinenlernmodell derart bereitgestellt wird, dass das trainierte Maschinenlernmodell mindestens drei bezüglich eines Signalflusses aufeinander folgende Komponentenabschnitte aufweist, wobei in einem ersten Komponentenabschnitt eine trainierte Komponente bereitstellt wird, wobei mindestens eine trainierte Komponente in mindestens einem mittleren Komponentenabschnitt korrespondierend mit einer Fahrzeugkonfiguration des Fahrzeugs bereitgestellt wird, und wobei in einem letzten Komponentenabschnitt eine trainierte Komponente korrespondierend mit der Fahrzeugkonfiguration des Fahrzeugs bereitgestellt wird.In particular, according to a first aspect, a method for detecting a hands-off state on a steering wheel of a vehicle is provided, wherein at least one steering variable is detected on the steering wheel, wherein the detected at least one steering variable is fed to a trained machine learning model as input data, wherein the machine learning model is trained to detect a hands-off state based on at least the detected at least one steering variable and to output an associated state variable as output data, wherein the trained machine learning model is provided in such a way that the trained machine learning model has at least three component sections that follow one another with respect to a signal flow, wherein a trained component is provided in a first component section, wherein at least one trained component is provided in at least one middle component section corresponding to a vehicle configuration of the vehicle, and wherein in a last component section a trained component corresponding to the vehicle configuration of the vehicle is provided.
Ferner wird gemäß dem ersten Aspekt auch eine Vorrichtung zum Erkennen eines Hands-Off-Zustands an einem Lenkrad eines Fahrzeugs geschaffen, umfassend mindestens einen Lenkungsgrößensensor, der eingerichtet ist zum Erfassen von mindestens einer Lenkungsgröße an dem Lenkrad, und eine Datenverarbeitungseinrichtung, wobei die Datenverarbeitungseinrichtung dazu eingerichtet ist, die erfasste mindestens eine Lenkungsgröße zu erhalten, ein trainiertes Maschinenlernmodell bereitzustellen und die erfasste mindestens eine Lenkungsgröße dem trainierten Maschinenlernmodell als Eingangsdaten zuzuführen, wobei das Maschinenlernmodell darauf trainiert ist, einen Hands-Off-Zustand ausgehend von zumindest der erfassten mindestens einen Lenkungsgröße zu erkennen und eine zugehörige Zustandsinformation als Ausgangsdaten auszugeben, wobei das trainierte Maschinenlernmodell derart bereitgestellt wird, dass das trainierte Maschinenlernmodell mindestens drei bezüglich eines Signalflusses aufeinander folgende Komponentenabschnitte aufweist, wobei der erste Komponentenabschnitt eine trainierte Komponente bereitstellt, wobei mindestens eine trainierte Komponente in mindestens einem mittleren Komponentenabschnitt korrespondierend mit einer Fahrzeugkonfiguration des Fahrzeugs bereitgestellt wird, und wobei in einem letzten Komponentenabschnitt eine trainierte Komponente korrespondierend mit der Fahrzeugkonfiguration des Fahrzeugs bereitgestellt wird.Furthermore, according to the first aspect, a device for detecting a hands-off state on a steering wheel of a vehicle is also provided, comprising at least one steering variable sensor which is designed to detect at least one steering variable on the steering wheel, and a data processing device, wherein the data processing device is designed to receive the detected at least one steering variable, to provide a trained machine learning model and to supply the detected at least one steering variable to the trained machine learning model as input data, wherein the machine learning model is trained to detect a hands-off state based on at least the detected at least one steering variable and to output associated state information as output data, wherein the trained machine learning model is provided in such a way that the trained machine learning model has at least three component sections which follow one another with respect to a signal flow, wherein the first component section provides a trained component, wherein at least one trained component is provided in at least one middle component section corresponding to a vehicle configuration of the vehicle, and wherein in a last component section a trained component is provided corresponding to the vehicle configuration of the vehicle.
Weiter wird insbesondere in einem zweiten Aspekt ein Verfahren zum Bereitstellen eines trainierten Maschinenlernmodells zum Erkennen eines Hands-Off-Zustands an einem Lenkrad eines Fahrzeugs zur Verfügung gestellt, wobei das trainierte Maschinenlernmodell für mehrere Fahrzeugkonfigurationen bereitgestellt wird, wobei das trainierte Maschinenlernmodell derart bereitgestellt wird, dass das trainierte Maschinenlernmodell mindestens drei bezüglich eines Signalflusses aufeinander folgende Komponentenabschnitte aufweist, wobei eine trainierte Komponente in einem ersten Komponentenabschnitt für alle Fahrzeugkonfigurationen bereitgestellt wird, wobei mindestens eine trainierte Komponente in mindestens einem mittleren Komponentenabschnitt für zumindest eine Teilmenge aller Fahrzeugkonfigurationen bereitgestellt wird, und wobei in einem letzten Komponentenabschnitt eine trainierte Komponente jeweils ausschließlich für eine hiermit korrespondierende Fahrzeugkonfiguration bereitgestellt wird, und wobei zum Bereitstellen des trainierten Maschinenlernmodells für eine gegebene Fahrzeugkonfiguration die jeweiligen trainierten Komponenten unter Berücksichtigung der Fahrzeugkonfiguration ausgewählt und bereitgestellt werden.Furthermore, in particular in a second aspect, a method is provided for providing a trained machine learning model for recognizing a hands-off state on a steering wheel of a vehicle, wherein the trained machine learning model is provided for a plurality of vehicle configurations, wherein the trained machine learning model is provided such that the trained machine learning model has at least three component sections that follow one another with respect to a signal flow, wherein a trained component is provided in a first component section for all vehicle configurations, wherein at least one trained component is provided in at least one middle component section for at least a subset of all vehicle configurations, and wherein in a last component section a trained component is provided exclusively for a vehicle configuration corresponding thereto, and wherein to provide the trained machine learning model for a given vehicle configuration, the respective trained components are selected and provided taking the vehicle configuration into account.
Gemäß dem zweiten Aspekt wird insbesondere auch eine Vorrichtung zum Bereitstellen eines trainierten Maschinenlernmodells zum Erkennen eines Hands-Off-Zustands an einem Lenkrad eines Fahrzeugs geschaffen, umfassend einen zentralen Server, wobei der zentrale Server dazu eingerichtet ist, das trainierte Maschinenlernmodell für mehrere Fahrzeugkonfigurationen bereitzustellen, und das trainierte Maschinenlernmodell derart bereitzustellen, dass das trainierte Maschinenlernmodell mindestens drei bezüglich eines Signalflusses aufeinander folgende Komponentenabschnitte aufweist, wobei eine trainierte Komponente in einem ersten Komponentenabschnitt für alle Fahrzeugkonfigurationen bereitgestellt wird, wobei mindestens eine trainierte Komponente in mindestens einem mittleren Komponentenabschnitt für zumindest eine Teilmenge aller Fahrzeugkonfigurationen bereitgestellt wird, und wobei in einem letzten Komponentenabschnitt eine trainierte Komponente jeweils ausschließlich für eine hiermit korrespondierende Fahrzeugkonfiguration bereitgestellt wird, und wobei zum Bereitstellen des trainierten Maschinenlernmodells für eine gegebene Fahrzeugkonfiguration die jeweiligen trainierten Komponenten unter Berücksichtigung der Fahrzeugkonfiguration ausgewählt und bereitgestellt werden.According to the second aspect, in particular, a device is also created for providing a trained machine learning model for recognizing a hands-off state on a steering wheel of a vehicle, comprising a central server, wherein the central server is configured to provide the trained machine learning model for a plurality of vehicle configurations, and to provide the trained machine learning model in such a way that the trained machine learning model has at least three component sections that follow one another with respect to a signal flow, wherein a trained component is provided in a first component section for all vehicle configurations, wherein at least one trained component is provided in at least one middle component section for at least a subset of all vehicle configurations, and wherein in a last component section a trained component is provided exclusively for a vehicle configuration corresponding thereto, and wherein in order to provide the trained machine learning model for a given vehicle configuration, the respective trained components are selected and provided taking the vehicle configuration into account.
Gemäß einem dritten Aspekt wird insbesondere ein Verfahren zum Warten einer Gesamtheit aus in Fahrzeugen bereitgestellten zum Erkennen eines Hands-Off-Zustands trainierten Maschinenlernmodellen zur Verfügung gestellt, wobei erfasste und/oder gesammelte Wartungsdaten betreffend jeweilige Komponenten von mindestens drei Komponentenabschnitten des jeweiligen trainierten Maschinenlernmodells von den Fahrzeugen empfangen werden, wobei die empfangenen Wartungsdaten nach Komponenten geclustert werden, und wobei das Maschinenlernmodell unter Berücksichtigung der empfangenen Wartungsdaten jeweils gemäß den geclusterten Komponenten nachtrainiert und das jeweils nachtrainierte Maschinenlernmodell bereitgestellt wird.According to a third aspect, in particular a method is provided for maintaining a totality of machine learning models provided in vehicles and trained to recognize a hands-off state, wherein recorded and/or collected maintenance data relating to respective components of at least three component sections of the respective trained machine learning model are received from the vehicles, wherein the received maintenance data are clustered according to components, and wherein the machine learning model is retrained according to the clustered components, taking into account the received maintenance data, and the retrained machine learning model is provided.
Gemäß dem dritten Aspekt wird insbesondere auch eine Vorrichtung zum Warten einer Gesamtheit aus in Fahrzeugen bereitgestellten zum Erkennen eines Hands-Off-Zustands trainierten Maschinenlernmodellen geschaffen, umfassend einen zentralen Server, wobei der zentrale Server dazu eingerichtet ist, von den Fahrzeugen erfasste und/oder gesammelte Wartungsdaten betreffend jeweilige Komponenten von mindestens drei Komponentenabschnitten des jeweiligen trainierten Maschinenlernmodells von den Fahrzeugen zu empfangen, die empfangenen Wartungsdaten nach Komponenten zu clustern, und das Maschinenlernmodell unter Berücksichtigung der empfangenen Wartungsdaten jeweils gemäß den geclusterten Komponenten nachzutrainieren und das jeweils nachtrainierte Maschinenlernmodell bereitzustellen.According to the third aspect, in particular, a device is also provided for maintaining a totality of machine learning models provided in vehicles and trained to recognize a hands-off state, comprising a central server, wherein the central server is configured to receive maintenance data recorded and/or collected by the vehicles relating to respective components of at least three component sections of the respective trained machine learning model from the vehicles, the received maintenance data according to components ten, and to retrain the machine learning model according to the clustered components, taking into account the received maintenance data, and to provide the retrained machine learning model.
Die Verfahren und die Vorrichtungen gemäß den einzelnen Aspekten ermöglichen es, ein über Fahrzeugvarianten bzw. Fahrzeugkonfigurationen generalisierbares Maschinenlernmodell bereitzustellen und gleichzeitig ein effizientes und nachvollziehbares Life-Cycle-Management für das Erkennen des Hands-Off-Zustands bereitzustellen. Charakteristiken aus einzelnen Fahrzeugkonfigurationen können eine wichtige Rolle beim Erkennen des Hands-Off-Zustands spielen. Mittels der vorgeschlagenen Verfahren und Vorrichtungen können diese Charakteristiken jeweils individuell berücksichtigt werden. Grundsätzlich könnten diese auch in einem großen Maschinenlernmodell mit vielen Daten abgebildet werden. Ein Nachteil hierbei ist jedoch, dass viele Trainingsdaten nötig sind und in der Folge keine eindeutige Trennung nach einzelnen Fahrzeugkonfigurationen mehr möglich ist. Kommt es zu Beanstandungen während der Anwendung, muss darüber hinaus das vollständige Maschinenlernmodell nachtrainiert werden. Dies ist rechenzeit- und ressourcenintensiv und erfordert im Anschluss insbesondere eine vollständige Absicherung, um im Fahrzeug eingesetzt werden zu können. Werden je nach Fahrzeugkonfiguration jeweils unterschiedliche, kleinere Maschinenlernmodelle trainiert, können diese zwar spezifisch angepasst werden, jedoch ist eine Versionierung und eine Handhabung der Maschinenlernmodelle aufwändig im Vergleich zu einem globalen Maschinenlernmodell. Darüber hinaus werden geteilte Charakteristika, die für jede Fahrzeugkonfiguration ähnlich sind, in einem solchen Ansatz nicht effizient berücksichtigt.The methods and devices according to the individual aspects make it possible to provide a machine learning model that can be generalized across vehicle variants or vehicle configurations and at the same time to provide efficient and comprehensible life cycle management for recognizing the hands-off state. Characteristics from individual vehicle configurations can play an important role in recognizing the hands-off state. Using the proposed methods and devices, these characteristics can be taken into account individually. In principle, these could also be mapped in a large machine learning model with a lot of data. A disadvantage here, however, is that a lot of training data is required and, as a result, a clear separation according to individual vehicle configurations is no longer possible. If complaints arise during use, the complete machine learning model must also be retrained. This is computing time and resource intensive and subsequently requires complete validation in particular in order to be able to be used in the vehicle. If different, smaller machine learning models are trained depending on the vehicle configuration, they can be specifically adapted, but versioning and handling the machine learning models is more complex than with a global machine learning model. In addition, shared characteristics that are similar for each vehicle configuration are not efficiently taken into account in such an approach.
Es ist eine Grundidee der Erfindung, das trainierte Maschinenlernmodell derart bereitzustellen, dass das trainierte Maschinenlernmodell mindestens drei bezüglich eines Signalflusses aufeinander folgende Komponentenabschnitte aufweist. In einem ersten Komponentenabschnitt wird eine (einzige) trainierte Komponente bereitgestellt. Diese trainierte Komponente wird von allen Fahrzeugen bzw. allen Fahrzeugkonfigurationen verwendet. In mindestens einem mittleren Komponentenabschnitt wird mindestens eine trainierte Komponente korrespondierend mit einer Fahrzeugkonfiguration des Fahrzeugs bereitgestellt. Diese Komponenten können von mehreren Fahrzeugen bzw. Fahrzeugkonfigurationen geteilt werden. In einem letzten Komponentenabschnitt wird eine (einzige) trainierte Komponente korrespondierend mit der Fahrzeugkonfiguration des Fahrzeugs bereitgestellt. Diese trainierte Komponente wird nur von einer Fahrzeugkonfiguration verwendet. Die Erfindung erlaubt es insbesondere, verschiedene Varianten des Maschinenlernmodells bereitzustellen und dennoch Charakteristika, die von mehreren Fahrzeugen bzw. Fahrzeugkonfigurationen geteilt werden, beim Erkennen des Hands-Off-Zustands strukturell auszunutzen. Ferner erlaubt es die vorgeschlagene Struktur des trainierten Maschinenlernmodells, eine Wartung zu vereinfachen. Insbesondere muss nur diejenige Komponente oder müssen nur diejenigen Komponenten gewartet, insbesondere nachtrainiert, werden, bei denen ein Problem und/oder eine Beanstandung beim Erkennen des Hands-Off-Zustands auftritt. Nicht betroffene Komponenten müssen nicht gewartet, insbesondere nicht nachtrainiert werden. Dies trifft insbesondere auch zu, wenn eine Komponente in mehreren Fahrzeugkonfigurationen genutzt wird. Dies kann insbesondere der Fall sein für die trainierte Komponente des ersten Komponentenabschnitts, da diese von allen Fahrzeugkonfigurationen genutzt wird, und für eine oder mehrere Komponenten des mindestens einen mittleren Komponentenabschnitts, welcher von mehreren Fahrzeugkonfigurationen genutzt werden kann. Kommt es zu Problemen und/oder Beanstandungen mit mehreren Fahrzeugkonfigurationen, welche alle diese Komponente oder diese Komponenten umfassen, so wird diese Komponente bzw. werden diese Komponenten nachtrainiert, während die anderen Komponenten von dem Nachtrainieren nicht betroffen sind.It is a basic idea of the invention to provide the trained machine learning model in such a way that the trained machine learning model has at least three component sections that follow one another with respect to a signal flow. In a first component section, a (single) trained component is provided. This trained component is used by all vehicles or all vehicle configurations. In at least one middle component section, at least one trained component is provided corresponding to a vehicle configuration of the vehicle. These components can be shared by several vehicles or vehicle configurations. In a last component section, a (single) trained component is provided corresponding to the vehicle configuration of the vehicle. This trained component is only used by one vehicle configuration. In particular, the invention makes it possible to provide different variants of the machine learning model and yet structurally exploit characteristics that are shared by several vehicles or vehicle configurations when recognizing the hands-off state. Furthermore, the proposed structure of the trained machine learning model makes it possible to simplify maintenance. In particular, only the component or components that have a problem and/or a complaint when recognizing the hands-off state need to be maintained, in particular retrained. Unaffected components do not need to be maintained, in particular retrained. This is especially true if a component is used in multiple vehicle configurations. This can be the case in particular for the trained component of the first component section, since this is used by all vehicle configurations, and for one or more components of the at least one middle component section, which can be used by multiple vehicle configurations. If problems and/or complaints arise with multiple vehicle configurations that all include this component or these components, this component or these components will be retrained, while the other components are not affected by the retraining.
Eine Lenkungsgröße ist insbesondere eine Größe, welche einen aktuellen Zustand des Lenkrads repräsentiert und/oder beschreibt. Eine Lenkungsgröße ist insbesondere ein Drehmoment, das insbesondere mittels eines Drehmomentsensors am Lenkrad erfasst wird. Grundsätzlich kann eine Lenkungsgröße aber auch eine andere direkt oder indirekt am Lenkrad erfasste Größe sein. Beispielsweise kann vorgesehen sein, einen Strom an einer elektrischen Maschine am Lenkrad zu erfassen und als Lenkungsgröße zu verwenden. Das Erkennen des Hands-Off-Zustands kann ausschließlich ausgehend von der am Lenkrad erfassten Lenkungsgröße, insbesondere einem erfassten Drehmoment, erfolgen. Es ist jedoch insbesondere auch möglich, dass dem Maschinenlernmodell weitere (Lenkungs-)Größen, welche am Lenkrad erfasst werden (z.B. ein Lenkradwinkel und/oder eine Lenkradwinkelgeschwindigkeit etc.) zugeführt werden und das trainierte Maschinenlernmodell den Hands-Off-Zustand unter Berücksichtigung auch dieser weiteren Größe(n) erkennt. Größen, die nicht am Lenkrad erfasst werden, wie beispielsweise eine Fahrzeuggeschwindigkeit, eine Querbeschleunigung, eine Gierrate, Radticks, Dämpferinformationen und/oder sonstige Fahrdynamikgrößen, ferner Witterungs- und/oder Situationsdaten etc., können insbesondere als Kontextinformation berücksichtigt werden und dem trainierten Maschinenlernmodell ebenfalls als Eingangsdaten zugeführt werden. Insbesondere ist jedoch kein kapazitiv arbeitender Sensor am Lenkrad vorgesehen.A steering variable is in particular a variable that represents and/or describes a current state of the steering wheel. A steering variable is in particular a torque that is detected in particular by means of a torque sensor on the steering wheel. In principle, however, a steering variable can also be another variable that is detected directly or indirectly on the steering wheel. For example, it can be provided to detect a current on an electrical machine on the steering wheel and use it as a steering variable. The hands-off state can be detected exclusively on the basis of the steering variable detected on the steering wheel, in particular a detected torque. However, it is also possible in particular for the machine learning model to be fed with further (steering) variables that are detected on the steering wheel (e.g. a steering wheel angle and/or a steering wheel angular velocity, etc.) and for the trained machine learning model to detect the hands-off state taking this additional variable(s) into account. Variables that are not recorded on the steering wheel, such as vehicle speed, lateral acceleration, yaw rate, wheel ticks, damper information and/or other driving dynamics variables, as well as weather and/or situation data, etc., can be taken into account in particular as context information and also fed to the trained machine learning model as input data. In particular, however, No capacitive sensor is provided on the steering wheel.
Eine Fahrzeugkonfiguration ist insbesondere eine Beschreibung von Eigenschaften eines Fahrzeugs. Diese Eigenschaften umfassen insbesondere eine Fahrzeugklasse, ein Fahrzeugmodell und/oder eine individuelle Ausstattung des Fahrzeugs. Mittels der Fahrzeugkonfiguration werden insbesondere die für das Erkennen des Hands-Off-Zustands relevanten Komponenten des mindestens einen mittleren Komponentenabschnitts und des letzten Komponentenabschnitts ausgewählt.A vehicle configuration is in particular a description of properties of a vehicle. These properties include in particular a vehicle class, a vehicle model and/or individual equipment of the vehicle. The vehicle configuration is used in particular to select the components of the at least one middle component section and the last component section that are relevant for recognizing the hands-off state.
Der erste Komponentenabschnitt umfasst insbesondere eine (einzige) trainierte Komponente, die von allen Fahrzeugen bzw. allen Fahrzeugkonfigurationen verwendet wird. Alle Fahrzeuge bzw. Fahrzeugkonfigurationen verwenden insbesondere die gleichen Gewichte und/oder Parameter dieser einen Komponente.The first component section comprises in particular a (single) trained component that is used by all vehicles or all vehicle configurations. All vehicles or vehicle configurations in particular use the same weights and/or parameters of this one component.
Für eine gegebene Fahrzeugkonfiguration umfasst der mindestens eine mittlere Komponentenabschnitt mindestens eine trainierte Komponente korrespondierend mit der Fahrzeugkonfiguration. Beispielsweise können jeweils einzelne Komponenten für die folgenden Bereiche vorgesehen sein: z.B. im Bereich Antrieb: E-Antrieb, Verbrenner oder Hybrid; im Bereich Fahrzeugklasse: Kompaktklasse, Sports Utility Vehicle (SUV), Kleinbus usw.For a given vehicle configuration, the at least one middle component section includes at least one trained component corresponding to the vehicle configuration. For example, individual components can be provided for the following areas: e.g. in the drive area: electric drive, combustion engine or hybrid; in the vehicle class area: compact class, sports utility vehicle (SUV), minibus, etc.
Für eine gegebene Fahrzeugkonfiguration umfasst der letzte Komponentenabschnitt jeweils eine trainierte Komponente, die mit der jeweiligen Fahrzeugkonfiguration korrespondiert. Es kann beispielsweise vorgesehen sein, für jedes Fahrzeugmodell eine individuelle Komponente vorzusehen, z.B. Fahrzeugmodell 1, Fahrzeugmodell 2, Fahrzeugmodell 3 usw. Zu jedem Fahrzeugmodell ist dann insbesondere genau eine Komponente im letzten Komponentenabschnitt aktiv.For a given vehicle configuration, the last component section includes a trained component that corresponds to the respective vehicle configuration. For example, it can be provided to provide an individual component for each vehicle model, e.g. vehicle model 1,
Komponenten sind insbesondere virtuell im Speicher definierte Komponenten. Eine Komponente ist hierbei insbesondere ein im Hinblick auf einen Signalfluss abgrenzbarer Bereich der Signalverarbeitung des Maschinenlernmodells. Grundsätzlich kann jedoch auch vorgesehen sein, die Komponenten in physischer Form auszubilden.Components are in particular components defined virtually in the memory. A component is in particular an area of the signal processing of the machine learning model that can be defined with regard to a signal flow. In principle, however, it can also be provided that the components are designed in physical form.
Es kann vorgesehen sein, dass im Rahmen des Erkennens des Hands-Off-Zustands auch ein Hands-On-Zustand erkannt wird.It may be provided that when recognizing the hands-off state, a hands-on state is also recognized.
Ein Hands-Off-Zustand ist insbesondere ein Zustand, in dem keine Berührung des Lenkrads durch den Fahrer erfolgt. Insbesondere ist keiner der Finger des Fahrers in Berührung mit dem Lenkrad. Das Erkennen des Hands-Off-Zustands kann insbesondere das Bereitstellen eines Hands-Off-Zustandssignals umfassen. Dieses umfasst beispielsweise eine Hands-Off-Wahrscheinlichkeit oder kodierte Signale für die Zustände „Hands-Off erkannt“ und „Hands-Off nicht erkannt“. Ein Hands-On-Zustand ist insbesondere ein Zustand, in dem eine Berührung des Lenkrads durch den Fahrer erfolgt. Es kann auch ein Hands-On/Hands-Off-Zustand bereitgestellt werden, beispielsweise als Hands-On/Hands-Off-Zustandssignal mit insbesondere zumindest zwei Signalzuständen (z.B. „Hands-On erkannt“ oder „Hands-Off erkannt“).A hands-off state is in particular a state in which the driver does not touch the steering wheel. In particular, none of the driver's fingers are in contact with the steering wheel. Detecting the hands-off state can in particular comprise providing a hands-off state signal. This comprises, for example, a hands-off probability or coded signals for the states "hands-off detected" and "hands-off not detected". A hands-on state is in particular a state in which the driver touches the steering wheel. A hands-on/hands-off state can also be provided, for example as a hands-on/hands-off state signal with in particular at least two signal states (e.g. "hands-on detected" or "hands-off detected").
Das Maschinenlernmodell und insbesondere die Komponenten können insbesondere ein oder mehrere Neuronales Netze umfassen. Das oder die Neuronalen Netze können insbesondere mehrere innere Schichten umfassen. Das Maschinenlernmodell umfasst insbesondere ein oder mehrere künstliche rekurrente Neuronale Netze, die zu jedem Zeitpunkt t die Eingangsdaten Xt verarbeiten und eine Hands-Off-Wahrscheinlichkeit yt in [0,1] ausgibt: yt= p(xt | x0:t-1). Hierbei besitzt ein rekurrentes Neuronales Netz insbesondere ein sogenanntes Gedächtnis h, in dem Informationen aus vorherigen Zeitschritten abgespeichert sind und das für die Ausgabe beim aktuellen Zeitschritt genutzt werden kann.The machine learning model and in particular the components can in particular comprise one or more neural networks. The neural network(s) can in particular comprise several inner layers. The machine learning model in particular comprises one or more artificial recurrent neural networks that process the input data X t at each time t and output a hands-off probability y t in [0,1]: y t = p(x t | x 0:t-1 ). In this case, a recurrent neural network has in particular a so-called memory h in which information from previous time steps is stored and which can be used for the output at the current time step.
Die Ausgangsdaten des trainierten Maschinenlernmodells werden z.B. durch eine Filterung weiterverarbeitet, bevor abnehmende Funktionen (z.B. ein Querführungsassistent) diese verarbeiten. Es kann insbesondere vorgesehen sein, dass ausgehend von einem Vergleich der Hands-Off-Wahrscheinlichkeit mit einem vorgegebenen Schwellwert ein binäres Hands-Off-Signal bereitgestellt wird (mit den beiden Zuständen „Hands-Off erkannt“ und „Hands-Off nicht erkannt“).The output data of the trained machine learning model are further processed, for example, by filtering before decreasing functions (e.g. a lateral guidance assistant) process them. In particular, it can be provided that, based on a comparison of the hands-off probability with a predetermined threshold value, a binary hands-off signal is provided (with the two states "hands-off detected" and "hands-off not detected").
Während einer Trainingsphase wird das Maschinenlernmodell insbesondere für unterschiedliche Fahrzeugkonfigurationen trainiert. Dies erfolgt mittels Trainingsdaten, die Paare umfassen, in denen Daten der mindestens einen Lenkungsgröße, insbesondere Drehmomentdaten, mit jeweils einem Hands-Off-Zustand (als Grundwahrheit) gepaart sind. Die Daten der mindestens einen Lenkungsgröße, insbesondere die Drehmomentdaten, sind insbesondere Zeitreihen von der am Lenkrad erfassten mindestens einen Lenkungsgröße, insbesondere Zeitreihen von am Lenkrad erfassten Drehmomenten. Die Trainingsdaten werden insbesondere mit Hilfe von Testfahrten und/oder in Simulatoren für die einzelnen Fahrzeugkonfigurationen gewonnen. Grundsätzlich kann das Bereitstellen von Trainingsdaten hierbei insbesondere gemäß dem in der
Wartungsdaten können beispielsweise Informationen zu Kundenbeanstandungen umfassen, beispielsweise Informationen zu häufig auftretenden Falschwarnungen. Die Falschwarnungen können beispielsweise von Fahrzeugnutzern identifiziert werden und als Wartungsdaten an den zentralen Server übermittelt werden. Die Falschwarnungen sind hierbei insbesondere den jeweiligen Fahrzeugkonfigurationen zugeordnet bzw. mit diesen verknüpft, sodass diese nach Komponenten geclustert werden können und das Maschinenlernmodell entsprechend den geclusterten Komponenten nachtrainiert werden kann. Ferner können Wartungsdaten auch durch Mitschreiben von Flottendaten und einer statistischen Analyse erzeugt werden. Beispielsweise kann im Rahmen der statistischen Analyse eine Konfidenz von Ausgaben des trainierten Maschinenlernmodells ausgewertet werden. Beispielsweise kann die Konfidenz mit einem vorgegebenen Schwellwert verglichen werden, wobei Wartungsdaten, insbesondere für die jeweilige Fahrzeugkonfiguration, erzeugt und übermittelt werden, wenn die Konfidenz einer Ausgabe unterhalb des vorgegebenen Schwellwertes liegt. Anhand der jeweils zugehörigen Fahrzeugkonfiguration können die Wartungsdaten nach Komponenten geclustert werden.Maintenance data can, for example, include information on customer complaints, for example information on frequently occurring false warnings. The false warnings can, for example, be identified by vehicle users and transmitted to the central server as maintenance data. The false warnings are in particular assigned to the respective vehicle configurations or linked to them so that they can be clustered according to components and the machine learning model can be retrained according to the clustered components. Furthermore, maintenance data can also be generated by recording fleet data and a statistical analysis. For example, a confidence of outputs of the trained machine learning model can be evaluated as part of the statistical analysis. For example, the confidence can be compared with a specified threshold value, whereby maintenance data, in particular for the respective vehicle configuration, is generated and transmitted if the confidence of an output is below the specified threshold value. The maintenance data can be clustered according to components based on the respective associated vehicle configuration.
Teile der Vorrichtungen, insbesondere die Datenverarbeitungseinrichtung und der zentrale Server, können einzeln oder zusammengefasst als eine Kombination von Hardware und Software ausgebildet sein, beispielsweise als Programmcode, der auf einem Mikrocontroller oder Mikroprozessor ausgeführt wird. Es kann jedoch auch vorgesehen sein, dass Teile einzeln oder zusammengefasst als anwendungsspezifische integrierte Schaltung (ASIC) und/oder feldprogrammierbares Gatterfeld (FPGA) ausgebildet sind. Die Datenverarbeitungseinrichtung und der zentrale Server umfassen jeweils insbesondere mindestens eine Recheneinrichtung und mindestens einen Speicher. Ferner können die Datenverarbeitungseinrichtung und der zentrale Server jeweils mindestens eine Kommunikationsschnittstelle zur Kommunikation aufweisen.Parts of the devices, in particular the data processing device and the central server, can be designed individually or in combination as a combination of hardware and software, for example as program code that is executed on a microcontroller or microprocessor. However, it can also be provided that parts are designed individually or in combination as an application-specific integrated circuit (ASIC) and/or field-programmable gate array (FPGA). The data processing device and the central server each comprise in particular at least one computing device and at least one memory. Furthermore, the data processing device and the central server can each have at least one communication interface for communication.
Es kann insbesondere vorgesehen sein, dass die Verfahren gemäß dem zweiten Aspekt und dem dritten Aspekt jeweils als computerimplementierte Verfahren ausgeführt werden bzw. ausgestaltet sind.In particular, it can be provided that the methods according to the second aspect and the third aspect are each carried out or designed as computer-implemented methods.
In einer Ausführungsform ist vorgesehen, dass die Fahrzeugkonfiguration des letzten Komponentenabschnitts ein Fahrzeugmodell betrifft. Hierdurch kann jeweils eine trainierte Komponente für jedes Fahrzeugmodell bereitgestellt werden. Charakteristika beim Erkennen des Hands-Off-Zustands können dann für jedes Fahrzeugmodell individuell berücksichtigt und beim Training gelernt werden.In one embodiment, the vehicle configuration of the last component section relates to a vehicle model. This allows a trained component to be provided for each vehicle model. Characteristics when recognizing the hands-off state can then be taken into account individually for each vehicle model and learned during training.
In einer Ausführungsform ist vorgesehen, dass das Bereitstellen ein Einladen des trainierten Maschinenlernmodells in einen Speicher eines Steuergeräts des jeweiligen Fahrzeugs umfasst. Das bereitgestellte trainierte Maschinenlernmodell kann dann in dem Fahrzeug zum Erkennen des Hands-Off-Zustands verwendet werden.In one embodiment, it is provided that the provision includes loading the trained machine learning model into a memory of a control unit of the respective vehicle. The provided trained machine learning model can then be used in the vehicle to recognize the hands-off state.
In einer Ausführungsform ist vorgesehen, dass trainierte Komponenten des trainierten Maschinenlernmodells, die nicht mit der Fahrzeugkonfiguration des jeweiligen Fahrzeugs korrespondieren, deaktiviert sind oder deaktiviert werden. Hierdurch können Speicher- und/oder Rechenressourcen beim Anwenden des trainierten Maschinenlernmodells eingespart werden, da nur die notwendigen Komponenten verwendet werden. Das Deaktivieren kann insbesondere derart erfolgen, dass Speicherbereiche, die die nicht verwendeten Komponenten enthalten, freigegeben werden. Ferner kann vorgesehen sein, beim Einladen des trainierten Maschinenlernmodells (bzw. einer Beschreibung und Parameter hiervon) in einen Speicher einer Datenverarbeitungseinrichtung und/oder einer Vorrichtung (z.B. Steuergerät) eines Fahrzeugs nur die nicht deaktivierten Komponenten in den Speicher zu laden, die deaktivierten Komponenten hingegen nicht.In one embodiment, it is provided that trained components of the trained machine learning model that do not correspond to the vehicle configuration of the respective vehicle are deactivated or will be deactivated. This can save memory and/or computing resources when applying the trained machine learning model, since only the necessary components are used. The deactivation can in particular be carried out in such a way that memory areas that contain the unused components are released. Furthermore, it can be provided that when loading the trained machine learning model (or a description and parameters thereof) into a memory of a data processing device and/or a device (e.g. control unit) of a vehicle, only the non-deactivated components are loaded into the memory, but not the deactivated components.
In einer Ausführungsform ist vorgesehen, dass zum Bereitstellen des trainierten Maschinenlernmodells eine Information betreffend die Fahrzeugkonfiguration erfasst und/oder erhalten wird, wobei das trainierte Maschinenlernmodell ausgehend von der erfassten und/oder erhaltenen Information bereitgestellt wird. Hierdurch kann das trainierte Maschinenlernmodell individuell auf ein Fahrzeug hin konfiguriert werden. Dies kann beispielsweise an einer geeigneten Stelle während der Herstellung des Fahrzeugs oder einer für das Fahrzeug vorgesehenen Vorrichtung (z.B. Steuergerät), welche den Hands-Off-Zustand erkennen soll, erfolgen. Die Information kann beispielsweise eine Seriennummer, eine eindeutige Identifikationsnummer und/oder ein Barcode und/oder ein QR-Code sein. Ausgehend hiervon können die benötigten Komponenten des trainierten Maschinenlernmodells bestimmt werden. Das trainierte Maschinenlernmodell wird dann bereitgestellt, indem die bestimmten Komponenten, miteinander signaltechnisch verknüpft, bereitgestellt werden.In one embodiment, it is provided that, in order to provide the trained machine learning model, information relating to the vehicle configuration is recorded and/or obtained, wherein the trained machine learning model is provided on the basis of the recorded and/or obtained information. This allows the trained machine learning model to be individually configured for a vehicle. This can be done, for example, at a suitable point during the manufacture of the vehicle or at a location provided for the vehicle. The information can be transmitted to a specific device (e.g. control unit) that is intended to detect the hands-off state. The information can be, for example, a serial number, a unique identification number and/or a barcode and/or a QR code. Based on this, the required components of the trained machine learning model can be determined. The trained machine learning model is then provided by providing the specific components, linked to one another using signal technology.
In einer Ausführungsform ist vorgesehen, dass bei einer noch nicht bekannten Fahrzeugkonfiguration mindestens eine Komponente für den mindestens einen mittleren Komponentenabschnitt und/oder eine Komponente für den letzten Komponentenabschnitt erzeugt und trainiert und bereitgestellt wird. Hierdurch kann ausgehend von den bereits trainierten restlichen Komponenten ein trainiertes Maschinenlernmodell für eine noch nicht bekannte Fahrzeugkonfiguration bereitgestellt werden.In one embodiment, it is provided that, in the case of a vehicle configuration that is not yet known, at least one component for the at least one middle component section and/or one component for the last component section is generated and trained and provided. As a result, a trained machine learning model for a vehicle configuration that is not yet known can be provided based on the remaining components that have already been trained.
Weitere Merkmale zur Ausgestaltung der jeweiligen Vorrichtungen ergeben sich aus der Beschreibung von Ausgestaltungen der jeweiligen Verfahren. Die Vorteile der jeweiligen Vorrichtungen sind hierbei jeweils die gleichen wie bei den Ausgestaltungen der jeweiligen Verfahren.Further features for the design of the respective devices emerge from the description of the designs of the respective methods. The advantages of the respective devices are the same as those of the designs of the respective methods.
Weitere Merkmale zur Ausgestaltung der jeweiligen Aspekte ergeben sich aus der Beschreibung von Ausgestaltungen der jeweils anderen Aspekte. Die Vorteile der jeweiligen Aspekte sind hierbei jeweils die gleichen wie bei den Ausgestaltungen der jeweils anderen Aspekte.Further features for the design of the respective aspects emerge from the description of the designs of the other aspects. The advantages of the respective aspects are the same as for the designs of the other aspects.
Es wird ferner auch ein Lenksystem geschaffen, umfassend eine Vorrichtung zum Erkennen eines Hands-Off-Zustands an einem Lenkrad eines Fahrzeugs nach einer der beschriebenen Ausführungsformen.Furthermore, a steering system is also provided, comprising a device for detecting a hands-off state on a steering wheel of a vehicle according to one of the described embodiments.
Weiter wird auch ein Fahrzeug geschaffen, umfassend ein Lenksystem nach einer der beschriebenen Ausführungsformen und/oder eine Vorrichtung zum Erkennen eines Hands-Off-Zustands an einem Lenkrad eines Fahrzeugs nach einer der beschriebenen Ausführungsformen.Furthermore, a vehicle is also provided, comprising a steering system according to one of the described embodiments and/or a device for detecting a hands-off state on a steering wheel of a vehicle according to one of the described embodiments.
Nachfolgend wird die Erfindung anhand bevorzugter Ausführungsbeispiele unter Bezugnahme auf die Figuren näher erläutert. Hierbei zeigen:
-
1 eine schematische Darstellung zur Verdeutlichung von Ausführungsformen der Vorrichtung zum Erkennen eines Hands-Off-Zustands an einem Lenkrad; -
2 eine schematische Darstellung zur Verdeutlichung einer Struktur des trainierten Maschinenlernmodells; -
3 ein schematisches Ablaufdiagramm zur Verdeutlichung von Ausführungsformen des Verfahrens zum Bereitstellen eines trainierten Maschinenlernmodells zum Erkennen eines Hands-Off-Zustands an einem Lenkrad eines Fahrzeugs; -
4 ein schematisches Ablaufdiagramm zur Verdeutlichung von Ausführungsformen des Verfahren zum Warten einer Gesamtheit aus in Fahrzeugen bereitgestellten zum Erkennen eines Hands-Off-Zustands trainierten Maschinenlernmodellen; -
5a-5c schematische Darstellungen des Maschinenlernmodells zur Verdeutlichung des Nachtrainierens in unterschiedlichen Konstellationen.
-
1 a schematic representation to illustrate embodiments of the device for detecting a hands-off state on a steering wheel; -
2 a schematic representation to illustrate a structure of the trained machine learning model; -
3 a schematic flow diagram to illustrate embodiments of the method for providing a trained machine learning model for detecting a hands-off state on a steering wheel of a vehicle; -
4 a schematic flow diagram to illustrate embodiments of the method for maintaining a set of machine learning models provided in vehicles and trained to recognize a hands-off state; -
5a-5c Schematic representations of the machine learning model to illustrate retraining in different constellations.
Die
Die Vorrichtung 1 umfasst einen Lenkungsgrößensensor 2 und eine Datenverarbeitungseinrichtung 3. Der Lenkungsgrößensensor 2 ist dazu eingerichtet, eine Lenkungsgröße 4 an dem Lenkrad 51 des Fahrzeugs 50 zu erfassen. Der Lenkungsgrößensensor 2 ist beispielsweise ein Drehmomentsensor und die Lenkungsgröße 4 ein Drehmoment. Grundsätzlich können alternativ oder zusätzlich weitere Lenkungsgrößensensoren vorgesehen sein, die weitere Lenkungsgrößen erfassen. Die Vorrichtung 1 kann zur Kommunikation eine Kommunikationsschnittstelle (nicht gezeigt) umfassen.The device 1 comprises a steering
Die Datenverarbeitungseinrichtung 3 umfasst eine Recheneinrichtung 3-1 und einen Speicher 3-2. Die Recheneinrichtung 3-1 ist dazu eingerichtet, für das Durchführen von Maßnahmen des Verfahrens notwendige Rechenoperationen durchzuführen und kann hierzu auf in dem Speicher 3-2 hinterlegte Daten zugreifen.The
Die Datenverarbeitungseinrichtung 3 ist dazu eingerichtet, die erfasste mindestens eine Lenkungsgröße 4 zu erhalten, ein trainiertes Maschinenlernmodell 5 (vgl.
Das Maschinenlernmodell 5 (
Der Hands-Off-Zustand 6 wird beispielsweise als Zustandssignal oder Zustandsinformation einem Steuergerät 52 des Fahrzeugs 50 zur weiteren Verarbeitung zugeführt. Das Steuergerät 52 kann beispielsweise ein Querführungsassistent oder ein anderes Assistenzsystem sein. Das Zustandssignal oder die Zustandsinformation kann beispielsweise eine Hands-Off-Wahrscheinlichkeit beinhalten oder einen binären Zustandswert mit den beiden Zuständen „Hands-Off erkannt“ und „Hands-Off nicht erkannt“.The hands-off
Die
Die Komponenten 7-2-x des mittleren Komponentenabschnitts 5-2 können beispielsweise mit den folgenden Eigenschaften des Fahrzeugs korrespondieren:
- Komponente 7-2-1: elektrischer Antrieb
- Komponente 7-2-2: Verbrennungsmotor
- Komponente 7-2-3: Kompaktklasse
- Komponente 7-2-4: Sports Utility Vehicle (SUV)
- Komponente 7-2-5: Kleinbus
- Component 7-2-1: electric drive
- Component 7-2-2: Internal Combustion Engine
- Component 7-2-3: Compact class
- Component 7-2-4: Sports Utility Vehicle (SUV)
- Component 7-2-5: Minibus
Die Komponenten 7-3-x des letzten Komponentenabschnitts 5-3 können beispielsweise mit den folgenden Eigenschaften des Fahrzeugs korrespondieren:
- Komponente 7-3-1: Fahrzeugmodell 1
- Komponente 7-3-2: Fahrzeugmodell 2
- Komponente 7-3-3: Fahrzeugmodell 3
- Komponente 7-3-4: Fahrzeugmodell 4
- Component 7-3-1: Vehicle Model 1
- Component 7-3-2:
Vehicle Model 2 - Component 7-3-3:
Vehicle Model 3 - Component 7-3-4: Vehicle Model 4
Umfasst eine Fahrzeugkonfiguration beispielsweise, dass das Fahrzeug des Fahrzeugmodells 4 einen elektrischen Antrieb aufweist und ein Kleinbus ist, so sind die Komponenten 7-1, 7-2-1, 7-2-5 und 7-3-4 aktiv. Ein Signalfluss findet insbesondere nur zwischen diesen aktiven Komponenten 7-1, 7-2-1, 7-2-5 und 7-3-2 statt. Die Komponente 7-3-2 gibt als Ausgangsdaten 20 den Hands-Off-Zustand 6 aus.If a vehicle configuration includes, for example, that the vehicle of vehicle model 4 has an electric drive and is a minibus, the components 7-1, 7-2-1, 7-2-5 and 7-3-4 are active. In particular, a signal flow only takes place between these active components 7-1, 7-2-1, 7-2-5 and 7-3-2. The component 7-3-2 outputs the hands-off
Die restlichen Komponenten 7-2-x und 7-3-x werden nicht verwendet und können insbesondere deaktiviert werden, um Speicher- und Rechenressourcen einzusparen.The remaining components 7-2-x and 7-3-x are not used and can be deactivated in particular to save memory and computing resources.
Die
In einer Maßnahme 100 wird das trainierte Maschinenlernmodell für mehrere Fahrzeugkonfigurationen bereitgestellt, wobei das trainierte Maschinenlernmodell derart bereitgestellt wird, dass das trainierte Maschinenlernmodell mindestens drei bezüglich eines Signalflusses aufeinander folgende Komponentenabschnitte aufweist, wobei eine trainierte Komponente in einem ersten Komponentenabschnitt für alle Fahrzeugkonfigurationen bereitgestellt wird, wobei mindestens eine trainierte Komponente in mindestens einem mittleren Komponentenabschnitt für zumindest eine Teilmenge aller Fahrzeugkonfigurationen bereitgestellt wird, und wobei in einem letzten Komponentenabschnitt eine trainierte Komponente jeweils ausschließlich für eine hiermit korrespondierende Fahrzeugkonfiguration bereitgestellt wird.In a
In einer Maßnahme 101 werden zum Bereitstellen des trainierten Maschinenlernmodells für eine gegebene Fahrzeugkonfiguration die jeweiligen trainierten Komponenten unter Berücksichtigung der Fahrzeugkonfiguration ausgewählt und bereitgestellt. Gemäß dem voranstehend bereits verwendeten Beispiel kann die gegebene Fahrzeugkonfiguration vorsehen, dass das Fahrzeug des Fahrzeugmodells 4 einen elektrischen Antrieb aufweist und ein Kleinbus ist. Daher werden die folgenden trainierten Komponenten 7-1, 7-2-1, 7-2-5 und 7-3-4 (
In einer Maßnahme 102 kann vorgesehen sein, dass das Bereitstellen ein Einladen des trainierten Maschinenlernmodells in einen Speicher einer Vorrichtung (z.B. Steuergerät) des jeweiligen Fahrzeugs umfasst. Dies kann beispielsweise beim Herstellen des Fahrzeugs und/oder der Vorrichtung erfolgen.In a
Es kann in Maßnahme 101 vorgesehen sein, dass trainierte Komponenten 7-2-x, 7-3-x (
Es kann in einer Maßnahme 99 vorgesehen sein, dass zum Bereitstellen des trainierten Maschinenlernmodells 5 eine Information 42 (
Es kann vorgesehen sein, dass bei einer noch nicht bekannten Fahrzeugkonfiguration mindestens eine Komponente 5-2-x für den mindestens einen mittleren Komponentenabschnitt 5-2 und/oder eine Komponente 5-3-x für den letzten Komponentenabschnitt 5-3 erzeugt und trainiert und bereitgestellt wird. Dies erfolgt ebenfalls mittels des zentralen Servers 40. Hierfür erhält der zentrale Server 40 insbesondere auch mit der noch nicht bekannten Fahrzeugkonfiguration korrespondierende Trainingsdaten, um die neu erzeugte Komponente 5-2-x, 5-3-x trainieren zu können. Das Training erfolgt hierbei in gleicher Weise wie bereits in der allgemeinen Beschreibung erläutert.It can be provided that, in the case of a vehicle configuration that is not yet known, at least one component 5-2-x for the at least one middle component section 5-2 and/or a component 5-3-x for the last component section 5-3 is generated, trained and provided. This is also done using the
Die
In einer Maßnahme 200 werden erfasste und/oder gesammelte Wartungsdaten 43 (
In einer Maßnahme 201 werden die empfangenen Wartungsdaten 43 nach Komponenten 5-1, 5-2-x, 5-3-x (
In einer Maßnahme 202 wird das Maschinenlernmodell unter Berücksichtigung der empfangenen Wartungsdaten 43 jeweils gemäß den geclusterten Komponenten 5-1, 5-2-x, 5-3-x nachtrainiert und das jeweils nachtrainierte Maschinenlernmodell 5 bereitgestellt. Das Nachtrainieren betrifft hierbei nur diejenigen Komponenten 5-1, 5-2-x, 5-3-x, die als problematisch identifiziert wurden und/oder für die eine Beanstandung seitens eines Nutzers der Fahrzeuge vorliegt. Mittels der Beanstandungen, die beispielsweise beinhalten können, dass das Erkennen des Hands-Off-Zustands nicht zuverlässig funktioniert, können insbesondere über das Clustern bzw. das Bilden von Schnittmengen diejenigen Komponenten 7-1, 7-2-x, 7-3-x identifiziert werden, die von der Beanstandung betroffen sind.In a
Es ist insbesondere in einer Maßnahme 203 vorgesehen, dass das für ein Fahrzeug bzw. eine Fahrzeugkonfiguration nachtrainierte Maschinenlernmodell 5 (
Die
In der
In der
In der
Nach dem Nachtrainieren sind insbesondere eine Optimierung, ein Test und eine Freigabe des nachtrainierten Maschinenlernmodells 5 vorgesehen. Anschließend wird das nachtrainierte Maschinenlernmodell 5 an die jeweiligen Fahrzeuge 50 übermittelt und dort angewendet.After retraining, in particular, optimization, testing and release of the retrained
Bezugszeichenlistelist of reference symbols
- 11
- Vorrichtungdevice
- 22
- Lenkungsgrößensensorsteering size sensor
- 33
- Datenverarbeitungseinrichtungdata processing facility
- 3-13-1
- Recheneinrichtungcomputing device
- 3-23-2
- Speichermemory
- 44
- Lenkungsgrößesteering size
- 55
- trainiertes Maschinenlernmodelltrained machine learning model
- 5-15-1
- erster Komponentenabschnittfirst component section
- 5-25-2
- mittlerer Komponentenabschnittmiddle component section
- 5-35-3
- letzter Komponentenabschnittlast component section
- 66
- Hands-Off-Zustandhands-off state
- 7-17-1
- trainierte Komponentetrained component
- 7-2-x7-2-x
- trainierte Komponentetrained component
- 7-3-x7-3-x
- trainierte Komponentetrained component
- 2020
- Ausgangsdateninitial data
- 4040
- Vorrichtungdevice
- 4141
- zentraler Servercentral server
- 41-141-1
- Recheneinrichtungcomputing device
- 41-241-2
- Speichermemory
- 4242
- Informationinformation
- 4343
- Wartungsdatenmaintenance data
- 5050
- Fahrzeugvehicle
- 5151
- Lenkradsteering wheel
- 6060
- Lenksystemsteering system
- 99-10299-102
- Maßnahmen des Verfahrensmeasures of the procedure
- 200-202200-202
- Maßnahmen des Verfahrensmeasures of the procedure
Claims (13)
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102024201254.8A DE102024201254B3 (en) | 2024-02-12 | 2024-02-12 | Method and device for detecting a hands-off state on a steering wheel of a vehicle |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102024201254.8A DE102024201254B3 (en) | 2024-02-12 | 2024-02-12 | Method and device for detecting a hands-off state on a steering wheel of a vehicle |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| DE102024201254B3 true DE102024201254B3 (en) | 2025-01-02 |
Family
ID=93846713
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| DE102024201254.8A Active DE102024201254B3 (en) | 2024-02-12 | 2024-02-12 | Method and device for detecting a hands-off state on a steering wheel of a vehicle |
Country Status (1)
| Country | Link |
|---|---|
| DE (1) | DE102024201254B3 (en) |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102019211016A1 (en) | 2019-07-25 | 2021-01-28 | Volkswagen Aktiengesellschaft | Detection of hands-off situations through machine learning |
-
2024
- 2024-02-12 DE DE102024201254.8A patent/DE102024201254B3/en active Active
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102019211016A1 (en) | 2019-07-25 | 2021-01-28 | Volkswagen Aktiengesellschaft | Detection of hands-off situations through machine learning |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3365741B1 (en) | Method for fully automatic guidance of a vehicle system and corresponding motor vehicle | |
| DE102019208735B4 (en) | Method for operating a driver assistance system for a vehicle and a driver assistance system for a vehicle | |
| WO2021058223A1 (en) | Method for applying automated driving functions efficiently and in a simulated manner | |
| DE102019208733A1 (en) | Method and generator for generating disturbed input data for a neural network | |
| DE102024200002B3 (en) | Method and apparatus for providing a trained machine learning model for detecting a hands-on/hands-off state on a steering wheel of a vehicle | |
| DE102024201064B3 (en) | Method and device for detecting a hands-off state on a steering wheel of a vehicle | |
| DE102024201254B3 (en) | Method and device for detecting a hands-off state on a steering wheel of a vehicle | |
| DE102019211672A1 (en) | Training method for an artificial neural network | |
| DE102024200088B3 (en) | Method and device for detecting a hands-on/off state on a steering wheel of a vehicle | |
| DE102018125712A1 (en) | Driving support method for a vehicle | |
| WO2025093361A1 (en) | Method and device for recognising a hands-off state on a steering wheel | |
| EP3985565A1 (en) | Method and device for checking an ai-based information processing system used in partially automated or fully automated control of a vehicle | |
| DE102020210789A1 (en) | Analysis of a neural network for a vehicle | |
| DE102024200003B3 (en) | Method and apparatus for providing a trained machine learning model for detecting a hands-on/hands-off state on a steering wheel of a vehicle | |
| DE102019219927A1 (en) | Method and device for recognizing an alienation of a sensor data domain from a reference data domain | |
| DE102021208472B3 (en) | Computer-implemented method for training a machine learning model for a vehicle or robot | |
| DE102023211071B3 (en) | Method and device for detecting a hands-off state on a steering wheel | |
| EP4596351A1 (en) | Method and device for detecting a hands-off state on a steering wheel of a vehicle | |
| DE102024108957B4 (en) | Method for operating a motor vehicle, computer program product, control unit and motor vehicle | |
| DE102024205848A1 (en) | Method and device for detecting a hands-off state on a vehicle's steering wheel | |
| DE102023118472A1 (en) | APPARATUS AND METHOD FOR COLLECTING A DATA SET FROM A PLURALITY OF DATA SAMPLES FOR TRAINING A MACHINE LEARNING MODEL | |
| DE102023211579A1 (en) | Method for optimizing a functional parameter to adjust an operating variable of a technical system | |
| DE102022203674A1 (en) | Method and detection device for detecting events and motor vehicles | |
| DE102023203517A1 (en) | Method and device for determining a readiness of a driver assistance function | |
| EP4458643A1 (en) | Method for counting axes with computer-aided evaluation and error detection |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| R012 | Request for examination validly filed | ||
| R018 | Grant decision by examination section/examining division | ||
| R020 | Patent grant now final |