KR102803204B1 - Vehicle communication control apparatus and method - Google Patents
Vehicle communication control apparatus and method Download PDFInfo
- Publication number
- KR102803204B1 KR102803204B1 KR1020230061370A KR20230061370A KR102803204B1 KR 102803204 B1 KR102803204 B1 KR 102803204B1 KR 1020230061370 A KR1020230061370 A KR 1020230061370A KR 20230061370 A KR20230061370 A KR 20230061370A KR 102803204 B1 KR102803204 B1 KR 102803204B1
- Authority
- KR
- South Korea
- Prior art keywords
- remote driving
- vehicle
- network
- unit
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/20—Control system inputs
- G05D1/22—Command input arrangements
- G05D1/221—Remote-control arrangements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0011—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
- G05D1/0022—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement characterised by the communication link
-
- G—PHYSICS
- G08—SIGNALLING
- G08C—TRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
- G08C17/00—Arrangements for transmitting signals characterised by the use of a wireless electrical link
- G08C17/02—Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0852—Delays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/25—Flow control; Congestion control with rate being modified by the source upon detecting a change of network conditions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W28/00—Network traffic management; Network resource management
- H04W28/02—Traffic management, e.g. flow control or congestion control
- H04W28/0252—Traffic management, e.g. flow control or congestion control per individual bearer or channel
- H04W28/0257—Traffic management, e.g. flow control or congestion control per individual bearer or channel the individual bearer or channel having a maximum bit rate or a bit rate guarantee
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Automation & Control Theory (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Environmental & Geological Engineering (AREA)
- Human Computer Interaction (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
본 발명의 일 양태는 원격주행이 가능한 차량 통신 제어 장치를 개시하고 있다. 본 발명의 일 양태에 따른 원격주행이 가능한 차량 장치는, 신호에 의한 주행 제어를 받아 운전될 수 있는 자율주행차량부, 상기 자율주행차량부의 내부 및 외부에 위치하는 적어도 하나의 센서로부터 센서 데이터를 수신하는 원격주행 센서부, 상기 차량 장치와 상기 서버 장치 간의 네트워크 경로에 대한 지연시간을 계산하고, 상기 지연시간에 기반하여 목표 비트율 정보를 생성하는 네트워크 상태처리부, 상기 센서 데이터를 포함하는 원격 환경 데이터를 상기 목표 비트율 정보에 기반하여 부호화하는 데이터 부호화부, 및 상기 부호화된 데이터를 원격주행 제어 서버 장치로 전송하는 전송부를 포함할 수 있다.One aspect of the present invention discloses a vehicle communication control device capable of remote driving. The vehicle device capable of remote driving according to one aspect of the present invention may include an autonomous vehicle unit that can be driven by receiving driving control by a signal, a remote driving sensor unit that receives sensor data from at least one sensor located inside and outside the autonomous vehicle unit, a network status processing unit that calculates a delay time for a network path between the vehicle unit and the server unit and generates target bit rate information based on the delay time, a data encoding unit that encodes remote environment data including the sensor data based on the target bit rate information, and a transmission unit that transmits the encoded data to a remote driving control server unit.
Description
본 발명은 자율주행 차량의 통신 제어 장치 및 방법에 관한 것으로, 보다 상세하게는, 차량 탑재 네트워크 장치에서 5G 업링크(Uplink) 통신을 안정적으로 유지하면서 자율주행을 수행할 수 있도록 제어하는 차량 통신 제어 장치 및 방법에 관한 것이다.
본 연구는 국토교통부/국토교통과학기술진흥원의 지원으로 수행되었음 (과제번호 RS-2021-KA160548, 교통약자(장애인, 노약자, 교통소외지역 등) 이동지원 모빌리티 서비스 기술 개발).The present invention relates to a communication control device and method for an autonomous vehicle, and more specifically, to a vehicle communication control device and method for controlling the vehicle to perform autonomous driving while stably maintaining 5G uplink communication in a vehicle-mounted network device.
This study was conducted with the support of the Ministry of Land, Infrastructure and Transport/Korea Agency for Infrastructure Technology Promotion (Project No. RS-2021-KA160548, Development of mobility service technology to support the movement of transportation disadvantaged people (disabled people, elderly people, transportation-deprived areas, etc.)).
최근 차량 통신을 통해 차량과 관련된 센서 데이터를 효율적으로 수집하고 외부 서버로 전달하는 기술에 대해 많은 연구가 진행되고 있다. Recently, much research has been conducted on technologies to efficiently collect vehicle-related sensor data and transmit it to external servers through vehicle communication.
도 1은 종래 차량 데이터를 외부 서버로 전송하는 시스템을 나타낸 개념도이다.Figure 1 is a conceptual diagram illustrating a system for transmitting conventional vehicle data to an external server.
도 1을 참조하면, 다수의 차량(110-1, 110-2, 110-3)은 네트워크(120)를 통해 외부의 서버(130-1, 130-2)로 데이터를 전송한다. 이때, 차량(110-1, 110-2, 110-3)은 차량과 기지국간 통신(V2I) 또는 차량간 통신(V2V) 등 다양한 차량 통신(V2X)를 통해 데이터 처리 및 통신을 수행할 수 있다. 네트워크(120)는 5G, 4G, 와이파이(Wi-Fi) 등 다양한 방식의 통신 프로토콜이 혼재된 네트워크가 사용될 수 있다. 서버(130-1, 130-2)는 3rd 파티 수집장치(3rd party server)가 대부분이나, 일부 실시예에서는 OEM(Original Equipment Manufacturer) 수집장치와 3rd 파티 수집장치를 구분해 놓고, 이들간의 통신 방법을 제안하기도 하였다. Referring to FIG. 1, a plurality of vehicles (110-1, 110-2, 110-3) transmit data to an external server (130-1, 130-2) via a network (120). At this time, the vehicles (110-1, 110-2, 110-3) can perform data processing and communication via various vehicle communications (V2X), such as vehicle-to-base station communication (V2I) or vehicle-to-vehicle communication (V2V). The network (120) may be a network in which various communication protocols, such as 5G, 4G, and Wi-Fi, are mixed. The servers (130-1, 130-2) are mostly 3rd party collection devices, but in some embodiments, OEM (Original Equipment Manufacturer) collection devices and 3rd party collection devices are distinguished and a communication method between them is proposed.
도 2는 챠량 데이터를 전송하는 시스템을 세분화하여 도시한 개념도이다.Figure 2 is a conceptual diagram illustrating a detailed system for transmitting vehicle data.
도 2를 참조하면, 이러한 시스템은 차량과 연관된 다양한 데이터를 감지하는 센서부, 센서 데이터를 처리하는 처리부, 차량 데이터를 외부로 전송하거나 외부 데이터를 차량에서 수신하기 위한 네트워크 장치, 네트워크 및 외부 데이터 수집 장치로 구성된다. Referring to FIG. 2, the system is composed of a sensor unit that detects various data related to a vehicle, a processing unit that processes the sensor data, a network device for transmitting vehicle data to the outside or receiving external data from the vehicle, and a network and external data collection device.
이러한 시스템과 관련된 선행연구를 참조하면, 자동차에서 발생하는 데이터를 수집하는 일은 자동차 데이터의 특성(heterogeneous)과 네트워크 특성(limited network resource)를 극복하는 것이 관건인데, 그렇기 때문에 이와 연관된 연구가 다양하게 진행되고 있다. Referring to previous studies related to these systems, the key to collecting data generated from automobiles is to overcome the characteristics of automobile data (heterogeneous) and network characteristics (limited network resources), and therefore, various studies related to this are being conducted.
특히, 이러한 연구 중에 자율주행 차량의 네트워크 상황을 모니터링하고 이에 대응하여 자율주행과 연관된 데이터를 적절히 가공하여 전송하는 것은 매우 중요한 분야이다. In particular, during these studies, monitoring the network status of autonomous vehicles and responding to it by appropriately processing and transmitting data related to autonomous driving is a very important field.
종래의 해당 기술 분야의 연구는 차량에서의 데이터 전송 부분에 국한되어 연구되어 왔다. 예를 들어, 차량에 설치된 네트워크 처리 기술(채널본딩 등)만 이용하여 네트워크 속도를 측정하고, 이를 데이터 전송에 이용하는데 그쳤다. Previous research in this field of technology has been limited to data transmission in vehicles. For example, only the network processing technology (channel bonding, etc.) installed in the vehicle was used to measure the network speed and use it for data transmission.
하지만, 이와 같은 종래의 방법들의 문제점은 동시에 많은 자율주행 차량이 실시간으로 동영상/라이다 영상 등 대용량 데이터를 5G 업링크(Uplink)를 통해 서버로 전송하는 경우 해당 지역의 일반 5G 통신을 이용하는 다른 기기들을 포함하여, 네트워크 혼란이 가중시키는 문제점이 있었다. 특히, 5G 업링크 대역폭을 모두 소진할 때까지 자율주행 차량들은 무수히 많은 데이터들을 전송하다가, 네트워크가 불통이 되고 나서야 데이터 통신을 중단하게 되고, 이때 해당 지역의 네트워크는 이미 마비 상태가 되어 안전/편의상 문제가 심각해지는 문제점이 있다. However, the problem with these conventional methods is that when many autonomous vehicles simultaneously transmit large amounts of data such as video/lidar images to a server in real time via 5G uplink, there is a problem that network confusion is aggravated, including other devices using general 5G communications in the area. In particular, autonomous vehicles transmit countless data until the 5G uplink bandwidth is exhausted, and only then do they stop data communications when the network becomes unavailable. At this time, the network in the area is already paralyzed, which causes serious safety/convenience problems.
특히, 데이터 전송은, 데이터를 전송하는 단일 자율주행 차량에서 주로 고민되어 압축, 채널본딩 등을 통해 전송되기 때문에 서비스(관제) 전체적 관점에서, 서비스에 등록된 모든 자율주행차량이 동시에 데이터 전송을 할 수 있는지에 대한 고민을 하지 않았다. 즉, 서비스 중인 자율 주행 차량들의 데이터 전송을 통해 현재의 모바일 네트워크가 불통되는 상황에 대한 고민이 없었다.In particular, data transmission is mainly concerned with single autonomous vehicles transmitting data, and is transmitted through compression, channel bonding, etc., so from the perspective of the entire service (control), there was no concern about whether all autonomous vehicles registered in the service could transmit data simultaneously. In other words, there was no concern about the current mobile network being unavailable due to data transmission from autonomous vehicles in service.
또한, 상기 자율주행은 원격주행으로 확장될 수 있다. 원격주행은, 안전한 자율주행이 어려운 경우 관제센터의 운전자가 원격운전으로 자율주행차량을 제어하는 서비스를 의미한다. 이 경우에도 상기 대용량 데이터는 서버로 전송되어야 하며, 또한 상기 원격주행이 안전하게 이루어지기 위해서는 상기 데이터의 실시간 전송에 대한 보장이 있어야 한다. 이를 위하여, 상기 자율주행 차량과 상기 서버 간을 연결하는 네트워크가 마비되는 것을 회피하여야 함은 물론, 상기 네트워크의 상태를 상시 측정하여 통신이 두절되지 않도록 안배하여야 하는 기술적 과제가 발생하게 된다. In addition, the autonomous driving can be extended to remote driving. Remote driving refers to a service in which a driver at a control center controls an autonomous vehicle by remote driving when safe autonomous driving is difficult. In this case, the large amount of data must be transmitted to the server, and in order for the remote driving to be performed safely, real-time transmission of the data must be guaranteed. To this end, the technical task of avoiding paralysis of the network connecting the autonomous vehicle and the server as well as constantly measuring the status of the network to prevent communication from being cut off arises.
상술한 문제점을 해결하기 위한 본 발명의 일 양태에 따른 목적은, 원격주행이 가능한 자율주행 차량에 설치될 수 있는, 네트워크 상황을 모니터링하고 이에 따라 자율주행 및/또는 원격주행 데이터들의 전송을 조절할 수 있는 차량 통신 제어 장치 및 방법을 제공하는 것이다.An object of one aspect of the present invention for solving the above-described problem is to provide a vehicle communication control device and method that can be installed in an autonomous vehicle capable of remote driving, which can monitor network conditions and control transmission of autonomous driving and/or remote driving data accordingly.
상술한 목적을 달성하기 위한 본 발명의 일 양태에 따른, 원격주행이 가능한 차량 장치는, 신호에 의한 주행 제어를 받아 운전될 수 있는 자율주행차량부, 상기 자율주행차량부의 내부 및 외부에 위치하는 적어도 하나의 센서로부터 센서 데이터를 수신하는 원격주행 센서부, 상기 차량 장치와 상기 서버 장치 간의 네트워크 경로에 대한 지연시간을 계산하고, 상기 지연시간에 기반하여 목표 비트율 정보를 생성하는 네트워크 상태처리부, 상기 센서 데이터를 포함하는 원격 환경 데이터를 상기 목표 비트율 정보에 기반하여 부호화하는 데이터 부호화부, 및 상기 부호화된 데이터를 원격주행 제어 서버 장치로 전송하는 전송부를 포함할 수 있다.According to one aspect of the present invention for achieving the above-described object, a vehicle device capable of remote driving may include: an autonomous vehicle unit that can be driven by receiving driving control by a signal; a remote driving sensor unit that receives sensor data from at least one sensor located inside and outside the autonomous vehicle unit; a network status processing unit that calculates a delay time for a network path between the vehicle unit and the server device and generates target bit rate information based on the delay time; a data encoding unit that encodes remote environment data including the sensor data based on the target bit rate information; and a transmission unit that transmits the encoded data to a remote driving control server device.
상기 원격주행부는, 상기 원격주행 제어 서버 장치로부터 원격주행을 위한 제어 정보를 수신하는 수신부, 및 상기 제어 정보에 기반하여 상기 주행 신호를 생성하는 원격주행 ECU를 더 포함할 수 있다.The above remote driving unit may further include a receiving unit that receives control information for remote driving from the remote driving control server device, and a remote driving ECU that generates the driving signal based on the control information.
상기 네트워크 상태 처리부는, 상기 네트워크의 상태 분석을 위한 프로브 패킷을 생성하는 프로브 패킷 생성부, 상기 프로브 패킷을 상기 서버 장치에 전송하는 프로브 패킷 전송부, 상기 서버 장치로부터 상기 네트워크의 지연시간 정보를 수신하는 네트워크 상태분석부, 및 상기 지연시간 정보에 기반하여 목표 비트율 정보를 생성하는 비트율 조절부를 포함할 수 있다.The above network status processing unit may include a probe packet generation unit that generates a probe packet for analyzing the status of the network, a probe packet transmission unit that transmits the probe packet to the server device, a network status analysis unit that receives delay time information of the network from the server device, and a bit rate control unit that generates target bit rate information based on the delay time information.
상술한 목적을 달성하기 위한 본 발명의 일 양태에 따른, 원격주행이 가능한 차량을 제어하기 위한 원격주행 서버 장치는, 원격주행의 대상이 되는 차량 장치로부터 수신된 원격 환경 데이터를 복호화하는 데이터 복호화부, 상기 차량 장치와 상기 서버 장치 간의 네트워크 경로에 대한 네트워크 지연시간을 계산하고, 상기 차량 장치로 상기 네트워크 지연시간 정보를 전송하는 네트워크 지연예측부, 및상기 차량에 대한 원격주행 제어 지시를 생성하는 원격주행 운전석부를 포함할 수 있다.According to one aspect of the present invention for achieving the above-described purpose, a remote driving server device for controlling a vehicle capable of remote driving may include a data decryption unit for decrypting remote environment data received from a vehicle device that is a target of remote driving, a network delay prediction unit for calculating a network delay time for a network path between the vehicle device and the server device and transmitting the network delay time information to the vehicle device, and a remote driving driver's seat unit for generating a remote driving control instruction for the vehicle.
상기 장치는, 상기 원격주행 운전석부로부터 원격주행 지시를 수신하고, 상기 원격주행 지시에 기반하여 원격주행 제어 정보를 생성하는 원격주행 ECU, 및 상기 원격주행 제어 정보를 상기 차량 장치에 상기 제어 정보를 송신하는 송신부를 더 포함할 수 있다.The device may further include a remote driving ECU that receives a remote driving instruction from the remote driving driver's seat and generates remote driving control information based on the remote driving instruction, and a transmitter that transmits the remote driving control information to the vehicle device.
상기 네트워크 지연예측부는, 상기 차량 장치로부터 네트워크 상태 분석을 위한 프로브(prove) 패킷을 수신하고, 상기 차량과의 네트워크 경로에 대한 지연시간을 계산하는 지연시간 계산부, 및 상기 계산된 지연시간에 기반하여 네트워크 지연정보를 생성하고, 상기 네트워크 지연정보를 상기 차량으로 송신하는 지연정보 전송부를 포함할 수 있다.The above network delay prediction unit may include a delay time calculation unit that receives a probe packet for network status analysis from the vehicle device and calculates a delay time for a network path with the vehicle, and a delay information transmission unit that generates network delay information based on the calculated delay time and transmits the network delay information to the vehicle.
상기 네트워크 지연예측부는, 원격주행을 위한 관제 정보를 수신하는 관제 정보 수신부, 상기 계산된 지연시간과 상기 관제 정보를 저장하는 저장부를 더 포함할 수 있다.The above network delay prediction unit may further include a control information receiving unit that receives control information for remote driving, and a storage unit that stores the calculated delay time and the control information.
상술한 목적을 달성하기 위한 본 발명의 일 양태에 따른, 원격주행이 가능한 차량을 제어하는 방법은, 원격주행이 가능한 차량 장치로부터 프로브 패킷을 생성하는 단계, 상기 프로브 패킷을 원격주행 제어 서버 장치로 전송하는 단계, 상기 프로브 패킷을 수신하여 상기 차량과의 네트워크 경로에 대한 지연시간을 계산하는 단계, 상기 지연시간에 기반하여 네트워크 지연정보를 생성하는 단계, 상기 네트워크 지연정보를 상기 차량으로 전송하는 단계, 상기 네트워크 지연정보에 기반하여 목표 비트율 정보를 생성하는 단계, 상기 목표 비트율 정보에 기반하여 상기 차량 장치로부터 송신되는 원격 환경 정보를 부호화하는 단계, 상기 원격 환경 정보를 상기 원격주행 제어 서버 장치로 전송하는 단계, 및 상기 원격주행 제어 서버 장치가 상기 원격 환경 정보에 기반하여 상기 차량 장치에 원격주행 제어 정보를 전송하는 단계를 포함할 수 있다.According to one aspect of the present invention for achieving the above-described object, a method for controlling a vehicle capable of remote driving may include a step of generating a probe packet from a vehicle device capable of remote driving, a step of transmitting the probe packet to a remote driving control server device, a step of receiving the probe packet and calculating a delay time for a network path with the vehicle, a step of generating network delay information based on the delay time, a step of transmitting the network delay information to the vehicle, a step of generating target bit rate information based on the network delay information, a step of encoding remote environment information transmitted from the vehicle device based on the target bit rate information, a step of transmitting the remote environment information to the remote driving control server device, and a step of the remote driving control server device transmitting remote driving control information to the vehicle device based on the remote environment information.
상술한 목적을 달성하기 위한 본 발명의 일 양태에 따른, 원격주행이 가능한 차량을 제어하는 시스템은, 신호에 의한 주행 제어를 받아 운전될 수 있는 자율주행차량, 상기 자율주행차량을 제어하는 자율주행장치, 상기 자율주행장치에 원격주행 제어 정보를 전송하는 제어 서버 장치, 및 상기 제어 서버 장치에 원격주행 지시를 전송하는 원격주행 운전석을 포함하고, 상기 자율주행장치는, 상기 자율주행장치와 상기 제어 서버 장치 간의 네트워크 경로에 대한 지연시간을 계산하고, 상기 지연시간에 기반하여 목표 비트율 정보를 생성하는 네트워크 상태처리부, 상기 센서 데이터를 포함하는 원격 환경 데이터를 상기 목표 비트율 정보에 기반하여 부호화하는 데이터 부호화부, 상기 부호화된 데이터를 상기 제어 서버 장치로 전송하는 전송부, 상기 제어 서버 장치로부터 상기 원격주행 제어 정보를 수신하는 수신부, 및 상기 원격주행 제어 정보에 기반하여 상기 주행 신호를 생성하는 원격주행 ECU룰 포함하고, 상기 제어 서버 장치는, 상기 원격주행의 대상이 되는 차량 장치로부터 수신된 원격 환경 데이터를 복호화하는 데이터 복호화부, 상기 차량 장치와 상기 서버 장치 간의 네트워크 경로에 대한 네트워크 지연시간을 계산하고, 상기 차량 장치로 상기 네트워크 지연시간 정보를 전송하는 네트워크 지연예측부, 상기 원격주행 운전석으로부터 원격주행 지시를 수신하고 상기 원격주행 지시에 기반하여 원격주행 제어 정보를 생성하는 원격주행 ECU, 및 상기 원격주행 제어 정보를 상기 차량 장치 송신하는 송신부를 포함할 수 있다.According to one aspect of the present invention for achieving the above-described object, a system for controlling a vehicle capable of remote driving includes an autonomous vehicle capable of being driven by receiving driving control by a signal, an autonomous driving device controlling the autonomous vehicle, a control server device transmitting remote driving control information to the autonomous driving device, and a remote driving driver's seat transmitting a remote driving instruction to the control server device, wherein the autonomous driving device includes a network status processing unit that calculates a delay time for a network path between the autonomous driving device and the control server device and generates target bit rate information based on the delay time, a data encoding unit that encodes remote environment data including the sensor data based on the target bit rate information, a transmission unit that transmits the encoded data to the control server device, a receiving unit that receives the remote driving control information from the control server device, and a remote driving ECU that generates the driving signal based on the remote driving control information, wherein the control server device includes a data decoding unit that decodes remote environment data received from a vehicle device that is a target of the remote driving, a network delay time for a network path between the vehicle device and the server device, and a remote driving ECU that generates the driving signal based on the remote driving control information. The device may include a network delay prediction unit that transmits the network delay time information to the device, a remote driving ECU that receives a remote driving instruction from the remote driving driver's seat and generates remote driving control information based on the remote driving instruction, and a transmitter that transmits the remote driving control information to the vehicle device.
본 발명의 차량 통신 제어 장치 및 방법에 따르면, 자율 주행 서비스(관제)에 연결된 자율주행 차량들이 데이터를 서버로 전송함에 있어서, 현재의 네트워크 상황을 차량과 관제에서도 측정하여 서로 공유하고, 서비스에 등록된 자율주행 차량들은 안정된 네트워크를 유지할 수 있게, 전송 데이터량을 조절하여 네트워크 쓰루풋(Throughput)을 일정한 수준 이상으로 유지할 수 있게 함에 따라, 항상 모바일 네트워크 통신이 가능하도록 유지시키는 효과가 있다.According to the vehicle communication control device and method of the present invention, when autonomous vehicles connected to an autonomous driving service (control) transmit data to a server, the current network status is measured and shared between the vehicle and the control, and autonomous vehicles registered in the service can maintain a stable network by controlling the amount of transmitted data to maintain the network throughput above a certain level, thereby having the effect of always enabling mobile network communication.
도 1은 종래 차량 데이터를 외부 서버로 전송하는 시스템을 나타낸 개념도,
도 2는 챠량 데이터를 전송하는 시스템을 세분화하여 도시한 개념도,
도 3은 본 발명의 일 실시예에 따른 차량 통신 제어 시스템의 구조를 나타낸 블록도,
도 4는 본 발명의 일 실시예에 따른 차량 통신 제어 장치를 포함하는 자율 주행 차량의 구성을 개략적으로 나타낸 블록도,
도 5는 도 4의 자율 주행 차량이 다수 존재하는 5G 네트워크 환경을 개략적으로 나타낸 개념도,
도 6은 도 3의 차량 및 서버측의 데이터 조절부의 구조를 구체적으로 나타낸 상세블록도,
도 7은 본 발명의 일 실시예에 따른 차량 통신 제어 방법을 나타낸 흐름도,
도 8은 본 발명의 일 실시예에 따른 원격주행에 대응하는 차량 통신 제어 시스템의 구조를 나타낸 블록도,
도 9는 본 발명의 일 실시예에 따른 네트워크 상태처리부의 구조를 나타낸 블록도,
도 10은 본 발명의 일 실시예에 따른 네트워크 지연예측부의 구조를 나타낸 블록도,
도 11은 본 발명의 일 실시예에 따른 원격주행을 위한 차량 통신 제어 방법을 나타낸 흐름도이다.Figure 1 is a conceptual diagram showing a system for transmitting conventional vehicle data to an external server.
Figure 2 is a conceptual diagram illustrating a detailed system for transmitting vehicle data.
FIG. 3 is a block diagram showing the structure of a vehicle communication control system according to one embodiment of the present invention.
FIG. 4 is a block diagram schematically showing the configuration of an autonomous vehicle including a vehicle communication control device according to one embodiment of the present invention.
Figure 5 is a conceptual diagram schematically illustrating a 5G network environment in which multiple autonomous vehicles of Figure 4 exist.
Figure 6 is a detailed block diagram specifically showing the structure of the data control unit on the vehicle and server side of Figure 3.
Figure 7 is a flow chart showing a vehicle communication control method according to one embodiment of the present invention.
FIG. 8 is a block diagram showing the structure of a vehicle communication control system corresponding to remote driving according to one embodiment of the present invention.
Figure 9 is a block diagram showing the structure of a network status processing unit according to one embodiment of the present invention.
FIG. 10 is a block diagram showing the structure of a network delay prediction unit according to one embodiment of the present invention.
FIG. 11 is a flowchart illustrating a vehicle communication control method for remote driving according to one embodiment of the present invention.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.The present invention can have various modifications and various embodiments, and specific embodiments are illustrated in the drawings and described in detail. However, this is not intended to limit the present invention to specific embodiments, but should be understood to include all modifications, equivalents, or substitutes included in the spirit and technical scope of the present invention.
제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 명명될 수 있다. "및/또는"이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함하며, 또한, 달리 지시되지 않는 한 비배타적이다. 본 출원에 항목을 열거하는 경우 그것은 본 출원 발명의 사상과 가능한 실시 방법들을 용이하게 설명하기 위한 예시적 서술에 그치며, 따라서, 본 발명의 실시예 범위를 한정하는 의도를 가지지 아니한다.Although the terms first, second, etc. may be used to describe various components, the components should not be limited by the terms. The terms are only used to distinguish one component from another. For example, the first component could be referred to as the second component, and similarly, the second component could also be referred to as the first component, without departing from the scope of the present invention. The term "and/or" includes any combination of a plurality of related listed items or any of a plurality of related listed items, and is non-exclusive unless otherwise indicated. The listing of items in this application is merely an exemplary description to easily explain the spirit and possible implementation methods of the present invention, and therefore, is not intended to limit the scope of embodiments of the present invention.
본 명세서에서 "A 또는 B(A or B)"는 "오직 A", "오직 B" 또는 "A와 B 모두"를 의미할 수 있다. 달리 표현하면, 본 명세서에서 "A 또는 B(A or B)"는 "A 및/또는 B(A and/or B)"으로 해석될 수 있다. 예를 들어, 본 명세서에서 "A, B 또는 C(A, B or C)"는 "오직 A", "오직 B", "오직 C", 또는 "A, B 및 C의 임의의 모든 조합(any combination of A, B and C)"를 의미할 수 있다.As used herein, “A or B” can mean “only A”, “only B”, or “both A and B”. In other words, as used herein, “A or B” can be interpreted as “A and/or B”. For example, as used herein, “A, B or C” can mean “only A”, “only B”, “only C”, or “any combination of A, B and C”.
본 명세서에서 사용되는 슬래쉬(/)나 쉼표(comma)는 "및/또는(and/or)"을 의미할 수 있다. 예를 들어, "A/B"는 "A 및/또는 B"를 의미할 수 있다. 이에 따라 "A/B"는 "오직 A", "오직 B", 또는 "A와 B 모두"를 의미할 수 있다. 예를 들어, "A, B, C"는 "A, B 또는 C"를 의미할 수 있다.As used herein, a slash (/) or a comma can mean "and/or". For example, "A/B" can mean "A and/or B". Accordingly, "A/B" can mean "only A", "only B", or "both A and B". For example, "A, B, C" can mean "A, B, or C".
본 명세서에서 "적어도 하나의 A 및 B(at least one of A and B)"는, "오직 A", "오직 B" 또는 "A와 B 모두"를 의미할 수 있다. 또한, 본 명세서에서 "적어도 하나의 A 또는 B(at least one of A or B)"나 "적어도 하나의 A 및/또는 B(at least one of A and/or B)"라는 표현은 "적어도 하나의 A 및 B(at least one of A and B)"와 동일하게 해석될 수 있다. As used herein, “at least one of A and B” can mean “only A”, “only B” or “both A and B”. Additionally, as used herein, the expressions “at least one of A or B” or “at least one of A and/or B” can be interpreted identically to “at least one of A and B”.
또한, 본 명세서에서 "적어도 하나의 A, B 및 C(at least one of A, B and C)"는, "오직 A", "오직 B", "오직 C", 또는 "A, B 및 C의 임의의 모든 조합(any combination of A, B and C)"를 의미할 수 있다. 또한, "적어도 하나의 A, B 또는 C(at least one of A, B or C)"나 "적어도 하나의 A, B 및/또는 C(at least one of A, B and/or C)"는 "적어도 하나의 A, B 및 C(at least one of A, B and C)"를 의미할 수 있다.Additionally, in this specification, "at least one of A, B and C" can mean "only A", "only B", "only C", or "any combination of A, B and C". Additionally, "at least one of A, B or C" or "at least one of A, B and/or C" can mean "at least one of A, B and C".
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.When it is said that a component is "connected" or "connected" to another component, it should be understood that it may be directly connected or connected to that other component, but that there may be other components in between. On the other hand, when it is said that a component is "directly connected" or "directly connected" to another component, it should be understood that there are no other components in between.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terminology used in this application is only used to describe specific embodiments and is not intended to limit the present invention. The singular expression includes the plural expression unless the context clearly indicates otherwise. In this application, it should be understood that the terms "comprises" or "has" and the like are intended to specify the presence of a feature, number, step, operation, component, part or combination thereof described in the specification, but do not exclude in advance the possibility of the presence or addition of one or more other features, numbers, steps, operations, components, parts or combinations thereof.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 이용하여 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가진 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless otherwise defined, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art to which this invention belongs. Terms defined in commonly used dictionaries, such as those defined in common usage dictionaries, should be interpreted as having a meaning consistent with the meaning they have in the context of the relevant art, and shall not be interpreted in an idealized or overly formal sense, unless expressly defined in this application.
본 출원에서 발명을 설명함에 있어, 실시예들은 설명된 기능 또는 기능들을 수행하는 단위 블록들의 측면에서 설명되거나 예시될 수 있다. 상기 블록들이란 본 출원에서 하나 또는 복수의 장치, 유닛, 모듈, 부 등으로 표현될 수 있다. 상기 블록들은 하나 또는 복수의 논리 게이트, 집적 회로, 프로세서, 컨트롤러, 메모리, 전자 부품 또는 이에 한정되지 않는 정보처리 하드웨어의 구현 방법에 의하여 하드웨어적으로 실시될 수도 있다. 또는, 상기 블록들은 응용 소프트웨어, 운영 체제 소프트웨어, 펌웨어, 또는 이에 한정되지 않는 정보처리 소프트웨어의 구현 방법에 의하여 소프트웨어적으로 실시될 수도 있다. 하나의 블록은 동일한 기능을 수행하는 복수의 블록들로 분리되어 실시될 수도 있으며, 반대로 복수의 블록들의 기능을 동시에 수행하기 위한 하나의 블록이 실시될 수도 있다. 상기 블록들은 또한 임의의 기준에 의하여 물리적으로 분리되거나 결합되어 실시될 수 있다. 상기 블록들은 통신 네트워크, 인터넷, 클라우드 서비스, 또는 이에 한정되지 않는 통신 방법에 의해 물리적 위치가 특정되지 않고 서로 이격되어 있는 환경에서 동작하도록 실시될 수도 있다. 상기의 모든 실시 방법은 동일한 기술적 사상을 구현하기 위하여 정보통신 기술 분야에 익숙한 통상의 기술자가 취할 수 있는 다양한 실시예의 영역이므로, 여하의 상세한 구현 방법은 모두 본 출원상 발명의 기술적 사상 영역에 포함되는 것으로 해석되어야 한다.In describing the invention in this application, the embodiments may be described or illustrated in terms of unit blocks that perform the described function or functions. The blocks may be expressed as one or more devices, units, modules, parts, etc. in this application. The blocks may be implemented in hardware by one or more logic gates, integrated circuits, processors, controllers, memories, electronic components, or information processing hardware implementation methods that are not limited thereto. Alternatively, the blocks may be implemented in software by application software, operating system software, firmware, or information processing software implementation methods that are not limited thereto. One block may be implemented by being separated into multiple blocks that perform the same function, or conversely, one block may be implemented to perform the functions of multiple blocks simultaneously. The blocks may also be implemented by being physically separated or combined by any criterion. The blocks may be implemented to operate in an environment where their physical locations are not specified and are separated from each other by a communication network, the Internet, a cloud service, or a communication method that is not limited thereto. All of the above implementation methods are within the scope of various embodiments that can be taken by a person skilled in the field of information and communication technology to implement the same technical idea, and therefore, any detailed implementation method should be interpreted as being included within the scope of the technical idea of the invention of the present application.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 본 발명을 설명함에 있어 전체적인 이해를 용이하게 하기 위하여 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다. 또한 복수의 실시예들은 서로 배타적이 아니며, 일부 실시예들이 새로운 실시예들을 형성하기 위해 하나 이상의 다른 실시예들과 조합될 수 있음을 전제로 한다.Hereinafter, with reference to the attached drawings, a preferred embodiment of the present invention will be described in more detail. In order to facilitate an overall understanding in describing the present invention, the same reference numerals are used for the same components in the drawings, and duplicate descriptions of the same components are omitted. In addition, it is assumed that the multiple embodiments are not mutually exclusive, and that some embodiments can be combined with one or more other embodiments to form new embodiments.
차량 통신 제어 시스템, 장치, 및 방법Vehicle communication control system, device, and method
도 3은 본 발명의 일 실시예에 따른 차량 통신 제어 시스템의 구조를 나타낸 블록도이다. 도 3에 도시된 바와 같이, 본 발명의 일 실시예에 따른 차량 통신 제어 시스템은 차량(310)과 서버 장치(320)를 포함할 수 있다.FIG. 3 is a block diagram showing the structure of a vehicle communication control system according to one embodiment of the present invention. As shown in FIG. 3, the vehicle communication control system according to one embodiment of the present invention may include a vehicle (310) and a server device (320).
도 3을 참조하면, 차량(310)은 자율주행부(312), 데이터 전송부(314) 및 데이터 조절부(316)를 포함할 수 있다. 자율주행부(312)는 차량의 자율주행 기능을 담당한다. 자율주행부(312)는 차량 내 또는 차량 주변에 배열된 다수의 센서들로부터 센서 데이터를 수신하여 자율주행에 활용한다. 이때, 다수의 센서들은 차량 전방, 후방, 측방 등 차량 주변 및 차량의 주행 또는 안전과 연관된 다양한 정보를 감지한다. 자율주행부(312)는 실시간으로 감지되는 다양한 센서데이터를 이용하여 자율주행을 수행한다. 센서들과 자율주행과 연관된 동작은 이하 도 4를 통해 보다 상세히 설명한다.Referring to FIG. 3, the vehicle (310) may include an autonomous driving unit (312), a data transmission unit (314), and a data control unit (316). The autonomous driving unit (312) is in charge of the autonomous driving function of the vehicle. The autonomous driving unit (312) receives sensor data from a plurality of sensors arranged inside or around the vehicle and uses the data for autonomous driving. At this time, the plurality of sensors detect various information related to the vehicle's surroundings, such as the front, rear, and side of the vehicle, and the driving or safety of the vehicle. The autonomous driving unit (312) performs autonomous driving using various sensor data detected in real time. The sensors and operations related to autonomous driving are described in more detail below with reference to FIG. 4.
데이터 전송부(314)는 데이터 조절부(316)의 조절 신호를 기반으로 적절히 차량과 연관된 전송 대상 데이터의 비트율을 조절하여 네트워크(305)를 통해 서버(320) 측으로 전송한다. 데이터 전송부(314)는 유선 또는 무선 통신을 위한 통신모듈을 포함한다. The data transmission unit (314) adjusts the bit rate of the transmission target data associated with the vehicle appropriately based on the control signal of the data control unit (316) and transmits it to the server (320) through the network (305). The data transmission unit (314) includes a communication module for wired or wireless communication.
데이터 조절부(316)는 서버측의 데이터 조절부(324)와 통신하며 네트워크 상태를 측정하기 위한 패킷을 발생시킨다. 그리고, 서버측 데이터 조절부(324)에서 결정한 목표비트율 정보를 수신하여 차량과 연관된 전송 대상 데이터의 비트율을 조절하기 위한 신호를 생성하여 데이터 전송부(314)로 제공한다. The data control unit (316) communicates with the data control unit (324) on the server side and generates a packet for measuring the network status. Then, it receives the target bit rate information determined by the server side data control unit (324) and generates a signal for controlling the bit rate of the transmission target data related to the vehicle and provides it to the data transmission unit (314).
네트워크(330)는 자율주행 차량(310)과 서버(320) 간에 데이터를 주고받을 수 있도록 하기 위한 통신망이다. 본 발명의 실시예에 따르면, 네트워크(330)는 5G, 6G, 4G, LTE, 3G, WIBRO 등 다양한 형태의 무선 네트워크로 구현될 수 있다. 바람직하게는, 5G 네트워크로 구현될 수 있다. 다만, 5G 네트워크 또는 그와 연관된 엔티티(예를 들어, gNodeB)로 표현되었다고 하더라도, 이것이 4G 네트워크, 3G 네트워크 또는 그것들과 연관된 엔티티(eNodeB, NodeB)로 구현될 수 있음은 본 발명이 속하는 기술분야의 통상의 기술자에게는 자명한 것일 것이다. The network (330) is a communication network for enabling data to be exchanged between an autonomous vehicle (310) and a server (320). According to an embodiment of the present invention, the network (330) may be implemented as various types of wireless networks such as 5G, 6G, 4G, LTE, 3G, and WIBRO. Preferably, it may be implemented as a 5G network. However, even if it is expressed as a 5G network or an entity related thereto (e.g., gNodeB), it will be obvious to those skilled in the art that it may be implemented as a 4G network, a 3G network, or an entity related thereto (eNodeB, NodeB).
서버(320)는 인터넷을 통해 데이터를 수집하는 인터넷 데이터 수집 서버일 수 있다. 이는 데이터 수집 서버, 관제 서버 또는 서비스 서버라고 부를 수 있다. 서버(350)는 차량으로부터 전송되는 데이터를 수신하여 자율주행 관련 측위, 관제 등의 서비스를 수행하는 서비스/관제부(322) 및 네트워크 상태 분석을 통해 차량(310)으로부터의 데이터의 비트율 등을 조절하는 데이터 조절부(324)를 포함할 수 있다. The server (320) may be an Internet data collection server that collects data via the Internet. It may be called a data collection server, a control server, or a service server. The server (350) may include a service/control unit (322) that receives data transmitted from a vehicle and performs services such as autonomous driving-related positioning and control, and a data control unit (324) that adjusts the bit rate of data from the vehicle (310) through network status analysis.
또한, 도면에는 도시되진 않았지만, 서비스/관제부(322)는 자율주행 차량(310)의 자율주행과 연관된 데이터를 수집하고 자율주행이 원활하게 이루어질 수 있도록 적절한 정보를 전달하면서 전반적으로 다수의 차량(310)의 자율주행을 관제하는 기능을 수행할 수 있다. 이는 별도의 서버 장치로 구현될 수도 있다. In addition, although not shown in the drawing, the service/control unit (322) may perform the function of controlling the autonomous driving of multiple vehicles (310) in general while collecting data related to autonomous driving of the autonomous vehicle (310) and transmitting appropriate information so that autonomous driving can be performed smoothly. This may be implemented as a separate server device.
데이터 조절부(324)는 네트워크의 상태를 모니터링하는 장비를 포함한다. 예를 들어, 네트워크 사업자(Network Operator)가 제공하는 네트워크 모니터링 장치를 포함할 수 있다. 이는, 백홀 모니터링 장치(backhaul monitoring device), 코어망 모니터링 장치(core network monitoring device) 등을 포함할 수 있다. 데이터 조절부(324)는 차량측 데이터 조절부(324)에서 전송되는 패킷을 기반으로 패킷 경로 상의 현재 네트워크 상태를 예측 및 분석한다. 그리고는, 분석 결과를 토대로, 차량(310)과의 데이터 통신에 최적화된 통신 관련 파라미터에 대한 정보(예를 들어, 목표 비트율 정보)를 생성하여 네트워크(330)를 매개로 차량측 데이터 조절부(316)로 제공할 수 있다. 서비스/관제부(322)가 별도 장치로 구현될 수 있듯이, 데이터 조절부(324)도 독립적인 장치로 구현될 수 있다.The data control unit (324) includes equipment for monitoring the status of the network. For example, it may include a network monitoring device provided by a network operator. This may include a backhaul monitoring device, a core network monitoring device, etc. The data control unit (324) predicts and analyzes the current network status on the packet path based on the packet transmitted from the vehicle-side data control unit (324). Then, based on the analysis result, information on communication-related parameters optimized for data communication with the vehicle (310) (e.g., target bit rate information) may be generated and provided to the vehicle-side data control unit (316) via the network (330). Just as the service/control unit (322) may be implemented as a separate device, the data control unit (324) may also be implemented as an independent device.
본 명세서 상에서, 데이터 조절부(316, 324)는 차량 통신 제어 장치라고 부를 수 있다.In this specification, the data control unit (316, 324) may be called a vehicle communication control device.
도 4는 본 발명의 일 실시예에 따른 차량 통신 제어 장치를 포함하는 자율 주행 차량의 구성을 개략적으로 나타낸 블록도이다. 도 4에 도시된 바와 같이, 본 발명의 일 실시예에 따른 자율 주행 차량은 센서들(410), 기계 장치들(412), 자율주행 제어기(420), 기계 제어기(422), EDR(430: Event Data Recorder), DSSAD(432: Data Storage System for Autonomous Driving), 기타 저장소(434) 및 통신 제어 장치(440)를 포함할 수 있다.FIG. 4 is a block diagram schematically illustrating a configuration of an autonomous vehicle including a vehicle communication control device according to one embodiment of the present invention. As illustrated in FIG. 4, an autonomous vehicle according to one embodiment of the present invention may include sensors (410), mechanical devices (412), an autonomous driving controller (420), a mechanical controller (422), an EDR (430: Event Data Recorder), a DSSAD (432: Data Storage System for Autonomous Driving), other storage (434), and a communication control device (440).
도 4를 참조하면, 센서들(410)은 차량 또는 차량 주변에 설치된 것으로, 자율주행을 위한 데이터로 이용되는 센싱 데이터를 포함한다. 센서들(410)은 다수의 카메라(camera), 다수의 라이다(LiDAR), 다수의 레이더(Radar) 등을 포함한다. 이들은 대부분 대용량의 데이터를 생산하는 다수의 센서들로 이루어져 있다. 센서들(410)은 로우 데이터(Raw Data)를 출력하기도 하고, 로우 데이터로부터 가공된 다양한 인식 결과를 출력하기도 한다. 추가적으로, 센서들(410)은 차량 내 설치된 각종 ECU(Electronic Control Unit)의 센서를 포함한다. 이러한 ECU의 센서가 발생시키는 정보들에는, 차량 속도, 타이어 공기압, 조향각(Steering Angle), 에어-백(Air-bag) 개폐 여부, 브레이크 포스(Brake Force), ESC(Electric Stability Control) 동작 유무 등 각종 차량 동작 상태에 대한 정보를 포함할 수 있다. Referring to FIG. 4, sensors (410) are installed in a vehicle or around a vehicle, and include sensing data used as data for autonomous driving. The sensors (410) include a plurality of cameras, a plurality of LiDARs, a plurality of radars, etc. Most of them are composed of a plurality of sensors that produce a large amount of data. The sensors (410) output raw data and also output various recognition results processed from the raw data. Additionally, the sensors (410) include sensors of various ECUs (Electronic Control Units) installed in the vehicle. The information generated by the sensors of these ECUs may include information on various vehicle operation states, such as vehicle speed, tire pressure, steering angle, whether an air bag is opened or closed, brake force, and whether ESC (Electric Stability Control) is in operation.
자율주행 제어기(420)는 센서들(410)에서 생성된 센서 데이터를 이용하여 경로, 위치인식, 물체인식, 위험판단 등을 수행하여 기계 제어기(422)에 명령하고, 이를 기반으로 기계 장치들(412)을 제어한다. The autonomous driving controller (420) uses sensor data generated from sensors (410) to perform path, location recognition, object recognition, risk judgment, etc., and issues commands to the machine controller (422), and controls the machine devices (412) based on this.
이때, 생성되는 각종 센서데이터와 자율 주행과 연관된 제어 신호들은 EDR(432), DSSAD(434) 및 기타 저장소(436) 등의 저장소(Storage)(저장부라고 부를 수 있음)에 저장된다. At this time, various sensor data generated and control signals related to autonomous driving are stored in storage (storage) (which may be called a storage unit) such as EDR (432), DSSAD (434), and other storage (436).
저장소에 저장된 센서 데이터들(차량 데이터라고 부를 수 있음) 중 적어도 일부는 통신 제어 장치(440)를 통해 재구성되어 5G 네트워크(450)를 매개로 외부 장치(예를 들어, 자율 주행 관제 서버)로 전송될 수 있다.At least some of the sensor data (which may be referred to as vehicle data) stored in the storage may be reconstructed through the communication control device (440) and transmitted to an external device (e.g., an autonomous driving control server) via a 5G network (450).
도 5는 도 4의 자율 주행 차량이 다수 존재하는 5G 네트워크 환경을 개략적으로 나타낸 개념도이다. Figure 5 is a conceptual diagram schematically illustrating a 5G network environment in which multiple autonomous vehicles of Figure 4 exist.
도 5를 참조하면, 자율주행 차량(520-1~520-3, 522-1~522-3, 524-1~524-3)은 각각 통신을 제어하는 통신 제어 장치를 구비하고 있으며, 통신 제어 장치는 통신 데이터들을 보안 처리하여 차량 내부와 차량 외부를 연결하는 역할을 한다. 통신 제어 장치는 자율주행 제어기 또는 외부의 요청에 의해 차량의 데이터를 특정 서버로 전송할 수 있으며, 반대 요청에 의해 차량의 데이터를 전송하지 않을 수도 있다. Referring to FIG. 5, autonomous vehicles (520-1 to 520-3, 522-1 to 522-3, 524-1 to 524-3) each have a communication control device that controls communication, and the communication control device securely processes communication data to connect the inside of the vehicle and the outside of the vehicle. The communication control device can transmit vehicle data to a specific server upon request from the autonomous driving controller or an external source, and may not transmit vehicle data upon a counter request.
일반적으로, 통신 장치들은, 데이터 통신을 위해 채널본딩, 채널코딩, 데이터 비트율 조절, 압축량 조절, 네트워크 코딩, 네트워크 최적화 등을 기능을 탑재하고 있으며, 이러한 기능들을 이용하여, 차량 데이터를 서버로 전송한다. In general, communication devices are equipped with functions such as channel bonding, channel coding, data bit rate control, compression amount control, network coding, and network optimization for data communication, and use these functions to transmit vehicle data to a server.
자율주행 차량들(일반 승객용, 관공서용, 지자체 특수차량, 장애인 수송차량, 배달로봇 등등등)은 현재는 적은 수가 일부 구간에서 시험 주행을 하고 있지만, 향후에는 도 5와 같이 도심지 곳곳에서 다수의 차량들이 주행을 할 것이다. 하지만, 도심지에는 자율 주행차량 뿐만 아니라, 일반 사람들을 위한 동영상 서비스도 폭발적으로 증가하고 있으며, 모바일 장비들도 더 많고, 더 빠른 데이터를 전송하기 위해 경쟁적으로 5G 네트워크(업링크 10Gbps, 다운링크 20Gbps)를 이용하여 통신을 할 것이다. 이러한 환경에서 자율주행이 제대로 이루어지려면, 네트워크 환경에 적응적으로 대응하는 차량 데이터 전송을 위한 통신 제어가 요구될 수 있다.Autonomous vehicles (for general passengers, government offices, special local government vehicles, vehicles for the transport of the disabled, delivery robots, etc.) are currently being tested in a small number of sections, but in the future, a large number of vehicles will be driving throughout urban areas as shown in Fig. 5. However, in urban areas, not only autonomous vehicles but also video services for the general public are increasing explosively, and there are more mobile devices and they will competitively use 5G networks (uplink 10 Gbps, downlink 20 Gbps) to transmit faster data. In such an environment, for autonomous driving to be performed properly, communication control for vehicle data transmission that adaptively responds to the network environment may be required.
도 5를 참조하면, 자율주행 차량(520-1~520-3, 522-1~522-3, 524-1~524-3)은 5G 네트워크 상에 다수 개 위치하고 있을 수 있다. 각 자율주행 차량들(520-1~520-3, 522-1~522-3, 524-1~524-3)은 특정 지역의 기지국(gNodeB : 510-1, 510-2, 510-3)과 RAN(Radio Access Network)을 통해 네트워크에 연결이 되어있다. 즉, 개별 기지국(510-1, 510-2, 510-3) 각각은 RAN을 통해 자신이 담당하는 셀(512-1, 512-2, 512-3) 내의 무선통신을 제어하며, 이러한 개별 셀 내에 위치한 차량의 무선통신을 관리한다. 셀 1(512-1)에는 차량(520-1~520-3)이, 셀 2(512-2)에는 차량(522-1~522-3)이, 셀 3(512-3)에는 차량(524-1~524-3)이 위치하여, 각각의 셀이 자신의 셀 내에 위치한 차량의 무선통신을 제어한다.Referring to FIG. 5, multiple autonomous vehicles (520-1 to 520-3, 522-1 to 522-3, 524-1 to 524-3) may be located on a 5G network. Each autonomous vehicle (520-1 to 520-3, 522-1 to 522-3, 524-1 to 524-3) is connected to the network through a base station (gNodeB: 510-1, 510-2, 510-3) in a specific region and a RAN (Radio Access Network). That is, each individual base station (510-1, 510-2, 510-3) controls wireless communication within its own cell (512-1, 512-2, 512-3) through the RAN and manages wireless communication of vehicles located within these individual cells. Vehicles (520-1 to 520-3) are located in cell 1 (512-1), vehicles (522-1 to 522-3) are located in cell 2 (512-2), and vehicles (524-1 to 524-3) are located in cell 3 (512-3), so that each cell controls wireless communication of the vehicles located within its own cell.
한편, 각 기지국(510-1, 510-2, 510-3)으로 무선 전송된 차량 데이터들은 유선으로 연결되어 각각 라우터(530-1, 530-2, 530-3)에 연결되고, 게이트웨이(540-1, 540-2, 540-3)을 통해 코어망(CN(Core Network): 550)(이를 상위 네트워크, 백본(backbone) 네트워크라고 부를 수 있음)에 연결될 수 있다. 코어망(550)은 인터넷 망에 연결되며, 코어망(550) 및 인터넷 망 중 적어도 하나에는 자율 주행 관제를 위한 관제 서버(560-1, 560-2)가 각각 또는 적어도 하나 배치되어 RAN 내의 차량들(520-1~520-3, 522-1~522-3, 524-1~524-3)의 주율 주행을 관제할 수 있다. 여기서, 라우터(530-1, 530-2, 530-3) 및 게이트웨이(540-1, 540-2, 540-3)는 백홀(backhaul) 기술에 포함된다. Meanwhile, vehicle data wirelessly transmitted to each base station (510-1, 510-2, 510-3) may be connected to a router (530-1, 530-2, 530-3) via a wired connection, and may be connected to a core network (CN: 550) (which may be referred to as an upper network, backbone network) via a gateway (540-1, 540-2, 540-3). The core network (550) is connected to the Internet, and at least one or more control servers (560-1, 560-2) for autonomous driving control may be arranged in at least one of the core network (550) and the Internet to control the driving rate of vehicles (520-1 to 520-3, 522-1 to 522-3, 524-1 to 524-3) within the RAN. Here, routers (530-1, 530-2, 530-3) and gateways (540-1, 540-2, 540-3) are included in the backhaul technology.
이때, 각 백홀을 통해 전달되는 5G 네트워크의 대역폭(Bandwidth)은 100Gbps 가 된다. 즉 해당 RAN을 통해 연결되어 있는 사용자 단말(UE)들이 많으면 많을수록 네트워크 쓰루풋(Throughput)은 점점 줄어들게 되어, 쓰루풋이 대역폭 100Gbps에 접근하게 되고 통신 상태는 점점 불안해지게 된다. At this time, the bandwidth of the 5G network transmitted through each backhaul is 100 Gbps. In other words, the more user terminals (UEs) are connected through the RAN, the more the network throughput decreases, and as the throughput approaches the bandwidth of 100 Gbps, the communication status becomes increasingly unstable.
도 5에 도시된 바와 같이, 자율 주행 차량(520-1~520-3, 522-1~522-3, 524-1~524-3)을 관제하기 위한 관제 서버(560-1, 560-2)는 빠르고 안전한 통신을 위해 각 통신사가 구성한 코어망(550)에 구성될 수도 있고, 현재 각 차량을 제조하는 OEM들의 텔레매틱스 서비스처럼 일반 인터넷에 설치될 수도 있다. As illustrated in FIG. 5, the control server (560-1, 560-2) for controlling autonomous vehicles (520-1 to 520-3, 522-1 to 522-3, 524-1 to 524-3) may be configured in a core network (550) configured by each telecommunications company for fast and safe communication, or may be installed in the general Internet, like the telematics services of OEMs currently manufacturing each vehicle.
기본적으로, 자율 주행 차량의 데이터 전송 기술은 주로 서버가 인터넷에 설치되어 있을 수 있다. 다만, 이러한 경우에는, 차량에 설치된 차량 데이터의 통신제어 장치는 될수록 높은 쓰루풋(Throughput)을 확보하기 위해, 채널본딩을 주로 이용하고, 인터넷에 설치되어 있는 서버는, 데이터를 받아 처리하는 역할만 하였다. 즉, 특정 RAN 지역에서 허용된 대역폭(5G일 경우, 업링크 100Gbps)에 쓰루풋이 점점 근접해 가더라도, 데이터 통신을 제어하지 못하여, 쓰루풋이 대역폭을 초과하거나 레이턴시(latency)가 점점 늘어나는 상황이 발생하고 나서야 통신 불능 상태를 감지한다. Basically, the data transmission technology of autonomous vehicles can mainly be installed on the server on the Internet. However, in this case, the vehicle data communication control device installed in the vehicle mainly uses channel bonding to secure the highest possible throughput, and the server installed on the Internet only plays a role in receiving and processing data. In other words, even if the throughput approaches the bandwidth allowed in a specific RAN area (uplink 100 Gbps in the case of 5G), the data communication cannot be controlled, so the communication failure is detected only after the throughput exceeds the bandwidth or the latency increases.
이러한 현상은 해당 RAN 지역 일대의 통신을 마비시킬 수도 있으며, 5G NR이 도입되면서 대용량의 데이터를 업링크를 이용하여 전송하는 수많은 5G 애플리케이션(Application)들이 생겨나는 상황에는, 이러한 문제는 더욱더 심각해질 수 있다. This phenomenon can paralyze communications in the relevant RAN area, and as 5G NR is introduced and numerous 5G applications that transmit large amounts of data using the uplink are created, this problem can become even more serious.
또한, 각 RAN에 연결되어 있는 차량들(520-1~520-3, 522-1~522-3, 524-1~524-3)은 각각 그 숫자가 다르기 때문에, 각 RAN 내의 쓰루풋은 서로 다를 수 있다. 하나의 RAN에는 본 발명의 일 실시예에 따른, 통신 제어 기능이 탑재된 여러 대의 자율주행 차량(520-1~520-3, 522-1~522-3, 524-1~524-3)이 자율주행 중일 수 있고, 각각의 차량(520-1~520-3, 522-1~522-3, 524-1~524-3)은 관제서비스 센터로 대용량의 데이터들(카메라, 라이다, 기타 센서 등)을 전송할 수 있다. 이때, 각 RAN의 쓰루풋은 RAN에 물려있는 차량들과 관제센터간 전수송되고 있는 데이터 종류와 크기에 따라 다를 수 있다. In addition, since the numbers of vehicles (520-1 to 520-3, 522-1 to 522-3, 524-1 to 524-3) connected to each RAN are different, the throughput within each RAN may be different. In one RAN, multiple autonomous vehicles (520-1 to 520-3, 522-1 to 522-3, 524-1 to 524-3) equipped with a communication control function according to an embodiment of the present invention may be driving autonomously, and each vehicle (520-1 to 520-3, 522-1 to 522-3, 524-1 to 524-3) may transmit a large amount of data (such as a camera, lidar, and other sensors) to the control service center. At this time, the throughput of each RAN may be different depending on the type and size of data being transmitted between the vehicles connected to the RAN and the control center.
따라서, 본 발명의 일 실시예에 따른 통신 제어 장치를 각각의 차량(520-1~520-3, 522-1~522-3, 524-1~524-3) 및 서비스(관제) 서버에 구비하여, 네트워크 쓰루풋 조절하는 것이 중요하다. 특히, 서비스에 등록된 자율주행 차량들을 대상으로 차량과 서비스 서버간 능동적으로 네트워크 상태를 측정함으로써 서버에 동시에 접속 중인 여러대의 자율주행 차량이 발생시키는 데이터를 조절하여 모든 자율주행 차량들이 안전하게 자율주행을 할 수 있게 하는 것이 바람직하다.Therefore, it is important to provide a communication control device according to one embodiment of the present invention to each vehicle (520-1 to 520-3, 522-1 to 522-3, 524-1 to 524-3) and a service (control) server to control the network throughput. In particular, it is desirable to actively measure the network status between the vehicles and the service server for autonomous vehicles registered in the service, thereby controlling the data generated by multiple autonomous vehicles simultaneously connected to the server so that all autonomous vehicles can safely drive autonomously.
도 6은 도 3의 차량 및 서버측의 데이터 조절부의 구조를 구체적으로 나타낸 상세블록도이다. 도 6에 도시된 바와 같이, 차량측 데이터 조절부(610)는 네트워크 분석부(612) 및 비트율 조절부(614)를 포함하고, 서버측 데이터 조절부(620)는 네트워크 분석부(622) 및 목표비트율 생성부(624)를 포함할 수 있다.Fig. 6 is a detailed block diagram specifically showing the structure of the vehicle and server-side data control units of Fig. 3. As shown in Fig. 6, the vehicle-side data control unit (610) may include a network analysis unit (612) and a bit rate control unit (614), and the server-side data control unit (620) may include a network analysis unit (622) and a target bit rate generation unit (624).
도 6을 참조하면, 차량 데이터 조절부(610)의 네트워크 분석부(612)는 네트워크 상태를 측정하기 위해, 자율주행 차량측에서 서버측으로 단방향 패킷 전송을 위한 패킷을 발생시킨다. Referring to FIG. 6, the network analysis unit (612) of the vehicle data control unit (610) generates a packet for one-way packet transmission from the autonomous vehicle side to the server side to measure the network status.
차량 데이터 조절부(610)의 비트율 조절부(614)는 서버측에서 수신되는 목표비트율에 대한 정보를 기반으로 자율 주행 시스템의 데이터 발생 및/또는 전송 비트율을 증가시키거나 감소시키기 위한 신호를 전송한다. The bit rate control unit (614) of the vehicle data control unit (610) transmits a signal to increase or decrease the data generation and/or transmission bit rate of the autonomous driving system based on information about the target bit rate received from the server side.
서버 데이터 조절부(620)의 네트워크 분석부(622)는 차량의 네트워크 분석부(612)로부터 전송되는 패킷을 받아, 패킷 경로 상의 네트워크 상태를 예측 및 분석하는 기능을 수행한다. The network analysis unit (622) of the server data control unit (620) receives packets transmitted from the vehicle network analysis unit (612) and performs the function of predicting and analyzing the network status on the packet path.
서버 데이터 조절부(620)의 목표 비트율 생성부(624)는 네트워크 분석부(622)에서 분석된 네트워크 상태를 토대로 하여 현재의 비트율을 증가시키거나 낮추어 목표 비트율을 작성하고, 이를 차량의 데이터 조절부(610)로 보낸다. The target bit rate generation unit (624) of the server data control unit (620) increases or decreases the current bit rate based on the network status analyzed by the network analysis unit (622) to create a target bit rate and sends it to the vehicle data control unit (610).
도 7은 본 발명의 일 실시예에 따른 차량 통신 제어 방법을 나타낸 흐름도이다.Figure 7 is a flowchart illustrating a vehicle communication control method according to one embodiment of the present invention.
도 7을 참조하면, 본 발명의 일 실시예에 따른 차량 통신 제어 방법은 크게 (1) 초기화 동작 (2) 네트워크 상태 분석 동작 및 (3) 차량으로부터 발생되는 데이터량 조절 동작으로 나누어지고, 전체 시퀀스는 다음과 같다Referring to FIG. 7, a vehicle communication control method according to one embodiment of the present invention is largely divided into (1) an initialization operation, (2) a network status analysis operation, and (3) an operation to control the amount of data generated from the vehicle, and the entire sequence is as follows.
먼저, (1) 초기화 단계에서, 차량의 네트워크 분석부는 차량의 데이터 스펙을 서버로 전송한다. 차량의 데이터 스펙은 차량이 서비스 서버(관제 서버)로 전송하는 데이터의 종류(카메라, 라이다, 자동차 센서, 운전자 정보 등)와 각각의 데이터량 그리고, 최대 비트율 등에 대한 정보가 포함될 수 있다. 해당 정보를 받은 서버의 네트워크 분석부는 차량으로 확인 신호(ACK)를 전송한다. 그리고, 수신된 스펙 정보는 서버의 네트워크 분석부로부터 목표비트율 생성부로 전달된다.First, (1) in the initialization phase, the network analysis unit of the vehicle transmits the data specifications of the vehicle to the server. The data specifications of the vehicle may include information on the types of data (camera, lidar, car sensor, driver information, etc.) that the vehicle transmits to the service server (control server), the amount of each data, and the maximum bit rate. The network analysis unit of the server that received the information transmits an acknowledgement signal (ACK) to the vehicle. Then, the received specification information is transmitted from the network analysis unit of the server to the target bit rate generation unit.
두 번째로, (2) 상태 분석 단계에서, 확인 신호(ACK)를 받은 차량의 네트워크 분석부는 네트워크 상태 분석을 위한 패킷을 주기적으로 서비스 서버로 전송하기 시작한다. 서버는 수신된 패킷을 분석하여 차량과 서버간 패킷 지연(delay) 등의 정보를 토대로 네트워크 상태를 예측 및 분석한다. 이때, 액티브 네트워크 모니터링(Active Network Monitoring) 방법이 활용될 수 있다. Second, (2) in the status analysis step, the network analysis unit of the vehicle that has received the confirmation signal (ACK) begins to periodically transmit packets for network status analysis to the service server. The server analyzes the received packets and predicts and analyzes the network status based on information such as packet delay between the vehicle and the server. At this time, the Active Network Monitoring method can be utilized.
보다 구체적으로, 네트워크 분석부는 상기 패킷이 차량으로부터 서버에 도착하는 시간에 대한 정보를 추출한다. 추가적으로 네트워크 분석부(622)는 네트워크 분석용 패킷에 대한 응답 패킷, 응답 패킷을 기반으로 전송되는 차량 데이터 도착 시간 등을 기반으로, 요청전송시간(request time), 응답지연시간(latency), 응답데이터 전송시간(response time) 등을 산출할 수 있다. 일 예에서, 차량과 서버 간의 네트워크 상의 패킷의 왕복도달 시간(RTT) 정보를 산출한다. 기본적인 동기화 시나리오를 가정하여, 최초 차량에서 동기신호(SYN)를 전송하고, 서버는 이를 수신하며, 서버는 수신된 동기신호에 응답하여 동기신호와 응답신호(ACK)를 함께 전송할 수 있다. 그리고는, 이를 수신한 차량은 서버로부터의 신호에 응답하여 응답신호(ACK)를 전송할 수 있다. 이러한 3개 신호의 송수신을 3-way Handshake라고 부를 수 있다. 이를 기반으로 위의 다양한 네트워크 성능과 관련된 지표를 산출할 수 있는 것이다. More specifically, the network analysis unit extracts information about the time at which the packet arrives from the vehicle to the server. Additionally, the network analysis unit (622) can calculate request transmission time, response delay time (latency), response data transmission time (response time), etc. based on the response packet for the network analysis packet, the arrival time of vehicle data transmitted based on the response packet, etc. In one example, the round trip arrival time (RTT) information of the packet on the network between the vehicle and the server is calculated. Assuming a basic synchronization scenario, the vehicle initially transmits a synchronization signal (SYN), the server receives it, and the server can transmit the synchronization signal and the response signal (ACK) together in response to the received synchronization signal. Then, the vehicle that receives it can transmit a response signal (ACK) in response to the signal from the server. The transmission and reception of these three signals can be called a 3-way handshake. Based on this, various indices related to the above network performance can be calculated.
또한, 현재 서비스 서버로 전송되는 다수의 차량들의 패킷들의 소스 ID를 기반으로, 서버는 어느 지역(특히 어느 셀)에서 패킷이 전송되고 있는지 파악하여, 지역별 네트워크 대역폭의 할당과 연관된 정보를 산출할 수 있다. 또한, 서버가 요청에 대해 응답을 하지 못하고 있는 경우 이러한 상태의 세션 수를 기반으로 응답대기 세션 수(wait) 정보도 산출할 수 있다. 또한, 초당 연결가능한 차량 단말의 수를 나타내는 UPS(User Per Second) 정보, 초당 연결되는 새로운 세션의 개수를 나타내는 CPS(Connection Per Second) 정보 및 초당 발생하는 트랜잭션의 개수를 나타내는 TPS(Transaction Per Second) 정보도 산출할 수 있다. 더욱이, 지역별 BPS(Bit Per Second) 정보 등도 산출할 수 있다. In addition, based on the source ID of packets of a plurality of vehicles currently being transmitted to the service server, the server can determine from which region (particularly, which cell) the packets are being transmitted, and calculate information related to the allocation of network bandwidth by region. In addition, when the server cannot respond to a request, the number of sessions waiting for a response (wait) can also be calculated based on the number of sessions in this state. In addition, UPS (User Per Second) information indicating the number of vehicle terminals that can be connected per second, CPS (Connection Per Second) information indicating the number of new sessions connected per second, and TPS (Transaction Per Second) information indicating the number of transactions occurring per second can also be calculated. Furthermore, BPS (Bit Per Second) information by region can also be calculated.
마지막으로, (3) 데이터량 조절 단계에서, 서버의 목표비트율 생성부는 차량이 발생시키는 데이터 스펙 정보와, 상기한 네트워크 분석 정보를 토대로 하여 해당 차량의 네트워크 목표 비트율을 생성하고, 이를 차량의 비트율 조절부로 전송한다. 만약, 차량이 발생시키는 데이터 스펙이 카메라나 라이다 센싱 신호(이미지 신호)와 같은 데이터량이 많은 것들로 구성되어 있고, 현재 차량이 위치한 셀의 네트워크 상태가 좋지 않은 경우, 상대적으로 그렇지 않은 경우보다 낮은 목표 비트율을 생성하는 것이 바람직하다. Finally, (3) in the data amount control step, the target bit rate generation unit of the server generates the network target bit rate of the vehicle based on the data specification information generated by the vehicle and the above network analysis information, and transmits it to the bit rate control unit of the vehicle. If the data specification generated by the vehicle consists of data with a large amount, such as a camera or lidar sensing signal (image signal), and the network status of the cell where the vehicle is currently located is not good, it is preferable to generate a relatively lower target bit rate than in other cases.
서버에서 생성된 목표비트율은 차량으로 전달되고 차량 내에서 비트율 생성을 위한 제어신호로 이용된다. 이때, 목표비트율은 차량과 연관된 RAN(Radio Access Network)의 통신자원(각 셀별 통신자원일 수 있음)을 토대로 생성될 수 있다. 또한, 상기 목표비트율은 차량과 연관된 RAN 지역에 허용된 네트워크 대역폭(network bandwidth)을 참조하여 생성될 수 있다. 즉, 제 2 셀 지역보다 제 1 셀 지역에 많은 트래픽이 발생하고 있는 경우, 제 1 셀 지역에는 제 2 셀 지역보다 낮은 목표비트율 생성을 위한 제어신호를 발생시킬 수 있다. 또한, RAN 지역에 허용된 네트워크 대역폭에 대비하여, 데이터 스펙 정보의 데이터 량이 기준값보다 높은지 낮은지 판단하여, 목표비트율을 결정할 수 있다. 기준값보다 높은 경우, 목표비트율이 감소되도록 제어하고, 기준값보다 낮은 경우에는 목표비트율이 증가되도록 제어할 수 있다. 이때, 기준값은 차량과 연관된 RAN 지역에 허용된 네트워크 대역폭에 비례하여 결정될 수 있다. 허용된 네트워크 대역폭이 클수록 기준값도 높게 설정될 수 있다.The target bit rate generated from the server is transmitted to the vehicle and used as a control signal for bit rate generation within the vehicle. At this time, the target bit rate can be generated based on the communication resources of the RAN (Radio Access Network) associated with the vehicle (which may be communication resources for each cell). In addition, the target bit rate can be generated with reference to the network bandwidth allowed for the RAN region associated with the vehicle. That is, if more traffic is generated in the first cell region than in the second cell region, a control signal for generating a lower target bit rate than in the second cell region can be generated in the first cell region. In addition, the target bit rate can be determined by determining whether the data amount of the data specification information is higher or lower than a reference value in comparison with the network bandwidth allowed for the RAN region. If it is higher than the reference value, the target bit rate can be controlled to decrease, and if it is lower than the reference value, the target bit rate can be controlled to increase. At this time, the reference value can be determined in proportion to the network bandwidth allowed for the RAN region associated with the vehicle. The reference value can be set higher as the allowed network bandwidth increases.
원격주행에 있어서의 실시예Examples of remote driving
본 발명의 일 실시예에 따르면, 본 발명에 의한 차량 통신 제어 시스템은 원격주행을 위한 목적으로 실시 및 구현될 수 있다.According to one embodiment of the present invention, the vehicle communication control system according to the present invention can be implemented and implemented for the purpose of remote driving.
원격주행이란, 자율주행이 안전하지 않은 경우에 있어서, 서비스/관제부에 위치하는 원격지의 운전자 또는 운전 시스템이 원격주행 지시에 의하여 자율주행 차량을 제어하도록 하는 방법 및/또는 그러한 기능을 제공하는 서비스를 의미할 수 있다. 상기 원격 주행을 위하여, 자율주행 차량은 자율주행에 사용하기 위하여 취득한 차량 전후측방의 카메라영상 및 그 밖의 센서 데이터를 포함하는 대용량의 데이터 중 적어도 일부를 원격주행에 관련된 데이터로서 네트워크(이동통신망을 포함한다)를 경유하여 서비스/관제부로 전송하도록 구성될 수 있으며, 상기 서비스/관제부에서는 수신되는 데이터들을 참조하여 운전자 또는 운전 시스템으로 하여금 원격주행 지시를 생성함으로써 원격지에 위치한 상기 자율 주행 차량을 운전하도록 할 수 있다.Remote driving may mean a method and/or a service that provides such a function, in which a remote driver or driving system located in a service/control unit controls a self-driving vehicle by remote driving instructions in a case where autonomous driving is unsafe. For the remote driving, the autonomous vehicle may be configured to transmit at least some of a large amount of data including front and side camera images and other sensor data acquired for autonomous driving to the service/control unit as data related to remote driving via a network (including a mobile communication network), and the service/control unit may generate a remote driving instruction by referencing the received data, thereby driving the autonomous vehicle located in a remote location.
상술하는 바와 같이, 상기 원격주행 지시는 사람인 운전자로부터 다양한 입력 수단, 예를 들면 컴퓨터를 통한 명령어의 입력이나, 또는 종래의 차량 운전 조작을 모사하는 시뮬레이터를 통한 입력 등에 의하여 생성될 수 있고, 또는, 서비스/관제부에서 상기 자율 주행 차량의 원격 주행에 적합하도록 구성된 별도의 자율 주행 기능부에 의하여 생성될 수도 있으며, 그 밖에도 이러한 생성 방법에 한정되지 아니하는 방법으로 생성되어 제공될 수 있다.As described above, the remote driving instructions may be generated by a human driver through various input means, such as input of a command via a computer, or input via a simulator simulating conventional vehicle driving operations, or may be generated by a separate autonomous driving function unit configured to be suitable for remote driving of the autonomous vehicle in the service/control unit, or may be generated and provided by a method not limited to these generation methods.
상기 원격주행이 안전하게 이루어지기 위해서는, 상기 원격주행에 관련된 데이터 및 상기 원격주행 지시에 관련된 정보가 실시간으로 상기 서비스/관제부를 통해 송수신되는 것이 필요할 수 있다. 또한, 그러한 전송을 보장하기 위하여 네트워크의 안정성이 요구될 수 있다. 상기 안정성의 확보를 위하여, 상기 자율주행 차량과 상기 서비스/관제부를 연결하는 네트워크 경로의 상태가 지속적으로 측정 및 평가되고, 그 결과에 대한 정보가 수집되어야 할 수 있다. 또한, 상기 서비스/관제부는 연결되어 있는 적어도 하나의 상기 자율주행 차량에 대하여 상기 네트워크 경로의 상태에 대한 정보가 주기적으로, 비주기적으로, 또는 일시적으로 제공되는 기능이 요구될 수 있다.In order for the above remote driving to be performed safely, data related to the remote driving and information related to the remote driving instructions may need to be transmitted and received in real time through the service/control unit. In addition, network stability may be required to ensure such transmission. In order to secure the above stability, the status of the network path connecting the autonomous vehicle and the service/control unit may need to be continuously measured and evaluated, and information on the results may need to be collected. In addition, the service/control unit may need to have a function that provides information on the status of the network path to at least one autonomous vehicle connected thereto periodically, aperiodically, or temporarily.
도 8은 본 발명의 일 실시예에 따른 원격주행에 대응하는 차량 통신 제어 시스템의 구조를 나타낸 블록도이다. 도 8에 도시된 바와 같이, 본 발명의 일 실시예에 따른 차량 통신 제어 시스템은 차량(810)과 서버 시스템(820)를 포함할 수 있다. 상기 차량(810)과 서버 시스템(820) 간은 네트워크(830)를 통하여 연결될 수 있다.Fig. 8 is a block diagram showing the structure of a vehicle communication control system corresponding to remote driving according to one embodiment of the present invention. As shown in Fig. 8, the vehicle communication control system according to one embodiment of the present invention may include a vehicle (810) and a server system (820). The vehicle (810) and the server system (820) may be connected through a network (830).
상기 네트워크(830)는 상기 차량(810)과 상기 서버(820) 간에 데이터를 주고받을 수 있도록 하기 위한 통신망이다. 본 발명의 실시예에 따르면, 네트워크(830)는 5G, 6G, 4G, LTE, 3G, WIBRO 등 다양한 형태의 무선 네트워크로 구현될 수 있다. 바람직하게는, 5G 네트워크로 구현될 수 있다. 다만, 5G 네트워크 또는 그와 연관된 엔티티(예를 들어, gNodeB)로 표현되었다고 하더라도, 이것이 4G 네트워크, 3G 네트워크 또는 그것들과 연관된 엔티티(eNodeB, NodeB)로 구현될 수 있음은 본 발명이 속하는 기술분야의 통상의 기술자에게는 자명한 것일 것이다. The above network (830) is a communication network for enabling data to be transmitted and received between the vehicle (810) and the server (820). According to an embodiment of the present invention, the network (830) may be implemented as various types of wireless networks such as 5G, 6G, 4G, LTE, 3G, and WIBRO. Preferably, it may be implemented as a 5G network. However, even if it is expressed as a 5G network or an entity associated therewith (e.g., gNodeB), it will be obvious to those skilled in the art that it may be implemented as a 4G network, a 3G network, or an entity associated therewith (eNodeB, NodeB).
도 8을 참조하면, 상기 차량(810)은 원격주행부(812) 및 자율주행차량부(819)를 포함할 수 있다. 상기 원격주행부(812)는 차량의 원격주행 기능을 담당하는 기능부로, 적어도 하나의 부분 기능부 및/또는 모듈로 구성된 것일 수 있다. 상기 원격주행부(812)는, 본 발명의 실시예에 따라서는, 동시에 자율주행 차량에 있어서의 자율주행부, 데이터 전송부, 데이터 조절부(이를 테면, 도 3에 나타나는 부호 (312), (314), (316)의 모듈과 같은 것)의 기능을 동시에 실현하도록 구성될 수 있으며, 특정한 조건, 환경, 및 상황에 따라 어떠한 경우에는 앞서 서술한 자율주행 방식의 실시예로 동작하고, 다른 경우에는 이하 서술하는 원격주행 방식의 실시예로 동작하는 공용 기능부 또는 적어도 하나의 공용 기능부를 포함하는 장치나 시스템으로서 구현될 수 있다.Referring to FIG. 8, the vehicle (810) may include a remote driving unit (812) and an autonomous vehicle unit (819). The remote driving unit (812) is a functional unit that is in charge of a remote driving function of the vehicle, and may be composed of at least one partial functional unit and/or module. The remote driving unit (812), according to an embodiment of the present invention, may be configured to simultaneously realize the functions of an autonomous driving unit, a data transmission unit, and a data control unit (such as modules such as symbols (312), (314), and (316) shown in FIG. 3) in an autonomous vehicle, and may be implemented as a common functional unit or a device or system including at least one common functional unit that operates in some cases as an embodiment of the autonomous driving method described above, and in other cases as an embodiment of the remote driving method described below, depending on specific conditions, environments, and situations.
상기 자율주행차량부(819)는 상기 원격주행부(812)에 의하여 전자적 신호를 포함하는 방식에 의한 주행 제어를 받아 운전될 수 있는 차량의 기계적, 전자적, 및/또는 그 밖의 차량 차체의 기능적 부분을 포함하거나, 그러한 기능적 부분들을 통칭하는 개념으로서 이해될 수 있다.The above autonomous vehicle unit (819) may be understood as including mechanical, electronic, and/or other functional parts of the vehicle body that can be driven by receiving driving control in a manner including electronic signals by the remote driving unit (812), or as a concept that collectively refers to such functional parts.
상기 원격주행부(812)는 원격주행 센서부(813), 데이터 부호화부(814), 네트워크 상태처리부(816), 및 원격주행 ECU(818)를 포함할 수 있다. 상기 각각의 기능 및 기능부는 모두 하나의 장치로 구성되거나, 각기 독립적인 장치로 구성되거나, 또는 그 일부가 병합되고 그 일부가 독립된 장치의 혼합으로서 구성되어도 무방하다.The above remote driving unit (812) may include a remote driving sensor unit (813), a data encoding unit (814), a network status processing unit (816), and a remote driving ECU (818). Each of the above functions and functional units may be configured as a single device, configured as independent devices, or configured as a mixture of some of them and some of them as independent devices.
상기 원격주행 센서부(813)는 차량 내 또는 차량 주변에 배열된 다수의 센서들로부터 센서 데이터를 수신하도록 구성될 수 있다. 이때, 다수의 센서들은 차량 전방, 후방, 측방 등 차량 주변 및 차량의 주행 또는 안전과 연관된 다양한 정보를 감지한다.The above remote driving sensor unit (813) may be configured to receive sensor data from a number of sensors arranged inside or around the vehicle. At this time, the number of sensors detect various information related to the vehicle's surroundings, such as the front, rear, and side of the vehicle, and the driving or safety of the vehicle.
상기 데이터 부호화부(814)는 상기 원격주행 센서부(813)가 수신한 센서 데이터를 포함하는 원격주행 데이터를 부호화(encode)하도록 구성될 수 있다. 상기 부호화는 적어도 하나의 상기 원격주행 데이터를 미리 정해진 정보문법(syntax)에 의하여 연결(concatenation), 병합(merging), 배열(listing), 변환(transforming), 암호화(encryption) 중 적어도 하나의 방법을 사용하여 통신에 적합한 형태의 정보순열로 재처리하는 절차를 의미할 수 있다. 상기 부호화는 가역적인(reversible) 정보처리 방법으로서 복호화(decode)가 가능한 정보처리방법을 의미할 수 있다. 상기 데이터 부호화부(814)는 상기 네트워크 지연예측부(824)로부터 제공받은 비트율 조정 신호에 기반하여 상기 데이터의 부호화 방식을 달리할 수 있으며, 상기 부호화 방식의 변경을 통해 목표하는 비트율에 맞추어 데이터를 축약(shortening), 양자화(quantization), 추출(sampling), 생략(omitting), 비손실 압축(lossless compression), 손실 압축(lossy compression) 중 적어도 하나의 방법을 사용하여 가공할 수 있다.The above data encoding unit (814) may be configured to encode remote driving data including sensor data received by the remote driving sensor unit (813). The encoding may mean a procedure of reprocessing at least one of the remote driving data into an information sequence in a form suitable for communication by using at least one of concatenation, merging, listing, transforming, and encryption according to a predetermined information syntax. The encoding may mean a reversible information processing method that is capable of decoding. The above data encoding unit (814) can change the encoding method of the data based on the bit rate adjustment signal provided from the network delay prediction unit (824), and by changing the encoding method, the data can be processed using at least one method among shortening, quantization, sampling, omitting, lossless compression, and lossy compression to match the target bit rate.
상기 데이터 부호화부(814)는 차량의 원격주행과 연관된 전송 대상 데이터, 예를 들어 원격 환경에 대한 데이터의 전송 비트율을 상기한 방법을 포함하는 다양한 방법에 의하여 적절하게 조정한 다음 (830)를 통해 서버 시스템(820) 측으로 전송하는 기능을 포함하거나 그러한 기능을 수행하는 기능부 및/또는 모듈을 포함하도록 구성될 수 있다. 이 경우 상기 전송하는 기능은 상기 네트워크(830)에 대한 유선 또는 무선 통신에 대한 기능을 포함할 수 있다. 또는, 상기 데이터 부호화부(814)는 상기 원격주행 ECU(818)에 상기 전송 대상 데이터를 제공하고, 상기 원격주행 ECU(818)가 상기 데이터를 서버 시스템(820) 측에 전송하도록 구성될 수도 있다.The above data encoding unit (814) may be configured to include a function of appropriately adjusting a transmission bit rate of data related to remote driving of a vehicle, for example, data about a remote environment, by various methods including the above-described method, and then transmitting the same to the server system (820) via (830), or may include a function unit and/or module that performs such a function. In this case, the transmitting function may include a function for wired or wireless communication with respect to the network (830). Alternatively, the data encoding unit (814) may be configured to provide the transmission target data to the remote driving ECU (818), and for the remote driving ECU (818) to transmit the data to the server system (820).
상기 네트워크 상태처리부(816)는 상기 서버 시스템(820)측의 네트워크 지연예측부(824)와 통신하며 네트워크 상태를 측정하기 위한 패킷을 발생시켜 네트워크(830)를 통해 교환하도록 구성될 수 있다. 상기 패킷은 프로브(prove) 패킷으로 칭해질 수 있다. 또한, 상기 네트워크 상태처리부(816)는 상기 네트워크 지연예측부(824)가 결정한 목표 비트율 정보를 수신하여 상기 차량의 원격주행과 연관된 전송 대상 데이터들의 비트율을 조절하기 위한 목표 비트율 정보를 생성하도록 구성되고, 상기 목표 비트율 정보를 상기 데이터 부호화부(814)에 제공하여 바람직한 비트율로의 데이터 부호화가 이루어지도록 할 수 있다.The above network status processing unit (816) may be configured to communicate with the network delay prediction unit (824) of the server system (820) and generate a packet for measuring the network status and exchange it through the network (830). The packet may be referred to as a probe packet. In addition, the network status processing unit (816) may be configured to receive target bit rate information determined by the network delay prediction unit (824) and generate target bit rate information for adjusting the bit rate of transmission target data related to remote driving of the vehicle, and may provide the target bit rate information to the data encoding unit (814) so that data encoding at a desired bit rate may be performed.
상기 원격주행 ECU(818)는 차량 측의 것으로서, 서버 시스템(820)측의 원격주행 ECU(828)과 연동하여 자율주행차량부(819)를 제어하도록 구성되는 기능부일 수 있다. 상기 제어는 상기 서버측 원격주행 ECU(828)로부터 수신된 원격주행 지시에 관련된 정보를 상기 자율주행차량부(819)에 포함되는 적어도 하나의 차량 기능에 직접 제공하는 기능을 포함할 수 있다. 상기 제어는 상기 수신된 원격주행 정보에 기반하여 차량 제어 지시를 생성한 다음 상기 차량 제어 지시를 바탕으로 상기 자율주행차량부(819)를 제어하는 기능을 포함할 수 있다. 상기 제어는 서버측 원격주행 ECU(828)로부터 제공된 주행 제어에 관련된 정보가 상기 자율주행차량부(819)의 제어를 달성하기에 부적합하거나 불완전한 경우 이를 의도적으로 누락하거나, 보충하거나, 또는 보정하여 중계하는 기능을 포함할 수 있다.The above remote driving ECU (818) may be a functional unit configured to control the autonomous vehicle unit (819) in conjunction with the remote driving ECU (828) of the server system (820) on the vehicle side. The control may include a function of directly providing information related to a remote driving instruction received from the server-side remote driving ECU (828) to at least one vehicle function included in the autonomous vehicle unit (819). The control may include a function of generating a vehicle control instruction based on the received remote driving information and then controlling the autonomous vehicle unit (819) based on the vehicle control instruction. The control may include a function of intentionally omitting, supplementing, or correcting and relaying information related to driving control provided from the server-side remote driving ECU (828) that is unsuitable or incomplete for achieving control of the autonomous vehicle unit (819).
상기 원격주행 ECU(818)는 서버측 원격주행 ECU(828)로부터 수신된 상기 주행 제어에 관련된 정보에 대한 피드백 목적의 정보를 서버측 원격주행 ECU(828)로 전송하는 기능을 포함할 수 있다. 상기 원격주행 ECU(818)는 상기 자율주행차량부(819), 상기 원격주행 센서부(813), 및 상기 데이터 부호화부(814) 중 적어도 하나로부터 상기 원격주행과 연관된 원격 환경에 관련된 데이터를 제공받아 이를 서버측 원격주행 ECU(828)로 전송하는 기능을 포함하거나 그러한 기능을 수행하는 기능부 및/또는 모듈을 포함하도록 구성될 수 있다. 이 경우 상기 전송하는 기능은 상기 네트워크(830)에 대한 유선 또는 무선 통신에 대한 기능을 포함할 수 있다.The above remote driving ECU (818) may include a function of transmitting information for the purpose of feedback regarding information related to the driving control received from the server-side remote driving ECU (828) to the server-side remote driving ECU (828). The remote driving ECU (818) may include a function of receiving data related to a remote environment associated with the remote driving from at least one of the autonomous vehicle unit (819), the remote driving sensor unit (813), and the data encoding unit (814) and transmitting the same to the server-side remote driving ECU (828), or may be configured to include a functional unit and/or module that performs such a function. In this case, the transmitting function may include a function for wired or wireless communication with respect to the network (830).
다시 도 8을 참조하면, 상기 서버 시스템(820)은 원격주행 서버(822) 및 원격주행 운전석(829)를 포함할 수 있다. 상기 원격주행 서버(822)는 상기 차량(810)에 대한 원격주행 지시를 전송하는 기능을 담당하는 기능부로, 적어도 하나의 부분 기능부 및/또는 모듈로 구성된 것일 수 있다. 상기 원격주행 서버(822)는, 본 발명의 실시예에 따라서는, 동시에 자율주행 서버에 있어서의 서비스/관제부 및 데이터 조절부((이를 테면, 도 3에 나타나는 부호 (322), (324)의 모듈과 같은 것)의 기능을 동시에 실현하도록 구성될 수 있으며, 특정한 조건, 환경, 및 상황에 따라 어떠한 경우에는 앞서 서술한 자율주행 서비스 제공을 위한 실시예로 동작하고, 다른 경우에는 이하 서술하는 원격주행 지시 제공을 위한 실시예로 동작하는 공용 기능부 또는 적어도 하나의 공용 기능부를 포함하는 장치나 시스템으로서 구현될 수 있다.Referring back to FIG. 8, the server system (820) may include a remote driving server (822) and a remote driving driver's seat (829). The remote driving server (822) is a functional unit in charge of transmitting a remote driving instruction to the vehicle (810), and may be composed of at least one partial functional unit and/or module. The remote driving server (822), according to an embodiment of the present invention, may be configured to simultaneously realize the functions of a service/control unit and a data control unit (such as modules of symbols (322) and (324) shown in FIG. 3) in an autonomous driving server, and may be implemented as a device or system including a common functional unit or at least one common functional unit that operates in some cases as an embodiment for providing an autonomous driving service described above, and in other cases as an embodiment for providing a remote driving instruction described below, depending on specific conditions, environments, and situations.
상기 원격주행 운전석(829)는 상기 원격주행 서버(822)를 통해 수신되는 데이터들을 참조하여 운전자 또는 운전 시스템으로 하여금 원격주행 지시를 생성함으로써 원격지에 위치한 상기 자율주행 차량을 운전하도록 구성되는 기능부를 의미할 수 있다. 일 실시예에 있어서, 상기 원격주행 운전석(829)은 다양한 입력 수단, 예를 들면 컴퓨터에 대한 키보드, 마우스, 트랙볼, 터치스크린 등을 포함하는 인간-컴퓨터 인터페이스 (Human-computer interface) 장치를 포함할 수 있다. 다른 일 실시예에 있어서, 상기 원격주행 운전석(829)은 종래의 차량 운전 조작을 모사할 수 있도록 조향 핸들, 기어 박스, 및 페달을 포함하는 차량 운전석의 구성부와 상기 데이터를 참조하여 구현된 가상의 운전 환경을 나타내는 디스플레이를 포함하여 구성되는 운전 시뮬레이터 장치를 포함할 수 있다. 또다른 일 실시예에 있어서, 상기 원격주행 운전석(829)은 자율주행부에 상응하는 기능을 하는 자동적인 판단 장치일 수 있으며, 상기 자율주행 차량의 원격주행 지시를 생성하는 데에 적합하도록 구성된 별도의 자율주행 목적의 기능부를 포함할 수 있다. 상기 실시예 이외의 방법으로도 상기 원격주행 운전석(829)은 구성될 수 있으며, 상기 원격주행 운전석(829)이 생성하는 원격주행 지시는 상기 원격주행 서버(822)로 입력될 수 있다.The above remote driving driver's seat (829) may refer to a functional unit configured to drive the autonomous vehicle located at a remote location by generating a remote driving instruction by referring to data received through the remote driving server (822). In one embodiment, the remote driving driver's seat (829) may include a human-computer interface (HMI) device including various input means, for example, a keyboard, a mouse, a trackball, a touch screen, etc. for a computer. In another embodiment, the remote driving driver's seat (829) may include a driving simulator device configured to include a vehicle driver's seat component including a steering wheel, a gear box, and pedals so as to be able to simulate conventional vehicle driving operations, and a display that represents a virtual driving environment implemented by referring to the data. In another embodiment, the remote driving driver's seat (829) may be an automatic judgment device that performs a function corresponding to the autonomous driving component, and may include a separate autonomous driving-purpose functional unit configured to be suitable for generating a remote driving instruction of the autonomous vehicle. The remote driving driver's seat (829) can be configured in a manner other than the above embodiment, and the remote driving instructions generated by the remote driving driver's seat (829) can be input to the remote driving server (822).
상기 원격주행 서버(822)는 데이터 복호화부(825), 네트워크 지연예측부(824), 및 원격주행 ECU(828)를 포함할 수 있다. 별도로 도시되지는 아니하였으나, 상기 원격주행 서버(822)는 인터넷을 통해 데이터를 수집하는 인터넷 데이터 수집 서버의 기능을 더 포함할 수 있다. 상기 각각의 기능 및 기능부는 모두 하나의 장치로 구성되거나, 각기 독립적인 장치로 구성되거나, 또는 그 일부가 병합되고 그 일부가 독립된 장치의 혼합으로서 구성되어도 무방하다.The above remote driving server (822) may include a data decryption unit (825), a network delay prediction unit (824), and a remote driving ECU (828). Although not shown separately, the above remote driving server (822) may further include the function of an Internet data collection server that collects data via the Internet. Each of the above functions and functional units may be configured as a single device, as independent devices, or as a mixture of some of them and some of them as independent devices.
상기 데이터 복호화부(825)는 상기 차량(810)으로부터 수신한 데이터, 예를 들면 원격 환경 데이터가 부호화되어 있는 경우 이를 복호화(decode)하도록 구성될 수 있다. 상기 복호화는 상기 네트워크(830)를 경유하여 수신된 통신 데이터로부터 적어도 하나의 상기 원격주행 데이터를 분할(partition), 분리(separation), 선택(selection), 역변환(inverse transform), 암호화 해제(decryption) 중 적어도 하나의 방법을 사용하여 상기 원격주행 운전석(829)이 원격주행 지시의 생성에 참조할 수 있는 형태의 데이터로 재처리하는 절차를 의미할 수 있다. 상기 복호화는 가역적인 정보처리 방법으로서 부호화(encode)된 정보의 복원을 의미할 수 있다. 상기 데이터 복호화부(825)는 상기 네트워크 지연예측부(824)로부터 제공받은 비트율 조정 신호에 기반하여 상기 데이터의 복호화 방식을 달리할 수 있으며, 상기 복호화 방식의 변경을 통해 데이터를 보충(padding), 역양자화(inverse quantization), 보간(interpolation), 외삽(extrapolation), 압축해제(decompression) 중 적어도 하나의 방법을 사용하여 복원할 수 있다.The above data decryption unit (825) may be configured to decode data received from the vehicle (810), for example, if remote environment data is encoded. The decryption may refer to a procedure of reprocessing at least one of the remote driving data received via the network (830) into data in a form that the remote driving driver's seat (829) can refer to for generating remote driving instructions, by using at least one of partition, separation, selection, inverse transform, and decryption. The decryption may refer to restoration of encoded information as a reversible information processing method. The above data decoding unit (825) can change the decoding method of the data based on the bit rate adjustment signal provided from the network delay prediction unit (824), and by changing the decoding method, the data can be restored using at least one method among padding, inverse quantization, interpolation, extrapolation, and decompression.
상기 네트워크 지연처리부(824)는 네트워크의 상태를 모니터링하는 장비를 포함할 수 있다. 예를 들어, 네트워크 사업자(Network Operator)가 제공하는 네트워크 모니터링 장치를 포함할 수 있다. 이는, 백홀 모니터링 장치(backhaul monitoring device), 코어망 모니터링 장치(core network monitoring device) 등을 포함할 수 있다. 상기 네트워크 지연처리부(824)는 차량(810) 측의 네트워크 상태처리부(816)로부터 전송되는 패킷(이를테면, 프로브 패킷일 수 있다)을 기반으로 패킷 경로 상의 현재 네트워크 상태를 예측 및 분석하도록 구성될 수 있다. 이어서, 분석 결과를 토대로, 상기 차량(810)과의 데이터 통신에 최적화된 통신 관련 파라미터에 대한 정보(예를 들어, 목표 비트율 정보)를 생성하여 네트워크(830)를 매개로 상기 네트워크 상태처리부(816)로 제공할 수 있다. The above network delay processing unit (824) may include equipment for monitoring the status of the network. For example, it may include a network monitoring device provided by a network operator. This may include a backhaul monitoring device, a core network monitoring device, etc. The network delay processing unit (824) may be configured to predict and analyze the current network status on the packet path based on a packet (for example, a probe packet) transmitted from the network status processing unit (816) on the vehicle (810) side. Then, based on the analysis result, information on communication-related parameters optimized for data communication with the vehicle (810) (for example, target bit rate information) may be generated and provided to the network status processing unit (816) via the network (830).
상기 원격주행 ECU(828)는 서버 측의 것으로서, 차량(810)측의 원격주행 ECU(818)과 연동하여 원격지에서 자율주행차량부(819)를 제어기 위한 제어 정보를 생성하도록 구성되는 기능부일 수 있다. 상기 제어 정보는 상기 원격주행 운전석(829)로부터 수신된 원격주행 지시에 관련된 정보를 상기 차량(810), 및/또는 상기 차량의 원격주행부(812), 및/또는 상기 원격주행부의 차량측 원격주행 ECU(818)에 전송하기 위한 목적에서 생성되는 정보를 포함할 수 있다. 상기 제어는 상기 수신된 원격주행 정보에 기반하여 차량 제어 지시를 생성한 다음 상기 차량 제어 지시를 바탕으로 상기 ECU에 전송하기 위한 정보를 생성하는 기능을 포함할 수 있다. 상기 정보의 생성 과정에서, 상기 원격주행 운전석(829)으로부터 제공된 원격주행 지시에 관련된 정보가 상기 차량(810)의 제어를 달성하기에 부적합하거나 불완전한 경우 이를 의도적으로 누락하거나, 보충하거나, 또는 보정하는 기능을 포함할 수 있다.The above remote driving ECU (828) may be a functional unit configured to generate control information for controlling an autonomous vehicle unit (819) from a remote location by linking with a remote driving ECU (818) on the vehicle (810) side as a server-side unit. The control information may include information generated for the purpose of transmitting information related to a remote driving instruction received from the remote driving driver's seat (829) to the vehicle (810), and/or the remote driving unit (812) of the vehicle, and/or the vehicle-side remote driving ECU (818) of the remote driving unit. The control may include a function of generating a vehicle control instruction based on the received remote driving information and then generating information for transmitting to the ECU based on the vehicle control instruction. In the process of generating the above information, if information related to remote driving instructions provided from the remote driving driver's seat (829) is unsuitable or incomplete for achieving control of the vehicle (810), a function for intentionally omitting, supplementing, or correcting the same may be included.
상기 정보의 생성 과정에서, 상기 원격주행 ECU(828)는 관제 정보를 참조할 수 있다. 상기 관제 정보는 상기 원격주행이 이루어지는 관제하기 위한 환경 정보일 수 있으며, 실시예에 따라서는, 상기 차량(810)의 위치에 있어서 날씨에 관련된 정보, 상기 차량(810)의 원격주행에 요구되는 최소 요구 지연시간과 같은 정보를 포함할 수 있다. 실시예에 따라서, 상기 관제 정보는 상기 네트워크 지연처리부(824)에도 공급될 수 있다.In the process of generating the above information, the remote driving ECU (828) may refer to control information. The control information may be environmental information for controlling the remote driving, and according to an embodiment, may include information such as weather-related information at the location of the vehicle (810) and the minimum required delay time required for remote driving of the vehicle (810). According to an embodiment, the control information may also be supplied to the network delay processing unit (824).
상기 원격주행 ECU(828)는 차량측 원격주행 ECU(818)에 주행 제어에 관련된 정보를 직접 전송하는 기능을 포함하거나 그러한 기능을 수행하는 기능부 및/또는 모듈을 포함하도록 구성될 수 있다. 이 경우 상기 전송하는 기능은 상기 네트워크(830)에 대한 유선 또는 무선 통신에 대한 기능을 포함할 수 있다. 또한, 상기 전송하는 기능은 실시예에 따라서 상술한 데이터 부호화부(814)의 동작과 유사하게 정보를 부호화(encoding)하는 기능을 포함할 수 있으며, 이 경우 차량측 원격주행 ECU(818)는 상술한 데이터 복호화부(825)의 동작과 유사하게 정보를 복호화(decoding)하는 기능을 포함하도록 대응하여 구성될 수 있다.The above remote driving ECU (828) may include a function for directly transmitting information related to driving control to the vehicle-side remote driving ECU (818), or may be configured to include a functional unit and/or module that performs such a function. In this case, the transmitting function may include a function for wired or wireless communication with respect to the network (830). In addition, the transmitting function may include a function for encoding information similar to the operation of the data encoding unit (814) described above, depending on the embodiment, and in this case, the vehicle-side remote driving ECU (818) may be configured to include a function for decoding information similar to the operation of the data decoding unit (825) described above.
도 9는 본 발명의 일 실시예에 따른 네트워크 상태처리부의 구조를 나타낸 블록도이다. 도 9를 참조하면, 본 발명의 일 실시예에 의한 네트워크 상태처리부(910)는 프로브 패킷 생성 모듈(920), 네트워크 상태분석 모듈(930), 및 비트율 조절 모듈(940)을 포함할 수 있다. Fig. 9 is a block diagram showing the structure of a network status processing unit according to one embodiment of the present invention. Referring to Fig. 9, a network status processing unit (910) according to one embodiment of the present invention may include a probe packet generation module (920), a network status analysis module (930), and a bit rate adjustment module (940).
상기 프로브 패킷 생성 모듈(920)은, 네트워크 지연시간 측정을 위한 프로브 패킷을 생성하고, 상기 프로브 패킷을 원격주행 서버의 네트워크 지연측정기로 전송(925)하도록 구성될 수 있다.The above probe packet generation module (920) can be configured to generate a probe packet for measuring network delay time and transmit the probe packet to a network delay measuring device of a remote driving server (925).
상기 네트워크 상태분석 모듈(930)은, 원격주행 서버의 네트워크 지연측정부가 전송하는 패킷 지연 추정시간을 수신(935)받아, 현재 네트워크 상태를 분석하고, 분석 결과를 상기 비트율 조절 모듈(940)로 전달하도록 구성될 수 있다.The above network status analysis module (930) can be configured to receive (935) the packet delay estimation time transmitted by the network delay measurement unit of the remote driving server, analyze the current network status, and transmit the analysis result to the bit rate adjustment module (940).
상기 비트율 조절 모듈(940)은, 상기 네트워크 상태분석 모듈(930)이 전달하는 현재의 네트워크 상태를 전달받아 상기 원격주행 ECU 및/또는 상기 데이터 부호화부에 통신 비트율의 증가, 유지, 및 감소 중 어느 하나에 해당하는 요청을 보낼 수 있다.The bit rate control module (940) can receive the current network status transmitted by the network status analysis module (930) and send a request corresponding to one of an increase, maintenance, and decrease in the communication bit rate to the remote driving ECU and/or the data encoding unit.
도 10은 본 발명의 일 실시예에 따른 네트워크 지연예측부의 구조를 나타낸 블록도이다. 도 10을 참조하면, 본 발명의 일 실시예에 의한 네트워크 지연예측부(1010)는 지연시간 예측모듈(1020)과 지연정보 전송모듈(1030)을 포함할 수 있다.Figure 10 is a block diagram showing the structure of a network delay prediction unit according to one embodiment of the present invention. Referring to Figure 10, a network delay prediction unit (1010) according to one embodiment of the present invention may include a delay time prediction module (1020) and a delay information transmission module (1030).
상기 지연시간 계산모듈(1020)은, 상기 네트워크 상태처리부에 포함될 수 있는 상기 프로브 패킷 생성모듈이 전송하는 프로브 패킷을 수신(1025)하고, 상기 수신된 프로브 패킷에 기반하여 네트워크에 발생하는 지연시간을 계산하고, 상기 계산된 지연 시간에 관련된 정보를 상기 지연시간 전송모듈(1030)에 제공하도록 구성될 수 있다.The above delay time calculation module (1020) may be configured to receive (1025) a probe packet transmitted by the probe packet generation module that may be included in the network status processing unit, calculate a delay time occurring in the network based on the received probe packet, and provide information related to the calculated delay time to the delay time transmission module (1030).
상기 지연시간 전송모듈(1030)은, 상기 제공받은 지연시간에 관련된 정보와 상기 서버 측 원격주행 ECU가 공유하는 원격주행에 관련된 관제 정보를 이용하여 최종 지연정보의 내용을 결정하고, 상기 지연정보를 상기 네트워크 상태처리부에 포함될 수 있는 네트워크 상태분석 모듈로 전송하도록 구성될 수 있다. 상기 관제 정보는, 상기 원격주행이 이루어지는 환경을 관제하기 위한 정보일 수 있으며, 실시예에 따라서는, 원격주행의 대상이 되는 차량의 위치에 있어서 날씨에 관련된 정보, 원격주행에 요구되는 최소 요구 지연시간과 같은 정보를 포함할 수 있다.The above delay time transmission module (1030) may be configured to determine the content of the final delay information by using the information related to the provided delay time and the control information related to remote driving shared by the server-side remote driving ECU, and transmit the delay information to a network status analysis module that may be included in the network status processing unit. The control information may be information for controlling the environment in which the remote driving is performed, and depending on the embodiment, may include information related to the weather at the location of the vehicle that is the target of the remote driving, and the minimum required delay time required for the remote driving.
도 11은 본 발명의 일 실시예에 따른 원격주행을 위한 차량 통신 제어 방법을 나타낸 흐름도이다. 도 11을 참조하면, 네트워크 상태처리부(1110)는 상기 도 9를 통하여 도시한 네트워크 상태처리부(910)에 해당할 수 있고, 네트워크 지연예측부(1120)는 상기 도 10을 통하여 도시한 네트워크 지연예측부(1010)에 해당할 수 있다.Fig. 11 is a flowchart illustrating a vehicle communication control method for remote driving according to one embodiment of the present invention. Referring to Fig. 11, the network status processing unit (1110) may correspond to the network status processing unit (910) illustrated through Fig. 9, and the network delay prediction unit (1120) may correspond to the network delay prediction unit (1010) illustrated through Fig. 10.
상기 네트워크 상태처리부(1110)와 상기 네트워크 지연예측부(1120) 간의 연동은, 네트워크 상태 분석 단계(1130) 및 비트율 조절 요청 단계(1150)를 포함하도록 구성될 수 있다.The linkage between the above network status processing unit (1110) and the above network delay prediction unit (1120) may be configured to include a network status analysis step (1130) and a bit rate adjustment request step (1150).
상기 네트워크 상태 분석 단계(1130)는, 본 발명의 바람직한 일 실시예에 따르면, 하기 순서로 실시될 수 있으나, 반드시 이러한 순서에 한정되는 것은 아니다.The above network status analysis step (1130) may be performed in the following order according to a preferred embodiment of the present invention, but is not necessarily limited to this order.
먼저, 원격주행 서버를 적어도 포함하는 서버 시스템(이를테면, 도 8에 도시된 서버 시스템(820)을 의미할 수 있다)과 상기 서버 시스템에 연결된 원격주행 차량(이를테면, 도 8에 도시된 차량(810)을 의미할 수 있다)간에 형성되는 네트워크 경로(이를테면, 도 8에 도시된 네트워크(830)를 의미할 수 있다)의 상태를 분석하기 위해서, 상기 프로브 패킷 생성 모듈(1114)(도 9에 도시된 모듈(920)을 의미할 수 있다)은, 본 발명의 바람직한 일 실시예에 따르면, 일정한 시간 간격으로 프로브 패킷을 생성(1131)하여 상기 서버 시스템으로 전송하도록 구성될 수 있다.First, in order to analyze the status of a network path (which may refer to, for example, the network (830) illustrated in FIG. 8) formed between a server system including at least a remote driving server (which may refer to, for example, the server system (820) illustrated in FIG. 8) and a remote driving vehicle (which may refer to, for example, the vehicle (810) illustrated in FIG. 8) connected to the server system, the probe packet generation module (1114) (which may refer to the module (920) illustrated in FIG. 9) may be configured to generate (1131) probe packets at regular time intervals and transmit them to the server system, according to a preferred embodiment of the present invention.
상기 프로브 패킷(1133)을 전송받은 네트워크 지연예측부(1120)의 네트워크 지연시간 계산 모듈(1122)(도 10에 도시된 모듈(1020)을 의미할 수 있다)은, 패킷 통신에 대한 지연시간을 계산하도록 구성될 수 있다. 실시예에 따라서는, 상기 지연시간은 업링크(uplink) 통신에 대한 지연시간을 의미할 수 있다. 상기 네트워크 지연시간 계산 모듈(1122)은 상기 계산된 지연시간에 관련된 정보를 저장공간(1140)에 저장(1137)하도록 구성될 수 있다.The network delay time calculation module (1122) of the network delay prediction unit (1120) that receives the probe packet (1133) (which may refer to the module (1020) illustrated in FIG. 10) may be configured to calculate a delay time for packet communication. In some embodiments, the delay time may refer to a delay time for uplink communication. The network delay time calculation module (1122) may be configured to store (1137) information related to the calculated delay time in a storage space (1140).
본 발명의 실시예에 따라서, 상기 저장공간(1140)에는 원격주행에 관련된 관제 정보(1145)가 더 저장될 수 있다. 상기 관제 정보(1145)는, 상기 원격주행이 이루어지는 환경을 관제하기 위한 정보일 수 있으며, 실시예에 따라서는, 상기 차량(810)의 위치에 있어서 날씨에 관련된 정보, 상기 차량(810)의 원격주행에 요구되는 최소 요구 지연시간과 같은 정보를 포함할 수 있다.According to an embodiment of the present invention, control information (1145) related to remote driving may be further stored in the storage space (1140). The control information (1145) may be information for controlling the environment in which the remote driving takes place, and according to an embodiment, may include information such as information related to the weather at the location of the vehicle (810) and the minimum required delay time required for remote driving of the vehicle (810).
상기 비트율 조절 요청 단계(1150)는, 본 발명의 바람직한 일 실시예에 따르면, 하기 순서로 실시될 수 있으나, 반드시 이러한 순서에 한정되는 것은 아니다The above bit rate adjustment request step (1150) may be performed in the following order according to a preferred embodiment of the present invention, but is not necessarily limited to this order.
먼저, 지연정보 전송모듈(1123)은 상기 저장공간(1140)에 저장(1137)된 상기 지연시간에 관련된 정보, 실시예에 따라서는 상기 관제 정보(1145)를 포함하는 정보에 기반하여 지연정보를, 본 발명의 바람직한 일 실시예에 따르면, 주기적으로 생성(1151)하고, 상기 네트워크 상태분석 모듈(1113)으로 전송(1153)하도록 구성될 수 있다. 상기 전송(1153)된 지연정보에 기반하여, 상기 네트워크 상태분석 모듈(1113)은 네트워크 상태에 관련된 정보를, 본 발명의 바람직한 일 실시예에 따르면, 주기적으로 생성(1155)하여 상기 비트율 조절 모듈(1112)로 전달(1157)할 수 있다. 상기 비트율 조절 모듈(1112)은 상기 정보에 기반하여 구체적인 비트율 조절 방법에 관련된 정보를 생성(1159)하고, 상기 정보를 상기 원격주행 ECU로 전달(1160)하도록 구성될 수 있다.First, the delay information transmission module (1123) may be configured to periodically generate (1151) delay information based on information related to the delay time stored (1137) in the storage space (1140), and, according to a preferred embodiment of the present invention, to transmit (1153) the delay information to the network status analysis module (1113). Based on the transmitted (1153) delay information, the network status analysis module (1113) may periodically generate (1155) information related to the network status and transmit (1157) the information to the bit rate control module (1112) according to a preferred embodiment of the present invention. The bit rate control module (1112) may be configured to generate (1159) information related to a specific bit rate control method based on the information, and transmit (1160) the information to the remote driving ECU.
이하 상기 도 11에 기반한 연동 과정의 상세와 관련한 상세한 실시예에 관하여 서술한다. 하기 실시예는 상기 도 11에 의한 연동 과정의 구체적이거나 또는 개략적인 구현 결과를 포함할 수 있으나, 본 발명에 의한 연동 과정, 그러한 연동 과정에 의한 차량 제어 방법, 및 그러한 방법에 관련된 장치 및/또는 시스템은 반드시 하기 실시예의 형태로 한정되어야만 하는 것은 아니다.Hereinafter, a detailed embodiment related to the details of the linkage process based on the above-described Fig. 11 will be described. The following embodiment may include a specific or schematic implementation result of the linkage process by the above-described Fig. 11, but the linkage process according to the present invention, the vehicle control method by such linkage process, and the device and/or system related to such method are not necessarily limited to the form of the following embodiment.
먼저, 상기 네트워크 상태 분석 단계(1130)에 관련된 본 발명의 일 실시예에 있어서, 상기 프로브 패킷 생성모듈(1114)의 동작은 하기와 같은 의사코드(pseudocode)로 나타내는 동작을 포함하거나 이에 기초할 수 있다.First, in one embodiment of the present invention related to the network status analysis step (1130), the operation of the probe packet generation module (1114) may include or be based on an operation represented by the following pseudocode.
LOOP:
TimerWait();
Send(Probe_Packet);
END LOOPSetTimer(Probe_Timer=1000ms)
LOOP:
TimerWait();
Send(Probe_Packet);
END LOOP
상기 프로브 패킷의 생성(1131) 및 전송(1133)은 일정한 시간 간격으로 이루어지거나, 일정하지 않은 시간간격으로 이루어지거나, 또는 일시성으로 이루어질 수 있으나, 본 발명의 바람직한 일 실시예를 나타내는 상기 의사코드에서는 일정한 시간간격으로 생성되고 또 전송되는 경우를 상정하고 있다. 따라서, 상기 의사코드의 실시예에서는 1초 간격의 타이머에 기반하여 프로브 패킷을 생성(1131)하고 이를 이용하여 프로브 패킷을 전송(1133)하는 예를 보여주고 있다.The generation (1131) and transmission (1133) of the above probe packets may be performed at regular time intervals, at irregular time intervals, or temporarily. However, the pseudocode representing a preferred embodiment of the present invention assumes a case in which the probe packets are generated and transmitted at regular time intervals. Accordingly, the embodiment of the pseudocode shows an example of generating (1131) a probe packet based on a timer with a 1-second interval and transmitting (1133) the probe packets using the same.
상기 전송(1133)되는 프로브 패킷의 내용은 다음과 같은 패킷 정보를 포함하는 보편적 프로토콜 기반의 통신 패킷일 수 있다.The content of the probe packet transmitted (1133) may be a communication packet based on a universal protocol including the following packet information.
1) VEH_ID; 2) MSG_ID; 3) ENC_TY; 4) RES.1) VEH_ID; 2) MSG_ID; 3)ENC_TY; 4) RES.
상기 각각의 패킷 정보가 나타내는 의미는, 예를 들어, 아래 표와 같을 수 있다.The meaning of each of the above packet information may be, for example, as shown in the table below.
본 발명의 일 실시예에 있어서, 상기 지연시간 계산 모듈(1122)의 동작은 하기와 같은 의사코드로 나타내는 동작을 포함하거나 이에 기초할 수 있다.In one embodiment of the present invention, the operation of the delay time calculation module (1122) may include or be based on an operation represented by the following pseudocode.
Receive_Packet = GetPacket();
Reordered_Packet = PacketReordering (Receive_Packet)
Now = GetTime (Reordered_Packet);
Delay Time = Now - Pre;
Save (Delay Time);
Pre = Now;
END EVENTEVENT: Calculate Delay Time (Probe_Packet)
Receive_Packet = GetPacket();
Reordered_Packet = PacketReordering(Receive_Packet)
Now = GetTime(Reordered_Packet);
Delay Time = Now - Pre;
Save (Delay Time);
Pre = Now;
END EVENT
상기 지연시간 계산모듈(1122)은 프로브 패킷이 수신(1133)될 때마다 동작(1135)할 수 있다. 단, 네트워크 경로를 경유하여 수신되는 프로브 패킷들은 송신된 순서와 수신된 순서가 일치하지 아니하고 그 순서가 서로 뒤바뀔 가능성을 가질 수 있다. 따라서, 이러한 경우를 위하여 상기 수신된 적어도 하나의 프로브 패킷은 그 올바른 순서에 맞추어 재정렬 될 수 있다. 본 발명의 일 실시예에 있어서, 상기 지연시간 계산모듈(1122)은 상기 재정렬된 프로브 패킷들의 수신 간격을 측정함으로써, 상기 네트워크 상태처리부(1110)와 상기 네트워크 지연예측부(1120)간, 즉 상기 차량과 상기 서버 시스템 간에 연결된 네트워크 경로의 지연시간을 계산하도록 동작(1135)할 수 있다. 또한, 상기 지연시간 계산모듈(1122)은 상기 계산된 지연시간에 관련된 정보를, 실시예에 따라서는 서버 시스템의 일부로 간주될 수 있는, 상기 저장공간(1140)에 저장(1137)하도록 구성될 수 있다.The delay time calculation module (1122) may operate (1135) whenever a probe packet is received (1133). However, probe packets received via a network path may not match the transmitted order and the received order and may have a possibility that their orders may be swapped. Therefore, in such a case, at least one of the received probe packets may be rearranged to the correct order. In one embodiment of the present invention, the delay time calculation module (1122) may operate (1135) to calculate the delay time of the network path connected between the network status processing unit (1110) and the network delay prediction unit (1120), that is, between the vehicle and the server system, by measuring the reception interval of the rearranged probe packets. In addition, the delay time calculation module (1122) may be configured to store (1137) information related to the calculated delay time in the storage space (1140), which may be considered as a part of the server system according to an embodiment.
본 발명의 실시예에 따라서, 상기 저장공간(1140)에는 원격주행에 관련된 관제 정보(1145)가 더 저장될 수 있다. 상기 관제 정보(1145)는, 상기 원격주행이 이루어지는 환경을 관제하기 위한 정보일 수 있으며, 실시예에 따라서는, 상기 차량(810)의 위치에 있어서 날씨에 관련된 정보, 상기 차량(810)의 원격주행에 요구되는 최소 요구 지연시간과 같은 정보를 포함할 수 있다.According to an embodiment of the present invention, control information (1145) related to remote driving may be further stored in the storage space (1140). The control information (1145) may be information for controlling the environment in which the remote driving takes place, and according to an embodiment, may include information such as information related to the weather at the location of the vehicle (810) and the minimum required delay time required for remote driving of the vehicle (810).
다음으로, 상기 비트율 조절 요청 단계(1150)에 관련된 본 발명의 일 실시예에 있어서, 상기 지연정보 전송모듈(1123)의 동작은 하기와 같은 의사코드로 나타내는 동작을 포함하거나 이에 기초할 수 있다.Next, in one embodiment of the present invention related to the bit rate adjustment request step (1150), the operation of the delay information transmission module (1123) may include or be based on an operation represented by the following pseudocode.
LOOP:
Timer Wait();
Load(Delay_Time, Cont_Info);
Delay_Info = Make_Info(Delay_Time, Cont_Info);
Send (Delay_Info);
END LOOPSetTimer (Res_Timer=500ms);
LOOP:
Timer Wait();
Load(Delay_Time, Cont_Info);
Delay_Info = Make_Info(Delay_Time, Cont_Info);
Send (Delay_Info);
END LOOP
상기 지연정보 전송모듈(1123)은, 상기 저장공간(1140)으로부터 상기 지연시간에 관련된 정보 및 상기 관제정보를 획득(1147)하고, 네트워크 지연정보를 생성(1151)하도록 구성될 수 있다. 상기 네트워크 지연정보의 생성(1151) 및 전송(1153)은 일정한 시간 간격으로 이루어지거나, 일정하지 않은 시간간격으로 이루어지거나, 또는 일시성으로 이루어질 수 있으나, 본 발명의 바람직한 일 실시예를 나타내는 상기 의사코드에서는 일정한 시간간격으로 생성되고 또 전송되는 경우를 상정하고 있다. 따라서, 상기 의사코드의 실시예에서는 500밀리초 간격의 타이머에 기반하여 상기 지연정보를 생성(1151)하고 전송(1153)하는 예를 보여주고 있다.The above delay information transmission module (1123) may be configured to obtain (1147) information related to the delay time and the control information from the storage space (1140), and generate (1151) network delay information. The generation (1151) and transmission (1153) of the network delay information may be performed at regular time intervals, at irregular time intervals, or temporarily. However, the pseudocode representing a preferred embodiment of the present invention assumes a case where the information is generated and transmitted at regular time intervals. Therefore, the embodiment of the pseudocode shows an example of generating (1151) and transmitting (1153) the delay information based on a timer with an interval of 500 milliseconds.
상기 전송(1153)되는 정보는, 상기 계산된 지연시간에 관련된 정보를 포함할 수 있고, 이에 더하여 상기 프로브 패킷이 전송(1133)되지 아니한 경우 또는 상기 저장공간(1140)에 수신된 관제 정보가 관제 시스템으로부터 전달된 중요한 관제정보를 포함하는 경우 등을 포함할 수 있으며, 하기와 같은 패킷 정보를 포함하는 보편적 프로토콜 기반의 통신 패킷일 수 있다.The information transmitted (1153) above may include information related to the calculated delay time, and in addition, may include cases where the probe packet is not transmitted (1133) or where the control information received in the storage space (1140) includes important control information transmitted from the control system, and may be a communication packet based on a universal protocol including packet information such as the following.
1) VEH_ID; 2) MSG_ID; 3) ENC_TY; 4) RES.1) VEH_ID; 2) MSG_ID; 3)ENC_TY; 4) RES.
상기 각각의 패킷 정보가 나타내는 의미는, 예를 들어, 아래 표와 같을 수 있다.The meaning of each of the above packet information may be, for example, as shown in the table below.
8~7bit : 네트워크 상태
(00: 630ms 이하, 01: 630ms이상
10: RESERVE , 11: 연결해지권고)
6~1bit : Uplink 지연시간
(value*10ms : 10ms ~ 630ms)Delay information
8~7bit: Network status
(00: 630ms or less, 01: 630ms or more
10: RESERVE, 11: Disconnection recommendation)
6~1bit: Uplink delay time
(value*10ms: 10ms ~ 630ms)
본 발명의 일 실시예에 있어서, 상기 네트워크 상태분석 모듈(1113)의 동작은 하기와 같은 의사코드로 나타내는 동작을 포함하거나 이에 기초할 수 있다.In one embodiment of the present invention, the operation of the network status analysis module (1113) may include or be based on an operation represented by the following pseudocode.
Net Delay, Net_Info = GetPacket();
Updated = Yes;
END EVENTEVENT: Make Network Stat (Delay_Info)
Net Delay, Net_Info = GetPacket();
Updated = Yes;
END EVENT
TimerWait();
Timer Count++;
IF (Updated || Timer_Count)
Req = Make_Requirement (Net_Delay, Net_Info);
Updated=No;
Timer_Count=0;
ELSE
Continue;
END LOOPSetTimer (Stat_Timer=500ms);LOOP:
TimerWait();
Timer Count++;
IF (Updated || Timer_Count)
Req = Make_Requirement (Net_Delay, Net_Info);
Updated=No;
Timer_Count=0;
ELSE
Continue;
END LOOP
상기 지연정보 전송 모듈(1123)(즉, 실시예에 따라서는, 서버 시스템 측의 원격주행 서버에 포함될 수 있는 네트워크 지연예측부(1120)의 일 기능부)로부터 전송(1153)받은 지연정보는, 상기 네트워크 상태분석 모듈(1113)(즉, 실시예에 따라서는, 차량 측의 원격주행부에 포함될 수 있는 네트워크 상태처리부(1110)의 일 기능부)로 입력되도록 구성될 수 있다. 상기 네트워크 상태분석 모듈(1123)은 상기 지연정보의 수신(1153)에 의존적으로 또는 그와 무관하게 동작할 수 있으며, 상기 동작은 일정한 시간 간격으로 이루어지거나, 일정하지 않은 시간간격으로 이루어지거나, 또는 일시성으로 이루어질 수 있다. 단, 본 발명의 바람직한 일 실시예를 나타내는 상기 의사코드에서는 상기 지연정보의 수신(1153)에 무관하게 일정한 시간간격으로 동작하는 경우를 상정하고 있다. 따라서, 상기 의사코드의 실시예에서는 500밀리초 간격의 타이머에 기반하여 주기적으로 동작(1155)하는 예를 보여주고 있다.The delay information transmitted (1153) from the delay information transmission module (1123) (i.e., a functional unit of a network delay prediction unit (1120) that may be included in a remote driving server on the server system side, depending on the embodiment) may be configured to be input to the network status analysis module (1113) (i.e., a functional unit of a network status processing unit (1110) that may be included in a remote driving unit on the vehicle side, depending on the embodiment). The network status analysis module (1123) may operate dependently or irrespective of the reception (1153) of the delay information, and the operation may be performed at regular time intervals, irregular time intervals, or temporary. However, the pseudocode representing a preferred embodiment of the present invention assumes a case in which the operation is performed at regular time intervals irrespective of the reception (1153) of the delay information. Therefore, the above pseudocode embodiment shows an example of periodic operation (1155) based on a timer with an interval of 500 milliseconds.
상기 네트워크 상태분석 모듈(1113)은, 상기 동작(1155)에 따라, 현재 수신(1153)된 지연정보 및 상기 지연정보가 수신되지 않고 경과된 시간을 포함하는 정보를 이용하여, 상기 네트워크 상태에 관련된 정보를 생성하여 상기 비트율 조절 모듈(1112)로 송신(1157)하도록 구성될 수 있다.The above network status analysis module (1113) may be configured to generate information related to the network status and transmit (1157) the information to the bit rate control module (1112) using information including the currently received (1153) delay information and the time elapsed without the delay information being received, according to the operation (1155).
상기 송신(1157)되는 메시지(Req)의 내용은, 예를 들어, 아래 표와 같을 수 있다.The content of the message (Req) transmitted (1157) above may be, for example, as shown in the table below.
(1 : 비트율 감소 강
2 : 비트율 감소 약
3 : 비트율 유지
4: 비트율 증가 약
5: 비트율 중가 강 )Bitrate adjustment (1~5)
(1: Bit rate reduction strong
2: Bit rate reduction approx.
3: Maintain bit rate
4: Bit rate increase approx.
5: Bitrate increase strong)
본 발명의 일 실시예에 있어서, 상기 비트율 조절 모듈(1112)의 동작은 하기와 같은 의사코드로 나타내는 동작을 포함하거나 이에 기초할 수 있다.In one embodiment of the present invention, the operation of the bit rate control module (1112) may include or be based on an operation represented by the following pseudocode.
IF (Req < 3)
Reduce();
ELSE IF (Req >3)
Increase();
ELSE
END EVENTEVENT: Request (Req)
IF (Req < 3)
Reduce();
ELSE IF (Req >3)
Increase();
ELSE
END EVENT
상기 비트율 조절 모듈(1112)은 상기 네트워크 상태에 대한 정보 메시지가 수신(1157)될 때마다 동작(1159)할 수 있다. 상기 의사코드에 나타나는 실시예와 같이, 통신 비트율의 증가, 유지, 및 감소 중 어느 하나에 해당하는 구체적인 비트율 조절 방법에 대한 요청을 생성하여 상기 차량에 설치된 원격주행부(실시예에 따라서는, 상기 원격주행부에 속하는 데이터 부호화부 및/또는 원격주행 ECU를 포함하는 기능부에 해당할 수 있다)에 송신(1160)하도록 구성될 수 있다.The bit rate control module (1112) may operate (1159) whenever an information message about the network status is received (1157). As in the embodiment shown in the pseudocode, it may be configured to generate a request for a specific bit rate control method corresponding to any one of increasing, maintaining, and decreasing a communication bit rate and transmit (1160) the request to a remote driving unit installed in the vehicle (depending on the embodiment, the request may correspond to a functional unit including a data encoding unit and/or a remote driving ECU belonging to the remote driving unit).
이상 본 발명에 대하여 도면 및 실시예를 참조하여 설명하였으나, 이미 상술한 바와 같이 본 발명의 보호범위가 상기 제시된 도면 또는 실시예에 의해 한정되는 것을 의미하지는 않으며, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.Although the present invention has been described with reference to the drawings and embodiments, as already mentioned above, it does not mean that the protection scope of the present invention is limited by the drawings or embodiments presented above, and it will be understood that a person skilled in the art can variously modify and change the present invention without departing from the spirit and scope of the present invention described in the scope of the following patent claims.
Claims (11)
주행 신호에 의한 주행 제어를 받아 운전될 수 있는 자율주행차량부;
적어도 하나의 센서로부터 센서 데이터를 수신하는 원격주행 센서부;
상기 차량 장치와 원격주행 서버간의 네트워크 경로 상태 분석을 위한 프로브 패킷을 생성하는 프로브 패킷 생성부;
상기 프로브 패킷을 상기 원격주행 서버에 전송하는 프로브 패킷 전송부;
상기 원격주행 서버로부터 상기 프로브 패킷에 기반하여 계산된 상기 네트워크 경로에 대한 네트워크 지연정보를 수신하는 네트워크 상태분석부;
상기 네트워크 지연정보에 기반하여 상기 센서 데이터를 포함하는 원격주행과 연관된 환경 데이터를 가공하여 부호화하는 데이터 부호화부; 및
상기 부호화된 데이터를 상기 원격주행 서버로 전송하는 전송부;를 포함하는, 장치.
In a vehicle device capable of remote driving,
A self-driving vehicle capable of being driven by receiving driving control based on driving signals;
A remote driving sensor unit receiving sensor data from at least one sensor;
A probe packet generation unit that generates a probe packet for analyzing the network path status between the vehicle device and the remote driving server;
A probe packet transmission unit that transmits the above probe packet to the remote driving server;
A network status analysis unit that receives network delay information for the network path calculated based on the probe packet from the remote driving server;
A data encoding unit that processes and encodes environmental data related to remote driving including the sensor data based on the network delay information; and
A device comprising a transmission unit that transmits the encoded data to the remote driving server.
상기 원격주행 서버로부터 원격주행을 위한 제어 정보를 수신하는 수신부; 및
상기 제어 정보에 기반하여 상기 주행 신호를 생성하는 원격주행 ECU;를 포함하는 원격주행부를 더 포함하는, 장치.
In paragraph 1,
A receiving unit that receives control information for remote driving from the above remote driving server; and
A device further comprising a remote driving unit including a remote driving ECU that generates the driving signal based on the above control information.
상기 원격주행 ECU는 상기 데이터 부호화부로부터 상기 원격 환경 데이터의 가공을 전달받아서 데이터의 증가, 유지, 및 감소 중 어느 하나를 수행하는, 장치.
In the second paragraph,
The above remote driving ECU is a device that receives the processing of the remote environment data from the data encoding unit and performs one of increasing, maintaining, and decreasing the data.
상기 데이터 부호화부는 상기 원격 환경 데이터를 축약(shortening), 양자화(quantization), 추출(sampling), 생략(omitting), 비손실 압축(lossless compression), 손실 압축(lossy compression) 중 적어도 하나의 방법을 사용하여 가공하는, 장치.
In paragraph 1,
The above data encoding unit is a device that processes the remote environment data using at least one of shortening, quantization, sampling, omitting, lossless compression, and lossy compression.
원격주행의 대상이 되는 차량 장치로부터 수신된 원격주행과 연관된 환경 데이터를 복호화하는 데이터 복호화부;
상기 차량 장치와 상기 원격주행 서버 간의 네트워크 경로에 대한 네트워크 지연정보를 생성하여 상기 차량 장치로 전송하는 네트워크 지연예측부; 및
상기 차량에 대한 원격주행 제어 지시를 생성하는 원격주행 운전석부;를 포함하고,
상기 네트워크 지연예측부는,
상기 차량 장치로부터 네트워크 상태 분석을 위한 프로브(prove) 패킷을 수신하고, 상기 차량과의 네트워크 경로에 대한 지연시간을 계산하는 지연시간 계산부; 및
상기 계산된 지연시간에 기반하여 네트워크 지연정보를 생성하고, 상기 네트워크 지연정보를 상기 차량으로 송신하는 지연정보 전송부;를 포함하는, 장치.
In a remote driving server for controlling a vehicle capable of remote driving,
A data decryption unit that decrypts environmental data related to remote driving received from a vehicle device that is the target of remote driving;
A network delay prediction unit that generates network delay information for a network path between the vehicle device and the remote driving server and transmits it to the vehicle device; and
A remote driving driver's seat unit for generating remote driving control instructions for the above vehicle;
The above network delay prediction unit,
A delay time calculation unit that receives a probe packet for network status analysis from the vehicle device and calculates the delay time for the network path with the vehicle; and
A device comprising a delay information transmission unit that generates network delay information based on the calculated delay time and transmits the network delay information to the vehicle.
상기 원격주행 운전석부로부터 원격주행 지시를 수신하고, 상기 원격주행 지시에 기반하여 원격주행 제어 정보를 생성하는 원격주행 ECU; 및
상기 원격주행 제어 정보를 상기 차량 장치에 송신하는 송신부;를 더 포함하는, 장치.
In paragraph 6,
A remote driving ECU that receives a remote driving instruction from the above remote driving driver's seat and generates remote driving control information based on the remote driving instruction; and
A device further comprising a transmitter that transmits the remote driving control information to the vehicle device.
상기 네트워크 지연예측부는,
원격주행을 위한 관제 정보를 수신하는 관제 정보 수신부; 및
상기 계산된 지연시간과 상기 관제 정보를 저장하는 저장부;를 더 포함하고
상기 저장된 지연시간과 관제 정보로부터 상기 네트워크 지연정보를 생성하는, 장치.
In paragraph 6,
The above network delay prediction unit,
A control information receiving unit for receiving control information for remote driving; and
It further includes a storage unit that stores the calculated delay time and the control information;
A device that generates the network delay information from the stored delay time and control information.
원격주행이 가능한 차량 장치에서 프로브 패킷을 생성하여 원격주행 서버로 전송하는 단계;
상기 원격주행 서버에서 상기 프로브 패킷을 수신하여 계산한 상기 차량과의 네트워크 경로에 대한 지연시간에 기반하여 네트워크 지연정보를 생성하여 상기 차량으로 전송하는 단계;
상기 네트워크 지연정보에 기반하여 상기 차량 장치에서 원격주행과 연괸된 환경 데이터를 부호화하여 상기 원격주행 서버로 전송하는 단계; 및
상기 원격주행 서버가 상기 원격주행과 연관된 환경 데이터에 기반하여 상기 차량 장치에 원격주행 제어 정보를 전송하는 단계;를 포함하는, 방법.
A method for controlling a vehicle capable of remote driving,
A step of generating a probe packet in a vehicle device capable of remote driving and transmitting it to a remote driving server;
A step of generating network delay information based on a delay time for a network path with the vehicle calculated by receiving the probe packet from the remote driving server and transmitting the information to the vehicle;
A step of encoding environmental data related to remote driving in the vehicle device based on the above network delay information and transmitting the encoded data to the remote driving server; and
A method comprising: a step in which the remote driving server transmits remote driving control information to the vehicle device based on environmental data associated with the remote driving.
신호에 의한 주행 제어를 받아 운전될 수 있는 자율주행차량;
상기 자율주행차량을 제어하는 자율주행장치;
상기 자율주행장치에 원격주행 제어 정보를 전송하는 원격주행 서버;를 포함하고,
상기 자율주행장치는, 상기 자율주행장치와 상기 원격주행 서버 간의 네트워크 경로 상태 분석을 위한 프로브 패킷을 생성하고, 상기 프로브 패킷을 상기 원격주행 서버에 전송하고, 상기 원격주행 서버로부터 상기 네트워크 경로에 대한 네트워크 지연정보를 수신하고, 상기 네트워크 지연정보에 기반하여 센서 데이터를 포함하는 원격주행과 연관된 환경 데이터를 부호화하여 상기 원격주행 서버로 전송하고, 상기 원격주행 서버로부터 수신하는 원격주행 제어 정보에 기반하여 주행 신호를 생성하고,
상기 원격주행 서버는, 상기 프로브 패킷을 수신하고, 상기 프로브 패킷에 기반하여 상기 원격주행의 대상이 되는 차량 장치와 상기 원격주행 서버 간의 상기 네트워크 경로에 대한 지연시간을 계산하고, 상기 계산된 지연시간에 기반하여 상기 네트워크 지연정보를 생성하여, 상기 차량 장치로 전송하는, 시스템.In a system for controlling a vehicle capable of remote driving,
An autonomous vehicle that can be driven under signal-driven driving control;
An autonomous driving device that controls the above autonomous vehicle;
Includes a remote driving server that transmits remote driving control information to the autonomous driving device;
The autonomous driving device generates a probe packet for analyzing a network path status between the autonomous driving device and the remote driving server, transmits the probe packet to the remote driving server, receives network delay information for the network path from the remote driving server, encodes environmental data related to remote driving including sensor data based on the network delay information and transmits the encoded data to the remote driving server, and generates a driving signal based on remote driving control information received from the remote driving server.
The remote driving server is a system that receives the probe packet, calculates a delay time for the network path between the vehicle device that is the target of the remote driving and the remote driving server based on the probe packet, and generates network delay information based on the calculated delay time and transmits the network delay information to the vehicle device.
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020230061370A KR102803204B1 (en) | 2023-05-11 | 2023-05-11 | Vehicle communication control apparatus and method |
| PCT/KR2024/000005 WO2024147582A1 (en) | 2023-01-03 | 2024-01-02 | Vehicle communication control device and method |
| US19/257,355 US20250328134A1 (en) | 2023-01-03 | 2025-07-01 | Vehicle communication control device and method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020230061370A KR102803204B1 (en) | 2023-05-11 | 2023-05-11 | Vehicle communication control apparatus and method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20240164042A KR20240164042A (en) | 2024-11-19 |
| KR102803204B1 true KR102803204B1 (en) | 2025-05-07 |
Family
ID=93670547
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020230061370A Active KR102803204B1 (en) | 2023-01-03 | 2023-05-11 | Vehicle communication control apparatus and method |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102803204B1 (en) |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102077201B1 (en) * | 2018-07-20 | 2020-02-13 | 현대모비스 주식회사 | Integrated control apparatus of vehicle method thereof |
| KR102659057B1 (en) * | 2018-12-12 | 2024-04-19 | 현대자동차주식회사 | Apparatus and method for optimizing data processing computation |
| KR102356228B1 (en) * | 2020-06-04 | 2022-01-26 | 주식회사 엘지유플러스 | Autonomous Vehicle, Control System And Operating Method of Thereof |
| KR102640062B1 (en) * | 2022-03-24 | 2024-02-27 | 주식회사 아이비스 | Appratus and method for displaying car information |
-
2023
- 2023-05-11 KR KR1020230061370A patent/KR102803204B1/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| KR20240164042A (en) | 2024-11-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US12075507B2 (en) | Method and apparatus for supporting early data transmission in inactive state in wireless communication system | |
| US12150128B2 (en) | Method and device for operating UE associated with sidelink RLM and RLF in wireless communication system | |
| CN111630933A (en) | Method and apparatus for performing sidelink communications by a UE in NR V2X | |
| CN111433696A (en) | System for remotely driving driverless vehicles | |
| KR20190065929A (en) | Method and apparatus for transmitting data in system | |
| US20200288345A1 (en) | Systems, methods, and apparatuses for heterogeneous network data communication and synchronization | |
| CN114449021B (en) | Vehicle, device for a vehicle, computer program product, and method for processing information transmitted in a teleoperated driving session | |
| US12200518B2 (en) | Signal transmitting and receiving method in wireless communication system | |
| US20200153926A1 (en) | Scalable vehicle data compression systems and methods | |
| CN105321320B (en) | A kind of 4G LTE network on-line early warning system and method based on VPN framework | |
| KR101714227B1 (en) | vehicle data communication method and apparatus using the same | |
| KR102803204B1 (en) | Vehicle communication control apparatus and method | |
| US11363590B2 (en) | Method for deriving cell quality and device supporting the same | |
| CN116939688B (en) | Remote driving control method, device, equipment and storage medium | |
| CN203825819U (en) | Real-time remote vehicle safety monitoring device, server, and system | |
| US12477391B2 (en) | Operating method of UE, related to sensor raw data sharing and feedback in wireless communication system | |
| KR20210135615A (en) | Method and communication device for transmitting and receiving data using available buffer size | |
| CN117580099A (en) | Wireless network load balancing method, system, equipment and medium | |
| CN119743233A (en) | Vehicle remote monitoring method and system | |
| US20220386403A1 (en) | Method for transmitting and receiving, by terminal, signal in wireless communication system | |
| KR102778188B1 (en) | Vehicle communication control apparatus and method | |
| CN114450910A (en) | Method of operating a UE associated with SCI transmission in a wireless communication system | |
| US20250328134A1 (en) | Vehicle communication control device and method | |
| CN117998321A (en) | Vehicle cooperative communication device and method | |
| US11706010B1 (en) | Methods and apparatus for providing redundant networking capabilities for teleoperations |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20230511 |
|
| PA0201 | Request for examination |
Patent event code: PA02012R01D Patent event date: 20240201 Comment text: Request for Examination of Application |
|
| PA0302 | Request for accelerated examination |
Patent event date: 20240201 Patent event code: PA03022R01D Comment text: Request for Accelerated Examination |
|
| PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20240221 Patent event code: PE09021S01D |
|
| PE0601 | Decision on rejection of patent |
Patent event date: 20240823 Comment text: Decision to Refuse Application Patent event code: PE06012S01D |
|
| PG1501 | Laying open of application | ||
| AMND | Amendment | ||
| PX0901 | Re-examination |
Patent event code: PX09012R01I Patent event date: 20241126 Comment text: Amendment to Specification, etc. |
|
| E902 | Notification of reason for refusal | ||
| PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20241203 Patent event code: PE09021S01D |
|
| PX0701 | Decision of registration after re-examination |
Patent event date: 20250204 Comment text: Decision to Grant Registration Patent event code: PX07013S01D |
|
| X701 | Decision to grant (after re-examination) | ||
| GRNT | Written decision to grant | ||
| PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20250428 Patent event code: PR07011E01D |
|
| PR1002 | Payment of registration fee |
Payment date: 20250429 End annual number: 3 Start annual number: 1 |
|
| PG1601 | Publication of registration |