KR102636741B1 - Automatic Driving control apparatus, vehicle having the same and method for controlling the same - Google Patents
Automatic Driving control apparatus, vehicle having the same and method for controlling the same Download PDFInfo
- Publication number
- KR102636741B1 KR102636741B1 KR1020180168130A KR20180168130A KR102636741B1 KR 102636741 B1 KR102636741 B1 KR 102636741B1 KR 1020180168130 A KR1020180168130 A KR 1020180168130A KR 20180168130 A KR20180168130 A KR 20180168130A KR 102636741 B1 KR102636741 B1 KR 102636741B1
- Authority
- KR
- South Korea
- Prior art keywords
- vehicle
- image data
- unit
- memory
- autonomous driving
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims description 24
- 238000001514 detection method Methods 0.000 claims abstract description 93
- 238000004891 communication Methods 0.000 claims description 56
- 230000001133 acceleration Effects 0.000 claims description 32
- 230000006870 function Effects 0.000 description 14
- 238000012545 processing Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000033001 locomotion Effects 0.000 description 4
- 238000013478 data encryption standard Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 210000003195 fascia Anatomy 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 206010041349 Somnolence Diseases 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/165—Anti-collision systems for passive traffic, e.g. including static obstacles, trees
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
- B60W30/14—Adaptive cruise control
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
- B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
- B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
- B60R21/013—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over
- B60R21/0134—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over responsive to imminent contact with an obstacle, e.g. using radar systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/0088—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
- G05D1/0214—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with safety or protection criteria, e.g. avoiding hazardous areas
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0238—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
- G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/09—Arrangements for giving variable traffic instructions
- G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
- G08G1/0968—Systems involving transmission of navigation instructions to the vehicle
- G08G1/096855—Systems involving transmission of navigation instructions to the vehicle where the output is provided in a suitable form to the driver
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/161—Decentralised systems, e.g. inter-vehicle communication
- G08G1/163—Decentralised systems, e.g. inter-vehicle communication involving continuous checking
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/164—Centralised systems, e.g. external to vehicles
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/167—Position within a video image, e.g. region of interest [ROI]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
- H04N19/467—Embedding additional information in the video signal during the compression process characterised by the embedded information being invisible, e.g. watermarking
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo or light sensitive means, e.g. infrared sensors
- B60W2420/403—Image sensing, e.g. optical camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/18—Steering angle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2552/00—Input parameters relating to infrastructure
- B60W2552/50—Barriers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2556/00—Input parameters relating to data
- B60W2556/45—External transmission of data to or from the vehicle
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D2201/00—Application
- G05D2201/02—Control of position of land vehicles
- G05D2201/0213—Road vehicle, e.g. car or truck
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
Abstract
본 발명의 차량은, 외부의 영상을 획득하는 제1영상 획득부; 내부의 영상을 획득하는 제2영상 획득부; 장애물을 검출하는 장애물 검출부; 장애물 검출부에서 검출된 장애물 검출 정보와 제1영상 획득부에서 획득된 영상 데이터에 기초하여 자율 주행을 제어하고, 자율 주행의 제어 중 제1, 2영상 획득부에서 획득된 영상 데이터 중 휘도 데이터를 암호화하는 제어부; 및 암호화된 휘도 데이터를 저장하는 저장부를 포함한다.The vehicle of the present invention includes a first image acquisition unit that acquires an external image; a second image acquisition unit that acquires an internal image; An obstacle detection unit that detects obstacles; Autonomous driving is controlled based on obstacle detection information detected by the obstacle detection unit and image data acquired by the first image acquisition unit, and luminance data among the image data acquired by the first and second image acquisition units is encrypted during autonomous driving control. a control unit that does; and a storage unit that stores the encrypted luminance data.
Description
본 발명은 자율 주행을 위해 획득한 영상을 관리하기 위한 차량 및 그 제어 방법에 관한 것이다.The present invention relates to a vehicle and its control method for managing images acquired for autonomous driving.
차량은 도로 위를 이동하는 기기로, 차량에는 탑승자 보호, 운행 보조 및 승차감의 향상을 위한 다양한 장치들이 탑재되어 있다.A vehicle is a device that moves on the road, and is equipped with various devices to protect occupants, assist driving, and improve riding comfort.
최근에는 차량 스스로 도로 환경을 인식하고, 주행 상황을 판단하여, 계획된 주행 경로를 따라 주행하도록 제어함으로써 목적지까지 자동으로 주행하도록 하는 자율 주행 제어 장치에 대한 연구가 활발히 진행되고 있다.Recently, research is being actively conducted on autonomous driving control devices that allow the vehicle to automatically drive to its destination by recognizing the road environment, judging the driving situation, and controlling the vehicle to drive along a planned driving path.
이러한 자율 주행 제어 장치는 장애물의 위치 변화 및 차선을 인식하고 인식된 정보에 기초하여 차량이 장애물을 회피하면서 안전한 차로로 주행하도록 한다.This autonomous driving control device recognizes changes in the position of obstacles and lanes, and allows the vehicle to drive in a safe lane while avoiding obstacles based on the recognized information.
자율 주행 제어 장치는 차량의 자율 주행 제어 중 돌발 상황이 발생하면 운전자에게 차량의 제어권을 인계한다. 이러한 상황에서, 사고가 발생하였을 때 사고의 발생 원인을 판단하기 어려운 문제점이 있었다.The autonomous driving control device transfers control of the vehicle to the driver when an unexpected situation occurs during autonomous driving control of the vehicle. In this situation, there was a problem that it was difficult to determine the cause of the accident when an accident occurred.
일 측면은 주행 상황이 사고 위험 상황이면 영상 데이터를 암호화하여 저장하거나 암호화된 영상 데이터를 서버에 전송하는 자율 주행 제어 장치, 그를 가지는 차량 및 그 제어 방법을 제공한다.One aspect provides an autonomous driving control device that encrypts and stores video data or transmits the encrypted video data to a server when the driving situation is at risk of an accident, a vehicle having the same, and a method of controlling the same.
다른 측면은 영상 데이터 중 휘도 데이터만을 암호화하는 자율 주행 제어 장치, 그를 가지는 차량 및 그 제어 방법을 제공한다.Another aspect provides an autonomous driving control device that encrypts only luminance data among image data, a vehicle having the same, and a method of controlling the same.
또 다른 측면은 사고 위험 상황이 발생한 방향에 대응하는 영상 데이터만을 암호화하는 자율 주행 제어 장치, 그를 가지는 차량 및 그 제어 방법을 제공한다.Another aspect provides an autonomous driving control device that encrypts only image data corresponding to the direction in which an accident risk situation occurs, a vehicle having the same, and a method of controlling the same.
일 측면에 따른 자율 주행 제어 장치는, 차량의 외부의 주변 영상과 차량의 내부의 영상을 획득하는 영상 획득부 및 장애물을 검출하는 장애물 검출부와 통신을 수행하는 통신부; 장애물 검출부에서 검출된 장애물 검출 정보와 영상 획득부에서 획득된 영상 데이터에 기초하여 자율 주행을 제어하고, 자율 주행의 제어 중 영상 획득부에서 획득된 영상 데이터 중 휘도 데이터를 암호화하는 제어부; 및 암호화된 휘도 데이터를 저장하는 저장부를 포함한다.An autonomous driving control device according to one aspect includes a communication unit that communicates with an image acquisition unit that acquires images around the exterior of the vehicle and images of the interior of the vehicle, and an obstacle detection unit that detects obstacles; A control unit that controls autonomous driving based on obstacle detection information detected by the obstacle detection unit and image data acquired by the image acquisition unit, and encrypts luminance data among the image data acquired by the image acquisition unit during control of autonomous driving; and a storage unit that stores the encrypted luminance data.
일 측면에 따른 자율 주행 제어 장치의 제어부는, 영상 데이터에서 관심 영역을 확인하고, 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화한다.The control unit of the autonomous driving control device according to one aspect may identify a region of interest in the image data, check the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and determine the macro blocks within the identified region of interest. Among them, the luminance data of a macro block smaller than a preset size is encrypted.
일 측면에 따른 자율 주행 제어 장치의 저장부는 제1메모리와 제2메모리를 포함하고, 제어부는 자율 주행의 제어 중 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 사고 위험 상황이 아니라고 판단되면 암호화된 휘도 데이터를 제1메모리에 저장하도록 제1메모리를 제어하고, 사고 위험 상황이라고 판단되면 암호화된 휘도 데이터를 제2메모리에 저장하도록 제2메모리를 제어한다.The storage unit of the autonomous driving control device according to one aspect includes a first memory and a second memory, and the control unit determines whether an accident risk situation is present based on obstacle detection information detected by the obstacle detection unit during autonomous driving control and determines whether the accident risk situation is If it is determined that this is not the case, the first memory is controlled to store the encrypted luminance data in the first memory, and if it is determined that there is an accident risk situation, the second memory is controlled to store the encrypted luminance data in the second memory.
일 측면에 따른 자율 주행 제어 장치의 제1메모리는 휘발성 메모리이고, 제2메모리는 비휘발성 메모리이다.The first memory of the autonomous driving control device according to one aspect is a volatile memory, and the second memory is a non-volatile memory.
일 측면에 따른 자율 주행 제어 장치의 제어부는, 영상 데이터에서 관심 영역을 확인하고, 확인된 관심 영역의 휘도 데이터를 암호화하는 것을 포함한다.The control unit of the autonomous driving control device according to one aspect includes identifying a region of interest in image data and encrypting luminance data of the identified region of interest.
일 측면에 따른 자율 주행 제어 장치의 제어부는, 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고, 확인된 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화한다.The control unit of the autonomous driving control device according to one aspect checks the sizes of macro blocks divided into different sizes based on the luminance and color difference of image data, and determines the luminance of a macro block smaller than a preset size among the confirmed macro blocks. Encrypt data.
일 측면에 따른 자율 주행 제어 장치의 통신부는 서버와 통신을 수행하고, 제어부는 자율 주행의 제어 중 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 사고 위험 상황이라고 판단되면 암호화된 휘도 데이터를 서버에 저장하도록 통신부를 제어한다.The communication unit of the autonomous driving control device according to one aspect performs communication with a server, and the control unit determines whether an accident risk situation is possible based on obstacle detection information detected by the obstacle detection unit during autonomous driving control, and if it is determined to be an accident risk situation, an encrypted Controls the communication unit to store luminance data in the server.
다른 측면에 따른 차량은, 외부의 영상을 획득하는 제1영상 획득부; 내부의 영상을 획득하는 제2영상 획득부; 장애물을 검출하는 장애물 검출부; 장애물 검출부에서 검출된 장애물 검출 정보와 제1영상 획득부에서 획득된 영상 데이터에 기초하여 자율 주행을 제어하고, 자율 주행의 제어 중 제1, 2영상 획득부에서 획득된 영상 데이터 중 휘도 데이터를 암호화하는 제어부; 및 암호화된 휘도 데이터를 저장하는 저장부를 포함한다.A vehicle according to another aspect includes a first image acquisition unit that acquires an external image; a second image acquisition unit that acquires an internal image; An obstacle detection unit that detects obstacles; Autonomous driving is controlled based on obstacle detection information detected by the obstacle detection unit and image data acquired by the first image acquisition unit, and luminance data among the image data acquired by the first and second image acquisition units is encrypted during autonomous driving control. a control unit that does; and a storage unit that stores the encrypted luminance data.
다른 측면에 따른 차량의 제어부는, 영상 데이터에서 관심 영역을 확인하고, 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화한다.According to another aspect, the control unit of the vehicle may identify a region of interest in the image data, check the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and preliminarily select macro blocks within the identified region of interest. Encrypts the luminance data of macro blocks smaller than the set size.
다른 측면에 따른 차량의 저장부는 제1메모리와 제2메모리를 포함하고, 제어부는 자율 주행의 제어 중 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 사고 위험 상황이 아니라고 판단되면 암호화된 휘도 데이터를 제1메모리에 저장하도록 제1메모리를 제어하고, 사고 위험 상황이라고 판단되면 암호화된 휘도 데이터를 제2메모리에 저장하도록 제2메모리를 제어한다.According to another aspect, the storage unit of the vehicle includes a first memory and a second memory, and the control unit determines whether an accident risk situation is present based on the obstacle detection information detected by the obstacle detection unit during autonomous driving control, and if it is determined that it is not an accident risk situation, The first memory is controlled to store the encrypted luminance data in the first memory, and if it is determined that there is an accident risk situation, the second memory is controlled to store the encrypted luminance data in the second memory.
또 다른 측면에 따른 차량의 제어 방법은, 자율 주행 모드이면 제1영상 획득부에 의해 획득된 외부의 영상과 장애물 검출부에 의해 획득된 장애물의 검출 정보에 기초하여 차량의 자율 주행을 제어하고, 자율 주행의 제어 중 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고, 사고 위험 상황이라고 판단되면 제1영상 획득부에 의해 획득된 차량의 외부의 영상 데이터와, 제2영상 획득부에 의해 획득된 차량의 내부의 영상 데이터를 각각 암호화하여 저장한다.A method of controlling a vehicle according to another aspect is, in the autonomous driving mode, controlling the autonomous driving of the vehicle based on the external image acquired by the first image acquisition unit and the obstacle detection information acquired by the obstacle detection unit, During driving control, it is determined whether there is an accident risk situation based on the obstacle detection information detected by the obstacle detection unit, and if it is determined that it is an accident risk situation, the external image data of the vehicle acquired by the first image acquisition unit and the second image acquisition unit The image data inside the vehicle obtained by each is encrypted and stored.
차량의 외부의 영상 데이터를 암호화하는 것은, 차량의 외부의 영상 데이터에서 관심 영역을 확인하고, 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고, 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화하는 것을 포함하낟.Encrypting image data outside the vehicle involves identifying a region of interest in the image data outside the vehicle, checking the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and confirming the identified interest area. It includes encrypting the luminance data of a macro block smaller than a preset size among the macro blocks in the area.
또 다른 측면에 따른 차량의 제어 방법은, 현재 위치가 고속도로라고 판단되면 차량의 제동력, 가속량 및 조향각을 확인하고, 확인된 제동력이 기준 제동력 이상인 조건과, 확인된 가속량이 기준 가속량 이상인 조건과, 확인된 조향각이 기준 조향각 이상인 조건이 모두 만족하지 않으면 암호화된 영상 데이터를 제1메모리에 저장하고, 조건들 중 적어도 하나의 조건이 만족하면 암호화된 영상 데이터를 제2메모리에 저장하는 것을 더 포함한다.According to another aspect, a vehicle control method includes, when it is determined that the current location is a highway, the vehicle's braking force, acceleration amount, and steering angle are checked, and a condition in which the confirmed braking force is greater than the standard braking force, a condition in which the confirmed acceleration amount is greater than the standard acceleration amount, and , if all conditions that the confirmed steering angle is greater than the reference steering angle are not satisfied, storing the encrypted image data in the first memory, and if at least one of the conditions is satisfied, storing the encrypted image data in the second memory. do.
외부의 영상 데이터를 암호화하는 것은, 사고 위험 상황이라고 판단되면 사고 위험 상황이 발생한 방향을 확인하고, 전후좌우의 외부의 영상을 획득하는 제1, 2, 3, 4 카메라 중 확인된 방향과 대응하는 방향과 인접하게 설치된 적어도 하나의 카메라에서 획득된 영상 데이터의 휘도 데이터를 암호화하는 것을 포함한다.Encrypting external image data means that, if an accident risk situation is determined, the direction in which the accident risk situation occurred is confirmed, and among the first, second, third, and fourth cameras that acquire external images from front, back, left, and right, corresponding to the confirmed direction. It includes encrypting luminance data of image data acquired from at least one camera installed adjacent to the direction.
또 다른 측면에 따른 차량의 제어 방법은, 사고 위험 상황이라고 판단되면 암호화된 영상 데이터를 서버에 전송하는 것을 더 포함한다.A vehicle control method according to another aspect further includes transmitting encrypted video data to a server when it is determined that an accident risk situation is present.
본 발명은 자율 주행 중 획득된 영상 데이터를 휘발성 저장 장치에 저장하고, 사고 위험 상황이 발생하면 주행 상황에 대응하는 영상 데이터를 비휘발성 저장 장치에 저장함으로써 차량 내의 저장 장치에 저장되는 데이터의 용량을 줄일 수 있고 사고 발생 시 사고 상황을 용이하게 파악할 수 있다.The present invention stores image data acquired during autonomous driving in a volatile storage device, and when an accident risk situation occurs, image data corresponding to the driving situation is stored in a non-volatile storage device to increase the capacity of data stored in the storage device in the vehicle. It can be reduced and the accident situation can be easily identified when an accident occurs.
본 발명은 사고 위험 발생 시 영상 데이터 중 휘도 데이터만을 비휘발성 저장 장치에 저장함으로써 비휘발성 저장 장치에 저장되는 데이터의 양을 더 줄일 수 있고, 비휘발성 저장 장치에 저장되는 데이터의 양이 감소함에 따라 비휘발성 저장 장치에 저장되는 영상 데이터를 장기간 보관할 수 있다.The present invention can further reduce the amount of data stored in the non-volatile storage device by storing only the luminance data among the image data in the non-volatile storage device when an accident risk occurs, and as the amount of data stored in the non-volatile storage device decreases, Video data stored in non-volatile storage devices can be stored for a long period of time.
본 발명은 사고 위험이 발생한 방향의 영상 데이터만을 비휘발성 저장 장치에 저장함으로써 비휘발성 저장 장치에 저장되는 데이터의 양을 더 줄일 수 있고, 비휘발성 저장 장치에 저장되는 데이터의 양이 감소함에 따라 비휘발성 저장 장치에 저장되는 영상 데이터를 장기간 보관할 수 있다.The present invention can further reduce the amount of data stored in the non-volatile storage device by storing only image data in the direction in which the risk of an accident occurred in the non-volatile storage device, and as the amount of data stored in the non-volatile storage device decreases, the amount of data stored in the non-volatile storage device decreases. Video data stored in volatile storage devices can be stored for a long period of time.
본 발명은 주행 상황이 사고 위험 상황이면 주행 상황에 대응하는 영상 데이터를 서버에 전송하여 서버에서 저장하도록 함으로써 저장 장치에 저장되는 데이터의 양을 줄일 수 있고, 서버에서 사고 발생 시 사고 상황을 용이하고 정확하게 파악하도록 할 수 있다.The present invention can reduce the amount of data stored in the storage device by transmitting video data corresponding to the driving situation to the server and storing it on the server when the driving situation is at risk of an accident, and when an accident occurs on the server, the accident situation is facilitated. You can make sure you understand it accurately.
이와 같이 본 발명은 임베디드 환경에서 메모리 제한에 따라 영상 데이터를 압축된 NAL 형태 그대로 영상 데이터의 특성을 살려 일부분만을 선택적으로 암호화하고 저장함으로써 임베디드 환경에서 효율적으로 영상 데이터를 저장할 수 있다.In this way, the present invention can efficiently store video data in an embedded environment by selectively encrypting and storing only a portion of the video data in compressed NAL form, taking advantage of the characteristics of the video data, according to memory limitations in the embedded environment.
본 발명은 자율 주행 제어 장치 및 자율 주행 기능을 가진 차량의 품질 및 상품성을 향상시킬 수 있고 나아가 사용자의 만족도를 높일 수 있으며 제품의 경쟁력을 확보할 수 있다.The present invention can improve the quality and marketability of autonomous driving control devices and vehicles with autonomous driving functions, further increase user satisfaction, and secure product competitiveness.
도 1은 실시 예에 따른 차량의 제어 구성도이다.
도 2는 실시 예에 따른 차량의 제어부의 상세 구성도이다.
도 3은 실시 예에 따른 차량에 마련된 카메라에서 영상을 전송하기 위한 네트워크 추상화 레이어의 구성도이다.
도 4는 실시 예에 따른 차량에 마련된 카메라에서 획득한 영상 데이터의 매크로 블록의 예시도이다.
도 5는 실시 예에 따른 차량의 제어 순서도이다.
도 6은 실시 예에 따른 차량의 영상 데이터의 암호화 및 저장의 순서도이다.
도 7은 실시 예에 따른 차량과 통신하는 서버의 제어 구성도이다.1 is a control configuration diagram of a vehicle according to an embodiment.
Figure 2 is a detailed configuration diagram of a control unit of a vehicle according to an embodiment.
Figure 3 is a configuration diagram of a network abstraction layer for transmitting video from a camera installed in a vehicle according to an embodiment.
Figure 4 is an example diagram of a macro block of image data acquired from a camera installed in a vehicle according to an embodiment.
5 is a control flowchart of a vehicle according to an embodiment.
Figure 6 is a flowchart of encryption and storage of image data of a vehicle according to an embodiment.
Figure 7 is a control configuration diagram of a server communicating with a vehicle according to an embodiment.
명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다. 본 명세서가 실시 예들의 모든 요소들을 설명하는 것은 아니며, 본 발명이 속하는 기술분야에서 일반적인 내용 또는 실시 예들 간에 중복되는 내용은 생략한다. 명세서에서 사용되는 '부, 장치'라는 용어는 소프트웨어 또는 하드웨어로 구현될 수 있으며, 실시 예들에 따라 복수의 '부, 장치'가 하나의 구성요소로 구현되거나, 하나의 '부, 장치'가 복수의 구성요소들을 포함하는 것도 가능하다.Like reference numerals refer to like elements throughout the specification. This specification does not describe all elements of the embodiments, and general content or overlapping content between the embodiments in the technical field to which the present invention pertains is omitted. The term 'unit or device' used in the specification may be implemented as software or hardware, and depending on the embodiments, a plurality of 'units and devices' may be implemented as one component, or one 'unit or device' may be implemented as a single component. It is also possible to include components of
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐 아니라, 간접적으로 연결되어 있는 경우를 포함하고, 간접적인 연결은 무선 통신망을 통해 연결되는 것을 포함한다.Throughout the specification, when a part is said to be “connected” to another part, this includes not only direct connection but also indirect connection, and indirect connection includes connection through a wireless communication network. do.
또한 어떤 부분이 어떤 구성요소를"포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.Additionally, when it is said that a part "includes" a certain component, this does not mean that other components are excluded, but that it can further include other components, unless specifically stated to the contrary.
제 1, 제 2 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위해 사용되는 것으로, 구성요소가 전술된 용어들에 의해 제한되는 것은 아니다. Terms such as first and second are used to distinguish one component from another component, and the components are not limited by the above-mentioned terms.
단수의 표현은 문맥상 명백하게 예외가 있지 않는 한, 복수의 표현을 포함한다.Singular expressions include plural expressions unless the context clearly makes an exception.
각 단계들에 있어 식별부호는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 실시될 수 있다. The identification code for each step is used for convenience of explanation. The identification code does not explain the order of each step, and each step may be performed differently from the specified order unless a specific order is clearly stated in the context. there is.
이하 첨부된 도면들을 참고하여 본 발명의 작용 원리 및 실시 예들에 대해 설명한다.Hereinafter, the operating principle and embodiments of the present invention will be described with reference to the attached drawings.
도 1은 실시 예에 따른 차량의 제어 구성도이다.1 is a control configuration diagram of a vehicle according to an embodiment.
본 실시 예의 차량은, 자율 주행이 가능한 차량으로, 자율 주행 제어 장치가 마련된 차량일 수 있다. The vehicle of this embodiment may be a vehicle capable of autonomous driving and may be equipped with an autonomous driving control device.
또한 본 실시 예의 차량은, 운전자에 의한 수동 주행 모드의 선택에 대응하여 운전자의 조작 정보에 기초하여 주행을 제어할 수 있고, 자율 주행 모드의 수행 중 돌발 상황 발생 시 주행을 제어하기 위한 제어권을 운전자에게 인계할 수 있다.In addition, the vehicle of this embodiment can control driving based on the driver's operation information in response to the driver's selection of the manual driving mode, and gives the driver control rights to control driving when an unexpected situation occurs while performing the autonomous driving mode. It can be handed over to.
차량은 주행을 제어하기 위한 제어권을 운전자에게 인계할 때, 수동 주행 모드를 수행할 수 있다. The vehicle can perform a manual driving mode when handing over control for driving to the driver.
이러한 자율 주행이 가능한 차량은 외장과 내장을 갖는 차체(Body)와, 차체를 제외한 나머지 부분으로 주행에 필요한 기계 장치가 설치되는 차대(Chassis)를 포함할 수 있다.A vehicle capable of such autonomous driving may include a body having an exterior and an interior, and a chassis in which mechanical devices necessary for driving are installed in the remaining parts excluding the body.
여기서 차체의 외장은 프론트 패널, 본네트, 루프 패널, 리어 패널, 전후좌우의 도어, 전후좌우의 도어에 개폐 가능하게 마련된 창문과, 전방 시야를 확보하기 위한 프론트 윈드 실드(또는 프론트 글래스), 후방 시야를 확보하기 위한 리어 윈드 실드(또는 리어 글래스)를 포함할 수 있다.Here, the exterior of the car body includes the front panel, bonnet, roof panel, rear panel, doors on the front, left, and right, windows that can be opened and closed on the front, left, and right doors, a front windshield (or front glass) to ensure forward visibility, and rear visibility. It may include a rear windshield (or rear glass) to secure.
그리고 차체의 내장은 탑승자가 앉는 시트와, 대시 보드와, 센터페시아와, 헤드단위 등을 포함할 수 있다.And the interior of the car body may include a seat for the occupants to sit on, a dashboard, a center fascia, a head unit, etc.
이러한 차량은 주행 방향을 조절하기 위한 조향 장치의 스티어링 휠과, 운전자의 제동 의지에 대응하여 운전자에 의해 가압되는 브레이크 페달과, 운전자의 가속 의지에 대응하여 운전자에 의해 가압되는 액셀러레이터 페달을 더 포함할 수 있다. 아울러 차량의 종류에 따라, 차량은 클러치 페달을 더 포함할 수 있다.Such a vehicle may further include a steering wheel of a steering device for controlling the driving direction, a brake pedal pressed by the driver in response to the driver's will to brake, and an accelerator pedal pressed by the driver in response to the driver's will to accelerate. You can. Additionally, depending on the type of vehicle, the vehicle may further include a clutch pedal.
차량은 제1 영상 획득부(110), 제2영상 획득부(120), 장애물 검출부(130), 주행 조작 정보 검출부(140), 제1제어부(150), 제1저장부(151), 제1통신부(160), 제1입력부(170), 제1표시부(180) 및 사운드 출력부(190)를 포함한다.The vehicle includes a first image acquisition unit 110, a second
제1영상 획득부(110)는 차량이 주행하는 도로의 영상을 획득한다. 이러한 제1영상 획득부(110)는 차량의 전방의 도로의 영상을 획득할 수 있다.The first image acquisition unit 110 acquires an image of the road on which the vehicle travels. This first image acquisition unit 110 can acquire an image of the road in front of the vehicle.
제1영상 획득부(110)는 카메라로, 통신이 가능한 이더넷 카메라일 수 있다.The first image acquisition unit 110 is a camera and may be an Ethernet camera capable of communication.
이러한 제1영상 획득부(110)는 CCD 또는 CMOS 이미지 센서를 포함할 수 있고, KINECT(RGB-D 센서), TOF(Structured Light Sensor), 스테레오 카메라(Stereo Camera) 등과 같은 3차원 공간 인식 센서를 포함할 수도 있다.This first image acquisition unit 110 may include a CCD or CMOS image sensor, and may use a 3D space recognition sensor such as KINECT (RGB-D sensor), TOF (Structured Light Sensor), stereo camera, etc. It may also be included.
제1영상 획득부(110)는 차량의 내측에 마련되되 차량의 외부를 촬영할 수 있도록 차량의 외부를 향하게 마련될 수 있다. 이러한 제1영상 획득부(110)는 프론트 윈드 실드 또는 룸미러에 마련될 수 있다.The first image acquisition unit 110 may be provided inside the vehicle but may be provided toward the outside of the vehicle to capture images of the outside of the vehicle. This first image acquisition unit 110 may be provided on the front windshield or rear-view mirror.
제1영상 획득부(110)는 차량의 외부에 노출되도록 마련될 수 있다. 이러한 제1영상 획득부(110)는 루프 패널에 마련될 수도 있다. The first image acquisition unit 110 may be provided to be exposed to the outside of the vehicle. This first image acquisition unit 110 may be provided on the roof panel.
제1영상 획득부(110)는 블랙 박스의 카메라일 수 있고, 자율 주행을 위해 마련된 자율 주행 제어 장치의 카메라일 수 있다.The first image acquisition unit 110 may be a black box camera or a camera of an autonomous driving control device provided for autonomous driving.
제1영상 획득부(110)는 자 차량의 현재 위치에서 자 차량 외부의 환경, 특히 차량이 주행하는 도로 환경을 촬영하고, 또한 자 차량의 전방의 장애물을 촬영하며 촬영된 정보를 전기적 신호로 변환하고 변환된 전기적 신호에 대응하는 영상 데이터를 획득하고 획득된 영상 데이터를 제어부(150)에 전송한다.The first image acquisition unit 110 photographs the environment outside the vehicle, especially the road environment on which the vehicle runs, at the current location of the vehicle, and also photographs obstacles in front of the vehicle, and converts the captured information into an electrical signal. Then, image data corresponding to the converted electrical signal is acquired and the obtained image data is transmitted to the
아울러, 제1영상 획득부(110)는 차량 전방의 영상을 획득하는 제1 카메라뿐만 아니라 차량 후방의 영상을 획득하는 제2 카메라와, 차량 좌우 측방의 영상을 획득하는 제3 카메라와 제4 카메라 중 적어도 하나를 더 포함하는 것도 가능하다.In addition, the first image acquisition unit 110 includes not only a first camera that acquires images of the front of the vehicle, but also a second camera that acquires images of the rear of the vehicle, and a third camera and a fourth camera that acquire images of the left and right sides of the vehicle. It is also possible to include at least one more of the following.
제2카메라는 후방 카메라일 수 있다.The second camera may be a rear camera.
이에 따라 제1영상 획득부(110)는 자 차량의 후방 및 좌우의 측방의 장애물 및 도로 환경을 촬영하고 촬영된 정보를 전기적 신호로 변환하고 변환된 전기적 신호에 대응하는 영상 데이터를 획득하고 획득된 영상 데이터를 제어부(150)에 전송할 수 있다.Accordingly, the first image acquisition unit 110 photographs obstacles and road environments at the rear and on the left and right sides of the vehicle, converts the photographed information into electrical signals, acquires image data corresponding to the converted electrical signals, and acquires image data corresponding to the converted electrical signals. Image data can be transmitted to the
제2영상 획득부(120)는 운전자의 영상을 획득한다.The second
제2영상 획득부(120)는 운전자의 영상 중 운전자의 얼굴 및 시선에 대한 영상을 획득할 수 있다. The second
제2영상 획득부(120)는 운전석뿐만 아니라, 조수석 및 후석에 대한 영상을 획득하는 것도 가능하다.The second
제2영상 획득부(120)는 카메라로, 통신이 가능한 이더넷 카메라일 수 있다.The second
제2영상 획득부(120)는 CCD 또는 CMOS 이미지 센서를 포함할 수 있다.The second
제2영상 획득부(120)는 프론트 윈드 실드 또는 룸미러에 마련되되 운전자를 향하도록 마련될 수 있다.The second
이러한 제2영상 획득부(120)는 차량 내부의 환경을 촬영하고 촬영된 정보를 전기적 신호로 변환하고 변환된 전기적 신호에 대응하는 영상 데이터를 획득하고 획득된 영상 데이터를 제어부(150)에 전송할 수 있다.This second
장애물 검출부(130)는 자 차량의 위치를 기준으로 전후좌우 방향의 장애물의 존재 여부 및 장애물의 위치를 검출한다. 여기서 위치는 거리와 방향을 포함할 수 있다.The obstacle detection unit 130 detects the presence or absence of obstacles in the forward, left, right, and left directions and the location of the obstacles based on the location of the vehicle. Here, location can include distance and direction.
좀 더 구체적으로 장애물 검출부(130)는 자 차량의 외부에 위치하는 장애물, 예를 들면 자 차량의 전방에서 주행하는 전방 차량과, 도로 주변에 설치된 구조물 등과 같은 정지물체와, 반대 차선에서 다가오는 타 차량 등을 검출한다. More specifically, the obstacle detection unit 130 detects obstacles located outside the vehicle, such as a front vehicle traveling in front of the vehicle, stationary objects such as structures installed around the road, and other vehicles approaching from the opposite lane. Detect etc.
장애물 검출부(130)는 자 차량의 전방뿐만 아니라, 후방, 좌우의 측방에 위치한 장애물을 검출할 수 있다.The obstacle detection unit 130 can detect obstacles located not only in front of the vehicle, but also behind, and on the left and right sides.
이러한 장애물 검출부(130)는 차량의 프론트 패널, 루프 패널 및 리어 패널 중 적어도 하나의 패널에 마련될 수 있다.This obstacle detection unit 130 may be provided on at least one of the front panel, roof panel, and rear panel of the vehicle.
장애물 검출부(130)는 레이더(radar) 센서 또는 라이다(Light detection and Ranging, Lidar) 센서를 포함할 수 있다.The obstacle detection unit 130 may include a radar sensor or a light detection and ranging (Lidar) sensor.
레이더(Radar) 센서는 발신 및 수신을 같은 장소에서 행할 때, 전파의 방사에 의하여 생긴 반사파를 이용하여 물체의 위치 및 거리를 검출하는 센서이다.A radar sensor is a sensor that detects the position and distance of an object using reflected waves generated by radio wave radiation when transmission and reception are performed in the same place.
라이다(LiDAR: Light Detection And Ranging)센서는 레이저 레이다(Laser Radar) 원리를 이용한 비접촉식 거리 검출 센서이다.LiDAR (Light Detection And Ranging) sensor is a non-contact distance detection sensor that uses the principle of laser radar.
이러한, 라이다 센서는 레이더(RaDAR: Radio Detecting And Ranging) 센서에 비해 횡방향에 대한 검출 정확도가 높기 때문에 전방에 통로가 존재하는지 판단하는 과정의 정확도를 높일 수 있다.Since the LiDAR sensor has higher detection accuracy in the lateral direction compared to the RaDAR (Radio Detecting And Ranging) sensor, it can increase the accuracy of the process of determining whether a passage exists ahead.
여기서 레이저는 단일레이저 펄스일 수 있다.Here, the laser may be a single laser pulse.
장애물 검출부(130)는 초음파 센서 또는 레이더 센서를 포함할 수도 있다.The obstacle detection unit 130 may include an ultrasonic sensor or a radar sensor.
초음파 센서는 초음파를 일정시간 발생시킨 뒤 물체에 반사되어 돌아오는 신호를 검출한다.An ultrasonic sensor generates ultrasonic waves for a certain period of time and then detects a signal that is reflected back from an object.
초음파 센서는 근거리 범위 내에서 보행자 등의 장애물의 유무를 판별하는데 사용될 수 있다.Ultrasonic sensors can be used to determine the presence or absence of obstacles such as pedestrians within a short range.
주행 조작 정보 검출부(140)는 운전자에 의해 조작된 조작 정보를 검출한다.The driving operation information detection unit 140 detects operation information operated by the driver.
주행 조작 정보 검출부(140)는 수동 주행 모드 시 운전자의 제동의지, 가속의지 및 조향 의지에 대응하는 조작 정보를 검출할 수 있다.The driving manipulation information detection unit 140 can detect manipulation information corresponding to the driver's intention to brake, intention to accelerate, and intention to steer in the manual driving mode.
주행 조작 정보 검출부(140)는 자율 주행 모드 중 제어권 인계에 의한 운전자의 제동의지, 가속의지 및 조향 의지에 대응하는 조작 정보를 검출할 수 있다.The driving manipulation information detection unit 140 can detect manipulation information corresponding to the driver's intention to brake, intention to accelerate, and intention to steer by handing over control during autonomous driving mode.
아울러 주행 조작 정보 검출부(140)는 자율 주행 모드 시 운전자의 주행 개입에 의한 운전자의 제동의지, 가속의지 및 조향 의지에 대응하는 조작 정보를 검출하는 것도 가능하다.In addition, the driving manipulation information detection unit 140 is also capable of detecting manipulation information corresponding to the driver's braking intention, acceleration intention, and steering intention due to the driver's driving intervention in autonomous driving mode.
주행 조작 정보 검출부(140)는 제1가압 검출부(141), 제2가압 검출부(142) 및 조향각 검출부(143)를 포함할 수 있다.The driving operation information detection unit 140 may include a first pressure detection unit 141, a second pressure detection unit 142, and a steering angle detection unit 143.
제1가압 검출부(141)는 브레이크 페달에 인가된 압력을 검출하고 검출된 압력에 대응하는 가압 정보를 출력한다.The first pressure detection unit 141 detects the pressure applied to the brake pedal and outputs pressure information corresponding to the detected pressure.
제1가압 검출부(141)는 압력 센서 및 위치 센서 중 적어도 하나를 포함할 수 있다.The first pressure detector 141 may include at least one of a pressure sensor and a position sensor.
제2가압 검출부(142)는 액셀러레이터 페달에 인가된 압력을 검출하고 검출된 압력에 대응하는 가압 정보를 출력한다.The second pressure detection unit 142 detects the pressure applied to the accelerator pedal and outputs pressure information corresponding to the detected pressure.
제2가압 검출부(142)는 압력 센서 및 위치 센서 중 적어도 하나를 포함할 수 있다.The second pressure detector 142 may include at least one of a pressure sensor and a position sensor.
조향각 검출부(143)는 차량의 주행 방향을 인식하기 위한 스티어링 휠의 조향각을 검출하고 검출된 조향각에 대응하는 조향각 정보를 출력한다.The steering angle detection unit 143 detects the steering angle of the steering wheel to recognize the driving direction of the vehicle and outputs steering angle information corresponding to the detected steering angle.
조향각 검출부(143)는 스티어링 휠의 조향 각속도를 검출하는 각속도 센서를 포함할 수 있고, 차량의 요 모멘트를 검출하는 요 레이트 센서를 포함할 수 있다.The steering angle detector 143 may include an angular velocity sensor that detects the steering angular velocity of the steering wheel and a yaw rate sensor that detects the yaw moment of the vehicle.
차량은 스티어링 휠에 인가된 조향 토크 또는 조향 장치에서 출력되는 조향 토크를 검출하는 토크 검출부(미도시)를 더 포함할 수 있다.The vehicle may further include a torque detector (not shown) that detects the steering torque applied to the steering wheel or the steering torque output from the steering device.
제1제어부(150)는 자율 주행을 제어하기 위한 자율 주행 제어 장치일 수 있다.The
제1제어부(150)가 자율 주행을 제어하기 위한 자율 주행 제어 장치일 경우, 제1제어부는 제1통신부를 통해 제1, 2 영상획득부 및 장애물 검출부와 통신을 수행할 수 있다.When the
또한 제1제어부(150)는 자율 주행을 제어하기 위한 자율 주행 제어 장치를 포함할 수도 있다.Additionally, the
제1제어부(150)는 주행 모드가 자율 주행 모드이면 현재 위치 정보와 목적지 정보를 확인하고 확인된 현재 위치 정보와 목적지 정보에 기초하여 현재 위치부터 목적지까지 경로를 생성하고 생성된 경로에 기초하여 자율 주행을 제어한다.If the driving mode is the autonomous driving mode, the
제1제어부(150)는 복수 개의 경로가 생성되면 운전자에게 선택할 것을 요청하고 운전자로부터 어느 하나의 경로의 선택 명령이 입력되면 입력된 어느 하나의 경로에 기초하여 자율 주행을 제어한다.When a plurality of paths are created, the
제1제어부(150)는 목적지까지 경로 정보의 출력을 제어하는 것도 가능하다. 즉 제1제어부(150)는 선택된 경로로 주행할 수 있도록 내비게이션 정보를 생성하고 생성된 내비게이션 정보의 출력을 제어한다.The
제1제어부(150)는 현재 위치부터 목적지까지의 경로를 지도에 매칭시켜 표시하도록 제1표시부(180)를 제어하고, 현재 위치부터 목적지까지의 길 안내 정보를 표시하도록 제1표시부(180)를 제어하며, 동시에 길 안내 정보가 사운드로 출력되도록 사운드 출력부(190)의 동작을 제어할 수 있다.The
제1제어부(150)는 장애물의 위치 정보가 표시되도록 단말기의 제1표시부(180)의 동작을 제어하는 것도 가능하다.The
즉 제1제어부(150)는 자율 주행 모드의 수행 중 제1영상 획득부(130)를 통해 획득된 자 차량의 전후좌우 방향의 영상을 표시하도록 하는 것도 가능하고, 내비게이션 모드와 연동하여 경로가 매칭된 지도 정도 및 길 안내 정보를 표시하도록 하는 것도 가능하다.That is, the
제1제어부(150)는 자율 주행 제어 시 미리 설정된 속도 또는 운전자에 의해 선택된 속도로 주행을 제어할 수 있다.When controlling autonomous driving, the
차량은 자 차량의 주행 속도를 검출하기 위한 속도 검출부(미도시)를 더 포함할 수 있다. 이러한 속도 검출부는 차량의 복수 개의 휠에 각각 마련된 복수 개의 휠 속도 센서를 포함할 수 있고, 차량의 가속도를 검출하는 가속도 센서를 포함할 수 있다.The vehicle may further include a speed detection unit (not shown) to detect the driving speed of the vehicle. This speed detection unit may include a plurality of wheel speed sensors provided on each of a plurality of wheels of the vehicle, and may include an acceleration sensor that detects acceleration of the vehicle.
즉 제1제어부(150)는 제1영상 획득부(110)에서 획득된 영상의 영상 데이터가 수신되면 수신된 영상 데이터를 영상 처리하여 도로의 차선을 인식하고 인식된 차선의 위치 정보에 기초하여 주행 차로를 인식하며 인식된 주행 차로를 따라 자율 주행하도록 제어하되, 경로에 기초하여 차량의 조향을 제어하고, 검출된 속도가 미리 설정된 속도를 추종하도록 동력 장치(미도시) 및 제동 장치(미도시)를 제어한다.That is, when the
제1제어부(150)는 자율 주행 모드이면 장애물 검출부(130)에서 검출된 장애물과의 거리 정보에 기초하여 자 차로의 좌측 방향과 우측 방향의 차로를 주행하는 타 차량 및 장애물의 위치를 확인하고, 확인된 타 차량 및 장애물의 위치에 대응하는 거리를 확인하며, 확인된 타 차량 및 장애물과의 거리에 기초하여 자 차량의 속도를 조절하는 것도 가능하다. 이를 통해 장애물과의 충돌을 방지할 수 있도록 한다.In autonomous driving mode, the
제1제어부(150)는 자율 주행 모드 시, 제1, 2 영상 획득부(110, 120)에 의해 획득된 영상 데이터의 휘도 데이터를 암호화하여 저장하는 것도 가능하다.The
제1제어부(150)는 자율 주행 모드 시, 장애물 검출부(130)에 의해 검출된 장애물의 검출 정보에 기초하여 현재 주행 상황이 사고 위험 상황인지 판단하고, 현재 주행 상황이 사고 위험 상황이라고 판단되면 제1, 2 영상 획득부(110, 120)에 의해 획득된 영상 데이터의 휘도 데이터를 암호화하여 저장하는 것도 가능하다.In the autonomous driving mode, the
좀 더 구체적으로, 제1제어부(150)는 속도 검출부(미도시)에서 검출된 검출 정보에 기초하여 자 차량의 주행 속도를 획득하고, 획득된 자 차량의 주행 속도와 장애물과의 거리에 기초하여 장애물과의 상대 거리 및 상대 속도 중 적어도 하나를 획득하고 획득된 상대 거리 및 상대 속도 중 적어도 하나에 기초하여 장애물과 충돌에 의한 사고 위험이 존재하는지 판단한다.More specifically, the
제1제어부(150)는 장애물과의 상대 거리가 기준 상대 거리 이하인 조건과, 장애물의 상대 속도가 기준 상대 속도 이상인 조건 중 적어도 하나를 만족하면 장애물과의 충돌에 의한 사고 위험이 존재한다고 판단한다.The
제1제어부(150)는 획득된 장애물과의 상대 거리 및 상대 속도에 기초하여 자 차량과 장애물과의 충돌 예상 시간(Time To Collision, TTC)을 획득하고, 획득된 충돌 예상 시간이 기준 충돌 시간 이하이면 장애물과의 충돌에 의한 사고 위험이 존재한다고 판단하는 것도 가능하다.The
제1제어부(150)는 사고 위함 상황이라고 판단되면 장애물의 검출 정보를 저장하는 것도 가능하다.The
제1제어부(150)는 사고 위험 여부를 판단할 때, 장애물과의 상대 거리에 대응하는 사고 위험도, 장애물과의 상대 속도에 대응하는 사고 위험도, 장애물과의 충돌 예상 시간에 대응하는 사고 위험도 중 적어도 하나를 확인하고, 확인된 위험도가 기준 위험도 이상이면 주행 제어권을 운전자에게 인계하는 것도 가능하다.When determining whether there is an accident risk, the
제1제어부(150)는 주행 제어권 인계 시 현재 위치부터 목적지까지의 자율 주행 제어를 정지하고 브레이크 페달, 액셀러레이터 페달 및 스티어링 휠로부터 전송된 조작 정보에 기초하여 차량의 주행을 제어한다.When handing over driving control rights, the
제1제어부(150)는 주행 제어권 인계 시 제1표시부 및 사운드 출력부 중 적어도 하나를 제어하여 주행 제어권의 인계 정보를 출력하도록 한다.When handing over driving control rights, the
제1제어부(150)는 자율 주행의 제어 중 제동력, 가속량 및 조향각을 확인하고, 확인된 제동력이 기준 제동력 이상이면 사고 위험 상황이라고 판단하고, 확인된 가속량이 기준 가속량 이상이면 사고 위험 상황이라고 판단하며, 확인된 조향각이 기준 조향각 이상이면 사고 위험 상황이라고 판단한다.The
제1제어부(150)는 차량의 현재 위치가 고속도로이면 제동력, 가속량 및 조향각을 확인하고, 확인된 제동력이 기준 제동력 이상인 조건과, 확인된 가속량이 기준 가속량 이상인 조건과, 확인된 조향각이 기준 조향각 이상인 조건 중 적어도 하나를 만족하면 사고 위험 상황이라고 판단하는 것도 가능하다.If the current location of the vehicle is a highway, the
도 2에 도시된 바와 같이, 차량에 전후좌우의 영상을 획득하는 제1, 2, 3, 4 카메라(111, 112, 113, 114)가 마련된 경우, 제1제어부(150)는 제1 영상 획득부의 제1, 2, 3, 4 카메라(111, 112, 113, 114)에서 획득된 영상을 각각 디코딩하는 디코딩부(150a)와, 디코딩된 영상 데이터에 기초하여 차선 인식 및 장애물 인식을 수행하고 인식된 차선의 정보 및 인식된 장애물의 정보에 기초하여 자율 주행을 제어하는 주행 제어부(150b)와, 제1 영상 획득부의 제1, 2, 3, 4 카메라(111, 112, 113, 114)에서 획득된 영상 데이터를 각각 암호화하고 암호화된 영상 데이터를 제1저장부(151) 및 제1통신부(160) 중 적어도 하나에 전송하는 암호화부(150c)를 포함할 수 있다.As shown in FIG. 2, when the vehicle is equipped with first, second, third, and fourth cameras (111, 112, 113, and 114) that acquire images of the front, rear, left, and right sides, the
여기서 제1 영상 획득부의 제1, 2, 3, 4 카메라(111, 112, 113, 114)는 이더넷 카메라로, 획득된 영상 데이터를 암호화하여 제1제어부(150)의 디코딩부(150a)에 전송할 수 있다.Here, the first, second, third, and fourth cameras (111, 112, 113, and 114) of the first image acquisition unit are Ethernet cameras, and the acquired image data is encrypted and transmitted to the decoding unit (150a) of the first control unit (150). You can.
제1, 2, 3, 4 카메라(111, 112, 113, 114)는 영상 데이터 패킷을 송신할 때, 전송할 영상 데이터에 관한 정보를 추상화하는 네트워크 추상화 레이어(NAL) 정보를 생성하고 네트워크 추상화 레이어 정보를 포함하는 영상 데이터의 패킷을 생성하며 생성된 영상 데이터의 패킷을 네트워크 통신을 통해 송신한다.When transmitting an image data packet, the first, second, third, and fourth cameras (111, 112, 113, and 114) generate network abstraction layer (NAL) information that abstracts information about the image data to be transmitted, and network abstraction layer information A packet of video data including is generated and the generated video data packet is transmitted through network communication.
즉 1, 2, 3, 4 카메라(111, 112, 113, 114)는 네트워크 추상화 레이어(NAL: Network Abstraction Layer) 단위(Unit)로 알려진 패킷으로 전송함으로써 효율적으로 영상을 전송할 수 있다. That is, cameras 1, 2, 3, and 4 (111, 112, 113, and 114) can efficiently transmit images by transmitting packets known as Network Abstraction Layer (NAL) units.
제1제어부에 수신된 영상 데이터는, 네트워크 추상화 레이어(NAL: Network Abstraction Layer) 단위들로 이루어진 스트림일 수 있다.The image data received by the first control unit may be a stream composed of Network Abstraction Layer (NAL) units.
이에 따라 제1제어부(150)의 디코딩부(150a)는 수신된 영상 데이터를 자율 주행을 위해 차량에서 인식 가능한 데이터의 형식으로 디코딩할 수 있다. Accordingly, the
여기서 동일 시점에 60초 동안 획득되어 디코딩부에서 디코딩된 4개의 영상 데이터는, 1Mpixel x 1.5Bytes x 3fps x 60s x 4ch = 1080MBps 의 양을 가질 수 있다.Here, the four video data acquired for 60 seconds at the same time and decoded by the decoder may have an amount of 1Mpixel x 1.5Bytes x 3fps x 60s x 4ch = 1080MBps.
제1제어부(150)의 주행 제어부(150b)는 디코딩된 제1, 2, 3, 4 카메라의 영상 데이터를 각각 수신하고 각각 수신된 영상 데이터의 신호 처리를 수행하되 신호 처리의 속도를 향상시키기 위하여 사이즈와 포맷을 변경하고, 화질 개선 작업을 수행하고 클리어링 처리 및 노이즈 제거 처리를 수행할 수 있다. 이러한 신호 처리 등은 디코딩부에서 수행하는 것도 가능하다.The driving
주행 제어부(150b)는 영상 데이터에서 물체를 분해하는 비전기술들을 적용하여 영상 데이터로부터 차선을 인식하고, 물체들에서 장애물을 인식한다.The driving
주행 제어부(150b)는 영상 데이터에 기초하여 장애물의 크기와 위치를 식별하고 장애물의 위치 및 궤적을 계산하여 장애물이 자전거, 보행자, 표지판, 신호등 및 타 차량인지 구별하는 것도 가능하다. The driving
주행 제어부(150b)는 장애물 검출부(130)에 의해 검출된 점 데이터를 군집화하여 장애물의 형상 정보 및 위치 정보를 인식하고 장애물의 형상 정보에 기초하여 장애물의 타입을 구별하는 것도 가능하다.The driving
즉 주행 제어부(150b)는 자 차량과 장애물 간의 방향, 거리 및 점의 양으로부터의 장애물의 형상 정보 및 위치 정보를 인식할 수 있다.That is, the driving
주행 제어부(150b)는 제1영상획득부(110)에서 획득된 영상 정보와 장애물 검출부(130)에서 검출된 검출 정보 중 적어도 하나에 기초하여 적어도 하나의 장애물의 위치 정보를 획득하고, 획득된 적어도 하나의 장애물의 위치 정보에 기초하여 충돌 위험이 있는 장애물에 대한 장애물의 위치 정보를 획득할 수 있다.The driving
주행 제어부(150b)는 장애물의 위치 정보에 기초하여 제동이 필요한 상황인지, 가속이 필요한 상황인지, 조향이 필요한 상황인지를 인식하고 인식된 필요 상황에 기초하여 제동, 가속 및 조향 중 적어도 하나를 제어한다.The driving
주행 제어부(150b)는 충돌에 의한 사고 위험이 존재한다고 판단되면 암호화된 영상 데이터를 저장하도록 제1저장부의 동작을 제어할 수 있다.If it is determined that there is a risk of an accident due to collision, the driving
제1제어부(150)의 주행 제어부는 사고 위험에 대응하는 신호를 암호화부에 전송하는 것도 가능하다.The driving control unit of the
제1제어부(150)의 주행 제어부는 사고 위험 방향에 대응하는 신호를 암호화부에 전송하는 것도 가능하다. The driving control unit of the
암호화부(150c)는 제1, 2, 3, 4 카메라(111, 112, 113, 114)에서 전송한 네트워크 추상화 레이어 단위(unit)의 영상 데이터를 암호화한다.The
도 3에 도시된 바와 같이, 네트워크 추상화 레이어(NAL: Network Abstraction Layer)은 네트워크 추상화 레이어 단위(unit)와 페이로드(Payloads)를 포함할 수 있다.As shown in FIG. 3, a network abstraction layer (NAL) may include a network abstraction layer unit and payloads.
여기서 페이로드(Payloads)에는 로 바이트 시퀀스 페이로드(RBSP: Raw Byte Sequence Payload)가 위치할 수 있고, 로 바이트 시퀀스 페이로드(RBSP)에는 시퀀스 파라미터 셋(SPS: Sequence Parameter Set), 픽쳐 파라미터 셋(PPS: Picture Parameter Set) 등의 정보를 알려주는 파라미터 셋과, 비디오 코딩 레이어(VCL: Video Coding Layer)에 해당하는 복수 개의 슬라이스(Slice)가 포함될 수 있다.Here, a raw byte sequence payload (RBSP) may be located in the payload, and the raw byte sequence payload (RBSP) may include a sequence parameter set (SPS: Sequence Parameter Set) and a picture parameter set ( A parameter set that provides information such as PPS (Picture Parameter Set) and a plurality of slices corresponding to a video coding layer (VCL: Video Coding Layer) may be included.
비디오 코딩 레이어(VCL)는 네트워크 추상화 레이어 단위(NAL Unit)을 통해 외부와 인터페이스를 수행할 수 있다.The video coding layer (VCL) can interface with the outside through a network abstraction layer unit (NAL Unit).
복수 개의 슬라이스는 영상 시퀀스의 선두 픽쳐인 IDR(Instantaneous Decoding Refresh)슬라이스와, 비 아이디알(non- IDR) 슬라이스로 이루어진다.The plurality of slices consists of an Instantaneous Decoding Refresh (IDR) slice, which is the leading picture of the video sequence, and a non-IDR slice.
각 슬라이스는 헤더와 데이터를 포함하는 슬라이스 레이어로 이루어질 수 있고, 슬라이스 레이어에서의 데이터는 복수 개의 매크로 블록(Macroblock)로 이루어진 매크로 블록 레이어를 포함할 수 있다.Each slice may be comprised of a slice layer including a header and data, and data in the slice layer may include a macroblock layer comprised of a plurality of macroblocks.
여기서 매크로 블록 레이어는 네트워크 추상화 레이어를 구성하는 최소의 단위로 H.264에서 영상의 기본 단위일 수 있다.Here, the macro block layer is the minimum unit that constitutes the network abstraction layer and may be the basic unit of video in H.264.
매크로 블록 레이어의 각 매크로 블록은 움직임 보상 및 움직임 예측을 위해 여러 화소 블록들을 그룹화시킨 예측 단위로, 타입(Type), 예측 타입(Prediction Type), 코딩된 픽쳐 버퍼(CPB: coded picture buffer), 양자화 파라미터(QP: quantization parameter), 데이터(DATA)를 포함한다. 여기서 매크로 블록의 데이터는 휘도 데이터(Y)와 색차 데이터(Cr, Cb)를 포함한다.Each macroblock in the macroblock layer is a prediction unit that groups several pixel blocks for motion compensation and motion prediction, and includes Type, Prediction Type, Coded Picture Buffer (CPB), and Quantization. Includes parameters (QP: quantization parameter) and data (DATA). Here, the data of the macro block includes luminance data (Y) and color difference data (Cr, Cb).
여기서 휘도 데이터는 4X4, 16X16의 화소 블록을 가질 수 있고, 색차 데이터는 8X8 화소 블록을 가질 수 있다.Here, luminance data may have 4X4 or 16X16 pixel blocks, and chrominance data may have 8X8 pixel blocks.
각 매크로블록은 모두 서로 다른 암호화 방식을 사용할 수 있으며, 암호화 방식에는 DES(Data Encryption standard), 3DES(Triple Data Encryption standard), AES(Advanced Encryption Standard), 아리아(ARIA: Academy Research Institute Agency), 시드(SEED), HEIGHT(HIGh security and light weight) 등이 있다.Each macroblock can use a different encryption method, and the encryption methods include DES (Data Encryption standard), 3DES (Triple Data Encryption standard), AES (Advanced Encryption Standard), ARIA (Academy Research Institute Agency), and seed. (SEED), HEIGHT (HIGh security and light weight), etc.
즉, 암호화가 매크로블록 단위로 이루어질 수 있다.That is, encryption can be done on a macroblock basis.
이러한 H.264의 모든 데이터는 각각의 네트워크 추상화 레이어 단위(NAL Unit)으로 구성되어지며 각각의 네트워크 추상화 레이어(NAL)는 고유의 일련번호를 가질 수 있다.All data in H.264 is composed of each network abstraction layer unit (NAL Unit), and each network abstraction layer (NAL) can have a unique serial number.
도 4에 도시된 바와 같이, 제1제어부의 암호화부(150c)에 수신된 영상데이터는 색차와 휘도에 의해 서로 다른 크기(MB1, MB2, MB3)의 매크로 블록으로 분할되어 있을 수 있다.As shown in FIG. 4, the image data received by the
또한 제1제어부의 암호화부(150c)는 수신된 영상데이터의 장애물 인식을 통해 관심 영역(ROI: Region Of Interest)을 획득할 수 있다. 관심 영역에 대한 정보는 주행 제어부(150b)로부터 제공받는 것도 가능하다.Additionally, the
암호화부(150c)는 제1, 2, 3, 4 카메라에 의해 획득된 영상 데이터가 각각 수신되면 각각 수신된 영상 데이터에서 매크로 블록별 휘도 데이터를 확인하고 확인된 매크로 블록별 휘도 데이터만을 각각 암호화하고 매크로 블록별로 휘도 데이터만이 암호화된 영상 데이터를 제1저장부에 각각 저장한다.When the image data acquired by the first, second, third, and fourth cameras are respectively received, the
암호화부(150c)는 차량의 주행 상황이 사고 위험 상황이 아니면 암호화된 영상 데이터를 제1저장부의 제1메모리(151a)에 저장하고, 차량의 주행 상황이 사고 위험 상황이면 암호화된 영상 데이터를 제1저장부의 제2메모리(151b)에 저장하며 암호화된 영상 데이터가 서버(200)에 전송되도록 제1통신부(160)를 제어한다.The
암호화부(150c)는 사고 위험 상황에 대응하는 저장 명령을 주행 제어부로부터 수신하는 것도 가능하다.The
암호화부(150c)는 제2영상 획득부(120)에서 획득된 영상 데이터를 암호화하는 것도 가능하다. 이때에도 제2영상 획득부(120)에서 획득된 영상 데이터의 매크로 블록별 휘도 데이터만을 암호화하는 것도 가능하다.The
암호화부(150c)는 제1영상 획득부와 제2영상 획득부에서 획득된 영상 데이터를 서로 다른 방식으로 암호화하는 것도 가능하다.The
암호화부(150c)는 영상 데이터에서 관심 영역을 확인하고, 확인된 관심 영역 내의 매크로 블록 중 미리 설정된 크기보다 작은 매크로 블록을 확인하고 확인된 매크로 블록의 휘도 데이터를 암호화한다.The
암호화부(150c)는 영상 데이터에서 관심 영역을 확인하고, 확인된 관심 영역의 휘도 데이터를 암호화하는 것도 가능하다.The
암호화부(150c)는 영상 데이터의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록을 확인하고 확인된 매크로 블록의 휘도 데이터를 암호화하는 것도 가능하다.The
제1제어부(150)는 사고 위험 상황이라고 판단되면 사고 위험 상황이 발생한 방향을 확인하고 확인된 방향에 대응하는 적어도 하나의 카메라의 영상 데이터의 암호화를 제어하는 것도 가능하다. If it is determined that there is an accident risk situation, the
예를 들어, 제1제어부(150)는 사고 위험 상황의 발생 방향이 전방이면 제1카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 전방과 인접한 방향의 제3, 4카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.For example, if the direction in which an accident risk situation occurs is the front, the
제1제어부(150)는 사고 위험 상황의 발생 방향이 후방이면 제2카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 후방과 인접한 방향의 제3, 4카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is from the rear, the
제1제어부(150)는 사고 위험 상황의 발생 방향이 우측방향이면 제4카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 우측방향과 인접한 방향의 제1, 2카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is to the right, the
제1제어부(150)는 사고 위험 상황의 발생 방향이 좌측방향이면 제3카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하는 것도 가능하고, 좌측방향과 인접한 방향의 제1, 2카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is toward the left, the
제1제어부(150)는 제2영상 획득부에서 획득된 영상 데이터는 모두 암호화하여 저장할 수 있다.The
제1제어부(150)는 사고 위험도가 기준 위험도 이상이면 2차 사고의 위험이 존재한다고 판단하여 제1, 2, 3, 4 카메라에서 획득된 영상 데이터의 휘도 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the accident risk is higher than the standard risk, the
제1제어부(150)는 복수 개의 휠 속도의 차이에 기초하여 차체의 회전이 발생하였는지 판단하고 차체의 회전이 발생하였다고 판단되면 제1, 2, 3, 4 카메라에서 획득된 영상 데이터의 휘도 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.The
제1제어부(150)는 요레이트 검출부(미도시)에서 검출된 정보에 기초하여 차체의 회전이 발생하였는지 판단하는 것도 가능하다.The
제1제어부(150)는 충돌 발생 시 전체적인 상황을 파악할 수 있도록 제1, 2, 3, 4 카메라에서 획득된 영상 데이터의 휘도 데이터를 암호화하는 것도 가능하다.The
제1제어부(150)는 사고 위험 상황이라고 판단되면 장애물 검출부에 의해 검출된 장애물 정보를 제1저장부의 제2메모리에 저장하는 것도 가능하고, 서버에 전송되도록 제1통신부를 제어하는 것도 가능하다.If it is determined that there is an accident risk situation, the
제1제어부(150)는 수동 주행 모드 시에도 사고 위험 상황이라고 판단되면 사고의 발생 원인을 파악하기 위해 제1, 2 영상 획득부에 의해 획득된 영상 데이터의 휘도 데이터만을 암호화하여 저장하는 것도 가능하다.Even in manual driving mode, if the
제1제어부(150)는 주행 모드가 수동 주행 모드이면, 브레이크 페달, 액셀러레이터 페달 및 스티어링 휠의 조작정보에 기초하여 차량의 주행 방향 및 차량의 주행 속도를 조절하면서 주행할 수 있도록 한다.When the driving mode is a manual driving mode, the
즉 제1제어부(150)는 수동 주행 모드의 수행 시에, 제1가압 검출부(141)에서 검출된 압력 정보에 기초하여 차량의 제동 및 감속을 제어하고, 제2가압 검출부(142)에서 검출된 압력 정보에 기초하여 차량의 가속을 제어하며, 조향각 검출부(143)에서 검출된 조향각 정보에 기초하여 차량의 주행 방향을 제어한다.That is, when performing the manual driving mode, the
제1제어부(150)는 영상의 암호화 및 디코딩을 제어하기 위한 알고리즘 또는 알고리즘을 재현한 프로그램에 대한 데이터를 저장하는 메모리(미도시), 및 메모리에 저장된 데이터를 이용하여 전술한 동작을 수행하는 프로세서(미도시)를 포함할 수 있다.The
제1제어부(150)는 차량의 자율 주행 및 수동 주행 중 적어도 하나를 제어하는 전자 제어 단위(ECU)일 수 있고, 마이컴, CPU, 프로세서 중 어느 하나일 수 있다.The
제1제어부(150)는 차량 내 구성부들의 동작을 제어하기 위한 알고리즘 또는 알고리즘을 재현한 프로그램에 대한 데이터를 저장하는 메모리(미도시), 및 메모리에 저장된 데이터를 이용하여 전술한 동작을 수행하는 프로세서(미도시)로 구현될 수 있다. 이때, 메모리와 프로세서는 각각 별개의 칩으로 구현될 수 있다. 또는, 메모리와 프로세서는 단일 칩으로 구현될 수도 있다.The
제1저장부(151)는 제1메모리(151a)와 제2메모리(151b)를 포함할 수 있다.The
제1메모리(151a)는 휘발성 메모리이고, 제2메모리(151b)는 비휘발성 메모리일 수 있다.The
제1메모리(151a)는 자율 주행 중에 암호화된 영상 데이터를 저장하고, 제2메모리(151b)는 사고 위험 상황 시에 암호화된 영상 데이터를 저장할 수 있다.The
제2메모리(151b)는 사고 위험 상황 시에 장애물 검출 정보를 더 저장할 수 있고, 날짜 및 시간 정보 및 위치 정보를 더 저장할 수 있다.The second memory 151b can further store obstacle detection information in case of an accident risk situation, and can further store date and time information and location information.
휘발성 메모리는 S램(S-RAM), D랩(D-RAM) 중 적어도 하나를 포함할 수 있다.Volatile memory may include at least one of S-RAM and D-RAM.
비휘발성 메모리는 플래시 메모리, 롬(Read Only Memory), 이피롬(Erasable Programmable Read Only Memory: EPROM), 이이피롬(Electrically Erasable Programmable Read Only Memory: EEPROM) 중 적어도 하나를 포함할 수 있다.The non-volatile memory may include at least one of flash memory, read only memory (ROM), erasable programmable read only memory (EPROM), and electrically erasable programmable read only memory (EEPROM).
비휘발성 메모리는 PROM, EAROM, FeRAM, MRAM, PRAM, SONOS, RRAM, NRAM를 더 포함할 수 있다.Non-volatile memory may further include PROM, EAROM, FeRAM, MRAM, PRAM, SONOS, RRAM, and NRAM.
제1저장부(151)는 하드디스크 드라이브(HDD, Hard Disk Drive), CD-ROM과 같은 저장 매체 중 적어도 하나로 구현될 수 있으나 이에 한정되지는 않는다.The
제1저장부(151)는 미리 설정된 크기를 저장하는 것도 가능하다.The
제1저장부(151)는 사고 위험 상황을 판단하기 위한 장애물과의 기준 상대 거리, 기준 상대 속도, 기준 충돌 예상 시간 중 적어도 하나를 저장할 수 있다.The
제1저장부(151)는 장애물과의 상대 거리에 대응하는 사고 위험도, 장애물과의 상대 속도에 대응하는 사고 위험도, 충돌 예상 시간에 대응하는 사고 위험도를 더 저장할 수 있다.The
제1저장부(151)는 제1제어부(150)와 일체로 마련되는 것도 가능하다.The
제1저장부(151)는 제1제어부(150)와 관련된 프로세서와 별개의 칩으로 구현된 메모리일 수 있고, 프로세서와 단일 칩으로 구현된 메모리일 수도 있다. The
제1통신부(160)는 안테나를 포함할 수 있다.The
제1 통신부(160)는 안테나를 통해 인프라와 통신을 수행하며, 인프라를 통해 서버(200)에서 전송한 정보를 수신할 수 있다. 즉 제1통신부(160)은 도로의 인프라를 통해 서버(200)와 통신을 수행할 수 있다. The
제1통신부(160)는 서버(200), 인프라 및 타 차량과 통신을 수행한다.The
제1통신부(160)는 제1제어부(150)의 제어 신호를 서버(200)에 전송하고 서버(200)에서 전송된 각종 정보를 제1제어부(150)에 전송한다.The
제1통신부(160)는 사고 위험 상황에 대응하는 각종 정보를 서버(200)에 전송한다. 여기서 각종 정보는 사고 위험 상황에 획득된 제1 영상 획득부의 영상 데이터, 제2영상획득부의 영상 데이터를 포함할 수 있고, 주행 조작 정보를 더 포함할 수 있다.The
여기서 각종 정보는 운전자의 식별 정보, 차량의 식별 정보, 장애물의 검출 정보 및 차량의 위치 정보 등을 더 포함할 수 있다. Here, various types of information may further include driver identification information, vehicle identification information, obstacle detection information, and vehicle location information.
제1통신부(160)는 사고 위험 상황에 대응하는 영상 데이터 중 휘도 데이터가 암호화된 데이터를 서버(200)에 전송할 수 있다. The
제1통신부(160)는 자율 주행 모드의 수행 시 타 차량과 통신을 수행하는 것도 가능하다. 이를 통해 제1통신부(160)는 타 차량으로부터 주변의 도로의 정보를 수신할 수 있다.The
제1통신부(160)는 서버(200), 인프라 및 타 차량과 통신을 가능하게 하는 하나 이상의 구성 요소를 포함할 수 있으며, 예를 들어 근거리 통신 모듈, 유선 통신 모듈 및 무선 통신 모듈 중 적어도 하나를 포함할 수 있다.The
근거리 통신 모듈은 블루투스 모듈, 적외선 통신 모듈, RFID(Radio Frequency Identification) 통신 모듈, WLAN(Wireless Local Access Network) 통신 모듈, NFC 통신 모듈, 직비(Zigbee) 통신 모듈 등 근거리에서 무선 통신망을 이용하여 신호를 송수신하는 다양한 근거리 통신 모듈을 포함할 수 있다.The short-range communication module transmits signals using a wireless communication network at a short distance, such as a Bluetooth module, infrared communication module, RFID (Radio Frequency Identification) communication module, WLAN (Wireless Local Access Network) communication module, NFC communication module, and Zigbee communication module. It may include various short-range communication modules that transmit and receive.
유선 통신 모듈은 캔(Controller Area Network; CAN) 통신 모듈, 지역 통신(Local Area Network; LAN) 모듈, 광역 통신(Wide Area Network; WAN) 모듈 또는 부가가치 통신(Value Added Network; VAN) 모듈 등 다양한 유선 통신 모듈뿐만 아니라, USB(Universal Serial Bus), HDMI(High Definition Multimedia Interface), DVI(Digital Visual Interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 다양한 케이블 통신 모듈을 포함할 수 있다. Wired communication modules include a variety of wired communication modules, such as Controller Area Network (CAN) communication modules, Local Area Network (LAN) modules, Wide Area Network (WAN) modules, or Value Added Network (VAN) modules. In addition to communication modules, various cable communications such as USB (Universal Serial Bus), HDMI (High Definition Multimedia Interface), DVI (Digital Visual Interface), RS-232 (recommended standard232), power line communication, or POTS (plain old telephone service) Can contain modules.
유선 통신 모듈은 LIN(Local Interconnect Network)를 더 포함할 수 있다.The wired communication module may further include a Local Interconnect Network (LIN).
무선 통신 모듈은 와이파이(Wifi) 모듈, 와이브로(Wireless broadband) 모듈 외에도, GSM(global System for Mobile Communication), CDMA(Code Division Multiple Access), WCDMA(Wideband Code Division Multiple Access), UMTS(universal mobile telecommunications system), TDMA(Time Division Multiple Access), LTE(Long Term Evolution) 등 다양한 무선 통신 방식을 지원하는 무선 통신 모듈을 포함할 수 있다.In addition to Wi-Fi modules and WiBro (Wireless broadband) modules, wireless communication modules include GSM (global System for Mobile Communication), CDMA (Code Division Multiple Access), WCDMA (Wideband Code Division Multiple Access), and UMTS (universal mobile telecommunications system). ), TDMA (Time Division Multiple Access), and LTE (Long Term Evolution) may include a wireless communication module that supports various wireless communication methods.
제1통신부(160)는 차량의 현재 위치에 대응하는 위치 정보를 수신하기 위한 위치 수신부(미도시)를 더 포함할 수 있다.The
위치 수신부는 GPS(Global Positioning System) 수신기를 포함할 수 있다.The location receiver may include a Global Positioning System (GPS) receiver.
여기서 GPS(Global Positioning System) 수신기는 복수의 GPS 위성의 신호를 수신하는 안테나 모듈 및 신호 처리부를 포함한다. Here, the GPS (Global Positioning System) receiver includes an antenna module and a signal processing unit that receives signals from a plurality of GPS satellites.
안테나 모듈은 차량의 외장에 마련된 안테나에 마련될 수 있다.The antenna module may be installed on an antenna provided on the exterior of the vehicle.
신호 처리부는 복수의 GPS위성의 위치 신호에 대응하는 거리 및 시간 정보를 이용하여 현재의 위치를 획득하는 소프트웨어와, 획득된 차량의 위치 정보를 출력하는 출력부를 포함한다.The signal processing unit includes software that acquires the current location using distance and time information corresponding to the location signals of a plurality of GPS satellites, and an output unit that outputs the obtained location information of the vehicle.
제1입력부(170)는 차랑의 각종 기능의 동작 명령을 입력받는다.The first input unit 170 receives operation commands for various functions of the vehicle.
예를 들어, 입력부(170)는 주행 모드 중 수동 주행 모드와 자율 주행 모드를 입력받을 수 있고, 목적지 정보 및 경로 정보를 입력받을 수 있다.For example, the input unit 170 can receive manual driving mode and autonomous driving mode among driving modes, and can receive destination information and route information.
제1입력부(170)는 사고 위험 발생 시에 획득한 영상 데이터의 저장 명령 및 전송 명령 중 적어도 하나를 입력받는 것도 가능하다. The first input unit 170 is also capable of receiving at least one of a storage command and a transmission command of image data obtained when an accident risk occurs.
제1입력부(170)는 헤드 단위 및 센터페시아에 마련될 수 있고, 각종 기능의 동작 온 오프 버튼, 각종 기능의 설정값을 변경하기 위한 버튼 등과 같은 적어도 하나의 물리적인 버튼을 포함할 수 있다. The first input unit 170 may be provided on the head unit and the center fascia, and may include at least one physical button, such as an on/off button for operating various functions and a button for changing the setting values of various functions.
제1입력부(170)는 차량용 단말기(114)의 표시부에 표시된 커서의 이동 명령 및 선택 명령 등을 입력하기 위한 조그 다이얼(미도시) 또는 터치 패드(미도시)를 더 포함하는 것도 가능하다. The first input unit 170 may further include a jog dial (not shown) or a touch pad (not shown) for inputting movement commands and selection commands of the cursor displayed on the display unit of the
여기서 조그 다이얼 또는 터치 패드는 센터페시아 등에 마련될 수 있다.Here, the jog dial or touch pad may be provided on the center fascia, etc.
제1표시부(180)는 차량에서 수행 중인 기능에 대한 정보, 사용자에 의해 입력된 정보, 장애물 검출에 대한 정보, 충돌 안내 정보를 표시한다.The first display unit 180 displays information about functions being performed in the vehicle, information input by the user, information about obstacle detection, and collision guidance information.
제1표시부(180)는 차량의 주행 모드인 수동 주행 모드 또는 자율 주행 모드를 표시할 수 있다.The first display unit 180 may display the vehicle's driving mode, which is a manual driving mode or an autonomous driving mode.
제1표시부(180)는 자율 주행 모드 중 차량의 제어권의 인계 알림에 대한 정보를 영상으로 표시하는 것도 가능하다.The first display unit 180 is also capable of displaying information about the transfer of vehicle control rights during autonomous driving mode as an image.
제1표시부(180)는 차량의 헤드 단위에 마련될 수 있다.The first display unit 180 may be provided in the head unit of the vehicle.
제1표시부(180)는 사이드 미러에 마련된 표시등, 클러스터에 마련된 표시등, 차체의 내장에 마련된 표시등 중 적어도 하나를 더 포함할 수 있다.The first display unit 180 may further include at least one of an indicator light provided in the side mirror, an indicator lamp provided in the cluster, and an indicator lamp provided in the interior of the vehicle body.
차량의 제1입력부(170)와 제1표시부(180)는 단말기로 구현될 수 있다.The first input unit 170 and the first display unit 180 of the vehicle may be implemented as a terminal.
즉 차량은 사용자의 사용 편의를 위한 차량용 단말기를 더 포함할 수 있다.That is, the vehicle may further include a vehicle terminal for user convenience.
차량용 단말기는 오디오 기능, 비디오 기능, 내비게이션 기능을 수행하는 오디오 비디오 내비게이션 장치(AVN)일 수 있다. 아울러 차량용 단말기는 방송 기능(DMB 기능) 및 라디오 기능 중 적어도 하나를 더 수행할 수 있다.The vehicle terminal may be an audio video navigation device (AVN) that performs audio functions, video functions, and navigation functions. In addition, the vehicle terminal can further perform at least one of a broadcast function (DMB function) and a radio function.
이러한 차량용 단말기는 사용자에 의해 선택된 적어도 하나의 기능에 대한 영상을 표시할 수 있다. 아울러 차량용 단말기는 자율 주행 모드 시 전후좌우 방향의 영상을 표시하는 것도 가능하고 장애물의 위치를 표시하는 것도 가능하다.Such a vehicle terminal can display an image for at least one function selected by the user. In addition, the vehicle terminal can display images in the front, rear, left, and right directions and display the location of obstacles in autonomous driving mode.
차량용 단말기는 스크린의 화면 색, 문자, 이모티콘 등을 이용하여 충돌 정보로 표시할 수 있다. The vehicle terminal can display collision information using screen color, text, emoticons, etc.
차량용 단말기는 내비게이션 기능이 선택되면 차량의 현재 위치부터 일정 범위 내의 지도 영상을 표시하고, 목적지가 입력되면 현재 위치부터 목적지까지의 경로 정보가 매치된 지도 정보를 표시한다.When the navigation function is selected, the vehicle terminal displays a map image within a certain range from the current location of the vehicle, and when a destination is entered, it displays map information matching the route information from the current location to the destination.
이러한 차량용 단말기는 대시 보드 상에 매립식 또는 거치식으로 설치될 수 있다. These vehicle terminals can be installed in a buried or stationary manner on the dashboard.
사운드 출력부(190)는 차량에서 수행 중인 기능에 대응하는 사운드를 출력한다.The sound output unit 190 outputs sound corresponding to the function being performed in the vehicle.
사운드 출력부(190)는 장애물과의 충돌을 경고하고, 운전자의 졸음에 대한 위험을 경고하며, 페달 오조작에 대한 위험을 경고하기 위한 경고 정보를 출력한다. The sound output unit 190 outputs warning information to warn of a collision with an obstacle, to warn of the risk of driver drowsiness, and to warn of the risk of erroneous pedal operation.
사운드 출력부(190)는 자율 주행 모드 중 차량의 제어권의 인계 알림을 사운드로 출력하는 것도 가능하다.The sound output unit 190 is also capable of outputting a notification of handing over control of the vehicle as sound during autonomous driving mode.
이러한 사운드 출력부(190)는 경고음, 안내음 등과 같은 소리를 출력하는 스피커를 포함할 수 있다.This sound output unit 190 may include a speaker that outputs sounds such as warning sounds and guidance sounds.
도 5는 실시 예에 따른 차량의 제어 방법의 순서도이다.5 is a flowchart of a vehicle control method according to an embodiment.
차량(100)은 시동이 온되고 자율 주행 모드가 선택(301)되면 위치 수신부에 수신된 차량의 현재 위치 정보를 확인하고, 차량의 현재 위치 정보에 기초하여 현재 위치가 매치된 지도를 제1표시부를 통해 표시하도록 한다.When the vehicle 100 is started and the autonomous driving mode is selected (301), the vehicle 100 checks the current location information of the vehicle received in the location receiver, and displays a map matching the current location based on the current location information of the vehicle on the first display unit. It should be displayed through .
차량(100)은 목적지 정보가 입력되면 현재 위치 정보와 목적지 정보를 확인하고 확인된 목적지의 정보와 현재 위치 정보에 기초하여 현재 위치에서 목적지까지 경로 정보를 탐색하고 탐색된 경로 정보와 지도 정보에 기초하여 지도에 경로가 매칭된 내비게이션 정보를 제1표시부를 통해 표시한다. When destination information is input, the vehicle 100 checks the current location information and destination information, searches for route information from the current location to the destination based on the confirmed destination information and current location information, and based on the searched route information and map information. Thus, navigation information matching the route on the map is displayed through the first display unit.
차량은 제1영상 획득부(110), 장애물 검출부(130)를 활성화시키고, 자율 주행 중 제1영상 획득부(110)를 통해 차량의 외부의 영상을 획득(302)하고, 제1영상 획득부에서 획득된 영상의 디코딩을 수행(303)하며, 장애물 검출부에 의해 검출된 장애물의 검출 정보에 기초하여 차량 주변의 장애물을 인식한다.The vehicle activates the first image acquisition unit 110 and the obstacle detection unit 130, acquires an image of the exterior of the vehicle through the first image acquisition unit 110 during autonomous driving (302), and The image acquired is decoded (303), and obstacles around the vehicle are recognized based on the obstacle detection information detected by the obstacle detection unit.
차량은 디코딩된 영상 데이터의 사이즈와 포맷을 변경하고, 화질 개선 작업을 수행할 수 있다. 또한 차량은 영상 처리된 영상 데이터에 대한 클리어링 처리 및 노이즈 제거 처리를 수행할 수 있다. The vehicle can change the size and format of the decoded video data and perform image quality improvement tasks. Additionally, the vehicle can perform clearing processing and noise removal processing on image-processed image data.
다음 차량은 물체를 인식하는 비전기술들을 적용하여 영상 데이터에서 장애물을 인식한다.The next vehicle uses vision technologies that recognize objects to recognize obstacles in image data.
차량은 장애물 인식 시 장애물의 크기와 위치 정보를 획득하고 획득된 장애물의 위치 정보 및 크기 정보에 기초하여 장애물이 자전거, 보행자, 표지판, 신호등, 벽, 가드레일, 가로수, 가로등 및 타 차량 등과 같은 장애물의 타입을 인식하는 것도 가능하다. When recognizing an obstacle, the vehicle acquires the size and location information of the obstacle, and based on the obtained location information and size information, the obstacle is a bicycle, pedestrian, sign, traffic light, wall, guardrail, street tree, streetlight, and other vehicles. It is also possible to recognize the type of .
차량은 영상 데이터에서 차선을 인식하고 인식된 차선에 기초하여 자 차량이 주행하는 자 차로를 인식하며, 인식된 차로를 기준으로 자 차량의 전방, 좌우, 후방의 장애물의 위치 정보를 획득하는 것도 가능하다.The vehicle recognizes the lane in the image data and recognizes the lane in which the vehicle is traveling based on the recognized lane. It is also possible to obtain location information of obstacles in front, left, and rear of the vehicle based on the recognized lane. do.
차량(100)은 장애물 검출부(130)에서 검출된 검출 정보에 기초하여 자 차량의 주변, 즉 전방 및 좌우 측방을 스캔하여 장애물을 검출한다. 아울러 차량은 후방을 스캔하여 장애물을 검출하는 것도 가능하다. The vehicle 100 detects obstacles by scanning the surroundings of the vehicle, that is, the front and left and right sides, based on the detection information detected by the obstacle detection unit 130. In addition, the vehicle can also detect obstacles by scanning the rear.
즉 차량(100)은 자율 주행 중 제1영상 획득부(110)에서 획득된 영상 데이터 및 장애물 검출부(130)에서 검출된 검출 정보에 기초하여 주행 상황을 인식하면서 자율 주행을 제어(304)한다.That is, the vehicle 100 controls autonomous driving (304) while recognizing the driving situation based on image data acquired by the first image acquisition unit 110 and detection information detected by the obstacle detection unit 130 during autonomous driving.
차량은 자율 주행 중 제1영상 획득부에 의해 획득된 영상 데이터와, 제2영상 획득부에 의해 획득된 영상 데이터를 각각 암호화(305)하고, 암호화된 각각으 영상 데이터를 제1저장부의 제1메모리에 저장한다.During autonomous driving, the vehicle encrypts (305) the image data acquired by the first image acquisition unit and the image data acquired by the second image acquisition unit, and stores each of the encrypted image data in the first storage unit. Save to memory.
차량은 자율 주행 중 장애물과의 충돌, 차량의 미끄러짐, 차량의 급가속, 급감속 및 급조향 또는 차량의 고장 등에 의한 사고 위험 상황인지 판단한다. 즉 차량은 장애물 검출부와 같은 차량의 각종 센서 등으로부터 사고 위험 상화에 대응하는 이벤트가 발생하였는지 판단(306)한다.During autonomous driving, the vehicle determines whether there is a risk of an accident due to collision with an obstacle, vehicle skidding, rapid acceleration, rapid deceleration, or sudden steering of the vehicle, or vehicle malfunction. That is, the vehicle determines (306) whether an event corresponding to an accident risk has occurred from various sensors of the vehicle, such as an obstacle detection unit.
이벤트 발생을 판단하는 구성의 예를 설명한다.An example of a configuration for determining event occurrence is explained.
좀 더 구체적으로, 차량은 속도 검출부(미도시)에서 검출된 검출 정보에 기초하여 자 차량의 주행 속도를 획득하고, 획득된 자 차량의 주행 속도와 장애물과의 거리에 기초하여 장애물과의 상대 거리 및 상대 속도 중 적어도 하나를 획득하고 획득된 상대 거리 및 상대 속도 중 적어도 하나에 기초하여 장애물과 충돌에 의한 사고 위험이 존재하는지 판단한다.More specifically, the vehicle acquires the driving speed of the own vehicle based on the detection information detected by the speed detection unit (not shown), and the relative distance to the obstacle based on the obtained driving speed of the own vehicle and the distance to the obstacle. and relative speed, and determine whether there is a risk of an accident due to collision with an obstacle based on at least one of the obtained relative distance and relative speed.
차량은 장애물과의 상대 거리가 기준 상대 거리 이하인 조건과, 장애물의 상대 속도가 기준 상대 속도 이상인 조건 중 적어도 하나를 만족하면 장애물과의 충돌에 의한 사고 위험이 존재한다고 판단하는 것도 가능하다.The vehicle may determine that there is a risk of an accident due to collision with an obstacle if it satisfies at least one of the conditions that the relative distance to the obstacle is less than or equal to the standard relative distance and the condition that the relative speed of the obstacle is greater than or equal to the standard relative speed.
차량은 자율 주행의 제어 중 제동력, 가속량 및 조향각을 확인하고, 확인된 제동력이 기준 제동력 이상이면 급제동이라 판단하여 사고 위험 상황이라고 판단하고, 확인된 가속량이 기준 가속량 이상이면 급가속이라 판단하여 사고 위험 상황이라고 판단하며, 확인된 조향각이 기준 조향각 이상이면 급조향이라 판단하여 사고 위험 상황이라고 판단하는 것도 가능하다.During autonomous driving control, the vehicle checks the braking force, acceleration amount, and steering angle. If the confirmed braking force is greater than the standard braking force, it is judged to be sudden braking and an accident risk situation. If the confirmed acceleration amount is greater than the standard acceleration amount, it is judged to be sudden acceleration. It is judged to be an accident risk situation, and if the confirmed steering angle is greater than the standard steering angle, it is possible to determine that it is a sudden steering situation and therefore an accident risk situation.
차량은 차량의 현재 위치가 고속도로이면 제동력, 가속량 및 조향각을 확인하고, 확인된 제동력이 기준 제동력 이상인 조건과, 확인된 가속량이 기준 가속량 이상인 조건과, 확인된 조향각이 기준 조향각 이상인 조건 중 적어도 하나를 만족하면 사고 위험 상황이라고 판단하는 것도 가능하다.If the current location of the vehicle is a highway, the vehicle checks the braking force, acceleration amount, and steering angle, and determines at least one of the following conditions: the confirmed braking force is greater than the standard braking force, the confirmed acceleration amount is greater than the standard acceleration amount, and the confirmed steering angle is greater than the standard steering angle. If one of the conditions is satisfied, it is possible to determine that there is an accident risk situation.
차량은 차량의 슬립량이 기준 슬립량 이상이면 사고 위험 상황이라고 판단하는 것도 가능하다.It is also possible for the vehicle to determine that there is a risk of an accident if the vehicle's slip amount is greater than the standard slip amount.
차량은 이벤트가 발생하였다고 판단되면 암호화된 각각의 영상 데이터를 제1저장부의 제2메모리에 저장하고, 암호화된 영상 데이터를 서버에 전송(307)한다.When it is determined that an event has occurred, the vehicle stores each encrypted video data in the second memory of the first storage unit and transmits the encrypted video data to the server (307).
즉 차량은 자율 주행 모드 시, 제1, 2 영상 획득부(110, 120)에 의해 획득된 영상 데이터의 휘도 데이터를 암호화하여 제1메모리에 저장하되, 사고 위험 상황이라고 판단되면 제1, 2 영상 획득부(110, 120)에 의해 획득된 영상 데이터의 휘도 데이터를 암호화하여 제2메모리에도 저장한다.That is, in autonomous driving mode, the vehicle encrypts the luminance data of the image data acquired by the first and second
영상 데이터를 암호화 및 저장하는 구성을 도 6을 참조하여 설명한다.The configuration for encrypting and storing video data will be described with reference to FIG. 6.
제1, 2, 3, 4 카메라(111, 112, 113, 114)는 네트워크 추상화 레이어(NAL: Network Abstraction Layer) 단위(Unit)의 영상 데이터를 생성할 수 있다.The first, second, third, and
제1, 2, 3, 4 카메라(111, 112, 113, 114)의 영상 데이터의 휘도 데이터를 암호화하는 구성이 동일하여 제1카메라의 영상 데이터의 휘도 데이터를 암호화하는 구성에 대해서만 설명한다.Since the configuration for encrypting the luminance data of the image data of the first, second, third, and
차량은 자율 주행 모드 시, 제1카메라(111)에 의해 획득된 영상 데이터를 수신(311)한다. When in autonomous driving mode, the vehicle receives (311) image data acquired by the first camera (111).
차량은 네트워크 추상화 레이어(NAL: Network Abstraction Layer) 단위(Unit)의 영상 데이터에서 슬라이스를 검출(312)하고 검출된 슬라이스에서 매크로 블록을 확인(313)한다.The vehicle detects a slice from the image data of a Network Abstraction Layer (NAL) unit (312) and checks the macroblock in the detected slice (313).
차량은 확인된 매크로 블록이 저장 대상인지를 판단(314)한다.The vehicle determines (314) whether the confirmed macro block is to be stored.
여기서 저장 대상인지 판단하는 것은, 영상 데이터의 장애물 인식을 통해 관심 영역을 획득하고 획득된 관심 영역에 포함된 매크로 블록의 크기를 확인하며 확인된 매크로 블록의 크기가 미리 설정된 크기보다 작은지 판단하고, 확인된 매크로 블록의 크기가 미리 설정된 크기보다 작다고 판단되면 저장 대상이라고 판단하는 것을 포함한다. Here, determining whether it is a storage target involves acquiring an area of interest through obstacle recognition in the image data, checking the size of the macroblock included in the obtained area of interest, and determining whether the size of the confirmed macroblock is smaller than a preset size. This includes determining that the confirmed macroblock is a storage target if it is determined that the size is smaller than the preset size.
아울러 저장 대상인지 판단하는 것은, 영상 데이터의 매크로 블록의 크기가 미리 설정된 크기보다 작은 매크로 블록의 수가 기준 개수 이상이면 저장 대상이라고 판단하는 것도 가능하다.In addition, it is possible to determine whether the video data is subject to storage if the size of the macroblock of the image data is smaller than the preset size and the number of macroblocks is greater than the standard number.
아울러 저장 대상인지 판단하는 것은, 영상 데이터에 관심 영역이 존재하면 저장 대상이라고 판단하는 것도 가능하다.In addition, it is possible to determine whether an area is a storage target if an area of interest exists in the image data.
차량은 저장 대상이라고 판단되면 매크로 블록의 휘도 데이터(Y성분)만을 암호화(315)하고 제1메모리에 1차적으로 저장(316)한다.If the vehicle determines that it is a storage target, only the luminance data (Y component) of the macro block is encrypted (315) and primarily stored in the first memory (316).
즉 차량은 이벤트가 발생하지 않았다고 판단되면 암호화된 영상 데이터의 휘도 데이터만을 암호화하여 제1저장부의 제1메모리(151a)에 1차적으로 저장하고, 이벤트가 발생하였다고 판단(317)되면 암호화된 영상 데이터를 제1저장부의 제2메모리(151b)에 2차적으로 저장(318)한다.That is, if the vehicle determines that an event has not occurred, only the luminance data of the encrypted image data is encrypted and stored primarily in the first memory (151a) of the first storage unit, and if it is determined that an event has occurred (317), the encrypted image data is stored secondarily in the second memory 151b of the first storage unit (318).
차량은 이벤트 발생이 사고 위험 상황이라고 판단되면 사고 위험 상황이 발생한 방향을 확인하고 확인된 방향에 대응하는 적어도 하나의 카메라의 영상 데이터의 암호화를 제어하는 것도 가능하다. If the vehicle determines that the event is an accident risk situation, it is possible to check the direction in which the accident risk situation occurred and control the encryption of video data of at least one camera corresponding to the confirmed direction.
예를 들어, 차량은 사고 위험 상황의 발생 방향이 전방이면 제1카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 전방과 인접한 방향의 제3, 4카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.For example, if the direction in which an accident risk situation occurs is the front, the vehicle can encrypt the image data obtained from the first camera and store it in the second memory, and the image data obtained from the third and fourth cameras in the direction adjacent to the front can be encrypted and stored in the second memory. It is also possible to further encrypt the video data and store it in the second memory.
차량은 사고 위험 상황의 발생 방향이 후방이면 제2카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 후방과 인접한 방향의 제3, 4카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is from the rear, the vehicle can encrypt the image data obtained from the second camera and store it in the second memory, and further encode the image data obtained from the third and fourth cameras in the direction adjacent to the rear. It is also possible to encrypt and store it in the second memory.
차량은 사고 위험 상황의 발생 방향이 우측방향이면 제4카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 우측방향과 인접한 방향의 제1, 2카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is to the right, the vehicle can encrypt the image data obtained from the fourth camera and store it in the second memory. Image data acquired from the first and second cameras in the direction adjacent to the right direction are also possible. It is also possible to further encrypt and store it in the second memory.
차량은 사고 위험 상황의 발생 방향이 좌측방향이면 제3카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하는 것도 가능하고, 좌측방향과 인접한 방향의 제1, 2카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is to the left, the vehicle can encrypt the image data obtained from the third camera and store it in the second memory, and the image data obtained from the first and second cameras in the direction adjacent to the left direction can be encrypted and stored in the second memory. It is also possible to further encrypt and store it in the second memory.
차량은 사고 위험 상황이라고 판단되면 장애물 검출부에 의해 검출된 장애물 정보를 제1저장부의 제2메모리에 저장하는 것도 가능하고, 서버에 전송하는 것도 가능하다.If it is determined that an accident risk situation exists, the vehicle can store the obstacle information detected by the obstacle detection unit in the second memory of the first storage unit and transmit it to the server.
도 7은 실시 예에 따른 차량과 통신하는 서버(200)의 제어 구성도이다.Figure 7 is a control configuration diagram of a
서버(200)는 복수 대의 차량들을 관리하는 서비스 센터, 경찰서 서버, 보험사 서버 등에 마련된 서버일 수 있다. The
서버(200)는 제2입력부(210), 제2통신부(220), 제2제어부(230), 제2저장부(240) 및 제2표시부(250)를 포함한다.The
제2입력부(210)는 사고 발생의 원인을 분석하기 위한 명령을 입력받을 수 있다.The
제2통신부(220)는 차량과 통신을 수행할 수 있다.The
제2통신부(220)는 차량(100)으로부터 제1영상 획득부에 의해 획득된 암호화된 영상 데이터를 수신하고, 차량(100)으로부터 제2영상 획득부에 의해 획득된 암호화된 영상 데이터를 수신하며, 차량(100)으로부터 장애물 검출부에 의해 검출된 장애물의 검출 정보를 수신할 수 있으며, 차량의 위치 정보도 수신할 수 있다.The
제2통신부(220)는 브레이크 페달, 액셀러레이터 페달 및 스티어링 휠의 조작 정보를 수신하는 것도 가능하다.The
제2통신부(220)는 사용자용 단말기(미도시)와 통신을 수행하는 것도 가능하다. 제2통신부(220)는 사용자용 단말기(미도시)에 영상 데이터를 전송할 수 있다.The
제2제어부(230)는 암호화된 영상 데이터를 디코딩하고 디코딩된 영상 데이터를 이용하여 사고 발생의 원인을 분석한다. The
제2제어부(230)는 제1영상 획득부(110)에 의해 획득된 디코딩된 영상 데이터에 기초하여 장애물의 돌발적인 개입을 판단할 수 있다.The
제2제어부(230)는 제1영상 획득부(110)에 의해 획득된 디코딩된 영상 데이터에 기초하여 포트홀이나, 방지턱, 도로 위 낙하물로 인한 사고 원인을 판단할 수 있다.The
제2제어부(230)는 제2영상 획득부(120)에 의해 획득된 디코딩된 영상 데이터에 기초하여 운전자의 얼굴을 인식하고 인식된 얼굴에서 운전자의 시선을 인식하며 인식된 시선을 실시간으로 추적한다.The
제2제어부(230)는 운전자의 얼굴의 움직임으로부터 졸음 운전 여부를 판단할 수 있다.The
제2제어부(230)는 운전자의 시선에 기초하여 운전자의 집중도를 예측할 수 있다. 여기서 집중도는 운전자의 집중 여부에 대응하는 집중 상태를 의미한다. 아울러 집중 상태는 전방 주시 상태를 포함할 수 있다.The
제2제어부(230)는 브레이크 페달, 액셀러레이터 페달 및 스티어링 휠의 조작 정보에 기초하여 운전자의 회피 의지를 판단할 수 있다.The
제2제어부(230)는 장애물의 검출 정보 및 차량의 상태 정보에 기초하여 사고 발생의 원인을 분석한다.The
예를 들어 차량의 상태 정보는 차량의 슬립을 포함할 수 있다.For example, vehicle status information may include vehicle slip.
제2제어부(230)는 사고가 발생한 상태라고 판단되면 위치 정보에 기초하여 교통 사고 처리 수습을 위한 사고 정보를 의료 기관이나 경찰서에 전송하도록 하는 것도 가능하다. If it is determined that an accident has occurred, the
제2저장부(240)는 차량의 식별 정보를 저장한다.The
제2저장부(240)는 차량별 암호화된 영상 데이터 및 장애물 검출 정보, 위치 정보 등을 저장할 수 있다.The
제2표시부(250)는 차량의 정보 및 사고 발생 상황을 영상으로 표시하고 사고 발생의 분석 결과를 영상으로 표시할 수 있다.The
여기서 차량의 정보는 차량의 번호 정보, 차종 정보, 차량의 운전자의 정보 등을 포함할 수 있다.Here, the vehicle information may include vehicle number information, vehicle model information, and vehicle driver information.
한편, 개시된 실시예들은 컴퓨터에 의해 실행 가능한 명령어를 저장하는 기록매체의 형태로 구현될 수 있다. 명령어는 프로그램 코드의 형태로 저장될 수 있으며, 프로세서에 의해 실행되었을 때, 프로그램 모듈을 생성하여 개시된 실시예들의 동작을 수행할 수 있다. 기록매체는 컴퓨터로 읽을 수 있는 기록매체로 구현될 수 있다.Meanwhile, the disclosed embodiments may be implemented in the form of a recording medium that stores instructions executable by a computer. Instructions may be stored in the form of program code, and when executed by a processor, may create program modules to perform operations of the disclosed embodiments. The recording medium may be implemented as a computer-readable recording medium.
컴퓨터가 읽을 수 있는 기록매체로는 컴퓨터에 의하여 해독될 수 있는 명령어가 저장된 모든 종류의 기록 매체를 포함한다. 예를 들어, ROM(Read Only Memory), RAM(Random Access Memory), 자기 테이프, 자기 디스크, 플래쉬 메모리, 광 데이터 저장장치 등이 있을 수 있다. Computer-readable recording media include all types of recording media storing instructions that can be decoded by a computer. For example, there may be Read Only Memory (ROM), Random Access Memory (RAM), magnetic tape, magnetic disk, flash memory, optical data storage device, etc.
이상에서와 같이 첨부된 도면을 참조하여 개시된 실시예들을 설명하였다.본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고도, 개시된 실시예들과 다른 형태로 본 발명이 실시될 수 있음을 이해할 것이다. 개시된 실시예들은 예시적인 것이며, 한정적으로 해석되어서는 안 된다.As described above, the disclosed embodiments have been described with reference to the accompanying drawings. Those skilled in the art will understand that the present invention may be formed in a form different from the disclosed embodiments without changing the technical idea or essential features of the present invention. It will be understood that the present invention can be practiced. The disclosed embodiments are illustrative and should not be construed as limiting.
100: 차량 110: 제1영상 획득부
120: 제2영상 획득부 130: 장애물 검출부
140: 주행 조작 정보 검출부 150: 제어부100: vehicle 110: first image acquisition unit
120: Second image acquisition unit 130: Obstacle detection unit
140: Driving operation information detection unit 150: Control unit
Claims (15)
상기 장애물 검출부에서 검출된 장애물 검출 정보와 상기 영상 획득부에서 획득된 영상 데이터에 기초하여 자율 주행을 제어하고, 상기 자율 주행의 제어 중 상기 영상 획득부에서 획득된 영상 데이터 중 휘도 데이터를 암호화하는 제어부; 및
상기 암호화된 휘도 데이터를 저장하는 저장부를 포함하고,
상기 저장부는, 제1메모리와 제2메모리를 포함하고,
상기 제어부는, 현재 위치가 고속도로라고 판단되면 상기 차량의 제동력, 가속량 및 조향각을 확인하고, 상기 확인된 제동력이 기준 제동력 이상인 조건과, 상기 확인된 가속량이 기준 가속량 이상인 조건과, 상기 확인된 조향각이 기준 조향각 이상인 조건이 모두 만족하지 않으면 상기 암호화된 영상 데이터를 상기 제1메모리에 저장하도록 하고, 상기 조건들 중 적어도 하나의 조건이 만족하면 상기 암호화된 영상 데이터를 상기 제2메모리에 저장하도록 하는 자율 주행 제어 장치.a communication unit that communicates with an image acquisition unit that acquires images around the exterior of the vehicle and images of the interior of the vehicle, and an obstacle detection unit that detects obstacles;
A control unit that controls autonomous driving based on obstacle detection information detected by the obstacle detection unit and image data acquired by the image acquisition unit, and encrypts luminance data among the image data acquired by the image acquisition unit during control of the autonomous driving. ; and
A storage unit that stores the encrypted luminance data,
The storage unit includes a first memory and a second memory,
When the control unit determines that the current location is a highway, it checks the braking force, acceleration amount, and steering angle of the vehicle, sets the condition that the confirmed braking force is more than the reference braking force, the condition that the confirmed acceleration amount is more than the standard acceleration amount, and the confirmed If all conditions that the steering angle is equal to or greater than the reference steering angle are not satisfied, the encrypted image data is stored in the first memory, and if at least one of the conditions is satisfied, the encrypted image data is stored in the second memory. autonomous driving control device.
상기 영상 데이터에서 관심 영역을 확인하고, 상기 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고 상기 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화하는 것을 포함하는 자율 주행 제어 장치.The method of claim 1, wherein the control unit:
Identify a region of interest in the image data, check the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and select a macro block smaller than a preset size among the macro blocks in the identified region of interest. An autonomous driving control device comprising encrypting luminance data.
상기 제어부는, 상기 자율 주행의 제어 중 상기 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 상기 사고 위험 상황이 아니라고 판단되면 상기 암호화된 휘도 데이터를 상기 제1메모리에 저장하도록 상기 제1메모리를 제어하고, 상기 사고 위험 상황이라고 판단되면 상기 암호화된 휘도 데이터를 상기 제2메모리에 저장하도록 상기 제2메모리를 제어하는 것을 포함하는 자율 주행 제어 장치.According to claim 1,
The control unit determines whether an accident risk situation is present based on the obstacle detection information detected by the obstacle detection unit during control of the autonomous driving, and if it is determined that the accident risk situation is not, the control unit stores the encrypted luminance data in the first memory. An autonomous driving control device comprising controlling a first memory and controlling the second memory to store the encrypted luminance data in the second memory when it is determined that the accident risk situation is present.
상기 제1메모리는 휘발성 메모리이고,
상기 제2메모리는 비휘발성 메모리인 자율 주행 제어 장치.According to clause 1,
The first memory is a volatile memory,
The second memory is a non-volatile memory.
상기 영상 데이터에서 관심 영역을 확인하고, 상기 확인된 관심 영역의 휘도 데이터를 암호화하는 것을 포함하는 자율 주행 제어 장치.The method of claim 1, wherein the control unit:
An autonomous driving control device comprising: identifying a region of interest in the image data and encrypting luminance data of the identified region of interest.
상기 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고, 상기 확인된 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화하는 것을 포함하는 자율 주행 제어 장치.The method of claim 1, wherein the control unit:
Autonomous driving control including confirming the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and encrypting luminance data of a macro block smaller than a preset size among the confirmed macro blocks. Device.
상기 통신부는, 서버와 통신을 수행하고,
상기 제어부는, 상기 자율 주행의 제어 중 상기 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 상기 사고 위험 상황이라고 판단되면 상기 암호화된 휘도 데이터를 상기 서버에 저장하도록 상기 통신부를 제어하는 것을 포함하는 자율 주행 제어 장치.According to clause 1,
The communication unit performs communication with the server,
The control unit determines whether an accident risk situation is present based on the obstacle detection information detected by the obstacle detection unit during control of the autonomous driving, and if it is determined that the accident risk situation is, controls the communication unit to store the encrypted luminance data in the server. An autonomous driving control device comprising:
내부의 영상을 획득하는 제2영상 획득부;
장애물을 검출하는 장애물 검출부;
상기 장애물 검출부에서 검출된 장애물 검출 정보와 상기 제1영상 획득부에서 획득된 영상 데이터에 기초하여 자율 주행을 제어하고, 상기 자율 주행의 제어 중 상기 제1, 2영상 획득부에서 획득된 영상 데이터 중 휘도 데이터를 암호화하는 제어부; 및
상기 암호화된 휘도 데이터를 저장하는 저장부를 포함하고,
상기 제어부는, 현재 위치가 고속도로라고 판단되면 차량의 제동력, 가속량 및 조향각을 확인하고, 상기 확인된 제동력이 기준 제동력 이상인 조건과, 상기 확인된 가속량이 기준 가속량 이상인 조건과, 상기 확인된 조향각이 기준 조향각 이상인 조건이 모두 만족하지 않으면 상기 암호화된 영상 데이터를 제1메모리에 저장하도록 하고, 상기 조건들 중 적어도 하나의 조건이 만족하면 상기 암호화된 영상 데이터를 제2메모리에 저장하도록 하는 차량.a first image acquisition unit that acquires an external image;
a second image acquisition unit that acquires an internal image;
An obstacle detection unit that detects obstacles;
Autonomous driving is controlled based on obstacle detection information detected by the obstacle detection unit and image data acquired by the first image acquisition unit, and among image data acquired by the first and second image acquisition units during control of the autonomous driving. a control unit that encrypts luminance data; and
A storage unit that stores the encrypted luminance data,
If the current location is determined to be a highway, the control unit checks the vehicle's braking force, acceleration amount, and steering angle, and sets a condition in which the confirmed braking force is greater than or equal to the reference braking force, a condition in which the confirmed acceleration amount is greater than or equal to the reference acceleration amount, and the confirmed steering angle. A vehicle that stores the encrypted image data in a first memory if all conditions equal to or greater than the reference steering angle are not satisfied, and stores the encrypted image data in a second memory if at least one of the conditions is satisfied.
상기 영상 데이터에서 관심 영역을 확인하고, 상기 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고 상기 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화하는 것을 포함하는 것을 포함하는 차량.The method of claim 8, wherein the control unit:
Identify a region of interest in the image data, check the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and select a macro block smaller than a preset size among the macro blocks in the identified region of interest. A vehicle comprising encrypting the luminance data of the vehicle.
상기 제어부는, 상기 자율 주행의 제어 중 상기 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 상기 사고 위험 상황이 아니라고 판단되면 상기 암호화된 휘도 데이터를 상기 제1메모리에 저장하도록 상기 제1메모리를 제어하고, 상기 사고 위험 상황이라고 판단되면 상기 암호화된 휘도 데이터를 상기 제2메모리에 저장하도록 상기 제2메모리를 제어하는 것을 포함하는 차량.According to claim 8,
The control unit determines whether an accident risk situation is present based on the obstacle detection information detected by the obstacle detection unit during control of the autonomous driving, and if it is determined that the accident risk situation is not, the control unit stores the encrypted luminance data in the first memory. A vehicle comprising: controlling a first memory, and controlling the second memory to store the encrypted luminance data in the second memory when it is determined that an accident risk situation exists.
상기 자율 주행의 제어 중 상기 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고,
상기 사고 위험 상황이라고 판단되면 상기 제1영상 획득부에 의해 획득된 차량의 외부의 영상 데이터와, 제2영상 획득부에 의해 획득된 차량의 내부의 영상 데이터를 각각 암호화하여 저장하는 것을 포함하고,
현재 위치가 고속도로라고 판단되면 상기 차량의 제동력, 가속량 및 조향각을 확인하고,
상기 확인된 제동력이 기준 제동력 이상인 조건과, 상기 확인된 가속량이 기준 가속량 이상인 조건과, 상기 확인된 조향각이 기준 조향각 이상인 조건이 모두 만족하지 않으면 상기 암호화된 영상 데이터를 제1메모리에 저장하고,
상기 조건들 중 적어도 하나의 조건이 만족하면 상기 암호화된 영상 데이터를 제2메모리에 저장하는 것을 더 포함하는 차량의 제어 방법.In the autonomous driving mode, the autonomous driving of the vehicle is controlled based on the external image acquired by the first image acquisition unit and the obstacle detection information acquired by the obstacle detection unit,
Determining whether there is an accident risk situation based on obstacle detection information detected by the obstacle detection unit during control of the autonomous driving,
When it is determined that the accident risk situation is present, encrypting and storing the external image data of the vehicle obtained by the first image acquisition unit and the internal image data of the vehicle acquired by the second image acquisition unit, respectively,
If the current location is determined to be a highway, the braking force, acceleration amount, and steering angle of the vehicle are checked,
If the condition that the confirmed braking force is more than the reference braking force, the condition that the confirmed acceleration amount is more than the reference acceleration amount, and the condition that the confirmed steering angle is more than the reference steering angle are not satisfied, the encrypted image data is stored in the first memory,
A vehicle control method further comprising storing the encrypted image data in a second memory when at least one of the conditions is satisfied.
상기 차량의 외부의 영상 데이터에서 관심 영역을 확인하고,
상기 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고,
상기 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화하는 것을 포함하는 차량의 제어 방법.The method of claim 11, wherein encrypting image data external to the vehicle includes:
Identifying a region of interest in image data external to the vehicle,
Confirm the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data,
A vehicle control method comprising encrypting luminance data of a macroblock smaller than a preset size among macroblocks in the identified region of interest.
상기 사고 위험 상황이라고 판단되면 사고 위험 상황이 발생한 방향을 확인하고,
전후좌우의 외부의 영상을 획득하는 제1, 2, 3, 4 카메라 중 상기 확인된 방향과 대응하는 방향과 인접하게 설치된 적어도 하나의 카메라에서 획득된 영상 데이터의 휘도 데이터를 암호화하는 것을 포함하는 차량의 제어 방법.The method of claim 11, wherein encrypting the external image data includes:
If it is determined that the above accident risk situation occurred, check the direction in which the accident risk situation occurred,
A vehicle comprising encrypting luminance data of image data acquired from at least one camera installed adjacent to the direction corresponding to the confirmed direction among the first, second, third, and fourth cameras that acquire external images in the front, rear, left, and right sides. control method.
상기 사고 위험 상황이라고 판단되면 상기 암호화된 영상 데이터를 서버에 전송하는 것을 더 포함하는 차량의 제어 방법.According to clause 11,
A method of controlling a vehicle further comprising transmitting the encrypted video data to a server when it is determined that the accident risk situation is present.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180168130A KR102636741B1 (en) | 2018-12-24 | 2018-12-24 | Automatic Driving control apparatus, vehicle having the same and method for controlling the same |
US16/425,445 US11188090B2 (en) | 2018-12-24 | 2019-05-29 | Autonomous driving control apparatus, vehicle having the same and method for controlling vehicle |
CN201910532860.2A CN111361551A (en) | 2018-12-24 | 2019-06-19 | Autonomous driving control device, vehicle having the same, and vehicle control method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180168130A KR102636741B1 (en) | 2018-12-24 | 2018-12-24 | Automatic Driving control apparatus, vehicle having the same and method for controlling the same |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20200084941A KR20200084941A (en) | 2020-07-14 |
KR102636741B1 true KR102636741B1 (en) | 2024-02-16 |
Family
ID=71096833
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020180168130A KR102636741B1 (en) | 2018-12-24 | 2018-12-24 | Automatic Driving control apparatus, vehicle having the same and method for controlling the same |
Country Status (3)
Country | Link |
---|---|
US (1) | US11188090B2 (en) |
KR (1) | KR102636741B1 (en) |
CN (1) | CN111361551A (en) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102017213177A1 (en) * | 2017-07-31 | 2019-01-31 | Audi Ag | Method for operating a screen of a motor vehicle and motor vehicle |
JP7307558B2 (en) * | 2019-03-06 | 2023-07-12 | 株式会社Subaru | Vehicle driving control system |
KR20200139443A (en) * | 2019-06-04 | 2020-12-14 | 주식회사 만도 | Apparatus and method for driver assistance |
US11328592B2 (en) * | 2019-08-14 | 2022-05-10 | Toyota Motor North America, Inc. | Systems and methods for roadway obstruction detection |
JP2022040878A (en) * | 2020-08-31 | 2022-03-11 | 株式会社Jvcケンウッド | Information providing apparatus and information providing program |
US11617941B2 (en) * | 2020-09-01 | 2023-04-04 | GM Global Technology Operations LLC | Environment interactive system providing augmented reality for in-vehicle infotainment and entertainment |
KR20220046935A (en) | 2020-10-08 | 2022-04-15 | 현대모비스 주식회사 | Apparatus for disturbance compensation when driving on a curved road and method thereof |
US11794723B2 (en) | 2020-10-08 | 2023-10-24 | Hyundai Mobis Co., Ltd. | Apparatus and method for controlling driving of vehicle |
US11330196B2 (en) * | 2020-10-12 | 2022-05-10 | Microsoft Technology Licensing, Llc | Estimating illumination in an environment based on an image of a reference object |
CN112612284B (en) * | 2020-12-24 | 2024-01-16 | 北京亮道智能汽车技术有限公司 | Data storage method and device |
CN113034954A (en) * | 2021-03-03 | 2021-06-25 | 北京航迹科技有限公司 | Vehicle early warning method and system |
KR102590923B1 (en) * | 2022-09-29 | 2023-10-20 | 에스엠아이이노베이션 주식회사 | Obstacle detection system and method for electric golf carts |
CN116691502B (en) * | 2023-08-01 | 2023-11-10 | 北京芯驰半导体科技有限公司 | Safety detection method and device for vehicle environment, electronic equipment and storage medium |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007200033A (en) * | 2006-01-26 | 2007-08-09 | Japan Automobile Research Inst Inc | Vehicle behavior analyzing system |
JP2008221969A (en) | 2007-03-12 | 2008-09-25 | Kayaba Ind Co Ltd | Operation condition storage device |
JP2011257849A (en) | 2010-06-07 | 2011-12-22 | Yupiteru Corp | Video recording apparatus for vehicle and on-board system |
US20110317935A1 (en) * | 2010-06-25 | 2011-12-29 | Fujitsu Limited | Image processing device, method thereof, and a computer readable non transitory storage medium storing an image processing program |
US20140325236A1 (en) * | 2013-04-29 | 2014-10-30 | Intellectual Discovery Co., Ltd. | Vehicular image processing apparatus and data processing method using the same |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4394780B2 (en) * | 1999-10-08 | 2010-01-06 | クラリオン株式会社 | Mobile body information recording device |
KR20050063910A (en) * | 2003-12-23 | 2005-06-29 | 주식회사 현대오토넷 | Disposal system for accident image of a car and method thereof |
US7983835B2 (en) * | 2004-11-03 | 2011-07-19 | Lagassey Paul J | Modular intelligent transportation system |
JP4348381B2 (en) * | 2007-05-30 | 2009-10-21 | 富士通株式会社 | Image encryption / decryption device, method and program |
JP5143502B2 (en) * | 2007-08-27 | 2013-02-13 | Necパーソナルコンピュータ株式会社 | Transcoder, transcoding method and transcoding program |
US9152875B2 (en) * | 2009-06-11 | 2015-10-06 | Texas Instruments Incorporated | Preserving text quality in video encoding |
KR101316235B1 (en) * | 2011-05-23 | 2013-10-08 | 현대자동차주식회사 | An accident recording device for reducing capacity and thereof method |
US9922567B2 (en) * | 2011-07-21 | 2018-03-20 | Bendix Commercial Vehicle Systems Llc | Vehicular fleet management system and methods of monitoring and improving driver performance in a fleet of vehicles |
KR20130029962A (en) * | 2011-09-16 | 2013-03-26 | 현대모비스 주식회사 | Image display device for vehicle and method for displaying rapid change of image inputted from camera for vehicle |
KR20140146906A (en) * | 2013-06-18 | 2014-12-29 | 현대모비스 주식회사 | Device of video recording for vehicle and method thereof |
CN103546750B (en) * | 2013-10-22 | 2017-01-25 | 中国人民解放军重庆通信学院 | H.264 video encryption method based on region of interest |
KR101634242B1 (en) * | 2014-02-05 | 2016-06-28 | 재단법인 다차원 스마트 아이티 융합시스템 연구단 | Black box for car using the idle time of the black box and its control method |
KR101551904B1 (en) * | 2014-03-06 | 2015-09-09 | 재단법인 다차원 스마트 아이티 융합시스템 연구단 | Control Method of Vehicular Black Box for Reducing Storage Space |
US20210133871A1 (en) * | 2014-05-20 | 2021-05-06 | State Farm Mutual Automobile Insurance Company | Autonomous vehicle operation feature usage recommendations |
KR102310782B1 (en) * | 2015-10-30 | 2021-10-12 | 엘지전자 주식회사 | Driver Assistance Apparatus, Vehicle Having The Same and Vehicle Safety system |
US10836346B2 (en) * | 2018-04-27 | 2020-11-17 | Nio Usa, Inc. | Methods and systems for providing a protect occupants mode with an autonomous vehicle |
-
2018
- 2018-12-24 KR KR1020180168130A patent/KR102636741B1/en active IP Right Grant
-
2019
- 2019-05-29 US US16/425,445 patent/US11188090B2/en active Active
- 2019-06-19 CN CN201910532860.2A patent/CN111361551A/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007200033A (en) * | 2006-01-26 | 2007-08-09 | Japan Automobile Research Inst Inc | Vehicle behavior analyzing system |
JP2008221969A (en) | 2007-03-12 | 2008-09-25 | Kayaba Ind Co Ltd | Operation condition storage device |
JP2011257849A (en) | 2010-06-07 | 2011-12-22 | Yupiteru Corp | Video recording apparatus for vehicle and on-board system |
US20110317935A1 (en) * | 2010-06-25 | 2011-12-29 | Fujitsu Limited | Image processing device, method thereof, and a computer readable non transitory storage medium storing an image processing program |
US20140325236A1 (en) * | 2013-04-29 | 2014-10-30 | Intellectual Discovery Co., Ltd. | Vehicular image processing apparatus and data processing method using the same |
Also Published As
Publication number | Publication date |
---|---|
CN111361551A (en) | 2020-07-03 |
US20200201349A1 (en) | 2020-06-25 |
KR20200084941A (en) | 2020-07-14 |
US11188090B2 (en) | 2021-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102636741B1 (en) | Automatic Driving control apparatus, vehicle having the same and method for controlling the same | |
US10737689B2 (en) | Parking assistance apparatus and vehicle having the same | |
KR102027646B1 (en) | System and method for processing traffic sound data to provide driver assistance | |
KR102089262B1 (en) | Vehicle technologies for automated turn signaling | |
KR102201290B1 (en) | Vehicle display device and vehicle | |
EP3138707B1 (en) | Driver assistance apparatus for vehicle and vehicle having the same | |
CN109643497B (en) | Enhanced security through augmented reality and shared data | |
KR102366402B1 (en) | Driver assistance apparatus and control method for the same | |
WO2015146061A1 (en) | Vehicular recognition notification device and vehicular recognition notification system | |
KR102129904B1 (en) | Suspension control system, method and apparatus | |
US11472433B2 (en) | Advanced driver assistance system, vehicle having the same and method for controlling the vehicle | |
GB2609767A (en) | Methods for passenger authentication and door operation for autonomous vehicles | |
US20200241549A1 (en) | Information processing apparatus, moving apparatus, and method, and program | |
US11590985B2 (en) | Information processing device, moving body, information processing method, and program | |
US11774964B2 (en) | Vehicle remote instruction system | |
WO2020116206A1 (en) | Information processing device, information processing method, and program | |
US11533420B2 (en) | Server, method, non-transitory computer-readable medium, and system | |
KR20210152602A (en) | driver assistance apparatus and method of thereof | |
KR20210124586A (en) | Advanced Driver Assistance System, and Vehicle | |
US20230232107A1 (en) | Infrastructure and Vehicle for Communicating with the Same | |
US20230316735A1 (en) | Advanced driver assistance system, and vehicle having the same | |
US20230150431A1 (en) | Vehicle and Method of Controlling the Same | |
CN111830859B (en) | Vehicle remote indication system | |
US20230234578A1 (en) | Mobile object control device, mobile object control method, and storage medium | |
US20230199450A1 (en) | Autonomous Vehicle Communication Gateway Architecture |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right |