KR102636741B1 - Automatic Driving control apparatus, vehicle having the same and method for controlling the same - Google Patents

Automatic Driving control apparatus, vehicle having the same and method for controlling the same Download PDF

Info

Publication number
KR102636741B1
KR102636741B1 KR1020180168130A KR20180168130A KR102636741B1 KR 102636741 B1 KR102636741 B1 KR 102636741B1 KR 1020180168130 A KR1020180168130 A KR 1020180168130A KR 20180168130 A KR20180168130 A KR 20180168130A KR 102636741 B1 KR102636741 B1 KR 102636741B1
Authority
KR
South Korea
Prior art keywords
vehicle
image data
unit
memory
autonomous driving
Prior art date
Application number
KR1020180168130A
Other languages
Korean (ko)
Other versions
KR20200084941A (en
Inventor
하창우
김봉주
김호준
정호철
Original Assignee
현대자동차주식회사
기아 주식회사
현대오토에버 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대자동차주식회사, 기아 주식회사, 현대오토에버 주식회사 filed Critical 현대자동차주식회사
Priority to KR1020180168130A priority Critical patent/KR102636741B1/en
Priority to US16/425,445 priority patent/US11188090B2/en
Priority to CN201910532860.2A priority patent/CN111361551A/en
Publication of KR20200084941A publication Critical patent/KR20200084941A/en
Application granted granted Critical
Publication of KR102636741B1 publication Critical patent/KR102636741B1/en

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/165Anti-collision systems for passive traffic, e.g. including static obstacles, trees
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/14Adaptive cruise control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/013Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over
    • B60R21/0134Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over responsive to imminent contact with an obstacle, e.g. using radar systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0088Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0214Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with safety or protection criteria, e.g. avoiding hazardous areas
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0238Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0968Systems involving transmission of navigation instructions to the vehicle
    • G08G1/096855Systems involving transmission of navigation instructions to the vehicle where the output is provided in a suitable form to the driver
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/161Decentralised systems, e.g. inter-vehicle communication
    • G08G1/163Decentralised systems, e.g. inter-vehicle communication involving continuous checking
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/164Centralised systems, e.g. external to vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/467Embedding additional information in the video signal during the compression process characterised by the embedded information being invisible, e.g. watermarking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/18Steering angle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00Input parameters relating to infrastructure
    • B60W2552/50Barriers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • B60W2556/45External transmission of data to or from the vehicle
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D2201/00Application
    • G05D2201/02Control of position of land vehicles
    • G05D2201/0213Road vehicle, e.g. car or truck
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Abstract

본 발명의 차량은, 외부의 영상을 획득하는 제1영상 획득부; 내부의 영상을 획득하는 제2영상 획득부; 장애물을 검출하는 장애물 검출부; 장애물 검출부에서 검출된 장애물 검출 정보와 제1영상 획득부에서 획득된 영상 데이터에 기초하여 자율 주행을 제어하고, 자율 주행의 제어 중 제1, 2영상 획득부에서 획득된 영상 데이터 중 휘도 데이터를 암호화하는 제어부; 및 암호화된 휘도 데이터를 저장하는 저장부를 포함한다.The vehicle of the present invention includes a first image acquisition unit that acquires an external image; a second image acquisition unit that acquires an internal image; An obstacle detection unit that detects obstacles; Autonomous driving is controlled based on obstacle detection information detected by the obstacle detection unit and image data acquired by the first image acquisition unit, and luminance data among the image data acquired by the first and second image acquisition units is encrypted during autonomous driving control. a control unit that does; and a storage unit that stores the encrypted luminance data.

Description

자율 주행 제어 장치, 그를 가지는 차량 및 그 제어 방법 {Automatic Driving control apparatus, vehicle having the same and method for controlling the same}Automatic driving control apparatus, vehicle having the same and method for controlling the same}

본 발명은 자율 주행을 위해 획득한 영상을 관리하기 위한 차량 및 그 제어 방법에 관한 것이다.The present invention relates to a vehicle and its control method for managing images acquired for autonomous driving.

차량은 도로 위를 이동하는 기기로, 차량에는 탑승자 보호, 운행 보조 및 승차감의 향상을 위한 다양한 장치들이 탑재되어 있다.A vehicle is a device that moves on the road, and is equipped with various devices to protect occupants, assist driving, and improve riding comfort.

최근에는 차량 스스로 도로 환경을 인식하고, 주행 상황을 판단하여, 계획된 주행 경로를 따라 주행하도록 제어함으로써 목적지까지 자동으로 주행하도록 하는 자율 주행 제어 장치에 대한 연구가 활발히 진행되고 있다.Recently, research is being actively conducted on autonomous driving control devices that allow the vehicle to automatically drive to its destination by recognizing the road environment, judging the driving situation, and controlling the vehicle to drive along a planned driving path.

이러한 자율 주행 제어 장치는 장애물의 위치 변화 및 차선을 인식하고 인식된 정보에 기초하여 차량이 장애물을 회피하면서 안전한 차로로 주행하도록 한다.This autonomous driving control device recognizes changes in the position of obstacles and lanes, and allows the vehicle to drive in a safe lane while avoiding obstacles based on the recognized information.

자율 주행 제어 장치는 차량의 자율 주행 제어 중 돌발 상황이 발생하면 운전자에게 차량의 제어권을 인계한다. 이러한 상황에서, 사고가 발생하였을 때 사고의 발생 원인을 판단하기 어려운 문제점이 있었다.The autonomous driving control device transfers control of the vehicle to the driver when an unexpected situation occurs during autonomous driving control of the vehicle. In this situation, there was a problem that it was difficult to determine the cause of the accident when an accident occurred.

일 측면은 주행 상황이 사고 위험 상황이면 영상 데이터를 암호화하여 저장하거나 암호화된 영상 데이터를 서버에 전송하는 자율 주행 제어 장치, 그를 가지는 차량 및 그 제어 방법을 제공한다.One aspect provides an autonomous driving control device that encrypts and stores video data or transmits the encrypted video data to a server when the driving situation is at risk of an accident, a vehicle having the same, and a method of controlling the same.

다른 측면은 영상 데이터 중 휘도 데이터만을 암호화하는 자율 주행 제어 장치, 그를 가지는 차량 및 그 제어 방법을 제공한다.Another aspect provides an autonomous driving control device that encrypts only luminance data among image data, a vehicle having the same, and a method of controlling the same.

또 다른 측면은 사고 위험 상황이 발생한 방향에 대응하는 영상 데이터만을 암호화하는 자율 주행 제어 장치, 그를 가지는 차량 및 그 제어 방법을 제공한다.Another aspect provides an autonomous driving control device that encrypts only image data corresponding to the direction in which an accident risk situation occurs, a vehicle having the same, and a method of controlling the same.

일 측면에 따른 자율 주행 제어 장치는, 차량의 외부의 주변 영상과 차량의 내부의 영상을 획득하는 영상 획득부 및 장애물을 검출하는 장애물 검출부와 통신을 수행하는 통신부; 장애물 검출부에서 검출된 장애물 검출 정보와 영상 획득부에서 획득된 영상 데이터에 기초하여 자율 주행을 제어하고, 자율 주행의 제어 중 영상 획득부에서 획득된 영상 데이터 중 휘도 데이터를 암호화하는 제어부; 및 암호화된 휘도 데이터를 저장하는 저장부를 포함한다.An autonomous driving control device according to one aspect includes a communication unit that communicates with an image acquisition unit that acquires images around the exterior of the vehicle and images of the interior of the vehicle, and an obstacle detection unit that detects obstacles; A control unit that controls autonomous driving based on obstacle detection information detected by the obstacle detection unit and image data acquired by the image acquisition unit, and encrypts luminance data among the image data acquired by the image acquisition unit during control of autonomous driving; and a storage unit that stores the encrypted luminance data.

일 측면에 따른 자율 주행 제어 장치의 제어부는, 영상 데이터에서 관심 영역을 확인하고, 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화한다.The control unit of the autonomous driving control device according to one aspect may identify a region of interest in the image data, check the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and determine the macro blocks within the identified region of interest. Among them, the luminance data of a macro block smaller than a preset size is encrypted.

일 측면에 따른 자율 주행 제어 장치의 저장부는 제1메모리와 제2메모리를 포함하고, 제어부는 자율 주행의 제어 중 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 사고 위험 상황이 아니라고 판단되면 암호화된 휘도 데이터를 제1메모리에 저장하도록 제1메모리를 제어하고, 사고 위험 상황이라고 판단되면 암호화된 휘도 데이터를 제2메모리에 저장하도록 제2메모리를 제어한다.The storage unit of the autonomous driving control device according to one aspect includes a first memory and a second memory, and the control unit determines whether an accident risk situation is present based on obstacle detection information detected by the obstacle detection unit during autonomous driving control and determines whether the accident risk situation is If it is determined that this is not the case, the first memory is controlled to store the encrypted luminance data in the first memory, and if it is determined that there is an accident risk situation, the second memory is controlled to store the encrypted luminance data in the second memory.

일 측면에 따른 자율 주행 제어 장치의 제1메모리는 휘발성 메모리이고, 제2메모리는 비휘발성 메모리이다.The first memory of the autonomous driving control device according to one aspect is a volatile memory, and the second memory is a non-volatile memory.

일 측면에 따른 자율 주행 제어 장치의 제어부는, 영상 데이터에서 관심 영역을 확인하고, 확인된 관심 영역의 휘도 데이터를 암호화하는 것을 포함한다.The control unit of the autonomous driving control device according to one aspect includes identifying a region of interest in image data and encrypting luminance data of the identified region of interest.

일 측면에 따른 자율 주행 제어 장치의 제어부는, 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고, 확인된 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화한다.The control unit of the autonomous driving control device according to one aspect checks the sizes of macro blocks divided into different sizes based on the luminance and color difference of image data, and determines the luminance of a macro block smaller than a preset size among the confirmed macro blocks. Encrypt data.

일 측면에 따른 자율 주행 제어 장치의 통신부는 서버와 통신을 수행하고, 제어부는 자율 주행의 제어 중 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 사고 위험 상황이라고 판단되면 암호화된 휘도 데이터를 서버에 저장하도록 통신부를 제어한다.The communication unit of the autonomous driving control device according to one aspect performs communication with a server, and the control unit determines whether an accident risk situation is possible based on obstacle detection information detected by the obstacle detection unit during autonomous driving control, and if it is determined to be an accident risk situation, an encrypted Controls the communication unit to store luminance data in the server.

다른 측면에 따른 차량은, 외부의 영상을 획득하는 제1영상 획득부; 내부의 영상을 획득하는 제2영상 획득부; 장애물을 검출하는 장애물 검출부; 장애물 검출부에서 검출된 장애물 검출 정보와 제1영상 획득부에서 획득된 영상 데이터에 기초하여 자율 주행을 제어하고, 자율 주행의 제어 중 제1, 2영상 획득부에서 획득된 영상 데이터 중 휘도 데이터를 암호화하는 제어부; 및 암호화된 휘도 데이터를 저장하는 저장부를 포함한다.A vehicle according to another aspect includes a first image acquisition unit that acquires an external image; a second image acquisition unit that acquires an internal image; An obstacle detection unit that detects obstacles; Autonomous driving is controlled based on obstacle detection information detected by the obstacle detection unit and image data acquired by the first image acquisition unit, and luminance data among the image data acquired by the first and second image acquisition units is encrypted during autonomous driving control. a control unit that does; and a storage unit that stores the encrypted luminance data.

다른 측면에 따른 차량의 제어부는, 영상 데이터에서 관심 영역을 확인하고, 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화한다.According to another aspect, the control unit of the vehicle may identify a region of interest in the image data, check the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and preliminarily select macro blocks within the identified region of interest. Encrypts the luminance data of macro blocks smaller than the set size.

다른 측면에 따른 차량의 저장부는 제1메모리와 제2메모리를 포함하고, 제어부는 자율 주행의 제어 중 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 사고 위험 상황이 아니라고 판단되면 암호화된 휘도 데이터를 제1메모리에 저장하도록 제1메모리를 제어하고, 사고 위험 상황이라고 판단되면 암호화된 휘도 데이터를 제2메모리에 저장하도록 제2메모리를 제어한다.According to another aspect, the storage unit of the vehicle includes a first memory and a second memory, and the control unit determines whether an accident risk situation is present based on the obstacle detection information detected by the obstacle detection unit during autonomous driving control, and if it is determined that it is not an accident risk situation, The first memory is controlled to store the encrypted luminance data in the first memory, and if it is determined that there is an accident risk situation, the second memory is controlled to store the encrypted luminance data in the second memory.

또 다른 측면에 따른 차량의 제어 방법은, 자율 주행 모드이면 제1영상 획득부에 의해 획득된 외부의 영상과 장애물 검출부에 의해 획득된 장애물의 검출 정보에 기초하여 차량의 자율 주행을 제어하고, 자율 주행의 제어 중 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고, 사고 위험 상황이라고 판단되면 제1영상 획득부에 의해 획득된 차량의 외부의 영상 데이터와, 제2영상 획득부에 의해 획득된 차량의 내부의 영상 데이터를 각각 암호화하여 저장한다.A method of controlling a vehicle according to another aspect is, in the autonomous driving mode, controlling the autonomous driving of the vehicle based on the external image acquired by the first image acquisition unit and the obstacle detection information acquired by the obstacle detection unit, During driving control, it is determined whether there is an accident risk situation based on the obstacle detection information detected by the obstacle detection unit, and if it is determined that it is an accident risk situation, the external image data of the vehicle acquired by the first image acquisition unit and the second image acquisition unit The image data inside the vehicle obtained by each is encrypted and stored.

차량의 외부의 영상 데이터를 암호화하는 것은, 차량의 외부의 영상 데이터에서 관심 영역을 확인하고, 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고, 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화하는 것을 포함하낟.Encrypting image data outside the vehicle involves identifying a region of interest in the image data outside the vehicle, checking the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and confirming the identified interest area. It includes encrypting the luminance data of a macro block smaller than a preset size among the macro blocks in the area.

또 다른 측면에 따른 차량의 제어 방법은, 현재 위치가 고속도로라고 판단되면 차량의 제동력, 가속량 및 조향각을 확인하고, 확인된 제동력이 기준 제동력 이상인 조건과, 확인된 가속량이 기준 가속량 이상인 조건과, 확인된 조향각이 기준 조향각 이상인 조건이 모두 만족하지 않으면 암호화된 영상 데이터를 제1메모리에 저장하고, 조건들 중 적어도 하나의 조건이 만족하면 암호화된 영상 데이터를 제2메모리에 저장하는 것을 더 포함한다.According to another aspect, a vehicle control method includes, when it is determined that the current location is a highway, the vehicle's braking force, acceleration amount, and steering angle are checked, and a condition in which the confirmed braking force is greater than the standard braking force, a condition in which the confirmed acceleration amount is greater than the standard acceleration amount, and , if all conditions that the confirmed steering angle is greater than the reference steering angle are not satisfied, storing the encrypted image data in the first memory, and if at least one of the conditions is satisfied, storing the encrypted image data in the second memory. do.

외부의 영상 데이터를 암호화하는 것은, 사고 위험 상황이라고 판단되면 사고 위험 상황이 발생한 방향을 확인하고, 전후좌우의 외부의 영상을 획득하는 제1, 2, 3, 4 카메라 중 확인된 방향과 대응하는 방향과 인접하게 설치된 적어도 하나의 카메라에서 획득된 영상 데이터의 휘도 데이터를 암호화하는 것을 포함한다.Encrypting external image data means that, if an accident risk situation is determined, the direction in which the accident risk situation occurred is confirmed, and among the first, second, third, and fourth cameras that acquire external images from front, back, left, and right, corresponding to the confirmed direction. It includes encrypting luminance data of image data acquired from at least one camera installed adjacent to the direction.

또 다른 측면에 따른 차량의 제어 방법은, 사고 위험 상황이라고 판단되면 암호화된 영상 데이터를 서버에 전송하는 것을 더 포함한다.A vehicle control method according to another aspect further includes transmitting encrypted video data to a server when it is determined that an accident risk situation is present.

본 발명은 자율 주행 중 획득된 영상 데이터를 휘발성 저장 장치에 저장하고, 사고 위험 상황이 발생하면 주행 상황에 대응하는 영상 데이터를 비휘발성 저장 장치에 저장함으로써 차량 내의 저장 장치에 저장되는 데이터의 용량을 줄일 수 있고 사고 발생 시 사고 상황을 용이하게 파악할 수 있다.The present invention stores image data acquired during autonomous driving in a volatile storage device, and when an accident risk situation occurs, image data corresponding to the driving situation is stored in a non-volatile storage device to increase the capacity of data stored in the storage device in the vehicle. It can be reduced and the accident situation can be easily identified when an accident occurs.

본 발명은 사고 위험 발생 시 영상 데이터 중 휘도 데이터만을 비휘발성 저장 장치에 저장함으로써 비휘발성 저장 장치에 저장되는 데이터의 양을 더 줄일 수 있고, 비휘발성 저장 장치에 저장되는 데이터의 양이 감소함에 따라 비휘발성 저장 장치에 저장되는 영상 데이터를 장기간 보관할 수 있다.The present invention can further reduce the amount of data stored in the non-volatile storage device by storing only the luminance data among the image data in the non-volatile storage device when an accident risk occurs, and as the amount of data stored in the non-volatile storage device decreases, Video data stored in non-volatile storage devices can be stored for a long period of time.

본 발명은 사고 위험이 발생한 방향의 영상 데이터만을 비휘발성 저장 장치에 저장함으로써 비휘발성 저장 장치에 저장되는 데이터의 양을 더 줄일 수 있고, 비휘발성 저장 장치에 저장되는 데이터의 양이 감소함에 따라 비휘발성 저장 장치에 저장되는 영상 데이터를 장기간 보관할 수 있다.The present invention can further reduce the amount of data stored in the non-volatile storage device by storing only image data in the direction in which the risk of an accident occurred in the non-volatile storage device, and as the amount of data stored in the non-volatile storage device decreases, the amount of data stored in the non-volatile storage device decreases. Video data stored in volatile storage devices can be stored for a long period of time.

본 발명은 주행 상황이 사고 위험 상황이면 주행 상황에 대응하는 영상 데이터를 서버에 전송하여 서버에서 저장하도록 함으로써 저장 장치에 저장되는 데이터의 양을 줄일 수 있고, 서버에서 사고 발생 시 사고 상황을 용이하고 정확하게 파악하도록 할 수 있다.The present invention can reduce the amount of data stored in the storage device by transmitting video data corresponding to the driving situation to the server and storing it on the server when the driving situation is at risk of an accident, and when an accident occurs on the server, the accident situation is facilitated. You can make sure you understand it accurately.

이와 같이 본 발명은 임베디드 환경에서 메모리 제한에 따라 영상 데이터를 압축된 NAL 형태 그대로 영상 데이터의 특성을 살려 일부분만을 선택적으로 암호화하고 저장함으로써 임베디드 환경에서 효율적으로 영상 데이터를 저장할 수 있다.In this way, the present invention can efficiently store video data in an embedded environment by selectively encrypting and storing only a portion of the video data in compressed NAL form, taking advantage of the characteristics of the video data, according to memory limitations in the embedded environment.

본 발명은 자율 주행 제어 장치 및 자율 주행 기능을 가진 차량의 품질 및 상품성을 향상시킬 수 있고 나아가 사용자의 만족도를 높일 수 있으며 제품의 경쟁력을 확보할 수 있다.The present invention can improve the quality and marketability of autonomous driving control devices and vehicles with autonomous driving functions, further increase user satisfaction, and secure product competitiveness.

도 1은 실시 예에 따른 차량의 제어 구성도이다.
도 2는 실시 예에 따른 차량의 제어부의 상세 구성도이다.
도 3은 실시 예에 따른 차량에 마련된 카메라에서 영상을 전송하기 위한 네트워크 추상화 레이어의 구성도이다.
도 4는 실시 예에 따른 차량에 마련된 카메라에서 획득한 영상 데이터의 매크로 블록의 예시도이다.
도 5는 실시 예에 따른 차량의 제어 순서도이다.
도 6은 실시 예에 따른 차량의 영상 데이터의 암호화 및 저장의 순서도이다.
도 7은 실시 예에 따른 차량과 통신하는 서버의 제어 구성도이다.
1 is a control configuration diagram of a vehicle according to an embodiment.
Figure 2 is a detailed configuration diagram of a control unit of a vehicle according to an embodiment.
Figure 3 is a configuration diagram of a network abstraction layer for transmitting video from a camera installed in a vehicle according to an embodiment.
Figure 4 is an example diagram of a macro block of image data acquired from a camera installed in a vehicle according to an embodiment.
5 is a control flowchart of a vehicle according to an embodiment.
Figure 6 is a flowchart of encryption and storage of image data of a vehicle according to an embodiment.
Figure 7 is a control configuration diagram of a server communicating with a vehicle according to an embodiment.

명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다. 본 명세서가 실시 예들의 모든 요소들을 설명하는 것은 아니며, 본 발명이 속하는 기술분야에서 일반적인 내용 또는 실시 예들 간에 중복되는 내용은 생략한다. 명세서에서 사용되는 '부, 장치'라는 용어는 소프트웨어 또는 하드웨어로 구현될 수 있으며, 실시 예들에 따라 복수의 '부, 장치'가 하나의 구성요소로 구현되거나, 하나의 '부, 장치'가 복수의 구성요소들을 포함하는 것도 가능하다.Like reference numerals refer to like elements throughout the specification. This specification does not describe all elements of the embodiments, and general content or overlapping content between the embodiments in the technical field to which the present invention pertains is omitted. The term 'unit or device' used in the specification may be implemented as software or hardware, and depending on the embodiments, a plurality of 'units and devices' may be implemented as one component, or one 'unit or device' may be implemented as a single component. It is also possible to include components of

명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐 아니라, 간접적으로 연결되어 있는 경우를 포함하고, 간접적인 연결은 무선 통신망을 통해 연결되는 것을 포함한다.Throughout the specification, when a part is said to be “connected” to another part, this includes not only direct connection but also indirect connection, and indirect connection includes connection through a wireless communication network. do.

또한 어떤 부분이 어떤 구성요소를"포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.Additionally, when it is said that a part "includes" a certain component, this does not mean that other components are excluded, but that it can further include other components, unless specifically stated to the contrary.

제 1, 제 2 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위해 사용되는 것으로, 구성요소가 전술된 용어들에 의해 제한되는 것은 아니다. Terms such as first and second are used to distinguish one component from another component, and the components are not limited by the above-mentioned terms.

단수의 표현은 문맥상 명백하게 예외가 있지 않는 한, 복수의 표현을 포함한다.Singular expressions include plural expressions unless the context clearly makes an exception.

각 단계들에 있어 식별부호는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 실시될 수 있다. The identification code for each step is used for convenience of explanation. The identification code does not explain the order of each step, and each step may be performed differently from the specified order unless a specific order is clearly stated in the context. there is.

이하 첨부된 도면들을 참고하여 본 발명의 작용 원리 및 실시 예들에 대해 설명한다.Hereinafter, the operating principle and embodiments of the present invention will be described with reference to the attached drawings.

도 1은 실시 예에 따른 차량의 제어 구성도이다.1 is a control configuration diagram of a vehicle according to an embodiment.

본 실시 예의 차량은, 자율 주행이 가능한 차량으로, 자율 주행 제어 장치가 마련된 차량일 수 있다. The vehicle of this embodiment may be a vehicle capable of autonomous driving and may be equipped with an autonomous driving control device.

또한 본 실시 예의 차량은, 운전자에 의한 수동 주행 모드의 선택에 대응하여 운전자의 조작 정보에 기초하여 주행을 제어할 수 있고, 자율 주행 모드의 수행 중 돌발 상황 발생 시 주행을 제어하기 위한 제어권을 운전자에게 인계할 수 있다.In addition, the vehicle of this embodiment can control driving based on the driver's operation information in response to the driver's selection of the manual driving mode, and gives the driver control rights to control driving when an unexpected situation occurs while performing the autonomous driving mode. It can be handed over to.

차량은 주행을 제어하기 위한 제어권을 운전자에게 인계할 때, 수동 주행 모드를 수행할 수 있다. The vehicle can perform a manual driving mode when handing over control for driving to the driver.

이러한 자율 주행이 가능한 차량은 외장과 내장을 갖는 차체(Body)와, 차체를 제외한 나머지 부분으로 주행에 필요한 기계 장치가 설치되는 차대(Chassis)를 포함할 수 있다.A vehicle capable of such autonomous driving may include a body having an exterior and an interior, and a chassis in which mechanical devices necessary for driving are installed in the remaining parts excluding the body.

여기서 차체의 외장은 프론트 패널, 본네트, 루프 패널, 리어 패널, 전후좌우의 도어, 전후좌우의 도어에 개폐 가능하게 마련된 창문과, 전방 시야를 확보하기 위한 프론트 윈드 실드(또는 프론트 글래스), 후방 시야를 확보하기 위한 리어 윈드 실드(또는 리어 글래스)를 포함할 수 있다.Here, the exterior of the car body includes the front panel, bonnet, roof panel, rear panel, doors on the front, left, and right, windows that can be opened and closed on the front, left, and right doors, a front windshield (or front glass) to ensure forward visibility, and rear visibility. It may include a rear windshield (or rear glass) to secure.

그리고 차체의 내장은 탑승자가 앉는 시트와, 대시 보드와, 센터페시아와, 헤드단위 등을 포함할 수 있다.And the interior of the car body may include a seat for the occupants to sit on, a dashboard, a center fascia, a head unit, etc.

이러한 차량은 주행 방향을 조절하기 위한 조향 장치의 스티어링 휠과, 운전자의 제동 의지에 대응하여 운전자에 의해 가압되는 브레이크 페달과, 운전자의 가속 의지에 대응하여 운전자에 의해 가압되는 액셀러레이터 페달을 더 포함할 수 있다. 아울러 차량의 종류에 따라, 차량은 클러치 페달을 더 포함할 수 있다.Such a vehicle may further include a steering wheel of a steering device for controlling the driving direction, a brake pedal pressed by the driver in response to the driver's will to brake, and an accelerator pedal pressed by the driver in response to the driver's will to accelerate. You can. Additionally, depending on the type of vehicle, the vehicle may further include a clutch pedal.

차량은 제1 영상 획득부(110), 제2영상 획득부(120), 장애물 검출부(130), 주행 조작 정보 검출부(140), 제1제어부(150), 제1저장부(151), 제1통신부(160), 제1입력부(170), 제1표시부(180) 및 사운드 출력부(190)를 포함한다.The vehicle includes a first image acquisition unit 110, a second image acquisition unit 120, an obstacle detection unit 130, a driving operation information detection unit 140, a first control unit 150, a first storage unit 151, and a first storage unit 151. It includes a communication unit 160, a first input unit 170, a first display unit 180, and a sound output unit 190.

제1영상 획득부(110)는 차량이 주행하는 도로의 영상을 획득한다. 이러한 제1영상 획득부(110)는 차량의 전방의 도로의 영상을 획득할 수 있다.The first image acquisition unit 110 acquires an image of the road on which the vehicle travels. This first image acquisition unit 110 can acquire an image of the road in front of the vehicle.

제1영상 획득부(110)는 카메라로, 통신이 가능한 이더넷 카메라일 수 있다.The first image acquisition unit 110 is a camera and may be an Ethernet camera capable of communication.

이러한 제1영상 획득부(110)는 CCD 또는 CMOS 이미지 센서를 포함할 수 있고, KINECT(RGB-D 센서), TOF(Structured Light Sensor), 스테레오 카메라(Stereo Camera) 등과 같은 3차원 공간 인식 센서를 포함할 수도 있다.This first image acquisition unit 110 may include a CCD or CMOS image sensor, and may use a 3D space recognition sensor such as KINECT (RGB-D sensor), TOF (Structured Light Sensor), stereo camera, etc. It may also be included.

제1영상 획득부(110)는 차량의 내측에 마련되되 차량의 외부를 촬영할 수 있도록 차량의 외부를 향하게 마련될 수 있다. 이러한 제1영상 획득부(110)는 프론트 윈드 실드 또는 룸미러에 마련될 수 있다.The first image acquisition unit 110 may be provided inside the vehicle but may be provided toward the outside of the vehicle to capture images of the outside of the vehicle. This first image acquisition unit 110 may be provided on the front windshield or rear-view mirror.

제1영상 획득부(110)는 차량의 외부에 노출되도록 마련될 수 있다. 이러한 제1영상 획득부(110)는 루프 패널에 마련될 수도 있다. The first image acquisition unit 110 may be provided to be exposed to the outside of the vehicle. This first image acquisition unit 110 may be provided on the roof panel.

제1영상 획득부(110)는 블랙 박스의 카메라일 수 있고, 자율 주행을 위해 마련된 자율 주행 제어 장치의 카메라일 수 있다.The first image acquisition unit 110 may be a black box camera or a camera of an autonomous driving control device provided for autonomous driving.

제1영상 획득부(110)는 자 차량의 현재 위치에서 자 차량 외부의 환경, 특히 차량이 주행하는 도로 환경을 촬영하고, 또한 자 차량의 전방의 장애물을 촬영하며 촬영된 정보를 전기적 신호로 변환하고 변환된 전기적 신호에 대응하는 영상 데이터를 획득하고 획득된 영상 데이터를 제어부(150)에 전송한다.The first image acquisition unit 110 photographs the environment outside the vehicle, especially the road environment on which the vehicle runs, at the current location of the vehicle, and also photographs obstacles in front of the vehicle, and converts the captured information into an electrical signal. Then, image data corresponding to the converted electrical signal is acquired and the obtained image data is transmitted to the control unit 150.

아울러, 제1영상 획득부(110)는 차량 전방의 영상을 획득하는 제1 카메라뿐만 아니라 차량 후방의 영상을 획득하는 제2 카메라와, 차량 좌우 측방의 영상을 획득하는 제3 카메라와 제4 카메라 중 적어도 하나를 더 포함하는 것도 가능하다.In addition, the first image acquisition unit 110 includes not only a first camera that acquires images of the front of the vehicle, but also a second camera that acquires images of the rear of the vehicle, and a third camera and a fourth camera that acquire images of the left and right sides of the vehicle. It is also possible to include at least one more of the following.

제2카메라는 후방 카메라일 수 있다.The second camera may be a rear camera.

이에 따라 제1영상 획득부(110)는 자 차량의 후방 및 좌우의 측방의 장애물 및 도로 환경을 촬영하고 촬영된 정보를 전기적 신호로 변환하고 변환된 전기적 신호에 대응하는 영상 데이터를 획득하고 획득된 영상 데이터를 제어부(150)에 전송할 수 있다.Accordingly, the first image acquisition unit 110 photographs obstacles and road environments at the rear and on the left and right sides of the vehicle, converts the photographed information into electrical signals, acquires image data corresponding to the converted electrical signals, and acquires image data corresponding to the converted electrical signals. Image data can be transmitted to the control unit 150.

제2영상 획득부(120)는 운전자의 영상을 획득한다.The second image acquisition unit 120 acquires the driver's image.

제2영상 획득부(120)는 운전자의 영상 중 운전자의 얼굴 및 시선에 대한 영상을 획득할 수 있다. The second image acquisition unit 120 may acquire images of the driver's face and gaze from among the driver's images.

제2영상 획득부(120)는 운전석뿐만 아니라, 조수석 및 후석에 대한 영상을 획득하는 것도 가능하다.The second image acquisition unit 120 is also capable of acquiring images of not only the driver's seat, but also the passenger seat and rear seat.

제2영상 획득부(120)는 카메라로, 통신이 가능한 이더넷 카메라일 수 있다.The second image acquisition unit 120 is a camera and may be an Ethernet camera capable of communication.

제2영상 획득부(120)는 CCD 또는 CMOS 이미지 센서를 포함할 수 있다.The second image acquisition unit 120 may include a CCD or CMOS image sensor.

제2영상 획득부(120)는 프론트 윈드 실드 또는 룸미러에 마련되되 운전자를 향하도록 마련될 수 있다.The second image acquisition unit 120 may be provided on the front windshield or rear-view mirror to face the driver.

이러한 제2영상 획득부(120)는 차량 내부의 환경을 촬영하고 촬영된 정보를 전기적 신호로 변환하고 변환된 전기적 신호에 대응하는 영상 데이터를 획득하고 획득된 영상 데이터를 제어부(150)에 전송할 수 있다.This second image acquisition unit 120 can photograph the environment inside the vehicle, convert the photographed information into an electrical signal, acquire image data corresponding to the converted electrical signal, and transmit the obtained image data to the control unit 150. there is.

장애물 검출부(130)는 자 차량의 위치를 기준으로 전후좌우 방향의 장애물의 존재 여부 및 장애물의 위치를 검출한다. 여기서 위치는 거리와 방향을 포함할 수 있다.The obstacle detection unit 130 detects the presence or absence of obstacles in the forward, left, right, and left directions and the location of the obstacles based on the location of the vehicle. Here, location can include distance and direction.

좀 더 구체적으로 장애물 검출부(130)는 자 차량의 외부에 위치하는 장애물, 예를 들면 자 차량의 전방에서 주행하는 전방 차량과, 도로 주변에 설치된 구조물 등과 같은 정지물체와, 반대 차선에서 다가오는 타 차량 등을 검출한다. More specifically, the obstacle detection unit 130 detects obstacles located outside the vehicle, such as a front vehicle traveling in front of the vehicle, stationary objects such as structures installed around the road, and other vehicles approaching from the opposite lane. Detect etc.

장애물 검출부(130)는 자 차량의 전방뿐만 아니라, 후방, 좌우의 측방에 위치한 장애물을 검출할 수 있다.The obstacle detection unit 130 can detect obstacles located not only in front of the vehicle, but also behind, and on the left and right sides.

이러한 장애물 검출부(130)는 차량의 프론트 패널, 루프 패널 및 리어 패널 중 적어도 하나의 패널에 마련될 수 있다.This obstacle detection unit 130 may be provided on at least one of the front panel, roof panel, and rear panel of the vehicle.

장애물 검출부(130)는 레이더(radar) 센서 또는 라이다(Light detection and Ranging, Lidar) 센서를 포함할 수 있다.The obstacle detection unit 130 may include a radar sensor or a light detection and ranging (Lidar) sensor.

레이더(Radar) 센서는 발신 및 수신을 같은 장소에서 행할 때, 전파의 방사에 의하여 생긴 반사파를 이용하여 물체의 위치 및 거리를 검출하는 센서이다.A radar sensor is a sensor that detects the position and distance of an object using reflected waves generated by radio wave radiation when transmission and reception are performed in the same place.

라이다(LiDAR: Light Detection And Ranging)센서는 레이저 레이다(Laser Radar) 원리를 이용한 비접촉식 거리 검출 센서이다.LiDAR (Light Detection And Ranging) sensor is a non-contact distance detection sensor that uses the principle of laser radar.

이러한, 라이다 센서는 레이더(RaDAR: Radio Detecting And Ranging) 센서에 비해 횡방향에 대한 검출 정확도가 높기 때문에 전방에 통로가 존재하는지 판단하는 과정의 정확도를 높일 수 있다.Since the LiDAR sensor has higher detection accuracy in the lateral direction compared to the RaDAR (Radio Detecting And Ranging) sensor, it can increase the accuracy of the process of determining whether a passage exists ahead.

여기서 레이저는 단일레이저 펄스일 수 있다.Here, the laser may be a single laser pulse.

장애물 검출부(130)는 초음파 센서 또는 레이더 센서를 포함할 수도 있다.The obstacle detection unit 130 may include an ultrasonic sensor or a radar sensor.

초음파 센서는 초음파를 일정시간 발생시킨 뒤 물체에 반사되어 돌아오는 신호를 검출한다.An ultrasonic sensor generates ultrasonic waves for a certain period of time and then detects a signal that is reflected back from an object.

초음파 센서는 근거리 범위 내에서 보행자 등의 장애물의 유무를 판별하는데 사용될 수 있다.Ultrasonic sensors can be used to determine the presence or absence of obstacles such as pedestrians within a short range.

주행 조작 정보 검출부(140)는 운전자에 의해 조작된 조작 정보를 검출한다.The driving operation information detection unit 140 detects operation information operated by the driver.

주행 조작 정보 검출부(140)는 수동 주행 모드 시 운전자의 제동의지, 가속의지 및 조향 의지에 대응하는 조작 정보를 검출할 수 있다.The driving manipulation information detection unit 140 can detect manipulation information corresponding to the driver's intention to brake, intention to accelerate, and intention to steer in the manual driving mode.

주행 조작 정보 검출부(140)는 자율 주행 모드 중 제어권 인계에 의한 운전자의 제동의지, 가속의지 및 조향 의지에 대응하는 조작 정보를 검출할 수 있다.The driving manipulation information detection unit 140 can detect manipulation information corresponding to the driver's intention to brake, intention to accelerate, and intention to steer by handing over control during autonomous driving mode.

아울러 주행 조작 정보 검출부(140)는 자율 주행 모드 시 운전자의 주행 개입에 의한 운전자의 제동의지, 가속의지 및 조향 의지에 대응하는 조작 정보를 검출하는 것도 가능하다.In addition, the driving manipulation information detection unit 140 is also capable of detecting manipulation information corresponding to the driver's braking intention, acceleration intention, and steering intention due to the driver's driving intervention in autonomous driving mode.

주행 조작 정보 검출부(140)는 제1가압 검출부(141), 제2가압 검출부(142) 및 조향각 검출부(143)를 포함할 수 있다.The driving operation information detection unit 140 may include a first pressure detection unit 141, a second pressure detection unit 142, and a steering angle detection unit 143.

제1가압 검출부(141)는 브레이크 페달에 인가된 압력을 검출하고 검출된 압력에 대응하는 가압 정보를 출력한다.The first pressure detection unit 141 detects the pressure applied to the brake pedal and outputs pressure information corresponding to the detected pressure.

제1가압 검출부(141)는 압력 센서 및 위치 센서 중 적어도 하나를 포함할 수 있다.The first pressure detector 141 may include at least one of a pressure sensor and a position sensor.

제2가압 검출부(142)는 액셀러레이터 페달에 인가된 압력을 검출하고 검출된 압력에 대응하는 가압 정보를 출력한다.The second pressure detection unit 142 detects the pressure applied to the accelerator pedal and outputs pressure information corresponding to the detected pressure.

제2가압 검출부(142)는 압력 센서 및 위치 센서 중 적어도 하나를 포함할 수 있다.The second pressure detector 142 may include at least one of a pressure sensor and a position sensor.

조향각 검출부(143)는 차량의 주행 방향을 인식하기 위한 스티어링 휠의 조향각을 검출하고 검출된 조향각에 대응하는 조향각 정보를 출력한다.The steering angle detection unit 143 detects the steering angle of the steering wheel to recognize the driving direction of the vehicle and outputs steering angle information corresponding to the detected steering angle.

조향각 검출부(143)는 스티어링 휠의 조향 각속도를 검출하는 각속도 센서를 포함할 수 있고, 차량의 요 모멘트를 검출하는 요 레이트 센서를 포함할 수 있다.The steering angle detector 143 may include an angular velocity sensor that detects the steering angular velocity of the steering wheel and a yaw rate sensor that detects the yaw moment of the vehicle.

차량은 스티어링 휠에 인가된 조향 토크 또는 조향 장치에서 출력되는 조향 토크를 검출하는 토크 검출부(미도시)를 더 포함할 수 있다.The vehicle may further include a torque detector (not shown) that detects the steering torque applied to the steering wheel or the steering torque output from the steering device.

제1제어부(150)는 자율 주행을 제어하기 위한 자율 주행 제어 장치일 수 있다.The first control unit 150 may be an autonomous driving control device for controlling autonomous driving.

제1제어부(150)가 자율 주행을 제어하기 위한 자율 주행 제어 장치일 경우, 제1제어부는 제1통신부를 통해 제1, 2 영상획득부 및 장애물 검출부와 통신을 수행할 수 있다.When the first control unit 150 is an autonomous driving control device for controlling autonomous driving, the first control unit may communicate with the first and second image acquisition units and the obstacle detection unit through the first communication unit.

또한 제1제어부(150)는 자율 주행을 제어하기 위한 자율 주행 제어 장치를 포함할 수도 있다.Additionally, the first control unit 150 may include an autonomous driving control device for controlling autonomous driving.

제1제어부(150)는 주행 모드가 자율 주행 모드이면 현재 위치 정보와 목적지 정보를 확인하고 확인된 현재 위치 정보와 목적지 정보에 기초하여 현재 위치부터 목적지까지 경로를 생성하고 생성된 경로에 기초하여 자율 주행을 제어한다.If the driving mode is the autonomous driving mode, the first control unit 150 checks the current location information and destination information, creates a route from the current location to the destination based on the confirmed current location information and destination information, and autonomously operates based on the generated route. Control driving.

제1제어부(150)는 복수 개의 경로가 생성되면 운전자에게 선택할 것을 요청하고 운전자로부터 어느 하나의 경로의 선택 명령이 입력되면 입력된 어느 하나의 경로에 기초하여 자율 주행을 제어한다.When a plurality of paths are created, the first control unit 150 requests the driver to select one, and when a command to select one path is input from the driver, it controls autonomous driving based on the one input path.

제1제어부(150)는 목적지까지 경로 정보의 출력을 제어하는 것도 가능하다. 즉 제1제어부(150)는 선택된 경로로 주행할 수 있도록 내비게이션 정보를 생성하고 생성된 내비게이션 정보의 출력을 제어한다.The first control unit 150 can also control the output of route information to the destination. That is, the first control unit 150 generates navigation information and controls the output of the generated navigation information so that the vehicle can drive along the selected route.

제1제어부(150)는 현재 위치부터 목적지까지의 경로를 지도에 매칭시켜 표시하도록 제1표시부(180)를 제어하고, 현재 위치부터 목적지까지의 길 안내 정보를 표시하도록 제1표시부(180)를 제어하며, 동시에 길 안내 정보가 사운드로 출력되도록 사운드 출력부(190)의 동작을 제어할 수 있다.The first control unit 150 controls the first display unit 180 to display the route from the current location to the destination by matching it to the map, and controls the first display unit 180 to display route information from the current location to the destination. control, and at the same time, the operation of the sound output unit 190 can be controlled so that route information is output as sound.

제1제어부(150)는 장애물의 위치 정보가 표시되도록 단말기의 제1표시부(180)의 동작을 제어하는 것도 가능하다.The first control unit 150 can also control the operation of the first display unit 180 of the terminal so that location information of obstacles is displayed.

즉 제1제어부(150)는 자율 주행 모드의 수행 중 제1영상 획득부(130)를 통해 획득된 자 차량의 전후좌우 방향의 영상을 표시하도록 하는 것도 가능하고, 내비게이션 모드와 연동하여 경로가 매칭된 지도 정도 및 길 안내 정보를 표시하도록 하는 것도 가능하다.That is, the first control unit 150 is capable of displaying images in the front, left, and right directions of the vehicle acquired through the first image acquisition unit 130 while performing autonomous driving mode, and performs route matching in conjunction with the navigation mode. It is also possible to display map information and route information.

제1제어부(150)는 자율 주행 제어 시 미리 설정된 속도 또는 운전자에 의해 선택된 속도로 주행을 제어할 수 있다.When controlling autonomous driving, the first control unit 150 can control driving at a preset speed or a speed selected by the driver.

차량은 자 차량의 주행 속도를 검출하기 위한 속도 검출부(미도시)를 더 포함할 수 있다. 이러한 속도 검출부는 차량의 복수 개의 휠에 각각 마련된 복수 개의 휠 속도 센서를 포함할 수 있고, 차량의 가속도를 검출하는 가속도 센서를 포함할 수 있다.The vehicle may further include a speed detection unit (not shown) to detect the driving speed of the vehicle. This speed detection unit may include a plurality of wheel speed sensors provided on each of a plurality of wheels of the vehicle, and may include an acceleration sensor that detects acceleration of the vehicle.

즉 제1제어부(150)는 제1영상 획득부(110)에서 획득된 영상의 영상 데이터가 수신되면 수신된 영상 데이터를 영상 처리하여 도로의 차선을 인식하고 인식된 차선의 위치 정보에 기초하여 주행 차로를 인식하며 인식된 주행 차로를 따라 자율 주행하도록 제어하되, 경로에 기초하여 차량의 조향을 제어하고, 검출된 속도가 미리 설정된 속도를 추종하도록 동력 장치(미도시) 및 제동 장치(미도시)를 제어한다.That is, when the first control unit 150 receives the image data of the image acquired by the first image acquisition unit 110, it processes the received image data to recognize the lane of the road and drives based on the location information of the recognized lane. It recognizes the lane and controls autonomous driving along the recognized driving lane, but controls the steering of the vehicle based on the path, and uses a power unit (not shown) and a braking unit (not shown) to ensure that the detected speed follows the preset speed. control.

제1제어부(150)는 자율 주행 모드이면 장애물 검출부(130)에서 검출된 장애물과의 거리 정보에 기초하여 자 차로의 좌측 방향과 우측 방향의 차로를 주행하는 타 차량 및 장애물의 위치를 확인하고, 확인된 타 차량 및 장애물의 위치에 대응하는 거리를 확인하며, 확인된 타 차량 및 장애물과의 거리에 기초하여 자 차량의 속도를 조절하는 것도 가능하다. 이를 통해 장애물과의 충돌을 방지할 수 있도록 한다.In autonomous driving mode, the first control unit 150 checks the positions of other vehicles and obstacles traveling in the left and right lanes of the own lane based on information on the distance to the obstacle detected by the obstacle detection unit 130, It is possible to check the distance corresponding to the location of other confirmed vehicles and obstacles, and to adjust the speed of the own vehicle based on the distance to other confirmed vehicles and obstacles. This helps prevent collisions with obstacles.

제1제어부(150)는 자율 주행 모드 시, 제1, 2 영상 획득부(110, 120)에 의해 획득된 영상 데이터의 휘도 데이터를 암호화하여 저장하는 것도 가능하다.The first control unit 150 is also capable of encrypting and storing the luminance data of the image data acquired by the first and second image acquisition units 110 and 120 in the autonomous driving mode.

제1제어부(150)는 자율 주행 모드 시, 장애물 검출부(130)에 의해 검출된 장애물의 검출 정보에 기초하여 현재 주행 상황이 사고 위험 상황인지 판단하고, 현재 주행 상황이 사고 위험 상황이라고 판단되면 제1, 2 영상 획득부(110, 120)에 의해 획득된 영상 데이터의 휘도 데이터를 암호화하여 저장하는 것도 가능하다.In the autonomous driving mode, the first control unit 150 determines whether the current driving situation is an accident risk situation based on the detection information of the obstacle detected by the obstacle detection unit 130, and if it is determined that the current driving situation is an accident risk situation, the first control unit 150 determines whether the current driving situation is an accident risk situation. It is also possible to encrypt and store the luminance data of the image data acquired by the first and second image acquisition units 110 and 120.

좀 더 구체적으로, 제1제어부(150)는 속도 검출부(미도시)에서 검출된 검출 정보에 기초하여 자 차량의 주행 속도를 획득하고, 획득된 자 차량의 주행 속도와 장애물과의 거리에 기초하여 장애물과의 상대 거리 및 상대 속도 중 적어도 하나를 획득하고 획득된 상대 거리 및 상대 속도 중 적어도 하나에 기초하여 장애물과 충돌에 의한 사고 위험이 존재하는지 판단한다.More specifically, the first control unit 150 acquires the driving speed of the own vehicle based on the detection information detected by the speed detection unit (not shown), and obtains the driving speed of the own vehicle and the distance from the obstacle. At least one of the relative distance and relative speed with the obstacle is obtained, and based on at least one of the obtained relative distance and relative speed, it is determined whether there is a risk of an accident due to collision with the obstacle.

제1제어부(150)는 장애물과의 상대 거리가 기준 상대 거리 이하인 조건과, 장애물의 상대 속도가 기준 상대 속도 이상인 조건 중 적어도 하나를 만족하면 장애물과의 충돌에 의한 사고 위험이 존재한다고 판단한다.The first control unit 150 determines that there is a risk of an accident due to collision with an obstacle if at least one of the conditions that the relative distance to the obstacle is less than or equal to the standard relative distance and the condition that the relative speed of the obstacle is greater than or equal to the reference relative speed is satisfied.

제1제어부(150)는 획득된 장애물과의 상대 거리 및 상대 속도에 기초하여 자 차량과 장애물과의 충돌 예상 시간(Time To Collision, TTC)을 획득하고, 획득된 충돌 예상 시간이 기준 충돌 시간 이하이면 장애물과의 충돌에 의한 사고 위험이 존재한다고 판단하는 것도 가능하다.The first control unit 150 obtains the expected collision time (Time To Collision, TTC) between the vehicle and the obstacle based on the obtained relative distance to the obstacle and the relative speed, and the obtained expected collision time is less than or equal to the reference collision time. It is also possible to determine that there is a risk of an accident due to collision with an obstacle.

제1제어부(150)는 사고 위함 상황이라고 판단되면 장애물의 검출 정보를 저장하는 것도 가능하다.The first control unit 150 is also capable of storing obstacle detection information when it is determined that the situation is likely to cause an accident.

제1제어부(150)는 사고 위험 여부를 판단할 때, 장애물과의 상대 거리에 대응하는 사고 위험도, 장애물과의 상대 속도에 대응하는 사고 위험도, 장애물과의 충돌 예상 시간에 대응하는 사고 위험도 중 적어도 하나를 확인하고, 확인된 위험도가 기준 위험도 이상이면 주행 제어권을 운전자에게 인계하는 것도 가능하다.When determining whether there is an accident risk, the first control unit 150 determines at least one of the accident risk corresponding to the relative distance to the obstacle, the accident risk corresponding to the relative speed with the obstacle, and the accident risk corresponding to the expected collision time with the obstacle. It is also possible to check one and, if the confirmed risk is higher than the standard risk, transfer driving control to the driver.

제1제어부(150)는 주행 제어권 인계 시 현재 위치부터 목적지까지의 자율 주행 제어를 정지하고 브레이크 페달, 액셀러레이터 페달 및 스티어링 휠로부터 전송된 조작 정보에 기초하여 차량의 주행을 제어한다.When handing over driving control rights, the first control unit 150 stops autonomous driving control from the current location to the destination and controls driving of the vehicle based on operation information transmitted from the brake pedal, accelerator pedal, and steering wheel.

제1제어부(150)는 주행 제어권 인계 시 제1표시부 및 사운드 출력부 중 적어도 하나를 제어하여 주행 제어권의 인계 정보를 출력하도록 한다.When handing over driving control rights, the first control unit 150 controls at least one of the first display unit and the sound output unit to output information about handing over driving control rights.

제1제어부(150)는 자율 주행의 제어 중 제동력, 가속량 및 조향각을 확인하고, 확인된 제동력이 기준 제동력 이상이면 사고 위험 상황이라고 판단하고, 확인된 가속량이 기준 가속량 이상이면 사고 위험 상황이라고 판단하며, 확인된 조향각이 기준 조향각 이상이면 사고 위험 상황이라고 판단한다.The first control unit 150 checks the braking force, acceleration amount, and steering angle while controlling autonomous driving, and determines that it is an accident risk situation if the confirmed braking force is greater than the standard braking force. If the confirmed acceleration amount is greater than the standard acceleration amount, it determines that it is an accident risk situation. If the confirmed steering angle is greater than the standard steering angle, it is determined that there is a risk of an accident.

제1제어부(150)는 차량의 현재 위치가 고속도로이면 제동력, 가속량 및 조향각을 확인하고, 확인된 제동력이 기준 제동력 이상인 조건과, 확인된 가속량이 기준 가속량 이상인 조건과, 확인된 조향각이 기준 조향각 이상인 조건 중 적어도 하나를 만족하면 사고 위험 상황이라고 판단하는 것도 가능하다.If the current location of the vehicle is a highway, the first control unit 150 checks the braking force, acceleration amount, and steering angle, sets the condition that the confirmed braking force is more than the standard braking force, the confirmed acceleration amount is more than the standard acceleration amount, and the confirmed steering angle is the standard. If at least one of the conditions exceeding the steering angle is satisfied, it is possible to determine that the situation is at risk of an accident.

도 2에 도시된 바와 같이, 차량에 전후좌우의 영상을 획득하는 제1, 2, 3, 4 카메라(111, 112, 113, 114)가 마련된 경우, 제1제어부(150)는 제1 영상 획득부의 제1, 2, 3, 4 카메라(111, 112, 113, 114)에서 획득된 영상을 각각 디코딩하는 디코딩부(150a)와, 디코딩된 영상 데이터에 기초하여 차선 인식 및 장애물 인식을 수행하고 인식된 차선의 정보 및 인식된 장애물의 정보에 기초하여 자율 주행을 제어하는 주행 제어부(150b)와, 제1 영상 획득부의 제1, 2, 3, 4 카메라(111, 112, 113, 114)에서 획득된 영상 데이터를 각각 암호화하고 암호화된 영상 데이터를 제1저장부(151) 및 제1통신부(160) 중 적어도 하나에 전송하는 암호화부(150c)를 포함할 수 있다.As shown in FIG. 2, when the vehicle is equipped with first, second, third, and fourth cameras (111, 112, 113, and 114) that acquire images of the front, rear, left, and right sides, the first control unit 150 acquires the first image. A decoding unit 150a that decodes images acquired from the first, second, third, and fourth cameras 111, 112, 113, and 114, respectively, and performs lane recognition and obstacle recognition based on the decoded image data. Acquired from the driving control unit 150b, which controls autonomous driving based on information on the recognized lane and information on recognized obstacles, and the first, second, third, and fourth cameras 111, 112, 113, and 114 of the first image acquisition unit. It may include an encryption unit 150c that encrypts each piece of image data and transmits the encrypted image data to at least one of the first storage unit 151 and the first communication unit 160.

여기서 제1 영상 획득부의 제1, 2, 3, 4 카메라(111, 112, 113, 114)는 이더넷 카메라로, 획득된 영상 데이터를 암호화하여 제1제어부(150)의 디코딩부(150a)에 전송할 수 있다.Here, the first, second, third, and fourth cameras (111, 112, 113, and 114) of the first image acquisition unit are Ethernet cameras, and the acquired image data is encrypted and transmitted to the decoding unit (150a) of the first control unit (150). You can.

제1, 2, 3, 4 카메라(111, 112, 113, 114)는 영상 데이터 패킷을 송신할 때, 전송할 영상 데이터에 관한 정보를 추상화하는 네트워크 추상화 레이어(NAL) 정보를 생성하고 네트워크 추상화 레이어 정보를 포함하는 영상 데이터의 패킷을 생성하며 생성된 영상 데이터의 패킷을 네트워크 통신을 통해 송신한다.When transmitting an image data packet, the first, second, third, and fourth cameras (111, 112, 113, and 114) generate network abstraction layer (NAL) information that abstracts information about the image data to be transmitted, and network abstraction layer information A packet of video data including is generated and the generated video data packet is transmitted through network communication.

즉 1, 2, 3, 4 카메라(111, 112, 113, 114)는 네트워크 추상화 레이어(NAL: Network Abstraction Layer) 단위(Unit)로 알려진 패킷으로 전송함으로써 효율적으로 영상을 전송할 수 있다. That is, cameras 1, 2, 3, and 4 (111, 112, 113, and 114) can efficiently transmit images by transmitting packets known as Network Abstraction Layer (NAL) units.

제1제어부에 수신된 영상 데이터는, 네트워크 추상화 레이어(NAL: Network Abstraction Layer) 단위들로 이루어진 스트림일 수 있다.The image data received by the first control unit may be a stream composed of Network Abstraction Layer (NAL) units.

이에 따라 제1제어부(150)의 디코딩부(150a)는 수신된 영상 데이터를 자율 주행을 위해 차량에서 인식 가능한 데이터의 형식으로 디코딩할 수 있다. Accordingly, the decoding unit 150a of the first control unit 150 can decode the received image data into a data format that can be recognized by the vehicle for autonomous driving.

여기서 동일 시점에 60초 동안 획득되어 디코딩부에서 디코딩된 4개의 영상 데이터는, 1Mpixel x 1.5Bytes x 3fps x 60s x 4ch = 1080MBps 의 양을 가질 수 있다.Here, the four video data acquired for 60 seconds at the same time and decoded by the decoder may have an amount of 1Mpixel x 1.5Bytes x 3fps x 60s x 4ch = 1080MBps.

제1제어부(150)의 주행 제어부(150b)는 디코딩된 제1, 2, 3, 4 카메라의 영상 데이터를 각각 수신하고 각각 수신된 영상 데이터의 신호 처리를 수행하되 신호 처리의 속도를 향상시키기 위하여 사이즈와 포맷을 변경하고, 화질 개선 작업을 수행하고 클리어링 처리 및 노이즈 제거 처리를 수행할 수 있다. 이러한 신호 처리 등은 디코딩부에서 수행하는 것도 가능하다.The driving control unit 150b of the first control unit 150 receives decoded image data from the first, second, third, and fourth cameras, respectively, and performs signal processing on the received image data, in order to improve the speed of signal processing. You can change the size and format, perform image quality improvement operations, and perform clearing processing and noise removal processing. It is also possible to perform such signal processing in the decoding unit.

주행 제어부(150b)는 영상 데이터에서 물체를 분해하는 비전기술들을 적용하여 영상 데이터로부터 차선을 인식하고, 물체들에서 장애물을 인식한다.The driving control unit 150b applies vision technologies that decompose objects in the image data to recognize lanes from the image data and recognize obstacles in the objects.

주행 제어부(150b)는 영상 데이터에 기초하여 장애물의 크기와 위치를 식별하고 장애물의 위치 및 궤적을 계산하여 장애물이 자전거, 보행자, 표지판, 신호등 및 타 차량인지 구별하는 것도 가능하다. The driving control unit 150b can identify the size and location of the obstacle based on the image data and calculate the location and trajectory of the obstacle to distinguish whether the obstacle is a bicycle, pedestrian, sign, traffic light, or other vehicle.

주행 제어부(150b)는 장애물 검출부(130)에 의해 검출된 점 데이터를 군집화하여 장애물의 형상 정보 및 위치 정보를 인식하고 장애물의 형상 정보에 기초하여 장애물의 타입을 구별하는 것도 가능하다.The driving control unit 150b clusters the point data detected by the obstacle detection unit 130 to recognize shape information and location information of the obstacle, and is also capable of distinguishing the type of obstacle based on the shape information of the obstacle.

즉 주행 제어부(150b)는 자 차량과 장애물 간의 방향, 거리 및 점의 양으로부터의 장애물의 형상 정보 및 위치 정보를 인식할 수 있다.That is, the driving control unit 150b can recognize the shape information and location information of the obstacle from the direction, distance, and amount of points between the vehicle and the obstacle.

주행 제어부(150b)는 제1영상획득부(110)에서 획득된 영상 정보와 장애물 검출부(130)에서 검출된 검출 정보 중 적어도 하나에 기초하여 적어도 하나의 장애물의 위치 정보를 획득하고, 획득된 적어도 하나의 장애물의 위치 정보에 기초하여 충돌 위험이 있는 장애물에 대한 장애물의 위치 정보를 획득할 수 있다.The driving control unit 150b acquires location information of at least one obstacle based on at least one of image information acquired by the first image acquisition unit 110 and detection information detected by the obstacle detection unit 130, and obtains location information of at least one obstacle. Based on the location information of one obstacle, location information about an obstacle with a risk of collision can be obtained.

주행 제어부(150b)는 장애물의 위치 정보에 기초하여 제동이 필요한 상황인지, 가속이 필요한 상황인지, 조향이 필요한 상황인지를 인식하고 인식된 필요 상황에 기초하여 제동, 가속 및 조향 중 적어도 하나를 제어한다.The driving control unit 150b recognizes whether a situation requires braking, a situation requiring acceleration, or a situation requiring steering based on the location information of the obstacle, and controls at least one of braking, acceleration, and steering based on the recognized necessary situation. do.

주행 제어부(150b)는 충돌에 의한 사고 위험이 존재한다고 판단되면 암호화된 영상 데이터를 저장하도록 제1저장부의 동작을 제어할 수 있다.If it is determined that there is a risk of an accident due to collision, the driving control unit 150b may control the operation of the first storage unit to store the encrypted image data.

제1제어부(150)의 주행 제어부는 사고 위험에 대응하는 신호를 암호화부에 전송하는 것도 가능하다.The driving control unit of the first control unit 150 may also transmit a signal corresponding to the risk of an accident to the encryption unit.

제1제어부(150)의 주행 제어부는 사고 위험 방향에 대응하는 신호를 암호화부에 전송하는 것도 가능하다. The driving control unit of the first control unit 150 may also transmit a signal corresponding to the direction of the risk of an accident to the encryption unit.

암호화부(150c)는 제1, 2, 3, 4 카메라(111, 112, 113, 114)에서 전송한 네트워크 추상화 레이어 단위(unit)의 영상 데이터를 암호화한다.The encryption unit 150c encrypts the video data of the network abstraction layer unit transmitted from the first, second, third, and fourth cameras (111, 112, 113, and 114).

도 3에 도시된 바와 같이, 네트워크 추상화 레이어(NAL: Network Abstraction Layer)은 네트워크 추상화 레이어 단위(unit)와 페이로드(Payloads)를 포함할 수 있다.As shown in FIG. 3, a network abstraction layer (NAL) may include a network abstraction layer unit and payloads.

여기서 페이로드(Payloads)에는 로 바이트 시퀀스 페이로드(RBSP: Raw Byte Sequence Payload)가 위치할 수 있고, 로 바이트 시퀀스 페이로드(RBSP)에는 시퀀스 파라미터 셋(SPS: Sequence Parameter Set), 픽쳐 파라미터 셋(PPS: Picture Parameter Set) 등의 정보를 알려주는 파라미터 셋과, 비디오 코딩 레이어(VCL: Video Coding Layer)에 해당하는 복수 개의 슬라이스(Slice)가 포함될 수 있다.Here, a raw byte sequence payload (RBSP) may be located in the payload, and the raw byte sequence payload (RBSP) may include a sequence parameter set (SPS: Sequence Parameter Set) and a picture parameter set ( A parameter set that provides information such as PPS (Picture Parameter Set) and a plurality of slices corresponding to a video coding layer (VCL: Video Coding Layer) may be included.

비디오 코딩 레이어(VCL)는 네트워크 추상화 레이어 단위(NAL Unit)을 통해 외부와 인터페이스를 수행할 수 있다.The video coding layer (VCL) can interface with the outside through a network abstraction layer unit (NAL Unit).

복수 개의 슬라이스는 영상 시퀀스의 선두 픽쳐인 IDR(Instantaneous Decoding Refresh)슬라이스와, 비 아이디알(non- IDR) 슬라이스로 이루어진다.The plurality of slices consists of an Instantaneous Decoding Refresh (IDR) slice, which is the leading picture of the video sequence, and a non-IDR slice.

각 슬라이스는 헤더와 데이터를 포함하는 슬라이스 레이어로 이루어질 수 있고, 슬라이스 레이어에서의 데이터는 복수 개의 매크로 블록(Macroblock)로 이루어진 매크로 블록 레이어를 포함할 수 있다.Each slice may be comprised of a slice layer including a header and data, and data in the slice layer may include a macroblock layer comprised of a plurality of macroblocks.

여기서 매크로 블록 레이어는 네트워크 추상화 레이어를 구성하는 최소의 단위로 H.264에서 영상의 기본 단위일 수 있다.Here, the macro block layer is the minimum unit that constitutes the network abstraction layer and may be the basic unit of video in H.264.

매크로 블록 레이어의 각 매크로 블록은 움직임 보상 및 움직임 예측을 위해 여러 화소 블록들을 그룹화시킨 예측 단위로, 타입(Type), 예측 타입(Prediction Type), 코딩된 픽쳐 버퍼(CPB: coded picture buffer), 양자화 파라미터(QP: quantization parameter), 데이터(DATA)를 포함한다. 여기서 매크로 블록의 데이터는 휘도 데이터(Y)와 색차 데이터(Cr, Cb)를 포함한다.Each macroblock in the macroblock layer is a prediction unit that groups several pixel blocks for motion compensation and motion prediction, and includes Type, Prediction Type, Coded Picture Buffer (CPB), and Quantization. Includes parameters (QP: quantization parameter) and data (DATA). Here, the data of the macro block includes luminance data (Y) and color difference data (Cr, Cb).

여기서 휘도 데이터는 4X4, 16X16의 화소 블록을 가질 수 있고, 색차 데이터는 8X8 화소 블록을 가질 수 있다.Here, luminance data may have 4X4 or 16X16 pixel blocks, and chrominance data may have 8X8 pixel blocks.

각 매크로블록은 모두 서로 다른 암호화 방식을 사용할 수 있으며, 암호화 방식에는 DES(Data Encryption standard), 3DES(Triple Data Encryption standard), AES(Advanced Encryption Standard), 아리아(ARIA: Academy Research Institute Agency), 시드(SEED), HEIGHT(HIGh security and light weight) 등이 있다.Each macroblock can use a different encryption method, and the encryption methods include DES (Data Encryption standard), 3DES (Triple Data Encryption standard), AES (Advanced Encryption Standard), ARIA (Academy Research Institute Agency), and seed. (SEED), HEIGHT (HIGh security and light weight), etc.

즉, 암호화가 매크로블록 단위로 이루어질 수 있다.That is, encryption can be done on a macroblock basis.

이러한 H.264의 모든 데이터는 각각의 네트워크 추상화 레이어 단위(NAL Unit)으로 구성되어지며 각각의 네트워크 추상화 레이어(NAL)는 고유의 일련번호를 가질 수 있다.All data in H.264 is composed of each network abstraction layer unit (NAL Unit), and each network abstraction layer (NAL) can have a unique serial number.

도 4에 도시된 바와 같이, 제1제어부의 암호화부(150c)에 수신된 영상데이터는 색차와 휘도에 의해 서로 다른 크기(MB1, MB2, MB3)의 매크로 블록으로 분할되어 있을 수 있다.As shown in FIG. 4, the image data received by the encryption unit 150c of the first control unit may be divided into macro blocks of different sizes (MB1, MB2, and MB3) according to color difference and luminance.

또한 제1제어부의 암호화부(150c)는 수신된 영상데이터의 장애물 인식을 통해 관심 영역(ROI: Region Of Interest)을 획득할 수 있다. 관심 영역에 대한 정보는 주행 제어부(150b)로부터 제공받는 것도 가능하다.Additionally, the encryption unit 150c of the first control unit can obtain a region of interest (ROI) through obstacle recognition in the received image data. It is also possible to receive information about the area of interest from the driving control unit 150b.

암호화부(150c)는 제1, 2, 3, 4 카메라에 의해 획득된 영상 데이터가 각각 수신되면 각각 수신된 영상 데이터에서 매크로 블록별 휘도 데이터를 확인하고 확인된 매크로 블록별 휘도 데이터만을 각각 암호화하고 매크로 블록별로 휘도 데이터만이 암호화된 영상 데이터를 제1저장부에 각각 저장한다.When the image data acquired by the first, second, third, and fourth cameras are respectively received, the encryption unit 150c checks the luminance data for each macro block in each received image data, and encrypts only the confirmed luminance data for each macro block. Image data with only the luminance data encrypted for each macro block is stored in the first storage unit.

암호화부(150c)는 차량의 주행 상황이 사고 위험 상황이 아니면 암호화된 영상 데이터를 제1저장부의 제1메모리(151a)에 저장하고, 차량의 주행 상황이 사고 위험 상황이면 암호화된 영상 데이터를 제1저장부의 제2메모리(151b)에 저장하며 암호화된 영상 데이터가 서버(200)에 전송되도록 제1통신부(160)를 제어한다.The encryption unit 150c stores the encrypted video data in the first memory 151a of the first storage unit if the vehicle's driving situation is not an accident risk situation, and stores the encrypted video data if the vehicle's driving situation is an accident risk situation. The first communication unit 160 is controlled so that the encrypted video data is stored in the second memory 151b of the first storage unit and transmitted to the server 200.

암호화부(150c)는 사고 위험 상황에 대응하는 저장 명령을 주행 제어부로부터 수신하는 것도 가능하다.The encryption unit 150c is also capable of receiving a storage command corresponding to an accident risk situation from the driving control unit.

암호화부(150c)는 제2영상 획득부(120)에서 획득된 영상 데이터를 암호화하는 것도 가능하다. 이때에도 제2영상 획득부(120)에서 획득된 영상 데이터의 매크로 블록별 휘도 데이터만을 암호화하는 것도 가능하다.The encryption unit 150c is also capable of encrypting image data acquired by the second image acquisition unit 120. At this time, it is also possible to encrypt only the luminance data for each macro block of the image data acquired by the second image acquisition unit 120.

암호화부(150c)는 제1영상 획득부와 제2영상 획득부에서 획득된 영상 데이터를 서로 다른 방식으로 암호화하는 것도 가능하다.The encryption unit 150c is also capable of encrypting image data acquired from the first image acquisition unit and the second image acquisition unit in different ways.

암호화부(150c)는 영상 데이터에서 관심 영역을 확인하고, 확인된 관심 영역 내의 매크로 블록 중 미리 설정된 크기보다 작은 매크로 블록을 확인하고 확인된 매크로 블록의 휘도 데이터를 암호화한다.The encryption unit 150c identifies a region of interest in the image data, identifies a macro block smaller than a preset size among the macro blocks in the identified region of interest, and encrypts the luminance data of the confirmed macro block.

암호화부(150c)는 영상 데이터에서 관심 영역을 확인하고, 확인된 관심 영역의 휘도 데이터를 암호화하는 것도 가능하다.The encryption unit 150c is also capable of identifying a region of interest in the image data and encrypting luminance data of the identified region of interest.

암호화부(150c)는 영상 데이터의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록을 확인하고 확인된 매크로 블록의 휘도 데이터를 암호화하는 것도 가능하다.The encryption unit 150c is also capable of checking macro blocks of image data that are smaller than a preset size and encrypting the luminance data of the confirmed macro blocks.

제1제어부(150)는 사고 위험 상황이라고 판단되면 사고 위험 상황이 발생한 방향을 확인하고 확인된 방향에 대응하는 적어도 하나의 카메라의 영상 데이터의 암호화를 제어하는 것도 가능하다. If it is determined that there is an accident risk situation, the first control unit 150 may check the direction in which the accident risk situation occurred and control the encryption of image data of at least one camera corresponding to the confirmed direction.

예를 들어, 제1제어부(150)는 사고 위험 상황의 발생 방향이 전방이면 제1카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 전방과 인접한 방향의 제3, 4카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.For example, if the direction in which an accident risk situation occurs is the front, the first control unit 150 may encrypt the image data obtained from the first camera and store it in the second memory, and the third, It is also possible to further encrypt the image data obtained from the 4 camera and store it in the second memory.

제1제어부(150)는 사고 위험 상황의 발생 방향이 후방이면 제2카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 후방과 인접한 방향의 제3, 4카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is from the rear, the first control unit 150 can encrypt the image data obtained from the second camera and store it in the second memory, and the image data obtained from the third and fourth cameras in the direction adjacent to the rear can be used. It is also possible to further encrypt the image data and store it in the second memory.

제1제어부(150)는 사고 위험 상황의 발생 방향이 우측방향이면 제4카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 우측방향과 인접한 방향의 제1, 2카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is to the right, the first control unit 150 is also capable of encrypting the image data obtained from the fourth camera and storing it in the second memory, and the first and second cameras in the direction adjacent to the right direction. It is also possible to further encrypt the image data acquired and store it in the second memory.

제1제어부(150)는 사고 위험 상황의 발생 방향이 좌측방향이면 제3카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하는 것도 가능하고, 좌측방향과 인접한 방향의 제1, 2카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is toward the left, the first control unit 150 is also capable of encrypting the image data obtained from the third camera and storing it in the second memory. It is also possible to further encrypt the acquired image data and store it in the second memory.

제1제어부(150)는 제2영상 획득부에서 획득된 영상 데이터는 모두 암호화하여 저장할 수 있다.The first control unit 150 may encrypt and store all image data acquired from the second image acquisition unit.

제1제어부(150)는 사고 위험도가 기준 위험도 이상이면 2차 사고의 위험이 존재한다고 판단하여 제1, 2, 3, 4 카메라에서 획득된 영상 데이터의 휘도 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the accident risk is higher than the standard risk, the first control unit 150 determines that there is a risk of a secondary accident and encrypts the luminance data of the image data obtained from the first, second, third, and fourth cameras and stores it in the second memory. It is also possible to do so.

제1제어부(150)는 복수 개의 휠 속도의 차이에 기초하여 차체의 회전이 발생하였는지 판단하고 차체의 회전이 발생하였다고 판단되면 제1, 2, 3, 4 카메라에서 획득된 영상 데이터의 휘도 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.The first control unit 150 determines whether rotation of the vehicle body has occurred based on the difference between the speeds of the plurality of wheels. If it is determined that rotation of the vehicle body has occurred, the first control unit 150 uses the luminance data of the image data acquired from the first, second, third, and fourth cameras. It is also possible to encrypt and store it in the second memory.

제1제어부(150)는 요레이트 검출부(미도시)에서 검출된 정보에 기초하여 차체의 회전이 발생하였는지 판단하는 것도 가능하다.The first control unit 150 can also determine whether rotation of the vehicle body has occurred based on information detected by a yaw rate detector (not shown).

제1제어부(150)는 충돌 발생 시 전체적인 상황을 파악할 수 있도록 제1, 2, 3, 4 카메라에서 획득된 영상 데이터의 휘도 데이터를 암호화하는 것도 가능하다.The first control unit 150 is also capable of encrypting the luminance data of the image data acquired from the first, second, third, and fourth cameras so that the overall situation can be identified when a collision occurs.

제1제어부(150)는 사고 위험 상황이라고 판단되면 장애물 검출부에 의해 검출된 장애물 정보를 제1저장부의 제2메모리에 저장하는 것도 가능하고, 서버에 전송되도록 제1통신부를 제어하는 것도 가능하다.If it is determined that there is an accident risk situation, the first control unit 150 can store the obstacle information detected by the obstacle detection unit in the second memory of the first storage unit and control the first communication unit so that it is transmitted to the server.

제1제어부(150)는 수동 주행 모드 시에도 사고 위험 상황이라고 판단되면 사고의 발생 원인을 파악하기 위해 제1, 2 영상 획득부에 의해 획득된 영상 데이터의 휘도 데이터만을 암호화하여 저장하는 것도 가능하다.Even in manual driving mode, if the first control unit 150 determines that there is an accident risk situation, it is possible to encrypt and store only the luminance data of the image data acquired by the first and second image acquisition units in order to determine the cause of the accident. .

제1제어부(150)는 주행 모드가 수동 주행 모드이면, 브레이크 페달, 액셀러레이터 페달 및 스티어링 휠의 조작정보에 기초하여 차량의 주행 방향 및 차량의 주행 속도를 조절하면서 주행할 수 있도록 한다.When the driving mode is a manual driving mode, the first control unit 150 allows driving while adjusting the driving direction and driving speed of the vehicle based on operation information of the brake pedal, accelerator pedal, and steering wheel.

즉 제1제어부(150)는 수동 주행 모드의 수행 시에, 제1가압 검출부(141)에서 검출된 압력 정보에 기초하여 차량의 제동 및 감속을 제어하고, 제2가압 검출부(142)에서 검출된 압력 정보에 기초하여 차량의 가속을 제어하며, 조향각 검출부(143)에서 검출된 조향각 정보에 기초하여 차량의 주행 방향을 제어한다.That is, when performing the manual driving mode, the first control unit 150 controls braking and deceleration of the vehicle based on the pressure information detected by the first pressure detection unit 141, and controls the braking and deceleration of the vehicle based on the pressure information detected by the second pressure detection unit 142. Acceleration of the vehicle is controlled based on pressure information, and the driving direction of the vehicle is controlled based on the steering angle information detected by the steering angle detector 143.

제1제어부(150)는 영상의 암호화 및 디코딩을 제어하기 위한 알고리즘 또는 알고리즘을 재현한 프로그램에 대한 데이터를 저장하는 메모리(미도시), 및 메모리에 저장된 데이터를 이용하여 전술한 동작을 수행하는 프로세서(미도시)를 포함할 수 있다.The first control unit 150 includes a memory (not shown) that stores data for an algorithm for controlling the encryption and decoding of images or a program that reproduces the algorithm, and a processor that performs the above-described operations using the data stored in the memory. (not shown) may be included.

제1제어부(150)는 차량의 자율 주행 및 수동 주행 중 적어도 하나를 제어하는 전자 제어 단위(ECU)일 수 있고, 마이컴, CPU, 프로세서 중 어느 하나일 수 있다.The first control unit 150 may be an electronic control unit (ECU) that controls at least one of autonomous and manual driving of the vehicle, and may be any one of a microcomputer, CPU, or processor.

제1제어부(150)는 차량 내 구성부들의 동작을 제어하기 위한 알고리즘 또는 알고리즘을 재현한 프로그램에 대한 데이터를 저장하는 메모리(미도시), 및 메모리에 저장된 데이터를 이용하여 전술한 동작을 수행하는 프로세서(미도시)로 구현될 수 있다. 이때, 메모리와 프로세서는 각각 별개의 칩으로 구현될 수 있다. 또는, 메모리와 프로세서는 단일 칩으로 구현될 수도 있다.The first control unit 150 has a memory (not shown) that stores data for an algorithm for controlling the operation of components in the vehicle or a program that reproduces the algorithm, and performs the above-described operations using the data stored in the memory. It may be implemented with a processor (not shown). At this time, the memory and processor may each be implemented as separate chips. Alternatively, the memory and processor may be implemented as a single chip.

제1저장부(151)는 제1메모리(151a)와 제2메모리(151b)를 포함할 수 있다.The first storage unit 151 may include a first memory 151a and a second memory 151b.

제1메모리(151a)는 휘발성 메모리이고, 제2메모리(151b)는 비휘발성 메모리일 수 있다.The first memory 151a may be a volatile memory, and the second memory 151b may be a non-volatile memory.

제1메모리(151a)는 자율 주행 중에 암호화된 영상 데이터를 저장하고, 제2메모리(151b)는 사고 위험 상황 시에 암호화된 영상 데이터를 저장할 수 있다.The first memory 151a can store encrypted video data during autonomous driving, and the second memory 151b can store encrypted video data in an accident risk situation.

제2메모리(151b)는 사고 위험 상황 시에 장애물 검출 정보를 더 저장할 수 있고, 날짜 및 시간 정보 및 위치 정보를 더 저장할 수 있다.The second memory 151b can further store obstacle detection information in case of an accident risk situation, and can further store date and time information and location information.

휘발성 메모리는 S램(S-RAM), D랩(D-RAM) 중 적어도 하나를 포함할 수 있다.Volatile memory may include at least one of S-RAM and D-RAM.

비휘발성 메모리는 플래시 메모리, 롬(Read Only Memory), 이피롬(Erasable Programmable Read Only Memory: EPROM), 이이피롬(Electrically Erasable Programmable Read Only Memory: EEPROM) 중 적어도 하나를 포함할 수 있다.The non-volatile memory may include at least one of flash memory, read only memory (ROM), erasable programmable read only memory (EPROM), and electrically erasable programmable read only memory (EEPROM).

비휘발성 메모리는 PROM, EAROM, FeRAM, MRAM, PRAM, SONOS, RRAM, NRAM를 더 포함할 수 있다.Non-volatile memory may further include PROM, EAROM, FeRAM, MRAM, PRAM, SONOS, RRAM, and NRAM.

제1저장부(151)는 하드디스크 드라이브(HDD, Hard Disk Drive), CD-ROM과 같은 저장 매체 중 적어도 하나로 구현될 수 있으나 이에 한정되지는 않는다.The first storage unit 151 may be implemented as at least one of a storage medium such as a hard disk drive (HDD) or CD-ROM, but is not limited thereto.

제1저장부(151)는 미리 설정된 크기를 저장하는 것도 가능하다.The first storage unit 151 can also store a preset size.

제1저장부(151)는 사고 위험 상황을 판단하기 위한 장애물과의 기준 상대 거리, 기준 상대 속도, 기준 충돌 예상 시간 중 적어도 하나를 저장할 수 있다.The first storage unit 151 may store at least one of the reference relative distance to the obstacle, the reference relative speed, and the reference expected collision time for determining an accident risk situation.

제1저장부(151)는 장애물과의 상대 거리에 대응하는 사고 위험도, 장애물과의 상대 속도에 대응하는 사고 위험도, 충돌 예상 시간에 대응하는 사고 위험도를 더 저장할 수 있다.The first storage unit 151 may further store an accident risk corresponding to the relative distance to the obstacle, an accident risk corresponding to the relative speed to the obstacle, and an accident risk corresponding to the expected collision time.

제1저장부(151)는 제1제어부(150)와 일체로 마련되는 것도 가능하다.The first storage unit 151 may also be provided integrally with the first control unit 150.

제1저장부(151)는 제1제어부(150)와 관련된 프로세서와 별개의 칩으로 구현된 메모리일 수 있고, 프로세서와 단일 칩으로 구현된 메모리일 수도 있다. The first storage unit 151 may be a memory implemented as a separate chip from the processor related to the first control unit 150, or may be a memory implemented as a single chip with the processor.

제1통신부(160)는 안테나를 포함할 수 있다.The first communication unit 160 may include an antenna.

제1 통신부(160)는 안테나를 통해 인프라와 통신을 수행하며, 인프라를 통해 서버(200)에서 전송한 정보를 수신할 수 있다. 즉 제1통신부(160)은 도로의 인프라를 통해 서버(200)와 통신을 수행할 수 있다. The first communication unit 160 communicates with the infrastructure through an antenna and can receive information transmitted from the server 200 through the infrastructure. That is, the first communication unit 160 can communicate with the server 200 through the road infrastructure.

제1통신부(160)는 서버(200), 인프라 및 타 차량과 통신을 수행한다.The first communication unit 160 communicates with the server 200, infrastructure, and other vehicles.

제1통신부(160)는 제1제어부(150)의 제어 신호를 서버(200)에 전송하고 서버(200)에서 전송된 각종 정보를 제1제어부(150)에 전송한다.The first communication unit 160 transmits a control signal from the first control unit 150 to the server 200 and various information transmitted from the server 200 to the first control unit 150.

제1통신부(160)는 사고 위험 상황에 대응하는 각종 정보를 서버(200)에 전송한다. 여기서 각종 정보는 사고 위험 상황에 획득된 제1 영상 획득부의 영상 데이터, 제2영상획득부의 영상 데이터를 포함할 수 있고, 주행 조작 정보를 더 포함할 수 있다.The first communication unit 160 transmits various information corresponding to accident risk situations to the server 200. Here, the various information may include image data of the first image acquisition unit and image data of the second image acquisition unit acquired in an accident risk situation, and may further include driving operation information.

여기서 각종 정보는 운전자의 식별 정보, 차량의 식별 정보, 장애물의 검출 정보 및 차량의 위치 정보 등을 더 포함할 수 있다. Here, various types of information may further include driver identification information, vehicle identification information, obstacle detection information, and vehicle location information.

제1통신부(160)는 사고 위험 상황에 대응하는 영상 데이터 중 휘도 데이터가 암호화된 데이터를 서버(200)에 전송할 수 있다. The first communication unit 160 may transmit data in which luminance data is encrypted among image data corresponding to an accident risk situation to the server 200.

제1통신부(160)는 자율 주행 모드의 수행 시 타 차량과 통신을 수행하는 것도 가능하다. 이를 통해 제1통신부(160)는 타 차량으로부터 주변의 도로의 정보를 수신할 수 있다.The first communication unit 160 is also capable of communicating with other vehicles when performing autonomous driving mode. Through this, the first communication unit 160 can receive information about surrounding roads from other vehicles.

제1통신부(160)는 서버(200), 인프라 및 타 차량과 통신을 가능하게 하는 하나 이상의 구성 요소를 포함할 수 있으며, 예를 들어 근거리 통신 모듈, 유선 통신 모듈 및 무선 통신 모듈 중 적어도 하나를 포함할 수 있다.The first communication unit 160 may include one or more components that enable communication with the server 200, infrastructure, and other vehicles, for example, at least one of a short-range communication module, a wired communication module, and a wireless communication module. It can be included.

근거리 통신 모듈은 블루투스 모듈, 적외선 통신 모듈, RFID(Radio Frequency Identification) 통신 모듈, WLAN(Wireless Local Access Network) 통신 모듈, NFC 통신 모듈, 직비(Zigbee) 통신 모듈 등 근거리에서 무선 통신망을 이용하여 신호를 송수신하는 다양한 근거리 통신 모듈을 포함할 수 있다.The short-range communication module transmits signals using a wireless communication network at a short distance, such as a Bluetooth module, infrared communication module, RFID (Radio Frequency Identification) communication module, WLAN (Wireless Local Access Network) communication module, NFC communication module, and Zigbee communication module. It may include various short-range communication modules that transmit and receive.

유선 통신 모듈은 캔(Controller Area Network; CAN) 통신 모듈, 지역 통신(Local Area Network; LAN) 모듈, 광역 통신(Wide Area Network; WAN) 모듈 또는 부가가치 통신(Value Added Network; VAN) 모듈 등 다양한 유선 통신 모듈뿐만 아니라, USB(Universal Serial Bus), HDMI(High Definition Multimedia Interface), DVI(Digital Visual Interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 다양한 케이블 통신 모듈을 포함할 수 있다. Wired communication modules include a variety of wired communication modules, such as Controller Area Network (CAN) communication modules, Local Area Network (LAN) modules, Wide Area Network (WAN) modules, or Value Added Network (VAN) modules. In addition to communication modules, various cable communications such as USB (Universal Serial Bus), HDMI (High Definition Multimedia Interface), DVI (Digital Visual Interface), RS-232 (recommended standard232), power line communication, or POTS (plain old telephone service) Can contain modules.

유선 통신 모듈은 LIN(Local Interconnect Network)를 더 포함할 수 있다.The wired communication module may further include a Local Interconnect Network (LIN).

무선 통신 모듈은 와이파이(Wifi) 모듈, 와이브로(Wireless broadband) 모듈 외에도, GSM(global System for Mobile Communication), CDMA(Code Division Multiple Access), WCDMA(Wideband Code Division Multiple Access), UMTS(universal mobile telecommunications system), TDMA(Time Division Multiple Access), LTE(Long Term Evolution) 등 다양한 무선 통신 방식을 지원하는 무선 통신 모듈을 포함할 수 있다.In addition to Wi-Fi modules and WiBro (Wireless broadband) modules, wireless communication modules include GSM (global System for Mobile Communication), CDMA (Code Division Multiple Access), WCDMA (Wideband Code Division Multiple Access), and UMTS (universal mobile telecommunications system). ), TDMA (Time Division Multiple Access), and LTE (Long Term Evolution) may include a wireless communication module that supports various wireless communication methods.

제1통신부(160)는 차량의 현재 위치에 대응하는 위치 정보를 수신하기 위한 위치 수신부(미도시)를 더 포함할 수 있다.The first communication unit 160 may further include a location receiver (not shown) for receiving location information corresponding to the current location of the vehicle.

위치 수신부는 GPS(Global Positioning System) 수신기를 포함할 수 있다.The location receiver may include a Global Positioning System (GPS) receiver.

여기서 GPS(Global Positioning System) 수신기는 복수의 GPS 위성의 신호를 수신하는 안테나 모듈 및 신호 처리부를 포함한다. Here, the GPS (Global Positioning System) receiver includes an antenna module and a signal processing unit that receives signals from a plurality of GPS satellites.

안테나 모듈은 차량의 외장에 마련된 안테나에 마련될 수 있다.The antenna module may be installed on an antenna provided on the exterior of the vehicle.

신호 처리부는 복수의 GPS위성의 위치 신호에 대응하는 거리 및 시간 정보를 이용하여 현재의 위치를 획득하는 소프트웨어와, 획득된 차량의 위치 정보를 출력하는 출력부를 포함한다.The signal processing unit includes software that acquires the current location using distance and time information corresponding to the location signals of a plurality of GPS satellites, and an output unit that outputs the obtained location information of the vehicle.

제1입력부(170)는 차랑의 각종 기능의 동작 명령을 입력받는다.The first input unit 170 receives operation commands for various functions of the vehicle.

예를 들어, 입력부(170)는 주행 모드 중 수동 주행 모드와 자율 주행 모드를 입력받을 수 있고, 목적지 정보 및 경로 정보를 입력받을 수 있다.For example, the input unit 170 can receive manual driving mode and autonomous driving mode among driving modes, and can receive destination information and route information.

제1입력부(170)는 사고 위험 발생 시에 획득한 영상 데이터의 저장 명령 및 전송 명령 중 적어도 하나를 입력받는 것도 가능하다. The first input unit 170 is also capable of receiving at least one of a storage command and a transmission command of image data obtained when an accident risk occurs.

제1입력부(170)는 헤드 단위 및 센터페시아에 마련될 수 있고, 각종 기능의 동작 온 오프 버튼, 각종 기능의 설정값을 변경하기 위한 버튼 등과 같은 적어도 하나의 물리적인 버튼을 포함할 수 있다. The first input unit 170 may be provided on the head unit and the center fascia, and may include at least one physical button, such as an on/off button for operating various functions and a button for changing the setting values of various functions.

제1입력부(170)는 차량용 단말기(114)의 표시부에 표시된 커서의 이동 명령 및 선택 명령 등을 입력하기 위한 조그 다이얼(미도시) 또는 터치 패드(미도시)를 더 포함하는 것도 가능하다. The first input unit 170 may further include a jog dial (not shown) or a touch pad (not shown) for inputting movement commands and selection commands of the cursor displayed on the display unit of the vehicle terminal 114.

여기서 조그 다이얼 또는 터치 패드는 센터페시아 등에 마련될 수 있다.Here, the jog dial or touch pad may be provided on the center fascia, etc.

제1표시부(180)는 차량에서 수행 중인 기능에 대한 정보, 사용자에 의해 입력된 정보, 장애물 검출에 대한 정보, 충돌 안내 정보를 표시한다.The first display unit 180 displays information about functions being performed in the vehicle, information input by the user, information about obstacle detection, and collision guidance information.

제1표시부(180)는 차량의 주행 모드인 수동 주행 모드 또는 자율 주행 모드를 표시할 수 있다.The first display unit 180 may display the vehicle's driving mode, which is a manual driving mode or an autonomous driving mode.

제1표시부(180)는 자율 주행 모드 중 차량의 제어권의 인계 알림에 대한 정보를 영상으로 표시하는 것도 가능하다.The first display unit 180 is also capable of displaying information about the transfer of vehicle control rights during autonomous driving mode as an image.

제1표시부(180)는 차량의 헤드 단위에 마련될 수 있다.The first display unit 180 may be provided in the head unit of the vehicle.

제1표시부(180)는 사이드 미러에 마련된 표시등, 클러스터에 마련된 표시등, 차체의 내장에 마련된 표시등 중 적어도 하나를 더 포함할 수 있다.The first display unit 180 may further include at least one of an indicator light provided in the side mirror, an indicator lamp provided in the cluster, and an indicator lamp provided in the interior of the vehicle body.

차량의 제1입력부(170)와 제1표시부(180)는 단말기로 구현될 수 있다.The first input unit 170 and the first display unit 180 of the vehicle may be implemented as a terminal.

즉 차량은 사용자의 사용 편의를 위한 차량용 단말기를 더 포함할 수 있다.That is, the vehicle may further include a vehicle terminal for user convenience.

차량용 단말기는 오디오 기능, 비디오 기능, 내비게이션 기능을 수행하는 오디오 비디오 내비게이션 장치(AVN)일 수 있다. 아울러 차량용 단말기는 방송 기능(DMB 기능) 및 라디오 기능 중 적어도 하나를 더 수행할 수 있다.The vehicle terminal may be an audio video navigation device (AVN) that performs audio functions, video functions, and navigation functions. In addition, the vehicle terminal can further perform at least one of a broadcast function (DMB function) and a radio function.

이러한 차량용 단말기는 사용자에 의해 선택된 적어도 하나의 기능에 대한 영상을 표시할 수 있다. 아울러 차량용 단말기는 자율 주행 모드 시 전후좌우 방향의 영상을 표시하는 것도 가능하고 장애물의 위치를 표시하는 것도 가능하다.Such a vehicle terminal can display an image for at least one function selected by the user. In addition, the vehicle terminal can display images in the front, rear, left, and right directions and display the location of obstacles in autonomous driving mode.

차량용 단말기는 스크린의 화면 색, 문자, 이모티콘 등을 이용하여 충돌 정보로 표시할 수 있다. The vehicle terminal can display collision information using screen color, text, emoticons, etc.

차량용 단말기는 내비게이션 기능이 선택되면 차량의 현재 위치부터 일정 범위 내의 지도 영상을 표시하고, 목적지가 입력되면 현재 위치부터 목적지까지의 경로 정보가 매치된 지도 정보를 표시한다.When the navigation function is selected, the vehicle terminal displays a map image within a certain range from the current location of the vehicle, and when a destination is entered, it displays map information matching the route information from the current location to the destination.

이러한 차량용 단말기는 대시 보드 상에 매립식 또는 거치식으로 설치될 수 있다. These vehicle terminals can be installed in a buried or stationary manner on the dashboard.

사운드 출력부(190)는 차량에서 수행 중인 기능에 대응하는 사운드를 출력한다.The sound output unit 190 outputs sound corresponding to the function being performed in the vehicle.

사운드 출력부(190)는 장애물과의 충돌을 경고하고, 운전자의 졸음에 대한 위험을 경고하며, 페달 오조작에 대한 위험을 경고하기 위한 경고 정보를 출력한다. The sound output unit 190 outputs warning information to warn of a collision with an obstacle, to warn of the risk of driver drowsiness, and to warn of the risk of erroneous pedal operation.

사운드 출력부(190)는 자율 주행 모드 중 차량의 제어권의 인계 알림을 사운드로 출력하는 것도 가능하다.The sound output unit 190 is also capable of outputting a notification of handing over control of the vehicle as sound during autonomous driving mode.

이러한 사운드 출력부(190)는 경고음, 안내음 등과 같은 소리를 출력하는 스피커를 포함할 수 있다.This sound output unit 190 may include a speaker that outputs sounds such as warning sounds and guidance sounds.

도 5는 실시 예에 따른 차량의 제어 방법의 순서도이다.5 is a flowchart of a vehicle control method according to an embodiment.

차량(100)은 시동이 온되고 자율 주행 모드가 선택(301)되면 위치 수신부에 수신된 차량의 현재 위치 정보를 확인하고, 차량의 현재 위치 정보에 기초하여 현재 위치가 매치된 지도를 제1표시부를 통해 표시하도록 한다.When the vehicle 100 is started and the autonomous driving mode is selected (301), the vehicle 100 checks the current location information of the vehicle received in the location receiver, and displays a map matching the current location based on the current location information of the vehicle on the first display unit. It should be displayed through .

차량(100)은 목적지 정보가 입력되면 현재 위치 정보와 목적지 정보를 확인하고 확인된 목적지의 정보와 현재 위치 정보에 기초하여 현재 위치에서 목적지까지 경로 정보를 탐색하고 탐색된 경로 정보와 지도 정보에 기초하여 지도에 경로가 매칭된 내비게이션 정보를 제1표시부를 통해 표시한다. When destination information is input, the vehicle 100 checks the current location information and destination information, searches for route information from the current location to the destination based on the confirmed destination information and current location information, and based on the searched route information and map information. Thus, navigation information matching the route on the map is displayed through the first display unit.

차량은 제1영상 획득부(110), 장애물 검출부(130)를 활성화시키고, 자율 주행 중 제1영상 획득부(110)를 통해 차량의 외부의 영상을 획득(302)하고, 제1영상 획득부에서 획득된 영상의 디코딩을 수행(303)하며, 장애물 검출부에 의해 검출된 장애물의 검출 정보에 기초하여 차량 주변의 장애물을 인식한다.The vehicle activates the first image acquisition unit 110 and the obstacle detection unit 130, acquires an image of the exterior of the vehicle through the first image acquisition unit 110 during autonomous driving (302), and The image acquired is decoded (303), and obstacles around the vehicle are recognized based on the obstacle detection information detected by the obstacle detection unit.

차량은 디코딩된 영상 데이터의 사이즈와 포맷을 변경하고, 화질 개선 작업을 수행할 수 있다. 또한 차량은 영상 처리된 영상 데이터에 대한 클리어링 처리 및 노이즈 제거 처리를 수행할 수 있다. The vehicle can change the size and format of the decoded video data and perform image quality improvement tasks. Additionally, the vehicle can perform clearing processing and noise removal processing on image-processed image data.

다음 차량은 물체를 인식하는 비전기술들을 적용하여 영상 데이터에서 장애물을 인식한다.The next vehicle uses vision technologies that recognize objects to recognize obstacles in image data.

차량은 장애물 인식 시 장애물의 크기와 위치 정보를 획득하고 획득된 장애물의 위치 정보 및 크기 정보에 기초하여 장애물이 자전거, 보행자, 표지판, 신호등, 벽, 가드레일, 가로수, 가로등 및 타 차량 등과 같은 장애물의 타입을 인식하는 것도 가능하다. When recognizing an obstacle, the vehicle acquires the size and location information of the obstacle, and based on the obtained location information and size information, the obstacle is a bicycle, pedestrian, sign, traffic light, wall, guardrail, street tree, streetlight, and other vehicles. It is also possible to recognize the type of .

차량은 영상 데이터에서 차선을 인식하고 인식된 차선에 기초하여 자 차량이 주행하는 자 차로를 인식하며, 인식된 차로를 기준으로 자 차량의 전방, 좌우, 후방의 장애물의 위치 정보를 획득하는 것도 가능하다.The vehicle recognizes the lane in the image data and recognizes the lane in which the vehicle is traveling based on the recognized lane. It is also possible to obtain location information of obstacles in front, left, and rear of the vehicle based on the recognized lane. do.

차량(100)은 장애물 검출부(130)에서 검출된 검출 정보에 기초하여 자 차량의 주변, 즉 전방 및 좌우 측방을 스캔하여 장애물을 검출한다. 아울러 차량은 후방을 스캔하여 장애물을 검출하는 것도 가능하다. The vehicle 100 detects obstacles by scanning the surroundings of the vehicle, that is, the front and left and right sides, based on the detection information detected by the obstacle detection unit 130. In addition, the vehicle can also detect obstacles by scanning the rear.

즉 차량(100)은 자율 주행 중 제1영상 획득부(110)에서 획득된 영상 데이터 및 장애물 검출부(130)에서 검출된 검출 정보에 기초하여 주행 상황을 인식하면서 자율 주행을 제어(304)한다.That is, the vehicle 100 controls autonomous driving (304) while recognizing the driving situation based on image data acquired by the first image acquisition unit 110 and detection information detected by the obstacle detection unit 130 during autonomous driving.

차량은 자율 주행 중 제1영상 획득부에 의해 획득된 영상 데이터와, 제2영상 획득부에 의해 획득된 영상 데이터를 각각 암호화(305)하고, 암호화된 각각으 영상 데이터를 제1저장부의 제1메모리에 저장한다.During autonomous driving, the vehicle encrypts (305) the image data acquired by the first image acquisition unit and the image data acquired by the second image acquisition unit, and stores each of the encrypted image data in the first storage unit. Save to memory.

차량은 자율 주행 중 장애물과의 충돌, 차량의 미끄러짐, 차량의 급가속, 급감속 및 급조향 또는 차량의 고장 등에 의한 사고 위험 상황인지 판단한다. 즉 차량은 장애물 검출부와 같은 차량의 각종 센서 등으로부터 사고 위험 상화에 대응하는 이벤트가 발생하였는지 판단(306)한다.During autonomous driving, the vehicle determines whether there is a risk of an accident due to collision with an obstacle, vehicle skidding, rapid acceleration, rapid deceleration, or sudden steering of the vehicle, or vehicle malfunction. That is, the vehicle determines (306) whether an event corresponding to an accident risk has occurred from various sensors of the vehicle, such as an obstacle detection unit.

이벤트 발생을 판단하는 구성의 예를 설명한다.An example of a configuration for determining event occurrence is explained.

좀 더 구체적으로, 차량은 속도 검출부(미도시)에서 검출된 검출 정보에 기초하여 자 차량의 주행 속도를 획득하고, 획득된 자 차량의 주행 속도와 장애물과의 거리에 기초하여 장애물과의 상대 거리 및 상대 속도 중 적어도 하나를 획득하고 획득된 상대 거리 및 상대 속도 중 적어도 하나에 기초하여 장애물과 충돌에 의한 사고 위험이 존재하는지 판단한다.More specifically, the vehicle acquires the driving speed of the own vehicle based on the detection information detected by the speed detection unit (not shown), and the relative distance to the obstacle based on the obtained driving speed of the own vehicle and the distance to the obstacle. and relative speed, and determine whether there is a risk of an accident due to collision with an obstacle based on at least one of the obtained relative distance and relative speed.

차량은 장애물과의 상대 거리가 기준 상대 거리 이하인 조건과, 장애물의 상대 속도가 기준 상대 속도 이상인 조건 중 적어도 하나를 만족하면 장애물과의 충돌에 의한 사고 위험이 존재한다고 판단하는 것도 가능하다.The vehicle may determine that there is a risk of an accident due to collision with an obstacle if it satisfies at least one of the conditions that the relative distance to the obstacle is less than or equal to the standard relative distance and the condition that the relative speed of the obstacle is greater than or equal to the standard relative speed.

차량은 자율 주행의 제어 중 제동력, 가속량 및 조향각을 확인하고, 확인된 제동력이 기준 제동력 이상이면 급제동이라 판단하여 사고 위험 상황이라고 판단하고, 확인된 가속량이 기준 가속량 이상이면 급가속이라 판단하여 사고 위험 상황이라고 판단하며, 확인된 조향각이 기준 조향각 이상이면 급조향이라 판단하여 사고 위험 상황이라고 판단하는 것도 가능하다.During autonomous driving control, the vehicle checks the braking force, acceleration amount, and steering angle. If the confirmed braking force is greater than the standard braking force, it is judged to be sudden braking and an accident risk situation. If the confirmed acceleration amount is greater than the standard acceleration amount, it is judged to be sudden acceleration. It is judged to be an accident risk situation, and if the confirmed steering angle is greater than the standard steering angle, it is possible to determine that it is a sudden steering situation and therefore an accident risk situation.

차량은 차량의 현재 위치가 고속도로이면 제동력, 가속량 및 조향각을 확인하고, 확인된 제동력이 기준 제동력 이상인 조건과, 확인된 가속량이 기준 가속량 이상인 조건과, 확인된 조향각이 기준 조향각 이상인 조건 중 적어도 하나를 만족하면 사고 위험 상황이라고 판단하는 것도 가능하다.If the current location of the vehicle is a highway, the vehicle checks the braking force, acceleration amount, and steering angle, and determines at least one of the following conditions: the confirmed braking force is greater than the standard braking force, the confirmed acceleration amount is greater than the standard acceleration amount, and the confirmed steering angle is greater than the standard steering angle. If one of the conditions is satisfied, it is possible to determine that there is an accident risk situation.

차량은 차량의 슬립량이 기준 슬립량 이상이면 사고 위험 상황이라고 판단하는 것도 가능하다.It is also possible for the vehicle to determine that there is a risk of an accident if the vehicle's slip amount is greater than the standard slip amount.

차량은 이벤트가 발생하였다고 판단되면 암호화된 각각의 영상 데이터를 제1저장부의 제2메모리에 저장하고, 암호화된 영상 데이터를 서버에 전송(307)한다.When it is determined that an event has occurred, the vehicle stores each encrypted video data in the second memory of the first storage unit and transmits the encrypted video data to the server (307).

즉 차량은 자율 주행 모드 시, 제1, 2 영상 획득부(110, 120)에 의해 획득된 영상 데이터의 휘도 데이터를 암호화하여 제1메모리에 저장하되, 사고 위험 상황이라고 판단되면 제1, 2 영상 획득부(110, 120)에 의해 획득된 영상 데이터의 휘도 데이터를 암호화하여 제2메모리에도 저장한다.That is, in autonomous driving mode, the vehicle encrypts the luminance data of the image data acquired by the first and second image acquisition units 110 and 120 and stores it in the first memory, but if it is determined that an accident risk situation is present, the first and second images are The luminance data of the image data acquired by the acquisition units 110 and 120 is encrypted and stored in the second memory.

영상 데이터를 암호화 및 저장하는 구성을 도 6을 참조하여 설명한다.The configuration for encrypting and storing video data will be described with reference to FIG. 6.

제1, 2, 3, 4 카메라(111, 112, 113, 114)는 네트워크 추상화 레이어(NAL: Network Abstraction Layer) 단위(Unit)의 영상 데이터를 생성할 수 있다.The first, second, third, and fourth cameras 111, 112, 113, and 114 may generate image data in Network Abstraction Layer (NAL) units.

제1, 2, 3, 4 카메라(111, 112, 113, 114)의 영상 데이터의 휘도 데이터를 암호화하는 구성이 동일하여 제1카메라의 영상 데이터의 휘도 데이터를 암호화하는 구성에 대해서만 설명한다.Since the configuration for encrypting the luminance data of the image data of the first, second, third, and fourth cameras 111, 112, 113, and 114 is the same, only the configuration for encrypting the luminance data of the image data of the first camera will be described.

차량은 자율 주행 모드 시, 제1카메라(111)에 의해 획득된 영상 데이터를 수신(311)한다. When in autonomous driving mode, the vehicle receives (311) image data acquired by the first camera (111).

차량은 네트워크 추상화 레이어(NAL: Network Abstraction Layer) 단위(Unit)의 영상 데이터에서 슬라이스를 검출(312)하고 검출된 슬라이스에서 매크로 블록을 확인(313)한다.The vehicle detects a slice from the image data of a Network Abstraction Layer (NAL) unit (312) and checks the macroblock in the detected slice (313).

차량은 확인된 매크로 블록이 저장 대상인지를 판단(314)한다.The vehicle determines (314) whether the confirmed macro block is to be stored.

여기서 저장 대상인지 판단하는 것은, 영상 데이터의 장애물 인식을 통해 관심 영역을 획득하고 획득된 관심 영역에 포함된 매크로 블록의 크기를 확인하며 확인된 매크로 블록의 크기가 미리 설정된 크기보다 작은지 판단하고, 확인된 매크로 블록의 크기가 미리 설정된 크기보다 작다고 판단되면 저장 대상이라고 판단하는 것을 포함한다. Here, determining whether it is a storage target involves acquiring an area of interest through obstacle recognition in the image data, checking the size of the macroblock included in the obtained area of interest, and determining whether the size of the confirmed macroblock is smaller than a preset size. This includes determining that the confirmed macroblock is a storage target if it is determined that the size is smaller than the preset size.

아울러 저장 대상인지 판단하는 것은, 영상 데이터의 매크로 블록의 크기가 미리 설정된 크기보다 작은 매크로 블록의 수가 기준 개수 이상이면 저장 대상이라고 판단하는 것도 가능하다.In addition, it is possible to determine whether the video data is subject to storage if the size of the macroblock of the image data is smaller than the preset size and the number of macroblocks is greater than the standard number.

아울러 저장 대상인지 판단하는 것은, 영상 데이터에 관심 영역이 존재하면 저장 대상이라고 판단하는 것도 가능하다.In addition, it is possible to determine whether an area is a storage target if an area of interest exists in the image data.

차량은 저장 대상이라고 판단되면 매크로 블록의 휘도 데이터(Y성분)만을 암호화(315)하고 제1메모리에 1차적으로 저장(316)한다.If the vehicle determines that it is a storage target, only the luminance data (Y component) of the macro block is encrypted (315) and primarily stored in the first memory (316).

즉 차량은 이벤트가 발생하지 않았다고 판단되면 암호화된 영상 데이터의 휘도 데이터만을 암호화하여 제1저장부의 제1메모리(151a)에 1차적으로 저장하고, 이벤트가 발생하였다고 판단(317)되면 암호화된 영상 데이터를 제1저장부의 제2메모리(151b)에 2차적으로 저장(318)한다.That is, if the vehicle determines that an event has not occurred, only the luminance data of the encrypted image data is encrypted and stored primarily in the first memory (151a) of the first storage unit, and if it is determined that an event has occurred (317), the encrypted image data is stored secondarily in the second memory 151b of the first storage unit (318).

차량은 이벤트 발생이 사고 위험 상황이라고 판단되면 사고 위험 상황이 발생한 방향을 확인하고 확인된 방향에 대응하는 적어도 하나의 카메라의 영상 데이터의 암호화를 제어하는 것도 가능하다. If the vehicle determines that the event is an accident risk situation, it is possible to check the direction in which the accident risk situation occurred and control the encryption of video data of at least one camera corresponding to the confirmed direction.

예를 들어, 차량은 사고 위험 상황의 발생 방향이 전방이면 제1카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 전방과 인접한 방향의 제3, 4카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.For example, if the direction in which an accident risk situation occurs is the front, the vehicle can encrypt the image data obtained from the first camera and store it in the second memory, and the image data obtained from the third and fourth cameras in the direction adjacent to the front can be encrypted and stored in the second memory. It is also possible to further encrypt the video data and store it in the second memory.

차량은 사고 위험 상황의 발생 방향이 후방이면 제2카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 후방과 인접한 방향의 제3, 4카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is from the rear, the vehicle can encrypt the image data obtained from the second camera and store it in the second memory, and further encode the image data obtained from the third and fourth cameras in the direction adjacent to the rear. It is also possible to encrypt and store it in the second memory.

차량은 사고 위험 상황의 발생 방향이 우측방향이면 제4카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하도록 하는 것도 가능하고, 우측방향과 인접한 방향의 제1, 2카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is to the right, the vehicle can encrypt the image data obtained from the fourth camera and store it in the second memory. Image data acquired from the first and second cameras in the direction adjacent to the right direction are also possible. It is also possible to further encrypt and store it in the second memory.

차량은 사고 위험 상황의 발생 방향이 좌측방향이면 제3카메라에서 획득된 영상 데이터를 암호화하여 제2메모리에 저장하는 것도 가능하고, 좌측방향과 인접한 방향의 제1, 2카메라에서 획득된 영상 데이터를 더 암호화하여 제2메모리에 저장하도록 하는 것도 가능하다.If the direction in which an accident risk situation occurs is to the left, the vehicle can encrypt the image data obtained from the third camera and store it in the second memory, and the image data obtained from the first and second cameras in the direction adjacent to the left direction can be encrypted and stored in the second memory. It is also possible to further encrypt and store it in the second memory.

차량은 사고 위험 상황이라고 판단되면 장애물 검출부에 의해 검출된 장애물 정보를 제1저장부의 제2메모리에 저장하는 것도 가능하고, 서버에 전송하는 것도 가능하다.If it is determined that an accident risk situation exists, the vehicle can store the obstacle information detected by the obstacle detection unit in the second memory of the first storage unit and transmit it to the server.

도 7은 실시 예에 따른 차량과 통신하는 서버(200)의 제어 구성도이다.Figure 7 is a control configuration diagram of a server 200 that communicates with a vehicle according to an embodiment.

서버(200)는 복수 대의 차량들을 관리하는 서비스 센터, 경찰서 서버, 보험사 서버 등에 마련된 서버일 수 있다. The server 200 may be a server provided at a service center that manages a plurality of vehicles, a police station server, an insurance company server, etc.

서버(200)는 제2입력부(210), 제2통신부(220), 제2제어부(230), 제2저장부(240) 및 제2표시부(250)를 포함한다.The server 200 includes a second input unit 210, a second communication unit 220, a second control unit 230, a second storage unit 240, and a second display unit 250.

제2입력부(210)는 사고 발생의 원인을 분석하기 위한 명령을 입력받을 수 있다.The second input unit 210 can receive a command for analyzing the cause of an accident.

제2통신부(220)는 차량과 통신을 수행할 수 있다.The second communication unit 220 can communicate with the vehicle.

제2통신부(220)는 차량(100)으로부터 제1영상 획득부에 의해 획득된 암호화된 영상 데이터를 수신하고, 차량(100)으로부터 제2영상 획득부에 의해 획득된 암호화된 영상 데이터를 수신하며, 차량(100)으로부터 장애물 검출부에 의해 검출된 장애물의 검출 정보를 수신할 수 있으며, 차량의 위치 정보도 수신할 수 있다.The second communication unit 220 receives encrypted image data acquired by the first image acquisition unit from the vehicle 100, and receives encrypted image data acquired by the second image acquisition unit from the vehicle 100. , detection information about the obstacle detected by the obstacle detection unit can be received from the vehicle 100, and location information of the vehicle can also be received.

제2통신부(220)는 브레이크 페달, 액셀러레이터 페달 및 스티어링 휠의 조작 정보를 수신하는 것도 가능하다.The second communication unit 220 is also capable of receiving operation information of the brake pedal, accelerator pedal, and steering wheel.

제2통신부(220)는 사용자용 단말기(미도시)와 통신을 수행하는 것도 가능하다. 제2통신부(220)는 사용자용 단말기(미도시)에 영상 데이터를 전송할 수 있다.The second communication unit 220 is also capable of communicating with a user terminal (not shown). The second communication unit 220 may transmit image data to a user terminal (not shown).

제2제어부(230)는 암호화된 영상 데이터를 디코딩하고 디코딩된 영상 데이터를 이용하여 사고 발생의 원인을 분석한다. The second control unit 230 decodes the encrypted video data and analyzes the cause of the accident using the decoded video data.

제2제어부(230)는 제1영상 획득부(110)에 의해 획득된 디코딩된 영상 데이터에 기초하여 장애물의 돌발적인 개입을 판단할 수 있다.The second control unit 230 may determine sudden intervention of an obstacle based on the decoded image data acquired by the first image acquisition unit 110.

제2제어부(230)는 제1영상 획득부(110)에 의해 획득된 디코딩된 영상 데이터에 기초하여 포트홀이나, 방지턱, 도로 위 낙하물로 인한 사고 원인을 판단할 수 있다.The second control unit 230 may determine the cause of the accident due to a pothole, bump, or fallen object on the road based on the decoded image data acquired by the first image acquisition unit 110.

제2제어부(230)는 제2영상 획득부(120)에 의해 획득된 디코딩된 영상 데이터에 기초하여 운전자의 얼굴을 인식하고 인식된 얼굴에서 운전자의 시선을 인식하며 인식된 시선을 실시간으로 추적한다.The second control unit 230 recognizes the driver's face based on the decoded image data acquired by the second image acquisition unit 120, recognizes the driver's gaze from the recognized face, and tracks the recognized gaze in real time. .

제2제어부(230)는 운전자의 얼굴의 움직임으로부터 졸음 운전 여부를 판단할 수 있다.The second control unit 230 can determine whether the driver is drowsy from the movement of the driver's face.

제2제어부(230)는 운전자의 시선에 기초하여 운전자의 집중도를 예측할 수 있다. 여기서 집중도는 운전자의 집중 여부에 대응하는 집중 상태를 의미한다. 아울러 집중 상태는 전방 주시 상태를 포함할 수 있다.The second control unit 230 can predict the driver's concentration level based on the driver's gaze. Here, concentration refers to the state of concentration corresponding to whether the driver is focused or not. Additionally, the concentration state may include a forward looking state.

제2제어부(230)는 브레이크 페달, 액셀러레이터 페달 및 스티어링 휠의 조작 정보에 기초하여 운전자의 회피 의지를 판단할 수 있다.The second control unit 230 may determine the driver's intention to avoid the vehicle based on operation information of the brake pedal, accelerator pedal, and steering wheel.

제2제어부(230)는 장애물의 검출 정보 및 차량의 상태 정보에 기초하여 사고 발생의 원인을 분석한다.The second control unit 230 analyzes the cause of the accident based on obstacle detection information and vehicle status information.

예를 들어 차량의 상태 정보는 차량의 슬립을 포함할 수 있다.For example, vehicle status information may include vehicle slip.

제2제어부(230)는 사고가 발생한 상태라고 판단되면 위치 정보에 기초하여 교통 사고 처리 수습을 위한 사고 정보를 의료 기관이나 경찰서에 전송하도록 하는 것도 가능하다. If it is determined that an accident has occurred, the second control unit 230 may transmit accident information for traffic accident handling to a medical institution or police station based on location information.

제2저장부(240)는 차량의 식별 정보를 저장한다.The second storage unit 240 stores vehicle identification information.

제2저장부(240)는 차량별 암호화된 영상 데이터 및 장애물 검출 정보, 위치 정보 등을 저장할 수 있다.The second storage unit 240 can store encrypted image data, obstacle detection information, and location information for each vehicle.

제2표시부(250)는 차량의 정보 및 사고 발생 상황을 영상으로 표시하고 사고 발생의 분석 결과를 영상으로 표시할 수 있다.The second display unit 250 can display vehicle information and accident occurrence situations as images and display analysis results of accident occurrences as images.

여기서 차량의 정보는 차량의 번호 정보, 차종 정보, 차량의 운전자의 정보 등을 포함할 수 있다.Here, the vehicle information may include vehicle number information, vehicle model information, and vehicle driver information.

한편, 개시된 실시예들은 컴퓨터에 의해 실행 가능한 명령어를 저장하는 기록매체의 형태로 구현될 수 있다. 명령어는 프로그램 코드의 형태로 저장될 수 있으며, 프로세서에 의해 실행되었을 때, 프로그램 모듈을 생성하여 개시된 실시예들의 동작을 수행할 수 있다. 기록매체는 컴퓨터로 읽을 수 있는 기록매체로 구현될 수 있다.Meanwhile, the disclosed embodiments may be implemented in the form of a recording medium that stores instructions executable by a computer. Instructions may be stored in the form of program code, and when executed by a processor, may create program modules to perform operations of the disclosed embodiments. The recording medium may be implemented as a computer-readable recording medium.

컴퓨터가 읽을 수 있는 기록매체로는 컴퓨터에 의하여 해독될 수 있는 명령어가 저장된 모든 종류의 기록 매체를 포함한다. 예를 들어, ROM(Read Only Memory), RAM(Random Access Memory), 자기 테이프, 자기 디스크, 플래쉬 메모리, 광 데이터 저장장치 등이 있을 수 있다. Computer-readable recording media include all types of recording media storing instructions that can be decoded by a computer. For example, there may be Read Only Memory (ROM), Random Access Memory (RAM), magnetic tape, magnetic disk, flash memory, optical data storage device, etc.

이상에서와 같이 첨부된 도면을 참조하여 개시된 실시예들을 설명하였다.본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고도, 개시된 실시예들과 다른 형태로 본 발명이 실시될 수 있음을 이해할 것이다. 개시된 실시예들은 예시적인 것이며, 한정적으로 해석되어서는 안 된다.As described above, the disclosed embodiments have been described with reference to the accompanying drawings. Those skilled in the art will understand that the present invention may be formed in a form different from the disclosed embodiments without changing the technical idea or essential features of the present invention. It will be understood that the present invention can be practiced. The disclosed embodiments are illustrative and should not be construed as limiting.

100: 차량 110: 제1영상 획득부
120: 제2영상 획득부 130: 장애물 검출부
140: 주행 조작 정보 검출부 150: 제어부
100: vehicle 110: first image acquisition unit
120: Second image acquisition unit 130: Obstacle detection unit
140: Driving operation information detection unit 150: Control unit

Claims (15)

차량의 외부의 주변 영상과 차량의 내부의 영상을 획득하는 영상 획득부 및 장애물을 검출하는 장애물 검출부와 통신을 수행하는 통신부;
상기 장애물 검출부에서 검출된 장애물 검출 정보와 상기 영상 획득부에서 획득된 영상 데이터에 기초하여 자율 주행을 제어하고, 상기 자율 주행의 제어 중 상기 영상 획득부에서 획득된 영상 데이터 중 휘도 데이터를 암호화하는 제어부; 및
상기 암호화된 휘도 데이터를 저장하는 저장부를 포함하고,
상기 저장부는, 제1메모리와 제2메모리를 포함하고,
상기 제어부는, 현재 위치가 고속도로라고 판단되면 상기 차량의 제동력, 가속량 및 조향각을 확인하고, 상기 확인된 제동력이 기준 제동력 이상인 조건과, 상기 확인된 가속량이 기준 가속량 이상인 조건과, 상기 확인된 조향각이 기준 조향각 이상인 조건이 모두 만족하지 않으면 상기 암호화된 영상 데이터를 상기 제1메모리에 저장하도록 하고, 상기 조건들 중 적어도 하나의 조건이 만족하면 상기 암호화된 영상 데이터를 상기 제2메모리에 저장하도록 하는 자율 주행 제어 장치.
a communication unit that communicates with an image acquisition unit that acquires images around the exterior of the vehicle and images of the interior of the vehicle, and an obstacle detection unit that detects obstacles;
A control unit that controls autonomous driving based on obstacle detection information detected by the obstacle detection unit and image data acquired by the image acquisition unit, and encrypts luminance data among the image data acquired by the image acquisition unit during control of the autonomous driving. ; and
A storage unit that stores the encrypted luminance data,
The storage unit includes a first memory and a second memory,
When the control unit determines that the current location is a highway, it checks the braking force, acceleration amount, and steering angle of the vehicle, sets the condition that the confirmed braking force is more than the reference braking force, the condition that the confirmed acceleration amount is more than the standard acceleration amount, and the confirmed If all conditions that the steering angle is equal to or greater than the reference steering angle are not satisfied, the encrypted image data is stored in the first memory, and if at least one of the conditions is satisfied, the encrypted image data is stored in the second memory. autonomous driving control device.
제 1항에 있어서, 상기 제어부는,
상기 영상 데이터에서 관심 영역을 확인하고, 상기 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고 상기 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화하는 것을 포함하는 자율 주행 제어 장치.
The method of claim 1, wherein the control unit:
Identify a region of interest in the image data, check the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and select a macro block smaller than a preset size among the macro blocks in the identified region of interest. An autonomous driving control device comprising encrypting luminance data.
제 1 항에 있어서,
상기 제어부는, 상기 자율 주행의 제어 중 상기 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 상기 사고 위험 상황이 아니라고 판단되면 상기 암호화된 휘도 데이터를 상기 제1메모리에 저장하도록 상기 제1메모리를 제어하고, 상기 사고 위험 상황이라고 판단되면 상기 암호화된 휘도 데이터를 상기 제2메모리에 저장하도록 상기 제2메모리를 제어하는 것을 포함하는 자율 주행 제어 장치.
According to claim 1,
The control unit determines whether an accident risk situation is present based on the obstacle detection information detected by the obstacle detection unit during control of the autonomous driving, and if it is determined that the accident risk situation is not, the control unit stores the encrypted luminance data in the first memory. An autonomous driving control device comprising controlling a first memory and controlling the second memory to store the encrypted luminance data in the second memory when it is determined that the accident risk situation is present.
제 1항에 있어서,
상기 제1메모리는 휘발성 메모리이고,
상기 제2메모리는 비휘발성 메모리인 자율 주행 제어 장치.
According to clause 1,
The first memory is a volatile memory,
The second memory is a non-volatile memory.
제 1항에 있어서, 상기 제어부는,
상기 영상 데이터에서 관심 영역을 확인하고, 상기 확인된 관심 영역의 휘도 데이터를 암호화하는 것을 포함하는 자율 주행 제어 장치.
The method of claim 1, wherein the control unit:
An autonomous driving control device comprising: identifying a region of interest in the image data and encrypting luminance data of the identified region of interest.
제 1항에 있어서, 상기 제어부는,
상기 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고, 상기 확인된 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화하는 것을 포함하는 자율 주행 제어 장치.
The method of claim 1, wherein the control unit:
Autonomous driving control including confirming the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and encrypting luminance data of a macro block smaller than a preset size among the confirmed macro blocks. Device.
제 1항에 있어서,
상기 통신부는, 서버와 통신을 수행하고,
상기 제어부는, 상기 자율 주행의 제어 중 상기 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 상기 사고 위험 상황이라고 판단되면 상기 암호화된 휘도 데이터를 상기 서버에 저장하도록 상기 통신부를 제어하는 것을 포함하는 자율 주행 제어 장치.
According to clause 1,
The communication unit performs communication with the server,
The control unit determines whether an accident risk situation is present based on the obstacle detection information detected by the obstacle detection unit during control of the autonomous driving, and if it is determined that the accident risk situation is, controls the communication unit to store the encrypted luminance data in the server. An autonomous driving control device comprising:
외부의 영상을 획득하는 제1영상 획득부;
내부의 영상을 획득하는 제2영상 획득부;
장애물을 검출하는 장애물 검출부;
상기 장애물 검출부에서 검출된 장애물 검출 정보와 상기 제1영상 획득부에서 획득된 영상 데이터에 기초하여 자율 주행을 제어하고, 상기 자율 주행의 제어 중 상기 제1, 2영상 획득부에서 획득된 영상 데이터 중 휘도 데이터를 암호화하는 제어부; 및
상기 암호화된 휘도 데이터를 저장하는 저장부를 포함하고,
상기 제어부는, 현재 위치가 고속도로라고 판단되면 차량의 제동력, 가속량 및 조향각을 확인하고, 상기 확인된 제동력이 기준 제동력 이상인 조건과, 상기 확인된 가속량이 기준 가속량 이상인 조건과, 상기 확인된 조향각이 기준 조향각 이상인 조건이 모두 만족하지 않으면 상기 암호화된 영상 데이터를 제1메모리에 저장하도록 하고, 상기 조건들 중 적어도 하나의 조건이 만족하면 상기 암호화된 영상 데이터를 제2메모리에 저장하도록 하는 차량.
a first image acquisition unit that acquires an external image;
a second image acquisition unit that acquires an internal image;
An obstacle detection unit that detects obstacles;
Autonomous driving is controlled based on obstacle detection information detected by the obstacle detection unit and image data acquired by the first image acquisition unit, and among image data acquired by the first and second image acquisition units during control of the autonomous driving. a control unit that encrypts luminance data; and
A storage unit that stores the encrypted luminance data,
If the current location is determined to be a highway, the control unit checks the vehicle's braking force, acceleration amount, and steering angle, and sets a condition in which the confirmed braking force is greater than or equal to the reference braking force, a condition in which the confirmed acceleration amount is greater than or equal to the reference acceleration amount, and the confirmed steering angle. A vehicle that stores the encrypted image data in a first memory if all conditions equal to or greater than the reference steering angle are not satisfied, and stores the encrypted image data in a second memory if at least one of the conditions is satisfied.
제 8항에 있어서, 상기 제어부는,
상기 영상 데이터에서 관심 영역을 확인하고, 상기 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고 상기 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화하는 것을 포함하는 것을 포함하는 차량.
The method of claim 8, wherein the control unit:
Identify a region of interest in the image data, check the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data, and select a macro block smaller than a preset size among the macro blocks in the identified region of interest. A vehicle comprising encrypting the luminance data of the vehicle.
제 8 항에 있어서,
상기 제어부는, 상기 자율 주행의 제어 중 상기 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고 상기 사고 위험 상황이 아니라고 판단되면 상기 암호화된 휘도 데이터를 상기 제1메모리에 저장하도록 상기 제1메모리를 제어하고, 상기 사고 위험 상황이라고 판단되면 상기 암호화된 휘도 데이터를 상기 제2메모리에 저장하도록 상기 제2메모리를 제어하는 것을 포함하는 차량.
According to claim 8,
The control unit determines whether an accident risk situation is present based on the obstacle detection information detected by the obstacle detection unit during control of the autonomous driving, and if it is determined that the accident risk situation is not, the control unit stores the encrypted luminance data in the first memory. A vehicle comprising: controlling a first memory, and controlling the second memory to store the encrypted luminance data in the second memory when it is determined that an accident risk situation exists.
자율 주행 모드이면 제1영상 획득부에 의해 획득된 외부의 영상과 장애물 검출부에 의해 획득된 장애물의 검출 정보에 기초하여 차량의 자율 주행을 제어하고,
상기 자율 주행의 제어 중 상기 장애물 검출부에서 검출된 장애물 검출 정보에 기초하여 사고 위험 상황인지 판단하고,
상기 사고 위험 상황이라고 판단되면 상기 제1영상 획득부에 의해 획득된 차량의 외부의 영상 데이터와, 제2영상 획득부에 의해 획득된 차량의 내부의 영상 데이터를 각각 암호화하여 저장하는 것을 포함하고,
현재 위치가 고속도로라고 판단되면 상기 차량의 제동력, 가속량 및 조향각을 확인하고,
상기 확인된 제동력이 기준 제동력 이상인 조건과, 상기 확인된 가속량이 기준 가속량 이상인 조건과, 상기 확인된 조향각이 기준 조향각 이상인 조건이 모두 만족하지 않으면 상기 암호화된 영상 데이터를 제1메모리에 저장하고,
상기 조건들 중 적어도 하나의 조건이 만족하면 상기 암호화된 영상 데이터를 제2메모리에 저장하는 것을 더 포함하는 차량의 제어 방법.
In the autonomous driving mode, the autonomous driving of the vehicle is controlled based on the external image acquired by the first image acquisition unit and the obstacle detection information acquired by the obstacle detection unit,
Determining whether there is an accident risk situation based on obstacle detection information detected by the obstacle detection unit during control of the autonomous driving,
When it is determined that the accident risk situation is present, encrypting and storing the external image data of the vehicle obtained by the first image acquisition unit and the internal image data of the vehicle acquired by the second image acquisition unit, respectively,
If the current location is determined to be a highway, the braking force, acceleration amount, and steering angle of the vehicle are checked,
If the condition that the confirmed braking force is more than the reference braking force, the condition that the confirmed acceleration amount is more than the reference acceleration amount, and the condition that the confirmed steering angle is more than the reference steering angle are not satisfied, the encrypted image data is stored in the first memory,
A vehicle control method further comprising storing the encrypted image data in a second memory when at least one of the conditions is satisfied.
제 11 항에 있어서, 상기 차량의 외부의 영상 데이터를 암호화하는 것은,
상기 차량의 외부의 영상 데이터에서 관심 영역을 확인하고,
상기 영상 데이터의 휘도와 색차에 기초하여 서로 다른 크기로 분할된 매크로 블록들의 크기를 확인하고,
상기 확인된 관심 영역 내의 매크로 블록들 중 미리 설정된 크기보다 작은 매크로 블록의 휘도 데이터를 암호화하는 것을 포함하는 차량의 제어 방법.
The method of claim 11, wherein encrypting image data external to the vehicle includes:
Identifying a region of interest in image data external to the vehicle,
Confirm the sizes of macro blocks divided into different sizes based on the luminance and color difference of the image data,
A vehicle control method comprising encrypting luminance data of a macroblock smaller than a preset size among macroblocks in the identified region of interest.
삭제delete 제 11항에 있어서, 상기 외부의 영상 데이터를 암호화하는 것은,
상기 사고 위험 상황이라고 판단되면 사고 위험 상황이 발생한 방향을 확인하고,
전후좌우의 외부의 영상을 획득하는 제1, 2, 3, 4 카메라 중 상기 확인된 방향과 대응하는 방향과 인접하게 설치된 적어도 하나의 카메라에서 획득된 영상 데이터의 휘도 데이터를 암호화하는 것을 포함하는 차량의 제어 방법.
The method of claim 11, wherein encrypting the external image data includes:
If it is determined that the above accident risk situation occurred, check the direction in which the accident risk situation occurred,
A vehicle comprising encrypting luminance data of image data acquired from at least one camera installed adjacent to the direction corresponding to the confirmed direction among the first, second, third, and fourth cameras that acquire external images in the front, rear, left, and right sides. control method.
제 11항에 있어서,
상기 사고 위험 상황이라고 판단되면 상기 암호화된 영상 데이터를 서버에 전송하는 것을 더 포함하는 차량의 제어 방법.
According to clause 11,
A method of controlling a vehicle further comprising transmitting the encrypted video data to a server when it is determined that the accident risk situation is present.
KR1020180168130A 2018-12-24 2018-12-24 Automatic Driving control apparatus, vehicle having the same and method for controlling the same KR102636741B1 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020180168130A KR102636741B1 (en) 2018-12-24 2018-12-24 Automatic Driving control apparatus, vehicle having the same and method for controlling the same
US16/425,445 US11188090B2 (en) 2018-12-24 2019-05-29 Autonomous driving control apparatus, vehicle having the same and method for controlling vehicle
CN201910532860.2A CN111361551A (en) 2018-12-24 2019-06-19 Autonomous driving control device, vehicle having the same, and vehicle control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180168130A KR102636741B1 (en) 2018-12-24 2018-12-24 Automatic Driving control apparatus, vehicle having the same and method for controlling the same

Publications (2)

Publication Number Publication Date
KR20200084941A KR20200084941A (en) 2020-07-14
KR102636741B1 true KR102636741B1 (en) 2024-02-16

Family

ID=71096833

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180168130A KR102636741B1 (en) 2018-12-24 2018-12-24 Automatic Driving control apparatus, vehicle having the same and method for controlling the same

Country Status (3)

Country Link
US (1) US11188090B2 (en)
KR (1) KR102636741B1 (en)
CN (1) CN111361551A (en)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102017213177A1 (en) * 2017-07-31 2019-01-31 Audi Ag Method for operating a screen of a motor vehicle and motor vehicle
JP7307558B2 (en) * 2019-03-06 2023-07-12 株式会社Subaru Vehicle driving control system
KR20200139443A (en) * 2019-06-04 2020-12-14 주식회사 만도 Apparatus and method for driver assistance
US11328592B2 (en) * 2019-08-14 2022-05-10 Toyota Motor North America, Inc. Systems and methods for roadway obstruction detection
JP2022040878A (en) * 2020-08-31 2022-03-11 株式会社Jvcケンウッド Information providing apparatus and information providing program
US11617941B2 (en) * 2020-09-01 2023-04-04 GM Global Technology Operations LLC Environment interactive system providing augmented reality for in-vehicle infotainment and entertainment
KR20220046935A (en) 2020-10-08 2022-04-15 현대모비스 주식회사 Apparatus for disturbance compensation when driving on a curved road and method thereof
US11794723B2 (en) 2020-10-08 2023-10-24 Hyundai Mobis Co., Ltd. Apparatus and method for controlling driving of vehicle
US11330196B2 (en) * 2020-10-12 2022-05-10 Microsoft Technology Licensing, Llc Estimating illumination in an environment based on an image of a reference object
CN112612284B (en) * 2020-12-24 2024-01-16 北京亮道智能汽车技术有限公司 Data storage method and device
CN113034954A (en) * 2021-03-03 2021-06-25 北京航迹科技有限公司 Vehicle early warning method and system
KR102590923B1 (en) * 2022-09-29 2023-10-20 에스엠아이이노베이션 주식회사 Obstacle detection system and method for electric golf carts
CN116691502B (en) * 2023-08-01 2023-11-10 北京芯驰半导体科技有限公司 Safety detection method and device for vehicle environment, electronic equipment and storage medium

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007200033A (en) * 2006-01-26 2007-08-09 Japan Automobile Research Inst Inc Vehicle behavior analyzing system
JP2008221969A (en) 2007-03-12 2008-09-25 Kayaba Ind Co Ltd Operation condition storage device
JP2011257849A (en) 2010-06-07 2011-12-22 Yupiteru Corp Video recording apparatus for vehicle and on-board system
US20110317935A1 (en) * 2010-06-25 2011-12-29 Fujitsu Limited Image processing device, method thereof, and a computer readable non transitory storage medium storing an image processing program
US20140325236A1 (en) * 2013-04-29 2014-10-30 Intellectual Discovery Co., Ltd. Vehicular image processing apparatus and data processing method using the same

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4394780B2 (en) * 1999-10-08 2010-01-06 クラリオン株式会社 Mobile body information recording device
KR20050063910A (en) * 2003-12-23 2005-06-29 주식회사 현대오토넷 Disposal system for accident image of a car and method thereof
US7983835B2 (en) * 2004-11-03 2011-07-19 Lagassey Paul J Modular intelligent transportation system
JP4348381B2 (en) * 2007-05-30 2009-10-21 富士通株式会社 Image encryption / decryption device, method and program
JP5143502B2 (en) * 2007-08-27 2013-02-13 Necパーソナルコンピュータ株式会社 Transcoder, transcoding method and transcoding program
US9152875B2 (en) * 2009-06-11 2015-10-06 Texas Instruments Incorporated Preserving text quality in video encoding
KR101316235B1 (en) * 2011-05-23 2013-10-08 현대자동차주식회사 An accident recording device for reducing capacity and thereof method
US9922567B2 (en) * 2011-07-21 2018-03-20 Bendix Commercial Vehicle Systems Llc Vehicular fleet management system and methods of monitoring and improving driver performance in a fleet of vehicles
KR20130029962A (en) * 2011-09-16 2013-03-26 현대모비스 주식회사 Image display device for vehicle and method for displaying rapid change of image inputted from camera for vehicle
KR20140146906A (en) * 2013-06-18 2014-12-29 현대모비스 주식회사 Device of video recording for vehicle and method thereof
CN103546750B (en) * 2013-10-22 2017-01-25 中国人民解放军重庆通信学院 H.264 video encryption method based on region of interest
KR101634242B1 (en) * 2014-02-05 2016-06-28 재단법인 다차원 스마트 아이티 융합시스템 연구단 Black box for car using the idle time of the black box and its control method
KR101551904B1 (en) * 2014-03-06 2015-09-09 재단법인 다차원 스마트 아이티 융합시스템 연구단 Control Method of Vehicular Black Box for Reducing Storage Space
US20210133871A1 (en) * 2014-05-20 2021-05-06 State Farm Mutual Automobile Insurance Company Autonomous vehicle operation feature usage recommendations
KR102310782B1 (en) * 2015-10-30 2021-10-12 엘지전자 주식회사 Driver Assistance Apparatus, Vehicle Having The Same and Vehicle Safety system
US10836346B2 (en) * 2018-04-27 2020-11-17 Nio Usa, Inc. Methods and systems for providing a protect occupants mode with an autonomous vehicle

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007200033A (en) * 2006-01-26 2007-08-09 Japan Automobile Research Inst Inc Vehicle behavior analyzing system
JP2008221969A (en) 2007-03-12 2008-09-25 Kayaba Ind Co Ltd Operation condition storage device
JP2011257849A (en) 2010-06-07 2011-12-22 Yupiteru Corp Video recording apparatus for vehicle and on-board system
US20110317935A1 (en) * 2010-06-25 2011-12-29 Fujitsu Limited Image processing device, method thereof, and a computer readable non transitory storage medium storing an image processing program
US20140325236A1 (en) * 2013-04-29 2014-10-30 Intellectual Discovery Co., Ltd. Vehicular image processing apparatus and data processing method using the same

Also Published As

Publication number Publication date
CN111361551A (en) 2020-07-03
US20200201349A1 (en) 2020-06-25
KR20200084941A (en) 2020-07-14
US11188090B2 (en) 2021-11-30

Similar Documents

Publication Publication Date Title
KR102636741B1 (en) Automatic Driving control apparatus, vehicle having the same and method for controlling the same
US10737689B2 (en) Parking assistance apparatus and vehicle having the same
KR102027646B1 (en) System and method for processing traffic sound data to provide driver assistance
KR102089262B1 (en) Vehicle technologies for automated turn signaling
KR102201290B1 (en) Vehicle display device and vehicle
EP3138707B1 (en) Driver assistance apparatus for vehicle and vehicle having the same
CN109643497B (en) Enhanced security through augmented reality and shared data
KR102366402B1 (en) Driver assistance apparatus and control method for the same
WO2015146061A1 (en) Vehicular recognition notification device and vehicular recognition notification system
KR102129904B1 (en) Suspension control system, method and apparatus
US11472433B2 (en) Advanced driver assistance system, vehicle having the same and method for controlling the vehicle
GB2609767A (en) Methods for passenger authentication and door operation for autonomous vehicles
US20200241549A1 (en) Information processing apparatus, moving apparatus, and method, and program
US11590985B2 (en) Information processing device, moving body, information processing method, and program
US11774964B2 (en) Vehicle remote instruction system
WO2020116206A1 (en) Information processing device, information processing method, and program
US11533420B2 (en) Server, method, non-transitory computer-readable medium, and system
KR20210152602A (en) driver assistance apparatus and method of thereof
KR20210124586A (en) Advanced Driver Assistance System, and Vehicle
US20230232107A1 (en) Infrastructure and Vehicle for Communicating with the Same
US20230316735A1 (en) Advanced driver assistance system, and vehicle having the same
US20230150431A1 (en) Vehicle and Method of Controlling the Same
CN111830859B (en) Vehicle remote indication system
US20230234578A1 (en) Mobile object control device, mobile object control method, and storage medium
US20230199450A1 (en) Autonomous Vehicle Communication Gateway Architecture

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right