KR20240070908A - Apparutus and system for controlling digital side mirror function in vehicle - Google Patents

Apparutus and system for controlling digital side mirror function in vehicle Download PDF

Info

Publication number
KR20240070908A
KR20240070908A KR1020220152375A KR20220152375A KR20240070908A KR 20240070908 A KR20240070908 A KR 20240070908A KR 1020220152375 A KR1020220152375 A KR 1020220152375A KR 20220152375 A KR20220152375 A KR 20220152375A KR 20240070908 A KR20240070908 A KR 20240070908A
Authority
KR
South Korea
Prior art keywords
image data
memory
display device
data
vehicle
Prior art date
Application number
KR1020220152375A
Other languages
Korean (ko)
Inventor
이지헌
Original Assignee
한국전자기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자기술연구원 filed Critical 한국전자기술연구원
Priority to KR1020220152375A priority Critical patent/KR20240070908A/en
Publication of KR20240070908A publication Critical patent/KR20240070908A/en

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/80Arrangements for controlling instruments
    • B60K35/81Arrangements for controlling instruments for controlling displays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/25Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the sides of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/40Hardware adaptations for dashboards or instruments
    • B60K2360/48Sensors
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2400/00Special features of vehicle units
    • B60Y2400/92Driver displays

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

본 발명은 차량용 디지털 사이드 미러 기능을 제어하기 위한 장치 및 시스템에 관한 것이다. 본 발명의 일 실시예에 따른 제어 장치는, 차량에 설치된 카메라에서 촬영된 상기 차량의 측후방에 대한 제1 영상 데이터가 입력되는 입력 인터페이스; 차량 내부의 디스플레이 장치에 표시되는 제2 영상 데이터가 출력되는 출력 인터페이스; 상기 제1 및 제2 영상 데이터를 저장하는 메모리; 및 상기 입력 인터페이스에 수신된 상기 제1 영상 데이터를 처리하여 상기 출력 인터페이스로 상기 제2 영상 데이터를 출력하는 디지털 사이드 미러(Digital Side Mirror)의 기능을 하드웨어 구조를 통해 제어하는 프로세서;를 포함한다.The present invention relates to an apparatus and system for controlling digital side mirror functions for vehicles. A control device according to an embodiment of the present invention includes an input interface through which first image data about the sides and rear of the vehicle captured by a camera installed on the vehicle is input; an output interface through which second image data displayed on a display device inside the vehicle is output; a memory storing the first and second image data; and a processor that controls, through a hardware structure, the function of a digital side mirror that processes the first image data received through the input interface and outputs the second image data through the output interface.

Description

차량용 디지털 사이드 미러 기능을 제어하기 위한 장치 및 시스템{APPARUTUS AND SYSTEM FOR CONTROLLING DIGITAL SIDE MIRROR FUNCTION IN VEHICLE}Device and system for controlling digital side mirror functions for vehicles {APPARUTUS AND SYSTEM FOR CONTROLLING DIGITAL SIDE MIRROR FUNCTION IN VEHICLE}

본 발명은 차량용 디지털 사이드 미러(Digital Side Mirror, DSM) 기술에 관한 것으로서, 더욱 상세하게는 종래의 광학 사이드 미러를 대체하여 카메라 및 디스플레이 장치를 이용하는 차량용 디지털 사이드 미러에서 고속 영상 처리를 통한 실시간 영상 디스플레이를 구현하는 하드웨어 구조 기술에 관한 것이다.The present invention relates to digital side mirror (DSM) technology for vehicles, and more specifically, to display real-time images through high-speed image processing in digital side mirrors for vehicles that use cameras and display devices to replace conventional optical side mirrors. It is about hardware structure technology that implements.

사이드 미러는 차량의 운전석과 조수석 외부에 좌/우측에 위치하며, 차량의 후측방 시야를 운전자에게 제공한다. 이러한 사이드 미러와 관련하여, 종래에는 실제 거울을 이용하는 광학 사이드 미러가 사용되었다. 이러한 광학 사이드 미러는 구조가 단순하며, 디스플레이 장치를 위한 별도의 전력이 필요 없을 뿐 아니라, 환경신뢰성이 우수하고, 고장이 적으며, 가격이 저렴한 이점이 있다.Side mirrors are located on the left and right sides of the vehicle outside the driver's seat and passenger seat, and provide the driver with a view to the rear and sides of the vehicle. In relation to these side mirrors, optical side mirrors that use actual mirrors have been conventionally used. These optical side mirrors have a simple structure, do not require separate power for the display device, and have the advantages of excellent environmental reliability, less failure, and low price.

다만, 최근 들어 사용자 편의성 및 디자인 기능 등이 중요시 되면서 외부에 크게 돌출된 광학 사이드 미러를 대체한 디지털 사이드 미러 기술이 개발되고 있다. 즉, 디지털 사이드 미러는 차량 외부의 카메라와 차량 내부의 디스플레이 장치를 이용하는 기술로서, 카메라에서 촬영된 차량의 후측방 시야를 해당 디스플레이 장치에 출력하는 기술에 해당한다.However, recently, as user convenience and design features have become more important, digital side mirror technology is being developed to replace optical side mirrors that protrude greatly from the outside. In other words, the digital side mirror is a technology that uses a camera outside the vehicle and a display device inside the vehicle, and corresponds to a technology that outputs the rear and side view of the vehicle captured by the camera to the corresponding display device.

이러한 디지털 사이드 미러는 차량의 외관 디자인에 대한 제약을 없애면서 다양한 형태의 컨셉 차량 설계가 가능하게 되고, 부수적으로 운전자가 종래 광학 사이드 미러를 확인할 때 발생하는 전방 주시 공백을 감소시킬 수 있으며, 종래 광학 사이드 미러 보다 넓은 각도의 시야를 제공할 수 있는 이점이 있다. 또한, 광학 사이드 미러는 카메라로부터 영상을 입력 받아서 디지털로 처리하기 때문에 최신 영상처리기술의 이용하여 운전자에게 필요한 다양한 정보를 함께 제공할 수 있는 이점도 존재한다.These digital side mirrors make it possible to design various types of concept vehicles while eliminating restrictions on the exterior design of the vehicle. Additionally, they can reduce the forward looking gap that occurs when the driver checks the conventional optical side mirror, and can reduce the gap in the forward gaze that occurs when the driver checks the conventional optical side mirror. It has the advantage of providing a wider angle of view than a side mirror. In addition, because optical side mirrors receive images from a camera and process them digitally, they have the advantage of being able to provide various information needed to the driver using the latest image processing technology.

하지만, 종래의 디지털 사이드 미러는 카메라에서 촬영된 영상 데이터를 처리하여 디스플레이 장치에 출력하도록 제어하는 제어부가 범용인 운영체제(OS)를 기반으로 구현되므로, 영상처리 속도가 낮은 문제점이 있다. 즉, 운영체제는 매우 다양한 기능을 하도록 설계된 소프트웨어이기 때문에 디지털 사이드 미러를 위한 기능뿐 아니라 다른 플랫폼을 위한 기타 다양한 기능을 집약적으로 포함한다. 이에 따라, 종래 디지털 사이드 미러의 경우, 운영체제 내부 구조가 복잡할 뿐 아니라, 데이터 처리 과정도 운영체제 내부에서 복잡하게 처리된 후에 디스플레이 장치로 최종 출력되기 때문에 상당한 시간 지연이 발생한다. However, the conventional digital side mirror has a problem of low image processing speed because the control unit that processes image data captured by the camera and controls it to be output to the display device is implemented based on a general-purpose operating system (OS). In other words, since the operating system is software designed to perform a wide variety of functions, it intensively includes not only functions for digital side mirrors but also various other functions for other platforms. Accordingly, in the case of a conventional digital side mirror, not only is the internal structure of the operating system complex, but the data processing process is also complex within the operating system before being finally output to the display device, resulting in a significant time delay.

특히, 종래의 디지털 사이드 미러는 고속 주행 및 고해상도 카메라 사용하거나, 다수의 카메라를 연결하거나, 복잡한 영상처리 기술이 적용될수록 영상출력속도(frame/s)가 떨어져서 실제적으로 사이드 미러로써 기능하기 어려운 문제점이 있다. 예를 들어, 카메라 입력 주파수가 높은 f1(가령, 60Hz)인데 출력되는 디스플레이 장치로 출력되는 영상 주파수는 낮은 f2(가령 30Hz)이고, 디스플레이 장치의 주사율은 f1으로 설정될 수 있다. 이는 종래의 디지털 사이드 미러의 낮은 영상 처리 속도로 인해 발생하는 경우로서, 이에 대체하기 위해 동일한 프레임(frame)을 2회 연속 디스플레이해야 한다. 그 결과, 디스플레이 장치에 출력되는 차량의 후측방 영상이 전달하는 현장감이 떨어질 수 없으며, 이에 따라 이러한 종래의 디지털 사이드 미러로는 광학 사이드 미러를 대체하기가 실제적으로 어렵다.In particular, the conventional digital side mirror has the problem that the image output speed (frame/s) decreases when driving at high speeds, using high-resolution cameras, connecting multiple cameras, or applying complex image processing technology, making it difficult to actually function as a side mirror. there is. For example, the camera input frequency is high f1 (e.g., 60Hz), but the image frequency output to the display device is low f2 (e.g., 30Hz), and the refresh rate of the display device may be set to f1. This is a case that occurs due to the low image processing speed of the conventional digital side mirror, and to replace it, the same frame must be displayed twice in succession. As a result, the realism conveyed by the rear and side images of the vehicle displayed on the display device cannot be reduced, and therefore, it is practically difficult to replace the optical side mirror with such a conventional digital side mirror.

다만, 상술한 내용은 단순히 본 발명에 대한 배경 정보를 제공할 뿐 기 공개된 기술에 해당하는 것은 아니다.However, the above-described content merely provides background information on the present invention and does not correspond to previously disclosed technology.

상기한 바와 같은 종래 기술의 문제점을 해결하기 위하여, 본 발명은 차량용 디지털 사이드 미러에서 고속 영상 처리를 통한 실시간 영상 디스플레이를 구현하는 하드웨어 구조 기술을 제공하는데 그 목적이 있다.In order to solve the problems of the prior art as described above, the purpose of the present invention is to provide a hardware structure technology that implements real-time image display through high-speed image processing in a digital side mirror for a vehicle.

또한, 본 발명은 고속 주행, 고해상도 카메라 사용, 카메라 개수 증가, 또는 다양한 영상처리 기술 등이 적용되어도 카메라에서 입력되는 영상 속도(frame/s)와 동일한 속도로 디스플레이 장치에 출력이 가능한 차량용 디지털 사이드 미러 기술을 제공하는데 그 다른 목적이 있다.In addition, the present invention is a digital side mirror for a vehicle that can output to a display device at the same speed (frame/s) as the video input from the camera even when driving at high speeds, using high-resolution cameras, increasing the number of cameras, or applying various image processing technologies. There is another purpose in providing technology.

다만, 본 발명이 해결하고자 하는 과제는 이상에서 언급한 과제에 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.However, the problem to be solved by the present invention is not limited to the problems mentioned above, and other problems not mentioned can be clearly understood by those skilled in the art from the description below. There will be.

상기와 같은 과제를 해결하기 위한 본 발명의 일 실시예에 따른 제어 장치는, 차량에 설치된 카메라에서 촬영된 상기 차량의 측후방에 대한 제1 영상 데이터가 입력되는 입력 인터페이스; 차량 내부의 디스플레이 장치에 표시되는 제2 영상 데이터가 출력되는 출력 인터페이스; 상기 제1 및 제2 영상 데이터를 저장하는 메모리; 및 상기 입력 인터페이스에 수신된 상기 제1 영상 데이터를 처리하여 상기 출력 인터페이스로 상기 제2 영상 데이터를 출력하는 디지털 사이드 미러(Digital Side Mirror)의 기능을 하드웨어 구조를 통해 제어하는 프로세서;를 포함한다.A control device according to an embodiment of the present invention for solving the above problems includes an input interface through which first image data about the sides and rear of the vehicle captured by a camera installed on the vehicle is input; an output interface through which second image data displayed on a display device inside the vehicle is output; a memory storing the first and second image data; and a processor that controls, through a hardware structure, the function of a digital side mirror that processes the first image data received through the input interface and outputs the second image data through the output interface.

상기 프로세서의 상기 하드웨어 구조는, 상기 제1 영상 데이터가 상기 메모리의 제1 캐시 메모리에 임시 저장되도록 제1 캐시 메모리에 대한 쓰기 제어를 수행하는 제1 캐시 메모리 제어부; 상기 임시 저장된 제1 영상 데이터를 상기 메모리의 메인 메모리에 저장되도록 메인 메모리에 대한 쓰기 제어를 수행하며, 메인 메모리에 저장된 제1 영상 데이터를 읽도록 메인 메모리에 대한 읽기 제어를 수행하는 메인 메모리 제어부; 읽은 제1 영상 데이터를 상기 디스플레이 장치에 표시될 이미지의 각 화소에 대한 RGB의 로우 데이터(raw data)로 변환하는 RGB 변환부; 및 상기 로우 데이터에 따른 제2 영상 데이터를 상기 메모리의 제2 캐시 메모리에 임시 저장되도록 제2 캐시 메모리에 대한 쓰기 제어를 수행하는 제2 캐시 메모리 제어부;를 포함할 수 있다.The hardware structure of the processor includes: a first cache memory control unit that performs write control on the first cache memory so that the first image data is temporarily stored in the first cache memory of the memory; a main memory control unit that performs write control on the main memory to store the temporarily stored first image data in the main memory of the memory and performs read control on the main memory to read the first image data stored in the main memory; an RGB conversion unit that converts the read first image data into RGB raw data for each pixel of an image to be displayed on the display device; and a second cache memory control unit that performs write control on the second cache memory so that the second image data according to the raw data is temporarily stored in the second cache memory of the memory.

상기 프로세서의 상기 하드웨어 구조는 변환된 로우 데이터에 대한 추가적인 영상 처리를 수행하는 추가 처리부를 더 포함하며, 상기 제2 영상 데이터는 상기 추가 처리부에 의해 처리된 데이터를 포함할 수 있다.The hardware structure of the processor further includes an additional processing unit that performs additional image processing on the converted raw data, and the second image data may include data processed by the additional processing unit.

상기 제1 영상 데이터의 입력 주파수 및 상기 디스플레이 장치의 디스플레이 주파수 간의 주파수 값 차이나, 상기 입력 주파수 및 상기 디스플레이 주파수 간의 위상(Phase)이 차이를 보완하도록, 상기 제1 영상 데이터가 상기 메인 메모리에 저장될 수 있다.The first image data will be stored in the main memory to compensate for the difference in frequency value between the input frequency of the first image data and the display frequency of the display device, or the difference in phase between the input frequency and the display frequency. You can.

상기 프로세서는 조도 센서에서 센서 데이터에 따라 상기 디스플레이 장치의 화면 밝기를 조절하기 위한 제어 데이터를 상기 디스플레이 장치로 출력할 수 있다.The processor may output control data for adjusting screen brightness of the display device to the display device according to sensor data from the illuminance sensor.

본 발명의 일 실시예에 따른 시스템은, 차량에 설치되어 상기 차량의 측후방에 대한 제1 영상 데이터를 촬영하는 카메라; 차량 내부에 설치되어 제2 영상 데이터에 따른 화면을 표시하는 디스플레이 장치; 및 상기 제1 영상 데이터를 수신 및 처리하여 상기 제2 영상 데이터를 출력하도록 제어하는 제어 장치;를 포함하며, 상기 제어 장치는, 상기 제1 영상 데이터가 입력되는 입력 인터페이스; 상기 제2 영상 데이터가 출력되는 출력 인터페이스; 상기 제1 및 제2 영상 데이터를 저장하는 메모리; 및 상기 입력 인터페이스에 수신된 상기 제1 영상 데이터를 처리하여 상기 출력 인터페이스로 상기 제2 영상 데이터를 출력하는 디지털 사이드 미러(Digital Side Mirror)의 기능을 하드웨어 구조를 통해 제어하는 프로세서;를 포함한다.A system according to an embodiment of the present invention includes a camera installed in a vehicle to capture first image data about the sides and rear of the vehicle; A display device installed inside the vehicle to display a screen according to second image data; and a control device that receives and processes the first image data and controls the second image data to be output, wherein the control device includes: an input interface through which the first image data is input; an output interface through which the second image data is output; a memory storing the first and second image data; and a processor that controls, through a hardware structure, the function of a digital side mirror that processes the first image data received through the input interface and outputs the second image data through the output interface.

상기와 같이 구성되는 본 발명은 차량용 디지털 사이드 미러에서 고속 영상 처리를 위한 하드웨어 구조 기술을 제공함으로써, 차량의 후측방 영상에 대한 현장감 높은 실시간 영상 디스플레이를 구현할 수 있는 이점이 있다. The present invention configured as described above has the advantage of being able to implement real-time image display with a high sense of realism for rear and side images of a vehicle by providing hardware structural technology for high-speed image processing in a digital side mirror for a vehicle.

즉, 본 발명은 종래 기술에서 영상 처리 속도 지연이 발생하는 HAL Level, OS 레벨과 Application Level을 병합하고, 불필요한 운영체제의 Kernel/OS API/File System 등은 제거 및 병합하며, 신호처리 방식을 소프트웨어 중심에서 하드웨어 중심으로 변경함으로써, 고속으로 영상 처리가 가능한 차량용 디지털 사이드 미러의 하드웨어 구조를 구현할 수 있는 이점이 있다.In other words, the present invention merges the HAL Level, OS level, and Application Level, which cause image processing speed delays in the prior art, removes and merges unnecessary Kernel/OS API/File System, etc. of the operating system, and software-centered signal processing method. By changing from focus to hardware, there is an advantage in being able to implement a hardware structure of a digital side mirror for vehicles capable of high-speed image processing.

또한, 본 발명은 차량용 디지털 사이드 미러에서 고속 주행, 고해상도 카메라 사용, 카메라 개수 증가, 또는 다양한 영상처리 기술 등이 적용되어도 카메라에서 입력되는 영상 속도(frame/s)와 동일한 속도로 디스플레이 장치에 출력이 가능한 이점이 있다. In addition, the present invention provides output to the display device at the same speed (frame/s) as the video input from the camera even when driving at high speeds, using high-resolution cameras, increasing the number of cameras, or applying various image processing technologies in a digital side mirror for a vehicle. There are possible benefits.

즉, 본 발명은 다채널 또는 고해상도 카메라가 연결되어도 실시간으로 영상 송출이 가능할 뿐 아니라, 차선 감지, 녹화 기능, 근접 경고 등의 최신 영상 처리 기술이 적용되어도 실시간으로 영상 송출이 가능한 차량용 디지털 사이드 미러를 구현할 수 있는 이점이 있다.In other words, the present invention provides a digital side mirror for a vehicle that is capable of transmitting images in real time even when multi-channel or high-resolution cameras are connected, and even when the latest image processing technologies such as lane detection, recording function, and proximity warning are applied. There are benefits that can be implemented.

본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects that can be obtained from the present invention are not limited to the effects mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the description below. will be.

도 1은 본 발명의 일 실시예에 따른 시스템(10)에 대한 대략적인 블록 구성도를 나타낸다.
도 2는 도 본 발명의 일 실시예에 따른 시스템(10)이 차량(V)에 적용된 예시를 나타낸다.
도 3는 본 발명의 일 실시예에 따른 제어 장치(400)의 블록 구성도를 나타낸다.
도 4는 본 발명의 일 실시예에 따른 프로세서(440)의 하드웨어 구조에 대한 블록 구성도를 나타낸다
도 5는 본 발명의 일 실시예에 따른 프로세서(440)에서 수행되는 동작 순서도를 나타낸다.
Figure 1 shows a schematic block diagram of a system 10 according to an embodiment of the present invention.
Figure 2 shows an example in which the system 10 according to an embodiment of the present invention is applied to a vehicle V.
Figure 3 shows a block diagram of a control device 400 according to an embodiment of the present invention.
Figure 4 shows a block diagram of the hardware structure of the processor 440 according to an embodiment of the present invention.
Figure 5 shows a flowchart of operations performed by the processor 440 according to an embodiment of the present invention.

본 발명의 상기 목적과 수단 및 그에 따른 효과는 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해질 것이며, 그에 따라 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. 또한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하기로 한다.The above purpose and means of the present invention and the resulting effects will become clearer through the following detailed description in conjunction with the accompanying drawings, and thus the technical idea of the present invention will be easily understood by those skilled in the art. It will be possible to implement it. Additionally, in describing the present invention, if it is determined that a detailed description of known technologies related to the present invention may unnecessarily obscure the gist of the present invention, the detailed description will be omitted.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며, 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 경우에 따라 복수형도 포함한다. 본 명세서에서, "포함하다", "구비하다", "마련하다" 또는 "가지다" 등의 용어는 언급된 구성요소 외의 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다.The terminology used herein is for describing embodiments and is not intended to limit the invention. In this specification, the singular also includes the plural, unless specifically stated otherwise in the context. In this specification, terms such as “comprise,” “provide,” “provide,” or “have” do not exclude the presence or addition of one or more other components other than the mentioned components.

본 명세서에서, "또는", "적어도 하나" 등의 용어는 함께 나열된 단어들 중 하나를 나타내거나, 또는 둘 이상의 조합을 나타낼 수 있다. 예를 들어, "A 또는 B", "A 및 B 중 적어도 하나"는 A 또는 B 중 하나만을 포함할 수 있고, A와 B를 모두 포함할 수도 있다.In this specification, terms such as “or” and “at least one” may represent one of words listed together, or a combination of two or more. For example, “A or B” and “at least one of A and B” may include only A or B, or both A and B.

본 명세서에서, "예를 들어" 등에 따르는 설명은 인용된 특성, 변수, 또는 값과 같이 제시한 정보들이 정확하게 일치하지 않을 수 있고, 허용 오차, 측정 오차, 측정 정확도의 한계와 통상적으로 알려진 기타 요인을 비롯한 변형과 같은 효과로 본 발명의 다양한 실시 예에 따른 발명의 실시 형태를 한정하지 않아야 할 것이다.In this specification, descriptions under "for example" and the like may not exactly match the information presented, such as the cited characteristics, variables, or values, and may be subject to tolerances, measurement errors, limits of measurement accuracy and other commonly known factors. Effects such as modifications, including, should not limit the embodiments of the invention according to various embodiments of the present invention.

본 명세서에서, 어떤 구성요소가 다른 구성요소에 '연결되어’ 있다거나 '접속되어' 있다고 기재된 경우, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성 요소에 '직접 연결되어' 있다거나 '직접 접속되어' 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해될 수 있어야 할 것이다.In this specification, when a component is described as being 'connected' or 'connected' to another component, it may be directly connected or connected to the other component, but other components may exist in between. It must be understood that it may be possible. On the other hand, when a component is mentioned as being 'directly connected' or 'directly connected' to another component, it should be understood that there are no other components in between.

본 명세서에서, 어떤 구성요소가 다른 구성요소의 '상에' 있다거나 '접하여' 있다고 기재된 경우, 다른 구성요소에 상에 직접 맞닿아 있거나 또는 연결되어 있을 수 있지만, 중간에 또 다른 구성요소가 존재할 수 있다고 이해되어야 할 것이다. 반면, 어떤 구성요소가 다른 구성요소의 '바로 위에' 있다거나 '직접 접하여' 있다고 기재된 경우에는, 중간에 또 다른 구성요소가 존재하지 않은 것으로 이해될 수 있다. 구성요소 간의 관계를 설명하는 다른 표현들, 예를 들면, '~사이에'와 '직접 ~사이에' 등도 마찬가지로 해석될 수 있다.In this specification, when a component is described as being ‘on’ or ‘in contact with’ another component, it may be in direct contact with or connected to the other component, but there may be another component in between. It must be understood that it can be done. On the other hand, if a component is described as being 'right above' or 'in direct contact' with another component, it can be understood that there is no other component in the middle. Other expressions that describe the relationship between components, such as 'between' and 'directly between', can be interpreted similarly.

본 명세서에서, '제1', '제2' 등의 용어는 다양한 구성요소를 설명하는데 사용될 수 있지만, 해당 구성요소는 위 용어에 의해 한정되어서는 안 된다. 또한, 위 용어는 각 구성요소의 순서를 한정하기 위한 것으로 해석되어서는 안되며, 하나의 구성요소와 다른 구성요소를 구별하는 목적으로 사용될 수 있다. 예를 들어, '제1구성요소'는 '제2구성요소'로 명명될 수 있고, 유사하게 '제2구성요소'도 '제1구성요소'로 명명될 수 있다.In this specification, terms such as 'first' and 'second' may be used to describe various components, but the components should not be limited by the above terms. Additionally, the above term should not be interpreted as limiting the order of each component, but may be used for the purpose of distinguishing one component from another component. For example, a 'first component' may be named a 'second component', and similarly, a 'second component' may also be named a 'first component'.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어는 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다. Unless otherwise defined, all terms used in this specification may be used with meanings that can be commonly understood by those skilled in the art to which the present invention pertains. Additionally, terms defined in commonly used dictionaries are not to be interpreted ideally or excessively unless clearly specifically defined.

이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 일 실시예를 상세히 설명하도록 한다.Hereinafter, a preferred embodiment according to the present invention will be described in detail with reference to the attached drawings.

도 1은 본 발명의 일 실시예에 따른 시스템(10)에 대한 대략적인 블록 구성도를 나타내며, 도 2는 도 본 발명의 일 실시예에 따른 시스템(10)이 차량(V)에 적용된 예시를 나타낸다.Figure 1 shows a rough block diagram of the system 10 according to an embodiment of the present invention, and Figure 2 shows an example of the system 10 according to an embodiment of the present invention applied to a vehicle V. indicates.

본 발명의 일 실시예에 따른 시스템(10)(이하, "본 시스템"이라 지칭함)은 차량용 디지털 사이드 미러(Digital Side Mirror, DSM) 기능을 구현한 시스템이다. 이러한 본 시스템(10)은, 도 1 및 도 2에 도시된 바와 같이, 카메라(100), 센서(200), 디스플레이 장치(300) 및 제어 장치(400)를 포함할 수 있다. 다만, 센서(200)는 필수 구성은 아니며, 선택적으로 포함될 수 있다.System 10 (hereinafter referred to as “this system”) according to an embodiment of the present invention is a system that implements a digital side mirror (DSM) function for a vehicle. This system 10 may include a camera 100, a sensor 200, a display device 300, and a control device 400, as shown in FIGS. 1 and 2. However, the sensor 200 is not a required component and may be optionally included.

카메라(100)는 차량(V)의 양측에 각각 설치되어, 차량(V)의 후측방 시야에 대한 영상을 촬영하며, 해당 제1 영상 데이터(vd1)가 제어 장치(400)로 전송된다. 물론, 카메라(100)는 차량(V)의 양측 외에 후면 또는 루프 등의 다양한 부위에 추가적으로 구비될 수 있으며, 해당 차량(V)의 주변 시야에 대한 제1 영상 데이터(vd1)가 제어 장치(400)로 전송될 수도 있다. The cameras 100 are installed on both sides of the vehicle V, capture images of the rear and side views of the vehicle V, and the corresponding first image data vd1 is transmitted to the control device 400. Of course, the camera 100 may be additionally installed in various areas such as the rear or roof in addition to both sides of the vehicle V, and the first image data vd1 for the peripheral vision of the vehicle V is transmitted to the control device 400. ) can also be transmitted.

카메라(100)는 입사되는 광의 가시광선 대역에 따른 광학 이미지를 촬영하는 광학 카메라인 것이 바람직할 수 있다. 예를 들어, 카메라(100)는 CCD(Charge-Coupled Device) 또는 CMOS(Complementary Metal Oxide Semiconductor) 등의 이미지 센서를 이용하는 광학 카메라일 수 있으나, 이에 한정되는 것은 아니다. It may be desirable for the camera 100 to be an optical camera that captures optical images according to the visible light band of incident light. For example, the camera 100 may be an optical camera using an image sensor such as a charge-coupled device (CCD) or a complementary metal oxide semiconductor (CMOS), but is not limited thereto.

센서(200)는 카메라(100)로 감지되지 않는 차량(V) 주변의 다양한 상태에 대한 정보를 감지하도록 추가될 수 있으며, 이러한 센서(200)에서 감지된 차량(V) 주변 정보에 대한 센서 데이터(sd)는 제어 장치(400)로 전송된다. 일례로, 센서(200)는 온도 센서, 근접 감지 센서, 조도 센서 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.The sensor 200 may be added to detect information about various conditions around the vehicle (V) that are not detected by the camera 100, and sensor data about information around the vehicle (V) detected by such sensor 200. (sd) is transmitted to the control device 400. For example, the sensor 200 may include a temperature sensor, a proximity sensor, an illumination sensor, etc., but is not limited thereto.

디스플레이 장치(300)는 다양한 영상 데이터를 화면으로 표시하는 것으로서, 비발광형 패널이나 발광형 패널로 구성될 수 있다. 즉, 디스플레이 장치(300)는 제어 장치(400)에서 처리되어 출력되는 제2 영상 데이터(vd2)를 수신하여, 해당 제2 영상 데이터(vd2)에 따른 영상을 화면에 표시한다. The display device 300 displays various image data on a screen and may be composed of a non-emissive panel or an emissive panel. That is, the display device 300 receives the second image data vd2 that is processed and output from the control device 400 and displays an image according to the second image data vd2 on the screen.

예를 들어, 디스플레이 장치(300)는 액정 디스플레이(LCD; liquid crystal display), 발광 다이오드(LED; light emitting diode) 디스플레이, 유기 발광 다이오드(OLED; organic LED) 디스플레이, 마이크로 전자기계 시스템(MEMS; micro electro mechanical systems) 디스플레이, 또는 전자 종이(electronic paper) 디스플레이 등을 포함할 수 있으나, 이에 한정되는 것은 아니다. 또한, 디스플레이 장치(300)는 입력부(미도시)와 결합되어 터치 스크린(touch screen) 등으로 구현될 수도 있다.For example, the display device 300 may include a liquid crystal display (LCD), a light emitting diode (LED) display, an organic light emitting diode (OLED) display, and a micro electromechanical system (MEMS). It may include, but is not limited to, an electro mechanical systems (electro mechanical systems) display, an electronic paper display, etc. Additionally, the display device 300 may be combined with an input unit (not shown) and implemented as a touch screen.

도 3는 본 발명의 일 실시예에 따른 제어 장치(400)의 블록 구성도를 나타낸다.Figure 3 shows a block diagram of a control device 400 according to an embodiment of the present invention.

제어 장치(400)는 카메라(100) 및 센서(200)에서 수신된 영상 데이터 및 센서 데이터(vd1, sd)를 처리하여 디스플레이 장치(300)에 표시되는 화면을 제어할 수 있다. 즉, 제어 장치(400)는 카메라(100)에서 촬영된 제1 영상 데이터(vd1)를 수신하여, 제1 영상 데이터(vd1)에 대한 영상 처리를 수행할 수 있으며, 처리된 제2 영상 데이터(vd2)가 디스플레이 장치(300)로 출력될 수 있다.The control device 400 may control the screen displayed on the display device 300 by processing the image data and sensor data (vd1, sd) received from the camera 100 and the sensor 200. That is, the control device 400 may receive first image data vd1 captured by the camera 100, perform image processing on the first image data vd1, and process the second image data (vd1). vd2) may be output to the display device 300.

이를 위해, 제어 장치(400)는, 도 3에 도시된 바와 같이, 입력 인터페이스(410), 출력 인터페이스(420), 메모리(430) 및 프로세서(440)를 포함한다.To this end, the control device 400 includes an input interface 410, an output interface 420, a memory 430, and a processor 440, as shown in FIG. 3.

입력 인터페이스(410)는 카메라(100) 및 센서(200)에 각각 연결되어 카메라(100) 및 센서(200)로부터 입력되는 영상 데이터 및 센서 데이터(vd1, sd)를 수신하는 하드웨어에 해당한다. 즉, 입력 인터페이스(410)는 카메라(100)의 제1 영상 데이터(vd1)가 입력되는 고속의 제1 입력 인터페이스와, 센서(200)의 센서 데이터(sd)가 입력되는 제2 입력 인터페이스를 각각 포함할 수 있다. 이대, 제1 및 제2 입력 인터페이스는 서로 다른 방식의 통신을 위한 인터페이스로 구현될 수 있으며, 제1 입력 인터페이스가 제2 입력 인터페이스보다 높은 속도의 통신을 수행할 수 있다. 일례로, 제1 입력 인터페이스는 MIPI(Mobile Industry Processor Interface)일 수 있으며, 제2 입력 인터페이스는 I2C (Inter-Integrated Circut) 등의 직렬 통신을 위한 인터페이스일 수 있다.The input interface 410 corresponds to hardware that is connected to the camera 100 and the sensor 200, respectively, and receives image data and sensor data (vd1, sd) input from the camera 100 and the sensor 200. That is, the input interface 410 includes a high-speed first input interface into which the first image data (vd1) of the camera 100 is input, and a second input interface into which the sensor data (sd) of the sensor 200 is input. It can be included. The first and second input interfaces may be implemented as interfaces for different types of communication, and the first input interface may perform communication at a higher speed than the second input interface. For example, the first input interface may be MIPI (Mobile Industry Processor Interface), and the second input interface may be an interface for serial communication such as I2C (Inter-Integrated Circut).

출력 인터페이스(420)는 디스플레이 장치(300)에 연결되어 프로세서(440)에서 처리되어 출력되는 제2 영상 데이터(vd2)를 디스플레이 장치(300)로 전송하는 하드웨어에 해당한다. 즉, 출력 인터페이스(420)는 다양한 종류의 영상 데이터를 전송하기 위한 인터페이스에 해당한다. 일례로, 출력 인터페이스(420)는 HDMI(High-Definition Multimedia Interface)일 수 있다.The output interface 420 corresponds to hardware that is connected to the display device 300 and transmits the second image data vd2 that is processed and output by the processor 440 to the display device 300. That is, the output interface 420 corresponds to an interface for transmitting various types of image data. For example, the output interface 420 may be a High-Definition Multimedia Interface (HDMI).

메모리(430)는 제어 장치(400)의 제어 동작에 필요한 각종 정보를 저장한다. 메모리(430)의 저장 정보로는 영상 데이터(vd1, vd2), 센서 데이터(sd), RGB 변환 로우 데이터(raw data), 추가 처리된 데이터 등이 포함될 수 있으나, 이에 한정되는 것은 아니다. 일례로, 메모리(430)는 그 용도/위치에 따라, 제1 및 제2 캐시(cache) 메모리와, DDR SDRAM(Double data rate synchronous dynamic random access memory) 등으로 구현되는 메인 메모리(주기억장치)를 포함할 수 있다.The memory 430 stores various information necessary for the control operation of the control device 400. Information stored in the memory 430 may include, but is not limited to, image data (vd1, vd2), sensor data (sd), RGB converted raw data, additionally processed data, etc. For example, the memory 430 includes main memory (main memory) implemented with first and second cache memories and double data rate synchronous dynamic random access memory (DDR SDRAM), etc., depending on its purpose/location. It can be included.

이때, 제1 및 제2 캐시 메모리는 메인 메모리와 입출력 인터페이스(410, 420) 간의 서로 다른 처리 속도 등을 보완하기 위해 프로세서(440)의 입출력 데이터를 임시적으로 저장하는 메모리에 해당한다. 즉, 제1 캐시 메모리는 메인 메모리와 제1 입력 인터페이스 간의 서로 다른 처리 속도를 보완하여, 제1 입력 인터페이스에 수신되는 제1 영상 데이터(vd1)를 메인 메모리에 저장하기 전에 임시적으로 저장하는 메모리에 해당한다. 또한, 제2 캐시 메모리는 메인 메모리와 출력 인터페이스 간의 서로 다른 처리 속도를 보완하여, 출력 인터페이스로 출력되는 제2 영상 데이터(vd2)를 임시적으로 저장하는 메모리에 해당한다.At this time, the first and second cache memories correspond to memories that temporarily store input/output data of the processor 440 to compensate for different processing speeds between the main memory and the input/output interfaces 410 and 420. That is, the first cache memory compensates for the different processing speeds between the main memory and the first input interface, and is stored in a memory that temporarily stores the first image data (vd1) received in the first input interface before storing it in the main memory. It applies. In addition, the second cache memory corresponds to a memory that temporarily stores the second image data (vd2) output to the output interface by compensating for the different processing speeds between the main memory and the output interface.

프로세서(440)는 제어 장치(400)의 다양한 제어 동작을 수행할 수 있다. 즉, 프로세서(440)는 입력 인터페이스(410)로 입력된 영상 데이터 및 센서 데이터(vd1, sd)를 처리하여 출력 인터페이스(420)로 제2 영상 데이터(vd2)가 출력되도록 제어할 수 있다. 또한, 프로세서(440)는 제어 장치(400)의 나머지 구성, 즉 입력 인터페이스(410), 출력 인터페이스(420), 메모리(430) 등의 동작을 제어할 수 있다. The processor 440 may perform various control operations of the control device 400. That is, the processor 440 may process the image data and sensor data (vd1, sd) input to the input interface 410 and control the second image data (vd2) to be output to the output interface 420. Additionally, the processor 440 may control the operations of the remaining components of the control device 400, that is, the input interface 410, the output interface 420, and the memory 430.

예를 들어, 프로세서(440)는 마이크로프로세서(Microprocessor), ASIC(Application-Specific Integrated Circuit), 또는 FPGA(Field Programmable Gate Array) 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.For example, the processor 440 may include, but is not limited to, a microprocessor, an application-specific integrated circuit (ASIC), or a field programmable gate array (FPGA).

특히, 센서(200)는 조도 센서를 포함할 수 있는데, 이 경우에, 조도 센서에서 감지된 차량(V) 주변의 조도 상태에 대한 센서 데이터(sd)가 제어 장치(400)로 전달되며, 프로세서(440)는 수신된 센서 데이터(sd)에 따라 디스플레이 장치(300)의 화면 밝기가 조절되도록 제어할 수 있다. 이러한 디스플레이 장치(300)의 화면 밝기에 대한 데이터는 제2 영상 데이터(vd2)에 포함되거나 별도로 디스플레이 장치(300)에 전달될 수 있다.In particular, the sensor 200 may include an illuminance sensor. In this case, sensor data (sd) about the illuminance state around the vehicle V detected by the illuminance sensor is transmitted to the control device 400, and the processor 440 can control the screen brightness of the display device 300 to be adjusted according to the received sensor data (sd). Data on the screen brightness of the display device 300 may be included in the second image data vd2 or may be separately transmitted to the display device 300.

일례로, 조도 센서의 센서 데이터(sd)에 따른 조도 정보가 제1 값 이상인 경우, 프로세서(440)는 디스플레이 장치(300)의 화면 밝기가 줄어들도록 제어할 수 있다. 또한, 조도 센서의 센서 데이터(sd)에 따른 조도 정보가 제2 값(단, 제1 값 > 제2 값) 이하인 경우, 프로세서(440)는 디스플레이 장치(300)의 화면 밝기가 밝아지도록 제어할 수 있다. For example, when the illuminance information according to the sensor data (sd) of the illuminance sensor is greater than or equal to the first value, the processor 440 may control the screen brightness of the display device 300 to decrease. In addition, when the illuminance information according to the sensor data (sd) of the illuminance sensor is less than or equal to the second value (however, the first value > the second value), the processor 440 controls the screen brightness of the display device 300 to become brighter. You can.

한편, 종래 차량용 디지털 사이드 미러의 제어 장치(이하, "종래 기술"이라 지칭함)의 경우, 카메라로부터 영상 데이터 수신하여 디스플레이 장치로 보내는 프로세서를 포함한다. 이때, 프로세서에는 운영체제(OS)가 포함되어 있으며, 이러한 운영체제의 API를 통해서 카메라 영상을 쉽게 획득하고 디스플레이 장치로 보낼 수 있다.Meanwhile, a conventional control device for a digital side mirror for a vehicle (hereinafter referred to as “prior art”) includes a processor that receives image data from a camera and sends it to a display device. At this time, the processor includes an operating system (OS), and camera images can be easily acquired and sent to the display device through the API of the operating system.

하지만, 이러한 종래 기술에 따른 운영체제를 이용하는 방식의 경우, 차량용 디지털 사이드 미러만을 위해서 개발된 것은 아니며, 자동차 외의 다양한 분야에서 카메라를 이용한 신호 처리를 위해 사용되는 플랫폼(이하, "종래 플랫폼"이라 지칭함)을 이용하는 것에 불과하다. 즉, 종래 기술은 기존에 존재하는 차량의 후방카메라 기술, CCTV, 웹캠 등과 동일한 종래 플랫폼을 공유한다. However, in the case of a method using an operating system according to the prior art, it was not developed only for digital side mirrors for vehicles, and is a platform used for signal processing using cameras in various fields other than automobiles (hereinafter referred to as the “conventional platform”). It's just a matter of using . In other words, the prior art shares the same conventional platform as existing vehicle rear camera technology, CCTV, webcam, etc.

이러한 종래 기술 및 종래 플랫폼을 더 구체적으로 설명하면, 카메라에 연결되는 제어 장치의 입력 인터페이스에서는 카메라의 디지털 신호를 직접 수신하게 된다. 이때, 해당 입력 인터페이스에서는 영상 데이터가 수신되기는 하지만, 개발자가 영상 데이터를 알아볼 수가 없는데, 이는 수신되는 영상 데이터가 프레임(frame) 단위로 구분되어 있지 않고, 단순히 연속해서 0과 1 이 수시로 변하는 데이터로 보이기 때문이다. 또한, 종래 기술의 Hardware Abstraction Layer(HAL)에서는 입력 인터페이스에 수신된 영상 데이터를 가공할 수 있는 다양한 함수들이 존재하는데, 예를 들면 영상 데이터를 프레임(frame) 단위로 저장하는 기능들을 할 수 있다. 이에 따라, 개발자는 OS API를 사용해서 프로그래밍을 하게 되고, OS는 사용자의 프로그램을 컴파일하여 HAL에서 관련 함수를 사용해서 카메라의 영상 데이터를 디스플레이 장치로 전송하게 된다. 이러한 종래 플랫폼의 가장 큰 장점은 운영체제가 포함되어 있어서, 영상 획득부터 디스플레이 장치까지 개발자가 필요로 하는 모든 기능을 운영체제의 API를 호출하게 되면 손쉽게 처리 할 수 있다는 점이다.To describe this prior art and platform in more detail, the input interface of the control device connected to the camera directly receives the digital signal from the camera. At this time, although video data is received through the input interface, the developer cannot recognize the video data. This is because the received video data is not divided into frames, but is simply data in which 0 and 1 change continuously. Because it is visible. Additionally, in the Hardware Abstraction Layer (HAL) of the prior art, there are various functions that can process image data received through an input interface. For example, functions can be used to store image data in frames. Accordingly, the developer programs using the OS API, and the OS compiles the user's program and uses related functions in the HAL to transmit the camera's video data to the display device. The biggest advantage of this conventional platform is that it includes an operating system, so all functions needed by developers, from image acquisition to display devices, can be easily handled by calling the operating system's API.

하지만, 종래 기술은 카메라에서 촬영된 영상 데이터를 처리하여 디스플레이 장치에 출력하도록 제어하는 제어 장치가 범용인 운영체제(OS)를 기반으로 구현되므로, 영상처리 속도가 낮은 문제점이 있다. 즉, 운영체제는 매우 다양한 기능을 하도록 설계된 소프트웨어이기 때문에 디지털 사이드 미러를 위한 기능뿐 아니라 다른 플랫폼을 위한 기타 다양한 기능을 집약적으로 포함한다. 이에 따라, 종래 기술의 경우, 운영체제 내부 구조가 복잡할 뿐 아니라, 데이터 처리 과정도 운영체제 내부에서 복잡하게 처리된 후에 디스플레이 장치로 최종 출력되기 때문에 상당한 시간 지연이 발생한다.However, the conventional technology has a problem in that the image processing speed is low because the control device that processes the image data captured by the camera and controls it to be output to the display device is implemented based on a general-purpose operating system (OS). In other words, since the operating system is software designed to perform a wide variety of functions, it intensively includes not only functions for digital side mirrors but also various other functions for other platforms. Accordingly, in the case of the prior art, not only is the internal structure of the operating system complex, but the data processing process is also complex within the operating system before being finally output to the display device, resulting in a significant time delay.

특히, 종래 기술은 고속 주행 및 고해상도 카메라 사용하거나, 다수의 카메라를 연결하거나, 복잡한 영상처리 기술이 적용될수록 영상출력속도(frame/s)가 떨어져서 실제적으로 사이드 미러로써 기능하기 어려운 문제점이 있다. 예를 들어, 카메라 입력 주파수가 높은 f1(가령, 60Hz)인데 출력되는 디스플레이 장치로 출력되는 영상 주파수는 낮은 f2(가령 30Hz)이고, 디스플레이 장치의 주사율은 f1으로 설정될 수 있다. 이는 종래 기술의 낮은 영상 처리 속도로 인해 발생하는 경우로서, 이에 대체하기 위해 동일한 프레임(frame)을 2회 연속 디스플레이해야 한다. 그 결과, 디스플레이 장치에 출력되는 차량의 후측방 영상이 전달하는 현장감이 떨어질 수 없으며, 이에 따라 이러한 종래 기술로는 광학 사이드 미러를 대체하기가 실제적으로 어렵다.In particular, the conventional technology has a problem in that it is difficult to actually function as a side mirror because the image output speed (frame/s) decreases as high-speed driving and high-resolution cameras are used, multiple cameras are connected, or complex image processing technology is applied. For example, the camera input frequency is high f1 (e.g., 60Hz), but the image frequency output to the display device is low f2 (e.g., 30Hz), and the refresh rate of the display device may be set to f1. This is a case that occurs due to the low image processing speed of the prior art, and to replace this, the same frame must be displayed twice in succession. As a result, the realism conveyed by the rear and side images of the vehicle displayed on the display device cannot be reduced, and therefore, it is practically difficult to replace the optical side mirror with such conventional technology.

이하, 본 발명의 일 실시예에 따른 프로세서(440)의 하드웨어 구조 및 동작에 대해 보다 상세하게 설명하도록 한다. Hereinafter, the hardware structure and operation of the processor 440 according to an embodiment of the present invention will be described in more detail.

도 4는 본 발명의 일 실시예에 따른 프로세서(440)의 하드웨어 구조에 대한 블록 구성도를 나타내며, 도 5는 본 발명의 일 실시예에 따른 프로세서(440)에서 수행되는 동작 순서도를 나타낸다.FIG. 4 shows a block diagram of the hardware structure of the processor 440 according to an embodiment of the present invention, and FIG. 5 shows a flowchart of operations performed by the processor 440 according to an embodiment of the present invention.

상술한 종래 기술의 문제점을 해결하기 위해, 프로세서(440)는 차량용 디지털 사이드 미러에서 고속 영상 처리를 통한 실시간 영상 디스플레이를 구현하는 하드웨어 구조를 가진다. 즉, 프로세서(440)는 차량용 디지털 사이드 미러에서 영상 처리 및 출력 속도(frame/s)를 높이기 위한 하드웨어 구조를 가진다.In order to solve the problems of the prior art described above, the processor 440 has a hardware structure that implements real-time image display through high-speed image processing in a digital side mirror for a vehicle. That is, the processor 440 has a hardware structure to increase image processing and output speed (frame/s) in a vehicle digital side mirror.

이를 위해, 도 4에 도시된 바와 같이, 프로세서(440)는 제1 캐시 메모리 제어부(441), 메인 메모리 제어부(442), RGB 변환부(443), 추가 처리부(444) 및 제2 캐시 메모리 제어부(445)의 하드웨어 구조를 포함할 수 있다. 물론, 추가 처리부(444)는 선택적으로 포함될 수 있다. 일례로, 프로세서(440)의 하드웨어 구조는 디지털 논리 게이트(MOSFET)를 적용하여 트렌지스터 레벨로 구현될 수 있으며, FPGA/ASIC을 통해서 구현될 수 있다.To this end, as shown in FIG. 4, the processor 440 includes a first cache memory control unit 441, a main memory control unit 442, an RGB conversion unit 443, an additional processing unit 444, and a second cache memory control unit. It may include a hardware structure of (445). Of course, the additional processing unit 444 may be optionally included. For example, the hardware structure of the processor 440 can be implemented at the transistor level by applying a digital logic gate (MOSFET), and can be implemented through an FPGA/ASIC.

이하, 도 4 및 도 5를 참조하여, 상술한 하드웨어 구조를 통한 프로세서(440)의 동작에 대해서 상세히 설명하도록 한다.Hereinafter, with reference to FIGS. 4 and 5, the operation of the processor 440 through the above-described hardware structure will be described in detail.

먼저, 제1 캐시 메모리 제어부(441)는 입력 인터페이스(410)에 수신되는 제1 영상 데이터(vd1)를 메모리(430)의 제1 캐시 메모리에 임시 저장되도록 제1 캐시 메모리에 대한 쓰기 제어를 수행한다(S501).First, the first cache memory control unit 441 performs write control on the first cache memory so that the first image data vd1 received through the input interface 410 is temporarily stored in the first cache memory of the memory 430. Do it (S501).

다음으로, 메인 메모리 제어부(442)는 제1 캐시 메모리에 임시 저장된 제1 영상 데이터(vd1)를 메모리(430)의 메인 메모리에 저장되도록 메인 메모리에 대한 쓰기 제어를 수행한다(S502). 이때, 해당 제1 영상 데이터(vd1)를 메인 메모리에 저장하는 이유는 카메라(100)로부터의 제1 영상 데이터(vd1)에 대한 입력 주파수와 디스플레이 장치(300)의 디스플레이 주파수 간의 주파수 값이 달라서(또는 주파수가 동일하더라도 위상(Phase)이 달라서), 카메라(100)의 제1 영상 데이터(vd1)가 바로 출력될 수 없어 이에 대한 보완(버퍼링)를 수행하기 위함이며, 또한 해당 제1 영상 데이터(vd1)에 대한 추가적인 영상 처리를 수행하기 위함이다. 이러한 과정을 운영 체제에 따른 소프트웨어로 처리할 경우, 그 처리 속도가 느려질 수 밖에 없으므로, 본 발명에서는 이러한 과정을 담당하는 하드웨어 구조가 프로세서(400)에 구현된다.Next, the main memory control unit 442 performs write control on the main memory so that the first image data vd1 temporarily stored in the first cache memory is stored in the main memory of the memory 430 (S502). At this time, the reason for storing the first image data (vd1) in the main memory is that the frequency value between the input frequency for the first image data (vd1) from the camera 100 and the display frequency of the display device 300 is different ( (or the phase is different even if the frequency is the same), the first image data (vd1) of the camera 100 cannot be output immediately, so this is to compensate (buffering) for this, and also the corresponding first image data (vd1) This is to perform additional image processing for vd1). If this process is processed with software according to the operating system, the processing speed is inevitably slowed down, so in the present invention, a hardware structure responsible for this process is implemented in the processor 400.

한편, 입력 인터페이스(410)에 수신되는 센서 데이터(sd)는 메인 메모리 제어부(442)의 제어에 의해 메모리(430)의 메인 메모리에 저장될 수 있다.Meanwhile, sensor data (sd) received through the input interface 410 may be stored in the main memory of the memory 430 under the control of the main memory control unit 442.

다음으로, 메인 메모리 제어부(442)는 메인 메모리에 저장된 제1 영상 데이터(vd1)를 읽도록 메인 메모리에 대한 읽기 제어를 수행한다(S503). 이때, 읽은 제1 영상 데이터(vd1)는 프로세서(440) 내의 레지스터에 저장될 수 있다.Next, the main memory control unit 442 performs read control on the main memory to read the first image data vd1 stored in the main memory (S503). At this time, the read first image data vd1 may be stored in a register within the processor 440.

다음으로, RGB 변환부(443)는 읽은 제1 영상 데이터(vd1)를 디스플레이 장치(300)에 표시될 이미지의 각 화소에 대한 RGB(Red, Green, Blue)의 로우 데이터(raw data)로 변환한다(S504).Next, the RGB conversion unit 443 converts the read first image data (vd1) into RGB (Red, Green, Blue) raw data for each pixel of the image to be displayed on the display device 300. Do it (S504).

다음으로, 추가 처리부(444)는 변환된 로우 데이터에 대해 영상 처리 등의 추가적인 처리를 수행한다(S505). 일례로, 추가 처리부(444)는 변환된 로우 데이터를 디스플레이 장치(300)에서 표시될 수 있는 형태의 데이터로 변환되도록 영상 처리하거나, 센서 데이터(sd)에 따른 추가적인 정보가 디스플레이 장치(300)에 표시될 이미지에 포함될 수 있도록 영상 처리할 수 있다. 또한, 추가 처리부(444)는 조도 센서에서 감지된 차량(V) 주변의 조도 상태에 대한 센서 데이터(sd)에 따라 디스플레이 장치(300)의 화면 밝기를 조절하기 위한 제어 데이터를 생성하도록 제어할 수 있다. 다만, S505는 선택적으로 수행될 수 있다.Next, the additional processing unit 444 performs additional processing, such as image processing, on the converted raw data (S505). For example, the additional processing unit 444 processes the converted raw data into data that can be displayed on the display device 300, or provides additional information according to the sensor data (sd) to the display device 300. The image can be processed so that it can be included in the image to be displayed. In addition, the additional processing unit 444 can be controlled to generate control data for adjusting the screen brightness of the display device 300 according to sensor data (sd) about the illumination condition around the vehicle V detected by the illuminance sensor. there is. However, S505 may be performed selectively.

다음으로, 제2 캐시 메모리 제어부(445)는 로우 데이터 또는 추가 처리된 데이터 등을 포함하는 제2 영상 데이터(vd2)를 메모리(430)의 제2 캐시 메모리에 임시 저장되도록 제2 캐시 메모리에 대한 쓰기 제어를 수행한다(S506). 이에 따라, 제2 캐시 메모리에 저장된 제2 영상 데이터(vd2)는 출력 인터페이스(420)를 통해 디스플레이 장치(300)로 출력 전달됨으로써, 해당 제2 영상 데이터(vd2)에 따른 이미지가 디스플레이 장치(300)에 표시될 수 있다.Next, the second cache memory control unit 445 configures the second cache memory to temporarily store the second image data vd2 including raw data or additionally processed data in the second cache memory of the memory 430. Perform write control (S506). Accordingly, the second image data (vd2) stored in the second cache memory is output and transmitted to the display device 300 through the output interface 420, so that an image according to the second image data (vd2) is displayed on the display device 300. ) can be displayed.

상술한 본 발명에 따른 프로세서(440)는 카메라(100)로부터 입력되는 영상 데이터가 출력되기까지 하드웨어 구조를 통해 처리되기 때문에 수십 마이크로 초(us)의 지연만 발생하고, 카메라(100)의 입력 주파수를 그대로 디스플레이 장치(200)로 출력이 가능하다. 또한, 본 발명에 따른 제안하는 프로세서(440)의 하드웨어 구조는 카메라(100)의 개수, 카메라(100)의 해상도, 카메라(100)의 주파수에 따라, Custom Designed Hardware의 Size(Flip-Flop의 개수)는 변화될 수 있지만, 영상 처리 속도는 입력되는 제1 영상 데이터(vd1)의 사이즈와 관계가 없기 때문에 제1 영상 데이터(vd1)의 사이즈가 크든 작든 영상 처리 속도는 동일하게 유지될 수 있다. 참고로, 운영 체제를 사용하는 종래 기술의 경우, 입력되는 영상 데이터의 사이즈가 증가함에 따라 않지만 영상 처리 속도가 줄어들게 된다.Since the processor 440 according to the present invention described above processes the image data input from the camera 100 through a hardware structure until it is output, only a delay of several tens of microseconds (us) occurs, and the input frequency of the camera 100 can be output as is to the display device 200. In addition, the hardware structure of the proposed processor 440 according to the present invention depends on the number of cameras 100, the resolution of the cameras 100, and the frequency of the cameras 100, and the size (number of Flip-Flops) of the Custom Designed Hardware. ) may change, but since the image processing speed is not related to the size of the input first image data vd1, the image processing speed may remain the same regardless of whether the size of the first image data vd1 is large or small. For reference, in the case of conventional technology using an operating system, as the size of input image data increases, the image processing speed decreases.

상술한 바와 같이 구성되는 본 발명은 차량용 디지털 사이드 미러에서 고속 영상 처리를 위한 하드웨어 구조 기술을 제공함으로써, 차량의 후측방 영상에 대한 현장감 높은 실시간 영상 디스플레이를 구현할 수 있는 이점이 있다. 즉, 본 발명은 종래 기술에서 영상 처리 속도 지연이 발생하는 HAL Level, OS 레벨과 Application Level을 병합하고, 불필요한 운영체제의 Kernel/OS API/File System 등은 제거 및 병합하며, 신호처리 방식을 소프트웨어 중심에서 하드웨어 중심으로 변경함으로써, 고속으로 영상 처리가 가능한 차량용 디지털 사이드 미러의 하드웨어 구조를 구현할 수 있는 이점이 있다. The present invention, constructed as described above, has the advantage of being able to implement a real-time image display with a high sense of realism for rear and side images of a vehicle by providing hardware structural technology for high-speed image processing in a digital side mirror for a vehicle. In other words, the present invention merges the HAL Level, OS level, and Application Level, which cause image processing speed delays in the prior art, removes and merges unnecessary Kernel/OS API/File System, etc. of the operating system, and software-centered signal processing method. By changing from focus to hardware, there is an advantage in being able to implement a hardware structure of a digital side mirror for vehicles capable of high-speed image processing.

참고로, 종래 기술의 경우, OS 레벨과 Application Level이 소프트웨어로 구현되어 있어, HAL Level 없이는 Hardware Level과 직접적으로 연결할 수 없는 문제점이 있다. 이에 따라, 본 발명은 OS 레벨과 Application Level에서 디지털 사이드 미러 구현에 필요한 최소한의 기능을 Hardware로 구현하여 Hardware Level과 직접적으로 연결함으로써, 고속의 영상 처리가 가능한다.For reference, in the case of the prior art, the OS level and application level are implemented as software, so there is a problem that they cannot be directly connected to the hardware level without the HAL level. Accordingly, the present invention implements the minimum functions required for implementing a digital side mirror at the OS level and application level as hardware and connects them directly to the hardware level, enabling high-speed image processing.

또한, 본 발명은 차량용 디지털 사이드 미러에서 고속 주행, 고해상도 카메라 사용, 카메라 개수 증가, 또는 다양한 영상처리 기술 등이 적용되어도 카메라에서 입력되는 영상 속도(frame/s)와 동일한 속도로 디스플레이 장치에 출력이 가능한 이점이 있다. 즉, 본 발명은 다채널 또는 고해상도 카메라가 연결되어도 실시간으로 영상 송출이 가능할 뿐 아니라, 차선 감지, 녹화 기능, 근접 경고 등의 최신 영상 처리 기술이 적용되어도 실시간으로 영상 송출이 가능한 차량용 디지털 사이드 미러를 구현할 수 있는 이점이 있다.In addition, the present invention provides output to the display device at the same speed (frame/s) as the video input from the camera even when driving at high speeds, using high-resolution cameras, increasing the number of cameras, or applying various image processing technologies in a digital side mirror for a vehicle. There are possible benefits. In other words, the present invention provides a digital side mirror for a vehicle that is capable of transmitting images in real time even when multi-channel or high-resolution cameras are connected, and even when the latest image processing technologies such as lane detection, recording function, and proximity warning are applied. There are benefits that can be implemented.

본 발명의 상세한 설명에서는 구체적인 실시 예에 관하여 설명하였으나 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 발명의 범위는 설명된 실시 예에 국한되지 않으며, 후술되는 청구범위 및 이 청구범위와 균등한 것들에 의해 정해져야 한다.In the detailed description of the present invention, specific embodiments have been described, but of course, various modifications are possible without departing from the scope of the present invention. Therefore, the scope of the present invention is not limited to the described embodiments, but should be defined by the claims described below and equivalents to these claims.

10: 시스템 100: 카메라
200: 센서 300: 디스플레이 장치
400: 제어 장치 410: 입력 인터페이스
420: 출력 인터페이스 430: 메모리
440: 프로세서 441: 제1 캐시 메모리 제어부
442: 메인 메모리 제어부 443: RGB 변환부
444: 추가 처리부 445: 제2 캐시 메모리 제어부
10: System 100: Camera
200: sensor 300: display device
400: Control device 410: Input interface
420: output interface 430: memory
440: Processor 441: First cache memory control unit
442: Main memory control unit 443: RGB conversion unit
444: Additional processing unit 445: Second cache memory control unit

Claims (10)

차량에 설치된 카메라에서 촬영된 상기 차량의 측후방에 대한 제1 영상 데이터가 입력되는 입력 인터페이스;
차량 내부의 디스플레이 장치에 표시되는 제2 영상 데이터가 출력되는 출력 인터페이스;
상기 제1 및 제2 영상 데이터를 저장하는 메모리; 및
상기 입력 인터페이스에 수신된 상기 제1 영상 데이터를 처리하여 상기 출력 인터페이스로 상기 제2 영상 데이터를 출력하는 디지털 사이드 미러(Digital Side Mirror)의 기능을 하드웨어 구조를 통해 제어하는 프로세서;
를 포함하는 제어 장치.
an input interface through which first image data about the sides and rear of the vehicle captured by a camera installed in the vehicle is input;
an output interface through which second image data displayed on a display device inside the vehicle is output;
a memory storing the first and second image data; and
A processor that controls the function of a digital side mirror that processes the first image data received through the input interface and outputs the second image data through the output interface through a hardware structure;
A control device comprising a.
제1항에 있어서,
상기 프로세서의 상기 하드웨어 구조는,
상기 제1 영상 데이터가 상기 메모리의 제1 캐시 메모리에 임시 저장되도록 제1 캐시 메모리에 대한 쓰기 제어를 수행하는 제1 캐시 메모리 제어부;
상기 임시 저장된 제1 영상 데이터를 상기 메모리의 메인 메모리에 저장되도록 메인 메모리에 대한 쓰기 제어를 수행하며, 메인 메모리에 저장된 제1 영상 데이터를 읽도록 메인 메모리에 대한 읽기 제어를 수행하는 메인 메모리 제어부;
읽은 제1 영상 데이터를 상기 디스플레이 장치에 표시될 이미지의 각 화소에 대한 RGB의 로우 데이터(raw data)로 변환하는 RGB 변환부; 및
상기 로우 데이터에 따른 제2 영상 데이터를 상기 메모리의 제2 캐시 메모리에 임시 저장되도록 제2 캐시 메모리에 대한 쓰기 제어를 수행하는 제2 캐시 메모리 제어부;
를 포함하는 제어 장치.
According to paragraph 1,
The hardware structure of the processor is,
a first cache memory control unit that performs write control on the first cache memory so that the first image data is temporarily stored in the first cache memory of the memory;
a main memory control unit that performs write control on the main memory to store the temporarily stored first image data in the main memory of the memory and performs read control on the main memory to read the first image data stored in the main memory;
an RGB conversion unit that converts the read first image data into RGB raw data for each pixel of an image to be displayed on the display device; and
a second cache memory control unit that performs write control on the second cache memory so that second image data according to the raw data is temporarily stored in the second cache memory of the memory;
A control device comprising a.
제2항에 있어서,
상기 프로세서의 상기 하드웨어 구조는 변환된 로우 데이터에 대한 추가적인 영상 처리를 수행하는 추가 처리부를 더 포함하며,
상기 제2 영상 데이터는 상기 추가 처리부에 의해 처리된 데이터를 포함하는 제어 장치.
According to paragraph 2,
The hardware structure of the processor further includes an additional processing unit that performs additional image processing on the converted raw data,
The control device wherein the second image data includes data processed by the additional processing unit.
제2항에 있어서,
상기 제1 영상 데이터의 입력 주파수 및 상기 디스플레이 장치의 디스플레이 주파수 간의 주파수 값 차이나, 상기 입력 주파수 및 상기 디스플레이 주파수 간의 위상(Phase)이 차이를 보완하도록, 상기 제1 영상 데이터가 상기 메인 메모리에 저장되는 제어 장치.
According to paragraph 2,
The first image data is stored in the main memory to compensate for the difference in frequency value between the input frequency of the first image data and the display frequency of the display device, or the difference in phase between the input frequency and the display frequency. controller.
제2항에 있어서,
상기 프로세서는 조도 센서에서 센서 데이터에 따라 상기 디스플레이 장치의 화면 밝기를 조절하기 위한 제어 데이터를 상기 디스플레이 장치로 출력하는 제어 장치.
According to paragraph 2,
The processor is a control device that outputs control data for adjusting screen brightness of the display device to the display device according to sensor data from an illuminance sensor.
차량에 설치되어 상기 차량의 측후방에 대한 제1 영상 데이터를 촬영하는 카메라;
차량 내부에 설치되어 제2 영상 데이터에 따른 화면을 표시하는 디스플레이 장치; 및
상기 제1 영상 데이터를 수신 및 처리하여 상기 제2 영상 데이터를 출력하도록 제어하는 제어 장치;를 포함하며,
상기 제어 장치는,
상기 제1 영상 데이터가 입력되는 입력 인터페이스;
상기 제2 영상 데이터가 출력되는 출력 인터페이스;
상기 제1 및 제2 영상 데이터를 저장하는 메모리; 및
상기 입력 인터페이스에 수신된 상기 제1 영상 데이터를 처리하여 상기 출력 인터페이스로 상기 제2 영상 데이터를 출력하는 디지털 사이드 미러(Digital Side Mirror)의 기능을 하드웨어 구조를 통해 제어하는 프로세서;
를 포함하는 시스템.
A camera installed in the vehicle to capture first image data about the sides and rear of the vehicle;
A display device installed inside the vehicle to display a screen according to second image data; and
It includes a control device that receives and processes the first image data and controls it to output the second image data,
The control device is,
an input interface through which the first image data is input;
an output interface through which the second image data is output;
a memory storing the first and second image data; and
A processor that controls the function of a digital side mirror that processes the first image data received through the input interface and outputs the second image data through the output interface through a hardware structure;
A system containing .
제6항에 있어서,
상기 프로세서의 상기 하드웨어 구조는,
상기 제1 영상 데이터가 상기 메모리의 제1 캐시 메모리에 임시 저장되도록 제1 캐시 메모리에 대한 쓰기 제어를 수행하는 제1 캐시 메모리 제어부;
상기 임시 저장된 제1 영상 데이터를 상기 메모리의 메인 메모리에 저장되도록 메인 메모리에 대한 쓰기 제어를 수행하며, 메인 메모리에 저장된 제1 영상 데이터를 읽도록 메인 메모리에 대한 읽기 제어를 수행하는 메인 메모리 제어부;
읽은 제1 영상 데이터를 상기 디스플레이 장치에 표시될 이미지의 각 화소에 대한 RGB의 로우 데이터(raw data)로 변환하는 RGB 변환부; 및
상기 로우 데이터에 따른 제2 영상 데이터를 상기 메모리의 제2 캐시 메모리에 임시 저장되도록 제2 캐시 메모리에 대한 쓰기 제어를 수행하는 제2 캐시 메모리 제어부;
를 포함하는 시스템.
According to clause 6,
The hardware structure of the processor is,
a first cache memory control unit that performs write control on the first cache memory so that the first image data is temporarily stored in the first cache memory of the memory;
a main memory control unit that performs write control on the main memory to store the temporarily stored first image data in the main memory of the memory and performs read control on the main memory to read the first image data stored in the main memory;
an RGB conversion unit that converts the read first image data into RGB raw data for each pixel of an image to be displayed on the display device; and
a second cache memory control unit that performs write control on the second cache memory so that second image data according to the raw data is temporarily stored in the second cache memory of the memory;
A system containing .
제7항에 있어서,
상기 프로세서의 상기 하드웨어 구조는 변환된 로우 데이터에 대한 추가적인 영상 처리를 수행하는 추가 처리부를 더 포함하며,
상기 제2 영상 데이터는 상기 추가 처리부에 의해 처리된 데이터를 포함하는 시스템.
In clause 7,
The hardware structure of the processor further includes an additional processing unit that performs additional image processing on the converted raw data,
The system wherein the second image data includes data processed by the additional processing unit.
제7항에 있어서,
상기 제1 영상 데이터의 입력 주파수 및 상기 디스플레이 장치의 디스플레이 주파수 간의 주파수 값 차이나, 상기 입력 주파수 및 상기 디스플레이 주파수 간의 위상(Phase)이 차이를 보완하도록, 상기 제1 영상 데이터가 상기 메인 메모리에 저장되는 시스템.
In clause 7,
The first image data is stored in the main memory to compensate for the difference in frequency value between the input frequency of the first image data and the display frequency of the display device, or the difference in phase between the input frequency and the display frequency. system.
제7항에 있어서,
상기 프로세서는 조도 센서에서 센서 데이터에 따라 상기 디스플레이 장치의 화면 밝기를 조절하기 위한 제어 데이터를 상기 디스플레이 장치로 출력하는 시스템.
In clause 7,
A system in which the processor outputs control data for adjusting screen brightness of the display device to the display device according to sensor data from an illuminance sensor.
KR1020220152375A 2022-11-15 2022-11-15 Apparutus and system for controlling digital side mirror function in vehicle KR20240070908A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020220152375A KR20240070908A (en) 2022-11-15 2022-11-15 Apparutus and system for controlling digital side mirror function in vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220152375A KR20240070908A (en) 2022-11-15 2022-11-15 Apparutus and system for controlling digital side mirror function in vehicle

Publications (1)

Publication Number Publication Date
KR20240070908A true KR20240070908A (en) 2024-05-22

Family

ID=91329653

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220152375A KR20240070908A (en) 2022-11-15 2022-11-15 Apparutus and system for controlling digital side mirror function in vehicle

Country Status (1)

Country Link
KR (1) KR20240070908A (en)

Similar Documents

Publication Publication Date Title
US10873682B2 (en) Method of synchronizing multiple vehicular cameras with an ECU
US7675508B2 (en) Liquid crystal display apparatus
US9361661B2 (en) Display driver integrated circuit and display data processing method thereof
KR20040088372A (en) Display device
US10313636B2 (en) Display system and display apparatus
CN101231835A (en) Methods and liquid crystal display devices that reduce/avoid tearing effects in displayed images
US11468539B2 (en) Image processing device and imaging device
US20160247321A1 (en) Head Up Display System
US20180218702A1 (en) Data Driving System of Liquid Crystal Display Panel
US8390655B2 (en) Active matrix liquid crystal display and method of driving the same and electronic device
US11146770B2 (en) Projection display apparatus and display method
KR20240070908A (en) Apparutus and system for controlling digital side mirror function in vehicle
TWI696154B (en) Low latency display system and method
US11942022B2 (en) Method of correcting input image data and light-emitting display apparatus performing the method
KR20210134150A (en) Display apparatus and method of compensating gamma value of the same
TWI831386B (en) Electronic device and driving method thereof
US7868913B2 (en) Apparatus for converting images of vehicle surroundings
US6492969B1 (en) Combining two successive colors gets colors pure
KR102542105B1 (en) Touch display driving integrated circuit, operation method of the same, and touch display device including the same
CN103391406B (en) A kind of video switch circuit and changing method thereof
JP2018107747A (en) Imaging apparatus, failure detection method, imaging system, and mobile unit
US8823908B2 (en) Display apparatus
US20130050195A1 (en) Liquid crystal display device
US20230319420A1 (en) Method of operating multi-camera system and multi-camera system performing the same
KR101143603B1 (en) Driving device, display device and driving method thereof