KR101774691B1 - System for correcting flicker - Google Patents
System for correcting flicker Download PDFInfo
- Publication number
- KR101774691B1 KR101774691B1 KR1020160053790A KR20160053790A KR101774691B1 KR 101774691 B1 KR101774691 B1 KR 101774691B1 KR 1020160053790 A KR1020160053790 A KR 1020160053790A KR 20160053790 A KR20160053790 A KR 20160053790A KR 101774691 B1 KR101774691 B1 KR 101774691B1
- Authority
- KR
- South Korea
- Prior art keywords
- flicker
- image
- period
- unit
- detected
- Prior art date
Links
- 238000012937 correction Methods 0.000 claims abstract description 109
- 230000008859 change Effects 0.000 claims abstract description 21
- 238000001514 detection method Methods 0.000 claims abstract description 13
- 230000004397 blinking Effects 0.000 claims description 30
- 238000000034 method Methods 0.000 claims description 29
- 230000000737 periodic effect Effects 0.000 claims description 14
- 238000004458 analytical method Methods 0.000 claims description 4
- 230000001788 irregular Effects 0.000 claims description 4
- 238000010191 image analysis Methods 0.000 claims description 3
- 230000002688 persistence Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 2
- 208000003464 asthenopia Diseases 0.000 abstract 1
- 238000005070 sampling Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 8
- 210000003128 head Anatomy 0.000 description 6
- 238000001228 spectrum Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- G06T5/007—
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/02—Rear-view mirror arrangements
- B60R1/04—Rear-view mirror arrangements mounted inside vehicle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/02—Rear-view mirror arrangements
- B60R1/08—Rear-view mirror arrangements involving special optical features, e.g. avoiding blind spots, e.g. convex mirrors; Side-by-side associations of rear-view and other mirrors
- B60R1/083—Anti-glare mirrors, e.g. "day-night" mirrors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/71—Circuitry for evaluating the brightness variation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H04N5/2351—
-
- H04N5/2355—
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Mechanical Engineering (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
Abstract
Description
본 발명은 깜박임 보정 시스템에 관한 발명으로서, 더욱 상세하게는 차량 및 차량 주변의 조명이 온/오프되는 주기와 이미지의 샘플링 주기가 서로 독립적이어서 촬영된 이미지에서 깜박임이 검출되면 깜박임을 제거한 이미지로 보정하여 표시되도록 함으로써 운전자가 나안(裸眼)으로 보는 것과 동일한 이미지를 제공할 수 있는 깜박임 보정 시스템에 관한 것이다.The present invention relates to a flicker correction system, and more particularly, to a flicker correction system, and more particularly, to a flicker correction system in which when a flicker is detected in a photographed image, So as to provide the same image as that the driver sees as a naked eye.
일반적으로 차량에는 주행 시에 운전자가 주행 차선의 좌, 우측 또는 후방측 도로 상황을 파악할 수 있도록 사이드 미러와 룸미러가 각각 장착되어 있다.Generally, the vehicle is equipped with a side mirror and a room mirror so that the driver can grasp the left, right or rear side road conditions of the driving lane while driving.
사이드 미러는 차체 양측에 부착되어 운행도중 운전자가 전방과 좌우측을 주시한 상태에서 후방에서 주행해 오는 다른 차량의 주행 방향이나 속도 등을 인식하여 안전하게 차선을 변경하거나 또는 전후방 차량의 안전거리 유지 그리고 후방에서 주행해오는 타 차량의 운행에 방해를 주지 않고 안전하게 운행을 수행할 수 있게 하며, 룸미러 또한 차량의 주행 시나 후진 및 후방 주차 시에 차량의 후방 상황을 파악하는 등 안전운행에 없어서는 안 될 여러 가지 필수기능을 수행한다.The side mirrors are attached to both sides of the vehicle body and recognize the driving direction and speed of the other vehicle traveling from the rear while the driver is watching the front side and the left and right sides while the vehicle is in operation so as to safely change the lane, And the room mirror can also be used for various kinds of safety operations, such as detecting the rear situation of the vehicle when the vehicle is running, backward or backward parking, etc. Perform required functions.
최근에는 정확성과 사용자에게 편의성을 제공하기 위해 룸미러에 디스플레이 장치를 장착함은 물론, 차량 내에 설치될 수 있는 내비게이션, 헤드 업 디스플레이(HUD, Head Up Display), 클러스터(Cluster) 등 다양한 디스플레이 장치를 장착하여, 상기 차량에 미리 설치된 후방 감시카메라가 촬영하는 후방 영상을 운전자가 차량 내에서도 용이하게 모니터링할 수 있도록 하는 카메라 모니터 시스템(Camera Monitor System, CMS) 기술이 등장하고 있다.In recent years, in order to provide accuracy and convenience to users, a display device is mounted on a room mirror, various display devices such as a navigation system, a head-up display (HUD), and a cluster A camera monitor system (CMS) technology has been developed to enable a driver to easily monitor a rear image captured by a rear surveillance camera installed in the vehicle, even in a vehicle.
한국 등록실용신안공보 제20-0264726호(고안의 명칭: 모니터를 구비한 후사경)에 개시된 디스플레이 룸미러와 같이, 차량에 후방 감시카메라를 설치하여 촬영된 후방의 영상을 운전자에게 확인할 수 있도록 영상신호를 출력시켜주는 모니터를 룸미러에 설치함으로써 후진이나 주차시 후방의 상황을 정확하게 파악할 수 있도록 하여 안전을 도모하고 있다.A rear monitor camera is installed in a vehicle such as a display room mirror disclosed in Korean Registered Utility Model No. 20-0264726 (name of a design: a rearview mirror equipped with a monitor), so that a video image The monitor is installed in the room mirror so that it can accurately grasp the situation of backward and backward parking.
또한, 한국 공개특허번호 제10-2014-0039820호(발명의 명칭: 디스플레이 룸미러 시스템)에는 차량에 설치되어 좌우측 후방을 촬영하는 카메라 모듈과, 카메라 모듈이 촬영한 영상을 출력하는 디스플레이 모듈을 포함한 디스플레이 룸미러 시스템이 개시되어 있다.In addition, Korean Patent Laid-Open Publication No. 10-2014-0039820 (entitled "DISPLAY ROOM MIRROR SYSTEM") is provided with a camera module for photographing the left and right rear sides of the vehicle and a display module for outputting images photographed by the camera module A display room mirror system is disclosed.
한편, 차량용 헤드라이트(Headlight)를 포함한 차량용 라이트는 연속적으로 전류를 흘려 켜는 방법과 PWM(Pulse Width Modulation)방식으로 제어를 하는 헤드라이트 구동방식이 주로 사용되는 LED를 이용한 라이트의 경우 라이트의 수명 연장과 PWM 방식의 효율이 우수하여 많이 사용되고 있다.On the other hand, a vehicle light including a headlight for a vehicle is mainly used for driving a current continuously and controlling a headlight driving method using a PWM (Pulse Width Modulation) method. In the case of a light using an LED, And the efficiency of the PWM method is excellent.
그러나 PWM 방식을 이용한 라이트는 깜박임 보정 시스템에서 카메라로 촬영하여 모니터로 디스플레이하는 경우, 상기 라이트 조명의 온(ON)/오프(OFF) 제어주기와 카메라의 영상 샘플링 주기가 서로 독립적이어서 라이트가 깜빡이는 현상이 발생한다.However, in the case where the light using the PWM method is photographed by the camera in the flicker correction system and displayed on the monitor, the ON / OFF control cycle of the light illumination and the image sampling period of the camera are independent of each other, A phenomenon occurs.
이러한 신호의 샘플링에 의하여 의도하지 않은 신호의 왜곡이 발생하는 현상을 에일리어싱(Aliasing)이라 한다.A phenomenon in which unintended signal distortion occurs due to the sampling of such a signal is called aliasing.
에일리어싱은 아날로그 신호의 샘플링 시 샘플링 주파수가 신호의 최대 주파수의 2배보다 작거나 필터링이 부적절하여 인접한 스펙트럼들이 서로 겹쳐 생기는 신호 왜곡 현상으로서, 도 1에 나타낸 바와 같이, 입력 신호를 샘플링하는 경우에 나이키스트 샤논의 정리에 따라 최소 샘플링 주파수 fs는 신호에 포함되는 최고 유효 주파수 W의 2배 이상이어야 한다. The aliasing is a signal distortion phenomenon in which the sampling frequency of the analog signal is smaller than twice the maximum frequency of the signal or the filtering is inadequate to cause adjacent spectra to overlap each other. As shown in FIG. 1, when the input signal is sampled, According to Strhenan's theorem, the minimum sampling frequency fs should be at least twice the highest effective frequency W included in the signal.
그러나 2W 이하의 빈도로 샘플링하면 샘플링된 신호의 스펙트럼은 입력 신호의 스펙트럼 위에 그 고스트를 중첩하여 고스트을 제거할 수 없게 되는 주파수의 중첩이 발생되어 선풍기의 날개가 천천히 회전하거나 반대로 돌아가는 것처럼 보이는 현상이 표본화 주파수가 부적절하여 느끼게 된다.However, when sampling at a frequency of 2W or less, the spectrum of the sampled signal is superimposed on the spectrum of the input signal so that the ghost is superimposed on the spectrum of the input signal, so that superposition of the frequencies is generated so that the wing of the fan slowly rotates or vice versa The frequency is inadequate.
도 2는 라이트의 온/오프 주기와 카메라의 촬영 주기의 불일치를 나타낸 파형도로서, 라이트의 온/오프 주기와, 이미지를 촬영하는 카메라의 촬영 샘플링 주기를 비교해보면, 라이트의 온/오프 제어주기와 카메라의 이미지 샘플링 주기가 서로 독립적이어서 라이트의 온 시점과 카메라의 촬영 주기가 서로 일치하는 위치와, 불일치하는 위치가 발생한다.FIG. 2 is a waveform chart showing the inconsistency between the on / off cycle of the light and the photographing cycle of the camera. When the on / off cycle of the light and the photographing sampling cycle of the camera for photographing the image are compared, And the image sampling period of the camera are independent from each other, a position where the light on point and a camera shooting period coincide with each other and an inconsistent position occur.
이러한 깜빡임을 포함한 이미지는 운전자의 나안으로 인식하는 결과물과 다른 이질감을 유발하며, 운전자의 눈에 피로감을 주거나 필요 이상으로 깜빡거리는 이미지의 출력으로 인해 운전자의 주의를 산만하게 만드는 문제점이 있다.Such blinking images cause different distinctions from what the driver recognizes in me, and have the problem of distracting the driver due to fatigue in the eyes of the driver, or blinking of images that are more than necessary.
이러한 문제점을 해결하기 위하여, 본 발명은 차량 및 차량 주변의 조명이 온/오프되는 주기와 이미지의 샘플링 주기가 서로 독립적이어서 촬영된 이미지에서 깜박임이 검출되면 깜박임을 제거한 이미지로 보정하여 표시되도록 함으로써 운전자가 나안(裸眼)으로 보는 것과 동일한 이미지를 제공할 수 있는 깜박임 보정 시스템을 제공하는 것을 목적으로 한다.In order to solve such a problem, the present invention is characterized in that when a flicker is detected in a photographed image, the cycle of on / off of illumination of the vehicle and the surroundings of the vehicle is independent from the sampling period of the image, And to provide a flicker correction system capable of providing the same image as a naked eye.
상기한 목적을 달성하기 위하여 본 발명은 깜박임 보정 시스템으로서, 차량에 설치되어 차량 주변을 촬영한 이미지를 출력하는 이미지 촬영부; 상기 이미지 촬영부에서 출력되는 이미지를 분석하여 깜박임이 발생하는 물체, 밝기 변화에 의한 깜박임 중 적어도 하나를 검출하는 깜빡임 검출부; 및 상기 깜박임 검출부에서 깜박임이 검출되면, 상기 검출된 깜박임이 이미지에서 제거되도록 보정하는 깜박임 보정부를 포함한다.According to an aspect of the present invention, there is provided a flicker correction system comprising: an image photographing unit installed in a vehicle and outputting an image of the surroundings of the vehicle; A blink detection unit for detecting at least one of a blinking object and a flicker due to a change in brightness by analyzing an image output from the image photographing unit; And a flicker correction unit for correcting the detected flicker to be removed from the image when flicker is detected in the flicker detection unit.
또한, 본 발명에 따른 상기 깜박임 보정 시스템은 이미지 촬영부에서 출력되는 이미지 또는 깜박임 보정부에서 깜박임을 제거하여 보정된 이미지를 출력하는 디스플레이부를 더 포함하는 것을 특징으로 한다.The flicker correction system according to the present invention may further include a display unit for outputting the corrected image by removing flicker from the image output from the image capturing unit or the flicker correction unit.
또한, 본 발명에 따른 상기 깜박임 검출부는 상기 이미지 촬영부에서 출력되는 이미지를 미리 저장된 이미지 프로세싱 프로그램을 통해 이미지상에 포함된 물체 또는 일정 영역을 검출하고, 상기 검출된 물체 또는 일정 영역의 밝기값을 포함한 밝기 정보를 검출하는 이미지 분석부; 및 상기 이미지 분석부에서 검출된 밝기 정보를 분석하여 깜박임이 발생하는 물체 또는 일정 영역을 검출하고, 상기 검출된 물체 또는 일정 영역에서 밝기 변화에 의한 깜박임 주기를 분석하여 깜박임 보정 대상을 검출하는 깜박임 분석부를 포함하는 것을 특징으로 한다.The flicker detecting unit may detect an object or a predetermined region included in the image through the image processing program stored in advance and output the brightness value of the detected object or the predetermined region An image analyzer for detecting brightness information including the brightness information; And a flicker analyzing unit for analyzing the brightness information detected by the image analyzing unit to detect an object or a predetermined area where flickering occurs and analyzing a flickering period due to a change in brightness in the detected object or a predetermined area, And the like.
또한, 본 발명에 따른 상기 깜박임 분석부는 검출된 물체를 미리 저장된 헤드램프, 안개등, 제동등, 후미등, 방향지시등, 신호등, 도로 표시등, 가로등 중 적어도 하나의 형상과 비교하여 깜박임 보정 대상인지 여부를 결정하는 것을 특징으로 한다.In addition, the flicker analyzing unit according to the present invention compares the detected object with at least one shape of a head lamp, a fog lamp, a brake light, a tail light, a turn signal lamp, a traffic light, .
또한, 본 발명에 따른 상기 깜박임 분석부는 보정 대상 물체가 아닌 경우 미리 설정된 관심 이미지 영역 내의 일부 영역에 임의의 형상으로 특정한 온/오프 주기가 검출되면, 보정 대상으로 결정하는 것을 특징으로 한다.The flicker analyzing unit according to the present invention is characterized in that when a specific on / off cycle is detected in a predetermined shape in a predetermined area of a predetermined image area, the flicker analyzer determines the object to be corrected.
또한, 본 발명에 따른 상기 깜박임 분석부는 보정 대상 물체가 다수 검출되면, 이미지의 중심에서 일정 범위 이내에 위치하거나, 이미지상에서 일정 영역 이상의 영역을 차지하거나, 깜박임 주기를 조절하여 깜박임의 제거가 용이한 대상을 대표 보정 대상 램프로 설정하는 것을 특징으로 한다.In addition, the flicker analyzing unit according to the present invention may be configured such that when a plurality of objects to be corrected are detected, they are located within a certain range from the center of the image, occupy an area over a predetermined area on the image, or are flicker- Is set as the representative correction target lamp.
또한, 본 발명에 따른 상기 깜박임 분석부는 이미지상에서 깜박임이 감지된 이미지 영역별로 깜박임 주기를 검출하는 것을 특징으로 한다.In addition, the flicker analyzing unit according to the present invention is characterized in that the flicker period is detected for each image area in which flicker is detected on the image.
또한, 본 발명에 따른 상기 깜박임 분석부는 깜박임 주기를 미리 저장된 깜박임 보정 판단용 기준값과 비교하고, 결과에 따라 보정 대상으로 설정하거나 또는 보정 대상에서 제외되도록 하는 것을 특징으로 한다.In addition, the flicker analyzing unit according to the present invention compares the flicker period with a previously stored reference value for flicker correction judgment, and sets the flicker period as a correction target or excludes the correction target according to the result.
또한, 본 발명에 따른 상기 깜박임 분석부는 이미지상에 포함된 깜박임 대상을 찾아 램프 형상에 따른 종류를 식별하고, 상기 찾은 깜박임 대상 램프를 미리 저장된 램프와 비교하여 일치하는 램프가 존재하는지 판단하며, 일치하는 램프가 존재하면 저장된 램프의 종류별로 사람의 나안으로 감지될 깜박임 주기를 검색하여 상기 찾은 깜박임 대상 램프의 깜박임 주기를 계산한 깜박임 주기와 상기 검색된 주기를 비교하며, 유사한 주기를 가지면 상기 깜박임 대상 램프를 깜박임 보정 대상에서 제외하고, 유사하지 않으면 깜박임 보정 대상으로 판단하는 것을 특징으로 한다.Also, the flicker analyzing unit according to the present invention finds a flicker object included in the image, identifies a type according to the lamp shape, compares the flicker target lamp with the previously stored lamp to determine whether a matching lamp exists, The flashing period of the lamp to be detected is searched for by the type of the stored lamp, and the blinking period of the blinking target lamp is compared with the searched period. If the blinking period is a similar period, Is not included in the blinker correction target, and if not, it is determined that the blinker is to be corrected.
또한, 본 발명에 따른 상기 깜박임 분석부는 깜박임 주기를 분석하여 그 주기가 하나의 주기로 표시될 경우, 이미지의 캡처 주기를 변경하여 이미지를 다시 캡처하고, 그 주기를 분석하여 캡처 주기를 조절하기 전의 이미지 캡처 주기와 동일하게 하나의 주기로 표시되면 나안으로 확인이 가능한 깜박임으로 판단하여 깜박임 보정 대상에서 제외하는 것을 특징으로 한다.In addition, the flicker analyzing unit according to the present invention analyzes the flicker cycle, and when the cycle is displayed in one cycle, it captures the image again by changing the capture cycle of the image, and analyzes the cycle to analyze the image before the capture cycle is adjusted And if it is displayed in one cycle in the same manner as the capturing cycle, it is determined that the flicker is a flicker that can be confirmed inside and is excluded from the flicker correction target.
또한, 본 발명에 따른 상기 깜박임 분석부는 이미지 캡처 주기를 변경한 이후 깜박임 주기가 변경되면, 높은 주파수의 깜박임이 카메라의 샘플링 주기와의 관계로 발생하는 에일리어싱 현상으로 판단하여 깜박임 보정 대상으로 판단하는 것을 특징으로 한다.In addition, the flicker analyzing unit according to the present invention determines aliasing phenomenon occurring in relation to the sampling period of the camera when the flicker cycle is changed after changing the image capturing cycle to determine that the flicker is to be corrected .
또한, 본 발명에 따른 상기 깜박임 보정부는 이미지 촬영부의 촬영주기가 깜박임 검출부에서 검출한 깜박임 주기를 이용하여 깜박임이 보정되도록 촬영주기 보정신호를 출력하는 촬영주기 보정부를 포함하는 것을 특징으로 한다.The flicker correction unit may further include a photographing period correction unit that outputs a photographing period correction signal so that the flicker is corrected using the flicker period detected by the flicker detection unit.
또한, 본 발명에 따른 상기 촬영 주기는 검출된 깜박임 주기가 이미지를 캡처하는 주기에 포함되도록 촬영 시작 시점을 조절하거나 또는 촬영 간격을 조절하여 보정하거나 또는 촬영 시작 시작 시점과 촬영 간격을 함께 조절하는 것을 특징으로 한다.Further, the photographing cycle according to the present invention may be performed by adjusting the photographing start time or adjusting the photographing interval so that the detected flickering period is included in the cycle of capturing the image, or adjusting the photographing start time and photographing interval together .
또한, 본 발명에 따른 상기 보정된 촬영주기는 이미지상에서 검출되는 깜박임 주기 또는 이미지가 운전자의 나안에서 사라진 뒤 일정시간 동안 유지되는 시각 잔상(Persistence of Vision) 주기 중 어느 하나를 기초로 깜박임이 보정되도록 결정된 것을 특징으로 한다.In addition, the corrected phototaking period according to the present invention may be such that the flicker is corrected based on either the flicker period detected on the image or the Persistence of Vision period during which the image is held for a period of time after disappearing in the driver ' .
또한, 본 발명에 따른 상기 깜박임 보정부는 미리 설정된 밝기값 또는 이미지 분석에 의해 결정한 밝기값으로 이미지의 깜박임 영역의 밝기를 보정하여 깜박임을 제거하는 밝기 보정부를 포함하는 것을 특징으로 한다.The flicker compensator according to the present invention includes a brightness corrector for correcting flicker by correcting the brightness of the flickering region of the image with a preset brightness value or a brightness value determined by image analysis.
또한, 본 발명에 따른 상기 깜박임 보정 시스템은 카메라의 영상센서, 영상처리용 이미지 프로세서(ISP), 카메라 영상을 입력받는 제어장치, 디스플레이 장치에 설치되는 것을 특징으로 한다.In addition, the flicker correction system according to the present invention is installed in an image sensor of a camera, an image processor for an image processing (ISP), a controller receiving a camera image, and a display device.
본 발명은 카메라가 촬영한 이미지에서 깜박임이 검출되면 깜박임을 제거한 이미지로 보정하여 표시되도록 함으로써, 운전자가 나안(裸眼)으로 보는 것과 동일한 이미지를 제공할 수 있는 장점이 있다.The present invention is advantageous in that when a flicker is detected in an image taken by a camera, the flicker is corrected and displayed by removing the flicker, thereby providing the same image as that the driver sees as a naked eye.
또한, 본 발명은 운전자의 나안으로 인식하는 결과물과 동일감을 느끼게 하여 안정감을 제공할 수 있고, 운전자의 눈에 피로감을 감소시킬 수 있는 장점이 있다.In addition, the present invention has the advantage of providing a sense of stability by feeling the same feeling as the result recognized by the driver, and reducing the fatigue of the driver's eyes.
도 1 은 에일리어싱에 따른 주파수 중첩을 나타낸 파형도.
도 2 는 라이트의 온/오프 주기와 카메라의 촬영 주기의 불일치를 나타낸 파형도.
도 3 은 본 발명에 따른 깜박임 보정 시스템의 구성을 나타낸 블록도.
도 4 는 도 3에 따른 깜박임 보정 시스템의 깜박임 검출부 구성을 나타낸 블록도.
도 5 는 도 3에 따른 깜박임 보정 시스템의 깜박임 보정부 구성을 나타낸 블록도.
도 6 은 도 2의 입력과 샘플링 상황에서 도 3에 따른 깜박임 보정 시스템에서 깜박임 없이 촬영되도록 샘플링 주기를 조절한 파형도.
도 7 은 본 발명에 따른 깜박임 보정 시스템의 제어방법을 나타낸 흐름도.
도 8 은 도 7에 따른 깜박임 보정 시스템에서 깜박임에 따른 보정 과정을 나타낸 흐름도.
도 9 는 도 7에 따른 깜박임 보정 시스템의 보정대상 판단과정을 나타낸 흐름도.
도 10 은 도 9에 따른 보정대상 판단과정에서 촬영 주기의 조절과정을 나타낸 흐름도.1 is a waveform diagram showing frequency overlap due to aliasing;
Fig. 2 is a waveform diagram showing a mismatch between the on / off cycle of the light and the photographing cycle of the camera. Fig.
3 is a block diagram illustrating a configuration of a flicker correction system according to the present invention;
4 is a block diagram illustrating a flicker detector configuration of the flicker correction system according to FIG.
Figure 5 is a block diagram of a flicker correction configuration of the flicker correction system according to Figure 3;
FIG. 6 is a waveform diagram in which the sampling period is adjusted so as to be taken without flicker in the flicker correction system according to FIG. 3 in the input and sampling state of FIG. 2;
7 is a flowchart illustrating a method of controlling a flicker correction system according to the present invention.
FIG. 8 is a flowchart illustrating a correction process according to flicker in the flicker correction system according to FIG. 7. FIG.
9 is a flowchart illustrating a process of determining a correction target of the flicker correction system according to FIG.
FIG. 10 is a flowchart illustrating a process of adjusting a photographing cycle in the process of determining a correction object according to FIG.
이하, 첨부된 도면을 참조하여 본 발명에 따른 깜박임 보정 시스템의 바람직한 실시예를 상세하게 설명한다.Hereinafter, preferred embodiments of a flicker correction system according to the present invention will be described in detail with reference to the accompanying drawings.
도 3은 본 발명에 따른 깜박임 보정 시스템의 구성을 나타낸 블록도이고, 도 4는 도 3에 따른 깜박임 보정 시스템의 깜박임 검출부 구성을 나타낸 블록도이며, 도 5는 도 3에 따른 깜박임 보정 시스템의 깜박임 보정부 구성을 나타낸 블록도이다.FIG. 3 is a block diagram showing the configuration of a flicker correction system according to the present invention, FIG. 4 is a block diagram showing a configuration of a flicker detection unit of the flicker correction system according to FIG. 3, and FIG. 5 is a block diagram of a flicker correction system according to FIG. And FIG.
도 3 내지 도 5에 나타낸 바와 같이, 본 발명에 따른 깜박임 보정 시스템(100)은 차량에 설치되어 차량 주변을 촬영한 이미지를 출력하는 이미지 촬영부(110)와, 상기 이미지 촬영부(110)에서 출력되는 이미지를 분석하여 깜박임이 발생하는 물체, 밝기 변화에 의한 깜박임 중 적어도 하나를 검출하는 깜박임 검출부(120)와, 상기 깜박임 검출부(120)에서 깜박임이 검출되면, 상기 검출된 깜박임이 이미지에서 제거되도록 보정하는 깜박임 보정부(130)와, 상기 이미지 촬영부(110)에서 출력되는 이미지 또는 상기 깜박임 보정부(130)에서 보정된 이미지를 출력하는 디스플레이부(140)를 포함하여 구성된다.3 to 5, the
상기 이미지 촬영부(110)는 차량에 적어도 하나 설치되어, 차량의 전방, 후방, 측후방 등 차량의 주변을 촬영한 이미지를 깜박임 검출부(120)로 출력하는 구성으로서, CCD 센서, CMOS 센서 또는 임의의 광전변환 센서를 이용한 다양한 카메라가 사용될 수 있다.The
또한, 상기 이미지 촬영부(110)는 가시광 영역의 촬영뿐만 아니라 야간 촬영이 가능하도록 적외선 센서 또는 적외선 필터가 설치된 적외선 카메라가 부가적으로 구비될 수도 있다.In addition, the
상기 깜박임 검출부(120)는 이미지 촬영부(110)에서 출력되는 수신하여 이미지를 분석하고, 상기 분석결과, 수신된 이미지에서 깜박임이 발생하는 물체, 영역, 밝기 변화에 의한 깜박임을 검출하는 구성으로서, 이미지 분석부(121)와, 깜박임 분석부(122)를 포함하여 구성된다.The
상기 이미지 분석부(121)는 이미지 촬영부(110)에서 출력되는 이미지를 수신하여 미리 저장된 이미지 프로세싱 프로그램을 통해 이미지상에 포함된 물체 또는 일정 영역을 분석하고, 상기 분석결과로부터 이미지상에 포함된 물체 또는 일정 영역을 검출하며, 상기 검출된 물체 또는 일정 영역에서 빛의 밝기, 빛의 색상 등을 포함한 밝기 정보를 검출한다.The
또한, 상기 이미지 분석부(121)는 이미지 전체 영역 또는 이미지의 중심 위치로부터 일정 범위를 포함하는 관심 이미지 영역 또는 이미지상의 임의의 위치가 포함된 관심 이미지 영역을 분석한다.In addition, the
상기 깜박임 분석부(122)는 이미지 분석부(121)에서 검출된 밝기 정보를 분석하여 깜박임이 발생하는 물체 또는 일정 영역(예를 들면, 이미지의 중심에서 상/하/좌/우로 일정 크기의 폭을 갖는 띠 형상의 영역, 또는 사각형상의 영역 등)을 수신된 이미지상에서 이미지 전체 또는 깜박임이 감지된 이미지 영역별로 깜박임 주기를 검출하는 구성으로서, 상기 이미지 분석부(121)에서 순차적으로 출력되는 밝기 정보를 비교하여 깜박임이 발생하는 물체 또는 일정 영역과, 상기 깜박임에 의한 밝기 변화를 산출하며, 상기 밝기 변화가 램프에 의한 깜박임인지 여부를 검출한다.The
즉 상기 깜박임 분석부(122)는 차량에 설치된 램프와 차량 주변의 신호등 또는 가로등과 같이 차량에 설치되지 않은 램프를 포함하여 인식하기 위해 이미지 분석부(121)에서 검출된 물체의 형상을 미리 저장된 다수의 헤드램프, 안개등, 제동등, 후미등, 방향지시등, 신호등, 도로표시등 또는 가로등의 형상과 비교하여 깜박임 보정 대상을 검출한다.That is, the
또한, 상기 깜박임 분석부(122)는 이미지 분석부(121)에서 검출된 물체의 형상으로부터 차량 형상을 인식하고, 상기 인식된 차량의 형상으로부터 차량에 설치된 램프의 위치를 분석하여 헤드램프, 안개등, 제동등, 후미등, 방향지시등과 같은 보정 대상 물체를 검출한다.The
또한, 상기 깜박임 분석부(122)는 차량에 설치된 램프의 위치 및 형상을 분석하여 헤드램프, 안개등, 제동등, 후미등, 방향지시등을 구별하고, 방향지시를 표시하기 위한 방향지시등의 주기적인 깜박임 또는 긴급 상황을 나타내기 위한 방향지시등의 주기적인 깜박임이 검출될 수 있게 한다.The
또한, 상기 깜박임 분석부(122)는 이미지에서 분석한 밝기 변화에 따른 깜박임 주기를 미리 저장된 램프의 깜박임 주기와 비교 및 분석하여 깜박임 보정 대상 램프로 인식할 수 있다.In addition, the
최근의 차량용 램프는 LED를 광원으로 이용하여 헤드램프, 안개등, 제동등, 방향 지시등으로 구성되는 것이 많고, 대부분 PWM(Pulse Width Modulation) 제어방식을 이용하여 동작하며, 이러한 PWM 제어는 LED의 점등/소등이 주기적으로 바뀌면서 제어되어 운전자의 나안으로 볼 때는 시각 잔상 효과로 인해 일정한 밝기를 유지하는 것으로 보이지만, 이미지 촬영부(110)를 이용하여 촬영된 이미지상에서는 PWM 제어를 통한 주기적인 밝기 변화가 검출되어 램프의 깜박임이 발생한다.In recent years, most automotive lamps consist of head lamps, fog lights, brake lights and turn signals using LED as a light source. Most of them are operated by PWM (Pulse Width Modulation) control method. The periodic change in brightness is detected by PWM control on the photographed image by using the
또한, 상기 깜박임 분석부(122)는 이미지 분석부(121)에서 검출한 밝기 정보로부터 보정 대상 깜박임이 있는 다수의 램프, 예를 들면, 헤드램프, 안개등, 신호등이 검출되면, 이미지의 중심에서 일정 범위 이내에 위치하거나 이미지상에서 일정 범위 이상의 영역에서 검출되는 물체를 대표 보정 대상 물체로 설정하고, 상기 설정된 대표 보정 대상 물체의 밝기 변화에 따른 깜박임 주기를 검출할 수 있다.When a plurality of lamps, for example, a head lamp, a fog lamp, and a signal lamp, having a blinking target to be corrected, are detected from the brightness information detected by the
또한, 상기 깜박임 분석부(122)는 깜박임 주기를 미리 저장된 깜박임 보정 판단용 기준값과 비교하고, 결과에 따라 깜박임 주기를 조절하여 깜박임의 제거가 용이한 물체를 대표 보정 대상 물체로 설정할 수도 있다.Also, the
또한, 상기 깜박임 분석부(122)는 깜박임 주기를 미리 저장된 깜박임 보정 판단용 기준값과 비교하고, 결과에 따라 보정 대상으로 설정하거나 또는 보정 대상에서 제외되도록 한다.In addition, the
즉 상기 깜박임 보정 판단용 주기는 PWM 제어를 통한 점등인지, 방향지시 또는 긴급 상황을 나타내기 위한 점등인지 여부를 확인하여 방향 지시나 긴급 상황에 따른 주기적인 점등은 깜박임 보정에서 제외되도록 한다.That is, the flicker correction determination period is checked to see if it is turned on by PWM control, direction indication, or emergency state, so that the flicker correction is excluded from periodic lighting according to the direction or emergency.
PWM 제어를 통한 점등은 주기적인 제어로 이루어지지만, 사람의 눈에는 항상 점등된 상태로 보여질 수 있고, 방향 지시나 긴급 상황에 따른 주기적인 점등은 사람의 눈으로 확인해도 점등/소등이 구분될 수 있어서, 디스플레이되는 화면상에서 방향 지시나 긴급 상황에 의한 깜박임은 보정할 필요가 없다.The lighting by PWM control is controlled by periodic control. However, it can be seen that it is always lighted in the eyes of the person, and periodic lighting according to the direction instruction or emergency situation can be distinguished by light / So it is not necessary to correct the flicker due to the direction instruction or the emergency situation on the displayed screen.
또한, 상기 깜박임 분석부(122)는 미리 설정된 관심 이미지 영역에서 임의의 형상, 예를 들면 신호등, 도로 표시등 또는 가로등과 같이 LED를 광원으로 사용하여 일정한 온/오프 주기로 점등되는 물체인 경우 깜박임 보정 대상으로 결정한다.In addition, the
또한, 상기 깜박임 분석부(122)는 이미지상에 포함된 깜박임 대상을 찾아 램프 형상에 따른 종류를 식별하고, 상기 찾은 깜박임 대상 램프를 미리 저장된 램프와 비교하여 일치하는 램프가 존재하는지 판단하며, 일치하는 램프가 존재하면 저장된 램프의 종류별로 사람의 나안으로 보일 깜박임 주기를 검색하여 상기 찾은 깜박임 대상 램프의 깜박임 주기를 계산한 깜박임 주기와 상기 검색된 주기를 비교하며, 유사한 주기를 가지면 상기 깜박임 대상 램프를 깜박임 보정 대상에서 제외하고, 유사하지 않으면 깜박임 보정 대상으로 판단한다.In addition, the
또한, 상기 깜박임 분석부(122)는 상기 깜박임 주기를 분석하여 그 주기가 하나의 주기로 표시될 경우, 이미지의 캡처 주기를 변경하여 다시 이미지를 캡처하고, 그 캡처된 이미지의 주기를 분석하여 캡처(촬영) 주기를 조절하기 전의 이미지 캡처 주기와 동일하게 하나의 주기로 표시되면 나안으로 확인이 가능한 깜박임으로 판단하여 깜박임 보정 대상에서 제외한다.In addition, the
또한, 상기 깜박임 분석부(122)는 이미지의 캡처(촬영) 주기를 변경한 이후 깜박임 주기가 변경되면, 높은 주파수의 깜박임이 카메라의 샘플링 주기와의 관계로 발생하는 에일리어싱 현상으로 판단하여 깜박임 보정 대상으로 판단한다.When the flicker cycle is changed after changing the capture period of the image, the
또한, 상기 깜박임 분석부(122)는 주기 분석 결과가 유한 개의 주기 조합에 의해 표현되지 않으면, 불규칙한 자연현상에 의한 깜박임으로 판단하여 깜박임 보정 대상에서 제외한다.In addition, if the periodic analysis result is not expressed by a finite number of periodic combinations, the
상기 깜박임 보정부(130)는 깜박임 검출부(120)에서 깜박임이 검출되면, 상기 검출된 깜박임이 이미지에서 제거되도록 보정하는 구성으로서, 촬영주기 보정부(131)와, 밝기 보정부(132)를 포함하여 구성된다.The
상기 촬영주기 보정부(131)는 밝기 변화에 따른 깜박임 주기를 검출한 경우, 운전자에게 더욱 부드럽고 편안한 이미지가 제공될 수 있도록 상기 검출된 깜박임 주기에 따라 이미지 촬영부(110)의 촬영주기에 포함되도록 촬영주기 조절신호를 생성하여 상기 이미지 촬영부(110)로 출력함으로써, 보정된 촬영주기에 따라 이미지 촬영부(110)에서 촬영된 이미지가 디스플레이부(140)로 출력될 수 있게 한다.When the flicker period is detected according to the brightness change, the photographing
이를 더욱 상세하게 설명하면, 상기 촬영주기 보정부(131)는 도 6에 나타낸 바와 같이, 검출된 램프의 깜박임 주기에 따라 램프가 온(ON) 되는 시점 또는 온 구간에 이미지 프레임이 획득되도록 이미지 촬영부(110)의 촬영 시점 조절신호를 발생시켜 깜박임 없이 밝기가 일정한 상태의 이미지가 출력될 수 있도록 한다.More specifically, as shown in FIG. 6, the photographed
본 실시예에서는 촬영주기 보정부(131)가 램프의 온 시점에 촬영주기 보정부(131)의 샘플링 시점 조절신호를 발생시켜 깜박임이 사라진 촬영이 수행될 수 있도록 구성하였지만, 상기 촬영주기 보정부(131)의 촬영 시점을 앞으로 당기거나 또는 뒤로 밀어 램프가 온 되는 시간에 촬영이 시작되도록 구성할 수도 있다.In this embodiment, the photographing
또한, 상기 촬영주기 보정부(131)의 촬영 간격을 예를 들면, 33ms에서 30ms로 조절하는 촬영 주기(또는 촬영 간격)의 조절도 가능하다.Also, it is possible to adjust the photographing interval (or the photographing interval) for adjusting the photographing interval of the photographing
상기 촬영 주기 조절은 운전시 안전기준을 고려하여 미리 설정된 최대 허용 촬영 주기보다 긴 촬영 주기로 조절되지 않도록 하는데, 예를 들어 촬영 주기를 1초로 조절하여 깜박임의 제거가 가능한 것으로 판단되면, 이를 미리 설정된 최대 촬영 주기와 비교하여 초과하는지 여부에 따라 조절 여부를 결정한다.The photographing period is adjusted to a photographing period longer than a preset maximum permissible photographing period in consideration of a safety criterion during operation. For example, if it is determined that the blinking can be removed by adjusting the photographing period to 1 second, It is determined whether or not to adjust according to whether or not it exceeds the shooting cycle.
즉 차량이 100Km/h의 속도로 이동할 경우 1초 동안 차량이 이동하는 거리는 약 36m 이상의 거리를 이동하게 되어 운전자는 이미지상에서 아무런 물체도 못보고 운전해야만 하는 위험한 상황이 발생하므로 조절되는 촬영 주기는 정해진 최대 촬영 주기(예를 들면, 33ms)를 초과하지 않도록 한다.That is, when the vehicle moves at a speed of 100 Km / h, the distance traveled by the vehicle for 1 second is moved by a distance of about 36 m or more, so that the driver can not see any object on the image, Do not exceed the maximum shooting cycle (for example, 33 ms).
또한, 상기 촬영주기 보정부(131)는 이미지상에서 검출된 깜박임 주기 외에 이미지가 운전자의 눈에서 사라진 뒤 일정시간 동안 유지되는 시각 잔상(Persistence of Vision) 주기(시간)에 기초한 촬영주기를 보정된 촬영주기로 설정할 수도 있다.In addition, the photographing
즉 운전자가 나안으로 보기에 깜박임을 느낄 수 없는 밝기 변화 주기(예를 들면 40ms 이하)를 갖도록 이미지 촬영부(110)의 촬영주기를 보정하여 디스플레이부(140) 상에 표시되는 이미지에서 깜박임이 표시되지 않도록 할 수 있다.In other words, the photographing period of the
상기 밝기 보정부(132)는 깜박임 검출부(120)에서 출력되는 밝기정보를 이용하여 깜박임 주기와 밝기를 산출하고, 상기 산출된 밝기가 미리 설정된 보정 밝기값 또는 임의의 램프, 예를 들면, 헤드램프의 최대 밝기값과 대비하여 일정 밝기가 되도록 보정된 밝기값으로 보정하며, 상기 보정된 밝기값이 적용된 보정 이미지가 디스플레이부(143)로 출력되도록 한다.The
또한, 상기 밝기 보정부(132)는 보정된 밝기값에 따른 깜박임 보정을 보정 대상 램프를 포함한 일부 영역에만 수행함으로써, 데이터 연산 처리과정을 감축시킬 수 있고 신속한 이미지의 보정 수행과 함께 운전자에게 더욱 편안한 화면을 제공할 수 있다.In addition, the
또한, 상기 밝기 보정부(132)는 깜박임 검출부(120)에서 깜박임 정보가 검출되지 않으면, 이미지 촬영부(110)에서 출력되는 이미지가 디스플레이부(143)로 출력되도록 한다.If the flickering information is not detected in the
상기 디스플레이부(140)는 이미지 촬영부(110)에서 출력되는 원본 이미지 또는 깜박임 보정부(130)에서 깜박임이 보정된 보정 이미지를 출력하는 구성으로서, LED, OLED, LCD 등의 표시수단으로 이루어진다.The
다음은 본 발명에 따른 깜박임 보정 시스템의 동작과정을 설명한다.The operation of the flicker correction system according to the present invention will now be described.
도 7은 본 발명에 따른 깜박임 보정 시스템의 제어방법을 나타낸 흐름도이고, 도 8은 도 7에 따른 깜박임 보정 시스템에서 깜박임에 따른 보정 과정을 나타낸 흐름도이며, 도 9는 도 7에 따른 깜박임 보정 시스템의 보정대상 판단과정을 나타낸 흐름도이고, 도 10은 도 9에 따른 보정대상 판단과정에서 촬영 주기의 조절과정을 나타낸 흐름도이다.FIG. 7 is a flowchart illustrating a control method of the flicker correction system according to the present invention. FIG. 8 is a flowchart illustrating a correction process according to flicker in the flicker correction system of FIG. 7, FIG. 10 is a flowchart illustrating a process of adjusting the shooting period in the correction target determination process according to FIG.
도 2, 도 7 내지 도 10을 참조하면, 이미지 촬영부(110)가 차량의 전방, 후방, 측후방 중 적어도 하나를 촬영한 이미지를 출력하면, 깜박임 검출부(120)가 상기 촬영된 이미지를 수신(S100)한다.2, 7 to 10, when the
상기 S100단계에서 수신된 이미지는 깜박임 검출부(120)가 메모리(미도시)에 저장하고, 상기 수신된 이미지를 미리 저장된 이미지 프로세싱 프로그램을 통해 분석하여 이미지상에 포함된 물체 또는 일정 영역을 검출하며, 상기 검출된 물체 또는 일정 영역에서 빛의 밝기, 빛의 색상 등을 포함한 밝기 정보를 검출(S200)한다.The
또한, 상기 깜박임 검출부(120)는 검출된 밝기 정보를 분석하여 깜박임이 발생하는 물체 또는 일정 영역(예를 들면, 이미지의 중심에서 상/하/좌/우로 일정 크기의 폭을 갖는 띠 형상의 영역, 또는 사각형상의 영역 등)을 수신된 이미지상에서 검출하는 구성으로서, 이미지 프로세싱 프로그램을 통해 순차적으로 검출되는 밝기 정보를 비교하여 깜박임이 발생하는 물체 또는 일정 영역과, 상기 깜박임에 의한 밝기 변화를 산출(S300)한다.In addition, the
상기 S300 단계에서의 깜박임에 의한 밝기 변화는 최초의 이미지 수신 후 순차적으로 입력되는 이미지를 비교 분석하여 밝기의 변화에 따른 깜박임이 발생하는지 여부를 판단한다.The brightness change caused by the blinking in step S300 is a result of comparing the image sequentially input after receiving the first image and determining whether flickering occurs according to the change in brightness.
상기 S300 단계에서 깜박임 발생의 검출은 주기 분석에 의한 LED 램프의 고주파 신호와 카메라 샘플링 주기와의 관계에 의한 에일리어싱 현상인지를 분석하는 것을 포함한다.The detection of flicker occurrence in step S300 includes analyzing whether the occurrence of aliasing is caused by the relationship between the high frequency signal of the LED lamp and the camera sampling period by the periodic analysis.
즉 깜박임 신호의 주기를 분석하여 그 주기가 하나로 표현될 경우, 이미지의 캡처 주기를 조절하여 다시 이미지를 캡처하고, 상기 주기를 분석된 주기가 동일하게 하나로 표현되는 경우 나안으로 확인 가능한 깜박임으로 판단하여 깜박임 보정 대상에서 제외한다.In other words, if the cycle of the flicker signal is analyzed and the cycle is expressed as one, the image capturing cycle is adjusted to capture the image again, and the cycle is judged to be flicker in the case where the analyzed period is the same one or in an identifiable flicker It is excluded from blink compensation.
또한, 주기 분석의 결과가 유한개의 주기 조합에 의해 표현되지 않는 경우, 불규칙한 자연현상에 의한 깜박임으로 판단하고, 깜박임 보정 대상에서 제외하는 것으로 판단한다.Also, if the result of the periodic analysis is not expressed by a finite number of periodic combinations, it is determined that the flicker is caused by an irregular natural phenomenon, and it is determined that the flicker correction is excluded.
상기 S300 단계에서 깜박임이 검출되면, 깜박임 검출부(120)는 상기 밝기 변화가 깜박임 보정 대상 물체에서 발생한 것인지 판단(S400)하고, 상기 S400 단계의 판단결과 보정 대상 물체에서 발생된 것으로 판단되면 깜박임 보정(S500)을 수행하며, 상기 S300 단계에서 깜박임이 검출되지 않으면, 디스플레이부(140)를 통해 원본 이미지가 출력(S600)되도록 한다.If the flicker is detected in step S300, the
상기 S400 단계에서 상기 깜박임 검출부(120)는 이미지에서 검출된 물체의 형상을 미리 저장된 다수의 헤드램프, 안개등, 제동등, 후미등, 방향지시등과 같이 차량에 설치된 램프뿐만 아니라, 신호등, 도로 표지등 또는 가로등과 같은 차량 이외에서 빛을 출력하는 램프의 형상도 포함하여 비교한다.In step S400, the
또한, 상기 S400 단계에서 깜박임 검출부(120)는 이미지에서 분석한 밝기 변화에 따른 깜박임 주기를 미리 저장된 PWM 제어를 통한 램프의 깜박임 주기, 방향 지시등의 제어를 위한 깜박임 주기 등과 비교하고, 상기 비교결과, 방향 지시등의 제어를 위한 나안으로 확인될 주기적인 깜박임인 경우에는 깜박임 보정에서 제외되도록 한다.In step S400, the
또한, 상기 S400 단계에서 깜박임 검출부(120)는 보정 대상 물체에서 예를 들면, 다수의 램프가 검출되면, 램프 또는 검출된 램프 중에서 상대적으로 크기가 가장 큰 램프를 기준으로 설정하고, 상기 설정된 기준 램프의 밝기 변화에 따른 깜박임 주기를 검출한다.In step S400, the
상기 S400 단계에서 PWM 제어를 통한 깜박임이 검출되면, 깜박임 보정부(130)는 상기 검출된 깜박임이 이미지에서 제거되도록 보정(S500)하고, 깜박임이 제거된 보정 이미지는 디스플레이부(140)를 통해 출력(S600)되도록 한다.If the flicker is detected through PWM control in step S400, the
상기 S500 단계는 깜박임 보정부(130)가 깜박임 검출부(120)에서 출력되는 밝기 정보를 이용하여 깜박임 주기를 검출(S510)하고, 미리 저장된 이미지 촬영부(110)의 촬영주기와 비교(S520)하여 깜박임을 없애거나 또는 깜박임이 최소화되도록 촬영주기 보정값을 산출(S530)한다.In step S500, the
상기 S530 단계에서 촬영주기 보정값이 산출되면, 깜박임 보정부(130)는 상기 산출된 촬영주기 보정값을 이미지 촬영부(110)로 전송(S540)하여 램프의 깜박임 주기에 이미지 촬영부(110)에서 촬영되도록 함으로써, 깜박임이 제거된 이미지가 획득될 수 있게 한다.If the photographing period correction value is calculated in step S530, the
상기 S540 단계를 수행한 다음, 깜박임 검출부(120)는 이미지 촬영부(110)를 통해 출력되는 이미지를 분석하여 깜박임이 발생하는지 검출(S550)한다.After performing step S540, the
상기 S550 단계의 판단결과, 깜박임이 검출되면 보정된 이미지가 더욱 자연스럽게 표시될 수 있도록, 보정된 촬영주기에 따라 촬영된 이미지에서 깜박임에 의한 밝기 변화와 밝기값을 검출(S560)한다.If it is determined in step S550 that the flicker is detected, a brightness change and a brightness value due to flicker are detected in the photographed image according to the corrected photographing period so that the corrected image can be displayed more smoothly (S560).
상기 깜박임 보정부(130)는 상기 S560 단계에서 검출된 깜박임 또는 밝기 변화가 발생한 일부 영역의 밝기를 미리 설정된 보정 밝기값으로 보정(S570)하고, 깜박임이 제거된 이미지를 생성(S580)하며, 상기 생성된 보정 이미지는 디스플레이부(140)를 통해 출력(S600)되도록 한다. The
한편, 상기 깜박임 보정 대상의 판단은 깜박임 검출부(120)가 수신된 이미지를 분석(S700)하여 이미지 상에 포함된 깜박임 대상을 찾아(S710), 램프 형상에 따른 종류를 식별(S7230)한다.In step S730, the
상기 깜박임 검출부(120)는 찾은 깜박임 대상 램프를 미리 저장된 램프와 비교하여 일치하는 램프가 존재하는지 판단(S730)한다.The
상기 S730 단계의 판단결과, 일치하는 램프가 존재하면 상기 깜박임 검출부(120)는 저장된 램프의 종류별로 깜박임 주기를 각각의 램프별로 깜박임 주기가 저장된 테이블에서 검색(S740)하고, 상기 S710 단계에서 찾은 깜박임 대상 램프의 깜박임 주기를 계산(S750)한다.If it is determined in step S730 that there is a matching lamp, the
상기 깜박임 검출부(120)는 상기 S750 단계에서 계산된 깜박임 주기와 상기 S740 단계에서 검색된 주기를 비교하여 유사한 주기를 갖는지 여부를 판단(S760)한다.The
상기 S760 단계의 판단결과, 미리 설정된 허용 오차 범위 내에서 유시한 주기를 가지면, 상기 깜박임 검출부(120)는 상기 S710 단계에서 찾은 깜박임 대상 램프를 깜박임 보정 대상에서 제외(S770)하고, 계산된 주기와 검색된 주기가 허용 오차 범위를 초과하여 유사하지 않으면 깜박임 보정 대상으로 판단(S761)한다.As a result of the determination in step S760, if the
또한, 상기 S730 단계의 판단결과, 일치하는 램프가 존재하지 않으면, 상기 깜박임 분석부(122)는 S710 단계에서 찾은 깜박임 대상의 깜박임 주기를 계산하여 그 주기가 하나의 주기로 표시할 수 있는지 판단(S800)한다.If it is determined in step S730 that there is no matching lamp, the
상기 S800 단계의 판단결과, 하나의 주기로 표시할 수 있는 경우, 이미지의 촬영 주기를 일정 주기만큼 조절(S810)했는지 여부를 판단(S810)하여 촬영 주기의 조절전이면, 이미지 촬영부(110)의 촬영 주기가 조절되도록 요청(S811)하고, 촬영 주기를 조절한 이후이면, 캡처한 이미지의 주기를 분석하여 캡처 주기를 조절하기 전의 이미지 캡처 주기와 동일하게 하나의 주기로 표시되는지 판단(S820)한다.If it is determined in step S800 that the image can be displayed in one cycle, it is determined whether the image capturing period is adjusted by a predetermined period (S810) (S810). If the image capturing period is not adjusted, (S811). If it is determined that the capturing period has been adjusted, a period of the captured image is analyzed to determine whether the capturing period is displayed in one cycle, which is the same as the image capturing period before the capturing period is adjusted (S820).
상기 S820 단계의 판단결과, 동일한 주기로 판단되면 나안으로 확인이 가능한 깜박임으로 판단하여 깜박임 보정 대상에서 제외(S830)한다.As a result of the determination in step S820, if the same period is determined, it is determined that flicker is possible, and the flicker is not subjected to flicker correction (step S830).
상기 S820 단계에서, 이미지 촬영 주기를 조절한 이후 깜박임 주기가 변경되면, 상기 깜박임 분석부(122)는 높은 주파수의 깜박임이 카메라의 샘플링 주기와의 관계로 발생하는 에일리어싱 현상으로 판단하여 깜박임 보정 대상으로 판단(S821)한다.If the flicker period is changed after adjusting the image capturing period in step S820, the
한편, 상기 S800 단계의 판단결과, 하나의 주기로 표시할 수 없거나 또는 유한 개의 주기 조합에 의해 표현되지 않으면, 상기 깜박임 분석부(122)는 불규칙한 자연현상에 의한 깜박임으로 판단하여 깜박임 보정 대상에서 제외(S901)되도록 한다.On the other hand, if the result of the determination in step S800 is that it can not be displayed in one cycle or is not represented by a combination of a finite number of cycles, the
따라서 카메라가 촬영한 이미지에서 깜박임이 검출되면 깜박임을 제거한 이미지로 보정하여 디스플레이되도록 함으로써, 운전자가 나안(裸眼)으로 보는 것과 같은 이미지를 제공할 수 있으며, 운전자의 나안으로 인식하는 결과물과 동일감을 느끼게 하여 안정감을 제공할 수 있고, 운전자의 눈에 피로감을 감소시킬 수 있게 된다.Therefore, when the flicker is detected in the image taken by the camera, the image is corrected to the image which is obtained by removing the flicker, thereby providing the image that the driver sees as naked eyes and feeling the same as the result recognized by the driver Thereby providing a sense of stability and reducing fatigue in the eyes of the driver.
상기와 같이, 본 발명의 바람직한 실시 예를 참조하여 설명하였지만 해당 기술 분야의 숙련된 당업자라면 하기의 특허청구범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it will be understood by those skilled in the art that various changes and modifications may be made without departing from the spirit and scope of the invention as defined in the appended claims. It can be understood that
또한, 본 발명의 실시예를 설명하는 과정에서 도면에 도시된 선들의 두께나 구성요소의 크기 등은 설명의 명료성과 편의상 과장되게 도시되어 있을 수 있으며, 상술된 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례에 따라 달라질 수 있으므로, 이러한 용어들에 대한 해석은 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.In the course of the description of the embodiments of the present invention, the thicknesses of the lines and the sizes of the components shown in the drawings may be exaggerated for clarity and convenience of explanation, , Which may vary depending on the intentions or customs of the user, the operator, and the interpretation of such terms should be based on the contents throughout this specification.
100 : 깜박임 보정 시스템
110 : 이미지 촬영부
120 : 깜박임 검출부
121 : 이미지 분석부
122 : 깜박임 분석부
130 : 깜박임 보정부
131 : 촬영주기 보정부
132 : 밝기 보정부
140 : 디스플레이부100: Flashing compensation system
110: Image shooting unit
120: flicker detecting section
121: Image analysis unit
122:
130:
131:
132: Brightness correction section
140:
Claims (17)
상기 이미지 촬영부(110)에서 출력되는 이미지를 미리 저장된 이미지 프로세싱 프로그램을 통해 이미지상에 포함된 물체 또는 일정 영역을 검출하고, 상기 검출된 물체 또는 일정 영역의 밝기값을 포함한 밝기 정보를 검출하는 이미지 분석부(121)와, 상기 이미지 분석부(121)에서 검출된 밝기 정보를 분석하여 깜박임이 발생하는 물체 또는 일정 영역을 검출하고, 상기 검출된 물체 또는 일정 영역에서 밝기 변화에 의한 깜박임 주기를 분석하고, 상기 깜박임 주기의 변경으로 에일리어싱 현상의 발생에 따라 깜박임 보정 대상을 검출하는 깜박임 분석부(122)를 구비한 깜박임 검출부(120); 및
상기 깜박임 검출부(120)에서 깜박임이 검출되면, 상기 검출된 깜박임이 이미지에서 제거되도록 보정하는 깜박임 보정부(130)를 포함하는 깜박임 보정 시스템.
An image capturing unit 110 installed in the vehicle and outputting an image of the surroundings of the vehicle;
An image sensing unit 110 for sensing an object or a predetermined area included in the image through an image processing program stored in advance and for detecting brightness information including a brightness value of the detected object or a predetermined area, An analyzing unit 121 for analyzing the brightness information detected by the image analyzing unit 121 to detect a blinking object or a predetermined region and analyzing a blinking period due to a brightness change in the detected object or a predetermined region And a flicker analyzer (120) for detecting a flicker correction object in response to occurrence of an aliasing phenomenon by changing the flicker period; And
And a flicker correction unit (130) for correcting the detected flicker to be removed from the image when flicker is detected in the flicker detection unit (120).
상기 깜박임 보정 시스템은 이미지 촬영부(110)에서 출력되는 이미지 또는 깜박임 보정부(130)에서 깜박임을 제거하여 보정된 이미지를 출력하는 디스플레이부(140)를 더 포함하는 것을 특징으로 하는 깜박임 보정 시스템.
The method according to claim 1,
Wherein the flicker correction system further includes a display unit (140) for outputting the corrected image by removing flicker from the image output from the image photographing unit (110) or the flicker correction unit (130).
상기 깜박임 분석부(122)는 검출된 물체를 미리 저장된 헤드램프, 안개등, 제동등, 후미등, 방향지시등, 신호등, 도로 표시등, 가로등 중 적어도 하나의 형상과 비교하여 깜박임 보정 대상인지 여부를 결정하는 것을 특징으로 하는 깜박임 보정 시스템.
The method according to claim 1,
The flicker analyzer 122 compares the detected object with at least one shape of a head lamp, a fog light, a brake light, a tail light, a turn signal, a traffic light, a road sign, and a street light stored in advance to determine whether or not the object is a flicker correction target Features a flicker correction system.
상기 깜박임 분석부(122)는 보정 대상 물체가 아닌 경우 미리 설정된 관심 이미지 영역 내의 일부 영역에 임의의 형상으로 일정한 온/오프 주기가 검출되면, 보정 대상으로 결정하는 것을 특징으로 하는 깜박임 보정 시스템.
5. The method of claim 4,
Wherein the flicker analyzing unit (122) determines to be an object to be corrected when a predetermined ON / OFF period is detected in a predetermined shape in a predetermined area of a predetermined image area of interest, which is not an object to be corrected.
상기 깜박임 분석부(122)는 보정 대상 물체가 다수 검출되면, 이미지의 중심에서 일정 범위 이내에 위치하거나, 이미지상에서 일정 영역 이상의 영역을 차지하거나, 깜박임 주기를 미리 저장된 깜박임 보정 판단용 기준값과 비교하고, 비교 결과에 따라 깜박임 주기를 조절하여 깜박임의 제거가 용이한 대상을 대표 보정 대상 으로 설정하는 것을 특징으로 하는 깜박임 보정 시스템.
5. The method of claim 4,
When a plurality of objects to be corrected are detected, the flicker analyzer 122 compares the flicker period with a previously stored flicker correction determination reference value, And adjusts a flicker cycle according to a result of the comparison to set a target that is easy to remove flicker as a representative correction target.
상기 깜박임 분석부(122)는 이미지상에서 깜박임이 감지된 이미지 영역별로 깜박임 주기를 검출하는 것을 특징으로 하는 깜박임 보정 시스템.
5. The method of claim 4,
Wherein the flicker analyzing unit (122) detects a flicker cycle for each image region in which the flicker is detected on the image.
상기 깜박임 분석부(122)는 깜박임 주기를 미리 저장된 깜박임 보정 판단용 기준값과 비교하고, 결과에 따라 보정 대상으로 설정하거나 또는 보정 대상에서 제외되도록 하는 것을 특징으로 하는 깜박임 보정 시스템.
The method according to claim 1,
Wherein the flicker analyzer (122) compares the flicker frequency with a previously stored reference value for flicker correction determination, and sets the flicker frequency to a correction target or excludes the correction target according to a result.
상기 깜박임 분석부(122)는 이미지상에 포함된 깜박임 대상을 찾아 램프 형상에 따른 종류를 식별하고, 상기 찾은 깜박임 대상 램프를 미리 저장된 램프와 비교하여 일치하는 램프가 존재하는지 판단하며, 일치하는 램프가 존재하면 저장된 램프의 종류별로 사람의 나안으로 감지될 깜박임 주기를 검색하여 상기 찾은 깜박임 대상 램프의 깜박임 주기를 계산한 깜박임 주기와 상기 검색된 주기를 비교하며, 유사한 주기를 가지면 상기 깜박임 대상 램프를 깜박임 보정 대상에서 제외하고, 유사하지 않으면 깜박임 보정 대상으로 판단하는 것을 특징으로 하는 깜박임 보정 시스템.
The method according to claim 1,
The flicker analyzer 122 finds a flicker object included in the image, identifies a type according to the lamp shape, compares the flicker target lamp with the previously stored lamp to determine whether a matching lamp exists, The blinking cycle of the lamp to be detected is searched for by the type of the stored lamp, and the blinking cycle of the found blinking lamp is compared with the searched cycle. If the blinking cycle is a similar cycle, the blinking lamp is blinked And the flicker correction target is determined to be a flicker correction target if it is not similar.
상기 깜박임 분석부(122)는 깜박임 주기를 분석하여 그 주기가 하나의 주기로 표시될 경우, 이미지의 캡처 주기를 변경하여 이미지를 다시 캡처하고, 그 주기를 분석하여 캡처 주기를 조절하기 전의 이미지 캡처 주기와 동일하게 하나의 주기로 표시되면 나안으로 확인이 가능한 깜박임으로 판단하여 깜박임 보정 대상에서 제외하는 것을 특징으로 하는 깜박임 보정 시스템.
10. The method of claim 9,
The flicker analyzing unit 122 analyzes the flicker period, and when the period is displayed in one cycle, it changes the capture period of the image to recapture the image, and analyzes the cycle to analyze the image capture cycle before the capture cycle The flicker correction unit determines that the flicker is a flicker that can be confirmed by the flicker correction unit, and excludes the flicker from the flicker correction target.
상기 깜박임 분석부(122)는 주기 분석 결과가 유한 개의 주기 조합에 의해 표현되지 않으면, 불규칙한 자연현상에 의한 깜박임으로 판단하여 깜박임 보정 대상에서 제외하는 것을 특징으로 하는 깜박임 보정 시스템.
11. The method of claim 10,
Wherein the flicker analyzing unit (122) determines that flicker due to an irregular natural phenomenon is not present if the periodic analysis result is not represented by a finite number of periodic combinations, and excludes the flicker from the flicker correction target.
상기 깜박임 보정부(130)는 이미지 촬영부(110)의 촬영주기가 깜박임 검출부(120)에서 검출한 깜박임 주기를 이용하여 깜박임이 보정되도록 촬영주기 보정신호를 출력하는 촬영주기 보정부(131)를 포함하는 것을 특징으로 하는 깜박임 보정 시스템.
The method according to claim 1,
The flicker correction unit 130 includes a photographing period correction unit 131 for outputting a photographing period correction signal such that the photographing period of the image photographing unit 110 is flicker corrected using the flickering period detected by the flickering detection unit 120 The flicker correction system comprising:
상기 촬영 주기는 검출된 깜박임 주기가 이미지를 캡처하는 주기에 포함되도록 촬영 시작 시점을 조절하거나 또는 촬영 간격을 조절하여 보정하거나 또는 촬영 시작 시작 시점과 촬영 간격을 함께 조절하는 것을 특징으로 하는 깜박임 보정 시스템.
14. The method of claim 13,
Wherein the photographing cycle is adjusted by adjusting the photographing start time or adjusting the photographing interval so that the detected flickering cycle is included in the cycle of capturing the image, or adjusting the photographing start time and the photographing interval together. .
상기 보정된 촬영주기는 이미지상에서 검출되는 깜박임 주기 또는 이미지가 운전자의 나안에서 사라진 뒤 일정시간 동안 유지되는 시각 잔상(Persistence of Vision) 주기 중 어느 하나를 기초로 깜박임이 보정되도록 결정된 것을 특징으로 하는 깜박임 보정 시스템.
14. The method of claim 13,
Wherein the corrected photographed period is determined such that the flicker is corrected on the basis of either a flicker period detected on the image or a Persistence of Vision period in which the image is held for a certain period of time after the image disappears in the driver. Correction system.
상기 깜박임 보정부(130)는 미리 설정된 밝기값 또는 이미지 분석에 의해 결정한 밝기값으로 이미지의 깜박임 영역의 밝기를 보정하여 깜박임을 제거하는 밝기 보정부(132)를 포함하는 것을 특징으로 하는 깜박임 보정 시스템.
16. The method of claim 15,
Wherein the flicker correction unit (130) includes a brightness correction unit (132) for correcting flicker by correcting the brightness of a flickering area of the image with a preset brightness value or a brightness value determined by image analysis .
상기 깜박임 보정 시스템은 카메라의 영상센서, 영상처리용 이미지 프로세서(ISP), 카메라 영상을 입력받는 제어장치, 디스플레이 장치에 설치되는 것을 특징으로 하는 깜박임 보정 시스템.The method according to claim 1,
Wherein the flicker correction system is installed in an image sensor of a camera, an image processor (ISP) for image processing, a control device receiving a camera image, and a display device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160053790A KR101774691B1 (en) | 2016-05-02 | 2016-05-02 | System for correcting flicker |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160053790A KR101774691B1 (en) | 2016-05-02 | 2016-05-02 | System for correcting flicker |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101774691B1 true KR101774691B1 (en) | 2017-09-05 |
Family
ID=59924501
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160053790A KR101774691B1 (en) | 2016-05-02 | 2016-05-02 | System for correcting flicker |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101774691B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190090998A (en) | 2018-01-26 | 2019-08-05 | 경북대학교 산학협력단 | eye strain reduction method and system using face recognition algorithm |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007286943A (en) * | 2006-04-18 | 2007-11-01 | Fujifilm Corp | Signal light detection apparatus |
JP2009017213A (en) * | 2007-07-04 | 2009-01-22 | Canon Inc | Imaging apparatus |
US20130258134A1 (en) * | 2010-11-30 | 2013-10-03 | Fujifilm Corporation | Image processing apparatus, imaging apparatus, image processing method, and white balance adjustment method |
JP2015097326A (en) * | 2013-11-15 | 2015-05-21 | キヤノン株式会社 | Flicker-less photographing device |
-
2016
- 2016-05-02 KR KR1020160053790A patent/KR101774691B1/en active IP Right Grant
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007286943A (en) * | 2006-04-18 | 2007-11-01 | Fujifilm Corp | Signal light detection apparatus |
JP2009017213A (en) * | 2007-07-04 | 2009-01-22 | Canon Inc | Imaging apparatus |
US20130258134A1 (en) * | 2010-11-30 | 2013-10-03 | Fujifilm Corporation | Image processing apparatus, imaging apparatus, image processing method, and white balance adjustment method |
JP2015097326A (en) * | 2013-11-15 | 2015-05-21 | キヤノン株式会社 | Flicker-less photographing device |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190090998A (en) | 2018-01-26 | 2019-08-05 | 경북대학교 산학협력단 | eye strain reduction method and system using face recognition algorithm |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3855439B2 (en) | Night driving visibility support device | |
EP2637150B1 (en) | Vehicle peripheral area observation system | |
KR101683509B1 (en) | For preventing glaring by the head lamp and method for preventing glaring using the same | |
US20180015879A1 (en) | Side-view mirror camera system for vehicle | |
US20070282501A1 (en) | Driving assist method and driving assist apparatus | |
JP5948170B2 (en) | Information display device, information display method, and program | |
US20230351633A1 (en) | Vehicle system for controlling and not controlling electronic device | |
KR20190003409A (en) | Light system for a motor vehicle | |
CN103765489A (en) | Obstacle alert device | |
US10455159B2 (en) | Imaging setting changing apparatus, imaging system, and imaging setting changing method | |
KR102630368B1 (en) | Apparatus for calibrating camera monitoring driver and method thereof | |
KR20150079004A (en) | Dispay apparatus of vehicle and contolling method for the same | |
KR101774691B1 (en) | System for correcting flicker | |
JP2006226682A (en) | Apparatus and method for infrared photographing and display of vehicle | |
US11881054B2 (en) | Device and method for determining image data of the eyes, eye positions and/or a viewing direction of a vehicle user in a vehicle | |
JP2009035162A (en) | Rear view monitoring device | |
KR101533285B1 (en) | Car safety system to get and display infrared images for sensing dangers in dark environments and photographing method for infrared images | |
US11812179B2 (en) | Input apparatus for vehicle and method thereof | |
JP2007089094A (en) | Pedestrian detection device | |
KR20160067694A (en) | System for monitoring the driver status and method thereof | |
KR20160069034A (en) | Light control apparatus for head-up display information and method thereof | |
JP4376050B2 (en) | Vehicle periphery monitoring device | |
US20160321509A1 (en) | Image processing device, warning device and method for processing image | |
WO2024075739A1 (en) | Vehicular display device | |
KR101750160B1 (en) | System and method for eliminating noise of around view |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |