KR101777518B1 - 인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 이를 포함하는 차량 - Google Patents

인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 이를 포함하는 차량 Download PDF

Info

Publication number
KR101777518B1
KR101777518B1 KR1020160074109A KR20160074109A KR101777518B1 KR 101777518 B1 KR101777518 B1 KR 101777518B1 KR 1020160074109 A KR1020160074109 A KR 1020160074109A KR 20160074109 A KR20160074109 A KR 20160074109A KR 101777518 B1 KR101777518 B1 KR 101777518B1
Authority
KR
South Korea
Prior art keywords
light emitting
vehicle
light
module
interior camera
Prior art date
Application number
KR1020160074109A
Other languages
English (en)
Inventor
김예빈
송은한
이호영
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to CN201611034248.5A priority Critical patent/CN107284353B/zh
Priority to US15/446,065 priority patent/US20170291548A1/en
Application granted granted Critical
Publication of KR101777518B1 publication Critical patent/KR101777518B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00—Special procedures for taking photographs; Apparatus therefor
    • G03B15/02—Illuminating scene
    • G03B15/03—Combinations of cameras with lighting apparatus; Flash units
    • G03B15/05—Combinations of cameras with electronic flash apparatus; Electronic flash units
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • H04N13/0239—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512—Passenger detection systems
    • B60R21/0153—Passenger detection systems using field detection presence sensors
    • B60R21/01534—Passenger detection systems using field detection presence sensors using electromagneticwaves, e.g. infrared
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00—Special procedures for taking photographs; Apparatus therefor
    • G03B15/02—Illuminating scene
    • G03B15/03—Combinations of cameras with lighting apparatus; Flash units
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00—Stereoscopic photography
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00—Stereoscopic photography
    • G03B35/08—Stereoscopic photography by simultaneous recording
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/296—Synchronisation thereof; Control thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/51—Housings
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50—Control of the SSIS exposure
    • H04N25/53—Control of the integration time
    • H04N25/531—Control of the integration time by controlling rolling shutters in CMOS SSIS
    • H04N5/2257—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/30—Transforming light or analogous information into electric information
    • H04N5/33—Transforming infrared radiation
    • H04N5/3532—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0001—Arrangements for holding or mounting articles, not otherwise provided for characterised by position
    • B60R2011/0003—Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
    • B60R2011/0028—Ceiling, e.g. roof rails
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/103—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using camera systems provided with artificial illumination device, e.g. IR light source
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/107—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8006—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying scenes of vehicle interior, e.g. for monitoring passengers or cargo
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/42—Image sensing, e.g. optical camera
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/254—Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074—Stereoscopic image analysis
    • H04N2013/0092—Image segmentation from stereoscopic image signals

Abstract

실시예에 따른 인테리어 카메라 장치는, 프레임 바디; 상기 프레임 바디 내에 배치되며, 제 1 카메라 및 제 2 카메라를 포함하는 스테레오 카메라; 상기 프레임 바디 내에 배치되며, 적외선 광을 조사하는 라이트 모듈; 및 상기 스테레오 카메라 및 상기 라이트 모듈과 연결된 회로기판을 포함하고, 상기 라이트 모듈은, 제 1 조사방향으로 적외선 광을 조사하는 제 1 발광소자와, 상기 제 1 조사방향과 다른 제 2 조사방향으로 적외선 광을 조사하는 제 2 발광소자를 포함한다.

Description

인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 이를 포함하는 차량 {Interior Camera Apparatus, Driver Assistance Apparatus Having The Same and Vehicle Having The Same}
본 발명은 차량에 구비되는 인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 이를 포함하는 차량에 관한 것이다.
차량은 탑승하는 사용자가 원하는 방향으로 이동시키는 장치이다. 대표적으로 자동차를 예를 들 수 있다.
자동차는 사용되는 원동기에 따른 분류에 의하면 내연기관(internal combustion engine) 자동차, 외연기관(external combustion engine) 자동차, 가스터빈(gas turbine) 자동차 또는 전기자동차(electric vehicle) 등이 있다.
전기자동차는 전기를 에너지 삼아 전기 모터를 돌리는 자동차를 뜻하며, 순수 전기자동차, 하이브리드 전기차(HEV), 플러그인 하이브리드 전기차(PHEV), 수소연료전지차(FCEV) 등이 있다.
최근 운전자, 보행자 등의 안전이나 편의를 위해 지능형 자동차(Smart Vehicle)의 개발이 활발히 되고 있다.
지능형 자동차는 정보기술(IT) 기술을 융합한 최첨단 자동차로 스마트 자동차라고도 한다. 지능형 자동차는 자동차 자체의 첨단 시스템 도입은 물론 지능형 교통 시스템(ITS)과의 연동을 통한 최적의 교통 효율을 제공한다.
또한, 이러한 지능형 자동차에 탑재되는 센서에 대한 연구가 활발히 진행되고 있다. 자세히, 카메라, 적외선센서, 레이더, GPS, 라이더(Lidar), 자이로스코프 등이 지능형 자동차에 이용되고 있으며, 그 중 카메라는 사람의 눈을 대신하는 역할을 하는 센서로 중요한 위치를 차지하고 있다.
따라서, 각 종 센서와 전자 장비들의 개발로 인하여, 사용자 운전을 보조하고 주행 안전성 및 편의 등을 향상시키는 운전 주행 보조기능을 구비한 차량이 주목 받고 있다.
특히, 최근 눈 깜빡임과 얼굴 방향 등 운전자의 상태를 감지해 안전한 주행을 돕는 운전자상태모니터링(DSM:Driver　State　Monitoring) 시스템에 대한 관심이 급증하고 있다.
현재 운전자상태모니터링 시스템은 운전자 졸음 방지에 초점이 맞추어져 있으며, 나아가 운전자 표정과 감정상태까지 읽어 차량 사고의 가능성이 높을 경우, 경보를 발생시키는 기술 등이 제안되고 있다.
그러나 현재 운전자상태모니터링 시스템을 구축하기 위한 카메라는, 싱글 카메라가 사용되고 있는데, 싱글 카메라가 촬영한 2D 영상으로 획득한 정보는 정확도가 떨어지고 운전자의 다양한 상태나 차량 내 복잡한 상황을 모두 캐치하기 어려운 한계가 있다.
한편, 운전자상태모니터링 시스템은, 운전자의 시야를 방해하지 않으면서 차량 내부를 촬영하기 위하여 적외선 광을 이용하는데, 적외선 광을 방출하는 조명에서 발생된 열은 이미지 센싱을 방해하는 문제가 있다.
실시예는 전술한 문제점을 해결하기 위하여, 3D 영상 획득할 수 있고 저발열 라이트 모듈을 포함하는 인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 차량을 제공하고자 한다.
실시예에 따른 인테리어 카메라 장치는, 프레임 바디; 상기 프레임 바디 내에 배치되며, 제 1 카메라 및 제 2 카메라를 포함하는 스테레오 카메라; 상기 프레임 바디 내에 배치되며, 적외선 광을 조사하는 라이트 모듈; 및 상기 스테레오 카메라 및 상기 라이트 모듈과 연결된 회로기판을 포함하고, 상기 라이트 모듈은, 제 1 조사방향으로 적외선 광을 조사하는 제 1 발광소자와, 상기 제 1 조사방향과 다른 제 2 조사방향으로 적외선 광을 조사하는 제 2 발광소자를 포함한다.
실시예는, 전술한 인테리러 카메라 장치를 포함하는 차량 운전 보조장치를 제공한다.
실시예는 전술한 차량 운전 보조장치를 포함하는 차량을 제공한다.
실시예에 따른 인테리어 카메라는, 저전력, 저발열로 구동 가능한 라이트 모듈을 포함하며, 3D 공간 감지가 가능한 스테레오 카메라를 포함한다.
자세히, 라이트 모듈은 조사방향을 달리하는 복수의 발광소자를 포함할 수 있다. 이러한 라이트 모듈은, 적외선 광을 효과적으로 조사하여 저전력, 저발열로 양질의 이미지를 센싱하도록 보조할 수 있다.
또한, 스테레오 카메라는, 이러한 라이트 모듈에 보조를 받아 양질의 이미지를 센싱함과 동시에 촬영되는 객체와의 거리까지 측정할 수 있다.
또한, 스테레오 카메라는, 롤링 셔터 타입으로 이미지 스캔 속도(프레임 속도)가 빨라 운전자상태감시 시스템(DSM)과 같은 차량용 영상 장비에 사용하기 적합한 장점이 있다.
또한, 실시예에 따른 복합 인테리어 카메라는, 대칭 구조로 2개의 인테리어 카메라를 배치하여, 차량에 설치?瑛? 때, 운전자석과 보조석을 동시에 모니터링 할 수 있다.
이와 동시에, 인테리어 카메라는, 라이트 모듈로 조사영역을 달리하여, 모니터링 영역을 특정할 수 있다.
그리고 실시예에 따른 차량 운전 보조장치는, 이러한 인테리어 카메라를 이용하여 사용자의 편의성 및 안전성을 향상시킨 다양한 유저 인터페이스를 제공할 수 있다.
특히, 차량 운전 보조장치는, 차량 주행 상태 별로 다른 그래픽 유저 인터페이스를 제공할 수 있으며, 차량 운전 보조기능 제어 요소 별로 다른 그래픽 유저 인터페이스를 제공하여, 사용자의 편의성을 증대시킬 수 있다.
그리고 실시예에 따른 차량은, 이러한 인테리어 카메라를 차량 천장에 배치하여, 차량 내부 전 영역을 구분하여 효과적으로 모니터링 할 수 있다.
도 1은 본 발명의 실시예에 따른 2 이상의 인테리어 카메라 모듈을 포함하는 인테리어 카메라 장치의 분리 사시도이다.
도 2는 본 발명의 실시에에 따른 인테리어 카메라 모듈의 외관을 나타낸다.
도 3은 도 2의 A-A` 를 절단한 단면을 나타낸다.
도 4는 본 발명의 실시예에 따른 발광소자의 단면의 일례이다.
도 5는 본 발명의 일 실시예에 따른 라이트 모듈의 외관을 나타낸다.
도 6a은 본 발명의 다른 실시예에 따른 라이트 모듈의 외관을 나타내고, 도 6b는 본 발명의 다른 실시예에 따른 광학 부재의 평면을 나타낸다.
도 7a와 도 7b는 발광소자 몸체 형상에 따른 광학 특성을 비교한 도면들이고, 도 7c는 도 7a와 도 7b의 각 발광소자들이 방출하는 광의 분산분포를 나타내는 그래프이다.
도 8은 본 발명의 또 다른 실시에에 따른 라이트 모듈의 단면을 나타낸다.
도 9는 본 발명의 실시예에 따른 인테리어 카메라 장치의 개념을 개략적으로 나타낸다.
도 10은 본 발명의 실시예에 따른 라이트 모듈이 작동하는 모습을 나타낸다.
도 11은 본 발명의 실시예에 따른 카메라의 이미지 센서의 동작을 설명하기 위한 도면이다.
도 12는 본 발명의 실시예에 따른 인테리어 카메라 장치 구동방법의 제 1 실험 예를 나타낸다.
도 13은 본 발명의 실시예에 따른 인테리어 카메라 장치 구동방법의 제 2 실험 예를 나타낸다.
도 14a는 제 1 실험 예에서 광이 조사된 벽을 촬영한 영상이고, 도 14b는 위 벽에 조사된 광량 분포를 나타내는 그래프이다.
도 15a는 제 2 실험 예에서 광이 조사된 벽을 두 시점에서 촬영하고 합성한 영상이며, 도 15b는 위 벽에 조사된 광량 분포를 나타내는 그래프이다.
도 16은 본 발명의 실시예에 따른 인테리어 카메라 장치를 구비하는 차량의 외관을 나타낸다.
도 17은 본 발명의 실시예에 따른 인테리어 카메라 장치를 구비하는 차량의 내관을 나타낸다.
도 18은 본 발명의 실시예에 따른 인테리어 카메라를 구비한 차량 운전 보조장치의 블록도를 나타낸다.
도 19 및 도 20은 본 발명의 실시예에 따른 인테리어 카메라 영상을 이미지 처리하여 영상 정보를 획득하는 방법의 일례를 설명하기 위한 도면들이다.
도 21a 내지 도 21c는 본 발명의 실시예에 따른 인테리어 카메라를 통해 인식할 수 있는 다양한 제스쳐들의 일례들을 나타낸다.
도 22는 본 발명의 실시예에 따른 제스쳐 입력 위치 변화에 따른 차량 기능 제어를 설명하기 위한 도면이다.
도 23은 본 발명의 실시예에 따른 특정 위치에서 제스쳐 입력을 통해 차량의 다양한 기능을 제어하는 방법을 설명하기 위한 도면이다.
도 24는 본 발명의 실시예에 따른 인테리어 카메라가 집중 모니터링 영역을 지정하는 모습을 나타낸다.
도 25a와 도 25b는 본 발명의 실시예에 따른 차량 주행상태 변화에 따른 제스쳐 그래픽 유저 인터페이스 변화를 설명하기 위한 도면들이다.
도 26a와 도 26b는 본 발명의 실시예에 따른 차량 주행상태 변화에 따른 집중 모니터링 영역 변화를 설명하기 위한 도면들이다.
도 27a와 도 27b는 본 발명의 실시예에 따른 아이콘 수에 따른 그래픽 유저 인터페이스의 변화를 설명하기 위한 도면들이다.
도 28은 본 발명의 실시예에 따른 차량 위치 별 제스쳐 제어권한을 설명하기 위한 도면이다.
도 29는 전술한 인테리어 카메라를 직접 구비한 도 16 차량의 내부 블록도의 일 예이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되지는 않는다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 기술되는 차량은, 자동차, 오토바이를 포함하는 개념일 수 있다. 이하에서는, 차량에 대해 자동차를 위주로 기술한다.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다.
이하의 설명에서 별도로 언급되지 않는 한 LHD(Left Hand Drive) 차량을 중심으로 설명한다.
이하의 설명에서 차량 운전 보조장치는 차량에 구비되는 별도의 장치로서, 차량과 데이터 통신을 통해 필요 정보를 주고 받으며 차량 운전 보조기능을 실행하는 것으로 설명한다. 다만, 차량의 유닛 중 일부의 집합을 차량 운전 보조장치로 정의할 수도 있다.
그리고 차량 운전 보조장치가 별도의 장치일 때, 차량 운전 보조장치의 각 유닛들(도 18 참조) 중 적어도 일부는 차량 운전 보조장치에 포함되지 않고, 차량 또는 차량에 탑재된 다른 장치의 유닛일 수 있다. 그리고 이러한 외부 유닛들은 차량 운전 보조장치의 인터페이스부를 통해 데이터를 송수신함으로써, 차량 운전 보조장치에 포함되는 것으로 이해할 수 있다.
이하 설명의 편의를 위하여, 실시예에 따른 차량 운전 보조장치는 도 18에 도시한 각 유닛들을 직접 포함하는 것으로 설명한다.
이하, 도 1 내지 도 15를 참조하여, 인테리어 카메라 장치에 대해 상세히 설명한다.
도 1을 참조하면, 실시예에 따른 복합 인테리어 카메라 장치는, 프레임 커버(70), 제 1 인테리어 카메라 모듈(160) 및 제 2 인테리어 카메라 모듈(161)을 포함할 수 있다.
자세히, 제 1 인테리어 카메라 모듈(160)은 일 방향을 촬영할 수 있고, 제 2 인테리어 카메라 모듈(161)은 제 1 카메라 모듈의 촬영 방향과 다른 타 방향을 촬영할 수 있다.
그리고 프레임 커버(70)는, 제 1 인테리어 카메라 모듈(160)과 제 2 인테리어 카메라 모듈(161)을 동시에 지지할 수 있다.
복합 인테리어 카메라 장치의 전체적인 구조 설명에 앞서, 인테리어 카메라 모듈의 세부 구성에 대해 먼저 상세히 설명한다.
이때, 제 1 인테리어 카메라 모듈(160)과 제 2 인테리어 카메라 모듈(161)은, 프레임 커버(70)에서의 배치에 따라 촬영하는 방향만 달리하고 구성은 모두 동일하므로, 인테리어 카메라 모듈에 대한 설명은 제 1 인테리어 카메라 모듈(160)과 제 2 인테리어 카메라 모듈(161)에 공통적으로 적용될 수 있다.
도 1과 도 2를 참조하면, 실시예에 따른 인테리어 카메라 모듈(160)은, 프레임 바디(10), 프레임 바디(10) 내에 배치되며 제 1 카메라(21) 및 제 2 카메라(22)를 포함하는 스테레오 카메라(20), 프레임 바디(10) 내에 배치되며 적외선 광을 조사하는 라이트 모듈(30), 및 스테레오 카메라(20)와 라이트 모듈(30)과 연결된 회로기판(40)을 포함한다. 특히, 라이트 모듈(30)은, 조사방향을 달리하는 적어도 둘 이상의 발광소자(31, 32)를 포함할 수 있다.
먼저, 프레임 바디(10)는, 제 1 카메라(21), 제 2 카메라(22) 및 라이트 모듈(30)을 수용하는 공간을 가질 수 있다.
자세히, 프레임 바디(10)는, 일측이 오픈된 공간을 가지며, 오픈된 공간을 통해 제 1 카메라(21), 제 2 카메라(22) 및 라이트 모듈(30)이 장착될 수 있다. 그리고 프레임 바디(10)의 오픈 영역에는 회로기판(40)이 배치되어 스테레오 카메라(20)와 라이트 모듈(30)과 전기적으로 연결될 수 있다.
그리고 프레임 바디(10)의 일 면에는, 제 1 홀(H1), 제 2 홀(H2) 및 제 3 홀(H3)은 일 방향으로 나열될 수 있다. 따라서, 각 홀이 배향된 방향은 프레임 바디(10)의 일면의 법선 방향일 수 있다.
그리고 프레임 바디(10)의 제 1 홀(H1)에는, 제 1 카메라(21)의 적어도 일부가 배치될 수 있고, 제 2 홀(H2)에는 라이트 모듈(30)이 배치될 수 있으며, 제 3 홀(H3)에는 제 2 카메라(22)의 적어도 일부가 배치될 수 있다. 즉, 라이트 모듈(30)은, 제 1 카메라(21)와 제 2 카메라(22) 사이에 배치될 수 있다.
따라서, 제 1 카메라(21)와 제 2 카메라(22) 사이에 배치된 라이트 모듈(30)은, 제 1 카메라(21)가 촬영하는 영역과 제 2 카메라(22)가 촬영하는 영역에 균등하게 적외선 광을 조사할 수 있다.
한편, 제 1 카메라(21)와 제 2 카메라(22)는, 영상을 촬영함과 동시에 촬영된 영상에 포함되는 오브젝트와의 거리를 측정하는 스테레오 카메라(20)일 수 있다.
그리고 이러한 스테레오 카메라(20)는, 롤링 셔터 타입으로 이미지를 센싱할 수 있다. 자세히, 스테레오 카메라(20)는, 이미지를 센싱하는 복수의 픽셀 라인을 포함하고, 각 픽셀 라인 별로 순차적으로 이미지를 센싱할 수 있다.
예를 들어, 행으로 픽셀 라인을 구분할 때, 가장 위에 배치된 첫째 행 라인부터 차례대로 이미지 스캔하여, 마지막 행 라인의 이미지 스캔을 수행함으로써, 최종적으로 전체 픽셀 라인이 이미지를 센싱할 수 있다.
이러한 롤링 셔터 방식의 스테레오 카메라(20)는, 이미지 스캔 속도(프레임 속도)가 빨라 운전자상태감시 시스템(DSM)과 같은 차량용 영상 장비에 사용하기 적합한 장점이 있다.
한편, 라이트 모듈(30)은, 조사방향을 달리하는 적어도 둘 이상의 발광소자를 포함할 수 있다.
실시예에서, 라이트 모듈(30)은, 제 1 조사방향으로 적외선 광을 조사하는 제 1 발광소자(31)와, 제 1 조사방향과 다른 제 2 조사방향으로 적외선 광을 조사하는 제 2 발광소자(32)를 포함할 수 있다. 여기서, 조사방향이란, 발광소자가 조사한 광의 분포의 중심이 되는 방향으로 정의한다.
도 2를 참조하면, 조사방향이 동일한 두 개의 발광소자 그룹을 제 1 발광소자(31)로, 조사방향이 동일한 두 개의 발광소자 그룹을 제 2 발광소자(32)로 도시하였으나, 이하 제 1 발광소자(31)와 제 2 발광소자(32)에 대한 설명은 두 발광소자 중 모두에 해당하는 것으로 이해할 수 있다.
도 3을 참조하면, 제 1 발광소자(31)의 광의 조사방향과, 제 2 발광소자(32)의 광 조사방향은 서로 다른 것을 알 수 있다. 따라서, 제 1 발광소자(31)가 광을 조사한 영역과, 제 2 발광소자(32)가 광을 조사하는 영역은 서로 다르다. 즉, 라이트 모듈(30)은, 둘 이상의 조사방향이 다른 발광소자를 포함하여, 넓은 영역에 광을 조사할 수 있다.
예를 들면, 제 1 발광소자(31)의 제 1 조사방향(D1)은, 적외선 광이 최종적으로 통과하는 광학부재의 상면의 법선 방향에 대해 제 1 방향으로 소정의 각도(θ1) (90도 내)만큼 틸팅된 방향일 수 있다.
그리고 제 2 발광소자(32)의 제 2 조사방향(D2)은, 광학부재(60)의 상면의 법선 방향에 대해 제 1 방향의 반대인 제 2 방향으로 소정의 각도(θ2)(90도 내)만큼 틸팅된 방향일 수 있다.
따라서, 제 1 발광소자(31)가 광을 조사하는 영역과, 제 2 발광소자(32)가 광을 조사하는 영역의 일부는 서로 중첩될 수 있다. 예를 들어, 제 1 발광소자(31)가 조사한 광이 벽의 상측 영역을 커버하면, 제 2 발광소자(32)가 조사한 광은 벽의 하측 영역을 커버하며, 벽의 중간 영역은 광이 서로 중첩될 수도 있다.
한편, 이러한 조사방향이 다른 발광소자를 포함하는 라이트 모듈(30)은, 각 발광소자가 필요한 시점 또는 필요한 영역에만 광을 조사함으로써, 발광 효율을 향상시키고 발광시 발생되는 열을 감소시킬 수 있다.
예를 들어, 스테레오 카메라(20)가 이미지를 센싱하고 있지 않는 블랭크 구간(blank-time)에는 발광소자는 모두 오프(off)되고, 이미지 센싱할 때에만, 발광소자를 온(on)하여, 저전력, 저발열로 인테리어 카메라 장치를 구동시킬 수 있다.
또한, 롤링셔터 방식의 스테레오 카메라(20)는, 복수의 픽셀 라인을 순차적으로 이미지 센싱을 한다. 즉, 이미지를 센싱하는 영역이 순차적으로 변경될 수 있다. 이때, 라이트 모듈(30)은, 롤링셔터 방식의 카메라가 이미지를 센싱하는 영역에 매칭되는 발광소자만 온(on)하고 나머지 발광소자는 오프(off)하여, 필요 전력을 적어도 반 이상으로 줄일 수 있다.
좀더 자세히, 스테레오 카메라(20)가 일 영역을 촬영할 때, 일 영역에 상측부터 하측으로 순차적으로 이미지 센싱을 한다면, 라이트 모듈(30)은 상측 영역을 이미지 센싱할 때 상측을 향해 광을 조사하는 제 1 발광소자(31)만 온(on)하고, 하측 영역을 이미지 센싱할 때는 하측을 향해 광을 조사하는 제 2 발광소자(32)만 온(on)함으로써, 두 발광소자를 모두 동작시킬 때보다 적어도 반 이상의 전력으로 촬영 영역에 전부 광을 조사할 수 있다.
또한, 스테레오 카메라(20)는, 광이 조사된 영역만 촬영할 수 있으므로, 라이트 모듈(30)은, 이미지 센싱이 필요한 영역에만 광을 조사함으로써, 스테레오 카메라(20)가 촬영할 영역, 즉 모니터링 영역을 한정할 수도 있다.
이하, 라이트 모듈(30)이 전체 구조에 대한 설명에 앞서, 라이트 모듈(30)을 이루는 단일 발광소자의 일례에 대해 구체적으로 설명한다.
도 4를 참조하면, 발광소자는 몸체(90), 복수의 전극(92, 93), 발광 칩(94), 본딩 부재(95), 및 몰딩 부재(97)를 포함할 수 있다.
몸체(90)는 절연 재질, 투광성 재질, 전도성 재질 중에서 선택될 수 있으며, 예컨대 폴리프탈아미드(PPA: Polyphthalamide)와 같은 수지 재질, 실리콘(Si), 금속 재질, PSG(photo sensitive glass), 사파이어(Al2O3), 실리콘, 에폭시 몰딩 컴파운드(EMC), 폴리머 계열, 플라스틱 계열과 같은 인쇄회로기판(40)(PCB) 중 적어도 하나로 형성될 수 있다. 예를 들면, 몸체(90)는 폴리프탈아미드(PPA: Polyphthalamide)와 같은 수지 재질, 실리콘 또는 에폭시 재질 중에서 선택될 수 있다. 몸체(90)의 형상은 위에서 볼 때, 다각형, 원형, 또는 곡면을 갖는 형상을 포함할 수 있으며, 이에 대해 한정하지는 않는다.
몸체(90)는 캐비티(91)를 포함할 수 있으며, 캐비티(91)는 상부가 개방되며, 그 둘레는 경사진 면으로 형성될 수 있다. 캐비티(91)의 바닥에는 복수의 전극(92,93) 예컨대, 2개 또는 3개 이상이 배치될 수 있다. 복수의 전극(92,93)은 캐비티(91)의 바닥에서 서로 이격될 수 있다. 캐비티(91)의 너비는 하부가 넓고 상부가 좁게 형성될 수 있으며, 이에 대해 한정하지는 않는다.
전극(92,93)은 금속 재질, 예를 들어, 티타늄(Ti), 구리(Cu), 니켈(Ni), 금(Au), 크롬(Cr), 탄탈늄(Ta), 백금(Pt), 주석(Sn), 은(Ag), 인(P) 중 적어도 하나를 포함할 수 있으며, 단일 금속층 또는 다층 금속층으로 형성될 수 있다.
복수의 전극(92,93) 사이의 간극부는 절연 재질로 형성될 수 있으며, 절연 재질은 몸체(50)와 동일한 재질이거나 다른 절연 재질일 수 있으며, 이에 대해 한정하지는 않는다.
발광 칩(94)은 복수의 전극(92,93) 중 적어도 하나의 위에 배치되고, 본딩 부재(95)로 본딩되거나, 플립 본딩될 수 있다. 본딩 부재(95)는 은(Ag) 포함하는 전도성 페이스트 재질일 수 있다.
복수의 전극(92,93)은 접합 부재(98,99)를 통해 기판(80)의 배선층(L4)의 패드(P1,P2)에 전기적으로 연결될 수 있다.
발광 칩(94)은 가시광선 대역부터 적외선 대역의 범위 중에서 선택적으로 발광할 수 있으며, 발광 칩(94)은 III족-V족 또는/및 II족-VI족 원소의 화합물 반도체를 포함할 수 잇다다. 발광 칩(94)은 수평형 전극 구조를 갖는 칩 구조로 배치하였으나, 두 전극이 상/하로 배치된 수직형 전극 구조를 갖는 칩 구조로 배치할 수 있다. 발광 칩(94)은 와이어(96)와 같은 전기적인 연결 부재에 의해 복수의 전극(92,93)과 전기적으로 연결된다.
발광소자는 이러한 발광 칩이 하나 또는 2개 이상일 수 있으며, 이에 대해 한정하지는 않는다. 발광 칩(94)은 캐비티(91) 내에 하나 또는 2개 이상이 배치될 수 있으며, 2개 이상의 발광 칩은 직렬 또는 병렬로 연결될 수 있으며, 이에 대해 한정하지는 않는다.
캐비티(91)에는 수지 재질의 몰딩 부재(97)가 형성될 수 있다. 몰딩 부재(97)은 실리콘 또는 에폭시와 같은 투광성 재질을 포함하며, 단층 또는 다층으로 형성될 수 있다. 몰딩 부재(97)의 상면은 플랫한 형상, 오목한 형상, 볼록한 형상 중 적어도 하나를 포함할 수 있으며, 예를 들면 몰딩 부재(97)의 표면은 오목한 곡면 또는 볼록한 곡면으로 형성될 수 있으며, 이러한 곡면은 발광 칩(94)의 광 출사면이 될 수 있다.
몰딩 부재(97)는 실리콘 또는 에폭시와 같은 투명한 수지 재질 내에 발광 칩(94) 상으로 방출되는 빛의 파장을 변환하기 위한 형광체를 포함할 수 있으며, 형광체는 YAG, TAG, Silicate, Nitride, Oxy-nitride 계 물질 중에서 선택적으로 형성될 수 있다. 형광체는 적색 형광체, 황색 형광체, 녹색 형광체 중 적어도 하나를 포함할 수 있으며, 이에 대해 한정하지는 않는다. 몰딩 부재(97)는 형광체를 갖지 않을 수 있으며, 이에 대해 한정하지는 않는다.
몰딩 부재(97) 상에 광학 렌즈(L)가 결합될 수 있으며, 광학 렌즈는 굴절률이 1.4 이상 1.7 이하인 투명 재료를 이용할 수 있다. 또한, 광학렌즈는, 굴절률이 1.49인 폴리메타크릴산메틸(PMMA), 굴절률이 1.59인 폴리카보네이트(PC), 에폭시 수지(EP)의 투명 수지 재료나 투명한 글래스(Glass)에 의해 형성될 수 있다.
이하, 이러한 발광소자를 적어도 둘 이상 포함하며, 조사방향을 달리할 수 있는 라이트 모듈(30)의 구조의 일례들을 설명한다.
먼저, 도 5를 참조하면, 제 1 실시예에 따른 라이트 모듈(30)은, 제 1 발광소자(31)와 제 2 발광소자(32)는 배향하는 방향을 달리하여 조사방향을 달리할 수 있다.
자세히, 제 1 발광소자(31)를 지지하는 제 1 기판(81)의 상면은 제 1 조사방향(D1)을 향하도록 배향되고, 제 1 발광소자(31)를 지지하는 제 2 기판(82)의 상면은 제 2 조사방향(D2)을 향하도록 배향됨으로써, 제 1 발광소자(31)와 제 2 발광소자(32)는 조사방향을 달리할 수 있다.
좀더 자세히, 제 1 발광소자(31)는, 제 1 발광 칩과, 제 1 발광 칩을 지지하는 제 1 기판(81)을 포함하고, 제 2 발광소자(32)는, 제 2 발광 칩과, 제 2 발광 칩을 지지하는 제 2 기판(82)을 포함하며, 제 1 기판(81)의 상면은, 제 1 조사방향(D1)으로 배향되고 제 2 기판(82)의 상면은, 제 2 조사방향(D2)으로 배향될 수 있다.
즉, 제 1 기판(81) 상면에 놓여진 제 1 발광소자(31)는, 제 1 기판(81) 상면의 법선 방향을 향해 중점적으로 적외선 광을 조사할 것이므로, 제 1 기판(81)의 배향 방향을 달리함으로써, 제 1 발광소자(31)가 방출할 광의 조사방향을 결정할 수 있다.
마찬가지로, 제 2기판 상면에 놓여진 제 2 발광소자(32)는, 제 2 기판(82) 상면의 법선 방향을 향해 중점적으로 적외선 광을 조사할 것이므로, 제 2 기판(82)의 배향 방향을 달리함으로써, 제 2 발광소자(32)가 방출할 광의 조사방향을 결정할 수 있다.
이때, 제 1 기판(81)과 제 2 기판(82)은, 서로 분리된 구조일 수 있고, 일체형이면서 밴딩된 구조일 수도 있다.
자세히, 제 1 기판(81)과 제 2 기판(82)은 서로 180도 이내의 각을 가지며 만날 수 있다. 만약, 제 1 기판(81)과 제 2 기판(82)이 일체형이라면, 제 1 기판(81) 영역은 일정방향으로 연장되다 제 2 기판(82) 영역에서 절곡되며 연장될 수 있다.
이러한 제 1 실시예에 따른 라이트 모듈(30)은, 단순히 기판의 배향 방향만을 달리하는 단순한 구조로, 손쉽게 복수의 발광소자가 서로 다른 조사방향으로 광을 조사하도록 할 수 있다.
도 6A 및 도 6B를 참조하면, 제 2 실시예에 따른 라이트 모듈(30)은, 제 1 발광소자(31), 제 2 발광소자(32) 및 제 1 발광소자(31)와 제 2 발광소자(32)를 동시에 지지하는 기판(80)과, 제 1 발광소자(31)와 제 2 발광소자(32) 상에 배치된 광학부재(60)를 포함할 수 있다.
자세히, 라이트 모듈(30)은, 제 1 발광소자(31) 상에 배치되어, 제 1 발광소자(31)에서 조사된 적외선 광을 제 1 조사방향(D1)으로 분산하는 제 1 광학부재(61)와, 제 2 발광소자(32) 상에 배치되어, 제 2 발광소자(32)에서 조사된 적외선 광을 제 2 조사방향(D2)으로 분산하는 제 2 광학부재(62)를 더 포함할 수 있다.
좀더 자세히, 기판 상에는 나란히 제 1 발광소자(31)와 제 2 발광소자(32)가 배치될 수 있다. 그리고 제 1 발광소자(31)와 제 2 발광소자(32) 상에는 발광소자에서 발생된 광이 통과하는 광학부재(60)가 포함될 수 있다. 이때, 광학 부재는, 제 1 발광소자(31)와 오버랩되는 제 1 광학부재(61)와, 제 2 발광소자(32)와 오버랩되는 제 2 광학부재(62)를 포함할 수 있다.
그리고 제 1 광학부재(61)는 통과되는 광을 분산시키는 제 1 요철부(a1)를 포함하여, 제 1 발광소자(31)에서 발생된 광을 제 1 조사방향(D1)으로 분산시킬 수 있다. 마찬가지로, 제 2 발광소자(32) 상에 제 2 광학부재(62)는 통과되는 광을 분산시키는 제 2 요철부(a2)를 포함하여 제 2 발광소자(32)에서 발생된 광을 제 2 조사방향(D2)으로 분산시킬 수 잇다.
실시예에서, 제 1 광학부재(61)와 제 2 광학부재(62)는 프레넬 렌즈(Fresnel Lens)일 수 있으며, 제 1 광학부재(61)는 제 2 광학부재(62)와 접하는 영역 측에만 제 1 요철부를 형성하고, 제 1 요철부의 요부는 제 2 조사방향(D2)으로 배향될 수 있다. 반대로, 제 2 광학부재(62)는 제 1 광학부재(61)와 접하는 영역 측에만 제 2 요철부를 형성하고, 제 2 요철부의 요부는 제 1 조사방향(D1)으로 배향될 수 있다.
이러한 구조를 통해, 제 1 발광소자(31)에서 조사된 광은 제 1 광학부재(61)를 통과하며 제 1 조사방향(D1)으로 분산될 수 있다. 마찬가지로, 제 2 발광소자(32)에서 조사된 광은 제 2 광학부재(62)를 통과하며 제 2 조사방향(D2)으로 분산될 수 있다.
마지막으로, 도 7과 도 8을 참조하여, 제 3 실시예에 따른 라이트 모듈(30) 구조를 설명한다.
먼저, 도 7a와 도 7b를 보면, 발광 칩(94)을 둘러싸는 몸체(90)에 따른 광의 조사각의 변화를 확인할 수 있다.
발광 칩(94)을 둘러싸는 몸체(90)의 측면을 따라 광이 안내되기 때문에, 몸체(90)의 측면이 발광 칩(94)의 바로 옆에서 가파른 경사를 가지며 배치될 경우, 광이 몸체(90)의 측면을 따라 좁은 영역에 집중적으로 광을 조사할 수 있다.
반대로, 몸체(90)의 측면이 발광 칩(94)과 거리를 두며 완만한 경사를 가지며 배치될 경우, 광이 충분히 분산된 후 몸체(90)의 측면을 따라 안내되기 때문에 넓은 영역에 광을 조사할 수 있다.
좀더 자세히, 도 7c를 보면, K1 그래프는 도 7a의 발광소자가 광을 조사한 경우의 광의 앵글을 나타내고, K2 그래프는 도 7b의 발광소자가 광을 조사한 경우 광의 앵글을 나타낸다.
제 3 실시예에 따른 라이트 모듈(30)은 이와 같이 몸체(90)의 형상을 변화에 따른 광의 조사방향 변화 원리를 이용하여, 서로 다른 조사방향으로 광을 조사하는 복수의 발광소자를 포함할 수 있다.
자세히, 도 8을 참조하면, 라이트 모듈(30)은, 기판, 제 1 발광 칩(94a), 제 1 발광 칩(94a)을 둘러싸는 제 1 몸체(90a), 제 2 발광 칩(94b), 제 2 발광 칩(94b)을 둘러싸는 제 2 몸체(90b)를 포함할 수 있다.
실시예에서, 제 1 몸체(90a)는, 제 1 발광 칩(94a)이 조사한 광이 제 1 조사방향(D1)을 향하도록 광을 안내하는 구조를 가질 수 있다.
좀더 자세히, 단면으로 볼 때, 제 1 몸체(90a)는, 제 1 발광 칩(94a)의 일측(예컨대, 제 1 조사방향(D1) 측)에 경사를 가지며 배치되는 제 1 측면(LS1)과, 제 1 발광 칩(94a)의 타측에 경사를 가지며 배치되는 제 2 측면(RS1)을 포함할 수 있다. 그리고 제 1 발광 칩(94a)에서 조사된 광은 제 1 측면(LS1)과 제 2 측면(RS1)을 따라 안내되어 조사될 수 있다. 따라서, 제 1 측면(LS1)의 경사를 완만하게 형성하고, 제 2 측면(RS1)을 가파르게 형성할 경우, 제 1 발광 칩(94a)에서 조사된 빛은 좀더 제 1 측면(LS1)을 향하도록 조사될 수 있다. 따라서, 이러한 구조를 통해 제 1 발광소자(31)는, 제 1 조사방향(D1)으로 광을 조사할 수 있다.
반대로, 제 2 몸체(90b)는, 제 2 발광 칩(94b)이 조사한 광이 제 2 조사방향(D2)을 향하도록 광을 안내하는 구조를 가질 수 있다.
좀더 자세히, 단면으로 볼 때, 제 2 몸체(90b)는, 제 2 발광 칩(94b)의 일측(예컨대, 제 2 조사방향(D2) 측)에 경사를 가지며 배치되는 제 3 측면(Rs2)과, 타측에 경사를 가지며 배치되는 제 3 측면(Rs2)을 가질 수 있다. 그리고 제 2 발광 칩(94b)에서 조사된 광은 제 3 측면(Rs2)과 제 4 측면(LS2)을 따라 안내되어 조사될 수 있다. 따라서, 제 3 측면(Rs2)의 경사를 가파르게 형성하고, 제 4 측면(LS2)의 경사를 가파르게 형성할 경우, 제 2 발광 칩(94b)에서 조사된 빛은 좀더 제 4 측면(LS2)을 향하도록 조사될 수 있다.
따라서, 이러한 구조를 통해 제 2 발광소자(32)는, 제 2 조사방향(D2)으로 광을 조사할 수 있다.
즉, 제 3 실시예에 따른 라이트 모듈(30)은, 각 발광소자의 몸체(90) 형상을 달리 구성하여 발광소자들의 조사방향을 서로 다르게 변경할 수 있다.
전술한 설명을 정리하면, 인테리어 카메라 모듈(160)은, 제 1 카메라(21)와, 제 2 카메라(22)를 포함하여 스테레오 카메라(20)를 구성하며, 제 1 카메라(21)와 제 2 카메라(22) 사이에는 라이트 모듈(30)이 배치되고, 라이트 모듈(30)은 조사방향을 달리하는 복수의 발광소자를 포함할 수 있다. 이러한 라이트 모듈(30)은, 적외선 광을 효과적으로 조사하여 저전력, 저발열로 양질의 이미지를 센싱하도록 보조할 수 있는 라이트 모듈(30)을 가지며, 스테레오 카메라(20)는 이러한 라이트 모듈(30)에 보조를 받아 양질의 이미지를 센싱함과 동시에 촬영되는 객체와의 거리까지 측정할 수 있다.
다시 도 1에 대한 설명으로 돌아와, 실시예에 따른, 복합 인테리어 카메라 장치는, 이러한 인테리어 카메라 모듈(160)을 적어도 둘 이상 포함할 수 있다.
자세히, 복합 인테리어 카메라 장치는, 프레임 바디(10), 스테레오 카메라(20), 라이트 모듈(30) 및 회로 기판을 각각 포함하는 제 1 인테리어 카메라 모듈(160) 및 제 2 인테리어 카메라 모듈(161)을 포함하고, 제 1 인테리어 카메라 모듈(160) 및 제 2 인테리어 카메라 모듈(161)을 지지하는 프레임 커버(70)를 포함할 수 있다.
먼저, 프레임 커버(70)는, 제 1 인테리어 카메라 모듈(160)을 수용하는 제 1 케비티(C1)와, 제 2 인테리어 카메라 모듈(161)을 수용하는 제 2 케비티(C2)와, 제 1 케비티(C1), 제 2 케비티(C2) 및 제 1 케비티(C1)와 제 2 케비티(C2)를 연결하는 브릿지 베이스(73)를 포함할 수 있다.
즉, 프레임 커버(70)는, 양 단에 케비티를 포함하여, 제 1 인테리어 카메라 모듈(160)을 일 단에 배치시키고, 제 2 인테리어 카메라 모듈(161)을 타 단에 배치시키며, 케비디를 이루고 케비티를 연결하는 브릿지 베이스(73)를 형성하는 구조를 가질 수 있다.
자세히, 프레임 커버(70)는, 제 1 케비티(C1)를 이루도록 적어도 2번 절곡되며 연장되고, 제 2 케비티(C2)를 이루도록 적어도 2 번 절곡되며 연장되며, 제 1 케비티(C1)를 이루는 바디와 제 2 케비티(C2)를 이루는 바디를 연결하는 브릿지 베이스(73)로 구성될 수 있다.
그리고 제 1 케비티(C1)를 이루는 프레임 커버(70)의 제 1 면에(71)는 제 1 커버홀(CH1), 제 2 커버홀(CH2) 및 제 3 커버홀(CH3)이 형성되고, 제 2 케비티(C2)를 이루는 프레임 커버(70)의 제 2 면(72)에는 제 4 커버홀(CH4), 제 5 커버홀(CH5) 및 제 6 커버홀(CH6)이 형성될 수 있다.
제 1 인테리어 카메라 모듈(160)이 제 1 케비티(C1)에 배치될 경우, 이러한 제 1 커버홀(CH1), 제 2 커버홀(CH2) 및 제 3 커버홀(CH3)은, 각각 제 1 인테리어 카메라 모듈(160)의 제 1 카메라(21), 라이트 모듈(30) 및 제 2 카메라(22)에 오버랩될 수 있다.
마찬가지로, 제 2 인테리어 카메라 모듈(161)이 제 2 케비티(C2)에 배치될 경우, 이러한 제 4 커버홀(CH4), 제 5 커버홀(CH5) 및 제 6 커버홀(CH6)은, 각각 제 2 인테리어 카메라 모듈(161)의 제 1 카메라(21), 라이트 모듈(30) 및 제 2 카메라(22)에 오버랩될 수 있다.
그리고, 프레임 커버(70)의 제 1 면(71)과 제 2 면(72)은 브릿지 베이스(73)를 가로지르는 기준 라인(CL)에 대하여 서로 대칭될 수 있다. 따라서, 제 1 면(71)에 따라 배향된 제 1 인테리어 카메라 모듈(160)과 제 2 면(72)에 따라 배향된 제 2 인테리어 카메라 모듈(161)이 촬영하는 영역은 서로 반대 영역이 될 수 있다.
예를 들어, 복합 인테리어 카메라 장치가, 차량의 천장에 배치될 경우, 제 1 인테리어 카메라 모듈(160)은, 동승석 측을 촬영할 수 있고, 제 2 인테리어 카메라 모듈(161)은 운전석 측을 촬영할 수 있다.
즉, 복합 인테리어 카메라 장치는, 차량 내에 설치될 경우, 운전석 측과 동승자 측을 모두 구분하여 촬영하여 모니터링 할 수 있다.
이하, 이러한 인테리어 카메라 모듈(160)의 제어방법에 대해 좀더 상세히 설명한다.
인테리어 카메라 모듈(160)의 회로기판(40) 상에는 스테레오 카메라(20) 및 라이트 모듈(30)을 제어하는 프로세서(170)가 배치될 수 있다.
도 9에 도시된 바와 같이, 라이트 모듈(30)을 제어하는 DSP 컨트롤러(52)와, 스테레오 카메라(20)를 제어하는 호스트 컴퓨터(51)는 별개에 프로세서(170) 일 수 있으나, 이하 설명의 편의를 위해, 이러한 제어 역할을 하는 구성을 대표하여 프로세서(170)가 모든 제어를 수행하는 것으로 설명한다.
먼저, 프로세서(170)는, 라이트 모듈(30)의 제 1 발광소자(31) 및 제 2 발광소자(32)를 선택적으로 구동시켜, 라이트 모듈(30)의 조사방향을 제어할 수 있다.
자세히, 프로세서(170)는, 제 1 발광소자(31)를 온(on)시키고, 제 2 발광소자(32)를 오프(off)되도록 제어하여, 제 1 조사방향(D1)으로 광을 조사함으로써, 피사체(W)의 제 1 영역(W1)에만 광을 조사할 수 있다.
반대로, 프로세서(170)는, 제 2 발광소자(32)를 온(on)시키고 제 2 발광소자(32)를 오프(off)되도록 제어하여, 제 2 조사방향(D2)으로 광을 조사함으로써, 피사체(W)의 제 2 영역(W2)에만 광을 조사할 수도 있다.
당연히, 프로세서(170)는, 두 발광소자를 모두 온(on)시키거나, 모두 오프(off)되도록 제어할 수도 있다.
실시예에서, 프로세서(170)는, 제 1 발광소자(31)가 온(on)되고 제 2 발광소자(32)가 오프(off)되는 제 1 제어구간과, 제 1 발광소자(31)가 오프(off)되고 제 2 발광소자(32)가 온(on)되는 제 2 제어구간과, 제 1 발광소자(31) 및 제 2 발광소자(32)가 오프(off)되는 제 3 제어구간을 순차적으로 반복 실행할 수 있다.
따라서, 도 10을 참조하면, 제 1 제어구간 때 제 1 발광소자(31)가 제 1 조사방향(D1)으로 광을 조사하여 피사체(W)의 제 1 영역(W1)에만 광이 조사될 수 있고, 제 2 제어구간 때 제 2 발광소자(32)가 제 2 조사방향(D2)으로 광을 조사하여 피사체(W)의 제 2 영역(W2)에만 광이 조사될 수 있다. 그리고 제 3 제어구간 때에는 광이 조사되지 않을 수 있다.
즉, 라이트 모듈(30)은, 제 1 조사방향(D1)에 광을 조사한 후, 제 2 조사방향(D2)에 광을 조사하고, 광을 조사하지 않는 과정을 반복 실행할 수 있다.
한편, 이러한 스테레오 카메라(20)는, 롤링 셔터 타입으로 이미지를 센싱할 수 있다. 자세히, 스테레오 카메라(20)는, 이미지를 센싱하는 복수의 픽셀 라인을 포함하고, 각 픽셀 라인 별로 순차적으로 이미지를 센싱할 수 있다.
도 10을 참조하면, 프로세서(170) 스테레오 카메라(20)를 제어하는 개념을 알 수 있다. 자세히, 이미지 센싱과정을 도시화하면, 복수의 픽셀 라인에서 이미지를 센싱하는 엑티브 영역(Active Area)과, 이미지를 센싱하지 않는 비엑티브 영역(blank area)으로 구분될 수 있다.
엑티브 영역(Active Area)을 보면, 픽셀 라인은 수평 축으로 배치되며, 복수의 픽셀 라인은 수직방향으로 나열될 수 있다. 따라서, 프로세서(170)가 복수의 픽셀 라인을 가장 위에 배치된 첫째 행 라인부터 차례대로 이미지 스캔하여, 마지막 행 라인의 이미지 스캔을 수행한다면, 촬영 영역과 매칭하여 보았을 때, 촬영 영역의 상측부터 하측까지 순차적으로 이미지를 센싱한다고 볼 수 있다.
즉, 프로세서(170)는, 스테레오 카메라(20) 노광시, 촬영 영역의 상측부터 촬영을 시작하여, 하측 영역을 촬영하도록 제어할 수 있다. 그러므로, 라이트 모듈(30)은, 촬영하는 영역에만 광을 조사함으로써, 불필요한 영역에 광을 조사하지 않아 광 효율을 향상시킬 수 있다.
다른 측면에서, 스테레오 카메라(20)의 이미지 센서 상측 픽셀 라인들, 즉 제 1 픽셀 영역(W1)은 전체 피사체(W)의 상측의 이미지를 센싱하는 영역일 수 있고, 이미지 센서의 하측 픽셀 라인들인 제 2 픽셀 영역(W2)은 전체 피사체(W)의 하측의 이미지를 센싱하는 영역일 수 있다.
그리고 스테레오 카메라(20)의 촬영방향과, 라이트 모듈(30)의 적외선 광 조사방향은 일치할 수 있다. 즉, 스테레오 카메라(20)가 촬영하는 영역은 라이트 모듈(30)이 적외선 광을 조사하는 영역과 일치될 수 있다.
또한, 스테레오 카메라(20)의 이미지 센싱방향과, 라이트 모듈(30)의 적외선 광 조사방향 변화는 서로 매칭될 수 있다.
자세히, 프로세서(170)는 스테레오 카메라(20)를 제어하여 제 1 픽셀 영역(W1)이 이미지를 센싱하도록 하면서, 라이트 모듈(30)을 제어하여 촬영 영역에 상측 영역에 먼저 광을 조사하고, 나머지 영역에는 광을 조사하지 않을 수 있다. 즉, 라이트 모듈(30)은, 제 1 발광소자(31)가 온되고 제 2 발광소자(32)는 오프될 수 있다.
다음으로, 프로세서(170)는, 스테레오 카메라(20)를 제어하여 제 2 픽셀 영역(W2)에 이미지를 센싱하도록 하면서, 라이트 모듈(30)을 제어하여 촬영 영역에 하측 영역에 광을 조사할 수 있다. 즉, 라이트 모듈(30)은 제 2 발광소자(32)가 온되고 제 2 발광소자(32)는 오프 될 수 있다.
그 다음 프로세서(170)는, 촬영된 영상을 이미지 처리하는 동안 발광소자를 모두 오프하여 광을 조사하지 않을 수 있다.
이하, 실험 1 예에 따라서 프로세서(170)가 이미지 센싱 과정에서 라이트 모듈(30)을 동작시키는 신호처리 과정을 도 12를 참조하여 설명한다.
먼저, 프로세서(170)는, 스테레오 카메라(20)의 노광시점(line exposure time)에 라이트 모듈(30)을 동작시킬 수 있다. 즉, 실험 1에서 프로세서(170)는, 제 1 발광소자(31)와 제 2 발광소자(32)를 모두 온(on)시킬 수 있다.
다음으로, 프로세서(170)는, 노광시(line exposure time) 이미지 센서에 입사된 광자를 픽셀 라인 별로 순차적으로 센싱함으로써, 이미지를 센싱할 수 있으며, 이 과정에서 라이트 모듈(30)은 지속적으로 광을 조사할 수 있다. 즉, 프로세서(170)는, 픽셀이 노광되는 구간(total exposure time) 픽셀 라인을 지속적으로 스캔하는 유효 구간 동안 발광소자를 모두 온(on)시킬 수 있다.
그 다음, 프로세서(170)는, 픽셀 라인 스캔이 완료된 후 다음 이미지를 촬영하기 위한 노광시점까지의 구간인 비유효 구간(blank time)에는 발광소자를 모두 오프(off)시킬 수 있다.
즉, 프로세서(170)는, 이미지 센싱과정에서 비유효 구간(blank time)에 라이트 모듈(30)을 오프함으로써, 저전력, 저발열로 라이트 모듈(30)을 동작시킬 수 있다.
다음으로, 실험 2 예에 따라서 프로세서(170)가 이미지를 센싱하는 과정에서 라이트 모듈(30)을 동작시키는 신호처리 과정을 도 13을 참조하여 설명한다.
먼저, 프로세서(170)는, 스테레오 카메라(20)의 노광시점에 제 1 발광소자(31)를 온(on)시키고, 제 2 발광소자(32)를 오프(off)시켜 제 1 제어구간을 실행하도록 제어할 수 있다.
그 후 프로세서(170)는, 제 1 제어구간 동안 제 1 조사방향(D1)에 매칭되는 제 1 픽셀 영역(W1)의 이미지를 센싱하도록 스테레오 카메라(20)를 제어할 수 있다.
다음으로, 프로세서(170)는, 제 1 픽셀 영역(W1) 스캔이 완료되는 시점에 제 1 발광소자(31)를 오프(off)시키고 제 2 발광소자(32)를 온(on)시키는 제 2 제어구간을 실행하고, 제 2 제어구간 동안 제 2 조사방향(D2)에 매칭되는 제 2 픽셀 영역(W2)의 이미지를 센싱하도록 스테레오 카메라(20)를 제어할 수 있다.
그 다음, 프로세서(170)는, 2 픽셀 영역의 이미지 센싱이 완료되고 촬영된 영상을 이미지 처리하는 비유효 구간 동안 제 1 발광소자(31)와 제 2 발광소자(32)를 오프(off)시켜 제 3 제어구간을 실행할 수 있다.
도 14a와 도 14b를 보면, 실험 예 1과정에서 피사체(W)에 조사된 광량을 조사한 것이고, 도 15a와 도 15b를 보면, 실험 예 2 과정에서 피사체(W)에 조사된 광량을 조사한 것이다.
도 14와 도 15를 비교하면 알 수 있듯이, 선택적으로 발광소자를 동작시키는 것에 따라 피사체(W)에 조사된 광량이 큰차이를 갖지 않음을 알 수 있다.
표 1은, 이미지를 센싱하는 각 과정의 구체적인 시간 및 각 과정에서 발광소자들이 동작하는 시간을 달리한 기준, 실험 예 1 및 실험 예 2를 나타낸다.
Figure 112016057207574-pat00001
표 1을 보면, 기준 실험에서 라이트 모듈(30)은 이미지 처리과정과 관계없이 지속적으로 동작한 것이고, 실험 예 1은, 비유효 구간에만 라이트 모듈(30)을 오프시킨 것이며, 실험 예 2는, 비유효 구간에 라이트 모듈(30)을 오프하고 이미지 스캔 영역에 따라 제 1 발광소자(31)와 제 2 발광소자(32)를 선택적으로 동작시킨 것을 알 수 있다.
표 2는, 기준 실험에 비해 실험 예 1과, 실험 예 2가 전력을 소모할 비율을 나타낸 것이다.
Figure 112016057207574-pat00002
기준 실험에 대해, 실험 1은, 32.8% 만큼 전력 소모를 줄인 것을 알 수 있으며, 실험 2는 66.4%만큼 전력 소모를 줄인 것을 알 수 있다.
즉, 프로세서(170)는, 이미지를 촬영하지 않는 비유효 구간에도 라이트 모듈(30)을 동작시키지 않으므로써, 저전력, 저발열로 카메라와 라이트 모듈(30)을 동작시킬 수 있다.
나아가, 프로세서(170)는, 이미지 촬영 방향과 광 조사방향을 매칭시킴으로써, 필요 영역에만 광을 조사하여, 저전력, 저발열로 카메라와 라이트 모듈(30)을 동작시킬 수 있다.
인테리어 카메라 모듈(160)은, 프레임 바디(10) 안에 카메라와 라이트 모듈(30)이 같이 배치되고 밀폐된 구조를 이루므로, 라이트 모듈(30)에서 발생된 열이 스테레오 카메라(20)의 이미지 센싱에 악영향을 미칠 수 있는데, 실시예에 따른 라이트 모듈(30)은 저발열로 동작될 수 있으므로, 스테레오 카메라(20)는 고품질의 이미지를 획득할 수 있다.
또한, 프로세서(170)는, 피사체(W)에 특정 영역만 촬영하고 싶을 때, 라이트 모듈(30)의 조사방향을 제어함으로써, 필요 영역만 모니터링할 수도 있다.
이러한 인테리어 카메라 장치는, 차량에 설치되었을 때 효과적으로 운전자와 동승자를 모니터링 할 수 있다.
이하, 도 16 내지 도 28을 참조하여, 인테리어 카메라를 포함하는 차량 운전 보조장치가 사용자에게 차량 운전 보조기능을 제공하는 방법에 대해 상세히 설명한다.
도 16과 도 17을 참조하면, 실시예에 따른 차량(700)은, 동력원에 의해 회전하는 바퀴(13FL, 13RL) 및 사용자에게 차량 운전 보조기능을 제공하는 차량 운전 보조장치(100)를 포함할 수 있다. 그리고 차량 운전 보조장치(100)는, 차량 내부를 촬영하는 인테리어 카메라(160)를 포함할 수 있다.
이러한 차량 운전 보조장치(100)는, 3D로 차량 내부를 모니터링 할 수 있고, 모니터링하고자 하는 영역을 쉽게 특정할 수 있는 인테리어 카메라(160)를 이용하여, 다양한 유저 인터페이스(user interface)를 제공함과 더불어 정확한 사용자 상태 감지가 가능할 수 있다.
또한, 이러한 인테리어 카메라(160)는 차량 내부 천장에 배치되어, 제 1 인테리어 카메라(160L)를 이용하여 운전자석(210) 측을 모니터링할 수 있고, 제 2 인테리어 카메라(160R)를 이용하여 동승자석(220) 측을 모니터링 할 수 있다. 또한, 운전자석(210)과 동승자석(220) 사이에 오픈된 공간 영역을 모니터링하여, 뒷좌석의 일부 영역도 모니터링 할 수 있다.
도 18을 참조하면, 이러한 차량 운전 보조장치(100)는 입력부(110), 통신부(120), 인터페이스부(130), 메모리(140), 인테리어 카메라(160), 프로세서(170), 디스플레이부(180), 오디오 출력부(185) 및 전원 공급부(190)를 포함할 수 있다. 그리고 인테리어 카메라(160)는, 차량 천장에 배치되며, 차량 내부를 촬영하고 촬영된 영상에 포함된 객체와의 거리를 측정하는 스테레오 카메라(20)와, 차량 내부에 적외선 광을 적어도 2 방향 이상으로 조사하는 라이트 모듈(30)을 포함할 수 있다.
다만, 도 18에 도시된 차량 운전 보조장치(100)의 유닛들은 차량 운전 보조장치(100)를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 차량 운전 보조장치(100)는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다.
각 구성에 대해 상세히 설명하면, 차량 운전 보조장치(100)는 사용자의 입력을 감지하는 입력부(110)를 포함할 수 있다.
예를 들어, 사용자는, 입력부(110)를 통해 차량 운전 보조장치(100)가 제공하는 차량 운전 보조기능에 대한 설정 입력을 하거나, 차량 운전 보조장치(100)의 전원을 온(on)/오프(off)시키는 실행 입력 등을 할 수 있다.
이러한 입력부(110)는 사용자 제스쳐를 감지하는 제스쳐 입력부(예를 들어 (optical sensor) 등), 터치를 감지하는 터치 입력부(예를 들어, 터치 센서(touch sensor), 터치키(touch key), 푸시키(mechanical key) 등) 및 음성 입력을 감지하는 마이크로폰(microphone) 중 적어도 하나 이상을 포함하여, 사용자 입력을 감지할 수 있다.
실시예에서, 인테리어 카메라(160)는, 사용자의 상태를 감지할 수 있을 뿐만 아니라, 사용자가 입력한 제스쳐를 촬영하고, 이를 프로세서(170)가 이미지 처리하여 제스쳐를 인식할 수 있으므로, 인테리어 카메라(160)는 제스쳐 입력부에 해당할 수도 있다.
다음으로, 차량 운전 보조장치(100)는 타차량(510), 단말기(600) 및 서버(500) 등과 통신하는 통신부(120)를 포함할 수 있다.
차량 운전 보조장치(100)는, 통신부(120)를 통해 내비게이션(Navigation) 정보, 타차량 주행정보 및 교통 정보 중 적어도 하나의 정보를 포함하는 통신 정보를 수신할 수 있다. 반대로, 차량 운전 보조장치(100)는, 통신부(120)를 통해 본 차량에 대한 정보를 송신할 수도 있다.
자세히, 통신부(120)는 이동 단말기(600) 또는/및 서버(500)로부터 위치 정보, 날씨 정보 및 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group) 등) 중 적어도 하나의 정보를 수신할 수 있다.
또한, 통신부(120)는 지능형 교통 시스템(ITS)을 갖춘 서버(500)로부터 교통 정보를 수신할 수 있다. 여기서, 교통 정보는 교통 신호 정보, 차선 정보, 차량 주변 정보 또는 위치 정보 등을 포함할 수 있다.
또한, 통신부(120)는 서버(500) 또는/및 이동 단말기(600)로부터 내비게이션 정보를 송신할 수도 있다. 여기서, 내비게이션 정보는, 차량 주행과 관련된 지도(map) 정보, 차선 정보, 차량의 위치 정보, 설정된 목적지 정보 및 목적지에 따른 경로 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
예를 들어, 통신부(120)는 내비게이션 정보로 차량의 실시간 위치를 수신할 수 있다. 자세히, 통신부(120)는 GPS(Global Positioning System) 모듈 또는/및 WiFi(Wireless Fidelity) 모듈을 포함하여 차량의 위치를 획득할 수 있다.
또한, 통신부(120)는, 타차량(510)으로부터 타차량(510)의 주행정보를 수신하고 본 차량의 정보를 송신하여, 차량간 주행정보를 서로 공유할 수 있다. 여기서, 서로 공유하는 주행정보는, 차량의 이동방향 정보, 위치 정보, 차속 정보, 가속도 정보, 이동경로 정보, 전진/후진 정보, 인접차량 정보 및 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
또한, 사용자가 차량에 탑승한 경우, 사용자의 이동 단말기(600)와 차량 운전 보조장치(100)는 자동으로 또는 사용자의 애플리케이션 실행에 의해 서로 페어링(pairing)을 수행할 수도 있다.
이러한 통신부(120)는 타차량(510), 이동 단말기(600) 또는 서버(500)와 무선(wireless) 방식으로 데이터를 교환할 수 있다.
자세히, 통신부(120)는 무선테이터 통신 방식을 이용하여 무선 통신할 수 있다. 무선 데이터 통신 방식으로는 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)을 이용할 수 있다.
또한, 통신부(120)는 무선 인터넷 기술을 이용할 수 있으며, 예를 들어, 무선 인터넷 기술로 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등을 이용할 수 있다.
또한, 통신부(120)는 근거리 통신(Short range communication)을 이용할 수 있으며, 예를 들어, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
또한, 차량 운전 보조장치(100)는 근거리 통신 방식을 이용하여 차량 내부의 이동 단말기와 페어링(paring)하고, 이동 단말기의 장거리 무선 통신 모듈을 이용하여 타차량(510) 또는 서버(500) 등과 무선으로 데이터를 교환할 수도 있다.
다음으로, 차량 운전 보조장치(100)는 차량의 데이터를 수신하거나 프로세서(170)에서 처리 또는 생성된 신호를 외부로 전송하는 인터페이스부(130)를 포함할 수 있다.
자세히, 차량 운전 보조장치(100)는 인터페이스부(130)를 통해 타차량 주행정보, 내비게이션 정보 및 센서 정보 중 적어도 하나의 정보를 수신할 수 있다.
또한, 차량 운전 보조장치(100)는 인터페이스부(130)를 통해 차량 운전 보조기능 실행을 위한 제어 신호나, 차량 운전 보조장치(100)에서 생성한 정보 등을 차량의 제어부(770)에 송신할 수 있다.
실시예에서, 차량 운전 보조장치(100)는, 인터페이스부(130)를 통해, 인테리어 카메라(160)를 통해 촬영된 사용자 제스쳐를 감지하고, 사용자 제스쳐에 따른 차량 운전 보조기능 제어신호를 차량 제어부(770)에 전송하여, 차량의 각종 기능을 차량이 실행하도록 제어할 수 있다.
이를 위해, 인터페이스부(130)는 유선 통신 또는 무선 통신 방식에 의해 차량 내부의 제어부(770), AVN(Audio Video Navigation) 장치(400) 및 센싱부(760) 중 적어도 하나와 데이터 통신을 수행할 수 있다.
자세히, 인터페이스부(130)는 제어부(770), AVN 장치(400) 또는/및 별도의 내비게이션 장치와의 데이터 통신에 의해 내비게이션 정보를 수신할 수 있다.
또한, 인터페이스부(130)는 제어부(770) 또는 센싱부(760)로부터 센서 정보를 수신할 수 있다.
여기서, 센서 정보는 차량의 방향 정보, 위치 정보, 차속 정보, 가속도 정보, 기울기 정보, 전진/후진 정보, 연료 정보, 전후방 차량과의 거리 정보, 차량과 차선과의 거리 정보 및 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
또한, 센서 정보는 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 휠 센서(wheel sensor), 차량 속도 센서, 차체 경사 감지센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 도어 센서 등으로부터 획득될 수 있다. 한편, 포지션 모듈은, GPS 정보 수신을 위한 GPS 모듈을 포함할 수 있다.
그리고 인터페이스부(130)는 차량의 사용자 입력부(110)를 통해 수신되는 사용자 입력을 수신할 수 있다. 인터페이스부(130)는 사용자 입력을 차량의 입력부로부터 수신하거나 제어부(770)를 거쳐 수신할 수 있다. 즉, 입력부가 차량 자체 내에 구성으로 배치된 경우, 인터페이스부(130)를 통해 사용자 입력을 전달받을 수 있다.
또한, 인터페이스부(130)는 서버(500)로부터 획득된 교통 정보를 수신할 수도 있다. 서버(500)는 교통을 관제하는 교통 관제소에 위치하는 서버일 수 있다. 예를 들면, 차량의 통신부(120)를 통해 서버(500)로부터 교통 정보가 수신되는 경우 인터페이스부(130)는 교통 정보를 제어부(770)로부터 수신할 수도 있다.
다음, 메모리(140)는 프로세서(170)의 처리 또는 제어를 위한 프로그램 등 차량 운전 보조장치(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
또한, 메모리(140)는 차량 운전 보조장치(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 차량 운전 보조장치(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 차량 운전 보조장치(100)의 기본적인 기능(예를 들어, 운전 보조정보 안내 기능)을 위하여 출고 당시부터 차량 운전 보조장치(100) 상에 존재할 수 있다.
그리고 이러한 응용 프로그램은, 메모리(140)에 저장되고, 프로세서(170)에 의하여 차량 운전 보조장치(100)의 동작(또는 기능)을 수행하도록 구동될 수 있다.
한편, 메모리(140)는 영상에 포함되는 오브젝트 확인을 위한 데이터를 저장할 수 있다. 예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 차량 주변 영상에서, 소정 오브젝트가 검출되는 경우, 소정 알고리즘에 의해, 상기 오브젝트가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.
예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 영상에 차선, 교통 표지판, 이륜차, 보행자와 같은 소정의 오브젝트가 포함되면, 소정 알고리즘에 의해, 상기 오브젝트가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.
이러한 메모리(140)는 하드웨어적으로, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
또한, 차량 운전 보조장치(100)는 인터넷(internet)상에서 메모리(140)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.
다음으로, 인테리어 카메라(160)는 차량 내부를 촬영하여, 차량 내부 상황을 모니터링 정보로 획득할 수 있다.
인테리어 카메라(160)가 감지하는 모니터링 정보는, 안면 인식 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 중 적어도 하나 이상의 정보를 포함할 수 있다.
예를 들어, 인테리어 카메라(160)는, 차량 내부를 모니터링하여, 운전자 상태 정보를 획득할 수 있고, 적어도 둘 이상의 카메라 모듈을 포함하여 운전자나 동승자가 입력한 제스쳐를 인식할 수 있으며, 스테레오 카메라 이므로 제스쳐의 위치까지 정확하게 파악할 수 있다.
또한, 인테리어 카메라(160)는, 라이트 모듈(30)을 통해 모니터링 하고자하는 영역에만 적외선 광을 조사하여, 모니터링 영역을 제어할 수도 있다.
자세히, 인테리어 카메라(160)는, 차량 내부의 사용자를 촬영하고, 프로세서(170)는 상기 영상을 분석하여 상기 모니터링 정보를 획득할 수 있다.
좀더 자세히, 차량 운전 보조장치(100)는, 인테리어 카메라(160)로 차량 내부를 촬영하고, 획득된 차량 내부 영상을 프로세서(170)가 분석하여 차량 내부 오브젝트를 검출하고, 오브젝트의 속성을 판단하여, 모니터링 정보를 생성할 수 있다.
자세히, 프로세서(170)는 이미지 처리를 통해 촬영된 영상에서 오브젝트를 검출하고, 오브젝트를 트래킹하고, 오브젝트와의 거리를 측정하고, 오브젝트를 확인하는 등의 오브젝트 분석을 수행함으로써, 영상 정보를 생성할 수 있다.
프로세서(170)가 오브젝트 분석을 좀더 수월하게 수행하기 위해, 실시예에서, 인테리어 카메라(160)는 영상을 촬영함과 동시에 오브젝트와의 거리를 측정하는 스테레오 카메라(20)일 수 있다.
이하, 도 19 내지 도 20을 참조하여, 스테레오 카메라(20)와, 프로세서(170)가 스테레오 카메라(20)를 이용하여 모니터링 정보를 검출하는 방법을 좀더 상세히 설명한다.
도 19를 참조하면, 프로세서(170)의 내부 블록도의 일예로서, 차량 운전 보조장치(100) 내의 프로세서(170)는, 영상 전처리부(410), 디스패러티 연산부(420), 오브젝트 검출부(434), 오브젝트 트래킹부(440), 및 어플리케이션부(450)를 포함할 수 있다. 도 5와 이하 설명에서는 영상 전처리부(410), 디스패러티 연산부(420), 오브젝트 검출부(434), 오브젝트 트래킹부(440), 및 어플리케이션부(450) 순으로 영상이 처리되는 것으로 설명하나, 이에 한정되지는 않는다.
영상 전처리부(image preprocessor)(410)는, 인테리어 카메라(160)로부터의 이미지를 수신하여, 전처리(preprocessing)를 수행할 수 있다.
구체적으로, 영상 전처리부(410)는, 이미지에 대한, 노이즈 리덕션(noise reduction), 렉티피케이션(rectification), 캘리브레이션(calibration), 색상 강화(color enhancement), 색상 공간 변환(color space conversion;CSC), 인터폴레이션(interpolation), 인테리어 카메라(160) 게인 컨트롤(camera gain control) 등을 수행할 수 있다. 이에 따라, 인테리어 카메라(160)에서 촬영된 스테레오 이미지 보다 선명한 이미지를 획득할 수 있다.
디스패러티 연산부(disparity calculator)(420)는, 영상 전처리부(410)에서 신호 처리된, 이미지를 수신하고, 수신된 이미지들에 대한 스테레오 매칭(stereo matching)을 수행하며, 스테레오 매칭에 따른, 디스패러티 맵(dispartiy map)을 획득할 수 있다. 즉, 차량 전방에 대한, 스테레오 이미지에 대한 디스패러티 정보를 획득할 수 있다.
이때, 스테레오 매칭은, 스테레오 이미지들의 픽셀 단위로 또는 소정 블록 단위로 수행될 수 있다. 한편, 디스패러티 맵은, 스테레오 이미지, 즉 좌,우 이미지의 시차(時差) 정보(binocular parallax information)를 수치로 나타낸 맵을 의미할 수 있다.
세그멘테이션부(segmentation unit)(432)는, 디스패러티 연산부(420)로부터의 디스페러티 정보에 기초하여, 이미지 중 적어도 하나에 대해, 세그먼트(segment) 및 클러스터링(clustering)을 수행할 수 있다.
구체적으로, 세그멘테이션부(432)는, 디스페러티 정보에 기초하여, 스테레오 이미지 중 적어도 하나에 대해, 배경(background)과 전경(foreground)을 분리할 수 있다.
예를 들면, 디스패리티 맵 내에서 디스페러티 정보가 소정치 이하인 영역을, 배경으로 연산하고, 해당 부분을 제외시킬 수 있다. 이에 의해, 상대적으로 전경이 분리될 수 있다. 다른 예로, 디스패리티 맵 내에서 디스페러티 정보가 소정치 이상인 영역을, 전경으로 연산하고, 해당 부분을 추출할 수 있다. 이에 의해, 전경이 분리될 수 있다.
이와 같이, 스테레오 이미지에 기반하여 추출된 디스페러티 정보 정보에 기초하여, 전경과 배경을 분리함으로써, 이후의, 오브젝트 검출시, 신호 처리 속도, 신호 처리 양 등을 단축할 수 있게 된다.
다음, 오브젝트 검출부(object detector)(434)는, 세그멘테이션부(432)로부터의 이미지 세그먼트에 기초하여, 오브젝트를 검출할 수 있다.
즉, 오브젝트 검출부(434)는, 디스페러티 정보 정보에 기초하여, 이미지 중 적어도 하나에 대해, 오브젝트를 검출할 수 있다.
구체적으로, 오브젝트 검출부(434)는, 이미지 중 적어도 하나에 대해, 오브젝트를 검출할 수 있다. 예를 들면, 이미지 세그먼트에 의해 분리된 전경으로부터 오브젝트를 검출할 수 있다.
다음, 오브젝트 확인부(object verification unit)(436)는, 분리된 오브젝트를 분류하고(classify), 확인할 수 있다(verify).
이를 위해, 오브젝트 확인부(436)는, 뉴럴 네트워크(neural network)를 이용한 식별법, SVM(Support Vector Machine) 기법, Haar-like 특징을 이용한 AdaBoost에 의해 식별하는 기법, 또는 HOG(Histograms of Oriented Gradients) 기법 등을 사용할 수 있다.
한편, 오브젝트 확인부(436)는, 메모리(140)에 저장된 오브젝트들과, 검출된 오브젝트를 비교하여, 오브젝트를 확인할 수 있다.
예를 들면, 오브젝트 확인부(436)는, 차량 내부에 유저 들의 상태 등을 확인할 수 있다.
오브젝트 트래킹부(object tracking unit)(440)는, 확인된 오브젝트에 대한 트래킹을 수행할 수 있다. 예를 들면, 순차적으로, 획득되는 스테레오 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다. 이에 따라, 차량 주변에 위치하는, 주변 차량, 차선, 도로면, 표지판, 위험 지역, 터널 등을 트래킹할 수 있게 된다.
다음, 어플리케이션부(450)는, 차량 주변에, 위치하는 다양한 오브젝트들, 예를 들면, 운전자의 제스쳐, 운전자의 눈 깜빡임, 동승자의 제스쳐 등을 연산할 수 있다.
그리고, 어플리케이션부(450)는, 운전자의 제스쳐, 운전자의 눈 깜빡임, 동승자의 제스쳐 등에 기초하여, 사용자에게, 이러한 정보를 알려주기 위한, 메시지 등을, 차량 운전 보조 정보로서, 출력할 수 있다.
한편, 영상 전처리부(410), 디스페러티 연산부(420), 세그먼테이션부(432), 오브젝트 검출부(434), 오브젝트 확인부(436), 오브젝트 트래킹부(440) 및 어플리케이션부(450)는 프로세서(170)내의 영상 처리부의 내부 구성일 수 있다.
한편, 실시예에 따라, 프로세서(170)는 영상 전처리부(410), 디스페러티 연산부(420), 세그먼테이션부(432), 오브젝트 검출부(434), 오브젝트 확인부(436), 오브젝트 트래킹부(440) 및 어플리케이션부(450) 중 일부만을 포함할 수 있다. 가령, 인테리어 카메라(160)가 모노 인테리어 카메라(160) 또는 어라운드 뷰 인테리어 카메라(160)로 구성되는 경우, 디스패러티 연산부(420)는 제외될 수 있다. 또한, 실시예에 따라, 세그먼테이션부(432)는 제외될 수도 있다.
도 6을 참조하면, 제1 프레임 구간 동안, 인테리어 카메라(160)는, 스테레오 이미지를 획득할 수 있다. 이하, 이미지는 설명의 편의를 위해 차량 외부를 찍은 이미지로 설명하나, 해당 설명은 차량 내부 이미지에도 당연히 적용될 수 있을 것이다.
프로세서(170) 내의 디스패러티 연산부(420)는, 영상 전처리부(410)에서 신호 처리된, 스테레오 이미지(FR1a, FR1b)를 수신하고, 수신된 스테레오 이미지(FR1a, FR1b)에 대한 스테레오 매칭을 수행하여, 디스패러티 맵(dispartiy map)(520)을 획득한다.
디스패러티 맵(dispartiy map)(520)은, 스테레오 이미지(FR1a, FR1b) 사이의 시차를 레벨화한 것으로서, 디스패러티 레벨이 클수록, 인테리어 카메라(160)와의 거리가 가깝고, 디스패러티 레벨이 작을수록, 인테리어 카메라(160)과의 거리가 먼 것으로 연산할 수 있다.
한편, 이러한 디스패러티 맵을 디스플레이 하는 경우, 디스패러티 레벨이 클수록, 높은 휘도를 가지고, 디스패러티 레벨이 작을수록 낮은 휘도를 가지도록 표시할 수도 있다.
도면에서는, 디스패러티 맵(520) 내에, 제1 차선 내지 제4 차선(528a, 528b, 528c, 528d) 등이 각각 해당하는 디스패러티 레벨을 가지며, 공사 지역(522), 제1 전방 차량(524), 제2 전방 차량(526)이 각각 해당하는 디스패러티 레벨을 가지는 것을 예시한다.
세그멘테이션부(432)와, 오브젝트 검출부(434), 오브젝트 확인부(436)는, 디스패러티 맵(520)에 기초하여, 스테레오 이미지(FR1a, FR1b) 중 적어도 하나에 대한, 세그먼트, 오브젝트 검출, 및 오브젝트 확인을 수행한다.
도면에서는, 디스패러티 맵(520)을 사용하여, 제2 스테레오 이미지(FR1b)에 대한, 오브젝트 검출, 및 확인이 수행되는 것을 예시한다.
즉, 이미지(530) 내에, 제1 차선 내지 제4 차선(538a, 538b, 538c, 538d), 공사 지역(532), 제1 전방 차량(534), 제2 전방 차량(536)이, 오브젝트 검출 및 확인이 수행될 수 있다.
이와 같은 이미지 처리로, 차량 운전 보조장치(100)는, 차량 내부의 사용자 상태, 사용자가 취한 제스쳐, 제스쳐의 위치 등을 모니터링 정보로 획득할 수 있다.
다음으로, 차량 운전 보조장치(100)는, 차량 운전 보조기능에 관한 그래픽 이미지를 표시하는 디스플레이부를 더 포함할 수 있다.
그리고 프로세서(170)는, 인테리어 카메라(160)로 사용자가 차량 운전보조기능을 제어하는 제스쳐를 입력을 받고, 디스플레이부를 통해 차량 운전보조기능에 관한 그래픽 이미지를 제공함으로써, 그래픽 유저 인터페이스를 사용자에게 제공할 수 있다.
이러한 디스플레이부는 복수의 디스플레이를 포함할 수 있다.
자세히, 디스플레이부는 차량의 윈드실드(W)(windshield)에 그래픽 이미지를 투사하여 표시하는 제 1 디스플레이부(180a)를 포함할 수 있다. 즉, 제 1 디스플레이부(180a)는 HUD(Head Up Display)로, 윈드실드(W)에 그래픽 이미지를 투사하는 투사 모듈을 포함할 수 있다. 그리고 투사 모듈이 투사하는 투사 그래픽 이미지는 일정 투명도를 가질 수 있다. 따라서, 사용자는 그래픽 이미지 뒤 모습과 그래픽 이미지를 동시에 볼 수도 있다.
그리고 이러한 그래픽 이미지는 윈드실드(W)에 투영되는 투영 이미지와 겹쳐셔 증강현실(Augmented Reality, AR)을 이룰 수도 있다.
한편, 디스플레이부는 차량 내부에 별도로 설치되어 차량 운전 보조기능에 대한 이미지를 디스플레이하는 제 2 디스플레이부(180b)를 포함할 수 있다.
자세히, 제 2 디스플레이부(180b)는 차량 내비게이션 장치의 디스플레이나 차량 내부 전면의 클러스터(cluster)일 수 있다.
또한, 제 2 디스플레이부(180b)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
이러한 제 2 디스플레이부(180b)는 터치 입력부와 결합되어 터치 스크린을 이룰 수 있다.
다음으로, 오디오 출력부(185)는 차량 운전 보조장치(100)의 기능에 대한 설명, 실행 여부 등을 확인하는 메시지를 오디오로 출력할 수 있다. 즉, 차량 운전 보조장치(100)는, 디스플레이부(180)를 통한 시각적인 표시와 더불어 오디오 출력부(185)의 음향 출력을 통해 차량 운전 보조장치(100)의 기능에 대한 설명을 서로 보완할 수 있다.
다음으로, 햅틱 출력부는 차량 운전 보조기능에 대한 알람을 햅틱으로 출력할 수 있다. 예를 들어, 차량 운전 보조장치(100)는, 내비게이션 정보, 교통 정보, 통신 정보, 차량 상태 정보, 운전 보조기능(ADAS) 정보 및 기타 운전자 편의 정보 중 적어도 하나의 정보에 운전자에게 경고가 포함되면, 이를 진동으로 사용자에게 알릴 수 있다.
이러한 햅틱 출력부는, 방향성을 갖는 진동을 제공할 수 있다. 예를 들어, 햅틱 출력부는, 조향을 제어하는 스티어링에 배치되어 진동을 출력할 수 있으며, 진동 제공시 스티어링의 좌우를 구분하여 진동을 출력함으로써, 햅틱 출력의 방향성을 부여할 수 있다.
또한, 전원 공급부(190)는 프로세서(170)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다.
마지막으로, 차량 운전 보조장치(100)는 차량 운전 보조장치(100) 내의 각 유닛의 전반적인 동작을 제어하는 프로세서(170)를 포함할 수 있다.
또한, 프로세서(170)는 응용 프로그램을 구동하기 위하여, 도 3과 함께 살펴본 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 프로세서(170)는 상기 응용 프로그램의 구동을 위하여, 차량 운전 보조장치(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
이러한 프로세서(170)는 하드웨어 측면에서, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서 (microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
그리고 이러한 프로세서(170)는 제어부의 제어를 받거나, 제어부를 통해 차량을 여러 기능을 제어할 수 있다.
그리고 프로세서(170)는 상기 메모리(140)에 저장된 응용 프로그램과 관련된 동작 외에도, 통상적으로 차량 운전 보조장치(100)의 전반적인 동작을 제어한다. 프로세서(170)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(170)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
이하, 도 21 내지 도 28을 참조하여, 프로세서(170)가 인테리어 카메라(160)를 통해 사용자 제스쳐 입력을 받아 차량 운전 보조기능을 제어하도록 하는 유저 인터페이스의 일례들을 설명한다.
도 21a 내지 도 21c를 참조하면, 인테리어 카메라(160)는 차량 내부의 오브젝트를 촬영할 뿐만 아니라 거리까지 파악할 수 있으므로, 차량 내부를 3D 스캔할 수 있다.
따라서, 프로세서(170)는, 스테레오 카메라(20)를 통해 얻은 사용자의 3D 제스쳐를 인식할 수 있다.
자세히, 도 21a를 참조하면, 프로세서(170)는, 사용자가 손을 수평방향(상하좌우 방향)으로 흔드는 수평 제스쳐를 인테리어 카메라(160)로 촬영하고, 촬영한 영상을 이미지 처리하여 수평 제스쳐(2d 제스쳐)입력을 인식할 수 있다.
또한, 도 21b를 참조하면, 프로세서(170)는, 사용자가 손을 수직방향(전후 방향)으로 이동시키는 3D 제스쳐를 인테리어 카메라(160)로 촬영하고, 촬영한 영상을 이미지 처리하여 3D 제스쳐 입력을 인식할 수 있다.
또한, 도 21c를 참조하면, 프로세서(170)는, 사용자의 손가락에 모니터링 영역을 포커싱하고, 손가락을 수직 또는/및 수평 방향으로 이동시키는 클릭 제스쳐 입력을 인식할 수도 있다.
이와 같이, 프로세서(170)는, 스테레오 카메라(20)를 통해 사용자 손에 모니터링 영역을 포커싱하고, 손의 2D 이동뿐만 아니라 3D 이동하는 제스쳐까지 인식하여, 사용자의 다양한 제스쳐 입력을 받을 수 있다.
인테리어 카메라(160)는 스테레오 카메라(20) 이므로, 제스쳐가 입력되는 위치를 정확하게 파악할 수 있다. 그리고 프로세서(170)는, 사용자가 입력한 제스쳐의 차량 내 위치에 따라서 서로 다른 차량 운전 보조기능을 실행하도록 제어할 수 있다.
도 22를 참조하면, 동일한 제스쳐라도, 제스쳐가 취해지는 위치는 다양할 수 있다. 그리고 프로세서(170)는, 제스쳐가 입력되는 위치에 따라 서로 다른 차량 운전 보조기능을 제어하도록 제어 신호를 생성할 수 있다.
자세히, 프로세서(170)는, 차량 핸들 좌측 영역(211)에서 제스쳐가 입력되는 경우, 사용자의 제스쳐는 차량의 램프 제어 입력으로 보아, 사용자의 제스쳐에 따른 램프 제어신호를 생성할 수 있다. 예를 들어, 사용자가 핸들 좌측에서 손을 위로 올렸을 때, 상향등 램프가 온(on)될 수 있다.
또한, 프로세서(170)는, 차량 핸들 우측 영역(212)에서 제스쳐가 입력되는 경우, 사용자의 제스쳐는 차량 방향등 제어 입력으로 보아, 사용자의 제스쳐에 따른 방향등 제어신호를 생성할 수 있다. 예를 들어, 차량 핸들 우측 영역에서 제스쳐가 입력되는 경우, 사용자의 제스쳐는 차량의 우측 방향등이 온(on)될 수 있다.
또한, 프로세서(170)는, 제 2 디스플레이부(180b) 앞 영역(231)에서 제스쳐가 입력되는 경우, 제 2 디스플레이부(180b)에서 표시되는 그래픽 이미지와 연동하여 그래픽 유저 인터페이스를 제공할 수 있다. 예를 들어, 제 2 디스플레이부(180b)에는 네비게이션에 대한 그래픽 이미지가 표시될 수 있고, 사용자는 표시된 그래픽 이미지를 클릭 하는 등에 제스쳐 입력을 통해 네비게이션 기능을 제어할 수 있다.
또한, 프로세서(170)는, 차량 공조기 제어 패널 영역(232)에서 제스쳐가 입력되는 경우, 사용자의 제스쳐에 따른 공조기 제어신호를 생성할 수 있다. 예를 들어, 공조기 앞에서 손을 올리는 제스쳐를 취하면, 공조기의 바람세기가 증가될 수 있다.
또한, 프로세서(170)는, 조수석 영역(220)에서 제스쳐가 입력되는 경우, 동승자 석에 관련된 다양한 차량 운전 보조기능을 제어하는 제어신호를 생성할 수 있다. 예를 들어, 조수석에 사용자는 조수석에서 제스쳐를 취해, 차량 의자나 동승석 측 공조기 등을 제어할 수 있다.
나아가, 프로세서(170)는, 메인 모니터링 영역(240)을 지정하고, 상기 메인 모니터링 영역(240)에서 사용자의 지시 제스쳐와, 제어 제스쳐 입력에 따라 차량 운전 보조기능을 실행하도록 제어할 수 있다.
자세히, 도 23을 참조하면, 차량 내부에 운전자 손이 위치하기 쉬운 운전석과 동승자석 사이에 메인 모니터링 영역(240)이 지정될 수 있다. 그리고 사용자는 메인 모니터링 영역(240)에서 제어하고자 하는 대상을 가르치는 지시 제스처를 취하고, 지시 제스쳐 후 제어하고자 하는 대상에 대한 제어 제스쳐를 입력할 수 있다. 프로세서(170)는, 이를 인식하고, 지시 제스쳐와 제어 제스쳐에 대한 제어신호를 생성하여 차량 운전 보조기능을 제어할 수 있다.
예를 들어, 프로세서(170)는, 운전자가 제 1 디스플레이부(180a)를 가르킨 후(P2), 제 1 디스플레이부(180a)에 표시된 그래픽 이미지에 대한 제어 제스쳐를 취한 것을 인식하면, 이에 대한 차량 운전 보조기능을 제어할 수 있게 하는 그래픽 유저 인터페이스를 제공할 수 있다.
한편, 프로세서(170)는, 인테리어 카메라(160)의 라이트 모듈(30)을 제어하여, 모니터링 하고자 하는 상기 차량의 일 영역에 적외선 광을 조사함으로써, 상기 차량 내부의 모니터링 영역을 제어할 수 있다. 즉, 프로세서(170)는, 라이트 모듈(30)의 서로 다른 방향으로 적외선 광을 조사하는 적어도 둘 이상의 발광소자를 선택적으로 동작시켜 상기 모니터링하고자 하는 영역에만 적외선 광을 조사하고, 조사된 영역만 모니터링 할 수 있다.
도 24를 참조하면, 프로세서(170)는, 라이트 모듈(30)이 핸들(721A) 측에 광을 조사하도록 제어하여, 모니터링 영역을 핸들 영역으로 지정할 수 있다.
또한, 프로세서(170)는, 라이트 모듈(30)이 메인 모니터링 영역(240)에 광을 조사하도록 제어하여, 모니터링 영역을 메인 모니터링 영역(240)으로 지정할 수 있다.
또한, 프로세서(170)는, 라이트 모듈(30)이 조수석을 조사하도록 하여, 동승석 영역을 모니터링 영역으로 지정할 수도 있다.
즉, 프로세서(170)는, 인테리어 카메라(160)를 제어하여 차량 내부의 특정 영역을 모니터링 영역으로 지정할 수 있다.
이러한 모니터링 영역은, 차량 주행 상태와 연관되어 변경될 수 있다.
즉, 프로세서(170)는, 차량 주행 상태에 따라서 모니터링 하고자하는 영역, 크기 등을 제어할 수 있다.
자세히, 도 25a를 참조하면, 프로세서(170)는, 차량의 속력이 소정의 속력 이상이면, 상기 모니터링 영역의 크기를 축소하고, 상기 모니터링 영역의 위치를 스티어링 주변(SA)으로 한정할 수 있다. 또한, 프로세서(170)는, 제어할 수 있는 차량 운전 보조기능의 종류도 축소할 수 있다. 즉, 프로세서(170)는, 차량이 고속일 때 저해상도 그래픽 유저 인터페이스(GUI)를 제공할 수 있다.
이를 통해, 운전자가 스티어링 주변에만 제스쳐를 입력하도록 하여 운전에 좀더 집중하도록 하여, 안전 주행을 유도할 수 있다.
반대로, 도 25b를 참조하면, 프로세서(170)는, 차량의 속력이 소정의 속력 미만이면, 상기 모니터링 영역(SA)의 크기를 확대하고, 상기 모니터링 영역의 위치 한정을 해제할 수 있다. 또한, 프로세서(170)는, 제어할 수 있는 차량 운전 보조기능의 종류도 증가시킬 수 있다. 즉, 프로세서(170)는, 차량이 저속일 때 고해상도 그래픽 유저 인터페이스를 제공할 수 있다.
이하, 고해상도 그래픽 유저 인터페이스와 저해상도 그래픽 유저 인터페이스에 대해 설명한다.
도 26a는 저해상도 그래픽 유저 인터페이스를 나타내는 모습으로, 디스플레이부에는 그래픽 이미지가 소정의 개수 이하만 표시될 수 있다. 즉, 그래픽 이미지의 개수는 작고, 그래픽 이미지(G1, G2)는 크게 표시될 수 있다.
사용자의 제스쳐 이동에 따라 커서(P)가 이동될 수 있으며, 커서(P)를 그래픽 이미지(G1, G2)로 이동시킨 후 클릭 하는 제스쳐 등을 취하여, 차량 운전 보조기능을 실행할 수 있다.
도 26b는 고해상도 그래픽 유저 인터페이스를 나타내는 모습으로, 디스플레이부에는 그래픽 이미지(G1, G2)가 소정의 개수를 초과하여 많이 표시될 수 있다. 많은 그래픽 이미지(G1, G2)를 표시하기 위해, 그래픽 이미지(G1, G2)는 작아질 수 있다.
사용자의 제스쳐 이동에 따라 커서(P)가 이동될 수 있으며, 커서(P)를 그래픽 이미지(G1, G2)로 이동시킨 후 클릭 하는 제스쳐 등을 취하여, 차량 운전 보조기능을 실행할 수 있다.
이때, 프로세서(170)는, 저해상도 그래픽 유저 인터페이스에서 사용자의 제스쳐 이동에 따른 커서(P) 이동과, 고해상도 그래픽 유저 인터페이스에서 사용자 제스쳐 이동에 따른 커서(P) 이동을 다르게 할 수 있다. 즉, 프로세서(170)는, 해상도에 따라 제스쳐 입력에 따른 커서(P) 이동에 민감도를 다르게 할 수 있다.
예를 들어, 프로세서(170)는, 저해상도에서는, 제스쳐가 이동에 따라 커서(P)가 많이 이동되도록 민감도를 향상시킬 수 있으며, 고해상도에서 제스쳐 이동에 따라 커서(P)가 적게 이동되도록 민감도를 낮출 수 있다.
또한, 프로세서(170)는, 사용자가 제어하려는 차량 운전 보조기능에서 제어할 요소가 소정의 개수 이하일 때, 저해상도 그래픽 유저 인터페이스를 제공하도록 상기 디스플레이부(180)를 제어할 수 있고, 상기 사용자가 제어하려는 차량 운전 보조기능에서 제어할 요소가 소정의 개수 초과하면, 고해상도 그래픽 유저 인터페이스를 제공하도록 상기 디스플레이부(180)를 제어할 수도 있다.
프로세서(170)는, 모니터링 위치를 차량 주행 상태와 연관되어 특정 위치로 한정할 수도 있다.
자세히, 도 27a를 참조하면, 프로세서(170)는, 차량의 속력이 소정의 속력 이상이면, 운전자의 눈 측 영역(SA20)과, 핸들 주변 영역(SA10)으로 모니터링 위치를 한정할 수 있다. 이를 통해, 뒷좌석 사람이 운전석 측에서 입력하는 제스쳐(O) 등의 오인식을 방지할 수 있다.
반대로, 도 27b를 참조하면, 프로세서(170)는, 차량의 속력이 소정의 속력 미만이면, 운전석 전체(SA3)로 모니터링 위치를 한정할 수 있다.
한편, 복합 인테리어 카메라(160)는, 운전자석 영역(210)과, 조수석 영역(220)과, 메인 모니터링 영역(240)과, 뒷좌석 영역(250)을 모두 촬영할 수 있다. 즉, 복합 인테리어 카메라(160)는, 제 1 인테리어 카메라(160L)와 제 2 인테리어 카메라(160R)를 포함하여 좌우 구분할 수 있으며, 라이트 모듈 점등 제어를 통해 운전석, 조수석 및 전방 센터 일부 영역을 지정하여 모니터링 할 수 있고, 후석 중간 영역(250)까지 감지할 수 있다.
그리고 프로세서(170)는, 상기 운전자석 영역(210)과, 조수석 영역(220)과, 뒷좌석 영역(250)에서 제어할 수 있는 차량 운전 보조기능에 권한을 서로 다르게 설정할 수 있다.
자세히, 프로세서(170)는, 운전자석 영역(210)을 모니터링 하여, 운전자 상태에 따른 다양한 차량 운전 보조기능을 실행할 수 있으며, 운전석에서 입력되는 제스쳐는 운전석에 차량 운전 보조기능을 제어하도록 권한을 설정할 수 있다. 예컨대, 운전석에서 제스쳐 입력을 통해, 운전석 측 공조기, 운전좌석 제어 뿐만 아니라, 차량의 방향등, 램프 제어와 같은 운전 보조기능 등을 실행할 수도 있다.
또한, 프로세서(170)는, 조수석 영역(20)을 모니터링 하여, 조수석에 탑승한 동승자 상태에 따라서 다양한 차량 운전 보조기능을 실행할 수 있으며, 조수석에서 입력되는 제스쳐는 조수석에 차량 운전 보조기능을 제어하도록 권한을 설정할 수 있다. 예컨대, 조수석에서 제스쳐 입력을 통해, 조수석 측 공조기, 보조좌석 제어를 할 수 있다.
또한, 프로세서(170)는, 뒷좌석 중앙 영역(250)을 모니터링 하여, 뒷좌석에 탑승한 동승자에 상태에 따라 다양한 차량 운전 보조기능을 실행할 수 있으며, 뒷좌석에서 입력되는 제스쳐는 뒷좌석에 차량 운전 보조기능을 제어하도록 권한을 설정할 수 있다.
예컨대, 뒷좌석에서 제스쳐 입력을 통해, 뒷좌석의 공조기, 뒷좌석 제어 등을 할 수 있다.
정리하면, 차량 운전 보조장치(100)는, 차량 내부를 3D 스캔할 수 있고, 운전석뿐만 아니라, 조수석과 뒷좌석 영역(250)도 모니터링 할 수 있으며, 모니터링 영역을 특정할 수도 있는 인테리어 카메라(160)를 통해 다양한 편의 유저 인터페이스를 제공할 수 있다.
이러한 인테리어 카메라(160)는 차량 천장에 배치될 수 있으며, 차량에 직접 포함되도록 구성될 수도 있다.
도 29를 참조하면, 전술한 인테리어 카메라(160)는 차량(700) 내에 직접 포함될 수 있다. 예를 들어, 인테리어 카메라(160)는, 차량 내부 천장에 배치되어, 제 1 인테리어 카메라 모듈은 운전석 측을 촬영하고, 제 2 인테리어 카메라 모듈은 조수석 측을 촬영할 수 있다.
차량(700)은 통신부(710), 입력부(720), 센싱부(760), 출력부(740), 차량 구동부(750), 메모리(730), 인터페이스부(780), 제어부(770), 전원부(790), 인테리어 카메라(160) 및 AVN 장치(400)를 포함할 수 있다. 여기서, 인테리어 카메라(160)에 포함되는 유닛과, 차량에 기재된 유닛 중 동일한 명칭을 갖는 유닛은, 차량에 포함되는 것으로 설명한다.
통신부(710)는, 차량과 이동 단말기(600) 사이, 차량과 외부 서버(500) 사이 또는 차량과 타차량(510)과의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 통신부(710)는 차량을 하나 이상의 망(network)에 연결하는 하나 이상의 모듈을 포함할 수 있다.
통신부(710)는, 방송 수신 모듈(711), 무선 인터넷 모듈(712), 근거리 통신 모듈(713), 위치 정보 모듈(714) 및 광통신 모듈(715)을 포함할 수 있다.
방송 수신 모듈(711)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 또는 방송 관련된 정보를 수신한다. 여기서, 방송은 라디오 방송 또는 TV 방송을 포함한다.
무선 인터넷 모듈(712)은, 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 차량에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(712)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.
무선 인터넷 기술로는, 예를 들면, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(712)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다. 예를 들면, 무선 인터넷 모듈(712)은 외부 서버(500)와 무선으로 데이터를 교환할 수 있다. 무선 인터넷 모듈(712)은 외부 서버(500)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))정보를 수신할 수 있다.
근거리 통신 모듈(713)은, 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
이러한, 근거리 통신 모듈(713)은, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다. 예를 들면, 근거리 통신 모듈(713)은 이동 단말기(600)와 무선으로 데이터를 교환할 수 있다. 근거리 통신 모듈(713)은 이동 단말기(600)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))를 수신할 수 있다. 가령, 사용자가 차량에 탑승한 경우, 사용자의 이동 단말기(600)와 차량은 자동으로 또는 사용자의 애플리케이션 실행에 의해, 서로 페어링을 수행할 수 있다.
위치 정보 모듈(714)은, 차량의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈이 있다. 예를 들면, 차량은 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 차량의 위치를 획득할 수 있다.
광통신 모듈(715)은, 광발신부 및 광수신부를 포함할 수 있다.
광수신부는, 광(light)신호를 전기 신호로 전환하여, 정보를 수신할 수 있다. 광수신부는 광을 수신하기 위한 포토 다이오드(PD, Photo Diode)를 포함할 수 있다. 포토 다이오드는 빛을 전기 신호로 전환할 수 있다. 예를 들면, 광수신부는 전방 차량에 포함된 광원에서 방출되는 광을 통해, 전방 차량의 정보를 수신할 수 있다.
광발신부는 전기 신호를 광 신호로 전환하기 위한 발광 소자를 적어도 하나 포함할 수 있다. 여기서, 발광 소자는 LED(Light Emitting Diode)인 것이 바람직하다. 광발신부는, 전기 신호를 광 신호로 전환하여, 외부에 발신한다. 예를 들면, 광 발신부는 소정 주파수에 대응하는 발광소자의 점멸을 통해, 광신호를 외부에 방출할 수 있다. 실시예에 따라, 광발신부는 복수의 발광 소자 어레이를 포함할 수 있다. 실시예에 따라, 광발신부는 차량에 구비된 램프와 일체화될 수 있다. 예를 들면, 광발신부는 전조등, 후미등, 제동등, 방향 지시등 및 차폭등 중 적어도 어느 하나일 수 있다. 예를 들면, 광통신 모듈(715)은 광 통신을 통해 타차량(510)과 데이터를 교환할 수 있다.
입력부(720)는, 운전 조작 수단(721), 카메라(195), 마이크로 폰(723) 및 사용자 입력부(724)를 포함할 수 있다.
운전 조작 수단(721)은, 차량 운전을 위한 사용자 입력을 수신한다. (이하 설명 도 17참조) 운전 조작 수단(721)은 조향 입력 수단(721A), 쉬프트 입력 수단(721D), 가속 입력 수단(721C), 브레이크 입력 수단(721B)을 포함할 수 있다.
조향 입력 수단(721A)은, 사용자로부터 차량의 진행 방향 입력을 수신한다. 조향 입력 수단(721A)은 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 수단(721A)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
쉬프트 입력 수단(721D)은, 사용자로부터 차량의 주차(P), 전진(D), 중립(N), 후진(R)의 입력을 수신한다. 쉬프트 입력 수단(721D)은 레버 형태로 형성되는 것이 바람직하다. 실시예에 따라, 쉬프트 입력 수단(721D)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
가속 입력 수단(721C)은, 사용자로부터 차량의 가속을 위한 입력을 수신한다. 브레이크 입력 수단(721B)은, 사용자로부터 차량의 감속을 위한 입력을 수신한다. 가속 입력 수단(721C) 및 브레이크 입력 수단(721B)은 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 수단(721C) 또는 브레이크 입력 수단(721B)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
카메라(722)는, 이미지 센서와 영상 처리 모듈을 포함할 수 있다. 카메라(722)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 정보를 추출하고, 추출된 정보를 제어부(770)에 전달할 수 있다.
한편, 차량은 차량 전방 영상 또는 차량 주변 영상을 촬영하는 카메라(722) 및 차량 내부 영상을 촬영하는 인테리어 카메라(160)를 포함할 수 있다.
인테리어 카메라(160)는 탑승자에 대한 이미지를 획득할 수 있다. 인테리어 카메라(160)는 탑승자의 생체 인식을 위한 이미지를 획득할 수 있다.
마이크로 폰(723)은, 외부의 음향 신호를 전기적인 데이터로 처리할 수 있다. 처리된 데이터는 차량에서 수행 중인 기능에 따라 다양하게 활용될 수 있다. 마이크로폰(723)은 사용자의 음성 명령을 전기적인 데이터로 전환할 수 있다. 전환된 전기적인 데이터는 제어부(770)에 전달될 수 있다.
한편, 실시예에 따라, 카메라(722) 또는 마이크로폰(723)는 입력부(720)에 포함되는 구성요소가 아닌, 센싱부(760)에 포함되는 구성요소일 수도 있다.
사용자 입력부(724)는 사용자로부터 정보를 입력받기 위한 것이다. 사용자 입력부(724)를 통해, 정보가 입력되면, 제어부(770)는 입력된 정보에 대응되도록 차량의 동작을 제어할 수 있다. 사용자 입력부(724)는 터치식 입력수단 또는 기계식 입력 수단을 포함할 수 있다. 실시예에 따라, 사용자 입력부(724)는 스티어링 휠의 일 영역에 배치될 수 있다. 이경우, 운전자는 스티어링 휠을 잡은 상태에서, 손가락으로 사용자 입력부(724)를 조작할 수 있다.
센싱부(760)는, 차량의 주행 등과 관련한 신호를 센싱한다. 이를 위해, 센싱부(760)는, 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 레이더, 라이더 등을 포함할 수 있다.
이에 의해, 센싱부(760)는, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도 등에 대한 센싱 신호를 획득할 수 있다.
한편, 센싱부(760)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.
센싱부(760)는 생체 인식 정보 감지부를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 감지하여 획득한다. 생체 인식 정보는 지문 인식(Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 안면 인식(Facial recognition) 정보, 음성 인식(Voice recognition) 정보를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 센싱하는 센서를 포함할 수 있다. 여기서, 인테리어 카메라(160) 및 마이크로 폰(723)이 센서로 동작할 수 있다. 생체 인식 정보 감지부는 인테리어 카메라(160)를 통해, 손모양 정보, 안면 인식 정보를 획득할 수 있다.
출력부(740)는, 제어부(770)에서 처리된 정보를 출력하기 위한 것으로, 디스플레이부(741), 음향 출력부(742) 및 햅틱 출력부(743)를 포함할 수 있다.
디스플레이부(741)는 제어부(770)에서 처리되는 정보를 표시할 수 있다. 예를 들면, 디스플레이부(741)는 차량 관련 정보를 표시할 수 있다. 여기서, 차량 관련 정보는, 차량에 대한 직접적인 제어를 위한 차량 제어 정보, 또는 차량 운전자에게 운전 가이드를 위한 차량 운전 보조 정보를 포함할 수 있다. 또한, 차량 관련 정보는, 현재 차량의 상태를 알려주는 차량 상태 정보 또는 차량의 운행과 관련되는 차량 운행 정보를 포함할 수 있다.
디스플레이부(741)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
디스플레이부(741)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 차량와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(724)로써 기능함과 동시에, 차량와 사용자 사이의 출력 인터페이스를 제공할 수 있다. 이경우, 디스플레이부(741)는 터치 방식에 의하여 제어 명령을 입력 받을 수 있도록, 디스플레이부(741)에 대한 터치를 감지하는 터치센서를 포함할 수 있다. 이를 이용하여, 디스플레이부(741)에 대하여 터치가 이루어지면, 터치센서는 상기 터치를 감지하고, 제어부(770)는 이에 근거하여 상기 터치에 대응하는 제어명령을 발생시키도록 이루어질 수 있다. 터치 방식에 의하여 입력되는 내용은 문자 또는 숫자이거나, 각종 모드에서의 지시 또는 지정 가능한 메뉴항목 등일 수 있다.
한편, 디스플레이부(741)는 운전자가 운전을 함과 동시에 차량 상태 정보 또는 차량 운행 정보를 확인할 수 있도록 클러스터(cluster)를 포함할 수 있다. 클러스터는 대시보드 위에 위치할 수 있다. 이경우, 운전자는, 시선을 차량 전방에 유지한채로 클러스터에 표시되는 정보를 확인할 수 있다.
한편, 실시예에 따라, 디스플레이부(741)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(741)가 HUD로 구현되는 경우, 윈드 쉴드에 구비되는 투명 디스플레이를 통해 정보를 출력할 수 있다. 또는, 디스플레이부(741)는 투사 모듈을 구비하여 윈드 쉴드에 투사되는 이미지를 통해 정보를 출력할 수 있다.
음향 출력부(742)는 제어부(770)로부터의 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(742)는 스피커 등을 구비할 수 있다. 음향 출력부(742)는, 사용자 입력부(724) 동작에 대응하는, 사운드를 출력하는 것도 가능하다.
햅틱 출력부(743)는 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(743)는, 스티어링 휠, 안전 벨트, 시트를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.
차량 구동부(750)는, 차량 각종 장치의 동작을 제어할 수 있다. 차량 구동부(750)는 동력원 구동부(751), 조향 구동부(752), 브레이크 구동부(753), 램프 구동부(754), 공조 구동부(755), 윈도우 구동부(756), 에어백 구동부(757), 썬루프 구동부(758) 및 서스펜션 구동부(759)를 포함할 수 있다.
동력원 구동부(751)는, 차량 내의 동력원에 대한 전자식 제어를 수행할 수 있다.
예를 들면, 화석 연료 기반의 엔진(미도시)이 동력원인 경우, 동력원 구동부(751)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(751)가 엔진인 경우, 제어부(770)의 제어에 따라, 엔진 출력 토크를 제한하여 차량의 속도를 제한할 수 있다.
다른 예로, 전기 기반의 모터(미도시)가 동력원인 경우, 동력원 구동부(751)는, 모터에 대한 제어를 수행할 수 있다. 이에 의해, 모터의 회전 속도, 토크 등을 제어할 수 있다.
조향 구동부(752)는, 차량 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 차량의 진행 방향을 변경할 수 있다.
브레이크 구동부(753)는, 차량 내의 브레이크 장치(brake apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량의 속도를 줄일 수 있다. 다른 예로, 좌측 바퀴와 우측 바퀴에 각각 배치되는 브레이크의 동작을 달리하여, 차량의 진행 방향을 좌측, 또는 우측으로 조정할 수 있다.
램프 구동부(754)는, 차량 내, 외부에 배치되는 램프의 턴 온/턴 오프를 제어할 수 있다. 또한, 램프의 빛의 세기, 방향 등을 제어할 수 있다. 예를 들면, 방향 지시 램프, 브레이크 램프 등의 대한 제어를 수행할 수 있다.
공조 구동부(755)는, 차량 내의 공조 장치(air cinditioner)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.
윈도우 구동부(756)는, 차량 내의 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량의 측면의 좌,우 윈도우들에 대한 개방 또는 폐쇄를 제어할 수 있다.
에어백 구동부(757)는, 차량 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 위험시, 에어백이 터지도록 제어할 수 있다.
썬루프 구동부(758)는, 차량 내의 썬루프 장치(sunroof apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 썬루프의 개방 또는 폐쇄를 제어할 수 있다.
서스펜션 구동부(759)는, 차량 내의 서스펜션 장치(suspension apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량의 진동이 저감되도록 제어할 수 있다.
메모리(730)는, 제어부(770)와 전기적으로 연결된다. 메모리(770)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(790)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(730)는 제어부(770)의 처리 또는 제어를 위한 프로그램 등, 차량 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
인터페이스부(780)는, 차량에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 인터페이스부(780)는 이동 단말기(600)와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 이동 단말기(600)와 연결할 수 있다. 이경우, 인터페이스부(780)는 이동 단말기(600)와 데이터를 교환할 수 있다.
한편, 인터페이스부(780)는 연결된 이동 단말기(600)에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기(600)가 인터페이스부(780)에 전기적으로 연결되는 경우, 제어부(770)의 제어에 따라, 인터페이스부(780)는 전원부(790)에서 공급되는 전기 에너지를 이동 단말기(600)에 제공한다.
제어부(770)는, 차량 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(770)는 ECU(Electronic Contol Unit)로 명명될 수 있다.
이러한 제어부(770)은 인테리어 카메라(160)의 실행 신호 전달에 따라서, 전달된 신호에 대응되는 기능을 실행할 수 있다.
제어부(770)는, 하드웨어적으로, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
제어부(770)는 전술한 프로세서(170)의 역할을 위임할 수 있다. 즉, 인테리어 카메라(160)의 프로세서(170)는 차량의 제어부(770)에 직접 셋팅될 수 있다. 이러한 실시예에서는 인테리어 카메라(160)는 차량의 일부 구성들을 합하여 지칭하는 것으로 이해할 수 있다.
또는, 제어부(770)는 프로세서(170)에서 요청하는 정보를 전송해주도록 구성들을 제어할 수도 있다.
전원부(790)는, 제어부(770)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원부(770)는, 차량 내부의 배터리(미도시) 등으로부터 전원을 공급받을 수 있다.
AVN(Audio Video Navigation) 장치(400)는 제어부(770)와 데이터를 교환할 수 있다. 제어부(770)는 AVN 장치(400) 또는 별도의 내비게이션 장치(미도시)로부터 내비게이션 정보를 수신할 수 있다. 여기서, 여기서, 내비게이션 정보는 설정된 목적지 정보, 상기 목적지에 따른 경로 정보, 차량 주행과 관련한, 맵(map) 정보 또는 차량 위치 정보를 포함할 수 있다.
상술한 실시예에 설명된 특징, 구조, 효과 등은 본 발명의 적어도 하나의 실시예에 포함되며, 반드시 하나의 실시예에만 한정되는 것은 아니다. 나아가, 각 실시예에서 예시된 특징, 구조, 효과 등은 실시예들이 속하는 분야의 통상의 지식을 가지는 자에 의하여 다른 실시예들에 대해서도 조합 또는 변형되어 실시 가능하다. 따라서 이러한 조합과 변형에 관계된 내용들은 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.
또한, 이상에서 실시예들을 중심으로 설명하였으나 이는 단지 예시일 뿐 본 발명을 한정하는 것이 아니며, 본 발명이 속하는 분야의 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성을 벗어나지 않는 범위에서 이상에 예시되지 않은 여러 가지의 변형과 응용이 가능함을 알 수 있을 것이다. 예를 들어, 실시예들에 구체적으로 나타난 각 구성 요소는 변형하여 실시할 수 있는 것이다. 그리고 이러한 변형과 응용에 관계된 차이점들은 첨부한 청구 범위에서 규정하는 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (20)

  1. 프레임 바디;
    상기 프레임 바디 내에 배치되며, 제 1 카메라 및 제 2 카메라를 포함하는 스테레오 카메라;
    상기 프레임 바디 내에 배치되며, 적외선 광을 조사하는 라이트 모듈;
    상기 스테레오 카메라 및 상기 라이트 모듈과 연결된 회로기판; 및
    상기 프레임 바디, 상기 스테레오 카메라, 상기 라이트 모듈, 및 상기 회로 기판을 각각 포함하는 제 1 인테리어 카메라 모듈 및 제 2 인테리어 카메라 모듈; 및
    상기 제 1 인테리어 카메라 모듈 및 상기 제 2 인테리어 카메라 모듈을 지지하는 프레임 커버를 포함하고,
    상기 라이트 모듈은,
    제 1 조사방향으로 적외선 광을 조사하는 제 1 발광소자와, 상기 제 1 조사방향과 다른 제 2 조사방향으로 적외선 광을 조사하는 제 2 발광소자를 포함하는
    인테리어 카메라 장치.
  2. 제 1 항에 있어서,
    상기 프레임 바디는,
    상기 제 1 카메라가 배치된 제 1 홀과, 상기 라이트 모듈이 배치된 제 2 홀과, 상기 제 2 카메라가 배치된 제 3 홀을 포함하고,
    상기 제 1 홀, 제 2 홀 및 제 3 홀은 일 방향으로 나열된
    인테리어 카메라 장치.
  3. 제 1 항에 있어서,
    상기 제 1 발광소자는,
    제 1 발광 칩과, 상기 제 1 발광 칩을 지지하는 제 1 기판을 포함하고,
    상기 제 2 발광소자는,
    제 2 발광 칩과, 상기 제 2 발광 칩을 지지하는 제 2 기판을 포함하며,
    상기 제 1 기판의 상면은, 상기 제 1 조사방향으로 배향되고
    상기 제 2 기판의 상면은, 상기 제 2 조사방향으로 배향된
    인테리어 카메라 장치.
  4. 제 1 항에 있어서,
    상기 제 1 발광소자 상에 배치되어, 상기 제 1 발광소자에서 조사된 적외선 광을 상기 제 1 조사방향으로 분산하는 제 1 광학부재와,
    상기 제 2 발광소자 상에 배치되어, 상기 제 2 발광소자에서 조사된 적외선 광을 상기 제 2 조사방향으로 분산하는 제 2 광학부재를 더 포함하는
    인테리어 카메라 장치.
  5. 제 1 항에 있어서,
    상기 제 1 발광소자는,
    제 1 발광 칩과, 상기 제 1 발광 칩을 둘러싸도록 배치되어 상기 제 1 발광 칩의 광을 상기 제 1 조사방향으로 안내하는 제 1 몸체를 포함하고,
    상기 제 2 발광소자는,
    제 2 발광 칩과, 상기 제 2 발광 칩을 둘러싸도록 배치되어 상기 제 2 발광 칩의 광을 상이 제 2 조사방향으로 안내하는 제 2 몸체를 포함하는
    인테리어 카메라 장치.
  6. 삭제
  7. 제 1 항에 있어서,
    상기 프레임 커버는,
    상기 제 1 인테리어 카메라 모듈을 수용하는 제 1 케비티와,
    상기 제 2 인테리어 카메라 모듈을 수용하는 제 2 케비티와,
    상기 제 1 케비티, 상기 제 2 케비티 및 상기 제 1 케비티와 상기 제 2 케비티를 연결하는 브릿지 베이스를 포함하는
    인테리어 카메라 장치.
  8. 제 7 항에 있어서,
    상기 제 1 케비티를 이루는 프레임 커버의 제 1 면에는 제 1 커버홀, 제 2 커버홀 및 제 3 커버홀이 형성되고,
    상기 제 2 케비티를 이루는 프레임 커버의 제 2 면에는 제 4 커버홀, 제 5 커버홀 및 제 6 커버홀이 형성되는
    인테리어 카메라 장치.
  9. 제 8 항에 있어서,
    상기 프레임 커버의 상기 제 1 면과 상기 제 2 면은 상기 브릿지 베이스를 가로지르는 기준 라인에 대하여 서로 대칭되는
    인테이러 카메라 장치.
  10. 제 1 항에 있어서,
    상기 회로기판 상에 배치되며, 상기 스테레오 카메라 및 상기 라이트 모듈을 제어하는 프로세서를 더 포함하는
    인테리어 카메라 장치.
  11. 제 10 항에 있어서,
    상기 프로세서는,
    상기 제 1 발광소자 및 상기 제 2 발광소자를 선택적으로 구동시키는
    인테리어 카메라 장치.
  12. 제 11 항에 있어서,
    상기 프로세서는,
    상기 제 1 발광소자가 온(on)되고 상기 제 2 발광소자가 오프(off)되는 제 1 제어구간과, 상기 제 1 발광소자가 오프(off)되고 상기 제 2 발광소자가 온(on)되는 제 2 제어구간과, 상기 제 1 발광소자 및 상기 제 2 발광소자가 오프(off)되는 제 3 제어구간을 순차적으로 반복 실행하는
    인테리어 카메라 장치.
  13. 제 12 항에 있어서,
    상기 스테레오 카메라는 롤링 셔터 방식으로 이미지를 센싱하고,
    상기 프로세서는,
    상기 스테레오 카메라의 노광시점에 상기 제 1 발광소자를 온(on)시키고, 상기 제 2 발광소자를 오프(off)시켜 상기 제 1 제어구간을 실행하는
    인테리어 카메라 장치.
  14. 제 13 항에 있어서,
    상기 프로세서는,
    상기 제 1 제어구간 동안 상기 제 1 조사방향에 매칭되는 상기 제 1 픽셀 영역의 이미지를 센싱하도록 상기 스테레오 카메라를 제어하는
    인테리어 카메라 장치.
  15. 제 14 항에 있어서,
    상기 프로세서는,
    상기 제 1 픽셀 영역 스캔이 완료되는 시점에 상기 제 1 발광소자를 오프(off)시키고 상기 제 2 발광소자를 온(on)시키는 상기 제 2 제어구간을 실행하고,
    상기 제 2 제어구간 동안 상기 제 2 조사방향에 매칭되는 상기 제 2 픽셀 영역의 이미지를 센싱하도록 상기 스테레오 카메라를 제어하는
    인테리어 카메라 장치.
  16. 제 15 항에 있어서,
    상기 프로세서는,
    상기 2 픽셀 영역의 이미지 센싱이 완료되는 시점에 상기 제 1 발광소자와 상기 제 2 발광소자를 오프(off)시켜 상기 제 3 제어구간을 실행하는
    인테리어 카메라 장치.
  17. 제 13 항에 있어서,
    상기 스테레오 카메라의 촬영방향과, 상기 라이트 모듈의 적외선 광 조사방향은 일치하는
    인테리어 카메라 장치.
  18. 제 17 항에 있어서,
    상기 스테레오 카메라의 이미지 센싱방향과, 상기 라이트 모듈의 적외선 광 조사방향 변화는 서로 매칭되는
    인테리어 카메라 장치.
  19. 상기 제 1 항에 기재된 인테리어 카메라 장치를 통해 차량에 탑승한 사용자를 모니터링 하여 모니터링 정보를 획득하고, 상기 모니터링 정보에 기초하여 차량 운전 보조기능을 제어하는
    차량 운전 보조장치.
  20. 상기 제 1 항에 기재된 인테리어 카메라 장치를 포함하고,
    상기 인테리어 카메라 장치는 차량의 천장에 배치된
    차량.
KR1020160074109A 2016-04-07 2016-06-14 인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 이를 포함하는 차량 KR101777518B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201611034248.5A CN107284353B (zh) 2016-04-07 2016-11-16 室内相机装置、包括其的车辆驾驶辅助装置以及车辆
US15/446,065 US20170291548A1 (en) 2016-04-07 2017-03-01 Interior Camera Apparatus, Driver Assistance Apparatus Having The Same And Vehicle Having The Same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201662319779P 2016-04-07 2016-04-07
US62/319,779 2016-04-07

Publications (1)

Publication Number Publication Date
KR101777518B1 true KR101777518B1 (ko) 2017-09-11

Family

ID=59926037

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160074109A KR101777518B1 (ko) 2016-04-07 2016-06-14 인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 이를 포함하는 차량

Country Status (3)

Country Link
US (1) US20170291548A1 (ko)
KR (1) KR101777518B1 (ko)
CN (1) CN107284353B (ko)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180118218A1 (en) * 2016-10-27 2018-05-03 Ford Global Technologies, Llc Method and apparatus for vehicular adaptation to driver state
US10290158B2 (en) * 2017-02-03 2019-05-14 Ford Global Technologies, Llc System and method for assessing the interior of an autonomous vehicle
US10509974B2 (en) 2017-04-21 2019-12-17 Ford Global Technologies, Llc Stain and trash detection systems and methods
US10304165B2 (en) 2017-05-12 2019-05-28 Ford Global Technologies, Llc Vehicle stain and trash detection systems and methods
JP6720952B2 (ja) * 2017-11-21 2020-07-08 オムロン株式会社 乗員監視装置
JP7060790B2 (ja) * 2018-02-06 2022-04-27 ミツミ電機株式会社 カメラおよび乗員検知システム
CN108279424A (zh) * 2018-05-04 2018-07-13 江苏金海星导航科技有限公司 一种基于北斗的智能安全驾驶监测系统
JP7211673B2 (ja) * 2018-05-25 2023-01-24 株式会社Subaru 車両の乗員監視装置
JP7185992B2 (ja) * 2018-09-26 2022-12-08 株式会社Subaru 車両の乗員監視装置、および乗員保護システム
DE102018125188A1 (de) * 2018-10-11 2020-04-16 Brose Fahrzeugteile SE & Co. Kommanditgesellschaft, Coburg Verfahren zur Einstellung einer Sitzposition in einem Kraftfahrzeug
GB2580024A (en) * 2018-12-19 2020-07-15 Continental Automotive Gmbh Camera device and vehicle comprising the same
AU2019416195A1 (en) 2018-12-26 2021-07-01 Waymo Llc Close-in illumination module
US10893175B2 (en) * 2019-02-27 2021-01-12 Bendix Commercial Vehicle Systems Llc Shadowless camera housing
MX2021012766A (es) * 2019-04-19 2021-11-18 Ovad Custom Stages Llc Paleta fotografica y proceso de uso de la misma.
DE102019207178A1 (de) * 2019-05-16 2020-11-19 Continental Automotive Gmbh Bildsensor mit einer Beleuchtungsvorrichtung
US11017248B1 (en) 2019-12-18 2021-05-25 Waymo Llc Interior camera system for a self driving car
US11262562B2 (en) 2020-03-18 2022-03-01 Waymo Llc Infrared camera module cover
DE102020207575A1 (de) * 2020-06-18 2021-12-23 Pepperl+Fuchs Ag Stereoskopische Kamera und Verfahren zu deren Betrieb
CN112969033A (zh) * 2020-12-31 2021-06-15 清华大学苏州汽车研究院（吴江） 一种智能座舱车内智能感知系统
CN113992853A (zh) * 2021-10-27 2022-01-28 北京市商汤科技开发有限公司 补光灯控制方法、模组、设备、系统、装置及电子设备
DE102021214372A1 (de) 2021-12-15 2023-06-15 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zum Erfassen von Bildern in einem Fahrzeuginnenraum und Fahrzeuginnenraumkamerasystem
CN114245303A (zh) * 2021-12-22 2022-03-25 诺博汽车系统有限公司 一种数据采集方法、装置、可读存储介质和车辆
DE102022204433A1 (de) 2022-05-05 2023-11-09 Robert Bosch Gesellschaft mit beschränkter Haftung Blendenelement für eine Beleuchtungseinrichtung für ein Kamerasystem für ein Fahrzeug, Blendensystem, Beleuchtungssystem, Überwachungssystem und Verfahren zum Montieren eines Blendenelements an einer Beleuchtungseinrichtung

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007198929A (ja) * 2006-01-27 2007-08-09 Hitachi Ltd 車両内状態検知システム，車両内状態検知装置および方法
JP2010253987A (ja) * 2009-04-21 2010-11-11 Yazaki Corp 車載用撮影ユニット

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090046538A1 (en) * 1995-06-07 2009-02-19 Automotive Technologies International, Inc. Apparatus and method for Determining Presence of Objects in a Vehicle
US6130706A (en) * 1998-03-25 2000-10-10 Lucent Technologies Inc. Process for determining vehicle dynamics
US7167796B2 (en) * 2000-03-09 2007-01-23 Donnelly Corporation Vehicle navigation system for use with a telematics system
EP1263626A2 (en) * 2000-03-02 2002-12-11 Donnelly Corporation Video mirror systems incorporating an accessory module
US6968073B1 (en) * 2001-04-24 2005-11-22 Automotive Systems Laboratory, Inc. Occupant detection system
JP2003075893A (ja) * 2001-09-06 2003-03-12 Murakami Corp 車両用周囲撮像装置
US7965336B2 (en) * 2002-11-14 2011-06-21 Donnelly Corporation Imaging system for vehicle
US7280678B2 (en) * 2003-02-28 2007-10-09 Avago Technologies General Ip Pte Ltd Apparatus and method for detecting pupils
JP2004274154A (ja) * 2003-03-05 2004-09-30 Denso Corp 車両用乗員保護装置
WO2004106856A1 (ja) * 2003-05-29 2004-12-09 Olympus Corporation ステレオカメラ支持装置、ステレオカメラ支持方法及びキャリブレーション検出装置及びキャリブレーション補正装置並びにステレオカメラシステム
DE602004016185D1 (de) * 2003-10-03 2008-10-09 Automotive Systems Lab Insassenerfassungssystem
US20060187297A1 (en) * 2005-02-24 2006-08-24 Levent Onural Holographic 3-d television
KR100630842B1 (ko) * 2005-06-08 2006-10-02 주식회사 현대오토넷 스테레오 영상 정합을 이용한 자동차의 탑승자 자세 판별시스템 및 그 방법
US7978239B2 (en) * 2007-03-01 2011-07-12 Eastman Kodak Company Digital camera using multiple image sensors to provide improved temporal sampling
KR101239835B1 (ko) * 2011-04-19 2013-03-06 한국광기술원 지향성 발광 패턴을 갖는 발광 다이오드 패키지 및 이를 이용한 액정 디스플레이 장치
US9096129B2 (en) * 2013-07-29 2015-08-04 Freescale Semiconductor, Inc. Method and system for facilitating viewing of information in a machine
WO2015075937A1 (ja) * 2013-11-22 2015-05-28 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 情報処理プログラム、受信プログラムおよび情報処理装置
GB2525840B (en) * 2014-02-18 2016-09-07 Jaguar Land Rover Ltd Autonomous driving system and method for same
JP5999127B2 (ja) * 2014-03-12 2016-09-28 トヨタ自動車株式会社 画像処理装置
JP6372388B2 (ja) * 2014-06-23 2018-08-15 株式会社デンソー ドライバの運転不能状態検出装置
DE102014212032A1 (de) * 2014-06-24 2015-12-24 Robert Bosch Gmbh Verfahren zum Detektieren einer Fahrbahn und entsprechendes Detektionssystem
US10912516B2 (en) * 2015-12-07 2021-02-09 Panasonic Corporation Living body information measurement device, living body information measurement method, and storage medium storing program
DE102016202948A1 (de) * 2016-02-25 2017-08-31 Robert Bosch Gmbh Verfahren und Vorrichtung zum Ermitteln eines Bildes einer Umgebung eines Fahrzeugs
JP6767241B2 (ja) * 2016-03-30 2020-10-14 株式会社小松製作所 端末装置、制御装置、データ統合装置、作業車両、撮像システム、および撮像方法
JP6790543B2 (ja) * 2016-07-21 2020-11-25 株式会社Ｊｖｃケンウッド 表示制御装置、方法、プログラム及び表示制御システム
JP6747176B2 (ja) * 2016-08-25 2020-08-26 株式会社リコー 画像処理装置、撮影装置、プログラム、機器制御システム及び機器
EP3521898A4 (en) * 2016-09-30 2019-10-23 Sony Corporation REFLECTIVE PLATE, INFORMATION DISPLAY DEVICE AND MOBILE BODY
JP6752679B2 (ja) * 2016-10-15 2020-09-09 キヤノン株式会社 撮像システム
JP6445607B2 (ja) * 2017-03-15 2018-12-26 株式会社Ｓｕｂａｒｕ 車両の表示システム及び車両の表示システムの制御方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007198929A (ja) * 2006-01-27 2007-08-09 Hitachi Ltd 車両内状態検知システム，車両内状態検知装置および方法
JP2010253987A (ja) * 2009-04-21 2010-11-11 Yazaki Corp 車載用撮影ユニット

Also Published As

Publication number Publication date
US20170291548A1 (en) 2017-10-12
CN107284353A (zh) 2017-10-24
CN107284353B (zh) 2019-07-30

Similar Documents

Publication Publication Date Title
KR101777518B1 (ko) 인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 이를 포함하는 차량
KR101916993B1 (ko) 차량용 디스플레이 장치 및 그 제어방법
KR101844885B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR101832466B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
CN106205175B (zh) 用于车辆的显示设备和车辆
US10131347B2 (en) Parking assistance apparatus and vehicle having the same
KR101750178B1 (ko) 차량 외부 알람방법, 이를 실행하는 차량 운전 보조장치 및 이를 포함하는 차량
KR20180037414A (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR20170111084A (ko) 디스플레이 장치 및 이를 포함하는 차량
KR20160133223A (ko) 차량용 조명 장치 및 이를 포함하는 차량
KR101843538B1 (ko) 차량 운전 보조장치 및 이의 차량 운전 보조방법
KR101846184B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
EP3299240A1 (en) Vehicle driving assisting device and vehicle
KR20170005663A (ko) 차량용 디스플레이 제어 장치 및 그 동작 방법
KR101972352B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR101929294B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR101843535B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR20160146280A (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR101752798B1 (ko) 차량 및 그 제어방법
KR101888259B1 (ko) 차량 보조장치 및 이를 포함하는 차량
KR101894636B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR101929288B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR101929300B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR101728964B1 (ko) 디스플레이 장치

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant