KR20150081693A - 이미지 처리 장치 및 그 방법 - Google Patents

Abstract

본 명세서는 하나의 이미지 센서를 통해 컬러 이미지 및 깊이 이미지(깊이 정보)를 검출할 수 있는 이미지 처리 장치 및 그 방법에 관한 것으로서, 본 명세서에 개시된 실시예에 따른 이미지 처리 장치는, 컬러 필터와 적외선 필터를 포함하며, 상기 컬러 필터를 선택하거나, 상기 적외선 필터를 선택하는 필터 체인저와; 상기 컬러 필터를 통해 입력되는 컬러 광을 근거로 컬러 이미지를 검출하고, 상기 적외선 필터를 통해 입력되는 적외선 광을 근거로 적외선 광 이미지를 검출하는 이미지 센서를 포함하며, 상기 처리부는 상기 검출된 적외선 광 이미지를 근거로 깊이 이미지를 검출하고, 상기 검출된 컬러 이미지와 상기 검출된 깊이 이미지를 출력할 수 있다.

Description

이미지 처리 장치 및 그 방법{IMAGE PROCESS APPARATUS AND METHOD THEREOF}

본 명세서는 이미지 처리 장치 및 그 방법에 관한 것이다.

최근 이미지 센서(image sensor)를 구비한 휴대용 장치(예를 들면 디지털 카메라, 이동통신단말기, 태블릿 PC등)가 개발되어 판매되고 있다. 이미지 센서를 이용하여 3차원 영상을 획득하기 위해서는 색상뿐만 아니라 물체와 이미지센서 간의 거리에 관한 정보를 얻을 필요가 있다. 일반적으로 물체와 이미지 센서간의 거리 정보에 기초하여 재구성된 영상을 해당분야에서는 깊이 이미지(depth image)로 표현하기도 한다. 일반적으로 깊이 이미지는 가시광선(visible light) 영역외의 적외선(infrared light)을 이용하여 얻어질 수 있다.

한국 특허 출원 번호 10-2011-0005623호

본 명세서는 하나의 이미지 센서를 통해 컬러 이미지 및 깊이 이미지(깊이 정보)를 검출할 수 있는 이미지 처리 장치 및 그 방법을 제공하는 데 그 목적이 있다.

본 명세서에 개시된 실시예에 따른 이미지 처리 장치는, 컬러 필터와 적외선 필터를 포함하며, 상기 컬러 필터를 선택하거나, 상기 적외선 필터를 선택하는 필터 체인저와; 상기 컬러 필터를 통해 입력되는 컬러 광을 근거로 컬러 이미지를 검출하고, 상기 적외선 필터를 통해 입력되는 적외선 광을 근거로 적외선 광 이미지를 검출하는 이미지 센서를 포함하며, 상기 처리부는 상기 검출된 적외선 광 이미지를 근거로 깊이 이미지를 검출하고, 상기 검출된 컬러 이미지와 상기 검출된 깊이 이미지를 출력할 수 있다.

본 명세서와 관련된 일 예로서, 상기 처리부는 컬러 이미지 모드일 때 상기 컬러 필터를 선택하도록 상기 필터 체인저를 제어하고, 깊이 이미지 모드일 때 상기 적외선 필터를 선택하도록 상기 필터 체인저를 제어할 수 있다.

본 명세서와 관련된 일 예로서, 적외선 광을 발생하는 적외선 광 발생부는 더 포함하며, 상기 적외선 광 발생부는 상기 컬러 이미지 모드일 때 턴-오프되고, 상기 깊이 이미지 모드일 때 상기 적외선 광을 발생할 수 있다.

본 명세서와 관련된 일 예로서, 상기 이미지 센서는 이차원 이미지 센서일 수 있다.

본 명세서와 관련된 일 예로서, 상기 처리부는 상기 검출된 컬러 이미지와 상기 검출된 깊이 이미지를 근거로 3차원 이미지를 생성할 수 있다.

본 명세서와 관련된 일 예로서, 상기 처리부는 상기 깊이 이미지 모드에서 상기 적외선 필터를 선택하도록 상기 필터 체인저를 제어함과 동시에 상기 적외선 광 발생부를 턴-온시킬 수 있다.

본 명세서와 관련된 일 예로서, 상기 처리부는 상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 상기 어느 하나의 픽셀과 인접 픽셀들을 이용하여 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지를 검출할 수 있다.

본 명세서와 관련된 일 예로서, 상기 처리부는 상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 상기 어느 하나의 픽셀과 인접 픽셀들의 평균값을 구하고, 상기 구해진 평균값을 근거로 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지를 검출할 수 있다.

본 명세서와 관련된 일 예로서, 상기 처리부는 상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 상기 어느 하나의 픽셀과 인접 픽셀들의 합을 구하고, 상기 구해진 합을 근거로 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지를 검출할 수 있다.

본 명세서에 개시된 실시예에 따른 이미지 처리 방법은, 컬러 이미지 모드에서, 컬러 필터와 적외선 필터를 포함하는 필터 체인저가 상기 컬러 필터를 선택하도록 상기 필터 체인저를 제어하는 단계와; 깊이 이미지 모드에서, 상기 필터 체인저가 상기 적외선 필터를 선택하도록 상기 필터 체인저를 제어하는 단계와; 상기 컬러 필터를 통해 이미지 센서에 입력되는 컬러 광을 근거로 컬러 이미지를 검출하는 단계와; 상기 적외선 필터를 통해 상기 이미지 센서에 입력되는 적외선 광을 근거로 적외선 광 이미지를 검출하는 단계와; 상기 검출된 적외선 광 이미지를 근거로 깊이 이미지를 검출하고, 상기 깊이 이미지 및 상기 컬러 이미지를 출력하는 단계를 포함할 수 있다.

본 발명의 실시예에 따른 이미지 처리 장치 및 그 방법은, 하나의 이미지 센서에 컬러 필터 또는 적외선 필터를 선택하는 필터 체인저를 구비함으로써 하나의 이미지 센서를 통해 컬러 이미지 및 깊이 이미지(깊이 정보)를 검출할 수 있다.

본 발명의 실시예에 따른 이미지 처리 장치 및 그 방법은, 하나의 이미지 센서에 컬러 필터 또는 적외선 필터를 선택하는 필터 체인저를 구비함으로써 하나의 이미지 센서를 통해 컬러 이미지 및 깊이 이미지를 검출하고, 그 검출한 컬러 이미지 및 깊이 이미지(깊이 정보)를 근거로 3차원 이미지를 생성할 수도 있다.

도 1은 본 발명의 실시예들을 설명하기 위한 이동 단말기를 나타내는 블록도이다.
도 2는 본 발명의 실시예에 따른 이미지 처리 장치의 구성을 나타낸 도이다.
도 3은 본 발명의 실시예에 따른 이미지 처리 방법을 나타낸 흐름도이다.
도 4는 본 발명의 실시예에 따른 픽셀 비닝 수행을 설명하기 위한 픽셀 어레이의 패턴을 나타낸 예시도이다.

본 명세서에서 사용되는 기술적 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아님을 유의해야 한다. 또한, 본 명세서에서 사용되는 기술적 용어는 본 명세서에서 특별히 다른 의미로 정의되지 않는 한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 의미로 해석되어야 하며, 과도하게 포괄적인 의미로 해석되거나, 과도하게 축소된 의미로 해석되지 않아야 한다. 또한, 본 명세서에서 사용되는 기술적인 용어가 본 발명의 사상을 정확하게 표현하지 못하는 잘못된 기술적 용어일 때에는, 당업자가 올바르게 이해할 수 있는 기술적 용어로 대체되어 이해되어야 할 것이다. 또한, 본 발명에서 사용되는 일반적인 용어는 사전에 정의되어 있는 바에 따라, 또는 전후 문맥상에 따라 해석되어야 하며, 과도하게 축소된 의미로 해석되지 않아야 한다.

또한, 본 명세서에서 사용되는 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "구성된다" 또는 "포함한다" 등의 용어는 명세서 상에 기재된 여러 구성 요소들, 또는 여러 단계들을 반드시 모두 포함하는 것으로 해석되지 않아야 하며, 그 중 일부 구성 요소들 또는 일부 단계들은 포함되지 않을 수도 있고, 또는 추가적인 구성 요소 또는 단계들을 더 포함할 수 있는 것으로 해석되어야 한다.

또한, 본 명세서에서 사용되는 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용될 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성 요소로 명명될 수 있고, 유사하게 제2 구성 요소도 제1 구성 요소로 명명될 수 있다.

이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성 요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.

또한, 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 발명의 사상을 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 발명의 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook) 등이 포함될 수 있다.

도 1은 본 발명의 실시예들을 설명하기 위한 이동 단말기를 나타내는 블록도이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 감지부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

상기 이동통신 모듈(112)은 화상통화모드 및 음성통화모드를 구현하도록 이루어진다. 화상통화모드는 상대방의 영상을 보면서 통화하는 상태를 지칭하고, 음성통화모드는 상대방의 영상을 보지 않으면서 통화를 하는 상태를 지칭한다. 화상통화모드 및 음성통화모드를 구현하기 위하여 이동통신 모듈(112)은 음성 및 영상 중 적어도 하나를 송수신하도록 형성된다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN), WiFi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), 와이-파이 다이렉트 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 여기에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라는(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(표시부)(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(저장부)(160)에 저장되거나 무선 통신부(110)를 통하여 외부 기기로 전송될 수 있다. 또한, 카메라(121)에서 획득되는 화상 프레임으로부터 사용자의 위치 정보 등이 산출될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자로부터 인가되는 이동 단말기(100)의 동작을 제어하기 위한 제어명령에 따른 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

감지부(또는 센싱부, 140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 감지 신호 (또는 센싱 신호)를 발생시킨다. 예를 들어 감지부(140)는 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 감지할 수 있다. 또한, 감지부(140)는 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 감지할 수도 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(153), 알람부(154) 및 햅틱 모듈(155) 등이 포함될 수 있다.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에 디스플레이부(151)는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디(body)의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

또한, 상기 디스플레이부(151)는 입체영상을 표시하는 입체 디스플레이부(152)로서 구성될 수 있다.

여기서, 입체영상은 3차원 입체영상(3-dimensional stereoscopic image)을 나타내며, 3차원 입체 영상(3-dimensional stereoscopic image)은 모니터나 스크린 상에서 사물이 위치한 점진적 깊이(depth)와 실체(reality)를 현실 공간과 동일하게 느낄 수 있도록 한 영상이다. 3차원 입체 영상은 양안시차(binocular disparity)를 이용하여 구현된다. 양안시차란 떨어져 있는 두 눈의 위치에 의하여 이루어지는 시차를 의미하는 것으로, 두 눈이 서로 다른 2차원 화상을 보고 그 화상들이 망막을 통하여 뇌로 전달되어 융합되면 입체 영상의 깊이 및 실제감을 느낄 수 있게 된다.

상기 입체 디스플레이부(152)에는 스테레오스코픽 방식(안경 방식), 오토 스테레오스코픽 방식(무안경 방식), 프로젝션 방식(홀로그래픽 방식) 등의 3차원 디스플레이 방식이 적용될 수 있다. 가정용 텔레비전 수신기 등에 많이 이용되는 스테레오스코픽 방식에는 휘스톤 스테레오스코프 방식 등이 있다.

상기 오토 스테레오스코픽 방식의 예로서, 패럴렉스 배리어(parallex barrier) 방식, 렌티큘러(lenticular) 방식, 집적영상(integral imaging) 방식, 스위츠블 렌즈(switchable lens) 등이 있다. 프로젝션 방식에는 반사형 홀로그래픽 방식, 투과형 홀로그래픽 방식 등이 있다.

일반적으로 3차원 입체 영상은 좌 영상(좌안용 영상)과 우 영상(우안용 영상)으로 구성된다. 좌 영상과 우 영상이 3차원 입체 영상으로 합쳐지는 방식에 따라, 좌 영상과 우 영상을 한 프레임 내 상하로 배치하는 탑-다운(top-down) 방식, 좌 영상과 우 영상을 한 프레임 내 좌우로 배치하는 L-to-R(left-to-right, side by side) 방식, 좌 영상과 우 영상의 조각들을 타일 형태로 배치하는 체커 보드(checker board) 방식, 좌 영상과 우 영상을 열 단위 또는 행 단위로 번갈아 배치하는 인터레이스드(interlaced) 방식, 그리고 좌 영상과 우 영상을 시간 별로 번갈아 표시하는 시분할(time sequential, frame by frame) 방식 등으로 나뉜다.

또한, 3차원 썸네일 영상은 원본 영상 프레임의 좌 영상 및 우 영상으로부터 각각 좌 영상 썸네일 및 우 영상 썸네일을 생성하고, 이를 합쳐서 하나의 3차원 썸네일 영상을 생성할 수 있다. 일반적으로 썸네일(thumbnail)은 축소된 화상 또는 축소된 정지영상을 의미한다. 이렇게 생성된 좌 영상 썸네일과 우 영상 썸네일은 좌 영상과 우 영상의 시차에 대응하는 깊이감(depth)만큼 화면 상에서 좌우 거리차를 두고 표시됨으로써 입체적인 공간감을 나타낼 수 있다.

3차원 입체영상의 구현에 필요한 좌 영상과 우 영상은 입체 처리부(미도시)에 의하여 입체 디스플레이부(152)에 표시될 수 있다. 입체 처리부는 3D 영상을 입력받아 이로부터 좌 영상과 우 영상을 추출하거나, 2D 영상을 입력받아 이를 좌 영상과 우 영상으로 전환하도록 이루어진다.

한편, 디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 대상체가 터치 센서 상에 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. 여기에서, 터치 대상체는 상기 터치 센서에 터치를 인가하는 물체로서, 예를 들어, 손가락, 터치펜 또는 스타일러스 펜(Stylus pen), 포인터 등이 될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

도 1을 참조하면, 상기 터치 스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 근접 센서(141)는 상기 센싱부(140)의 일 예로서 구비될 수 있다. 상기 근접 센서(141)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서(141)는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서(141)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전 용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치 스크린이 정전식인 경우에는 전도성을 갖는 물체(이하, 포인터라 함)의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치 스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치 스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치 스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치 스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치 스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서(141)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

입체 디스플레이부(152)와 터치 센서가 상호 레이어 구조를 이루는 경우(이하, '입체 터치스크린'이라 함)나, 입체 디스플레이부(152)와 터치 동작을 감지하는 3차원 센서가 서로 조합되는 경우에는 상기 입체 디스플레이부(152)는 3차원의 입력 장치로도 사용될 수 있다.

상기 3차원 센서의 예로서, 상기 센싱부(140)는 근접 센서(141), 입체 터치센싱부(142), 초음파 센싱부(143), 카메라 센싱부(144)를 포함할 수 있다.

근접센서(141)는 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 터치를 가하는 감지대상(예를 들어, 사용자의 손가락이나 스타일러스 펜)와 검출면과의 거리를 측정한다. 단말기는 이러한 거리를 이용하여 입체영상의 어느 부분이 터치되었는지를 인식하게 된다. 특히, 터치스크린이 정전식인 경우에는 상기 감지대상의 근접에 따른 전계의 변화로 상기 감지대상의 근접 정도를 검출하고, 이러한 근접 정도를 이용하여 3차원상의 터치를 인식하도록 구성된다.

입체 터치센싱부(142)는 터치 스크린상에 가해지는 터치의 세기나 지속시간을 감지하도록 이루어진다. 예를 들어, 입체 터치센싱부(142)는 터치를 가하는 압력을 감지하고, 가압력이 강하면 이를 단말기의 내부를 향하여 터치 스크린과 보다 멀리 위치한 객체에 대한 터치로 인식한다.

초음파 센싱부(143)는 초음파를 이용하여, 감지대상의 위치정보를 인식하도록 이루어진다.

초음파 센싱부(143)는, 예를 들어 광 센서와 복수의 초음파 센서로 이루어질 수 있다. 광 센서는 광을 감지하도록 형성되며, 초음파 센서는 초음파를 감지하도록 형성된다. 광이 초음파보다 매우 빠르기 때문에, 광이 광 센서에 도달하는 시간은 초음파가 초음파 센서에 도달하는 시간보다 매우 빠르다. 따라서, 광을 기준 신호로 초음파가 도달하는 시간과의 시간차를 이용하여 파동 발생원의 위치를 산출할 수 있게 된다.

카메라 센싱부(144)는 카메라(121), 포토 센서, 레이저 센서 중 적어도 하나를 포함한다.

예를 들어, 카메라(121)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지한다. 카메라에 의하여 촬영된 2차원 영상에 레이저 센서에 의하여 감지된 거리정보가 더해지면, 3차원 정보가 획득될 수 있다.

또 다른 예로서, 포토 센서가 디스플레이 소자에 적층될 수 있다. 포토 센서는 터치 스크린에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 보다 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보를 획득하게 된다.

음향 출력 모듈(153)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(153)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(153)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.

알람부(154)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(100)에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(154)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동을 이용하여, 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음향 출력 모듈(153)을 통해서도 출력될 수 있어서, 디스플레이부(151) 및 음향 출력 모듈(153)은 알람부(154)의 일부로 분류될 수도 있다.

햅틱 모듈(haptic module)(155)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(155)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다. 햅택 모듈(155)이 발생하는 진동의 세기와 패턴 등은 사용자의 선택 또는 제어부의 설정에 의해 제어될 수 있다. 예를 들어, 상기 햅틱 모듈(155)은 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(155)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(155)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(155)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치 스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부 기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 등이 인터페이스부(170)에 포함될 수 있다.

한편, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(170)를 통하여 단말기(100)와 연결될 수 있다.

또한, 상기 인터페이스부(170)는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수 있다.

제어부(controller, 180)는 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등과 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티미디어 재생을 위한 멀티미디어 모듈을 구비할 수도 있다. 멀티미디어 모듈은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

또한, 상기 제어부(180)는 상기 터치 스크린상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

또한, 상기 제어부(180)는 상기 이동 단말기의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행할 수 있다. 또한, 상기 제어부(180)는 상기 잠금 상태에서 상기 디스플레이부(151)를 통해 감지되는 터치 입력에 근거하여 상기 잠금 상태에서 표시되는 잠금화면을 제어할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시 예는 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시 예들은 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다.

소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 애플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

이하에서는, 하나의 이미지 센서(2D(Two Dimensions) 이미지 센서)를 통해 컬러 영상 및 깊이 정보를 검출할 수 있는 이미지 처리 장치 및 그 방법을 설명하며, 상기 이미지 처리 장치는 상기 카메라(121)에 적용될 수 있다.

도 2는 본 발명의 실시예에 따른 이미지 처리 장치의 구성을 나타낸 도이다.

도 2에 도시한 바와 같이, 본 발명의 실시예에 따른 이미지 처리 장치는, 컬러 이미지 모드일 때 컬러 필터(11)를 선택하도록 하는 제1 선택 신호를 발생하고, 깊이 이미지 모드(depth image mode)일 때 적외선 필터(12)를 선택하도록 하는 제2 선택 신호를 발생하는 처리부(30)와;

상기 컬러 필터(11)와 상기 적외선 필터(12)를 포함하며, 상기 제1 선택 신호를 근거로 상기 컬러 필터(11)를 선택하고, 상기 제2 선택 신호를 근거로 상기 적외선 필터(12)를 선택하는 필터 체인저(10)와;

상기 제1 선택 신호를 근거로 턴-오프되고, 상기 제2 선택 신호를 근거로 적외선 광을 발생하는 적외선 광 발생부(40)와;

상기 컬러 필터(11)를 통해 입력되는 컬러 이미지를 검출하고, 상기 적외선 필터(12)를 통해 입력되는 적외선 광 이미지를 검출하는 이미지 센서(20)와;

상기 처리부(30)는, 상기 검출된 컬러 이미지를 수신하고, 상기 검출된 적외선 광 이미지를 근거로 깊이 이미지(깊이 맵)를 검출하고, 상기 수신된 컬러 이미지와 상기 검출된 깊이 이미지를 출력하거나, 상기 수신된 컬러 이미지와 상기 검출된 깊이 이미지를 근거로 3차원 이미지를 생성한다.

일반적으로 물체와 이미지 센서간의 거리 정보에 기초하여 재구성된 영상을 해당분야에서는 깊이 이미지(depth image)로 표현한다. 상기 깊이 이미지는 가시광선(visible light) 영역 이외의 적외선(infrared light)을 이용하여 얻어질 수 있다. 상기 이미지 센서(20)는 상기 컬러 필터(11)를 통해 물체(피사체)의 컬러 이미지 정보를 검출하고, 상기 적외선 필터(12)를 통해 상기 물체의 깊이 이미지를 검출한다. 상기 컬러 필터(11)는 RGB(Red, Green, Blue) BPF(band pass filter)일 수 있으며, 상기 적외선 필터(12)는 적외선 BPF(band pass filter)일 수 있다.

상기 처리부(30)는, 상기 컬러 이미지 모드일 때 상기 컬러 필터(11)를 선택하도록 함과 동시에 상기 적외선 광 발생부(40)를 턴-오프시킴으로써 가시광이 상기 물체에 조사되도록 하며, 상기 깊이 이미지 모드일 때 상기 적외선 필터(12)를 선택하도록 함과 동시에 상기 적외선 광 발생부(40)를 턴-온시킴으로써 상기 적외선 광이 상기 물체에 조사되도록 한다.

상기 처리부(30)는 상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 그 어느 하나의 픽셀과 인접 픽셀들을 이용하여 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지(깊이 맵)를 검출한다.

상기 처리부(30)는 상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 그 어느 하나의 픽셀과 인접 픽셀들의 평균값을 구하고, 그 구해진 평균값을 근거로 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지(깊이 맵)를 검출할 수도 있다.

상기 처리부(30)는 상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 그 어느 하나의 픽셀과 인접 픽셀들의 합을 구하고, 그 구해진 합을 근거로 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지(깊이 맵)를 검출할 수도 있다. 예를 들면, 상기 어느 하나의 픽셀과 인접 픽셀들의 합을 근거로 비닝(binning)을 수행하여 비닝값을 구하면 이미지 신호의 감도를 증가시키는 효과를 기대할 수 있다.

상기 처리부(30)는 상기 수신된 컬러 이미지와 상기 검출된 깊이 이미지를 근거로 3차원 이미지를 생성하고, 그 생성한 3차원 이미지를 보간(interpolation)하고, 그 보간된 신호를 최종 3차원 이미지 신호로서 출력할 수도 있다.

이하에서는, 하나의 이미지 센서(2D(Two Dimensions) 이미지 센서)를 통해 컬러 영상 및 깊이 정보를 검출할 수 있는 이미지 처리 방법을 도 1 내지 도 4를 참조하여 설명한다.

도 3은 본 발명의 실시예에 따른 이미지 처리 방법을 나타낸 흐름도이다.

먼저, 상기 처리부(30)는 컬러 이미지 모드일 때 상기 컬러 필터(11)를 선택하도록 하는 제1 선택 신호를 발생하고, 그 제1 선택 신호를 상기 필터 체인저(10)에 출력한다. 상기 필터 체인저(10)는 상기 제1 선택 신호를 근거로 상기 물체의 컬러 이미지 광이 상기 컬러 필터(11)를 통해 상기 이미지 센서(20)에 인가되도록 상기 컬러 필터(11)를 상기 이미지 센서(20) 방향으로 이동시킴으로써 상기 컬러 필터(11)를 선택한다(S11).

상기 처리부(30)는 깊이 이미지 모드일 때 상기 적외선 필터(12)를 선택하도록 하는 제2 선택 신호를 발생하고, 그 제2 선택 신호를 상기 필터 체인저(10)에 출력한다. 이때, 상기 적외선 광 발생부(40)는 상기 제2 선택 신호를 근거로 적외선 광을 발생하고, 그 발생한 적외선 광을 상기 물체에 조사한다. 상기 필터 체인저(10)는 상기 제2 선택 신호를 근거로 상기 물체의 적외선 이미지 광이 상기 적외선 필터(11)를 통해 상기 이미지 센서(20)에 인가되도록 상기 적외선 필터(11)를 상기 이미지 센서(20) 방향으로 이동시킴으로써 상기 적외선 필터(12)를 선택한다(S12). 즉, 상기 필터 체인저(10)는 깊이 이미지 모드에서 상기 컬러 필터(11)를 상기 이미지 센서(20) 방향과는 다른 방향으로 이동시킴과 동시에 상기 적외선 필터(12)를 상기 이미지 센서(20) 방향으로 이동시킨다. 상기 필터 체인저(10)는 컬러 이미지 모드에서 상기 적외선 필터(12)를 상기 이미지 센서(20) 방향과는 다른 방향으로 이동시킴과 동시에 상기 컬러 필터(11)를 상기 이미지 센서(20) 방향으로 이동시킨다.

상기 이미지 센서(20)는 상기 컬러 이미지 모드에서 상기 컬러 필터(11)를 통해 입력되는 컬러 이미지 광을 근거로 컬러 이미지를 검출하고, 그 검출한 컬러 이미지를 상기 처리부(30)에 출력한다(S13).

상기 이미지 센서(20)는 상기 깊이 이미지 모드에서 상기 적외선 필터(12)를 통해 입력되는 적외선 이미지 광을 근거로 적외선 광 이미지를 검출하고, 그 검출한 적외선 광 이미지를 상기 처리부(30)에 출력한다(S14).

상기 처리부(30)는, 상기 검출된 컬러 이미지를 수신하고, 상기 검출된 적외선 광 이미지를 근거로 깊이 이미지(깊이 맵)를 검출하고, 상기 수신된 컬러 이미지와 상기 검출된 깊이 이미지를 그대로 출력하거나, 상기 수신된 컬러 이미지와 상기 검출된 깊이 이미지를 근거로 3차원 이미지를 생성한다(S15).

상기 처리부(30)는 도 4에 도시한 바와 같이 상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 그 어느 하나의 픽셀과 인접 픽셀들의 합을 구하고, 그 구해진 합을 근거로 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지(깊이 맵)를 검출할 수도 있다.

도 4는 본 발명의 실시예에 따른 픽셀 비닝 수행을 설명하기 위한 픽셀 어레이의 패턴을 나타낸 예시도이다.

도 4에 도시한 바와 같이, 상기 처리부(30)는 상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 그 어느 하나의 픽셀과 인접 픽셀들(예를 들면, 2*2 픽셀)의 합을 구하고, 그 구해진 합을 근거로 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지(깊이 맵)를 검출할 수도 있다.

이상에서 설명한 바와 같이, 본 발명의 실시예에 따른 이미지 처리 장치 및 그 방법은, 하나의 이미지 센서에 컬러 필터 또는 적외선 필터를 선택하는 필터 체인저를 구비함으로써 하나의 이미지 센서를 통해 컬러 이미지 및 깊이 이미지(깊이 정보)를 검출할 수 있다.

본 발명의 실시예에 따른 이미지 처리 장치 및 그 방법은, 하나의 이미지 센서에 컬러 필터 또는 적외선 필터를 선택하는 필터 체인저를 구비함으로써 하나의 이미지 센서를 통해 컬러 이미지 및 깊이 이미지를 검출하고, 그 검출한 컬러 이미지 및 깊이 이미지(깊이 정보)를 근거로 3차원 이미지를 생성할 수도 있다.

본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

10: 필터 체인저 20: 이미지 센서
30: 처리부 40: 적외선 광 발생부

Claims (10)

1. 컬러 필터와 적외선 필터를 포함하며, 상기 컬러 필터를 선택하거나, 상기 적외선 필터를 선택하는 필터 체인저와;
   상기 컬러 필터를 통해 입력되는 컬러 광을 근거로 컬러 이미지를 검출하고, 상기 적외선 필터를 통해 입력되는 적외선 광을 근거로 적외선 광 이미지를 검출하는 이미지 센서를 포함하며,
   상기 처리부는 상기 검출된 적외선 광 이미지를 근거로 깊이 이미지를 검출하고, 상기 검출된 컬러 이미지와 상기 검출된 깊이 이미지를 출력하는 것을 특징으로 하는 이미지 처리 장치.
2. 제1항에 있어서, 상기 처리부는,
   컬러 이미지 모드일 때 상기 컬러 필터를 선택하도록 상기 필터 체인저를 제어하고, 깊이 이미지 모드일 때 상기 적외선 필터를 선택하도록 상기 필터 체인저를 제어하는 것을 특징으로 하는 이미지 처리 장치.
3. 제2항에 있어서,
   적외선 광을 발생하는 적외선 광 발생부는 더 포함하며, 상기 적외선 광 발생부는 상기 컬러 이미지 모드일 때 턴-오프되고, 상기 깊이 이미지 모드일 때 상기 적외선 광을 발생하는 것을 특징으로 하는 이미지 처리 장치.
4. 제1항에 있어서, 상기 이미지 센서는 이차원 이미지 센서인 것을 특징으로 하는 이미지 처리 장치.
5. 제1항에 있어서, 상기 처리부는,
   상기 검출된 컬러 이미지와 상기 검출된 깊이 이미지를 근거로 3차원 이미지를 생성하는 것을 특징으로 하는 이미지 처리 장치.
6. 제3항에 있어서, 상기 처리부는,
   상기 깊이 이미지 모드에서 상기 적외선 필터를 선택하도록 상기 필터 체인저를 제어함과 동시에 상기 적외선 광 발생부를 턴-온시키는 것을 특징으로 하는 이미지 처리 장치.
7. 제1항에 있어서, 상기 처리부는,
   상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 상기 어느 하나의 픽셀과 인접 픽셀들을 이용하여 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지를 검출하는 것을 특징으로 하는 이미지 처리 장치.
8. 제1항에 있어서, 상기 처리부는,
   상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 상기 어느 하나의 픽셀과 인접 픽셀들의 평균값을 구하고, 상기 구해진 평균값을 근거로 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지를 검출하는 것을 특징으로 하는 이미지 처리 장치.
9. 제1항에 있어서, 상기 처리부는,
   상기 적외선 광 이미지에 대응하는 픽셀들 중에서 어느 하나의 픽셀을 선택하고, 상기 어느 하나의 픽셀과 인접 픽셀들의 합을 구하고, 상기 구해진 합을 근거로 비닝(binning)을 수행하여 비닝값을 구하고, 상기 구해진 비닝된 값을 근거로 상기 깊이 이미지를 검출하는 것을 특징으로 하는 이미지 처리 장치.
10. 컬러 이미지 모드에서, 컬러 필터와 적외선 필터를 포함하는 필터 체인저가 상기 컬러 필터를 선택하도록 상기 필터 체인저를 제어하는 단계와;
    깊이 이미지 모드에서, 상기 필터 체인저가 상기 적외선 필터를 선택하도록 상기 필터 체인저를 제어하는 단계와;
    상기 컬러 필터를 통해 이미지 센서에 입력되는 컬러 광을 근거로 컬러 이미지를 검출하는 단계와;
    상기 적외선 필터를 통해 상기 이미지 센서에 입력되는 적외선 광을 근거로 적외선 광 이미지를 검출하는 단계와;
    상기 검출된 적외선 광 이미지를 근거로 깊이 이미지를 검출하고, 상기 깊이 이미지 및 상기 컬러 이미지를 출력하는 단계를 포함하는 것을 특징으로 하는 이미지 처리 방법.

Images