KR101892636B1 - 이동 단말기 및 그 3ｄ 이미지 생성 방법 - Google Patents

Abstract

고화소 카메라와 저화소 카메라를 구비한 이동 단말기 및 그 3D 이미지 생성방법이 개시된다. 이동 단말기의 3D 이미지 생성방법은, 고화소 카메라와 저화소 카메라의 촬상 조건을 일치시키는 단계, 고화소 카메라와 저화소 카메라로부터 촬상된 이미지를 수신하여 저화소 이미지를 고화소 이미지의 화소수에 맞춰 업스케일링하는 단계, 및 고화소 카메라 이미지와 업스케일링된 저화소 카메라 이미지를 이용하여 양안 시차를 계산하는 단계를 포함한다.

Description

이동 단말기 및 그 3Ｄ 이미지 생성 방법{MOBILE TERMINAL AND METHOD FOR FORMING 3D IMAGE THEREOF}

본 발명은 이동 단말기 및 그 3D 이미지 촬상 방법에 관한 것으로, 고화소와 저화소 카메라를 갖춘 이동 단말기에 있어서 3D 이미지를 생성하는 방법에 관한 것이다.

최근 앱북, 노트북, 휴대폰 등과 같은 이동 단말기(terminal)는 셀룰러 통신망을 통한 음성 통화 기능과 무선 또는 데이터 통신망을 통한 데이터 통신과 같은 각종 통신 서비스를 제공하는 외에도 카메라 기능과 같은 각종 사용자 편의 기능을 제공하고 있다.

이와 같은 이동 단말기의 다기능화에 따라 카메라 기능에 있어서도 보다 고화소의 고품질의 카메라가 요구되고 있으며 근래 3D 컨텐츠에 대한 소비자 요구가 대두됨에 따라 3D 이미지 촬상 기능이 요구되고 있다.

그러나 3D 이미지 촬상을 위해서는 2 개의 카메라가 요구되므로, 2 개의 카메라를 모두 고화소 카메라로 제공하는 경우 이동 단말기의 자체 단가가 높아져 고급 제품에만 3D 이미지 촬상 기능을 제공할 수 있다는 한계가 있다.

본 발명의 과제는 기존 이동 단말기에 채용되는 고화소 및 저화소의 2 개의 카메라를 사용하여 3D 이미지 생성 기능을 제공하는 이동 단말기 및 그 3D 이미지 생성 방법을 제공하는 것이다.

상기한 과제를 실현하기 위한 본 발명의 일 실시예에 따른 고화소 카메라와 저화소 카메라를 구비한 이동 단말기의 3D 이미지 생성방법은, 상기 고화소 카메라와 상기 저화소 카메라의 촬상 조건을 일치시키는 단계; 상기 고화소 카메라와 상기 저화소 카메라로부터 촬상된 이미지를 수신하여 상기 저화소 이미지를 상기 고화소 이미지의 화소수에 맞춰 업스케일링하는 단계; 및 상기 고화소 카메라 이미지와 상기 업스케일링된 저화소 카메라 이미지를 이용하여 양안 시차를 계산하는 단계;를 포함한다.

여기서, 상기 양안 시차에 근거하여 상기 고화소 카메라 이미지를 상기 저화소 카메라 이미지에 따라 이동시켜, 상기 저화소 카메라 이미지를 복원하는 단계;를 더 포함할 수 있다.

또한 상기 양안 시차에 근거하여 3D 깊이맵을 작성하는 단계;를 더 포함할 수 있다.

그리고 상기 3D 깊이맵과 상기 고화소 카메라 이미지를 사용하여 3D 이미지를 복원하는 단계;를 더 포함할 수 있다.

한편 상기 고해상도 카메라 및 상기 저해상도 카메라는, 상기 저해상도 카메라 이미지가 상기 고해상도 카메라 이미지가 수신되지 않는 시간 구간 동안 수신되도록 상호 동기화될 수 있다.

또한 동기화를 위해 상기 고해상도 카메라 및 상기 저해상도 카메라는 고정 프레임으로 동작될 수 있다.

한편, 본 발명에 따른 이동 단말기는, 고화소 카메라 및 상기 고화소 카메라와 동일 평면에 그 광축이 평행하도록 배치되는 저화소 카메라; 상기 카메라들로부터 수신되는 이미지 데이터를 처리하는 멀티미디어 모듈: 및 상기 카메라들 및 상기 멀티미디어 모듈을 제어하여, 상기 고화소 카메라와 상기 저화소 카메라의 촬상 조건을 일치시키고 상기 멀티미디어 모듈에서 수신된 상기 고화소 카메라와 상기 저화소 카메라로부터 촬상된 이미지 중 상기 저화소 이미지를 상기 고화소 이미지의 화소수에 맞춰 업스케일링하고, 상기 고화소 카메라 이미지와 상기 업스케일링된 저화소 카메라 이미지를 이용하여 양안 시차를 계산하도록 상기 멀티미디어 모듈을 제어하는 제어부;를 포함한다.

여기서 상기 저화소 카메라는 적어도 180도 회전 가능한 경통 상에 설치될 수 있다.

또한 상기 고해상도 카메라 및 상기 저해상도 카메라는, 상기 저해상도 카메라 이미지가 상기 고해상도 카메라 이미지가 수신되지 않는 시간 구간 동안 수신되도록 상호 동기화될 수 있다.

그리고 상기 고해상도 카메라 및 상기 저해상도 카메라는 동기화를 위해 고정 프레임으로 동작될 수 있다.

본 발명에 따른 이동 단말기 및 그 3D 이미지 생성 방법에 따르면 이동 단말기에 채용되는 2 개의 카메라 중 하나를 저화소 카메라로 채용하고 고화소 카메라와 동일한 포트를 이용하도록 하므로 이동 단말기의 생산 단가를 낮추어, 3D 콘텐츠를 이용하고자 하는 소비자들에게 저렴한 비용으로 다기능의 이동 단말기를 널리 보급할 수 있게 된다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2는 본 발명의 일 실시예에 따른 카메라의 연결 구조를 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시예에 따른 카메라의 3D 이미지 촬상을 위한 구조를 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 이동 단말기의 3D 이미지 촬상 방법을 설명하기 위한 흐름도이다.
도 5는 본 발명의 다른 실시예에 따른 이동 단말기의 3D 이미지 촬상 방법을 설명하기 위한 흐름도이다.
도 6은 본 발명의 실시예들에 따른 이동 단말기의 3D 이미지 촬상 방법을 보다 상세히 설명하기 위한 도면이다.
도 7은 본 발명의 실시예들에 따른 이동 단말기의 3D 촬상 방법에 따라 생성되는 각 카메라 이미지를 설명하기 위한 도면이다.

본 발명의 상술한 목적, 특징들 및 장점은 첨부된 도면과 관련된 다음의 상세한 설명을 통해 보다 분명해질 것이다. 다만, 본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예들을 가질 수 있는 바, 이하에서는 특정 실시예들을 도면에 예시하고 이를 상세히 설명하고자 한다. 명세서 전체에 걸쳐서 동일한 참조번호들은 원칙적으로 동일한 구성요소들을 나타낸다. 또한, 본 발명과 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 본 명세서의 설명 과정에서 이용되는 숫자(예를 들어, 제1, 제2 등)는 하나의 구성요소를 다른 구성요소와 구분하기 위한 식별기호에 불과하다

이하, 본 발명이 적용되는 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 본 발명은 이동 단말기에 적용되는 경우를 주로 예를 들어 설명하나 본 발명은 이에 제한되지는 않으며 각종 단말기에서 비 보안 통신 프로토콜을 사용하면서도 특정 정보에 대해서는 보안 통신을 필요로 하는 경우에 적용될 수 있다.

이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리부(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기를 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVBH(Digital Video BroadcastHandheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 각종 방송 시스템을 이용하여 방송 신호를 수신하는데, 특히, DMBT(Digital Multimedia BroadcastingTerrestrial), DMBS(Digital Multimedia BroadcastingSatellite), MediaFLO(Media Forward Link Only), DVBH(Digital Video BroadcastHandheld), ISDBT(Integrated Services Digital BroadcastTerrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 방송 신호를 제공하는 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리부(160)에 저장될 수 있다.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 무선 인터넷 모듈(113)은 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(WiFi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 확인하거나 얻기 위한 모듈이다. 상기 위치정보 모듈의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은, 일 지점(개체)이 3개 이상의 위성으로부터 떨어진 거리에 관한 정보와, 상기 거리 정보가 측정된 시간에 관한 정보를 산출한 다음 상기 산출된 거리 정보에 삼각법을 적용함으로써, 일 시간에 일 지점(개체)에 대한 위도, 경도, 및 고도에 따른 3차원의 위치 정보를 산출할 수 있다. 나아가, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법 또한 사용되고 있다. GPS 모듈(115)은 현 위치를 실시간으로 계속 산출하고 그를 이용하여 속도 정보를 산출하기도 한다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이 모듈(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리부(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등과 관련된 센싱 기능을 담당할 수도 있다. 한편, 상기 센싱부(140)는 자세감지센서(141) 및/또는 근접센서를 포함할 수 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이 모듈(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.

디스플레이 모듈(151)는 이동 단말기(100)에서 처리되는 정보를 표시 출력한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이 모듈(151)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistorliquid crystal display), 유기 발광 다이오드(organic lightemitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 투명 LCD 등이 있다. 디스플레이 모듈(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이 모듈(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이 모듈(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이 모듈들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이 모듈(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 약칭함)에, 디스플레이 모듈(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이 모듈(151)의 특정 부위에 가해진 압력 또는 디스플레이 모듈(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이 모듈(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

도 1을 참조하면, 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접센서가 배치될 수 있다. 상기 근접센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접센서, 정전용량형 근접센서, 자기형 근접센서, 적외선 근접센서 등이 있다.

상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서는, 근접 터치 및 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리부(160)에 저장된 오디오 데이터를 출력할 수도 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 비디오 신호나 오디오 신호는 디스플레이 모듈(151)이나 음성 출력 모듈(152)을 통해서도 출력될 수 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열에 의한 자극에 의한 효과, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력을 통한 자극에 의한 효과, 피부 표면을 스치는 자극에 의한 효과, 전극(eletrode)의 접촉을 통한 자극에 의한 효과, 정전기력을 이용한 자극에 의한 효과, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자의 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

메모리부(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리부(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리부(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(ReadOnly Memory, ROM), EEPROM(Electrically Erasable Programmable ReadOnly Memory), PROM(Programmable ReadOnly Memory) 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리부(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.

상기 인터페이스부는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(microcontrollers), 마이크로 프로세서(microprocessors), 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 그러한 실시예들이 제어부(180)에 의해 구현될 수 있다.

소프트웨어적인 구현에 의하면, 절차나 기능과 같은 실시예들은 적어도 하나의 기능 또는 작동을 수행하게 하는 별개의 소프트웨어 모듈과 함께 구현될 수 있다. 소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션에 의해 구현될 수 있다. 또한, 소프트웨어 코드는 메모리부(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

도 2 및 도 3은 본 발명의 카메라의 연결 구조와 3D 이미지를 촬상하기 위한 구조를 보다 상세히 설명하기 위한 도면이다.

도 2를 참조하면, 일반적인 카메라의 구조는 주 카메라(Main camera: 121a)와 보조 카메라(Sub camera : 121b)로 구성된다.

주 카메라(121a)와 보조 카메라(121b)는 하나의 카메라 포트를 공용으로 사용하여 제어부(180) 특히 멀티미디어 모듈(181)과 연결된다.

따라서 기존의 3D 전용으로 설계된 이동 단말기에서 2 개의 카메라가 고화소의 고품질 카메라로 구성되고 각각의 카메라가 별도의 카메라 포트를 통해 멀티미디어 모듈과 연결되는 구조와는 달리 저비용으로 3D 이미지 촬상의 기능을 수행할 수 있게 된다.

그러나 저화소의 주 카메라(121a)와 고화소의 보조 카메라(121b)는 그 화소수는 다르더라도 카메라의 화각은 동일하게 구현하여야 한다.

다만 주 카메라(121a)는 대부분 메인 디스플레이 모듈(151)과 동일한 이동 단말기의 전면이 아닌 그 후면에 설치되고 보조 카메라(121b)는 메인 디스플레이 모듈(151)과 동일한 이동 단말기의 전면에 설치되는 것이 일반적이다.

따라서 도 3을 참조하면, 보조 카메라(121b)는 이동 단말기(100)의 전면부에 설치되어 180도 회전하여 후면에 설치될 수 있도록 경통 형태의 구조물 상에 설치되는 것이 바람직하다.

즉, 전면에 위치한 보조 카메라(121b)가 설치된 구조물(경통)을 회전시키면 그 후면으로 회전되어 주 카메라(121a)와 동일한 면에 위치하게 된다.

또한 상기와 같이 경통이 회전하여 주 카메라(121a)와 보조 카메라(121b)가 동일한 평면 상에 위치할 때 두 카메라의 광축이 평행하도록 배치하고 3D 카메라 구현을 위해 소정 거리 이격되도록 구현한다.

도 4는 본 발명의 일 실시예에 따른 이동 단말기의 3D 이미지 촬상 방법을 설명하기위한 흐름도이다.

도 4를 참조하면, 주 카메라(121a)와 보조 카메라(121b)를 이용하여 3D 이미지를 촬상하기 위해 사용자는 우선 주 카메라(121a)가 설치된 경통을 회전시켜 보조 카메라(121b)와 동일한 평면 상에 위치시키고 사용자 입력부(130)를 통해 3D 이미지 촬상 명령을 입력한다.

이에 따라 3D 이미지의 촬상 기능이 수행되어, 제어부(180)는 우선 주 카메라(121a)와 보조 카메라(121b)의 자동 초점(AF), 자동 노출(AE) 및 화이트 밸런스(AWB) 등 두 카메라의 촬상 조건를 맞추고 대상물의 이미지를 촬상하도록 한다(S410).

그리고 두 카메라로부터 각각 촬상된 대상물의 이미지 데이터가 멀티미디어 모듈(181)로 입력되면, 제어부(180)는 저화소 카메라인 주 카메라(121a)로부터 입력된 이미지를 고화소 카메라인 보조 카메라(121b) 이미지와 동일하게 업스케일링한다(S420).

이 경우 업스케일링은 단순히 동일한 화소에 대한 이미지 데이터를 중복하여 부족한 화소수를 채움으로써 화소수를 늘리는 정도의 간단한 방식으로도 본 발명에 따른 실시예의 수행에는 충분하다.

이어서 저화소 카메라와 고화소 카메라로부터 촬상된 이미지 데이터에 대해 각 카메라의 기구적 차이에 따른 기구적인 부정합 요소에 대한 보정을 수행한다(S430).

그리고 제어부(180)는 각 카메라(121a, 121b)에 대해 광 축을 수렴면에 일치하도록 정렬시켜 3D 이미지 촬상을 위한 촛점을 자동으로 맞추는 오토 컨버전스를 수행하여 각 카메라로부터 대상물에 대해 촬상된 이미지 데이터가 멀티미디어 모듈(181)로 입력되도록 한다(S440).

이에 따라 멀티미디어 모듈(181)에서는 두 카메라(121a, 121b)로부터 입력된 이미지 데이터에 대해 각 블록별로 양안 시차를 계산한다(S450).

이때 양안 시차의 계산은 각 픽셀별로 수행할 수도 있으나 이미지 데이터를 구성하는 픽셀들을 소정 크기의 블록으로 나누고, 각 블록별로 두 개의 이미지 데이터를 비교하여 양안 시차를 계산할 수도 있다.

두 개의 이미지 데이터에 대한 양안 시차가 계산되면, 멀티미디어 모듈(181)은 주 카메라(121a)에서 촬상된 이미지 데이터를 상기 계산된 양안 시차 만큼씩 보조 카메라(121b)에서 촬상된 이미지 데이터에 따라 이동시켜 보조 카메라(121b)의 이미지 데이터를 복원한다(S460).

따라서 고화소인 주 카메라(121a)에서 촬상된 고화소 이미지 데이터를 중복 사용하게 되어 저화소인 보조 카메라(121b)를 사용함에도 불구하고 선명한 고화질의 3D 이미지 데이터의 생성이 가능하다.

한편 상술한 바와 같이 주 카메라(121a) 이미지의 이동과 보조 카메라(121b) 이미지 복원을 통해 3D 이미지 데이터를 생성하는 방식과 함께 본 발명의 다른 실시예에 따르면 3D 깊이 맵(Depth Map)을 작성하는 방식으로 3D 이미지를 생성한다.

도 5는 본 발명의 다른 실시예에 따른 3D 이미지 생성 방법을 설명하기 위한 흐름도이다.

사용자 입력부(130)를 통해 3D 이미지 촬상 명령이 입력되면, 제어부(180)는 주 카메라(121a)와 보조 카메라(121b)의 자동 초점(AF), 자동 노출(AE) 및 화이트 밸런스(AWB) 등 두 카메라의 촬상 조건를 맞추고 대상물의 이미지를 촬상하도록 한다(S510).

그리고 두 카메라로부터 각각 촬상된 대상물의 이미지 데이터가 멀티미디어 모듈(181)로 입력되면, 제어부(180)는 저화소 카메라인 주 카메라(121a)로부터 입력된 이미지를 고화소 카메라인 보조 카메라(121b) 이미지와 동일하게 업스케일링한다(S520).

이어서, 멀티미디어 모듈(181)에서는 두 카메라(121a, 121b)로부터 입력된 이미지 데이터에 대해 각 블록별로 양안 시차를 계산한다(S530).

한편 이를 위해 제어부(180)는 각 카메라(121a, 121b)에 대해 광 축을 수렴면에 일치하도록 정렬시켜 3D 이미지 촬상을 위한 촛점을 자동으로 맞추는 오토 컨버전스를 수행하여 각 카메라로부터 대상물에 대해 촬상된 이미지 데이터가 멀티미디어 모듈(181)로 입력되도록 하고, 필요한 경우 저화소 카메라와 고화소 카메라로부터 촬상된 이미지 데이터에 대해 각 카메라의 기구적 차이에 따른 기구적인 부정합 요소에 대한 보정을 수행한다.

그리고 멀티미디어 모듈(181)에서는 계산된 양안 시차를 바탕으로 촬상된 이미지 데이터에 포함된 각 요소들에 대해 3D 깊이맵(depth map)을 작성한다(S540).

3D 깊이맵은 양안 시차를 이용하여 카메라와 이미지 내에 형성된 각 대상물의 거리를 산출하여 작성되며 공지된 다양한 프로그램을 이용하여 작성될 수 있다.

한편, 일반적으로 3D 카메라는 두 개의 카메라가 각각 별도의 카메라 포트를 통해 멀티미디어 모듈(181)과 연결되도록 구현되나 앞서 본 발명에 따른 이동 단말기(100)는 주 카메라(121a)와 보조 카메라(121b)가 하나의 카메라 포트를 공유하여 멀티미디어 모듈(181)로 이미지를 전송할 수도 있는 것으로 설명한 바 있다.

이에 따라 하나의 카메라 포트를 이용하여 두 개의 카메라로부터 촬상된 이미지를 멀티미디어 모듈로 전송하는 과정에 대해 설명한다.

도 6은 본 발명에 따른 주 카메라(121a)와 보조 카메라(121b)의 데이터 전송 방법을 설명하기 위한 도면이다.

도면을 참조하면, 각 카메라는실제 데이터가 전송되는 구간과 데이터가 저농되지 않는 구간이 교호하여 나타난다.

즉, 주 카메라(121a)인 고해상도 카메라의 경우 A 구간(Blank Period)에서 실제 이미지 데이터는 전송되지 않고 B 구간(Active Period)에서만 데이터가 전송된다.

따라서 제어부(180)는 A 구간의 앞뒤로 소정 기간의 여유를 두고, 즉 앞 부분의 a 구간과 뒷 부분의 b 구간의 여유를 두고 A 구간 내에 저해상도 카메라인 보조 카메라(121b)의 C 구간(Active Period)이 오도록 조정한다.

이를 위해 주 카메라(121a)와 보조 카메라(121b)는 제어부(180)의 제어하에 동기를 맞추기 위해 리셋을 동시에 수행하고 고정 프레임으로 동작되도록 하는 것이 바람직하며, 제어부(180)는 상술한 바와 같이 보조 카메라(121b)의 이미지 전송을 위한 C 구간이 주 카메라(121a)의 블랭크 구간인 A 구간 내에 오도록 조정하는 것이 바람직하다.

도 7은 두 개의 고화소 카메라를 사용하여 촬상된 이미지 데이터와 본 발명에 따른 고화소 카메라와 저화소 카메라를 사용하여 촬상된 이미지 데이터를 이용한 3D 이미지 생성 과정을 설명하기 위한 도면이다.

도 7을 참조하면, 동일한 고화소의 카메라 2 개를 사용하여 촬상되는 3D 카메라에서 양안 시차를 작성하는 방식과 본 발명에 따른 고화소 카메라와 저화소 카메라를 사용해 양안 시차를 작성하는 방식을 비교하면, 본원의 고화소 카메라와 저화소 카메라의 경우 화각이 동일하면 2 개의 고화소 카메라를 사용하는 방식과 동일한 양안 시차가 작성된다.

또한 상술한 실시예들에 따르면 실제 3D 이미지를 복원할 때 저화소 카메라로부터 촬상된 이미지는 양안 시차 작성을 위해서 사용될 뿐 실제 3D 이미지 복원에 있어서는 고화소 카메라로부터 촬상된 이미지 만이 사용되기 때문에, 생성된 3D 이미지에 있어서도 고화소 카메라 2개를 사용한 경우와 그 해상도 등 3D 이미지의 품질에 있어서 차이가 없다.

본 발명은 기재된 실시예들에 한정되는 것이 아니고, 본 발명의 사상 및 범위를 벗어나지 않고 다양하게 수정 및 변형할 수 있음은 이 기술의 분야에서 통상의 지식을 가진 자에게 자명하다. 따라서, 그러한 수정예 또는 변형예들은 본 발명의 특허청구범위에 속한다 하여야 할 것이다.

100 : 이동 단말기 110 : 무선 통신부
140 : 센싱부 151 : 디스플레이 모듈
180 : 제어부

Claims (10)

1. 고화소 카메라와 저화소 카메라를 구비한 이동 단말기에 있어서,
   상기 고화소 카메라와 상기 저화소 카메라의 촬상 조건을 일치시키는 단계;
   상기 고화소 카메라와 상기 저화소 카메라로부터 촬상된 이미지를 수신하여 상기 저화소 이미지를 상기 고화소 이미지의 화소수에 맞춰 업스케일링하는 단계;
   상기 고화소 카메라 이미지와 상기 업스케일링된 저화소 카메라 이미지를 이용하여 양안 시차를 계산하는 단계;
   상기 양안 시차에 근거하여 3D 깊이맵을 작성하는 단계; 및
   상기 3D 깊이맵과 상기 고화소 카메라 이미지를 사용하여 3D 이미지를 복원하는 단계;를 포함하되,
   상기 고화소 카메라 및 상기 저화소 카메라는, 상기 저화소 카메라 이미지가 상기 고화소 카메라 이미지가 수신되지 않는 시간 구간 동안 수신되도록 상호 동기화되는 것을 특징으로 하는 이동 단말기의 3D 이미지 생성방법.
   
2. 제1 항에 있어서,
   상기 양안 시차에 근거하여 상기 고화소 카메라 이미지를 상기 저화소 카메라 이미지에 따라 이동시켜, 상기 저화소 카메라 이미지를 복원하는 단계;를 더 포함하는 것을 특징으로 하는 이동 단말기의 3D 이미지 생성방법.
   
3. 삭제
4. 삭제
5. 삭제
6. 제1 항에 있어서,
   동기화를 위해 상기 고화소 카메라 및 상기 저화소 카메라는 고정 프레임으로 동작되는 것을 특징으로 하는 이동 단말기의 3D 이미지 생성방법.
   
7. 고화소 카메라 및 상기 고화소 카메라와 동일 평면에 그 광축이 평행하도록 배치되는 저화소 카메라;
   상기 카메라들로부터 수신되는 이미지 데이터를 처리하는 멀티미디어 모듈: 및
   상기 카메라들 및 상기 멀티미디어 모듈을 제어하여, 상기 고화소 카메라와 상기 저화소 카메라의 촬상 조건을 일치시키고 상기 멀티미디어 모듈에서 수신된 상기 고화소 카메라와 상기 저화소 카메라로부터 촬상된 이미지 중 상기 저화소 이미지를 상기 고화소 이미지의 화소수에 맞춰 업스케일링하고, 상기 고화소 카메라 이미지와 상기 업스케일링된 저화소 카메라 이미지를 이용하여 양안 시차를 계산하도록 상기 멀티미디어 모듈을 제어하는 제어부;를 포함하되,
   상기 고화소 카메라 및 상기 저화소 카메라는, 상기 저화소 카메라 이미지가 상기 고화소 카메라 이미지가 수신되지 않는 시간 구간 동안 수신되도록 상호 동기화되는 것을 특징으로 하는 이동 단말기.
   
8. 삭제
9. 삭제
10. 제7 항에 있어서,
    상기 고화소 카메라 및 상기 저화소 카메라는 동기화를 위해 고정 프레임으로 동작되는 것을 특징으로 하는 이동 단말기.

Images