KR20180119281A - 이동 단말기 및 그 제어 방법 - Google Patents

Abstract

본 발명은 이동 단말기 및 그 제어 방법에 관한 것이다. 여기서, 본 발명의 일 실시 예에 따른 이동 단말기는, 제1 카메라 센서; 제2 카메라 센서; 이동 단말기 주변의 조도 변화를 센싱하는 조도 센서; 및 상기 제1 카메라 센서에 의한 이미지 촬영을 제어하고, 상기 조도 센서에서 센싱되는 조도 변화가 임계치 이상이면, 상기 제2 카메라 센서에서도 상기 이미지 촬영 시작하도록 제어하는 제어부를 포함한다.

Description

이동 단말기 및 그 제어 방법{MOBILE TERMINAL AND METHOD OF CONTROLLING THE SAME}

본 발명은 이동 단말기 및 그 제어 방법에 관한 것으로, 더욱 상세하게는 복수의 카메라가 구비되거나 연결된 이동 단말기에서의 카메라 센서 데이터 처리 방법에 관한 것이다.

단말기는 이동 가능 여부에 따라 이동 단말기 및 고정 단말기로 나뉠 수 있다. 단말기는 기능이 다양화됨에 따라 예를 들면, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기 형태로 구현되고 있다. 이러한 단말기의 기능 지원 및 확장을 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.

종래 복수의 카메라가 구비된 이동 단말기는, 각각의 카메라를 제어하여 이미지를 획득하였다. 예컨대, 종래 이동 단말기는 상기 복수의 카메라를 이용하여 동영상을 촬영하는 경우에는 상기 촬영 과정에서 발생하는 다양한 이벤트에 대응하여 최초 설정된 사항을 제외하고는 별도로 조정하는 것이 어려워 상기 촬영된 동영상을 촬영 이후에 확인하면, 일부 장면 등에서 원치 않거나 다른 장면에 비하여 퀄리티(quality) 차이가 나는 부분이 발생한다. 이 경우, 각종 필터나 편집 툴(editing tool)을 활용하여 어느 정도 상기 퀄리티를 보상 내지 보정할 수도 있으나 번거로움이 있으며, 상기 보상 내지 보정에 의하더라도 여전히 퀄리티 문제가 있을 수도 있어 문제가 된다.

특히, 이동 단말기를 통한 동영상 촬영 횟수가 많거나 긴 시간 동안 촬영을 하는 경우에는 상기와 같은 문제점이 발생할 가능성이 더욱 높아지는 문제점도 있다.

본 발명은 상기와 같은 문제점(들)을 해소하기 위한 것으로, 이동 단말기에 구비된 복수 즉, 적어도 둘 이상의 카메라 센서들 또는 유닛들(이하 카메라 센서들이라 함)을 이용하여 촬영함에 따른 이미지 데이터의 퀄리티를 보장 또는 보상(이하 보상이라 함) 또는 개선하는 것을 일 과제로 한다.

본 발명은, 이동 단말기는 제1 카메라 센서를 이용하여 이미지를 촬영 과정에서 감지되는 주변 환경의 주파수(frequency), 밝기 또는 조도 변화와 같은 이벤트 또는 팩터(이하 '팩터')에 따라 제2 카메라 센서의 동작을 제어하여 촬영 이미지의 퀄리티를 보상 또는 개선하는 것을 다른 과제로 한다.

본 발명은, 수동/자동, 실내/실외와 같은 촬영 모드를 이용하여 팩터 변화가 이루어지거나 예상되는 위치에서 적응적으로 상기 팩터 변화에 따른 이미지 처리를 수행하여 유저의 편의성을 제공하고 신뢰도를 높이는 것을 또 다른 과제로 한다.

본 발명에서 이루고자 하는 기술적 과제는 상기 언급한 기술적 과제로 제한되지 않으며, 언급하지 않은 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

본 명세서에서는 본 발명에 따른 이동 단말기와 그 제어 방법이 개시된다.

여기서, 본 발명의 일 실시 예에 따른 이동 단말기는, 제1 카메라 센서, 제2 카메라 센서, 이동 단말기 주변의 조도 변화를 센싱하는 조도 센서, 및 상기 제1 카메라 센서에 의한 이미지 촬영을 제어하고, 상기 조도 센서에서 센싱되는 조도 변화가 임계치 이상이면, 상기 제2 카메라 센서에서도 상기 이미지 촬영 시작하도록 제어하는 제어부를 포함한다.

본 발명에서 얻을 수 있는 기술적 해결 수단은 이상에서 언급한 해결 수단들로 제한되지 않으며, 언급하지 않은 또 다른 해결 수단들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

본 발명에 따르면, 다음과 같은 효과가 있다.

본 발명의 다양한 실시 예들 중 적어도 하나에 의하면, 이동 단말기에 구비된 복수 즉, 적어도 둘 이상의 카메라 센서들 또는 유닛들(이하 '카메라 센서들'이라 함)을 이용하여 촬영함에 따른 이미지 데이터의 퀄리티를 보장 또는 보상(이하 '보상'이라 함) 또는 개선할 수 있는 효과가 있다.

본 발명의 다양한 실시 예들 중 적어도 하나에 의하면, 이동 단말기는 제1 카메라 센서를 이용하여 이미지를 촬영 과정에서 감지되는 주변 환경의 주파수(frequency), 밝기 또는 조도 변화와 같은 이벤트 또는 팩터(이하 '팩터'라 함)에 따라 제2 카메라 센서의 동작을 제어하여 촬영 이미지의 퀄리티를 보상 또는 개선할 수 있는 효과가 있다.

본 발명의 다양한 실시 예들 중 적어도 하나에 의하면, 수동/자동, 실내/실외와 같은 촬영 모드를 이용하여 팩터 변화가 이루어지거나 예상되는 위치에서 적응적으로 상기 팩터 변화에 따른 이미지 처리를 수행하여 유저의 편의성을 제공하고 신뢰도를 높일 수 있는 효과가 있다.

본 발명의 다양한 실시 예들 중 적어도 하나에 의하면, 본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

도 1a는 본 발명의 일 실시 예에 따른 이동 단말기의 구성 블록도,
도 1b와 1c는 상기 이동 단말기를 서로 다른 방향에서 바라본 개념도,
도 2는 본 발명의 다른 실시 예에 따른 이동 단말기의 구성 블록도,
도 3은 본 발명의 또 다른 실시 예에 따른 이동 단말기의 구성 블록도,
도 4는 본 발명의 일 실시 예에 따른 복수의 카메라가 구비된 이동 단말기의 후면 사시도를 도시한 도면,
도 5는 본 발명의 일 실시 예에 따른 카메라 센서들과 그 데이터 처리 구성 블록도,
도 6은 본 발명의 일 실시 예에 따른 듀얼 카메라를 이용한 초고속 영상 촬영 방법을 설명하기 위해 도시한 도면,
도 7은 본 발명의 일 실시 예에 따라 듀얼 카메라를 통해 획득된 영상 데이터의 처리 방법을 설명하기 위해 도시한 도면,
도 8은 본 발명의 일 실시 예에 따른 이동 단말기의 듀얼 카메라에서 노출 시간 획득과 관련된 내용을 설명하기 위해 도시한 도면,
도 9 내지 11은 본 발명의 일 실시 예에 따른 초고속 비디오 이미지를 위한 헤테로-듀얼 카메라 센서의 커플링 방법을 설명하기 위해 도시한 도면,
도 12는 본 발명의 일 실시 예에 따른 듀얼 카메라 센서를 통한 이동 단말기의 이미지 처리 방법을 설명하기 위해 도시한 순서도,
도 13은 본 발명의 일 실시 예에 따른 이미지 어댑티브 블렌딩 기법을 설명하기 위해 도시한 도면,
도 14는 본 발명과 관련하여 주변 조도의 변화와 같은 이벤트 발생 경우를 설명하기 위해 도시한 도면,
도 15 내지 18은 본 발명의 실시 예에 따른 주변 조도에 따른 프레임 삽입 방법을 설명하기 위해 도시한 도면, 그리고
도 19는 본 발명에 따른 주변 조도에 따른 프레임 삽입 방법을 설명하기 위해 도시한 순서도이다.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 중복 설명은 생략할 수 있다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명할 때, 관련 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 수 있다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 할 것이다.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 수 있다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

본 명세서에서 설명되는 이동 단말기에는 도 1과 같은 휴대폰, 스마트폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털 방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션(Navigation), 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들면, 도 2와 같은 워치형 단말기(smart watch), 도 3과 같은 글래스형 단말기(smart glass), HMD(head mounted display)) 등이 포함될 수 있다.

또한, 본 명세서에서 설명되는 이미지(image)는, 본 발명에 따라 카메라 센서를 통해 촬영 가능한 정지영상 이미지, 동영상 이미지 등을 모두 포함하는 의미이다. 다만, 이하에서는 본 발명의 이해를 돕고 설명의 편의를 위하여, 특히 상기 카메라 센서를 통하여 동영상 이미지 촬영에 대한 실시 예(들)을 예로 하여 개시한다. 그러나 본 발명은 이에 한정되는 것은 아니다.

한편, 본 명세서에 기재된 실시 예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크톱 컴퓨터, 디지털 사이니지(digital signage) 등과 같은 고정 단말기에도 적용될 수 있다.

이하 본 발명의 일 실시 예에 따른 이동 단말기는, 제1 카메라 센서, 제2 카메라 센서, 이동 단말기 주변의 조도 변화를 센싱하는 조도 센서, 및 상기 제1 카메라 센서에 의한 이미지 촬영을 제어하고, 상기 조도 센서에서 센싱되는 조도 변화가 임계치 이상이면, 상기 제2 카메라 센서에서도 상기 이미지 촬영 시작하도록 제어하는 제어부를 포함한다.

도 1a는 본 발명의 일 실시 예에 따른 이동 단말기의 구성 블록도이고, 도 1b와 1c는 상기 이동 단말기를 서로 다른 방향에서 바라본 개념도이다.

먼저, 도 1a를 참조하면, 이동 단말기(100)는 무선 통신부(110), 입력부(120), 센싱부(140), 출력부(150), 인터페이스부(160), 메모리(170), 제어부(180), 전원 공급부(190) 등을 포함할 수 있다. 여기서, 도 1a에 도시된 구성요소들은 이동 단말기의 구현에 필수적인 것은 아니어서, 위에서 열거된 구성요소들보다 많거나 적은 구성요소들로 구현될 수도 있다.

무선 통신부(110)는, 이동 단말기(100)와 무선 통신 시스템 사이, 이동 단말기(100)와 다른 이동 단말기 사이, 또는 이동 단말기(100)와 외부 서버 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 상기 무선 통신부(110)는, 이동 단말기(100)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다. 이러한 무선 통신부(110)는, 방송 수신 모듈(111), 이동 통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114), 위치 정보 모듈(115) 중 적어도 하나를 포함할 수 있다.

입력부(120)는, 영상 신호 입력을 위한 카메라(121) 또는 영상 입력부, 오디오 신호 입력을 위한 마이크로폰(microphone, 122), 또는 오디오 입력부, 사용자로부터 정보를 입력받기 위한 사용자 입력부(123, 예를 들면, 터치키(touch key), 푸시키(mechanical key) 등)를 포함할 수 있다. 입력부(120)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어 명령으로 처리될 수 있다.

센싱부(140)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보, 사용자 정보 등 중 적어도 하나 이상을 센싱하는 하나 이상의 센서를 포함할 수 있다. 예를 들면, 센싱부(140)는 근접 센서(141, proximity sensor), 조도 센서(142, illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문 인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들면, 카메라(121 참조)), 마이크로폰(microphone, 122 참조), 배터리 게이지(battery gauge), 환경 센서(예를 들면, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들면, 전자 코, 헬스-케어 센서, 생체 인식 센서 등) 등 중 적어도 하나 이상을 포함할 수 있다. 또한, 상기 이동 단말기는, 이러한 센서들 중 적어도 둘 이상의 센서들에서 센싱되는 정보들을 조합하여 활용할 수 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(151), 음향 출력부(152), 햅틱 모듈(153), 광 출력부(154) 중 적어도 하나를 포함할 수 있다. 디스플레이부(151)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 이동 단말기(100)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(123)로써 기능함과 동시에, 이동 단말기(100)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.

인터페이스부(160)는 이동 단말기(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행한다. 이러한 인터페이스부(160)는, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O 포트, 비디오 I/O 포트, 이어폰 포트 중 적어도 하나를 포함할 수 있다. 이동 단말기(100)에서는, 상기 인터페이스부(160)에 외부 기기가 연결되는 것에 대응하여, 연결된 외부 기기와 관련된 적절할 제어를 수행할 수 있다.

또한, 메모리(170)는 이동 단말기(100)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(170)는 이동 단말기(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 이동 단말기(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다.

또한, 이러한 응용 프로그램 중 적어도 일부는, 이동 단말기(100)의 기본적인 기능(예를 들면, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 이동 단말기(100)상에 존재할 수 있다. 한편, 응용 프로그램은, 메모리(170)에 저장되고, 이동 단말기(100) 상에 설치되어, 제어부(180)에 의하여 상기 이동 단말기의 동작(또는 기능)을 수행하도록 구동될 수 있다.

제어부(180)는 상기 응용 프로그램과 관련된 동작 외에도, 이동 단말기(100)의 전반적인 동작을 제어한다. 제어부(180)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(170)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.

또한, 제어부(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, 도 1a에 도시된 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 제어부(180)는 상기 응용 프로그램의 구동을 위하여, 이동 단말기(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.

전원 공급부(190)는 제어부(180)의 제어 하에서, 외부의 전원, 내부의 전원을 인가받아 이동 단말기(100)에 포함된 각 구성요소들에 전원을 공급한다. 이러한 전원 공급부(190)는 배터리를 포함하며, 상기 배터리는 내장형 배터리 또는 교체 가능한 형태의 배터리가 될 수 있다.

상기 각 구성요소들 중 적어도 일부는, 이하에서 설명되는 다양한 실시 예들에 따른 이동 단말기의 동작, 제어, 또는 제어 방법을 구현하기 위하여 서로 협력하여 동작할 수 있다. 또한, 상기 이동 단말기의 동작, 제어, 또는 제어 방법은 상기 메모리(170)에 저장된 적어도 하나의 응용 프로그램의 구동에 의하여 이동 단말기 상에서 구현될 수 있다.

도 1b와 1c를 참조하면, 개시된 이동 단말기(100)는 바(bar) 형태의 단말기 바디(body)를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고 와치 타입, 클립 타입, 글래스 타입 또는 2 이상의 바디들이 상대 이동 가능하게 결합되는 폴더 타입, 플립 타입, 슬라이드 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용될 수 있다. 이동 단말기의 특정 유형에 관련될 것이나, 이동 단말기의 특정 유형에 관한 설명은 다른 타입의 이동 단말기에 일반적으로 적용될 수 있다.

여기에서, 단말기 바디는 이동 단말기(100)를 적어도 하나의 집합체로 보아 이를 지칭하는 개념으로 이해될 수 있다.

이동 단말기(100)는 외관을 이루는 케이스(예를 들면, 프레임, 하우징, 커버 등)를 포함한다. 도시된 바와 같이, 이동 단말기(100)는 프론트 케이스(101)와 리어 케이스(102)를 포함할 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 결합에 의해 형성되는 내부 공간에는 각종 전자 부품들이 배치된다. 프론트 케이스(101)와 리어 케이스(102) 사이에는 적어도 하나의 미들 케이스가 추가로 배치될 수 있다.

단말기 바디의 전면에는 디스플레이부(151)가 배치되어 정보를 출력할 수 있다. 도시된 바와 같이, 디스플레이부의 윈도우(151a)는 프론트 케이스(101)에 장착되어 프론트 케이스(101)와 함께 단말기 바디의 전면을 형성할 수 있다.

경우에 따라서, 리어 케이스(102)에도 전자 부품이 장착될 수 있다. 리어 케이스(102)에 장착 가능한 전자 부품은 탈착 가능한 배터리, 식별 모듈, 메모리 카드 등이 있다. 이 경우, 리어 케이스(102)에는 장착된 전자부품을 덮기 위한 후면 커버(103)가 탈착 가능하게 결합될 수 있다. 따라서, 후면 커버(103)가 리어 케이스(102)로부터 분리되면, 리어 케이스(102)에 장착된 전자 부품은 외부로 노출된다.

도시된 바와 같이, 후면 커버(103)가 리어 케이스(102)에 결합되면, 리어 케이스(102)의 측면 일부가 노출될 수 있다. 경우에 따라서, 상기 결합시 리어 케이스(102)는 후면 커버(103)에 의해 완전히 가려질 수도 있다. 한편, 후면 커버(103)에는 카메라(121b)나 음향 출력부(152b)를 외부로 노출시키기 위한 개구부가 구비될 수 있다.

이러한 케이스들(101, 102, 103)은 합성수지를 사출하여 형성되거나 금속, 예를 들면 스테인레스 스틸(STS), 알루미늄(Al), 티타늄(Ti) 등으로 형성될 수도 있다.

이동 단말기(100)는, 복수의 케이스가 각종 전자 부품들을 수용하는 내부 공간을 마련하는 위의 예와 달리, 하나의 케이스가 상기 내부 공간을 마련하도록 구성될 수도 있다. 이 경우, 합성수지 또는 금속이 측면에서 후면으로 이어지는 유니 바디의 이동 단말기(100)가 구현될 수 있다.

한편, 이동 단말기(100)는 단말기 바디 내부로 물이 스며들지 않도록 하는 방수부(미도시)를 구비할 수 있다. 예를 들면, 방수부는 윈도우(151a)와 프론트 케이스(101) 사이, 프론트 케이스(101)와 리어 케이스(102) 사이 또는 리어 케이스(102)와 후면 커버(103) 사이에 구비되어, 이들의 결합 시 내부 공간을 밀폐하는 방수부재를 포함할 수 있다.

이동 단말기(100)에는 디스플레이부(151), 제1 및 제2 음향 출력부(152a, 152b), 근접 센서(141), 조도 센서(142), 광 출력부(154), 제1 및 제2 카메라(121a, 121b), 제1 및 제2 조작유닛(123a, 123b), 마이크로폰(122), 인터페이스부(160) 등이 구비될 수 있다.

이하에서는, 도 1b와 1c에 도시된 바와 같이, 단말기 바디의 전면에 디스플레이부(151), 제1 음향 출력부(152a), 근접 센서(141), 조도 센서(142), 광 출력부(154), 제1 카메라(121a), 제1 조작유닛(123a) 등이 배치될 수 있고, 단말기 바디의 측면에 제2 조작유닛(123b), 마이크로폰(122), 인터페이스부(160) 등이 배치될 수 있으며, 단말기 바디의 후면에 제2 음향 출력부(152b), 제2 카메라(121b) 등이 배치될 수 있는 이동 단말기(100)를 일 예로 들어 설명한다.

다만, 이들 구성은 이러한 배치에 한정되는 것은 아니다. 이들 구성은 필요에 따라 제외 또는 대체되거나, 다른 면에 배치될 수 있다. 예를 들면, 단말기 바디의 전면에는 제1 조작유닛(123a)이 구비되지 않을 수 있으며, 제2 음향 출력부(152b)는 단말기 바디의 후면이 아닌 단말기 바디의 측면에 구비될 수 있다.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들면, 디스플레이부(151)는 이동 단말기(100)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행 화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.

또한, 디스플레이부(151)는 이동 단말기(100)의 구현 형태에 따라 2개 이상 존재할 수 있다. 이 경우, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(151)는 터치 방식에 의하여 제어 명령을 입력받을 수 있도록, 디스플레이부(151)에 대한 터치를 감지하는 터치 센서를 포함할 수 있다. 이를 이용하여, 디스플레이부(151)에 대하여 터치가 이루어지면, 터치 센서는 상기 터치를 감지하고, 제어부(180)는 이에 근거하여 상기 터치에 대응하는 제어 명령을 발생시키도록 이루어질 수 있다. 터치 방식에 의하여 입력되는 내용은 문자 또는 숫자이거나, 각종 모드에서의 지시 또는 지정 가능한 메뉴항목 등일 수 있다.

한편, 터치 센서는, 터치 패턴을 구비하는 필름 형태로 구성되어 윈도우(151a)와 윈도우(151a)의 배면 상의 디스플레이(미도시) 사이에 배치되거나, 윈도우(151a)의 배면에 직접 패터닝되는 메탈 와이어가 될 수도 있다. 또는, 터치 센서는 디스플레이와 일체로 형성될 수 있다. 예를 들면, 터치 센서는, 디스플레이의 기판상에 배치되거나, 디스플레이의 내부에 구비될 수 있다.

이처럼, 디스플레이부(151)는 터치 센서와 함께 터치 스크린을 형성할 수 있으며, 이 경우에 터치 스크린은 사용자 입력부(123, 도 1a 참조)로 기능할 수 있다. 경우에 따라, 터치 스크린은 제1 조작유닛(123a)의 적어도 일부 기능을 대체할 수 있다.

제1 음향 출력부(152a)는 통화음을 사용자의 귀에 전달시키는 리시버(receiver)로 구현될 수 있으며, 제2 음향 출력부(152b)는 각종 알람음이나 멀티미디어의 재생음을 출력하는 라우드 스피커(loud speaker)의 형태로 구현될 수 있다.

디스플레이부의 윈도우(151a)에는 제1 음향 출력부(152a)로부터 발생되는 사운드의 방출을 위한 음향홀이 형성될 수 있다. 다만, 본 발명은 이에 한정되는 것은 아니고, 상기 사운드는 구조물 간의 조립틈(예를 들면, 윈도우(151a)와 프론트 케이스(101) 간의 틈)을 따라 방출되도록 구성될 수 있다. 이 경우, 외관상 음향 출력을 위하여 독립적으로 형성되는 홀이 보이지 않거나 숨겨져 이동 단말기(100)의 외관이 보다 심플해질 수 있다.

광 출력부(154)는 이벤트의 발생시 이를 알리기 위한 빛을 출력하도록 이루어진다. 상기 이벤트의 예로는 메시지 수신, 호 신호 수신, 부재중 전화, 알람, 일정 알림, 이메일 수신, 애플리케이션을 통한 정보 수신 등을 들 수 있다. 제어부(180)는 사용자의 이벤트 확인이 감지되면, 빛의 출력이 종료되도록 광 출력부(154)를 제어할 수 있다.

제1 카메라(121a)는 촬영 모드 또는 화상 통화 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있으며, 메모리(170)에 저장될 수 있다.

제1 및 제2 조작유닛(123a, 123b)은 이동 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 사용자 입력부(123)의 일 예로서, 조작부(manipulating portion)로도 통칭될 수 있다. 제1 및 제2 조작유닛(123a, 123b)은 터치, 푸시, 스크롤 등 사용자가 촉각적인 느낌을 받으면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다. 또한, 제1 및 제2 조작유닛(123a, 123b)은 근접 터치(proximity touch), 호버링(hovering) 터치 등을 통해서 사용자의 촉각적인 느낌이 없이 조작하게 되는 방식으로도 채용될 수 있다.

본 도면에서는 제1 조작유닛(123a)이 터치 키인 것으로 예시하나, 본 발명이 이에 한정되는 것은 아니다. 예를 들면, 제1 조작유닛(123a)은 푸시 키가 되거나, 터치 키와 푸시 키의 조합으로 구성될 수 있다.

제1 및 제2 조작유닛(123a, 123b)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들면, 제1 조작유닛(123a)은 메뉴, 홈키, 취소, 검색 등의 명령을 입력받고, 제2 조작유닛(123b)은 제1 또는 제2 음향 출력부(152a, 152b)에서 출력되는 음향의 크기 조절, 디스플레이부(151)의 터치 인식 모드로의 전환 등의 명령을 입력받을 수 있다.

한편, 단말기 바디의 후면에는 사용자 입력부(123)의 다른 일 예로서, 후면 입력부(미도시)가 구비될 수 있다. 이러한 후면 입력부는 이동 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 입력되는 내용은 다양하게 설정될 수 있다. 예를 들면, 전원의 온/오프, 시작, 종료, 스크롤 등과 같은 명령, 제1 및 제2 음향 출력부(152a, 152b)에서 출력되는 음향의 크기 조절, 디스플레이부(151)의 터치 인식 모드로의 전환 등과 같은 명령을 입력받을 수 있다. 후면 입력부는 터치 입력, 푸시 입력 또는 이들의 조합에 의한 입력이 가능한 형태로 구현될 수 있다.

후면 입력부는 단말기 바디의 두께 방향으로 전면의 디스플레이부(151)와 중첩되게 배치될 수 있다. 일 예로, 사용자가 단말기 바디를 한 손으로 쥐었을 때 검지를 이용하여 용이하게 조작 가능하도록, 후면 입력부는 단말기 바디의 후면 상단부에 배치될 수 있다. 다만, 본 발명은 반드시 이에 한정되는 것은 아니며, 후면 입력부의 위치는 변경될 수 있다.

이처럼 단말기 바디의 후면에 후면 입력부가 구비되는 경우, 이를 이용한 새로운 형태의 유저 인터페이스가 구현될 수 있다. 또한, 앞서 설명한 터치 스크린 또는 후면 입력부가 단말기 바디의 전면에 구비되는 제1 조작유닛(123a)의 적어도 일부 기능을 대체하여, 단말기 바디의 전면에 제1 조작유닛(123a)이 미배치되는 경우, 디스플레이부(151)가 보다 대화면으로 구성될 수 있다.

한편, 이동 단말기(100)에는 사용자의 지문을 인식하는 지문 인식 센서가 구비될 수 있으며, 제어부(180)는 지문 인식 센서를 통하여 감지되는 지문 정보를 인증 수단으로 이용할 수 있다. 상기 지문 인식 센서는 디스플레이부(151) 또는 사용자 입력부(123)에 내장될 수 있다.

마이크로폰(122)은 사용자의 음성, 기타 소리 등을 입력받도록 이루어진다. 마이크로폰(122)은 복수의 개소에 구비되어 스테레오 음향을 입력받도록 구성될 수 있다.

인터페이스부(160)는 이동 단말기(100)를 외부기기와 연결 시킬 수 있는 통로가 된다. 예를 들면, 인터페이스부(160)는 이어폰, 외장 스피커 등과 같은 다른 장치와의 연결을 위한 접속 단자, 근거리 통신을 위한 포트, 또는 이동 단말기(100)에 전원을 공급하기 위한 전원 공급 단자 중 적어도 하나일 수 있다. 상기 근거리 통신을 위한 포트는 적외선 포트(IrDA Port), 블루투스 포트(Bluetooth Port), 무선 랜 포트(Wireless LAN Port) 등일 수 있다. 이러한 인터페이스부(160)는 SIM(Subscriber Identification Module) 또는 UIM(User Identity Module), 정보 저장을 위한 메모리 카드 등의 외장형 카드를 수용하는 소켓의 형태로 구현될 수도 있다.

단말기 바디의 후면에는 제2 카메라(121b)가 배치될 수 있다. 이 경우, 제2 카메라(121b)는 제1 카메라(121a)와 실질적으로 반대되는 촬영 방향을 가지게 된다.

제2 카메라(121b)는 적어도 하나의 라인을 따라 배열되는 복수의 렌즈를 포함할 수 있다. 복수의 렌즈는 행렬(matrix) 형식으로 배열될 수도 있다. 이러한 카메라는, ‘어레이(array) 카메라’로 명명될 수 있다. 제2 카메라(121b)가 어레이 카메라로 구성되는 경우, 복수의 렌즈를 이용하여 다양한 방식으로 영상을 촬영할 수 있으며, 보다 나은 품질의 영상을 획득할 수 있다.

플래시(124)는 제2 카메라(121b)에 인접하게 배치될 수 있다. 플래시(124)는 제2 카메라(121b)로 피사체를 촬영하는 경우에 피사체를 향하여 빛을 비추게 된다.

단말기 바디에는 제2 음향 출력부(152b)가 추가로 배치될 수 있다. 제2 음향 출력부(152b)는 제1 음향 출력부(152a)와 함께 스테레오 기능을 구현할 수 있으며, 통화 시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.

단말기 바디에는 무선 통신을 위한 적어도 하나의 안테나가 구비될 수 있다. 안테나는 단말기 바디에 내장되거나, 케이스에 형성될 수 있다. 예를 들면, 방송 수신 모듈(111, 도 1a 참조)의 일부를 이루는 안테나는 단말기 바디에서 인출 가능하게 구성될 수 있다. 또는, 안테나는 필름 타입으로 형성되어 후면 커버(103)의 내측면에 부착될 수도 있고, 도전성 재질을 포함하는 케이스가 안테나로서 기능하도록 구성될 수도 있다.

단말기 바디에는 이동 단말기(100)에 전원을 공급하기 위한 전원 공급부(190, 도 1a 참조)가 구비된다. 전원 공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 탈착 가능하게 구성되는 배터리(191)를 포함할 수 있다.

배터리(191)는 인터페이스부(160)에 연결되는 전원 케이블을 통하여 전원을 공급받도록 구성될 수 있다. 또한, 배터리(191)는 무선 충전 기기를 통하여 무선 충전 가능하도록 구성될 수도 있다. 상기 무선 충전은 자기 유도 방식 또는 공진 방식(자기 공명 방식)에 의하여 구현될 수 있다.

한편, 본 도면에서는 후면 커버(103)가 배터리(191)를 덮도록 리어 케이스(102)에 결합되어 배터리(191)의 이탈을 제한하고, 배터리(191)를 외부 충격과 이물질로부터 보호하도록 구성된 것을 예시하고 있다. 배터리(191)가 단말기 바디에 탈착 가능하게 구성되는 경우, 후면 커버(103)는 리어 케이스(102)에 탈착 가능하게 결합될 수 있다.

이동 단말기(100)에는 외관을 보호하거나, 이동 단말기(100)의 기능을 보조 또는 확장시키는 액세서리가 추가될 수 있다. 이러한 액세서리의 일 예로, 이동 단말기(100)의 적어도 일면을 덮거나 수용하는 커버 또는 파우치를 들 수 있다. 커버 또는 파우치는 디스플레이부(151)와 연동되어 이동 단말기(100)의 기능을 확장시키도록 구성될 수 있다. 액세서리의 다른 일 예로, 터치 스크린에 대한 터치 입력을 보조 또는 확장하기 위한 터치 펜을 들 수 있다.

도 2는 본 발명의 다른 일 실시 예와 관련된 와치 타입의 단말기(200)의 일 예를 보인 사시도이다.

도 2를 참조하면, 와치 타입의 단말기(200)는 디스플레이부(251)를 구비하는 본체(201) 및 본체(201)에 연결되어 손목에 착용 가능하도록 구성되는 밴드(202)를 포함한다. 일반적으로 단말기(200)는 도 1a 내지 1c의 단말기의 특징 또는 그와 유사한 특징을 포함할 수 있다.

본체(201)는 외관을 형성하는 케이스를 포함한다. 도시된 바와 같이, 케이스는 각종 전자 부품들을 수용하는 내부 공간을 마련하는 제1 케이스(201a) 및 제2 케이스(201b)를 포함할 수 있다. 다만, 본 발명은 이에 한정되는 것은 아니고, 하나의 케이스가 상기 내부 공간을 마련하도록 구성되어 유니 바디의 단말기(200)가 구현될 수도 있다.

와치 타입의 단말기(200)는 무선 통신이 가능하도록 구성되며, 본체(201)에는 상기 무선 통신을 위한 안테나가 설치될 수 있다. 한편, 안테나는 케이스를 이용하여 그 성능을 확장시킬 수 있다. 예를 들어, 도전성 재질을 포함하는 케이스가 안테나와 전기적으로 연결되어 그라운드 영역 또는 방사 영역을 확장시키도록 구성될 수 있다.

본체(201)의 전면에는 디스플레이부(251)가 배치되어 정보를 출력할 수 있으며, 디스플레이부(251)에는 터치 센서가 구비되어 터치스크린으로 구현될 수 있다. 도시된 바와 같이, 디스플레이부의 윈도우(251a)는 제1 케이스(201a)에 장착되어 제1 케이스(201a)와 함께 단말기 바디의 전면을 형성할 수 있다.

본체(201)에는 음향 출력부(252), 카메라(221), 마이크로폰(222), 사용자 입력부(223) 등이 구비될 수 있다. 디스플레이부(251)가 터치스크린으로 구현되는 경우, 사용자 입력부(223)로 기능할 수 있으며, 이에 따라 본체(201)에 별도의 키가 구비되지 않을 수 있다.

밴드(202)는 손목에 착용되어 손목을 감싸도록 이루어지며, 착용이 용이하도록 플렉시블 재질로 형성될 수 있다. 그러한 예로서, 밴드(202)는 가죽, 고무, 실리콘, 합성수지 재질 등으로 형성될 수 있다. 또한, 밴드(202)는 본체(201)에 착탈 가능하게 구성되어, 사용자가 취향에 따라 다양한 형태의 밴드로 교체 가능하게 구성될 수 있다.

한편, 밴드(202)는 안테나의 성능을 확장시키는 데에 이용될 수 있다. 예를 들어, 밴드에는 안테나와 전기적으로 연결되어 그라운드 영역을 확장시키는 그라운드 확장부(미도시)가 내장될 수 있다.

밴드(202)에는 파스너(fastener; 202a)가 구비될 수 있다. 파스너(202a)는 버클(buckle), 스냅-핏(snap-fit)이 가능한 후크(hook) 구조, 또는 벨크로(velcro; 상표명) 등에 의하여 구현될 수 있으며, 신축성이 있는 구간 또는 재질을 포함할 수 있다. 도 2에서는, 파스너(202a)가 버클 형태로 구현된 예를 제시하고 있다.

도 3은 본 발명의 또 다른 일 실시 예와 관련된 글래스 타입의 단말기(300)의 일 예를 보인 사시도이다.

글래스 타입의 단말기(300)는 인체의 두부에 착용 가능하도록 구성되며, 이를 위한 프레임부(케이스, 하우징 등)를 구비할 수 있다. 프레임부는 착용이 용이하도록 플렉시블 재질로 형성될 수 있다. 도 3에서는, 프레임부가 서로 다른 재질의 제1 프레임(301)과 제2 프레임(302)을 포함하는 것을 예시하고 있다. 일반적으로 단말기(300)는 도 1a 내지 1c의 단말기(100)의 특징 또는 그와 유사한 특징을 포함할 수 있다.

프레임부는 두부에 지지되며, 각종 부품들이 장착되는 공간을 마련한다. 도시된 바와 같이, 프레임부에는 제어 모듈(380), 음향 출력 모듈(352) 등과 같은 전자 부품이 장착될 수 있다. 또한, 프레임부에는 좌안 및 우안 중 적어도 하나를 덮는 렌즈(303)가 착탈 가능하게 장착될 수 있다.

제어 모듈(380)은 단말기(300)에 구비되는 각종 전자 부품을 제어하도록 이루어진다. 제어 모듈(380)은 앞서 설명한 제어부(180)에 대응되는 구성으로 이해될 수 있다. 도 3에서는, 제어 모듈(380)이 일측 두부 상의 프레임부에 설치된 것을 예시하고 있다. 하지만, 제어 모듈(380)의 위치는 이에 한정되지 않는다.

디스플레이부(351)는 헤드 마운티드 디스플레이(HMD) 형태로 구현될 수 있다. HMD 형태란, 두부에 장착되어, 사용자의 눈앞에 직접 영상을 보여주는 디스플레이 방식을 말한다. 사용자가 글래스 타입의 이동 단말기(300)를 착용하였을 때, 사용자의 눈앞에 직접 영상을 제공할 수 있도록, 디스플레이부(351)는 좌안 및 우안 중 적어도 하나에 대응되게 배치될 수 있다. 본 도면에서는, 사용자의 우안을 향하여 영상을 출력할 수 있도록, 디스플레이부(351)가 우안에 대응되는 부분에 위치한 것을 예시하고 있다.

디스플레이부(351)는 프리즘을 이용하여 사용자의 눈으로 이미지를 투사할 수 있다. 또한, 사용자가 투사된 이미지와 전방의 일반 시야(사용자가 눈을 통하여 바라보는 범위)를 함께 볼 수 있도록, 프리즘은 투광성으로 형성될 수 있다.

이처럼 디스플레이부(351)를 통하여 출력되는 영상은, 일반 시야와 오버랩(overlap)되어 보여질 수 있다. 단말기(300)는 이러한 디스플레이의 특성을 이용하여 현실의 이미지나 배경에 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 증강현실(Augmented Reality, AR)을 제공할 수 있다.

카메라(321)는 좌안 및 우안 중 적어도 하나에 인접하게 배치되어, 전방의 영상을 촬영하도록 형성된다. 카메라(321)가 눈에 인접하여 위치하므로, 카메라(321)는 사용자가 바라보는 장면을 영상으로 획득할 수 있다.

도 3에서는, 카메라(321)가 제어 모듈(380)에 구비된 것을 예시하고 있으나, 반드시 이에 한정되는 것은 아니다. 카메라(321)는 상기 프레임부에 설치될 수도 있으며, 복수 개로 구비되어 입체 영상을 획득하도록 이루어질 수도 있다.

글래스 타입의 단말기(300)는 제어 명령을 입력받기 위하여 조작되는 사용자 입력부(323a, 323b)를 구비할 수 있다. 사용자 입력부(323a, 323b)는 터치, 푸시 등 사용자가 촉각적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다. 도 3에서는, 프레임부와 제어 모듈(380)에 각각 푸시 및 터치 입력 방식의 사용자 입력부(323a, 323b)가 구비된 것을 예시하고 있다.

또한, 글래스 타입의 단말기(300)에는 사운드를 입력받아 전기적인 음성 데이터로 처리하는 마이크로폰(미도시) 및 음향을 출력하는 음향 출력 모듈(352)이 구비될 수 있다. 음향 출력 모듈(352)은 일반적인 음향 출력 방식 또는 골전도 방식으로 음향을 전달하도록 이루어질 수 있다. 음향 출력 모듈(352)이 골전도 방식으로 구현되는 경우, 사용자가 단말기(300)를 착용시, 음향 출력 모듈(352)은 두부에 밀착되며, 두개골을 진동시켜 음향을 전달하게 된다.

다음으로, 본 발명에 따른 단말기를 통해 실시 가능한 통신 시스템에 대하여 살펴본다.

먼저, 통신 시스템은, 서로 다른 무선 인터페이스 및/또는 물리 계층을 이용할 수도 있다. 예를 들어, 통신 시스템에 의해 이용 가능한 무선 인터페이스에는, 주파수 분할 다중 접속(Frequency Division Multiple Access, FDMA), 시분할 다중 접속(Time Division Multiple Access, TDMA), 코드 분할 다중 접속(Code Division Multiple Access, CDMA), 범용 이동 통신 시스템(Universal Mobile Telecommunications Systems, UMTS)(특히, LTE, LTE-A), 이동 통신 글로벌 시스템(Global System for Mobile Communications, GSM) 등이 포함될 수 있다.

이하에서는 설명의 편의를 위하여, CDMA에 한정하여 설명하도록 한다. 그러나 본 발명은, CDMA 무선 통신 시스템뿐만 아니라 OFDM(Orthogonal Frequency Division Multiplexing) 무선 통신 시스템을 포함한 모든 통신 시스템 적용될 수 있음은 자명하다.

CDMA 무선 통신 시스템은, 적어도 하나의 단말기(100), 적어도 하나의 기지국(Base Station, BS(Node B 혹은 Evolved Node B로 호칭될 수도 있다.)), 적어도 하나의 기지국 제어부(Base Station Controllers, BSCs), 이동 스위칭 센터(Mobile Switching Center, MSC)를 포함할 수 있다. MSC는, 일반 전화 교환망(Public Switched Telephone Network, PSTN) 및 BSCs와 연결되도록 구성된다. BSCs는, 백홀 라인(backhaul line)을 통하여, BS와 짝을 이루어 연결될 수 있다. 백홀 라인은, E1/T1, ATM, IP, PPP, Frame Relay, HDSL, ADSL 또는 xDSL 중 적어도 하나에 따라서 구비될 수 있다. 따라서, 복수의 BSCs가 CDMA 무선 통신 시스템에 포함될 수 있다.

복수의 BS 각각은 적어도 하나의 섹터를 포함할 수 있고, 각각의 섹터는, 전방향성 안테나 또는 BS로부터 방사상의 특정 방향을 가리키는 안테나를 포함할 수 있다. 또한, 각각의 섹터는, 다양한 형태의 안테나를 두 개 이상 포함할 수도 있다. 각각의 BS는, 복수의 주파수 할당을 지원하도록 구성될 수 있고, 복수의 주파수 할당은 각각 특정 스펙트럼(예를 들어, 1.25MHz, 5MHz 등)을 가질 수 있다.

섹터와 주파수 할당의 교차는, CDMA 채널이라고 불릴 수 있다. BS는, 기지국 송수신 하부 시스템(Base Station Transceiver Subsystem, BTSs)이라고 불릴 수 있다. 이러한 경우, 하나의 BSC 및 적어도 하나의 BS를 합하여 "기지국"이라고 칭할 수 있다. 기지국은, 또한 "셀 사이트"를 나타낼 수도 있다. 또는, 특정 BS에 대한 복수의 섹터들 각각은, 복수의 셀 사이트로 불릴 수도 있다.

방송 송신부(Broadcasting Transmitter, BT) 는, 시스템 내에서 동작하는 단말기들(100)에게 방송 신호를 송신한다. 도 1a에 도시된 방송 수신 모듈(111)은, BT에 의해 전송되는 방송 신호를 수신하기 위해 단말기(100) 내에 구비된다.

뿐만 아니라, CDMA 무선 통신 시스템에는 단말기(100)의 위치를 확인하기 위한, GPS와 연계될 수 있다. 상기 위성은, 단말기(100)의 위치를 파악하는 것을 돕는다. 유용한 위치 정보는, 두 개 이하 또는 이상의 위성들에 의해 획득될 수도 있다. 여기에서는, GPS 추적 기술뿐만 아니라 위치를 추적할 수 있는 모든 기술들을 이용하여 단말기(100)의 위치가 추적될 수 있다. 또한, GPS 위성 중 적어도 하나는, 선택적으로 또는 추가로 위성 DMB 전송을 담당할 수도 있다.

단말기에 구비된 위치 정보 모듈(115)은 단말기의 위치를 탐지, 연산 또는 식별하기 위한 것으로, 대표적인 예로는 GPS 모듈 및 Wi-Fi 모듈을 포함할 수 있다. 필요에 따라서, 위치 정보 모듈(115)은 치환 또는 부가적으로 단말기의 위치에 관한 데이터를 얻기 위해 무선 통신부(110)의 다른 모듈 중 어느 기능을 수행할 수 있다.

상기 GPS 모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현재 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다. 다만, 실내와 같이 위성 신호의 음영 지대에서는 GPS 모듈을 이용하여 정확히 단말기의 위치를 측정하는 것이 어렵다. 이에 따라, GPS 방식의 측위를 보상하기 위해, 와이-파이 위치 추적 시스템(WPS)이 활용될 수 있다.

와이-파이 위치 추적 시스템(WPS)은 단말기(100)에 구비된 Wi-Fi 모듈 및 상기 Wi-Fi 모듈과 무선 신호를 송신 또는 수신하는 무선 AP를 이용하여, 단말기(100)의 위치를 추적하는 기술로서, Wi-Fi를 이용한 WLAN 기반의 위치 측위 기술을 의미한다.

와이-파이 위치 추적 시스템은 와이-파이 위치 측위 서버, 단말기(100), 상기 단말기(100)와 접속된 무선 AP, 임의의 무선 AP 정보가 저장된 데이터 베이스를 포함할 수 있다.

무선 AP와 접속 중인 단말기(100)는 와이-파이 위치 측위 서버로 위치 정보 요청 메시지를 전송할 수 있다.

와이-파이 위치 측위 서버는 단말기(100)의 위치 정보 요청 메시지(또는 신호)에 근거하여, 단말기(100)와 접속된 무선 AP의 정보를 추출한다. 상기 단말기(100)와 접속된 무선 AP의 정보는 단말기(100)를 통해 상기 와이-파이 위치 측위 서버로 전송되거나, 무선 AP에서 와이-파이 위치 측위 서버로 전송될 수 있다.

상기 단말기(100)의 위치 정보 요청 메시지에 근거하여, 추출되는 무선 AP의 정보는 MAC Address, SSID(Service Set IDentification), RSSI(Received Signal Strength Indicator), RSRP(Reference Signal Received Power), RSRQ(Reference Signal Received Quality), 채널 정보, Privacy, Network Type, 신호 세기(Signal Strength) 및 노이즈 세기(Noise Strength) 중 적어도 하나일 수 있다.

와이-파이 위치 측위 서버는 위와 같이, 단말기(100)와 접속된 무선 AP의 정보를 수신하여, 미리 구축된 데이터베이스로부터 단말기가 접속 중인 무선 AP와 대응되는 무선 AP 정보를 추출할 수 있다. 이때, 상기 데이터베이스에 저장되는 임의의 무선 AP 들의 정보는 MAC Address, SSID, 채널 정보, Privacy, Network Type, 무선 AP의 위경도 좌표, 무선 AP가 위치한 건물명, 층수, 실내 상세 위치 정보(GPS 좌표 이용 가능), AP 소유자의 주소, 전화번호 등의 정보일 수 있다. 이때, 측위 과정에서 이동형 AP나 불법 MAC 주소를 이용하여 제공되는 무선 AP를 측위 과정에서 제거하기 위해, 와이-파이 위치 측위 서버는 RSSI가 높은 순서대로 소정 개수의 무선 AP 정보만을 추출할 수도 있다.

이후, 와이-파이 위치 측위 서버는 데이터 베이스로부터 추출된 적어도 하나의 무선 AP 정보를 이용하여 단말기(100)의 위치 정보를 추출(또는 분석)할 수 있다. 포함된 정보와 상기 수신된 무선 AP 정보를 비교하여, 상기 단말기(100)의 위치 정보를 추출(또는 분석)한다.

단말기(100)의 위치 정보를 추출(또는 분석)하기 위한 방법으로, Cell-ID 방식, 핑거 프린트 방식, 삼각 측량 방식 및 랜드마크 방식 등이 활용될 수 있다.

Cell-ID 방식은 단말기가 수집한 주변의 무선 AP 정보 중 신호 세기가 가장 강한 무선 AP의 위치를 단말기의 위치로 결정하는 방법이다. 구현이 단순하고 별도의 비용이 들지 않으며 위치 정보를 신속히 얻을 수 있다는 장점이 있지만 무선 AP의 설치 밀도가 낮으면 측위 정밀도가 떨어진다는 단점이 있다.

핑거 프린트 방식은 서비스 지역에서 참조 위치를 선정하여 신호 세기 정보를 수집하고, 수집한 정보를 바탕으로 이동 단말기에서 전송하는 신호 세기 정보를 통해 위치를 추정하는 방법이다. 핑거 프린트 방식을 이용하기 위해서는, 사전에 미리 전파 특성을 데이터베이스화 할 필요가 있다.

삼각 측량 방식은 적어도 세 개의 무선 AP의 좌표와 단말기 사이의 거리를 기초로 단말기의 위치를 연산하는 방법이다. 단말기와 무선 AP 사이의 거리를 측정하기 위해, 신호 세기를 거리 정보로 변환하거나, 무선 신호가 전달되는 시간(Time of Arrival, ToA), 신호가 전달되는 시간 차이(Time Difference of Arrival, TDoA), 신호가 전달되는 각도(Angle of Arrival, AoA) 등을 이용할 수 있다.

랜드마크 방식은 위치를 알고 있는 랜드마크 발신기를 이용하여 단말기의 위치를 측정하는 방법이다.

열거된 방법 이외에도 다양한 알고리즘이 단말기의 위치 정보를 추출(또는 분석)하기 위한 방법으로 활용될 수 있다.

이렇게 추출된 단말기(100)의 위치 정보는 상기 와이-파이 위치 측위 서버를 통해 단말기(100)로 전송됨으로써, 단말기(100)는 위치 정보를 획득할 수 있다.

단말기(100)는 적어도 하나의 무선 AP에 접속됨으로써, 위치 정보를 획득할 수 있다. 이때, 단말기(100)의 위치 정보를 획득하기 위해 요구되는 무선 AP의 개수는 단말기(100)가 위치한 무선 통신 환경에 따라 다양하게 변경될 수 있다.

앞서, 도 1a를 통해 살펴본 바와 같이, 본 발명에 따른 단말기에는 블루투스, RFID, 적외선 통신(IrDA), UWB, 지그비(Zigbee), NFC(Near Field Communication), Wireless USB 등의 근거리 통신 기술이 적용될 수 있다.

이 중, 단말기에 구비된 NFC 모듈은 10cm 안팎의 거리에서 단말 간 비접촉식 근거리 무선 통신을 지원한다. NFC 모듈은 카드 모드, 리더 모드 및 P2P 모드 중 하나로 동작할 수 있다. NFC 모듈이 카드 모드로 운용되기 위해서, 단말기(100)는 카드 정보를 저장하는 보안 모듈을 더 포함할 수도 있다. 여기서, 보안 모듈이란 UICC(Universal Integrated Circuit Card)(예컨대, SIM 또는 USIM), Secure micro SD 및 스티커 등 물리적 매체일 수도 있고, 단말기에 임베디드되어 있는 논리적 매체(예컨대, embedded SE(Secure element))일 수도 있다. NFC 모듈과 보안 모듈 사이에는 SWP(Single Wire Protocol)에 기반한 데이터 교환이 이루어질 수 있다.

NFC 모듈이 카드 모드로 운용되는 경우, 단말기는 전통적인 IC 카드처럼 저장하고 있는 카드 정보를 외부로 전달할 수 있다. 구체적으로, 신용카드 또는 버스 카드 등 결제용 카드의 카드 정보를 저장하는 단말기를 요금 결제기에 근접시키면, 모바일 근거리 결제가 처리될 수 있고, 출입용 카드의 카드 정보를 저장하는 단말기를 출입 승인기에 근접시키면, 출입의 승인 절차가 시작될 수 있다. 신용카드, 교통카드 및 출입카드 등의 카드는 애플릿(applet) 형태로 보안 모듈에 탑재되고, 보안 모듈은 탑재된 카드에 대한 카드 정보를 저장할 수 있다. 여기서, 결제용 카드의 카드 정보는 카드 번호, 잔액, 사용 내역 중 적어도 하나일 수 있고, 출입용 카드의 카드 정보는, 사용자의 이름, 번호(예컨대, 사용자의 학번 또는 사번), 출입 내역 중 적어도 하나일 수 있다.

NFC 모듈이 리더 모드로 운용되는 경우, 단말기는 외부의 태그(Tag)로부터 데이터를 독출할 수 있다. 이때, 이동 단말기가 태그로부터 수신하는 데이터는 NFC 포럼에서 정하는 데이터 교환 포맷(NFC Data Exchange Format)으로 코딩될 수 있다. 아울러, NFC 포럼에서는 4개의 레코드 타입을 규정한다. 구체적으로, NFC 포럼에서는 스마트 포스터(Smart Poster), 텍스트(Text), URI(Uniform Resource Identifier), 일반 제어 등 4개의 RTD(Record Type Definition)를 규정한다. 태그로부터 수신한 데이터가 스마트 포스터 타입이면, 제어부는 브라우저(예컨대, 인터넷 브라우저)를 실행하고, 태그로부터 수신한 데이터가 텍스트 타입이면, 제어부는 텍스트 뷰어를 실행할 수 있다. 태그로부터 수신한 데이터가 URI 타입이면, 제어부는 브라우저를 실행하거나 전화를 걸고, 태그로부터 수신한 데이터가 일반 제어 타입이면, 제어 내용에 따라 적절한 동작을 실행할 수 있다.

NFC 모듈이 P2P(Peer-to-Peer) 모드로 운용되면, 단말기는 다른 단말기와 P2P 통신을 수행할 수 있다. 이때, P2P 통신에는 LLCP(Logical Link Control Protocol)가 적용될 수 있다. P2P 통신을 위해 단말기와 다른 단말기 사이에는 커넥션(connection)이 생성될 수 있다. 이때, 생성되는 커넥션은 1개의 패킷을 교환하고 종료되는 비접속형 모드(connectionless mode)와 연속적으로 패킷을 교환하는 접속형 지향 모드(connection-oriented mode)로 구분될 수 있다. P2P 통신을 통해, 전자적 형태의 명함, 연락처 정보, 디지털 사진, URL 등의 데이터 및 블루투스, Wi-Fi 연결을 위한 셋-업 파라미터 등이 교환될 수 있다. 다만, NFC 통신의 가용 거리는 짧으므로, P2P 모드는 크기가 작은 데이터를 교환하는 것에 효과적으로 활용될 수 있을 것이다.

도 4는 본 발명의 일 실시 예에 따른 복수의 카메라가 구비된 이동 단말기의 후면 사시도를 도시한 도면이다.

이동 단말기(100)는, 전면과 후면으로 구성될 수 있다. 통상 상기 전면에 터치-스크린과 함께 디스플레이가 제공된다. 한편, 후면에는 적어도 하나의 카메라와 기능 버튼, 전원 온/오프 버튼 등 중 적어도 하나가 구비될 수 있다. 상기 기능 버튼, 전원 온/오프 버튼 등 중 적어도 하나는 상기 후면이 아니라 이동 단말기(100)의 측면에 구비될 수도 있다. 다만, 이러한 이동 단말기의 전면, 후면, 측면과 관련된 내용은 예시일 뿐, 본 발명이 반드시 이러한 구성, 구조 내지 배열 등에 한정되는 것은 아니다.

한편, 도 4에서는 편의상, 이동 단말기(100)의 후면에 제1 카메라(421) 및 제2 카메라(422)가 형성된 경우를 일 예로 도시하였다.

상기 제1 카메라(421)와 제2 카메라(422)는 기설정된 간격으로 이격되어 구비될 수 있다. 여기서, 상기 도 4에 도시된 바와 같이, 기설정된 간격으로 이격된 두 카메라(421, 422) 를 동시에 이용하면, 동일한 피사체에 대하여 서로 다른 이미지를 획득할 수 있다.

상기 두 카메라 (421, 422)는 서로 상이한 화소 수, 화각, 시야각 등을 가질 수 있다. 예를 들면, 제1 카메라(421)는 협각(narrow angle) 또는 표준(normal or standard angle)의 화각을 갖고, 제2 카메라(422)는 광각(wide angle)의 화각을 가질 수 있다. 또는 그 반대가 될 수도 있다. 이하에서는, 제1 카메라(421)가 협각 또는 표준의 화각을 갖는 카메라이고, 제2 카메라(422)가 광각의 화각을 갖는 카메라인 경우를 전제로 설명한다.

한편, 본 명세서에서, 상기 화각(angle of view or view angle)은, 카메라 센서를 통해 촬영 시 일정한 화면 내에 포함 시킬 수 있는 수평 및 수직 시야각의 범위 등을 의미하는 것으로, 이와 관련되어 동일 또는 유사한 의미이나 다른 용어를 사용하는 경우에도 본 발명의 권리범위에 포함된다 할 것이다.

도 5는 본 발명의 일 실시 예에 따른 카메라 센서들과 그 데이터 처리 구성 블록도이다.

제1 카메라(521)와 제2 카메라(522)는 도 4에서 전술한 바와 같이 서로 상이한 화소 수 및 화각을 가질 수 있다. 또한, 도 4에서는 이동 단말기의 후면에 상기 제1 카메라 및 제2 카메라가 구비된 것으로 도시하였으나, 이와 달리 이동 단말기의 전면에 상기 제1 카메라 및 제2 카메라가 구비될 수도 있다.

사용자 입력부(523)는 제1 이미지 및 제2 이미지를 획득하기 위한 신호를 수신한다. 이미지를 획득하기 위한 신호는 이동 단말기(100)에 구비된 물리 버튼(미도시) 또는 터치 입력에 의하여 발생하는 신호이다. 이미지를 획득하기 위한 신호가 디스플레이부에 디스플레이되는 촬영 버튼에 대한 터치 입력인 경우, 사용자 입력부(523)와 디스플레이부(551)는 단일의 모듈로 구성되어 동작될 수 있다. 한편, 이미지의 획득은 소정의 카메라에 의한 이미지 촬영을 의미하는 것으로 이해되어야 한다.

디스플레이부(551)는 제1 카메라 또는 제2 카메라를 통한 프리뷰 이미지를 디스플레이한다. 또한, 디스플레이부(551)는 상기 프리뷰 이미지와 함께 이미지를 획득하기 위한 소정의 촬영 버튼을 디스플레이한다.

메모리(570)는 상기 제1 카메라(521) 및 제2 카메라(522)에 의해 획득된 이미지를 저장한다.

제어부(580)는 제1 카메라(521), 제2 카메라(522), 사용자 입력부(523), 디스플레이부(551), 메모리(570)와 커플링되어 각각을 제어한다. 한편, 제어부(580)는 전술한 도 1a의 제어부(180)에 대응할 수 있다.

이하에서는 본 발명의 이해를 돕고 설명의 편의를 위하여, 이동 단말기에서 카메라 애플리케이션이 실행되거나 복수의 카메라 센서들이 턴-온 된 경우를 예로 한다. 또한, 상기 이동 단말기에 구비된 복수의 카메라 센서들을 이용하여 동영상 이미지를 촬영하는 경우를 예로 하여 설명한다. 다만, 본 발명의 이러한 예시에만 한정되는 것은 아님을 미리 밝혀 둔다. 이하 본 명세서에서는 복수의 카메라 센서들 특히, 2개의 카메라 센서들(또는, 듀얼 카메라 센서)을 이용하는 것을 일 실시 예로 하여 설명하나, 반드시 이에 한정되는 것은 아니다.

여기서, 도 6 내지 13은 듀얼 카메라를 이용하여 초고속 비디오 영상 촬영 방법에 대한 것이다.

최근 이동 단말기에 듀얼 카메라 센서가 구비되고 있다. 따라서, 이러한 변화에 따라 새로운 기능, 사용자 경험 등이 요구되고 있다. 먼저, 이하에서는 복수의 카메라 센서들을 활용하여 교차 촬영을 통하여 초고속 비디오 촬영 방법을 설명한다.

통상, 이동 단말기에 구비되는 카메라 센서의 물리적인 최대 프레임 레이트(frame rate)는 제한되어 있다. 따라서, 이론적으로 듀얼 카메라 센서를 통해 교차 촬영을 하면, 싱글 카메라 센서를 이용하는 경우에 비하여 두 배의 FPS(Frame per second)를 가지는 동영상을 촬영할 수 있다.

다만, 듀얼 카메라 센서를 이용하여 단순 교차 촬영만을 하는 것이 아니라, 상기 교차 촬영된 듀얼 카메라 센서로부터 획득되는 영상들 간의 카메라 모션 추정 및 레지스트레이션(registration)을 통하여 더욱 부드러운 초고속 영상을 생성할 수 있다.

한편, 싱글 카메라 센서만을 이용하여 초고속 촬영을 하는 경우, 상기 카메라 센서의 리드-아웃(read-out) 시간 관계로 충분한 노출 시간을 확보하기 어렵다. 따라서, 듀얼 카메라를 이용하여 교차 촬영을 하면, 대략 두 배 이상의 노출 시간을 확보할 수 있어, 상대적으로 싱글 카메라 센서인 경우에 비하여 고화질의 초고속 동영상 촬영을 할 수 있다.

또한, 이동 단말기에 광각 카메라와 협각 카메라가 조합된 듀얼 카메라 시스템이 채용된 경우, 광각 영상과 협각 영상의 레지스트레이션을 통해 초고화질의 광각 초고속 동영상 획득 기능을 수행할 수 있다.

예를 들어, 협각 카메라에 의해 촬영된 주 피사체(전경)의 고화질 영상 패치를 레지스트레이션 및 모션 추정을 통해 광각 영상의 해당 부분에 입힘(또는 중첩)으로써 고화질의 광각 영상을 생성할 수 있다.

협각 카메라 뷰(view)의 외부에 해당하는 광각 영상 배경의 경우, 일반적으로 사용자가 화질 저하에 둔감하기 때문에 모션 추정, 업-샘플링(up-sampling) 등 중 적어도 하나를 통해 해상도를 개선할 수 있다.

도 6은 본 발명의 일 실시 예에 따른 듀얼 카메라를 이용한 초고속 영상 촬영 방법을 설명하기 위해 도시한 도면이다.

도 6에 도시된 촬영 방법에 의하면, 각각 30FPS인 두 카메라 센서를 교차 촬영함으로써, 60FPS의 동영상 데이터를 획득할 수 있다.

도 6을 참조하면, 제1 카메라 센서(Cam1)(610)과 제2 카메라 센서(Cam2) (620)는 각각 1/30s 즉, 30FPS의 동영상 데이터를 획득할 수 있다. 다만, 이때, 제1 카메라 센서(610)를 통해 동영상을 촬영 중에 제2 카메라 센서(620)를 통해 상기 제1 카메라 센서(610)를 통해 촬영 데이터 즉, 프레임들 사이에 촬영을 하여 프레임을 획득한 후 이를 병합(merge)하면, 이론적으로 60FPS의 결과 동영상 데이터를 획득할 수 있다. 이를 프레임 더블링(frame doubling)이라고 명명할 수도 있다. 다시 말해, 결과 동영상 프레임(630)에서, 프레임 0(frame 0)에서 프레임 3(frame 3)까지 예를 들면, 프레임 0(frame 0)과 프레임 2(frame 2)는 제1 카메라 센서(610)를 통해 획득하고, 프레임 1(frame 1)과 프레임 3(frame 3)은 제2 카메라 센서(620)를 통해 획득한다. 즉, 병합된 결과 동영상 프레임들(630)의 구성이 서로 다른 카메라 센서를 통해 획득된 프레임들이 번갈아 배치되도록 촬영하고 구성하여 초고속 비디오 영상 데이터를 획득할 수 있다.

도 7은 본 발명의 일 실시 예에 따라 듀얼 카메라를 통해 획득된 영상 데이터의 처리 방법을 설명하기 위해 도시한 도면이다.

도 7을 참조하면, 제1 카메라 센서(610)에 의해 획득되는 프레임 0(frame 0)(710)과 프레임 2(frame 2)(720)가 도시되었고, 상기 프레임 0(710)과 프레임 2(720) 사이에 제2 카메라 센서(620)에 획득되는 프레임 1(frame 1)(730)이 도시되었다. 여기서, 상기 제1 카메라 센서(610)와 제2 카메라 센서(620)에 의해 획득되는 프레임들과 배치는 전술한 도 6의 방법에 의한 것일 수 있다.

도 7은, 전술한 도 6에 이어 또는 도 6에서 결과 비디오(630)를 생성함에 있어서, 그 처리 방법에 관한 것일 수 있다.

본 발명의 이해를 돕고 설명의 편의를 위해, 도 6에서 각 카메라 센서를 통해 획득된 비디오 프레임들을 병합하여 결과 비디오(630)를 획득하는 것으로 설명하면, 다음과 같다.

도 7의 원리는 기본적으로 제1 카메라 센서(610)와 제2 카메라 센서(620)의 화각이 서로 다르다는 점에서 출발할 수 있다. 다시 말해, 상기 제1 카메라 센서(610)와 제2 카메라 센서(620)의 화각이 서로 동일하다면, 그로부터 획득되는 이미지는 그대로 병합하더라도 모션 블러(motion blur) 현상 등이 상대적으로 경감될 수 있다. 다만, 본 발명 또는 통상 이동 단말기에 채용되는 듀얼 카메라 센서의 경우와 같이, 양 카메라 센서의 화각이 서로 다르다면, 프레임의 사이즈, 프레임 내 오브젝트의 절대 위치 등 다양한 내용이 상이해질 수 있다. 이 경우, 어느 하나의 팩터만을 고려하면, 또 다른 팩터에 의해서 문제가 발생할 수 있다. 따라서, 관련 팩터들을 적절히 고려하여 병합하는 것이 필요할 수 있다.

참고로, 본 명세서에서는 각 카메라의 화각이 서로 다른바, 그를 통해 획득되는 각 프레임에 대하여 이미지 처리가 이루어지는 것이 필요할 수 있다. 본 발명의 예시로, 동영상 이미지를 예로 한바 특히, 동영상에 맞게 획득되는 프레임 내 오브젝트(object) 등을 기준으로 하여 모션 추정, 보상 등의 과정을 통한 이미지 처리를 함으로써 단순 프레임 이미지 병합에 따른 모션 블러 현상 등을 사전에 방지할 수 있다.

한편, 상기 오브젝트는 모션 추정, 보상 등을 위한 하나의 기준 역할을 하는 것으로 이에 한정되는 것은 아니다. 예컨대, 특정 오브젝트가 아니라고 하더라도 프레임 내 미리 정의된 적어도 하나의 절대 좌표가 기준점이 될 수도 있다. 또는, 오브젝트나 기준점을 하나만 이용하여 모션 추정, 보상 등의 이미지 처리를 하는 것이 아니라, 적어도 둘 이상의 오브젝트들 또는 기준점들을 이용하여 모션 추정, 보상 등의 정확성을 높일 수 있다. 또는, 적어도 하나의 오브젝트와 적어도 하나의 기준점을 이용하여 모션 추정, 보상 등을 수행할 수도 있다.

도 7에서는 3개의 프레임을 기준으로 설명하였으나, 본 발명은 이에 한정되는 것은 아니다. 다시 말해, 본 발명에 따른 이미지 처리를 위하여 모션 추정, 보상 등의 처리가 되는 프레임의 개수는 임의적인 것이다.

그 밖에, 본 발명과 관련하여, 모션 추정, 보상 등의 이미지 처리 방법 등과 관련된 내용은 기공지된 모션 추정, 보상 등 이미지 처리 기술이 그대로 또는 적절히 변경되어 적용 가능한바, 이에 대한 상세한 설명은 공지 기술을 참고하고 여기서 별도 상세 설명은 생략한다.

정리하면, 듀얼 카메라 센서의 베이스라인(baseline) 차이로 인해 각 카메라 센서로부터 획득되는 영상들은 시야각(view angle) 차이와 함께 그 중심이 틀어질 수 있다. 이러한 문제는, 본 발명에서는 특징점 기반의 레지스트레이션 방법으로 해결할 수 있다.

예컨대, 도 7에 도시된 바와 같이, 하나의 카메라 센서에서 촬영된 인접한 프레임 간 다수의 특징점들(715,725,735)을 매칭을 통해 프레임들 간 특징점 모션을 추정한다. 그리고 추정된 특징점 모션으로부터 제1 또는 제2 카메라 센서 기준의 카메라 모션을 추정하여 영상을 보정할 수 있다. 한편, 피사체가 충분히 멀리 있으면 예를 들어, 제품 생산 단계에서 얻어진 카메라 칼리브레이션(camera calibration) 정보를 통해 간단한 트랜슬레이션(translation)만으로 구현할 수도 있다.

다시 말해, 도 7의 이미지 처리 방법을 이미지 레지스트레이션(image registration)이라 명명할 수 있다.

도 8은 본 발명의 일 실시 예에 따른 이동 단말기의 듀얼 카메라에서 노출 시간 획득과 관련된 내용을 설명하기 위해 도시한 도면이다.

여기서, 도 8a는 듀얼 카메라 센서가 구비된 경우이고, 도 8b는 싱글 카메라 센서가 구비된 경우를 도시한 것이다. 이때, 도 8b의 경우, 비록 이동 단말기에 구비되거나 연결된 카메라 센서가 복수 개인 경우라고 하더라도, 그 중 하나의 카메라 센서를 통하여 촬영하는 경우도 포함하는 의미일 수 있다.

한편, 도 8a와 8b의 비교를 위하여, 듀얼 카메라인 경우와 싱글 카메라인 경우에 최종 결과 비디오의 프레임 레이트는 동일한 경우로 가정한다. 여기서, 비록 도 8a의 듀얼 카메라를 통한 최종 결과 비디오 프레임이 도시되진 않았으나, 도 6을 참조하면 도 8b와 대동소이한 형태일 것이다. 상기 가정되는 프레임 레이트는 편의상 60FPS를 예로 한다. 다만, 도 8b의 싱글 카메라 센서의 프레임 레이트는 60FPS와 달리, 도 8a의 듀얼 카메라 센서의 각 카메라 센서의 프레임 레이트는 30FPS일 수 있다. 다시 말해, 도 8a에서는 전술한 바와 같이, 제1 카메라 센서와 제2 카메라 센서는 각각 30FPS의 프레임 레이트를 가지나 예컨대, 제2 카메라 센서의 경우, 제1 카메라 센서의 프레임과 프레임 사이에 프레임을 생성함으로써, 결과적으로 60FPS와 동일한 효과를 얻도록 한다.

또한, 도 8a와 8b를 참조하면, 노출 시간의 더욱 정확한 비교를 위하여, 도 8a와 8b에서의 각 프레임의 리드아웃 타임(Readout time)(810,820)은 서로 동일한 것으로 가정한다.

다만, 도 8a와 8b를 참조하면, 상기 리드아웃 타임(810,820)이 동일함에도 노출 시간/최대 노출 시간(815,825)은 서로 차이가 남을 알 수 있다.

예컨대, 도 8b의 싱글 카메라를 통하여 비디오를 촬영하는 경우에는, 최대 노출 시간(825)은, 상대적으로 도 8a의 듀얼 카메라를 통하여 비디오를 촬영하는 경우의 최대 노출 시간(815)에 비하여 짧을 수밖에 없다.

다시 말해, 도 8a를 참조하면, 듀얼 카메라의 제1 카메라 센서의 최대 노출 시간과 제2 카메라 센서의 최대 노출 시간(815)은 각각 도 8b의 싱글 카메라 센서의 최대 노출 시간(825)에 비하여 더 긴 것을 알 수 있다. 각 카메라 센서에 대해서 이렇게 최대 노출 시간이 상대적으로 확보 가능한 것은 예컨대, 프레임 레이트에 기인한 것일 수 있다. 즉, 도 8b의 싱글 카메라 센서로 60FPS의 결과 비디오를 생성하는 것에 비하여 듀얼 카메라의 각 카메라 센서를 30FPS로 합성하여 결과 비디오를 60FPS로 생성하기 때문이다. 한편, 도 8a에서 제2 카메라 센서의 경우, 제1 카메라 센서의 프레임들 사이에 프레임이 생성되도록 구현되기 때문에, 제1 카메라 센서의 제1 프레임과 제2 프레임 사이에 제2 카레라 센서의 제1 프레임이 생성된다고 도시된 바와 같이 가정하면, 최대 노출 시간은 더욱 길어질 수 있다. 즉, 이 경우, 도 8a의 제2 카메라 센서의 최대 노출 시간은 제1 카메라 센서의 최대 노출 시간에 비하여 더욱 확보 가능하다. 이러한 노출 시간 확보는 예컨대, 결과 비디오의 퀄리티 즉, 고화질의 초고속 비디오의 획득이 가능하다. 통상, 도 8b와 같이, 각 카메라 센서의 설정된 리드아웃 타임 때문에 충분한 노출 시간을 확보하는 것이 매우 어려운데, 본 발명에 따르면, 기설정된 리드아웃 타임에도 불구하고 충분한 노출 시간을 확보하여 퀄리티 확보가 가능해진다.

도 9 내지 11은 본 발명의 일 실시 예에 따른 초고속 비디오 이미지를 위한 헤테로-듀얼 카메라 센서(Hetero-dual camera sensor)의 커플링(coupling) 방법을 설명하기 위해 도시한 도면이다.

도 9는 듀얼 카메라 센서 즉, 제1 카메라 센서(Cam1)와 제2 카메라 센서(Cam2)에 의해 초고속 비디오를 촬영한다. 여기서, 상기 제1 카메라 센서는 화각이 상대적으로 협각(Narrow)이고, 상기 제2 카메라 센서는 화각이 상대적으로 광각(Wide)이다. 따라서, 도 9의 제1 카메라 센서의 협각에 의해 획득되는 제0 프레임(910)-제2 프레임(920)과 제2 카메라 센서의 광각에 의해 획득되는 제1 프레임(915)은 다름을 알 수 있다.

그러므로 이와 같이, 화각이 서로 다른 카메라 센서들에 의해 획득되는 비디오, 이미지 프레임을 단순 합성하면, 오브젝트나 기준점이 서로 틀어질 수 있고 이로 인해 합성에 따라 왜곡(distortion)이 발생할 수 있다. 그러므로 전술한 본 발명에 따라 이미지를 합성함에 있어서, 화각 등 다른 요소를 고려하는 것이 바람직하다. 이를 위해 본 명세서에서 본 발명에 따른 헤테로 듀얼 카메라 센서의 커플링을 위하여 슈퍼-레졸루션 기법(super-resolution method)을 이용할 수 있다. 다만, 헤테로 듀얼 카메라 센서의 커플링과 관련하여 이미지 합성을 위한 슈퍼-레졸루션 기법은 본 발명에 따른 일 실시 예일 뿐, 본 발명의 권리범위가 이에 한정되는 것은 아니다.

예컨대, 도 9를 참조하면, 기준점을 먼저 설정하고, 제1 카메라 센서에 의해 협각으로 획득되는 제0 프레임(910)과 제2 프레임(920) 내 상기 기준점과 제2 카메라 센서에 의해 광각으로 획득되는 제1 프레임(915) 내 상기 기준점에 해당하는 포인트를 이미지 합성 시에 기준점으로 삼음으로써 패치 슈퍼-레졸루션(Patch super-resolution)을 수행하여, 상술한 문제점을 해소할 수 있다.

도 10을 참조하여, 더욱 상세하게 설명하면, 왼쪽부터 제0 프레임(910)으로부터 획득되는 제1 패치(1010), 제1 프레임(915)으로부터 획득되는 제2 패치(1020) 그리고 제2 프레임(920)으로부터 획득되는 제3 패치(1030)를 패치 슈퍼-레졸루션을 하면, 제1 프레임(915)의 재구성된 패치(reconstructed Patch)(1040)를 최종적으로 획득할 수 있다. 여기서, 제1 패치(1010)와 제3 패치(1030)는 협각을 가진 제1 카메라 센서(910)로부터 획득되는바 고화질(high resolution)이고, 제2 패치(1020)는 광각을 가진 제2 카메라 센서(920)로부터 획득되는바 상대적으로 상기 패치들에 비하여 저화질(low resolution)일 수 있다. 다만, 상기 패치들을 슈퍼-레졸루션을 이용한 이미지 합성을 통해 획득되는 최종 패치 즉, 재구성된 패치(1040)는 고화질로 획득 가능하다.

다음으로, 도 11을 참조하여, 헤테로 듀얼 카메라 센서 커플링 방법의 다른 실시 예를 설명하면, 다음과 같다.

이동 단말기에 구비된 또는 연결된 협각 및 광각 카메라 센서에 의하더라도, 서로 다른 두 카메라 센서를 활용함으로써 고속 카메라 기능처럼 구현할 수 있다. 다만, 이 경우, 상기 두 카메라의 베이스라인 차이에 더해 화각의 차이도 발생하기 때문에, 촬영된 영상의 시야각(FOV, Field of View), 해상도 등의 차이가 발생할 수 있다.

예컨대, 협각 카메라 센서는 주 피사체를 고화질로 촬영하고(광학적 영상 흔들림 방지(OIS, Optical Image Stabilizer) 기능 등 활용), 광각 카메라는 협각 카메라에서 보이지 않는 넓은 배경 영상을 얻을 수 있다.

주 피사체의 영역에 대해서는 전술한 이미지 레지스트레이션과 로컬 패치 기반 슈퍼-레졸루션 등의 기법을 활용함으로써, 도 9와 같이 광각 카메라의 영상의 해상도를 협각 카메라 수준으로 향상시킬 수 있다.

한편, 도 10에서, 일반적인 슈퍼-레졸루션 기법이 다수의 저화질 영상으로부터 고화질의 영상을 얻어내는 기술이라는 점과 로컬 패치는 그 변화가 크지 않다는 점을 고려할 때, 인접한 협각 카메라 프레임의 고화질 영상과 현재 프레임의 광각 카메라 프레임을 이용하여 협각 카메라 수준의 해상도로 복원하는 것은 일반적인 슈퍼-레졸루션에 비해 비교적 안정적으로 구현 가능하다.

또한, 주 피사체가 아닌 배경의 경우, 그 해상도에 사용자가 비교적 덜 민감하다는 점을 이용한다. 이러한 점을 이용하여 인접한 광각 카메라 프레임의 배경(1115)을 해당 협각 카메라 프레임 배경(1110,1120)으로 도 11과 같이 스티칭(stitching) 함으로써, 협각 카메라 프레임의 화각을 확대시킬 수 있다.

한편, 본 명세서에서 비록 도시하진 않았으나, 도 9 내지 10과 11은 서로 조합되어 다른 실시 예로 구현될 수도 있다.

다음으로, 도 12는 본 발명의 일 실시 예에 따른 듀얼 카메라 센서를 통한 이동 단말기의 이미지 처리 방법을 설명하기 위해 도시한 순서도이다.

최근 이동 단말기에서 카메라 센서로 듀얼 카메라를 많이 채용하고 있다. 따라서, 전술한 바와 같이, 이러한 듀얼 카메라 채용에 따른 사용자 경험 역시 이전과는 다르게 또는 다르거나 다양한 사용자 경험들을 제공할 필요가 있다.

광각/협각 두 개의 카메라 센서를 이용 동시 촬영을 통한 고화질 광각 영상 촬영 기술을 설명하면, 다음과 같다. 여기서, 전술한 내용과 동일하거나 채용 가능한 부분은 그대로 이용 가능하다.

광각 영상의 경우, 한정된 해상도 안에서 넓은 화각을 커버(cover) 하여야 하기 때문에 주 피사체 영역에서 해상도 손실이 발생할 수 있다. 따라서, 이러한 문제점을 해소하기 위해 본 발명에 따르면, 광각 영상과 협각 영상의 이미지 레지스트레이션을 통하여 고화질의 광각 영상을 획득할 수 있다.

한편, 협각 카메라에 의해 촬영되는 주 피사체(전경)의 고화질 영상 패치를 디스패리티 추정 및 레지스트레이션(disparity estimation/registration)을 통해 광각 영상의 해당 부위에 스티칭함으로써 고화질의 광각 영상을 생성할 수 있다.

또한, 협각 카메라 뷰(view)의 바깥에 해당하는 배경에 대해서는, 통상 사용자가 화질 저하에 둔감한바, 업-샘플링(up-sampling)을 통하여 해상도를 증가시켜도 이미지 퀄리티의 문제가 발생하지 않을 수 있다.

이러한 내용을 도 12를 참조하여 더욱 구체적으로 설명하면, 다음과 같다.

먼저, 이동 단말기는 광각 카메라를 기준으로 주 피사체를 선택한다(S1202). 여기서, 상기 주 피사체의 선택과 관련하여, 이동 단말기는 사용자의 선택, 초점 영역으로 추정 영역, 중심 영역 등 중 하나를 주 피사체로 선택할 수 있다. 다만, 편의상, 중심 영역에 비하여 초점 영역 추정 영역을 그리고 상기 초점 영역 추정 영역에 비하여 사용자 선택 영역이 주 피사체로 선택 시에 우선순위를 가지는 것으로 판단할 수 있다.

이후 상기 광각 카메라로부터 획득된 주 피사체 정보에 기초하여 협각 카메라를 주 피사체로 향하도록 제어한다(S1204). 이때, 초점 거리, 방향에 대한 정보를 참조할 수 있는데 특히, 상기 방향에 대한 정보는 OIS 데이터를 활용할 수 있다.

이후, 이동 단말기는 광각 카메라와 협각 카메라를 통해 이미지를 동시에 촬영할 수 있다(S1206).

또한, 이동 단말기는 촬영된 이미지의 초점 거리 기준으로 대략적인 피사체의 거리를 추정할 수 있다(S1208).

그리고 이동 단말기는 피사체 거리를 바탕으로 광각과 협각 영상 간의 디스패리티의 업퍼 또는 로우어 바운드(Upper/Lower bound)를 추정한다(S1210).

이동 단말기는 상기 추정된 디스패리티 업퍼 또는 로우어 바운드에 기초하에 광각과 협각의 영상 특징점을 매칭한다(S1212).

이렇게 매칭된 특징점 기반으로 이미지(비디오)를 워프 또는/및 스티치(warp/stitch)한다(S1214).

이후, 이동 단말기는 경계 부분을 어댑티드하게 블렌딩(adaptive blending) 한다(S1216).

도 13은 본 발명의 일 실시 예에 따른 이미지 어댑티브 블렌딩 기법을 설명하기 위해 도시한 도면이다.

도 13a는, 제1 카메라 센서에 의한 고화질의 협각 영상(내부, 1310)과 제2 카메라 센서에 의한 저화질의 영상(외부, 1320)을 스티치한 예시이다. 여기서, 상기 저화질의 영상은 예컨대, 상기 고화질의 협각 영역 대비 대략 협각 영역의 ¼ 해상도를 가질 수 있다. 다만, 본 발명이 이에 한정되는 것은 아니다.

한편, 제1 카메라 센서에 의한 고화질의 원본 영상으로부터 배경 영역은 임의로 저해상도의 광각 영상과, 원본 해상도의 협각 영상을 만든 후 전술한 방법을 통하여 복원한 것일 수 있다.

한편, 도 13b와 13c는 각각 원본 고화질 영상과 저화질 배경 영상과 고화질 중심 영상을 스티칭한 예시이다. 고화질의 원본 영상으로부터 배경 영역은 임의로 저해상도의 광각 영상과, 원본 해상도의 협각 영상을 만든 후 전술한 방법을 통해 복원할 수 있다.

다음으로, 이하에서는 우선 이동 단말기에 적어도 두 개의 카메라 센서들(전술한 실시 예와 같이, 이하 듀얼 센서를 예로 한다)이 구비 또는 연결된 경우에 전술한 본 발명의 일 실시 예를 참조하여, 제1 카메라 센서를 통해 촬영하는 과정에서 제2 카메라 센서의 프레임 레이트를 변경 내지 조정(이하 편의상 조정이라 한다)하는데, 이때 상기 조정 팩터는 다양할 수 있으나 이하에서는 편의상 주변 조도, 주파수, 밝기 변화 등 다양한 카메라 센서 팩터들을 예로 하여 설명한다. 다만, 본 발명이 이에 한정되는 것은 아니다.

정리하면, 이동 단말기의 제1 카메라 센서를 통해 촬영 중에 주변 조도의 변화 등 이벤트의 발생에 따라 제2 카메라의 프레임 레이트를 변경 내지 조정하여 획득되는 이미지의 퀄리티에 문제가 없도록 하거나 이를 보상할 수 있다.

도 14는 본 발명과 관련하여 주변 조도의 변화와 같은 이벤트 발생 경우를 설명하기 위해 도시한 도면이다.

도 14a는 이동 단말기 유저가 외부 즉, 실외에 있는 경우로 이 경우 조도는 태양광에 영향을 받는다. 다시 말하면, 실외에 있는 경우에 날씨의 급격한 변화가 있지 않거나 흑점 폭발 등 자연재해와 같은 일이 벌어지지 않는 이상 태양광의 거의 일정하기에 조도 이벤트가 발생할 여지가 상대적으로 적다.

반면, 도 14b는 이동 단말기 유저가 내부 즉, 실내에 있는 경우인데, 통상 실내에 있는 경우에는 자연광을 이용하지 않고 인공적인 수단 즉, 형광등, LED 등 조명 장치를 이용하는 것이 일반적이다. 그러나 이러한 조명 장치를 이용하는 실내에서 사진 촬영을 하거나 비디오를 이동 단말기 등 촬상 장치를 통해 촬영하는 경우, 인간의 눈에 보이지는 않으나 주파수 등에 의해 획득된 영상에서는 조도 변화에 의한 영향을 받은 것을 알 수 있다. 따라서, 도시되진 않았으나, 획득된 이미지에 스트라이프 모양과 같은 왜곡 현상이 있거나 블러 이미지가 포함될 수 있다.

본 발명에서는 후술하는 도 15 내지 18과 같은 방법을 이용하여 상술한 문제점을 해소할 수 있다. 다만, 여기서, 본 실시 예를 설명함에 있어서, 전술한 실시 예와 중복되는 설명은 전술한 내용을 원용 또는 준용하고 여기서 별도로 중복하여 설명하지 않는다.

도 15 내지 18은 본 발명의 실시 예에 따른 주변 조도에 따른 프레임 삽입 방법을 설명하기 위해 도시한 도면이고, 도 19는 본 발명에 따른 주변 조도에 따른 프레임 삽입 방법을 설명하기 위해 도시한 순서도이다.

다만, 이하에서 비록 프레임 삽입 방법을 본 발명의 이해를 돕고 설명의 편의를 위하여 상기 주변 조도에 따른 이미지 처리 방법 내지 촬영 방법은 비록 프레임 삽입 방법을 일 예로 하여 설명하나, 이에 한정되는 것은 아니다. 예컨대, 다른 방법으로 전술한 합성 방법도 이용될 수 있으며, 조합 등 다양한 방법이 이용될 수 있다.

이동 단말기에 카메라 애플리케이션이 실행되면, 이미지를 촬영할 수 있다. 이때, 상기 실행되는 카메라 애플리케이션은 유저의 요청 등에 의해 이루어질 수 있다.

이동 단말기는 제1 카메라 센서를 통해 이미지를 촬영한다(S1902). 이때, 상기 제2 카메라 센서 역시 동작할 수 있으나, 편의상 여기서는 제2 카메라 센서는 프레임 버퍼를 이용하여 버퍼링을 하고 충분한 노출 시간을 가지는 것을 예로 한다.

이동 단말기는 제1 카메라 센서에서 이미지 촬영이 시작되면, 제1 센서를 통해 센싱 데이터를 획득한다(S1904). 여기서, 상기 제1 센서는 예컨대, 조도 센서일 수 있다. 다만, 이에 한정되는 것은 아니며, 여기서는 주변 조도의 변화를 디텍팅하기 위하여 조도 센서를 예로 하여 설명한다. 한편, 이하에서 비록 조도만을 팩터로 하여 설명하나, 복수의 팩터들이 이용되는 경우에는 그에 따른 시스템에 따라 본 S1904 단계가 상기 S1902 단계에 우선하여 이루어질 수도 있다. 이 경우, 상기 제1 센서의 센싱 데이터에 기초하여 제2 카메라 센서가 활성화되고 촬영 준비를 한 후에 경우에 따라 제1 카메라 센서와 함께 또는 소정 시간 후에 이미지를 촬영하여 삽입할 프레임 데이터를 생성할 수도 있다.

한편, 이동 단말기의 제2 카메라 센서는 프레임 버퍼를 포함하거나 앞단에 둘 수 있으며, 상기 제1 카메라 센서에서 촬영을 시작하면 상기 프레임 버퍼를 통해 버퍼링을 수행할 수 있다(S1906). 이러한 버퍼링은 상기 제2 카메라 센서에서 본 발명에 따라 조도 변화(또는 주파수 변화)에 따라 프레임 삽입 여부를 판단하기 위함이다.

이동 단말기의 제어부는 제2 카메라 센서를 통해 프레임 삽입 여부를 판단한다(S1908). 상기 제어부는 상기 조도 센서의 센싱 데이터로부터 조도 변화(주파수 변화)가 있는지 또는 조도 변화가 획득되는 이미지의 퀄리티에 영향을 줄 수 있는 임계치 이상 변화가 있는지를 판단하여, 상기 프레임 삽입 여부를 판단할 수 있다.

상기 이동 단말기의 제어부는 상기 제2 카메라 센서를 통해 프레임 삽입이 필요하다고 판단되면, 프레임을 삽입할 위치와 삽입할 프레임의 프레임 레이트 등 중 적어도 하나를 결정한다(S1910).

제2 카메라 센서는 제어부의 제어에 따라 기결정된 프레임 레이트로 기결정된 위치에 삽입할 프레임을 생성하기 위해 촬영을 하고, 생성된 프레임을 삽입한다(S1912).

이동 단말기는 결과 데이터를 최종 생성하여 출력한다(S1914).

도 15 내지 18의 도면을 참조하여, 상기 프레임 삽입 방법을 더욱 상세하게 설명하면, 다음과 같다.

도 15를 참조하면, 제1 카메라 센서에 의해 촬영되는 이미지 프레임은 30FPS로 계속하여 생성된다. 이때, 도시되진 않았지만, 프레임 4 내지 프레임 10 사이에 조도 변화가 있고, 이동 단말기에서 이를 디텍트하면, 도 15에 도시된 바와 같이, 제2 카메라 센서에서 프레임 4와 프레임 6 사이, 프레임 6과 프레임 8 사이, 그리고 프레임 8과 프레임 10 사이에 추가 프레임을 생성하여 삽입할 수 있다. 이때, 상기 제2 카메라 센서 역시 상기 제1 카메라 센서와 동일하게 30FPS일 수 있다. 다만, 이에 한정되는 것은 아니다. 따라서, 제1 카메라 센서에 의해 촬영되는 프레임 기준으로 프레임 4 내지 프레임 10 사이는 다른 프레임과는 다른 프레임 레이트일 수 있다. 예컨대, 도 15에서는 프레임 4 내지 프레임 10 사이에서는 다른 프레임의 프레임 레이트 30FPS와 달리, 60FPS일 수 있다.

도 15가 예컨대, 제1 카메라 센서에 의해 생성되는 프레임들 중 연속된 프레임들 사이의 조도 변화에 대한 처리라고 볼 수 있다. 이때, 예컨대, 실제 조도 변화가 발생한 프레임은 싱글 프레임일 수 있으나, 상기 조도 변화에 따른 처리는 해당 프레임의 앞/뒤 적어도 하나의 프레임에 대해서 마찬가지로 프레임을 삽입하는 것이 바람직할 수 있다.

반면, 도 16은 상술한 바와 같이, 제1 카메라 센서에 의해 생성되는 프레임 기준으로 불연속적인 프레임에서 조도 변화가 발생한 경우에 그 처리에 관한 것이다.

도 16을 참조하면, 프레임 4와 프레임 6 사이, 프레임 8과 프레임 10 사이, 그리고 프레임 16과 프레임 18 사이에서 조도 변화 발생에 따라 제2 카메라 센서를 통해 획득되는 프레임을 삽입한 것이다.

도 15와 16에서는 제1 카메라 센서에 의해 생성되는 프레임과 프레임 사이를 기준으로 삽입되는 프레임은 1개만을 가정하여 도시하고 설명하였다.

반면, 도 17과 18은 전술한 도 15와 16과 달리, 프레임과 프레임 사이에 삽입되는 프레임의 개수가 2개 이상일 수도 있음을 도시하였다. 예컨대, 도 17에서는 프레임 8와 다음 프레임 즉, 프레임 10 사이에 제2 카메라 센서에 의해 생성되어 삽입되는 프레임의 개수가 3개인 경우를 도시한 것이다. 이와 같이, 삽입되는 프레임의 개수와 각 삽입 프레임의 프레임 레이트는 예컨대, 설정된 바에 따르거나 퀄리티에 대한 유저의 요청, 주변 상황 등 다양한 요소를 고려하여 결정될 수 있으며, 이는 유저의 습관, 의도 등에 대한 학습을 통해 자동으로 결정될 수도 있다.

도 18에서도 역시 특정 프레임과 다음 프레임 사이에 복수의 삽입 프레임이 존재할 수 있음을 도시하고 있다. 다만, 도 18은 전술한 도 15 내지 17과 달리, 하나의 이미지를 구성하는 프레임과 프레임 사이에 삽입되는 프레임의 개수가 항상 고정된 것이 아닐 수 있음을 도시하고 있다.

예컨대, 프레임 2와 프레임 4 사이에는 삽입되는 프레임의 개수는 1개, 프레임 8과 프레임 10 사이에 삽입되는 프레임의 개수는 3개 그리고 프레임 12와 프레임 14 사이에 삽입되는 프레임 개수는 2개로, 하나의 프레임과 다음 또는 이웃하는 프레임 사이에 제2 카메라 센서에 의해 생성되어 삽입되는 프레임의 개수는 항상 고정되지 않을 수 있다. 이는 예를 들어, 프레임과 프레임 사이의 조도 변화의 정도, 배경, OIS, 노출 정도 등 각종 카메라 센서 팩터 등 중 적어도 하나에 의하여 달라질 수 있기 때문에, 조도 센서를 통해 센싱되는 조도 변화의 정도에 따라 결정하면 된다. 시스템에 따라서는 조도 변화의 정도에 따른 삽입 프레임의 개수 등에 대하여 테이블 형태(Table form)로 정의하여 활용할 수도 있다.

이상 상술한 본 발명에 따른 다양한 실시 예들 중 적어도 하나에 의하면, 이동 단말기에 구비된 복수 즉, 적어도 둘 이상의 카메라 센서들 또는 유닛들(이하 카메라 센서들이라 함)을 이용하여 촬영함에 따른 이미지 데이터의 퀄리티를 보장 또는 보상 또는 개선할 수 있고, 이동 단말기는 제1 카메라 센서를 이용하여 이미지를 촬영 과정에서 감지되는 주변 환경의 주파수(frequency), 밝기 또는 조도 변화와 같은 이벤트 또는 팩터에 따라 제2 카메라 센서의 동작을 제어하여 촬영 이미지의 퀄리티를 보상 또는 개선할 수 있으며, 수동/자동, 실내/실외와 같은 촬영 모드를 이용하여 팩터 변화가 이루어지거나 예상되는 위치에서 적응적으로 상기 팩터 변화에 따른 이미지 처리를 수행하여 유저의 편의성을 제공하고 신뢰도를 높일 수 있다.

본 발명에서 사용되는 용어들은 본 발명에서의 기능을 고려하여 정의 내려진 용어들로써 이는 해당 분야에 종사하는 기술자의 의도 또는 관례 등에 따라 달라질 수 있으므로 그 정의는 본 발명의 전반에 걸친 내용을 토대로 내려져야 할 것이다.

전술한 본 발명은 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어-웨이브(예를 들면, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 웨어러블 디바이스의 컨트롤러를 포함할 수도 있다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

이상의 본 발명은 상기에 기술된 실시 예들에 의해 한정되지 않고 당업자들에 의해 다양한 변형 및 변경을 가져올 수 있으며, 이는 첨부된 청구항에서 정의되는 본 발명의 취지와 범위에 포함된다.

100: 이동단말기 110: 무선통신부
120: A/V 입출력부 130: 사용자 입력부
140: 센싱부 150: 출력부
160: 메모리 170: 인터페이스부
180: 제어부 190: 전원공급부

Claims (10)

1. 이동 단말기에 있어서,
   제1 카메라 센서;
   제2 카메라 센서;
   이동 단말기 주변의 조도 변화를 센싱하는 조도 센서; 및
   상기 제1 카메라 센서에 의한 이미지 촬영을 제어하고, 상기 조도 센서에서 센싱되는 조도 변화가 임계치 이상이면, 상기 제2 카메라 센서에서도 상기 이미지 촬영 시작하도록 제어하는 제어부
   를 포함하는 이동 단말기.
2. 제1항에 있어서,
   상기 제2 카메라는,
   앞단에 프레임 버퍼링을 위한 프레임 버퍼를 구비하는 것을 특징으로 하는 이동 단말기.
3. 제1항에 있어서,
   상기 제어부는,
   상기 제1 카메라 센서에 의해 촬영되는 제1 프레임들 중 상기 조도 변화가 발생한 이미지 프레임과 이웃하는 이미지 프레임(들) 사이에 해당하는 시간 동안에만 상기 제2 카메라 센서에서 제2 프레임을 생성하도록 제어하는 것을 특징으로 하는 이동 단말기.
4. 제3항에 있어서,
   상기 제어부는,
   상기 제2 프레임을 상기 조도 변화가 발생하는 제1 프레임의 이미지 프레임과 이웃하는 이미지 프레임 사이에 삽입하여 결과 이미지를 생성하도록 제어하는 것을 특징으로 하는 이동 단말기.
5. 제4항에 있어서,
   상기 제어부는,
   상기 제1 프레임의 이미지 프레임들 사이에 상기 제2 프레임의 이미지 프레임 삽입 위치, 삽입할 이미지 프레임 개수 및 상기 삽입될 이미지 프레임의 프레임 레이트를 결정하는 것을 특징으로 하는 이동 단말기.
6. 제5항에 있어서,
   상기 제어부는,
   상기 삽입 위치, 삽입 이미지 프레임 개수와 삽입 이미지 프레임의 프레임 레이트를 상기 조도 센서에 의한 조도 변화의 레벨에 따라 또는 참고하여 결정하는 것을 특징으로 하는 이동 단말기.
7. 제4항에 있어서,
   상기 제어부는,
   상기 조도 변화의 레벨에 기초하여 상기 제1 프레임의 이미지 프레임들 사이에 삽입할 상기 제2 프레임의 이미지 프레임 개수 또는 프레임 레이트 중 적어도 하나를 결정하는 것을 특징으로 하는 이동 단말기.
8. 제1항에 있어서,
   상기 제어부는,
   상기 제2 프레임의 프레임 레이트는 상기 제1 프레임의 프레임 레이트와 다르도록 제어하는 것을 특징으로 하는 이동 단말기.
9. 제3항에 있어서,
   상기 제어부는,
   상기 제2 카메라 센서의 최대 노출 시간 이후에 제2 프레임을 생성하도록 제어하는 것을 특징으로 하는 이동 단말기.
10. 제1항에 있어서,
    상기 제1 카메라 센서는 협각의 화각을 가지고, 상기 제2 카메라 센서는 광각의 화각을 가지는 것을 특징으로 하는 이동 단말기.

Images