KR101951418B1 - 이동 단말기 및 그의 오디오 줌잉방법 - Google Patents

Abstract

본 발명은 동영상 촬영 또는 재생시 영상에 기반하여 오디오를 효과적으로 취음할 수 있는 이동 단말기 및 그의 오디오 줌잉 방법에 관한 것으로, 소정의 취음 범위에서 피사체의 소리를 취음하면서 피사체를 촬영할 때 상기 피사체의 촬영 위치나 범위 또는 촬영 모드를 변경하는 이벤트가 발생되면 해당 이벤트에 따라 취음 각도를 변경하여 취음 범위를 자동 조절하여 피사체의 소리를 취음한다.

Description

이동 단말기 및 그의 오디오 줌잉방법{MOBILE TERMINAL AND AUDIO ZOOMING METHOD THEREOF}

본 발명은 동영상 촬영 및 재생시 영상에 기반하여 피사체가 발생하는 소리를 효과적으로 취음할 수 있는 이동 단말기 및 그의 오디오 줌잉 방법에 관한 것이다.

이동 단말기는 다양한 기능을 수행할 수 있도록 구성될 수 있다. 그러한 다양한 기능들의 예로 데이터 및 음성 통신 기능, 카메라를 통해 사진이나 동영상을 촬영하는 기능, 음성 저장 기능, 스피커 시스템을 통한 음악 파일의 재생 기능, 이미지나 비디오의 디스플레이 기능 등이 있다. 일부 이동 단말기는 게임을 실행할 수 있는 추가적 기능을 포함하고, 다른 일부 이동 단말기는 멀티미디어 기기로서 구현되기도 한다. 더욱이 최근의 이동단말기는 방송이나 멀티캐스트(multicast) 신호를 수신하여 비디오나 텔레비전 프로그램을 시청할 수 있다.

또한, 상기 이동 단말기의 기능 지지 및 증대를 위한 노력들이 계속되고 있다. 상술한 노력은 이동 단말기를 형성하는 구조적인 구성요소의 변화 및 개량뿐만 아니라 소프트웨어나 하드웨어의 개량도 포함한다. 그 중에서 이동 단말기의 터치 기능은 터치 스크린을 이용하여 버튼/키 입력이 익숙하지 않은 사용자도 편리하게 단말기의 동작을 수행할 수 있도록 한 것으로서, 최근에는 단순한 입력뿐만 아니라 사용자 인터페이스(UI)와 함께 단말기의 중요한 기능으로서 자리 잡아가고 있다.

이동 단말기는 카메라를 이용하여 피사체를 촬영하기 위한 다양한 기능을 제공하고 있다. 사용자는 카메라의 제어 옵션(control options)을 조작하여 특정 피사체를 중심으로 영상을 확대하거나, 영상의 초점을 수동/자동으로 조절하거나 또는 얼굴인식 기등을 이용하여 원하는 영상을 촬영을 수행한다.

예를들어 사용자는 피사체의 위치에 따라 이동 단말기의 전면 혹은 후면 카메라를 선택적으로 사용하여 촬영을 수행할 수 있으며, 특히 장면(scene)에 따라 촬영 모드(인물모드 또는 풍경모드)를 변환하여 촬영을 수행할 수 있다. 또한, 사용자는 재생시에도 화면의 특정 영역을 중심으로 선택적으로 확대하거나 초점을 재조정 할 수 있다.

상기와 같은 다양한 촬영 기법을 이용하여 관심 피사체 또는 장면을 촬영할 때 피사체가 발생하는 음성 또는 소리는 마이크로 폰 어레이에 의해 취음(Capture)되어 저장된다. 하지만, 종래에는 피사체가 발생하는 소리뿐만 아니라 주변의 소리 및 잡음도 함께 취음되는 단점이 있다. 이러한 문제점을 해소하기 위하여 종래에는 터치 또는 레이저 포인터에 의해 화면상의 관심 피사체 혹은 특정 영역을 수동적으로 일일이 포인팅하여, 상기 포인팅된 피사체나 영역의 소리를 선택적으로 취음하고 있다.

그런데, 종래 수동 포인팅에 의한 취음방법은 촬영영상과의 연동없이 단지 특정 피사체 또는 영역의 소리를 취음하기 때문에 영상과 소리가 일치하지 않는 한계가 있다. 예를 들어, 동영상 촬영시 화상 줌 인/아웃을 수행하면 눈에 보이는 피사체 또는 영역이 변경되기 때문에 매번 포인팅 위치를 일일이 수동으로 변경해야 하는 불편함이 있게 된다.

또한, 다수의 사람들이 존재하는 상황에서 특정 한 사람의 목소리를 취음하고자 할 때는 취음 범위를 세밀하게 조절해야 하며, 특히 서로 다른 위치에 존재하는 두 사람의 목소리를 모두 취음하고자 할 때는 두 사람의 위치에 지향성을 별도로 형성해야할 뿐만 아니라 각각 취음 범위를 다양하게 조정할 수 있어야 하는 등 취음에 어려움이 있었다.

따라서, 본 발명의 목적은 다양한 촬영기법에 연동되어 피사체가 발생하는 소리를 최적으로 취음할 수 있는 이동 단말기 및 그의 오디오 줌잉 방법을 제공하는데 있다.

본 발명의 다른 목적은 촬영 영상에 기반하여 소리의 취음 위치와 범위를 정밀하게 조절할 수 있는 이동 단말기 및 그의 오디오 줌잉 방법을 제공하는데 있다.

상기와 같은 목적을 달성하기 위하여 본 발명에 따른 이동 단말기의 오디오 줌잉방법은, 소정 촬영 모드에서 피사체의 취음 범위를 설정하는 단계; 설정된 취음 범위에서 피사체의 소리를 취음하는 단계; 촬영 중 피사체의 촬영 위치나 범위 또는 촬영 모드를 변경하는 이벤트 발생에 따라 취음 각도를 변경하여 취음 범위를 자동 조절하는 단계; 및 조절된 취음 범위에서 피사체의 소리를 취음하는 단계;를 포함한다.

상기 취음 범위는 일반 촬영모드 선택시 기 설정된 위치에 소정 크기 및 형상으로 자동 설정된다.

상기 사용자 이벤트는 화면 줌 인/아웃 또는 촬영 모드의 변경을 포함한다.

상기 이벤트가 화면 줌 인/아웃인 경우 화면 줌 배율에 따라 취음 각도를 자동 변경하고, 상기 이벤트가 촬영 모드의 변경인 경우에는 특정 촬영모드 또는 전/후면 촬영 모드의 선택에 따라 취음 각도를 자동으로 변경한다.

상기 취음 범위는 특정 피사체가 롱 터치될 때 터치 지점을 중심으로 기 설정된 크기와 모양으로 설정되건, 특정 피사체 주변이 터치 & 드래그될 때 터치 움직임의 모양 및 크기로 설정된다.

상기 설정된 취음 범위는 터치 입력에 따라 확대 또는 축소된다.

상기 취음 범위의 확대 또는 축소시 취음 가능 범위의 변동 한계 정보를 표시한다.

상기 취음 가능 범위의 변동 한계 정보는 취음 가능 영역이 최소/최대값에 도달 했을 때, 크기가 변경되었다가 회복되는 크기 바운싱효과, 모양이 변경되었다가 회복되는 모양 바운싱 효과, 색이 변경되었다가 회복되는 색 바운싱 효과 및 일정 소리나 진동을 발생하는 효과 중 하나를 포함한다.

상기 이동 단말기의 오디오 줌잉방법은 이벤트가 화면 줌 인/아웃이면 자동 포커싱 기능에 의해 재설정된 초점 영역으로 상기 취음 범위의 표시 위치를 재조정하는 단계;를 더 포함한다.

상기 이동 단말기의 오디오 줌잉방법은 이벤트가 화면 줌 인/아웃이면 미리 설정된 복수의 취음 가능 범위를 화면에 표시하는 단계; 및 화면 줌 인/아웃이 완료되면 취음 가능 범위들의 갯수를 재조정하여 표시하는 단계;를 더 포함한다.

상기 이동 단말기의 오디오 줌잉방법은 복수의 피사체가 소리를 발생할 때 소리를 발생하는 피사체로 화면 초점을 자동 형성하여 취음 대상을 변경하는 단계를 더 포함한다.

상기 취음 대상을 변경할 때 소리의 단절 효과를 예방하기 위하여 시각적 및 청각적 효과를 출력한다.

상기와 같은 목적을 달성하기 위하여 본 발명에 따른 이동 단말기는, 관심 피사체가 포함된 화면을 표시하는 디스플레이부; 촬영에 관련된 정보를 저장하는 메모리; 및 촬영 중 피사체의 촬영 위치나 범위 또는 촬영 모드를 변경하는 이벤트 발생에 따라 취음 범위를 자동으로 조절하여 피사체의 소리를 취음하는 제어부;를 포함한다.

상기 취음 범위는 일반 촬영모드 선택시 기 설정된 위치에 소정 크기 및 형상으로 자동 설정된다.

상기 사용자 이벤트는 화면 줌 인/아웃 또는 촬영 모드의 변경을 포함한다.

상기 제어부는 이벤트가 화면 줌 인/아웃인 경우 화면 줌 배율에 따라 취음 각도를 자동 변경하고, 상기 이벤트가 촬영 모드의 변경인 경우에는 특정 촬영모드 또는 전/후면 촬영 모드의 선택에 따라 취음 각도를 자동으로 변경한다.

상기 촬영 모드의 변경은 기본 촬영 모드에서 풍경모드, 인물모드, 거리모드, 스테레오 모드 및 보청기 모드로의 변경을 포함한다.

상기 제어부는 특정 피사체가 롱 터치될 때 터치 지점을 중심으로 기 설정된 크기와 모양으로 취음 범위를 설정하거나, 특정 피사체 주변이 터치 & 드래그될 때 터치 움직임의 모양 및 크기로 취음 범위를 설정한다.

상기 제어부는 터치 입력에 따라 상기 취음 범위를 확대 또는 축소한다.

상기 제어부는 취음 범위의 확대 또는 축소시 취음 가능 범위의 변동 한계 정보를 표시한다.

상기 취음 가능 범위의 변동 한계 정보는 취음 가능 영역이 최소/최대값에 도달 했을 때, 크기가 변경되었다가 회복되는 크기 바운싱 효과, 모양이 변경되었다가 회복되는 모양 바운싱 효과, 색이 변경되었다가 회복되는 색 바운싱 효과 및 일정 소리나 진동을 발생하는 효과 중 하나를 포함한다.

상기 제어부는 이벤트가 화면 줌 인/아웃이면 자동 포커싱 기능에 의해 재설정된 초점 영역으로 상기 취음 범위의 표시 위치를 재조정한다.

상기 제어부는 이벤트가 화면 줌 인/아웃이면 미리 설정된 복수의 취음 가능 범위를 화면에 표시하고, 화면 줌 인/아웃이 완료되면 취음 가능 범위들의 갯수를 재조정하여 표시한다.

상기 제어부는 복수의 피사체가 소리를 발생할 때 소리를 발생하는 피사체로 화면 초점을 자동 형성하여 취음 대상을 변경한다.

상기 제어부는 얼굴인식 기법을 이용하여 인식된 얼굴의 크기에 맞추어 취음 범위를 형성하여 각 사용자로부터 발생하는 소리를 감지한 후 소리를 발생하는 얼굴 또는 가장 큰 소리를 발생하는 얼굴에 자동으로 화면 초점을 형성하여 해당 사용자의 목소리를 취음한다.

상기 제어부는 취음 대상을 변경할 때 소리의 단절 효과를 예방하기 위하여 시각적 및 청각적 효과를 출력한다.

상기 시각적 및 청각적 효과는 화면상의 취음 범위 이동 및 그에 관련된 사운드효과 또는 페이드 인/아웃 (Fade In/Out)과 그에 관련된 사운드 효과를 포함하거나, 이전 피사체의 취음 범위가 전체 화면으로 확대된 후 서서히 다른 피사체에 취음 영역이 설정되는 것을 포함한다.

본 발명은 촬영 및 재생모드에서 최적의 영상을 얻기 위해서 사용자가 관심 피사체들의 위치나 범위 및 상황을 설정하는 이벤트 즉, 사용자가 클로즈업하거나 초점을 맞춘 피사체의 위치와 크기에 자동으로 연동하여 그 피사체의 위치에 지향성을 향하게 하거나 취음 범위를 최적화함으로써 관심 피사체의 소리나 음성을 최적으로 촬영할 수 있으며, 취음하고자 하는 음원을 일일이 수동으로 포인팅하는 종래기술의 불편함을 최소화할 수 있는 효과가 있다

또한, 본 발명은 화면 줌 배율 등을 조절하는 카메라의 기본적인 시나리오와 충돌하지 않도록 하면서 하나 또는 다수의 취음 위치 및 범위를 섬세하고 편리하게 조절할 수 있는 표현기법을 제공함으로써 관심 피사체의 소리나 목소리를 최적으로 촬영 혹은 재생할 수 있는 효과가 있다.

도 1은 본 발명의 일 실시예에 관련된 이동 단말기의 블록 구성도.
도 2는 본 발명의 일 실시예에 관련된 이동 단말기가 동작할 수 있는 무선 통신 시스템에 대한 블록도.
도 3은 본 발명에 따른 오디오 줌잉 방법의 개념도.
도 4는 본 발명에 관련된 카메라 모드의 설정 예.
도 5는 촬영 화면에서 취음 각도와 취음 범위간 관계를 나타낸 도면.
도 6a 내지 도 6c는 촬영 모드별 취음 정보의 설정 예를 나타낸 도면.
도 7은 전/후면 카메라 선택과 연동된 취음 정보의 설정 예를 나타낸 도면.
도 8a 내지 도 8e는 취음 모드별 취음 정보의 설정 예를 나타낸 도면.
도 9a 내지 도 9e는 일반 촬영모드에서 사용자가 취음 정보를 설정하는 예를 나타낸 도면.
도 10a 내지 도 10d는 취음 범위의 표시 크기를 수동으로 변경하는 예를 나타낸 도면.
도 11a 내지 도 11e는 취음 범위의 변동 한계에 관한 정보의 제공 예.
도 12는 본 발명에 따른 이동 단말기의 오디오 줌잉 방법을 나타낸 순서도.
도 13은 사용자 이벤트의 일종인 화면 줌 인/아웃 발생시 취음 범위를 조절하는 일 예를 나타낸 도면.
도 14a 및 14b는 화면 줌 인/아웃시 취음 범위의 프리셋 옵션을 제공하는 일 예를 나타낸 도면.
도 15a 및 도 15b는 초점 변경에 따른 취음 범위의 위치 변경을 나타낸 도면.
도 16은 복수의 피사체의 소리를 취음할 때 취음 대상을 변경하는 방법을 나타낸 순서도.
도 17a 및 17b는 본 발명에서 취음 대상을 자동으로 변경하는 예를 나타낸 도면.
도 18a 내지 도 18c는 취음 영역 이동시 취음의 단절을 예방하기 위한 시청각적 효과의 예를 나타낸 도면.

이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 단순히 본 명세서 작성의 용이함만이 고려되어 부여되는 것으로서, 그 자체로 특별히 중요한 의미 또는 역할을 부여하는 것은 아니다. 따라서, 상기 "모듈" 및 "부"는 서로 혼용되어 사용될 수도 있음을 유념해야 한다.

단말기는 다양한 형태로 구현될 수 있다. 예를 들어, 본 명세서에서 기술되는 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(notebook computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등과 같은 이동 단말기와, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기가 있다. 이하의 설명에서는 상기 단말기가 이동 단말기인 것으로 가정하고 설명한다. 그러나, 이하의 설명에 따른 구성은 이동용을 위해 특별히 구성된 구성요소를 제외한다면 상기 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1은 다양한 구성요소를 가지고 있는 이동 단말기를 나타내고 있다. 그러나 도시된 구성요소 모두가 필수구성요소인 것은 아니다. 도시된 구성요소 보다 많은 구성요소에 의해 이동 단말기가 구현될 수도 있고, 그 보다 적은 구성요소에 의해서도 이동 단말기가 구현될 수 있다.

이하 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 간의 무선 통신 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트웍간의 무선 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

한편, 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있으며, 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 각종 방송 시스템을 이용하여 방송 신호를 수신하는데, 특히, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 방송 신호를 제공하는 모든 방송 시스템에 적합하도록 구성된다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

또한, 이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 무선 인터넷 모듈(113)은 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN (Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

또한, 위치정보 모듈(115)은 이동 단말기의 위치를 확인하거나 얻기 위한 모듈이다. 상기 위치정보 모듈(115)의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.

한편, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)은 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 그리고, 처리된 화상 프레임은 디스플레이 모듈(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)은 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰 (Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 그리고, 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)를 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)를 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다. 특히, 터치 패드가 후술하는 디스플레이 모듈(151)과 상호 레이어 구조를 이룰 경우, 이를 터치 스크린이라 부를 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기 (100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등과 관련된 센싱 기능을 담당한다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다. 이에 대해서는 나중에 터치스크린과 관련되어 후술된다.

또한, 상기 센싱부(140)는 사용자가 이동할 때 이동방향을 계산하는 지자기 센서, 회전방향을 계산하는 자이로 센서 및 가속도센서를 포함한다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 인터페이스 역할을 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 포함될 수 있다.

여기에서, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module; 'UIM'), 가입자 인증 모듈(Subscriber Identify Module; 'SIM'), 범용 사용자 인증 모듈(Universal Subscriber Identity Module; 'USIM') 등을 포함할 수 있다. 또한, 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다. 이와 같은 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다.

또한, 상기 인터페이스부(170)는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

출력부(150)는 오디오 신호 또는 비디오 신호 또는 알람(alarm) 신호의 출력을 위한 것으로, 이에는 디스플레이 모듈(151), 음향 출력 모듈(152), 및 알람부(153) 등이 포함될 수 있다.

디스플레이 모듈(151)는 이동 단말기(100)에서 처리되는 정보를 표시 출력한다. 예를 들어 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다.

한편, 전술한 바와 같이, 디스플레이 모듈(151)과 터치패드가 상호 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이 모듈(151)은 출력 장치 이외에 입력 장치로도 사용될 수 있다. 디스플레이 모듈(151)은 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. 이들 중 일부 디스플레이는 이를 통해 외부를 볼 수 있도록 투명하도록 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(transparent organic light emitting diode) 등이 있다. 그리고 이동 단말기(100)의 구현 형태에 따라 디스플레이 모듈(151)이 2개 이상 존재할 수도 있다. 예를 들어, 이동 단말기(100)에 외부 디스플레이 모듈(미도시)과 내부 디스플레이 모듈(미도시)이 동시에 구비될 수 있다. 상기 터치스크린은 터치 입력 위치 및 면적 뿐만 아니라 터치 입력 압력까지도 검출할 수 있도록 구성될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력한다. 이러한 음향 출력 모듈(152)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 오디오 신호나 비디오 신호 이외에 다른 형태로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 예를 들면, 진동 형태로 신호를 출력할 수 있다. 호 신호가 수신되거나 메시지가 수신된 경우, 이를 알리기 위해 알람부(153)는 진동을 출력할 수 있다. 또는, 키 신호가 입력된 경우, 키 신호 입력에 대한 피드백으로 알람부(153)는 진동을 출력할 수 있다. 상기와 같은 진동 출력을 통해 사용자는 이벤트 발생을 인지할 수 있다. 물론 이벤트 발생 알림을 위한 신호는 디스플레이 모듈(151)이나 음향 출력 모듈(152)을 통해서도 출력될 수 있다.

메모리(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 또한, 상기 메모리(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM (Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory) 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 또한, 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)를 운영할 수도 있다.

그리고 제어부(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 또한, 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 배터리로서 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 그러한 실시예들이 제어부(180)에 의해 구현될 수 있다.

소프트웨어적인 구현에 의하면, 절차나 기능과 같은 실시예들은 적어도 하나의 기능 또는 작동을 수행하게 하는 별개의 소프트웨어 모듈과 함께 구현될 수 있다. 소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션에 의해 구현될 수 있다. 또한, 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

도 1에 도시된 단말기(100)는, 유무선 통신 시스템 및 위성 기반 통신 시스템을 포함하여, 프레임(frame) 또는 패킷(packet)을 통하여 데이터(data)를 전송할 수 있는 통신 시스템에서 동작 가능하도록 구성될 수 있다.

이하에서는, 도 2를 참조하여, 본 발명에 관련된 단말기가 동작 가능한 통신 시스템에 대하여 살펴보겠다.

통신 시스템은, 서로 다른 무선 인터페이스 및/또는 물리 계층을 이용할 수도 있다. 예를 들어, 통신 시스템에 의해 이용 가능한 무선 인터페이스에는, 주파수 분할 다중 접속(Frequency Division Multiple Access; 'FDMA'), 시분할 다중 접속(Time Division Multiple Access; 'TDMA'), 코드 분할 다중 접속(Code Division Multiple Access; 'CDMA'), 범용 이동통신 시스템(Universal Mobile Telecommunications Systems; 'UMTS')(특히, LTE(Long Term Evolution)), 이동통신 글로벌 시스템(Global System for Mobile Communications; 'GSM') 등이 포함될 수 있다. 이하에서는, 설명의 편의를 위하여, CDMA에 한정하여 설명하도록 한다. 그러나, 본 발명은, CDMA 무선 통신 시스템을 포함한 모든 통신 시스템 적용될 있음은 당연하다.

도 2에 도시된 바와 같이, CDMA 무선 통신 시스템은, 복수의 단말기들(100), 복수의 기지국(Base Station; 'BS')(270), 기지국 제어부(Base Station Controllers; 'BSCs')(275), 이동 스위칭 센터(Mobile Switching Center; 'MSC')(280)를 포함할 수 있다. MSC(280)는, 일반 전화 교환망(Public Switched Telephone Network; 'PSTN')(290)과 연결되도록 구성되고, BSCs(275)와도 연결되도록 구성된다. BSCs(275)는, 백홀 라인(backhaul line)을 통하여, BS(270)과 짝을 이루어 연결될 수 있다. 백홀 라인은, E1/T1, ATM, IP, PPP, Frame Relay, HDSL, ADSL 또는 xDSL 중 적어도 하나에 따라서 구비될 수 있다. 따라서, 복수의 BSCs(275)가 도 2에 도시된 시스템에 포함될 수 있다.

각각의 BS(270)는, 적어도 하나의 섹터를 포함할 수 있고, 각각의 섹터는, 전방향성 안테나 또는 BS(270)으로부터 방사상의 특정 방향을 가리키는 안테나를 포함할 수 있다. 또한, 각각의 섹터는, 다양한 형태의 안테나를 두 개 이상 포함할 수도 있다. 각각의 BS(270)는, 복수의 주파수 할당을 지원하도록 구성될 수 있고, 복수의 주파수 할당 각각은, 특정 스펙트럼(예를 들어, 1.25MHz, 5MHz 등)을 갖는다.

섹터와 주파수 할당의 교차는, CDMA 채널이라고 불릴 수 있다. BS(270)은, 기지국 송수신 하부 시스템(Base Station Transceiver Subsystem; 'BTSs')이라고 불릴수 있다. 이러한 경우, "기지국"이라는 단어는, 하나의 BSC(275) 및 적어도 하나의 BS(270)을 합하여 불릴 수도 있다. 기지국은, 또한 "셀 사이트"를 나타낼 수도 있다. 또는, 특정 BS(270)에 대한 복수의 섹터들 각각은, 복수의 셀 사이트로 불릴 수도 있다.

도 2에 도시된 바와 같이, 방송 송신부(Broadcasting Transmitter; 'BT')(295)는, 시스템 내에서 동작하는 단말기들(100)에게 방송 신호를 송신한다. 도 1에 도시된 방송수신 모듈(111)은, BT(295)에 의해 전송되는 방송 신호를 수신하기 위해 단말기(100) 내에 구비된다.

뿐만 아니라, 도 2에서는, 여러 개의 위성 위치 확인 시스템(Global Positioning System; 'GPS') 위성(300)을 도시한다. 상기 위성들(300)은, 복수의 단말기(100) 중 적어도 하나의 단말기의 위치를 파악하는 것을 돕는다. 도 2에서는 두 개의 위성이 도시되어 있지만, 유용한 위치 정보는, 두 개 이하 또는 이상의 위성들에 의해 획득될 수도 있다. 도 1에 도시된 위치정보 모듈(115)은, 원하는 위치 정보를 획득하기 위하여 위성들(300)과 협력한다. 여기에서는, GPS 추적 기술뿐만 아니라 위치를 추적할 수 있는 모든 기술들을 이용하여 위치를 추적할 수 있다. 또한, GPS 위성들(300) 중 적어도 하나는, 선택적으로 또는 추가로 위성 DMB 전송을 담당할 수도 있다.

무선 통신 시스템의 전형적인 동작 중, BS(270)은, 다양한 단말기들(100)로부터 역 링크 신호를 수신한다. 이때, 단말기들(100)은, 호를 연결 중이거나, 메시지를 송수신 중이거나 또는 다른 통신 동작을 수행하고 있다. 특정 기지국(270)에 의해 수신된 역 링크 신호들 각각은, 특정 기지국(270)에 의해 내에서 처리된다. 상기 처리 결과 생성된 데이터는, 연결된 BSC(275)로 송신된다. BSC(275)는, 기지국들(270) 간의 소프트 핸드오프(soft handoff)들의 조직화를 포함하여, 호 자원 할당 및 이동성 관리 기능을 제공한다. 또한, BSC(275)는, 상기 수신된 데이터를 MSC(280)으로 송신하고, MSC(280)은, PSTN(290)과의 연결을 위하여 추가적인 전송 서비스를 제공한다. 유사하게, PSTN(290)은 MSC(280)과 연결하고, MSC(280)은 BSCs(275)와 연결하고, BSCs(275)는 단말기들(100)로 순 링크 신호를 전송하도록 BS들(270)을 제어한다.

본 발명은 영상 촬영 및 재생시 최적의 영상을 얻기 위해 사용자가 관심 피사체들의 위치, 범위 및 상황을 선택하는 이벤트(events)와 오디오 줌잉(Audio Zooming) 기법을 조합한 다양한 취음 방법을 제공한다.

상기 재생시의 영상은 오디오 줌잉 기술이 적용되어 저장된 영상 또는 오디오 줌잉 기술이 적용되지 않은 상태에서 저장된 영상을 모두 포함한다.

본 발명에 적용되는 오디오 줌잉 기법은 마이크를 통해 음원의 사운드를 취음한 후 오디오 줌잉을 적용하여 원하는 사운드만을 선택적으로 녹음하는 일련의 동작을 의미한다. 예를 들어, 사용자가 클로즈업하거나 초점을 맞춘 피사체의 위치와 크기에 자동으로 연동하여 그 피사체의 위치에 지향성을 향하게 하거나 취음 범위를 최적화함으로써 관심 피사체의 오디오를 최적으로 취음하면서 촬영 또는 재생한다.

일 실시예로서 본 발명은 동영상 촬영 및 재생시에 화면 줌인/아웃과 연동하여 소리를 취음하는 기술을 제공한다.

다른 실시예로서 본 발명은 동영상 촬영 및 재생시에 자동 얼굴 인식을 이용하여 다수의 협의(narrow) 오디오를 취음하는 기술을 제공한다.

또 다른 실시예로서 본 발명은 동영상 촬영 및 재생 시에 특정 영역을 줌인/아웃 하는 경우에 해당 영역의 소리를 줌인/아웃 하여 취음하는 기술을 제공한다.

또 다른 실시예로서 본 발명은 장면 모드(인물모드, 풍경모드, 거리모드)에 따라 미리 설정된 오디오 줌잉(Audio zooming)의 취음범위 기술을 제공한다.

또 다른 실시예로서 본 발명은 전후면 카메라에 따른 화각을 고려하여 취음방향과 범위를 설정할 수 있는 기술을 제공한다.

또한, 본 발명은 화면 포커싱, 줌 배율 등을 조절하는 카메라의 기본적인 UI 시나리오와 충돌하지 않도록 하면서, 사용자가 하나 혹은 다수의 취음 위치 및 범위를 섬세하고 편리하게 조절할 수 있는 표현 기법을 제공함으로써, 관심 피사체의 오디오를 최적으로 촬영 혹은 재생할 수 있는 방안을 제공한다.

상기 하나 혹은 다수의 취음 위치 및 범위에 대한 조절은, 촬영 또는 재생 영상에 대한 사용자의 행위(behavior) 또는 제스처와 같은 접촉 또는 비접촉 방식으로 이루어진다. 상기 접촉 또는 비접촉 방식에 의한 입력은 싱글터치, 멀티터치, 다지점 터치, 플리킹 및 터치 & 드래그를 포함한다.

상기 촬영 또는 재생 영상은 이동 단말기의 디스플레이부에 표시되거나 이동 단말기와 별도로 홀로그램상에 표시될 수 있다. 이러한 입력 및 표시방법은 후술하는 모든 실시예에 공통적으로 적용된다.

또한, 본 발명은 하나 혹은 다수의 취음 위치 및 범위를 조절할 경우 각 피사체간의 음 세기비율을 가시적으로 표시할 수 있다.

일반적으로 음원의 소리를 취음(Capture)하기 위해서는 사용자 기준으로 수평축 또는 수직축상의 음원들간의 선별적인 지향성이 필요하다. 상기 선별적인 지향성을 제공하기 위해 이동 단말기의 배면에 복수의 마이크를 서로 직교하거나 십자형태로 배치하고, 2개의 마이크만 사용하는 경우는 가로 또는 세로 직선 방향으로 서로 떨어뜨려 배치한다. 특히, 상기 지향성은 다수의 마이크를 통해 취음된 사운드(예:소리 또는 목소리)에 대하여 빔 포밍(Beam-forming)과 같은 신호처리를 통해 수행된다. 상기 빔 포밍은 취음할 범위를 사운드 빔으로 형성하여 지향성을 생성하는 것을 의미한다.

도 3은 본 발명에 따른 오디오 줌잉 방법의 개념도이다.

도 3에 도시된 바와같이, 영상 촬영시 다수의 마이크(122)들에 의해 취음된 (Captured) 오디오 정보는 빔포밍 및 노이즈 제거와 같은 오디오 줌잉 기술이 적용된 후 카메라(121)에 의해 촬영된 영상정보와 합성되고, 합성된 영상은 소정 포멧으로 압축된 후 메모리(160)에 저장된다. 특히 상기 빔포밍을 처리하는 유닛은 사용자가 선택한 피사체에 적응적으로 사운드 빔(Sound beam)을 형성하여 취음 범위를 설정하는 부분으로 노이즈를 제거하는 유닛과 함께 제어부(180)의 신호처리부(미도시)를 형성한다.

또한, 영상 재생시에는 상기 합성된 영상이 영상정보와 오디오 정보로 분리한 후 그 분리된 오디오 정보에 오디오 줌잉 기술을 적용하여 선택적으로 피사체의 소리를 취음함으로써 영상 편집을 수행할 수 있다. 이하 설명하는 오디오 줌잉 방법은 촬영모드를 예로들어 설명하였지만 이에 한정되지 않고 재생모드에서도 동일하게 적용된다.

카메라 설정 메뉴

도 4는 본 발명에 관련된 카메라 모드의 설정 예이다.

본 발명은 상기와 같은 오디오 줌잉 방법을 구현하기 위하여 카메라 모드에 다양한 촬영 모드 및 취음모드를 제공한다. 상기 촬영 모드는 도 4에 도시된 바와같이, 일반(기본) 촬영모드, 풍경모드, 인물모드 및 거리모드를 포함할 수 있다. 다. 또한, 상기 취음모드는 촬영모드에서 사용자가 선택하여 설정하는 서브 모드로서, 화면 줌 연동모드, 건(Gun) 모드, 사운드 줌 변동모드, 건위치 변경모드, 스테레오 모드 및 보청기 모드등을 포함한다. 이러한 메뉴 구성 및 종류는 한정되는 것이 아니라 필요에 따라 추가되거나 통합되어 운용될 수 있다.

도 5는 촬영 화면에서 취음 각도와 취음 범위사이의 관계를 나타낸다.

도 5에 도시된 바와같이, 촬영 화면(또는 프리뷰 화면)에서 취음 범위(50)는 관심 피사체 방향으로 형성되는 사운드 빔의 각도 즉, 취음 각도에 의해 형성되는 가로 방향 범위로서 화면에 소정 형상(취음 영역)으로 표시된다. 상기 사운드 빔은 관심 피사체로의 지향성을 나타낸다.

상기 취음 각도가 증가하면 취음 범위(50)도 증가되기 때문에 넓은(wide) 범위에서 사운드를 취음할 수 있으며, 취음 각도가 감소하면 취음 범위(50)가 감소되어 좁은(narrow) 범위에서 사운드를 집중적으로 취음할 수 있다.

사용자는 관심 피사체를 촬영하기 위해 촬영모드 및 취음 모드를 설정한다. 그 이유는 어떤 촬영모드와 어떤 취음 모드를 선택하느냐에 따라 관심 피사체 촬영시 취음 범위(50)를 적절히 조절하여 촬영 화면내에 있는 적어도 하나 이상의 피사체의 사운드(소리 또는 음성)을 선택적으로 취음을 할 수 있기 때문이다.

따라서, 본 발명에서 취음 각도를 조절한다는 의미는 취음 범위(50)(취음 영역)를 조절하는 의미와 동일하게 사용된다.

취음 정보 자동 설정

본 발명에서 취음 정보는 촬영 화면에 포함된 적어도 하나 이상의 관심 피사체의 오디오를 선택적으로 취음하기 위하여 설정되는 정보이다. 상기 오디오는 피사체의 소리 및 사용자의 목소리를 포함한다. 상기 취음 정보는 취음 범위, 취음 각도 및 취음 범위(취음 영역)의 표시 위치를 포함한다.

상기 취음 정보는 사용자가 초기에 촬영모드 설정, 전/후면 카메라 선택 및 취음 모드 설정등에 연동하여 자동으로 설정된다. 상기 설정된 취음 정보는 특정 모드에 진입하여 피사체를 촬영하는 중에도 상기와 같은 선택 및 설정에 의해 조절 가능하다.

또한, 상기 취음 정보는 사용자가 촬영 화면에서 직접 설정할 수 있다. 즉, 사용자가 주변 환경 및 촬영 피사체의 종류에 따라 특정 촬영 모드를 선택하면, 제어부(180)는 선택된 촬영 모드에 대응되는 기 설정된 일정 크기 및 모양의 취음 범위(50)을 표시한다. 상기 취음 범위(50)는 원, 사각형 또는 다각형 형태를 갖으며 소정 시간 표시 후에 사라진다. 사라진 취음 범위(50)는 촬영 화면을 롱 터치하면 다시 표시된다.

도 6a 내지 도 6c는 촬영 모드별 취음 정보의 설정 예를 나타낸다.

도 6a에 도시된 바와같이, 일반 촬영 모드 또는 풍경 모드가 선택되면 넓은 범위를 취음하여 주변 소리를 최대한 포함하도록 취음 각도가 180도로 설정된다. 이때, 취음 범위(50)는 최대로 설정된다.

또한, 도 6b에 도시된 바와같이, 인물 모드가 설정되면 제어부(180)는 특정 사용자의 목소리만을 취음할 수 있도록 취음 각도가 작게 설정하고 자동 인식된 얼굴에 좁은 범위로 취음 범위(50)를 표시한다. 또한, 도 6c에 도시된 바와같이, 거리 모드가 설정되면 제어부(180)는 스테레오(2ch)로 입체감 있게 촬영할 수 있도록 취음 범위를 좌우로 형성하여 2개의 취음 범위가(50)를 자동으로 설정한다.

따라서, 사용자는 주변 환경 및 촬영 피사체의 종류에 따라 원하는 촬영모드를 선택하여 취음 각도를 조절함으로써 취음 범위를 자동으로 조절할 수 있다.

도 7은 전/후면 카메라 선택에 연동된 취음 정보의 설정 예를 나타낸다.

이동 단말기에 장착된 전면 카메라는 주로 화상 통화나 셀카를 찍을 때 많이 사용하고, 후면 카메라는 다른 사람이나 풍경등을 찍을 때 주로 사용한다. 따라서 본 발명은 사용자의 행동 패턴(behavior pattern)을 근거로 전/후면 카메라 선택에 따라 미리 정의된 취음 정보 즉, 소리의 지향성 및 취음 범위를 다르게 제공할 수 있다.

예를들어, 도 7에 도시된 바와같이, 전면 카메라 촬영시 제어부(180)는 사용자 방향으로 취음 방향을 설정하고 취음 범위(50)은 화면 중앙으로 좁게 형성한다. 반면에 후면 카메라 촬영시 제어부(180)는 관심 피사체 방향으로 취음 방향을 설정하고 취음 범위(50)은 넓게 설정한다.

따라서, 제어부(180)는 사용자의 전면/후면 카메라 선택에 따라 취음 각도 및 취음 방향을 조절하여 취음 범위를 자동으로 조절한다.

도 8a 내지 도 8e는 촬영 모드별 취음 정보의 설정 예를 나타낸다. 상기 실시예는 촬영모드에 한정되지 않고 사용자가 재생모드를 선택할 경우에 동일한 방식으로 설정된다.

본 발명에서 촬영 모드는 일반 촬영모드와 도 6a 내지 도 6c에 도시된 풍경모드, 인물모드 및 거리모드이외에 서브모드로서 화면 줌 연동모드, 건(Gun) 모드, 사운드 줌 변동모드, 건위치 변경모드, 스테레오 모드 및 보청기 모드등을 포함한다. 상기 화면 줌 연동모드, 건(Gun) 모드, 사운드 줌 변동모드, 건위치 변경모드, 스테레오 모드 및 보청기 모드는 취음 모드로 정의할 수 있다. 다른 실시예로서 상기 취음 모드가 촬영 모드에 통합되어 운용될 수도 있다.

상기 취음 모드는 일반 촬영모드 또는 건 모드에서 개별적으로 설정 가능하며, 특히 인물모드가 설정되면 자동으로 건모드가 설정되고, 거리모드가 설정되면 스테레오 모드가 자동 설정될 수 있다.

상기 촬영 모드 및 취음 모드는 촬영 전 또는 촬영 중에 사용자의 선택에 따라 설정 가능하며, 특정 촬영 모드 또는 취음모드가 설정되면 제어부(180)는 해당 모드에 따라 취음 각도를 자동 조절한다.

상기 화면 줌 연동모드는 화면상의 객체가 발생한 사운드만을 취음하고자 할 때 사용하는 모드이다. 이 모드의 특징은 취음 범위(50)가 화면의 줌 배율과 연동하여 조절된다는 점이다.

도 8a는 본 발명의 실시예에 따른 화면 줌 연동모드의 일 예이다.

도 8a에 도시된 바와같이, 화면 줌 연동모드가 설정된 상태에서 사용자가 화면을 줌 아웃(Zoom-out) 또는 줌 인하면, 제어부(180)는 줌 배율에 따라 정해진 취음 각도를 변경하여 취음 영역(50)을 조절하여 사용자의 목소리를 취음한다.

사용자가 화면을 줌 아웃하거나 줌 배율이 1배로 설정된 경우 제어부(180)는 약 180도의 취음 각도에서 취음 범위(50)내의 사운드를 취음한다. 이 경우 사용자의 목소리뿐만 아니라 주변 잡음도 함께 취음된다.

사용자가 화면을 줌 인(Zoom-in)하면 제어부(180)는 줌 배율에 따라 설정된 취음 각도에 따라 취음 범위(50)내의 사운드를 취음한다.

일 예로 줌 배율이 2배인 경우 취음 각도는 160도이고, 10배인 경우에는 약 10도로 설정된다. 따라서, 줌 배율이 증가될 수록 취음 각도가 감소하기 때문에 제어부(180)는 사용자의 목소리를 더 취음하고 주변 잡음은 제거한다.

상기 건 모드는 특정 피사체로부터 발생한 소리만을 좁게(narrow)고정해서 취음할 때 사용하는 모드이다.

도 8b는 본 발명의 실시예에 따른 건 모드의 일 예이다.

도 8b에 도시된 바와같이, 건 모드는 촬영 화면에서 특정 피사체의 사운드만을 포커싱하여 취음하기 위한 모드로서 주로 인물모드에서 사용된다. 상기 건 모드가 설정되면 취음 범위(50)는 좁게 형성되기 때문에 사용자는 원하는 피사체에서 발생한 소리만을 고정하여 취음할 수 있다.

상기 사운드 줌 변동모드는 소리의 취음 범위를 사용자가 조절할 수 있는 모드이고, 건 위치 변경모드는 건 모드의 확장모드로서 소리의 취음 위치를 사용자가 선택할 수 있는 모드이다.

도 8c 및 도 8d는 본 발명의 실시예에 따른 사운드 줌 변동모드 및 건 위치 변경모드의 일 예이다.

도 8c에 도시된 바와같이, 사운드 줌 변동모드는 관심 피사체들의 위치나 범위 및 상황을 설정하는 이벤트가 발생하면 사용자가 취음 가능한 적어도 하나 이상의 범위를 화면에 제공하는 모드이다. 예를들면, 줌 인/아웃이 발생될 때 화면 줌 연동 모드의 경우는 줌 배율에 따라 취음 범위를 자동으로 변경하지만, 사운드 줌 변동모드는 사용자에게 선택 가능한 복수의 취음 가능 범위(50)을 제공하여, 사용자가 원하는 취음 범위를 수동으로 선택할 수 있도록 한다. 이 모드는 소리의 취음 범위를 다양하게 조절할 수 있는 장점이 있다.

상기 취음 가능한 적어도 하나 이상의 범위는 관심 피사체들의 위치나 범위 및 상황을 설정하는 이벤트가 발생할 때 또는 재생모드에서 재생이 시작될 때 표시될 수 있다. 특히 재생되는 영상이 오디오 줌잉 기술이 적용된 영상인 경우에는 기 설정된 취음 범위와 함께 표시될 수 있다. 상기 기설정된 취음 범위와 상기 적어도 하나 이상의 범위는 서로 구별되도록 표시된다. 재생모드에서 상기 기설정된 취음 범위와 상기 적어도 하나 이상의 범위가 표시될 때 영상 재생이 일시 정지될 수 있으며, 특정 취음 범위 설정이 종료되면 재생 정지가 해제된다.

또한, 도 8d에 도시된 바와같이, 건 위치 변경모드가 설정되면 제어부(180)는 얼굴 인식을 통해 복수 사용자의 얼굴에 취음 범위(50)를 표시하여, 사용자가 원하는 취음 범위(50)을 선택하여 특정 위치의 사용자의 목소리만을 취음할 수 있도록 한다. 이 모드는 다양한 위치에 있는 사용자의 소리를 포커싱하여 취음할 수 있는 장점이 있다.

상기 스테레오 모드는 도 6c에 도시된 거리모드와 같이, 좌/우 위치 분리도가 높은 피사체에 대하여 입체감 있는 동시 2채널(좌 채널 및 우 채널) 취음을 수행하는 모드이고, 보청기 모드는 도 8e에 도시된 바와같이, 특정 방향에서 발생하는 음원을 선택적으로 취음하기 위한 모드이다. 즉, 보청기 모드는 마이크를 통해 취음한 후 오디오 줌잉을 적용하여 특정 방향에서 발생하는 소리를 선택적으로 듣는 모드로서, 시끄러운 환경에서의 공연 감상 이나 강의 청강시 유용한 모드이다.

취음 정보 수동 설정

본 발명에서 취음 정보는 촬영 모드 또는 재생모드에서 사용자가 직접 설정할 수 있다.

도 9a 내지 도 9e는 일반 촬영모드에서 사용자가 취음 정보를 설정하는 예를 나타낸다. 상기 실시예는 촬영모드에 한정되지 않고 사용자가 재생모드를 선택할 경우에 동일하게 적용된다.

도 9a 및 도 9b는 사용자가 지정한 위치에 취음 범위를 설정하는 예이고, 도 9c내지 도 9e는 메뉴 옵션을 통해 취음 범위 및 위치를 설정하는 예이다.

일반 촬영 모드에서 사용자는 화면상에서 사운드를 발생하는 특정 피사체(취음 대상, 음원)를 선택하여 취음 정보를 설정할 수 있다. 상기 취음 정보는 취음 범위(50)의 크기 및 표시 위치를 포함한다. 상기 선택은 접촉 또는 비접촉 방식으로 이루어진다.

취음 범위(50)는 도 9a에 도시된 바와같이, 사용자가 취음 대상(위치)을 롱 터치할 때 그 터치 포인트를 중심으로 기 설정된 크기 및 모양(예:원)으로 생성된다. 상기 취음 범위(50)는 가장 자리부분이 더블 터치될 때 제거될 수 있다. 다른 방법으로 상기 취음 범위(50)는 가장 자리부분이 짧은 시간동안 롱 터치될 때 생성되는 제거 아이콘을 선택하여 제거될 수 있다. 상기 취음 범위(50)의 가장 자리부분이 더 긴 시간동안 터치되면 상기 취음 범위(50)의 모양과 크기를 설정할 수 있는 설정 메뉴가 표시된다.

사용자는 상기 설정 메뉴에서 타원, 사각형 및 다각형중 하나를 선택하여 취음 범위(50)의 모양을 지정하거나 색상 또는 표시 지속시간을 설정할 수 있다.

다른 실시예로서 취음 범위(50)는 도 9b에 도시된 바와같이 터치 & 드래그에 의해 형성되는 크기 및 모양으로 설정된다. 예를들어, 손으로 취음 대상위에서 소정 형상을 그리면, 그려진 형상 및 크기가 취음 범위(50)로 설정되어 표시된다. 이 설정방법은 취음 범위(50)를 유연성 있게 설정할 수 있는 장점이 있다.

본 발명에서 취음 범위(50)는 메뉴 옵션을 통해 특정 위치에 설정할 수 있다. 도 9c 내지 도 9e에 도시된 바와같이, 사용자는 취음 영역을 설정하기 위한 메뉴 옵션에서 특정 위치를 지정하면, 지정된 위치에 디폴트 형상 및 크기의 취음 범위(50)가 설정된다.

취음 범위의 위치 및 크기 조절

취음 범위(50)의 위치는 기본적으로 사용자의 터치 & 드래그에 의해 이동 가능하며, 후술되는 바와같이, 화면 줌 배율에 따른 초점 영역 변경 또는 취음 대상의 변경에 따라 자동으로 이동될 수 있다.

상기 취음 범위(50)의 크기는 일반 촬영 모드 또는 특정 촬영 모드 또는 재생모드에서 한손 또는 양손을 이용한 터치 입력(수동)에 따라 변경(확대 또는 축소)되며, 촬영 전 및 촬영 도중에 조절이 가능하가. 또한, 상기 취음 범위(50)는 후술되는 바와같이 화면 줌 배율에 맞추어 그 사이즈가 유연하게(flexible) 변경될 수도 있다.

도 10a 내지 도 10d는 취음 범위(50)의 크기를 수동으로 변경하는 예이다. 상기 실시예는 촬영모드를 예로들어 설명하였지만 이에 한정되지 않고 사용자가 재생모드를 선택할 경우에도 동일하게 적용된다.

도 10a에 도시된 바와같이, 사용자가 취음 범위(50)의 밖을 손가락으로 터치하면 터치 지속시간에 비례하여 취음 범위(50)의 크기가 점점 커지고, 도 10b에 도시된 바와같이, 취음 범위(50)의 안쪽을 터치하면 마찬가지로 터치 지속시간에 비례하여 취음 범위(50)의 크기가 점점 작아진다. 따라서 사용자는 터치 지속시간을 적절히 조정하여 취음 범위(50)의 크기를 적절히 조절할 수 있다.

또한, 도 10c에 도시된 바와같이, 사용자는 두 손가락을 취음 범위(50)의 가장자리에 터치한 후 밖으로 벌리거나 안으로 오므려 상기 취음 범위(50)의 크기를 확대 또는 축소할 수 있다. 특히 스테레오 모드로 운용할 경우에는 도 10d와 같이 두 손으로 왼쪽 또는 오른쪽 채널의 취음 범위를 각각 조절할 수 있으며, 왼쪽 또는 오른쪽 채널의 취음 범위를 동시에 터치하여 좌우로 벌리거나 좁혀 취음의 지향성을 재설정할 수 있다.

취음 범위의 변동 한계점 표시

전술한 바와같이 취음 범위(50)의 크기는 취음 가능 영역내에서 확대 또는 축소 가능하다. 하지만, 터치에 의해 취음 범위(50)의 표시 크기가 확대 또는 축소되고나, 또는 후술될 화면 줌 배율의 변동에 의해 취음 범위(50)의 표시 크기가 확대 또는 축소될 경우, 사용자는 취음 범위(50)이 어느 정도까지 증가되고 축소 가능한지 알 수가 없다.

따라서, 본 발명은 취음 범위(50)의 한계점 즉, 최소값과 최대값에서 시각적, 청각적, 촉각적 효과를 줌으로써 사용자에게 취음 범위(50)의 변동 한계에 관한 정보를 제공한다. 상기 취음 범위(50)의 변동 한계에 관한 정보는 시각, 청각, 촉각 및 후각적인 정보로서, 예를들면 사이즈 바운싱(Size Bouncing) 효과, 모양 바운싱(Shape bouncing) 효과, 색 바운싱 (Clolr bouncing) 효과, 소리 또는 진동, 발생등을 포함한다. 상기 취음 범위(50)의 변동 한계에 관한 정보는 팝-업 메시지 또는 촬영 화면에 직접 표시되거나 입체적(3D)으로 표시될 수도 있다.

도 11a 내지 도 11e는 취음 범위의 변동 한계에 관한 정보의 제공 예이다. 상기 실시예는 촬영모드를 예로들어 설명하였지만 이에 한정되지 않고 사용자가 재생모드를 선택할 경우에도 동일하게 적용된다.

도 11a 및 도 11b에 도시된 바와같이, 사용자가 취음 범위(50)의 밖을 터치하여 그 크기를 확대하거나 취음 범위(50)의 안쪽을 터치하여 크기를 축소할 때 상기확대 또는 축소된 취음 범위(50)의 크기가 한계값(최대값 또는 최소값)에 도달하면, 제어부(180)는 취음 범위(50)의 크기가 한계값을 일시적으로 넘었다가 다시 회복되는 사이즈 바운싱 효과를 표시한다.

다른 실시예로, 본 발명은 도 11c에 도시된 바와같이, 취음 범위(50)의 크기가 확대 또는 축소될 대 그 확대 또는 축소된 취음 범위(50)의 크기가 한계값(최대값 또는 최소값)에 도달하면, 제어부(180)는 취음 범위(50)의 모양(Shape)이 일시적으로 변경되었다가 다시 원래의 모양으로 회복되는 모양 바운싱 효과를 준다.

또 다른 실시예로, 본 발명은 도 11d에 도시된 바와같이, 취음 범위(50)의 크기가 확대 또는 축소될 대 그 확대 또는 축소된 취음 범위(50)의 크기가 한계값(최대값 또는 최소값)에 도달하면, 제어부(180)는 취음 영역(50)의 색(Color)이 일시적으로 변경되었다가(예: 적색에서 녹색으로) 다시 원래의 색(예:적색)으로 회복되는 색 바운싱 효과를 준다.

또 다른 실시예로 본 발명은 도 11e에 도시된 바와같이, 취음 범위(50)의 크기가 확대 또는 축소될 대 그 확대 또는 축소된 취음 범위(50)의 크기가 한계값(최대값 또는 최소값)에 도달하면, 제어부(180)는 새로운 음향을 발생하거나 미리 설정된 시간동안 진동음을 출력한다.

취음 범위 저장

사용자가 설정한 취음 범위(50) 및 선택 가능한 복수의 취음 범위는 메모리 (160)에 저장된다. 따라서, 상기 사용자가 설정한 취음 범위는 사용자의 터치 입력에 따라 표시될 수 있으며, 상기 선택 가능한 복수의 취음 범위는 사용자의 특정 이벤트가 발생할 때마다 사용자 선택을 위해 표시될 수 있다.

이하 본 발명의 실시예에 따른 이동 단말기의 오디오 줌잉 방법을 첨부된 도면을 참조하여 설명하면 다음과 같다.

본 발명에 따른 오디오 줌잉방법은 관심 피사체들의 위치나 범위 설정, 카메라 모드, 실제 카메라 동작(줌잉동작 또는 포커싱 이동)에 다양한 오디오 줌잉 기법을 적용하여 해당 피사체의 소리나 음성을 최적으로 취음하는 방법을 말한다. 상기 오디오 줌잉방법을 구현하기 위해 본 발명은 마이크로 폰 어레이를 이용하여 음향을 취음하며, 빔포밍 기술, 노이즈 억제 기술, 얼굴인식기술, 자동 포커싱 기법등을 사용한다.

도 12는 본 발명의 실시예에 따른 이동 단말기의 오디오 줌잉 방법을 나타낸 순서도이다. 상기 오디오 줌잉 방법은 촬영모드를 예로들어 설명하였지만 이에 한정되지 않고 사용자가 재생모드를 선택할 경우에도 동일하게 적용된다.

사용자는 특정 피사체를 자세히 보고 싶을 때는 그 피사체를 클로즈업하고(줌-인), 피사체의 주변 배경에도 관심이 있을 때는 와이드 화면으로 줌 아웃을 한다. 따라서, 본 발명의 제1실시예는 화면의 줌/아웃을 통해 사용자가 관심 영역을 지정하는 사용자 선호정보를 소리의 취음 범위를 결정하는 기준으로 사용한다.

즉, 도 12에 도시된 바와같이, 사용자는 동영상 촬영시 예를들어 일반 촬영모드를 설정하고 취음 범위(50)를 설정한다(S100).

상기 취음 범위(50)는 디폴트로 자동 설정되거나 사용자가 직접 설정할 수 있다. 상기 자동 또는 수동으로 설정된 취음 범위(50)의 크기 또는 모양은 도 10a 내지 도 10c에 도시된 방법으로 사용자가 직접 조절할 수 있다. 또한, 사용자는 화면의 하단부에 표시된 스크롤 바를 이용하여 조절하거나 취음 각도를 입력하여 조절할 수 있으며, 메뉴 옵션을 이용하여 표시 위치를 선택할 수도 있다.

사용자가 영상 촬영을 개시하면, 제어부(180)는 상기 설정된 취음 범위(50)에서 피사체, 예를들면 사용자의 목소리를 취음한다(S110). 이 상태에서 최적 영상을 촬영하기 위한 사용자의 이벤트, 즉, 피사체의 촬영 위치나 범위 및 상황을 변경하는 사용자 이벤트가 발생되면 각 이벤트에 따라 취음 각도를 변경하여 상기 설정된 취음 범위를 자동으로 조절한다(S120, S130).

상기 사용자 이벤트는 화면 줌 인/아웃 또는 촬영 모드의 변경을 포함한다. 상기 촬영 모드의 변경은 기본 촬영 모드에서 풍경모드, 인물모드, 거리모드, 스테레오 모드 및 보청기 모드로의 변경중의 하나를 포함하고, 또한, 전/후면 촬영 모드의 선택을 포함한다. 이에 한정되지 않고, 상기 다른 모드에서 일반 촬영모드로의 전환도 포함한다.

따라서, 제어부(180)는 자동 조절된 취음 범위(50)에서 피사체의 소리를 취음함으로써 영상 변화에 연동하여 최적의 소리를 취음할 수 있게 된다. 이후 동여상 촬영이 완료되지 않는 한 제어부(180)는 상기 과정을 반복 수행한다.

도 13은 사용자 이벤트의 일종인 화면 줌 인/아웃 발생시 취음 범위를 조절하는 예를 나타낸 순서도. 상기 실시예는 촬영모드를 예로들어 설명하였지만 이에 한정되지 않고 사용자가 재생모드를 선택할 경우에도 동일하게 적용된다.

도 13에 도시된 바와같이, 제어부(180)는 사용자 이벤트가 발생되면 해당 이벤트의 종류를 판별한다. 판별된 이벤트가 화면 줌 인/아웃일 경우 제어부(180)는 변경된 줌 배율에 따라 취음 각도 및 위치를 변경하여 취음 범위(50)를 자동으로 조절한다(S10), S11).

반면에, 판별된 이벤트가 도 6a 내지 도 6c에 도시된 특정 촬영 모드일 경우 제어부(180)는 변경된 촬영 모드에 취음 각도를 변경하여 취음 범위(50)를 자동으로 조절한다(S12), S13).

다른 실시예로서, 상기 이벤트가 화면 줌 인/아웃일 경우 제어부(180)는 자동으로 취음 범위(50)를 변동하지 않고, 사용자에게 복수의 취음 가능 영역을 제공하여 사용자가 선택하도록 할 수 있다.

도 14a 및 14b는 화면 줌 인/아웃시 취음 범위의 프리셋(preset) 옵션을 제공하는 일 예이다.상기 실시예는 촬영모드를 예로들어 설명하였지만 이에 한정되지 않고 사용자가 재생모드를 선택할 경우에도 동일하게 적용된다.

도 14a에 도시된 바와같이, 화면 줌 인/아웃시 제어부(180)는 현재의 모드 설정을 파악하여, 화면 줌 연동모드가 설정된 경우에는 줌 배율에 따라 취음 범위를 조절하고, 사운드 줌 연동모드가 설정된 경우에는 복수의 취음 가능 범위(50)를 화면에 표시한다. 만약 화면이 줌-인되면 표시되는 취음 가능 범위의 갯수를 확대된 화면에 맞게 재조정하여 표시하여, 사용자가 확대된 화면에서 추가로 취음 범위(50)를 선택할 수 있도록 한다.

또한, 14b에 도시된 바와같이, 건 모드가 설정되는 인물 모드의 경우에는 화면이 확대되어도 취음 각도는 일정하게 유지된다. 따라서, 건 모드가 설정된 경우에는 취음 각도를 일정하게 유지한 상태에서 취음 범위 표시의 크기를 화면 줌 배율과 비례하여 확대(resizing)하여 표시한다.

도 15a 및 도 15b는 초점 변경에 따른 취음 범위의 위치 변경을 나타낸다. 상기 실시예는 촬영모드를 예로들어 설명하였지만 이에 한정되지 않고 사용자가 재생모드를 선택할 경우에도 동일하게 적용된다.

도 13에서 설명한 바와같이, 이벤트가 화면 줌 인/아웃일 경우 제어부(180)는 변경된 줌 배율에 따라 취음 각도뿐만 아니라 취음 위치도 변경해주어야 한다. 그 이유는 특정 영역이나 피사체를 초점하여 동영상 재생이나 촬영을 진행 할 때 화면 줌인(또는 줌아웃)이 수행되면, 도 15a에 도시된 바와같이, 줌 배율에 맞게 초점 영역도 자동으로 변경되기 때문에 재설정된 초점 영역과 취음 범위의 위치가 서로 맞지 않게 된다. 이러한 경우 종래에는 수동 포인팅 기법에 의해 화면의 배율 변화시 사용자가 일일이 다시 취음 위치를 재 지정한다.

하지만 본 발명은 도 15b에 도시된 바와같이, 위치인식 기능을 이용하여 자동 포커싱을 수행함으로써, 줌 배율에 따라 재설정된 화면 자동 초점영역을 중심으로 취음 위치를 자동으로 재조정한다.

사용자는 수동으로 관심 있는 특정 피사체를 선택하여, 그 피사체를 중심으로 초점을 재조정하거나 카메라에서 제공하는 자동 초점 조절기능을 사용하여 화상의 최적 초점을 설정한다.

일반적으로 수동 화면 초점 위치 조정 기능은 장면 변화(scene change)가 많은 동영상 녹화/재생시 또는 통화를 병행해야 하는 VT Calling 사용시에는 일일이 사용자가 특정 관심 피사체를 실시간으로 터치에 의해 선택하기가 불가능하거나 번거롭다.

그래서, 객체(얼굴) 인식/트래킹(detecting/tracking)기술과 연동하여 관심 피사체를 자동으로 선택해주는 기능도 있지만, 화면상에 다수의 피사체들(예, 2명의 사람들)이 존재할 경우 어떻게 특정 관심 피사체를 자동으로 선택할지가 해결과제로 대두되고 있다. 그 해결방안으로써 가장 큰 얼굴을 가진 피사체를 중심으로 화면 초점을 형성하지만 한 사람이 화면 가운데 있고 또 다른 사람이 뒤에 존재하면서 대화를 할 경우에는 화면 초점은 가장 큰 얼굴을 가진 가운데 사람에게만 설정되는 한계점이 있다. 따라서, 상기 화면 초점에 취음 범위를 연동시킬 경우에는 취음 범위가 가장 큰 얼굴을 가진 가운데 사람에게만 설정되는 한계가 있다.

도 16은 복수의 피사체의 소리를 취음할 때 취음 대상을 변경하는 방법을 나타낸 순서도이다. 상기 순서도는 촬영모드를 예로들어 설명하였지만 이에 한정되지 않고 사용자가 재생모드를 선택할 경우에도 동일하게 적용된다.

도 12에서 초기에 설정된 취음 범위 또는 이벤트에 따라 조절된 취음 범위에서 피사체의 소리를 취음할 때 제어부(180)는 얼굴인식을 통하여 소리를 발생하는 피사체가 복수 개인지 판별한다(S20). 판별결과 복수의 피사체가 존재하면, 제어부(180)는 소리를 발생하는 피사체를 판별한 후 현재 소리를 발생하는 피사체로 초점을 자동 변경하여 해당 피사체로 취음 범위(50)를 이동시킴으로써 취음 대상을 자동으로 변경한다(S21, S22).

이와같이 취음 주체가 변경될 때마다 자동으로 취음 대상을 변경하는 방법을 AV(Audio/Video) 동기 자동 포커싱 방법이라고 한다.

도 17a 및 17b는 본 발명에서 취음 대상을 자동으로 변경하는 예이다. 상기 실시예는 촬영모드를 예로들어 설명하였지만 이에 한정되지 않고 사용자가 재생모드를 선택할 경우에도 동일하게 적용된다.

도 17a에 도시된 바와같이, 제어부(180)는 소리의 발생 주체에 따라 취음 대상을 자동으로 변경한다.

예를들어 2명이상의 사용자가 존재할 때 제어부(180)는 얼굴인식을 통해 각 사용자의 얼굴을 파악한 후 각 얼굴 방향으로 좁은 사운드 빔(지향성)을 형성하여 각 사용자로부터 발생되는 소리를 수집한다. 제어부(180)는 수집되는 소리를 모니터링하여 소리의 발생 주체 즉, 소리를 발생하는 사용자 또는 더 큰 소리를 발생하는 사용자를 파악한 후 해당 사용자의 얼굴에 자동 포커싱하여 취음 범위(51)를 형성함으로써 현재 소리를 발생하고 있는 사용자의 음성을 취음한다.

이후 소리의 발생주체가 변경되면 제어부(180)는 자연스럽게 다른 사용자의 얼굴을 자동으로 포커싱을 하여, 해당 사용자의 얼굴에 취음 범위(50)을 형성함으로써 취음 대상을 자동으로 변경한다. 따라서, 사용자가 서로 대화를 주고 받을 경우에는 핑퐁방식으로 각 사용자의 얼굴을 포커싱하여 취음 범위(50)을 이동시켜 취음 대상을 자동으로 변경할 수 있게 된다.

도 17b에 도시된 바와같이, 다른 실시예로서 제어부(180)는 취음 대상을 촬영하는 화면 내의 피사체(Object)의 크기로 취음 대상을 결정할 수 있다. 즉, 최초 취음 대상을 얼굴 크기가 가장 큰 사용자에게 맞춘 후 소리를 발생하는 사용자에 자동으로 포커싱하여 취음 범위(50)의 표시를 변경할 수 있다. 이때, 취음 범위는 얼굴 크기에 따라 자동 조절된다.

앞에서 설명한 바와같이 소리를 발생하는 복수의 사용자가 존재할 경우 소리를 발생하는 사용자에게 취음 범위(50)를 이동시켜 취음한다. 그런데, 취음 범위가 짧은 순간에 이동되면 취음의 단절 효과가 발생한다. 따라서, 본 발명은 취음 범위 이동시 부드러운(Smooth) 시청각적 효과를 출력하는 다양한 감성적인 취음 범위 이동 방법을 제공한다.

도 18a 내지 도 18c는 취음 영역 이동시 취음의 단절을 예방하기 위한 시청각적 효과의 예를 나타낸다. 상기 실시예는 촬영모드를 예로들어 설명하였지만 이에 한정되지 않고 사용자가 재생모드를 선택할 경우에도 동일하게 적용된다.

도 18a는 부드러운 드래깅(Smooth Dragging) 기법으로, 제어부(180)는 취음 대상이 변경될 때 이동되는 효과음을 출력하고 미그러지듯이 취음 범위(50)를 움직인다. 그리고, 도 18b는 페이드 인/아웃(Fade In/Out) 기법에 의해 취음 대상을 변경하는 방법으로, 제어부(180)는 취음 범위(50)가 페이드 인/아웃되는 시각적 효과와 함께 소정의 사운드를 발생한다. 또한, 도 18c는 취음 영역 확대 기법에 의해 취음 대상을 변경하는 방법으로, 제어부(180)는 취음 대상이 변경될 때 취음 범위(50)가 전체의 범위로 확대됐다가 다시 새로운 피사체에 취음 범위(50)를 재설정한다.

상술한 바와같이, 본 발명은 촬영 및 재생모드에서 최적의 영상을 얻기 위해서 사용자가 관심 피사체들의 위치나 범위 및 상황을 설정하는 이벤트 즉, 사용자가 클로즈업하거나 초점을 맞춘 피사체의 위치와 크기에 자동으로 연동하여 그 피사체의 위치에 지향성을 향하게 하거나 취음 범위를 최적화함으로써 관심 피사체의 소리나 음성을 최적으로 촬영 혹은 재생할 수 있으며, 취음하고자 하는 음원을 일일이 수동으로 포인팅하는 종래기술의 불편함을 최소화 할 수 있다

또한, 본 발명은 화면 줌 배율 등을 조절하는 카메라의 기본적인 시나리오와 충돌하지 않으면서 사용자가 한 개다수의 취음 위치 및 범위를 섬세하고 편리하게 조절할 수 있는 표현기법을 제공함으로써 관심 피사체의 소리나 목소리를 최적으로 촬영 혹은 재생할 수 있다.

또한, 본 발명의 일 실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는, 단말기의 제어부를 포함할 수도 있다.

상기와 같이 설명된 이동 단말기 및 그의 오디오 줌잉방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

50 : 취음 범위 151 : 디스플레이부
160 : 메모리 180 : 제어부

Claims (34)

1. 삭제
2. 삭제
3. 삭제
4. 삭제
5. 삭제
6. 삭제
7. 삭제
8. 삭제
9. 삭제
10. 삭제
11. 삭제
12. 삭제
13. 삭제
14. 삭제
15. 삭제
16. 삭제
17. 삭제
18. 카메라;
    관심 피사체가 포함된 화면을 표시하는 디스플레이부;
    촬영에 관련된 정보를 저장하는 메모리; 및
    촬영 중 줌 인 또는 줌 아웃 이벤트가 발생되면,
    상기 줌 인 또는 줌 아웃 이벤트에 응답하여, 상기 카메라의 배율을 조절하고, 상기 조절된 배율에 대응되는 화면을 상기 디스플레이부에 출력시키는 제어부를 포함하고,
    상기 제어부는,
    상기 조절된 배율에 대응되는 화면에서, 상기 관심 피사체에 초점이 맞춰지도록 상기 카메라의 초점 영역을 변경하고,
    상기 변경된 초점 영역을 중심으로, 상기 관심 피사체에서 발생하는 소리의 취음 위치 및 취음 범위를 재조정하는 것을 특징으로 하는 이동 단말기.
19. 제18항에 있어서, 상기 취음 범위는
    일반 촬영모드 선택시 기 설정된 위치에 소정 크기 및 형상으로 자동 설정되는 것을 특징으로 하는 이동 단말기.
20. 삭제
21. 제18항에 있어서, 상기 제어부는
    촬영 모드 변경 이벤트가 발생되면, 특정 촬영모드 또는 전/후면 촬영 모드의 선택에 따라 취음 각도를 자동으로 변경하는 것을 특징으로 하는 이동 단말기.
22. 제21항에 있어서, 상기 촬영 모드의 변경은
    기본 촬영 모드에서 풍경모드, 인물모드, 거리모드, 스테레오 모드 및 보청기 모드로의 변경을 포함하는 것을 특징으로 하는 이동 단말기.
23. 삭제
24. 제18항에 있어서, 상기 제어부는
    상기 관심 피사체의 주변이 터치 & 드래그될 때 터치 움직임의 모양 및 크기에 따라 취음 범위를 설정하는 것을 특징으로 하는 이동 단말기.
25. 제18항에 있어서, 상기 제어부는
    터치 입력에 따라 상기 취음 범위를 확대 또는 축소하며,
    상기 취음 범위의 확대 또는 축소시 취음 가능 범위의 변동 한계 정보를 표시하는 것을 특징으로 하는 이동 단말기.
26. 삭제
27. 제25항에 있어서, 상기 취음 가능 범위의 변동 한계 정보는
    취음 가능 영역이 최소/최대값에 도달 했을 때, 크기가 변경되었다가 회복되는 크기 바운싱 효과, 모양이 변경되었다가 회복되는 모양 바운싱 효과, 색이 변경되었다가 회복되는 색 바운싱 효과 및 일정 소리나 진동을 발생하는 효과 중 하나를 포함하는 것을 특징으로 하는 이동 단말기.
28. 삭제
29. 삭제
30. 제18항에 있어서, 상기 제어부는
    (a) 복수의 피사체가 소리를 발생할 때 소리를 발생하는 피사체로 화면 초점을 자동 형성하여 취음 대상을 변경하고,
    (b) 취음 대상을 변경할 때 소리의 단절을 예방하기 위하여 시각적 및 청각적 효과를 출력하며,
    상기 시각적 및 청각적 효과는 화면상에서의 취음 범위 이동 및 그의 사운드효과 또는 페이드 인/아웃(Fade In/Out) 및 그의 사운드 효과를 포함하는 것을 특징으로 하는 이동 단말기.
31. 제30항에 있어서, 상기 제어부는
    각 사용자로부터 발생하는 소리를 감지하기 위하여 얼굴인식 기법을 이용하여 인식된 얼굴의 크기에 따라 취음 범위를 형성하고, 사용자의 소리를 포착하기 위해 소리를 발생하는 얼굴 또는 가장 큰 소리를 발생하는 얼굴에 자동으로 화면 초점을 형성하는 것을 특징으로 하는 이동 단말기.
32. 삭제
33. 삭제
34. 제30항에 있어서, 상기 시각적 및 청각적 효과는
    이전 피사체의 취음 범위가 전체 화면으로 확대된 후 서서히 다른 피사체에 취음 영역이 설정되는 것을 포함하는 것을 특징으로 하는 이동 단말기.

Images