KR101969802B1 - 이동 단말기 및 재생 영상의 오디오 줌잉 방법 - Google Patents

Abstract

본 발명은 영상 촬영 및 재생시 화면에서 특정 영역 편집 기능을 위한 사용자의 입력에 연동하여 소리의 취음 위치와 범위를 자동으로 조절하고, 전후방 카메라를 통해 촬영된 피사체들의 음원의 취음 위치와 크기를 재조정하여 재생 모드에서 최적의 음원 재생하기 위한 이동 단말기 및 재생 영상의 오디오 줌잉 방법을 제공한다.

Description

이동 단말기 및 재생 영상의 오디오 줌잉 방법{MOBILE TERMINAL AND AUDIO ZOOMING METHOD OF PLAYBACK IMAGE THEREIN}

본 발명은 영상 재생시 사용자의 편집 기능에 연동하여 선택적으로 피사체의 소리를 재생하기 위한 이동 단말기 및 재생 영상의 오디오 줌잉 방법에 관한 것이다.

이동 단말기는 다양한 기능을 수행할 수 있도록 구성될 수 있다. 그러한 다양한 기능들의 예로 데이터 및 음성 통신 기능, 카메라를 통해 사진이나 동영상을 촬영하는 기능, 음성 저장 기능, 스피커 시스템을 통한 음악 파일의 재생 기능, 이미지나 비디오의 디스플레이 기능 등이 있다. 일부 이동 단말기는 게임을 실행할 수 있는 추가적 기능을 포함하고, 다른 일부 이동 단말기는 멀티미디어 기기로서 구현되기도 한다. 더욱이 최근의 이동단말기는 방송이나 멀티캐스트(multicast) 신호를 수신하여 비디오나 텔레비전 프로그램을 시청할 수 있다.

또한, 상기 이동 단말기의 기능 지지 및 증대를 위한 노력들이 계속되고 있다. 상술한 노력은 이동 단말기를 형성하는 구조적인 구성요소의 변화 및 개량뿐만 아니라 소프트웨어나 하드웨어의 개량도 포함한다. 그 중에서 이동 단말기의 터치 기능은 터치 스크린을 이용하여 버튼/키 입력이 익숙하지 않은 사용자도 편리하게 단말기의 동작을 수행할 수 있도록 한 것으로서, 최근에는 단순한 입력뿐만 아니라 사용자 인터페이스(UI)와 함께 단말기의 중요한 기능으로서 자리 잡아가고 있다.

이동 단말기는 카메라를 이용하여 피사체를 촬영하기 위한 다양한 기능을 제공하고 있다. 사용자는 카메라의 제어 옵션(control options)을 조작하여 특정 피사체를 중심으로 영상을 확대하거나, 영상의 초점을 수동/자동으로 조절하거나 또는 얼굴인식 기등을 이용하여 원하는 영상을 촬영을 수행한다.

예를들어 사용자는 피사체의 위치에 따라 이동 단말기의 전면 혹은 후면 카메라를 선택적으로 사용하여 촬영을 수행할 수 있으며, 특히 장면(예, 풍경, 사람)에 따라 촬영 모드(인물모드 또는 풍경모드)를 변환하여 촬영을 수행할 수 있다.

상기와 같은 다양한 촬영 기법을 이용하여 관심 피사체 또는 장면을 촬영할 때 피사체가 발생하는 음성 또는 소리는 마이크로 폰 어레이에 의해 취음(capture)되어 저장된다. 하지만, 종래에는 피사체가 발생하는 소리뿐만 아니라 주변의 소리 및 잡음도 함께 취음되는 단점이 있다.

상기 문제점을 해소하기 위하여 사용자의 제어 동작 및 그에 관련된 다양한 촬영기법에 연동되어 피사체가 발생하는 소리를 최적화하여 취음할 수 있는 오디오 줌잉 방법을 제공되고 있는데 현재 오디오 줌잉 방법은 주로 촬영시에만 사용되고 있는 실정이다.

따라서, 촬영되어 저장된 영상을 재생할 경우에는 촬영시에 취음한 소리가 그대로 나오기 때문에 사용자가 특정 영역에서 발생하는 소리 및 목소리를 선택하여 재생할 수 없는 단점이 있었다.

따라서, 본 발명의 목적은 재생 화면의 특정 영역에서 발생되는 사운드를 최적화하여 재생할 수 있는 이동 단말기 및 재생 영상의 오디오 줌잉 방법을 제공하는데 있다.

본 발명의 다른 목적은 재생화면에서 소리의 취음 위치와 범위를 정밀하게 조절할 수 있는 이동 단말기 및 재생 영상의 오디오 줌잉 방법을 제공하는데 있다.

상기와 같은 목적을 달성하기 위하여 본 발명에 따른 재생 영상의 오디오 줌잉 방법은, 재생 영상을 표시하는 단계; 상기 표시된 영상의 일부에 편집 영역을 설정하는 단계; 상기 설정된 편집 영역에 취음 범위를 설정하는 단계; 및 저장된 원음 사운드에서 상기 설정된 취음 범위의 소리를 재생하는 단계;를 포함한다.

상기 편집 영역은 확대, 제거 및 새로운 초점에 관련된 영역을 포함한다.

상기 편집 영역은 메뉴 선택 또는 터치 제스처에 의해 설정된다.

상기 취음 영역은 편집 영역과 일치하는 위치와 크기로 설정된다.

상기 편집 영역이 확대 영역 또는 새로운 초점 영역이면 저장된 원음 사운드에서 해당 영역에서 발생하는 소리만 선택적으로 재생한다.

상기 편집 영역이 제거 영역이면 저장된 원음 사운드에서 해당 영역에서 발생하는 소리만 제거하여 재생한다.

상기와 같은 목적을 달성하기 위하여 본 발명에 따른 재생 영상의 오디오 줌잉 방법은, 전후면 카메라에서 촬영된 제1,제2영상을 동시에 표시하는 단계; 제1,제2영상 중에서 서브 화면에 표시되는 영상에 대한 사용자 입력에 근거하여 취음 위치와 범위를 설정하는 단계; 및 저장된 원음 사운드에서 상기 설정된 취음 위치 및 범위에 따라 제1영상 또는 제2영상의 소리를 재생하는 단계;를 포함한다.

상기 사용자 입력은 영상 선택, 영상 크기 조절 및 영상 위치 조절을 위한 입력을 포함한다.

상기 제1,제2영상은 각각 후면 카메라와 전면 카메라이다.

상기 제1,제2영상은 각각 메인 화면과 서브 화면이다.

상기 제2영상의 소리를 취음하는 단계는 사용자가 선택한 제1 또는 제2영상 방향으로 지향성을 형성하여 제1영상 또는 제2영상의 소리만 재생한다.

상기 제2영상의 소리를 취음하는 단계는 사용자의 터치 입력에 따라 제2영상의 크기가 변경되면 제2영상의 크기에 비례하여 제2영상의 사운드 볼륨을 조절한다.

상기 제2영상의 소리를 취음하는 단계는 사용자가 선택한 제2영상의 위치에 기반하여 제1영상의 피사체의 지향성을 변경하여 제1영상의 소리를 재생한다.

상기와 같은 목적을 달성하기 위하여 본 발명에 따른 이동 단말기는, 촬영 영상을 저장하는 메모리; 상기 저장된 영상을 표시하는 디스플레이부; 및 상기 표시된 영상에 특정 편집 영역이 설정되면 메모리에 저장된 원음 사운드에서 상기 편집 영역에 해당하는 취음 범위에서 상기 영상의 소리를 재생하는 제어부;를 포함한다.

상기 편집 영역은 확대, 제거 및 새로운 초점을 위한 영역을 포함한다.

상기 제어부는 사용자의 메뉴 선택 또는 터치 제스처에 따라 편집 영역을 설정한다.

상기 제어부는 편집 영역과 일치하는 위치와 크기로 취음 영역을 설정한다.

상기 제어부는 편집 영역이 확대 영역 또는 새로운 초점 영역이면 저장된 원음 사운드에서 해당 영역에서 발생하는 소리만 선택적으로 재생한다.

상기 제어부는 편집 영역이 제거 영역이면 저장된 원음 사운드에서 해당 영역에서 발생하는 소리만 제거하여 재생한다.

상기와 같은 목적을 달성하기 위하여 본 발명에 따른 이동 단말기는, 전후면 카메라에서 촬영된 제1,제2영상을 저장하는 메모리; 상기 저장된 제1,제2영상을 표시하는 디스플레이부; 및 상기 제1,제2영상 중 서브 화면에 표시되는 영상에 대한 사용자 입력에 따라 취음 위치와 범위를 설정하여, 상기 메모리에 저장된 원음 사운드에서 상기 설정된 취음 위치 및 범위에 따라 제1영상 또는 제2영상의 소리를 재생하는 제어부;를 포함한다.

상기 사용자 입력은 영상 선택, 영상 크기 조절 및 영상 위치 조절하기 위한 입력을 포함한다.

상기 제1영상은 후면 카메라의 영상이고, 상기 제2영상은 전면 카메라의 영상이다.

상기 제어부는 제1영상은 메인 화면에 표시하고, 상기 제2영상은 서브 화면에 표시한다.

상기 제어부는 사용자가 선택한 제1 또는 제2영상 방향으로 지향성을 형성하여 제1영상 또는 제2영상의 소리만 재생한다.

상기 제어부는 사용자의 터치 입력에 따라 제2영상의 크기가 변경되면 제2영상의 크기에 비례하여 제2영상의 사운드 볼륨을 조절한다.

상기 제어부는 사용자가 선택한 제2영상의 위치에 기반하여 제1영상의 피사체의 지향성을 변경하여 제1영상의 소리를 재생한다.

본 발명은 재생 화면에서 특정 영역 편집 기능을 위한 사용자의 피드백에 연동하여 소리의 취음 위치와 범위를 자동으로 조절하고, 전후방 카메라를 통해 촬영된 피사체들의 음원의 취음 위치와 크기를 재조정함으로써 재생 모드에서 최적의 음원 재생을 수행할 있는 효과가 있다.

도 1은 본 발명의 일 실시예에 관련된 이동 단말기의 블록 구성도.
도 2는 본 발명의 일 실시예에 관련된 이동 단말기가 동작할 수 있는 무선 통신 시스템에 대한 블록도.
도 3은 촬영 모드에서 오디오 줌잉 기술의 적용 예.
도 4는 재생모드의 오디오 줌잉 기술의 적용 예.
도 5는 본 발명에서 재생 영상시 선택 가능한 복수의 취음 범위를 표시하는 예.
도 6은 본 발명의 실시예에 따른 재생 모드에서 영역 확대기능과 연동된 취음 방법을 나타낸 예.
도 7은 본 발명의 실시예에 따른 재생 모드에서 영역 제거기능과 연동된 취음 방법을 나타낸 예.
도 8은 본 발명의 실시예에 따른 재생 모드에서 초점 재조정 기능과 연동된 취음 방법을 나타낸 예.
도 9는 본 발명에서 듀얼 레코딩 모드에서 사용자 피드백과 연동된 취음 방법의 제1실시예.
도 10은 본 발명에서 듀얼 레코딩 모드에서 사용자 피드백과 연동된 취음 방법의 제2실시예.
도 11a 및 도 11b는 본 발명에서 듀얼 레코딩 모드에서 사용자 피드백과 연동된 취음 방법의 제3실시예.
도 12는 본 발명의 실시예에 따른 재생시 이동 단말기의 오디오 줌잉 방법을 나타낸 순서도.

이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 단순히 본 명세서 작성의 용이함만이 고려되어 부여되는 것으로서, 그 자체로 특별히 중요한 의미 또는 역할을 부여하는 것은 아니다. 따라서, 상기 "모듈" 및 "부"는 서로 혼용되어 사용될 수도 있음을 유념해야 한다.

단말기는 다양한 형태로 구현될 수 있다. 예를 들어, 본 명세서에서 기술되는 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(notebook computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등과 같은 이동 단말기와, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기가 있다. 이하의 설명에서는 상기 단말기가 이동 단말기인 것으로 가정하고 설명한다. 그러나, 이하의 설명에 따른 구성은 이동용을 위해 특별히 구성된 구성요소를 제외한다면 상기 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1은 다양한 구성요소를 가지고 있는 이동 단말기를 나타내고 있다. 그러나 도시된 구성요소 모두가 필수구성요소인 것은 아니다. 도시된 구성요소 보다 많은 구성요소에 의해 이동 단말기가 구현될 수도 있고, 그 보다 적은 구성요소에 의해서도 이동 단말기가 구현될 수 있다.

이하 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 간의 무선 통신 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트웍간의 무선 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

한편, 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있으며, 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 각종 방송 시스템을 이용하여 방송 신호를 수신하는데, 특히, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 방송 신호를 제공하는 모든 방송 시스템에 적합하도록 구성된다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

또한, 이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 무선 인터넷 모듈(113)은 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN (Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

또한, 위치정보 모듈(115)은 이동 단말기의 위치를 확인하거나 얻기 위한 모듈이다. 상기 위치정보 모듈(115)의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.

한편, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)은 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 그리고, 처리된 화상 프레임은 디스플레이 모듈(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)은 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰 (Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 그리고, 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)를 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)를 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다. 특히, 터치 패드가 후술하는 디스플레이 모듈(151)과 상호 레이어 구조를 이룰 경우, 이를 터치 스크린이라 부를 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기 (100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등과 관련된 센싱 기능을 담당한다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다. 이에 대해서는 나중에 터치스크린과 관련되어 후술된다.

또한, 상기 센싱부(140)는 사용자가 이동할 때 이동방향을 계산하는 지자기 센서, 회전방향을 계산하는 자이로 센서 및 가속도센서를 포함한다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 인터페이스 역할을 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 포함될 수 있다.

여기에서, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module; 'UIM'), 가입자 인증 모듈(Subscriber Identify Module; 'SIM'), 범용 사용자 인증 모듈(Universal Subscriber Identity Module; 'USIM') 등을 포함할 수 있다. 또한, 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다. 이와 같은 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다.

또한, 상기 인터페이스부(170)는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

출력부(150)는 오디오 신호 또는 비디오 신호 또는 알람(alarm) 신호의 출력을 위한 것으로, 이에는 디스플레이 모듈(151), 음향 출력 모듈(152), 및 알람부(153) 등이 포함될 수 있다.

디스플레이 모듈(151)는 이동 단말기(100)에서 처리되는 정보를 표시 출력한다. 예를 들어 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다.

한편, 전술한 바와 같이, 디스플레이 모듈(151)과 터치패드가 상호 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이 모듈(151)은 출력 장치 이외에 입력 장치로도 사용될 수 있다. 디스플레이 모듈(151)은 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. 이들 중 일부 디스플레이는 이를 통해 외부를 볼 수 있도록 투명하도록 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(transparent organic light emitting diode) 등이 있다. 그리고 이동 단말기(100)의 구현 형태에 따라 디스플레이 모듈(151)이 2개 이상 존재할 수도 있다. 예를 들어, 이동 단말기(100)에 외부 디스플레이 모듈(미도시)과 내부 디스플레이 모듈(미도시)이 동시에 구비될 수 있다. 상기 터치스크린은 터치 입력 위치 및 면적 뿐만 아니라 터치 입력 압력까지도 검출할 수 있도록 구성될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력한다. 이러한 음향 출력 모듈(152)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 오디오 신호나 비디오 신호 이외에 다른 형태로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 예를 들면, 진동 형태로 신호를 출력할 수 있다. 호 신호가 수신되거나 메시지가 수신된 경우, 이를 알리기 위해 알람부(153)는 진동을 출력할 수 있다. 또는, 키 신호가 입력된 경우, 키 신호 입력에 대한 피드백으로 알람부(153)는 진동을 출력할 수 있다. 상기와 같은 진동 출력을 통해 사용자는 이벤트 발생을 인지할 수 있다. 물론 이벤트 발생 알림을 위한 신호는 디스플레이 모듈(151)이나 음향 출력 모듈(152)을 통해서도 출력될 수 있다.

메모리(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 또한, 상기 메모리(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM (Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory) 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 또한, 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)를 운영할 수도 있다.

그리고 제어부(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 또한, 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 배터리로서 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 그러한 실시예들이 제어부(180)에 의해 구현될 수 있다.

소프트웨어적인 구현에 의하면, 절차나 기능과 같은 실시예들은 적어도 하나의 기능 또는 작동을 수행하게 하는 별개의 소프트웨어 모듈과 함께 구현될 수 있다. 소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션에 의해 구현될 수 있다. 또한, 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

도 1에 도시된 단말기(100)는, 유무선 통신 시스템 및 위성 기반 통신 시스템을 포함하여, 프레임(frame) 또는 패킷(packet)을 통하여 데이터(data)를 전송할 수 있는 통신 시스템에서 동작 가능하도록 구성될 수 있다.

이하에서는, 도 2를 참조하여, 본 발명에 관련된 단말기가 동작 가능한 통신 시스템에 대하여 살펴보겠다.

통신 시스템은, 서로 다른 무선 인터페이스 및/또는 물리 계층을 이용할 수도 있다. 예를 들어, 통신 시스템에 의해 이용 가능한 무선 인터페이스에는, 주파수 분할 다중 접속(Frequency Division Multiple Access; 'FDMA'), 시분할 다중 접속(Time Division Multiple Access; 'TDMA'), 코드 분할 다중 접속(Code Division Multiple Access; 'CDMA'), 범용 이동통신 시스템(Universal Mobile Telecommunications Systems; 'UMTS')(특히, LTE(Long Term Evolution)), 이동통신 글로벌 시스템(Global System for Mobile Communications; 'GSM') 등이 포함될 수 있다. 이하에서는, 설명의 편의를 위하여, CDMA에 한정하여 설명하도록 한다. 그러나, 본 발명은, CDMA 무선 통신 시스템을 포함한 모든 통신 시스템 적용될 있음은 당연하다.

도 2에 도시된 바와 같이, CDMA 무선 통신 시스템은, 복수의 단말기들(100), 복수의 기지국(Base Station; 'BS')(270), 기지국 제어부(Base Station Controllers; 'BSCs')(275), 이동 스위칭 센터(Mobile Switching Center; 'MSC')(280)를 포함할 수 있다. MSC(280)는, 일반 전화 교환망(Public Switched Telephone Network; 'PSTN')(290)과 연결되도록 구성되고, BSCs(275)와도 연결되도록 구성된다. BSCs(275)는, 백홀 라인(backhaul line)을 통하여, BS(270)과 짝을 이루어 연결될 수 있다. 백홀 라인은, E1/T1, ATM, IP, PPP, Frame Relay, HDSL, ADSL 또는 xDSL 중 적어도 하나에 따라서 구비될 수 있다. 따라서, 복수의 BSCs(275)가 도 2에 도시된 시스템에 포함될 수 있다.

각각의 BS(270)는, 적어도 하나의 섹터를 포함할 수 있고, 각각의 섹터는, 전방향성 안테나 또는 BS(270)으로부터 방사상의 특정 방향을 가리키는 안테나를 포함할 수 있다. 또한, 각각의 섹터는, 다양한 형태의 안테나를 두 개 이상 포함할 수도 있다. 각각의 BS(270)는, 복수의 주파수 할당을 지원하도록 구성될 수 있고, 복수의 주파수 할당 각각은, 특정 스펙트럼(예를 들어, 1.25MHz, 5MHz 등)을 갖는다.

섹터와 주파수 할당의 교차는, CDMA 채널이라고 불릴 수 있다. BS(270)은, 기지국 송수신 하부 시스템(Base Station Transceiver Subsystem; 'BTSs')이라고 불릴수 있다. 이러한 경우, "기지국"이라는 단어는, 하나의 BSC(275) 및 적어도 하나의 BS(270)을 합하여 불릴 수도 있다. 기지국은, 또한 "셀 사이트"를 나타낼 수도 있다. 또는, 특정 BS(270)에 대한 복수의 섹터들 각각은, 복수의 셀 사이트로 불릴 수도 있다.

도 2에 도시된 바와 같이, 방송 송신부(Broadcasting Transmitter; 'BT')(295)는, 시스템 내에서 동작하는 단말기들(100)에게 방송 신호를 송신한다. 도 1에 도시된 방송수신 모듈(111)은, BT(295)에 의해 전송되는 방송 신호를 수신하기 위해 단말기(100) 내에 구비된다.

뿐만 아니라, 도 2에서는, 여러 개의 위성 위치 확인 시스템(Global Positioning System; 'GPS') 위성(300)을 도시한다. 상기 위성들(300)은, 복수의 단말기(100) 중 적어도 하나의 단말기의 위치를 파악하는 것을 돕는다. 도 2에서는 두 개의 위성이 도시되어 있지만, 유용한 위치 정보는, 두 개 이하 또는 이상의 위성들에 의해 획득될 수도 있다. 도 1에 도시된 위치정보 모듈(115)은, 원하는 위치 정보를 획득하기 위하여 위성들(300)과 협력한다. 여기에서는, GPS 추적 기술뿐만 아니라 위치를 추적할 수 있는 모든 기술들을 이용하여 위치를 추적할 수 있다. 또한, GPS 위성들(300) 중 적어도 하나는, 선택적으로 또는 추가로 위성 DMB 전송을 담당할 수도 있다.

무선 통신 시스템의 전형적인 동작 중, BS(270)은, 다양한 단말기들(100)로부터 역 링크 신호를 수신한다. 이때, 단말기들(100)은, 호를 연결 중이거나, 메시지를 송수신 중이거나 또는 다른 통신 동작을 수행하고 있다. 특정 기지국(270)에 의해 수신된 역 링크 신호들 각각은, 특정 기지국(270)에 의해 내에서 처리된다. 상기 처리 결과 생성된 데이터는, 연결된 BSC(275)로 송신된다. BSC(275)는, 기지국들(270) 간의 소프트 핸드오프(soft handoff)들의 조직화를 포함하여, 호 자원 할당 및 이동성 관리 기능을 제공한다. 또한, BSC(275)는, 상기 수신된 데이터를 MSC(280)으로 송신하고, MSC(280)은, PSTN(290)과의 연결을 위하여 추가적인 전송 서비스를 제공한다. 유사하게, PSTN(290)은 MSC(280)과 연결하고, MSC(280)은 BSCs(275)와 연결하고, BSCs(275)는 단말기들(100)로 순 링크 신호를 전송하도록 BS들(270)을 제어한다.

본 발명은 영상 재생시 최적의 영상을 얻기 위해 사용자가 관심 피사체들의 위치, 범위 및 상황을 선택하는 이벤트(events)와 오디오 줌잉(Audio Zooming) 기법을 조합한 다양한 취음 방법을 제공한다.

상기 재생시의 영상은 오디오 줌잉 기술이 적용되어 저장된 영상 또는 오디오 줌잉 기술이 적용되지 않은 상태에서 저장된 영상을 모두 포함한다.

본 발명에 적용되는 오디오 줌잉 기법은, 마이크를 통해 음원의 사운드를 취음한 후 오디오 줌잉을 적용하여 원하는 사운드만을 선택적으로 녹음하거나 또는 상기 녹음된 사운드에 오디오 줌잉을 적용하여 재생하는 일련의 동작을 포함한다.

예를 들어, 사용자가 클로즈업하거나 초점을 맞춘 피사체의 위치와 크기에 자동으로 연동하여 그 피사체의 위치에 지향성을 향하게 하거나 취음 범위를 최적화함으로써 관심 피사체의 오디오를 최적으로 취음하면서 촬영 또는 재생한다.

또한, 본 발명은 화면 포커싱, 줌 배율 등을 조절하는 카메라의 기본적인 UI 시나리오와 충돌하지 않도록 하면서, 사용자가 하나 혹은 다수의 취음 위치 및 범위를 섬세하고 편리하게 조절할 수 있는 표현 기법을 제공함으로써, 관심 피사체의 오디오를 최적으로 촬영 혹은 재생할 수 있는 방안을 제공한다.

상기 이벤트 또는 하나 혹은 다수의 취음 위치 및 범위에 대한 조절은, 촬영 또는 재생 영상에 대한 사용자의 행위(behavior) 또는 제스처와 같이 접촉 또는 비접촉 방식으로 이루어진다. 상기 접촉 또는 비접촉 방식에 의한 입력은 싱글터치, 멀티터치, 다지점 터치, 플리킹 및 터치 & 드래그를 포함한다.

상기 촬영 또는 재생 영상은 이동 단말기의 디스플레이부에 표시되거나 이동 단말기와 별도로 홀로그램상에 표시될 수 있다. 이러한 입력 및 표시방법은 후술하는 모든 실시예에 공통적으로 적용된다.

또한, 본 발명은 하나 혹은 다수의 취음 위치 및 범위를 조절할 경우 각 피사체간의 음 세기비율을 가시적으로 표시할 수 있다.

일반적으로 음원의 소리를 취음(Capture)하기 위해서는 사용자 기준으로 수평축 또는 수직축상의 음원들간의 선별적인 지향성이 필요하다. 상기 선별적인 지향성을 제공하기 위해 이동 단말기의 배면에 복수의 마이크를 서로 직교하거나 십자형태로 배치하고, 2개의 마이크만 사용하는 경우는 가로 또는 세로 직선 방향으로 서로 떨어뜨려 배치한다. 특히, 상기 지향성은 다수의 마이크를 통해 취음된 사운드(예:소리 또는 목소리)에 대하여 빔 포밍(Beam-forming)과 같은 신호처리를 통해 수행된다. 상기 빔 포밍은 취음할 범위를 사운드 빔으로 형성하여 지향성을 생성하는 것을 의미한다.

촬영 모드에서 다수의 마이크들에 의해 취음된 오디오 정보는 영상정보와 합성된 후 압축되어 메모리(610)에 저장되고, 재생모드에서는 상기 저장영상은 다시 오디오 정보와 영상정보로 분리되어 디스플레이부(151) 및 음향 출력 모듈(152)를 통해 출력된다. 따라서, 촬영 모드에서는 다수의 마이크들에 의해 취음된 오디오 정보는 직접 오디오 줌잉 기술을 적용한 후 동영상 포멧으로 압축하여 저장하고, 재생모드에서는 상기 분리된 오디오 정보에 오디오 줌잉 기술을 적용할 수 있을 것이다. 이하 설명하는 오디오 줌잉 방법은 재생 모드를 예로들어 설명하였지만 이에 한정되지 않고 촬영모드에서도 동일하게 적용된다.

도 3은 촬영 모드에서 오디오 줌잉 기술의 적용 예이다.

도 3에 도시된 바와같이, 영상 촬영시 다수의 마이크(122)들에 의해 취음된 (Capturing) 오디오 정보는 빔포밍 및 노이즈 제거와 같은 오디오 줌잉 기술이 적용된 후 카메라(121)에 의해 촬영된 영상정보와 합성된다. 상기 합성되어 생성된 촬영 영상은 소정의 포멧으로 압축된 후 메모리(160)에 저장된다. 특히 상기 빔포밍을 처리하는 유닛은 취음 범위 및 위치에 따라 적응적으로 사운드 빔을 형성하여 지향성을 생성하는 부분으로 노이즈 제거를 수행하는 유닛과 함께 신호처리부(미도시)를 형성한다.

도 4는 재생모드의 오디오 줌잉 기술의 적용 예이다.

도 4에 도시된 바와같이, 메모리(160)에 저장된 동영상은 압축이 해제되어 각각 오디오 정보와 영상정보로 분리(복원)된다. 상기 분리된 오디오 정보는 빔포밍 및 노이즈 제거와 같은 오디오 줌잉 기술이 적용된 후 다시 상기 분리된 영상정보와 합성되어 재생된다. 마찬가지로, 상기 빔포밍을 처리하는 유닛은 취음 범위 및 위치에 따라 적응적으로 사운드 빔을 형성하여 지향성을 생성하는 부분으로 노이즈 제거를 수행하는 유닛과 함께 신호처리부(미도시)를 형성한다.

상기 압축 또는 압축해제 과정을 거친 오디오 정보는 마이크(122)로 직접 취음한 오디오 신호와 거의 차이가 없으며, 특히 손실 압축에 의한 정보의 변화는 소프트웨어적으로 보안이 가능하다.

이와같이 이동 단말기의 마이크(122)들 및 카메라(121)의 배치 구조를 알고 있다면, 마이크(122)들을 통해 취음된 오디오 신호에 직접 오디오 줌잉 기술을 적용하거나 또는 저장된 오디오 신호에 오디오 줌잉 기술을 적용하더라도 동일한 효과를 얻을 수 있을 것이다.

따라서, 본 발명은 재생 모드에서 특정 영역에 대한 사용자의 편집기능(제어동작)에 연동하여 소리의 취음 위치 및 범위를 자동으로 조절할 수 있는 방안을 제공한다. 상기 사용자의 편집 기능은 확대 기능, 제거 기능 및 초점 재조정 기능을 포함한다.

또한 본 발명은 듀얼 레코딩(Dual Recording) 모드로 촬영한 영상을 재생할 때 사용자 피드백과 연동하여 취음 위치 및 범위를 자동으로 조절할 수 있는 방안을 제공한다. 즉, 전/후면 카메라를 통해 촬영된 피사체들의 음원들의 위치와 크기를 사용자의 피드백과 연동하여 재조정한다. 상기 사용자 피드백은 시청 기능으로 특정 영상의 선택 및 확대 기능을 포함한다.

도 5는 재생 영상시 선택 가능한 복수의 취음 범위를 표시하는 예이다.

도 5에 도시된 바와같이, 재생 화면에서 취음 범위(50)는 관심 피사체 방향으로 형성되는 사운드 빔의 각도 즉, 취음 각도에 의해 형성되는 가로 방향 범위로서 화면에 소정 형상(취음 영역)으로 표시된다. 상기 사운드 빔은 관심 피사체로의 지향성을 나타낸다.

상기 취음 각도가 증가하면 취음 범위(50)도 증가되기 때문에 넓은(wide) 범위에서 사운드를 취음할 수 있으며, 취음 각도가 감소하면 취음 범위(50)가 감소되어 좁은(narrow) 범위에서 사운드를 집중적으로 취음할 수 있다.

사용자가 재생모드에서 특정 영상의 재생을 개시하면, 그 재생되는 영상의 종류에 따라 해당 영상에 설정된 취음 범위(50) 또는 복수의 선택 가능한 취음 범위 중 적어도 하나를 표시할 수 있다. 예를들어, 재생 영상이 이전에 줌잉 기술이 적용되어 저장된 영상인 경우에는 기 설정된 취음 범위(50)와 함께 선택 가능한 복수의 취음 범위를 표시할 수 있으며, 줌잉 기술이 적용되지 않음 영상인 경우에는 디폴트로서 상기 복수의 선택 가능한 취음 범위를 표시할 수 있다.

상기 표시된 취음 범위(50)는 사용자의 터치에 따라 터치된 부분에 소정 형상(예; 원, 사각형 또는 다각형)으로 설정되거나 터치 & 드래그되는 모양에 따라 형성될 수 있다. 상기 재생시 자동을 제공되는 취음 범위(50) 및 사용자가 직접 설정한 취음 범위950)는 사용자의 터치 입력에 따라 위치 이동 및 크기 조절이 가능하다. 특히 재생화면에서 취음 각도를 조절한다는 의미는 취음 범위(50)(취음 영역)를 조절하는 의미와 동일하게 사용된다.

도 6은 본 발명의 실시예에 따른 재생 모드에서 특정 영역 확대기능과 연동된 취음 방법을 나타낸 예이다.

사용자는 동영상 재생 중 특정 피사체(예: 사람)의 일부 영역을 실시간으로 지정하여 확대함으로써 해당 영역을 보다 자세히 관찰할 수 있다. 이 경우 본 발명은 재생 중 영상의 일부 영역 확대와 연동하여 취음 위치와 범위를 조절한다.

즉, 사용자가 재생 영상에서 확대할 피사체를 선택하거나 확대 영역(60)을 설정하면, 제어부(180)는 선택된 피사체 또는 상기 확대 영역(60)과 일치하는 위치 및 범위에 취음 범위(61)를 자동으로 설정한다. 상기 확대 영역(60)은 메뉴 선택이나 터치 제스처에 의해 설정 가능하다.

상기 선택 영역(60)이 확대되면 제어부(180)는 해당 영역(60)을 실시간으로 확대하여 재생하고, 상기 확대된 선택 영역(60)에 해당되는 취음 범위(61)에 지향성을 형성하여 그 확대된 영역(60)에서 발생하는 소리 및 목소리를 최적으로 출력한다.

따라서, 본 발명은 재생 영상의 특정 영역 확대 기능과 연동시킴으로써 특정 피사체의 음원만을 분리/증폭(확대)할 수 있는 효과가 있다. 일 예로 음악만을 분리 후 검색하는 기능을 제공할 수 있다.

도 7은 본 발명의 실시예에 따른 재생 모드에서 특정 영역 제거기능과 연동된 취음 방법을 나타낸 예이다.

사용자는 동영상 재생 중 특정 피사체의 일부 영역을 실시간으로 제거하여 불필요한 피사체를 없앨 수 있다(편집). 이 경우 본 발명은 재생 중 영상의 일부 영역 제거와 연동하여 취음 위치와 범위를 조절한다.

도 7에 도시된 바와같이, 사용자가 재생 영상에서 제거될 피사체를 선택하거나 제거 영역(70)을 설정하면, 제어부(180)는 선택된 피사체 또는 상기 제거 영역(70)과 일치하는 위치 및 범위에 취음 영역(71)을 자동으로 설정한다. 상기 제거 영역(70)은 메뉴 선택이나 터치 제스처에 의해 설정 가능하다.

상기 제거 동작이 수행되면, 제어부(180)는 제거 영역(70)에 포함된 피사체를 실시간으로 제거하여 동영상을 재생함과 함께 메모리(160)에 저장된 원음 사운드에서 상기 제거 영역(70)에 해당되는 취음 영역(71)에서 발생한 소리를 제거한다

따라서, 본 발명은 사용자가 선택한 피사체 방향으로 지향성을 형성하여 해당 영역에서 발생하는 소리를 최적으로 제거할 수 있게 된다.

도 8은 본 발명의 실시예에 따른 재생 모드에서 초점 재조정 기능과 연동된 취음 방법을 나타낸 예이다.

사용자는 동영상 재생 중 특정 피사체를 기준으로 화면 초점을 실시간으로 재조정(이동)할 수 있다. 이 경우 본 발명은 초점이 재설정된 피사체에 지향성을 형성하여 상기 초점이 재설정된 피사체에서 발생하는 소리 및 목소리를 최적으로 재생할 수 있다

도 8에 도시된 바와같이, 사용자가 초점을 앞쪽 사용자에서 뒤 사용자로 재설정하면(수동 설정), 제어부(180)는 재설정된 초점 영역(80)과 일치하는 위치 및 범위에 취음 영역(81)을 자동으로 설정하고, 상기 취음 영역(80)에서 발생하는 소리만을 선택적으로 재생한다.

따라서, 상기 실시예에 의해 본 발명은 초점이 재설정된 피사체에 지향성을 형성하여 해당 피사체에서 발생하는 소리 및 목소리를 최적으로 재생할 수다

도 9는 본 발명에서 듀얼 레코딩 모드에서 사용자 피드백과 연동된 취음 방법의 제1실시예이다.

싱글 레코딩 모드(또는 듀얼 레코드 모드)는 도 6 내지 도 8에 도시된 바와같이, 일반적인 촬영모드로서 전면 또는 후면 카메라의 촬영 영상을 동시에 받아 한 화면에 하나의 이미지를 출력하면서 촬영하는 모드이다.

번면에, 듀얼 레코딩 모드는 전면 및 후면 카메라의 촬영 영상을 동시에 받아 한 화면에 두 이미지를 함께 출력하면서 동시에 풀 HD(Full HD)로 촬영을 할 수 있는 모드이다. 따라서, 본 발명은 듀얼 레코딩 모드로 촬영한 영상을 재생할 때 사용자 선택에 따라 특정 영상의 소리 및 목소리만을 선택적으로 재생할 수 있는 방안을 제공한다.

도 9를 참조하면, 재생모드에서 전면 및 후면 카메라에서 촬영된 영상은 사운드와 함께 동시에 한 화면에 표시된다. 이때, 전면 및 후면 카메라에 의해 각각촬영되어 저장된 영상을 A 및 B라 가정한다.

상기 화면에서 특정 방향의 카메라의 영상을 선택하면, 제어부(180)는 해당 방향으로 소리의 취음 위치와 범위를 설정한 후 저장된 원음 사운드에서 상기 선택된 방향에서 발생하는 음원만을 실시간으로 재생한다. 예를들어, 전면 카메라의 영상(A)을 선택하면, 제어부(180)는 원음 사운드에서 전방에서 발생하는 소리만을 실시간으로 출력한다.

따라서, 본 발명은 재생 모드에서 한 화면에 전면 및 후면 카메라의 촬영된 영상을 동시에 표시할 때 사용자 선택에 따라 특정 영상의 소리 및 목소리만을 선택적으로 재생할 수 있는 효과가 있다.

도 10은 본 발명에서 듀얼 레코딩 모드에서 사용자 피드백과 연동된 취음 방법의 제2실시예이다. 상기 제2실시예는 영상의 크기 조절에 연동하여 취음 위치와 범위를 조절하는 예이다.

도 10에 도시된 바와같이, 재생모드에서 전면 및 후면 카메라에서 촬영된 영상은 사운드와 함께 동시에 한 화면에 표시된다. 이때, 전면 카메라에 의해 촬영된 영상(A)은 서브 화면에 표시되고, 후면 카메라에 의해 촬영된 영상(B)은 메인 화면에 표시된다.

상기 두 영상(A,B)가 표시된 상태에서 사용자는 터치(예:터치 &드래그)에 의해 서브 영상(A)의 크기를 조절할 수 있다. 사용자에 의해 서브 영상(A)의 크기가 증가 또는 감소되면 제어부(180)는 영상 크기에 비례하여 서브 영상(A)의 소리를 자동으로 증감시킨다.

상기 증가되는 서브 영상이 소정 임계범위를 초과하면 제어부(180)는 두 영상의 화면 표시전환, 즉, 전면 카메라에 의해 촬영된 영상(A)을 메인 화면에 표시하고, 후면 카메라에 의해 촬영된 영상(B)을 서브 화면에 표시한다.

따라서, 상기 실시예에 따라 본 발명은 사용자에게 다양한 뷰 포인트(View point)를 제공할 수 있는 장점이 있다.

도 11a 및 도 11b는 본 발명에서 듀얼 레코딩 모드에서 사용자 피드백과 연동된 취음 방법의 제3실시예이다. 상기 제3실시예는 영상의 위치 조절에 연동하여 음원의 발생 위치를 재조정하는 예이다.

11a에 도시된 바와같이, 전면 카메라의 영상(A)의 위치를 사용자(청취자)의 기준 위치로 설정한다. 제어부(180)는 영상(A)의 위치에 따라 실제 촬영자가 피사체 사이의 임의의 위치에서 듣는 것처럼 음원의 지향성을 형성하여 피사체의 음원들간의 위치를 입체감 있게 재설정한다.

예를들어, 도 11a에 도시된 바와같이, 전면 카메라의 영상(A)이 우측 하단부에 위치하면, 제어부(180)는 우측 하단부에 사용자가 위치하는 것으로 간주하고 후면 카메라의 영상(B)에 포함된 피사체의 음원 지향성을 우측 하단부로 향하게 한다. 이후 상기 전면 카메라의 영상(A)을 좌측 상단부로 이동시키면 제어부(180)는 도 11b에 도시된 바와같이, 좌측 상단부에 사용자가 위치하는 것으로 간주하고 후면 카메라의 영상(B)에 포함된 피사체의 음원 지향성을 좌측 상단부로 향하게 한다.

따라서, 본 발명은 화면상 촬영자의 위치 변화에 따라 피사체에서 발생하는 음원들의 위치를 공간적 즉, 입체적(예: HRTF를 이용한 3D사운드 효과)으로 재배치함으로써 다양한 각도에서 재생을 수행할 수 있게 된다.

이하 본 발명의 실시예에 따른 이동 단말기의 재생모드에서의 오디오 줌잉 방법을 첨부된 도면을 참조하여 설명하면 다음과 같다.

재생모드에서 오디오 줌잉방법은 관심 피사체들의 위치나 범위 설정, 카메라 모드, 실제 카메라 동작(줌잉동작 또는 포커싱 이동)에 다양한 오디오 줌잉 기법을 적용하여 해당 피사체의 소리나 음성을 최적으로 취음하는 방법을 말한다.

반면에 재생모드에서의 오디오 줌잉방법은 재생 화면의 특정 영역 확대/제거/초점 재조정 기능과 연동되거나 듀얼 레코딩 기능과 연동되어 소리의 취음 위치와 범위를 자동으로 조절하는 방법을 말한다. 특히 상기 소리의 취음 위치와 범위에 따라 재생 위치 및 재생 사운드의 크기가 달라진다.

도 12는 본 발명의 실시예에 따른 재생시 이동 단말기의 오디오 줌잉 방법을 나타낸 순서도이다.

사용자가 재생모드를 선택하면 제어부(180)는 메모리(180)로부터 하나 이상의 촬영 영상을 검색하여 사용자가 선택할 수 있도록 디스플레이부(151)에 표시한다(S10). 상기 촬영 영상은 아이콘 형태 또는 리스트 형태로 표시된다.

재생할 특정 영상이 선택되면(S11) 제어부(180)는 해당 영상이 싱글 레코딩 모드(하나의 카메라)에서 촬영된 영상인지 아니면 듀얼 레코딩 모드(두개의 카메라)에서 촬영된 영상인지 확인한다(S12).

확인결과 싱글 레코딩 모드에서 촬영된 영상인 경우 제어부(180)는 영상의 특정 영역에 대한 사용자의 편집 기능(e.g.,확대, 제거 및 초점 재설정)에 연동하여 취음 위치와 범위를 조절한다(S14).

예를들어, 사용자가 확대할 영역을 선택하면 해당 영역에 자동으로 취음 영역을 설정하여 해당 영역에서 발생하는 피사체의 소리만을 재생하고(도 5), 사용자가 제거할 영역을 선택하면 자동으로 취음 영역을 설정하여 해당 영역에서 발생하는 피사체의 소리 및 목소리를 제거한다(도 6). 또한, 상기 영상에서 초점이 다른 피사체로 재설정되면 상기 초점 영역에 자동으로 취음 영역을 설정하여 해당 영역에서 발생하는 피사체의 소리만을 재생한다(도7).

반면에 상기 선택된 영상이 확인 결과 듀얼 레코딩 모드에서 촬영된 영상인 경우 제어부(180)는 하나의 영상에 대한 사용자의 시청 기능(e.g.,영상 선택, 영상 크기 또는 위치 조절)에 연동하여 취음 위치와 범위를 조절하거나 음원의 발생 위치를 조절한다(S14).

따라서, 상기 제어부(180)는 상기 조절된 취음 위치와 범위 또는 음원의 발생위치에서 피사체의 소리 및 목소리를 최적으로 재생하며(S15), 이러한 일련의 동작은 재생동작이 완료되지 않는한 반복적으로 수행된다(S16).

그리고, 상기 영생 재생시의 재생 영상의 오디오 줌잉 방법은 그 일부 또는 전부가 영상 촬영시에도 선택적으로 수행될 수 있다. 즉, 재생시에 사용자의 이벤트에 연동한 소리의 취음은 모두 촬영시에도 적용될 수 있다.

상술한 바와같이, 본 발명은 재생 화면에서 특정 영역 편집 기능을 위한 사용자의 입력에 연동하여 소리의 취음 위치와 범위를 자동으로 조절하고, 전후방 카메라를 통해 촬영된 피사체들의 음원의 취음 위치와 크기를 재조정함으로써 재생 모드에서 최적의 음원 재생을 수행할 있다.

또한, 본 발명의 일 실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는, 단말기의 제어부를 포함할 수도 있다.

상기와 같이 설명된 이동 단말기 및 재생 영상의 오디오 줌잉 방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

60 : 확대 영역 61, 71, 81 :취음 영역
70 : 제거 영역 80 : 초점 영역
121 : 카메라 122 : 마이크
151 : 디스플레이부 152 : 음향 출력 모듈
160 : 메모리 180 : 제어부

Claims (26)

1. 삭제
2. 삭제
3. 삭제
4. 삭제
5. 삭제
6. 삭제
7. 삭제
8. 삭제
9. 삭제
10. 삭제
11. 삭제
12. 삭제
13. 삭제
14. 복수의 마이크;
    카메라;
    상기 복수의 마이크에 의해 취음된 원음 사운드 및 상기 카메라를 통해 촬영된 촬영 영상을 저장하는 메모리;
    상기 저장된 영상을 표시하는 디스플레이부; 및
    (a) 상기 표시된 저장 영상에서 편집 영역이 설정되면, 상기 설정된 편집 영역에 포함된 피사체를 제거하고,
    (b) 상기 메모리에 저장된 원음 사운드로부터 상기 설정된 편집 영역에 해당하는 취음 영역에서 발생한 소리를 제거하며,
    (c) 상기 설정된 편집 영역에 포함된 피사체 및 상기 취음 영역에서 발생한 소리가 제거된 영상이 재생되도록 상기 디스플레이부를 제어하는 제어부;를 포함하는 이동 단말기.
15. 제14항에 있어서,
    상기 설정된 편집 영역은
    확대, 제거 및 새로운 초점을 위한 영역으로서 사용자의 메뉴 선택 또는 터치 제스처에 의해 설정되는 것을 특징으로 하는 이동 단말기.
16. 삭제
17. 제14항에 있어서, 상기 제어부는
    상기 설정된 편집 영역과 일치하는 위치와 크기로 취음 영역을 설정하는 것을 특징으로 하는 이동 단말기.
18. 제14항에 있어서, 상기 제어부는
    상기 설정된 편집 영역이 확대 영역 또는 새로운 초점 영역이면 저장된 원음 사운드에서 상기 설정된 편집 영역에서 발생하는 소리만 선택적으로 재생하며,
    상기 설정된 편집 영역이 영상의 확대를 나타내는 영역이면 상기 설정된 편집 영역에 포함된 피사체로부터 발생된 원음 사운드가 상기 설정된 편집 영역에 포함되지 않은 피사체들로부터 발생된 원음 사운드와 비교하여 더 커지도록 증폭하는 것을 특징으로 하는 이동 단말기.
19. 제14항에 있어서, 상기 제어부는
    상기 설정된 편집 영역이 영상의 제거를 나타내는 영역이면 저장된 원음 사운드로부터 상기 설정된 편집 영역에서 발생하는 소리만 제거하여 재생하는 것을 특징으로 하는 이동 단말기.
20. 복수의 마이크;
    전면 카메라 및 후면 카메라;
    상기 복수의 마이크에 의해 취음된 원음 사운드, 상기 전면 카메라에서 촬영된 제1 영상 및 상기 후면 카메라에서 촬영된 제2 영상을 저장하는 메모리;
    상기 제1 영상 및 상기 제2 영상을 하나의 화면에 함께 표시하는 디스플레이부; 및
    상기 제1 영상 및 상기 제2 영상 중 어느 하나가 선택되면,
    상기 선택된 영상을 촬영한 카메라에 대응되는 방향으로 소리의 취음 위치와 범위를 설정하고, 상기 저장된 원음 사운드에서 상기 선택된 영상을 촬영한 카메라에 대응되는 방향에서 발생하는 음원만을 재생하는 제어부;를 포함하는 이동 단말기.
21. 삭제
22. 삭제
23. 제20항에 있어서, 상기 제어부는
    상기 제1 영상은 메인 화면에 표시하고, 상기 제2 영상은 서브 화면에 표시하는 것을 특징으로 하는 이동 단말기.
24. 제20항에 있어서, 상기 제어부는
    상기 제1 및 제2 영상 중 사용자가 선택한 영상의 카메라 방향으로 지향성을 형성하여, 상기 제1 및 제2 영상 중 사용자가 선택한 영상의 소리만 재생하는 것을 특징으로 하는 이동 단말기.
25. 제20항에 있어서, 상기 제어부는
    사용자의 터치 입력에 따라 상기 제2 영상의 크기가 변경되면 상기 제2 영상의 크기에 비례하여 상기 제2 영상의 사운드 볼륨을 조절하는 것을 특징으로 하는 이동 단말기.
26. 제20항에 있어서, 상기 제어부는
    상기 제2 영상이 선택된 경우, 상기 제2 영상의 위치에 기반하여 상기 제1 영상의 피사체의 지향성을 변경하여 상기 제1 영상의 소리를 재생하는 것을 특징으로 하는 이동 단말기.

Images