KR20140096774A

KR20140096774A - 이동 단말기 및 이의 제어 방법

Info

Publication number: KR20140096774A
Application number: KR1020130009776A
Authority: KR
Inventors: 김민아; 곽병주; 송호성; 김정곤
Original assignee: 엘지전자 주식회사
Priority date: 2013-01-29
Filing date: 2013-01-29
Publication date: 2014-08-06
Also published as: US9621122B2; US20140211969A1; KR101997449B1

Abstract

본 발명은 동영상의 영상 신호를 출력하기 위한 디스플레이부; 상기 동영상의 음향 신호를 출력하기 위한 음향 출력부; 및 상기 동영상의 음향 신호를 음원별로 분리하고, 상기 분리된 음원 중 적어도 하나의 볼륨을 수동 혹은 자동으로 조절하는 제어부를 포함하는 이동 단말기를 제공한다.

Description

이동 단말기 및 이의 제어 방법{MOBILE TERMINAL AND CONTROLLING METHOD THEREOF}

본 발명은 이동 단말기 및 이의 제어 방법에 관한 것으로서, 상세하게는 이동 단말기를 통해 재생되는 동영상의 음향 신호를 음원별로 분리한 뒤, 분리된 음원 중 적어도 하나의 볼륨을 조절할 수 있는 이동 단말기 및 이의 제어 방법에 관한 것이다.

단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.

이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.

이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.

이동 단말기를 통해 음악이나 동영상 파일 등의 멀티미디어 파일을 재생하는 경우, 사용자는 스피커 또는 이어폰 등을 이용하여 재생되는 멀티미디어 파일의 음향 신호를 청취할 수 있다. 사용자는 재생되는 멀티미디어 파일의 볼륨을 상향하거나 하향하여, 적당한 크기로 음향 신호를 청취할 수 있다.

다만, 종래의 경우, 음향 신호의 볼륨 조절을 조절하는 것은, 음원별로 적용되는 것이 아니라, 음향 신호 전체에 적용되는 것이어서, 복수의 음원 중 어느 하나의 음원을 강조하여 듣고자 하는 사용자의 바람을 충족시킬 수 없다는 문제점이 있다.

일예로, 인물 A 내지 C의 음성이 혼합된 음향 신호를 청취하는 사용자가 3명의 인물 중 인물 A의 음성만을 상향하고 싶을 경우에도, 이를 구현할 수 있는 방법이 없어, 인물 B 및 인물 C의 음성의 볼륨까지 모두 상향하여 청취하여야 한다는 문제점이 있다.

본 발명은 전술한 문제를 해결하기 위해 제안되는 것으로서, 사용자 편의를 향상시킨 이동 단말기를 제공하는 것을 그 목적으로 한다.

구체적으로, 본 발명은 동영상의 음향 신호를 음원별로 분리하여, 분리된 음원 중 적어도 하나의 볼륨을 조절할 수 있는 이동 단말기를 제공하는 것을 목적으로 한다.

나아가, 본 발명은 동영상의 음향 신호 중 소망하는 음원이 검색되면, 소망하는 음원의 볼륨을 자동으로 조절할 수 있는 이동 단말기를 제공하는 것을 목적으로 한다.

본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

상기 목적을 달성하기 위한 본 발명의 일예에 따른 이동 단말기는, 동영상의 영상 신호를 출력하기 위한 디스플레이부; 상기 동영상의 음향 신호를 출력하기 위한 음향 출력부; 및 상기 동영상의 음향 신호를 음원별로 분리하고, 상기 분리된 음원 중 적어도 하나의 볼륨을 수동 혹은 자동으로 조절하는 제어부를 포함한다.

상기 목적을 달성하기 위한 본 발명의 일예에 따른 이동 단말기의 제어 방법은, 동영상을 재생하는 단계; 상기 동영상의 음향 신호를 음원별로 분리하는 단계; 및 상기 분리된 음원 중 적어도 하나의 볼륨을 수동 혹은 자동으로 조절하는 단계를 포함한다.

본 발명은 사용자 편의를 향상시킨 이동 단말기를 제공할 수 있는 효과가 있다.

구체적으로, 본 발명은 동영상의 음향 신호를 음원별로 분리하여, 분리된 음원 중 적어도 하나의 볼륨을 조절할 수 있는 이동 단말기를 제공할 수 있는 효과가 있다.

나아가, 본 발명은 동영상의 음향 신호 중 소망하는 음원이 검색되면, 소망하는 음원의 볼륨을 자동으로 조절할 수 있는 이동 단말기를 제공할 수 있는 효과가 있다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2는 본 발명의 일 실시예에 관련된 이동 단말기의 전면 사시도이다.
도 3은 본 발명의 일 실시예에 관련된 이동 단말기의 후면 사시도이다.
도 4는 본 발명의 일실시예에 따른 이동 단말기의 동작 흐름도이다.
도 5는 여러 음원이 혼합된 음향 신호에 소스 분리가 적용되는 것을 설명하기 위한 예시도이다.
도 6a 내지 도 6e는 동영상의 음향 신호로부터 추출된 음성이 터치스크린에 디스플레이되는 적어도 한명의 인물과 매칭되는 것을 설명하기 위한 예시도이다.
도 7a 내지 도 7e는 동영상의 음향 신호로부터 추출된 악기 소리가 터치스크린에 디스플레이되는 적어도 하나의 악기와 매칭되는 것을 설명하기 위한 예시도이다.
도 8a 내지 도 8c는 얼굴 인식 알고리즘의 적용 영역을 설명하기 위한 예시도이다.
도 9a 내지 도 9c는 음향 신호로부터 추출된 음원의 수만큼 터치스크린이 분할되는 것을 설명하기 위한 예시도이다.
도 10a 및 도 10b는 제 1 터치 및 제 2 터치 입력에 의해 특정 음원의 볼륨이 조절되는 것을 설명하기 위한 예시도이다.
도 11a 및 도 11b는 포인터의 이동 거리에 따라 볼륨의 조절 정도가 조절되는 것을 설명하기 위한 예시도이다.
도 12a 및 도 12e는 복수의 음원이 그룹별로 분류되는 것을 설명하기 위한 예시도이다.
도 13a 및 도 13b는 적어도 하나 이상의 볼륨 조절 바가 동시에 디스플레이되는 것을 설명하기 위한 예시도이다.
도 14는 본 발명의 일실시예에 따른 이동 단말기의 동작 흐름도이다.
도 15a 및 도 15b는 기준 음향 데이터와 합치하는 음원이 발생하는 지점으로 판단되는 영역을 시각적으로 식별하는 것을 설명하기 위한 예시도이다.
도 16은 음악 재생 중 특정 음원의 볼륨을 조절하기 위해 제공되는 화면의 예시도이다.

이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다.

이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다.

그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다. 도 1에 도시된 상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈이 상기 이동단말기(100)에 제공될 수 있다.

상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), DVB-CBMS (Convergence of Broadcasting and Mobile Service), OMA-BCAST (Open Mobile Alliance-BroadCAST), CMMB (China Multimedia Mobile Broadcasting), MBBMS (Mobile Broadcasting Business Management System), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, GSM(Gobal System for Mobile communications), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA), LTE(Long Term Evolution)(이에 한정되지 않음)와 같은 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), GSM, CDMA, WCDMA, LTE(Long Term Evolution)(이에 한정되지 않음) 등이 이용될 수 있다.

Wibro, HSDPA, GSM, CDMA, WCDMA, LTE 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로으로 이해될 수도 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 이동단말기(100)의 전·후면 또는 측면에 위치하는 버튼(136), 터치 센서(정압/정전)(137)로 구성될 수 있고, 도시되지는 않았지만 키패드(key pad), 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등을 더욱 포함하여 구성될 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 상기 센싱부(140)의 예로는, 자이로스코프 센서, 가속도 센서, 지자기 센서 등이 있을 수 있다.

예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접센서(141)를 포함할 수 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(151)와 상기 터치센서(137) 가 상호 레이어 구조를 이루 거나 일체형으로 형성되는 는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가 지는 경우 디스플레이부(151)에 적층되어 레이어 구조를 형성할 수도 있고, 상기 디스플레이부(151)의 구성에 포함시켜 일체형으로 이루어질 수 있다.

터치센서(137)는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치센서(137)는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치센서(137)에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

도 2를 참조하면, 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 상기 디스플레이부(151) 및 음성출력모듈(152)은 알람부(153)의 일부로 분류될 수도 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.

상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(controller, 180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다. 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스(170)의 일 예로서 구성될 수 있다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 그러한 실시예들이 제어부(180)에 의해 구현될 수 있다.

소프트웨어적인 구현에 의하면, 절차나 기능과 같은 실시예들은 적어도 하나의 기능 또는 작동을 수행하게 하는 별개의 소프트웨어 모듈과 함께 구현될 수 있다. 소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션에 의해 구현될 수 있다. 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

도 2는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.

개시된 휴대 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다.

상기 이동단말기(100)의 바디는 외관을 이루는 케이스(101, 102, 103)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다.

경우에 따라서는 리어 케이스(102)의 표면에도 전자부품이 실장 될 수 있다. 상기 리어 케이스(102)의 표면에 실장되는 전자부품은 사용자가 탈착이 필요한 배터리, USIM 카드 및 메모리카드 등이 있다. 이때, 상기 리어 케이스(102)는 그 표면을 커버하기 위한 후면커버(103)를 더 구비할 수 있다. 상기 후면커버(103)는 사용자가 용이하게 탈부착 가능한 구조로 형성되며, 상기 후면커버(103)를 제거하면, 상기 리어 케이스(102)의 표면이 노출된다.

도 2에 도시된 바와 같이 상기 후면커버(103)를 결합하면, 상기 리어 케이스(102)의 측면 일부만 노출될 수도 있고, 상기 후면커버(103)의 사이즈를 작게하면 상기 리어케이스(102)의 배면 일부도 노출될 수 있다. 상기 후면커버(103)가 상기 리어 케이스(102)의 배면 전체을 커버하는 경우 카메라(121')나 음향 출력부(152')를 외부로 노출시키기 위한 개구부(103')를 포함할 수 있다.

케이스들(101, 102, 103)은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.

단말기 케이스(101, 102)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.

디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(152)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.

사용자 입력부(130)는 휴대 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131,132)을 포함할 수 있다. 조작 유닛들(131,132)은 조작부(manipulating portion)로도 통칭 될 수 있으며, 사용자가 촉각 적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다.

제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절과 같은 명령을 입력받고, 제 3 조작 유닛(133)은 디스플레이부(151)의 터치 인식 모드로의 전환 등과 같은 명령을 입력받을 수 있다.

도 3은 도 2에 도시된 휴대 단말기의 후면 사시도이다.

도 3를 참조하면, 단말기 바디의 후면, 다시 말해서 리어 케이스(102)에는 카메라(121')가 추가로 장착될 수 있다. 카메라(121')는 카메라(121, 도 2 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 서로 다른 화소를 가지는 카메라일 수 있다.

예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지는 것이 바람직하다. 카메라(121,121')는 회전 또는 팝업(pop-up) 가능하게 단말기 바디에 설치될 수도 있다.

카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치된다. 플래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울(124)은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.

단말기 바디의 후면에는 음향 출력부(152')가 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력부(152, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.

단말기 바디의 측면에는 통화 등을 위한 안테나 외에 방송신호 수신용 안테나(116)가 추가적으로 배치될 수 있다. 방송수신모듈(111, 도 1 참조)의 일부를 이루는 안테나(116)는 단말기 바디에서 인출 가능하게 설치될 수 있다.

단말기 바디에는 이동 단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착된다. 전원공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.

리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135)는 디스플레이부(151)를 위해 광 투과형으로 구성될 수도 있다. 이 경우에, 디스플레이부(151)가 양면에서(즉, 이동단말기의 전면 및 후면 둘 다의 방향으로) 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다.

한편, 터치 패드(135) 전용 디스플레이가 별도로 장착됨으로써, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.

터치 패드(135)는 프론트 케이스(101)의 디스플레이부(151)와 상호 관련되어 작동한다. 터치 패드(135)는 디스플레이부(151)의 후방에 평행하게 배치될 수 있다. 이러한 터치 패드(135)는 디스플레이부(151)와 동일하거나 작은 크기를 가질 수 있다.

이하에서는 이와 같이 구성된 이동 단말기에서 구현될 수 있는 제어 방법과 관련된 실시예들에 대해 첨부된 도면을 참조하여 살펴보겠다.

설명의 편의를 위해, 본 발명에 따른 이동 단말기는 도 1에 도시된 구성요소 중 적어도 하나를 포함하는 것으로 가정한다. 구체적으로, 본 발명에 따른 이동 단말기는 도 1에 도시된 구성요소 중 데이터를 저장하는 메모리(160), 동영상의 영상 신호를 출력하기 위한 디스플레이부(151), 동영상의 음향 신호를 출력하기 위한 음향 출력 모듈(152), 및 동영상의 음성 신호를 음원별로 분리하고, 분리된 음원 중 적어도 하나의 볼륨 조절이 가능하도록 제어하는 제어부(180)를 포함하는 것으로 가정한다. 경우에 따라, 본 발명에 따른 이동 단말기는 동영상을 녹화하기 위한 카메라(121) 및 음성을 녹음하기 위한 마이크(122) 중 적어도 하나를 포함하는 것으로 가정될 수도 있다.

본 발명에 따른 이동 단말기는 디스플레이부(151)가 그것의 하위 개념인 터치스크린인 경우 더욱 용이하게 구현될 수 있으므로, 이하에서는 디스플레이부(151)가 터치스크린인 것으로 가정한다. 다만, 디스플레이부(151)가 반드시 터치스크린일 필요는 없다. 디스플레이부(151)가 터치스크린이 아닐 경우, 본 발명에 따른 이동 단말기는 사용자 입력을 수신하기 위한 별도의 기능부(예컨대, 도 1의 사용자 입력부(130))를 더욱 포함할 수 있을 것이다.

본 발명에서 설명하는 동영상은 메모리(160)에 저장된 동영상 파일 및 방송국 서버로부터 수신하는 방송 컨텐트뿐만 아니라, 비디오 콜(Video Call)이나 컨퍼런스 콜(Conference Call) 등 음성 신호 및 음향 신호를 동시에 출력하여야 하는 동영상 통화를 포함하는 개념일 수 있다.

상술한 가정을 기초로 이하, 본 발명에 따른 이동 단말기의 동작 흐름도를 참조하여, 본 발명에 따른 이동 단말기에 대해 상세히 설명하기로 한다.

도 4는 본 발명의 일실시예에 따른 이동 단말기의 동작 흐름도이다. 도 4의 동작 흐름도를 설명하기에 앞서, 최초, 제어부(180)는 동영상을 재생하고 있는 상태인 것으로 가정한다. 이에 따라, 터치스크린을 통해서는 동영상의 영상 신호가 출력될 수 있을 것이고, 음향 출력 모듈(152)을 통해서는 동영상의 음성 신호가 출력될 수 있을 것이다.

도 4를 참조하면, 이동 단말기가 동영상을 재생하는 동안, 제어부(180)는 동영상의 음향 신호를 분석하여, 동영상의 음향 신호를 음원(Sound Source)별로 분리할 수 있다(S401). 구체적으로, 동영상의 음향 신호가 여러 음원이 혼합(mixed)된 것일 경우, 제어부(180)는 소스 분리(Source Separation)를 통해, 음향 신호에 혼합된 여러 음원들을 개별적으로 분리할 수 있다.

도 5는 여러 음원이 혼합된 음향 신호에 소스 분리가 적용되는 것을 설명하기 위한 예시도이다. 일예로, 도 5에 도시된 예에서와 같이, 동영상의 음향 신호(도 5의 Mixture)가 음원 1(도 5의 Source 1) 및 음원 2(도 5의 Source 2)를 혼합한 것일 때, 제어부(180)는 소스 분리를 통해, 음원 1 및 음원 2가 혼합된 음향을 다시 음원 1(도 5의 Estimate 1) 및 음원 2(도 5의 Estimate 2)로 분리할 수 있다.

본 발명에서, 음향 신호에 포함될 수 있는 음원은 사람의 음성(Voice), 악기의 소리, 노이즈(Noise)로 인해 발생하는 소리 등 다양한 종류의 음원을 포함할 수 있다. 음향 신호에 복수 인물의 음성이 포함되어 있거나, 복수 악기의 소리가 포함되어 있다면, 제어부(180)는 인물별 또는 악기별로 음원을 분리할 수 있다.

다시 도 4를 참조하면, 제어부(180)는 터치스크린의 출력 영상을 분석하여, 음원이 발생하는 지점으로 판단되는 영역을 결정할 수 있다(S402). 이후, 음원이 발생하는 지점으로 판단되는 영역에 터치 입력이 입력되면(S403), 제어부(180)는 해당 영역에서 발생하는 음원의 볼륨이 수동 혹은 자동으로 조절되도록 제어할 수 있다(S404).

일예로, 동영상의 음향 신호로부터 적어도 하나의 음성(Voice)이 추출되는 경우, 제어부(180)는 터치스크린에 출력되는 적어도 한명의 인물과 추출된 적어도 하나 이상의 음성의 매칭을 시도할 수 있다. 이후, 터치스크린에 출력되는 적어도 한명의 인물 중 특정 인물이 선택되면, 제어부(180)는 추출된 적어도 하나의 음성 중 특정 인물이 발화(utterance)하는 것으로 판단되는 특정 음성의 볼륨이 수동 혹은 자동으로 조절되도록 제어할 수 있다. 다른 예로, 동영상의 음향 신호로부터 적어도 하나의 악기 소리가 추출되는 경우, 제어부(180)는 터치스크린에 출력되는 적어도 하나의 악기와 추출된 적어도 하나의 악기 소리의 매칭을 시도할 수 있다. 이후, 터치스크린에 출력되는 적어도 하나의 악기 중 특정 악기가 선택되면, 제어부(180)는 추출된 적어도 하나의 악기 소리 중 특정 악기와 매칭되는 특정 악기 소리의 보륨이 수동 혹은 자동으로 조절되도록 제어할 수 있다.

만약 음향 신호로부터 음성 및 악기 소리가 모두 추출된 경우, 제어부(180)는 각각의 음원을 각각의 음원이 발생하는 지점과 매칭한 뒤, 이들 중 어느 하나의 음원의 볼륨이 수동 혹은 자동으로 조절되도록 제어할 수 있을 것이다.

음원이 발생하는 지점과 추출된 음원을 매칭시켜 추출된 음원의 볼륨을 조절하는 것에 대해서는 후술될 도면을 참조하기로 한다.

도 6은 동영상의 음향 신호로부터 추출된 음성이 터치스크린에 디스플레이되는 적어도 한명의 인물과 매칭되는 것을 설명하기 위한 예시도이다. 설명의 편의를 위해, 동영상이 재생되는 동안 터치스크린에는 도 6a에 도시된 예에서와 같이, 각기 다른 3명의 인물이 터치스크린에 출력되는 것으로 가정한다. 나아가, 터치스크린에 디스플레이되는 3명의 인물을 좌에서 우로, 각각 인물 A 내지 C라 호칭하기로 한다.

동영상의 음향 신호로부터 적어도 하나 이상의 음성(Voice)이 추출된 경우, 제어부(180)는 터치스크린에 출력되는 적어도 한명의 인물과 추출된 적어도 하나 이상의 음성의 상호 매칭을 시도할 수 있다.

구체적으로, 제어부(180)는 얼굴 인식 알고리즘을 적용하여 각각의 음성이 출력되는 동안 터치스크린에 출력되는 인물의 입이 움직이는지 여부를 기초로 추출된 음성이 터치스크린에 출력되는 인물이 발화(utterance)한 것인지 여부를 판단할 수 있다. 추출된 음성이 출력되는 동안 터치스크린에 출력되는 특정 인물의 입이 움직이는 경우, 제어부(180)는 추출된 음성이 터치스크린에 출력되는 특정 인물로부터 발화되는 것임을 감지할 수 있다.

일예로, 동영상의 음향 신호로부터 추출된 음성 A가 출력될 당시, 인물 A의 입이 움직이고 있었다면, 추출된 음성 A는 인물 A가 발화하는 것으로 판단될 수 있을 것이다. 이와 마찬가지로, 음성 B 및 음성 C가 출력될 당시, 각각 인물 B 및 인물 C의 입이 움직이고 있었다면, 제어부(180)는 추출된 음성 B 및 C를 각각 인물 B 및 C에 매칭할 수 있을 것이다.

동영상의 음향 신호로부터 추출된 음성이 터치스크린에 출력되는 인물이 발화하는 것으로 판단되지 않는 경우, 제어부(180)는 추출된 음성은 동영상에 촬영되지 않은 제 3 자로부터 발화된 것으로 판단할 수 있다. 일예로, 동영상의 음향 신호로부터 추출된 음성 D가 출력될 당시, 인물 A 내지 C의 입이 움직이지 않았다면, 제어부(180)는 음성 D는 동영상에 촬영되지 않은 제 3 자로부터 발화된 것으로 판단할 수 있다.

터치스크린에 출력되는 적어도 한명의 인물과 추출된 적어도 하나 이상의 음성이 상호 매칭되면, 제어부(180)는 수동 혹은 자동으로 추출된 음성의 볼륨이 조절되도록 제어할 수 있다. 구체적으로, 터치스크린에 출력되는 적어도 한명의 인물 중 특정 인물이 선택되면, 제어부(180)는 선택된 특정 인물과 매칭되는 특정 음성의 볼륨이 자동으로 상향 또는 하향되도록 제어하거나, 선택된 특정 인물과 매칭되는 특정 음성의 볼륨이 수동으로 조절될 수 있도록 볼륨 조절 바가 디스플레이되도록 제어할 수 있다.

일예로, 도 6b에 도시된 예에서와 같이, 터치스크린에 디스플레이되는 인물 A에 터치 입력이 입력된 경우, 제어부(180)는 도 6c에 도시된 예에서와 같이, 인물 A가 발화하는 것으로 판단되는 음성 A의 볼륨을 조절할 수 있는 볼륨 조절 바(610)가 디스플레이되도록 제어할 수 있다. 제어부(180)는 볼륨 조절 바(610)에 대한 터치 입력을 기초로, 음성 A의 볼륨을 상향하거나 하향할 수 있다. 도시되지는 않았지만, 인물 B에 터치 입력이 입력된 경우라면, 인물 B가 발화하는 것으로 판단되는 음성 B의 볼륨을 조절할 수 있을 것이고, 인물 C에 터치 입력이 입력된 경우라면, 인물 C가 발화하는 것으로 판단되는 음성 C의 볼륨을 조절할 수 있을 것이다.

동영상의 음향 신호로부터 추출된 음성이 터치스크린을 통해 출력되는 인물 중 어느 누구와도 매칭되지 않는 경우에는 추출된 음성은 촬영되지 않은 제 3 자로부터 발화된 것으로 판단될 수 있음은 앞서 설명한 것과 같다.

이 경우, 제어부(180)는 터치스크린에 출력되는 적어도 한명의 인물이 표시되는 영역을 제외한 잔여 영역 중 적어도 일부를 제 3 자로부터 발화된 것으로 판단되는 음성의 볼륨을 조절하기 위한 영역으로 할당할 수 있다. 이후, 할당된 영역이 선택되면, 제어부(180)는 제 3 자로부터 발화된 것으로 판단되는 음성의 볼륨이 자동으로 상향 또는 하향되도록 제어하거나, 제 3 자로부터 발화되는 음성의 볼륨이 수동으로 조절될 수 있도록 볼륨 조절 바가 디스플레이되도록 제어할 수 있다.

일예로, 도 6d에 도시된 예에서와 같이, 터치스크린에 디스플레이되는 인물 A 내지 인물 C의 표시 영역 외측에 터치 입력이 입력된 경우, 제어부(180)는 도 6e에 도시된 예에서와 같이, 터치스크린에 표시되는 인물 A 내지 C가 아닌 제 3 자가 발화하는 것으로 판단되는 음성 D의 볼륨을 조절하기 위한 볼륨 조절 바(620)가 디스플레이되도록 제어할 수 있다. 제어부(180)는 볼륨 조절 바(620)에 대한 터치 입력을 기초로, 음성 D의 볼륨을 상향하거나 하향할 수 있다.

추출된 음성 중 어느 하나의 볼륨이 상향되는 경우, 제어부(180)는 상향되는 음성을 제외한 다른 음원의 볼륨은 하향되도록 제어할 수 있다. 일예로, 인물 A가 발화하는 것으로 판단되는 음성 A의 볼륨이 상향된 경우, 제어부(180)는 인물 B 및 인물 C가 발화하는 것으로 판단되는 음성 B 및 음성 C의 볼륨은 하향되도록 제어할 수 있다. 이와 더불어, 제어부(180)는 음향 신호가 포함하는 배경 음향의 볼륨 역시 하향 되도록 제어할 수 있다. 이는 특정 음성의 볼륨과 다른 음원의 볼륨 차가 커지도록 하여, 특정 음성이 더욱 또렷하게 출력되도록 제어하기 위함이다. 여기서, 배경 음향은 음성과 함께 출력되는 배경 음악 및 노이즈(Noise) 등 추출된 음성 이외의 음원을 의미하는 것일 수 있다.

이와 달리, 추출된 음성 중 어느 하나의 볼륨이 하향되는 경우, 제어부(180)는 하향되는 음성을 제외한 다른 음원의 볼륨은 상향되도록 제어할 수 있다.

동영상의 음향 신호로부터 음성이 추출된 경우, 제어부(180)는 STT(Speech to text)를 이용하여, 추출된 음성에 대응하는 텍스트가 터치스크린에 디스플레이되도록 제어할 수도 있다. 동영상의 음향 신호에 여러 음성이 혼합되어 각각의 음성을 듣기 어려운 경우, 텍스트를 봄으로써 동영상의 내용을 손쉽게 인지할 수 있을 것이다.

도 7은 동영상의 음향 신호로부터 추출된 악기 소리가 터치스크린에 디스플레이되는 적어도 하나의 악기와 매칭되는 것을 설명하기 위한 예시도이다. 설명의 편의를 위해, 동영상이 재생되는 동안 터치스크린에는 피아노 및 기타가 디스플레이되는 것으로 가정한다.

동영상의 음향 신호로부터 적어도 하나 이상의 악기 소리가 추출된 경우, 제어부(180)는 터치스크린에 출력되는 적어도 하나의 악기와 추출된 적어도 하나 이상의 악기 소리의 상호 매칭을 시도할 수 있다. 구체적으로, 제어부(180)는 음향 신호로부터 추출된 악기 소리가 어떤 악기에 해당하는 소리인지를 판단한 뒤, 판단한 악기가 터치스크린에 디스플레이되는지 여부를 기초로 터치스크린에 출력되는 적어도 하나의 악기와 하나 이상의 악기 소리가 상호 매칭되도록 제어할 수 있다.

예컨대, 동영상의 음향 신호로부터 추출된 악기 소리가 피아노 소리인 경우, 제어부(180)는 피아노 악기 소리를 피아노의 디스플레이 영역에 매칭시킬 수 있을 것이다. 동영상의 음향 신호로부터 추출된 악기 소리가 기타 소리인 경우, 제어부(180)는 기타 악기 소리를 기타의 디스플레이 영역에 매칭시킬 수 있을 것이다.

동영상의 음향 신호로부터 추출된 악기 소리와 매칭되는 악기가 터치스크린에 디스플레이되지 않는 것으로 판단되는 경우, 제어부(180)는 추출된 악기 소리는 동영상에 촬영되지 않은 제 3 의 악기 소리인 것으로 판단할 수 있다. 일예로, 동영상의 음향 신호로부터 추출된 악기 소리가 실로폰 소리이나, 터치스크린에는 실로폰이 디스플레이되지 않으므로, 제어부(180)는 추출된 실로폰 소리는 동영상에 촬영되지 않은 제 3 의 악기 소리인 것으로 판단할 수 있다.

터치스크린에 출력되는 적어도 하나의 악기와 추출된 적어도 하나 이상의 악기 소리가 상호 매칭되면, 제어부(180)는 수동 혹은 자동으로 추출된 음성의 볼륨이 조절되도록 제어할 수 있다. 구체적으로, 터치스크린에 출력되는 적어도 하나의 악기 중 특정 악기가 선택되면, 제어부(180)는 선택된 특정 악기와 매칭되는 특정 악기 소리의 볼륨이 자동으로 상향 또는 하향되도록 제어하거나, 선택된 특정 악기와 매칭되는 특정 악기 소리의 볼륨이 수동으로 조절될 수 있도록 볼륨 조절 바가 디스플레이되도록 제어할 수 있다.

일예로, 도 7b에 도시된 예에서와 같이, 터치스크린에 디스플레이되는 피아노에 터치 입력이 입력된 경우, 제어부(180)는 도 7c에 도시된 예에서와 같이, 피아노 소리의 볼륨을 조절할 수 있는 볼륨 조절 바(710)가 디스플레이되도록 제어할 수 있다. 제어부(180)는 볼륨 조절 바(710)에 대한 터치 입력을 기초로, 피아노 소리의 볼륨을 상향하거나 하향할 수 있다. 도시되지는 않았지만, 기타에 터치 입력이 입력된 경우라면, 제어부(180)는 기타 소리의 볼륨을 조절하기 위한 볼륨 조절 바가 디스플레이되도록 제어할 수 있을 것이다.

동영상의 음향 신호로부터 추출된 악기 소리와 매칭되는 악기가 터치스크린에 디스플레이되지 않는 다면, 추출된 악기 소리는 제 3 의 악기 소리로 판단될 수 있음은 앞서 설명한 것과 같이.

이 경우, 제어부(180)는 터치스크린을 통해 출력되는 적어도 하나의 악기가 표시되는 영역을 제외한 잔여 영역 중 적어도 일부를 제 3 의 악기 소리의 볼륨을 조절하기 위한 영역으로 할당할 수 있다. 사용자에 의해 제 3 의 악기 소리의 볼륨을 조절하기 위해 할당된 영역이 선택되는 경우, 제어부(180)는 제 3 의 악기의 볼륨이 자동으로 상향 또는 하향되도록 제어하거나, 제 3 의 악기의 볼륨이 수동으로 조절될 수 있도록 볼륨 조절 바가 디스플레이되도록 제어할 수 있다.

일예로, 제 3 의 악기 소리가 실로폰 소리일 때, 도 7d에 도시된 예에서와 같이, 터치스크린에 디스플레이되는 피아노 및 기타의 표시 영역 외측에 터치 입력이 입력된 경우, 제어부(180)는 도 7e에 도시된 예에서와 같이, 제 3 의 악기 소리인 실로폰 소리의 볼륨을 조절하기 위한 볼륨 조절 바(720)가 디스플레이되도록 제어할 수 있다. 제어부(180)는 볼륨 조절 바(720)에 대한 터치 입력을 기초로, 제 3 의 악기 소리인 실로폰 소리의 볼륨을 상향하거나 하향할 수 있다.

추출된 악기 소리 중 어느 하나의 볼륨이 상향되거나 하향되는 경우, 상향 혹은 하향되는 악기 소리를 제외한 다른 음원의 볼륨은 하향되거나 상향될 수 있음은 앞서 도 6을 통해 설명한 바와 같다.

도 6 및 도 7의 예에서, 특정 음원(예컨대, 특정 음성 또는 특정 악기 소리)의 볼륨을 조절하기 위한 볼륨 조절 바는 반투명 상태로 터치스크린에 디스플레이될 수도 있다. 이는 볼륨 조절 바가 동영상의 재생을 방해하는 것을 방지하기 위함이다.

도 6 및 도 7에서는 터치스크린에 출력되는 얼굴 인식 알고리즘을 적용하거나 악기를 인식할 수 있는 알고리즘을 적용하여 음원별 발생 영역을 결정할 수 있는 것으로 예시하였다.

본 발명의 일예에 따른 이동 단말기는 동영상의 음향 신호가 모노 타입인지 스테레오 타입인지 여부에 따라 얼굴 인식 알고리즘 및 악기 인식 알고리즘의 적용 영역을 결정할 수 있다. 구체적으로, 동영상의 음향 신호가 모노 타입인 경우, 제어부(180)는 터치스크린의 출력 영상 전체에 얼굴 인식 알고리즘이나 악기 인식 알고리즘을 적용하여 음원별 발생 영역을 결정할 수 있다. 이와 달리, 동영상의 음향 신호가 스테레오 타입인 경우, 제어부(180)는 터치스크린의 출력 영상 중 특정 음원이 발생될 것으로 예상되는 영역에만, 또는 예상되는 영역에 우선 적으로 얼굴 인식 알고리즘이나 악기 인식 알고리즘이 적용되도록 제어할 수 있다.

도 8을 참조하여, 동영상 음향이 스테레오 타입일 때, 얼굴 인식 알고리즘 및 악기 안식 알고리즘의 적용 영역이 제한되는 것에 대해 상세히 살펴보기로 한다.

도 8은 얼굴 인식 알고리즘의 적용 영역을 설명하기 위한 예시도이다. 설명의 편의를 위해, 동영상의 음향 신호는 2 채널을 통해 출력되는 스테레오 타입인 것으로 가정한다.

도 8의 예에서, 제어부(180)는 동영상의 음향 신호로부터 추출된 음성의 편향성을 기초로 얼굴 인식 알고리즘의 적용 영역을 결정할 수 있다. 여기서 편향성이란 음향 신호로부터 추출된 음성이 출력될 때 2 채널 중 어떠한 채널에서 더 큰 포션(portion)을 갖고 출력되는지 여부에 따라 결정될 수 있다. 일에로, 동영상의 음향 신호로부터 추출된 음성의 좌측 채널에서의 신호 세기가 우측 채널에서의 신호 세기보다 크고, 좌측 채널에서의 신호 세기와 우측 채널의 신호 세기가 한계값 이상인 경우, 제어부(180)는 음향 신호로부터 추출된 음성이 좌편향 음성인 것으로 판단할 수 있다. 이와 반대로, 동영상의 음향 신호로부터 추출된 음성의 우측 채널에서의 신호 세기가 좌측 채널에서의 신호 세기보다 크고, 우측 채널에서의 신호 세기와 좌측 채널에서의 신호 세기 차이가 한계값 이상인 경우, 제어부(180)는 음향 신호로부터 추출된 음성이 우편향 음성인 것으로 판단할 수 있다. 이와 달리, 좌측 채널의 신호 세기와 우측 채널에서의 신호 세기가 한계값보다 작은 경우, 제어부(180)는 음향 신호로부터 추출된 음성이 좌우 균등 음향인 것으로 판단할 수 있다.

동영상의 음향 신호로부터 추출된 음성이 좌편향된 음향인 경우, 제어부(180)는 도 8a에 도시된 예에서와 같이, 터치스크린의 좌측부(A)에만 또는 좌측부(A)에 우선적으로 얼굴 인식 알고리즘이 적용되도록 제어할 수 있다. 그렇지 않고, 동영상의 음향 신호로부터 추출된 음성이 우편향된 음향인 경우, 제어부(180)는 도 8b에 도시된 예에서와 같이 터치스크린의 우측부(B)에만 또는 우측부(B)에 우선적으로 얼굴 인식 알고리즘이 적용되도록 제어할 수 있다. 동영상의 음향 신호로부터 추출된 음성이 좌우 균등 음향인 경우, 제어부(180)는 도 8c에 도시된 예에서와 같이, 터치스크린의 중앙부(C)에만 또는 중앙부(C)에 우선적으로 얼굴 인식 알고리즘이 적용되도록 제어할 수 있다.

여기서, 터치스크린의 특정 부분에 얼굴 인식 알고리즘을 우선 적용한다는 것은 일단 선택된 영역에 얼굴 인식 알고리즘을 적용하여 추출된 음성에 매칭되는 인물을 검색하고, 선택된 영역에서 추출된 음성에 매칭되는 인물이 발견되지 않은 경우, 다른 영역에 까지 얼굴 인식 알고리즘의 적용 영역을 확장하는 것을 의미할 수 있다.

도 8에서는 얼굴 인식 알고리즘에 한정하여 설명하였지만, 악기 인식 알고리즘 역시 동일한 내용이 적용될 수 있다.

도 8a 내지 도 8c에서는 특정 음원의 편향성을 기초로 얼굴 인식 알고리즘 및 악기 인식 알고리즘의 적용 영역이 결정되는 것으로 예시되었다. 본 발명의 다른 예에 따른 이동 단말기는 얼굴 인식 알고리즘이나, 악기 인식 알고리즘의 적용 없이, 특정 음원의 편향성을 기초로 각 음원이 발생하는 것으로 예상되는 영역을 자동 결정할 수도 있다. 이를 위해, 제어부(180)는 동영상의 음향 신호로부터 분리된 음원의 수만큼 터치스크린을 분할한 뒤, 분할된 각 영역과 적어도 하나의 음원을 상호 매핑할 수 있다. 이에 대한 상세한 설명은 도 9를 참조하기로 한다.

도 9는 음향 신호로부터 추출된 음원의 수만큼 터치스크린이 분할되는 것을 설명하기 위한 예시도이다. 설명의 편의를 위해, 동영상의 음향 신호로부터 3개의 음원이 추출된 것으로 가정한다. 동영상의 음향 신호로부터 3개의 음원이 추출된 경우, 제어부(180)는 도 9에 도시된 예에서와 같이 터치스크린을 3개의 영역(A-C)으로 분할한 뒤, 분할된 각 영역에 하나의 음원이 매핑 되도록 제어할 수 있다. 이때, 제어부(180)는 각 음원의 편향성을 고려하여, 각 음원과 각 영역을 매핑 시킬 수 있다. 즉, 도 9의 예에서, 3개의 음원 중 좌편향성이 가장 강한 음원은 터치스크린의 최 좌측 영역(A)에 매핑되고, 우편향성이 가장 강한 음원은 터치스크린의 최 우측 영역(C)에 매핑될 수 있다. 나머지 음원은 잔여 영역인 중앙 영역(B)에 매핑함으로써, 얼굴 인식 알고리즘이나 악기 인식 알고리즘의 적용 없이도 음원의 발생 지점을 결정할 수 있다. 이후, 도 9b에 도시된 예에서와 같이, 특정 영역에 대한 터치 입력을 수신하면, 제어부(180)는 특정 영역에 매핑된 음원의 볼륨을 자동으로 상향 또는 하향하거나, 도 9c에 도시된 예에서와 같이, 특정 영역에 매핑된 음원의 볼륨을 수동으로 조절하기 위한 볼륨 조절 바(910)가 디스플레이되도록 제어할 수 있다.

도 6 내지 도 9에서는 음원이 발생하는 것으로 판단되는 영역이 터치되면, 해당 영역에서 발생하는 음원의 볼륨을 수동으로 조절할 수 있도록 볼륨 조절 바가 디스플레이되는 것으로 도시되었다. 다만, 음원의 볼륨을 수동으로 조절하는 경우라 하더라도, 터치스크린에 반드시 볼륨 조절 바가 디스플레이되어야 하는 것은 아니다. 본 발명의 일예에 따른 이동 단말기는 음원이 발생하는 영역에 제 1 터치가 입력된 경우와 제 2 터치가 입력된 경우를 구분하여, 제 1 터치가 입력된 경우에는 해당 영역에서 발생하는 음원의 볼륨을 상향하고, 제 2 터치가 입력된 경우에는 해당 영역에서 발생하는 음원의 볼륨이 하향되도록 제어할 수 있다. 여기서, 제 1 터치 및 제 2 터치는 각각 음원이 발생하는 영역을 n 번 태핑(tapping)하는 것 및 음원이 발생하는 영역을 m 번 태핑하는 것이거나, 제 1 방향으로 플리킹(Flicking) 입력 및 제 2 방향으로의 플리킹 입력하는 것, 또는 제 1 방향으로의 드래그(Drag) 입력 및 제 2 방향으로의 드래그 입력일 수 있다. 이에 대한 상세한 설명은 도 10을 참조하기로 한다.

도 10은 제 1 터치 및 제 2 터치 입력에 의해 특정 음원의 볼륨이 조절되는 것을 설명하기 위한 예시도이다. 도 10a에 도시된 예에서와 같이, 특정 인물이 표시되는 영역을 터치한 이후, 윗 방향으로의 플리킹 입력을 수신한 경우, 제어부(180)는 특정 인물과 매칭되는 특정 음성의 볼륨이 상향 조절 되도록 제어할 수 있다. 이와 반대로, 도 10b에 도시된 예에서와 같이, 특정 인물이 표시되는 영역을 터치한 이후, 아랫 방향으로의 플리킹 입력을 수신한 경우, 제어부(180)는 특정 인물과 매칭되는 특정 음성의 볼륨이 하향되도록 제어할 수 있다.

플리킹 입력이나 드래그 입력을 이용하여 특정 음원의 볼륨을 조절하고자 하는 경우, 제어부(180)는 플리킹 입력 및 드래그 입력을 입력하기 위해 포인터가 움직인 거리 및 포인터가 움직인 속도 중 적어도 하나를 고려하여, 볼륨의 상향 또는 하향 정도가 결정되도록 제어할 수 있다. 이에 대한 상세한 설명은 도 11을 참조하기로 한다.

도 11은 포인터의 이동 거리에 따라 볼륨의 조절 정도가 조절되는 것을 설명하기 위한 예시도이다. 설명의 편의를 위해, 특정 음원의 볼륨을 상향시키기 위한 사용자의 터치 입력은 윗 방향으로의 드래그 입력인 것으로 가정한다.

도 11a 및 도 11b에서는, 특정 영역에 매칭되는 특정 음원의 볼륨을 상향시키기 위해, 특정 영역 내에서 윗 방향으로 드래그 입력이 입력되는 것으로 가정되었다. 이때, 제어부(180)는 드래그 입력시 포인터의 이동 거리를 기초로 특정 음원의 볼륨 상향 정도를 결정할 수 있다. 일예로, 도 11a에 도시된 예에서와 같이, 드래그 입력을 위해, 포인터가 d1의 거리만큼 움직인 경우에는 특정 음원의 볼륨이 x 레벨 상향되었다면, 도 11b에 도시된 예에서와 같이, 포인터가 d1 보다 긴 d2 거리만큼 움직인 경우에는 특정 음원이 볼륨이 x 보다 큰 y 레벨만큼 상향될 수 있다.

즉, 도 11에 도시된 예에서와 같이, 제어부(180)는 특정 음원의 볼륨을 상향 또는 하향하기 위한 터치 입력을 수신하였을 때, 터치 입력을 입력하기 위해 포인터가 움직인 거리나 이동 속도를 기초로 볼륨의 조절 정도를 결정할 수 있다.

상술한 실시예에서는 동영상의 음향 신호로부터 분리된 음원별로 발생 영역을 매칭하고, 음원별로 볼륨을 조절할 수 있는 것으로 예시하였다. 본 발명에 일실시예에 따른 이동 단말기는 동영상의 음향 신호로부터 분리된 음원을 카테고리별로 분류하여, 그룹별로 볼륨을 조절할 수 있도록 제어할 수도 있다. 일예로, 동영상의 음향 신호로부터 복수의 음성 및 복수의 악기 소리가 추출되었다면, 제어부(180)는 복수의 음성을 하나의 그룹으로 묶고, 복수의 악기 소리를 다른 하나의 그룹으로 묶어, 그룹별로 자동 혹은 수동으로 볼륨을 조절할 수 있다. 이에 대한 상세한 설명은 도 12를 참조하기로 한다.

도 12는 복수의 음원이 그룹별로 분류되는 것을 설명하기 위한 예시도이다. 설명의 편의를 위해, 터치스크린에는 각각 2명의 인물 및 2개의 악기가 표시되는 것으로 가정한다.

동영상의 음향 신호로부터 적어도 하나 이상의 음성 및 적어도 하나 이상의 악기 소리가 추출된 경우, 제어부(180)는 각각의 음원을 종류별로 그룹화할 수 있다. 이에 따라, 적어도 하나 이상의 음성은 한 개의 그룹으로 분류되고, 적어도 하나 이상의 악기 소리는 다른 하나의 그룹으로 분류될 수 있다.

이후, 제어부(180)는 터치스크린에 각 그룹에 대응되는 영역을 할당할 수 있다. 일예로, 도 12a의 예에서, 제어부(180)는 각각의 인물이 표시되는 영역(A1, A2)은 음성 그룹에 매칭되도록 제어하고, 각각의 악기가 표시되는 영역(B1, B2)은 악기 소리 그룹에 매칭되도록 제어할 수 있다.

이후, 도 12b에 도시된 예에서와 같이, 음성 그룹에 매칭되는 영역이 터치된 경우, 제어부(180)는 도 12c에 도시된 예에서와 같이, 음성 그룹의 볼륨을 조절하기 위한 볼륨 조절 바(1210)가 디스플레이되도록 제어할 수 있다. 도 12c의 예에서 볼륨 조절 바(1210)의 조작을 통해 음성 그룹의 볼륨이 상향되거나 하향된 경우, 제어부(180)는 음성 그룹에 소속되는 적어도 하나의 음성 모두의 볼륨이 상향 되거나 하향 되도록 제어할 수 있다.

다른 예로, 도 12d에 도시된 예에서와 같이, 악기 소리 그룹에 매칭되는 영역이 터치된 경우, 제어부(180)는 도 12e에 도시된 예시된 것과 같이 악기 소리 그룹의 볼륨을 조절하기 위한 볼륨 조절 바(1220)가 디스플레이되도록 제어할 수 있다. 도 12e의 예에서 볼륨 조절 바(1220)의 조작을 통해 악기 소리 그룹의 볼륨이 상향되거나 하향된 경우, 제어부(180)는 음성 그룹에 소속되는 적어도 하나의 음성 모두의 볼륨이 상향 되거나 하향 되도록 제어할 수 있다.

도 12에서는 인물이 표시되는 영역(A1, A2)이 음성 그룹에 매칭하고, 악기가 표시되는 영역(B1, B2)이 악기 소리 그룹에 매칭되는 것으로 예시하였지만, 이는 설명의 편의를 위해, 예시한 것일 뿐 본 발명을 한정하는 것은 아니다. 각 그룹에 매칭되는 영역은 다른 규칙에 의해 결정될 수도 있다.

도 4에서는 특정 음원이 발생되는 지점으로의 터치 입력을 수신한 경우에 한하여, 특정 음원의 볼륨을 조절할 수 있는 것으로 예시되었다. 도 4에 도시된 예에서와 달리, 제어부(180)는 사용자의 터치 입력을 기초로 추출된 적어도 하나의 음원 각각의 볼륨을 조절할 수 있도록 적어도 하나 이상의 볼륨 조절 바가 동시에 디스플레이되도록 제어할 수도 있다. 이에 대한 상세한 설명은 도 13을 참조하기로 한다.

도 13은 적어도 하나 이상의 볼륨 조절 바가 동시에 디스플레이되는 것을 설명하기 위한 예시도이다. 설명의 편의를 위해, 동영상이 재생되는 동안 터치스크린에는 각기 다른 3명의 인물(인물 A-C)이 디스플레이되고, 동영상의 음향 신호로부터 3명의 인물 각각의 음성이 추출된 것으로 가정한다.

도 13a에 도시된 예에서와 같이, 사용자가 동영상의 볼륨을 조절하기 위한 볼륨 조절 버튼(1302)을 터치한 경우, 제어부(180)는 도 13b에 도시된 예에서와 같이, 추출된 음원별 볼륨을 조절할 수 있는 적어도 하나 이상의 볼륨 조절 바(1310, 1320, 1330)가 디스플레이되도록 제어할 수 있다. 예컨대, 인물 A 주변에 위치한 볼륨 조절 바(1310)는 인물 A의 음성으로 판단되는 음원의 볼륨을 조절하기 위한 것이고, 인물 B 주변에 위치한 볼륨 조절 바(1320)는 인물 B의 음성으로 판단되는 음원의 볼륨을 조절하기 위한 것이며, 인물 C 주변에 위치한 볼륨 조절 바(1330)는 인물 C의 음성으로 판단되는 음원의 볼륨을 조절하기 위한 것일 수 있다. 제어부(180)는 각각의 볼륨 조절 바(1310, 1320, 1330)에 대한 사용자 입력을 기초로 각 음원별 볼륨이 조절되도록 제어할 수 있다.

제어부(180)는 각 음원별 볼륨을 조절할 수 있는 볼륨 조절 바(1310, 1320, 1330)와 함께, 모든 음원의 볼륨을 조절하기 위한 메인 볼륨 조절 바(1340)를 더욱 디스플레할 수도 있다. 도 13b의 예에서, 제어부(180)는 메인 볼륨 조절 바(1340)에 대한 사용자 입력을 기초로, 모든 음원의 볼륨을 상향 또는 하향할 수 있다.

도 4에서는 음원이 발생하는 지점으로 판단되는 영역에 터치 입력이 입력되는 경우, 자동 또는 수동으로 특정 음원의 볼륨이 조절될 수 있는 것으로 예시되었다. 다만, 도 4의 예에서, 음원이 발생하는 지점으로 판단되는 영역을 결정하는 단계(S402) 및 터치 입력의 수신 단계(S403)는 필수적인 것이 아니어서, 경우에 따라 이를 생략할 수도 있다.

일예로, 제어부(180)는 동영상의 음향 신호로부터 추출된 적어도 하나의 음원 중 소정 종류의 것만을 추출한 뒤, 추출된 소정 종류의 음원의 볼륨이 자동으로 상향 또는 하향 되도록 조절할 수 있다. 구체적인 예를 들어 설명하면, 동영상의 음향 신호로부터 음성 및 악기 소리가 추출된 경우, 제어부(180)는 음성의 볼륨이 자동으로 상향되도록 제어할 수 있다.

다른 예로, 제어부(180)는 동영상의 음향 신호로부터 추출된 적어도 하나의 음원 중 볼륨이 낮은 편에 속하는 음원을 자동으로 상향하거나, 볼륨이 높은 편에 속하는 음원을 자동으로 하향할 수도 있다. 구체적인 예를 들어 설명하면, 동영상의 음향 신호로부터 음성 A 내지 C가 추출되고, 음성 A 및 B에 비해 음성 C의 크기가 작은 경우, 제어부(180)는 음성 C의 볼륨을 상향하여, 사용자가 음성 C도 또렷히 청취할 수 있도록 제어할 수 있다.

본 발명에 따른 이동 단말기는 기준 음원과 동일한 인물 또는 동일한 악기로 판단되는 음원의 볼륨을 조절하는 것에 이용될 수도 있다. 이에 대한 상세한 설명은 도 14를 참조하기로 한다.

도 14는 본 발명의 일실시예에 따른 이동 단말기의 동작 흐름도이다. 도 14의 동작 흐름도를 설명하기에 앞서, 제어부(180)는 동영상을 재생하고 있는 상태이고, 메모리(160)는 기준 음향 데이터를 저장하는 상태인 것으로 가정한다. 나아가, 도 14의 S1401 단계는 도 4의 S401 단계에 대응하므로, 이에 대한 상세한 설명은 생략하기로 한다. 동영상의 음향 신호가 음원별로 분리되면, 제어부(180)는 분리된 적어도 하나의 음원 중 기준 음향 데이터와 합치하는 음원을 결정할 수 있다(S1402). 여기서, 기준 음향 데이터는 음성 추적을 수행하기 위한 것으로써, 기준 음향 데이터와 합치하는 음원이란 기준 음향 데이터와 동일한 인물의 것으로 판단되는 음원 또는 기준 음향 데이터와 동일한 악기인 것으로 판단되는 음원 등을 의미할 수 있다. 예컨대, 기준 음향 데이터가 특정 인물의 음성인 경우, 제어부(180)는 화자 인증(speaker recognition)을 이용하여 적어도 하나의 음원 중 특정 인물의 음성으로 판단되는 것의 검색을 시도할 수 있다. 다른 예로 기준 음향 데이터가 피아노 소리인 경우, 제어부(180)는 적어도 하나의 음원 중 피아노 소리의 검색을 시도할 수 있다.

기준 음향 데이터와 합치하는 음원이 발견 되면, 제어부(180)는 기준 음향 데이터와 합치하는 음원의 볼륨을 자동 혹은 수동으로 조절할 수 있다(S1403). 일예로, 제어부(180)는 기준 음향 데이터와 합치하는 음원의 볼륨을 수동으로 조절할 수 있도록 터치스크린에 볼륨 조절 바가 디스플레이되도록 제어할 수 있다. 제어부(180)는 볼륨 조절 바에 대한 사용자 입력을 기초로 특정 음원의 볼륨을 조절할 수 있다. 다른 예로, 제어부(180)는 기준 음향 데이터와 합치하는 음원의 볼륨을 자동으로 상향 또는 하향할 수도 있다.

기준 음향 데이터와 합치하는 음원이 특정 인물의 음성인 경우, 제어부(180)는 STT(Speech to text)를 이용하여, 기준 음향 데이터와 합치하는 음성에 대응하는 텍스트가 터치스크린에 디스플레이되도록 제어할 수도 있다. 이는, 사용자가 기준 음향 데이터와 합치하는 음성의 내용을 손쉽게 파악할 수 있도록 하기 위함이다.

기준 음향 데이터와 합치하는 음원이 발견 되면, 제어부(180)는 터치스크린의 출력 영상을 분석하여 기준 음향 데이터와 합치하는 음원이 발생하는 지점으로 판단되는 영역을 결정하고, 음원이 발생하는 지점으로 판단되는 영역이 시각적으로 식별되도록 제어할 수도 있다. 구체적 예로, 제어부(180)는 음원이 발생하는 지점으로 판단되는 영역을 확대 표시 하거나, 음원이 발생하는 지점으로 판단되는 영역에 그래픽 효과를 부여하여 다른 영역과 시각적으로 식별 되도록 제어할 수 있다. 이에 대한 상세한 설명은 도 15을 참조하기로 한다.

도 15은 기준 음향 데이터와 합치하는 음원이 발생하는 지점으로 판단되는 영역을 시각적으로 식별하는 것을 설명하기 위한 예시도이다. 설명의 편의를 위해, 동영상이 재생되는 동안 터치스크린에는 도 15a에 도시된 예에서와 같이, 각기 다른 3명의 인물이 터치스크린에 출력되는 것으로 가정하고, 터치스크린에 디스플레이되는 3명의 인물을 좌에서 우로, 각각 인물 A 내지 C라 호칭하기로 한다. 나아가, 인물 A의 음성이 기준 음향 데이터로 설정된 상태인 것으로 가정한다.

동영상의 음향 신호로부터 적어도 하나의 음원이 추출된 경우, 제어부(180)는 기준 음향 데이터와 합치하는 음원의 검색을 시도할 수 있다. 예컨대, 동영상의 음향 신호로부터 음성 A 내지 C가 추출되었을 경우, 제어부(180)는 음성 A 내지 음성 C 중 인물 A의 음성으로 판단되는 것을 결정할 수 있다. 인물 A의 음성으로 판단되는 음성이 음성 A로 결정되었을 경우, 제어부(180)는 음성 A가 발생하는 지점으로 판단되는 영역을 결정할 수 있다.

일예로, 제어부(180)는 앞서 도 6a를 통해 설명한 바와 같이, 음성 A가 출력될 당시 터치스크린에 출력되는 인물의 입이 움직이는지 여부를 기초로 음성 A가 발생하는 지점으로 판단되는 영역을 결정할 수 있다.

또 다른 예로, 제어부(180)에 기준 음향 데이터에 대응하는 기준 이미지 데이터가 저장되어 있다면, 제어부(180)는 기준 이미지 데이터와 동일한 인물 또는 동일한 악기로 판단되는 영역을 음성 A가 발생하는 지점으로 판단할 수도 있다. 예컨대, 기준 이미지 데이터가 인물 A의 사진인 경우, 제어부(180)는 얼굴 인식 알고리즘을 적용하여, 기준 이미지 데이터와 동일 인물로 판단되는 인물의 표시 영역을 음성 A가 발생하는 지점으로 결정할 수 있다.

음성 A가 발생하는 지점이 결정되면, 제어부(180)는 음성 A가 발생하는 지점이 다른 영역과 시각적으로 식별되도록 제어할 수 있다. 일예로, 제어부(180)는 도 15b에 도시된 예에서와 같이 음성 A가 발생하는 지점으로 판단되는 영역이 확대 표시되도록 제어할 수 있다. 이로써, 사용자는 기준 음향 데이터와 합치하는 음원이 어느 영역에서 디스플레이되고 있는지 확인할 수 있다.

도 4 및 도 14에서는 터치스크린을 통해 동영상이 재생되는 동안 특정 음원의 볼륨을 조절할 수 있는 것으로 예시되었다. 본 발명에 따른 이동 단말기는 동영상이 재생되는 경우뿐만 아니라, 동영상을 촬영하는 경우에 있어서도 특정 음원의 볼륨이 조절되도록 제어할 수 있다.

일예로, 동영상을 녹화하는 동안 특정 영역이 선택되면, 제어부(180)는 선택된 영역에서 발생하는 것으로 판단되는 특정 음원의 볼륨이 상향되거나 하향되도록 제어할 수 있다. 구체적으로, 제어부(180)는 소스 분리를 통해 마이크(122)를 통해 출력되는 음향 신호를 음원별로 분리하고, 사용자가 선택한 영역에서 발생하는 것으로 판단되는 특정 음원을 결정하여, 특정 음원의 볼륨을 상향 또는 하향할 수 있다. 이때, 특정 음원이 특정 인물의 음성인 경우, 제어부(180)는 STT를 적용하여 음성에 대응하는 텍스트가 터치스크린에 디스플레이되도록 제어할 수 있다.

다른 예로, 메모리(160)에 기준 음향 데이터가 저장되어 있는 경우, 제어부(180)는 기준 음향 데이터와 합치하는 특정 음원의 볼륨이 상향되거나 하향되도록 제어할 수 있다. 구체적으로, 제어부(180)는 소스 분리를 통해 마이크(122)를 통해 출력되는 음향 신호를 음원별로 분리하고, 기준 음향 데이터와 동일한 인물의 음성 또는 동일한 악기 소리인 것으로 판단되는 특정 음원을 결정하여, 특정 음원의 볼륨을 상향 또는 하향할 수 있다. 이때, 특정 음원이 특정 인물의 음성인 경우, 제어부(180)는 STT를 적용하여 음성에 대응하는 텍스트가 터치스크린에 디스플레이되도록 제어할 수 있다.

본 발명에 따른 이동 단말기는 동영상이 재생되는 경우뿐만 아니라, 음악을 재생하는 경우에 있어서도 특정 음원의 볼륨이 조절되도록 제어할 수 있다.

일예로, 제어부(180)는 음악의 재생 중 악기 소리와 음성을 구분하여, 음성 및 악기 소리 중 적어도 하나의 볼륨이 조절되도록 제어할 수 있다.

도 16은 음악 재생 중 특정 음원의 볼륨을 조절하기 위해 제공되는 화면의 예시도이다. 설명의 편의를 위해, 음악의 음향 신호는 음성 및 악기 소리로 구분되는 것으로 가정한다. 제어부(180)는 각 음원별 볼륨을 조절하기 위한 볼륨 조절 바가 디스플레이되도록 제어할 수 있다. 이와 더불어, 제어부(180)는 모든 음원의 볼륨을 공통적으로 상향하거나 하향할 수 있는 볼륨 조절 바도 디스플레이되도록 제어할 수 있다.

도 16의 예에서, 메인 볼륨 조절 바(1630)는 모든 음원의 볼륨을 공통적으로 상향하거나 하향하기 위한 것이고, 제 1 서브 볼륨 조절 바(1610) 및 제 2 서브 볼륨 조절 바(1620)는 각각 음성 및 악기 소리의 볼륨을 상향하거나 하향하기 위한 것일 수 있다.

상술한 실시예에서는 이동 단말기의 디스플레이부(151)가 터치스크린인 것으로 가정하였다. 이동 단말기의 디스플레이부(151)가 터치스크린이 아니라면, 상술한 다양한 실시예들에서의 터치 입력은 당업자가 자명하게 고안해낼 수 있는 다른 사용자 입력으로 대체될 수 있을 것이다.

본 발명의 일실시예에 의하면, 전술한 방법(동작 흐름도)은, 프로그램이 기록된 매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.

상기와 같이 설명된 이동 단말기(100)는 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

110 : 무선 통신부
121 : 카메라
122 : 마이크
151 : 디스플레이부
152 : 음향 출력 모듈
160 : 메모리
180 : 제어부

Claims

동영상의 영상 신호를 출력하기 위한 디스플레이부;
상기 동영상의 음향 신호를 출력하기 위한 음향 출력부; 및
상기 동영상의 음향 신호를 음원별로 분리하고, 상기 분리된 음원 중 적어도 하나의 볼륨을 수동 혹은 자동으로 조절하는 제어부
를 포함하는 이동 단말기.
제 1 항에 있어서, 상기 제어부는,
상기 동영상의 음향 신호로부터 적어도 하나의 음성(Voice)이 추출되면,
상기 디스플레이부를 통해 출력되는 적어도 한명의 인물과 중 상기 추출된 적어도 하나 이상의 음성을 매핑하는 것을 특징으로 하는 이동 단말기.
제 2 항에 있어서, 상기 제어부는,
상기 디스플레이부를 통해 출력되는 상기 적어도 한명의 인물의 입이 움직이는지 여부를 기초로, 상기 적어도 한명의 인물과 상기 추출된 적어도 하나 이상의 음성을 매핑하는 것을 특징으로 하는 이동 단말기.
제 2 항에 있어서, 상기 제어부는,
상기 디스플레이부를 통해 출력되는 상기 적어도 한명의 인물 중 특정 인물이 선택되면,
상기 추출된 적어도 하나의 음성 중 상기 특정 인물이 발화(utterance)하는 것으로 판단되는 특정 음성의 볼륨을 수동 혹은 자동으로 조절하는 것을 특징으로 하는 이동 단말기.
제 4 항에 있어서, 상기 제어부는,
상기 특정 음성의 볼륨이 상향 또는 하향될 때, 상기 특정 음성을 제외한 다른 음원의 볼륨은 반대 방향으로 조절되도록 제어하는 것을 특징으로 하는 이동 단말기.
제 4 항에 있어서,
상기 디스플레이부는 터치 입력을 수신할 수 있는 터치스크린을 포함하고,
상기 제어부는 상기 특정 인물에 제 1 터치 입력이 가하여지면, 상기 특정 음성의 볼륨이 상향되도록 제어하고, 상기 특정 인물에 제 2 터치 입력이 가하여지면, 상기 특정 음성의 볼륨이 하향되도록 제어하는 것을 특징으로 하는 이동 단말기.
제 6 항에 있어서,
상기 제 1 터치 입력은 제 1 방향으로의 플리킹 입력, 상기 제 1 방향으로의 드래그 입력 및 상기 터치스크린을 n 번 태핑(tapping)하는 것 중 어느 하나이고, 상기 제 2 터치 입력은 제 2 방향으로의 플리킹 입력, 상기 제 2 방향으로의 드래그 입력 및 상기 터치스크린을 m 번 태핑하는 것 중 어느 하나인 것을 특징으로 하는 이동 단말기.
제 2 항에 있어서, 상기 제어부는,
상기 디스플레이부를 통해 출력되는 상기 적어도 한명의 인물 중 특정 인물이 선택되면, 상기 추출된 적어도 하나의 음성 중 상기 특정 인물이 발화하는 것으로 판단되는 특정 음성을 STT(Speech To Text) 처리한 텍스트가 디스플레이되도록 제어하는 것을 특징으로 하는 이동 단말기.
제 1 항에 있어서, 상기 이동 단말기는,
기준 음향 데이터를 저장하는 메모리를 더욱 포함하고,
상기 제어부는, 상기 분리된 음원 중 상기 기준 음향 데이터와 합치하는 특정 음원을 결정한 뒤, 상기 특정 음원의 볼륨이 상향 또는 하향되도록 제어하는 것을 특징으로 하는 이동 단말기.
제 9 항에 있어서, 상기 제어부는,
상기 분리된 음원 중 상기 기준 음향 데이터와 동일한 인물의 음성으로 판단되는 음원을 상기 특정 음원으로 결정하는 것을 특징으로 하는 이동 단말기.
제 9 항에 있어서, 상기 제어부는,
상기 분리된 음원 중 상기 기준 음향 데이터와 동일한 악기로 판단되는 음원을 상기 특정 음원으로 결정하는 것을 특징으로 하는 이동 단말기.
제 9 항에 있어서, 상기 제어부는,
상기 디스플레이부의 출력 중 상기 특정 음원이 발생되는 위치라 판단되는 특정 영역이 시각적으로 식별되어 표시되도록 제어하는 것을 특징으로 하는 이동 단말기.
제 10 항에 있어서, 상기 제어부는,
상기 특정 영역이 확대 표시되도록 제어하는 것을 특징으로 하는 이동 단말기.
제 1 항에 있어서, 상기 제어부는,
상기 분리된 음원 중 적어도 하나의 볼륨을 조절하기 위한 서브 볼륨 조절 바가 디스플레이되도록 제어하는 것을 특징으로 하는 이동 단말기.
제 14 항에 있어서, 상기 제어부는,
상기 분리된 음원 모두의 볼륨을 조절하기 위한 메인 볼륨 조절 바가 더욱 디스플레이되도록 제어하는 것을 특징으로 하는 이동 단말기.
제 1 항에 있어서, 상기 제어부는,
상기 음향 신호가 스테레오 음향인 경우,
상기 음향 신호로부터 추출된 적어도 하나의 음원의 수에 맞춰 상기 디스플레이부를 적어도 하나의 영역으로 분할하고,
상기 추출된 적어도 하나의 음원의 편향성을 이용하여 상기 추출된 적어도 하나의 음원과 분할된 상기 적어도 하나의 영역을 매핑하는 것을 특징으로 이동 단말기.
제 16 항에 있어서, 상기 제어부는,
상기 적어도 하나의 영역 중 특정 영역이 선택되면,
상기 추출된 적어도 하나의 음원 중 상기 특정 영역에 매핑된 것으로 판단되는 특정 음원의 볼륨이 조절되도록 제어하는 것을 특징으로 하는 이동 단말기.
동영상을 재생하는 단계;
상기 동영상의 음향 신호를 음원별로 분리하는 단계; 및
상기 분리된 음원 중 적어도 하나의 볼륨을 수동 혹은 자동으로 조절하는 단계
를 포함하는 이동 단말기의 제어 방법.