KR20150071162A - 이동 단말기 및 그 제어방법 - Google Patents

Abstract

본 발명은 이동 단말기 및 그 제어방법에 관한 것으로, 보다 상세히는 이미지에 음향을 연관하여 저장하고, 재생할 수 있는 이동 단말기 및 그 제어방법에 관한 것이다. 본 발명의 일 실시예와 관련된 이동 단말기는 터치스크린; 메모리; 및 상기 터치스크린을 통해 이미지가 선택된 상태에서 음향 합성 명령이 입력되면, 상기 선택된 이미지와 관련된 적어도 하나의 후보 음향을 검색하고, 상기 검색된 후보 음향 중 어느 하나를 상기 선택된 이미지와 연관하여 상기 메모리에 저장하는 제어부;를 포함할 수 있다.

Description

이동 단말기 및 그 제어방법{MOBILE TERMINAL AND METHOD FOR CONTROLLING THEREOF}

본 발명은 이동 단말기 및 그 제어방법에 관한 것으로, 보다 상세히는 이미지에 음향을 연관하여 저장하고, 재생할 수 있는 이동 단말기 및 그 제어방법에 관한 것이다.

단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.

이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.

이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.

최근, 이동 단말기의 성능이 향상됨에 따라 둘 이상의 서로 다른 형태의 멀티미디어 컨텐츠를 동시에 출력할 수 있는 이동 단말기가 출시되고 있다. 그에 따라 보다 편리하게 하나의 컨텐츠에 다른 타입의 컨텐츠를 연관하여 저장하고, 이를 함께 출력할 수 있는 이동 단말기의 필요성이 대두되고 있다.

본 발명은 이미지를 음향과 함께 출력할 수 있는 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.

특히, 본 발명은 다양한 소스에서 이미지에 적합한 음향을 추출하여 합성할 수 있는 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.

본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

상기한 과제를 실현하기 위한 본 발명의 일 실시예와 관련된 이동 단말기의 제어방법은, 이미지를 선택하는 단계; 음향 합성 명령이 입력되면, 상기 선택된 이미지와 관련된 적어도 하나의 후보 음향을 검색하는 단계; 및 상기 검색된 후보 음향 중 어느 하나를 상기 선택된 이미지와 연관하여 저장하는 단계를 포함할 수 있다.

또한, 상기한 과제를 실현하기 위한 본 발명의 일 실시예와 관련된 이동 단말기는 터치스크린; 메모리; 및 상기 터치스크린을 통해 이미지가 선택된 상태에서 음향 합성 명령이 입력되면, 상기 선택된 이미지와 관련된 적어도 하나의 후보 음향을 검색하고, 상기 검색된 후보 음향 중 어느 하나를 상기 선택된 이미지와 연관하여 상기 메모리에 저장하는 제어부;를 포함할 수 있다.

본 발명에 의하면, 이미지가 표시될 때 그에 대응되는 음향이 함께 재생될 수 있다.

특히, 이러한 음향은 이미지의 객체별로 대응될 수도 있고, 다양한 소스로부터 편리하게 추출되어 이미지에 조합될 수 있다.

본 발명에서 얻은 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2는 본 발명의 일 실시예에 관련된 이동 단말기의 전면 사시도이다.
도 3은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 적합한 음향을 제어부의 판단에 따라, 또는 사용자의 선택에 따라 해당 이미지와 연관하여 저장하는 과정의 일례를 나타낸다.
도 4는 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 음향이 자동으로 결정되는 일례를 나타낸다.
도 5는 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 음향이 선택된 객체에 대응하여 자동으로 결정되는 일례를 나타낸다.
도 6은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 음향이 후보 객체 중 선택된 복수의 객체에 대응하여 자동으로 결정되는 일례를 나타낸다.
도 7은 본 발명의 일 실시예에 따른 이동 단말기에서 안면 인식에 따라 이미지에 합성될 음향이 자동으로 결정되는 일례를 나타낸다.
도 8은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 음향이 사용자에 의해 결정되는 형태의 일례를 나타낸다.
도 9는 본 발명의 일 실시예에 따른 이동 단말기에서 복수의 음향 소스가 검색된 경우 이미지에 합성될 음향이 사용자에 의해 결정되는 형태의 일례를 나타낸다.
도 10은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지의 특정 객체에 합성될 복수의 음향 소스가 검색된 경우 음향이 선택되는 형태의 일례를 나타낸다.
도 11은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지의 특정 객체에 합성될 후보 음향이 복수개 검색된 상태에서 복수의 음향이 선택되는 형태의 일례를 나타낸다.
도 12는 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 후보 음향이 복수개 검색된 이후, 검색된 음향을 탐색하는 방법의 일례를 나타낸다.
도 13은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 후보 음향이 복수개 검색된 이후, 검색된 음향을 탐색하는 방법의 다른 일례를 나타낸다.
도 14a 및 도 14b는 본 발명의 일 실시예에 따른 이동 단말기에서 안면 인식에 따라 검색된 후보 음향들 중 어느 하나가 선택되는 형태의 일례를 나타낸다.
도 15는 본 발명의 일 실시예에 따른 이동 단말기에서 안면 인식에 따라 검색된 후보 음향의 소스를 탐색하는 방법의 일례를 나타낸다.
도 16은 본 발명의 일 실시예에 적용될 수 있는 후보 음향 목록의 다양한 표시 방법 및 그 설정 메뉴의 일례를 나타낸다.
도 17은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지 촬영 중 합성될 후보 음향을 선택하는 과정의 일례를 나타낸다.
도 18은 본 발명의 일 실시예에 따른 이동 단말기에서 동영상 촬영 중 이에 포함되는 음향이 합성될 후보 이미지를 선택하는 과정의 일례를 나타낸다.
도 19는 본 발명의 일 실시예에 따른 이동 단말기에서 기 합성된 이미지의 음향을 재생하고 편집하는 과정의 일례를 나타낸다.
도 20은 본 발명의 일 실시예에 따른 음향 편집 과정의 일례를 나타낸다.
도 21은 본 발명의 일 실시예에 따른 이동 단말기에서 음향이 합성된 이미지 및 이미지에 음향을 제공한 소스 동영상이 썸네일 뷰 모드에서 표시되는 형태의 일례를 나타낸다.
도 22는 본 발명의 일 실시예에 따른 이동 단말기에서 음향이 합성된 이미지에 대응되는 썸네일을 통해 수행되는 기능의 일례를 나타낸다.
도 23은 본 발명의 일 실시예에 따른 이동 단말기에서 음향을 다른 이미지에 제공한 동영상에 대응되는 썸네일을 통해 수행되는 기능의 일례를 나타낸다.
도 24는 본 발명의 일 실시예에 따른 이동 단말기에서 인디케이터를 통해 소스 동영상과 이미지의 전환이 수행되는 형태의 일례를 나타낸다.
도 25는 본 발명의 일 실시예에 따른 이동 단말기에서 인디케이터를 통해 소스 동영상과 이미지의 전환이 수행되는 형태의 일례를 나타낸다.
도 26 및 도 27은 본 발명의 일 실시예에 따른 이동 단말기에서 소셜 네트워크 서비스를 통해 이미지에 합성될 음향을 획득하는 방법의 일례를 나타낸다.

이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈이 상기 이동단말기(100)에 제공될 수 있다.

상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미한다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), DVB-CBMS (Convergence of Broadcasting and Mobile Service), OMA-BCAST (Open Mobile Alliance-BroadCAST), CMMB (China Multimedia Mobile Broadcasting), MBBMS (Mobile Broadcasting Business Management System), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, GSM(Gobal System for Mobile communications), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA)(이에 한정되지 않음)와 같은 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), GSM, CDMA, WCDMA, LTE(Long Term Evolution)(이에 한정되지 않음) 등이 이용될 수 있다.

Wibro, HSDPA, GSM, CDMA, WCDMA, LTE 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로으로 이해될 수도 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는, 이동단말기(100)의 전·후면 또는 측면에 위치하는 버튼(136), 터치 센서(정압/정전)(137)로 구성될 수 있고, 도시되지는 않았지만 키패드(key pad), 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등을 더욱 포함하여 구성될 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다. (근접 센서에 관해서는 후술하도록 한다).

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(151)와 상기 터치센서(137)가 상호 레이어 구조를 이루거나 일체형으로 형성되는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가지는 경우 디스플레이부(151)에 적층되어 레이어 구조를 형성할 수도 있고, 상기 디스플레이부(151)의 구성에 포함시켜 일체형으로 이루어질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기(미도시)로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

상기 근접 센서(141)는 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 호칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 호칭할 수 있다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미할 수 있다.

상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있으므로, 이 경우 상기 디스플레이부(151) 및 음성출력모듈(152)은 알람부(153)의 일종으로 분류될 수도 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

메모리부(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 전화번호부, 메시지, 오디오, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 상기 메모리부(160)에는 상기 데이터들 각각에 대한 사용 빈도(예를 들면, 각 전화번호, 각 메시지, 각 멀티미디어에 대한 사용빈도)가 저장될 수 있다.

또한, 상기 메모리부(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.

상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(controller)(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다. 전원공급부(190)는 예를 들어 배터리, 연결포트, 전원공급제어부 및 충전모니터링부를 포함할 수 있다.

배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다. 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스(170)의 일 예로서 구성될 수 있다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

도 2는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.

개시된 이동 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다.

상기 이동단말기(100)의 바디는 외관을 이루는 케이스(101, 102, 103)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다.

USIM카드 및 메모리카드등 보조 저장매체(165)와 같이 탈착이 필요한 부품은 외측으로 부터 케이스 내부로 삽입가능하도록 케이스에는 개구부를 포함할 수 있다. 상기 보조 저장매체(165)가 이동 단말기(100)의 측면에서 삽입되어 실장되도록 케이스 측면에 슬롯이 형성될 수도 있고, 리어 케이스(102)의 표면에 실장되도록 카드 슬롯(166, 167)이 형성될 수도 있다.

케이스(101, 102, 103)는 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.

단말기 케이스(101, 102)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.

디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(152)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.

사용자 입력부(130)는 이동 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131, 132, 133)을 포함할 수 있다. 조작 유닛들(131, 132, 133)은 조작부(manipulating portion)로도 통칭 될 수 있다.

제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절과 같은 명령을 입력받고, 제3 조작유닛(133)은 디스플레이부(151)의 터치 인식 모드 활성화/비활성화 등과 같은 명령을 입력받을 수 있다.

상기 조작 유닛들(131, 132, 133)는 사용자가 압력을 가하면 인식하는 버튼방식이 있을 수 있고, 상기 디스플레이부(151) 외에 조작 유닛(131, 132, 133)에도 터치센서를 구비하여 사용자의 터치만으로 사용자의 명령을 입력받을 수도 있다.

설명의 편의를 위하여, 이하에서 언급되는 이동 단말기는 도 1에 도시된 구성요소들 중 적어도 하나를 포함한다고 가정한다. 또한, 보통 디스플레이부(151)에 상에서 특정 오브젝트를 가리키거나 메뉴를 선택하기 위한 화살표 또는 손가락 형태의 그래픽은 포인터(pointer) 또는 커서(cursor)로 호칭된다. 그러나, 포인터의 경우 터치 조작 등을 위한 손가락이나 스타일러스 펜 등을 의미하는 것으로 혼용되는 경우가 많다. 따라서 본 명세서에서는 이 둘을 명확히 구분하기 위하여 디스플레이부에 표시되는 그래픽을 커서라 칭하고, 손가락이나 스타일러스 펜과 같이 터치, 근접터치, 제스쳐(gesture)를 수행할 수 있는 물리적 수단을 포인터라 칭한다.

이미지에 적합한 음향의 검색 및 연관 저장

본 발명의 일 실시예에 의하면 이미지에 적합한 음향을 제어부의 판단에 따라, 또는 사용자의 선택에 따라 해당 이미지와 연관하여 저장할 수 있는 이동 단말기 및 그 제어방법에 제공된다. 여기서 연관하여 저장한다고 함은, 후에 이러한 과정을 거친 이미지가 표시될 때 저장된 음향이 함께 재생될 수 있음을 의미한다. 본 명세서에서는 편의상 이와 같이 이미지에 음향을 연관하여 저장하는 과정을 "이미지에 음향을 합성한다"고 칭하기로 한다.

도 3은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 적합한 음향을 제어부의 판단에 따라, 또는 사용자의 선택에 따라 해당 이미지와 연관하여 저장하는 과정의 일례를 나타낸다.

도 3을 참조하면, 먼저 음향이 매칭되어 저장될 이미지가 선택될 수 있다(S310). 여기서 이미지는 카메라(121)를 통해 촬영됨에 따라 표시되는 이미지일 수도 있고, 메모리(160)에 미리 저장된 이미지에서 갤러리 어플리케이션을 통해 표시될 수도 있다. 즉, 이미지가 선택된다고 함은 본 발명에 따른 이미지를 음향에 연관하여 저장할 수 있는 기능을 제공하는 어플리케이션을 통해 터치스크린 상에서 해당 이미지가 표시되고 있는 상태를 의미할 수 있다.

이미지가 선택된 상태에서 터치스크린(151)이나 사용자 입력부(130)를 통해 음향 합성 명령이 입력될 수 있다(S320). 음향 합성 명령은 선택된 이미지 자체에 대응되도록 입력될 수도 있고, 선택된 이미지 내의 적어도 하나의 객체를 특정하는 형태로 입력될 수도 있다. 또한, 음향 합성 명령의 형태에 따라 연관되어 저장될 음향이 제어부(180)에 의해 자동으로 선택되도록 할 수도 있고, 사용자가 직접 선택하도록 할 수도 있다. 예를 들어, 음향 합성 명령에 대응되는 아이콘이 사용자에 의해 선택될 때 제 1 패턴 터치(예를 들어, 단순 터치)를 통해 선택되는 경우 제어부(180)가 해당 이미지에 적합한 음향이 자동으로 선택되도록 하고, 제 2 패턴 터치(예를 들어, 롱터치)를 통해 선택되는 경우 사용자가 직접 음향을 선택하도록 할 수 있다.

음향 합성 명령이 입력됨에 따라 제어부(180)는 선택된 이미지와 관련된 후보 음향을 검색할 수 있다(S330). 여기서 후보 음향은 음향 소스의 적어도 일부분의 형태로 검색될 수 있다. 또한, 음향 소스란 선택된 이미지와 관련하여 저장될 수 있는 음향을 포함하는 멀티미디어 컨텐츠로, 음악 파일, 녹음 파일, 동영상 파일 등을 포함할 수 있다. 물론, 이러한 음향 소스가 반드시 파일로 존재할 필요는 없으며, 스트리밍 컨텐츠 또한 본 발명에 따른 음향 소스가 될 수 있다. 후보 음향을 검색함에 있어, 제어부(180)는 사용자의 패턴, 선택된 이미지와 유사한 다른 이미지와 매칭되어 저장된 음향의 사용 빈도, 선택된 이미지에 설정된 태그나 파일명, 이미지에 포함되는 객체의 인식 결과(안면 인식 등), 선택된 이미지의 생성 시점 및 장소, 선택된 이미지가 촬영된 날짜의 날씨, 이미지의 색감(RGB 비율) 등이 검색 조건으로 고려될 수 있다. 여기서 이미지의 생성 시점은 해당 파일의 헤더 정보에 포함될 수 있으며, 촬영된 장소는 이미지에 포함된 태그나 이미지의 파일명칭, 헤더에 포함된 GPS 정보 등을 통해 판단될 수 있다. 또한, 검색의 범위는 기본적으로 메모리(160)가 될 수 있으며, 메모리에서 적합한 음향 소스가 검색되지 않거나 설정에 따라, 외부 서버, 인터넷, SNS 등 외부로 그 범위가 확장될 수도 있다.

검색된 후보 음향들 중 이미지에 매칭될 음향은 설정에 따라, 또는 전술된 바와 같이 음향 합성 명령의 형태에 따라 자동으로 선택될 수도 있고, 사용자로부터 선택될 수도 있다.

만일, 자동선택되는 경우(S340), 제어부(180)는 검색된 후보 음향 중 선택된 이미지에 적합도가 가장 높은 음향을 선택하고(S350), 선택된 음향을 이미지에 연관하여 저장할 수 있다(S360). 여기서 적합도가 가장 높다고 함은, 전술한 검색 조건의 매칭률에 따라 정해질 수 있으며, 각 조건은 서로 다른 가중치를 갖도록 설정되어 복수의 조건이 종합적으로 고려될 수 있다.

한편, 사용자로부터 직접 음향을 선택받는 경우, 검색된 후보 음향이 소정 형태로 이미지와 함께 또는 단독으로 표시될 수 있다(S351).

사용자는 표시된 후보 음향에서 음향 선택 명령을 입력하는 방법으로 이미지와 연관하여 저장될 음향을 결정할 수 있으며(S353), 그에 따라 제어부(180)는 선택된 음향을 이미지에 연관하여 저장할 수 있다(S360).

이하, 도 4 내지 도 7을 참조하여 이미지에 합성될 음향이 자동으로 결정되는 형태를 설명한다. 도 4를 포함한 이하의 도면들에서는, 편의상 음향과 연관되어 저장될 이미지의 선택, 음향 소스의 표시 및/또는 결정이 갤러리 어플리케이션을 통해 수행되는 것으로 가정한다. 다만, 이는 예시적인 것으로 본 발명에 따른 이미지에 음향을 대응시켜 저장하는 기능은 갤러리 어플리케이션에 반드시 한정될 필요는 없고, 이미지의 선택 및 재생이 수행될 수 있는 어플리케이션이라면 어떠한 어플리케이션에도 제한되지 않는다.

도 4는 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 음향이 자동으로 결정되는 일례를 나타낸다.

도 4의 (a)를 참조하면, 갤러리 어플리케이션을 통해 터치스크린(151) 상에 이미지(410)가 표시될 수 있다. 이때, 음향 합성 명령에 대응되는 음향 합성 아이콘(420)이 선택되는 경우 제어부(180)는 해당 이미지(410)에 가장 적합하다고 판단된 음향을 자동으로 해당 이미지와 연관하여 저장할 수 있다. 저장이 완료되면, 제어부(180)는 도 4의 (b)와 같이 해당 이미지에 음향이 대응되어 저장됨을 나타내는 음향 아이콘(430)이 표시되도록 할 수 있다. 여기서 음향 아이콘(430)이 선택되는 경우, 해당 이미지가 표시되는 동안 연관되어 저장된 음향이 함께 음향출력부(152)를 통해 출력될 수 있다. 이때 터치스크린 상에는 도 4의 (c)와 같이 재생되는 음향의 재생 상태를 나타내는 프로그레스 바(440)가 표시될 수도 있다.

도 5는 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 음향이 선택된 객체에 대응하여 자동으로 결정되는 일례를 나타낸다.

도 5의 (a)를 참조하면, 갤러리 어플리케이션을 통해 터치스크린(151) 상에 이미지(510)가 표시될 수 있다. 이때, 사용자가 음향 합성 아이콘(520)을 이미지 내의 특정 객체(511)로 드래그&드랍하는 경우, 제어부(180는 해당 객체(511)에 가장 적합하다고 판단된 음향을 자동으로 해당 이미지와 연관하여 저장할 수 있다. 저장이 완료되면, 제어부(180)는 도 5의 (b)와 같이 해당 이미지에 음향이 대응되어 저장됨을 나타내는 음향 아이콘(530)이 선택된 객체 주변에 표시되도록 할 수 있다.

여기서, 제어부(180)는 사용자의 객체 선택을 돕기 위하여 음향 합성에 적합한 객체를 사용자에 소정 시각효과를 통해 알려줄 수도 있다. 일례로, 도 5의 (c)와 같이 사용자가 음향 합성 아이콘(520)을 이미지 내로 드래그한 후 터치 상태를 유지하는 경우, 제어부(180)는 음향 합성이 적합한 객체들(541, 543)에 미리 시각효과가 표시되도록 할 수 있다. 여기서 음향 합성이 적합한 객체는 그 형태와 색상에 따라 합성에 적합한 음향을 검색할 수 있는 조건을 특정할 수 있는 객체(예를 들어, 안면인식이 가능한 얼굴이나 형태 인식을 통해 명칭을 특정할 수 있는 사물)인 것으 바람직하다. 만일, 포인터가 제어부(180)가 판단한 객체들 중 어느 하나에 근접한 경우, 제어부(180)는 도 5의 (d)와 같이 포인터가 가장 근접한 객체에 대응되는 시각효과(541)만 표시되도록 할 수 있다. 이후, 해당 객체 상에서 포인터의 터치 입력이 해제되면 해당 객체에 제어부(180)가 가장 적합하다고 판단된 음향이 해당 이미지에 대응되어 저장될 수 있음은 전술된 바와 같다. 만약, 포인터가 어떠한 시각효과에도 대응되지 않는 위치에서 터치 상태가 해제된 경우, 제어부(180)는 판단한 모든 객체에 대해 음향을 매칭하여 저장할 수 있다.

도 6은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 음향이 후보 객체 중 선택된 복수의 객체에 대응하여 자동으로 결정되는 일례를 나타낸다.

도 6의 (a)를 참조하면, 음향을 대응시켜 저장할 이미지(610)가 표시될 때 음향 합성 아이콘(620)을 일정 시간 내 복수회 터치하거나 롱터치하는 경우, 제어부(180)는 음향 합성이 적합한 객체들(631, 632, 633)에 미리 시각효과가 표시되도록 할 수 있다. 여기서 사용자가 두 번째 객체(632)와 세 번째 객체(633)를 순차적으로 선택하는 경우, 선택된 객체들에 가장 적합한 음향이 각각 매칭되어 저장될 수 있다. 이후 도 6의 (b)와 같이 선택된 각 객체들에 대응되는 위치에 음향 아이콘들(642, 643)이 표시될 수 있다.

도 7은 본 발명의 일 실시예에 따른 이동 단말기에서 안면 인식에 따라 이미지에 합성될 음향이 자동으로 결정되는 일례를 나타낸다.

도 7의 (a)를 참조하면, 갤러리 어플리케이션을 통해 터치스크린(151) 상에 사람의 얼굴을 포함하는 이미지(710)가 표시될 수 있다. 이때, 사용자가 얼굴에 대응되는 영역(711)을 선택하는 경우, 제어부(180)는 해당 얼굴에 대한 안면인식을 수행하고, 그 결과 메모리(160)에서 인식된 사람에 대응되는 음향을 검색할 수 있다. 그에 따라 도 7의 (b)와 같이 팝업메뉴(720)가 표시될 수 있다. 팝업 메뉴(720)에는 인식된 인물의 이름과 합성 명령 메뉴(721)가 포함될 수 있다. 여기서 사용자가 합성 명령 메뉴(721)를 선택하는 경우 제어부(180는 해당 얼굴(711)에 가장 적합하다고 판단된 음향을 자동으로 해당 이미지와 연관하여 저장할 수 있다. 저장이 완료되면, 제어부(180)는 도 7의 (c)와 같이 해당 이미지에 음향이 대응되어 저장됨을 나타내는 음향 아이콘(730)이 얼굴 주변에 표시되도록 할 수 있다.

이하에서는 도 8 내지 도 16을 참조하여 이미지에 합성될 음향이 사용자의 선택에 따라 결정되는 형태를 설명한다. 도 8을 포함한 이하의 도면들에서는 편의상 음향 소스가 적어도 하나의 동영상인 것으로 가정한다.

도 8은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 음향이 사용자에 의해 결정되는 형태의 일례를 나타낸다.

도 8의 (a)를 참조하면, 갤러리 어플리케이션을 통해 터치스크린(151) 상에 이미지(810)가 표시될 수 있다. 이때, 음향 합성 명령에 대응되는 음향 합성 아이콘(820)이 선택되는 경우 제어부(180)는 해당 이미지(810)에 관련된 후보 음향을 검색하여 그 결과를 표시해줄 수 있다. 검색 결과로 하나의 동영상에 포함된 세 부분이 후보 음향으로 검색된 경우, 도 8의 (b)와 같이 하단 영역에 소스 정보(830)가 표시될 수 있다. 소스 정보에는 해당 소스의 명칭, 재생 상태를 변경하기 위한 메뉴모음(프로그레스바, 재생 버튼, 일시 정지 버튼등), 그리고 관련된 부분에 대응되는 썸네일들이 포함될 수 있다. 썸네일은 후보 음향이 포함된 소스 동영상에서 해당 후보 음향이 포함된 시점에 대응되는 I 프레임일 수 있다.

여기서 사용자가 가운데 썸네일(832)을 선택한 경우, 제어부는 소스 동영상에서 선택된 썸네일에 대응되는 음향을 해당 이미지와 연관하여 저장할 수 있다. 저장이 완료되면, 제어부(180)는 도 8의 (c)와 같이 해당 이미지에 음향이 대응되어 저장됨을 나타내는 음향 아이콘(840)이 표시되도록 할 수 있다. 여기서 음향 아이콘(840)이 선택되는 경우, 해당 이미지가 표시되는 동안 연관되어 저장된 음향이 함께 음향출력부(152)를 통해 출력될 수 있음은 전술된 바와 같다.

도 9는 본 발명의 일 실시예에 따른 이동 단말기에서 복수의 음향 소스가 검색된 경우 이미지에 합성될 음향이 사용자에 의해 결정되는 형태의 일례를 나타낸다.

도 9의 (a)를 참조하면, 갤러리 어플리케이션을 통해 터치스크린(151) 상에 이미지(910)가 표시될 수 있다. 이때, 음향 합성 명령에 대응되는 음향 합성 아이콘(920)이 선택되는 경우 제어부(180)는 해당 이미지(810)에 관련된 음향 소스를 검색하여 그 결과를 표시해줄 수 있다. 검색 결과로 서로 다른 동영상에 각각 포함된 네 개의 동영상이 후보 음향으로 검색된 경우, 후보 음향 정보(930)가 표시될 수 있다. 후보 음향 정보에는 각 음향이 포함되는 동영상의 썸네일과 재생 버튼이 포함될 수 있다. 여기서 사용자가 세 번째 썸네일(933)의 재생 버튼을 선택한 경우, 도 9의 (b)와 같이 해당 썸네일 내에 프로그레스바(937)가 표시되면서 해당 동영상에서 이미지와 관련된 부분이 재생될 수 있다. 물론, 동영상이 재생되는 대신 음향만이 재생될 수도 있다. 사용자는 후보 음향 정보(930)에서 어느 하나의 음향을 선택하기 위하여 각 썸네일에서 재생 버튼이 아닌 영역을 선택하거나, 썸네일을 이미지(910)가 표시되는 영역으로 드래그&드롭할 수 있다.

도 10은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지의 특정 객체에 합성될 복수의 후보 음향이 검색된 경우 합성될 음향이 선택되는 형태의 일례를 나타낸다.

도 10의 (a)를 참조하면, 갤러리 어플리케이션을 통해 터치스크린(151) 상에 이미지(1010)가 표시될 수 있다. 이때, 사용자가 이미지 내의 특정 객체(1011)를 선택하는 경우, 선택된 객체에 대한 음향 합성 메뉴(1020)가 표시될 수 있다. 여기서 음향 합성 메뉴가 선택되는 경우 제어부(180)는 해당 객체(1011)에 관련된 후보 음향을 검색하여 그 결과를 표시해줄 수 있다. 검색이 완료되면 도 10의 (b)와 같이 이미지 좌측단에 후보 음향 정보(1030)가 표시될 수 있다. 구체적으로, 서로 다른 세 개의 동영상에서 다섯 부분의 적합한 음향이 검색된 경우 후보 음향 정보(1030)에는 다섯 부분 각각에 대응되는 썸네일 및 소스 동영상에서 해당 부분의 시점 정보가 표시될 수 있다. 여기서, 동일한 동영상에 포함된 음향은 썸네일 주변의 색상을 동일하게 하는 방법으로 소스의 동일성 여부를 사용자에 알려줄 수 있다. 이러한 상태에서 세 번째 썸네일(1033)이 선택되는 경우, 제어부는 선택된 썸네일에 대응되는 음향을 해당 이미지와 연관하여 저장할 수 있다. 저장이 완료되면, 제어부(180)는 도 10의 (c)와 같이 해당 객체(1011)에 음향이 대응되어 저장됨을 나타내는 음향 아이콘(1040)이 표시되도록 할 수 있다.

도 11은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지의 특정 객체에 합성될 후보 음향이 복수개 검색된 상태에서 복수의 음향이 선택되는 형태의 일례를 나타낸다.

도 11의 (a)를 참조하면, 갤러리 어플리케이션을 통해 터치스크린(151) 상에 이미지(1110)가 표시될 수 있다. 이때, 사용자가 이미지 내의 특정 객체(1111)를 선택하는 경우, 선택된 객체에 대한 음향 합성 메뉴(1120)가 표시될 수 있다. 여기서 음향 합성 메뉴가 선택되는 경우 제어부(180)는 해당 객체(1111)에 관련된 후보 음향을 검색하여 그 결과를 표시해줄 수 있다. 검색이 완료되면 도 11의 (b)와 같이 이미지 좌측단에 후보 음향 정보(1130)가 표시될 수 있다. 이러한 상태에서 세 번째 썸네일(1133)이 선택된 객체로 드래그되는 경우, 제어부는 선택된 썸네일에 대응되는 음향을 해당 이미지와 연관하여 저장할 수 있다. 저장이 완료되면, 제어부(180)는 도 11의 (c)와 같이 해당 객체(1111)에 음향이 대응되어 저장됨을 나타내는 음향 아이콘(1140)이 표시되도록 할 수 있다. 여기서, 복수의 음향이 하나의 객체에 대하여 저장될 수 있는 경우, 음향 추가 아이콘(1150)이 표시될 수 있으며, 음향 추가 아이콘(1150)이 선택되면 다시 도 11의 (b)와 같이 후보 음향 정보(1130)가 표시될 수 있다. 여기서 다시 다섯 번째 썸네일(1135)이 선택되면 제어부(180)는 다섯 번째 썸네일에 대응되는 음향을 해당 이미지와 연관하여 추가로 저장할 수 있다. 그에 따라 음향 아이콘(1140)에는 도 11의 (d)와 같이 연관되어 저장된 음향의 수에 대응되는 시각효과(1160)가 추가로 표시될 수 있다. 한편, 음향 추가 아이콘(1150)은 첫 음향 선택이 완료된 후 일정 시간동안만 표시될 수도 있고 계속하여 표시될 수도 있다.

도 12는 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 후보 음향이 복수개 검색된 이후, 검색된 음향을 탐색하는 방법의 일례를 나타낸다.

도 12의 (a)를 참조하면, 선택된 이미지(1210)에 대한 음향 합성 명령이 입력됨에 따라, 제어부(180)는 해당 이미지와 관련된 복수개의 후보 음향을 검색하고, 이미지(1210) 하단부에 각 후보 음향을 포함하는 동영상에서 검색된 음향이 포함되는 부분에 대응되는 썸네일들이 세 개씩 표시되도록할 수 있다. 12의 (a)에서는 제어부가 가장 적합도가 높다고 판단한 세 음향에 대응되는 썸네일들(1221~1223)이 먼저 표시된다. 여기서 사용자가 다른 후보 음향을 확인하고자 하는 경우, 사용자는 우측에서 좌측 방향으로 플리킹 터치를 썸네일들이 표시되는 영역에 입력할 수 있다. 그에 따라 도 12의 (b)와 같이 썸네일들이 스크롤되어 네 번째 음향에 대응되는 썸네일(1224)과 다섯 번째 음향에 대응되는 썸네일(1225)이 표시될 수 있다. 여기서 한 번 떠 플리킹 터치가 입력되면, 썸네일들은 다시 한번 좌측으로 스크롤될 수 있다. 그런데, 제어부가 검색한 후보 음향이 5개 뿐이거나 기 설정된 적합 정도를 통과한 후보 음향이 5개 뿐이라면 도 12의 (c)와 같이 마지막 썸네일 다음으로 후보 추가 아이콘(1230)이 표시될 수 있다. 후보 추가 아이콘(1230)이 선택되는 경우, 제어부(180)는 처음 다섯 개 보다 적합성이 낮은 후보 음향을 추가로 검색하거나, 검색 범위를 확장한 후 도 12의 (d)와 같이 새로운 후보 음향들 각각에 대응되는 썸네일들(1240)이 표시되도록 할 수 있다.

도 13은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지에 합성될 후보 음향이 복수개 검색된 이후, 검색된 음향을 탐색하는 방법의 다른 일례를 나타낸다.

도 13에서는 도 12와 유사하게, 선택된 이미지에 대한 음향 합성 명령이 입력됨에 따라, 제어부(180)는 해당 이미지와 관련된 복수개의 후보 음향을 검색하고, 이미지 하단부에 각 후보 음향을 포함하는 동영상에서 검색된 음향이 포함되는 부분에 대응되는 썸네일들이 세 개씩 표시되는 것으로 가정한다. 여기서 도 13의 (a)와 같이 첫 번째 썸네일이 표시되는 영역(1310)에 포함된 재생 버튼이 선택됨에 따라 소스 동영상에서 첫 번째 후보 음향을 포함하는 부분이 해당 영역(1310) 내에서 재생될 수 있다. 그에 따라 프로그레스바도 표시될 수 있다(S1311). 이러한 상태에서 사용자가 이미지 상으로 좌측 방향으로 플리킹 터치를 입력하는 경우, 동영상의 재생 시점이 변경될 수 있다. 그에 따라 프로그레스바(1311')가 지시하는 재생 시점도 변경된다. 이때, 사용자가 이미지 상으로 다시 상방향으로 플리킹 터치를 입력하는 경우, 도 13의 (c)와 같이 다음 후보 음향에 대응되는 썸네일이 표시되는 영역(1320)에서 해당 후보 음향을 포함하는 동영상이 재생될 수 있다. 그에 따라 프로그레스바도 표시될 수 있다(S1321). 여기서 사용자가 이미지 상으로 다시 아래 방향으로 플리킹 터치를 입력하면 첫 번째 후보 음향을 포함하는 동영상이 재생될 수 있고, 상방향으로 입력하면 세 번째 후보 음향에 대응되는 썸네일이 표시되는 영역(1330)에서 그에 대응되는 동영상에 재생될 수 있다.

정리하면, 이미지 상으로 입력되는 가로 방향의 플리킹 터치를 통해 현재 재생 중인 후보 음향이 포함되는 동영상의 재생 시점이 변경될 수 있고, 세로 방향의 플리킹 터치를 통해 재생되는 후보 음향이 이전 후보 음향이나 다음 후보 음향으로 변경될 수 있다.

이하에서는 도 14a 내지 도 15를 참조하여 안면인식 결과에 따른 후보 음향을 사용자가 선택하는 방법을 설명한다.

도 14a 및 도 14b는 본 발명의 일 실시예에 따른 이동 단말기에서 안면 인식에 따라 검색된 후보 음향들 중 어느 하나가 선택되는 형태의 일례를 나타낸다.

도 14a의 (a)를 참조하면, 갤러리 어플리케이션을 통해 터치스크린(151) 상에 사람의 얼굴을 포함하는 이미지(1410)가 표시될 수 있다. 이때, 사용자가 얼굴에 대응되는 영역(1420)을 선택하는 경우, 제어부(180)는 해당 얼굴에 대한 안면인식을 수행하고, 그 결과 메모리(160)에서 인식된 사람에 대응되는 음향을 검색할 수 있다. 그에 따라 팝업메뉴(1420)가 표시될 수 있다. 팝업 메뉴(1420)에는 인식된 인물의 이름과 합성 명령 메뉴가 포함될 수 있다. 여기서 사용자가 합성 명령 메뉴를 선택하는 경우 제어부(180는 도 14a의 (b)와 같이 해당 얼굴(1411)에 적합한 후보 음향들의 목록(1430)을 표시할 수 있다. 여기서 목록(1430)에 포함되는 각 항목에는 후보 음향을 STT 처리하여 변환한 텍스트가 함께 표시될 수 있다. 이러한 방법은 안면 인식에 따른 검색 결과에 사람의 목소리가 포함될 가능성이 높아 특히 유용할 수 있다. 목록(1430)에서 어느 하나의 음향이 선택되면, 제어부는 선택된 음향을 해당 이미지와 연관하여 저장할 수 있다. 저장이 완료되면, 제어부(180)는 도 14의 (c)와 같이 해당 이미지에 음향이 대응되어 저장됨을 나타내는 음향 아이콘(1440)이 얼굴 주변에 표시되도록 할 수 있다.

한편, 도 14b의 (a)와 같이, 안면 인식 결과 하나의 이미지에 복수의 인물이 포함된 경우, 제어부(180)는 인식된 각 인물 주변에 음향 합성이 가능함을 지시하는 인디케이터(1450) 및 해당 인물에 대해 검색된 후보 음향의 목록(1460)이 표시되도록 할 수도 있다. 만일, 도 14b의 (b)와 같이 사용자가 음향 합성 아이콘(1470)을 사람이 아닌 객체(1480)로 드래그하는 경우, 제어부(180)는 해당 객체를 형태/색상/안면 인식된 주변 인물과의 상대적 크기 등을 이용하여 해당 객체를 인식하고, 인식결과에 부합하는 후보 카테고리 리스트(1490)가 먼저 출력되도록 할 수 있다. 후보 카테고리 리스트(1490)에서 어느 하나가 선택되면, 제어부(180)는 선택된 카테고리를 검색 조건으로 하여 후보 음향을 검색할 수 있다.

도 15는 본 발명의 일 실시예에 따른 이동 단말기에서 안면 인식에 따라 검색된 후보 음향의 소스를 탐색하는 방법의 일례를 나타낸다.

도 15의 (a)를 참조하면, 터치스크린(151) 상에서 이미지(1510)가 표시될 때 특정 인물의 얼굴(1511)이 선택됨에 따라 안면인식을 통한 후보 음향의 검색이 수행될 수 있다. 검색 결과가 도 15의 (b)와 같이 썸네일 리스트 형태로 표시될 때, 사용자가 첫 번째 후보 음향에 대응되는 썸네일(1521)을 롱터치하는 경우, 첫 번째 후보 음향을 포함하는 동영상이 도 15의 (c)와 같이 전체화면으로 표시될 수 있다. 이때, 프로그레스바 상단(1530)에는 선택된 특정 인물(1511')이 해당 동영상에서 등장하는 부분이 바(1531, 1532) 형태로 표시될 수 있다. 여기서 사용자가 어느 하나의 바를 선택하면, 도 15의 (d)와 같이 합성 메뉴(1540)가 표시되고, 합성 메뉴(1540)가 선택되면 선택된 바에 대응되는 음향이 이미지(1510)에 합성될 수 있다.

전술한 실시예들에서는 후보 음향을 포함하는 부분의 썸네일을 표시하는 방법으로 후보 음향의 목록이 표시되는 것으로 설명하였다. 그런데, 후보 음향의 목록은 도 16에 도시된 것과 같이 표시될 수도 있다.

도 16은 본 발명의 일 실시예에 적용될 수 있는 후보 음향 목록의 다양한 표시 방법 및 그 설정 메뉴의 일례를 나타낸다.

도 16의 (a)를 참조하면, 후보 음향 목록의 한 형태로 이미지(1610) 하단에 후보 음향을 포함하는 소스 동영상의 프로그레스바(1620, 1630) 및 그에 대응되는 썸네일(1621, 1631)이 함께 표시될 수 있다. 각 프로그레스 바에는 해당 소스 동영상에서 후보 음향이 포함되는 부분이 막대 형태로 표시될 수 있다.

도 16의 (b)에서는 카테고리 목록(1640)이 추가로 표시된 형태가 도시된다. 카테고리 목록(1640)에서 어느 한 카테고리가 선택되면, 그 하단의 썸네일 리스트가 선택된 카테고리에 대응되는 후보 음향의 목록에 대응되도록 변경될 수 있다.

한편, 카테고리 목록(1640)의 표시 여부 및 후보 음향의 검색에 고려될 조건은 도 16의 (c)와 같은 형태의 메뉴를 통해 선택될 수 있다.

이하에서는 도 17 및 도 18을 참조하여 이미지 또는 동영상을 촬영하는 과정에서 후보 음향을 선택하는 방법을 설명한다.

도 17은 본 발명의 일 실시예에 따른 이동 단말기에서 이미지 촬영 중 합성될 후보 음향을 선택하는 과정의 일례를 나타낸다.

도 17의 (a)를 참조하면, 카메라 촬영 모드에서 이미지가 촬영되면, 제어부(180)는 이미지가 촬영된 시점, 장소, 피사체 등을 고려하여 메모리(160)에서 촬영된 이미지와 관련된 동영상이 존재하는지 여부를 검색할 수 있다. 검색 결과 존재하는 경우, 음향 합성 아이콘(1710)이 표시되도록 하고, 검색된 동영상의 썸네일(1720)이 표시되도록 할 수 있다. 여기서 음향 합성 아이콘(1710)이 선택되면, 검색된 동영상에서 촬영된 이미지에 가장 적합한 음향이 촬영된 이미지에 연관하여 저장될 수 있다. 그에 따라 도 17의 (b)와 같이 촬영된 이미지에 음향이 합성됨을 나타내는 아이콘(1730)이 표시될 수 있다.

한편, 검색된 동영상이 복수개인 경우, 도 17의 (c)와 같이 복수의 썸네일 이미지(1720')가 표시될 수 있으며, 음향 합성 아이콘(1710)이 선택되면, 도 17의 (d)와 같이 검색된 복수의 동영상에 포함된 후보 음향의 리스트(1740)가 썸네일 리스트 형태로 표시될 수 있다. 여기서 어느 하나가 선택되면, 제어부는 선택된 썸네일에 대응되는 음향을 촬영된 이미지에 연관하여 저장할 수 있다.

전술된 실시예들에서는 이미지가 먼저 선택된 후 음향이 선택되었으나, 음향이 먼저 선택된 후 그에 적합한 이미지가 선택될 수도 있다. 이를 도 18을 참조하여 설명한다.

도 18은 본 발명의 일 실시예에 따른 이동 단말기에서 동영상 촬영 중 이에 포함되는 음향이 합성될 후보 이미지를 선택하는 과정의 일례를 나타낸다.

도 18의 (a)를 참조하면, 카메라 촬영 모드에서 동영상이 촬영되면, 제어부(180)는 동영상이 촬영된 시점, 장소, 피사체 등을 고려하여 메모리(160)에서 촬영된 동영상과 관련된 이미지가 존재하는지 여부를 검색할 수 있다. 검색 결과 존재하는 경우, 음향 합성 아이콘(1810)이 표시되도록 할 수 있다. 여기서 음향 합성 아이콘(1810)이 선택되면, 도 18의 (b)와 같이 검색된 이미지들의 리스트(1820)가 썸네일 리스트 형태로 표시될 수 있다. 여기서 어느 하나가 선택되면, 제어부는 촬영된 동영상의 음향 중 적어도 일부를 선택된 썸네일에 대응되는 이미지에 연관하여 저장할 수 있다.

이하에서는 도 19 내지 도 20을 참조하여, 이미지와 연관하여 저장된 음향을 편집하는 방법을 설명한다.

도 19는 본 발명의 일 실시예에 따른 이동 단말기에서 기 합성된 이미지의 음향을 재생하고 편집하는 과정의 일례를 나타낸다.

도 19의 (a)를 참조하면, 음향이 합성된 이미지가 터치스크린 상으로 표시될 때, 음향 아이콘(1910)이 터치될 수 있다. 그에 따라 도 19의 (b)와 같이 합성된 음향에 대응되는 프로그레스바(1920)가 표시됨과 함께 음향이 재생될 수 있다. 만일, 음향 아이콘(1910)이 터치되었을 때 이동 단말기가 무음 또는 진동모드인 경우, 도 19의 (c)와 같이 삽입된 음향을 STT 변환하여 텍스트(1930)로 표시되도록 할 수도 있다. 이와 달리, 음향 아이콘(1910)이 롱터치되는 경우, 도 19의 (d)와 같이 편집 모드로 진입할 수 있다. 편집 모드에 진입함에 따라 이미지 하단에는 소스 동영상 정보(1940)가 표시될 수 있다. 사용자는 소스 동영상 정보(1940)에 포함되는 프로그레스 바 상에 표시되는 썸네일을 재선택하는 방법으로 다른 음향을 선택할 수 있다.

한편, 보다 세밀한 편집을 위해 소스 동영상 정보에 포함되는 프로그레스바 구간이 변경될 수도 있다. 이를 도 20을 참조하여 설명한다.

도 20은 본 발명의 일 실시예에 따른 음향 편집 과정의 일례를 나타낸다.

도 20의 (a)를 참조하면, 도 19를 참조하여 전술한 방법을 통해 편집 모드에 진입한 후, 사용자가 이미지 상에서 서로 다른 두 지점에 동시에 터치 입력을 가한 후 서로 멀어지는 방향으로 드래그(즉, 핀치 인)할 수 있다. 그에 따라 도 20의 (b)와 같이 프로그레스바(2030)가 확장(2030')되어 각 썸네일 이미지(2010, 2020)간의 거리가 멀어질 수 있다(2010', 2020'). 이를 통해 사용자는 보다 세밀히 소스 동영상을 탐색하고, 프로그레스 바 상에서 썸네일 이미지의 위치를 변경시킨 후 위치 변경된 썸네일 이미지를 선택하는 방법으로 이미지에 합성되는 음향을 변경할 수 있다.

이하에서는 도 21 내지 도 24를 참조하여 본 발명의 일 실시예에 따른 갤러리 어플리케이션의 썸네일 뷰 모드를 설명한다. 여기서 썸네일 뷰 모드란, 특정 저장 위치에 포함되는 컨텐츠나 특정 조건을 만족하는 컨텐츠를 썸네일 리스트 상태로 표시하는 모드를 의미한다.

도 21은 본 발명의 일 실시예에 따른 이동 단말기에서 음향이 합성된 이미지 및 이미지에 음향을 제공한 소스 동영상이 썸네일 뷰 모드에서 표시되는 형태의 일례를 나타낸다.

도 21의 (a)를 참조하면, 음향이 합성된 이미지들에 대응되는 썸네일들(2110, 2120, 2130, 2140)은 다른 썸네일들보다 돌출된 형태로 표시될 수 있다. 또한, 음향이 합성된 이미지들에는 합성된 음향의 개수가 숫자로 표시될 수 있으며, 음향이 합성됨을 나타내는 인디케이터가 썸네일 상에 표시될 수 있다. 여기서 이미지 자체에 음향이 합성된 이미지에 대응되는 썸네일들(2110, 2120)은 이미지에 포함된 특정 객체에 음향이 합성된 이미지에 대응되는 썸네일들(2130, 2140)과 상이한 형태의 인디케이터가 표시될 수 있다.

이미지 자체에 음향이 합성된 이미지와 이미지에 포함된 객체에 음향이 합성된 이미지는 도 21의 (b)와 같이 인디케이터 외에도 썸네일(2110')이 기울어졌는지 여부를 통해 표시되도록 할 수도 있다.

동영상의 경우, 도 21의 (c)와 같이 일반 동영상에 대응되는 썸네일(2150)과 달리 기울어진 형태로 썸네일(2160)이 표시되도록 할 수 있으며, 음향을 제공함을 나타내는 인디케이터가 부여되도록 할 수도 있다.

다음으로, 도 22 내지 도 24를 참조하여 인디케이터의 기능을 설명한다.

도 22는 본 발명의 일 실시예에 따른 이동 단말기에서 음향이 합성된 이미지에 대응되는 썸네일을 통해 수행되는 기능의 일례를 나타낸다.

도 22의 (a)에는 본 발명의 일 실시예에 따른 이미지 자체에 음향이 합성된 썸네일(2210)이 도시된다. 썸네일(2210)에는 이미지 자체에 음향이 합성됨을 나타내는 인디케이터(2211)가 표시된다. 썸네일 뷰 모드에서 인디케이터(2211)를 제외한 썸네일(2210) 부분이 선택되면 도 22의 (b)와 같이 썸네일에 대응되는 이미지가 전체화면으로 표시되고, 인디케이터(2211)가 선택되면 도 22의 (c)와 같이 이미지가 표시되면서 그에 합성된 음향이 재생될 수 있다.

도 23은 본 발명의 일 실시예에 따른 이동 단말기에서 음향을 다른 이미지에 제공한 동영상에 대응되는 썸네일을 통해 수행되는 기능의 일례를 나타낸다.

도 23의 (a)에는 본 발명의 일 실시예에 따른 이미지에 음향을 제공한 소스 동영상의 썸네일(2310)이 도시된다. 썸네일(2310)에는 이미지에 음향을 제공함을 나타내는 인디케이터(2311)가 표시된다. 썸네일 뷰 모드에서 인디케이터(2311)를 제외한 썸네일(2310) 부분이 선택되면 도 23의 (b)와 같이 썸네일에 대응되는 동영상이 처음부터 재생되고, 인디케이터(2311)가 선택되면 도 23의 (c)와 같이 이미지에 제공된 음향이 포함되는 부분이 재생될 수 있다.

한편, 해당 동영상이 음향을 제공한 이미지와, 이미지에서 소스 동영상으로의 바로가기가 수행될 수 있다. 이를 도 24 및 도 25를 참조하여 설명한다.

도 24는 본 발명의 일 실시예에 따른 이동 단말기에서 인디케이터를 통해 소스 동영상과 이미지의 전환이 수행되는 형태의 일례를 나타낸다.

도 24의 (a)와 같이 갤러리 어플리케이션의 썸네일 뷰 모드에서 소스 동영상에 대응되는 썸네일(2410)의 인디케이터가 선택되거나, 도 24의 (b)와 같이 동영상 재생 어플리케이션의 동영상 리스트에서 인디케이터(2420)가 선택되는 경우, 도 24의 (c)와 같이 이미지에 제공된 음향이 포함되는 부분이 바로 재생될 수 있다. 이때, 프로그레스바 상에는 음향이 제공된 이미지의 썸네일(2430)이 표시될 수 있다. 여기서 썸네일(2430)이 선택되면 해당 이미지로의 바로가기가 실행되어 도 24의 (d)와 같이 썸네일(2430)에 대응되는 이미지(2440)가 표시될 수 있다.

도 25는 본 발명의 일 실시예에 따른 이동 단말기에서 인디케이터를 통해 소스 동영상과 이미지의 전환이 수행되는 형태의 일례를 나타낸다.

도 25의 (a)를 참조하면, 음향이 합성된 이미지(2510)가 표시될 때 음향 아이콘(2520)이 음향 재생이나 음향 편집을 위한 터치 입력과는 다른 형태의 터치 입력(예를 들어, 소정 시간 내에 2회 연속 터치나 롱터치 등)을 통해 선택될 수 있다. 그에 따라 도 25의 (b)와 같이 해당 이미지(2510)에 음향을 제공한 소스 동영상이 제공한 음향을 포함하는 부분부터 재생될 수 있다. 이때, 프로그레스바 상에는 음향을 제공한 이미지의 썸네일(2510')이 표시될 수 있다. 여기서 썸네일(2510')이 선택되면 다시 25의 (a)와 같은 상태로 복귀될 수 있다.

다음으로, 메모리(160)가 아닌 외부 소스에서 이미지에 합성될 음향을 검색하는 방법을 도 26 및 도 27을 참조하여 설명한다. 도 26 및 도 27에서는 외부 소스로 소셜 네트워크 서비스(SNS)가 이용되는 경우를 설명한다.

도 26 및 도 27은 본 발명의 일 실시예에 따른 이동 단말기에서 소셜 네트워크 서비스를 통해 이미지에 합성될 음향을 획득하는 방법의 일례를 나타낸다.

도 26의 (a)를 참조하면, 이미지(2620)가 표시될 때 음향 합성 아이콘(2620)이 선택될 수 있다. 그에 따라 제어부(180)는 이미지(2610)를 분석한 후 결정된 검색 조건에 따라 메모리(160)에서 후보 음향을 검색하나, 조건을 만족하는 후보 음향이 검색되지 않을 수 있다. 이러한 경우, 도 26의 (b)와 같이 제어부(180)는 대안으로 두 종류의 서로 다른 SNS에 대응되는 아이콘(2631, 2632)이 표시되도록 할 수 있다. 여기서 사용자가 어느 한 아이콘(2632)을 선택하면, 제어부(180)는 사용자의 SNS 계정에서 검색 조건에 따른 검색을 수행한다. 여기서 검색 대상은 반드시 음향을 포함할 필요는 없다. 예를 들어, 도 26의 (c)에서는 이미지에 관련된 2 건의 텍스트(2641, 2642)가 검색 결과로 표시되었다. 여기서 사용자가 어느 하나의 텍스트를 선택하면, 제어부는 해당 텍스트를 TTS 처리하여 음성으로 변환한 후 해당 이미지에 대응하여 저장할 수 있다. 그에 따라 제어부(180)는 해당 이미지에 음향 아이콘(2650)이 표시되도록 할 수 있다. 음향 아이콘(2650)이 선택되는 경우, 도 27의 (a)와 같이 합성된 음향이 재생될 수 있다. 여기서 음향이 재생될 때 합성된 음향의 소스가 되는 SNS의 아이콘(2710)이 함께 표시될 수 있다. SNS 아이콘(2710)이 선택되는 경우, 도 27의 (b)와 같이 소스(S2641')가 되는 SNS 포스팅으로의 바로가기가 수행될 수 있으며, 해당 포스팅에는 이미지(2610')가 추가로 업로드될 수도 있다.

한편, 상술한 실시예들에서 음향이 합성된 이미지 컨텐츠가 메모리에 저장될 때, 음향과 이미지가 별도의 파일 형태로 저장될 수도 있고, 하나의 파일 형태로 저장될 수도 있다. 예를 들어, 이미지에 하나의 음향이 대응되는 경우, 해당 컨텐츠는 jpg 파일 하나와 mp3 파일 하나로 저장되거나, 하나의 플래시 파일로 저장될 수도 있다. 또한, 이러한 이미지가 재생되는 경우, 재생 어플리케이션에서 해당 이미지에 음향이 합성되었는지 여부를 이미지 파일의 헤더 정보나 동일 저장 경로 상에 파일 명의 적어도 일부가 동일한 음향 파일이 존재하는지 여부를 통해 판단할 수 있다.

아울러, 본 발명의 일 실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.

상기와 같이 설명된 이동 단말기 및 그 제어방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

Claims (20)

1. 이미지를 선택하는 단계;
   음향 합성 명령이 입력되면, 상기 선택된 이미지와 관련된 적어도 하나의 후보 음향을 검색하는 단계; 및
   상기 검색된 후보 음향 중 어느 하나를 상기 선택된 이미지와 연관하여 저장하는 단계를 포함하는 이동 단말기의 제어방법.
2. 제 1항에 있어서,
   상기 적어도 하나의 후보 음향은,
   적어도 하나의 동영상에 포함되는, 이동 단말기의 제어방법.
3. 제 2항에 있어서,
   상기 검색된 후보 음향의 목록을 표시하는 단계; 및
   상기 표시된 목록에서 어느 하나의 후보 음향을 선택받는 단계를 더 포함하되,
   상기 선택된 이미지와 연관하여 저장되는 후보 음향은, 상기 선택받은 후보 음향인, 이동 단말기의 제어방법.
4. 제 3항에 있어서,
   상기 후보 음향의 목록은,
   상기 적어도 하나의 후보 음향이 포함된 동영상 각각에서, 해당 후보 음향이 포함된 시점의 영상에 대응되는 썸네일을 포함하는, 이동 단말기의 제어방법.
5. 제 4항에 있어서,
   상기 각 썸네일은 재생 메뉴 버튼을 포함하고,
   상기 각 썸네일 중 어느 하나의 재생 메뉴버튼이 선택되면, 상기 재생 메뉴버튼이 선택된 썸네일에 대응되는 후보 음향이 재생되는 단계를 더 포함하는, 이동 단말기의 제어방법.
6. 제 5항에 있어서,
   상기 선택된 썸네일에 대응되는 후보 음향이 재생될 때,
   제 1 터치 입력이 입력되면 상기 재생되는 후보 음향의 재생 시점을 변경하는 단계; 및
   제 2 터치 입력이 입력되면 다른 후보 음향을 재생하는 단계를 더 포함하는, 이동 단말기의 제어방법.
7. 제 1항에 있어서,
   상기 선택된 이미지와 연관하여 저장되는 후보 음향은,
   상기 검색된 적어도 하나의 음향 중 상기 선택된 이미지와 가장 관련도가 높은 후보 음향인, 이동 단말기의 제어방법.
8. 제 1항에 있어서,
   상기 선택된 이미지에서 특정 객체를 선택하는 단계를 더 포함하되,
   상기 검색하는 단계는, 상기 선택된 객체와 관련된 적어도 하나의 후보 음향을 검색하도록 수행되고,
   상기 저장하는 단계는, 상기 검색된 후보 음향 중 어느 하나를 상기 선택된 객체와 연관하여 저장하도록 수행되는, 이동 단말기의 제어방법.
9. 제 1항에 있어서,
   상기 저장하는 단계 이후 상기 제 1 이미지에 상기 저장된 음향에 대응되는 인디케이터를 표시하는 단계;
   상기 인디케이터가 제 1 명령을 통해 선택되면, 상기 저장된 음향을 재생하는 단계; 및
   상기 인디케이터가 제 2 명령을 통해 선택되면, 상기 저장된 음향에 대응되는 소스 컨텐츠로의 바로가기를 수행하는 단계를 더 포함하는, 이동 단말기의 제어방법.
10. 제 1항에 있어서,
    상기 검색하는 단계는,
    선택된 이미지와 유사한 다른 이미지와 연관하여 저장된 음향의 사용 빈도, 상기 선택된 이미지에 설정된 태그, 상기 선택된 이미지의 파일명, 상기 선택된 이미지에 포함되는 객체의 인식 결과, 상기 선택된 이미지의 생성 시점, 생성 장소, 중 적어도 하나를 고려하여 수행되는, 이동 단말기의 제어방법.
11. 터치스크린;
    메모리; 및
    상기 터치스크린을 통해 이미지가 선택된 상태에서 음향 합성 명령이 입력되면, 상기 선택된 이미지와 관련된 적어도 하나의 후보 음향을 검색하고, 상기 검색된 후보 음향 중 어느 하나를 상기 선택된 이미지와 연관하여 상기 메모리에 저장하는 제어부;를 포함하는 이동 단말기.
12. 제 11항에 있어서,
    상기 적어도 하나의 후보 음향은,
    상기 메모리에 저장된 적어도 하나의 동영상에 포함되는, 이동 단말기.
13. 제 12항에 있어서,
    상기 제어부는,
    상기 터치스크린 상에 상기 검색된 후보 음향의 목록이 표시되도록 하고, 상기 표시된 목록에서 어느 하나의 후보 음향을 사용자로부터 선택받도록 하며, 상기 선택받은 후보 음향이 상기 선택된 이미지와 연관하여 저장되도록 제어하는, 이동 단말기.
14. 제 13항에 있어서,
    상기 후보 음향의 목록은,
    상기 적어도 하나의 후보 음향이 포함된 동영상 각각에서, 해당 후보 음향이 포함된 시점의 영상에 대응되는 썸네일을 포함하는, 이동 단말기.
15. 제 14항에 있어서,
    상기 각 썸네일은 재생 메뉴 버튼을 포함하고,
    상기 제어부는,
    상기 각 썸네일 중 어느 하나의 재생 메뉴버튼이 선택되면, 상기 재생 메뉴버튼이 선택된 썸네일에 대응되는 후보 음향이 재생되도록 제어하는, 이동 단말기.
16. 제 15항에 있어서,
    상기 선택된 썸네일에 대응되는 후보 음향이 재생될 때 상기 제어부는,
    제 1 터치 입력이 입력되면 상기 재생되는 후보 음향의 재생 시점을 변경하고, 제 2 터치 입력이 입력되면 다른 후보 음향을 재생하는, 이동 단말기.
17. 제 11항에 있어서,
    상기 선택된 이미지와 연관하여 저장되는 후보 음향은,
    상기 검색된 적어도 하나의 음향 중 상기 선택된 이미지와 가장 관련도가 높은 후보 음향인, 이동 단말기.
18. 제 11항에 있어서,
    상기 제어부는,
    상기 선택된 이미지에서 특정 객체가 선택되는 경우, 상기 선택된 객체와 관련된 적어도 하나의 후보 음향을 검색하고, 상기 검색된 후보 음향 중 어느 하나가 상기 선택된 객체와 연관하여 저장되도록 제어하는, 이동 단말기.
19. 제 11항에 있어서,
    상기 제어부는,
    상기 저장 이후 상기 제 1 이미지에 상기 저장된 음향에 대응되는 인디케이터가 표시되도록 하고, 상기 인디케이터가 제 1 명령을 통해 선택되면 상기 저장된 음향이 재생되도록 하고, 상기 인디케이터가 제 2 명령을 통해 선택되면 상기 저장된 음향에 대응되는 소스 컨텐츠로의 바로가기를 수행하는, 이동 단말기.
20. 제 11항에 있어서,
    상기 제어부는,
    상기 적어도 하나의 후보 음향에 대한 검색을 수행함에 있어 선택된 이미지와 유사한 다른 이미지와 연관하여 저장된 음향의 사용 빈도, 상기 선택된 이미지에 설정된 태그, 상기 선택된 이미지의 파일명, 상기 선택된 이미지에 포함되는 객체의 인식 결과, 상기 선택된 이미지의 생성 시점, 생성 장소, 중 적어도 하나를 고려하는, 이동 단말기.

Images