KR20170019649A - 사운드를 제공하는 전자 장치 및 방법 - Google Patents

사운드를 제공하는 전자 장치 및 방법 Download PDF

Info

Publication number
KR20170019649A
KR20170019649A KR1020150113724A KR20150113724A KR20170019649A KR 20170019649 A KR20170019649 A KR 20170019649A KR 1020150113724 A KR1020150113724 A KR 1020150113724A KR 20150113724 A KR20150113724 A KR 20150113724A KR 20170019649 A KR20170019649 A KR 20170019649A
Authority
KR
South Korea
Prior art keywords
electronic device
sound
sound source
user
processor
Prior art date
Application number
KR1020150113724A
Other languages
English (en)
Inventor
송지태
김성환
문정원
박상희
유지혁
이정원
임종욱
이정은
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020150113724A priority Critical patent/KR20170019649A/ko
Priority to US15/235,766 priority patent/US20170046123A1/en
Publication of KR20170019649A publication Critical patent/KR20170019649A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30—Control circuits for electronic adaptation of the sound field
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2420/00—Details of connection covered by H04R, not provided for in its groups
    • H04R2420/01—Input selection or mixing for amplifiers or loudspeakers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00—Signal processing covered by H04R, not provided for in its groups
    • H04R2430/01—Aspects of volume control, not necessarily automatic, in sound systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2499/00—Aspects covered by H04R or H04S not otherwise provided for in their subgroups
    • H04R2499/10—General applications
    • H04R2499/11—Transducers incorporated or for use in hand-held devices, e.g. mobile phones, PDA's, camera's
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R5/00—Stereophonic arrangements
    • H04R5/04—Circuit arrangements, e.g. for selective connection of amplifier inputs/outputs to loudspeakers, for loudspeaker detection, or for adaptation of settings to personal preferences or hearing impairments
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/11—Positioning of individual sound objects, e.g. moving airplane, within a sound field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/13—Aspects of volume control, not necessarily automatic, in stereophonic sound systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/15—Aspects of sound capture and related signal processing for recording or reproduction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2420/00—Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/01—Enhancing the perception of the sound image or of the spatial distribution using head related transfer functions [HRTF's] or equivalents thereof, e.g. interaural time difference [ITD] or interaural level difference [ILD]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30—Control circuits for electronic adaptation of the sound field
    • H04S7/302—Electronic adaptation of stereophonic sound system to listener position or orientation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30—Control circuits for electronic adaptation of the sound field
    • H04S7/302—Electronic adaptation of stereophonic sound system to listener position or orientation
    • H04S7/303—Tracking of listener position or orientation
    • H04S7/304—For headphones
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30—Control circuits for electronic adaptation of the sound field
    • H04S7/305—Electronic adaptation of stereophonic audio signals to reverberation of the listening space
    • H04S7/306—For headphones

Abstract

본 발명의 다양한 실시 예들은 전자 장치에 관한 것으로, 상기 전자 장치는 적어도 하나의 객체를 표시하는 디스플레이 모듈; 소리를 재생하는 오디오 모듈; 및 상기 디스플레이 모듈 및 상기 오디오 모듈과 전기적으로 연결된 프로세서;를 포함하고, 상기 프로세서는, 상기 객체에 대한 가상 공간 좌표를 구성하고, 상기 객체에 음원을 매칭하고, 상기 구성된 가상 공간 좌표에 기초하여 상기 음원에 대한 음향 효과를 설정하고, 상기 음향 효과가 설정된 상기 음원을 상기 오디오 모듈을 통해 재생하는 것을 특징으로 할 수 있다. 이 외에도, 명세서를 통해 파악될 수 있는 다른 실시 예들이 가능하다.

Description

사운드를 제공하는 전자 장치 및 방법{Device For Providing Sound User Interface and Method Thereof}
본 발명의 다양한 실시 예는, 사운드를 제공하는 전자 장치 및 방법에 관한 것이다.
정보 통신 기술의 발전으로 기지국 등의 네트워크 장치가 전국 각지에 설치되었고, 전자 장치는 다른 전자 장치와 네트워크를 통해 데이터를 송수신함으로써, 사용자로 하여금 전국 어디에서나 자유롭게 네트워크를 사용할 수 있다.
다양한 종류의 전자 장치는 최근 디지털 컨버전스(convergence)의 추세에 따라 다양한 기능을 제공하게 되었다. 예를 들어, 스마트폰은 전화를 하는 용도 이외에, 상기 네트워크를 이용하여 인터넷 접속 기능을 지원하고, 음악 또는 비디오의 재생 기능, 이미지 센서를 이용한 사진, 동영상 등의 촬영 기능을 지원한다.
나아가, 전자 장치에서 상기와 같은 편리한 기능들을 효과적으로 사용자에게 제공하기 위한 방법으로, 다양한 UI(user interface) 기술들이 개발되었다. 대표적인 예로 전자 장치의 스크린에 표시되는 GUI(graphic user interface)를 들 수 있다.
본 발명의 다양한 실시 예는, 스크린에 표시된 객체에 대한 음원을 의도한 공간에서 재생되는 것처럼 사용자가 느끼도록 사운드를 제공하는 전자 장치 및 방법을 제공하고자 한다. 다만, 본 발명의 다양한 실시 예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 다양한 실시 예에 따른 전자 장치는 적어도 하나의 객체를 표시하는 디스플레이 회로; 소리를 재생하는 오디오 회로; 및 상기 디스플레이 회로 및 상기 오디오 회로와 전기적으로 연결된 프로세서;를 포함하고, 상기 프로세서는, 상기 객체에 대한 가상 공간 좌표를 구성하고, 상기 객체에 음원을 매칭하고, 상기 구성된 가상 공간 좌표에 기초하여 상기 음원에 대한 음향 효과를 설정하고, 상기 음향 효과가 설정된 상기 음원을 상기 오디오 회로를 통해 재생하도록 설정된 것을 특징으로 할 수 있다.
또한, 상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 다양한 실시 예에 따른 전자 장치에서 수행되는 방법은 객체를 표시하는 동작; 상기 객체에 대한 가상 공간 좌표를 구성하는 동작; 상기 객체에 음원을 매칭하는 동작; 상기 구성된 가상 공간 좌표에 기초하여 상기 음원에 대한 음향 효과를 설정하는 동작; 및 상기 음향 효과가 설정된 상기 음원을 재생하는 동작;을 포함하는 것을 특징으로 할 수 있다.
또한, 상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 다양한 실시 예에 따른 전자 장치는 디스플레이; 오디오 데이터를 포함하는 적어도 하나의 컨텐츠를 적어도 임시로 저장하는 메모리; 및 상기 디스플레이, 및 메모리와 전기적으로 연결된 적어도 하나의 프로세서를 포함하며, 상기 메모리는, 실행시에, 상기 프로세서가, 상기 메모리에 저장된 적어도 하나의 컨텐츠에 대응하는 적어도 하나의 오브젝트 및 상기 오브젝트를 디스플레이하는 어플리케이션 UI를 상기 디스플레이 상에 동시에 표시하고, 상기 어플리케이션 UI 상에서 상기 표시된 적어도 하나의 오브젝트의 상대적인 위치를 판단하고, 상기 상대적인 위치에 적어도 일부 기초하여, 상기 표시된 적어도 하나의 오브젝트의 오디오 데이터를 공간적으로 맵핑하고, 상기 맵핑에 적어도 일부 기초하여 상기 오디오 데이터를 합성(combine)하도록 하는 인스트럭션들을 저장하는 것을 특징으로 할 수 있다.
또한, 상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 다양한 실시 예에 따른 전자 장치는 상기 전자 장치와 기능적으로 연결된 디스플레이를 통해 음원에 대응하는 객체가 표시될 복수개의 지정된 위치들을 저장하기 위한 메모리, 상기 복수개의 지정된 위치들은 제 1 지정된 위치 및 제 2 지정된 위치를 포함하고; 및 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는: 상기 디스플레이를 통해, 상기 객체와 연관하여 상기 제 1 지정된 위치 및 상기 제 2 지정된 위치를 표시하고; 상기 객체와 연관된 입력을 수신하고; 및 상기 입력에 반응하여, 상기 객체를 상기 제 1 지정된 위치로부터 상기 제 2 지정된 위치로 이동시키되, 상기 객체가 상기 제 1 지정된 위치로부터 상기 제 1 지정된 위치와 상기 제 2 지정된 위치 사이의 지점까지 이동된 거리 또는 방향에 적어도 기반하여, 상기 음원을 그 음향 효과를 변화시킨 상태로 출력하도록 설정된 것을 특징으로 할 수 있다.
전술한 본 발명의 과제 해결 수단 중 적어도 어느 하나에 의하면, 본 발명의 다양한 실시 예에 따른 상기 전자 장치 및 방법은, 스크린에 표시된 객체의 위치에 대응하여 특정 위치에서 음원이 재생되도록 느낄 수 있는 사운드 UI를 제공함으로써, 사용자는 시각적인 UI와 함께 청각적인 UI 효과를 제공받을 수 있다.
도 1은 본 발명의 다양한 실시 예에 따른, 네트워크 환경 내의 전자 장치를 도시한 도면이다.
도 2는 본 발명의 다양한 실시 예에 따른, 전자 장치의 블록도이다.
도 3은 본 발명의 다양한 실시 예에 따른, 프로그램 모듈의 블록도이다.
도 4는 본 발명의 다양한 실시 예에 따른, UI(user interface)를 제공하는 전자 장치 400의 블록도이다.
도 5a의 오른쪽에 도시된 도면은 사용자가 전자 장치 400을 들고 있는 모습과 좌표계를 나타낸 것이다.
도 5b는 본 발명의 다양한 실시 예에 따른, 도 5a의 전자 장치 400에 표시된 객체에 대해 적용된 가상 공간 좌표 변환을 나타낸 도면이다.
도 5c는 본 발명의 다양한 실시 예에 따른, 도 5a의 전자 장치 400에 표시된 객체에 대해 적용된 가상 공간 좌표 변환을 나타낸 도면이다.
도 6a는 본 발명의 다양한 실시 예에 따른, 바닥에 놓인 전자 장치를 내려다 바라보는 사용자의 시선을 나타낸 도면이다.
도 6b는 본 발명의 다양한 실시 예에 따른, 도 6a의 사용자의 시선에 기초하여 생성된 가상 공간을 나타낸 도면이다.
도 7은 본 발명의 다양한 실시 예에 따른, 키패드 객체에 대해 적용된 가상 공간 좌표 변환을 나타낸 도면이다.
도 8은 본 발명의 다양한 실시 예에 따른, 캔버스 객체에 대해 적용된 가상 공간 좌표 변환을 나타낸 도면이다.
도 9a는 본 발명의 다양한 실시 예에 따른, 앨범 커버 이미지 객체가 표시된 음악 감상 어플리케이션을 나타낸 도면이다.
도 9b는 본 발명의 다양한 실시 예에 따른, 도 9a의 앨범 커버 이미지 객체에 대해 적용된 가상 공간 좌표 변환을 나타낸 도면이다.
도 9c는 본 발명의 다양한 실시 예에 따른, 도 9a의 앨범 커버 이미지 객체가 표시된 음악 감상 어플리케이션에서 사용자로부터 수신한 유저 입력을 적용하는 동작을 나타낸 도면이다.
도 9d는 본 발명의 다양한 실시 예에 따른, 도 9c에서 입력된 유저 입력에 기초하여 앨범 커버 이미지 객체에 대해 적용된 가상 공간 좌표 변환을 나타낸 도면이다.
도 10은 본 발명의 다른 다양한 실시 예에 따른, 앨범 커버 이미지 객체가 표시된 음악 감상 어플리케이션을 나타낸 도면이다.
도 11은 본 발명의 다른 다양한 실시 예에 따른, 앨범 커버 이미지 객체가 표시된 음악 감상 어플리케이션을 나타낸 도면이다.
도 12는 본 발명의 다양한 실시 예에 따른, 전자 장치가 사운드 UI를 제공하는 방법을 나타낸 순서도이다.
도 13은 본 발명의 다양한 실시 예에 따른, 전자 장치가 3차원 객체에 대응하여 사운드 UI를 제공하는 방법을 나타낸 순서도이다.
이하, 본 문서의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시 예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상"등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," "A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제1 사용자 기기와 제2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시 예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에 따르면, 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
이하 첨부 도면에서는, 본 발명의 다양한 실시 예에 따른 전자 장치는 스마트폰인 것을 예로 들어 설명하겠다.
도 1을 참조하여, 다양한 실시 예에서의, 네트워크 환경 내의 전자 장치 100이 기재된다. 전자 장치 100은 버스 110, 프로세서 120, 메모리 130, 입출력 인터페이스 150, 디스플레이 장치 160, 및 통신 인터페이스 170을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치 100은, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.
버스 110은, 예를 들면, 구성요소들 110 내지 170을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서 120은, 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서 120은, 예를 들면, 전자 장치 100의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리 130은, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리 130은, 예를 들면, 전자 장치 100의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 메모리 130은 소프트웨어 및/또는 프로그램 140을 저장할 수 있다. 프로그램 140은, 예를 들면, 커널 141, 미들웨어 143, 어플리케이션 프로그래밍 인터페이스(application programming interface(API)) 145, 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 147 등을 포함할 수 있다. 커널 141, 미들웨어 143, 또는 API 145의 적어도 일부는, 운영 시스템(operating system(OS))으로 지칭될 수 있다.
커널 141은, 예를 들면, 다른 프로그램들(예: 미들웨어 143, API 145, 또는 어플리케이션 프로그램 147)에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스 110, 프로세서 120, 또는 메모리 130 등)을 제어 또는 관리할 수 있다. 또한, 커널 141은 미들웨어 143, API 145, 또는 어플리케이션 프로그램 147에서 전자 장치 100의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어 143은, 예를 들면, API 145 또는 어플리케이션 프로그램 147이 커널 141과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한, 미들웨어 143은 어플리케이션 프로그램 147로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어 143은 어플리케이션 프로그램 147 중 적어도 하나에 전자 장치 100의 시스템 리소스(예: 버스 110, 프로세서 120, 또는 메모리 130 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어 143은 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.
API 145는, 예를 들면, 어플리케이션 147이 커널 141 또는 미들웨어 143에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스 150은, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치 100의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스 150은 전자 장치 100의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이 회로 160은, 예를 들면, 액정 디스플레이(liquid crystal display(LCD)), 발광 다이오드(light-emitting diode(LED)) 디스플레이, 유기 발광 다이오드(organic light-emitting diode(OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이 회로 160은, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 디스플레이 회로 160은, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
통신 회로 170은, 예를 들면, 전자 장치 100과 외부 장치(예: 제1 외부 전자 장치 102, 제2 외부 전자 장치 104, 또는 서버 106) 간의 통신을 설정할 수 있다. 예를 들면, 통신 회로 170은 무선 통신 또는 유선 통신을 통해서 네트워크 162에 연결되어 외부 장치(예: 제2 외부 전자 장치 104 또는 서버 106)와 통신할 수 있다.
무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면, LTE(long-term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용할 수 있다. 또한, 무선 통신은, 예를 들면, 근거리 통신 164를 포함할 수 있다. 근거리 통신 164는, 예를 들면, WiFi(wireless fidelity), 블루투스(Bluetooth), NFC(near field communication), 또는 GNSS(global navigation satellite system) 등 중 적어도 하나를 포함할 수 있다. GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system 중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크 162는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
제1 외부 전자 장치 102 및 제2 외부 전자 장치 104 각각은 전자 장치 100과 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 서버 106은 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시 예에 따르면, 전자 장치 100에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 제1 외부 전자 장치 102, 제2 외부 전자 장치 104, 또는 서버 106에서 실행될 수 있다. 한 실시 예에 따르면, 전자 장치 100)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치 100은 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 전자 장치(예: 제1 외부 전자 장치 102, 제2 외부 전자 장치 104, 또는 서버 106)에게 요청할 수 있다. 다른 전자 장치(예: 제1 외부 전자 장치 102, 제2 외부 전자 장치 104, 또는 서버 106)는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치 100로 전달할 수 있다. 전자 장치 100은 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시 예에 따른 전자 장치 200의 블록도이다. 전자 장치 200은, 예를 들면, 도 1에 도시된 전자 장치 100의 전체 또는 일부를 포함할 수 있다. 전자 장치 200은 하나 이상의 프로세서(예: AP(application processor)) 210, 통신 회로 220, 가입자 식별 모듈 224, 메모리 230, 센서 회로 240, 입력 장치 250, 디스플레이 회로 260, 인터페이스 270, 오디오 모듈 280, 카메라 모듈 291, 전력 관리 모듈 295, 배터리 296, 인디케이터 297, 및 모터 298을 포함할 수 있다.
프로세서 210은, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서 210에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서 210은, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시 예에 따르면, 프로세서 210은 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서 210은 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈 221)를 포함할 수도 있다. 프로세서 210은 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
통신 회로 220은, 도 1의 통신 회로 170과 동일 또는 유사한 구성을 가질 수 있다. 통신 회로 220은, 예를 들면, 셀룰러 모듈 221, WiFi 모듈 223, 블루투스 모듈 225, GNSS 모듈 227(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈 228 및 RF(radio frequency) 모듈 229를 포함할 수 있다.
셀룰러 모듈 221은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈 221은 가입자 식별 모듈(예: SIM 카드) 224를 이용하여 통신 네트워크 내에서 전자 장치 200의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈 221은 프로세서 210이 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈 221은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
WiFi 모듈 223, 블루투스 모듈 225, GNSS 모듈 227 또는 NFC 모듈 228 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈 221, WiFi 모듈 223, 블루투스 모듈 225, GNSS 모듈 227 또는 NFC 모듈 228 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈 229는, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈 229는, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈 221, WiFi 모듈 223, 블루투스 모듈 225, GNSS 모듈 227 또는 NFC 모듈 228 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈 224는, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리 230(예: 메모리 130)은, 예를 들면, 내장 메모리 232 또는 외장 메모리 234를 포함할 수 있다. 내장 메모리 232는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
외장 메모리 234는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리 234는 다양한 인터페이스를 통하여 전자 장치 200과 기능적으로 및/또는 물리적으로 연결될 수 있다.
센서 회로 240은, 예를 들면, 물리량을 계측하거나 전자 장치 200의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 회로 240은, 예를 들면, 제스처 센서 240A, 자이로 센서 240B, 기압 센서 240C, 마그네틱 센서 240D, 가속도 센서 240E, 그립 센서 240F, 근접 센서 240G, 컬러(color) 센서 240H(예: RGB(red, green, blue) 센서), 생체 센서 240I, 온/습도 센서 240J, 조도 센서 240K, 또는 UV(ultra violet) 센서 240M 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 센서 회로 240은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 회로 240은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치 200은 프로세서 210의 일부로서 또는 별도로, 센서 회로 240을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서 210이 슬립(sleep) 상태에 있는 동안, 센서 회로 240을 제어할 수 있다.
입력 장치 250은, 예를 들면, 터치 패널(touch panel) 252, (디지털) 펜 센서(pen sensor) 254, 키(key) 256, 또는 초음파(ultrasonic) 입력 장치 258을 포함할 수 있다. 터치 패널 252는, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널 252는 제어 회로를 더 포함할 수도 있다. 터치 패널 252는 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서 254는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 키 256은, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치 258은 마이크(예: 마이크 288)를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이 회로 260(예: 디스플레이 회로 160)은 패널 262, 홀로그램 장치 264, 또는 프로젝터 266을 포함할 수 있다. 패널 262는, 도 1의 디스플레이 회로 160과 동일 또는 유사한 구성을 포함할 수 있다. 패널 262는, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널 262는 터치 패널 252와 하나의 모듈로 구성될 수도 있다. 홀로그램 장치 264는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터 266은 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치 200의 내부 또는 외부에 위치할 수 있다. 한 실시 예에 따르면, 디스플레이 회로 260은 패널 262, 홀로그램 장치 264, 또는 프로젝터 266을 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스 270은, 예를 들면, HDMI(high-definition multimedia interface) 272, USB(universal serial bus) 274, 광 인터페이스(optical interface) 276, 또는 D-sub(D-subminiature) 278을 포함할 수 있다. 인터페이스 270은, 예를 들면, 도 1에 도시된 입출력 인터페이스 150에 포함될 수 있다. 추가적으로 또는 대체적으로(additionally and alternatively), 인터페이스 270은, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 회로 280은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 회로 280의 적어도 일부 구성요소는, 예를 들면, 도 1에 도시된 입출력 인터페이스 150에 포함될 수 있다. 오디오 회로 280은, 예를 들면, 스피커 282, 리시버 284, 이어폰 286, 또는 마이크 288 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈 291은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 xenon lamp 등)를 포함할 수 있다.
전력 관리 모듈 295는, 예를 들면, 전자 장치 200의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈 295는 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리 296의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리 296은, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터 297은 전자 장치 200 또는 그 일부(예: 프로세서 210)의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터 298은 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치 200은 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시 예에 따른 전자 장치의 구성요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시 예에 따른 프로그램 모듈의 블록도이다. 한 실시 예에 따르면, 프로그램 모듈 310(예: 프로그램 140)은 전자 장치(예: 전자 장치 100)에 관련된 자원을 제어하는 운영 체제(operating system(OS)) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램 147)을 포함할 수 있다. 운영 체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈 310은 커널 320, 미들웨어 330, 어플리케이션 프로그래밍 인터페이스(application programming interface (API)) 360, 및/또는 어플리케이션 370을 포함할 수 있다. 프로그램 모듈 310의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 다른 전자 장치(예: 제1 외부 전자 장치 102, 제2 외부 전자 장치 104, 서버 106 등)로부터 다운로드(download) 가능하다.
커널 320(예: 커널 141)은, 예를 들면, 시스템 리소스 매니저 321 및/또는 디바이스 드라이버 323을 포함할 수 있다. 시스템 리소스 매니저 321은 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저 321은 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버 323은, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어 330은, 예를 들면, 어플리케이션 370이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션 370이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API 360을 통해 다양한 기능들을 어플리케이션 370으로 제공할 수 있다. 한 실시 예에 따르면, 미들웨어 330(예: 미들웨어 143)은 런타임 라이브러리 335, 어플리케이션 매니저(application manager) 341, 윈도우 매니저(window manager) 342, 멀티미디어 매니저(multimedia manager) 343, 리소스 매니저(resource manager) 344, 파워 매니저(power manager) 345, 데이터베이스 매니저(database manager) 346, 패키지 매니저(package manager) 347, 연결 매니저(connectivity manager) 348, 통지 매니저(notification manager) 349, 위치 매니저(location manager) 350, 그래픽 매니저(graphic manager) 351, 또는 보안 매니저(security manager) 352 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리 335는, 예를 들면, 어플리케이션 370이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리 335는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저 341은, 예를 들면, 어플리케이션 370 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저 342는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저 343은 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저 344는 어플리케이션 370 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저 345는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저 346은 어플리케이션 370 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저 347은 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저 348은, 예를 들면, WiFi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저 349는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저 350은 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저 351은 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저 352는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시 예에 따르면, 전자 장치(예: 전자 장치 100)가 전화 기능을 포함한 경우, 미들웨어 330은 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어 330은 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어 330은 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어 330은 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API 360(예: API 145)은, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션 370(예: 어플리케이션 프로그램 147)은, 예를 들면, 홈 371, 다이얼러 372, SMS/MMS 373, IM(instant message) 374, 브라우저 375, 카메라 376, 알람 377, 컨택트 378, 음성 다이얼 379, 이메일 380, 달력 381, 미디어 플레이어 382, 앨범 383, 또는 시계 384, 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시 예에 따르면, 어플리케이션 370은 전자 장치(예: 전자 장치 100)와 다른 전자 장치(예: 제1 외부 전자 장치 102 및 제2 외부 전자 장치 104) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 다른 전자 장치(예: 제1 외부 전자 장치 102 및 제2 외부 전자 장치 104)로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 다른 전자 장치(예: 제1 외부 전자 장치 102 및 제2 외부 전자 장치 104)의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시 예에 따르면, 어플리케이션 370은 다른 전자 장치(예: 제1 외부 전자 장치 102 및 제2 외부 전자 장치 104)의 속성(에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션 등)을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션 370은 외부 전자 장치(예: 제1 외부 전자 장치 102, 제2 외부 전자 장치 104, 또는 서버 106)로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션 370은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 프로그램 모듈 310의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시 예에 따르면, 프로그램 모듈 310의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈 310의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서 210)에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈 310의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
도 4는 본 발명의 다양한 실시 예에 따른, UI(user interface)를 제공하는 전자 장치 400의 블록도이다. 도 4를 참조하면, 전자 장치 400은, 예를 들면, 디스플레이 회로 410, 유저 입력 회로 420, 센서 회로 430, 오디오 회로 440, 프로세서 450, 및 메모리 460을 포함할 수 있다.
디스플레이 회로 410(예: 디스플레이 회로 160, 디스플레이 회로 260)은 각종 컨텐츠(예: 어플리케이션 실행 화면, 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)를 전자 장치 400의 스크린(미도시)에 표시할 수 있다. 상기 스크린은, 예를 들어, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems, MEMS) 디스플레이, 또는 전자 종이(electronic paper) 디스플레이 등을 포함할 수 있다.
유저 입력 회로 420(예: 입력 장치 250)은 사용자로부터 입력되는 유저 입력을 처리할 수 있다. 상기 유저 입력은 상기 사용자의 손가락 또는 스타일러스(stylus, 예를 들어 전자펜)를 이용한 터치 입력일 수 있다. 또한, 상기 유저 입력은 상기 사용자의 손가락 또는 스타일러스가 상기 스크린에 직접 접촉하지 않아도 전기적인 변화를 통해 입력을 가할 수 있는, 예를 들어, 호버(hover) 입력을 포함할 수 있다. 본 발명의 다양한 실시 예에 따르면, 유저 입력 회로 420은 터치 IC일 수 있다.
한 실시 예에 따르면, 유저 입력 회로 420은 상기 터치 입력의 다양한 종류를 구별하여 처리할 수 있다. 상기 유저 입력의 종류는, 예를 들어, 터치 인풋, 터치 무브, 터치 릴리즈, 터치 앤 드래그, 드래그 앤 드롭 등을 포함할 수 있다.
또한, 상기 유저 입력은 사용자의 제스처, 시선, 및 음성 등을 포함할 수 있다.
본 발명의 다양한 실시 예에 따르면, 유저 입력 회로 420은 센서 회로 430(예: 센서 회로 240)에 포함된 다양한 센서를 이용하여 유저 입력을 수신할 수 있다. 예를 들어, 유저 입력 회로 420은 터치 센서를 이용하여 사용자의 터치 입력, 전자펜 입력, 또는 호버 입력을 수신할 수 있다. 또한, 유저 입력 회로 420은 적외선 센서 또는 이미지 센서를 이용하여 사용자의 시선을 유저 입력으로 수신할 수 있다. 나아가, 유저 입력 회로 420은 동작 인식 센서를 이용하여 사용자의 제스처를 유저 입력을 수신할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 전자펜 입력의 경우, 유저 입력 회로 420은 무선 리시버를 통해 수신할 수 있다. 또한, 유저 입력 회로 420은 마이크를 이용하여 사용자의 음성을 유저 입력으로 수신할 수 있다.
오디오 회로 440(예: 오디오 회로 280)은 음원을 재생할 수 있다. 상기 재생된 음원은 스피커 또는 전자 장치 400와 유무선으로 연결된 이어폰을 통해 사용자에게 제공될 수 있다.
프로세서 450(예: 프로세서 120, 프로세서 210)은, 예를 들어, SoC(system on chip)로 구현될 수 있고, 중앙처리장치(CPU), GPU(graphic processing unit), 이미지 신호 프로세서(image signal processor), AP(application processor), 또는 CP(communication processor) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서 450은 다른 구성요소들(예를 들어, 디스플레이 회로 410, 유저 입력 회로 420, 센서 회로 430, 및 오디오 회로 440) 중 적어도 하나로부터 수신된 명령 또는 데이터를 메모리 460으로부터 로드(load)하여 처리하고, 다양한 데이터를 메모리 460에 저장(store)할 수 있다.
프로세서 450은 디스플레이 회로 410을 통해 적어도 하나 이상의 객체를 스크린 상에 디스플레이할 수 있다. 상기 객체는 통화 어플리케이션, 문자 어플리케이션, 또는 계산기 어플리케이션 등에 표시되는 키패드에 포함된 아이콘 하나 하나일 수 있다. 또한, 상기 객체는 음악 어플리케이션에 표시된 앨범 커버 이미지일 수 있다. 나아가, 상기 객체는 메모 어플리케이션, 또는 드로잉 어플리케이션 등에 표시된 캔버스의 복수의 픽셀이나 복수의 영역 각각을 나타내는 것일 수도 있다.
프로세서 450은 상기 객체에 음원을 매칭시킬 수 있다. 상기 음원은 상기 객체의 종류에 따라 다르게 매칭될 수 있다. 예를 들어, 상기 키패드에 포함된 아이콘에 대한 음원은 기존 이용되는 기계음, 또는 음계 (도레미파솔라시도)일 수 있다. 상기 앨범 커버 이미지에 대한 음원은 상기 앨범에 수록된 곡의 적어도 일부일 수 있다. 이 경우, 상기 적어도 일부는 상기 수록된 곡의 인트로, 전주, 간주, 후주, 또는 크라이막스 등의 영역일 수 있다. 상기 앨범 커버 이미지가 상기 앨범에 수록된 복수의 곡 중 특정 곡에 대해 디스플레이된 경우(예를 들어, 상기 특정 곡이 재생 중이거나, 상기 앨범 커버 이미지를 선택하면 상기 특정 곡이 재생되는 경우), 상기 음원은 상기 특정 곡에 대응하는 것일 수 있다.
한 실시 예에 따르면, 상기 메모 어플리케이션 또는 상기 드로잉 어플리케이션에 표시된 캔버스의 복수의 픽셀 또는 영역을 객체로 하는 경우, 상기 객체에 대응하는 음원은 필기구에 대한 것일 수 있다. 예를 들어, 상기 메모 어플리케이션 또는 상기 드로잉 어플리케이션에서 펜이 필기구로 선택된 경우, 상기 음원은 펜으로 그림을 그리거나, 글씨를 쓸 때 나는 소리일 수 있다. 또한, 상기 어플리케이션에서 붓이 선택된 경우, 상기 음원은 붓을 이용할 때 나는 소리일 수 있다. 유사하게, 상기 어플리케이션에서 지우개가 선택된 경우, 상기 음원은 지우개로 글씨 또는 그림을 지울 때 나는 소리일 수 있다.
프로세서 450은 상기 객체에 대한 가상 공간 좌표를 구성할 수 있다. 또한, 프로세서 450은 상기 구성된 가상 공간 좌표에 기초하여 상기 음원에 대한 음향 효과를 설정할 수 있다.
상기 가상 공간 좌표는 전자 장치 400을 둘러싼 공간에 대응하는 좌표일 수 있다. 따라서, 상기 음향 효과는 사용자로 하여금 상기 변환된 가상 공간 좌표에서 상기 음원이 재생되는 것처럼 인식되도록 설정되는 것일 수 있다. 자세한 내용은 도 5에서 설명하겠다.
본 발명의 다양한 실시 예에 따르면, 상기 음향 효과는, 예를 들면, HRTF(head related transfer function) 알고리즘을 통해 제공될 수 있다. 또 다른 예로, 상기 음향 효과는, 간단히 음원의 재생 크기(볼륨), 위상(phase: 상기 음원의 L 채널 및 R 채널의 발생 시점), 반향(reverberation)에 변화를 주는 알고리즘을 통해 제공될 수 있다. 예를 들어, 먼 곳에서 나는 소리와 가까운 곳에서 나는 소리는 음원의 재생 크기를 다르게 출력할 수 있다, 또 다른 예로, 다른 방향에서 나는 소리는 위상 및/또는 잔향 중 적어도 하나를 변경하는 음향 효과를 제공할 수 있다.
본 발명의 다양한 실시예에 따르면, 음원은 알고리즘을 통해서 L 채널 및/또는 R 채널 각각에 대해 음원의 재생 크기, 위상, 잔향을 변경하여 L 채널 및/또는 R 채널 각각을 오디오로 출력하면서 음향 효과를 사용자의 이어폰을 통해 출력할 수 있다. 다만, 본 발명의 다양한 실시 예에 따르면, 상기 음향 효과는 이어폰을 통해 음원을 출력하는 경우에만 제공되는 것은 아니고, 스피커를 통해 음원을 출력하는 경우에도 이에 대응하도록 제공될 수 있다.
프로세서 450은 유저 입력 회로 420을 통해 사용자의 시선을 입력 받을 수 있고, 이 경우, 프로세서 450은 상기 사용자의 시선의 방향에 기초하여 가상 공간 좌표를 구성할 수도 있다.
프로세서 450은 유저 입력 회로 420을 통해 상기 객체를 선택하는 유저 입력을 수신할 수 있다. 이 경우, 프로세서 450은 상기 객체에 대응하는 음원에 상기 음향 효과를 적용하여 재생할 수 있다.
프로세서 450은 유저 입력 회로 420을 통해 상기 객체를 이동시키는 유저 입력을 수신할 수 있다. 예를 들면, 상기 유저 입력은 상기 객체에 대한 드래그 앤 드롭 또는 터치 무브일 수 있다. 프로세서 450은 상기 객체의 이동 경로에 따라서, 상기 객체에 대응하는 가상 좌표 값을 변화시킬 수 있다. 또한, 프로세서 450은 상기 변화된 가상 좌표 값에 기초하여 상기 음향 효과를 업데이트할 수 있다. 상기 동작은 실질적으로 실시간으로 처리될 수 있다. 예를 들어, 프로세서 450은 상기 객체가 이동하는 순간 순간에 음향 효과를 지속적으로 업데이트하여 사용자로 하여금 끊김없는 음원 및 끊김없는 음향 효과를 제공받도록 할 수 있다.
프로세서 450은 복수의 객체를 디스플레이 회로 410을 통해 스크린에 디스플레이할 수 있다. 이 경우, 프로세서 450은 상기 복수의 객체 각각에 대한 가상 공간 좌표를 구성하고, 각각에 음원을 매칭시키고, 음향 효과를 적용하여 재생할 수 있다. 프로세서 450은 상기 복수의 객체 각각에 대응하는 음원을 믹싱하여 동시에 재생할 수 있다. 상기 음원을 믹싱하는 동작은, 음원이 Stereo 음원일 경우에는 L 채널 및 R 채널을 분리하고, 분리된 각각에 대해서 음향 효과를 위한 알고리즘을 적용한 후 복수의 L 채널간, 복수의 R 채널간 믹싱을 수행하는 방법을 포함할 수 있다. 본 발명의 다양한 실시 예에 따르면, 프로세서 450은 상기 복수의 객체 중 적어도 일부에 대한 음원만 재생할 수도 있다. 예를 들어, 프로세서 450은 청취 영역 개념을 통해 재생할 음원의 개수를 결정할 수 있다. 예를 들어 상기 청취 영역을 넓게 설정할 경우 가상의 공간 좌표에서 청취 가능한 공간이 넓게 포함되는 것을 의미하고, 이 때, 이 공간 범위에 포함되는 음원들이 실제 재생되게 되어 사용자는 더 많은 음원을 동시에 들을 수 있게 된다. 반대로, 상기 청취 영역을 좁게 설정할 경우 가상 공간 좌표에서 청취 가능한 공간이 좁게 설정되는 것을 의미하고 이 때, 이 공간 범위에 포함되는 음원들이 실제 재생이 되게 되어 사용자는 상대적으로 적은 음원을 동시에 들을 수 있게 된다. 따라서 프로세서 450은 청취 영역의 포함여부에 따라 복수개의 음원들에 대하여 각각 재생 여부를 결정할 수 있다.
상기 객체를 이동시키는 유저 입력에 기초하여 상기 복수의 객체가 함께 이동되는 경우, 프로세서 450은 상기 복수의 객체 각각의 이동 경로에 맞게 가상 좌표 값을 변화시키고, 상기 음향 효과를 업데이트하여 재생할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 음원의 제공은 상기 유저 입력이 마무리되는 동작(예를 들어, 터치 입력이 터치 릴리즈되는 동작)을 수신한 경우에 중단될 수 있다.
프로세서 450은 유저 입력 회로 420을 통해 복수의 객체를 순차적으로 선택하는 드래그 입력을 수신할 수 있다. 예를 들어, 메모 어플리케이션 또는 드로잉 어플리케이션에서 그림을 그리는 경우에, 연속적인 픽셀 또는 연속적인 영역을 순차적으로 드래그하는 경우일 수 있다. 이 경우, 프로세서 450은 상기 복수의 객체 각각에 대응하는 복수의 음원을 순차적으로 재생할 수 있다.
프로세서 450은 상기 음원의 재생 중에 사용자의 움직임을 감지할 수 있다. 프로세서 450은 상기 사용자의 움직임이 감지되는 경우, 상기 변환된 가상 공간 좌표가 상기 사용자를 기준으로 유지되도록 상기 음향 효과를 업데이트할 수 있다.
메모리 460(예: 메모리 130, 메모리 230)은 데이터, 예를 들어, 프로세서 450에서 수행되는 동작들에 대한 인스트럭션들(instructions)을 저장하고 있을 수 있다. 이 경우, 메모리 460에 저장되는 데이터는 전자 장치 400 내부의 각 구성요소들 간에 입력 및 출력되는 데이터를 포함하고, 전자 장치 400과 전자 장치 400 외부의 구성요소들간에 입력 및 출력되는 데이터를 포함할 수 있다. 예를 들어, 메모리 460은 상기 언급한 음악 감상 어플리케이션, 통화 어플리케이션, 문자 어플리케이션, 계산기 어플리케이션, 메모 어플리케이션, 또는 드로잉 어플리케이션 등을 저장하고 있을 수 있다. 또한, 메모리 460은 상기 음향 효과에 이용되는 알고리즘(예: HRTF 알고리즘)을 저장하고 있을 수 있다. 앞서 언급한 바와 같이, 상기 알고리즘은 HRTF 알고리즘일 수도 있고, 음원의 재생 크기, 위상, 및 반향 중 적어도 하나를 변경하는 알고리즘일 수도 있다.
이러한 메모리 460은 내장 메모리 또는 외장 메모리를 포함할 수 있다. 상기 내장 메모리는, 예를 들어, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비-휘발성(non-volatile) 메모리 (예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), 마스크(mask) ROM, 플래시(flash) ROM, 플래시 메모리(예: 낸드플래시(NAND flash) 또는 노아플래시(NOR flash) 등), 하드 디스크 드라이브(hard disk drive; HDD), 또는 SSD(solid state drive) 중 적어도 하나를 포함할 수 있다.
상기 외장 메모리는, 예를 들어, 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card), 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 상기 외장 메모리는 다양한 인터페이스(interface)를 통하여 전자 장치 400과 기능적으로 및/또는 물리적으로 연결될 수 있다.
당업자라면, 디스플레이 회로 410, 유저 입력 회로 420, 센서 회로 430, 오디오 회로 440, 프로세서 450, 및 메모리 460 각각이 전자 장치 400에 분리되어 구현되거나, 이 중 하나 이상이 통합되어 구현될 수 있음을 충분히 이해할 것이다.
도 4에 도시된 전자 장치 400의 구성은 본 발명의 하나의 구현 예에 불과하며, 여러 가지 변형이 가능하다. 예를 들어, 전자 장치 400은 사용자로부터 어떤 명령 내지 정보를 입력 받기 위한 유저 인터페이스가 더 포함될 수 있다. 이 경우, 유저 인터페이스는 일반적으로 키보드, 마우스 등과 같은 입력 장치가 될 수도 있으나, 전자 장치 400의 스크린에 디스플레이되는 그래픽 유저 인터페이스(GUI, graphical user interface)가 될 수도 있다.
또한, 전자 장치 400은 외부 전자 장치와 통신을 수행하는 통신 회로(예: 통신 회로 170, 통신 회로 220)를 더 포함할 수 있다. 전자 장치 400은 무선 스피커(예를 들어, 블루투스 스피커) 또는 무선 이어폰(예를 들어, 블루투스 이어폰)을 이용하는 경우, 상기 무선 스피커 또는 상기 무선 이어폰으로 음원 재생 신호를 전달하기 위해 상기 통신 회로를 이용할 수 있다.
한 실시예에 따르면, 전자 장치 400은 외부 전자 장치와 그룹 플레이 서비스를 이용하기 위해 상기 통신 회로를 통해 상기 외부 전자 장치와 연동할 수 있다. 상기 그룹 플레이 서비스는, 전자 장치 400 및 상기 외부 전자 장치 각각의 스피커가 스테레오 모드를 지원하지 않고, 모노 모드만 지원하는 경우라도, 전자 장치 400 및 상기 외부 전자 장치 각각을 하나의 스피커로 하여 2 채널 이상을 지원할 수 있는 서비스이다.
만일 전자 장치 400에 자체 스피커가 없는 경우, 상기와 유사하게, 전자 장치 400은 외부 전자 장치 2개와 상기 통신 회로를 이용하여 각각 연동하고, 상기 외부 전자 장치 2개를 통합하여 2채널 이상으로 이용할 수 있다.
도 5a는 본 발명의 다양한 실시 예에 따른, 전자 장치 400 및 전자 장치 400이 놓인 좌표계를 나타낸 도면이다. 도 5a의 왼쪽에 도시된 도면을 참조하면, 전자 장치 400은 스크린 510에 제1 객체 510A, 제2 객체 510B, 제3 객체 510C, 및 제4 객체 510D를 표시할 수 있다.
본 발명의 다양한 실시 예에 따르면, 제1 객체 510A, 제2 객체 510B, 제3 객체 510C, 및 제4 객체 510D 각각에는 음원이 매칭되어 있다. 상기 음원은 객체별로 다를 수도 있지만, 동일한 음원이 매칭되어 있을 수도 있다.
도 5a의 오른쪽에 도시된 도면은 사용자가 전자 장치 400을 들고 있는 모습과 좌표계를 나타낸 것이다. 도 5a의 오른쪽 도면을 참조하면, 사용자는 전자 장치 400을 오른손으로 파지한 채로 팔을 접어올려 전자 장치 400을 정면으로 응시하고 있다.
이하 도 5a 및 다른 도면에서 사용자를 중심으로 가로축을 X축, 세로축(사용자가 서있는 방향)을 Y축, 사용자의 정면 방향을 Z축으로 설명하겠다.
도 5b 및 도 5c는 본 발명의 다양한 실시 예에 따른, 도 5a의 전자 장치 400에 표시된 객체에 대해 구성된 가상 공간 좌표를 나타낸 도면이다.
도 5b를 참조하면, 가상 공간 520은 사용자로부터 Z축 방향의 정면 공간(X-Y 평면)일 수 있다.
본 발명의 다양한 실시 예에 따르면, 제1 객체 510A에 대응하는 음원이 재생될 위치는 사용자의 정면 좌측 상단인 제1 위치 520A일 수 있다. 또한, 제2 객체 510B에 대응하는 음원이 재생될 위치는 사용자의 정면 우측 상단인 제2 위치 520B일 수 있다. 또한, 제3 객체 510C에 대응하는 음원이 재생될 위치는 사용자의 정면 좌측 하단인 제3 위치 520C일 수 있다. 또한, 제4 객체 510D에 대응하는 음원이 재생될 위치는 사용자의 정면 우측 하단인 제4 위치 520D일 수 있다.
도 5c를 참조하면, 가상 공간 530은 사용자로부터 일정 높이의 수평 공간(X-Z 평면)일 수 있다.
본 발명의 다양한 실시 예에 따르면, 제1 객체 510A에 대응하는 음원이 재생될 위치는 사용자의 좌측 원거리인 제1 위치 530A일 수 있다. 또한, 제2 객체 510B에 대응하는 음원이 재생될 위치는 사용자의 우측 원거리인 제2 위치 530B일 수 있다. 또한, 제3 객체 510C에 대응하는 음원이 재생될 위치는 사용자의 좌측 근거리인 제3 위치 530C일 수 있다. 또한, 제4 객체 510D에 대응하는 음원이 재생될 위치는 사용자의 우측 근거리인 제4 위치 530D일 수 있다.
본 발명의 다양한 실시 예에 따르면, 도 5b에 도시된 가상 공간 520은 사용자의 정면에 위치하는 것이 아니고, 사용자를 포함하는 평면 공간일 수 있다. 도 5c에 도시된 가상 공간 530 역시, 사용자를 포함하는 평면 공간일 수 있고, 제3 위치 530C 및 제4 위치 530D는 사용자의 뒤에 위치할 수 있다.
또한, 도 5b 및 도 5c의 가상 공간 520 및 530은 평면인 것으로 도시되어 있지만, 본 발명의 다양한 실시 예에 따르면, 가상 공간 520 및 530은 3차원 입체 공간일 수 있다. 예를 들어, 전자 장치 400의 스크린에 표시된 객체들이 3차원으로 표현된 경우, 가상 공간 520 및 530은 3차원 입체 공간일 수 있다. 반면, 전자 장치 400의 스크린에 표시된 객체들이 2차원으로 표현된 경우, 가상 공간 520 및 530은 도 5b 또는 도 5c에 도시된 바와 같이 평면 공간일 수 있다.
도 5a 내지 도 5c에는 사용자가 전자 장치 400에 연결된 이어폰을 통해 음원을 제공받는 것처럼 도시되어 있다. 본 발명의 다양한 실시 예에 따르면, 전자 장치 400은 이어폰(또는 헤드폰)을 통하는 경우 이외에도, 스피커를 통해 상기 음원을 제공할 수 있다. 전자 장치 400은 상기 이어폰을 이용하는 경우와 상기 스피커를 이용하는 경우에 공통적으로 음원에 음향 효과를 제공하여 사용자에게 공간감을 느끼게 할 수 있다.
도 6a는 본 발명의 다양한 실시 예에 따른, 바닥에 놓인 전자 장치를 내려다 바라보는 사용자의 시선을 나타낸 도면이다. 전자 장치 400의 스크린에는 객체 A, B, C, 및 D가 표시될 수 있다.
도 6a에 도시된 좌표계 600을 참조하면, 사용자가 전자 장치 400을 바라보는 방향을 Z축으로 볼 수 있다. 또한, 좌표계 600은 Z축과 수직하고, 사용자를 기준으로 사용자의 가로축, 세로축에 각각 대응하는 X축 및 Y축을 포함할 수 있다.
전자 장치 400이 고정된 상태에서 사용자의 위치가 바뀌는 경우, 좌표계 600의 X축, Y축, 및 Z축 각각은 변화될 수 있다.
도 6b는 본 발명의 다양한 실시 예에 따른, 도 6a의 사용자의 시선에 기초하여 생성된 가상 공간 610을 나타낸 도면이다.
도 6b를 참조하면, 가상 공간 610은 사용자의 시선에 수직인 평면 공간일 수 있다. 또한, 도 5b 또는 도 5c에서의 가상 공간과 달리, 가상 공간 610은 사용자의 시선에 기초하여 달라질 수 있다.
전자 장치 400의 스크린에 표시된 상기 객체 A, B, C, 및 D 각각에 대한 가상 공간 좌표는 제1 위치 610A, 제2 위치 610B, 제3 위치 610C, 및 제4 위치 610D로 구성될 수 있다.
도 6b에 도시된 가상 공간 610은 평면 공간으로 표현되어 있지만, 본 발명의 다양한 실시 예에 따르면, 가상 공간 610은 3차원 가상 공간일 수 있다.
도 7은 본 발명의 다양한 실시 예에 따른, 키패드 객체에 대해 적용된 가상 공간 좌표 구성을 나타낸 도면이다.
도 7의 왼쪽에 도시된 도면을 참조하면, 전자 장치 400은 어플리케이션 700을 스크린에 디스플레이할 수 있다. 어플리케이션 700은 키패드 710을 이용하는 것으로서, 예를 들어, 통화 어플리케이션, 문자 어플리케이션, 또는 계산기 어플리케이션 등을 포함할 수 있다.
도 7의 오른쪽에 도시된 도면은 키패드 710에 대응하는 가상 공간 720을 나타낸 것일 수 있다. 가상 공간 720은, 도 5b의 실시 예와 같이, 사용자의 정면에 수직하게 서있는 공간일 수도 있고, 도 5c의 실시 예와 같이, 사용자의 일정 높이에서 정면을 향해 수평으로 펼쳐진 공간일 수도 있다. 이하에서 가상 공간 720은 도 5b의 실시 예에 따른 공간으로 가정하고 설명하겠다.
전자 장치 400은 키패드 710에 포함된 객체들에 대한 가상 공간 좌표를 구성할 수 있다. 예를 들어, 키패드 710에 포함된 객체로서의 키 '1'에 대한 가상 공간 좌표는 사용자의 좌측 상단일 수 있다. 또한, 키 '*'에 대한 가상 공간 좌표는 사용자의 우측 하단일 수 있다.
만일, 전자 장치 400이 키패드 710에 포함된 객체로서의 키 '1'에 대한 유저 입력을 수신하는 경우, 전자 장치 400은 키 '1'에 매칭된 음원이 상기 구성된 가상 공간 좌표에서 재생되는 것처럼 하는 음향 효과를 상기 음원에 적용하여 재생할 수 있다.
유사하게, 전자 장치 400이 키패드 710에 포함된 객체로서의 키 '*'에 대한 유저 입력을 수신하는 경우, 전자 장치 400은 키 '*'에 매칭된 음원이 상기 구성된 가상 공간 좌표에서 재생되는 것처럼 하는 음향 효과를 상기 음원에 적용하여 재생할 수 있다.
도 8은 본 발명의 다양한 실시 예에 따른, 캔버스 객체에 대해 적용된 가상 공간 좌표 구성을 나타낸 도면이다.
도 8의 왼쪽에 도시된 도면을 참조하면, 전자 장치 400은 어플리케이션 800을 스크린에 디스플레이할 수 있다. 어플리케이션 800은, 예를 들어, 메모 어플리케이션 또는 드로잉 어플리케이션 등을 포함할 수 있다. 도 8에서는, 전자 장치 400이 전자펜을 이용하여 유저 입력을 수신하는 것처럼 도시되었지만, 본 발명의 다양한 실시 예에 따르면, 전자 장치 400은 사용자의 손가락 등을 통해 유저 입력, 예를 들어, 터치 입력을 수신할 수 있다. 어플리케이션 800에 포함된 객체는 캔버스의 일영역 또는 일픽셀일 수 있고, 어플리케이션 800은 복수의 객체를 포함할 수 있다.
도 8의 오른쪽에 도시된 도면은 상기 캔버스에 대응하는 가상 공간 820을 나타낸 것일 수 있다. 가상 공간 820은, 도 5b의 실시 예와 같이, 사용자의 정면에 수직하게 서있는 공간일 수도 있고, 도 5c의 실시 예와 같이, 사용자의 일정 높이에서 정면을 향해 수평으로 펼쳐진 공간일 수도 있다. 이하에서 가상 공간 820은 도 5b의 실시 예에 따른 공간으로 가정하고 설명하겠다.
한 실시 예에 따르면, 전자 장치 400은 유저 입력을 통해 도 8의 왼쪽에 도시된 바와 같이 선을 그리는 유저 입력 810을 수신할 수 있다. 예를 들면, 유저 입력 810은 드래그 입력일 수 있다. 이 경우, 유저 입력 810은 복수의 연이은 객체 각각에 대한 터치 앤 릴리즈를 포함할 수 있다. 전자 장치 400은 유저 입력 810을 통해 순차적으로 터치된 복수의 객체 각각의 가상 공간 좌표를 산출하고, 상기 산출된 좌표에서 복수의 객체 각각에 대응하는 음원이 순차적으로 재생되도록 느끼게끔하는 음향 효과를 적용할 수 있다. 만일 복수의 객체 각각에 대응하는 음원이 동일하다면, 전자 장치 400이 복수의 객체 각각에 대응하는 음원이 순차적으로 재생되는 경우, 사용자는 가상 공간 820에 도시된 궤적 830을 따라 상기 음원이 이동하는 것처럼 느낄 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 음원은 상기 메모 어플리케이션 또는 상기 드로잉 어플리케이션에서 상기 유저 입력에 대응하는 필기구 이용 시에 발생할 수 있는 소리일 수 있다. 따라서, 도 8의 경우, 유저 입력 810에 대응하는 필기구가 붓인 경우, 사용자는 좌측 상단에서 붓질이 시작되어 오른쪽으로 이동했다가 좌측 하단 방향으로 붓이 이동한 후, 다시 오른쪽으로 붓이 이동하는 소리를 느낄 수 있다. 이 때, 사용자에게는 궤적 830의 방향이 바뀌는 지점에서 붓질의 방향이 바뀌는 소리가 들릴 수 있다.
또한, 본 발명의 다양한 실시 예에 따르면, 전자 장치 400은 사용자가 유저 입력 810을 입력하는 속도 및 강도에 기초하여 상기 음원의 재생 크기가 달라지도록 음향 효과를 적용할 수 있다.
도 7 및 도 8에 본 발명의 다양한 실시 예로 객체가 2차원으로 표시되는 어플리케이션을 설명하였다. 도 9에서는 객체가 3차원으로 표시되는 어플리케이션 900을 설명하겠다.
도 9a는 본 발명의 다양한 실시 예에 따른, 앨범 커버 이미지 객체가 표시된 음악 감상 어플리케이션을 나타낸 도면이다.
도 9a를 참조하면, 음악 감상 어플리케이션 900에는 5개의 앨범 커버 이미지 910a, 920a, 930a, 940a, 및 950a가 도시되어있다. 제3 앨범 커버 이미지 930a가 가장 사용자 쪽으로 위치해 있고, 제1 앨범 커버 이미지 910a 및 제5 앨범 커버 이미지 950a가 가장 사용자로부터 먼 쪽에 정렬되어 있다. 그리고, 제3 앨범 커버 이미지 930a 양쪽에 제2 앨범 커버 이미지 920a 및 제4 앨범 커버 이미지 940a가 제3 앨범 커버 이미지 930a의 뒤로, 제1 앨범 커버 이미지 910a 및 제5 앨범 커버 이미지 950a 앞으로 정렬되어 있다.
도 9b는 본 발명의 다양한 실시 예에 따른, 도 9a의 앨범 커버 이미지 객체에 대해 적용된 가상 공간 좌표 구성을 나타낸 도면이다. 사용자의 수평축을 X축, 사용자의 수직축을 Y축, 사용자의 정면을 Z축이라 놓겠다.
도 9a에서 가장 사용자 쪽에 위치하고, 음악 감상 어플리케이션 900의 중앙에 위치한 제1 앨범 커버 이미지 930a에 대응하는 음원의 가상 공간 좌표는 제3 위치 930b일 수 있다. 또한, 도 9a에서 가장 사용자로부터 먼 쪽에 정렬되고, 음악 감상 어플리케이션 900의 양 끝에 위치한 제1 앨범 커버 이미지 910a 및 제5 앨범 커버 이미지 950a 각각에 대응하는 음원의 가상 공간 좌표는 각각 제1 위치 910b 및 제5 위치 950b일 수 있다. 마지막으로, 제3 앨범 커버 이미지 930a와 제1 앨범 커버 이미지 910a 및 제5 앨범 커버 이미지 950a 사이에 위치한 제2 앨범 커버 이미지 920a 및 제4 앨범 커버 이미지 940a 각각에 대응하는 음원의 가상 공간 좌표는 각각 제2 위치 930b 및 제4 위치 940b일 수 있다.
전자 장치 400은 사용자와의 Z축상 거리에 기초하여 음원의 재생 크기에 차등을 두는 음향 효과를 적용할 수 있다. 따라서, 가장 사용자 쪽에 위치한 제3 위치 930b의 음원의 재생 크기가 가장 크고, 사용자로부터 가장 멀리 위치한 제1 위치 910b 및 제5 위치 950b의 음원의 재생 크기가 가장 작을 수 있다. 제3 위치 930b와 제1 위치 910b 및 제5 위치 950b 사이에 있는 제2 위치 920b 및 제4 위치 940b의 음원의 재생 크기는 제3 위치 930b의 음원의 재생 크기보다 작고, 제1 위치 910b 및 제5 위치 950b의 음원의 재생 크기보다 클 수 있다.
전자 장치 400은 상기 제1 위치 910b 내지 제5 위치 950b 각각의 음원을 믹싱하여 사용자에게 제공할 수 있다. 본 발명의 다양한 실시 예에 따르면, 전자 장치 400은 상기 5개의 음원 중 일부에 대해서만 사용자에게 제공할 수 있다. 예를 들어, 전자 장치 400은 가상 공간 상에서 사용자로부터 기설정된 거리를 벗어나는 음원에 대해서는 사용자에게 제공하지 않을 수 있다.
이상에서 전자 장치 400은 적어도 복수의 음원을 재생하는 것으로 설명되고 있지만, 본 발명의 다양한 실시 예에 따르면, 전자 장치 400은 도 9a의 음악 감상 어플리케이션 900에 표시된 앨범 커버 이미지 중 가운데 위치한 앨범 커버 이미지에 대한 음원만 제공할 수도 있다.
도 9a에 도시된 앨범 이미지 커버 각각의 음원은, 예를 들어, 해당 앨범에 수록된 곡의 적어도 일부 구간일 수 있다. 도 9a에 도시된 앨범 이미지 커버가 특정 곡을 대표하는 이미지로서 표시된 경우, 상기 음원은 상기 특정 곡의 적어도 일부 구간일 수 있다. 만일 도 9a에 도시된 앨범 이미지 커버가 앨범 자체를 대표하는 이미지로서 표시된 경우, 상기 음원은 타이틀 곡의 적어도 일부 구간일 수 있다. 상기 구간은 상기 곡의 전주, 간주, 후주일 수도 있고, 상기 곡의 크라이막스일 수도 있다.
도 9c는 본 발명의 다양한 실시 예에 따른, 앨범 커버 이미지 객체가 표시된 음악 감상 어플리케이션에서 사용자로부터 수신한 유저 입력을 적용하는 동작을 나타낸 도면이다.
전자 장치 400은 도 9a에서 음악 감상 어플리케이션 900의 중앙에 위치했던 제3 앨범 커버 이미지 930a를 왼쪽으로 이동시키는 유저 입력을 수신할 수 있다. 이에 따라서, 제4 앨범 커버 이미지 940a가 음악 감상 어플리케이션 900의 중앙으로 이동되고, 가장 사용자 쪽에 위치할 수 있다. 또한, 상기 유저 입력에 의해 제1 앨범 커버 이미지 910a의 일부는 음악 감상 어플리케이션 900의 실행 화면에서 보이지 않게 되고, 일부만 보이던 제6 앨범 커버 이미지 960a이 전부 보이게 될 수 있다.
도 9d는 본 발명의 다양한 실시 예에 따른, 도 9c에서 입력된 유저 입력에 기초하여 앨범 커버 이미지 객체에 대해 적용된 가상 공간 좌표 구성을 나타낸 도면이다. 도 9b와 유사하게, 도 9c에서 가장 사용자 쪽에 위치한 제4 앨범 커버 이미지 940a에 대응하는 음원의 가상 공간상 좌표는 제3 위치 930b일 수 있다. 또한, 도 9c에서 사용자로부터 멀리 떨어진 제2 앨범 커버 이미지 920a 및 제6 앨범 커버 이미지 960a에 대응하는 음원의 가상 공간상 좌표는 각각 제1 위치 910b 및 제5 위치 950b일 수 있다. 나머지 제3 앨범 커버 이미지 930a 및 제5 앨범 커버 이미지 950a에 대응하는 음원의 가상 공간상 좌표는 각각 제2 위치 920b 및 제4 위치 940b일 수 있다.
도 10은 본 발명의 다른 다양한 실시 예에 따른, 앨범 커버 이미지 객체가 표시된 음악 감상 어플리케이션을 나타낸 도면이다.
도 10의 제1 동작 1010을 참조하면, 전자 장치 400은 음악 감상 어플리케이션 1000을 통해 음악 감상 어플리케이션 1000에 도시된 제1 앨범 커버 이미지 1005a에 대응하는 곡을 재생하고 있다. 또한, 전자 장치 400은 사용자로부터 음악 감상 어플리케이션 1000의 우측에서 중앙으로 드래그(또는 스와이프)하는 유저 입력을 수신하고 있는 중일 수 있다.
제2 동작 1020에서 전자 장치 400은 제1 동작 1020에서 수신 중인 유저 입력에 기초하여 제2 앨범 커버 이미지 1005b를 음악 감상 어플리케이션 1000 상에 표시할 수 있다. 상기 유저 입력에 기초하여 제2 앨범 커버 이미지 1005b는 음악 감상 어플리케이션 1000의 오른쪽으로부터 왼쪽으로 이동될 수 있다.
전자 장치 400은 상기 유저 입력에 기초하여 동작 1010에서 재생 중인 제1 앨범 커버 이미지 1005a에 대응하는 곡이 재생되는 위치가 왼쪽으로 이동하는 것처럼 음향 효과를 적용할 수 있다. 또한, 전자 장치 400은 제2 앨범 커버 이미지 1005b에 대응하는 곡이 재생되는 위치가 오른쪽에서 왼쪽으로 이동하는 것처럼 음향 효과를 적용할 수 있다. 제1 앨범 커버 이미지 1005a에 대응하는 곡과 제2 앨범 커버 이미지 1005b에 대응하는 곡은 함께 믹싱되어 재생될 수 있다.
이 경우, 제1 앨범 커버 이미지 1005a에 대응하는 곡은 페이드 아웃(fade out)되고, 제2 앨범 커버 이미지 1005b에 대응하는 곡은 페이드 인(fade in)되는 음향 효과가 적용될 수 있다.
제2 동작 1020은 상기 유저 입력이 터치 릴리즈되어 제3 동작 1030으로 진행될 수 있다.
제3 동작 1030에서 전자 장치 400은 상기 유저 입력의 터치 릴리즈에 기초하여 제2 앨범 커버 이미지 1005b에 대응하는 곡이 재생되도록할 수 있다. 제3 동작 1030을 참조하면, 전자 장치 400은 제2 앨범 커버 이미지 1005b에 대응하는 곡을 처음부터 재생하는 것처럼 타임라인이 도시되어 있다. 본 발명의 다양한 실시 예에 따르면, 전자 장치 400은 제2 앨범 커버 이미지 1005b에 대응하는 곡을 제2 동작 1020에서 재생된 이후 시점부터 재생할 수 있다.
도 11은 본 발명의 다른 다양한 실시 예에 따른, 앨범 커버 이미지 객체가 표시된 음악 감상 어플리케이션을 나타낸 도면이다.
도 11을 참조하면, 음악 감상 어플리케이션 1100의 상단 좌측에 재생 중인 곡이 수록된 앨범의 제1 앨범 커버 이미지 1110이 표시되고, 음악 감상 어플리케이션 1100의 우측 상단에는 추천 곡들이 수록된 앨범 커버 이미지들이 표시되고, 음악 감상 어플리케이션 1100의 하단에는 재생 중인 곡의 타임라인이 표시될 수 있다.
전자 장치 400은 음악 감상 어플리케이션 1100을 통해 제1 앨범 커버 이미지 1110에 대응하는 곡을 재생할 수 있다. 본 발명의 다양한 실시 예에 따르면, 전자 장치 400은 제1 앨범 커버 이미지 1110에 대응하는 곡이 사용자의 정면에서 들리게끔 음향 효과를 설정할 수 있다.
전자 장치 400은 추천 곡들이 수록된 앨범 커버 이미지들이 표시된 음악 감상 어플리케이션 1100의 우측 상단의 영역에 대하여, 본 발명의 다양한 실시 예를 적용할 수 있다.
예를 들어, 제1 앨범 커버 이미지 1110에 대응하는 곡이 재생 중에, 전자 장치 400은 제2 앨범 커버 이미지 1120에 대한 유저 입력을 수신할 수 있다. 전자 장치 400은 제1 앨범 커버 이미지 1110에 대응하는 곡과 함께 제2 앨범 커버 이미지 1120에 대응하는 곡을 믹싱하여 재생할 수 있다. 이 경우, 제2 앨범 커버 이미지 1120에 대응하는 곡이 재생되는 가상 공간 좌표는 사용자의 정면일 수 있다. 제2 앨범 커버 이미지 1120이 음악 감상 어플리케이션 1100의 우측 상단의 중앙에 위치하기 때문일 수 있다. 만일, 제2 앨범 커버 이미지 1120의 오른쪽에 있는 제3 앨범 커버 이미지가 선택되었다면, 전자 장치는 해당 곡이 재생되는 가상 공간 좌표를 사용자의 우측으로 변환할 수 있다.
또한, 음악 감상 어플리케이션 1100의 우측 상단 내에서, 제2 앨범 커버 이미지 1120을 선택한 유저 입력이 좌우로 드래그 되는 경우, 도 9 및 도 10과 같이 객체가 이동되면서 음향 효과가 업데이트될 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치는, 적어도 하나의 객체를 표시하는 디스플레이 회로; 소리를 재생하는 오디오 회로; 및 상기 디스플레이 회로 및 상기 오디오 회로와 전기적으로 연결된 프로세서;를 포함하고, 상기 프로세서는, 상기 객체에 대한 가상 공간 좌표를 구성하고, 상기 객체에 음원을 매칭하고, 상기 구성된 가상 공간 좌표에 기초하여 상기 음원에 대한 음향 효과를 설정하고, 상기 음향 효과가 설정된 상기 음원을 상기 오디오 회로를 통해 재생하도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 음향 효과는 상기 가상 공간 좌표에서 상기 음원이 재생되는 것처럼 인식되도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 가상 공간 좌표는 상기 전자 장치를 둘러싼 공간에 대응하는 좌표인 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 전자 장치는 상기 객체에 대한 유저 입력을 수신하는 유저 입력 회로;를 더 포함하고, 상기 프로세서는, 상기 객체를 선택하는 유저 입력에 기초하여 상기 객체에 대응하는 음원을 재생하도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 유저 입력은 음성 입력, 제스처 입력, 전자펜 입력 또는 터치 입력 중 적어도 하나를 포함하는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 유저 입력 회로는 상기 객체를 이동시키는 유저 입력을 수신하고, 상기 프로세서는 상기 객체의 이동 경로에 따라서, 상기 객체에 대응하는 가상 좌표 값을 변화시키고, 상기 변화된 가상 좌표 값에 기초하여 상기 음향 효과를 업데이트하도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 객체를 이동시키는 유저 입력에 기초하여, 다른 객체가 함께 이동하는 경우, 상기 프로세서는 상기 다른 객체에 대응하는 음원을 상기 객체에 대응하는 음원과 함께 재생하도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 유저 입력 회로는 복수의 객체를 순차적으로 선택하는 드래그 입력을 수신하고, 상기 프로세서는 상기 복수의 객체 각각에 대응하는 복수의 음원을 순차적으로 재생하도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 객체가 음악 앨범의 커버 이미지인 경우, 상기 음원은 상기 음악 앨범에 포함된 음악의 인트로 또는 크라이막스를 포함하는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 객체를 선택하는 유저 입력에 대응하는 어플리케이션 상 입력 도구가 필기구인 경우, 상기 음원은 상기 필기구에 대응하는 소리를 포함하는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 객체가 복수개인 경우, 상기 프로세서는, 상기 복수의 객체 각각에 대한 복수의 음원 중 적어도 둘 이상을 믹싱(mixing)하여 재생시키도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 전자 장치는 사용자의 시선을 인식하는 센서 회로;를 더 포함하고, 상기 프로세서는 상기 사용자의 시선의 방향에 기초하여 상기 객체에 대한 가상 공간 좌표를 구성하도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 사용자의 움직임을 인식하는 센서 회로;를 더 포함하고, 상기 프로세서는 상기 사용자의 움직임에 기초하여 상기 가상 공간 좌표가 상기 사용자를 기준으로 유지되도록 상기 설정된 음향 효과를 업데이트하도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치는 디스플레이; 오디오 데이터를 포함하는 적어도 하나의 컨텐츠를 적어도 임시로 저장하는 메모리; 및 상기 디스플레이, 및 메모리와 전기적으로 연결된 적어도 하나의 프로세서를 포함하며, 상기 메모리는, 실행시에, 상기 프로세서가, 상기 메모리에 저장된 적어도 하나의 컨텐츠에 대응하는 적어도 하나의 오브젝트 및 상기 오브젝트를 디스플레이하는 어플리케이션 UI를 상기 디스플레이 상에 동시에 표시하고, 상기 어플리케이션 UI 상에서 상기 표시된 적어도 하나의 오브젝트의 상대적인 위치를 판단하고, 상기 상대적인 위치에 적어도 일부 기초하여, 상기 표시된 적어도 하나의 오브젝트의 오디오 데이터를 공간적으로 맵핑하고, 상기 맵핑에 적어도 일부 기초하여 상기 오디오 데이터를 합성(combine)하도록 하는 인스트럭션들을 저장하는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치는 상기 전자 장치와 기능적으로 연결된 디스플레이를 통해 음원에 대응하는 객체가 표시될 복수개의 지정된 위치들을 저장하기 위한 메모리, 상기 복수개의 지정된 위치들은 제 1 지정된 위치 및 제 2 지정된 위치를 포함하고; 및 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는: 상기 디스플레이를 통해, 상기 객체와 연관하여 상기 제 1 지정된 위치 및 상기 제 2 지정된 위치를 표시하고; 상기 객체와 연관된 입력을 수신하고; 및 상기 입력에 반응하여, 상기 객체를 상기 제 1 지정된 위치로부터 상기 제 2 지정된 위치로 이동시키되, 상기 객체가 상기 제 1 지정된 위치로부터 상기 제 1 지정된 위치와 상기 제 2 지정된 위치 사이의 지점까지 이동된 거리 또는 방향에 적어도 기반하여, 상기 음원을 그 음향 효과를 변화시킨 상태로 출력하도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 제 1 지정된 위치 및 상기 제 2 지정된 위치는 상기 객체가 상기 제 1 지정된 위치 및 상기 제 2 지정된 위치에 항상 표시되는 것으로 한정시키는 것은 아니다. 예를 들어, 상기 객체는 상기 제 1 지정된 위치에 표시될 수도 있지만, 상기 제 2 지정된 위치에 표시될 수도 있고, 상기 제 1 지정된 위치와 상기 제 2 지정된 위치 사이에 표시될 수도 있다.
본 발명의 다양한 실시 예에 따르면, 상기 제 1 지정된 위치와 상기 제 2 지정된 위치는 상기 객체가 표시될 수 있는 위치를 어플리케이션 상에서 미리 구축해놓은 것으로, 상기 제 2 지정된 위치는 디스플레이 상에 위치할 수도 있지만, 디스플레이를 벗어나는 영역에 위치할 수도 있다.
본 발명의 다양한 실시 예에 따르면, 상기 객체와 연관된 입력은 상기 객체를 이동시킬 수 있는 입력으로서, 상기 객체에 직접적인 터치 드래그를 하는 경우 이외에도, 다른 객체를 이동시킴으로써 상기 객체가 함께 이동되는 경우를 포함할 수도 있다.
본 발명의 다양한 실시 예에 따르면, 상기 음원에 대한 음향 효과를 변화시키는 동작은, 상기 음원에 대한 음향 효과를 연속적으로 변경할 수도 있고, 이산적(discrete)으로 일정 기준치를 넘었을 때마다 변경할 수도 있다.
본 발명의 다양한 실시 예에 따르면, 상기 복수개의 지정된 위치들을 공유하는 복수개의 객체가 있는 경우, 상기 적어도 하나의 프로세서는, 상기 복수의 객체 각각의 움직임에 기초하여, 상기 복수의 객체 각각에 대응하는 음원들에 대한 음향 효과를 변화시키고, 상기 복수의 객체 각각에 대응하는 음원들을 믹싱하여 출력하도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 적어도 하나의 프로세서는, 상기 복수의 객체 중 적어도 일부의 객체를 선택하여, 상기 선택된 객체에 대응하는 음원들을 믹싱하여 출력하도록 설정된 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 음원들을 믹싱하는 동작은, 상기 음원들 각각의 L 채널과 R 채널을 구분하여 음향 효과를 변경하고, L 채널끼리 R 채널끼리 합성(merge)하여 출력하도록 설정된 것을 특징으로 할 수 있다.
도 12는 본 발명의 다양한 실시 예에 따른, 전자 장치(예: 전자 장치 100 또는 전자 장치 400)가 사운드 UI를 제공하는 방법을 나타낸 순서도이다. 도 12에 도시된 전자 장치가 사운드 UI를 제공하는 방법은 앞서 도 1 내지 도 11에서 설명된 전자 장치에서 수행될 수 있다. 따라서, 도 12에 언급되지 않은 내용이라 해도, 도 1 내지 도 11에서 설명된 전자 장치에서 수행되는 동작은 도 12의 전자 장치가 사운드 UI를 제공하는 방법에 적용될 수 있다.
동작 1210에서 전자 장치(예: 전자 장치 100 또는 전자 장치 400)는 객체를 어플리케이션 상에 표시할 수 있다. 상기 객체는 실행 중인 어플리케이션에 따라 다르게 설정될 수 있다.
동작 1220에서 전자 장치는 동작 1210에서 표시된 객체에 대한 가상 공간 좌표를 구성할 수 있다. 상기 가상 공간 좌표는 전자 장치의 사용자를 둘러싼 가상의 공간일 수 있다.
동작 1230에서 전자 장치는 동작 1210에서 표시된 객체에 음원을 매칭시킬 수 있다. 상기 음원은 객체 별로 다르게 설정될 수 있다.
동작 1240에서 전자 장치는 동작 1220에서 구성된 가상 공간 좌표에 기초하여, 동작 1230에서 매칭된 음원에 대한 음향 효과를 설정할 수 있다.
동작 1250에서 전자 장치는 동작 1240에서 음향 효과가 설정된 음원을 재생할 수 있다. 상기 재생된 음원은, 사용자로 하여금 동작 1220에서 변환된 가상 공간 좌표에서 재생되는 것으로 느끼게 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 동작 1220과 동작 1230의 순서는 바뀔 수 있다.
도 13은 본 발명의 다양한 실시 예에 따른, 전자 장치(예: 전자 장치 100 또는 전자 장치 400)가 3차원 객체에 대응하여 사운드 UI를 제공하는 방법을 나타낸 순서도이다. 도 13에 도시된 전자 장치가 3차원 객체에 대응하여 사운드 UI를 제공하는 방법은 앞서 도 1 내지 도 11에서 설명된 전자 장치에서 수행될 수 있다. 따라서, 도 13에 언급되지 않은 내용이라 해도, 도 1 내지 도 11에서 설명된 전자 장치에서 수행되는 동작은 도 13의 전자 장치가 3차원 객체에 대응하여 사운드 UI를 제공하는 방법에 적용될 수 있다.
동작 1310에서 전자 장치(예: 전자 장치 100 또는 전자 장치 400)는 3차원 좌표계를 설정할 수 있다. 상기 3차원 좌표계는 전자 장치에서 실행되는 어플리케이션 상의 공간을, 전자 장치의 사용자를 둘러싼 가상 공간으로 매칭시키는 동작일 수 있다.
동작 1320에서 전자 장치는 상기 어플리케이션에 표시된 3차원 객체에 음원을 매칭시킬 수 있다.
동작 1330에서 전자 장치는 상기 3차원 객체의 움직임이 있는지 여부를 판단할 수 있다. 상기 3차원 객체는 유저 입력을 통해 움직일 수 있지만, 본 발명의 다양한 실시 예에 따르면, 상기 3차원 객체는 유저 입력 없이도 움직일 수 있다. 예를 들어, 상기 3차원 객체는 상기 어플리케이션에서 기설정된 조건에 따라 설정된대로 움직일 수 있다.
상기 3차원 객체의 움직임이 있는 경우, 동작 1330은 동작 1340으로 진행되고, 그렇지 않은 경우, 동작 1330은 동작 1350으로 진행될 수 있다.
동작 1340에서 전자 장치는 상기 3차원 객체의 움직임에 기반하여 상기 가상 공간에서의 상기 음원의 위치를 이동시킬 수 있다.
동작 1350에서 전자 장치는 3차원 음원 위치에 기반하여 음향 효과를 설정할 수 있다.
동작 1360에서 전자 장치는 상기 음향 효과가 설정된 음원을 재생할 수 있다.
본 발명의 다양한 실시 예에 따르면, 전자 장치에서 수행되는 방법은 객체를 표시하는 동작; 상기 객체에 대한 가상 공간 좌표를 구성하는 동작; 상기 객체에 음원을 매칭하는 동작; 상기 구성된 가상 공간 좌표에 기초하여 상기 음원에 대한 음향 효과를 설정하는 동작; 및 상기 음향 효과가 설정된 상기 음원을 재생하는 동작;을 포함하는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 방법은 상기 객체를 선택하는 유저 입력을 수신하는 동작;을 더 포함하고, 상기 음원을 재생하는 동작은 상기 수신된 유저 입력에 기초하여 수행되는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 방법은 상기 객체를 이동시키는 유저 입력을 수신하는 동작; 상기 객체의 이동 경로에 따라서, 상기 객체에 대응하는 가상 좌표 값을 변화시키는 동작; 및 상기 변화된 가상 좌표 값에 기초하여 상기 음향 효과를 업데이트하는 동작;을 더 포함하는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 방법은 상기 객체를 이동시키는 유저 입력을 수신하는 동작; 상기 객체를 이동시키는 유저 입력에 기초하여, 상기 객체와 다른 객체가 함께 이동하는 동작; 및 상기 다른 객체에 대응하는 음원을 상기 객체에 대응하는 음원과 함께 재생하는 동작;을 더 포함하는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 방법은 복수의 객체를 순차적으로 선택하는 드래그 입력을 수신하는 동작;을 더 포함하고, 상기 음원을 재생하는 동작은, 상기 복수의 객체 각각에 대응하는 복수의 음원을 순차적으로 재생하는 동작;을 포함하는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 상기 방법은 사용자의 시선을 인식하는 동작;을 더 포함하고, 상기 객체에 대한 가상 공간 좌표를 구성하는 동작은, 상기 사용자의 시선의 방향에 기초하여 수행되는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따르면, 적어도 하나의 프로세서에 의해 실행되며 컴퓨터로 읽을 수 있는 명령어가 저장된 컴퓨터 기록 매체에 있어서, 상기 명령어는, 객체를 표시하는 동작; 상기 객체에 대한 가상 공간 좌표를 구성하는 동작; 상기 객체에 음원을 매칭하는 동작; 상기 구성된 가상 공간 좌표에 기초하여 상기 음원에 대한 음향 효과를 설정하는 동작; 및 상기 음향 효과가 설정된 상기 음원을 재생하는 동작;을 수행하도록 설정된 것일 수 있다.
본 발명의 다양한 실시 예에 따르면, 적어도 하나의 프로세서에 의해 실행되며 컴퓨터로 읽을 수 있는 명령어가 저장된 컴퓨터 기록 매체에 있어서, 상기 명령어는, 음원에 대응하는 객체가 표시될 제 1 지정된 위치 및 제 2 지정된 위치를 포함하는 복수개의 지정된 위치들을 저장하는 동작; 디스플레이를 통해, 상기 객체와 연관하여 상기 제 1 지정된 위치 및 상기 제 2 지정된 위치를 표시하는 동작; 상기 객체와 연관된 입력을 수신하는 동작; 및 상기 입력에 반응하여, 상기 객체를 상기 제 1 지정된 위치로부터 상기 제 2 지정된 위치로 이동시키되, 상기 객체가 상기 제 1 지정된 위치로부터 상기 제 1 지정된 위치와 상기 제 2 지정된 위치 사이의 지점까지 이동된 거리 또는 방향에 적어도 기반하여, 상기 음원을 그 음향 효과를 변화시킨 상태로 출력하는 동작;을 수행하도록 설정된 것일 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면,"모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서 120)에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리 130이 될 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시 예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다. 그리고 본 문서에 개시된 실시 예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 문서에서 기재된 기술의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시 예를 포함하는 것으로 해석되어야 한다.
400: 전자 장치
410: 디스플레이 회로
420: 유저 입력 회로
430: 오디오 회로
440: 센서 회로
450: 프로세서
460: 메모리

Claims (24)

  1. 적어도 하나의 객체를 표시하는 디스플레이 회로;
    소리를 재생하는 오디오 회로; 및
    상기 디스플레이 회로 및 상기 오디오 회로와 전기적으로 연결된 프로세서;를 포함하고,
    상기 프로세서는,
    상기 객체에 대한 가상 공간 좌표를 구성하고,
    상기 객체에 음원을 매칭하고,
    상기 구성된 가상 공간 좌표에 기초하여 상기 음원에 대한 음향 효과를 설정하고,
    상기 음향 효과가 설정된 상기 음원을 상기 오디오 회로를 통해 재생하도록 설정된 전자 장치.
  2. 청구항 1에 있어서,
    상기 음향 효과는 상기 가상 공간 좌표에서 상기 음원이 재생되는 것처럼 인식되도록 설정된 전자 장치.
  3. 청구항 2에 있어서,
    상기 가상 공간 좌표는 상기 전자 장치를 둘러싼 공간에 대응하는 좌표인 전자 장치.
  4. 청구항 1에 있어서,
    상기 객체에 대한 유저 입력을 수신하는 유저 입력 회로;를 더 포함하고,
    상기 프로세서는, 상기 객체를 선택하는 유저 입력에 기초하여 상기 객체에 대응하는 음원을 재생하도록 설정된 전자 장치.
  5. 청구항 4에 있어서,
    상기 유저 입력은 음성 입력, 제스처 입력, 전자펜 입력 또는 터치 입력 중 적어도 하나를 포함하는 전자 장치.
  6. 청구항 4에 있어서,
    상기 유저 입력 회로는 상기 객체를 이동시키는 유저 입력을 수신하고,
    상기 프로세서는 상기 객체의 이동 경로에 따라서, 상기 객체에 대응하는 가상 좌표 값을 변화시키고, 상기 변화된 가상 좌표 값에 기초하여 상기 음향 효과를 업데이트하도록 설정된 전자 장치.
  7. 청구항 6에 있어서,
    상기 객체를 이동시키는 유저 입력에 기초하여, 다른 객체가 함께 이동하는 경우,
    상기 프로세서는 상기 다른 객체에 대응하는 음원을 상기 객체에 대응하는 음원과 함께 재생하도록 설정된 전자 장치.
  8. 청구항 4에 있어서,
    상기 유저 입력 회로는 복수의 객체를 순차적으로 선택하는 드래그 입력을 수신하고,
    상기 프로세서는 상기 복수의 객체 각각에 대응하는 복수의 음원을 순차적으로 재생하도록 설정된 전자 장치.
  9. 청구항 1에 있어서,
    상기 객체가 음악 앨범의 커버 이미지인 경우,
    상기 음원은 상기 음악 앨범에 포함된 음악의 인트로 또는 크라이막스를 포함하는 전자 장치.
  10. 청구항 4에 있어서,
    상기 객체를 선택하는 유저 입력에 대응하는 어플리케이션 상 입력 도구가 필기구인 경우,
    상기 음원은 상기 필기구에 대응하는 소리를 포함하는 전자 장치.
  11. 청구항 1에 있어서,
    상기 객체가 복수개인 경우,
    상기 프로세서는, 상기 복수의 객체 각각에 대한 복수의 음원 중 적어도 둘 이상을 믹싱(mixing)하여 재생시키도록 설정된 전자 장치.
  12. 청구항 1에 있어서,
    사용자의 시선을 인식하는 센서 회로;를 더 포함하고,
    상기 프로세서는 상기 사용자의 시선의 방향에 기초하여 상기 객체에 대한 가상 공간 좌표를 구성하도록 설정된 전자 장치.
  13. 청구항 2에 있어서,
    사용자의 움직임을 인식하는 센서 회로;를 더 포함하고,
    상기 프로세서는 상기 사용자의 움직임에 기초하여 상기 가상 공간 좌표가 상기 사용자를 기준으로 유지되도록 상기 설정된 음향 효과를 업데이트하도록 설정된 전자 장치.
  14. 전자 장치에서,
    객체를 표시하는 동작;
    상기 객체에 대한 가상 공간 좌표를 구성하는 동작;
    상기 객체에 음원을 매칭하는 동작;
    상기 구성된 가상 공간 좌표에 기초하여 상기 음원에 대한 음향 효과를 설정하는 동작; 및
    상기 음향 효과가 설정된 상기 음원을 재생하는 동작;을 포함하는 방법.
  15. 청구항 14에 있어서,
    상기 객체를 선택하는 유저 입력을 수신하는 동작;을 더 포함하고,
    상기 음원을 재생하는 동작은 상기 수신된 유저 입력에 기초하여 수행되는 방법.
  16. 청구항 14에 있어서,
    상기 객체를 이동시키는 유저 입력을 수신하는 동작;
    상기 객체의 이동 경로에 따라서, 상기 객체에 대응하는 가상 좌표 값을 변화시키는 동작; 및
    상기 변화된 가상 좌표 값에 기초하여 상기 음향 효과를 업데이트하는 동작;을 더 포함하는 방법.
  17. 청구항 14에 있어서,
    상기 객체를 이동시키는 유저 입력을 수신하는 동작;
    상기 객체를 이동시키는 유저 입력에 기초하여, 상기 객체와 다른 객체가 함께 이동하는 동작; 및
    상기 다른 객체에 대응하는 음원을 상기 객체에 대응하는 음원과 함께 재생하는 동작;을 더 포함하는 방법.
  18. 청구항 14에 있어서,
    복수의 객체를 순차적으로 선택하는 드래그 입력을 수신하는 동작;을 더 포함하고,
    상기 음원을 재생하는 동작은,
    상기 복수의 객체 각각에 대응하는 복수의 음원을 순차적으로 재생하는 동작;을 포함하는 방법.
  19. 청구항 13에 있어서,
    사용자의 시선을 인식하는 동작;을 더 포함하고,
    상기 객체에 대한 가상 공간 좌표를 구성하는 동작은,
    상기 사용자의 시선의 방향에 기초하여 수행되는 방법.
  20. 전자장치에 있어서,
    디스플레이;
    오디오 데이터를 포함하는 적어도 하나의 컨텐츠를 적어도 임시로 저장하는 메모리; 및
    상기 디스플레이, 및 메모리와 전기적으로 연결된 적어도 하나의 프로세서를 포함하며,
    상기 메모리는, 실행시에, 상기 프로세서가,
    상기 메모리에 저장된 적어도 하나의 컨텐츠에 대응하는 적어도 하나의 오브젝트 및 상기 오브젝트를 디스플레이하는 어플리케이션 UI를 상기 디스플레이 상에 동시에 표시하고,
    상기 어플리케이션 UI 상에서 상기 표시된 적어도 하나의 오브젝트의 상대적인 위치를 판단하고,
    상기 상대적인 위치에 적어도 일부 기초하여, 상기 표시된 적어도 하나의 오브젝트의 오디오 데이터를 공간적으로 맵핑하고,
    상기 맵핑에 적어도 일부 기초하여 상기 오디오 데이터를 합성(combine)하도록 하는 인스트럭션들을 저장하는 것을 특징으로 하는 장치.
  21. 전자 장치에서,
    상기 전자 장치와 기능적으로 연결된 디스플레이를 통해 음원에 대응하는 객체가 표시될 복수개의 지정된 위치들을 저장하기 위한 메모리, 상기 복수개의 지정된 위치들은 제 1 지정된 위치 및 제 2 지정된 위치를 포함하고; 및
    적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는:
    상기 디스플레이를 통해, 상기 객체와 연관하여 상기 제 1 지정된 위치 및 상기 제 2 지정된 위치를 표시하고;
    상기 객체와 연관된 입력을 수신하고; 및
    상기 입력에 반응하여, 상기 객체를 상기 제 1 지정된 위치로부터 상기 제 2 지정된 위치로 이동시키되, 상기 객체가 상기 제 1 지정된 위치로부터 상기 제 1 지정된 위치와 상기 제 2 지정된 위치 사이의 지점까지 이동된 거리 또는 방향에 적어도 기반하여, 상기 음원을 그 음향 효과를 변화시킨 상태로 출력하도록 설정된 전자 장치.
  22. 청구항 21에 있어서,
    상기 복수개의 지정된 위치들을 공유하는 복수개의 객체가 있는 경우,
    상기 적어도 하나의 프로세서는,
    상기 복수의 객체 각각의 움직임에 기초하여, 상기 복수의 객체 각각에 대응하는 음원들에 대한 음향 효과를 변화시키고, 상기 복수의 객체 각각에 대응하는 음원들을 믹싱하여 출력하도록 설정된, 전자 장치.
  23. 청구항 22에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 복수의 객체 중 적어도 일부의 객체를 선택하여, 상기 선택된 객체에 대응하는 음원들을 믹싱하여 출력하도록 설정된 것인, 전자 장치.
  24. 청구항 22에 있어서,
    상기 음원들을 믹싱하는 동작은,
    상기 음원들 각각의 L 채널과 R 채널을 구분하여 음향 효과를 변경하고, L 채널끼리 R 채널끼리 합성(merge)하여 출력하도록 설정된 것인, 전자 장치.
KR1020150113724A 2015-08-12 2015-08-12 사운드를 제공하는 전자 장치 및 방법 KR20170019649A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020150113724A KR20170019649A (ko) 2015-08-12 2015-08-12 사운드를 제공하는 전자 장치 및 방법
US15/235,766 US20170046123A1 (en) 2015-08-12 2016-08-12 Device for providing sound user interface and method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150113724A KR20170019649A (ko) 2015-08-12 2015-08-12 사운드를 제공하는 전자 장치 및 방법

Publications (1)

Publication Number Publication Date
KR20170019649A true KR20170019649A (ko) 2017-02-22

Family

ID=57994228

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150113724A KR20170019649A (ko) 2015-08-12 2015-08-12 사운드를 제공하는 전자 장치 및 방법

Country Status (2)

Country Link
US (1) US20170046123A1 (ko)
KR (1) KR20170019649A (ko)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190027644A (ko) * 2017-09-07 2019-03-15 엘지전자 주식회사 차량 av시스템의 오류 검출 ic
WO2021153953A1 (ko) * 2020-01-31 2021-08-05 삼성전자 주식회사 콘텐츠를 형성하기 위한 전자 장치 및 그의 동작 방법
KR20210158428A (ko) * 2018-09-26 2021-12-30 애플 인크. 오디오의 공간적 관리
WO2022114885A1 (ko) * 2020-11-27 2022-06-02 삼성전자 주식회사 스타일러스를 이용한 전자 장치의 제어 방법 및 그 방법을 이용하여 스타일러스로부터 입력을 받는 전자 장치
US11809784B2 (en) 2018-09-28 2023-11-07 Apple Inc. Audio assisted enrollment

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10225656B1 (en) * 2018-01-17 2019-03-05 Harman International Industries, Incorporated Mobile speaker system for virtual reality environments
US10496360B2 (en) * 2018-03-07 2019-12-03 Philip Scott Lyren Emoji to select how or where sound will localize to a listener
JP7065367B2 (ja) * 2018-03-29 2022-05-12 パナソニックＩｐマネジメント株式会社 入力装置及び音声出力システム
US10154364B1 (en) 2018-09-09 2018-12-11 Philip Scott Lyren Moving an emoji to move a location of binaural sound
US10499179B1 (en) 2019-01-01 2019-12-03 Philip Scott Lyren Displaying emojis for binaural sound
WO2023075706A2 (en) * 2021-11-01 2023-05-04 Garena Online Private Limited Method of using scriptable objects to insert audio features into a program

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5659691A (en) * 1993-09-23 1997-08-19 Virtual Universe Corporation Virtual reality network with selective distribution and updating of data to reduce bandwidth requirements
US8023659B2 (en) * 2005-06-21 2011-09-20 Japan Science And Technology Agency Mixing system, method and program
JP4623390B2 (ja) * 2008-10-03 2011-02-02 ソニー株式会社 再生装置、再生方法及び再生プログラム
IT1393209B1 (it) * 2009-03-04 2012-04-11 Harbour Ring Crown Ace Toys Hk Company Ltd Dispositivo elettronico interattivo con funzione di auto-lettura
US8380333B2 (en) * 2009-12-21 2013-02-19 Nokia Corporation Methods, apparatuses and computer program products for facilitating efficient browsing and selection of media content and lowering computational load for processing audio data
US8653349B1 (en) * 2010-02-22 2014-02-18 Podscape Holdings Limited System and method for musical collaboration in virtual space
US20130208897A1 (en) * 2010-10-13 2013-08-15 Microsoft Corporation Skeletal modeling for world space object sounds
US20130249947A1 (en) * 2011-08-26 2013-09-26 Reincloud Corporation Communication using augmented reality
US9554229B2 (en) * 2011-10-31 2017-01-24 Sony Corporation Amplifying audio-visual data based on user's head orientation
US9632683B2 (en) * 2012-11-08 2017-04-25 Nokia Technologies Oy Methods, apparatuses and computer program products for manipulating characteristics of audio objects by using directional gestures
US9888333B2 (en) * 2013-11-11 2018-02-06 Google Technology Holdings LLC Three-dimensional audio rendering techniques

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190027644A (ko) * 2017-09-07 2019-03-15 엘지전자 주식회사 차량 av시스템의 오류 검출 ic
KR20210158428A (ko) * 2018-09-26 2021-12-30 애플 인크. 오디오의 공간적 관리
US11429342B2 (en) 2018-09-26 2022-08-30 Apple Inc. Spatial management of audio
US11635938B2 (en) 2018-09-26 2023-04-25 Apple Inc. Spatial management of audio
US11809784B2 (en) 2018-09-28 2023-11-07 Apple Inc. Audio assisted enrollment
WO2021153953A1 (ko) * 2020-01-31 2021-08-05 삼성전자 주식회사 콘텐츠를 형성하기 위한 전자 장치 및 그의 동작 방법
WO2022114885A1 (ko) * 2020-11-27 2022-06-02 삼성전자 주식회사 스타일러스를 이용한 전자 장치의 제어 방법 및 그 방법을 이용하여 스타일러스로부터 입력을 받는 전자 장치

Also Published As

Publication number Publication date
US20170046123A1 (en) 2017-02-16

Similar Documents

Publication Publication Date Title
KR102435292B1 (ko) 오디오를 출력하는 방법 및 이를 위한 전자 장치
US10289376B2 (en) Method for displaying virtual object in plural electronic devices and electronic device supporting the method
KR20170019649A (ko) 사운드를 제공하는 전자 장치 및 방법
KR20170096408A (ko) 어플리케이션을 표시하는 방법 및 이를 지원하는 전자 장치
KR20160105242A (ko) 스크린 미러링 서비스 제공장치 및 방법
KR102409202B1 (ko) 전자 장치 및 전자 장치에서 폴더 내 객체를 관리하기 위한 방법
KR20170122580A (ko) 그래픽 데이터를 합성하는 전자 장치 및 방법
KR20180109229A (ko) 전자 장치에서 증강현실 기능 제공 방법 및 장치
KR20160101600A (ko) 스크린 미러링 서비스 제공방법 및 장치
KR20160062414A (ko) 전자장치 및 전자장치의 객체 제어 방법
KR20160043380A (ko) 네트워크 서비스를 위한 전자장치와 게이트웨이, 및 이를 위한 동작 방법
KR20170021672A (ko) 콘텐츠 탐색 인터페이스 제공 방법 및 이를 지원하는 전자 장치
US20170329472A1 (en) Electronic device and method of providing information in electronic device
KR20160070571A (ko) 제어 방법 및 그 방법을 처리하는 전자장치
KR20170019651A (ko) 음향 제공 방법 및 이를 수행하는 전자 장치
KR20170052976A (ko) 모션을 수행하는 전자 장치 및 그 제어 방법
KR20170030349A (ko) 입력의 압력을 감지하는 전자 장치 및 그 동작 방법
KR20170000618A (ko) 전자 장치 및 전자 장치의 파노라마 영상 표시 제어 방법
KR20160147432A (ko) 디스플레이의 서로 다른 영역을 독립적으로 제어하는 전자 장치 및 방법
KR20170089635A (ko) 전자 장치 및 전자 장치의 사용자 인터페이스 제어 방법
KR20170053065A (ko) 추천 객체를 제공하기 위한 전자 장치 및 방법
KR20170081903A (ko) 전자 장치 및 그 동작 방법
KR20180081232A (ko) 화면을 표시하기 위한 방법 및 그 전자 장치
KR20180102875A (ko) 전자 장치 및 전자 장치의 화면 표시방법
KR20170014764A (ko) 화면 제어 방법 및 이를 지원하는 전자 장치