KR102232045B1 - 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능 매체. - Google Patents

전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능 매체. Download PDF

Info

Publication number
KR102232045B1
KR102232045B1 KR1020190002346A KR20190002346A KR102232045B1 KR 102232045 B1 KR102232045 B1 KR 102232045B1 KR 1020190002346 A KR1020190002346 A KR 1020190002346A KR 20190002346 A KR20190002346 A KR 20190002346A KR 102232045 B1 KR102232045 B1 KR 102232045B1
Authority
KR
South Korea
Prior art keywords
electronic device
external object
display
posture
audio signal
Prior art date
Application number
KR1020190002346A
Other languages
English (en)
Other versions
KR20200086120A (ko
Inventor
류종엽
김근우
김창현
이수훈
최병갑
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020190002346A priority Critical patent/KR102232045B1/ko
Priority to PCT/KR2020/000109 priority patent/WO2020145579A1/en
Priority to CN202080008277.2A priority patent/CN113287292B/zh
Priority to EP20738814.1A priority patent/EP3878167A4/en
Priority to US16/737,219 priority patent/US11668782B2/en
Publication of KR20200086120A publication Critical patent/KR20200086120A/ko
Application granted granted Critical
Publication of KR102232045B1 publication Critical patent/KR102232045B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/80—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using ultrasonic, sonic or infrasonic waves
    • G01S3/801—Details
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S11/00—Systems for determining distance or velocity not using reflection or reradiation
    • G01S11/14—Systems for determining distance or velocity not using reflection or reradiation using ultrasonic, sonic, or infrasonic waves
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/02—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using radio waves
    • G01S3/04—Details
    • G01S3/046—Displays or indicators
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/80—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using ultrasonic, sonic or infrasonic waves
    • G01S3/802—Systems for determining direction or deviation from predetermined direction
    • G01S3/808—Systems for determining direction or deviation from predetermined direction using transducers spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems
    • G01S3/8083—Systems for determining direction or deviation from predetermined direction using transducers spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems determining direction of source
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/02—Constructional features of telephone sets
    • H04M1/03—Constructional features of telephone transmitters or receivers, e.g. telephone hand-sets
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72454—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/60—Substation equipment, e.g. for use by subscribers including speech amplifiers
    • H04M1/6008—Substation equipment, e.g. for use by subscribers including speech amplifiers in the transmitter circuit
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/60—Substation equipment, e.g. for use by subscribers including speech amplifiers
    • H04M1/6033—Substation equipment, e.g. for use by subscribers including speech amplifiers for providing handsfree use or a loudspeaker mode in telephone sets
    • H04M1/6041—Portable telephones adapted for handsfree use
    • H04M1/6058—Portable telephones adapted for handsfree use involving the use of a headset accessory device connected to the portable telephone

Abstract

전자 장치를 개시한다. 본 전자 장치는 오디오 수신부, 센서부, 디스플레이, 외부 객체에서 출력된 오디오 신호가 오디오 수신부를 통해 수신되면, 수신된 오디오 신호에 기초하여 전자 장치로부터 외부 객체가 위치하는 방향을 판단하고, 센서부를 통해 획득된 전자 장치의 자세 및 외부 객체가 위치하는 방향에 기초하여 외부 객체를 나타내는 그래픽 오브젝트를 표시하도록 디스플레이를 제어하는 프로세서를 포함한다.

Description

전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능 매체. { ELECTRONIC APPARATUS, CONTROLLING METHOD OF ELECTRONIC APPARATUS AND COMPUTER READABLE MEDIUM }
본 개시는 전자 장치에 관한 것이다. 보다 상세하게는, 외부 객체에서 출력되는 오디오 신호를 통해 외부 객체의 방향을 식별하고, 식별된 외부 객체의 방향을 디스플레이를 통해 직관적으로 사용자에게 제공하는 전자 장치에 관한 것이다.
스마트폰의 기능이 빠르게 발전하고 대량 보급이 현실화된 결과, 사람들의 스마트폰에 대한 의존도가 매우 커지게 되었다. 다만, 스마트폰, 태블릿 PC 등의 전자 장치에 눈과 귀가 집중된 채로 주변의 상황을 인지하지 못하는 사람들이 돌발상황 또는 위험 요소에 무방비로 노출되는 경우가 많았고, 이를 반영하듯 이른바 '스몸비(smombie)'라는 용어가 생겨나기도 했다.
한편, 외부 객체의 위치를 표시함에 있어, 종래에는 동서남북의 위상이 표시된 그래픽 지도상에 사용자의 전자 장치 및 외부 객체 각각에 대응되는 아이콘을 표시하는 것에 그쳤고, 이를 본 사용자는 외부 객체의 방향을 판단함에 앞서 사용자 본인이 바라보고 있는 방향이 어느 방향인지 먼저 파악할 필요가 있기 때문에, 사용자의 시선을 기준으로 외부 객체의 방향이 어느 방향인지 직관적으로 파악하기는 어려웠다.
한편, 외부 객체에서 출력되는 오디오 신호를 통해 외부 객체의 방향 내지는 위치를 식별하기 위하여, 종래에는 서로 간에 비교적 거리가 큰 마이크를 3개 이상 사용할 필요가 있었다.
다만, 일반적으로 스마트폰 등의 휴대 장치에는 마이크가 두 개만 구비되는 경우가 대다수였고, 부피에 한계가 있는 휴대 장치의 특성상 마이크 간의 거리도 매우 짧아서 마이크의 거리를 이용한 오디오 신호의 수신 차를 이용함에 제약이 있었다.
본 개시는, 전자 장치의 자세에 따른 디스플레이의 방향 및 전자 장치를 기준으로 한 외부 객체의 방향을 고려하여, 디스플레이를 보는 사용자의 시선을 기준으로 외부 장치의 방향을 직관적으로 표시함으로써, 위험 요소(외부 객체)를 알리는 전자 장치를 제공함에 그 목적이 있다.
본 개시는, 서로 간의 거리가 비교적 짧은 두 개의 마이크만을 이용하면서도, 외부 객체에서 출력되는 오디오 신호를 통해 외부 객체의 방향에 대한 정보를 획득할 수 있도록 하는 전자 장치를 제공함에도 그 목적이 있다.
특히, 본 개시는, 스마트폰, 태블릿 PC 등의 전자 장치에 눈과 귀가 집중된 채로 주변의 상황을 인지하지 못해 돌발상황 또는 위험 요소에 무방비로 노출된 이른바 '스몸비(smombie)'의 안전을 확보하기 위해, 사용자 명령에 따른 동작을 수행하면서도, 다가오는 외부 객체의 소리를 기초로 외부 객체의 방향 및 존재를 식별하여 이를 사용자에게 알리는 스마트폰, 태블릿 PC 등의 전자 장치를 제공함에 목적이 있다.
상술한 과제를 해결하기 위한 본 개시의 일 실시 예에 따른 전자 장치는, 오디오 수신부, 센서부, 디스플레이, 외부 객체에서 출력된 오디오 신호가 상기 오디오 수신부를 통해 수신되면, 상기 수신된 오디오 신호에 기초하여 상기 전자 장치로부터 상기 외부 객체가 위치하는 방향을 판단하고, 상기 센서부를 통해 획득된 상기 전자 장치의 자세 및 상기 외부 객체가 위치하는 방향에 기초하여 상기 외부 객체를 나타내는 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어하는 프로세서를 포함한다.
상기 프로세서는, 상기 전자 장치의 자세를 기준으로 상기 디스플레이에서 상기 외부 객체가 위치하는 방향에 대응되는 영역을 판단하고, 상기 판단된 영역에 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어할 수 있다.
그리고, 상기 프로세서는, 상기 전자 장치의 자세 및 상기 외부 객체가 위치하는 방향에 기초하여 결정된 형상의 상기 그래픽 오브젝트를 상기 판단된 영역에 표시하도록 상기 디스플레이를 제어할 수 있다.
이 경우, 상기 프로세서는, 상기 전자 장치의 자세가 상기 디스플레이가 위를 향하는 제1 자세로부터 기설정된 범위 내인 경우, 상기 외부 객체의 탑 뷰(top view)에 대응되는 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어하고, 상기 전자 장치의 자세가, 상기 디스플레이의 방향이 상기 제1 자세에서 상기 디스플레이가 향하는 방향에 수직한 제2 자세로부터 기설정된 범위 내인 경우, 상기 외부 객체의 사이드 뷰(side view)에 대응되는 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어할 수 있다.
이때, 상기 프로세서는, 상기 전자 장치의 자세가 상기 제1 자세로부터 기설정된 범위 내인 경우, 상기 탑 뷰에 대응되는 상기 그래픽 오브젝트를 상기 판단된 영역에 대응되는 각도로 표시하도록 상기 디스플레이를 제어할 수 있다.
또한, 상기 프로세서는, 상기 전자 장치의 자세가 상기 제2 자세로부터 기설정된 범위 내인 경우, 상기 판단된 영역에 대응되는 시점에서 본 상기 사이드 뷰에 대응되는 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어할 수 있다.
한편, 상기 프로세서는, 상기 오디오 수신부를 통해 수신되는 상기 외부 객체의 오디오 신호를 기저장된 오디오 신호와 비교하여 상기 외부 객체가 상기 전자 장치로 다가오는 속도를 식별하고, 상기 식별된 속도에 기초하여 위험 상황에 대한 알림을 제공할 수 있다.
그리고, 상기 프로세서는, 상기 오디오 수신부를 통해 수신되는 상기 외부 객체의 오디오 신호에 기초하여 상기 외부 객체를 식별하고, 상기 식별된 외부 객체에 대응되는 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어할 수 있다.
한편, 상기 오디오 수신부는, 제1 및 제2 마이크를 포함하고, 상기 프로세서는, 상기 전자 장치가 제1 위치에 있는 때에 상기 제1 및 제2 마이크를 통해 수신된 상기 외부 객체의 오디오 신호 및 상기 전자 장치가 제2 위치에 있는 때에 상기 제1 및 제2 마이크 중 적어도 하나를 통해 수신된 상기 외부 객체의 오디오 신호를 이용하여, 상기 외부 객체가 위치하는 방향을 판단할 수 있다.
본 개시의 일 실시 예에 따른 전자 장치의 제어 방법은, 외부 객체에서 출력된 오디오 신호가 오디오 수신부를 통해 수신되면, 상기 수신된 오디오 신호에 기초하여 상기 전자 장치로부터 상기 외부 객체가 위치하는 방향을 판단하는 단계, 센서부를 통해 획득된 상기 전자 장치의 자세 및 상기 외부 객체가 위치하는 방향에 기초하여 상기 외부 객체에 대응되는 그래픽 오브젝트를 표시하는 단계를 포함한다.
상기 그래픽 오브젝트를 표시하는 단계는, 상기 전자 장치의 자세를 기준으로 상기 디스플레이에서 상기 외부 객체가 위치하는 방향에 대응되는 영역을 판단하고, 상기 판단된 영역에 상기 그래픽 오브젝트를 표시할 수 있다.
그리고, 상기 그래픽 오브젝트를 표시하는 단계는, 상기 전자 장치의 자세 및 상기 외부 객체가 위치하는 방향에 기초하여 결정된 형상의 상기 그래픽 오브젝트를 상기 판단된 영역에 표시할 수 있다.
이 경우, 상기 그래픽 오브젝트를 표시하는 단계는, 상기 전자 장치의 자세가 상기 디스플레이가 위를 향하는 제1 자세로부터 기설정된 범위 내인 경우, 상기 외부 객체의 탑 뷰(top view)에 대응되는 상기 그래픽 오브젝트를 표시하고, 상기 전자 장치의 자세가, 상기 디스플레이의 방향이 상기 제1 자세에서 상기 디스플레이가 향하는 방향에 수직한 제2 자세로부터 기설정된 범위 내인 경우, 상기 외부 객체의 사이드 뷰(side view)에 대응되는 상기 그래픽 오브젝트를 표시할 수도 있다.
이때, 상기 그래픽 오브젝트를 표시하는 단계는, 상기 전자 장치의 자세가 상기 제1 자세로부터 기설정된 범위 내인 경우, 상기 탑 뷰에 대응되는 상기 그래픽 오브젝트를 상기 판단된 영역에 대응되는 각도로 표시할 수 있다.
또한, 상기 그래픽 오브젝트를 표시하는 단계는, 상기 전자 장치의 자세가 상기 제2 자세로부터 기설정된 범위 내인 경우, 상기 판단된 영역에 대응되는 시점에서 바라본 상기 사이드 뷰에 대응되는 상기 그래픽 오브젝트를 표시할 수 있다.
한편, 본 제어 방법은, 상기 오디오 수신부를 통해 수신되는 상기 외부 객체의 오디오 신호를 기저장된 오디오 신호와 비교하여 상기 외부 객체가 상기 전자 장치로 다가오는 속도를 식별하는 단계, 상기 식별된 속도에 기초하여 위험 상황에 대한 알림을 제공하는 단계를 더 포함할 수도 있다.
또한, 본 제어 방법은, 상기 오디오 수신부를 통해 수신되는 상기 외부 객체의 오디오 신호에 기초하여 상기 외부 객체를 식별하는 단계를 더 포함하고, 상기 그래픽 오브젝트를 표시하는 단계는, 상기 식별된 외부 객체에 대응되는 상기 그래픽 오브젝트를 표시할 수도 있다.
한편, 상기 외부 객체가 위치하는 방향을 판단하는 단계는, 상기 전자 장치가 제1 위치에 있는 때에 상기 오디오 수신부에 포함되는 제1 및 제2 마이크를 통해 수신된 상기 외부 객체의 오디오 신호 및 상기 전자 장치가 제2 위치에 있는 때에 상기 제1 및 제2 마이크 중 적어도 하나를 통해 수신된 상기 외부 객체의 오디오 신호를 이용하여, 상기 외부 객체가 위치하는 방향을 판단할 수 있다.
본 개시의 일 실시 예에 따른 컴퓨터 판독 가능 매체에는, 전자 장치의 프로세서에 의해 실행되어, 상기 전자 장치로 하여금, 외부 객체에서 출력된 오디오 신호가 오디오 수신부를 통해 수신되면, 상기 수신된 오디오 신호에 기초하여 상기 전자 장치로부터 상기 외부 객체가 위치하는 방향을 판단하는 단계, 센서부를 통해 획득된 상기 전자 장치의 자세 및 상기 외부 객체가 위치하는 방향에 기초하여 상기 외부 객체의 위치를 나타내는 그래픽 오브젝트를 표시하는 단계를 포함하는 동작을 수행하도록 하는 컴퓨터 명령어가 저장되어 있을 수 있다.
본 개시에 따른 전자 장치는, 디스플레이를 보는 사용자의 시선을 기준으로 외부 객체의 방향을 직관적으로 표시함으로써, 위험 요소(외부 객체)를 알리는 전자 장치를 제공함에 그 목적이 있다.
또한, 본 개시에 따른 전자 장치는, 두 개의 마이크만을 이용하면서도, 외부 객체에서 출력되는 오디오 신호를 통해 외부 객체의 방향에 대한 정보를 획득할 수 있다.
도 1은 본 개시에 따른 전자 장치의 적용 예를 개략적으로 설명하기 위한 도면,
도 2는 본 개시의 일 실시 예에 따른 전자 장치의 구성을 설명하기 위한 블록도,
도 3a는 두 개의 마이크를 이용하여 외부 객체의 방향을 식별하는 일 예를 설명하기 위한 도면,
도 3b는 두 개의 마이크를 이용하여 외부 객체의 방향을 식별하는 일 예를 설명하기 위한 도면,
도 3c는 두 개의 마이크를 이용하여 외부 객체의 방향을 식별하는 일 예를 설명하기 위한 도면,
도 4는 전자 장치의 자세를 구분하는 일 예를 설명하기 위한 도면,
도 5는 전자 장치의 자세 및 외부 객체가 다가오는 상황들을 설명하기 위한 도면,
도 6a는 전자 장치의 자세에 따라 외부 객체의 사이드 뷰(side view)에 해당하는 그래픽 오브젝트를 표시하는 예를 설명하기 위한 도면,
도 6b는 전자 장치의 자세에 따라 외부 객체의 사이드 뷰(side view)에 해당하는 그래픽 오브젝트를 표시하는 예를 설명하기 위한 도면,
도 6c는 전자 장치의 자세에 따라 외부 객체의 사이드 뷰(side view)에 해당하는 그래픽 오브젝트를 표시하는 예를 설명하기 위한 도면,
도 7은 전자 장치의 자세 및 외부 객체가 다가오는 상황들을 설명하기 위한 도면,
도 8a는 전자 장치의 자세에 따라 외부 객체의 탑 뷰(top view)에 대응되는 그래픽 오브젝트를 표시하는 예를 설명하기 위한 도면,
도 8b는 전자 장치의 자세에 따라 외부 객체의 탑 뷰(top view)에 대응되는 그래픽 오브젝트를 표시하는 예를 설명하기 위한 도면,
도 8c는 전자 장치의 자세에 따라 외부 객체의 탑 뷰(top view)에 대응되는 그래픽 오브젝트를 표시하는 예를 설명하기 위한 도면,
도 8d는 전자 장치의 자세에 따라 외부 객체의 탑 뷰(top view)에 대응되는 그래픽 오브젝트를 표시하는 예를 설명하기 위한 도면,
도 9a는 외부 객체가 전자 장치에 가까워짐에 따라 그래픽 오브젝트를 다르게 표시하는 실시 예를 설명하기 위한 도면,
도 9b는 외부 객체가 전자 장치에 가까워짐에 따라 그래픽 오브젝트를 다르게 표시하는 실시 예를 설명하기 위한 도면,
도 9c는 외부 객체가 전자 장치에 가까워짐에 따라 그래픽 오브젝트를 다르게 표시하는 실시 예를 설명하기 위한 도면,
도 9d는 외부 객체가 전자 장치에 가까워짐에 따라 그래픽 오브젝트를 다르게 표시하는 실시 예를 설명하기 위한 도면,
도 9e는 외부 객체가 전자 장치에 가까워짐에 따라 그래픽 오브젝트를 다르게 표시하는 실시 예를 설명하기 위한 도면,
도 9f는 외부 객체가 전자 장치에 가까워짐에 따라 그래픽 오브젝트를 다르게 표시하는 실시 예를 설명하기 위한 도면,
도 10은 본 개시의 다양한 실시 예에 따른 전자 장치의 상세한 구성을 설명하기 위한 블록도,
도 11은 복수의 전자 장치를 이용하여 외부 객체의 방향을 제공하기 위한 일 예를 설명하기 위한 도면,
도 12는 본 개시의 일 실시 예에 따른 전자 장치의 제어 방법을 설명하기 위한 순서도,
도 13은 본 개시에 따른 전자 장치의 제어 방법에 있어, 2개의 마이크를 통해 수신된 오디오 신호를 기초로 외부 객체의 방향에 대응되는 디스플레이의 영역을 판단하는 일 실시 예를 설명하기 위한 알고리즘, 그리고
도 14는 본 개시에 따른 전자 장치의 제어 방법에 있어, 외부 객체에 대응되는 그래픽 오브젝트를 표시하기 위한 구체적인 일 예를 설명하기 위한 알고리즘이다.
본 개시에 대하여 구체적으로 설명하기에 앞서, 본 명세서 및 도면의 기재 방법에 대하여 설명한다.
먼저, 본 명세서 및 청구범위에서 사용되는 용어는 본 개시의 다양한 실시 예들에서의 기능을 고려하여 일반적인 용어들을 선택하였다 하지만, 이러한 용어들은 당해 기술 분야에 종사하는 기술자의 의도나 법률적 또는 기술적 해석 및 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 일부 용어는 출원인이 임의로 선정한 용어도 있다. 이러한 용어에 대해서는 본 명세서에서 정의된 의미로 해석될 수 있으며, 구체적인 용어 정의가 없으면 본 명세서의 전반적인 내용 및 당해 기술 분야의 통상적인 기술 상식을 토대로 해석될 수도 있다.
또한, 본 명세서에 첨부된 각 도면에 기재된 동일한 참조번호 또는 부호는 실질적으로 동일한 기능을 수행하는 부품 또는 구성요소를 나타낸다. 설명 및 이해의 편의를 위해서 서로 다른 실시 예들에서도 동일한 참조번호 또는 부호를 사용하여 설명한다. 즉, 복수의 도면에서 동일한 참조 번호를 가지는 구성요소를 모두 도시되어 있다고 하더라도, 복수의 도면들이 하나의 실시 예를 의미하는 것은 아니다.
또한, 본 명세서 및 청구범위에서는 구성요소들 간의 구별을 위하여 "제1", "제2" 등과 같이 서수를 포함하는 용어가 사용될 수 있다. 이러한 서수는 동일 또는 유사한 구성요소들을 서로 구별하기 위하여 사용하는 것이며 이러한 서수 사용으로 인하여 용어의 의미가 한정 해석되어서는 안 된다. 일 예로, 이러한 서수와 결합된 구성요소는 그 숫자에 의해 사용 순서나 배치 순서 등이 제한되어서는 안 된다. 필요에 따라서는, 각 서수들은 서로 교체되어 사용될 수도 있다.
본 명세서에서 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "구성되다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 개시의 실시 예에서 "모듈", "유닛", "부(part)" 등과 같은 용어는 적어도 하나의 기능이나 동작을 수행하는 구성요소를 지칭하기 위한 용어이며, 이러한 구성요소는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 "모듈", "유닛", "부(part)" 등은 각각이 개별적인 특정한 하드웨어로 구현될 필요가 있는 경우를 제외하고는, 적어도 하나의 모듈이나 칩으로 일체화되어 적어도 하나의 프로세서로 구현될 수 있다.
또한, 본 개시의 실시 예에서, 어떤 부분이 다른 부분과 연결되어 있다고 할 때, 이는 직접적인 연결뿐 아니라, 다른 매체를 통한 간접적인 연결의 경우도 포함한다. 또한, 어떤 부분이 어떤 구성요소를 포함한다는 의미는, 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
본 개시의 실시 예에서, "제1 구성, 제2 구성 및 제3 구성 중 적어도 하나"(at least one of configuration 1, configuration 2 or configuration 3)의 의미는, "오직 제1 구성", "오직 제2 구성", "오직 제3구성", "제1 구성과 제2 구성", "제2 구성과 제3 구성", "제1 구성과 제3 구성", "제1 구성과 제2 구성과 제3 구성 모두"인 경우를 모두 포함할 수 있다.
도 1은 본 개시에 따른 전자 장치의 적용 예를 개략적으로 설명하기 위한 도면이다.
도 1을 참조하면, 헤드폰(40)을 착용하여 주변의 소리를 듣지 못한 채로 스마트폰인 전자 장치(30)에 집중하고 있는 사용자(10)는, 사용자(10)의 시선을 기준으로 좌측 방면에서 다가오는 오토바이(20)의 소리를 듣지 못할 수 있다.
이때, 도 1의 전자 장치(30)는, 오토바이(20)로부터 출력되는 엔진음 등의 오디오 신호를 이용하여 전자 장치(30)를 기준으로 오토바이(20)의 방향을 식별할 수 있다. 그리고, 전자 장치(30)의 자세에 따른 디스플레이의 방향을 고려하여, 오토바이(20)에 대응되는 그래픽 오브젝트(20')를 디스플레이(31)의 좌측 영역에 표시할 수 있다. 이 경우, 추가적인 예로, 전자 장치(30)에 유선 또는 무선으로 연결된 헤드폰(40)을 통해 경고음이 출력될 수도 있고, 디스플레이(31)가 전체적으로 붉은 빛으로 깜빡이거나 또는 디스플레이의 테두리 부분에 붉은 경고선이 표시될 수도 있다.
그 결과, 사용자(10)는 좌측 방면에 운행 중인 오토바이(20)가 있거나 또는 다가오고 있다는 점을 인지하여 위험에 대비할 수 있다.
도 2는 본 개시의 일 실시 예에 따른 전자 장치(100)의 구성을 설명하기 위한 블록도이다.
전자 장치(100)는 휴대폰, 스마트폰, 태블릿 PC, 노트북 PC 등 휴대가 가능한 전자 장치로 구현될 수 있다. 전자 장치(100)는 자동차와 같은 이동체 내부에 구비된 내비게이션 시스템 등의 운행 보조 장치로 구현될 수도 있다.
또한, 전자 장치(100)는 하나 이상의 이미지를 디스플레이할 수 있는 스마트 워치, 스마트 안경 등의 웨어러블 디바이스로 구현될 수도 있다.
도 2를 참조하면, 전자 장치(100)는 오디오 수신부(110), 센서부(120), 디스플레이(130) 및 프로세서(140)를 포함할 수 있다.
오디오 수신부(110)는 외부의 오디오 신호를 수신하기 위한 구성으로, 하나 이상의 마이크(도시되지 않음)를 포함하는 회로(circuitry) 형태로 구현될 수 있다. 구체적으로, 오디오 수신부(110)는 두 개의 마이크를 포함할 수 있다.
센서부(120)는 전자 장치(100)가 전자 장치(100)의 자세 및 위치를 식별하기 위한 구성이다. 이를 위해, 센서부(120)는 자이로 센서 및 가속도 센서를 포함하는 하나 이상의 회로 형태로 구현될 수 있다. 또한, 센서부(120)는 GPS(Global Positioning System) 센서 및 지자기 센서 중 적어도 하나를 더 포함할 수 있다.
센서부(120)는 이외에도 다양한 종류의 센서를 포함할 수 있으며, 전자 장치(100)는 센서부(120)를 통해 외부 환경에 대한 정보 또는 사용자 명령에 대한 정보를 획득할 수 있다. 다양한 센서에 대해서는 도 10을 통해 후술한다.
전자 장치(100)는 센서부(120)에 포함된 하나 이상의 자이로 센서를 통해 전자 장치(100)의 자세를 식별할 수 있다. 전자 장치(100)의 자세는, 롤(Roll), 피치(pitch), 요(Yaw) 중 적어도 하나를 기준으로 전자 장치(100)가 회전한 각도에 대한 정보를 포함할 수 있다.
디스플레이(130)는, 프로세서(140)의 제어에 따라 하나 이상의 이미지를 표시하기 위한 구성이다. 이를 위해, 디스플레이(130)는 LCD(Liquid Crystal Display), PDP(Plasma Display Panel), OLED(Organic Light Emitting Diodes), TOLED(Transparent OLED) 등으로 구현될 수 있다. LCD로 구성되는 경우, 디스플레이(170) 내에는 a-si TFT, LTPS(low temperature poly silicon) TFT, OTFT(organic TFT) 등과 같은 형태로 구현될 수 있는 구동 회로(도시되지 않음), 백라이트 유닛(도시되지 않음) 등도 함께 포함될 수 있다.
디스플레이(130)는 플렉서블 디스플레이 또는 폴더블(foldable) 디스플레이로 구현될 수도 있다. 이를 위해, 디스플레이(130)는 외부 압력에 의해 변형될 수 있는 플라스틱 기판(가령, 고분자 필름)이나 유리 박막(thin glass) 또는 금속 박막(metal foil) 등과 같이 플렉서블한 특성을 갖는 소재로 구현될 수도 있다.
한편, 디스플레이(130)는 사용자의 터치 조작을 감지할 수 있는 터치 패널이 포함된 터치스크린 형태로 구현될 수도 있다.
프로세서(140)는 전자 장치(100)의 전반적인 동작을 제어할 수 있다. 이를 위해, 프로세서(120)는 RAM(Random Access Memory)(도시되지 않음), ROM(Read Only Memory)(도시되지 않음), CPU(central processing unit)(도시되지 않음), GPU(Graphic processing unit)(도시되지 않음) 및 시스템 버스(도시되지 않음) 등을 포함할 수 있으며, 전자 장치(100)에 포함된 하나 이상의 구성요소들의 제어에 관한 연산이나 데이터 처리를 실행할 수 있다.
프로세서(140)는 스토리지(도시되지 않음)에 저장된 하나 이상의 명령어를 실행시켜 전자 장치(100)에 포함된 하나 이상의 구성요소들을 제어하거나, 하드웨어적인 회로 내지는 칩으로서 하나 이상의 구성요소들을 제어하거나, 또는 소프트웨어 및 하드웨어의 결합으로서 하나 이상의 구성요소들을 제어할 수 있다.
프로세서(140)는 오디오 수신부(110), 센서부(120), 디스플레이(130) 및 스토리지(도시되지 않음))를 포함한 전자 장치(100) 내 다양한 구성요소들과 전기적으로 연결되어 이들을 제어할 수 있다.
프로세서(140)는 외부 객체에서 출력된 오디오 신호가 오디오 수신부(110)를 통해 수신되면, 수신된 오디오 신호에 기초하여 전자 장치(100)로부터 외부 객체가 위치하는 방향을 판단할 수 있다.
구체적으로, 프로세서(140)는, 전자 장치가 제1 위치에 있는 때에 오디오 수신부(110)에 포함된 제1 및 제2 마이크를 통해 수신된 외부 객체의 오디오 신호 및 전자 장치가 제2 위치에 있는 때에 제1 및 제2 마이크 중 적어도 하나를 통해 수신된 외부 객체의 오디오 신호를 이용하여, 전자 장치(100)로부터 외부 객체가 위치하는 방향을 판단할 수 있다.
이 경우, 프로세서(140)는, 제1 및 제2 마이크 각각에 수신된 오디오 신호의 볼륨이 기설정된 값 이상이고, 제1 및 제2 마이크 각각에 수신된 오디오 신호가 서로 기설정된 비율 이상 매칭되는 경우에만, 수신된 오디오 신호를 이용하여 전자 장치(100)로부터 외부 객체가 위치하는 방향을 판단할 수도 있다.
도 3a 내지 3c는 오디오 수신부에 포함되는 제1 마이크(310) 및 제2 마이크(320)를 이용하여 외부 객체의 방향을 식별하는 일 예를 설명하기 위한 도면들이다.
도 3a를 참조하면, 전자 장치가 제1 위치에 있는 때에 음원(source)에 해당하는 외부 객체(20)로부터 오디오 신호가 제1 마이크(310) 및 제2 마이크(320)에 각각 도달하면, 프로세서(140)는 제1 마이크(310) 및 제2 마이크(320) 간의 오디오 신호의 도달 시간 차이 및 음속을 이용하여 'd(301)'를 구할 수 있다.
그리고, 이하 수학식을 통해 각도 'θ(302)'를 구할 수 있다. (r: 제1 마이크(310) 및 제2 마이크(320) 간의 거리)
Figure 112019002407524-pat00001
(302) = cos-1(d/r)
도 3b를 참조하면, 외부 객체가 지표면 상에 있다는 전제하에, 외부 객체가 존재하는 영역은 전자 장치(100)를 기준으로 두 개의 방향 범위(20-1, 20-1) 중 하나일 수 있다.
도 3c를 참조하면, 전자 장치(100)가 이동하거나 및/또는 전자 장치(100)의 자세가 변경됨에 따라 프로세서(140)는 자이로 센서, 가속도 센서, GPS 센서 및 지자기 센서 중 적어도 하나를 이용하여 전자 장치(100)의 이동 후 자세 및 위치를 식별할 수 있다. 이때, 프로세서(140)는 이동 후 위치 및 이동 후 자세를 식별함으로써, 이동한(310-1 -> 310-2, 320-1 -> 320-2) 제1 마이크(310) 및 제2 마이크(320)의 위치에 대한 정보를 획득할 수 있다.
그리고, 프로세서(140)는, 310-2 위치에 있는 제1 마이크(310) 및 320-2 위치에 있는 제2 마이크(320) 중 적어도 하나를 통해 수신된 외부 객체의 오디오 신호를, 310-1 위치에서 제1 마이크(310)가 수신한 오디오 신호 및 320-1 위치에서 제2 마이크(320)가 수신한 오디오 신호와 비교한 결과를 이용하여, 20-1 방향 범위 및 20-2 방향 범위 중 이동 전 전자 장치(100)를 기준으로 외부 객체가 위치하는 방향을 식별할 수 있다.
그리고, 프로세서(140)는, 이동 전 전자 장치(100)를 기준으로 외부 객체가 위치하는 방향을, 이동 후 전자 장치(100)의 자세 및 위치에 적용하여, 이동 후 전자 장치(100)를 기준으로 외부 객체가 위치하는 방향을 판단할 수 있다. 이때, 이동 전후의 시간 간격(오디오 신호가 수신된 시간 간격)은 millisecond 단위 이하로 매우 짧을 수 있고, 따라서, 이동 전후 전자 장치(100)의 위치 변화 자체는 거의 고려되지 않을 수도 있다.
외부 객체로부터 출력되는 오디오 신호, 즉 제1 마이크(310) 및 제2 마이크(320)를 통해 수신되는 오디오 신호는, 진폭 또는 그 밖의 특성에 있어 일정한 주기를 갖는 오디오 신호일 수 있다. 일반적으로, 경고음, 엔진 작동음, 클랙슨 소리 등 다양한 오디오 신호들은 적어도 짧은 시간만큼은 주기성을 갖는 경우가 대부분이다. 이러한 주기성을 이용하여, 프로세서(140)는 이동 전후에 각 마이크를 통해 수신되는 오디오 신호 간의 도달 시간 차를 식별할 수 있다.
한편, 도 3a 내지 3c를 통해서는, 이동 전 제1 마이크(310. 310-1 위치)를 통해 수신된 오디오 신호, 이동 전 제2 마이크(320. 320-1 위치)를 통해 수신된 오디오 신호, 이동 후 제1 마이크(310. 310-2 위치) 및 제2 마이크(320. 320-2 위치) 중 적어도 하나를 통해 수신된 오디오 신호를 이용하는 것으로 서술하였으나, 이동 후 제1 마이크(310. 310-2 위치)를 통해 수신된 오디오 신호, 이동 후 제2 마이크(320. 320-2 위치)를 통해 수신된 오디오 신호, 이동 전 제1 마이크(310. 310-1 위치) 및 제2 마이크(320. 320-1 위치) 중 적어도 하나를 통해 수신된 오디오 신호를 이용하는 것도 가능하다.
한편, 이동 전 제1 마이크(310. 310-1 위치), 이동 전 제2 마이크(320. 320-1 위치), 이동 후 제1 마이크(310. 310-2 위치) 및 이동 후 제2 마이크(320. 320-2 위치) 중 적어도 세 개의 마이크를 통해 수신되는 오디오 신호(주기성 있음)를 종래의 삼각 측량에 적용함으로써 외부 객체의 위치를 식별하는 것도 가능할 수 있다.
프로세서(140)는 센서부(120)를 통해 획득된 전자 장치(100)의 자세 및 전자 장치(100)를 기준으로 외부 객체가 위치하는 방향에 기초하여 외부 객체를 나타내는 그래픽 오브젝트를 표시하도록 디스플레이를 제어할 수 있다.
이때, 프로세서(140)는 전자 장치(100)의 자세를 기준으로 디스플레이(130)에서 외부 객체가 위치하는 방향에 대응되는 영역을 판단하고, 판단된 영역에 그래픽 오브젝트를 표시하도록 디스플레이(130)를 제어할 수 있다.
구체적으로, 프로세서(140)는 전자 장치(100)의 자세를 이용하여 디스플레이(130)의 방향을 식별하고, 이를 외부 객체가 위치하는 방향과 비교하여 해당 영역을 판단할 수 있다.
프로세서(140)는 오디오 수신부(110)를 통해 수신되는 외부 객체의 오디오 신호에 기초하여 외부 객체를 식별하고, 식별된 외부 객체에 대응되는 그래픽 오브젝트를 표시하도록 디스플레이를 제어할 수 있다. 예를 들어, 외부 객체가 자동차인 경우 그래픽 오브젝트는 자동차에 대한 이미지이고, 외부 객체가 오토바이인 경우 그래픽 오브젝트는 오토바이에 대한 이미지일 수 있다.
이를 위해, 프로세서(140)는 수신된 오디오 신호를 기저장된 복수의 오디오 신호와 비교할 수 있다. 이때 복수의 오디오 신호는 다양한 음원에 매칭되는 것일 수 있다. 프로세서(140)는, 오디오 신호를 입력받으면 입력된 오디오 신호의 음원이 무엇인지 판단하도록 네트워크 학습된 인공지능 모델을 이용할 수도 있다. 이 경우, 인공지능 모델은 전자 장치(100)의 스토리지(도시되지 않음)에 저장되어 있을 수도 있고, 전자 장치(100)와 유선 또는 무선으로 데이터를 주고받을 수 있는 외부 장치(도시되지 않음)에 저장되어 있을 수도 있다.
한편, 그래픽 오브젝트가 표시되는 디스플레이(130)의 영역뿐만 아니라, 그래픽 오브젝트의 형상 역시 전자 장치(100)의 자세 및 외부 객체가 위치하는 방향에 따라 결정될 수 있다.
즉, 프로세서(140)는 전자 장치(100)의 자세 및 외부 객체가 위치하는 방향에 기초하여 결정된 형상의 그래픽 오브젝트를 판단된 영역에 표시하도록 디스플레이(130)를 제어할 수 있다.
구체적으로, 프로세서(140)는, 전자 장치(100)의 자세가, 디스플레이(130)가 위를 향하는 제1 자세로부터 기설정된 범위 내인 경우, 외부 객체의 탑 뷰(top view)에 대응되는 그래픽 오브젝트를 표시하도록 디스플레이(130)를 제어할 수 있다. 이때, 기설정된 범위는, 전자 장치(100)의 자세가 제1 자세로부터 피치, 롤, 요 각각의 축을 기준으로 기설정된 각도 범위 내로 회전한 것을 의미할 수 있다.
한편, 제1 자세는, 디스플레이(130)가 위를 향하는 경우뿐만 아니라 아래를 향하는 경우도 포함할 수 있다.
또한, 프로세서(140)는 전자 장치(100)의 자세가, 디스플레이(130)의 방향이 상술한 제1 자세에서 디스플레이(130)가 향하는 방향에 수직한 제2 자세로부터 기설정된 범위 내인 경우, 외부 객체의 사이드 뷰(side view)에 대응되는 그래픽 오브젝트를 표시하도록 디스플레이(130)를 제어할 수 있다. 다르게 표현하면, 전자 장치(100)의 제2 자세는, 디스플레이(130)가 지표면과 평행한 방향을 바라보는 자세로부터 기설정된 범위 내일 수 있다. 이때, 기설정된 범위는, 전자 장치(100)의 자세가 제1 자세로부터 피치, 롤, 요 각각의 축을 기준으로 기설정된 각도 범위 내로 회전한 것을 의미할 수 있다.
여기서, 사이드 뷰라는 용어는, 특정 객체의 전후좌우 방향을 모두 포함하는 360도 범위의 방향에서 바라본 모든 뷰를 포함하는 의미로 사용된다.
도 4는 표시되는 그래픽 오브젝트의 형상과 관련하여, 전자 장치(100)의 자세를 구분하는 일 예를 설명하기 위한 도면이다.
도 4를 참조하면, 전자 장치(410)는 디스플레이(413)가 위(+z)를 바라보고 있는 경우에 해당한다. 따라서, 전자 장치(410)는 제1 자세에 해당하므로, 디스플레이(413)를 바라보는 사용자의 시선 방향이 아래 방향(-z. 451)일 가능성이 높다. 이와 같이 전자 장치(410)가 제1 자세인 경우, 전자 장치(410)의 디스플레이(413)를 통해 표시하는 그래픽 오브젝트는 외부 객체의 탑 뷰, 즉 외부 객체를 위에서 바라보는 모습과 대응되는 것이 사용자 입장에서 자연스럽다.
그리고, 제1 자세로부터 일정 각도(401)만큼 회전하였지만 제1 자세로부터 기설정된 범위 내인 전자 장치(420) 역시, 마찬가지로 디스플레이(423)가 비교적 위쪽 방향을 향하고 있으므로, 사용자의 시선 방향이 아래 방향(-z. 451)일 가능성이 높다. 따라서, 외부 객체의 탑 뷰에 대응되는 그래픽 오브젝트가 디스플레이(423)에 표시될 수 있다.
도 4를 참조하면, 전자 장치(430)는 디스플레이(도시되지 않음)가 -y 방향, 즉 제1 자세인 경우의 디스플레이의 방향과 비교했을 때 수직인 경우인 제2 자세에 해당한다. 이 경우, 디스플레이를 바라보는 사용자의 시선 방향이 +y 방향(452)일 가능성이 높으므로, 외부 객체의 사이드 뷰에 대응되는 그래픽 오브젝트가 전자 장치(430)의 디스플레이에 표시될 수 있다.
그리고, 제2 자세로부터 일정 각도(402)만큼 회전하였지만 제2 자세로부터 기설정된 범위 내인 전자 장치(440) 역시, 마찬가지로 디스플레이(도시되지 않음)가 비교적 +y와 유사한 방향을 향하고 있으므로, 디스플레이를 바라보는 사용자의 시선 방향이 +y 방향(452)일 가능성이 높다. 따라서, 외부 객체의 사이드 뷰에 대응되는 그래픽 오브젝트가 전자 장치(440)의 디스플레이에 표시될 수 있다.
프로세서(140)는, 전자 장치(100)의 자세가 제2 자세로부터 기설정된 범위 내인 경우, 판단된 영역에 대응되는 시점에서 본 사이드 뷰에 대응되는 그래픽 오브젝트를 표시하도록 디스플레이를 제어할 수 있다. 이때, 프로세서(140)는, 디스플레이(130) 내 판단된 영역에서 디스플레이(130)의 중심으로 향하는 방향 또는 디스플레이(130)가 향하는 방향으로 이동하는 외부 객체의 모습에 대응되는 그래픽 오브젝트를 표시하도록 디스플레이를 제어할 수 있다.
도 5, 도 6a, 도 6b, 도 6c는 전자 장치의 자세에 따라 외부 객체의 사이드 뷰(side view)에 해당하는 다양한 그래픽 오브젝트를 표시하는 실시 예들을 설명하기 위한 도면이다.
도 5를 참조하면, 사용자(100)가 전자 장치(100)를 제2 자세 또는 그로부터 기설정된 범위 내인 자세로 들고 있는 상태에서, 자동차인 외부 객체가 전자 장치(100)의 디스플레이(130)가 향하는 방향의 반대 방향에서 (사용자의 시선 기준 정면에서) 오는 경우(510), 디스플레이(130)가 향하는 방향의 우측 방향에서 (사용자의 시선 기준 좌측에서) 오는 경우(520), 디스플레이(130)가 향하는 방향의 좌측 방향에서 (사용자의 시선 기준 우측에서) 오는 경우(530)를 각각 확인할 수 있다.
이때, 510의 경우는 도 6a에 대응되고, 520의 경우는 도 6b에 대응되며, 530의 경우는 도 6c에 대응된다.
도 6a를 참조하면, 프로세서(140)는, 전자 장치(100)의 자세가 제2 자세로부터 기설정된 범위 내이고 외부 객체가 위치하는 방향이 전자 장치(100)의 후면 방향이라는 점을 이용하여, 디스플레이(130)의 가운데 영역(610)에 외부 객체의 사이드 뷰 중 정면 뷰에 해당하는 그래픽 오브젝트(510')를 표시하도록 디스플레이(130)를 제어할 수 있다. 구체적으로는, 자동차, 오토바이 등 외부 객체의 종류에 대응되는 대상에 대한 정면 이미지에 해당하는 그래픽 오브젝트(510')를 표시하도록 디스플레이(130)를 제어할 수 있다.
도 6b를 참조하면, 프로세서(140)는, 전자 장치(100)의 자세가 제2 자세로부터 기설정된 범위 내이고 외부 객체가 위치하는 방향이 전자 장치(100)의 디스플레이(130)가 향하는 방향으로부터 우측 방향이라는 점을 이용하여, 디스플레이(130)의 좌측 영역(620)에 외부 객체의 사이드 뷰 중 외부 객체를 우측에서 바라본 뷰에 해당하는 그래픽 오브젝트(520')를 표시하도록 디스플레이(130)를 제어할 수 있다. 구체적으로는, 자동차, 오토바이 등 외부 객체의 종류에 대응되는 대상을 우측에서 바라본 이미지에 해당하는 그래픽 오브젝트(520')를 표시하도록 디스플레이(130)를 제어할 수 있다.
이때, 도 6b를 통해 확인할 수 있듯, 그래픽 오브젝트(520')는 외부 객체의 종류에 대응되는 대상을 우측에서 바라본 뷰 전체에 해당하지 않고, 그 중 일부분에만 해당할 수도 있다. 특히, 외부 객체의 종류에 대응되는 대상의 앞 부분에 대응될 수 있다.
도 6c를 참조하면, 프로세서(140)는, 전자 장치(100)의 자세가 제2 자세로부터 기설정된 범위 내이고 외부 객체가 위치하는 방향이 전자 장치(100)의 디스플레이(130)가 향하는 방향으로부터 좌측 방향이라는 점을 이용하여, 디스플레이(130)의 우측 영역(630)에 외부 객체의 사이드 뷰 중 외부 객체를 좌측에서 바라본 뷰에 해당하는 그래픽 오브젝트(530')를 표시하도록 디스플레이(130)를 제어할 수 있다. 구체적으로는, 자동차, 오토바이 등 외부 객체의 종류에 대응되는 대상을 좌측에서 바라본 이미지에 해당하는 그래픽 오브젝트(530')를 표시하도록 디스플레이(130)를 제어할 수 있다.
이때, 도 6c를 통해 확인할 수 있듯, 그래픽 오브젝트(530')는 외부 객체의 종류에 대응되는 대상을 좌측에서 바라본 뷰 전체에 해당하지 않고, 그 중 일부분에만 해당할 수도 있다. 특히, 외부 객체의 종류에 대응되는 대상의 앞 부분에 대응될 수 있다.
한편, 도시되지는 않았으나, 전자 장치(100)가 제2 자세로부터 기설정된 범위 내인 상태에서, 외부 객체가 전자 장치(100)의 디스플레이(130)가 향하는 방향에 위치하는 경우(사용자(10)를 기준으로 510의 반대 방향), 도 6a와 동일한 그래픽 오브젝트(510')가 표시되면서 "후방"이라는 표시가 별도로 디스플레이(130)에 표시되거나, 또는 그밖에 후방에서 외부 객체가 다가온다는 시각적/청각적 알림이 전자 장치(100)를 통해 제공될 수 있음은 물론이다.
프로세서(140)는, 전자 장치(100)의 자세가 제1 자세로부터 기설정된 범위 내인 경우, 탑 뷰에 대응되는 그래픽 오브젝트를 판단된 영역에 대응되는 각도로 표시하도록 디스플레이를 제어할 수 있다. 구체적으로, 프로세서(140)는, 디스플레이(130) 내 판단된 영역에서 디스플레이(130)의 중심 쪽으로 향하는 형상에 대응되는 그래픽 오브젝트를 표시하도록 디스플레이(130)를 제어할 수 있다.
도 7, 도 8a, 도 8b, 도 8c, 도 8d는 전자 장치의 자세에 따라 외부 객체의 탑 뷰(top view)에 대응되는 다양한 그래픽 오브젝트를 표시하는 실시 예들을 설명하기 위한 도면이다.
도 7을 참조하면, 사용자(100)가 전자 장치(100)를 제1 자세 또는 그로부터 기설정된 범위 내인 자세로 들고 있는 상태에서, 자동차인 외부 객체가 전자 장치(100)의 위쪽 방향에서 (사용자 기준 정면에서) 오는 경우(710), 전자 장치(100)의 좌측 방향에서 (사용자 기준 좌측에서) 오는 경우(720), 전자 장치(100)의 우측 방향에서 (사용자 기준 우측에서) 오는 경우(730), 전자 장치의 아래쪽 방향에서 (사용자 기준 후방에서) 오는 경우(740)를 각각 확인할 수 있다.
이때, 710의 경우는 도 8a에 대응되고, 720의 경우는 도 8b에 대응되며, 730의 경우는 도 8c에 대응되고, 740의 경우는 도 8d에 대응된다.
도 8a를 참조하면, 프로세서(140)는, 전자 장치(100)의 자세가 제1 자세로부터 기설정된 범위 내이고 외부 객체가 위치하는 방향이 전자 장치(100)의 위쪽 방향이라는 점을 이용하여, 디스플레이(130)의 위쪽 영역(810)에 외부 객체의 탑 뷰에 해당하는 그래픽 오브젝트(710')를 표시하도록 디스플레이(130)를 제어할 수 있다. 이때, 그래픽 오브젝트(710')는, 디스플레이(130)의 위쪽 영역에서 디스플레이(130)의 중심 쪽으로 향하는 형상에 대응되는 것을 확인할 수 있다.
도 8b를 참조하면, 프로세서(140)는, 전자 장치(100)의 자세가 제1 자세로부터 기설정된 범위 내이고 외부 객체가 위치하는 방향이 전자 장치(100)의 좌측 방향이라는 점을 이용하여, 디스플레이(130)의 좌측 영역(820)에 외부 객체의 탑 뷰에 해당하는 그래픽 오브젝트(720')를 표시하도록 디스플레이(130)를 제어할 수 있다. 이때, 그래픽 오브젝트(720')는, 디스플레이(130)의 좌쪽 영역에서 디스플레이(130)의 중심 쪽으로 향하는 형상에 대응되는 것을 확인할 수 있다.
도 8c를 참조하면, 프로세서(140)는, 전자 장치(100)의 자세가 제1 자세로부터 기설정된 범위 내이고 외부 객체가 위치하는 방향이 전자 장치(100)의 우측 방향이라는 점을 이용하여, 디스플레이(130)의 우측 영역(830)에 외부 객체의 탑 뷰에 해당하는 그래픽 오브젝트(730')를 표시하도록 디스플레이(130)를 제어할 수 있다. 이때, 그래픽 오브젝트(730')는, 디스플레이(130)의 우측 영역에서 디스플레이(130)의 중심 쪽으로 향하는 형상에 대응되는 것을 확인할 수 있다.
도 8d를 참조하면, 프로세서(140)는, 전자 장치(100)의 자세가 제1 자세로부터 기설정된 범위 내이고 외부 객체가 위치하는 방향이 전자 장치(100)의 아래쪽 방향이라는 점을 이용하여, 디스플레이(130)의 아래쪽 영역(840)에 외부 객체의 탑 뷰에 해당하는 그래픽 오브젝트(740')를 표시하도록 디스플레이(130)를 제어할 수 있다. 이때, 그래픽 오브젝트(740')는, 디스플레이(130)의 아래쪽 영역에서 디스플레이(130)의 중심 쪽으로 향하는 형상에 대응되는 것을 확인할 수 있다.
도 8a 내지 도 8d를 참조하면, 각 그래픽 오브젝트(710', 720', 730', 740')는 외부 객체의 종류에 대응되는 대상을 위에서 바라본 탑 뷰 전체에 해당하지 않고, 그 중 일부분에만 해당할 수도 있음을 확인할 수 있다. 특히, 외부 객체의 종류에 대응되는 대상의 앞 부분에 대응될 수 있다. 다만, 이에 한정되는 것은 아니다.
한편, 프로세서(140)는 오디오 수신부(110)를 통해 수신되는 오디오 신호를 이용하여 외부 객체가 전자 장치(100)에 가까워지고 있는지 여부를 판단할 수 있다.
프로세서(140)는 오디오 수신부(110)를 통해 수신되는 오디오 신호의 볼륨이 점점 커지는 경우, 오디오 신호를 출력하는 외부 객체가 전자 장치(100)에 가까워지고 있음을 식별할 수 있다.
프로세서는, 오디오 수신부(110)를 통해 수신되는 외부 객체의 오디오 신호를 기저장된 오디오 신호와 비교하여 외부 객체가 전자 장치(100)로 다가오는 속도를 식별함으로써, 외부 객체가 전자 장치(100)에 가까워지고 있는지 여부를 판단할 수도 있다.
구체적으로, 프로세서(140)는 오디오 수신부(110)를 통해 수신되는 오디오 신호를 이용하여 자동차, 오토바이 등 외부 객체의 종류를 식별하고, 식별된 종류에 대응되는 복수의 오디오 신호를 수신된 오디오 신호와 비교하여 외부 객체가 전자 장치(100)로 다가오는 속도를 판단할 수도 있다.
이는, 외부 객체가 전자 장치(100)와 가까워지거나 멀어질수록, 도플러 효과에 따라 전자 장치(100)에 수신되는 오디오 신호가 변한다는 점에 기초한 것이다.
일 예로, 프로세서(140)는 수신된 오디오 신호를 기저장된 복수의 오디오 신호와 비교한 결과 외부 객체가 자동차라는 점을 식별할 수 있다. 그리고, 수신된 오디오 신호를, 기저장된 복수의 오디오 신호 중 자동차가 2m/s 속도로 가까워지는 경우에 대응되는 오디오 신호, 자동차가 6m/s 속도로 가까워지는 경우에 대응되는 오디오 신호, 자동차가 20m/s 속도로 가까워지는 경우에 대응되는 오디오 신호, 자동차가 10m/s 속도로 멀어지는 경우에 대응되는 오디오 신호 등과 비교할 수 있다. 그 결과, 프로세서(140)는 자동차인 외부 객체가 대략 어느 정도의 속도로 전자 장치(100)에 가까워지거나 멀어지고 있는지 판단할 수 있다. 이때, 오디오 신호가 입력되면, 입력된 오디오 신호를 출력한 대상이 다가오는 속도를 판단하도록 학습된 네트워크 모델을 이용할 수도 있다.
이렇듯, 프로세서(140)는 외부 객체가 전자 장치(100)에 가까워지거나 멀어지는지 여부를 식별할 수 있고, 이를 고려하여 그래픽 오브젝트를 달리 표시할 수 있다.
도 9a 내지 도 9f는 외부 객체가 전자 장치에 가까워짐에 따라 그래픽 오브젝트를 다르게 표시하는 실시 예들을 설명하기 위한 도면이다.
도 9a 및 도 9b는, 상술한 도 5의 510 경우에 대응된다. 구체적으로는, 도 5의 510 경우에서, 외부 객체와 전자 장치(100)가 가까워지고 있는 경우에 해당한다.
도 9a의 경우, 프로세서(140)는 상대적으로 크지 않은 그래픽 오브젝트(911)를 판단된 영역(910)에 표시하였지만, 외부 객체와 전자 장치(100)가 가까워짐에 따라, 도 9b와 같이 더 큰 그래픽 오브젝트(912)를 표시한 것을 확인할 수 있다. 이 경우, 만약 도 9b의 상황에서 전자 장치(100)와 외부 객체가 더 가까워지면 프로세서(140)는 표시되는 그래픽 오브젝트의 사이즈를 증가시키고, 더 멀어지면 그래픽 오브젝트의 사이즈를 감소시키거나 그래픽 오브젝트를 더는 표시하지 않을 수도 있다.
도 9c 및 도 9d는, 상술한 도 5의 520 경우에 대응된다. 구체적으로는, 도 5의 520 경우에서, 외부 객체와 전자 장치(100)가 가까워지고 있는 경우에 해당한다.
도 9c의 경우, 프로세서(140)는 외부 객체의 종류에 대응되는 대상의 사이드 뷰의 절반 미만을 포함하는 부분에 대응되는 그래픽 오브젝트(921)를 판단된 영역(920)에 표시하였지만, 외부 객체와 전자 장치(100)가 가까워짐에 따라, 도 9d와 같이 사이드 뷰의 더 많은 부분을 포함하는 그래픽 오브젝트(922)를 표시한 것을 확인할 수 있다. 이 경우, 만약 도 9d의 상황에서 전자 장치(100)와 외부 객체가 더 가까워지면 프로세서(140)는 사이드 뷰를 더 많이 포함하는 그래픽 오브젝트를 표시하고, 더 멀어지면 사이드 뷰를 더 적게 포함하는 그래픽 오브젝트를 표시하거나 그래픽 오브젝트를 더는 표시하지 않을 수도 있다. 한편, 도 9c 및 도 9d와 달리, 그래픽 오브젝트(922)는 그래픽 오브젝트(921)보다 더 큰 자동차에 대한 이미지일 수도 있다.
도 9e 및 도 9f는, 상술한 도 7의 710 경우에 대응된다. 구체적으로는, 도 7의 710 경우에서, 외부 객체와 전자 장치(100)가 가까워지고 있는 경우에 해당한다.
도 9f를 참조하면, 도 9e의 시점보다 외부 객체가 전자 장치(100)와 더 가까워짐에 따라, 프로세서(140)는 도 9e의 그래픽 오브젝트(931)보다 탑 뷰를 더 높은 비율로 포함하는 그래픽 오브젝트(932)를 표시할 수 있다. 이 경우, 만약 도 9f의 상황에서 전자 장치(100)와 외부 객체가 더 가까워지면, 프로세서(140)는 탑 뷰를 더 많이 포함하는 그래픽 오브젝트를 표시하고 그래픽 오브젝트는 디스플레이(130)의 중간 영역으로 더 이동할 수 있다. 반면, 더 멀어지면, 프로세서(140)는 탑 뷰를 더 적게 포함하는 그래픽 오브젝트를 표시하거나 (그래픽 오브젝트가 디스플레이(130)의 중심 영역에서 멀어짐) 또는 더는 그래픽 오브젝트를 표시하지 않을 수 있다. 한편, 도 9f의 그래픽 오브젝트(932)는 도 9e의 그래픽 오브젝트(931)보다 더 큰 자동차에 대한 이미지일 수도 있다.
한편, 상술한 도 9a 내지 도 9f에서는, 전자 장치(100)와 외부 객체가 가까워지더라도 판단된 영역이(910, 920, 930) 일정한 것처럼 도시되었으나, 도 9a 내지 도 9f와 달리, 그래픽 오브젝트가 표시되는 영역 역시 그래픽 오브젝트처럼 변할 수 있다. 구체적으로, 전자 장치(100)와 외부 객체가 가까워지거나 멀어질수록 판단된 영역의 형상 및/또는 크기 역시 변할 수 있다. 예로, 표시되는 그래픽 오브젝트를 모두 포함하도록 영역의 크기 및/또는 형상이 변할 수 있다.
프로세서(140)는, 외부 객체가 전자 장치(100)에 다가오는 속도를 식별한 뒤, 해당 속도에 기초하여 위험 상황에 대한 알림을 제공할 수 있다. 즉, 속도가 빠를수록 알림을 더 강화할 수 있다. 예를 들어, 외부 객체가 전자 장치(100)에 다가오는 속도가 기설정된 제1 값 이상 제2 값 미만인 경우, 프로세서(140)는 디스플레이(130)에 경고 불빛을 표시하고, 속도가 제2 값 이상인 경우, 경고 불빛을 표시함과 동시에 경고음을 청각적으로 제공하도록 전자 장치(100)를 제어할 수도 있다. 또한, 속도가 빨라질수록 경고 불빛이 더 강해지거나 경고음이 더 커질 수도 있다.
프로세서(140)는, 외부 객체가 전자 장치(100)에 다가오는 속도에 따라 그래픽 오브젝트의 컬러 또는 형상을 변형하여 표시할 수도 있다. 예를 들어, 외부 객체가 전자 장치(100)에 다가오는 속도가 기설정된 제1 값 이상인 경우 그래픽 오브젝트의 테두리 또는 일부 영역이 붉은색 등으로 변형된 변형 그래픽 오브젝트를 표시하고, 속도가 제1 값 보다 큰 제2 값 이상인 경우, 변형 그래픽 오브젝트에 더하여 경고등 모양의 그래픽 엘리먼트를 추가로 표시할 수도 있다.
한편, 프로세서(140)는, 외부 객체가 전자 장치(100)에 다가오는 속도가 기설정된 속도 미만인 경우에는 그래픽 오브젝트를 표시하지 않고, 기설정된 속도 이상인 경우에만 판단된 영역에 그래픽 오브젝트를 표시할 수도 있다.
도 10은 본 개시의 다양한 실시 예에 따른 전자 장치(100)의 상세한 구성을 설명하기 위한 블록도이다.
도 10을 참조하면, 전자 장치(100)는 오디오 수신부(110), 센서부(120), 디스플레이(130), 프로세서(140) 외에도 오디오 출력부(150), 스토리지(160), 통신부(170) 및 입출력 포트(180) 중 적어도 하나를 더 포함할 수 있다.
도 10을 참조하면, 오디오 수신부(110)에는 제1 마이크(110-1) 및 제2 마이크(110-2)가 포함될 수 있다. 상술하였듯, 프로세서(140)는 제1 마이크(110-1) 및 제2 마이크(110-2)를 통해 수신된 오디오 신호를 이용하여 전자 장치(100)를 기준으로, 오디오 신호를 출력한 외부 객체의 방향을 식별할 수 있다.
센서부(120)는 다양한 센서를 포함할 수 있다.
도 10을 참조하면, 센서부(120)는 자이로 센서(120-1), GPS 센서(120-2), 가속도 센서(120-3), 카메라 센서(120-4), 터치 센서(120-5), 장력 센서(120-6), 근접 센서(120-7), 지자기 센서(120-8) 등을 포함할 수 있다. 다만, 도 10을 통해 도시된 센서들을 모두 포함하는 경우 또는 도 10을 통해 도시된 센서들만을 포함하는 경우로 센서부(120)의 구성이 한정되는 것은 아니다.
자이로 센서(120-1)는 전자 장치(100)가 롤, 피치, 요 중 적어도 하나의 축을 기준으로 회전하는 각도 내지는 각속도를 측정하기 위한 구성이다. 센서부(120)는 하나 이상의 자이로 센서(120-1)를 포함할 수 있다.
GPS 센서는 위성에서 보내는 신호를 수신하기 위한 센서로, 프로세서(120)는 GPS 센서를 통해 수신되는 신호를 기초로 전자 장치(100)의 위치를 획득할 수 있다.
가속도 센서(120-3)는 전자 장치(100)가 이동하는 가속도를 획득하기 위한 센서로, 프로세서(140)는 적어도 하나의 축 방향에 가속도에 대한 정보를 가속도 센서(120-3)를 통해 획득할 수 있다.
프로세서(140)는 자이로 센서(120-1) 및 가속도 센서(120-3)를 이용하여 전자 장치(100)의 이동 방향 및 위치에 대한 정보를 획득할 수 있다.
카메라 센서(120-4)는 하나 이상의 이미지를 획득하기 위한 구성으로, 전자 장치(100) 내 디지털 카메라로 구현될 수 있다.
프로세서(140)는, 카메라 센서(120-4)를 통해 획득된 사용자에 대한 이미지를 이용하여, 사용자가 전자 장치(100)의 디스플레이를 보고 있는지 판단할 수도 있다. 그리고, 사용자가 전자 장치(100)이 디스플레이를 보고 있다고 판단되는 경우에, 외부 객체에 대한 그래픽 오브젝트를 디스플레이(130)에 표시할 수도 있다.
터치 센서(120-5)는 전자 장치(100)의 적어도 하나의 영역에 대한 사용자의 터치를 수신하기 위한 구성이다. 프로세서(140)는 터치 센서(120-5)를 통해 입력되는 사용자의 터치를 이용하여 사용자의 명령 또는 그밖에 정보를 획득할 수 있다.
터치 센서(120-5)는 디스플레이(130)상에 형성되어 디스플레이(130)에 대한 사용자의 터치 입력을 감지하기 위한 터치 패널로 구현될 수도 있다.
장력 센서(120-6)는 전자 장치(100)의 적어도 일부 영역의 구부러짐 또는 휨에 대한 정보를 획득하기 위한 구성이다. 전자 장치(100)가 플렉서블 장치 또는 폴더블 장치인 경우, 전자 장치(100)는 장력 센서(120-6)를 포함할 수도 있다. 프로세서(140)는 전자 장치(100)의 형태가 변형된 경우, 장력 센서(120-6)를 통해 변형된 정도에 대한 정보를 획득하고, 획득된 정보를 이용하여 제1 마이크(110-1), 제2 마이크(110-2) 각각의 위치에 대한 정보를 식별할 수 있다. 또한, 획득된 정보를 이용하여, 제1 마이크(110-1) 및 제2 마이크(110-2) 간의 거리에 대한 정보도 식별할 수 있다.
특히, 전자 장치(100)의 형태가 변형되는 경우, 도 3a에 있어 'd' 값이 달라질 수 있기 때문에, 프로세서(140)가 오디오 수신부(110)를 통해 수신되는 오디오 신호를 이용하여 외부 객체가 위치하는 방향을 판단함에 있어, 장력 센서(160)를 통해 획득된 정보가 필요할 수 있다.
근접 센서(120-7)는 전자 장치(100)로 접근하는 적어도 하나의 객체 및 해당 객체의 모션 중 적어도 하나를 감지하기 위한 센서이다. 근접 센서(120-7)는 고주파 자계를 형성하여, 물체 접근 시에 변화되는 자계특성에 의해 유도되는 전류를 감지하는 고주파 발진 형, 자석을 이용하는 자기 형, 대상체의 접근으로 인해 변화되는 정전 용량을 감지하는 정전 용량 형과 같은 다양한 형태의 센서로 구현될 수 있다.
프로세서(140)는 근접 센서(120-7)를 이용하여 전자 장치(100)의 주변에 사용자가 있는지 또는 사용자가 전자 장치(100)의 디스플레이(130)를 바라보고 있는지 식별할 수 있다. 이때, 프로세서(140)는 전자 장치(100)의 주변에 사용자가 있는 경우 또는 사용자가 전자 장치(100)의 디스플레이(130)를 바라보고 있는 경우에만 외부 객체에 대한 그래픽 오브젝트를 디스플레이(130)에 표시할 수도 있다.
지자기 센서(120-8)는 지구 자기 방향을 기준으로 전자 장치(100)의 방향을감지하기 위한 센서이다. 프로세서(140)는 지자기 센서(120-8)를 이용하여 전자 장치(100)의 자세에 대한 정보를 획득할 수 있다.
프로세서(140)는 자이로 센서(120-1)를 통해 측정되는 하나 이상의 각속도 또는 가속도 센서(120-3)를 통해 측정되는 하나 이상의 가속도의 기준을 설정함에 있어 지자기 센서(120-8) 및 GPS 센서(120-2) 중 적어도 하나를 이용할 수도 있다.
오디오 출력부(150)는 프로세서(140)의 제어에 따라 특정한 음성을 출력하기 위한 구성이다. 오디오 출력부(150)는 스피커(도시되지 않음) 및/또는 헤드폰/이어폰 출력 단자(도시되지 않음)로 구현될 수 있다.
프로세서(140)는 그래픽 오브젝트를 표시함과 동시에, 오디오 출력부(150)를 이용하여, 그래픽 오브젝트에 대응되는 외부 객체의 존재 또는 외부 객체의 다가옴을 알리기 위한 경고음 내지는 안내음을 청각적으로 제공할 수 있다.
스토리지(160)는 전자 장치(100)의 구성요소들의 전반적인 동작을 제어하기 위한 운영체제(OS: Operating System) 및 전자 장치(100)의 구성요소와 관련된 명령 또는 데이터를 저장하기 위한 구성이다.
이를 위해, 스토리지(160)는 비휘발성 메모리(ex: 하드 디스크, SSD(Solid state drive), 플래시 메모리), 휘발성 메모리 등으로 구현될 수 있다.
스토리지(160)에는 여러 가지 종류의 객체가 출력하는 음성에 대응되는 오디오 신호들이 저장되어 있을 수 있다.
또한, 스토리지(160)에는 각 종류의 객체에 대응되는 대상을 다양한 각도에서 바라본 탑 뷰, 사이드 뷰 등에 대응되는 복수의 이미지가 저장되어 있을 수 있다. 프로세서(140)는 식별된 외부 객체에 따라, 저장된 복수의 이미지 중 적어도 하나의 일부 또는 전부에 대응되는 그래픽 오브젝트를 디스플레이(130)에 표시할 수 있다.
스토리지(160)에는, 수신된 오디오 신호를 이용하여 외부 객체가 위치하는 방향을 판단하고, 그래픽 오브젝트를 표시하는 등의 동작들을 수행하기 위한 애플리케이션에 대한 정보가 저장되어 있을 수 있다.
프로세서(140)는 식별된 외부 객체의 종류 및 외부 객체가 다가오는 속도 등을 이용하여 위험도를 식별할 수 있다. 그리고, 식별된 위험도가 기설정된 정도를 넘은 경우, 해당 외부 객체의 오디오 신호가 수신된 시간대에 대한 정보 및 그 시간대에 전자 장치(100)가 있는 장소에 대한 정보 중 적어도 하나를 스토리지(160)에 저장할 수 있다.
그리고, 프로세서(140)는, 전자 장치(100)가 해당 장소에 위치하고 및/또는 해당 시간대인 경우, 오디오 수신부(110)에 포함된 제1 마이크(110-1) 및 제2 마이크(110-2) 중 적어도 하나의 민감도를 평소보다 더 높게 설정할 수 있다.
또는, 프로세서(140)는, 전자 장치(100)가 해당 장소에 위치하고 및/또는 해당 시간대인 경우, 제1 마이크(110-1) 및 제2 마이크(110-2)를 통해 수신되는 오디오 신호를 이용하여 외부 객체를 식별하고 외부 객체가 위치하는 방향을 판단할 수도 있다.
예를 들어, 오후 9시에 전자 장치(100)가 제1 장소에 있는 상태에서, 자동차 또는 오토바이에 해당하는 외부 객체가 5m/s 이상의 속도로 전자 장치(100)에 다가온 이력이 있는 경우, 프로세서(140)는 해당 상황의 위험도가 기설정된 정도를 초과하는 것으로 판단하고, '오후 9시' 및 '제1 장소'에 대한 정보 중 적어도 하나를 스토리지(160)에 저장할 수 있다.
그리고, '오후 9시'로부터 기설정된 범위 내의 시간대에 전자 장치(100)가 '제1 장소'로부터 기설정된 거리 내에 위치하는 경우, 프로세서(140)는 제1 마이크(110-1) 및 제2 마이크(110-2)의 민감도를 평소보다 더 높게 설정할 수 있다.
또는, 프로세서(140)는 오디오 수신부(110)를 통해 수신되는 오디오 신호를 이용하여 외부 객체를 식별하고 외부 객체가 위치하는 방향을 판단하는 동작들 자체를, '오후 9시'로부터 기설정된 범위 내의 시간대에 전자 장치(100)가 '제1 장소'로부터 기설정된 거리 내에 위치하는 경우에만 수행할 수도 있다. 구체적으로, 프로세서(140)는, 해당 동작들을 수행하기 위한 애플리케이션을, '오후 9시'로부터 기설정된 범위 내의 시간대에 전자 장치(100)가 '제1 장소'로부터 기설정된 거리 내에 위치하는 경우에만 실행시킬 수도 있다.
통신부(170)는 외부 장치(도시되지 않음)와 무선 혹은 유선으로 데이터 통신을 수행하기 위한 수단이다. 프로세서(140)는 통신부(170)를 이용하여 각종 외부 기기와 통신을 수행할 수 있다.
무선 통신 방식으로 외부 장치와 데이터 통신을 수행할 경우, 통신부(170)는 와이파이 다이렉트(WIFI DIRECT) 통신 모듈, 블루투스(bluetooth)모듈, 적외선 통신(IrDA, infrared data association)모듈, NFC(Near Field Communication)모듈, 지그비(Zigbee) 모듈, 셀룰러 통신모듈, 3G(3세대) 이동통신 모듈, 4G(4세대) 이동통신 모듈, 4세대 LTE(Long Term Evolution) 통신 모듈 중 적어도 하나를 포함할 수 있다.
유선 통신 방식으로 외부 장치와 데이터 통신을 수행할 경우, 통신부(170)는 동축 케이블, 광섬유 케이블 등과 연결되어 LAN(Local Area Network) 통신을 수행함으로써 다양한 데이터를 송수신할 수도 있다.
입출력 포트(180)를 통해, 전자 장치(100)는 외부로부터 이미지에 대한 신호/데이터를 수신하거나 또는 외부에 이미지에 대한 데이터/신호를 전송할 수 있다.
이를 위해, 입출력 포트(180)는 HDMI 포트, 디스플레이 포트, RGB 포트, DVI(Digital Visual Interface) 포트, 썬더볼트 및 컴포넌트 포트 등 유선 포트로 구현될 수 있다.
입출력 포트(180)는 HDMI 포트나 썬더볼트 등으로 구현되어 이미지 및 음성 신호를 함께 전송하도록 구현될 수도 있지만, 이미지 신호를 전송하는 제1 포트 및 음성 신호를 전송하는 제2 포트가 각각 별도로 구현된 것일 수도 있다.
입출력 포트(180)는 USB와 같은 인터페이스 모듈을 포함할 수 있으며, 이 같은 인터페이스 모듈을 통해 PC와 같은 외부 단말 장치와 물리적으로 연결되어 음성 또는 이미지 데이터를 송수신하거나 혹은 펌웨어 업그레이드를 수행하기 위한 펌웨어 데이터를 송수신할 수도 있다.
한편, 상술한 실시 예들은 오디오 수신부(110), 센서부(120), 디스플레이(130), 프로세서(140) 등의 구성들이 모두 하나의 전자 장치(100)에 포함된 경우에 대한 것이나, 상술한 구성들은 서로 유무선 통신이 가능한 두 개 이상의 전자 장치에 나누어 포함될 수도 있다.
도 11은 복수의 전자 장치를 이용하여 외부 객체의 방향을 제공하기 위한 일 예를 설명하기 위한 도면이다.
도 11을 참조하면, 제1 마이크(110-1') 및 제2 마이크(110-2')를 포함하는 오디오 수신부는 헤드셋(100-1)에 포함되고, 디스플레이(130')는 휴대폰(100-2)에 포함되는 것을 확인할 수 있다. 도 11은, 헤드셋(100-1) 및 휴대폰(100-2)이 유선 또는 무선으로 연결되어 서로 데이터를 주고받을 수 있는 상황을 가정한다.
이때, 헤드셋(100-1)의 착용 상태 내지는 헤드셋(100-1)을 착용한 사용자에 따라 제1 마이크(110-1') 및 제2 마이크(110-2') 간의 거리가 달라질 수 있으므로, 헤드셋(100-1)은 마이크 간의 거리를 식별하기 위한 장력 센서(도시되지 않음)를 더 포함할 수 있다.
그리고, 휴대폰(100-2)은 헤드셋(100-1)에 포함된 마이크들(110-1', 110-2')을 통해 수신되는 오디오 신호에 대한 정보를 수신하고, 이를 이용하여 외부 객체의 종류 및 외부 객체가 위치하는 방향을 판단한 뒤, 외부 객체에 대응되는 그래픽 오브젝트를 디스플레이(130')에 표시할 수 있다.
이하 본 개시에 따른 전자 장치의 제어 방법에 대해 설명한다.
도 12는 본 개시의 일 실시 예에 따른 전자 장치의 제어 방법을 설명하기 위한 순서도이다.
도 12를 참조하면, 본 제어 방법은, 외부 객체에서 출력된 오디오 신호가 오디오 수신부를 통해 수신되면, 수신된 오디오 신호에 기초하여 전자 장치로부터 외부 객체가 위치하는 방향을 판단할 수 있다(S1210).
이때, 전자 장치가 제1 위치에 있는 때에 오디오 수신부에 포함된 제1 및 제2 마이크를 통해 수신된 외부 객체의 오디오 신호 및 전자 장치가 제2 위치에 있는 때에 제1 및 제2 마이크 중 적어도 하나를 통해 수신된 외부 객체의 오디오 신호를 이용하여, 외부 객체가 위치하는 방향을 판단할 수 있다.
그리고, 센서부를 통해 획득된 전자 장치의 자세 및 외부 객체가 위치하는 방향에 기초하여 외부 객체를 나타내는 그래픽 오브젝트를 표시할 수 있다(S1220). 이때, 오디오 수신부를 통해 수신되는 외부 객체의 오디오 신호에 기초하여 외부 객체를 식별하고, 식별된 외부 객체에 대응되는 그래픽 오브젝트를 표시할 수 있다. 예로, 수신된 오디오 신호가 '자동차'의 엔진음인 것으로 식별되면, '자동차'에 대응되는 그래픽 오브젝트를 표시할 수 있다.
이 경우, 전자 장치의 자세를 기준으로 디스플레이에서 외부 객체가 위치하는 방향에 대응되는 영역을 판단하고, 판단된 영역에 그래픽 오브젝트를 표시할 수 있다. 또한, 전자 장치의 자세 및 외부 객체가 위치하는 방향에 기초하여 결정된 형상의 그래픽 오브젝트를, 판단된 영역에 표시할 수 있다.
예로, 전자 장치의 자세가, 디스플레이가 위를 향하는 제1 자세로부터 기설정된 범위 내인 경우, 외부 객체의 탑 뷰(top view)에 대응되는 그래픽 오브젝트를 표시할 수 있다. 구체적으로, 탑 뷰에 대응되는 그래픽 오브젝트를, 판단된 영역에 대응되는 각도로 표시할 수도 있다. 이때, 제1 자세는 디스플레이가 위를 향하는 자세뿐만 아니라, 아래를 향하는 자세 역시 포함할 수 있다.
반면, 전자 장치의 자세가, 디스플레이의 방향이 제1 자세에서 디스플레이가 향하는 방향에 수직한 제2 자세로부터 기설정된 범위 내인 경우, 외부 객체의 사이드 뷰(side view)에 대응되는 그래픽 오브젝트를 표시할 수 있다. 구체적으로, 판단된 영역에 대응되는 시점에서 바라본 사이드 뷰에 대응되는 그래픽 오브젝트를 표시할 수 있다.
본 제어 방법은, 오디오 수신부를 통해 수신되는 외부 객체의 오디오 신호를 기저장된 오디오 신호와 비교하여 외부 객체가 전자 장치로 다가오는 속도를 식별할 수 있다. 그리고, 식별된 속도에 기초하여 외부 객체의 존재 또는 접근에 다른 위험 상황에 대한 알림을 제공할 수도 있다.
한편, 도 13은 본 개시에 따른 전자 장치의 제어 방법에 있어, 2개의 마이크를 통해 수신된 오디오 신호를 기초로 외부 객체의 방향에 대응되는 디스플레이의 영역을 판단하는 일 실시 예를 설명하기 위한 알고리즘이다.
도 13을 참조하면, 본 제어 방법은, 2개의 마이크를 통해 오디오 신호가 수신된 후(S1310), 전자 장치가 이동되면(S1320 - Y), 다시금 2개의 마이크 중 적어도 하나를 통해 오디오 신호를 수신할 수 있다(S1330). 이때, 전자 장치의 이동 여부는 가속도 센서 및 GPS 센서 중 적어도 하나를 통해 판단할 수 있다.
그리고, 수신된 각 오디오 신호의 도달 시간 차를 토대로, 전자 장치를 기준으로 외부 장치가 위치하는 방향에 대한 정보를 획득할 수 있다(S1340). 또한, 자이로 센서 및 지자기 센서 중 적어도 하나를 이용하여, 전자 장치의 자세를 판단할 수 있다(S1350).
이후, 전자 장치의 자세를 기준으로, 디스플레이에서 외부 객체가 위치하는 방향에 대응되는 영역을 판단한 뒤(S1360), 해당 영역에 외부 객체를 나타내는 그래픽 오브젝트를 표시할 수 있다(S1370). 그래픽 오브젝트의 형상은, 전자 장치의 자세 및 외부 객체가 위치하는 방향에 따라 달라질 수 있다.
한편, 도 14는 본 개시에 따른 전자 장치의 제어 방법에 있어, 외부 객체에 대응되는 그래픽 오브젝트를 표시하기 위한 구체적인 일 예를 설명하기 위한 알고리즘이다.
도 14를 참조하면, 오디오 신호를 수신한 뒤(S1405), 수신된 오디오 신호의 볼륨이 기설정된 값 이상인지 식별할 수 있다(S1410). 만약, 해당 볼륨이 기설정된 값 이상이라면(S1410 - Y), 전자 장치의 자세 및 외부 객체가 위치하는 방향을 획득할 수 있다(S1415). 이때, 전자 장치의 자세는 자이로 센서를 이용하여 획득할 수 있고, 외부 객체가 위치하는 방향은 앞서 수신된 오디오 신호를 이용할 수 있다.
그리고, 전자 장치의 자세를 기준으로 하여, 디스플레이상에서 외부 객체가 위치하는 방향에 대응되는 영역을 판단할 수 있다(S1420). 이때, 만약 전자 장치의 자세가, 디스플레이가 위 또는 아래를 바라보고 있는 제1 자세로부터 기설정된 범위 내에 해당한다면(S1425 - Y), 외부 객체의 탑 뷰에 해당하는 그래픽 오브젝트를 표시할 수 있다(S1430). 구체적으로, 외부 객체의 종류에 대응되는 대상의 탑 뷰 중 적어도 일부를 포함하는 그래픽 오브젝트를 표시할 수 있다.
이 경우, 수신되는 오디오 신호의 볼륨 크기 변화 또는 수신되는 오디오 신호를 기저장된 복수의 오디오 신호와 비교한 결과를 이용하여, 외부 객체가 전자 장치에 가까워지고 있는지 여부를 식별할 수 있다(S1435).
만약 가까워진다면(S1435 - Y), 여전히(계속해서) 외부 객체의 탑 뷰에 대응되는 그래픽 오브젝트를 표시하되(S1440), 그래픽 오브젝트의 크기 및/또는 형상이 달라질 수도 있다. 구체적으로, S1430 단계보다, 그래픽 오브젝트에, 외부 객체의 종류에 대응되는 대상의 탑 뷰의 더 많은 부분이 포함될 수 있다.
반면, 가까워지지 않는다면(S1435 - N), 더이상 그래픽 오브젝트를 표시하지 않을 수 있다(S1445).
한편, 전자 장치의 자세가 제1 자세로부터 기설정된 범위가 아닌 경우(S1425 - N), 외부 객체의 사이드 뷰에 대응되는 그래픽 오브젝트를 표시할 수 있다(S1450). 구체적으로, 외부 객체의 종류에 대응되는 대상을 전후좌우를 포함한 360도 각도에서 바라본 이미지 중 적어도 하나의 적어도 일부를 포함하는 그래픽 오브젝트를 표시할 수 있다.
그리고, 수신되는 오디오 신호의 볼륨 크기 변화 또는 수신되는 오디오 신호를 기저장된 복수의 오디오 신호와 비교한 결과를 이용하여, 외부 객체가 전자 장치에 가까워지고 있는지 여부를 식별할 수 있다(S1455).
만약 가까워진다면(S1455 - Y), 여전히(계속해서) 외부 객체의 사이드 뷰에 대응되는 그래픽 오브젝트를 표시하되(S1460), 그래픽 오브젝트의 크기 및/또는 형상이 달라질 수도 있다. 구체적으로, S1450 단계보다, 그래픽 오브젝트의 크기가 커지거나 또는 외부 객체의 종류에 대응되는 대상의 사이드 뷰의 더 많은 부분을 포함하는 그래픽 오브젝트를 표시할 수 있다.
반면, 가까워지지 않는다면(S1435 - N), 더이상 그래픽 오브젝트를 표시하지 않을 수 있다(S1445).
한편, 도 12 내지 도 13을 통해 설명한 전자 장치의 제어 방법은, 도 2 및 도 10을 토해 도시 및 설명된 전자 장치(100)를 통해 구현될 수 있다. 또는, 복수의 전자 장치를 포함하는 시스템을 통해 구현될 수도 있는데, 도 11이 그 중 하나의 예에 해당할 수 있다.
한편, 이상에서 설명된 다양한 실시 예들은 소프트웨어(software), 하드웨어(hardware) 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록 매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 본 개시에서 설명되는 실시 예들은 ASICs(Application Specific Integrated Circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(Programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processor), 제어기(controller), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessor), 기타 기능 수행을 위한 전기적인 유닛(unit) 중 적어도 하나를 이용하여 구현될 수 있다.
일부의 경우에 본 명세서에서 설명되는 실시 예들이 프로세서(140) 자체로 구현될 수 있다. 소프트웨어적인 구현에 의하면 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상술한 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다.
한편, 상술한 본 개시의 다양한 실시 예들에 따른 전자 장치(100)에서의 처리동작을 수행하기 위한 컴퓨터 명령어(computer instructions)는 비일시적 컴퓨터 판독 가능 매체(non-transitory computer-readable medium)에 저장될 수 있다. 이러한 비일시적 컴퓨터 판독 가능 매체에 저장된 컴퓨터 명령어는 특정 기기의 프로세서에 의해 실행되었을 때 상술한 다양한 실시 예에 따른 전자 장치(100)의 처리 동작을 상술한 특정 기기가 수행하도록 한다.
비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.
또한, 이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해돼서는 안 될 것이다.
100: 전자 장치 110: 오디오 수신부
120: 센서부 130: 디스플레이
140: 프로세서 150: 오디오 출력부
160: 스토리지 170: 통신부
180: 입출력 포트

Claims (19)

  1. 전자 장치에 있어서,
    오디오 수신부;
    센서부;
    디스플레이; 및
    외부 객체에서 출력된 오디오 신호가 상기 오디오 수신부를 통해 수신되면, 상기 수신된 오디오 신호에 기초하여 상기 전자 장치로부터 상기 외부 객체가 위치하는 방향을 판단하고, 상기 센서부를 통해 감지된 상기 전자 장치의 자세 및 상기 외부 객체가 위치하는 방향에 기초하여 상기 외부 객체를 나타내는 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어하는 프로세서;를 포함하고,
    상기 프로세서는,
    상기 전자 장치의 자세에 대응되는 각도에서 상기 외부 객체를 바라본 형상을 나타내는 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어하는, 전자 장치.
  2. 제1항에 있어서,
    상기 프로세서는,
    상기 전자 장치의 자세를 기준으로 상기 디스플레이에서 상기 외부 객체가 위치하는 방향에 대응되는 영역을 판단하고, 상기 판단된 영역에 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어하는, 전자 장치.
  3. 삭제
  4. 제2항에 있어서,
    상기 프로세서는,
    상기 전자 장치의 자세가 상기 디스플레이가 위를 향하는 제1 자세로부터 기설정된 범위 내인 경우, 상기 외부 객체의 탑 뷰(top view)에 대응되는 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어하고,
    상기 전자 장치의 자세가, 상기 디스플레이의 방향이 상기 제1 자세에서 상기 디스플레이가 향하는 방향에 수직한 제2 자세로부터 기설정된 범위 내인 경우, 상기 외부 객체의 사이드 뷰(side view)에 대응되는 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어하는, 전자 장치.
  5. 제4항에 있어서,
    상기 프로세서는,
    상기 전자 장치의 자세가 상기 제1 자세로부터 기설정된 범위 내인 경우, 상기 탑 뷰에 대응되는 상기 그래픽 오브젝트를 상기 판단된 영역에 대응되는 각도로 표시하도록 상기 디스플레이를 제어하는, 전자 장치.
  6. 제4항에 있어서,
    상기 프로세서는,
    상기 전자 장치의 자세가 상기 제2 자세로부터 기설정된 범위 내인 경우, 상기 판단된 영역에 대응되는 시점에서 본 상기 사이드 뷰에 대응되는 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어하는, 전자 장치.
  7. 제1항에 있어서,
    상기 프로세서는,
    상기 오디오 수신부를 통해 수신되는 상기 외부 객체의 오디오 신호를 기저장된 오디오 신호와 비교하여 상기 외부 객체가 상기 전자 장치로 다가오는 속도를 식별하고,
    상기 식별된 속도에 기초하여 위험 상황에 대한 알림을 제공하는, 전자 장치.
  8. 제1항에 있어서,
    상기 프로세서는,
    상기 오디오 수신부를 통해 수신되는 상기 외부 객체의 오디오 신호에 기초하여 상기 외부 객체를 식별하고,
    상기 식별된 외부 객체에 대응되는 상기 그래픽 오브젝트를 표시하도록 상기 디스플레이를 제어하는, 전자 장치.
  9. 제1항에 있어서,
    상기 오디오 수신부는, 제1 및 제2 마이크를 포함하고,
    상기 프로세서는,
    상기 전자 장치가 제1 위치에 있는 때에 상기 제1 및 제2 마이크를 통해 수신된 상기 외부 객체의 오디오 신호 및 상기 전자 장치가 제2 위치에 있는 때에 상기 제1 및 제2 마이크 중 적어도 하나를 통해 수신된 상기 외부 객체의 오디오 신호를 이용하여, 상기 외부 객체가 위치하는 방향을 판단하는, 전자 장치.
  10. 전자 장치의 제어 방법에 있어서,
    외부 객체에서 출력된 오디오 신호가 오디오 수신부를 통해 수신되면, 상기 수신된 오디오 신호에 기초하여 상기 전자 장치로부터 상기 외부 객체가 위치하는 방향을 판단하는 단계; 및
    센서부를 통해 감지된 상기 전자 장치의 자세 및 상기 외부 객체가 위치하는 방향에 기초하여 상기 외부 객체를 나타내는 그래픽 오브젝트를 표시하는 단계;를 포함하고,
    상기 그래픽 오브젝트를 표시하는 단계는,
    상기 전자 장치의 자세에 대응되는 각도에서 상기 외부 객체를 바라본 형상을 나타내는 상기 그래픽 오브젝트를 표시하는, 전자 장치의 제어 방법.
  11. 제10항에 있어서,
    상기 그래픽 오브젝트를 표시하는 단계는,
    상기 전자 장치의 자세를 기준으로 디스플레이에서 상기 외부 객체가 위치하는 방향에 대응되는 영역을 판단하고, 상기 판단된 영역에 상기 그래픽 오브젝트를 표시하는, 전자 장치의 제어 방법.
  12. 삭제
  13. 제11항에 있어서,
    상기 그래픽 오브젝트를 표시하는 단계는,
    상기 전자 장치의 자세가 상기 디스플레이가 위를 향하는 제1 자세로부터 기설정된 범위 내인 경우, 상기 외부 객체의 탑 뷰(top view)에 대응되는 상기 그래픽 오브젝트를 표시하고,
    상기 전자 장치의 자세가, 상기 디스플레이의 방향이 상기 제1 자세에서 상기 디스플레이가 향하는 방향에 수직한 제2 자세로부터 기설정된 범위 내인 경우, 상기 외부 객체의 사이드 뷰(side view)에 대응되는 상기 그래픽 오브젝트를 표시하는, 전자 장치의 제어 방법.
  14. 제13항에 있어서,
    상기 그래픽 오브젝트를 표시하는 단계는,
    상기 전자 장치의 자세가 상기 제1 자세로부터 기설정된 범위 내인 경우, 상기 탑 뷰에 대응되는 상기 그래픽 오브젝트를 상기 판단된 영역에 대응되는 각도로 표시하는, 전자 장치의 제어 방법.
  15. 제13항에 있어서,
    상기 그래픽 오브젝트를 표시하는 단계는,
    상기 전자 장치의 자세가 상기 제2 자세로부터 기설정된 범위 내인 경우, 상기 판단된 영역에 대응되는 시점에서 바라본 상기 사이드 뷰에 대응되는 상기 그래픽 오브젝트를 표시하는, 전자 장치의 제어 방법.
  16. 제10항에 있어서,
    상기 오디오 수신부를 통해 수신되는 상기 외부 객체의 오디오 신호를 기저장된 오디오 신호와 비교하여 상기 외부 객체가 상기 전자 장치로 다가오는 속도를 식별하는 단계; 및
    상기 식별된 속도에 기초하여 위험 상황에 대한 알림을 제공하는 단계;를 더 포함하는, 전자 장치의 제어 방법.
  17. 제10항에 있어서,
    상기 오디오 수신부를 통해 수신되는 상기 외부 객체의 오디오 신호에 기초하여 상기 외부 객체를 식별하는 단계;를 더 포함하고,
    상기 그래픽 오브젝트를 표시하는 단계는,
    상기 식별된 외부 객체에 대응되는 상기 그래픽 오브젝트를 표시하는, 전자 장치의 제어 방법.
  18. 제10항에 있어서,
    상기 외부 객체가 위치하는 방향을 판단하는 단계는,
    상기 전자 장치가 제1 위치에 있는 때에 상기 오디오 수신부에 포함된 제1 및 제2 마이크를 통해 수신된 상기 외부 객체의 오디오 신호 및 상기 전자 장치가 제2 위치에 있는 때에 상기 제1 및 제2 마이크 중 적어도 하나를 통해 수신된 상기 외부 객체의 오디오 신호를 이용하여, 상기 외부 객체가 위치하는 방향을 판단하는, 전자 장치의 제어 방법.
  19. 전자 장치의 프로세서에 의해 실행되어, 상기 전자 장치로 하여금,
    외부 객체에서 출력된 오디오 신호가 오디오 수신부를 통해 수신되면, 상기 수신된 오디오 신호에 기초하여 상기 전자 장치로부터 상기 외부 객체가 위치하는 방향을 판단하는 단계; 및
    센서부를 통해 획득된 상기 전자 장치의 자세 및 상기 외부 객체가 위치하는 방향에 기초하여 상기 외부 객체의 위치를 나타내는 그래픽 오브젝트를 표시하는 단계;를 포함하고,
    상기 그래픽 오브젝트를 표시하는 단계는,
    상기 전자 장치의 자세에 대응되는 각도에서 상기 외부 객체를 바라본 형상을 나타내는 상기 그래픽 오브젝트를 표시하는, 동작을 수행하도록 하는 컴퓨터 명령어가 저장된 컴퓨터 판독 가능 매체.
KR1020190002346A 2019-01-08 2019-01-08 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능 매체. KR102232045B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020190002346A KR102232045B1 (ko) 2019-01-08 2019-01-08 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능 매체.
PCT/KR2020/000109 WO2020145579A1 (en) 2019-01-08 2020-01-03 Electronic apparatus, controlling method of electronic apparatus and computer readable medium
CN202080008277.2A CN113287292B (zh) 2019-01-08 2020-01-03 电子装置、电子装置的控制方法
EP20738814.1A EP3878167A4 (en) 2019-01-08 2020-01-03 ELECTRONIC APPARATUS, ELECTRONIC APPARATUS CONTROL METHOD, AND COMPUTER READABLE MEDIUM
US16/737,219 US11668782B2 (en) 2019-01-08 2020-01-08 Electronic apparatus, controlling method of electronic apparatus and computer readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190002346A KR102232045B1 (ko) 2019-01-08 2019-01-08 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능 매체.

Publications (2)

Publication Number Publication Date
KR20200086120A KR20200086120A (ko) 2020-07-16
KR102232045B1 true KR102232045B1 (ko) 2021-03-25

Family

ID=71403865

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190002346A KR102232045B1 (ko) 2019-01-08 2019-01-08 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능 매체.

Country Status (5)

Country Link
US (1) US11668782B2 (ko)
EP (1) EP3878167A4 (ko)
KR (1) KR102232045B1 (ko)
CN (1) CN113287292B (ko)
WO (1) WO2020145579A1 (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102550167B1 (ko) * 2020-01-29 2023-07-04 김영언 차량주변 이상 신호 알림 시스템 및 방법
KR20220102311A (ko) * 2021-01-13 2022-07-20 삼성전자주식회사 사용자의 자세를 측정하기 위한 전자 장치 및 그 방법
EP4258686A1 (en) 2021-01-13 2023-10-11 Samsung Electronics Co., Ltd. Electronic device for measuring posture of user and method therefor
CN116708661A (zh) * 2022-10-26 2023-09-05 荣耀终端有限公司 一种音频通话的处理方法及相关电子设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005099418A (ja) * 2003-09-25 2005-04-14 Casio Comput Co Ltd オブジェクト表示装置およびプログラム
US20140094225A1 (en) * 2011-02-16 2014-04-03 Google Inc. Mobile device display management

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7750814B2 (en) * 2003-01-24 2010-07-06 Shotspotter, Inc. Highly portable system for acoustic event detection
JP4576305B2 (ja) 2005-08-19 2010-11-04 日本電信電話株式会社 音響伝達装置
JP5286667B2 (ja) * 2006-02-22 2013-09-11 コニカミノルタ株式会社 映像表示装置、及び映像表示方法
US8150063B2 (en) 2008-11-25 2012-04-03 Apple Inc. Stabilizing directional audio input from a moving microphone array
JP5443469B2 (ja) 2009-07-24 2014-03-19 パナソニック株式会社 収音装置及び収音方法
DE102009049073A1 (de) 2009-10-12 2011-04-21 Metaio Gmbh Verfahren zur Darstellung von virtueller Information in einer Ansicht einer realen Umgebung
EP3217653B1 (en) * 2009-12-24 2023-12-27 Nokia Technologies Oy An apparatus
US8502837B2 (en) 2010-03-04 2013-08-06 Research In Motion Limited System and method for activating components on an electronic device using orientation data
JP5742187B2 (ja) 2010-11-26 2015-07-01 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
KR101253451B1 (ko) 2012-02-29 2013-04-11 주식회사 팬택 음원의 위치를 감지할 수 있는 모바일 디바이스 및 그 제어 방법
US9360546B2 (en) * 2012-04-13 2016-06-07 Qualcomm Incorporated Systems, methods, and apparatus for indicating direction of arrival
KR20140000610A (ko) 2012-06-25 2014-01-03 엘지전자 주식회사 이동 단말기의 마이크 배치 구조 및 그 운용방법
US9019174B2 (en) * 2012-10-31 2015-04-28 Microsoft Technology Licensing, Llc Wearable emotion detection and feedback system
CN103941223B (zh) * 2013-01-23 2017-11-28 Abb技术有限公司 声源定位系统及其方法
KR102127640B1 (ko) 2013-03-28 2020-06-30 삼성전자주식회사 휴대 단말 및 보청기와 휴대 단말에서 음원의 위치를 제공하는 방법
KR20140139377A (ko) * 2013-05-27 2014-12-05 삼성전자주식회사 환경정보를 이용한 화면 표시 제어 장치 및 방법
KR101654738B1 (ko) 2014-08-21 2016-09-06 조희은 사용자의 후방 안전을 지원하는 이어폰 구조체
KR101529516B1 (ko) 2014-10-27 2015-06-18 국방과학연구소 음원 위치 추정 장치 및 음원 위치 추정 방법
KR102444075B1 (ko) 2015-06-09 2022-09-16 삼성전자주식회사 전자 장치, 주변 기기 및 그 제어 방법
KR101977090B1 (ko) * 2015-07-22 2019-05-10 엘지전자 주식회사 차량 제어 장치 및 이를 구비한 차량의 제어방법
KR102324283B1 (ko) 2015-07-31 2021-11-12 현대오토에버 주식회사 듀얼 마이크를 이용한 위상오류필터 기반의 음원 방향 검출 시스템 및 그 방법
WO2017034126A1 (ko) 2015-08-25 2017-03-02 엘지전자(주) 이동단말기
US20190019308A1 (en) 2016-01-12 2019-01-17 Suncorporation Image display device
CN106155474A (zh) * 2016-06-15 2016-11-23 广州神马移动信息科技有限公司 显示视图控件动态效果的方法及装置
JP6819431B2 (ja) 2017-04-12 2021-01-27 トヨタ自動車株式会社 注意喚起装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005099418A (ja) * 2003-09-25 2005-04-14 Casio Comput Co Ltd オブジェクト表示装置およびプログラム
US20140094225A1 (en) * 2011-02-16 2014-04-03 Google Inc. Mobile device display management

Also Published As

Publication number Publication date
CN113287292B (zh) 2022-11-15
CN113287292A (zh) 2021-08-20
US20200217917A1 (en) 2020-07-09
EP3878167A1 (en) 2021-09-15
WO2020145579A1 (en) 2020-07-16
US11668782B2 (en) 2023-06-06
EP3878167A4 (en) 2022-01-26
KR20200086120A (ko) 2020-07-16

Similar Documents

Publication Publication Date Title
KR102232045B1 (ko) 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능 매체.
US10638213B2 (en) Control method of mobile terminal apparatus
US10379346B2 (en) Methods and devices for rendering interactions between virtual and physical objects on a substantially transparent display
KR102163915B1 (ko) 스마트 와치 및 제어 방법
US10726762B2 (en) Flexible display device and displaying method of flexible display device
US9024843B2 (en) Wearable computer with curved display and navigation tool
EP2713359B1 (en) Method and apparatus for controlling screen brightness corresponding to variation of illumination
US10114466B2 (en) Methods and systems for hands-free browsing in a wearable computing device
US8907867B2 (en) Don and doff sensing using capacitive sensors
CN107765429B (zh) 图像显示装置及其操作方法
US9152180B2 (en) Portable device and control method thereof
US20130002724A1 (en) Wearable computer with curved display and navigation tool
US9710056B2 (en) Methods and systems for correlating movement of a device with state changes of the device
US8799810B1 (en) Stability region for a user interface
US20150234508A1 (en) Display system for displaying augmented reality image and control method for the same
KR20140132278A (ko) 헤드 마운트 디스플레이
US9639152B2 (en) Display alignment based on eye tracking
US20240061498A1 (en) Headset wire tracking and notification
US20230315193A1 (en) Direction of user input to virtual objects based on command metadata
EP3128397A1 (en) Electronic apparatus and text input method for the same
KR20220138831A (ko) 위치추정 정확도 응답
KR20220080399A (ko) 사용자 입력을 처리하는 전자 장치 및 방법
US20200004347A1 (en) Wearable electronic devices having user interface mirroring based on device position

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right