KR20230056463A - 외부 장치를 이용하는 전자 장치 및 이의 동작 방법 - Google Patents

외부 장치를 이용하는 전자 장치 및 이의 동작 방법 Download PDF

Info

Publication number
KR20230056463A
KR20230056463A KR1020210140501A KR20210140501A KR20230056463A KR 20230056463 A KR20230056463 A KR 20230056463A KR 1020210140501 A KR1020210140501 A KR 1020210140501A KR 20210140501 A KR20210140501 A KR 20210140501A KR 20230056463 A KR20230056463 A KR 20230056463A
Authority
KR
South Korea
Prior art keywords
electronic device
user
wireless earphone
fov
posture
Prior art date
Application number
KR1020210140501A
Other languages
English (en)
Inventor
박남준
김진익
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020210140501A priority Critical patent/KR20230056463A/ko
Priority to PCT/KR2022/013387 priority patent/WO2023068549A1/ko
Priority to US17/967,609 priority patent/US11928256B2/en
Publication of KR20230056463A publication Critical patent/KR20230056463A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G01S13/0209—Systems with very large relative bandwidth, i.e. larger than 10 %, e.g. baseband, pulse, carrier-free, ultrawideband
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/74—Systems using reradiation of radio waves, e.g. secondary radar systems; Analogous systems
    • G01S13/76—Systems using reradiation of radio waves, e.g. secondary radar systems; Analogous systems wherein pulse-type signals are transmitted
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/74—Systems using reradiation of radio waves, e.g. secondary radar systems; Analogous systems
    • G01S13/76—Systems using reradiation of radio waves, e.g. secondary radar systems; Analogous systems wherein pulse-type signals are transmitted
    • G01S13/765—Systems using reradiation of radio waves, e.g. secondary radar systems; Analogous systems wherein pulse-type signals are transmitted with exchange of information between interrogator and responder
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/02—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using radio waves
    • G01S3/14—Systems for determining direction or deviation from predetermined direction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012—Head tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00—Details of transducers, loudspeakers or microphones
    • H04R1/10—Earpieces; Attachments therefor ; Earphones; Monophonic headphones
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R5/00—Stereophonic arrangements
    • H04R5/04—Circuit arrangements, e.g. for selective connection of amplifier inputs/outputs to loudspeakers, for loudspeaker detection, or for adaptation of settings to personal preferences or hearing impairments
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2420/00—Details of connection covered by H04R, not provided for in its groups
    • H04R2420/07—Applications of wireless loudspeakers or wireless microphones

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Telephone Function (AREA)

Abstract

본 개시의 다양한 실시예에 따른 전자 장치는 센서 모듈, 메모리, 및 프로세서를 포함하고, 상기 메모리는, 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV(field of view)를 추정하고, 상기 센서 모듈을 이용하여 전자 장치의 FOV를 추정하고, 상기 추정된 사용자의 FOV와 상기 추정된 전자 장치의 FOV를 비교하고, 상기 비교 결과에 기초해 상기 사용자가 상기 전자 장치의 화면을 응시하는지 판단하고, 상기 사용자가 상기 전자 장치의 화면을 응시하는 것으로 판단되면, 상기 사용자의 시선을 인식하고, 및 상기 인식된 사용자의 시선에 기초하여, 지정된 기능을 수행하도록 상기 프로세서를 지시하는 인스트럭션을 포함할 수 있다.

Description

외부 장치를 이용하는 전자 장치 및 이의 동작 방법 {ELECTRONIC DEVICE USING EXTERNAL DEVICE AND OPERATING METHOD THEREOF}
본 개시의 다양한 실시예들은 외부 장치를 이용하는 전자 장치 및 이의 방법에 관한 것이다.
전자 장치의 사용자 인터페이스는 기술의 발달로 다양해지고 있다. 소프트웨어 키 또는 하드웨어 키에 대한 입력이 주로 사용자 인터페이스로 이용되었으나, 전자 장치가 다양한 센서를 포함할 수 있어 센서를 이용한 사용자 인터페이스가 다양해지고 있다. 예를 들면, 전자 장치는 카메라를 이용해 사용자의 홍채를 확인할 수 있어 잠금을 해제하거나 지정된 어플리케이션을 실행할 수 있다.
전자 장치가 다양한 구성을 포함할 수 있고, 수행할 수 있는 기능이 많아짐에 따라 전력의 소모도 급격히 늘어나고 있다. 특히, 카메라는 전력 소모가 많아 카메라를 이용하는 기능을 장시간 이용하기에는 어려움이 있을 수 있다. 본 개시의 다양한 실시예에서는 카메라를 이용하지 않고 다른 센서를 이용해 카메라가 수행하는 기능을 대신하는 방법 및 이를 이용한 전자 장치가 제공될 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치는, 센서 모듈, 메모리, 및 프로세서를 포함하고, 상기 메모리는, 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV(field of view)를 추정하고, 상기 센서 모듈을 이용하여 전자 장치의 FOV를 추정하고, 상기 추정된 사용자의 FOV와 상기 추정된 전자 장치의 FOV를 비교하고, 상기 비교 결과에 기초해 상기 사용자가 상기 전자 장치의 화면을 응시하는지 판단하고, 상기 사용자가 상기 전자 장치의 화면을 응시하는 것으로 판단되면, 상기 사용자의 시선을 인식하고, 및 상기 인식된 사용자의 시선에 기초하여, 지정된 기능을 수행하도록 상기 프로세서를 지시하는 인스트럭션을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 무선 이어폰은, 센서 모듈, 메모리, 및 프로세서를 포함하고, 상기 메모리는, 상기 센서 모듈을 이용하여 획득한 데이터로 무선 이어폰의 자세를 추정하고, 상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하고, 상기 추정된 사용자 머리의 자세를 이용해 사용자 FOV를 추정하도록 상기 프로세서를 지시하는 인스트럭션을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 동작 방법은, 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV(field of view)를 추정하는 동작, 전자 장치에 포함된 센서를 이용하여 전자 장치의 FOV를 추정하는 동작, 상기 추정된 사용자의 FOV와 상기 추정된 FOV를 비교하는 동작, 상기 비교 결과에 기초해 상기 사용자가 상기 전자 장치의 화면을 응시하는지 판단하는 동작, 상기 사용자가 상기 전자 장치의 화면을 응시하는 것으로 판단되면, 상기 사용자의 시선을 인식하는 동작, 및 상기 인식된 사용자의 시선에 기초해 상기 전자 장치의 지정된 기능을 수행하는 동작을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 무선 이어폰의 동작 방법은, 센서를 이용하여 획득한 데이터로 무선 이어폰의 자세를 추정하는 동작, 상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하는 동작, 및 상기 추정된 사용자 머리의 자세를 이용해 사용자 FOV를 추정하는 동작을 포함할 수 있다.
본 개시의 다양한 실시예에 따르면, 전자 장치는 카메라를 이용하지 않고도 사용자가 전자 장치를 주시하는지 확인할 수 있다.
본 개시의 다양한 실시예에 따르면, 전자 장치가 카메라를 이용하지 않고도 또는 필요시에만 카메라를 이용해 얼굴 인식 및/또는 시선 인식을 확인할 수 있어 전자 장치의 소모되는 전류가 줄어들 수 있다. 전류의 소모가 줄면, 배터리의 수명이 연장될 수 있고 전자 장치의 발열량도 줄 수 있다.
본 개시의 다양한 실시예에 따르면, 전자 장치는 얼굴 인식 및/또는 시선 인식을 확인하기 위한 소모 전류가 작으면 얼굴 인식 및/또는 시선 인식 기능을 항시 구동할 수 있다. 얼굴 인식 및/또는 시선 인식 기능이 항시 구동되면, 얼굴 인식 및/또는 시선 인식 기능을 이용하는 앱을 실행하는데 필요한 초기 구동 시간이 줄어들 수 있다.
본 개시의 다양한 실시예에 따르면, 카메라를 이용하지 않아 사생활이 보호될 수 있다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 다양한 실시예에 따른 외부 장치와 연결 가능한 전자 장치를 나타낸 것이다.
도 3은 다양한 실시예에 따른 무선 이어폰의 내부 블럭도이다.
도 4는 다양한 실시예에 따른 전자 장치의 내부 블럭도이다.
도 5a는 일 실시예에 따른 사용자가 전자 장치의 화면을 응시하는 도면이고, 도 5b는 도 5a에서 전자 장치를 응시하는 사용자의 FOV를 나타낸 도면이다.
도 6은 다양한 실시예에 따른 전자 장치의 순서도이다.
도 7a는 다양한 실시예에 따른 사용자의 FOV를 추정하는 순서도이다.
도 7b는 자이로 센서와 가속도 센서를 이용해 무선 이어폰의 자세를 추정하는 일 예를 나타낸 것이다.
도 7c는 사용자가 무선 이어폰을 착용한 경우의 무선 이어폰의 자세를 나타내는 벡터와 사용자 머리의 자세를 나타내는 벡터를 일 예로 나타낸 것이다.
도 7d는 사용자 FOV의 다양한 예를 나타낸 것이다.
도 8a는 다양한 실시예에 따른 전자 장치의 자세에 대한 좌표축을 나타낸 것이고, 도 8b는 일 실시예에 따른 전자 장치의 FOV를 나타낸 것이다.
도 9는 다양한 실시예에 따른 시선 벡터를 표현하는 기준 좌표계와 전자 장치의 화면 방향을 나타내는 벡터를 표현하는 기준 좌표계를 나타낸 도면이다.
도 10a는 다양한 실시예에 따른 UWB 신호를 이용해 거리를 측정하는 방식을 나타낸 것이다.
도 10b는 다양한 실시예에 따라 전자 장치가 UWB 신호를 이용해 무선 이어폰까지의 거리를 측정하는 모습을 나타낸 것이다.
도 10c 내지 도 10f는 전자 장치의 UWB 통신 모듈에서 측정한 제1 무선 이어폰 및 제2 무선 이어폰의 거리 및 방향을 이용해 사용자의 시선 방향을 나타낸 것이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
도 2는 다양한 실시예에 따른 외부 장치와 연결 가능한 전자 장치를 나타낸 것이다.
일 실시예에 따르면, 전자 장치(210)(예: 도 1의 전자 장치(101))는 외부 장치인 무선 이어폰(220)(예: 도 1의 전자 장치(102))과 연결될 수 있다. 무선 이어폰(220)은 제1 무선 이어폰(220-1)과 제2 무선 이어폰(220-2)으로 구성될 수 있다. 제1 무선 이어폰(220-1)과 제2 무선 이어폰(220-2)은 사용자의 양 귀에 착용될 수 있으며, 오른쪽과 왼쪽이 구별될 수 있다. 제1 무선 이어폰(220-1)과 제2 무선 이어폰(220-2) 중 하나는 프라이머리(primary) 역할을 수행할 수 있고, 다른 하나는 세컨더리(secondary) 역할을 수행할 수 있다. 프라이머리 역할을 수행하는 무선 이어폰은 전자 장치(210)와 직접 연결될 수 있다. 도 2를 참조하면, 제1 무선 이어폰(220-1)이 프라이머리 역할을 수행해 전자 장치(210)와 직접 연결될 수 있다. 세컨더리 역할을 수행하는 무선 이어폰은 프라이머리 역할을 수행하는 무선 이어폰과 신호(또는 데이터)를 송수신해 프라이머리 역할을 수행하는 무선 이어폰과 동기화될 수 있다. 도 2를 참조하면, 제2 무선 이어폰(220-2)이 세컨더리 역할을 수행하는 무선 이어폰일 수 있다.
일 실시예에 따르면, 제1 무선 이어폰(220-1)이 세컨더리 역할을 수행할 수 있고, 제2 무선 이어폰(220-2)이 프라이머리 역할을 수행할 수 있다. 각 무선 이어폰의 역할은 서로 전환될 수 있다.
본 개시의 다양한 실시예에서는 외부 장치로 무선 이어폰을 예로 설명하나, 센서를 포함하여 사용자의 머리 부분에 장착될 수 있는 장치는 본 개시의 다양한 실시예에서 설명하는 외부 장치가 될 수 있다. 예를 들어, 유선 이어폰, 헤드폰, 및/또는 스마트 안경이 외부 장치가 될 수 있다.
본 개시에서는 무선 이어폰으로 설명하나, 머리에 착용할 수 웨어러블 장치(예를 들어, 센서, 프로세서, 및 통신 모듈 중 적어도 일부를 포함하는 헤어 밴드)도 적용될 수 있다.
도 3은 다양한 실시예에 따른 무선 이어폰의 내부 블럭도이다.
도 3을 참조하면, 무선 이어폰(예: 도 2의 제1 무선 이어폰(220-1))은 프로세서(310), 통신 모듈(320), 메모리(330), 및/또는 센서 모듈(340)을 포함할 수 있다.
일 실시예에 따르면, 프로세서(310)는 통신 모듈(320)을 제어해 전자 장치(예: 도 2의 전자 장치(210))로부터 수신한 데이터 및/또는 제어 신호를 처리할 수 있다. 예를 들어, 프로세서(310)는 볼륨을 조절하는 제어 신호를 통신 모듈(320)을 제어해 수신하면, 스피커(미도시)의 볼륨을 조절할 수 있다. 일 실시예에 따르면, 프로세서(310)는 센서 모듈(340)을 이용해 측정한 데이터를 처리할 수 있다. 예를 들어, 프로세서(310)는 센서 모듈(340)을 이용해 측정한 데이터를 처리해 무선 이어폰(220-1)의 자세를 추정할 수 있다. 프로세서(310)는 무선 이어폰의 방향(왼쪽, 오른쪽)을 고려해 무선 이어폰(220-1)의 자세를 추정할 수 있다. 무선 이어폰(220-1)의 자세는 좌표축으로 표시될 수 있다. 일 실시예에 따르면, 프로세서(310)는 무선 이어폰(220-1)이 프라이머리 역할을 수행하는 경우 무선 이어폰(220-1)의 자세를 추정할 수 있다.
일 실시예에 따르면, 통신 모듈(320)은 무선 이어폰(220-1)을 전자 장치(210)와 연결할 수 있다. 무선 이어폰(220-1)과 전자 장치(210)는 블루투스 통신을 이용해 연결될 수 있고, 통신 모듈(320)은 블루투스 통신을 지원할 수 있다. 통신 모듈(320)은 무선 이어폰(220-1)이 세컨더리 역할을 수행하면, 프라이머리 역할을 수행하는 무선 이어폰(예: 제2 무선 이어폰(220-2))과 전자 장치(210)의 통신을 엿들어 프라이머리 역할을 수행하는 무선 이어폰(220-2)과 동기화할 수 있고, 무선 이어폰(220-1)의 상태를 프라이머리 역할을 수행하는 무선 이어폰(220-2)으로 전송할 수 있다. 통신 모듈(320)은 프로세서(310)에 의해 추정된 무선 이어폰(220-1)의 자세를 전자 장치(210)로 전송할 수 있다.
일 실시예에 따르면, 메모리(330)는 무선 이어폰(220-1)의 상태를 저장하기 위한 구성일 수 있다. 프로세서(310)는 메모리(330)에 현재 설정된 무선 이어폰(220-1)의 상태를 저장할 수 있다.
일 실시예에 따르면, 센서 모듈(340)은 가속도 센서(340-1)와 자이로 센서(340-2)를 포함할 수 있다. 프로세서(310)는 가속도 센서(340-1)로부터 수신한 데이터를 처리해 무선 이어폰(220-1)의 가속도를 추정할 수 있다. 프로세서(310)는 자이로 센서(340-2)로부터 수신한 데이터를 처리해 무선 이어폰(220-1)의 회전 각속도를 측정할 수 있다. 프로세서(310)는 측정한 무선 이어폰(220-1)의 가속도와 회전 각속도를 이용해 무선 이어폰(220-1)의 자세를 추정할 수 있다.
도 4는 다양한 실시예에 따른 전자 장치의 내부 블럭도이다.
도 4를 참조하면, 전자 장치(예: 도 1의 전자 장치(101) 또는 도 2의 전자 장치(210))는 제1 프로세서(410), 제2 프로세서(420), 디스플레이 모듈(430), 카메라 모듈(440), 센서 모듈(450), 통신 모듈(460) 및/또는 메모리(490)를 포함할 수 있다.
일 실시예에 따르면, 제1 프로세서(410)는 제2 프로세서(420) 대비 고성능 프로세서일 수 있다. 제1 프로세서(410)는 예를 들어, 어플리케이션 프로세서일 수 있다. 제1 프로세서(410)는 어플리케이션(예: 도 1의 어플리케이션(146))을 실행할 수 있다. 제1 프로세서(410)는 제2 프로세서(420), 디스플레이 모듈(430) 및/또는 카메라 모듈(440)과 작동적으로, 기능적으로 및/또는 전기적으로 연결될 수 있다.
일 실시예에 따르면, 제2 프로세서(420)는 MCU(micro controller unit)일 수 있다. 제2 프로세서(420)는 간단한 로직들을 저전력으로 구동할 수 있는 프로세서일 수 있다. 일 실시예에 따르면, 제2 프로세서(420)는 센서 모듈(450) 및/또는 통신 모듈(460)과 작동적으로, 기능적으로 및/또는 전기적으로 연결될 수 있다. 전자 장치(210)가 제1 프로세서(410)를 포함하는 경우, 제2 프로세서(420)는 선택적인 구성일 수 있다. 제2 프로세서(420)가 전자 장치(210)에 포함되지 않는 경우, 제2 프로세서(420)에 연결된 구성(예: 센서 모듈(450) 및/또는 통신 모듈(460))은 제1 프로세서(410)에 작동적으로, 기능적으로 및/또는 전기적으로 연결될 수 있다.
일 실시예에 따르면, 디스플레이 모듈(430)은 사용자에게 시각적으로 데이터를 제공하는 구성일 수 있다. 디스플레이 모듈(430)은 실행된 어플리케이션에 의해 제공된 데이터를 시각적으로 표시할 수 있다.
일 실시예에 따르면, 카메라 모듈(440)은 정지 영상 및/또는 동영상을 촬영할 수 있다. 예를 들어, 카메라 모듈(440)은 RGB 카메라, TOF(time of flight) 카메라, depth 카메라, 및/또는 LiDAR 스캐너를 포함할 수 있다. 제1 프로세서(410)는 카메라 모듈(440)을 이용해 사용자의 얼굴을 인식하고, 안구(또는, 시선)를 인식할 수 있다.
일 실시예에 따르면, 센서 모듈(450)은 가속도 센서(450-1), 자이로 센서(450-2), 근접 센서(450-3), 및/또는 적외선 센서(450-4)를 포함할 수 있다.
일 실시예에 따르면, 제2 프로세서(420)는 가속도 센서(450-1)로부터 수신한 데이터를 처리해 전자 장치(210)의 가속도를 측정할 수 있다.
일 실시예에 따르면, 제2 프로세서(420)는 자이로 센서(450-2)로부터 수신한 데이터를 처리해 전자 장치(210)의 회전 각속도를 측정할 수 있다. 제2 프로세서(420)는 측정한 전자 장치(210)의 가속도와 회전 각속도를 이용해 전자 장치(210)의 자세를 추정할 수 있다.
일 실시예에 따르면, 전자 장치(210)의 자세를 추정하기 위한 센서 모듈(450)의 구성은 가속도 센서(450-1) 및/또는 자이로 센서(450-2)에 제한되지 않을 수 있다. 예를 들어, 센서 모듈(450)은 지자기 센서 및/또는 기압 센서를 더 포함할 수 있다. 지자기 센서는 전자 장치(210)의 방위를 판단하는데 활용될 수 있고, 기압 센서는 전자 장치(210)의 고도 측정시 활용될 수 있다.
일 실시예에 따르면, 제2 프로세서(420)는 근접 센서(450-3)를 이용해 사용자의 얼굴이 전자 장치(210)로부터 일정 범위 내로 접근했는지 판단할 수 있다. 적외선 센서(450-4)(예: IR LED)와 카메라 모듈(440)(예: 홍채스캐너)을 이용하면, 전자 장치(210)는 사용자의 홍채를 인식할 수 있다.
다른 실시예에 따르면, 전자 장치(210)는 mmWave 통신 모듈(미도시)(예: 60GHz WiFi)를 포함할 수 있고, mmWave 통신 모듈(미도시)을 이용하여 사용자의 얼굴이 전자 장치(210)로부터 일정 범위 내로 접근 했는지 판단할 수 있다.
일 실시예에 따르면, 통신 모듈(460)은 근거리 통신 모듈(470) 및/또는 셀룰러 통신 모듈(480)을 포함할 수 있다.
일 실시예에 따르면, 근거리 통신 모듈(470)은 예를 들어, BT(bluetooth)/BLE(bluetooth low energy)(470-1), WiFi(470-2), UWB(ultra wide band)(470-3), 및/또는 NFC(near field communication)(470-4)를 포함할 수 있다.
일 실시예에 따르면, BT/BLE(470-1)는 블루투스 통신을 지원해, 전자 장치(210)가 블루투스 통신을 이용해 외부 장치와 연결될 수 있게 할 수 있다.
일 실시예에 따르면, WiFi(470-2)는 WiFi 통신을 지원할 수 있다. 전자 장치(210)는 WiFi 통신을 이용해 외부 장치와 연결할 수 있다.
일 실시예에 따르면, UWB(470-3)는 UWB 통신을 지원할 수 있다. UWB(470-3)는 적어도 2개의 UWB 안테나(예: 도 1의 안테나 모듈(197))를 포함할 수 있다. 전자 장치(210)는 UWB 안테나를 통해 외부 장치로부터 수신된 RF(radio frequency) 신호의 RTT(round trip time) 및 AOA(angle of arrival)에 기반하여 외부 장치의 위치를 식별할 수 있다. 예를 들어, 전자 장치(210)는 상기 UWB 안테나를 통해 외부 장치로 거리 측정 요청 메시지를 송신한 뒤, 외부 장치로부터 상기 거리 측정 요청에 대한 응답 메시지를 수신하는데 소요된 시간(RTT)을 식별할 수 있고, 상기 RTT에 기반하여 전자 장치(210)로부터 전파가 송신되어 외부 장치까지 도달하는데 걸리는 시간인 TOF(time of flight)를 식별할 수 있다. 상기 TOF를 통해 전자 장치(210)는 전자 장치(210)와 외부 장치의 상대적인 거리를 식별할 수 있다. 또한, 전자 장치(210)는 적어도 3개 이상의 UWB 안테나들을 포함할 수 있고, 전자 장치(210)는 UWB 안테나들이 외부 장치로부터 수신한 RF 신호의 위상 차이 및 UWB 안테나들이 이격된 물리적 거리에 기반하여 외부 장치로부터 수신한 RF 신호의 도래각(AOA)을 식별할 수 있고, 상기 도래각(AOA)에 기반하여 외부 장치가 위치한 방향을 식별할 수 있다. 전자 장치(210)는 UWB 통신을 이용해 상기 식별된 TOF 및 AOA에 기반하여 전자 장치(210)와 외부 장치의 상대적인 위치(예: 외부 장치까지의 거리 및/또는 각도)를 측정할 수 있다.
일 실시예에 따르면, NFC(470-4)는 근거리 무선 통신을 지원할 수 있다. NFC(470-4)는 약 13.56MHz 대역의 주파수를 이용하여 약 10cm 이내의 근거리에서 접촉하지 않고 데이터를 교환할 수 있게 할 수 있다.
일 실시예에 따르면, 셀룰러 통신 모듈(480)은 예를 들어 LTE(long term evolution)/5G(480-1)를 포함할 수 있다. LTE/5G(480-1)는 LTE 통신 방식 및/또는 5G 통신 방식을 지원할 수 있다. 전자 장치(210)는 LTE 통신/5G 통신을 이용해 기지국과 통신할 수 있다. 일 실시예에 따르면, 셀룰러 통신 모듈(480)은 도 4에 도시되지는 않았지만 2G 및/또는 3G 통신 방식도 지원할 수 있다.
일 실시예에 따르면, 메모리(490)는 프로세서(예: 제1프로세서(410) 및/또는 제2 프로세서(420))에서 처리되는 정보를 일시적 및/또는 비일시적으로 저장할 수 있다. 예를 들어, 메모리(490)는 전자 장치(210)와 외부 장치 사이의 상대적인 거리 및/또는 전자 장치(210)의 위치 정보에 기반한 외부 장치의 위치 정보를 저장할 수 있다.
일 실시예에 따르면, 메모리(490)는 본 개시의 다양한 실시예에서 설명하는 제1 프로세서(410) 및/또는 제2 프로세서(420)에 의해 처리될 수 있는 인스트럭션이 저장될 수 있다. 제1 프로세서(410) 및/또는 제2 프로세서(420)는 메모리(490)에서 인스트럭션을 읽어 동작할 수 있다.
도 5a는 일 실시예에 따른 사용자가 전자 장치의 화면을 응시하는 도면이고, 도 5b는 도 5a에서 전자 장치를 응시하는 사용자의 FOV를 나타낸 도면이다.
도 5a를 참조하면, 사용자(500)는 무선 이어폰(예: 도 2의 제1 무선 이어폰(220-1))을 착용하고 전자 장치(예: 도 2의 전자 장치(210))를 이용할 수 있다. 예를 들어, 사용자(500)는 무선 이어폰(220-1)과 전자 장치(210)를 이용해 다른 사용자와 영상 통화를 할 수 있다. 사용자(500)는 무선 이어폰(220-1)을 이용해 다른 사용자의 음성을 들으면서 전자 장치(210)를 이용해 다른 사용자의 영상을 볼 수 있다. 다른 예로, 사용자(500)는 무선 이어폰(220-1)과 전자 장치(210)를 이용해 영상을 시청할 수 있다. 사용자(500)는 전자 장치(210)를 이용해 영상을 보면서 소리는 무선 이어폰(220-1)을 통해 들을 수 있다.
일 실시예에 따르면, 사용자(500)가 전자 장치(210)의 화면(또는 디스플레이)을 보기 위해서는 중력 방향(505)을 기준으로, 전자 장치(210)의 기울어진 정도와 사용자의 기울어진 정도가 일정 범위 내이어야 할 수 있다. 도 5a에서는 중력 방향(505)을 기준으로 전자 장치가 기울어진 정도를 제1 벡터(510)로, 사용자가 기울어진 정도를 제2 벡터(520)로 나타낸 것이다.
본 개시의 다양한 실시예에서는, 사용자와 전자 장치의 FOV(field of view)가 각각 정의될 수 있다. 전자 장치의 FOV는 카메라 및/또는 UWB에 의해 얼굴 또는/및 시선을 인식할 수 있는 범위를 의미할 수 있고, 사용자의 FOV는 사용자가 눈으로 관찰할 수 있는 범위를 의미할 수 있다. 도 5a에서는 전자 장치의 FOV의 기준이 되는 벡터를 제3 벡터(515)로, 사용자의 FOV의 기준이 되는 벡터를 제4 벡터(525)로 나타낸 것이다.
일 실시예에 따르면, 제3 벡터(515)는 전자 장치(210)의 화면과 수직이 되는 벡터일 수 있다. 제3 벡터(515)와 중력 방향(505)이 이루는 각도는 틸트각이 될 수 있다. 일 실시예에 따르면, 제4 벡터(525)는 사용자 시선의 방향으로 시선 벡터로 칭할 수 있다.
일 실시예에 따르면, 전자 장치와 사용자의 기울어진 정도를 중력 방향(505)을 기준으로 제1 벡터(510)와 제2 벡터(520)로 나타낼 수 있지만, 제3 벡터(515)와 제4 벡터(525)로 나타낼 수도 있다.
일 실시예에 따르면, 사용자의 FOV는 세분화하여 구별될 수 있다. 도 5b를 참조하면, 일반적인 FOV(540)는 사용자가 눈으로 관찰할 수 있는 범위로, 약 180도일 수 있다. 본 개시의 다양한 실시예에서는 사용자가 의도를 가지고 볼 수 있는 범위를 사용자 FOV(530)로 정의할 수 있다. 예를 들어, 사용자는 전자 장치(210)가 사용자 FOV(530) 내에 들어오면(또는 위치하면) 전자 장치(210)의 화면에 표시된 데이터에 집중할 수 있다. 사용자 FOV(530)는 이하의 도 7d와 같이 더 구별될 수 있다.
도 6은 다양한 실시예에 따른 전자 장치의 순서도이다.
일 실시예에 따르면, 전자 장치(예: 도 2 또는 도 4의 전자 장치(210))는, 동작 610에서, 사용자의 FOV(예: 도 5b의 사용자 FOV(530))를 추정할 수 있다. 전자 장치(210)는 무선 이어폰(예: 도 2 또는 도 3의 제1 무선 이어폰(220-1))에 포함된 센서(예: 도 3의 센서 모듈(340))를 이용하여 획득한 데이터를 통신 모듈(예: 도 4의 통신 모듈(460))을 통해 수신해 사용자의 FOV를 추정할 수 있다. 전자 장치(210)는 무선 이어폰이 직접 센서로부터 획득한 데이터를 이용하여 추정한 사용자의 FOV를 통신 모듈을 통해 수신할 수 있다. 전자 장치(210) 또는 무선 이어폰이 사용자의 FOV를 추정하는 방법은 이하에서 도 7a 내지 도 7d를 이용해 자세히 설명될 수 있다.
일 실시예에 따르면, 전자 장치(210)는, 동작 620에서, 전자 장치(210)의 FOV를 추정할 수 있다. 도 5a에서 설명한 바와 같이, 전자 장치(210)의 FOV는 전자 장치(210)에 포함된 카메라(예: 도 4의 카메라 모듈(440))를 이용하여 사용자의 얼굴, 및/또는 시선을 인식할 수 있는 범위일 수 있다. 전자 장치(210)의 FOV는 전자 장치(210)가 UWB(예: 도 4의 UWB(460-3))를 이용하여 UWB 통신을 지원하는 경우 무선 이어폰과 UWB 통신을 이용해 사용자의 얼굴, 및/또는 시선을 인식할 수 있는 범위일 수 있다. 전자 장치(210)가 전자 장치(210)의 FOV를 추정하는 방법은 이하에서 도 8a 및 도 8b를 이용해 자세히 설명될 수 있다.
일 실시예에 따르면, 전자 장치(210)는, 동작 630에서, 추정한 사용자의 FOV와 추정한 전자 장치(210)의 FOV를 비교할 수 있다. 전자 장치(210)는 사용자의 FOV의 기준이 되는 벡터(예: 도 5a의 제3 벡터(515))와 전자 장치(210)의 FOV의 기준이 되는 벡터(예: 도 5a의 제4 벡터(525))를 비교할 수 있다.
일 실시예에 따르면, 전자 장치(210)는, 동작 640에서, 비교 결과에 기초해 사용자가 전자 장치(210)의 화면을 응시하는지 판단할 수 있다. 전자 장치(210)는 추정한 사용자의 FOV와 추정한 전자 장치(210)의 FOV가 정해진 범위 내로 들어오면, 사용자가 전자 장치(210)의 화면을 응시하는 것으로 판단할 수 있다. 전자 장치(210)는 사용자의 FOV의 기준이 되는 벡터(예: 제3 벡터(515))와 전자 장치(210)의 FOV의 기준이 되는 벡터(예: 제4 벡터(525))를 비교해 두 벡터가 중력 방향(예: 도 5a의 중력방향(505))을 기준으로 평행한 지 또는 마주보는지 판단할 수 있다. 전자 장치(210)는 전자 장치(210)의 흔들림, 사용자 얼굴의 움직임 및/또는 사용자 눈동자의 움직임과 같은 여러 변수를 고려해 두 벡터의 차이가 일정 범위 내에서 유지되면 사용자가 전자 장치(210)의 화면을 응시한 것으로 판단할 수 있다.
일 실시예에 따르면, 전자 장치(210)는, 동작 650에서, 사용자가 전자 장치(210)의 화면을 응시하는 것으로 판단되면, 사용자의 시선을 인식할 수 있다. 전자 장치(210)는 사용자가 전자 장치(210)의 화면을 응시하는 것으로 판단되면, 카메라, 센서, 및 UWB 통신 모듈 중 적어도 일부를 이용해 사용자의 시선을 인식할 수 있는지 판단해 사용자의 시선을 인식할 수 있다. 전자 장치(210)는 사용자가 전자 장치(210)의 화면을 응시하지 않는 것으로 판단되면, 동작 610을 다시 수행할 수 있다. 전자 장치(210)가 사용자가 전자 장치(210)의 화면을 응시하는 지를 판단하는 방법은 이하에서 도 10a 내지 도 10f를 이용해 자세히 설명될 수 있다.
일 실시예에 따르면, 전자 장치(210)는, 동작 660에서, 인식된 사용자의 시선에 기초해 전자 장치(210)의 지정된 기능을 수행할 수 있다. 전자 장치(210)는 사용자의 시선이 인식되면 인식된 사용자의 시선에 기초해 지정된 전자 장치(210)의 기능을 수행할 수 있다.
일 실시예에 따르면, 전자 장치(210)는 사용자가 전자 장치(210)의 화면을 응시하는 경우에 사용자의 시선이 인식되는지 판단할 수 있으며, 사용자의 시선이 인식되면 사용자의 조작없이 설정만으로 전자 장치(210)의 정해진 기능을 수행할 수 있다. 이로 인해 전자 장치(210)는 항시 사용자의 시선이 인식되는지 판단할 필요가 없어 전류의 소모를 줄일 수 있으며, 사용자는 지정된 기능을 실행하기 위한 동작(예: 앱 실행을 위한 동작)을 수행하지 않을 수 있다.
도 7a는 다양한 실시예에 따른 사용자의 FOV를 추정하는 순서도이다.
일 실시예에 따르면, 전자 장치(예: 도 2 또는 도 4의 전자 장치(210))는, 동작 710에서, 무선 이어폰(예: 도 2 또는 도 3의 제1 무선 이어폰(220-1))에 포함된 센서를 이용해 획득한 데이터로 무선 이어폰의 자세를 추정할 수 있다. 예를 들어, 무선 이어폰(220-1)은 가속도 센서(예: 도 3의 가속도 센서(340-1))와 자이로 센서(예: 도 3의 자이로 센서(340-2))를 포함할 수 있다. 무선 이어폰(220-1)의 프로세서(예: 도 3의 프로세서(310))는 가속도 센서(340-1)를 이용해 중력 방향에 대한 무선 이어폰(220-1)의 센서축의 기울어진 정도를 추정할 수 있다. 무선 이어폰(220-1)의 프로세서(310)는 자이로 센서(340-2)를 이용해 무선 이어폰(220-1)의 상대적인 자세 변화량을 추정할 수 있다. 일 실시예에 따르면, 자이로 센서(340-2)를 이용해 측정한 데이터는 짧은 순간에는 정확할 수 있으나, 장시간 동안의 값을 획득하기 위해 적분할 경우, 드리프트 오차를 가질 수 있다. 가속도 센서(340-1)를 이용해 측정한 데이터는 짧은 순간에는 노이즈가 포함되어 부정확할 수 있으나, 장시간 동안의 값은 정확할 수 있다. 자이로 센서(340-2)와 가속도 센서(340-1)의 상보적인 특성을 이용하면, 비교적 정확한 무선 이어폰(220-1)의 자세(또는, 무선 이어폰(220-1)의 자세를 나타내는 벡터)가 추정될 수 있다.
도 7b는 자이로 센서와 가속도 센서를 이용해 무선 이어폰의 자세를 추정하는 일 예를 나타낸 것이다.
도 7b를 참조하면, 가속도 센서(340-1)를 이용해 측정한 데이터는 움직임이 없는 경우에 노이즈를 포함할 수 있다. 가속도 센서(340-1)를 이용해 측정한 데이터는 저주파 통과 필터(740)로 노이즈를 제거해 천천히 크게 움직인 동작을 판단하는데 사용될 수 있다. 자이로 센서(340-2)를 이용해 측정한 데이터는 움직임이 없는 경우 드리프트 오차를 포함할 수 있다. 자이로 센서(340-2)를 이용해 측정한 데이터는 고주파 통과 필터(750)로 드리프트 오차를 제거해 상대적으로 작은 회전 움직임을 판단하는데 이용될 수 있다. 저주파 통과 필터(740)를 통과한 가속도 센서(340-1)를 이용해 측정한 데이터와 고주파 통과 필터(750)를 통과한 자이로 센서(340-2)를 이용해 측정한 데이터를 더하면 비교적 정확도가 높은 무선 이어폰(220-1)의 자세가 추정될 수 있다. 도 7b와 같은 방식은 상보 필터를 이용한 방식일 수 있으며, 확장 칼만 필터, Mahony 필터, 및/또는 Madgwick 필터들이 이용될 수 있다.
이와 같은, 무선 이어폰(220-1)의 자세 추정 방법은 사용자의 상황이 고려된 것일 수 있다. 예를 들어, 사용자가 전자 장치의 화면을 주시하는 경우, 사용자는 머리를 거의 움직이지 않기 때문에, 사용자 머리의 정지 상태는 가속도 센서(340-1)로 감지될 수 있고, 자이로 센서(340-2)를 이용해 측정한 데이터로 드리프트를 추정할 수 있다. 이와 같이 드리프트가 추정된 이후에는 센서를 이용해 측정한 데이터로부터 추정한 드리프트를 제거할 수 있어 보다 정확한 무선 이어폰(220-1)의 자세가 추정될 수 있다.
다시 도 7a로 돌아와, 일 실시예에 따르면, 전자 장치(210)는, 동작 720에서, 추정된 무선 이어폰의 자세(또는 무선 이어폰의 자세를 나타내는 벡터)를 이용해 사용자 머리의 자세(또는 사용자 머리의 자세를 나타내는 벡터)를 추정할 수 있다. 무선 이어폰의 자세를 나타내는 벡터와 사용자 머리의 자세를 나타내는 벡터는 동일하지 않을 수 있다. 무선 이어폰의 자세는 무선 이어폰의 방향 즉, 오른쪽, 왼쪽에 따라서도 다를 수 있다.
도 7c는 사용자가 무선 이어폰을 착용한 경우의 무선 이어폰의 자세를 나타내는 벡터(740)와 사용자 머리의 자세를 나타내는 벡터(750)를 일 예로 나타낸 것이다.
일 실시예에 따르면, 무선 이어폰의 기구적 특성에 따라 사용자가 무선 이어폰을 착용했을 때 무선 이어폰의 자세를 나타내는 벡터(740)와 사용자 머리의 자세를 나타내는 벡터(750)는 상수의 관계로 나타낼 수 있다. 전자 장치(210)는 추정한 무선 이어폰의 자세를 나타내는 벡터(740)와 상수를 이용해 사용자 머리의 자세를 나타내는 벡터(750)를 추정할 수 있다.
일 실시예에 따르면, 사용자 머리의 자세를 나타내는 벡터(750)는 자세를 표현하는 방법 중 하나인 쿼터니언 식으로 나타낼 수 있다. 자세를 나타내는 기준 좌표계는 지구 로컬 좌표계(navigation frame)일 수 있으며, 무선 이어폰의 자세를 나타내는 벡터(740)는
Figure pat00001
로 나타낼 수 있고, 사용자 머리의 자세를 나타내는 벡터(750)는
Figure pat00002
로 나타낼 수 있다. 사용자가 무선 이어폰을 착용한 상태에서 무선 이어폰의 자세를 나타내는 벡터(740)와 사용자 머리의 자세를 나타내는 벡터(750)간의 관계는
Figure pat00003
로 표시될 수 있다. 이상과 같이 표시될 때, 사용자 머리의 자세를 나타내는 벡터(750)는 아래의 [수학식 1]과 같이 나타낼 수 있다.
[수학식 1]
Figure pat00004
여기서, 사용자가 무선 이어폰을 착용한 상태에서 무선 이어폰의 자세를 나타내는 벡터(740)와 사용자 머리의 자세를 나타내는 벡터(750)간의 관계인
Figure pat00005
는 고정된 값일 수 있으며, 무선 이어폰의 방향에 따라 달라질 수 있다.
일 실시예에 따르면, 전자 장치(210)는 사용자 머리의 자세를 나타내는 벡터(750)를 이용하면, 사용자 시선의 정면을 나타내는 벡터를 추정할 수 있다. 사용자 머리의 자세를 나타내는 벡터(750)에서 표현된 시선 방향 벡터(760)를
Figure pat00006
라고 하면, 기준 좌표계에서 표현된 시선 방향 벡터(760)
Figure pat00007
는 [수학식 2]와 같이 나타낼 수 있다.
[수학식 2]
Figure pat00008
일 실시예에 따르면, 전자 장치(210)는, 동작 730에서, 추정된 사용자 머리의 자세를 나타내는 벡터(750)를 이용해 사용자 FOV를 추정할 수 있다. 전자 장치(210)는 동작 720에서 구한 시선 방향 벡터(760)(
Figure pat00009
)를 기준으로 일정 각도 범위를 사용자 FOV로 정의할 수 있다.
도 7d는 사용자 FOV의 다양한 예를 나타낸 것이다.
도 7d를 참조하면, 시선 방향 벡터(760)를 기준으로 약 ±10도 내로 글자가 들어와야 사용자가 글을 인식할 수 있다. 사용자가 글을 인식할 수 있는 사용자 FOV는 약 ±10으로 정의할 수 있다. 다른 예로, 시선 방향 벡터(760)를 기준으로 약 ±20도 내로 기호가 들어와야 사용자가 기호를 인식할 수 있고, 시선 방향 벡터(760)를 기준으로 약 ±30도 내로 색이 들어와야 사용자가 색을 인식할 수 있다. 일 실시예에 따르면, 사용자 FOV는 사용자가 이용하려는 어플리케이션 또는 기능에 따라 달리 정해질 수 있다. 사용자 FOV는 복수 개 정의되어 어플리케이션 또는 기능에 따라 다른 사용자 FOV가 이용될 수 있다. 예를 들어, 사용자가 인터넷 브라우저를 이용하여 기사를 읽으려는 경우, 사용자 FOV는 사용자가 글을 인식할 수 있는 약 ±10도를 기준으로 할 수 있다. 전자 장치(예: 도 2 또는 도 4의 전자 장치(210))의 FOV가 사용자 FOV를 벗어나면, 전자 장치(210)의 화면을 흐리게 하여 내용의 노출을 방지할 수 있다. 전자 장치(210)의 FOV가 사용자 FOV 내로 들어오면, 전자 장치(210)의 화면을 뚜렷하게 할 수 있다. 다른 예로, 사용자가 영상을 시청하기 위한 사용자 FOV는 약 ±20도로 정의될 수 있다. 전자 장치(210)의 FOV가 사용자 FOV를 벗어나면 영상은 정지될 수 있고, 전자 장치(210)의 FOV가 사용자 FOV 내로 들어오면 영상은 다시 재생될 수 있다. 또 다른 예로, 리마인더나 알림의 기능을 위한 사용자 FOV는 약 ±30도로 정의될 수 있다.
도 7a에서는 전자 장치(210)가 사용자의 FOV를 추정하는 것으로 설명되나, 무선 이어폰(220-1)이 직접 센서로부터 획득한 데이터를 이용하여 사용자의 FOV를 추정할 수 있다. 무선 이어폰(220-1)이 직접 사용자의 FOV를 추정하는 경우, 무선 이어폰(220-1)은 추정한 사용자의 FOV를 전자 장치(210)로 전송할 수 있다. 알람이 울릴 때 전자 장치의 FOV가 사용자 FOV 내(예 : ±30도)로 들어오면 알람을 중지할 수 있고, 리마인더의 내용을 읽어주거나 보여줄 수 있다. 더 나아가, 전자 장치의 FOV가 더 정의된 사용자 FOV 내(예: ±10도)로 들어오면, 알람의 확인(예: 알람의 정지)가 수행될 수 있다.
도 8a는 일 실시예에 따른 전자 장치의 자세에 대한 좌표축을 나타낸 것이고, 도 8b는 일 실시예에 따른 전자 장치의 FOV를 나타낸 것이다.
일 실시예에 따르면, 전자 장치(예: 도 2 또는 도 4의 전자 장치(210))는 전자 장치(210)에 포함된 센서를 이용해 획득한 데이터로 전자 장치(210)의 자세(또는 전자 장치의 자세를 나타내는 벡터)를 추정할 수 있다. 전자 장치(210)가 전자 장치(210)에 포함된 센서를 이용해 획득한 데이터로 전자 장치(210)의 자세를 추정하는 방법은 도 7a의 동작 710에서, 전자 장치(210)가 무선 이어폰(220-1)에 포함된 센서를 이용해 획득한 데이터로 무선 이어폰(220-1)의 자세(무선 이어폰(220-1)의 자세를 나타내는 벡터)를 추정하는 방법과 동일 및/또는 유사할 수 있다.
일 실시예에 따르면, 전자 장치(210)의 자세를 나타내는 벡터도 사용자 머리의 자세를 나타내는 벡터와 마찬가지로 지구 로컬 좌표계에서 전자 장치(210)의 자세가 표현될 수 있다. 도 8a를 참조하면, 사용자가 전자 장치(210)의 정면에서 화면을 보는 상황이면, 사용자의 시선 벡터와 전자 장치(210)의 자세에 대한 좌표축 중 -z축이 일치할 수 있다. 따라서, 전자 장치(210)의 화면 방향의 벡터
Figure pat00010
는 -z축으로 정의하여 이를 기준 좌표계로 변환하면 전자 장치(210)의 화면 방향 벡터를 계산할 수 있다. 전자 장치(210)의 화면 방향의 벡터도 쿼터니언 식으로 나타내면 [수학식 3]과 같이 나타낼 수 있다.
[수학식 3]
Figure pat00011
여기서,
Figure pat00012
은 기준 좌표계에서 표현된 전자 장치의 자세에 대한 벡터일 수 있다.
도 8b는 도 7d와 같이 전자 장치 FOV의 다양한 예를 나타낸 것이다. 전자 장치(210)의 FOV는 전자 장치(210)의 자세를 추정하기 위한 센서의 위치에 따라 달라질 수 있다. 전자 장치(210)에 포함된 카메라(810)를 이용하여 사용자의 얼굴, 및/또는 시선을 인식할 수 있는 전자 장치(210) FOV의 범위와 전자 장치(210)가 무선 이어폰과 UWB 통신(820)을 이용해 사용자의 얼굴, 및/또는 시선을 인식할 수 있는 전자 장치(210) FOV의 범위는 다를 수 있다.
도 9는 다양한 실시예에 따른 시선 벡터를 표현하는 기준 좌표계와 전자 장치의 화면 방향을 나타내는 벡터를 표현하는 기준 좌표계를 나타낸 도면이다.
도 9를 참조하면, 시선 벡터(예: 도 5a의 제4 벡터(525))를 표현하는 기준 좌표계(910)와 전자 장치의 화면 방향을 나타내는 벡터(예: 도 5a의 제3 벡터(515))를 표현하는 기준 좌표계(920)는 일치하지 않을 수 있다. 다만, 중력장은 공통이기 때문에 중력 방향에 해당되는 축은 일치할 수 있고, 중력 방향과 직교하는 두 축은 일치하지 않을 수 있다.
일 실시예에 따르면, 전자 장치(예: 도 2 또는 도 4의 전자 장치(210))는 시선 벡터(525)와 전자 장치의 화면 방향을 나타내는 벡터(515)의 방향을 비교하기 위해 일치하지 않는 축들을 정렬할 수 있다. 즉, 전자 장치(210)는 수평 성분으로 틀어진 θ(930)를 0으로 보정할 수 있다.
일 실시예에 따르면, 전자 장치(210)는 θ(930)를 0으로 보정하기 전에는 중력 방향에 대한 기울어진 정도만 비교할 수 있다. 기울어진 정도는 수평 성분의 크기와 수직 성분의 크기 비율로 나타낼 수 있다. 도 9를 참조하면, x축과 y축이 수평 성분이 될 수 있고, z축이 수직 성분이 될 수 있다. 이 때 기울어진 정도는 하기 [수학식 4]와 같이 표현될 수 있다.
[수학식 4]
Figure pat00013
시선 벡터(525)와 전자 장치(210)의 화면 방향을 나타내는 벡터(515)의 기울어진 정도를 각각 계산한 값을 tilt_v, tilt_d로 나타낼 때, 두 값의 차이가 FOV 이내에 들어오는 경우 전자 장치(210)는 사용자가 전자 장치(210)의 화면을 보고 있을 가능성이 높다고 판단할 수 있다.
일 실시예에 따르면, 전자 장치(210)는 사용자가 전자 장치(210)의 화면을 보고 있을 가능성이 높으면, 시선 인식을 위한 센서(예: 카메라)를 구동할 수 있다. 다른 실시예에 따르면, 전자 장치(210)는 사용자가 전자 장치(210)의 화면을 보고 있을 가능성이 높으면 전자 장치(210)의 화면에 필요한 정보를 표시할 수 있다.
일 실시예에 따르면, 전자 장치(210)는 사용자가 전자 장치(210)의 화면을 보고 있을 가능성이 높은 경우에만 시선 인식을 위한 센서(예: 카메라)를 구동할 수 있어 시선 인식을 위한 센서(예: 카메라)를 구동하는데 필요한 소모 전류를 줄일 수 있다.
도 10a는 다양한 실시예에 따른 UWB 신호를 이용해 거리를 측정하는 방식을 나타낸 것이다.
도 10a를 참조하면, 제1 전자 장치(1001)가 제1 데이터 프레임을 전송하면(1011), 제2 전자 장치(1003)는 제1 데이터 프레임을 수신한 시간과 제2 전자 장치가 데이터 프레임을 전송하는 시간을 포함한 제2 데이터 프레임을 전송하고(1013), 제1 전자 장치(1001)는 수신한 제2 데이터 프레임에 포함된 정보를 더 이용해 제1 전자 장치(1001)와 제2 전자 장치(1003)간의 거리를 계산하는 방법이다. 제1 전자 장치(1001)는 제2 데이터 프레임을 수신한 시간에서 제1 데이터 프레임을 전송한 시간과 제2 전자 장치(1003)가 제1 데이터를 수신하여 제2 데이터를 전송하기 위한 시간을 빼서 나누기 2를 하여 제2 전자 장치(1003)까지의 거리를 계산할 수 있다.
도 10b는 다양한 실시예에 따라 전자 장치가 UWB 신호를 이용해 무선 이어폰까지의 거리를 측정하는 모습을 나타낸 것이다.
도 10b를 참조하면, 전자 장치(예: 도 2의 전자 장치(210))는 UWB 신호를 이용해 제1 무선 이어폰(예: 도 2의 제1 무선 이어폰(220-1))까지의 거리(d1) 및 제2 무선 이어폰(예: 도 2의 제2 무선 이어폰(220-2))까지의 거리(d2)를 측정할 수 있다. 전자 장치(210)는 복수의 안테나를 이용하여 UWB 신호가 수신되는 시간 차이를 이용해 제1 무선 이어폰의 방향 및 제2 무선 이어폰의 방향을 측정할 수 있다.
도 10c 내지 도 10f는 전자 장치의 UWB 통신 모듈에서 측정한 제1 무선 이어폰 및 제2 무선 이어폰의 거리 및 방향을 이용해 사용자의 시선 방향을 나타낸 것이다.
일 실시예에 따르면, 전자 장치(예: 도 2의 전자 장치(210))는 UWB 신호를 이용해 제1 무선 이어폰 및 제2 무선 이어폰의 거리 및 방향을 측정해 위치에 대한 좌표값으로 변환할 수 있다. 전자 장치(210)는 제1 무선 이어폰의 위치에 대한 좌표값과 제2 무선 이어폰의 위치에 대한 좌표값을 이은 선분의 수직 이등분선을 사용자의 시선 벡터로 추정할 수 있다. 전자 장치(210)는 사용자의 시선 벡터를 연장해 전자 장치의 일정 영역 내에 들어오는지 판단할 수 있다.
도 10c과 도 10d를 참조하면, 사용자의 시선 벡터는 전자 장치를 향하고 있고 연장하면 전자 장치의 일정 영역 내로 들어오고 있어 전자 장치(210)는 사용자가 전자 장치의 화면을 응시하는 것으로 판단할 수 있다. 일 실시예에 따르면, 전자 장치(210)는 전자 장치의 화면 벡터를 이용해 사용자의 머리(또는 얼굴)의 위치를 더 확인할 수 있다. 도 10c는 사용자가 정면에서 전자 장치의 화면을 보는 것을 나타낸 것일 수 있고, 도 10d는 사용자가 위에서 전자 장치의 화면을 보는 것을 나타낸 것일 수 있다. 도 10c이나 도 10d과 같이, 사용자가 전자 장치의 화면을 보는 것으로 판단되면, 전자 장치는 미리 정한 기능을 수행할 수 있다.
도 10e와 도 10f를 참조하면, 사용자의 시선 벡터는 전자 장치를 향하지 않고 연장하더라도 전자 장치의 범위를 벗어날 수 있다. 전자 장치(210)는 도 10e 또는 도 10f과 같이 제1 무선 이어폰의 위치에 대한 좌표값과 제2 무선 이어폰의 위치에 대한 좌표값이 추정되면, 사용자가 전자 장치의 화면을 응시하지 않는 것으로 판단할 수 있다.
본 개시의 다양한 실시예에 따르면, 전자 장치(예: 도 2 또는 도 4의 전자 장치(210))는 앞서 설명한 얼굴 또는/및 시선 인식 기능을 이용하여 전자 장치의 잠금 화면을 해제 또는/및 설정할 수 있다. 전자 장치(210)는 사용자가 전자 장치(210)를 응시하는 각도를 추정할 수 있다. 전자 장치(210)는 사용자가 전자 장치(210)를 응시하는 각도를 구별하여 단계별로 전자 장치의 잠금 화면을 해제 또는/및 설정할 수 있다. 예를 들어, 전자 장치(210)는 사용자가 전자 장치(210)를 응시하는 각도가 약 ±10도 이내이면 1단계, 약 ±20도 이내이면 2단계, 약 ±30도 이내이면 3단계, 약 ±40도 이내이면 4단계로 구별할 수 있다. 전자 장치(210)는 1단계로 판단되면 사용자가 전자 장치(210)를 정면으로 응시하는 것으로 판단할 수 있고, 2단계로 판단되면 사용자가 전자 장치(210)를 옆에서 응시하는 것으로 판단할 수 있다. 전자 장치(210)는 3단계로 판단되면 사용자의 얼굴이 벗어난 상태에서 사용자가 전자 장치(210)를 응시하는 것으로 판단할 수 있고, 4단계로 판단되면 사용자가 전자 장치(210)를 응시하지 않는 것으로 판단할 수 있다. 전자 장치(210)는 사용자가 전자 장치(210)를 응시하는 각도가 4단계에서 3단계로 진입 시 잠금 화면을 해제하기 위한 기능을 준비할 수 있다. 예를 들어 전자 장치(210)는 Sleep중이던 프로세서(예: AP)를 깨우고, 카메라를 실행시키기 위한 준비, 및/또는 UWB를 구동하기 위해 준비할 수 있다. 2단계에 진입하면, 전자 장치(210)는 화면을 켜고 잠금 화면에서의 정보를 표시할 수 있다. 1단계에 진입하면, 전자 장치(210)는 얼굴 인증, 및/또는 홍채 인증과 같은 인증을 위한 동작 및 인터페이스를 실행시킬 수 있다. 인증이 완료되면, 전자 장치(210)는 잠금 화면을 해제할 수 있다.
다른 예로 사용자가 전자 장치(210)를 조작을 하고 있지 않을 경우, 사용자가 전자 장치(210)를 응시하는 각도가 1단계에서 2단계로 진입 시 잠금 화면이 설정될 수 있으며, 3단계 또는 4단계로 진입하면 화면이 꺼질 수 있다.
여기서는 사용자가 전자 장치(210)를 응시하는 각도를 4단계로 나누어 설명하나 더 또는 덜 세분화할 수 있고, 어플리케이션에 따라 단계의 세분화도 달라질 수 있다.
본 개시의 다양한 실시예에 따르면, 전자 장치(예: 도 2 또는 도 4의 전자 장치(210))는 앞서 설명한 얼굴 또는/및 시선 인식 기능을 이용하여 전자 장치 디스플레이(또는 화면)의 휘도 또는/및 주사율을 자동으로 조절할 수 있다. 예를 들어, 화면이 켜져 있는 상태에서 사용자의 시선이 인식되면(예: 1단계 및 2단계), 전자 장치(210)는 화면을 밝게 또는/및 주사율을 높게 설정할 수 있고, 사용자(또는, 사용자의 얼굴)가 정해진 FOV에서 벗어나면(예: 3단계 및 4단계) 화면 밝기를 어둡게, 또는/및 주사율을 낮게 설정할 수 있다. 다른 예로, 전자 장치(210)는 사용자가 전자 장치(210)를 응시하는 1단계에서, 2단계 내지 3단계로 진입하는 경우에도 조도값에 상관없이 디스플레이 휘도를 유지시킬 수 있다. 사용자와 디스플레이의 시선 각도가 커지더라도 glance view로 응시할 수 있기 때문에, 전자 장치(210)는 디스플레이에 따라 측면에서의 시청감이 떨어질 수 있어 이를 보전하기 위해 디스플레이의 휘도를 유지할 수 있다. 4단계를 벗어날 경우 전자 장치(210)는 디스플레이의 휘도를 변경할 수 있다.
본 개시의 다양한 실시예에 따르면, 전자 장치(예: 도 2 또는 도 4의 전자 장치(210))는 앞서 설명한 얼굴 또는/및 시선 인식 기능을 이용하여 표시 정보를 변경할 수 있다. AOD(always on display)와 같이 저전력으로 화면에 정보를 표시하는 경우, 전자 장치(210)는 사용자의 머리 방향에 따라 서로 다른 정보를 보여주거나 보여지는 정보의 양을 조절할 수 있다. 사용자가 화면을 보고 있지 않다고 추정이 되면(예: 4단계) 시간 정보와 같은 최소한의 정보만 표시하다가 사용자의 FOV 내에 전자 장치가 인식되면(예: 1단계 내지 3단계) 더 많은 정보를 표시할 수 있다.
일 실시예에 따르면, 전자 장치(210)는 4단계에서는 아무 정보를 표시하지 않다가, 3단계, 및 2단계로 갈수록 일반적인 정보(예: 날씨)나 메시지 여부(예: 메시지 0건)를 표시하고, 1단계에서 개인화된 정보(예: 개인 일정, 연락, 헬스 정보)를 표시할 수 있다. 금융 정보와 같은 민감한 정보는 알림 단계에서 표시하지 않고, 인증 후에 확인할 수 있다. 각 단계별로 표시할 수 있는 정보는 사용자에 의해 설정될 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치는, 센서 모듈, 메모리, 및 프로세서를 포함하고, 상기 메모리는, 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV(field of view)를 추정하고, 상기 센서 모듈을 이용하여 전자 장치의 FOV를 추정하고, 상기 추정된 사용자의 FOV와 상기 추정된 전자 장치의 FOV를 비교하고, 상기 비교 결과에 기초해 상기 사용자가 상기 전자 장치의 화면을 응시하는지 판단하고, 상기 사용자가 상기 전자 장치의 화면을 응시하는 것으로 판단되면, 상기 사용자의 시선을 인식하고, 및 상기 인식된 사용자의 시선에 기초하여, 지정된 기능을 수행하도록 상기 프로세서를 지시하는 인스트럭션을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치는 상기 무선 이어폰과 통신 연결을 수행하도록 설정된 통신 모듈을 더 포함하고, 상기 메모리는, 상기 통신 모듈을 이용해 상기 무선 이어폰에서 추정한 사용자의 FOV를 수신하도록 상기 프로세서를 지시하는 인스트럭션을 더 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치에서 상기 메모리는 상기 무선 이어폰에 포함된 센서를 이용하여 획득한 데이터로 무선 이어폰의 자세를 추정하고, 상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하고, 및 상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하도록 상기 프로세서를 지시하는 인스트럭션을 더 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치에서 상기 메모리는 상기 무선 이어폰의 방향을 고려하여 상기 사용자의 FOV를 추정하도록 상기 프로세서를 지시하는 인스트럭션을 더 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치에서 상기 사용자의 FOV는 상기 전자 장치에 의해 수행되는 기능에 따라 정해질 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치에서 상기 메모리는 UWB(ultra wide band) 신호를 이용해 상기 무선 이어폰까지의 거리 및 방향을 측정하고, 및 상기 측정된 무선 이어폰까지의 거리 및 방향을 이용해 상기 사용자의 시선을 인식하도록 상기 프로세서를 지시하는 인스트럭션을 더 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치에서 상기 센서 모듈은 가속도 센서와 자이로 센서를 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치에서 상기 메모리는 상기 전자 장치에 포함된 센서를 이용하여 획득한 데이터로 전자 장치의 자세를 추정하고, 상기 추정된 전자 장치의 자세를 이용해 전자 장치의 FOV를 추정하도록 상기 프로세서를 지시하는 인스트럭션을 더 포함할 수 있다.
본 개시의 다양한 실시예에 따른 무선 이어폰은, 센서 모듈, 메모리, 및 프로세서를 포함하고, 상기 메모리는, 상기 센서 모듈을 이용하여 획득한 데이터로 무선 이어폰의 자세를 추정하고, 상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하고, 상기 추정된 사용자 머리의 자세를 이용해 사용자 FOV를 추정하도록 상기 프로세서를 지시하는 인스트럭션을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 무선 이어폰에서 상기 센서 모듈은 가속도 센서와 자이로 센서를 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 동작 방법은, 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV(field of view)를 추정하는 동작, 전자 장치에 포함된 센서를 이용하여 전자 장치의 FOV를 추정하는 동작, 상기 추정된 사용자의 FOV와 상기 추정된 FOV를 비교하는 동작, 상기 비교 결과에 기초해 상기 사용자가 상기 전자 장치의 화면을 응시하는지 판단하는 동작, 상기 사용자가 상기 전자 장치의 화면을 응시하는 것으로 판단되면, 상기 사용자의 시선을 인식하는 동작, 및 상기 인식된 사용자의 시선에 기초해 상기 전자 장치의 지정된 기능을 수행하는 동작을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 동작 방법에서, 상기 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV를 추정하는 동작은, 상기 무선 이어폰에서 추정한 사용자의 FOV를 수신하는 동작일 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 동작 방법에서, 상기 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV를 추정하는 동작은, 상기 무선 이어폰에 포함된 센서를 이용하여 획득한 데이터로 무선 이어폰의 자세를 추정하는 동작, 상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하는 동작, 및 상기 추정된 사용자 머리의 자세를 이용해 사용자 FOV를 추정하는 동작을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 동작 방법에서, 상기 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV를 추정하는 동작은, 상기 무선 이어폰을 방향을 고려하여 상기 사용자의 FOV를 추정하는 동작일 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 동작 방법에서, 상기 사용자의 FOV는 상기 전자 장치에 의해 수행되는 기능에 따라 정해질 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 동작 방법에서, 상기 사용자의 시선을 인식하는 동작은, UWB(ultra wide band) 신호를 이용해 상기 무선 이어폰까지의 거리 및 방향을 측정하는 동작, 및 상기 측정된 무선 이어폰까지의 거리 및 방향을 이용해 상기 사용자의 시선을 인식하는 동작을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 동작 방법에서, 상기 전자 장치에 포함된 센서는 가속도 센서와 자이로 센서를 포함할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 동작 방법에서, 상기 전자 장치에 포함된 센서를 이용하여 전자 장치의 FOV를 추정하는 동작은, 상기 전자 장치에 포함된 센서를 이용하여 획득한 데이터로 전자 장치의 자세를 추정하는 동작, 및 상기 추정된 전자 장치의 자세를 이용해 전자 장치의 FOV를 추정하는 동작을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 무선 이어폰의 동작 방법은, 센서를 이용하여 획득한 데이터로 무선 이어폰의 자세를 추정하는 동작, 상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하는 동작, 및 상기 추정된 사용자 머리의 자세를 이용해 사용자 FOV를 추정하는 동작을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 무선 이어폰의 동작 방법에서 상기 센서는 가속도 센서와 자이로 센서를 포함할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101))에 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (20)

  1. 센서 모듈;
    메모리; 및
    프로세서를 포함하고,
    상기 메모리는,
    무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV(field of view)를 추정하고,
    상기 센서 모듈을 이용하여 전자 장치의 FOV를 추정하고,
    상기 추정된 사용자의 FOV와 상기 추정된 전자 장치의 FOV를 비교하고,
    상기 비교 결과에 기초해 상기 사용자가 상기 전자 장치의 화면을 응시하는지 판단하고,
    상기 사용자가 상기 전자 장치의 화면을 응시하는 것으로 판단되면, 상기 사용자의 시선을 인식하고, 및
    상기 인식된 사용자의 시선에 기초하여, 지정된 기능을 수행하도록 상기 프로세서를 지시하는 인스트럭션을 포함하는, 전자 장치.
  2. 제1항에 있어서,
    상기 무선 이어폰과 통신 연결을 수행하도록 설정된 통신 모듈을 더 포함하고,
    상기 메모리는,
    상기 통신 모듈을 이용해 상기 무선 이어폰에서 추정한 사용자의 FOV를 수신하도록 상기 프로세서를 지시하는 인스트럭션을 더 포함하는, 전자 장치.
  3. 제1항에 있어서, 상기 메모리는,
    상기 무선 이어폰에 포함된 센서를 이용하여 획득한 데이터로 무선 이어폰의 자세를 추정하고,
    상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하고, 및
    상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하도록 상기 프로세서를 지시하는 인스트럭션을 더 포함하는, 전자 장치.
  4. 제1항에 있어서, 상기 메모리는,
    상기 무선 이어폰의 방향을 고려하여 상기 사용자의 FOV를 추정하도록 상기 프로세서를 지시하는 인스트럭션을 더 포함하는, 전자 장치.
  5. 제1항에 있어서,
    상기 사용자의 FOV는 상기 전자 장치에 의해 수행되는 기능에 따라 정해지는, 전자 장치.
  6. 제1항에 있어서, 상기 메모리는,
    UWB(ultra wide band) 신호를 이용해 상기 무선 이어폰까지의 거리 및 방향을 측정하고, 및
    상기 측정된 무선 이어폰까지의 거리 및 방향을 이용해 상기 사용자의 시선을 인식하도록 상기 프로세서를 지시하는 인스트럭션을 더 포함하는, 전자 장치.
  7. 제1항에 있어서,
    상기 센서 모듈은 가속도 센서와 자이로 센서를 포함하는, 전자 장치.
  8. 제1항에 있어서, 상기 메모리는,
    상기 전자 장치에 포함된 센서를 이용하여 획득한 데이터로 전자 장치의 자세를 추정하고,
    상기 추정된 전자 장치의 자세를 이용해 전자 장치의 FOV를 추정하도록 상기 프로세서를 지시하는 인스트럭션을 더 포함하는, 전자 장치.
  9. 센서 모듈,
    메모리, 및
    프로세서를 포함하고,
    상기 메모리는,
    상기 센서 모듈을 이용하여 획득한 데이터로 무선 이어폰의 자세를 추정하고,
    상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하고,
    상기 추정된 사용자 머리의 자세를 이용해 사용자 FOV를 추정하도록 상기 프로세서를 지시하는 인스트럭션을 포함하는, 무선 이어폰.
  10. 제9항에 있어서,
    상기 센서 모듈은 가속도 센서와 자이로 센서를 포함하는, 무선 이어폰.
  11. 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV(field of view)를 추정하는 동작;
    전자 장치에 포함된 센서를 이용하여 전자 장치의 FOV를 추정하는 동작;
    상기 추정된 사용자의 FOV와 상기 추정된 FOV를 비교하는 동작;
    상기 비교 결과에 기초해 상기 사용자가 상기 전자 장치의 화면을 응시하는지 판단하는 동작;
    상기 사용자가 상기 전자 장치의 화면을 응시하는 것으로 판단되면, 상기 사용자의 시선을 인식하는 동작; 및
    상기 인식된 사용자의 시선에 기초해 상기 전자 장치의 지정된 기능을 수행하는 동작을 포함하는, 전자 장치의 동작 방법.
  12. 제11항에 있어서, 상기 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV를 추정하는 동작은,
    상기 무선 이어폰에서 추정한 사용자의 FOV를 수신하는 동작인, 전자 장치의 동작 방법.
  13. 제11항에 있어서, 상기 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV를 추정하는 동작은,
    상기 무선 이어폰에 포함된 센서를 이용하여 획득한 데이터로 무선 이어폰의 자세를 추정하는 동작;
    상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하는 동작; 및
    상기 추정된 사용자 머리의 자세를 이용해 사용자 FOV를 추정하는 동작을 포함하는 전자 장치의 동작 방법.
  14. 제11항에 있어서, 상기 무선 이어폰에 포함된 센서를 이용하여 사용자의 FOV를 추정하는 동작은,
    상기 무선 이어폰을 방향을 고려하여 상기 사용자의 FOV를 추정하는 동작인, 전자 장치의 동작 방법.
  15. 제11항에 있어서,
    상기 사용자의 FOV는 상기 전자 장치에 의해 수행되는 기능에 따라 정해지는, 전자 장치의 동작 방법.
  16. 제11항에 있어서, 상기 사용자의 시선을 인식하는 동작은,
    UWB(ultra wide band) 신호를 이용해 상기 무선 이어폰까지의 거리 및 방향을 측정하는 동작; 및
    상기 측정된 무선 이어폰까지의 거리 및 방향을 이용해 상기 사용자의 시선을 인식하는 동작을 포함하는, 전자 장치의 동작 방법.
  17. 제11항에 있어서,
    상기 전자 장치에 포함된 센서는 가속도 센서와 자이로 센서를 포함하는, 전자 장치의 동작 방법.
  18. 제11항에 있어서, 상기 전자 장치에 포함된 센서를 이용하여 전자 장치의 FOV를 추정하는 동작은,
    상기 전자 장치에 포함된 센서를 이용하여 획득한 데이터로 전자 장치의 자세를 추정하는 동작; 및
    상기 추정된 전자 장치의 자세를 이용해 전자 장치의 FOV를 추정하는 동작을 포함하는 전자 장치의 동작 방법.
  19. 센서를 이용하여 획득한 데이터로 무선 이어폰의 자세를 추정하는 동작;
    상기 추정된 무선 이어폰의 자세를 이용해 상기 사용자 머리의 자세를 추정하는 동작; 및
    상기 추정된 사용자 머리의 자세를 이용해 사용자 FOV를 추정하는 동작을 포함하는 무선 이어폰의 동작 방법.
  20. 제19항에 있어서,
    상기 센서는 가속도 센서와 자이로 센서를 포함하는, 무선 이어폰의 동작 방법.

KR1020210140501A 2021-10-20 2021-10-20 외부 장치를 이용하는 전자 장치 및 이의 동작 방법 KR20230056463A (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020210140501A KR20230056463A (ko) 2021-10-20 2021-10-20 외부 장치를 이용하는 전자 장치 및 이의 동작 방법
PCT/KR2022/013387 WO2023068549A1 (ko) 2021-10-20 2022-09-06 외부 장치를 이용하는 전자 장치 및 이의 동작 방법
US17/967,609 US11928256B2 (en) 2021-10-20 2022-10-17 Electronic device using external device and operation

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210140501A KR20230056463A (ko) 2021-10-20 2021-10-20 외부 장치를 이용하는 전자 장치 및 이의 동작 방법

Publications (1)

Publication Number Publication Date
KR20230056463A true KR20230056463A (ko) 2023-04-27

Family

ID=86059354

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210140501A KR20230056463A (ko) 2021-10-20 2021-10-20 외부 장치를 이용하는 전자 장치 및 이의 동작 방법

Country Status (2)

Country Link
KR (1) KR20230056463A (ko)
WO (1) WO2023068549A1 (ko)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5036177B2 (ja) * 2005-12-12 2012-09-26 オリンパス株式会社 情報表示装置
JP5279737B2 (ja) * 2010-01-25 2013-09-04 株式会社コナミデジタルエンタテインメント 表示制御装置、視線誘導方法、および、プログラム
KR101831968B1 (ko) * 2016-12-14 2018-04-04 우성배 자세 교정 웨어러블 이어폰 장치
KR102353762B1 (ko) * 2019-09-11 2022-01-20 주식회사 비플렉스 사용자의 머리에 착용되는 자세 센서의 전후 좌우 방향 결정 방법
US11308698B2 (en) * 2019-12-05 2022-04-19 Facebook Technologies, Llc. Using deep learning to determine gaze

Also Published As

Publication number Publication date
WO2023068549A1 (ko) 2023-04-27

Similar Documents

Publication Publication Date Title
EP4181516A1 (en) Method and apparatus for controlling connection of wireless audio output device
US11954324B2 (en) Method for performing virtual user interaction, and device therefor
US20230199366A1 (en) Electronic device for sensing wearing state of electronic device using inertial sensor, and method for controlling same
US20230196607A1 (en) Electronic device for correcting position of external device and operation method thereof
US20230005227A1 (en) Electronic device and method for offering virtual reality service
EP4357838A1 (en) Electronic device and method for displaying content
KR20220118196A (ko) 통화 기능의 제어 방법 및 이를 지원하는 전자 장치
KR20220112952A (ko) 전자 장치 및 전자 장치에서 촬영 구도 유지 방법
KR20230056463A (ko) 외부 장치를 이용하는 전자 장치 및 이의 동작 방법
US11928256B2 (en) Electronic device using external device and operation
KR20220090716A (ko) 전자 장치 및 전자 장치에서 외부 장치들을 공간별로 그룹핑 하는 방법
US11829527B2 (en) Augmented reality device, electronic device interacting with augmented reality device, and controlling method thereof
US20240069846A1 (en) Electronic device for controlling display corresponding to direction of external electronic device, operation method thereof, and storage medium
US20240054740A1 (en) Augmented reality device and electronic device interacting with augmented reality device
US20230164703A1 (en) Method for controlling signal and wearable device supporting the same
US20230161400A1 (en) Method of controlling specified function and electronic device supporting same
US20230018784A1 (en) Electronic device and operation method of electronic device for controlling external electronic device
US20230127190A1 (en) Electronic device comprising rotation module and method of operating the same
US20240160024A1 (en) Wearable device for adjusting light transmittance according to illuminance of external light source, and method for controlling same
US20230022380A1 (en) Electronic device and method for image stabilization by considering antenna performance
US20230152899A1 (en) Wearable device for communicating with at least one counterpart device according to trigger event and control method therefor
US20230077094A1 (en) Electronic device for controlling at least one external device and operating method thereof
US20240111334A1 (en) Wearable device for sensing wearing by user
CN118020047A (en) Electronic device using external device and method of operating the same
KR20230067428A (ko) 이어버드와 형성되는 각도에 기반하여 디스플레이의 휘도를 조절하는 전자 장치, 방법, 비일시적 컴퓨터 판독가능 저장 매체