KR20210108302A - 시각적 인식을 사용하여 디바이스들을 페어링하기 위한 시스템들 및 방법들 - Google Patents

시각적 인식을 사용하여 디바이스들을 페어링하기 위한 시스템들 및 방법들 Download PDF

Info

Publication number
KR20210108302A
KR20210108302A KR1020207035959A KR20207035959A KR20210108302A KR 20210108302 A KR20210108302 A KR 20210108302A KR 1020207035959 A KR1020207035959 A KR 1020207035959A KR 20207035959 A KR20207035959 A KR 20207035959A KR 20210108302 A KR20210108302 A KR 20210108302A
Authority
KR
South Korea
Prior art keywords
peripheral device
peripheral
host device
host
processor
Prior art date
Application number
KR1020207035959A
Other languages
English (en)
Inventor
다니엘 폴
토머 라이더
원룽 양
Original Assignee
인텔 코포레이션
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 인텔 코포레이션 filed Critical 인텔 코포레이션
Publication of KR20210108302A publication Critical patent/KR20210108302A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/80—Services using short range communication, e.g. near-field communication [NFC], radio-frequency identification [RFID] or low energy communication
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/14—Handling requests for interconnection or transfer
    • G06F13/20—Handling requests for interconnection or transfer for access to input/output bus
    • G06F13/22—Handling requests for interconnection or transfer for access to input/output bus using successive scanning, e.g. polling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B17/00—Monitoring; Testing
    • H04B17/30—Monitoring; Testing of propagation channels
    • H04B17/309—Measuring or estimating channel quality parameters
    • H04B17/318—Received signal strength
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B7/00—Radio transmission systems, i.e. using radiation field
    • H04B7/24—Radio transmission systems, i.e. using radiation field for communication between two or more posts
    • H04B7/26—Radio transmission systems, i.e. using radiation field for communication between two or more posts at least one of which is mobile
    • H04L67/18—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/52—Network services specially adapted for the location of the user terminal
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/50—Secure pairing of devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/60—Context-dependent security
    • H04W12/63—Location-dependent; Proximity-dependent
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02—Services making use of location information
    • H04W4/023—Services making use of location information using mutual or relative location information between multiple location based services [LBS] targets or of distance thresholds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Electromagnetism (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • User Interface Of Digital Computer (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Telephone Function (AREA)
  • Image Analysis (AREA)

Abstract

본 개시내용은 시각적 인식 및 딥 러닝 기술들을 사용하여 호스트 전자 디바이스(12)를 주변 전자 디바이스(14)와 페어링하는 것에 관한 것이다. 특히, 호스트 디바이스(12)는 카메라(22)를 통해 또는 주변 디바이스(14)를 검색한 결과(예를 들어, 관련된 애플리케이션의 예정된 시작 또는 주기적 스캐닝)로서 주변 디바이스(14)의 표시를 수신할 수 있다. 호스트 디바이스(12)는 또한 주변 디바이스(14)의 이미지(예를 들어, 카메라(22)를 통해 캡처됨)를 수신하고, 이미지에 기초하여 주변 디바이스(14)에 대한 시각적 거리(80)를 결정할 수 있다. 호스트 디바이스(12)는 또한 주변 디바이스(14)의 신호 강도를 결정하고, 신호 강도에 기초하여 주변 디바이스(14)에 대한 신호 거리(82)를 결정할 수 있다. 시각적 거리(80)와 신호 거리(82)가 대략 동일한 경우, 호스트 디바이스(12)는 주변 디바이스(14)와 페어링할 수 있다.

Description

시각적 인식을 사용하여 디바이스들을 페어링하기 위한 시스템들 및 방법들
본 개시내용은 일반적으로 주변 전자 디바이스를 호스트 전자 디바이스에 페어링하는 것에 관한 것이다.
본 섹션은 아래에서 설명 및/또는 청구되는 본 개시내용의 양태들과 관련될 수 있는 기술의 다양한 양태들을 독자에게 소개하기 위해 의도된다. 이 논의는 본 개시내용의 다양한 양태들의 더 나은 이해를 용이하게 하기 위해 독자에게 배경 정보를 제공하는 데 도움이 될 것으로 믿어진다. 따라서, 이러한 진술들은 종래 기술에 대한 인정이 아니라 이러한 관점에서 읽어야 함이 이해될 수 있다.
지난 몇 년 동안, 무선 주변 디바이스들이 인기를 획득하였고, 사용자 가정들 전반에 걸쳐 확산되었다. 이러한 주변 디바이스들은 소형 디바이스들에서 더 큰 주류 가전 기기들을 포함할 수 있다. 이어폰 외에도, 가상 현실 주변 장치들, 마우스 디바이스들, 키보드들, 스마트 홈 디바이스들 등과 같은 다양한 다른 디바이스들이 일상 생활의 일부를 차지한다. 그러나, 이러한 유비쿼터스적인 인기에도 불구하고, 주변 디바이스들을 페어링하는 프로세스, 예를 들어, 스마트폰을 무선 헤드폰들과 페어링하는 프로세스는 표준화되지 않았고, 종종 특정 버튼들을 특정 순서로 특정 시간 동안 누르는 것을 필요로 하고, 불필요하게 사용자 매뉴얼을 살펴볼 것을 필요로 할 수 있다.
본 명세서에 개시된 특정 실시예들의 요약이 아래에 설명된다. 이러한 양태들은 단지 독자에게 이러한 특정 실시예들의 간략한 요약을 제공하기 위해 제시되며, 이러한 양태들은 본 개시내용의 범위를 제한하도록 의도되지 않는다는 것이 이해되어야 한다. 실제로, 본 개시내용은 아래에 설명되지 않을 수 있는 다양한 양태들을 포함할 수 있다.
본 개시내용은 시각적 인식 및/또는 머신 러닝(예를 들어, 딥 러닝)을 사용하여 주변 전자 디바이스를 호스트 전자 디바이스에 페어링하기 위한 시스템들 및 방법들을 설명한다. 특히, 호스트 디바이스는 센서(예를 들어, 카메라)를 통해 또는 주변 디바이스를 검색한 결과(예를 들어, 관련된 애플리케이션의 예정된 시작 또는 주기적 스캐닝)로서 주변 디바이스의 표시를 수신할 수 있다. 호스트 디바이스는 또한 주변 디바이스의 이미지(예를 들어, 센서를 통해 캡처됨)를 수신하고, 이미지에 기초하여 주변 디바이스에 대한 시각적 거리를 결정할 수 있다. 호스트 디바이스는 또한 주변 디바이스의 신호 강도를 결정하고, 신호 강도에 기초하여 주변 디바이스에 대한 신호 거리를 결정할 수 있다. 시각적 거리와 신호 거리가 대략 동일한 경우, 호스트 디바이스는 주변 디바이스를 호스트 디바이스에 페어링할 수 있다.
위에 설명된 피처들의 다양한 개선들은 본 개시내용의 다양한 양태들과 관련하여 존재할 수 있다. 추가 피처들은 또한 이러한 다양한 양태들에 통합될 수 있다. 이러한 개선들 및 추가 피처들은 개별적으로 또는 임의의 조합으로 존재할 수 있다. 예를 들어, 예시된 실시예들 중 하나 이상과 관련하여 아래에서 논의되는 다양한 피처들은 단독으로 또는 임의의 조합으로 본 개시내용의 전술한 양태들 중 임의의 것에 통합될 수 있다. 다시 말하자면, 위에서 제시된 간략한 요약은 단지 청구된 대상에 제한되지 않고 본 개시내용의 실시예들의 특정 양태들 및 맥락을 독자에게 익숙하게 하도록 의도된다.
본 개시내용의 다양한 양태들은 다음의 상세한 설명을 읽고 도면들을 참조할 때 더 잘 이해될 수 있다.
도 1은 본 개시내용의 실시예들에 따라 시각적 인식 및/또는 머신 러닝을 사용할 수 있는 주변 디바이스 페어링 시스템의 블록도이다.
도 2는 본 개시내용의 실시예들에 따라 도 1의 호스트 디바이스를 주변 디바이스와 페어링하기 위한 프로세스를 예시하는 흐름도이다.
도 3은 본 개시내용의 실시예들에 따라 사용자에게 주변 디바이스와 페어링할지 여부를 묻는 프롬프트를 디스플레이하는 도 1의 호스트 디바이스의 사시도이다.
도 4는 본 개시내용의 실시예들에 따라 주변 디바이스에 대한 시각적 및 신호 거리들을 결정하는 도 1의 호스트 디바이스의 사시도이다.
도 5는 본 개시내용의 실시예들에 따라 주변 디바이스와의 페어링 프로세스를 완료하는 도 1의 호스트 디바이스의 사시도이다.
도 6은 본 개시내용의 실시예들에 따라 키보드 주변 디바이스 대신 스피커 주변 디바이스에 초점을 맞춘 도 1의 호스트 디바이스의 사시도이다.
도 7은 본 개시내용의 실시예들에 따라 도 6의 스피커 주변 디바이스와 키보드 주변 디바이스 모두의 이미지를 캡처하는 도 1의 호스트 디바이스의 사시도이다.
도 8은 본 개시내용의 실시예들에 따라 주변 디바이스를 착용한 사용자의 이미지를 캡처하는 도 1의 호스트 디바이스의 사시도이다.
도 9는 본 개시내용의 실시예들에 따라 페어링될 주변 디바이스의 이미지를 캡처하는 예시적인 호스트 디바이스의 사시도이다.
하나 이상의 특정 실시예가 아래에서 설명될 것이다. 이들 실시예들의 간결한 설명을 제공하기 위한 노력으로, 실제 구현의 모든 피처들이 명세서에서 설명되는 것은 아니다. 임의의 엔지니어링 또는 설계 프로젝트에서와 같은 임의의 이러한 실제 구현을 개발할 때, 시스템-관련 및 비즈니스-관련 제약 조건 준수와 같은 개발자들의 특정 목표들을 달성하기 위해 수많은 구현-특정 결정들이 내려져야 하며, 이는 구현마다 다를 수 있다는 것이 이해될 수 있다. 또한, 이러한 개발 노력은 복잡하고 시간 소모적일 수 있지만, 그럼에도 불구하고 본 개시내용의 이점을 갖는 본 기술분야의 통상의 기술자를 위한 설계, 제작 및 제조의 일상적인 작업이라는 것이 이해될 수 있다.
무선 주변 전자 디바이스(예를 들어, 이어폰 세트, 헤드폰들, 스피커들, 키보드, 마우스 디바이스, 자동차 스테레오, 프린터, 웹캠 또는 스마트 홈 디바이스)는 호스트 전자 디바이스(예를 들어, 스마트폰, 웨어러블 디바이스, 가상 현실 또는 혼합 현실 헤드셋, 태블릿, 데스크톱 컴퓨터, 랩톱 컴퓨터 또는 다른 컴퓨팅 디바이스)에 페어링되어 호스트 디바이스가 주변 디바이스를 제어하고 사용하게 할 수 있다. 주변 디바이스를 페어링하기 위해, 사용자는 종종 주변 디바이스와 호스트 디바이스를 각각의 페어링 모드들에 수동으로 둔다. 예를 들어, 사용자는 호스트 디바이스 상의 구성 메뉴를 네비게이팅하여 호스트 디바이스를 페어링 모드에 둘 수 있다. 그러면, 호스트 디바이스가 페어링 가능한 디바이스들을 검색할 수 있다. 사용자는 또한 주변 디바이스의 버튼을 3초 동안 눌러 주변 디바이스를 페어링 모드에 둘 수 있다. 호스트 디바이스가 주변 디바이스를 발견하면, 사용자는 종종 디바이스들의 리스트로부터 주변 디바이스를 수동으로 선택한 다음, 주변 디바이스가 사용자가 호스트 디바이스에 페어링되기를 원하는 디바이스인 것을 확인할 수 있다. 확인되면, 호스트 디바이스가 최종적으로 주변 디바이스에 페어링할 수 있다.
일부 경우들에서, 페어링은 호스트 디바이스를 패스 코드 입력 모드에 두어 주변 디바이스와 연관된 패스 코드를 입력하거나, 스캐닝 모드에 두어 호스트 디바이스의 카메라로 주변 디바이스 상의 QR 코드를 스캔하거나 또는 네트워크 발견 모드에 두어 네트워크에 대한 주변 디바이스의 연결성을 통해 주변 디바이스를 발견함으로써 수행될 수 있다. 그러나, 각각의 경우, 사용자는 페어링을 완료하기 위해 추가 액션들을 수행할 수 있다.
본 개시내용은 시각적 인식 및/또는 머신 러닝(예를 들어, 딥 러닝)을 사용하여 주변 전자 디바이스를 호스트 전자 디바이스에 페어링하기 위한 시스템들 및 방법들을 설명한다. 특히, 호스트 디바이스는 센서(예를 들어, 카메라)를 통해 또는 주변 디바이스를 검색한 결과(예를 들어, 관련된 애플리케이션의 예정된 시작 또는 주기적 스캐닝)로서 주변 디바이스의 표시를 수신할 수 있다. 호스트 디바이스는 또한 주변 디바이스의 이미지(예를 들어, 센서를 통해 캡처됨)를 수신하고, 이미지에 기초하여 주변 디바이스에 대한 시각적 거리를 결정할 수 있다. 호스트 디바이스는 또한 주변 디바이스의 신호 강도를 결정하고, 신호 강도에 기초하여 주변 디바이스에 대한 신호 거리를 결정할 수 있다. 시각적 거리와 신호 거리가 대략 동일한 경우, 호스트 디바이스는 주변 디바이스를 호스트 디바이스에 페어링할 수 있다.
일부 경우들에서, 호스트 디바이스의 검색 반경 내에는 다른 주변 디바이스들이 있을 수 있다. 따라서, 이러한 다른 디바이스들의 신호 거리들은 주변 디바이스의 시각적 거리와 대략 매칭되지 않기 때문에, 호스트 디바이스는 이러한 다른 주변 디바이스들을 페어링하는 것은 사용자의 의도가 아니라고 결정할 수 있다. 또한, 주변 디바이스의 이미지가 또한 다른 주변 디바이스들을 포함하는 경우도 있을 수 있다. 호스트 디바이스는 사용자가 페어링하려고 의도하는 주변 디바이스를 결정하기 위해 딥 러닝을 포함한 임의의 적절한 기술들을 채택할 수 있다. 예를 들어, 호스트 디바이스는 주변 디바이스들 중 임의의 것이 전에 페어링되었는지 여부를 결정하고, 전에 페어링된 주변 디바이스와 페어링할 수 있다. 호스트 디바이스는 (예를 들어, 호스트 디바이스 상의 열린 소프트웨어 애플리케이션들 또는 가장 최근에 사용된 소프트웨어 애플리케이션을 통해 또는 주변 디바이스들을 보여주는 이미지를 통해) 주변 디바이스가 어떻게 사용될 수 있는지에 대한 표시들을 추가적으로 또는 대안적으로 결정하거나 수신할 수 있고, 표시들에 기초하여 주변 디바이스를 페어링할 수 있다. 일부 실시예들에서, 호스트 디바이스는, 예를 들어, 주변 디바이스에 대한 거리, 주변 디바이스와의 페어링 이력 및/또는 빈도, 주변 디바이스가 어떻게 사용될 수 있는지에 대한 표시들 또는 임의의 다른 적절한 팩터에 기초하여 페어링할 주변 디바이스를 결정하기 위해 가중 또는 신뢰 팩터 시스템을 사용할 수 있다.
상기를 염두에 두고, 도 1은 본 개시내용의 실시예들에 따라 시각적 인식 및 딥 러닝을 이용할 수 있는 주변 디바이스 페어링 시스템(10)의 블록도이다. 시스템(10)은 주변 디바이스(14)와 페어링될 수 있는 호스트 디바이스(12)를 포함한다. 호스트 디바이스(12)는 휴대폰, 스마트폰, 웨어러블 디바이스, 가상 현실 또는 혼합 현실 헤드셋, 태블릿, 데스크톱 컴퓨터, 랩톱 컴퓨터 또는 임의의 적절한 컴퓨팅 디바이스와 같이 주변 디바이스(14)와 페어링될 수 있는 임의의 적절한 전자 디바이스를 포함할 수 있다. 주변 디바이스(14)는 이어폰 세트, 헤드폰들, 스피커들, 키보드, 마우스 디바이스, 자동차 스테레오, 프린터, 웹캠, 스마트 홈 디바이스 또는 임의의 다른 적절한 전자 디바이스와 같이 호스트 디바이스(12)와 페어링될 수 있는 임의의 적절한 전자 디바이스를 포함할 수 있다.
호스트 디바이스(12)는 주변 디바이스(14)와의 페어링을 용이하게 하는 제어기(16)를 포함할 수 있다. 제어기(16)는 하나 이상의 프로세서(18)(예를 들어, 프로세싱 회로망) 및 하나 이상의 메모리 디바이스(20)(하나 이상의 저장 디바이스를 포함할 수 있음)를 포함할 수 있다. 프로세서(18)는 주변 디바이스(14)와의 페어링을 용이하게 하기 위해 소프트웨어 프로그램들 및/또는 명령어들을 실행할 수 있다. 또한, 프로세서(18)는 다수의 마이크로프로세서들, 하나 이상의 애플리케이션 특정 집적 회로(application specific integrated circuits)(ASICS) 및/또는 하나 이상의 축소된 명령어 세트(reduced instruction set)(RISC) 프로세서를 포함할 수 있다. 메모리 디바이스(20)는 주변 디바이스(14)와의 페어링을 용이하게 하는 명령어들과 같이 프로세서(18)가 실행할 머신 판독가능 및/또는 프로세서 실행가능 명령어들(예를 들어, 펌웨어 또는 소프트웨어)을 저장할 수 있다. 따라서, 메모리 디바이스(20)는 주변 디바이스(14)와의 페어링을 용이하게 하기 위해, 예를 들어, 제어 소프트웨어, 룩업 테이블들, 구성 데이터 등을 저장할 수 있다. 일 실시예에서, 프로세서(18) 및 메모리 디바이스(20)는 제어기(16)의 외부에 있을 수 있다. 메모리 디바이스(20)는 휘발성 메모리(예를 들어, 랜덤 액세스 메모리(random access memory)(RAM)) 및/또는 비휘발성 메모리(예를 들어, 판독 전용 메모리(read-only memory)(ROM), 플래시 메모리, 하드 드라이브 및/또는 임의의 다른 적절한 광학, 자기 또는 고상 저장 매체)와 같은 유형의 비일시적 머신 판독가능 매체를 포함할 수 있다.
제어기(16)는 호스트 디바이스(12)의 센서(22)로부터 이미지 데이터를 수신할 수 있다. 센서(22)는, 주변 디바이스(14)의 이미지들 또는 비디오들을 검출 및/또는 캡처하고, 이미지들 또는 비디오들을 이미지 데이터로서 제어기(16)에 전송하는 시각 센서일 수 있다. 일부 실시예들에서, 시각 센서(22)는 단안(monocular), 입체(stereoscopic) 또는 깊이 카메라, 또는 다른 적절한 이미지 캡처 디바이스와 같은 카메라일 수 있다.
시스템(10)은 이미지/객체 인식 기술들을 사용하여 이미지 데이터에서 주변 디바이스(14)를 식별하는 객체 인식 엔진(24)을 포함할 수 있다. 예를 들어, 객체 인식 엔진(24)은 객체 인식 기술들을 사용하여 이미지 데이터의 주변 디바이스(14)가 이어폰 세트, 헤드폰들, 스피커들, 키보드, 마우스 디바이스, 자동차 스테레오, 프린터, 웹캠 또는 스마트 홈 디바이스라고 결정할 수 있다. 객체 인식 엔진(24)은 또한 객체 인식 기술들을 사용하여 이미지 데이터의 다른 객체들은 (커피 잔들, 연필들, 종이 등과 같이) 호스트 디바이스(12)와 페어링될 수 있는 주변 디바이스들이 아니라고 결정할 수 있다. 객체 인식 엔진(24)은 이미지 데이터에서 인식된 객체들의 표시들을 제어기(16)에 전송할 수 있고, 제어기(16)는 그 후 주변 디바이스(14)를 식별된 객체와 연관시킬 수 있다. 그 후, 제어기(16)는 이미지 거리 결정 기술들을 사용하여 이미지 데이터에서 주변 디바이스(14)에 대한 거리(또는 그 깊이)를 결정할 수 있다.
제어기(16)는 또한 주변 디바이스(14)로부터 정보의 수신을 가능하게 하는 수신기(26) 및 안테나(28)를 포함할 수 있다. 수신기(26) 및 안테나(28)는 블루투스, 블루투스 저에너지(Bluetooth Low Energy)(BLE), WiFi, WiMax 또는 ZigBee와 같이 디바이스들을 페어링하는 데 사용되는 임의의 적절한 무선 통신 프로토콜을 사용하여 동작할 수 있다. 예를 들어, 안테나(28)는 주변 디바이스(14)에 대한 거리와 관련된 정보 또는 주변 디바이스(14)에 대한 거리를 결정하는 데 사용될 수 있는 정보를 수신할 수 있다. 즉, 안테나(28)는 주변 디바이스(14)로부터 전송된 라디오 신호를 수신할 수 있고, 수신기(26) 및/또는 제어기(16)는 라디오 신호에 존재하는 전력의 측정값 또는 값과 같이 라디오 신호에 존재하는 전력의 표시를 결정할 수 있다. 그 후, 수신기(26)는 라디오 신호에 존재하는 전력의 측정값 또는 값을 제어기(16)로 전송할 수 있다. 일부 실시예들에서, 라디오 신호에 존재하는 전력의 측정값 또는 값은 수신 신호 강도 표시자(Received Signal Strength Indicator)(RSSI) 값일 수 있다.
그 후, 제어기(16)는 주변 디바이스(14)의 RSSI 값을 거리 값으로 변환하여 호스트 디바이스(12)로부터 주변 디바이스(14)까지의 거리를 결정할 수 있다. 예를 들어, 제어기(16)는 거리(d) 및 RSSI와 관련된 다음 수학식을 사용할 수 있다.
Figure pct00001
여기서,
Fm = 페이드 마진
n = 경로-손실 지수(Path-Loss Exponent)
P0 = 제로 거리에서의 신호 전력(dBm)
Pr = 거리에서의 신호 전력(dBm)
f = 신호 주파수(MHz)
이다.
호스트 디바이스(12)는 또한 페어링할 주변 디바이스(14)를 결정하는 것을 용이하게 하는 딥 러닝 엔진(30)을 포함할 수 있다. 딥 러닝 엔진(30)은 심층 신경망(deep neural network)들, 심층 신뢰망(deep belief network)들 또는 순환 신경망(recurrent neural network)들과 같은 임의의 적절한 머신 러닝 기술들 또는 아키텍처를 사용할 수 있다. 예를 들어, 호스트 디바이스(12)는 페어링될 수 있는(예를 들어, 호스트 디바이스(12)로부터 대략 동일한 거리에 있는) 다수의 주변 디바이스들(14)이 있다고 결정할 수 있다. 딥 러닝 엔진(30)은 (예를 들어, 호스트 디바이스(12)와 페어링된 디바이스들의 저장된 리스트에 기초하여) 각각의 주변 디바이스(14)가 이전에 페어링되었는지 여부를 결정하고, 더 빈번하게 및/또는 더 최근에 페어링된 주변 디바이스(14)가 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스(14)일 가능성이 더 높다고 결정할 수 있다.
딥 러닝 엔진(30)은 (예를 들어, 호스트 디바이스(12) 상의 열린 소프트웨어 애플리케이션들 또는 가장 최근에 사용된 소프트웨어 애플리케이션을 통해 또는 주변 디바이스들을 보여주는 이미지들을 통해) 주변 디바이스가 어떻게 사용될 수 있는지에 대한 하나 이상의 표시를 대안적으로 또는 추가적으로 결정하거나 수신할 수 있고, 이러한 표시들과 연관된 주변 디바이스(14)가 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스(14)일 가능성이 더 높다고 결정한다. 예를 들어, 딥 러닝 엔진(30)은 워드 프로세싱, 이메일, 메시징 또는 다른 소프트웨어 애플리케이션이 호스트 디바이스(12) 상의 열려있거나, 최근에 열렸거나, 최근에 사용되었거나 또는 가장 최근에 사용된 소프트웨어 애플리케이션이라고 결정하고, 이러한 소프트웨어 애플리케이션과 연관된 주변 디바이스(예를 들어, 키보드)가 이러한 애플리케이션과 연관되지 않은 주변 디바이스(예를 들어, 이어폰 세트)보다 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스(14)일 가능성이 더 높다고 결정할 수 있다. 다른 예로서, 딥 러닝 엔진(30)은 오디오, 비디오, 음악, 영화, 텔레비전, 스트리밍 또는 다른 소프트웨어 애플리케이션이 호스트 디바이스(12) 상의 열려있거나, 최근에 열렸거나, 최근에 사용되었거나 또는 가장 최근에 사용된 소프트웨어 애플리케이션이라고 결정하고, 이러한 소프트웨어 애플리케이션과 연관된 주변 디바이스(예를 들어, 이어폰 세트)가 이러한 애플리케이션과 연관되지 않은 주변 디바이스(예를 들어, 이어폰 세트 키보드)보다 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스(14)일 가능성이 더 높다고 결정할 수 있다.
일부 실시예들에서, 딥 러닝 엔진(30)은 딥 러닝 엔진(30)이 사용자가 호스트 디바이스(12)와 페어링하기를 원한다고 결정하거나 또는 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스(14)일 가능성이 가장 높은 주변 디바이스(14)의 표시를 전송할 수 있다. 일부 실시예들에서, 딥 러닝 엔진(30) 및/또는 제어기(16)는, 예를 들어, 주변 디바이스에 대한 거리, 주변 디바이스와의 페어링 이력 및/또는 빈도, 주변 디바이스가 어떻게 사용될 수 있는지에 대한 표시들 또는 임의의 다른 적절한 팩터에 기초하여 페어링할 주변 디바이스를 결정하기 위해 가중 또는 신뢰 팩터 시스템을 사용할 수 있다.
호스트 디바이스(12)는 또한 호스트 디바이스(12)를 주변 디바이스(14)와 페어링하는 것을 용이하게 하는 페어링 엔진(32)을 포함할 수 있다. 특히, 페어링 엔진(32)은 호스트 디바이스(12)를 주변 디바이스(14)와 페어링하기 위해 안테나(28), 수신기(26) 및/또는 호스트 디바이스(12)의 (예를 들어, 송신기와 같은) 임의의 다른 컴포넌트들뿐만 아니라, 주변 디바이스의 컴포넌트들(예를 들어, 안테나, 수신기 및/또는 송신기)을 사용할 수 있다.
본 명세서에 사용된 "엔진"이라는 용어는 하드웨어(예를 들어, 회로망), 소프트웨어(예를 들어, 프로세서에 의한 실행을 위한 명령어들), 또는 이 둘의 조합을 포함하고/하거나 이들에서 구현될 수 있다는 것이 이해되어야 한다. 또한, 추가적인 또는 대안적인 실시예들에서, 객체 인식 엔진(24), 딥 러닝 엔진(30) 및 페어링 엔진(32) 각각 또는 이들 중 임의의 것은 (예를 들어, 프로세서(18)의 회로망 및/또는 메모리 디바이스(20)에 저장된 소프트웨어 명령어들의 형태로) 제어기(16)의 일부이고 내부에 있을 수 있다.
도 2는 본 개시내용의 실시예들에 따라 도 1의 호스트 디바이스(12)를 주변 디바이스(14)와 페어링하기 위한 프로세스(40)를 예시하는 흐름도이다. 프로세스(40)는 프로세서(18)에 의해 수행되는 것으로 설명되지만, 프로세스(40)는 주변 디바이스(14)와 페어링할 수 있는 임의의 적절한 디바이스에 의해 수행될 수 있다는 것이 이해되어야 한다. 또한, 프로세스(40)는 특정 시퀀스의 단계들을 사용하여 설명되지만, 본 개시내용은 설명된 단계들이 예시된 시퀀스와 상이한 시퀀스들로 수행될 수 있고, 특정 설명된 단계들이 생략되거나 함께 수행되지 않을 수 있음을 고려한다는 것이 이해되어야 한다. 일부 실시예들에서, 프로세스(40)는 프로세서(18)와 같은 임의의 적절한 프로세싱 회로망을 사용하여 메모리 디바이스(20)와 같은 유형의 비일시적 컴퓨터 판독가능 매체 상에 저장된 명령어들을 실행함으로써 구현될 수 있다.
예시된 바와 같이, 프로세스 블록(42)에서, 프로세서(18)는 주변 디바이스(14)의 표시를 수신한다. 일부 경우들에서는, 호스트 디바이스(12)의 시각 센서(22)(예를 들어, 카메라)가 활성화될 수 있다. 예를 들어, 호스트 디바이스(12)상의 카메라 또는 이미지 캡처 소프트웨어 애플리케이션이 열릴 수 있다. 시각 센서(22)는 주변 디바이스(14)의 이미지를 캡처하고, 이를 프로세서(18)로 전송할 수 있으며, 프로세서(18)는 객체 인식 엔진(24)을 사용하여 주변 디바이스(14)를 식별할 수 있다.
추가적인 또는 대안적인 실시예들에서는, 주변 디바이스(14)와 연관된 호스트 디바이스(12) 상의 소프트웨어 애플리케이션이 열릴 수 있으며, 이는 시각 센서(22)로 하여금 주변 디바이스(14)를 검색하게 할 수 있다. 예를 들어, 사용자는 워드 프로세싱, 이메일, 메시징, 또는 키보드 또는 마우스 디바이스와 연관된 다른 소프트웨어 애플리케이션을 열 수 있고, 그 결과, 프로세서(18)는 키보드 또는 마우스 디바이스를 자동으로 검색할 수 있다. 유사하게, 사용자는 오디오, 비디오, 음악, 영화, 텔레비전, 스트리밍, 또는 이어폰 세트, 헤드폰들, 스피커들 또는 자동차 스테레오 세트와 연관된 다른 소프트웨어 애플리케이션을 열 수 있고, 그 결과, 프로세서(18)는 이어폰 세트, 헤드폰들, 스피커들 또는 자동차 스테레오를 자동으로 검색할 수 있다.
프로세서(18)는 또한 대안적으로 주기적으로(예를 들어, 30초마다, 매분마다, 또는 임의의 다른 적절한 시간 주기) 주변 디바이스들(14)을 검색할 수 있다. 일 실시예에서, 사용자가 호스트 디바이스(12)를 페어링 모드에 두고/두거나 주변 디바이스들(14)을 페어링시키는 것과 연관된 구성 메뉴를 열 때, 프로세서(18)는 주변 디바이스들(14)을 자동으로 검색할 수 있다. 프로세서(18)가 주변 디바이스(14)의 표시를 수신하기 위해, 주변 디바이스(14)는 활성화되고/되거나 페어링 모드에 있을 수 있다. 이러한 경우들에서, 표시자(72)(예를 들어, 조명 또는 발광 다이오드(light-emitting diode)(LED))는 주변 디바이스(14)가 페어링 모드에 있음을 나타낼 수 있다(예를 들어, 표시자(72)가 깜박일 수 있다).
일부 실시예들에서, 프로세서(18)는 주변 디바이스(14)와 페어링할지 여부를 사용자에게 묻는 프롬프트를 디스플레이할 수 있다. 예를 들어, 도 3은 본 개시내용의 실시예들에 따라 주변 디바이스(14)(예를 들어, 헤드셋)와 페어링할지 여부를 사용자에게 묻는 프롬프트(70)를 디스플레이하는 도 1의 호스트 디바이스(12)의 사시도이다. 프롬프트(70)는 프로세서(18)가 주변 디바이스(14)의 표시를 수신한 결과로서 호스트 디바이스(12)의 디스플레이(68) 상에 디스플레이될 수 있다.
프로세스 블록(44)에서, 프로세서(18)는 주변 디바이스(14)의 이미지를 수신한다. 즉, 시각 센서(22)는 프로세스 블록(42)으로부터 주변 디바이스(14)의 표시를 수신하는 것에 응답하여 주변 디바이스(14)의 이미지를 자동으로 캡처할 수 있다.
프로세스 블록(46)에서, 프로세서(18)는 이미지에 기초하여 주변 디바이스(14)에 대한 시각적 거리를 결정한다. 예를 들어, 프로세서(18)는 이미지 거리 결정 기술들을 사용하여 호스트 디바이스(12)로부터 이미지 데이터의 주변 디바이스(14)까지의 거리(또는 그 깊이)를 결정할 수 있다. 일부 실시예들에서, 프로세서(18)는 주변 디바이스(14)에 대한 거리를 결정하기 위해 제3자 거리-결정 소프트웨어 애플리케이션과 같은 임의의 적절한 소프트웨어 애플리케이션 또는 소프트웨어 애플리케이션들을 사용할 수 있다는 것이 이해되어야 한다. 예를 들어, 프로세서(18)는 주변 디바이스(14)의 이미지를 캡처하고/하거나 이미지에 캡처된 주변 디바이스(14)에 대한 거리를 결정하기 위해 제3자 소프트웨어 애플리케이션(예를 들어, 메모리 디바이스(20)에 저장됨)의 명령어들을 실행할 수 있다.
본 개시내용은 시각 센서(22)를 사용하여 주변 디바이스(14)의 이미지를 캡처하고 프로세서(28)가 주변 디바이스(14)에 대한 시각적 거리를 결정하는 것을 논의하지만, 임의의 적절한 거리-결정 기술이 주변 디바이스(14)에 대한 거리(예를 들어, 시각적 거리)를 결정하는 데 사용될 수 있다는 것이 이해되어야 한다. 즉, 일부 실시예들에서는, 비-시각 센서들이 주변 디바이스(14)에 대한 거리를 결정하는 데 사용될 수 있다. 비-시각 센서들은, 예를 들어, 오디오 센서들, 적외선 센서들, 소나 센서(sonar sensor)들, 레이저 센서들, 초음파 센서들 등을 포함할 수 있다. 예를 들어, 초음파 센서는 트랜스듀서를 사용하여 주변 디바이스(14)에 초음파 펄스를 전송하고 리턴하는 초음파 펄스를 수신하는 것에 기초하여 주변 디바이스(14)에 대한 거리를 결정함으로써 주변 디바이스(14)에 대한 거리를 결정하는 데 사용될 수 있다.
프로세스 블록(48)에서, 프로세서(18)는 주변 디바이스(14)의 신호 강도를 결정하거나 수신한다. 특히, 호스트 디바이스(12)의 수신기(26) 및 안테나(28)는 주변 디바이스(14)로부터 전송된 라디오 신호에 존재하는 전력의 표시를 수신 및/또는 결정할 수 있고, 수신기(26) 및/또는 프로세서(18)는 라디오 신호에 존재하는 전력의 측정값 또는 값을 결정할 수 있다. 일부 실시예들에서, 라디오 신호에 존재하는 전력의 측정값 또는 값은 수신 신호 강도 표시자(RSSI) 값일 수 있다.
프로세스 블록(50)에서, 프로세서(18)는 신호 강도에 기초하여 주변 디바이스(14)에 대한 신호 거리를 결정한다. 특히, 프로세서(18)는 라디오 신호에 존재하는 전력의 측정값 또는 값을 주변 디바이스(14)와 연관된 거리로 변환할 수 있다. 예를 들어, 라디오 신호에 존재하는 전력의 측정값 또는 값이 RSSI 값일 때, 프로세서(18)는 RSSI 값을 신호 거리로 변환하기 위해 위의 수학식 1을 사용할 수 있다.
결정 블록(52)에서, 프로세서(18)는 시각적 거리와 신호 거리가 대략 동일한지 여부를 결정한다. 예를 들어, 시각적 거리와 신호 거리가 적절한 오차 한계(예를 들어, 2%, 5%, 10% 등) 내에 있을 때, 프로세서(18)는 시각적 거리와 신호 거리가 대략 동일하다고 결정할 수 있다.
예를 들어, 도 4는 본 개시내용의 실시예들에 따라 주변 디바이스(14)에 대한 시각적 및 신호 거리들을 결정하는 도 1의 호스트 디바이스(12)의 사시도이다. 예시된 바와 같이, 사용자는 호스트 디바이스(12)의 시각 센서(22)(예를 들어, 카메라)를 주변 디바이스(14)에 향하게 하거나 초점을 맞추게 하여, 주변 디바이스(14)가 호스트 디바이스(12)의 디스플레이(68) 상에 디스플레이되도록 한다. 프로세서(18)는 (예를 들어, 이미지 거리 결정 기술들을 사용하여 이미지 데이터로부터) 주변 디바이스(14)에 대한 시각적 거리(80)를, (예를 들어, 주변 디바이스(14)의 RSSI 값(84)에 기초하여) 주변 디바이스(14)에 대한 신호 거리(82)를 결정할 수 있다.
프로세서(18)가 시각적 거리와 신호 거리가 대략 동일하다고 결정하는 경우, 프로세스 블록(54)에서, 프로세서(18)는 주변 디바이스(14)를 페어링한다. 일부 실시예들에서, 프로세서(18)는 사용자에게 (예를 들어, 보안 또는 프라이버시 이유들로 인해) 주변 디바이스(14)가 호스트 디바이스(12)와 페어링되어야 한다고 확인시킬 수 있다.
프로세서(18)가 시각적 거리와 신호 거리가 대략 동일하지 않다고 결정하는 경우, 프로세스 블록(56)에서, 프로세서(18)는 주변 디바이스(14)를 페어링하지 않는다. 일부 실시예들에서, 프로세서(18)가 주변 디바이스(14)를 페어링하지 않은 경우, 사용자는 여전히 종래 방식으로(예를 들어, 호스트 디바이스(12) 상의 구성 메뉴를 네비게이팅함으로써) 주변 디바이스(14)를 호스트 디바이스(12)에 페어링할 수 있다. 상기 내용을 염두에 두고, 도 5는 본 개시내용의 실시예들에 따라 주변 디바이스(14)와의 페어링 프로세스를 완료하는 도 1의 호스트 디바이스(12)의 사시도이다. 예시된 바와 같이, 프로세서(18)는 주변 디바이스(14)가 페어링되었음을 사용자에게 나타내기 위해 프롬프트(92)를 디스플레이할 수 있다. 이러한 방식으로, 프로세스(40)는 호스트 디바이스(12)를 주변 디바이스(14)와 페어링할 수 있게한다.
일부 실시예들에서는, 호스트 디바이스(12)의 검색 반경 내에 추가 주변 디바이스들이 있어서, 페어링 가능한 주변 디바이스들을 검색하면 이러한 추가 주변 디바이스들을 발견하게 될 수 있다. 예를 들어, 도 4는 호스트 디바이스(12)와 페어링 가능할 수 있는 키보드 주변 디바이스(86)를 예시한다. 즉, 키보드 주변 디바이스(86)는 헤드셋 주변 디바이스(14)와 마찬가지로 RSSI 값(88)을 갖는 라디오 신호를 방출할 수 있다. 따라서, 프로세서(18)는 또한 키보드 주변 디바이스(86)의 RSSI 값(88)에 기초하여 키보드 주변 디바이스(86)에 대한 신호 거리(90)를 결정할 수 있다. 그러나, 사용자가 호스트 디바이스(12)의 시각 센서(22)(예를 들어, 카메라)를 헤드셋 주변 디바이스(14)에 향하게 하거나 초점을 맞추게 하기 때문에, 헤드셋 주변 디바이스(14)에 대한 시각적 거리(80)는 키보드 주변 디바이스(86)에 대한 신호 거리(90)와 대략 동일하지 않을 수 있으며, 따라서 프로세서(18)는 키보드 주변 디바이스(86)를 페어링하지 않을 수 있다.
일부 경우들에서는, 호스트 디바이스(12)로부터 대략 동일한 거리에 다수의 주변 디바이스들이 있을 수 있다. 따라서, 프로세서(18)는 (예를 들어, 객체 인식 엔진(24)을 사용하여) 주변 디바이스(14)의 아이덴티티(identity)를 결정하여 페어링할 주변 디바이스(14)를 결정할 수 있다. 예를 들어, 도 6은 본 개시내용의 실시예들에 따라 키보드 주변 디바이스(102) 대신 스피커 주변 디바이스(100)에 초점을 맞추는 도 1의 호스트 디바이스(12)의 사시도이다. 예시된 바와 같이, 주변 디바이스들(100, 102)은 둘 다 (호스트 디바이스(12)의 시각 센서(22)에 의해 인식되는 바와 같이) 호스트 디바이스(12)로부터 대략 동일한 시각적 거리(예를 들어, 104)에 있을 수 있다. 또한, 주변 디바이스들(100, 102)은 (주변 디바이스들(100, 102)의 각각의 RSSI 값들(110, 112)에 기초하여) 호스트 디바이스(12)로부터 대략 동일한 신호 거리(예를 들어, 각각 106, 108)에 있을 수 있다. 그러나, 사용자는 도 6에 도시된 바와 같이 호스트 디바이스(12)의 시각 센서(22)를 스피커 주변 디바이스(100)에 향하게 하거나 초점을 맞추게 하기 때문에, 프로세서(18)는 사용자가 페어링하기를 원하는 주변 디바이스를 스피커 주변 디바이스(100)로서 식별할 수 있다. 이와 같이, 프로세서(18)는 스피커 주변 디바이스(100)와 페어링할 수 있다(예를 들어, 프로세스 블록(54)).
시각 센서(22)에 의해 캡처된 이미지에 둘 이상의 페어링 가능한 디바이스가 보여지는 상황들이 있을 수 있다. 예를 들어, 도 7은 본 개시내용의 실시예들에 따라 도 6의 스피커 주변 디바이스(100) 및 키보드 주변 디바이스(102) 둘 다의 이미지를 캡처하는 도 1의 호스트 디바이스(12)의 사시도이다. 이 경우, 딥 러닝 엔진(30)은 (예를 들어, 호스트 디바이스(12)와 페어링된 디바이스들의 저장된 리스트에 기초하여) 각각의 주변 디바이스들(100, 102)이 이전에 페어링되었는지 여부를 결정하고, 더 빈번하게 및/또는 더 최근에 페어링된 주변 디바이스가 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스일 가능성이 더 높다고 결정할 수 있다.
추가적으로 또는 대안적으로, 프로세서(18)는 딥 러닝 엔진(30)을 사용하여 (예를 들어, 호스트 디바이스(12) 상의 열린 소프트웨어 애플리케이션 또는 가장 최근에 사용된 소프트웨어 애플리케이션을 통해 또는 주변 디바이스들을 보여주는 이미지를 통해) 페어링되기를 원하는 주변 디바이스가 어떻게 사용될 수 있는지에 대한 표시들을 결정하거나 수신하고, 이러한 표시들과 연관된 주변 디바이스가 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스일 가능성이 더 높다고 결정할 수 있다. 예를 들어, 딥 러닝 엔진(30)은 워드 프로세싱, 이메일, 메시징 또는 다른 소프트웨어 애플리케이션이 호스트 디바이스(12) 상의 열려있거나, 최근에 열렸거나, 최근에 사용되었거나 또는 가장 최근에 사용된 소프트웨어 애플리케이션이라고 결정하고, 키보드 주변 디바이스(102)가 이러한 소프트웨어 애플리케이션과 연관되고, 따라서 스피커 주변 디바이스(100)보다 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스일 가능성이 더 높다고 결정한다. 다른 예로서, 딥 러닝 엔진(30)은 오디오, 비디오, 음악, 영화, 텔레비전, 스트리밍 또는 다른 소프트웨어 애플리케이션이 호스트 디바이스(12) 상의 열려있거나, 최근에 열렸거나, 최근에 사용되었거나 또는 가장 최근에 사용된 소프트웨어 애플리케이션이라고 결정하고, 스피커 주변 디바이스(100)가 이러한 소프트웨어 애플리케이션과 연관되고, 따라서 키보드 주변 디바이스(102)보다 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스일 가능성이 더 높다고 결정한다.
일부 실시예들에서, 주변 디바이스가 어떻게 사용될 수 있는지에 대한 표시들은 시각 센서(22)에 의해 캡처된 이미지 데이터에 제공될 수 있다. 예를 들어, 사용자가 주변 디바이스를 착용하고 있거나 잡고 있는 경우와 같이, 하나의 표시는 사용자에 대한 주변 디바이스의 근접성일 수 있다. 예를 들어, 도 8은 본 개시내용의 실시예들에 따라 주변 디바이스(120)(예를 들어, 헤드셋)를 착용한 사용자의 이미지를 캡처하는 도 1의 호스트 디바이스(12)의 사시도이다. 이 경우, 호스트 디바이스(12)는 후방을 향하는 또는 사용자를 향하는 시각 센서(22)(예를 들어, 카메라)를 사용한다. 프로세서(18)는 객체 인식 엔진(24)을 사용하여 사용자가 주변 디바이스(120)를 착용하고 있다고 결정할 수 있다. 프로세서(18)는 딥 러닝 엔진(30)을 사용하여, 사용자가 주변 디바이스(120)를 착용하고 있기 때문에, 다른 페어링 가능한 주변 디바이스들이 근처에 있더라도, 주변 디바이스(120)가 페어링되지 않은 경우, 사용자가 호스트 디바이스(12)를 주변 디바이스(120)와 페어링하기를 원한다고 결정할 수 있다. 따라서, 프로세서(18)는 주변 디바이스(120)를 호스트 디바이스(12)와 페어링할 수 있다.
유사하게, 도 9는 본 개시내용의 실시예들에 따라 페어링될 주변 디바이스(132)(예를 들어, 손목 제어기)의 이미지를 캡처하는 예시적인 호스트 디바이스(130)의 사시도이다. 이 경우, 호스트 디바이스(130)는 가상 현실 또는 혼합 현실 헤드셋이다. 예시된 바와 같이, 사용자는 자신의 초점(및 시각 센서(22) 또는 카메라의 초점)을 주변 디바이스(132)에 향하게 한다. 호스트 디바이스(130)의 프로세서(18)는 사용자가 객체 인식 엔진(24)을 사용하여 주변 디바이스(132)를 잡고 있다고 결정할 수 있다. 프로세서(18)는 딥 러닝 엔진(30)을 사용하여, 사용자가 주변 디바이스(132)를 잡고 있기 때문에, 다른 페어링 가능한 주변 디바이스들이 근처에 있더라도, 주변 디바이스(132)가 페어링되지 않은 경우, 사용자가 호스트 디바이스(130)를 주변 디바이스(132)와 페어링하기를 원한다고 결정할 수 있다. 따라서, 프로세서(18)는 주변 디바이스(132)를 호스트 디바이스(130)와 페어링할 수 있다. 주변 디바이스(132)는 가상 현실 또는 혼합 현실 입력 제어기들, 핸드헬드 유닛들 및/또는 글러브들(예를 들어, 이들 중 임의의 것은 트랙 패드들, 버튼들, 트리거들, 아날로그 스틱들 및/또는 등과 같은 입력 디바이스들을 포함할 수 있음)과 같은 임의의 적절한 가상 현실 또는 혼합 현실 주변 디바이스들을 포함한 임의의 적절한 주변 디바이스들을 포함할 수 있다는 것이 이해되어야 한다.
프로세서(18)는 또한 또는 대안적으로 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스의 표시를 사용자가 제공할 수 있도록 할 수 있다. 예를 들어, 프로세서(18)는 사용자가 호스트 디바이스(12)와 페어링하기를 원하는 주변 디바이스를 사용자가 가리키거나, 손가락으로 핑거 스냅하거나, 그 주위에 원을 그리거나, 또는 그에 대해 임의의 다른 적절한 표시 제스처를 수행하게 할 수 있다. 도 7에 예시된 바와 같이, 사용자는 스피커 주변 디바이스(100)를 손가락으로 가리켜서, 스피커 주변 디바이스(100)가 자신이 호스트 디바이스(12)와 페어링되기를 원하는 주변 디바이스임을 나타낼 수 있다. 따라서, 프로세서(18)는 스피커 주변 디바이스(100)를 호스트 디바이스(12)와 페어링할 수 있다.
일부 경우들에서, 주변 디바이스(14)를 페어링 모드로 활성화하고/하거나 페어링 모드에 두는 것에 기초하여 주변 디바이스(14)의 표시가 수신되는 경우, 프로세서(18)는 주변 디바이스(14)의 식별자를 수신할 수 있다. 식별자는 디바이스 제조업체, 디바이스 타입, 디바이스 모델 등과 같은 디바이스 특정 특성들을 포함할 수 있다. 프로세서(18)는, 예를 들어, 주변 디바이스(14)의 이미지의 추가 주변 디바이스들 중에서 주변 디바이스(14)를 식별하는 데 사용될 수 있는 디바이스 특정 특성들을 결정할 수 있다.
일부 실시예들에서, 딥 러닝 엔진(30) 및/또는 프로세서(18)는, 예를 들어, 주변 디바이스에 대한 거리, 주변 디바이스와의 페어링 이력 및/또는 빈도, 주변 디바이스가 어떻게 사용될 수 있는지에 대한 표시들 또는 임의의 다른 적절한 팩터에 기초하여 페어링할 주변 디바이스를 결정하기 위해 가중 또는 신뢰 팩터 시스템을 사용할 수 있다.
일부 상황들에서, 프로세서(18)는 주변 디바이스(14)의 표시를 수신할 수 있지만, 주변 디바이스(14)가 보이지 않을 수 있다. 즉, 주변 디바이스(14)에서의 호스트 디바이스(12)의 시각 센서(22)(예를 들어, 카메라)는 주변 디바이스(14)를 검출할 수 없고, 따라서 호스트 디바이스(12)의 디스플레이(68) 상에 주변 디바이스(14)를 디스플레이하지 않을 수 있다. 일부 실시예들에서, 프로세서(18)는 주변 디바이스(14)로부터 전송된 라디오 신호에 존재하는 전력의 표시를 수신하고/하거나 라디오 신호에 존재하는 전력의 측정값 또는 값을 결정하는 것에 기초하여 주변 디바이스(14)의 대략적인 위치를 결정할 수 있다. 그 후, 프로세서(18)는 주변 디바이스(14)의 대략적인 위치를 나타낼 수 있다. 예를 들어, 프로세서(18)는 디스플레이(68) 상에 주변 디바이스(14)의 대략적인 위치를 향한 화살표 또는 이를 둘러싸는 상자를 디스플레이할 수 있다.
일부 실시예들에서, 호스트 디바이스(12)는 서비스에 의해 제공되는 음악, 비디오 또는 다른 미디어 스트리밍 디바이스와 같이 다수의 사용자들에 의해 사용 가능한 디바이스를 포함할 수 있고, 주변 디바이스(14)는 스마트폰, 웨어러블 디바이스, 랩톱 컴퓨터 또는 사용자의 다른 컴퓨팅 디바이스를 포함할 수 있다. 예를 들어, 호스트 디바이스(12)는 (예를 들어, 공항, 도서관, 박물관 또는 임의의 다른 적절한 공공 시설에서의) 공용 스트리밍 디바이스일 수 있다. 호스트 디바이스(12)는 (예를 들어, 사용자가 주변 디바이스(14)를 잡게 하고/하거나 이를 가르키게 함으로써) 주변 디바이스(14)의 표시를 수신할 수 있는 시각 센서(예를 들어, 카메라)를 포함하거나 또는 이에 커플링될 수 있다. 예를 들어, 시각 센서는 스트리밍 서비스에 관심이 있는 사용자들이 그들의 주변 디바이스(14)를 잡고/잡거나 주변 디바이스(14)를 가리켜야 한다는 것을 나타내는 기호, 그래픽 또는 다른 표시와 연관될 수 있다. 프로세스(40)를 수행하는 것에 기초하여, 예를 들어, 호스트 디바이스(12)의 프로세서(18)는 주변 디바이스(14)를 호스트 디바이스(12)에 페어링하여 사용자들이 공용 스트리밍 서비스를 사용할 수 있게 한다.
본 개시내용에 설명된 실시예들은 다양한 수정들 및 대안적인 형태들이 가능할 수 있지만, 특정 실시예들이 도면들에 예로서 도시되었고 본 명세서에 상세하게 설명되었다. 그러나, 본 개시내용은 개시된 특정 형태들로 제한되도록 의도되지 않는다는 것이 이해될 수 있다. 본 개시내용은 다음의 첨부된 청구 범위에 의해 정의되는 본 개시내용의 사상 및 범위 내에 있는 모든 수정들, 등가물들 및 대안들을 포함한다.
본 명세서에서 제시되고 청구된 기술들은 본 기술 분야를 명백히 개선하는 실제적인 성질의 물질 객체들 및 구체적인 예들에 참조되고 적용되며, 따라서 추상적이거나 무형적이거나 순수하게 이론적이지 않다. 또한, 본 명세서의 마지막에 첨부된 임의의 청구 범위가 "...[기능]을 [수행]하기 위한 수단" 또는 "...[기능]을 [수행]하기 위한 단계"로서 지정된 하나 이상의 엘리먼트를 포함하는 경우, 이러한 엘리먼트들은 35 U.S.C. 112(f)에 따라 해석되어야 하는 것으로 의도된다. 그러나, 임의의 다른 방식으로 지정된 엘리먼트들을 포함하는 임의의 청구 범위의 경우, 이러한 엘리먼트들은 35 U.S.C. 112(f)에 따라 해석되지 않는 것으로 의도된다.

Claims (20)

  1. 디바이스 페어링 시스템으로서,
    주변 디바이스; 및
    호스트 디바이스
    를 포함하고,
    상기 호스트 디바이스는,
    상기 주변 디바이스로부터 신호를 수신하도록 구성되는 안테나;
    상기 신호로부터 신호 강도를 결정하도록 구성되는 수신기;
    상기 주변 디바이스의 이미지를 캡처하도록 구성되는 카메라; 및
    프로세서 및 적어도 하나의 메모리를 포함하는 제어기 - 상기 적어도 하나의 메모리는 상기 호스트 디바이스를 상기 주변 디바이스와 페어링하기 위한 명령어들을 저장하도록 구성되고, 상기 프로세서는, 상기 명령어들을 실행할 때, 상기 주변 디바이스의 이미지 및 상기 주변 디바이스의 신호 강도에 기초하여 상기 호스트 디바이스를 상기 주변 디바이스와 페어링하도록 구성됨 -
    를 포함하는, 디바이스 페어링 시스템.
  2. 제1항에 있어서, 상기 프로세서는, 상기 명령어들을 실행할 때,
    상기 주변 디바이스의 이미지에 기초하여 상기 주변 디바이스를 식별하고,
    상기 주변 디바이스의 아이덴티티(identity)에 기초하여 상기 호스트 디바이스로부터 상기 주변 디바이스까지의 시각적 거리를 결정하도록
    구성되는, 디바이스 페어링 시스템.
  3. 제2항에 있어서, 상기 프로세서는, 상기 명령어들을 실행할 때, 상기 주변 디바이스의 신호 강도에 기초하여 상기 주변 디바이스에 대한 신호 거리를 결정하도록 구성되는, 디바이스 페어링 시스템.
  4. 제3항에 있어서, 상기 프로세서는, 상기 명령어들을 실행할 때, 상기 시각적 거리가 상기 주변 디바이스의 신호 거리와 대략 동일한 것에 응답하여 상기 호스트 디바이스를 상기 주변 디바이스와 페어링하도록 구성되는, 디바이스 페어링 시스템.
  5. 제1항 내지 제4항 중 어느 한 항에 있어서, 상기 주변 디바이스는 이어폰 세트, 헤드폰들, 스피커들, 키보드, 마우스 디바이스, 자동차 스테레오, 프린터, 웹캠 또는 스마트 홈 디바이스를 포함하는, 디바이스 페어링 시스템.
  6. 제1항 내지 제4항 중 어느 한 항에 있어서, 상기 호스트 디바이스는 휴대폰, 스마트폰, 웨어러블 디바이스, 가상 현실 또는 혼합 현실 헤드셋, 태블릿, 데스크톱 컴퓨터 또는 랩톱 컴퓨터를 포함하는, 디바이스 페어링 시스템.
  7. 제1항 내지 제4항 중 어느 한 항에 있어서, 상기 신호 강도는 수신 신호 강도 표시자(Received Signal Strength Indicator)(RSSI) 값을 포함하는, 디바이스 페어링 시스템.
  8. 호스트 디바이스로서,
    주변 디바이스로부터 신호를 수신하도록 구성되는 안테나;
    상기 신호로부터 신호 강도를 결정하도록 구성되는 수신기;
    상기 주변 디바이스의 이미지를 캡처하도록 구성되는 카메라; 및
    프로세서 및 적어도 하나의 메모리를 포함하는 제어기 - 상기 적어도 하나의 메모리는 상기 호스트 디바이스를 상기 주변 디바이스와 페어링하기 위한 명령어들을 저장하도록 구성되고, 상기 프로세서는, 상기 명령어들을 실행할 때,
    상기 주변 디바이스의 이미지에 기초하여 상기 주변 디바이스에 대한 시각적 거리를 결정하고,
    상기 주변 디바이스의 신호 강도에 기초하여 상기 주변 디바이스에 대한 신호 거리를 결정하고,
    상기 시각적 거리가 상기 주변 디바이스의 신호 거리와 대략 동일한 것에 응답하여 상기 호스트 디바이스를 상기 주변 디바이스와 페어링하도록 구성됨 -
    를 포함하는, 호스트 디바이스.
  9. 제8항에 있어서, 상기 프로세서는, 상기 명령어들을 실행할 때, 상기 호스트 디바이스와 상기 주변 디바이스 사이의 페어링 이력에 기초하여 상기 호스트 디바이스를 상기 주변 디바이스와 페어링하도록 결정하도록 구성되는, 호스트 디바이스.
  10. 제8항에 있어서, 상기 호스트 디바이스를 상기 주변 디바이스와 페어링하도록 결정하는 것을 용이하게 하도록 구성되는 딥 러닝 엔진(deep learning engine)을 포함하는, 호스트 디바이스.
  11. 제10항에 있어서, 상기 딥 러닝 엔진은 상기 주변 디바이스가 어떻게 사용되는지에 대한 하나 이상의 표시를 결정하도록 구성되는, 호스트 디바이스.
  12. 제11항에 있어서, 상기 하나 이상의 표시는 상기 주변 디바이스의 아이덴티티에 기초하는, 호스트 디바이스.
  13. 제11항에 있어서, 상기 하나 이상의 표시는 상기 호스트 디바이스의 열린 소프트웨어 애플리케이션 또는 가장 최근에 사용된 소프트웨어 애플리케이션에 기초하는, 호스트 디바이스.
  14. 제11항에 있어서, 상기 하나 이상의 표시는 사용자에 대한 근접성에 기초하는, 호스트 디바이스.
  15. 제11항에 있어서, 상기 하나 이상의 표시는 사용자가 상기 주변 디바이스를 착용하거나 잡는 것에 기초하는, 호스트 디바이스.
  16. 제7항에 있어서, 상기 프로세서는, 상기 명령어들을 실행할 때, 상기 주변 디바이스를 나타내는 사용자 제스처에 기초하여 상기 호스트 디바이스를 상기 주변 디바이스와 페어링하도록 결정하도록 구성되는, 호스트 디바이스.
  17. 호스트 디바이스를 주변 디바이스와 페어링하기 위한 방법으로서,
    상기 주변 디바이스의 이미지를 수신하는 단계;
    상기 주변 디바이스의 이미지에 기초하여 상기 주변 디바이스에 대한 시각적 거리를 결정하는 단계;
    상기 주변 디바이스의 신호 강도를 결정하는 단계;
    상기 주변 디바이스의 신호 강도에 기초하여 상기 주변 디바이스에 대한 신호 거리를 결정하는 단계; 및
    상기 시각적 거리가 상기 주변 디바이스의 신호 거리와 대략 동일한 것에 응답하여 상기 호스트 디바이스를 상기 주변 디바이스와 페어링하는 단계
    를 포함하는, 방법.
  18. 제17항에 있어서, 상기 주변 디바이스를 주기적으로 검색하는 단계를 포함하고, 상기 주변 디바이스의 이미지를 수신하는 단계는 상기 주변 디바이스를 발견하는 것에 응답하여 발생하는, 방법.
  19. 제17항에 있어서, 상기 주변 디바이스와 연관된 소프트웨어 애플리케이션이 상기 호스트 디바이스 상에 열렸다는 표시를 수신하는 것에 응답하여 상기 주변 디바이스를 검색하는 단계를 포함하고, 상기 주변 디바이스의 이미지를 수신하는 단계는 상기 주변 디바이스를 발견하는 것에 응답하여 발생하는, 방법.
  20. 제17항에 있어서, 상기 주변 디바이스의 이미지를 수신하는 것에 응답하여 상기 주변 디바이스를 검색하는 단계를 포함하는, 방법.
KR1020207035959A 2018-12-24 2018-12-24 시각적 인식을 사용하여 디바이스들을 페어링하기 위한 시스템들 및 방법들 KR20210108302A (ko)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2018/123202 WO2020132831A1 (en) 2018-12-24 2018-12-24 Systems and methods for pairing devices using visual recognition

Publications (1)

Publication Number Publication Date
KR20210108302A true KR20210108302A (ko) 2021-09-02

Family

ID=71129465

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020207035959A KR20210108302A (ko) 2018-12-24 2018-12-24 시각적 인식을 사용하여 디바이스들을 페어링하기 위한 시스템들 및 방법들

Country Status (6)

Country Link
US (1) US20210311893A1 (ko)
EP (1) EP3903168A4 (ko)
JP (1) JP7295147B2 (ko)
KR (1) KR20210108302A (ko)
CN (1) CN113168217A (ko)
WO (1) WO2020132831A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112668589A (zh) * 2020-12-31 2021-04-16 闪耀现实(无锡)科技有限公司 用于头戴式电子设备的配对方法和装置
US11882192B2 (en) * 2022-05-25 2024-01-23 Microsoft Technology Licensing, Llc Intelligent near-field advertisement with optimization

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9436805B1 (en) * 2008-07-03 2016-09-06 Prime Research Alliance E, Inc. Method and system for transfer of subscription media
US8750799B2 (en) * 2010-09-30 2014-06-10 Apple Inc. Wireless accessory device pairing determination for multiple host devices
WO2013154476A1 (en) * 2012-04-12 2013-10-17 Telefonaktiebolaget L M Ericsson (Publ) Pairing a mobile terminal with a wireless device
US9154904B2 (en) * 2012-11-12 2015-10-06 Tata Consultancy Services Limited Method and system for accurate straight line distance estimation between two communication devices
US8706162B1 (en) * 2013-03-05 2014-04-22 Sony Corporation Automatic routing of call audio at incoming call
US9453904B2 (en) * 2013-07-18 2016-09-27 Golba Llc Hybrid multi-camera based positioning
US20170242480A1 (en) * 2014-10-06 2017-08-24 Koninklijke Philips N.V. Docking system
EP3229550A4 (en) * 2014-12-01 2018-01-03 Fujitsu Limited Pairing management method, pairing management program, and terminal device
US20160285299A1 (en) * 2015-03-26 2016-09-29 Intel Corporation Method and apparatus for low power wireless docking discovery
US10506068B2 (en) * 2015-04-06 2019-12-10 Microsoft Technology Licensing, Llc Cloud-based cross-device digital pen pairing
CN108353266B (zh) * 2015-08-20 2022-05-10 惠普发展公司，有限责任合伙企业 外围设备配对
CN106507240A (zh) * 2015-09-04 2017-03-15 音乐集团公司 一种将扬声器系统的扬声器的物理位置关联至扬声器标识符的方法
US10042595B2 (en) * 2016-09-06 2018-08-07 Apple Inc. Devices, methods, and graphical user interfaces for wireless pairing with peripheral devices and displaying status information concerning the peripheral devices
US10574665B2 (en) * 2016-09-29 2020-02-25 AVAST Software s.r.o. System and method for determining device proximity
US10820360B1 (en) * 2017-08-30 2020-10-27 Socket Mobile, Inc. Application-assisted friendly pairing
US11394930B2 (en) * 2019-10-11 2022-07-19 At&T Intellectual Property I, L.P. Filtering and correlating radio signals based on a field of view of a camera
US11868294B2 (en) * 2021-06-28 2024-01-09 Learning Squared, Inc. Image based pairing system

Also Published As

Publication number Publication date
JP2022522912A (ja) 2022-04-21
JP7295147B2 (ja) 2023-06-20
US20210311893A1 (en) 2021-10-07
EP3903168A1 (en) 2021-11-03
EP3903168A4 (en) 2022-08-03
WO2020132831A1 (en) 2020-07-02
CN113168217A (zh) 2021-07-23

Similar Documents

Publication Publication Date Title
US11546410B2 (en) Device and method for adaptively changing task-performing subjects
US10075814B2 (en) Location-based selection of wireless peripheral devices
US20130300546A1 (en) Remote control method and apparatus for terminals
US10987804B2 (en) Robot device and non-transitory computer readable medium
KR102345649B1 (ko) 휴대용 장치가 웨어러블 장치를 통하여 정보를 표시하는 방법 및 그 장치
US10785626B2 (en) Method of controlling device and device thereof
CN110933468A (zh) 播放方法、装置、电子设备及介质
KR101618783B1 (ko) 이동 단말기, 이동 단말기의 제어방법, 그리고, 이동 단말기를 포함하는 제어시스템
KR20180017109A (ko) 머리 착용 디스플레이를 제 1 전력 모드의 동작으로부터 제 2 전력 모드의 동작으로 전이시키는 기법
CN112134995A (zh) 一种查找应用对象的方法、终端及计算机可读存储介质
CN105159676B (zh) 进度条的加载方法、装置和系统
KR20210108302A (ko) 시각적 인식을 사용하여 디바이스들을 페어링하기 위한 시스템들 및 방법들
CN108510266A (zh) 一种数字对象唯一标识符识别方法及移动终端
US20140176689A1 (en) Apparatus and method for assisting the visually impaired in object recognition
CN112860046B (zh) 选择运行模式的方法、装置、电子设备及介质
CN110795660B (zh) 数据分析方法、装置、电子设备及介质
CN111341317A (zh) 唤醒音频数据的评价方法、装置、电子设备及介质
CN113064981A (zh) 群组头像生成方法、装置、设备及存储介质
KR20210155505A (ko) 이동 가능한 전자장치 및 그 제어방법
US11216233B2 (en) Methods and systems for replicating content and graphical user interfaces on external electronic devices
CN109344124A (zh) 一种文件发送方法及终端
CN114489559B (zh) 音频播放方法、音频播放的处理方法及装置
CN111049970B (zh) 操作设备的方法、装置、电子设备及介质
CN111007969B (zh) 搜索应用的方法、装置、电子设备及介质
US20230246722A1 (en) Electronic device and operation method thereof

Legal Events

Date Code Title Description
E902 Notification of reason for refusal