KR20240034852A

KR20240034852A - 전자 디바이스 및 가상 머신 오퍼레이팅 시스템

Info

Publication number: KR20240034852A
Application number: KR1020247006478A
Authority: KR
Inventors: 다니엘 콜라시오네; 울프 오스카 미첼 로엔그렌; 패트릭 티모시 맥스위니 시몬스
Original assignee: 스냅 인코포레이티드
Priority date: 2021-07-28
Filing date: 2022-07-15
Publication date: 2024-03-14
Also published as: CN117751348A; WO2023009334A1; US20230034649A1

Abstract

오퍼레이팅 시스템들, 및 오퍼레이팅 시스템들을 통합한 아이웨어 디바이스들과 같은 전자 디바이스들이 개시된다. 오퍼레이팅 시스템은 각각의 가상 머신이 오퍼레이팅 시스템을 포함하고 서비스를 제공하는 컨테이너화된 가상 머신들을 포함한다. 이러한 접근법은 컴퓨팅 자원들을 활용할 때 유연성을 제공하며, 개발 및 호환성을 용이하게 하며, 그리고 열 용량 엔벨로프들이 제한된 아이웨어와 같은 디바이스들에서 개선된 열 밸런싱을 가능하게 한다.

Description

전자 디바이스 및 가상 머신 오퍼레이팅 시스템

[0001] 본 출원은 2021년 7월 28일에 출원된 미국 가출원 일련번호 제63/226,527호에 대한 우선권을 주장하며, 이 출원의 내용들은 인용에 의해 본원에 완전히 통합된다.

[0002] 본 개시내용에서 설명된 예들은 전자 디바이스들의 분야에 관한 것으로, 보다 상세하게는 가상 머신들을 갖는 오퍼레이팅 시스템들을 포함하는 전자 디바이스들에 관한 것이며, 각각의 가상 머신은 그 자신의 오퍼레이팅 시스템을 가지며 서비스를 제공하도록 구성된다.

[0003] 오늘날 이용 가능한 많은 타입들의 전자 디바이스들, 이를테면 모바일 디바이스들(예컨대, 스마트폰들, 태블릿들 및 랩톱들), 핸드헬드 디바이스들, 및 웨어러블 디바이스들(예컨대, 스마트 안경, 디지털 아이웨어, 헤드웨어, 헤드기어 및 머리-장착 디스플레이들)은 다양한 카메라들, 센서들, 무선 트랜시버들, 입력 시스템들(예컨대, 터치-감지 표면들, 포인터들), 주변 디바이스들, 디스플레이들 및 사용자가 디스플레이된 콘텐츠와 상호 작용할 수 있게 하는 그래픽 사용자 인터페이스(GUI)들을 지원하는 오퍼레이팅 시스템을 포함한다.

[0004] 증강 현실(AR)은 물리적 환경의 실제 객체들을 가상 객체들과 결합하여 이 결합을 사용자에게 디스플레이한다. 결합된 디스플레이는 특히 가상 객체들이 실제 객체들 처럼 나타나고 동작할 때 가상 객체들이 물리적 환경에 진정으로 존재한다는 인상을 준다.

[0005] 설명된 다양한 예들의 특징들은 도면들을 참조하는 이하의 상세한 설명으로부터 용이하게 이해될 것이다. 상세한 설명 및 도면의 여러 도면들 전반에 걸쳐 각각의 엘리먼트에 대해 참조 번호가 사용된다. 복수의 유사한 엘리먼트들이 존재할 때, 소문자를 추가하여 특정 엘리먼트들을 지칭하면서, 유사한 엘리먼트들에 단일 참조 부호가 할당될 수 있다. 엘리먼트들 중 2개 이상 또는 엘리먼트들 중 비-특정 엘리먼트를 지칭할 때 문자가 생략될 수 있다.
[0006] 도면들에 도시된 다양한 엘리먼트들은 달리 표시하지 않는 한 실척대로 도시되지는 않는다. 다양한 엘리먼트들의 치수들은 명확성을 위해 확대되거나 또는 축소될 수 있다. 여러 도면들은 하나 이상의 구현들을 도시하며, 단지 예로서 제시되며 제한으로서 해석되지 않아야 한다. 도면들에는 이하의 도면들이 포함된다.
[0007] 도 1a는 아이웨어 시스템에서 사용하기에 적합한 아이웨어 디바이스의 예시적인 하드웨어 구성의 측면도(우측)이다.
[0008] 도 1b는 우측 가시광 카메라, 및 회로 보드를 묘사하는 도 1a의 아이웨어 디바이스의 우측 템플 부분의 사시적 부분 단면도이다.
[0009] 도 1c는 좌측 가시광 카메라를 도시하는, 도 1a의 아이웨어 디바이스의 예시적인 하드웨어 구성의 측면도(좌측)이다.
[0010] 도 1d는 좌측 가시광 카메라, 및 회로 보드를 묘사하는 도 1c의 아이웨어 디바이스의 좌측 템플 부분의 사시적 부분 단면도이다.
[0011] 도 2a 및 도 2b는 아이웨어 시스템에서 활용되는 아이웨어 디바이스의 예시적인 하드웨어 구성들의 배면도들이다.
[0012] 도 2c는 눈 응시 방향을 검출하는 것을 예시한다.
[0013] 도 2d는 눈 포지션을 검출하는 것을 예시한다.
[0014] 도 3은 3차원 장면, 좌측 가시광 카메라에 의해 캡처된 좌측 원시 이미지, 및 우측 가시광 카메라에 의해 캡처된 우측 원시 이미지의 도식적 묘사이다.
[0015] 도 4는 다양한 네트워크들을 통해 서버 시스템 및 모바일 디바이스에 연결된 아이웨어 디바이스를 포함하는 예시적인 아이웨어 시스템의 기능 블록도이다.
[0016] 도 5는 도 4의 아이웨어 시스템의 모바일 디바이스에 대한 예시적인 하드웨어 구성의 개략도이다.
[0017] 도 6은 하나의 템플에 인접한 제1 SoC(system on a chip) 및 다른 템플에 인접한 제2 SoC(system on a chip)을 갖는 아이웨어 디바이스의 부분 블록도이다.
[0018] 도 7은 제1 SoC(system on a chip) 및 제2 SoC(system on a chip)을 사용하여 아이웨어에 대해 동작들을 수행하기 위한 예시적인 단계들의 흐름도이다.
[0019] 도 8은 제1 SoC(system on a chip)와 제2 SoC(system on a chip) 사이에서 아이웨어 디바이스에 대해 프로세싱 워크로드들을 밸런싱하는 방법에 대한 예시적인 단계들의 흐름도이다.
[0020] 도 9는 제1 SoC(system on a chip)와 제2 SoC(system on a chip) 사이에서 아이웨어 디바이스에 대해 프로세싱 워크로드들을 밸런싱하는 다른 방법에 대한 예시적인 단계들의 흐름도이다.
[0021] 도 10a, 도 10b 및 도 10c는 제1 SoC(system on a chip)와 제2 SoC(system on a chip) 사이에서 프로세싱 워크로드를 분할하기 위한 3개의 개개의 전략들을 묘사한다.
[0022] 도 11a는 알려진 타입의 오퍼레이팅 시스템을 갖는 증강 현실 헤드셋을 예시하는 블록도이다.
[0023] 도 11b는 가상 머신 오퍼레이팅 시스템을 갖는 증강 현실 헤드셋을 예시하는 블록도이다.
[0024] 도 12a, 도 12b 및 도 12c는 가상 머신 오퍼레이팅 시스템에 의해 수행되는 예시적인 단계들의 흐름도들이다.

[0025] 각각의 가상 머신이 그 자신의 오퍼레이팅 시스템(OS)을 포함하고 서비스를 제공하는 가상 머신들을 갖는 가상 머신 OS를 포함하는 아이웨어 디바이스들과 같은 전자 디바이스들이 제공된다. 이러한 접근법은 컴퓨팅 자원들을 활용할 때 유연성을 제공하며, 개발 및 호환성을 용이하게 하며, 그리고 열 용량 엔벨로프들이 제한된 아이웨어와 같은 디바이스들에서 개선된 열 밸런싱을 가능하게 한다.

[0026] 이하의 상세한 설명은 본 개시내용에 제시된 예들을 예시하는 시스템들, 방법들, 기법들, 명령 시퀀스들, 및 컴퓨팅 머신 프로그램 제품들을 포함한다. 개시된 청구대상 및 이의 관련 교시들의 완전한 이해를 제공하기 위한 다수의 세부사항들 및 예들이 포함된다. 그러나, 당업자는 이러한 세부사항들 없이 관련 교시들을 적용하는 방법을 이해할 수 있다. 개시된 청구대상의 양상들은 관련 교시들이 다양한 방식들로 적용되거나 실시될 수 있기 때문에 설명된 특정 디바이스들, 시스템들 및 방법으로 제한되지 않는다. 본원에서 사용되는 용어 및 명명법은 오직 특정 양상들을 설명하기 위한 목적이며, 제한으로 의도되지 않는다. 일반적으로, 잘 알려진 명령 인스턴스들, 프로토콜들, 구조들 및 기법들은 반드시 상세히 도시되지는 않는다.

[0027] 일례에서, 전자 디바이스는 적어도 하나의 프로세싱 시스템, 시스템 격리 관리자(예컨대, 가상 머신을 관리하기 위한 하이퍼바이저 또는 컨테이너들을 관리하기 위한 오픈 소스 유틸리티 도커와 같은 컨테이너 관리자), 및 SCVM(self-contained virtual machine)들을 포함한다. 시스템 격리 관리자는 적어도 하나의 프로세싱 시스템 각각 상에서 실행되도록 그리고 슈퍼바이저 OS를 실행하도록 구성된다. 제1 OS를 갖는 제1 SCVM은 제1 서비스를 제공한다. 제2 OS를 갖는 제2 SCVM은 제2 서비스를 제공한다. SCVM들은 슈퍼바이저 OS, 제1 OS, 및 제2 OS에 의해 지원되는 IPC(inter-process communication) 프로토콜을 통해 통신하도록 추가로 구성된다. 컴퓨팅 시스템은 프레임의 제1 부분에 포지셔닝된 적어도 하나의 SoC 중 제1 SoC 및 프레임의 제2 부분에 포지셔닝된 적어도 하나의 SoC 중 제2 SoC와 함께 사용자의 머리에 착용되도록 구성된 아이웨어 디바이스의 프레임에 통합될 수 있다.

[0028] 다른 예에서, 컨테이너화된 오퍼레이션 시스템을 사용하기 위한 방법은 시스템 격리 관리자가 슈퍼바이저 OS를 갖는 적어도 하나의 프로세싱 시스템 각각에서 시스템 격리 관리자를 실행하는 단계, 제1 서비스를 제공하는 제1 OS를 갖는 제1 SCVM을 스폰(spawn)하는 단계, 제2 서비스를 제공하는 제2 OS를 갖는 제2 SCVM을 스폰하는 단계, 및 제1 SCVM과 제2 SCVM 사이에서 통신들을 전송하는 단계를 포함한다. 통신들은 슈퍼바이저 OS, 제1 OS, 및 제2 OS에 의해 지원되는 IPC 프로토콜을 통해 전송될 수 있다.

[0029] 다른 예에서, 비-일시적 컴퓨터 판독 가능 매체는 컴퓨팅 시스템 상에서 동작하기 위한 명령들을 포함한다. 명령들은, 컴퓨팅 시스템에 의해 실행될 때, 시스템 격리 관리자가 슈퍼바이저 OS를 갖는 적어도 하나의 프로세싱 시스템 각각에서 시스템 격리 관리자를 실행하며, 제1 서비스를 제공하도록 구성된 제1 OS를 갖는 제1 SCVM을 스폰하며, 제2 서비스를 제공하도록 구성된 제2 OS를 갖는 제2 SCVM을 스폰하며, 그리고 제1 SCVM과 제2 SCVM 사이에서 통신들을 전송하도록, 컴퓨팅 시스템을 구성한다. 통신들은 하이퍼바이저의 슈퍼바이저의 OS, 제1 OS, 및 제2 OS에 의해 지원되는 IPC 프로토콜을 통해 전송될 수 있다.

[0030] "시스템 온 칩(system on a chip)" 또는 "SoC"라는 용어들은 단일 보드 또는 마이크로칩 상에 전자 시스템의 컴포넌트들을 통합하는 집적 회로("칩"으로서 또한 알려짐)를 지칭하기 위해 본원에서 사용된다. 이러한 컴포넌트들은 CPU(central processing unit), GPU(graphical processing unit), ISP(image signal processor), 메모리 제어기, 비디오 디코더, 및 다른 SoC에 대한 연결을 위한 시스템 버스 인터페이스를 포함한다. SoC의 컴포넌트들은 관성 측정 유닛(IMU; 예컨대 I2C, SPI, I3C 등)을 위한 인터페이스, 비디오 인코더, 트랜시버(TX/RX; 예컨대 Wi-Fi, Bluetooth®, 또는 이들의 조합), 및 디지털, 아날로그, 혼합-신호 및 라디오 주파수 신호 프로세싱 기능들 중 하나 이상을 비-제한적인 예로서 추가로 포함할 수 있다.

[0031] "가상 머신" 또는 "VM"이라는 용어들은 컴퓨터의 소프트웨어 표현을 지칭하기 위해 본원에서 사용된다. VM은 하드웨어, 소프트웨어, 또는 이들의 조합으로 구현될 수 있다.

[0032] SCVM(self-contained virtual machine)이라는 용어들은 적어도 하나의 서비스를 제공하도록 구성된 OS를 갖는 가상 머신을 지칭하기 위해 본원에서 사용된다. 일례에서, SCVM은 (예컨대, 자원 버짓에 따라) 자신이 사용하는 자원들을 조절하며, SCVM이 동작하는 전자 디바이스는 이들 자원들을 이용 가능하게 하도록 프로비저닝된다. SCVM은 하나 초과의 세트의 자원들(예컨대, 다수의 자원 버짓들)을 가질 수 있으며, SCVM은 예컨대 SCVM이 존재하는 전자 디바이스의 동작 모드에 대한 응답으로 한 세트의 자원들을 선택한다. SCVM이 하나 초과의 서비스를 제공하는 경우에, 각각의 서비스는 SCVM의 개개의 컨테이너에서 실행된다. 각각의 컨테이너는 SCVM의 개개의 파티션에서 실행되며, 컨테이너의 커널은 컨테이너들 사이의 격리를 구현한다.

[0033] 시스템 격리 관리자라는 용어는 가상 머신들/컨테이너들 사이의 격리 및 통신을 지원하기 위해 가상 머신들의 집합, 컨테이너들 또는 이들의 조합을 관리하는 컴퓨터 소프트웨어, 펌웨어 또는 하드웨어(또는 이들의 조합)를 지칭하기 위해 본원에서 사용된다. 가상 머신들이 격리를 지원하기 위해 관리되는 경우에, 시스템 격리 관리자는 하이퍼바이저일 수 있다. 컨테이너들이 격리를 지원하기 위해 관리되는 경우에, 시스템 격리 관리자는 미국 캘리포니아 팔로알토에 있는 Docker, Inc.로부터 입수가능한 도커와 같은 컨테이너 관리자일 수 있다.

[0034] 하이퍼바이저라는 용어는 가상 머신들을 생성하여 실행하는 컴퓨터 소프트웨어, 펌웨어 또는 하드웨어(또는 이들의 조합)를 지칭하기 위해 본원에서 사용된다. 하이퍼바이저가 하나 이상의 가상 머신들을 실행하는 컴퓨팅 시스템(예컨대, SoC)은 호스트 머신으로 지칭될 수 있고, 각각의 가상 머신은 게스트 머신으로서 지칭될 수 있다. 하이퍼바이저는 가상 오퍼레이팅 플랫폼을 갖는 게스트 머신들의 OS들을 제시하며, 게스트 OS들의 실행을 관리한다.

[0035] "오퍼레이팅 시스템" 및 "OS"라는 용어들은 태스크들의 스케줄링, 애플리케이션들의 실행 및 주변 기기들의 제어와 같은 컴퓨터의 기본 기능들(실제 또는 가상; 예컨대 가상 머신)을 지원하는 소프트웨어를 지칭하기 위해 본원에서 사용된다. 일례에서, 슈퍼바이저 OS는 하이퍼바이저에서 구현되고, 개개의 OS는 SCVM들의 각각에서 구현된다.

[0036] 본원에서 사용되는 "커플링된” 또는 "연결된"이라는 용어들은 하나의 시스템 엘리먼트에 의해 생성되거나 공급되는 전기 또는 자기 신호들이 다른 커플링되거나 연결된 시스템 엘리먼트에 전달되게 하는 링크 등을 포함하여, 임의의 논리적, 광학적, 물리적 또는 전기적 연결을 지칭할 수 있다. 달리 설명되지 않는 한, 커플링된 또는 연결된 엘리먼트들 또는 디바이스들은 반드시 서로 직접 연결되는 것은 아니며, 중간 컴포넌트들, 엘리먼트들 또는 통신 매체들에 의해 분리될 수 있으며, 이들 중 하나 이상은 전기 신호들을 수정, 조작 또는 반송할 수 있다. “상에”라는 용어는 엘리먼트에 의해 직접 지지되는 것 또는 엘리먼트에 통합되거나 그에 의해 지지되는 다른 엘리먼트를 통해 엘리먼트에 의해 간접적으로 지지되는 것을 의미한다.

[0037] "근접"이라는 용어는 물체 또는 사람 근처에, 이에 인접하게 또는 이 옆에 배치되거나; 또는 "말단"으로서 설명될 수 있는 아이템의 다른 부분들에 대해 더 근접한 아이템 또는 아이템의 부분을 설명하기 위해 사용된다. 예컨대, 객체에 가장 가까운 항목의 끝은 근위 끝으로 지칭될 수 있는 반면에, 일반적으로 반대 끝은 말단 끝으로서 지칭될 수 있다.

[0038] 도면들 중 임의의 도면에 도시된 바와 같은, 카메라, 관성 측정 유닛 또는 이들 둘 모두를 통합한 아이웨어 디바이스, 다른 모바일 디바이스들, 연관된 컴포넌트들 및 임의의 다른 디바이스들의 배향들은 예시 및 논의의 목적들을 위해 단지 예로서 주어진다. 동작 시에, 아이웨어 디바이스는 아이웨어 디바이스의 특정한 애플리케이션에 적합한 임의의 다른 방향으로, 예컨대, 위, 아래, 옆으로, 또는 임의의 다른 배향으로 배향될 수 있다. 또한, 본원에 사용되는 범위까지, 앞, 뒤, 내향, 외향, 쪽으로, 좌측, 우측, 측방향, 종방향, 위, 아래, 상부, 하부, 최상부, 최하부, 측면, 수평, 수직 및 대각과 같은 임의의 방향성 용어는 단지 예시의 방식으로 사용되며, 달리 본원에 설명된 또는 구성된 바와 같은 임의의 카메라 또는 관성 측정 유닛의 방향 또는 배향으로 제한되지 않는다.

[0039] 예들의 추가적인 목적들, 이점들 및 신규 특징들은 하기 설명에서 부분적으로 제시될 것이고, 부분적으로, 이하의 그리고 첨부된 도면들의 검토 시에 당업자들에게 자명해질 것이거나 예들의 생산 또는 동작에 의해 학습될 수 있다. 본 발명의 청구대상의 목적들 및 장점들은 특히 첨부된 청구항들에서 적시된 방법론들, 기구들 및 조합들에 의해 실현 및 달성될 수 있다.

[0040] 이제, 첨부 도면들에서 예시되고 아래에서 논의되는 예들이 상세히 참조된다.

[0041] 도 1a는 터치-감지 입력 디바이스 또는 터치패드(181)를 포함하는 아이웨어 디바이스(100)의 예시적인 하드웨어 구성의 측면도(우측)이다. 도시된 바와 같이, 터치패드(181)는 이해하기 어려우며 용이하게 쉽게 보여지지 않는 경계를 가질 수 있으며; 대안적으로, 경계는 명백하게 보일 수 있거나, 또는 터치패드(181)의 로케이션 및 경계에 대한 피드백을 사용자에게 제공하는 상승된 또는 그렇지 않으면 촉각적인 에지를 포함할 수 있다. 다른 구현들에서, 아이웨어 디바이스(100)는 좌측에 터치패드를 포함할 수 있다.

[0042] 터치패드(181)의 표면은, 사용자가 메뉴 옵션들을 내비게이팅하여 직관적인 방식으로 메뉴 옵션들을 선택할 수 있게 하도록, 이미지 디스플레이 상에서 아이웨어 디바이스에 디스플레이되는 GUI와 함께 사용하기 위한 손가락 터치들, 탭들 및 제스처들 (예컨대, 이동 터치들)을 검출하도록 구성되며, 이는 사용자 경험을 향상시키고 단순화시킨다.

[0043] 터치패드(181) 상의 손가락 입력들의 검출은 여러 기능들을 가능하게 할 수 있다. 예컨대, 터치패드(181)의 임의의 위치를 터치하면, GUI가 이미지 디스플레이 상에 아이템을 디스플레이하거나 또는 강조할 수 있으며, 이는 광학 조립체들(180A, 180B) 중 적어도 하나에 투사될 수 있다. 터치패드(181) 상의 더블 태핑은 아이템 또는 아이콘을 선택할 수 있다. 특정 방향으로 (예컨대, 앞에서 뒤로, 뒤에서 앞으로, 위에서 아래로 또는 아래에서 위로) 손가락을 슬라이딩하거나 또는 스와이핑하면, 아이템들 또는 아이콘들이 특정 방향으로 슬라이딩되거나 또는 스크롤링되게 하며; 예컨대, 다음 아이템, 아이콘, 비디오, 이미지, 페이지 또는 슬라이드로 이동되게 할 수 있다. 손가락을 다른 방향으로 슬라이딩하면, 반대 방향으로 슬라이딩 또는 스크롤링할 수 있으며; 예컨대 이전 아이템, 아이콘, 비디오, 이미지, 페이지 또는 슬라이드로 이동할 수 있다. 터치패드(181)는 아이웨어 디바이스(100)의 사실상 임의의 위치일 수 있다.

[0044] 일례에서, 터치패드(181) 상의 단일 탭의 식별된 손가락 제스처는 광학 조립체(180A, 180B)의 이미지 디스플레이 상에 제시된 이미지에서 그래픽 사용자 인터페이스 엘리먼트의 선택 또는 누름을 개시한다. 식별된 손가락 제스처에 기반하여 광학 조립체(180A, 180B)의 이미지 디스플레이 상에 제시된 이미지에 대한 조절은 추가적 디스플레이 또는 실행을 위해 광학 조립체(180A, 180B)의 이미지 디스플레이 상의 그래픽 사용자 인터페이스 엘리먼트를 선택하거나 또는 제출하는 1차 액션일 수 있다.

[0045] 도 1a에 도시된 바와 같이, 아이웨어 디바이스(100)는 우측 가시광 카메라(114B)를 포함한다. 본원에서 추가로 설명되는 바와 같이, 2개의 카메라들(114A, 114B)은 2개의 별개의 뷰포인트들로부터 스크린에 대한 이미지 정보를 캡처한다. 2개의 캡처된 이미지들은 3D 안경을 통해 또는 3D 안경을 사용하여 보기 위해 3차원 디스플레이를 이미지 디스플레이에 투사하는 데 사용될 수 있다.

[0046] 아이웨어 디바이스(100)는 깊이 이미지들과 같은 이미지들을 제시하기 위한 이미지 디스플레이를 갖는 우측 광학 조립체(180B)를 포함한다. 도 1a 및 도 1b에 도시된 바와 같이, 아이웨어 디바이스(100)는 우측 가시광 카메라(114B)를 포함한다. 아이웨어 디바이스(100)는 스테레오 카메라와 같은 수동 타입의 3차원 카메라를 형성하는 다수의 가시광 카메라들(114A, 114B)을 포함할 수 있고, 이들 중 우측 가시광 카메라(114B)는 우측 템플 부분(110B) 상에 로케이팅된다. 도 1c 및 도 1d에 도시된 바와 같이, 아이웨어 디바이스(100)는 또한 좌측 템플 부분(110A) 상에 로케이팅된 좌측 가시광 카메라(114A)를 포함한다.

[0047] 좌측 및 우측 가시광 카메라들(114A, 114B)은 가시광선 범위 파장에 민감하다. 가시광 카메라들(114A, 114B)의 각각은 3차원 깊이 이미지들의 생성을 가능하게 하기 위해 중첩하는 상이한 전방을 향하는 시야를 갖는다. 우측 가시광 카메라(114B)는 우측 시야(111B)를 캡처하고, 좌측 가시광 카메라(114A)는 좌측 시야(111A)를 캡처한다. 일반적으로, "시야"는, 공간 내의 특정 위치 및 배향에서 카메라를 통해 가시적인 장면의 일부이다. 시야들(111A 및 111B)은 중첩하는 시야(304)(도 3)를 갖는다. 가시광 카메라가 이미지를 캡처할 때 시야(111A, 111B) 외측의 물체들 또는 물체 피처들은 원시 이미지(예컨대, 포토그래프 또는 픽처)에 기록되지 않는다. 시야는 가시광 카메라(114A, 114B)의 이미지 센서가 주어진 장면의 캡처된 이미지 내의 주어진 장면의 전자기 방사를 픽업하는 각도 범위 또는 정도를 설명한다. 시야는 뷰 콘(view cone)의 각도 크기, 즉 시야각으로 표현될 수 있다. 시야각은 수평으로, 수직으로 또는 대각으로 측정될 수 있다.

[0048] 일례에서, 가시광 카메라들(114A, 114B)은 15° 내지 30°, 예컨대, 24°의 시야각을 갖는 시야를 갖고, 480 x 480 픽셀들 또는 그 초과의 픽셀들의 해상도를 갖는다. 다른 예에서, 시야는 훨씬 더 넓을 수 있으며, 이를테면 100° 이상일 수 있다. "커버리지 각도"는 가시광 카메라들(114A, 114B) 또는 적외선 카메라(410)(도 2a 참조)의 렌즈가 효과적으로 이미징할 수 있는 각도 범위를 설명한다. 전형적으로, 카메라 렌즈는 가능하게는 일부 비네팅(vignetting)(예컨대, 중심과 비교하여 에지들 쪽의 이미지의 다크닝)을 포함하여, 필름 또는 카메라의 센서를 완전히 커버할 만큼 충분히 큰 이미지 원을 생성한다. 카메라 렌즈의 커버리지 각도가 센서를 채우지 않는 경우, 이미지 서클은 가시적일 것이고, 통상적으로 에지를 향하는 강한 비네팅을 가지며, 뷰의 유효 각도는 커버리지 각도로 제한될 것이다.

[0049] 이러한 가시광 카메라들(114A, 114B)의 예들은 640p(예컨대, 총 0.3 메가픽셀의 경우 640 x 480 픽셀들), 720p, 또는 1080p의 해상도들을 가능하게 하는 고해상도 CMOS(complementary metal-oxide-semiconductor) 이미지 센서 및 디지털 VGA 카메라(비디오 그래픽 어레이)를 포함한다. 가시광 카메라들(114A, 114B)의 다른 예들은 HD(high-definition) 정지 이미지들을 캡처하고 이들을 1642 x 1642개의 픽셀들(또는 그 초과)의 해상도로 저장할 수 있거나; 또는 높은 프레임 레이트(예컨대, 초당 30 내지 60개의 프레임들 또는 그 초과)로 HD(high-definition) 비디오를 기록하고 기록을 1216 x 1216개의 픽셀들(또는 그 초과)의 해상도로 저장할 수 있다.

[0050] 아이웨어 디바이스(100)는 메모리에의 저장을 위해 이미지 프로세서에 의해 디지털화되는, 가시광 카메라들(114A, 114B)로부터의 이미지 센서 데이터를 지오로케이션 데이터와 함께 캡처할 수 있다. 가시광 카메라들(114A, 114B)은 수평 포지션에 대한 X-축 및 수직 포지션에 대한 Y-축을 포함하는 2차원 좌표 시스템 상의 픽셀들의 매트릭스를 포함하는 2차원 공간 도메인에서 개개의 좌측 및 우측 원시 이미지들을 캡처한다. 각각의 픽셀은 컬러 속성 값(예컨대, 적색 픽셀 광 값, 녹색 픽셀 광 값, 또는 청색 픽셀 광 값); 및 포지션 속성(예컨대, X-축 좌표 및 Y-축 좌표)을 포함한다.

[0051] 3차원 투사로서 추후 디스플레이하기 위한 스테레오 이미지들을 캡처하기 위해, 이미지 프로세서(412)(도 4에 도시됨)는 가시광 카메라들(114A, 114B)에 커플링되어 시각 이미지 정보를 수신하고 저장할 수 있다. 이미지 프로세서(412) 또는 다른 프로세서는 가시광 카메라들(114A, 114B)의 동작을 제어하여, 인간의 양안 비전을 시뮬레이팅하는 스테레오 카메라의 역할을 하고, 각각의 이미지에 타임스탬프를 추가할 수 있다. 이미지들의 각각의 쌍 상의 타임스탬프는 3차원 투사의 부분으로서 이미지들의 동시 디스플레이를 허용한다. 3차원 투사들은 가상 현실(VR) 및 비디오 게이밍을 포함하여 다양한 콘텍스트들에서 바람직한 몰입형의 실감나는 경험을 생성한다.

[0052] 도 1b는 카메라 시스템의 우측 가시광 카메라(114B) 및 회로 보드를 묘사하는 도 1a의 아이웨어 디바이스(100)의 우측 템플 부분(110B)의 사시 단면도이다. 도 1c는 카메라 시스템의 좌측 가시광 카메라(114A)를 도시하는, 도 1a의 아이웨어 디바이스(100)의 예시적인 하드웨어 구성의 측면도(좌측)이다. 도 1d는 3차원 카메라의 좌측 가시광 카메라(114A) 및 회로 보드를 묘사하는, 도 1c의 아이웨어 디바이스의 좌측 템플 부분(110A)의 사시 단면도이다. 좌측 가시광 카메라(114A)의 구성 및 배치는 연결들 및 커플링이 좌측 측방향 측면(170A)에 있다는 점을 제외하면 우측 가시광 카메라(114B)와 실질적으로 유사하다.

[0053] 도 1b의 예에 도시된 바와 같이, 아이웨어 디바이스(100)는 우측 가시광 카메라(114B) 및 회로 보드(140B)를 포함하며, 회로 보드(140B)는 가요성 PCB(printed circuit board)일 수 있다. 우측 힌지(126B)는 아이웨어 디바이스(100)의 우측 템플(125B)에 우측 템플 부분(110B)을 연결한다. 일부 예들에서, 우측 가시광 카메라(114B), 가요성 PCB(140B), 또는 다른 전기 커넥터들 또는 콘택들의 컴포넌트들은 우측 템플(125B), 우측 힌지(126B), 우측 템플 부분(110B), 프레임(105) 또는 이들의 조합 상에 로케이팅될 수 있다. 컴포넌트들(또는 이들의 서브세트)은 SoC에 통합될 수 있다.

[0054] 도 1d의 예에 도시된 바와 같이, 아이웨어 디바이스(100)는 좌측 가시광 카메라(114A) 및 회로 보드(140A)를 포함하며, 회로 보드(140A)는 가요성 PCB(printed circuit board)일 수 있다. 좌측 힌지(126A)는 아이웨어 디바이스(100)의 좌측 템플(125A)에 좌측 템플 부분(110A)을 연결한다. 일부 예들에서, 좌측 가시광 카메라(114A), 가요성 PCB(140A), 또는 다른 전기 커넥터들 또는 콘택들의 컴포넌트들은 좌측 템플(125A), 좌측 힌지(126A), 좌측 템플 부분(110A), 프레임(105) 또는 이들의 조합 상에 로케이팅될 수 있다. 컴포넌트들(또는 이들의 서브세트)은 SoC에 통합될 수 있다.

[0055] 좌측 템플 부분(110A) 및 우측 템플 부분(110B)은 템플 부분 바디(190) 및 템플 부분 캡을 포함하며, 템플 부분 캡은 도 1b 및 도 1d의 단면에서 생략된다. 좌측 템플 부분(110A) 및 우측 템플 부분(110B) 내부에는 개개의 좌측 가시광 카메라(114A) 및 우측 가시광 카메라(114B)에 대한 제어기 회로들, 마이크로폰(들)(130), 스피커(132), (예컨대, Bluetooth™를 통한 무선 근거리 네트워크 통신을 위한) 저전력 무선 회로, (예컨대, Wi-Fi 통한 무선 로컬 영역 네트워크 통신을 위한) 고속 무선 회로를 포함하는 다양한 상호연결 회로 보드들, 이를테면 PCB들 또는 가요성 PCB들이 배치된다. 각각의 템플 부분(110)의 컴포넌트들 및 회로(또는 이의 서브세트)는 SoC에 통합될 수 있다.

[0056] 우측 가시광 카메라(114B)는 가요성 PCB(140B)에 커플링되거나 배치되고, 프레임(105)에 형성된 개구(들)를 통해 조준되는 가시광 카메라 커버 렌즈에 의해 커버된다. 예컨대, 도 2a에 도시된 프레임(105)의 우측 림(107B)은 우측 템플 부분(110B)에 연결되고 가시광 카메라 커버 렌즈를 위한 개구(들)를 포함한다. 프레임(105)은 사용자의 눈으로부터 멀리 바깥 쪽을 향하도록 구성된 전방 측면을 포함한다. 가시광 카메라 커버 렌즈를 위한 개구는 프레임(105)의 전방 또는 외향 측면 상에 그리고 이를 통해 형성된다. 예에서, 우측 가시광 카메라(114B)는 아이웨어 디바이스(100)의 사용자의 우측 눈과 상관되는 시선 또는 시각을 갖는 (도 3에 도시된) 갖는 외향 시야(111B)를 갖는다. 가시광 카메라 커버 렌즈는 또한 우측 템플 부분(110B)의 전방 측면 또는 외향 표면에 부착될 수 있고, 여기서 커버리지의 외향 각도를 갖지만 상이한 외측 방향을 향하는 개구가 형성된다. 커플링은 또한 개재 컴포넌트들을 통해 간접적일 수 있다. 우측 템플 부분(110B)의 회로 보드들 상에 형성된 것으로 도시되었지만, 우측 가시광 카메라(114B)는 좌측 템플(125B) 또는 프레임(105)의 회로 보드들 상에 형성될 수 있다.

[0057] 좌측 가시광 카메라(114A)는 가요성 PCB(140A)에 커플링되거나 배치되고, 프레임(105)에 형성된 개구(들)를 통해 조준되는 가시광 카메라 커버 렌즈에 의해 커버된다. 예컨대, 도 2a에 도시된 프레임(105)의 좌측 림(107A)은 좌측 템플 부분(110A)에 연결되고 가시광 카메라 커버 렌즈를 위한 개구(들)를 포함한다. 프레임(105)은 사용자의 눈으로부터 멀리 바깥 쪽을 향하도록 구성된 전방 측면을 포함한다. 가시광 카메라 커버 렌즈를 위한 개구는 프레임(105)의 전방 또는 외향 측면 상에 그리고 이를 통해 형성된다. 예에서, 좌측 가시광 카메라(114A)는 아이웨어 디바이스(100)의 사용자의 좌측 눈과 상관되는 시선 또는 시각을 갖는 (도 3에 도시된) 외향 시야(111A)를 갖는다. 가시광 카메라 커버 렌즈는 또한 좌측 템플 부분(110A)의 전방 측면 또는 외향 표면에 부착될 수 있고, 여기서 개구는 커버리지의 외향 각도를 갖지만 상이한 외측 방향으로 형성된다. 커플링은 또한 개재 컴포넌트들을 통해 간접적일 수 있다. 좌측 템플 부분(110A)의 회로 보드들 상에 형성된 것으로 도시되었지만, 좌측 가시광 카메라(114A)는 좌측 템플(125A) 또는 프레임(105)의 회로 보드들 상에 형성될 수 있다.

[0058] 도 2a 및 도 2b는 2개의 상이한 타입들의 이미지 디스플레이들을 포함하는 아이웨어 디바이스(100)의 예시적인 하드웨어 구성들을 뒤에서 본 사시도들이다. 아이웨어 디바이스(100)는 사용자가 착용하도록 구성된 형태의 크기를 갖고 이러한 형태로 형상화되며; 안경의 형태가 본 예에 도시된다. 아이웨어 디바이스(100)는 다른 형태들을 취할 수 있고, 다른 타입들의 프레임워크들, 예컨대 헤드기어, 헤드셋 또는 헬멧을 포함할 수 있다.

[0059] 안경 예에서, 아이웨어 디바이스(100)는 사용자의 코에 의해 지지되도록 적응된 브리지( bridge)(106)를 통해 우측 림(107B)에 연결된 좌측 림(107A)을 포함하는 프레임(105)을 포함한다. 좌측 및 우측 림들(107A, 107B)은 렌즈 및 디스플레이 디바이스와 같은 개개의 광학 엘리먼트(180A, 180B)를 홀딩하는 개개의 애퍼처들(175A, 175B)을 포함한다. 본원에서 사용되는 바와 같이, 렌즈라는 용어는 광이 수렴/발산하게 하는 또는 수렴 또는 발산이 거의 또는 전혀 없게 하는 만곡된 또는 평탄한 표면들을 갖는 유리 또는 플라스틱의 투명한 또는 반투명한 피스들을 포함하는 것을 의미한다.

[0060] 2개의 광학 엘리먼트들(180A, 180B)을 갖는 것으로 도시되었지만, 아이웨어 디바이스(100)는 아이웨어 디바이스(100)의 애플리케이션 또는 의도된 사용자에 따라 단일 광학 엘리먼트와 같은 다른 배열들을 포함할 수 있다 (또는 임의의 광학 엘리먼트(180A, 180B)를 포함하지 않을 수 있다). 추가로 도시된 바와 같이, 아이웨어 디바이스(100)는 프레임(105)의 좌측 측방향 측면(170A)에 인접한 좌측 템플 부분(110A) 및 프레임(105)의 우측 측방향 측면(170B)에 인접한 우측 템플 부분(110B)을 포함한다. 템플 부분들(110A, 110B)은 (예시된 바와 같이) 개개의 측방향 측면들(170A, 170B) 상에서 프레임(105)에 통합되거나, 또는 개개의 측방향 측면들(170A, 170B) 상에서 프레임(105)에 부착된 별개의 컴포넌트들로서 구현될 수 있다. 대안적으로, 템플 부분들(110A, 110B)은 프레임(105)에 부착된 템플들(미도시)에 통합될 수 있다.

[0061] 일례에서, 광학 조립체(180A, 180B)의 이미지 디스플레이는 통합 이미지 디스플레이(177)를 포함한다. 도 2a에 도시된 바와 같이, 각각의 광학 조립체(180A, 180B)는 LCD(liquid crystal display), OLED(organic light-emitting diode) 디스플레이 또는 임의의 다른 그러한 디스플레이와 같은 적합한 디스플레이 매트릭스(177)를 포함한다. 각각의 광학 조립체(180A, 180B)는 또한 렌즈들, 광학 코팅들, 프리즘들, 거울들, 도파관들, 광학 스트립들, 및 다른 광학 컴포넌트들을 임의의 조합으로 포함할 수 있는 광학 레이어 또는 레이어들(176)을 포함한다. (도 2a 및 본원에서 176A-N으로서 도시된) 광학 레이어들(176A, 176B, … 176N)은 적합한 크기 및 구성을 갖고 디스플레이 매트릭스로부터 광을 수신하기 위한 제1 표면 및 사용자의 눈에 광을 방출하기 위한 제2 표면을 포함하는 프리즘을 포함할 수 있다. 광학 레이어들(176A-N)의 프리즘은 좌측 및 우측 림들(107A, 107B)에 형성된 개개의 애퍼처들(175A, 175B)의 전부 또는 적어도 일부분에 걸쳐 연장되어, 사용자의 눈이 대응하는 좌측 및 우측 림들(107A, 107B)을 보고 있을 때 사용자가 프리즘의 제2 표면을 보도록 허용한다. 광학 레이어(176A-N)의 프리즘의 제1 표면은 프레임(105)으로부터 위를 향하고, 디스플레이 매트릭스(177)는 디스플레이 매트릭스(177)에 의해 방출된 광자들 및 광이 제1 표면에 충돌하도록 프리즘 위에 놓인다. 프리즘은 광이 프리즘 내에서 굴절되고 광학 레이어들(176A-N)의 프리즘의 제2 표면에 의해 사용자의 눈을 향해 지향되도록 하는 크기를 가지고 형상화된다. 이와 관련하여, 광학 레이어들(176A-N)의 프리즘의 제2 표면은 눈의 중심을 향해 광을 지향하도록 볼록할 수 있다. 프리즘은 선택적으로 디스플레이 매트릭스(177)에 의해 투사된 이미지를 확대하도록 크기설정 및 형상화될 수 있고, 광은 프리즘을 통해 이동하여 제2 표면으로부터 보이는 이미지는 디스플레이 매트릭스(177)로부터 방출된 이미지보다 하나 이상의 차원들에서 더 크다.

[0062] 일례에서, 광학 레이어들(176A-N)은 레이어를 불투명하게 만드는(렌즈를 닫거나 차단하는) 전압이 인가되지 않는 한 그리고 전압이 인가될 때까지 투명한 (렌즈를 개방된 상태로 유지하는) LCD 레이어를 포함할 수 있다. 아이웨어 디바이스(100) 상의 이미지 프로세서(412)는 능동 셔터 시스템을 생성하기 위해 LCD 레이어에 전압을 인가하는 프로그래밍을 실행할 수 있고, 이는 아이웨어 디바이스(100)가 3차원 투사로서 디스플레이될 때 시각적 콘텐츠를 보기에 적합하도록 만든다. 전압 또는 다른 타입의 입력에 응답하는 다른 타입들의 반응 레이어들을 포함하여, LCD와 다른 기술들이 능동 셔터 모드 동안 사용될 수 있다.

[0063] 다른 예에서, 광학 조립체(180A, 180B)의 이미지 디스플레이 디바이스는 도 2b에 도시된 바와 같이 투사 이미지 디스플레이를 포함한다. 각각의 광학 조립체(180A, 180B)는 스캐닝 미러 또는 검류계를 사용하는 3-색 레이저 프로젝터인 레이저 프로젝터(150)를 포함한다. 동작 동안, 레이저 프로젝터(150)와 같은 광원은 아이웨어 디바이스(100)의 템플들(125A, 125B) 중 하나에 또는 그 위에 배치된다. 이러한 예에서 광학 조립체(180B)는 각각의 광학 조립체(180A, 180B)의 렌즈의 폭에서 떨어져서 이를 가로질러 또는 렌즈의 전방 표면 및 후방 표면 사이의 렌즈의 깊이를 가로질러 이격되는 하나 이상의 광학 스트립들(155A, 155B, … 155N)(도 2b에서 155A-N로서 도시됨)을 포함한다.

[0064] 레이저 프로젝터(150)에 의해 투사된 광자들이 각각의 광학 조립체(180A, 180B)의 렌즈를 가로질러 이동함에 따라, 광자들은 광학 스트립들(155A-N)과 만난다. 특정 광자가 특정 광학 스트립을 만날 때, 그 광자는 사용자의 눈을 향해 재지향되거나 다음 광학 스트립으로 전달된다. 레이저 프로젝터(150)의 변조 및 광학 스트립들의 변조의 조합은 특정 광자들 또는 광 빔들을 제어할 수 있다. 일례에서, 프로세서는 기계적, 음향적 또는 전자기 신호들을 개시함으로써 광학 스트립들(155A-N)을 제어한다. 2개의 광학 조립체들(180A, 180B)을 갖는 것으로 도시되었지만, 아이웨어 디바이스(100)는 단일의 또는 3개의 광학 조립체들과 같은 다른 배열들을 포함할 수 있거나, 또는 각각의 광학 조립체(180A, 180B)는 아이웨어 디바이스(100)의 의도된 사용자 또는 애플리케이션에 따라 배열된 상이한 배열을 가질 수 있다.

[0065] 다른 예에서, 도 2b에 도시된 아이웨어 디바이스(100)는 2개의 프로젝터들, 즉 좌측 프로젝터()(미도시) 및 우측 프로젝터(프로젝터(150)로서 도시됨)를 포함할 수 있다. 좌측 광학 조립체(180A)는 좌측 디스플레이 매트릭스(미도시), 또는 좌측 프로젝터로부터의 광과 상호작용하도록 구성된 좌측 세트의 광학 스트립들(미도시)을 포함할 수 있다. 이러한 예에서, 아이웨어 디바이스(100)는 좌측 디스플레이 및 우측 디스플레이를 포함한다.

[0066] 도 2a 및 도 2b에 추가로 도시된 바와 같이, 아이웨어 디바이스(100)는 프레임(105)의 좌측 측방향 측면(170A)에 인접한 좌측 템플 부분(110A) 및 프레임(105)의 우측 측방향 측면(170B)에 인접한 우측 템플 부분(110B)을 포함한다. 템플 부분들(110A, 110B)은 (예시된 바와 같이) 개개의 측방향 측면들(170A, 170B) 상에서 프레임(105)에 통합되거나, 또는 개개의 측방향 측면들(170A, 170B) 상에서 프레임(105)에 부착된 별개의 컴포넌트들로서 구현될 수 있다. 대안적으로, 템플 부분들(110A, 110B)은 프레임(105)에 부착된 템플들(125A, 125B)에 통합될 수 있다.

[0067] 도 2a를 참조하면, 프레임(105) 또는 좌측 및 우측 템플들(110A-B) 중 하나 이상은 적외선 방출기(215) 및 적외선 카메라(220)를 포함한다. 적외선 방출기(215) 및 적외선 카메라(220)는 예컨대 납땜에 의해 가요성 PCB(140B)에 연결될 수 있다. 적외선 방출기(215) 및 적외선 카메라(220) 둘 모두가 우측 림(107B) 상에 있거나 프레임(105) 상의 상이한 로케이션들에 있는 배열들, 예컨대 적외선 방출기(215)가 좌측 림(107A) 상에 있고 적외선 카메라(220)가 우측 림(107B) 상에 있는 배열들을 포함하여 적외선 방출기(215) 및 적외선 카메라(220)의 다른 배열들이 구현될 수 있다. 다른 예에서, 적외선 방출기(215)는 프레임(105) 상에 있고 적외선 카메라(220)는 템플들(110A-B) 중 하나 상에 있거나 또는 그 반대의 경우도 마찬가지이다. 적외선 방출기(215)는 본질적으로 프레임(105), 좌측 템플(110A) 또는 우측 템플(110B) 상의 어디에나 연결되어 일정 패턴의 적외선 광을 방출할 수 있다. 유사하게, 적외선 카메라(220)는 본질적으로 프레임(105), 좌측 템플(110A) 또는 우측 템플(110B) 상의 어디에서나 연결되어, 적외선 광의 방출 패턴의 적어도 하나의 반사 변형을 캡처할 수 있다.

[0068] 적외선 방출기(215) 및 적외선 카메라(220)는 개개의 눈 포지션 및 응시 방향을 식별하기 위해 눈의 부분적 또는 전체 시야를 갖는 사용자의 눈을 향하여 안쪽을 향하도록 배열된다. 예컨대, 적외선 방출기(215) 및 적외선 카메라(220)는 눈의 전방에 직접적으로, 프레임(105)의 상부 부분에 또는 프레임(105)의 양 단부의 템플들(110A-B)에 포지셔닝된다.

[0069] 일례에서, 프로세서(432)는, 눈 추적기(213)를 활용하여, 도 2c에 도시된 바와 같이 착용자의 눈(234)의 눈 응시 방향(230)을 결정하고 그리고 도 2d에 도시된 바와 같이 눈박스 내의 착용자의 눈(234)의 눈 포지션(236)을 결정한다. 일례에서, 눈 추적기(213)는 적외선 광 조명(예컨대, 근적외선, 단파장 적외선, 중파장 적외선, 장파장 적외선 또는 원적외선)을 사용하여 눈(234)으로부터의 적외선 광의 반사 변형들의 이미지를 캡처함으로써 눈(234)의 동공(232)의 응시 방향(230)을 결정하고 또한 디스플레이(180D)에 대한 눈 포지션(236)을 결정하는 스캐너이다.

[0070] 도 3은 3차원 장면(306), 좌측 가시광 카메라(114A)에 의해 캡처된 좌측 원시 이미지(302A) 및 우측 가시광 카메라(114B)에 의해 캡처된 우측 원시 이미지(302B)의 개략도이다. 좌측 시야(111A)는 도시된 바와 같이 우측 시야(111B)와 중첩할 수 있다. 중첩 시야(304)는 양 카메라들(114A, 114B)에 의해 캡처된 이미지의 해당 부분을 나타낸다. 시야를 지칭할 때 “중첩”이라는 용어는 생성된 원시 이미지들의 픽셀들의 매트릭스가 30 퍼센트(30%) 이상 중첩하는 것을 의미한다. '상당히 중첩하는 것'은 생성된 원시 이미지들 (또는 장면의 적외선 이미지)의 픽셀들의 매트릭스가 50 퍼센트 (50%) 이상 중첩하는 것을 의미한다. 본원에서 설명되는 바와 같이, 2개의 원시 이미지들(302A, 302B)은 타임스탬프를 포함하도록 프로세싱될 수 있으며, 이는 이미지들이 3차원 투사의 부분으로서 함께 디스플레이될 수 있게 한다.

[0071] 스테레오 이미지들의 캡처를 위해, 도 3에 예시된 바와같이, 원시 적색, 녹색 및 청색(RGB) 이미지들의 쌍, 즉 좌측 카메라(114A)에 의해 캡처된 좌측 원시 이미지(302A) 및 우측 카메라(114B)에 의해 캡처된 우측 원시 이미지(302B)가 주어진 순간에 실제 장면(306)으로부터 캡처된다. 원시 이미지들(302A, 302B)의 쌍이 (예컨대, 이미지 프로세서(412))에 의해 프로세싱될 때, 깊이 이미지들이 생성된다. 생성된 깊이 이미지들은 아이웨어 디바이스의 광학 조립체(180A, 180B) 상에, 다른 디스플레이(예컨대, 모바일 디바이스(401) 상의 이미지 디스플레이(580)) 상에 또는 스크린 상에서 보여질 수 있다.

[0072] 생성된 깊이 이미지들은 3차원 공간 도메인에 있고, 수평 포지션(예컨대, 길이)에 대한 X 축, 수직 포지션(예컨대, 높이)에 대한 Y 축, 및 깊이(예컨대, 거리)에 대한 Z 축을 포함하는 3차원 로케이션 좌표 시스템 상에 정점들의 매트릭스를 포함할 수 있다. 각각의 정점은 컬러 속성(예컨대, 적색 픽셀 광 값, 녹색 픽셀 광 값, 및/또는 청색 픽셀 광 값); 포지션 속성(예컨대, X 로케이션 좌표 및 Y 로케이션 좌표, 및 Z 로케이션 좌표); 텍스처 속성; 반사 속성; 또는 이들의 조합을 포함할 수 있다. 텍스처 속성은 깊이 이미지의 정점들의 영역에서 컬러의 공간적 배열 또는 세기들과 같은 깊이 이미지의 인지된 텍스처를 정량화한다.

[0073] 일례에서, 아이웨어 시스템(400)(도 4)은 아이웨어 디바이스(100)를 포함하며, 아이웨어 디바이스(100)는 프레임(105), 프레임(105)의 좌측 측방향 측면(170A)으로부터 연장되는 좌측 템플(110A) 및 프레임(105)의 우측 측방향 측면(170B)으로부터 연장되는 우측 템플(125B)을 포함한다. 아이웨어 디바이스(100)는 중첩 시야를 갖는 적어도 2개의 가시광 카메라들(114A, 114B)을 더 포함할 수 있다. 일례에서, 아이웨어 디바이스(100)는 도 3에 도시된 바와 같이 좌측 시야(111A)를 갖는 좌측 가시광 카메라(114A)를 포함한다. 좌측 카메라(114A)는 장면(306)의 좌측으로부터 좌측 원시 이미지(302A)를 캡처하기 위해 프레임(105), 좌측 템플(125A) 또는 좌측 템플 부분(110A)에 연결된다. 아이웨어 디바이스(100)는 우측 시야(111B)를 갖는 우측 가시광 카메라(114B)를 더 포함한다. 우측 카메라(114B)는 장면(306)의 우측으로부터 우측 원시 이미지(302B)를 캡처하기 위해 프레임(105), 우측 템플(125B) 또는 우측 템플 부분(110B)에 연결된다.

[0074] 도 4는 인터넷과 같은 다양한 네트워크들(495)을 통해 연결된 웨어러블 디바이스(예컨대, 아이웨어 디바이스(100)), 모바일 디바이스(401) 및 서버 시스템(498)을 포함하는 예시적인 아이웨어 시스템(400)의 기능 블록도이다. 아이웨어 시스템(400)은 아이웨어 디바이스(100)와 모바일 디바이스(401) 사이의 저-전력 무선 연결(425) 및 고속 무선 연결(437)을 포함한다.

[0075] 도 4에 도시된 바와 같이, 아이웨어 디바이스(100)는 본원에서 설명되는 바와 같이 정지 이미지들, 비디오 이미지들 또는 정지 이미지들과 비디오 이미지들 둘 모두를 캡처하는 하나 이상의 가시광 카메라들(114A, 114B)을 포함한다. 카메라들(114A, 114B)은 고속 회로(430)에 대한 직접 메모리 액세스(DMA)를 가질 수 있고, 스테레오 카메라로서 기능할 수 있다. 카메라들(114A, 114B)은 적색, 녹색 및 청색 (RGB) 이미지 장면의 텍스처 매핑 이미지들인 3차원(3D) 모델들로 렌더링될 수 있는 초기-깊이 이미지들을 캡처하는 데 사용될 수 있다.

[0076] 아이웨어 디바이스(100)는 2개의 광학 조립체들(180A, 180B) (하나는 좌측 측방향 측면(170A)과 연관되고 하나는 우측 측방향 측면(170B)과 연관됨)을 더 포함한다. 아이웨어 디바이스(100)는 또한 이미지 디스플레이 드라이버(442), 이미지 프로세서(412), 저-전력 회로(420), 및 고속 회로(430)를 포함한다(이들 모두는 복제되어 한 쌍의 SoC들에 통합될 수 있다). 각각의 광학 조립체(180A, 180B)의 이미지 디스플레이들(177)은 정지 이미지들, 비디오 이미지들 또는 정지 및 비디오 이미지들을 포함하는 이미지들을 제시하기 위한 것이다. 이미지 디스플레이 드라이버(442)는 이미지들의 디스플레이를 제어하기 위해 각각의 광학 조립체(180A, 180B)의 이미지 디스플레이들에 커플링된다.

[0077] 아이웨어 디바이스(100)는 하나 이상의 마이크로폰들(130) 및 스피커들(132)(예컨대, 하나는 아이웨어 디바이스의 좌측 측면과 연관되며 다른 것은 아이웨어 디바이스의 우측 측면과 연관됨)을 추가로 포함한다. 마이크로폰들(130) 및 스피커들(132)은 아이웨어 디바이스(100)의 프레임(105), 템플들(125) 또는 템플 부분들(110)에 통합될 수 있다. 하나 이상의 스피커들(132)은 저-전력 회로(420), 고속 회로(430) 또는 이들 둘 모두의 제어 하에서 오디오 프로세서(443)(이는 복제되어 한 쌍의 SoC들에 통합될 수 있다)에 의해 구동된다. 스피커들(132)은 예컨대 비트 트랙을 포함하는 오디오 신호들을 제공하기 위한 것이다. 오디오 프로세서(443)는 사운드의 프리젠테이션을 제어하기 위해 스피커들(132)에 커플링된다.

[0078] 아이웨어 디바이스(100)에 대해 도 4에 도시된 컴포넌트들은 림들 또는 템플들에 로케이팅된, 하나 이상의 회로 보드들, 예컨대, PCB(printed circuit board) 또는 FPC(flexible printed circuit) 상에 로케이팅된다. 대안적으로 또는 추가적으로, 도시된 컴포넌트들은 아이웨어 디바이스(100)의 템플 부분들, 프레임들, 힌지들 또는 브리지에 로케이팅될 수 있다. 좌측 및 우측 가시광 카메라들(114A, 114B)은 디지털 카메라 엘리먼트들, 이를테면 CMOS(complementary metal-oxide-semiconductor) 이미지 센서, 전하-결합 디바이스, 렌즈, 또는 미지의 물체들을 갖는 장면들의 정지 이미지들 또는 비디오를 포함하여 데이터를 캡처하기 위해 사용될 수 있는 임의의 다른 개개의 가시적 또는 광 캡처 엘리먼트들을 포함할 수 있다.

[0079] 도 4에 도시된 바와 같이, 고속 회로(430)는 고속 프로세서(432), 메모리(434) 및 고속 무선 회로(436)를 포함한다. 예에서, 이미지 디스플레이 드라이버(442)는 고속 회로(430)에 커플링되고, 각각의 광학 조립체(180A, 180B)의 좌측 및 우측 이미지 디스플레이들을 구동하기 위해 고속 프로세서(432)에 의해 동작된다. 고속 프로세서(432)는 아이웨어 디바이스(100)에 필요한 임의의 일반적인 컴퓨팅 시스템의 동작 및 고속 통신들을 관리할 수 있는 임의의 프로세서일 수 있다. 고속 프로세서(432)는 고속 무선 회로(436)를 사용하여 WLAN(wireless local area network)으로의 고속 무선 연결(437)을 통해 고속 데이터 전달들을 관리하는 데 필요한 프로세싱 자원들을 포함한다.

[0080] 일부 예들에서, 고속 프로세서(432)는 OS, 이를테면 LINUX OS, 또는 아이웨어 디바이스(100)의 다른 그러한 OS를 실행하고, OS는 실행을 위해 메모리(434)에 저장된다. 임의의 다른 책임들에 부가하여, 고속 프로세서(432)는 고속 무선 회로(436)로의 데이터 전달들을 관리하는데 사용되는 아이웨어 디바이스(100)를 위한 소프트웨어 아키텍처를 실행한다. 일부 예들에서, 고속 무선 회로(436)는 본원에서 또한 Wi-Fi로 지칭되는 IEEE(Institute of Electrical and Electronic Engineers) 802.11 통신 표준들을 구현하도록 구성된다. 다른 예들에서, 다른 고속 통신 표준들은 고속 무선 회로(436)에 의해 구현될 수 있다.

[0081] 저-전력 회로(420)는 저-전력 프로세서(422) 및 저-전력 무선 회로(424)를 포함한다. 아이웨어 디바이스(100)의 저-전력 무선 회로(424) 및 고속 무선 회로(436)는 단거리 트랜시버들(Bluetooth™ 또는 BLE(Bluetooth Low-Energy)) 및 무선 와이드, 로컬 또는 광역 네트워크 트랜시버들(예컨대, 셀룰러 또는 Wi-Fi)을 포함할 수 있다. 저-전력 무선 연결(425) 및 고속 무선 연결(437)을 통해 통신하는 트랜시버들을 포함하는 모바일 디바이스(401)는 네트워크(495)의 다른 엘리먼트들과 마찬가지로 아이웨어 디바이스(100)의 아키텍처의 세부사항들을 사용하여 구현될 수 있다.

[0082] 메모리(434)는, 무엇보다도, 좌측 및 우측 가시광 카메라들(114A-114B), 적외선 카메라(들)(220), 이미지 프로세서(412)에 의해 생성된 카메라 데이터 및 각각의 광학 조립체(180A, 180B)의 이미지 디스플레이들 상에서 이미지 디스플레이 드라이버(442)에 의한 디스플레이(177)를 위해 생성된 이미지들을 포함하는 다양한 데이터 및 애플리케이션들을 저장할 수 있는 임의의 저장 디바이스를 포함한다. 메모리(434)가 고속 회로(430)와 통합된 것으로 도시되었지만, 다른 예들에서, 메모리(434)는 아이웨어 디바이스(100)의 독립적인 스탠드얼론 엘리먼트일 수 있다. 이러한 특정 예들에서, 전기 라우팅 라인들은 고속 프로세서(432)를 포함하는 칩을 통해 이미지 프로세서(412) 또는 저-전력 프로세서(422)로부터 메모리(434)로의 연결을 제공할 수 있다. 다른 예들에서, 고속 프로세서(432)는 메모리(434)를 수반하는 판독 또는 기록 동작이 필요할 때마다 저-전력 프로세서(422)가 고속 프로세서(432)를 부팅하도록 메모리(434)의 어드레싱을 관리할 수 있다.

[0083] 도 4에 도시된 바와 같이, 아이웨어 디바이스(100)의 고속 프로세서(432)는 카메라 시스템(가시광 카메라들(114A, 114B)), 이미지 디스플레이 드라이버(442), 사용자 입력 디바이스(491) 및 메모리(434)에 커플링될 수 있다. 도 5에 도시된 바와 같이, 모바일 디바이스(401)의 CPU(530)는 카메라 시스템(570), 모바일 디스플레이 드라이버(582), 사용자 입력 레이어(591) 및 메모리(540A)에 커플링될 수 있다.

[0084] 서버 시스템(498)은 예컨대 프로세서, 메모리, 및 네트워크(495)를 통해 하나 이상의 아이웨어 디바이스들(100) 및 모바일 디바이스(401)와 통신하기 위한 네트워크 통신 인터페이스를 포함하는 서비스 또는 네트워크 컴퓨팅 시스템의 일부로서 하나 이상의 컴퓨팅 디바이스들일 수 있다.

[0085] 아이웨어 디바이스(100)의 출력 컴포넌트들은 도 2a 및 도 2b에 설명된 바와 같은 각각의 렌즈 또는 광학 조립체(180A, 180B)와 연관된 좌측 및 우측 이미지 디스플레이들(예컨대, LCD(liquid crystal display), PDP(plasma display panel), LED(light emitting diode) 디스플레이, 프로젝터 또는 도파관과 같은 디스플레이)과 같은 시각적 엘리먼트들을 포함한다. 아이웨어 디바이스(100)는 사용자-대면 표시기(예컨대, LED, 라우드스피커 또는 진동 액추에이터) 또는 외향 신호(예컨대, LED, 라우드스피커)를 포함할 수 있다. 각각의 광학 조립체(180A, 180B)의 이미지 디스플레이들은 이미지 디스플레이 드라이버(442)에 의해 구동된다. 일부 예시적인 구성들에서, 아이웨어 디바이스(100)의 출력 컴포넌트들은 추가 표시기들, 이를테면 가청 엘리먼트들(예컨대, 라우드스피커들), 촉각 컴포넌트들(예컨대, 햅틱 피드백을 생성하기 위한 진동 모터와 같은 액추에이터) 및 다른 신호 생성기들을 더 포함한다. 예컨대, 디바이스(100)는 사용자-대면 세트의 표시기들 및 외향 세트의 신호들을 포함할 수 있다. 사용자-대면 세트의 표시기들은 디바이스(100)의 사용자가 보거나 그렇지 않으면 감지하도록 구성된다. 예컨대, 디바이스(100)는 사용자가 볼 수 있도록 포지셔닝된 LED 디스플레이, 사용자가 들을 수 있는 사운드를 생성하도록 포지셔닝된 하나 이상의 스피커들, 또는 사용자가 느낄 수 있는 햅틱 피드백을 제공하기 위한 액추에이터를 포함할 수 있다. 외향 세트의 신호들은 디바이스(100) 근처의 관찰자가 보거나 또는 그렇지 않으면 감지하도록 구성된다. 유사하게, 디바이스(100)는 관찰자가 감지하도록 구성되고 포지셔닝된 LED, 라우드스피커 또는 액추에이터를 포함할 수 있다.

[0086] 아이웨어 디바이스(100)의 입력 컴포넌트들은 입력 컴포넌트들 (예컨대, 알파뉴메릭 입력을 수신하도록 구성된 터치 스크린 또는 터치패드(181), 포토-광학 키보드, 또는 다른 알파뉴메릭-구성 엘리먼트들), 포인터-기반 입력 컴포넌트들(예컨대, 마우스, 터치패드, 트랙볼, 조이스틱, 모션 센서 또는 다른 포인팅 기구들), 촉각 입력 컴포넌트들(예컨대, 터치들 또는 터치 제스처들의 로케이션, 힘 또는 로케이션 및 힘을 감지하는 버튼 스위치, 터치 스크린 또는 터치패드 또는 다른 촉각-구성 엘리먼트들), 및 오디오 입력 컴포넌트들(예컨대, 마이크로폰) 등을 포함할 수 있다. 모바일 디바이스(401) 및 서버 시스템(498)은 알파뉴메릭, 포인터-기반, 촉각, 오디오 및 다른 입력 컴포넌트들을 포함할 수 있다.

[0087] 일부 예들에서, 아이웨어 디바이스(100)는 (복제되어 한 쌍의 SoC들에 통합될 수 있는) 관성 측정 유닛(472)으로서 지칭되는 모션-감지 컴포넌트들의 집합을 포함한다. 모션-감지 컴포넌트들은 종종 마이크로칩의 일부가 될 정도로 충분히 작은 마이크로스코픽 이동 부분들을 갖는 MEMS(micro-electro-mechanical system)들일 수 있다. 일부 예시적인 구성들의 관성 측정 유닛(IMU)(472)은 가속도계, 자이로스코프 및 자력계를 포함한다. 가속도계는 3개의 직교 축들(x, y, z)에 대한 디바이스(100)의 선형 가속도(중력으로 인한 가속도를 포함함)를 감지한다. 자이로스코프는 3개의 회전축(피치, 롤, 요)에 대한 디바이스(100)의 각속도를 감지한다. 동시에, 가속도계 및 자이로스코프는 6개 축(x, y, z, 피치, 롤, 요)에 대한 디바이스에 대한 포지션, 배향 및 모션 데이터를 제공할 수 있다. 존재하는 경우 자력계는 자북에 대한 디바이스(100)의 헤딩을 감지한다. 디바이스(100)의 포지션은 (복제되어 한 쌍의 SoC들에 통합될 수 있는) 로케이션 센서들, 이를테면 GPS 유닛(473), 상대적인 포지션 좌표들을 생성하기 위한 하나 이상의 트랜시버들, 고도 센서들 또는 기압계들, 및 다른 배향 센서들에 의해 결정될 수 있다. 이러한 포지셔닝 시스템 좌표들은 또한 모바일 디바이스(401)로부터 무선 연결들(425, 437)을 거쳐 저-전력 무선 회로(424) 또는 고속 무선 회로(436)를 통해 수신될 수 있다.

[0088] IMU(472)는 컴포넌트들로부터의 원시 데이터를 수집하는 디지털 모션 프로세서 또는 프로그래밍을 포함하거나 또는 이와 협력할 수 있으며, 디바이스(100)의 포지션, 배향 및 모션에 대한 다수의 유용한 값들을 컴퓨팅할 수 있다. 예컨대, 가속도계로부터 수집된 가속도 데이터는 각각의 축(x, y, z)에 대한 속도를 획득하도록 통합될 수 있으며; (선형 좌표들 (x, y, 및 z)에서) 디바이스(100)의 포지션을 획득하기 위해 다시 통합될 수 있다. 자이로스코프로부터의 각속도 데이터는 (구형 좌표들에서) 디바이스(100)의 포지션을 획득하기 위해 통합될 수 있다. 이들 유용한 값들을 컴퓨팅하기 위한 프로그래밍은 메모리(434)에 저장될 수 있고, 아이웨어 디바이스(100)의 고속 프로세서(432)에 의해 실행될 수 있다.

[0089] 아이웨어 디바이스(100)는 아이웨어 디바이스(100)와 통합된 추가 주변 센서들, 이를테면 생체 센서들, 특수 센서들, 또는 디스플레이 엘리먼트들을 선택적으로 포함할 수 있다. 예컨대, 주변 디바이스 엘리먼트들은 출력 컴포넌트들, 모션 컴포넌트들, 포지션 컴포넌트들 또는 본원에 설명된 임의의 다른 이러한 엘리먼트들을 포함하는 임의의 I/O 컴포넌트들을 포함할 수 있다. 예컨대, 생체 센서들은 표현들(예컨대, 손 표현들, 얼굴 표현들, 음성 표현들, 신체 제스처들 또는 눈 추적)을 검출하는 것, 생체신호들 (예컨대, 혈압, 심박수, 체온, 땀 또는 뇌파)을 측정하는 것, 또는 사람을 식별하는 것(예컨대, 음성, 망막, 얼굴 특징들, 지문들 또는 전기 생체 신호들, 이를테면 뇌전도 데이터에 기반한 식별) 등을 수행하기 위한 컴포넌트들을 포함할 수 있다.

[0090] 모바일 디바이스(401)는 스마트폰, 태블릿, 랩톱 컴퓨터, 액세스 포인트, 또는 저-전력 무선 연결(425) 및 고속 무선 연결(437) 둘 모두를 사용하여 아이웨어 디바이스(100)와 연결할 수 있는 임의의 다른 그러한 디바이스일 수 있다. 모바일 디바이스(401)는 서버 시스템(498) 및 네트워크(495)에 연결된다. 네트워크(495)는 유선 및 무선 연결들의 임의의 조합을 포함할 수 있다.

[0091] 도 4에 도시된 바와 같은 아이웨어 시스템(400)은 네트워크(495)를 통해 아이웨어 디바이스(100)에 커플링된 모바일 디바이스(401)와 같은 컴퓨팅 디바이스를 포함한다. 아이웨어 시스템(400)은 명령들을 저장하기 위한 메모리 및 명령들을 실행하기 위한 프로세서를 포함한다. 프로세서(432)에 의한 아이웨어 시스템(400)의 명령들의 실행은 네트워크(495)를 통해 모바일 디바이스(401) 및 또한 다른 아이웨어 디바이스(100)와 협력하도록 아이웨어 디바이스(100)를 구성한다. 아이웨어 시스템(400)은 아이웨어 디바이스(100)의 메모리(434) 또는 모바일 디바이스(401)의 메모리 엘리먼트들(540A, 540B, 540C)(도 5)을 활용할 수 있다.

[0092] 아이웨어 디바이스(100), 모바일 디바이스(401) 및 서버 시스템(498)에 대해 본원에서 설명된 기능 중 임의의 것은 본원에 설명되는 바와같이 하나 이상의 컴퓨터 소프트웨어 애플리케이션들 또는 프로그래밍 명령들의 세트들로 구현될 수 있다. 일부 예들에 따르면, "기능", "기능들", "애플리케이션", "애플리케이션들", "명령", "명령들” 또는 "프로그래밍"은 프로그램들에서 정의된 기능들을 실행하는 프로그램(들)이다. 객체 지향 프로그래밍 언어들(예컨대, Objective-C, Java 또는 C++) 또는 절차적 프로그래밍 언어들(예컨대, C 또는 어셈블리 언어)과 같이, 다양한 방식들로 구성된 애플리케이션들 중 하나 이상을 개발하기 위해 다양한 프로그래밍 언어들이 이용될 수 있다. 특정 예에서, 제3자 애플리케이션(예컨대, 특정 플랫폼의 벤더 이외의 엔티티에 의해 ANDROID™ 또는 IOS™ SDK(software development kit)를 사용하여 개발된 애플리케이션)은 모바일 OS, 이를테면 IOS™, ANDROID™, WINDOWS® Phone 또는 다른 모바일 OS들 상에서 실행되는 모바일 소프트웨어를 포함할 수 있다. 이러한 예에서, 제3자 애플리케이션은 본원에 설명된 기능을 용이하게 하기 위해 OS에 의해 제공된 API 콜들을 인보크할 수 있다.

[0093] 따라서, 머신-판독가능 매체는 많은 형태들의 유형의 저장 매체를 취할 수 있다. 비-휘발성 저장 매체들은 예컨대, 도면들에 도시된 클라이언트 디바이스, 미디어 게이트웨이, 트랜스코더 등을 구현하는 데 사용될 수 있는 것과 같은 임의의 컴퓨터 디바이스들 등에 있는 저장 디바이스들 중 임의의 것과 같은 광학 또는 자기 디스크들을 포함한다. 휘발성 저장 매체는 이러한 컴퓨터 플랫폼의 메인 메모리와 같은 동적 메모리를 포함한다. 유형의 송신 매체들은 컴퓨터 시스템 내의 버스를 포함하는 와이어들을 포함하는 동축 케이블들; 구리 와이어 및 광섬유들을 포함한다. 캐리어파 송신 매체들은 RF(radio frequency) 및 적외선(IR) 데이터 통신들 동안 생성되는 것들과 같은 전기 또는 전자기 신호들, 또는 음파 또는 광파의 형태를 취할 수 있다. 따라서, 컴퓨터-판독가능 매체들의 일반적인 형태들은, 예컨대 플로피 디스크, 플렉시블 디스크, 하드 디스크, 자기 테이프, 임의의 다른 자기 매체, CD-ROM, DVD 또는 DVD-ROM, 임의의 다른 광학 매체, 펀치 카드들, 페이퍼 테이프, 구멍들의 패턴들을 갖는 임의의 다른 물리적 저장 매체, RAM, PROM 및 EPROM, FLASH-EPROM, 임의의 다른 메모리 칩 또는 카트리지, 데이터 또는 명령들을 전달하는 반송파, 그러한 반송파를 전달하는 케이블들 또는 링크들, 또는 컴퓨터가 프로그래밍 코드 및/또는 데이터를 판독할 수 있는 임의의 다른 매체를 포함한다. 이들 형태들의 컴퓨터 판독가능 매체들의 대부분은 실행을 위해 프로세서에 하나 이상의 명령들의 하나 이상의 시퀀스들을 반송하는데 수반될 수 있다.

[0094] 도 5는 예시적인 모바일 디바이스(401)의 하이-레벨 기능 블록도이다. 모바일 디바이스(401)는 본원에 설명된 기능들의 전부 또는 서브세트를 수행하기 위해 CPU(530)에 의해 실행될 프로그래밍을 저장하는 플래시 메모리(540A)를 포함한다.

[0095] 모바일 디바이스(401)는 적어도 2개의 가시광 카메라들(중첩하는 시야들을 갖는 제1 및 제2 가시광 카메라들) 또는 실질적으로 중첩하는 시야들을 갖는 적어도 하나의 가시광 카메라 및 깊이 센서를 포함하는 카메라(570)를 포함할 수 있다. 플래시 메모리(540A)는 카메라(570)를 통해 생성되는 다수의 이미지들 또는 비디오를 더 포함할 수 있다.

[0096] 도시된 바와 같이, 모바일 디바이스(401)는 이미지 디스플레이(580), 이미지 디스플레이(580)를 구동하기 위한 모바일 디스플레이 드라이버(582), 및 이미지 디스플레이(580)를 제어하기 위한 디스플레이 제어기(584)를 포함한다. 도 5의 예에서, 이미지 디스플레이(580)는 이미지 디스플레이(580)에 의해 사용되는 스크린 최상부에 레이어화되거나 또는 그렇지 않으면 이러한 스크린에 통합되는 사용자 입력 레이어(591)(예컨대, 터치스크린)을 포함한다.

[0097] 사용될 수 있는 터치스크린-타입의 모바일 디바이스들의 예들은 스마트 폰, PDA(personal digital assistant), 태블릿 컴퓨터, 랩톱 컴퓨터 또는 다른 휴대용 디바이스를 포함한다(그러나, 이에 제한되지는 않음). 그러나, 터치스크린-타입 디바이스들의 구조 및 동작은 예로서 제공되며; 본원에 설명된 바와 같은 청구대상 기술은 이에 제한되는 것으로 의도되지 않는다. 따라서, 이러한 논의의 목적들을 위해, 도 5는 (터치, 멀티-터치 또는 제스처 등에 의한, 손에 의한, 스타일러스 또는 다른 도구에 의한) 입력을 수신하기 위한 터치스크린 입력 레이어(591) 및 콘텐츠를 디스플레이하기 위한 이미지 디스플레이(580)를 포함하는 사용자 인터페이스를 갖는 예시적인 모바일 디바이스(401)의 블록도 예시를 제공한다.

[0098] 도 5에 도시된 바와 같이, 모바일 디바이스(401)는 광역 무선 모바일 통신 네트워크를 통한 디지털 무선 통신들을 위해 WWAN XCVR들로서 도시된 적어도 하나의 디지털 트랜시버(XCVR)(510)를 포함한다. 모바일 디바이스(401)는 또한 이를테면 NFC, VLC, DECT, ZigBee, Bluetooth™ 또는 Wi-Fi를 통해 단거리 네트워크 통신을 위한 단거리 트랜시버(XCVR)(520)들과 같은 추가 디지털 또는 아날로그 트랜시버들을 포함한다. 예컨대, 단거리 XCVR들(520)은 IEEE 802.11 하의 Wi-Fi 표준들 중 하나와 같은 무선 로컬 영역 네트워크들에서 구현되는 하나 이상의 표준 통신 프로토콜들과 호환 가능한 타입의 임의의 이용 가능한 양방향 WLAN(wireless local area network) 트랜시버의 형태를 취할 수 있다.

[0099] 모바일 디바이스(401)의 포지셔닝을 위한 로케이션 좌표들을 생성하기 위해, 모바일 디바이스(401)는 GPS(global positioning system) 수신기를 포함할 수 있다. 대안적으로 또는 추가적으로 모바일 디바이스(401)는 포지셔닝을 위한 로케이션 좌표들을 생성하기 위해 근거리 XCVR들(520) 및 WWAN XCVR들(510) 중 하나 또는 둘 모두를 활용할 수 있다. 예컨대, 셀룰러 네트워크, Wi-Fi 또는 Bluetooth™ 기반 포지셔닝 시스템들은 특히 조합하여 사용될 때 매우 정확한 로케이션 좌표들을 생성할 수 있다. 이러한 로케이션 좌표들은 XCVR들(510, 520)을 통해 하나 이상의 네트워크 연결들을 통해 아이웨어 디바이스에 송신될 수 있다.

[0100] 트랜시버들(510, 520)(즉, 네트워크 통신 인터페이스)은 현대식 모바일 네트워크들에 의해 활용되는 다양한 디지털 무선 통신 표준들 중 하나 이상을 준수한다. WWAN 트랜시버들(510)의 예들은, 예컨대 제한없이 3GPP(3rd Generation Partnership Project) 타입 2(또는 3GPP2) 및 때때로 "4G"로 지칭되는 LTE를 포함하는 3GPP 네트워크 기술들 및 CDMA(Code Division Multiple Access)에 따라 동작하도록 구성된 트랜시버들을 포함한다(그러나 이에 제한되지 않음). 예컨대, 트랜시버들(510, 520)은 디지털화된 오디오 신호들, 정지 이미지 및 비디오 신호들, 디스플레이를 위한 웹 페이지 정보뿐만 아니라 웹-관련 입력들, 및 모바일 디바이스(401)로/로부터의 다양한 타입들의 모바일 메시지 통신들을 포함하는 정보의 양방향 무선 통신을 제공한다.

[0101] 모바일 디바이스(401)는 CPU(central processing unit)(530)로서 기능하는 마이크로프로세서를 더 포함한다. 프로세서는 하나 이상의 프로세싱 기능들, 전형적으로 다양한 데이터 프로세싱 기능들을 수행하도록 구성되고 배열된 엘리먼트들을 갖는 회로이다. 개별 로직 컴포넌트들이 사용될 수 있지만, 예들은 프로그램 가능 CPU를 형성하는 컴포넌트들을 활용한다. 예컨대, 마이크로프로세서는 CPU의 기능들을 수행하기 위해 전자 엘리먼트들을 통합하는 하나 이상의 IC(integrated circuit) 칩들을 포함한다. 예컨대, CPU(530)는 오늘날 모바일 디바이스들 및 다른 휴대용 전자 디바이스들에서 통상적으로 사용되는 바와 같이 ARM 아키텍처를 사용하여 RISC(Reduced Instruction Set Computing)와 같은 임의의 공지된 또는 이용 가능한 마이크로프로세서 아키텍처에 기반할 수 있다. 물론, 스마트폰, 랩톱 컴퓨터 및 태블릿에서 CPU(530) 또는 프로세서 하드웨어를 형성하기 위해 프로세서 회로의 다른 어레인지먼트들이 사용될 수 있다.

[0102] CPU(530)는 예컨대 CPU(530)에 의해 실행 가능한 프로그래밍 또는 명령들에 따라, 다양한 동작들을 수행하도록 모바일 디바이스(401)를 구성함으로써 모바일 디바이스(401)에 대한 프로그램 가능 호스트 제어기로서 역할을 한다. 예컨대, 이러한 동작들은 모바일 디바이스의 다양한 일반적인 동작들뿐만 아니라 모바일 디바이스 상의 애플리케이션들에 대한 프로그래밍과 관련된 동작들을 포함할 수 있다. 프로세서는 하드와이어드 로직을 사용하여 구성될 수 있지만, 모바일 디바이스들의 전형적인 프로세서들은 프로그래밍의 실행에 의해 구성된 일반적인 프로세싱 회로들이다.

[0103] 모바일 디바이스(401)는 프로그래밍 및 데이터를 저장하기 위한 메모리 또는 저장 시스템을 포함한다. 예에서, 메모리 시스템은 필요에 따라 플래시 메모리(540A), RAM(random access memory)(540B) 및 다른 메모리 컴포넌트들(540C)을 포함할 수 있다. RAM(540B)은 예컨대, 작동 데이터 프로세싱 메모리로서 CPU(530)에 의해 핸들링되는 명령들 및 데이터를 위한 단기 저장부로서 역할을 한다. 플래시 메모리(540A)는 전형적으로 장기 저장부를 제공한다.

[0104] 따라서, 모바일 디바이스(401)의 예에서, 플래시 메모리(540A)는 CPU(530)에 의한 실행을 위한 프로그래밍 또는 명령들을 저장하기 위해 사용된다. 디바이스의 타입에 따라, 모바일 디바이스(401)는 특정 애플리케이션들이 실행되게 하는 모바일 OS를 저장 및 실행한다. 모바일 OS들의 예들은 Google Android, (I-Phone 또는 iPad 디바이스들에 대한) Apple iOS, Windows Mobile, Amazon Fire OS, RIM BlackBerry OS 등을 포함한다.

[0105] 아이웨어 디바이스(100) 내의 프로세서(432)는 아이웨어 디바이스(100)를 둘러싼 환경의 맵을 구성하고, 매핑된 환경 내에서 아이웨어 디바이스의 로케이션을 결정하며, 그리고 매핑된 환경에서 하나 이상의 객체들에 대한 아이웨어 디바이스의 상대적 포지션을 결정할 수 있다. 프로세서(432)는 하나 이상의 센서들로부터 수신된 데이터에 적용된 SLAM(simultaneous localization and mapping) 알고리즘을 사용하여 맵을 구성하고 로케이션 및 포지션 정보를 결정할 수 있다. 증강 현실의 맥락에서, SLAM 알고리즘은 환경의 맵을 구성 및 업데이트하는 동시에 매핑된 환경 내에서 디바이스(또는 사용자)의 로케이션을 추적하고 업데이트하는 데 사용된다. 수학적 솔루션은 입자 필터들, 칼만 필터들, 확장 칼만 필터들 및 공분산 교차점(covariance intersection)과 같은 다양한 통계 방법들을 사용하여 근사화될 수 있다.

[0106] 센서 데이터는 카메라들(114A, 114B) 중 하나 또는 둘 모두로부터 수신된 이미지들, 레이저 거리 측정기로부터 수신된 거리(들), GPS 유닛(473)으로부터 또는 포지션 정보를 결정할 때 유용한 데이터를 제공하는 다른 센서들로부터 수신된 포지션 정보, 또는 이러한 센서 데이터 중 둘 이상의 조합을 포함한다.

[0107] 도 6은 일례에 따른 제1 SoC(602A) 및 제2 SoC(602B)를 통합한 아이웨어 디바이스(100)의 부분 블록도이다. 제1 SoC(602A)는 메모리(604A)(예컨대, 플래시 메모리), 배터리(606A), IMU(472A), 카메라(114A) 및 디스플레이 컴포넌트들(608A)과 함께 좌측 템플 부분(110A) 내에 포지셔닝된다. 제2 SoC(602B)는 메모리(604B)(예컨대, 플래시 메모리), 배터리(606B), IMU(472B), 카메라(114B) 및 디스플레이 컴포넌트들(608B)과 함께 우측 템플 부분(110B) 내에 포지셔닝된다. 제1 SoC(602A)는 제2 SoC에 커플링되며, 이들 사이에서는 통신들이 이루어진다.

[0108] 좌측 템플 부분(110A)에 예시되어 있지만, 제1 SoC(602A), 메모리(604A), 배터리(606A) 및 디스플레이 컴포넌트들(608A) 중 하나 이상은 좌측 템플 부분(110A)에 인접한 프레임(105)에 (즉, 좌측 측방향 측면(170A) 상에) 또는 템플(125A)에 포지셔닝될 수 있다. 추가적으로, 우측 템플 부분(110B)에 예시되어 있지만, 제2 SoC(602B), 메모리(604B), 배터리(606B) 및 디스플레이 컴포넌트들(608B) 중 하나 이상은 우측 템플 부분(110B)에 인접한 프레임(105)에 (즉, 우측 측방향 측면(170B) 상에) 또는 템플(125B)에 포지셔닝될 수 있다. 게다가, 2개의 메모리들(604A, B), 배터리들(606A, B) 및 디스플레이 컴포넌트들(608A, B)이 예시되어 있지만, 더 적거나 더 많은 메모리들, 배터리들 및 디스플레이 컴포넌트들이 통합될 수 있다. 예컨대, 단일 배터리(606)는 SoC들(602A, B) 둘 모두에 전력을 공급할 수 있고, SoC들(602A, B)은 다양한 동작들을 수행하기 위해 3개 이상의 메모리들(604)에 액세스할 수 있다.

[0109] 일례에서, SoC들(602) 둘 모두는 동일하거나 실질적으로 유사한 컴포넌트들 및 컴포넌트 레이아웃들을 통합한다. 따라서, 이들의 전체 프로세싱 자원들은 동등하다. 이러한 예에 따르면, 제1 SoC(602A)는 제2 SoC와 적어도 실질적으로 동일하다(즉, 이들은 동일하거나 또는 95% 이상의 컴포넌트들 또는 프로세싱 자원들이 중복된다). 듀얼 SoC들(602)(하나는 아이웨어 디바이스(100)의 한측에 포지셔닝되고 다른 하나는 아이웨어 디바이스(100)의 다른 측에 포지셔닝됨)의 사용을 통해, 냉각은 아이웨어 디바이스(100) 전반에 걸쳐 효과적으로 분산되며, 아이웨어 디바이스의 한측은 하나의 SoC(602)에 대한 수동 냉각을 제공하며, 아이웨어 디바이스의 다른 측은 다른 SoC(602)에 대한 수동 냉각을 제공한다.

[0110] 일례에서, 아이웨어 디바이스(100)는 템플당 대략 3와트의 열적 수동 냉각 용량을 갖는다. 각각의 측면의 디스플레이(608)(예컨대, 프로젝션 LED 디스플레이)는 대략 1-2와트를 활용한다. 각각의 SoC(602)는 대략 1.5와트 미만(예컨대, 800-1000mW; 모바일 폰의 SoC에 전형적으로 사용되는 대략 5와트와는 상이함)에서 동작하도록 설계되며, 이는 프레임(105), 템플 부분들(110A), 템플들(125A) 또는 이들의 조합을 통한 수동 냉각을 활용하여 아이웨어 디바이스(105)의 각각의 측면 상의 전자 기기들의 적절한 냉각을 가능하게 한다. (아이웨어 디바이스(100)에 의해 제시되는 고유한 수동 냉각 용량을 이용하기 위해 아이웨어 디바이스(100)의 반대 측들상에 포지셔닝된) 2개의 SoC들(602)을 통합함으로써, (5와트의 방산 전력에서 동작하는 SoC를 활용하여) 기존의 모바일 디바이스에서 이용 가능한 계산 전력을 충족시키거나 또는 초과하는 계산 전력이 달성가능하다.

[0111] 각각의 SoC에 동일하거나 유사한 컴포넌트들 및 컴포넌트 레이아웃들을 통합하면, 2개의 SoC들(602) 사이에 프로세싱 워크로드를 분산시킬 때 유연성을 가능하게 한다. 일례에서, 프로세싱 워크로드는 인접 컴포넌트들에 기반하여 분산된다. 이러한 예에 따르면, 각각의 SoC는 개개의 카메라 및 디스플레이를 구동시킬 수 있으며, 이는 전기적 관점에서 바람직할 수 있다. 또 다른 예에서, 프로세싱 워크로드는 기능에 기반하여 분산된다. 이러한 예에 따르면, 하나의 SoC(602)는 센서 허브의 역할을 할 수 있고(예컨대, 모든 컴퓨터 비전, CV 및 머신 러닝, ML, 프로세싱 + 비디오 인코딩을 수행할 수 있으며), 다른 SoC(602)는 애플리케이션 로직, 오디오 및 비디오 렌더링 기능들 및 통신들(예컨대, Wi-Fi, Bluetooth®, 4G/5G 등)을 실행할 수 있다. 기능에 기반하여 프로세싱 워크로드를 분산하는 것은 프라이버시 관점에서 바람직할 수 있다. 예컨대, 하나의 SoC를 사용하여 센서 정보를 프로세싱하고 다른 SoC를 사용하여 Wi-Fi를 프로세싱하는 것은 구현을 가능하게 하며, 여기서 카메라 이미지들과 같은 개인 데이터는 이러한 센서 정보가 센서 프로세싱을 수행하는 SoC로부터 통신들을 관리하는 SoC로 전송될 수 없게 함으로써 눈에 띄지 않는 아이웨어 디바이스를 떠나는 것이 방지될 수 있다. 다른 예에서, 아래에서 더 자세히 설명되는 바와같이, 프로세싱 워크로드는 (예컨대, 초당 명령들 또는 SoC 온도에 의해 결정되는) 프로세싱 워크로드에 기반하여 시프트될 수 있다.

[0112] 도 7-9는 아이웨어 디바이스에서 듀얼 SoC들을 구현하기 위한 흐름도들(700/800/900)이다. 단계들이 아이웨어 디바이스(100)를 참조하여 설명되지만, 흐름도들(700/800/900)의 하나 이상의 단계들이 실시할 수 있는 다른 적절한 아이웨어 디바이스들은 본원의 설명으로부터 당업자에 의해 이해될 것이다. 추가적으로, 도 7-9에 도시되고 본원에서 설명된 단계들 중 하나 이상이 생략되거나, 동시에 또는 직렬로 수행되거나, 예시 및 설명된 것과 다른 순서로 수행되거나 또는 추가 단계들과 함께 수행될 수 있다는 것이 고려된다.

[0113] 도 7은 제1 SoC 및 제2 SoC을 사용하여 아이웨어에 대해 동작들을 수행하기 위한 예시적인 단계들의 흐름도(700)이다. 블록(702)에서, 제1 SoC(예컨대, SoC(602A))는 제1 세트의 동작들을 수행한다. 블록(704)에서, 제2 SoC(예컨대, SoC(602B))는 제2 세트의 동작들을 수행한다. 제1 및 제2 세트의 동작들은 (예컨대, 초당 명령들 또는 흐름도(700)의 예시적인 단계들에 설명된 바와 같은 온도에 기반하여 설명된 바와 같이) 인접한 컴포넌트들, 기능, 현재 워크로드 프로세싱 또는 이들의 조합에 기반하여 개개의 SoC에 대한 성능을 위해 그 사이에 분산될 수 있다.

[0114] 블록(706)에서, 아이웨어 디바이스(100)는 제1 및 제2 SoC들의 온도를 모니터링한다. 일례에서, 각각의 SoC에는 온도 측정을 위한 통합 서미스터가 포함되어 있다. 이러한 예에 따르면, 하나의 SoC는 기본 SoC로서 지정될 수 있고, 다른 SoC는 복제 SoC로서 지정될 수 있다. 기본 SoC는 개개의 통합된 서미스터를 통해 그 자체 온도를 모니터링할 수 있으며, (개개의 통합된 서미스터를 통해 그 자체 온도를 모니터링하는) 복제 SoC로부터 온도 판독치들을 주기적으로 요청함으로써 복제 SoC의 온도를 모니터링할 수 있다.

[0115] 블록(708)에서, 아이웨어 디바이스(100)는 온도를 밸런싱하기 위해 개개의 SoC에 대해 수행되는 제1 및 제2 세트의 동작들 사이의 프로세싱 워크로드들을 시프트한다 (이는 프로세싱 워크로드를 효과적으로 분산시킴). 기본 SoC 및 복제 SoC를 포함한 예들에서, 기본 SoC는 SoC들 사이의 비교적 균일한 분산을 유지하기 위해 그 자체 및 복제 SoC에 대한 워크로드들의 할당을 관리한다. 일례에서, SoC 중 하나가 다른 SoC의 온도의 10%를 초과하는 온도를 가질 때, 기본 SoC는 온도 차이가 5% 미만이 될 때까지 온도가 더 높은 SoC로부터 온도가 더 낮은 SoC로 프로세싱 워크로드를 재할당한다. SoC 각각에 의해 수행되는 프로세싱 명령들에는 1 내지 10의 할당 가능성 값들이 할당될 수 있으며, 1은 결코 할당할 수 없고 10은 항상 할당할 수 있다. 프로세싱 워크로드들을 시프트할 때, 기본 SoC는 초기에 10, 이후 9, 8 등의 할당 가능성 값들을 갖는 명령들을 시프트한다. 블록들(706 및 708)에 대한 단계들은 균일한 열 분포를 유지하기 위해 연속적으로 반복된다.

[0116] 도 8은 제1 SoC와 제2 SoC 사이에서 아이웨어 디바이스에 대해 프로세싱 워크로드들을 밸런싱하기 위한 방법의 예시적인 단계들의 흐름도(800)이다. 블록(802)에서, 제1 SoC는 컴퓨터 비전, 머신 러닝 및 비디오 인코딩을 수행한다. 블록(804)에서, 제2 SoC는 애플리케이션 로직을 실행하고, 렌더링 기능들을 수행하며, 무선 통신들을 관리한다.

[0117] 도 9는 제1 SoC와 제2 SoC 사이에서 아이웨어 디바이스에 대해 프로세싱 워크로드들을 밸런싱하는 방법의 예시적인 단계들의 흐름도(900)이다. 블록(902)에서, 제1 SoC는 제1 카메라 및 제1 디스플레이를 구동한다. 블록(904)에서, 제2 SoC는 제2 카메라 및 제2 디스플레이를 구동한다.

[0118] 도 10a는 아이웨어 디바이스(100)의 제1 SoC(602A)와 제2 SoC(602B) 사이에서 프로세싱 워크로드들을 분할하기 위한 클라이언트-서버 전략을 도시한다. 이러한 전략은 아이웨어 디바이스(100)의 제1 측면(예컨대, 좌측)으로부터 아이웨어 디바이스(100)의 제2 측면(예컨대, 우측)까지의 전력을 밸런싱하며, (예컨대, 제2 SoC(602B)에 의해 관리되는 무선 서브시스템을 사용하여) 인터커넥트 복잡성을 감소시키며, 그리고 열 로드, 프로세싱 요건들 또는 이들의 조합에 기반하여 좌측과 우측 사이에 동적으로 할당될 수 있다.

[0119] 제1 SoC(602A)는 예컨대 PCI Express, SDIO, USB 등과 같은 프로세서-간 통신 버스에 의해 제2 SoC(602B)에 연결된다. 각각 SoC와의 통신 및 SoC 간의 통신은 IPC 프로토콜을 따른다. 제1 메모리(604A)는 제1 SoC(602A)에 통합되고, 제2 메모리(604B)는 제2 SoC(602B)에 통합된다. 예시된 예에서, 아이웨어 디바이스의 제1 카메라(114A), 제2 카메라(114B), 제1 디스플레이(608A) 및 제2 디스플레이(608B)는 제1 SoC(602A)에 일정 방향으로 커플링된다. 제2 SoC(602B)는 저전력 마이크로프로세서(422) 및 무선 회로(424/436)에 커플링된다.

[0120] 각각의 SoC는 대략 1.5W 이하(예컨대, 800-850mW)에서 동작한다. 일례로, 제1 SoC(602A)는 CPU(100mW) 상에서 OS를 실행하고, ISP/DSP(200mW)로 이미지들을 캡처하며, GPU(200mW) 상에서 정지 이미지 및 비디오 이미지들을 렌더링하며, 그리고 CPU, 전용 하드웨어 가속 로직 블록들(예컨대, 디스패리티 매퍼) 및 아이웨어 디바이스의 제1 측면에서 할당된 총 전력이 850mW인 경우 DSP (350mW) 상에서 다양한 알고리즘들을 실행하는 것을 담당한다. 제2 SoC(602B)는 CPU(100mW) 상에서 OS를 실행하며, CPU(100mW)를 사용하여 무선 연결을 실행하며, CPU와 DSP(300mW) 상에서 다양한 알고리즘들을 실행하며, 그리고 아이웨어 디바이스의 제2 측면에 할당된 총 전력이 800mW인 경우 CPU, GPU 및 DSP(300mW) 상에서 다양한 알고리즘들을 실행하는 것을 담당한다. 이러한 구현은 아이웨어 디바이스(100)의 측면당 대략 2-3W의 수동 열 분포의 목표보다 훨씬 낮다.

[0121] 도 10b는 아이웨어 디바이스(100)의 제1 SoC(602A)와 제2 SoC(602B) 사이에서 프로세싱 워크로드를 분할하기 위한 분할 이미지 캡처 및 렌더링 전략을 묘사한다. 제1 SoC(602A)는 제1 및 제2 카메라들(114A, B)에 직접 커플링되고, 제2 SoC(602B)는 제1 및 제2 디스플레이(608A, B), 저전력 마이크로프로세서(422) 및 무선 회로(424/436)에 직접 커플링된다. 제1 SoC(602A)는 PCI Express, SDIO, USB 등과 같은 프로세서-간 통신 버스에 의해 제2 SoC(602B)에 연결될 수 있으며, 전력은 열 로드, 프로세싱 요건들 또는 이들의 조합에 기반하여 좌측과 우측 사이에서 동적으로 할당될 수 있다. 이러한 전략은 카메라들(114A, B)을 제2 SoC(602B) 또는 무선 회로(424/436)에 직접 커플링하지 않고 제1 SoC(602A)에 직접 커플링함으로써 보안 레이어를 포함한다.

[0122] 각각의 SoC는 대략 1.5W 이하(예컨대, 950-1000mW)에서 동작한다. 일례에서, 제1 SoC(602A)는 CPU(100mW) 상에서 OS를 실행하며, ISP/DSP(200mW)를 사용하여 이미지들을 캡처하며, CPU, 전용 하드웨어 가속 로직 블록들(예컨대, 디스패치 매퍼) 및 DSP(350mW) 상에서 다양한 알고리즘들을 실행하며, 그리고 아이웨어 디바이스의 제1 측면에 할당된 총 950mW의 전력에 대해 CPU, GPU 및 DSP(300mW) 상에서 다양한 알고리즘들을 실행하는 것을 담당한다. 제2 SoC(602B)는 CPU(100mW) 상에서 OS를 실행하며, CPU(100mW)를 사용하여 무선 연결을 실행하며, GPU(200mW) 상에서 이미지들을 렌더링하며, CPU와 DSP(300mW) 상에서 다양한 알고리즘들을 실행하며, 그리고 아이웨어 디바이스의 제2 측면에 할당된 총 1000mW의 전력에 대해 CPU, GPU 및 DSP(300mW) 상에서 다양한 알고리즘들을 실행하는 것을 담당한다. 이러한 구현은 아이웨어 디바이스(100)의 측면당 대략 2-3W의 수동 열 분포의 목표보다 훨씬 낮다.

[0123] 도 10c는 아이웨어 디바이스(100)의 제1 SoC(602A)와 제2 SoC(602B) 사이에서 프로세싱 워크로드를 분할하기 위한 좌측- 우측 컴포넌트 전략을 묘사한다. 제1 SoC(602A)는 제1 카메라(114A) 및 제1 디스플레이(608A)에 직접 커플링되고, 제2 SoC(602B)는 제2 카메라(114B) 및 제2 디스플레이(608B), 저전력 마이크로프로세서(422) 및 무선 회로(424/436)에 직접 커플링된다. 제1 SoC(602A)는 PCI Express, SDIO, USB 등과 같은 프로세서-간 통신 버스에 의해 제2 SoC(602B)에 연결될 수 있으며, 전력은 열 로드, 프로세싱 요건들 또는 이들의 조합에 기반하여 좌측과 우측 사이에서 동적으로 할당될 수 있다.

[0124] 각각의 SoC는 대략 1.5W 또는 (예컨대, 950-1000mW)에서 동작한다. 일례에서, 제1 SoC(602A)는 CPU(100mW) 상에서 OS를 실행하며, ISP/DSP(100mW)를 사용하여 이미지들을 캡처하며, GPU(100mW) 상에서 이미지들을 렌더링하며, CPU, 전용 하드웨어 가속 로직 블록들(예컨대, 디스패치 매퍼) 및 DSP(350mW) 상에서 다양한 알고리즘들을 실행하며, 그리고 아이웨어 디바이스의 제1 측면에 할당된 총 950mW의 전력에 대해 CPU, GPU 및 DSP(300mW) 상에서 다양한 알고리즘들을 실행하는 것을 담당한다. 제2 SoC(602B)는 CPU(100mW) 상에서 OS를 실행하며, CPU(100mW)를 사용하여 무선 연결을 실행하며, ISP/DSP(100mW)를 사용하여 이미지들을 캡처하며, GPU(100mW) 상에서 이미지들을 렌더링하며, CPU와 DSP(300mW) 상에서 다양한 알고리즘들을 실행하며, 그리고 아이웨어 디바이스의 제2 측면에 할당된 총 1000mW의 전력에 대해 CPU, GPU 및 DSP(300mW) 상에서 다양한 알고리즘들을 실행하는 것을 담당한다. 이러한 구현은 아이웨어 디바이스(100)의 측면당 대략 2-3W의 수동 열 분포의 목표보다 훨씬 낮다.

[0125] 도 11a는 전자 디바이스(예컨대, 예시된 예에서는 AR 헤드셋)에서 사용하기 위해 컴퓨팅 시스템(1100A) 상에서 구현된 기존 OS의 예를 묘사한다. 기존 OS는 프로세스들을 조정한다. 컴퓨팅 시스템(1100A)은 애플리케이션 프로세서(1102)(예컨대, 본원에서 설명된 SoC의 프로세서)와 같은 프로세싱 시스템을 포함한다. 애플리케이션 프로세서(1102) 상에서 실행되는 커널(1104)은 OS(1106)를 구현한다.

[0126] 애플리케이션 서비스(1108)(예컨대, 소셜 미디어 애플리케이션)는 서비스를 제공하기 위해 OS(1106) 상에서 실행된다. 다른 소프트웨어 컴포넌트들은 OS(1106) 상에서 실행되어 애플리케이션 서비스(1108)의 기능들을 지원하고 활성화하는 서비스들을 제공한다. 일부 예들에서, 이들 컴포넌트들은 오버레이들(예시된 예에서 3개의 렌즈 오버레이들(1112A, B, C))을 생성하기 위한 소프트웨어를 포함하는 렌즈 코어 서비스(1110), 가상 입력/출력 서비스(1114), 하이퍼터미널 에뮬레이터 서비스(1116) 및 스캔 서비스(1118) 중 하나 이상을 포함한다. 스캔 서비스(1118)는 디지털 신호 프로세서들(예컨대, aDSP(1120a) 및 cDSP(112b); 이를테면 캘리포니아 샌디에이고에 있는 Qualcomm로부터 입수 가능한 Snapdragon mobile platform DSP)와 같은 하드웨어 자원들에 대한 액세스를 조정한다. 애플리케이션 서비스(1108)는 카메라들(114A, B)로부터 이미지들을 수신하고, 프로젝터들(180A, B)을 통해 이미지들을 제시한다. 컴포넌트들/서비스들은 Binder for Android 컴포넌트들 및 다른 ad-hoc 통신 프로토콜들과 같은 IPC 프로토콜을 사용하여 통신한다.

[0127] 컴퓨터 시스템(1100A)은 미국 캘리포니아 쿠퍼티노에 위치한 Nordic Semiconductor, Inc.로부터 입수 가능한 코프로세서와 같은 실시간 OS(1124)를 갖는 통신 코프로세서(1122)를 추가로 포함한다.

[0128] 도 11b는 전자 디바이스(예컨대, 예시된 예에서는 AR 헤드셋)에서 사용하기 위해 컴퓨팅 시스템(1100B) 상에서 구현된 컨테이너화된 OS의 예를 묘사한다. 기존 OS들과 달리, 컨테이너에 담긴 OS는 프로세스들 대신 서비스들을 조정한다. 컴퓨팅 시스템(1100B)은 제1 프로세싱 시스템(본원에서 설명된 제1 SoC와 같은 제1 애플리케이션 프로세서(1152A)) 및 제2 프로세싱 시스템(본원에서 설명된 제2 SoC와 같은 제2 애플리케이션 프로세서(1152B))을 포함한다. 이러한 예가 2개의 애플리케이션 프로세서들(1152A, B)을 갖는 프로세싱 시스템을 참조하여 설명되지만, 당업자는 더 많은(예컨대, 4개의) 또는 더 적은(예컨대, 1개의) 프로세싱 시스템들을 갖는 시스템들에 컨테이너화된 OS 접근법을 적용하는 방법을 이해할 것이다. 도 11b에 묘사되고 본원에서 설명된 예시적인 컨테이너화된 OS가 가상 머신들 사이의 격리 및 통신을 지원하기 위한 시스템 격리 관리자로서 하이퍼바이저를 활용하는 경우에, 당업자는 컨테이너 관리자, 이를테면 Docker를 사용하여 컨테이너 레벨에서 격리 및 통신을 지원하기 위한 시스템 격리 관리자를 사용하여 격리 및 통신을 구현하는 방법을 이해할 것이다.

[0129] 각각의 애플리케이션 프로세서(1152)는 개개의 하이퍼바이저(1154)(예컨대, 애플리케이션 프로세서(1152A) 상에서 실행되는 하이퍼바이저(1154A) 및 애플리케이션 프로세서(1152B) 상에서 실행되는 하이퍼바이저(1154B))를 포함한다. 일례에서, 하이퍼바이저(1154A) 및 하이퍼바이저(1154B)는 적어도 실질적으로 동일하므로, SCVM은 애플리케이션 프로세서(1152) 상의 하이퍼바이저(1154) 상에서 실행될 수 있다. 일례에서, 하이퍼바이저(1154)는 각각의 SCVM을 시작(스폰) 및 중지하거나, SCVM들에 주변 액세스를 위임하거나, 공유 자원들에 대한 액세스를 중재하거나, 공유된 자원들에 대한 액세스를 위한 대역폭 제한들을 강제하거나 또는 이들의 조합을 수행하도록 구성된다.

[0130] 하나 이상의 SCVM들(1156)은 개개의 애플리케이션 프로세서(1152)의 하이퍼바이저(1154) 상에서 실행된다. 각각의 SCVM(1156)은 그 자체의 OS를 포함하며, 적어도 하나의 서비스를 제공하도록 구성된다. 추가적으로, 감독자 OS(미도시)는 하이퍼바이저(1154) 각각 상에서 실행된다.

[0131] 예시된 예에서, 제1 애플리케이션 프로세서(1152A) 상에서, 제1 SCVM(1156A)은 OS(1158A)를 포함하고, 애플리케이션 서비스(1160A1)(예컨대, 소셜 미디어 애플리케이션) 및 블루투스 동기화 서비스(1160A2)를 제공하도록 구성된다. 제2 SCVM(1156B)은 OS(1158B)를 포함하고 트랜스코딩 서비스(1160B)를 제공하도록 구성된다. 제3 SCVM(1156C)은 렌즈 코어 서비스(1160C1)를 제공하도록 구성된 제1 OS(1158C1) 및 컴포지터 서비스(1160C2)를 제공하도록 구성된 제2 OS(1158C2)를 포함한다. SCVM이 1개 초과의 서비스를 제공하는 경우에, 커널은 컨테이너들에 의해 공유되어, SCVM 상의 컨테이너들에 의한 프로세싱을 관리하기 위한 서비스들을 제공한다.

[0132] 제2 애플리케이션 프로세서(1152B) 상에서, 제4 SCVM(1156D)은 OS(1158D)를 포함하고 VIO 서비스(1160D)를 제공하도록 구성된다. 제5 SCVM(1156E)은 OS(1158E)를 포함하고 스캐닝 서비스(1160D)를 제공하도록 구성된다. 제6 SCVM(1156F)은 OS(1158F)를 포함하고 핸드트래킹 서비스(1160F)를 제공하도록 구성된다. 제7 SCVM(1156G)은 OS(1158G)를 포함하고 카메라 서비스(1160G)를 제공하도록 구성된다.

[0133] 일례에서, 각각의 SCVM은 적어도 하나의 자원 버짓(미도시)을 포함한다. 자원 버짓은 SCVM이 요청/활용할 수 있는 특정 자원의 최대량을 특정한다. 예시적인 자원들은 비제한적인 예로서 메모리(434)의 할당, 프로세서(432)의 대역폭 등을 포함한다(예컨대, VIO 서비스 사용을 위해 200MB의 RAM 예약, 서비스 레벨 5에서 오버커밋 없음, CPU, 메모리, 네트워크 및 IO 대역폭 보장).

[0134] 각각의 SCVM이 2개 이상의 자원 버짓들을 포함하는 예들에서, SCVM은 (예컨대, 전자 디바이스 또는 애플리케이션 프로세서의 현재 동작 모드에 응답하여) 적절한 자원 버짓을 선택할 수 있다. 예컨대, 동작 모드들 중 하나는 이미지 획득 모드(여기서, 카메라 서비스(1160G) 및 VIO 서비스(1160D)는 더 많은 자원들을 요구함)에 대한 것일 수 있으며, 다른 동작 모드는 이미지 렌더링 모드(여기서, 렌즈 코어 서비스(1160C1) 및 컴포지터 서비스(1160C2)는 더 많은 자원들을 요구함)에 대한 것일 수 있다.

[0135] 서비스들(1160A2 및 B-F)은 애플리케이션 서비스(1160A1)의 기능을 지원하고 가능하게 하는 서비스들을 제공한다. 애플리케이션 프로세서(1152)는 하나 이상의 디지털 신호 프로세서들과 연관될 수 있다(예컨대, 애플리케이션 프로세서(1152A)는 aDSP(1162A1) 및 cDSP(1162B1)과 연관되고, 애플리케이션 프로세서(1152B)는 aDSP(1162A2) 및 cDSP(1162B2)와 연관된다). 스캔 서비스(1160E)는 디지털 신호 프로세서들(예컨대, aDSP(1162A2) 및 cDSP(1162B2))과 같은 하드웨어 자원들에 대한 액세스를 조정한다. 애플리케이션 서비스(1160A1)는 (예컨대, 카메라 서비스(1160G)를 통해) 카메라들(114A, B)로부터 이미지들을 수신하고, 프로젝터(180A, B)를 통해 (예컨대, 렌즈 코어 서비스(1160C1) 및 컴포지터 서비스(1160C2)를 통해) 이미지들을 제시한다.

[0136] 컴퓨터 시스템(1100B)은 미국 캘리포니아 쿠퍼티노에 위치한 Nordic Semiconductor, Inc.로부터 입수 가능한 코프로세서와 같은 실시간 OS(1124)를 갖는 통신 코프로세서(1122)를 추가로 포함한다.

[0137] 컴포넌트들/서비스들은 슈퍼바이저 OS 및 OS들(1158)에 의해 지원되는 IPC 프로토콜을 사용하여 서로(애플리케이션-간 프로세서 및 애플리케이션-내 프로세서) 통신한다. IPC 프로토콜은 각각의 서비스의 물리적 로케이션을 추상화한다. 다시 말해서, 서비스 관점에서, IPC 콜은 피호출자가 호출자의 SoC, 상이한 SoC, 또는 Nordic 유닛 또는 Snapdragon xDSP 유닛과 같은 코프로세서 상에 상주하든지 간에 동일한 방식으로 작용한다.

[0138] 일례에서, IPC 프로토콜은 sandstorm.io, protobuf로부터 입수 가능한 Cap'n Proto와 같은 데이터 교환 포맷 프로토콜 또는 다른 데이터 교환 포맷이다. 연결들의 서브세트가 도 11b에 예시되어 있으나, 본질적으로 임의의 서비스/컴포넌트는 IPC 프로토콜을 사용하여 임의의 다른 서비스/컴포넌트와 통신할 수 있다. 애플리케이션-간 프로세서/SoC 및 애플리케이션-내 프로세서/SoC에 부가하여, 서비스들은 IPC 프로토콜을 활용하여 메시지들을 전송함으로써 다른 자원들(예컨대, aDSP(1162A), cDSP(1162B) 및 Nordic(1122))과 통신할 수 있다.

[0139] 도 12a-도 12c는 컴퓨팅 디바이스, 예컨대 아이웨어 디바이스의 단일 SoC 또는 듀얼 SoC들과 같은 컴퓨팅 디바이스들의 프로세싱 시스템 상에서 OS를 구현하기 위한 흐름도들(1200/1220/1240)이다. 단계들이 아이웨어 디바이스(100)를 참조하여 설명되지만, 흐름도들(1200/1220/1240)의 하나 이상의 단계들이 실시할 수 있는 다른 적절한 디바이스들은 본원의 설명으로부터 당업자에 의해 이해될 것이다. 추가적으로, 도 12a-12c에 도시되고 본원에서 설명된 단계들 중 하나 이상이 생략되거나, 동시에 또는 직렬로 수행되거나, 또는 예시 및 설명된 것과 다른 순서로 수행되거나 또는 추가 단계들과 함께 수행될 수 있다는 것이 고려된다. 더욱이, 도 12a-12c에 묘사되고 본원에서 설명된 예시적인 방법들이 가상 머신들 사이의 격리 및 통신을 지원하기 위한 시스템 격리 관리자로서 하이퍼바이저를 활용하는 경우에, 당업자는 컨테이너 관리자, 이를테면 Docker를 사용하여 컨테이너 레벨에서 격리 및 통신을 지원하기 위한 시스템 격리 관리자를 사용하여 격리 및 통신을 구현하는 방법을 이해할 것이다.

[0140] 도 12a는 컴퓨팅 시스템 상에서 동작들을 수행하기 위한 예시적인 단계들의 흐름도(1200)이다. 블록(1202)에서, 프로세싱 시스템은 하이퍼바이저를 실행한다. 하이퍼바이저는 슈퍼바이저 OS를 갖는다. 하이퍼바이저는 적어도 하나의 프로세싱 시스템 각각 상에서 (예컨대, 제1 SoC(602A) 및 제2 SoC(602B) 각각 상에서) 실행된다.

[0141] 블록(1204)에서, 하이퍼바이저는 하이퍼바이저 상에서 실행되도록 구성된 제1 OS를 갖는 제1 SCVM을 스폰한다. 제1 SCVM은 제1 서비스(예컨대, 애플리케이션 서비스)를 제공하도록 구성된다. 일례에서, 제1 SCVM은 제1 컨테이너를 포함하고, 제1 서비스는 제1 컨테이너에서 실행된다. 적어도 하나의 프로세서가 하나 이상의 SoC들인 경우에, SoC는 제1 SCVM을 스폰한다.

[0142] 일례에서, 하이퍼바이저는 특정 SoC들 상에서 특정 SCVM들/서비스들을 스폰하도록 구성된다. 다른 예들에서, 하이퍼바이저는 예컨대 프로세싱을 분산하고 열 로드들을 밸런싱하기 위해 SoC들 상에서 SCVM들을 동적으로 스폰하도록 구성된다.

[0143] 블록(1206)에서, 하이퍼바이저는 하이퍼바이저 상에서 실행되도록 구성된 제2 OS를 갖는 제2 SCVM을 스폰한다. 제2 SCVM은 제2 서비스(예컨대, 컴포지터 서비스)를 제공하도록 구성된다. 일례에서, 제2 SCVM은 제2 컨테이너를 포함하고, 제2 서비스는 제2 컨테이너에서 실행된다. 적어도 하나의 프로세서가 하나 이상의 SoC들인 경우에, SoC는 제2 SCVM을 스폰한다.

[0144] 블록(1208)에서, 제1 SCVM은 제2 SCVM과 통신한다. SCVM들은 하이퍼바이저의 슈퍼바이저 OS, 제1 OS, 및 제2 OS에 의해 지원되는 IPC 프로토콜을 통해 서로 통신한다. 추가적으로, SCVM들은 다른 컴포넌트들/자원들과 통신할 수 있다.

[0145] 블록(1210)에서, 컴퓨팅 시스템은 SCVM들의 컴퓨팅 자원들을 관리한다. 일례에서, 컴퓨터 시스템은 IPC 프로토콜을 통해 컴퓨팅 자원들을 관리한다. 예컨대, 각각의 SCVM은 (컴퓨팅 시스템 내에서 할당/계획되는) 자원 버짓을 포함할 수 있다. 동작 동안, SCVM은 자신의 자원 버짓을 모니터링하며, 단지 자원 버짓내에 있는 경우에 (IPC 프로토콜을 통해) 컴퓨팅 시스템으로부터 자원들을 요청한다. 컴퓨팅 시스템은 (예컨대, 우선순위 레벨 방식을 사용한 라운드 로빈을 사용하여) 요청된 서비스들을 스케줄링한다. 일례에서, 컴퓨팅 자원들은 모든 SCVM들로부터의 결합된 자원 버짓들을 충족하거나 또는 초과한다. SCVM들이 단지 자신들의 자원 버짓 내에서만 자원들을 요청하기 때문에, 서비스들에 대한 액세스를 거부하거나 제한할 필요 없이 모든 SCVM들의 요청들을 이행하는 데 이용 가능한 적절한 자원들이 존재할 것이다.

[0146] 일례에서, 하드웨어와 배타적으로 상호작용하는 서비스들(예컨대, 컴포지터 서비스, 카메라 서비스들)에는 가상 머신(VM) 패스-스루를 통해 해당 하드웨어에 대한 직접 액세스가 제공되며, 이는 반가상화 및 디바이스 에뮬레이션 오버헤드에 대한 필요성을 제거한다.

[0147] 도 12b는 컴퓨팅 시스템 상에서 동작들을 수행하기 위한 예시적인 단계들의 흐름도(1220)이다. 블록(1222)에서, 컴퓨팅 시스템은 제1 모드(예컨대, 이미지 획득 모드)에서 동작한다. 일례에서, 컴퓨팅 시스템은 다수의 동작 모드들을 가지며, 하나 이상(예컨대, 모든) SCVM들은 대응 동작 모드들을 갖는다. 이러한 예에 따른 각각의 SCVM의 동작 모드는 연관된 정의된 자원 버짓(예컨대, SCVM에서 액세스가능한 룩업 테이블에 유지됨)을 갖는다.

[0148] 블록(1224)에서, SCVM들은 제1 모드에서 동작한다. 제1 동작 모드에 있을 때, 각각의 SCVM은 해당 모드에서 동작하는 해당 SCVM의 개개의 자원 버짓에 의해 부과된 제약들 내에서 자원들을 활용한다. SCVM들은 스폰될 때 제1 모드에서 디폴트일 수 있거나, 또는 하이퍼바이저는 제1 모드를 식별하는 것을 스폰할 때 (예컨대, IPC 프로토콜을 통해) SCVM에 통신을 제공할 수 있다 .

[0149] 블록(1226)에서, 컴퓨팅 시스템은 자신이 제2 모드(예컨대, 이미지 프로젝션 모드)로 전환하고 있음을 SCVM들에 통지한다. 컴퓨팅 시스템이 제1 모드로부터 제2 모드로 전환될 때, 컴퓨팅 시스템은 SCVM들이 전환을 준비할 수 있도록 (예컨대, IPC 프로토콜을 통해) 전환을 SCVM들에 통지한다.

[0150] 블록(1228)에서, 컴퓨팅 시스템은 제2 모드로 전환된다.

[0151] 블록(1230)에서, SCVM들은 제2 모드에서 동작한다. 제2 동작 모드에 있을 때, 각각의 SCVM은 해당 모드에서 동작하는 해당 SCVM의 개개의 자원 버짓에 의해 부과된 제약들 내에서 자원들을 활용한다. SCVM들은 자신들이 제2 모드로 전환하고 있다는, (예컨대, IPC 프로토콜을 통한) 컴퓨팅 시스템으로부터의 통지에 대한 응답으로 제2 모드에서 동작하도록 전환될 수 있다.

[0152] 도 12c는 하이퍼바이저 상에서 동작들을 수행하기 위한 예시적인 단계들의 흐름도(1240)이다. 블록(1242)에서, 하이퍼바이저는 제1 SCVM 및 제2 SCVM을 시작하고 중지한다. 일례에서, 하이퍼바이저는 구성 및 디바이스 상태의 변화들에 따라 필요시 SoC의 노드들에서 가상 머신 서비스들을 시작하고 중지한다. 블록(1244)에서, 하이퍼바이저는 제1 SCVM 및 제2 SCVM에 주변 액세스를 위임한다. 블록(1246)에서 하이퍼바이저는 공유 자원들에 대한 액세스를 중재한다. 블록(1248)에서, 하이퍼바이저는 공유 자원들에 대한 액세스를 위한 대역폭 제한들을 강제한다.

[0153] 바로 위에 언급된 경우를 제외하고, 청구항들에 인용되든 아니든 무관하게, 언급되거나 예시된 어떤 것도 컴포넌트, 단계, 특징, 목적, 이익, 이점 또는 이에 상응하는 것을 일반 대중에게 제공하도록 의도되거나 해석되어서는 안된다.

[0154] 본원에서 사용된 용어들 및 표현들은, 특정 의미들이 본원에 달리 제시된 경우를 제외하고는 그들 대응하는 개개의 탐구 및 연구 영역들과 관련하여 그러한 용어들 및 표현들에 부여된 바와 같은 일반적인 의미를 갖는다는 것이 이해될 것이다. 관계형 용어들, 이를테면 제1, 제2 등은 단지 하나의 엔티티 또는 동작을 다른 것으로부터 구별하기 위해 사용될 수 있고, 이러한 엔티티들 또는 동작들 간의 임의의 실제 이러한 관계 또는 순서를 반드시 요구하거나 암시하지는 않는다. 용어들 "포함하다", "포함하는", "구비하다" , "구비하는" , 또는 이의 임의의 다른 변형은 비-배타적인 포함을 커버하는 것으로 의도되어, 엘리먼트들 또는 단계들의 리스트를 포함하거나 구비하는 프로세스, 방법, 물품 또는 장치는 그러한 엘리먼트들 또는 단계들만을 구비하는 것이 아니라, 명시적으로 나열되지 않거나 또는 이러한 프로세스, 방법, 물품 또는 장치에 고유한 다른 엘리먼트들 또는 단계들을 구비할 수 있다. 단수형 엘리먼트는, 추가적인 제약들 없이, 엘리먼트를 포함하는 프로세스, 방법, 물품 또는 장치에서 추가적인 동일한 엘리먼트들의 존재를 배제하지 않는다.

[0155] 달리 언급되지 않는 한, 하기 청구항들을 포함하여 본 명세서에 기재된 임의의 그리고 모든 측정치들, 값들, 등급들, 포지션들, 크기들, 사이즈들 및 다른 규격들은 정확한 것이 아니라 근사치이다. 이러한 수량들은, 이들이 관련되는 기능들 및 이들과 관련된 분야에서 통상적인 것과 일치하는 합리적인 범위를 갖도록 의도된다. 예컨대, 달리 명시적으로 언급되지 않는 한, 파라미터 값 등은 언급된 양 또는 범위으로부터 ± 10 %만큼 많이 달라질 수 있다.

[0156] 더욱이, 전술한 상세한 설명에서, 다양한 특징들은 본 개시내용을 간소화할 목적으로 다양한 예들에서 함께 그룹화된다. 본 개시내용의 방법은 청구되는 예들이 각각의 청구항에 명시적으로 언급된 것보다 많은 특징들을 요구하려는 의도를 반영하는 것으로 해석되어서는 안 된다. 오히려, 하기의 청구항들이 반영하는 바와 같이, 보호될 청구대상은 임의의 단일의 개시된 예의 모든 특징들보다 적다. 따라서, 하기의 청구항들은 상세한 설명에 통합되며, 각각의 청구항은 별개로 청구된 청구대상으로서 독자적으로 기재된다.

[0157] 전술한 것은 최상의 모드 및 다른 예들인 것으로 고려되는 것을 설명하지만, 본원에서 다양한 수정들이 이루어질 수 있고 본원에 개시된 청구대상은 다양한 형태들 및 예들로 구현될 수 있으며 이들은 다수의 애플리케이션들에 적용될 수 있고 그 일부만이 본원에서 설명되었음이 이해된다. 이하의 청구항들은 본 개념들의 진정한 범위 내에 있는 임의의 그리고 모든 수정들 및 변경들을 청구하도록 의도된다.

Claims

전자 디바이스로서,
적어도 하나의 프로세싱 시스템;
상기 적어도 하나의 프로세싱 시스템 각각 상에서 실행되도록 구성된 시스템 격리 관리자 ― 상기 시스템 격리 관리자는 슈퍼바이저 오퍼레이팅 시스템(OS)을 실행함 ―;
제1 OS를 갖는 제1 SCVM(self-contained virtual machine) ― 상기 제1 SCVM은 상기 시스템 격리 관리자에 의해 관리되며 제1 서비스를 제공하도록 구성됨 ―;
제2 OS를 갖는 제2 SCVM ― 상기 제2 SCVM은 상기 시스템 격리 관리자에 의해 관리되고, 제2 서비스를 제공하며, 상기 슈퍼바이저 OS, 상기 제1 OS 및 상기 제2 OS에 의해 지원되는 IPC(inter-process communication) 프로토콜을 통해 상기 제1 SCVM과 통신하도록 구성됨 ―
을 포함하는, 전자 디바이스.
제1 항에 있어서,
상기 적어도 하나의 프로세싱 시스템은 제1 SoC 및 제2 SoC를 포함하고, 상기 제1 및 제2 SCVM들 각각은 상기 제1 SoC 또는 상기 제2 SoC에서 스폰(spawn)되는, 전자 디바이스.
제1 항에 있어서,
상기 시스템 격리 관리자는 하이퍼바이저인, 전자 디바이스.
제1 항에 있어서,
상기 제1 SCVM은 제1 컨테이너이고, 상기 제2 SCVM은 제2 컨테이너이며, 상기 시스템 격리 관리자는 상기 제1 및 제2 컨테이너들을 관리하는 컨테이너 관리자인, 전자 디바이스.
제1 항에 있어서,
상기 제1 SCVM 및 상기 제2 SCVM에 의해 공유되는 컴퓨팅 자원들을 더 포함하며;
상기 컴퓨팅 자원들은 상기 IPC 프로토콜을 통해 관리되는, 전자 디바이스.
제1 항에 있어서,
상기 제1 SCVM은 제1 컨테이너 및 제2 컨테이너를 포함하며, 제3 서비스를 제공하도록 추가로 구성되며, 상기 제1 서비스는 상기 제1 컨테이너에서 실행되고, 상기 제3 서비스는 상기 제2 컨테이너에서 실행되는, 전자 디바이스.
제6 항에 있어서,
상기 제1 SCVM은 상기 제1 SCVM 공유의 상기 제1 컨테이너 및 상기 제2 컨테이너에 의해 공유되는 커널을 포함하는, 전자 디바이스.
제1 항에 있어서,
상기 제1 서비스는 제1 정의된 자원 버짓을 가지며, 상기 제2 서비스는 제2 정의된 자원 버짓을 가지는, 전자 디바이스.
제8 항에 있어서,
상기 적어도 하나의 프로세싱 시스템은 제1 동작 모드 및 제2 동작 모드를 가지며, 상기 제1 정의된 자원 버짓 및 상기 제2 정의된 자원 버짓은 상기 제1 동작 모드에 대한 것이고, 상기 제1 서비스는 상기 제2 동작 모드에 대한 제3 정의된 자원 버짓을 가지며, 상기 제2 서비스는 상기 제2 동작 모드에 대한 제4 정의된 자원 버짓을 가지는, 전자 디바이스.
제1 항에 있어서,
상기 시스템 격리 관리자는,
상기 제1 SCVM 및 상기 제2 SCVM을 시작 및 중지하는 것;
상기 제1 SCVM 및 상기 제2 SCVM에 주변 액세스를 위임하는 것;
공유 자원들에 대한 액세스를 중재하는 것; 또는
상기 공유 자원들에 대한 액세스를 위한 대역폭 제한들을 강제(enforce)하는 것 중 적어도 하나를 수행하도록 구성되는, 전자 디바이스.
아이웨어(eyewear)로서,
사용자의 머리에 착용되도록 구성된 프레임;
상기 아이웨어의 프레임에 통합된 제1 항의 전자 디바이스를 포함하며;
상기 적어도 하나의 프로세싱 시스템은 제1 SoC 및 제2 SoC를 포함하며; 그리고
상기 제1 SoC는 상기 프레임의 제1 부분에 포지셔닝되며, 상기 적어도 하나의 SoC의 제2 SoC는 상기 프레임의 제2 부분에 포지셔닝되는, 아이웨어.
제11 항에 있어서,
상기 제1 부분은 상기 프레임의 제1 측면에 인접하고, 상기 프레임의 제2 부분은 상기 프레임의 제2 측면에 인접한, 아이웨어.
전자 디바이스와 함께 사용하기 위한 방법으로서,
슈퍼바이저 오퍼레이팅 시스템(OS)을 갖는 시스템 격리 관리자를 실행하는 단계;
제1 OS를 갖는 제1 SCVM(self-contained virtual machine)을 스폰하는 단계 ― 상기 제1 SCVM은 상기 시스템 격리 관리자에 의해 관리되며 제1 서비스를 제공하도록 구성됨 ―;
제2 OS를 갖는 제2 SCVM을 스폰하는 단계 ― 상기 제2 SCVM은 상기 시스템 격리 관리자에 의해 관리되며 제2 서비스를 제공하도록 구성됨 ―; 및
상기 슈퍼바이저 OS, 상기 제1 OS, 및 상기 제2 OS에 의해 지원되는 IPC(inter-process communication) 프로토콜을 통해 상기 제1 SCVM과 상기 제2 SCVM 사이에서 통신들을 전송하는 단계를 포함하는, 전자 디바이스와 함께 사용하기 위한 방법.
제13 항에 있어서,
상기 스폰하는 단계는,
제1 SoC에서 상기 제1 SCVM을 스폰하는 단계; 및
상기 제1 SoC에서 상기 제2 SCVM을 스폰하는 단계를 포함하는, 전자 디바이스와 함께 사용하기 위한 방법.
제13 항에 있어서,
상기 스폰하는 단계는,
제1 SoC에서 상기 제1 SCVM을 스폰하는 단계; 및
제2 SoC에서 상기 제2 SCVM을 스폰하는 단계를 포함하는, 전자 디바이스와 함께 사용하기 위한 방법.
제13 항에 있어서,
상기 IPC 프로토콜을 통해 상기 제1 SCVM 및 상기 제2 SCVM에 의해 사용되는 컴퓨팅 자원들을 관리하는 단계를 더 포함하는, 전자 디바이스와 함께 사용하기 위한 방법.
제13 항에 있어서,
상기 제1 SCVM은 제1 컨테이너 및 제2 컨테이너를 포함하고, 제3 서비스를 제공하도록 추가로 구성되며,
상기 방법은,
상기 제1 컨테이너에서 상기 제1 서비스를 실행하는 단계; 및
상기 제2 컨테이너에서 상기 제3 서비스를 실행하는 단계를 더 포함하는, 전자 디바이스와 함께 사용하기 위한 방법.
제13 항에 있어서,
상기 제1 서비스는 제1 정의된 자원 버짓을 가지며, 상기 제2 서비스는 제2 정의된 자원 버짓을 가지며, 적어도 하나의 프로세싱 시스템은 제1 동작 모드 및 제2 동작 모드를 가지며, 상기 제1 정의된 자원 버짓 및 상기 제2 정의된 자원 버짓은 상기 제1 동작 모드에 대한 것이고, 상기 제1 서비스는 상기 제2 동작 모드에 대한 제3 정의된 자원 버짓을 가지며, 상기 제2 서비스는 상기 제2 동작 모드에 대한 제4 정의된 자원 버짓을 가지며,
상기 방법은,
상기 제1 동작 모드에서 상기 적어도 하나의 프로세싱 시스템을 동작시키는 단계 ― 상기 제1 SCVM은 상기 제1 정의된 자원 버짓내에서 동작하며, 상기 제2 SCVM은 상기 제1 모드에 있는 동안 상기 제2 정의된 자원 버짓으로 동작함 ―;
상기 적어도 하나의 프로세싱 시스템이 상기 제2 모드로 스위칭하고 있음을, 상기 제1 정의된 자원 버짓 내에서 동작하는 상기 제1 SCVM 및 상기 제2 정의된 자원 버짓으로 동작하는 상기 제2 SCVM에 통지하는 단계; 및
상기 제2 동작 모드에서 상기 적어도 하나의 프로세싱 시스템을 동작시키는 단계를 더 포함하며, 상기 제1 SCVM은 상기 제3 정의된 자원 버짓내에서 동작하며, 상기 제2 SCVM은 상기 제2 모드에 있는 동안 상기 제4 정의된 자원 버짓으로 동작하는, 전자 디바이스와 함께 사용하기 위한 방법.
제13 항에 있어서,
상기 시스템 격리 관리자는 하이퍼바이저이며,
상기 방법은, 상기 하이퍼바이저가,
상기 제1 SCVM 및 상기 제2 SCVM을 시작 및 중지하는 것;
상기 제1 SCVM 및 상기 제2 SCVM에 주변 액세스를 위임하는 것;
공유 자원들에 대한 액세스를 중재하는 것; 또는
상기 공유 자원들에 대한 액세스를 위한 대역폭 제한들을 강제하는 것 중 적어도 하나를 수행하는 단계를 더 포함하는, 전자 디바이스와 함께 사용하기 위한 방법.
적어도 하나의 프로세싱 시스템을 동작시키기 위한 명령들을 포함하는 비-일시적 컴퓨터 판독 가능 매체로서,
상기 명령들은, 상기 적어도 하나의 프로세싱 시스템에 의해 실행될 때,
슈퍼바이저 오퍼레이팅 시스템(OS)을 갖는 시스템 격리 관리자를 실행하며;
제1 OS를 갖는 제1 SCVM(self-contained virtual machine)을 스폰하며 ― 상기 제1 SCVM은 상기 시스템 격리 관리자에 의해 관리되며 제1 서비스를 제공하도록 구성됨 ―;
제2 OS를 갖는 제2 SCVM을 스폰하며 ― 상기 제2 SCVM은 상기 시스템 격리 관리자에 의해 관리되며 제2 서비스를 제공하도록 구성됨 ―; 그리고
상기 슈퍼바이저 OS, 상기 제1 OS, 및 상기 제2 OS에 의해 지원되는 IPC(inter-process communication) 프로토콜을 통해 상기 제1 SCVM과 상기 제2 SCVM 사이에서 통신들을 전송하도록,
상기 적어도 하나의 프로세싱 시스템을 구성하는, 비-일시적 컴퓨터 판독 가능 매체.