KR20240061529A

KR20240061529A - 거리 정보를 획득하는 전자 장치 및 이의 동작 방법

Info

Publication number: KR20240061529A
Application number: KR1020220178365A
Authority: KR
Inventors: 전진아; 송덕영; 오지윤
Original assignee: 삼성전자주식회사
Priority date: 2022-10-31
Filing date: 2022-12-19
Publication date: 2024-05-08

Abstract

본 개시의 일 실시예에 따른 전자 장치는, 초점 가변 렌즈, 상기 초점 가변 렌즈를 통해 입사되는 광의 이미지 프레임을 획득하는 이미지 센서, 및 상기 초점 가변 렌즈 및 상기 이미지 센서와 동작적으로 연결된 적어도 하나의 프로세서를 포함할 수 있다. 상기 적어도 하나의 프로세서는, 상기 이미지 센서를 통하여, 상기 초점 가변 렌즈의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 획득하고, 상기 획득한 적어도 하나 이상의 이미지 프레임에 기반하여, 상기 적어도 하나 이상의 이미지 프레임에 포함된 오브젝트에 대응하는 제1 초점 거리를 추정하고, 상기 추정한 제1 초점 거리에 기반하여, 상기 오브젝트와의 거리 정보를 획득하도록 설정될 수 있다.

Description

거리 정보를 획득하는 전자 장치 및 이의 동작 방법 {ELECTRONIC DEVICE OBTAINING DEPTH INFORMATION AND OPERATION METHOD THE SAME}

본 개시의 다양한 실시예들은, 이미지 센서를 이용하여 거리 정보를 획득하는 전자 장치 및 이의 동작 방법에 관한 것이다.

증강 현실(AR: augmented reality) 또는 혼합 현실(MR: mixted reality)에서, 장면 인식(scene understanding)을 통하여 주변에 위치한 오브젝트들의 거리 정보를 획득하고, 이에 따라 가상의 객체를 배치할 수 있다. 따라서, 가상 객체의 자연스러운 배치를 위하여, 주변의 장면을 인식하는 장면 인식 기술이 중요할 수 있다.

종래에는, 장면 인식을 위하여 깊이 센서(depth sensor)를 이용하거나, 복수 개의 스테레오 카메라(stereo camera)를 이용하여, 주변에 위치한 오브젝트들과의 거리 정보를 획득하고, 이에 따른 장면을 인식할 수 있었다.

본 개시의 일 실시예에 따른 전자 장치는, 초점 가변 렌즈, 상기 초점 가변 렌즈를 통해 입사되는 광의 이미지 프레임을 획득하는 이미지 센서, 및 상기 초점 가변 렌즈 및 상기 이미지 센서와 동작적으로 연결된 적어도 하나의 프로세서를 포함할 수 있다. 상기 적어도 하나의 프로세서는, 상기 이미지 센서를 통하여, 상기 초점 가변 렌즈의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 획득하도록 설정될 수 있다. 상기 적어도 하나의 프로세서는, 상기 획득한 적어도 하나 이상의 이미지 프레임에 기반하여, 상기 적어도 하나 이상의 이미지 프레임에 포함된 오브젝트에 대응하는 제1 초점 거리를 추정하도록 설정될 수 있다. 상기 적어도 하나의 프로세서는, 상기 추정한 제1 초점 거리에 기반하여, 상기 오브젝트와의 거리 정보를 획득하도록 설정될 수 있다.

본 개시의 일 실시예에 따른 전자 장치는, 초점 가변 렌즈, 및 상기 초점 가변 렌즈를 통해 입사되는 광의 이미지 프레임을 획득하는 이미지 센서를 포함할 수 있다. 일 실시예에 따른 전자 장치의 동작 방법은, 상기 이미지 센서를 통하여, 상기 초점 가변 렌즈의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 획득하는 동작을 포함할 수 있다. 일 실시예에 따른 전자 장치의 동작 방법은, 상기 획득한 적어도 하나 이상의 이미지 프레임에 기반하여, 상기 적어도 하나 이상의 이미지 프레임에 포함된 오브젝트에 대응하는 제1 초점 거리를 추정하는 동작을 포함할 수 있다. 일 실시예에 따른 전자 장치의 동작 방법은, 상기 추정한 제1 초점 거리에 기반하여, 상기 오브젝트와의 거리 정보를 획득하는 동작을 포함할 수 있다.

본 개시의 일 실시예에 따른 하나 이상의 프로그램을 저장하는 비일시적 컴퓨터 판독 가능 저장 매체는, 어플리케이션의 실행에 기반하여, 상기 이미지 센서를 통하여, 상기 초점 가변 렌즈의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 획득하는 동작을 포함할 수 있다. 일 실시예에 따른 저장 매체는, 상기 획득한 적어도 하나 이상의 이미지 프레임에 기반하여, 상기 적어도 하나 이상의 이미지 프레임에 포함된 오브젝트에 대응하는 제1 초점 거리를 추정하는 동작을 포함할 수 있다. 일 실시예에 따른 저장 매체는, 상기 추정한 제1 초점 거리에 기반하여, 상기 오브젝트와의 거리 정보를 획득하는 동작을 포함할 수 있다.

도 1은, 본 개시의 일 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2a는 본 개시의 일 실시예에 따른, 전자 장치의 블록도이다.
도 2b는, 본 개시의 일 실시예에 따른, 웨어러블 장치의 내부 구성을 설명하기 위한 사시도이다.
도 2c는, 본 개시의 일 실시예에 따른 웨어러블 장치의 분해 사시도이다.
도 3a는, 본 개시의 일 실시예에 따른 초점 가변 렌즈의 분할 사시도를 도시한 것이다.
도 3b는, 본 개시의 일 실시예에 따른 전압이 인가되지 않은 상태의 초점 가변 렌즈의 상태를 도시한 것이다.
도 3c는, 본 개시의 일 실시예에 따른 지정된 전압이 인가된 상태의 초점 가변 렌즈의 상태를 도시한 것이다.
도 4는, 본 개시의 일 실시예에 따른, 초점 가변 렌즈의 초점 거리에 대응하는 오브젝트와의 거리를 도식화한 것이다.
도 5는, 본 개시의 일 실시예에 따른 초점 가변 렌즈의 입력 전압에 대한 굴절률의 변화를 도시한 그래프이다.
도 6은, 본 개시의 일 실시예에 따른 초점 가변 렌즈의 입력 전압에 대한 오브젝트와의 거리의 변화를 도시한 그래프이다.
도 7a는, 본 개시의 일 실시예에 따른 초점 가변 렌즈를 통과한 광의 전초점 상태를 도식화한 것이다.
도 7b는, 본 개시의 일 실시예에 따른 초점 가변 렌즈를 통과한 광의 적정 초점 상태를 도식화한 것이다.
도 7c는, 본 개시의 일 실시예에 따른 초점 가변 렌즈를 통과한 광의 후초점 상태를 도식화한 것이다.
도 8은, 본 개시의 일 실시예에 따른 적어도 하나의 오브젝트(O1, O2, O3)의 거리 정보에 기반하여 생성한 거리맵의 예시를 도시한 것이다.
도 9는, 본 개시의 일 실시예에 따른 전자 장치의 동작 방법의 흐름도이다.

도 1은, 본 개시의 일 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다.

도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.

프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.

보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.

메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.

프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.

입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.

음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.

디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.

오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.

센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.

인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.

연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.

햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.

카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.

전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.

배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.

통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.

무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.

안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.

일 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.

상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.

일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.

도 2a는 본 개시의 일 실시예에 따른, 전자 장치(101)의 블록도이다.

도 2a를 참조하면, 일 실시예에 따른 전자 장치(101)는, 프로세서(120) 및/또는 제2 카메라 모듈(253)(예: 도 1의 카메라 모듈(180))을 포함할 수 있다. 여기서, 전자 장치(101)는 도 1의 전자 장치(101)의 구성을 모두 포함하거나, 적어도 일부를 포함할 수 있다.

일 실시예로, 전자 장치(101)는 후술하는 것과 같이 OST(optical see-through) 타입의 AR 글라스(예: 도 2b 및 도 2c의 웨어러블 장치(200))일 수 있으나, 이에 한정되지는 않는다. 일 실시예로, OST 타입의 AR 글라스는 표시 부재(예: 도 2b 및 도 2c의 표시 부재(201))가 투명 또는 반투명한 렌즈로 구현될 수 있고, 이에 따라 사용자가 투명 또는 반투명한 렌즈를 통하여 외부 환경을 직접 인식 가능할 수 있다.

일 실시예로, 프로세서(120)는 메모리(미도시)(예: 도 1의 메모리(130))에 저장된 어플리케이션 또는 명령을 실행하거나, 입력되는 데이터를 계산 또는 처리하여 결과 데이터를 출력할 수 있다. 일 실시예로, 프로세서(120)는 제2 카메라 모듈(253)의 동작을 제어함으로써, 후술하는 제2 카메라 모듈(253)을 통하여 거리 정보의 획득 및/또는 이미지의 획득과 관련한 동작을 수행할 수 있다.

종래의 direct TOF(time of flight)(dTOF) 또는 indirect TOF(iTOF) 센서의 경우, 광원(예: 송신(Tx) 소자)에서 발광한 특정 파장의 광이 오브젝트(예: 도 8의 적어도 하나의 오브젝트(O1, O2, O3))에 반사되어 수신함에 따라, 광을 발광하는 시점과 수신하는 시점 사이의 시간을 측정하여, 전자 장치와 물체 사이의 거리 정보를 획득하였다. 다만, direct TOF(dTOF) 또는 indirect TOF(iTOF) 방식의 경우, 별도의 실장 공간이 요구되고, 발광 동작을 위한 광원의 소모 전력이 높을(예: 송신(Tx) 및 수신(Rx) 포함 500 [mW] 이상) 수 있다.

실장 공간 및 소모 전력을 절감하기 위하여, SLAM(simultaneous localization and map-building) 목적으로 사용하는 스테레오 카메라(stereo camera)를 이용하여, 전자 장치와 물체 사이의 거리 정보를 획득하거나, 또는 거리 맵을 생성할 수 있다. 다만, 스테레오 카메라로 촬영한 좌/우 이미지의 양안시차(disparity)를 이용하여 거리 정보를 연산함에 따른 소모 전력이 증가되고, 거리를 측정하는 오브젝트가 원거리로 갈수록 거리 정보의 정밀도가 저하되고, 거리를 측정하는 오브젝트들이 중첩될 수 있다.

일 실시예로, 제2 카메라 모듈(253)에는 초점 가변 렌즈(280), 이미지 센서(290) 및/또는 제어 회로(285)가 포함될 수 있다. 일 실시예로, 초점 가변 렌즈(280)는 입력되는 전압 또는 전류의 변화에 의해 형상이 변형되고, 굴절률 및/또는 초점 거리가 가변되는 튜닝 가능한 T-lens(tunable lens)일 수 있다.

일 실시예로, 이미지 센서(290)는 초점 가변 렌즈(280)를 통해 입사되는 광의 이미지 프레임을 획득하는 센서로, 예를 들어 지정된 촬영 주기에 기반하여 적어도 하나 이상의 이미지 프레임을 획득할 수 있다.

일 실시예로, 이미지 센서(290)는 외부의 이미지 또는 영상을 촬영하기 위한 고해상도 RGB 타입일 수 있다. 이미지 센서(290)는 적어도 하나 이상의 픽셀로 구성되며, 각각의 픽셀에는 포토 다이오드(photo diode)(예: 도 7a의 제1 포토 다이오드(291), 제2 포토 다이오드(292))가 적어도 두 개 이상으로, 각각의 포토 다이오드를 통해 데이터를 입력 받는 2PD(photo diode) 타입일 수 있다.

일 실시예로, 이미지 센서(290)는 이미지 획득 신호를 수신하는 경우, 오브젝트에 대응하는 이미지 또는 영상을 획득할 수 있다. 일 실시예로, 이미지 센서(290)는 고화질의 이미지 또는 영상을 획득하는 고화질 이미지 센서일 수 있다.

일 실시예로, 제어 회로(285)는 프로세서(120)의 동작 신호에 의해, 제2 카메라 모듈(253)의 동작을 제어할 수 있다. 일 실시예로, 제어 회로(285)는 초점 가변 렌즈(280)로 입력되는 전압 또는 전류를 가변할 수 있다. 일 실시예로, 제어 회로(285)는 이미지 센서(290)로부터 획득되는 적어도 하나 이상의 이미지 프레임에 대응하는 데이터를 처리할 수 있다.

도 2b는, 본 개시의 일 실시예에 따른, 웨어러블 장치(200)의 내부 구성을 설명하기 위한 사시도이다. 도 2c는, 본 개시의 일 실시예에 따른 웨어러블 장치(200)의 분해 사시도이다.

도 2b 및 도 2c를 더 참조하면, 웨어러블 장치(200)는 안경 형태의 전자 장치로서, 사용자는 웨어러블 장치(200)를 착용한 상태에서 주변의 사물이나 환경을 시각적으로 인지할 수 있다. 예를 들어, 웨어러블 장치(200)는 사용자의 눈 앞에 직접 영상을 제공할 수 있는 헤드 마운팅 장치(head mounting device, HMD) 또는 스마트 안경(smart glasses)일 수 있다. 도 2b 및 도 2c의 웨어러블 장치(200)의 구성은 도 1의 전자 장치(101)의 구성과 전부 또는 적어도 일부가 동일할 수 있다.

일 실시예에 따르면, 웨어러블 장치(200)는 웨어러블 장치(200)의 외관을 형성하는 하우징(210)을 포함할 수 있다. 상기 하우징(210)은 웨어러블 장치(200)의 부품들이 배치될 수 있는 공간을 제공할 수 있다. 예를 들어, 하우징(210)은 렌즈 이미지 프레임(202), 및 적어도 하나의 착용 부재(203)를 포함할 수 있다.

일 실시예에 따르면, 웨어러블 장치(200)는 사용자에게 시각적인 정보를 제공할 수 있는 표시 부재(201)를 포함할 수 있다. 예를 들어, 표시 부재(201)는 렌즈 또는 제2 윈도우 부재, 디스플레이, 도파관 및/또는 터치 회로가 장착된 모듈을 포함할 수 있다. 일 실시예에 따르면, 표시 부재(201)는 투명 또는 반투명하게 형성될 수 있다. 일 실시예에 따르면, 표시 부재(201)는 반투명 재질의 글래스 또는 착색 농도가 조절됨에 따라 빛의 투과율이 조절될 수 있는 윈도우 부재를 포함할 수 있다. 일 실시예에 따르면, 표시 부재(201)는 한 쌍으로 제공되어, 웨어러블 장치(200)가 사용자 신체에 착용된 상태에서, 사용자의 좌안과 우안에 각각 대응하게 배치될 수 있다.

일 실시예에 따르면, 렌즈 이미지 프레임(202)은 표시 부재(201)의 적어도 일부를 수용할 수 있다. 예를 들어, 렌즈 이미지 프레임(202)은 표시 부재(201)의 가장자리의 적어도 일부를 둘러쌀 수 있다. 일 실시예에 따르면, 렌즈 이미지 프레임(202)은 표시 부재(201) 중 적어도 하나를 사용자의 눈에 상응하게 위치시킬 수 있다. 일 실시예에 따르면, 렌즈 이미지 프레임(202)은 일반적인 안경 구조의 림(rim)일 수 있다. 일 실시예에 따르면, 렌즈 이미지 프레임(202)은 표시 부재(201)를 둘러싸는 적어도 하나의 폐곡선을 포함할 수 있다.

일 실시예에 따르면, 착용 부재(203)는 렌즈 이미지 프레임(202)에서 연장될 수 있다. 예를 들어, 착용 부재(203)는 렌즈 이미지 프레임(202)의 단부에서 연장되고, 렌즈 이미지 프레임(202)과 함께, 사용자의 신체(예: 귀)에 지지 또는 위치될 수 있다. 일 실시예에 따르면, 착용 부재(203)는 힌지 구조(229)를 통해 렌즈 이미지 프레임(202)에 회동 가능하게 결합될 수 있다. 일 실시예에 따르면, 착용 부재(203)는 사용자의 신체와 대면하도록 구성된 내 측면(231c) 및 상기 내 측면의 반대인 외 측면(231d)을 포함할 수 있다.

일 실시예에 따르면, 웨어러블 장치(200)는 착용 부재(203)를 렌즈 이미지 프레임(202)에 대하여 접을 수 있도록 구성된 힌지 구조(229)를 포함할 수 있다. 상기 힌지 구조(229)는 렌즈 이미지 프레임(202)과 착용 부재(203) 사이에 배치될 수 있다. 웨어러블 장치(200)를 착용하지 않은 상태에서, 사용자는 착용 부재(203)를 렌즈 이미지 프레임(202)에 대하여 일부가 중첩하도록 접어 휴대 또는 보관할 수 있다.

웨어러블 장치(200)는 하우징(210)에 수용된 부품들(예: 적어도 하나의 회로 기판(241)(예: PCB(printed circuit board), PBA(printed board assembly), FPCB(flexible PCB) 또는 RFPCB(rigid-flexible PCB)), 적어도 하나의 배터리(243), 적어도 하나의 스피커 모듈(245), 적어도 하나의 전원 전달 구조(246), 및 카메라 모듈(250))을 포함할 수 있다. 하우징(210)의 구성은 렌즈 이미지 프레임(202) 및 착용 부재(203)를 포함할 수 있다.

일 실시예에 따르면, 웨어러블 장치(200)는 카메라 모듈(250)(예: 도 1의 카메라 모듈(180))을 이용하여 사용자가 바라보는 또는 웨어러블 장치(200)가 지향하는 방향(예: -Y 방향)의 사물이나 환경에 관한 시각적인 이미지를 획득 및/또는 인지하고, 네트워크(예: 도 1의 제1 네트워크(198) 또는 제2 네트워크(199))를 통해 외부의 전자 장치(예: 도 1의 전자 장치(102, 104) 또는 서버(108))로부터 사물 또는 환경에 관한 정보를 제공받을 수 있다. 다른 실시예에서, 웨어러블 장치(200)는 제공받은 사물이나 환경에 관한 정보를 음향 또는 시각적인 형태로 사용자에게 제공할 수 있다. 웨어러블 장치(200)는 제공받은 사물이나 환경에 관한 정보를 디스플레이 모듈(예: 도 1의 디스플레이 모듈(160))을 이용하여 시각적인 형태로 표시 부재(201)를 통해 사용자에게 제공할 수 있다. 예를 들어, 웨어러블 장치(200)는 사물이나 환경에 관한 정보를 시각적인 형태로 구현하고 사용자 주변 환경의 실제 이미지와 조합함으로써, 웨어러블 장치(200)는 증강 현실(augmented reality)을 구현할 수 있다.

일 실시예에 따르면, 표시 부재(201)는 외부의 빛이 입사되는 방향(예: -Y 방향)을 향하는 제1 면(F1) 및 상기 제1 면(F1)의 반대 방향(예: +Y 방향)을 향하는 제2 면(F2)을 포함할 수 있다. 사용자가 웨어러블 장치(200)를 착용한 상태에서, 제1 면(F1)을 통해 입사된 빛 또는 이미지의 적어도 일부는 사용자의 좌안 및/또는 우안과 마주보게 배치된 표시 부재(201)의 제2 면(F2)을 통과하여 사용자의 좌안 및/또는 우안으로 입사될 수 있다.

일 실시예에 따르면, 렌즈 이미지 프레임(202)은 적어도 둘 이상의 이미지 프레임을 포함할 수 있다. 예를 들면, 렌즈 이미지 프레임(202)은 제1 이미지 프레임(202a) 및 제2 이미지 프레임(202b)을 포함할 수 있다. 일 실시예에 따르면, 웨어러블 장치(200)를 사용자가 착용할 때, 제1 이미지 프레임(202a)은 사용자의 안면과 대면하는 부분의 이미지 프레임이고, 제2 이미지 프레임(202b)은 제1 이미지 프레임(202a)에 대하여 사용자가 바라보는 시선 방향(예: -Y 방향)으로 이격된 렌즈 이미지 프레임(202)의 일부일 수 있다.

일 실시예에 따르면, 광 출력 모듈(211)은 사용자에게 이미지 및/또는 영상을 제공할 수 있다. 예를 들어, 광 출력 모듈(211)은 영상을 출력할 수 있는 디스플레이 패널(미도시), 및 사용자의 눈에 대응되고, 상기 영상을 표시 부재(201)로 가이드하는 렌즈(미도시)를 포함할 수 있다. 예를 들어, 사용자는 광 출력 모듈(211)의 렌즈를 통해 광 출력 모듈(211)의 디스플레이 패널로부터 출력된 영상을 획득할 수 있다. 일 실시예에 따르면, 광 출력 모듈(211)은, 다양한 정보를 표시하도록 구성된 장치를 포함할 수 있다. 예를 들면, 광 출력 모듈(211)은 액정 표시 장치(liquid crystal display, LCD), 디지털 미러 표시 장치(digital mirror device, DMD), 실리콘 액정 표시 장치(liquid crystal on silicon, LCoS), 유기 발광 다이오드(organic light emitting diode, OLED) 또는 마이크로 엘이디(micro light emitting diode, micro LED) 중 적어도 하나를 포함할 수 있다. 일 실시예에 따르면, 광 출력 모듈(211) 및/또는 표시 부재(201)가, LCD, DMD, 또는 LCoS 중 하나를 포함하는 경우, 웨어러블 장치(200)는 광 출력 모듈(211) 및/또는 표시 부재(201)의 디스플레이 영역으로 빛을 조사하는 광원을 포함할 수 있다. 다른 실시 예에 따르면, 광 출력 모듈(211) 및/또는 표시 부재(201)가 OLED, 또는 micro LED 중 하나를 포함하는 경우, 웨어러블 장치(200)는 별도의 광원을 포함하지 않고 사용자에게 가상영상을 제공할 수 있다.

일 실시예에 따르면, 광 출력 모듈(211)의 적어도 일부는 하우징(210) 내에 배치될 수 있다. 예를 들어, 광 출력 모듈(211)은 사용자의 오른쪽 눈 및 왼쪽 눈에 각각 대응되도록 착용 부재(203) 또는 렌즈 이미지 프레임(202)에 배치될 수 있다. 일 실시예에 따르면, 광 출력 모듈(211)은 표시 부재(201)와 연결되고, 표시 부재(201)를 통하여 사용자에게 영상을 제공할 수 있다.

일 실시예에 따르면, 회로 기판(241)은 웨어러블 장치(200)의 구동을 위한 부품들을 포함할 수 있다. 예를 들어, 회로 기판(241)은 적어도 하나의 직접회로 칩(integrated circuit chip)을 포함할 수 있으며, 도 1의 프로세서(120), 메모리(130), 전력 관리 모듈(188), 또는 통신 모듈(190) 중 적어도 하나는 상기 직접회로 칩에 제공될 수 있다. 일 실시예에 따르면, 회로 기판(241)은 하우징(210)의 착용 부재(203) 내에 배치될 수 있다. 일 실시예에 따르면, 회로 기판(241)은 전원 전달 구조(246)를 통하여 배터리(243)와 전기적으로 연결될 수 있다. 일 실시예에 따르면, 회로 기판(241)은 가요성 인쇄회로기판(205)와 연결되고, 가요성 인쇄회로기판(205)을 통하여 전자 장치의 전자 부품들(예: 광 출력 모듈(211), 카메라 모듈(250), 발광부에 전기 신호를 전달할 수 있다. 일 실시예에 따르면, 회로 기판(241)은 인터포저를 포함하는 회로 기판일 수 있다.

일 실시예에 따르면, 가요성 인쇄회로 기판(205)은 회로 기판(241)으로부터 힌지 구조(229)를 가로질러 렌즈 이미지 프레임(202)의 내부로 연장될 수 있으며, 렌즈 이미지 프레임(202)의 내부에서 표시 부재(201) 둘레의 적어도 일부에 배치될 수 있다.

일 실시예에 따르면, 배터리(243)(예: 도 1의 배터리(189))는 웨어러블 장치(200)의 부품(예: 광 출력 모듈(211), 회로 기판(241), 스피커 모듈(245), 마이크 모듈(247), 및 카메라 모듈(250))과 전기적으로 연결될 수 있고, 웨어러블 장치(200)의 부품들에게 전력을 공급할 수 있다.

일 실시예에 따르면, 배터리(243)의 적어도 일부는 착용 부재(203)에 배치될 수 있다. 일 실시예에 따르면, 배터리(243)는 착용 부재(203)의 단부(203a, 203b)에 배치될 수 있다. 예를 들어, 배터리(243)는 착용 부재(203)의 제1 단부(203a)에 배치된 제1 배터리(243a) 및 제2 단부(203b)에 배치된 제2 배터리(243b)를 포함할 수 있다.

일 실시예에 따르면, 스피커 모듈(245)(예: 도 1의 오디오 모듈(170) 또는 음향 출력 모듈(155))은 전기 신호를 소리로 변환시킬 수 있다. 상기 스피커 모듈(245)의 적어도 일부는 하우징(210)의 착용 부재(203) 내에 배치될 수 있다. 일 실시예에 따르면, 스피커 모듈(245)은 사용자의 귀에 대응되도록 착용 부재(203) 내에 위치할 수 있다. 예를 들어, 스피커 모듈(245)은 회로 기판(241)과 배터리(243) 사이에 배치될 수 있다.

일 실시예에 따르면, 전원 전달 구조(246)는 배터리(243)의 전력을 웨어러블 장치(200)의 전자 부품(예: 광 출력 모듈(211))으로 전달할 수 있다. 예를 들어, 전원 전달 구조(246)는, 배터리(243) 및/또는 회로기판(241)과 전기적으로 연결되고, 회로기판(241)은 전원 전달 구조(246)를 통해 수신한 전력을 광 출력 모듈(211)로 전달 할 수 있다. 일 실시예에 따르면, 전원 전달 구조(246)는 스피커 모듈(245)을 지나 회로기판(241)과 연결될 수 있다. 예를 들어, 웨어러블 장치(200)를 측면(예: Z축 방향)에서 바라볼 때, 전원 전달 구조(246)는 스피커 모듈(245)과 적어도 일부 중첩될 수 있다.

일 실시예에 따르면, 전원 전달 구조(246)는 전력을 전달할 수 있는 구성일 수 있다. 예를 들어, 전원 전달 구조(246)는 가요성 인쇄회로기판 또는 와이어를 포함할 수 있다. 예를 들면, 와이어는 복수의 케이블들(미도시)을 포함할 수 있다. 다양한 실시 예에서, 전원 전달 구조(246)의 형태는 케이블의 개수 및/또는 종류를 고려하여 다양하게 변형될 수 있다.

일 실시예에 따르면, 마이크 모듈(247)(예: 도 1의 입력 모듈(150) 및/또는 오디오 모듈(170))은 소리를 전기 신호로 변환할 수 있다. 일 실시예에 따르면, 마이크 모듈(247)은 렌즈 이미지 프레임(202)의 적어도 일부에 배치될 수 있다. 예를 들면, 적어도 하나의 마이크 모듈(247)은 웨어러블 장치(200)의 하단(예: -X축을 향하는 방향) 및/또는 상단(예: X축을 향하는 방향)에 배치될 수 있다. 일 실시예에 따르면, 웨어러블 장치(200)는 적어도 하나의 마이크 모듈(247)에서 획득된 음성 정보(예: 소리)를 이용하여 사용자의 음성을 보다 명확하게 인식할 수 있다. 예를 들면, 웨어러블 장치(200)는 획득된 음성 정보 및/또는 추가 정보(예: 사용자의 피부와 뼈의 저주파 진동)에 기반하여, 음성 정보와 주변 잡음을 구별할 수 있다. 예를 들면, 웨어러블 장치(200)는, 사용자의 음성을 명확하게 인식할 수 있고, 주변 소음을 줄여주는 기능(예: 노이즈 캔슬링)을 수행할 수 있다.

일 실시예에 따르면, 카메라 모듈(250)은 정지 영상 및/또는 동영상을 촬영할 수 있다. 상기 카메라 모듈(250)은 렌즈, 적어도 하나의 이미지 센서, 이미지 시그널 프로세서 또는 플래시 중 적어도 하나를 포함할 수 있다. 일 실시예에 따르면, 카메라 모듈(250)은 렌즈 이미지 프레임(202) 내에 배치되고, 표시 부재(201)의 주위에 배치될 수 있다.

일 실시예에 따르면, 카메라 모듈(250)은 적어도 하나의 제1 카메라 모듈(251)을 포함할 수 있다. 일 실시예에 따르면, 제1 카메라 모듈(251)은 사용자의 눈(예: 동공(pupil)) 또는 시선의 궤적을 촬영할 수 있다. 예를 들어, 제1 카메라 모듈(251)은 발광부(미도시)가 사용자의 눈으로 방사한 빛의 반사 패턴을 촬영할 수 있다. 예를 들면, 발광부(미도시)는, 제1 카메라 모듈(251)을 이용한 시선의 궤적의 추적을 위한 적외선 대역의 빛을 방사할 수 있다. 예를 들어, 발광부(미도시)는 IR LED를 포함할 수 있다. 일 실시예에 따르면, 프로세서(예: 도 1의 프로세서(120))는 표시 부재(201)에 투영되는 가상영상이 사용자의 눈동자가 응시하는 방향에 대응되도록 상기 가상영상의 위치를 조정할 수 있다. 일 실시예에 따르면, 제1 카메라 모듈(251)은 글로벌 셔터(GS) 방식의 카메라를 포함할 수 있고, 동일 규격, 및 성능의 복수개의 제1 카메라 모듈(251)들을 이용하여 사용자의 눈 또는 시선의 궤적을 추적할 수 있다.

일 실시예에 따르면, 제1 카메라 모듈(251)은, 사용자의 눈 또는 시선의 궤적과 관련된 정보(예: 궤적 정보)를 프로세서(예: 도 1의 프로세서(120))로 주기적으로 또는 비주기적으로 전송할 수 있다. 다른 실시예에 따르면, 제1 카메라 모듈(251)은 상기 궤적 정보에 기반하여, 사용자 시선이 변경되었음을 감지(예: 머리가 움직이지 않는 상태에서 눈이 기준치 이상 이동)하였을 때, 궤적 정보를 프로세서로 전송할 수 있다.

일 실시예에 따르면, 카메라 모듈(250)은 제2 카메라 모듈(253)을 포함할 수 있다. 일 실시예에 따르면, 제2 카메라 모듈(253)은 외부의 이미지를 촬영할 수 있다. 일 실시예에 따르면, 제2 카메라 모듈(253)은 글로벌 셔터 방식 또는 롤링 셔터(RS: rolling shutter) 방식의 카메라일 수 있다. 일 실시예에 따르면, 제2 카메라 모듈(253)은 제2 이미지 프레임(202b)에 형성된 제2 광학 홀(223)을 통해 외부의 이미지를 촬영할 수 있다. 예를 들어, 제2 카메라 모듈(253)은, 고해상도의 컬러 카메라를 포함할 수 있으며, HR(high resolution) 또는 PV(photo video) 카메라일 수 있다. 또한, 제2 카메라 모듈(253)은, 자동 초점 기능(AF: auto focus)과 이미지 안정화 기능(OIS: optical image stabilizer)을 제공할 수 있다. 본 문서의 일 실시예에 따른 제2 카메라 모듈(253)은, 하나의 카메라 또는 복수의 카메라들을 포함할 수 있다.

일 실시예에 따르면, 웨어러블 장치(200)는 제2 카메라 모듈(253)과 인접하도록 위치한 플래시(미도시)를 포함할 수 있다. 예를 들면, 플래시(미도시)는 제2 카메라 모듈(253)의 외부 이미지 획득 시, 웨어러블 장치(200) 주변의 밝기(예: 조도)를 증대시키기 위한 광을 제공할 수 있으며, 어두운 환경, 다양한 광원의 혼입, 및/또는 빛의 반사로 인한 이미지 획득의 어려움을 감소시킬 수 있다.

일 실시예에 따르면, 카메라 모듈(250)은 적어도 하나의 제3 카메라 모듈(255)을 포함할 수 있다. 일 실시예에 따르면, 제3 카메라 모듈(255)은 렌즈 이미지 프레임(202)에 형성된 제1 광학 홀(221)을 통해 사용자의 동작을 촬영할 수 있다. 예를 들어, 제3 카메라 모듈(255)은 사용자의 제스처(예: 손동작)를 촬영할 수 있다. 상기 제3 카메라 모듈(255) 및/또는 제1 광학 홀(221)은 렌즈 이미지 프레임(202)(예: 제 2 이미지 프레임(202b))의 양 측단, 예를 들어, X 방향에서 렌즈 이미지 프레임(202)(예: 제 2 이미지 프레임(202b))의 양 단부에 각각 배치될 수 있다. 일 실시예에 따르면, 제3 카메라 모듈(255)은 글로벌 셔터(GS: global shutter) 방식의 카메라일 수 있다. 예를 들면, 제3 카메라 모듈(255)은, 3DoF(degrees of freedom, 자유도), 또는 6DoF를 지원하는 카메라로 360도 공간(예: 전 방향), 위치 인식 및/또는 이동 인식을 제공할 수 있다. 일 실시예에 따르면, 제3 카메라 모듈(255)은, 스테레오 카메라로 동일 규격, 및 성능의 복수개의 글로벌 셔터 방식의 카메라를 이용하여 이동 경로 추적 기능(SLAM: simultaneous localization and mapping) 및 사용자 움직임 인식 기능을 수행할 수 있다. 일 실시예에 따르면, 제3 카메라 모듈(255)은 IR(infrared) 카메라(예: TOF(time of flight) camera, 또는 structured light camera)를 포함할 수 있다. 예를 들어, IR 카메라는 피사체와의 거리를 감지하기 위한 센서 모듈(예: 도 1의 센서 모듈(176))의 적어도 일부로 동작될 수 있다.

일 실시예에 따르면, 제1 카메라 모듈(251) 또는 제3 카메라 모듈(255) 중 적어도 하나는 센서 모듈(예: 도 1의 센서 모듈(176)) (예: Lidar 센서)로 대체될 수 있다. 예를 들면, 센서 모듈은, VCSEL(vertical cavity surface emitting laser), 적외선 센서, 및/또는 포토 다이오드(photodiode) 중 적어도 하나를 포함할 수 있다. 예를 들면, 포토 다이오드는 PIN(positive intrinsic negative) 포토 다이오드, 또는 APD(avalanche photo diode)를 포함할 수 있다. 상기 포토 다이오드는, 포토 디텍터(photo detector), 또는 포토 센서로 일컬어질 수 있다.

일 실시예에 따르면, 제1 카메라 모듈(251), 제2 카메라 모듈(253) 또는 제3 카메라 모듈(255) 중 적어도 하나는, 복수의 카메라 모듈들(미도시)을 포함할 수 있다. 예를 들면, 제2 카메라 모듈(253)은 웨어러블 장치(200)의 한 면(예: -Y축을 향하는 면)에 배치될 수 있다. 예를 들면, 웨어러블 장치(200)는 각각 다른 속성(예: 화각) 또는 기능을 가진 복수의 카메라 모듈들을 포함할 수 있고, 사용자의 선택 및/또는 궤적 정보에 기반하여, 카메라 모듈의 화각을 변경하도록 제어할 수 있다. 예를 들면, 상기 복수의 카메라 모듈들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다.

일 실시예에 따르면, 프로세서(예: 도 1의 프로세서(120))는 센서 모듈(예: 도 1의 센서 모듈(176))의 제스처 센서, 자이로 센서, 또는 가속도 센서 중 적어도 하나를 이용하여 획득한 웨어러블 장치(200)의 정보 및 제1 카메라 모듈(251)을 이용하여 획득한 사용자의 동작(예: 웨어러블 장치(200)에 대한 사용자 신체의 접근)을 이용하여, 웨어러블 장치(200)의 움직임 및/또는 사용자의 움직임을 판단할 수 있다. 일 실시 예에 따르면, 웨어러블 장치(200)는 서술된 센서 이외에 자기장 및 자력션을 이용하여 방위를 측정할 수 있는 자기(지자기) 센서, 및/또는 자기장의 세기를 이용하여 움직임 정보(예: 이동 방향 또는 이동 거리)를 획득할 수 있는 홀 센서를 포함할 수 있다. 예를 들면, 프로세서는 자기(지자기) 센서, 및/또는 홀 센서로부터 획득된 정보에 기반하여, 웨어러블 장치(200)의 움직임 및/또는 사용자의 움직임을 판단할 수 있다.

일 실시예에 따르면, 웨어러블 장치(200)는 사용자와의 상호 작용이 가능한 입력 기능(예: 터치, 및/또는 압력 감지 기능)을 수행할 수 있다. 예를 들면, 터치 및/또는 압력 감지 기능을 수행하도록 구성된 구성 요소(예: 터치 센서, 및/또는 압력 센서)가 착용 부재(203)의 적어도 일부에 배치될 수 있다. 웨어러블 장치(200)는 상기 구성 요소를 통해 획득된 정보에 기반하여 표시 부재(201)를 통해 출력되는 가상영상을 제어할 수 있다. 예를 들어, 터치 및/또는 압력 감지 기능과 관련된 센서는 저항막 방식(resistive type), 정전 용량 방식(capacitive type), 전자기 유도형(EM: electro-magnetic type), 또는 광 감지 방식(optical type)과 같은 다양한 방식으로 구성될 수 있다. 일 실시예에 따르면, 상기 터치 및/또는 압력 감지 기능을 수행하도록 구성된 구성 요소는 도 1의 입력 모듈(150)의 구성과 전부 또는 일부 동일할 수 있다.

일 실시예에 따르면, 웨어러블 장치(200)는 렌즈 이미지 프레임(202)의 내부 공간에 배치되고, 렌즈 이미지 프레임(202)의 강성 보다 높은 강성을 가지도록 형성된 보강 부재(260)를 포함할 수 있다.

일 실시예에 따르면, 웨어러블 장치(200)는 렌즈 구조(270)를 포함할 수 있다. 상기 렌즈 구조(270)는 빛의 적어도 일부를 굴절시킬 수 있다. 예를 들어, 렌즈 구조(270)는 미리 지정된 굴절력을 가진 도수 렌즈(prescription lens)일 수 있다. 일 실시예에 따르면, 렌즈 구조(270)는 표시 부재(201)의 제2 윈도우 부재의 후방(예: +Y 방향)에 배치될 수 있다. 예를 들어, 렌즈 구조(270)는 표시 부재(201) 와 사용자의 눈 사이에 위치할 수 있다. 예를 들어, 렌즈 구조(270)는 표시 부재의 일 면과 대면할 수 있다.

일 실시예에 따르면, 하우징(210)은 힌지 구조(229)의 일부분을 은폐할 수 있는 힌지 커버(227)를 포함할 수 있다. 상기 힌지 구조(229)의 다른 일부분은 후술할 내측 케이스(231)와 외측 케이스(233) 사이로 수용 또는 은폐될 수 있다.

일 실시예에 따르면, 착용 부재(203)는 내측 케이스(231)와 외측 케이스(233)를 포함할 수 있다. 내측 케이스(231)는, 예를 들면, 사용자의 신체와 대면하거나 사용자의 신체에 직접 접촉하도록 구성된 케이스로서, 열 전도율이 낮은 물질, 예를 들면, 합성수지로 제작될 수 있다. 일 실시예에 따르면, 내측 케이스(231)는 사용자의 신체와 대면하는 내 측면(예: 도 2a의 내 측면(231c))을 포함할 수 있다. 외측 케이스(233)는, 예를 들면, 적어도 부분적으로 열을 전달할 수 있는 물질(예: 금속 물질)을 포함하며, 내측 케이스(231)와 마주보게 결합될 수 있다. 일 실시예에 따르면, 외측 케이스(233)는 상기 내 측면(231c)의 반대인 외 측면(예: 도 2a의 외 측면(231d))을 포함할 수 있다. 일 실시예에서, 회로 기판(241) 또는 스피커 모듈(245) 중 적어도 하나는 착용 부재(203) 내에서 배터리(243)와 분리된 공간에 수용될 수 있다. 도시된 실시예에서, 내측 케이스(231)는 회로 기판(241)이나 스피커 모듈(245)을 포함하는 제1 케이스(231a)와, 배터리(243)를 수용하는 제2 케이스(231b)를 포함할 수 있으며, 외측 케이스(233)는 제1 케이스(231a)와 마주보게 결합하는 제3 케이스(233a)와, 제2 케이스(231b)와 마주보게 결합하는 제4 케이스(233b)를 포함할 수 있다. 예를 들어, 제1 케이스(231a)와 제3 케이스(233a)가 결합(이하, '제1 케이스 부분(231a, 233a)')하여 회로 기판(241) 및/또는 스피커 모듈(245)을 수용할 수 있고, 제2 케이스(231b)와 제4 케이스(233b)가 결합(이하, '제2 케이스 부분(231b, 233b)')하여 배터리(243)를 수용할 수 있다.

일 실시예에 따르면, 제1 케이스 부분(231a, 233a)은 힌지 구조(229)를 통해 렌즈 이미지 프레임(202)에 회동 가능하게 결합하며, 제 2 케이스 부분(231b, 233b)은 연결 부재(235)를 통해 제1 케이스 부분(231a, 233a)의 단부에 연결 또는 장착될 수 있다. 어떤 실시예에서, 연결 부재(235) 중, 사용자 신체에 접촉하는 부분은 열 전도율이 낮은 물질, 예를 들면, 실리콘(silicone), 폴리우레탄(polyurethane)이나 고무와 같은 탄성체 재질로 제작될 수 있으며, 사용자 신체에 접촉하지 않는 부분은 열 전도율이 높은 물질(예: 금속 물질)로 제작될 수 있다. 예컨대, 회로 기판(241)이나 배터리(243)에서 열이 발생될 때, 연결 부재(235)는 사용자 신체에 접하는 부분으로 열이 전달되는 것을 차단하고, 사용자 신체와 접촉하지 않는 부분을 통해 열을 분산 또는 방출시킬 수 있다. 일 실시예에 따르면, 연결 부재(235) 중 사용자 신체와 접촉하게 구성된 부분은 내측 케이스(231)의 일부로서 해석될 수 있으며, 연결 부재(235) 중 사용자 신체와 접촉하지 않는 부분은 외측 케이스(233)의 일부로서 해석될 수 있다. 일 실시예에 따르면(미도시), 제1 케이스(231a)와 제2 케이스(231b)는 연결 부재(235) 없이 일체형으로 구성되고, 제3 케이스(233a)와 제4 케이스(233b)는 연결 부재(235) 없이 일체형으로 구성될 수 있다. 일 실시예에 따라, 도시된 구성요소 외에 다른 구성요소(예: 도 1의 안테나 모듈(197))를 더 포함할 수 있으며, 통신 모듈(190)을 이용하여, 네트워크(예: 도 1의 제1 네트워크(198) 또는 제2 네트워크(199))를 통해 외부의 전자 장치(예: 도 1의 전자 장치(102, 104) 또는 서버(108))로부터 사물 또는 환경에 관한 정보를 제공받을 수 있다.

도 2a 내지 도 2c에서는 웨어러블 장치(200)에 대해서만 도시 및 설명하였으나, 이에 한정되지 않으며, 도 2a 내지 도 2c에 도시된 웨어러블 장치(200)의 일부 구성은 스마트폰, 태블릿 PC와 같은 전자 장치에도 포함될 수 있다.

도 3a는, 본 개시의 일 실시예에 따른 초점 가변 렌즈(280)의 분할 사시도를 도시한 것이다. 도 3b는, 본 개시의 일 실시예에 따른 전압이 인가되지 않은 상태의 초점 가변 렌즈(280)의 상태를 도시한 것이다. 도 3c는, 본 개시의 일 실시예에 따른 지정된 전압이 인가된 상태의 초점 가변 렌즈(280)의 상태를 도시한 것이다.

도 3a 내지 도 3c를 참조하면, 일 실시예에 따른 초점 가변 렌즈(280)는, 피에조 필름(piezo film, 320)에 입력되는 전압의 변화에 기반하여, 굴절 영역(310)의 굴절률이 변화될 수 있다.

일 실시예로, 초점 가변 렌즈(280)는 굴절 영역(310)에는 광(L)이 통과하도록 투명한 고분자 광섬유(polymer optic fiber)(350)가 배치될 수 있고, 고분자 광섬유(350)의 일측 및 타측에는 글래스 멤브레인(glass membrane)(330) 및 글래스 패널(glass panel)(340)이 각각 배치될 수 있다. 예를 들어, 고분자 광섬유(350)의 일면은 글래스 멤브레인(330)과 접촉되어 글래스 멤브레인(330)의 변형에 따라 표면이 변형될 수 있고, 고분자 광섬유(350)의 타면은 글래스 패널(340)과 접촉되어 표면에 변형이 발생되지 않고 편평한 평면으로 유지될 수 있다.

일 실시예로, 초점 가변 렌즈(280)의 글래스 멤브레인(330) 및 글래스 패널(340)과 이들로 상하면이 감싸진 고분자 광섬유(350)는 실리콘 하우징(360)에 의해 외측면이 감싸질 수 있다.

일 실시예로, 초점 가변 렌즈(280)는 글래스 멤브레인(330)과 접촉된 위치에 배치되는 피에조 필름(320)을 더 포함하고, 피에조 필름(320)에 인가되는 전압의 가변에 의해, 피에조 필름(320) 및 글래스 멤브레인(330)에 물리적인 변형이 발생될 수 있고, 이에 따라 고분자 광섬유의 표면의 형상이 변경될 수 있다.

일 실시예로, 도 3b에 도시한 것과 같이, 피에조 필름(320)에 전압이 인가되지 않는 상태에서는, 피에조 필름(320) 및 글래스 멤브레인(330)의 형상이 변형되지 않고, 이에 따라 고분자 광섬유(350)의 일면 및 타면의 표면이 모두 편평한 상태일 수 있다. 이에 따라, 초점 가변 렌즈(280)의 굴절 영역(310)으로 입사되는 광(L)은 굴절 없이 통과될 수 있다. 여기서, 초점 가변 렌즈(280)에 수직하게 입사되는 광(L)은 초점 가변 렌즈(280)의 중심선(311)과 평행하게 초점 가변 렌즈(280)를 통과할 수 있다.

일 실시예로, 도 3c에 도시한 것과 같이, 피에조 필름(320)에 지정된 전압(예: 30 [V])이 인가된 상태에서는, 피에조 필름(320) 및 글래스 멤브레인(330)의 형상이 변형되고, 이에 따라 고분자 광섬유(350)의 일면의 표면이 변형될 수 있다. 일 실시예로, 고분자 광섬유(350)의 일면은 중심부가 외측으로 볼록하게 돌출되고, 외측부가 내측으로 오목하게 만입된 형상으로, 볼록 렌즈의 형상으로 변형될 수 있다. 이에 따라, 초점 가변 렌즈(280)의 굴절 영역으로 입사되는 광은 내측(초점 가변 렌즈(380)의 중심선(311) 방향)으로 굴절되어 초점 거리가 상대적으로 축소될 수 있다.

일 실시예에 따른 입력되는 전압에 기반하여 굴절률 및 초점 거리가 가변되는 초점 가변 렌즈(280)를 사용하는 경우, 마그네틱 방식으로 물리적인 초점 거리를 변경하는 방식에 대비하여 입력 값에 따른 초점 거리의 오차(예: 히스테리시스(hysteresis))가 적고, 입력 전압에 대응하는 초점 거리의 오차가 거의 없을 수 있다. 따라서, 초점 가변 렌즈(280)에 입력하는 전압을 가변하는 방식을 이용하여 오브젝트와의 거리를 추정함에 따라, 오차가 감소되는 효과를 가질 수 있다.

도 4는, 본 개시의 일 실시예에 따른, 초점 가변 렌즈(280)의 초점 거리(f)에 대응하는 오브젝트(object)와의 거리를 도식화한 것이다.

도 4를 참조하면, 일 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101) 또는 프로세서(120))는, 오브젝트(object)에서 반사된 광을 초점 가변 렌즈(280)를 통하여 획득한 이미지 센서(예: 도 2a의 이미지 센서(290))를 통하여 오브젝트(object)에 대응하는 초점이 맞춰진 상태로 오브젝트(object)와의 거리 정보를 획득할 수 있다. 여기서, 오브젝트에 대응하는 초점을 자동으로 조절하는 동작은 후술한다.

일 실시예로 전자 장치는, 후술하는 것과 같이 초점 가변 렌즈(280)의 굴절률을 가변함으로써 오브젝트(object)에서 반사된 광에 대한 초점이 맞춰진 상태에서, 하기와 같은 수식으로 오브젝트와의 거리(O)를 추정할 수 있다.

여기서, I는 렌즈로부터 상이 맺히는 위치 사이의 상 거리(image distance)이고, O는 렌즈와 오브젝트 사이의 거리인 오브젝트 거리(object distance)이고, f는 렌즈의 초점 거리(focal length)이다.

일 실시예로 전자 장치는, 초점 가변 렌즈(280)의 배율(PMAG: primary magnification)인, 오브젝트 거리에 대한 상 거리의 비율(PMAG = I / O)을 추정할 수 있다.

일 실시예로 전자 장치는, 오브젝트(object)에서 반사된 광에 대한 적정 초점 상태로 초점 가변 렌즈(280)의 굴절률을 가변함으로써 초점 가변 렌즈(280)의 초점 거리(f)를 추정하고, 추정한 초점 거리를 이용하여 오브젝트(object)와의 거리 정보를 획득할 수 있다.

도 5는, 본 개시의 일 실시예에 따른 초점 가변 렌즈의 입력 전압에 대한 굴절률의 변화를 도시한 그래프이다. 도 6은, 본 개시의 일 실시예에 따른 초점 가변 렌즈의 입력 전압에 대한 오브젝트와의 거리의 변화를 도시한 그래프이다.

도 5 및 도 6을 참조하면, 일 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101) 또는 프로세서(120))는 초점 가변 렌즈(예: 도 2a의 초점 가변 렌즈(280))의 입력 전압에 대응하는 굴절률 및/또는 오브젝트와의 거리에 관한 그래프를 저장할 수 있다.

일 실시예로, 전자 장치는 도 5에 도시한 것과 같은, 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는, 초점 가변 렌즈의 굴절률 또는 초점 거리에 관한 그래프(또는, 테이블)을 미리 저장할 수 있다.

예를 들어, 초점 가변 렌즈에 입력되는 전압 또는 전류에 따른 초점 가변 렌즈의 굴절률 또는 초점 거리의 데이터는 전자 장치 또는 초점 가변 렌즈의 제작시 메모리에 미리 저장될 수 있다.

일 실시예로, 초점 가변 렌즈는, 전압이 입력되는 경우, 각각의 입력 전압에 대응하여 굴절률이 일정한 비율로 가변될 수 있다. 즉, 입력 전압에 대한 굴절률의 변화가 일정하게 유지되어, 히스테리시스가 적은 효과를 가질 수 있다.

일 실시예로, 전자 장치는 지정된 주기에 따라, 또는 전자 장치를 초기화하는 경우에, 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는, 초점 가변 렌즈의 굴절률 또는 초점 거리를 캘리브레이션할 수 있다. 예를 들어, 전자 장치는 오브젝트에 대한 초점을 자동으로 맞춘 상태에서, 오브젝트와의 지정된 거리 정보에 대응하는, 초점 가변 렌즈의 굴절률 또는 초점 거리를 캘리브레이션할 수 있다.

일 실시예로, 전자 장치는 도 6에 도시한 것과 같은, 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는, 오브젝트와의 거리 정보에 관한 그래프(또는, 테이블)을 미리 저장할 수 있다. 여기서, 오브젝트와의 거리 정보는 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는 초점 가변 렌즈의 초점 거리에 기반하여, 미리 산출된 것일 수 있다.

일 실시예로, 전자 장치는 미리 저장된 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는 거리 정보에 기반하여, 초점 가변 렌즈에 입력되는 전압에 따른 오브젝트와의 거리 정보를 획득할 수 있다.

도 7a는, 본 개시의 일 실시예에 따른 초점 가변 렌즈(280)를 통과한 광의 전초점 상태를 도식화한 것이다. 도 7b는, 본 개시의 일 실시예에 따른 초점 가변 렌즈(280)를 통과한 광의 적정 초점 상태를 도식화한 것이다. 도 7c는, 본 개시의 일 실시예에 따른 초점 가변 렌즈(280)를 통과한 광의 후초점 상태를 도식화한 것이다.

도 7a, 도 7b, 도 7c를 참조하면, 일 실시예에 따른 이미지 센서(예: 도 2의 이미지 센서(290))에는 제1 포토 다이오드(photo diode)(291) 및 제2 포토 다이오드(292)가 포함될 수 있고, 제1 포토 다이오드(291) 및 제2 포토 다이오드(292)는 초점 가변 렌즈(280)를 통하여 입사되는 광을 각각 수신하여, 이미지 데이터를 획득할 수 있다.

일 실시예로, 전자 장치(예: 도 1의 전자 장치(101) 또는 프로세서(120))는 이미지 센서의 제1 포토 다이오드(291)에서 획득한 데이터와 제2 포토 다이오드(292)에서 획득한 데이터 사이의 위상차에 기반하여, 오브젝트(예: 도 8의 적어도 하나의 오브젝트(O1, O2, O3))에 대응하는 초점 거리를 추정할 수 있다. 예를 들어, 전자 장치는 도 7a, 도 7b 및 도 7c에 도시한 것과 같이, 초점 가변 렌즈(280)의 굴절률 및/또는 초점 거리를 가변 시키면서, 적어도 하나 이상의 이미지 프레임을 획득할 수 있고, 획득한 적어도 하나 이상의 이미지 프레임에 대응하는 데이터 사이의 위상차에 기반하여, 위상차가 최소화된 제1 이미지 프레임 및 이에 대응하는 제1 초점 거리를 식별할 수 있다.

예를 들어, 도 7a에 도시한 것과 같이, 오브젝트에서 반사되어 초점 가변 렌즈(280)를 통과한 광의 초점이 제1 포토 다이오드(291) 및 제2 포토 다이오드(292)의 전방에 위치하는 전초점 상태에서는, 제1 포토 다이오드(291)에서 획득한 데이터와 제2 포토 다이오드(292)에서 획득한 데이터 사이에 위상차(X1)이 발생될 수 있다.

또한, 도 7c에 도시한 것과 같이, 오브젝트에서 반사되어 초점 가변 렌즈(280)를 통과한 광의 초점이 제1 포토 다이오드(291) 및 제2 포토 다이오드(292)의 후방에 위치하는 후초점 상태에서는, 제1 포토 다이오드(291)에서 획득한 데이터와 제2 포토 다이오드(292)에서 획득한 데이터 사이에 위상차(X2)이 발생될 수 있다.

도 7b에 도시한 것과 같이, 오브젝트에서 반사되어 초점 가변 렌즈(280)를 통과한 광의 초점이 제1 포토 다이오드(291) 및 제2 포토 다이오드(292)에 일치하는 적정 초점의 상태에서는, 각각에서 획득하는 데이터 사이의 위상차(X0)가 제거될 수 있다.

일 실시예로 전자 장치는, 제1 포토 다이오드(291) 및 제2 포토 다이오드(292)에서 각각 획득하는 데이터 사이의 위상차가 최소화되는 제1 이미지 프레임의 획득시, 초점 가변 렌즈(280)에 입력된 전압 또는 전류에 기반하여, 오브젝트에 대응하는 적정 초점에 해당하는 제1 초점 거리를 추정할 수 있다. 일 실시예로, 전자 장치는 제1 초점 거리에 기반하여 오브젝트와의 거리 정보를 획득할 수 있다.

도 8은, 본 개시의 일 실시예에 따른 적어도 하나의 오브젝트(O1, O2, O3)의 거리 정보에 기반하여 생성한 거리맵의 예시를 도시한 것이다.

도 8을 참조하면, 전자 장치(예: 도 1의 전자 장치(101) 또는 프로세서(120))는 초점 가변 렌즈(예: 도 2a의 초점 가변 렌즈(280)) 및 이미지 센서(예: 도 2a의 이미지 센서(290))를 통하여 획득되는 적어도 하나 이상의 이미지 프레임에 포함되는 적어도 하나 이상의 오브젝트들(O1, O2, O3)와의 거리 정보를 획득할 수 있다.

예를 들어, 적어도 하나 이상의 이미지 프레임에 복수 개의 오브젝트(O1, O2, O3)가 존재하는 경우, 전자 장치는 복수 개의 오브젝트들(O1, O2, O3)과의 거리 정보를 획득할 수 있다. 여기서, 적어도 하나 이상의 오브젝트들(O1, O2, O3)은 특정 물체일 수도 있고, 특정 물체가 배치된 주위의 배경일 수도 있다.

일 실시예로, 전자 장치는 적어도 하나 이상의 오브젝트(O1, O2, O3)로부터 반사되어 초점 가변 렌즈를 통하여 입사되는 광에 기반하여, 적어도 하나 이상의 오브젝트들(O1, O2, O3)과의 거리 정보를 획득하고, 획득한 거리 정보에 기반하여 거리맵을 생성할 수 있다. 일 실시예로, 전자 장치는 시야 범위(FOV: field of view) 이내에 위치된 하나 이상의 오브젝트들(O1, O2, O3)의 위치에 각각 대응하는 거리 정보가 입력된 거리맵을 생성할 수 있다.

일 실시예로, 전자 장치는 지정된 주기(예: 1 [sec])에 기반하여, 적어도 하나의 오브젝트들(O1, O2, O3)과의 거리 정보를 업데이트할 수 있다. 일 실시예로, 전자 장치는 지정된 주기마다, 초점 가변 렌즈의 초점 거리를 가변하면서, 초점 가변 렌즈의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 이미지 센서를 통하여 획득할 수 있다. 전자 장치는 획득한 적어도 하나 이상의 이미지 프레임에 기반하여, 적어도 하나의 오브젝트들(O1, O2, O3)에 대응하는 제1 초점 거리를 추정하고, 이에 따라 적어도 하나의 오브젝트들(O1, O2, O3) 각각의 거리 정보를 업데이트할 수 있다.

도 9는, 본 개시의 일 실시예에 따른 전자 장치의 동작 방법의 흐름도(900)이다.

도 9를 참조하면, 일 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101) 또는 프로세서(120))는 동작 910에서, 초점 가변 렌즈(예: 도 2a의 초점 가변 렌즈(280))에 입력되는 전압 또는 전류에 대응하는, 초점 가변 렌즈의 굴절률 또는 초점 거리를 캘리브레이션할 수 있다. 일 실시예로, 전자 장치는 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는, 초점 가변 렌즈의 굴절률 또는 초점 거리를 미리 저장하고, 저장된 데이터를 캘리브레이션할 수 있다.

일 실시예로, 전자 장치는 지정된 오브젝트와의 거리에 대응하여 적정 초점인 초점 가변 렌즈의 굴절률 또는 초점 거리를 획득하고, 오브젝트에 대한 적정 초점 상태에서 초점 가변 렌즈에 입력되는 전압 또는 전류를 획득하여, 초점 가변 렌즈의 굴절률 또는 초점 거리에 대응하는 초점 가변 렌즈에 입력되는 전압 또는 전류를 캘리브레이션할 수 있다.

일 실시예로, 캘리브레이션 동작은 전자 장치 또는 초점 가변 렌즈의 제조시 미리 실행될 수도 있고, 별도의 장치를 이용하거나 또는 특정 조건을 설정한 상태로, 지정된 오브젝트와의 거리에 기반하여, 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는 초점 가변 렌즈의 굴절률 또는 초점 거리를 캘리브레이션할 수 있다.

일 실시예에 따른 전자 장치는, 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는 오브젝트와의 거리 정보를 미리 저장할 수 있다. 일 실시예에 따른 전자 장치는, 미리 저장된 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는 초점 가변 렌즈의 굴절률 또는 초점 거리에 기반하여, 거리 정보를 산출할 수 있고, 그 결과를 미리 저장할 수 있다. 일 실시예에 따른 전자 장치는, 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는 초점 가변 렌즈의 굴절률 또는 초점 거리를 캘리브레이션하는 경우, 초점 가변 렌즈에 입력되는 전압 또는 전류에 대응하는 오브젝트와의 거리 정보를 캘리브레이션할 수 있다.

일 실시예에 따른 전자 장치는 동작 930에서, 이미지 센서(예: 도 2a의 이미지 센서(290))를 통하여, 초점 가변 렌즈의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 획득할 수 있다.

일 실시예로, 전자 장치는 이미지 센서를 비닝(binning)하여, 적어도 하나 이상의 이미지 프레임을 획득할 수 있다. 예를 들어, 이미지 센서는 지정된 촬영 속도(예: 1000 fps 이상)에 따라 구동되면서 적어도 하나 이상의 이미지 프레임을 획득할 수 있다.

일 실시예로, 전자 장치는 초점 가변 렌즈에 입력되는 전압을 가변함으로써 초점 가변 렌즈의 굴절률 및/또는 초점 거리를 가변할 수 있다. 예를 들어, 전자 장치는 초점 가변 렌즈에 입력되는 전압을 지정된 간격으로 가변함으로써 초점 가변 렌즈의 굴절률 및/또는 초점 거리를 가변할 수 있다. 일 실시예로, 전자 장치는 초점 가변 렌즈에 입력되는 전압을 가변하면서, 이미지 센서를 이용하여 지정된 개수(예: 10 frame)의 이미지 프레임을 획득할 수 있다.

일 실시예에 따른 전자 장치는 동작 940에서, 획득한 적어도 하나 이상의 프레임에 기반하여, 적어도 하나 이상의 프레임에 포함된 오브젝트에 대응하는 제1 초점 거리를 추정할 수 있다. 일 실시예로, 적어도 하나 이상의 프레임에 포함된 오브젝트는, 이미지 분석을 통한 관심 객체로 획득되거나, 사용자의 시선 방향 또는 제스처에 대응되도록 획득될 수 있다.

일 실시예로, 전자 장치는 이미지 센서를 이용하여 획득한 지정된 개수(예: 10 frame)의 이미지 프레임에 기반하여, 이미지 프레임에 포함된 오브젝트에 대한 초점 거리를 추정할 수 있다. 예를 들어, 전자 장치는 서로 상이한 초점 거리를 갖는 복수 개의 이미지 프레임 중에서, 오브젝트에 대응하는 적정 초점을 갖는 제1 이미지 프레임을 식별하고, 제1 이미지 프레임의 획득시 초점 가변 렌즈에 입력된 전압에 기반하여 제1 초점 거리를 추정할 수 있다.

일 실시예로, 전자 장치는 오브젝트에 대응하는 적정 초점을 갖는 제1 이미지 프레임을 식별하는 동작에 관련하여, 이미지 센서에 포함된 제1 포토 다이오드(photo diode) 및 제2 포토 다이오드에서 초점 가변 렌즈를 통하여 각각 획득한 이미지 데이터 사이의 위상차에 기반하여 적정 초점을 갖는지 식별할 수 있다.

일 실시예에 따른 전자 장치는 동작 950에서, 추정한 제1 초점 거리에 기반하여, 오브젝트와의 거리 정보를 획득할 수 있다. 일 실시예로, 전자 장치는 적정 초점 상태의 상 거리(image distance) 및 렌즈의 초점 거리(focal length)를 이용하여, 렌즈와 오브젝트 사이의 거리인 오브젝트 거리(object distance)를 산출할 수 있다.

일 실시예에 따른 전자 장치는 동작 960에서, 획득한 오브젝트와의 거리 정보에 기반하여, 거리맵을 생성할 수 있다. 예를 들어, 이미지 센서에서 획득하는 적어도 하나 이상의 이미지 프레임 또는 이미지 센서의 시야 범위(FOV) 이내에는 적어도 하나 이상의 오브젝트가 포함될 수 있다. 일 실시예로, 전자 장치는 적어도 하나 이상의 오브젝트에 대응하는 거리 정보를 각각 획득하고, 각각의 오브젝트의 위치에 대응하는 거리 정보를 이용하여 거리맵을 생성할 수 있다.

일 실시예에 따른 전자 장치는 동작 970에서, 이미지 획득 신호를 수신하였는지 판단할 수 있다. 여기서, 이미지 획득 신호는 이미지 센서를 통하여 이미지 또는 영상을 획득하기 위한 신호로, 사용자로부터 입력되는 입력 신호에 기반하거나, 또는 이미지 또는 영상의 획득이 요구되는 지정된 조건을 만족한 경우에 기반할 수 있다.

일 실시예에 따른 전자 장치는, 이미지 획득 신호를 수신하지 않은 경우, 동작 980에서, 지정된 주기가 경과하였는지 판단하고, 지정된 주기가 경과한 경우, 동작 930에서 적어도 하나 이상의 프레임을 획득할 수 있다. 여기서, 지정된 주기는 예를 들어 1 [sec]로 설정될 수 있다.

일 실시예에 따른 전자 장치는, 이미지 획득 신호를 수신한 경우, 동작 990에서, 이미지 센서를 통해 오브젝트에 대응하는 이미지를 획득할 수 있다. 여기서, 이미지는 적어도 하나 이상의 이미지 프레임일 수 있고, 획득한 적어도 하나 이상의 이미지 프레임을 합성한 이미지 또는 적어도 하나 이상의 이미지 프레임을 연속적으로 재생하는 영상일 수 있다.

일 실시예로, 오브젝트에 대응하는 이미지는, 오브젝트에 대응하는 초점 거리에 기반하여 획득됨으로써, 오브젝트에 대한 적정 초점으로 맞춰진 이미지일 수 있다. 일 실시예로, 오브젝트에 대응하는 이미지는, 오브젝트의 색 정보가 포함된 컬러 이미지일 수 있다.

본 개시의 일 실시예에 따른 전자 장치(101; 200)는, 초점 가변 렌즈(280), 상기 초점 가변 렌즈(280)를 통해 입사되는 광의 이미지 프레임을 획득하는 이미지 센서(290), 및 상기 초점 가변 렌즈(280) 및 상기 이미지 센서(290)와 동작적으로 연결된 적어도 하나의 프로세서(120)를 포함할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 이미지 센서(290)를 통하여, 상기 초점 가변 렌즈(280)의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 획득하도록 설정될 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 획득한 적어도 하나 이상의 이미지 프레임에 기반하여, 상기 적어도 하나 이상의 이미지 프레임에 포함된 오브젝트(object; O1,O2,O3)에 대응하는 제1 초점 거리를 추정하도록 설정될 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 추정한 제1 초점 거리에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하도록 설정될 수 있다.

일 실시예에 따른 전자 장치(101; 200)에서, 상기 초점 가변 렌즈(280)는, 입력되는 전압 또는 전류의 변화에 기반하여, 초점 거리가 가변되는 렌즈일 수 있다.

일 실시예에 따른 전자 장치(101; 200)에서, 상기 적어도 하나의 프로세서(120)는, 상기 적어도 하나 이상의 이미지 프레임을 획득하는 동작의 적어도 일부로, 상기 초점 가변 렌즈(280)에 입력되는 상기 전압 또는 전류를 변화하면서, 상기 적어도 하나 이상의 이미지 프레임을 획득하도록 설정될 수 있다.

일 실시예에 따른 전자 장치(101; 200)에서, 상기 적어도 하나의 프로세서(120)는, 상기 제1 초점 거리를 추정하는 동작의 적어도 일부로, 상기 획득한 적어도 하나 이상의 이미지 프레임 중 제1 이미지 프레임에 대응하여 상기 초점 가변 렌즈(280)에 입력된 상기 전압 또는 전류에 기반하여, 상기 제1 초점 거리를 추정하도록 설정될 수 있다.

일 실시예에 따른 전자 장치(101; 200)에서, 상기 이미지 센서(290)는, 복수 개의 포토 다이오드(291, 292)를 포함할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 제1 초점 거리를 추정하는 동작의 적어도 일부로, 상기 이미지 센서(290)의 상기 복수 개의 포토 다이오드(291, 292)로부터 획득한 데이터의 위상차에 기반하여, 상기 제1 초점 거리를 추정하도록 설정될 수 있다.

일 실시예에 따른 전자 장치(101; 200)에서, 상기 적어도 하나의 프로세서(120)는, 상기 제1 초점 거리를 추정하는 동작의 적어도 일부로, 상기 획득한 적어도 하나 이상의 이미지 프레임 중 상기 데이터의 위상차가 최소화된 제1 이미지 프레임에 대응하는 초점 거리를 상기 제1 초점 거리로 추정하도록 설정될 수 있다.

일 실시예에 따른 전자 장치(101; 200)에서, 상기 적어도 하나의 프로세서(120)는, 상기 제1 초점 거리를 추정하는 동작의 적어도 일부로, 상기 제1 이미지 프레임의 획득시 상기 초점 가변 렌즈(280)에 입력된 전압 또는 전류에 기반하여, 상기 제1 초점 거리를 추정하도록 설정될 수 있다.

일 실시예에 따른 전자 장치(101; 200)에서, 상기 적어도 하나의 프로세서(120)는, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작의 적어도 일부로, 지정된 주기에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 업데이트하도록 설정될 수 있다.

일 실시예에 따른 전자 장치(101; 200)에서, 상기 적어도 하나의 프로세서(120)는, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작의 적어도 일부로, 미리 저장된 상기 초점 가변 렌즈(280)에 입력되는 전압 또는 전류에 대응하는 거리 정보에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하도록 설정될 수 있다.

일 실시예에 따른 전자 장치(101; 200)에서, 상기 적어도 하나의 프로세서(120)는, 이미지 획득 신호를 획득하는 경우, 상기 획득한 오브젝트(object; O1,O2,O3)와의 거리 정보에 기반하여, 상기 이미지 센서(290)를 통해 상기 오브젝트(object; O1,O2,O3)에 대응하는 이미지를 획득하도록 설정될 수 있다.

본 개시의 일 실시예에 따른 전자 장치(101; 200)는, 초점 가변 렌즈(280), 및 상기 초점 가변 렌즈(280)를 통해 입사되는 광의 이미지 프레임을 획득하는 이미지 센서(290)를 포함할 수 있다. 일 실시예에 따른 전자 장치(101; 200)의 동작 방법은, 상기 이미지 센서(290)를 통하여, 상기 초점 가변 렌즈(280)의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 획득하는 동작을 포함할 수 있다. 일 실시예에 따른 전자 장치(101; 200)의 동작 방법은, 상기 획득한 적어도 하나 이상의 이미지 프레임에 기반하여, 상기 적어도 하나 이상의 이미지 프레임에 포함된 오브젝트(object; O1,O2,O3)에 대응하는 제1 초점 거리를 추정하는 동작을 포함할 수 있다. 일 실시예에 따른 전자 장치(101; 200)의 동작 방법은, 상기 추정한 제1 초점 거리에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작을 포함할 수 있다.

일 실시예에 따른 전자 장치(101; 200)의 동작 방법에서, 상기 초점 가변 렌즈(280)는, 입력되는 전압 또는 전류의 변화에 기반하여, 초점 거리가 가변되는 렌즈일 수 있다.

일 실시예에 따른 전자 장치(101; 200)의 동작 방법에서, 상기 적어도 하나 이상의 이미지 프레임을 획득하는 동작은, 상기 초점 가변 렌즈(280)에 입력되는 상기 전압 또는 전류를 변화하면서, 상기 적어도 하나 이상의 이미지 프레임을 획득하는 것일 수 있다.

일 실시예에 따른 전자 장치(101; 200)의 동작 방법에서, 상기 제1 초점 거리를 추정하는 동작은, 상기 획득한 적어도 하나 이상의 이미지 프레임 중 제1 이미지 프레임에 대응하여 상기 초점 가변 렌즈(280)에 입력된 상기 전압 또는 전류에 기반하여, 상기 제1 초점 거리를 추정하는 것일 수 있다.

일 실시예에 따른 전자 장치(101; 200)의 동작 방법에서, 상기 이미지 센서(290)는, 복수 개의 포토 다이오드(291, 292)를 포함할 수 있다. 상기 제1 초점 거리를 추정하는 동작은, 상기 이미지 센서(290)의 상기 복수 개의 포토 다이오드(291, 292)로부터 획득한 데이터의 위상차에 기반하여, 상기 제1 초점 거리를 추정하는 것일 수 있다.

일 실시예에 따른 전자 장치(101; 200)의 동작 방법에서, 상기 제1 초점 거리를 추정하는 동작은, 상기 획득한 적어도 하나 이상의 이미지 프레임 중 상기 데이터의 위상차가 최소화된 제1 이미지 프레임에 대응하는 초점 거리를 상기 제1 초점 거리로 추정하는 것일 수 있다.

일 실시예에 따른 전자 장치(101; 200)의 동작 방법에서, 상기 제1 초점 거리를 추정하는 동작은, 상기 제1 이미지 프레임의 획득시 상기 초점 가변 렌즈(280)에 입력된 전압 또는 전류에 기반하여, 상기 제1 초점 거리를 추정하는 것일 수 있다.

일 실시예에 따른 전자 장치(101; 200)의 동작 방법에서, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작은, 지정된 주기에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 업데이트하는 것일 수 있다.

일 실시예에 따른 전자 장치(101; 200)의 동작 방법에서, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작은, 미리 저장된 상기 초점 가변 렌즈(280)에 입력되는 전압 또는 전류에 대응하는 거리 정보에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 것일 수 있다.

일 실시예에 따른 전자 장치(101; 200)의 동작 방법은, 이미지 획득 신호를 수신하는 경우, 상기 획득한 오브젝트(object; O1,O2,O3)와의 거리 정보에 기반하여, 상기 이미지 센서(290)를 통해 상기 오브젝트(object; O1,O2,O3)에 대응하는 이미지를 획득하는 동작을 더 포함할 수 있다.

본 개시의 일 실시예에 따른 하나 이상의 프로그램을 저장하는 비일시적 컴퓨터 판독 가능 저장 매체는, 어플리케이션의 실행에 기반하여, 상기 이미지 센서(290)를 통하여, 상기 초점 가변 렌즈(280)의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 획득하는 동작을 포함할 수 있다. 일 실시예에 따른 저장 매체는, 상기 획득한 적어도 하나 이상의 이미지 프레임에 기반하여, 상기 적어도 하나 이상의 이미지 프레임에 포함된 오브젝트(object; O1,O2,O3)에 대응하는 제1 초점 거리를 추정하는 동작을 포함할 수 있다. 일 실시예에 따른 저장 매체는, 상기 추정한 제1 초점 거리에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작을 포함할 수 있다.

본 문서에 개시된 일 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 전자 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.

본 문서의 일 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.

본 문서의 일 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.

본 문서의 일 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.

일실시예에 따르면, 본 문서에 개시된 일 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.

일 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 일 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 일 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims

전자 장치(101; 200)에 있어서,
초점 가변 렌즈(280);
상기 초점 가변 렌즈(280)를 통해 입사되는 광의 이미지 프레임을 획득하는 이미지 센서(290); 및
상기 초점 가변 렌즈(280) 및 상기 이미지 센서(290)와 동작적으로 연결된 적어도 하나의 프로세서(120)를 포함하고,
상기 적어도 하나의 프로세서(120)는:
상기 이미지 센서(290)를 통하여, 상기 초점 가변 렌즈(280)의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 획득하고,
상기 획득한 적어도 하나 이상의 이미지 프레임에 기반하여, 상기 적어도 하나 이상의 이미지 프레임에 포함된 오브젝트(object; O1,O2,O3)에 대응하는 제1 초점 거리를 추정하고,
상기 추정한 제1 초점 거리에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하도록 설정된,
전자 장치(101; 200).
제 1 항에 있어서,
상기 초점 가변 렌즈(280)는, 입력되는 전압 또는 전류의 변화에 기반하여, 초점 거리가 가변되는 렌즈인,
전자 장치(101; 200).
제 2 항에 있어서,
상기 적어도 하나의 프로세서(120)는:
상기 적어도 하나 이상의 이미지 프레임을 획득하는 동작의 적어도 일부로, 상기 초점 가변 렌즈(280)에 입력되는 상기 전압 또는 전류를 변화하면서, 상기 적어도 하나 이상의 이미지 프레임을 획득하도록 설정된,
전자 장치(101; 200).
제 2 항 내지 제 3 항 중 어느 하나의 항에 있어서,
상기 적어도 하나의 프로세서(120)는:
상기 제1 초점 거리를 추정하는 동작의 적어도 일부로, 상기 획득한 적어도 하나 이상의 이미지 프레임 중 제1 이미지 프레임에 대응하여 상기 초점 가변 렌즈(280)에 입력된 상기 전압 또는 전류에 기반하여, 상기 제1 초점 거리를 추정하도록 설정된,
전자 장치(101; 200).
제 1 항 내지 제 4 항 중 어느 하나의 항에 있어서,
상기 이미지 센서(290)는, 복수 개의 포토 다이오드(291, 292)를 포함하고,
상기 적어도 하나의 프로세서(120)는:
상기 제1 초점 거리를 추정하는 동작의 적어도 일부로, 상기 이미지 센서(290)의 상기 복수 개의 포토 다이오드(291, 292)로부터 획득한 데이터의 위상차에 기반하여, 상기 제1 초점 거리를 추정하도록 설정된,
전자 장치(101; 200).
제 5 항에 있어서,
상기 적어도 하나의 프로세서(120)는:
상기 제1 초점 거리를 추정하는 동작의 적어도 일부로, 상기 획득한 적어도 하나 이상의 이미지 프레임 중 상기 데이터의 위상차가 최소화된 제1 이미지 프레임에 대응하는 초점 거리를 상기 제1 초점 거리로 추정하도록 설정된,
전자 장치(101; 200).
제 6 항에 있어서,
상기 적어도 하나의 프로세서(120)는:
상기 제1 초점 거리를 추정하는 동작의 적어도 일부로, 상기 제1 이미지 프레임의 획득시 상기 초점 가변 렌즈(280)에 입력된 전압 또는 전류에 기반하여, 상기 제1 초점 거리를 추정하도록 설정된,
전자 장치(101; 200).
제 1 항 내지 제 7 항 중 어느 하나의 항에 있어서,
상기 적어도 하나의 프로세서(120)는:
상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작의 적어도 일부로, 지정된 주기에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 업데이트하도록 설정된,
전자 장치(101; 200).
제 1 항 내지 제 8 항 중 어느 하나의 항에 있어서,
상기 적어도 하나의 프로세서(120)는:
상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작의 적어도 일부로, 미리 저장된 상기 초점 가변 렌즈(280)에 입력되는 전압 또는 전류에 대응하는 상기 오브젝트(object; O1,O2,O3)와의 거리 정보에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하도록 설정된,
전자 장치(101; 200).
제 1 항 내지 제 9 항 중 어느 하나의 항에 있어서,
상기 적어도 하나의 프로세서(120)는:
이미지 획득 신호를 획득하는 경우, 상기 획득한 오브젝트(object; O1,O2,O3)와의 거리 정보에 기반하여, 상기 이미지 센서(290)를 통해 상기 오브젝트(object; O1,O2,O3)에 대응하는 이미지를 획득하도록 설정된,
전자 장치(101; 200).
초점 가변 렌즈(280), 및 상기 초점 가변 렌즈(280)를 통해 입사되는 광의 이미지 프레임을 획득하는 이미지 센서(290)를 포함하는, 전자 장치(101; 200)의 동작 방법에 있어서,
상기 이미지 센서(290)를 통하여, 상기 초점 가변 렌즈(280)의 적어도 하나 이상의 초점 거리에 각각 대응하는 적어도 하나 이상의 이미지 프레임을 획득하는 동작(930);
상기 획득한 적어도 하나 이상의 이미지 프레임에 기반하여, 상기 적어도 하나 이상의 이미지 프레임에 포함된 오브젝트(object; O1,O2,O3)에 대응하는 제1 초점 거리를 추정하는 동작(940); 및
상기 추정한 제1 초점 거리에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작(950)을 포함하는,
동작 방법.
제 11 항에 있어서,
상기 초점 가변 렌즈(280)는, 입력되는 전압 또는 전류의 변화에 기반하여, 초점 거리가 가변되는 렌즈인,
동작 방법.
제 12 항에 있어서,
상기 적어도 하나 이상의 이미지 프레임을 획득하는 동작(930)은, 상기 초점 가변 렌즈(280)에 입력되는 상기 전압 또는 전류를 변화하면서, 상기 적어도 하나 이상의 이미지 프레임을 획득하는,
동작 방법.
제 12 항 내지 제 13 항 중 어느 하나의 항에 있어서,
상기 제1 초점 거리를 추정하는 동작(940)은, 상기 획득한 적어도 하나 이상의 이미지 프레임 중 제1 이미지 프레임에 대응하여 상기 초점 가변 렌즈(280)에 입력된 상기 전압 또는 전류에 기반하여, 상기 제1 초점 거리를 추정하는,
동작 방법.
제 11 항 내지 제 14 항 중 어느 하나의 항에 있어서,
상기 이미지 센서(290)는, 복수 개의 포토 다이오드(291, 292)를 포함하고,
상기 제1 초점 거리를 추정하는 동작(940)은, 상기 이미지 센서(290)의 상기 복수 개의 포토 다이오드(291, 292)로부터 획득한 데이터의 위상차에 기반하여, 상기 제1 초점 거리를 추정하는,
동작 방법.
제 15 항에 있어서,
상기 제1 초점 거리를 추정하는 동작(940)은, 상기 획득한 적어도 하나 이상의 이미지 프레임 중 상기 데이터의 위상차가 최소화된 제1 이미지 프레임에 대응하는 초점 거리를 상기 제1 초점 거리로 추정하는,
동작 방법.
제 16 항에 있어서,
상기 제1 초점 거리를 추정하는 동작(940)은, 상기 제1 이미지 프레임의 획득시 상기 초점 가변 렌즈(280)에 입력된 전압 또는 전류에 기반하여, 상기 제1 초점 거리를 추정하는,
동작 방법.
제 11 항 내지 제 17 항 중 어느 하나의 항에 있어서,
상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작(950)은, 지정된 주기에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 업데이트하는,
동작 방법.
제 11 항 내지 제 18 항 중 어느 하나의 항에 있어서,
상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는 동작(950)은, 미리 저장된 상기 초점 가변 렌즈(280)에 입력되는 전압 또는 전류에 대응하는 상기 오브젝트(object; O1,O2,O3)와의 거리 정보에 기반하여, 상기 오브젝트(object; O1,O2,O3)와의 거리 정보를 획득하는,
동작 방법.
제 11 항 내지 제 19 항 중 어느 하나의 항에 있어서,
이미지 획득 신호를 수신하는 경우, 상기 획득한 오브젝트(object; O1,O2,O3)와의 거리 정보에 기반하여, 상기 이미지 센서(290)를 통해 상기 오브젝트(object; O1,O2,O3)에 대응하는 이미지를 획득하는 동작(990)을 더 포함하는,
동작 방법.