KR20230100538A - 스마트 글래스 기반의 품질 관리 방법 및 장치 - Google Patents

스마트 글래스 기반의 품질 관리 방법 및 장치 Download PDF

Info

Publication number
KR20230100538A
KR20230100538A KR1020220031254A KR20220031254A KR20230100538A KR 20230100538 A KR20230100538 A KR 20230100538A KR 1020220031254 A KR1020220031254 A KR 1020220031254A KR 20220031254 A KR20220031254 A KR 20220031254A KR 20230100538 A KR20230100538 A KR 20230100538A
Authority
KR
South Korea
Prior art keywords
target object
smart glasses
display
control method
image
Prior art date
Application number
KR1020220031254A
Other languages
English (en)
Inventor
이대건
공대성
신의경
Original Assignee
(주)힉스컴퍼니
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)힉스컴퍼니 filed Critical (주)힉스컴퍼니
Publication of KR20230100538A publication Critical patent/KR20230100538A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0639Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06395Quality analysis or management
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • G02B2027/0174Head mounted characterised by optical features holographic

Abstract

본 발명은 스마트 글래스 기반의 품질 관리 방법에 관한 것이다. 스마트 글래스 기반의 품질 관리 방법은, 스마트 글래스에 포함된 적어도 하나의 이미지 센서를 기초로 대상 객체를 촬영한 대상 객체 이미지를 획득하는 단계 및 대상 객체 이미지를 획득하는 것에 응답하여, 스마트 글래스의 디스플레이에 대상 객체의 표면 굴곡을 포함하는 홀로그램 형상을 표시하는 단계를 포함한다.

Description

스마트 글래스 기반의 품질 관리 방법 및 장치{QUALITY CONTROL METHOD AND DEVICE BASED ON SMART GLASS}
본 발명은 스마트 글래스 기반의 품질 관리 방법 및 장치에 관한 것으로, 구체적으로, AR(Augmented Reality), MR(Mixed Reality) 등을 이용하여 특정 객체의 품질 검사를 수행하는 스마트 글래스 기반의 품질 관리 방법 및 장치에 관한 것이다.
한편, 현재 특정 객체의 품질 검사(Quality Control, QC)는 대부분 검사자의 관찰을 통한 육안 검사로 수행되고 있다. 예를 들어, 반도체 웨이퍼(wafer)의 표면 결함 등을 확인하기 위해 검사자는 광학 현미경, 확대경 등을 통해 육안 검사를 수행하고 객체 결함을 확인할 수 있다.
그러나, 이와 같이 품질 검사가 육안 검사로 이루어지는 경우, 검사자의 경험, 눈의 피로도 등에 따라 검사 정확도 차이가 발생할 수 있으며, 검사자의 주관적 판단에 의존하므로 검사 분류 결과가 검사자 마다 상이하게 결정될 수 있는 문제가 있다. 또한, 결함이 확인된 후에도 검사 데이터는 검사자에 의해 수동적으로 관리될 뿐이어서 데이터 관리 효율이 저하되는 문제가 있다.
본 발명은 상기와 같은 문제점을 해결하기 위한 스마트 글래스 기반의 품질 관리 방법, 컴퓨터 판독 가능 매체에 저장된 컴퓨터 프로그램, 컴퓨터 프로그램이 저장된 컴퓨터 판독 가능 매체 및 장치(시스템)를 제공한다.
본 발명은 방법, 장치(시스템), 컴퓨터 판독 가능 매체에 저장된 컴퓨터 프로그램 또는 컴퓨터 프로그램이 저장된 컴퓨터 판독 가능 매체를 포함한 다양한 방식으로 구현될 수 있다.
본 발명의 일 실시예에 따르면, 적어도 하나의 프로세서에 의해 수행되는 스마트 글래스 기반의 품질 관리 방법은, 스마트 글래스에 포함된 적어도 하나의 이미지 센서를 기초로 대상 객체를 촬영한 대상 객체 이미지를 획득하는 단계 및 대상 객체 이미지를 획득하는 것에 응답하여, 스마트 글래스의 디스플레이에 대상 객체의 표면 굴곡을 포함하는 홀로그램 형상을 표시하는 단계를 포함한다.
본 발명의 일 실시예에 따르면, 스마트 글래스는 대상 객체 이미지를 기초로 홀로그램 형상을 생성하도록 학습된 인공신경망 모델과 연관된다.
본 발명의 일 실시예에 따르면, 인공신경망 모델은 복수의 학습 객체 이미지 및 디지털 홀로그래픽 현미경을 이용하여 복수의 학습 객체에 대응하도록 생성된 복수의 홀로그램 형상을 기초로 학습된다.
본 발명의 일 실시예에 따르면, 홀로그램 형상을 기초로 대상 객체의 결함 여부를 결정하는 단계 및 대상 객체의 결함 여부를 나타내는 결함 정보를 디스플레이에 표시하는 단계를 더 포함한다.
본 발명의 일 실시예에 따르면, 홀로그램 형상을 기초로 대상 객체의 결함 여부를 결정하는 단계는, 홀로그램 형상을 기초로 대상 객체의 표면 굴곡률을 산출하는 단계 및 산출된 대상 객체의 표면 굴곡률이 사전 결정된 기준에 대응하지 않는 경우 대상 객체에 결함이 있는 것으로 결정하는 단계를 포함한다.
본 발명의 일 실시예에 따르면, 스마트 글래스를 통해 대상 객체 이미지를 획득하는 경우, 대상 객체 수를 나타내는 제1 파라미터의 값을 증가시키는 단계, 대상 객체에 결함이 있는 것으로 판정된 경우, 결함 객체 수를 나타내는 제2 파라미터의 값을 증가시키는 단계, 대상 객체를 포함하는 복수의 대상 객체의 표면 검사가 완료된 경우, 제1 파라미터의 값 및 제2 파라미터의 값을 이용하여 복수의 대상 객체의 생산 공정의 결함률을 산출하는 단계 및 산출된 결함률을 디스플레이에 표시하는 단계를 더 포함한다.
본 발명의 일 실시예에 따른 방법을 컴퓨터에서 실행하기 위해 컴퓨터 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램이 제공된다.
본 발명의 일 실시예에 따른 컴퓨팅 장치는, 적어도 하나의 이미지 센서, 디스플레이, 통신 모듈, 메모리 및 메모리와 연결되고, 메모리에 포함된 컴퓨터 판독 가능한 적어도 하나의 프로그램을 실행하도록 구성된 적어도 하나의 프로세서를 포함한다. 적어도 하나의 프로그램은, 적어도 하나의 이미지 센서를 기초로 대상 객체를 촬영한 대상 객체 이미지를 획득하고, 대상 객체 이미지를 획득하는 것에 응답하여, 디스플레이에 대상 객체의 표면 굴곡을 포함하는 홀로그램 형상을 표시하기 위한 명령어들을 포함한다.
본 발명의 다양한 실시예에서 품질 검사 작업자는 대상 객체를 응시하는 것만으로 디지털 홀로그래픽 현미경에 의해 생성된 것과 유사한 홀로그램 형상을 곧바로 확인할 수 있으며, 이러한 홀로그램 형상을 확인하여 빠른 속도로 대상 객체에 대한 품질 검사를 수행할 수 있다. 또한, 숙련되지 않은 작업자의 경우에도 스마트 글래스를 착용하는 것만으로 효과적으로 대상 객체에 대한 품질 검사를 수행하고 표면 결함 등을 추출할 수 있다.
본 발명의 다양한 실시예에서 컴퓨팅 장치는 단순히 작업자가 복수의 객체를 응시하는 것만으로 공정의 결함률을 산출하여 제공할 수 있다. 이에 따라 정확성 높은 검사 데이터가 산출될 수 있으며, 산출된 검사 데이터는 컴퓨팅 장치에 의해 자동적으로 관리될 수 있다.
본 발명의 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급되지 않은 다른 효과들은 청구범위의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자("통상의 기술자"라 함)에게 명확하게 이해될 수 있을 것이다.
본 발명의 실시예들은, 이하 설명하는 첨부 도면들을 참조하여 설명될 것이며, 여기서 유사한 참조 번호는 유사한 요소들을 나타내지만, 이에 한정되지는 않는다.
도 1은 본 발명의 일 실시예에 따른 스마트 글래스의 디스플레이를 통해 대상 객체의 품질 검사가 수행되는 예시를 나타내는 도면이다.
도 2는 본 발명의 일 실시예에 따른 컴퓨팅 장치로부터 생성되는 다양한 데이터 및/또는 정보를 나타내는 예시적인 도면이다.
도 3은 본 발명의 일 실시예에 따른 스마트 글래스를 도시하는 평면도이다.
도 4는 본 발명의 일 실시예에 따른 디지털 홀로그래픽 현미경 장치의 예시를 나타내는 블록도이다.
도 5는 본 발명의 일 실시예에 따른 스마트 글래스 기반의 품질 관리 방법의 예시를 나타내는 도면이다.
이하, 본 발명의 실시를 위한 구체적인 내용을 첨부된 도면을 참조하여 상세히 설명한다. 다만, 이하의 설명에서는 본 발명의 요지를 불필요하게 흐릴 우려가 있는 경우, 널리 알려진 기능이나 구성에 관한 구체적 설명은 생략하기로 한다.
첨부된 도면에서, 동일하거나 대응하는 구성요소에는 동일한 참조부호가 부여되어 있다. 또한, 이하의 실시예들의 설명에 있어서, 동일하거나 대응되는 구성요소를 중복하여 기술하는 것이 생략될 수 있다. 그러나, 구성요소에 관한 기술이 생략되어도, 그러한 구성요소가 어떤 실시예에 포함되지 않는 것으로 의도되지는 않는다.
개시된 실시예의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명이 완전하도록 하고, 본 발명이 통상의 기술자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것일 뿐이다.
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 개시된 실시예에 대해 구체적으로 설명하기로 한다. 본 명세서에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 관련 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서, 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.
본 명세서에서의 단수의 표현은 문맥상 명백하게 단수인 것으로 특정하지 않는 한, 복수의 표현을 포함한다. 또한, 복수의 표현은 문맥상 명백하게 복수인 것으로 특정하지 않는 한, 단수의 표현을 포함한다. 명세서 전체에서 어떤 부분이 어떤 구성요소를 포함한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다.
본 발명에서, "포함하다", "포함하는" 등의 용어는 특징들, 단계들, 동작들, 요소들 및/또는 구성 요소들이 존재하는 것을 나타낼 수 있으나, 이러한 용어가 하나 이상의 다른 기능들, 단계들, 동작들, 요소들, 구성 요소들 및/또는 이들의 조합이 추가되는 것을 배제하지는 않는다.
본 발명에서, 특정 구성 요소가 임의의 다른 구성 요소에 "결합", "조합", "연결" 되거나, "반응" 하는 것으로 언급된 경우, 특정 구성 요소는 다른 구성 요소에 직접 결합, 조합 및/또는 연결되거나, 반응할 수 있으나, 이에 한정되지 않는다. 예를 들어, 특정 구성 요소와 다른 구성 요소 사이에 하나 이상의 중간 구성 요소가 존재할 수 있다. 또한, 본 발명에서 "및/또는"은 열거된 하나 이상의 항목의 각각 또는 하나 이상의 항목의 적어도 일부의 조합을 포함할 수 있다.
본 발명에서, "제1", "제2" 등의 용어는 특정 구성 요소를 다른 구성 요소와 구별하기 위해 사용되는 것으로, 이러한 용어에 의해 상술된 구성 요소가 제한되진 않는다. 예를 들어, "제1" 구성 요소는 "제2" 구성 요소와 동일하거나 유사한 형태의 요소일 수 있다.
도 1은 본 발명의 일 실시예에 따른 스마트 글래스(100)의 디스플레이(110)를 통해 대상 객체(120)의 품질 검사가 수행되는 예시를 나타내는 도면이다. 일 실시예에 따르면, 스마트 글래스(100)는 투시 기능과 컴퓨팅 장치가 결합된 안경 형태의 디바이스를 지칭할 수 있으며, AR 기반의 글래스, MR 기반의 글래스 등을 포함할 수 있다. 또한, 대상 객체(target object)(120)는 품질 검사의 대상이 되는 임의의 객체로서, 예를 들어, 반도체 공정에서의 웨이퍼(wafer) 등을 포함할 수 있다.
일 실시예에 따르면, 품질 검사를 수행하는 사용자는 스마트 글래스(100)를 착용하고 대상 객체(120)를 응시하여 대상 객체(120)에 대한 표면 결함 등의 품질 검사를 수행할 수 있다. 예를 들어, 스마트 글래스(100)를 착용한 사용자가 대상 객체(120)를 응시하는 경우, 대상 객체(120)의 표면 굴곡을 포함하는 홀로그램 형상(holographic shape) 및 결함과 연관된 정보(130)가 스마트 글래스(100)의 디스플레이(110) 상에 표시될 수 있다.
다시 말해, 사용자가 대상 객체(120)를 응시하는 경우, 스마트 글래스(100)는 적어도 하나의 이미지 센서를 기초로 대상 객체(120)를 촬영한 대상 객체 이미지를 획득할 수 있다. 또한, 스마트 글래스(100)는 대상 객체 이미지를 획득하는 것에 응답하여, 스마트 글래스(100)의 디스플레이(110)에 대상 객체(120)의 표면 굴곡을 포함하는 홀로그램 형상을 표시할 수 있다. 여기서, 홀로그램 형상은 빛의 간섭을 이용하여 생성된 입체적인 대상 객체(120)의 3차원 형상일 수 있으며, 대상 객체(120)와 중첩되어 표시될 수 있다.
일 실시예에 따르면, 스마트 글래스(100)는 대상 객체 이미지를 기초로 홀로그램 형상을 생성하도록 학습된 인공신경망 모델과 연관될 수 있다. 여기서, 인공신경망 모델은 복수의 학습 객체 이미지 및 디지털 홀로그래픽 현미경(digital holographic microscopy)을 이용하여 복수의 학습 객체에 대응하도록 생성된 복수의 홀로그램 형상을 기초로 학습될 수 있다.
구체적으로, 인공신경망 모델을 학습시키기 위한 학습 데이터를 생성하기 위해, 객체의 3차원 홀로그램 형상을 생성하는 디지털 홀로그래픽 현미경을 이용하여 복수의 학습 객체에 대한 복수의 홀로그램 형상이 생성할 수 있다. 또한, 복수의 학습 객체를 촬영한 복수의 학습 객체 이미지가 생성될 수 있다. 그리고 나서, 인공신경망 모델은 복수의 학습 객체 이미지가 입력되는 경우, 각각에 대응하는 홀로그램 형상이 출력되도록 학습될 수 있다. 이와 같이 학습된 인공신경망 모델에 스마트 글래스(100)를 통해 촬영된 대상 객체 이미지를 입력하는 경우, 해당 대상 객체(120)의 표면 굴곡을 포함하는 홀로그램 형상이 출력될 수 있다.
도 1에서는 스마트 글래스(100)의 우측 디스플레이(110) 상에 이미지 및/또는 홀로그램이 표시되는 것으로 도시되었으나, 이에 한정되지 않으며, 이미지 및/또는 홀로그램은 스마트 글래스(100)의 좌측 디스플레이 또는 양측 디스플레이에 표시될 수도 있다. 이와 같은 구성에 의해, 품질 검사 작업자는 대상 객체(120)를 응시하는 것만으로 디지털 홀로그래픽 현미경에 의해 생성된 것과 유사한 홀로그램 형상을 곧바로 확인할 수 있으며, 이러한 홀로그램 형상을 확인하여 빠른 속도로 대상 객체(120)에 대한 품질 검사를 수행할 수 있다. 또한, 숙련되지 않은 작업자의 경우에도 스마트 글래스(100)를 착용하는 것만으로 효과적으로 대상 객체(120)에 대한 품질 검사를 수행하고 표면 결함 등을 추출할 수 있다.
도 2는 본 발명의 일 실시예에 따른 컴퓨팅 장치(200)로부터 생성되는 다양한 데이터 및/또는 정보를 나타내는 예시적인 도면이다. 일 실시예에 따르면, 컴퓨팅 장치(200)는 상술된 스마트 글래스(도 1의 100)를 포함하거나 적어도 하나의 스마트 글래스와 연관될 수 있다. 도시된 것과 같이, 컴퓨팅 장치(200)는 인공신경망 모델(210)을 포함하거나, 인공신경망 모델(210)과 연관될 수 있다. 여기서, 인공신경망 모델(210)은 객체 이미지를 입력 받아 홀로그램 형상을 출력하도록 사전 학습된 모델일 수 있다. 또한, 컴퓨팅 장치(200)는 이미지 센서, 디스플레이, 통신 모듈, 음성 처리 모듈, 영상 처리 모듈, IMU 센서 모듈, 감지 센서 모듈, 저장 모듈, 프로세서 등을 더 포함하도록 구성될 수 있다.
일 실시예에 따르면, 컴퓨팅 장치(200)는 스마트 글래스에 포함된 적어도 하나의 이미지 센서를 기초로 대상 객체를 촬영한 대상 객체 이미지(220)를 획득할 수 있다. 이 경우, 컴퓨팅 장치(200)는 대상 객체 이미지(220)를 인공신경망 모델(210)에 제공하여 대상 객체의 표면 굴곡을 포함하는 홀로그램 형상(230)을 생성하고 디스플레이 상에 표시할 수 있다.
추가적으로 또는 대안적으로, 컴퓨팅 장치(200)는 홀로그램 형상(230)을 기초로 대상 객체의 결함 여부를 결정할 수 있다. 예를 들어, 컴퓨팅 장치(200)는 홀로그램 형상을 기초로 대상 객체의 표면 굴곡률(240)을 산출하고, 산출된 대상 객체의 표면 굴곡률(240)이 사전 결정된 기준에 대응하지 않는 경우 대상 객체에 결함이 있는 것으로 결정할 수 있다. 여기서, 표면 굴곡률(240)은 대상 객체의 표면 중 적어도 일부의 영역이 구부러진 정도를 나타내는 값일 수 있으며, 사전 결정된 임의의 알고리즘 및/또는 기계학습 모델에 의해 산출될 수 있다. 또한, 컴퓨팅 장치(200)는 대상 객체의 결함 여부를 나타내는 결함 정보(250)를 디스플레이에 표시할 수 있다. 즉, 품질 검사 작업자는 대상 객체를 응시하는 것만으로도 대상 객체의 홀로그램 형상(230), 표면 굴곡률(240), 결함 정보(250)를 간단히 제공받을 수 있다.
추가적으로 또는 대안적으로, 컴퓨팅 장치(200)는 생성된 홀로그램 형상(230)을 사전 결정된 알고리즘을 기초로 정답 형상과 비교하여 대상 객체의 결함 여부를 결정할 수도 있다. 예를 들어, 대상 객체에 파손이 발생된 경우, 컴퓨팅 장치(200)는 홀로그램 형상(230)이 정답 형상의 범위에 대응되지 않는 것으로 판단하여 대상 객체에 결함이 있는 것으로 판정할 수 있다.
추가적으로 또는 대안적으로, 컴퓨팅 장치(200)는 스마트 글래스를 통해 대상 객체 이미지를 획득하는 경우, 대상 객체 수를 나타내는 제1 파라미터의 값을 증가시키고, 대상 객체에 결함이 있는 것으로 판정된 경우, 결함 객체 수를 나타내는 제2 파라미터의 값을 증가시킬 수 있다. 그리고 나서, 컴퓨팅 장치(200)는 대상 객체를 포함하는 복수의 대상 객체의 표면 검사가 완료된 경우, 제1 파라미터의 값 및 제2 파라미터의 값을 이용하여 복수의 대상 객체의 생산 공정의 결함률(fault rate)(260)을 산출할 수 있다. 즉, 컴퓨팅 장치(200)는 총 검사 객체 수 대비 결함 객체 수를 이용하여 공정 전체의 결함률(260)을 산출할 수 있다. 이와 같은 구성에 의해, 컴퓨팅 장치(200)는 단순히 작업자가 복수의 객체를 응시하는 것만으로 공정의 결함률을 산출하여 제공할 수 있다. 이에 따라 정확성 높은 검사 데이터가 산출될 수 있으며, 산출된 검사 데이터는 컴퓨팅 장치(200)에 의해 자동적으로 관리될 수 있다.
도 3은 본 발명의 일 실시예에 따른 스마트 글래스(100)를 도시하는 평면도이다. 도시된 것과 같이, 스마트 글래스(100)는 외부 상황을 촬영하도록 구성된 적어도 하나의 전면 카메라(또는 이미지 센서)(322, 324), 사용자의 좌안과 우안을 촬영하도록 구성된 적어도 하나의 후면 카메라(332, 334), 제1 영상을 오버레이하여 표시하도록 구성된 제1 디스플레이(예: 투명 디스플레이)(312), 제2 영상을 오버레이하여 표시하도록 구성된 제2 디스플레이(예: 투명 디스플레이)(314) 및 적어도 하나의 전면 카메라(322, 324) 및 적어도 하나의 후면 카메라(332, 334)로부터 적어도 하나의 이미지를 수신하여 처리하고, 제1 디스플레이(312) 및 제2 디스플레이(314)의 동작을 제어하도록 구성된 제어부를 포함한다.
전면 카메라(322, 324)는 스마트 글래스(100)의 외부 또는 바깥쪽으로 노출되어 외부 상황 및/또는 대상 객체를 촬영하도록 구성된 카메라로, 좌측의 전면 카메라(322) 및 우측의 전면 카메라(324)를 포함한다. 후면 카메라(332, 334)는 스마트 글래스(100)의 내부 또는 안쪽으로 노출되어 사용자의 양안을 촬영하도록 구성된 카메라로, 사용자의 좌안(392)을 촬영하는 좌측의 후면 카메라(332) 및 사용자의 우안(394)을 촬영하는 우측의 후면 카메라(134)를 포함한다. 후면 카메라(332, 334)는 사용자 눈의 움직임, 깜빡임, 동공 크기, 눈물 발생 여부 및 시선 등의 시각 정보를 촬영하도록 구성될 수 있다. 추가적으로 또는 대안적으로, 후면 카메라(332, 334)는 투명 디스플레이(312, 314) 옆에 배치될 수 있다. 일 실시예에 따르면, 후면 카메라(332, 334)를 이용하여 사용자의 좌안(392) 및/또는 우안(394)이 촬영될 수 있으며, 홍채 인식을 통해 사용자 인증을 진행하여 보다 고정밀의 보안 기능을 제공할 수 있다. 즉, 스마트 글래스(100)를 착용하는 경우, 해당 사용자가 품질 검사를 수행하는 사전 등록된 사용자인지 여부가 판정될 수 있다.
디스플레이(312, 314)는 투명 OLED(Organic Light-Emitting Diode) 디스플레이로, 스마트 글래스(100)의 전면에 설치되어 사용자의 육안으로 인식되는 텍스트 또는 이미지를 재생할 수 있다. 일 실시예에 따르면, 디스플레이(312, 314)는 마이크로 디스플레이일 수 있다. 디스플레이(312, 314)는 텍스트, 이미지 및/또는 홀로그램을 표시해서 사용자가 디스플레이(312, 314)를 투과해서 외부 사물을 인식할 때, 임의의 정보(예: 결함 정보, 표면 굴곡률, 결함률 등)를 표시할 수 있다. 디스플레이(312, 314)는 투과도를 낮춰 사용자가 텍스트, 이미지 및/또는 홀로그램을 보다 선명하게 인식하도록 할 수 있다. 예를 들어, 제1 디스플레이(312)는 제1 영상을 오버레이하여 표시하고, 제2 디스플레이(314)는 제2 영상을 오버레이하여 표시하도록 구성될 수 있다. 도 1에 도시된 바와 같이 제1 디스플레이(312)는 사용자의 좌안(392) 앞에 배치되고, 제2 디스플레이(314)는 사용자의 우안(394) 앞에 배치될 수 있다.
일 실시예에 따르면, 디스플레이(312, 314)는 투명 OLED 대신에 렌즈에 영상이 투사되는 방식으로 구현될 수 있다. 이 경우, 스마트 글래스(100)의 프레임의 양측에 설치된 프로젝터로부터 빔이 투명 디스플레이를 향해 방출되고, 사용자는 투명 디스플레이에 투사된 영상을 확인할 수 있다.
제어부는 적어도 하나의 전면 카메라(322, 324) 및 적어도 하나의 후면 카메라(332, 334)로부터 적어도 하나의 이미지(예: 대상 객체 이미지)를 수신하여 처리하고, 제1 디스플레이(312) 및 제2 디스플레이(314)의 동작을 제어하도록 구성된다. 또한, 제어부는 중앙 서버와 주고받는 통신 신호에 기초하여 스마트 글래스(100)의 동작을 제어할 수 있다. 예를 들어, 제어부는 투명 디스플레이(312, 314)에 텍스트, 이미지 및/또는 홀로그램이 표시되도록 할 수 있다. 또한, 마이크(342, 344)를 통해 명령 신호가 수신되면, 제어부는 명령 신호에 대응하는 텍스트, 이미지 및/또는 홀로그램을 투명 디스플레이(312, 314)에 표시할 수 있다.
일 실시예에 따르면, 스마트 글래스(100)의 사용자는 제1 디스플레이(312)를 통해 대상 객체와 임의의 영상을 좌안(392)으로 확인하고, 사용자는 제2 디스플레이(314)를 통해 대상 객체와 임의의 영상을 우안(394)으로 확인할 수 있다. 이 때, 제어부는 적어도 하나의 후면 카메라(332, 334)로부터 수신되는 적어도 하나의 이미지를 통해 사용자의 눈 상태를 감지할 수 있다. 사용자의 눈 상태가 비정상인 것으로 판정하는 것에 응답하여, 제어부는 제1 디스플레이(312) 또는 제2 디스플레이(314)를 선택적으로 재생할 수 있다.
스마트 글래스(100)의 제어부는, 적어도 하나의 후면 카메라(332, 334)로부터 수신되는 적어도 하나의 이미지에 기초하여 사용자의 주시안(dominant eye)을 결정할 수 있다. 주시안을 결정하는 것에 응답하여, 제어부는 제1 디스플레이(312) 또는 제2 디스플레이(314) 중 사용자의 주시안에 대응하는 디스플레이를 제1 시간 기간 동안 재생할 수 있다. 이 때, 제어부는 사용자의 비-주시안(non-dominant eye)에 대응하는 디스플레이의 재생을 제1 시간 기간 동안 중지할 수 있다.
스마트 글래스(100)의 제어부는, 적어도 하나의 후면 카메라(332, 334)로부터 수신되는 적어도 하나의 이미지에 기초하여 사용자의 주시안의 피로도를 결정할 수 있다. 주시안의 피로도에 따라, 제어부는 제1 시간 기간을 동적으로 조정할 수 있다. 또한, 제1 시간 기간(또는 조정된 제1 시간 기간)이 경과한 후, 제어부는 사용자의 비-주시안에 대응하는 디스플레이를 제2 시간 기간 동안 재생하고, 사용자의 주시안에 대응하는 디스플레이의 재생을 제2 시간 기간 동안 중지할 수 있다. 이 경우, 제어부는, 적어도 하나의 후면 카메라(332, 334)로부터 수신되는 적어도 하나의 이미지에 기초하여 사용자의 비-주시안의 피로도를 결정하고, 비-주시안의 피로도에 기초하여 제2 시간 기간을 동적으로 조정할 수 있다.
스마트 글래스(100)의 제어부는, 적어도 하나의 후면 카메라(332, 334)로부터 수신되는 적어도 하나의 이미지에 기초하여 사용자의 눈동자 움직임을 트래킹할 수 있다. 눈동자의 움직임에 따라, 제어부는 제1 디스플레이(312) 및/또는 제2 디스플레이(314) 상에 표시할 홀로그램 형상 등을 보정하거나 출력 위치를 보정할 수 있다. 이러한 구성에 의해, 보다 현실감 있는 증강 현실 경험을 제공할 수 있다.
일 실시예에 따르면, 제어부는 적어도 하나의 전면 카메라(322, 324)에 의해 촬영되는 적어도 하나의 이미지 내의 대상 객체에 기초하여 제1 디스플레이(312) 및/또는 제2 디스플레이(314) 상에 표시할 홀로그램 등을 결정하도록 구성될 수 있다.
스마트 글래스(100)는 좌측의 제1 마이크(342) 및 우측의 제2 마이크(344)를 포함할 수 있다. 마이크(342, 344)는 사용자의 음성 및 외부 소리를 인식하도록 구성된다. 일 실시예에 따르면, 마이크(342, 344)는 전면 카메라(322, 324) 및 후면 카메라(332, 334)의 좌우에 장착될 수 있다. 이때, 마이크(342, 344)는 서로 다른 방향으로 설치되는 것이 가능하다. 예를 들면, 어느 하나의 마이크(342, 344)는 전방을 향하고, 나머지는 후방을 향하도록 설치될 수 있다. 서로 다른 방향으로 설치되는 마이크(342, 344)로 인하여 소리가 들리는 방향을 감지하도록 할 수 있다. 마이크(342, 344)에서 수신된 신호는 제어부로 제공된다. 제어부는 마이크(342, 344)로부터 수신되는 소리 또는 음성(음성 명령)에 기초하여 제1 디스플레이(312) 또는 제2 디스플레이(314) 중 적어도 하나 상에 표시할 영상을 결정할 수 있다.
프레임(380)은 안경 모양을 가지도록 구성된다. 프레임(380)은 두개의 다리가 구비되어 사용자가 착용할 수 있도록 형성될 수 있다. 프레임(380)의 다리에는 2개의 감지 센서(352, 354)가 각각의 다리에 1개씩 설치되어 사용자의 스마트 글래스(100)의 착용을 감지할 수 있다. 또한, 프레임(380)의 전방에는 필요에 따라 스마트 글래스(100)를 보호하는 렌즈 또는 강화 유리(370)가 장착될 수 있다. 투명 디스플레이(312, 314)는 보호 렌즈 또는 강화 유리(370) 상에 또는 내에 배치될 수 있다. 스마트 글래스(100)가 사용되는 환경이나 사용 목적에 맞게 작업 현장의 보안경 및 안전장비 역할을 대체할 수 있다. 추가적으로, 프레임의 양측에는 터치 센서가 설치되어, 사용자의 터치 입력에 의한 스마트 글래스(100) 제어가 가능할 수 있다. 이러한 구성을 통해, 사용자는 음성 명령, 제스처 명령, 눈 동자 명령, 눈 깜빡인 명령, 터치 입력 등을 포함한 다양한 입력 방식을 통해 스마트 글래스(100)를 제어할 수 있다. 예를 들어, 사용자는 터치 입력을 통해 영상 기록 시작/정지 등과 같은 다양한 제어를 할 수 있다.
IMU 센서(360)는 제1 디스플레이(312)와 제2 디스플레이(314) 사이에 위치하며, 사용자의 동작을 감지하여 스마트 글래스(100)의 방향을 센싱할 수 있다. 제어부는 센싱된 스마트 글래스(100)의 방향의 변화 정도를 기초로 영상의 송출을 제어할 수 있다. 변화 정도는 IMU 센서(360)를 통해 센싱된 스마트 글래스(100)의 변경 각에 따라 결정될 수 있고, 예를 들어, 변화 정도는 스마트 글래스(100)를 착용한 사용자 머리의 흔들림 정도, 움직임 속도 또는 상하좌우의 빠른 돌림 정도 등에 해당할 수 있다.
도 4는 본 발명의 일 실시예에 따른 디지털 홀로그래픽 현미경 장치(400)의 예시를 나타내는 블록도이다. 광원부(410)는 광원 발광부(412)와 광원부 렌즈(414)를 포함한다. 예를 들어, 광원 발광부(412)는 단일하지 아니한 여러 대역에 분포된 파장 대역을 가지는 혼합광을 발광할 수 있다. 광원부 렌즈(414)는 광원 발광부(412)에서 생성된 혼합광을 광학적으로 조절하고, 이를 파장 분할부(420)에 입사시킬 수 있다.
파장 분할부(420)는 제1 광분할기(422)와 제1 여광판(424) 및 제2 여광판(426)과 제1 반사체(428)를 포함할 수 있다. 제1 광분할기(422)는 광원부(410)로부터 입사된 혼합광을 제공받아 2개의 광으로 분할할 수 있다. 이때 제1 광분할기(422)는 제공된 혼합광을 서로 다른 방향으로 나누어 진행시키는 역할을 수행할 수 있다.
제1 여광판(424)은 제1 광분할기(422)에서 분할된 광들 중 하나의 광을 제공받아 미리 정해진 단일 파장을 가지는 제1 광선을 생성할 수 있다. 여기서 제1 여광판(424)에 제공된 광은 제1 여광판(424)을 통과하면서 필터링되고, 제1 여광판(424)의 특성에 따라 정해진 단일한 파장을 가지는 제1 광선이 획득될 수 있다. 제2 여광판(426)은 제1 여광판(424)과 동일한 방식으로, 제1 광분할기(422)에서 분할된 광들 중 나머지 하나의 광을 제공받아, 제1 광선의 파장과 다른 파장을 가지는 제2 광선을 생성할 수 있다. 여기서, 제2 광선은 간섭무늬 획득부(430)로 전달될 수 있다. 또한, 제1 반사체(428)는 제1 여광판(424)에서 획득된 제1 광선을 제공받아 간섭무늬 획득부(430)에 제공할 수 있다.
간섭무늬 획득부(430)는 제2 광분할기(432), 제3 광분할기(434), 제2 반사체(436), 제3 여광판(438) 및 제3 반사체(440)를 포함할 수 있다. 제2 광분할기(432)는 제공된 제1 광선을 제1 물체광과 제1 참조광으로 분할할 수 있다. 이때, 제2 광분할기(422)는 제1 물체광과 제1 참조광은 서로 다른 방향으로 제공될 수 있다. 또한, 제3 광분할기(434)는 제2 광분할기(432)와 동일한 방식으로 제2 광선을 제2 물체광과 제2 참조광으로 분할할 수 있다.
제2 반사체(436)는 제1 참조광을 제공받고, 이를 반사하여 제2 광분할기(432)로 보낼 수 있으며, 이때 반사되는 광은 제1 반사 참조광일 수 있다. 여기서 제2 반사체(436)는 제어부(460)의 제어에 따라 각도 조절이 가능하도록 구성될 수 있다. 제3 여광판(438)은 제2 광분할기(432)에서 분할된 제1 참조광을 제공받아 제2 반사체(436)로 보낼 수 있으며, 다시 제1 반사 참조광을 제공받아 제2 광분할기(432)로 보낼 수 있다.
제3 반사체(440)는 제2 참조광을 제공받고, 이를 반사하여 제3 광분할기(434)로 보낼 수 있으며, 이때 반사되는 광은 제2 반사 참조광일 수 있다. 여기서, 제3 반사체(440)는 제어부(460)의 제어에 따라 각도 조절이 가능하도록 구성될 수 있다. 이와 같이, 각도 조절이 가능하도록 구성되는 경우, 탈축(off-axis) 홀로그램이 구현될 수 있다.
일 실시예에 따르면, 제2 광분할기(432)는 분할한 제1 물체광을 대물부(450)에 거치되어 있는 대상 객체에 제공할 수 있으며, 이때 대상 객체에서 반사되는 광은 제1 반사 물체광일 수 있다. 마찬가지로, 제2 광분할기(434)는 분할한 제2 물체광을 대물부(450)에 거치되어 있는 대상 객체에 제공할 수 있으며, 이때 대상 객체에서 반사되는 광은 제2 반사 물체광일 수 있다. 이와 같이 생성된 제1 반사 물체광 및 제2 반사 물체광과 제1 반사 참조광 및 제2 반사 참조광은 이미지 처리부(470)에 제공될 수 있다.
일 실시예에 따르면, 이미지 처리부(470)는 제공된 제1 반사 물체광 및 제2 반사 물체광과 제1 반사 참조광 및 제2 반사 참조광을 이용하여 간섭무늬를 생성할 수 있다. 여기서, 간섭무늬는 홀로그램의 형태로 생성될 수 있으며, 이에 따라 대상 객체에 대응하는 홀로그램 형상이 생성될 수 있다. 이와 같이 생성된 대상 객체의 홀로그램 형상은 상술한 바와 같은 인공신경망 모델을 학습시키기 위한 학습 데이터로 사용될 수 있다.
도 5는 본 발명의 일 실시예에 따른 스마트 글래스 기반의 품질 관리 방법(500)의 예시를 나타내는 도면이다. 스마트 글래스 기반의 품질 관리 방법(500)은 적어도 하나의 프로세서(예: 컴퓨팅 장치의 적어도 하나의 프로세서)에 의해 수행될 수 있다. 스마트 글래스 기반의 품질 관리 방법(500)은 프로세서가 스마트 글래스에 포함된 적어도 하나의 이미지 센서를 기초로 대상 객체를 촬영한 대상 객체 이미지를 획득함으로써 개시될 수 있다(S510).
프로세서는 대상 객체 이미지를 획득하는 것에 응답하여, 스마트 글래스의 디스플레이에 대상 객체의 표면 굴곡을 포함하는 홀로그램 형상을 표시할 수 있다. 여기서, 스마트 글래스는 대상 객체 이미지를 기초로 홀로그램 형상을 생성하도록 학습된 인공신경망 모델과 연관될 수 있으며, 인공신경망 모델은 복수의 학습 객체 이미지 및 디지털 홀로그래픽 현미경을 이용하여 복수의 학습 객체에 대응하도록 생성된 복수의 홀로그램 형상을 기초로 학습된 모델일 수 있다.
프로세서는 홀로그램 형상을 기초로 대상 객체의 결함 여부를 결정하고, 대상 객체의 결함 여부를 나타내는 결함 정보를 디스플레이에 표시할 수 있다. 예를 들어, 프로세서는 홀로그램 형상을 기초로 대상 객체의 표면 굴곡률을 산출하고, 산출된 대상 객체의 표면 굴곡률이 사전 결정된 기준에 대응하지 않는 경우 대상 객체에 결함이 있는 것으로 결정할 수 있다.
프로세서는 스마트 글래스를 통해 대상 객체 이미지를 획득하는 경우, 대상 객체 수를 나타내는 제1 파라미터의 값을 증가시키고, 대상 객체에 결함이 있는 것으로 판정된 경우, 결함 객체 수를 나타내는 제2 파라미터의 값을 증가시킬 수 있다. 프로세서는 대상 객체를 포함하는 복수의 대상 객체의 표면 검사가 완료된 경우, 제1 파라미터의 값 및 제2 파라미터의 값을 이용하여 복수의 대상 객체의 생산 공정의 결함률을 산출하고, 산출된 결함률을 디스플레이에 표시할 수 있다.
상술된 방법 및/또는 다양한 실시예들은, 디지털 전자 회로, 컴퓨터 하드웨어, 펌웨어, 소프트웨어 및/또는 이들의 조합으로 실현될 수 있다. 본 발명의 다양한 실시예들은 데이터 처리 장치, 예를 들어, 프로그래밍 가능한 하나 이상의 프로세서 및/또는 하나 이상의 컴퓨팅 장치에 의해 실행되거나, 컴퓨터 판독 가능한 기록 매체 및/또는 컴퓨터 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램으로 구현될 수 있다. 상술된 컴퓨터 프로그램은 컴파일된 언어 또는 해석된 언어를 포함하여 임의의 형태의 프로그래밍 언어로 작성될 수 있으며, 독립 실행형 프로그램, 모듈, 서브 루틴 등의 임의의 형태로 배포될 수 있다. 컴퓨터 프로그램은 하나의 컴퓨팅 장치, 동일한 네트워크를 통해 연결된 복수의 컴퓨팅 장치 및/또는 복수의 상이한 네트워크를 통해 연결되도록 분산된 복수의 컴퓨팅 장치를 통해 배포될 수 있다.
상술된 방법 및/또는 다양한 실시예들은, 입력 데이터를 기초로 동작하거나 출력 데이터를 생성함으로써, 임의의 기능, 함수 등을 처리, 저장 및/또는 관리하는 하나 이상의 컴퓨터 프로그램을 실행하도록 구성된 하나 이상의 프로세서에 의해 수행될 수 있다. 예를 들어, 본 발명의 방법 및/또는 다양한 실시예는 FPGA(Field Programmable Gate Array) 또는 ASIC(Application Specific Integrated Circuit)과 같은 특수 목적 논리 회로에 의해 수행될 수 있으며, 본 발명의 방법 및/또는 실시예들을 수행하기 위한 장치 및/또는 시스템은 FPGA 또는 ASIC와 같은 특수 목적 논리 회로로서 구현될 수 있다.
컴퓨터 프로그램을 실행하는 하나 이상의 프로세서는, 범용 목적 또는 특수 목적의 마이크로 프로세서 및/또는 임의의 종류의 디지털 컴퓨팅 장치의 하나 이상의 프로세서를 포함할 수 있다. 프로세서는 읽기 전용 메모리, 랜덤 액세스 메모리의 각각으로부터 명령 및/또는 데이터를 수신하거나, 읽기 전용 메모리와 랜덤 액세스 메모리로부터 명령 및/또는 데이터를 수신할 수 있다. 본 발명에서, 방법 및/또는 실시예들을 수행하는 컴퓨팅 장치의 구성 요소들은 명령어들을 실행하기 위한 하나 이상의 프로세서, 명령어들 및/또는 데이터를 저장하기 위한 하나 이상의 메모리 디바이스를 포함할 수 있다.
일 실시예에 따르면, 컴퓨팅 장치는 데이터를 저장하기 위한 하나 이상의 대용량 저장 장치와 데이터를 주고받을 수 있다. 예를 들어, 컴퓨팅 장치는 자기 디스크(magnetic disc) 또는 광 디스크(optical disc)로부터 데이터를 수신하거나/수신하고, 자기 디스크 또는 광 디스크로 데이터를 전송할 수 있다. 컴퓨터 프로그램과 연관된 명령어들 및/또는 데이터를 저장하기에 적합한 컴퓨터 판독 가능한 저장 매체는, EPROM(Erasable Programmable Read-Only Memory), EEPROM(Electrically Erasable PROM), 플래시 메모리 장치 등의 반도체 메모리 장치를 포함하는 임의의 형태의 비 휘발성 메모리를 포함할 수 있으나, 이에 한정되지 않는다. 예를 들어, 컴퓨터 판독 가능한 저장 매체는 내부 하드 디스크 또는 이동식 디스크와 같은 자기 디스크, 광 자기 디스크, CD-ROM 및 DVD-ROM 디스크를 포함할 수 있다.
사용자와의 상호 작용을 제공하기 위해, 컴퓨팅 장치는 정보를 사용자에게 제공하거나 디스플레이하기 위한 디스플레이 장치(예를 들어, CRT (Cathode Ray Tube), LCD(Liquid Crystal Display) 등) 및 사용자가 컴퓨팅 장치 상에 입력 및/또는 명령 등을 제공할 수 있는 포인팅 장치(예를 들어, 키보드, 마우스, 트랙볼 등)를 포함할 수 있으나, 이에 한정되지 않는다. 즉, 컴퓨팅 장치는 사용자와의 상호 작용을 제공하기 위한 임의의 다른 종류의 장치들을 더 포함할 수 있다. 예를 들어, 컴퓨팅 장치는 사용자와의 상호 작용을 위해, 시각적 피드백, 청각 피드백 및/또는 촉각 피드백 등을 포함하는 임의의 형태의 감각 피드백을 사용자에게 제공할 수 있다. 이에 대해, 사용자는 시각, 음성, 동작 등의 다양한 제스처를 통해 컴퓨팅 장치로 입력을 제공할 수 있다.
본 발명에서, 다양한 실시예들은 백엔드 구성 요소(예: 데이터 서버), 미들웨어 구성 요소(예: 애플리케이션 서버) 및/또는 프론트 엔드 구성 요소를 포함하는 컴퓨팅 시스템에서 구현될 수 있다. 이 경우, 구성 요소들은 통신 네트워크와 같은 디지털 데이터 통신의 임의의 형태 또는 매체에 의해 상호 연결될 수 있다. 예를 들어, 통신 네트워크는 LAN(Local Area Network), WAN(Wide Area Network) 등을 포함할 수 있다.
본 명세서에서 기술된 예시적인 실시예들에 기반한 컴퓨팅 장치는, 사용자 디바이스, 사용자 인터페이스(UI) 디바이스, 사용자 단말 또는 클라이언트 디바이스를 포함하여 사용자와 상호 작용하도록 구성된 하드웨어 및/또는 소프트웨어를 사용하여 구현될 수 있다. 예를 들어, 컴퓨팅 장치는 랩톱(laptop) 컴퓨터와 같은 휴대용 컴퓨팅 장치를 포함할 수 있다. 추가적으로 또는 대안적으로, 컴퓨팅 장치는, PDA(Personal Digital Assistants), 태블릿 PC, 게임 콘솔(game console), 웨어러블 디바이스(wearable device), IoT(internet of things) 디바이스, VR(virtual reality) 디바이스, AR(augmented reality) 디바이스 등을 포함할 수 있으나, 이에 한정되지 않는다. 컴퓨팅 장치는 사용자와 상호 작용하도록 구성된 다른 유형의 장치를 더 포함할 수 있다. 또한, 컴퓨팅 장치는 이동 통신 네트워크 등의 네트워크를 통한 무선 통신에 적합한 휴대용 통신 디바이스(예를 들어, 이동 전화, 스마트 전화, 무선 셀룰러 전화 등) 등을 포함할 수 있다. 컴퓨팅 장치는, 무선 주파수(RF; Radio Frequency), 마이크로파 주파수(MWF; Microwave Frequency) 및/또는 적외선 주파수(IRF; Infrared Ray Frequency)와 같은 무선 통신 기술들 및/또는 프로토콜들을 사용하여 네트워크 서버와 무선으로 통신하도록 구성될 수 있다.
본 발명에서 특정 구조적 및 기능적 세부 사항을 포함하는 다양한 실시예들은 예시적인 것이다. 따라서, 본 발명의 실시예들은 상술된 것으로 한정되지 않으며, 여러 가지 다른 형태로 구현될 수 있다. 또한, 본 발명에서 사용된 용어는 일부 실시예를 설명하기 위한 것이며 실시예를 제한하는 것으로 해석되지 않는다. 예를 들어, 단수형 단어 및 상기는 문맥상 달리 명확하게 나타내지 않는 한 복수형도 포함하는 것으로 해석될 수 있다.
본 발명에서, 달리 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함하여 본 명세서에서 사용되는 모든 용어는 이러한 개념이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 갖는다. 또한, 사전에 정의된 용어와 같이 일반적으로 사용되는 용어들은 관련 기술의 맥락에서의 의미와 일치하는 의미를 갖는 것으로 해석되어야 한다.
본 명세서에서는 본 발명이 일부 실시예들과 관련하여 설명되었지만, 본 발명의 발명이 속하는 기술분야의 통상의 기술자가 이해할 수 있는 본 발명의 범위를 벗어나지 않는 범위에서 다양한 변형 및 변경이 이루어질 수 있다. 또한, 그러한 변형 및 변경은 본 명세서에 첨부된 특허청구의 범위 내에 속하는 것으로 생각되어야 한다.
100: 스마트 글래스
110: 디스플레이
120: 대상 객체
130: 결함과 연관된 정보

Claims (8)

  1. 적어도 하나의 프로세서에 의해 수행되는 스마트 글래스(smart glass) 기반의 품질 관리 방법으로서,
    스마트 글래스에 포함된 적어도 하나의 이미지 센서를 기초로 대상 객체(target object)를 촬영한 대상 객체 이미지를 획득하는 단계; 및
    상기 대상 객체 이미지를 획득하는 것에 응답하여, 상기 스마트 글래스의 디스플레이에 상기 대상 객체의 표면 굴곡을 포함하는 홀로그램 형상(holographic shape)을 표시하는 단계;
    를 포함하는 스마트 글래스 기반의 품질 관리 방법.
  2. 제1항에 있어서,
    상기 스마트 글래스는 대상 객체 이미지를 기초로 홀로그램 형상을 생성하도록 학습된 인공신경망 모델과 연관된 스마트 글래스 기반의 품질 관리 방법.
  3. 제2항에 있어서,
    상기 인공신경망 모델은 복수의 학습 객체 이미지 및 디지털 홀로그래픽 현미경(digital holographic microscopy)을 이용하여 상기 복수의 학습 객체에 대응하도록 생성된 복수의 홀로그램 형상을 기초로 학습된 스마트 글래스 기반의 품질 관리 방법.
  4. 제1항에 있어서,
    상기 홀로그램 형상을 기초로 상기 대상 객체의 결함 여부를 결정하는 단계; 및
    상기 대상 객체의 결함 여부를 나타내는 결함 정보를 상기 디스플레이에 표시하는 단계;
    를 더 포함하는 스마트 글래스 기반의 품질 관리 방법.
  5. 제4항에 있어서,
    상기 홀로그램 형상을 기초로 상기 대상 객체의 결함 여부를 결정하는 단계는,
    상기 홀로그램 형상을 기초로 상기 대상 객체의 표면 굴곡률을 산출하는 단계; 및
    상기 산출된 대상 객체의 표면 굴곡률이 사전 결정된 기준에 대응하지 않는 경우 상기 대상 객체에 결함이 있는 것으로 결정하는 단계;
    를 포함하는 스마트 글래스 기반의 품질 관리 방법.
  6. 제4항에 있어서,
    상기 스마트 글래스를 통해 상기 대상 객체 이미지를 획득하는 경우, 대상 객체 수를 나타내는 제1 파라미터의 값을 증가시키는 단계;
    상기 대상 객체에 결함이 있는 것으로 판정된 경우, 결함 객체 수를 나타내는 제2 파라미터의 값을 증가시키는 단계;
    상기 대상 객체를 포함하는 복수의 대상 객체의 표면 검사가 완료된 경우, 상기 제1 파라미터의 값 및 상기 제2 파라미터의 값을 이용하여 상기 복수의 대상 객체의 생산 공정의 결함률(fault rate)을 산출하는 단계; 및
    상기 산출된 결함률을 상기 디스플레이에 표시하는 단계;
    를 더 포함하는 스마트 글래스 기반의 품질 관리 방법.
  7. 제1항 내지 제6항 중 어느 한 항에 따른 방법을 컴퓨터에서 실행하기 위해 컴퓨터 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램.
  8. 컴퓨팅 장치로서,
    적어도 하나의 이미지 센서;
    디스플레이;
    통신 모듈;
    메모리; 및
    상기 메모리와 연결되고, 상기 메모리에 포함된 컴퓨터 판독 가능한 적어도 하나의 프로그램을 실행하도록 구성된 적어도 하나의 프로세서;
    를 포함하고,
    상기 적어도 하나의 프로그램은,
    상기 적어도 하나의 이미지 센서를 기초로 대상 객체를 촬영한 대상 객체 이미지를 획득하고,
    상기 대상 객체 이미지를 획득하는 것에 응답하여, 상기 디스플레이에 상기 대상 객체의 표면 굴곡을 포함하는 홀로그램 형상을 표시하기 위한 명령어들을 포함하는 컴퓨팅 장치.
KR1020220031254A 2021-12-28 2022-03-14 스마트 글래스 기반의 품질 관리 방법 및 장치 KR20230100538A (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210189636 2021-12-28
KR20210189636 2021-12-28

Publications (1)

Publication Number Publication Date
KR20230100538A true KR20230100538A (ko) 2023-07-05

Family

ID=87158614

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220031254A KR20230100538A (ko) 2021-12-28 2022-03-14 스마트 글래스 기반의 품질 관리 방법 및 장치

Country Status (1)

Country Link
KR (1) KR20230100538A (ko)

Similar Documents

Publication Publication Date Title
US11340702B2 (en) In-field illumination and imaging for eye tracking
US10852817B1 (en) Eye tracking combiner having multiple perspectives
US11474358B2 (en) Systems and methods for retinal imaging and tracking
KR102062658B1 (ko) 안구 모델을 생성하기 위한 각막의 구체 추적
CN106249412B (zh) 头戴式显示器装置
US11650426B2 (en) Holographic optical elements for eye-tracking illumination
US10698204B1 (en) Immersed hot mirrors for illumination in eye tracking
US11609424B2 (en) Apodized reflective optical elements for eye-tracking and optical artifact reduction
WO2015051751A1 (en) Interactive projection display
US11067821B2 (en) Apodized optical elements for optical artifact reduction
US11093208B2 (en) Using detected pupil location to align optical components of a head-mounted display
US11073903B1 (en) Immersed hot mirrors for imaging in eye tracking
US10725302B1 (en) Stereo imaging with Fresnel facets and Fresnel reflections
CN114144717A (zh) 用于减少光学伪影的变迹光学元件
CA3127571A1 (en) Apparatus, system and method of determining one or more parameters of a refractive error of a tested eye
US11475592B2 (en) Systems and methods for determining an ear saddle point of a user to produce specifications to fit a wearable apparatus to the user's head
US11307654B1 (en) Ambient light eye illumination for eye-tracking in near-eye display
US11237628B1 (en) Efficient eye illumination using reflection of structured light pattern for eye tracking
US20230038781A1 (en) Augmented reality device and method for detecting gaze of user
KR20230100538A (ko) 스마트 글래스 기반의 품질 관리 방법 및 장치
US20230367857A1 (en) Pose optimization in biometric authentication systems
CN116569221A (zh) 用于成像系统的灵活照明
CN116529787A (zh) 多波长生物识别成像系统
KR20220058277A (ko) 스테레오 매칭 방법 및 이를 수행하는 영상 처리 장치
US20230417627A1 (en) Prescription lens enrollment and switching for optical sensing systems