KR20220111383A - Smart mirror apparatus for providing augmented reality service and operating method thereof - Google Patents

Smart mirror apparatus for providing augmented reality service and operating method thereof Download PDF

Info

Publication number
KR20220111383A
KR20220111383A KR1020210014551A KR20210014551A KR20220111383A KR 20220111383 A KR20220111383 A KR 20220111383A KR 1020210014551 A KR1020210014551 A KR 1020210014551A KR 20210014551 A KR20210014551 A KR 20210014551A KR 20220111383 A KR20220111383 A KR 20220111383A
Authority
KR
South Korea
Prior art keywords
user
information
content
image
smart mirror
Prior art date
Application number
KR1020210014551A
Other languages
Korean (ko)
Other versions
KR102683868B1 (en
Inventor
이민수
Original Assignee
주식회사 코맥스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 코맥스 filed Critical 주식회사 코맥스
Priority to KR1020210014551A priority Critical patent/KR102683868B1/en
Publication of KR20220111383A publication Critical patent/KR20220111383A/en
Application granted granted Critical
Publication of KR102683868B1 publication Critical patent/KR102683868B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31—User authentication
    • G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Security & Cryptography (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Ophthalmology & Optometry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

The present invention relates to a smart mirror device and an operating method therefor, wherein the smart mirror device according to one embodiment comprises: an image acquiring part that acquires the image data comprising an image of a preset object located in front of a screen and an image of a user; a user information calculation part that calculates the user location information corresponding to the face of the user based on the acquired image data and the size information corresponding to the preset object; and a control part that controls at least one of a content among an image content, a text content, and a widget content displayed on the screen based on the calculated user location information. Therefore, the present invention is capable of enabling the location of the user to be more accurately specified.

Description

증강현실 서비스를 제공하는 스마트 미러 장치 및 그 동작방법{SMART MIRROR APPARATUS FOR PROVIDING AUGMENTED REALITY SERVICE AND OPERATING METHOD THEREOF}Smart mirror device providing augmented reality service and its operation method

본 발명은 스마트 미러 장치 및 그 동작방법에 관한 것으로, 보다 상세하기는 스마트 미러 장치의 스크린에 표시되는 거울상을 이용하여 증강현실 서비스를 제공하는 기술적 사상에 관한 것이다.The present invention relates to a smart mirror device and an operating method thereof, and more particularly, to a technical idea of providing an augmented reality service using a mirror image displayed on a screen of a smart mirror device.

현재 디스플레이 장치는 수동적인 디스플레이의 개념을 탈피하여 능동적으로 사용자가 정보를 상호작용하는 수단으로의 변화하고 있다. A current display device is changing from a passive display concept to a means for a user to actively interact with information.

구체적으로, 디스플레이 장치는 UHD로 구현되는 초고화질 화면으로 인해 높은 현실감과 화면 크기의 확장으로 디스플레이의 대형화가 가능하고 이는 입체영상의 입체감 향상으로 이어져 DID(digital information display)가 사용자에게 제공할 수 있는 인터랙티브 컨텐츠의 사용 경험의 확장을 가져올 것으로 평가되고 있다. Specifically, the display device can enlarge the display due to the high realism and the expansion of the screen size due to the ultra-high-resolution screen implemented in UHD, which leads to the improvement of the three-dimensional effect of the three-dimensional image, which can be provided by the digital information display (DID) to the user. It is expected to bring the expansion of the experience of using interactive content.

이러한 차세대 디스플레이 장치의 발전으로 인해 맞이하게 되는 새로운 정보사회의 패러다임을 준비하고, 한차원 진보적인 연구가 필요한 시점에서 새롭게 주목받고 있는 기술이 미러 디스플레이 기술이다.Mirror display technology is a technology that is newly attracting attention at a time when it is necessary to prepare for the paradigm of a new information society that will be met by the development of such next-generation display devices and to conduct one-dimensional progressive research.

여기서, 미러 디스플레이는 영상화면을 표시하기 위한 스크린을 거울에 구비되어 있는 스마트 미러 장치로 정의할 수 있으며, 별도의 디스플레이를 요구하지 않으므로 비용 및 공간활용 측면에서 유용하다.Here, the mirror display may be defined as a smart mirror device provided in a mirror with a screen for displaying an image screen, and since it does not require a separate display, it is useful in terms of cost and space utilization.

현재 보편화된 개인용 소형 스마트 디바이스의 경우 다양한 컨텐츠를 이용하기 위해 이용자가 해당 컨텐츠를 검색하고 그 내용을 다시 구분해야 하는 불편함이 있다. 또한 이러한 스마트 디바이스는 휴대를 위한 작은 크기와 더불어 컨텐츠가 탑재되는 디바이스가 개인 휴대전화라는 특성상 대단히 개인적인 용도로 활용되고 있다. In the case of small smart devices for personal use, which are currently common, in order to use various contents, there is an inconvenience in that the user has to search for the contents and re-classify the contents. In addition, these smart devices are used for very personal purposes due to their small size for portability and the fact that the device on which the contents are loaded is a personal mobile phone.

이러한 이유에서 주택이나 사업장 등 어디나 설치되어 있는 전통적인 아날로그 디스플레이인 거울을 발전시켜 차세대 디스플레이로 활용하고 스마트 컨텐츠, 나아가 인터랙티브 컨텐츠를 제공하여 사용자의 생활 문화를 개선하는 역할을 수행하는 기술에 대한 요구가 증가하고 있다. For this reason, the demand for technology that plays a role in improving the user's living culture by developing a mirror, which is a traditional analog display installed anywhere, such as a house or business, and using it as a next-generation display, and providing smart and interactive content is increasing. are doing

이에 스마트 미러 장치의 스크린을 통해 인터랙티브 컨텐츠를 보다 용이하게 제공하기 위한 기술 개발이 지속하고 있으나, 기존 스마트 미러 장치에 탑재된 카메라 모듈로는 사용자의 위치를 정확히 특정하기가 어려워 컨텐츠 구현의 한계를 보이고 있다.Therefore, technology development to more easily provide interactive content through the screen of the smart mirror device continues, but it is difficult to accurately specify the location of the user with the camera module mounted on the existing smart mirror device, which limits the implementation of the content. have.

한국공개특허 제10-2017-0060353호, "전자 장치, 거리 측정 센서 및 그 제어 방법"Korean Patent Application Laid-Open No. 10-2017-0060353, "Electronic device, distance measuring sensor, and control method thereof"

본 발명은 물체의 크기 정보에 기초하여 사용자의 위치를 보다 정확하게 특정할 수 있는 스마트 미러 장치 및 그 동작방법을 제공하고자 한다. An object of the present invention is to provide a smart mirror device capable of more accurately specifying a user's location based on size information of an object, and an operating method thereof.

또한, 본 발명은 특정된 사용자의 위치에 기초하여 컨텐츠의 크기 및 위치를 용이하게 조절할 수 있는 스마트 미러 장치 및 그 동작방법을 제공하고자 한다. Another object of the present invention is to provide a smart mirror device capable of easily adjusting the size and location of content based on a specified user's location, and a method of operating the same.

또한, 본 발명은 특정된 사용자의 위치에 기초하여 위젯 컨텐츠를 시각화함으로써 사용자의 편의성을 향상시킬 수 있는 스마트 미러 장치 및 그 동작방법을 제공하고자 한다.Another object of the present invention is to provide a smart mirror device capable of improving user convenience by visualizing widget contents based on a specified user's location, and an operating method thereof.

본 발명의 일실시예에 따른 스마트 미러 장치는 스크린 전면에 위치한 기설정된 물체의 이미지와 사용자의 이미지를 포함하는 이미지 데이터를 획득하는 이미지 획득부와, 획득한 이미지 데이터와 기설정된 물체에 대응되는 크기 정보에 기초하여 사용자의 얼굴에 대응되는 사용자 위치정보를 산출하는 사용자 정보 산출부 및 산출된 사용자 위치정보에 기초하여 스크린에 표시되는 이미지 컨텐츠, 텍스트 컨텐츠 및 위젯 컨텐츠 중 적어도 하나의 컨텐츠를 제어하는 컨텐츠 제어부를 포함할 수 있다. A smart mirror device according to an embodiment of the present invention includes an image acquisition unit for acquiring image data including an image of a preset object located in front of a screen and an image of a user, and a size corresponding to the acquired image data and the preset object A user information calculator that calculates user location information corresponding to a user's face based on the information, and a content that controls at least one of image content, text content, and widget content displayed on the screen based on the calculated user location information It may include a control unit.

일측에 따르면, 사용자 위치정보는 스크린과 사용자의 얼굴 사이의 거리정보 및 스크린의 중심점을 기준으로 하는 사용자의 얼굴의 각도정보 중 적어도 하나를 포함할 수 있다. According to one side, the user location information may include at least one of distance information between the screen and the user's face and angle information of the user's face based on the center point of the screen.

일측에 따르면, 사용자 정보 산출부는 기설정된 물체에 대응되는 기준 크기 정보 및 기설정된 물체의 이미지에 대응되는 크기 정보에 기초하여 사용자 위치정보를 산출할 수 있다. According to one side, the user information calculator may calculate user location information based on reference size information corresponding to a preset object and size information corresponding to an image of the preset object.

일측에 따르면, 사용자 정보 산출부는 사용자의 이미지에 포함된 눈동자, 얼굴 및 몸통의 방향정보를 분석하고, 분석된 방향정보에 기초하여 사용자의 시선정보를 산출할 수 있다. According to one side, the user information calculating unit may analyze the direction information of the pupil, face, and torso included in the image of the user, and calculate the gaze information of the user based on the analyzed direction information.

일측에 따르면, 사용자 정보 산출부는 획득한 이미지 데이터에 포함된 사용자가 복수인 경우, 복수의 사용자 각각의 시선정보, 스크린과 복수의 사용자 각각의 거리정보 및 기저장된 소유자 및 구성원 정보 중 적어도 하나의 정보에 기초하여 복수의 사용자 중 어느 하나의 사용자를 우선 사용자로 선택할 수 있다. According to one side, when the number of users included in the acquired image data is plural, the user information calculation unit includes at least one information of gaze information of each of a plurality of users, distance information of each of the screens and a plurality of users, and pre-stored owner and member information. Based on the , any one of the plurality of users may be selected as the preferred user.

일측에 따르면, 사용자 정보 산출부는 복수의 사용자 각각의 이미지를 분석하여 사용자 인증을 수행하고, 인증의 수행 결과와 기저장된 소유자 및 구성원 정보에 기초하여 복수의 사용자 각각의 소유자 여부, 구성원 여부 및 일반인 여부를 판단할 수 있다. According to one side, the user information calculation unit performs user authentication by analyzing the images of each of the plurality of users, and whether each of the plurality of users is an owner, a member, and a public based on the result of authentication and the pre-stored owner and member information can be judged

일측에 따르면, 컨텐츠 제어부는 산출된 사용자 위치정보에 기초하여 스크린에 표시되는 적어도 하나의 컨텐츠의 크기 및 위치 중 적어도 하나를 제어할 수 있다. According to one side, the content controller may control at least one of a size and a location of at least one content displayed on the screen based on the calculated user location information.

일측에 따르면, 컨텐츠 제어부는 산출된 사용자 위치정보에 기초하여 이미지 데이터에 포함된 타겟 객체의 이미지에 위젯 컨텐츠를 매칭할 수 있다. According to one side, the content controller may match the widget content to the image of the target object included in the image data based on the calculated user location information.

일측에 따르면, 컨텐츠 제어부는 산출된 사용자의 시선정보에 기초하여 타겟 객체의 응시 여부를 판단하고, 응시 여부의 판단 결과에 기초하여 타겟 객체의 이미지에 매칭된 위젯 컨텐츠를 시각화할 수 있다. According to one side, the content control unit may determine whether to gaze at the target object based on the calculated gaze information of the user, and visualize widget contents matched to the image of the target object based on the determination result of whether to gaze.

본 발명의 일실시예에 따른 스마트 미러 장치의 동작방법은 이미지 획득부에서 스크린 전면에 위치한 기설정된 물체의 이미지와 사용자의 이미지를 포함하는 이미지 데이터를 획득하는 단계와, 사용자 정보 산출부에서 획득한 이미지 데이터와 기설정된 물체에 대응되는 크기 정보에 기초하여 사용자의 얼굴에 대응되는 사용자 위치정보를 산출하는 단계 및 컨텐츠 제어부에서 산출된 사용자 위치정보에 기초하여 스크린에 표시되는 이미지 컨텐츠, 텍스트 컨텐츠 및 위젯 컨텐츠 중 적어도 하나의 컨텐츠를 제어하는 단계를 포함할 수 있다.A method of operating a smart mirror device according to an embodiment of the present invention includes: acquiring image data including an image of a preset object located in front of a screen in an image acquisition unit and an image of a user; Calculating user location information corresponding to the user's face based on image data and size information corresponding to a preset object, and image content, text content and widget displayed on the screen based on the user location information calculated by the content controller It may include controlling at least one content among the content.

일실시예에 따르면, 본 발명은 물체의 크기 정보에 기초하여 사용자의 위치를 보다 정확하게 특정할 수 있다. According to one embodiment, the present invention can more accurately specify the location of the user based on the size information of the object.

일실시예에 따르면, 본 발명은 특정된 사용자의 위치에 기초하여 컨텐츠의 크기 및 위치를 용이하게 조절할 수 있다.According to an embodiment, the present invention can easily adjust the size and location of content based on the specified user's location.

또한, 본 발명은 특정된 사용자의 위치에 기초하여 위젯 컨텐츠를 시각화함으로써 사용자의 편의성을 향상시킬 수 있다.In addition, the present invention can improve user convenience by visualizing widget contents based on a specified user's location.

도 1은 일실시예에 따른 스마트 미러 장치를 설명하기 위한 도면이다.
도 2a 내지 도 2b는 일실시예에 따른 스마트 미러 장치에서 위젯 컨텐츠를 제어하는 예시를 설명하기 위한 도면이다.
도 3은 일실시예에 따른 스마트 미러 장치의 동작방법을 설명하기 위한 도면이다.1 is a view for explaining a smart mirror device according to an embodiment.
2A to 2B are diagrams for explaining an example of controlling widget contents in a smart mirror device according to an embodiment.
3 is a view for explaining a method of operating a smart mirror device according to an embodiment.

이하, 본 문서의 다양한 실시 예들이 첨부된 도면을 참조하여 기재된다.Hereinafter, various embodiments of the present document will be described with reference to the accompanying drawings.

실시 예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다.Examples and terms used therein are not intended to limit the technology described in this document to specific embodiments, and should be understood to include various modifications, equivalents, and/or substitutions of the embodiments.

하기에서 다양한 실시 예들을 설명에 있어 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다.In the following, when it is determined that a detailed description of a known function or configuration related to various embodiments may unnecessarily obscure the gist of the present invention, a detailed description thereof will be omitted.

그리고 후술되는 용어들은 다양한 실시 예들에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.In addition, terms to be described later are terms defined in consideration of functions in various embodiments, which may vary according to intentions or customs of users and operators. Therefore, the definition should be made based on the content throughout this specification.

도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.In connection with the description of the drawings, like reference numerals may be used for like components.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다.The singular expression may include the plural expression unless the context clearly dictates otherwise.

본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다.In this document, expressions such as “A or B” or “at least one of A and/or B” may include all possible combinations of items listed together.

"제1," "제2," "첫째," 또는 "둘째," 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다.Expressions such as "first," "second," "first," or "second," can modify the corresponding elements, regardless of order or importance, and to distinguish one element from another element. It is used only and does not limit the corresponding components.

어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다.When an (eg, first) component is referred to as being “(functionally or communicatively) connected” or “connected” to another (eg, second) component, that component is It may be directly connected to the element, or may be connected through another element (eg, a third element).

본 명세서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다.As used herein, "configured to (or configured to)" according to the context, for example, hardware or software "suitable for," "having the ability to," "modified to ," "made to," "capable of," or "designed to," may be used interchangeably.

어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다.In some contexts, the expression “a device configured to” may mean that the device is “capable of” with other devices or components.

예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.For example, the phrase “a processor configured (or configured to perform) A, B, and C” refers to a dedicated processor (eg, an embedded processor) for performing the operations, or by executing one or more software programs stored in a memory device. , may refer to a general-purpose processor (eg, a CPU or an application processor) capable of performing corresponding operations.

또한, '또는' 이라는 용어는 배타적 논리합 'exclusive or' 이기보다는 포함적인 논리합 'inclusive or' 를 의미한다.Also, the term 'or' means 'inclusive or' rather than 'exclusive or'.

즉, 달리 언급되지 않는 한 또는 문맥으로부터 명확하지 않는 한, 'x가 a 또는 b를 이용한다' 라는 표현은 포함적인 자연 순열들(natural inclusive permutations) 중 어느 하나를 의미한다.That is, unless stated otherwise or clear from context, the expression 'x employs a or b' means any one of natural inclusive permutations.

상술한 구체적인 실시 예들에서, 발명에 포함되는 구성 요소는 제시된 구체적인 실시 예에 따라 단수 또는 복수로 표현되었다.In the above-described specific embodiments, elements included in the invention are expressed in the singular or plural according to the specific embodiments presented.

그러나, 단수 또는 복수의 표현은 설명의 편의를 위해 제시한 상황에 적합하게 선택된 것으로서, 상술한 실시 예들이 단수 또는 복수의 구성 요소에 제한되는 것은 아니며, 복수로 표현된 구성 요소라 하더라도 단수로 구성되거나, 단수로 표현된 구성 요소라 하더라도 복수로 구성될 수 있다.However, the singular or plural expression is appropriately selected for the situation presented for convenience of description, and the above-described embodiments are not limited to the singular or plural component, and even if the component is expressed in plural, it is composed of a singular or , even a component expressed in a singular may be composed of a plural.

한편 발명의 설명에서는 구체적인 실시 예에 관해 설명하였으나, 다양한 실시 예들이 내포하는 기술적 사상의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다.On the other hand, although specific embodiments have been described in the description of the invention, various modifications are possible without departing from the scope of the technical idea contained in the various embodiments.

그러므로 본 발명의 범위는 설명된 실시 예에 국한되어 정해져서는 아니되며 후술하는 청구범위뿐만 아니라 이 청구범위와 균등한 것들에 의해 정해져야 한다.Therefore, the scope of the present invention should not be limited to the described embodiments, but should be defined by the claims described below as well as the claims and equivalents.

도 1은 일실시예에 따른 스마트 미러 장치를 설명하기 위한 도면이다. 1 is a view for explaining a smart mirror device according to an embodiment.

도 1을 참조하면, 일실시예에 따른 스마트 미러 장치(100)는 물체의 크기 정보에 기초하여 사용자의 위치를 보다 정확하게 특정할 수 있다.Referring to FIG. 1 , the smart mirror apparatus 100 according to an embodiment may more accurately specify the location of the user based on the size information of the object.

또한, 스마트 미러 장치(100)는 특정된 사용자의 위치에 기초하여 컨텐츠의 크기 및 위치를 용이하게 조절할 수 있다. In addition, the smart mirror device 100 may easily adjust the size and location of the content based on the specified location of the user.

또한, 스마트 미러 장치(100)는 특정된 사용자의 위치에 기초하여 위젯 컨텐츠를 시각화함으로써 사용자의 편의성을 향상시킬 수 있다.In addition, the smart mirror device 100 may improve user convenience by visualizing widget contents based on a specified user's location.

이를 위해, 스마트 미러 장치(100)는 이미지 획득부(110), 사용자 정보 산출부(120) 및 컨텐츠 제어부(130)를 포함할 수 있다. To this end, the smart mirror device 100 may include an image acquisition unit 110 , a user information calculation unit 120 , and a content control unit 130 .

구체적으로, 일실시예에 따른 이미지 획득부(110)는 스크린 전면에 위치한 기설정된 물체의 이미지와 사용자의 이미지를 포함하는 이미지 데이터를 획득할 수 있다. 예를 들면, 이미지 획득부(110)는 스마트 미러 장치(100)에 설치된 카메라 모듈을 포함할 수 있으며, 카메라 모듈을 통해 이미지 데이터를 획득할 수 있다. Specifically, the image acquisition unit 110 according to an embodiment may acquire image data including an image of a preset object located in front of the screen and an image of a user. For example, the image acquisition unit 110 may include a camera module installed in the smart mirror device 100, and may acquire image data through the camera module.

일실시예에 따른 사용자 정보 산출부(120)는 획득한 이미지 데이터와 기설정된 물체에 대응되는 크기 정보에 기초하여 사용자의 얼굴에 대응되는 사용자 위치정보를 산출할 수 있다.The user information calculator 120 according to an embodiment may calculate user location information corresponding to the user's face based on the acquired image data and size information corresponding to a preset object.

예를 들면, 기설정된 물체는 크기를 사전에 알 수 있는 물체로, 콜라 캔, 조명 스탠드, 의자 및 책상 중 적어도 하나를 포함할 수 있으나 이에 한정되지 않고 실내에 위치한 소품 및 가전 제품 등을 포함할 수 있다. For example, the preset object is an object whose size can be known in advance, and may include at least one of a cola can, a light stand, a chair, and a desk, but is not limited thereto, and may include small items and home appliances located indoors. can

또한, 사용자 위치정보는 스크린과 사용자의 얼굴 사이의 거리정보 및 스크린의 기설정된 중심점을 기준으로 하는 사용자의 얼굴의 각도정보 중 적어도 하나를 포함할 수 있다. In addition, the user location information may include at least one of distance information between the screen and the user's face and angle information of the user's face based on a preset center point of the screen.

일측에 따르면, 사용자 정보 산출부(120)는 기설정된 물체에 대응되는 기준 크기 정보(사전에 저장된 실제 크기 정보) 및 기설정된 물체의 이미지에 대응되는 크기 정보에 기초하여 사용자 위치정보를 산출할 수 있다. According to one side, the user information calculation unit 120 may calculate user location information based on reference size information (pre-stored actual size information) corresponding to a preset object and size information corresponding to an image of the preset object. have.

구체적으로, 사용자 정보 산출부(120)는 사용자가 기설정된 물체를 사용자의 얼굴과 같은 위치에 둔 상태에서 스마트 미러 장치(100)의 스크린에 표시된 기설정된 물체의 이미지를 터치하면, 기설정된 물체의 기준 크기 정보와 기설정된 물체의 이미지에 대응되는 크기 정보를 비교하여 사용자의 거리정보를 산출할 수 있다. Specifically, when the user touches the image of the preset object displayed on the screen of the smart mirror device 100 in a state where the user places the preset object in the same position as the user's face, the user information calculating unit 120 may display the preset object. The user's distance information may be calculated by comparing the reference size information and the size information corresponding to the preset image of the object.

또한, 사용자 정보 산출부(120)는 스크린의 중심점을 기준으로 스크린과 수직을 이루는 가상의 선과, 터치된 지점과 중심점을 잇는 가상의 선 사이의 사잇각에 대응되는 사용자의 얼굴의 각도정보를 산출할 수 있다.In addition, the user information calculation unit 120 calculates the angle information of the user's face corresponding to the angle between the virtual line perpendicular to the screen and the virtual line connecting the touched point and the center point based on the center point of the screen. can

한편, 사용자 정보 산출부(120)는 기설정된 물체의 기준 크기 정보 및 기설정된 물체의 이미지에 대응되는 크기 정보에 기초하는 머신러닝 알고리즘을 통해 사용자 위치정보를 자동 산출할 수도 있다.Meanwhile, the user information calculating unit 120 may automatically calculate user location information through a machine learning algorithm based on preset reference size information of the object and size information corresponding to the preset image of the object.

또한, 사용자 정보 산출부(120)는 스마트 미러 장치(100)에 부가적으로 구비된 근접 센서, 거리 센서, 깊이 센서, 인체 감지 센서, 동공 인식 센서 및 근적외선 LED 중 적어도 하나 이상의 감지 수단을 이용하여 사용자 위치정보를 산출할 수도 있다. In addition, the user information calculation unit 120 uses at least one sensing means of a proximity sensor, a distance sensor, a depth sensor, a human body detection sensor, a pupil recognition sensor, and a near-infrared LED additionally provided in the smart mirror device 100 . User location information may be calculated.

일측에 따르면, 사용자 정보 산출부(120)는 사용자의 이미지에 포함된 눈동자, 얼굴 및 몸통의 방향정보를 분석하고, 분석된 방향정보에 기초하여 사용자의 시선정보를 산출할 수 있다.According to one side, the user information calculating unit 120 may analyze the direction information of the pupil, face, and torso included in the user's image, and calculate the user's gaze information based on the analyzed direction information.

일측에 따르면, 사용자 정보 산출부(120)는 획득한 이미지 데이터에 포함된 사용자가 복수인 경우, 복수의 사용자 각각의 시선정보, 스크린과 복수의 사용자 각각의 거리정보 및 기저장된 소유자 및 구성원 정보 중 적어도 하나의 정보에 기초하여 복수의 사용자 중 어느 하나의 사용자를 우선 사용자로 선택할 수 있다. According to one side, when there are a plurality of users included in the acquired image data, the user information calculating unit 120 is configured to include gaze information of each of a plurality of users, distance information of each of the screen and a plurality of users, and pre-stored owner and member information. Any one of the plurality of users may be selected as the preferred user based on at least one piece of information.

예를 들면, 사용자 정보 산출부(120)는 복수의 사용자 각각의 시선정보를 산출하고, 산출 결과에 기초하여 얼굴의 방향이 스크린을 향하는 사용자, 눈동자의 방향이 스크린을 항하는 사용자 및 몸통(또는 어깨)의 방향이 스크린을 향하는 사용자 중 어느 하나의 사용자를 우선 사용자로 선택할 수 있다. 바람직하게는, 사용자 정보 산출부(120)는 얼굴의 방향이 스크린을 향하는 사용자에게 가장 높은 우선 순위를 부여하고, 몸통의 방향이 스크린을 향하는 사용자에게 가장 낮은 우선 순위를 부여할 수 있다. For example, the user information calculation unit 120 calculates gaze information of each of a plurality of users, and based on the calculation result, a user whose face faces the screen, a user whose eyes face the screen, and a body (or Any one of the users whose direction of the shoulder) faces the screen may be selected as the preferred user. Preferably, the user information calculator 120 may give the highest priority to the user whose face direction faces the screen and the lowest priority to the user whose body direction faces the screen.

또한, 사용자 정보 산출부(120)는 스크린과 복수의 사용자 각각의 거리정보를 산출하고, 산출 결과에 기초하여 스크린에 가장 가까운 위치에 있는 사용자를 우선 사용자로 선택할 수 있다. In addition, the user information calculator 120 may calculate distance information between the screen and each of the plurality of users, and based on the calculation result, may select a user closest to the screen as the preferred user.

또한, 사용자 정보 산출부(120)는 복수의 사용자 각각의 이미지를 분석하여 사용자 인증을 수행하고, 인증의 수행 결과와 기저장된 소유자 및 구성원 정보에 기초하여 복수의 사용자 각각의 소유자 여부, 구성원 여부 및 일반인 여부를 판단하며, 판단 결과에 기초하여 어느 하나의 사용자를 우선 사용자로 선택할 수 있다. 바람직하게는 사용자 정보 산출부(120)는 스마트 미러 장치(100)의 소유자로 판단된 사용자에게 가장 높은 우선순위를 부여하고, 일반인으로 판단된 사용자에게 가장 낮은 우선순위를 부여할 수 있다. In addition, the user information calculation unit 120 performs user authentication by analyzing the images of each of the plurality of users, and whether each of the plurality of users is an owner, a member, and It is determined whether the user is a public person, and based on the determination result, any one user may be selected as the preferred user. Preferably, the user information calculating unit 120 may give the highest priority to the user determined as the owner of the smart mirror device 100 and the lowest priority to the user determined as the general public.

일실시예에 따른 컨텐츠 제어부(130)는 산출된 사용자 위치정보에 기초하여 스크린에 표시되는 이미지 컨텐츠, 텍스트 컨텐츠 및 위젯 컨텐츠 중 적어도 하나의 컨텐츠를 제어할 수 있다. The content controller 130 according to an embodiment may control at least one of image content, text content, and widget content displayed on the screen based on the calculated user location information.

일측에 따르면, 컨텐츠 제어부(130)는 산출된 사용자 위치정보에 기초하여 스크린에 표시되는 적어도 하나의 컨텐츠의 크기 및 위치 중 적어도 하나를 제어할 수 있다. According to one side, the content controller 130 may control at least one of a size and a location of at least one content displayed on the screen based on the calculated user location information.

일측에 따르면, 컨텐츠 제어부(130)는 사용자가 스크린으로부터 먼 위치에 있는 경우에 컨텐츠를 크고 간결하게 표시 되도록 제어하고, 사용자가 스크린으로부터 가까운 위치에 있는 경우에 컨텐츠를 작고 세밀하게 표시되도록 제어할 수 있다. According to one side, the content control unit 130 controls the content to be displayed in a large and concise manner when the user is at a location far from the screen, and can control the content to be displayed in small and detailed manner when the user is near the screen. have.

일측에 따르면, 컨텐츠 제어부(130)는 산출된 사용자 위치정보에 기초하여 사용자의 얼굴 위치가 스크린의 중심점을 기준으로 기설정된 임계 각도 범위 내에 위치한다고 판단되면, 스크린 상에 표시된 컨텐츠의 위치가 사용자의 얼굴 위치에 대응되는 방향으로 기설정된 제1 거리인 x(여기서, x는 자연수)만큼 이동되도록 제어할 수 있다. According to one side, if the content controller 130 determines that the position of the user's face is located within a predetermined threshold angle range with respect to the center point of the screen based on the calculated user position information, the position of the content displayed on the screen is the position of the user. It can be controlled to move by a predetermined first distance x (here, x is a natural number) in a direction corresponding to the position of the face.

또한, 컨텐츠 제어부(130)는 사용자의 얼굴 위치가 기설정된 임계 각도 범위 밖에 위치한다고 판단되면, 스크린 상에 표시된 컨텐츠의 위치가 사용자의 얼굴 위치에 대응되는 방향으로 기설정된 제2 거리인 x+a(여기서, a는 자연수)만큼 이동되도록 제어할 수 있다. Also, if the content controller 130 determines that the position of the user's face is outside the preset threshold angle range, the position of the content displayed on the screen is x+a which is a preset second distance in a direction corresponding to the position of the user's face. (here, a is a natural number) can be controlled to move.

한편, 컨텐츠 제어부(130)는 사용자 인증 수행 결과에 기초하여 사용자의 고령자 여부를 판단하거나, 사용자의 시선정보 분석을 통해 도출된 동공의 크기 및 깜빡임 횟수를 모니터링할 수 있으며, 판단된 고령자 여부 또는 모니터링 결과에 기초하여 컨텐츠의 위치 및 크기를 변경할 수도 있다. On the other hand, the content control unit 130 may determine whether the user is an elderly person based on the result of performing user authentication, or monitor the size of the pupil and the number of blinks derived through analysis of the user's gaze information. The position and size of the content may be changed based on the result.

예를 들면, 컨텐츠 제어부(130)는 사용자 인증이 수행된 사용자의 연령이 기설정된 연령 임계값 이상인 경우에는 사용자를 '고령 사용자'로 분류할 수 있고, 사용자의 연령이 기설정된 연령 임계값 이하인 경우에는 사용자를 '일반 사용자'로 분류할 수 있으며, 사용자가 '고령 사용자'로 분류된 경우에는 고령의 사용자에게서 발생될 수 있는 원시(hyperopia)를 고려하여 컨텐츠의 위치 및 크기를 제어할 수 있다. For example, the content controller 130 may classify the user as an 'old user' when the age of the user for which user authentication is performed is equal to or greater than a preset age threshold, and the user's age is less than or equal to the preset age threshold. In this case, the user can be classified as a 'general user', and when the user is classified as an 'old user', the location and size of the content can be controlled in consideration of hyperopia that may occur in an elderly user.

또한, 컨텐츠 제어부(130)는 사용자의 시선정보 분석을 통해 모니터링한 스크린을 응시하는 사용자의 동공 크기 및/또는 깜빡임 횟수가 기설정된 비율 값만큼 증가한 이후 기설정된 시간 동안 증가된 비율 값을 유지하면, 증가된 비율 값에 대응되는 기설정된 크기 값으로 컨텐츠의 크기를 제어할 수 있다. In addition, the content control unit 130 maintains the increased ratio value for a preset time after the pupil size and/or the number of blinks of the user staring at the screen monitored through the analysis of the user's gaze information increases by the preset ratio value, The size of the content may be controlled by a preset size value corresponding to the increased ratio value.

다시 말해, 컨텐츠 제어부(130)는 사용자의 동공 크기 또는 눈의 깜빡임 횟수에 대응되는 컨텐츠의 크기 값들을 사전에 저장할 수 있으며, 사전에 저장된 크기 값들 중에서 수집된 사용자의 동공 크기 또는 깜빡임 횟수에 대응되는 크기 값으로 컨텐츠의 크기를 제어할 수 있다.In other words, the content control unit 130 may store in advance the size values of the content corresponding to the user's pupil size or the number of blinks, and corresponding to the user's pupil size or the number of blinks from among the previously stored size values. You can control the size of the content with the size value.

보다 구체적인 예를 들면, 컨텐츠 제어부(130)는 스크린에 표시된 컨텐츠를 응시하는 사용자의 동공의 크기가 기설정된 시각화 시간 내에서 편차 n%(여기서, n은 자연수) 이내로 유지되면, 컨텐츠의 크기를 변경없이 유지할 수 있다.As a more specific example, the content control unit 130 changes the size of the content when the size of the pupil of the user staring at the content displayed on the screen is maintained within a deviation n% (here, n is a natural number) within a preset visualization time. can be maintained without

또한, 컨텐츠 제어부(130)는 스크린에 표시된 컨텐츠를 응시하는 사용자의 동공 크기가 기설정된 시각화 시간 내에서 기설정된 비율 값인 y%(여기서, y는 자연수)를 초과하는 비율 값으로 증가한 이후 증가된 비율 값이 유지되면, 증가된 비율 값에 대응되는 크기 값으로 컨텐츠의 크기를 제어할 수 있다.In addition, the content controller 130 increases the pupil size of the user who gazes at the content displayed on the screen to a ratio value exceeding y% (here, y is a natural number), which is a preset ratio value within a preset visualization time. If the value is maintained, the size of the content may be controlled with a size value corresponding to the increased ratio value.

일측에 따르면, 컨텐츠 제어부(130)는 산출된 사용자 위치정보에 기초하여 이미지 데이터에 포함된 타겟 객체의 이미지에 위젯 컨텐츠를 매칭할 수 있으며, 매칭된 위젯 컨텐츠를 스크린 상에 시각화할 수 있다. According to one side, the content controller 130 may match the widget content to the image of the target object included in the image data based on the calculated user location information, and may visualize the matched widget content on the screen.

또한, 컨텐츠 제어부(130)는 산출된 사용자의 시선정보에 기초하여 타겟 객체의 응시 여부를 판단하고, 응시 여부의 판단 결과에 기초하여 타겟 객체의 이미지에 매칭된 위젯 컨텐츠를 스크린 상에 시각화할 수 있다. In addition, the content control unit 130 may determine whether to gaze at the target object based on the calculated gaze information of the user, and visualize widget contents matching the image of the target object on the screen based on the determination result of whether to gaze. have.

예를 들면, 컨텐츠 제어부(130)는 사용자의 음성 명령 및 터치 동작 중 적어도 하나의 사용자 입력에 기초하여 타겟 객체의 이미지에 위젯 컨텐츠를 매칭할 수 있으며, 여기서 타겟 객체는 이미지 데이터에 포함된 문, 창문, 책상 및 의자와 같이 실내에 위치한 물체와, 사용자의 좌측 얼굴, 손등, 가슴과 같은 사용자 신체의 일부를 포함할 수 있다. For example, the content controller 130 may match the widget content to the image of the target object based on a user input of at least one of a user's voice command and a touch operation, wherein the target object includes a door included in the image data; It may include an object located indoors, such as a window, a desk, and a chair, and a part of the user's body, such as the user's left face, back of hand, and chest.

다시 말해, 컨텐츠 제어부(130)는 오프라인(offline) 위젯을 통하여 사용자의 위치를 파악하여 정확한 위치에 상이 비치도록 제어할 수 있다. In other words, the content controller 130 may determine the user's location through an offline widget and control the image to be reflected in the correct location.

또한, 컨텐츠 제어부(130)는 사전에 설정된 위젯 컨텐츠를 실내의 위치한 특정 물체 또는 사용자의 신체 일부 등의 타겟 객체에 매칭할 수 있으며, 이후 사용자가 스크린 상에 표시된 타겟 객체를 바라보는 것만으로 매칭된 위챗 컨텐츠를 시각화할 수 있다. In addition, the content control unit 130 may match the preset widget content to a target object such as a specific object located indoors or a part of the user's body, and thereafter, the user can match the widget content only by looking at the target object displayed on the screen. You can visualize WeChat content.

즉, 일실시예에 따른 스마트 미러 장치(100)는 사용자 위치정보에 기초하여 매크로 기능을 오프라인으로 사용할 수 있으며, 이를 통해 사용자의 편의성을 향상시키고 스마트 미러의 사용 반경을 넓힐 수 있다.That is, the smart mirror device 100 according to an embodiment can use the macro function offline based on user location information, thereby improving user convenience and widening the radius of use of the smart mirror.

일실시예에 따른 컨텐츠 제어부에서 위젯 컨텐츠를 제어하는 예시는 이후 실시예 도 2a 내지 도 2b를 통해 보다 구체적으로 설명하기로 한다. An example of controlling the widget content by the content controller according to an embodiment will be described in more detail later with reference to FIGS. 2A to 2B according to the embodiment.

도 2a 내지 도 2b는 일실시예에 따른 스마트 미러 장치에서 위젯 컨텐츠를 제어하는 예시를 설명하기 위한 도면이다.2A to 2B are diagrams for explaining an example of controlling widget contents in a smart mirror device according to an embodiment.

도 2a 내지 도 2b를 참조하면, 일실시예에 따른 스마트 미러 장치(200)는 카메라 모듈(210)을 통해 스크린 전면에 위치한 기설정된 물체의 이미지와 사용자의 이미지를 포함하는 이미지 데이터를 획득하고, 기설정된 물체의 크기 정보에 기초하여 사용자의 얼굴에 대응되는 사용자 위치정보를 산출하며, 산출된 위치 정보에 기초하여 스크린에 표시되는 위젯 컨텐츠(220, 230)를 제어할 수 있다. 2A to 2B, the smart mirror device 200 according to an embodiment acquires image data including an image of a preset object located in front of the screen and an image of a user through the camera module 210, User location information corresponding to the user's face may be calculated based on the preset size information of the object, and widget contents 220 and 230 displayed on the screen may be controlled based on the calculated location information.

일측에 따르면, 스마트 미러 장치(200)는 사용자 위치정보에 기초하여 이미지 데이터에 포함된 타겟 객체의 이미지에 위젯 컨텐츠를 매칭할 수 있으며, 매칭된 위젯 컨텐츠를 스크린 상에 시각화할 수 있다. According to one side, the smart mirror device 200 may match the widget content to the image of the target object included in the image data based on the user location information, and may visualize the matched widget content on the screen.

또한, 스마트 미러 장치(200)는 사용자의 시선정보에 기초하여 타겟 객체의 응시 여부를 판단하고, 응시 여부의 판단 결과에 기초하여 타겟 객체의 이미지에 매칭된 위젯 컨텐츠를 스크린 상에 시각화할 수 있다.In addition, the smart mirror device 200 may determine whether the target object is gazing based on the user's gaze information, and visualize widget content matching the image of the target object on the screen based on the determination result of whether the target object is gazing. .

다시 말해, 스마트 미러 장치(200)는 사용자 위치정보에 기초하여 스크린을 통해 바라본 실내의 물체 또는 사용자의 신체 일부 등의 타겟 객체에 위젯처럼 표현될 정보를 매칭할 수 있다. In other words, the smart mirror device 200 may match information to be expressed as a widget with a target object, such as an indoor object or a body part of the user, viewed through the screen, based on the user location information.

보다 구체적으로, 도 2a에 따르면, 스마트 미러 장치(200)는 사용자가 스크린 앞에서 왼손을 들고 "앞으로 내 왼손 손바닥에 우리 회사 주식 정보를 보여줘"라는 음성 명령을 수신하면, 사용자의 왼손 손바닥에 회사 주식 관련 위젯 컨텐츠(220)를 매칭 및 시각화할 수 있다. More specifically, according to FIG. 2A , the smart mirror device 200 displays the company stock in the palm of the user's left hand when the user raises his/her left hand in front of the screen and receives a voice command "Show my company stock information in the palm of my left hand." It is possible to match and visualize the related widget content 220 .

일측에 따르면, 스마트 미러 장치(200)는 스크린 상에 사용자의 왼손 손바닥이 표시될 때마다 회사 주식 관련 위젯 컨텐츠(220)를 시각화할 수 있고, 사용자가 스크린 상에 표시된 사용자의 왼손 손바닥을 응시하는 경우에 회사 주식 관련 위젯 컨텐츠(220)를 시각화할 수도 있다. According to one side, the smart mirror device 200 may visualize the company stock related widget content 220 whenever the user's left palm is displayed on the screen, and the user stares at the user's left palm displayed on the screen. In this case, the company stock related widget content 220 may be visualized.

도 2b에 따르면, 스마트 미러 장치(200)는 사용자가 스크린에 표시된 현관문을 터치 및/또는 드래그하여 선택하면, 위젯 컨텐츠 목록에 대응되는 팝업 창을 스크린 상에 시각화할 수 있으며, 이후 사용자가 시각화된 팝업 창에서 날씨 정보 관련 위젯 컨텐츠(230)를 선택하면, 현관문에 날씨 정보 관련 위젯 컨텐츠(230)를 매칭 및 시각화할 수 있다. According to FIG. 2B , when the user selects the front door displayed on the screen by touching and/or dragging the smart mirror device 200, a pop-up window corresponding to the widget content list may be visualized on the screen, and then the user may visualize If the weather information related widget content 230 is selected from the pop-up window, the weather information related widget content 230 can be matched and visualized on the front door.

일측에 따르면, 스마트 미러 장치(200)는 스크린 상에 현관문이 표시될 때마다 날씨 정보 관련 위젯 컨텐츠(230)를 시각화할 수 있고, 사용자가 스크린 상에 표시된 현관문을 응시하는 경우에 날씨 정보 관련 위젯 컨텐츠(230)를 시각화할 수도 있다.According to one side, the smart mirror device 200 may visualize the weather information related widget content 230 whenever the front door is displayed on the screen, and weather information when the user gazes at the front door displayed on the screen. It is also possible to visualize the related widget content 230 .

도 3은 일실시예에 따른 스마트 미러 장치의 동작방법을 설명하기 위한 도면이다.3 is a view for explaining a method of operating a smart mirror device according to an embodiment.

다시 말해, 도 3은 도 1 내지 도 2b를 통해 설명한 일실시예에 따른 스마트 미러 장치의 동작 방법을 설명하는 도면으로, 이후 도 3을 통해 설명하는 내용 중 도 1 내지 도 2b를 통해 설명한 내용과 중복되는 설명은 생략하기로 한다. In other words, FIG. 3 is a view for explaining an operating method of the smart mirror device according to an embodiment described with reference to FIGS. 1 to 2B . Among the contents described with reference to FIG. 3 , the contents described with reference to FIGS. 1 and 2B and FIG. A duplicate description will be omitted.

도 3을 참조하면, 310단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 이미지 획득부에서 스크린 전면에 위치한 기설정된 물체의 이미지와 사용자의 이미지를 포함하는 이미지 데이터를 획득할 수 있다. Referring to FIG. 3 , in step 310 , in the operating method of the smart mirror device according to an embodiment, the image acquisition unit may acquire image data including an image of a preset object located in front of a screen and an image of a user.

다음으로, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 사용자 정보 산출부에서 획득한 이미지 데이터와 기설정된 물체에 대응되는 크기 정보에 기초하여 사용자의 얼굴에 대응되는 사용자 위치정보를 산출할 수 있다. Next, in step 320, the operating method of the smart mirror device according to an embodiment calculates user location information corresponding to the user's face based on the image data obtained from the user information calculating unit and size information corresponding to a preset object. can do.

예를 들면, 기설정된 물체는 크기를 사전에 알 수 있는 물체로, 실내에 위치한 소품 및 가전 제품들 중 어느 하나를 포함할 수 있다. For example, the preset object is an object whose size can be known in advance, and may include any one of small items and home appliances located indoors.

또한, 사용자 위치정보는 스크린과 사용자의 얼굴 사이의 거리정보 및 스크린의 중심점을 기준으로 하는 사용자의 얼굴의 각도정보 중 적어도 하나를 포함할 수 있다.In addition, the user location information may include at least one of distance information between the screen and the user's face and angle information of the user's face based on the center point of the screen.

일측에 따르면, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 기설정된 물체에 대응되는 기준 크기 정보(사전에 저장된 실제 크기 정보) 및 기설정된 물체의 이미지에 대응되는 크기 정보에 기초하여 사용자 위치정보를 산출할 수 있다.According to one side, in step 320, the operating method of the smart mirror device according to an embodiment is based on reference size information (pre-stored actual size information) corresponding to a preset object and size information corresponding to the image of the preset object. User location information can be calculated.

구체적으로, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 사용자가 기설정된 물체를 사용자의 얼굴과 같은 위치에 둔 상태에서 스마트 미러 장치의 스크린에 표시된 기설정된 물체의 이미지를 터치하면, 기설정된 물체의 기준 크기 정보와 기설정된 물체의 이미지에 대응되는 크기 정보를 비교하여 사용자의 거리정보를 산출할 수 있다. Specifically, in step 320, in the operating method of the smart mirror device according to an embodiment, when the user touches the image of the preset object displayed on the screen of the smart mirror device in a state where the preset object is placed at the same position as the user's face, The user's distance information may be calculated by comparing the reference size information of the preset object and the size information corresponding to the image of the preset object.

또한, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 스크린의 중심점을 기준으로 스크린과 수직을 이루는 가상의 선과, 터치된 지점과 중심점을 잇는 가상의 선 사이의 사잇각에 대응되는 사용자의 얼굴의 각도정보를 산출할 수 있다.In addition, in step 320, the operating method of the smart mirror device according to an embodiment of the user's corresponding angle between a virtual line perpendicular to the screen and a virtual line connecting the touched point and the center point based on the center point of the screen. Face angle information can be calculated.

한편, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 기설정된 물체의 기준 크기 정보 및 기설정된 물체의 이미지에 대응되는 크기 정보에 기초하는 머신러닝 알고리즘을 통해 사용자 위치정보를 자동 산출할 수도 있다.Meanwhile, in step 320, the operating method of the smart mirror device according to an embodiment automatically calculates user location information through a machine learning algorithm based on preset reference size information of an object and size information corresponding to an image of a preset object. may be

일측에 따르면, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 사용자의 이미지에 포함된 눈동자, 얼굴 및 몸통의 방향정보를 분석하고, 분석된 방향정보에 기초하여 사용자의 시선정보를 산출할 수 있다.According to one side, in step 320, the operating method of the smart mirror device according to an embodiment analyzes the direction information of the pupil, face, and torso included in the user's image, and calculates the user's gaze information based on the analyzed direction information. can do.

일측에 따르면, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 획득한 이미지 데이터에 포함된 사용자가 복수인 경우, 복수의 사용자 각각의 시선정보, 스크린과 복수의 사용자 각각의 거리정보 및 기저장된 소유자 및 구성원 정보 중 적어도 하나의 정보에 기초하여 복수의 사용자 중 어느 하나의 사용자를 우선 사용자로 선택할 수 있다. According to one side, in step 320, the operating method of the smart mirror device according to an embodiment, when there are a plurality of users included in the acquired image data, gaze information of each of the plurality of users, distance information of each of the screen and the plurality of users, and Any one of the plurality of users may be selected as the preferred user based on at least one of pre-stored owner and member information.

예를 들면, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 복수의 사용자 각각의 시선정보를 산출하고, 산출 결과에 기초하여 얼굴의 방향이 스크린을 향하는 사용자, 눈동자의 방향이 스크린을 항하는 사용자 및 몸통(또는 어깨)의 방향이 스크린을 향하는 사용자 중 어느 하나의 사용자를 우선 사용자로 선택할 수 있다. 바람직하게는, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 얼굴의 방향이 스크린을 향하는 사용자에게 가장 높은 우선 순위를 부여하고, 몸통의 방향이 스크린을 향하는 사용자에게 가장 낮은 우선 순위를 부여할 수 있다. For example, in step 320, the operating method of the smart mirror device according to an embodiment calculates gaze information of each of a plurality of users, and based on the calculation result, the user's face is directed toward the screen, and the direction of the eyes is directed toward the screen. Any one of a navigation user and a user whose body (or shoulder) direction faces the screen may be selected as the preferred user. Preferably, in step 320, in the operating method of the smart mirror device according to an embodiment, the highest priority is given to the user whose face direction faces the screen, and the lowest priority is given to the user whose body direction faces the screen. can be given

또한, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 스크린과 복수의 사용자 각각의 거리정보를 산출하고, 산출 결과에 기초하여 스크린에 가장 가까운 위치에 있는 사용자를 우선 사용자로 선택할 수 있다. In addition, in step 320, the operating method of the smart mirror device according to an embodiment calculates distance information between the screen and each of the plurality of users, and based on the calculation result, a user located closest to the screen may be selected as the preferred user. .

또한, 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 복수의 사용자 각각의 이미지를 분석하여 사용자 인증을 수행하고, 인증의 수행 결과와 기저장된 소유자 및 구성원 정보에 기초하여 복수의 사용자 각각의 소유자 여부, 구성원 여부 및 일반인 여부를 판단하며, 판단 결과에 기초하여 어느 하나의 사용자를 우선 사용자로 선택할 수 있다. Further, in step 320, the operating method of the smart mirror device according to an embodiment performs user authentication by analyzing images of each of a plurality of users, and each of the plurality of users based on the authentication result and pre-stored owner and member information It is determined whether the owner, the member, and the general public, and based on the determination result, any one user can be selected as the preferred user.

바람직하게는 320 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 스마트 미러 장치의 소유자로 판단된 사용자에게 가장 높은 우선순위를 부여하고, 일반인으로 판단된 사용자에게 가장 낮은 우선순위를 부여할 수 있다.Preferably, in step 320, the operating method of the smart mirror device according to an embodiment can give the highest priority to the user determined as the owner of the smart mirror device, and give the lowest priority to the user determined as the general public. have.

다음으로, 330 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 컨텐츠 제어부에서 산출된 사용자 위치정보에 기초하여 스크린에 표시되는 이미지 컨텐츠, 텍스트 컨텐츠 및 위젯 컨텐츠 중 적어도 하나의 컨텐츠를 제어할 수 있다. Next, in step 330, the method of operating the smart mirror device according to an embodiment may control at least one of image content, text content, and widget content displayed on the screen based on the user location information calculated by the content controller. have.

일측에 따르면, 330 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 산출된 사용자 위치정보에 기초하여 스크린에 표시되는 적어도 하나의 컨텐츠의 크기 및 위치 중 적어도 하나를 제어할 수 있다. According to one side, in step 330, the method of operating the smart mirror device according to an embodiment may control at least one of a size and a location of at least one content displayed on a screen based on the calculated user location information.

일측에 따르면, 330 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 산출된 사용자 위치정보에 기초하여 이미지 데이터에 포함된 타겟 객체의 이미지에 위젯 컨텐츠를 매칭할 수 있으며, 매칭된 위젯 컨텐츠를 스크린 상에 시각화할 수 있다. According to one side, in step 330, the method of operating a smart mirror device according to an embodiment may match widget content to an image of a target object included in image data based on the calculated user location information, and display the matched widget content. It can be visualized on the screen.

또한, 330 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 산출된 사용자의 시선정보에 기초하여 타겟 객체의 응시 여부를 판단하고, 응시 여부의 판단 결과에 기초하여 타겟 객체의 이미지에 매칭된 위젯 컨텐츠를 스크린 상에 시각화할 수 있다. In addition, in step 330, the method of operating the smart mirror device according to an embodiment determines whether the target object is gazing based on the calculated gaze information of the user, and matches the image of the target object based on the determination result of whether the target object is gazing. Widget content can be visualized on the screen.

예를 들면, 330 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 사용자의 음성 명령 및 터치 동작 중 적어도 하나의 사용자 입력에 기초하여 타겟 객체의 이미지에 위젯 컨텐츠를 매칭할 수 있으며, 여기서 타겟 객체는 이미지 데이터에 포함된 문, 창문, 책상 및 의자와 같이 실내에 위치한 물체와, 사용자의 좌측 얼굴, 손등, 가슴과 같은 사용자 신체의 일부를 포함할 수 있다. For example, in operation 330 , the method of operating the smart mirror device according to an embodiment may match widget content to the image of the target object based on a user input of at least one of a user's voice command and a touch operation, where the target The object may include an object located indoors, such as a door, a window, a desk, and a chair included in the image data, and a part of the user's body, such as the user's left face, back of hand, and chest.

다시 말해, 330 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 오프라인(offline) 위젯을 통하여 사용자의 위치를 파악하여 정확한 위치에 상이 비치도록 제어할 수 있다. In other words, in step 330 , the operating method of the smart mirror device according to an embodiment may control the image to be reflected at the correct location by identifying the user's location through an offline widget.

또한, 330 단계에서 일실시예에 따른 스마트 미러 장치의 동작방법은 사전에 설정된 위젯 컨텐츠를 실내의 위치한 특정 물체 또는 사용자의 신체 일부 등의 타겟 객체에 매칭할 수 있으며, 이후 사용자가 스크린 상에 표시된 타겟 객체를 바라보는 것 만으로 매칭된 위챗 컨텐츠를 시각화할 수 있다.In addition, in step 330, in the operating method of the smart mirror device according to an embodiment, preset widget contents may be matched to a target object such as a specific object located indoors or a part of the user's body, and thereafter, the user may display the content displayed on the screen. Matched WeChat content can be visualized simply by looking at the target object.

결국, 본 발명을 이용하면, 물체의 크기 정보에 기초하여 사용자의 위치를 보다 정확하게 특정할 수 있다. As a result, using the present invention, it is possible to more accurately specify the location of the user based on the size information of the object.

또한, 특정된 사용자의 위치에 기초하여 컨텐츠의 크기 및 위치를 용이하게 조절할 수 있다. In addition, it is possible to easily adjust the size and position of the content based on the specified location of the user.

또한, 특정된 사용자의 위치에 기초하여 위젯 컨텐츠를 시각화함으로써 사용자의 편의성을 향상시킬 수 있다. In addition, the user's convenience can be improved by visualizing the widget contents based on the specified user's location.

이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described with reference to the limited drawings, various modifications and variations are possible from the above description by those of ordinary skill in the art. For example, the described techniques are performed in a different order than the described method, and/or the described components of the system, structure, apparatus, circuit, etc. are combined or combined in a different form than the described method, or other components Or substituted or substituted by equivalents may achieve an appropriate result.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are also within the scope of the following claims.

100: 스마트 미러 장치 110: 이미지 획득부
120: 사용자 정보 산출부 130: 컨텐츠 제어부100: smart mirror device 110: image acquisition unit
120: user information calculation unit 130: content control unit

Claims (10)

스크린 전면에 위치한 기설정된 물체의 이미지와 사용자의 이미지를 포함하는 이미지 데이터를 획득하는 이미지 획득부;
상기 획득한 이미지 데이터와 상기 기설정된 물체에 대응되는 크기 정보에 기초하여 상기 사용자의 얼굴에 대응되는 사용자 위치정보를 산출하는 사용자 정보 산출부 및
상기 산출된 사용자 위치정보에 기초하여 상기 스크린에 표시되는 이미지 컨텐츠, 텍스트 컨텐츠 및 위젯 컨텐츠 중 적어도 하나의 컨텐츠를 제어하는 컨텐츠 제어부
를 포함하는 스마트 미러 장치.an image acquisition unit for acquiring image data including an image of a preset object located in front of the screen and an image of a user;
a user information calculator configured to calculate user location information corresponding to the user's face based on the acquired image data and size information corresponding to the preset object; and
A content controller configured to control at least one of image content, text content, and widget content displayed on the screen based on the calculated user location information
A smart mirror device comprising a. 제1항에 있어서,
상기 사용자 위치정보는,
상기 스크린과 상기 사용자의 얼굴 사이의 거리정보 및 상기 스크린의 중심점을 기준으로 하는 상기 사용자의 얼굴의 각도정보 중 적어도 하나를 포함하는
스마트 미러 장치.According to claim 1,
The user location information is
At least one of distance information between the screen and the user's face and angle information of the user's face based on the center point of the screen
smart mirror device. 제1항에 있어서,
상기 사용자 정보 산출부는,
상기 기설정된 물체에 대응되는 기준 크기 정보 및 상기 기설정된 물체의 이미지에 대응되는 크기 정보에 기초하여 상기 사용자 위치정보를 산출하는
스마트 미러 장치.According to claim 1,
The user information calculation unit,
calculating the user location information based on reference size information corresponding to the preset object and size information corresponding to the image of the preset object
smart mirror device. 제1항에 있어서,
상기 사용자 정보 산출부는,
상기 사용자의 이미지에 포함된 눈동자, 얼굴 및 몸통의 방향정보를 분석하고, 상기 분석된 방향정보에 기초하여 상기 사용자의 시선정보를 산출하는
스마트 미러 장치.According to claim 1,
The user information calculation unit,
Analyzes direction information of the pupil, face, and body included in the image of the user, and calculates gaze information of the user based on the analyzed direction information
smart mirror device. 제4항에 있어서,
상기 사용자 정보 산출부는,
상기 획득한 이미지 데이터에 포함된 상기 사용자가 복수인 경우, 상기 복수의 사용자 각각의 시선정보, 상기 스크린과 상기 복수의 사용자 각각의 거리정보 및 기저장된 소유자 및 구성원 정보 중 적어도 하나의 정보에 기초하여 상기 복수의 사용자 중 어느 하나의 사용자를 우선 사용자로 선택하는
스마트 미러 장치.5. The method of claim 4,
The user information calculation unit,
When there are a plurality of users included in the acquired image data, based on at least one information of gaze information of each of the plurality of users, distance information of each of the screen and the plurality of users, and pre-stored owner and member information Selecting any one of the plurality of users as the preferred user
smart mirror device. 제5항에 있어서,
상기 사용자 정보 산출부는,
상기 복수의 사용자 각각의 이미지를 분석하여 사용자 인증을 수행하고, 상기 인증의 수행 결과와 상기 기저장된 소유자 및 구성원 정보에 기초하여 상기 복수의 사용자 각각의 소유자 여부, 구성원 여부 및 일반인 여부를 판단하는
스마트 미러 장치.6. The method of claim 5,
The user information calculation unit,
Performing user authentication by analyzing the images of each of the plurality of users, and determining whether each of the plurality of users is an owner, a member, and a general public based on the result of the authentication and the pre-stored owner and member information
smart mirror device. 제1항에 있어서,
상기 컨텐츠 제어부는,
상기 산출된 사용자 위치정보에 기초하여 상기 스크린에 표시되는 적어도 하나의 컨텐츠의 크기 및 위치 중 적어도 하나를 제어하는
스마트 미러 장치.According to claim 1,
The content control unit,
controlling at least one of a size and a location of at least one content displayed on the screen based on the calculated user location information
smart mirror device. 제4항에 있어서,
상기 컨텐츠 제어부는,
상기 산출된 사용자 위치정보에 기초하여 상기 이미지 데이터에 포함된 타겟 객체의 이미지에 상기 위젯 컨텐츠를 매칭하는
스마트 미러 장치.5. The method of claim 4,
The content control unit,
Matching the widget content to the image of the target object included in the image data based on the calculated user location information
smart mirror device. 제8항에 있어서,
상기 컨텐츠 제어부는,
상기 산출된 사용자의 시선정보에 기초하여 상기 타겟 객체의 응시 여부를 판단하고, 상기 응시 여부의 판단 결과에 기초하여 상기 타겟 객체의 이미지에 상기 매칭된 위젯 컨텐츠를 시각화하는
스마트 미러 장치.9. The method of claim 8,
The content control unit,
Determining whether the target object is gazing based on the calculated gaze information of the user, and visualizing the widget contents matched to the image of the target object based on the determination result of whether the target object is gazing
smart mirror device. 이미지 획득부에서, 스크린 전면에 위치한 기설정된 물체의 이미지와 사용자의 이미지를 포함하는 이미지 데이터를 획득하는 단계;
사용자 정보 산출부에서, 상기 획득한 이미지 데이터와 상기 기설정된 물체에 대응되는 크기 정보에 기초하여 상기 사용자의 얼굴에 대응되는 사용자 위치정보를 산출하는 단계 및
컨텐츠 제어부에서, 상기 산출된 사용자 위치정보에 기초하여 상기 스크린에 표시되는 이미지 컨텐츠, 텍스트 컨텐츠 및 위젯 컨텐츠 중 적어도 하나의 컨텐츠를 제어하는 단계
를 포함하는 스마트 미러 장치의 동작방법.
acquiring, by the image acquisition unit, image data including an image of a preset object located in front of the screen and an image of a user;
calculating, in the user information calculating unit, user location information corresponding to the user's face based on the acquired image data and size information corresponding to the preset object;
controlling, in the content controller, at least one of image content, text content, and widget content displayed on the screen based on the calculated user location information
A method of operating a smart mirror device comprising a.
KR1020210014551A 2021-02-02 2021-02-02 Smart mirror apparatus for providing augmented reality service and operating method thereof KR102683868B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210014551A KR102683868B1 (en) 2021-02-02 2021-02-02 Smart mirror apparatus for providing augmented reality service and operating method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210014551A KR102683868B1 (en) 2021-02-02 2021-02-02 Smart mirror apparatus for providing augmented reality service and operating method thereof

Publications (2)

Publication Number Publication Date
KR20220111383A true KR20220111383A (en) 2022-08-09
KR102683868B1 KR102683868B1 (en) 2024-07-10

Family

ID=82844572

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210014551A KR102683868B1 (en) 2021-02-02 2021-02-02 Smart mirror apparatus for providing augmented reality service and operating method thereof

Country Status (1)

Country Link
KR (1) KR102683868B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102528108B1 (en) * 2022-11-02 2023-05-02 홍미영 Digital content output system using mirror media

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120007108A (en) * 2010-07-14 2012-01-20 현대자동차주식회사 Cluster and method of cluster control using detection of driver's sight line
JP2012042507A (en) * 2010-08-12 2012-03-01 Hitachi Consumer Electronics Co Ltd Video display device
KR20140061051A (en) * 2012-11-13 2014-05-21 재단법인대구경북과학기술원 Multi-user interface providing device and method in screen
KR20140065210A (en) * 2012-11-21 2014-05-29 엘지전자 주식회사 Apparatus and method for measurementing distance of vehicle
KR20160037074A (en) * 2014-09-26 2016-04-05 삼성전자주식회사 Image display method of a apparatus with a switchable mirror and the apparatus
KR20170060353A (en) 2015-11-24 2017-06-01 삼성전자주식회사 Electronic apparatus, distance measurement sensor and control method for electronic apparatus and distance measurement sensor

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120007108A (en) * 2010-07-14 2012-01-20 현대자동차주식회사 Cluster and method of cluster control using detection of driver's sight line
JP2012042507A (en) * 2010-08-12 2012-03-01 Hitachi Consumer Electronics Co Ltd Video display device
KR20140061051A (en) * 2012-11-13 2014-05-21 재단법인대구경북과학기술원 Multi-user interface providing device and method in screen
KR20140065210A (en) * 2012-11-21 2014-05-29 엘지전자 주식회사 Apparatus and method for measurementing distance of vehicle
KR20160037074A (en) * 2014-09-26 2016-04-05 삼성전자주식회사 Image display method of a apparatus with a switchable mirror and the apparatus
KR20170060353A (en) 2015-11-24 2017-06-01 삼성전자주식회사 Electronic apparatus, distance measurement sensor and control method for electronic apparatus and distance measurement sensor

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102528108B1 (en) * 2022-11-02 2023-05-02 홍미영 Digital content output system using mirror media

Also Published As

Publication number Publication date
KR102683868B1 (en) 2024-07-10

Similar Documents

Publication Publication Date Title
US11314335B2 (en) Systems and methods of direct pointing detection for interaction with a digital device
CN109564472B (en) Method, medium, and system for selecting an interaction method with a virtual object
US11580711B2 (en) Systems and methods for controlling virtual scene perspective via physical touch input
US20220083880A1 (en) Interactions with virtual objects for machine control
JP5837991B2 (en) Authentication-type gesture recognition
Shen et al. Vision-based hand interaction in augmented reality environment
US9671873B2 (en) Device interaction with spatially aware gestures
US10488918B2 (en) Analysis of user interface interactions within a virtual reality environment
KR20190030140A (en) Method for eye-tracking and user terminal for executing the same
Bernardos et al. A comparison of head pose and deictic pointing interaction methods for smart environments
CN112632349A (en) Exhibition area indicating method and device, electronic equipment and storage medium
KR20220111383A (en) Smart mirror apparatus for providing augmented reality service and operating method thereof
Solska et al. Eye-tracking everywhere-software supporting disabled people in interaction with computers
KR20200127312A (en) Apparatus and method for shopping clothes using holographic images
KR20200115967A (en) Apparatus and method for shopping clothes using holographic images
KR20200116195A (en) Apparatus and method for shopping clothes using holographic images

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant