KR20150108571A - An information display device of a mirror display for advertisement and shopping by recognizing the reflected images on the mirror and method thereof - Google Patents

An information display device of a mirror display for advertisement and shopping by recognizing the reflected images on the mirror and method thereof Download PDF

Info

Publication number
KR20150108571A
KR20150108571A KR1020140031516A KR20140031516A KR20150108571A KR 20150108571 A KR20150108571 A KR 20150108571A KR 1020140031516 A KR1020140031516 A KR 1020140031516A KR 20140031516 A KR20140031516 A KR 20140031516A KR 20150108571 A KR20150108571 A KR 20150108571A
Authority
KR
South Korea
Prior art keywords
user
mirror
mirror display
display
advertisement
Prior art date
Application number
KR1020140031516A
Other languages
Korean (ko)
Other versions
KR102209745B1 (en
Inventor
서영호
오문석
Original Assignee
광운대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 광운대학교 산학협력단 filed Critical 광운대학교 산학협력단
Priority to KR1020140031516A priority Critical patent/KR102209745B1/en
Publication of KR20150108571A publication Critical patent/KR20150108571A/en
Application granted granted Critical
Publication of KR102209745B1 publication Critical patent/KR102209745B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/08Mirrors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241Advertisements
    • G06Q30/0251Targeted advertisements

Abstract

The present invention relates to a method for displaying information of a mirror display by recognizing a projection image of a user, which displays information for advertisement or the like on the entire mirror display when a user is a little distant therefrom, and displays the advertisement information by moving the same to an empty space except for a part where the user is reflected by a mirror. The method of the present invention comprises the following steps: (a) displaying advertisement on the entire mirror display; (b) determining whether a user approaches the mirror display through a proximity sensor; (c) obtaining a projection image through a camera, and detecting a user area and location from the viewpoint of the user in the projection image, when the user approaches the mirror display; and (d) moving the advertisement to the detected user area and around the detected user location, and displaying the advertisement. According to the method for displaying information of a mirror display, advertisement, which has been displayed on the entire mirror display when a user approaches the mirror display, is moved to an empty space except for a user part, thus the advertising effect can be maximized by exposing the advertisement to the user while the user is using the mirror.

Description

광고 및 쇼핑 등 정보를 표시하기 위하여 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 장치 및 방법 { An information display device of a mirror display for advertisement and shopping by recognizing the reflected images on the mirror and method thereof}[0001] The present invention relates to an information display apparatus and method for displaying information on a mirror display through projection image recognition by a user to display information such as advertisement and shopping,

본 발명은 사용자가 조금 멀리 떨어질 때 미러 디스플레이 전체에 광고 등 정보를 표시하다가 사용자가 다가오면 사용자가 거울에 비춰지는 부분 외의 빈 공간으로 광고 정보를 이동시켜 표시하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법에 관한 것이다.The present invention relates to a display device, such as a display device, for displaying advertisement information and the like on the entire mirror display when the user is away from the mirror display, To a method of displaying information.

또한, 본 발명은 미러 디스플레이에 광고 및 쇼핑 등 정보를 표시하는데 있어서, 사용자의 관점에서 미러 디스플레이를 바라보는 사용자의 영역 및 위치를 파악하여, 상기 사용자의 영역 및 위치의 주변 빈 공간에 광고 및 쇼핑 등 정보를 표시하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법에 관한 것이다.
In addition, the present invention relates to a method and apparatus for displaying information such as advertisement and shopping on a mirror display by grasping an area and a position of a user looking at a mirror display from a user's point of view, The present invention relates to a method of displaying information on a mirror display through projected image recognition by a user who displays information on a mirror display.

디스플레이 2.0 시대에 있어서 주요 사업인 초고화질(UHD), 입체영상(3D, 무안경, 홀로그램)과 더불어 디지털정보디스플레이(DID)가 각광받고 있다. 수동적인 디스플레이의 개념에서 능동적으로 사용자가 정보를 상호작용을 통해 얻을 수 있는 개념의 확장으로 이어지는 시대의 추세이다. UHD로 구현되는 초고화질 화면으로 인해 높은 현실감과 화면 크기의 확장으로 디스플레이의 대형화가 가능하고 이는 입체영상의 입체감 향상으로 이어져 DID(digital information display)가 사용자에게 제공할 수 있는 인터랙티브 콘텐츠의 사용 경험의 확장을 가져 올 것이다.Digital Information Display (DID) is attracting attention in addition to super high definition (UHD), stereoscopic (3D, non-glasses, hologram) In the concept of passive display, it is the tendency of the age that leads to the extension of the concept that the user can actively interact with the information. The ultra-high-quality screen realized with UHD enables enlargement of the display with high realism and enlargement of the screen size, which leads to improvement of the stereoscopic effect of stereoscopic images, and the experience of using interactive contents that digital information display (DID) Extensions will be imported.

이러한 차세대 디스플레이의 발전으로 인해 맞이하게 되는 새로운 정보사회의 패러다임을 준비하고, 한 차원의 진보적인 연구가 필요한 시점에서 새롭게 주목받고 있는 기술이 미러 디스플레이에 관한 것이다. 미러 디스플레이 장치는 영상화면을 표시하기 위한 디스플레이부를 거울에 구비하고 있는 디스플레이 장치로 정의할 수 있으며, 별도의 디스플레이를 요구하지 않으므로 비용 및 공간활용 측면에서 유용하다.The mirror display is a technology which is getting attention at a time when a paradigm of a new information society to be greeted by the development of such a next generation display and a progressive research in one dimension is required. The mirror display apparatus can be defined as a display apparatus having a display unit for displaying an image screen on a mirror and is useful in terms of cost and space because it does not require a separate display.

특히, 현재 보편화된 개인용 소형 스마트 디바이스의 경우 다양한 콘텐츠를 이용하기 위해 이용자가 해당 콘텐츠를 검색하고 그 내용을 다시 구분해야 하는 불편함이 있다. 또한 이러한 스마트 디바이스는 휴대를 위한 작은 크기와 더불어 콘텐츠가 탑재되는 디바이스가 개인 휴대전화라는 특성상 대단히 개인적인 용도로 활용되고 있다. 이러한 이유에서 주택이나 사업장 등 어디나 설치되어 있는 전통적인 아날로그 디스플레이인 거울을 발전시켜 차세대 디스플레이로 활용하고 스마트 콘텐츠, 나아가 인터랙티브 콘텐츠 디자인을 탑재하여 생활 문화를 개선하는 미러 디스플레이가 요구되고 있다.In particular, in the case of a small-sized personal smart device at present, it is inconvenient for the user to search for the content and re-distinguish the contents in order to use various contents. In addition, these smart devices are being used for personal purposes because of the small size for carrying and the fact that the device on which the content is loaded is a personal mobile phone. For this reason, there is a demand for a mirror display that improves the living culture by using mirrors as a next generation display, smart contents, and interactive contents design by developing a mirror which is a conventional analog display installed in every place such as a house or a business place.

미러 디스플레이는 전면에 거울을 구비하고 상기 거울 후면에 디스플레이 장치를 구비하여 개발되고 있다[특허문헌 1]. 이때, 사용하는 거울은 빛의 일부를 반사하고 일부는 투과하는 하프 미러를 사용한다. 즉, 미러 디스플레이는 반사되는 빛에 의해 거울로 작용하고, 후면에 배치된 디스플레이의 발광되는 빛이 거울을 투과함으로써 디스플레이로서 작용한다. 또한, 액정패널의 액정층의 액정 배열을 조절하여 거울 및 디스플레이 겸용 미러 디스플레이가 개시되고 있다[특허문헌 2].The mirror display has been developed by providing a mirror on the front surface and a display device on the rear surface of the mirror [Patent Document 1]. At this time, the mirror used reflects a part of the light and uses a half mirror which transmits a part of the light. That is, the mirror display acts as a mirror by the reflected light, and the emitted light of the display arranged on the rear side functions as a display by transmitting through the mirror. Further, a mirror display combined with a mirror and a display by regulating the liquid crystal arrangement of the liquid crystal layer of the liquid crystal panel has been disclosed [Patent Document 2].

또한, 전면에 투명한 액정소자를, 후면에 반사 기능을 갖는 반사매질를 구비하여 미러 디스플레이를 구성할 수 있다[특허문헌 3]. 투명 액정소자가 디스플레이되지 않고 모든 빛을 투과시키면, 투과된 빛은 반사매질에 반사되어 미러 디스플레이는 통상의 거울로 작용한다. 투명 액정소자가 구동하여 일부 셀들이 들어오는 빛을 차단하고 자체 빛을 발광하면, 해당 셀들은 디스플레이로서 작용한다.Further, a mirror display can be constituted by providing a transparent liquid crystal element on the front surface and a reflection medium having a reflection function on the rear surface. [Patent Document 3] When a transparent liquid crystal device is not displayed and transmits all the light, the transmitted light is reflected on the reflection medium, and the mirror display acts as a normal mirror. When a transparent liquid crystal device is driven to block light coming in from some cells and emit light of its own, the cells act as a display.

상기와 같은 미러 디스플레이는 다양한 형태로 응용될 수 있다.The above-described mirror display can be applied in various forms.

화장실에 설치되는 미러형 디스플레이 상품으로는 사이버텍쳐(Cybertecture) 미러(홍콩)가 있다[비특허문헌 1]. 이 제품은 날씨 표시기능, 웹 검색 기능, 체중계 연동 기능이 있으나 소형가전에 사용되는 임베디드 보드 기반의 단순 운영체제를 사용하고 있기에 다양한 안드로이드 운영체제와 같이 다양한 어플리케이션의 기획과 개발이 불가능하다. 이러한 단순 기능을 가진 제품은 오직 화장실에서만 사용이 그치는 원인이기도 하다. 활용성 측면에서도 커뮤니케이션을 위한 카메라나 근접센서, 터치스크린과 같은 인터랙티브 기능을 위한 디지털장비가 없기 때문에 단순히 거울에 단순 디스플레이 기능을 추가했을 뿐, 거울이라는 특성을 활용한 콘텐츠를 제공하지는 못하고 있다.A mirror type display product installed in a toilet is a Cybertecture mirror (Hong Kong) [Non-Patent Document 1]. This product has weather display function, web search function, and scales interlocking function, but it is impossible to plan and develop various applications such as various Android operating systems because it uses a simple operating system based on an embedded board used in small household appliances. Products with this simple function are the only ones that are used only in the bathroom. In terms of usability, since there is no digital equipment for interactive functions such as a communication camera, a proximity sensor, and a touch screen, it merely adds a simple display function to a mirror, and does not provide contents utilizing the characteristic of a mirror.

또한, 미러 디스플레이와 마주하는 사람들을 인식하여 인식 결과에 따라 디스플레이 화면에 관련 정보를 표시하는 기술도 개시되고 있다. 예를 들어, 카메라를 설치하여 사람을 촬영하고, 촬영된 사람을 미러 디스플레이에 표시하는 기술들이 개시되고 있다[특허문헌 4,5]. There is also disclosed a technique of recognizing people facing a mirror display and displaying related information on a display screen in accordance with recognition results. For example, techniques have been disclosed in which a camera is installed to shoot a person, and a photographed person is displayed on a mirror display (Patent Documents 4 and 5).

또한, 검출용 마크 등을 이용하여 거울에 마주하는 사람의 위치를 파악하고, 거울에 비친 사람의 이미지에 가상의 의복을 착용시켜 표시하는 기술이 개시되고 있다[특허문헌 6]. 미러 디스플레이를 바라보는 사람 눈의 위치를 파악하였다가, 거울에 비춰지는 객체가 상기 사람의 눈의 위치를 기준으로 투영되는 위치를 파악하여, 상기 객체의 부가정보를 표시하는 기술이 개시되고 있다[특허문헌 7].In addition, a technique of grasping the position of a person facing a mirror by using a detection mark or the like, and displaying a virtual image of the person reflected in the mirror by wearing it has been disclosed (Patent Document 6). A technique has been disclosed in which a position of a person's eye looking at a mirror display is grasped and a position where an object projected in a mirror is projected based on the position of the eye of the person is grasped and additional information of the object is displayed [ Patent Document 7].

상기와 같은 기술들에 의하여, 스마트 미러 시스템은 도 1과 같이 거울을 활용하여 내부에 초고화질 LED 디스플레이와 안드로이드 운영체제를 기반으로 거울을 사용하기 위해 접근하는 사람을 감지할 수 있는 근접 센서, 인터랙티브를 위한 멀티 터치센서, 콘텐츠 활용을 위한 전면 카메라를 탑재한다.According to the above-described technologies, the smart mirror system utilizes a mirror as shown in FIG. 1 to provide an ultra-high resolution LED display and a proximity sensor capable of detecting a person approaching to use the mirror based on the Android operating system, A multi-touch sensor, and a front camera for content use.

이러한 기능을 통해서 평소에는 액자, 앨범과 같은 사진 슬라이드 기능 혹은 시간 및 날씨 등의 생활 정보 디스플레이로 활용되다가 사용자가 다가오면 거울로 사용할 수 있게 화면이 변경된다. 또한 사용자가 화면을 터치하면 스마트 기능이 표시되어 자연스러운 사용자 경험(User Experience, UX)을 사용할 수 있다. 스마트미러는 지금까지 스마트폰, 스마트패드 등에서 동작했던 모든 어플리케이션을 모두 활용할 수 있다. 장시간 활용해도 안드로이드 메인보드는 일반 PC와 같이 오류, 오동작을 하지 않으므로 사용자의 전문성과 관계없이 안정적인 동작이 가능하다.Through these functions, it is usually used as a photo slide function such as a frame, an album, or a living information display such as time and weather, and a screen is changed so that the user can use it as a mirror when the user approaches. In addition, when the user touches the screen, the smart function is displayed and a natural user experience (UX) is available. Smart Mirror can utilize all applications that have been used in smartphones, smart pads and so on until now. Even if you use it for a long time, the Android main board does not cause errors or malfunctions like ordinary PC, so stable operation is possible regardless of the user's expertise.

이러한 미러 디스플레이는 쇼핑 및 광고 등 정보를 표시하기 좋은 디바이스 중 하나이다. 그러나 미러 디스플레이를 통해 과도한 광고 노출은 사용자에게 불편함을 주게 된다. 또한, 사용자가 거울 앞으로 가까이 다가올 때 거울로 사용할 수 있게 화면을 변경하면, 정작 사용자에게 효과적인 광고 등 정보를 전달할 수 없다는 문제점이 있다.These mirror displays are one of the devices that display information such as shopping and advertisement. Excessive advertising exposure through the mirror display, however, is inconvenient for users. In addition, if the user changes the screen so that it can be used as a mirror when coming close to the mirror, there is a problem that information such as an advertisement can not be effectively delivered to the user.

따라서 사용자가 조금 멀리 떨어질 때 광고 등 정보를 표시하다가 사용자가 다가오면 사용자가 거울에 비춰지는 부분 외의 빈 공간에 광고 정보가 표시되는 것이 필요하다. 그러나 미러 디스플레이에 맺힌 사용자의 상에 대한 물리적인 위치를 정밀하게 인식하고 이를 바탕으로 사용자 영역 주변에 광고 등 정보를 표시하는 기술이 아직 미흡한 실정이다.Therefore, it is necessary that the advertisement information is displayed in a blank space other than the part where the user is visible in the mirror when the user approaches while displaying information such as advertisement when the user is a little far away. However, there is still a lack of technology for accurately recognizing the physical position of a user's image formed on a mirror display and displaying information such as advertisements around the user area based on the physical location.

[특허문헌 1] 일본공개특허 제2014-032312호 (2014.02.20.공개)[Patent Document 1] Japanese Laid-Open Patent Application No. 2014-032312 (published on April 20, 2014) [특허문헌 2] 한국공개특허 제2012-0074499호 (2012.07.06.공개)[Patent Document 2] Korean Laid-Open Patent Application No. 2012-0074499 (Published July 6, 2012) [특허문헌 3] 한국공개특허 제2013-0037600호 (2013.04.16.공개)[Patent Document 3] Korean Published Patent Application No. 2013-0037600 (published on April 16, 2013) [특허문헌 4] 미국공개특허 제2013-0229482호 (2013.09.05.공개)[Patent Document 4] U.S. Published Patent Application No. 2013-0229482 (published on May 3, 2013) [특허문헌 5] 일본공개특허 제2010-087569호 (2010.04.15.공개)[Patent Literature 5] Japanese Laid-Open Patent Application No. 2010-087569 (Published April 15, 2010) [특허문헌 6] 일본공개특허 제2013-0128202호 (2013.11.26.공개)[Patent Document 6] Japanese Laid-Open Patent Application No. 2013-0128202 (published on November 26, 2013) [특허문헌 7] 한국공개특허 제2013-0128202호 (2013.11.26.공개)[Patent Document 7] Korean Published Patent Application No. 2013-0128202 (published on November 26, 2013)

[비특허문헌 1] http://www.cybertecturemirror.com/main.php?id=features[Non-Patent Document 1] http://www.cybertecturemirror.com/main.php?id=features

본 발명의 목적은 상술한 바와 같은 문제점을 해결하기 위한 것으로, 사용자가 조금 멀리 떨어질 때 미러 디스플레이 전체에 광고 등 정보를 표시하다가 사용자가 다가오면 사용자가 거울에 비춰지는 부분 외의 빈 공간으로 광고 정보를 이동시켜 표시하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법을 제공하는 것이다.An object of the present invention is to solve the above-mentioned problems, and it is an object of the present invention to provide a method and apparatus for displaying advertisement information on the entire mirror display when the user is slightly away from the user, The present invention also provides a method of displaying information on a mirror display by recognizing a projection image of a user moving and displaying the information.

특히, 본 발명의 목적은 미러 디스플레이의 거울에 비춰진 사용자의 이미지를 촬상하고, 촬상된 이미지로부터 사용자의 거울 상의 투영 이미지 및 위치를 파악하고, 상기 투영 이미지 및 위치에 대응되는 상기 디스플레이의 화면 영역의 주변에 쇼핑 및 광고 등 정보를 표시하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법을 제공하는 것이다..
In particular, it is an object of the present invention to provide a method and apparatus for imaging a mirror image of a user, capturing an image of a user on a mirror of a mirror display, determining a projection image and position on the user's mirror from the captured image, The present invention provides a method of displaying information on a mirror display through projected image recognition of a user displaying information such as shopping and advertisement in the vicinity.

상기 목적을 달성하기 위해 본 발명은 미러 패널과 디스플레이 패널이 결합된 미러 디스플레이, 및, 상기 미러 디스플레이의 둘레에 설치되어 상기 미러 디스플레이의 전면을 촬영하는 카메라를 구비하여, 사용자 관점의 사용자 투영 영상의 영역 및 위치에 기반하여 쇼핑 및 광고 정보를 상기 미러 디스플레이에 표시하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시방법에 관한 것으로서, (a) 상기 미러 디스플레이의 전체에 광고를 표시하는 단계; (b) 근접 센서를 통하여 사용자가 미러 디스플레이에 근접하는지를 판단하는 단계; (c) 사용자가 근접하는 경우, 상기 카메라에 의해 투영 영상을 획득하고, 상기 투영 영상으로부터 사용자 관점의 사용자 영역 및 위치를 검출하는 단계; 및, (d) 검출된 사용자의 영역 및 위치의 주변으로 상기 광고를 이동하여 표시하는 단계를 포함하는 것을 특징으로 한다.According to an aspect of the present invention, there is provided a display device including a mirror display having a mirror panel and a display panel coupled to each other, and a camera installed around the mirror display and photographing a front surface of the mirror display, A method of displaying information on a mirror display through projection image recognition of a user displaying shopping and advertisement information on the mirror display based on an area and a location, the method comprising the steps of: (a) displaying an advertisement on the entire mirror display; (b) determining whether the user is close to the mirror display through the proximity sensor; (c) if the user is proximate, acquiring a projection image by the camera, and detecting a user area and position of the user from the projection image; And (d) moving and displaying the advertisement around the detected area and location of the user.

또한, 본 발명은 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법에 있어서, 상기 (c)단계는, (c1) 카메라에 의해 획득된 투영 영상으로서, 상기 미러 디스플레이에 투영된 투영 영상을 입력받는 단계; (c2) 입력된 투영 영상을 보정하는 단계; (c3) 상기 보정된 투영 영상에서 사용자의 얼굴을 검출하는 단계; (c4) 상기 검출된 사용자의 얼굴 영상으로부터 사용자 관점의 얼굴 영역 및 위치를 검출하는 단계를 포함하는 것을 특징으로 한다.The method may further include the steps of: (c1) inputting, as a projection image obtained by the camera, a projection image projected on the mirror display; Receiving; (c2) correcting the input projection image; (c3) detecting a user's face in the corrected projection image; (c4) detecting a face region and a position of the user's view from the detected face image of the user.

또한, 본 발명은 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법에 있어서, 상기 (d)단계에서, 상기 미러 디스플레이의 전체에서 상기 사용자 영역의 주변으로 광고를 이동할 때, 애니메이션 효과를 이용하여 화면을 이동하는 것을 특징으로 한다.According to another aspect of the present invention, there is provided a method of displaying information on a mirror display through projection image recognition by a user, the method comprising the steps of: (d) moving an advertisement from the entire mirror display to the periphery of the user area, And moving the screen.

또한, 본 발명은 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시장치에 있어서, 상기 제어장치는 아다부스트(Adaboost) 알고리즘을 이용하여 얼굴을 검출하는 것을 특징으로 한다.According to another aspect of the present invention, there is provided an apparatus for displaying information on a mirror display through projected image recognition of a user, wherein the controller detects a face using an Adaboost algorithm.

또한, 본 발명은 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법에 있어서, 상기 제어장치는 미러 디스플레이의 실제 크기(A')-카메라로부터 촬영된 미러 디스플레이의 크기(A), 촬영된 미러 디스플레이의 크기(A)-검출된 얼굴 영역(B) 및 촬영된 미러 디스플레이의 크기(A)-카메라와의 거리 및 각도(C)간의 관계를 이용해서 실제 얼굴의 크기(B')와 위치를 검출하는 것을 특징으로 한다.In the method of displaying information on a mirror display through a user's projection image recognition, the control device controls the actual size (A ') of the mirror display, the size (A) of the mirror display photographed from the camera, (B ') and position (-) of the actual face using the relationship between the size of the display (A) - the detected face area (B) and the size of the photographed mirror display Is detected.

또한, 본 발명은 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법에 있어서, 상기 제어장치는 사용자의 얼굴 영역의 실제 크기를 다음 [수식 1]에 의해 구하는 것을 특징으로 한다.Further, the present invention is a method for displaying information of a mirror display through projection image recognition by a user, wherein the control device obtains an actual size of a face region of a user by the following [Expression 1].

[수식 1][Equation 1]

Figure pat00001
Figure pat00001

단, 얼굴검출영역의 크기는 영상 내에서의 얼굴 검출영역의 크기,However, the size of the face detection area is the size of the face detection area in the image,

실제 미러 디스플레이의 크기는 사전에 정해진 값.The size of the actual mirror display is a predetermined value.

또한, 본 발명은 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법에 있어서, 상기 제어장치는 사용자의 얼굴 영역과의 실제 거리를 다음 [수식 2]에 의해 구하는 것을 특징으로 한다.Further, the present invention is a method for displaying information on a mirror display through projected image recognition of a user, wherein the control device obtains an actual distance from a face region of a user by the following equation (2).

[수식 2][Equation 2]

Figure pat00002
Figure pat00002

단, 기준거리 및 기준크기는 사전에 정해진 값.
However, the reference distance and the reference size are predetermined values.

상술한 바와 같이, 본 발명에 따른 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법에 의하면, 사용자가 미러 디스플레이로 다가오면 전체에 표시되던 광고를 사용자가 거울에 비춰지는 부분 외의 빈 공간으로 이동시킴으로서, 사용자가 거울을 이용하는 동안에 광고를 사용자에게 노출하여 광고 효과를 극대화시킬 수 있는 효과가 얻어진다.
As described above, according to the method of displaying information on the mirror display through the projection image recognition of the user according to the present invention, when the user approaches the mirror display, the advertisement displayed on the entire screen is moved to the empty space outside the part where the user is viewed in the mirror It is possible to maximize the advertising effect by exposing the advertisement to the user while the user is using the mirror.

도 1은 본 발명에 따른 소제구 마개가 설치된 횡주관 및 소제구 전체에 대한 구성도.
도 2는 본 발명의 일실시예에 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시장치에 대한 (a) 정면도 및, (b) 단면도.
도 3은 본 발명의 일실시예에 따른 미러 디스플레이와 미러 촬영을 위한 카메라의 배치도의 예시도로서 (a) 정면도 및 (b) 측면도의 예시도.
도 4는 본 발명의 일실시예에 따른 미러의 촬영을 위한 다양한 카메라 위치를 나타낸 배치도로서, (a) 상하형, (b) 모서리형, (c) 좌우형의 배치 예시도.
도 5는 본 발명의 일실시예에 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시장치의 제어장치의 구성을 나타내는 블록도.
도 6은 본 발명에 따른 미러 디스플레이의 동작 예시로서, (a) 미러에 비친 입방향 객체의 촬영, (b) 영상처리 및 인식, (c) 인식된 정보를 바탕으로 영상의 합성의 예시도.
도 7은 본 발명의 일실시예에 따른 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법을 설명하는 흐름도.
도 8은 본 발명의 일실시예에 따라 사용자 관점의 사용자 영역 및 위치를 검출하는 단계를 설명하는 흐름도.
도 9는 본 발명의 일실시예에 따른 얼굴 검출 단계를 설명하는 흐름도.
도 10은 본 발명에 따른 미러 디스플레이의 촬영의 예시도로서, (a) 카메라의 배치, (b) 촬영된 영상의 예시도.
도 11은 본 발명에 따라 얼굴의 추적을 통한 시점의 예측의 예시 영상 이미지로서, (a) 미러 디스플레이 촬영 영상(렌즈 및 기하학적 왜곡 보정 후), (b) 얼굴 추적을 통한 시점 예측 결과의 영상 이미지의 예시도.
도 12는 본 발명에 따른 미러 디스플레이의 크기, 검출된 얼굴의 크기 및 카메라와의 거리를 예시한 도면.
도 13은 본 발명에 따른 촬영된 영상에서의 미러 디스플레이의 크기 및 영상의 크기를 예시한 도면.
도 14는 본 발명에 따라 카메라에 촬영된 영상을 통해 예측한 시점과 합성 영상의 생성하는 과정을 설명한 도면.
도 15는 본 발명에 따라 미러 디스플레이를 통해서 사용자에 의해서 보여지는 영상의 예시도.
도 16은 본 발명에 따른 미러 디스플레이를 이용한 쇼핑 및 광고 등 정보를 표시하는 영상의 예시도.
Brief Description of the Drawings Fig. 1 is a schematic view of an entire transverse pipe and a cleaning tool provided with a cleaning tool stopper according to the present invention.
BACKGROUND OF THE INVENTION Field of the Invention [0001] The present invention relates to an information display apparatus for a mirror display, and more particularly,
3 is an exemplary view showing a layout of a camera for a mirror display and a mirror photographing according to an embodiment of the present invention, wherein (a) is a front view and (b) is a side view.
FIG. 4 is a layout diagram showing various camera positions for photographing a mirror according to an embodiment of the present invention, wherein (a) is a top and bottom type, (b) is a corner type, and (c) is a left and right type.
5 is a block diagram showing a configuration of a control device of an information display apparatus of a mirror display through projected image recognition of a user according to an embodiment of the present invention.
FIG. 6 is a diagram illustrating an operation example of a mirror display according to the present invention. FIG. 6 (a) is an illustration of an image of a mouth direction object reflected by a mirror, (b) image processing and recognition, and (c)
7 is a flowchart illustrating a method of displaying information of a mirror display through projection image recognition by a user according to an embodiment of the present invention.
Figure 8 is a flow diagram illustrating the steps of detecting a user's area of user's location and location in accordance with one embodiment of the present invention.
9 is a flowchart illustrating a face detection step according to an embodiment of the present invention;
10 is an exemplary view of a mirror display according to the present invention, wherein (a) is a layout of a camera, and (b) is an example of a captured image.
FIG. 11 is an exemplary image of a viewpoint prediction through tracking of a face according to the present invention. FIG. 11 (a) shows a mirror display image (after lens and geometric distortion correction), (b) Fig.
12 is a view illustrating a size of a mirror display, a size of a detected face, and a distance to a camera according to the present invention;
13 is a view illustrating a size of a mirror display and a size of an image in a photographed image according to the present invention.
FIG. 14 is a view for explaining a time point predicted through an image photographed by a camera according to the present invention and a process of generating a composite image. FIG.
Figure 15 is an illustration of an image viewed by a user through a mirror display in accordance with the present invention;
FIG. 16 is an illustration of an image displaying information such as shopping and advertisement using the mirror display according to the present invention; FIG.

이하, 본 발명의 실시를 위한 구체적인 내용을 도면에 따라서 설명한다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, the present invention will be described in detail with reference to the drawings.

또한, 본 발명을 설명하는데 있어서 동일 부분은 동일 부호를 붙이고, 그 반복 설명은 생략한다.
In the description of the present invention, the same parts are denoted by the same reference numerals, and repetitive description thereof will be omitted.

먼저, 본 발명의 일실실예에 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시장치의 구성을 도 2를 참조하여 설명한다.First, a configuration of an information display apparatus for a mirror display through projected image recognition of a user in a practical example of the present invention will be described with reference to FIG.

도 2에서 보는 바와 같이, 본 발명의 일실실예에 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시장치는 미러 디스플레이(10), 카메라부(21), 및, 제어장치(30)로 구성된다. 또한, 근접 센서 등 각종 센서(미도시)를 추가하여 구성될 수 있다.As shown in FIG. 2, in an embodiment of the present invention, an information display apparatus for a mirror display through projected image recognition of a user includes a mirror display 10, a camera unit 21, and a controller 30 . In addition, it may be constituted by adding various sensors (not shown) such as a proximity sensor.

미러 디스플레이(10)는 미러 역할을 수행하는 특수 코팅된 미러 패널이 결합된 디스플레이 패널이다. 또한, 미러 디스플레이(10)에는 터치 기능이 구비되는 것이 바람직하다.The mirror display 10 is a display panel combined with a specially coated mirror panel serving as a mirror. The mirror display 10 is preferably provided with a touch function.

일실시예로서, 미러 디스플레이(10)는 전면에 거울(11)을 구비하고, 거울(11)의 후면에 디스플레이 장치(12)를 구비한다. 이때, 사용하는 거울(11)은 빛의 일부를 반사하고 일부는 투과하는 하프 미러를 사용하는 것이 바람직하다. 즉, 미러 디스플레이(10)는 반사되는 빛에 의해 거울(11)로 작용하고, 후면에 배치된 디스플레이 장치(12)의 발광되는 빛이 거울을 투과함으로써 디스플레이로서 작용한다. 이때 바람직하게는, 디스플레이 장치(12)는 LCD(Liquid CrystalDisplay) 패널을 구비하여 구성될 수 있고, 그 외에도, 유기EL(Organic Electro Luminescence) 패널이나, PDP(Plasma Display Panel)를 구비하여 구성된 것일 수도 있다.In one embodiment, the mirror display 10 has a mirror 11 on its front side and a display device 12 on the rear side of the mirror 11. At this time, it is preferable to use a half mirror which reflects a part of light and transmits a part of the mirror. That is, the mirror display 10 acts as a mirror 11 by the reflected light, and the emitted light of the display device 12 arranged on the rear side passes through the mirror and functions as a display. In this case, the display device 12 may include a liquid crystal display (LCD) panel, or may include an organic EL (Organic Electro Luminescence) panel or a PDP (Plasma Display Panel) have.

또한, 다른 실시예로서, 미러 디스플레이(10)는 전면에 투명 디스플레이 장치(12)를 구비하고, 투명 디스플레이 장치(12)의 후면에 거울에 사용하는 광 반사 도료 또는 반사 필름(또는 반사형 편광 필름) 등을 구비할 수도 있다. 즉, 투명 디스플레이 장치(12)의 일부 발광소자가 작동하지 않은 채 빛을 통과시키면 광 반사 필름에 의해 반사되어 거울 역할을 하고, 투명 디스플레이 장치(12)의 나머지 작동하는 발광소자의 부분은 디스플레이로 기능한다. 이때 바람직하게는, 디스플레이 장치(12)는 투명 디스플레이로서, 통상의 투명 유기 전기발광 디스플레이(OLED) 등을 이용할 수 있다.In another embodiment, the mirror display 10 is provided with a transparent display device 12 on its front surface, and a light reflection paint or reflection film (or a reflective polarizing film And the like. That is, when light passes through the transparent display device 12 without operating some light emitting devices, the light is reflected by the light reflecting film to serve as a mirror, and the remaining portion of the light emitting device of the transparent display device 12, Function. At this time, preferably, the display device 12 is a transparent display, and a normal transparent organic electroluminescent display (OLED) or the like can be used.

한편, 미설명 부호 15는 미러 디스플레이 장치(10) 등이 수납될 수 있는 미러 고정부이다.On the other hand, the reference numeral 15 denotes a mirror fixing portion to which the mirror display device 10 and the like can be housed.

또한, 카메라부(21)는 미러 디스플레이(10)의 주변(또는 둘레)에 설치되는 카메라 장치로서, 미러 디스플레이(10)의 전면 자체를 촬영할 수 있는 적어도 하나 이상의 카메라로 구성된다. 특히, 카메라(21)는 미러 디스플레이(10)에 밀착하여 장착된다.The camera unit 21 is a camera device installed around (or around) the mirror display 10, and is composed of at least one camera capable of photographing the front surface of the mirror display 10 itself. In particular, the camera 21 is mounted in close contact with the mirror display 10.

도 3은 미러 디스플레이(10)와 미러 디스플레이(10)에 맺힌 상을 촬영하기 위한 카메라(21)의 배치를 나타냈다. 미러 디스플레이(10)에 맺힌 상을 촬영하기 위해서는 다양한 카메라 배치가 가능한데 이를 도 4에 몇 가지 형태로 예시하였다.3 shows the arrangement of the camera 21 for photographing the image formed on the mirror display 10 and the mirror display 10. Various camera arrangements are possible for photographing images formed on the mirror display 10, which are illustrated in several forms in FIG.

바람직하게는, 카메라부(21)는 광각 렌즈를 장착한 카메라로 구성된다. 도 3에서 예시한 것을 살펴보면 카메라를 상단에 위치할 경우에 카메라에 광각 렌즈를 부탁하여 가능한한 넓은 면적의 영상을 촬영할 수 있도록 하고 있다. 이러한 경우에 카메라의 위치에 의해 영상을 획득할 수 있는 음영 영역이 발생한다. 따라서 2개 이상의 카메라를 장착하여 이러한 음영 영역을 제거할 수 있다. 이는 제공하고자 하는 서비스의 형태에 따라서 다양하게 결정될 수 있다.Preferably, the camera section 21 is constituted by a camera equipped with a wide-angle lens. As shown in FIG. 3, when a camera is positioned at the top, a wide-angle lens is requested to the camera so that a wide area image can be taken as much as possible. In this case, a shaded area is generated which can acquire an image by the position of the camera. Thus, two or more cameras can be mounted to remove such shadow areas. It can be variously determined according to the type of service to be provided.

한편, 근접 센서 등 각종 센서부(미도시)는 객체 및 환경 인지를 위한 센서로 구성된다.On the other hand, various sensor units (not shown) such as a proximity sensor are composed of sensors for object and environment recognition.

제어장치(30)는 통상의 컴퓨팅 기능을 가진 장치로서, 중앙처리장치(또는 마이크로프로세서), 메모리, 저장장치, 입출력 장치, 통신 장치 등을 구비한다. 바람직하게는 제어장치(30)에는 안드로이드(또는 윈도우, 리눅스) 등 운영체제가 탑재되어, 디스플레이 구동 및, 쇼핑 및 광고 표시 프로그램 등이 설치될 수 있다.The control device 30 is a device having a normal computing function and includes a central processing unit (or a microprocessor), a memory, a storage device, an input / output device, a communication device, and the like. Preferably, the control device 30 is provided with an operating system such as Android (or Windows, Linux), and may be provided with a display drive, a shopping and advertisement display program, and the like.

구체적으로, 도 5에서 보는 바와 같이, 제어장치(30)는 터치 기능에 의한 터치 좌표, 카메라부(21)에 의한 영상 또는 이미지, 근접 센서 등 각종 센서에 의한 센싱값 등을 입력받는 입력부(31), 미러 디스플레이(10)의 디스플레이 장치에 화면을 표시하는 표시부(32), 유무선 인터넷, 이동통신용 모뎀 등 네트워크와 연결되어 데이터를 송수신하는 통신부(33), 데이터를 저장하는 메모리(35), 중앙처리장치 또는 마이크로프로세서 등으로 구현되는 제어부(34)를 포함하여 구성된다.
5, the control device 30 includes an input unit 31 for receiving touch coordinates by a touch function, an image or image by the camera unit 21, a sensing value by various sensors such as a proximity sensor, A display unit 32 for displaying a screen on a display device of the mirror display 10, a communication unit 33 for communicating data with the network such as a wired / wireless Internet and a mobile communication modem, a memory 35 for storing data, And a control unit 34 implemented by a processing unit or a microprocessor.

다음으로, 본 발명에 따른 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시방법의 구체적인 설명에 앞서, 개괄적으로 설명하면 다음과 같다.Next, an overview of a method of displaying information of a mirror display through projection image recognition by a user according to the present invention will be described as follows.

센서 및 카메라를 통해 객체 혹은 사용자가 인지되면 카메라를 통해서 미러 디스플레이에 맺힌 상을 촬영하고 이를 다양한 영상처리를 통해서 인지한다. 이때 미러 디스플레이에 맺힌 상과 미러 디스플레이와의 물리적인 공간 정보를 정확하게 추출하기 때문에 이를 기반으로 정확한 합성 영상을 만들 수 있는 특성을 갖는다. 만일 객체 혹은 사용자를 직접 촬영한다면 촬영 환경(거리, 각도, 조명 등)에 따라서 획득된 객체 및 사용자의 정보에 대한 정확한 물리적인 위치 정보를 알 수 없기 때문에 이들과의 정확한 영상 합성이 어렵다.When an object or a user is recognized through a sensor and a camera, an image formed on a mirror display is photographed through a camera and recognized through various image processing. In this case, since the physical space information of the image formed on the mirror display and the mirror display is accurately extracted, it is possible to create an accurate composite image based on the physical space information. If an object or a user is directly photographed, it is difficult to precisely synthesize the acquired object and the physical position information of the user with the photographing environment (distance, angle, illumination, etc.).

미러 디스플레이는 미러에 반사된 자신의 형상과 디스플레이에서 제공하는 영상을 동시에 보여주기 때문에 미러에 반사된 자신의 형상에 대한 물리적인 위치 정보를 기준으로 제공된 합성 영상은 뛰어난 효과를 얻을 수 있다.Since the mirror display shows its own shape reflected on the mirror and the image provided on the display, the composite image provided based on the physical position information on the shape of the mirror reflected on the mirror can obtain an excellent effect.

도 6에 이러한 과정을 예시하였다. 도 6(a)는 미러 디스플레이 앞에 입방형의 객체가 존재하고 있는 경우를 나타내는데 입방형의 객체는 미러에 반사되어 상이 맺힐 것이고 이렇게 미러에 맺힌 상을 촬영한 후에 다양한 영상처리 과정을 거치면 도 6(b)와 같은 영상을 얻는다. 이는 미러 디스플레이에 맺힌 상이기도 하지만 만일 객체가 사용자라면 사용자의 눈에 보이는 상이라고도 할 수 있다는 것이 매우 중요한 점이다. 이 정보를 바탕으로 도 6(c)와 같이 작은 입방형 객체를 만들어서 인위적으로 디스플레이에서 투사를 한다면 도 6(c)와 같이 2개의 영상이 매우 정교하게 합성된 결과를 얻을 수 있다. 도 6(c)에서 위쪽의 객체는 그래픽에 의해서 생성된 것이고 아래쪽의 객체는 현재 미러 앞에 놓여 있는 실제 객체가 비춰진 것이다. 이러한 특징은 미러 디스플레이에 맺힌 상을 직접 촬영한 영상 정보를 바탕으로 영상을 만들었다는 점으로부터 기인한다.
This process is illustrated in FIG. 6 (a) shows a case where a cubic object exists in front of the mirror display. The cubic object will be reflected on the mirror, and an image will be formed. After the image formed on the mirror is photographed, b). It is also important to note that if the object is a user, it can be said to be an image that is visible to the user. Based on this information, if a small cubic object is created as shown in FIG. 6 (c) and artificially projected on a display, two images can be obtained with extremely fine synthesis as shown in FIG. 6 (c). In FIG. 6 (c), the upper object is generated by a graphic and the lower object is a mirror image of the actual object that is currently positioned in front of the mirror. This feature is due to the fact that images were created based on the image information of the image formed on the mirror display.

다음으로, 본 발명의 일실시예에 따른 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시방법을 도 7을 참조하여 설명한다.Next, a method of displaying information of a mirror display through projection image recognition by a user according to an embodiment of the present invention will be described with reference to FIG.

도 7에서 보는 바와 같이, 본 발명의 일실시예에 따른 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시방법은 (a) 미러 디스플레이의 전체에 광고를 표시하는 단계(S10); (b) 사용자가 미러 디스플레이에 근접하는지를 판단하는 단계(S20); (c) 사용자가 근접하는 경우, 사용자 관점의 사용자 영역 및 위치를 검출하는 단계(S30); 및 (d) 검출된 사용자의 영역 및 위치의 주변으로 광고를 이동하여 표시하는 단계(S40)로 구성된다.As shown in FIG. 7, a method of displaying information of a mirror display through projection image recognition of a user according to an embodiment of the present invention includes the steps of: (a) displaying an advertisement on the entire mirror display; (b) determining whether the user is close to the mirror display (S20); (c) if the user is proximate, detecting (S30) a user area and position of the user's view; And (d) moving and displaying the advertisement around the detected area and location of the user (S40).

먼저, 미러 디스플레이(10)의 전체에 광고를 표시한다(S10).First, an advertisement is displayed on the entire mirror display 10 (S10).

그리고 사용자가 미러 디스플레이(10)에 근접하는지를 판단한다(S20). 바람직하게는, 근접 센서 등을 통해 사용자가 미러 디스플레이(10)에 근접하는지를 감지한다.Then, it is determined whether the user is close to the mirror display 10 (S20). Preferably, a proximity sensor or the like detects whether the user is close to the mirror display 10.

다음으로, 사용자가 근접하는 경우, 사용자 관점의 사용자 영역 및 위치를 검출하는 단계(S30)를 설명한다.Next, a description will be given of a step S30 of detecting a user area and a user's point of view when the user is close to each other.

도 8에서 보는 바와 같이, 사용자 관점의 사용자 영역 및 위치를 검출하는 단계(S30)는 (c1) 카메라에 의해 획득된 투영 영상을 입력받는 단계(S31); (c2) 입력된 투영 영상을 보정하는 단계(S32); (c3) 투영 영상에서 얼굴을 검출하는 단계(S33); 및 (c4) 사용자 관점의 얼굴 영역 및 위치를 검출하는 단계(S34)로 구성한다.As shown in FIG. 8, the step S30 of detecting the user area and the position of the user view includes: (c1) receiving (S31) a projection image obtained by the camera; (c2) correcting the input projection image (S32); (c3) detecting a face in the projected image (S33); And (c4) detecting a face region and a position of the user's view (S34).

먼저, 카메라부(21)의 카메라에 의해 획득된 투영 영상을 입력받는다(S31). 앞서 설명한 바와 같이, 카메라(21)에 의해 획득된 투영 영상은 카메라(21)가 미러 디스플레이(10)의 전면을 촬영한 영상(또는 이미지)이다. 또한, 바람직하게는, 카메라(21)는 광각 렌즈를 장착한 카메라이다. 따라서 광각 렌즈에 의해 촬영된 투영 영상은 통상의 이미지에 비하여 왜곡되어 표시된다.First, the projection image obtained by the camera of the camera unit 21 is inputted (S31). As described above, the projection image obtained by the camera 21 is an image (or image) obtained by photographing the front surface of the mirror display 10 by the camera 21. [ Preferably, the camera 21 is a camera equipped with a wide-angle lens. Therefore, the projected image photographed by the wide-angle lens is distorted compared with the normal image.

다음으로, 입력된 투영 영상을 보정한다(S32).Next, the input projection image is corrected (S32).

미러 디스플레이(10)에 맺힌 상을 촬영하기 위한 카메라(21)는 미러 디스플레이(10)에 밀착하여 장착되고, 광각 렌즈를 사용하여 넓은 면적을 촬영하기 때문에 여러 가지 형태의 왜곡이 발생한다.The camera 21 for photographing an image formed on the mirror display 10 is closely mounted on the mirror display 10 and various types of distortion are generated because a wide area is photographed using the wide angle lens.

첫 번째 왜곡은 광각 렌즈를 사용하기 때문에 나타나는 렌즈 왜곡이고 두 번째는 카메라 렌즈와 촬영하고자 하는 대상 사이의 각도가 수직에 가깝기 때문에 나타나는 왜곡이다.The first distortion is the lens distortion due to the use of a wide-angle lens, and the second is the distortion that occurs because the angle between the camera lens and the object to be imaged is close to vertical.

카메라의 물리적인 위치와 렌즈의 사용으로 인해 다양한 왜곡이 발생할 수 있다. 이를 먼저 렌즈 왜곡을 제거하고 다음으로 영상을 복원한다. 두 복원된 영상은 촬영이 되지 않은 음영 지역이 모서리에 각각 발생하고 두 영상을 합성하여 최종 결과 영상을 얻는다. 이러한 보정된 영상을 획득하는 과정에 사용되는 다양한 파라미터들은 카메라가 설치된 이후에 한번만 셋팅해 놓고 고정된다.Various distortions can occur due to the physical location of the camera and the use of the lens. First, the lens distortion is removed and then the image is reconstructed. In the reconstructed images, shaded regions that are not photographed are generated at the corners, respectively, and two images are combined to obtain the final result image. Various parameters used in the process of acquiring the corrected image are set and fixed only once after the camera is installed.

다음으로, 투영 영상에서 사용자의 얼굴을 검출한다(S33).Next, the face of the user is detected in the projected image (S33).

객체 혹은 얼굴 검출 기법을 이용하여 객체 혹은 얼굴을 추출한다. 추출된 객체 혹은 얼굴에서 특징점을 검출하고 특징점 기반의 객체 혹은 얼굴 추적 기법을 사용하여 고속으로 객체 혹은 얼굴의 위치를 업데이트한다.Object or face is extracted using object or face detection technique. Feature points are detected from the extracted object or face, and the position of the object or face is updated at a high speed by using the feature point based object or face tracking method.

객체 혹은 얼굴 검출 과정은 변형된 아다부스트(Adaboost) 알고리즘을 사용하고, 아다부스트(Adaboost) 알고리즘을 적용할 대상 영상의 크기를 줄여 연산시간을 줄이도록 한다. 먼저, 입력된 영상으로부터 움직임 영역을 검출한다. 이것은 이전 프레임과 현재 프레임간의 차이를 구하여 검출하며, 움직임이 전혀 없는 경우는 움직임이 있을 때까지 차영상을 반복하여 구한다. 일단 차영상이 구해지면 그 차영상을 수평방향과 수직방향으로 각각 누적덧셈을 수행한다. 그 결과는 하나의 행과 하나의 열로 나타나며, 각 화소의 값이 0이 아닌 화소들을 행과 열로 각각 확장하여 두 확장 영역의 교집합을 구한다. 그 결과는 모폴로지(morphology) 필터(erosion 필터와 dilation 필터)를 사용하여 잡음과 같은 작은 영역들을 제거하며, 필터링된 영상은 이진화(binarization)한다. The object or face detection process uses a modified Adaboost algorithm and reduces the calculation time by reducing the size of the target image to which the Adaboost algorithm is applied. First, a motion region is detected from an input image. This is obtained by detecting the difference between the previous frame and the current frame. If there is no motion, the difference image is repeatedly obtained until there is motion. Once the difference image is obtained, the difference image is cumulatively added in the horizontal direction and the vertical direction, respectively. The result is shown as one row and one column, and the intersection of the two extensions is obtained by extending each pixel with nonzero values as rows and columns. The results use a morphology filter (erosion filter and dilation filter) to remove small areas such as noise, and binarize the filtered image.

얼굴검출은 얼굴의 색을 검출하는 방법을 사용하였는데, 일반적으로 얼굴색은 조명에 크게 의존하므로, 본 발명에서는 그 의존도를 낮추기 위해 영상포맷을 RGB에서 YCbCr로 바꾸어 사용하였다. 이 중 Y성분은 조명에 가장 민감하므로 Cb와 Cr성분만 사용한다. 본 발명에서 피부색으로 사용한 색의 범위는 피부색 참조맵 B(x,y) 이며, 수학식 1과 같다. Face detection uses a method of detecting the face color. In general, since the face color depends heavily on illumination, in the present invention, the image format is changed from RGB to YCbCr in order to reduce the dependency. Of these, the Y component is most sensitive to illumination, so only Cb and Cr components are used. In the present invention, the range of the color used for the skin color is the skin color reference map B (x, y), and is expressed by Equation (1).

[수학식 1][Equation 1]

Figure pat00003
Figure pat00003

이 식을 만족하는 영역을 추출하고, 그 결과에 모폴로지 필터를 적용하여 잡음과 같은 작은 영역들을 제거하며, 그 결과 역시 이진화한다. 획득된 두 영상에 대한 교집합(AND)을 구하고, 여기에 해당하는 RGB영상을 추출하여 그 결과 영역에 Adaboost 알고리즘을 적용함으로써 객체 혹은 얼굴영역을 검출한다. 도 9는 앞서 설명한 얼굴 검출 단계의 흐름도를 나타낸다. The region satisfying this equation is extracted and a morphology filter is applied to the result to remove small regions such as noise, and the result is also binarized. An intersection (AND) is obtained for two acquired images, and the object or face region is detected by extracting corresponding RGB image and applying Adaboost algorithm to the result region. 9 is a flowchart of the above-described face detection step.

다음으로, 사용자 관점의 얼굴 영역 및 위치를 추출한다(S34).Next, the face area and the position of the user's view are extracted (S34).

구체적인 검출 방법을 설명하기에 앞서, 앞선 단계에서 보정하여 구한 투영 영상을 사용자 관점에서 바라본 영상과 대비하여 그 차이를 알아본다.Before explaining the concrete detection method, the difference between the projection image obtained by correcting in the previous step and the image viewed from the user's view is examined.

카메라의 위치 및 각도를 조절하여 미러 디스플레이로부터 어떤 거리에 있는 피사체를 촬영한다. 이때 촬영되는 영상은 미러 디스플레이 내에 상이 맺힌 영상에 해당한다. 도 10(a)에 미러 디스플레이를 이용하여 피사체를 촬영하기 위한 미러 디스플레이와 카메라 및 피사체간의 관계를 그림으로 나타냈다. 미러 디스플레이와 카메라의 위치 및 각도의 특성으로 인해 카메라로부터 획득된 영상은 도 10(b)와 같은 형태를 보인다.Adjust the position and angle of the camera to shoot a subject at a certain distance from the mirror display. At this time, the image to be photographed corresponds to the image formed in the mirror display. FIG. 10 (a) is a diagram showing a relationship between a mirror display for photographing a subject using a mirror display, a camera, and a subject. Due to the characteristics of the mirror display and the position and angle of the camera, the image obtained from the camera has a shape as shown in FIG. 10 (b).

도 11(a)에는 카메라로부터 촬영된 영상이 보정을 거친 결과를 나타냈고, 도 11(b)는 얼굴 검출 알고리즘을 통해 판별된 얼굴 위치(사각형 내부)를 나타낸다. 얼굴 검출 알고리즘은 다양한 방식의 사용이 가능하고, 검출된 얼굴 영역으로부터 사용자의 눈의 위치를 판별하여 시점을 예측한다.11 (a) shows the result of the correction of the image photographed by the camera, and Fig. 11 (b) shows the face position (inside the rectangle) discriminated through the face detection algorithm. The face detection algorithm can be used in various ways, and the position of the user's eye is determined from the detected face region to predict the viewpoint.

앞에서 얼굴을 찾기 위해 아다부스트(Adaboost) 알고리즘을 사용하였는데, 이를 통해 얼굴 영역 및 눈의 위치를 검출할 수 있다. 얼굴을 검출했으면 그 얼굴 내에서 눈의 위치가 어디라는 것은 비율적으로 예측할 수 있다. 또한 간단히 눈을 찾는 방법은 얼굴을 검출한 후에 얼굴에서 일정한 간격으로 위치한 검은 색 부분을 찾아서 눈동자를 판별한다.We used the Adaboost algorithm to find faces in advance, which can detect face regions and eye positions. If a face is detected, it can be predicted proportionally where the position of the eye is in the face. In addition, the method of simply finding the eyes is to detect the pupil by detecting the black part located at a certain distance from the face after detecting the face.

한편, 도 11에서 보는 바와 같이, 카메라(21)에 의해 촬영된 투영 영상은 사용자 관점에서 바라본 영상에 비하여, 한쪽으로 치우져서 촬영된다. 따라서 투영 영상으로부터 사용자 관점에서 바라본 영상의 영역 및 위치를 추출하여야 한다.On the other hand, as shown in FIG. 11, the projected image photographed by the camera 21 is shot on one side in comparison with the image viewed from the user's point of view. Therefore, it is necessary to extract the region and position of the image viewed from the user view from the projection image.

도 12에서 보는 바와 같이, 미러 디스플레이의 실제 크기(A')-카메라로부터 촬영된 미러 디스플레이의 크기(A), 촬영된 미러 디스플레이의 크기(A)-검출된 얼굴 영역(B) 및 촬영된 미러 디스플레이의 크기(A)-카메라와의 거리 및 각도(C)간의 관계를 이용해서 실제 얼굴의 크기(B')와 위치를 검출할 수 있다.12, the actual size (A ') of the mirror display - the size (A) of the mirror display photographed from the camera, the size (A) of the photographed mirror display - the detected face area (B) The size (A) of the display - the actual face size (B ') and position can be detected using the relationship between the distance from the camera and the angle (C).

즉, 카메라를 이용하여 미러 디스플레이를 촬영하고, 보정을 한 이후에는 도 13과 같은 영상이 획득된다. 미러 디스플레이와 카메라를 설치할 때에 보정 과정을 거치면서 촬영된 영상에 포함된 실제 공간의 크기와 미러 디스플레이의 크기, 그리고 카메라 간의 거리는 사전에 측정된 값으로 사전에 메모리 등에 저장한다. 아다부스트(Adaboost) 알고리즘을 통해서 얼굴영역이 검출되면 검출된 얼굴영역과 미러 디스플레이의 크기간의 비례식을 통해서 실제 얼굴의 크기를 계산할 수 있다. That is, a mirror display is photographed using a camera, and after the correction is performed, an image as shown in FIG. 13 is obtained. When the mirror display and the camera are installed, the size of the actual space included in the photographed image, the size of the mirror display, and the distance between the cameras are stored in advance in the memory as the measured values. When the face region is detected through the Adaboost algorithm, the size of the real face can be calculated through a proportional expression between the detected face region and the size of the mirror display.

실제 얼굴의 크기는 다음 [수학식 2]에 의해 구해진다.The size of the actual face is obtained by the following equation (2).

[수학식 2]&Quot; (2) "

Figure pat00004

Figure pat00004

또한 실제 얼굴의 크기가 구해지면 미러 디스플레이와 사용자 간의 거리를 예측할 수 있다. 이때 사용되는 비례식은 초기에 미러 디스플레이를 설치할 때 보정 과정을 통해서 설정해 놓을 수 있다. 즉, 얼굴 객체 대한 기준 거리와 기준 크기의 값 또는 이들의 비례식, 비례 관계를 사전에 측정하여 메모리 등에 저장된다.Also, if the size of the actual face is obtained, the distance between the mirror display and the user can be predicted. The proportional expression used at this time can be set through the calibration process when the mirror display is initially installed. That is, the reference distance and the reference size for the face object or their proportional and proportional relationships are previously measured and stored in a memory or the like.

이미 앞서 수학식 2를 통해 실제 얼굴의 크기를 알고 있기 때문에 초기에 설정된 기준 얼굴의 크기 대비 기준 거리 정보를 바탕으로 실제 사용자가 위치하는 거리를 알 수 있다.Since the size of the actual face is already known through Equation (2), it is possible to know the distance that the actual user is located based on the reference distance information set at the initial reference face size.

실제 거리는 다음 [수학식 3]에 의해 구해진다.The actual distance is obtained by the following equation (3).

[수학식 3]&Quot; (3) "

Figure pat00005

Figure pat00005

이를 통해서 사용자의 위치를 확인하여, 이하에서 보는 바와 같이, 사용자의 시점에 맞추어 증간현실 서비스를 제공할 수 있다.
Through this, the position of the user can be confirmed and, as will be seen from the following, the present reality service can be provided according to the viewpoint of the user.

다음으로, 검출된 사용자 관점의 얼굴 영역/위치를 기반으로 쇼핑 및 광고 등 정보를 표시한다(S40).Next, information such as shopping and advertisement is displayed on the basis of the detected face area / position of the detected user (S40).

미러 디스플레이를 바라보는 사용자의 시점을 예측하고 난 이후에는 사용자의 시점에 맞추어 쇼핑 및 광고 등 정보를 미러 디스플레이를 통해서 표시할 수 있다. 도 14(a)는 사용자의 시점을 예측한 후에 해당 위치의 주변에 쇼핑 및 광고 등 정보를 디스플레이하는 형태를 보여주고 있다. After predicting the viewpoint of the user viewing the mirror display, information such as shopping and advertisement can be displayed on the mirror display according to the user's viewpoint. FIG. 14 (a) shows a form of displaying information such as shopping and advertisement in the vicinity of the location after predicting the user's viewpoint.

사용자는 미러 디스플레이에 반사된 자신의 모습과 그 주변에 표시되는 쇼핑 및 광고 영상을 함께 볼 수 있게 된다. 도 15는 이러한 결과를 나타냈다.The user can view his or her reflection reflected on the mirror display and the shopping and advertisement images displayed around the same. Figure 15 shows this result.

도 16에는 미러 디스플레이를 이용하여 사용자의 위치 및 크기를 판별하고 이를 통해 합성 영상을 생성하여 사용자에게 쇼핑 및 광고를 제공할 수 있는 시스템을 구현한 후에 간단한 서비스를 제공하는 예를 보이고 있다. 도 16(a)는 사용자가 멀리 떨어져 있을 때 미러 디스플레이 전체에 쇼핑 및 광고 등 정보가 표시되는 영상이고, 도 16(b)는 사용자가 미러 디스플레이에 근접하였을 때, 사용자의 투영 영역 외에 주변에 광고가 표시되는 화면의 영상이다. 즉, 사용자와 그 주변에 표시되는 광고 및 쇼핑 등 정보가 표시된 영상이 합성되어 제공하고 있는 모습니다.
FIG. 16 shows an example in which a simple service is provided after implementing a system capable of identifying a user's location and size using a mirror display, generating a composite image through the display, and providing a shopping and advertisement to a user. FIG. 16 (a) is an image in which information such as shopping and advertisement is displayed on the entire mirror display when the user is far away. FIG. 16 (b) Is displayed on the screen. In other words, it is a combination of images that show information such as advertisements and shopping displayed in the users and their surroundings.

이상, 본 발명자에 의해서 이루어진 발명을 실시 예에 따라 구체적으로 설명하였지만, 본 발명은 실시 예에 한정되는 것은 아니고, 그 요지를 이탈하지 않는 범위에서 여러 가지로 변경 가능한 것은 물론이다.The invention made by the present inventors has been described concretely with reference to the embodiments. However, it is needless to say that the present invention is not limited to the embodiments, and that various changes can be made without departing from the gist of the present invention.

10 : 미러 디스플레이 11 : 거울
12 : 디스플레이 장치 21 : 카메라
30 : 제어장치 31 : 입력부
32 : 표시부 33 : 통신부
34 : 제어부 35 : 메모리
10: mirror display 11: mirror
12: display device 21: camera
30: control device 31: input part
32: Display section 33:
34: control unit 35: memory

Claims (7)

미러 패널과 디스플레이 패널이 결합된 미러 디스플레이, 및, 상기 미러 디스플레이의 둘레에 설치되어 상기 미러 디스플레이의 전면을 촬영하는 카메라를 구비하여, 사용자 관점의 사용자 투영 영상의 영역 및 위치에 기반하여 쇼핑 및 광고 정보를 상기 미러 디스플레이에 표시하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시방법에 있어서,
(a) 상기 미러 디스플레이의 전체에 광고를 표시하는 단계;
(b) 근접 센서를 통하여 사용자가 미러 디스플레이에 근접하는지를 판단하는 단계;
(c) 사용자가 근접하는 경우, 상기 카메라에 의해 투영 영상을 획득하고, 상기 투영 영상으로부터 사용자 관점의 사용자 영역 및 위치를 검출하는 단계; 및,
(d) 검출된 사용자의 영역 및 위치의 주변으로 상기 광고를 이동하여 표시하는 단계를 포함하는 것을 특징으로 하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시장치.
A mirror display having a mirror panel and a display panel combined together and a camera installed around the mirror display and photographing a front surface of the mirror display to display shopping and advertisement information based on the area and position of the user- A method of displaying information on a mirror display through projected image recognition of a user displaying information on the mirror display,
(a) displaying an advertisement on the entire mirror display;
(b) determining whether the user is close to the mirror display through the proximity sensor;
(c) if the user is proximate, acquiring a projection image by the camera, and detecting a user area and position of the user from the projection image; And
(d) moving and displaying the advertisement around the detected area and position of the user, and displaying the advertisement.
제1항에 있어서, 상기 (c)단계는,
(c1) 카메라에 의해 획득된 투영 영상으로서, 상기 미러 디스플레이에 투영된 투영 영상을 입력받는 단계;
(c2) 입력된 투영 영상을 보정하는 단계;
(c3) 상기 보정된 투영 영상에서 사용자의 얼굴을 검출하는 단계;
(c4) 상기 검출된 사용자의 얼굴 영상으로부터 사용자 관점의 얼굴 영역 및 위치를 검출하는 단계를 포함하는 것을 특징으로 하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시방법.
The method of claim 1, wherein the step (c)
(c1) receiving as a projection image acquired by a camera, a projection image projected on the mirror display;
(c2) correcting the input projection image;
(c3) detecting a user's face in the corrected projection image;
(c4) detecting the face region and the position of the user's view from the detected face image of the user.
제1항에 있어서,
상기 (d)단계에서, 상기 미러 디스플레이의 전체에서 상기 사용자 영역의 주변으로 광고를 이동할 때, 애니메이션 효과를 이용하여 화면을 이동하는 것을 특징으로 하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법.
The method according to claim 1,
The method of claim 1, wherein, in the step (d), when the advertisement is moved from the entire mirror display to the periphery of the user area, the screen is moved using an animation effect. .
제1항에 있어서,
상기 (c3)단계에서, 아다부스트(Adaboost) 알고리즘을 이용하여 얼굴을 검출하는 것을 특징으로 하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법.
The method according to claim 1,
Wherein the face is detected by using an Adaboost algorithm in the step (c3).
제2항에 있어서,
상기 (c4)단계에서, 미러 디스플레이의 실제 크기(A')-카메라로부터 촬영된 미러 디스플레이의 크기(A), 촬영된 미러 디스플레이의 크기(A)-검출된 얼굴 영역(B) 및 촬영된 미러 디스플레이의 크기(A)-카메라와의 거리 및 각도(C)간의 관계를 이용해서 실제 얼굴의 크기(B')와 위치를 검출하는 것을 특징으로 하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법.
3. The method of claim 2,
In step (c4), the actual size A 'of the mirror display, the size A of the mirror display photographed from the camera, the size A of the photographed mirror display, the detected face area B, (B ') and a position of a real face are detected by using a relationship between a size (A) of a display and a distance between the camera and an angle (C) Way.
제2항에 있어서,
상기 (c4)단계에서, 사용자의 얼굴 영역의 실제 크기를 다음 [수식 1]에 의해 구하는 것을 특징으로 하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법.
[수식 1]
Figure pat00006

단, 얼굴검출영역의 크기는 영상 내에서의 얼굴 검출영역의 크기,
실제 미러 디스플레이의 크기는 사전에 정해진 값.
3. The method of claim 2,
Wherein the actual size of the face region of the user is calculated according to Equation (1) in the step (c4).
[Equation 1]
Figure pat00006

However, the size of the face detection area is the size of the face detection area in the image,
The size of the actual mirror display is a predetermined value.
제6항에 있어서,
사용자의 얼굴 영역과의 실제 거리를 다음 [수식 2]에 의해 구하는 것을 특징으로 하는 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 방법.
[수식 2]
Figure pat00007

단, 기준거리 및 기준크기는 사전에 정해진 값.
The method according to claim 6,
And the actual distance to the face region of the user is obtained by the following equation (2): " (2) "
[Equation 2]
Figure pat00007

However, the reference distance and the reference size are predetermined values.
KR1020140031516A 2014-03-18 2014-03-18 An information display device of a mirror display for advertisement and shopping by recognizing the reflected images on the mirror and method thereof KR102209745B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020140031516A KR102209745B1 (en) 2014-03-18 2014-03-18 An information display device of a mirror display for advertisement and shopping by recognizing the reflected images on the mirror and method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140031516A KR102209745B1 (en) 2014-03-18 2014-03-18 An information display device of a mirror display for advertisement and shopping by recognizing the reflected images on the mirror and method thereof

Publications (2)

Publication Number Publication Date
KR20150108571A true KR20150108571A (en) 2015-09-30
KR102209745B1 KR102209745B1 (en) 2021-01-29

Family

ID=54246502

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140031516A KR102209745B1 (en) 2014-03-18 2014-03-18 An information display device of a mirror display for advertisement and shopping by recognizing the reflected images on the mirror and method thereof

Country Status (1)

Country Link
KR (1) KR102209745B1 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017213302A1 (en) * 2016-06-07 2017-12-14 주식회사 매직내니 Mirror display device and method for operating same
CN107479710A (en) * 2017-08-16 2017-12-15 广州视源电子科技股份有限公司 Smart mirror and its control method, device, equipment and storage medium
KR20180024671A (en) * 2016-08-31 2018-03-08 김봉한 standing sign board
WO2018060807A1 (en) * 2016-09-30 2018-04-05 Nokia Technologies Oy Selectively reducing reflectivity of a display
KR20190045740A (en) * 2017-10-24 2019-05-03 노택규 A method for operating a glasses fitting system using a smart mirror
US10297037B2 (en) * 2015-02-06 2019-05-21 Samsung Electronics Co., Ltd. Electronic device and method of providing user interface therefor
WO2020105299A1 (en) * 2018-11-21 2020-05-28 ソニー株式会社 Information processing device, information processing method, and program
KR20220044467A (en) * 2016-09-29 2022-04-08 삼성전자주식회사 Display apparatus and controlling method thereof

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220129769A (en) * 2021-03-17 2022-09-26 삼성전자주식회사 Electronic device and controlling method of electronic device

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060116940A (en) * 2005-05-12 2006-11-16 한국과학기술원 User interface system using half-mirror device and driving methed thereof
KR20070099282A (en) * 2006-04-04 2007-10-09 정헌석 Motion reaction system and the method thereof
JP2010087569A (en) 2008-09-29 2010-04-15 Panasonic Electric Works Co Ltd Full-length mirror apparatus
KR20120074499A (en) 2010-12-28 2012-07-06 엘지디스플레이 주식회사 Apparatus for both mirror and display and method for driving the same
KR20130037600A (en) 2011-10-06 2013-04-16 엘지디스플레이 주식회사 Smart window display
JP2013128202A (en) 2011-12-19 2013-06-27 Sharp Corp Mobile communication system, base station device, mobile station device, communication method, and integrated circuit
JP2013229482A (en) 2012-04-26 2013-11-07 Hitachi Ltd Land structure of circuit board, circuit board, and mounting structure body
KR20130128202A (en) 2012-05-16 2013-11-26 에스케이텔레콤 주식회사 Apparatus and method for augmented reality based on mirror display
JP2014032312A (en) 2012-08-03 2014-02-20 Panasonic Corp Mirror display device

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060116940A (en) * 2005-05-12 2006-11-16 한국과학기술원 User interface system using half-mirror device and driving methed thereof
KR20070099282A (en) * 2006-04-04 2007-10-09 정헌석 Motion reaction system and the method thereof
JP2010087569A (en) 2008-09-29 2010-04-15 Panasonic Electric Works Co Ltd Full-length mirror apparatus
KR20120074499A (en) 2010-12-28 2012-07-06 엘지디스플레이 주식회사 Apparatus for both mirror and display and method for driving the same
KR20130037600A (en) 2011-10-06 2013-04-16 엘지디스플레이 주식회사 Smart window display
JP2013128202A (en) 2011-12-19 2013-06-27 Sharp Corp Mobile communication system, base station device, mobile station device, communication method, and integrated circuit
JP2013229482A (en) 2012-04-26 2013-11-07 Hitachi Ltd Land structure of circuit board, circuit board, and mounting structure body
KR20130128202A (en) 2012-05-16 2013-11-26 에스케이텔레콤 주식회사 Apparatus and method for augmented reality based on mirror display
JP2014032312A (en) 2012-08-03 2014-02-20 Panasonic Corp Mirror display device

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
[비특허문헌 1] http://www.cybertecturemirror.com/main.php?id=features

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10297037B2 (en) * 2015-02-06 2019-05-21 Samsung Electronics Co., Ltd. Electronic device and method of providing user interface therefor
WO2017213302A1 (en) * 2016-06-07 2017-12-14 주식회사 매직내니 Mirror display device and method for operating same
US10524591B2 (en) 2016-06-07 2020-01-07 Magic Nanny Co., Ltd Mirror display apparatus and the operation method thereof
KR20180024671A (en) * 2016-08-31 2018-03-08 김봉한 standing sign board
KR20220044467A (en) * 2016-09-29 2022-04-08 삼성전자주식회사 Display apparatus and controlling method thereof
WO2018060807A1 (en) * 2016-09-30 2018-04-05 Nokia Technologies Oy Selectively reducing reflectivity of a display
US10817071B2 (en) 2016-09-30 2020-10-27 Nokia Technologies Oy Selectively reducing reflectivity of a display
CN107479710A (en) * 2017-08-16 2017-12-15 广州视源电子科技股份有限公司 Smart mirror and its control method, device, equipment and storage medium
KR20190045740A (en) * 2017-10-24 2019-05-03 노택규 A method for operating a glasses fitting system using a smart mirror
WO2020105299A1 (en) * 2018-11-21 2020-05-28 ソニー株式会社 Information processing device, information processing method, and program
US11721308B2 (en) 2018-11-21 2023-08-08 Sony Corporation Information processing apparatus and information processing method

Also Published As

Publication number Publication date
KR102209745B1 (en) 2021-01-29

Similar Documents

Publication Publication Date Title
KR102209745B1 (en) An information display device of a mirror display for advertisement and shopping by recognizing the reflected images on the mirror and method thereof
US10559053B2 (en) Screen watermarking methods and arrangements
US11614803B2 (en) Individually interactive multi-view display system for non-stationary viewing locations and methods therefor
CN106062862B (en) System and method for immersive and interactive multimedia generation
CN104204901B (en) Mobile device light guide shows
CN104205193B (en) Augmented reality light guide is shown
Miksik et al. The semantic paintbrush: Interactive 3d mapping and recognition in large outdoor spaces
US9852550B2 (en) System and method of markerless injection of ads in AR
KR102183692B1 (en) An augmented reality service apparatus for a mirror display by recognizing the reflected images on the mirror and method thereof
US9123272B1 (en) Realistic image lighting and shading
WO2015200406A1 (en) Digital action in response to object interaction
CN108830186B (en) Text image content extraction method, device, equipment and storage medium
KR20210069491A (en) Electronic apparatus and Method for controlling the display apparatus thereof
US9100563B2 (en) Apparatus, method and computer-readable medium imaging through at least one aperture of each pixel of display panel
US10803988B2 (en) Color analysis and control using a transparent display screen on a mobile device with non-transparent, bendable display screen or multiple display screen with 3D sensor for telemedicine diagnosis and treatment
US11720996B2 (en) Camera-based transparent display
Park et al. Invisible marker–based augmented reality
US10339569B2 (en) Method and system for advertising and screen identification using a mobile device transparent screen, bendable and multiple non-transparent screen
US9449427B1 (en) Intensity modeling for rendering realistic images
EP3172721A1 (en) Method and system for augmenting television watching experience
CN107079126A (en) Image projection
US11682045B2 (en) Augmented reality advertisements on objects
US20200077072A1 (en) Method and display system for information display
CN113703161B (en) Augmented reality system and anchoring display method thereof
CN107003714A (en) Contextual information is developed from image

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant