KR20160123644A - Smart mirror and method for providing personalized image - Google Patents
Smart mirror and method for providing personalized image Download PDFInfo
- Publication number
- KR20160123644A KR20160123644A KR1020150053942A KR20150053942A KR20160123644A KR 20160123644 A KR20160123644 A KR 20160123644A KR 1020150053942 A KR1020150053942 A KR 1020150053942A KR 20150053942 A KR20150053942 A KR 20150053942A KR 20160123644 A KR20160123644 A KR 20160123644A
- Authority
- KR
- South Korea
- Prior art keywords
- image
- mirror
- age
- user
- gender
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims description 21
- 238000001514 detection method Methods 0.000 claims description 10
- 239000000284 extract Substances 0.000 claims description 4
- 238000013459 approach Methods 0.000 claims description 3
- 238000007726 management method Methods 0.000 description 29
- 230000006870 function Effects 0.000 description 27
- 238000004891 communication Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000012549 training Methods 0.000 description 6
- 238000013500 data storage Methods 0.000 description 4
- 239000011521 glass Substances 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- RTAQQCXQSZGOHL-UHFFFAOYSA-N Titanium Chemical compound [Ti] RTAQQCXQSZGOHL-UHFFFAOYSA-N 0.000 description 1
- 239000011247 coating layer Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008020 evaporation Effects 0.000 description 1
- 238000001704 evaporation Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 210000004209 hair Anatomy 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 239000010410 layer Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 229910052719 titanium Inorganic materials 0.000 description 1
- 239000010936 titanium Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/4508—Management of client data or end-user data
- H04N21/4532—Management of client data or end-user data involving end-user characteristics, e.g. viewer profile, preferences
-
- G06K9/00268—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
-
- H04N5/225—
-
- G06K2009/00322—
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Mirrors, Picture Frames, Photograph Stands, And Related Fastening Devices (AREA)
- Image Analysis (AREA)
Abstract
Description
본 발명은 스마트 미러에 관한 것이다.
The present invention relates to a smart mirror.
스마트 미러가 잘 알려져 있다. 반투명 기능과 반사 기능을 갖는 하프 미러(half mirror)를 전면에 두고 그 후방에 디스플레이 패널을 배치한 것으로, 디스플레이 패널에서 영상이 출력될 시에는 하프 미러를 투과하여 영상이 외부에 표시되며 영상 출력이 없을 시에는 미러 기능을 제공한다.
Smart mirrors are well known. A half mirror having a translucent function and a reflective function is disposed on the front side and a display panel is disposed on the rear side. When a video image is outputted from the display panel, the half mirror is transmitted to display the video image on the outside, If it does not exist, it provides mirror function.
미러 기능과 영상 디스플레이 기능을 제공하되, 영상 디스플레이 기능을 제공할 시에는 사용자에 따라 맞춤형 영상 콘텐츠를 제공할 수 있는 스마트 디스플레이 장치가 개시된다.
A smart display device capable of providing a mirror function and a video display function, and capable of providing a customized video content according to a user when providing a video display function is disclosed.
일 양상에 따른 전면에 배치된 미러, 및 재생 영상을 미러의 적어도 일부 영역으로 투과시켜 외부로 표출하는 디스플레이 모듈을 포함하여 미러 기능과 영상 디스플레이 기능을 제공하는 스마트 미러 장치는 전면에 배치되어 사용자를 촬영하는 카메라, 복수의 영상 콘텐츠가 저장된 저장부, 및 카메라의 촬영 영상을 분석하여 얻어진 사용자의 나이와 성별에 대응하는 영상 콘텐츠를 저장부에서 읽어들여 재생하는 제어부를 더 포함한다.And a display module for transmitting the reproduced image to at least a partial area of the mirror and exposing the reproduced image to the outside, the smart mirror device providing the mirror function and the image display function is disposed on the front side, And a control unit for reading the image content corresponding to the age and gender of the user obtained by analyzing the photographed image of the camera in the storage unit and reproducing the image content.
일 양상에 따르면, 스마트 미러 장치는 사용자의 접근을 감지하는 근접 센서를 더 포함하며, 제어부는 사용자의 접근 감지시 카메라의 촬영을 개시 제어할 수 있다.According to an aspect, the smart mirror device further includes a proximity sensor that detects a user's access, and the control unit can start and control the photographing of the camera when the user's approach is detected.
일 양상에 따르면, 제어부는 사용자의 나이와 성별 정보를 관리 서버로 전달하고, 관리 서버로부터 특정 영상을 재생하라는 명령 데이터를 수신하며, 수신된 명령 데이터에 대응하는 영상 콘텐츠를 저장부에서 읽어들여 재생할 수 있다.According to an aspect of the present invention, the control unit transmits the age and gender information of the user to the management server, receives the command data to reproduce a specific image from the management server, reads the image content corresponding to the received command data from the storage unit, .
일 양상에 따르면, 제어부는 카메라의 촬영 영상 신호로부터 프레임을 획득하는 프레임 획득부, 획득된 프레임에서 얼굴 영역을 검출하는 얼굴 검출부, 및 검출된 얼굴 영역의 특징점 패턴과 성별과 나이별 기준 얼굴 영상 패턴들을 비교하여 사용자의 나이와 성별을 추정하는 나이/성별 추정부를 포함할 수 있다.According to one aspect, the control unit includes a frame acquisition unit that acquires a frame from a camera image signal, a face detection unit that detects a face region in the acquired frame, and a feature point pattern of the detected face region, And an age / gender estimation unit for estimating a user's age and gender.
일 양상에 따르면, 얼굴 검출부는 획득된 프레임들 중에서 대표 프레임을 추출하며, 추출된 대표 프레임에서 얼굴 영상을 검출할 수 있다.According to an aspect of the present invention, the face detection unit extracts a representative frame among the acquired frames, and detects a face image in the extracted representative frame.
일 양상에 따르면, 미러는 미러 기능만을 제공하는 제 1 미러 영역, 및 미러 기능 또는 영상 디스플레이 기능을 제공하는 제 2 미러 영역을 포함할 수 있다.
According to an aspect, the mirror may include a first mirror region providing only a mirror function, and a second mirror region providing a mirror function or an image display function.
한편, 일 양상에 따른 전면에 배치된 미러, 및 재생 영상을 미러의 적어도 일부 영역으로 투과시켜 외부로 표출하는 디스플레이 모듈을 포함하여 미러 기능과 영상 디스플레이 기능을 제공하는 스마트 미러 장치의 사용자 맞춤형 영상 제공 방법은 사용자를 촬영한 영상 프레임을 획득하는 단계, 영상 프레임들 중에서 대표 프레임을 추출하는 단계, 추출된 대표 프레임에서 얼굴 영역을 검출하는 단계, 검출된 얼굴 영역의 특징점 패턴과 성별과 나이별 기준 얼굴 영상 패턴들을 비교하여 사용자의 나이와 성별을 추정하는 단계, 및 추정된 나이/성별에 대응하는 영상 콘텐츠를 재생하는 단계를 포함한다.
The present invention also provides a user-customized image providing device of a smart mirror device including a mirror disposed on the front surface according to an aspect and a display module transmitting the reproduced image to at least a part of the mirror and exposing the reproduced image to the outside, The method includes the steps of acquiring an image frame photographed by a user, extracting a representative frame from the image frames, detecting a face region in the extracted representative frame, extracting a feature point pattern of the detected face region, Estimating the age and gender of the user by comparing image patterns, and reproducing the image content corresponding to the estimated age / gender.
본 발명에 따르면, 카메라에 촬영된 사용자 얼굴을 분석하여 나이/성별에 따라 맞춤형 광고를 제공함으로써, 광고 효과를 극대화하는 효과를 창출할 수 있다. 나아가, 유동 인구를 데이터베이스화하여 광고 계획을 효율적으로 작성하여 시간과 비용을 줄이는 서비스를 제공할 수 있다.
According to the present invention, the user's face photographed by the camera is analyzed to provide a customized advertisement according to age / gender, thereby maximizing the advertisement effect. Furthermore, it is possible to provide a service that reduces the time and cost by efficiently creating an advertisement plan by converting the floating population into a database.
도 1은 일 실시예에 따른 스마트 미러 시스템의 블록도이다.
도 2는 일 실시예에 따른 스마트 미러 장치의 전면을 개략적으로 나타낸 도면이다.
도 3은 일 실시예에 따른 스마트 미러 장치의 블록도이다.
도 4는 일 실시예에 따른 나이/성별에 대응되는 영상 콘텐츠 정보 관리 테이블이다.
도 5는 일 실시예에 따른 제어부의 블록도이다.
도 6은 일 실시예에 따른 사용자 맞춤형 영상 제공 방법의 흐름도이다.1 is a block diagram of a smart mirror system in accordance with one embodiment.
2 is a schematic view of a front surface of a smart mirror device according to an exemplary embodiment of the present invention.
3 is a block diagram of a smart mirror device according to one embodiment.
4 is an image content information management table corresponding to age / gender according to an embodiment.
5 is a block diagram of a controller according to an embodiment.
6 is a flowchart of a method of providing a user-customized image according to an exemplary embodiment.
전술한, 그리고 추가적인 본 발명의 양상들은 첨부된 도면을 참조하여 설명되는 바람직한 실시예들을 통하여 더욱 명백해질 것이다. 이하에서는 본 발명을 이러한 실시예를 통해 당업자가 용이하게 이해하고 재현할 수 있도록 상세히 설명하기로 한다.
BRIEF DESCRIPTION OF THE DRAWINGS The foregoing and further aspects of the present invention will become more apparent from the following detailed description of preferred embodiments with reference to the accompanying drawings. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.
도 1은 일 실시예에 따른 스마트 미러 시스템의 블록도이다. 도 1에 도시된 바와 같이, 스마트 미러 시스템은 스마트 미러 장치(이하, ‘스마트 미러’라 한다)(100)와 관리 서버(200)를 포함한다. 스마트 미러(100)와 관리 서버(200)는 통신 네트워크를 통해 연결되며, 스마트 미러(100)는 복수일 수 있다. 스마트 미러(100)는 회원의 업무 공간, 예를 들어 판매나 서비스업 등에 종사하는 자영업자의 업무 공간인 매장이나 미용실 등에 설치될 수 있다. 스마트 미러(100)는 거울 기능과 영상 디스플레이 기능을 제공하는데, 거울 기능과 영상 디스플레이 기능을 선택적으로 제공할 수도 있으며, 동시에 제공할 수도 있다. 나아가, 스마트 미러(100)는 영상 디스플레이 기능을 제공할 시에 사용자의 얼굴을 인식하고 그로부터 나이와 성별을 추정하여 맞춤형 영상 콘텐츠를 디스플레이할 수 있다. 여기서, 영상 콘텐츠는 광고 콘텐츠일 수 있다.1 is a block diagram of a smart mirror system in accordance with one embodiment. As shown in FIG. 1, the smart mirror system includes a smart mirror device (hereinafter, referred to as 'smart mirror') 100 and a
관리 서버(200)는 복수의 스마트 미러(100)에 고유하게 부여된 장비 식별자로 스마트 미러(100)들을 식별할 수 있다. 그리고 관리 서버(200)는 나이/성별에 대응하는 영상 콘텐츠들을 보유하고 있다. 이때, 나이/성별에 대응하는 영상 콘텐츠들은 장비별로 상이할 수 있으며, 매장 관리자에 의해 영상 콘텐츠들이 관리 서버(200)에 업로드 될 수 있다. 그리고 스마트 미러(100)는 재생할 영상 콘텐츠를 관리 서버(200)로부터 실시간 다운로드 받을 수도 있지만, 나이/성별에 대응하는 영상 콘텐츠들을 미리 다운로드 받아 보유하고 있을 수도 있다. 이때, 다운로드는 주기적으로 이루어질 수 있으며, 사용자의 요청이 있을 시에 이루어질 수도 있다.The
관리 서버(200)는 스마트 미러(100)로부터 나이/성별 추정 결과를 수신하고, 그 결과에 적합한 영상 콘텐츠를 파악하며, 파악된 영상 콘텐츠를 재생하라는 커맨드(command)를 스마트 미러(100)로 보낼 수 있다. 추가로, 스마트 미러(100)는 유동 인구를 검출하여 그 검출 결과를 관리 서버(200)에 보고할 수 있다. 그리고 관리 서버(200)는 유동 인구 검출 결과를 데이터베이스화함으로써, 광고 계획/시나리오를 구상토록 할 수 있다.
The
도 2는 일 실시예에 따른 스마트 미러 장치의 전면을 개략적으로 나타낸 도면이다. 스마트 미러(100)는 본체(110)의 전면에 배치된 미러(140)와 미러(140)의 상측 중앙에 배치된 카메라(160) 및 미러(140)의 하측 중앙에 배치된 근접 센서(170)를 포함할 수 있다. 또한, 도시되어 있지는 않으나, 사용자 인터페이스를 위한 터치 패널이 마련될 수 있다. 이 터치 패널은 미러(140)에 대응되게 구성될 수 있으며, 이에 따라 사용자는 미러(140)를 터치하여 원하는 입력을 할 수 있다.
2 is a schematic view of a front surface of a smart mirror device according to an exemplary embodiment of the present invention. The
도 3은 일 실시예에 따른 스마트 미러 장치의 블록도이다. 도 3에 도시된 바와 같이, 스마트 미러(100)는 통신부(120)와 저장부(130)와 미러(140)와 디스플레이 모듈(150)과 카메라(160) 및 제어부(180)를 포함할 수 있으며, 근접 센서(170)를 더 포함할 수도 있다. 통신부(120)는 관리 서버(200)와의 통신하기 위한 통신 모듈로서, WiFi, 3G, LTE, LAN 등의 통신망을 이용하는 통신 모듈일 수 있다. 저장부(130)는 스마트 미러(100)의 전반적인 동작을 위한 운용 프로그램 및 제어 데이터와, 맞춤형 영상을 제공하기 위한 프로세스를 수행하기 위한 응용 프로그램과 데이터 및 영상 콘텐츠들을 저장하는 데이터베이스일 수 있다. 저장부(130)는 장치 운용을 위한 운용 프로그램 및 제어 데이터 등을 저장하는 시스템 메모리와, 영상 콘텐츠들을 저장하는 Micor SD Card와 같은 외부 메모리 등을 포함할 수 있다.3 is a block diagram of a smart mirror device according to one embodiment. 3, the
미러(140)는 전면에 배치되어 외부로부터의 빛을 반사하여 물체의 모습을 비추는 거울 기능을 제공할 수 있다. 또한, 미러(140)는 디스플레이 모듈(150)로부터의 영상 신호를 투과하여 외부로 표출되도록 하는 영상 디스플레이 기능을 제공할 수도 있다. 일 실시예에 있어서, 미러(140)는 하프 미러(half mirror)일 수 있다. 하프 미러(140)는 디스플레이 모듈(150)의 광원이 오프 되면 거울과 같은 반사작용을 하게 되고, 광원이 온 되면 디스플레이 모듈(150)의 영상을 투과시켜 외부에 디스플레이되도록 한다. 다른 실시예에 있어서, 미러(140)는 광 투과가 가능한 투명 글래스 기판층과, 투면 글래스 기판의 이면부에 코팅되어 디스플레이 모듈(150)로부터의 영상 광을 투과시켜 외부로 표출시키며 영상 광 출력의 중지시에는 물체를 비출 수 있는 거울 기능을 하는 티타늄증착코팅층으로 구성될 수 있다.The
디스플레이 모듈(150)은 DID(Digital Information Display)용 디스플레이 모듈로서, 미러(140)에 대응하여 디스플레이 패널과 광을 조사하는 백라이트 유닛 및 이들을 구동하기 위한 드라이버를 포함하여 구성될 수 있다. 여기서, 디스플레이 패널은 LCD 패널일 수 있다. 디스플레이 모듈(150)은 미러(140)와 같은 사이즈일 수 있으나, 미러(140)의 일부 영역만을 통해 광이 투과되도록 미러(140)보다 작은 사이즈를 가질 수 있다. 후자의 경우, 미러(140)는 미러 기능만을 제공하는 제 1 미러 영역과 미러 기능 또는 영상 디스플레이 기능을 제공하는 제 2 미러 영역으로 나뉠 수 있다. 이 경우, 미러(140)는 두 개의 미러가 이러진 것일 수 있다. 즉, 제 1 미러는 제 1 미러 영역이며, 제 2 미러는 제 2 미러 영역일 수 있다. 제 1 미러 영역은 항상 미러 기능을 제공하며, 제 2 미러 영역은 디스플레이 모듈(150)의 광 조사 여부에 따라 미러 기능을 제공하거나 디스플레이 기능을 제공할 수 있다.The
카메라(160)는 전면에 배치되어 사용자를 촬영한다. 일 실시예에 있어서, 카메라(160)는 미러(140)의 상측 중앙에 배치될 수 있다. 그리고 사용자의 근접 여부를 검출하기 위해, 스마트 미러(100)에는 근접 센서(170)가 더 포함될 수 있다. 근접 센서(170)는 사용자가 미러(140)에 근접하였는지를 검출하고, 검출되면 카메라(160)는 제어부(180)에 의해 촬영을 개시할 수 있다. 제어부(180)는 스마트 미러(100)의 동작 전반을 제어하는 하나 이상의 프로세서로 구성될 수 있다. 제어부(180)는 주기적으로 혹은 사용자의 명령이 있을 시에 영상 콘텐츠들을 관리 서버(200)로부터 미리 다운로드 받을 수 있다. 일 양상에 따른 제어부(180)는 카메라(160)의 촬영 영상에 근거하여 사용자의 나이와 성별을 추정한다. 그리고 추정된 나이와 성별에 대응하는 영상 콘텐츠를 저장부(130)에서 읽어들여 재생 처리한다. 이를 위해, 저장부(130)에 저장된 영상 콘텐츠들은 나이/성별에 따라 나뉘어 관리될 수 있다. 그리고 재생 영상은 디스플레이 모듈(150)에서 디스플레이되어 미러(140)를 투과하여 외부로 표출된다.The
일 양상에 따르면, 제어부(180)는 추정된 나이와 성별에 대응하는 영상 콘텐츠가 어떤 것인지 직접 저장부(130)를 조회하여 확인하는 것이 아니라, 관리 서버(200)로부터 지시를 받을 수도 있다. 이를 위해, 제어부(180)는 추정된 나이/성별 정보를 관리 서버(200)로 전송한다. 이에 관리 서버(200)는 나이/성별 정보를 수신하고, 수신된 나이/성별 정보에 대응되는 영상 콘텐츠에 연관된 명령 데이터(command)를 확인한다. 도 4에 관리 서버(200)에서 관리되는 나이/성별에 따른 영상 콘텐츠에 대응되는 명령 데이터에 대한 테이블이 예시되어 있다. 관리 서버(200)는 도 4에 예시된 바와 같은 테이블을 조회하여 스마트 미러(100)로부터 수신된 나이/성별에 대응되는 명령 데이터를 확인할 수 있다. 관리 서버(200)는 확인한 명령 데이터를 스마트 미러(100)로 전송한다. 이에 스마트 미러(100)는 명령 데이터를 수신하고, 수신된 명령 데이터에 대응되는 영상 콘텐츠를 저장부(130)에서 읽어들여 재생 처리한다. 한편, 도 2에는 하나의 테이블만이 예시되었으나, 이 같은 테이블은 스마트 미러(100)별로 따로 생성되어 관리될 수 있다. 즉, 스마트 미러(100)별로 나이/성별에 따라 디스플레이해야 할 영상 콘텐츠가 상이할 수 있는 것이다. 관리 서버(200)는 나이/성별 정보와 함께 수신되는 스마트 미러(100)의 식별자를 통해 조회해야 할 테이블을 구분할 수 있다.
According to an aspect, the
도 5는 일 실시예에 따른 제어부의 블록도이다. 도 5에 도시된 바와 같이, 제어부(180)는 프레임 획득부(181), 얼굴 검출부(182), 나이/성별 추정부(183), 재생 영상 선택부(184), 및 영상 재생부(185)를 포함할 수 있다. 프레임 획득부(181)는 카메라(160)로부터 입력되는 아날로그 영상 신호를 샘플당 정의된 비트로 디지털화하는 방식으로 프레임을 획득하는 프레임 그래버(frame grabber)이다. 얼굴 검출부(182)는 프레임 획득부(181)에 의해 획득된 영상 프레임을 분석하여 얼굴을 검출한다. 일 실시예에 있어서, 얼굴 검출부(182)는 프레임 획득부(181)에 의해 획득된 영상 프레임들 중에서 어느 한 프레임을 대표 프레임으로 추출하고, 추출된 대표 프레임 분석하여 얼굴을 검출할 수 있다. 여기서 대표 프레임은 최초 프레임 이후의 프레임들 중 어느 하나일 수 있으며, 예를 들어 여섯 번째 프레임이 대표 프레임이 될 수 있다.5 is a block diagram of a controller according to an embodiment. 5, the
얼굴 검출(Face Detection) 알고리즘으로는 지식 기반 방법(knowledge based method), 특징 불변 방법(feature invariant method), 템플릿 매칭 방법(template matching method), 및 훈련 기반 방법(training based method) 등이 알려져 있다. 지식 기반 방법은 얼굴을 구성하는 눈, 코, 및 입 등의 위치와 거리에 대한 규칙을 이용한다. 즉, 일반적으로 눈은 얼굴의 상단에 좌우 대칭으로 존재하고 코와 입은 눈 아래 일정한 간격으로 세로와 가로로 각각 존재한다는 규칙에 근거하여 이를 만족하는 영역을 얼굴로 판정한다. 특징 불변 방법은 얼굴 영역의 회전 및 조명 변화에도 변하지 않는 특징들을 추출한 후 이들을 이용하여 얼굴 영역을 검출한다. 즉, 눈썹, 눈, 코, 및, 입에 대한 특징값들을 미리 추출한 후 이들을 입력 영상에서 비교하여 얼굴을 검출한다.As a face detection algorithm, a knowledge based method, a feature invariant method, a template matching method, and a training based method are known. The knowledge-based method uses rules for position and distance of the eyes, nose, and mouth that make up the face. In other words, the eye is generally symmetrical to the top of the face, and the nose and mouth are determined as the face satisfying the rule based on the rule that the nose and the mouth exist at the vertical interval and the horizontal interval, respectively. The feature invariant method extracts features that do not change even in the rotation and illumination changes of the face region, and then detects the face region using these features. That is, feature values of the eyebrows, eye, nose, and mouth are extracted in advance, and then the face is detected by comparing them with the input image.
템플릿 매핑 방법은 얼굴의 구성 패턴을 템플릿으로 미리 구성하고, 이를 입력 영상과 매칭하여 구한 상관 계수(correlation coefficient)를 특정 문턱 값과 비교함으로써 얼굴 영역을 검출한다. 훈련 기반 방법은 템플릿 매칭 기범의 단점을 보완하기 위한 것으로, 사전에 제작된 특정 템플릿이 아니라, 다양한 얼굴들로 훈련 영상을 구성하고 이에 대하여 피처들을 훈련시킨 후 이를 매칭 과정에 사용한다. 영상 처리 및 패턴 인식분야에서 많이 사용되는 공개 라이브러리인 OpenCV에서도 훈련 기반 방법이 지원되는데, 여기서는 서로 직교(orthogonal) 특성을 갖는 Haar 특징으로 윈도우를 구성한 후 이를 다양한 훈련 영상들에 대하여 학습시켜 얼굴 검출 성능이 우수한 Haar 특징들만 추출하여 이들을 Haar 매칭 과정에 활용한다.In the template mapping method, a face region is detected by comparing a correlation coefficient obtained by matching a configuration pattern of a face with a template and matching the input image with a specific threshold value. The training-based method is to complement the disadvantages of the template matching tool. The training-based method constructs the training image with various faces, not the specific template prepared in advance, trains the features, and uses the training images in the matching process. In OpenCV, which is widely used in image processing and pattern recognition, a training-based method is also supported. Here, we construct windows with orthogonal Haar features, Only these excellent Haar features are extracted and utilized in Haar matching process.
나이/성별 추정부(183)는 얼굴 검출부(182)에 의해 검출된 얼굴 영역의 특징점 패턴과 기준 데이터 저장부(131)에 저장된 성별/나이별 기준 얼굴 영상 패턴들을 비교하여 사용자의 나이와 성별을 추정한다. 기준 데이터 저장부(131)에는 성별/나이별 기준 얼굴 영상 패턴 값들이 저장되는데, 성별/나이별 기준 얼굴 영상 패턴 값은 하나가 아니라 복수일 수 있다. 예를 들어, 남/20(혹은 20대)에 대한 기준 얼굴 영상 패턴 값은 복수일 수 있다. 복수로 두면, 성별과 나이 추정에 대한 신뢰도를 더욱 높일 수 있다.The age /
재생 영상 선택부(184)는 나이/성별 추정부(183)에 의해 추정된 나이/성별에 대응되는 영상 콘텐츠를 영상 콘텐츠 저장부(132)에서 읽어들인다. 일 실시예에 있어서, 재생 영상 선택부(184)는 추정된 나이/성별 정보를 가지고 직접 영상 콘텐츠 저장부(132)에서 해당 영상 콘텐츠를 검색하여 읽어들일 수 있다. 다른 실시예에 있어서, 재생 영상 선택부(184)는 나이/성별 정보를 관리 서버(200)로 전달하고, 그에 따라 관리 서버(200)로부터 수신된 명령 데이터에 대응되는 영상 콘텐츠를 영상 콘텐츠 저장부(132)에서 읽어들일 수 있다. 영상 재생부(185)는 재생 영상 선택부(184)에 의해 선택된, 즉 읽어들인 영상 콘텐츠를 재생한다.The reproduced
한편, 제어부(180)는 유동인구 정보를 관리 서버(200)로 더 전달할 수 있다. 이때, 유동인구 정보는 성별이 구분된 정보일 수도 있으며, 합해진 정보일 수도 있다. 유동인구 정보는 근접 센서(170)에 의해 사용자의 근접이 감지된 횟수와 일치할 수 있으며, 얼굴 검출 및 나이/성별이 추정된 횟수와 일치할 수도 있다. 제어부(180)는 유동인구 정보를 관리 서버(200)로 전달하는데, 주기적으로 전달할 수 있다. 예를 들어, 24시간 단위로 전달한다. 아니면, 재생 영상 선택부(184)가 나이/성별 정보와 함께 실시간으로 전달할 수도 있다. 관리 서버(200)는 전달된 유동인구 정보를 데이터베이스화하며, 이에 관리 서버(200)에 접속한 회원은 남/여 유동인구를 기반으로 광고 계획/시나리오를 구상할 수 있다.
Meanwhile, the
도 6은 일 실시예에 따른 사용자 맞춤형 영상 제공 방법의 흐름도이다. 스마트 미러(100)는 사용자 접근이 감지될 시에 사용자 촬영을 개시하여 영상 프레임을 획득한다(S100). 스마트 미러(100)는 S100 단계를 통해 획득된 영상 프레임들 중에서 대표 프레임을 추출한다(S200). 스마트 미러(100)는 얼굴 검출 알고리즘을 이용하여 대표 프레임에서 얼굴 영역을 검출한다(S300). 얼굴 영역이 검출되면, 검출된 얼굴 영역의 특징점 패턴과 기저장된 성별/나이별 기준 얼굴 영상 패턴들을 비교하여 사용자의 나이와 성별을 추정한다(S400). 추정이 완료되면, 추정된 나이/성별 정보를 관리 서버(200)로 전달하며(S500), 그에 따라 관리 서버(200)로부터 명령 데이터를 수신한다(S600). 스마트 미러(100)는 수신된 명령 데이터가 지시하는 영상 콘텐츠를 재생한다(S700).
6 is a flowchart of a method of providing a user-customized image according to an exemplary embodiment. When the user access is detected, the
이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.
The present invention has been described with reference to the preferred embodiments. It will be understood by those skilled in the art that various changes in form and details may be made therein without departing from the spirit and scope of the invention as defined by the appended claims. Therefore, the disclosed embodiments should be considered in an illustrative rather than a restrictive sense. The scope of the present invention is defined by the appended claims rather than by the foregoing description, and all differences within the scope of equivalents thereof should be construed as being included in the present invention.
100 : 스마트 미러
110 : 본체
120 : 통신부
130 : 저장부
131 : 기준 데이터 저장부
132 : 영상 콘텐츠 저장부
140 : 미러
150 : 디스플레이 모듈
160 : 카메라
170 : 근접 센서
180 : 제어부
181 : 프레임 획득부
182 : 얼굴 검출부
183 : 나이/성별 추정부
184 : 재생 영상 선택부
185 : 영상 재생부100: smart mirror 110: main body
120: communication unit 130:
131: Reference data storage unit 132: Image data storage unit
140: mirror 150: display module
160: camera 170: proximity sensor
180: control unit 181:
182: face detecting unit 183: age /
184: Playback image selection unit 185:
Claims (7)
전면에 배치되어 사용자를 촬영하는 카메라;
복수의 영상 콘텐츠가 저장된 저장부; 및
카메라의 촬영 영상을 분석하여 얻어진 사용자의 나이와 성별에 대응하는 영상 콘텐츠를 저장부에서 읽어들여 재생하는 제어부;
를 더 포함하는 스마트 미러 장치.
A mirror disposed on the front side; And a display module that transmits the reproduced image to at least a part of the mirror and exposes the reproduced image to the outside, wherein the smart mirror device provides a mirror function and an image display function,
A camera disposed on the front surface to photograph a user;
A storage unit for storing a plurality of image contents; And
A control unit for reading the image content corresponding to the age and gender of the user obtained by analyzing the photographed image of the camera in the storage unit and reproducing the image content;
The smart mirror device further comprising:
사용자의 접근을 감지하는 근접 센서;를 더 포함하며,
제어부는 사용자의 접근 감지시 카메라의 촬영을 개시 제어하는 스마트 미러 장치.
The method according to claim 1,
And a proximity sensor for sensing a user's approach,
The control unit starts and controls the photographing of the camera when detecting the approach of the user.
제어부는 사용자의 나이와 성별 정보를 관리 서버로 전달하고, 관리 서버로부터 특정 영상을 재생하라는 명령 데이터를 수신하며, 수신된 명령 데이터에 대응하는 영상 콘텐츠를 저장부에서 읽어들여 재생하는 스마트 미러 장치.
The method according to claim 1,
The control unit transfers the age and gender information of the user to the management server, receives the command data to reproduce a specific image from the management server, and reads the image content corresponding to the received command data from the storage unit to reproduce the image content.
카메라의 촬영 영상 신호로부터 프레임을 획득하는 프레임 획득부;
획득된 프레임에서 얼굴 영역을 검출하는 얼굴 검출부; 및
검출된 얼굴 영역의 특징점 패턴과 성별과 나이별 기준 얼굴 영상 패턴들을 비교하여 사용자의 나이와 성별을 추정하는 나이/성별 추정부;
를 포함하는 스마트 미러 장치.
The apparatus of claim 1, wherein the control unit comprises:
A frame acquiring unit for acquiring a frame from the photographed image signal of the camera;
A face detecting unit for detecting a face area in the obtained frame; And
An age / gender estimation unit for estimating the age and sex of the user by comparing the feature point pattern of the detected face region and the reference face image patterns by sex and age;
And the smart mirror device.
얼굴 검출부는 획득된 프레임들 중에서 대표 프레임을 추출하며, 추출된 대표 프레임에서 얼굴 영상을 검출하는 스마트 미러 장치.
5. The method of claim 4,
The face detection unit extracts a representative frame among the acquired frames, and detects the face image in the extracted representative frame.
미러 기능만을 제공하는 제 1 미러 영역; 및
미러 기능 또는 영상 디스플레이 기능을 제공하는 제 2 미러 영역;
을 포함하는 스마트 미러 장치.
2. The system of claim 1, wherein the mirror comprises:
A first mirror area providing only a mirror function; And
A second mirror area providing a mirror function or a video display function;
The smart mirror device comprising:
사용자를 촬영한 영상 프레임을 획득하는 단계;
영상 프레임들 중에서 대표 프레임을 추출하는 단계;
추출된 대표 프레임에서 얼굴 영역을 검출하는 단계;
검출된 얼굴 영역의 특징점 패턴과 성별과 나이별 기준 얼굴 영상 패턴들을 비교하여 사용자의 나이와 성별을 추정하는 단계; 및
추정된 나이/성별에 대응하는 영상 콘텐츠를 재생하는 단계;
를 포함하는 사용자 맞춤형 영상 제공 방법.A mirror disposed on the front side; And a display module for transmitting the reproduced image to at least a part of the mirror and exposing the reproduced image to the outside, the method comprising: providing a mirror function and a video display function,
Obtaining an image frame photographed by a user;
Extracting a representative frame from the image frames;
Detecting a face region in the extracted representative frame;
Estimating the age and gender of the user by comparing the feature point pattern of the detected face region with the reference face image pattern by sex and age; And
Reproducing video content corresponding to the estimated age / gender;
And providing a user-customized image.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020150053942A KR20160123644A (en) | 2015-04-16 | 2015-04-16 | Smart mirror and method for providing personalized image |
PCT/KR2016/003481 WO2016167504A1 (en) | 2015-04-16 | 2016-04-05 | Smart mirror device and user-customized image providing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020150053942A KR20160123644A (en) | 2015-04-16 | 2015-04-16 | Smart mirror and method for providing personalized image |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20160123644A true KR20160123644A (en) | 2016-10-26 |
Family
ID=57126250
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020150053942A KR20160123644A (en) | 2015-04-16 | 2015-04-16 | Smart mirror and method for providing personalized image |
Country Status (2)
Country | Link |
---|---|
KR (1) | KR20160123644A (en) |
WO (1) | WO2016167504A1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20180108048A (en) | 2017-03-23 | 2018-10-04 | 박귀현 | Apparatus and method that automatically interacts with the subject of smart mirror, and smart mirror using the same |
KR102091788B1 (en) * | 2019-01-22 | 2020-03-20 | 주식회사 아테크넷 | Image display apparatus |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11314214B2 (en) | 2017-09-15 | 2022-04-26 | Kohler Co. | Geographic analysis of water conditions |
US11099540B2 (en) | 2017-09-15 | 2021-08-24 | Kohler Co. | User identity in household appliances |
US10887125B2 (en) | 2017-09-15 | 2021-01-05 | Kohler Co. | Bathroom speaker |
US11093554B2 (en) | 2017-09-15 | 2021-08-17 | Kohler Co. | Feedback for water consuming appliance |
US10448762B2 (en) | 2017-09-15 | 2019-10-22 | Kohler Co. | Mirror |
CN110859047A (en) * | 2018-06-21 | 2020-03-03 | 深圳市蚂蚁雄兵物联技术有限公司 | Clothing management method and device and intelligent dressing mirror |
CN111726580B (en) * | 2020-06-17 | 2022-04-15 | 京东方科技集团股份有限公司 | Intelligent nursing mirror, intelligent nursing equipment, image display method and system |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130003384A (en) | 2011-06-30 | 2013-01-09 | 주식회사 디엘에스 | Digital multimedia data display system for convergence type display and mirror |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20050105055A (en) * | 2004-04-30 | 2005-11-03 | 김종승 | Apparatus and method for advertising the article using mirror and display |
KR20120042314A (en) * | 2010-10-25 | 2012-05-03 | 주식회사 케이티 | System and method for providing recommendation-content based on face-image information |
KR101271483B1 (en) * | 2011-06-17 | 2013-06-05 | 한국항공대학교산학협력단 | Smart digital signage using customer recognition technologies |
KR20140127421A (en) * | 2013-04-24 | 2014-11-04 | 핑거터치인터내셔널 주식회사 | Mirror display apparatus interworking with a mobile device |
-
2015
- 2015-04-16 KR KR1020150053942A patent/KR20160123644A/en active Search and Examination
-
2016
- 2016-04-05 WO PCT/KR2016/003481 patent/WO2016167504A1/en active Application Filing
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130003384A (en) | 2011-06-30 | 2013-01-09 | 주식회사 디엘에스 | Digital multimedia data display system for convergence type display and mirror |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20180108048A (en) | 2017-03-23 | 2018-10-04 | 박귀현 | Apparatus and method that automatically interacts with the subject of smart mirror, and smart mirror using the same |
KR102091788B1 (en) * | 2019-01-22 | 2020-03-20 | 주식회사 아테크넷 | Image display apparatus |
Also Published As
Publication number | Publication date |
---|---|
WO2016167504A1 (en) | 2016-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR20160123644A (en) | Smart mirror and method for providing personalized image | |
JP5024067B2 (en) | Face authentication system, method and program | |
KR20200014889A (en) | System and method for image non-identification | |
JP2019523929A5 (en) | ||
KR102092931B1 (en) | Method for eye-tracking and user terminal for executing the same | |
CN110235169B (en) | Cosmetic evaluation system and operation method thereof | |
CN109101873A (en) | For providing the electronic equipment for being directed to the characteristic information of external light source of object of interest | |
US8514240B2 (en) | Authentication system, authentication program, and method of authentication | |
US20180096119A1 (en) | Biometric information acquisition method and device for same | |
KR20180109109A (en) | Method of recognition based on IRIS recognition and Electronic device supporting the same | |
KR102469720B1 (en) | Electronic device and method for determining hyperemia grade of eye using the same | |
US20130088685A1 (en) | Iris Cameras | |
KR20120127790A (en) | Eye tracking system and method the same | |
JP7151959B2 (en) | Image alignment method and apparatus | |
US20160277707A1 (en) | Message transmission system, message transmission method, and program for wearable terminal | |
KR20220136960A (en) | Online Test System using face contour recognition AI to prevent the cheating behaviour and method thereof | |
KR102183692B1 (en) | An augmented reality service apparatus for a mirror display by recognizing the reflected images on the mirror and method thereof | |
KR20190119212A (en) | System for performing virtual fitting using artificial neural network, method thereof and computer recordable medium storing program to perform the method | |
CN101587547A (en) | Vein authentication apparatus and vein authentication method | |
KR20220000851A (en) | Dermatologic treatment recommendation system using deep learning model and method thereof | |
JP4606304B2 (en) | Near-infrared face image creation device, near-infrared face image creation method, and face image collation device | |
KR20220113604A (en) | Portable device for measuring complex authentication information for identification of companion animals | |
KR102632212B1 (en) | Electronic device for managnign vehicle information using face recognition and method for operating the same | |
US9911237B1 (en) | Image processing techniques for self-captured images | |
US10990844B2 (en) | Method for retrieving lost object and lost object retrieval device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
AMND | Amendment | ||
E90F | Notification of reason for final refusal | ||
AMND | Amendment | ||
E601 | Decision to refuse application | ||
AMND | Amendment |