KR102188929B1 - Display device, method and server for providing augmented reality, virtual reality or mixed reality contents - Google Patents

Display device, method and server for providing augmented reality, virtual reality or mixed reality contents Download PDF

Info

Publication number
KR102188929B1
KR102188929B1 KR1020180109935A KR20180109935A KR102188929B1 KR 102188929 B1 KR102188929 B1 KR 102188929B1 KR 1020180109935 A KR1020180109935 A KR 1020180109935A KR 20180109935 A KR20180109935 A KR 20180109935A KR 102188929 B1 KR102188929 B1 KR 102188929B1
Authority
KR
South Korea
Prior art keywords
display device
product
user
content
information
Prior art date
Application number
KR1020180109935A
Other languages
Korean (ko)
Other versions
KR20200031216A (en
Inventor
진병각
Original Assignee
나모웹비즈주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 나모웹비즈주식회사 filed Critical 나모웹비즈주식회사
Priority to KR1020180109935A priority Critical patent/KR102188929B1/en
Priority to CN201980060021.3A priority patent/CN112703524A/en
Priority to PCT/KR2019/008489 priority patent/WO2020054957A1/en
Publication of KR20200031216A publication Critical patent/KR20200031216A/en
Application granted granted Critical
Publication of KR102188929B1 publication Critical patent/KR102188929B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0641Shopping interfaces
    • G06Q30/0643Graphical representation of items or shoppers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0633Lists, e.g. purchase orders, compilation or processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42201Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] biosensors, e.g. heat sensor for presence detection, EEG sensors or any limb activity sensors worn by the user
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47202End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting content on demand, e.g. video on demand
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video

Abstract

상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 디스플레이 장치는 상기 디스플레이 장치에 구비된 제 1 카메라를 통해 상품을 촬영하는 제 1 촬영부, 상기 디스플레이 장치에 구비된 제 2 카메라를 통해 사용자의 얼굴을 촬영하는 제 2 촬영부, 상기 디스플레이 장치의 각도를 측정하는 측정부, 상기 촬영된 상품에 대한 정보 및 상기 촬영된 사용자의 얼굴에 대한 정보를 서버로 전송하는 전송부, 상기 서버로부터 분석된 상기 상품에 대한 정보 및 상기 사용자의 얼굴에 대한 정보 중 적어도 하나와 관련된 인식 정보를 수신하는 수신부 및 상기 인식 정보와 관련된 컨텐츠를 출력하는 출력부를 포함하되, 상기 출력부는 상기 측정된 디스플레이 장치의 각도에 기초하여 상기 컨텐츠의 출력 위치를 조절한다. A display device that provides augmented reality, virtual reality or mixed reality content related to a product includes a first photographing unit for photographing a product through a first camera provided in the display device, and a user through a second camera provided in the display device. A second photographing unit for photographing a face of a person, a measurement unit for measuring the angle of the display device, a transmission unit for transmitting information on the photographed product and information on the photographed user's face to a server, and analysis from the server A receiving unit for receiving recognition information related to at least one of information on the product and information on the user's face, and an output unit for outputting content related to the recognition information, wherein the output unit is the measured angle of the display device The output position of the content is adjusted based on.

Description

증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 디스플레이 장치, 방법 및 서버{DISPLAY DEVICE, METHOD AND SERVER FOR PROVIDING AUGMENTED REALITY, VIRTUAL REALITY OR MIXED REALITY CONTENTS}A display device, method, and server that provides augmented reality, virtual reality, or mixed reality content {DISPLAY DEVICE, METHOD AND SERVER FOR PROVIDING AUGMENTED REALITY, VIRTUAL REALITY OR MIXED REALITY CONTENTS}

본 발명은 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 디스플레이 장치, 방법 및 서버에 관한 것이다. The present invention relates to a display device, a method, and a server for providing augmented reality, virtual reality or mixed reality content.

증강 현실(AR, Augmented Reality)이란 현실의 이미지나 배경에 3차원의 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 기술을 말한다. 증강 현실은 현실과 가상을 혼합된 영상으로 제공함으로써, 실제 환경 보다 나은 현실감과 부가 정보를 사용자에게 제공한다는 장점을 가지고 있다. Augmented Reality (AR) refers to a technology that displays a single image by superimposing a 3D virtual image on a real image or background. Augmented reality has the advantage of providing a user with better realism and additional information than the real environment by providing a mixed image of reality and virtual.

이러한 증강 현실 서비스와 관련하여, 선행기술인 한국공개특허 제 2017-0054146호는 증강 현실 제공 방법을 개시하고 있다. In relation to such augmented reality service, Korean Patent Publication No. 2017-0054146, which is a prior art, discloses a method of providing an augmented reality.

최근, 증강 현실을 이용한 다양한 서비스가 제공되고 있다. 그러나, 이러한 종래의 서비스들은 스마트폰 또는 HMD (Head mounted Display)를 이용할 필요가 있다.Recently, various services using augmented reality have been provided. However, these conventional services need to use a smartphone or a head mounted display (HMD).

즉, 종래의 서비스들은 스마트폰 또는 HMD가 필수적으로 요구됨에 따라 상용화된 서비스들이 많지 않다.That is, there are not many commercialized services as conventional services require a smart phone or HMD.

상품을 촬영하여 상품과 관련된 컨텐츠를 증강 현실, 가상 현실 또는 혼합 현실로 출력함으로써, 사용자가 상품에 대한 외관 및 상세 정보를 직관적으로 파악할 수 있도록 하는 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 디스플레이 장치, 방법 및 서버를 제공하고자 한다. Augmented reality, virtual reality, or mixed reality content related to the product that allows users to intuitively grasp the appearance and detailed information of the product by photographing the product and outputting the product-related content in augmented reality, virtual reality or mixed reality. It is intended to provide a display device, a method, and a server to be provided.

사용자의 얼굴을 촬영하여 사용자를 인식하고, 상품과 관련된 복수의 컨텐츠 중 인식된 사용자 정보를 이용하여 사용자에게 제공할 최적의 컨텐츠를 결정하여 제공하도록 하는 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 디스플레이 장치, 방법 및 서버를 제공하고자 한다. Augmented reality, virtual reality, or mixed reality content related to a product that recognizes the user by photographing the user's face and determines and provides the optimal content to be provided to the user using the recognized user information among a plurality of content related to the product It is an object to provide a display device, a method, and a server providing a.

사용자의 시선에 기초하여 디스플레이 장치의 각도가 조절되고, 조절된 디스플레이 장치의 각도에 따라 사용자가 컨텐츠를 시청하기 적합하도록 컨텐츠의 출력 위치를 조절하는 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 디스플레이 장치, 방법 및 서버를 제공하고자 한다. Augmented reality, virtual reality, or mixed reality content related to a product in which the angle of the display device is adjusted based on the user's gaze and the output position of the content is adjusted so that the user can view the content according to the adjusted angle of the display device. It is intended to provide a display device, a method, and a server to be provided.

다만, 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다. However, the technical problem to be achieved by the present embodiment is not limited to the technical problems as described above, and other technical problems may exist.

상술한 기술적 과제를 달성하기 위한 수단으로서, 본 발명의 일 실시예는, 디스플레이 장치에 구비된 제 1 카메라를 통해 상품을 촬영하는 제 1 촬영부, 상기 디스플레이 장치에 구비된 제 2 카메라를 통해 사용자의 얼굴을 촬영하는 제 2 촬영부, 상기 디스플레이 장치의 각도를 측정하는 측정부, 상기 촬영된 상품에 대한 정보 및 상기 촬영된 사용자의 얼굴에 대한 정보를 서버로 전송하는 전송부, 상기 서버로부터 분석된 상기 상품에 대한 정보 및 상기 사용자의 얼굴에 대한 정보 중 적어도 하나와 관련된 인식 정보를 수신하는 수신부 및 상기 인식 정보와 관련된 컨텐츠를 출력하는 출력부를 포함하되, 상기 출력부는 상기 측정된 디스플레이 장치의 각도에 기초하여 상기 컨텐츠의 출력 위치를 조절하는 것인 디스플레이 장치를 제공할 수 있다. As a means for achieving the above-described technical problem, an embodiment of the present invention provides a first photographing unit for photographing a product through a first camera provided in a display device, and a user through a second camera provided in the display device. A second photographing unit for photographing a face of a person, a measurement unit for measuring the angle of the display device, a transmission unit for transmitting information on the photographed product and information on the photographed user's face to a server, and analysis from the server A receiving unit for receiving recognition information related to at least one of information on the product and information on the user's face, and an output unit for outputting content related to the recognition information, wherein the output unit is the measured angle of the display device It is possible to provide a display device that adjusts the output position of the content based on the display.

본 발명의 다른 실시예는, 디스플레이 장치에 구비된 제 1 카메라를 통해 상품을 촬영하는 단계, 상기 디스플레이 장치에 구비된 제 2 카메라를 통해 사용자의 얼굴을 촬영하는 단계, 상기 디스플레이 장치의 각도를 측정하는 단계, 상기 촬영된 상품에 대한 정보 및 상기 촬영된 사용자의 얼굴에 대한 정보를 서버로 전송하는 단계, 상기 서버로부터 분석된 상기 상품에 대한 정보 및 상기 사용자의 얼굴에 대한 정보 중 적어도 하나와 관련된 인식 정보를 수신하는 단계 및 상기 인식 정보와 관련된 컨텐츠를 출력하는 단계를 포함하되, 상기 컨텐츠를 출력하는 단계는 상기 측정된 디스플레이 장치의 각도에 기초하여 상기 컨텐츠의 출력 위치를 조절하는 것인 컨텐츠 제공 방법을 제공할 수 있다. In another embodiment of the present invention, photographing a product through a first camera provided in a display device, photographing a user's face through a second camera provided in the display device, and measuring an angle of the display device The step of, transmitting information on the photographed product and information on the photographed user's face to a server, related to at least one of information on the product analyzed from the server and information on the user's face Receiving recognition information and outputting content related to the recognition information, wherein the outputting of the content comprises adjusting an output position of the content based on the measured angle of the display device. Can provide a way.

본 발명의 또 다른 실시예는, 본 발명의 또 다른 실시예는, 디스플레이 장치로부터 상기 디스플레이 장치에 의해 촬영된 상품에 대한 정보 및 사용자의 얼굴에 대한 정보를 수신하는 수신부, 상기 수신한 상품에 대한 정보 및 사용자의 얼굴에 대한 정보를 분석하는 분석부, 상기 분석된 상품에 대한 정보에 기초하여 상품 인식 정보를 추출하고, 상기 분석된 사용자의 얼굴에 대한 정보에 기초하여 사용자 인식 정보를 추출하는 추출부, 상기 추출된 상품 인식 정보 및 사용자 인식 정보를 포함하는 인식 정보를 상기 디스플레이 장치로 전송하는 전송부를 포함하되, 상기 인식 정보에 기초하여 상기 상품과 관련된 컨텐츠가 상기 디스플레이 장치에서 출력되고, 상기 컨텐츠는 상기 디스플레이 장치에서 측정된 상기 디스플레이 장치의 각도에 기초하여 출력 위치가 조절되는 것인 서버를 제공할 수 있다. Another embodiment of the present invention, another embodiment of the present invention, a receiving unit for receiving information about the product and the face of the user photographed by the display device from the display device, the received product An analysis unit that analyzes information and information on the user's face, extracts product recognition information based on the analyzed product information, and extracts user recognition information based on the analyzed information on the user's face Unit, and a transmission unit for transmitting recognition information including the extracted product recognition information and user recognition information to the display device, wherein content related to the product is output from the display device based on the recognition information, and the content May provide a server wherein the output position is adjusted based on the angle of the display device measured by the display device.

상술한 과제 해결 수단은 단지 예시적인 것으로서, 본 발명을 제한하려는 의도로 해석되지 않아야 한다. 상술한 예시적인 실시예 외에도, 도면 및 발명의 상세한 설명에 기재된 추가적인 실시예가 존재할 수 있다.The above-described problem solving means are merely exemplary and should not be construed as limiting the present invention. In addition to the above-described exemplary embodiments, there may be additional embodiments described in the drawings and detailed description of the invention.

전술한 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 상품을 촬영하여 상품과 관련된 컨텐츠를 증강 현실로 출력함으로써, 사용자가 상품에 대한 외관 및 상세 정보를 직관적으로 파악할 수 있도록 하는 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 디스플레이 장치, 방법 및 서버를 제공할 수 있다. According to any one of the above-described problem solving means of the present invention, by photographing a product and outputting the content related to the product as augmented reality, the augmented reality related to the product allows the user to intuitively grasp the appearance and detailed information about the product. , A display device, a method, and a server for providing virtual reality or mixed reality content may be provided.

사용자의 얼굴을 촬영하여 사용자를 인식하고, 상품과 관련된 복수의 컨텐츠 중 인식된 사용자 정보를 이용하여 사용자에게 제공할 최적의 컨텐츠를 결정하여 제공하도록 하는 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 디스플레이 장치, 방법 및 서버를 제공할 수 있다. Augmented reality, virtual reality, or mixed reality content related to a product that recognizes the user by photographing the user's face and determines and provides the optimal content to be provided to the user using the recognized user information among a plurality of content related to the product It is possible to provide a display device, a method, and a server providing a.

사용자의 시선에 기초하여 디스플레이 장치의 각도가 조절되고, 조절된 디스플레이 장치의 각도에 따라 사용자가 컨텐츠를 시청하기 적합하도록 컨텐츠의 출력 위치를 조절하는 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 디스플레이 장치, 방법 및 서버를 제공할 수 있다.Augmented reality, virtual reality, or mixed reality content related to a product in which the angle of the display device is adjusted based on the user's gaze and the output position of the content is adjusted so that the user can view the content according to the adjusted angle of the display device. A display device, a method, and a server may be provided.

상품의 상태에 따라 컨텐츠의 시나리오에 대응하는 컨텐츠를 제공하도록 하는 상품과 관련된 컨텐츠를 제공하는 디스플레이 장치 및 방법을 제공할 수 있다. It is possible to provide a display device and a method for providing content related to a product that provides content corresponding to a content scenario according to the state of the product.

도 1은 본 발명의 일 실시예에 따른 컨텐츠 제공 시스템의 구성도이다.
도 2a 및 도 2b는 본 발명의 일 실시예에 따른 디스플레이 장치를 도시한 예시적인 도면이다.
도 3은 본 발명의 일 실시예에 따른 디스플레이 장치의 구성도이다.
도 4a 내지 도 4e는 본 발명의 일 실시예에 따른 디스플레이 장치에서 상품과 관련된 컨텐츠를 제공하는 과정을 설명하기 위한 예시적인 도면이다.
도 5는 본 발명의 일 실시예에 따른 디스플레이 장치에서 상품과 관련된 컨텐츠를 제공하는 방법의 순서도이다.
도 6은 본 발명의 일 실시예에 따른 서버의 구성도이다.
도 7은 본 발명의 일 실시예에 따른 서버에서 디스플레이 장치에서 상품과 관련된 컨텐츠를 제공하는 방법의 순서도이다.
1 is a block diagram of a content providing system according to an embodiment of the present invention.
2A and 2B are exemplary views showing a display device according to an exemplary embodiment of the present invention.
3 is a configuration diagram of a display device according to an embodiment of the present invention.
4A to 4E are exemplary diagrams for explaining a process of providing content related to a product in a display device according to an embodiment of the present invention.
5 is a flowchart of a method of providing content related to a product in a display device according to an embodiment of the present invention.
6 is a configuration diagram of a server according to an embodiment of the present invention.
7 is a flowchart of a method of providing content related to a product from a display device in a server according to an embodiment of the present invention.

아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다. Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those of ordinary skill in the art can easily implement the present invention. However, the present invention may be implemented in various different forms and is not limited to the embodiments described herein. In the drawings, parts irrelevant to the description are omitted in order to clearly describe the present invention, and similar reference numerals are assigned to similar parts throughout the specification.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미하며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. Throughout the specification, when a part is said to be "connected" to another part, this includes not only "directly connected" but also "electrically connected" with another element interposed therebetween. . In addition, when a part "includes" a certain component, it means that other components may be further included, and one or more other features, not excluding other components, unless specifically stated to the contrary. It is to be understood that it does not preclude the presence or addition of any number, step, action, component, part, or combination thereof.

본 명세서에 있어서 '부(部)'란, 하드웨어에 의해 실현되는 유닛(unit), 소프트웨어에 의해 실현되는 유닛, 양방을 이용하여 실현되는 유닛을 포함한다. 또한, 1 개의 유닛이 2 개 이상의 하드웨어를 이용하여 실현되어도 되고, 2 개 이상의 유닛이 1 개의 하드웨어에 의해 실현되어도 된다.In the present specification, the term "unit" includes a unit realized by hardware, a unit realized by software, and a unit realized using both. Further, one unit may be realized using two or more hardware, or two or more units may be realized using one hardware.

본 명세서에 있어서 단말 또는 디바이스가 수행하는 것으로 기술된 동작이나 기능 중 일부는 해당 단말 또는 디바이스와 연결된 서버에서 대신 수행될 수도 있다. 이와 마찬가지로, 서버가 수행하는 것으로 기술된 동작이나 기능 중 일부도 해당 서버와 연결된 단말 또는 디바이스에서 수행될 수도 있다.In the present specification, some of the operations or functions described as being performed by the terminal or device may be performed instead by a server connected to the terminal or device. Likewise, some of the operations or functions described as being performed by the server may also be performed by a terminal or device connected to the server.

이하 첨부된 도면을 참고하여 본 발명의 일 실시예를 상세히 설명하기로 한다. Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 일 실시예에 따른 컨텐츠 제공 시스템의 구성도이다. 도 1을 참조하면, 컨텐츠 제공 시스템(1)은 디스플레이 장치(110) 및 서버(120)를 포함할 수 있다. 디스플레이 장치(110) 및 서버(120)는 컨텐츠 제공 시스템(1)에 의하여 제어될 수 있는 구성요소들을 예시적으로 도시한 것이다. 1 is a block diagram of a content providing system according to an embodiment of the present invention. Referring to FIG. 1, the content providing system 1 may include a display device 110 and a server 120. The display device 110 and the server 120 exemplarily show components that can be controlled by the content providing system 1.

도 1의 컨텐츠 제공 시스템(1)의 각 구성요소들은 일반적으로 네트워크(network)를 통해 연결된다. 예를 들어, 도 1에 도시된 바와 같이, 디스플레이 장치(110)는 서버(120)와 동시에 또는 시간 간격을 두고 연결될 수 있다. Each component of the content providing system 1 of FIG. 1 is generally connected through a network. For example, as shown in FIG. 1, the display device 110 may be connected to the server 120 at the same time or at a time interval.

네트워크는 단말들 및 서버들과 같은 각각의 노드 상호 간에 정보 교환이 가능한 연결 구조를 의미하는 것으로, 근거리 통신망(LAN: Local Area Network), 광역 통신망(WAN: Wide Area Network), 인터넷 (WWW: World Wide Web), 유무선 데이터 통신망, 전화망, 유무선 텔레비전 통신망 등을 포함한다. 무선 데이터 통신망의 일례에는 3G, 4G, 5G, 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution), WIMAX(World Interoperability for Microwave Access), 와이파이(Wi-Fi), 블루투스 통신, 적외선 통신, 초음파 통신, 가시광 통신(VLC: Visible Light Communication), 라이파이(LiFi) 등이 포함되나 이에 한정되지는 않는다. A network refers to a connection structure that enables information exchange between nodes such as terminals and servers, and is a local area network (LAN), a wide area network (WAN), and the Internet (WWW: World). Wide Web), wired/wireless data communication networks, telephone networks, wired/wireless television networks, etc. Examples of wireless data networks include 3G, 4G, 5G, 3rd Generation Partnership Project (3GPP), Long Term Evolution (LTE), World Interoperability for Microwave Access (WIMAX), Wi-Fi, Bluetooth communication, infrared communication, and ultrasound. Communication, Visible Light Communication (VLC), LiFi, etc. are included, but are not limited thereto.

디스플레이 장치(110)는 디스플레이 장치(110)에 구비된 제 1 카메라(111)를 통해 상품(100)을 촬영할 수 있다. The display device 110 may photograph the product 100 through the first camera 111 provided in the display device 110.

디스플레이 장치(110)는 디스플레이 장치(110)에 구비된 제 2 카메라(112)를 통해 사용자의 얼굴을 촬영할 수 있다. The display device 110 may capture a user's face through the second camera 112 provided in the display device 110.

디스플레이 장치(110)는 디스플레이 장치(110)의 각도를 측정할 수 있다. The display device 110 may measure the angle of the display device 110.

디스플레이 장치(110)는 촬영된 상품(100)에 대한 정보 및 촬영된 사용자의 얼굴에 대한 정보를 서버(120)로 전송할 수 있다. The display device 110 may transmit information on the photographed product 100 and information on the photographed user's face to the server 120.

디스플레이 장치(110)는 서버(120)로부터 분석된 상품(100)에 대한 정보 및 사용자의 얼굴에 대한 정보 등과 관련된 인식 정보를 수신할 수 있다. 여기서, 인식 정보는 회원 정보, 과거 구매 이력, 선호 상품 및 선호 정보 중 등을 포함하는 사용자 인식 정보 및 상품(100)의 식별자를 포함하는 상품 인식 정보를 포함할 수 있다. The display device 110 may receive recognition information related to information on the product 100 analyzed from the server 120 and information on a user's face. Here, the recognition information may include user recognition information including member information, past purchase history, preference products and preference information, and product recognition information including an identifier of the product 100.

디스플레이 장치(110)는 사용자 인식 정보 및 상품 인식 정보에 기초하여 출력될 컨텐츠를 결정할 수 있다. 예를 들어, 디스플레이 장치(110)는 상품(100)에 대한 복수의 컨텐츠 중 과거 구매 이력, 선호 상품 및 선호 정보 중 등에 기초한 최적 컨텐츠를 결정할 수 있다. The display device 110 may determine content to be output based on user recognition information and product recognition information. For example, the display device 110 may determine an optimal content based on a past purchase history, a preference product, and preference information among a plurality of contents for the product 100.

디스플레이 장치(110)는 상품(100)의 상태가 변경됨에 따라 출력될 컨텐츠를 변경할 수 있다. The display device 110 may change content to be output as the state of the product 100 changes.

디스플레이 장치(110)는 인식 정보와 관련된 컨텐츠를 출력할 수 있다. 이 때, 디스플레이 장치(110)는 측정된 디스플레이 장치(110)의 각도에 기초하여 컨텐츠의 출력 위치를 조절할 수 있다. 예를 들어, 디스플레이 장치(110)는 측정된 디스플레이 장치(110)의 각도 및 제 2 촬영부(112)로부터 촬영된 사용자의 얼굴의 이미지로부터 도출된 사용자의 위치에 기초하여 컨텐츠의 출력 위치를 조절할 수 있다. The display device 110 may output content related to recognition information. In this case, the display device 110 may adjust the output position of the content based on the measured angle of the display device 110. For example, the display device 110 may adjust the output position of the content based on the measured angle of the display device 110 and the position of the user derived from the image of the user's face photographed from the second photographing unit 112. I can.

디스플레이 장치(110)는 표시된 컨텐츠에 대해 사용자로부터 터치 명령 또는 음성 명령 중 등을 입력받을 수 있다. The display device 110 may receive a touch command or a voice command from a user for displayed content.

디스플레이 장치(110)는 데이터베이스를 통해 각 상품마다 다양한 컨텐츠를 저장할 수 있다. 다양한 컨텐츠는 예를 들어, 프로모션에 대한 컨텐츠, 광고에 대한 컨텐츠, 기능에 대한 컨텐츠, 증강 현실 컨텐츠 등을 포함할 수 있다. The display device 110 may store various contents for each product through a database. Various contents may include, for example, contents for promotions, contents for advertisements, contents for functions, and augmented reality contents.

이러한 디스플레이 장치(110)는 복수의 상품이 진열된 진열대 상에서 복수의 상품의 전방에 위치하며, 레일(130) 상에서 디스플레이 장치(110)에 구비된 이동 기구를 통해 복수의 상품 중 어느 하나의 전방으로 이동될 수 있다. Such a display device 110 is located in front of a plurality of products on a display stand on which a plurality of products are displayed, and moves forward of any one of the plurality of products through a moving mechanism provided in the display device 110 on the rail 130. Can be moved.

서버(120)는 디스플레이 장치(110)로부터 촬영된 상품에 대한 정보 및 촬영된 사용자의 얼굴에 대한 정보를 수신할 수 있다. The server 120 may receive information on a photographed product and information on a photographed user's face from the display device 110.

서버(120)는 수신한 상품에 대한 정보 및 사용자의 얼굴에 대한 정보를 분석하여 관련된 인식 정보를 추출할 수 있다. 여기서, 인식 정보는 회원 정보, 과거 구매 이력, 선호 상품 및 선호 정보 등을 포함하는 사용자 인식 정보 및 상품의 식별자를 포함하는 상품 인식 정보를 포함할 수 있다.The server 120 may extract related recognition information by analyzing the received product information and the user's face information. Here, the recognition information may include member information, past purchase history, user recognition information including preferred products and preference information, and product recognition information including an identifier of a product.

서버(120)는 추출된 인식 정보를 디스플레이 장치(110)로 전송할 수 있다. The server 120 may transmit the extracted recognition information to the display device 110.

도 2a 및 도 2b는 본 발명의 일 실시예에 따른 디스플레이 장치를 도시한 예시적인 도면이다. 여기서, 디스플레이 장치(110)는 복수의 상품이 진열된 진열대 상에서 복수의 상품의 전방에 위치한다. 2A and 2B are exemplary views showing a display device according to an exemplary embodiment of the present invention. Here, the display device 110 is located in front of the plurality of products on a display stand on which the plurality of products are displayed.

도 2a는 본 발명의 일 실시예에 따른 디스플레이 장치의 정면도이다. 도 2a를 참조하면, 디스플레이 장치(110)는 제 1 카메라(111), 제 2 카메라(112), 디스플레이 모듈(113), 마이크(114), 이동 기구(115)를 포함할 수 있다. 2A is a front view of a display device according to an embodiment of the present invention. Referring to FIG. 2A, the display device 110 may include a first camera 111, a second camera 112, a display module 113, a microphone 114, and a moving mechanism 115.

제 1 카메라(111)는 디스플레이 장치(110)의 후면에 구비되어, 디스플레이 장치(110)의 후방에 위치한 상품(100)을 촬영할 수 있다. The first camera 111 is provided on the rear side of the display apparatus 110 to take pictures of the product 100 located at the rear of the display apparatus 110.

제 2 카메라(112)는 디스플레이 장치(110)의 전면에 구비되어, 디스플레이 장치(110)를 시청하는 사용자의 얼굴을 촬영할 수 있다. The second camera 112 is provided on the front side of the display device 110 to capture a face of a user viewing the display device 110.

디스플레이 모듈(113)은 디스플레이 패널을 통해 상품(100)과 관련된 컨텐츠를 출력할 수 있다. The display module 113 may output content related to the product 100 through a display panel.

디스플레이 모듈(113)은 터치 센서가 탑재되어, 사용자로부터 출력된 컨텐츠에 대한 터치 입력을 수신할 수 있다. The display module 113 is equipped with a touch sensor and may receive a touch input for content output from a user.

마이크(114)는 사용자로부터 출력된 컨텐츠에 대한 음성 입력을 수신할 수 있다. The microphone 114 may receive a voice input for content output from a user.

이동 기구(115)는 디스플레이 장치(110)가 복수의 상품 중 어느 하나의 전방으로 이동되도록 할 수 있다. 예를 들어, 디스플레이 장치(110)는 레일(130) 상에서 이동 기구(115)를 통해 사용자에 의해 복수의 상품 중 어느 하나의 상품의 전방으로 이동될 수 있다. The moving mechanism 115 may cause the display device 110 to move to the front of any one of a plurality of products. For example, the display device 110 may be moved to the front of any one of a plurality of products by a user through the moving mechanism 115 on the rail 130.

도 2b는 본 발명의 일 실시예에 따른 디스플레이 장치의 측면도이다. 도 2a 및 도 2b를 참조하면, 디스플레이 장치(110)는 힌지(hinge; 116)를 더 포함할 수 있다. 여기서, 힌지(116)는 전자식 또는 기계식 힌지일 수 있다.2B is a side view of a display device according to an embodiment of the present invention. 2A and 2B, the display device 110 may further include a hinge 116. Here, the hinge 116 may be an electronic or mechanical hinge.

힌지(116)는 디스플레이 장치(110)의 기울기가 수동 또는 자동으로 조절되도록 할 수 있다. 이는, 사용자별 신장 차이에 따라 사용자의 시선 각도도 달라지게 되므로, 힌지(116)를 통해 디스플레이 장치(110)의 기울기를 수동 또는 자동으로 조절되도록 함으로써, 사용자의 시선이 디스플레이 장치(110)의 정면을 응시할 수 있도록 하기 위함이다. The hinge 116 may allow the inclination of the display device 110 to be manually or automatically adjusted. This is because the user's gaze angle is also changed according to the height difference for each user, so that the inclination of the display device 110 is manually or automatically adjusted through the hinge 116 so that the user's gaze is in front of the display device 110 It is to be able to take a look.

예를 들어, 디스플레이 장치(110)의 기울기가 제 1 각도(예를 들어, 0°)에 해당하는 경우, 사용자는 힌지(116)를 통해 사용자의 시선이 디스플레이 장치(110)의 정면을 응시하기에 적합하도록 디스플레이 장치(110)의 기울기를 제 2 각도(예를 들어, 60°)로 조절(117)할 수 있다. For example, when the inclination of the display device 110 corresponds to a first angle (eg, 0°), the user's gaze through the hinge 116 gazes at the front of the display device 110 The inclination of the display device 110 may be adjusted 117 to a second angle (eg, 60°) so as to be appropriate.

도 3은 본 발명의 일 실시예에 따른 디스플레이 장치의 구성도이다. 도 3을 참조하면, 디스플레이 장치(110)는 제 1 촬영부(310), 제 2 촬영부(320), 측정부(330), 전송부(340), 수신부(350), 컨텐츠 결정부(360), 출력부(370), 입력부(380) 및 데이터베이스(390)를 포함할 수 있다. 3 is a configuration diagram of a display device according to an embodiment of the present invention. Referring to FIG. 3, the display device 110 includes a first photographing unit 310, a second photographing unit 320, a measuring unit 330, a transmission unit 340, a receiving unit 350, and a content determining unit 360. ), an output unit 370, an input unit 380, and a database 390.

제 1 촬영부(310)는 디스플레이 장치(110)에 구비된 제 1 카메라(111)를 통해 상품(100)을 촬영할 수 있다. 여기서, 제 1 카메라(111)는 디스플레이 장치(110)의 후면에 설치된 것으로, 제 1 촬영부(310)는 디스플레이 장치(110)의 후면에 설치된 제 1 카메라(111)를 통해 상품(100)의 정면을 촬영할 수 있다. The first photographing unit 310 may photograph the product 100 through the first camera 111 provided in the display device 110. Here, the first camera 111 is installed on the rear side of the display device 110, and the first photographing unit 310 is the first camera 111 installed on the rear side of the display device 110 You can shoot the front.

제 2 촬영부(320)는 디스플레이 장치(110)에 구비된 제 2 카메라(112)를 통해 사용자의 얼굴을 촬영할 수 있다. 여기서, 제 2 카메라(112)는 디스플레이 장치(110)의 정면에 설치된 것으로, 제 2 촬영부(320)는 디스플레이 장치(110)의 정면에 설치된 제 2 카메라(112)를 통해 사용자의 얼굴을 촬영할 수 있다. The second photographing unit 320 may photograph a user's face through the second camera 112 provided in the display device 110. Here, the second camera 112 is installed in front of the display device 110, and the second photographing unit 320 is capable of photographing the user's face through the second camera 112 installed in front of the display device 110. I can.

측정부(330)는 디스플레이 장치(110)의 각도를 측정할 수 있다. 예를 들어, 측정부(330)는 디스플레이 장치(110)의 화면이 사용자의 시선과 대응되도록 기울기가 조절된 후, 디스플레이 장치(110)의 각도를 측정할 수 있다. 여기서, 디스플레이 장치(110)의 각도는 진열대와 디스플레이 장치(110)의 디스플레이 패널이 이루는 각도를 의미할 수 있다. The measurement unit 330 may measure the angle of the display device 110. For example, the measurement unit 330 may measure the angle of the display device 110 after adjusting the tilt so that the screen of the display device 110 corresponds to the user's gaze. Here, the angle of the display device 110 may mean an angle formed between the display rack and the display panel of the display device 110.

측정부(330)는 디스플레이 패널이 힌지(116; 도 2 참조)에 의해 지지되는 위치에 기초하여 디스플레이 장치(110)의 각도를 측정할 수 있다.The measurement unit 330 may measure the angle of the display device 110 based on a position where the display panel is supported by the hinge 116 (see FIG. 2 ).

전송부(340)는 촬영된 상품에 대한 정보 및 촬영된 사용자의 얼굴에 대한 정보를 서버(120)로 전송할 수 있다. 여기서, 촬영된 상품에 대한 정보 및 촬영된 사용자의 얼굴에 대한 정보는 상품 이미지 및 얼굴 이미지일 수 있다.The transmission unit 340 may transmit information on the photographed product and information on the photographed user's face to the server 120. Here, the information on the photographed product and the information on the photographed user's face may be a product image and a face image.

수신부(350)는 서버(120)로부터 분석된 상품(100)에 대한 정보 및 사용자의 얼굴에 대한 정보 중 적어도 하나와 관련된 인식 정보를 수신할 수 있다. 여기서, 인식 정보는 회원 정보, 과거 구매 이력, 선호 상품 및 선호 정보 중 등을 포함하는 사용자 인식 정보 및 상품(100)의 식별자를 포함하는 상품 인식 정보를 포함할 수 있다. The receiving unit 350 may receive recognition information related to at least one of information on the product 100 analyzed from the server 120 and information on a user's face. Here, the recognition information may include user recognition information including member information, past purchase history, preference products and preference information, and product recognition information including an identifier of the product 100.

컨텐츠 결정부(360)는 사용자 인식 정보 및 상품 인식 정보에 기초하여 출력될 컨텐츠를 결정할 수 있다. The content determination unit 360 may determine content to be output based on user recognition information and product recognition information.

예를 들어, 컨텐츠 결정부(360)는 상품(100)에 대한 복수의 컨텐츠 중 과거 구매 이력, 선호 상품 및 선호 정보(예를 들어, 선호 색상, 선호 디자인 등) 중 등에 기초한 최적 컨텐츠를 결정할 수 있다. For example, the content determination unit 360 may determine an optimal content based on a past purchase history, a preferred product, and preferred information (eg, preferred color, preferred design, etc.) among a plurality of contents for the product 100. have.

예를 들어, 컨텐츠 결정부(360)는 상품(100)의 상태가 변경됨에 따라 출력될 컨텐츠를 변경할 수 있다. 여기서, 상품(100)의 상태의 변경은 상품(100)의 형상 변화, 기능 변화 등을 포함할 수 있다.For example, the content determination unit 360 may change the content to be output as the state of the product 100 changes. Here, the change in the state of the product 100 may include a change in the shape of the product 100, a change in function, and the like.

예를 들어, 상품(100)에 구비된 도어가 닫혀진 경우(예컨대, 사용자가 상품(100)을 열지 않은 경우), 컨텐츠 결정부(360)는 상품(100)의 외관 또는 기본 기능과 관련된 컨텐츠를 최적 컨텐츠로 결정할 수 있다. 이에 반해, 상품(100)에 구비된 도어가 열린 경우(예컨대, 사용자가 상품(100)을 열은 경우), 컨텐츠 결정부(360)는 상품(100)의 내부 구성, 동작 과정, 내부 기능 등과 관련된 컨텐츠를 최적 컨텐츠로 결정할 수 있다. For example, when the door provided in the product 100 is closed (for example, when the user does not open the product 100), the content determination unit 360 determines the content related to the appearance or basic function of the product 100 It can be determined as the optimal content. On the other hand, when the door provided in the product 100 is opened (for example, when the user opens the product 100), the content determination unit 360 may perform the internal configuration, operation process, and internal functions of the product 100. Related content can be determined as the optimal content.

출력부(370)는 인식 정보와 관련된 컨텐츠를 출력할 수 있다. 이 때, 출력부(370)는 측정된 디스플레이 장치(110)의 각도에 기초하여 컨텐츠의 출력 위치를 조절할 수 있다. The output unit 370 may output content related to recognition information. In this case, the output unit 370 may adjust the output position of the content based on the measured angle of the display device 110.

예를 들어, 출력부(370)는 측정된 디스플레이 장치(110)의 각도 및 제 2 촬영부(112)로부터 촬영된 사용자의 얼굴의 이미지로부터 도출된 사용자의 시청 위치에 기초하여 컨텐츠의 출력 위치를 조절할 수 있다. For example, the output unit 370 determines the output position of the content based on the measured angle of the display device 110 and the user's viewing position derived from the image of the user's face photographed from the second photographing unit 112. Can be adjusted.

즉, 디스플레이 장치(110)는 제 2 촬영부(112)로부터 촬영된 사용자의 얼굴의 이미지로부터 사용자의 시청 위치(사용자의 시선 각도를 포함함)를 도출하고, 디스플레이 장치(110)의 각도 및 사용자의 시청 위치를 고려하여 컨텐츠의 출력 위치를 조절할 수 있다.That is, the display device 110 derives the user's viewing position (including the user's gaze angle) from the image of the user's face photographed by the second photographing unit 112, and the angle of the display device 110 and the user The output position of the content can be adjusted in consideration of the viewing position of.

이는, 사용자별로 신장 차이가 존재하므로, 사용자 마다의 시선 각도를 고려하여 사용자가 컨텐츠의 시청에 적합하도록 컨텐츠의 출력 위치를 조정함으로써, 각 사용자의 시선과 대응되는 위치에 컨텐츠가 출력되도록 하기 위함이다. 특히, 후술하는 바와 같이, 본 발명의 컨텐츠는 증강 현실 컨텐츠를 포함하므로, 디스플레이 장치(110)에 비춰지는 상품(100) 상에 출력되는 증강 현실 컨텐츠의 출력 위치를 결정함에 있어 사용자의 시선 각도가 반드시 고려될 필요가 있다.This is to ensure that the content is output at a location corresponding to each user's gaze by adjusting the output position of the content so that it is suitable for the user's viewing of the content in consideration of the gaze angle of each user, since there is a difference in height for each user. . In particular, as will be described later, since the content of the present invention includes augmented reality content, in determining the output position of the augmented reality content displayed on the product 100 projected on the display device 110, the user's gaze angle is It must be considered.

입력부(380)는 표시된 컨텐츠에 대해 사용자로부터 터치 명령 또는 음성 명령 등을 입력받을 수 있다. 예를 들어, 입력부(380)는 디스플레이에 구비된 터치 센서를 통해 사용자로부터 표시된 컨텐츠에 대한 터치 명령을 입력받을 수 있다. 다른 예를 들어, 입력부(380)는 마이크를 통해 사용자로부터 표시된 컨텐츠에 대한 음성 명령을 입력받을 수 있다. 여기서, 터치 명령 또는 음성 명령은 컨텐츠의 시나리오에 따른 다음 동작 명령, 상품(100)에 대한 각각의 상세 기능을 설명하기 위한 명령, 광고 또는 프로모션 출력 명령 등을 포함할 수 있다. The input unit 380 may receive a touch command or a voice command from a user for the displayed content. For example, the input unit 380 may receive a touch command for the displayed content from a user through a touch sensor provided in the display. For another example, the input unit 380 may receive a voice command for displayed content from a user through a microphone. Here, the touch command or voice command may include a next operation command according to a content scenario, a command for explaining each detailed function of the product 100, an advertisement or promotion output command, and the like.

데이터베이스(390)는 각 상품마다 다양한 컨텐츠를 저장할 수 있다. 다양한 컨텐츠는 예를 들어, 프로모션에 대한 컨텐츠, 광고에 대한 컨텐츠, 기능에 대한 컨텐츠 등을 포함하며, 이러한 다양한 컨텐츠는 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠로 표현되는 것일 수 있다. 이는, 상품과 관련된 컨텐츠를 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 통해 제공함으로써, 사용자는 상품과 관련된 정보를 직관적으로 확인할 수 있다는 장점을 제공할 수 있다. The database 390 may store various contents for each product. Various contents include, for example, contents for promotions, contents for advertisements, contents for functions, and the like, and such various contents may be expressed as augmented reality, virtual reality, or mixed reality contents. This may provide an advantage that a user can intuitively check information related to a product by providing content related to a product through augmented reality, virtual reality or mixed reality content.

도 4a 내지 도 4e는 본 발명의 일 실시예에 따른 디스플레이 장치에서 상품과 관련된 컨텐츠를 제공하는 과정을 설명하기 위한 예시적인 도면이다. 4A to 4E are exemplary diagrams for explaining a process of providing content related to a product in a display device according to an embodiment of the present invention.

도 4a는 본 발명의 일 실시예에 따른 디스플레이 장치에서 사용자 인식 정보에 기초하여 상품 모델을 추천하는 과정을 설명하기 위한 예시적인 도면이다. 도 4a를 참조하면, 디스플레이 장치(110)는 디스플레이 장치(110)에 구비된 카메라를 통해 상품의 촬영 없이 사용자의 얼굴만 촬영된 경우, 사용자 인식 정보와 관련된 컨텐츠(예를 들어, 추천 상품, 추천 모델 등)를 출력할 수 있다. 사용자 인식 정보는 예를 들어, 회원 번호, 과거 구매 이력, 선호 상품 및 선호 정보 등을 포함할 수 있다. 4A is an exemplary diagram for explaining a process of recommending a product model based on user recognition information in a display device according to an embodiment of the present invention. Referring to FIG. 4A, when only the user's face is photographed without photographing a product through a camera provided in the display device 110, the display device 110 includes content related to user recognition information (eg, recommended product, recommendation Model, etc.) can be printed. The user recognition information may include, for example, a member number, past purchase history, preferred products and preferred information.

디스플레이 장치(110)는 사용자 인식 정보에 기초하여 컨텐츠를 디스플레이 장치(110)에 출력할 수 있다. 예를 들어, 디스플레이 장치(110)는 화면의 제 1 영역(400)에 사용자 정보를 출력하고, 화면 제 2 영역(410)에 채팅창을 출력하고, 화면의 제 3 영역(420)에 관련 컨텐츠를 출력할 수 있다. 제 1 영역(400)에는 나이, 구매 상품, 관심 상품 등과 같은 사용자 정보가 출력될 수 있다. 제 2 영역(410)에는 챗봇과 사용자 간의 채팅이 가능한 채팅창이 출력될 수 있다. 예를 들어, 챗봇이 "어떤 상품을 찾으세요"라고 질문한 후, 사용자가 "밥솥 추천해줘"라고 응답한 경우, 챗봇은 "오른쪽과 같이 추천해드려요"라는 메시지를 제공할 수 있다. 제 3 영역(420)에는 사용자가 원하는 상품과 관련된 추천 모델(예를 들어, 사용자의 선호 색상의 모델)이 출력될 수 있다. The display device 110 may output content to the display device 110 based on user recognition information. For example, the display device 110 outputs user information in the first area 400 of the screen, outputs a chat window in the second area 410 of the screen, and related content in the third area 420 of the screen. Can be printed. User information such as age, purchased products, and products of interest may be output in the first area 400. A chat window capable of chatting between the chatbot and the user may be displayed in the second area 410. For example, if the chatbot asks a question "What product are you looking for" and then the user responds with "Recommended rice cooker", the chatbot can provide a message saying "I will recommend you as shown on the right." A recommendation model related to a product desired by the user (eg, a model of a user's preferred color) may be output in the third area 420.

도 4b 내지 도 4e는 본 발명의 일 실시예에 따른 디스플레이 장치에서 상품과 관련된 프로모션 컨텐츠가 출력된 예시적인 도면이다. 4B to 4E are exemplary views in which promotional content related to a product is output from a display device according to an embodiment of the present invention.

디스플레이 장치(110)는 상품(100)과 관련된 컨텐츠를 출력할 수 있다. 예를 들어, 디스플레이 장치(110)는 레일(130) 상에서 복수의 상품이 진열된 진열대 상에서 복수의 상품의 전방에 위치하여 레일(130) 상에서 사용자에 의해 디스플레이 장치에 구비된 이동 기구를 통해 복수의 상품 중 어느 하나의 상품의 전방으로 이동되고, 이동된 위치에서 촬영된 상품(100)과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 출력할 수 있다. 다른 예를 들어, 디스플레이 장치(110)는 도 4a에서 출력된 추천 모델로부터 사용자에 의해 선택된 모델과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 출력할 수도 있다. The display device 110 may output content related to the product 100. For example, the display device 110 is located in front of a plurality of products on a display stand in which a plurality of products are displayed on the rail 130, and is placed on the rail 130 by a user through a moving mechanism provided in the display device. An augmented reality, virtual reality, or mixed reality content related to the product 100 that is moved to the front of any one of the products and photographed at the moved location may be output. For another example, the display device 110 may output augmented reality, virtual reality, or mixed reality content related to the model selected by the user from the recommended model output in FIG. 4A.

이하에서는, 디스플레이 장치(110)에서 카메라를 통해 상품 및 사용자의 얼굴이 촬영됨으로써, 상품 및 사용자 얼굴에 대한 인식 정보와 관련된 컨텐츠를 출력하는 경우에 대해 설명하도록 한다. Hereinafter, a description will be given of a case in which the display device 110 outputs content related to recognition information on the product and the user's face by photographing the product and the user's face through a camera.

도 4b를 참조하면, 디스플레이 장치(110)는 상품의 외관과 관련된 컨텐츠를 출력할 수 있다. 예를 들어, 디스플레이 장치(110)는 상품(100)에 관한 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 출력할 수 있다. 예를 들어, 디스플레이 장치(110)는 상품의 외관을 사용자가 모두 확인할 수 있도록 상품(100)의 외관을 360도로 회전시키며 출력할 수 있다. Referring to FIG. 4B, the display device 110 may output content related to the appearance of a product. For example, the display device 110 may output augmented reality, virtual reality, or mixed reality content related to the product 100. For example, the display device 110 may rotate and output the exterior of the product 100 by 360 degrees so that the user can check the exterior of the product.

도 4c를 참조하면, 디스플레이 장치(110)는 상품의 기능과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 출력할 수 있다. 예를 들어, 디스플레이 장치(110)는 사용자로부터 터치 명령 또는 음성 명령을 통해 상품(100)의 기능과 관련된 컨텐츠의 출력을 입력받아 기능과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 출력할 수 있다. 기능은 예를 들어, 상품(100)의 모델명, 크기, 중량, 소비전력, 용량 등을 포함할 수 있다. Referring to FIG. 4C, the display device 110 may output augmented reality, virtual reality, or mixed reality content related to a product function. For example, the display device 110 may receive an output of content related to a function of the product 100 from a user through a touch command or a voice command and output augmented reality, virtual reality, or mixed reality content related to the function. . The function may include, for example, a model name, size, weight, power consumption, capacity, etc. of the product 100.

도 4d를 참조하면, 디스플레이 장치(110)는 사용자로부터 터치 명령 또는 음성 명령을 통해 상품(100)의 내부 구성과 관련된 컨텐츠의 출력을 입력받아 내부 구성과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 출력할 수 있다. 이와 달리, 사용자가 상품(100)을 제어한 경우(예컨대, 상품(100)을 열은 경우), 디스플레이 장치(110)가 내부 구성과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 출력할 수 있다.Referring to FIG. 4D, the display device 110 receives an output of content related to the internal configuration of the product 100 through a touch command or a voice command from a user and displays augmented reality, virtual reality, or mixed reality content related to the internal configuration. Can be printed. In contrast, when the user controls the product 100 (eg, when the product 100 is opened), the display device 110 may output augmented reality, virtual reality, or mixed reality content related to the internal configuration. .

도 4e를 참조하면, 디스플레이 장치(110)는 사용자로부터 터치 명령 또는 음성 명령을 통해 상품(100)의 동작과 관련된 컨텐츠의 출력을 입력받아 동작과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 출력할 수 있다. 예를 들어, 디스플레이 장치(110)를 통해 촬영된 상품이 밥솥인 경우, 디스플레이 장치(110)는 밥솥의 동작과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 출력할 수 있다. Referring to FIG. 4E, the display device 110 receives an output of content related to the operation of the product 100 from a user through a touch command or a voice command and outputs augmented reality, virtual reality, or mixed reality content related to the operation. I can. For example, when a product photographed through the display device 110 is a rice cooker, the display device 110 may output augmented reality, virtual reality, or mixed reality content related to the operation of the rice cooker.

도 5는 본 발명의 일 실시예에 따른 디스플레이 장치에서 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 방법의 순서도이다. 도 5에 도시된 디스플레이 장치(110)에서 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 방법은 도 1 내지 도 4e에 도시된 실시예에 따른 컨텐츠 제공 시스템(1)에 의해 시계열적으로 처리되는 단계들을 포함한다. 따라서, 이하 생략된 내용이라고 하더라도 도 1 내지 도 4e에 도시된 실시예에 따른 디스플레이 장치(110)에서 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 방법에도 적용된다. 5 is a flowchart of a method of providing augmented reality, virtual reality, or mixed reality content related to a product in a display device according to an embodiment of the present invention. A method of providing augmented reality, virtual reality, or mixed reality content related to a product in the display device 110 shown in FIG. 5 is time-series by the content providing system 1 according to the embodiment shown in FIGS. 1 to 4E. It includes steps that are processed as. Therefore, even if omitted below, it is also applied to a method of providing augmented reality, virtual reality, or mixed reality content related to a product in the display device 110 according to the exemplary embodiment illustrated in FIGS. 1 to 4E.

단계 S510에서 디스플레이 장치(110)는 디스플레이 장치(110)에 구비된 제 1 카메라(111)를 통해 상품(100)을 촬영할 수 있다. In operation S510, the display device 110 may take a picture of the product 100 through the first camera 111 provided in the display device 110.

단계 S520에서 디스플레이 장치(110)는 디스플레이 장치(110)에 구비된 제 2 카메라(112)를 통해 사용자의 얼굴을 촬영할 수 있다. In operation S520, the display device 110 may capture a user's face through the second camera 112 provided in the display device 110.

단계 S530에서 디스플레이 장치(110)는 디스플레이 장치(110)의 각도를 측정할 수 있다. In step S530, the display device 110 may measure the angle of the display device 110.

단계 S540에서 디스플레이 장치(110)는 촬영된 상품에 대한 정보 및 촬영된 사용자의 얼굴에 대한 정보를 서버(120)로 전송할 수 있다. In operation S540, the display device 110 may transmit information on the photographed product and information on the photographed user's face to the server 120.

단계 S550에서 디스플레이 장치(110)는 서버(120)로부터 분석된 상품(100)에 대한 정보 및 사용자의 얼굴에 대한 정보 중 적어도 하나와 관련된 인식 정보를 수신할 수 있다. In operation S550, the display device 110 may receive recognition information related to at least one of information on the analyzed product 100 and information on the user's face from the server 120.

단계 S560에서 디스플레이 장치(110)는 인식 정보와 관련된 컨텐츠를 출력할 수 있다. 이 때, 컨텐츠는 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠 등을 포함하며, 디스플레이 장치(110)는 측정된 디스플레이 장치(110)의 각도에 기초하여 컨텐츠의 출력 위치를 조절할 수 있다. In step S560, the display device 110 may output content related to the recognition information. In this case, the content includes augmented reality, virtual reality, or mixed reality content, and the display device 110 may adjust the output position of the content based on the measured angle of the display device 110.

상술한 설명에서, 단계 S510 내지 S560은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 전환될 수도 있다.In the above description, steps S510 to S560 may be further divided into additional steps or combined into fewer steps, according to an embodiment of the present invention. In addition, some steps may be omitted as necessary, and the order between steps may be switched.

도 6은 본 발명의 일 실시예에 따른 서버의 구성도이다. 도 6을 참조하면, 서버(120)는 수신부(610), 분석부(620), 추출부(630) 및 전송부(640)를 포함할 수 있다. 6 is a configuration diagram of a server according to an embodiment of the present invention. Referring to FIG. 6, the server 120 may include a reception unit 610, an analysis unit 620, an extraction unit 630, and a transmission unit 640.

수신부(610)는 디스플레이 장치(110)로부터 디스플레이 장치(110)에 의해 촬영된 상품(100)에 대한 정보 및 사용자의 얼굴에 대한 정보를 수신할 수 있다. The receiving unit 610 may receive information on the product 100 photographed by the display device 110 and information on the user's face from the display device 110.

분석부(620)는 수신한 상품(100)에 대한 정보 및 사용자의 얼굴에 대한 정보를 분석할 수 있다. 예를 들어, 분석부(620)는 수신한 상품(100)에 대한 정보에 기초하여 상품(100)의 윤곽선, 색상 등을 분석할 수 있다. 다른 예를 들어, 분석부(620)는 수신한 사용자의 얼굴에 대한 정보에 기초하여 사용자의 얼굴 특징점을 분석할 수 있다. The analysis unit 620 may analyze information on the received product 100 and information on a user's face. For example, the analysis unit 620 may analyze the outline, color, etc. of the product 100 on the basis of the received information on the product 100. For another example, the analysis unit 620 may analyze the user's facial feature points based on the received information on the user's face.

추출부(630)는 분석된 상품에 대한 정보에 기초하여 상품 인식 정보를 추출하고, 분석된 사용자의 얼굴에 대한 정보에 기초하여 사용자 인식 정보를 추출할 수 있다. The extraction unit 630 may extract product recognition information based on the analyzed product information, and extract user recognition information based on the analyzed user's face information.

전송부(640)는 추출된 상품 인식 정보 및 사용자 인식 정보를 포함하는 인식 정보를 디스플레이 장치(110)로 전송할 수 있다. The transmission unit 640 may transmit recognition information including the extracted product recognition information and user recognition information to the display device 110.

도 7은 본 발명의 일 실시예에 따른 서버에서 디스플레이 장치에서 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 방법의 순서도이다. 도 7에 도시된 서버(120)에서 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 방법은 도 1 내지 도 6에 도시된 실시예에 따른 컨텐츠 제공 시스템(1)에 의해 시계열적으로 처리되는 단계들을 포함한다. 따라서, 이하 생략된 내용이라고 하더라도 도 1 내지 도 6에 도시된 실시예에 따른 서버(120)에서 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 방법에도 적용된다.7 is a flowchart of a method for providing augmented reality, virtual reality, or mixed reality content related to a product in a display device in a server according to an embodiment of the present invention. A method of providing augmented reality, virtual reality, or mixed reality content related to a product in the server 120 shown in FIG. 7 is time-series by the content providing system 1 according to the embodiment shown in FIGS. 1 to 6. It includes the steps to be processed. Therefore, even if omitted below, it is also applied to a method of providing augmented reality, virtual reality, or mixed reality content related to a product in the server 120 according to the embodiment illustrated in FIGS. 1 to 6.

단계 S710에서 서버(120)는 디스플레이 장치(110)로부터 디스플레이 장치(110)에 의해 촬영된 상품에 대한 정보 및 사용자의 얼굴에 대한 정보를 수신할 수 있다. In step S710, the server 120 may receive information on a product photographed by the display device 110 and information on a user's face from the display device 110.

단계 S720에서 서버(120)는 수신한 상품에 대한 정보 및 사용자의 얼굴에 대한 정보를 분석할 수 있다. In step S720, the server 120 may analyze information on the received product and information on the user's face.

단계 S730에서 서버(120)는 분석된 상품에 대한 정보에 기초하여 상품 인식 정보를 추출하고, 분석된 사용자의 얼굴에 대한 정보에 기초하여 사용자 인식 정보를 추출할 수 있다. In step S730, the server 120 may extract product recognition information based on the analyzed product information, and extract user recognition information based on the analyzed user's face information.

단계 S740에서 서버(120)는 추출된 상품 인식 정보 및 사용자 인식 정보를 포함하는 인식 정보를 디스플레이 장치(110)로 전송할 수 있다. In step S740, the server 120 may transmit recognition information including the extracted product recognition information and user recognition information to the display device 110.

상술한 설명에서, 단계 S710 내지 S740은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 전환될 수도 있다.In the above description, steps S710 to S740 may be further divided into additional steps or combined into fewer steps, according to an embodiment of the present invention. In addition, some steps may be omitted as necessary, and the order between steps may be switched.

도 1 내지 도 7을 통해 설명된 디스플레이 장치 및 서버에서 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 방법은 컴퓨터에 의해 실행되는 매체에 저장된 컴퓨터 프로그램 또는 컴퓨터에 의해 실행 가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 또한, 도 1 내지 도 7을 통해 설명된 디스플레이 장치 및 서버에서 상품과 관련된 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 제공하는 방법은 컴퓨터에 의해 실행되는 매체에 저장된 컴퓨터 프로그램의 형태로도 구현될 수 있다. A method of providing augmented reality, virtual reality, or mixed reality content related to a product in a display device and a server described through FIGS. 1 to 7 includes a computer program stored in a medium executed by a computer or instructions executable by a computer It can also be implemented in the form of a recording medium. In addition, the method of providing augmented reality, virtual reality or mixed reality content related to a product in a display device and a server described through FIGS. 1 to 7 may be implemented in the form of a computer program stored in a medium executed by a computer. have.

컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체를 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. Computer-readable media can be any available media that can be accessed by a computer, and includes both volatile and nonvolatile media, removable and non-removable media. Further, the computer-readable medium may include a computer storage medium. Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다. The above description of the present invention is for illustrative purposes only, and those of ordinary skill in the art to which the present invention pertains will be able to understand that it can be easily modified into other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are illustrative in all respects and not limiting. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as being distributed may also be implemented in a combined form.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다. The scope of the present invention is indicated by the claims to be described later rather than the detailed description, and all changes or modified forms derived from the meaning and scope of the claims and their equivalent concepts should be interpreted as being included in the scope of the present invention. do.

100: 상품
110: 디스플레이 장치
111: 제 1 카메라
112: 제 2 카메라
113: 디스플레이 모듈
114: 마이크
115: 이동 기구
116: 힌지
120: 서버
130: 레일
310: 제 1 촬영부
320: 제 2 촬영부
330: 측정부
340: 전송부
350: 수신부
360: 컨텐츠 결정부
370: 출력부
380: 입력부
390: 데이터베이스
100: commodity
110: display device
111: first camera
112: second camera
113: display module
114: microphone
115: movement mechanism
116: hinge
120: server
130: rail
310: first photographing unit
320: second photographing unit
330: measuring unit
340: transmission unit
350: receiver
360: content decision unit
370: output
380: input
390: database

Claims (20)

상품과 관련된 컨텐츠를 제공하는 디스플레이 장치에 있어서,
상기 디스플레이 장치에 구비된 제 1 카메라를 통해 상품을 촬영하는 제 1 촬영부;
상기 디스플레이 장치에 구비된 제 2 카메라를 통해 사용자의 얼굴을 촬영하는 제 2 촬영부;
상기 디스플레이 장치의 각도를 측정하는 측정부;
상기 촬영된 상품에 대한 정보 및 상기 촬영된 사용자의 얼굴에 대한 정보를 서버로 전송하는 전송부;
상기 서버로부터 분석된 상기 상품에 대한 정보 및 상기 사용자의 얼굴에 대한 정보 중 적어도 하나와 관련된 인식 정보를 수신하는 수신부; 및
상기 인식 정보와 관련된 컨텐츠를 출력하는 출력부를 포함하되,
상기 출력부는 상기 측정된 디스플레이 장치의 각도에 기초하여 상기 컨텐츠의 출력 위치를 조절하는 것이되,
상기 디스플레이 장치는 복수의 상품이 진열된 진열대 상에서 상기 복수의 상품의 전방에 위치하고,
상기 디스플레이 장치는, 상기 디스플레이 장치가 상기 복수의 상품 중 어느 하나의 전방으로 이동되기 위한 이동 기구를 포함하고,
상기 수신부는 상기 디스플레이 장치가 상기 이동 기구를 통해 상기 복수의 상품 중 어느 하나의 전방으로 이동된 경우, 상기 서버로부터 상기 디스플레이 장치가 이동된 위치에서 촬영된 특정 상품의 식별자를 포함하는 상품 인식 정보 및 상기 사용자의 선호 정보를 포함하는 사용자 인식 정보를 수신하고,
상기 출력부는 상기 특정 상품의 식별자에 기초하여 결정된 상기 특정 상품과 관련된 복수의 컨텐츠 중 상기 사용자의 선호 정보에 기초하여 결정된 최적 컨텐츠를 출력하는 것인, 디스플레이 장치.
In a display device for providing content related to a product,
A first photographing unit for photographing a product through a first camera provided in the display device;
A second photographing unit for photographing a user's face through a second camera provided in the display device;
A measuring unit measuring an angle of the display device;
A transmission unit for transmitting information on the photographed product and information on the photographed user's face to a server;
A receiver configured to receive recognition information related to at least one of information on the product and information on the user's face analyzed from the server; And
Including an output unit for outputting the content related to the recognition information,
The output unit adjusts the output position of the content based on the measured angle of the display device,
The display device is located in front of the plurality of products on a display stand on which a plurality of products are displayed,
The display device includes a moving mechanism for moving the display device to the front of any one of the plurality of products,
When the display device is moved to the front of any one of the plurality of products through the moving mechanism, the receiving unit includes product recognition information including an identifier of a specific product photographed from the server at a location where the display device is moved, and Receiving user recognition information including the user's preference information,
The output unit outputs the optimal content determined based on the user's preference information among a plurality of contents related to the specific product determined based on the identifier of the specific product.
제 1 항에 있어서,
상기 사용자 인식 정보는 상기 사용자의 회원 정보, 과거 구매 이력 및 선호 상품 중 적어도 하나를 더 포함하는 것인, 디스플레이 장치.
The method of claim 1,
The user recognition information further includes at least one of member information of the user, a past purchase history, and a preferred product.
제 2 항에 있어서,
상기 사용자 인식 정보 및 상기 상품 인식 정보에 기초하여 출력될 컨텐츠를 결정하는 컨텐츠 결정부를 더 포함하는 것인, 디스플레이 장치.
The method of claim 2,
The display device further comprising a content determination unit that determines content to be output based on the user recognition information and the product recognition information.
제 3 항에 있어서,
상기 컨텐츠 결정부는 상기 상품에 대한 복수의 컨텐츠 중 상기 과거 구매 이력 및 선호 상품 중 적어도 어느 하나를 더 고려하여 상기 최적 컨텐츠를 결정하는 것인, 디스플레이 장치.
The method of claim 3,
The content determination unit further determines the optimal content by further considering at least one of the past purchase history and the preferred product among a plurality of contents for the product.
제 1 항에 있어서,
각 상품마다 다양한 컨텐츠를 저장하는 데이터베이스를 더 포함하고,
상기 다양한 컨텐츠는 프로모션에 대한 컨텐츠, 광고에 대한 컨텐츠, 기능에 대한 컨텐츠 중 적어도 하나를 포함하는 것인, 디스플레이 장치.
The method of claim 1,
Each product further includes a database storing various contents,
The various contents include at least one of contents for promotion, contents for advertisement, and contents for function.
제 5 항에 있어서,
상기 다양한 컨텐츠는 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 포함하는 것인, 디스플레이 장치.
The method of claim 5,
The various contents will include augmented reality, virtual reality, or mixed reality contents.
제 3 항에 있어서,
상기 컨텐츠 결정부는 상기 상품의 상태가 변경됨에 따라 상기 출력될 컨텐츠를 변경하는 것인, 디스플레이 장치.
The method of claim 3,
The content determination unit is to change the content to be output according to the state of the product is changed.
제 1 항에 있어서,
상기 출력된 컨텐츠에 대해 사용자로부터 터치 명령 또는 음성 명령 중 적어도 하나를 입력받는 입력부를 더 포함하는 것인, 디스플레이 장치.
The method of claim 1,
The display device further comprising an input unit receiving at least one of a touch command or a voice command from a user for the output content.
삭제delete 제 1 항에 있어서,
상기 출력부는 상기 측정된 디스플레이 장치의 각도 및 상기 제 2 촬영부로부터 촬영된 상기 사용자의 얼굴의 이미지로부터 도출된 상기 사용자의 위치에 기초하여 상기 컨텐츠의 출력 위치를 조절하는 것인, 디스플레이 장치.
The method of claim 1,
The output unit adjusts the output position of the content based on the measured angle of the display device and the position of the user derived from the image of the user's face photographed by the second photographing unit.
디스플레이 장치에서 상품과 관련된 컨텐츠를 제공하는 방법에 있어서,
상기 디스플레이 장치에 구비된 제 1 카메라를 통해 상품을 촬영하는 단계;
상기 디스플레이 장치에 구비된 제 2 카메라를 통해 사용자의 얼굴을 촬영하는 단계;
상기 디스플레이 장치의 각도를 측정하는 단계;
상기 촬영된 상품에 대한 정보 및 상기 촬영된 사용자의 얼굴에 대한 정보를 서버로 전송하는 단계;
상기 서버로부터 분석된 상기 상품에 대한 정보 및 상기 사용자의 얼굴에 대한 정보 중 적어도 하나와 관련된 인식 정보를 수신하는 단계; 및
상기 인식 정보와 관련된 컨텐츠를 출력하는 단계를 포함하되,
상기 컨텐츠를 출력하는 단계는 상기 측정된 디스플레이 장치의 각도에 기초하여 상기 컨텐츠의 출력 위치를 조절하는 것이되,
상기 디스플레이 장치는 복수의 상품이 진열된 진열대 상에서 상기 복수의 상품의 전방에 위치하고,
상기 디스플레이 장치는, 상기 디스플레이 장치가 상기 복수의 상품 중 어느 하나의 전방으로 이동되기 위한 이동 기구를 포함하고,
상기 인식 정보를 수신하는 단계는,
상기 디스플레이 장치가 상기 이동 기구를 통해 상기 복수의 상품 중 어느 하나의 전방으로 이동된 경우, 상기 서버로부터 상기 디스플레이 장치가 이동된 위치에서 촬영된 특정 상품의 식별자를 포함하는 상품 인식 정보 및 상기 사용자의 선호 정보를 포함하는 사용자 인식 정보를 수신하는 단계를 포함하고,
상기 컨텐츠를 출력하는 단계는,
상기 특정 상품의 식별자에 기초하여 결정된 상기 특정 상품과 관련된 복수의 컨텐츠 중 상기 사용자의 선호 정보에 기초하여 결정된 최적 컨텐츠를 출력하는 단계를 포함하는 것인, 컨텐츠 제공 방법.
In a method of providing content related to a product in a display device,
Photographing a product through a first camera provided in the display device;
Capturing a user's face through a second camera provided in the display device;
Measuring an angle of the display device;
Transmitting information on the photographed product and information on the photographed user's face to a server;
Receiving recognition information related to at least one of information on the product and information on the user's face analyzed from the server; And
Including the step of outputting the content related to the recognition information,
The step of outputting the content is adjusting the output position of the content based on the measured angle of the display device,
The display device is located in front of the plurality of products on a display stand on which a plurality of products are displayed,
The display device includes a moving mechanism for moving the display device to the front of any one of the plurality of products,
Receiving the recognition information,
When the display device is moved to the front of any one of the plurality of products through the moving mechanism, product identification information including an identifier of a specific product photographed at a location where the display device is moved from the server, and the user's Receiving user recognition information including preference information,
The step of outputting the content,
And outputting an optimal content determined based on preference information of the user among a plurality of contents related to the specific product determined based on the identifier of the specific product.
제 11 항에 있어서,
상기 사용자 인식 정보는 상기 사용자의 회원 정보, 과거 구매 이력 및 선호 상품 중 적어도 하나를 더 포함하는 것인, 컨텐츠 제공 방법.
The method of claim 11,
The user recognition information further includes at least one of member information of the user, a past purchase history, and a preferred product.
제 12 항에 있어서,
상기 사용자 인식 정보 및 상기 상품 인식 정보에 기초하여 출력될 컨텐츠를 결정하는 단계를 더 포함하는 것인, 컨텐츠 제공 방법.
The method of claim 12,
And determining the content to be output based on the user recognition information and the product recognition information.
제 13 항에 있어서,
상기 컨텐츠를 결정하는 단계는 상기 상품에 대한 복수의 컨텐츠 중 상기 과거 구매 이력 및 선호 상품 중 적어도 어느 하나를 더 고려하여 상기 최적 컨텐츠를 결정하는 것인, 컨텐츠 제공 방법.
The method of claim 13,
The determining of the content further comprises determining the optimal content by further considering at least one of the past purchase history and the preferred product among a plurality of contents for the product.
제 11 항에 있어서,
데이터베이스에 각 상품마다 다양한 컨텐츠가 저장되고,
상기 다양한 컨텐츠는 프로모션에 대한 컨텐츠, 광고에 대한 컨텐츠, 기능에 대한 컨텐츠 중 적어도 하나를 포함하는 것인, 컨텐츠 제공 방법.
The method of claim 11,
Various contents are stored for each product in the database,
The various contents include at least one of contents for promotion, contents for advertisement, and contents for function.
제 15 항에 있어서,
상기 다양한 컨텐츠는 증강 현실, 가상 현실 또는 혼합 현실 컨텐츠를 포함하는 것인, 컨텐츠 제공 방법.
The method of claim 15,
The various contents will include augmented reality, virtual reality or mixed reality contents.
제 13 항에 있어서,
상기 컨텐츠를 결정하는 단계는 상기 상품의 상태가 변경됨에 따라 상기 출력될 컨텐츠를 변경하는 것인, 컨텐츠 제공 방법.
The method of claim 13,
The determining of the content includes changing the content to be output as the state of the product changes.
제 11 항에 있어서,
상기 출력된 컨텐츠에 대해 사용자로부터 터치 명령 또는 음성 명령 중 적어도 하나를 입력받는 단계를 더 포함하는 것인, 컨텐츠 제공 방법.
The method of claim 11,
The content providing method further comprising receiving at least one of a touch command or a voice command from a user for the output content.
제 11 항에 있어서,
상기 컨텐츠를 출력하는 단계는 상기 측정된 디스플레이 장치의 각도 및 상기 제 2 촬영부로부터 촬영된 상기 사용자의 얼굴의 이미지로부터 도출된 상기 사용자의 위치에 기초하여 상기 컨텐츠의 출력 위치를 조절하는 것인, 컨텐츠 제공 방법.
The method of claim 11,
The outputting of the content includes adjusting the output position of the content based on the measured angle of the display device and the location of the user derived from the image of the user's face taken from the second photographing unit, How to provide content.
상품과 관련된 컨텐츠를 제공하는 서버에 있어서,
디스플레이 장치로부터 상기 디스플레이 장치에 의해 촬영된 상품에 대한 정보 및 사용자의 얼굴에 대한 정보를 수신하는 수신부;
상기 수신한 상품에 대한 정보 및 사용자의 얼굴에 대한 정보를 분석하는 분석부;
상기 분석된 상품에 대한 정보에 기초하여 상품 인식 정보를 추출하고, 상기 분석된 사용자의 얼굴에 대한 정보에 기초하여 사용자 인식 정보를 추출하는 추출부;
상기 추출된 상품 인식 정보 및 사용자 인식 정보를 포함하는 인식 정보를 상기 디스플레이 장치로 전송하는 전송부를 포함하되,
상기 인식 정보에 기초하여 상기 상품과 관련된 컨텐츠가 상기 디스플레이 장치에서 출력되고,
상기 컨텐츠는 상기 디스플레이 장치에서 측정된 상기 디스플레이 장치의 각도에 기초하여 출력 위치가 조절되는 것이되,
상기 디스플레이 장치는 복수의 상품이 진열된 진열대 상에서 상기 복수의 상품의 전방에 위치하고,
상기 디스플레이 장치는, 상기 디스플레이 장치가 상기 복수의 상품 중 어느 하나의 전방으로 이동되기 위한 이동 기구를 포함하고,
상기 전송부는 상기 디스플레이 장치가 상기 이동 기구를 통해 상기 복수의 상품 중 어느 하나의 전방으로 이동된 경우, 상기 디스플레이 장치가 이동된 위치에서 촬영한 특정 상품의 식별자를 포함하는 상품 인식 정보 및 상기 사용자의 선호 정보를 포함하는 사용자 인식 정보를 상기 디스플레이 장치로 전송하고,
상기 특정 상품의 식별자에 기초하여 결정된 상기 특정 상품과 관련된 복수의 컨텐츠 중 상기 사용자의 선호 정보에 기초하여 결정된 최적 컨텐츠가 상기 디스플레이 장치에서 출력되는 것인, 서버.
In a server that provides content related to a product,
A receiving unit configured to receive information on a product photographed by the display device and information on a user's face from a display device;
An analysis unit for analyzing information on the received product and information on a user's face;
An extraction unit for extracting product recognition information based on the analyzed product information, and extracting user recognition information based on the analyzed user's face information;
Including a transmission unit for transmitting recognition information including the extracted product recognition information and user recognition information to the display device,
Content related to the product is output from the display device based on the recognition information,
The content is output position is adjusted based on the angle of the display device measured by the display device,
The display device is located in front of the plurality of products on a display stand on which a plurality of products are displayed,
The display device includes a moving mechanism for moving the display device to the front of any one of the plurality of products,
When the display device is moved to the front of any one of the plurality of products through the moving mechanism, the transmission unit includes product identification information including an identifier of a specific product photographed at the position where the display device is moved, and the user's Transmitting user recognition information including preference information to the display device,
The server, wherein the optimal content determined based on the user's preference information among a plurality of contents related to the specific product determined based on the identifier of the specific product is output from the display device.
KR1020180109935A 2018-09-14 2018-09-14 Display device, method and server for providing augmented reality, virtual reality or mixed reality contents KR102188929B1 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020180109935A KR102188929B1 (en) 2018-09-14 2018-09-14 Display device, method and server for providing augmented reality, virtual reality or mixed reality contents
CN201980060021.3A CN112703524A (en) 2018-09-14 2019-07-10 Display device, method and server for providing augmented reality, virtual reality or mixed reality content related to commodity
PCT/KR2019/008489 WO2020054957A1 (en) 2018-09-14 2019-07-10 Display device, method and server for providing augmented reality, virtual reality or mixed reality content associated with product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180109935A KR102188929B1 (en) 2018-09-14 2018-09-14 Display device, method and server for providing augmented reality, virtual reality or mixed reality contents

Publications (2)

Publication Number Publication Date
KR20200031216A KR20200031216A (en) 2020-03-24
KR102188929B1 true KR102188929B1 (en) 2020-12-09

Family

ID=69777900

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180109935A KR102188929B1 (en) 2018-09-14 2018-09-14 Display device, method and server for providing augmented reality, virtual reality or mixed reality contents

Country Status (3)

Country Link
KR (1) KR102188929B1 (en)
CN (1) CN112703524A (en)
WO (1) WO2020054957A1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102417084B1 (en) * 2020-12-02 2022-07-06 주식회사 픽스트리 Method And System for Transmitting and Receiving Multi-Channel Media
WO2023157112A1 (en) * 2022-02-16 2023-08-24 日本電気株式会社 Goods display assistance system, goods display assistance method, and recording medium

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013054593A (en) * 2011-09-05 2013-03-21 Toshiba Tec Corp Information processor and program

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009105559A (en) * 2007-10-22 2009-05-14 Nec Saitama Ltd Method of detecting and processing object to be recognized from taken image, and portable electronic device with camera
KR101638631B1 (en) * 2009-05-25 2016-07-11 엘지전자 주식회사 Display apparatus and control method viewing angle thereof
KR20130117303A (en) * 2012-04-18 2013-10-25 삼성전자주식회사 Method for displaying augmented reality image and an electronic device thereof
CN102880974A (en) * 2012-09-12 2013-01-16 江苏乐买到网络科技有限公司 System for sending commodity group purchase information to user
KR101553067B1 (en) * 2012-11-22 2015-09-15 강원대학교산학협력단 Augmented reality Navigator
KR20160023208A (en) * 2014-08-21 2016-03-03 엘지전자 주식회사 Mirror display device and operating method thereof
KR101602828B1 (en) * 2014-09-01 2016-03-14 유형근 The interactive digital signage
CN105096180A (en) * 2015-07-20 2015-11-25 北京易讯理想科技有限公司 Commodity information display method and apparatus based augmented reality
KR102335060B1 (en) * 2015-11-09 2021-12-03 에스케이텔레콤 주식회사 Method for providing agumented reality
CN107507017A (en) * 2017-07-07 2017-12-22 阿里巴巴集团控股有限公司 Shopping guide method and device under a kind of line
CN107358451A (en) * 2017-07-17 2017-11-17 竹间智能科技(上海)有限公司 A kind of interactive intelligent witch mirror
CN108009891A (en) * 2017-12-15 2018-05-08 杨智勇 System and shelf and information displaying method based on Rich Media's display of commodity information

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013054593A (en) * 2011-09-05 2013-03-21 Toshiba Tec Corp Information processor and program

Also Published As

Publication number Publication date
CN112703524A (en) 2021-04-23
KR20200031216A (en) 2020-03-24
WO2020054957A1 (en) 2020-03-19

Similar Documents

Publication Publication Date Title
CN108712603B (en) Image processing method and mobile terminal
JP6441231B2 (en) Apparatus, system and method for imaging and displaying appearance
US10373235B2 (en) Table-side information device imaging capture
US20120224070A1 (en) Eyeglasses with Integrated Camera for Video Streaming
KR101598069B1 (en) System and method for eye alignment in video
KR101978299B1 (en) Apparatus for service contents in contents service system
US20100253778A1 (en) Media displaying system and method
CN109493122A (en) Passenger flow statistics analysis method, terminal and storage medium for solid shop
CN109361869A (en) A kind of image pickup method and terminal
KR102188929B1 (en) Display device, method and server for providing augmented reality, virtual reality or mixed reality contents
CN104853134A (en) Video communication method and video communication device
US20160277707A1 (en) Message transmission system, message transmission method, and program for wearable terminal
WO2020151255A1 (en) Display control system and method based on mobile terminal
KR101996211B1 (en) A beauty shop operation and customer management system
KR102586911B1 (en) Intelligent Marketing and Advertising Platform
US11520309B2 (en) Operating system for advertisement-type 3D printer compatible with IoT
CN107204026B (en) Method and device for displaying animation
CN110889006A (en) Recommendation method and device
CN113014960B (en) Method, device and storage medium for online video production
JP7206741B2 (en) HEALTH CONDITION DETERMINATION SYSTEM, HEALTH CONDITION DETERMINATION DEVICE, SERVER, HEALTH CONDITION DETERMINATION METHOD, AND PROGRAM
KR102434017B1 (en) Augmented reality content display device
CN110784676A (en) Data processing method, terminal device and computer readable storage medium
US9699123B2 (en) Methods, systems, and non-transitory machine-readable medium for incorporating a series of images resident on a user device into an existing web browser session
US20220172413A1 (en) Method for generating realistic content
JP2003168021A (en) Image transmission system, communication control device and communication control method

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant