WO2018143630A1 - 상품을 추천하는 디바이스 및 방법 - Google Patents

상품을 추천하는 디바이스 및 방법 Download PDF

Info

Publication number
WO2018143630A1
WO2018143630A1 PCT/KR2018/001240 KR2018001240W WO2018143630A1 WO 2018143630 A1 WO2018143630 A1 WO 2018143630A1 KR 2018001240 W KR2018001240 W KR 2018001240W WO 2018143630 A1 WO2018143630 A1 WO 2018143630A1
Authority
WO
WIPO (PCT)
Prior art keywords
user
product
satisfaction
data
information
Prior art date
Application number
PCT/KR2018/001240
Other languages
English (en)
French (fr)
Inventor
윤소정
장준익
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to CN201880008158.XA priority Critical patent/CN110249360B/zh
Priority to US16/469,280 priority patent/US11151453B2/en
Priority to EP18747326.9A priority patent/EP3537368A4/en
Publication of WO2018143630A1 publication Critical patent/WO2018143630A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Item recommendations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241—Advertisements
    • G06Q30/0251—Targeted advertisements
    • G06Q30/0255—Targeted advertisements based on user history
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241—Advertisements
    • G06Q30/0251—Targeted advertisements
    • G06Q30/0269—Targeted advertisements based on user profile or attribute
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0633—Lists, e.g. purchase orders, compilation or processing
    • G06Q30/0635—Processing of requisition or of purchase orders
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0641—Shopping interfaces
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174—Facial expression recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30108—Industrial image inspection

Definitions

  • the present disclosure relates to a device and a method for recommending a product, and more particularly, to a device and a method for recommending a product to a user based on facial expression information of a user on a displayed product.
  • AI Artificial Intelligence
  • AI technology is composed of elementary technologies that utilize machine learning (deep learning) and machine learning.
  • Machine learning is an algorithm technology that classifies / learns characteristics of input data by itself
  • element technology is a technology that simulates the functions of human brain cognition and judgment by using machine learning algorithms such as deep learning. It consists of technical areas such as understanding, reasoning / prediction, knowledge representation, and motion control.
  • Linguistic understanding is a technology for recognizing and applying / processing human language / characters and includes natural language processing, machine translation, dialogue system, question and answer, speech recognition / synthesis, and the like.
  • Visual understanding is a technology that recognizes and processes objects as human vision, and includes object recognition, object tracking, image retrieval, person recognition, scene understanding, spatial understanding, and image enhancement.
  • Inference Prediction is a technique for judging, logically inferring, and predicting information. It includes knowledge / probability-based inference, optimization prediction, preference-based planning, and recommendation.
  • Knowledge expression is a technology that automatically processes human experience information into knowledge data, and includes knowledge construction (data generation / classification) and knowledge management (data utilization).
  • Motion control is a technology for controlling autonomous driving of a vehicle and movement of a robot, and includes motion control (navigation, collision, driving), operation control (action control), and the like.
  • a user can be provided with various services using a device.
  • the user can express the user's emotion through the facial expression and perform the operation of the device according to the facial expression information of the user.
  • An embodiment is to provide a device and a method for selecting a product to be recommended to a user from facial expression information of a user using a learning model trained using an artificial intelligence algorithm.
  • One embodiment provides a device and method for determining a user's satisfaction with a product from facial expression information of a user and selecting a product to be recommended to the user based on the determined satisfaction.
  • an embodiment is to provide a device and method for selecting a product to recommend to the user based on the user's satisfaction with the product and the similarity between the plurality of product sets.
  • an embodiment is to provide a device and method for selecting a product to recommend to the user based on the user's satisfaction with the product and the purchase history information of other users who purchased the product.
  • an embodiment includes a display unit; A camera for photographing the user; A memory in which at least one program is stored; And at least one processor for recommending a product based on facial expression information of the user by executing at least one program, wherein the at least one program comprises: obtaining facial expression information of the user for the displayed product; Determining a user's satisfaction with the displayed product based on the obtained facial expression information of the user; Selecting a product set to be recommended to the user among the plurality of product sets based on the determined user satisfaction; And displaying at least one product included in the selected product set; and including instructions for executing, determining the satisfaction level includes determining satisfaction level from facial expression information using a learning model trained using an artificial intelligence algorithm. It is possible to provide a device, characterized in that.
  • 1 is a diagram illustrating an example in which the device 1000 acquires emotion information of a user and recommends a product.
  • FIG 2 is a flowchart of a method in which the device 1000 recommends a product based on facial expression information of a user, according to an exemplary embodiment.
  • 3A and 3B are diagrams illustrating examples in which the device 1000 determines satisfaction based on facial expression information of a user.
  • FIG. 4 is a flowchart of a method in which the device 1000 recommends a product based on a user's satisfaction and a similarity between product sets according to an embodiment.
  • 5A to 5B are diagrams illustrating examples in which the device 1000 recommends a product set based on a user's satisfaction and similarity between product sets.
  • FIG. 6 is a flowchart illustrating a method in which the device 1000 recommends a product based on a user's satisfaction and related information of the user, according to an exemplary embodiment.
  • FIG. 7 is a flowchart illustrating a method in which a device 1000 recommends a product based on facial expression information and motion information according to an exemplary embodiment.
  • FIG. 8 is a diagram illustrating an example in which the device 1000 recommends a product set including other goods that can be worn together with the displayed goods.
  • FIG. 9 is a flowchart of a method of determining, by a device, whether a user purchases a product according to an embodiment.
  • FIGS. 10 and 11 are block diagrams of a device 1000 according to an embodiment.
  • FIG. 12 is a block diagram of a processor 1300 according to an embodiment.
  • FIG. 13 is a block diagram of the data learner 1310, according to an exemplary embodiment.
  • FIG. 14 is a block diagram of a data recognizer 1320 according to an embodiment.
  • 15 is a diagram illustrating an example in which the device 1000 and the server 2000 learn and recognize data by interworking with each other, according to an exemplary embodiment.
  • the first aspect of the present disclosure is a display unit; A camera for photographing the user; A memory in which at least one program is stored; And at least one processor for recommending a product based on facial expression information of the user by executing at least one program, wherein the at least one program comprises: obtaining facial expression information of the user for the displayed product; Determining a user's satisfaction with the displayed product based on the obtained facial expression information of the user; Selecting a product set to be recommended to the user among the plurality of product sets based on the determined user satisfaction; And displaying at least one product included in the selected product set; and including instructions for executing, determining the satisfaction level includes determining satisfaction level from facial expression information using a learning model trained using an artificial intelligence algorithm. It is possible to provide a device, characterized in that.
  • a second aspect of the present disclosure provides a method of recommending a product by a device, the method comprising: displaying a product selected by a user; Obtaining facial expression information of the user for the displayed product; Determining a user's satisfaction with the displayed product based on the obtained facial expression information of the user; Selecting a product set to be recommended to the user among the plurality of product sets based on the determined user satisfaction; And displaying at least one product included in the selected product set.
  • the device may provide a method of determining satisfaction from facial expression information using a learning model trained using an artificial intelligence algorithm.
  • the third aspect of the present disclosure can provide a computer readable recording medium having recorded thereon a program for executing the method of the second aspect on a computer.
  • the method further comprises at least one of: the user's association information includes at least one of a user's gender, a user's height, a user's weight, a user's age, a user's purchase history, a user's occupation, a user's worn clothing, and a user's income It may be characterized by including information about one.
  • the method may be characterized in that the operation information of the user includes information about at least one of a gesture of the user, a gaze direction, and a duration of time when the user gazes at the displayed product.
  • the method may include selecting a set of products to be recommended based on purchase history information of other users of the displayed products.
  • the method may further include displaying a GUI for determining whether to purchase the displayed product based on the determined user satisfaction.
  • 1 is a diagram illustrating an example in which the device 1000 acquires emotion information of a user and recommends a product.
  • the device 1000 may obtain user's emotion information on the displayed product set 510 or the displayed product 511, and determine the user's satisfaction based on the obtained emotion information. have.
  • the device 1000 may select a product set 530 to be recommended to the user based on the determined user's satisfaction.
  • the device 1000 may select a product set 530 to be recommended to the user based on similarity between the plurality of product sets or purchase history information of other users.
  • the device 1000 may recommend a product set or a product in the product set.
  • the emotion information of the user may be information about an emotion state that the user feels with respect to the product 511 displayed on the device 1000.
  • the emotional state of the user may include, for example, anger, sadness, surprise, joy, and happiness, but is not limited thereto.
  • the device 1000 may obtain the emotion information of the user from facial expression information of the user, voice information of the user, or motion information of the user. For example, the device 1000 may acquire the facial expression information of the user on the displayed product 511 using the camera 1610, and based on the emotion state of the user indicated in the acquired facial expression information of the user The user's emotion information about 511 may be obtained. In addition, the device 1000 may obtain voice information of the user on the displayed product 511 using the microphone 1620, and based on the emotion state of the user included in the acquired voice information, the product 511 may be obtained. Emotion information of the user may be obtained. In addition, the device 1000 may obtain the user's motion information on the displayed product 511 using the camera 1610, and display the product 511 based on the emotional state of the user indicated in the obtained motion information. Emotion information of the user may be obtained.
  • the device 1000 may be a digital signage, but is not limited thereto and may include all kinds of devices including the display unit 1210 and the camera 1610. Can be.
  • the device 1000 may be a smart phone, a tablet PC, a PC, a smart TV, a mobile phone, a personal digital assistant (PDA), a laptop, a media player, a micro server, a global positioning system (GPS) device, an e-book device, a digital device. Broadcast terminals, navigation, kiosks, MP3 players, digital cameras, home appliances, and other mobile or non-mobile computing devices, but is not limited thereto.
  • the device 1000 may be a wearable device such as a watch, glasses, a hair band, and a ring having a communication function and a data processing function, but is not limited thereto.
  • FIG 2 is a flowchart of a method in which the device 1000 recommends a product based on facial expression information of a user, according to an exemplary embodiment.
  • the device 1000 may display a product.
  • the device 1000 may display one of the products included in the product set, and display the products included in the product set one by one at a predetermined time interval in a preset order.
  • the device 1000 may display the product with the highest sales volume among the products stored in the device 1000 or the server, or may display the product that the user has searched most recently.
  • the device 1000 may display a product selected by the user.
  • the device 1000 may display the selected product in response to a user's input for selecting one product.
  • the user may select a product by touching the display unit 1210 included in the device 1000, and may display an identification mark (eg, a barcode, a product identification code, an electronic product code, etc.) included in the product in advance.
  • the product may be selected by recognizing the identification display recognizing apparatus provided in the device 1000.
  • the device 1000 may display not only a product but also a product set including the displayed product together with the product.
  • the device 1000 may display a product set on the upper part or the lower part of the display unit 1210, and display the product set on the right part or the left part.
  • the display of the product or the display of the product and the product set is not limited thereto, and the product or the product set may be variously displayed according to the configuration, location, and size preset in the device 1000 or the server.
  • the device 1000 may obtain facial expression information of the user regarding the displayed product.
  • the device 1000 may include a camera 1610 capable of capturing an image of a face of a user who uses the device 1000.
  • the device 1000 may acquire a face image of the user by using the camera 1610, and obtain the facial expression information of the user from the acquired face image of the user.
  • the acquired face image of the user may be a still image or a moving image.
  • the facial expression information of the user is information representing the facial expression of the user and may be obtained from a face image of the user looking at a product displayed on the device 1000. Also, the psychological state felt by the user with respect to the displayed product may be reflected on the face of the user, and the facial expression information may be obtained from the face image of the user in which the psychological state of the user is reflected.
  • the device 1000 may obtain user's emotion information on the displayed product based on the obtained facial expression information of the user.
  • Which facial expression information the user's face image represents may be determined according to learning based on a predetermined criterion.
  • the device 1000 may quickly and accurately determine facial expression information of the user from the face image of the user.
  • the device 1000 may determine the user's satisfaction with the displayed product, based on the obtained facial expression information of the user.
  • the device 1000 may determine a user's satisfaction with the displayed product from the facial expression information of the user using a learning model trained using an artificial intelligence algorithm. For example, the device 1000 may determine a user's satisfaction from facial expression information by using a learning model trained using at least one of machine learning, neural networks, genes, deep learning, and classification algorithms as artificial intelligence algorithms.
  • the device 1000 may obtain emotion information of the user regarding the displayed goods from the facial expression information of the user.
  • the device 1000 may determine the emotional state of the user corresponding to the obtained facial expression information. For example, if the device 1000 obtains facial expression information indicating happiness, it may be determined that the emotional state of the user is happiness.
  • the device 1000 may determine the user's satisfaction with the displayed product based on the obtained emotional state of the user.
  • the device 1000 may determine the emotional state of the user as 'fun' from the acquired facial expression information of the user, and in this case, may determine that the user's satisfaction with the displayed product is high.
  • the device 1000 may determine the emotional state of the user as 'angry' from the obtained facial expression information of the user, and in this case, may determine that the user's satisfaction with the displayed product is low.
  • the device 1000 may previously store information about the user's satisfaction corresponding to the emotional state of the user in the device 1000 or the server.
  • Which emotional state the facial expression information of the user indicates may be determined according to learning based on predetermined criteria.
  • the emotional state of the user may be determined according to learning based on a preset criterion indicating the degree of satisfaction.
  • the device 1000 may quickly and accurately determine the emotional state that the user feels about the displayed product from the facial expression information of the user.
  • the device 1000 may clearly and precisely determine how satisfied the user's emotional state represents the displayed product.
  • the device 1000 may select a product set to be recommended to the user among the plurality of product sets based on the determined user satisfaction. In an embodiment, the device 1000 may recommend another product to the user in consideration of the user's satisfaction with the displayed product.
  • the device 1000 may select a product set to be recommended to the user from the user's satisfaction with the displayed product by using a learning model trained using an artificial intelligence algorithm.
  • the device 1000 may select a product set including products similar to the displayed product. If the user's satisfaction with the displayed product is low, the device 1000 may select a product set including products that are not similar to the displayed product.
  • the device 1000 may accurately select a product set that the user prefers more than the displayed product based on the user's satisfaction.
  • the device 1000 may quickly and clearly recommend a product set that will display a higher satisfaction level than the displayed product, based on the user's satisfaction.
  • the acquisition of the emotional state of the user, the determination of the user's satisfaction, and the selection of the product set to be recommended to the user are performed based on separate learning, but are not limited thereto. At least two or more of acquiring a user's emotional state, determining a user's satisfaction, and selecting a product set to be recommended to the user may be performed by one learning model.
  • acquiring a user's emotional state, determining a user's satisfaction, and selecting a product set to be recommended to the user may be performed based on learning according to deep neural network technology.
  • the device 1000 may display the selected product set or at least one product included in the selected product set.
  • the device 1000 may display a product having the highest priority among a plurality of products included in the selected product set.
  • the priority among the plurality of products may be preset based on a product sales volume, reviews of other users, and the like.
  • the device 1000 may display a product included in the product set most recently from among the products included in the selected product set, or display a product of the lowest price or a product of the highest price.
  • the device 1000 may display one of the products included in the product set, and may display the products included in the product set at predetermined time intervals according to a preset order.
  • 3A and 3B are diagrams illustrating examples in which the device 1000 determines satisfaction based on facial expression information of a user.
  • the device 1000 may obtain the facial expression information of the user from the face image of the user, and obtain the emotional state of the user from the obtained facial expression information of the user.
  • the device 1000 may obtain the emotional state of the user by matching the face image of the user with a table 300 of the preset emotional state of the user.
  • the table 300 of the emotional state of the user may be a table that analyzes and expresses the emotion of the user based on the activity of arousal 301 and the positiveness of the emotion 302. On the table 300 of the emotional state of the user The emotional state of the user may be continuously displayed based on the activity 301 of the arousal and the affirmation 302 of the emotion.
  • the device 1000 may obtain the emotional state of the user by matching the facial expression of the user with the preset table 300.
  • the obtained emotional state of the user may correspond to an emotional state such as 'happy', 'happy', or 'sad' shown in the table 300.
  • the obtained emotional state of the user may be an emotional state shown in the table 300 or positioned between the predefined emotional states.
  • the emotional state of the user may correspond to one of the emotional states continuously displayed on the table 300.
  • the emotional state of the user may be displayed as one point on the table 300, and the device 1000 may obtain the emotional state of the user by using coordinate values of the corresponding point.
  • the device 1000 may obtain facial expression information 310 to 360 of the user based on the degree of change of the face image of the user.
  • the device 1000 may acquire a reference face image of the user, which is a face image of the user, before displaying the product.
  • the device 1000 may obtain a change face image of the user, which is a face image of the user, after displaying the product.
  • the device 1000 may obtain the facial expression information 310 to 360 of the user by comparing the acquired reference face image with the changed facial image of the user.
  • the device 1000 compares the reference face image of the user with the changing face image of the user, such as a change in the shape of the pupil of the user, a change in the shape of the eyes, a change in the shape of the eyebrows, a change in the shape of the mouth, and a change in the clown position
  • the change of the image can be obtained.
  • the device 1000 may obtain the facial expression information 310 to 360 of the user by matching the acquired degree of change of the facial image with the facial expression information preset in the device 1000 or the server.
  • the device 1000 may extract keypoints from the changing face image of the user to obtain the facial expression information 310 to 360 of the user.
  • the feature points move a lot according to the change in the user's facial expression, but may be mainly distributed in the corners of the eyes, eyebrows, mouth, and the clown, which are easy to identify even when the user's facial expression changes.
  • the device 1000 may obtain the facial expression information 310 to 360 of the user by matching the feature points extracted from the user's changing face image with the feature points of the facial expression information preset in the device 1000 or the server.
  • the preset facial expression information may be information about human facial expressions classified based on a predetermined criterion.
  • the preset facial expression information may include an image of a face according to facial expression information, a degree of change of a face corresponding to facial expression information, information about a feature point corresponding to facial expression information, but is not limited thereto.
  • the device 1000 may determine a preset emotional state corresponding to the obtained facial expression information 310 to 360 as the emotional state of the user. For example, if the device 1000 obtains facial expression information 360 indicating happiness from the face image of the user, the user may determine that the emotional state of the user is happiness.
  • the emotional state of the user indicated by the facial expression information 310 to 360 of the user may include anger, sadness, surprise, joy, happiness, etc., but is not limited thereto.
  • the reference emotional state of the user may be an emotional state indicated by facial expression information before the user views the displayed product.
  • the device 1000 may determine the user's satisfaction with the displayed product based on the acquired emotional state of the user. In an embodiment, the device 1000 may quantify the satisfaction level corresponding to the emotional state of the user.
  • the device 1000 may determine the user's satisfaction as a number between 0 and 1 based on the facial expression information 310 to 360 of the user, but is not limited thereto. The greater the user's satisfaction with the displayed merchandise, the greater the satisfaction of the user can be determined.
  • the device 1000 may determine the user satisfaction as 0.1.
  • the device 1000 may determine the user's satisfaction as 0.2.
  • the device 1000 may determine the user's satisfaction as 0.6.
  • the device 1000 may determine the user's satisfaction as 0.9. have.
  • the correspondence relationship between the facial expression information 310 to 360 of the user or the emotional state of the user and the user's satisfaction may be preset in the device 1000 or the server.
  • the correspondence relationship may be set differently for each user.
  • Which emotional state the facial expression information of the user may be determined according to learning using an artificial intelligence algorithm. Alternatively, what emotional state the facial expression information of the user indicates may be determined according to learning based on a predetermined criterion. In addition, the emotional state of the user may be determined according to learning based on a preset criterion indicating the degree of satisfaction.
  • the device 1000 may obtain information regarding a face, an expression, a voice, and an operation of a person. In addition, the device 1000 may acquire face image data.
  • the device 1000 may learn a criterion about how to obtain facial expression information based on image data of the user.
  • the device 1000 may learn a criterion about how to determine the emotional state of the user based on the facial expression information of the user or the motion information of the user.
  • the device 1000 may acquire face image data of the user using a camera.
  • the device 1000 may provide a recognition result by analyzing the acquired face image of the user.
  • the device 1000 may provide a result of recognizing a facial expression of a user included in the acquired face image of the user.
  • the recognition result of the face image of the user may be, for example, the emotional state of the user, the satisfaction of the user, the related information of the user, and the like.
  • FIG. 4 is a flowchart of a method in which the device 1000 recommends a product based on a user's satisfaction and a similarity between product sets according to an embodiment.
  • the device 1000 may display a product.
  • the device 1000 may obtain facial expression information of the user regarding the displayed product.
  • the device 1000 may determine the user's satisfaction with the displayed product based on the facial expression information of the user.
  • the device 1000 may select a product set to be recommended to the user based on the user's satisfaction with the displayed product and the similarity between the set including the displayed product and the plurality of product sets.
  • the similarity between the plurality of product sets may be preset in the device 1000 or the server.
  • the similarity of the set of long-sleeved cotton shirts and the set of long-sleeved linen shirts may be high, and the similarity of the set of long-sleeved cotton shirts and the set of long-sleeve pants may be low.
  • the device 1000 may determine a similarity corresponding to the user's satisfaction with the displayed product.
  • the device 1000 may recommend to the user a product set having a similarity determined between the product set including the displayed product. For example, the device 1000 may select a product set having a high similarity to the displayed product set as the user's satisfaction increases, and as the user's satisfaction decreases, the device 1000 may select a product set having a low similarity with the displayed product set. .
  • Which product set is selected according to the user's satisfaction and the similarity between the product sets may be determined according to learning based on predetermined criteria.
  • the device 1000 may accurately recommend a product that the user prefers more than the displayed product based on the satisfaction and the similarity between the product sets. In addition, the device 1000 may recommend an appropriate product to the user based on the user's satisfaction and the similarity between the product sets without the help of a cashier.
  • the device 1000 may display the selected product set or at least one product included in the selected product set. Since operation S480 of FIG. 4 corresponds to operation S280 of FIG. 2, a detailed description thereof will be omitted.
  • 5A to 5B are diagrams illustrating examples in which the device 1000 recommends a product set based on a user's satisfaction and similarity between product sets.
  • a product set may be a set including a product in which a plurality of parameters, such as a design, a material, a color, a wearing body part, and a wearing season, are defined at the same or the same level.
  • the first commodity set 510 may be a set of commodities having parameters such as jean material, a top, a long sleeve design, a basic length, a coat, and a wear in spring or autumn.
  • the third product set 530 may be a collection of products having parameters such as cotton material, top, long sleeve design, long length, coat, and wear in spring or autumn.
  • the similarity between the two product sets may be determined to the same degree of parameters of the products included in the two product sets. For example, the similarity between two product sets having the same 10 parameters may be greater than the similarity between two product sets having the same two parameters.
  • the similarity between the plurality of product sets can be quantified.
  • the similarity between the plurality of product sets may be determined by a number between 0 and 1, but is not limited thereto. The greater the number of identical parameters between product sets, the greater the similarity between product sets can be determined.
  • the pair of product sets may be set to have different similarities, respectively.
  • the similarity between the pair of the first product set 510 and the second product set 520 may be 0.2, and the similarity between the pair of the first product set 510 and the fourth product set 540 may be 0.6.
  • the similarity between the pair of the first product set 510 and the fifth product set 550 may be 0.8.
  • the similarity of the pair of product sets may be preset in the device 1000 or the server.
  • the similarity between the product set and the product set may be changed based on the user's satisfaction.
  • new products may be added to the product set based on the user's satisfaction, and products included in the product set may be removed from the product set. For example, if the user's satisfaction with one of the products included in the product set is less than the preset threshold compared to the satisfaction with other products except one product, one product is removed from the product set. Can be.
  • the similarity between product sets may be changed based on the user's satisfaction.
  • the device 1000 may select the fifth product set 550 as the product set to be recommended to the user. If the user's satisfaction with the fifth product set 525 selected by the device 1000 is less than the preset threshold, the similarity between the first product set 510 and the fifth product set 550 is less than 0.8. can be changed.
  • the device 1000 may provide a user with a similarity between a product set 510 including a displayed product 511 and a plurality of product sets including no displayed product. You can select a set of products to recommend.
  • the device 1000 may determine a similarity corresponding to the user's satisfaction.
  • the device 1000 may select a product set to be recommended by using the determined similarity and a preset similarity between the product set including the displayed product and the plurality of product sets not including the displayed product.
  • the device 1000 may display the product 511 of the first product set 510.
  • the device 1000 may obtain facial expression information of the user regarding the displayed product 511.
  • the user's satisfaction with the displayed product 511 may be determined to be 0.2.
  • the similarity corresponding to the user's satisfaction 0.2 may be 0.2.
  • the product set similar to 0.2 as the first product set 510 may be the second product set 520.
  • the device 1000 may recommend the second product set 520 to a user who has a sad expression on the displayed product 511.
  • the user's satisfaction with the displayed product 511 may be determined as 0.9.
  • the similarity corresponding to 0.9 of the user's satisfaction may be 0.8.
  • the product set similar to 0.8 of the first product set 510 may be the fifth product set 550.
  • the device 1000 may recommend the fifth product set 550 to a user who has a happy expression on the displayed product 511.
  • the device 1000 may select a product set having the closest similarity to the determined similarity.
  • the user's satisfaction with the displayed product 511 may be determined as 0.6.
  • the similarity corresponding to 0.6 of the user's satisfaction may be 0.55.
  • a product set similar to 0.55 as the first product set 510 may not exist.
  • the device 1000 may recommend the fourth product set 540 having the determined similarity 0.55 and the closest similarity 0.6 to the user who has a happy expression on the displayed product 511.
  • FIG. 6 is a flowchart illustrating a method in which the device 1000 recommends a product based on a user's satisfaction and related information of the user, according to an exemplary embodiment.
  • the device 1000 may display a product.
  • the device 1000 may obtain facial expression information of the user regarding the displayed product.
  • the device 1000 may determine the user's satisfaction with the displayed product based on the facial expression information of the user.
  • the device 1000 may obtain related information of a user used to select a product set.
  • the association information of the user may include information about at least one of a user's gender, the user's height, the user's weight, the user's age, the user's purchase history, the user's occupation, the user's clothing, and the user's income have.
  • the device 1000 may obtain the related information of the user through the camera 1610 or may obtain the related information of the user through the user input unit 1100 or the touch screen.
  • the device 1000 may receive identification information from the user, and may obtain related information of the user stored in the device 1000 or the server using the received identification information.
  • the device 1000 may select a product set to be recommended to the user based on the user's satisfaction with the displayed product and the user's related information.
  • the device 1000 may first select product sets to be recommended to the user from among a plurality of product sets, based on the obtained user association information.
  • the device 1000 may analyze related information of other users who have purchased a product included in the product set.
  • the device 1000 may classify and store related information of other users who have purchased a product for each product set.
  • the device 1000 may determine whether to include the product set in the object to be recommended to the user by comparing the acquired user's related information with the related information of other shoppers previously stored for each product set.
  • the device 1000 may select only product sets for which the number of related information equal to the acquired user's related information is equal to or greater than a threshold value to be recommended as a product set object. On the other hand, the device 1000 may exclude product sets for which the number of pieces of related information different from the user's related information is greater than or equal to a threshold value from the object of recommendation.
  • the products included in product set A are purchased by women in their twenties office workers, the products included in product set B by many women in their thirties, and the products included in product set C by their twenties.
  • a lot of male athletes can buy a lot of products included in product set D, and office workers in their twenties, and a lot of office workers in their thirties.
  • the device 1000 may select only the product set B and the product set E having two or more pieces of related information identical to the user's related information as the recommendation object when the user is in his 30s and the occupation is a clerical worker.
  • the device 1000 may select a product set A, a product set B, or a product set D having two or more pieces of related information different from the user's related information. You can exclude from the recommendation.
  • the device 1000 may select a product set to be recommended based on the user's satisfaction from among the recommended object product sets reflecting the user's related information.
  • the degree of reflection of the related information of the user for selecting the recommendation target set may be adjusted using a threshold value.
  • the threshold can be reset by the user.
  • Which product set is selected according to the user's satisfaction and the user's related information may be determined according to learning based on predetermined criteria.
  • the device 1000 may recommend a product quickly and accurately based on the user's satisfaction and the user's related information.
  • the device 1000 may display the selected product set or at least one product included in the selected product set. Since operation S680 of FIG. 6 corresponds to operation S280 of FIG. 2, a detailed description thereof will be omitted.
  • FIG. 7 is a flowchart illustrating a method in which a device 1000 recommends a product based on facial expression information and motion information according to an exemplary embodiment.
  • operation S700 the device 1000 may display a product. Since operation S700 of FIG. 7 corresponds to operation S200 of FIG. 2, a detailed description thereof will be omitted.
  • the device 1000 may obtain facial expression information and operation information of the user regarding the displayed product.
  • the device 1000 may include a camera 1610 capable of capturing a body of a user who uses the device 1000.
  • the device 1000 may acquire a body image of the user by using the camera 1610, and obtain facial expression information and motion information of the user from the obtained body image of the user.
  • the obtained body image of the user may be a still image or a moving image.
  • the operation information of the user may include information regarding at least one of a gesture of the user, a gaze direction, and a duration of time when the user stares at the displayed product.
  • the device 1000 may obtain user's emotion information on the displayed product from the obtained user's operation information.
  • Which facial expression information or what motion information the user's body image represents may be determined according to learning based on preset criteria.
  • the device 1000 may determine the user's satisfaction with the displayed product based on the facial expression information and the motion information of the user.
  • the device 1000 may obtain user's emotion information on the displayed product from the obtained facial expression information and motion information of the user.
  • the device 1000 may determine the emotional state of the user corresponding to both the obtained facial expression information and the motion information.
  • the device 1000 may determine the user's satisfaction with the displayed product based on the obtained emotional state of the user.
  • the device 1000 may determine the user's satisfaction with the displayed product by adding the satisfaction determined based on the facial expression information and the satisfaction determined based on the motion information at a preset ratio. For example, the device 1000 may determine a user's satisfaction by adding a value multiplied by 0.5 to a satisfaction determined based on facial expression information and a value multiplied by 0.5 by a satisfaction determined based on motion information.
  • Which emotional state the facial expression information and the motion information of the user indicate may be determined according to learning based on predetermined criteria.
  • the emotional state of the user may be determined according to learning based on a preset criterion indicating the degree of satisfaction.
  • the device 1000 may appropriately recommend a product that the user wants to purchase based on facial expression information and motion information of the user.
  • the device 1000 may grasp the emotional state of the user from the image of the user in detail, and accurately recommend a product having a higher user satisfaction than the displayed product.
  • the device 1000 may select a product set to be recommended to the user from among the plurality of product sets based on the determined user satisfaction.
  • the device 1000 may display the selected product set or at least one product included in the selected product set.
  • FIG. 8 is a diagram illustrating an example in which the device 1000 recommends a product set including other goods that can be worn together with the displayed goods.
  • the device 1000 may select another product set 810 including other products that can be worn together with the displayed product 511.
  • the device 1000 may display another product 811 included in the selected other product set 810.
  • the device 1000 may select another product set 810 to be recommended based on purchase history information of other users of the displayed product 511.
  • the device 1000 may display another selected product set 810 or may display another selected product 811 included in the selected other product set.
  • the device 1000 may display the displayed product 511 and the selected other product 811 together.
  • the device 1000 may display the products included in the selected product set 810 along with the displayed product 511 at predetermined time intervals in a preset order.
  • the device 1000 may recommend the product to be worn together with the displayed product based on the user's satisfaction.
  • the device 1000 may obtain emotion information of the user regarding the selected product set 810 or the selected product 811.
  • the device 1000 may determine the user's satisfaction with the product set 810 or the product 811 recommended as a product to be worn together based on the obtained emotion information.
  • the device 1000 may again select a product set or products to be worn together to be recommended to the user, based on the determined user satisfaction.
  • FIG. 9 is a flowchart of a method of determining, by a device, whether a user purchases a product according to an embodiment.
  • the device 1000 may display a product.
  • the device 1000 may obtain facial expression information of the user regarding the displayed product.
  • the device 1000 may determine the user's satisfaction with the displayed product based on the facial expression information of the user.
  • the device 1000 may determine whether the determined user satisfaction is equal to or greater than a threshold value related to a user's intention to purchase a product.
  • a threshold related to a user's intention to purchase a product may be preset in the device 1000 or the server, and the device 1000 may be obtained from the user.
  • the threshold related to the intention to purchase a product may be set differently for each user.
  • the device 1000 may select a product set to be recommended based on the user's satisfaction.
  • the device 1000 may display a GUI for determining whether to purchase the displayed product.
  • the graphical user interface may be a pop-up window asking whether to purchase a product on the display unit 1210.
  • the device 1000 may determine whether a user purchases a product by receiving a user's touch on the display unit 1210 or may determine whether the user purchases a product by receiving an external input.
  • the device 1000 may include the product purchased by the user in a shopping cart on the device 1000. In addition, if a user purchases a product, the device 1000 may display a GUI for product price payment.
  • the device 1000 may modify and display a product based on the user's body information.
  • the device 1000 may acquire a body image of the user by using the camera 1610, and obtain body information of the user from the obtained body image of the user.
  • the device 1000 may modify and display the shape of the product based on the acquired body information of the user.
  • the device 1000 may display a product in a state in which the user wears the product.
  • the device 1000 may acquire the reference face image of the user before displaying the product modified according to the user's body information.
  • the device 1000 may acquire the changed face image of the user after displaying the product modified according to the user's body information.
  • the device 1000 may display one product and another product that can be worn together with the product as if the user is wearing.
  • FIGS. 10 and 11 are block diagrams of a device 1000 according to an embodiment.
  • the device 1000 may include a display unit 1210, a processor 1300, a camera 1610, and a memory 1700.
  • the device 1000 may be implemented by more components than those illustrated in FIG. 10, and the device 1000 may be implemented by fewer components than those illustrated in FIG. 10.
  • the device 1000 may include a user input unit 1100, a display unit 1210, a processor 1300, a camera 1610, and a memory 1700.
  • the apparatus may further include an output unit 1200, a sensing unit 1400, a communication unit 1500, and an A / V input unit 1600.
  • the user input unit 1100 means a means for a user to input data for controlling the device 1000.
  • the user input unit 1100 includes a key pad, a dome switch, a touch pad (contact capacitive type, pressure resistive layer type, infrared sensing type, surface ultrasonic conduction type, and integral type). Tension measurement method, piezo effect method, etc.), a jog wheel, a jog switch, and the like, but are not limited thereto.
  • the user input unit 1100 may receive a user input for selecting a product to be displayed.
  • the user input unit 1100 may receive a user input for user association information, and may receive a user input for a product purchase intention.
  • the output unit 1200 is for outputting an audio signal, a video signal, or a vibration signal.
  • the output unit 1200 may include a display unit 1210, an audio output unit 1220, a vibration motor 1230, and the like.
  • the display unit 1210 is controlled by the processor 1300, which will be described later, to display information processed by the device 1000.
  • the display unit 1210 may display a product selected by the user. In addition, the display unit 1210 may display at least one product included in the product set selected by the device 1000. The display unit 1210 may modify and display a product based on the user's body information.
  • the display unit 1210 may display a GUI for determining whether to purchase the displayed product.
  • the display unit 1210 may display a GUI for determining whether to purchase a product when the determined user satisfaction is equal to or greater than a threshold value related to a user's intention to purchase a product.
  • the sound output unit 1220 outputs audio data received from the communication unit 1500 or stored in the memory 1700. In addition, the sound output unit 1220 outputs a sound signal related to a function (for example, a call signal reception sound, a message reception sound, and a notification sound) performed by the device 1000.
  • a function for example, a call signal reception sound, a message reception sound, and a notification sound
  • the vibration motor 1230 may output a vibration signal.
  • the vibration motor 1230 may output a vibration signal corresponding to the output of audio data or video data (eg, a call signal reception sound, a message reception sound, etc.).
  • the vibration motor 1230 may output a vibration signal when a touch is input to the touch screen.
  • the processor 1300 may include one or more processors to control other components included in the device 1000.
  • the processor 1300 may execute the programs stored in the memory 1700 to thereby execute the user input unit 1100, the output unit 1200, the sensing unit 1400, the communication unit 1500, and the A / V input unit 1600. ) Can be controlled overall.
  • the processor 1300 may perform a function of the device 1000 described with reference to FIGS. 1 to 9 by executing programs stored in the memory 1300.
  • the processor 1300 may acquire facial expression information of the user regarding the displayed product.
  • the processor 1300 may obtain the facial expression information of the user from the face image of the user obtained by using the camera 1610.
  • the processor 1300 may determine the user's satisfaction with the displayed product based on the facial expression information of the user.
  • the processor 1300 may obtain user's emotion information on the displayed product from the user's facial expression information.
  • the processor 1300 may determine a user's satisfaction corresponding to the obtained emotion information.
  • the processor 1300 may select a product set to be recommended to the user from among a plurality of product sets based on the user's satisfaction.
  • the processor 1300 may select a product set to be recommended based on a user's satisfaction with the displayed product and a similarity between the set including the displayed product and the plurality of product sets.
  • the processor 1300 may acquire relevant information of the user, and select a product set to be recommended to the user based on the determined satisfaction and the obtained relevant information.
  • the processor 1300 may acquire motion information of the user and determine the user's satisfaction with the displayed product based on the facial expression information and motion information of the user.
  • the processor 1300 may select a product set to be recommended based on purchase history information of other users of the displayed product.
  • the processor 1300 may select another product set including other products that can be worn with the displayed product.
  • the processor 1300 may display a GUI for determining whether to purchase the displayed product based on the user's satisfaction.
  • the processor 1300 may display a GUI for determining whether to purchase the displayed product when the determined user satisfaction is equal to or greater than a threshold related to the user's intention to purchase the product.
  • the sensing unit 1400 may detect a state of the device 1000 or a state around the device 1000 and transmit the detected information to the processor 1300.
  • the sensing unit 1400 may include a geomagnetic sensor 1410, an acceleration sensor 1420, a temperature / humidity sensor 1430, an infrared sensor 1440, a gyroscope sensor 1450, and a position sensor. (Eg, GPS) 1460, barometric pressure sensor 1470, proximity sensor 1480, and RGB sensor (illuminance sensor) 1490, but are not limited thereto. Since functions of the respective sensors can be intuitively deduced by those skilled in the art from the names, detailed descriptions thereof will be omitted.
  • the communication unit 1500 may include one or more components that allow communication between the device 1000 and another device (not shown) or the device 1000 and the server 2000.
  • the other device (not shown) may be a computing device such as the device 1000 or a sensing device, but is not limited thereto.
  • the communicator 1500 may include a short range communicator 1510, a mobile communicator 1520, and a broadcast receiver 1530.
  • the short-range wireless communication unit 1510 includes a Bluetooth communication unit, a Bluetooth low energy (BLE) communication unit, a near field communication unit, a WLAN (Wi-Fi) communication unit, a Zigbee communication unit, an infrared ray ( IrDA (Infrared Data Association) communication unit, WFD (Wi-Fi Direct) communication unit, UWB (ultra wideband) communication unit, Ant + communication unit and the like, but may not be limited thereto.
  • the mobile communication unit 1520 transmits and receives a radio signal with at least one of a base station, an external terminal, and a server on a mobile communication network.
  • the wireless signal may include various types of data according to transmission and reception of a voice call signal, a video call call signal, or a text / multimedia message.
  • the broadcast receiving unit 1530 receives a broadcast signal and / or broadcast related information from the outside through a broadcast channel.
  • the broadcast channel may include a satellite channel and a terrestrial channel. According to an implementation example, the device 1000 may not include the broadcast receiver 1530.
  • the communication unit 1500 is controlled by the processor 1300 to transmit and receive data with other devices and the server 2000.
  • the communicator 1500 may directly transmit data to another device or may transmit data via the server 2000.
  • the communication unit 1500 may receive data directly from another device or may receive data via the server 2000.
  • the communication unit 1500 determines satisfaction based on the user facial expression information, and transmits / receives information necessary for selecting a product set to be recommended to the user based on the determined satisfaction with other devices (not shown) and the server 2000. can do.
  • the A / V input unit 1600 is for inputting an audio signal or a video signal, and may include a camera 1610 and a microphone 1620.
  • the camera 1610 may obtain an image frame such as a still image or a moving image through an image sensor in a video call mode or a photographing mode.
  • the image captured by the image sensor may be processed by the processor 1300 or a separate image processor (not shown).
  • the camera 1610 may photograph a user's face or body of the displayed product.
  • the facial expression information, the motion information, and the related information of the user may be obtained from the image of the user captured by the camera 1610.
  • the image frame processed by the camera 1610 may be stored in the memory 1700 or transmitted to the outside through the communication unit 1500. Two or more cameras 1610 may be provided according to the configuration aspect of the terminal.
  • the microphone 1620 receives an external sound signal and processes the external sound signal into electrical voice data.
  • the microphone 1620 may receive a sound signal from an external device or a user.
  • the microphone 1620 may use various noise removing algorithms for removing noise generated in the process of receiving an external sound signal.
  • the microphone 1620 may receive a user input received in the form of a voice when selecting a product or determining whether to purchase a product.
  • the memory 1700 may store at least one program for processing and controlling the processor 1300, and may store data input to or output from the device 1000.
  • the memory 1700 may include a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory), RAM Random Access Memory (RAM) Static Random Access Memory (SRAM), Read-Only Memory (ROM), Electrically Erasable Programmable Read-Only Memory (EEPROM), Programmable Read-Only Memory (PROM), Magnetic Memory, Magnetic Disk It may include at least one type of storage medium of the optical disk.
  • the device 1000 may operate a web storage or a cloud server that performs a storage function of the memory 1700 on the Internet.
  • Programs stored in the memory 1700 may be classified into a plurality of modules according to their functions.
  • the programs stored in the memory 1700 may be classified into a UI module 1710, a touch screen module 1720, a notification module 1730, and the like. .
  • the UI module 1710 may provide a specialized UI, GUI, or the like that is linked with the device 1000 for each application.
  • the touch screen module 1720 may detect a touch gesture on the user's touch screen and transmit information about the touch gesture to the processor 1300.
  • the touch screen module 1720 according to an embodiment may recognize and analyze a touch code.
  • the touch screen module 1720 may be configured as separate hardware including a controller.
  • the notification module 1730 may generate a signal for notifying occurrence of an event of the device 1000. Examples of events occurring in the device 1000 include call signal reception, message reception, key signal input, and schedule notification.
  • the notification module 1730 may output a notification signal in the form of a video signal through the display unit 1210, may output the notification signal in the form of an audio signal through the sound output unit 1220, and the vibration motor 1230. Through the notification signal may be output in the form of a vibration signal.
  • the memory 1700 may store information regarding the display order of the products included in the product set, and store the configuration, the location, the size, and the like for the display of the products.
  • the memory 1700 may store information about a facial expression, an image of a face according to facial expression information, a feature point corresponding to facial expression information, and the like.
  • the memory 1700 may store an emotional state corresponding to the facial expression information, and may store a corresponding relationship between the emotional state and the user's satisfaction.
  • the memory 1700 may store the similarity between the plurality of product sets.
  • the memory 1700 may store the similarity between the plurality of product sets so that each pair of product sets has a different similarity.
  • FIG. 12 is a block diagram of a processor 1300 according to an embodiment.
  • the processor 1300 may include a data learner 1310 and a data recognizer 1320.
  • the learning model referred to above may be the same as the data recognition model to be described later.
  • the data learner 1310 may learn a criterion for recommending a product.
  • the data learning unit 1310 may learn what data to use for recommending a predetermined product and how to recommend the product using the data.
  • the data learner 1310 acquires data to be used for learning and applies the acquired data to a data recognition model to be described later, thereby learning a criterion for product recommendation.
  • the data recognizer 1320 may recommend a product based on the data.
  • the data recognizer 1320 may recommend a product in a predetermined product set from the predetermined data by using the learned data recognition model.
  • the data recognizing unit 1320 may acquire predetermined data according to a predetermined reference by learning, and use the data recognition model using the acquired data as an input value, thereby recommending a predetermined product based on the predetermined data. have.
  • the result value output by the data recognition model using the acquired data as an input value may be used to update the data recognition model.
  • At least one of the data learner 1310 and the data recognizer 1320 may be manufactured in the form of at least one hardware chip and mounted on the device 1000.
  • at least one of the data learner 1310 and the data recognizer 1320 may be manufactured in the form of a dedicated hardware chip for artificial intelligence (AI), or an existing general purpose processor (eg, a CPU).
  • AI artificial intelligence
  • the device may be manufactured as a part of an application processor or a graphics processor (eg, a GPU) and mounted on the aforementioned various devices 1000.
  • the data learner 1310 and the data recognizer 1320 may be mounted in one device 1000 or may be mounted in separate devices 1000, respectively.
  • one of the data learner 1310 and the data recognizer 1320 may be included in the device 1000, and the other may be included in the server.
  • the data learner 1310 and the data recognizer 1320 may provide model information constructed by the data learner 1310 to the data recognizer 1320 via a wired or wireless connection.
  • the data input to 1320 may be provided to the data learner 1310 as additional learning data.
  • At least one of the data learner 1310 and the data recognizer 1320 may be implemented as a software module.
  • the software module may be a computer readable non-transitory computer. It may be stored in a non-transitory computer readable media.
  • at least one software module may be provided by an operating system (OS) or by a predetermined application.
  • OS operating system
  • OS operating system
  • others may be provided by a predetermined application.
  • FIG. 13 is a block diagram of a data learner 1310, according to some embodiments.
  • the data learner 1310 may include a data acquirer 1310-1, a preprocessor 1310-2, a training data selector 1310-3, and a model learner 1310. -4) and the model evaluator 1310-5.
  • the data acquirer 1310-1 may acquire data required for product recommendation.
  • the data acquirer 1310-1 may acquire data necessary for learning for product recommendation.
  • the data acquirer 1310-1 may acquire information regarding a face, an expression, a voice, an action, and the like of a person.
  • the data acquirer 1310-1 may acquire data regarding a gender, height, weight, age, purchase history, occupation, worn clothing, and income of the person.
  • the data acquirer 1310-1 may acquire image data.
  • the image data may be still image data or may be moving image data.
  • the data acquirer 1310-1 may acquire image data using the camera 1610 of the device 1000 including the data learner 1310.
  • the data acquirer 1310-1 may acquire image data through an external device that communicates with the device 1000.
  • the data acquirer 1310-1 may acquire a face image representing human facial expression information, or may acquire a gesture image or a body image representing human motion information.
  • the data acquisition unit 1310-1 may acquire data about a product.
  • the data acquirer 1310-1 may acquire data about a design, a material, a color, a wearing body part, and a wearing season of the product.
  • the preprocessor 1310-2 may preprocess the acquired data so that the data acquired for learning for product recommendation may be used.
  • the preprocessor 1310-2 may process the acquired data in a preset format so that the model learner 1310-4, which will be described later, uses the acquired data for learning for product recommendation.
  • the training data selector 1310-3 may select data required for learning from the preprocessed data.
  • the selected data may be provided to the model learner 1310-4.
  • the training data selector 1310-3 may select data necessary for learning from preprocessed data according to a preset criterion for product recommendation.
  • the training data selector 1310-3 may select data according to preset criteria by learning by the model learner 1310-4 to be described later.
  • the model learner 1310-4 may learn a criterion on how to recommend a product according to the user's satisfaction with the displayed product, based on the training data. In addition, the model learner 1310-4 may learn a criterion about what training data to use for product recommendation.
  • the model learner 1310-4 may learn a criterion on how to obtain facial expression information based on the acquired image data of the user, and may provide motion information based on the obtained body image data of the user. Can learn the criteria for how to obtain.
  • model learner 1310-4 may learn a criterion on how to determine the emotional state of the user based on the facial expression information of the user or the motion information of the user. In addition, the model learner 1310-4 may learn a criterion on how to determine the user's satisfaction based on the emotional state of the user.
  • the model learner 1310-4 may learn a criterion on how to set the similarity between a plurality of product sets including a product. For example, the model learner 1310-4 may set the similarity between the product sets based on a plurality of parameters such as a design, a material, a color, a wearing body part, and a wearing season of the product included in the product set.
  • model learner 1310-4 may learn a criterion on how to recommend a product based on facial expression information, motion information, user related information, or similarity among product sets.
  • acquisition of facial expression information, acquisition of motion information, determination of emotional state, determination of satisfaction, determination of similarity among a plurality of sets of products, and recommendation of products are each performed based on separate learning, It is not limited. At least two or more of acquiring facial expression information, acquiring compatriot information, determining emotional states, determining satisfaction, determining similarity among a plurality of sets of products, and recommending products may be performed by one data recognition model.
  • a product to be recommended to the user may be output by receiving the facial expression information of the user using the data recognition model.
  • the data recognition model for determining the satisfaction
  • the second data recognition model for recommending the product, respectively, after determining the user's satisfaction from the facial expression information of the user using the first data recognition model, A product to be recommended to the user may be selected from the user's satisfaction using the second data recognition model.
  • the model learner 1310-4 may train the data recognition model used for product recommendation using the training data.
  • the data recognition model may be a pre-built model.
  • the data recognition model may be a model built in advance by receiving basic training data (eg, a sample image).
  • the data recognition model may be constructed in consideration of the application field of the recognition model, the purpose of learning, or the computer performance of the device.
  • the data recognition model may be, for example, a model based on a neural network.
  • a model such as a deep neural network (DNN), a recurrent neural network (RNN), and a bidirectional recurrent deep neural network (BRDNN) may be used as the data recognition model, but is not limited thereto.
  • the model learner 1310-4 may be a data recognition model to learn a data recognition model having a large correlation between input training data and basic training data. You can decide.
  • the basic training data may be previously classified by the type of data, and the data recognition model may be pre-built by the type of data. For example, the basic training data is classified based on various criteria such as the region where the training data is generated, the time at which the training data is generated, the size of the training data, the genre of the training data, the creator of the training data, and the types of objects in the training data. It may be.
  • model learner 1310-4 may train the data recognition model using, for example, a learning algorithm including an error back-propagation method or a gradient descent method. .
  • model learner 1310-4 may train the data recognition model through, for example, supervised learning using the training data as an input value.
  • the model learning unit 1310-4 for example, by unsupervised learning that finds a criterion for product recommendation by learning the kind of data necessary for product recommendation without any guidance, You can train the data recognition model.
  • the model learner 1310-4 may train the data recognition model, for example, through reinforcement learning using feedback on whether the result of the product recommendation according to the learning is correct.
  • the model learner 1310-4 may store the trained data recognition model.
  • the model learner 1310-4 may store the learned data recognition model in a memory of the device 1000 including the data recognizer 1320.
  • the model learner 1310-4 may store the learned data recognition model in a memory of the device 1000 including the data recognizer 1320, which will be described later.
  • the model learner 1310-4 may store the learned data recognition model in a memory of a server connected to the device 1000 through a wired or wireless network.
  • the memory in which the learned data recognition model is stored may store, for example, commands or data related to at least one other element of the device 1000.
  • the memory may also store software and / or programs.
  • the program may include, for example, a kernel, middleware, an application programming interface (API) and / or an application program (or “application”), and the like.
  • the model evaluator 1310-5 may input the evaluation data into the data recognition model, and cause the model learner 1310-4 to relearn if the recognition result output from the evaluation data does not satisfy a predetermined criterion. have.
  • the evaluation data may be preset data for evaluating the data recognition model.
  • the model evaluator 1310-5 may determine a predetermined criterion when the number or ratio of the evaluation data that is not accurate among the recognition results of the learned data recognition model for the evaluation data exceeds a preset threshold. It can be evaluated as not satisfied. For example, when a predetermined criterion is defined at a ratio of 2%, the model evaluator 1310-5 when the learned data recognition model outputs an incorrect recognition result for more than 20 evaluation data out of a total of 1000 evaluation data. Can be judged that the learned data recognition model is not suitable.
  • the model evaluator 1310-5 evaluates whether each learned data recognition model satisfies a predetermined criterion, and recognizes the final data as a model that satisfies the predetermined criterion. Can be determined as a model. In this case, when there are a plurality of models satisfying a predetermined criterion, the model evaluator 1310-5 may determine any one or a predetermined number of models that are preset in the order of the highest evaluation score as the final data recognition model.
  • At least one of -5) may be manufactured in the form of at least one hardware chip and mounted on the device 1000.
  • at least one of the data acquirer 1310-1, the preprocessor 1310-2, the training data selector 1310-3, the model learner 1310-4, and the model evaluator 1310-5 One may be manufactured in the form of a dedicated hardware chip for artificial intelligence (AI), or may be manufactured as a part of an existing general purpose processor (eg, a CPU or application processor) or a graphics dedicated processor (eg, a GPU). It may be mounted on various devices 1000.
  • AI artificial intelligence
  • the data acquisition unit 1310-1, the preprocessor 1310-2, the training data selector 1310-3, the model learner 1310-4, and the model evaluator 1310-5 are one device. It may be mounted on the 1000, or may be mounted on separate devices, respectively.
  • some of the data acquirer 1310-1, the preprocessor 1310-2, the training data selector 1310-3, the model learner 1310-4, and the model evaluator 1310-5. May be included in the device 1000, and some of them may be included in the server.
  • At least one of the data acquirer 1310-1, the preprocessor 1310-2, the training data selector 1310-3, the model learner 1310-4, and the model evaluator 1310-5 may be used. It may be implemented as a software module. At least one of the data acquirer 1310-1, the preprocessor 1310-2, the training data selector 1310-3, the model learner 1310-4, and the model evaluator 1310-5 is a software module. (Or a program module including instructions), the software module may be stored in a computer readable non-transitory computer readable media. In this case, at least one software module may be provided by an operating system (OS) or by a predetermined application. Alternatively, some of the at least one software module may be provided by an operating system (OS), and others may be provided by a predetermined application.
  • OS operating system
  • OS operating system
  • some of the at least one software module may be provided by an operating system (OS), and others may be provided by a predetermined application.
  • FIG. 14 is a block diagram of a data recognizer 1320 according to some embodiments.
  • the data recognizer 1320 may include a data acquirer 1320-1, a preprocessor 1320-2, a recognition data selector 1320-3, and a recognition result provider ( 1320-4) and a model updater 1320-5.
  • the data acquirer 1320-1 may acquire data required for product recommendation.
  • the data acquirer 1320-1 may acquire face image data of the user by using a camera, and may acquire body image data of the user.
  • the data acquirer 1320-1 may acquire the association information of the user.
  • the data acquirer 1320-1 may acquire data regarding a gender, height, weight, age, purchase history, occupation, wear clothing, and income of the user.
  • the data acquirer 1320-1 may acquire data regarding a product selected by the user.
  • the data acquirer 1320-1 may acquire image data of a product.
  • the preprocessor 1320-2 may preprocess the acquired data so that the obtained data may be used for product recommendation.
  • the preprocessor 1320-2 may process the acquired data in a preset format so that the recognition result provider 1320-4, which will be described later, uses the data acquired for product recommendation.
  • the recognition data selector 1320-3 may select data required for product recommendation from the preprocessed data.
  • the selected data may be provided to the recognition result provider 1320-4.
  • the recognition data selector 1320-3 may select some or all of the preprocessed data according to a preset criterion for product recommendation.
  • the recognition data selector 1320-3 may select data according to a predetermined criterion by learning by the model learner 1310-4 to be described later.
  • the recognition result providing unit 1320-4 may recommend the product by applying the selected data to the data recognition model.
  • the recognition result providing unit 1320-4 may provide a recognition result according to a recognition purpose of data.
  • the recognition result provider 1320-4 may apply the selected data to the data recognition model by using the data selected by the recognition data selector 1320-3 as an input value.
  • the recognition result may be determined by the data recognition model.
  • the recognition result of the user image may be provided as text, voice, video, image or command (for example, an application execution command, a module function execution command, etc.).
  • the recognition result provider 1320-4 may apply the user image to the data recognition model to provide a recognition result.
  • the recognition result providing unit 1320-4 may apply the image of the product to the data recognition model to provide the recognition result.
  • the recognition result providing unit 1320-4 may provide a result of recognizing a user's expression or a result of a user's motion included in the user image.
  • the recognition result of the user's image may be, for example, the emotional state of the user, the user's satisfaction, or the user's related information.
  • the recognition result providing unit 1320-4 may provide a similarity between sets of products including a product as a result of recognizing an image of the product.
  • the similarity between the two product sets may be recognized using parameters of the products included in the two product sets, and the recognition result may be provided as a numerical value.
  • the recognition result providing unit 1320-4 may recommend a product to the user by applying a user image, data about a product, similarity between a plurality of product sets, user association information, and the like to a data recognition model.
  • the recognition result providing unit 1320-4 may apply the selected data to the recognition model to provide a product to be recommended to the user based on the user's satisfaction and the similarity between the product sets.
  • the recognition result provided by the recognition result providing unit 1320-4 may be one product to be recommended to the user or a product set including at least one product.
  • the model updater 1320-5 may cause the data recognition model to be updated based on the evaluation of the recognition result provided by the recognition result provider 1320-4. For example, the model updater 1320-5 provides the model learning unit 1310-4 with the recognition result provided by the recognition result providing unit 1320-4 so that the model learner 1310-4 provides the recognition result.
  • the data recognition model can be updated.
  • the data acquisition unit 1320-1, the preprocessor 1320-2, the recognition data selector 1320-3, the recognition result providing unit 1320-4, and the model updater in the data recognition unit 1320 may be manufactured in the form of at least one hardware chip and mounted on the device 1000.
  • the preprocessor 1320-2, the recognition data selector 1320-3, the recognition result provider 1320-4, and the model updater 1320-5 may be fabricated in the form of a dedicated hardware chip for artificial intelligence (AI), or may be fabricated as part of an existing general purpose processor (e.g., CPU or application processor) or graphics dedicated processor (e.g., GPU). It may be mounted on one of various devices 1000.
  • AI artificial intelligence
  • GPU graphics dedicated processor
  • the data acquisition unit 1320-1, the preprocessor 1320-2, the recognition data selection unit 1320-3, the recognition result providing unit 1320-4, and the model updater 1320-5 may be mounted on the device 1000, or may be mounted on separate devices 1000, respectively.
  • the preprocessor 1320-2, the recognition data selector 1320-3, the recognition result provider 1320-4, and the model updater 1320-5 may be included in the device 1000 and others may be included in the server.
  • At least one of the data acquirer 1320-1, the preprocessor 1320-2, the recognition data selector 1320-3, the recognition result provider 1320-4, and the model updater 1320-5 May be implemented as a software module.
  • At least one of the data acquirer 1320-1, the preprocessor 1320-2, the recognition data selector 1320-3, the recognition result provider 1320-4, and the model updater 1320-5 is software.
  • the software module When implemented as a module (or a program module including instructions), the software module may be stored on a computer readable non-transitory computer readable media.
  • at least one software module may be provided by an operating system (OS) or by a predetermined application.
  • some of the at least one software module may be provided by an operating system (OS), and others may be provided by a predetermined application.
  • 15 is a diagram illustrating an example in which the device 1000 and the server 2000 learn and recognize data by interworking with each other according to an exemplary embodiment.
  • the server 2000 may learn a criterion for product recommendation, and the device 1000 may recommend a product based on the learning result by the server 2000.
  • the model learner 2340 of the server 2000 may perform a function of the data learner 1310 illustrated in FIG. 12.
  • the model learner 2340 of the server 2000 may learn what data to use for recommending a predetermined product and how to recommend the product using the data.
  • the model learner 2340 may acquire the data to be used for learning, and apply the acquired data to a data recognition model to be described later, thereby learning the criteria for product recommendation.
  • the recognition result providing unit 1320-4 of the device 1000 may recommend the product by applying the data selected by the recognition data selecting unit 1320-3 to the data recognition model generated by the server 2000.
  • the recognition result provider 1320-4 transmits the data selected by the recognition data selector 1320-3 to the server 2000, and the server 2000 transmits the recognition data selector 1320-3.
  • the recognition result providing unit 1320-4 may receive information about a product recommended by the server 2000 from the server 2000.
  • the device 1000 may transmit a user's image, an image of a product, and the like to the server 2000, and request that the server 2000 recommend the product by applying the received data to the recognition model.
  • the device 1000 may receive information about a product recommended by the server.
  • the recognition result providing unit 1320-4 of the device 1000 may receive a recognition model generated by the server 2000 from the server 2000, and recommend a product using the received recognition model.
  • the recognition result providing unit 1320-4 of the device 1000 may recommend the product by applying the data selected by the recognition data selecting unit 1320-3 to the data recognition model received from the server 2000. have.
  • the device 1000 may receive a recognition model generated by the server 2000 from the server 2000, and may recommend a product by applying a user's image or an image of the product to the received recognition model. .
  • Computer readable media can be any available media that can be accessed by a computer and includes both volatile and nonvolatile media, removable and non-removable media.
  • Computer readable media may include both computer storage media and communication media.
  • Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data.
  • Communication media typically includes computer readable instructions, data structures, program modules, or other data in a modulated data signal such as a carrier wave, or other transmission mechanism, and includes any information delivery media.

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Mathematical Physics (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Ophthalmology & Optometry (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Abstract

본 개시는 딥러닝 등의 기계 학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 인공지능(AI) 시스템 및 그 응용에 관련된 것이다. 인공지능 시스템을 통해 사용자의 표정 정보에 기초하여 사용자에게 상품을 추천하는 디바이스 및 방법이 제공된다. 디바이스가 상품을 추천하는 방법은, 사용자에 의해 선택된 상품을 디스플레이 하는 단계; 디스플레이 된 상품에 대한 사용자의 표정 정보를 획득하는 단계; 획득된 사용자의 표정 정보에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정하는 단계; 결정된 사용자의 만족도에 기초하여, 복수의 상품 집합들 중 사용자에게 추천할 상품 집합을 선택하는 단계; 및 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 하는 단계;를 포함한다.

Description

상품을 추천하는 디바이스 및 방법
본 개시는 상품을 추천하는 디바이스 및 방법에 관한 것으로서, 보다 상세하게는, 디스플레이 된 상품에 대한 사용자의 표정 정보에 기초하여 사용자에게 상품을 추천하는 디바이스 및 방법에 관한 것이다.
인공지능(Artificial Intelligence, AI) 시스템은 인간 수준의 지능을 구현하는 컴퓨터 시스템이며, 기존 Rule 기반 스마트 시스템과 달리 기계가 스스로 학습하고 판단하며 똑똑해지는 시스템이다. 인공지능 시스템은 사용할수록 인식률이 향상되고 사용자 취향을 보다 정확하게 이해할 수 있게 되어, 기존 Rule 기반 스마트 시스템은 점차 딥러닝 기반 인공지능 시스템으로 대체되고 있다.
인공지능 기술은 기계학습(딥러닝) 및 기계학습을 활용한 요소 기술들로 구성된다.
기계학습은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘 기술이며, 요소기술은 딥러닝 등의 기계학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 기술로서, 언어적 이해, 시각적 이해, 추론/예측, 지식 표현, 동작 제어 등의 기술 분야로 구성된다.
인공지능 기술이 응용되는 다양한 분야는 다음과 같다. 언어적 이해는 인간의 언어/문자를 인식하고 응용/처리하는 기술로서, 자연어 처리, 기계 번역, 대화시스템, 질의 응답, 음성 인식/합성 등을 포함한다. 시각적 이해는 사물을 인간의 시각처럼 인식하여 처리하는 기술로서, 객체 인식, 객체 추적, 영상 검색, 사람 인식, 장면 이해, 공간 이해, 영상 개선 등을 포함한다. 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서, 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함한다. 지식 표현은 인간의 경험정보를 지식데이터로 자동화 처리하는 기술로서, 지식 구축(데이터 생성/분류), 지식 관리(데이터 활용) 등을 포함한다. 동작 제어는 차량의 자율 주행, 로봇의 움직임을 제어하는 기술로서, 움직임 제어(항법, 충돌, 주행), 조작 제어(행동 제어) 등을 포함한다.
멀티 미디어 기술 및 네트워크 기술이 발전함에 따라, 사용자는 디바이스를 이용하여 다양한 서비스를 제공받을 수 있게 되었다. 특히, 표정 인식 기술이 발전함에 따라, 사용자는 표정을 통해 사용자의 감정을 나타내고, 사용자의 표정 정보에 따른 디바이스의 동작을 실행할 수 있게 되었다.
하지만, 종래에는, 사용자의 표정으로부터 상품에 대한 사용자의 감정을 정확하게 파악하기 힘든 문제가 있었으며, 사용자의 감정을 파악하더라도 사용자에게 적절한 다른 상품을 추천하기 힘든 문제가 있었다. 이에 따라, 사용자의 표정에 기초하여 사용자에게 상품을 효과적으로 추천하는 기술이 요구되고 있다.
일 실시예는, 인공 지능 알고리즘을 이용하여 학습된 학습 모델을 이용하여 사용자의 표정 정보로부터 사용자에게 추천할 상품을 선택하는 디바이스 및 방법을 제공하고자 한다.
일 실시예는, 사용자의 표정 정보로부터 상품에 대한 사용자의 만족도를 결정하고, 결정된 만족도에 기초하여 사용자에게 추천할 상품을 선택하는 디바이스 및 방법을 제공하고자 한다.
또한, 일 실시예는, 상품에 대한 사용자의 만족도 및 복수의 상품 집합들 간의 유사도에 기초하여, 사용자에게 추천할 상품을 선택하는 디바이스 및 방법을 제공하고자 한다.
또한, 일 실시예는, 상품에 대한 사용자의 만족도 및 상품을 구매한 다른 사용자들의 구매 이력 정보에 기초하여, 사용자에게 추천할 상품을 선택하는 디바이스 및 방법을 제공하고자 한다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 일 실시예는, 디스플레이부; 사용자를 촬영하는 카메라; 적어도 하나의 프로그램이 저장되는 메모리; 및 적어도 하나의 프로그램을 실행함으로써 사용자의 표정 정보에 기초하여 상품을 추천하도록 하는 적어도 하나의 프로세서를 포함하고, 적어도 하나의 프로그램은, 디스플레이 된 상품에 대한 사용자의 표정 정보를 획득하는 단계; 획득된 사용자의 표정 정보에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정하는 단계; 결정된 사용자의 만족도에 기초하여, 복수의 상품 집합들 중 사용자에게 추천할 상품 집합을 선택하는 단계; 및 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 하는 단계;를 실행하는 명령어들을 포함하고, 만족도를 결정하는 단계는, 인공 지능 알고리즘을 이용하여 학습된 학습 모델을 이용하여 표정 정보로부터 만족도를 결정하는 것을 특징으로 하는, 디바이스를 제공할 수 있다.
도 1은 일 실시예에 따른 디바이스(1000)가 사용자의 감정 정보를 획득하고 상품을 추천하는 예시를 나타내는 도면이다.
도 2는 일 실시예에 따른 디바이스(1000)가 사용자의 표정 정보에 기초하여 상품을 추천하는 방법의 흐름도이다.
도 3a 내지 도 3b는 일 실시예에 따른 디바이스(1000)가 사용자의 표정 정보에 기초하여 만족도를 결정하는 예시를 나타내는 도면이다.
도 4는 일 실시예에 따른 디바이스(1000)가 사용자의 만족도 및 상품 집합들 간의 유사도에 기초하여 상품을 추천하는 방법의 흐름도이다.
도 5a 내지 도 5b는 일 실시예에 따른 디바이스(1000)가 사용자의 만족도 및 상품 집합들 간의 유사도에 기초하여, 상품 집합을 추천하는 예시를 나타내는 도면이다.
도 6은 일 실시예에 따른 디바이스(1000)가 사용자의 만족도 및 사용자의 연관 정보에 기초하여 상품을 추천하는 방법의 흐름도이다.
도 7은 일 실시예에 따른 디바이스(1000)가 표정 정보 및 동작 정보에 기초하여 상품을 추천하는 방법의 흐름도이다.
도 8은 일 실시예에 따른 디바이스(1000)가 디스플레이 된 상품과 함께 착용할 수 있는 다른 상품을 포함하는 상품 집합을 추천하는 예시를 나타내는 도면이다.
도 9는 일 실시예에 따른 디바이스(1000)가 사용자의 상품 구매 여부를 판단하는 방법의 흐름도이다.
도 10 및 도 11은 일 실시예에 따른 디바이스(1000)의 블록도이다.
도 12는 일 실시예에 따른 프로세서(1300)의 블록도이다.
도 13은 일 실시예에 따른 데이터 학습부(1310)의 블록도이다.
도 14는 일 실시예에 따른 데이터 인식부(1320)의 블록도이다.
도 15는 일 실시예에 따른 디바이스(1000) 및 서버(2000)가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 개시의 제1 측면은 디스플레이부; 사용자를 촬영하는 카메라; 적어도 하나의 프로그램이 저장되는 메모리; 및 적어도 하나의 프로그램을 실행함으로써 사용자의 표정 정보에 기초하여 상품을 추천하도록 하는 적어도 하나의 프로세서를 포함하고, 적어도 하나의 프로그램은, 디스플레이 된 상품에 대한 사용자의 표정 정보를 획득하는 단계; 획득된 사용자의 표정 정보에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정하는 단계; 결정된 사용자의 만족도에 기초하여, 복수의 상품 집합들 중 사용자에게 추천할 상품 집합을 선택하는 단계; 및 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 하는 단계;를 실행하는 명령어들을 포함하고, 만족도를 결정하는 단계는, 인공 지능 알고리즘을 이용하여 학습된 학습 모델을 이용하여 표정 정보로부터 만족도를 결정하는 것을 특징으로 하는, 디바이스를 제공할 수 있다.
또한, 본 개시의 제2 측면은, 디바이스가 상품을 추천하는 방법에 있어서, 사용자에 의해 선택된 상품을 디스플레이 하는 단계; 디스플레이 된 상품에 대한 사용자의 표정 정보를 획득하는 단계; 획득된 사용자의 표정 정보에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정하는 단계; 결정된 사용자의 만족도에 기초하여, 복수의 상품 집합들 중 사용자에게 추천할 상품 집합을 선택하는 단계; 및 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 하는 단계;를 포함하고, 디바이스는, 인공 지능 알고리즘을 이용하여 학습된 학습 모델을 이용하여 표정 정보로부터 만족도를 결정하는 방법을 제공할 수 있다.
또한, 본 개시의 제3 측면은, 제2 측면의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 제공할 수 있다.
일 실시예에서, 상기 방법은, 사용자의 연관 정보가, 사용자의 성별, 사용자의 키, 사용자의 몸무게, 사용자의 연령, 사용자의 구매 이력, 사용자의 직업, 사용자의 착용 의류, 사용자의 소득 중 적어도 하나에 관한 정보를 포함하는 것을 특징으로 할 수 있다.
일 실시예에서, 상기 방법은, 사용자의 동작 정보가, 사용자의 제스처, 시선 방향, 및 사용자가 디스플레이된 상품을 응시하는 지속 시간 중 적어도 하나에 관한 정보를 포함하는 것을 특징으로 할 수 있다.
일 실시예에서, 상기 방법은, 디스플레이된 상품에 대한 다른 사용자들의 구매 이력 정보에 기초하여 추천할 상품 집합을 선택하는 것을 포함할 수 있다.
일 실시예에서, 상기 방법은, 결정된 사용자의 만족도에 기초하여, 디스플레이된 상품의 구매 여부를 결정하기 위한 GUI를 디스플레이하는 단계를 더 포함할 수 있다.
아래에서는 첨부한 도면을 참조하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 개시의 실시예를 상세히 설명한다. 그러나 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 개시를 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
이하 첨부된 도면을 참고하여 본 개시를 상세히 설명하기로 한다.
도 1은 일 실시예에 따른 디바이스(1000)가 사용자의 감정 정보를 획득하고 상품을 추천하는 예시를 나타내는 도면이다.
도 1을 참조하면, 디바이스(1000)는 디스플레이 된 상품 집합(510) 또는 디스플레이 된 상품(511)에 대한 사용자의 감정 정보를 획득할 수 있고, 획득된 감정 정보에 기초하여 사용자의 만족도를 결정할 수 있다. 디바이스(1000)는 결정된 사용자의 만족도에 기초하여 사용자에게 추천할 상품 집합(530)을 선택할 수 있다. 또한, 디바이스(1000)는 복수의 상품 집합들 간의 유사도 또는 다른 사용자들의 구매 이력 정보에 기초하여, 사용자에게 추천할 상품 집합(530)을 선택할 수도 있다. 또한, 디바이스(1000)는 상품 집합 또는 상품 집합 내의 상품을 추천할 수 있다.
사용자의 감정 정보는, 디바이스(1000)에 디스플레이 된 상품(511)에 대하여 사용자가 느끼는 감정 상태에 관한 정보일 수 있다. 사용자의 감정 상태는, 예를 들어, 화남, 슬픔, 놀람, 기쁨, 행복 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
디바이스(1000)는 사용자의 감정 정보를 사용자의 표정 정보, 사용자의 음성 정보, 또는 사용자의 동작 정보로부터 획득할 수도 있다. 예를 들어, 디바이스(1000)는 카메라(1610)를 이용하여 디스플레이 된 상품(511)에 대한 사용자의 표정 정보를 획득할 수 있고, 획득된 사용자의 표정 정보에 나타난 사용자의 감정 상태에 기초하여 상품(511)에 대한 사용자의 감정 정보를 획득할 수 있다. 또한, 디바이스(1000)는 마이크로폰(1620)을 이용하여 디스플레이 된 상품(511)에 대한 사용자의 음성 정보를 획득할 수 있고, 획득된 음성 정보에 포함된 사용자의 감정 상태에 기초하여 상품(511)에 대한 사용자의 감정 정보를 획득할 수도 있다. 또한, 디바이스(1000)는 카메라(1610)를 이용하여 디스플레이 된 상품(511)에 대한 사용자의 동작 정보를 획득할 수 있고, 획득된 동작 정보에 나타난 사용자의 감정 상태에 기초하여 상품(511)에 대한 사용자의 감정 정보를 획득할 수 있다.
디바이스(1000)는, 도 1에 도시된 바와 같이, 디지털 사이니지(Digital Signage)일 수 있으나, 이에 제한되지 않으며, 디스플레이부(1210) 및 카메라(1610)를 포함하는 모든 종류의 기기를 포함할 수 있다. 예를 들어, 디바이스(1000)는 스마트폰, 태블릿 PC, PC, 스마트 TV, 휴대폰, PDA(personal digital assistant), 랩톱, 미디어 플레이어, 마이크로 서버, GPS(global positioning system) 장치, 전자책 단말기, 디지털방송용 단말기, 네비게이션, 키오스크, MP3 플레이어, 디지털 카메라, 가전기기 및 기타 모바일 또는 비모바일 컴퓨팅 장치일 수 있으나, 이에 제한되지 않는다. 또한, 디바이스(1000)는 통신 기능 및 데이터 프로세싱 기능을 구비한 시계, 안경, 헤어 밴드 및 반지 등의 웨어러블 디바이스(wearable device)일 수 있으나, 이에 제한되지 않는다.
도 2는 일 실시예에 따른 디바이스(1000)가 사용자의 표정 정보에 기초하여 상품을 추천하는 방법의 흐름도이다.
도 2를 참조하면, 동작 S200에서, 디바이스(1000)는 상품을 디스플레이 할 수 있다. 일 실시예에서, 디바이스(1000)는 상품 집합에 포함된 상품들 중 하나의 상품을 디스플레이 할 수 있고, 상품 집합에 포함된 상품들을 미리 설정된 순서에 따라서 일정 시간 간격으로 하나씩 디스플레이 할 수 있다.
또한, 디바이스(1000)는 디바이스(1000) 또는 서버에 저장된 상품들 중에서 판매량이 가장 많은 상품을 디스플레이 할 수도 있고, 사용자가 가장 최근에 검색했던 상품을 디스플레이 할 수도 있다.
일 실시예에서, 디바이스(1000)는 사용자에 의해 선택된 상품을 디스플레이 할 수 있다. 디바이스(1000)는 하나의 상품을 선택하는 사용자의 입력에 응답하여, 선택된 상품을 디스플레이 할 수 있다. 사용자는, 예를 들어, 디바이스(1000)에 구비된 디스플레이부(1210)를 터치하여 상품을 선택할 수 있고, 상품에 미리 포함된 식별표시(예, 바코드, 상품식별코드, 전자상품코드 등)를 디바이스(1000)에 구비된 식별표시 인식장치에 인식시켜 상품을 선택할 수 있다.
디바이스(1000)는 상품뿐 만 아니라, 디스플레이 된 상품이 포함된 상품 집합을 상품과 함께 디스플레이 할 수 있다. 예를 들어, 디바이스(1000)는 디스플레이부(1210)의 상단 일부 또는 하단 일부에 상품 집합을 디스플레이 할 수 있고, 우측 일부 또는 좌측 일부에 상품 집합을 디스플레이 할 수 있다. 그러나, 상품의 디스플레이 또는 상품과 상품 집합의 디스플레이는 이에 제한되는 것은 아니며, 상품 또는 상품 집합은 디바이스(1000) 또는 서버에 미리 설정된 구성, 위치, 및 크기에 따라 다양하게 디스플레이 될 수 있다.
동작 S220에서, 디바이스(1000)는 디스플레이 된 상품에 대한 사용자의 표정 정보를 획득할 수 있다.
일 실시예에서, 디바이스(1000)는 디바이스(1000)를 사용하는 사용자의 얼굴 영상을 촬영할 수 있는 카메라(1610)를 포함할 수 있다. 디바이스(1000)는 카메라(1610)를 이용하여 사용자의 얼굴 영상을 획득하고, 획득된 사용자의 얼굴 영상으로부터 사용자의 표정 정보를 획득할 수 있다. 획득된 사용자의 얼굴 영상은 정지 영상일 수도 있고, 동영상일 수도 있다.
사용자의 표정 정보는, 사용자의 표정을 나타내는 정보로서, 디바이스(1000)에 디스플레이 된 상품을 바라보는 사용자의 얼굴 영상으로부터 획득될 수 있다. 또한, 디스플레이 된 상품에 대하여 사용자가 느끼는 심리 상태가 사용자의 얼굴에 반영될 수 있으며, 표정 정보는 사용자의 심리 상태가 반영된 사용자의 얼굴 영상으로부터 획득될 수 있다. 디바이스(1000)는 획득된 사용자의 표정 정보에 기초하여 디스플레이 된 상품에 대한 사용자의 감정 정보를 획득할 수 있다.
사용자의 얼굴 영상이 어떤 표정 정보를 나타내는 지는 기 설정된 기준에 의한 학습에 따라 결정될 수 있다. 디바이스(1000)는 사용자의 얼굴 영상으로부터 빠르고 정확하게 사용자의 표정 정보를 결정할 수 있다.
동작 S240에서, 디바이스(1000)는 획득된 사용자의 표정 정보에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다.
디바이스(1000)는 인공 지능 알고리즘을 이용하여 학습된 학습 모델을 이용하여 사용자의 표정 정보로부터 디스플레이된 상품에 대한 사용자의 만족도를 결정할 수 있다. 예를 들어, 디바이스(1000)는 인공 지능 알고리즘으로서, 기계학습, 신경망, 유전자, 딥러닝, 분류 알고리즘 중 적어도 하나를 이용하여 학습된 학습 모델을 이용하여 표정 정보로부터 사용자의 만족도를 결정할 수 있다.
일 실시예에서, 디바이스(1000)는 사용자의 표정 정보로부터 디스플레이 된 상품에 대한 사용자의 감정 정보를 획득할 수 있다. 디바이스(1000)는 획득된 표정 정보에 대응되는 사용자의 감정 상태를 결정할 수 있다. 예를 들어, 디바이스(1000)가 행복을 나타내는 표정 정보를 획득하였다면, 사용자의 감정 상태는 행복이라고 결정할 수 있다.
또한, 디바이스(1000)는 획득된 사용자의 감정 상태에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다.
예를 들어, 디바이스(1000)는 획득된 사용자의 표정 정보로부터 사용자의 감정 상태를 '즐거움'으로 결정할 수 있고, 이 경우 디스플레이 된 상품에 대한 사용자의 만족도가 높다고 결정할 수 있다. 또는, 디바이스(1000)는 획득된 사용자의 표정 정보로부터 사용자의 감정 상태를 '화남'으로 결정할 수 있고, 이 경우 디스플레이 된 상품에 대한 사용자의 만족도는 낮다고 결정할 수 있다.
디바이스(1000)는 사용자의 감정 상태에 대응하는 사용자의 만족도에 관한 정보를 디바이스(1000) 또는 서버에 미리 저장하고 있을 수 있다.
사용자의 표정 정보가 어떤 감정 상태를 나타내는 지는 기 설정된 기준에 의한 학습에 따라 결정될 수 있다. 또한, 사용자의 감정 상태가 어느 정도의 만족도를 나타내는 지도 기 설정된 기준에 의한 학습에 따라 결정될 수 있다. 디바이스(1000)는 사용자의 표정 정보로부터 사용자가 디스플레이 된 상품에 대하여 느끼는 감정 상태를 신속하고 정확하게 결정할 수 있다. 또한, 디바이스(1000)는 사용자의 감정 상태가 디스플레이 된 상품에 대한 어느 정도의 만족도를 나타내는지 명확하고 세밀하게 결정할 수 있다.
동작 S260에서, 디바이스(1000)는 결정된 사용자의 만족도에 기초하여, 복수의 상품 집합들 중 사용자에게 추천할 상품 집합을 선택할 수 있다. 일 실시예에서, 디바이스(1000)는 디스플레이 된 상품에 대한 사용자의 만족도를 고려하여, 사용자에게 다른 상품을 추천할 수 있다.
디바이스(1000)는 인공 지능 알고리즘을 이용하여 학습된 학습 모델을 이용하여 디스플레이된 상품에 대한 사용자의 만족도로부터 사용자에게 추천할 상품 집합을 선택할 수 있다.
예를 들어, 디스플레이 된 상품에 대한 사용자의 만족도가 높은 경우, 디바이스(1000)는 디스플레이 된 상품과 유사한 상품들이 포함된 상품 집합을 선택할 수 있다. 디스플레이 된 상품에 대한 사용자의 만족도가 낮은 경우, 디바이스(1000)는 디스플레이 된 상품과 유사하지 않은 상품들이 포함된 상품 집합을 선택할 수 있다.
사용자의 만족도에 따라 어떤 상품 집합을 선택할 지는 기 설정된 기준에 의한 학습에 따라 결정될 수 있다. 디바이스(1000)는 사용자의 만족도에 기초하여, 사용자가 디스플레이 된 상품보다 더 선호할 만한 상품 집합을 정확하게 선택할 수 있다. 디바이스(1000)는 사용자의 만족도에 기초하여, 사용자가 디스플레이 된 상품보다 더 높은 만족도를 나타낼 상품 집합을 신속하고 명확하게 추천할 수 있다.
상기에서는, 사용자의 감정 상태 획득, 사용자의 만족도 결정 및 사용자에게 추천할 상품 집합의 선택이 각각 별개의 학습에 기초하여 수행되는 것으로 설명되었지만, 이에 제한되지 않는다. 사용자의 감정 상태 획득, 사용자의 만족도 결정 및 사용자에게 추천할 상품 집합의 선택 중 적어도 둘 이상이 하나의 학습 모델에 의해 수행될 수도 있다.
또한, 예를 들어, 사용자의 감정 상태 획득, 사용자의 만족도 결정 및 사용자에게 추천할 상품 집합의 선택이 심층신경망(Deep Neural Network) 기술에 따른 학습에 기초하여 수행될 수 있다.
동작 S280에서, 디바이스(1000)는 선택된 상품 집합 또는 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 할 수 있다.
일 실시예에서, 디바이스(1000)는 선택된 상품 집합에 포함된 복수의 상품들 중에 기 설정된 우선 순위가 가장 높은 상품을 디스플레이 할 수 있다. 복수의 상품들 사이의 우선 순위는 상품 판매량, 다른 사용자들의 이용 후기 등을 기준으로 미리 설정될 수 있다.
일 실시예에서, 디바이스(1000)는 선택된 상품 집합에 포함된 상품 중에서 가장 최근에 상품 집합에 포함된 상품을 디스플레이 할 수도 있고, 가장 낮은 가격의 상품 또는 가장 높은 가격의 상품을 디스플레이 할 수도 있다.
일 실시예에서, 디바이스(1000)는 상품 집합에 포함된 상품들 중 하나의 상품을 디스플레이 할 수 있고, 상품 집합에 포함된 상품들을 미리 설정된 순서에 따라서 일정 시간 간격으로 디스플레이 할 수도 있다.
도 3a 내지 도 3b는 일 실시예에 따른 디바이스(1000)가 사용자의 표정 정보에 기초하여 만족도를 결정하는 예시를 나타내는 도면이다.
도 3a 내지 도 3b를 참조하면, 디바이스(1000)는 사용자의 얼굴 영상으로부터 사용자의 표정 정보를 획득할 수 있고, 획득된 사용자의 표정 정보로부터 사용자의 감정 상태를 획득할 수 있다.
도 3a를 참조하면, 일 실시예에서, 디바이스(1000)는 사용자의 얼굴 영상을 미리 설정된 사용자의 감정 상태에 대한 표(300)와 매칭하여 사용자의 감정 상태를 획득할 수 있다.
사용자의 감정 상태에 대한 표(300)는 사용자의 감정을 각성의 활성도(301와 감정의 긍정도(302) 기초하여 분석하고, 나타낸 표 일 수 있다. 사용자의 감정 상태에 대한 표(300) 상에서, 사용자의 감정 상태는 각성의 활성도(301)와 감정의 긍정도(302)에 기초하여 연속적으로 표시될 수 있다.
예를 들어, 디바이스(1000)는 사용자의 얼굴 표정을 미리 설정된 표(300)와 매칭하여 사용자의 감정 상태를 획득할 수 있다. 획득된 사용자의 감정 상태는 표(300)에 도시된 '즐거운', '행복한', 또는 '슬픈' 등의 감정 상태에 해당될 수도 있다.
그러나, 획득된 사용자의 감정 상태는 표(300)에서 도시되거나 미리 정의된 감정 상태의 사이에 위치한 감정 상태일 수도 있다. 사용자의 감정 상태는 표(300) 상에서 연속적으로 표시되는 감정 상태 중 하나에 해당될 수 있다. 사용자의 감정 상태는 표(300) 상에서 하나의 점으로 표시될 수 있으며, 디바이스(1000)는 해당하는 점의 좌표 값 등으로 사용자의 감정 상태를 획득할 수 있다.
도 3b를 참조하면, 다른 일 실시예에서, 디바이스(1000)는 사용자의 얼굴 영상이 변화한 정도에 기초하여, 사용자의 표정 정보(310 내지 360)를 획득할 수 있다.
디바이스(1000)는 상품을 디스플레이 하기 전 사용자의 얼굴 영상인, 사용자의 기준 얼굴 영상을 획득할 수 있다. 또한, 디바이스(1000)는 상품을 디스플레이 한 후 사용자의 얼굴 영상인, 사용자의 변화 얼굴 영상을 획득할 수 있다. 디바이스(1000)는 획득한 사용자의 기준 얼굴 영상과 사용자의 변화 얼굴 영상을 비교하여, 사용자의 표정 정보(310 내지 360)를 획득할 수 있다.
디바이스(1000)는 사용자의 기준 얼굴 영상과 사용자의 변화 얼굴 영상을 비교하여, 사용자의 눈동자 형상의 변화, 눈 형상의 변화, 눈썹 형상의 변화, 입 형상의 변화, 및 광대 위치의 변화 등의 얼굴 영상의 변화를 획득할 수 있다. 디바이스(1000)는 획득한 사용자의 얼굴 영상의 변화 정도를 디바이스(1000) 또는 서버에 미리 설정된 표정 정보와 매칭하여, 사용자의 표정 정보(310 내지 360)를 획득할 수 있다.
다른 실시예에서, 디바이스(1000)는 사용자의 변화 얼굴 영상에서 특징점(keypoint)들을 추출하여 사용자의 표정 정보(310 내지 360)를 획득할 수 있다.
특징점들은 사용자의 표정 변화에 따라 많이 움직이나, 사용자의 표정이 변화해도 식별이 용이한, 눈가, 눈썹, 입가, 및 광대 등에 주로 분포할 수 있다. 디바이스(1000)는 사용자의 변화 얼굴 영상에서 추출된 특징점들을 디바이스(1000) 또는 서버에 미리 설정된 표정 정보의 특징점들과 매칭하여, 사용자의 표정 정보(310 내지 360)를 획득할 수 있다.
미리 설정된 표정 정보는, 소정의 기준으로 분류된 인간의 표정에 관한 정보일 수 있다. 예를 들어, 미리 설정된 표정 정보는 표정 정보에 따른 얼굴의 이미지, 표정 정보에 대응하는 얼굴의 변화 정도, 표정 정보에 대응하는 특징점에 관한 정보 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
일 실시예에서, 디바이스(1000)는 획득된 사용자의 표정 정보(310 내지 360)와 대응되는 기 설정된 감정 상태를, 사용자의 감정 상태로 결정할 수 있다. 예를 들어, 디바이스(1000)가 행복을 나타내는 표정 정보(360)를 사용자의 얼굴 영상으로부터 획득하였다면, 사용자의 감정 상태는 행복이라고 결정할 수 있다.
예를 들어, 사용자의 표정 정보(310 내지 360)가 나타내는 사용자의 감정 상태는 화남, 슬픔, 놀람, 기쁨, 행복 등을 포함할 수 있으나, 이에 한정되는 것은 아니다. 사용자의 기준 감정 상태는 사용자가 디스플레이 된 상품을 보기 전에 표정 정보가 나타내는 감정 상태일 수 있다.
디바이스(1000)는 획득한 사용자의 감정 상태에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다. 일 실시예에서, 디바이스(1000)는 사용자의 감정 상태에 대응하는 만족도를 수치화할 수 있다.
도 3b를 참조하면, 예를 들어, 디바이스(1000)는 사용자의 표정 정보(310 내지 360)에 기초하여, 사용자의 만족도를 0 내지 1 사이의 수로 결정할 수 있으나, 이에 제한되지 않는다. 디스플레이 된 상품에 대하여 사용자가 더 크게 만족할수록, 사용자의 만족도는 더 큰 수로 결정될 수 있다.
예를 들어, 사용자의 감정 상태가 화남으로 결정된 경우, 디바이스(1000)는 사용자의 만족도를 0.1로 결정할 수 있다. 사용자의 감정 상태가 슬픔으로 결정된 경우, 디바이스(1000)는 사용자의 만족도를 0.2로 결정할 수 있다.
반면, 사용자의 감정 상태가 기쁨으로 결정된 경우, 디바이스(1000)는 사용자의 만족도를 0.6으로 결정할 수 있고, 사용자의 감정 상태가 행복으로 결정된 경우, 디바이스(1000)는 사용자의 만족도를 0.9로 결정할 수 있다.
사용자의 표정 정보(310 내지 360) 또는 사용자의 감정 상태와 사용자의 만족도의 대응 관계는 디바이스(1000) 또는 서버에 미리 설정되어 있을 수 있다. 상기 대응 관계는 사용자마다 다르게 설정될 수 있다.
사용자의 표정 정보가 어떤 감정 상태를 나타내는 지는 인공지능 알고리즘을 이용한 학습에 따라 결정될 수 있다. 또는, 사용자의 표정 정보가 어떤 감정 상태를 나타내는 지는 기 설정된 기준에 의한 학습에 따라 결정될 수 있다. 또한, 사용자의 감정 상태가 어느 정도의 만족도를 나타내는 지도 기 설정된 기준에 의한 학습에 따라 결정될 수 있다.
일 실시예에서, 디바이스(1000)는 사람의 얼굴, 표정, 음성, 및 동작 등에 관한 정보를 획득할 수 있다. 또한, 디바이스(1000)는 얼굴 영상 데이터를 획득할 수 있다.
또한, 디바이스(1000)는 사용자의 영상 데이터에 기초하여 표정 정보를 어떻게 획득할 지에 관한 기준을 학습할 수 있다. 디바이스(1000)는 사용자의 표정 정보 또는 사용자의 동작 정보에 기초하여 사용자의 감정 상태를 어떻게 결정할 지에 관한 기준을 학습할 수도 있다.
디바이스(1000)는 카메라를 이용하여 사용자의 얼굴 영상 데이터를 획득할 수 있다. 디바이스(1000)는 획득된 사용자의 얼굴 영상을 분석하여 인식 결과를 제공할 수 있다.
일 실시예에서, 디바이스(1000)는 획득된 사용자 얼굴 영상에 포함된 사용자의 표정의 인식 결과를 제공 할 수 있다. 사용자의 얼굴 영상의 인식 결과는, 예를 들어, 사용자의 감정 상태, 사용자의 만족도, 사용자의 연관 정보 등이 될 수 있다.
도 4는 일 실시예에 따른 디바이스(1000)가 사용자의 만족도 및 상품 집합들 간의 유사도에 기초하여 상품을 추천하는 방법의 흐름도이다.
도 4를 참조하면, 동작 S400에서, 디바이스(1000)는 상품을 디스플레이 할 수 있다. 동작 S420에서, 디바이스(1000)는 디스플레이 된 상품에 대한 사용자의 표정 정보를 획득할 수 있다. 동작 S440에서, 디바이스(1000)는 사용자의 표정 정보에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다.
도 4의 동작 S400 내지 S440은 도 2의 동작 S200 내지 S240에 대응되므로 구체적인 설명은 생략하기로 한다.
동작 S460에서, 디바이스(1000)는 디스플레이 된 상품에 대한 사용자의 만족도, 및 디스플레이 된 상품이 포함된 집합과 복수의 상품 집합들 간의 유사도에 기초하여, 사용자에게 추천할 상품 집합을 선택할 수 있다.
일 실시예에서, 복수의 상품 집합들 간의 유사도는 디바이스(1000) 또는 서버에 미리 설정되어 있을 수 있다. 예를 들어, 긴 팔 면 셔츠 상품 집합과 긴 팔 린넨 셔츠 상품 집합의 유사도는 높을 수 있고, 긴 팔 면 셔츠 상품 집합과 긴 면 바지 상품 집합의 유사도는 낮을 수 있다.
일 실시예에서, 디바이스(1000)는 디스플레이 된 상품에 대한 사용자의 만족도에 대응하는 유사도를 결정할 수 있다. 디바이스(1000)는 디스플레이 된 상품을 포함하는 상품 집합과의 사이에서 결정된 유사도를 가지는 상품 집합을 사용자에게 추천할 수 있다. 예를 들어, 디바이스(1000)는 사용자의 만족도가 높아질수록 디스플레이 된 상품 집합과의 유사도가 높은 상품 집합을 선택할 수 있고, 사용자의 만족도가 낮아질수록 디스플레이 된 상품 집합과의 유사도가 낮은 상품 집합을 선택할 수 있다.
사용자의 만족도 및 상품 집합들 간의 유사도에 따라 어떤 상품 집합을 선택하는 지는 기 설정된 기준에 의한 학습에 따라 결정될 수 있다.
디바이스(1000)는 만족도 및 상품 집합들 간의 유사도에 기초하여, 사용자가 디스플레이 된 상품보다 더 선호할 만한 상품을 정확하게 추천할 수 있다. 또한, 디바이스(1000)는 점원의 도움이 없이도, 사용자의 만족도 및 상품 집합들 간의 유사도에 기초하여, 사용자에게 적절한 상품을 추천할 수 있다.
동작 S480에서, 디바이스(1000)는 선택된 상품 집합 또는 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 할 수 있다. 도 4의 동작 S480은 도 2의 동작 S280에 대응되므로 구체적인 설명은 생략하기로 한다.
도 5a 내지 도 5b는 일 실시예에 따른 디바이스(1000)가 사용자의 만족도 및 상품 집합들 간의 유사도에 기초하여, 상품 집합을 추천하는 예시를 나타내는 도면이다.
도 5a를 참조하면, 상품 집합은 상품의 디자인, 소재, 색상, 착용 신체 부위, 착용 계절 등과 같은 복수의 파라미터들이 동일하거나 동일 수준으로 정의된 상품들을 포함하는 집합일 수 있다.
예를 들어, 제1 상품 집합(510)은 청(jean) 소재, 상의, 긴 팔 디자인, 기본 기장, 외투, 봄 또는 가을에 착용 등의 파라미터를 가지는 상품의 집합일 수 있다. 또한, 제3 상품 집합(530)은 면 소재, 상의, 긴 팔 디자인, 긴 기장, 외투, 봄 또는 가을에 착용 등의 파라미터를 가지는 상품의 집합일 수 있다.
두 상품 집합 간의 유사도는 두 상품 집합에 포함된 상품들의 파라미터들의 동일한 정도로 결정될 수 있다. 예를 들어, 2개의 파라미터가 동일한 두 상품 집합들 간의 유사도 보다 10개의 파라미터가 동일한 두 상품 집합들 간의 유사도가 더 클 수 있다.
복수의 상품 집합들 사이의 유사도는 수치화할 수 있다. 예를 들어, 복수의 상품 집합들 사이의 유사도는 0 내지 1 사이의 수로 결정될 수 있으나, 이에 제한되지 않는다. 상품 집합들 사이에 동일한 파라미터의 수가 많을 수록, 상품 집합들 간의 유사도는 더 큰 수로 결정될 수 있다.
일 실시예에서, 상품 집합들 쌍은 각각 서로 다른 유사도를 갖도록 설정될 수 있다. 제1 상품 집합(510)과 제2 상품 집합(520) 쌍의 유사도는 0.2 일 수 있고, 제1 상품 집합(510)과 제4 상품 집합(540) 쌍의 유사도는 0.6 일 수 있다. 또한, 제1 상품 집합(510)과 제5 상품 집합(550) 쌍의 유사도는 0.8 일 수 있다.
상품 집합들 쌍의 유사도는 디바이스(1000) 또는 서버에 미리 설정되어 있을 수 있다.
상품 집합 및 상품 집합 간의 유사도는 사용자의 만족도에 기초하여 변경될 수 있다.
일 실시예에서, 사용자의 만족도에 기초하여 새로운 상품이 상품 집합에 추가될 수 있고, 상품 집합에 포함된 상품이 상품 집합에서 제거될 수도 있다. 예를 들어, 상품 집합에 포함된 상품들 중에서 하나의 상품에 대한 사용자의 만족도가 하나의 상품을 제외한 다른 상품들에 대한 만족도와 비교하여 기 설정된 임계 값 미만이라면, 하나의 상품은 상품 집합에서 제거될 수 있다.
일 실시예에서, 사용자의 만족도에 기초하여 상품 집합 간의 유사도는 변경될 수 있다.
예를 들어, 디스플레이 된 상품(511)에 대한 사용자의 만족도가 0.8인 경우, 디바이스(1000)는 사용자에게 추천할 상품 집합으로 제5 상품 집합(550)을 선택할 수 있다. 디바이스(1000)에 의해 선택된 제5 상품 집합(525)에 대한 사용자의 만족도가 기 설정된 임계 값 미만이라면, 제1 상품 집합(510)과 제5상품 집합(550)의 유사도는 0.8보다 작은 값으로 변경될 수 있다.
도 5b를 참조하면, 디바이스(1000)는 사용자의 만족도 및 디스플레이 된 상품(511)이 포함된 상품 집합(510)과 디스플레이 된 상품이 포함되지 않은 복수의 상품 집합들 간의 유사도에 기초하여, 사용자에게 추천할 상품 집합을 선택할 수 있다.
디바이스(1000)는 사용자의 만족도에 대응하는 유사도를 결정할 수 있다. 디바이스(1000)는 상기 결정된 유사도와, 디스플레이 된 상품을 포함하는 상품 집합과 디스플레이 된 상품이 포함되지 않은 복수의 상품 집합들 사이에 미리 설정된 유사도를 이용하여, 추천할 상품 집합을 선택할 수 있다.
일 실시예에서, 디바이스(1000)는 제1 상품 집합(510)의 상품(511)을 디스플레이 할 수 있다. 디바이스(1000)는 디스플레이 된 상품(511)에 대한 사용자의 표정 정보를 획득할 수 있다.
디스플레이 된 상품(511)에 대한 사용자의 표정 정보(320)로부터 획득한 감정 상태가 슬픔이라면, 디스플레이 된 상품(511)에 대한 사용자의 만족도는 0.2로 결정될 수 있다. 사용자의 만족도 0.2에 대응하는 유사도는 0.2일 수 있다. 제1 상품 집합(510)과 0.2만큼 유사한 상품 집합은 제2 상품 집합(520)일 수 있다. 디바이스(1000)는 디스플레이 된 상품(511)에 대해 슬픈 표정을 지은 사용자에게 제2 상품 집합(520)을 추천할 수 있다.
디스플레이 된 상품(511)에 대한 사용자의 표정 정보(360)로부터 획득한 감정 상태가 행복이라면, 디스플레이 된 상품(511)에 대한 사용자의 만족도는 0.9로 결정될 수 있다. 사용자의 만족도 0.9에 대응하는 유사도는 0.8일 수 있다. 제1 상품 집합(510)과 0.8만큼 유사한 상품 집합은 제5 상품 집합(550)일 수 있다. 디바이스(1000)는 디스플레이 된 상품(511)에 대해 행복한 표정을 지은 사용자에게 제5 상품 집합(550)을 추천할 수 있다.
다른 일 실시예에서, 디스플레이 된 상품이 포함된 상품 집합과 상기 결정된 유사도를 갖는 상품 집합 쌍이 존재하지 않는 경우, 디바이스(1000)는 상기 결정된 유사도와 가장 가까운 유사도를 갖는 상품 집합을 선택할 수 있다.
예를 들어, 디스플레이 된 상품(511)에 대한 사용자의 표정 정보(350)로부터 획득한 감정 상태가 기쁨이라면, 디스플레이 된 상품(511)에 대한 사용자의 만족도는 0.6으로 결정될 수 있다. 사용자의 만족도 0.6에 대응하는 유사도는 0.55일 수 있다. 이 경우, 제1 상품 집합(510)과 0.55만큼 유사한 상품 집합은 존재하지 않을 수 있다. 디바이스(1000)는 결정된 유사도 0.55와 가장 가까운 유사도 0.6을 갖는 제4 상품 집합(540)을 디스플레이 된 상품(511)에 대해 기쁜 표정을 지은 사용자에게 추천할 수 있다.
도 6은 일 실시예에 따른 디바이스(1000)가 사용자의 만족도 및 사용자의 연관 정보에 기초하여 상품을 추천하는 방법의 흐름도이다.
도 6을 참조하면, 동작 S600에서, 디바이스(1000)는 상품을 디스플레이 할 수 있다. 동작 S620에서, 디바이스(1000)는 디스플레이 된 상품에 대한 사용자의 표정 정보를 획득할 수 있다. 동작 S640에서, 디바이스(1000)는 사용자의 표정 정보에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다.
동작 S600 내지 S640은, 도 2의 동작 S200 내지 S240에 대응되므로 구체적인 설명은 생략하기로 한다.
동작 S650에서, 디바이스(1000)는 상품 집합을 선택하는데 이용되는 사용자의 연관 정보를 획득할 수 있다.
사용자의 연관 정보는, 사용자의 성별, 사용자의 키, 사용자의 몸무게, 사용자의 연령, 사용자의 구매 이력, 사용자의 직업, 사용자의 착용 의류, 및 사용자의 소득 중 적어도 하나에 관한 정보를 포함할 수 있다.
디바이스(1000)는 카메라(1610)를 통해 사용자의 연관 정보를 획득할 수도 있고, 사용자 입력부(1100) 또는 터치 스크린 등을 통해 사용자의 연관 정보를 획득할 수도 있다.
또한, 디바이스(1000)는 사용자로부터 식별 정보를 수신할 수 있고, 수신된 식별 정보를 이용하여 디바이스(1000) 또는 서버에 저장된 사용자의 연관 정보를 획득할 수 있다.
동작 S660에서, 디바이스(1000)는 디스플레이 된 상품에 대한 사용자의 만족도, 및 사용자의 연관 정보에 기초하여, 사용자에게 추천할 상품 집합을 선택할 수 있다.
일 실시예에서, 디바이스(1000)는 획득된 사용자의 연관 정보에 기초하여, 우선적으로 복수의 상품 집합들 중 사용자에게 추천할 상품 집합들을 선별할 수 있다.
디바이스(1000)는 상품 집합에 포함된 상품을 구매한 다른 사용자들의 연관 정보를 분석할 수 있다. 디바이스(1000)는 상품을 구매한 다른 사용자들의 연관 정보를 상품 집합 별로 분류하여 저장할 수 있다. 디바이스(1000)는 획득된 사용자의 연관 정보와 상품 집합 별로 미리 저장된 다른 구매자들의 연관 정보를 비교하여, 상품 집합을 사용자에게 추천할 대상에 포함시킬지 여부를 결정할 수 있다.
디바이스(1000)는 획득된 사용자의 연관 정보와 동일한 연관 정보 수가 임계값 이상인 상품 집합들만을 추천할 상품 집합 대상으로 선별할 수 있다. 반면, 디바이스(1000)는 사용자의 연관 정보와 상이한 연관 정보 수가 임계값 이상인 상품 집합들은 추천할 상품 집합 대상에서 제외할 수 있다.
예를 들어, 상품 집합 A에 포함된 상품들은 20대 사무직인 여성이 많이 구매하고, 상품 집합 B에 포함된 상품들은 30대 사무직인 여성이 많이 구매하고, 상품 집합 C에 포함된 상품들은 20대 운동선수인 남성이 많이 구매하고, 상품 집합 D에 포함된 상품들은 20대에 사무직인 남성이 많이 구매하고, 상품 집합 E에 포함된 상품들은 30대에 사무직인 남성이 많이 구매할 수 있다.
디바이스(1000)는 사용자의 연령이 30대이고 직업이 사무직인 경우, 사용자의 연관 정보와 동일한 연관 정보의 수가 두 개 이상인 상품 집합 B와 상품 집합 E만을 추천 대상으로 선택할 수 있다. 또한, 디바이스(1000)는 사용자의 연령이 30대, 성별이 남성, 직업이 운동선수인 경우, 사용자의 연관 정보와 상이한 연관 정보의 수가 두 개 이상인 상품 집합 A, 상품 집합 B, 상품 집합 D를 추천 대상에서 제외할 수 있다.
일 실시예에서, 디바이스(1000)는 사용자의 연관 정보가 반영된 추천 대상 상품 집합들 중에서, 사용자의 만족도에 기초하여 추천할 상품 집합을 선택할 수 있다. 추천 대상 집합을 선별하기 위한 사용자의 연관 정보 반영 정도는 임계값을 이용하여 조절될 수 있다. 임계값은 사용자에 의해 재설정될 수 있다.
사용자의 만족도 및 사용자의 연관 정보에 따라 어떤 상품 집합을 선택하는 지는 기 설정된 기준에 의한 학습에 따라 결정될 수 있다. 디바이스(1000)는 사용자의 만족도 및 사용자의 연관 정보에 기초하여, 빠르고 정확하게 상품을 추천할 수 있다.
동작 S680에서, 디바이스(1000)는 선택된 상품 집합 또는 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 할 수 있다. 도 6의 동작 S680은 도 2의 동작 S280에 대응되므로 구체적인 설명은 생략하기로 한다.
도 7은 일 실시예에 따른 디바이스(1000)가 표정 정보 및 동작 정보에 기초하여 상품을 추천하는 방법의 흐름도이다.
도 7을 참조하면, 동작 S700에서, 디바이스(1000)는 상품을 디스플레이 할 수 있다. 도 7의 동작 S700은 도 2의 동작 S200에 대응되므로 구체적인 설명은 생략하기로 한다.
동작 S720에서, 디바이스(1000)는 디스플레이 된 상품에 대한 사용자의 표정 정보 및 동작 정보를 획득할 수 있다.
일 실시예에서, 디바이스(1000)는 디바이스(1000)를 사용하는 사용자의 신체를 촬영할 수 있는 카메라(1610)를 포함할 수 있다. 디바이스(1000)는 카메라(1610)를 이용하여 사용자의 신체 영상을 획득하고, 획득된 사용자의 신체 영상으로부터 사용자의 표정 정보 및 동작 정보를 획득할 수 있다. 획득된 사용자의 신체 영상은 정지 영상일 수도 있고, 동영상일 수도 있다.
사용자의 동작 정보는, 사용자의 제스처, 시선 방향, 및 사용자가 디스플레이 된 상품을 응시하는 지속 시간 중 적어도 하나에 관한 정보를 포함할 수 있다. 디바이스(1000)는 획득된 사용자의 동작 정보로부터 디스플레이 된 상품에 대한 사용자의 감정 정보를 획득할 수 있다.
사용자의 신체 영상이 어떤 표정 정보 또는 어떤 동작 정보를 나타내는 지는 기 설정된 기준에 의한 학습에 따라 결정될 수 있다.
동작 S740에서, 디바이스(1000)는 사용자의 표정 정보 및 동작 정보에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다.
일 실시예에서, 디바이스(1000)는 획득된 사용자의 표정 정보 및 동작 정보로부터 디스플레이 된 상품에 대한 사용자의 감정 정보를 획득할 수 있다. 디바이스(1000)는 획득된 표정 정보 및 동작 정보 모두에 대응하는 사용자의 감정 상태를 결정할 수 있다. 디바이스(1000)는 획득된 사용자의 감정 상태에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다.
다른 실시예에서, 디바이스(1000)는 표정 정보에 기초하여 결정된 만족도와 동작 정보에 기초하여 결정된 만족도를 미리 설정된 비율로 합산하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다. 예를 들어, 디바이스(1000)는 표정 정보에 기초하여 결정된 만족도에 0.5를 곱한 값과 동작 정보에 기초하여 결정된 만족도에 0.5를 곱한 값을 합하여 사용자의 만족도를 결정할 수 있다.
사용자의 표정 정보 및 동작 정보가 어떤 감정 상태를 나타내는 지는 기 설정된 기준에 의한 학습에 따라 결정될 수 있다. 또한, 사용자의 감정 상태가 어느 정도의 만족도를 나타내는 지도 기 설정된 기준에 의한 학습에 따라 결정될 수 있다.
디바이스(1000)는 사용자의 표정 정보 및 동작 정보에 기초하여, 사용자가 구매를 원할만한 상품을 적절하게 추천할 수 있다. 디바이스(1000)는 사용자의 영상으로부터 사용자의 감정 상태를 세밀하게 파악하여, 디스플레이 된 상품에 비하여 사용자의 만족도가 더 높을 상품을 정확하게 추천할 수 있다.
동작 S760에서, 디바이스(1000)는 결정된 사용자의 만족도에 기초하여, 복수의 상품 집합들 중 사용자에게 추천할 상품 집합을 선택할 수 있다. 동작 S780에서, 디바이스(1000)는 선택된 상품 집합 또는 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 할 수 있다.
도 7의 동작 S760 및 동작 S780은 도 2의 동작 S260 및 동작 S280에 대응되므로 구체적인 설명은 생략하기로 한다.
도 8은 일 실시예에 따른 디바이스(1000)가 디스플레이 된 상품과 함께 착용할 수 있는 다른 상품을 포함하는 상품 집합을 추천하는 예시를 나타내는 도면이다.
도 8을 참조하면, 디바이스(1000)는 디스플레이 된 상품(511)과 함께 착용할 수 있는 다른 상품들이 포함된 다른 상품 집합(810)을 선택할 수 있다. 디바이스(1000)는 선택된 다른 상품 집합(810)에 포함된 다른 상품(811)을 디스플레이 할 수 있다.
일 실시예에서, 디바이스(1000)는 디스플레이 된 상품(511)에 대한 다른 사용자들의 구매 이력 정보에 기초하여, 추천할 다른 상품 집합(810)을 선택할 수 있다. 디바이스(1000)는 선택된 다른 상품 집합(810)을 디스플레이 할 수도 있고, 선택된 다른 상품 집합에 포함된 다른 상품(811)을 디스플레이 할 수도 있다.
또한, 디바이스(1000)는 디스플레이 된 상품(511)과 선택된 다른 상품(811)을 함께 디스플레이 할 수도 있다. 디바이스(1000)는 디스플레이 된 상품(511)과 함께, 선택된 상품 집합(810)에 포함된 상품들을 미리 설정된 순서에 따라서 일정 시간 간격으로 디스플레이 할 수 있다.
일 실시예에서, 디바이스(1000)는 사용자의 만족도에 기초하여 디스플레이 된 상품과 함께 착용할 상품을 다시 추천할 수 있다.
예를 들어, 디바이스(1000)는 선택된 상품 집합(810) 또는 선택된 상품(811)에 대한 사용자의 감정 정보를 획득할 수 있다. 디바이스(1000)는 획득된 감정 정보에 기초하여 함께 착용할 상품으로 추천된 상품 집합(810) 또는 상품(811)에 대한 사용자의 만족도를 결정할 수 있다. 디바이스(1000)는 결정된 사용자의 만족도에 기초하여, 사용자에게 추천할 함께 착용할 상품 집합 또는 상품을 다시 선택할 수 있다.
도 9는 일 실시예에 따른 디바이스(1000)가 사용자의 상품 구매 여부를 판단하는 방법의 흐름도이다.
도 9를 참조하면, 동작 S900에서, 디바이스(1000)는 상품을 디스플레이 할 수 있다. 동작 S920에서, 디바이스(1000)는 디스플레이 된 상품에 대한 사용자의 표정 정보를 획득할 수 있다. 동작 S940에서, 디바이스(1000)는 사용자의 표정 정보에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다.
도 9의 동작 S900 내지 S940은 도 2의 동작 S200 내지 S240에 대응되므로 구체적인 설명은 생략하기로 한다.
동작 S960에서, 디바이스(1000)는 결정된 사용자의 만족도가 사용자의 상품 구매 의사에 관련된 임계값 이상인지 판단할 수 있다.
일 실시예에서, 사용자의 상품 구매 의사에 관련된 임계값은 디바이스(1000) 또는 서버에 기 설정되어 있을 수 있고, 디바이스(1000)가 사용자로부터 획득할 수도 있다. 상품 구매 의사에 관련된 임계값은 사용자마다 다르게 설정될 수도 있다.
동작 S970에서, 결정된 사용자의 만족도가 사용자의 상품 구매 의사에 관련된 임계값 이하인 경우, 디바이스(1000)는 사용자의 만족도에 기초하여, 추천할 상품 집합을 선택할 수 있다.
동작 S980에서, 결정된 사용자의 만족도가 사용자의 상품 구매 의사에 관련된 임계값 이상인 경우, 디바이스(1000)는 디스플레이 된 상품의 구매 여부를 결정하기 위한 GUI를 디스플레이 할 수 있다.
GUI(Graphic User Interface)는 디스플레이부(1210) 상에 상품의 구매 여부를 묻는 팝업 창일 수 있다. 디바이스(1000)는 디스플레이부(1210) 상에서 사용자의 터치를 수신하여 사용자의 상품 구매 여부를 결정할 수도 있고, 외부 입력을 수신하여 사용자의 상품 구매 여부를 결정할 수도 있다.
사용자의 상품 구매가 결정된다며, 디바이스(1000)는 사용자가 구매하는 상품을 디바이스(1000) 상에서 장바구니(shopping cart)에 포함시킬 수 있다. 또한, 사용자의 상품 구매가 결정된다면, 디바이스(1000)는 상품 가격 결제를 위한 GUI를 디스플레이 할 수도 있다.
도시되지는 않았지만, 디바이스(1000)는 사용자의 신체 정보에 기초하여, 상품을 변형하여 디스플레이 할 수 있다.
디바이스(1000)는 카메라(1610)를 이용하여 사용자의 신체 영상을 획득하고, 획득된 사용자의 신체 영상으로부터 사용자의 신체 정보를 획득할 수 있다. 디바이스(1000)는 획득된 사용자의 신체 정보에 기초하여, 상품의 형상을 변형하여 디스플레이 할 수 있다. 디바이스(1000)는 사용자가 상품을 착용한 모습으로 상품을 디스플레이 할 수 있다.
또한, 디바이스(1000)는 사용자의 신체 정보에 따라 변형된 상품을 디스플레이 하기 전에 사용자의 기준 얼굴 영상을 획득할 수 있다. 디바이스(1000)는 사용자의 신체 정보에 따라 변형된 상품을 디스플레이 한 후에 사용자의 변화 얼굴 영상을 획득할 수 있다.
또한, 디바이스(1000)는 하나의 상품 및 상품과 함께 착용할 수 있는 다른 상품을 사용자가 착용한 모습으로 디스플레이 할 수도 있다.
도 10 및 도 11은 일 실시예에 따른 디바이스(1000)의 블록도이다.
도 10에 도시된 바와 같이, 일 실시예에 따른 디바이스(1000)는, 디스플레이부(1210), 프로세서(1300), 카메라(1610), 메모리(1700)를 포함할 수 있다. 그러나 도 10에 도시된 구성요소보다 많은 구성요소에 의해 디바이스(1000)가 구현될 수도 있고, 도 10에 도시된 구성요소보다 적은 구성요소에 의해 디바이스(1000)는 구현될 수도 있다.
예를 들어, 도 11에 도시된 바와 같이, 일 실시예에 따른 디바이스(1000)는, 디스플레이부(1210), 프로세서(1300), 카메라(1610), 메모리(1700) 이외에 사용자 입력부(1100), 출력부(1200), 센싱부(1400), 통신부(1500), 및 A/V 입력부(1600)를 더 포함할 수도 있다.
사용자 입력부(1100)는, 사용자가 디바이스(1000)를 제어하기 위한 데이터를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력부(1100)에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.
사용자 입력부(1100)는, 디스플레이 할 상품을 선택하는 사용자 입력을 수신할 수 있다. 또한, 사용자 입력부(1100)는 사용자 연관 정보에 대한 사용자 입력을 수신할 수 있고, 상품 구매 의사에 대한 사용자 입력을 수신할 수 있다.
출력부(1200)는, 오디오 신호 또는 비디오 신호 또는 진동 신호의 출력을 위한 것으로, 이에는 디스플레이부(1210)와 음향 출력부(1220), 진동 모터(1230) 등이 포함될 수 있다.
디스플레이부(1210)는 후술할 프로세서(1300)에 의해 제어됨으로써, 디바이스(1000)에서 처리되는 정보를 디스플레이 한다.
디스플레이부(1210)는 사용자에 의해 선택된 상품을 디스플레이 할 수 있다. 또한, 디스플레이부(1210)는 디바이스(1000)에 의해 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 할 수 있다. 디스플레이부(1210)는 상품을 사용자의 신체 정보에 기초하여 변형하여 디스플레이 할 수도 있다.
또한, 디스플레이부(1210)는 디스플레이 된 상품의 구매 여부를 결정하기 위한 GUI를 디스플레이 할 수 있다. 디스플레이부(1210)는 결정된 사용자의 만족도가 사용자의 상품 구매 의사에 관련된 임계값 이상인 경우, 상품 구매 여부를 결정하기 위한 GUI를 디스플레이 할 수 있다.
음향 출력부(1220)는 통신부(1500)로부터 수신되거나 메모리(1700)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력부(1220)는 디바이스(1000)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음, 알림음)과 관련된 음향 신호를 출력한다.
진동 모터(1230)는 진동 신호를 출력할 수 있다. 예를 들어, 진동 모터(1230)는 오디오 데이터 또는 비디오 데이터(예컨대, 호신호 수신음, 메시지 수신음 등)의 출력에 대응하는 진동 신호를 출력할 수 있다. 또한, 진동 모터(1230)는 터치스크린에 터치가 입력되는 경우 진동 신호를 출력할 수도 있다.
프로세서(1300)는, 하나 이상의 프로세서를 구비하여, 디바이스(1000)에 포함된 다른 구성 요소들을 제어할 수 있다. 예를 들어, 프로세서(1300)는, 메모리(1700)에 저장된 프로그램들을 실행함으로써, 사용자 입력부(1100), 출력부(1200), 센싱부(1400), 통신부(1500), A/V 입력부(1600) 등을 전반적으로 제어할 수 있다. 또한, 프로세서(1300)는 메모리(1300)에 저장된 프로그램들을 실행함으로써, 도 1 내지 도 9에 기재된 디바이스(1000)의 기능을 수행할 수 있다.
구체적으로, 프로세서(1300)는 디스플레이 된 상품에 대한 사용자의 표정 정보를 획득할 수 있다. 프로세서(1300)는 카메라(1610)를 이용하여 획득된 사용자의 얼굴 영상으로부터 사용자의 표정 정보를 획득할 수 있다.
또한, 프로세서(1300)는 사용자의 표정 정보에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다. 프로세서(1300)는 사용자의 표정 정보로부터 디스플레이 된 상품에 대한 사용자의 감정 정보를 획득할 수 있다. 프로세서(1300)는 획득된 감정 정보에 대응하는 사용자의 만족도를 결정할 수 있다.
또한, 프로세서(1300)는 사용자의 만족도에 기초하여, 복수의 상품 집합들 중 사용자에게 추천할 상품 집합을 선택할 수 있다. 프로세서(1300)는 디스플레이 된 상품에 대한 사용자의 만족도, 및 디스플레이 된 상품이 포함된 집합과 복수의 상품 집합들 간의 유사도에 기초하여 추천할 상품 집합을 선택할 수 있다. 프로세서(1300)는 사용자의 연관 정보를 획득할 수 있고, 결정된 만족도 및 획득된 연관 정보에 기초하여, 사용자에게 추천할 상품 집합을 선택할 수 있다.
또한, 프로세서(1300)는 사용자의 동작 정보를 획득할 수 있고, 획득된 사용자의 표정 정보 및 동작 정보에 기초하여 디스플레이 된 상품에 대한 사용자의 만족도를 결정할 수 있다.
또한, 프로세서(1300)는 디스플레이 된 상품에 대한 다른 사용자들의 구매 이력 정보에 기초하여, 추천할 상품 집합을 선택할 수 있다. 프로세서(1300)는 디스플레이 된 상품과 함께 착용할 수 있는 다른 상품들이 포함된 다른 상품 집합을 선택할 수 있다.
또한, 프로세서(1300)는 사용자의 만족도에 기초하여, 디스플레이 된 상품의 구매 여부를 결정하기 위한 GUI를 디스플레이 할 수 있다. 프로세서(1300)는 결정된 사용자의 만족도가 사용자의 상품 구매 의사에 관련된 임계값 이상인 경우, 디스플레이 된 상품의 구매 여부를 결정하기 위한 GUI를 디스플레이 할 수 있다.
센싱부(1400)는, 디바이스(1000)의 상태 또는 디바이스(1000) 주변의 상태를 감지하고, 감지된 정보를 프로세서(1300)로 전달할 수 있다.
센싱부(1400)는, 지자기 센서(Magnetic sensor)(1410), 가속도 센서(Acceleration sensor)(1420), 온/습도 센서(1430), 적외선 센서(1440), 자이로스코프 센서(1450), 위치 센서(예컨대, GPS)(1460), 기압 센서(1470), 근접 센서(1480), 및 RGB 센서(illuminance sensor)(1490) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. 각 센서들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있으므로, 구체적인 설명은 생략하기로 한다.
통신부(1500)는, 디바이스(1000)와 다른 디바이스(미도시) 또는 디바이스(1000)와 서버(2000) 간의 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 다른 장치(미도시)는 디바이스(1000)와 같은 컴퓨팅 장치이거나, 센싱 장치일 수 있으나, 이에 제한되지 않는다. 예를 들어, 통신부(1500)는, 근거리 통신부(1510), 이동 통신부(1520), 방송 수신부(1530)를 포함할 수 있다.
근거리 통신부(short-range wireless communication unit)(1510)는, 블루투스 통신부, BLE(Bluetooth Low Energy) 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
이동 통신부(1520)는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
방송 수신부(1530)는, 방송 채널을 통하여 외부로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 구현 예에 따라서 디바이스(1000)가 방송 수신부(1530)를 포함하지 않을 수도 있다.
통신부(1500)는, 프로세서(1300)에 의해 제어됨으로써 다른 디바이스 및 서버(2000)와 데이터를 송수신한다. 통신부(1500)는 다른 디바이스에게 직접 데이터를 전송하거나 서버(2000)를 경유하여 데이터를 전송할 수 있다. 또한, 통신부(1500)는 다른 디바이스로부터 직접 데이터를 수신하거나 서버(2000)를 경유하여 데이터를 수신할 수 있다.
또한, 통신부(1500)는 사용자 표정 정보에 기초하여 만족도를 결정하고, 결정된 만족도에 기초하여 사용자에게 추천할 상품 집합을 선택하기 위해 필요한 정보를, 다른 디바이스(미도시) 및 서버(2000)와 송수신할 수 있다.
A/V(Audio/Video) 입력부(1600)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(1610)와 마이크로폰(1620) 등이 포함될 수 있다. 카메라(1610)는 화상 통화모드 또는 촬영 모드에서 이미지 센서를 통해 정지영상 또는 동영상 등의 화상 프레임을 얻을 수 있다. 이미지 센서를 통해 캡쳐된 이미지는 프로세서(1300) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다.
카메라(1610)는 디스플레이 된 상품에 대한 사용자의 얼굴 또는 신체를 촬영할 수 있다. 카메라(1610)에 의해 촬영된 사용자의 영상으로부터 사용자의 표정 정보, 동작 정보, 및 연관 정보를 획득할 수 있다.
카메라(1610)에서 처리된 화상 프레임은 메모리(1700)에 저장되거나 통신부(1500)를 통하여 외부로 전송될 수 있다. 카메라(1610)는 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.
마이크로폰(1620)은, 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크로폰(1620)은 외부 디바이스 또는 사용자부터 음향 신호를 수신할 수 있다. 마이크로폰(1620)은 외부의 음향 신호를 입력 받는 과정에서 발생 되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘을 이용할 수 있다.
마이크로폰(1620)은 상품 선택이나 상품 구매 여부 결정 시 수신되는 사용자의 입력을 음성의 형태로 수신할 수 있다.
메모리(1700)는, 프로세서(1300)의 처리 및 제어를 위한 적어도 하나의 프로그램을 저장할 수도 있고, 디바이스(1000)로 입력되거나 디바이스(1000)로부터 출력되는 데이터를 저장할 수도 있다.
메모리(1700)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 또한, 디바이스(1000)는 인터넷(internet)상에서 메모리(1700)의 저장 기능을 수행하는 웹 스토리지(web storage) 또는 클라우드 서버를 운영할 수도 있다.
메모리(1700)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈(1710), 터치 스크린 모듈(1720), 알림 모듈(1730) 등으로 분류될 수 있다.
UI 모듈(1710)은, 애플리케이션 별로 디바이스(1000)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈(1720)은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 프로세서(1300)로 전달할 수 있다. 일 실시예에 따른 터치 스크린 모듈(1720)은 터치 코드를 인식하고 분석할 수 있다. 터치 스크린 모듈(1720)은 컨트롤러를 포함하는 별도의 하드웨어로 구성될 수도 있다.
알림 모듈(1730)은 디바이스(1000)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다. 디바이스(1000)에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 일정 알림 등이 있다. 알림 모듈(1730)은 디스플레이부(1210)를 통해 비디오 신호 형태로 알림 신호를 출력할 수도 있고, 음향 출력부(1220)를 통해 오디오 신호 형태로 알림 신호를 출력할 수도 있고, 진동 모터(1230)를 통해 진동 신호 형태로 알림 신호를 출력할 수도 있다.
메모리(1700)는 상품 집합에 포함된 상품들의 디스플레이 순서에 관한 정보를 저장할 수 있고, 상품들의 디스플레이에 대한 구성, 위치, 및 크기 등을 저장할 수 있다.
또한, 메모리(1700)는 표정에 관한 정보, 표정 정보에 따른 얼굴의 이미지, 및 표정 정보에 대응하는 특징점 등을 저장할 수 있다. 메모리(1700)는 표정 정보에 대응되는 감정 상태를 저장할 수 있고, 감정 상태와 사용자의 만족도의 대응 관계를 저장할 수 있다.
또한, 메모리(1700)는 복수의 상품 집합들 간의 유사도를 저장할 수 있다. 메모리(1700)는 상품 집합들 쌍이 각각 서로 다른 유사도를 갖도록, 복수의 상품 집합들 간의 유사도를 저장할 수 있다.
도 12는 일 실시예에 따른 프로세서(1300)의 블록도이다.
도 12를 참조하면, 일부 실시예에 따른 프로세서(1300)는 데이터 학습부(1310) 및 데이터 인식부(1320)를 포함할 수 있다.
상기에서 지칭한 학습 모델은 후술할 데이터 인식 모델과 동일할 수 있다.
데이터 학습부(1310)는 상품 추천을 위한 기준을 학습할 수 있다. 데이터 학습부(1310)는 소정의 상품을 추천하기 위하여 어떤 데이터를 이용할 지, 데이터를 이용하여 어떻게 상품을 추천할 지에 관한 기준을 학습할 수 있다. 데이터 학습부(1310)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 상품 추천을 위한 기준을 학습할 수 있다.
데이터 인식부(1320)는 데이터에 기초하여 상품을 추천할 수 있다. 데이터 인식부(1320)는 학습된 데이터 인식 모델을 이용하여, 소정의 데이터로부터 소정의 상품 집합 내의 상품을 추천할 수 있다. 데이터 인식부(1320)는 학습에 의한 기 설정된 기준에 따라 소정의 데이터를 획득하고, 획득된 데이터를 입력 값으로 하여 데이터 인식 모델을 이용함으로써, 소정의 데이터에 기초하여 소정의 상품을 추천할 수 있다. 또한, 획득된 데이터를 입력 값으로 하여 데이터 인식 모델에 의해 출력된 결과 값은, 데이터 인식 모델을 갱신하는데 이용될 수 있다.
데이터 학습부(1310) 및 데이터 인식부(1320) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 디바이스(1000)에 탑재될 수 있다. 예를 들어, 데이터 학습부(1310) 및 데이터 인식부(1320) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 디바이스(1000)에 탑재될 수도 있다.
이 경우, 데이터 학습부(1310) 및 데이터 인식부(1320)는 하나의 디바이스(1000)에 탑재될 수도 있으며, 또는 별개의 디바이스(1000)들에 각각 탑재될 수도 있다. 예를 들어, 데이터 학습부(1310) 및 데이터 인식부(1320) 중 하나는 디바이스(1000)에 포함되고, 나머지 하나는 서버에 포함될 수 있다. 또한, 데이터 학습부(1310) 및 데이터 인식부(1320)는 유선 또는 무선으로 통하여, 데이터 학습부(1310)가 구축한 모델 정보를 데이터 인식부(1320)로 제공할 수도 있고, 데이터 인식부(1320)로 입력된 데이터가 추가 학습 데이터로서 데이터 학습부(1310)로 제공될 수도 있다.
한편, 데이터 학습부(1310) 및 데이터 인식부(1320) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 학습부(1310) 및 데이터 인식부(1320) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 13은 일부 실시예에 따른 데이터 학습부(1310)의 블록도이다.
도 13을 참조하면, 일부 실시예에 따른 데이터 학습부(1310)는 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5)를 포함할 수 있다.
데이터 획득부(1310-1)는 상품 추천에 필요한 데이터를 획득할 수 있다. 데이터 획득부(1310-1)는 상품 추천을 위한 학습을 위하여 필요한 데이터를 획득할 수 있다.
일 실시예에서, 데이터 획득부(1310-1)는 사람의 얼굴, 표정, 음성, 및 동작 등에 관한 정보를 획득할 수 있다. 또한, 데이터 획득부(1310-1)는 사람의 성별, 키, 몸무게, 연령, 구매 이력, 직업, 착용 의류, 및 소득 등에 관한 데이터를 획득할 수 있다.
또한, 데이터 획득부(1310-1)는 영상 데이터를 획득할 수 있다. 영상 데이터는 정지 영상 데이터일 수도 있고, 동영상 데이터일 수도 있다. 데이터 획득부(1310-1)는 데이터 학습부(1310)를 포함하는 디바이스(1000)의 카메라(1610)를 이용하여 영상 데이터를 획득할 수 있다. 또는, 데이터 획득부(1310-1)는 디바이스(1000)와 통신하는 외부 장치를 통해 영상 데이터를 획득할 수 있다.
예를 들어, 데이터 획득부(1310-1)는 사람의 표정 정보를 나타내는 얼굴 영상을 획득할 수 있고, 사람의 동작 정보를 나타내는 제스처 영상 또는 신체 영상을 획득할 수도 있다.
또한, 데이터 획득부(1310-1)는 상품에 관한 데이터를 획득할 수 있다. 데이터 획득부(1310-1)는 상품의 디자인, 소재, 색상, 착용 신체 부위, 및 착용 계절에 대한 데이터를 획득할 수 있다.
전처리부(1310-2)는 상품 추천을 위한 학습에 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 전처리부(1310-2)는 후술할 모델 학습부(1310-4)가 상품 추천을 위한 학습을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
학습 데이터 선택부(1310-3)는 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 모델 학습부(1310-4)에 제공될 수 있다. 학습 데이터 선택부(1310-3)는 상품 추천을 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 또한, 학습 데이터 선택부(1310-3)는 후술할 모델 학습부(1310-4)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.
모델 학습부(1310-4)는 학습 데이터에 기초하여, 디스플레이 된 상품에 대한 사용자의 만족도에 따라 상품을 어떻게 추천할 지에 관한 기준을 학습할 수 있다. 또한, 모델 학습부(1310-4)는 상품 추천을 위하여 어떤 학습 데이터를 이용해야 하는 지에 대한 기준을 학습할 수도 있다.
예를 들어, 모델 학습부(1310-4)는 획득된 사용자의 영상 데이터에 기초하여 표정 정보를 어떻게 획득할 지에 관한 기준을 학습할 수 있고, 획득된 사용자의 신체 영상 데이터에 기초하여 동작 정보를 어떻게 획득할 지에 관한 기준을 학습할 수 있다.
또한, 모델 학습부(1310-4)는 사용자의 표정 정보 또는 사용자의 동작 정보에 기초하여 사용자의 감정 상태를 어떻게 결정할 지에 관한 기준을 학습할 수 있다. 또한, 모델 학습부(1310-4)는 사용자의 감정 상태에 기초하여 사용자의 만족도를 어떻게 결정할 지에 관한 기준을 학습할 수도 있다.
또한, 모델 학습부(1310-4)는 상품이 포함된 복수의 상품 집합들 간의 유사도를 어떻게 설정할 지에 관한 기준을 학습할 수 있다. 예를 들어, 모델 학습부(1310-4)는 상품 집합에 포함된 상품의 디자인, 소재, 색상, 착용 신체 부위, 착용 계절 등과 같은 복수의 파라미터들을 기준으로 상품 집합들 간의 유사도를 설정할 수 있다.
또한, 모델 학습부(1310-4)는 사용자의 표정 정보, 동작 정보, 사용자의 연관정보, 또는 상품 집합들 간의 유사도에 기초하여 상품을 어떻게 추천할 지에 관한 기준을 학습할 수 있다.
상기에서는, 표정 정보의 획득, 동작 정보의 획득, 감정 상태의 결정, 만족도의 결정, 복수의 상품 집합들 간의 유사도 결정, 및 상품의 추천이 각각 별개의 학습에 기초하여 수행되는 것으로 설명되었지만, 이에 제한되지 않는다. 표정 정보의 획득, 동장 정보의 획득, 감정 상태의 결정, 만족도의 결정, 복수의 상품 집합들 간의 유사도 결정, 및 상품의 추천 중 적어도 둘 이상이 하나의 데이터 인식 모델에 의해 수행될 수도 있다.
예를 들어, 데이터 인식 모델을 이용하여, 사용자의 표정 정보를 입력받아 사용자에게 추천할 상품을 출력할 수 있다. 또한, 복수의 데이터 인식 모델들을 이용하여, 사용자의 표정 정보를 입력받아 사용자에게 추천할 상품을 출력할 수 있다. 이 경우, 만족도를 결정하기 위한 제1 데이터 인식 모델과 상품을 추천하기 위한 제2 데이터 인식 모델이 각각 존재하는 경우, 제1 데이터 인식 모델을 이용하여 사용자의 표정 정보로부터 사용자의 만족도를 결정한 후에, 제2 데이터 인식 모델을 이용하여 사용자의 만족도로부터 사용자에게 추천할 상품을 선택할 수 있다.
또한, 모델 학습부(1310-4)는 상품 추천에 이용되는 데이터 인식 모델을 학습 데이터를 이용하여 학습시킬 수 있다. 이 경우, 데이터 인식 모델은 미리 구축된 모델일 수 있다. 예를 들어, 데이터 인식 모델은 기본 학습 데이터(예를 들어, 샘플 이미지 등)을 입력 받아 미리 구축된 모델일 수 있다.
데이터 인식 모델은, 인식 모델의 적용 분야, 학습의 목적 또는 장치의 컴퓨터 성능 등을 고려하여 구축될 수 있다. 데이터 인식 모델은, 예를 들어, 신경망(Neural Network)을 기반으로 하는 모델일 수 있다. 예컨대, DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network)과 같은 모델이 데이터 인식 모델로서 사용될 수 있으나, 이에 한정되지 않는다.
다양한 실시예에 따르면, 모델 학습부(1310-4)는 미리 구축된 데이터 인식 모델이 복수 개가 존재하는 경우, 입력된 학습 데이터와 기본 학습 데이터의 관련성이 큰 데이터 인식 모델을 학습할 데이터 인식 모델로 결정할 수 있다. 이 경우, 기본 학습 데이터는 데이터의 타입 별로 기 분류되어 있을 수 있으며, 데이터 인식 모델은 데이터의 타입 별로 미리 구축되어 있을 수 있다. 예를 들어, 기본 학습 데이터는 학습 데이터가 생성된 지역, 학습 데이터가 생성된 시간, 학습 데이터의 크기, 학습 데이터의 장르, 학습 데이터의 생성자, 학습 데이터 내의 오브젝트의 종류 등과 같은 다양한 기준으로 기 분류되어 있을 수 있다.
또한, 모델 학습부(1310-4)는, 예를 들어, 오류 역전파법(error back-propagation) 또는 경사 하강법(gradient descent)을 포함하는 학습 알고리즘 등을 이용하여 데이터 인식 모델을 학습시킬 수 있다.
또한, 모델 학습부(1310-4)는, 예를 들어, 학습 데이터를 입력 값으로 하는 지도 학습(supervised learning) 을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(1310-4)는, 예를 들어, 별다른 지도 없이 상품 추천을 위해 필요한 데이터의 종류를 스스로 학습함으로써, 상품 추천을 위한 기준을 발견하는 비지도 학습(unsupervised learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(1310-4)는, 예를 들어, 학습에 따른 상품 추천의 결과가 올바른 지에 대한 피드백을 이용하는 강화 학습(reinforcement learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다.
또한, 데이터 인식 모델이 학습되면, 모델 학습부(1310-4)는 학습된 데이터 인식 모델을 저장할 수 있다. 이 경우, 모델 학습부(1310-4)는 학습된 데이터 인식 모델을 데이터 인식부(1320)를 포함하는 디바이스(1000)의 메모리에 저장할 수 있다. 또는, 모델 학습부(1310-4)는 학습된 데이터 인식 모델을 후술할 데이터 인식부(1320)를 포함하는 디바이스(1000)의 메모리에 저장할 수 있다. 또는, 모델 학습부(1310-4)는 학습된 데이터 인식 모델을 디바이스(1000)와 유선 또는 무선 네트워크로 연결되는 서버의 메모리에 저장할 수도 있다.
이 경우, 학습된 데이터 인식 모델이 저장되는 메모리는, 예를 들면, 디바이스(1000)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 함께 저장할 수도 있다. 또한, 메모리는 소프트웨어 및/또는 프로그램을 저장할 수도 있다. 프로그램은, 예를 들면, 커널, 미들웨어, 어플리케이션 프로그래밍 인터페이스(API) 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 등을 포함할 수 있다.
모델 평가부(1310-5)는 데이터 인식 모델에 평가 데이터를 입력하고, 평가 데이터로부터 출력되는 인식 결과가 소정 기준을 만족하지 못하는 경우, 모델 학습부(1310-4)로 하여금 다시 학습하도록 할 수 있다. 이 경우, 평가 데이터는 데이터 인식 모델을 평가하기 위한 기 설정된 데이터일 수 있다.
예를 들어, 모델 평가부(1310-5)는 평가 데이터에 대한 학습된 데이터 인식 모델의 인식 결과 중에서, 인식 결과가 정확하지 않은 평가 데이터의 개수 또는 비율이 미리 설정된 임계치를 초과하는 경우 소정 기준을 만족하지 못한 것으로 평가할 수 있다. 예컨대, 소정 기준이 비율 2%로 정의되는 경우, 학습된 데이터 인식 모델이 총 1000개의 평가 데이터 중의 20개를 초과하는 평가 데이터에 대하여 잘못된 인식 결과를 출력하는 경우, 모델 평가부(1310-5)는 학습된 데이터 인식 모델이 적합하지 않은 것으로 평가할 수 있다.
한편, 학습된 데이터 인식 모델이 복수 개가 존재하는 경우, 모델 평가부(1310-5)는 각각의 학습된 데이터 인식 모델에 대하여 소정 기준을 만족하는지를 평가하고, 소정 기준을 만족하는 모델을 최종 데이터 인식 모델로서 결정할 수 있다. 이 경우, 소정 기준을 만족하는 모델이 복수 개인 경우, 모델 평가부(1310-5)는 평가 점수가 높은 순으로 미리 설정된 어느 하나 또는 소정 개수의 모델을 최종 데이터 인식 모델로서 결정할 수 있다.
한편, 데이터 학습부(1310) 내의 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 디바이스(1000)에 탑재될 수 있다. 예를 들어, 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 디바이스(1000)에 탑재될 수도 있다.
또한, 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5)는 하나의 디바이스(1000)에 탑재될 수도 있으며, 또는 별개의 디바이스들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5) 중 일부는 디바이스(1000)에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 14는 일부 실시예에 따른 데이터 인식부(1320)의 블록도이다.
도 14를 참조하면, 일부 실시예에 따른 데이터 인식부(1320)는 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5)를 포함할 수 있다.
데이터 획득부(1320-1)는 상품 추천에 필요한 데이터를 획득할 수 있다. 데이터 획득부(1320-1)는 카메라를 이용하여 사용자의 얼굴 영상 데이터를 획득할 수 있고, 사용자의 신체 영상 데이터를 획득할 수 있다.
또한, 데이터 획득부(1320-1)는 사용자의 연관 정보를 획득할 수 있다. 예를 들어, 데이터 획득부(1320-1)는 사용자의 성별, 키, 몸무게, 연령, 구매 이력, 직업, 착용 의류, 및 소득에 관한 데이터를 획득할 수 있다.
또한, 데이터 획득부(1320-1)는 사용자가 선택한 상품에 관한 데이터를 획득할 수 있다. 예를 들어, 데이터 획득부(1320-1)는 상품의 이미지 데이터를 획득할 수 있다.
전처리부(1320-2)는 상품 추천을 위해 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 전처리부(1320-2)는 후술할 인식 결과 제공부(1320-4)가 상품 추천을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
인식 데이터 선택부(1320-3)는 전처리된 데이터 중에서 상품 추천에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 인식 결과 제공부(1320-4)에게 제공될 수 있다. 인식 데이터 선택부(1320-3)는 상품 추천을 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 일부 또는 전부를 선택할 수 있다. 또한, 인식 데이터 선택부(1320-3)는 후술할 모델 학습부(1310-4)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.
인식 결과 제공부(1320-4)는 선택된 데이터를 데이터 인식 모델에 적용하여 상품을 추천할 수 있다. 인식 결과 제공부(1320-4)는 데이터의 인식 목적에 따른 인식 결과를 제공할 수 있다. 인식 결과 제공부(1320-4)는 인식 데이터 선택부(1320-3)에 의해 선택된 데이터를 입력 값으로 이용함으로써, 선택된 데이터를 데이터 인식 모델에 적용할 수 있다. 또한, 인식 결과는 데이터 인식 모델에 의해 결정될 수 있다.
예를 들어, 사용자 영상의 인식 결과는 텍스트, 음성, 동영상, 이미지 또는 명령어(예로, 어플리케이션 실행 명령어, 모듈 기능 실행 명령어 등) 등으로 제공될 수 있다. 인식 결과 제공부(1320-4)는 사용자 영상을 데이터 인식 모델에 적용하여 인식 결과를 제공할 수 있다. 또한, 인식 결과 제공부(1320-4)는 상품의 이미지를 데이터 인식 모델에 적용하여 인식 결과를 제공할 수 있다.
일 실시예에서, 인식 결과 제공부(1320-4)는 사용자 영상에 포함된 사용자의 표정의 인식 결과 또는 사용자의 동작의 인식 결과를 제공 할 수 있다. 사용자의 영상의 인식 결과는, 예로, 사용자의 감정 상태, 사용자의 만족도, 사용자의 연관 정보 등이 될 수 있다.
일 실시예에서, 인식 결과 제공부(1320-4)는 상품의 이미지를 인식한 결과로 상품이 포함된 상품 집합들 간의 유사도를 제공할 수 있다. 두 상품 집합 간의 유사도는 두 상품 집합에 포함된 상품들의 파라미터들을 이용하여 인식할 수 있고, 인식 결과는 수치로 제공될 수 있다.
또한, 인식 결과 제공부(1320-4)는 사용자 영상, 상품에 관한 데이터, 복수의 상품 집합 간의 유사도, 사용자 연관 정보 등을 데이터 인식 모델에 적용하여 사용자에게 상품을 추천할 수 있다. 인식 결과 제공부(1320-4)는 선택된 데이터를 인식 모델에 적용하여, 사용자의 만족도 및 상품 집합들 간의 유사도에 기초하여 사용자에게 추천할 상품을 제공할 수 있다. 인식 결과 제공부(1320-4)가 제공하는 인식 결과는 사용자에게 추천할 하나의 상품 또는 적어도 하나의 상품이 포함된 상품 집합일 수 있다.
모델 갱신부(1320-5)는 인식 결과 제공부(1320-4)에 의해 제공되는 인식 결과에 대한 평가에 기초하여, 데이터 인식 모델이 갱신되도록 할 수 있다. 예를 들어, 모델 갱신부(1320-5)는 인식 결과 제공부(1320-4)에 의해 제공되는 인식 결과를 모델 학습부(1310-4)에게 제공함으로써, 모델 학습부(1310-4)가 데이터 인식 모델을 갱신하도록 할 수 있다.
한편, 데이터 인식부(1320) 내의 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 디바이스(1000)에 탑재될 수 있다. 예를 들어, 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 디바이스(1000)에 탑재될 수도 있다.
또한, 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5)는 하나의 디바이스(1000)에 탑재될 수도 있으며, 또는 별개의 디바이스(1000)들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5) 중 일부는 디바이스(1000)에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 15는 일부 실시예에 따른 디바이스(1000) 및 서버(2000)가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
도 15를 참조하면, 서버(2000)는 상품 추천을 위한 기준을 학습할 수 있으며, 디바이스(1000)는 서버(2000)에 의한 학습 결과에 기초하여 상품을 추천할 수 있다.
이 경우, 서버(2000)의 모델 학습부(2340)는 도 12에 도시된 데이터 학습부(1310)의 기능을 수행할 수 있다. 서버(2000)의 모델 학습부(2340)는 소정의 상품을 추천하기 위하여 어떤 데이터를 이용할 지, 데이터를 이용하여 상품을 어떻게 추천할 지에 관한 기준을 학습할 수 있다. 모델 학습부(2340)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 상품 추천을 위한 기준을 학습할 수 있다.
또한, 디바이스(1000)의 인식 결과 제공부(1320-4)는 인식 데이터 선택부(1320-3)에 의해 선택된 데이터를 서버(2000)에 의해 생성된 데이터 인식 모델에 적용하여 상품을 추천할 수 있다. 예를 들어, 인식 결과 제공부(1320-4)는 인식 데이터 선택부(1320-3)에 의해 선택된 데이터를 서버(2000)에게 전송하고, 서버(2000)가 인식 데이터 선택부(1320-3)에 의해 선택된 데이터를 인식 모델에 적용하여 상품을 추천할 것을 요청할 수 있다. 또한, 인식 결과 제공부(1320-4)는 서버(2000)에 의해 추천된 상품에 관한 정보를 서버(2000)로부터 수신할 수 있다.
예를 들어, 디바이스(1000)는 사용자의 영상, 상품의 이미지 등을 서버(2000)에게 전송하고, 서버(2000)가 수신한 데이터를 인식 모델에 적용하여 상품을 추천할 것을 요청할 수 있다. 디바이스(1000)는 서버에 의해 추천된 상품에 관한 정보를 수신할 수 있다.
또는, 디바이스(1000)의 인식 결과 제공부(1320-4)는 서버(2000)에 의해 생성된 인식 모델을 서버(2000)로부터 수신하고, 수신된 인식 모델을 이용하여 상품을 추천할 수 있다. 이 경우, 디바이스(1000)의 인식 결과 제공부(1320-4)는 인식 데이터 선택부(1320-3)에의해 선택된 데이터를 서버(2000)로부터 수신된 데이터 인식 모델에 적용하여 상품을 추천할 수 있다.
예를 들어, 디바이스(1000)는 서버(2000)에 의해 생성된 인식 모델을 서버(2000)로부터 수신하고, 수신된 인식 모델에 사용자의 영상, 상품의 이미지 등을 적용하여 상품을 추천할 수 있다.
본 발명의 일 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (15)

  1. 사용자에 의해 선택된 상품을 디스플레이 하는 디스플레이부;
    상기 사용자를 촬영하는 카메라;
    적어도 하나의 프로그램이 저장되는 메모리; 및
    상기 적어도 하나의 프로그램을 실행함으로써 상기 사용자의 표정 정보에 기초하여 상품을 추천하도록 하는 적어도 하나의 프로세서를 포함하고,
    상기 적어도 하나의 프로그램은,
    상기 디스플레이 된 상품에 대한 상기 사용자의 표정 정보를 획득하는 단계;
    상기 획득된 사용자의 표정 정보에 기초하여, 상기 디스플레이 된 상품에 대한 상기 사용자의 만족도를 결정하는 단계;
    상기 결정된 사용자의 만족도에 기초하여, 복수의 상품 집합들 중 상기 사용자에게 추천할 상품 집합을 선택하는 단계; 및
    상기 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 하는 단계;를 실행하는 명령어들을 포함하고,
    상기 만족도를 결정하는 단계는, 인공 지능 알고리즘을 이용하여 학습된 학습 모델을 이용하여 상기 표정 정보로부터 상기 만족도를 결정하는 것을 특징으로 하는, 디바이스.
  2. 제1항에 있어서,
    상기 만족도를 결정하는 단계는,
    상기 인공 지능 알고리즘으로서, 기계학습, 신경망, 유전자, 딥러닝, 분류 알고리즘 중 적어도 하나를 이용하여 학습된 상기 학습 모델을 이용하여 상기 만족도를 결정하는 단계를 포함하는, 디바이스.
  3. 제1항에 있어서,
    상기 추천할 상품 집합을 선택하는 단계는,
    상기 디스플레이 된 상품에 대한 상기 사용자의 만족도, 및 상기 디스플레이 된 상품이 포함된 상품 집합과 상기 복수의 상품 집합들 간의 유사도에 기초하여, 상기 추천할 상품 집합을 선택하는 단계;를 포함하는 것을 특징으로 하는, 디바이스.
  4. 제1항에 있어서,
    상기 상품 집합을 선택하는데 이용되는 상기 사용자의 연관 정보를 획득하는 단계;를 더 포함하고,
    상기 결정된 만족도 및 상기 획득된 연관 정보에 기초하여, 복수의 상품 집합들 중 상기 사용자에게 추천할 상품 집합을 선택하는 것을 특징으로 하는, 디바이스.
  5. 제4항에 있어서,
    상기 사용자의 연관 정보는, 상기 사용자의 성별, 상기 사용자의 키, 상기 사용자의 몸무게, 상기 사용자의 연령, 상기 사용자의 구매 이력, 상기 사용자의 직업, 상기 사용자의 착용 의류, 및 상기 사용자의 소득 중 적어도 하나에 관한 정보를 포함하는 것을 특징으로 하는, 디바이스.
  6. 제1항에 있어서,
    상기 디스플레이 된 상품을 바라보는 상기 사용자의 동작 정보를 획득하는 단계;를 더 포함하고,
    상기 사용자의 만족도를 결정하는 단계는,
    상기 획득된 사용자의 표정 정보 및 동작 정보에 기초하여, 상기 디스플레이 된 상품에 대한 상기 사용자의 만족도를 결정하는 것을 특징으로 하는, 디바이스.
  7. 제6항에 있어서,
    상기 사용자의 동작 정보는, 상기 사용자의 제스처, 시선 방향, 및 상기 사용자가 디스플레이 된 상품을 응시하는 지속 시간 중 적어도 하나에 관한 정보를 포함하는 것을 특징으로 하는, 디바이스.
  8. 제1항에 있어서,
    상기 추천할 상품 집합을 선택하는 단계는,
    상기 디스플레이 된 상품에 대한 다른 사용자들의 구매 이력 정보에 기초하여, 상기 추천할 상품 집합을 선택하는 것을 특징으로 하는, 디바이스.
  9. 제1항에 있어서,
    상기 결정된 사용자의 만족도에 따라, 상기 디스플레이 된 상품의 구매 여부를 결정하기 위한 GUI를 디스플레이 하는 단계;를 더 포함하는 것을 특징으로 하는, 디바이스.
  10. 제9항에 있어서,
    상기 GUI를 디스플레이 하는 단계는,
    상기 결정된 사용자의 만족도가 상기 사용자의 상품 구매 의사에 관련된 임계값 이상인 경우, 상기 디스플레이 된 상품의 구매 여부를 결정하기 위한 GUI를 디스플레이 하는 것을 특징으로 하는, 디바이스.
  11. 제1항에 있어서,
    상기 사용자의 ID를 획득하기 위한 GUI를 디스플레이 하는 단계;를 더 포함하는 것을 특징으로 하는, 디바이스
  12. 디바이스가 상품을 추천하는 방법에 있어서,
    사용자에 의해 선택된 상품을 디스플레이 하는 단계;
    상기 디스플레이 된 상품에 대한 상기 사용자의 표정 정보를 획득하는 단계;
    상기 획득된 사용자의 표정 정보에 기초하여, 상기 디스플레이 된 상품에 대한 상기 사용자의 만족도를 결정하는 단계;
    상기 결정된 사용자의 만족도에 기초하여, 복수의 상품 집합들 중 상기 사용자에게 추천할 상품 집합을 선택하는 단계; 및
    상기 선택된 상품 집합에 포함된 적어도 하나의 상품을 디스플레이 하는 단계;를 포함하고,
    상기 디바이스는, 인공 지능 알고리즘을 이용하여 학습된 학습 모델을 이용하여 상기 표정 정보로부터 상기 만족도를 결정하는 방법.
  13. 제 12항에 있어서,
    상기 추천할 상품 집합을 선택하는 단계는,
    상기 디스플레이 된 상품에 대한 상기 사용자의 만족도, 및 상기 디스플레이 된 상품이 포함된 상품 집합과 상기 복수의 상품 집합들 간의 유사도에 기초하여, 상기 추천할 상품 집합을 선택하는 단계;를 포함하는 방법.
  14. 제 12항에 있어서,
    상기 상품 집합을 선택하는데 이용되는 상기 사용자의 연관 정보를 획득하는 단계;를 더 포함하고,
    상기 추천할 상품 집합을 선택하는 단계는,
    상기 결정된 만족도 및 상기 획득된 연관 정보에 기초하여, 복수의 상품 집합들 중 상기 사용자에게 추천할 상품 집합을 선택하는 것을 특징으로 하는, 방법.
  15. 제12항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
PCT/KR2018/001240 2017-02-01 2018-01-29 상품을 추천하는 디바이스 및 방법 WO2018143630A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201880008158.XA CN110249360B (zh) 2017-02-01 2018-01-29 用于推荐产品的装置和方法
US16/469,280 US11151453B2 (en) 2017-02-01 2018-01-29 Device and method for recommending product
EP18747326.9A EP3537368A4 (en) 2017-02-01 2018-01-29 DEVICE AND METHOD FOR RECOMMENDING PRODUCTS

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR20170014376 2017-02-01
KR10-2017-0014376 2017-02-01
KR10-2018-0007889 2018-01-22
KR1020180007889A KR102520627B1 (ko) 2017-02-01 2018-01-22 상품을 추천하는 디바이스 및 방법

Publications (1)

Publication Number Publication Date
WO2018143630A1 true WO2018143630A1 (ko) 2018-08-09

Family

ID=63250985

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/001240 WO2018143630A1 (ko) 2017-02-01 2018-01-29 상품을 추천하는 디바이스 및 방법

Country Status (5)

Country Link
US (1) US11151453B2 (ko)
EP (1) EP3537368A4 (ko)
KR (1) KR102520627B1 (ko)
CN (1) CN110249360B (ko)
WO (1) WO2018143630A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109815873A (zh) * 2019-01-17 2019-05-28 深圳壹账通智能科技有限公司 基于图像识别的商品展示方法、装置、设备及介质
CN109816437A (zh) * 2019-01-10 2019-05-28 博拉网络股份有限公司 一种购买意愿预测方法、装置和商品管理服务器

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11386474B2 (en) * 2018-10-09 2022-07-12 Rovi Guides, Inc. System and method for generating a product recommendation in a virtual try-on session
KR102610737B1 (ko) * 2018-11-05 2023-12-07 현대자동차주식회사 차량 전시 매장의 서비스 제공 로봇 및 이의 동작 방법
US10896420B2 (en) * 2018-11-28 2021-01-19 Capital One Services, Llc Product analysis platform to perform a facial recognition analysis to provide information associated with a product to a user
KR102185571B1 (ko) * 2019-01-22 2020-12-02 경일대학교산학협력단 구매 의도를 식별하기 위한 장치, 이를 위한 방법 및 이 방법을 수행하는 프로그램이 기록된 컴퓨터 판독 가능한 기록매체
CA3157835A1 (en) * 2019-10-30 2021-05-06 Lululemon Athletica Canada Inc. Method and system for an interface to provide activity recommendations
CN110827129B (zh) * 2019-11-27 2022-11-11 中国联合网络通信集团有限公司 一种商品推荐方法及装置
CN111178293A (zh) * 2019-12-31 2020-05-19 上海能塔智能科技有限公司 识别用户对车辆满意度的处理方法、装置、设备与介质
CN111241980B (zh) * 2020-01-07 2023-04-14 中山大学 情绪识别能力测评方法、装置、电子设备及存储介质
KR20210105013A (ko) 2020-02-18 2021-08-26 주식회사 와이즈패션 상품 추천 및 주문 서비스를 제공하는 장치
KR20210105011A (ko) 2020-02-18 2021-08-26 주식회사 와이즈패션 주문 데이터의 태그 기반 상품 추천 및 주문 서비스를 제공하는 장치 및 방법
KR20210105015A (ko) 2020-02-18 2021-08-26 주식회사 와이즈패션 상품 추천 및 주문 서비스를 제공하는 프로그램
KR20210105014A (ko) 2020-02-18 2021-08-26 주식회사 와이즈패션 주문 데이터의 태그 기반 상품 추천 및 주문 서비스를 제공하는 방법
KR20210105012A (ko) 2020-02-18 2021-08-26 주식회사 와이즈패션 주문 데이터의 태그 기반 상품 추천 및 주문 서비스를 제공하는 장치
KR20210105016A (ko) 2020-02-18 2021-08-26 주식회사 와이즈패션 상품 추천 및 주문 서비스를 제공하는 프로그램이 기록된 기록매체
KR102490035B1 (ko) * 2020-02-24 2023-01-17 연세대학교 산학협력단 감정 상태 추정을 이용한 vr 시뮬레이터 제어 방법
US20210280308A1 (en) * 2020-03-05 2021-09-09 Nervanix, LLC Applying biometrics to the development of digital content
WO2021019311A1 (en) * 2020-03-19 2021-02-04 Sharifrazi Danial Hybrid recommender system equipped with facial expression recognition and machine learning
CN113450169A (zh) * 2020-03-27 2021-09-28 杭州大搜车汽车服务有限公司 车辆推荐信息的处理方法、系统、计算机设备和存储介质
WO2021261875A1 (ko) * 2020-06-22 2021-12-30 엘지전자 주식회사 스마트 윈도우 디스플레이 및 스마트 윈도우 디스플레이의 동작 방법
CA3189350A1 (en) * 2020-07-16 2022-01-20 Lululemon Athletica Canada Inc. Method and system for an interface for personalization or recommendation of products
CN112016001A (zh) * 2020-08-17 2020-12-01 上海掌门科技有限公司 好友推荐方法、设备及计算机可读介质
CN112053205A (zh) * 2020-08-21 2020-12-08 北京云迹科技有限公司 通过机器人情绪识别的产品推荐方法及装置
US20220114639A1 (en) * 2020-10-09 2022-04-14 Micron Technology, Inc. Recommending products using artificial intelligence
CN112418983A (zh) * 2020-11-19 2021-02-26 珠海格力电器股份有限公司 一种用户购买意愿信息的确定方法以及装置
KR102420219B1 (ko) * 2021-01-04 2022-07-12 김소령 Qr 코드 연동 고객 관리 플랫폼 시스템
CN117651930A (zh) * 2021-07-19 2024-03-05 三星电子株式会社 控制外部电子装置的电子装置及电子装置的操作方法
US11715118B1 (en) * 2022-03-30 2023-08-01 Content Square SAS Product performance with location on page analysis
KR102430860B1 (ko) * 2022-06-08 2022-08-09 이성민 사용자 맞춤형 영양제 추천 시스템
KR20240044684A (ko) 2022-09-29 2024-04-05 주식회사 콥틱 아이웨어 추천 시스템 및 방법
CN115809864B (zh) * 2023-02-09 2023-05-19 翌飞锐特电子商务(北京)有限公司 一种物流报表管理系统以及方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030004447A (ko) * 2001-03-28 2003-01-14 코닌클리케 필립스 일렉트로닉스 엔.브이. 사용자 행동에 기초하여 교체 아이템을 자동적으로선택하기 위한 방법 및 장치
KR20050024401A (ko) * 2002-06-27 2005-03-10 코닌클리케 필립스 일렉트로닉스 엔.브이. 시각 및 음성 인식을 통한 컨텐트 등급의 측정
KR20140034367A (ko) * 2012-09-10 2014-03-20 에스케이플래닛 주식회사 사용자 단말과 연동하여 상품 주문이 가능한 디지털 정보 디스플레이 시스템 및 그 디지털 정보 디스플레이 방법
KR20150080090A (ko) * 2013-12-30 2015-07-09 전남대학교산학협력단 하둡 기반의 상품 추천 시스템 및 그 시스템에서의 상품 추천을 위한 장치 및 방법
JP2016076109A (ja) * 2014-10-07 2016-05-12 国立大学法人九州工業大学 顧客購買意思予測装置及び顧客購買意思予測方法
KR101629191B1 (ko) * 2009-11-09 2016-06-10 팔로 알토 리서치 센터 인코포레이티드 소비자 쇼핑 비헤이비어를 결정하기 위한 센서―통합 미러

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5774591A (en) * 1995-12-15 1998-06-30 Xerox Corporation Apparatus and method for recognizing facial expressions and facial gestures in a sequence of images
US6317722B1 (en) * 1998-09-18 2001-11-13 Amazon.Com, Inc. Use of electronic shopping carts to generate personal recommendations
WO2002039371A2 (en) * 2000-11-03 2002-05-16 Koninklijke Philips Electronics N.V. Estimation of facial expression intensity using a bidirectional star topology hidden markov model
US20040001616A1 (en) * 2002-06-27 2004-01-01 Srinivas Gutta Measurement of content ratings through vision and speech recognition
US8208764B2 (en) * 2006-01-21 2012-06-26 Elizabeth Guckenberger Photo automatic linking system and method for accessing, linking, and visualizing “key-face” and/or multiple similar facial images along with associated electronic data via a facial image recognition search engine
US20080065468A1 (en) * 2006-09-07 2008-03-13 Charles John Berg Methods for Measuring Emotive Response and Selection Preference
US10380603B2 (en) * 2008-05-31 2019-08-13 International Business Machines Corporation Assessing personality and mood characteristics of a customer to enhance customer satisfaction and improve chances of a sale
US8219438B1 (en) * 2008-06-30 2012-07-10 Videomining Corporation Method and system for measuring shopper response to products based on behavior and facial expression
US8598980B2 (en) 2010-07-19 2013-12-03 Lockheed Martin Corporation Biometrics with mental/physical state determination methods and systems
US20130046637A1 (en) * 2011-08-19 2013-02-21 Firethorn Mobile, Inc. System and method for interactive promotion of products and services
EP3200046A1 (en) * 2011-10-27 2017-08-02 Tobii Technology AB Power management in an eye-tracking system
US20130132898A1 (en) 2011-11-17 2013-05-23 Michael F. Cuento System, Method and Software Product in Eyewear Marketing, Fitting Out and Retailing
KR20140071802A (ko) * 2012-12-04 2014-06-12 주식회사 엘지유플러스 얼굴 인식을 통한 휴대 단말기 숏컷 정보 실행 시스템 및 방법
US10546352B2 (en) * 2013-03-14 2020-01-28 Facebook, Inc. Method for selectively advertising items in an image
US10521830B2 (en) * 2013-03-14 2019-12-31 Facebook, Inc. Method for displaying a product-related image to a user while shopping
US10373212B2 (en) * 2013-03-14 2019-08-06 Facebook, Inc. Methods for linking images in social feeds to branded content
US20140365272A1 (en) 2013-06-07 2014-12-11 Bby Solutions, Inc. Product display with emotion prediction analytics
US20140363059A1 (en) * 2013-06-07 2014-12-11 Bby Solutions, Inc. Retail customer service interaction system and method
CN103488974A (zh) 2013-09-13 2014-01-01 南京华图信息技术有限公司 基于模拟生物视觉神经网络的人脸表情识别方法及系统
US9805131B2 (en) 2014-03-13 2017-10-31 Ebay Inc. Wear time as metric of buying intent
US20160015307A1 (en) * 2014-07-17 2016-01-21 Ravikanth V. Kothuri Capturing and matching emotional profiles of users using neuroscience-based audience response measurement techniques
US10198505B2 (en) * 2014-08-21 2019-02-05 Affectomatics Ltd. Personalized experience scores based on measurements of affective response
WO2016048102A1 (en) * 2014-09-26 2016-03-31 Samsung Electronics Co., Ltd. Image display method performed by device including switchable mirror and the device
US20160110791A1 (en) * 2014-10-15 2016-04-21 Toshiba Global Commerce Solutions Holdings Corporation Method, computer program product, and system for providing a sensor-based environment
US20160180447A1 (en) * 2014-12-20 2016-06-23 Ebay Inc. Virtual shopping
DE102016101661A1 (de) * 2015-01-29 2016-08-04 Affectomatics Ltd. Auf datenschutzüberlegungen gestützte offenlegung von auf der grundlage von messwerten der affektiven reaktion berechneten crowd-basierten bewertungen
CN104699769B (zh) * 2015-02-28 2018-10-16 北京京东尚科信息技术有限公司 基于表情识别的交互方法和执行该方法的设备
JP6561639B2 (ja) * 2015-07-09 2019-08-21 富士通株式会社 関心度判定装置、関心度判定方法および関心度判定プログラム
US10497043B2 (en) * 2015-09-24 2019-12-03 Intel Corporation Online clothing e-commerce systems and methods with machine-learning based sizing recommendation
US10282431B1 (en) * 2015-12-18 2019-05-07 A9.Com, Inc. Image similarity-based group browsing
JP2017167776A (ja) * 2016-03-16 2017-09-21 カシオ計算機株式会社 情報処理装置、情報処理方法及びプログラム
US10019489B1 (en) * 2016-04-27 2018-07-10 Amazon Technologies, Inc. Indirect feedback systems and methods
US10290136B2 (en) * 2016-08-10 2019-05-14 Zeekit Online Shopping Ltd Processing user selectable product images and facilitating visualization-assisted coordinated product transactions
US20180075514A1 (en) * 2016-09-15 2018-03-15 Xerox Corporation Method and system for data processing for generating adaptive recommendations of relevant items
US10657718B1 (en) * 2016-10-31 2020-05-19 Wells Fargo Bank, N.A. Facial expression tracking during augmented and virtual reality sessions

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030004447A (ko) * 2001-03-28 2003-01-14 코닌클리케 필립스 일렉트로닉스 엔.브이. 사용자 행동에 기초하여 교체 아이템을 자동적으로선택하기 위한 방법 및 장치
KR20050024401A (ko) * 2002-06-27 2005-03-10 코닌클리케 필립스 일렉트로닉스 엔.브이. 시각 및 음성 인식을 통한 컨텐트 등급의 측정
KR101629191B1 (ko) * 2009-11-09 2016-06-10 팔로 알토 리서치 센터 인코포레이티드 소비자 쇼핑 비헤이비어를 결정하기 위한 센서―통합 미러
KR20140034367A (ko) * 2012-09-10 2014-03-20 에스케이플래닛 주식회사 사용자 단말과 연동하여 상품 주문이 가능한 디지털 정보 디스플레이 시스템 및 그 디지털 정보 디스플레이 방법
KR20150080090A (ko) * 2013-12-30 2015-07-09 전남대학교산학협력단 하둡 기반의 상품 추천 시스템 및 그 시스템에서의 상품 추천을 위한 장치 및 방법
JP2016076109A (ja) * 2014-10-07 2016-05-12 国立大学法人九州工業大学 顧客購買意思予測装置及び顧客購買意思予測方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3537368A4 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109816437A (zh) * 2019-01-10 2019-05-28 博拉网络股份有限公司 一种购买意愿预测方法、装置和商品管理服务器
CN109816437B (zh) * 2019-01-10 2020-11-24 博拉网络股份有限公司 一种购买意愿预测方法、装置和商品管理服务器
CN109815873A (zh) * 2019-01-17 2019-05-28 深圳壹账通智能科技有限公司 基于图像识别的商品展示方法、装置、设备及介质
WO2020147430A1 (zh) * 2019-01-17 2020-07-23 深圳壹账通智能科技有限公司 基于图像识别的商品展示方法、装置、设备及介质

Also Published As

Publication number Publication date
EP3537368A1 (en) 2019-09-11
CN110249360A (zh) 2019-09-17
US20200104703A1 (en) 2020-04-02
EP3537368A4 (en) 2019-11-20
KR102520627B1 (ko) 2023-04-12
KR20180089855A (ko) 2018-08-09
US11151453B2 (en) 2021-10-19
CN110249360B (zh) 2024-01-05

Similar Documents

Publication Publication Date Title
WO2018143630A1 (ko) 상품을 추천하는 디바이스 및 방법
WO2020080773A1 (en) System and method for providing content based on knowledge graph
WO2018117704A1 (en) Electronic apparatus and operation method thereof
WO2018128362A1 (en) Electronic apparatus and method of operating the same
WO2018117428A1 (en) Method and apparatus for filtering video
WO2017043857A1 (ko) 어플리케이션 제공 방법 및 이를 위한 전자 기기
WO2019098573A1 (en) Electronic device and method for changing chatbot
EP3545436A1 (en) Electronic apparatus and method of operating the same
WO2019027240A1 (en) ELECTRONIC DEVICE AND METHOD FOR PROVIDING A RESEARCH RESULT THEREOF
WO2019059505A1 (ko) 객체를 인식하는 방법 및 장치
WO2019031707A1 (en) MOBILE TERMINAL AND METHOD FOR CONTROLLING A MOBILE TERMINAL USING MACHINE APPRENTICESHIP
WO2019146942A1 (ko) 전자 장치 및 그의 제어방법
WO2019027258A1 (en) ELECTRONIC DEVICE AND METHOD FOR CONTROLLING THE ELECTRONIC DEVICE
WO2019083275A1 (ko) 관련 이미지를 검색하기 위한 전자 장치 및 이의 제어 방법
WO2019164120A1 (ko) 전자 장치 및 그 제어 방법
EP3539056A1 (en) Electronic apparatus and operation method thereof
WO2018093229A1 (en) Method and device applying artificial intelligence to send money by using voice input
WO2020153796A1 (ko) 전자 장치 및 그 동작방법
EP3669181A1 (en) Vision inspection management method and vision inspection system
WO2021006404A1 (ko) 인공지능 서버
WO2020036467A1 (ko) 사용자의 음성 입력에 기초하여 응답 메시지를 제공하는 서버 및 그 동작 방법
WO2019124963A1 (ko) 음성 인식 장치 및 방법
EP3533015A1 (en) Method and device applying artificial intelligence to send money by using voice input
AU2018310111B2 (en) Electronic device and method for providing search result thereof
WO2016200150A1 (en) Method and apparatus for providing content

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18747326

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2018747326

Country of ref document: EP

Effective date: 20190603

NENP Non-entry into the national phase

Ref country code: DE