JPWO2012141319A1 - Information processing system, information processing method, information processing apparatus, and control method thereof - Google Patents

Information processing system, information processing method, information processing apparatus, and control method thereof Download PDF

Info

Publication number
JPWO2012141319A1
JPWO2012141319A1 JP2013509997A JP2013509997A JPWO2012141319A1 JP WO2012141319 A1 JPWO2012141319 A1 JP WO2012141319A1 JP 2013509997 A JP2013509997 A JP 2013509997A JP 2013509997 A JP2013509997 A JP 2013509997A JP WO2012141319 A1 JPWO2012141319 A1 JP WO2012141319A1
Authority
JP
Japan
Prior art keywords
user
image
face
fashion item
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013509997A
Other languages
Japanese (ja)
Inventor
一秀 梅田
一秀 梅田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Software Kyushu Ltd
Original Assignee
NEC Software Kyushu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Software Kyushu Ltd filed Critical NEC Software Kyushu Ltd
Publication of JPWO2012141319A1 publication Critical patent/JPWO2012141319A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30124Fabrics; Textile; Paper
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Finance (AREA)
  • Development Economics (AREA)
  • Accounting & Taxation (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Primary Health Care (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本発明は、撮像した画像に含まれるユーザの顔の特徴量に基づいて、合成するファッションアイテム画像の大きさを決めることができる情報処理装置提供する。その情報処理装置は、ユーザが所有するユーザファッションアイテムの画像データを、ユーザの顔画像に関連する第1顔関連情報と共に記憶するユーザファッションアイテム記憶手段と、ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像し、ユーザの顔を含むユーザ画像を取得する撮像手段と、ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、第1顔関連情報と第2顔関連情報とに基づいて、ユーザ画像にユーザファッションアイテムの画像を合成する画像合成手段とを備える。The present invention provides an information processing apparatus capable of determining the size of a fashion item image to be synthesized based on a feature amount of a user's face included in a captured image. The information processing apparatus stores user fashion item storage means for storing image data of a user fashion item owned by the user together with first face related information related to the face image of the user, and a fashion item different from the user fashion item. Imaging means for capturing a user attached to the user and acquiring a user image including the user's face, second face related information related to the user's face image included in the user image is extracted, and the first face related information and the second Image synthesizing means for synthesizing the user fashion item image with the user image based on the face related information;

Description

本発明は、複数の画像を合わせて1つの画像を生成するための情報処理技術に関する。   The present invention relates to an information processing technique for generating a single image by combining a plurality of images.

上記技術分野において、特許文献1に示されているように、消費者がファッションアイテムを試着した状態の合成画像を作成する技術が知られている。   In the above technical field, as shown in Patent Document 1, a technique for creating a composite image in a state where a consumer tries on a fashion item is known.

特開2003−30496号公報JP 2003-30696 A

しかしながら、上記特許文献に記載の技術では、複数のファッションアイテム画像を合成する際に、それぞれのファッションアイテム画像の大きさが揃わなかった。
その理由は、上記特許文献に記載の技術は、ファッションアイテム画像の大きさを揃える手段を備えていないためである。
本発明の目的は、上述の課題を解決する技術を提供することにある。
However, in the technique described in the above patent document, when a plurality of fashion item images are synthesized, the sizes of the fashion item images are not uniform.
This is because the technique described in the above-mentioned patent document does not include means for aligning the sizes of fashion item images.
The objective of this invention is providing the technique which solves the above-mentioned subject.

上記目的を達成するため、本発明に係るシステムは、
ユーザが所有するユーザファッションアイテムの画像データを、前記ユーザの顔画像に関連する第1顔関連情報と共に記憶するユーザファッションアイテム記憶手段と、
前記ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像し、ユーザの顔を含むユーザ画像を取得する撮像手段と、
前記ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、前記第1顔関連情報と前記第2顔関連情報とに基づいて、前記ユーザ画像に、前記ユーザファッションアイテムの画像を合成する画像合成手段と、
を含むことを特徴とする。
上記目的を達成するため、本発明に係る方法は、
ユーザが所有するユーザファッションアイテムの画像データを、前記ユーザの顔画像に関連する第1顔関連情報と共に登録するユーザファッションアイテム登録ステップと、
前記ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像し、ユーザの顔を含むユーザ画像を取得する撮像ステップと、
前記ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、前記第1顔関連情報と前記第2顔関連情報とに基づいて、前記ユーザ画像に、前記ユーザファッションアイテムの画像を合成する画像合成ステップと、
を含むことを特徴とする。
上記目的を達成するため、本発明に係る装置は、
ユーザが所有するユーザファッションアイテムの画像データを、前記ユーザの顔画像に関連する第1顔関連情報と共に記憶するユーザファッションアイテム記憶手段と、
前記ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像して取得した、ユーザの顔を含むユーザ画像を通信端末から受信する受信手段と、
前記ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、前記第1顔関連情報と前記第2顔関連情報とに基づいて、前記ユーザ画像に、前記ユーザファッションアイテムの画像を合成する画像合成手段と、
前記画像合成手段が合成して生成した合成画像を前記通信端末に送信する送信手段と、
を含むことを特徴とする。
上記目的を達成するため、本発明に係る方法は、
ユーザが所有するユーザファッションアイテムの画像データを、前記ユーザの顔画像に関連する第1顔関連情報と共に記憶するユーザファッションアイテム記憶手段を備えた情報処理装置の制御方法であって、
前記ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像して取得した、ユーザの顔を含むユーザ画像を通信端末から受信する受信ステップと、
前記ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、前記第1顔関連情報と前記第2顔関連情報とに基づいて、前記ユーザ画像に、前記ユーザフアッションアイテムの画像を合成する画像合成ステップと、
前記画像合成ステップにおいて合成して生成した合成画像を前記通信端末に送信する送信ステップと、
を含むことを特徴とする。
上記目的を達成するため、本発明に係るプログラムは、
ユーザが所有するユーザファッションアイテムの画像データを、前記ユーザの顔画像に関連する第1顔関連情報と共に記憶するユーザファッションアイテム記憶手段を備えた情報処理装置の制御プログラムであって、
前記ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像して取得した、ユーザの顔を含むユーザ画像を通信端末から受信する受信ステップと、
前記ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、前記第1顔関連情報と前記第2顔関連情報とに基づいて、前記ユーザ画像に、前記ユーザファッションアイテムの画像を合成する画像合成ステップと、
前記画像合成ステップにおいて合成して生成した合成画像を前記通信端末に送信する送信ステップと、
をコンピュータに実行させることを特徴とする。
In order to achieve the above object, a system according to the present invention provides:
User fashion item storage means for storing image data of user fashion items owned by the user together with first face related information related to the user's face image;
Imaging means for capturing a user wearing a fashion item different from the user fashion item and acquiring a user image including the user's face;
Second face related information related to the user's face image included in the user image is extracted, and based on the first face related information and the second face related information, the user image includes the user fashion item. Image synthesizing means for synthesizing images;
It is characterized by including.
In order to achieve the above object, the method according to the present invention comprises:
A user fashion item registration step of registering image data of a user fashion item owned by the user together with first face related information related to the face image of the user;
An imaging step of capturing a user wearing a fashion item different from the user fashion item and acquiring a user image including the user's face;
Second face related information related to the user's face image included in the user image is extracted, and based on the first face related information and the second face related information, the user image includes the user fashion item. An image composition step for compositing images;
It is characterized by including.
In order to achieve the above object, an apparatus according to the present invention provides:
User fashion item storage means for storing image data of user fashion items owned by the user together with first face related information related to the user's face image;
Receiving means for receiving, from a communication terminal, a user image including a user's face acquired by capturing a user wearing a fashion item different from the user fashion item;
Second face related information related to the user's face image included in the user image is extracted, and based on the first face related information and the second face related information, the user image includes the user fashion item. Image synthesizing means for synthesizing images;
Transmitting means for transmitting a composite image generated by the image composition means to the communication terminal;
It is characterized by including.
In order to achieve the above object, the method according to the present invention comprises:
A control method for an information processing apparatus including user fashion item storage means for storing image data of a user fashion item owned by a user together with first face related information related to the user's face image,
A reception step of receiving a user image including a user's face acquired from an image of a user wearing a fashion item different from the user fashion item from a communication terminal;
Second face related information related to the face image of the user included in the user image is extracted, and based on the first face related information and the second face related information, the user image of the user fashion item is extracted. An image composition step for compositing images;
A transmission step of transmitting the composite image generated by the synthesis in the image synthesis step to the communication terminal;
It is characterized by including.
In order to achieve the above object, a program according to the present invention provides:
A control program for an information processing apparatus including user fashion item storage means for storing image data of a user fashion item owned by a user together with first face related information related to the face image of the user,
A reception step of receiving a user image including a user's face acquired from an image of a user wearing a fashion item different from the user fashion item from a communication terminal;
Second face related information related to the user's face image included in the user image is extracted, and based on the first face related information and the second face related information, the user image includes the user fashion item. An image composition step for compositing images;
A transmission step of transmitting the composite image generated by the synthesis in the image synthesis step to the communication terminal;
Is executed by a computer.

本発明によれば、複数のファッションアイテム画像の大きさを揃えて、合成することができる。   According to the present invention, the sizes of a plurality of fashion item images can be aligned and combined.

図1は、本発明の第1実施形態に係る情報処理システムの構成を示すブロック図である。FIG. 1 is a block diagram showing a configuration of an information processing system according to the first embodiment of the present invention. 図2は、本発明の第2実施形態に係る情報処理システムの構成を示すブロック図である。FIG. 2 is a block diagram showing a configuration of an information processing system according to the second embodiment of the present invention. 図3は、本発明の第2実施形態に係る情報処理システムにおけるサーバの構成を示すブロック図である。FIG. 3 is a block diagram showing the configuration of the server in the information processing system according to the second embodiment of the present invention. 図4Aは、本発明の第2実施形態に係る情報処理システムにおけるユーザ端末の構成を示すブロック図である。FIG. 4A is a block diagram showing a configuration of a user terminal in the information processing system according to the second embodiment of the present invention. 図4Bは、本発明の第2実施形態に係る情報処理システムにおける店舗端末の構成を示すブロック図である。FIG. 4B is a block diagram illustrating a configuration of a store terminal in the information processing system according to the second embodiment of the present invention. 図5は、本発明の第2実施形態に係る情報処理システムにおけるユーザ端末と、サーバと、店舗端末との手続のやり取りを示すシーケンス図である。FIG. 5 is a sequence diagram showing exchange of procedures among the user terminal, the server, and the store terminal in the information processing system according to the second embodiment of the present invention. 図6は、本発明の第2実施形態におけるサーバのハードウェア構成を示す図である。FIG. 6 is a diagram showing a hardware configuration of a server in the second embodiment of the present invention. 図7は、本発明の第2実施形態における店舗情報のテーブルを示す図である。FIG. 7 is a diagram showing a store information table in the second embodiment of the present invention. 図8は、本発明の第2実施形態における店舗情報を示す図である。FIG. 8 is a diagram showing store information in the second embodiment of the present invention. 図9は、本発明の第2実施形態に係る情報処理システムにおけるユーザファッション情報を格納するバーチャルクローゼットデータベースを示す図である。FIG. 9 is a diagram showing a virtual closet database storing user fashion information in the information processing system according to the second embodiment of the present invention. 図10は、本発明の第2実施形態に係る情報処理システムの処理の流れを示すフローチャートである。FIG. 10 is a flowchart showing a processing flow of the information processing system according to the second embodiment of the present invention. 図11は、本発明の第2実施形態に係る情報処理システムにおける画像処理の流れを示すフローチャートである。FIG. 11 is a flowchart showing a flow of image processing in the information processing system according to the second embodiment of the present invention. 図12は、本発明の第2の実施形態における非揮発性媒体770を示す図である。FIG. 12 is a diagram showing a non-volatile medium 770 according to the second embodiment of the present invention.

以下に、本発明を実施するための形態について、図面を参照して、例示的に詳しく説明記載する。ただし、以下の実施の形態に記載されている、構成、数値、処理の流れ、機能要素などは一例に過ぎず、その変形や変更は自由であって、本発明の技術範囲を以下の記載に限定する趣旨のものではない。
(第1実施形態)
本発明の第1実施形態としての情報処理システム100について、図1を用いて説明する。図1に示すように、情報処理システム100は、ユーザファッションアイテム記憶部110と、撮像部120と、画像合成部130とを含む。
ユーザファッションアイテム記憶部110は、ユーザファッションアイテム画像データ111と、第1顔関連情報112とを含む。ユーザファッションアイテム記憶部110は、ユーザが所有するユーザファッションアイテム画像データ111を、ユーザの顔画像に関連する第1顔関連情報112と共に記憶する。
撮像部120は、ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像し、異なるファッションアイテムを身につけたユーザの画像であるユーザ画像121を取得する。
そして、画像合成部130は、ユーザ画像121に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、第1顔関連情報112と第2顔関連情報とに基づいて、ユーザファッションアイテムの画像をユーザ画像に合わせることにより、合成画像を生成する。
以上の構成及び動作により、本実施形態によれば、複数のファッションアイテム画像の大きさを揃えて、合成することができる。即ち、撮像した画像に含まれるユーザの顔の特徴量に基づいて、合成するファッションアイテム画像の大きさを決めることができる。
その理由は、画像合成部130が、第1顔関連情報112と第2顔関連情報とに基づいて、ユーザファッションアイテムの画像をユーザ画像に合わせることにより、合成画像を生成するようにしたからである。
(第2実施形態)
次に本発明の第2実施形態に係る情報処理システム200について、図2を用いて説明する。
図2は、本実施形態に係る情報処理システム200の構成を示すブロック図である。情報処理システム200は、サーバ210と、ユーザ端末240と、店舗端末250とから構成されており、それぞれネットワーク220を介して通信可能に接続されている。
ユーザ端末240は、カメラ240aを備えており、ユーザファッションアイテムを身につけたユーザを、ユーザ又はユーザに依頼された者に使用されて撮影する。
一方、店舗端末250は、店舗251に設置されたカメラ250aと通信可能に接続されている。店舗端末250は、カメラ250aにより撮像されたユーザが所有しないファッションアイテムを身につけた画像を、カメラ250aより受け取る。
次に、第2実施形態に係る情報処理システム200におけるサーバ210について、図3を用いて説明する。図3は、本実施形態に係る情報処理システム200におけるサーバ210の構成を示すブロック図である。
サーバ210は、通信制御部301と、広告情報生成部302と、商品選択情報受信部303と、店舗情報送信部304と、ユーザ情報受信部305と、ユーザファッションアイテム選択情報受信部306とを含む。また、サーバ210は、ユーザ撮像データ受信部307と、登録部308と、画像合成部309と、表示画像送信部310と、商品情報DB(Data Base)(商品情報記憶)311と、店舗情報DB312と、バーチャルクローゼットDB313とを含む。
通信制御部301は、ユーザ端末240、又は通信端末250との通信を制御する。広告情報生成部302は、商品情報を商品情報DB311から取得し、商品情報を含む広告をユーザ端末240に送信する。商品情報は、例えば、店舗が保有する商品の種類、品番、色、サイズ、在庫数などである。
また、広告情報生成部302は、セール情報や、季節のオススメ商品の情報を生成する。尚、ユーザ端末240に送信される商品情報は、1店舗につき1つを送信しても良いし、複数送信しても良い。
商品選択情報受信部303は、ユーザ端末240においてユーザが選択した商品の情報を受信すると、商品情報DB311、店舗情報DB312に通知する。店舗情報送信部304は、ユーザ端末240において商品が選択されると、その商品を販売する店舗情報を、ユーザ端末240に送信する。
ユーザ情報受信部305は、ユーザ端末240、又は、店舗端末250から、ユーザのログイン情報等のユーザ情報を受信する。ユーザファッションアイテム選択情報受信部306は、ユーザにより選択されたユーザファッションアイテムの情報を、店舗端末250から受信する。
ユーザ撮像データ受信部307は、店舗において撮像されたユーザの画像データを、店舗端末250から受信すると、画像合成部309に送信する。また、ユーザ撮像データ受信部307は、ユーザにより撮像されたユーザファッションアイテムの画像データを、ユーザ端末240から受信すると、登録部308に送信する。
そして、登録部308は、ユーザ端末240から受信した画像データを、バーチャルクローゼットDB313に送信する。
バーチャルクローゼットDB313は、登録部308から受信したユーザ撮像データ(ユーザ端末240から受信した画像データ)を登録する。また、バーチャルクローゼットDB313は、ユーザファッションアイテム選択情報受信部306において、店舗端末250から受信したユーザファッションアイテム選択情報に基づいて、ユーザファッションアイテムの画像を画像合成部309に送信する。
画像合成部309は、ユーザ撮像データに含まれる第2顔関連情報に基づき、バーチャルクローゼットDB313から受信したユーザファッションアイテムデータに含まれる第1顔関連情報112を用いて合成画像を生成する。ここで、ユーザ撮像データは、ユーザ撮像データ受信部307から受信した、店舗において撮像されたユーザの画像データである。画像合成部309は、第1顔関連情報112と前記第2顔関連情報とに基づいて、画像を合成する際に、ユーザの顔画像のサイズと、目間距離と、顔の向きとの少なくともいずれか一方に基づいて画像を合成する。
画像合成部309は、例えば、異なる方向から1つのファッションアイテムを撮像して得た複数の画像が存在する場合、2つ以上のファッションアイテムを、向きを揃えて合成する。そのために、画像合成部309は、例えば、それらの画像に関連付けられた顔の向きを基準にする。つまり、画像合成部309は、一方のファッションアイテムと共に撮像された顔の画像を解析して右斜め45度に向いていると判定できれば、他方のファッションアイテムについても、右斜め45度に向いた画像を選択して、合成する。このようにすることにより、向きの整合の取れた、より自然な合成画像を生成することが可能となる。この場合、サーバ210は、撮像画像に含まれる顔の画像からその向きを判定するための顔方向判定部(不図示)を備えればよい。
表示画像送信部310は、画像合成部309で合成された画像を、店舗端末250(又はユーザ端末240)に送信する。
商品情報DB311は、販売されている商品としてのファッションアイテムの画像を販売元の情報に関連付けて記憶している。商品情報DB311は、例えば、販売元の広告や、販売元の店舗一覧などの情報と、ファッションアイテムの画像情報とを関連付けて記憶する。
図4Aは、本実施形態に係る情報処理システムにおけるユーザ端末240の構成を示すブロック図である。
ユーザ端末240は、通信制御部411と、ユーザ情報受付部412と、画像送信登録部413と、広告情報受信部414と、ユーザファッションアイテム選択情報送信部415と、表示部416と、操作部417と、撮像部240aとを含む。
通信制御部411は、サーバ210と、店舗端末250との通信を制御する。
ユーザ情報受付部412は、ユーザのログイン情報や登録内容の更新情報等を受け付ける。
画像送信登録部413は、ユーザ情報受付部412から受信したユーザ情報と、撮像部240aにおいて撮像された画像情報とを受け付けて、サーバ210のバーチャルクローゼットDB313に登録する。
広告情報受信部414は、商品情報を含む広告情報を、サーバ210の広告情報送信部304から受信する。
ユーザファッションアイテム選択情報送信部415は、表示部416に表示された商品情報の中から、ユーザにより選択された商品の情報を、通信制御部411よりサーバ210のユーザ情報受信部305に送信する。
操作部417は、撮像部240a及び表示部416を介してユーザ端末240の操作に用いられる。
図4Bは、本実施形態に係る情報処理システム200における店舗端末250の構成を示すブロック図である。
店舗端末250は、通信制御部451と、ユーザ情報受付部452と、画像送信登録部453と、表示画像受信部454と、ユーザファッションアイテム選択情報送信部455と、表示部456と、操作部457と、画像入力部458とを含む。
ユーザ情報受付部452は、ユーザのログイン情報などを受け付ける。画像送信登録部453は、ユーザ情報受付部452から受け付けたログイン情報と、撮像部250aから取得した店舗で撮像したユーザ撮像画像情報とを受け付ける。
通信制御部451は、サーバ210、及びユーザ端末240との通信を制御する。
画像送信登録部453は、ユーザ情報受付部452からログイン情報や、ユーザ情報の更新を受け付ける。また、画像送信登録部453は、ユーザ撮像画像を入力する画像入力部458から、店舗で撮影したユーザ撮像画像情報を取得し、登録する。
表示画像受信部454は、ユーザ撮像画像、又はユーザファッションアイテム画像についての情報を、通信制御部451より受信する。表示画像受信部454は、例えば、画像送信登録部453で取得したユーザ撮像画像とコーディネートするために、ユーザファッションアイテム画像についての選択を、通信制御部451を介して受信する。
ユーザファッションアイテム選択情報送信部455は、選択されたユーザファッションアイテムの画像情報を、通信制御部451を通してサーバ210のユーザファッションアイテム選択情報受信部306に送信する。
表示部456は、表示画像受信部454が受信した、店舗端末250において選択されたユーザファッションアイテム画像についての指示に基づいて、ユーザファッションアイテムの画像を表示する。
操作部457は、画像入力部458及び表示部456を介して店舗端末250の操作に用いられる。
図5は、本実施形態に係る情報処理システム200におけるユーザ端末240と、サーバ210と、店舗端末250との手続きのやり取りを示すシーケンス図である。
ステップS501において、サーバ210の店舗情報DB312は、店舗端末250の画像送信登録部453から送信された、店舗に保有される商品画像その他の商品情報を登録する。
ステップS503において、ユーザ端末240はコーディネートアプリケーション654(図6)をダウンロードし、ユーザ登録する。
ステップS505において、ユーザ端末240がサーバ210にログインすると、ステップS507において、サーバ210のユーザ情報受信部305は、ユーザ端末240の現在位置情報を受信する。
ステップS509において、サーバ210の広告情報生成部302は、予めユーザ端末240において設定された範囲内に位置する店舗の商品情報を、ユーザ端末240に送信する。ここで、ユーザ端末240が商品情報を取得する範囲は、ユーザ端末240においてユーザ登録時に予め設定しても良く、ログイン時に設定しても良い。
ステップS511において、ユーザ端末240は、ユーザファッションアイテム選択情報送信部415より商品情報の選択を行なう。
ステップS513において、サーバ210は、選択情報受信部303において、ユーザ端末240による商品選択情報を受信すると、店舗情報送信部304からユーザ端末240に店舗へのルート情報を送信する。
ステップS515において、店舗端末250は、ユーザ情報受付部452においてユーザのログイン情報を受け付けると、サーバ210へのアクセス権の移行を、ユーザ端末240から受け付ける。
ステップS517において、店舗端末250は、店舗において商品を試着したユーザの撮像画像を、画像入力部458を介して撮像部250aから受信し、表示部456により表示する。
ステップS519において、店舗端末250は、画像送信登録部454を介して、撮像したユーザ画像をサーバ210に送信する。
ステップS521において、店舗端末250は、ユーザのバーチャルクローゼットDB313を表示する。ステップS523において、店舗端末250は、バーチャルクローゼットDB313から、ユーザが試着した商品とコーディネートできるユーザファッションアイテムの選択を、操作部457により受け付ける。
ステップS525において、店舗端末250は、操作部457において選択を受け付けたユーザファッションアイテムの画像情報を、サーバ210に送信する。
ステップS527において、サーバ210の画像合成部309は、店舗端末250から送信されたユーザの撮像画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出する。また、サーバ210の画像合成部309は、選択されたユーザファッションアイテムから第1顔関連情報112を抽出し、抽出した第2顔関連情報と共に、合成画像を生成する。
ステップS529において、サーバ210の表示画像送信部310は、画像合成部309において生成した合成画像を、店舗端末250に送信する。
ステップS531において、店舗端末250の表示部456は、表示画像送信部454において受信した合成画像を表示する。
図6は、本実施形態に係る情報処理システム200におけるサーバ210のハードウェア構成を示す図である。サーバ210の内部構成について、図6を用いて説明する。
サーバ210は、CPU(Central Processing Unit)601、ROM(Read Only Memory)602、通信制御部603、RAM(Random Access Memory)604、及びストレージ605を備えている。
CPU601は中央処理部であって、様々なプログラムを実行することによりサーバ210全体を制御する。
ROM602は、不揮発メモリであり、CPU601に実行すべきブートプログラムの他、各種のパラメータ等を記憶している。
RAM604は、ランダムアクセスメモリであり、アプリケーションが扱うデータの記憶領域を有している。RAM604は、具体的には、ユーザ端末240の現在位置情報641と、ユーザ端末240で選択された商品情報642と、店舗端末250で撮像されたユーザ画像643とを記憶する。また、RAM604は、店舗端末250から送信された商品画像と、ユーザファッションアイテムとを合成した合成画像644と、ユーザの顔の特徴量645と、バーチャルクローゼット646とを記憶する。
一方、ストレージ605は、各種のデータ、パラメータ、プログラムなどを保存する装置である。ストレージ605は、バーチャルクローゼットDB313と、商品情報DB311と、店舗情報DB312と、コーディネートアプリケーション654とを記憶する。そして、コーディネートアプリケーション654は、合成モジュール655と、顔特徴抽出モジュール656とを含む。
バーチャルクローゼットDB313と、商品情報DB311と、店舗情報DB312とは、図3で説明したとおりであるので、説明を省略する。
コーディネートアプリケーション654は、ユーザファッションアイテム画像と、店舗で撮像したユーザ撮像画像とから、顔特徴抽出モジュール656を用いてユーザの顔特徴を抽出し、この顔特徴量に基づいて、合成モジュール655により、合成画像を生成する。コーディネートアプリケーション654は、図3の301〜310として機能する。
合成モジュール655、及び顔特徴抽出モジュール656は、CPU601によって実行されることにより、画像合成部309として機能する。また、顔特徴抽出モジュール656は、ユーザ画像に含まれるユーザの顔画像に関連する顔関連情報を抽出する。顔関連情報としては、ユーザの顔画像のサイズと、目間距離と、顔の向きとの少なくともいずれか1つを含む。
図7は、本実施形態に係る情報処理システム200における店舗情報DB312のテーブルを示す図である。店舗情報DB312には、店舗毎に、店舗ID(identifier)711、店舗名称713、店舗住所715、及びリンク情報717が記憶される。店舗ID711は、店舗毎のID番号である。店舗名称713は、店舗毎の名称である。店舗住所715は、店舗毎の所在地の住所である。リンク情報717は、店舗までのルート情報(アクセスマップ)を示す地図情報へのリンクである。
図8は、本実施形態に係る情報処理システム200における商品情報DB311に登録された商品情報を示す図である。
各商品情報810、820、830は、商品情報DB312に登録されている店舗毎にサーバ210のストレージ605に登録されている。
811は棚A、812は棚B、813は棚C、814は棚D、815はレジスタを示す。そして、811aは、棚Aに陳列されているファッションアイテム情報を示す。同様に812aは棚Bに陳列されているファッションアイテム情報であり、アイテムID20001と、色、サイズを示す。813a、814aは、それぞれ棚C、棚Dに陳列されているファッションアイテムの情報を示す。
ユーザ端末240の表示部416は、これら情報を表示する。ユーザは、ユーザ端末240の操作部417により選択した商品が、店舗内のどこに陳列されているのか、ユーザ端末240において確認できる。
図9は、ユーザファッションアイテム情報を格納するバーチャルクローゼットDB313を示す図である。
バーチャルクローゼットDB313は、コーディネートアプリケーション654に登録したユーザ毎に作成され、ユーザの顔を含むユーザファションアイテム画像を分類して登録する。バーチャルクローゼットDB313は、ユーザAのクローゼット910、ユーザBのクローゼット920、…、を格納する。クローゼット910は、引き出し911〜916と、収納917と、コートハンガー918とを含む。
引き出し913〜916には、例えば、シャツ、及びパンツのファッションアイテム画像情報が、例えば色の濃淡により分類して格納され、コートハンガーには、アウター、及びスーツのファッションアイテム画像情報が重さの軽重により分類されて格納されている。
例えば、ユーザファッションアイテム情報913a、916aは、引き出し913、916に格納されたシャツ、及びパンツの情報、具体的には、アイテムID、色、サイズ等により分類されて格納される。
また、ユーザファッションアイテム情報918aは、コートハンガー918に格納されたアウター及びスーツの情報が、それぞれアイテムID、色、サイズ等により分類されて格納される。
図10は、本実施形態に係る情報処理システム200の処理の流れを示すフローチャートである。
ステップS1001において、サーバ210のユーザ情報受信部305は、ユーザの位置情報を取得する。
ステップS1003において、サーバ210の広告情報生成部302は、ユーザの現在位置周辺の店舗の商品情報を送信する。
ステップS1005において、ユーザ端末240の表示部416に表示された商品の中から、ユーザが気に入った商品が、選択される。即ち、ユーザは、操作部417を操作して、ユーザ端末240の表示部416に表示された商品の中から気に入った商品を選択する。そして、ユーザ端末240のユーザファッションアイテム選択情報送信部415は、通信制御部411を介して、その選択情報をサーバパッシブ近距離無線通信部210へ送信する。
ステップS1007において、サーバ210の店舗情報送信部304は、ユーザ端末240において選択された商品を提供する店舗へのルート情報(アクセスマップ)を、ユーザ端末240に送信する。
ステップS1009において、ユーザ端末240は、サーバ210へのアクセス権を店舗端末250に移行する。
ステップS1011において、ユーザ端末240のユーザファッションアイテム選択情報送信部415は、ユーザ端末240において選択された商品情報を、店舗端末250に送信する。
ステップS1013において、サーバ210のユーザ撮像データ受信部307は、店舗端末250から送信された、店舗で撮像されたユーザと商品との撮像画像を受信する。
ステップS1015において、サーバ210の画像合成部309は、バーチャルクローゼットに登録されているユーザのファッションアイテム画像と、店舗で撮像されたユーザと商品との撮像画像とを、ユーザの顔画像の大きさ(サイズ)に基づいて合成する。
図11は、本実施形態に係る情報処理システム200における情報処理の流れを示すフローチャートである。図11に示すフローチャートは、図10のステップS1015の詳細な流れを示すフローチャートである。
ステップS1101において、店舗端末250の表示部456は、ユーザ個人用トップページを表示する。ステップS1103において、店舗端末250の操作部457がユーザによる操作に応じて、次のいずれかが実行される。
ステップS1105からの流れは、バーチャルクローゼットを表示してユーザによりコーディネートが行なわれる場合の流れである。ステップS1105において、店舗端末250の表示部456は、ユーザのバーチャルクローゼットを表示する。
ステップS1107において、店舗端末250の操作部457は、表示部456に表示されたユーザファッションアイテムから、ユーザがコーディネートを希望するユーザファッションアイテムの選択を受け付ける。ユーザによるコーディネートが終了するまで、ステップS1103に戻り、ユーザ操作が続けられる。
ステップS1111からの流れは、店舗における商品を選んでユーザによるコーディネートが行なわれる場合の流れである。
ステップS1111において、店舗端末250の表示部456は、店舗の商品情報を表示する。ステップS1113において、店舗端末250の操作部457は、表示された商品情報から、ユーザによる商品の選択を受け付ける。ユーザによる商品の選択が終了するまで、ステップS1103に戻り、ユーザ操作が続けられる。
ステップS1115からの流れは、ユーザにより選択されたファッションアイテムと、ユーザファッションアイテムとの合成が行なわれる場合の流れである。
ステップS1115において、店舗端末250のファッションアイテム選択情報送信部455は、ユーザにより選択されたユーザファッションアイテムの選択情報をサーバ210のユーザファッションアイテム選択情報受信部306に送信する。
ステップS1117において、サーバ210の表示画像送信部310は、ユーザの撮像画像と、ユーザにより選択されたユーザファッションアイテムとの合成画像データを、店舗端末250の表示画像受信部454に送信する。ユーザによるコーディネートが終了するまで、ステップS1103に戻り、ユーザ操作が続けられる。
ステップS1115からの流れは、ユーザによるコーディネートが終了する場合の流れである。
ステップS1121において、店舗端末250の操作部457において終了ボタンが選択されて、情報処理システム200は、コーディネートの終了処理を行う。
以上の構成及び動作により、本実施形態によれば、予め撮像されたユーザの顔画像に含まれる顔の大きさ、目間距離に基づいて、複数の画像を合成して、1つの画像を生成することが可能である。これにより、ユーザは、店舗で試着した商品と、ユーザ自身が所有するファッションアイテムとをコーディネートした合成画像を、バランスの取れた画像として見ることができ、商品購入に際し、納得して欲しいもののみを購入することができる。
その理由は、画像合成部が、第1顔関連情報112と前記第2顔関連情報とに基づいて、画像を合成する際に、ユーザの顔画像のサイズと、目間距離と、顔の向きとの少なくともいずれか一方に基づいて画像を合成するようにしたからである。
(他の実施形態)
以上、本発明の実施形態について詳述したが、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステム又は装置も、本発明の範疇に含まれる。
また、本発明は、複数の機器から構成されるシステムに適用されても良いし、単体の装置に適用されても良い。さらに、本発明は、実施形態の機能を実現する情報処理プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされるプログラム、あるいはそのプログラムを格納した媒体、そのプログラムをダウンロードさせるWWW(World Wide Web)サーバも、本発明の範疇に含まれる。尚、そのプログラムを格納した媒体は、非揮発性の記憶媒体であってよい。図12は、非揮発性媒体770を示す図である。
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2011年4月12日に出願された日本出願特願2011−088701を基礎とする優先権を主張し、その開示の全てをここに取り込む。
DESCRIPTION OF EMBODIMENTS Hereinafter, embodiments for carrying out the present invention will be exemplarily described in detail with reference to the drawings. However, the configuration, numerical values, process flow, functional elements, and the like described in the following embodiments are merely examples, and modifications and changes are free, and the technical scope of the present invention is described in the following description. It is not intended to be limited.
(First embodiment)
An information processing system 100 as a first embodiment of the present invention will be described with reference to FIG. As illustrated in FIG. 1, the information processing system 100 includes a user fashion item storage unit 110, an imaging unit 120, and an image composition unit 130.
The user fashion item storage unit 110 includes user fashion item image data 111 and first face related information 112. The user fashion item storage unit 110 stores user fashion item image data 111 owned by the user together with first face related information 112 related to the user's face image.
The imaging unit 120 captures a user wearing a fashion item different from the user fashion item, and acquires a user image 121 that is an image of the user wearing the different fashion item.
Then, the image composition unit 130 extracts the second face related information related to the user's face image included in the user image 121, and based on the first face related information 112 and the second face related information, the user fashion item The synthesized image is generated by matching the image of the above with the user image.
With the configuration and operation described above, according to the present embodiment, the sizes of a plurality of fashion item images can be aligned and combined. That is, the size of the fashion item image to be synthesized can be determined based on the feature amount of the user's face included in the captured image.
The reason is that the image composition unit 130 generates a composite image by matching the image of the user fashion item with the user image based on the first face related information 112 and the second face related information. is there.
(Second Embodiment)
Next, an information processing system 200 according to the second embodiment of the present invention will be described with reference to FIG.
FIG. 2 is a block diagram illustrating a configuration of the information processing system 200 according to the present embodiment. The information processing system 200 includes a server 210, a user terminal 240, and a store terminal 250, which are communicably connected via a network 220.
The user terminal 240 includes a camera 240a, and is used to photograph a user who wears a user fashion item by a user or a person who is requested by the user.
On the other hand, the store terminal 250 is communicably connected to a camera 250a installed in the store 251. The store terminal 250 receives from the camera 250a an image that is captured by the camera 250a and is worn with a fashion item not owned by the user.
Next, the server 210 in the information processing system 200 according to the second embodiment will be described with reference to FIG. FIG. 3 is a block diagram illustrating a configuration of the server 210 in the information processing system 200 according to the present embodiment.
Server 210 includes a communication control unit 301, an advertisement information generation unit 302, a product selection information reception unit 303, a store information transmission unit 304, a user information reception unit 305, and a user fashion item selection information reception unit 306. . In addition, the server 210 includes a user imaging data reception unit 307, a registration unit 308, an image composition unit 309, a display image transmission unit 310, a product information DB (Data Base) (product information storage) 311, and a store information DB 312. And a virtual closet DB 313.
The communication control unit 301 controls communication with the user terminal 240 or the communication terminal 250. The advertisement information generation unit 302 acquires product information from the product information DB 311 and transmits an advertisement including the product information to the user terminal 240. The product information is, for example, the type, product number, color, size, inventory quantity, etc. of the product held by the store.
Further, the advertisement information generation unit 302 generates sale information and information on seasonal recommended products. In addition, the merchandise information transmitted to the user terminal 240 may be transmitted one per store or a plurality of items.
When the product selection information receiving unit 303 receives information on the product selected by the user at the user terminal 240, the product selection information receiving unit 303 notifies the product information DB 311 and the store information DB 312. When a product is selected on the user terminal 240, the store information transmission unit 304 transmits store information for selling the product to the user terminal 240.
The user information receiving unit 305 receives user information such as user login information from the user terminal 240 or the store terminal 250. The user fashion item selection information receiving unit 306 receives information on the user fashion item selected by the user from the store terminal 250.
When the user image data receiving unit 307 receives image data of the user imaged in the store from the store terminal 250, the user image data receiving unit 307 transmits the image data to the image composition unit 309. In addition, when the user imaging data receiving unit 307 receives the image data of the user fashion item imaged by the user from the user terminal 240, the user imaging data receiving unit 307 transmits the image data to the registration unit 308.
Then, the registration unit 308 transmits the image data received from the user terminal 240 to the virtual closet DB 313.
The virtual closet DB 313 registers user imaging data received from the registration unit 308 (image data received from the user terminal 240). Further, the virtual closet DB 313 transmits an image of the user fashion item to the image composition unit 309 based on the user fashion item selection information received from the store terminal 250 in the user fashion item selection information receiving unit 306.
The image composition unit 309 generates a composite image using the first face related information 112 included in the user fashion item data received from the virtual closet DB 313 based on the second face related information included in the user imaging data. Here, the user image data is image data of the user imaged at the store, received from the user image data receiving unit 307. When synthesizing images based on the first face related information 112 and the second face related information, the image composition unit 309 includes at least the size of the user's face image, the distance between eyes, and the orientation of the face. An image is synthesized based on either one.
For example, when there are a plurality of images obtained by imaging one fashion item from different directions, the image composition unit 309 synthesizes two or more fashion items with their orientations aligned. For this purpose, the image composition unit 309 uses, for example, the face orientation associated with these images as a reference. That is, if the image compositing unit 309 can analyze the face image captured together with one fashion item and determine that the face is oriented to 45 degrees to the right, the other fashion item is also directed to the right oblique 45 degrees. Select and compose. By doing so, it is possible to generate a more natural composite image with a consistent orientation. In this case, the server 210 may include a face direction determination unit (not shown) for determining the orientation from the face image included in the captured image.
The display image transmission unit 310 transmits the image synthesized by the image synthesis unit 309 to the store terminal 250 (or the user terminal 240).
The product information DB 311 stores an image of a fashion item as a product being sold in association with the information of the seller. The product information DB 311 stores, for example, information such as advertisements of sellers, stores of stores of sellers, and image information of fashion items in association with each other.
FIG. 4A is a block diagram illustrating a configuration of the user terminal 240 in the information processing system according to the present embodiment.
The user terminal 240 includes a communication control unit 411, a user information reception unit 412, an image transmission registration unit 413, an advertisement information reception unit 414, a user fashion item selection information transmission unit 415, a display unit 416, and an operation unit 417. And an imaging unit 240a.
The communication control unit 411 controls communication between the server 210 and the store terminal 250.
The user information reception unit 412 receives user login information, registration information update information, and the like.
The image transmission registration unit 413 receives the user information received from the user information reception unit 412 and the image information captured by the imaging unit 240a, and registers them in the virtual closet DB 313 of the server 210.
The advertisement information receiving unit 414 receives advertisement information including product information from the advertisement information transmitting unit 304 of the server 210.
The user fashion item selection information transmission unit 415 transmits information on the product selected by the user from the product information displayed on the display unit 416 from the communication control unit 411 to the user information reception unit 305 of the server 210.
The operation unit 417 is used to operate the user terminal 240 via the imaging unit 240a and the display unit 416.
FIG. 4B is a block diagram illustrating a configuration of the store terminal 250 in the information processing system 200 according to the present embodiment.
The store terminal 250 includes a communication control unit 451, a user information reception unit 452, an image transmission registration unit 453, a display image reception unit 454, a user fashion item selection information transmission unit 455, a display unit 456, and an operation unit 457. And an image input unit 458.
The user information receiving unit 452 receives user login information and the like. The image transmission registration unit 453 receives login information received from the user information reception unit 452 and user captured image information captured at the store acquired from the imaging unit 250a.
The communication control unit 451 controls communication with the server 210 and the user terminal 240.
The image transmission registration unit 453 receives login information and user information update from the user information reception unit 452. In addition, the image transmission registration unit 453 acquires and registers user captured image information captured at the store from the image input unit 458 that inputs a user captured image.
The display image receiving unit 454 receives information about the user captured image or the user fashion item image from the communication control unit 451. For example, the display image receiving unit 454 receives a selection about the user fashion item image via the communication control unit 451 in order to coordinate with the user captured image acquired by the image transmission registration unit 453.
The user fashion item selection information transmission unit 455 transmits image information of the selected user fashion item to the user fashion item selection information reception unit 306 of the server 210 through the communication control unit 451.
Display unit 456 displays the image of the user fashion item based on the instruction about the user fashion item image selected at store terminal 250 received by display image receiving unit 454.
The operation unit 457 is used to operate the store terminal 250 via the image input unit 458 and the display unit 456.
FIG. 5 is a sequence diagram illustrating the exchange of procedures among the user terminal 240, the server 210, and the store terminal 250 in the information processing system 200 according to the present embodiment.
In step S501, the store information DB 312 of the server 210 registers the product image and other product information held in the store transmitted from the image transmission registration unit 453 of the store terminal 250.
In step S503, the user terminal 240 downloads the coordination application 654 (FIG. 6) and registers the user.
When the user terminal 240 logs into the server 210 in step S505, the user information receiving unit 305 of the server 210 receives the current position information of the user terminal 240 in step S507.
In step S <b> 509, the advertisement information generation unit 302 of the server 210 transmits product information of stores located within a range set in advance in the user terminal 240 to the user terminal 240. Here, the range in which the user terminal 240 acquires product information may be set in advance at the time of user registration in the user terminal 240 or may be set at the time of login.
In step S511, the user terminal 240 selects product information from the user fashion item selection information transmission unit 415.
In step S <b> 513, when the selection information receiving unit 303 receives the product selection information from the user terminal 240, the server 210 transmits route information to the store from the store information transmission unit 304 to the user terminal 240.
In step S <b> 515, when the store information 250 receives user login information in the user information receiving unit 452, the store terminal 250 receives a transfer of access rights to the server 210 from the user terminal 240.
In step S517, the store terminal 250 receives the captured image of the user who tried on the product in the store from the image capturing unit 250a via the image input unit 458, and displays it on the display unit 456.
In step S519, the shop terminal 250 transmits the captured user image to the server 210 via the image transmission registration unit 454.
In step S521, the shop terminal 250 displays the user's virtual closet DB 313. In step S523, the store terminal 250 receives, from the virtual closet DB 313, the selection of a user fashion item that can be coordinated with a product that the user has tried on by using the operation unit 457.
In step S 525, store terminal 250 transmits image information of the user fashion item whose selection has been received at operation unit 457 to server 210.
In step S <b> 527, the image composition unit 309 of the server 210 extracts second face related information related to the user's face image included in the user's captured image transmitted from the store terminal 250. In addition, the image composition unit 309 of the server 210 extracts the first face related information 112 from the selected user fashion item, and generates a composite image together with the extracted second face related information.
In step S529, the display image transmission unit 310 of the server 210 transmits the composite image generated by the image composition unit 309 to the store terminal 250.
In step S531, the display unit 456 of the store terminal 250 displays the composite image received by the display image transmission unit 454.
FIG. 6 is a diagram illustrating a hardware configuration of the server 210 in the information processing system 200 according to the present embodiment. The internal configuration of the server 210 will be described with reference to FIG.
The server 210 includes a CPU (Central Processing Unit) 601, a ROM (Read Only Memory) 602, a communication control unit 603, a RAM (Random Access Memory) 604, and a storage 605.
The CPU 601 is a central processing unit and controls the entire server 210 by executing various programs.
The ROM 602 is a non-volatile memory, and stores various parameters in addition to a boot program to be executed by the CPU 601.
A RAM 604 is a random access memory and has a storage area for data handled by an application. Specifically, the RAM 604 stores current position information 641 of the user terminal 240, product information 642 selected by the user terminal 240, and a user image 643 captured by the store terminal 250. In addition, the RAM 604 stores a composite image 644 obtained by combining the product image transmitted from the store terminal 250 and the user fashion item, a user face feature amount 645, and a virtual closet 646.
On the other hand, the storage 605 is a device that stores various data, parameters, programs, and the like. The storage 605 stores a virtual closet DB 313, a product information DB 311, a store information DB 312, and a coordination application 654. The coordinate application 654 includes a synthesis module 655 and a face feature extraction module 656.
The virtual closet DB 313, the product information DB 311 and the store information DB 312 are as described with reference to FIG.
The coordinate application 654 extracts a user's facial feature from the user fashion item image and the user-captured image captured at the store using the facial feature extraction module 656, and based on the facial feature amount, the composition module 655 Generate a composite image. The coordinate application 654 functions as 301 to 310 in FIG.
The composition module 655 and the face feature extraction module 656 function as the image composition unit 309 by being executed by the CPU 601. The face feature extraction module 656 extracts face related information related to the user's face image included in the user image. The face-related information includes at least one of the size of the user's face image, the distance between eyes, and the face direction.
FIG. 7 is a diagram showing a table of the store information DB 312 in the information processing system 200 according to the present embodiment. Store ID DB312 stores store ID (identifier) 711, store name 713, store address 715, and link information 717 for every store. The store ID 711 is an ID number for each store. The store name 713 is a name for each store. The store address 715 is an address of a location for each store. The link information 717 is a link to map information indicating route information (access map) to the store.
FIG. 8 is a diagram showing product information registered in the product information DB 311 in the information processing system 200 according to the present embodiment.
The product information 810, 820, and 830 are registered in the storage 605 of the server 210 for each store registered in the product information DB 312.
811 is a shelf A, 812 is a shelf B, 813 is a shelf C, 814 is a shelf D, and 815 is a register. 811a indicates the fashion item information displayed on the shelf A. Similarly, 812a is the fashion item information displayed on the shelf B, and indicates the item ID 20001, color, and size. Reference numerals 813a and 814a denote information on the fashion items displayed on the shelf C and the shelf D, respectively.
The display unit 416 of the user terminal 240 displays these pieces of information. The user can confirm on the user terminal 240 where the product selected by the operation unit 417 of the user terminal 240 is displayed in the store.
FIG. 9 is a diagram showing a virtual closet DB 313 that stores user fashion item information.
The virtual closet DB 313 is created for each user registered in the coordination application 654, and classifies and registers user fashion item images including the user's face. The virtual closet DB 313 stores the closet 910 of the user A, the closet 920 of the user B,. The closet 910 includes drawers 911 to 916, a storage 917, and a coat hanger 918.
In the drawers 913 to 916, for example, fashion item image information of shirts and pants is classified and stored according to, for example, color shading, and the fashion item image information of outer and suit is weighted on the coat hanger. Classified and stored.
For example, the user fashion item information 913a, 916a is classified and stored by shirt and pant information stored in the drawers 913, 916, specifically, item ID, color, size, and the like.
Also, the user fashion item information 918a is stored with the outer and suit information stored in the coat hanger 918 classified according to item ID, color, size, and the like.
FIG. 10 is a flowchart showing a processing flow of the information processing system 200 according to the present embodiment.
In step S <b> 1001, the user information receiving unit 305 of the server 210 acquires user position information.
In step S <b> 1003, the advertisement information generation unit 302 of the server 210 transmits product information of stores around the current position of the user.
In step S <b> 1005, a product that the user likes is selected from the products displayed on the display unit 416 of the user terminal 240. That is, the user operates the operation unit 417 to select a favorite product from among the products displayed on the display unit 416 of the user terminal 240. Then, the user fashion item selection information transmission unit 415 of the user terminal 240 transmits the selection information to the server passive short-range wireless communication unit 210 via the communication control unit 411.
In step S <b> 1007, the store information transmission unit 304 of the server 210 transmits route information (access map) to the store that provides the product selected on the user terminal 240 to the user terminal 240.
In step S <b> 1009, the user terminal 240 transfers the access right to the server 210 to the store terminal 250.
In step S <b> 1011, the user fashion item selection information transmission unit 415 of the user terminal 240 transmits the product information selected on the user terminal 240 to the store terminal 250.
In step S <b> 1013, the user image data reception unit 307 of the server 210 receives the captured image of the user and the product imaged at the store and transmitted from the store terminal 250.
In step S <b> 1015, the image composition unit 309 of the server 210 uses the user's fashion item image registered in the virtual closet, the captured image of the user and the product captured in the store, and the size of the user's face image ( Based on size).
FIG. 11 is a flowchart showing a flow of information processing in the information processing system 200 according to the present embodiment. The flowchart shown in FIG. 11 is a flowchart showing the detailed flow of step S1015 in FIG.
In step S1101, the display unit 456 of the store terminal 250 displays the user personal top page. In step S1103, the operation unit 457 of the store terminal 250 executes one of the following in response to an operation by the user.
The flow from step S1105 is a flow in the case where the virtual closet is displayed and coordinated by the user. In step S1105, the display unit 456 of the store terminal 250 displays the user's virtual closet.
In step S <b> 1107, the operation unit 457 of the store terminal 250 receives selection of user fashion items that the user desires to coordinate from the user fashion items displayed on the display unit 456. Until the coordination by the user is completed, the process returns to step S1103 and the user operation is continued.
The flow from step S1111 is a flow in the case where a product is selected at the store and coordinated by the user.
In step S1111, the display unit 456 of the store terminal 250 displays store product information. In step S <b> 1113, the operation unit 457 of the store terminal 250 accepts selection of a product by the user from the displayed product information. Until the user finishes selecting the product, the process returns to step S1103 and the user operation is continued.
The flow from step S1115 is a flow in the case where the fashion item selected by the user and the user fashion item are combined.
In step S1115, the fashion item selection information transmission unit 455 of the store terminal 250 transmits the user fashion item selection information selected by the user to the user fashion item selection information reception unit 306 of the server 210.
In step S <b> 1117, the display image transmission unit 310 of the server 210 transmits composite image data of the captured image of the user and the user fashion item selected by the user to the display image reception unit 454 of the store terminal 250. Until the coordination by the user is completed, the process returns to step S1103 and the user operation is continued.
The flow from step S1115 is a flow when the coordination by the user ends.
In step S1121, an end button is selected on the operation unit 457 of the store terminal 250, and the information processing system 200 performs a coordination end process.
With the above configuration and operation, according to the present embodiment, a plurality of images are synthesized based on the face size and the interocular distance included in the user's face image captured in advance to generate one image. Is possible. As a result, the user can see the composite image that coordinates the product tried on in the store and the fashion item owned by the user as a balanced image, and only the items that the customer wants to be satisfied with when purchasing the product. Can be purchased.
The reason is that when the image composition unit composes images based on the first face related information 112 and the second face related information, the size of the face image of the user, the distance between eyes, and the orientation of the face This is because the image is synthesized based on at least one of the above.
(Other embodiments)
As mentioned above, although embodiment of this invention was explained in full detail, the system or apparatus which combined the separate characteristic contained in each embodiment how was included in the category of this invention.
Further, the present invention may be applied to a system constituted by a plurality of devices, or may be applied to a single device. Furthermore, the present invention can also be applied to a case where an information processing program that implements the functions of the embodiments is supplied directly or remotely to a system or apparatus. Therefore, in order to realize the functions of the present invention on a computer, a program installed in the computer, a medium storing the program, and a WWW (World Wide Web) server that downloads the program are also included in the scope of the present invention. . The medium storing the program may be a non-volatile storage medium. FIG. 12 is a diagram showing a non-volatile medium 770.
While the present invention has been described with reference to the embodiments, the present invention is not limited to the above embodiments. Various changes that can be understood by those skilled in the art can be made to the configuration and details of the present invention within the scope of the present invention.
This application claims the priority on the basis of Japanese application Japanese Patent Application No. 2011-087701 for which it applied on April 12, 2011, and takes in those the indications of all here.

Claims (11)

ユーザが所有するユーザファッションアイテムの画像データを、前記ユーザの顔画像に関連する第1顔関連情報と共に記憶するユーザファッションアイテム記憶手段と、
前記ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像し、ユーザの顔を含むユーザ画像を取得する撮像手段と、
前記ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、前記第1顔関連情報と前記第2顔関連情報とに基づいて、前記ユーザ画像に、前記ユーザファッションアイテムの画像を合成する画像合成手段と、
を含むことを特徴とする情報処理システム。
User fashion item storage means for storing image data of user fashion items owned by the user together with first face related information related to the user's face image;
Imaging means for capturing a user wearing a fashion item different from the user fashion item and acquiring a user image including the user's face;
Second face related information related to the user's face image included in the user image is extracted, and based on the first face related information and the second face related information, the user image includes the user fashion item. Image synthesizing means for synthesizing images;
An information processing system comprising:
前記第1顔関連情報及び前記第2顔関連情報は、前記ユーザの顔画像のサイズ、目間距離、及び顔の向きの少なくともいずれか1つを含むことを特徴とする請求項1に記載の情報処理システム。   The first face-related information and the second face-related information include at least one of a size, a distance between eyes, and a face direction of the user's face image. Information processing system. 前記ユーザが使用するユーザ端末から、前記ユーザファッションアイテムの画像データを受信し、前記ユーザファッションアイテム記憶手段に対して前記第1顔関連情報と共に登録する登録手段をさらに備えたことを特徴とする請求項1に記載の情報処理システム。   The apparatus further comprises registration means for receiving image data of the user fashion item from a user terminal used by the user and registering the user fashion item storage means together with the first face related information. Item 4. The information processing system according to Item 1. 前記登録手段は、さらに、前記撮像手段で撮像することにより取得した前記ユーザ画像を前記第2顔関連情報と共に、前記ユーザファッションアイテム記憶手段に対して登録することを特徴とする請求項1に記載の情報処理システム。   The said registration means further registers the said user image acquired by imaging with the said imaging means with the said 2nd face related information with respect to the said user fashion item memory | storage means, It is characterized by the above-mentioned. Information processing system. 前記画像合成手段により前記ユーザ画像に前記ユーザファッションアイテムの画像が合成されて生成された合成画像を表示する表示手段をさらに含むことを特徴とする請求項1乃至4のいずれか1項に記載の情報処理システム。   5. The display apparatus according to claim 1, further comprising a display unit configured to display a composite image generated by combining the user fashion item with the user image by the image composition unit. Information processing system. 前記ユーザが使用するユーザ端末に対して、店舗にて販売されている商品としてのファッションアイテムの画像を複数送信する送信手段と、
前記送信手段で送信された複数の画像からユーザが選択した画像に関する情報を前記ユーザ端末から受信する受信手段と、
をさらに含み、
前記表示手段は、前記合成画像と共に、前記ユーザが選択した画像を表示することを特徴とする請求項5に記載の情報処理システム。
Transmitting means for transmitting a plurality of images of fashion items as products sold in a store to the user terminal used by the user;
Receiving means for receiving, from the user terminal, information relating to an image selected by a user from a plurality of images transmitted by the transmitting means;
Further including
The information processing system according to claim 5, wherein the display unit displays an image selected by the user together with the synthesized image.
販売されている商品としてのファッションアイテムの画像を販売元の情報に関連づけて記憶する商品情報記憶手段をさらに含み、
前記画像合成手段は、前記商品情報記憶手段に記憶された前記ファッションアイテムの画像を前記ユーザ画像に合成することを特徴とする請求項1乃至6のいずれか1項に記載の情報処理システム。
It further includes product information storage means for storing the image of the fashion item as the product being sold in association with the information of the seller,
The information processing system according to any one of claims 1 to 6, wherein the image synthesizing unit synthesizes the image of the fashion item stored in the product information storage unit with the user image.
ユーザが所有するユーザファッションアイテムの画像データを、前記ユーザの顔画像に関連する第1顔関連情報と共に登録するユーザファッションアイテム登録ステップと、
前記ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像し、ユーザの顔を含むユーザ画像を取得する撮像ステップと、
前記ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、前記第1顔関連情報と前記第2顔関連情報とに基づいて、前記ユーザ画像に、前記ユーザファッションアイテムの画像を合成する画像合成ステップと、
を含むことを特徴とする情報処理方法。
A user fashion item registration step of registering image data of a user fashion item owned by the user together with first face related information related to the face image of the user;
An imaging step of capturing a user wearing a fashion item different from the user fashion item and acquiring a user image including the user's face;
Second face related information related to the user's face image included in the user image is extracted, and based on the first face related information and the second face related information, the user image includes the user fashion item. An image composition step for compositing images;
An information processing method comprising:
ユーザが所有するユーザファッションアイテムの画像データを、前記ユーザの顔画像に関連する第1顔関連情報と共に記憶するユーザファッションアイテム記憶手段と、
前記ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像して取得した、ユーザの顔を含むユーザ画像を通信端末から受信する受信手段と、
前記ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、前記第1顔関連情報と前記第2顔関連情報とに基づいて、前記ユーザ画像に、前記ユーザファッションアイテムの画像を合成する画像合成手段と、
前記画像合成手段が合成して生成した合成画像を前記通信端末に送信する送信手段と、
を含むことを特徴とする情報処理装置。
User fashion item storage means for storing image data of user fashion items owned by the user together with first face related information related to the user's face image;
Receiving means for receiving, from a communication terminal, a user image including a user's face acquired by capturing a user wearing a fashion item different from the user fashion item;
Second face related information related to the user's face image included in the user image is extracted, and based on the first face related information and the second face related information, the user image includes the user fashion item. Image synthesizing means for synthesizing images;
Transmitting means for transmitting a composite image generated by the image composition means to the communication terminal;
An information processing apparatus comprising:
ユーザが所有するユーザファッションアイテムの画像データを、前記ユーザの顔画像に関連する第1顔関連情報と共に記憶するユーザファッションアイテム記憶手段を備えた情報処理装置の制御方法であって、
前記ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像して取得した、ユーザの顔を含むユーザ画像を通信端末から受信する受信ステップと、
前記ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、前記第1顔関連情報と前記第2顔関連情報とに基づいて、前記ユーザ画像に、前記ユーザファッションアイテムの画像を合成する画像合成ステップと、
前記画像合成ステップにおいて合成して生成した合成画像を前記通信端末に送信する送信ステップと、
を含むことを特徴とする情報処理装置の制御方法。
A control method for an information processing apparatus including user fashion item storage means for storing image data of a user fashion item owned by a user together with first face related information related to the user's face image,
A reception step of receiving a user image including a user's face acquired from an image of a user wearing a fashion item different from the user fashion item from a communication terminal;
Second face related information related to the user's face image included in the user image is extracted, and based on the first face related information and the second face related information, the user image includes the user fashion item. An image composition step for compositing images;
A transmission step of transmitting the composite image generated by the synthesis in the image synthesis step to the communication terminal;
A method for controlling an information processing apparatus, comprising:
ユーザが所有するユーザファッションアイテムの画像データを、前記ユーザの顔画像に関連する第1顔関連情報と共に記憶するユーザファッションアイテム記憶手段を備えた情報処理装置の制御プログラムであって、
前記ユーザファッションアイテムとは異なるファッションアイテムを身につけたユーザを撮像して取得した、ユーザの顔を含むユーザ画像を通信端末から受信する受信ステップと、
前記ユーザ画像に含まれるユーザの顔画像に関連する第2顔関連情報を抽出し、前記第1顔関連情報と前記第2顔関連情報とに基づいて、前記ユーザ画像に、前記ユーザファッションアイテムの画像を合成する画像合成ステップと、
前記画像合成ステップにおいて合成して生成した合成画像を前記通信端末に送信する送信ステップと、
をコンピュータに実行させることを特徴とする情報処理装置の制御プログラム。
A control program for an information processing apparatus including user fashion item storage means for storing image data of a user fashion item owned by a user together with first face related information related to the face image of the user,
A reception step of receiving a user image including a user's face acquired from an image of a user wearing a fashion item different from the user fashion item from a communication terminal;
Second face related information related to the user's face image included in the user image is extracted, and based on the first face related information and the second face related information, the user image includes the user fashion item. An image composition step for compositing images;
A transmission step of transmitting the composite image generated by the synthesis in the image synthesis step to the communication terminal;
A computer-readable storage medium storing a control program for an information processing apparatus, which causes a computer to execute
JP2013509997A 2011-04-12 2012-04-09 Information processing system, information processing method, information processing apparatus, and control method thereof Pending JPWO2012141319A1 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011088701 2011-04-12
JP2011088701 2011-04-12
PCT/JP2012/060196 WO2012141319A1 (en) 2011-04-12 2012-04-09 Information processing system, information processing method, information processing device, and control method thereof

Publications (1)

Publication Number Publication Date
JPWO2012141319A1 true JPWO2012141319A1 (en) 2014-07-28

Family

ID=47009477

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013509997A Pending JPWO2012141319A1 (en) 2011-04-12 2012-04-09 Information processing system, information processing method, information processing apparatus, and control method thereof

Country Status (2)

Country Link
JP (1) JPWO2012141319A1 (en)
WO (1) WO2012141319A1 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2015125455A1 (en) * 2014-02-20 2017-03-30 日本電気株式会社 Sales support device, sales system, sales support method, and program
JP6922400B2 (en) 2017-05-15 2021-08-18 富士通株式会社 Fashion analysis program, fashion analyzer and fashion analysis method
DE112020003527T5 (en) * 2019-07-25 2022-04-14 Sony Group Corporation INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD AND PROGRAM

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06187398A (en) * 1992-12-18 1994-07-08 ▲高▼矢 恒雄 Method for extending and reducing image of dress and ornaments component
JP2002325160A (en) * 2001-02-22 2002-11-08 Kazuhiko Suzuki Photographing/distribution system
JP2010171676A (en) * 2009-01-22 2010-08-05 Olympus Imaging Corp Camera, image display device, image display method, and program
JP2010257130A (en) * 2009-04-23 2010-11-11 Japan Research Institute Ltd Commodity purchase support system, commodity purchase support method, and commodity purchase support program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06187398A (en) * 1992-12-18 1994-07-08 ▲高▼矢 恒雄 Method for extending and reducing image of dress and ornaments component
JP2002325160A (en) * 2001-02-22 2002-11-08 Kazuhiko Suzuki Photographing/distribution system
JP2010171676A (en) * 2009-01-22 2010-08-05 Olympus Imaging Corp Camera, image display device, image display method, and program
JP2010257130A (en) * 2009-04-23 2010-11-11 Japan Research Institute Ltd Commodity purchase support system, commodity purchase support method, and commodity purchase support program

Also Published As

Publication number Publication date
WO2012141319A1 (en) 2012-10-18

Similar Documents

Publication Publication Date Title
US11017462B2 (en) Providing a virtual shopping environment for an item
KR102425462B1 (en) Fashion preference analysis
JP6392114B2 (en) Virtual try-on system
US9779447B2 (en) Consumer representation rendering with selected merchandise
US10949914B2 (en) Immersive and artificial intelligence based retail
JP5605885B1 (en) Virtual try-on system and virtual try-on program
JP6320237B2 (en) Virtual try-on device, virtual try-on method, and program
JP6720385B1 (en) Program, information processing method, and information processing terminal
JP2016038811A (en) Virtual try-on apparatus, virtual try-on method and program
JP2016038812A (en) Virtual try-on apparatus, virtual try-on method and a program
JP6843349B2 (en) Appearance form display system
JP6659901B2 (en) Program, information processing method, and information processing apparatus
JP2016038813A (en) Virtual try-on apparatus, virtual try-on system, virtual try-on method and program
KR20170006604A (en) Server apparatus and method for recommending cloth thereby
KR20170016578A (en) Clothes Fitting System And Operation Method of Threof
WO2012141319A1 (en) Information processing system, information processing method, information processing device, and control method thereof
KR20190070452A (en) Wearable glasses and method for clothes shopping based on augmented relity
WO2012161347A1 (en) Information processing device, information processing method, and program storage medium
US20150019992A1 (en) Digital closet
US20230245192A1 (en) System, method and apparatus for augmenting relaity with true-to- size apparel
JP2003030496A (en) Coordinate system and method on network
JP2023152511A (en) Try-on screen display system and try-on screen display method
KR20140042600A (en) Product searching service providing method using physical data of user
CN116228514A (en) Rendering data processing method, rendering data processing device, computer equipment, rendering data processing medium and rendering data processing program product
JP2020087143A (en) Terminal and system

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20140611

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140909

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141106

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20141209