JP4981109B2 - Virtual try-on device and program - Google Patents

Virtual try-on device and program Download PDF

Info

Publication number
JP4981109B2
JP4981109B2 JP2009194285A JP2009194285A JP4981109B2 JP 4981109 B2 JP4981109 B2 JP 4981109B2 JP 2009194285 A JP2009194285 A JP 2009194285A JP 2009194285 A JP2009194285 A JP 2009194285A JP 4981109 B2 JP4981109 B2 JP 4981109B2
Authority
JP
Japan
Prior art keywords
image
product
customer
data
code
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009194285A
Other languages
Japanese (ja)
Other versions
JP2011048461A (en
Inventor
仁志 飯坂
克行 鈴木
宣之 丸茂
晋 吉宗
守人 夏目
裕彦 持田
伸夫 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2009194285A priority Critical patent/JP4981109B2/en
Publication of JP2011048461A publication Critical patent/JP2011048461A/en
Application granted granted Critical
Publication of JP4981109B2 publication Critical patent/JP4981109B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、仮想試着装置及びプログラムに関する。   The present invention relates to a virtual fitting device and a program.

従来、服飾品の販売を行う小売店では、顧客が所望する服飾品を試着できるよう試着室が設けられており、この試着によって購入する商品を選択する方式が取られている。しかしながら、この方式では試着に手間がかかるため顧客にとって煩わしいものとなる可能性がある。また、店舗側においても、試着室を設けるだけのスペースが必要となり、試着が行われた服飾品を所定位置に片付ける必要もあるため、より効率的な方式が望まれている。   2. Description of the Related Art Conventionally, a retail store that sells clothing has been provided with a fitting room so that customers can try on clothing that the customer desires. However, this method may be troublesome for customers because it takes time to try on. In addition, a space for providing a fitting room is also required on the store side, and it is also necessary to put away the clothing that has been tried on in a predetermined position, so a more efficient method is desired.

一方、従来、実視界中の対象物にCG画像等を重畳させる画像合成技術が実用化されている。例えば、特許文献1には、実視界中の対象物に着ぐるみ画像を重畳的に表示して観察する技術が開示されている。   On the other hand, an image composition technique for superimposing a CG image or the like on an object in actual view has been put into practical use. For example, Patent Document 1 discloses a technique for displaying and observing a costume image superimposed on an object in real field of view.

しかしながら、特許文献1の技術では、着ぐるみ画像を重畳する対象物が観察者自身の実視界中に存在するため、観察者自身又は観察者自身に係る画像を重畳対象とすることは想定されていない。また、着ぐるみ画像データベースの中から、着ぐるみさせたい画像を選択する必要があるため、服飾品等の仮想試着に応用した場合、多くの商品画像の中から目的とする商品画像を選択することとなり、利便性に欠けるという問題がある。   However, in the technique of Patent Document 1, since the object on which the costume image is superimposed exists in the observer's own real field of view, it is not assumed that the observer himself or an image related to the observer himself is the object to be superimposed. . In addition, since it is necessary to select the image you want to wear from the costume image database, when applying to virtual try-on such as clothing, you will select the desired product image from many product images, There is a problem of lack of convenience.

本発明は、上記に鑑みてなされたものであって、店舗内で販売される服飾品の仮想試着に係る利便性を向上させることが可能な仮想試着装置及びプログラムを提供することを目的とする。   This invention is made in view of the above, Comprising: It aims at providing the virtual try-on device and program which can improve the convenience which concerns on the virtual try-on of the clothing items sold in a shop .

上述した課題を解決し、目的を達成するために、本発明は、顧客の頭部に装着され、当該顧客の眼前に対応する位置に光透過性の表示部が設けられたヘッドマウントディスプレイと、前記ヘッドマウントディスプレイに設けられ、当該ヘッドマウントディスプレイを装着する前記顧客の視線方向に撮像範囲が設定された撮像部と、前記撮像部により撮像された画像データの中から、商品に付されたデータコードを識別し、当該データコードに含まれる商品コードを解読する解読手段と、各商品の商品コードと、前記各商品を模した商品画像とを対応付けて記憶した商品画像記憶手段から、前記解読手段で解読された商品コードに対応する商品画像を読み出す読出手段と、前記読出手段により読み出された商品画像を、前記顧客の姿を模したキャラクタ画像の所定の部位に重畳する画像処理手段と、前記解読手段が識別した前記画像データ中の前記データコードを強調する強調画像と、前記商品画像が重畳された前記キャラクタ画像とを前記表示部にそれぞれ表示させる表示制御手段と、を備える。 In order to solve the above-described problems and achieve the object, the present invention is a head-mounted display that is mounted on a customer's head and is provided with a light-transmissive display unit at a position corresponding to the customer's eyes, An image pickup unit provided in the head mounted display and having an image pickup range set in the line-of-sight direction of the customer wearing the head mounted display, and data attached to a product from image data picked up by the image pickup unit The decryption means for identifying the code and decrypting the product code included in the data code, and the decryption means from the product image storage means for storing the product code of each product and the product image imitating each product in association with each other. Reading means for reading the product image corresponding to the product code decrypted by the means, and the product image read by the reading means is a key imitating the appearance of the customer. Image processing means for superimposing a predetermined site Rakuta image, wherein the emphasizing weighted image data codes, said and said character image in which the product image is superimposed portion in said image data decoding means has identified And display control means for displaying each of them .

また、本発明は、顧客の頭部に装着され、当該顧客の眼前に対応する位置に光透過性の表示部が設けられたヘッドマウントディスプレイと、前記ヘッドマウントディスプレイに設けられ、当該ヘッドマウントディスプレイを装着した顧客の視線方向に撮像範囲が設定された撮像部と、を備える仮想試着装置のコンピュータを、前記撮像部により撮像された画像データの中から、商品に付されたデータコードを識別し、当該データコードに含まれる商品コードを解読する解読手段と、各商品の商品コードと、前記各商品を模した商品画像とを対応付けて記憶した商品画像記憶手段から、前記解読手段で解読された商品コードに対応する商品画像を読み出す読出手段と、前記読出手段により読み出された商品画像を、前記顧客の姿を模したキャラクタ画像の所定の部位に重畳する画像処理手段と、前記解読手段が識別した前記画像データ中の前記データコードを強調する強調画像と、前記商品画像が重畳された前記キャラクタ画像とを前記表示部にそれぞれ表示させる表示制御手段と、して機能させる。 The present invention also provides a head-mounted display that is mounted on a customer's head and is provided with a light-transmissive display unit at a position corresponding to the customer's eyes, and the head-mounted display. A virtual try-on device computer comprising: an imaging unit whose imaging range is set in the line-of-sight direction of the customer wearing the device, and identifying a data code attached to a product from the image data captured by the imaging unit The decryption means decrypts the product code included in the data code, and the product image storage means that stores the product code of each product and the product image imitating each product in association with each other. character reading means for reading a commodity image corresponding to the commodity code, the commodity image read by the reading means, which simulates the appearance of the customer was Image processing means for superimposing a predetermined portion of the data image, wherein the emphasizing weighted image data codes, said and said character image in which the product image is superimposed portion in said image data decoding means has identified Function as display control means for displaying each of them.

本発明によれば、店舗内で販売される服飾品の仮想試着に係る利便性を向上させることが可能な仮想試着装置及びプログラムを提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, the virtual try-on device and program which can improve the convenience which concerns on the virtual try-on of the clothing articles sold in a shop can be provided.

図1は、本実施形態にかかるPOSシステムの一例を示す図である。FIG. 1 is a diagram illustrating an example of a POS system according to the present embodiment. 図2は、図1に示したストアサーバの電装系の構成例を示すブロック図である。FIG. 2 is a block diagram illustrating a configuration example of the electrical system of the store server illustrated in FIG. 図3は、図2に示した商品マスタテーブルを構成するデータ項目の一例を示す図である。FIG. 3 is a diagram illustrating an example of data items constituting the product master table shown in FIG. 図4は、図2に示した商品画像管理テーブルを構成するデータ項目の一例を示す図である。FIG. 4 is a diagram illustrating an example of data items constituting the product image management table illustrated in FIG. 図5は、図2に示した会員管理テーブルを構成するデータ項目の一例を示す図である。FIG. 5 is a diagram showing an example of data items constituting the member management table shown in FIG. 図6は、図2に示した売上管理テーブルを構成するデータ項目の一例を示す図である。FIG. 6 is a diagram illustrating an example of data items constituting the sales management table illustrated in FIG. 図7は、図1に示したヘッドマウントディスプレイの一例を示す図である。FIG. 7 is a diagram illustrating an example of the head mounted display illustrated in FIG. 1. 図8は、図1に示したインタフェースボックスの構成例を示すブロック図である。FIG. 8 is a block diagram showing a configuration example of the interface box shown in FIG. 図9は、仮想試着処理の手順を示すフローチャートである。FIG. 9 is a flowchart showing the procedure of the virtual try-on process. 図10は、図7に示したモニタ表示部の表示例を示す図である。FIG. 10 is a diagram showing a display example of the monitor display unit shown in FIG. 図11は、図7に示したモニタ表示部の表示例を示す図である。FIG. 11 is a diagram illustrating a display example of the monitor display unit illustrated in FIG. 7. 図12は、図7に示したモニタ表示部の表示例を示す図である。12 is a diagram showing a display example of the monitor display unit shown in FIG.

以下に添付図面を参照して、本発明にかかる仮想試着装置及びプログラムの実施の形態を詳細に説明する。なお、以下では本発明にかかる仮想試着装置及びプログラムを服飾品の販売を行う店舗でのPOSシステムに適用した例について説明するが、この実施形態により本発明が限定されるものではない。   Exemplary embodiments of a virtual fitting device and a program according to the present invention will be described below in detail with reference to the accompanying drawings. Hereinafter, an example in which the virtual try-on device and the program according to the present invention are applied to a POS system in a store that sells clothing will be described, but the present invention is not limited to this embodiment.

図1は、本実施形態に係るPOSシステムの一例を概略的に示すブロック図である。同図に示すようにPOSシステム1は、1又は複数台のPOS端末2、その上位機として機能するストアサーバ3、装着者Cが装着して使用するユーザインタフェースであるウエアラブル端末装置4とデータの送受信を行うための送受信装置5がネットワークNを介して接続されている。ここで、ネットワークNは、LAN(Local Area Network)、イントラネット等である。   FIG. 1 is a block diagram schematically showing an example of a POS system according to the present embodiment. As shown in FIG. 1, the POS system 1 includes one or a plurality of POS terminals 2, a store server 3 functioning as a host device thereof, a wearable terminal device 4 which is a user interface worn and used by the wearer C, and data A transmission / reception apparatus 5 for performing transmission / reception is connected via a network N. Here, the network N is a LAN (Local Area Network), an intranet, or the like.

送受信装置5とウエアラブル端末装置4との間のデータの送受信は、電波、光、赤外線、超音波等であってよく、本実施形態では通信範囲が数m程度である近接無線通信(例えばBluetooth(登録商標)等)を用いて行うものとする。なお、送受信装置5は、精算カウンター近傍の領域、陳列棚が設けられた領域、バックヤード等の店舗内の各領域に設置されているものとする。   Data transmission / reception between the transmission / reception device 5 and the wearable terminal device 4 may be radio waves, light, infrared rays, ultrasonic waves, and the like. In this embodiment, close proximity wireless communication (for example, Bluetooth (for example, Bluetooth ( Registered trademark) etc.). In addition, the transmission / reception apparatus 5 shall be installed in each area | region in stores, such as the area | region near a payment counter, the area | region where the display shelf was provided, and a backyard.

POS端末2は、ドロア、カードリーダ、コードスキャナ、ディスプレイ、レシート/ジャーナル用プリンタ等を備え(いずれも図示せず)、現金やクレジットカードを用いて商取引を行うもので、例えば精算カウンター等に設けられる。   The POS terminal 2 is provided with a drawer, a card reader, a code scanner, a display, a receipt / journal printer, etc. (all not shown), and performs business transactions using cash or a credit card. It is done.

このようなPOSシステムが構築される店舗では、販売対象の各種商品に対して、その商品に関する各種情報がコード化されて示されるバーコードが各々の商品に付与されている。各種商品の商品コードに対応して価格等がプリセットされた後述する商品マスタテーブル371がストアサーバ3に記憶されている。POS端末2は、図示しないコードスキャナを介して読み取ったバーコードのデータから商品コードを抽出し、この商品コードに対応して設定された価格をストアサーバ3に問い合わせ、取得した価格に基づいて買上商品の精算を行うとともに、買上商品の販売記録を示す売上データを生成してこれをストアサーバ3に通知することで、売上データを後述する売上登録テーブル374に登録する。   In a store where such a POS system is constructed, a bar code indicating various information relating to the product is given to each product for each product to be sold. The store server 3 stores a product master table 371 (to be described later) in which prices and the like are preset corresponding to the product codes of various products. The POS terminal 2 extracts the product code from the barcode data read through a code scanner (not shown), inquires the store server 3 for the price set in correspondence with the product code, and purchases based on the acquired price. The sales data is registered in a sales registration table 374, which will be described later, by adjusting the merchandise and generating sales data indicating the sales record of the purchased merchandise and notifying the store server 3 of the sales data.

ストアサーバ3は、店舗内で販売される商品や店舗内で販売された商品の売上、顧客に関する情報を管理し、POS端末2及びウエアラブル端末装置4に各種の情報を提供するサーバ装置である。   The store server 3 is a server device that manages information on products sold in the store, sales of products sold in the store, and information on customers, and provides various information to the POS terminal 2 and the wearable terminal device 4.

図2は、ストアサーバ3の電装系の構成例を示すブロック図である。同図に示すように、ストアサーバ3は、図示しないCPU(Central Processing Unit),ROM(Read Only Memory)、RAM(Random Access Memory)等で構成される制御部31を有し、バス32に接続された通信インタフェース33を介してPOS端末2やウエアラブル端末装置4(送受信装置5)との間で通信可能に構成されている。   FIG. 2 is a block diagram illustrating a configuration example of the electrical system of the store server 3. As shown in the figure, the store server 3 has a control unit 31 including a CPU (Central Processing Unit), a ROM (Read Only Memory), a RAM (Random Access Memory), etc. (not shown), and is connected to the bus 32. The communication interface 33 is configured to be able to communicate with the POS terminal 2 and the wearable terminal device 4 (transmission / reception device 5).

また、制御部31にはバス32及びI/O機器制御部34を介して、キーボードやマウス等の入力デバイスにより構成される入力部35、液晶ディスプレイ等の表示デバイスから構成される表示部36及びHDD(Hard Disk Drive)やSDD(Solid State Drive)等の記憶装置から構成される記憶部37が夫々接続されている。   The control unit 31 includes an input unit 35 configured by an input device such as a keyboard and a mouse, a display unit 36 configured by a display device such as a liquid crystal display, and the like via a bus 32 and an I / O device control unit 34. Storage units 37 each including a storage device such as an HDD (Hard Disk Drive) or an SDD (Solid State Drive) are connected to each other.

記憶部37は、制御部31のCPUにより実行される各種の制御プログラムの他、商品マスタテーブル371、商品画像管理テーブル372、会員管理テーブル373及び売上登録テーブル374等を記憶している。   The storage unit 37 stores a product master table 371, a product image management table 372, a member management table 373, a sales registration table 374, and the like in addition to various control programs executed by the CPU of the control unit 31.

商品マスタテーブル371は、店舗内で販売される商品に関する情報を管理するテーブルである。図3は、商品マスタテーブル371を構成するデータ項目の一例を示す図である。同図に示すように、商品マスタテーブル371は、「商品コード」、「製造メーカ」、ジャケットやスーツ等の商品の種別を示す「商品種別」、「価格」等のデータ項目からなるレコードによって構成されている。ここで、「商品コード」には、店舗で販売される各種商品品目を識別するために商品毎に予め設定された固有のコードが格納される。また、「製造メーカ」、「商品種別」、「価格」には、同一の商品コードによって特定される商品についての情報が格納される。   The product master table 371 is a table for managing information related to products sold in the store. FIG. 3 is a diagram illustrating an example of data items constituting the product master table 371. As shown in the figure, the product master table 371 includes “product code”, “manufacturer”, and records composed of data items such as “product type” and “price” indicating product types such as jackets and suits. Has been. Here, the “product code” stores a unique code preset for each product in order to identify various product items sold in the store. In addition, information on a product specified by the same product code is stored in “manufacturer”, “product type”, and “price”.

商品画像管理テーブル372は、店舗内で販売される各商品を模した2次元又は3次元の画像データ(以下、商品画像という)を管理するためのテーブルである。図4は、商品画像管理テーブル372を構成するデータ項目の一例を示す図である。同図に示すように、商品画像管理テーブル372は、「商品コード」、「商品画像」、「重畳位置」等のデータ項目からなるレコードによって構成されている。ここで、「商品コード」は、商品マスタテーブル371の「商品コード」と対応する。「商品画像」には、商品コードに対応する商品を模した商品画像が格納されている。また、「重畳位置」には、商品画像を後述するキャラクタ画像に重畳する部位が格納されている。例えば、商品コードで特定される商品が帽子である場合には、帽子を着衣する部位である頭部又は頭部を指示する座標等が「重畳位置」に格納される。このように、商品画像とその商品画像の重畳位置は、商品コードに対応付けられて格納される。   The product image management table 372 is a table for managing two-dimensional or three-dimensional image data (hereinafter referred to as a product image) imitating each product sold in the store. FIG. 4 is a diagram illustrating an example of data items constituting the product image management table 372. As shown in the figure, the product image management table 372 is composed of records including data items such as “product code”, “product image”, and “superimposition position”. Here, “product code” corresponds to “product code” in the product master table 371. In “product image”, a product image simulating a product corresponding to the product code is stored. Further, in the “superimposition position”, a part where the product image is superimposed on a character image to be described later is stored. For example, when the product specified by the product code is a hat, the head or the coordinates indicating the head, which is the part wearing the hat, is stored in the “superimposition position”. In this way, the product image and the superimposed position of the product image are stored in association with the product code.

会員管理テーブル373は、会員登録された顧客に関する情報を管理するテーブルである。図5は、会員管理テーブル373を構成するデータ項目の一例を示す図である。同図に示すように、会員管理テーブル373は、「会員管理番号」、「会員情報」、「体型」、「顔画像」等のデータ項目からなるレコードによって構成されている。ここで、「会員管理番号」には、各会員を識別するためにユニークに割り振られた会員番号等の識別子が格納される。「会員情報」には、会員登録された顧客の氏名や性別、住所等の個人情報が格納される。「体型」には、会員登録された顧客の体型を特徴付ける体型データが格納される。この体型データとしては、例えば、身長、胸囲、腹囲、腰囲等の所定の部位の測定値が挙げられる。また、「顔画像」には、会員登録された顧客の顔画像データが格納される。   The member management table 373 is a table for managing information related to registered customers. FIG. 5 is a diagram illustrating an example of data items constituting the member management table 373. As shown in the figure, the member management table 373 is composed of records composed of data items such as “member management number”, “member information”, “body type”, “face image”, and the like. Here, the “member management number” stores an identifier such as a member number uniquely assigned to identify each member. The “member information” stores personal information such as the name, sex, and address of the customer registered as a member. The “body shape” stores body shape data characterizing the body shape of the customer registered as a member. Examples of the body shape data include measured values of predetermined parts such as height, chest circumference, abdominal circumference, and waist circumference. The “face image” stores the face image data of the customer registered as a member.

売上登録テーブル374は、店舗内のPOS端末2から送信された売上データを管理するテーブルである。図6は、売上登録テーブル374を構成するデータ項目の一例を示す図である。制御部31は、POS端末2から売上データが通知される毎に、この売上データと本日の日付とを対応付け、一のレコードとして売上登録テーブル374に登録する。   The sales registration table 374 is a table for managing sales data transmitted from the POS terminal 2 in the store. FIG. 6 is a diagram illustrating an example of data items constituting the sales registration table 374. Every time sales data is notified from the POS terminal 2, the control unit 31 associates the sales data with today's date and registers them in the sales registration table 374 as one record.

制御部31は、記憶部37に記憶されたプログラムと協働して販売支援に係る各種の情報をPOS端末2及びウエアラブル端末装置4に提供する。   The control unit 31 provides various information related to sales support to the POS terminal 2 and the wearable terminal device 4 in cooperation with the program stored in the storage unit 37.

具体的に、制御部31は、POS端末2から商品コードの問い合わせを受け付けると、この商品コードに対応するレコードを商品マスタテーブル371から読み出し、POS端末2へ送信する。   Specifically, when receiving a product code inquiry from the POS terminal 2, the control unit 31 reads a record corresponding to the product code from the product master table 371 and transmits it to the POS terminal 2.

また、制御部31は、ウエアラブル端末装置4から会員管理番号が通知されると、この会員管理番号に対応するレコードを会員管理テーブル373から読み出し、会員情報としてPOS端末2へ送信する。さらに、制御部31は、ウエアラブル端末装置4から商品コードが通知されると、この商品コードに対応するレコードを商品画像管理テーブル372から読み出し、POS端末2へ送信する。   Further, when the member management number is notified from the wearable terminal device 4, the control unit 31 reads a record corresponding to the member management number from the member management table 373 and transmits it to the POS terminal 2 as member information. Further, when the product code is notified from the wearable terminal device 4, the control unit 31 reads a record corresponding to the product code from the product image management table 372 and transmits it to the POS terminal 2.

ウエアラブル端末装置4は、図1及び図7に示したように、ヘッドマウントディスプレイ41と、撮像装置としてのデジタルカメラ42と、インタフェースボックス43とを備え、装着者Cにより装着される端末装置である。ヘッドマウントディスプレイ41は、眼鏡のフレーム状に形成された保持部材としてフレーム本体44と、このフレーム本体44の左右両側にそれぞれ設けられた装着用アーム45とを備える。このヘッドマウントディスプレイ41は、左右両側にそれぞれ設けられた装着用アーム45によって装着者Cの頭部Hに装着可能である。   As shown in FIGS. 1 and 7, the wearable terminal device 4 includes a head mounted display 41, a digital camera 42 as an imaging device, and an interface box 43, and is a terminal device worn by a wearer C. . The head mounted display 41 includes a frame main body 44 as a holding member formed in the shape of a frame of eyeglasses, and mounting arms 45 provided respectively on the left and right sides of the frame main body 44. The head mounted display 41 can be mounted on the head H of the wearer C by mounting arms 45 provided on both the left and right sides.

フレーム本体44は、装着者Cの両眼に合わせた大きさの枠状に形成されている。フレーム本体44の枠外の上部中央には、撮像方向可変機構46を介してデジタルカメラ42が設けられている。また、フレーム本体44の上部左側には、装着者Cの瞳を撮像して視線Eの検出を行うための視線認識用カメラ47が設けられている。また、フレーム本体44の枠内には、例えばフレーム枠の形状に合わせて形成された板状の光透過性部材48が保持されている。この光透過性部材48は、ヘッドマウントディスプレイ41を装着者Cの頭部Hに装着した場合、装着者Cの眼によって周辺環境を観察可能である。この光透過性部材48は、例えば無色透明又は予め決められた色を有していてもよい。   The frame main body 44 is formed in a frame shape having a size suitable for both eyes of the wearer C. A digital camera 42 is provided in the upper center outside the frame of the frame body 44 via an imaging direction variable mechanism 46. Further, on the upper left side of the frame main body 44, a line-of-sight recognition camera 47 is provided for capturing the eyes of the wearer C and detecting the line of sight E. Further, in the frame of the frame body 44, for example, a plate-like light transmissive member 48 formed in accordance with the shape of the frame is held. When the head-mounted display 41 is mounted on the head H of the wearer C, the light transmissive member 48 can observe the surrounding environment with the eyes of the wearer C. The light transmissive member 48 may be, for example, colorless and transparent or have a predetermined color.

光透過性部材48内の一部分には、モニタ表示部481が形成されている。このモニタ表示部481は、デジタルカメラ42の撮像により取得される動画の画像データ等をリアルタイムにモニタ表示する。このモニタ表示部481は、例えばヘッドマウントディスプレイ41における左側に形成されている。すなわち、モニタ表示部481は、ヘッドマウントディスプレイ41を装着者Cの頭部Hに装着したときの装着者Cの例えば左眼に対応する部分に形成されている。なお、モニタ表示部481は、装着者Cの右眼に対応する部分に形成してもよいし、装着者Cの両目に対応する各部分に形成してもよい。このモニタ表示部481は、光透過性の状態でモニタ表示する。しかるに、モニタ表示部481は、例えばデジタルカメラ42の撮像により取得された画像データや各種情報等をリアルタイムにモニタ表示している状態でも周辺環境を観察可能である。   A monitor display portion 481 is formed in a part of the light transmissive member 48. The monitor display unit 481 monitors and displays moving image data and the like acquired by the imaging of the digital camera 42 in real time. The monitor display unit 481 is formed on the left side of the head mounted display 41, for example. That is, the monitor display unit 481 is formed in a portion corresponding to, for example, the left eye of the wearer C when the head mounted display 41 is worn on the head H of the wearer C. The monitor display unit 481 may be formed in a part corresponding to the right eye of the wearer C, or may be formed in each part corresponding to both eyes of the wearer C. The monitor display unit 481 performs monitor display in a light transmissive state. However, the monitor display unit 481 can observe the surrounding environment even in a state where, for example, image data acquired by imaging by the digital camera 42, various information, and the like are displayed on the monitor in real time.

デジタルカメラ42は、撮像動作を行って動画の画像データを出力する。このデジタルカメラ42は、光透過性部材48を通した装着者Cの視線E方向に焦点が合うように撮像範囲を設定した状態でヘッドマウントディスプレイ41のフレーム本体44上に取り付けられている。撮像方向可変機構46は、例えばデジタルカメラ42を首振り可能に支持し、デジタルカメラ42の撮像方向を任意の方向、ここでは上記の如くデジタルカメラ42の撮像範囲を装着者Cの視線E方向に焦点が合うように設定する。   The digital camera 42 performs an imaging operation and outputs moving image data. The digital camera 42 is mounted on the frame main body 44 of the head mounted display 41 in a state where an imaging range is set so as to be focused in the direction of the line of sight E of the wearer C through the light transmissive member 48. The imaging direction variable mechanism 46 supports, for example, the digital camera 42 so as to be able to swing, and the imaging direction of the digital camera 42 is set to an arbitrary direction, here, the imaging range of the digital camera 42 is set in the direction of the line of sight E of the wearer C as described above. Set to focus.

インタフェースボックス43は、送受信装置5との間のデータの送受信を行うとともに、ヘッドマウントディスプレイ41にかかる各種処理を行う。具体的には、インタフェースボックス43は、図8に示すように、制御部431、送受信部432、情報表示部433、画像処理部434を備え、ヘッドマウントディスプレイ41の装着者Cが携帯可能なボックスである。ここで、図8は、インタフェースボックス43の構成例を示すブロック図である。   The interface box 43 transmits / receives data to / from the transmission / reception device 5 and performs various processes related to the head mounted display 41. Specifically, as shown in FIG. 8, the interface box 43 includes a control unit 431, a transmission / reception unit 432, an information display unit 433, and an image processing unit 434, and is a box that can be carried by the wearer C of the head mounted display 41. It is. Here, FIG. 8 is a block diagram illustrating a configuration example of the interface box 43.

制御部431は、CPU、ROM、RAM等を有するコンピュータであり、ウエアラブル端末装置4の動作を制御する。ROMには、プログラムやそのプログラムを実行する際に参照される各種設定情報等が予め格納されている。   The control unit 431 is a computer having a CPU, a ROM, a RAM, and the like, and controls the operation of the wearable terminal device 4. The ROM stores in advance various programs and various setting information referred to when the programs are executed.

CPUは、ROMに記憶されたプログラムをRAMのワークエリアに展開して順次実行することで、ウエアラブル端末装置4の動作を中央制御する。   The CPU centrally controls the operation of the wearable terminal device 4 by developing the program stored in the ROM in the RAM work area and sequentially executing the program.

具体的に、制御部431は、デジタルカメラ42の撮像により取得された画像データを情報表示部433へ出力してヘッドマウントディスプレイ41のモニタ表示部481にリアルタイムに表示させる。さらに、デジタルカメラ42の撮像により取得された画像データを画像処理部434へ出力することで、画像データの中からバーコードを識別させた後、このバーコードを解読させることでバーコードに保持された情報を取得する。   Specifically, the control unit 431 outputs the image data acquired by the imaging of the digital camera 42 to the information display unit 433 and displays it on the monitor display unit 481 of the head mounted display 41 in real time. Further, by outputting the image data acquired by the imaging of the digital camera 42 to the image processing unit 434, the barcode is identified from the image data, and then the barcode is held by decoding the barcode. Information obtained.

ここで、画像処理部434が解読を行うバーコードとしては、会員カードに付されたバーコード、店舗内で販売される商品に付されたバーコードが挙げられる。なお、会員カードは会員登録を行った顧客に予め配布されているものとし、この会員カードに付されたバーコードには、各会員を識別するための会員管理番号がコード化された状態で保持されているものとする。また、商品に付されたバーコードには、該商品に対応する商品コードがコード化された状態で保持されているものとする。   Here, examples of the barcode that the image processing unit 434 decodes include a barcode attached to a membership card and a barcode attached to a product sold in a store. It is assumed that the membership card is distributed in advance to the customer who has registered the membership, and the barcode attached to the membership card holds the membership management number for identifying each member in a coded state. It is assumed that In addition, it is assumed that the product code corresponding to the product is held in the barcode attached to the product.

制御部431は、画像処理部434で取得された会員管理番号を送受信部432及び送受信装置5を介してストアサーバ3へ通知することで、この会員管理番号に対応するレコードをストアサーバ3の会員管理テーブル373から読み出す。そして、制御部431は、会員管理テーブル373から読み出したレコードに含まれる体型データ及び顔画像データを画像処理部434へ出力することで後述するキャラクタ画像を生成させる。   The control unit 431 notifies the store server 3 of the record corresponding to the member management number by notifying the store server 3 via the transmission / reception unit 432 and the transmission / reception device 5 of the member management number acquired by the image processing unit 434. Read from the management table 373. Then, the control unit 431 outputs the body image data and the face image data included in the record read from the member management table 373 to the image processing unit 434, thereby generating a character image to be described later.

また、制御部431は、画像処理部434で取得された商品コードを送受信部432及び送受信装置5を介してストアサーバ3へ通知することで、この商品コードに対応するレコードをストアサーバ3の商品画像管理テーブル372から読み出す。そして、制御部431は、商品画像管理テーブル372から読み出したレコードに含まれる商品画像及び重畳位置を画像処理部434へ出力する。すなわち、制御部431は、商品コードによって商品画像と重畳位置を特定する。   Further, the control unit 431 notifies the store server 3 of the record corresponding to the product code by notifying the store server 3 via the transmission / reception unit 432 and the transmission / reception device 5 of the product code acquired by the image processing unit 434. Read from the image management table 372. Then, the control unit 431 outputs the product image and the superimposed position included in the record read from the product image management table 372 to the image processing unit 434. That is, the control unit 431 specifies the product image and the superimposed position by the product code.

画像処理部434は、キャラクタ画像に対して制御部431が出力した重畳位置で商品画像を重畳させる。さらに、制御部431は、商品画像が重畳されたキャラクタ画像を情報表示部433へ出力することで、モニタ表示部481に表示させる。   The image processing unit 434 superimposes the product image at the superimposition position output by the control unit 431 on the character image. Furthermore, the control unit 431 outputs the character image on which the product image is superimposed to the information display unit 433, thereby causing the monitor display unit 481 to display the character image.

情報表示部433は、制御部431等から入力された画像データをヘッドマウントディスプレイ41のモニタ表示部481へ表示する。具体的には、情報表示部433は、デジタルカメラ42の撮像により取得された画像データをモニタ表示部481に表示する。また、情報表示部433は、画像処理部434で生成されたキャラクタ画像等をモニタ表示部481に表示する。また、情報表示部433は、制御部431等から各種アイコン画像等の情報を受け取ると、受け取った情報を入力された画像データに合成してヘッドマウントディスプレイ41のモニタ表示部481に表示する。なお、受け取った情報の表示位置が座標等で指定されている場合は、その指定された表示位置に情報が表示されるように、入力された画像データへの合成を行う。   The information display unit 433 displays the image data input from the control unit 431 or the like on the monitor display unit 481 of the head mounted display 41. Specifically, the information display unit 433 displays image data acquired by imaging with the digital camera 42 on the monitor display unit 481. Further, the information display unit 433 displays the character image generated by the image processing unit 434 on the monitor display unit 481. In addition, when the information display unit 433 receives information such as various icon images from the control unit 431 and the like, the information display unit 433 combines the received information with the input image data and displays it on the monitor display unit 481 of the head mounted display 41. When the display position of the received information is designated by coordinates or the like, the input image data is synthesized so that the information is displayed at the designated display position.

画像処理部434は、デジタルカメラ42の撮像により取得された画像データの画像処理や、視線認識用カメラ47で撮像された画像データを解析して装着者Cの視線Eの検出を行う。具体的に、画像処理部434は、視線認識用カメラ47で撮像された画像データから装着者Cの瞳を検出し、その検出された瞳の位置に応じて視線Eの検出を行う。また、画像処理部434は、デジタルカメラ42の撮像により取得された画像データの中から1枚のフレームをキャプチャーし、このキャプチャー画像の中のバーコードを識別し、識別したバーコードを解読して会員管理番号や商品コードを取得する等の画像処理を行う。   The image processing unit 434 detects the line of sight E of the wearer C by performing image processing on the image data acquired by the digital camera 42 and analyzing the image data captured by the line-of-sight recognition camera 47. Specifically, the image processing unit 434 detects the eye of the wearer C from the image data captured by the line-of-sight recognition camera 47, and detects the line of sight E according to the position of the detected pupil. In addition, the image processing unit 434 captures one frame from the image data acquired by the imaging of the digital camera 42, identifies the barcode in the captured image, and decodes the identified barcode. Perform image processing such as obtaining a member management number and product code.

また、画像処理部434は、制御部431から体型データ及び顔画像データを受け付けると、この体型データが表す各部位の測定値を、体型を特徴付けるためのパラメータとして用い、該測定値に応じた体型の人体モデルを生成する。そして、画像処理部434は、生成した人体モデルの顔部に顔画像データを重畳することで、この顔画像の持ち主となる顧客を模したキャラクタ画像を生成する。生成される人体モデルは2次元又は3次元の何れであってもよく、デフォルメ等を施す形態としてもよい。なお、人体モデルの生成方法や顔画像データの重畳方法は、CG(コンピュータグラフィック)に係る公知の技術を用いるものとする。   In addition, when the image processing unit 434 receives the body shape data and the face image data from the control unit 431, the image processing unit 434 uses the measurement values of each part represented by the body shape data as parameters for characterizing the body shape, and the body shape according to the measurement values. Generate a human body model. Then, the image processing unit 434 generates a character image imitating the customer who is the owner of the face image by superimposing face image data on the face of the generated human body model. The generated human body model may be either two-dimensional or three-dimensional, and may be configured to perform deformation or the like. It should be noted that the human body model generation method and the face image data superimposition method use a known technique relating to CG (computer graphics).

また、画像処理部434は、制御部431から商品画像及び重畳位置を受け付けると、重畳位置に対応するキャラクタ画像の部位に商品画像を重畳することで、この商品画像に対応する商品をキャラクタ画像が着衣したような効果を施す。なお、キャラクタ画像に対する商品画像の重畳方法は、CGに係る公知の技術を用いるものとする。   In addition, when the image processing unit 434 receives the product image and the superimposition position from the control unit 431, the character image is displayed on the product corresponding to the product image by superimposing the product image on the portion of the character image corresponding to the superposition position. Apply the effect of wearing clothes. Note that a known technique related to CG is used as a method for superimposing a product image on a character image.

なお、インタフェースボックス43における送受信部432、情報表示部433及び画像処理部434は等の各部は、制御部431がROMに予め格納されたプログラムを実行することで実現してもよい。   Note that the transmission / reception unit 432, the information display unit 433, the image processing unit 434, and the like in the interface box 43 may be realized by the control unit 431 executing a program stored in advance in the ROM.

以下、図9〜図11を参照して、ウエアラブル端末装置4で行われる処理について説明する。ここで、図9は仮想試着処理の手順を示すフローチャートである。なお、本処理の前提として、会員管理テーブル373に登録された会員(顧客)が店舗に来店し、この顧客にウエアラブル端末装置4が貸し出されるものとする。   Hereinafter, processing performed in the wearable terminal device 4 will be described with reference to FIGS. Here, FIG. 9 is a flowchart showing the procedure of the virtual try-on process. As a premise of this process, it is assumed that a member (customer) registered in the member management table 373 comes to the store, and the wearable terminal device 4 is lent to this customer.

まず、制御部431は、デジタルカメラ42の撮像により取得された画像データを画像処理部434に出力することで、バーコードの識別処理を行わせる(ステップS11)。画像処理部434は、画像データの中にバーコードが存在するか否かを判定し、存在しないと判定した場合(ステップS12;No)、ステップS11に再び戻る。また、画像処理部434は、画像データの中にバーコードが存在すると判定した場合(ステップS12;Yes)、このバーコードを解読することで当該バーコードに保持された情報を取得する(ステップS13)。   First, the control unit 431 outputs the image data acquired by the imaging of the digital camera 42 to the image processing unit 434, thereby performing barcode identification processing (step S11). The image processing unit 434 determines whether or not a barcode exists in the image data. If it is determined that the barcode does not exist (step S12; No), the process returns to step S11 again. If the image processing unit 434 determines that a barcode is present in the image data (step S12; Yes), the image processing unit 434 decodes the barcode to obtain information held in the barcode (step S13). ).

次いで、制御部431は、ステップS13で取得された情報が商品コードか否かを判定する(ステップS14)。ここで、取得された情報が会員管理番号と判定した場合(ステップS14;No)、この会員管理番号をストアサーバ3へ通知することで、当該会員管理番号に対応するレコードをストアサーバ3の会員管理テーブル373から読み出す(ステップS15)。続いて、制御部431は、ステップS15で読み出したレコードに含まれる体型データ及び顔画像データを画像処理部434へ出力することで。画像処理部434にキャラクタ画像を生成させ(ステップS16)、ステップS11に再び戻る。   Next, the control unit 431 determines whether or not the information acquired in step S13 is a product code (step S14). Here, when it is determined that the acquired information is the member management number (step S14; No), the member management number is notified to the store server 3 so that the record corresponding to the member management number is stored in the member of the store server 3. Read from the management table 373 (step S15). Subsequently, the control unit 431 outputs the body shape data and the face image data included in the record read out in step S15 to the image processing unit 434. The image processing unit 434 generates a character image (step S16), and the process returns to step S11 again.

一方、ステップS14において、取得された情報が商品コードと判定した場合(ステップS14;Yes)、制御部431は、キャラクタ画像が生成済みか否かを判定する(ステップS17)。ここで、キャラクタ画像が生成されていないと判定した場合には(ステップS17;No)、ステップS11に再び戻る。また、キャラクタ画像が生成済みと判定した場合(ステップS17;Yes)、制御部431は試着を行うか否かを確認する画面を、情報表示部433を介してモニタ表示部481に表示させる(ステップS18)。   On the other hand, when it is determined in step S14 that the acquired information is a product code (step S14; Yes), the control unit 431 determines whether a character image has been generated (step S17). If it is determined that no character image has been generated (step S17; No), the process returns to step S11 again. When it is determined that the character image has been generated (step S17; Yes), the control unit 431 displays a screen for confirming whether or not to try on the monitor display unit 481 via the information display unit 433 (step S41). S18).

ここで、図10は、モニタ表示部481に表示された確認画像の一例を示す図である。同図において、視線マーカーMは、視線認識用カメラ47の画像を元に画像処理部434で検出された視線Eを示すマーカーである。また、画像処理部434により識別されたバーコードBを明示するため、このバーコードBの周囲に画像認識枠G11を表示している。   Here, FIG. 10 is a diagram illustrating an example of the confirmation image displayed on the monitor display unit 481. In the figure, a line-of-sight marker M is a marker indicating the line of sight E detected by the image processing unit 434 based on the image of the line-of-sight recognition camera 47. Further, in order to clearly indicate the barcode B identified by the image processing unit 434, an image recognition frame G11 is displayed around the barcode B.

アイコン画像G12、G13は、ウエアラブル端末装置4に対する操作指示を視線マーカーMにより受け付けるためのアイコンである。なお、各アイコン画像の入力指示がなされた場合の処理については後述する。   The icon images G <b> 12 and G <b> 13 are icons for accepting an operation instruction for the wearable terminal device 4 by the line-of-sight marker M. Note that processing when an input instruction for each icon image is given will be described later.

図9に戻り、制御部431は、視線マーカーMが図10のアイコン画像G12と重なって「試着しない」の指示が入力されたと判定した場合には(ステップS19;No)、ステップS11に再び戻る。また、制御部431は、視線マーカーMが図10のアイコン画像G13と重なって「試着する」の指示が入力されたと判定した場合には(ステップS19;Yes)、ステップS13で取得された商品コードをストアサーバ3へ通知することで、この商品コードに対応するレコードを、ストアサーバ3の商品画像管理テーブル372から読み出す(ステップS20)。   Returning to FIG. 9, when the control unit 431 determines that the instruction “do not try on” is input because the line-of-sight marker M overlaps the icon image G12 of FIG. 10 (step S19; No), the control unit 431 returns to step S11 again. . If the control unit 431 determines that the instruction to “try on” is input with the line-of-sight marker M overlapping the icon image G13 in FIG. 10 (step S19; Yes), the product code acquired in step S13 Is read from the product image management table 372 of the store server 3 (step S20).

続いて、制御部431は、ステップS20で読み出したレコードに含まれる商品画像及び重畳位置を画像処理部434へ出力することで。画像処理部434に商品画像をキャラクタ画像に重畳させる(ステップS21)。そして、制御部431は、商品画像が重畳されたキャラクタ画像を情報表示部433へ出力することで、モニタ表示部481に表示させる(ステップS22)。   Subsequently, the control unit 431 outputs the product image and the superimposed position included in the record read out in step S20 to the image processing unit 434. The product image is superimposed on the character image in the image processing unit 434 (step S21). And the control part 431 displays on the monitor display part 481 by outputting the character image on which the product image was superimposed to the information display part 433 (step S22).

ここで、図11は、モニタ表示部481に表示されたキャラクタ画像の一例を示す図である。同図に示すように、表示領域G21は、商品画像が重畳されたキャラクタ画像を表示する領域である。ウエアラブル端末装置4を装着した顧客は、モニタ表示部481を確認することで、キャラクタ画像を介して商品を試着した自らの姿を確認することが可能である。また、商品に付されたバーコードを撮像した後は該商品の配置位置から離脱しても、この商品を仮想的に試着したキャラクタ画像を顧客の眼前に提供することが可能である。   Here, FIG. 11 is a diagram illustrating an example of a character image displayed on the monitor display unit 481. As shown in the figure, the display area G21 is an area for displaying a character image on which a product image is superimposed. The customer wearing the wearable terminal device 4 can check his / her appearance of trying on the product via the character image by checking the monitor display unit 481. Further, even after the bar code attached to the product is imaged, even if the product is disengaged from the arrangement position of the product, it is possible to provide a character image virtually trying on the product in front of the customer's eyes.

また、アイコン画像G22、G23は、ウエアラブル端末装置4に対する操作指示を視線マーカーMにより受け付けるためのアイコンである。なお、各アイコン画像の入力指示がなされた場合の処理については後述する。   The icon images G22 and G23 are icons for accepting an operation instruction for the wearable terminal device 4 by the line-of-sight marker M. Note that processing when an input instruction for each icon image is given will be described later.

図9に戻り、制御部431は、視線マーカーMが図11のアイコン画像G22と重なって「商品クリア」の指示が入力されたと判定した場合(ステップS23;Yes)、画像処理部434にキャラクタ画像に重畳された商品画像を除去させる(ステップS24)。   Returning to FIG. 9, when the control unit 431 determines that the “product clear” instruction is input with the line-of-sight marker M overlapped with the icon image G22 of FIG. 11 (step S23; Yes), the character image is input to the image processing unit 434. The product image superimposed on is removed (step S24).

また、制御部431は、視線マーカーMが図11のアイコン画像G23と重なって「試着終了」の指示が入力されたと判定した場合(ステップS23;No→ステップS25;Yes)、RAMのワークエリアに保持された各レコードを削除し、本処理を終了する。   In addition, when the control unit 431 determines that the instruction of “end fitting” has been input because the line-of-sight marker M overlaps with the icon image G23 of FIG. 11 (step S23; No → step S25; Yes), the control unit 431 enters the RAM work area. Each retained record is deleted, and this process ends.

また、顧客により新たな商品のバーコードに視線が向けられた場合(ステップS25;No)、ステップS11に再び戻る。これにより、新たな商品コードが取得される毎に、この商品を模した商品画像を重畳したキャラクタ画像が、モニタ表示部481に表示されることになる。特に、アイコン画像G22の「商品クリア」が指示されない場合、複数の商品画像をキャラクタ画像に重畳することができるため、複数の商品を組み合わせたコーディネートを仮想的に行うことができる。なお、先に重畳された商品画像の重畳位置が、後に重畳する商品画像の重畳位置と重複する場合、後に重畳する商品画像が優先的に重畳されるものとする。   Moreover, when a line of sight is directed to the barcode of a new product by the customer (step S25; No), the process returns to step S11 again. Thus, each time a new product code is acquired, a character image in which a product image imitating the product is superimposed is displayed on the monitor display unit 481. In particular, when “product clear” of the icon image G22 is not instructed, a plurality of product images can be superimposed on the character image, so that a combination of a plurality of products can be virtually performed. In addition, when the superimposition position of the product image superimposed previously overlaps with the superimposition position of the product image superimposed later, the product image superimposed later is preferentially superimposed.

以上のように、本実施形態によれば、試着を所望する商品に付されたバーコードを注視することで入力された商品コードを用いて当該商品を模した商品画像を取得し、顧客の姿を模したキャラクタ画像の所定の部位に重畳した後、当該顧客の眼前に設けられたモニタ表示部481に表示する。これにより、商品コードを取得した後は、仮想試着を行ったキャラクタ画像を店舗内の任意の位置で観察することが可能となる。また、複数種類の商品から商品コードを取得することで、これら商品の仮想試着の結果となるキャラクタ画像を提供することができるため、顧客は複数の商品を組み合わせてコーディネートすることが可能となる。また、デジタルカメラ42の撮像により取得された画像データに含まれるバーコードを解読して商品コードを取得し、当該バーコードに対応付けられた商品画像を特定するので、試着したい商品のバーコードを視認するだけで、簡単に当該商品画像の試着画像を得ることができる。さらに、商品画像の重畳位置は、商品コードに対応付けられているので、試着したい商品のバーコードを視認するだけで、正確に当該商品画像を重畳させた試着画像を得ることができる。そのため、店舗内で販売される服飾品の仮想試着に係る利便性を向上させることができる。   As described above, according to the present embodiment, a product image imitating the product is obtained using the product code input by gazing at the barcode attached to the product desired to be tried on, and the customer's appearance Is superimposed on a predetermined part of the character image imitating the image, and then displayed on a monitor display unit 481 provided in front of the customer's eyes. Thereby, after acquiring the product code, it is possible to observe the character image subjected to the virtual try-on at an arbitrary position in the store. Further, by acquiring product codes from a plurality of types of products, it is possible to provide a character image that is a result of virtual try-on of these products, so that a customer can coordinate a combination of a plurality of products. In addition, the barcode included in the image data acquired by the imaging of the digital camera 42 is decoded to acquire the product code, and the product image associated with the barcode is specified. Only by visually recognizing, a try-on image of the product image can be easily obtained. Furthermore, since the superimposed position of the product image is associated with the product code, it is possible to obtain a try-on image in which the product image is accurately superimposed only by visually recognizing the barcode of the product to be tried on. Therefore, it is possible to improve the convenience related to virtual try-on of clothing items sold in the store.

なお、本実施形態では、会員管理テーブル373に登録された体型データ及び顔画像データを用いてキャラクタ画像を生成する形態としたが、これに限らず、顧客へのウエアラブル端末装置4の貸し出し時に、この顧客用に予め生成されたキャラクタ画像を制御部431のRAM等に記憶させる形態としてもよい。また、ウエアラブル端末装置4の貸し出し時に、視線マーカーMにより顧客が体型データを直接入力する形態としてもよい。この形態の場合、例えば、図12に示すような体型データ入力画面をモニタ表示部481に表示させることで実現することができる。   In the present embodiment, the character image is generated using the body shape data and the face image data registered in the member management table 373. However, the present invention is not limited to this, and at the time of lending the wearable terminal device 4 to a customer, The character image generated in advance for the customer may be stored in the RAM or the like of the control unit 431. Further, when the wearable terminal device 4 is lent, the customer may directly input the body shape data using the line-of-sight marker M. In the case of this form, for example, it can be realized by displaying a body type data input screen as shown in FIG. 12 on the monitor display unit 481.

ここで、図12は、モニタ表示部481に表示された体型データ入力画面の一例を示す図である。同図に示すように、表示領域G31は、身長を入力するための領域である。また、表示領域G32、G33、G34は、胸囲、腹囲、腰囲を夫々入力するための領域である。なお、各表示領域における数値の入力は、各表示領域の右部に配された上下方向を表すアイコン画像G35、G36により行われるものとする。例えば、視線マーカーMがアイコン画像G35と重なった場合、制御部431は、数値を順次上昇させるものとする。また、視線マーカーMがアイコン画像G36と重なった場合、制御部431は、数値を順次下降させるものとする。   Here, FIG. 12 is a diagram illustrating an example of a body shape data input screen displayed on the monitor display unit 481. As shown in the figure, the display area G31 is an area for inputting height. The display areas G32, G33, and G34 are areas for inputting chest circumference, abdominal circumference, and waist circumference, respectively. It should be noted that the input of numerical values in each display area is performed by icon images G35 and G36 representing the vertical direction arranged on the right part of each display area. For example, when the line-of-sight marker M overlaps with the icon image G35, the control unit 431 sequentially increases the numerical value. Further, when the line-of-sight marker M overlaps the icon image G36, the control unit 431 sequentially decreases the numerical value.

また、制御部431は、視線マーカーMがアイコン画像G37と重なって「決定」の指示が入力されたと判定した場合、表示領域G31〜G34に入力された各数値を体型データとして受け付け、RAMのワークエリアに記憶する。なお、顔画像データはデジタルカメラ42により入力する形態としてもよいし、複数種類の顔のイラストから顧客が所望するイラストを選択させ顔画像データとする形態としてもよい。   In addition, when the control unit 431 determines that the “decision” instruction is input because the line-of-sight marker M overlaps the icon image G37, the numerical values input in the display areas G31 to G34 are received as body data, and the RAM work Remember in the area. The face image data may be input by the digital camera 42, or may be selected as a face image data by selecting an illustration desired by the customer from a plurality of types of face illustrations.

また、本実施形態では、バーコードの入力を、デジタルカメラ42により撮像された画像データを介して行う形態としたが、これに限らないものとする。例えば、バーコードを読み取り可能なコードリーダを別途備えることで、バーコードを入力する形態としてもよい。また、本実施形態では、データコードの一例としてバーコードを用いたが、これに限らず、QRコード等の2次元コードを用いてもよい。   In this embodiment, the barcode is input via the image data captured by the digital camera 42. However, the present invention is not limited to this. For example, the barcode may be input by separately providing a code reader capable of reading the barcode. In this embodiment, a bar code is used as an example of a data code. However, the present invention is not limited to this, and a two-dimensional code such as a QR code may be used.

また、本実施形態では、ウエアラブル端末装置4を顧客が装着する形態について説明したが、これに限らず、店舗内の店員がウエアラブル端末装置4を装着してもよい。この場合、顧客は会員カードに付されたバーコードを店員に見せることで、この顧客のキャラクタ画像を店員にも確認させることができるため、店員からの提案を受けつつ商品の試着を行うことが可能となる。   Moreover, although this embodiment demonstrated the form which a customer wears the wearable terminal device 4, not only this but the salesclerk in a store may wear the wearable terminal device 4. In this case, the customer can make the store clerk confirm the customer's character image by showing the bar code attached to the membership card to the store clerk. It becomes possible.

また、本実施形態の制御部431が実行するプログラムは、ROM等に予め組み込んで提供するように構成してもよい。また、上記プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD等のコンピュータで読み取り可能な記録媒体に記録されて提供されてもよい。   The program executed by the control unit 431 according to the present embodiment may be configured to be provided by being incorporated in advance in a ROM or the like. The program may be provided by being recorded in a computer-readable recording medium such as a CD-ROM, a flexible disk (FD), a CD-R, or a DVD in an installable or executable format file. Good.

また、上記プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上記プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。   Further, the program may be provided by being stored on a computer connected to a network such as the Internet and downloaded via the network. Further, the program may be provided or distributed via a network such as the Internet.

また、本発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成することができる。例えば、実施形態に示される全構成要素からいくつかの構成要素を削除してもよい。   Further, the present invention is not limited to the above-described embodiment as it is, and can be embodied by modifying the constituent elements without departing from the scope in the implementation stage. Moreover, various inventions can be formed by appropriately combining a plurality of constituent elements disclosed in the embodiment. For example, some components may be deleted from all the components shown in the embodiment.

1 POSシステム
2 POS端末
3 ストアサーバ
31 制御部
32 バス
33 通信インタフェース
34 I/O機器制御部
35 入力部
36 表示部
37 記憶部
371 商品マスタテーブル
372 商品画像管理テーブル
373 会員管理テーブル
374 売上登録テーブル
4 ウエアラブル端末装置
41 ヘッドマウントディスプレイ
42 デジタルカメラ
43 インタフェースボックス
431 制御部
432 送受信部
433 情報表示部
434 画像処理部
44 フレーム本体
45 装着用アーム
46 撮像方向可変機構
47 視線認識用カメラ
48 光透過性部材
481 モニタ表示部
5 送受信装置
DESCRIPTION OF SYMBOLS 1 POS system 2 POS terminal 3 Store server 31 Control part 32 Bus 33 Communication interface 34 I / O apparatus control part 35 Input part 36 Display part 37 Storage part 371 Goods master table 372 Goods image management table 373 Member management table 374 Sales registration table DESCRIPTION OF SYMBOLS 4 Wearable terminal device 41 Head mounted display 42 Digital camera 43 Interface box 431 Control part 432 Transmission / reception part 433 Information display part 434 Image processing part 44 Frame main body 45 Arm for mounting 46 Imaging direction variable mechanism 47 Camera for line-of-sight recognition 48 Light transmissive member 481 Monitor display unit 5 Transmitter / receiver

特開2006−148618公報JP 2006-148618 A

Claims (5)

顧客の頭部に装着され、当該顧客の眼前に対応する位置に光透過性の表示部が設けられたヘッドマウントディスプレイと、
前記ヘッドマウントディスプレイに設けられ、当該ヘッドマウントディスプレイを装着する前記顧客の視線方向に撮像範囲が設定された撮像部と、
前記撮像部により撮像された画像データの中から、商品に付されたデータコードを識別し、当該データコードに含まれる商品コードを解読する解読手段と、
各商品の商品コードと、前記各商品を模した商品画像とを対応付けて記憶した商品画像記憶手段から、前記解読手段で解読された商品コードに対応する商品画像を読み出す読出手段と、
前記読出手段により読み出された商品画像を、前記顧客の姿を模したキャラクタ画像の所定の部位に重畳する画像処理手段と、
前記解読手段が識別した前記画像データ中の前記データコードを強調する強調画像と、前記商品画像が重畳された前記キャラクタ画像とを前記表示部にそれぞれ表示させる表示制御手段と、
を備えることを特徴とする仮想試着装置。
A head mounted display mounted on the customer's head and provided with a light transmissive display at a position corresponding to the customer's eyes;
An imaging unit provided in the head-mounted display and having an imaging range set in the line-of-sight direction of the customer wearing the head-mounted display;
Decoding means for identifying the data code attached to the product from the image data captured by the imaging unit and decoding the product code included in the data code;
Reading means for reading out the product image corresponding to the product code decoded by the decoding means from the product image storage means storing the product code of each product and the product image imitating each product,
Image processing means for superimposing the product image read by the reading means on a predetermined part of the character image imitating the appearance of the customer;
Display control means for displaying an emphasized image for emphasizing the data code in the image data identified by the decoding means and the character image on which the product image is superimposed, respectively, on the display unit;
A virtual try-on device characterized by comprising:
前記顧客の体型を特徴付ける体型データに基づいて、前記キャラクタ画像を生成する画像生成手段を更に備え、
前記画像処理手段は、前記画像生成手段が生成したキャラクタ画像に、前記商品画像を重畳することを特徴とする請求項1に記載の仮想試着装置。
Further comprising image generation means for generating the character image based on body shape data characterizing the customer's body shape;
The virtual try-on device according to claim 1, wherein the image processing unit superimposes the product image on the character image generated by the image generation unit.
前記解読手段は、前記顧客の会員カードに付されたデータコードを解読して当該顧客に固有の会員識別子を取得し、
前記読出手段は、会員登録を行った各顧客の会員識別子と、当該各顧客の体型データとを関連付けて記憶した会員情報記憶手段から、前記解読手段で取得された会員識別子に対応する体型データを読み出し、
前記画像生成手段は、前記読出手段により読み出された体型データに基づいて、前記キャラクタ画像を生成することを特徴とする請求項2に記載の仮想試着装置。
The decryption means decrypts the data code attached to the customer's membership card to obtain a unique member identifier for the customer,
The reading means obtains body shape data corresponding to the member identifier acquired by the decryption means from a member information storage means storing the member identifier of each customer who has registered as a member and the body shape data of each customer. reading,
The virtual try-on device according to claim 2, wherein the image generation unit generates the character image based on the body shape data read by the reading unit.
前記商品画像記憶手段は、前記各商品の商品画像を、当該商品画像の重畳位置と対応付けて記憶し
前記読出手段は、前記商品コードに対応する商品画像の重畳位置を前記商品画像記憶手段から読み出し、
前記画像処理手段は、前記読出手段により読み出された重畳位置に従って、前記商品画像を前記キャラクタ画像に重畳することを特徴とする請求項1〜3の何れか一項に記載の仮想試着装置。
The product image storage means stores the product image of each product in association with the superimposed position of the product image ,
The reading means reads the superimposed position of the product image corresponding to the product code from the product image storage means,
The virtual try-on device according to claim 1, wherein the image processing unit superimposes the product image on the character image in accordance with the superposition position read by the reading unit.
顧客の頭部に装着され、当該顧客の眼前に対応する位置に光透過性の表示部が設けられたヘッドマウントディスプレイと、前記ヘッドマウントディスプレイに設けられ、当該ヘッドマウントディスプレイを装着した顧客の視線方向に撮像範囲が設定された撮像部と、を備える仮想試着装置のコンピュータを、
前記撮像部により撮像された画像データの中から、商品に付されたデータコードを識別し、当該データコードに含まれる商品コードを解読する解読手段と、
各商品の商品コードと、前記各商品を模した商品画像とを対応付けて記憶した商品画像記憶手段から、前記解読手段で解読された商品コードに対応する商品画像を読み出す読出手段と、
前記読出手段により読み出された商品画像を、前記顧客の姿を模したキャラクタ画像の所定の部位に重畳する画像処理手段と、
前記解読手段が識別した前記画像データ中の前記データコードを強調する強調画像と、前記商品画像が重畳された前記キャラクタ画像とを前記表示部にそれぞれ表示させる表示制御手段と、
して機能させることを特徴とするプログラム。
A head mounted display mounted on the customer's head and provided with a light transmissive display at a position corresponding to the customer's eyes, and a customer's line of sight provided on the head mounted display and mounted with the head mounted display A virtual try-on device computer comprising: an imaging unit having an imaging range set in a direction;
Decoding means for identifying the data code attached to the product from the image data captured by the imaging unit and decoding the product code included in the data code;
Reading means for reading out the product image corresponding to the product code decoded by the decoding means from the product image storage means storing the product code of each product and the product image imitating each product,
Image processing means for the product image that has been read, superimposes a figure of the customer in a predetermined portion of the character image simulating by said reading means,
Display control means for displaying an emphasized image for emphasizing the data code in the image data identified by the decoding means and the character image on which the product image is superimposed, respectively, on the display unit;
A program characterized by making it function.
JP2009194285A 2009-08-25 2009-08-25 Virtual try-on device and program Active JP4981109B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009194285A JP4981109B2 (en) 2009-08-25 2009-08-25 Virtual try-on device and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009194285A JP4981109B2 (en) 2009-08-25 2009-08-25 Virtual try-on device and program

Publications (2)

Publication Number Publication Date
JP2011048461A JP2011048461A (en) 2011-03-10
JP4981109B2 true JP4981109B2 (en) 2012-07-18

Family

ID=43834739

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009194285A Active JP4981109B2 (en) 2009-08-25 2009-08-25 Virtual try-on device and program

Country Status (1)

Country Link
JP (1) JP4981109B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102982246A (en) * 2012-12-06 2013-03-20 江苏乐买到网络科技有限公司 Electronic fitting system in internet shopping

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3314704B2 (en) * 1998-01-20 2002-08-12 東洋紡績株式会社 Method of synthesizing image showing fitting state and virtual fitting system using the method
JP3638838B2 (en) * 1999-11-25 2005-04-13 東芝テック株式会社 Try-on appearance confirmation device and product sales data processing system equipped with the try-on appearance confirmation device
JP2001160095A (en) * 1999-12-03 2001-06-12 Soft Ryutsu Kk Virtual mall system, commodity information transmission method for the mall system, recording medium with computer program for realizing the mall system recorded thereon and a recording medium with computer program recorded thereon for allowing external computer accessing the mall system to display commodity
JP3835207B2 (en) * 2001-06-27 2006-10-18 ソニー株式会社 Try-on image providing system, try-on image providing method, try-on image generating apparatus, and try-on image generating method
JP2005099956A (en) * 2003-09-22 2005-04-14 Fuji Xerox Co Ltd Video information processor, video information processing system, video information outputting method and its program
JP2005189918A (en) * 2003-12-24 2005-07-14 Seiko Epson Corp Information collecting method, and information collecting program, and information collecting device
JP2007011543A (en) * 2005-06-29 2007-01-18 Dainippon Printing Co Ltd Article-wearing simulation system, article-wearing simulation method, and the like
JP4922894B2 (en) * 2007-10-10 2012-04-25 東芝テック株式会社 Product processing apparatus and POS system

Also Published As

Publication number Publication date
JP2011048461A (en) 2011-03-10

Similar Documents

Publication Publication Date Title
US10467672B2 (en) Displaying an electronic product page responsive to scanning a retail item
JP4824793B2 (en) Wearable terminal device and program
JP5650499B2 (en) Computer-implemented method for collecting consumer purchase preferences for goods
US9361501B2 (en) Headheld scanner and POS display with mobile phone
US20150279098A1 (en) Smart device and virtual experience providing server providing virtual experience service method using digitalexperience service method using digital clothes
JP4922894B2 (en) Product processing apparatus and POS system
JP2011048462A (en) Sales support device and program
CN107533600A (en) For tracking the augmented reality system and method for biological attribute data
JP6261060B2 (en) Information processing device
US20150269583A1 (en) Device for face-key purchasing
JP2021131893A (en) Sales support device, sales support method, and program
JP2022052750A (en) System and method for generating augmented reality content based on distorted three-dimensional model
CN110348927A (en) Information method for displaying and processing, device and shops&#39;s system
JP5493026B1 (en) Product or service purchase support apparatus, purchase support method, and program
JP4981109B2 (en) Virtual try-on device and program
KR102064653B1 (en) Wearable glasses and method for clothes shopping based on augmented relity
KR102044347B1 (en) Clothing purchasing system using virtual fitting cloth device based on augmented reality
KR20130038534A (en) Method and system for selling commodity in online shopping mall
US20230130735A1 (en) Real-time risk tracking
US20150058170A1 (en) Digital signage system, digital signage, article information presenting method and program
WO2020053914A1 (en) Wearable-terminal display system, method, program, and wearable terminal
JP2021189738A (en) Information processing apparatus, information processing method, and program
JP2020009147A (en) Information processor and information processing method
KR101391641B1 (en) Online shopping system utilizing image matching of purchaser and gooods and method thereof
JP2018163031A (en) Body contour information analysis system

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111012

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120417

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120419

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150427

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4981109

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150