JP2019207508A - 画像検索装置、画像検索方法、画像検索プログラム及び商品カタログ生成システム - Google Patents

画像検索装置、画像検索方法、画像検索プログラム及び商品カタログ生成システム Download PDF

Info

Publication number
JP2019207508A
JP2019207508A JP2018101852A JP2018101852A JP2019207508A JP 2019207508 A JP2019207508 A JP 2019207508A JP 2018101852 A JP2018101852 A JP 2018101852A JP 2018101852 A JP2018101852 A JP 2018101852A JP 2019207508 A JP2019207508 A JP 2019207508A
Authority
JP
Japan
Prior art keywords
image
product
evaluation value
category
learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018101852A
Other languages
English (en)
Other versions
JP7230343B2 (ja
Inventor
明宏 柿沼
Akihiro Kakinuma
明宏 柿沼
友保 相▲崎▼
Tomoyasu Aizaki
友保 相▲崎▼
上条 直裕
Tadahiro Kamijo
直裕 上条
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2018101852A priority Critical patent/JP7230343B2/ja
Priority to CN201980032597.9A priority patent/CN112136151A/zh
Priority to EP19729095.0A priority patent/EP3803764A1/en
Priority to PCT/JP2019/020108 priority patent/WO2019230499A1/en
Priority to US17/045,080 priority patent/US11900423B2/en
Publication of JP2019207508A publication Critical patent/JP2019207508A/ja
Application granted granted Critical
Publication of JP7230343B2 publication Critical patent/JP7230343B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0278Product appraisal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0631Item recommendations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0603Catalogue ordering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0641Shopping interfaces
    • G06Q30/0643Graphical representation of items or shoppers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Quality & Reliability (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)

Abstract

【課題】 異なるカテゴリの商品をレコメンドする際、適切な組み合わせとなる商品をレコメンドできるようにする。【解決手段】 画像検索装置は、処理対象の画像を取得する取得部と、前記処理対象の画像に含まれる物品が属するカテゴリとは異なるカテゴリの商品の商品画像の中から、前記物品の評価値と所定の関係にある評価値を有する商品の商品画像を、対応画像として特定する特定部と、を有し、前記処理対象の画像と、特定された前記対応画像とを対応付けて出力することを特徴とする。【選択図】図1

Description

本発明は、画像検索装置、画像検索方法、画像検索プログラム及び商品カタログ生成システムに関する。
従来より、顧客に対して最適な商品をレコメンドするレコメンド技術が知られている。例えば、下記特許文献1には、商品データとユーザの属性データとの関係を予め学習しておき、新たなユーザの属性データを学習結果に入力することで、各商品データとの適合度を算出する算出方法が開示されている。
下記特許文献1によれば、当該算出方法を用いることで、適合度に応じた商品をレコメンドすることができる。
しかしながら、下記特許文献1によれば、ユーザが複数のカテゴリ(トップス、ボトムス、靴、帽子等)の商品を購入するケースでは、カテゴリごとに商品をレコメンドすることになる。一方で、カテゴリごとに個別にレコメンドされた商品が、適切な組み合わせになるとは限らない。
本発明は上記課題に鑑みてなされたものであり、異なるカテゴリの商品をレコメンドする際、適切な組み合わせとなる商品をレコメンドできるようにすることを目的とする。
本発明の各実施形態によれば、画像検索装置は、例えば、以下のような構成を有する。即ち、
処理対象の画像を取得する取得部と、
前記処理対象の画像に含まれる物品が属するカテゴリとは異なるカテゴリの商品の商品画像の中から、前記物品の評価値と所定の関係にある評価値を有する商品の商品画像を、対応画像として特定する特定部と、を有し、
前記処理対象の画像と、特定された前記対応画像とを対応付けて出力することを特徴とする。
本発明の各実施形態によれば、異なるカテゴリの商品をレコメンドする際、適切な組み合わせとなる商品をレコメンドすることができるようになる。
第1の実施形態に係る画像検索装置を有する販売システムのシステム構成の一例を示す図である。 販売システムにおける各フェーズの処理の流れを示すシーケンス図である。 画像検索装置のハードウェア構成の一例を示す図である。 画像検索装置の機能構成の一例を示す図である。 画像検索装置の情報取得部の機能構成の詳細を示す図である。 第1学習用情報の一例を示す図である。 マップ生成部の処理の具体例を示す図である。 第2学習用情報の一例を示す第1の図である。 第2学習用情報の一例を示す第2の図である。 商品画像情報の一例を示す図である。 画像検索装置の学習部の機能構成の詳細を示す図である。 評価値学習部の処理の具体例を示す図である。 組み合わせ学習部の処理の具体例を示す第1の図である。 最適な組み合わせの物品間における評価値の関係を模式的に示した第1の図である。 組み合わせ学習部の処理の具体例を示す第2の図である。 最適な組み合わせの物品間における評価値の関係を模式的に示した第2の図である。 画像検索装置の解析部及び販売用画像生成部の機能構成の詳細を示す図である。 組み合わせ候補算出画面の一例を示す図である。 組み合わせ候補算出画面及び組み合わせ候補算出結果画面の一例を示す図である。 組み合わせ候補算出部の処理の具体例を示す図である。 レコメンド候補算出部の処理の具体例を示す図である。 画像検索装置の解析部による解析処理の流れを示すフローチャートである。 販売用画像生成部の処理の具体例を示す図である。 サーバ装置により提供される表示画面の一例を示す第1の図である。 サーバ装置により提供される表示画面の一例を示す第2の図である。 サーバ装置により提供される表示画面の一例を示す第3の図である。 サーバ装置によるレコメンドサービス提供処理の流れを示すフローチャートである。
以下、各実施形態の詳細について説明する。なお、各実施形態に係る明細書及び図面の記載に際して、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省く。
[第1の実施形態]
<1.販売システムのシステム構成>
はじめに、第1の実施形態に係る画像検索装置を有する販売システムのシステム構成について説明する。図1は、第1の実施形態に係る画像検索装置を有する販売システムのシステム構成の一例を示す図である。
図1に示すように、販売システム100は、顧客111が有する携帯端末110と、商品の販売サービスを提供するサーバ装置120と、画像検索装置130と、販売者141が有する端末140と、印刷装置150とを有する。
携帯端末110は、ネットワーク160を介して、サーバ装置120にアクセスし、サーバ装置120が提供する販売サービスを介して、顧客111が所望する商品についての購入処理を実行する。携帯端末110は、購入処理を実行するにあたり、サーバ装置120より、「商品画像」及び「組み合わせ商品画像」を受信し、表示する。「商品画像」とは、アパレルメーカが現在販売している商品を撮影した撮影画像を指す。また、「組み合わせ商品画像」とは、アパレルメーカが現在販売している商品のうち、最適な組み合わせであると判定された商品を身に着けたファッションモデルを撮影した撮影画像を指す。顧客111は、表示された組み合わせ商品画像を参照しながら、商品画像を選択することで、所望する商品の購入を指示する。
また、携帯端末110は、商品画像を選択するにあたり、「顧客画像」をサーバ装置120に送信することができる。「顧客画像」とは、例えば、顧客が撮影した画像であって、レコメンドサービスを受けるために顧客が入力した画像を指す。あるいは、クラウドサーバやSNS(Social Networking Service)にアップされた画像(ただし、それらの画像をサーバ装置120が取得できること、及び取り扱うことができることが前提)であってもよい。携帯端末110は、顧客画像112に含まれる物品(例えば、顧客111が着ているコート)に対して最適な組み合わせであると判定された商品(図1の例ではセータ)を含む商品画像を、レコメンド商品画像113として受信し、表示することができる。
これにより、顧客111は、自身が有する物品(コート)との組み合わせが最適な商品(セータ)を認識したうえで、商品画像を選択することができる。
サーバ装置120は、携帯端末110からのアクセスに応じて、携帯端末110に対して、商品画像及び組み合わせ商品画像を提供する。なお、サーバ装置120は、携帯端末110に提供する商品画像及び組み合わせ商品画像を、画像検索装置130より取得する。
また、サーバ装置120は、携帯端末110より送信された顧客画像112を受信すると、画像検索装置130に対して顧客画像112を送信し、画像検索装置130よりレコメンド商品画像を受信する。サーバ装置120は、受信したレコメンド商品画像を携帯端末110に送信する。
画像検索装置130は、端末140より学習用情報及び商品画像の入力を受け付ける。「学習用情報」とは、所定のカテゴリに属する物品の評価値と、他のカテゴリに属する物品の評価値との関係を学習する際に用いる情報であり、詳細は後述する。なお、「評価値」とは、各物品について、物品の印象を示す指標に基づいて付与された値または情報である。また、「カテゴリ」とは、物品を区分するための分類であり、後述するように、大分類のみが定義されたカテゴリや、大分類と小分類とが定義されたカテゴリ等が含まれる。なお、大分類及び小分類が同じであっても、例えば、大人向けの物品と、子供向けの物品とでは、異なるカテゴリに区分されるものとする。
また、画像検索装置130は、学習用情報を用いて学習した関係に基づいて、所定のカテゴリに属する商品との組み合わせが最適な、他のカテゴリに属する商品を特定することで、例えば、組み合わせ商品画像132を生成する。なお、画像検索装置130は、商品画像と組み合わせ商品画像とを、サーバ装置120及び印刷装置150に送信する。
端末140は、販売者141が入力する学習用情報を受け付け、画像検索装置130に送信する。また、端末140は、販売者141が入力する商品画像を受け付け、画像検索装置130に送信する。更に、端末140は、販売者141が入力する各種指示を受け付け、画像検索装置130に通知する。
印刷装置150は、画像検索装置130より送信された商品画像と組み合わせ商品画像とを含む商品カタログ151を生成し、印刷する。なお、図1の例では、商品カタログ151の印刷に際して、アパレルメーカが所有する印刷装置150を利用するものとして示されているが、アパレルメーカ以外が所有する印刷装置を利用してもよい。例えば、印刷会社が所有する印刷装置を利用してもよいし、コンビニエンスストア等に設置されている印刷装置を利用してもよい。
印刷装置150により印刷された商品カタログ151は、例えば、顧客111に送達される。なお、図1の例では、アパレルメーカにて送達を行うものとして示されているが、顧客111への送達は、アパレルメーカ以外(印刷会社や別の配送業者等)に委託して行ってもよい。ただし、商品カタログ151の印刷を、コンビニエンスストア等に設置されている印刷装置を利用して顧客111が行う場合にあっては、商品カタログ151の送達は不要となる。
<2.販売システムにおける各フェーズの処理の流れ>
次に、販売システム100における各フェーズの処理の流れについて説明する。図2は、販売システムにおける各フェーズの処理の流れを示すシーケンス図である。図2に示すように、販売システム100における処理は、"準備フェーズ"と、"実行フェーズ"と、"商品販売フェーズ"と、"個別対応フェーズ"とに大別することができる。
準備フェーズとは、画像検索装置130が学習に用いる学習用情報を収集して、学習を行うフェーズである。図2に示すように、ステップS201において、端末140は、学習用情報として、過去画像と、該過去画像に含まれる各商品の印象を示す指標及び評価値を画像検索装置130に送信する。なお、「過去画像」とは、アパレルメーカが過去に販売した商品を撮影した撮影画像である。過去に販売した商品については、各指標に対する評価値が定義されているものとし、端末140では、既に定義されている各指標に対する評価値を、過去画像と対応付けて画像検索装置130に送信する。
なお、過去に販売した商品のうち、各指標に対する評価値が定義されていない商品については、販売者141が過去画像を入力する際に評価値を判断して入力するものとする。
ステップS202において、画像検索装置130は、端末140より送信された過去画像、指標及び評価値を、第1学習用情報として格納する。
ステップS203において、端末140は、学習用情報として、参照画像を画像検索装置130に送信する。なお、「参照画像」とは、例えば、他のアパレルメーカ(有名ブランド)の商品を着たファッションモデルを撮影した撮影画像を指す。参照画像には、例えば、販売者141がネットワーク160上で検索した画像や、ファッション雑誌をスキャンすることで得た画像等、物品の最適な組み合わせを示す任意の画像が含まれるものとする。
ステップS204において、画像検索装置130は、端末140より送信された参照画像を、第2学習用情報として格納する。
ステップS205において、画像検索装置130は、第1学習用情報を用いて学習処理を行い、学習結果(評価値学習結果)を格納する。画像検索装置130は、第1学習用情報を用いて学習処理を行うことで、過去画像と評価値との関係を学習する。また、画像検索装置130は、第2学習用情報を用いて学習処理を行い、学習結果(組み合わせ学習結果)を格納する。画像検索装置130は、第2学習用情報を用いて学習処理を行うことで、異なるカテゴリ(第1のカテゴリ、第2のカテゴリ)に属する物品であって、最適な組み合わせの物品間における評価値の関係を学習する。
実行フェーズとは、準備フェーズにおける学習結果(評価値学習結果、組み合わせ学習結果)を実行するフェーズである。図2に示すように、ステップS211において、端末140は、商品画像を画像検索装置130に送信する。ステップS212において、画像検索装置130は、端末140より送信された商品画像を格納する。
ステップS213において、画像検索装置130は、解析処理を実行する。具体的には、画像検索装置130は、過去画像と評価値との関係を学習することで得た評価値学習結果に基づいて、各商品画像に含まれる商品の評価値を算出する。また、画像検索装置130は、最適な組み合わせの物品間における評価値の関係を学習することで得た組み合わせ学習結果に基づいて、異なるカテゴリの商品であって、最適な組み合わせとなる商品の商品画像を特定し、組み合わせ商品画像を生成する。なお、解析処理(ステップS213)の詳細は、後述する。
商品販売フェーズとは、商品を販売するための処理を実行するフェーズである。図2に示すように、ステップS221において、画像検索装置130は、取得した商品画像及び生成した組み合わせ商品画像を、印刷装置150に送信する。
ステップS222において、印刷装置150は、商品画像及び組み合わせ商品画像を含む商品カタログ151を生成し、ステップS223において、顧客111に送信する。
ステップS224において、画像検索装置130は、取得した商品画像及び生成した組み合わせ商品画像を、サーバ装置120に送信する。
ステップS225において、サーバ装置120は、販売サービス提供処理を実行する。具体的には、ステップS226において、携帯端末110からのアクセスを受けると、ステップS227において、サーバ装置120は、携帯端末110に対して、商品画像及び組み合わせ商品画像を送信する。
これにより、顧客111は、携帯端末110を介して商品画像及び組み合わせ商品画像を閲覧し、所望の商品について購入を指示することができる。なお、購入指示後の携帯端末110及びサーバ装置120の処理についての説明は省略する。
個別対応フェーズとは、商品を販売する際に、顧客ごとの個別の要求に対応するフェーズである。図2に示すように、ステップS231において、携帯端末110は、サーバ装置120に対して顧客画像112を送信する。ステップS232において、サーバ装置120は、レコメンドサービス提供処理を実行する。レコメンドサービス提供処理とは、顧客画像112に対応するレコメンド商品画像113を、顧客111に提供するための処理である。
ステップS233において、サーバ装置120は、受信した顧客画像112を画像検索装置130に送信する。ステップS234において、画像検索装置130は、解析処理を実行する。具体的には、画像検索装置130は、過去画像と評価値との関係を学習することで得た評価値学習結果に基づいて、顧客画像112に含まれる物品の評価値を算出する。また、画像検索装置130は、最適な組み合わせの物品間における評価値の関係を学習することで得た組み合わせ学習結果に基づいて、顧客画像112に含まれる物品に対して、最適な組み合わせとなる商品の商品画像を特定する。
ステップS235において、画像検索装置130は、顧客画像112に含まれる物品に対して最適な組み合わせとなる商品の商品画像を、レコメンド商品画像113として、サーバ装置120に送信する。ステップS236において、サーバ装置120は、受信したレコメンド商品画像113を、携帯端末110に送信する。
これにより、顧客111は、顧客画像112に含まれる物品との組み合わせが最適な商品を認識したうえで、商品画像を選択することができる。
<3.サーバ装置及び画像検索装置のハードウェア構成>
次に、サーバ装置120及び画像検索装置130のハードウェア構成について説明する。なお、サーバ装置120のハードウェア構成と画像検索装置130のハードウェア構成とは概ね同じであるため、ここでは、画像検索装置130のハードウェア構成について説明する。
図3は、画像検索装置のハードウェア構成の一例を示す図である。図3に示すように、画像検索装置130は、CPU(Central Processing Unit)301、ROM(Read Only Memory)302、RAM(Random Access Memory)303を有する。CPU301、ROM302、RAM303は、いわゆるコンピュータを形成する。
また、画像検索装置130は、補助記憶装置304、表示装置305、操作装置306、I/F(Interface)装置307、ドライブ装置308を有する。なお、画像検索装置130の各ハードウェアは、バス309を介して相互に接続されている。
CPU301は、補助記憶装置304にインストールされている各種プログラム(例えば、画像検索プログラム等)を実行する演算デバイスである。
ROM302は、不揮発性メモリである。ROM302は、補助記憶装置304にインストールされている各種プログラムをCPU301が実行するために必要な各種プログラム、データ等を格納する、主記憶デバイスとして機能する。具体的には、ROM302はBIOS(Basic Input/Output System)やEFI(Extensible Firmware Interface)等のブートプログラム等を格納する、主記憶デバイスとして機能する。
RAM303は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等の揮発性メモリである。RAM303は、補助記憶装置304にインストールされている各種プログラムがCPU301によって実行される際に展開される作業領域を提供する、主記憶デバイスとして機能する。
補助記憶装置304は、各種プログラムや、各種プログラムが実行される際に用いられる情報を格納する補助記憶デバイスである。
表示装置305は、画像検索装置130の内部状態を表示する表示デバイスである。操作装置306は、画像検索装置130に対して各種指示を入力する際に用いられる入力デバイスである。
I/F装置307は、ネットワーク160またはサーバ装置120、印刷装置150に接続するための接続デバイスである。
ドライブ装置308は記録媒体310をセットするためのデバイスである。ここでいう記録媒体310には、CD−ROM、フレキシブルディスク、光磁気ディスク等のように情報を光学的、電気的あるいは磁気的に記録する媒体が含まれる。また、記録媒体310には、ROM、フラッシュメモリ等のように情報を電気的に記録する半導体メモリ等が含まれていてもよい。
なお、補助記憶装置304にインストールされる各種プログラムは、例えば、配布された記録媒体310がドライブ装置308にセットされ、該記録媒体310に記録された各種プログラムがドライブ装置308により読み出されることでインストールされる。あるいは、補助記憶装置304にインストールされる各種プログラムは、I/F装置307を介して、ネットワーク160よりダウンロードされることでインストールされてもよい。
<4.画像検索装置の機能構成の詳細>
次に、画像検索装置130の機能構成について説明する。図4は、画像検索装置の機能構成の一例を示す図である。上述したとおり、画像検索装置130には、画像検索プログラムがインストールされており、当該プログラムが実行されることで、画像検索装置130は、情報取得部401、学習部402、解析部403、販売用画像生成部404として機能する(図4参照)。
情報取得部401は、端末140より学習用情報(過去画像、指標及び評価値、参照画像)と、商品画像とを受信する。また、情報取得部401は、取得した学習用情報のうち、過去画像、指標及び評価値を、第1学習用情報として、第1学習用情報格納部411に格納する。
また、情報取得部401は、取得した学習用情報のうち、参照画像を、第2学習用情報として、第2学習用情報格納部412に格納する。更に、情報取得部401は、取得した商品画像を、商品画像格納部414に格納する。
学習部402は、第1学習用情報格納部411より、過去画像、指標及び評価値を読み出し、過去画像と評価値との関係を学習し、評価値学習結果を学習結果格納部413に格納する。また、学習部402は、第2学習用情報格納部412より、参照画像を読み出し、異なるカテゴリに属する物品であって、最適な組み合わせの物品間における評価値の関係を学習し、組み合わせ学習結果を学習結果格納部413に格納する。
解析部403は、実行フェーズにおいては、端末140からの各種指示に基づき動作する。具体的には、解析部403は、商品画像格納部414より商品画像を読み出し、評価値学習結果に入力することで商品画像に含まれる商品の評価値を算出する。また、解析部403は、過去画像等に基づいて生成されるマップ(詳細は後述)上において、算出した評価値に応じた位置に商品画像をプロットして表示する。
更に、解析部403は、実行フェーズ及び個別対応フェーズにおいて、学習結果を用いて、「処理対象の画像」に対する「対応画像」を特定する。「処理対象の画像」とは、商品画像のうち、組み合わせ商品画像を生成するために、販売者141が選択した商品画像、または、レコメンドサービスを受けるために顧客111が入力した顧客画像を指す。また、「対応画像」とは、処理対象の画像に対して特定される商品画像であって、処理対象の画像に含まれる物品に対して、最適な組み合わせであると判定された、異なるカテゴリの商品の商品画像を指す。
例えば、解析部403は、実行フェーズにおいて、処理対象の画像として、販売者141により商品画像が選択されると、選択された商品画像に含まれる商品について評価値を算出し、組み合わせ学習結果に入力することで、対応画像を特定する。そして、解析部403は、選択された商品画像と対応画像とに基づいて生成される組み合わせ商品画像を取得し、販売用画像生成部404に通知する。なお、解析部403では、組み合わせ商品画像を販売用画像生成部404に通知する際、商品画像格納部414に格納された全ての商品画像を読み出し、あわせて通知する。
また、解析部403は、個別対応フェーズにおいて、処理対象の画像として、サーバ装置120より送信された顧客画像112を受信すると、顧客画像112について評価値を算出し、組み合わせ学習結果に入力することで、対応画像を特定する。そして、解析部403は、特定した対応画像をレコメンド商品画像として、サーバ装置120に送信する。
販売用画像生成部404は、解析部403より通知された、商品画像及び組み合わせ商品画像を用いて、販売用画像を生成する。具体的には、販売用画像生成部404は、商品画像及び組み合わせ商品画像を含む商品カタログを生成するための販売用画像を生成し、印刷装置150に送信する。また、販売用画像生成部404は、商品画像及び組み合わせ商品画像を含む販売サービス画面を生成するための販売用画像を生成し、サーバ装置120に送信する。
<5.画像検索装置の各部の処理の詳細>
次に、画像検索装置130の各部(情報取得部401、学習部402、解析部403、販売用画像生成部404)の処理の詳細について説明する。
<5.1 情報取得部の処理の詳細>
(1)情報取得部の機能構成の詳細
はじめに、画像検索装置130の情報取得部401の機能構成の詳細について説明する。図5は、画像検索装置の情報取得部の機能構成の詳細を示す図である。図5に示すように、情報取得部401は、画像情報取得部501、評価値入力部502、マップ生成部503を有する。
画像情報取得部501は、端末140より送信された過去画像を第1学習用情報格納部411に格納する。また、画像情報取得部501は、端末140より送信された参照画像を第2学習用情報格納部412に格納する。
評価値入力部502は、過去画像に対応付けられた指標及び評価値を、第1学習用情報格納部411に、過去画像と対応付けて格納する。なお、過去画像に対応付けて格納される指標ごとの評価値の例は、評価値表510に示すとおりである。
評価値表510は、"対象"、"ファッション意識"、"オケージョン"、"ルックス"、"テーマ"の5つの指標を含み、各指標について、評価値が定義されている。例えば、指標="対象"の場合、評価値として、"ティーンズ"、"ヤング"、"ヤングアダルト"、"マチュア"、"シニア"が定義されている。
マップ生成部503は、第1学習用情報格納部411に格納された各過去画像を、所定の2軸の指標により規定される2次元平面上にプロットすることで、マップを生成する。
(2)第1学習用情報の具体例
次に、第1学習用情報格納部411に格納される第1学習用情報の具体例について説明する。図6は、第1学習用情報の一例を示す図である。図6に示すように、第1学習用情報600は、大分類及び小分類ごとに分けて管理される。図6の最前面には、大分類="トップス"、小分類="シャツ"の過去画像、指標及び評価値が格納された第1学習用情報が示されている。
図6の最前面に示すように、第1学習用情報600には、情報の項目として、"画像ID"、"過去画像"、"指標"が含まれる。"画像ID"には、対応する過去画像を識別するための識別子が格納される。"過去画像"には、過去画像が格納される。"指標"には、5つの指標("対象"、"ファッション意識"、"オケージョン"、"ルックス"、"テーマ")が含まれ、それぞれの指標についての評価値が格納される。
(3)マップの具体例
次に、準備フェーズにおいて、マップ生成部503により生成されるマップの具体例について説明する。図7は、マップ生成部の処理の具体例を示す図である。図7に示すように、マップ生成部503は、第1学習用情報600に格納された過去画像を、大分類及び小分類ごとに分け、所定の2軸の指標により規定される2次元平面上において、評価値に応じた位置にプロットすることでマップを生成する。また、マップ生成部503は生成した各マップを、マップ情報710として保持する。
図7のマップ表示画面720は、マップ情報710として、
・x軸指標="対象"、
・y軸指標="ファッション意識"、
により規定される2次元平面上において、
・大分類="トップス"、
・小分類="シャツ"、
に属する過去画像を、評価値に応じた位置にプロットすることで生成されたマップを示している。
なお、マップ生成部503により保持されるマップ情報710に含まれる任意のマップについて、販売者141は、画像検索装置130の表示装置305または端末140を介して閲覧することができるものとする。
具体的には、マップ表示画面720において、大分類、小分類、x軸指標、y軸指標を指定することで、販売者141は、マップ情報710に含まれる任意のマップを表示させることができるものとする。
(4)第2学習用情報の具体例その1
次に、第2学習用情報格納部412に格納される第2学習用情報の第1の具体例について説明する。図8は、第2学習用情報の一例を示す第1の図である。図8に示すように、第2学習用情報800には、情報の項目として、"画像ID"、"参照画像"、"カテゴリ"が含まれる。
"画像ID"には、対応する参照画像を識別するための識別子が格納される。"参照画像"には、参照画像が格納される。なお、第2学習用情報800に格納される参照画像は、被写体が1人(単数)の場合の参照画像である。"カテゴリ"には、更に、情報の項目として、物品が区分される具体的なカテゴリである、"帽子"、"トップス"、"ボトムス"等が含まれる。
"カテゴリ"に含まれる"帽子"、"トップス"、"ボトムス"等には、それぞれ、対応する参照画像に対応する物品が含まれているか否かを示す情報が格納される。例えば、画像ID="ID−S001"で識別される参照画像には、"トップス"と"ボトムス"の物品が含まれていることを示している。
(5)第2学習用情報の具体例その2
次に、第2学習用情報格納部412に格納される第2学習用情報の第2の具体例について説明する。図9は、第2学習用情報の一例を示す第2の図である。図9に示すように、第2学習用情報900には、情報の項目として、"画像ID"、"参照画像"、"カテゴリ"が含まれる。
"画像ID"には、対応する参照画像を識別するための識別子が格納される。"参照画像"には、参照画像が格納される。なお、第2学習用情報900に格納される参照画像は、被写体が2人(複数)の場合の参照画像である。"カテゴリ"には、更に、情報の項目として、物品が区分される具体的なカテゴリである、"帽子"、"トップス"、"ボトムス"等が含まれる。
"カテゴリ"に含まれる"帽子"、"トップス"、"ボトムス"等には、それぞれ、対応する参照画像に対応する物品が含まれているか否かを示す情報が格納される。例えば、画像ID="ID−S501"で識別される参照画像には、"トップス"と"ボトムス"の物品が含まれていることを示している。なお、2段に分かれているうちの上段には、大人向けの物品が含まれているか否かを示す情報が格納され、下段には、子供向けの物品が含まれているか否かを示す情報が格納される。
(6)商品画像情報の具体例
次に、商品画像格納部414に格納される商品画像情報の具体例について説明する。図10は、商品画像情報の一例を示す図である。図10に示すように、商品画像情報1000は、大分類及び小分類ごとに分けて管理される。図10の最前面には、大分類="トップス"、小分類="シャツ"の商品画像が格納された商品画像情報が示されている。
図10の最前面に示すように、商品画像情報1000には、情報の項目として、"画像ID"、"商品画像"、"指標"が含まれる。"画像ID"には、対応する商品画像を識別するための識別子が格納される。"商品画像"には、商品画像が格納される。"指標"には、5つの指標("対象"、"ファッション意識"、"オケージョン"、"ルックス"、"テーマ")が含まれる。なお、商品画像情報1000の各指標の評価値は、評価値学習結果を用いて解析部403において算出されるため、商品画像格納部414に商品画像が格納された時点では、評価値は格納されていない。
<5.2 学習部の処理の詳細>
(1)学習部の機能構成の詳細
次に、画像検索装置130の学習部402の機能構成について説明する。図11は、画像検索装置の学習部の機能構成の詳細を示す図である。図11に示すように、学習部402は、更に、評価値学習部1101、組み合わせ学習部1102を有する。
評価値学習部1101は、第1学習用情報格納部411に格納された過去画像、指標及び評価値を読み出し、過去画像と評価値との関係を学習する。また、評価値学習部1101は、過去画像と評価値との関係を学習することで得た評価値学習結果を、学習結果格納部413に格納する。
組み合わせ学習部1102は第2学習用情報格納部412に格納された参照画像を読み出し、参照画像に含まれる各物品の評価値を取得する。組み合わせ学習部1102は、参照画像に含まれる各物品の画像を、評価値学習結果に入力することで、参照画像に含まれる各物品の評価値を取得する。
また、組み合わせ学習部1102は、参照画像に含まれる各物品の評価値を用いて、最適な組み合わせの物品間における評価値の関係を学習する。組み合わせ学習部1102は、最適な組み合わせの物品間における評価値の関係を学習することで得た組み合わせ学習結果を、学習結果格納部413に格納する。
(2)評価値学習部の処理の具体例
次に、評価値学習部1101の処理の具体例について説明する。図12は、評価値学習部の処理の具体例を示す図である。図12に示すように、評価値学習部1101は、過去画像を、大分類及び小分類ごとに分け、大分類及び小分類ごとに、過去画像と評価値との関係を学習し、評価値学習結果を得る。評価値学習部1101は、例えば、畳み込みニューラルネットワークにより構成される。
図12(a)は、評価値学習部1101を用いて、大分類="トップス"、小分類="シャツ"について、過去画像と評価値との関係を学習する様子を示している。評価値学習部1101には、過去画像のうち、大分類="トップス"、小分類="シャツ"に属する商品の過去画像が入力される。
図12(a)に示すように、評価値学習部1101の出力には、評価値の組み合わせ(評価値パターンと称す)として、評価値パターン1〜評価値パターンmが規定される。"評価値パターン1"は、例えば、対象="ティーンズ"、ファッション意識="コンテンポラリ"、オケージョン="タウンカジュアル"、ルックス="カントリ"、テーマ="トレンド"の組み合わせを指す。また、"評価値パターン2"は、例えば、対象="ヤング"、ファッション意識="コンテンポラリ"、オケージョン="シティカジュアル"、ルックス="エレガンス"、テーマ="トレンド"の組み合わせを指す。
評価値学習部1101では、例えば、画像ID="ID001"の過去画像が入力された場合に、"評価値パターン1"の確からしさが所定の閾値以上となるように、学習を行う。また、評価値学習部1101では、例えば、画像ID="ID002"の過去画像が入力された場合に、"評価値パターン2"の確からしさが所定の閾値以上となるように、学習を行う。
同様に、図12(b)は、評価値学習部1101を用いて、大分類="ボトムス"について、過去画像と評価値との関係を学習する様子を示している。評価値学習部1101には、過去画像のうち、大分類="ボトムス"に属する商品の過去画像が入力される。なお、図12(b)において、評価値学習部1101の出力は、図12(a)と同様に、評価値パターン1〜評価値パターンmが規定される。
また、図12(a)と同様に、図12(b)においても、評価値学習部1101は、入力された過去画像それぞれに対応付けられた評価値パターンの確からしさが、所定の閾値以上となるように、学習を行う。
このように、評価値学習部1101では、大分類及び小分類ごとの評価値学習結果を得る。
(3)組み合わせ学習部の処理の具体例その1
次に、組み合わせ学習部1102の処理の具体例その1について説明する。図13は、組み合わせ学習部の処理の具体例を示す第1の図である。上述したとおり、組み合わせ学習部1102は、まず、参照画像に含まれる各物品の画像を、評価値学習結果に入力することで、評価値を取得する。
図13(b)の例は、組み合わせ学習部1102が、大分類="トップス"、小分類="シャツ"と、大分類="ボトムス"との組み合わせにおける評価値の関係を学習する様子を示している。
そこで、組み合わせ学習部1102では、図13(a)に示すように、まず、大分類="トップス"、小分類="シャツ"について学習した評価値学習結果1301に、参照画像に含まれる物品(トップス、シャツ)の画像を入力する。また、組み合わせ学習部1102では、大分類="ボトムス"について学習した評価値学習結果1302に、参照画像に含まれる物品(ボトムス)の画像を入力する。
具体的には、組み合わせ学習部1102は、画像ID="ID−S001"の参照画像に含まれるシャツの画像1311を評価値学習結果1301に入力し、例えば、評価値パターン1を得る。また、組み合わせ学習部1102は、画像ID="ID−S001"の参照画像に含まれるボトムスの画像1312を評価値学習結果1302に入力し、例えば、評価値パターン3を得る。
同様に、組み合わせ学習部1102は、画像ID="ID−S002"、"ID−S003"の参照画像に含まれるシャツの画像1321、1331を評価値学習結果1301に入力し、例えば、評価値パターン5、評価値パターン7を得る。また、組み合わせ学習部1102は、画像ID="ID−S002"、"ID−S003"の参照画像に含まれるボトムスの画像1322、1332を評価値学習結果1302に入力し、例えば、評価値パターン4、評価値パターン4をそれぞれ得る。
上述したとおり、組み合わせ学習部1102では、参照画像に含まれる各物品の評価値を用いて、最適な組み合わせの物品間における評価値の関係を学習する。このため、図13(b)に示すように、組み合わせ学習部1102では、シャツの画像1311の"評価値パターン1"が入力された場合に、対応するボトムスの画像1312の"評価値パターン3"の確からしさが所定の閾値以上となるように、学習を行う。また、組み合わせ学習部1102では、シャツの画像1321の"評価値パターン5"が入力された場合に、対応するボトムスの画像1322の"評価値パターン4"の確からしさが所定の閾値以上となるように、学習を行う。
また、組み合わせ学習部1102では、シャツの画像1331の"評価値パターン7"が入力された場合に、対応するボトムスの画像1332の"評価値パターン4"の確からしさが所定の閾値以上となるように学習を行う。
このように、組み合わせ学習部1102では、カテゴリの異なる(大分類、小分類)物品間における組み合わせ学習結果を得る。
(4)最適な組み合わせの物品間における評価値の関係その1
次に、組み合わせ学習部1102により学習された組み合わせ学習結果が示す、最適な組み合わせの物品間における評価値の関係について説明する。図14は、最適な組み合わせの物品間における評価値の関係を模式的に示した第1の図である。なお、図14では、説明を簡略化するために、多次元の指標空間のうち、特定の2つの指標により規定される2次元平面を例に、最適な組み合わせの物品間における評価値の関係について説明する。
このうち、図14(a)は、指標Aと指標Bとにより規定される、大分類及び小分類ごとの2次元平面1401〜1404において、最適な組み合わせの物品間における評価値の関係が、類似の関係となった例を示している。
図14(a)の場合、例えば、評価値1405を有するシャツに対して、類似の評価値1406を有するボトムスを組み合わせることで、最適な組み合わせが得られることを示している。また、類似の評価値1407を有するコートを組み合わせることで、最適な組み合わせが得られることを示している。更に、類似の評価値1408を有する靴を組み合わせることで、最適な組み合わせが得られることを示している。
一方、図14(b)は、指標Aと指標Bとにより規定される、大分類及び小分類ごとの2次元平面1411〜1414において、最適な組み合わせの物品間における評価値の関係が、非類似の関係となった例を示している。
図14(b)の場合、例えば、評価値1415を有するシャツに対して、非類似の評価値1416を有するボトムスを組み合わせることで、最適な組み合わせが得られることを示している。また、非類似の評価値1417を有するコートを組み合わせることで、最適な組み合わせが得られることを示している。更に、非類似の評価値1418を有する靴を組み合わせることで、最適な組み合わせが得られることを示している。
また、図14(c)は、指標Cと指標Dとにより規定される、大分類及び小分類ごとの2次元平面1421〜1424において、最適な組み合わせの物品間における評価値の関係が、類似の関係となった例を示している。
図14(c)の場合、例えば、評価値1425を有するシャツに対して、類似の評価値1426を有するボトムスを組み合わせることで、最適な組み合わせが得られることを示している。また、類似の評価値1427を有するコートを組み合わせることで、最適な組み合わせが得られることを示している。更に、類似の評価値1428を有する靴を組み合わせることで、最適な組み合わせが得られることを示している。
また、図14(d)は、指標Cと指標Dとにより規定される、大分類及び小分類ごとの2次元平面1431〜1434において、最適な組み合わせの物品間における評価値の関係が、非類似の関係となった例を示している。
図14(d)の場合、例えば、評価値1435を有するシャツに対して、非類似の評価値1436を有するボトムスを組み合わせることで、最適な組み合わせが得られることを示している。また、非類似の評価値1437を有するコートを組み合わせることで、最適な組み合わせが得られることを示している。更に、非類似の評価値1438を有する靴を組み合わせることで、最適な組み合わせが得られることを示している。
(5)組み合わせ学習部の処理の具体例その2
次に、組み合わせ学習部1102の処理の具体例その2について説明する。図15は、組み合わせ学習部の処理の具体例を示す第2の図である。図13では、被写体が1人(単数)の場合の参照画像を用いて学習を行う場合について示したが、図15では、被写体が2人(複数)の場合の参照画像を用いて学習を行う場合を示している。
上述したとおり、組み合わせ学習部1102は、参照画像に含まれる各物品の画像を、評価値学習結果に入力することで、評価値を取得する。
図15(b)の例は、組み合わせ学習部1102が、
・大分類="トップス"、小分類="ジャケット"と、大分類="トップス"、小分類="ジャケット"との組み合わせにおける評価値の関係と、
・大分類="ボトムス"と、大分類="ボトムス"との組み合わせにおける評価値の関係と
を学習する様子を示している。
そこで、組み合わせ学習部1102では、図15(a)に示すように、まず、大分類="トップス"、小分類="ジャケット"について学習した評価値学習結果1501に、参照画像に含まれる物品(トップス、ジャケット)の画像を入力する。また、組み合わせ学習部1102では、大分類="ボトムス"について学習した評価値学習結果1302に、参照画像に含まれる物品(ボトムス)の画像を入力する。
具体的には、組み合わせ学習部1102は、画像ID="ID−S501"の参照画像に含まれるジャケットの画像1511aを評価値学習結果1501に入力し、例えば、評価値パターン1を得る。また、組み合わせ学習部1102は、画像ID="ID−S501"の参照画像に含まれるジャケットの画像1511bを評価値学習結果1501に入力し、例えば、評価値パターン2を得る。また、組み合わせ学習部1102は、画像ID="ID−S501"の参照画像に含まれるボトムスの画像1512aを評価値学習結果1302に入力し、例えば、評価値パターン1を得る。また、組み合わせ学習部1102は、画像ID="ID−S501"の参照画像に含まれるボトムスの画像1512bを評価値学習結果1302に入力し、例えば、評価値パターン3を得る。
同様に、組み合わせ学習部1102は、画像ID="ID−S502"の参照画像に含まれるジャケットの画像1521aを評価値学習結果1501に入力し、例えば、評価値パターン5を得る。また、組み合わせ学習部1102は、画像ID="ID−S502"の参照画像に含まれるジャケットの画像1521bを評価値学習結果1501に入力し、例えば、評価値パターン2を得る。また、組み合わせ学習部1102は、画像ID="ID−S502"の参照画像に含まれるボトムスの画像1522aを評価値学習結果1302に入力し、例えば、評価値パターン3を得る。また、組み合わせ学習部1102は、画像ID="ID−S502"の参照画像に含まれるボトムスの画像1522bを評価値学習結果1302に入力し、例えば、評価値パターン3を得る。
更に、図15(b)に示すように、組み合わせ学習部1102では、ジャケットの画像1511aの"評価値パターン1"が入力された場合に、対応するジャケットの画像1511bの"評価値パターン2"の確からしさが所定の閾値以上となるように、学習を行う。また、組み合わせ学習部1102では、ジャケットの画像1521aの"評価値パターン5"が入力された場合に、対応するジャケットの画像1521bの"評価値パターン2"の確からしさが所定の閾値以上となるように、学習を行う。
同様に、組み合わせ学習部1102では、ボトムスの画像1512aの"評価値パターン1"が入力された場合に、対応するボトムスの画像1512bの"評価値パターン3"の確からしさが所定の閾値以上となるように、学習を行う。また、組み合わせ学習部1102では、ボトムスの画像1522aの"評価値パターン3"が入力された場合に、対応するボトムスの画像1522bの"評価値パターン3"の確からしさが所定の閾値以上となるように、学習を行う。
このように、組み合わせ学習部1102では、カテゴリの異なる(大人向け、子供向け)物品間における組み合わせ学習結果を得る。
(6)最適な組み合わせの物品間における評価値の関係その2
次に、組み合わせ学習部1102により学習された組み合わせ学習結果が示す、最適な組み合わせの物品間における評価値の関係について説明する。図16は、最適な組み合わせの物品間における評価値の関係を模式的に示した第2の図である。
図16(a)は、指標Aと指標Bとにより規定される、大人向け及び子供向けごとの2次元平面1601〜1602において、最適な組み合わせの物品間における評価値の関係が、類似の関係となった例を示している。
図16(a)の場合、例えば、評価値1603を有するジャケット(大人向け)に対して、類似の評価値1604を有するジャケット(子供向け)を組み合わせることで、最適な組み合わせが得られることを示している。
一方、図14(b)は、指標Aと指標Bとにより規定される、大人向け及び子供向けごとの2次元平面1611〜1612において、最適な組み合わせの物品間における評価値の関係が、非類似の関係となった例を示している。
図16(b)の場合、例えば、評価値1613を有するジャケット(大人向け)に対して、非類似の評価値1614を有するジャケット(子供向け)を組み合わせることで、最適な組み合わせが得られることを示している。
また、図16(c)は、指標Cと指標Dとにより規定される、大人向け及び子供向けごとの2次元平面1621〜1622において、最適な組み合わせの物品間における評価値の関係が、類似の関係となった例を示している。
図16(c)の場合、例えば、評価値1623を有するジャケット(大人向け)に対して、類似の評価値1624を有するジャケット(子供向け)を組み合わせることで、最適な組み合わせが得られることを示している。
また、図16(d)は、指標Cと指標Dとにより規定される、大人向け及び子供向けごとの2次元平面1631〜1632において、最適な組み合わせの物品間における評価値の関係が、非類似の関係となった例を示している。
図16(d)の場合、例えば、評価値1633を有するジャケット(大人向け)に対して、非類似の評価値1634を有するジャケット(子供向け)を組み合わせることで、最適な組み合わせが得られることを示している。
また、図16(e)は、指標Aと指標Bとにより規定される、大人向け及び子供向けごとの2次元平面1641〜1642において、最適な組み合わせの物品間における評価値の関係が、類似の関係となった例を示している。
図16(e)の場合、例えば、評価値1643を有するボトムス(大人向け)に対して、類似の評価値1644を有するボトムス(子供向け)を組み合わせることで、最適な組み合わせが得られることを示している。
また、図16(f)は、指標Aと指標Bとにより規定される、大人向け及び子供向けごとの2次元平面1641〜1642において、最適な組み合わせの物品間における評価値の関係が、非類似の関係となった例を示している。
図16(f)の場合、例えば、評価値1653を有するボトムス(大人向け)に対して、非類似の評価値1654を有するボトムス(子供向け)を組み合わせることで、最適な組み合わせが得られることを示している。
<5.3 解析部及び販売用画像生成部の処理の詳細>
(1)解析部及び販売用画像生成部の機能構成の詳細
次に、画像検索装置130の解析部403及び販売用画像生成部404の機能構成について説明する。図17は、画像検索装置の解析部及び販売用画像生成部の機能構成の詳細を示す図である。図17に示すように、解析部403は、指示部1701、処理対象取得部1702、組み合わせ候補算出部1703、レコメンド候補算出部1704を有する。
指示部1701は、端末140に対して各種画面を提供し、端末140から各種指示を受け付ける。指示部1701は、各種指示として、例えば、
・処理対象の画像となる商品画像の選択指示
・選択された商品画像を含むマップの表示指示
・選択された商品画像に対する対応画像の検索指示、
等が含まれる。
指示部1701は、受け付けた各種指示に応じた処理を実行する。例えば、処理対象の画像となる商品画像の選択指示を受け付けた場合、指示部1701は、選択された商品画像を商品画像格納部414から読み出す。
また、例えば、選択された商品画像を含むマップの表示指示を受け付けた場合、指示部1701は、第1学習用情報格納部411より、過去画像を読み出し、マップを生成するとともに、選択された商品画像を、生成したマップ上にプロットして表示する。
また、例えば、選択された商品画像に対する対応画像の検索指示を受け付けた場合、指示部1701は、選択された商品画像を処理対象取得部1702に通知する。
処理対象取得部1702は取得部の一例であり、処理対象の画像を取得し、組み合わせ候補算出部1703またはレコメンド候補算出部1704に通知する。具体的には、処理対象取得部1702は、実行フェーズにおいて、処理対象の画像として、指示部1701から、選択された商品画像を取得した場合には、選択された商品画像を組み合わせ候補算出部1703に通知する。
また、処理対象取得部1702は、個別対応フェーズにおいて、サーバ装置120から、処理対象の画像として、顧客画像が送信された場合には、顧客画像をレコメンド候補算出部1704に通知する。
組み合わせ候補算出部1703は特定部の一例である。組み合わせ候補算出部1703は、学習結果格納部413に格納された評価値学習結果と組み合わせ学習結果とを読み出す。また、組み合わせ候補算出部1703は、読み出した評価値学習結果と組み合わせ学習結果とに基づいて、選択された商品画像から対応画像を特定する。
これにより、販売者141は、最適な組み合わせとなる商品(処理対象の画像に含まれる商品と、対応画像に含まれる商品)を身に着けたファッションモデルを撮影し、組み合わせ商品画像を生成することができる。
組み合わせ候補算出部1703は、生成された組み合わせ商品画像を取得し、販売用画像生成部404に通知する。このとき、組み合わせ候補算出部1703は、商品画像格納部414に格納された商品画像を読み出し、組み合わせ商品画像とともに、販売用画像生成部404にあわせて通知する。
レコメンド候補算出部1704は特定部の他の一例である。レコメンド候補算出部1704は、学習結果格納部413に格納された評価値学習結果と組み合わせ学習結果とを読み出す。また、レコメンド候補算出部1704は、読み出した評価値学習結果と組み合わせ学習結果とに基づいて、顧客画像から対応画像を特定する。
更に、レコメンド候補算出部1704は、特定した対応画像を、レコメンド商品画像として、サーバ装置120に送信する。
なお、販売用画像生成部404の機能は、既に、図4を用いて説明済みであるため、ここでは説明を省略する。
(2)指示部により提供される表示画面の具体例
次に、実行フェーズにおいて、指示部1701により端末140に表示される表示画面の具体例について説明する。図18は、組み合わせ候補算出画面の一例を示す図である。
指示部1701が起動すると、端末140には、組み合わせ候補算出画面1800が表示される。図18(a)に示すように、組み合わせ候補算出画面1800には、条件指定領域1801が含まれる。
条件指定領域1801には、処理対象の画像に含まれる商品が属する大分類及び小分類を入力するための入力欄が含まれる。また、条件指定領域1801には、入力された大分類及び小分類に属する商品の過去画像に基づいてマップを生成する際に用いる、x軸の指標及びy軸の指標を入力するための入力欄が含まれる。
条件指定領域1801において、大分類、小分類、x軸の指標、y軸の指標が入力されると、指示部1701は、入力された大分類及び小分類に属する商品の過去画像を読み出す。これにより、マップ表示領域1808には、読み出された過去画像が、入力されたx軸の指標及びy軸の指標により規定される2次元平面上にプロットされたマップが表示される。
また、組み合わせ候補算出画面1800には、商品画像読み出しボタン1802が含まれる。商品画像読み出しボタン1802が押下されることで、指示部1701では、条件指定領域1801において入力された大分類、小分類に属する商品の商品画像を商品画像格納部414から読み出し、商品画像表示領域1803に表示する。
図18(b)の組み合わせ候補算出画面1800は、商品画像表示領域1803に表示された商品画像の中から、処理対象の画像を選択するために、チェック領域1811にチェックマークが入力された様子を示している。
図18(b)に示すように、組み合わせ候補算出画面1800には、評価値算出ボタン1804、クリアボタン1805、候補算出ボタン1806、クリアボタン1807が含まれる。チェック領域1811にチェックマークが入力された状態で、評価値算出ボタン1804が押下されると、選択された商品画像に含まれる商品の評価値が算出される。これにより、マップ表示領域1808には、算出された評価値に応じた位置に、選択された商品画像1812がプロットされたマップが表示される。
これにより、販売者141は、選択した商品画像に含まれる商品の、マップ内での位置を把握し、評価値を認識することができる。
なお、組み合わせ候補算出画面1800において、クリアボタン1805が押下されると、チェック領域1811に入力されたチェックマークがクリアされる。また、マップ表示領域1808にプロットされた、選択された商品画像1812がクリアされる。
図19は、組み合わせ候補算出画面及び組み合わせ候補算出結果画面の一例を示す図である。図18(b)に示す組み合わせ候補算出画面1800において、候補算出ボタン1806が押下されると、図19(a)に示すように、選択された商品画像から対応画像を特定する際の、大分類及び小分類を指定する条件指定領域1901が表示される。
組み合わせ候補算出画面1900の条件指定領域1901において、大分類、小分類が入力され、実行ボタン1902が押下されると、選択された商品画像に対して、指定された大分類及び小分類に属する商品の対応画像が特定される。この結果、図19(b)に示す組み合わせ候補算出結果画面1910が表示される。
図19(b)に示すように、組み合わせ候補算出結果画面1910には、選択された商品画像1911と、特定された対応画像1912、1913、1914とが含まれる。
(3)組み合わせ候補算出部の処理の具体例
次に、組み合わせ候補算出部1703の処理の具体例について説明する。図20は、組み合わせ候補算出部の処理の具体例を示す図である。図20に示すように、組み合わせ候補算出部1703は、組み合わせ候補算出画面1800の条件指定領域1801において入力された大分類、小分類についての評価値学習結果1301を、学習結果格納部413より読み出す。
また、組み合わせ候補算出部1703は、組み合わせ候補算出画面1800においてチェック領域1811にチェックマークが入力された商品画像を取得する。更に、組み合わせ候補算出部1703は、読み出した商品画像を、評価値学習結果1301に入力することで、評価値パターンi(例えば、図14(b)の評価値1415)を算出する。
また、組み合わせ候補算出部1703は、学習結果格納部413より、
・組み合わせ候補算出画面1800の条件指定領域1801において、商品画像読み出しボタン1802が押下された際に指定された大分類及び小分類に属する物品と、
・組み合わせ候補算出画面1900の条件指定領域1901において、実行ボタン1902が押下された際に指定された大分類及び小分類に属する物品と、
の間における組み合わせ学習結果2001を読み出す。
また、組み合わせ候補算出部1703は、算出した評価値パターンiを、読み出した組み合わせ学習結果2001に入力することで、評価値パターンj(例えば、図14(b)の評価値1416)を算出する。
また、組み合わせ候補算出部1703は、組み合わせ候補算出画面1900において、実行ボタン1902が押下された際に指定された、大分類及び小分類に属する商品の商品画像を、商品画像格納部414より読み出す。
また、組み合わせ候補算出部1703は、読み出した商品画像の評価値パターンを算出するための評価値学習結果1302を、学習結果格納部413より読み出す。
また、組み合わせ候補算出部1703は、読み出した商品画像を、評価値学習結果1302に入力することで、評価値パターンを算出する。更に、組み合わせ候補算出部1703は、読み出した商品画像を、算出した評価値パターンに基づいて、マップにプロットする。これにより、実行ボタン1902が押下された際に指定された大分類及び小分類に属する商品の商品画像について、マップ(例えば、図14(b)の2次元平面1412)を生成することができる。
組み合わせ候補算出部1703は、組み合わせ学習結果2001において算出された評価値パターンjを、生成したマップにプロットすることで、評価値パターンjのマップ内での位置を特定する。これにより、評価値パターンjに対応する評価値パターンを有する対応画像1912〜1914を抽出することができる。
(4)レコメンド候補算出部の処理の具体例
次に、レコメンド候補算出部1704の処理の具体例について説明する。図21は、レコメンド候補算出部の処理の具体例を示す図である。図21に示すように、レコメンド候補算出部1704は、サーバ装置120より送信された顧客画像について指定された大分類、小分類についての評価値学習結果2101を、学習結果格納部413より読み出す。
また、レコメンド候補算出部1704は、読み出した評価値学習結果2101に、顧客画像を入力することで、評価値パターンkを算出する。
また、レコメンド候補算出部1704は、学習結果格納部413より、
・顧客画像に対応付けて送信された、顧客画像に含まれる物品と同じ大分類及び小分類に属する物品と、
・顧客画像に対応付けて送信された、レコメンド商品の大分類及び小分類に属する物品と、
の間における組み合わせ学習結果2111を読み出す。
また、レコメンド候補算出部1704は、算出した評価値パターンkを、読み出した組み合わせ学習結果2111に入力することで、評価値パターンlを算出する。
また、レコメンド候補算出部1704は、顧客画像に対応付けて送信されたレコメンド商品の大分類、小分類に属する商品の商品画像を、商品画像格納部414より読み出す。
また、レコメンド候補算出部1704は、顧客画像に対応付けて送信されたレコメンド商品の大分類、小分類についての評価値学習結果2102を、学習結果格納部413より読み出す。
また、レコメンド候補算出部1704は、顧客画像に対応付けて送信されたレコメンド商品の大分類、小分類に属する商品の商品画像を、評価値学習結果2102に入力することで、評価値パターンを算出する。更に、レコメンド候補算出部1704は、顧客画像に対応付けて送信されたレコメンド商品の大分類、小分類に属する商品の商品画像を、算出した評価値パターンに基づいて、マップにプロットする。
レコメンド候補算出部1704は、組み合わせ学習結果2111において算出された評価値パターンlを、生成したマップにプロットすることで、評価値パターンlのマップ内での位置を特定する。これにより、評価値パターンlに対応する評価値パターンを有する対応画像を抽出することができる。
レコメンド候補算出部1704では、抽出した対応画像を、レコメンド商品画像113として、サーバ装置120に送信する。
(5)解析部による解析処理の流れ(実行フェーズ、個別対応フェーズ共通)
次に、解析部403による解析処理の流れについて説明する。図22は、画像検索装置の解析部による解析処理の流れを示すフローチャートである。
ステップS2201において、解析部403は、処理対象の画像(選択された商品画像または顧客画像)を取得する。
ステップS2202において、解析部403は、処理対象の画像の評価値パターンを算出する。
ステップS2203において、解析部403は、対応画像を特定するために指定された大分類、小分類(販売者141により指定される大分類、小分類、または、顧客111により指定されるレコメンド商品の大分類、小分類)に属する商品の商品画像を取得する。
ステップS2204において、解析部403は、ステップS2204において取得した商品画像の評価値パターンを算出し、マップを生成する。
ステップS2205において、解析部403は、処理対象の画像の評価値パターンを組み合わせ学習結果に入力し、処理対象の画像の評価値パターンに対応する評価値パターンを算出する。
ステップS2206において、解析部403は、ステップS2205において算出した評価値パターンに対応する商品画像を、ステップS2204において生成したマップに基づいて判定し、対応画像として抽出する。
ステップS2207において、解析部403は、抽出した対応画像を、処理対象の画像と対応付けて出力する。
(6)販売用画像生成部の処理の具体例
次に、販売用画像生成部404の処理の具体例について説明する。図23は、販売用画像生成部の処理の具体例を示す図である。上述したとおり、販売用画像生成部404は、解析部403より通知された、商品画像及び組み合わせ商品画像を用いて、販売用画像を生成する。
図23(a)は、解析部403より通知された商品画像及び組み合わせ商品画像を含む販売用画像の一例である。図23(a)に示すように、販売用画像生成部404により生成される販売用画像2310には、組み合わせ商品画像を含む領域と、商品画像を含む領域とが含まれる。
図23(b)は、解析部403より通知された商品画像及び組み合わせ商品画像を含む販売用画像の他の一例である。図23(b)に示すように、販売用画像生成部404により生成される販売用画像2320には、組み合わせ商品画像を含む領域と、商品画像を含む領域とが含まれる。
<6.サーバ装置の処理の詳細>
次に、サーバ装置120により実行される処理の詳細について説明する。
(1)サーバ装置により提供される表示画面の具体例
はじめに、販売サービス提供時に、サーバ装置120により携帯端末110に提供される表示画面の具体例について説明する。図24は、サーバ装置により提供される表示画面の一例を示す第1の図である。
このうち、図24(a)は、携帯端末110がサーバ装置120にアクセスした際に表示される販売サービス画面2410の一例を示す図である。図24(a)に示すように、販売サービス画面2410には、販売用画像生成部404により生成された販売用画像2310が含まれる。また、販売サービス画面2410には、"レコメンド要求画面に進む"ボタン2411と、"購入画面に進むボタン"2412が含まれる。ここでは、"レコメンド要求画面に進む"ボタン2411が押下された場合の画面遷移について説明する。
"レコメンド要求画面に進む"ボタン2411が押下されると、図24(b)に示すレコメンドサービス画面2420に遷移する。図24(b)に示すように、レコメンドサービス画面2420には、顧客画像の表示領域2422が含まれる。"画像を読み込む"ボタン2421を押下することで、顧客111が画像を読み込むことで、顧客画像の表示領域2422に、画像が表示される(図25参照)。
図25は、サーバ装置により提供される表示画面の一例を示す第2の図である。図25に示すように、顧客画像の表示領域2422に画像が表示されることで、レコメンドサービス画面2510には、所定のメッセージ("対象領域を指定して下さい")が表示される。これを受け、顧客111は、顧客画像112に含まれる所定の物品の領域を、対象領域2511として指定する。なお、図25(a)の例は、顧客111が対象領域2511を指定する場合について示しているが、対象領域2511の抽出は自動で行うように構成してもよい。なお、対象領域2511を自動抽出する場合には、既存の任意の画像処理技術が用いられるものとする。
顧客111による対象領域2511の指定が完了すると、図25(b)のレコメンドサービス画面2520に遷移する。図25(b)に示すように、レコメンドサービス画面2520には、対象領域2511に含まれる物品の大分類及び小分類を入力するための入力欄が含まれる。また、レコメンドサービス画面2520には、レコメンド商品の大分類及び小分類を入力するための入力欄が含まれる。なお、図25(b)の例は、対象領域2511に含まれる物品の大分類及び小分類の入力、レコメンド商品の大分類及び小分類の入力を顧客111が行う場合を示している。しかしながら、これらの入力は顧客111が行う代わりに、自動で行うように構成してもよい。なお、対象領域2511に含まれる物品の大分類及び小分類、レコメンド商品の大分類及び小分類の自動入力には、既存の任意の画像認識技術が用いられるものとする。
図25(b)の例は、対象領域2511に含まれる物品の大分類として、"トップス"が指定され、小分類として、"コート"が指定された様子を示している。また、図25(b)の例は、レコメンド商品の大分類として、"トップス"が指定され、小分類として"セータ"が指定された様子を示している。
レコメンドサービス画面2520には、更に、"レコメンド要求"ボタン2521と"戻る"ボタン2522とが含まれる。"レコメンド要求"ボタン2521が押下されると、
・顧客画像の表示領域2422に表示されている顧客画像(対象領域2511を示す情報も含む)、
・顧客画像の対象領域2511に含まれる物品の大分類、小分類についての情報、
・レコメンド商品の大分類、小分類についての情報、
がサーバ装置120に送信される。
"戻る"ボタン2522が押下されると、例えば、レコメンドサービス画面2420に戻る。
顧客情報と、対象領域2511に含まれる物品の大分類、小分類についての情報、レコメンド商品の大分類、小分類についての情報を受信すると、サーバ装置120では、これらの情報を、画像検索装置130に送信する。これにより、サーバ装置120では、画像検索装置130より、レコメンド商品画像を受信し、レコメンド商品画面2610を表示する。
図26は、サーバ装置により提供される表示画面の一例を示す第3の図である。図26に示すように、レコメンド商品画面2610には、顧客画像の表示領域2422と、レコメンド商品画像の表示領域2611とが含まれる。レコメンド商品画像の表示領域2611には、レコメンド商品画像113が表示される。なお、図26の例では、レコメンド商品画像113を1つのみ表示する場合について示しているが、レコメンド商品画像は、複数表示してもよい。また、図25(b)において、顧客111によりレコメンド商品の分類が指定されなかった場合、全ての分類におけるレコメンド商品画像が表示されるように構成してもよい。
なお、レコメンド商品画面2610には、更に、"購入画面に進む"ボタン2612と、"戻る"ボタン2613とが含まれる。顧客111は、レコメンド商品画像113により特定される商品の購入を希望する場合には、"購入画面に進む"ボタン2612を押下する。一方、顧客111は、レコメンド商品画像113により特定される商品の購入を希望しない場合には、"戻る"ボタン2613を押下する。
(2)サーバ装置によるレコメンドサービス提供処理
次に、サーバ装置120によるレコメンドサービス提供処理の流れについて説明する。図27は、サーバ装置によるレコメンドサービス提供処理の流れを示すフローチャートである。
ステップS2701において、サーバ装置120は、携帯端末110より送信された顧客画像を取得する。
ステップS2702において、サーバ装置120は、顧客画像において指定された対象領域を抽出する。
ステップS2703において、サーバ装置120は、対象領域に含まれる物品の大分類及び小分類についての情報を取得する。
ステップS2704において、サーバ装置120は、レコメンド商品の大分類及び小分類についての情報を取得する。
ステップS2705において、サーバ装置120は、顧客画像より抽出した対象領域と、対象領域に含まれる物品の大分類及び小分類についての情報と、レコメンド商品の大分類及び小分類についての情報と、を画像検索装置130に通知する。
ステップS2706において、サーバ装置120は、画像検索装置130より、レコメンド商品画像を取得し、携帯端末110に表示する。
<7.まとめ>
以上の説明から明らかなように、第1の実施形態に係る画像検索装置では、
・異なるカテゴリに属する物品であって、最適な組み合わせとなる物品間における評価値の関係を学習し、組み合わせ学習結果を得る。
・処理対象の画像に含まれる物品について算出した評価値を組み合わせ学習結果に入力し、処理対象の画像に含まれる物品のカテゴリとは異なるカテゴリの商品であって、処理対象の画像に含まれる物品に対して最適な組み合わせとなる商品の評価値を算出する。
・算出した評価値を有する商品の商品画像を、対応画像として、処理対象の画像と対応付けて出力する。
これにより、第1の実施形態に係る画像検索装置によれば、処理対象の画像に含まれる物品とは異なるカテゴリの商品であって、処理対象の画像に含まれる物品に対して、適切な組み合わせとなる商品をレコメンドすることができる。
[第2の実施形態]
上記第1の実施形態では、組み合わせ候補算出画面1800において、処理対象の画像を1つずつ指定する場合について説明した。しかしながら、処理対象の画像は同時に複数指定してもよい。
また、上記第1の実施形態では、組み合わせ候補算出画面1900において、処理対象の画像に含まれる商品に対して最適な組み合わせとなる商品を、1カテゴリ分指定するものとして説明した。しかしながら、処理対象の画像に含まれる商品に対して最適な組み合わせとなる商品は、複数カテゴリ分指定できるように構成してもよい。
また、上記第1の実施形態では、組み合わせ候補算出画面1900において、処理対象の画像に含まれる商品と組み合わせる商品の大分類及び小分類を指定するものとして説明した。しかしながら、条件指定領域1901において指定する項目は、大分類及び小分類に限定されず、"大人向け"、"子供向け"等の項目が指定できるように構成してもよい。
このように、組み合わせ候補算出画面の操作性を向上させることで、販売者141は、様々な商品の組み合わせをより簡単に検索することができる。
[第3の実施形態]
上記第1及び第2の実施形態では、図18及び図19を例示し、組み合わせ候補算出画面を介して解析部403にて実行される各種機能について説明した。しかしながら、組み合わせ候補算出画面を介して解析部403にて実行される機能は、図18及び図19にて例示されたものに限定されない。
例えば、解析部403に印刷出力部を配し、組み合わせ候補算出画面を介して、以下のような印刷出力機能を実行するように構成してもよい。
・条件指定領域1801において入力された大分類(トップス)、小分類(シャツ)に属する商品の商品画像を商品画像格納部414から読み出し、各商品画像に含まれる商品の評価値を全て算出してマップ(第1のマップ)を生成し、印刷出力する機能。
・条件指定領域1901において入力された大分類(ボトムス)に属する商品の商品画像を商品画像格納部414から読み出し、各商品画像に含まれる商品の評価値を全て算出してマップ(第2のマップ)を生成し、印刷出力する機能。
なお、上記2つの機能により印刷出力されるマップのうち、いずれか一方のマップは、例えば、印刷媒体としてクリアフィルムに印刷出力されるように構成してもよい。これにより、2つのマップを重ねて閲覧することができるからである。
また、上記2つの機能により印刷出力されるマップ上において、選択された商品画像1812と、対応画像1912、1913、1914とが、それぞれ明示されるように構成してもよい。これにより、販売者141は、商品画像1812と、対応画像1912、1913、1914との関係を、複数のマップを重ねて閲覧しながら確認することが可能となる。この結果、販売者141は、他の対応画像についても検討したうえで、商品カタログ151に用いる組み合わせ商品画像132を生成することが可能になる。
[その他の実施形態]
上記第1の実施形態では、評価値学習部1101及び組み合わせ学習部1102が畳み込みニューラルネットワークにより構成されるものとして説明したが、評価値学習部1101及び組み合わせ学習部1102の構成はこれに限定されない。評価値学習部1101については、処理対象の画像から、処理対象の画像に含まれる物品の評価値パターンを適切に出力する学習機能を有していればよい。また、組み合わせ学習部1102については、処理対象の画像に含まれる物品の評価値から、最適な組み合わせとなる物品の評価値を出力する学習機能を有していればよい。
また、上記第1の実施形態では、サーバ装置120と画像検索装置130とを別体として構成したが、サーバ装置120と画像検索装置130とは一体的に構成してもよい。また、画像検索装置130の機能の一部をサーバ装置120において実現するように構成してもよい。
また、上記第1の実施形態では、画像検索装置130が各格納部(第1学習用情報格納部411、第2学習用情報格納部412、学習結果格納部413、商品画像格納部414)を有するものとして説明した。しかしながら、各格納部は、画像検索装置130とは別体の外部装置が有していてもよい。
また、上記第1の実施形態では、画像検索装置130をサーバ装置120及び印刷装置150と接続し、顧客111に対して、サーバ装置120を介して販売サービスを提供し、印刷装置150を介して商品カタログを提供する販売システム100を形成した。しかしながら、画像検索装置130を有するシステムはこれに限定されず、いずれか一方を提供するシステム(例えば、印刷装置150を介して商品カタログを提供する商品カタログ生成システムを形成してもよい。
なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせなど、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。
100 :販売システム
110 :携帯端末
120 :サーバ装置
130 :画像検索装置
140 :端末
150 :印刷装置
112 :顧客画像
113 :レコメンド商品画像
132 :組み合わせ商品画像
401 :情報取得部
402 :学習部
403 :解析部
404 :販売用画像生成部
501 :画像情報取得部
502 :評価値入力部
503 :マップ生成部
600 :第1学習用情報
800 :第2学習用情報
900 :第2学習用情報
1000 :商品画像情報
1101 :評価値学習部
1102 :組み合わせ学習部
1701 :指示部
1702 :処理対象取得部
1703 :組み合わせ候補算出部
1704 :レコメンド候補算出部
1800、1900 :組み合わせ候補算出画面
1910 :組み合わせ候補算出結果画面
2410 :販売サービス画面
2420 :レコメンドサービス画面
2610 :レコメンド商品画面
特開2016−181196号公報

Claims (13)

  1. 処理対象の画像を取得する取得部と、
    前記処理対象の画像に含まれる物品が属するカテゴリとは異なるカテゴリの商品の商品画像の中から、前記物品の評価値と所定の関係にある評価値を有する商品の商品画像を、対応画像として特定する特定部と、を有し、
    前記処理対象の画像と、特定された前記対応画像とを対応付けて出力することを特徴とする画像検索装置。
  2. 前記処理対象の画像を取得した場合に、前記物品が属するカテゴリと同じカテゴリに属する商品の画像が、該商品の評価値に応じた位置にプロットされてなるマップ上に、前記処理対象の画像を、前記物品の評価値に応じた位置にプロットして表示することを特徴とする請求項1に記載の画像検索装置。
  3. 複数の指標の中から選択された2つの指標により形成される前記マップ上に、前記物品が属するカテゴリと同じカテゴリに属する商品の画像を、該商品の該2つの指標の評価値に応じた位置にプロットし、
    複数の指標の中から選択された2つの指標により形成される前記マップ上に、前記処理対象の画像を、前記物品の該2つの指標の評価値に応じた位置にプロットして表示することを特徴とする請求項2に記載の画像検索装置。
  4. 前記特定部は、
    前記物品が属するカテゴリと同じ第1のカテゴリに属する商品の過去画像と該商品の評価値との関係を学習することで得た評価値学習結果を取得し、取得した評価値学習結果を用いて、前記処理対象の画像に含まれる物品の評価値を算出し、
    前記物品が属するカテゴリとは異なる第2のカテゴリに属する商品の過去画像と該商品の評価値との関係を学習することで得た評価値学習結果を取得し、取得した評価値学習結果を用いて、前記商品画像に含まれる商品の評価値を算出することを特徴とする請求項1に記載の画像検索装置。
  5. 前記特定部は、
    前記第1のカテゴリに属する物品と前記第2のカテゴリに属する物品とを含む参照画像に基づいて、該参照画像に含まれる前記第1のカテゴリに属する物品の評価値と、該参照画像に含まれる前記第2のカテゴリに属する物品の評価値との関係を学習することで得た組み合わせ学習結果を取得し、取得した組み合わせ学習結果を用いて、前記対応画像を特定することを特徴とする請求項4に記載の画像検索装置。
  6. 前記取得部は、
    前記処理対象の画像として、前記商品画像の中から選択されたいずれかの商品画像を取得することを特徴とする請求項1に記載の画像検索装置。
  7. 前記取得部は、
    前記処理対象の画像として、顧客の端末より送信された顧客画像の所定の領域を取得することを特徴とする請求項1に記載の画像検索装置。
  8. 前記処理対象の画像に含まれる物品が属するカテゴリとは異なるカテゴリの入力を受け付け、
    前記特定部は、
    入力を受け付けたカテゴリに属する商品の商品画像の中から、前記物品の評価値と所定の関係にある評価値を有する商品の商品画像を、前記対応画像として特定することを特徴とする請求項1に記載の画像検索装置。
  9. 処理対象の画像を取得する取得工程と、
    前記処理対象の画像に含まれる物品が属するカテゴリとは異なるカテゴリの商品の商品画像の中から、前記物品の評価値と所定の関係にある評価値を有する商品の商品画像を、対応画像として特定する特定工程と、を有し、
    前記処理対象の画像と、特定された前記対応画像とを対応付けて出力することを特徴とする画像検索方法。
  10. 処理対象の画像を取得する取得工程と、
    前記処理対象の画像に含まれる物品が属するカテゴリとは異なるカテゴリの商品の商品画像の中から、前記物品の評価値と所定の関係にある評価値を有する商品の商品画像を、対応画像として特定する特定工程と、をコンピュータに実行させるための画像検索プログラムであって、
    前記処理対象の画像と、特定された前記対応画像とを対応付けて出力する画像検索プログラム。
  11. 処理対象の画像を取得する取得部と、
    前記処理対象の画像に含まれる物品が属するカテゴリとは異なるカテゴリの商品の商品画像の中から、前記物品の評価値と所定の関係にある評価値を有する商品の商品画像を、対応画像として特定する特定部と、
    前記物品が属するカテゴリと同じカテゴリに属する商品の画像が、該商品の評価値に応じた位置にプロットされてなる第1のマップと、前記物品が属するカテゴリとは異なるカテゴリの商品の商品画像が、該商品の評価値に応じた位置にプロットされてなる第2のマップとを、印刷出力する印刷出力部と
    を有することを特徴とする画像検索装置。
  12. 前記印刷出力部は、前記第1のマップまたは前記第2のマップのいずれかの印刷媒体として、クリアフィルムが指定されることを特徴とする請求項11に記載の画像検索装置。
  13. 画像検索装置と印刷装置とを有する商品カタログ生成システムであって、
    前記画像検索装置は、
    処理対象の画像を取得する取得部と、
    前記処理対象の画像に含まれる物品が属するカテゴリとは異なるカテゴリの商品の商品画像の中から、前記物品の評価値と所定の関係にある評価値を有する商品の商品画像を、対応画像として特定する特定部と、を有し、
    前記印刷装置は、
    前記処理対象の画像と、特定された前記対応画像とを含む販売用画像を受信して印刷出力することで商品カタログを生成する、
    ことを特徴とする商品カタログ生成システム。
JP2018101852A 2018-05-28 2018-05-28 画像検索装置、画像検索方法、画像検索プログラム及び販売システム Active JP7230343B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2018101852A JP7230343B2 (ja) 2018-05-28 2018-05-28 画像検索装置、画像検索方法、画像検索プログラム及び販売システム
CN201980032597.9A CN112136151A (zh) 2018-05-28 2019-05-21 图像检索装置,图像检索方法,商品目录生成系统和记录介质
EP19729095.0A EP3803764A1 (en) 2018-05-28 2019-05-21 Image retrieval apparatus image retrieval method, product catalog generation system, and recording medium
PCT/JP2019/020108 WO2019230499A1 (en) 2018-05-28 2019-05-21 Image retrieval apparatus image retrieval method, product catalog generation system, and recording medium
US17/045,080 US11900423B2 (en) 2018-05-28 2019-05-21 Image retrieval apparatus image retrieval method, product catalog generation system, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018101852A JP7230343B2 (ja) 2018-05-28 2018-05-28 画像検索装置、画像検索方法、画像検索プログラム及び販売システム

Publications (2)

Publication Number Publication Date
JP2019207508A true JP2019207508A (ja) 2019-12-05
JP7230343B2 JP7230343B2 (ja) 2023-03-01

Family

ID=66776821

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018101852A Active JP7230343B2 (ja) 2018-05-28 2018-05-28 画像検索装置、画像検索方法、画像検索プログラム及び販売システム

Country Status (5)

Country Link
US (1) US11900423B2 (ja)
EP (1) EP3803764A1 (ja)
JP (1) JP7230343B2 (ja)
CN (1) CN112136151A (ja)
WO (1) WO2019230499A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7021316B1 (ja) 2020-09-18 2022-02-16 ヤフー株式会社 情報処理プログラム、情報処理方法および情報処理装置
JP7239759B1 (ja) 2022-03-17 2023-03-14 ヤフー株式会社 情報提供装置、情報提供方法、および情報提供プログラム
JP7249448B1 (ja) 2022-03-17 2023-03-30 ヤフー株式会社 情報提供装置、情報提供方法、および情報提供プログラム

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1021293A (ja) * 1996-07-04 1998-01-23 Dainippon Printing Co Ltd インテリアコーディネート支援システム
JP2002183533A (ja) * 2000-12-18 2002-06-28 Haruyuki Azumi 服飾品販売装置および服飾品販売方法
JP2002288482A (ja) * 2001-03-23 2002-10-04 Matsushita Electric Ind Co Ltd 服飾情報サーバ装置及び服飾情報管理方法
JP2002358318A (ja) * 2001-06-01 2002-12-13 Toshimasa Yamanaka 感性情報と連動した電子商取引における商品情報提供方法および記録媒体
JP2011018115A (ja) * 2009-07-07 2011-01-27 Yahoo Japan Corp コーディネートシステム、コーディネート方法及びプログラム
JP2012014544A (ja) * 2010-07-02 2012-01-19 Nippon Telegr & Teleph Corp <Ntt> コーディネート推薦装置、コーディネート推薦方法及びそのプログラム
JP2016015164A (ja) * 2009-12-24 2016-01-28 株式会社ニコン 検索支援システム、検索支援方法及び検索支援プログラム
KR20170096971A (ko) * 2016-02-17 2017-08-25 옴니어스 주식회사 스타일 특징을 이용한 상품 추천 방법

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050039123A1 (en) * 2003-08-14 2005-02-17 Kuchinsky Allan J. Method and system for importing, creating and/or manipulating biological diagrams
JP4859054B2 (ja) 2007-02-20 2012-01-18 株式会社リコー 画像処理装置、画像処理方法、プログラムおよび記録媒体
US8103551B2 (en) 2007-07-31 2012-01-24 Style Du Jour, Inc. Fashion matching algorithm solution
JP5884347B2 (ja) 2011-09-12 2016-03-15 株式会社リコー 分光特性取得装置及び分光特性取得方法、画像評価装置、並びに画像形成装置
JP5581292B2 (ja) 2011-09-30 2014-08-27 楽天株式会社 検索装置、検索方法、記録媒体、ならびに、プログラム
CN105989043A (zh) 2015-02-04 2016-10-05 阿里巴巴集团控股有限公司 自动获取商品图像中商标和检索商标的方法及其装置
WO2016152277A1 (ja) 2015-03-25 2016-09-29 富士フイルム株式会社 リコメンド装置、リコメンドシステム、リコメンド方法、及びプログラム
JP6543986B2 (ja) 2015-03-25 2019-07-17 日本電気株式会社 情報処理装置、情報処理方法およびプログラム
WO2017142361A1 (ko) 2016-02-17 2017-08-24 옴니어스 주식회사 스타일 특징을 이용한 상품 추천 방법
JP6345224B1 (ja) 2016-12-19 2018-06-20 株式会社Pfu 画像処理装置、矩形検出方法及びコンピュータプログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1021293A (ja) * 1996-07-04 1998-01-23 Dainippon Printing Co Ltd インテリアコーディネート支援システム
JP2002183533A (ja) * 2000-12-18 2002-06-28 Haruyuki Azumi 服飾品販売装置および服飾品販売方法
JP2002288482A (ja) * 2001-03-23 2002-10-04 Matsushita Electric Ind Co Ltd 服飾情報サーバ装置及び服飾情報管理方法
JP2002358318A (ja) * 2001-06-01 2002-12-13 Toshimasa Yamanaka 感性情報と連動した電子商取引における商品情報提供方法および記録媒体
JP2011018115A (ja) * 2009-07-07 2011-01-27 Yahoo Japan Corp コーディネートシステム、コーディネート方法及びプログラム
JP2016015164A (ja) * 2009-12-24 2016-01-28 株式会社ニコン 検索支援システム、検索支援方法及び検索支援プログラム
JP2012014544A (ja) * 2010-07-02 2012-01-19 Nippon Telegr & Teleph Corp <Ntt> コーディネート推薦装置、コーディネート推薦方法及びそのプログラム
KR20170096971A (ko) * 2016-02-17 2017-08-25 옴니어스 주식회사 스타일 특징을 이용한 상품 추천 방법

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7021316B1 (ja) 2020-09-18 2022-02-16 ヤフー株式会社 情報処理プログラム、情報処理方法および情報処理装置
JP2022051430A (ja) * 2020-09-18 2022-03-31 ヤフー株式会社 情報処理プログラム、情報処理方法および情報処理装置
JP7239759B1 (ja) 2022-03-17 2023-03-14 ヤフー株式会社 情報提供装置、情報提供方法、および情報提供プログラム
JP7249448B1 (ja) 2022-03-17 2023-03-30 ヤフー株式会社 情報提供装置、情報提供方法、および情報提供プログラム
JP2023137093A (ja) * 2022-03-17 2023-09-29 ヤフー株式会社 情報提供装置、情報提供方法、および情報提供プログラム
JP2023137133A (ja) * 2022-03-17 2023-09-29 ヤフー株式会社 情報提供装置、情報提供方法、および情報提供プログラム

Also Published As

Publication number Publication date
JP7230343B2 (ja) 2023-03-01
CN112136151A (zh) 2020-12-25
US20210150590A1 (en) 2021-05-20
EP3803764A1 (en) 2021-04-14
WO2019230499A1 (en) 2019-12-05
US11900423B2 (en) 2024-02-13

Similar Documents

Publication Publication Date Title
JP7196885B2 (ja) 検索システム、検索方法、及びプログラム
US11636524B2 (en) Computer vision, user segment, and missing item determination
TWI444918B (zh) A provider, a provider, a provider, and a computer-readable recording medium that memorizes the program
CN107835994A (zh) 通过图像的任务聚焦搜索
US20230214895A1 (en) Methods and systems for product discovery in user generated content
JP7230343B2 (ja) 画像検索装置、画像検索方法、画像検索プログラム及び販売システム
JP6185216B1 (ja) 情報提供システム、情報提供装置、情報提供方法、及びプログラム
US20160292757A1 (en) Commercial product evaluation device, method and program
JP2018106284A (ja) 情報処理装置、情報処理方法及び情報処理プログラム
JP6031210B1 (ja) 販売予測装置、販売予測方法、およびプログラム
KR20220039578A (ko) 사용자 선택 의류를 기반으로 의류 추천 정보를 제공하는 방법, 이를 이용하는 서버 및 프로그램
WO2019178523A1 (en) Method and device for generating object coordination information
KR20200042203A (ko) 사용자 입력 영상 기반 의상코디 장치 및 방법
JP2012194691A (ja) 識別器の再学習方法、再学習のためのプログラム、及び画像認識装置
JP2018190294A (ja) 表示プログラム、情報提供装置、表示装置、表示方法、情報提供方法および情報提供プログラム
JP4995770B2 (ja) 画像辞書生成装置,画像辞書生成方法,および画像辞書生成プログラム
US20170124637A1 (en) Image Based Purchasing System
JP6356774B2 (ja) 選択装置、選択方法および選択プログラム
WO2015125455A1 (ja) 販売支援装置、販売システム、販売支援方法、及び、プログラム
JP7457738B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP2019083058A (ja) 画像処理装置及び画像処理プログラム
US11972466B2 (en) Computer storage media, method, and system for exploring and recommending matching products across categories
KR102652934B1 (ko) 상품 상세페이지 생성 장치 및 방법
JP7392205B2 (ja) ユーザ選択衣類に基づいて衣類推薦情報を提供する方法、及びこれを用いるサーバ
KR20220039501A (ko) 보유 의류와 미 보유 의류를 구분하여 의류 관리 정보를 제공하는 방법, 이를 이용하는 서버 및 프로그램

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221018

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230130

R151 Written notification of patent or utility model registration

Ref document number: 7230343

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151