JPWO2014087725A1 - 商品情報処理装置、そのデータ処理方法、およびプログラム - Google Patents
商品情報処理装置、そのデータ処理方法、およびプログラム Download PDFInfo
- Publication number
- JPWO2014087725A1 JPWO2014087725A1 JP2014550977A JP2014550977A JPWO2014087725A1 JP WO2014087725 A1 JPWO2014087725 A1 JP WO2014087725A1 JP 2014550977 A JP2014550977 A JP 2014550977A JP 2014550977 A JP2014550977 A JP 2014550977A JP WO2014087725 A1 JPWO2014087725 A1 JP WO2014087725A1
- Authority
- JP
- Japan
- Prior art keywords
- product
- information processing
- processing apparatus
- display
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 195
- 238000003672 processing method Methods 0.000 title claims description 35
- 238000003384 imaging method Methods 0.000 claims abstract description 42
- 239000000284 extract Substances 0.000 claims abstract description 20
- 238000000605 extraction Methods 0.000 claims abstract description 15
- 238000000034 method Methods 0.000 claims description 60
- 238000012545 processing Methods 0.000 claims description 20
- 238000012544 monitoring process Methods 0.000 claims description 12
- 239000000047 product Substances 0.000 description 644
- 238000010586 diagram Methods 0.000 description 17
- 238000004891 communication Methods 0.000 description 11
- 230000005540 biological transmission Effects 0.000 description 10
- 235000014171 carbonated beverage Nutrition 0.000 description 10
- 244000269722 Thea sinensis Species 0.000 description 9
- 238000004590 computer program Methods 0.000 description 9
- 235000013616 tea Nutrition 0.000 description 7
- 235000013361 beverage Nutrition 0.000 description 4
- 238000003909 pattern recognition Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 235000009569 green tea Nutrition 0.000 description 3
- 239000006227 byproduct Substances 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 240000007154 Coffea arabica Species 0.000 description 1
- 235000006468 Thea sinensis Nutrition 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 235000016213 coffee Nutrition 0.000 description 1
- 235000013353 coffee beverage Nutrition 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- -1 for example Substances 0.000 description 1
- 235000015203 fruit juice Nutrition 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 235000020333 oolong tea Nutrition 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
- 230000003442 weekly effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/08—Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
- G06Q10/087—Inventory or stock management, e.g. order filling, procurement or balancing against orders
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0639—Item locations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/68—Food, e.g. fruit or vegetables
Landscapes
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Accounting & Taxation (AREA)
- Development Economics (AREA)
- Finance (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Physics & Mathematics (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Game Theory and Decision Science (AREA)
- Human Resources & Organizations (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- Data Mining & Analysis (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
商品の陳列状態を撮像した画像から、少なくとも1種類の特定商品を抽出する商品抽出手段と、
抽出された少なくとも1種類の前記特定商品と、他の商品との陳列関係を特定する陳列関係特定手段と、を備える。
商品情報処理装置が、
商品の陳列状態を撮像した画像から、少なくとも1種類の特定商品を抽出し、
抽出された少なくとも1種類の前記特定商品と、他の商品との陳列関係を特定するデータ処理方法である。
商品情報処理装置を実現するコンピュータに、
商品の陳列状態を撮像した画像から、少なくとも1種類の特定商品を抽出する手順、
抽出された少なくとも1種類の前記特定商品と、他の商品との陳列関係を特定する手順、を実行させるためのプログラムである。
図1は、本発明の実施の形態に係る商品情報処理装置100の構成を示す機能ブロック図である。
従来、小売店の各店舗の商品陳列棚の商品の陳列状態の情報は、商品メーカの営業マン等が各店舗に赴き、手作業で収集し、日報等として記録されて管理されていた。
本発明の実施の形態に係る商品情報処理装置100は、店舗の商品陳列棚における、管理対象とすべき特定商品と、それ以外の商品とを区別し、当該特定商品が他の商品を含む陳列状態の中でどのような態様で陳列されているのかといった陳列関係を撮影画像から把握する。
図2および図3に示すように、本実施形態の商品情報処理システム1は、店舗7の商品棚20に陳列されている商品を撮像した画像を、ネットワーク3を介してデータセンタ(図中、「DC」と示す)5に送信し、データセンタ5に設けられた画像認識装置10が受信した画像の認識処理を特徴量データベース(図中、「特徴量DB」と示す)12に保持される特徴量に基づき行う。
情報処理端末110は、たとえば、カメラ(不図示)内蔵の図2の携帯端末24、または監視カメラ22に接続された端末(不図示)である。
撮像部112は、たとえば、携帯端末24に内蔵されるカメラ、店舗7に設置された監視カメラ22、情報処理端末110または画像認識装置10から制御可能な店舗7内を撮影できるウェブカメラ、または、これらの組み合わせとすることができる。また、撮像部112が撮像する画像は、静止画でもよいし、動画でもよい。撮像画像が動画の場合、動画から逐次得られる画像データを、画像認識装置10による画像認識処理に用いることができる。いずれの撮像手段を用いるか、また、静止画および動画のいずれを画像認識処理に用いるかは、各情報処理端末110の処理能力やネットワーク3の通信負荷を考慮して、適宜採用することができる。
送信部114の通信手段は、有線または無線通信のいずれでもよいし、携帯通信網、公衆回線網、LAN(Local Area Network)、またはWAN(Wide Area Network)のいずれを介した通信でもよく、情報処理端末110の構成等に応じて適宜採用するのが好ましい。このように、画像の通信方法は様々な方法が考えられ、本発明の本質に関わらないので、詳細な説明は省略する。また、情報処理端末110は、通信時のセキュリティ対策として、暗号化処理や認証処理を行う構成を含むこともできる。
これらの情報は、たとえば、日報を作成するアプリケーションプログラムと連動させること等で、自動的に取得してもよい。あるいは、携帯端末24の操作画面を用いて操作者に情報を入力させてもよい。
図5(a)に示すように、特徴量データベース12には、各商品のフェイス画像の情報が登録されている。具体的には、図5(b)に示すように、特徴量データベース12は、特徴量テーブル124として、商品を識別するための商品IDと、商品のフェイス画像を認識可能な特徴量を有する少なくとも1つの特徴点のデータとを対応付けて保持する。
(a1)撮像画像から、特徴量を抽出し、特徴量データベース12を参照し、商品のフェイス画像のパターン認識処理を行う。ここで、パターン認識処理する商品フェイス画像は、商品名まで特定できなくてもよく、たとえば、商品が飲料であれば、画像からペットボトル等のフェイス領域を認識できればよい。ここでは、撮像画像内に存在する全商品のフェイス領域を全て特定してよい。
(a2)認識された商品のフェイス領域の撮像画像内における相対位置を取得する。
(a3)認識されたフェイス領域内の画像の特徴量と特徴量データベース12に格納される特徴量を照合し、少なくとも閾値以上の特徴量が一致するものを探索する。
(a4)一致した特徴量に対応する商品IDを特定する。
また、商品データベース130に、同一商品の各側面から撮影した画像の情報が登録されている場合には、画像認識部122において、商品の向きを認識することができる。
(b1)撮像部112による撮影時に情報処理端末110側で操作者が少なくとも1種類の特定商品を指定する。このとき、情報処理端末110は、特定商品を指定する画面、たとえば、商品リスト等を表示し、操作者の選択を受け付けることができる。そして、情報処理端末110は、指定された特定商品の情報を画像認識装置10に撮像画像とともに送信し、商品特定部132は受信した特定商品の情報に基づいて、処理を行うことができる。
(b2)画像認識装置10側で、少なくとも1種類の特定商品を予め定められた設定情報として指定し、保持する。商品特定部132は、設定情報を参照し、指定された特定商品の情報に基づき、処理を行う。また、設定情報は、たとえば、所定の期間や店舗エリア等の他の条件と組み合わせて設定を選択または更新できる構成としてもよい。
(b3)画像認識装置10側で、自動的に認識する。
たとえば、商品特定部132が、特徴量データベース12に登録されている商品を特定商品であると自動的に認識することができる。この場合、特定商品のみが特徴量データベース12に登録されているものとする。また、対象商品は、商品特定部132が、特定商品の分類に基づき、同じ分類に属する商品を対象商品と自動的に認識することができる。分類が階層構造を有する場合、同じ階層または上の階層の分類に属する商品を対象商品とする。たとえば、商品が飲料で、特定商品が緑茶であった場合、対象商品は、緑茶、または、さらに上の階層の分類のお茶を対象商品とすることができる。
本発明では、同じ分類、たとえば、炭酸飲料の中で、少なくとも1種類の特定の商品(炭酸飲料商品A)と、それ以外の他の商品(炭酸飲料商品B、C、D)とを区別し、特定商品と他の商品を含む商品棚20における対象商品(炭酸飲料商品A、B、C、D)の陳列状態の中での陳列関係を把握する。
特定商品の情報のみを保持している場合は、商品特定部132は、特徴量データベース12に登録された特徴量と一致するものが特定商品と特定できる。一致しなかったものは、他の商品と特定できる。この場合、画像内の対象商品の領域が既に特定されている、または、撮像画像内には対象商品のみが含まれていることが前提となる。対象商品の領域の特定方法については、後述する。
そして、操作者がこれらの認識結果を確認し、画像認識された結果が正しくない場合に、商品情報処理装置100は、認識結果を訂正したり、認識結果が正しくない旨を通知したりする構成をさらに備えてもよい。
(c1)特定商品と対象商品中の他の商品のフェイス数の関係
例として、対象商品の全商品のフェイス数に対する特定商品のフェイス数(5フェイス中3フェイス等)
対象商品の全商品のフェイス数に対する特定商品のフェイス数の割合(30%等)
(c2)特定商品と対象商品中の他の商品のフェイス領域の面積の関係
例として、対象商品の全商品のフェイス領域の面積に対する特定商品のフェイス領域の面積の割合(40%等)
(c3)対象商品中の特定商品の相対位置
例として、対象商品の全商品が陳列される棚の段数に対して、特定商品が陳列される段数(4段中2段)
対象商品の全商品が陳列される棚の全段に対して、特定商品が陳列される棚の位置(4段中の最上段、中央、1、2段目等)
対象商品の全商品が陳列される棚内に対して、特定商品が陳列される棚内での位置(棚の左側、まん中、左から3フェイス目からフェイス数分、等)
(c4)特定商品の商品棚20における絶対位置
例として、特定商品が、商品棚20の何段目の左から何フェイス目から何フェイス数分(または、棚の中の何割分)に陳列されているか等
(c5)特定商品のフェイス向きの状態
例として、特定商品が4方向(向き1〜向き4)の商品画像を有する場合、総数と各方向の状態(全10フェイス中、向き1は5フェイス、向き2は3フェイス、向き3と向き4は各1フェイス等)
本実施形態では、相対位置特定部134が、画像認識部122により撮像画像から認識された各商品フェイスの位置に基づいて、商品特定部132が特定した特定商品を含む対象商品の画像の中での相対位置を特定する。または、後述するように撮影領域が特定可能な場合には、陳列関係特定部104は、商品棚20内における各商品フェイスの絶対位置を特定してもよい。商品フェイスの位置は、商品フェイス画像領域の少なくとも1箇所、たとえば、中心、重心、または左右上下の少なくとも1つの角等の座標等で表記してもよい。あるいは、陳列関係特定部104は、対象商品の陳列領域に対する特定商品の陳列領域の相対位置や分布情報を陳列関係として求めてもよい。相対位置特定部134は、求めた特定商品と、対象商品との相対位置を陳列関係として出力する。
本実施形態では、フェイス数計数部142は、商品特定部132が特定した特定商品と対象商品のフェイス数をそれぞれ計数し、これらのフェイス数に基づき、特定商品と他の商品との陳列関係を特定して出力する。
さらにフェイス数計数部142は、商品データベース130に、同一商品の各側面から撮影した画像が登録されている場合、特定商品や対象商品の各フェイス数を、商品の向きごとに計数することができる。
図8は、本発明の実施の形態に係る商品情報処理システム1の携帯端末24と画像認識装置10の動作の手順の一例を示すフローチャートである。
まず、携帯端末24が、撮像部112により商品棚20を撮像する(ステップS111)。そして、携帯端末24が、送信部114により撮像画像をデータセンタ5の画像認識装置10に送信する(ステップS113)。
図11は、本発明の実施の形態に係る商品情報処理装置200の構成を示す機能ブロック図である。
本実施形態の商品情報処理装置200は、上記実施の形態とは、商品情報処理装置100が求めた陳列関係が、予め定めた陳列条件を満たすか否かを判別し、判別結果を出力する点で相違する。
商品情報処理装置200は、上記実施形態の商品情報処理装置100と同じ、商品抽出部102、および陳列関係特定部104を備えるとともに、さらに、判別部202と、出力部204と、を備える。
出力部204は、判別部202による判別結果を出力する。
本実施形態において、データセンタ5は、上記実施形態と同様な画像認識装置10を備えるとともに、さらに、商品データベース(図中、「商品DB」と示す)212にアクセス可能な商品管理装置210を備える。なお、画像認識装置10と商品管理装置210は、同じサーバコンピュータで構成されてもよい。
本発明の実施の形態に係る商品情報処理装置200は、このような小売店とメーカとの間の契約の確認作業を行う上で、店舗の商品陳列棚における特定商品と他の商品との陳列関係を効率的に把握できるので、有効である。
(d1)特定の商品のフェイス数を指定する。例として、「特定商品を10フェイス中、4フェイス連続して陳列する。」と指定する。
(d2)特定の商品を陳列する商品棚の位置や段数を指定する。例として、「最上段の棚に陳列する。」、「中央の棚に陳列する。」、または「2、3段目の2段の棚に陳列する。」と指定する。
(d3)特定の商品を陳列する割合を指定する。例として、「特定商品を同じ分類の商品全体の3割陳列する。」と指定する。
出力部204は、判別部202による判別結果214を出力する。出力形態は特に限定されないが、たとえば、端末画面に表示、ウェブサイトにアップロード、プリンタに印字出力、所定のメールアドレスにメール送信、所定の形式のファイルに記録、データベースに登録、またはこれらの組み合わせとすることができる。
本実施形態では、図11の陳列関係特定部104として、相対位置特定部134と、フェイス数計数部142と、割合算出部232と、を有する。
たとえば、他の実施形態において、陳列関係特定部104は、特定商品を含む対象商品に対する、特定商品の陳列領域の割合を求め、特定商品の陳列領域の割合を、他の商品との陳列関係として特定し、出力してもよい。
(e1)予め商品棚20に棚番号やバーコード等の識別情報を記載したラベル等を添付しておき、ラベルを画像に含むように撮影した画像から棚番号を認識する。
(e2)撮影前に、撮影する棚番号等の情報を、携帯端末24の操作画面を用いて操作者に入力させる。または、撮影時の監視カメラ22の撮影方向と撮影範囲の情報等に基づき、撮影された商品棚20の領域を特定する。
(e3)アプリケーションプログラムによるガイダンス等に従い、指示された商品棚を順に操作者に撮影させる。または、運用で予め決められた商品が陳列されている棚を、予め決められた順に操作者に撮影させる。
図15では、商品棚20が複数段の棚70を含み、たとえば、撮像部112の撮像領域76よりも広い範囲にわたり複数の商品72が陳列されている例を示している。
棚70には、商品棚20の各棚70の配置を識別するための情報を記載した少なくとも1つのラベル74が含まれるように撮像領域76内に配置されて添付される。そして、商品情報処理装置100または商品情報処理装置200は、ラベル74と商品棚20の棚70の相対位置情報を保持する。
他の実施形態において、陳列関係特定部104は、撮像画像(撮像領域76の画像)から特定商品80と他の商品82の陳列状態を把握すべき領域として、対象商品陳列領域84を特定し、対象商品陳列領域84における特定商品80の配置を他の商品82との陳列関係として特定してもよい。
1. 商品情報処理装置が、
商品の陳列状態を撮像した画像から、少なくとも1種類の特定商品を抽出し、
抽出された少なくとも1種類の前記特定商品と、他の商品との陳列関係を特定する商品情報処理装置のデータ処理方法。
2. 1.に記載の商品情報処理装置のデータ処理方法において、
前記商品情報処理装置が、
特定された前記陳列関係に基づき、前記特定商品の陳列状態が、予め定められた前記特定商品の陳列条件を満たすか否かを判別し、
判別結果を出力する商品情報処理装置のデータ処理方法。
3. 1.または2.に記載の商品情報処理装置のデータ処理方法において、
前記商品情報処理装置が、
抽出された少なくとも1種類の前記特定商品のフェイス数を計数し、前記特定商品のフェイス数に基づき、前記他の商品との陳列関係を特定する商品情報処理装置のデータ処理方法。
4. 1.乃至3.いずれかに記載の商品情報処理装置のデータ処理方法において、
前記商品情報処理装置が、
前記特定商品を含む対象商品に対する、前記特定商品の陳列領域の割合を求め、前記特定商品の陳列領域の割合を、前記他の商品との陳列関係として特定する商品情報処理装置のデータ処理方法。
5. 1.乃至4.いずれかに記載の商品情報処理装置のデータ処理方法において、
前記商品情報処理装置が、
前記画像から、前記特定商品と、前記他の商品との相対位置を求め、前記陳列関係として特定する商品情報処理装置のデータ処理方法。
6. 1.乃至5.いずれかに記載の商品情報処理装置のデータ処理方法において、
前記商品情報処理装置が、
前記画像から、前記特定商品と前記他の商品の前記陳列状態を把握すべき領域として、対象商品陳列領域を特定し、前記対象商品陳列領域における前記特定商品の配置を前記他の商品との陳列関係として特定する商品情報処理装置のデータ処理方法。
7. 6.に記載の商品情報処理装置のデータ処理方法において、
前記商品情報処理装置が、
さらに、前記他の商品を前記画像から抽出し、
前記画像から、抽出された前記特定商品と前記他の商品の情報に基づいて、前記特定商品との前記陳列状態を把握すべき他の商品を特定し、前記対象商品陳列領域を自動的に判別する商品情報処理装置のデータ処理方法。
8. 6.または7.に記載の商品情報処理装置のデータ処理方法において、
前記商品情報処理装置が、さらに、
前記画像から特定した前記対象商品陳列領域に含まれる前記特定商品と前記他の商品との相対位置から、商品が陳列されている商品棚における前記特定商品の絶対位置を特定する商品情報処理装置のデータ処理方法。
9. 1.乃至8.いずれかに記載の商品情報処理装置のデータ処理方法において、
前記商品情報処理装置が、
予め保持された前記特定商品のフェイス画像の特徴量に基づいて前記画像をパターン認識し、前記特定商品を抽出する商品情報処理装置のデータ処理方法。
10. 1.乃至9.いずれかに記載の商品情報処理装置のデータ処理方法において、
前記商品情報処理装置が、
携帯端末に含まれる撮像部、または、店舗に設置された監視カメラを用いて撮像される前記画像を用いて処理を行う商品情報処理装置のデータ処理方法。
11. 1.乃至10.いずれかに記載の商品情報処理装置のデータ処理方法において、
前記商品情報処理装置が、情報処理端末と、サーバ装置と、を備え、
前記情報処理端末が、
店舗で撮像された前記画像の情報を、ネットワークを介して前記サーバ装置に送信し、
前記サーバ装置が、
前記画像の情報を、ネットワークを介して前記情報処理端末から受信し、
前記サーバ装置が、受信した前記画像の情報に基づき、前記特定商品を抽出する商品情報処理装置のデータ処理方法。
商品の陳列状態を撮像した画像から、少なくとも1種類の特定商品を抽出する手順、
抽出された少なくとも1種類の前記特定商品と、他の商品との陳列関係を特定する手順、を実行させるためのプログラム。
13. 12.に記載のプログラムにおいて、
前記陳列関係を特定する手順により特定された前記陳列関係に基づき、前記特定商品の陳列状態が、予め定められた前記特定商品の陳列条件を満たすか否かを判別する手順、
前記判別する手順による判別結果を出力する手順、をさらにコンピュータに実行させるためのプログラム。
14. 12.または13.に記載のプログラムにおいて、
抽出された少なくとも1種類の前記特定商品のフェイス数を計数し、前記特定商品のフェイス数に基づき、前記他の商品との陳列関係を特定する手順をコンピュータに実行させるためのプログラム。
15. 12.乃至14.いずれかに記載のプログラムにおいて、
前記特定商品を含む対象商品に対する、前記特定商品の陳列領域の割合を求め、前記特定商品の陳列領域の割合を、前記他の商品との陳列関係として特定する手順をコンピュータに実行させるためのプログラム。
16. 12.乃至15.いずれかに記載のプログラムにおいて、
前記画像から、前記特定商品と、前記他の商品との相対位置を求め、前記陳列関係として特定する手順をコンピュータに実行させるためのプログラム。
17. 12.乃至16.いずれかに記載のプログラムにおいて、
前記画像から、前記特定商品と前記他の商品の前記陳列状態を把握すべき領域として、対象商品陳列領域を特定し、前記対象商品陳列領域における前記特定商品の配置を前記他の商品との陳列関係として特定する手順をコンピュータに実行させるためのプログラム。
18. 17.に記載のプログラムにおいて、
さらに、前記他の商品を前記画像から抽出する手順、
前記画像から、抽出された前記特定商品と前記他の商品の情報に基づいて、前記特定商品との前記陳列状態を把握すべき他の商品を特定し、前記対象商品陳列領域を自動的に判別する手順、をコンピュータに実行させるためのプログラム。
19. 17.または18.に記載のプログラムにおいて、
前記画像から特定した前記対象商品陳列領域に含まれる前記特定商品と前記他の商品との相対位置から、商品が陳列されている商品棚における前記特定商品の絶対位置を特定する手順をコンピュータにさらに実行させるためのプログラム。
20. 12.乃至19.いずれかに記載のプログラムにおいて、
予め保持された前記特定商品のフェイス画像の特徴量に基づいて前記画像をパターン認識し、前記特定商品を抽出する手順をコンピュータに実行させるためのプログラム。
21. 12.乃至20.いずれかに記載のプログラムにおいて、
携帯端末に含まれる撮像部、または、店舗に設置された監視カメラを用いて撮像される前記画像を用いて処理を行う手順をコンピュータに実行させるためのプログラム。
商品の陳列状態を撮像した画像から、対象商品中の少なくとも1種類の特定商品を抽出する商品抽出手段と、
前記特定商品の位置と前記対象商品中の他の商品の位置との相対位置、前記特定商品のフェイス数と前記他の商品のフェイス数の関係、又は前記特定商品の陳列領域と前記他の商品の陳列領域の割合である陳列関係を特定する陳列関係特定手段と、を備える。
商品情報処理装置が、
商品の陳列状態を撮像した画像から、対象商品中の少なくとも1種類の特定商品を抽出し、
前記特定商品の位置と前記対象商品中の他の商品の位置との相対位置、前記特定商品のフェイス数と前記他の商品のフェイス数の関係、又は前記特定商品の陳列領域と前記他の商品の陳列領域の割合である陳列関係を特定するデータ処理方法である。
商品情報処理装置を実現するコンピュータに、
商品の陳列状態を撮像した画像から、対象商品中の少なくとも1種類の特定商品を抽出する手順、
前記特定商品の位置と前記対象商品中の他の商品の位置との相対位置、前記特定商品のフェイス数と前記他の商品のフェイス数の関係、又は前記特定商品の陳列領域と前記他の商品の陳列領域の割合である陳列関係を特定する手順、を実行させるためのプログラムである。
抽出された少なくとも1種類の前記特定商品と、他の商品との陳列関係を特定する陳列関係特定手段と、を備える商品情報処理装置。
23. 22.に記載の商品情報処理装置において、
前記陳列関係特定手段により特定された前記陳列関係に基づき、前記特定商品の陳列状態が、予め定められた前記特定商品の陳列条件を満たすか否かを判別する判別手段と、
前記判別手段による判別結果を出力する出力手段と、をさらに備える商品情報処理装置。
24. 22.または23.に記載の商品情報処理装置において、
前記陳列関係特定手段は、抽出された少なくとも1種類の前記特定商品のフェイス数を計数し、前記特定商品のフェイス数に基づき、前記他の商品との陳列関係を特定する商品情報処理装置。
25. 22.乃至24.いずれかに記載の商品情報処理装置において、
前記陳列関係特定手段は、前記特定商品を含む対象商品に対する、前記特定商品の陳列領域の割合を求め、前記特定商品の陳列領域の割合を、前記他の商品との陳列関係として特定する商品情報処理装置。
26. 22.乃至25.いずれかに記載の商品情報処理装置において、
前記陳列関係特定手段は、前記画像から、前記特定商品と、前記他の商品との相対位置を求め、前記陳列関係として特定する商品情報処理装置。
27. 22.乃至26.いずれかに記載の商品情報処理装置において、
前記陳列関係特定手段は、前記画像から、前記特定商品と前記他の商品の前記陳列状態を把握すべき領域として、対象商品陳列領域を特定し、前記対象商品陳列領域における前記特定商品の配置を前記他の商品との陳列関係として特定する商品情報処理装置。
28. 27.に記載の商品情報処理装置において、
前記商品抽出手段は、さらに、前記他の商品を前記画像から抽出し、
前記画像から、抽出された前記特定商品と前記他の商品の情報に基づいて、前記特定商品との前記陳列状態を把握すべき他の商品を特定し、前記対象商品陳列領域を自動的に判別する対象商品陳列領域判別手段をさらに備える商品情報処理装置。
29. 27.または28.に記載の商品情報処理装置において、
前記画像から特定した前記対象商品陳列領域に含まれる前記特定商品と前記他の商品との相対位置から、商品が陳列されている商品棚における前記特定商品の絶対位置を特定する絶対位置特定手段をさらに備える商品情報処理装置。
30. 22.乃至29.いずれかに記載の商品情報処理装置において、
前記商品抽出手段は、予め保持された前記特定商品のフェイス画像の特徴量に基づいて前記画像をパターン認識し、前記特定商品を抽出する商品情報処理装置。
31. 22.乃至30.いずれかに記載の商品情報処理装置において、
前記画像は、携帯端末に含まれる撮像部、または、店舗に設置された監視カメラにより撮像される商品情報処理装置。
32. 22.乃至31.いずれかに記載の商品情報処理装置において、
店舗で撮像された前記画像の情報を、ネットワークを介して送信する送信手段と、
前記画像の情報を、ネットワークを介して受信する受信手段と、を備え、
前記商品抽出手段は、前記受信手段が受信した前記画像の情報に基づき、前記特定商品を抽出する商品情報処理装置。
この出願は、2012年12月4日に出願された日本出願特願2012−265148号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
Claims (13)
- 商品の陳列状態を撮像した画像から、少なくとも1種類の特定商品を抽出する商品抽出手段と、
抽出された少なくとも1種類の前記特定商品と、他の商品との陳列関係を特定する陳列関係特定手段と、を備える商品情報処理装置。 - 請求項1に記載の商品情報処理装置において、
前記陳列関係特定手段により特定された前記陳列関係に基づき、前記特定商品の陳列状態が、予め定められた前記特定商品の陳列条件を満たすか否かを判別する判別手段と、
前記判別手段による判別結果を出力する出力手段と、をさらに備える商品情報処理装置。 - 請求項1または2に記載の商品情報処理装置において、
前記陳列関係特定手段は、抽出された少なくとも1種類の前記特定商品のフェイス数を計数し、前記特定商品のフェイス数に基づき、前記他の商品との陳列関係を特定する商品情報処理装置。 - 請求項1乃至3いずれかに記載の商品情報処理装置において、
前記陳列関係特定手段は、前記特定商品を含む対象商品に対する、前記特定商品の陳列領域の割合を求め、前記特定商品の陳列領域の割合を、前記他の商品との陳列関係として特定する商品情報処理装置。 - 請求項1乃至4いずれかに記載の商品情報処理装置において、
前記陳列関係特定手段は、前記画像から、前記特定商品と、前記他の商品との相対位置を求め、前記陳列関係として特定する商品情報処理装置。 - 請求項1乃至5いずれかに記載の商品情報処理装置において、
前記陳列関係特定手段は、前記画像から、前記特定商品と前記他の商品の前記陳列状態を把握すべき領域として、対象商品陳列領域を特定し、前記対象商品陳列領域における前記特定商品の配置を前記他の商品との陳列関係として特定する商品情報処理装置。 - 請求項6に記載の商品情報処理装置において、
前記商品抽出手段は、さらに、前記他の商品を前記画像から抽出し、
前記画像から、抽出された前記特定商品と前記他の商品の情報に基づいて、前記特定商品との前記陳列状態を把握すべき他の商品を特定し、前記対象商品陳列領域を自動的に判別する対象商品陳列領域判別手段をさらに備える商品情報処理装置。 - 請求項6または7に記載の商品情報処理装置において、
前記画像から特定した前記対象商品陳列領域に含まれる前記特定商品と前記他の商品との相対位置から、商品が陳列されている商品棚における前記特定商品の絶対位置を特定する絶対位置特定手段をさらに備える商品情報処理装置。 - 請求項1乃至8いずれかに記載の商品情報処理装置において、
前記商品抽出手段は、予め保持された前記特定商品のフェイス画像の特徴量に基づいて前記画像をパターン認識し、前記特定商品を抽出する商品情報処理装置。 - 請求項1乃至9いずれかに記載の商品情報処理装置において、
前記画像は、携帯端末に含まれる撮像部、または、店舗に設置された監視カメラにより撮像される商品情報処理装置。 - 請求項1乃至10いずれかに記載の商品情報処理装置において、
店舗で撮像された前記画像の情報を、ネットワークを介して送信する送信手段と、
前記画像の情報を、ネットワークを介して受信する受信手段と、を備え、
前記商品抽出手段は、前記受信手段が受信した前記画像の情報に基づき、前記特定商品を抽出する商品情報処理装置。 - 商品情報処理装置が、
商品の陳列状態を撮像した画像から、少なくとも1種類の特定商品を抽出し、
抽出された少なくとも1種類の前記特定商品と、他の商品との陳列関係を特定する商品情報処理装置のデータ処理方法。 - 商品情報処理装置を実現するコンピュータに、
商品の陳列状態を撮像した画像から、少なくとも1種類の特定商品を抽出する手順、
抽出された少なくとも1種類の前記特定商品と、他の商品との陳列関係を特定する手順、を実行させるためのプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012265148 | 2012-12-04 | ||
JP2012265148 | 2012-12-04 | ||
PCT/JP2013/076654 WO2014087725A1 (ja) | 2012-12-04 | 2013-10-01 | 商品情報処理装置、そのデータ処理方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2014087725A1 true JPWO2014087725A1 (ja) | 2017-01-05 |
JP6176257B2 JP6176257B2 (ja) | 2017-08-09 |
Family
ID=50883155
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014550977A Active JP6176257B2 (ja) | 2012-12-04 | 2013-10-01 | 商品情報処理装置、そのデータ処理方法、およびプログラム |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP6176257B2 (ja) |
CN (1) | CN104871198A (ja) |
WO (1) | WO2014087725A1 (ja) |
Families Citing this family (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016052383A1 (ja) | 2014-09-30 | 2016-04-07 | 日本電気株式会社 | 情報処理装置、制御方法、及びプログラム |
JP6705075B2 (ja) * | 2014-10-01 | 2020-06-03 | 株式会社マーケットヴィジョン | 商品陳列情報集計システム |
JP2016194833A (ja) * | 2015-03-31 | 2016-11-17 | 富士通株式会社 | 商品陳列位置の判定処理方法、商品陳列位置の判定処理プログラム、及び商品陳列位置の判定処理装置 |
US10885493B2 (en) * | 2015-05-16 | 2021-01-05 | Tata Consultancy Services Limited | Method and system for planogram compliance check based on visual analysis |
JP6623565B2 (ja) * | 2015-06-03 | 2019-12-25 | 日本電気株式会社 | 棚割情報生成装置、棚割情報生成システム、棚割情報生成方法、撮像装置、およびプログラム |
US10304031B2 (en) * | 2015-06-23 | 2019-05-28 | Toshiba Tec Kabushiki Kaisha | Image processing apparatus |
US9864969B2 (en) * | 2015-06-26 | 2018-01-09 | Toshiba Tec Kabushiki Kaisha | Image processing apparatus for generating map of differences between an image and a layout plan |
JP6590610B2 (ja) * | 2015-09-15 | 2019-10-16 | 共同印刷株式会社 | 方法、装置及びプログラム |
JP2019513274A (ja) * | 2016-03-29 | 2019-05-23 | ボサ ノバ ロボティクス アイピー, インク.Bossa Nova Robotics Ip, Inc. | 品物の設置、特定および計数のためのシステムおよび方法 |
JP6339633B2 (ja) * | 2016-06-28 | 2018-06-06 | 新日鉄住金ソリューションズ株式会社 | システム、情報処理装置、情報処理方法、及び、プログラム |
JP6939790B2 (ja) * | 2016-07-21 | 2021-09-22 | 日本電気株式会社 | 画像処理装置、画像処理方法及びプログラム |
DE102016122163A1 (de) * | 2016-11-17 | 2018-05-17 | Endress+Hauser Conducta Gmbh+Co. Kg | Verfahren zur Online-Konfiguration und -Bestellung |
JP6792882B2 (ja) * | 2016-12-27 | 2020-12-02 | 株式会社Space2020 | 画像処理システムと画像処理装置と画像処理方法と画像処理プログラム |
CN106971457A (zh) * | 2017-03-07 | 2017-07-21 | 深圳市楼通宝实业有限公司 | 自助售卖方法及系统 |
JP2018142293A (ja) * | 2017-09-11 | 2018-09-13 | ネットパイロティング株式会社 | 商品判別装置、商品判別プログラム及び商品の判別方法 |
JP6396568B1 (ja) * | 2017-09-19 | 2018-09-26 | ヤフー株式会社 | 提供プログラム、提供装置、提供方法、端末装置および情報提供装置 |
JP7243627B2 (ja) * | 2017-09-29 | 2023-03-22 | 日本電気株式会社 | 情報処理装置、情報処理システム、制御方法、及びプログラム |
CN108053204B (zh) * | 2017-12-20 | 2021-06-15 | 杭州几禾科技有限公司 | 自动结算方法及售卖设备 |
JP6670511B2 (ja) * | 2018-07-27 | 2020-03-25 | 株式会社マーケットヴィジョン | 商品情報取得システム |
CN109271920A (zh) * | 2018-09-12 | 2019-01-25 | 上海了物网络科技有限公司 | 支持物品识别的视觉系统及方法与介质 |
CN109784193A (zh) * | 2018-12-20 | 2019-05-21 | 上海扩博智能技术有限公司 | 用于智能冰箱的终端数据采集装置及系统 |
JP7287015B2 (ja) * | 2019-03-14 | 2023-06-06 | 富士電機株式会社 | 商品管理システム及び商品管理方法 |
CN110991372A (zh) * | 2019-12-09 | 2020-04-10 | 河南中烟工业有限责任公司 | 一种识别零售商户卷烟牌号陈列情况的方法 |
CN111319911A (zh) * | 2020-02-23 | 2020-06-23 | 安徽古井贡酒股份有限公司 | 在线智能摘酒控制系统及方法 |
WO2023062724A1 (ja) * | 2021-10-12 | 2023-04-20 | 日本電気株式会社 | 画像解析システム、画像解析方法およびプログラム |
WO2023188239A1 (ja) * | 2022-03-31 | 2023-10-05 | 日本電気株式会社 | 業務支援システム、業務支援装置、業務支援方法および記憶媒体 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0717608A (ja) * | 1993-05-06 | 1995-01-20 | Hitachi Ltd | 電子棚ラベルシステム |
JP2002366621A (ja) * | 2001-06-05 | 2002-12-20 | Komatsu Noriko | 店舗経営指導情報提供方法およびそのサーバのプログラム |
JP2003114971A (ja) * | 2001-10-02 | 2003-04-18 | Kao Corp | 売上統計分析装置 |
JP2003230131A (ja) * | 2002-02-04 | 2003-08-15 | Fujitsu Ltd | 陳列状態監視方法及び陳列状態監視プログラム |
JP2006218030A (ja) * | 2005-02-09 | 2006-08-24 | Seiko Epson Corp | 棚札、棚札作成システム、棚札作成方法、プログラム及び記憶媒体 |
WO2010023944A1 (ja) * | 2008-08-28 | 2010-03-04 | 日本たばこ産業株式会社 | 陳列支援システム |
JP2012073738A (ja) * | 2010-09-28 | 2012-04-12 | Canon It Solutions Inc | 携帯端末、販売管理システム、制御方法、販売管理方法およびプログラム |
JP2012126532A (ja) * | 2010-12-16 | 2012-07-05 | Japan Tobacco Inc | 商品管理装置、商品管理方法およびプログラム |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5537312A (en) * | 1993-05-06 | 1996-07-16 | Hitachi, Ltd. | Electronic rack labeling system |
JP2009301297A (ja) * | 2008-06-12 | 2009-12-24 | Toshiba Tec Corp | 情報提供装置、コンピュータプログラム及び店舗システム |
US20100106662A1 (en) * | 2008-10-29 | 2010-04-29 | Satyanarayanan Ramaswamy | Method and apparatus for in-store directions using visual or audio cues for current location determination |
CA2720217C (en) * | 2010-04-08 | 2016-03-29 | Accenture Global Services Limited | Digital point-of-sale analyzer |
-
2013
- 2013-10-01 JP JP2014550977A patent/JP6176257B2/ja active Active
- 2013-10-01 WO PCT/JP2013/076654 patent/WO2014087725A1/ja active Application Filing
- 2013-10-01 CN CN201380063274.9A patent/CN104871198A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0717608A (ja) * | 1993-05-06 | 1995-01-20 | Hitachi Ltd | 電子棚ラベルシステム |
JP2002366621A (ja) * | 2001-06-05 | 2002-12-20 | Komatsu Noriko | 店舗経営指導情報提供方法およびそのサーバのプログラム |
JP2003114971A (ja) * | 2001-10-02 | 2003-04-18 | Kao Corp | 売上統計分析装置 |
JP2003230131A (ja) * | 2002-02-04 | 2003-08-15 | Fujitsu Ltd | 陳列状態監視方法及び陳列状態監視プログラム |
JP2006218030A (ja) * | 2005-02-09 | 2006-08-24 | Seiko Epson Corp | 棚札、棚札作成システム、棚札作成方法、プログラム及び記憶媒体 |
WO2010023944A1 (ja) * | 2008-08-28 | 2010-03-04 | 日本たばこ産業株式会社 | 陳列支援システム |
JP2012073738A (ja) * | 2010-09-28 | 2012-04-12 | Canon It Solutions Inc | 携帯端末、販売管理システム、制御方法、販売管理方法およびプログラム |
JP2012126532A (ja) * | 2010-12-16 | 2012-07-05 | Japan Tobacco Inc | 商品管理装置、商品管理方法およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP6176257B2 (ja) | 2017-08-09 |
CN104871198A (zh) | 2015-08-26 |
WO2014087725A1 (ja) | 2014-06-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6176257B2 (ja) | 商品情報処理装置、そのデータ処理方法、およびプログラム | |
US11507933B2 (en) | Cashier interface for linking customers to virtual data | |
JP6555866B2 (ja) | 商品登録装置及びプログラム | |
WO2019165892A1 (zh) | 自动售货方法、装置和计算机可读存储介质 | |
US10628695B2 (en) | Fast item identification for checkout counter | |
RU2739542C1 (ru) | Система автоматической регистрации для торговой точки | |
US10740743B2 (en) | Information processing device and screen setting method | |
JP2019109751A (ja) | 情報処理装置、システム、情報処理装置の制御方法、及び、プログラム | |
US20190327451A1 (en) | Video image analysis apparatus and video image analysis method | |
JP2014170314A (ja) | 情報処理システム、情報処理方法およびプログラム | |
US9922257B2 (en) | Image auditing method and system | |
JP6261060B2 (ja) | 情報処理装置 | |
JP7384516B2 (ja) | 情報処理装置、商品推薦方法、プログラム、及びシステム | |
JP7040596B2 (ja) | セルフレジシステム、購入商品管理方法および購入商品管理プログラム | |
US10402777B2 (en) | Method and a system for object recognition | |
EP3629276A1 (en) | Context-aided machine vision item differentiation | |
JP2023504871A (ja) | 不正検出システムおよび方法 | |
US20180181940A1 (en) | Pos terminal device, information processing device, information processing system, image recognition method, and image recognition program | |
JP2017102846A (ja) | 接客対応評価装置及び接客対応評価方法 | |
JP2022020661A (ja) | 監視装置及びプログラム | |
JP2022036983A (ja) | セルフレジシステム、購入商品管理方法および購入商品管理プログラム | |
JP2021107989A (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2016024601A (ja) | 情報処理装置、情報処理システム、情報処理方法、商品推薦方法、およびプログラム | |
JP7315046B2 (ja) | セルフレジシステム、購入商品管理方法および購入商品管理プログラム | |
JP7206806B2 (ja) | 情報処理装置、分析方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20161115 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170112 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170613 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170626 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6176257 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |