<第1の実施の形態>
本発明の第1の実施の形態について、図面を参照して説明する。本実施の形態では、本発明の課題を解決する基本の構成について説明する。図1は、本実施の形態に係る棚割情報生成装置10の機能構成の一例を示す機能ブロック図である。図1に示す通り、本実施の形態に係る棚割情報生成装置10は、制御部11と、生成部12とを備えている。
制御部11は、撮影位置の決定に参照されるガイドマークであって、商品棚の位置を表すガイドマークを、商品棚を撮影する撮像装置の画面に表示させるように制御する。例えば、制御部11は、上記ガイドマークの位置および大きさを、表示される画面のサイズに応じた位置および大きさに変換し、上記画面の上記変換した位置に、変換した大きさのガイドマークを表示させる。
生成部12は、ガイドマークを参照して撮影された撮影画像から認識された商品が商品棚に配置された状態(商品陳列状態とも呼ぶ)を示す棚割情報を生成する。このとき、生成部12は、撮像装置の画面上のガイドマークの位置に対応する、撮影画像上の位置を示す位置情報と、商品の認識結果とに基づいて、上記棚割情報を生成する。撮影画像上の位置を示す位置情報は、例えば、該撮影画像に含まれる商品棚の棚板の位置を示す情報や該商品棚の領域を示す情報である。商品の認識結果とは、撮影画像から認識された商品を示す情報である。
このように、本実施の形態に係る棚割情報生成装置10は、撮影位置の決定に参照されるガイドマークを、商品棚を撮影する撮像装置の画面に表示させる。これにより、撮影者は、画面に表示されたガイドマークを参照し、該ガイドマークを基準として、商品棚を撮影することができる。これにより、撮影画像の属人性をより低減させることができるため、撮影画像の品質を均一化することができる。
また、生成部12は、このように撮影された撮影画像から認識された商品が、商品棚に配置された状態を示す棚割情報を、画面上のガイドマークの位置に対応する撮影画像上の位置を示す位置情報に基づいて生成する。この認識された商品は、属人性が低減され、品質が均一化された撮影画像から認識された商品である。また、ガイドマークは商品棚の位置を表すため、画面上のガイドマークの位置に対応する撮影画像上の位置に、商品棚が含まれる。したがって、生成部12が生成する棚割情報によって示される商品の陳列位置は、実際の陳列位置をより正確に再現したものとなる。また、撮影画像の品質が均一化されることにより、撮影画像から認識された商品の精度も均一化される。したがって、棚割情報生成装置10は、精度がより安定化した棚割情報を生成することができる。
<第2の実施の形態>
次に、上述した第1の実施の形態を基本とする、本発明の第2の実施の形態について、図面を参照して説明する。図2は、本実施の形態に係る棚割情報生成システム1の全体構成の一例を示す図である。図2に示す棚割情報生成システム1は、棚割情報生成装置100と、撮像装置200とを含む。棚割情報生成装置100は、上述した棚割情報生成装置10の構成を含む。また、図3は、本実施の形態に係る棚割情報生成システム1の利用シーンを説明するための図である。図4は、本実施の形態に係る棚割情報生成システム1の機能構成の一例を示す機能ブロック図である。なお、図4は、本発明に特有な構成について示したものであり、図4に示す棚割情報生成システム1の各装置が図4に示されていない部材を有していてもよいことは言うまでもない。
図3に示す通り、本実施の形態に係る棚割情報生成システム1は、撮影者が、店舗内に設置されている商品棚20に陳列されている商品を、撮像装置200を用いて撮影し、撮影した撮影画像から棚割情報を生成する場合に用いられる。本実施の形態に係る棚割情報生成システム1では、棚割情報生成装置100が、撮像装置200に、撮像装置200によって商品棚20を撮影する際の撮影位置を決定するために用いられる目印(以下、ガイドマークと呼ぶ)を、ネットワーク300を介して送信する。撮影者がガイドマークを基準として、商品棚20を撮影すると、撮影された撮影画像を示すデータ(画像データ)が撮像装置200からネットワーク300を介して棚割情報生成装置100に送信される。棚割情報生成装置100は、店舗内に設けられるものであってもよいし、例えば、データセンタのような店舗とは別の場所に設けられるものであってもよい。棚割情報生成装置100は、撮像装置200からネットワーク300を介して送信された画像データを受信し、受信した画像データを用いて、認識処理を行い、棚割情報を生成する。
撮像装置200と棚割情報生成装置100との間の通信手段は、有線または無線通信の何れであってもよいし、携帯通信網、公衆回線網、LAN(Local Area Network)、または、WAN(Wide Area Network)の何れを介した通信であってもよい。撮像装置200と、棚割情報生成装置100との間の通信は、撮像装置200の構成等に応じで適宜採用することが好ましい。このように、棚割情報生成装置100と撮像装置200との間の通信方法は、さまざまな方法が考えられるが、本実施の形態の本質にかかわらないため、詳細な説明は省略する。
なお、商品棚20を撮影する撮像装置200は、本実施の形態では、携帯電話端末、スマートフォン、デジタルカメラ、タブレット等、撮像機能と表示機能とを備えた端末であるとする。
本実施の形態において、商品棚20は、多段式の棚であり、上から順に1段目、2段目、・・・、とする。また、以降では、単に棚と呼ぶ場合、商品棚20の全体をさし、商品が陳列される部分(商品棚20の内部空間)を棚段、または、単に段と呼ぶ。また、本実施の形態では、棚板とは商品が乗せられる板であり、商品棚20内に設けられた板および商品棚20の最下段の底板を含む。
(撮像装置200)
撮像装置200は、図4に示す通り、撮影部210と、表示部220と、入力部230と、制御部240とを備えている。撮影部210は、静止画像または動画像を撮影する。撮影部210は、例えば、レンズ(不図示)と撮像素子(不図示)とによって実現される。撮影部210は、撮影した画像が静止画像の場合、該静止画像を示す画像データを制御部240に出力する。また、撮影した画像が動画像の場合、撮影部210は、該動画像から逐次得られる画像データを、制御部240に出力する。以降、撮影部210が撮影し、制御部240に出力した静止画像の画像データまたは動画像の画像データを、単に画像データとも呼ぶ。
表示部220は、表示画面を有し、制御部240からの指示に基づき、撮影部210が撮影した撮影画像を表示画面に表示する。表示部220は、例えば、液晶ディスプレイによって実現される。また、表示部220は、いわゆるファインダ画像を表示する。これにより、表示部220は、ファインダとして機能する。なお、表示部220にファインダ画像を表示する機能は一般的であるため、詳細な説明を省略する。
入力部230は、ユーザ(例えば、撮影者)からの入力操作を検出する。本実施の形態では、入力部230と、表示部220とは、タッチパネルとして一体に形成されているとする。また、入力部230は、撮像装置200に備えられた入力装置(例えば、電源ボタン等)を含んでもよい。入力部230は、ユーザによって、タッチパネルの画面(表示部220)上で入力操作が行われると、ユーザの入力操作が行われた位置(入力位置)を検出する。そして、入力部230は、検出した入力位置を示す入力位置情報を、制御部240に出力する。また、入力部230は、ユーザによって上記入力装置に対する入力操作が行われると、その入力操作の内容(入力内容)を検出する。入力部230は、検出した入力内容を制御部240に出力する。
制御部240は、撮像装置200内の各部を制御する。制御部240は、撮影部210から画像データを受け取り、該画像データを、表示部220に撮影画像として表示させる表示制御を行う。これにより表示部220は、撮影画像を表示する。また、制御部240は、この画像データを、棚割情報生成装置100に送信する。また、制御部240は、表示部220に、ファインダ画像を表示するよう制御する。
また、制御部240は、棚割情報生成装置100から受信した表示指示に基づいた画像を、表示部220に表示させる。なお、この処理については、フローチャートを用いて後述する。
また、制御部240は、入力部230から送信された、入力位置情報を受信する。そして、制御部240は、表示部220に表示された画像に応じて、入力位置情報によって示される入力位置における入力操作に関連する処理を実行する。例えば、表示部220に商品棚20を示す情報(例えば、商品棚の種別や型番等)や、店舗を選択する画面が表示されている場合、制御部240は、入力位置に表示されている選択項目が選択されたことを検出する。そして、制御部240は、選択項目によって示される情報(選択情報)を、棚割情報生成装置100に送信する。選択情報には、例えば、棚割情報を生成する対象となる商品棚20を示す情報や、該商品棚20が配置された店舗を示す情報等が含まれる。
また、例えば、表示部220に撮影を指示するオブジェクト(例えば、シャッターを示すボタン)が表示されており、入力位置がこのオブジェクトの位置であった場合、制御部240は、オブジェクトが示す機能である撮影を実行するよう、撮影部210に指示する。また、制御部240は、入力部230が検出した入力内容に従った処理を実行する。
(棚割情報生成装置100)
次に、棚割情報生成装置100について説明する。棚割情報生成装置100は、図4に示す通り、制御部110と、生成部120と、第1の記憶部130と、認識部140と、第2の記憶部150と、を備えている。なお、第1の記憶部130と、第2の記憶部150とは、一つの記憶部で実現されるものであってもよい。また、第1の記憶部130および第2の記憶部150は、夫々、棚割情報生成装置100とは別個の記憶装置にて実現されるものであってもよい。
第2の記憶部150には、ガイドマークに関する情報が格納されている。具体的には、第2の記憶部150には、例えば、ガイドマークの形状やガイドマークの位置などの情報が、ガイドマークによって位置が示される商品棚を示す情報に関連付けられて格納されている。上記商品棚を示す情報とは、例えば、商品棚を示す識別子等である。また、ガイドマークに関する情報は、店舗を示す店舗を示す識別子(例えば、店舗番号等)に関連付けて格納されていてもよい。
ガイドマークに関する情報は、ガイドマークを示す画像であってもよい。また、ガイドマークに関する情報のうち、ガイドマークの位置は、例えば、該ガイドマークを表示する画面の大きさや撮影画像の大きさに応じた相対的な座標値で格納されていてもよい。また、ガイドマークに関する情報には、所定のメッセージが含まれていてもよい。
本実施の形態では、ガイドマークは、商品棚20の棚板の位置を示す1以上の線分であるとする。また、ガイドマークに関する情報は、ガイドマークを示す画像であるとする。以下、ガイドマークに関する情報をガイドマーク情報とも呼ぶ。
制御部110は、商品棚を撮影する撮像装置200に、第2の記憶部150に格納されたガイドマーク情報を送信する。このとき、制御部110は、撮像装置200から、棚割情報を生成する対象となる商品棚20に関する情報(例えば、上述した選択情報)を受信した場合、該選択情報に従って、撮像装置200に送信するガイドマーク情報を、第2の記憶部150から選択し、選択したガイドマーク情報を送信する。具体的には、制御部110は、選択情報によって指定された商品棚20および/または店舗と一致する商品棚20および/または店舗を示す情報に関連付けられたガイドマーク情報を、第2の記憶部150から取得する。そして、制御部110は、取得したガイドマーク情報と共に、該ガイドマーク情報によって示されるガイドマークを、表示部220に表示させる表示指示を撮像装置200に送信する。また、制御部110は、生成部120にも上記ガイドマーク情報を出力する。
なお、制御部110が上記ガイドマーク情報および表示指示を撮像装置200に送信するタイミングは、例えば、撮像装置200と通信可能になった時点であってもよい。また、上記タイミングは、撮像装置200が表示部220にファインダ画像を表示している旨の通知を、撮像装置200から受け取った時点であってもよい。また、撮像装置200から選択情報を受信する構成の場合、制御部110が上記ガイドマーク情報および表示指示を撮像装置200に送信するタイミングは、選択情報を受信した時点であってもよい。本実施の形態では、制御部110が撮像装置200から選択情報を受信する構成であるとして説明を行う。
また、制御部110がガイドマーク情報を撮像装置200に送信するタイミングと生成部120に出力するタイミングは、同時であってもよいし、異なるタイミングであってもよい。なお、異なるタイミングの場合、制御部110は、生成部120が棚割情報を生成する前までに送信すればよい。
なお、制御部110が撮像装置200から受信する選択情報が、店舗の場所を示す場所情報の場合、受信した場所情報と一致する、または、受信した場所情報の所定の範囲内に存在する店舗または商品棚を特定してもよい。この場合、第2の記憶部150には、店舗または商品棚を特定する情報が、店舗の場所を示す情報に関連付けて格納されていればよい。そして、制御部110は、特定した店舗または商品棚を示す情報に関連付けられたガイドマーク情報を棚割情報生成装置100に送信してもよい。
第1の記憶部130には、撮像装置200によって撮影された撮影画像であって、撮像装置200から送信された画像データが示す撮影画像に含まれる商品を認識するための情報が格納されている。具体的には、第1の記憶部130には、商品の画像(マスタ画像とも呼ぶ)、および/または、商品の画像に含まれる特徴量が、商品を識別する情報(例えば、商品を識別するための識別子、商品名等)に紐付けられて、格納されている。ここで、マスタ画像とは、商品に関するデータの一部であり、該商品の外観を示す画像である。本実施の形態では、商品に関するデータを、商品マスタとも呼ぶ。商品マスタには、マスタ画像の他に、例えば、該商品の売上データ、棚卸データ、商品分類、メーカ名、商品名等が含まれる。なお、商品マスタに含まれる情報は、商品に関するデータであればよく、上述した情報以外の情報が含まれていてもよい。なお、第1の記憶部130に格納される情報は、商品を認識するために必要な情報であればよい。また、商品を識別するための情報は、上記に限定されるものではなく、商品が特定可能なものであればよい。
認識部140は、撮像装置200から、商品棚20を撮影した撮影画像の画像データを受信する。そして、第1の記憶部130に格納された、商品を認識するための情報を参照し、受信した画像データに基づいて、該画像データによって示される撮影画像から、該撮影画像に含まれる商品を認識する。認識部140が商品を認識する方法は、例えば、局所特徴量、テンプレート、輝度、エッジ、外形、形状、色情報、デプス等を用いるものであってもよいし、その他の情報を用いるものであってもよい。認識部140が商品を認識する方法は特に限定されず、一般的な認識手法であってもよいため、本明細書では詳細な説明を省略する。
認識部140は、撮影画像を示す情報と、該撮影画像から認識した商品を示す情報と、その位置を示す情報とを認識結果として、生成部120に出力する。撮影画像を示す情報は、撮影画像を示す画像データそのものであってもよいし、該撮影画像を特定する情報であってもよい。一般的に商品棚20には、複数の商品が陳列されている。そのため、商品棚20を撮影した撮影画像には、複数の商品の画像が含まれている。よって、認識部140は、認識した、複数の商品の夫々を示す情報と、各商品が陳列されている位置を示す情報(陳列位置情報)とを出力する。各商品の陳列位置情報は、例えば、各商品の撮影画像内における位置を示す座標である。陳列位置情報は、各商品の中心座標であってもよいし、各商品の中央下部(ボトムセンター)の座標であってもよい。なお、本実施の形態では、各商品の陳列位置情報は、ボトムセンターの座標であるとする。また、各商品を示す情報とは、認識された商品を特定可能な情報であればよく、例えば、商品名であってもよいし、商品を識別する識別子であってもよい。また、各商品を示す情報には、各商品のマスタ画像および/または撮影画像内から切り出した、対応する商品の画像が含まれていてもよい。
認識部140が出力する認識結果の例を図5に示す。図5は、認識部140が出力する認識結果の一例を示す図である。図5に示す認識結果には、撮影画像を示す情報として、「画像1」で示す画像名が含まれる。また、図5に示す認識結果には、認識した商品を示す情報として、商品名が含まれる。また、図5に示す認識結果には、認識した商品の撮影画像上の位置を示す情報として、商品のボトムセンターの座標が含まれる。認識部140は、図5に示す通り、商品名が「商品A」の商品は、ボトムセンターの座標が(48、220)である位置に、配置されているという認識結果を出力する。なお、撮影画像の座標系は、縦軸をx軸、横軸をy軸、左上隅を原点であるとする。
生成部120は、制御部110からガイドマーク情報を受信する。また、生成部120は、認識部140から、撮影画像を示す情報を含む認識結果を受信する。生成部120は、認識部140から受信した撮影画像を示す情報によって特定される撮影画像のサイズに応じて、受信したガイドマーク情報によって示されるガイドマークの表示位置を変換する。この変換後のガイドマークの、撮影画像上の表示位置は、表示部220に表示されたガイドマークの位置に対応する位置となる。なお、生成部120は、認識部140から認識結果を受信する前に、ガイドマークの表示位置を変換してもよい。例えば、認識部140が商品の認識を行っている場合は、生成部120は、該商品の認識を行う対象である撮影画像を示す情報を認識部140から取得してもよい。また、生成部120は、撮像装置200が撮影する撮影画像のサイズを、撮像装置200から予め受信してもよい。
生成部120は、変換後のガイドマークの、撮影画像上の表示位置を示す情報と、認識部140による商品の認識結果とに基づいて、認識部140において認識された商品が、商品棚20に配置された状態を示す棚割情報を生成する。
ここで、上述したとおり、本実施の形態では、ガイドマークは、商品棚20の棚板の位置を示す1以上の線分である。そのため、生成部120は、撮影画像上において、該撮影画像から認識された商品が、該撮影画像上のガイドマークの表示位置に配置された状態を示す棚割情報を生成する。
(棚割情報生成システム1の処理の流れ)
次に、棚割情報生成システム1における処理の流れについて説明する。図6は、本実施の形態に係る棚割情報生成システム1における処理の流れの一例を示すフローチャートである。図6においては、撮像装置200の処理を左側に、棚割情報生成装置100の処理を右側に示している。また、撮像装置200に対するフローチャートと、棚割情報生成装置100に対するフローチャートとの間の破線の矢印は、情報の伝達を示している。
まず、撮像装置200の画面上において、棚割情報を生成する対象となる商品棚20が選択されると、制御部240は、選択情報を棚割情報生成装置100に送信する(ステップS51)。
棚割情報生成装置100の制御部110は、撮像装置200から送信された選択情報を受信し(ステップS61)、該選択情報によって示される商品棚20に関する情報および/または店舗に関する情報に関連付けられたガイドマーク情報を第2の記憶部150から取得する。そして、制御部110は、取得したガイドマーク情報と共に、該ガイドマーク情報によって示されるガイドマークを、表示部220に表示させる表示指示を撮像装置200に送信する(ステップS62)。このとき、制御部110は、取得したガイドマーク情報を、生成部120にも出力する。
撮像装置200の制御部240は、棚割情報生成装置100から送信されたガイドマーク情報および表示指示を受信する(ステップS52)。制御部240は、表示指示に基づき、画面サイズに応じて、ガイドマーク情報によって示されるガイドマークの大きさや表示位置を変換し、変換したガイドマークを含むガイドマーク画像を生成する(ステップS53)。
そして、制御部240は、ファインダ画像上に、ステップS53にて生成したガイドマーク画像を重畳させて、表示部220に表示させる(ステップS54)。
図7に、表示部220に表示される画像の一例を示す。図7に示す通り、表示部220には、商品棚20を含むファインダ画像上に、太線で示すガイドマーク9を含むガイドマーク画像が、重畳して表示されている。これにより、撮像装置200は、このガイドマーク9と商品棚20の棚板とが一致する位置で撮影することを、撮影者に促すことができる。
そして、撮影者が、この表示されたガイドマーク9を基準として撮影位置を決定し、決定した撮影位置において、商品棚20を撮影する指示を撮像装置200に入力すると、該撮影指示に応じて、撮影部210が、商品棚20を撮影する(ステップS55)。制御部240は、撮影した撮影画像を示す画像データを棚割情報生成装置100に送信する(ステップS56)。以上により、撮像装置200の処理を終了する。
その後、棚割情報生成装置100の認識部140は、撮像装置200から送信された撮影画像を示す画像データを受信する(ステップS63)。そして、認識部140は、ステップS63で受信した画像データを用いて、該画像データによって示される撮影画像内に含まれる商品を認識する(ステップS64)。
生成部120は、商品の認識を行った撮影画像のサイズに応じて、制御部110から出力されたガイドマーク情報によって示されるガイドマークの表示位置を変換する(ステップS65)。なお、ステップS65は、ステップS64の前に行われてもよいし、ステップS64と同時に行われてもよい。
そして、生成部120は、変換後のガイドマークの、撮影画像上の表示位置を示す情報と、ステップS64で認識部140が商品の認識を行った結果である認識結果とに基づいて、棚割情報を生成する(ステップS66)。以上により、棚割情報生成装置100の処理を終了する。
生成部120が生成する棚割情報は、商品棚20の段の位置と商品を示す情報とその商品の配置位置とが順に並べられた文字列であってもよいし、表の形式であってもよいし、その他の形式であってもよい。生成部120は、例えば、棚割情報生成装置100内の図示しない表示部に、表示させる画像を棚割情報として生成してもよい。図8は、生成部120が生成した棚割情報であって、表示部に表示させる画像の形式で生成された棚割情報の一例を示す図である。
図8の各商品内のアルファベットは、商品名の最後の文字を示している。図8において、例えば、商品名が「商品A」の商品は「A」と示されている。生成部120は、図7に示す、撮像装置200の表示部220に表示されたガイドマーク9の位置に対応する撮影画像上の位置を示す情報と、図5に示す認識結果とを用いて、図8に示す棚割情報を生成する。なお、図8に表示された各商品は、商品名を示す文字列であってもよいし、商品のマスタ画像であってもよいし、撮影画像内から切り出した商品の画像であってもよい。
本実施の形態では、生成部120が、撮影画像のサイズに応じて、ガイドマーク情報によって示されるガイドマークの表示位置を変換することについて説明したが、この変換処理は、制御部110が行ってもよい。この場合、制御部110は、変換した、ガイドマークの表示位置を生成部120に出力し、生成部120は受信した表示位置に基づいて、棚割情報を生成すればよい。
(効果)
以上のように、棚割情報生成装置100は、上述した第1の実施の形態に係る棚割情報生成装置10と同様に、精度がより安定化した棚割情報を生成することができる。
また、本実施の形態では、ガイドマークは、棚割情報を生成する対象となる商品棚20の棚板の位置を表している。そのため、このガイドマークを参照して撮影された撮影画像上に対応するガイドマークの位置は、商品棚20の棚板の位置となる。そして、生成部120は、撮影画像上におけるガイドマークの位置を示す位置情報と認識結果とに基づいて、位置情報によって示される、撮影画像上のガイドマークの位置に、商品が配置された状態を示す棚割情報を生成する。したがって、生成部120が生成する棚割情報によって示される商品の陳列位置は、実際の陳列位置をより正確に再現したものとなる。したがって、本実施の形態に係る棚割情報生成システム1の棚割情報生成装置100は、より高精度な棚割情報を生成することができる。
(変形例1)
本実施の形態の変形例1について図9を参照して説明する。図9は、撮像装置200の表示部220に表示される画像の他の例を示す図である。
商品棚20の大きさが大きすぎる場合、撮像装置200の表示部220に、商品棚20の全体が写らない場合がある。また、撮影対象の商品棚20が設置された店舗の通路の幅が狭いなどの理由により、撮像装置200の表示部220に、商品棚20の全体が写らない場合がある。また、サイズの小さい商品を陳列するための商品棚20の場合、商品の認識率を高めるために、商品棚20に近接して撮影する場合もある。このような場合、例えば、図9に示すように、棚割情報生成装置100の制御部110は、撮像装置200の表示部220に撮影方法を促すメッセージ8を表示させるよう制御してもよい。
このとき、第2の記憶部150には、ガイドマーク情報として、商品棚20の上部または下部の情報が含まれていてもよい。この商品棚20の上部または下部の情報は、商品棚20のサイズ、商品棚20が設置された店舗、商品棚20の種別等に応じて、予め格納されている。そして、上述したステップS61において、制御部110は、選択情報を受信し、ガイドマーク情報を第2の記憶部150から取得する。そして、制御部110は、取得した選択情報に関連付けられた該ガイドマーク情報に含まれる、商品棚20の上部または下部の情報から、撮影対象の商品棚20が上下に分けて撮影する対象の商品棚20であると特定する。その後、制御部110は、表示部220に、例えば、図9に示す通り、上下に分けて撮影することを促すメッセージとして、「この商品棚は、上下に分けて撮影してください」を表示させるよう制御する。
また、制御部110は、ガイドマーク情報に含まれる、商品棚20の上部または下部の情報に応じて、更なるメッセージを表示部220に表示させてもよい。例えば、ガイドマーク情報に、商品棚20の上部の情報が含まれる場合、制御部110は、図9に示す通り、「まず、上部を撮影してください」というメッセージを表示させるように制御してもよい。
以上のように、棚割情報生成装置100の制御部110が画面に撮影方法を促すメッセージを表示させるよう制御することにより、撮影画像の属人性をより低減させることができるため、撮影画像の品質をより均一化することができる。
(変形例2)
上述した第2の実施の形態では、各商品の認識を棚割情報生成装置100内の認識部140で行ったが、商品の認識は、棚割情報生成装置100とは別個の装置で行われてもよい。つまり、第1の記憶部130および認識部140は、棚割情報生成装置100とは別個の装置で実現されてもよい。この場合、棚割情報生成装置100は、認識結果を上記別個の装置から受信する。これにより、棚割情報生成装置100は、棚割情報生成装置100に掛かる処理負荷を低減することができる。また、認識部140が棚割情報生成装置100とは別個の装置で実現される場合であっても、本実施の形態に係る棚割情報生成システム1は、上述した第2の実施の形態に係る棚割情報生成システム1と同様の効果を得ることができる。
<第3の実施の形態>
次に、本発明の第3の実施の形態について、図面を参照して説明する。図10は、本実施の形態に係る棚割情報生成システム1の機能構成を示す機能ブロック図である。なお、説明の便宜上、前述した第2の実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。また、本実施の形態に係る棚割情報生成システム1の全体構成は、図2に示した、第2の実施の形態における棚割情報生成システム1の構成と同様であるため、説明を省略する。
なお、本実施の形態では、ガイドマークは、商品棚20の棚板の位置を示す2以上の線分であるとする。また、本実施の形態では、商品棚20の棚板は、商品が乗せられる板(商品棚20内に設けられた板および商品棚20の最下段の底板)と、商品棚20の天板とを含む。
また、ガイドマークに関する情報は、ガイドマークを示す画像であるとする。
図10に示す通り、本実施の形態に係る棚割情報生成システム1は、棚割情報生成装置101と、撮像装置200とを備えている。撮像装置200の構成は、第2の実施の形態に係る撮像装置200と同様である。
棚割情報生成装置101は、制御部111と、生成部121と、第1の記憶部130と、認識部141と、第2の記憶部150と、を備えている。
制御部111は、上述した制御部110の機能を有する。制御部111は、更に、認識部141が受信した画像データによって示される撮影画像のサイズを、認識部141から受け取る。そして、制御部111は、撮影画像のサイズに応じて、ガイドマーク情報によって示されるガイドマークの表示位置を変換する。この変換処理は、上述した生成部120で説明した変換処理と同様であるため、詳細な説明を省略する。
そして、制御部111は、変換後のガイドマークの撮影画像上の表示位置を示す情報(位置情報とも呼ぶ)を、認識部141および生成部121に出力する。
認識部141は、撮像装置200から、商品棚20を撮影した撮影画像の画像データを受信する。また、認識部141は、制御部111から変換後のガイドマークの撮影画像上の表示位置を示す情報を受信する。認識部141は、画像データと、ガイドマークの表示位置とを用いて、第1の記憶部130を参照し、受信した画像データによって示される撮影画像から、該撮影画像に含まれる商品を認識する。認識部141は、商品の認識を行う際、ガイドマークが全て含まれる範囲内の商品を認識する。言い換えれば、認識部141は、ガイドマークが含まれない範囲の商品の認識を行わない。これにより、認識部141は、認識処理を行う対象となる商品の量を減らすことができるため、認識処理の処理量および処理時間を減らすことができる。また、認識部141は、棚割情報を生成する対象の商品棚20(対象商品棚と呼ぶ)以外の商品棚に陳列された商品の認識を行わないため、対象商品棚に陳列されていない商品を、対象商品棚に陳列された商品であると認識することを防ぐことができる。
その後、認識部141は、認識部140と同様に認識結果を生成部121に出力する。
生成部121は、制御部111から受信した、変換後のガイドマークの撮影画像上の表示位置を示す情報と、認識部141による商品の認識結果とに基づいて、認識部141において認識された商品が、商品棚20に配置された状態を示す棚割情報を生成する。
ここで、上述したとおり、本実施の形態では、ガイドマークは、商品棚20の棚板の位置を示す2以上の線分である。そのため、生成部121は、撮影画像上において、該撮影画像から認識された商品が、該撮影画像上のガイドマークの内、天板の位置を示すガイドマーク以外のガイドマークの表示位置に配置された状態を示す棚割情報を生成する。
(効果)
以上のように、本実施の形態に係る棚割情報生成システム1は、上述した第2の実施の形態の棚割情報生成システム1と同様の効果を得ることができる。また、本実施の形態に係る棚割情報生成システム1の棚割情報生成装置101では、認識部141が、ガイドマークの撮影画像上の表示位置を示す位置情報に基づいて、商品を認識する。したがって、本実施の形態に係る棚割情報生成システム1の生成部121は、上記位置情報に基づいて認識された商品が、商品棚20に配置された状態を示す棚割情報を生成する。これにより、棚割情報生成装置101は、棚割情報の生成の対象である対象商品棚に陳列されていない商品を、対象商品棚に陳列された商品であると認識することを防ぐことができる。よって、棚割情報生成装置101は、対象商品棚に含まれる商品以外の商品が棚割情報に含まれることを防ぐことができ、より精度が高い棚割情報を生成することができる。
また、本実施の形態に係る棚割情報生成装置101の第1の記憶部130および認識部141は、上述した第2の実施の形態の変形例における棚割情報生成システム1と同様に、棚割情報生成装置101とは別個の装置で実現されてもよい。
<第4の実施の形態>
次に、本発明の第4の実施の形態について、図面を参照して説明する。図11は、本実施の形態に係る棚割情報生成システム1の機能構成を示す機能ブロック図である。なお、説明の便宜上、前述した第2または第3の実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。また、本実施の形態に係る棚割情報生成システム1の全体構成は、図2に示した、第2の実施の形態における棚割情報生成システム1の構成と同様であるため、説明を省略する。
上述した第2および第3の実施の形態では、商品棚20を示す情報および/または商品棚20が設置された店舗を示す情報を、撮影者が選択することについて説明したが、本実施の形態はこれに限定されない。本実施の形態では、撮像装置が、商品棚20が設置された店舗を示す情報を、撮影者が入力することなく送信する方法について説明する。
図11に示す通り、本実施の形態に係る棚割情報生成システム1は、棚割情報生成装置102と、撮像装置202とを備えている。撮像装置202は、撮影部210、表示部220、制御部240および取得部250を備えている。なお、撮像装置202は、上述した第2および第3の実施の形態に係る撮像装置200と同様に、入力部230を更に備えていてもよい。
取得部250は、自装置の場所を測定することによって、自装置の場所を取得する。取得部250は、例えば、GPS(Global Positioning System)センサなどによって実現される。取得部250は取得した場所を示す場所情報を、制御部240に出力する。制御部240は、取得部250から取得した場所情報を棚割情報生成装置102に送信する。
棚割情報生成装置102は、図11に示す通り、制御部112と、生成部120と、第1の記憶部130と、認識部140と、第2の記憶部162とを備えている。なお、第1の記憶部130と、第2の記憶部162とは、一つの記憶部で実現されるものであってもよい。また、第1の記憶部130および第2の記憶部162は、夫々、棚割情報生成装置102とは別個の記憶装置にて実現されるものであってもよい。
第2の記憶部162には、上述した第2の記憶部150と同様に、ガイドマークに関する情報が格納されている。また、第2の記憶部162には、店舗を特定する情報(例えば、店舗番号)が、店舗の場所を示す情報に関連付けて格納されている。なお、第2の記憶部162には、店舗内の商品棚20を特定する情報(例えば、商品棚20の種別等)が更に含まれていてもよい。
制御部112は、撮像装置202から送信された場所情報を受信する。そして、制御部112は、第2の記憶部162を参照し、受信した場所情報と一致する、または、受信した場所情報の所定の範囲内に存在する店舗または商品棚を特定する。そして、制御部112は、特定した店舗または商品棚を示す情報に関連付けられたガイドマーク情報を、第2の記憶部162から取得する。そして、制御部112は、上述した制御部110と同様に、取得したガイドマーク情報と共に、該ガイドマーク情報によって示されるガイドマークを、表示部220に表示させる表示指示を撮像装置202に送信する。
本実施の形態における棚割情報生成装置102の認識部140および生成部120の動作は、上述した第2の実施の形態における認識部140および生成部120の動作と同様であるため、説明を省略する。
以上のように、本実施の形態に係る棚割情報生成システム1は、上述した第2の実施の形態の棚割情報生成システム1と同様の効果を得ることができる。また、本実施の形態によれば、制御部112が撮像装置202の場所を受信することにより、撮影対象の商品棚20の情報または、該商品棚20が設置された店舗を特定する。これにより、撮影者が、商品棚20が設置された店舗を示す情報を入力しなくても、棚割情報生成装置102は、棚割情報を生成することができる。
また、本実施の形態に係る棚割情報生成装置102は、上述した第3の実施の形態に係る棚割情報生成装置101と同様に、制御部112が認識部140にガイドマーク情報を出力する構成であってもよい。そして、認識部140は、ガイドマークの撮影画像上の表示位置を示す位置情報に基づいて、商品を認識し、生成部120は、上記位置情報に基づいて認識された商品が、商品棚20に配置された状態を示す棚割情報を生成する。これにより、本実施の形態に係る棚割情報生成システム1は、上述した第3の実施の形態に係る棚割情報生成システム1と同様の効果を得ることができる。
また、本実施の形態に係る棚割情報生成装置102は、上述した第2の実施の形態の変形例1と同様に、制御部112が、画面に撮影方法を促すメッセージを表示させるよう制御してもよい。
また、本実施の形態に係る棚割情報生成装置102の第1の記憶部130および認識部140は、上述した第2の実施の形態の変形例2における棚割情報生成システム1と同様に、棚割情報生成装置102とは別個の装置で実現されてもよい。
このような構成であっても、本実施の形態に係る棚割情報生成システム1は、上述した第2の実施の形態における棚割情報生成システム1と同様の効果を奏することができる。
<第5の実施の形態>
次に、本発明の第5の実施の形態について、図面を参照して説明する。図12は、本実施の形態に係る棚割情報生成システム1の機能構成を示す機能ブロック図である。なお、説明の便宜上、前述した各実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。また、本実施の形態に係る棚割情報生成システム1の全体構成は、図2に示した、第2の実施の形態における棚割情報生成システム1の構成と同様であるため、説明を省略する。なお、本実施の形態では、ガイドマークは、商品棚20の棚板の位置を示す1以上の線分であるとする。
図12に示す通り、本実施の形態に係る棚割情報生成システム1は、棚割情報生成装置103と、撮像装置200とを備えている。撮像装置200の構成は、第2の実施の形態に係る撮像装置200と同様である。なお、撮像装置200は、第4の実施の形態における撮像装置202と同様に、取得部250を備えていてもよい。
棚割情報生成装置103は、制御部113と、生成部120と、第1の記憶部130と、認識部140と、第2の記憶部173と、を備えている。なお、第1の記憶部130と、第2の記憶部173とは、一つの記憶部で実現されるものであってもよい。また、第1の記憶部130および第2の記憶部173は、夫々、棚割情報生成装置103とは別個の記憶装置にて実現されるものであってもよい。
認識部140は、商品の認識を行うと、第2の記憶部173に商品の認識結果を格納する。認識部140は、例えば、図5に示す認識結果に、商品認識の対象となる商品棚20を示す情報を関連付けて、第2の記憶部173に格納する。このとき、認識部140は、認識を行った日付または撮影画像の日付を、認識結果に含めてもよい。また、認識部140は、店舗に関する情報を、認識結果に関連付けてもよい。以降、第2の記憶部173に格納された認識結果を含む情報を、認識履歴とも呼ぶ。
制御部113は、棚割情報を生成する対象となる商品棚20に関する情報を、撮像装置200から受信する、または、場所情報から特定する。そして、制御部113は、受信または特定した情報に関連付けられた認識結果に含まれる、商品の陳列位置を示す陳列位置情報を、第2の記憶部173から取得する。制御部113は、この陳列位置情報を用いて、撮影画像上における商品棚20の棚板の位置を推定する。例えば、認識した商品の撮影画像上の位置を示す情報が、図5に示す通り、商品のボトムセンターの座標である場合、制御部113は、例えば、ハフ変換によって、直線を算出する。商品は、棚板の上に陳列されている。よって、算出された直線は、撮影画像上における棚板の部分を含む直線であると推定される。したがって、制御部113は、この算出した直線を、棚板の位置と推定する。
そして、制御部113は、推定した撮影画像上の棚板の位置に対応する撮像装置200の画面の位置に、ガイドマークを表示させる指示を、撮像装置200に送信する。ここで、ガイドマークの形状(本実施の形態では、線分)を示す情報は、予め第2の記憶部173に格納されていてもよいし、撮像装置から指定されてもよい。また、ガイドマークの形状は、制御部113が推定した位置から導出されてもよい。これにより、撮像装置200の制御部240は、ガイドマークを、表示部220に表示させる。よって、撮像装置200は、過去の認識結果に基づいたガイドマークと商品棚20の棚板とが一致する位置で撮影することを、撮影者に促すことができる。
(棚割情報生成システム1の処理の流れ)
次に、棚割情報生成システム1における処理の流れについて説明する。図13は、本実施の形態に係る棚割情報生成システム1における処理の流れの一例を示すフローチャートである。図13においては、撮像装置200の処理を左側に、棚割情報生成装置103の処理を右側に示している。また、撮像装置200に対するフローチャートと、棚割情報生成装置103に対するフローチャートとの間の破線の矢印は、情報の伝達を示している。なお、上述した図6に示すフローチャートと同じ処理については、同じ符号を付している。
まず、撮像装置200の画面上において、棚割情報を生成する対象となる商品棚20が選択されると、制御部240は、選択情報を棚割情報生成装置103に送信する(ステップS51)。
棚割情報生成装置103の制御部113は、撮像装置200から送信された選択情報を受信する(ステップS61)。そして、制御部113は、選択情報によって示される商品棚20に関する情報および/または店舗に関する情報に関連付けられた認識履歴の陳列位置情報を第2の記憶部173から取得する(ステップS131)。
そして、制御部113は、取得した陳列位置情報を用いて、撮影画像上における商品棚20の棚板の位置を推定する(ステップS132)。その後、制御部113は、推定した棚板の位置を、ガイドマークの表示位置とし、該ガイドマークの表示位置を含むガイドマーク情報を、表示指示と共に撮像装置200に送信する(ステップS133)。その後、棚割情報生成装置103および撮像装置200は、第2の実施の形態に係る棚割情報生成装置100および撮像装置200と同様の処理を行う。
以上のように、本実施の形態に係る棚割情報生成システム1によれば、制御部113が、過去の認識結果に含まれる商品の陳列位置を示す陳列位置情報から、ガイドマークの撮影画像上における位置を推定する。そして、制御部113は、推定した位置に対応する撮像装置200の画面の位置に、ガイドマークを表示させるように制御する。
同じ商品棚の場合、過去の認識結果から推定される棚板の位置は、現時点の商品棚20の棚板の位置と同じである場合が多い。そのため、本実施の形態に係る棚割情報生成システム1によれば、上述した各実施の形態に係る棚割情報生成システム1の効果に加え、より高精度な棚割情報を生成することができる。
また、本実施の形態に係る棚割情報生成装置103は、上述した第2の実施の形態の変形例1と同様に、制御部113が、画面に撮影方法を促すメッセージを表示させるよう制御してもよい。
また、本実施の形態に係る棚割情報生成装置103の第1の記憶部130および認識部140は、上述した第2の実施の形態の変形例2における棚割情報生成システム1と同様に、棚割情報生成装置103とは別個の装置で実現されてもよい。
このような構成であっても、本実施の形態に係る棚割情報生成システム1は、上述した第2の実施の形態における棚割情報生成システム1と同様の効果を奏することができる。
<第6の実施の形態>
次に、本発明の第6の実施の形態について、図面を参照して説明する。図14は、本実施の形態に係る棚割情報生成システム1の機能構成を示す機能ブロック図である。なお、説明の便宜上、前述した各実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。また、本実施の形態に係る棚割情報生成システム1の全体構成は、図2に示した、第2の実施の形態における棚割情報生成システム1の構成と同様であるため、説明を省略する。なお、本実施の形態では、ガイドマークは、商品棚20の棚板の位置を示す1以上の線分であるとする。
上述した第5の実施の形態では、ガイドマークを、認識履歴から推定することについて説明したが、本実施の形態では、ガイドマークを棚割情報の生成履歴から推定することについて説明する。
図14に示す通り、本実施の形態に係る棚割情報生成システム1は、棚割情報生成装置104と、撮像装置200とを備えている。撮像装置200の構成は、第2の実施の形態に係る撮像装置200と同様である。なお、撮像装置200は、第4の実施の形態における撮像装置202と同様に、取得部250を備えていてもよい。
棚割情報生成装置104は、制御部114と、生成部120と、第1の記憶部130と、認識部140と、第2の記憶部184と、を備えている。なお、第1の記憶部130と、第2の記憶部184とは、一つの記憶部で実現されるものであってもよい。また、第1の記憶部130および第2の記憶部184は、夫々、棚割情報生成装置104とは別個の記憶装置にて実現されるものであってもよい。
まず、生成部120が生成する棚割情報について説明する。生成部120が生成する棚割情報は、上述した図8に示すような、図示しない表示部に表示させる画像の形式で生成された棚割情報であってもよい。また、生成部120が生成する棚割情報は、図15に示すような、どの位置にどの商品が配置されるのかが分かる情報であってもよい。図15は、棚割情報の一例を示す図である。図15において、段番号とは、商品棚20の棚段の位置を示す番号であり、商品棚20の上から順に1段目、2段目、・・・、とした場合の、番号を示している。また、図15において、スロット番号とは、ある棚段における商品の配置位置を示し、左から順に1、2、3・・・、とした場合の番号を示している。ここで、1スロットには1つの商品が配置されるとする。図15に示す棚割情報は、図8に示す棚割情報の1段目と2段目とにそれぞれ対応するものである。
生成部120は、生成した棚割情報を、該棚割情報を生成した対象となる商品棚20を示す情報(例えば、商品棚20を示す識別子)に関連付けて、第2の記憶部184に格納する。以降、第2の記憶部184に格納された、過去の棚割情報を、棚割履歴とも呼ぶ。
制御部114は、棚割情報を生成する対象となる商品棚20に関する情報を、撮像装置200から受信する、または、場所情報から特定する。そして、制御部114は、受信または特定した情報に関連付けられた、過去の棚割情報(棚割履歴)を特定する。過去の棚割情報からは、図15に示す通り、少なくとも、対象の商品棚20における棚段数と棚段毎のスロット数とがわかる。これにより、制御部114は、商品棚20の棚板の位置を推定する。なお、棚割履歴に、商品の情報として、商品の大きさに関する情報が含まれている場合、制御部114は、この大きさに関する情報を用いて棚板の位置を推定してもよい。また、棚割履歴に、商品の位置を示す座標(例えば、図5に示すようなボトムセンターの位置)が含まれている場合、制御部114はこの座標を用いて、棚板の位置を推定してもよい。そして、制御部114は、推定した撮影画像上の棚板の位置に対応する撮像装置200の画面の位置に、ガイドマークを表示させる指示を、撮像装置200に送信する。また、ガイドマークの形状は、制御部114が推定した位置から導出されてもよい。これにより、撮像装置200の制御部240は、ガイドマークを、表示部220に表示させる。よって、撮像装置200は、過去の棚割情報に基づいたガイドマークと商品棚20の棚板とが一致する位置で撮影することを、撮影者に促すことができる。
このように、本実施の形態に係る棚割情報生成システム1は、過去の棚割情報を用いても、棚割情報を生成することができる。
また、本実施の形態に係る棚割情報生成装置104は、上述した第2の実施の形態の変形例1と同様に、制御部114が、画面に撮影方法を促すメッセージを表示させるよう制御してもよい。
また、本実施の形態に係る棚割情報生成装置104の第1の記憶部130および認識部140は、上述した第2の実施の形態の変形例2における棚割情報生成システム1と同様に、棚割情報生成装置104とは別個の装置で実現されてもよい。
このような構成であっても、本実施の形態に係る棚割情報生成システム1は、上述した第2の実施の形態における棚割情報生成システム1と同様の効果を奏することができる。
(変形例)
第6の実施の形態に係る変形例について説明する。第6の実施の形態では、過去の棚割情報を用いて、ガイドマークの位置を推定した。しかしながら、制御部114は、過去の棚割情報に代えて、棚割情報を生成する対象となる商品棚において推奨される、商品の配置状態を示す推奨棚割情報に基づいて、ガイドマークの位置を推定してもよい。
推奨棚割情報とは、例えば、店舗を管理する管理会社等から推奨された棚割の状態を示す情報である。推奨棚割情報は、生成部120が生成する棚割情報と同様に、図8に示すような情報であってもよいし、図15に示すような情報であってもよいし、その他の形態であってもよい。推奨棚割情報には、商品の陳列位置が記されている。そのため、本変形例に係る棚割情報生成システム1の制御部114は、推奨棚割情報を用いて、第6の実施の形態に係る制御部114と同様の方法で、ガイドマークの位置を推定することができる。
これにより、本変形例に係る棚割情報生成システム1は、上述した第6の実施の形態に係る棚割情報生成システム1と同様の効果を得ることができる。
<第7の実施の形態>
次に、本発明の第7の実施の形態について、図面を参照して説明する。図16は、本実施の形態に係る棚割情報生成システム1の機能構成を示す機能ブロック図である。なお、説明の便宜上、前述した各実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。また、本実施の形態に係る棚割情報生成システム1の全体構成は、図2に示した、第2の実施の形態における棚割情報生成システム1の構成と同様であるため、説明を省略する。
上述した第2から第6の実施の形態では、ガイドマークが、商品棚20の棚板の位置を示す線分であるとして説明を行ったが、本実施の形態はこれに限定されるものではない。本実施の形態では、ガイドマークが、商品棚20の領域の位置を示すものであるとして、説明を行う。
図16に示す通り、本実施の形態に係る棚割情報生成システム1は、棚割情報生成装置105と、撮像装置200とを備えている。撮像装置200の構成は、第2の実施の形態に係る撮像装置200と同様である。なお、撮像装置200は、第4の実施の形態における撮像装置202と同様に、取得部250を備えていてもよい。
棚割情報生成装置105は、制御部115と、生成部125と、第1の記憶部130と、認識部140と、第2の記憶部155と、を備えている。なお、第1の記憶部130と、第2の記憶部155とは、一つの記憶部で実現されるものであってもよい。また、第1の記憶部130および第2の記憶部155は、夫々、棚割情報生成装置105とは別個の記憶装置にて実現されるものであってもよい。
第2の記憶部155には、上述した第2の記憶部150と同様に、ガイドマークに関する情報が格納されている。本実施の形態では、ガイドマークは、商品棚20の領域の位置を示すものであるとする。また、ガイドマークに関する情報は、ガイドマークを示す画像であるとする。
制御部115は、上述した第2の実施の形態における制御部110と同様に、商品棚を撮影する撮像装置200に、第2の記憶部155に格納されたガイドマーク情報を表示指示と共に撮像装置200に送信する。このとき、制御部115は、撮像装置200から、棚割情報を生成する対象となる商品棚20に関する情報(例えば、上述した選択情報)を受信した場合、該選択情報に従って、撮像装置200に送信するガイドマーク情報を、第2の記憶部155から選択し、選択したガイドマーク情報を送信する。また、制御部115は、生成部125にも上記ガイドマーク情報を出力する。
撮像装置200の制御部240は、棚割情報生成装置105から送信されたガイドマーク情報および表示指示を受信する。そして、制御部240は、表示指示に基づき、画面サイズに応じて、ガイドマーク情報によって示されるガイドマークの大きさや表示位置を変換し、変換したガイドマークを含むガイドマーク画像を生成する。そして、制御部240は、ファインダ画像上に、生成したガイドマーク画像を重畳させて、表示部220に表示させる。
図17および図18に、表示部220に表示される画像の一例を示す。図17および図18に示す通り、表示部220には、商品棚20を含むファインダ画像上に、網掛けで示すガイドマーク9を含むガイドマーク画像が、重畳して表示されている。
図17に示すガイドマーク9は、商品棚20の外枠を示すガイドマークであり、図18に示すガイドマーク9は、商品棚20の4隅の位置を示すガイドマークである。図17および図18の何れに示すガイドマーク9であっても、撮像装置200は、このガイドマーク9と商品棚20の領域とが一致する位置で撮影することを、撮影者に促すことができる。
撮影者が、この表示されたガイドマーク9を基準として撮影位置を決定し、決定した撮影位置において、商品棚20を撮影する指示を撮像装置200に入力する。その後、撮像装置200の撮影部210が商品棚20を撮影する。
その後、棚割情報生成装置105の認識部140は、撮影された撮影画像を示す画像データを受信する。認識部140は、受信した画像データが示す撮影画像から、商品の認識を行う。そして、認識部140は、撮影画像を示す情報と、該撮影画像から認識した商品を示す情報と、その位置を示す情報とを認識結果として、生成部125に出力する。このとき、認識部140は、上述した第3の実施の形態における認識部141と同様に、制御部115から、ガイドマーク情報によって示されるガイドマークの撮影画像上の表示位置を示す情報を受信してもよい。そして、認識部140は、商品の認識を行う際に、撮影画像のうち、このガイドマークの撮影画像上の表示位置によって示される領域内の商品を認識してもよい。
生成部125は、制御部115からガイドマーク情報を受信する。また、生成部125は、認識部140から、撮影画像を示す情報を含む認識結果を受信する。生成部125は、認識部140から受信した撮影画像を示す情報によって特定される撮影画像のサイズに応じて、受信したガイドマーク情報によって示されるガイドマークの表示位置を変換する。また、生成部125は、受信した認識結果に含まれる、商品の陳列位置を示す陳列位置情報を用いて、撮影画像上における商品棚20の棚板の位置を推定する。このとき、生成部125は、商品棚20の棚板の位置を、ガイドマークの表示位置によって示される領域内において、推定する。
そして、生成部125は、推定した棚板の位置と、認識部140が商品の認識を行った結果である認識結果とに基づいて、推定した棚板の位置に、認識された商品が配置された状態を示す棚割情報を生成する。
以上のように、棚割情報生成装置105の制御部115は、撮像装置200の画面上における、商品棚20の領域の位置を表すガイドマークを、撮像装置200の画面に表示させるよう制御する。そして、生成部125は、認識された商品の撮影画像上の位置およびガイドマークの撮影画像上の位置に基づいて、撮影画像上における商品棚20の棚板の位置を推定する。そして、生成部125は、推定された位置に、認識された商品が配置された状態を示す棚割情報を生成する。
これにより、本実施の形態に係る棚割情報生成システム1は、ガイドマークの形状が商品棚20の棚板の位置を表す線分ではなく、商品棚20の領域の位置を表すものであっても、精度がより安定化した棚割情報を生成することができる。
なお、本実施の形態において、ガイドマークは、予め第2の記憶部155に格納されているとして、説明を行ったが、本実施の形態はこれに限定されるものではない。上述した第5の実施の形態と同様に、ガイドマークは認識履歴から推定されるものであってもよい。また、上述した第6の実施の形態と同様に、ガイドマークは、棚割履歴または推奨棚割情報から推定されるものであってもよい。
また、本実施の形態に係る棚割情報生成装置105は、上述した第2の実施の形態の変形例1と同様に、制御部115が、画面に撮影方法を促すメッセージを表示させるよう制御してもよい。
また、本実施の形態に係る棚割情報生成装置105の第1の記憶部130および認識部140は、上述した第2の実施の形態の変形例2における棚割情報生成システム1と同様に、棚割情報生成装置105とは別個の装置で実現されてもよい。
このような構成であっても、本実施の形態に係る棚割情報生成システム1は、上述した各実施の形態における棚割情報生成システム1と同様の効果を奏することができる。
<第8の実施の形態>
上述した第2、第3、第5から第7の実施の形態における撮像装置200の入力部230は、表示されたガイドマークの位置の変更を受け付ける機能を有していてもよい。また、第4の実施の形態における撮像装置202が、上述したとおり、更に入力部230を備える構成の場合においても、該入力部230は、表示されたガイドマークの位置の変更を受け付ける機能を有していてもよい。本実施の形態では、この入力部230が表示部220に表示されたガイドマークの位置の変更を受け付ける機能を有する構成について説明する。なお、本実施の形態では、上述した第2から第7の実施の形態における棚割情報生成システム1と同様の構成を有するため、図面の説明を省略する。
ユーザが、指などの入力媒体を用いて、ガイドマークの位置を変更する入力操作を行うと、入力部230は、入力操作によって変更されたガイドマークの位置を示す情報を、制御部240を介して、棚割情報生成装置(100〜105)に送信する。そして、制御部(110〜115)は、変更されたガイドマークの位置を示す情報を受け付け、受け付けたガイドマークの位置を生成部(120、125)に出力する。これにより、生成部(120、125)は、変更されたガイドマークの、撮影画像上の位置に基づいて、棚割情報を生成する。
このように、撮像装置200が表示部220に表示されたガイドマークに対する変更を受け付けることにより、表示部220に表示されたガイドマークの位置と、商品棚20の位置とに差異があっても、撮影者がその差異を修正することができる。したがって、棚割情報生成システム1は、汎用性を向上させることができる。さらに、ガイドマークの位置を、商品棚20の位置に修正することができるため、棚割情報生成システム1の棚割情報生成装置が生成する棚割情報の精度をより高めることができる。
<第9の実施の形態>
本発明の第9の実施の形態について、図面を参照して説明する。本実施の形態では、本発明の課題を解決する棚割情報生成システムについて説明する。まず、本実施の形態に係る棚割情報生成システム2の基本構成について説明する。図19は、本実施の形態に係る棚割情報生成システム2の基本構成の一例を示すブロック図である。この図に示す棚割情報生成システム2は、上述した棚割情報生成システム1の基本の構成であるとも言える。図19に示す通り、本実施の形態に係る棚割情報生成システム2は、制御部21と、生成部22と、撮影部23と、表示部24とを備えている。制御部21と、生成部22と、撮影部23と、表示部24とは、互いに通信可能に接続している。制御部21と、生成部22と、撮影部23と、表示部24との接続方法は、有線接続であってもよいし、無線接続であってもよい。
表示部24は、表示画面を有している。表示部24は、制御部21の制御に基づき、表示画面に画像を表示する。
制御部21は、上述した第1の実施の形態に係る棚割情報生成装置10の制御部11の機能を有する。また、制御部21は、上述した第2の実施の形態における撮像装置200の制御部240の機能を有する。制御部21は、撮影位置の決定に参照されるガイドマークであって、商品棚の位置を表すガイドマークを、表示部24に表示させるように制御する。
撮影部23は、商品が陳列された商品棚を撮影する。撮影部23は、上述した第2の実施の形態に係る撮像装置200の撮影部210に相当する。撮影部23が撮影する撮影画像は、表示部24に表示されたガイドマークを参照して撮影されたものである。
生成部22は、上述した第1の実施の形態に係る棚割情報生成装置10の生成部12に相当する。生成部22は、撮影画像から認識された商品が商品棚に配置された状態を示す棚割情報を、商品の認識結果と、表示画面上のガイドマークの位置に対応する撮影画像上の位置を示す位置情報とに基づいて生成する。
次に、図19の棚割情報生成システム2を基本とする棚割情報生成システム3について、図20を参照して説明する。なお、説明の便宜上、前述した各実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。図20に示す通り、本実施の形態に係る棚割情報生成システム3は、棚割情報生成装置106と、撮像装置206と、を備えている。棚割情報生成装置106は、生成部120と、第1の記憶部130と、認識部140とを備えている。また、撮像装置206は、撮影部210と、表示部220と、制御部246とを備えている。なお、認識部140は、上述した第2の実施の形態の変形例と同様に、棚割情報生成装置106とは別個の装置で実現されてもよい。
制御部246は、上述した第2の実施の形態における撮像装置200の制御部240の機能を含む。また、制御部246は、上述した、制御部110、制御部111、制御部112、制御部113、制御部114、または制御部115の少なくとも何れかの機能を含む。制御部246は、撮影位置の決定に参照されるガイドマークであって、商品棚の位置を表すガイドマークを、表示部220に表示させるように制御する。また、制御部246は、表示部220に表示させたガイドマークに関する情報を、棚割情報生成装置106に送信する。
棚割情報生成装置106は、撮像装置206から送信された画像データおよびガイドマークに関する情報に基づいて、上述した各実施の形態に係る棚割情報生成装置と同様に、棚割情報を生成する。このとき、生成部120は、表示部220の表示画面上に表示されたガイドマークの位置に対応する撮影画像上の位置を示す位置情報と認識結果とに基づいて、商品が商品棚に配置された状態を示す棚割情報を生成する。
このように、棚割情報生成システム3において、表示部220に対する表示制御を行う機能は、棚割情報生成装置106ではなく撮像装置206に備えられてもよい。この機能は、例えば、撮像装置206で動作可能なアプリケーションを実行することによって実現されてもよい。このような構成であっても、本実施の形態に係る棚割情報生成システム3は、上述した各実施の形態に係る棚割情報生成システム1と同様の効果を得ることができる。
また、上述した各実施の形態において、棚割情報生成システムに含まれる撮像装置と、棚割情報生成装置とは、別々の装置で実現することを例に説明を行ったが、撮像装置と棚割情報生成装置とは一体形成されていてもよい。また、上述した棚割情報生成システムは、撮影機能(撮影部に相当)と、ガイドマークを表示する機能(表示部に相当)と、棚割情報を生成する機能(生成部に相当)と、表示部を制御する機能(制御部に相当)を含む装置と、認識する機能(認識部に相当)を含む他の装置とを備える構成であってもよい。
<第10の実施の形態>
本発明の第10の実施の形態について、以下に説明する。本実施の形態では、上述した第9の実施の形態に係る棚割情報生成システム3と同様の構成を有するため、図20を参照して説明を行う。本実施の形態に係る棚割情報生成システム3の基本構成は、図19を用いて説明した構成である。図20に示す通り、本実施の形態に係る棚割情報生成システム3は、棚割情報生成装置106と、撮像装置206と、を備えている。棚割情報生成装置106は、生成部120と、第1の記憶部130と、認識部140とを備えている。また、撮像装置206は、撮影部210と、表示部220と、制御部246とを備えている。
なお、本実施の形態では、表示制御を行う制御部が撮像装置206に備えられる構成について説明を行うが、上述した第2から第8の各実施の形態と同様に、表示制御を行う制御部は、棚割情報生成装置に備えられてもよい。
本実施の形態における撮像装置206では、撮影部210が棚割情報生成装置106に撮影画像を示す画像データを出力する。しかしながら撮影部210は、上述した撮像装置200の撮影部210と同様に、制御部246に撮影画像を示す画像データを出力してもよい。この場合、制御部246は、受け取った画像データを棚割情報生成装置106に送信する。
本実施の形態における撮像装置206の制御部246は、上述した第2の実施の形態における制御部240と同様に、ファインダ画像上に、ガイドマーク画像を重畳させて、表示部220に表示させる。そして、制御部246は、この表示部220に表示させたファインダ画像に含まれる商品棚の位置と、ガイドマーク画像に含まれるガイドマークの位置との一致率を算出する。なお、一致率の算出方法は特に限定されない。また、一致率の算出は、所定の間隔で行われてもよいし、一致率の大きさに応じるタイミングで行われてもよい。例えば、一致率が所定の値より小さいときは、算出の間隔を大きくし、一致率が所定の値以上のときは、算出の間隔を小さくしてもよい。
制御部246は、算出した一致率に応じて、ガイドマークの表示態様を変化させて、表示部220に表示させるよう制御する。例えば、制御部246は、一致率が所定の閾値より小さいときは、ガイドマークを青色で表示させ、一致率が所定の閾値以上になったときに、ガイドマークを赤色で表示させる。また、例えば、制御部246は、一致率が所定の閾値より小さいときは、ガイドマークを点滅させた状態で表示させ、一致率が所定の閾値以上になったときに、ガイドマークを点灯させた状態で表示させる。また、例えば、制御部246は、一致率が所定の閾値より小さいときは、ガイドマークを点線で表示させ、一致率が所定の閾値以上になったときに、ガイドマークを実線で表示させる。
このように、制御部246が算出した一致率に応じてガイドマークの表示様態を変化させることにより、撮像装置206は、ガイドマークと商品棚の棚板とが一致する位置で撮影することを、撮影者により促すことができる。これにより、撮影画像の属人性をより低減させることができるため、撮影画像の品質を均一化することができる。したがって、このような撮影画像を用いて棚割情報を生成する棚割情報生成装置106は、上述した各実施の形態に係る棚割情報生成装置と同様に、精度がより安定化した棚割情報を生成することができる。
また、制御部246は、更に、一致率が所定の閾値以上のときに、商品棚を撮影するよう、撮影部210に指示し、撮影部210は指示に従って、商品棚を撮影してもよい。これにより、撮影部210は、一致率が所定の閾値以上のときに、商品棚を自動的に撮影することができる。これにより、撮像装置206は、更に、撮影画像の属人性をより低減させることができる。したがって、このような撮影画像を用いて棚割情報を生成する棚割情報生成装置106は、上述した各実施の形態に係る棚割情報生成装置と同様に、精度がより安定化した棚割情報を生成することができる。
<ハードウェアの構成例>
ここで、上述した各実施の形態に係る棚割情報生成装置(10、100〜106)および撮像装置(200、202、206)を実現可能なハードウェアの構成例について説明する。上述した棚割情報生成装置(10、100〜106)および撮像装置(200、202、206)は、専用の装置として実現してもよいが、コンピュータ(情報処理装置)を用いて実現してもよい。
図21は、本発明の各実施の形態を実現可能なコンピュータ(情報処理装置)のハードウェア構成を例示する図である。
図21に示した情報処理装置(コンピュータ)90のハードウェアは、CPU(Central Processing Unit)91、通信インタフェース(I/F)92、入出力ユーザインタフェース93、ROM(Read Only Memory)94、RAM(Random Access Memory)95、記憶装置97、及びコンピュータ読み取り可能な記憶媒体99のドライブ装置98を備え、これらがバス96を介して接続された構成を有する。入出力ユーザインタフェース93は、入力デバイスの一例であるキーボードや、出力デバイスとしてのディスプレイ等のマンマシンインタフェースである。通信インタフェース92は、上述した各実施の形態に係る装置(図1、4、10、11、12、14、16および19)が、外部装置と、通信ネットワーク80を介して通信するための一般的な通信手段である。係るハードウェア構成において、CPU91は、各実施の形態に係る棚割情報生成装置(10、100〜106)および撮像装置(200、202、206)を実現する情報処理装置90について、全体の動作を司る。
上述した各実施の形態を例に説明した本発明は、例えば、上記各実施の形態において説明した処理を実現可能なプログラム(コンピュータプログラム)を、図21に示す情報処理装置90に対して供給した後、そのプログラムを、CPU91に読み出して実行することによって達成される。なお、係るプログラムは、例えば、上記各実施の形態の説明において参照したフローチャート(図6および13)に記載した各種処理や、或いは、図1、4、10、11、12、14、16および19に示したブロック図において当該装置内に示した各部(各ブロック)を実現可能なプログラムであってもよい。
また、情報処理装置90内に供給されたプログラムは、読み書き可能な一時記憶メモリ(95)またはハードディスクドライブ等の不揮発性の記憶装置(97)に格納されてもよい。即ち、記憶装置97において、プログラム群97Aは、例えば、上述した各実施の形態における棚割情報生成装置(10、100〜106)および撮像装置(200、202、206)内に示した各部の機能を実現可能なプログラムである。また、各種の記憶情報97Bは、例えば、上述した各実施の形態における撮影画像、商品を認識するための情報、認識結果、認識履歴、棚割履歴、推奨棚割情報等である。ただし、情報処理装置90へのプログラムの実装に際して、個々のプログラム・モジュールの構成単位は、ブロック図に示した各ブロックの区分けには限定されず、当業者が実装に際して適宜選択してよい。
また、前記の場合において、当該装置内へのプログラムの供給方法は、CD(Compact Disk)−ROM、フラッシュメモリ等のコンピュータ読み取り可能な各種の記録媒体(99)を介して当該装置内にインストールする方法や、インターネット等の通信回線(80)を介して外部よりダウンロードする方法等のように、現在では一般的な手順を採用することができる。そして、このような場合において、本発明は、係るコンピュータプログラムを構成するコード(プログラム群97A)或いは係るコードが格納された記憶媒体(99)によって構成されると捉えることができる。
上述した各実施形態では、ブロック図に示した各ブロックに示す機能を、図21に示すCPU95が実行する一例として、ソフトウェアプログラムによって実現する場合について説明した。しかしながら、ブロック図に示した各ブロックに示す機能は、一部または全部を、ハードウェアの回路として実現してもよい。
なお、上述した各実施の形態は、本発明の好適な実施の形態であり、上記各実施の形態にのみ本発明の範囲を限定するものではなく、本発明の要旨を逸脱しない範囲において当業者が上記各実施の形態の修正や代用を行い、種々の変更を施した形態を構築することが可能である。