JP2016181063A - 商品登録装置、プログラム、及び制御方法 - Google Patents

Abstract

【課題】購入する商品を登録する装置で商品が認識されたことを確認できる技術を提供する。【解決手段】商品登録装置２０００は、認識部２０２０、撮像部２０４０、検出部２０６０、及び判定部２０８０を有する。認識部２０２０は商品認識する。撮像部２０４０は顧客の動作を撮像して顧客画像を生成する。検出部２０６０は、顧客画像を用いて、検出対象エリアの中に商品が配置されたことを検出する。検出対象エリアは、認識部２０２０によって商品が認識されるエリアを含む空間である。判定部２０８０は、検出対象エリアの中に商品が配置されたことが検出された場合に、商品が認識部２０２０によって認識されたか否かを判定する。【選択図】図１

Description

本発明は、商品登録装置、プログラム、及び制御方法に関する。

スーパーマーケット等の店舗において、顧客が自分で操作するレジ端末が運用され始めている。顧客は、購入する商品に付されているバーコードなどをレジ端末に読み取らせることで、購入する商品の登録を行う。その後、顧客は、画面に表示される代金をレジ端末に投入することで、登録した商品を購入する。

このようなレジ端末に関連する技術を開示する文献として、特許文献１がある。特許文献１は、商品のスキャンが行われたことを確認する発明を開示している。具体的には特許文献１の発明は、（１）買い物かごから商品が取り出されたこと、及び（２）収納袋に商品が納められたことを検出する。そしてこの発明は、（１）と（２）の間に商品がスキャンされなかった場合に、エラー警告を報知する。

特開２０１１−５４０３８号公報

顧客が自分で操作するレジ端末において、商品の登録が正しく行われない場合がある。例えば、顧客がレジ端末のバーコードリーダに商品をかざしたものの、バーコードリーダなどの動作不良により、商品の登録が行われないことがある。複数の商品を購入する際に一部の商品が誤って登録されなかった場合、顧客は、一部の商品が登録されていないことに気づかない可能性がある。その結果、顧客が意図せず商品を不正に持ち出すことになってしまい、顧客と店舗との間のトラブルにつながるおそれがある。

ここで、前述の特許文献１の技術は、買い物かご及びレジ袋の使用を前提としている。そのため、特許文献１の発明は、買い物かごや収納袋が用意されていない小規模な店舗では利用できない。また一般に、顧客は、購入する商品の数が少ない場合、買い物かごや収納袋を利用しないことが多い。このような場合、特許文献１の発明は利用できない。

本発明は、上記の課題に鑑みてなされたものである。本発明の目的は、購入する商品を登録する装置において、商品が認識されたことを確認できる技術を提供することである。

本発明の商品登録装置は、商品を認識する認識手段と、顧客の動作を撮像して画像を生成する撮像手段と、前記撮像手段によって生成された画像を用いて、前記認識手段によって商品が認識されるエリアである認識エリアを含む検出対象エリアの中に商品が配置されたことを検出する検出手段と、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された場合に、商品が前記認識手段によって認識されたか否かを判定する判定処理を行う判定手段と、を有する。

本発明のプログラムは、コンピュータを、本発明の商品登録装置として動作させる。

本発明の制御方法は、コンピュータによって実行される。当該制御方法は、商品を認識する認識ステップと、顧客の動作を撮像して画像を生成する撮像ステップと、前記撮像ステップによって生成された画像を用いて、前記認識ステップによって商品が認識されるエリアである認識エリアを含む検出対象エリアの中に商品が配置されたことを検出する検出ステップと、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された場合に、商品が前記認識ステップによって認識されたか否かを判定する判定処理を行う判定ステップと、を有する。

購入する商品を登録する装置において、商品が認識されたことを確認できる技術が提供される。

実施形態１に係る商品登録装置を例示するブロック図である。 商品登録装置を具体的に例示する図である。 商品登録装置を正面から見た図である。 実施形態１の商品登録装置によって実行される処理の流れを例示するフローチャートである。 商品登録装置の実装に用いられる計算機のハードウエア構成を例示するブロック図である。 実施形態２に係る商品登録装置を例示するブロック図である。 実施形態２の商品登録装置によって実行される処理の流れを例示するフローチャートである。 ２つの商品が認識部に認識される様子を例示する第１の図である。 ２つ商品のうち、１つの商品が認識エリア８０を通過しない様子を例示する図である。 ２つの商品が認識部に認識される様子を例示する第２の図である。 実施形態３の商品登録装置によって実行される処理の流れを例示するフローチャートである。 実施形態４の商品登録装置によって実行される処理の流れを例示するフローチャートである。

以下、本発明の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。

［実施形態１］
図１は、実施形態１に係る商品登録装置２０００を例示するブロック図である。図１において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。

商品登録装置２０００は、認識部２０２０、撮像部２０４０、検出部２０６０、及び判定部２０８０を有する。認識部２０２０は商品を認識する。撮像部２０４０は顧客の動作を撮像して画像を生成する。以下、撮像部２０４０によって生成される画像を、顧客画像と表記する。検出部２０６０は、顧客画像を用いて、検出対象エリアの中に商品が配置されたことを検出する。検出対象エリアは、認識部２０２０によって商品が認識されるエリア（以下、認識エリア）を含む空間である。判定部２０８０は、検出対象エリアの中に商品が配置されたことが検出された場合に、商品が認識部２０２０によって認識されたか否かを判定する。

図２は、商品登録装置２０００を具体的に例示する図である。カメラ１０は撮像部２０４０の一形態であるカメラである。筐体２０は、リーダ４０の筐体である。リーダ４０は、認識部２０２０の一形態であるバーコードリーダである。リーダ４０は、商品５０に付されているバーコードを読み取ることで、商品５０を認識する。リーダ４０によって認識された商品は、精算対象の商品として登録される。台６０は、商品や商品かごを置くための台である。なお、カメラ１０は、筐体２０の中に収められていてもよい。

図３は、商品登録装置２０００を正面から見た図である。検出対象エリア７０は、前述の検出対象エリアを表す。認識エリア８０は、リーダ４０が商品を認識できる（バーコードを読み取ることができる）空間を表す。前述した通り、検出対象エリア７０は認識エリア８０を含む。例えば検出対象エリア７０は、図３のように、正面から見た場合に筐体２０を全て含む。

検出部２０６０は、カメラ１０によって生成される顧客画像を利用して、商品５０が検出対象エリア７０の中に配置されたことを検出する。判定部２０８０は、この検出が行われた場合に、商品５０が認識されたか否か（商品５０のバーコードが読み取られたか否か）を判定する。

なお、後述するように、認識部２０２０が商品を認識する方法は、商品に付されたバーコードを読み取る方法に限定されない。

＜作用・効果＞
顧客の操作ミスなどにより、商品が認識部２０２０の認識エリアの外を通過してしまうと、認識部２０２０によって商品認識されない。また、認識部２０２０の動作エラーなどにより、商品が認識部２０２０に認識されないこともある。これらの場合、顧客は、商品が認識されなかった商品の代金を支払わないこととなってしまい、顧客と店舗との間でトラブルが生じてしまう恐れがある。

そこで、本実施形態の商品登録装置２０００は、認識部２０２０の認識エリアを含む検出対象エリアの中に商品が配置されたことを検出する。こうすることで、商品が認識部２０２０の認識エリア及びその付近を通過したことを検出することができる。

さらに、商品登録装置２０００は、検出対象エリアの中に商品が配置されたことを検出した後に、認識部２０２０によって商品が認識されたか否かを判定する。認識部２０２０によって商品が認識されなかった場合、商品が認識部２０２０の認識エリア又はその付近を通過したにも関わらず、商品が認識されていないことになる。そのため、この場合には、前述した顧客の操作ミスや認識部２０２０の動作エラーが起こった可能性がある。

本実施形態の商品登録装置２０００によれば、このように顧客の操作ミスや認識部２０２０の動作エラーなどが起こった可能性がある状況を把握することができる。そのため、顧客と店員との間でトラブルが生じたりすることを防ぐことができる。

さらに、本実施形態の商品登録装置２０００によれば、検出対象エリアに商品が配置されたことの検出に応じて、商品が認識されたか否かの判定が行われるため、買い物かごや収納袋が利用されない状況においても、商品が商品登録装置２０００によって認識されたか否かの確認が可能である。

以下、本実施形態の商品登録装置２０００について、さらに詳細に説明する。

＜処理の流れ＞
図４は、実施形態１の商品登録装置２０００によって実行される処理の流れを例示するフローチャートである。撮像部２０４０は、顧客の動作を撮像して顧客画像を生成する（Ｓ１０２）。検出部２０６０は、顧客画像を用いて、商品が検出対象エリア内に配置されたか否かを判定する（Ｓ１０４）。商品が検出対象エリア内に配置されていない場合（Ｓ１０６：ＮＯ）、図４の処理はＳ１０２に戻る。一方、商品が検出対象エリア内に配置された場合（Ｓ１０６：ＹＥＳ）、図４の処理はＳ１０８に進む。

Ｓ１０８において、判定部２０８０は、商品が認識部２０２０によって認識されたか否かを判定する。

＜ハードウエア構成例＞
商品登録装置２０００は、ハードウエア（例：ハードワイヤードされた電子回路など）のみで実現されてもよいし、ハードウエアとソフトウエアとの組み合わせ（例：電子回路とそれを制御するプログラムの組み合わせなど）で実現されてもよい。

商品登録装置２０００は、例えばレジ端末などの専用端末を用いて実装される。ただし商品登録装置２０００は、このような専用端末ではなく、PC（Personal Computer）やサーバマシンなどの種々の汎用計算機を用いて実装されてもよい。

図５は、商品登録装置２０００の実装に用いられる計算機１０００のハードウエア構成を例示するブロック図である。計算機１０００は、バス１０２０、プロセッサ１０４０、メモリ１０６０、ストレージ１０８０、及び入出力インタフェース１１００を有する。バス１０２０は、プロセッサ１０４０、メモリ１０６０、ストレージ１０８０、及び入出力インタフェース１１００が、相互にデータを送受信するためのデータ伝送路である。ただし、プロセッサ１０４０などを互いに接続する方法は、バス接続に限定されない。プロセッサ１０４０は、例えば CPU (Central Processing Unit) や GPU (Graphics Processing Unit) などの演算処理装置である。メモリ１０６０は、例えば RAM (Random Access Memory) や ROM (Read Only Memory) などのメモリである。ストレージ１０８０は、例えばハードディスク、SSD (Solid State Drive)、又はメモリカードなどの記憶装置である。また、ストレージ１０８０は、RAM や ROM 等のメモリであってもよい。

入出力インタフェース１１００は、計算機１０００と入出力デバイスとを接続するためのインタフェースである。計算機１０００は、入出力インタフェース１１００を介して、カメラ１０及びリーダ４０と接続されている。カメラ１０は、撮像部２０４０を実装するための撮像素子を有するカメラである。また、リーダ４０は、認識部２０２０を実装するためのリーダである。ただし、後述するように、認識部２０２０はカメラを用いて実装される場合もある。なお、カメラ１０やリーダ４０は、計算機１０００の内部に組み込まれていてもよい。また、計算機１０００は、入出力インタフェース１１００を介して、キーボード、マウス、又はディスプレイなどの入出力デバイスとさらに接続されていてもよい。

ストレージ１０８０は、商品登録装置２０００の機能を実現するためのプログラムを記憶している。具体的には、ストレージ１０８０は、検出部２０６０及び判定部２０８０の機能を実現するプログラムモジュールを記憶している。また、ストレージ１０８０は、カメラ１０やリーダ４０を制御するためのプログラムモジュールを含んでいてもよい。プロセッサ１０４０は、これら各プログラムモジュールを実行することで、各機能構成部の機能を実現する。ここでプロセッサ１０４０は、上記各モジュールを実行する際、これらのモジュールをメモリ１０６０上に読み出してから実行してもよいし、メモリ１０６０上に読み出さずに実行してもよい。

計算機１０００のハードウエア構成は図５に示した構成に限定されない。例えば、各プログラムモジュールはメモリ１０６０に格納されてもよい。この場合、計算機１０００は、ストレージ１０８０を備えていなくてもよい。

＜認識部２０２０の詳細＞
認識部２０２０の具体的な実装方法は、認識部２０２０が商品を認識する方法によって異なる。例えば認識部２０２０は、商品に付された商品情報シンボルを読み取ることで、その商品を認識する。商品情報シンボルは、商品に関する情報を特定するシンボルである。ここで、シンボルとは、バーコード、２次元コード（ＱＲコード（登録商標）など）、又は文字列シンボルなどである。なお、ここでいう文字列には、数値列も含まれる。そして、商品情報シンボルは、商品情報を特定する情報（商品情報のＩＤなど）が符号化されたバーコード等、又は商品情報を特定する情報を表す文字列シンボルなどである。

商品情報シンボルを読み取る認識部２０２０の具体的な実装方法は、商品情報シンボルとして何を用いるかによって異なる。例えば商品情報シンボルがバーコードである場合、認識部２０２０はバーコードリーダを有する。また例えば、商品情報シンボルが２次元コードである場合、認識部２０２０は、２次元コードリーダを有する。また例えば、商品情報シンボルが文字列シンボルである場合、認識部２０２０は、この文字列を撮像する撮像素子と、撮像された文字列シンボルを解析して商品のＩＤなどを割り出す処理部とを有する。なお、文字列シンボルの解析には、文字列解析に関する様々な既知の技術を用いることができる。これら既知の技術に関する説明は省略する。

なお、商品情報シンボルとして複数の種類のシンボルが用いられる場合、認識部２０２０は、これら複数の種類のシンボルそれぞれを読み取るためのリーダ等を有する。例えば、商品情報シンボルとしてバーコード及び２次元コードが用いられる場合、認識部２０２０は、バーコードリーダ及び２次元コードリーダを有する。

認識部２０２０は、商品を撮像して商品の画像を生成し、その画像に対してオブジェクト認識を行うことで、商品を認識してもよい。この場合、認識部２０２０は、商品を撮像して画像を生成する撮像素子を有する。ここで、画像に写っている商品を認識する方法には、オブジェクト認識に関する種々の既知の技術を利用できる。そのため、認識部２０２０が商品の画像から商品を認識する具体的な方法については省略する。

＜撮像部２０４０の詳細＞
撮像部２０４０は、顧客の動作を撮像して顧客画像を生成する撮像素子を有する。ここで、撮像部２０４０は、静止画像を撮像してもよいし、動画を撮像してもよい。後者の場合、顧客画像は動画を構成する各フレームである。

撮像部２０４０が撮像を行うタイミングは様々である。例えば撮像部２０４０は、繰り返し撮像を行ってもよい。撮像部２０４０が繰り返し撮像を行う頻度は、例えば一般的な動画のフレームレートと同じ 1/30 秒である。

また例えば撮像部２０４０は、顧客の動作が行われるタイミング及びその前後のみ撮像を行ってもよい。例えば認識部２０２０の付近に人の検出を行う赤外線センサなどを設ける。撮像部２０４０は、この赤外線センサからの通知を受けることで、認識部２０２０の付近に顧客がいることを把握することができる。そこで例えば、撮像部２０４０は、この赤外線センサによって認識部２０２０の付近に顧客がいることが検出された時から、この赤外線センサによって顧客が検出されなくなるまでの間、撮像を行う。

ここで、認識部２０２０が、撮像素子を用いて構成されているとする。例えば、前述した２次元コードリーダは、２次元コードを撮像する撮像素子を含む。また、認識部２０２０がオブジェクト認識を行う場合も、認識部２０２０は撮像素子を有する。このとき、撮像部２０４０の撮像素子の解像度は、認識部２０２０の撮像素子の解像度よりも低くてよい。これは、２次元コードなどの商品情報シンボルを検出したり、オブジェクト認識によって商品を認識したりするために必要となる画像の解像度に比べ、検出対象エリア内に商品があるか否かの検出に必要となる画像の解像度の方が小さいためである。このように撮像部２０４０の撮像素子の解像度を低くすることで、商品登録装置２０００の製造コストを安くすることができる。ただし、撮像部２０４０の撮像素子の解像度は、認識部２０２０の撮像素子の解像度以上であってもよい。

また、認識部２０２０が商品を撮像して商品を認識する場合、認識部２０２０は、撮像部２０４０と一体に設けられてもよい。例えばこの場合、認識部２０２０と撮像部２０４０は、１つのカメラなどを用いて実装される。また、認識部２０２０と撮像部２０４０とを別々のカメラなどで実装し、これらを同じ筐体に収めてもよい。

＜検出部２０６０の詳細＞
検出部２０６０は、顧客画像の解析を行う（図４のＳ１０４）。具体的には、検出部２０６０は、顧客画像を解析することで、商品が検出対象エリア内に配置されたことを検出する処理（以下、検出処理）を行う。

＜＜検出処理の詳細＞＞
検出対象エリアは、例えば撮像部２０４０の撮像範囲である。この場合、検出対象エリアは、顧客画像に写っている範囲全部となる。そこで検出部２０６０は、顧客画像に商品が写っている場合、商品が検出対象エリア内に配置されたと判断する。なお、画像内に商品が写っているか否かの判断には、画像から所定のオブジェクトを検出する様々な既知の技術を利用できる。これら既知の技術に関する説明は省略する。

検出対象エリアは、撮像部２０４０の撮像範囲の一部であってもよい。例えば、撮像部２０４０が撮像のために有するレンズが、広角レンズのように、中心から離れるほど画像に映る景色がゆがむレンズであるとする。この場合、中心から大きく離れた範囲に写っている物は大きくゆがむため、その物が商品であるか否かを判別することが難しい。そこでこのような場合などにおいて、検出対象エリアは、顧客画像の中心から所定範囲に限定されてもよい。検出部２０６０は、顧客画像の内、この所定範囲内の部分について解析を行うことで、その所定範囲内に商品が写っているか否かを判別する。そして、撮像部２０４０は、この所定範囲内に商品が写っている場合、商品が検出対象エリア内に配置されたと判断する。

「検出対象エリアをどのような範囲にするか」に関する設定は、予め検出部２０６０に設定されていてもよいし、商品登録装置２０００の内部又は外部に設けられている記憶部に記憶されていてもよい。後者の場合、検出部２０６０は、この記憶部から上記設定を読み出す。

撮像部２０４０が繰り返し撮像を行う場合、複数の顧客画像に同じ商品が複数回写ることがある。このよう場合、検出部２０６０は、複数の顧客画像に写った商品が同じ商品であることを把握できる必要がある。さもないと、例えば顧客が認識部２０２０にある商品を認識させる様子が２回撮像された場合に、検出部２０６０は、「検出対象エリアに商品が配置された」という検出を２回行ってしまう。

そこで検出部２０６０は、ある商品が、顧客の一連の動作に基づいて複数の顧客画像に写っている場合、これら複数の顧客画像を一群の顧客画像として扱う。そして、検出部２０６０は、これら一群の顧客画像について、「検出対象に商品が配置された」という検出を１回だけ行う。

顧客の一連の動作は、「商品を認識部２０２０に近づけ、認識部２０２０に認識させ、その商品を認識部２０２０から遠ざける」という一連の動作である。例えばこの動作は、商品が認識部２０２０の前を横切るように商品を移動させる動作などである。なお、この顧客の一連の動作は、顧客の進行方向に商品を横切らせる動作であってもよいし、その逆の方向に商品を横切らせる動作であってもよい。

前述した「一群の顧客画像」について説明する。顧客が商品を認識部２０２０に認識させる際、「ある商品が検出対象エリアに入る」及び「その商品が検出対象エリアから出る」という２つの変化が起こる。そこで、検出部２０６０は、時系列で撮像された複数の顧客画像のうち、ある商品が初めて検出対象エリア内に写っている顧客画像を、一群の顧客画像に含まれる第１顧客画像とする。また、検出部２０６０は、第１顧客画像以降に撮像された顧客画像であり、その商品が最後に検出対象エリアに写っている顧客画像（その商品が初めて検出対象エリア内に写らなくなった顧客画像の１つ前の顧客画像）を、一群の顧客画像に含まれる第２顧客画像とする。そして、検出部２０６０は、第１顧客画像、第２顧客画像、及びこれらの撮像時点の間の時点に撮像された各顧客画像の集合を、一群の顧客画像とする。

検出部２０６０が検出処理を行うタイミングは様々である。例えば検出部２０６０は、顧客画像が生成される度に、その顧客画像を用いて検出処理を行う。この場合、撮像部２０４０によって生成される全ての顧客画像が、検出処理に用いられる。

また例えば、検出部２０６０は、前述した赤外線センサ等によって、顧客が商品登録装置２０００の付近にいることが検出されてから、顧客がその赤外線センサ等によって検出されなくなるまでの間のみ、検出処理を行ってもよい。この場合、撮像部２０４０によって生成される顧客画像のうち、顧客が商品登録装置２０００の付近にいることが検出されてから、顧客がその赤外線センサ等によって検出されなくなるまでの間に生成された顧客画像のみが、検出処理に用いられる。

前述したように、検出対象エリアは、認識エリア（認識部２０２０が商品を認識するエリア）を含む領域である必要がある。商品登録装置２０００の管理者等は、この要件が満たされるように、予め認識部２０２０、撮像部２０４０、又は検出部２０６０の設定を行ったり、これらを構成するハードウエアを適宜選択する。

例えば、管理者等は、認識部２０２０や撮像部２０４０の設置方向を適切に設定する。具体的には、管理者等は、認識部２０２０を構成するリーダなどの向き、撮像部２０４０を構成するカメラなどの向き、又はこれら双方を適切に設定することで、認識エリアが検出対象エリアに含まれるようにする。

また例えば管理者等は、認識部２０２０を構成するリーダなどが商品情報シンボルを読み取る範囲が、撮像部２０４０を構成するカメラなどの画角より狭くなるように、認識部２０２０と撮像部２０４０の実装に用いるリーダやカメラなどを適宜選択する。

また例えば、認識部２０２０が撮像した商品を認識する場合、管理者等は、認識部２０２０が商品を認識するために解析する画像の範囲、検出部２０６０に設定する検出対象エリア、又はこれら双方を適切に設定することで、認識エリアが検出対象エリアに含まれるようにする。

＜判定部２０８０の詳細＞
判定部２０８０は、認識部２０２０による認識の結果、及び検出部２０６０による検出の結果に基づいて、判定を行う。例えば判定部２０８０は、以下のいずれかの判定処理を行う。

＜＜判定処理１＞＞
判定部２０８０は、検出対象エリア内に商品が配置されたことが検出されてから所定時間以内に、商品が認識部２０２０に認識されたか否かを判定する。判定部２０８０は、上記所定時間以内に商品が認識部２０２０に認識された場合、「検出対象エリア内に商品が配置されたことが検出された後に、商品が認識部２０２０に認識された」と判定する。一方、判定部２０８０は、上記所定時間以内に商品が認識部２０２０に認識されたなかった場合、「検出対象エリア内に商品が配置されたことが検出された場合に、商品が認識部２０２０に認識されなかった」と判定する。なお、上記所定時間は、例えば 0.5 秒である。

通常、検出対象エリア内に配置された商品は、その後すぐに認識部２０２０によって認識される。そのため、検出対象エリア内に配置されたにも関わらず、0.5 秒などの所定時間が経過しても商品が認識されない場合、前述した顧客の操作ミスや認識部２０２０の動作エラーなどが起こった可能性がある。そこで判定部２０８０は、このような場合に、「商品が認識されなかった」と判定する。

＜＜判定処理２＞＞
また例えば、判定部２０８０は、検出対象エリア内に商品が配置されたことが検出された後から、再度検出対象エリア内に商品が配置されたことが検出される前の期間に、商品が認識部２０２０に認識されなかったか否かを判定する。判定部２０８０は、上記期間に商品が認識された場合、「検出対象エリア内に商品が配置されたことが検出された場合に、商品が認識部２０２０に認識された」と判定する。一方、判定部２０８０は、上記期間に商品が認識されなかった場合、「検出対象エリア内に商品が配置されたことが検出された場合に、商品が認識部２０２０に認識されなかった」と判定する。

商品を複数購入する場合、例えば顧客は、各商品を順に認識部２０２０に認識させる。そのため、ある商品が検出対象エリア内に配置された場合、その商品が認識部２０２０に認識された後に、次の商品が検出対象エリア内に配置される。よって、ある商品が検出対象エリアに配置された後、次の商品が検出対象エリア内に配置される前に、商品が認識部２０２０に認識されなかった場合、前述した顧客の操作ミスや認識部２０２０の動作エラーなどが起こった可能性がある。そこで、判定部２０８０は、このような場合に、「商品が認識されなかった」と判定する。

＜＜その他＞＞
認識部２０２０によって商品が認識されたことを判定部２０８０が把握する方法は様々である。例えば認識部２０２０は、商品を認識した際、判定部２０８０に対してシグナルを送信する。判定部２０８０は、このシグナルを受け取ることで、商品が認識されたことを把握する。

また例えば、認識部２０２０が、商品を認識した際に、認識した情報などを記憶部に記憶するとする。この場合、判定部２０８０は、この記憶部にアクセスし、認識部２０２０によって認識された情報が記憶されているか否かを判定することで、認識部２０２０によって商品が認識されたか否かを判定する。

判定部２０８０は、「検出対象エリアに商品が配置された場合」に、商品が認識されたか否かの判定を行う。そこで、判定部２０８０は、検出対象エリアに商品が配置された時点を把握する。検出対象エリアに商品が配置された時点は、例えばその商品を撮像した顧客画像の撮像時点によって表される。判定部２０８０は、判定部２０８０によって「検出対象エリアに商品が配置された」と検出された際、その検出に対応する顧客画像の撮像時点を取得することで、検出対象エリアに商品が配置された時点を把握する。

なお、前述したように同じ商品が複数の顧客画像に写っている場合、例えば検出部２０６０は、それら複数の顧客画像の撮像時点の内、最も早い撮像時点を、検出対象エリアに商品が配置された時点として扱う。

［実施形態２］
図６は、実施形態２に係る商品登録装置２０００を例示するブロック図である。図６において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。

実施形態２の商品登録装置２０００は警告部２１００を有する。警告部２１００は、判定部２０８０によって、「検出対象エリアの中に商品が配置された場合に、商品が認識部２０２０によって認識されなかった」と判定された場合に、警告処理を行う（後述する図７のＳ２０２及びＳ２０４）。

警告部２１００が行う警告処理は様々である。例えば警告部２１００が行う警告処理は、アラーム音の出力である。この場合、商品登録装置２０００は、アラーム音を出力するスピーカなどを有する。また例えば、警告部２１００が行う警告処理は、パトランプの点灯である。この場合、商品登録装置２０００は、このパトランプを有する。

また例えば、警告部２１００が行う警告処理は、商品登録装置２０００に接続されているディスプレイや管理者（店員など）用の端末のディスプレイに、警告を表すポップアップウインドウなどを表示する処理である。ここで、商品登録装置２０００に接続されているディスプレイは、精算金額などの情報を顧客に提示するディスプレイである。

さらに警告部２１００は、警告処理として、顧客が商品登録装置２０００を操作できないようにする処理を行ってもよい。例えばこの処理は、認識部２０２０が商品を認識できないようにする処理や、商品登録装置２０００が顧客から代金の投入を受け付けないようにする処理である。

＜処理の流れ＞
図７は、実施形態２の商品登録装置２０００によって実行される処理の流れを例示するフローチャートである。なお、実施形態２の商品登録装置２０００が行う処理と実施形態１の商品登録装置２０００が行う処理は、Ｓ１０２からＳ１０８が共通している。そのため、図７において、Ｓ１０８より前の処理は省略している。

検出対象エリア内に商品が配置されたことが検出された場合に、商品が認識されたとき（Ｓ２０２：ＹＥＳ）、図７の処理はＳ１０２に進む。一方、検出対象エリア内に商品が配置されたことが検出された場合に、商品が認識されなかったとき（Ｓ２０２：ＮＯ）、警告部２１００は警告処理を行う（Ｓ２０４）。

＜ハードウエア構成＞
例えば実施形態２の商品登録装置２０００は、実施形態１の商品登録装置２０００と同様に、図５の計算機１０００を用いて実装される。本実施形態において、ストレージ１０８０に記憶される各プログラムモジュールには、本実施形態で説明した各機能を実現するプログラムがさらに含まれる。また、ストレージ１０８０は、警告部２１００を実現するプログラムモジュールをさらに記憶する。プロセッサ１０４０は、このプログラムモジュールを実行することで、警告部２１００の機能を実現する。

＜作用・効果＞
本実施形態によれば、「検出部２０６０によって検出対象エリアの中に商品が配置されたことが検出された場合に、商品が認識部２０２０によって認識されなかった」という状況において、警告が行われる。こうすることで、前述した顧客の操作ミスや認識部２０２０の動作エラーなどが起こった可能性がある場合に警告が行われるため、店員や顧客はこれらの可能性があることを明確に把握することできる。よって、顧客が操作ミスを把握して操作をやり直すことができる。また、商品が認識されていないことを店員が顧客に伝えるなどという対処も可能となる。

［実施形態３］
実施形態３に係る商品登録装置２０００は、実施形態１の商品登録装置２０００と同様に、図１で表される。下記で説明する点を除き、実施形態２の商品登録装置２０００は、実施形態１の商品登録装置２０００と同様の構成を有する。

複数の商品が、同時又は近いタイミングで、認識部２０２０に認識されることがある。図８は、２つの商品が認識部２０２０に認識される様子を例示する第１の図である。この場合、商品５０−１と商品５０−２がほぼ同時に認識エリア８０を通過するため、これら２つの商品がほぼ同時に認識部２０２０によって認識される。

ここで、複数の商品を認識部２０２０に認識させる場合、例えば顧客が、「一部の商品が認識部２０２０の認識エリアを通過しないように商品を移動させてしまい、一部の商品が認識部２０２０に認識されない」という操作ミスが生じる可能性がある。図９は、２つ商品のうち、１つの商品が認識エリア８０を通過しない様子を例示する図である。具体的には、商品５０−１は認識エリア８０を通過していない。そのため、商品５０−１は認識部２０２０によって認識されない。また、認識部２０２０の動作エラーなどにより、一部の商品が認識されないという状況も生じうる。

そこで実施形態３の判定部２０８０は、検出対象エリア７０内に配置された商品の数を考慮して判定を行う。具体的には、検出部２０６０は、検出対象エリア内に商品が配置されたことを検出した際に、検出対象エリアに配置されている商品の数（以下、商品数）を割り出す（図１１のＳ３０２）。そして判定部２０８０は、検出部２０６０によって検出対象エリア内に商品が配置されたことが検出された場合に、検出部２０６０によって割り出された商品数の商品が認識部２０２０によって認識されたか否かを判定する（図１１のＳ３０４）。以下、検出対象エリア内に同時に配置されている複数の商品を、商品群を表記する。

＜商品数を割り出す方法＞
前述したように、検出部２０６０は、検出対象エリア内に商品が配置されたことを検出した際に、商品数を割り出す（図１１のＳ３０２）。検出部２０６０が商品数を割り出す方法は様々である。例えば検出部２０６０は、顧客画像を対象にオブジェクト認識を行うことで、商品群に含まれる各商品を表す領域を検出する。そして、検出部２０６０は、検出した領域の個数を、商品数とする。ここで、画像に対してオブジェクト認識処理を行うことで、所定のオブジェクトを検出したり、そのオブジェクトの個数を割り出す方法には、既知の様々な技術を利用できる。検出部２０６０は、このような様々な既知の技術を利用できる。そのため、検出部２０６０が商品数を割り出す処理は、例示した処理に限定されにない。なお、既知の技術に関する説明は省略する。

＜商品群の検出方法＞
検出部２０６０は、実施形態１の検出部２０６０と同様に、顧客画像を解析することで、検出対象エリア内に商品群が配置されたことを検出する。

ただし、商品群に含まれる各商品は、異なるタイミングで検出対象エリアに入る場合もある。図１０は、２つの商品５０が認識部２０２０に認識される様子を例示する第２の図である。図１０において、２つの商品５０は、異なるタイミングで検出対象エリア７０に入る。例えば図１０のような状況は、顧客が、左手に持った商品と右手に持った商品をそれぞれ認識部２０２０に認識させようとした場合などに起こりうる。

そこで検出部２０６０は、ある商品が検出対象エリア内に配置されたことを検出した後、その商品が検出対象エリア内にある間に、さらに別の商品が検出対象エリア内に配置された場合、これらの複数の商品を１つの商品群として扱う。そして、検出部２０６０は、この１つの商品群について１回のみ、「商品が検出対象エリア内に配置された」と検出する。

＜判定部２０８０の動作＞
判定部２０８０は、認識部２０２０による認識の結果、及び検出部２０６０による検出の結果に基づいて、判定を行う（図１１のＳ３０４）。例えば判定部２０８０は、以下のいずれかの判定を行う。

＜＜判定処理１＞＞
例えば判定部２０８０は、検出対象エリア内に商品が配置されたことが検出されてから所定時間以内に、商品数の商品が認識部２０２０に認識されたか否かを判定する。判定部２０８０は、上記所定時間以内に、商品数の商品が認識された場合、「検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０に認識された」と判定する。一方、判定部２０８０は、上記所定時間以内に商品が認識されなかったか、又は上記所定時間以内に認識された商品の数が商品数未満であった場合に、「検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０に認識されなかった」と判定する。

＜＜判定処理２＞＞
また例えば、判定部２０８０は、検出対象エリア内に商品が配置されたことが検出された後から、再度検出対象エリア内に商品が配置されたことが検出される前の期間に、商品数の商品が認識部２０２０に認識されたか否かを判定する。判定部２０８０は、上記期間に、商品数の商品が認識された場合、「検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０に認識された」と判定する。一方、判定部２０８０は、上記期間に商品が認識されなかったか、又は上記期間に認識された商品の数が商品数未満であった場合に、「検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０に認識されなかった」と判定する。

＜認識された商品の数を把握する方法＞
判定部２０８０が、認識部２０２０によって認識された商品の数を把握する方法は様々である。例えば、判定部２０８０が、商品を認識した認識部２０２０からシグナルを受信する場合、判定部２０８０は、受信したシグナルの個数と同じ数の商品が認識されたと把握する。また、認識部２０２０が、認識された商品に関する情報を記憶部に記憶する場合、判定部２０８０は、この記憶部にアクセスし、記憶部に記憶されている商品に関する情報の個数を調べることで、認識された商品の数を把握する。

＜処理の流れ＞
図１１は、実施形態３の商品登録装置２０００によって実行される処理の流れを例示するフローチャートである。実施形態３の商品登録装置２０００が行う処理と実施形態１の商品登録装置２０００が行う処理は、Ｓ１０２からＳ１０６が共通している。そのため、図１１において、Ｓ１０６より前の処理は省略している。

検出部２０６０は、検出対象エリアの中に商品が配置された商品の商品数を割り出す（Ｓ３０２）。判定部２０８０は、検出対象エリアの中に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０によって認識されたか否かを判定する（Ｓ３０４）。

＜ハードウエア構成＞
例えば実施形態３の商品登録装置２０００は、実施形態１の商品登録装置２０００と同様に、図５の計算機１０００を用いて実装される。本実施形態において、ストレージ１０８０に記憶される各プログラムモジュールには、本実施形態で説明した各機能を実現するプログラムがさらに含まれる。

＜作用・効果＞
本実施形態によれば、同時又は近いタイミングで複数の商品が認識部２０２０の認識エリア又はその付近を通過する場合において、それら商品の個数を考慮した判定が行われる。
そのため、「顧客がまとめて認識部２０２０に認識させようとした商品のうち、一部の商品が認識部２０２０に認識されなかった」という状況を把握することができる。よって、本実施形態の商品登録装置２０００によれば、実施形態１の商品登録装置２０００と比較し、顧客と店員との間でトラブルが生じたりすることを、より高い精度で防ぐことができる。

［実施形態４］
実施形態４の商品登録装置２０００は、実施形態２の商品登録装置２０００と同様に、図６で表される。

実施形態４の警告部２１００は、判定部２０８０によって、「検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０に認識されなかった」と判定された場合に、警告処理を行う（図１２のＳ４０４）。その他の点（警告処理の内容など）について、実施形態４の警告部２１００は、実施形態２の警告部２１００と同様である。

また実施形態４の商品登録装置２０００は、警告部２１００を有する点を除き、実施形態３の商品登録装置２０００と同様である。

＜処理の流れ＞
図１２は、実施形態４の商品登録装置２０００によって実行される処理の流れを例示するフローチャートである。なお、実施形態４の商品登録装置２０００が行う処理と実施形態３の商品登録装置２０００が行う処理は、Ｓ１０２からＳ１０８及びＳ３０２からＳ３０４が共通している。そのため、図１２において、Ｓ３０４より前の処理は省略している。

検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識されたとき（Ｓ４０２：ＹＥＳ）、図１２の処理はＳ１０２に進む。一方、検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識されなかったとき（Ｓ４０２：ＮＯ）、警告部２１００は警告処理を行う（Ｓ４０４）。

＜ハードウエア構成＞
例えば実施形態４の商品登録装置２０００は、実施形態３の商品登録装置２０００と同様に、図５の計算機１０００を用いて実装される。本実施形態において、ストレージ１０８０に記憶される各プログラムモジュールには、本実施形態で説明した各機能を実現するプログラムがさらに含まれる。また、本実施形態のストレージ１０８０は、実施形態２のストレージ１０８０と同様に、警告部２１００を実現するプログラムモジュールをさらに記憶する。プロセッサ１０４０は、このプログラムモジュールを実行することで、警告部２１００の機能を実現する。

＜作用・効果＞
本実施形態によれば、「検出部２０６０によって検出対象エリアの中に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０によって認識されなかった」という状況において、警告処理が行われる。こうすることで、実施形態３で説明した操作ミスなどが生じた場合に警告が行われるため、店員や顧客がこの状況の発生を明確に把握することできる。よって、顧客が操作ミスを把握して操作をやり直すことができる。また、商品が認識されていないことを店員が顧客に伝えるなどという対処も可能となる。

以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。

以下、参考形態の例を付記する。
１． 商品を認識する認識手段と、
顧客の動作を撮像して画像を生成する撮像手段と、
前記撮像手段によって生成された画像を用いて、前記認識手段によって前記商品が認識されるエリアである認識エリアを含む検出対象エリアの中に商品が配置されたことを検出する検出手段と、
前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された場合に、商品が前記認識手段によって認識されたか否かを判定する判定処理を行う判定手段と、
を有する商品登録装置。
２． 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出されてから所定時間以内に、前記商品が前記認識手段によって認識されたか否かを判定する処理である、１．に記載の商品登録装置。
３． 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後、再度前記検出手段によって前記検出対象エリアの中に商品が配置される前に、商品が前記認識手段によって認識されたか否かを判定する処理である、１．に記載の商品登録装置。
４． 前記判定処理により、検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後に、商品が前記認識手段によって認識されなかったと判定された場合に、警告処理を行う警告手段を有する１．に記載の商品登録装置。
５． 前記検出手段は、前記検出対象エリアの中に配置された商品の数を割り出し、
前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された場合に、前記商品の数の商品が前記認識手段によって認識されたか否かを判定する処理である、１．に記載の商品登録装置。
６． 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出されてから所定時間以内に、前記商品の数の商品が前記認識手段によって認識されたか否かを判定する処理である、５．に記載の商品登録装置。
７． 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後、再度前記検出手段によって前記検出対象エリアの中に商品が配置される前に、前記商品の数の商品が前記認識手段によって認識されたか否かを判定する処理である、５．に記載の商品登録装置。
８． 前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後に、前記商品の数の商品が前記認識手段によって認識されなかった場合に、警告処理を行う警告手段を有する５．に記載の商品登録装置。
９． 前記認識手段は、商品を撮像して画像を生成し、
前記撮像手段の撮像素子の解像度は前記認識手段の撮像素子の解像度よりも低い１．乃至８．いずれか一つに記載の商品登録装置。
１０． コンピュータを、１．乃至９．いずれか一つに記載の商品登録装置として動作させるプログラム。
１１． コンピュータによって実行される制御方法であって、
商品を認識する認識ステップと、
顧客の動作を撮像して画像を生成する撮像ステップと、
前記撮像ステップによって生成された画像を用いて、前記認識ステップによって商品が認識されるエリアである認識エリアを含む検出対象エリアの中に商品が配置されたことを検出する検出ステップと、
前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された場合に、商品が前記認識ステップによって認識されたか否かを判定する判定処理を行う判定ステップと、
を有する制御方法。
１２． 前記判定処理は、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出されてから所定時間以内に、商品が前記認識ステップによって認識されたか否かを判定する処理である、１１．に記載の制御方法。
１３． 前記判定処理は、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された後、再度前記検出ステップによって前記検出対象エリアの中に商品が配置される前に、商品が前記認識ステップによって認識されたか否かを判定する処理である、１１．に記載の制御方法。
１４． 前記判定処理により、検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された後に、商品が前記認識ステップによって認識されなかったと判定された場合に、警告処理を行う警告ステップを有する１１．に記載の制御方法。
１５． 前記検出ステップは、前記検出対象エリアの中に配置された商品の数を割り出し、
前記判定処理は、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された場合に、商品の数の商品が前記認識ステップによって認識されたか否かを判定する処理である、１１．に記載の制御方法。
１６． 前記判定処理は、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出されてから所定時間以内に、前記商品の数の商品が前記認識ステップによって認識されたか否かを判定する処理である、１５．に記載の制御方法。
１７． 前記判定処理は、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された後、再度前記検出ステップによって前記検出対象エリアの中に商品が配置される前に、前記商品の数の商品が前記認識ステップによって認識されたか否かを判定する処理である、１５．に記載の制御方法。
１８． 前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された後に、前記商品の数の商品が前記認識ステップによって認識されなかった場合に、警告処理を行う警告ステップを有する１５．に記載の制御方法。
１９． 前記認識ステップは、商品を撮像して画像を生成し、
前記撮像ステップで用いられる撮像素子の解像度は前記認識ステップで用いられる撮像素子の解像度よりも低い１１．乃至１８．いずれか一つに記載の制御方法。

１０ カメラ
２０ 筐体
４０ リーダ
５０ 商品
６０ 台
７０ 検出対象エリア
８０ 認識エリア
１０００ 計算機
１０２０ バス
１０４０ プロセッサ
１０６０ メモリ
１０８０ ストレージ
１１００ 入出力インタフェース
２０００ 商品登録装置
２０２０ 認識部
２０４０ 撮像部
２０６０ 検出部
２０８０ 判定部
２１００ 警告部

Claims (11)

1. 商品を認識する認識手段と、
   顧客の動作を撮像して画像を生成する撮像手段と、
   前記撮像手段によって生成された画像を用いて、前記認識手段によって前記商品が認識されるエリアである認識エリアを含む検出対象エリアの中に商品が配置されたことを検出する検出手段と、
   前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された場合に、商品が前記認識手段によって認識されたか否かを判定する判定処理を行う判定手段と、
   を有する商品登録装置。
2. 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出されてから所定時間以内に、商品が前記認識手段によって認識されたか否かを判定する処理である、請求項１に記載の商品登録装置。
3. 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後、再度前記検出手段によって前記検出対象エリアの中に商品が配置される前に、前記商品が前記認識手段によって認識されたか否かを判定する処理である、請求項１に記載の商品登録装置。
4. 前記判定処理により、検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後に、前記商品が前記認識手段によって認識されなかったと判定された場合に、警告処理を行う警告手段を有する請求項１に記載の商品登録装置。
5. 前記検出手段は、前記検出対象エリアの中に配置された商品の数を割り出し、
   前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された場合に、前記商品の数の商品が前記認識手段によって認識されたか否かを判定する処理である、請求項１に記載の商品登録装置。
6. 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出されてから所定時間以内に、前記商品の数の前記商品が前記認識手段によって認識されたか否かを判定する処理である、請求項５に記載の商品登録装置。
7. 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後、再度前記検出手段によって前記検出対象エリアの中に商品が配置される前に、前記商品の数の商品が前記認識手段によって認識されたか否かを判定する処理である、請求項５に記載の商品登録装置。
8. 前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後に、前記商品の数の前記商品が前記認識手段によって認識されなかった場合に、警告処理を行う警告手段を有する請求項５に記載の商品登録装置。
9. 前記認識手段は、前記商品を撮像して画像を生成し、
   前記撮像手段の撮像素子の解像度は前記認識手段の撮像素子の解像度よりも低い請求項１乃至８いずれか一項に記載の商品登録装置。
10. コンピュータを、請求項１乃至９いずれか一項に記載の商品登録装置として動作させるプログラム。
11. コンピュータによって実行される制御方法であって、
    商品を認識する認識ステップと、
    顧客の動作を撮像して画像を生成する撮像ステップと、
    前記撮像ステップによって生成された画像を用いて、前記認識ステップによって商品が認識されるエリアである認識エリアを含む検出対象エリアの中に商品が配置されたことを検出する検出ステップと、
    前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された場合に、商品が前記認識ステップによって認識されたか否かを判定する判定処理を行う判定ステップと、
    を有する制御方法。

Images