以下、実施形態の画像認識装置、POS端末装置、画像認識方法、およびプログラムを、図面を参照して説明する。なお以下の説明では、同一または類似の機能を有する構成に同一の符号を付す。そして、それら構成の重複する説明は省略する場合がある。
また、本願でいう「XXに基づいて」とは、「少なくともXXに基づく」ことを意味し、XXに加えて別の要素に基づく場合も含む。また、「XXに基づいて」とは、XXを直接に用いる場合に限定されず、XXに対して演算や加工が行われたものに基づく場合も含む。「XX」は、任意の要素(例えば、任意の情報)である。
実施形態の商品販売情報処理システムについて説明する。図1は、実施形態の商品販売情報処理システムの一例を示す図である。図1に示されるように、実施形態の商品販売情報処理システム1は、小売店等の店舗で使用されるシステムである店舗システムとして構成される。商品販売情報処理システム1は、販売時点情報管理サーバ2とPOS(Point Of Sales)端末3とを含んでいる。販売時点情報管理サーバ2とPOS端末3とは、LAN(Local Area Network)等の電気通信回線4を介して電気的に接続されている。
販売時点情報管理サーバ2は、商品を販売することによる売り上げ実績を集計する。販売時点情報管理サーバ2は、POS端末3が商品識別情報に関連付けられている商品に関連する情報である商品関連情報を要求するために送信する商品関連情報要求を受信する。販売時点情報管理サーバ2は、受信した商品関連情報要求に基づいて、商品関連情報を含む商品関連情報応答を作成する。販売時点情報管理サーバ2は、作成した商品関連情報応答を、商品関連情報要求を送信したPOS端末3へ送信する。
POS端末3は、撮像部を備える。POS端末3は、撮像部に、商品を撮影させ、撮影させることによって生成された画像情報を受け付ける。POS端末3は、受け付けた画像情報に基づいて、商品を識別する情報である商品識別情報を取得する。POS端末3は、取得した商品識別情報を含む商品関連情報要求を作成する。POS端末3は、作成した商品関連情報要求を、販売時点情報管理サーバ2へ送信する。POS端末3は、送信した商品関連情報要求に対する応答である商品関連情報応答を受信する。
POS端末3は、受信した商品関連情報応答に含まれる商品関連情報を取得し、取得した商品関連情報に基づいて、貼付物が貼付される商品であるか否かを判定する。POS端末3は、貼付物が貼付される商品であると判定した場合に、画像情報に基づいて、商品に貼付されている貼付物を検出する処理を行う。POS端末3は、貼付物を検出した場合に、検出した貼付物に表されている情報である貼付物情報を取得する。POS端末3は、取得した貼付物情報に基づいて、取得した商品関連情報を変更する。
POS端末3は、貼付物が貼付される商品であると判定した場合に、画像情報に基づいて、商品に貼付されている貼付物を検出する処理を行っても、貼付物を検出できなかった場合に、通知する。
以下、商品販売情報処理システム1に含まれるPOS端末3と販売時点情報管理サーバ2とについて、順次説明する。POS端末3について説明する。図2は、実施形態のPOS端末のハードウェア構成の一例を示す図である。図2に示されるように、POS端末3は、CPU(Central Processing Unit)31、ROM(Read Only Memory)32a、RAM(Random Access Memory)32b、時計部32c、I/O(Input/Output)ポート32d、ネットワークインタフェース32g、キーボードコントローラ32h、タッチパネルコントローラ32i、ディスプレイコントローラ32j、プリンタコントローラ32k、撮像部コントローラ32n、記憶装置コントローラ32p等を、備えている。図2に示されるように、これら各構成要素は、アドレスバス、データバス等のバスライン32qを介して相互に接続されている。
CPU31は、ROM32a等に記憶されたコンピュータ読み取り可能な各種プログラムを実行することにより、POS端末3を制御する。ROM32aは、CPU31が実行する各種データと、BIOSプログラム、アプリケーションプログラム、デバイスドライバプログラム等の各種プログラムとを記憶する。RAM32bは、CPU31が各種プログラムを実行する際に一時的にデータやプログラムを記憶する。
本実施形態では、POS端末3用のアプリケーションプログラムには、CCDスキャナ等の撮像部33gが商品を撮影することによって生成された画像情報を受け付けるモジュールが含まれる。また、POS端末3用のアプリケーションプログラムには、画像情報に基づいて、商品を識別する情報である商品識別情報を取得するモジュールが含まれる。また、POS端末3用のアプリケーションプログラムには、販売時点情報管理サーバ2から、商品識別情報に関連付けられている商品に関連する情報である商品関連情報を取得するモジュールが含まれる。また、POS端末3用のアプリケーションプログラムには、商品関連情報に基づいて、商品に、貼付物が貼付されているか否かを判定するモジュールが含まれる。また、POS端末3用のアプリケーションプログラムには、商品に貼付物が貼付されていると判定した場合に、画像情報に基づいて、商品に貼付されている貼付物を検出するモジュールが含まれる。また、POS端末3用のアプリケーションプログラムには、検出した貼付物に表されている情報である貼付物情報を取得するモジュールが含まれる。また、POS端末3用のアプリケーションプログラムには、貼付物情報に基づいて、取得した商品関連情報を変更するモジュールが含まれる。また、POS端末3用のアプリケーションプログラムには、商品に貼付物が貼付されていると判定した場合に、画像情報に基づいて、商品に貼付されている貼付物を検出しなかった場合に、通知するモジュールが含まれる。
時計部32cは、現在の日時を計時する。I/Oポート32dは、モードスイッチ32eとドロワ開放装置32fと接続される。I/Oポート32dは、モードスイッチ32eが出力したモード選択信号を取得する。I/Oポート32dは、ドロワ(図示せず)の引出しを自動開放させるドロワ開放装置32fに信号を出力する。
ネットワークインタフェース(I/F)32gは、電気通信回線4等を通じて接続される他の装置との間で、データ通信を行う。本実施形態では、POS端末3が、ネットワークインタフェース(I/F)32gを介して、販売時点情報管理サーバ2との間で、データ通信を行う場合について説明を続ける。キーボードコントローラ32hは、キーボード33aと接続される。キーボードコントローラ32hは、キーボード33aが出力する操作キーに対応したキー信号を取得し、取得したキー信号をCPU31に出力する。
タッチパネルコントローラ32iは、タッチパネルセンサ33bと、ディスプレイ33cと接続される。ここで、ディスプレイ33cは、お客様が使用可能な客用のディスプレイである。タッチパネルコントローラ32iは、客用のディスプレイ33cを制御して、CPU31が出力したデータを処理することによって得られる画像等を、ディスプレイ33cに表示させる。タッチパネルセンサ33bは、ディスプレイ33cに設けられ、お客様が任意の位置を押すことによって、押された位置に対応する信号を出力する。タッチパネルコントローラ32iは、タッチパネルセンサ33bが出力した信号を取得し、取得した信号をCPU31に出力する。
ディスプレイコントローラ32jは、ディスプレイ33dと接続される。ここで、ディスプレイ33dは、オペレータ(店員)が使用するオペレータ用のディスプレイである。ディスプレイコントローラ32jは、オペレータ用のディスプレイ33dを制御して、CPU31が出力したデータを処理することによって得られる画像等を、オペレータ用のディスプレイ33dに表示させる。
プリンタコントローラ32kは、レシート/ジャーナル(R/J)プリンタ33eと接続される。プリンタコントローラ32kは、R/Jプリンタ33eを制御し、CPU31が出力したデータを取得し、取得したデータを処理することによって、R/Jプリンタ33eに、レシート印字およびジャーナル印字を行わせる。撮像部コントローラ32nは、撮像部33gと接続される。撮像部33gの一例は、カメラ、CCDスキャナ等である。撮像部コントローラ32nは、撮像部33gを制御して、撮像部33gに画像を撮影させる。撮像部コントローラ32nは、撮像部33gが撮影した画像に基づいて画像情報を生成し、生成した画像情報を、画像IDとともにCPU31へ出力する。
記憶装置コントローラ32pは、記憶装置33hと接続される。記憶装置33hは、例えば、RAM、ROM、フラッシュメモリ、またはこれらのうち複数が組み合わされたハイブリッド型記憶装置などにより実現される。記憶装置コントローラ32pは、CPU31が出力した指示信号に基づいて、記憶装置33hに対するデータの書き込みおよび読み出しを制御する。記憶装置33hは、OS(Operating System)プログラムや、アプリケーションプログラム、デバイスドライバプログラムなどの他、各種のデータを記憶する。
図3は、実施形態のPOS端末の一例を示す機能ブロック図である。POS端末3のCPU31は、ROM32aに記憶されているアプリケーションプログラムにしたがって、図3に示されるように、画像情報受付部31aと、商品識別情報取得部31bと、商品関連情報取得部31cと、判定部31dと、貼付物検出部31eと、貼付物情報取得部31fと、変更部31gと、通知部31hと、登録部31iと、決済部31jとして機能する。
画像情報受付部31aは、撮像部コントローラ32nが出力した画像情報と画像IDとを受け付ける。ここで、画像情報は、前述したように、撮像部コントローラ32nが、撮像部33gが撮影した画像に基づいて生成したものである。画像情報受付部31aは、受け付けた画像情報と画像IDとを、商品識別情報取得部31bと、貼付物検出部31eとに出力する。
ここで、画像情報受付部31aが受け付ける画像情報の一例について説明する。図4は、画像情報の一例を示す図である。商品50には、情報コード51と、貼付物52とが付与されている。商品50は、経済活動において生産、流通、交換される物財のことである。商品50は、食料品と、食料品以外の物とを含む。食料品の例は、おむすび、サンドイッチ、総菜、弁当、飲料などであり、食料品以外の物は、衣類、本、雑誌などである。
情報コード51は、商品50を識別する情報である商品識別情報を、数値、文字などの情報で表したものである。情報コード51の一例は、数字、文字、記号などの情報を一定の規則にしたがい一次元のコードに変換したものであるバーコード、ドットを縦横に配列し多くの情報を表した二次元コード、QRコード(登録商標)などが含まれる。
貼付物52は、商品50が食料品である場合に、その商品50に貼付される。つまり、商品50が食料品である場合には、画像情報に、情報コード51の画像情報と貼付物52の画像情報とが含まれる。商品50が食料品以外のものである場合には、画像情報に、情報コード51の画像情報が含まれる。貼付物52は、第1貼付物52aと、第2貼付物52bとを含む。第1貼付物52aは、台紙などのシートの裏面に塗布された接着剤などによって、商品50に貼付される。第2貼付物52bは、台紙などのシートの裏面に塗布された接着剤などによって、第1貼付物52aに貼付される。第1貼付物52aは、小売店で買った食料品を店内で飲食することを表す。第2貼付物52bは、小売店で買った食料品を店外で飲食することを表す。第1貼付物52aを商品50に接着する接着剤の接着力よりも、第2貼付物52bを第1貼付物52aに接着する接着剤の接着力の方が低いことが好ましい。このように構成することによって、第2貼付物52bをはがす場合に、第1貼付物52aがはがれてしまうことを低減できる。
店内に貼付物52が貼付された商品50が陳列される場合には、図4の左図に示すように、第1貼付物52aに重なるように第2貼付物52bが貼付されている。小売店の店員が、貼るようにしてもよい。
小売店のお客様は、食料品である商品50を購入し、その食料品を店外で食べる場合には、第2貼付物52bが貼付されたまま商品50をレジカウンターへ持っていく。つまり、小売店のお客様は、第2貼付物52bが見える状態で、商品50をレジカウンターへ持っていく。レジカウンターは、商品50の決済を行う場所であり、一又は複数のレジスターが設置されている。
また、小売店のお客様は、食料品である商品50を購入し、その食料品を店内で食べる場合には、図4の真ん中の図に示すように、第1貼付物52aに重なるように貼付されている第2貼付物52bをはがす。図4の真ん中の図は、第2貼付物52bが、半分程度はがれた状態を示す。第2貼付物52bをはがした後に、小売店のお客様は、図4の右図に示すように、第2貼付物52bをはがした状態で、商品50をレジカウンターへ持っていく。つまり、小売店のお客様は、第1貼付物52aが見える状態で、商品50をレジカウンターへ持っていく。図3に戻り説明を続ける。
商品識別情報取得部31bは、画像情報受付部31aが出力した画像情報と画像IDとを取得する。商品識別情報取得部31bは、画像情報を解析することによって、情報コード51から、商品識別情報を取得する。例えば、商品識別情報取得部31bは、オブジェクト認識処理、パターンマッチングなど行うことによって、情報コード51から、商品識別情報を取得する。商品識別情報の一例は、WPC(World Product Code)である。商品識別情報取得部31bは、取得した商品識別情報と画像IDとを関連付けた情報を商品関連情報取得部31cに出力する。
商品関連情報取得部31cは、商品識別情報取得部31bが出力した商品識別情報と画像IDとを関連付けた情報を取得する。商品関連情報取得部31cは、販売時点情報管理サーバ2から、取得した商品識別情報に関連付けられている商品関連情報を取得する。具体的には、商品関連情報取得部31cは、取得した商品識別情報と画像IDとを関連付けた情報を含み、販売時点情報管理サーバ2を宛先とする商品関連情報要求を作成し、作成した商品関連情報要求を、ネットワークI/F32gに出力する。商品関連情報取得部31cは、商品関連情報要求に対して、販売時点情報管理サーバ2が送信した商品関連情報応答を、ネットワークI/F32gから取得する。商品関連情報取得部31cは、取得した商品関連情報応答に含まれる商品関連情報を取得し、取得した商品関連情報を、判定部31dに出力する。商品関連情報には、画像IDと、商品の名称と、その商品の価格と、その商品に適用される消費税率と、貼付物が貼付されるか否かを示す情報とが含まれる。ここでは、商品関連情報に含まれるその商品に適用される消費税率が、第1税率である場合について説明を続ける。第1税率は、例えば8%である。
判定部31dは、商品関連情報取得部31cが出力した商品関連情報を取得する。判定部31dは、取得した商品関連情報に含まれる貼付物52が貼付されるか否かを示す情報に基づいて、商品50が、貼付物52が貼付される商品であるか否かを判定する。具体的には、判定部31dは、商品関連情報に含まれる貼付物52が貼付されるか否かを示す情報が、貼付物52が貼付されることを示す場合には商品50に貼付物52が貼付されると判定し、貼付物52が貼付されることを示さない場合には商品50に貼付物52が貼付されないと判定する。
判定部31dは、商品50に貼付物52が貼付されると判定した場合に、商品関連情報を、貼付物検出部31eに出力する。判定部31dは、商品50に貼付物52が貼付されないと判定した場合に、商品関連情報を、登録部31iに出力する。
貼付物検出部31eは、画像情報受付部31aが出力した画像情報と画像IDとを関連付けた情報を取得する。貼付物検出部31eは、判定部31dが出力した商品関連情報を取得した場合、取得した商品関連情報に含まれる画像IDに基づいて、その画像IDと同じ画像IDと関連付けられている画像情報を取得する。貼付物検出部31eは、取得した画像情報を解析することによって、貼付物52を検出する処理を行う。貼付物検出部31eは、貼付物52を検出できた場合に、検出した貼付物52の画像情報と、商品関連情報とを、貼付物情報取得部31fに出力する。貼付物検出部31eは、貼付物52を検出できなかった場合に、その商品50についての処理を中止し、貼付物52を検出できなかったことを示す情報を、通知部31hに出力する。
貼付物情報取得部31fは、貼付物検出部31eが出力した貼付物52の画像情報と、商品関連情報とを取得する。貼付物情報取得部31fは、取得した貼付物52の画像情報を解析することによって、貼付物情報を取得する。具体的には、貼付物情報取得部31fは、オブジェクト認識処理、パターンマッチングなど行うことによって、貼付物52の画像情報が、第1貼付物52aと、第2貼付物52bとのいずれであるかを判定する。貼付物情報取得部31fは、判定した結果に基づいて、商品50を店内で飲食することを示す情報と、商品50を店外で飲食することを示す情報とのいずれかを取得する。
ここで、貼付物情報取得部31fは、オブジェクト認識処理、パターンマッチングなど行うことによって、第1貼付物52aと第2貼付物52bとの両方を検出した場合には、第2貼付物52bと判定してもよい。このように構成することによって、お客様によっては、店内で飲食しようと思って、第2貼付物52bをはがしてしまったが、その後に、意思が変わって、はがした第2貼付物52bを貼り付ける場合がある。この場合に、第1貼付物52aの上に、第2貼付物52bをきちんと貼ることができればよいが、ずれてしまい、第1貼付物52aと第2貼付物52bとの両方が見える場合がある。このような場合に、貼付物情報取得部31fは、第2貼付物52bと判定するため、お客様にとって、意思の変更が容易となる。
貼付物情報取得部31fは、商品50を店内で飲食することを示す情報と商品50を店外で飲食することを示す情報とのいずれかと、商品関連情報とを、変更部31gに出力する。
変更部31gは、貼付物情報取得部31fが出力した商品50を店内で飲食することを示す情報と商品50を店外で飲食することを示す情報とのいずれかと、商品関連情報とを取得する。変更部31gは、取得した商品50を店内で飲食することを示す情報と商品50を店外で飲食することを示す情報とのいずれかに基づいて、商品関連情報を変更する。具体的には、変更部31gは、商品50を店外で飲食することを示す情報を取得した場合に、商品関連情報に含まれるその商品に適用される消費税率を、第1税率から第2税率に変更する。本実施形態では、第1税率より、第2税率の方が高い場合について説明を続ける。第2税率の一例は、10%である。
変更部31gは、その商品に適用される消費税率を、第1税率から第2税率に変更した場合には、変更した消費税率を含む商品関連情報を、登録部31iに出力する。変更部31gは、商品50を店内で飲食することを示す情報を取得した場合には、商品関連情報を変更することなく、商品関連情報を、登録部31iに出力する。
通知部31hは、貼付物検出部31eが出力した貼付物52を検出できなかったことを示す情報を取得した場合に、店員にエラーが発生したことを通知する。具体的には、通知部31hは、ディスプレイコントローラ32jに、エラーが発生したことを示す画像情報を出力してもよい。この場合、ディスプレイコントローラ32jは、通知部31hが出力したエラーが発生したことを示す画像情報を取得し、取得した画像情報を処理することによって、ディスプレイ33dにエラーが発生したことを示す画像を表示する。このように構成することによって、店員は、商品50が食料品にもかかわらず、貼付物が貼付されていないことを認識できる。
登録部31iは、判定部31d又は変更部31gが出力した商品関連情報を取得する。登録部31iは、取得した商品関連情報に含まれる商品の名称と、その商品の価格と、その商品に適用される消費税率とを関連付けた情報を、記憶装置コントローラ32pに出力する。記憶装置コントローラ32pは、登録部31iが出力した商品の名称と、その商品の価格と、その商品に適用される消費税率とを関連付けた情報を取得し、取得した商品の名称と、その商品の価格と、その商品に適用される消費税率とを関連付けた情報を、記憶装置33hに登録する。決済部31jは、お客様が購入しようとしている全ての商品50について登録処理が完了した場合に、決済処理を行う。決済処理は、現金、電子マネー、クレジットカードなどによって行われてもよい。
販売時点情報管理サーバ2の構成について説明する。図5は、実施形態の販売時点情報管理サーバの一例を示す図である。販売時点情報管理サーバ2は、ネットワークI/F21と、記憶部22と、情報処理部23と、各構成要素を図5に示されているように電気的に接続するためのアドレスバスやデータバスなどのバスライン25とを備える。
ネットワークI/F21は、電気通信回線4などを通じて接続される他の装置との間で、データ通信を行う。本実施形態では、販売時点情報管理サーバ2が、ネットワークI/F21を介して、POS端末3の間で、データ通信を行う場合について説明を続ける。ネットワークI/F21は、POS端末3が出力した商品関連情報要求を取得し、取得した商品関連情報要求を、情報処理部23に出力する。ネットワークI/F21は、商品関連情報要求に対して、情報処理部23が出力した商品関連情報応答を取得し、取得した商品関連情報応答を取得し、取得した商品関連情報応答を、POS端末3に出力する。
記憶部22は、例えば、RAM、ROM、フラッシュメモリ、またはこれらのうち複数が組み合わされたハイブリッド型記憶装置などにより実現される。記憶部22には、情報処理部23により実行されるプログラム22aと、アプリケーション22bとが記憶される。また、記憶部22には、商品関連情報DB22cが記憶される。
プログラム22aは、例えばオペレーティングシステムであり、ユーザやアプリケーションプログラムとハードウェアの中間に位置し、ユーザやアプリケーションプログラムに対して標準的なインターフェースを提供すると同時に、ハードウェアなどの各リソースに対して効率的な管理を行う。
本実施形態では、販売時点情報管理サーバ2用のアプリケーション22bに、POS端末3が送信した商品関連情報要求を受け付けるモジュールが含まれる。また、販売時点情報管理サーバ2用のアプリケーション22bに、商品関連情報要求に含まれる商品識別情報に基づいて、商品関連情報DB22cから、その商品識別情報に関連付けて記憶されている商品の名称と、その商品の価格と、その商品に適用される消費税率と、貼付物が貼付されるか否かを示す情報とを取得するモジュールが含まれる。また、販売時点情報管理サーバ2用のアプリケーション22bに、取得した商品の名称と、その商品の価格と、その商品に適用される消費税率と、貼付物が貼付されるか否かを示す情報と、商品関連情報要求に含まれる画像IDとを含む商品関連情報応答を作成するモジュールが含まれる。また、販売時点情報管理サーバ2用のアプリケーション22bに、作成した商品関連情報応答を出力するモジュールが含まれる。
商品関連情報DB22cについて説明する。図6は、実施形態の販売時点情報管理サーバの商品関連情報DBの一例を示す図である。図6に示されるように、商品関連情報DB22cは、商品識別情報と、その商品の名称と、その商品の価格と、その商品に適用される消費税率と、その商品への貼付物の貼付の有無を示す情報とを関連付けたテーブル形式の情報である。
図6に示される例では、商品識別情報「*****」と、商品の名称「*****」と、商品の価格「*****」と、消費税率「**」と、貼付物の貼付の有無「**」とが関連付けられている。
また、図6に示される例では、商品識別情報「+++++」と、商品の名称「+++++」と、商品の価格「+++++」と、消費税率「++」と、貼付物の貼付の有無「++」とが関連付けられている。図5に戻り説明を続ける。
情報処理部23は、例えば、CPUなどのプロセッサが記憶部22に格納されたプログラム22aとアプリケーション22bとを実行することにより実現されるソフトウェア機能部である。なお、情報処理部23の全部または一部は、LSI、ASIC、またはFPGAなどのハードウェアにより実現されてもよく、ソフトウェア機能部とハードウェアとの組み合わせによって実現されてもよい。情報処理部23は、例えば、受付部23aと、処理部23bとして機能する。
受付部23aは、ネットワークI/F21が出力した商品関連情報要求を受け付ける。受付部23aは、受け付けた商品関連情報要求を、処理部23bに出力する。処理部23bは、受付部23aが出力した商品関連情報要求を取得し、取得した商品関連情報要求に含まれる商品識別情報を取得する。処理部23bは、取得した商品識別情報に基づいて、商品関連情報DB22cから、その商品識別情報に関連付けて記憶されている商品の名称と、その商品の価格と、その商品に適用される消費税率と、貼付物が貼付されるか否かを示す情報とを取得する。処理部23bは、取得した商品の名称と、その商品の価格と、その商品に適用される消費税率と、貼付物が貼付されるか否かを示す情報と、商品関連情報要求に含まれる画像IDとを含む商品関連情報応答を作成する。処理部23bは、作成した商品関連情報応答を、ネットワークI/F21へ出力する。
図7は、POS端末が、情報コードと貼付物とを読み取る処理の一例を示す図である。POS端末3の撮像部33gは、商品50に付与された情報コード51と、貼付物52とを読み取る。図5に示される例では、撮像部33gは、店員が撮像部33gの手前側(図5の紙面手前側)で、矢印で示すように、例えば図5の左側から右側へ通過させた商品50の情報コード51と貼付物52とを読み取る。
実施形態の商品販売情報処理システムの動作について説明する。図8は、実施形態の商品販売情報処理システムの動作の一例を示すフローチャートである。図8には、主に、POS端末3の動作が示されている。
(ステップS1) 店員が商品50を撮像部33gの手前側を通過させた場合に、撮像部33gは、撮像部コントローラ32nの制御に基づいて、商品50を撮像する。撮像部コントローラ32nは、撮像部33gが撮像した画像に基づいて、画像情報を生成する。撮像部コントローラ32nは、生成した画像情報を、画像IDとともにCPU31へ出力する。CPU31は、画像情報受付部31aとして動作する。画像情報受付部31aは、撮像部コントローラ32nが出力した画像情報と画像IDとを受け付ける。画像情報受付部31aは、受け付けた画像情報と画像IDとを、商品識別情報取得部31bと、貼付物検出部31eとに出力する。
(ステップS2) CPU31は、商品識別情報取得部31bとして動作する。商品識別情報取得部31bは、画像情報受付部31aが出力した画像情報と画像IDとを取得し、取得した画像情報を解析することによって、商品識別情報を取得する。商品識別情報取得部31bは、取得した商品識別情報と画像IDとを関連付けた情報を商品関連情報取得部31cに出力する。
(ステップS3) CPU31は、商品関連情報取得部31cとして動作する。商品関連情報取得部31cは、商品識別情報取得部31bが出力した商品識別情報と画像IDとを関連付けた情報を取得する。商品関連情報取得部31cは、取得した商品識別情報と画像IDとを関連付けた情報を含み、販売時点情報管理サーバ2を宛先とする商品関連情報要求を作成する。商品関連情報取得部31cは、作成した商品関連情報要求を、ネットワークI/F32gに出力する。ネットワークI/F32gは、商品関連情報取得部31cが出力した商品関連情報要求を取得し、取得した商品関連情報要求を、販売時点情報管理サーバ2へ送信する。
販売時点情報管理サーバ2のネットワークI/F21は、POS端末3が送信した商品関連情報要求を取得し、取得した商品関連情報要求を、情報処理部23へ出力する。情報処理部23の受付部23aは、ネットワークI/F21が出力した商品関連情報要求を取得し、取得した商品関連情報要求を処理部23bへ出力する。処理部23bは、受付部23aが出力した商品関連情報要求を取得し、取得した商品関連情報要求に含まれる商品識別情報を取得する。処理部23bは、取得した商品識別情報に基づいて、商品関連情報DB22cから、その商品識別情報に関連付けて記憶されている商品の名称と、その商品の価格と、その商品に適用される消費税率と、貼付物が貼付されるか否かを示す情報とを取得する。処理部23bは、取得した商品の名称と、その商品の価格と、その商品に適用される消費税率と、貼付物が貼付されるか否かを示す情報と、商品関連情報要求に含まれる画像IDとを含む商品関連情報応答を作成する。処理部23bは、作成した商品関連情報応答を、ネットワークI/F21へ出力する。ネットワークI/F21は、処理部23bが出力した商品関連情報応答を取得し、取得した商品関連情報応答を、POS端末3へ送信する。
POS端末3のネットワークI/F32gは、販売時点情報管理サーバ2が送信した商品関連情報応答を取得し、取得した商品関連情報応答を、CPU31へ出力する。CPU31は、商品関連情報取得部31cとして動作する。商品関連情報取得部31cは、取得した商品関連情報応答に含まれる商品関連情報を取得し、取得した商品関連情報を、判定部31dに出力する。
(ステップS4) CPU31は、判定部31dとして動作する。判定部31dは、商品関連情報取得部31cが出力した商品関連情報を取得する。判定部31dは、取得した商品関連情報に含まれる貼付物が貼付されるか否かを示す情報に基づいて、貼付物が貼付される商品であるか否かを判定する。判定部31dは、貼付物が貼付される商品であると判定した場合に、商品関連情報を、貼付物検出部31eに出力する。
(ステップS5) CPU31は、貼付物検出部31eとして動作する。貼付物検出部31eは、画像情報受付部31aが出力した画像情報と画像IDとを関連付けた情報を取得する。貼付物検出部31eは、判定部31dが出力した商品関連情報を取得した場合、取得した商品関連情報に含まれる画像IDに基づいて、その画像IDと同じ画像IDと関連付けられている画像情報を取得する。貼付物検出部31eは、取得した画像情報を解析することによって、貼付物を検出する処理を行う。
(ステップS6) CPU31は、貼付物検出部31eとして動作する。貼付物検出部31eは、貼付物を検出できなかった場合に、その商品50についての処理を中止し、貼付物を検出できなかったことを示す情報を、通知部31hに出力する。通知部31hは、貼付物検出部31eが出力した貼付物を検出できなかったことを示す情報を取得した場合に、店員にエラーが発生したことを通知する。
(ステップS7) 貼付物検出部31eは、ステップS5で、貼付物を検出できた場合に、検出した貼付物の画像情報と、商品関連情報とを、貼付物情報取得部31fに出力する。CPU31は、貼付物情報取得部31fとして動作する。貼付物情報取得部31fは、貼付物検出部31eが出力した貼付物の画像情報と、商品関連情報とを取得する。貼付物情報取得部31fは、取得した貼付物の画像情報を解析することによって、貼付物情報を取得する。貼付物情報取得部31fは、取得した貼付物情報に基づいて、商品50を店内で飲食することを示す情報と商品50を店外で飲食することを示す情報とのいずれかを取得する。貼付物情報取得部31fは、取得した商品50を店内で飲食することを示す情報と商品50を店外で飲食することを示す情報とのいずれかと、商品関連情報とを、変更部31gに出力する。
(ステップS8) CPU31は、変更部31gとして動作する。変更部31gは、貼付物情報取得部31fが出力した商品50を店内で飲食することを示す情報と商品50を店外で飲食することを示す情報とのいずれかと、商品関連情報とを取得する。変更部31gは、取得した商品50を店内で飲食することを示す情報と商品50を店外で飲食することを示す情報とのいずれかに基づいて、商品関連情報に含まれるその商品に適用される消費税率を変更する。変更部31gは、その商品に適用される消費税率を、第1税率から第2税率に変更した場合には、変更した消費税率を含む商品関連情報を、登録部31iに出力する。変更部31gは、商品50を店内で飲食することを示す情報を取得した場合には、商品関連情報に変更を行わないで、商品関連情報を、登録部31iに出力する。
(ステップS9) 判定部31dは、ステップS4で、商品に貼付物が貼付されないと判定した場合に、商品関連情報を、登録部31iに出力する。CPU31は、登録部31iとして動作する。登録部31iは、判定部31d又は変更部31gが出力した商品関連情報を取得する。登録部31iは、取得した商品関連情報に含まれる商品の名称と、その商品の価格と、その商品に適用される消費税率とを関連付けた情報を、記憶装置コントローラ32pに出力する。記憶装置コントローラ32pは、登録部31iが出力した商品の名称と、その商品の価格と、その商品に適用される消費税率とを関連付けた情報を取得し、取得した商品の名称と、その商品の価格と、その商品に適用される消費税率とを関連付けた情報を、記憶装置33hに登録する。
(ステップS10) CPU31は、決済部31jとして動作する。決済部31jは、お客様が購入しようとしている全ての商品50について登録処理が完了したか否かを判定する。登録処理が完了していない商品がある場合には、ステップS1に戻る。
(ステップS11) 決済部31jは、全ての商品50について登録処理が完了した場合に、決済処理を行う。
前述した実施形態では、商品販売情報処理システム1にPOS端末3が一台含まれる場合について説明したが、この例に限られない。例えば、POS端末3が二台以上であってもよい。
前述した実施形態では、商品50を撮像することによって、情報コード51の画像と、貼付物52の画像とを含む画像情報を取得する場合について説明したが、この例に限られない。例えば、情報コード51の画像と、貼付物52の画像とを異なるタイミングで取得してもよい。
前述した実施形態では、第1税率より、第2税率の方が高い場合について説明したが、この例に限られない。例えば、第1税率より、第2税率の方を低くしてもよい。
前述した実施形態では、商品50を店内で飲食することと、商品50を店外で飲食することとのいずれか一方を、貼付物52で表す場合について説明したが、この例に限られない。例えば、三以上の条件から一つを選択したことを、貼付物で表してもよい。
前述した実施形態では、レジカウンターで店員が決済処理を行う場合について説明したが、この例に限られない。例えば、セルフレジにも適用できる。また、画像認識技術を使用したレジカウンターにも適用できる。
前述した実施形態において、POS端末3は、販売時点情報管理サーバ2から、商品識別情報に関連付けられている商品関連情報を取得できない場合に、店員に通知するようにしてもよい。
前述した実施形態において、情報コード51と、貼付物52とが一体化されてもよい。つまり、情報コード51を含む貼付物が用意されてもよい。また、商品50に、情報コード51と、貼付物52との両方を印刷するようにしてもよい。
以上説明した少なくとも一つの実施形態によれば、商品50を店内で飲食することを表す第1貼付物52a、商品50を店外で飲食することを表す第2貼付物52bなどの二者択一条件のいずれかを選択したことを表す貼付物52を使用する。POS端末3は、商品に貼付物52が貼付されていると判定した場合に、商品を撮影することによって生成された画像情報に基づいて、商品に貼付されている貼付物52を検出しなかった場合に通知する。このように構成することによって、貼付物52が貼付される商品50にもかかわらず、貼付物を見逃してしまうことを防止できる。
また、貼付物52は、商品50に貼付される第1貼付物52aと、第2貼付物52bに貼付される第2貼付物52bとを含む。このように構成することによって、一枚の貼付物52を商品50に貼付すればよいため、二枚以上の貼付物を商品に貼付する場合と比較して、貼付処理の確実性を向上できるとともに、利便性を向上できる。また、お客様は、店外で飲食する場合には、第2貼付物52bを貼付したままレジカウンターに商品を持って行けばよく、店内で飲食する場合には、第2貼付物52bをはがして、第1貼付物52aが見える状態でレジカウンターに商品を持って行けばよいため、意思表示が容易である。前述した実施形態において、POS端末3は、画像認識装置の一例である。
実施形態の変形例の商品販売情報処理システムの一例について説明する。実施形態の変形例の商品販売情報処理システムの一例は、図1を適用できる。ただし、POS端末3−1とPOS端末3−2との代わりに、POS端末3a−1とPOS端末3a−2とを備える。販売時点情報管理サーバ2とPOS端末3a−1とPOS端末3a−2とは、LANなどの電気通信回線4を介して電気的に接続されている。以下、POS端末3a−1とPOS端末3a−2とのうち、任意のPOS端末を、POS端末3aと記載する。POS端末3aについて説明する。
販売時点情報管理サーバ2は、商品を販売することによる売り上げ実績を集計する。販売時点情報管理サーバ2は、POS端末3aが送信する商品関連情報要求を受信し、受信した商品関連情報要求に基づいて、商品関連情報を含む商品関連情報応答を作成する。販売時点情報管理サーバ2は、作成した商品関連情報応答を、商品関連情報要求を送信したPOS端末3aへ送信する。
POS端末3aは、撮像部を備える。POS端末3aは、撮像部に、商品を撮影させ、撮影させることによって生成させた画像情報を受け付ける。POS端末3aは、受け付けた画像情報に基づいて、商品を識別する情報である商品識別情報を取得する。POS端末3aは、取得した商品識別情報を含む関連情報要求を作成する。POS端末3aは、作成した関連情報要求を、販売時点情報管理サーバ2へ送信する。POS端末3aは、送信した関連情報要求に対する応答である関連情報応答を受信する。
POS端末3aは、受信した関連情報応答に含まれる商品関連情報を取得し、取得した商品関連情報に基づいて、貼付物が貼付される商品であるか否かを判定する。POS端末3aは、貼付物が貼付される商品であると判定した場合に、画像情報に基づいて、商品に貼付されている貼付物を検出する処理を行う。POS端末3aは、貼付物を検出した場合に、検出した貼付物に表されている情報である貼付物情報を取得し、取得した貼付物情報に基づいて、取得した商品関連情報を変更する。
実施形態の変形例では、第1貼付物52aの代わりに、第1貼付物52aaを使用する点で、実施形態と異なる。第1貼付物52aaについては後述する。POS端末3aは、貼付物が貼付される商品であると判定した場合に、画像情報に基づいて、商品に貼付されている貼付物を検出しなかった場合に、通知する。
以下、商品販売情報処理システム1に含まれるPOS端末3aと販売時点情報管理サーバ2とのうち、実施形態と異なるPOS端末3aについて説明する。POS端末3aのハードウェア構成は、図2を適用できる。
図9は、実施形態の変形例のPOS端末の一例を示す機能ブロック図である。POS端末3aのCPU31は、ROM32aに記憶されているアプリケーションプログラムにしたがって、図9に示されるように、画像情報受付部31aと、商品識別情報取得部31bと、商品関連情報取得部31cと、判定部31dと、貼付物検出部31eと、貼付物情報取得部31faと、変更部31gと、通知部31hと、登録部31iと、決済部31jとして機能する。
ここで、画像情報受付部31aが受け付ける画像情報の一例について説明する。図10は、画像情報の一例を示す図である。商品50には、情報コード51と、貼付物52とが付与されている。貼付物52は、第1貼付物52aaと、第2貼付物52bとを含む。第1貼付物52aaは、台紙などのシートの裏面に塗布された接着剤などによって、商品50に貼付される。第2貼付物52bは、台紙などのシートの裏面に塗布された接着剤などによって、第1貼付物52aaに貼付される。第1貼付物52aaは、小売店で買った食料品を店内で飲食することを表す。第2貼付物52bは、小売店で買った食料品を店外で飲食することを表す。第1貼付物52aaを商品50に接着する接着剤の接着力よりも、第2貼付物52bを第1貼付物52aに接着する接着剤の接着力の方が低いことが好ましい。このように構成することによって、第2貼付物52bをはがす場合に、第1貼付物52aaがはがれてしまうことを低減できる。
店内に貼付物52が貼付された商品50が陳列される場合には、図10の左図に示すように、第1貼付物52aに重なるように第2貼付物52bが貼付されている。小売店の店員が、貼るようにしてもよい。
小売店のお客様は、食料品である商品50を購入し、その食料品を店外で食べる場合には、第2貼付物52bが貼付されたまま商品50をレジカウンターへ持っていく。つまり、小売店のお客様は、第2貼付物52bが見える状態で、商品50をレジカウンターへ持っていく。
また、小売店のお客様は、食料品である商品50を購入し、その食料品を店内で食べる場合には、図10の真ん中の図に示すように、第1貼付物52aaに重なるように貼付されている第2貼付物52bをはがす。図10の真ん中の図は、第2貼付物52bが、半分程度はがれた状態を示す。第2貼付物52bをはがした後に、小売店のお客様は、図10の右図に示すように、第2貼付物52bをはがした状態で、商品50をレジカウンターへ持っていく。つまり、小売店のお客様は、第1貼付物52aaが見える状態でレジカウンターへ持っていく。第1貼付物52aaには、追加スタンプ用領域52abが含まれる。レジカウンターで、店員は、追加スタンプ用領域52abに、スタンプなどの追加印字を行う。
貼付物情報取得部31faは、貼付物検出部31eが出力した貼付物52の画像情報と、商品関連情報とを取得する。貼付物情報取得部31faは、取得した貼付物52の画像情報を解析することによって、貼付物情報を取得する。具体的には、貼付物情報取得部31faは、オブジェクト認識処理、パターンマッチングなど行うことによって、貼付物52の画像情報が、第1貼付物52aaと、第2貼付物52bとのいずれであるかを判定する。
貼付物情報取得部31faは、第1貼付物52aaと判定した場合には、追加印字が行われているか否かを判定する。貼付物情報取得部31faは、第1貼付物52aaと判定し、且つ追加印字が行われている場合には、商品50を店内で飲食することを示す情報を取得する。貼付物情報取得部31faは、第1貼付物52aaと判定し、且つ追加印字が行われていない場合又は、第2貼付物52bと判定した場合には、商品50を店外で飲食することを示す情報を取得する。
ここで、貼付物情報取得部31faは、オブジェクト認識処理、パターンマッチングなど行うことによって、第1貼付物52aaと第2貼付物52bとの両方を検出した場合には、第2貼付物52bと判定してもよい。このように構成することによって、お客様によっては、店内で飲食しようと思って、第2貼付物52bをはがしてしまったが、その後に、意思が変わって、はがした第2貼付物52bを貼り付ける場合がある。この場合に、第1貼付物52aaの上に、第2貼付物52bをきちんと貼ることができればよいが、ずれてしまい、第1貼付物52aaと第2貼付物52bとの両方が見える場合がある。このような場合に、貼付物情報取得部31fは、第2貼付物52bと判定するため、お客様にとって、意思の変更が容易となる。貼付物情報取得部31faは、商品50を店内で飲食することを示す情報と商品50を店外で飲食することを示す情報とのいずれかと、商品関連情報とを、変更部31gに出力する。
実施形態の変形例の商品販売情報処理システムの動作は、図8を適用できる。ただし、ステップS7の処理が異なる。
ステップS7では、貼付物検出部31eは、ステップS5で、貼付物を検出できた場合に、検出した貼付物の画像情報と、商品関連情報とを、貼付物情報取得部31faに出力する。貼付物情報取得部31faは、貼付物検出部31eが出力した貼付物の画像情報と、商品関連情報とを取得する。貼付物情報取得部31faは、取得した貼付物の画像情報を解析することによって、貼付物情報を取得する。貼付物情報取得部31faは、貼付物52の画像情報を解析することによって、第1貼付物52aaと、第2貼付物52bとのいずれであるかを判定する。
貼付物情報取得部31faは、第1貼付物52aaと判定した場合には、追加印字が行われているか否かを判定する。貼付物情報取得部31faは、第1貼付物52aaと判定し、且つ追加印字が行われている場合には、商品50を店内で飲食することを示す情報を取得する。貼付物情報取得部31faは、第1貼付物52aaと判定し、且つ追加印字が行われていない場合又は、第2貼付物52bと判定には、商品50を店外で飲食することを示す情報を取得する。貼付物情報取得部31faは、商品50を店内で飲食することを示す情報と商品50を店外で飲食することを示す情報とのいずれかと、商品関連情報とを、変更部31gに出力する。
前述した実施形態の変形例では、貼付物情報取得部31faが、第1貼付物52aaと判定し、且つ追加印字が行われていない場合には、商品50を店外で飲食することを示す情報を取得する場合について説明したが、この例に限られない。例えば、貼付物情報取得部31faは、第1貼付物52aaと判定し、且つ追加印字が行われていない場合には、エラーであることを示す情報を取得してもよい。貼付物情報取得部31faは、エラーであることを示す情報を取得した場合に、通知部31hに、エラーであることを示す情報を出力する。通知部31hは、貼付物情報取得部31faが出力したエラーであることを示す情報を取得した場合に、店員にエラーが発生したことを通知する。
実施形態の変形例によれば、第1貼付物52aに追加スタンプ用領域52abを設けた第1貼付物52aaを使用する。POS端末3は、第1貼付物52aaと判定し、且つ追加印字が行われている場合に、商品50を店内で飲食することを示す情報を取得する。このように構成することによって、仮に、店内で飲食するお客様が、第2貼付物52bを貼ったままの商品50を持ってレジスタンドに向かい、決済が終了した後に、第2貼付物52bをはがして、店内で飲食しようとした場合でも、追加スタンプ用領域52abにスタンプがないことによって、第2税率に該当する消費税を払っていないことを確認できる。
以上、本発明の実施形態およびその変形例を説明したが、これらの実施形態およびその変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態およびその変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、組合せを行うことができる。これら実施形態およびその変形例は、発明の範囲や要旨に含まれると同時に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。