JP6336656B2 - 情報処理装置、店舗システム及びプログラム - Google Patents

Description

本発明の実施形態は、情報処理装置、店舗システム及びプログラムに関する。

従来、イメージセンサデバイスにより撮像した画像データから抽出した対象物品の特徴量と、予め用意された辞書における照合用のデータ（特徴量）とを比較した類似度に応じて当該物品の種別等を認識（検出）する一般物体認識（オブジェクト認識）に係る技術が存在している。また、この一般物体認識に係る技術を、青果品等の商品の識別に用いて、識別された商品を売上登録する店舗システムが提案されている。

上記した一般物体認識においては、商品をかざす面や、商品の位置、イメージセンサデバイスと商品との距離など、商品のかざし方によって撮像される画像データが異なる。

しかしながら、商品のかざし方によっては、商品が認識できない場合がある。

本発明が解決しようとする課題は、商品のかざし方の適否について報知することができる情報処理装置、店舗システム及びプログラムを提供することである。

実施形態の情報処理装置は、撮像手段と、選択手段と、抽出手段と、類似度算出手段と、第１判定手段と、第２判定手段と、報知手段と、を備える。前記撮像手段は、かざされた物品を撮像する。前記選択手段は、前記撮像手段へのかざし方の適否を判定する物品を選択させる。前記類似度算出手段は、前記物品を識別するために予め用意された照合用データと前記抽出手段が抽出した特徴量との類似度を、前記照合用データが用意されている物品ごとに類似度を算出する。前記第１判定手段は、前記類似度算出手段が算出した類似度に応じて、前記選択手段によって選択された物品の前記撮像手段へのかざし方の適否を判定する。前記第２判定手段は、前記類似度算出手段が算出した類似度が閾値以上になった回数が所定回数以上であることを条件に、前記選択手段によって選択された物品の前記撮像手段へのかざし方の適否を判定する。前記報知手段は、前記第１判定手段の判定結果と、前記第２判定手段の判定結果とを報知する。

図１は、実施形態にかかるチェックアウトシステムの一例を示す斜視図である。 図２は、ＰＯＳ端末及び商品読取装置のハードウェア構成を示すブロック図である。 図３は、ＰＬＵファイルのデータ構成を例示する概念図である。 図４は、ＰＯＳ端末の機能構成を示すブロック図である。 図５は、画像取込部によって取り込まれたフレーム画像の一例を示す図である。 図６は、確定画面の一例を示す図である。 図７は、確認画面の一例を示す図である。 図８は、商品候補のイラスト画像が表示された画面例を示す図である。 図９は、チェックアウトシステムが実行するリアルタイム認識判定処理の流れを示すフローチャートである。 図１０は、精度チェック画面の一例を示す説明図である。 図１１は、高認識結果画面の一例を示す説明図である。 図１２は、中認識結果画面の一例を示す説明図である。 図１３は、低認識結果画面の一例を示す説明図である。 図１４は、中止実行画面の一例を示す説明図である。 図１５は、セルフＰＯＳの構成を示す外観斜視図である。 図１６は、セルフＰＯＳのハードウェア構成を示すブロック図である。

以下では、チェックアウトシステムを例に本実施形態に係る情報処理装置、店舗システム及びプログラムについて、図面を参照して説明する。店舗システムは、一取引に係る商品の登録、精算を行うＰＯＳ端末を備えるチェックアウトシステム（ＰＯＳシステム）等である。本実施形態は、スーパーマーケット等の店舗に導入されたチェックアウトシステムへの適用例である。

図１は、実施形態にかかるチェックアウトシステム１の一例を示す斜視図である。図１に示すように、チェックアウトシステム１は、商品に関する情報を読み取る商品読取装置１０１と、一取引に係る商品の登録、精算を行うＰＯＳ端末１１とを備える。以下では、ＰＯＳ端末１１を本実施形態にかかる情報処理装置として適用する例について説明する。

ＰＯＳ端末１１は、チェックアウト台４１上のドロワ２１上面に載置される。ドロワ２１は、ＰＯＳ端末１１によって開放動作の制御を受ける。ＰＯＳ端末１１の上面には、オペレータ（店員）によって押下操作されるキーボード２２が配置される。キーボード２２を操作するオペレータから見てキーボード２２よりも奥側には、オペレータに向けて情報を表示する表示デバイス２３が設けられる。表示デバイス２３は、その表示面２３ａに情報を表示する。表示面２３ａには、タッチパネル２６が積層される。表示デバイス２３よりも更に奥側には、顧客用表示デバイス２４が回転可能に立設される。顧客用表示デバイス２４は、その表示面２４ａに情報を表示する。なお、図１に示す顧客用表示デバイス２４は、表示面２４ａを図１中手前側に向けているが、表示面２４ａが図１中奥側に向くように顧客用表示デバイス２４を回転させることによって、顧客用表示デバイス２４は顧客に向けて情報を表示する。

ＰＯＳ端末１１が載置されているチェックアウト台４１とＬ字を形成するようにして、横長テーブル状のカウンタ台１５１が配置される。カウンタ台１５１の上面には、荷受け面１５２が形成される。荷受け面１５２には、商品Ａを収納する買物カゴ１５３が載置される。買物カゴ１５３は、顧客によって持ち込まれる第１の買物カゴ１５３ａと、第１の買物カゴ１５３ａから商品読取装置１０１を挟んだ位置に載置される第２の買物カゴ１５３ｂとに分けて考えることができる。なお、買物カゴ１５３は、いわゆるカゴ形状のものに限るものではなく、トレー等であってもよい。また、買物カゴ１５３（第２の買物カゴ１５３ｂ）は、いわゆるカゴ形状のものに限らず、箱状や袋状等であってもよい。

カウンタ台１５１の荷受け面１５２には、ＰＯＳ端末１１とデータ送受信可能に接続された商品読取装置１０１が設置される。商品読取装置１０１は、薄型矩形形状のハウジング１０２を備える。ハウジング１０２の正面には読取窓１０３が配置される。ハウジング１０２の上部には、表示・操作部１０４が取り付けられる。表示・操作部１０４には、タッチパネル１０５が表面に積層された表示部である表示デバイス１０６が設けられる。表示デバイス１０６の右隣にはキーボード１０７が配設される。キーボード１０７の右隣には、図示しないカードリーダのカード読取溝１０８が設けられる。オペレータから見て表示・操作部１０４の裏面左奥側には、顧客に情報を提供するための顧客用表示デバイス１０９が設置される。

このような商品読取装置１０１は、商品読取部１１０（図２参照）を備える。商品読取部１１０は、読取窓１０３の奥側に撮像部１６４（図２参照）を配置する。

顧客によって持ち込まれた第１の買物カゴ１５３ａには、一取引に係る商品Ａが収納される。第１の買物カゴ１５３ａ内の商品Ａは、商品読取装置１０１を操作するオペレータにより第２の買物カゴ１５３ｂに移動される。この移動過程で、商品Ａが商品読取装置１０１の読取窓１０３に向けられる。この際、読取窓１０３内に配置された撮像部１６４（図２参照）は商品Ａを撮像する。

商品読取装置１０１では、撮像部１６４により撮像された画像に含まれる商品Ａが、後述するＰＬＵファイルＦ１（図３参照）に登録されたどの商品に対応するかを指定させるための画面を表示・操作部１０４に表示し、指定された商品の商品ＩＤをＰＯＳ端末１１に通知する。ＰＯＳ端末１１では、商品読取装置１０１から通知される商品ＩＤに基づき、当該商品ＩＤに対応する商品の商品分類、商品名、単価等の売上登録に係る情報を、売上マスタファイル（図示しない）等に記録して売上登録を行う。

図２は、ＰＯＳ端末１１及び商品読取装置１０１のハードウェア構成を示すブロック図である。ＰＯＳ端末１１は、情報処理を実行する情報処理部としてのマイクロコンピュータ６０を備える。マイクロコンピュータ６０は、各種演算処理を実行し各部を制御するＣＰＵ（Central Processing Unit）６１に、ＲＯＭ（Read Only Memory）６２とＲＡＭ（Random Access Memory）６３とがバス接続されて構成される。

ＰＯＳ端末１１のＣＰＵ６１には、前述したドロワ２１、キーボード２２、表示デバイス２３、タッチパネル２６、顧客用表示デバイス２４がいずれも各種の入出力回路（いずれも図示せず）を介して接続される。これらは、ＣＰＵ６１による制御を受ける。

キーボード２２は、「１」、「２」、「３」・・・等の数字や「×」という乗算の演算子が上面に表示されているテンキー２２ｄ、仮締めキー２２ｅ、及び締めキー２２ｆを含む。

ＰＯＳ端末１１のＣＰＵ６１には、ＨＤＤ６４（Hard Disk Drive）が接続される。ＨＤＤ６４には、プログラムや各種ファイルが記憶される。ＨＤＤ６４に記憶されているプログラムや各種ファイルは、ＰＯＳ端末１１の起動時に、その全部または一部がＲＡＭ６３にコピーされてＣＰＵ６１により実行される。ＨＤＤ６４に記憶されているプログラムの一例は、商品販売データ処理用プログラムＰＲ１やリアルタイム認識判定用プログラムＰＲ２である。ＨＤＤ６４に記憶されているファイルの一例は、ストアコンピュータＳＣから配信されて格納されているＰＬＵファイルＦ１である。

ＰＬＵファイルＦ１は、店舗に陳列して販売する商品Ａの各々について、商品Ａの売上登録に係る情報を格納する商品ファイルである。以下の説明では、ＰＬＵファイルＦ１を辞書として用いるが、辞書はＰＬＵファイルＦ１と異なるファイルであっても良い。辞書は、撮像した画像データから抽出した商品を識別するための照合用データ（特徴量）を、複数の商品について記憶する。辞書は、ＰＬＵファイルＦ１と異なるファイルである場合、辞書に記憶される照合用データ（特徴量）と、ＰＬＵファイルＦ１の情報（識別情報）は紐付けられる。特徴量は、商品の標準的な形状、表面の色合い、模様、凹凸状況等の外観の特徴をパラメータ化したものである。

図３は、ＰＬＵファイルＦ１のデータ構成を例示する概念図である。図３に示すように、ＰＬＵファイルＦ１は、商品Ａごとに、ユニークに割り当てられた識別情報である商品ＩＤ、商品Ａが属する商品分類、商品名、品種、単価等の商品に関する情報と、その商品Ａを示すイラスト画像と、撮像した商品画像から読み取られる色合いや表面の凹凸状況等の特徴量とを、その商品Ａの商品情報として格納するファイルである。尚、特徴量は、後述する類似度の判定に用いられる照合用のデータである。なお、ＰＬＵファイルＦ１は、後述する接続インターフェース６５を介し、商品読取装置１０１が読み出し可能に構成される。

加えて、ＰＬＵファイルＦ１は、図３に示すように、ガイダンス情報を各商品に対して記憶する。ガイダンス情報は、商品Ａを撮像部１６４にかざす際に、撮像部１６４が撮像する物品の特徴毎の注意点を表したガイダンスを表示するための情報である。

撮像対象商品の特徴毎の注意点を表したガイダンス表示としては、例えば以下に示すガイダンスが挙げられる。
１．撮像対象となる全商品に共通するものであって、撮像部１６４に対する撮像距離を示すガイダンス。
２．リンゴのように球形の物品（オブジェクト）について、くるくる回しながら、物品全体を撮像するように案内するガイダンス。
３．大根やネギのように長い物品（オブジェクト）について、長手方向を軸としてくるくる回しながら、物品全体を長手方向に流して撮像するように案内するガイダンス。
４．スダチのように小さい物品（オブジェクト）について、物品（オブジェクト）を把持している店員の手が撮像部１６４による撮像画像内にできるだけ入らないように撮像するように案内するガイダンス。

図３の最上段に示された「にんじん」は、ガイダンス情報として１と３とが設定された状態を示すものである。

図２に戻り、ＰＯＳ端末１１のＣＰＵ６１には、ストアコンピュータＳＣとデータ通信を実行するための通信インターフェース２５が入出力回路（図示せず）を介して接続される。ストアコンピュータＳＣは、店舗のバックヤード等に設置される。ストアコンピュータＳＣのＨＤＤ（図示せず）には、ＰＯＳ端末１１に配信されるＰＬＵファイルＦ１が格納される。

更に、ＰＯＳ端末１１のＣＰＵ６１には、商品読取装置１０１との間でデータ送受信を可能にする接続インターフェース６５が接続される。接続インターフェース６５には、商品読取装置１０１が接続される。また、ＰＯＳ端末１１のＣＰＵ６１には、レシート等に印字を行うプリンタ６６が接続される。ＰＯＳ端末１１は、ＣＰＵ６１の制御の下、一取引の取引内容をレシートに印字する。

商品読取装置１０１も、マイクロコンピュータ１６０を備える。マイクロコンピュータ１６０は、ＣＰＵ１６１にＲＯＭ１６２とＲＡＭ１６３とがバス接続されて構成される。ＲＯＭ１６２には、ＣＰＵ１６１によって実行されるプログラムが記憶される。ＣＰＵ１６１には、撮像部１６４、音声出力部１６５が各種の入出力回路（いずれも不図示）を介して接続される。撮像部１６４、音声出力部１６５は、ＣＰＵ１６１によって動作が制御される。表示・操作部１０４は接続インターフェース１７６を介して、商品読取部１１０及びＰＯＳ端末１１に接続される。表示・操作部１０４は、商品読取部１１０のＣＰＵ１６１、ＰＯＳ端末１１のＣＰＵ６１によって動作が制御される。

撮像部１６４は、カラーＣＣＤイメージセンサやカラーＣＭＯＳイメージセンサ等であり、ＣＰＵ１６１の制御の下で読取窓１０３からの撮像を行う撮像手段である。例えば撮像部１６４では３０ｆｐｓ（Flame Per Second）の画像の撮像を行う。撮像部１６４が所定のフレームレートで順次撮像したフレーム画像（撮像画像）はＲＡＭ１６３に保存される。

音声出力部１６５は、予め設定された警告音等を発生するための音声回路とスピーカ等である。音声出力部１６５は、ＣＰＵ１６１の制御の下で警告音や音声による報知を行う。

更に、ＣＰＵ１６１には、ＰＯＳ端末１１の接続インターフェース６５に接続して、ＰＯＳ端末１１との間でデータ送受信を可能にする接続インターフェース１７５が接続される。また、ＣＰＵ１６１は、接続インターフェース１７５を介して、表示・操作部１０４との間でデータ送受信を行う。

次に、ＣＰＵ６１がプログラム（商品販売データ処理用プログラムＰＲ１、リアルタイム認識判定用プログラムＰＲ２）を実行することで実現されるＣＰＵ６１の機能構成について説明する。図４は、ＰＯＳ端末１１の機能構成を示すブロック図である。

図４は、ＰＯＳ端末１１の機能構成を示すブロック図である。図４に示すように、ＰＯＳ端末１１のＣＰＵ６１は、商品販売データ処理用プログラムＰＲ１およびリアルタイム認識判定用プログラムＰＲ２を実行することにより、画像取込部５１、商品検出部５２、類似度算出部５３、類似度判定部５４、商品提示部５５、入力受付部５７、情報入力部５８、売上登録処理手段である売上登録部５９、物品指定部９１、判定部９２、報知部９３、追加学習部９４、としての機能を備える。

（商品登録処理および売上登録処理）
まず、ＰＯＳ端末１１の画像取込部５１、商品検出部５２、類似度算出部５３、類似度判定部５４、商品提示部５５、入力受付部５７、情報入力部５８による一般物体認識（オブジェクト認識）に応じた商品登録処理、および売上登録部５９による売上登録処理についての概要を説明する。

画像取込部５１は、撮像部１６４に撮像オン信号を出力して撮像部１６４に撮像動作を開始させる。画像取込部５１は、撮像動作開始後に撮像部１６４が撮像してＲＡＭ１６３に保存されたフレーム画像を順次取り込む。画像取込部５１によるフレーム画像の取り込みは、ＲＡＭ１６３に保存された順に行われる。

図５は、画像取込部５１によって取り込まれたフレーム画像の一例を示す図である。図５に示すように、オペレータが読取窓１０３に商品Ａをかざすと、撮像部１６４の読取領域Ｒには商品Ａの全部または一部が撮影されて商品読取装置１０１の表示デバイス１０６に表示される。

商品検出部５２は、撮像部１６４が撮像し、画像取込部５１により取り込まれたフレーム画像に含まれる商品Ａを検出して、特徴量を抽出する。商品検出部５２は、フレーム画像に含まれる商品Ａの全部または一部を、パターンマッチング技術等を用いて検出することにより、撮像された商品Ａの特徴量を抽出する。具体的には、取り込まれたフレーム画像を２値化した画像から輪郭線等を抽出する。次いで、前回のフレーム画像から抽出された輪郭線と、今回のフレーム画像から抽出された輪郭線とを比較して、売上登録のために読取窓１０３に向けられた商品Ａを検出する。

なお、商品Ａを検出する別の方法としては、取り込まれたフレーム画像から肌色領域の有無を検出する。次いで、肌色領域が検出された場合、すなわち、店員の手が検出された場合は、この肌色領域の近傍において上述した輪郭線の検出を行うことで、店員の手が把持していると想定される商品の輪郭抽出を試みる。この時、手の形状を示す輪郭と、手の輪郭の近傍にそれ以外の物体の輪郭とが検出された場合に、商品検出部５２は、この物体の輪郭から商品Ａを検出する。

また、商品検出部５２は、検出された商品Ａの全部または一部の画像から、商品Ａの色合いや表面の凹凸状況等の表面の状態を特徴量として読み取る。なお、商品検出部５２は、処理時間の短縮を図るため、商品Ａの輪郭や大きさは考慮しないものとする。

類似度算出部５３は、ＰＬＵファイルＦ１に登録されている各商品（以下、登録商品という）の商品画像の色合いや表面の凹凸状況等の表面の状態である特徴量と、商品検出部５２が商品Ａを検出し、抽出した特徴量とをそれぞれ比較することで、商品ＡとＰＬＵファイルＦ１に登録された登録商品との類似度を算出する。ここで、類似度は、ＰＬＵファイルＦ１に記憶されている各商品の商品登録時の商品画像を１００％＝「類似度：１．０」とした場合に、商品Ａの全部または一部の画像がどの程度類似しているかを示すものである。なお、例えば、色合いと表面の凹凸状況とでは、重み付けを変えて類似度を算出してもよい。

このように画像中に含まれる物体を認識することは一般物体認識（generic object recognition）と呼ばれている。このような一般物体認識については、下記の文献において各種認識技術が解説されている。
柳井 啓司，“一般物体認識の現状と今後”，情報処理学会論文誌，Ｖｏｌ．４８，Ｎｏ．ＳＩＧ１６ [平成２２年８月１０日検索]，インターネット<URL: http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf >

また、画像をオブジェクトごとに領域分割することによって一般物体認識を行う技術が、下記の文献において解説されている。
Jamie Shottonら，“Semantic Texton Forests for Image Categorization and Segmentation”，[平成２２年８月１０日検索]，インターネット<URL: http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf >

なお、撮像された商品Ａの画像と、ＰＬＵファイルＦ１に登録された登録商品との類似度の算出方法は特に問わないものとする。例えば、撮像された商品Ａの画像と、ＰＬＵファイルＦ１に登録された各登録商品との類似度を絶対評価として算出してもよいし、相対評価として算出してもよい。

類似度を絶対評価として算出する場合、撮像された商品Ａの画像と、ＰＬＵファイルＦ１に登録された各登録商品とを１対１で比較し、この比較の結果導出される類似度をそのまま採用すればよい。また、類似度を相対評価として算出する場合、ＰＬＵファイルＦ１に５つの登録商品（商品ＡＡ、ＡＢ、ＡＣ、ＡＤ、ＡＥ）が登録されていたとすると、撮像された商品Ａは、商品ＡＡに対して類似度が０．６、商品ＡＢに対しては類似度が０．１、商品ＡＣに対しては類似度が０．１、商品ＡＤに対しては類似度が０．１、商品ＡＥに対しては類似度が０．１等、各登録商品との類似度の総和が１．０（１００％）となるよう算出すればよい。

類似度判定部５４は、画像取込部５１が取り込んだフレーム画像ごとに、商品Ａの画像と、ＰＬＵファイルＦ１に登録されている登録商品との類似度を比較する。本実施形態では、登録商品の商品画像と商品Ａの画像との類似度について複数の条件が段階的に設けられており、類似度判定部５４は、満たされる条件に応じて登録商品の確定あるいは商品の候補の選定を行う。類似度に関する条件は特に限定されるものではないが、以下では条件ａ〜ｄを用いる場合について説明する。

ここで、条件ａおよび条件ｂは、本実施形態に係る第１の条件であり、撮像部１６４が撮像した商品ＡをＰＬＵファイルＦ１に登録された登録商品のうち一の商品として確定するための条件である。また、条件ｃは、本実施形態に係る第２の条件であり、ＰＬＵファイルＦ１に登録された登録商品中に同一のカテゴリ（商品）に属する異なる品種の物品が複数含まれていない場合に、撮像部１６４が撮像した商品Ａの候補を抽出するための条件である。更に、条件ｄは、本実施形態に係る第３の条件であり、条件ｃを満たした商品Ａの候補中に同一のカテゴリ（商品）に属する異なる品種の物品が複数含まれている場合に、撮像部１６４が撮像した商品Ａの候補を抽出するための条件である。

類似度判定部５４は、条件ａまたは条件ｂを満たす登録商品を、撮像部１６４が撮像した商品Ａに一対一で対応する商品（以下、確定商品という）であると判定（確定）する。また、類似度判定部５４は、条件ｃを満たす登録商品については、確定商品ではなく、撮像部１６４が撮像した商品Ａの候補（以下、商品候補という）であると判定する。そして、ＰＬＵファイルＦ１に登録された複数の登録商品から条件ｃを満たす登録商品を抽出することにより、商品Ａに対する商品候補を抽出する。

また、類似度判定部５４は、条件ｄを満たす登録商品（同一のカテゴリ（商品）に属する異なる品種の物品）についても、確定商品ではなく、撮像部１６４が撮像した商品Ａの候補であると判定する。そして、ＰＬＵファイルＦ１に登録された複数の登録商品から条件ｄを満たす登録商品を抽出することにより、商品Ａに対する商品候補を抽出する。

条件ａ〜ｃは類似度に応じて段階的に設定されればその詳細は特に限定されるものではないが、一例として、予め設定された複数の閾値によって条件ａ〜ｃを設けることができる。ここでは、第１閾値〜第３閾値によって条件ａ〜ｃを設定する場合について説明する。なお、第１〜３閾値の大小関係は、第１閾値＞第２閾値＞第３閾値とする。

類似度判定部５４は、登録商品との類似度が予め定められた第１閾値（例えば９０％）以上となった回数をカウントし、この回数が所定回数以上となった場合に条件ａが満たされたと判定する。尚、第１閾値を誤判定が無いよう十分に高く設定した場合には、所定回数を１回として条件ａを判定してもよい。

また、類似度判定部５４は、登録商品との類似度が第１閾値（例えば９０％）未満、かつ、第１閾値より小さい第２閾値（例えば７５％）以上となった場合に条件ｂが満たされたと判定する。そして、条件ｂを満たした登録商品は、確定商品ではあるがオペレータによる確認操作を要すると判定する。なお、登録商品との類似度が第１閾値（例えば９０％）未満、かつ、第１閾値より小さい第２閾値（例えば７５％）以上となった回数をカウントし、この回数が所定回数以上となった場合に条件ｂが満たされたと判定してもよい。

更に、類似度判定部５４は、登録商品との類似度が第２閾値（例えば７５％）未満、かつ、第２閾値より小さい第３閾値（例えば１０％）以上である場合に、条件ｃが満たされたと判定する。なお、更には登録商品との類似度が第２閾値（例えば７５％）未満、かつ、第２閾値より小さい第３閾値（例えば１０％）以上となった回数をカウントし、この回数が所定回数以上となった場合に条件ｃが満たされたと判定してもよい。

なお、各条件ａ〜ｃは、類似度の大きさ、判定回数等に応じて適宜設定可能であり、上述した例に限定されるものではない。また、条件ａ〜ｃの判断に用いる所定回数はそれぞれ条件毎に異なる回数を設けるものであってもよい。

加えて、類似度判定部５４は、条件ｃを満たした登録商品中に同一のカテゴリ（商品）に属する異なる品種の物品が複数含まれている場合には、当該複数の品種の類似度を合算し、複数の品種の類似度を合算したカテゴリ（商品）の類似度が予め定められた第２閾値（例えば７５％）以上となった場合、条件ｄが満たされたと判定する。

さらに、類似度判定部５４は、登録商品について類似度の大きさで順位付けしたランキングを作成する。

商品提示部５５は、撮像部１６４によって撮像された商品が、条件ａまたは条件ｂを満たした登録商品であるとして一意的に確定されたことを、画像出力や音声出力等によってオペレータや客に報知する。

より詳細には、商品提示部５５は、条件ａを満たした登録商品が、撮像部１６４によって撮像された商品（確定商品）として一意的に確定されたことを示す確定画面７１（図６参照）を表示デバイス１０６に表示させる。

図６は、確定画面７１の一例を示す図である。条件ａを満たす登録商品があった場合に、商品提示部５５は読取領域Ｒ（図５参照）の撮像画像の表示を停止し、確定商品に対応するイラスト画像Ｇ１および商品名「にんじん」をＰＬＵファイルＦ１から読み出して、確定画面７１に表示する。また、商品提示部５５は、ＰＬＵファイルＦ１から読み出した確定商品の商品名、商品価格（単価）を、商品名表示領域８１、価格表示領域８２にそれぞれ表示する。尚、商品提示部５５は、イラスト画像Ｇ１の代わりに、ＰＬＵファイルＦ１から読み出した商品画像（写真）を表示してもよい。これに限らず、イラストや商品画像を表示せず、商品名を確定画面７１に表示するようにしてもよい。この場合、音声出力部１６５によって、商品が確定したことを報知する。音声は事前に商品に紐付けられて登録された商品名であってもよいし、例えば「ピッ」という電子音であってもよい。

また、商品提示部５５は、条件ｂを満たした登録商品（確定商品）が、撮像部１６４によって撮像された商品Ａであるか否かの最終確認操作を受付ける確認画面７２（図７参照）を表示デバイス１０６に表示させる。

図７は、確認画面７２の一例を示す図である。条件ｂを満たす登録商品があった場合に、商品提示部５５は確定商品に対応するイラスト画像Ｇ１をＰＬＵファイルＦ１から読み出して、確認画面７２に表示する。また、商品提示部５５は、ＰＬＵファイルＦ１から読み出した確定商品の商品名を用いて、読み取られた商品Ａがイラスト画像Ｇ１の商品であるか否かを問うメッセージを「にんじんですか？」等と表示する。また、確認画面７２には、「はい／いいえ」等のボタンがタッチパネル１０５に対するタッチ操作によって選択操作可能に設けられる。

このように、確認画面７２においては、類似度判定の結果、１つの商品Ａに対して唯一に選別された登録商品（確定商品）の商品名や商品画像が示され、商品Ａと登録商品とが一対一の関係を持って表示される。従って、確認画面７２は、条件ｂを満たす登録商品が撮像部１６４によって撮像された商品Ａとして一意的に確定されたことを報知する画面である。

加えて、商品提示部５５は、条件ｃを満たした登録商品に関する情報を、商品候補として表示デバイス１０６に表示させる。より詳細には、商品提示部５５は、条件ｃを満たした登録商品のイラスト画像および商品名をＰＬＵファイルＦ１から読み出し、類似度算出部５３が算出した類似度の高いものから、表示デバイス１０６に順次出力する。表示デバイス１０６は、商品候補提示領域８３（図８参照）において、商品候補のイラスト画像および商品名を類似度の高いものから順に表示する。

図８は、商品候補のイラスト画像Ｇ１、Ｇ２、Ｇ３、Ｇ４が表示された画面例を示す図である。図８に示すように、商品候補提示領域８３には、類似度の高い登録商品から順に、商品候補のイラスト画像Ｇ１、Ｇ２、Ｇ３、Ｇ４および各商品名が表示される。これらイラスト画像Ｇ１、Ｇ２、Ｇ３、Ｇ４はタッチパネル１０５に対する選択操作に応じて選択可能に構成される。また、商品候補提示領域８３の下部には、商品リストから商品Ａを選択するための選択ボタン８４が設けられており、商品リストから選択された商品は上述した確定商品として処理される。なお、図８では、イラスト画像Ｇ１〜Ｇ４に対応する４つの商品候補が表示された例を示したが、商品候補の数や表示方法は特に限定されるものではない。また、イラスト画像に代えて商品画像（写真）を商品候補として表示してもよい。

加えて、商品提示部５５は、条件ｄを満たした同一のカテゴリ（商品）に属する異なる品種の物品である登録商品に関する情報を、商品候補として表示デバイス１０６に表示させる。より詳細には、商品提示部５５は、条件ｄを満たした登録商品（同一のカテゴリ（商品）に属する異なる品種の物品）のイラスト画像および商品名をＰＬＵファイルＦ１から読み出し、類似度算出部５３が算出した類似度の高いものから、表示デバイス１０６に順次出力する。

入力受付部５７は、タッチパネル１０５またはキーボード１０７を介して表示デバイス１０６の表示に対応する各種入力操作を受付ける。例えば入力受付部５７は、確認画面７２（図７参照）に対する選択操作に基づいて、表示されたイラスト画像Ｇ１の商品が確定商品であることを最終確認した旨の入力操作（確認操作）を受付ける。なお、商品提示部５５は、入力受付部５７が確認操作を受付けた場合に、上述の確定画面７１を表示デバイス１０６に表示する。

入力受付部５７は、表示デバイス１０６に表示された商品候補のイラスト画像Ｇ１〜Ｇ４（図８参照）の中からいずれか１つのイラスト画像に対する選択操作を受付ける。入力受付部５７は、選択されたイラスト画像の登録商品を、商品Ａに対する確定商品であるとして受付ける。なお、商品検出部５２が複数の商品Ａを検出可能である場合には、入力受付部５７は商品候補の中から、複数の商品候補の選択操作を受付けてもよい。なお、商品提示部５５は、入力受付部５７が選択操作を受付けた場合に、受付けた商品候補を確定商品として表示させた確定画面７１を表示デバイス１０６に表示させる。

情報入力部５８は、上述のようにして確定された確定商品について、その商品Ａを示す情報（例えば、商品ＩＤや商品名等）を、接続インターフェース１７５を介して入力する。

なお、情報入力部５８は、タッチパネル１０５またはキーボード１０７を介して別途入力された販売個数を、商品ＩＤ等とともに入力するとしてもよい。

売上登録部５９は、情報入力部５８から入力された商品ＩＤと販売個数とに基づいて、対応する商品Ａの売上登録を行う。具体的には、売上登録部５９は、ＰＬＵファイルＦ１を参照して、通知された商品ＩＤ及び当該商品ＩＤに対応する商品分類、商品名、単価等を、販売個数とともに売上マスタファイル等に記録して売上登録を行う。

（オブジェクト認識に際してのリアルタイム認識判定処理）
次いで、ＰＯＳ端末１１の画像取込部５１、商品検出部５２、類似度算出部５３、類似度判定部５４、物品指定部９１、判定部９２、報知部９３、追加学習部９４によるオブジェクト認識に際してのリアルタイム認識判定処理について説明する。

上述したように、ＰＯＳ端末１１は、撮像部１６４により撮像した画像データから抽出した対象となる物品（オブジェクト）の特徴量と、予め用意された辞書であるＰＬＵファイルＦ１における照合用のデータ（特徴量）とを比較した類似度に応じて当該物品の種別等を認識（検出）する一般物体認識（オブジェクト認識）を採用している。

上記した一般物体認識（オブジェクト認識）においては、商品Ａをかざす面や、商品Ａの位置、イメージセンサデバイスと商品Ａとの距離など、商品Ａのかざし方によって撮像される画像データが異なる。ところが、商品Ａが認識されるかざし方を、上述した商品登録処理の際に経験的に習得するのでは、かざす面や、位置、距離などを変えて、何通りも売上登録を試みなければならず、非常に非効率であり手間である。

そこで、本実施形態のＰＯＳ端末１１は、オブジェクト認識における商品Ａのかざし方について報知することができるようにしたものである。すなわち、ＰＯＳ端末１１のＣＰＵ６１は、リアルタイム認識判定用プログラムＰＲ２を実行することにより、図４に示すように、画像取込部５１、商品検出部５２、類似度算出部５３、類似度判定部５４、物品指定部９１、判定部９２、報知部９３、追加学習部９４としての機能を備える。以下において、オブジェクト認識に際してのリアルタイム認識判定処理における各部について説明する。

先ず、商品登録処理と同様に、画像取込部５１は、撮像部１６４が撮像したフレーム画像を取り込む。そして、商品登録処理と同様に、商品検出部５２、類似度算出部５３、および類似度判定部５４は、画像取込部５１が取り込んだ画像に含まれる商品Ａを識別する識別手段として機能する。

次に、画像取込部５１、商品検出部５２、類似度算出部５３、および類似度判定部５４によって実行されるリアルタイム性を有した処理について説明を行う。撮像部１６４は、３０ｆｐｓで画像を撮像する。そして、画像取込部５１、商品検出部５２、類似度算出部５３および類似度判定部５４は、撮像された１フレーム画像ごとに類似度を求めるための各種処理を実行する。売上登録にかかる商品登録処理は、これを所定の時間、すなわち、複数のフレーム画像に対して繰り返し行う。売上登録にかかる商品登録処理は、蓄積された複数のフレーム画像分の類似度を用いることで、商品認識の精度を高めている。一方、リアルタイム処理は、３０ｆｐｓで撮像された１フレーム画像の類似度を用いて、商品のかざし方の適否を報知する。これにより、本実施形態は、リアルタイムでの報知を実現している。

また、商品検出部５２、類似度算出部５３、および類似度判定部５４は、商品Ａが検出できない場合に処理を断念し、後述する報知部９３に報知させる。商品Ａが検出できない場合とは、商品Ａの全部または一部が撮像されていない場合や、商品Ａを持つ手により、商品Ａが隠れてしまっている場合などである。

物品指定部９１は、選択手段として機能するものであって、予め用意された辞書であるＰＬＵファイルＦ１からリアルタイム認識判定の対象商品を選択させる。物品指定部９１は、ＰＬＵファイルＦ１に格納された登録商品のリストから、オペレータがリアルタイム認識判定の物品の商品名を選択させることで、リアルタイム認識判定の対象商品の指定を行う。

なお、撮像速度は、３０ｆｐｓに限るものではない。また、類似度の算出に用いるフレーム画像の枚数も、１フレーム画像に限らない。類似度の算出に用いるフレーム画像の枚数は、２枚以上の複数フレーム画像としてもよい。

判定部９２は、商品検出部５２、類似度算出部５３、および類似度判定部５４が、画像に含まれる商品Ａを識別する識別手段として機能した識別結果における、物品指定部９１によって選択された商品Ａのランクに応じた、かざし方の適否を判定する。その際、判定部９２は、対象商品の類似度の大きさで順位付けしたランキングに応じて３段階に判定する。なお、判定の段階は、２段階であってもよいし、４段階以上であってもよい。

次に、判定部９２が判定する３段階の詳細について説明する。

まず、リアルタイム認識判定処理の対象に選択した登録商品の類似度におけるランキングの順位が高位の場合について説明する。判定部９２は、ランキングの順位が第１位または、確定商品の少なくとも何れか一方の条件を満たしている場合に、選択した登録商品の類似度におけるランキングの順位が高位にランクすると判定する。

次に、リアルタイム認識判定処理の対象に選択した登録商品の類似度におけるランキングの順位が中位の場合について説明する。判定部９２は、ランキング第１位を除いた候補商品、すなわち、ランキングの順位が第２位から第４位などの順位である場合に、選択した登録商品の類似度におけるランキングの順位が中位にランクすると判定する。なお、ランキング第１位を除いた候補商品は、第２位から第４位に限らず、第５位以下を含めてもよい。

次に、リアルタイム認識判定処理の対象に選択した登録商品の類似度におけるランキングの順位が低位の場合について説明する。判定部９２は、商品候補より類似度が低いとき、すなわち、ランキングの順位が第５位以下などの順位である場合に、選択した登録商品の類似度におけるランキングの順位が低位にランクすると判定する。または、判定部９２は、商品検出部５２が商品Ａを検出することができず、ランキングを算出する処理を断念した場合に、選択した登録商品の類似度におけるランキングの順位が低位にランクすると判定する。

報知部９３は、判定部９２が判定した判定結果を報知する。具体的には、報知部９３は、判定部９２が判定した判定結果に応じた画面を表示することで報知する。

また、報知部９３は、ＰＬＵファイルＦ１において商品Ａに対応付けて記憶されているガイダンス情報を報知する。これにより、オペレータは、撮像対象商品の特徴毎の注意点を考慮して商品Ａをかざすことができる。

追加学習部９４は、ＰＬＵファイルＦ１に予め登録されている商品の照合用のデータ（特徴量）を追加学習（追加登録）する。具体的には、追加学習部９４は、照合用のデータ（特徴量）となる画像を再度、撮像し、取り込むことにより更新する。照合用データ（特徴量）は、一定量保存（記憶）することができる。照合用データ（特徴量）が一定量に達したら、古い照合用データ（特徴量）からデータを消去、あるいはランダムで照合用データ（特徴量）を消去する。

次に、リアルタイム認識判定処理におけるチェックアウトシステム１の動作について詳細に説明する。図９は、チェックアウトシステム１が実行するリアルタイム認識判定処理の流れを示すフローチャートである。なお、前提条件として、リアルタイム認識判定用プログラムＰＲ２が起動しているものとする。

図９に示すように、ＰＯＳ端末１１のＣＰＵ６１（物品指定部９１）は、商品選択画面（不図示）を表示する（ステップＳ１１）。商品選択画面は、辞書に登録されている登録商品のリストを表示して、リアルタイム認識判定処理を行う対象の商品を登録商品から選択させる画面である。オペレータは、商品選択画面に表示された商品ボタンを押下することにより、リアルタイム認識判定処理を行う商品Ａを選択することができる。

次いで、ＰＯＳ端末１１のＣＰＵ６１（物品指定部９１）は、商品ボタンの押下が検出されるか否かを判定する（ステップＳ１２）。ＰＯＳ端末１１のＣＰＵ６１（物品指定部９１）は、商品ボタンの押下を検出しない場合に（ステップＳ１２；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１（物品指定部９１）は、ステップＳ１２にて待機する。

商品ボタンの押下を検出した場合に（ステップＳ１２；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、精度チェック画面Ｇ５（図１０参照）を表示させる（ステップＳ１３）。

図１０は、精度チェック画面Ｇ５の一例を示す説明図である。精度チェック画面Ｇ５は、リアルタイム認識判定処理の状態および判定結果を表示する画面である。精度チェック画面Ｇ５は、大別すると、商品表示領域Ｒ５１と、通常認識判定領域Ｒ５２と、リアルタイム認識判定領域Ｒ５３と、中止ボタンＢ５１とを備える。

商品表示領域Ｒ５１は、リアルタイム認識判定処理の対象商品を撮像部１６４が撮像して画像取込部５１によって取り込まれた画像を表示する領域である。商品表示領域Ｒ５１は、商品名領域Ｒ５１１と、撮像領域Ｒ５１２とを備える。商品名領域Ｒ５１１は、予め選択したリアルタイム認識判定処理を行う対象商品の商品名が表示される領域である。撮像領域Ｒ５１２は、撮像部１６４が撮像した画像を表示する領域である。撮像領域Ｒ５１２に画像を表示することで、オペレータは、撮像部１６４に商品を撮像させていることを確認することができる。

通常認識判定領域Ｒ５２は、照合データ（類似度）の精度をチェックする商品認識精度チェック機能の判定結果が表示される領域である。

リアルタイム認識判定領域Ｒ５３は、シングルフレームでの認識結果を表示することにより、リアルタイムで認識結果を表示する領域である。リアルタイム認識判定領域Ｒ５３は、判定結果領域Ｒ５３１と、メッセージ領域Ｒ５３２と、を備える。判定結果領域Ｒ５３１は、リアルタイム認識判定の結果として、商品Ａのかざし方の適否について表示する領域である。メッセージ領域Ｒ５３２は、ＰＬＵファイルＦ１において商品Ａに対応付けて記憶されているガイダンス情報に従って、撮像対象商品の特徴毎の注意点を表示する領域である。中止ボタンＢ５１は、リアルタイム認識判定処理を中止する場合に押下するボタンである。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、精度チェック画面Ｇ５に備えられた中止ボタンＢ５１の押下が検出されるか否かを判定する（ステップＳ１４）。中止ボタンＢ５１の押下が検出された場合に（ステップＳ１４；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、中止実行画面Ｇ６（図１４参照）を表示させる（ステップＳ２５）。

一方、精度チェック画面Ｇ５に備えられた中止ボタンＢ５１の押下が検出されない場合に（ステップＳ１４；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１（画像取込部５１）は、撮像部１６４を用いてフレーム画像を撮像し、フレーム画像を取り込む（ステップＳ１５）。

次いで、ＰＯＳ端末１１のＣＰＵ６１（商品検出部５２）は、商品Ａの特徴量を抽出する（ステップＳ１６）。次いで、ＰＯＳ端末１１のＣＰＵ６１（類似度算出部５３）は、1フレーム画像ごとに、登録商品について類似度を算出する（ステップＳ１７）。次いで、ＰＯＳ端末１１のＣＰＵ６１（類似度判定部５４）は、登録商品について類似度の大きさで順位付けしたランキングを作成する（ステップＳ１８）。

次いで、ＰＯＳ端末１１のＣＰＵ６１（判定部９２）は、リアルタイム認識判定処理の対象に選択した登録商品の類似度におけるランキングの順位が高位であるか否かを判定する（ステップＳ１９）。ここで、ランキングの順位が高位とは、選択した登録商品の類似度におけるランキングの順位が第１位、または類似度が高い確定商品であることの少なくとも何れか一方の条件を満たしていることである。

選択した登録商品の類似度におけるランキングの順位が高位である場合に（ステップＳ１９；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１（報知部９３）は、リアルタイム認識判定領域Ｒ５３に高認識結果画面Ｇ５１を表示する（ステップＳ２０）。

図１１は、高認識結果画面Ｇ５１の一例を示す説明図である。高認識結果画面Ｇ５１は、選択した登録商品の類似度におけるランキングの順位が高位である旨を表示した画面である。高認識結果画面Ｇ５１は、判定結果領域Ｒ５３１に、選択した登録商品の類似度におけるランキングの順位が高位である旨を示す「判定結果ＯＫ」を表示する。これにより、オペレータは、商品Ａを認識させるためには、商品Ａのどの部分（面）を撮像部１６４に撮像させれば良いかを知ることができる。さらに、オペレータは、商品Ａを認識させるためには、商品Ａを、どの位置に持っていき、撮像部１６４に撮像させれば良いかを知ることができる。

メッセージ領域Ｒ５３２には、「くるくるまんべんなくまわして確認できます」とのガイダンス情報を表示して、商品Ａの様々な部分（面）について試行させることで、商品Ａを認識させるためのかざし方について習得させる。

選択した登録商品の類似度におけるランキングの順位が高位ではない場合に（ステップＳ１９；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１（判定部９２）は、リアルタイム認識判定処理の対象に選択した登録商品の類似度におけるランキングの順位が中位であるか否かを判定する（ステップＳ２１）。ここで、ランキングの順位が中位とは、ランキング第１位を除いた商品候補であることを示す。具体的には、選択した登録商品の類似度におけるランキングの順位が第２位から第４位などである。

選択した登録商品の類似度におけるランキングの順位が中位である場合に（ステップＳ２１；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１（報知部９３）は、リアルタイム認識判定領域Ｒ５３に中認識結果画面Ｇ５２を表示する（ステップＳ２２）。

図１２は、中認識結果画面Ｇ５２の一例を示す説明図である。中認識結果画面Ｇ５２は、類似度が第１位以外の商品候補であり、選択した登録商品の類似度におけるランキングの順位が中位である旨を表示する画面である。中認識結果画面Ｇ５２は、判定結果領域Ｒ５３１に、選択した登録商品の類似度におけるランキングの順位が中位である旨を示すマーク「△」を表示する。また、中認識結果画面Ｇ５２は、メッセージ領域Ｒ５３２に、高認識結果画面Ｇ５１と同様のガイダンス情報を表示する。

選択した登録商品の類似度におけるランキングの順位が中位でない場合に（ステップＳ２１；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１（報知部９３）は、選択した登録商品の類似度におけるランキングの順位が低位であるとして、リアルタイム認識判定領域Ｒ５３に低認識結果画面Ｇ５３を表示する（ステップＳ２３）。

図１３は、低認識結果画面Ｇ５３の一例を示す説明図である。低認識結果画面Ｇ５３は、商品候補より類似度が低く、選択した登録商品の類似度におけるランキングの順位が低位である旨を表示する画面である。また、低認識結果画面Ｇ５３は、商品検出部５２が商品Ａを検出することができず、ランキングを算出する処理を断念した場合に表示される。低認識結果画面Ｇ５３は、判定結果領域Ｒ５３１に、選択した登録商品の類似度におけるランキングの順位が低位である旨を示すマーク「×」を表示する。

また、低認識結果画面Ｇ５３は、選択した登録商品の類似度におけるランキングの順位が低位の場合に、メッセージ領域Ｒ５３２に、ＰＬＵファイルＦ１に記憶されたガイダンス情報を表示する。

ランキングを算出する処理を断念した場合には、低認識結果画面Ｇ５３は、メッセージ領域Ｒ５３２に、ガイダンス情報に代えて、断念理由に応じた対策を表示する。図１３の撮像領域Ｒ５１２には、商品Ａであるキャベツの左側が撮像されていない。よって、低認識結果画面Ｇ５３は、メッセージ領域Ｒ５３２に、「商品を中央に移動して下さい」とのメッセージを表示する。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、中止ボタンＢ５１の押下が検出されるか否かを判定する（ステップＳ２４）。中止ボタンＢ５１の押下が検出されない場合に（ステップＳ２４；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ１５に戻る。

一方、中止ボタンＢ５１の押下が検出された場合に（ステップＳ２４；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ２５に移行して中止実行画面Ｇ６を表示する（ステップＳ２５）。

図１４は、中止実行画面Ｇ６の一例を示す説明図である。中止実行画面Ｇ６は、中止ボタンＢ５１が押下された場合に、リアルタイム認識判定処理を中止することを確認する画面である。よって、中止実行画面Ｇ６は、「精度チェックを中止してもよろしいですか？」とのメッセージを表示する。中止実行画面Ｇ６は、はいボタンＢ６１と、いいえボタンＢ６２とを備える。はいボタンＢ６１は、リアルタイム認識判定処理を中止する場合に押下するボタンである。いいえボタンＢ６２は、リアルタイム認識判定処理の中止を取り止める場合に押下するボタンである。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、中止実行画面Ｇ６に備えられた、はいボタンＢ６１の押下が検出されるか否かを判定する（ステップＳ２６）。はいボタンＢ６１の押下が検出されない場合に（ステップＳ２６；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、中止実行画面Ｇ６に備えられた、いいえボタンＢ６２の押下が検出されるか否かを判定する（ステップＳ２７）。

いいえボタンＢ６２の押下が検出されない場合に（ステップＳ２７；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ２６に戻る。一方、いいえボタンＢ６２の押下が検出された場合に（ステップＳ２７；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ１３に戻る。

一方、中止実行画面Ｇ６に備えられた、はいボタンＢ６１の押下が検出された場合に（ステップＳ２６；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、リアルタイム認識判定処理を終了する。

以上のように、本実施形態によれば、商品Ａを識別するための特徴量が登録された辞書であるＰＬＵファイルＦ１から、リアルタイム認識判定処理の対象商品を選択する物品指定部９１を備える。また、かざされた商品Ａを撮像する撮像部１６４を備えている。撮像部１６４に撮像された画像に含まれる商品Ａは、識別手段として機能する商品検出部５２、類似度算出部５３、および類似度判定部５４によって類似度を用いて識別される。判定部９２は、識別結果における、物品指定部９１によって選択された商品Ａのランクに応じてかざし方の適否を判定する。そして、報知部９３は、判定部９２の判定結果を報知する。よって、本実施形態は、撮像部１６４への商品Ａのかざし方の適否について報知することができる。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

なお、上記実施形態では、情報処理装置としてＰＯＳ端末１１を例にあげて説明している。しかし、情報処理装置は、ＰＯＳ端末１１に限らない。例えば、パーソナルコンピュータやタブレット端末などであってもよい。この場合には、パーソナルコンピュータやタブレット端末に、スキャナなどの撮像装置を接続すればよい。

また、上記実施形態では、情報処理装置であるＰＯＳ端末１１のＣＰＵ６１は、画像取込部５１、商品検出部５２、類似度算出部５３、類似度判定部５４、商品提示部５５、入力受付部５７、情報入力部５８、売上登録部５９、物品指定部９１、報知部９３、及び追加学習部９４としての機能を有していると説明した。しかし、これらの機能は、ＰＯＳ端末１１のＣＰＵ６１以外が備えていてもよい。例えば、商品読取装置１０１のＣＰＵ１６１に、前述の機能の全部または一部が備えられていてもよい。

また、上記実施形態では、照合用データを特徴量として説明したが、照合用データは、撮像された商品画像（基準画像）としてもよい。

また、上記実施形態では、店舗システムとしてＰＯＳ端末１１と商品読取装置１０１とで構成されるチェックアウトシステム１を適用したがこれに限るものではなく、ＰＯＳ端末１１及び商品読取装置１０１の機能を備えた１台構成の装置に適用するようにしてもよい。ＰＯＳ端末１１及び商品読取装置１０１の機能を備えた１台構成の装置としては、スーパーマーケット等の店舗に設置されて用いられるセルフチェックアウト装置（以降、単にセルフＰＯＳと称する）が挙げられる。

ここで、図１５は、セルフＰＯＳ２００の構成を示す外観斜視図、図１６は、セルフＰＯＳ２００のハードウェア構成を示すブロック図である。尚、以下では、図１および図２に示される同様の構成については同一の符号を付して示し、その重複する説明を省略する。図１５および図１６に示すように、セルフＰＯＳ２００の本体２０２は、タッチパネル１０５が表面に配設された表示デバイス１０６や、商品の種別等を認識（検出）するために商品画像を読み取る商品読取部１１０を備えている。

表示デバイス１０６としては例えば液晶表示器が用いられる。表示デバイス１０６は、客にセルフＰＯＳ２００の操作方法を知らせるための案内画面や、各種の入力画面や、商品読取部１１０で読み込んだ商品情報を表示する登録画面、商品の合計金額や預かり金額、釣銭額等を表示し、支払い方法の選択をする精算画面等を表示する。

商品読取部１１０は、客が商品に付されたコードシンボルを商品読取部１１０の読取窓１０３にかざすことで商品画像を撮像部１６４により読み取るものである。

また、本体２０２の右側にはかごに入った未精算の商品を置くための商品載置台２０３が設けられ、本体２０２の左側には精算済みの商品を置くための商品載置台２０４が設けられ、精算済みの商品を入れるための袋を掛ける袋掛けフック２０５や、精算済みの商品を袋に入れる前に一時的に置いておくための一時置き台２０６が設けられている。商品載置台２０３、２０４には計量器２０７、２０８がそれぞれ備えられており、精算の前後で商品の重量が同じであることを確認する機能を有している。

また、セルフＰＯＳ２００の本体２０２には、精算用の紙幣の入金や釣り紙幣の受け取りを行うための釣り銭器２０１が設けられている。

このような構成のセルフＰＯＳ２００を店舗システムに適用した場合、セルフＰＯＳ２００が情報処理装置として機能することになる。

また、上記実施形態の各装置で実行されるプログラムは、各装置が備える記憶媒体（ＲＯＭ又は記憶部）に予め組み込んで提供するものとするが、これに限らず、インストール可能な形式又は実行可能な形式のファイルでＣＤ−ＲＯＭ、フレキシブルディスク（ＦＤ）、ＣＤ−Ｒ、ＤＶＤ（Digital Versatile Disk）等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。さらに、記憶媒体は、コンピュータ或いは組み込みシステムと独立した媒体に限らず、ＬＡＮやインターネット等により伝達されたプログラムをダウンロードして記憶又は一時記憶した記憶媒体も含まれる。

また、上記実施形態の各装置で実行されるプログラムをインターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよく、インターネット等のネットワーク経由で提供又は配布するように構成してもよい。

１１ ＰＯＳ端末
５２ 商品検出部
５３ 類似度算出部
９１ 物品指定部
９２ 判定部
９３ 報知部
１６４ 撮像部
Ｆ１ ＰＬＵファイル
ＰＲ２ リアルタイム認識判定チェックプログラム
Ｇ５ 精度チェック画面

特開２００３−１７３３６９号公報

Claims (6)

1. かざされた物品を撮像する撮像手段と、
   前記撮像手段へのかざし方の適否を判定する物品を選択させる選択手段と、
   前記撮像手段が撮像した画像に含まれる物品の特徴量を抽出する抽出手段と、
   前記物品を識別するために予め用意された照合用データと前記抽出手段が抽出した特徴量との類似度を、前記照合用データが用意されている物品ごとに算出する類似度算出手段と、
   前記類似度算出手段が算出した類似度に応じて、前記選択手段によって選択された物品の前記撮像手段へのかざし方の適否を判定する第１判定手段と、
   前記類似度算出手段が算出した類似度が閾値以上になった回数が所定回数以上であることを条件に、前記選択手段によって選択された物品の前記撮像手段へのかざし方の適否を判定する第２判定手段と、
   前記第１判定手段の判定結果と、前記第２判定手段の判定結果とを報知する報知手段と、
   を備えた情報処理装置。
2. 前記類似度算出手段は、前記選択手段で選択された物品の照合用データと前記抽出手段が抽出した特徴量との類似度、及び前記選択手段で選択されていない物品の照合用データと前記抽出手段が抽出した特徴量との類似度を相対評価により算出し、
   前記第１判定手段は、前記類似度算出手段が相対評価により算出した前記類似度に応じて、前記選択手段によって選択された物品の前記撮像手段へのかざし方の適否を判定する、
   請求項１に記載の情報処理装置。
3. 前記報知手段は、前記撮像手段への物品のかざし方の適否を複数段階で報知する、
   請求項１または２に記載の情報処理装置。
4. 各照合用データには、当該照合用データで特定される物品を前記撮像手段にかざす際の注意点が関連付けられており、
   前記撮像手段へのかざし方の適否を判定する物品が前記選択手段により選択されると、当該物品を前記撮像手段にかざす際の注意点をガイダンスするガイダンス手段を更に備える、
   請求項１ないし３の何れか一項に記載の情報処理装置。
5. かざされた物品を撮像する撮像手段と、
   前記撮像手段へのかざし方の適否を判定する物品を選択させる選択手段と、
   前記撮像手段が撮像した画像に含まれる物品の特徴量を抽出する抽出手段と、
   前記物品を識別するために予め用意された照合用データと前記抽出手段が抽出した特徴量との類似度を、前記照合用データが用意されている物品ごとに算出する類似度算出手段と、
   前記類似度算出手段が算出した類似度に応じて、前記選択手段によって選択された物品の前記撮像手段へのかざし方の適否を判定する第１判定手段と、
   前記類似度算出手段が算出した類似度が閾値以上になった回数が所定回数以上であることを条件に、前記選択手段によって選択された物品の前記撮像手段へのかざし方の適否を判定する第２判定手段と、
   前記第１判定手段の判定結果と、前記第２判定手段の判定結果とを報知する報知手段と、
   前記物品を識別するための特徴量を用いて前記撮像手段が撮像した商品を識別して売上登録処理を実行する売上登録手段と、
   を備えた店舗システム。
6. コンピュータを、
   かざされた物品を撮像する撮像手段と、
   前記撮像手段へのかざし方の適否を判定する物品を選択させる選択手段と、
   前記撮像手段が撮像した画像に含まれる物品の特徴量を抽出する抽出手段と、
   前記物品を識別するために予め用意された照合用データと前記抽出手段が抽出した特徴量との類似度を、前記照合用データが用意されている物品ごとに算出する類似度算出手段と、
   前記類似度算出手段が算出した類似度に応じて、前記選択手段によって選択された物品の前記撮像手段へのかざし方の適否を判定する第１判定手段と、
   前記類似度算出手段が算出した類似度が閾値以上になった回数が所定回数以上であることを条件に、前記選択手段によって選択された物品の前記撮像手段へのかざし方の適否を判定する第２判定手段と、
   前記第１判定手段の判定結果と、前記第２判定手段の判定結果とを報知する報知手段と、
   として機能させるプログラム。