JP5551196B2 - 情報処理装置及びプログラム - Google Patents

情報処理装置及びプログラム Download PDF

Info

Publication number
JP5551196B2
JP5551196B2 JP2012049464A JP2012049464A JP5551196B2 JP 5551196 B2 JP5551196 B2 JP 5551196B2 JP 2012049464 A JP2012049464 A JP 2012049464A JP 2012049464 A JP2012049464 A JP 2012049464A JP 5551196 B2 JP5551196 B2 JP 5551196B2
Authority
JP
Japan
Prior art keywords
product
image
display
unit
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012049464A
Other languages
English (en)
Other versions
JP2013186564A (ja
Inventor
英浩 内藤
広志 菅澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2012049464A priority Critical patent/JP5551196B2/ja
Priority to CN2013100425878A priority patent/CN103310559A/zh
Priority to US13/772,070 priority patent/US20130236053A1/en
Publication of JP2013186564A publication Critical patent/JP2013186564A/ja
Application granted granted Critical
Publication of JP5551196B2 publication Critical patent/JP5551196B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G06V10/987Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns with the intervention of an operator
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/255Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/68Food, e.g. fruit or vegetables

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Description

本発明の実施形態は、情報処理装置及びプログラムに関する。
従来、物品を撮像した画像データから対象物の特徴量を抽出し、予め用意された照合用のデータ(特徴量)と比較することで、物品の種別等を認識(検出)する一般物体認識に係る技術が存在している。また、この一般物体認識に係る技術を、商品等の判別に用いたシステムが提案されている。
しかしながら、上述した従来技術においては、照合用のデータのもととなった画像を確認することができず、一般物体認識に用いる照合用のデータを検証することが困難であった。
上述した課題を解決するために、実施形態の情報処理装置は、商品マスタデータに登録された各商品について、当該商品の画像データを記憶する記憶手段と、前記商品ごとに、当該商品の画像データの表示指示を操作者の操作により受け付ける表示受付手段と、前記表示指示を受け付けた商品について、当該商品の画像データを読み出して表示する画像表示手段と、を備える。
また、実施形態のプログラムは、商品マスタデータに登録された各商品について、当該商品の画像データを記憶する記憶手段を備える情報処理装置のコンピュータを、前記商品ごとに、当該商品の画像データの表示指示を操作者の操作により受け付ける表示受付手段と、前記表示指示を受け付けた商品について、当該商品の画像データを読み出して表示する画像表示手段と、して機能させる。
図1は、実施形態にかかるチェックアウトシステム(店舗システム)の一例を示す斜視図である。 図2は、POS端末及び商品読取装置のハードウェア構成を示すブロック図である。 図3は、PLUファイルのデータ構成を例示する概念図である。 図4は、CPUがプログラムを順次実行することで実現される機能構成を示すブロック図である。 図5は、確認処理の動作の一例を示すフローチャートである。 図6は、確認画面の一例を示す概念図である。 図7は、確認画面の一例を示す概念図である。
以下では、チェックアウトシステムを例に本実施形態に係る情報処理装置及びプログラムについて、図面を参照して説明する。店舗システムは、一取引に係る商品の登録、精算を行うPOS端末を備えるチェックアウトシステム(POSシステム)等である。本実施形態は、スーパーマーケット等の店舗に導入されたチェックアウトシステムへの適用例である。
図1は、実施形態にかかるチェックアウトシステム1(店舗システム)の一例を示す斜視図である。図1に示すように、チェックアウトシステム1は、一取引に係る商品の登録、精算を行うPOS端末11を備える。POS端末11は、チェックアウト台51上のドロワ21上面に載置されている。ドロワ21は、POS端末11によって開放動作の制御を受ける。POS端末11の上面には、オペレータ(店員)によって押下操作されるキーボード22が配置されている。キーボード22を操作するオペレータから見てキーボード22よりも奥側には、オペレータに向けて情報を表示する表示デバイス23が設けられている。表示デバイス23は、その表示面23aに情報を表示する。表示面23aには、タッチパネル26が積層されている。表示デバイス23よりもさらに奥側には、顧客用表示デバイス24が回転自在に立設されている。顧客用表示デバイス24は、その表示面24aに情報を表示する。なお、図1に示す顧客用表示デバイス24は、表示面24aを図1中手前側に向けているが、表示面24aが図1中奥側に向くように顧客用表示デバイス24を回転させることによって、顧客用表示デバイス24は顧客に向けて情報を表示する。
POS端末11が載置されているチェックアウト台51とL字を形成するようにして、横長テーブル状のカウンタ台151が配置されている。カウンタ台151の上面には、荷受面152が形成されている。荷受面152には、商品Gを収納する買物カゴ153が載置される。買物カゴ153は、顧客によって持ち込まれる第1の買物カゴ153aと、第1の買物カゴ153aから商品読取装置101を挟んだ位置に載置される第2の買物カゴ153bとに分けて考えることができる。なお、買物カゴ153は、いわゆるカゴ形状のものに限るものではなく、トレー等であってもよい。また、買物カゴ153(第2の買物カゴ153b)は、いわゆるカゴ形状のものに限らず、箱状や袋状等であってもよい。
カウンタ台151の荷受面152には、POS端末11とデータ送受信可能に接続された商品読取装置101が設置されている。商品読取装置101は、薄型矩形形状のハウジング102を備える。ハウジング102の正面には読取窓103が配置されている。ハウジング102の上部には、表示・操作部104が取り付けられている。表示・操作部104には、タッチパネル105が表面に積層された表示デバイス106が設けられている。表示デバイス106の右隣にはキーボード107が配設されている。キーボード107の右隣には、図示しないカードリーダのカード読取溝108が設けられている。オペレータから見て表示・操作部104の裏面左奥側には、顧客に情報を提供するための顧客用表示デバイス109が設置されている。
このような商品読取装置101は、商品読取部110(図2参照)を備えている。商品読取部110は、読取窓103の奥側に撮像部164(図2参照)を配置している。
顧客によって持ち込まれた第1の買物カゴ153aには、一取引に係る商品Gが収納されている。第1の買物カゴ153a内の商品Gは、商品読取装置101を操作するオペレータにより第2の買物カゴ153bに移動される。この移動過程で、商品Gが商品読取装置101の読取窓103に向けられる。この際、読取窓103内に配置された撮像部164(図2参照)は商品Gを撮像する。
商品読取装置101では、撮像部164により撮像された画像に含まれる商品Gが、後述するPLUファイルF1(図3参照)に登録されたどの商品に対応するかを指定させるための画面を表示・操作部104に表示し、指定された商品の商品IDをPOS端末11に通知する。POS端末11では、商品読取装置101から通知される商品IDに基づき、当該商品IDに対応する商品の商品分類、商品名、単価等の売上登録に係る情報を、売上マスタファイル(図示しない)等に記録して売上登録を行う。
図2は、POS端末11及び商品読取装置101のハードウェア構成を示すブロック図である。POS端末11は、情報処理を実行する情報処理部としてのマイクロコンピュータ60を備える。マイクロコンピュータ60は、各種演算処理を実行し各部を制御するCPU(Central Processing Unit)61に、ROM(Read Only Memory)62とRAM(Random Access Memory)63とがバス接続されて構成されている。
POS端末11のCPU61には、前述したドロワ21、キーボード22、表示デバイス23、タッチパネル26、顧客用表示デバイス24がいずれも各種の入出力回路(いずれも図示せず)を介して接続されている。これらは、CPU61による制御を受ける。
キーボード22は、「1」、「2」、「3」…等の数字や「×」という乗算の演算子が上面に表示されているテンキー22d、仮締めキー22e、及び締めキー22fを含む。
POS端末11のCPU61には、HDD64(Hard Disk Drive)が接続されている。HDD64には、プログラムや各種ファイルが記憶されている。HDD64に記憶されているプログラムや各種ファイルは、POS端末11の起動時に、その全部又は一部がRAM63にコピーされてCPU61により順次実行される。HDD64に記憶されているプログラムの一例は、商品販売データ処理用のプログラムPRである。HDD64に記憶されているファイルの一例は、ストアコンピュータSCから配信されて格納されているPLUファイルF1、画像ファイルF2である。
PLUファイルF1は、店舗に陳列して販売する商品の各々について、商品を識別するための商品ID、商品が属する分類(商品分類)、販売価格(単価)、画像ファイルF2として商品の画像を記録したファイル名(商品画像)等の商品マスタデータが記録されたファイルである。
図3は、PLUファイルF1のデータ構成を例示する概念図である。図3に示すように、PLUファイルF1は、商品ごとに、ユニークに割り当てられた商品ID、商品が属する商品分類、商品名、単価等の商品に関する情報と、画像ファイルF2として商品の画像を記録したファイル名(商品画像)と、「類似度:0.XX」(図示例では「0.50」)という閾値とを、その商品のマスタデータとして格納するファイルである。詳細は後述するが、この「類似度:0.XX」という閾値は、商品が果物や生鮮品等であり、鮮度が落ち変色した場合等は、予めPLUファイルF1に記憶していた商品の商品画像と比較することで、正規の状態とは異なった物品であると判断することが可能となる。なお、PLUファイルF1は、後述する接続インターフェース65を介し、商品読取装置101が読み出し(参照)可能に構成されている。
なお、PLUファイルF1のデータ構成は図3の例に限らず、例えば、各商品について、商品画像から算出された特徴量(色合いや表面の凹凸状況等)を、対応付けて格納する形態としてもよい。
図2に戻り、画像ファイルF2は、例えばJPEG(Joint Photographic Experts Group)形式で画像データを記録するファイルであり、色合いや表面の凹凸状況等の商品の特徴量の算出もととなる商品の画像を記録している。この画像ファイルF2については、商品の特徴量を算出するため、一つの商品について撮影条件(撮影方向、輝度など)を変えて撮影した複数の画像ファイルF2が用意される。複数の画像ファイルF2については、ユニークなファイル名が設定されている。PLUファイルF1の商品画像の項目には商品の画像を記録したファイル名が記述されており、PLUファイルF1に登録された各商品の画像ファイルF2が特定できるようになっている。なお、画像ファイルF2は、POS端末11に記憶される以外に、商品読取装置101の記憶部に記憶されてもよく、また、通信可能なサーバ装置上に記憶されてもよい。
POS端末11のCPU61には、ストアコンピュータSCとデータ通信を実行するための通信インターフェース25が入出力回路(図示せず)を介して接続されている。ストアコンピュータSCは、店舗のバックヤード等に設置されている。ストアコンピュータSCのHDD(図示せず)には、POS端末11に配信されるPLUファイルF1、画像ファイルF2が格納されている。
さらに、POS端末11のCPU61には、商品読取装置101との間でデータ送受信を可能にする接続インターフェース65が接続されている。接続インターフェース65には、商品読取装置101が接続されている。また、POS端末11のCPU61には、レシート等に印字を行うプリンタ66が接続されている。POS端末11は、CPU61の制御の下、一取引の取引内容をレシートに印字する。
商品読取装置101も、マイクロコンピュータ160を備える。マイクロコンピュータ160は、CPU161にROM162とRAM163とがバス接続されて構成されている。ROM162には、CPU161によって実行されるプログラムが記憶されている。CPU161には、撮像部164、音声出力部165が各種の入出力回路(いずれも図示せず)を介して接続されている。撮像部164、音声出力部165は、CPU161によって動作が制御される。表示・操作部104は接続インターフェース176を介して、商品読取部110及びPOS端末11に接続されている。表示・操作部104は、商品読取部110のCPU161、POS端末11のCPU61によって動作が制御される。
撮像部164は、カラーCCDイメージセンサやカラーCOMSイメージセンサ等であり、CPU161の制御の下で読取窓103からの撮像を行う撮像手段である。例えば撮像部164では30fpsの動画像の撮像を行う。撮像部164が所定のフレームレートで順次撮像したフレーム画像(撮像画像)はRAM163に保存される。
音声出力部165は、予め設定された警告音等を発生するための音声回路とスピーカ等である。音声出力部165は、CPU161の制御の下で警告音等の音声による報知を行う。
さらに、CPU161には、POS端末11の接続インターフェース65に接続して、POS端末11との間でデータ送受信を可能にする接続インターフェース175が接続されている。また、CPU161は、接続インターフェース175を介して、表示・操作部104との間でデータ送受信を行う。
次に、CPU161、CPU61がプログラムを順次実行することで実現される機能部について、図4を参照して説明する。
図4は、CPU161、CPU61がプログラムを順次実行することで実現される機能構成を示すブロック図である。図4に示すように、商品読取装置101のCPU161は、プログラムを順次実行することにより、画像取込部1611、商品検出部1612、類似度算出部1613、登録商品通知部1614、商品画像確認部1615、商品画像表示部1616、商品画像設定部1617としての機能を備える。また、同様に、POS端末11のCPU61は、売上登録部611としての機能を備える。
画像取込部1611は、撮像部164に撮像オン信号を出力して撮像部164に撮像動作を開始させる。画像取込部1611は、撮像動作開始後に撮像部164が撮像してRAM163に保存されたフレーム画像を順次取り込む。画像取込部1611によるフレーム画像の取り込みは、RAM163に保存された順に行われる。
商品検出部1612は、画像取込部1611により取り込まれたフレーム画像に含まれる商品Gの全部または一部を、パターンマッチング技術等を用いて検出する。具体的には、取り込まれたフレーム画像を2値化した画像から輪郭線等を抽出する。次いで、直近のフレーム画像から抽出された輪郭線と、今回のフレーム画像から抽出された輪郭線とを比較し、変更があった部分、すなわち、売上登録のために読取窓103に向けられた商品Gの写り込みを検出する。
なお、商品Gを検出する別の方法としては、取り込まれたフレーム画像から肌色領域の有無を検出する。次いで、肌色領域が検出された場合、すなわち、店員の手の写り込みが検出された場合は、上述した輪郭線の検出を行うことで、店員の手が把持していると想定される商品の輪郭抽出を試みる。この時、手の形状を示す輪郭と、それ以外の輪郭とが検出された場合は、店員の手が商品を把持していることから、商品の写り込みを検出する。
類似度算出部1613は、商品読取装置101の撮像部164により撮像された商品Gの全部または一部の画像から、商品Gの色合いや表面の凹凸状況等の表面の状態を特徴量として読み取る。なお、類似度算出部1613は、処理時間の短縮を図るため、商品Gの輪郭や大きさは考慮しないものとする。
また、類似度算出部1613は、PLUファイルF1に登録された各商品(以下、登録商品という)の商品画像から、当該登録商品の色合いや表面の凹凸状況等の表面の状態を特徴量として算出し、商品Gの特徴量とそれぞれ比較することで、商品GとPLUファイルF1に登録された商品との類似度を算出する。ここで、類似度は、PLUファイルF1に記憶されている各商品の商品画像を100%=「類似度:1.0」とした場合に、商品Gの全部または一部の画像がどの程度類似しているかを示すものである。上述したように、例えば色合いや表面の凹凸状況等の表面の状態に応じて類似度を算出する。なお、例えば、色合いと表面の凹凸状況とでは、重み付けを変えるようにしてもよい。また、類似度算出部1613は、登録商品の各々について算出した類似度が、当該商品に予め定められた閾値(「類似度:0.XX」)を超えたか否かを判定し、類似度がこの閾値を超えた登録商品を商品Gの候補(以下、商品候補という)として認識(判定)する。なお、PLUファイルF1に各商品画像の特徴量が対応付けて格納されている場合には、PLUファイルF1に格納された特徴量を用いて比較する形態としてもよい。
このように画像中に含まれる物体を認識することは一般物体認識(generic object recognition)と呼ばれている。このような一般物体認識については、下記の文献において各種認識技術が解説されている。
柳井 啓司,“一般物体認識の現状と今後”,情報処理学会論文誌,Vol.48,No.SIG16 [平成22年8月10日検索],インターネット<URL: http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf >
また、画像をオブジェクトごとに領域分割することによって一般物体認識を行う技術が、下記の文献において解説されている。
Jamie Shottonら,“Semantic Texton Forests for Image Categorization and Segmentation”,[平成22年8月10日検索],インターネット<URL: http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf >
なお、撮像された商品Gの画像と、PLUファイルF1に登録された登録商品の商品画像との類似度の算出方法は特に問わないものとする。例えば、撮像された商品Gの画像と、PLUファイルF1に登録された各登録商品との類似度を絶対評価として算出してもよいし、相対評価として算出してもよい。
前者の算出方法を用いる場合、撮像された商品Gの画像と、PLUファイルF1に登録された各登録商品とを1対1で比較し、この比較の結果導出される類似度をそのまま採用すればよい。また、後者の算出方法を用いる場合、例えば、PLUファイルF1に5つの登録商品(商品GA、GB、GC、GD、GE)が登録されていたとすると、撮像された商品Gは、商品GAに対して類似度が0.6、商品GBに対しては類似度が0.1、商品GCに対しては類似度が0.1、商品GDに対しては類似度が0.1、商品GEに対しては類似度が0.1等、各登録商品との類似度の総和が1.0(100%)となるよう算出する。
登録商品通知部1614は、売上登録を行う商品を示す情報(例えば、商品IDや商品名等)を、タッチパネル105又はキーボード107を介して別途入力された販売個数とともにPOS端末11に通知する。具体的には、登録商品通知部1614は、類似度算出部1613により算出された類似度の高い商品を売上登録を行う商品として表示デバイス106に表示させ、タッチパネル105より操作者からの確認操作を受け付ける。次いで、確認操作を受け付けた商品の商品IDを、販売個数とともにPOS端末11に通知する。
商品画像確認部1615は、PLUファイルF1に登録された商品の確認を行う確認画面を表示デバイス106に表示させ、この確認画面における操作者からの操作をタッチパネル105より受け付ける確認処理を行う。具体的には、商品画像確認部1615は、キーボード107、タッチパネル105による操作をもとに、PLUファイルF1に登録された商品の確認を行う確認画面を表示デバイス106に表示させる。次いで、商品画像確認部1615は、操作画面上のカーソル操作などをキーボード107、タッチパネル105より受け付けて、PLUファイルF1に登録された商品の確認指示を受け付ける。次いで、商品画像確認部1615は、確認指示のあった商品について、その商品の商品IDをもとにPLUファイルF1に記録されたデータを読み出して、表示デバイス106に表示させる。より具体的には、商品画像確認部1615は、PLUファイルF1に登録された商品の一覧を表示デバイス106に表示させ、その商品ごとに、商品の特徴量の算出もととなる画像の表示指示を受け付ける。なお、上述した確認処理の詳細は後述する。
商品画像表示部1616は、確認処理において商品画像確認部1615により商品の特徴量の算出もととなる画像の表示指示を受け付けた場合に、表示指示を受け付けた商品を撮影した画像を画像ファイルF2より読み出して表示デバイス106に表示させる。具体的には、商品画像表示部1616は、表示指示を受け付けた商品の商品IDをもとにPLUファイルF1の商品画像に記述された画像ファイルF2を読み出して表示デバイス106に一覧表示させる。ここで、商品画像表示部1616は、タッチパネル105による操作をもとに、表示デバイス106に一覧表示した画像の中から削除の指示を受け付けてもよい。なお、商品画像表示部1616による、画像ファイルF2を読み出して行う一覧表示の詳細は後述する。
商品画像設定部1617は、上述した確認画面での操作者の操作をタッチパネル105より受け付けて、PLUファイルF1に登録された商品の画像についての設定を行う。具体的には、商品画像設定部1617は、商品画像表示部1616により表示デバイス106に一覧表示した商品の画像の中から削除の指示をタッチパネル105より受け付けた場合、その商品の商品IDにおいてPLUファイルF1に登録された商品画像から、削除の指示があった商品に対応する画像ファイルF2を削除する。これにより、チェックアウトシステム1では、操作者が確認画面で確認した際に商品の特徴量の算出もととなる画像として適正でない画像を、登録から削除することができる。
売上登録部611は、登録商品通知部1614により通知された商品IDと販売個数とに基づいて、対応する商品の売上登録を行う。具体的に、売上登録部611は、PLUファイルF1を参照して、通知された商品ID及び当該商品IDに対応する商品分類、商品名、単価等を、販売個数とともに売上マスタファイル等に記録して売上登録を行う。
ここで、上述した確認画面にかかる商品読取装置101の動作について詳細に説明する。図5は、確認処理の動作の一例を示すフローチャートである。
図5に示すように、商品画像確認部1615は、キーボード107又はタッチパネル105による操作をもとに、PLUファイルF1に登録された商品の確認を行う確認画面の表示が指示されて確認処理が開始されると、PLUファイルF1の読み出しを行い(S1)、PLUファイルF1に登録された商品ごとの商品画像(画像ファイルF2)を読み出す(S2)。次いで、商品画像確認部1615は、PLUファイルF1に登録された商品の確認を行う確認画面を表示デバイス106に表示させる(S3)。
図6は、確認画面G1の一例を示す概念図である。図6に示すように、確認画面G1には、PLUファイルF1に登録された商品のイラスト、品名(商品名)、商品画像の項目に登録されている画像ファイルF2の枚数である登録画像枚数など、商品ごとの情報が表示される。ここで、商品のイラストについては、画像ファイルF2の中の一枚の画像をもとに作成したサムネイル画像であってよい。また、登録画像枚数については、各商品の商品画像の項目において記述されている画像ファイルF2の枚数がカウントされたものである。
確認画面G1には、商品ごとに、その商品の特徴量の算出もととなる画像の表示指示を受け付ける選択ボタンBT1〜BT6と、登録内容を了承する確認ボタンBT7とが表示される。操作者は、タッチパネル105のタッチ操作などにより選択ボタンBT1〜BT6を選択することで、所望の商品についての表示指示を入力することができる。また、操作者は、確認ボタンBT7を選択することで、確認画面G1に表示された登録内容での確認指示を入力することができる。
図5に戻り、商品画像確認部1615は、商品の詳細の表示指示、すなわち図6に例示した選択ボタンBT1〜BT6の操作による画像の表示指示を受け付けたか否かを判定する(S4)。
ここで、選択ボタンBT1〜BT6の操作による画像の表示指示を受け付けた場合(S4:YES)、商品画像表示部1616は、詳細を表示する商品について、その商品の商品IDに対応した商品画像の項目に記述されている画像ファイルF2を読み出す(S5)。次いで、商品画像表示部1616は、読み出した画像ファイルF2の画像を表示デバイス106に一覧表示させる。具体的には、商品画像表示部1616は、読み出した画像ファイルF2から所定サイズのサムネイル画像を生成して表示デバイス106に一覧表示させる。なお、一覧表示するサムネイル画像の順序は、後述する選択ボタンBT13、BT14、BT15(図7参照)による日付(日時)順、撮影者順、輝度順等の指定がない場合は、PLUファイルF1の商品画像の項目に登録された順序どおりであってよい。
図7は、確認画面G2の一例を示す概念図であり、より具体的には、商品画像表示部1616によりサムネイル画像G10が一覧表示された確認画面G2を例示する図である。図7に示すように、確認画面G2には、商品画像表示部1616により作成されたサムネイル画像G10が一覧表示される。操作者は、この確認画面G2により、商品の特徴量の算出もととなる画像の確認を容易に行うことができる。
また、確認画面G2には、操作者からの操作を受け付ける選択ボタンBT11〜BT15が表示される。選択ボタンBT11は、カーソルC1で指定されているサムネイル画像G10の詳細情報の表示を指示するボタンである。商品画像表示部1616は、タッチパネル105のタッチ操作などにより選択ボタンBT11の選択があった場合は、カーソルC1で指定されているサムネイル画像G10についての画像ファイルF2を読み出して詳細情報を表示デバイス106に表示させる。詳細情報の例としては、画像ファイルF2に付与されている日付、撮影者等の付帯情報や、画像ファイルF2に記録されている実サイズの画像などであってよい。
選択ボタンBT12は、カーソルC1で指定されているサムネイル画像G10にかかる商品の画像について、PLUファイルF1の登録から削除を指示するボタンである。商品画像設定部1617は、後述するデータ更新時(S10)において、PLUファイルF1に登録された商品画像から、選択ボタンBT12で指示されたサムネイル画像G10にかかる画像ファイルF2の記述を削除する。なお、本実施形態ではPLUファイルF1の商品画像の項目における記述を削除しているが、画像ファイルF2そのものを削除する構成であってもよい。図示例では、サムネイル画像G10の中でサムネイル画像G11が「レモン」とは異なる「みかん」である。したがって、確認画面G2を見た操作者は、カーソルC1でサムネイル画像G11を指定して選択ボタンBT12を選択することで、サムネイル画像G11にかかる商品の画像をPLUファイルF1の登録から削除することができる。
選択ボタンBT13〜BT15は、日時(日時)、撮影者、輝度等のサムネイル画像G10のソートを行う項目の選択を受け付けるボタンである。商品画像表示部1616は、画像ファイルF2の付帯情報をもとに、選択ボタンBT13〜BT15で選択された項目についてソートした順でサムネイル画像G10を並び替えて表示する。これにより、操作者は、PLUファイルF1に登録された複数の商品の画像について、確認を要する画像の検索を容易に行うことができる。
この選択ボタンBT13〜BT15は、一つ又は複数の項目の選択を受け付けてよい。例えば、日付(日時)の項目である選択ボタンBT13が選択された場合は、日付、日時等の時系列順にサムネイル画像G10がソートされることとなる。また、日時と撮影者の項目である選択ボタンBT13、BT14が選択された場合は、時系列順かつ撮影者順(例えば撮影者の五十音順)にサムネイル画像G10がソートされることとなる。
図5に戻り、商品画像設定部1617は、カーソルC1と選択ボタンBT12についてのタッチパネル105の操作をもとに、商品の画像の登録削除を受け付け(S7)、確認画面G2の確認ボタンBT7の操作により商品の詳細を終了するか否かを判定する(S8)。確認ボタンBT7の操作がなく、商品の詳細を終了しない場合(S8:NO)はS5へ処理を戻して確認画面G2の表示を継続する。確認ボタンBT7の操作があり、商品の詳細を終了する場合(S8:YES)はS3へ処理を戻して確認画面G1の表示に戻る。
確認画面G1において、選択ボタンBT1〜BT6の操作による画像の表示指示を受け付けていない場合(S4:NO)、商品画像確認部1615は、確認画面G1の確認ボタンBT7の操作により確認OKの指示があるか否かを判定する(S9)。確認ボタンBT7の操作がなく、確認OKの指示がない場合(S9:NO)、商品画像確認部1615は、S3へ処理を戻して確認画面G1の表示を継続する。
確認ボタンBT7の操作があり、確認OKの指示がある場合(S9:YES)、商品画像設定部1617は、確認画面G1、G2で確認された内容でPLUファイルF1のデータを更新し(S10)、処理を終了する。具体的には、S10では、確認画面G2において、選択ボタンBT12で指示されたサムネイル画像G10にかかる画像ファイルF2の記述がPLUファイルF1に登録された商品画像から削除される。
なお、本実施形態の情報処理装置としての商品読取装置101で実行されるプログラムは、ROM等に予め組み込まれて提供される。また、商品読取装置101で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
さらに、本実施形態の商品読取装置101で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、商品読取装置101で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
本実施形態の商品読取装置101で実行されるプログラムは、上述した機能構成を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記ROMから〜プログラムを読み出して実行することにより上述した機能構成が主記憶装置上にロードされ、主記憶装置上に生成されるようになっている。
また、本実施形態では、チェックアウトシステム1の商品読取装置101が情報処理装置としての機能を実現する構成を例示した。しかしながら、上述した機能構成については、チェックアウトシステム1のPOS端末11がプログラムを実行して実現してもよいことは言うまでもないことである。
1…チェックアウトシステム、11…POS端末、21…ドロワ、22…キーボード、22d…テンキー、22e…仮締めキー、22f…締めキー、23…表示デバイス、23a…表示面、24…顧客用表示デバイス、24a…表示面、25…通信インターフェース、26…タッチパネル、51…チェックアウト台、60…マイクロコンピュータ、61…CPU、62…ROM、63…RAM、64…HDD、65…接続インターフェース、66…プリンタ、101…商品読取装置、102…ハウジング、103…読取窓、104…表示・操作部、105…タッチパネル、106…表示デバイス、107…キーボード、108…カード読取溝、109…顧客用表示デバイス、110…商品読取部、151…カウンタ台、152…荷受面、153…買物カゴ、153a…第1の買物カゴ、153b…第2の買物カゴ、160…マイクロコンピュータ、161…CPU、162…ROM、163…RAM、164…撮像部、165…音声出力部、175…接続インターフェース、176…接続インターフェース、611…売上登録部、1611…画像取込部、1612…商品検出部、1613…類似度算出部、1614…登録商品通知部、1615…商品画像確認部、1616…商品画像表示部、1617…商品画像設定部、BT1〜BT15…選択ボタン、C1…カーソル、F1…PLUファイル、F2…画像ファイル、G…商品、G1、G2…確認画面、G10、G11…サムネイル画像、PR…プログラム、SC…ストアコンピュータ
特開2000−148795号公報

Claims (6)

  1. 商品マスタデータに登録された各商品について、当該商品の画像データを記憶する記憶手段と、
    前記商品ごとに、当該商品の画像データの表示指示を操作者の操作により受け付ける表示受付手段と、
    前記表示指示を受け付けた商品について、当該商品の画像データを読み出して表示する画像表示手段と、
    を備える情報処理装置。
  2. 前記表示された画像データの中から削除の指示を受け付ける削除受付手段と、
    前記削除の指示を受け付けた画像データを、前記記憶手段から削除する登録削除手段と、を更に備える、
    請求項1に記載の情報処理装置。
  3. 日時、撮影者、輝度の中でソートを行う項目の選択を少なくとも一つ受け付ける選択手段を更に備え、
    前記画像表示手段は、前記選択された項目についてソートした順で前記画像データ並び替えて表示する、
    請求項1又は2に記載の情報処理装置。
  4. 商品マスタデータに登録された各商品について、当該商品の画像データを記憶する記憶手段を備える情報処理装置のコンピュータを、
    前記商品ごとに、当該商品の画像データの表示指示を操作者の操作により受け付ける表示受付手段と、
    前記表示指示を受け付けた商品について、当該商品の画像データを読み出して表示する画像表示手段と、
    して機能させるためのプログラム。
  5. 前記表示された画像データの中から削除の指示を受け付ける削除受付手段と、
    前記削除の指示を受け付けた画像データを、前記記憶手段から削除する登録削除手段として更に機能させる、
    請求項4に記載のプログラム。
  6. 日時、撮影者、輝度の中でソートを行う項目の選択を少なくとも一つ受け付ける選択手段として更に機能させ、
    前記画像表示手段は、前記選択された項目についてソートした順で前記画像データ並び替えて表示する、
    請求項4又は5に記載のプログラム。
JP2012049464A 2012-03-06 2012-03-06 情報処理装置及びプログラム Active JP5551196B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012049464A JP5551196B2 (ja) 2012-03-06 2012-03-06 情報処理装置及びプログラム
CN2013100425878A CN103310559A (zh) 2012-03-06 2013-02-01 信息处理装置及其控制方法
US13/772,070 US20130236053A1 (en) 2012-03-06 2013-02-20 Object identification system and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012049464A JP5551196B2 (ja) 2012-03-06 2012-03-06 情報処理装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2013186564A JP2013186564A (ja) 2013-09-19
JP5551196B2 true JP5551196B2 (ja) 2014-07-16

Family

ID=49114154

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012049464A Active JP5551196B2 (ja) 2012-03-06 2012-03-06 情報処理装置及びプログラム

Country Status (3)

Country Link
US (1) US20130236053A1 (ja)
JP (1) JP5551196B2 (ja)
CN (1) CN103310559A (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5553866B2 (ja) * 2012-07-23 2014-07-16 東芝テック株式会社 商品認識装置及び認識辞書追加プログラム
JP5826152B2 (ja) * 2012-11-20 2015-12-02 東芝テック株式会社 商品認識装置及び商品認識プログラム
JP5826800B2 (ja) * 2013-07-17 2015-12-02 東芝テック株式会社 認識辞書評価装置及び認識辞書評価プログラム
JP6141208B2 (ja) * 2014-01-08 2017-06-07 東芝テック株式会社 情報処理装置及びプログラム
US9457892B2 (en) * 2014-02-03 2016-10-04 Airbus Operations (S.A.S.) Management interfaces for aircraft systems
JP6555866B2 (ja) * 2014-09-22 2019-08-07 カシオ計算機株式会社 商品登録装置及びプログラム
JP6929025B2 (ja) * 2015-11-16 2021-09-01 東芝テック株式会社 広告提供システム
CN108573268A (zh) * 2017-03-10 2018-09-25 北京旷视科技有限公司 图像识别方法和装置、图像处理方法和装置及存储介质
CN109572718A (zh) * 2017-09-28 2019-04-05 天津天乐泰力科技有限公司 一种基于二维码的地铁屏蔽门安全系统
US11681997B2 (en) * 2021-09-30 2023-06-20 Toshiba Global Commerce Solutions Holdings Corporation Computer vision grouping recognition system
WO2023130450A1 (zh) * 2022-01-10 2023-07-13 烟台创迹软件有限公司 标准图像取得方法、标准图像取得装置以及货架分配推测方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6151564A (en) * 1995-08-03 2000-11-21 Interval Research Corporation Coded object system and code recognition methods
US6157435A (en) * 1998-05-29 2000-12-05 Eastman Kodak Company Image processing
US7845554B2 (en) * 2000-10-30 2010-12-07 Fujitsu Frontech North America, Inc. Self-checkout method and apparatus
JP4115329B2 (ja) * 2003-04-22 2008-07-09 株式会社リコー 顧客管理システム、該システムの機能を実現するプログラム及び記録媒体
JP4525074B2 (ja) * 2003-12-24 2010-08-18 日本電気株式会社 商品識別情報管理システム
CN1641694A (zh) * 2004-01-16 2005-07-20 宝晶科技股份有限公司 信息转换的工作站及其转换方法
US7246745B2 (en) * 2004-02-27 2007-07-24 Evolution Robotics Retail, Inc. Method of merchandising for checkout lanes
US7606831B2 (en) * 2004-07-12 2009-10-20 Lockheed Martin Corporation Unique identification labeling method and system
US7988045B2 (en) * 2007-05-31 2011-08-02 International Business Machines Corporation Portable device-based shopping checkout
JP4564032B2 (ja) * 2007-07-05 2010-10-20 東芝テック株式会社 商品販売データ処理装置
US8876001B2 (en) * 2007-08-07 2014-11-04 Ncr Corporation Methods and apparatus for image recognition in checkout verification
US20090112800A1 (en) * 2007-10-26 2009-04-30 Athellina Rosina Ahmad Athsani System and method for visual contextual search
JP5132732B2 (ja) * 2010-08-23 2013-01-30 東芝テック株式会社 店舗システムおよびプログラム

Also Published As

Publication number Publication date
CN103310559A (zh) 2013-09-18
JP2013186564A (ja) 2013-09-19
US20130236053A1 (en) 2013-09-12

Similar Documents

Publication Publication Date Title
JP5551196B2 (ja) 情報処理装置及びプログラム
JP5194160B1 (ja) 情報処理装置、情報処理方法及びプログラム
JP5579202B2 (ja) 情報処理装置、店舗システム及びプログラム
JP6141207B2 (ja) 情報処理装置、店舗システム及びプログラム
JP5485954B2 (ja) 店舗システム及びプログラム
JP5656796B2 (ja) 商品データ処理装置、商品データ処理方法及び制御プログラム
JP5450560B2 (ja) 商品データ処理装置、商品データ処理方法及び制御プログラム
JP5551143B2 (ja) 店舗システムおよびプログラム
JP5647637B2 (ja) 情報処理装置、店舗システム及びプログラム
JP2018041261A (ja) 情報処理装置及びプログラム
JP5612645B2 (ja) 情報処理装置及びプログラム
JP5518918B2 (ja) 情報処理装置、店舗システム及びプログラム
JP6306775B2 (ja) 情報処理装置、及びプログラム
JP5620416B2 (ja) 情報処理装置及びプログラム
JP6747873B2 (ja) 情報処理装置及びプログラム
JP5551140B2 (ja) 情報処理装置及びプログラム
JP6239460B2 (ja) 情報処理装置及びプログラム
JP5437404B2 (ja) 情報処理装置、店舗システム及びプログラム
JP5770899B2 (ja) 情報処理装置及びプログラム
JP5567606B2 (ja) 情報処理装置及びプログラム
JP5501305B2 (ja) 混雑度報知装置、プログラム、および混雑度報知方法
JP2013156940A (ja) 情報処理装置、店舗システム及びプログラム
JP5529982B2 (ja) 情報処理装置
JP5802803B2 (ja) 情報処理装置及びプログラム
JP6177199B2 (ja) 情報処理装置及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140521

R150 Certificate of patent or registration of utility model

Ref document number: 5551196

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150