JP6428240B2 - 商品登録装置、商品認識方法、およびプログラム - Google Patents
商品登録装置、商品認識方法、およびプログラム Download PDFInfo
- Publication number
- JP6428240B2 JP6428240B2 JP2014255521A JP2014255521A JP6428240B2 JP 6428240 B2 JP6428240 B2 JP 6428240B2 JP 2014255521 A JP2014255521 A JP 2014255521A JP 2014255521 A JP2014255521 A JP 2014255521A JP 6428240 B2 JP6428240 B2 JP 6428240B2
- Authority
- JP
- Japan
- Prior art keywords
- product
- image
- voice input
- voice
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 34
- 238000001514 detection method Methods 0.000 description 13
- 238000012545 processing Methods 0.000 description 11
- 230000005236 sound signal Effects 0.000 description 10
- 238000012790 confirmation Methods 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 9
- 241000220225 Malus Species 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 8
- 239000000284 extract Substances 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 5
- 235000012055 fruits and vegetables Nutrition 0.000 description 5
- 241001672694 Citrus reticulata Species 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 101100412093 Schizosaccharomyces pombe (strain 972 / ATCC 24843) rec16 gene Proteins 0.000 description 1
- 235000021016 apples Nutrition 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07G—REGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
- G07G1/00—Cash registers
- G07G1/12—Cash registers electronically operated
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07G—REGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
- G07G1/00—Cash registers
- G07G1/0036—Checkout procedures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07G—REGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
- G07G1/00—Cash registers
- G07G1/0036—Checkout procedures
- G07G1/0045—Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader
- G07G1/0054—Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles
- G07G1/0063—Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles with means for detecting the geometric dimensions of the article of which the code is read, such as its size or height, for the verification of the registration
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/68—Food, e.g. fruit or vegetables
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Geometry (AREA)
- Theoretical Computer Science (AREA)
- Cash Registers Or Receiving Machines (AREA)
- User Interface Of Digital Computer (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Image Analysis (AREA)
Description
しかし、包装されていない商品、例えば青果品などは、バーコードを個々に貼り付けることは極めて煩雑であり、時間とコストとが掛かる。従来は青果品などに対して、オペレータが商品コードや金額をキーボードで入力するという運用がなされていた。
例えば、特許文献1には、撮像手段で撮像された対象物の画像情報と各商品の基準画像情報とを比較し、類似度が所定範囲内にある基準画像情報に対応した商品を対象物に該当する商品候補として表示手段に表示させる情報処理装置について記載されている。
また、清算前に、認識を済ませた商品と同じ商品を追加して複数登録したい場合にも同様の認識操作を繰り返さなければならない。また、キャンセルについても同様の操作が必要であった。
このように、バーコードを付してない青果品のように商品が類似しており、しかも産地が複数に亘る商品や、該当商品の追加登録・キャンセルをしたい場合、オペレータはキーボード操作等に戻らざるを得ず、作業効率が低下するという問題があった。
本発明の商品認識方法は、物体を画像として撮影する撮影ステップと、音声を入力する音声入力ステップと、前記物体が前記撮影ステップにより画像として撮影されたことを検出したタイミング後の所定期間に前記音声入力ステップにより入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御ステップと、を含み、前記制御ステップにおいて、前記物体が前記撮影ステップにより画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、ことを特徴とする。
本発明のプログラムは、コンピュータを、物体が撮影手段により画像として撮影されたことを検出したタイミング後の所定期間に音声入力手段により入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御手段、として機能させ、前記制御手段は、前記物体が前記撮影手段により画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、ことを特徴とするプログラム。
図1は、本発明の実施形態における商品登録装置1の外観を示す斜視図である。
図1に示すように、商品登録装置1は、各商品を登録する商品識別装置2と、各取引に係る商品の売上登録と精算とを行うPOS端末3とを備える。この商品識別装置2は、商品に関する情報を読み取って登録するPOS接続用スキャナである。
商品識別装置2は、横長テーブル状のカウンタ台5の長手方向の中央に設置されている。商品識別装置2は、薄型の直方体状のハウジング51を備える。このハウジング51の正面には、読取窓52を介してカメラ27(図2参照)が配置されている。読取窓52の上部には、マイク28が配置されている。
POS端末3の上面には、オペレータ(店員)が操作するためのキーボード33が配置されている。このオペレータから見てキーボード33の上部奥側には、情報を表示するディスプレイ321が設けられている。このディスプレイ321の表面には、タッチパネル322(図2参照)が積層されている。ディスプレイ321よりもさらに奥側には、情報を表示する顧客用ディスプレイ34が左右方向に回転可能に設置されている。なお、図1に示す顧客用ディスプレイ34は、図1の手前側に向いている。この顧客用ディスプレイ34は、図1の奥側に向くように回転させることによって、顧客に向けて情報を表示する。
第1の買物カゴ4Lは、顧客によって持ち込まれたものであり、一つの取引に係る商品が収納される。第2の買物カゴ4Rは、第1の買物カゴ4Lから商品識別装置2を挟んだ位置に載置される。第1の買物カゴ4L内の商品は、商品識別装置2を操作するオペレータにより取り出され、第2の買物カゴ4Rに移動される。この移動過程で、商品が商品識別装置2の読取窓52にかざされる。このとぎ、読取窓52内に配置されたカメラ27(図2参照)は商品を撮像する。
商品登録装置1は、商品識別装置2とPOS端末3とを含んで構成される。
商品識別装置2は、マイクロコンピュータ21と、表示・操作部22と、インタフェース25と、カメラ27と、スピーカ29と、電源30とを含んで構成される。
マイクロコンピュータ21は、CPU(Central Processing Unit)211にROM(Read Only Memory)212とRAM(Random Access Memory)213とがバス接続されて構成されている。ROM212には、CPU211によって実行されるプログラムが記憶される。
CPU211には、表示・操作部22と、インタフェース25と、カメラ27、マイク28、スピーカ29とが、内部バスや各入出力回路(不図示)を介して接続される。
ディスプレイ221は、CPU211の指示により、オペレータに対する情報を表示する。タッチパネル222は、ディスプレイ221により表示した情報に対する操作の入力を受ける。顧客用ディスプレイ24は、CPU211の指示により、顧客に対する情報を表示する。
キーボード23は、複数の操作キーで構成され、オペレータの操作入力を受け付ける。
インタフェース25は、POS端末3のインタフェース35に接続して、POS端末3との間でデータ送受信を可能にする。
電源30は、この商品識別装置2の各部に電力を供給する。
キーボード33は、仮締めキー331と、締めキー332と、テンキー333とを含んで構成され、オペレータの操作入力を受け付ける。テンキー333は、0から9までの数字キーと各種演算子キーとで構成される。
プリンタ38は、レシートなどに印字を行う。POS端末3は、CPU311の制御のもとで、各取引の取引内容をレシートに印字する。
電源39は、このPOS端末3の各部に電力を供給する。
商品識別装置2のCPU211は、ROM212に格納されるプログラムを実行することにより、画像取得部90と、物体検出部91、類似度演算部92、類似度判断部93、音声認識部94、音声認識バッファ941、商品特定部95、確定通知部96、情報出力部97の各部を具現化する。また、同様に、POS端末3のCPU311は、HDD36に格納されるプログラムを実行することにより、売上登録部99の各部を具現化する。POS端末3のHDD36には更に、特徴量ファイル361および音声認識DB362が格納される。
具体的には、オペレータが売上登録のために商品を読取窓52に向けると、画像取得部90は、カメラ27によって、この商品の画像を撮影する。物体検出部91は、取り込まれたフレーム画像を二値化して輪郭線を抽出する。次いで物体検出部91は、前回のフレーム画像から抽出された輪郭線と、今回のフレーム画像から抽出された輪郭線とを比較して、この商品である物体を検出する。
類似度演算部92は更に、特徴量ファイル361に記録された各商品(以下、取扱商品という)の商品画像から、当該取扱商品の色合いや表面の凹凸状況などの表面の状態を特徴量として読み取り、撮影した商品の特徴量とそれぞれ比較することで、撮影した商品と特徴量ファイル361に記録された取扱商品との類似度を算出する。ここで類似度とは、特徴量ファイル361に記録されている各商品が想定する商品画像を100%の類似度とした場合に、商品の全部または一部の画像がどの程度まで類似しているかを示すものである。なお、類似度演算部92は、例えば、色合いと表面の凹凸状況との重み付けを変えて類似度を算出してもよい。
柳井啓司,「一般物体認識の現状と今後」,[online]、情報処理学会論文誌,2007年11月15日,Vol.48,No.SIG16、1-24頁,[平成26年9月8日検索],インターネット<URL:http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf>
Jamie Shottonら,“Semantic Texton Forests for Image Categorization and Segmentation”, Computer Vision and Pattern Recognition, 2008. CVPR 2008. IEEE Conference on,[平成26年9月8日検索],インターネット<URL:http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf>
更に、類似度判断部93は、取扱商品との類似度が閾値Ty未満、かつ、閾値Tz以上である場合に、条件Zが満たされたと判定する。
なお、各条件X〜Zは、類似度の大きさなどに応じて適宜設定可能であり、前記した例に限定されるものではない。
このように、類似度判断部93は、条件Zを満たした取扱商品の写真画像および商品名を特徴量ファイル361から読み出し、類似度演算部92が算出した類似度の高い順に、商品候補として出力する。
具体的には、商品特定部95は、カメラ27により撮影された商品を認識したタイミングを含む前後所定期間において入力された音声を、商品認識の補助情報として用いて商品またはその個数を特定する。また、商品特定部95は、カメラ27により撮影された商品を認識したタイミングを含む前後所定期間において入力された音声に基づいて商品の登録または商品登録のキャンセルを実行する。
商品識別装置2は、カウンタ台5に設置されている。商品識別装置2は、薄型の直方体状のハウジング51と、このハウジング51の上部に取り付けられた表示・操作部22と、表示・操作部22の左奥側に裏向きに設置された顧客用ディスプレイ24とを含んで構成される。
このハウジング51の正面には、読取窓52とマイク28が設けられ、マイク28はオペレータの発声が明瞭に収音し易い位置に設置される。具体的には、読取窓52の中央上側やディスプレイ221の中央下側に設置する。マイク28を読取窓52の中央上側やディスプレイ221の中央下側に設置すると、マイク28の高さ位置がオペレータの顔に接近するので、オペレータの発声を良好に収音することができる。また、このマイク28の取付位置は、ハウジング51の中央位置であり、オペレータ以外の音(例えば顧客の発音)が回り込んでくることを防ぐことができる。
読取窓52には、照明271とカメラ27(撮像手段)とが配置される。認識領域8Mは、カメラ27が物体を撮影し、この物体を検知して商品を特定する領域である。
図5に示すように、特徴量ファイル361は、商品の特徴量ごとに、画像リンク先、音声データ、商品ID、単価、および商品名を格納する。なお、画像リンク先は、画像データであってもよい。音声データは、音声認識DB362のサンプルデータに対応している。特徴量ファイル361は、例えば、商品の特徴量として、「青森りんごの特徴量」、「長野りんごの特徴量」、…、「温州みかんの特徴量」、「愛媛みかんの特徴量」、…ごとに、画像リンク先「N0001F.jpg」…、音声データ「あおもり」…、商品ID「N0001」…、単価「100」、商品名「りんご・青森産」…を格納する。後記するように、商品特定部95は、オブジェクト認識による「商品の特徴量」から商品候補を抽出し、音声認識による「音声認識結果」から該当商品を確定する。
なお、本発明を顧客がオペレータであるセルフレジに適用してもよい。
オペレータが発声すると、音声認識部94は、ステップS11の処理を開始する。
ステップS11において、音声認識部94は、マイク28からオペレータの音声入力を受け付ける。音声認識部94は、オペレータから発せられた音声レベルが所定値以上である場合に音声入力があるとする。具体的には、オペレータは、まず「あおもり」と発声する場合を例に採る。
ステップS12において、音声認識部94は、オペレータが発声した音声信号を波形分析して特徴パターンを抽出し音声認識する。ここでは、音声認識部94は、オペレータの発声の「あおもり」を認識するものとする。
図9(b)は、音声信号の音声レベルの入力(高/低)を示すタイミングチャートである。図9(b)の音声信号は、説明の便宜上簡略化したエンベロープで描かれている。また、音声レベルが所定値以下(例えば0レベル)では、音声信号の入力はないものとし、所定値レベル以上で音声信号の入力があるものとする。実際には、ノイズ成分を考慮して適当な所定値を設定する。
所定期間前に仮登録していないならば(No)、本音声認識乃至仮登録情報の更新のフローを終了する。
ここでは、オブジェクト認識による商品が仮登録されていないので、音声認識結果「あおもり」が音声認識バッファ941に格納されて本フローが終了する。
なお、所定期間前に仮登録されている場合(Yes)、ステップS16以降に進む。ステップS16〜18については後記する。
オペレータは、あおもり」と発声するとともに、商品「リンゴ」をカメラ27にかざす。
オペレータが商品をカメラ27にかざすと、画像取得部90は、ステップS21の処理を開始する。
ステップS21において、画像取得部90は、カメラ27に撮像オン信号を出力してカメラ27による商品画像のキャプチャ(撮像)を開始する。画像取得部90は、カメラ27が撮像してRAM213に保存したフレーム画像(撮像画像)を取り込む。
この場合、音声認識バッファ941に音声認識結果「あおもり」が格納されており、これを参照して、ステップS24では所定期間前に音声入力が有り(Yes)と判断する。
所定期間前に音声入力が有るならば、ステップS25において、商品特定部95は、音声認識結果を識別補助情報とする。具体的には、商品特定部95は、音声認識結果「あおもり」を補助情報とする。
また、ステップS27おいて、商品特定部95は、図6の符号S32に示すように、商品の仮登録の結果を記録し、ステップS15の処理で参照させる。
商品「青森りんご」を認識したタイミングを含む所定期間後において、再び音声入力「ふたつ」と発声する場合には下記の処理となる。
オペレータが再び発声すると、音声認識部94は、ステップS11の処理を開始する。
ステップS11において、音声認識部94は、マイク28からオペレータの音声入力を受け付ける。音声認識部94は、オペレータから発せられた音声レベルが所定値以上である場合に音声入力があるとする。
ステップS12において、音声認識部94は、オペレータが発声した音声信号を波形分析して特徴パターンを抽出し音声認識する。音声認識部94は、図9(d)に示すように、時刻:T5から時刻:T13において、オペレータの発声の「ふたつ」を音声認識する。なお、「青森りんご」の仮登録から「ふたつ」は、所定期間(例えば3秒)で発声されている。
音声認識が成功し(Yes)、ステップS14において、音声認識部94は、音声認識結果を音声認識バッファ941(図7参照)に格納する。この場合、音声認識バッファ941には、オペレータが発声した音声認識結果「ふたつ」が格納されている。
商品特定部95は、音声認識バッファ941に格納されている音声認識結果「ふたつ」を取得するので、ステップS24では所定期間前に音声入力が有り(Yes)と判断する。
ステップS16において、商品特定部95は、音声認識結果を識別補助情報とする。ここでは、音声認識結果「ふたつ」を補助情報とする。
ステップS17おいて、商品特定部95は、この識別補助情報を基に、商品マスタ(図示省略)から商品名・単価・個数を検索して呼び出す。具体的には、特定された商品「青森りんご」に対して補助情報として音声認識結果「ふたつ」用いて商品個数を決定する。
ステップS18おいて、商品特定部95は、商品の仮登録情報を更新して本フローを終了する。
再度の音声入力およびその音声認識処理により、特定商品「青森りんご」について、個数を決定している。例えば、オペレータは音声「ふたつ」を発音し、音声認識部94が「2点」であることを音声認識することで、特定した商品「青森りんご」が2点(2個)であると決定する。図9(d)に示すように、商品名検索結果は、時刻:T13までは個数の指定がなかったものが、時刻:T13からは個数「2点」となり、商品名「青森りんご」が「2点」であることが決定される。これにより、商品識別装置2は、この商品「青森りんご」の商品名と個数を確定することができる。
本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲で、変更実施が可能であり、例えば、次の(a),(b)のようなものがある。
(a) 認識する音声はどのようなものでもよい。例えば、産地や愛称(通称)、個数のほか、キャンセルでもよく、これらの組合せでもよい。また、この音声認識の数や順序も任意である。
(b) カメラ27により撮影された商品を認識した期間が、マイク28によって入力されて認識した音声の期間と重なっていればよく、どのような重なり具合でもよい。例えば、図9(a)に示すように、オブジェクト認識の開始(時刻:T1)または終了(時刻:T4)のうち、いずれか一部が重なればよい。また、認識した音声の期間が、オブジェクト認識の開始(時刻:T1)から終了(時刻:T4)までの期間にすべて重なるものでもよい。
〔付記〕
<請求項1>
画像を撮影する撮影手段と、
音声を入力する音声入力手段と、
前記撮影手段により撮影された物体を認識したタイミングを含む前後所定期間において入力された前記音声を、前記物体認識の補助情報として用いて商品を認識する制御手段と、
を備えることを特徴とする商品登録装置。
<請求項2>
前記制御手段は、前記撮影手段により撮影された物体を認識したタイミングを含む前後所定期間において入力された前記音声に基づいて商品の個数を認識する、
ことを特徴とする請求項1に記載の商品登録装置。
<請求項3>
画像を撮影する撮影手段と、
音声を入力する音声入力手段と、
前記撮影手段により撮影された商品を認識したタイミングを含む前後所定期間において入力された前記音声に基づいて前記商品の登録または商品登録のキャンセルを実行する制御手段と、
を備えることを特徴とする商品登録装置。
<請求項4>
画像を撮影する撮影ステップと、
音声を入力する音声入力ステップと、
前記撮影ステップにより撮影された物体を認識したタイミングを含む前後所定期間において入力された前記音声を、前記物体認識の補助情報として用いて商品を認識する制御ステップと、
を含むことを特徴とする商品認識方法。
<請求項5>
画像を撮影する撮影ステップと、
音声を入力する音声入力ステップと、
前記撮影手段により撮影された商品を認識したタイミングを含む前後所定期間において入力された前記音声に基づいて前記商品の登録または商品登録のキャンセルを実行する制御ステップと、
を含むことを特徴とする商品認識方法。
2 商品識別装置
21 マイクロコンピュータ
211 CPU (制御手段)
212 ROM
213 RAM
22 表示・操作部
221 ディスプレイ
222 タッチパネル
24 顧客用ディスプレイ
25 インタフェース
27 カメラ (撮像手段)
28 マイク
29 スピーカ
30 電源
3 POS端末
36 HDD
361 特徴量ファイル (辞書)
362 音声認識DB (辞書)
90 画像取得部
91 物体検出部
92 類似度演算部
93 類似度判断部
94 音声認識部
941 音声認識バッファ
95 商品特定部
96 確定通知部
97 情報出力部
99 売上登録部
Claims (8)
- 物体を画像として撮影する撮影手段と、
音声を入力する音声入力手段と、
前記物体が前記撮影手段により画像として撮影されたことを検出したタイミング後の所定期間に前記音声入力手段により入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御手段と、
を備え、
前記制御手段は、前記物体が前記撮影手段により画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、
ことを特徴とする商品登録装置。 - 前記制御手段は、商品の前記上位分類は認識できたにも関わらず、前記下位分類として商品の産地までは認識することができなかった場合には、商品の産地を示す種類の補助情報が必要である旨を通知する通知情報を表示させるとともに、当該通知情報と並べて前記上位分類を表示させる、
ことを特徴とする請求項1に記載の商品登録装置。 - 前記制御手段は、前記物体が前記撮影手段により画像として撮影されたことを検出した際に当該画像を前記表示手段に表示させ、
前記通知情報を前記表示手段に表示させる際には前記画像中の物体と重ならないように表示させる、
ことを特徴とする請求項1または2に記載の商品登録装置。 - 前記制御手段は、前記音声入力手段により入力された音声を補助情報として用いて商品の下位分類まで認識をした際に、前記通知情報に替えて前記下位分類を前記表示手段に表示させる、
ことを特徴とする請求項1から3の何れか一項に記載の商品登録装置。 - 前記制御手段は、前記下位分類を前記表示手段に表示させる際に、前記商品の単価を並べて表示させる、
ことを特徴とする請求項4に記載の商品登録装置。 - 前記制御手段は、前記音声入力手段により入力された音声を前記補助情報として用いて商品の下位分類まで認識をした後に、更に前記音声入力手段により音声が入力された際には当該音声を数情報として用いて商品の個数を特定する、
ことを特徴とする請求項1から5の何れか一項に記載の商品登録装置。 - 物体を画像として撮影する撮影ステップと、
音声を入力する音声入力ステップと、
前記物体が前記撮影ステップにより画像として撮影されたことを検出したタイミング後の所定期間に前記音声入力ステップにより入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御ステップと、
を含み、
前記制御ステップにおいて、前記物体が前記撮影ステップにより画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、
ことを特徴とする商品認識方法。 - コンピュータを、
物体が撮影手段により画像として撮影されたことを検出したタイミング後の所定期間に音声入力手段により入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御手段、
として機能させ、
前記制御手段は、前記物体が前記撮影手段により画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、
ことを特徴とするプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014255521A JP6428240B2 (ja) | 2014-12-17 | 2014-12-17 | 商品登録装置、商品認識方法、およびプログラム |
US14/936,454 US20160180174A1 (en) | 2014-12-17 | 2015-11-09 | Commodity registration device and commodity registration method |
CN201510954879.8A CN105719412A (zh) | 2014-12-17 | 2015-12-17 | 商品注册装置以及商品注册方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014255521A JP6428240B2 (ja) | 2014-12-17 | 2014-12-17 | 商品登録装置、商品認識方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016115279A JP2016115279A (ja) | 2016-06-23 |
JP6428240B2 true JP6428240B2 (ja) | 2018-11-28 |
Family
ID=56129802
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014255521A Active JP6428240B2 (ja) | 2014-12-17 | 2014-12-17 | 商品登録装置、商品認識方法、およびプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20160180174A1 (ja) |
JP (1) | JP6428240B2 (ja) |
CN (1) | CN105719412A (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170193290A1 (en) * | 2016-01-06 | 2017-07-06 | Toshiba Tec Kabushiki Kaisha | Commodity registration apparatus and commodity registration method |
JP6851193B2 (ja) * | 2016-12-20 | 2021-03-31 | 東芝テック株式会社 | 情報処理装置及びプログラム |
CN110019899B (zh) * | 2017-08-25 | 2023-10-03 | 腾讯科技(深圳)有限公司 | 一种目标对象识别方法、装置、终端及存储介质 |
JP6647485B1 (ja) * | 2018-08-27 | 2020-02-14 | 隆均 半田 | 商品代金精算システム |
US20240062213A1 (en) * | 2021-03-25 | 2024-02-22 | Nec Corporation | Detection system, detection method, and storage medium |
Family Cites Families (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5083638A (en) * | 1990-09-18 | 1992-01-28 | Howard Schneider | Automated point-of-sale machine |
US5426282A (en) * | 1993-08-05 | 1995-06-20 | Humble; David R. | System for self-checkout of bulk produce items |
JPH07244782A (ja) * | 1994-03-04 | 1995-09-19 | Ishida Co Ltd | キャッシュコーナ |
US5546475A (en) * | 1994-04-29 | 1996-08-13 | International Business Machines Corporation | Produce recognition system |
US5839104A (en) * | 1996-02-20 | 1998-11-17 | Ncr Corporation | Point-of-sale system having speech entry and item recognition support system |
JP2000249595A (ja) * | 1999-03-01 | 2000-09-14 | Ishida Co Ltd | 商品処理システム |
JP2001319275A (ja) * | 2000-05-12 | 2001-11-16 | Shinei:Kk | セルフオーダーエントリシステム |
US7845554B2 (en) * | 2000-10-30 | 2010-12-07 | Fujitsu Frontech North America, Inc. | Self-checkout method and apparatus |
JP2005526323A (ja) * | 2002-05-17 | 2005-09-02 | フジツー トランスアクション ソリューションズ インコーポレイション | セルフ・チェックアウトの方法および装置 |
EP1806708B1 (en) * | 2005-05-23 | 2013-03-20 | Toshiba TEC Kabushiki Kaisha | Commodity sales registration processing system and commodity information registering apparatus |
US8876001B2 (en) * | 2007-08-07 | 2014-11-04 | Ncr Corporation | Methods and apparatus for image recognition in checkout verification |
US20090113475A1 (en) * | 2007-08-21 | 2009-04-30 | Yi Li | Systems and methods for integrating search capability in interactive video |
JP2009163331A (ja) * | 2007-12-28 | 2009-07-23 | Toshiba Tec Corp | 商品販売データ処理装置及びコンピュータプログラム |
US8260455B2 (en) * | 2008-12-05 | 2012-09-04 | Siemens Industry, Inc. | Address label re-work station |
JP5579202B2 (ja) * | 2012-01-16 | 2014-08-27 | 東芝テック株式会社 | 情報処理装置、店舗システム及びプログラム |
JP5372191B2 (ja) * | 2012-01-30 | 2013-12-18 | 東芝テック株式会社 | 商品読取装置及び商品読取プログラム |
JP2013191180A (ja) * | 2012-03-15 | 2013-09-26 | Ishida Co Ltd | Pos端末装置 |
JP5553866B2 (ja) * | 2012-07-23 | 2014-07-16 | 東芝テック株式会社 | 商品認識装置及び認識辞書追加プログラム |
JP5747014B2 (ja) * | 2012-11-05 | 2015-07-08 | 東芝テック株式会社 | 商品認識装置及び商品認識プログラム |
JP5936993B2 (ja) * | 2012-11-08 | 2016-06-22 | 東芝テック株式会社 | 商品認識装置及び商品認識プログラム |
JP5744824B2 (ja) * | 2012-12-03 | 2015-07-08 | 東芝テック株式会社 | 商品認識装置及び商品認識プログラム |
JP5760022B2 (ja) * | 2013-02-28 | 2015-08-05 | 東芝テック株式会社 | 商品情報表示装置及びコンピュータプログラム |
JP5848734B2 (ja) * | 2013-08-30 | 2016-01-27 | 東芝テック株式会社 | 商品登録装置 |
JP5865316B2 (ja) * | 2013-08-30 | 2016-02-17 | 東芝テック株式会社 | 商品登録装置およびプログラム |
US20150100445A1 (en) * | 2013-10-08 | 2015-04-09 | Toshiba Global Commerce Solutions Holdings Corporation | Systems and methods for interaction with objects to implement a retail function |
JP6180285B2 (ja) * | 2013-11-06 | 2017-08-16 | キヤノン株式会社 | 撮像装置、撮像方法、及びプログラム |
US9613448B1 (en) * | 2014-03-14 | 2017-04-04 | Google Inc. | Augmented display of information in a device view of a display screen |
US20150324635A1 (en) * | 2014-04-30 | 2015-11-12 | Eye Stalks Corporation Dba Bay Sensors | Methods, systems, and apparatuses for visitor monitoring |
US20150339647A1 (en) * | 2014-05-23 | 2015-11-26 | Toshiba Tec Kabushiki Kaisha | Commodity information input apparatus and commodity information input method |
JP6369258B2 (ja) * | 2014-09-22 | 2018-08-08 | カシオ計算機株式会社 | 商品登録装置、商品登録方法およびプログラム |
-
2014
- 2014-12-17 JP JP2014255521A patent/JP6428240B2/ja active Active
-
2015
- 2015-11-09 US US14/936,454 patent/US20160180174A1/en not_active Abandoned
- 2015-12-17 CN CN201510954879.8A patent/CN105719412A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2016115279A (ja) | 2016-06-23 |
CN105719412A (zh) | 2016-06-29 |
US20160180174A1 (en) | 2016-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10169752B2 (en) | Merchandise item registration apparatus, and merchandise item registration method | |
JP6274097B2 (ja) | 商品識別装置および商品認識ナビゲーション方法 | |
JP5619095B2 (ja) | 商品認識装置及び商品認識プログラム | |
JP6428240B2 (ja) | 商品登録装置、商品認識方法、およびプログラム | |
JP6141208B2 (ja) | 情報処理装置及びプログラム | |
JP6258761B2 (ja) | 情報処理装置及びプログラム | |
JP6360350B2 (ja) | 情報処理装置、店舗システム及びプログラム | |
JP6745646B2 (ja) | 認識システム、情報処理装置、及びプログラム | |
JP2018055716A (ja) | 情報処理装置及びプログラム | |
EP3002739A2 (en) | Information processing apparatus and information processing method by the same | |
JP2015038721A (ja) | 情報処理装置及びプログラム | |
JP6190019B2 (ja) | 情報処理装置及びプログラム | |
JP6547856B2 (ja) | 情報表示装置、誘導表示方法およびプログラム | |
JP6376955B2 (ja) | 情報処理装置、販売データ処理装置およびプログラム | |
JP6409637B2 (ja) | 商品登録装置、およびその商品登録方法 | |
JP6295944B2 (ja) | 商品識別装置および商品認識ナビゲーション方法 | |
US9792635B2 (en) | Information processing apparatus and method for updating feature values of products for object recognition | |
JP2015035094A (ja) | 情報処理装置、店舗システム及びプログラム | |
US20190370774A1 (en) | Information processing apparatus and method of controlling an information processing apparatus | |
JP5903414B2 (ja) | 情報処理装置、店舗システム及びプログラム | |
JP6610724B2 (ja) | 商品登録装置、およびプログラム | |
JP5885708B2 (ja) | 情報処理装置、店舗システム及びプログラム | |
JP6384309B2 (ja) | 商品識別装置、商品認識ナビゲーション方法及びプログラム | |
JP6306776B2 (ja) | 情報処理装置及びプログラム | |
JP2020177705A (ja) | 情報処理装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170713 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180411 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180417 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180612 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180724 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180913 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181002 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181015 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6428240 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |