JP6651705B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JP6651705B2
JP6651705B2 JP2015072039A JP2015072039A JP6651705B2 JP 6651705 B2 JP6651705 B2 JP 6651705B2 JP 2015072039 A JP2015072039 A JP 2015072039A JP 2015072039 A JP2015072039 A JP 2015072039A JP 6651705 B2 JP6651705 B2 JP 6651705B2
Authority
JP
Japan
Prior art keywords
product
information
size
identification code
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015072039A
Other languages
English (en)
Other versions
JP2016192091A (ja
Inventor
和記 土持
和記 土持
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2015072039A priority Critical patent/JP6651705B2/ja
Priority to US15/562,210 priority patent/US10490032B2/en
Priority to CN201680020276.3A priority patent/CN107533782A/zh
Priority to PCT/JP2016/059097 priority patent/WO2016158595A1/ja
Publication of JP2016192091A publication Critical patent/JP2016192091A/ja
Priority to HK18105589.6A priority patent/HK1246485A1/zh
Application granted granted Critical
Publication of JP6651705B2 publication Critical patent/JP6651705B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • G07G1/0045Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader
    • G07G1/0054Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles
    • G07G1/0063Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles with means for detecting the geometric dimensions of the article of which the code is read, such as its size or height, for the verification of the registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/10544Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation by scanning of the records by radiation in the optical part of the electromagnetic spectrum
    • G06K7/10712Fixed beam scanning
    • G06K7/10762Relative movement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/10544Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation by scanning of the records by radiation in the optical part of the electromagnetic spectrum
    • G06K7/10821Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation by scanning of the records by radiation in the optical part of the electromagnetic spectrum further details of bar or optical code scanning devices
    • G06K7/10861Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation by scanning of the records by radiation in the optical part of the electromagnetic spectrum further details of bar or optical code scanning devices sensing of data fields affixed to objects or articles, e.g. coded labels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • G07G1/0045Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader
    • G07G1/0054Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles
    • G07G1/0072Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles with means for detecting the weight of the article of which the code is read, for the verification of the registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/68Food, e.g. fruit or vegetables

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Artificial Intelligence (AREA)
  • Toxicology (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Image Analysis (AREA)

Description

本発明は、装置により認識された商品が正しい商品であるか否かを判断する技術に関する。
精算対象の商品を登録する装置において、所謂バーコードといった商品を識別するコードを用いて精算対象の商品を認識した際、当該認識された商品を一時的に載置する場所に重量センサを設けて、当該装置で認識された商品の妥当性を判断する技術がある。ここでいう「妥当」とは、精算対象の商品を登録する装置において、顧客が購入する商品として正しい商品が認識されていることを意味する。この技術では、重量センサで測定される重量と、商品識別コードに紐付けられた商品の重量とに基づいて、両者が一致するか否かを判断している。
他にも、精算対象の商品を登録する装置により認識された商品の妥当性を適切に判断する技術の一例が、例えば、特許文献1に記載されている。特許文献1には、商品を識別するバーコードの読み取りに応じて、当該バーコードが付された物体(商品)の画像と、当該バーコードに関連付けられた商品の基本図形とを取得し、当該画像から認識される物体の形状と読み取られたバーコードに紐付く基本図形とを用いて算出される相関値によって、認識された商品の妥当性を判定する技術が開示されている。
特許文献2および特許文献3には、画像によるオブジェクト認識で商品を特定する技術が開示されている。詳細には、特許文献2および特許文献3には、商品IDと共に商品画像が紐付けられており、当該商品画像と撮像された画像に含まれる物体とを、表面の色合い、模様、表面の凸凹などの表面状態、形状などの特徴量に基づいてマッチングし、その類似度によって画像内の物体に対応する商品の候補を特定する技術が開示されている。また、特許文献3には、遠赤外線を用いたサーモカメラを用いて画像の中から人物の手の部分にあたる領域を検出し、当該領域を除外して上述の特徴量マッチングを行う技術が開示されている。
特開2014−132501号公報 特開2013−182323号公報 特開2014−052806号公報
上述したような、精算対象の商品を登録する装置により認識された商品の妥当性を判断する技術の精度は高いほど好ましい。
本発明の目的は、精算対象の商品を登録する装置により認識された商品の妥当性を精度よく判断する技術を提供することにある。
本発明によれば、
精算対象の商品の商品識別コードを取得するコード取得手段と、
載置場所に載置された、前記商品識別コードを取得した前記精算対象の商品をなくとも像範囲に含み、前記撮像範囲に含まれる商品の奥行方向の距離を示す奥行情報が対応付けられた画像を用いて、前記画像内の商品の大きさ又は形状を認識する画像認識手段と、
前記取得された商品識別コードに紐付けられた大きさ/形状情報を取得する大きさ/形状情報取得手段と、
前記画像から認識された前記商品の大きさ又は形状と、前記商品識別コードを用いて取得された大きさ/形状情報とが、所定の基準を満たしているか否かを判定する判定手段と、
を備える情報処理装置が提供される。
本発明によれば、
コンピュータが、
精算対象の商品の商品識別コードを取得し、
載置場所に載置された、前記商品識別コードを取得した前記精算対象の商品をなくとも像範囲に含み、前記撮像範囲に含まれる商品の奥行方向の距離を示す奥行情報が対応付けられた画像を用いて、前記画像内の商品の大きさ又は形状を認識し、
前記取得された商品識別コードに紐付けられた大きさ/形状情報を取得し、
前記画像から認識された前記商品の大きさ又は形状と、前記商品識別コードを用いて取得された大きさ/形状情報とが、所定の基準を満たしているか否かを判定する、
ことを含む情報処理方法が提供される。
本発明によれば、
コンピュータを、
精算対象の商品の商品識別コードを取得するコード取得手段、
載置場所に載置された、前記商品識別コードを取得した前記精算対象の商品をなくとも像範囲に含み、前記撮像範囲に含まれる商品の奥行方向の距離を示す奥行情報が対応付けられた画像を用いて、前記画像内の商品の大きさ又は形状を認識する画像認識手段、
前記取得された商品識別コードに紐付けられた大きさ/形状情報を取得する大きさ/形状情報取得手段、
前記画像から認識された前記商品の大きさ又は形状と、前記商品識別コードを用いて取得された大きさ/形状情報とが、所定の基準を満たしているか否かを判定する判定手段、
として機能させるためのプログラムが提供される。
本発明によれば、精算対象の商品を登録する装置により認識された商品の妥当性を精度よく判断することができる。
第1実施形態における情報処理装置の処理構成を概念的に示す図である。 大きさ/形状情報記憶部が記憶する情報の一例を示す図である。 情報処理装置のハードウエア構成を概念的に示す図である。 第1実施形態の情報処理装置の処理の流れを示すフローチャートである。 第2実施形態における情報処理装置の取付例を示す図である。 第3実施形態における情報処理装置の処理構成を概念的に示す図である。 第3実施形態の情報処理装置の処理の流れを示すフローチャートである。 第4実施形態における情報処理装置の処理構成を概念的に示す図である。 重量情報記憶部が記憶する情報の一例を示す図である。 第4実施形態の情報処理装置の処理の流れを示すフローチャートである。 第5実施形態における情報処理装置の処理構成を概念的に示す図である。 第5実施形態の情報処理装置の処理の流れを示すフローチャートである。 第6実施形態における精算システムのシステム構成を概念的に示す図である。 第6実施形態の精算システムの処理の流れを示すシーケンス図である。
以下、本発明の実施形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。
[第1実施形態]
〔処理構成〕
図1は、第1実施形態における情報処理装置10の処理構成を概念的に示す図である。情報処理装置10は、精算対象の商品を登録する機能を少なくとも有する、所謂POS(Point of Sales)端末などの商品登録装置である。情報処理装置10は、登録された商品の代金を精算する機能を更に有していてもよい。本実施形態の情報処理装置10は、画像認識部110、商品認識部120(コード取得部122、撮像部124、及びサーモグラフィ情報取得部126)、大きさ/形状情報取得部130、大きさ/形状情報記憶部132、および判定部140を備える。
<精算対象の商品の登録>
本実施形態において、精算対象の商品は次のように登録される。
精算対象の商品は、図1の点線に示されるように移動される。すなわち、精算対象の商品として登録される前の商品(以下、このような商品を「未登録商品」と表記)は、未登録商品を一時的に載置する場所から取り出され、商品認識部120の位置に移動される。ここで、詳細には後述するが、未登録商品が精算対象の商品として登録される。そして、精算対象として登録された商品(以下、このような商品を「登録済商品」と表記)は、登録済商品を一時的に載置する場所に移動される。
未登録商品は、例えば、以下のようにして精算対象の商品として登録される。まず、商品認識部120のコード取得部122により、コード取得部122は、商品認識部120にかざされた未登録商品の商品識別コードを、精算対象の商品の商品識別コードとして取得する。ここで、商品識別コードとは、各商品を特定するために予め決められた、文字、数字、記号などから形成されるデータである。商品識別コードには、PLU(Price Look Up)コード(例えば、JAN(Japan Article Number)コードなど)、またはNon−PLUコードなどが利用され得る。
商品識別コードは、商品情報シンボルを精算対象の商品から検出して解析することにより取得される。商品情報シンボルは、商品に関する情報を特定するシンボルである。ここで、シンボルとは、バーコード、2次元コード(QRコード(登録商標)など)、又は文字列シンボルなどである。なお、ここでいう文字列には、数値列も含まれる。そして、商品情報シンボルは、商品情報を特定する情報(商品情報のIDなど)が符号化されたバーコード等、又は商品情報を特定する情報を表す文字列シンボルなどである。この場合、例えば、光源とフォトダイオードといった受光素子とを備えるコードリーダーや、レンズとCCD(Charge Coupled Device)イメージセンサーといった撮像素子とを備えるコードリーダーなどを用いることにより、商品情報シンボルから商品識別コードが取得される。またレンズと撮像素子とを備えるコードリーダーの場合、精算対象の商品を含む画像から当該商品の特徴量(例えば色、形状、包装、または商品を識別する特定の印や文字列など)を抽出し、商品識別コードと商品の特徴量とを対応付けて記憶する記憶部(図示せず)を参照してマッチング処理を行うことにより、商品識別コードを取得することもできる。
そして、商品認識部120は、コード取得部122により取得された商品識別コードを用いて、商品識別コードと商品情報(例えば、商品名、商品の単価、値引や割引の有無など)とを紐付けて記憶する記憶部(図示せず)を参照し、当該取得された商品識別コードに紐付けられた商品情報を読み出す。そして、商品認識部120は、読み出した商品情報を、情報処理装置10で実行される精算処理に用いる情報として追加する。これにより、情報処理装置10上で登録前商品が認識され、精算対象の商品として登録される。
<装置で認識された商品の妥当性の判定>
また、本実施形態において、上記のとおり精算対象として登録された商品の妥当性は、以下で説明する各処理部により判定される。なお本実施形態における「妥当」とは、情報処理装置10において、顧客が購入する商品として正しい商品が認識されていることを意味する。
撮像部124は、所謂3Dカメラなどであり、撮像範囲に含まれる商品(未登録商品)の奥行方向の距離を示す奥行情報を対応付けて、画像を生成可能に構成されている。撮像部124は、例えばステレオカメラにおける視差を用いる手法などの既知の手法によって、画像と奥行情報とを対応付けて生成する。本実施形態の撮像部124は、商品認識部120の近傍を撮像範囲に含み、商品認識部120に移動されてきた未登録商品を撮像できるようにその向きや位置が調整される。なお、撮像部124は、例えば商品をオブジェクト認識する際に用いられるカメラなどのように、情報処理装置10と一体的に備えられていてもよいし、例えば外付けのカメラなどのように、情報処理装置10の周囲に設置されていてもよい。
また、撮像部124は、好ましくは、コード取得部122が商品識別コードを読み取るタイミングに応じて、画像を撮像する。例えば、コード取得部122は商品の商品情報シンボルの存在などを検知した場合、その旨を示す通知を撮像部124に送る。この通知をうけ、撮像部124はコード取得部122がコードを読み取るタイミングを知ることができる。このようにすると、上述の商品情報シンボルなどを有する商品の場合、コード取得部122が商品識別コードを読み取るタイミングで撮像部124が画像を撮像すれば、当該画像に含まれる商品の姿勢が安定し、取得される画像毎の姿勢の変化が小さくなる。これにより、画像のマッチングで用いるテンプレートの数を減らして処理負荷を低減させる効果、および、画像のマッチングによる認識精度の向上効果などが見込める。
サーモグラフィ情報取得部126は、赤外線などを用いる所謂サーモグラフィカメラなどであり、撮像範囲に含まれる物体が放射する赤外放射エネルギーを捉え、当該物体の温度分布を示すサーモグラフィ情報を生成する。サーモグラフィ情報取得部126は、撮像部124の撮像タイミングに合わせて、サーモグラフィ情報を取得するように構成される。また、サーモグラフィ情報取得部126は、撮像部124の撮像範囲と同じ撮像範囲または124の撮像範囲を包含する撮像範囲のサーモグラフィ情報を取得可能に、その位置や向きが調整されている。そして、サーモグラフィ情報取得部126は、例えば画像空間の座標変換処理などによって、撮像部124で生成される画像とサーモグラフィ情報との位置関係を整合させる。このようにして、サーモグラフィ情報取得部126は、撮像部124で生成される画像と対応付けられたサーモグラフィ情報を取得する。
画像認識部110は、撮像部124で生成された画像、および、サーモグラフィ情報取得部126で取得されたサーモグラフィ情報を用いて、以下のような処理を行う。
画像認識部110は、撮像部124で生成された画像に既知の画像認識処理を施して例えば画像内の商品のエッジなどを検出する。そして、画像認識部110は、例えば、検出したエッジで示される形状を、予め設定されている2次元形状または3次元形状のテンプレートデータとマッチングし、最も類似度の高い形状を商品の形状として認識する。さらに、画像認識部110は、撮像部124で生成された画像に対応付けられた奥行情報と、画像内で商品が占める領域の大きさとを用いて、例えば、画像内の商品の実際の大きさ(例えば、高さ、幅、奥行き幅、各面の面積など)を算出する。奥行情報を基に撮像装置から商品までの実際の距離が分かるため、画像認識部110は、その距離に基づいて、画像内で商品が占める領域の大きさを商品の実際の大きさに換算することができる。
また、画像認識部110は、サーモグラフィ情報取得部126で取得されたサーモグラフィ情報を用いて、撮像部124で生成された画像から認識される商品の形状から、人物と推定される領域を除外する。例えば、画像認識部110には、例えば人物の体温の範囲(例えば35〜40℃)を示す情報が予め設定されており、画像認識部110は、設定された温度を示す領域をサーモグラフィ情報の中から抽出する。そして、画像認識部110は、サーモグラフィ情報取得部126で取得されたサーモグラフィ情報と撮像部124で生成された画像との位置関係に基づいて、エッジを検出する処理の対象領域から上記抽出した領域に対応する領域を除外する、あるいは、検出されたエッジを基に認識された形状から上記抽出された領域に対応する領域を除外する。これにより、画像認識部110は、撮像部124で生成された画像から、商品に対応する領域としてより正確な領域を認識することができ、結果として、当該領域から換算される商品の実際の大きさをより精度よく算出することができる。
大きさ/形状情報取得部130は、コード取得部122で取得された商品識別コードを用いて、大きさ/形状情報記憶部132を参照し、当該商品識別コードに紐付けられた大きさ/形状情報を取得する。大きさ/形状情報とは、各商品の大きさ(例えば、商品の高さ、幅、奥行き、およびこれらから算出される各面の面積など)および各商品の外観形状を示す情報である。大きさ/形状情報記憶部132は、例えば図2に示されるように、商品識別コードと大きさ/形状情報とを紐付けて記憶している。図2は、大きさ/形状情報記憶部132が記憶する情報の一例を示す図である。大きさ/形状情報記憶部132が記憶する情報は、図2の例に制限されない。
大きさ/形状情報取得部130は、大きさ/形状情報記憶部132を検索してコード取得部122で取得された商品識別コードと同一の商品識別コードを検出し、当該検出した商品識別コードに紐付けられた大きさ/形状情報を取得する。なお、図1の例では、大きさ/形状情報記憶部132が情報処理装置10に備えられている例が示されているが、大きさ/形状情報記憶部132は、情報処理装置10と通信可能な他の装置に備えられていてもよい。この場合、大きさ/形状情報取得部130は当該他の装置と通信することにより、コード取得部122で取得された商品識別コードに紐付く大きさ/形状情報を取得する。
判定部140は、撮像部124生成されたで画像から認識された大きさ又は形状と、商品識別コードを用いて取得された大きさ/形状情報とが、所定の基準を満たすか否かを判定する。ここで、所定の基準とは、商品の大きさ又は形状に関する基準であり、画像から認識される商品と、商品識別コードから識別される商品とが、同一の商品を示すことを確認可能とする基準である。例えば、判定部140は、大きさおよび形状に係る所定の類似度算出アルゴリズムに従って両者の類似度を算出し、その類似度が所定の基準値(同一の商品と見做す値として予め設定される閾値)以上か否かを判定する。
判定の結果として、両者の一致度合が所定の基準値以上であれば、商品認識部120の位置に移動された商品と、情報処理装置10で認識された商品とが同一のものである可能性が高く、判定部140は情報処理装置10による認識結果を妥当なものと判断できる。一方、両者の一致度合が所定の基準値未満であれば、商品認識部120の位置に移動された商品と、情報処理装置10で認識された商品とが異なるものである可能性が高く、判定部140は、情報処理装置10による認識結果を不当なものと判断できる。またこの場合は、例えば、コードの読取ミスや誤ったコードが張り付けられていたなど、何らかの不良が発生していると考えられる。そこで、判定部140は、両者の一致度合が所定の基準値未満である場合、商品の再読み込みを促すメッセージや所定の警告メッセージなどを、情報処理装置10の表示部に表示、あるいは、音声で出力するように構成されていてもよい。
なお、本実施形態において、大きさ/形状情報記憶部132は、各商品識別コードに対して、複数の大きさ/形状情報を紐付けて記憶していてもよい。具体的には、大きさ/形状情報記憶部132は、例えば、正面から見た場合の大きさ/形状情報、上から見た場合の大きさ/形状情報、および斜め上から見た場合の大きさ/形状情報など、複数の方向から見た商品の姿勢を示す大きさ/形状情報を、各商品識別コードに紐付けて記憶していてもよい。この場合、判定部140は、各商品識別コードに紐付けられている複数の大きさ/形状情報の各々について、画像認識部110により認識された大きさ又は形状との類似度を算出し、両者の一致度合が所定の基準値以上か否かを判定する。このようにすることで、撮像部124で生成された画像に含まれる商品の姿勢によって、判定部140による判定の精度が下がることを抑制できる。
〔ハードウエア構成〕
図3は、情報処理装置10のハードウエア構成を概念的に示す図である。図3に示されるように、情報処理装置10は、CPU101、メモリ102、ストレージ103、入出力インターフェース(入出力I/F)104、および通信モジュール105などを備える。
CPU101、メモリ102、ストレージ103、入出力インターフェース104、および通信モジュール105は、相互にデータを送受信するためのデータ伝送路で接続されている。
メモリ102は、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。ストレージ103は、例えばハードディスク、SSD(Solid State Drive)、又はメモリカードなどの記憶装置である。ストレージ103は、情報処理装置10の画像認識部110、商品認識部120、コード取得部122、撮像部124、サーモグラフィ情報取得部126、大きさ/形状情報取得部130、及び判定部140を含む各処理部の機能を実現するためのプログラムモジュールを記憶している。CPU101は、これら各プログラムモジュールを実行することで、各処理部の機能をそれぞれ実現する。CPU101は、上記各モジュールを実行する際、これらのモジュールをメモリ102上に読み出してから実行してもよいし、メモリ102上に読み出さずに実行してもよい。また、ストレージ103は、大きさ/形状情報記憶部132としても機能する。
入出力インターフェース104は、表示装置1041、入力装置1042、撮像装置1043、および読取装置1044などと接続される。表示装置1041は、LCD(Liquid Crystal Display)やCRT(Cathode Ray Tube)ディスプレイのような、CPU101やGPU(Graphics Processing Unit)(図示せず)等により処理された描画データに対応する画面を表示する装置である。入出力インターフェース104には1つまたはそれ以上の表示装置1041が接続され得る。入力装置1042は、オペレータの操作による入力を受け付ける装置であり、例えば、キーボード、マウス、タッチセンサ等として実現される。表示装置1041および入力装置1042は一体化され、タッチパネルとして実現されていてもよい。撮像装置1043は、所謂3Dカメラなどであり、単眼式の撮像モジュールまたは2眼式の撮像モジュール(図示せず)を備える。この場合、撮像装置1043は、上述の撮像部124の機能を実現し得る。また、撮像装置1043は、所謂サーモグラフィカメラなどであり、物体から放射される赤外線エネルギーを検知し、その赤外線エネルギー量により物体の温度分布を示す画像を生成する撮像モジュール(図示せず)を備える。この場合、撮像装置1043は、上述のサーモグラフィ情報取得部126の機能を実現し得る。読取装置1044は、光源とフォトダイオードといった受光素子とを備えるコードリーダーや、レンズとCCD(Charge Coupled Device)イメージセンサーといった撮像素子とを備えるコードリーダーなどの装置である。読取装置1044は、上述のコード取得部122の機能を実現し得る。
通信モジュール105は、外部の装置等との間でデータを送受信するために用いられる。なお、通信モジュール105を介して情報処理装置10と外部の装置とを接続する方法は様々である。例えばこの接続は、バス回線(例えばUSB(Universal Serial Bus)回線)を介したバス接続や、ネットワーク回線を介したネットワーク接続などである。なお、ネットワーク回線は無線回線であってもよいし有線回線であってもよい。
なお、情報処理装置10のハードウエア構成は図3に示される構成に制限されない。例えば、入出力インターフェース104には、商品の精算処理に必要な各種装置(金銭投入装置、釣銭払出装置など)が接続されていてもよい。
〔動作例〕
図4を用いて、本実施形態の情報処理装置10の動作例を説明する。図4は、第1実施形態の情報処理装置10の処理の流れを示すフローチャートである。
商品認識部120の位置に商品が移動されると、コード取得部122は当該商品の商品識別コードを取得する(S101)。また、商品識別コードの取得に応じて、撮像部124は、奥行方向の距離を示す奥行情報を対応付けて商品の画像を生成し(S102)、サーモグラフィ情報取得部126は、撮像部124で生成された画像に対応付けて、サーモグラフィ情報を取得する(S103)。
そして、画像認識部110は、生成された画像と、当該画像に対応付けられた奥行情報およびサーモグラフィ情報とを用いて、商品の大きさ又は形状を認識する(S104)。例えば、画像認識部110は、奥行情報から得られる商品までの実際の距離を用いて、当該商品が画像内で占める領域の大きさを、商品の実際の大きさに換算する。また例えば、画像認識部110は、エッジ処理など既知の画像認識処理を用いて画像から商品の領域を抽出し、当該領域の形状を商品の形状として取得する。
また、大きさ/形状情報取得部130は、コード取得部122で取得された商品識別コードを用いて大きさ/形状情報記憶部132を参照し、当該商品識別コードに紐付けられた大きさ/形状情報を大きさ/形状情報記憶部132から読み出す(S105)。
判定部140は、画像認識部110で認識された商品の大きさ又は形状と、商品識別コードに紐付けられた大きさ/形状情報とを比較し、所定の基準を満たすか否かを判定する(S106)。例えば、判定部140は、所定の類似度算出アルゴリズムに従って両者の類似度を算出し、その類似度が所定の閾値以上か否かによって、両者が所定の基準を満たすか否かを判定することができる。判定部140は、所定の基準を満たすと判定した場合(S106:YES)、情報処理装置10によって正常に商品が認識されたと判断し、後述のS107の処理を実行しない。一方、判定部140は、所定の基準を満たさないと判定した場合(S106:NO)、所定の出力(例えば商品の再読み込みを促すメッセージ、警告メッセージ、警告音など)を図示しないディスプレイやスピーカーなどを介して出力する(S107)。
〔第1実施形態の作用および効果〕
以上、本実施形態によれば、商品認識部120で読み取られた商品について、画像から算出される当該商品の実際の大きさ又は形状と、当該商品の商品識別コードに紐付けられた、当該商品の大きさ又は形状を示す大きさ/形状情報との類似度が算出される。そして、両者の類似度が所定の閾値(同一の商品と見做す値として予め設定される閾値)以上か否かによって、両者が所定の基準を満たすか否かが判定される。そして、両者の大きさ又は形状が略一致し、所定の基準を満たしていれば、商品認識部120の位置に移動された商品と、情報処理装置10で認識された商品とが同一のものである可能性が高く、判定部140によって、情報処理装置10による認識結果が妥当なものと判断される。一方、両者の大きさ又は形状が一致せず、所定の基準を満たさない場合であれば、商品認識部120の位置に移動された商品と、情報処理装置10で認識された商品とが異なるものである可能性が高く、判定部140によって、情報処理装置10による認識結果が不当なものと判断される。このように、画像から認識される商品の実際の大きさ又は形状と、商品識別コードに紐付けられた、商品の理論的な大きさ又は形状とを比較することにより、情報処理装置10により認識された商品の妥当性を精度よく判断することができる。
[第2実施形態]
顧客が購入する商品を入れて持ち運ぶバスケットに、精算対象の商品を読み取る装置を取り付け、バスケットに商品を入れる際に精算対象の商品として登録し、レジ端末では代金の精算のみを行う運用方法もある。このような場合において、第1実施形態の情報処理装置10と同様の構成を有する装置を当該バスケットに備えることにより、第1実施形態と同様の効果を得ることができる。
〔処理構成/ハードウエア構成〕
本実施形態の情報処理装置10は、図1に示される構成と同様に、画像認識部110、商品認識部120(コード取得部122、撮像部124、サーモグラフィ情報取得部126)、大きさ/形状情報取得部130、大きさ/形状情報記憶部132、及び判定部140を備える。また、本実施形態の情報処理装置10も、第1実施形態と同様のハードウエア構成を有し、第1実施形態と同様にして各処理部を実現する。但し、図4に示される情報処理装置10の各ハードウエア構成要素は、バスケット20に取り付けるために、第1実施形態よりも小型化される。
図5は、第2実施形態における情報処理装置10の取付例を示す図である。情報処理装置10は、図5に示されるように、バスケット20に取り付けられている。図5に示されるように、未登録商品は、情報処理装置10で精算対象の商品として登録された後に、バスケット20の中に載置される。
〔動作例〕
本実施形態の情報処理装置10は、図4で示されるように、第1実施形態の情報処理装置10と同様に動作する。
〔第2実施形態の作用および効果〕
以上、本実施形態によっても、第1実施形態と同様の作用および効果を得ることができる。
[第3実施形態]
本実施形態は、情報処理装置10が個数取得部150を更に備える点を除いて、第1実施形態および第2実施形態と同様である。
〔処理構成〕
図6は、第3実施形態における情報処理装置10の処理構成を概念的に示す図である。図6に示されるように、本実施形態の情報処理装置10は、個数取得部150を更に備える。
個数取得部150は、撮像部124で生成された画像の撮像範囲に含まれる商品の個数を取得する。詳細には、個数取得部150は、画像認識部110により認識された商品の形状の個数を、商品の個数として取得する。または、個数取得部150は、予め記憶された商品の特徴量のパターンマッチングによって、画像内から検出されたオブジェクトの個数を、商品の個数として取得する。
本実施形態の判定部140は、コード取得部122で取得された商品識別コードの個数と、個数取得部150で取得された商品の個数とが一致するか否かを判定する。なお、ここでの「一致」は完全一致を意味する。本実施形態において、画像内に複数の商品情報シンボルが存在する場合、コード取得部122は、例えば画像認識処理を行って各商品情報シンボルをそれぞれ検出し、略同じタイミングで複数の商品識別コードを取得する。本実施形態のコード取得部122は、ここで取得された商品識別コードの数を判定部140に更に通知する。
〔ハードウエア構成〕
本実施形態の情報処理装置10も、第1実施形態および第2実施形態と同様に、図4に示されるようなハードウエア構成を有する。ストレージ103は、個数取得部150の機能を実現するプログラムモジュールを更に記憶しており、CPU101が当該プログラムモジュールを実行することにより、個数取得部150が実現される。
〔動作例〕
図7を用いて、本実施形態の情報処理装置10の動作例について説明する。図7は、第3実施形態の情報処理装置10の処理の流れを示すフローチャートである。なお、以下では、第1実施形態および第2実施形態と異なる工程(S201〜S203)について主に説明する。
コード取得部122は、商品識別コードを取得する際、取得された商品識別コードの個数を集計する(S201)。そして、個数取得部150は、画像認識部110で認識された商品の形状の個数を、撮像部124で生成された画像に含まれる商品の個数として取得する(S202)。また、判定部140は、S201で集計された商品識別コードの個数と、S202で取得された商品の個数とを比較し、両者が一致するか否かを確認する(S203)。商品の個数と商品識別コードの個数とが一致しない場合は(S203:NO)、判定部140は、商品の読み取りミスなどの何らかのエラーが発生していると判定し、例えば商品の再読み込みを促すメッセージや警告メッセージといった所定のメッセージなどを、ディスプレイに表示、または、音声情報として出力する(S107)。一方、商品の個数と商品識別コードの個数とが一致する場合(S203:YES)、判定部140は、商品の読み取りミスといったエラーは発生していないと判定し、第1実施形態でその詳細を説明したように、画像から得られる大きさ又は形状と、商品識別コードから得られる大きさ/形状情報とが所定の基準を満たすか否かを確認する(S106)。
〔第3実施形態の作用および効果〕
以上、本実施形態では、画像から認識される商品の個数と、情報処理装置10で実際に認識された商品識別コードの個数とが一致するか否かが更に判定される。これにより、本実施形態によれば、商品の読み取りミスなどのエラーが発生しているか否かを判定することができ、そのようなエラーが発生している場合には、情報処理装置10における商品の認識を正確に行うように促すことができる。
[第4実施形態]
本実施形態は、重量センサを用いる技術に、上記各実施形態で説明した情報処理装置10を組み合わせる形態について説明する。
重量センサで測定される重量と、商品識別コードに紐付けられた商品の重量とに基づいて、情報処理装置10で認識される商品の妥当性を判定する場合、商品の重量が極端に軽い場合や、同じ商品でも重量にばらつきがある場合などは、正しい判定結果が得られないことがある。本実施形態の情報処理装置10は、そのような商品を対象とする場合は、上述の各実施形態で説明したような、画像から認識される商品の大きさ又は形状と、商品識別コードから取得される大きさ/形状情報とに基づいて、認識の妥当性を判定する。
〔処理構成〕
図8は、第4実施形態における情報処理装置10の処理構成を概念的に示す図である。なお、本実施形態の情報処理装置10は、未登録商品の載置場所および登録済商品の載置場所に、それぞれ重量センサ(160および162)を備え、基本的には、この重量センサで計測される重量の変化量によって、情報処理装置10で認識される商品の妥当性を判定している。
図8に示されるように、本実施形態の情報処理装置10は重量情報記憶部142を更に備える。重量情報記憶部142は、商品識別コードに紐付けて、当該商品識別コードの商品1つあたりの重量を示す情報(以下、重量情報と表記)、または、当該商品の重量偏差を示す情報(以下、重量偏差情報と表記)の少なくともいずれか一方を記憶している。重量情報記憶部142が記憶する情報の一例を図9に示す。図9は、重量情報記憶部142が記憶する情報の一例を示す図である。図9の例では、重量情報記憶部142は、商品識別コードに紐付けて、重量情報および重量偏差情報を記憶している。
本実施形態の判定部140は、コード取得部122から商品識別コードを取得し、当該商品識別コードを用いて重量情報記憶部142から、コード取得部122で取得された商品識別コードに紐付けられた重量情報または重量偏差情報を取得する。重量情報記憶部142が図9に示されるような情報を記憶している場合、判定部140は、重量情報と重量偏差情報とを取得することができる。そして、判定部140は、取得した重量情報または重量偏差情報に基づいて、(1)取得された商品識別コードに紐付けられた重量が基準値以である、(2)取得された商品識別コードに紐付けられた重量が未設定である、(3)取得された商品識別コードに紐付けられた重量偏差が所定の閾値以上である、という条件うちの少なくともいずれか1つを満たすか否かを判定する。
これらの条件は、コード取得部122で取得された商品識別コードの商品が、重量センサによる処理に向かない商品か否かを判定する条件である。上記(1)は、例えば、商品が非常に軽い場合など、重量センサで検知できる重量の変化量が小さい商品は重量センサによる処理で誤認識が発生しやすく、そのような商品か否かを判定する条件である。また、上記(2)は、重量が未設定である場合、そもそも重量センサによる処理ができず、そのような商品か否かを判定する条件である。また、上記(3)は、重量のばらつきが大きい商品などは、重量センサによる処理で誤認識が発生しやすく、そのような商品か否かを判定する条件である。
本実施形態の判定部140は、上記(1)から(3)の何れかに該当すると判定した場合、上述の各実施形態で説明した判定、すなわち、商品の大きさ又は形状を用いた情報処理装置10による認識の妥当性を判定する処理を実行する。具体的には、本実施形態の判定部140は、上記(1)から(3)の何れかに該当すると判定した場合、画像認識部110および大きさ/形状情報取得部130に対して、上述の各実施形態で説明した処理の実行要求を通知する。この通知を受けた画像認識部110は、撮像部124で生成された画像から認識される商品の大きさ又は形状を判定部140に送る。また、この通知を受けたコード取得部122は、コード取得部122で取得された商品識別コードに紐付けられた大きさ/形状情報を判定部140に送る。判定部140は、画像認識部110から受け取った商品の大きさ又は形状と、大きさ/形状情報取得部130から受け取った大きさ/形状情報を用いて、上述の各実施形態の説明したように、判定処理を実行する。
〔ハードウエア構成〕
本実施形態の情報処理装置10も、第1実施形態および第2実施形態と同様に、図4に示されるようなハードウエア構成を有する。ストレージ103は、本実施形態の判定部140の機能を実現するプログラムモジュールを更に記憶しており、CPU101が当該プログラムモジュールを実行することにより、本実施形態の判定部140が実現される。また、ストレージ103は、重量情報記憶部142の機能を実現し得る。
〔動作例〕
図10を用いて、本実施形態の情報処理装置10の動作例について説明する。図10は、第4実施形態の情報処理装置10の処理の流れを示すフローチャートである。なお、以下の説明では、図4のフローチャートをベースとして、本実施形態で追加される処理(S301〜S303)について主に説明する。
判定部140は、S101でコード取得部122により取得された商品識別コードを用いて、重量情報記憶部142を参照し、当該商品識別コードに紐付く重量情報または重量偏差情報を取得する(S301)。そして、判定部140は、取得した重量情報または重量偏差情報を用いて、S101でコード取得部122により取得された商品識別コードの商品が、重量センサを用いた判定処理に向かない商品か否かを判定する(S302)。判定部140は、具体的には、(1)取得された商品識別コードに紐付けられた重量が基準値以である、(2)取得された商品識別コードに紐付けられた重量が未設定である、(3)取得された商品識別コードに紐付けられた重量偏差が所定の閾値以上である、という条件うちの少なくともいずれか1つを満たすか否かを判定する。
S101でコード取得部122により取得された商品識別コードの商品が、重量センサを用いた判定処理に向かない商品である場合(S302:YES)、判定部140は、画像認識部110および大きさ/形状情報取得部130にその旨を通知し、第1実施形態で説明した処理が実行される(S102〜S107)。一方、S101でコード取得部122により取得された商品識別コードの商品が、重量センサを用いた判定処理を行っても問題ない商品である場合(S302:NO)、重量センサを用いた判定処理が実行される(S303)。
〔第4実施形態の作用と効果〕
以上、本実施形態では、コード取得部122で取得された商品識別コードの商品が重量センサを用いた判定処理に向かない商品か否かが判定される。そして、コード取得部122で取得された商品識別コードの商品が重量センサを用いた判定処理に向かない商品と判定された場合、画像から認識される商品の大きさ又は形状と、商品識別コードに紐付けられた大きさ/形状情報とに基づく判定処理が実行される。これにより、重量センサなどを用いた場合に発生し得る誤認識を防止し、情報処理装置10で認識される商品の妥当性を判定する精度を向上させることができる。
〔第4実施形態の変形例〕
本実施形態において、判定部140は、基本的には、重量センサで計測される重量の変化量による判定処理を行い、所定の条件を満たす商品に関しては、画像から認識される大きさ又は形状に基づく判定処理を行う例を示した。しかし、これに限らず、判定部140は、基本的には、画像から認識される大きさ又は形状に基づく判定処理を行い、上記所定の条件とは異なる条件を満たす商品に関しては、重量センサで計測される重量の変化量による判定処理を行うように構成されていてもよい。ここで「異なる条件を満たす商品」とは、例えば、厚さを持たない薄い商品など、向きや姿勢によっては多くの特徴点が認識される可能性があり、画像認識処理に向かない商品である。このような場合、情報処理装置10は、画像認識処理に向かない商品の商品識別コードを図示しない記憶部に記憶しており、判定部140は、当該記憶部に記憶されている商品識別コードと同じ商品識別コードがコード取得部122により取得されると、重量センサで計測される重量の変化に基づいて、情報処理装置10で認識される商品の妥当性を判定する。
[第5実施形態]
本実施形態は、本発明の効果を得ることのできる最小の構成を有する情報処理装置10について説明する。精算対象の商品を登録する装置(以下、商品登録装置と表記)とは別の装置(例えばサーバ装置)として、商品登録装置と例えばLAN(Local Area Network)を介して通信可能に設けられる。
〔処理構成〕
図11は、第5実施形態における情報処理装置10の処理構成を概念的に示す図である。図11に示されるように、本実施形態の情報処理装置10は、画像認識部110、コード取得部122、大きさ/形状情報取得部130、および判定部140を備える。
画像認識部110は、撮像範囲に含まれる商品の奥行方向の距離を示す奥行情報が対応付けられた画像を用いて、画像内の商品の大きさ又は形状を認識する。コード取得部122は、大きさ/形状情報取得部130は、取得された商品識別コードに紐付けられた大きさ/形状情報を取得する。判定部140は、画像から認識された商品の大きさ又は形状と、商品識別コードを用いて取得された大きさ/形状情報とが所定の基準を満たすか否かを判定する。
〔ハードウエア構成〕
本実施形態の情報処理装置10は、図3に示されるようなハードウエア構成を有する。なお、本実施形態の情報処理装置10の入出力インターフェース104には、撮像装置1043および読取装置1044が接続されておらず、通信モジュール105を介して他の装置から画像や商品識別コードを取得可能に構成されていてもよい。本実施形態の画像認識部110、コード取得部122、大きさ/形状情報取得部130、および判定部140は、上述の各実施形態と同様に、CPU101が各処理部の機能を実現するプログラムモジュールを実行することにより実現される。
〔動作例〕
図12を用いて、本実施形態の情報処理装置10の動作例について説明する。図12は、第5実施形態の情報処理装置10の処理の流れを示すフローチャートである。
コード取得部122は、例えばLANなどのネットワークを介して商品登録装置と通信し、商品登録装置で読み取られた精算対象の商品の商品識別コードを取得する(S401)。そして、大きさ/形状情報取得部130は、S401で取得された商品識別コードを用いて、当該商品識別コードに紐付く大きさ/形状情報を読み出す(S402)。本実施形態において、大きさ/形状情報は、例えば、情報処理装置10と通信可能な他の装置の記憶部(図示せず)などに、商品識別コードと紐付けて記憶されている。
また、画像認識部110は、例えばLANなどのネットワークを介して商品登録装置と通信し、商品登録装置に設けられた撮像手段などにより生成された画像を取得する(S403)。この商品登録装置に設けられた撮像手段は、所謂3Dカメラであり、画像と奥行情報とを対応付けて生成することができる。そして、画像認識部110は、既知の画像認識処理を用いて画像内の商品の形状を認識し、また、画像に対応付けられた奥行情報と画像内の商品の領域の大きさとに基づいて当該商品の実際の大きさを算出する(S404)。
判定部140は、S402で取得された大きさ/形状情報と、S404で取得された商品の大きさおよび形状が所定の基準を満たすか否かを判定し(S405)、その結果を商品登録装置へ送信する(S406)。
〔第5実施形態の作用と効果〕
以上、本実施形態では、画像から認識される商品の実際の大きさ又は形状と、商品識別コードに紐付けられた、商品の理論的な大きさ又は形状とが比較される。これにより、商品登録装置により認識された商品の妥当性を精度よく判断することができる。
[第6実施形態]
本実施形態では、精算対象の商品の登録処理を行う商品登録装置と、精算対象として登録された商品の代金の精算処理を行う精算装置とを含む精算システムについて説明する。
〔システム構成〕
図13は、第6実施形態における精算システム1のシステム構成を概念的に示す図である。図13に示されるように、精算システム1は、商品登録装置として機能する情報処理装置10と、情報処理装置10で登録された商品の代金の精算処理を行う精算装置30と、サーバ装置40と、を含む。この場合、情報処理装置10、精算装置30、及びサーバ装置40はLANなどのネットワークを介して通信可能に接続されている。また、情報処理装置10は、第1乃至第4実施形態のいずれか1つと同様の構成を有する。以下の説明では、本実施形態の情報処理装置10が、第1実施形態と同様に、図1の構成を有する場合を例示する。なお、図13の例に限らず、情報処理装置10の画像認識部110、コード取得部122、大きさ/形状情報取得部130、及び判定部140は、第5実施形態で説明したように、商品登録装置とは別の装置(例えば、サーバ装置40)として、当該商品登録装置と例えばLANなどを介して通信可能に設けられていてもよい。この場合、商品登録装置は、情報処理装置10のコード取得部122とは別に、商品情報シンボルなどから商品識別コードを取得する処理部を有する。
〔動作例〕
図14を用いて、本実施形態の精算システム1の処理の流れを説明する。図14は、第6実施形態の精算システム1の処理の流れを示すシーケンス図である。
情報処理装置10は、第1実施形態で説明したように、図4のフローチャートのS101〜S105の処理を実行する。そして、図4のフローチャートのS106の判定を行う。判定部140が所定の基準を満たさないと判定した場合(S106:NO)、判定部140は所定の出力(例えば、商品の再認識を促す出力)を行い(S107)、S101〜S105の処理が再度実行される。一方、商品認識部120は、判定部140が所定の基準を満たすと判定した場合(S106:YES)、情報処理装置10によって正常に商品が認識されたと判断し、コード取得部122で取得された商品識別コードに紐付けられた商品情報を読み出す(S501)。具体的には、商品認識部120は、コード取得部122で取得された商品識別コードを用いて、商品識別コードと商品情報(例えば、商品名、商品の単価、値引や割引の有無など)とを紐付けて記憶する記憶部(図示せず)を参照し、当該取得された商品識別コードに紐付けられた商品情報を読み出す。そして、商品認識部120は、読み出した商品情報を、情報処理装置10で実行される精算処理に用いる情報(以下、精算情報と表記)として追加する(S502)。精算情報は、少なくとも、精算対象の各商品の名称、精算対象の各商品の単価および個数、精算対象の商品全ての合計金額などを含む。S101〜S107、S501、およびS502の処理は、1つの取引における精算対象の商品の登録が完了するまで繰り返される(S503:NO)。情報処理装置10は、例えば、情報処理装置10に設けられた入力装置などによる「小計」ボタンの押下といったイベントを検知し、1つの取引における精算対象の商品の登録が完了したことを検出する。
1つの取引における精算対象の商品の登録が完了したことが検出された場合(S503:YES)、情報処理装置10は、S502で生成された当該取引の精算情報を、サーバ装置40を介して、精算装置30に送信する(S504)。情報処理装置10は、例えば、情報処理装置10のオペレータの入力操作により、精算情報を送信すべき精算装置30を特定し、精算情報を送信する。この場合、情報処理装置10は、精算情報と当該精算情報の送信先の精算装置30を指定する情報とをサーバ装置40に送信する。そして、サーバ装置40は、情報処理装置10により指定された精算装置30に対して精算情報を送信し、精算装置30は、サーバ装置40から送信された精算情報を用いて代金の精算処理を行う(S505)。また、これに限らず、情報処理装置10は、精算情報を例えばサーバ装置40に送信すると共に、当該精算情報を識別する情報を含み、精算装置30で読み取り可能な可搬型媒体を顧客に払い出し、当該可搬媒体を顧客の操作により任意の精算装置30に読み込ませてもよい。この場合、精算装置30は、可搬型媒体に含まれる識別情報を用いてサーバ装置40から精算情報を読み出し、代金の精算処理を行う(S505)。
以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。
例えば、第1実施形態などにおいて、撮像部124は、商品認識部120に登録前の商品をかざすために、未登録商品の載置場所(例えばバスケットなど)から商品が取り出されるときの画像を取得し、画像認識部110は当該画像から商品の大きさ又は形状を認識するように構成されていてもよい。この場合、当該載置場所から取り出された未登録商品と、実際に精算対象として登録された商品とが一致するか否かを判断することができる。また例えば、撮像部124は、登録済商品が載置場所に置かれるときの画像を取得し、画像認識部110は当該画像から商品の大きさ又は形状を認識するように構成されていてもよい。この場合、当該載置場所に置かれた登録済商品と、実際に精算対象として登録された商品とが一致するか否かを判断することができる。このようにすることで、商品登録時における商品のすり替えといった不正行為を発見し、認識された商品が正しい商品であるか否かを判断することができる。
また、上述の説明で用いた複数のフローチャート、または、シーケンス図では、複数の工程(処理)が順番に記載されているが、各実施形態で実行される工程の実行順序は、その記載の順番に制限されない。各実施形態では、図示される工程の順番を内容的に支障のない範囲で変更することができる。また、上述の各実施形態は、内容が相反しない範囲で組み合わせることができる。
以下、参考形態の例を付記する。
1.
撮像範囲に含まれる商品の奥行方向の距離を示す奥行情報が対応付けられた画像を用いて、前記画像内の商品の大きさ又は形状を認識する画像認識手段と、
精算対象の商品の商品識別コードを取得するコード取得手段と、
前記取得された商品識別コードに紐付けられた大きさ/形状情報を取得する大きさ/形状情報取得手段と、
前記画像から認識された前記商品の大きさ又は形状と、前記商品識別コードを用いて取得された大きさ/形状情報とが、所定の基準を満たしているか否かを判定する判定手段と、
を備える商品登録装置。
2.
前記画像に対応付けてサーモグラフィ情報を取得するサーモグラフィ情報取得手段を更に備え、
前記画像認識手段は、
前記取得されたサーモグラフィ情報を用いて、前記画像から認識する前記商品の形状から、人物と推定される部分を除外する、
1.に記載の商品登録装置。
3.
前記商品識別コードには、複数の前記大きさ/形状情報が紐付けられており、
前記判定手段は、前記認識された大きさ又は形状と、各々の前記複数の大きさ/形状情報とについて、前記所定の基準を満たしているか否かを判定する、
1.または2.に記載の商品登録装置。
4.
前記コード取得手段が前記商品識別コードを読み取るタイミングに応じて、前記画像を撮像する撮像手段を更に備える、
1.から3.のいずれか1つに記載の商品登録装置。
5.
前記撮像範囲に含まれる商品の個数を取得する個数取得手段を更に備え、
前記判定手段は、前記取得された商品識別コードの個数と、前記取得された商品の個数とが一致するか否かを判定する、
1.から4.のいずれか1つに記載の商品登録装置。
6.
前記商品識別コードには、当該商品識別コードの商品の重量または重量偏差が更に紐付けられており、
前記判定手段は、前記取得された商品識別コードに紐付けられた前記重量が基準値以の場合、前記取得された商品識別コードに紐付けられた前記重量が未設定の場合、または、前記取得された商品識別コードに紐付けられた前記重量偏差が所定の閾値以上である場合、の少なくともいずれか1つの場合に、前記判定を実行する、
1.から5.のいずれか1つに記載の商品登録装置。
7.
コンピュータが、
撮像範囲に含まれる商品の奥行方向の距離を示す奥行情報が対応付けられた画像を用いて、前記画像内の商品の大きさ又は形状を認識し、
精算対象の商品の商品識別コードを取得し、
前記取得された商品識別コードに紐付けられた大きさ/形状情報を取得し、
前記画像から認識された前記商品の大きさ又は形状と、前記商品識別コードを用いて取得された大きさ/形状情報とが、所定の基準を満たしているか否かを判定する、
ことを含む制御方法。
8.
前記コンピュータが、
前記画像に対応付けてサーモグラフィ情報を取得し、
前記取得されたサーモグラフィ情報を用いて、前記画像から認識する前記商品の形状から、人物と推定される部分を除外する、
ことを含む7.に記載の制御方法。
9.
前記商品識別コードには、複数の前記大きさ/形状情報が紐付けられており、
前記コンピュータが、
前記認識された大きさ又は形状と、各々の前記複数の大きさ/形状情報とについて、前記所定の基準を満たしているか否かを判定する、
ことを含む7.または8.に記載の制御方法。
10.
前記コンピュータが、
前記商品識別コードを読み取るタイミングに応じて、前記画像を撮像する、
ことを含む7.から9.のいずれか1つに記載の制御方法。
11.
前記コンピュータが、
前記撮像範囲に含まれる商品の個数を取得し、
前記取得された商品識別コードの個数と、前記取得された商品の個数とが一致するか否かを判定する、
ことを含む7.から10.のいずれか1つに記載の制御方法。
12.
前記商品識別コードには、当該商品識別コードの商品の重量または重量偏差が更に紐付けられており、
前記コンピュータが、
前記取得された商品識別コードに紐付けられた前記重量が基準値以の場合、前記取得された商品識別コードに紐付けられた前記重量が未設定の場合、または、前記取得された商品識別コードに紐付けられた前記重量偏差が所定の閾値以上である場合、の少なくともいずれか1つの場合に、前記判定を実行する、
ことを含む7.から11.のいずれか1つに記載の制御方法。
13.
コンピュータを、
撮像範囲に含まれる商品の奥行方向の距離を示す奥行情報が対応付けられた画像を用いて、前記画像内の商品の大きさ又は形状を認識する画像認識手段、
精算対象の商品の商品識別コードを取得するコード取得手段、
前記取得された商品識別コードに紐付けられた大きさ/形状情報を取得する大きさ/形状情報取得手段、
前記画像から認識された前記商品の大きさ又は形状と、前記商品識別コードを用いて取得された大きさ/形状情報とが、所定の基準を満たしているか否かを判定する判定手段、
として機能させるためのプログラム。
14.
前記コンピュータを、
前記画像に対応付けてサーモグラフィ情報を取得するサーモグラフィ情報取得手段、
前記画像認識手段であって、
前記取得されたサーモグラフィ情報を用いて、前記画像から認識する前記商品の形状から、人物と推定される部分を除外する手段、
として更に機能させるための13.に記載のプログラム。
15.
前記商品識別コードには、複数の前記大きさ/形状情報が紐付けられており、
前記コンピュータを、
前記判定手段であって、前記認識された大きさ又は形状と、各々の前記複数の大きさ/形状情報とについて、前記所定の基準を満たしているか否かを判定する手段、
として更に機能させるための13.または14.に記載のプログラム。
16.
前記コンピュータを、
前記コード取得手段が前記商品識別コードを読み取るタイミングに応じて、前記画像を撮像する撮像手段、
として更に機能させるための13.から15.のいずれか1つに記載のプログラム。
17.
前記コンピュータを、
前記撮像範囲に含まれる商品の個数を取得する個数取得手段、
前記判定手段であって、前記取得された商品識別コードの個数と、前記取得された商品の個数とが一致するか否かを判定する手段、
として更に機能させるための13.から16.のいずれか1つに記載のプログラム。
18.
前記商品識別コードには、当該商品識別コードの商品の重量または重量偏差が更に紐付けられており、
前記コンピュータを、
前記判定手段であって、前記取得された商品識別コードに紐付けられた前記重量が基準値以の場合、前記取得された商品識別コードに紐付けられた前記重量が未設定の場合、または、前記取得された商品識別コードに紐付けられた前記重量偏差が所定の閾値以上である場合、の少なくともいずれか1つの場合に、前記判定を実行する手段、
として機能させるための13.から17.のいずれか1つに記載のプログラム。
1 精算システム
10 情報処理装置
101 CPU
102 メモリ
103 ストレージ
104 入出力インターフェース
1041 表示装置
1042 入力装置
1043 撮像装置
1044 読取装置
105 通信モジュール
110 画像認識部
120 商品認識部
122 コード取得部
124 撮像部
126 サーモグラフィ情報取得部
130 大きさ/形状情報取得部
132 大きさ/形状情報記憶部
140 判定部
142 重量情報記憶部
150 個数取得部
170 重量情報取得部
20 バスケット
30 精算装置
40 サーバ装置

Claims (8)

  1. 精算対象の商品の商品識別コードを取得するコード取得手段と、
    載置場所に載置された、前記商品識別コードを取得した前記精算対象の商品をなくとも像範囲に含み、前記撮像範囲に含まれる商品の奥行方向の距離を示す奥行情報が対応付けられた画像を用いて、前記画像内の商品の大きさ又は形状を認識する画像認識手段と、
    前記取得された商品識別コードに紐付けられた大きさ/形状情報を取得する大きさ/形状情報取得手段と、
    前記画像から認識された前記商品の大きさ又は形状と、前記商品識別コードを用いて取得された大きさ/形状情報とが、所定の基準を満たしているか否かを判定する判定手段と、
    を備える情報処理装置。
  2. 前記画像に対応付けてサーモグラフィ情報を取得するサーモグラフィ情報取得手段を更に備え、
    前記画像認識手段は、
    前記取得されたサーモグラフィ情報を用いて、前記画像から認識する前記商品の形状から、人物と推定される部分を除外する、
    請求項1に記載の情報処理装置。
  3. 前記商品識別コードには、複数の前記大きさ/形状情報が紐付けられており、
    前記判定手段は、前記認識された大きさ又は形状と、各々の前記複数の大きさ/形状情報とについて、前記所定の基準を満たしているか否かを判定する、
    請求項1または2に記載の情報処理装置。
  4. 前記コード取得手段が前記商品識別コードを読み取るタイミングに応じて、前記画像を撮像する撮像手段を更に備える、
    請求項1から3のいずれか1項に記載の情報処理装置。
  5. 前記撮像範囲に含まれる商品の個数を取得する個数取得手段を更に備え、
    前記判定手段は、前記取得された商品識別コードの個数と、前記取得された商品の個数とが一致するか否かを判定する、
    請求項1から4のいずれか1項に記載の情報処理装置。
  6. 前記商品識別コードには、当該商品識別コードの商品の重量または重量偏差が更に紐付けられており、
    前記判定手段は、前記取得された商品識別コードに紐付けられた前記重量が基準値以下の場合、前記取得された商品識別コードに紐付けられた前記重量が未設定の場合、または、前記取得された商品識別コードに紐付けられた前記重量偏差が所定の閾値以上である場合、の少なくともいずれか1つの場合に、前記判定を実行する、
    請求項1から5のいずれか1項に記載の情報処理装置。
  7. コンピュータが、
    精算対象の商品の商品識別コードを取得し、
    載置場所に載置された、前記商品識別コードを取得した前記精算対象の商品をなくとも像範囲に含み、前記撮像範囲に含まれる商品の奥行方向の距離を示す奥行情報が対応付けられた画像を用いて、前記画像内の商品の大きさ又は形状を認識し、
    前記取得された商品識別コードに紐付けられた大きさ/形状情報を取得し、
    前記画像から認識された前記商品の大きさ又は形状と、前記商品識別コードを用いて取得された大きさ/形状情報とが、所定の基準を満たしているか否かを判定する、
    ことを含む情報処理方法。
  8. コンピュータを、
    精算対象の商品の商品識別コードを取得するコード取得手段、
    載置場所に載置された、前記商品識別コードを取得した前記精算対象の商品をなくとも像範囲に含み、前記撮像範囲に含まれる商品の奥行方向の距離を示す奥行情報が対応付けられた画像を用いて、前記画像内の商品の大きさ又は形状を認識する画像認識手段、
    前記取得された商品識別コードに紐付けられた大きさ/形状情報を取得する大きさ/形状情報取得手段、
    前記画像から認識された前記商品の大きさ又は形状と、前記商品識別コードを用いて取得された大きさ/形状情報とが、所定の基準を満たしているか否かを判定する判定手段、
    として機能させるためのプログラム。
JP2015072039A 2015-03-31 2015-03-31 情報処理装置、情報処理方法、およびプログラム Active JP6651705B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2015072039A JP6651705B2 (ja) 2015-03-31 2015-03-31 情報処理装置、情報処理方法、およびプログラム
US15/562,210 US10490032B2 (en) 2015-03-31 2016-03-23 Product registration apparatus for determining a correct product, control method, and program
CN201680020276.3A CN107533782A (zh) 2015-03-31 2016-03-23 商品登记装置、控制方法和程序
PCT/JP2016/059097 WO2016158595A1 (ja) 2015-03-31 2016-03-23 商品登録装置、制御方法、およびプログラム
HK18105589.6A HK1246485A1 (zh) 2015-03-31 2018-04-30 商品登記裝置、控制方法和程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015072039A JP6651705B2 (ja) 2015-03-31 2015-03-31 情報処理装置、情報処理方法、およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020008978A Division JP6841352B2 (ja) 2020-01-23 2020-01-23 商品登録装置、制御方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2016192091A JP2016192091A (ja) 2016-11-10
JP6651705B2 true JP6651705B2 (ja) 2020-02-19

Family

ID=57005072

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015072039A Active JP6651705B2 (ja) 2015-03-31 2015-03-31 情報処理装置、情報処理方法、およびプログラム

Country Status (5)

Country Link
US (1) US10490032B2 (ja)
JP (1) JP6651705B2 (ja)
CN (1) CN107533782A (ja)
HK (1) HK1246485A1 (ja)
WO (1) WO2016158595A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9747512B2 (en) * 2015-06-25 2017-08-29 Toshiba Tec Kabushiki Kaisha Article recognition apparatus and image processing method for article recognition apparatus
CN108369451B (zh) * 2015-12-18 2021-10-29 索尼公司 信息处理装置、信息处理方法及计算机可读存储介质
CN107862775B (zh) * 2017-11-29 2020-07-10 深圳易伙科技有限责任公司 一种基于人工智能的超市商品防盗预警系统及方法
CN108109293B (zh) * 2018-01-03 2021-01-29 深圳正品创想科技有限公司 一种商品防盗结算方法、装置及电子设备
CN108492483A (zh) * 2018-02-08 2018-09-04 东莞市藕丝人工智能科技有限公司 一种基于rfid和图像识别技术相结合的餐饮行业结算方法
JP7218984B2 (ja) * 2018-04-27 2023-02-07 日本電気株式会社 商品登録装置、商品登録方法及びプログラム
CN108806132A (zh) * 2018-05-25 2018-11-13 合肥达户电线电缆科技有限公司 一种散装物品节能自动识别称重结算方法及系统
CN109117828A (zh) * 2018-09-05 2019-01-01 深圳正品创想科技有限公司 一种商品重放检测方法及其装置、电子设备
US11055659B2 (en) * 2018-09-21 2021-07-06 Beijing Jingdong Shangke Information Technology Co., Ltd. System and method for automatic product enrollment
JP2020052868A (ja) * 2018-09-28 2020-04-02 株式会社アスタリスク システム、及び機器
JP2020197994A (ja) * 2019-06-04 2020-12-10 東芝テック株式会社 情報処理装置及びその制御プログラム
JP7421385B2 (ja) 2020-03-19 2024-01-24 東芝テック株式会社 携帯端末、及びプログラム
JP7451320B2 (ja) * 2020-06-18 2024-03-18 京セラ株式会社 情報処理システム、情報処理装置、及び、情報処理方法
JP2022109011A (ja) * 2021-01-14 2022-07-27 東芝テック株式会社 不正行為認識装置及びその制御プログラム、不正行為認識方法
WO2023175767A1 (ja) * 2022-03-16 2023-09-21 日本電気株式会社 商品確認装置、商品確認方法、及び記録媒体
CN115965797B (zh) * 2022-12-27 2023-12-08 北京国电光宇机电设备有限公司 一种智能装配零部件自动识别方法及系统

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002216131A (ja) * 2001-01-15 2002-08-02 Sony Corp 画像照合装置及び画像照合方法、並びに記憶媒体
JP4874166B2 (ja) * 2006-06-20 2012-02-15 東芝テック株式会社 チェックアウト端末
US8239268B2 (en) 2006-06-20 2012-08-07 Toshiba Tec Kabushiki Kaisha Self-checkout terminal
JP2009163331A (ja) 2007-12-28 2009-07-23 Toshiba Tec Corp 商品販売データ処理装置及びコンピュータプログラム
JP5535508B2 (ja) * 2009-03-31 2014-07-02 Necインフロンティア株式会社 セルフpos装置及びその動作方法
CN201716009U (zh) * 2010-08-16 2011-01-19 长安大学 一种胎面花纹检测装置
JP5518918B2 (ja) 2012-02-29 2014-06-11 東芝テック株式会社 情報処理装置、店舗システム及びプログラム
JP5658720B2 (ja) * 2012-09-06 2015-01-28 東芝テック株式会社 情報処理装置及びプログラム
JP5707375B2 (ja) * 2012-11-05 2015-04-30 東芝テック株式会社 商品認識装置及び商品認識プログラム
CN103707908B (zh) * 2013-12-19 2016-08-17 深圳劲嘉集团股份有限公司 一种购物车、购物系统及其使用方法
CN203941580U (zh) * 2014-02-21 2014-11-12 陆卫先 一种自助购物系统
JP6008405B2 (ja) 2014-04-16 2016-10-19 Necプラットフォームズ株式会社 セルフpos装置及びその動作方法
CN104376655B (zh) * 2014-08-13 2017-05-24 郑志豪 一种智能购物车及其使用方法
CN104332003A (zh) * 2014-10-30 2015-02-04 成都英博联宇科技有限公司 一种带通信购物装置的购物篮
CN104361693B (zh) 2014-11-19 2017-07-28 深圳市中谷联创信息服务有限公司 一种智能商场自动结算系统
US9330474B1 (en) * 2014-12-23 2016-05-03 Ricoh Co., Ltd. Distinguishing between stock keeping units using a physical dimension of a region depicted in an image

Also Published As

Publication number Publication date
CN107533782A (zh) 2018-01-02
JP2016192091A (ja) 2016-11-10
WO2016158595A1 (ja) 2016-10-06
US10490032B2 (en) 2019-11-26
US20180114413A1 (en) 2018-04-26
HK1246485A1 (zh) 2018-09-07

Similar Documents

Publication Publication Date Title
JP6651705B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US10762486B2 (en) Information processing apparatus, information processing method, and non-transitory storage medium
WO2017085771A1 (ja) 精算支援システム、精算支援プログラム、及び精算支援方法
JP6686290B2 (ja) システム及び方法
JP2017010535A (ja) 物品認識装置および画像処理方法
US20150248578A1 (en) Methods and Apparatus for Determining Dimensions of an Item Using 3-Dimensional Triangulation
JP6318557B2 (ja) Pos端末装置、posシステム、画像処理方法及びプログラム
WO2015147333A1 (ja) 売上登録装置、プログラム及び売上登録方法
EP2897110A1 (en) Commodity reading apparatus, sales data processing apparatus having the same and method for recognizing commodity
US20170032349A1 (en) Information processing apparatus
JP2016066290A (ja) 商品陳列位置登録装置、通信システム及びプログラム
JP6841352B2 (ja) 商品登録装置、制御方法、およびプログラム
CN108320403B (zh) 商品识别装置及控制方法、终端设备
US20190139122A1 (en) Commodity-data processing apparatus, commodity-data processing system, and commodity-data processing program
CN112154488B (zh) 信息处理装置、控制方法和程序
JP7359254B2 (ja) 情報処理システム、及び情報処理方法
JP6565252B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP2016126515A (ja) オブジェクト認識スキャナシステム
EP3239912A1 (en) Management device and method
JP6569762B2 (ja) Pos端末装置、posシステム、画像処理方法及びプログラム
US20190328157A1 (en) Inspection system, information collection apparatus, inspection method, information collection method, and non-transitory storage medium
JP7318039B2 (ja) 画像処理装置、情報処理装置、システム及びプログラム
JP7322945B2 (ja) 処理装置、処理方法及びプログラム
JP7274644B2 (ja) 物品認識装置
JP7201020B2 (ja) 情報処理装置、システム、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190408

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190730

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200106

R150 Certificate of patent or registration of utility model

Ref document number: 6651705

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150