JP6801676B2 - 情報処理装置、情報処理方法、及び、プログラム - Google Patents

情報処理装置、情報処理方法、及び、プログラム Download PDF

Info

Publication number
JP6801676B2
JP6801676B2 JP2017562471A JP2017562471A JP6801676B2 JP 6801676 B2 JP6801676 B2 JP 6801676B2 JP 2017562471 A JP2017562471 A JP 2017562471A JP 2017562471 A JP2017562471 A JP 2017562471A JP 6801676 B2 JP6801676 B2 JP 6801676B2
Authority
JP
Japan
Prior art keywords
product
reading
image
product code
read
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017562471A
Other languages
English (en)
Other versions
JPWO2017126254A1 (ja
Inventor
金野 大
大 金野
岩元 浩太
浩太 岩元
松本 信一
信一 松本
善弘 伊藤
善弘 伊藤
晋哉 山崎
晋哉 山崎
可菜子 多賀
可菜子 多賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2017126254A1 publication Critical patent/JPWO2017126254A1/ja
Application granted granted Critical
Publication of JP6801676B2 publication Critical patent/JP6801676B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • G07G1/0045Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader
    • G07G1/0054Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47FSPECIAL FURNITURE, FITTINGS, OR ACCESSORIES FOR SHOPS, STOREHOUSES, BARS, RESTAURANTS OR THE LIKE; PAYING COUNTERS
    • A47F9/00Shop, bar, bank or like counters
    • A47F9/02Paying counters
    • A47F9/04Check-out counters, e.g. for self-service stores
    • A47F9/046Arrangement of recording means in or on check-out counters
    • A47F9/047Arrangement of recording means in or on check-out counters for recording self-service articles without cashier or assistant
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/208Input by product or record sensing, e.g. weighing or scanner processing
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • G07G1/0045Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader
    • G07G1/0054Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles
    • G07G1/0063Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles with means for detecting the geometric dimensions of the article of which the code is read, such as its size or height, for the verification of the registration
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/01Details for indicating

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Cash Registers Or Receiving Machines (AREA)

Description

本発明は、情報処理装置、情報処理方法、及び、プログラムに関する。
コンビニエンスストア、スーパー、その他の店舗等で、金銭登録機(例:POS(Point Of Sale)レジスター)が広く利用されている。従来、会計時における金銭登録機への対象商品の登録作業は、商品各々に付された商品コードを所定のリーダで読み取ったり、金銭登録機が備える操作対象(操作ボタン、タッチパネルディスプレイ装置等)を操作したりすることでなされていた。当該登録作業を効率化できる技術が求められている。関連技術が、特許文献1乃至3に開示されている。
特許文献1には、第1撮像手段と、認識手段と、決定手段とを有する情報処理装置が開示されている。第1撮像手段は、対象物が載置される載置台の載置面を異なる複数の撮像方向から撮像する。認識手段は、第1撮像手段による複数の撮像方向の各々で撮像された第1撮像画像の各々から、第1撮像画像に含まれた対象物を表す対象画像の特徴量を読み取り、予め記憶された各対象物の特徴量と比較することで、当該対象画像に対応する対象物を第1撮像画像毎に認識する。決定手段は、第1撮像画像毎での対象画像の認識結果に基づいて、載置台に載置された対象物の認識結果を決定する。当該発明において、各種情報は、ディスプレイ装置やプリンタを介して出力される。
特許文献2には、表示部と、枠線表示手段と、修正受付手段と、枠線修正手段と、商品認識手段と、出力手段とを有する商品読み取り装置が開示されている。表示部は、撮像手段で撮像された画像を表示する。枠線表示手段は、表示部に表示される画像に、その画像に含まれる商品を囲うための枠線を表示させる。修正受付手段は、枠線の修正指示を受付ける。枠線修正手段は、修正指示に従い、画面上の枠線を修正する。商品認識手段は、枠線内の画像に含まれる商品を認識する。出力手段は、商品認識手段により認識された商品の情報を出力する。当該発明においても、各種情報は、ディスプレイ装置やプリンタを介して出力される。
特許文献3には、商品を搬送するベルトコンベア、動作を開始するスタートボタン、作業を指示するディスプレイ装置、商品の高さを計測する高さ計測装置、商品を撮像する撮像装置、高さ計測装置及び撮像装置が商品を検出すると計数する第1のカウンタ、焦点距離等を可変し通過する商品からバーコードを読取ってデコードするバーコードスキャナ、登録処理済みの商品数を計数する第2のカウンタ、撮像装置からの画像を処理して商品の位置、大きさ等を判定し、スキャナの商品データに基づいて登録処理を行い、かつ終了ボタンの操作後、第1、第2のカウンタの計数値が一致したとき登録完了を判断するPOS端末を含む装置が開示されている。当該発明においても、各種情報は、ディスプレイ装置やプリンタを介して出力される。
特開2013−54673号公報 特開2013−175890号公報 特開平7−320146号公報
近年、商品各々に付された商品コードに、商品識別情報のみならず、品質保持期限やロットナンバー等の付属情報を含める技術が利用されている。
複数の商品各々に付された商品コードを所定のリーダで読み取ることで登録作業がなさる場合、会計装置は、会計処理時にこれら付属情報を取得することができる。そして、付属情報の内容に応じて、所定の処理を実行することができる。例えば、品質保持期限が切れている商品や、販売が制限されているロットナンバーの商品等が販売されようとしている場合、アラームを出力等できる。結果、このような商品の販売を未然に回避することができる。
しかし、複数の商品各々に付された商品コードを所定のリーダで読み取ることで行われる登録作業は、作業効率の改善余地がある。
これに対し、特許文献1乃至3に開示のように、各商品の外観の特徴を用いた画像認識処理を利用して商品登録を行うことにより、登録作業の効率化が期待される。
しかし、画像認識処理を利用した登録作業の場合、会計装置は、会計処理時に商品識別情報を取得できるに過ぎず、品質保持期限やロットナンバー等の付属情報を取得することはできない。このため、会計装置は、上述のような付属情報の内容に応じた処理の実行を会計処理時に実行できない。また、画像認識処理を利用した登録作業の場合、外観が似ている異なる商品を誤認識する恐れもある。
本発明は、上記問題を解決する手段を提供することを課題とする。
本発明によれば、
画像のデータを取得する画像データ取得手段と、
前記画像のデータを用いて、前記画像内の商品を認識する商品認識手段と、
前記商品認識手段により認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段と、
前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段と、
前記画像内から前記商品コードを抽出できない場合、及び/又は前記画像内から抽出された前記商品コードを読み取れない場合、前記商品を載置する載置台に、前記商品の載置方法の案内に関する情報を出力する出力手段と、
を有する情報処理装置が提供される。
また、本発明によれば、
コンピュータが、
画像のデータを取得する画像データ取得工程と、
前記画像のデータを用いて、前記画像内の商品を認識する商品認識工程と、
前記商品認識工程で認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認工程と、
前記読取要否確認工程で抽出された前記商品の前記商品コードを読み取る読取工程と、
前記画像内から前記商品コードを抽出できない場合、及び/又は前記画像内から抽出された前記商品コードを読み取れない場合、前記商品を載置する載置台に、前記商品の載置方法の案内に関する情報を出力する出力工程と、
を実行する情報処理方法が提供される。
また、本発明によれば、
コンピュータを、
画像のデータを取得する画像データ取得手段、
前記画像のデータを用いて、前記画像内の商品を認識する商品認識手段、
前記商品認識手段により認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段、
前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段、
前記画像内から前記商品コードを抽出できない場合、及び/又は前記画像内から抽出された前記商品コードを読み取れない場合、前記商品を載置する載置台に、前記商品の載置方法の案内に関する情報を出力する出力手段、
として機能させるプログラムが提供される。
本発明によれば、画像認識処理を利用して商品登録を行う技術において、従来にない新たな技術が実現される。
上述した目的、およびその他の目的、特徴および利点は、以下に述べる好適な実施の形態、およびそれに付随する以下の図面によってさらに明らかになる。
本実施形態の装置のハードウエア構成の一例を概念的に示す図である。 本実施形態の会計装置の適用例を説明するための図である。 本実施形態の会計装置の機能ブロック図の一例である。 本実施形態の特徴量記憶部に登録される情報の一例を模式的に示す図である。 本実施形態の商品情報記憶部に登録される情報の一例を模式的に示す図である。 本実施形態の会計装置の処理の流れの一例を示すフローチャートである。 本実施形態の出力部により投影される像の一例を説明するための図である。 本実施形態の会計装置の機能ブロック図の一例である。 本実施形態の出力部により投影される像の一例を説明するための図である。 本実施形態の出力部により投影される像の一例を説明するための図である。 本実施形態の会計装置の処理の流れの一例を示すフローチャートである。 本実施形態の会計装置の適用例を説明するための図である。
まず、本実施形態(第1乃至第3の実施形態)の会計装置(情報処理装置)のハードウエア構成の一例について説明する。会計装置の各機能構成部は、各機能構成部を実現するハードウエア(例:ハードワイヤードされた電子回路など)で実現されてもよいし、ハードウエアとソフトウエアとの組み合わせ(例:電子回路とそれを制御するプログラムの組み合わせなど)で実現されてもよい。
図1は、本実施形態の会計装置のハードウエア構成を例示する図である。当該ハードウエア構成は、レジ端末用途に設計された専用装置を用いて実現されてもよいし、PC(Personal Computer)や携帯端末などの汎用装置を用いて実現されてもよい。
計算機200は、バス202、プロセッサ204、メモリ206、ストレージ208、入出力インタフェース210、及びネットワークインタフェース212を有する。バス202は、プロセッサ204、メモリ206、ストレージ208、入出力インタフェース210、及びネットワークインタフェース212が、相互にデータを送受信するためのデータ伝送路である。ただし、プロセッサ204などを互いに接続する方法は、バス接続に限定されない。プロセッサ204は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)などの演算処理装置である。メモリ206は、RAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。ストレージ208は、ハードディスク、SSD(Solid State Drive)、又はメモリカードなどの記憶装置である。また、ストレージ208は、RAMやROMなどのメモリであってもよい。
入出力インタフェース210は、計算機200と入出力デバイスとを接続するためのインタフェースである。例えば入出力インタフェース210には、タッチパネルディスプレイ装置214、ドロア216、釣り銭機218、プリンタ220、撮像装置230及びプロジェクタ240などが接続される。タッチパネルディスプレイ装置214は、例えば商品の金額を手動で入力するために利用される。また、タッチパネルディスプレイ装置214は、精算対象として登録された商品に関する情報など、種々の情報を表示する。ドロア216は硬貨や紙幣を格納する。釣り銭機218は、代金を投入するための投入口と、釣り銭を排出するための排出口を有する。プリンタ220はレシート等の発行を行う。撮像装置230は静止画像及び/又は動画像を撮影する。プロジェクタ240は所定の像を投影する。なお計算機200には、キーボードなど、タッチパネルディスプレイ装置214以外の入力インタフェースが接続されていてもよい。
ネットワークインタフェース212は、計算機200を外部の装置と通信可能に接続するためのインタフェースである。ネットワークインタフェース212は、有線回線と接続するためのネットワークインタフェースでもよいし、無線回線と接続するためのネットワークインタフェースでもよい。例えば会計装置を実現する計算機200は、ネットワークを介して、店舗に設置された種々の装置を管理する店舗サーバなどと接続されている。
ストレージ208は会計装置の各機能(各機能部)を実現するプログラムモジュールを記憶している。プロセッサ204は、これら各プログラムモジュールを実行することで、そのプログラムモジュールに対応する各機能を実現する。ここでプロセッサ204は、上記各モジュールを実行する際、これらのモジュールをメモリ206上に読み出してから実行してもよいし、メモリ206上に読み出さずに実行してもよい。
会計装置のハードウエア構成は図1に示した構成に限定されない。例えば、各プログラムモジュールはメモリ206に格納されてもよい。この場合、計算機200は、ストレージ208を備えていなくてもよい。また計算機200は、必ずしもネットワークを介して他の装置と通信可能に接続される必要はない。よって計算機200はネットワークインタフェース212を有さなくてもよい。また会計装置が代金の支払いの処理に利用されない場合、会計装置はドロア216、釣り銭機218、及びプリンタ220を有さなくてもよい。また、会計装置は撮像装置230が撮影した画像を取得できればよく、撮像装置230自体を有さなくてもよい。この場合、会計装置は撮像装置230と通信可能に構成され、撮像装置230から画像データを取得する。また、会計装置はプロジェクタ240を有さなくてもよい。
以下、本実施の形態について説明する。なお、以下の実施形態の説明において利用する機能ブロック図は、ハードウエア単位の構成ではなく、機能単位のブロックを示している。これらの図においては、各装置は1つの機器により実現されるよう記載されているが、その実現手段はこれに限定されない。すなわち、物理的に分かれた構成であっても、論理的に分かれた構成であっても構わない。なお、同一の構成要素には同一の符号を付し、適宜説明を省略する。
<第1の実施形態>
まず、本実施形態の会計装置の概要について説明する。本実施形態の会計装置は、画像認識処理を用いて、商品登録を行うことができる。すなわち、会計装置は、精算対象の商品が載置される載置台の載置面を含むように撮像された画像のデータを解析し、画像に写る1つ又は複数の商品を認識する。当該認識においては、各商品の外観の特徴を用いる。そして、会計装置は、認識した1つ又は複数の商品を、精算対象の商品として登録する。
また、会計装置は、認識した商品の中から、商品コードの読み取りが必要な商品を抽出する。商品コードは、商品ID(identifier)が分かる情報を含み、例えばJANコード等のバーコードが挙げられる。例えば、品質保持期限の確認が必要な商品や、賞味期限の確認が必要な商品、消費期限の確認が必要な商品、同種容量違いの商品群等が、商品コードの読み取りが必要な商品となる。その後、会計装置は、抽出した商品の商品コードを画像の中から抽出し、抽出した商品コードを読み取る。
このように、本実施形態の会計装置は、画像認識処理を用いて商品登録を行う。そして、画像認識処理での認識結果に基づき、商品コードの読み取りが必要な商品を抽出し、抽出した商品に対してのみ、商品コードを読み取る処理を実行する。
次に、図2を用いて、本実施形態の会計装置の適用例を説明する。会計装置は、登録装置1、処理装置4を有する。会計装置は、さらに、撮像装置3を有してもよい。なお、図において、登録装置1及び処理装置4を分けて記載しているが、これらの装置は、物理的及び/又は論理的に一体になって構成されてもよい。また、撮像装置3及び処理装置4を分けて記載しているが、これらの装置は、物理的及び/又は論理的に一体になって構成されてもよい。
図1のハードウエア構成は、登録装置1及び処理装置4が論理的に一体となって構成される例を示す。登録装置1及び処理装置4が図1に示す計算機200を備える。そして、登録装置1が図1に示すタッチパネルディスプレイ装置214、ドロア216、釣り銭機218及びプリンタ220を備える。そして、撮像装置3が図1に示す撮像装置230に対応する。
撮像装置3は処理装置4と繋がり、通信可能になっている。また、登録装置1は処理装置4と繋がり、通信可能になっている。通信規格は設計的事項である。有線及び無線いずれで通信を行ってもよい。
撮像装置3は、動画像及び/又は静止画像を撮像する機能を有する。撮像装置3は、動画像のデータを継続的に撮像してもよい。その他、撮像装置3は、間欠的(周期的も含む)に静止画像を撮像してもよい。この場合、撮像装置3は、予め定められた所定のタイミング(例:作業者からの指示があったタイミング)で撮像を行うことができる。
撮像装置3は、例えば、載置台2の載置面を含んで撮像するよう、所定位置に設置される。設置位置は設計的事項である。例えば、撮像装置3は、載置台2の載置面の真上や斜め上方に設置され、当該方向から載置面を撮像してもよい。その他、撮像装置3は、載置台2の載置面上に設置され、横方向から載置面を撮像してもよい。図では、載置面に4つの撮像装置3が設置され、四方から載置面の所定領域を撮像している。その他、載置台2を透明の部材、及び/又は、透過性を有する半透明の部材を含んで構成し、図示するように載置台2の下方に撮像装置3を設置してもよい。この場合、撮像装置3は、載置台2の下側から、載置面を撮像する。
その他、登録作業を行う作業者に撮像装置3が設置されてもよい。例えば、作業者が装着する帽子、眼鏡等に、撮像装置3が設置されてもよい。この場合、作業者の視線の先を撮像するように、撮像装置3の向きなどを調整するのが好ましい。
なお、図では6つの撮像装置3が設置されているが、その数や設置位置は設計的事項である。図示する撮像装置3の一部が設置されてなくてもよいし、さらに多くの撮像装置3が設置されてもよい。
処理装置4は、撮像装置3から画像データを取得する。そして、処理装置4は、画像解析を行い、画像に含まれる商品6を認識する。当該認識においては、各商品6の外観の特徴を用いる。その後、処理装置4は、認識結果を登録装置1に送信する。
また、処理装置4は、認識した商品6の中から、商品コードの読み取りが必要な商品6を抽出する。そして、抽出した商品6の商品コードを画像の中から検索し、検索した商品コードを読み取る。その後、処理装置4は、読み取った内容に応じた所定の処理を実行する。
登録装置1は、精算対象の商品6を登録する機能を有する。登録装置1は、処理装置4から受信した情報を用いて、精算対象の商品6を登録する。
図示する登録装置1は、ディスプレイ装置101、ディスプレイ装置102、コードリーダ103、操作ボタン104及びドロア105を有する。
ディスプレイ装置101は、載置台2よりも手前側(商品登録の作業者側)に向いており、主に、登録作業を行う作業者が視認する。ディスプレイ装置101には、会計処理に関する情報や、警告等が表示される。ディスプレイ装置101は、タッチパネルディスプレイ装置であってもよい。
ディスプレイ装置102は、載置台2よりも向こう側(顧客側)に向いており、主に、買い物客が視認する。ディスプレイ装置102には、会計処理に関する情報や、広告等が表示される。ディスプレイ装置102は、タッチパネルディスプレイ装置であってもよい。
コードリーダ103は、各商品6に付された商品コード(1次元コード、2次元コード等)を読み取る。複数の操作ボタン104の各々は、各種商品、数字、各種機能(例:小計等)に対応しており、各々の入力に用いられる。なお、上述の通り、本実施形態では、画像認識処理を用いて、商品登録を行うことができる。このため、コードリーダ103や操作ボタン104は、補助的に用いられる。ドロア105には、お金や金券等が収納される。
なお、登録装置1は、少なくとも精算対象の商品6を登録する機能を備えておればよく、図示する機能の少なくとも一部を備えなくてもよい。
また、図示する登録装置1は、店員に操作されることを前提にした構成となっているが、買い物客に操作されることを前提とした構成となってもよい。
次に、本実施形態の会計装置の構成を詳細に説明する。図3に、本実施形態の会計装置10の機能ブロック図の一例を示す。図示するように、会計装置10は、画像データ取得部11と、画像解析部12と、特徴量記憶部14、読取要否確認部15と、読取対象記憶部16と、読取部17とを有する。図示しないが、会計装置10は、さらに登録部13を有してもよい。
なお、会計装置10は、特徴量記憶部14を有さなくてもよい。この場合、会計装置10と論理的に分かれた他の装置が、特徴量記憶部14を備える。そして、会計装置10は、当該他の装置と通信し、特徴量記憶部14に記憶された情報を取得可能に構成される。
また、会計装置10は、読取対象記憶部16を有さなくてもよい。この場合、会計装置10と論理的に分かれた他の装置が、読取対象記憶部16を備える。そして、会計装置10は、当該他の装置と通信し、読取対象記憶部16に記憶された情報を取得可能に構成される。
上述の通り、会計装置10は、図2に示す登録装置1及び処理装置4を有する。画像データ取得部11は、処理装置4により実現される。画像解析部12は、処理装置4により実現される。登録部13は、登録装置1により実現される。特徴量記憶部14は、処理装置4により実現されてもよい。読取要否確認部15は、処理装置4により実現される。読取対象記憶部16は、処理装置4により実現されてもよい。読取部17は、処理装置4により実現される。
画像データ取得部11は、精算対象の商品が載置される載置台の載置面を含むように撮像された画像のデータを取得する。画像データ取得部11は、図2を用いて説明した撮像装置3が撮像した画像データをリアルタイムに取得する。
画像解析部12は、画像データ取得部11が取得した画像のデータを用いて、画像に写る1つ又は複数の商品を認識する(認識処理)。画像解析部12は、フレーム毎に認識処理を行い、各フレーム内で1つ又は複数の商品を認識することができる。
画像解析部12は、当該認識処理において、複数の商品各々の外観の特徴量が予め登録されている特徴量記憶部14を用いる。図4に、特徴量記憶部14が記憶する情報の一例を模式的に示す。図示する例では、複数の商品各々を識別するための商品IDと、複数の商品各々の外観の特徴量とが対応付けられている。特徴量は、形状、色、色の分布等を例示できるが、これらに限定されない。特徴量記憶部14には、各商品に対応して、複数の方向各々から観察した際の複数の外観各々の特徴量が記憶されてもよい。
特徴量記憶部14及び画像データを用いた画像解析部12による商品認識のアルゴリズムは設計的事項であり、あらゆる技術を採用できる。例えば、特許文献1乃至3に開示されている技術を採用してもよい。
登録部13は、画像解析部12により認識された1つ又は複数の商品を、精算対象の商品として登録する。例えば、登録部13は、複数の商品各々の商品情報が予め登録されている商品情報記憶部(不図示)を用いて、商品登録を行ってもよい。
図5に、商品情報記憶部に記憶される商品情報の一例を模式的に示す。図示する商品情報では、商品IDと、各商品の名称と、価格とが互いに対応付けられている。なお、商品情報は、これらの一部を有さなくてもよいし、他の情報を有してもよい。
会計装置10が、このような商品情報記憶部を備えてもよい。その他、会計装置10と論理的に分かれた他の装置が、商品情報記憶部を備えてもよい。後者の場合、会計装置10は、当該他の装置と通信し、商品情報記憶部に記憶された商品情報を取得可能に構成される。
例えば、登録部13は、画像解析部12により認識された1つ又は複数の商品の商品IDをキーとして商品情報記憶部を検索し、キーに対応する商品情報(例:名称、価格等)を取得する。そして、登録部13は、取得した商品情報を登録する。
図3に戻り、読取要否確認部15は、読取対象記憶部16を用いて、画像解析部12により認識された商品の中から商品コードの読み取りが必要な商品を抽出する。
読取対象記憶部16には、商品各々に対応する商品コードの読み取りが必要な商品(例:商品ID)が予め登録されている。以下、読取対象記憶部16に登録される商品の一例を説明する。
例えば、販売前に、商品コードに含まれる付属情報(例:梱包番号、重量、ロットナンバー、入り数、製造日、品質保持期限、消費期限、賞味期限、出荷先、発注番号等)の確認が必要な商品が、読取対象記憶部16に登録されてもよい
商品に不具合などが見つかり、所定のロットナンバー(所定の梱包番号や所定の発注番号等であってもよい)の商品の販売が制限されている場合、販売前に、各商品の当該付属情報を確認することが望ましい。例えばこのような理由で、販売前に、付属情報の確認が必要となる。
その他、商品に品質保持期限、消費期限、賞味期限等がある場合、販売前に、これらの期限が切れていないか確認することが望ましい。例えばこのような理由で、販売前に、付属情報の確認が必要となる。
その他、画像解析部12による商品認識処理において、他の商品と誤認識される可能性が所定レベル以上である商品が、読取対象記憶部16に登録されてもよい。
外観の特徴が所定レベル以上類似するが互いに異なる商品群においては、画像解析部12による商品認識処理において、他の商品と誤認識される可能性がある。このような商品群としては、例えば、同種容量違いの商品群が挙げられる。より具体的には、「350mlのジュースAと500mlのジュースA」、「90gの菓子Bと210gの菓子B」等である。同種容量違いの商品群は、パッケージデザインがほとんど同じであり、大きさや、文字情報等のみが異なるという場合がある。
読取要否確認部15は、画像解析部12により認識された商品の商品IDをキーとして読取対象記憶部16を検索することで、画像解析部12により認識された商品の中から商品コードの読み取りが必要な商品を抽出する。
読取要否確認部15により、商品コードの読み取りが必要な商品(商品ID)が抽出された場合、上述した画像解析部12は、画像を解析し、当該商品の商品コードを抽出する処理を実行する。例えば、画像解析部12は、商品コードの読み取りが必要な商品が写る画像内のエリアを検索し、そこから商品コードを抽出する。画像解析部12は予め商品コードの外観の特徴量を保持しており、当該特徴を画像内で検索することで、商品コードの抽出を実現することができる。
なお、図2に示すように、複数の撮像装置3で複数の方向から載置面を撮像している場合、画像データ取得部11は、複数の方向から載置面を含むように撮像された複数方向からの画像のデータを取得することができる。そして、画像解析部12は、複数の方向からの画像のデータを解析し、上記商品コードの抽出を行うことができる。ある方向からの画像に商品コードが写っていないが、他の方向からの画像に商品コードが写っている可能性がある。このため、複数の方向からの画像のデータを解析することで、所定の商品の商品コードを抽出できる確率が高まる。
ところで、第1の撮像装置3で撮像した第1の画像内で認識した第1の商品6の商品コードを、第2の撮像装置3で撮像した第2の画像内で検索する場合、まず、第2の画像内で上記第1の商品6を特定する必要がある。当該特定手段は設計的事項であるが、以下一例を説明する。
例えば、画像解析部12に、予め、第1の画像に写る載置面上の任意の点の画像内の座標を、第2の画像に写る載置面上の上記任意の点の画像内の座標に変換するための変換ルール(例:行列等で構成された変換式等)が記憶されていてもよい。そして、画像解析部12は、当該変換ルールを用いて、第1の画像において画像内の所定座標に写る第1の商品6(載置面に載置されている)が第2の画像内のどの座標に写っているか算出してもよい。そして、画像解析部12は、算出した第2の画像内の座標に写っている商品を、第1の商品6として特定してもよい。
その他、画像解析部12は、第1の画像内で認識した第1の商品6の外観の特徴量をキーとして第2の画像を検索することで、第2の画像内で第1の商品6を特定してもよい。
読取部17は、画像解析部12が画像から抽出した商品コードを読み取る。結果、読取部17は、商品コードが示す商品IDに加えて、梱包番号、重量、ロットナンバー、入り数、製造日、品質保持期限、賞味期限、消費期限、出荷先、発注番号等の付属情報を取得することができる。なお、商品コードが上記付属情報を直接示していてもよい。この場合、商品コードを読み取り、解析することで、読取部17は、上記付属情報を取得する。その他、読取部17は、商品コードを読み取り、解析することで、商品IDを取得してもよい。そして、読取部17は、取得した商品IDをキーとして、商品IDと付属情報とを対応付けて記憶するデータベースを検索することで、付属情報を取得してもよい。
その後、会計装置10は、読取部17が取得した情報に基づき、所定の確認処理を行うことができる。
例えば、会計装置10は、商品コードの読み取りで得られた付属情報(例:梱包番号、ロットナンバー、発注番号等)の内容が、商品の販売を制限されている商品の付属情報(予め登録されている)に一致しないか確認してもよい。一致しない場合、会計装置10は、そのまま会計処理を継続する。一方、一致する場合、会計装置10は、その旨を示す警告を出力する。警告は、販売を制限されている商品(精算対象に含まれているもの)を特定する情報、及び、当該商品は販売が制限されていることを示す情報が含まれる。警告の出力は、図2に示すディスプレイ装置101やディスプレイ装置102を介してなされてもよい。
その他、会計装置10は、その時点の日時情報と、商品コードの読み取りで得られた品質保持期限(又は、賞味期限や消費期限)とを比較することで、品質保持期限(又は、賞味期限や消費期限)が切れていないか確認してもよい。切れていない場合、会計装置10は、そのまま会計処理を継続する。一方、切れている場合、会計装置10は、その旨を示す警告を出力する。警告は、品質保持期限(又は、賞味期限や消費期限)が切れている商品を特定する情報、及び、当該商品は販売が制限されていることを示す情報が含まれる。警告の出力は、図2に示すディスプレイ装置101やディスプレイ装置102を介してなされてもよい。
その他、会計装置10は、商品コードの読み取りで得られた商品IDと、画像解析部12により認識され、かつ、商品コードの読み取りが必要として抽出された商品の商品IDとを比較することで、画像解析部12による誤認識がないか確認してもよい。一致している場合、会計装置10は、そのまま会計処理を継続する。一方、一致しない場合、登録部13による登録内容を、画像解析部12による認識結果に基づく商品IDから、商品コードの読み取りで得られた商品IDに変更する。
次に、図6のフローチャート、及び、図2を用いて、本実施形態の会計装置10の処理の流れの一例を説明する。
まず、買い物客は、店内を回り、購入対象の商品6を買物カゴ5に入れていく。その後、会計処理のため、会計装置10の場所に移動する。
登録作業を行う店員は、図2に示すように、買物カゴ5に入っていた商品6を、載置台2の載置面上の所定位置に載置する。これにより、撮像装置3が撮像する撮像画像内に、商品6が写るようになる。
すると、画像データ取得部11(処理装置4)は、撮像装置3から画像のデータを取得する(S10)。
その後、画像解析部12(処理装置4)は、当該画像のデータを解析し、画像に写る商品6を認識する。そして、認識結果を、登録装置1に送信する。
登録部13(登録装置1)は、認識結果を受信すると、認識された商品6を精算対象の商品6として登録する。
また、読取要否確認部15(処理装置4)は、S11で認識された商品6の中から、商品コードの読み取りが必要な商品6を抽出する(S13)。S13で抽出された場合、画像解析部12(処理装置4)は、S10で取得された画像のデータを解析し、商品コードの読み取りが必要な商品6が写る画像内のエリアから商品コードを抽出する(S14)。
その後、読取部17は、S14で抽出された商品コードを読み取る(S15)。これにより、商品コードの読み取りが必要な商品6の商品IDや付属情報が商品コードから取得される。その後、会計装置10は、読取部17が取得した情報に基づき、所定の確認処理を行うことができる。所定の確認処理の詳細は、上述の通りである。
購入対象の商品6すべての登録作業が完了すると、店員は、登録装置1を操作するなどして、精算処理や支払処理等を行う。
例えば、店員は、操作ボタン104に対して所定の操作(例:「小計」ボタンの押下)を行い、登録作業を完了させる。そして、店員は、ディスプレイ装置101に表示されている購入金額合計を確認し、買い物客に伝える。その後、店員は、買い物客から支払金等を受けとる。
次いで、店員は、操作ボタン104に対して所定の操作を行い、受け取った支払金を入力などする。すると、ディスプレイ装置101に釣銭金額が表示され、ドロア105が開く。店員は、ドロア105に支払金を収納するとともに、ドロア105から釣銭を取り出す。そして、店員は、取り出した釣銭を買い物客に渡す。
なお、上記精算処理や支払処理等の流れはあくまで一例であり、登録装置1の構成に応じて流れは異なる。
以上説明した本実施形態の会計装置10は、画像認識処理を用いて、商品登録を行うことができる。このため、商品登録の作業の効率化が実現される。
また、本実施形態の会計装置10は、認識した商品の中から、商品コードの読み取りが必要な商品を抽出することができる。そして、抽出した商品の商品コードを画像の中から抽出し、抽出した商品コードを読み取ることができる。このように、本実施形態の会計装置10は、すべての商品に対して商品コードの読み取りを行うのでなく、商品コードの読み取りが必要として抽出された商品に対してのみ、商品コードの読み取りを行うことができる。かかる場合、すべての商品に対して商品コードの読み取りを行う場合に比べて、作業の効率化が実現される。
また、本実施形態の会計装置10は、必要な商品に対しては商品コードの読み取りを行うので、販売時に、ロットナンバー等の付属情報の確認や、品質保持期限、賞味期限、消費期限等の確認等を行うことができる。結果、販売することが好ましくない商品の販売を未然に回避できる。
また、本実施形態によれば、画像解析部12による商品認識処理において他の商品と誤認識される可能性が所定レベル以上ある商品に対して、商品コードの読み取りを行うことができる。そして、読み取った内容と画像解析部12による認識結果とを照合し、照合結果を商品登録に反映させることができる。このため、画像解析部12の誤認識に起因した誤登録を回避できる。
また、本実施形態によれば、会計装置10が、認識された商品の中から商品コードの読み取りが必要な商品を抽出することができる。このため、作業者は、当該抽出作業を行う必要がない。結果、当該抽出作業による登録作業の効率の悪化を回避できる。
また、本実施形態の場合、所定の商品の商品コードの抽出は、画像内でその商品が写るエリア内を検索することで実現することができる。すなわち、画像全体を検索対象とするのでなく、一部のみを検索対象とすることができる。このため、商品コードの抽出処理に関するコンピュータの処理負担を軽減できる。また、処理に要する時間を短縮できる。
また、本実施形態の場合、複数の方向から載置面を撮像した複数の画像のデータを解析し、商品コードの抽出を行うことができる。このため、高確率で、商品コードの抽出が実現される。
<第2の実施形態>
本実施形態の会計装置10は、会計処理に関する像を載置台の載置面や商品上に投影する投影装置を含む。
図7を用いて、本実施形態の会計装置の適用例を説明する。会計装置は、登録装置1、処理装置4及び投影装置7を有する。会計装置は、さらに、撮像装置3を有してもよい。登録装置1及び撮像装置3の構成は、第1の実施形態と同様である。図7において、撮像装置3、処理装置4及び投影装置7を分けて記載しているが、これらの装置の少なくとも一部は、物理的及び/又は論理的に一体になって構成されてもよい。
投影装置7は、載置台2の載置面上及び/又は商品6上に、会計処理に関する像を投影する。投影装置7は、このような投影が実現可能な所定位置に設置される。設置位置は設計的事項である。例えば、投影装置7は、載置面の真上や斜め上方に設置され、当該方向から像を投影してもよい。その他、投影装置7は、載置面上に設置され、横方向から像を投影してもよい。その他、載置台2を透明の部材で構成し、載置台2の下方に投影装置7を設置してもよい。この場合、投影装置7は、載置台2の下側から、載置台2の載置面上に像を投影する。投影装置7が、図1に示すプロジェクタ240を備える。
処理装置4は、投影装置7を制御する。すなわち、処理装置4は、投影する像や投影する位置を示す制御情報を投影装置7に送信する。投影装置7は、当該制御情報に従い、所定の像を載置台2の載置面上や商品6上に投影する。処理装置4のその他の構成は、第1の実施形態と同様である。
図8に、本実施形態の会計装置10の機能ブロック図の一例を示す。図示するように、会計装置10は、画像データ取得部11と、画像解析部12と、登録部13と、特徴量記憶部14と、読取要否確認部15と、読取対象記憶部16と、読取部17と、出力部18とを有する。
なお、会計装置10は、特徴量記憶部14及び読取対象記憶部16の少なくとも一方を有さなくてもよい。有さない場合の前提は、第1の実施形態と同様である。
画像データ取得部11、画像解析部12、登録部13、特徴量記憶部14、読取要否確認部15、読取対象記憶部16及び読取部17の構成は、第1の実施形態と同様である。
出力部18は、登録装置1、処理装置4及び投影装置7等により実現される。出力部18は、所定の像を、載置台の載置面上及び/又は商品上に投影する。投影される像は、会計処理に関する情報を含み、文字、数字、記号、図形等のあらゆる形態で構成される。また、当該像は多数の色で構成されてもよい。また、当該像は、静止画像であってもよいし、動画像であってもよい。
例えば、出力部18は、「画像解析部12が画像内から商品コードを抽出できない場合」、及び/又は、「画像解析部12により画像内から商品コードが抽出されたが、読取部17が当該商品コードを読み取れない場合(例:画像が不鮮明)」、商品コードの読み取りが必要な商品の載置方法の案内情報を出力する(投影する)。
図7に、当該案内情報の一例を示す。図では、丸マークの像7−1で一の商品6を特定し、「商品コードを上向きに載置」との文字情報の像7−1で、載置方法を案内している。丸マークはあくまで一例であり、これに限定されない。
なお、出力部18は、例えば、以下のようにして、一の商品6に対応する像7−1を投影する位置を決定することができる。出力部18は、画像解析部12から「認識された商品6各々の画像内の位置情報(座標)」を取得する。そして、出力部18は、当該情報を用いて、一の商品6に対応する像7−1を投影する位置を決定する。
例えば、出力部18は、予め、画像内の座標を投影エリア内の座標に変換するための変換ルール(例:行列等で構成された変換式等)を保持しておく。そして、出力部18は、当該変換ルールに基づき、「画像解析部12に認識された商品各々の画像内の座標」を、投影エリア内の座標に変換する。そして、出力部18は、変換された投影エリア内の座標に基づき、像7−1を投影する位置を決定する。例えば、出力部18は、変換された投影エリア内の座標そのものを、像7−1を投影する位置としてもよい。その他、出力部18は、変換された投影エリア内の座標と所定の関係にある位置(例:右方向に所定の短い距離離れた位置)を、像7−1を投影する位置としてもよい。
なお、出力部18は、このような像に加えて/又は代えて、ディスプレイ装置101に当該情報を出力してもよい。
ところで、第1の実施形態では、販売対象の商品の中に、販売が制限されている商品や品質保持期限、賞味期限、消費期限等が切れている商品が含まれる場合、ディスプレイ装置101やディスプレイ装置102を介して警告が出力される例を示した。当該警告は、投影装置7を用いて所定の像として出力されてもよい。
例えば、図9に示すように、販売が制限されている商品6や品質保持期限、賞味期限、消費期限等が切れている商品6に対して、バツマークの像7−2が投影されてもよい。バツマークはあくまで一例であり、これに限定されない。当該像7−2の投影位置を決定する方法は、上記像7−1を投影する位置を決定する方法と同様にして実現できる。
以上説明した本実施形態によれば、第1の実施形態と同様な作用効果が実現される。
また、本実施形態によれば、投影装置を用いて、会計処理に関する像を載置台の載置面上や商品上に投影することができる。かかる場合、登録作業を行う作業者は、載置台の方を向いて所定の作業(例:載置台上に複数の商品が互いに重ならないように並べる、商品の特徴的な部分が撮像されるように各商品の載置の仕方(向き等)を調整する)を行いながら、載置台の載置面上や商品上に投影された像を視認することができる。結果、上記作業中に、当該像(情報)を見逃す不都合を軽減できる。
また、本実施形態によれば、所定の商品の商品コードの読み取り処理がうまくいかない場合、当該商品の載置方法の案内情報を出力することができる。読み取り処理がうまくいかない原因が商品の載置方法にある場合、当該案内情報により、当該不都合を解消できる可能性がある。
<第3の実施形態>
第1及び第2の実施形態では、商品コードの読み取りが必要な商品が含まれる場合、画像内からその商品の商品コードを抽出し、読み取り処理を行っていた。本実施形態では、商品コードの読み取りが必要な商品が含まれる場合、その旨を作業者に通知する。当該通知に応じて、作業者は、コードリーダ等を操作し、当該商品の商品コードを読み取らせることができる。
本実施形態の会計装置10の機能ブロック図の一例は、第2の実施形態と同様、図8で示される。図示するように、会計装置10は、画像データ取得部11と、画像解析部12と、登録部13と、特徴量記憶部14と、読取要否確認部15と、読取対象記憶部16と、読取部17と、出力部18とを有する。
なお、会計装置10は、特徴量記憶部14及び読取対象記憶部16の少なくとも一方を有さなくてもよい。有さない場合の前提は、第1及び第2の実施形態と同様である。
画像データ取得部11、画像解析部12、登録部13、特徴量記憶部14、読取要否確認部15、読取対象記憶部16及び読取部17の構成は、第1及び第2の実施形態と同様である。
出力部18は、所定の像を、載置台の載置面上及び/又は商品上に投影する。投影される像は、会計処理に関する情報を含み、文字、数字、記号、図形等のあらゆる形態で構成される。また、当該像は多数の色で構成されてもよい。また、当該像は、静止画像であってもよいし、動画像であってもよい。
例えば、出力部18は、商品コードの読み取りが必要な商品を特定する情報を出力する(投影する)。
図10に、当該情報の一例を示す。図では、四角マークの像7−3で、商品コードの読み取りが必要な商品6を特定している。四角マークはあくまで一例であり、これに限定されない。出力部18が、このような像7−3の投影位置を決定する方法は、第2の実施形態で説明した像7−1及び像7−2の投影位置を決定する方法と同様にして実現できる。
なお、出力部18は、このような像に加えて/又は代えて、ディスプレイ装置101に当該情報を出力してもよい。
次に、図11のフローチャートを用いて、本実施形態の会計装置10の処理の流れの一例を説明する。
まず、買い物客は、店内を回り、購入対象の商品6を買物カゴ5に入れていく。その後、会計処理のため、会計装置10の場所に移動する。
登録作業を行う店員は、図12に示すように、買物カゴ5に入っていた商品6を、載置台2の載置面上の所定位置に載置する。これにより、撮像装置3が撮像する撮像画像内に、商品6が写るようになる。
すると、画像データ取得部11(処理装置4)は、撮像装置3から画像のデータを取得する(S20)。
その後、画像解析部12(処理装置4)は、当該画像のデータを解析し、画像に写る商品6を認識する。そして、認識結果を、登録装置1に送信する。
登録部13(登録装置1)は、認識結果を受信すると、認識された商品6を精算対象の商品6として登録する。
また、読取要否確認部15(処理装置4)は、S21で認識された商品6の中に、商品コードの読み取りが必要な商品6が含まれていないか確認する(S23)。
含まれている場合、出力部18(処理装置4と、投影装置7及び/又は登録装置1)は、その商品6を特定する情報を出力する(S24)。例えば、図10に示すように、処理装置4及び投影装置7は、その商品を特定する像7−3を投影する。
これに応じて、作業者は、登録装置1のコードリーダ103(読取部17)を操作し、その商品の商品コードを読み取らせる。その後、会計装置10は、読取部17が取得した情報に基づき、所定の確認処理を行うことができる。所定の確認処理の詳細は、第1の実施形態で説明した通りである。
購入対象の商品6すべての登録作業が完了すると、店員は、登録装置1を操作するなどして、精算処理や支払処理等を行う。
例えば、店員は、操作ボタン104に対して所定の操作(例:「小計」ボタンの押下)を行い、登録作業を完了させる。そして、店員は、ディスプレイ装置101に表示されている購入金額合計を確認し、買い物客に伝える。その後、店員は、買い物客から支払金等を受けとる。
次いで、店員は、操作ボタン104に対して所定の操作を行い、受け取った支払金を入力などする。すると、ディスプレイ装置101に釣銭金額が表示され、ドロア105が開く。店員は、ドロア105に支払金を収納するとともに、ドロア105から釣銭を取り出す。そして、店員は、取り出した釣銭を買い物客に渡す。
なお、上記精算処理や支払処理等の流れはあくまで一例であり、登録装置1の構成に応じて流れは異なる。
以上説明した本実施形態によれば、第1及び第2の実施形態と同様な作用効果を実現できる。
また、本実施形態によれば、商品コードの読み取りが必要な商品が含まれる場合、その商品を特定する情報を出力することができる。これに応じて、作業者は、その商品のみに対して、商品コードの読み取り作業を行うことができる。かかる場合も、すべての商品に対して商品コードの読み取りを行う場合に比べて、作業の効率化が実現される。
また、本実施形態の場合、商品コードを撮像する必要がなく、各商品の6外観の特徴的な部分を撮影できればよい。このため、図10及び図12に示すように、設置する撮像装置3の数を減らすことができる。結果、システムのコストの抑制や、システムのメンテナンス負担の軽減などが実現される。
以下、参考形態の例を付記する。
1 画像のデータを取得する画像データ取得手段と、
特徴量記憶手段に登録されている複数の商品各々の外観の特徴量、及び、前記画像のデータを用いて、前記画像内の前記商品を認識する画像解析手段と、
前記商品各々に対応する商品コードの読み取りが必要な前記商品が予め登録されている読取対象記憶手段を用いて、前記画像解析手段により認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段と、
前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段と、
を有する情報処理装置。
2 1に記載の情報処理装置において、
前記画像解析手段は、前記商品コードの読み取りが必要な前記商品が写る前記画像内のエリアから前記商品コードを抽出し、
前記読取手段は、前記画像解析手段が抽出した前記画像内の前記商品コードを読み取る情報処理装置。
3 1又は2に記載の情報処理装置において、
前記画像データ取得手段は、複数の方向から前記載置面を含むように撮像された複数方向からの前記画像のデータを取得し、
前記画像解析手段は、前記複数方向からの前記画像のデータを解析し、前記商品コードの読み取りが必要な前記商品が写る前記画像内のエリアから前記商品コードを抽出する情報処理装置。
4 2又は3に記載の情報処理装置において、
前記画像解析手段が前記商品コードを抽出できない場合、及び/又は、前記読取手段が前記商品コードを読み取れない場合、前記商品コードの読み取りが必要な前記商品の載置方法の案内情報を出力する出力手段をさらに有する情報処理装置。
5 4に記載の情報処理装置において、
前記出力手段は、載置面上に、前記載置方法の案内に関する像を投影する情報処理装置。
6 1から5のいずれかに記載の情報処理装置において、
前記商品コードの読み取りが必要な前記商品を特定する情報を出力する出力手段をさらに有する情報処理装置。
7 6に記載の情報処理装置において、
前記出力手段は、載置面上又は前記商品上に、前記商品コードの読み取りが必要な前記商品を特定する像を投影する情報処理装置。
8 1から7のいずれかに記載の情報処理装置において、
前記読取対象記憶手段に、前記商品コードに含まれる付属情報の確認が必要な商品が登録されている情報処理装置。
9 1から7のいずれかに記載の情報処理装置において、
前記読取対象記憶手段に、同種容量違いの商品群が登録されている情報処理装置。
10 コンピュータが、
画像のデータを取得する画像データ取得工程と、
特徴量記憶手段に登録されている複数の商品各々の外観の特徴量、及び、前記画像のデータを用いて、前記画像内の前記商品を認識する画像解析工程と、
前記商品各々に対応する商品コードの読み取りが必要な前記商品が予め登録されている読取対象記憶手段を用いて、前記画像解析工程で認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認工程と、
前記読取要否確認工程で抽出された前記商品の前記商品コードを読み取る読取工程と、
を実行する情報処理方法。
10−2 10に記載の情報処理方法において、
前記画像解析工程では、前記商品コードの読み取りが必要な前記商品が写る前記画像内のエリアから前記商品コードを抽出し、
前記読取工程では、前記画像解析工程で抽出した前記画像内の前記商品コードを読み取る情報処理方法。
10−3 10又は10−2に記載の情報処理方法において、
前記画像データ取得工程では、複数の方向から前記載置面を含むように撮像された複数方向からの前記画像のデータを取得し、
前記画像解析工程では、前記複数方向からの前記画像のデータを解析し、前記商品コードの読み取りが必要な前記商品が写る前記画像内のエリアから前記商品コードを抽出する情報処理方法。
10−4 10−2又は10−3に記載の情報処理方法において、
前記コンピュータが、前記画像解析工程で前記商品コードを抽出できない場合、及び/又は、前記読取工程で前記商品コードを読み取れない場合、前記商品コードの読み取りが必要な前記商品の載置方法の案内情報を出力する出力工程をさらに実行する情報処理方法。
10−5 10−4に記載の情報処理方法において、
前記出力工程では、載置面上に、前記載置方法の案内に関する像を投影する情報処理方法。
10−6 10から10−5のいずれかに記載の情報処理方法において、
前記コンピュータが、前記商品コードの読み取りが必要な前記商品を特定する情報を出力する出力工程をさらに実行する情報処理方法。
10−7 10−6に記載の情報処理方法において、
前記出力工程では、載置面上又は前記商品上に、前記商品コードの読み取りが必要な前記商品を特定する像を投影する情報処理方法。
10−8 10から10−7のいずれかに記載の情報処理方法において、
前記読取対象記憶手段に、前記商品コードに含まれる付属情報の確認が必要な商品が登録されている情報処理方法。
10−9 10から10−7のいずれかに記載の情報処理方法において、
前記読取対象記憶手段に、同種容量違いの商品群が登録されている情報処理方法。
11 コンピュータを、
画像のデータを取得する画像データ取得手段、
特徴量記憶手段に登録されている複数の商品各々の外観の特徴量、及び、前記画像のデータを用いて、前記画像内の前記商品を認識する画像解析手段、
前記商品各々に対応する商品コードの読み取りが必要な前記商品が予め登録されている読取対象記憶手段を用いて、前記画像解析手段により認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段、
前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段、
として機能させるプログラム。
11−2 11に記載のプログラムにおいて、
前記画像解析手段は、前記商品コードの読み取りが必要な前記商品が写る前記画像内のエリアから前記商品コードを抽出し、
前記読取手段は、前記画像解析手段が抽出した前記画像内の前記商品コードを読み取るプログラム。
11−3 11又は11−2に記載のプログラムにおいて、
前記画像データ取得手段は、複数の方向から前記載置面を含むように撮像された複数方向からの前記画像のデータを取得し、
前記画像解析手段は、前記複数方向からの前記画像のデータを解析し、前記商品コードの読み取りが必要な前記商品が写る前記画像内のエリアから前記商品コードを抽出するプログラム。
11−4 11−2又は11−3に記載のプログラムにおいて、
前記コンピュータを、前記画像解析手段が前記商品コードを抽出できない場合、及び/又は、前記読取手段が前記商品コードを読み取れない場合、前記商品コードの読み取りが必要な前記商品の載置方法の案内情報を出力する出力手段としてさらに機能させるプログラム。
11−5 11−4に記載のプログラムにおいて、
前記出力手段は、載置面上に、前記載置方法の案内に関する像を投影するプログラム。
11−6 11から11−5のいずれかに記載のプログラムにおいて、
前記コンピュータを、前記商品コードの読み取りが必要な前記商品を特定する情報を出力する出力手段としてさらに機能させるプログラム。
11−7 11−6に記載のプログラムにおいて、
前記出力手段は、載置面上又は前記商品上に、前記商品コードの読み取りが必要な前記商品を特定する像を投影するプログラム。
11−8 11から11−7のいずれかに記載のプログラムにおいて、
前記読取対象記憶手段に、前記商品コードに含まれる付属情報の確認が必要な商品が登録されているプログラム。
11−9 11から11−7のいずれかに記載のプログラムにおいて、
前記読取対象記憶手段に、同種容量違いの商品群が登録されているプログラム。
この出願は、2016年1月21日に出願された日本出願特願2016−009602号を基礎とする優先権を主張し、その開示の全てをここに取り込む。

Claims (16)

  1. 画像のデータを取得する画像データ取得手段と、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識手段と、
    前記商品認識手段により認識された前記商品の中から商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段と、
    前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段と、
    前記画像内から前記商品コードを抽出できない場合、及び/又は前記画像内から抽出された前記商品コードを読み取れない場合、前記商品を載置する載置台に、前記商品の載置方法の案内に関する情報を出力する出力手段と、
    を有する情報処理装置。
  2. 画像のデータを取得する画像データ取得手段と、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識手段と、
    前記商品認識手段により認識された前記商品の中から商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段と、
    前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段と、
    前記商品コードの読み取りが必要な前記商品を特定する情報を出力する出力手段と、
    を有する情報処理装置。
  3. 請求項2に記載の情報処理装置において、
    前記出力手段は、前記商品を載置する載置台又は前記商品に、前記商品コードの読み取りが必要な前記商品を特定する像を投影する情報処理装置。
  4. 画像のデータを取得する画像データ取得手段と、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識手段と、
    前記商品各々に対応する商品コードの読み取りが必要な前記商品が予め登録されている読取対象記憶手段を用いて、前記商品認識手段により認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段と、
    前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段と、
    を有し、
    前記読取対象記憶手段に、前記商品コードに含まれる付属情報の確認が必要な商品が登録されている情報処理装置。
  5. 画像のデータを取得する画像データ取得手段と、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識手段と、
    前記商品各々に対応する商品コードの読み取りが必要な前記商品が予め登録されている読取対象記憶手段を用いて、前記商品認識手段により認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段と、
    前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段と、
    を有し、
    前記読取対象記憶手段に、同種容量違いの前記商品群が登録されている情報処理装置。
  6. 請求項1から5のいずれか1項に記載の情報処理装置において、
    前記商品認識手段は、前記商品コードの読み取りが必要な前記商品が写る前記画像内のエリアから前記商品コードを抽出し、
    前記読取手段は、前記商品認識手段が抽出した前記画像内の前記商品コードを読み取る情報処理装置。
  7. 請求項1から6のいずれか1項に記載の情報処理装置において、
    前記画像データ取得手段は、複数の方向から撮像された複数の前記画像のデータを取得し、
    前記商品認識手段は、複数の前記画像のデータを解析し、前記商品コードの読み取りが必要な前記商品が写る前記画像内のエリアから前記商品コードを抽出する情報処理装置。
  8. 請求項6又は7に記載の情報処理装置において、
    前記商品認識手段が前記商品コードを抽出できない場合、及び/又は、前記読取手段が前記商品コードを読み取れない場合、前記商品コードの読み取りが必要な前記商品の載置方法の案内情報を出力する手段をさらに有する情報処理装置。
  9. コンピュータが、
    画像のデータを取得する画像データ取得工程と、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識工程と、
    前記商品認識工程で認識された前記商品の中から商品コードの読み取りが必要な前記商品を抽出する読取要否確認工程と、
    前記読取要否確認工程で抽出された前記商品の前記商品コードを読み取る読取工程と、
    前記画像内から前記商品コードを抽出できない場合、及び/又は前記画像内から抽出された前記商品コードを読み取れない場合、前記商品を載置する載置台に、前記商品の載置方法の案内に関する情報を出力する出力工程と、
    を実行する情報処理方法。
  10. コンピュータを、
    画像のデータを取得する画像データ取得手段、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識手段、
    前記商品認識手段により認識された前記商品の中から商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段、
    前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段、
    前記画像内から前記商品コードを抽出できない場合、及び/又は前記画像内から抽出された前記商品コードを読み取れない場合、前記商品を載置する載置台に、前記商品の載置方法の案内に関する情報を出力する出力手段、
    として機能させるプログラム。
  11. コンピュータが、
    画像のデータを取得する画像データ取得工程と、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識工程と、
    前記商品認識工程で認識された前記商品の中から商品コードの読み取りが必要な前記商品を抽出する読取要否確認工程と、
    前記読取要否確認工程で抽出された前記商品の前記商品コードを読み取る読取工程と、
    前記商品コードの読み取りが必要な前記商品を特定する情報を出力する出力工程と、
    を実行する情報処理方法。
  12. コンピュータを、
    画像のデータを取得する画像データ取得手段、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識手段、
    前記商品認識手段により認識された前記商品の中から商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段、
    前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段、
    前記商品コードの読み取りが必要な前記商品を特定する情報を出力する出力手段、
    として機能させるプログラム。
  13. コンピュータが、
    画像のデータを取得する画像データ取得工程と、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識工程と、
    前記商品各々に対応する商品コードの読み取りが必要な前記商品が予め登録されている読取対象記憶手段を用いて、前記商品認識工程で認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認工程と、
    前記読取要否確認工程で抽出された前記商品の前記商品コードを読み取る読取工程と、
    を実行し、
    前記読取対象記憶手段に、前記商品コードに含まれる付属情報の確認が必要な商品が登録されている情報処理方法。
  14. コンピュータを、
    画像のデータを取得する画像データ取得手段、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識手段、
    前記商品各々に対応する商品コードの読み取りが必要な前記商品が予め登録されている読取対象記憶手段を用いて、前記商品認識手段により認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段、
    前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段、
    として機能させ、
    前記読取対象記憶手段に、前記商品コードに含まれる付属情報の確認が必要な商品が登録されているプログラム。
  15. コンピュータが、
    画像のデータを取得する画像データ取得工程と、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識工程と、
    前記商品各々に対応する商品コードの読み取りが必要な前記商品が予め登録されている読取対象記憶手段を用いて、前記商品認識工程で認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認工程と、
    前記読取要否確認工程で抽出された前記商品の前記商品コードを読み取る読取工程と、
    を実行し、
    前記読取対象記憶手段に、同種容量違いの前記商品群が登録されている情報処理方法。
  16. コンピュータを、
    画像のデータを取得する画像データ取得手段、
    前記画像のデータを用いて、前記画像内の商品を認識する商品認識手段、
    前記商品各々に対応する商品コードの読み取りが必要な前記商品が予め登録されている読取対象記憶手段を用いて、前記商品認識手段により認識された前記商品の中から前記商品コードの読み取りが必要な前記商品を抽出する読取要否確認手段、
    前記読取要否確認手段に抽出された前記商品の前記商品コードを読み取る読取手段、
    として機能させ、
    前記読取対象記憶手段に、同種容量違いの前記商品群が登録されているプログラム。
JP2017562471A 2016-01-21 2016-12-13 情報処理装置、情報処理方法、及び、プログラム Active JP6801676B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016009602 2016-01-21
JP2016009602 2016-01-21
PCT/JP2016/086990 WO2017126254A1 (ja) 2016-01-21 2016-12-13 情報処理装置、情報処理方法、及び、プログラム

Publications (2)

Publication Number Publication Date
JPWO2017126254A1 JPWO2017126254A1 (ja) 2018-11-15
JP6801676B2 true JP6801676B2 (ja) 2020-12-16

Family

ID=59362576

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017562471A Active JP6801676B2 (ja) 2016-01-21 2016-12-13 情報処理装置、情報処理方法、及び、プログラム

Country Status (3)

Country Link
US (1) US10510218B2 (ja)
JP (1) JP6801676B2 (ja)
WO (1) WO2017126254A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017126254A1 (ja) * 2016-01-21 2017-07-27 日本電気株式会社 情報処理装置、情報処理方法、及び、プログラム
US20200394404A1 (en) * 2017-12-01 2020-12-17 Nec Corporation Image recognition processing system using an object image data, image recognition processing method using an object image data, and image recognition process program using an object image data
JP7218984B2 (ja) 2018-04-27 2023-02-07 日本電気株式会社 商品登録装置、商品登録方法及びプログラム
JP7183753B2 (ja) * 2018-12-11 2022-12-06 日本電信電話株式会社 リスト生成装置、被写体識別装置、リスト生成方法、及びプログラム
WO2020170963A1 (ja) * 2019-02-20 2020-08-27 日本電気株式会社 処理装置、処理方法及びプログラム
JP7342943B2 (ja) * 2019-03-29 2023-09-12 日本電気株式会社 販売管理システム、店舗装置、販売管理方法、およびプログラム
USD915534S1 (en) 2019-09-25 2021-04-06 Coulter Ventures, Llc. Weight rack with name plate
JP2022131269A (ja) * 2021-02-26 2022-09-07 パナソニックIpマネジメント株式会社 精算決済装置、精算決済システムおよび精算決済方法
JP2022139727A (ja) * 2021-03-12 2022-09-26 東芝テック株式会社 読取装置
USD1010033S1 (en) 2022-05-23 2024-01-02 Coulter Ventures, Llc. Weight rack
CN115557137B (zh) * 2022-09-20 2024-06-14 重庆钢铁股份有限公司 一种原辅料质量检验自委托系统

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3213670B2 (ja) 1994-05-30 2001-10-02 東芝テック株式会社 チェックアウト装置
US6336587B1 (en) * 1998-10-19 2002-01-08 Symbol Technologies, Inc. Optical code reader for producing video displays and measuring physical parameters of objects
US20050177463A1 (en) * 2004-02-10 2005-08-11 Crutchfield William G.Jr. Virtual showroom for interactive electronic shopping
US20060059049A1 (en) * 2004-09-16 2006-03-16 Morris Robert P Method and system for providing a path through a store to items associated with a task
JP4422706B2 (ja) * 2006-07-28 2010-02-24 東芝テック株式会社 データコード読取装置
US20090322706A1 (en) * 2008-06-26 2009-12-31 Symbol Technologies, Inc. Information display with optical data capture
US8364543B2 (en) * 2009-12-28 2013-01-29 Ncr Corporation Weight detection for cashier checkout terminals
SE535853C2 (sv) * 2010-07-08 2013-01-15 Itab Scanflow Ab Kassadisk
JP2012053713A (ja) * 2010-09-01 2012-03-15 Toshiba Tec Corp 店舗システム、売上登録装置及びプログラム
US8678286B2 (en) * 2011-01-31 2014-03-25 Honeywell Scanning & Mobility Method and apparatus for reading optical indicia using a plurality of data sources
JP5554796B2 (ja) * 2011-09-06 2014-07-23 東芝テック株式会社 情報処理装置およびプログラム
JP5431429B2 (ja) 2011-09-06 2014-03-05 東芝テック株式会社 情報処理装置及びプログラム
JP5586641B2 (ja) 2012-02-24 2014-09-10 東芝テック株式会社 商品読取装置及び商品読取プログラム
JP2013210971A (ja) * 2012-03-30 2013-10-10 Toshiba Tec Corp 情報処理装置及びプログラム
JP6189761B2 (ja) * 2014-01-30 2017-08-30 東芝テック株式会社 商品データ登録装置、チェックアウトシステムおよびプログラム
JP5663705B1 (ja) * 2014-02-14 2015-02-04 楽天株式会社 表示制御装置、表示制御装置の制御方法、プログラム、及び情報記憶媒体
JP6376887B2 (ja) * 2014-08-08 2018-08-22 キヤノン株式会社 3dスキャナ、3dスキャン方法、コンピュータプログラム、記録媒体
JP6274097B2 (ja) * 2014-12-17 2018-02-07 カシオ計算機株式会社 商品識別装置および商品認識ナビゲーション方法
US20160180315A1 (en) * 2014-12-22 2016-06-23 Toshiba Tec Kabushiki Kaisha Information processing apparatus using object recognition, and commodity identification method by the same
JP6425636B2 (ja) * 2015-09-16 2018-11-21 東芝テック株式会社 情報処理装置及びプログラム
JP7060230B2 (ja) * 2016-01-21 2022-04-26 日本電気株式会社 情報処理装置、情報処理方法、及び、プログラム
WO2017126254A1 (ja) * 2016-01-21 2017-07-27 日本電気株式会社 情報処理装置、情報処理方法、及び、プログラム
WO2017126217A1 (ja) * 2016-01-21 2017-07-27 日本電気株式会社 情報処理装置、情報処理方法、及び、プログラム

Also Published As

Publication number Publication date
US10510218B2 (en) 2019-12-17
WO2017126254A1 (ja) 2017-07-27
US20190026999A1 (en) 2019-01-24
JPWO2017126254A1 (ja) 2018-11-15

Similar Documents

Publication Publication Date Title
JP6801676B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP7060230B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
US20130054344A1 (en) Code reading apparatus, sales data processing apparatus and sales data processing method
US20130256395A1 (en) System for and method of expediting self-checkout at point-of-sale stations
JP6728430B2 (ja) 情報検出装置及び情報検出プログラム
JP6863296B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP2008257462A (ja) 商品販売登録データ処理装置
US8944325B2 (en) Information processing apparatus and information processing method
JP5250670B2 (ja) 商品販売登録データ処理装置
JP2010026745A (ja) Pos端末装置
CN112154488A (zh) 信息处理装置、控制方法和程序
US10769398B2 (en) Reading device
JP7006767B2 (ja) 画像識別レジ装置、画像識別レジシステム、会計処理方法、およびプログラム
JP7322945B2 (ja) 処理装置、処理方法及びプログラム
JP7342943B2 (ja) 販売管理システム、店舗装置、販売管理方法、およびプログラム
JP7205603B2 (ja) 登録装置、登録方法及びプログラム
US20230028398A1 (en) Information processing device and method
US20240193389A1 (en) Non-transitory computer-readable recording medium, information processing method, and information processing apparatus
JP7172060B2 (ja) 情報処理装置、情報処理方法及びプログラム
WO2020045464A1 (ja) 商品配置装置、商品配置方法、商品配置システム及び商品配置プログラム
JP5064535B2 (ja) 商品登録システム
WO2017126245A1 (ja) 情報処理装置、制御方法、及びプログラム
JP2023017034A (ja) 登録装置、登録方法及びプログラム
JP2022164939A (ja) 販売システム
JP2013225337A (ja) 商品コード読取装置及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180620

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200811

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200820

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201109

R150 Certificate of patent or registration of utility model

Ref document number: 6801676

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150