JP7464156B2 - 登録装置、登録方法及びプログラム - Google Patents

登録装置、登録方法及びプログラム Download PDF

Info

Publication number
JP7464156B2
JP7464156B2 JP2023007911A JP2023007911A JP7464156B2 JP 7464156 B2 JP7464156 B2 JP 7464156B2 JP 2023007911 A JP2023007911 A JP 2023007911A JP 2023007911 A JP2023007911 A JP 2023007911A JP 7464156 B2 JP7464156 B2 JP 7464156B2
Authority
JP
Japan
Prior art keywords
product
voice
registration device
recognized
name
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023007911A
Other languages
English (en)
Other versions
JP2023041760A (ja
Inventor
壮馬 白石
浩太 岩元
秀雄 横井
二徳 高田
恵美 北川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2023007911A priority Critical patent/JP7464156B2/ja
Publication of JP2023041760A publication Critical patent/JP2023041760A/ja
Application granted granted Critical
Publication of JP7464156B2 publication Critical patent/JP7464156B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/208Input by product or record sensing, e.g. weighing or scanner processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • G07G1/0045Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader
    • G07G1/0054Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles
    • G07G1/0063Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles with means for detecting the geometric dimensions of the article of which the code is read, such as its size or height, for the verification of the registration

Description

本発明は、登録装置、登録方法及びプログラムに関する。
特許文献1には、画像解析で商品を認識して登録する商品登録装置が開示されている。
特許文献2には、表示面上の実オブジェクトの情報に応じて表示面に表示される表示オブジェクトの表示領域を決定する表示制御装置が開示されている。当該表示制御装置は、食卓に置かれた食器の種別を認識し、種別に応じた表示エフェクトおよび音を出力することができる。
特許文献3には、読取窓にかざされた1つの商品を撮像し、その画像を解析することで商品を認識し、認識した商品を登録するとともに、認識した商品の商品名を音声出力する情報処理装置が開示されている。
特開2016-62545号公報 国際公開第2015/098189号 特開2014-149863号公報
画像解析で商品を認識して登録する技術においては、店員や顧客が正しく認識されているか不安に感じる可能性がある。また、特許文献3に開示の技術のように、商品を1つずつ読取窓にかざす方法の場合、会計作業者の手間の観点では、各商品の商品コードをリーダに読み取らせる既存の方法と大きく変わらない。本発明は、商品の登録作業の手間を改善し、かつ、会計作業者が認識結果を把握できるようにすることを課題とする。
本発明によれば、
商品を載置する台の載置面を撮像した画像を取得する画像取得手段と、
前記画像に含まれる前記商品を認識する解析手段と、
認識された前記商品を会計対象として登録する登録手段と、
認識された前記商品のうち、大きさ違いの同種商品が存在する前記商品の名称を音声で出力する出力手段と、
を有する登録装置が提供される。
また、本発明によれば、
コンピュータが、
商品を載置する台の載置面を撮像した画像を取得する画像取得工程と、
前記画像に含まれる前記商品を認識する解析工程と、
認識された前記商品を会計対象として登録する登録工程と、
認識された前記商品のうち、大きさ違いの同種商品が存在する前記商品の名称を音声で出力する出力工程と、
を実行する登録方法が提供される。
また、本発明によれば、
コンピュータを、
商品を載置する台の載置面を撮像した画像を取得する画像取得手段、
前記画像に含まれる前記商品を認識する解析手段、
認識された前記商品を会計対象として登録する登録手段、
認識された前記商品のうち、大きさ違いの同種商品が存在する前記商品の名称を音声で出力する出力手段、
として機能させるプログラムが提供される。
本発明によれば、商品の登録作業の手間が改善され、また、会計作業者が認識結果を把握できるようになる。
上述した目的、および、その他の目的、特徴および利点は、以下に述べる好適な実施の形態、および、それに付随する以下の図面によって、さらに明らかになる。
本実施形態の登録装置のハードウエア構成の一例を示す図である。 本実施形態の登録装置の機能ブロック図の一例を示す図である。 本実施形態の登録装置を利用した会計処理で利用されるカメラと台の一例を模式的に示す図である。 本実施形態の登録装置の処理の流れの一例を示すフローチャートである。 本実施形態の登録装置により実現される台への情報表示の一例を模式的に示す図である。 本実施形態の登録装置により実現される台への情報表示の一例を模式的に示す図である。 本実施形態の登録装置の処理の流れの一例を示すフローチャートである。 ディスプレイに表示される情報の一例を模式的に示す図である。 ディスプレイに表示される情報の一例を模式的に示す図である。 本実施形態の登録装置により処理される情報の一例を模式的に示す図である。 本実施形態の登録装置により処理される情報の一例を模式的に示す図である。
<第1の実施形態>
まず、本実施形態の登録装置の概要を説明する。本実施形態の登録装置は、商品を販売する店舗での会計処理に利用される。登録装置は、いわゆるPOS(point of sales)レジスターであってもよい。登録装置は、店員に操作されることを前提とした装置であってもよいし、顧客に操作されることを前提とした装置であってもよい。
登録装置を利用した会計処理では、会計処理の対象の商品を載置するための台と、当該台の載置面を撮影するカメラとが用意される。会計処理において、会計作業者(店員、顧客等)は、会計対象の商品を台の載置面に載置する。登録装置は、カメラにより生成された画像を取得すると、画像を解析し、画像に含まれる商品を認識する。そして、登録装置は、認識した商品を会計対象の商品として登録する。また、登録装置は、認識した商品の名称を音声で出力する。
認識した商品の名称を音声で出力する本実施形態の登録装置によれば、会計作業者は、登録装置から出力された音声に基づき、商品が認識されたこと、及び、認識結果を把握することができる。また、商品を載置される台を撮影した画像に含まれる商品を認識して登録する本実施形態の登録装置によれば、複数の商品を一度に台に載置し、商品認識させ、登録させることができる。結果、商品を1つずつ読取窓にかざして撮影させたり、1つずつ各商品に付されたコードをコードリーダで読み取らせたりする技術に比べて、作業効率が向上する。
次に、本実施形態の登録装置の構成を詳細に説明する。まず、登録装置のハードウエア構成の一例について説明する。登録装置が備える機能は、任意のコンピュータのCPU(Central Processing Unit)、メモリ、メモリにロードされるプログラム、そのプログラムを格納するハードディスク等の記憶ユニット(あらかじめ装置を出荷する段階から格納されているプログラムのほか、CD(Compact Disc)等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムをも格納できる)、ネットワーク接続用インターフェイスを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
図1は、登録装置のハードウエア構成を例示するブロック図である。図1に示すように、登録装置は、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5Aを有する。周辺回路4Aには、様々なモジュールが含まれる。なお、周辺回路4Aを有さなくてもよい。
バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPU(Central Processing Unit)やGPU(Graphics Processing Unit)などの演算処理装置である。メモリ2Aは、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。入出力インターフェイス3Aは、入力装置(例:キーボード、マウス、マイク等)、外部装置、外部サーバ、外部センサー等から情報を取得するためのインターフェイスや、出力装置(例:ディスプレイ、スピーカ、プリンター、メーラ等)、外部装置、外部サーバ等に情報を出力するためのインターフェイスなどを含む。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行うことができる。
図2に、登録装置10の機能ブロック図の一例を示す。図示するように、登録装置10は、画像取得部11と、解析部12と、出力部13と、登録部14とを有する。
画像取得部11は、商品を載置する台の載置面を撮影した画像を取得する。上述の通り、登録装置10を利用した会計処理では、会計処理の対象の商品を載置するための台と、当該台の載置面を撮影するカメラとが用意される。画像取得部11は、当該カメラにより生成された画像を取得する。カメラは動画像(複数の画像)を生成し、画像取得部11は当該動画像をカメラから取得してもよい。
図3に、台とカメラの一例を模式的に示す。図では、台1と、部材2と、支柱3と、カメラ4とが示されている。部材2は、台1の上面に位置し、台1の一部をなす。部材2の露出面が、商品を載置する載置面となる。なお、部材2はディスプレイであってもよいし、他の部材であってもよい。カメラ4は支柱3に取り付けられており、上方から部材2の露出面を撮影する。カメラ4により生成された画像は、有線及び/又は無線での通信により、不図示の登録装置10に送信される。
図2に戻り、解析部12は、画像取得部11により取得された画像を解析し、画像に含まれる商品を認識する。解析部12は、パターンマッチング技術などを利用して、商品を認識することができる。
例えば、解析部12は、画像の二値化、輪郭線抽出等の技術を利用して画像に含まれる物体を検出する(物体検出)。その後、解析部12は、検出した物体の画像に現れる外観の特徴(画像内の物体が存在する領域の特徴)と、予め登録されている複数の商品各々の外観の特徴(参照情報)とを照合することで、その物体がいずれの商品であるかを特定する(商品認識)。例えば、解析部12は、その物体との外観の類似度が最も高い商品、又は、その物体との外観の類似度が最も高くかつ当該類似度が基準値以上の商品を特定してもよい。商品の外観の特徴は、色、表面の凹凸、形状等が例示されるが、これらに限定されない。
登録部14は、解析部12により認識された商品を登録する。例えば、登録部14は、解析部12により認識された商品の商品情報を商品マスタから取得し、取得した商品情報の少なくとも一部を登録装置10に登録する。商品情報は、価格、商品名、商品コード等を含む。
出力部13は、解析部12により認識された商品の名称を音声で出力する。例えば、出力部13は、解析部12により認識された商品の名称(例:商品マスタから取得したもの)を取得すると、音声合成技術を利用して、その商品の名称の音声データを生成してもよい。そして、出力部13は、生成した音声データを再生処理することで、商品の名称を音声で出力してもよい。
その他、予め、商品毎に商品の名称の音声データが登録装置10に登録されていてもよい。そして、出力部13は、登録されている音声データの中から解析部12により認識された商品の名称の音声データを取り出し、再生処理することで、商品の名称を音声で出力してもよい。
次に、図4のフローチャートを用いて、本実施形態の登録装置10の処理の流れの一例を説明する。
処理がスタートされると、画像取得部11はカメラからの画像の取得を開始する。そして、解析部12は、画像の解析を開始する。
解析部12により商品が認識されると(S10のYes)、出力部13は認識された商品の名称を音声で出力する(S11)。また、S11では、登録部14は認識された商品を会計対象として登録する。その後、解析部12により新たな商品が認識されると(S12のYes)、同様の処理を繰り返す(S11)。
解析部12により新たな商品が認識されず(S12のNo)、精算処理の入力があった場合(S13のYes)、登録装置10は精算処理を実行する(S14)。例えば、登録装置10は、それまでに登録された商品に基づき算出された支払合計金額の支払いとして、現金の入力を受付け、必要に応じて釣銭の出力やレシートの出力を行ってもよい。また、登録装置10は、クレジットカードの入力を受付け、クレジット会社のシステムと通信し、決済処理を行ってもよい。また、登録装置10は、精算処理のための情報(登録された商品を示す情報、支払合計金額等)を他の精算装置に送信してもよい。
以上、認識した商品の名称を音声で出力する本実施形態の登録装置10によれば、会計作業者は、登録装置10から出力された音声に基づき、商品が認識されたこと、及び、認識結果を把握することができる。また、商品を載置される台を撮影した画像に含まれる商品を認識して登録する本実施形態の登録装置10によれば、複数の商品を一度に台に載置し、商品認識させ、登録させることができる。結果、商品を1つずつ読取窓にかざして撮影させたり、1つずつ各商品に付されたコードをコードリーダで読み取らせたりする技術に比べて、作業効率が向上する。
<第2の実施形態>
本実施形態の登録装置10は、商品の名称を音声で出力している間、当該商品を強調表示する点で、第1の実施形態と異なる。以下、詳細に説明する。
登録装置10のハードウエア構成の一例は、第1の実施形態と同様である。
登録装置10の機能ブロック図の一例は、第1の実施形態同様、図2で示される。画像取得部11、解析部12及び登録部14の構成は、第1の実施形態と同様である。
出力部13は、商品の名称を音声で出力している間、当該商品の載置位置を強調する情報を台に表示する。出力部13のその他の構成は、第1の実施形態と同様である。
例えば、出力部13は、図5に示すように、名称を音声出力している商品の載置位置を内包するマークM(例:丸等)を表示してもよい。その他、出力部13は、図6に示すように、名称を音声出力している商品の載置位置に近接する位置にマークM(例:丸等)を表示してもよい。なお、表示する情報はマークに限定されず、文字、数字、絵、キャラクター等、他の情報としてもよい。
例えば図3に示すように台1の一部にディスプレイ(部材2)が設けられ、ディスプレイ(部材2)の表示面が載置面となっている場合、出力部13は当該ディスプレイに、所定の商品の載置位置を強調する情報を表示させることができる。その他の例として、出力部13は、投影装置を用いて、台の載置面に、所定の商品の載置位置を強調する情報を投影してもよい。
なお、出力部13は、「画像の座標」を「台の載置面を構成するディスプレイの表示領域の座標」に変換する変換ルールを予め保持しておく。そして、出力部13は、画像内の物体の位置(座標)を当該変換ルールに基づきディスプレイの表示領域の座標に変換し、例えば変換した位置を囲むように、又は、その位置に近接して、所定の商品の載置位置を強調する情報を表示させる。
同様に、出力部13は、「画像の座標」を「投影装置の投影領域の座標」に変換する変換ルールを予め保持しておいてもよい。そして、出力部13は、画像内の物体の位置(座標)を当該変換ルールに基づき投影装置の投影領域の座標に変換し、例えば変換した位置を囲むように、又は、その位置に近接して、所定の商品の載置位置を強調する情報を投影させてもよい。
画像の座標は、画像内の任意の位置を原点とし、任意の方向をx軸方向及びy軸方向と定めた座標系で示される。ディスプレイの表示領域の座標は、表示領域内の任意の位置を原点とし、任意の方向をx軸方向及びy軸方向と定めた座標系で示される。投影装置の投影領域の座標は、投影領域内の任意の位置を原点とし、任意の方向をx軸方向及びy軸方向と定めた座標系で示される。
本実施形態の登録装置10の処理の流れの一例は、第1の実施形態と同様である。
以上説明した本実施形態の登録装置10によれば、第1の実施形態と同様な作用効果を実現できる。また、商品の名称を音声で出力している間、その商品を強調表示できる本実施形態の登録装置10によれば、複数の商品が台に載置されている場合であっても、作業者は、どの商品に対する認識結果を出力しているのか直感的に把握できる。結果、認識結果が正しいかの確認を正確に行うことができる。
<第3の実施形態>
本実施形態の登録装置10は、認識されたすべての商品の名称を音声で出力するのでなく、一部の商品の名称を音声で出力する点で、第1及び第2の実施形態と異なる。以下、詳細に説明する。
登録装置10のハードウエア構成の一例は、第1及び第2の実施形態と同様である。
登録装置10の機能ブロック図の一例は、第1及び第2の実施形態同様、図2で示される。画像取得部11、解析部12及び登録部14の構成は、第1及び第2の実施形態と同様である。
出力部13は、解析部12により認識された商品が音声処理対象の商品か否かを判断する。そして、出力部13は、解析部12により認識された商品が音声処理対象の商品である場合、認識された商品の名称を音声で出力する。なお、解析部12により認識された商品が音声処理対象の商品でない場合、出力部13は認識された商品の名称を音声で出力しない。出力部13のその他の構成は、第1及び第2の実施形態と同様である。
例えば、予め、音声処理の対象とする商品を登録した第1のリスト(図10参照)が生成され、登録装置10又は登録装置10と通信可能な外部装置内に記憶されていてもよい。そして、出力部13は、解析部12により認識された商品が第1のリストに登録されている場合、その商品は音声処理対象の商品であると判断してもよい。一方、解析部12により認識された商品が第1のリストに登録されていない場合、出力部13は、その商品は音声処理対象の商品でないと判断してもよい。
その他、予め、音声処理の対象としない商品を登録した第2のリスト(図11参照)が生成され、登録装置10又は登録装置10と通信可能な外部装置内に記憶されていてもよい。そして、出力部13は、解析部12により認識された商品が第2のリストに登録されていない場合、その商品は音声処理対象の商品であると判断してもよい。一方、解析部12により認識された商品が第2のリストに登録されている場合、出力部13は、その商品は音声処理対象の商品でないと判断してもよい。
なお、第1のリスト及び第2のリストは予め店舗側で用意しておいてもよいし、登録装置10の作業者がその都度生成できてもよい。ここで、登録装置10の作業者がその都度リストを生成する処理の一例を説明する。
例えば、登録装置10の作業者が操作可能なタッチパネルディスプレイに、図8に示すようなボタンを表示してもよい。当該ボタンは「読み上げ対象選択」の文字が対応付けられている。そして、当該ボタンへのタッチ操作(例:タップ操作)を受付けると、図9に示す画面に遷移してもよい。図9に示す画面では、複数の商品カテゴリ各々に対応したボタンを表示している。当該ボタンへのタッチ操作(例:タップ操作)を受けつけると、そのボタンに対応した商品カテゴリが音声処理対象(読み上げ対象)として登録される。結果、第1のリストが生成される。なお、第2のリストの生成も、同様の手段で実現できる。このようにすれば、顧客毎のニーズに合わせて音声処理の対象とする商品を決定することができる。なお、ここで説明したタッチパネルディスプレイは、上述した部材2であってもよい。
音声出力された商品の名称は、その商品を購入する顧客のみならず、他の顧客にも聞かれる可能性がある。そして、商品の中には、購入することを他の顧客に知られことが好ましくない商品も存在する。予め、商品毎に音声処理の対象とするか否かを定めておくことができる当該例によれば、他の顧客に知らせたくない情報が他の顧客に漏れる不都合を抑制できる。
その他、出力部13は、解析部12により認識された商品の中の認識結果の信頼度が基準値より低い商品を、音声処理対象の商品と判断してもよい。この場合、出力部13は、解析部12により認識された商品の中の認識結果の信頼度が基準値以上の商品を、音声処理対象の商品と判断しない。信頼度は、パターンマッチングで算出された類似度(認識した商品と画像に含まれる物体との類似度)であってもよい。例えば、解析部12が当該類似度を算出することができる。
かかる場合、信頼度が低く、作業者による認識結果の正誤の確認等が望まれる商品を、音声で作業者に伝えることができる。
その他、出力部13は、解析部12により認識された商品の中の商品属性が所定の条件を満たす商品を、音声処理対象の商品と判断してもよい。この場合、出力部13は、解析部12により認識された商品の中の商品属性が所定の条件を満たさない商品を、音声処理対象の商品と判断しない。
所定の条件は、「高額商品であること(価格が基準値以上の商品であること)」であってもよい。高額商品は、商品認識のミスが大きな影響をもたらし得る。当該所定の条件の場合、商品認識のミスが大きな影響をもたらす可能性があり、作業者による認識結果の正誤の確認等が望まれる商品を、音声で作業者に伝えることができる。
その他、所定の条件は、「大きさ(例:容量)違いの同種商品が存在すること」であってもよい。このような商品は、例えば、内容物は同じであるが、350m缶、500ml缶等の複数の大きさで販売される飲料などが該当する。このような大きさ違いの同種商品は外観のデザインが同一又は類似である可能性が高く、結果、画像解析での商品認識においてそれらを誤認識する可能性がある。当該所定の条件の場合、商品認識のミスが起きる可能性が比較的高く、作業者による認識結果の正誤の確認等が望まれる商品を、音声で作業者に伝えることができる。
その他、所定の条件は「サイズが大きい商品であること(容積が基準位置以上の上品であること)」であってもよい。大きい商品は高額商品である可能性がある。そして、高額商品は、商品認識のミスが大きな影響をもたらし得る。当該所定の条件の場合、商品認識のミスが大きな影響をもたらす可能性があり、作業者による認識結果の正誤の確認等が望まれる商品を、音声で作業者に伝えることができる。
次に、図7のフローチャートを用いて、本実施形態の登録装置10の処理の流れの一例を説明する。
処理がスタートされると、画像取得部11はカメラからの画像の取得を開始する。そして、解析部12は、画像の解析を開始する。
解析部12により商品が認識されると(S20のYes)、出力部13は、解析部12により認識された商品が音声処理対象の商品か否かを判断する(S21)。
音声処理対象の商品である場合(S21のYes)、出力部13は認識された商品の名称を音声で出力し、登録部14は認識された商品を会計対象として登録する(S22)。
一方、音声処理対象の商品でない場合(S21のNo)、登録部14は認識された商品を会計対象として登録するが、出力部13は認識された商品の名称を音声で出力しない(S23)。
その後、解析部12により新たな商品が認識されると(S24のYes)、S21に戻って同様の処理を繰り返す。
解析部12により新たな商品が認識されず(S24のNo)、精算処理の入力があった場合(S25のYes)、登録装置10は精算処理を実行する(S26)。例えば、登録装置10は、それまでに登録された商品に基づき算出された支払合計金額の支払いとして、現金の入力を受付け、必要に応じて釣銭の出力やレシートの出力を行ってもよい。また、登録装置10は、クレジットカードの入力を受付け、クレジット会社のシステムと通信し、決済処理を行ってもよい。また、登録装置10は、精算処理のための情報(登録された商品を示す情報、支払合計金額等)を他の精算装置に送信してもよい。
以上説明した本実施形態の登録装置10によれば、第1及び第2の実施形態と同様な作用効果を実現できる。また、認識したすべての商品の名称を音声で出力するのでなく、一部の商品の名称を音声で出力する本実施形態の登録装置10によれば、各種作用効果を実現できる。例えば、ある商品の購入を他の顧客に知られる不都合を抑制したり、作業者による認識結果の正誤の確認等が望まれる商品を音声で作業者に伝えたりできる。
<第4の実施形態>
本実施形態の登録装置10は、認識された商品の名称を音声で出力するタイミング等が具体化される点で、第1乃至第3の実施形態と異なる。以下、詳細に説明する。
登録装置10のハードウエア構成の一例は、第1乃至第3の実施形態と同様である。
登録装置10の機能ブロック図の一例は、第1乃至第3の実施形態同様、図2で示される。画像取得部11、解析部12及び登録部14の構成は、第1乃至第3の実施形態と同様である。
出力部13は、各種態様で、解析部12により認識された商品の名称を音声で出力することができる。出力部13のその他の構成は、第1乃至第3の実施形態と同様である。
「例1」
出力部13は、解析部12により認識された順に、商品の名称を音声で出力する。例えば、解析部12により商品認識されたら、それに応じてその商品の名称を音声で出力してもよい。そして、出力部13は、第1の商品の名称を音声で出力している間に、解析部12により他の商品が認識された場合、それに応じて第1の商品の名称を音声で出力する処理を中断し、他の商品の名称を音声で出力する処理を開始する。
商品の名称の全てを音声で出力しなくても、一部のみで、音声出力されている商品の名称を把握できる場合がある。それにも関わらず、商品の名称の全体を音声で出力すると、多くの時間を要してしまう。結果、それを煩わしく感じる顧客もいる。当該例によれば、新たな商品が台に載置されると、それに応じて次から次に音声で出力する商品の名称を切り替えることができる。すなわち、台に商品を載置するペースに合わせて、音声で出力する商品の名称を切り替えることができる。結果、作業者の作業ペースに合わせた音声出力が実現される。
「例2」
出力部13は、解析部12により認識された順に、商品の名称を音声で出力する。例えば、解析部12により商品認識されたら、それに応じてその商品の名称を音声で出力してもよい。そして、出力部13は、第1の商品の名称を音声で出力している間に、解析部12により他の商品が認識された場合、次のような処理を実行する。
出力部13は、解析部12により他の商品が認識された時点で、第1の商品の名称の所定割合(例:50%)以上を音声で出力済みである場合、他の商品が認識されたことに応じて第1の商品の名称を音声で出力する処理を中断し、他の商品の名称を音声で出力する処理を開始する。所定割合は、商品の名称の文字数で定義してもよいし、音声ファイルの長さで定義してもよい。
一方、出力部13は、解析部12により他の商品が認識された時点で、第1の商品の名称の所定割合(例:50%)以上を音声で出力済みでない場合、第1の商品の名称の所定割合(例:50%)を音声で出力するまで、第1の商品の名称の音声出力を継続する。そして、第1の商品の名称の所定割合(例:50%)を音声で出力した時点で第1の商品の名称を音声で出力する処理を中断し、他の商品の名称を音声で出力する処理を開始する。
なお、上記所定割合は商品毎に予め定められ、商品毎に異なってもよい。
例2によれば、例1と同様な作用効果を実現できる。また、所定割合以上の商品の名称の出力を確保することもできるので、商品の名称の音声出力を途中で中断したことにより、その商品の名称を把握できなくなる不都合を抑制できる。
「例3」
出力部13は、解析部12により商品が認識されると、それに応じて、その商品の名称を音声で出力してもよい。かかる場合、商品が台に載置されてから商品の名称を音声で出力するまでのタイムロスを小さくすることができる。結果、顧客は、違和感なく作業を進めることができる。
「例3」
出力部13は、解析部12により商品が認識されてから一定時間以上、解析部12により新たな商品が認識されない場合、認識された商品の名称を音声で出力してもよい。かかる場合、顧客による載置が終わった後に音声出力を開始できる。すなわち、顧客が商品を載置する作業をしている間に音声を出力することを避けることができる。結果、載置作業に気を取られて、出力された音声の内容を確認できないという不都合を抑制できる。
本実施形態の登録装置10の処理の流れの一例は、第1乃至第3の実施形態と同様である。
以上説明した本実施形態の登録装置10によれば、第1乃至第3の実施形態と同様な作用効果を実現できる。また、認識された商品の名称を音声で出力するタイミングが特徴的な本実施形態の登録装置10によれば、上述の通り、その態様に応じて様々な作用効果を実現できる。
ここで、すべての実施形態に適用可能な変形例を説明する。登録装置10は、出力部13による「認識された商品の名称を音声で出力する処理」をON/OFFする切替部を有してもよい。切替部は、ユーザ入力に応じてON/OFFを切り替えることができる。認識された商品の名称が音声で出力されることを煩わしく思う顧客は、登録装置10を操作し、OFF設定にすることで、認識された商品の名称が音声で出力されることを回避できる。
その他、購入することを他の顧客に知られたくない商品を台に載置する前に、顧客は登録装置10を操作し、OFF設定にすることができる。かかる場合、その商品の名称が音声で出力されることを回避できる。そして、その後、顧客は登録装置10を操作し、ON設定にすることができる。結果、以降の認識結果を音声で確認することができる。このように、当該変形例によれば、ユーザフレンドリーな構成を実現できる。
すべての実施形態に適用可能な他の変形例を説明する。解析部12により、物体が台に載置されたことを認識されたが、その物体がいずれの商品であるかを特定されない場合(商品認識されない場合)、出力部13はその旨を示す情報を出力してもよい。当該情報は、音声で出力されてもよいし、第2の実施形態で説明したものと同様な手法で台に表示されてもよいし、台の載置面を構成するディスプレイと異なるディスプレイへの表示で実現されてもよい。商品認識されない場合は、例えば、上述した類似度が基準値以上となる商品が存在しない場合であってもよい。
出力部13は、例えば、「認識できない商品があります」という情報を出力してもよい。この時、出力部13は、商品認識できない物体を強調表示してもよい。強調表示の手法は、第2の実施形態で説明したものと同様であってもよい。このようにすれば、顧客は、商品認識できない商品があること、及び、その対象を容易に把握できる。
また、出力部13は、例えば、「備え付けのバーコードリーダで、認識できない商品のバーコードを読み取らせてください」等の、対応方法の案内を出力してもよい。このような当該変形例によれば、作業を効率的に進めることができるユーザフレンドリーな構成を実現できる。
すべての実施形態に適用可能な他の変形例を説明する。出力部13は、その時点で台に載置されており、かつ、解析部12により商品認識された物体の数を示す情報を出力してもよい。当該情報は、音声で出力されてもよいし、第2の実施形態で説明したものと同様な手法で台に表示されてもよいし、台の載置面を構成するディスプレイと異なるディスプレイへの表示で実現されてもよい。このような当該変形例によれば、顧客が認識結果を把握できる。
以下、参考形態の例を付記する。
1. 商品を載置する台の載置面を撮影した画像を取得する画像取得手段と、
前記画像に含まれる前記商品を認識する解析手段と、
認識された前記商品を会計対象として登録する登録手段と、
認識された前記商品の名称を音声で出力する出力手段と、
を有する登録装置。
2. 1に記載の登録装置において、
前記出力手段は、前記商品の名称を音声で出力している間、当該商品の載置位置を強調する情報を前記台に表示する登録装置。
3. 1又は2に記載の登録装置において、
前記出力手段は、認識された前記商品が音声処理対象の商品か否かを判断し、認識された前記商品が音声処理対象の前記商品である場合、認識された前記商品の名称を音声で出力する登録装置。
4. 3に記載の登録装置において、
前記出力手段は、認識された前記商品の中の認識結果の信頼度が基準値より低い前記商品を、前記音声処理対象の前記商品と判断する登録装置。
5. 3に記載の登録装置において、
前記出力手段は、音声処理の対象とする前記商品を登録したリストに登録された前記商品を、前記音声処理対象の前記商品と判断する登録装置。
6. 3に記載の登録装置において、
前記出力手段は、音声処理の対象としない前記商品を登録したリストに登録されていない前記商品を、前記音声処理対象の前記商品と判断する登録装置。
7. 3に記載の登録装置において、
前記出力手段は、認識された前記商品の中の商品属性が所定の条件を満たす前記商品を、前記音声処理対象の前記商品と判断する登録装置。
8. 1から7のいずれかに記載の登録装置において、
前記出力手段は、第1の前記商品の名称を音声で出力している間に、他の前記商品が認識された場合、前記第1の商品の名称を音声で出力する処理を中断し、前記他の商品の名称を音声で出力する処理を開始する登録装置。
9. コンピュータが、
商品を載置する台の載置面を撮影した画像を取得する画像取得工程と、
前記画像に含まれる前記商品を認識する解析工程と、
認識された前記商品を会計対象として登録する登録工程と、
認識された前記商品の名称を音声で出力する出力工程と、
を実行する登録方法。
10. コンピュータを、
商品を載置する台の載置面を撮影した画像を取得する画像取得手段、
前記画像に含まれる前記商品を認識する解析手段、
認識された前記商品を会計対象として登録する登録手段、
認識された前記商品の名称を音声で出力する出力手段、
として機能させるプログラム。

Claims (10)

  1. 商品を載置する台の載置面を撮像した画像を取得する画像取得手段と、
    前記画像に含まれる前記商品を認識する解析手段と、
    認識された前記商品を会計対象として登録する登録手段と、
    認識された前記商品のうち、大きさ違いの同種商品が存在する前記商品の名称を音声で出力し、大きさ違いの同種商品が存在しない前記商品の名称を音声で出力しない出力手段と、
    を有する登録装置。
  2. 請求項1に記載の登録装置において、
    前記出力手段は、前記商品の名称を音声で出力している間、当該商品の載置位置を強調する情報を前記台に表示する登録装置。
  3. 請求項1又は2に記載の登録装置において、
    前記出力手段は、認識された前記商品が音声処理対象の商品か否かを判断し、認識された前記商品が音声処理対象の前記商品である場合、認識された前記商品の名称を音声で出力する登録装置。
  4. 請求項3に記載の登録装置において、
    前記出力手段は、認識された前記商品の中の認識結果の信頼度が基準値より低い前記商品を、前記音声処理対象の前記商品と判断する登録装置。
  5. 請求項3に記載の登録装置において、
    前記出力手段は、音声処理の対象とする前記商品を登録したリストに登録された前記商品を、前記音声処理対象の前記商品と判断する登録装置。
  6. 請求項3に記載の登録装置において、
    前記出力手段は、音声処理の対象としない前記商品を登録したリストに登録されていない前記商品を、前記音声処理対象の前記商品と判断する登録装置。
  7. 請求項3に記載の登録装置において、
    前記出力手段は、認識された前記商品の中の商品属性が所定の条件を満たす前記商品を、前記音声処理対象の前記商品と判断する登録装置。
  8. 請求項1から7のいずれか1項に記載の登録装置において、
    前記出力手段は、前記商品の中の第1の商品の名称を音声で出力している間に、前記商品の中の前記第1の商品と異なる他の商品が認識された場合、前記第1の商品の名称を音声で出力する処理を中断し、前記他の商品の名称を音声で出力する処理を開始する登録装置。
  9. コンピュータが、
    商品を載置する台の載置面を撮像した画像を取得する画像取得工程と、
    前記画像に含まれる前記商品を認識する解析工程と、
    認識された前記商品を会計対象として登録する登録工程と、
    認識された前記商品のうち、大きさ違いの同種商品が存在する前記商品の名称を音声で出力し、大きさ違いの同種商品が存在しない前記商品の名称を音声で出力しない出力工程と、
    を実行する登録方法。
  10. コンピュータを、
    商品を載置する台の載置面を撮像した画像を取得する画像取得手段、
    前記画像に含まれる前記商品を認識する解析手段、
    認識された前記商品を会計対象として登録する登録手段、
    認識された前記商品のうち、大きさ違いの同種商品が存在する前記商品の名称を音声で出力し、大きさ違いの同種商品が存在しない前記商品の名称を音声で出力しない出力手段、
    として機能させるプログラム。
JP2023007911A 2018-02-23 2023-01-23 登録装置、登録方法及びプログラム Active JP7464156B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023007911A JP7464156B2 (ja) 2018-02-23 2023-01-23 登録装置、登録方法及びプログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
PCT/JP2018/006717 WO2019163094A1 (ja) 2018-02-23 2018-02-23 登録装置、登録方法及びプログラム
JP2020501953A JP6962442B2 (ja) 2018-02-23 2018-02-23 登録装置、登録方法及びプログラム
JP2021160637A JP7226500B2 (ja) 2018-02-23 2021-09-30 登録装置、登録方法及びプログラム
JP2023007911A JP7464156B2 (ja) 2018-02-23 2023-01-23 登録装置、登録方法及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021160637A Division JP7226500B2 (ja) 2018-02-23 2021-09-30 登録装置、登録方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2023041760A JP2023041760A (ja) 2023-03-24
JP7464156B2 true JP7464156B2 (ja) 2024-04-09

Family

ID=67687146

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2020501953A Active JP6962442B2 (ja) 2018-02-23 2018-02-23 登録装置、登録方法及びプログラム
JP2021160637A Active JP7226500B2 (ja) 2018-02-23 2021-09-30 登録装置、登録方法及びプログラム
JP2023007911A Active JP7464156B2 (ja) 2018-02-23 2023-01-23 登録装置、登録方法及びプログラム

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2020501953A Active JP6962442B2 (ja) 2018-02-23 2018-02-23 登録装置、登録方法及びプログラム
JP2021160637A Active JP7226500B2 (ja) 2018-02-23 2021-09-30 登録装置、登録方法及びプログラム

Country Status (3)

Country Link
US (4) US20210097279A1 (ja)
JP (3) JP6962442B2 (ja)
WO (1) WO2019163094A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021171553A1 (ja) * 2020-02-28 2021-09-02 日本電気株式会社 処理装置、処理方法及びプログラム
JP2022139727A (ja) * 2021-03-12 2022-09-26 東芝テック株式会社 読取装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004127013A (ja) 2002-10-03 2004-04-22 Matsushita Electric Ind Co Ltd 販売時点情報管理装置
JP2007255761A (ja) 2006-03-22 2007-10-04 Mitsubishi Electric Corp 給湯器のリモコン装置
JP2009058236A (ja) 2007-08-30 2009-03-19 Sanyo Electric Co Ltd ナビゲーション装置
JP2016177433A (ja) 2015-03-19 2016-10-06 カシオ計算機株式会社 商品登録装置および商品登録方法
WO2018016214A1 (ja) 2016-07-21 2018-01-25 日本電気株式会社 画像処理装置、画像処理方法及びプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5115888A (en) * 1991-02-04 1992-05-26 Howard Schneider Self-serve checkout system
US6471125B1 (en) * 2000-05-24 2002-10-29 Ncr Corporation Method of tracking produce selection data
US9595029B1 (en) * 2012-10-04 2017-03-14 Ecr Software Corporation System and method for self-checkout, scan portal, and pay station environments
GB201300959D0 (en) * 2013-01-18 2013-03-06 Sainsbury S Supermarkets Ltd A computer system for processing product data
JP6141207B2 (ja) * 2014-01-07 2017-06-07 東芝テック株式会社 情報処理装置、店舗システム及びプログラム
JP5820011B2 (ja) * 2014-04-16 2015-11-24 東芝テック株式会社 情報処理装置、情報処理システムおよび情報処理方法
JP6375924B2 (ja) * 2014-12-15 2018-08-22 カシオ計算機株式会社 商品登録装置、商品特定方法及びプログラム
JP6341124B2 (ja) * 2015-03-16 2018-06-13 カシオ計算機株式会社 オブジェクト認識装置および認識結果提示方法
WO2017126253A1 (ja) * 2016-01-21 2017-07-27 日本電気株式会社 情報処理装置、情報処理方法、及び、プログラム
JP6209716B1 (ja) * 2016-06-02 2017-10-11 サインポスト株式会社 情報処理システム、情報処理方法、及びプログラム
US9996819B1 (en) * 2016-12-11 2018-06-12 Sankalp Sandeep Modi Voice programmable automatic identification and data capture devices and system
US11106941B2 (en) * 2018-07-16 2021-08-31 Accel Robotics Corporation System having a bar of relocatable distance sensors that detect stock changes in a storage area

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004127013A (ja) 2002-10-03 2004-04-22 Matsushita Electric Ind Co Ltd 販売時点情報管理装置
JP2007255761A (ja) 2006-03-22 2007-10-04 Mitsubishi Electric Corp 給湯器のリモコン装置
JP2009058236A (ja) 2007-08-30 2009-03-19 Sanyo Electric Co Ltd ナビゲーション装置
JP2016177433A (ja) 2015-03-19 2016-10-06 カシオ計算機株式会社 商品登録装置および商品登録方法
WO2018016214A1 (ja) 2016-07-21 2018-01-25 日本電気株式会社 画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
JP7226500B2 (ja) 2023-02-21
US20210097279A1 (en) 2021-04-01
WO2019163094A1 (ja) 2019-08-29
JPWO2019163094A1 (ja) 2021-02-04
JP2023041760A (ja) 2023-03-24
US20230359432A1 (en) 2023-11-09
JP6962442B2 (ja) 2021-11-05
US20230359434A1 (en) 2023-11-09
US20230359433A1 (en) 2023-11-09
JP2022002127A (ja) 2022-01-06

Similar Documents

Publication Publication Date Title
JP7464156B2 (ja) 登録装置、登録方法及びプログラム
JP2019168762A (ja) 精算システム、精算方法及びプログラム
US20150310414A1 (en) Information processing device and method of changing a transaction statement
US9355395B2 (en) POS terminal apparatus and commodity specification method
JP7070654B2 (ja) 登録装置、登録方法及びプログラム
US11587103B2 (en) Object detection system using image recognition, object detection device using image recognition, object detection method using image recognition, and non-transitory storage medium
JP7248010B2 (ja) 登録システム、登録方法及びプログラム
JP7215474B2 (ja) 登録システム、登録方法及びプログラム
JP7205603B2 (ja) 登録装置、登録方法及びプログラム
WO2019215966A1 (ja) 登録システム、登録方法及びプログラム
US20210012305A1 (en) Settlement system, settlement method, and non-transitory storage medium
JP7435716B2 (ja) 登録装置、登録方法及びプログラム
JP6984725B2 (ja) 登録装置、登録方法及びプログラム
JP7464162B2 (ja) 処理装置、処理方法及びプログラム
JP2019168818A (ja) 商品情報取得装置、商品情報取得方法、およびプログラム
JP7322945B2 (ja) 処理装置、処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240311