JP2018169752A - 商品認識システム、学習済みモデル、及び商品認識方法 - Google Patents
商品認識システム、学習済みモデル、及び商品認識方法 Download PDFInfo
- Publication number
- JP2018169752A JP2018169752A JP2017065914A JP2017065914A JP2018169752A JP 2018169752 A JP2018169752 A JP 2018169752A JP 2017065914 A JP2017065914 A JP 2017065914A JP 2017065914 A JP2017065914 A JP 2017065914A JP 2018169752 A JP2018169752 A JP 2018169752A
- Authority
- JP
- Japan
- Prior art keywords
- product
- target product
- information
- target
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Cash Registers Or Receiving Machines (AREA)
- Image Analysis (AREA)
Abstract
【課題】商品の特定に要する時間を低減すること。
【解決手段】商品認識システム(100)は、入力部(11)と、特定部(12)と、出力部(13)と、を備える。入力部(11)には、対象商品の画像を含む画像情報と、区分情報と、が入力される。区分情報は、少なくとも商品の重量情報により区分けされた複数の商品群(G10)のうち対象商品の属する商品群(G10)を選択するための情報である。特定部(12)は、画像情報及び区分情報に基づいて、対象商品の属する商品群(G10)から対象商品を特定する。出力部(13)は、特定した対象商品の識別情報を出力する。
【選択図】図1
【解決手段】商品認識システム(100)は、入力部(11)と、特定部(12)と、出力部(13)と、を備える。入力部(11)には、対象商品の画像を含む画像情報と、区分情報と、が入力される。区分情報は、少なくとも商品の重量情報により区分けされた複数の商品群(G10)のうち対象商品の属する商品群(G10)を選択するための情報である。特定部(12)は、画像情報及び区分情報に基づいて、対象商品の属する商品群(G10)から対象商品を特定する。出力部(13)は、特定した対象商品の識別情報を出力する。
【選択図】図1
Description
本発明は、一般に商品認識システム、学習済みモデル、及び商品認識方法に関し、より詳細には、入力された対象商品の画像を含む画像情報に基づいて対象商品を特定する商品認識システム、学習済みモデル、及び商品認識方法に関する。
特許文献1には、物体(商品)の種別等を認識する情報処理装置(商品認識システム)が開示されている。特許文献1に記載の情報処理装置は、撮像手段と、認識手段とを備える。撮像手段は、撮像部にかざされた物体を撮像する。認識手段は、撮像された物体の特徴量と、予め辞書に登録された各商品の照合用特徴量とを比較し、その類似度に基づいて各商品の中から物体の候補となる商品候補を認識(特定)する。
しかしながら、特許文献1に記載の商品認識システムでは、特定対象となる商品の数が増えるにつれて、商品の特定に要する時間が増大するという問題があった。
本発明は、上記の点に鑑みてなされており、商品の特定に要する時間を低減することのできる商品認識システム、学習済みモデル、及び商品認識方法を提供することを目的とする。
第1の態様に係る商品認識システムは、入力部と、特定部と、出力部と、を備える。前記入力部には、対象商品の画像を含む画像情報と、区分情報と、が入力される。前記区分情報は、少なくとも商品の重量情報により区分けされた複数の商品群のうち前記対象商品の属する商品群を選択するための情報である。前記特定部は、前記画像情報及び前記区分情報に基づいて、前記対象商品の属する商品群から前記対象商品を特定する。前記出力部は、特定した前記対象商品の識別情報を出力する。
第2の態様に係る商品認識システムでは、第1の態様において、前記特定部は、前記画像情報と、前記区分情報と、前記画像情報を入力データとして機械学習することで得られた予測モデルとを用いて、前記対象商品を特定するように構成されている。
第3の態様に係る商品認識システムでは、第2の態様において、前記特定部は、選択処理と、特定処理と、を実行するように構成されている。前記選択処理は、前記区分情報のうち前記重量情報に基づいて前記対象商品の属する商品群を選択する処理である。前記特定処理は、前記選択処理で選択された商品群に対応する前記予測モデルを用いて前記対象商品を特定する処理である。
第4の態様に係る商品認識システムでは、第3の態様において、前記予測モデルは複数である。前記複数の予測モデルは、前記複数の商品群にそれぞれ割り当てられており、対応する商品群に属する商品の画像を入力データとして機械学習可能に構成されている。
第5の態様に係る商品認識システムでは、第3又は第4の態様において、前記対象商品の一部は、前記複数の商品群のうちの2以上の商品群に紐付けられている。
第6の態様に係る商品認識システムでは、第5の態様において、前記特定部は、前記2以上の商品群に紐付けられた対象商品については、前記2以上の商品群ごとに対象商品の候補を特定するように構成されている。前記出力部は、前記特定部で特定された2以上の対象商品の候補のうち前記重量情報により選択される対象商品の前記識別情報を出力するように構成されている。
第7の態様に係る商品認識システムは、第1〜第6のいずれかの態様において、計測装置を更に備える。前記計測装置は、載置部と、計測部と、を有する。前記載置部には、前記対象商品が載せられる。前記計測部は、前記載置部に載せられた前記対象商品の重量を計測し、計測した前記対象商品の重量を前記重量情報として出力する。前記計測部は、前記載置部に載せられた前記対象商品の重量を複数の計測点にて計測するように構成されている。
第8の態様に係る商品認識システムでは、第7の態様において、前記対象商品は複数である。前記計測部は、前記載置部に載せられた前記複数の対象商品の重量を個別に計測するように構成されている。
第9の態様に係る商品認識システムでは、第7又は第8の態様において、前記計測部は、前記載置部に加わる圧力に基づいて前記対象商品の重量を計測するように構成されている。
第10の態様に係る学習済みモデルは、ニューラルネットワークの重み付け係数に基づく演算を行い、前記ニューラルネットワークの出力層から対象商品を特定する情報を出力するように、コンピュータシステムを機能させるためのモデルである。前記演算は、前記ニューラルネットワークの入力層に入力された画像情報に対して行われる。前記重み付け係数は、少なくとも前記対象商品の重量情報により区分けされた複数の商品群のうち前記対象商品の属する商品群における商品の画像を入力データとした学習により得られる。
第11の態様に係る商品認識方法は、認識処理と、出力処理と、を含む。前記認識処理は、対象商品の画像を含む画像情報、及び区分情報に基づいて、前記対象商品の属する商品群から前記対象商品を特定する処理である。前記区分情報は、少なくとも商品の重量情報により区分けされた複数の商品群のうち前記対象商品の属する商品群を選択するための情報である。前記出力処理は、前記認識処理により特定した前記対象商品の識別情報を出力する処理である。
本発明は、商品の特定に要する時間を低減することができる、という利点がある。
(1)概要
以下、実施形態に係る商品認識システム100の概要について図1及び図2を用いて説明する。本実施形態の商品認識システム100は、例えばコンビニエンスストアなどの店舗に設置されている、いわゆる無人レジに採用される。本実施形態の商品認識システム100は、対象商品の画像を含む画像情報が入力されると、入力された画像情報の表す対象商品を特定し、特定した対象商品の識別情報を出力するシステムである。ここで、「対象商品」とは、顧客が購入したい商品であり、特定する対象の商品という意味である。画像情報は、例えば撮像装置2で対象商品を撮像することにより得られる。例えば、商品認識システム100は、撮像装置2により撮像された画像にトマトが含まれている場合、対象商品がトマトであると特定し、トマトの識別情報を出力する。識別情報は、商品を識別するための情報(商品識別コード)であって、例えば日本国で用いられているJAN(Japanese Article Number)コード等である。この種の商品識別コードには、JANコードの他、欧州等で用いられているEAN(European Article Number)コード、及び米国等で用いられているUPC(Universal Product Code)等がある。
以下、実施形態に係る商品認識システム100の概要について図1及び図2を用いて説明する。本実施形態の商品認識システム100は、例えばコンビニエンスストアなどの店舗に設置されている、いわゆる無人レジに採用される。本実施形態の商品認識システム100は、対象商品の画像を含む画像情報が入力されると、入力された画像情報の表す対象商品を特定し、特定した対象商品の識別情報を出力するシステムである。ここで、「対象商品」とは、顧客が購入したい商品であり、特定する対象の商品という意味である。画像情報は、例えば撮像装置2で対象商品を撮像することにより得られる。例えば、商品認識システム100は、撮像装置2により撮像された画像にトマトが含まれている場合、対象商品がトマトであると特定し、トマトの識別情報を出力する。識別情報は、商品を識別するための情報(商品識別コード)であって、例えば日本国で用いられているJAN(Japanese Article Number)コード等である。この種の商品識別コードには、JANコードの他、欧州等で用いられているEAN(European Article Number)コード、及び米国等で用いられているUPC(Universal Product Code)等がある。
一例として、商品認識システム100は、対象商品の識別情報を、例えばPOS(Point Of Sales)システムなどの販売システムに送信する。販売システムは、商品の販売処理を行うためのシステムである。商品認識システム100及び販売システムが導入された店舗では、顧客は、例えば撮像装置2の撮像領域に購入したい商品(対象商品)を置いた後、販売システムにて対象商品の精算等を行う。このとき、商品認識システム100は、撮像装置2で得られた画像情報から対象商品を特定し、特定した対象商品の識別情報を販売システムに送信する。これにより、販売システムでの対象商品の精算等が可能になる。したがって、顧客が店舗で対象商品を購入する過程において、店員の介入が必須でなくなる。その結果、商品認識システム100によれば、顧客の買物に掛かる店員及び顧客の手間を軽減することができる。
本実施形態の商品認識システム100は、入力部11と、特定部12と、出力部13と、を備えている。入力部11には、対象商品の画像を含む画像情報と、区分情報と、が入力される。区分情報は、少なくとも商品の重量情報により区分けされた複数の商品群G10のうち対象商品の属する商品群G10を選択するための情報である。本実施形態では、商品認識システム100が扱う全ての商品は、商品の重量により複数の商品群G10に区分けされている。つまり、対象商品は、対象商品の重量に応じて属する商品群G10が異なってくる。
特定部12は、画像情報及び区分情報に基づいて、対象商品の属する商品群G10から対象商品を特定するように構成されている。言い換えれば、特定部12は、画像情報のみに基づいて全ての商品から対象商品を特定するように構成されてはいない。そして、出力部13は、特定した対象商品の識別情報を出力するように構成されている。
つまり、本実施形態の商品認識システム100は、全ての商品から対象商品を特定するのではなく、全ての商品群G10のうちの一部の商品群G10から対象商品を特定する。したがって、本実施形態の商品認識システム100は、全ての商品から対象商品を特定する場合と比較して、商品の特定に要する時間を低減することができる。
(2)詳細
以下、本実施形態の商品認識システム100について図1〜図6を用いて詳細に説明する。本実施形態の商品認識システム100は、図1に示すように、認識装置1と、撮像装置2と、計測装置3と、を備えている。認識装置1は、入力部11と、特定部12と、出力部13と、を備えている。本実施形態の商品認識システム100では、図2に示すように、認識装置1、撮像装置2、及び計測装置3は1つの装置として一体に構成されている。
以下、本実施形態の商品認識システム100について図1〜図6を用いて詳細に説明する。本実施形態の商品認識システム100は、図1に示すように、認識装置1と、撮像装置2と、計測装置3と、を備えている。認識装置1は、入力部11と、特定部12と、出力部13と、を備えている。本実施形態の商品認識システム100では、図2に示すように、認識装置1、撮像装置2、及び計測装置3は1つの装置として一体に構成されている。
撮像装置2は、例えばCCD(Charge-Coupled Device)センサ、又はCMOS(Complementary MOS)センサ等を備えて構成されている。撮像装置2は、計測装置3の載置部31に置かれた対象商品を撮像し、撮像した対象商品の画像データ(背景画像のデータを含む)を含む画像信号を認識装置1に出力する。本実施形態では、撮像装置2は、図2に示すように、載置部31の上方から載置部31を俯瞰する位置にある。そして、撮像装置2の撮像領域は、載置部31における対象商品が置かれる平面全体である。
計測装置3は、載置部31と、計測部32と、を有している。載置部31には、対象商品が載せられる。計測部32は、載置部31に載せられた対象商品の重量を計測し、計測した対象商品の重量を重量情報として出力するように構成されている。そして、本実施形態では、計測部32は、載置部31に載せられた対象商品の重量を複数の計測点43にて計測するように構成されている。本実施形態では、載置部31は、感圧型のセンサシート4で構成されている。このセンサシート4では、図3に示すように、複数の行電極41と、複数の列電極42とが格子状(グリッド状)に配列されている。そして、このセンサシートにおいて、行電極41と列電極42との交点が計測点43となる。つまり、このセンサシート4は、複数の計測点43を有している。したがって、載置部31に対象商品が載せられると、複数の計測点43に圧力が加わる。計測部32は、複数の計測点43の圧力分布に基づいて、対象商品の重量を計測する。
つまり、本実施形態では、計測部32は、載置部31に加わる圧力に基づいて、対象商品の重量を計測するように構成されている。また、本実施形態では、計測部32は、対象商品が複数である場合、複数の計測点43の圧力分布に基づいて、載置部31に載せられた複数の対象商品の重量を個別に計測するように構成されている。
例えば、図3に示す例では、センサシート4における第1領域A1、第2領域A2、及び第3領域A3に、それぞれ第1商品P1、第2商品P2、及び第3商品P3が置かれている。この場合、計測部32は、第1領域A1に位置する複数の計測点43での圧力分布に基づいて、第1商品P1の重量を計測する。また、計測部32は、第2領域A2に位置する複数の計測点43での圧力分布に基づいて、第2商品P2の重量を計測する。更に、計測部32は、第3領域A3に位置する複数の計測点43での圧力分布に基づいて、第3商品P3の重量を計測する。
入力部11は、撮像装置2からの画像信号、及び計測装置3からの重量信号が入力される入力インタフェースである。画像信号は、撮像装置2で撮像された対象商品の画像を含む画像情報を含む。ここでは、画像情報は、対象商品の画像に関するデータだけでなく、対象商品の周囲の背景画像に関するデータも含む。また、画像情報は、対象商品が1つである場合は、1つの対象商品の画像に関するデータを含み、対象商品が複数である場合は、複数の対象商品の画像に関するデータを含む。重量信号は、計測装置3で計測された対象商品の重量情報を含む。ここでは、重量情報は、対象商品の重量に関するデータである。重量信号は、対象商品が1つである場合は、1つの対象商品の重量情報を含み、対象商品が複数である場合は、複数の対象商品の各々の重量情報を含む。本実施形態では、この対象商品の重量情報が区分情報に相当する。入力部11は、入力された画像情報を、後述する特定部12の予測ブロック122に出力する。また、入力部11は、入力された対象商品の重量情報を、後述する特定部12の選択ブロック121に出力する。
特定部12は、例えば、CPU(Central Processing Unit)及びメモリを主構成とするコンピュータシステムにて構成されている。そして、CPUがメモリに格納されているプログラムを実行することにより、コンピュータシステムが特定部12として機能する。プログラムは、ここでは特定部12のメモリに予め記録されているが、インターネット等の電気通信回線を通じて、又はメモリカード等の記録媒体に記録されて提供されてもよい。
特定部12は、画像情報と、区分情報(本実施形態では、対象商品の重量情報)と、予測モデル(本実施形態では、後述するニューラルネットワークN1の重み付け係数)とを用いて、対象商品を特定するように構成されている。予測モデルは、画像情報を入力データとして機械学習(ここでは、ディープラーニング技術により機械学習)することで得られる。言い換えれば、予測モデルは、商品の画像を含む画像情報から機械学習アルゴリズムによって生成される学習済みモデルである。
特定部12は、図4に示すように、選択ブロック121と、予測ブロック122と、学習ブロック123と、を有している。選択ブロック121は、入力部11に入力された対象商品の重量情報に基づいて、複数の商品群G10から対象商品の属する商品群G10を選択するように構成されている。既に述べたように、商品認識システム100が扱う全ての商品は、商品の重量により複数の商品群G10に区分けされている。
本実施形態では、商品認識システム100が扱う全ての商品は、7つの商品群G1〜G7に区分けされている。第1商品群G1には、50[g]未満の重量の商品が属し、第2商品群G2には、30[g]以上100[g]未満の重量の商品が属し、第3商品群G3には、70[g]以上200[g]未満の重量の商品が属している。第4商品群G4には、150[g]以上500[g]未満の重量の商品が属し、第5商品群G5には、400[g]以上1000[g]未満の重量の商品が属し、第6商品群G6には、800[g]以上2000[g]未満の重量の商品が属している。また、第7商品群G7には、1500[g]以上の重量の商品が属している。
また、選択ブロック121は、複数の商品群G10ごとに、予測ブロック122のニューラルネットワークN1の重み付け係数を記憶している。そして、選択ブロック121は、対象商品の属する商品群G10に対応する重み付け係数を読み出し、読み出した重み付け係数をニューラルネットワークN1に与える。例えば、対象商品の重量が300[g]である場合、選択ブロック121は、第4商品群G4に対応する重み付け係数を読み出し、読み出した重み付け係数をニューラルネットワークN1に与える。
予測ブロック122は、図5に示すように、1つの入力層L1と、複数の中間層L2と、1つの出力層L3とを有するニューラルネットワークN1で構成されている。入力層L1、複数の中間層L2、及び出力層L3は、いずれも複数のニューロン(ノード)NE1で構成されている。また、複数の中間層L2及び出力層L3の各々のニューロンNE1は、1以上前の層の複数のニューロンNE1と結合している。更に、複数の中間層L2及び出力層L3の各々のニューロンNE1への入力値は、1以上前の層の複数のニューロンNE1の各々の出力値に、それぞれ固有の重み付け係数が乗算された値の総和である。
ニューラルネットワークN1の入力層L1には、入力部11に入力された画像情報を所定のサイズに正規化した画像情報が入力される。正規化処理は、入力部11で実行されてもよいし、特定部12で実行されてもよい。ニューラルネットワークN1の出力層L3は、基本的に、商品認識システム100が扱う対象の商品に対応する複数のニューロンNE1を含んでいる。具体的には、出力層L3のニューロンNE1の数は、各商品群G10に属する商品の数のうち最大の数以上であればよい。例えば、複数の商品群G10のうち第4商品群G10に属する商品の数が最も多く、その数が「55」であったとする。この場合、出力層L3のニューロンNE1の数は、「55」であってもよいし、新たに追加される商品の数を想定して、例えば「60」であってもよい。出力層L3では、複数のニューロンNE1のうち、入力層L1に入力された画像情報に応じた1以上のニューロンNE1が発火する(つまり、閾値を超える)。そして、出力層L3における複数のニューロンNE1の出力値が、出力部13に対象商品の特定情報として出力される。
ここで、ニューラルネットワークN1の重み付け係数は、選択ブロック121から与えられた重み付け係数に設定される。言い換えれば、ニューラルネットワークN1の重み付け係数は、複数の商品群G10のうち、選択ブロック121にて選択された対象商品が属する商品群G10に対応する重み付け係数である。このため、ニューラルネットワークN1の出力層L3にて発火するニューロンNE1は、全ての商品のうちの1以上の商品に対応するニューロンNE1ではなく、選択された商品群G10に属する複数の商品のうちの1以上の商品に対応するニューロンNE1である。
学習ブロック123は、予測ブロック122での対象商品の特定情報に応じて、対象商品の属する商品群G10の重み付け係数を更新する。具体的には、学習ブロック123には、ニューラルネットワークN1の出力層L3における複数のニューロンNE1の出力値と、教師データとが入力される。ここで、教師データは、商品の画像に紐付けられた商品を表すデータ(つまり、正解を表すデータ)であり、人の手により画像情報に含められる。例えば、入力部11に入力される画像情報に商品としてパンの画像が含まれる場合、この画像情報に対応する教師データは、商品がパンであることを表すデータである。
学習ブロック123は、例えばこれらの入力データを用いて損失関数を算出する。そして、学習ブロック123は、例えば確率的勾配効果法などを用いて、算出した損失関数が最小値となる重み付け係数を算出し、算出した重み付け係数を選択ブロック121に与える。選択ブロック121では、対象商品が属する商品群G10の現在の重み付け係数を、学習ブロック123から与えられた重み付け係数に更新する。このようにして、学習ブロック123は、予測ブロック122での対象商品の特定の精度が向上するように、対象商品が属する商品群G10の重み付け係数の最適化を図る。
上述のように、本実施形態では、特定部12は、選択ブロック121による選択処理と、予測ブロック122による特定処理と、を実行するように構成されている。選択処理は、区分情報のうち重量情報に基づいて対象商品の属する商品群G10を選択する処理である。特定処理は、選択処理で選択された商品群G10に対応する予測モデルを用いて対象商品を特定する処理である。
そして、本実施形態では、予測モデルは、複数である。ここで、複数の予測モデルは、いずれもニューラルネットワークN1の重み付け係数であり、それぞれ互いに異なる重み付け係数を有している。複数の予測モデルは、複数の商品群G10にそれぞれ割り当てられている。また、複数の予測モデルは、それぞれ対応する商品群G10に属する商品の画像を入力データとして機械学習可能に構成されている。
本実施形態では、対象商品の一部は、複数の商品群G10のうち2以上の商品群G10に紐付けられる。具体的には、第1商品群G1に属する対象商品のうち30[g]以上50[g]以下の重量の対象商品は、第2商品群G2にも属している。つまり、この対象商品は、2つの商品群G10(第1商品群G1及び第2商品群G2)に紐付けられるといえる。本実施形態では、上記の対象商品以外にも、70[g]以上100[g]以下の重量の対象商品が第2商品群G2及び第3商品群G3に属し、150[g]以上200[g]以下の重量の対象商品が第3商品群G3及び第4商品群G4に属している。また、400[g]以上500[g]以下の重量の対象商品が第4商品群G4及び第5商品群G5に属し、800[g]以上1000[g]以下の重量の対象商品が第5商品群G5及び第6商品群G6に属している。更に、1500[g]以上2000[g]以下の重量の対象商品は、第6商品群G6及び第7商品群G7に属している。
そして、特定部12は、2以上の商品群G10に紐付けられた対象商品については、2以上の商品群G10ごとに対象商品の候補を特定するように構成されている。例えば、商品の重量が40[g]である場合、特定部12は、第1商品群G1に対応する予測モデルを用いて対象商品の候補を特定し、かつ、第2商品群G2に対応する予測モデルを用いて対象商品の候補を特定する。つまり、特定部12は、第1商品群G1に属する対象商品についての特定情報と、第2商品群G2に属する対象商品についての特定情報とを出力部13に出力する。
出力部13は、例えばデコーダであり、特定部12から対象商品の特定情報が入力されると、特定情報に応じた対象商品の識別情報を出力する。具体的には、出力部13は、ニューラルネットワークN1の出力層L3の複数のニューロンNE1のうち、最も出力値の大きい(つまり、特定の度合いが最も高い)ニューロンNE1に対応する対象商品の識別情報を出力する。本実施形態では、出力部13は、識別情報として商品識別コード(JANコード、EANコード、及びUPC等)を、例えば販売システムに対して出力する。
ここで、出力部13は、特定部12から2以上の対象商品の特定情報が入力された場合、重量情報に基づいて、これらの特定情報から1の特定情報を選択する。そして、出力部13は、選択した1の特定情報に基づいて、対象商品の識別情報を出力する。つまり、出力部13は、特定部12で特定された2以上の対象商品の候補のうち重量情報により選択される対象商品の識別情報を出力するように構成されている。
例えば、対象商品の重量が450[g]である場合、特定部12は、第4商品群G4から対象商品を特定した特定情報と、第5商品群G5から対象商品を特定した特定情報との2つの特定情報を出力する。ここで、第4商品群G4から特定された対象商品の重量が350[g]であり、第5商品群G5から特定された対象商品の重量が480[g]である場合、出力部13は、対象商品の重量に近い第5商品群G5から特定された対象商品の識別情報を出力する。
(3)動作
以下、本実施形態の商品認識システム100の動作について説明する。本実施形態の商品認識システム100は、認識モードと、学習モードとの2つの動作モードを有している。認識モードは、特定部12の選択ブロック121及び予測ブロック122を用いて、入力部11に入力された画像情報に基づいて対象商品を特定(つまり、認識)するモードである。学習モードは、特定部12の選択ブロック121、予測ブロック122、及び学習ブロック123を用いて、入力部11に入力される教師データを含む画像情報から機械学習し、ニューラルネットワークN1の重み付け係数を設定するモードである。学習モードでは、ニューラルネットワークN1の重み付け係数は、複数の商品群G10ごとに設定される。
以下、本実施形態の商品認識システム100の動作について説明する。本実施形態の商品認識システム100は、認識モードと、学習モードとの2つの動作モードを有している。認識モードは、特定部12の選択ブロック121及び予測ブロック122を用いて、入力部11に入力された画像情報に基づいて対象商品を特定(つまり、認識)するモードである。学習モードは、特定部12の選択ブロック121、予測ブロック122、及び学習ブロック123を用いて、入力部11に入力される教師データを含む画像情報から機械学習し、ニューラルネットワークN1の重み付け係数を設定するモードである。学習モードでは、ニューラルネットワークN1の重み付け係数は、複数の商品群G10ごとに設定される。
(3.1)学習モード
まず、学習モードについて説明する。学習モードは、例えば学習用のセンターで実行される。つまり、認識モードを実行する場所(例えば、コンビニエンスストアなどの店舗)と、学習モードを実行する場所とは互いに異なっていてもよい。まず、第1商品群G1について予測モデル(ニューラルネットワークN1の重み付け係数)の学習を行う。具体的には、第1商品群G1に対応するニューラルネットワークN1の重み付け係数を初期化し、第1商品群G1に属する全ての商品の画像情報(教師データを含む)を、予測ブロック122に入力する。このとき、正規化された画像における商品の位置、大きさ、角度を変更した多数の画像情報を、商品ごとに用意するのが好ましい。以下では、予測モデルの学習に用いる画像情報を「学習用の画像情報」という。
まず、学習モードについて説明する。学習モードは、例えば学習用のセンターで実行される。つまり、認識モードを実行する場所(例えば、コンビニエンスストアなどの店舗)と、学習モードを実行する場所とは互いに異なっていてもよい。まず、第1商品群G1について予測モデル(ニューラルネットワークN1の重み付け係数)の学習を行う。具体的には、第1商品群G1に対応するニューラルネットワークN1の重み付け係数を初期化し、第1商品群G1に属する全ての商品の画像情報(教師データを含む)を、予測ブロック122に入力する。このとき、正規化された画像における商品の位置、大きさ、角度を変更した多数の画像情報を、商品ごとに用意するのが好ましい。以下では、予測モデルの学習に用いる画像情報を「学習用の画像情報」という。
ニューラルネットワークN1の入力層L1には、学習用の画像情報が入力される。そして、予測モデルは、入力層L1に入力された学習用の画像情報から機械学習することで、商品を特定するために必要な商品の画像の特徴量を学習する。つまり、対象商品の特定に必要な商品の画像の特徴量は、人が与える特徴量ではなく、予測モデルが学習することにより自発的に取得した特徴量である。
予測モデルの学習が一旦完了すると、次に、テスト用の画像情報を予測ブロック122に入力する。ここで、「テスト用の画像情報」とは、予測モデルの学習における商品群G10に属する商品の画像を含む画像情報であるが、学習用の画像情報とは異なる情報である。このテスト用の画像情報の入力に対して、ニューラルネットワークN1が所定以上の精度で商品を特定できるか否かを試験する。
複数のテスト用画像を用いて試験を行い、予測ブロック122が所定以上の精度で商品を特定できない場合は、更に多くの学習用の画像情報を入力部11に入力して予測モデルの再学習を実行し、その後、複数のテスト用の画像情報にて再試験を行う。試験又は再試験を行い、予測ブロック122が所定以上の精度で商品を特定できる場合は、第1商品群G1についての予測モデルの学習を終了し、次に第2商品群G2について予測モデルの学習を行う。
以下、上記と同じ手順を踏むことにより、全ての商品群G10の予測モデルについて学習を行う。学習モードにおいては、予測モデルの学習の開始及び終了のトリガ、学習用の画像情報、及びテスト用の画像情報は、人の手により商品認識システム100に与えられる。学習モードで学習が完了した予測モデルは、学習済みモデルとして、複数の商品群G10ごとに選択ブロック121に記憶される。
(3.2)認識モード
次に、認識モードについて説明する。まず、顧客は、購入したい商品(対象商品)を計測装置3の載置部31に置く。すると、計測装置3の計測部32により、載置部31に置かれた対象商品の重量が計測される。そして、対象商品の重量情報が入力部11に入力される。また、撮像装置2により、載置部31に置かれた対象商品を含む画像が撮像される。そして、画像情報が入力部11に入力される。撮像装置2による撮像、及び計測部32による計測は、いずれも対象商品を載置部31に置くことをトリガとして実行されてもよいし、例えば押釦スイッチを押すなどの顧客による操作をトリガとして実行されてもよい。
次に、認識モードについて説明する。まず、顧客は、購入したい商品(対象商品)を計測装置3の載置部31に置く。すると、計測装置3の計測部32により、載置部31に置かれた対象商品の重量が計測される。そして、対象商品の重量情報が入力部11に入力される。また、撮像装置2により、載置部31に置かれた対象商品を含む画像が撮像される。そして、画像情報が入力部11に入力される。撮像装置2による撮像、及び計測部32による計測は、いずれも対象商品を載置部31に置くことをトリガとして実行されてもよいし、例えば押釦スイッチを押すなどの顧客による操作をトリガとして実行されてもよい。
図6に示すように、入力部11に入力された対象商品の重量情報は、特定部12の選択ブロック121に入力される。選択ブロック121は、入力された対象商品の重量情報に基づいて、対象商品が属する商品群G10を選択する。そして、選択ブロック121は、選択した商品群G10に対応する予測モデル(重み付け係数)をメモリから読み出し、読み出した予測モデルを予測ブロック122に出力する。
予測ブロック122は、入力部11に入力された画像情報と、選択ブロック121から入力された予測モデルとを用いて、特定処理を実行する。そして、予測ブロック122は、特定処理により得られた特定情報を出力部13に出力する。出力部13は、予測ブロック122から入力された特定情報に基づいて、特定された対象商品の識別情報を出力する。
以下、具体例について説明する。例えば、顧客が林檎を購入したい場合、顧客は、林檎を計測装置3の載置部31に置く。このとき、計測部32により、林檎の重量が300[g]と計測されたとする。また、撮像装置2により、林檎を含む画像が撮像される。その後、選択ブロック121は、林檎の重量に基づいて、林檎の属する商品群G10である第4商品群G4を選択する。そして、第4商品群G4に対応する予測モデルを読み出し、読み出した予測モデルを予測ブロック122に出力する。予測ブロック122は、林檎の画像を含む画像情報と、第4商品群G4に対応する予測モデルとを用いて、特定処理を実行する。そして、予測ブロック122は、特定処理により対象商品が林檎であると特定し、特定情報を出力部13に出力する。出力部13は、予測ブロック122から入力された特定情報に基づいて、林檎の識別情報を出力する。
次に、載置部31に複数の対象商品が置かれた場合の動作について説明する。この場合、計測部32は、複数の計測点43の圧力分布に基づいて、複数の対象商品の重量を個別に計測する。そして、入力部11には、複数の対象商品の重量情報が個別に入力される。また、図3に示すように、計測部32は、複数の計測点43の圧力分布に基づいて、複数の対象商品が置かれた領域を区別することができる。つまり、入力部11には、複数の対象商品の位置情報が個別に入力される。
したがって、入力部11(又は特定部12)では、複数の対象商品の位置情報に基づいて、撮像装置2で撮像された画像から、複数の対象商品を個別に表した複数の画像情報を生成することが可能である。そして、特定部12は、生成した複数の画像情報と、複数の対象商品の重量情報とに基づいて、複数の対象商品ごとに特定処理を実行する。これにより、特定部12は、複数の対象商品を個別に特定することが可能である。
(4)変形例
本実施形態では、複数の商品群G10は、それぞれ互いに商品の重量の区分が重なり合う重複区分を有しているが、重複区分を有さないように区分けされていてもよい。例えば、第1〜第4商品群G1〜G4は、それぞれ50[g]未満、50[g]以上100[g]未満、100[g]以上200[g]未満、200[g]以上500[g]未満に区分けされていてもよい。また、第5〜第7商品群G5〜G7は、それぞれ500[g]以上1000[g]未満、1000[g]以上2000[g]未満、2000[g]以上に区分けされていてもよい。
本実施形態では、複数の商品群G10は、それぞれ互いに商品の重量の区分が重なり合う重複区分を有しているが、重複区分を有さないように区分けされていてもよい。例えば、第1〜第4商品群G1〜G4は、それぞれ50[g]未満、50[g]以上100[g]未満、100[g]以上200[g]未満、200[g]以上500[g]未満に区分けされていてもよい。また、第5〜第7商品群G5〜G7は、それぞれ500[g]以上1000[g]未満、1000[g]以上2000[g]未満、2000[g]以上に区分けされていてもよい。
この場合、入力部11(又は特定部12)は、対象商品の重量に応じて、下限値及び上限値を設定してもよい。例えば、対象商品の重量が45[g]であれば、この対象商品の重量の下限値は35[g]、上限値は55[g]に設定される。そして、特定部12は、対象商品の重量の下限値及び上限値に対応する2つの商品群G10(ここでは、第1商品群G1と第2商品群G2)について、それぞれ対象商品の候補を特定する特定処理を実行する。つまり、特定部12は、対象商品が2以上の商品群G10に紐付けられている場合と同様に、2以上の商品群G10ごとに対象商品の候補を特定することになる。この場合も、出力部13は、特定部12で特定された2以上の対象商品の候補のうち重量情報により選択される対象商品の識別情報を出力する。
本実施形態では、商品認識システム100が取り扱う全ての商品は、7つの商品群G10に区分けされているが、7つ未満の商品群G10に区分けされてもよいし、8以上の商品群G10に区分けされてもよい。また、商品認識システム100が取り扱う全ての商品は、商品群G10ごとに属する商品の数が均等になるように、複数の商品群G10に区分けされてもよい。
本実施形態では、複数の商品群G10は、区分情報である対象商品の重量情報に基づいて区分けされているが、区分情報を限定する趣旨ではない。例えば、複数の商品群G10は、対象商品の重量情報の他に、対象商品の体積情報、対象商品の大きさ情報、顧客情報、時間情報などの区分情報に基づいて、更に細かく区分けされていてもよい。例えば、対象商品の体積情報であれば、計測部32は、複数の計測点43の圧力分布に基づいて計測することが可能である。
ここで、「顧客情報」は、顧客が属する対象商品の購買層に関する情報である。例えば、重量情報に基づく商品群G10が同一であっても、顧客情報が「男性」である対象商品(例えば、髭剃りなど)と、顧客情報が「女性」である対象商品(例えば、化粧品など)とは、互いに異なる商品群G10に区分けされる。
また、「時間情報」は、顧客が対象商品を購入する時間帯に関する情報である。例えば、重量情報に基づく商品群G10が同一であっても、時間情報が「朝」である対象商品(例えば、牛乳など)と、時間情報が「昼」である対象商品(例えば、弁当など)とは、互いに異なる商品群G10に区分けされてもよい。その他、「時間情報」は、顧客が対象商品を購入する季節に関する情報であってもよい。例えば、重量情報に基づく商品群G10が同一であっても、時間情報が「夏」である対象商品(例えば、西瓜など)と、時間情報が「冬」である対象商品(例えば、蟹など)とは、互いに異なる商品群G10に区分けされてもよい。
本実施形態では、対象商品として林檎などの果物、トマトなどの野菜を挙げているが、対象商品を果物、野菜に限定する趣旨ではない。対象商品は、例えば医薬品、日用品、電化製品、書物など、載置部31に置いて計測部32により計測可能な商品であり、かつ撮像装置2により撮像可能な商品であればよい。
本実施形態では、計測装置3の載置部31はセンサシート4で構成されているが、計測装置3の構成を限定する趣旨ではない。例えば、計測装置3の載置部31は、ロードセル、又は電磁平衡式センサなどで構成されていてもよい。つまり、計測装置3は、1つの商品、又は複数の商品の重量を計測可能な構成であればよい。
本実施形態では、撮像装置2は、載置部31における対象商品が置かれる平面全体を撮像する構成であるが、載置部31のうち一部の領域のみを撮像する構成であってもよい。例えば、載置部31には、柵で囲まれる等して商品を載置するための特定領域が設定されているとする。この場合、撮像装置2は、特定領域を撮像可能に構成されていればよい。
予測モデルの学習は、CPU(Central Processing)だけでなく、GPU(Graphics Processing Unit)により行われてもよい。更に、予測モデルの学習は、単一のCPU又はGPUで行われるだけでなく、1以上CPU又は1以上のGPUで分散して行われてもよい。
予測モデルは、定期的、又は不定期に再学習を行うことにより再学習されてもよい。この場合、全ての商品群G10について再学習を行うのではなく、新たに商品が追加される等して変化の生じた商品群G10についてのみ再学習を行うのが好ましい。商品認識システム100では、再学習が行われた予測モデルを既存の予測モデルに上書きすることにより、予測モデルを更新するのが好ましい。
本実施形態では、認識装置1、撮像装置2、及び計測装置3は、1つの装置として一体に構成されているが、2以上の装置に分散して構成されていてもよい。この場合、認識装置1は、有線通信又は無線通信により撮像装置2及び計測装置3と通信可能に構成されていればよい。その他、認識装置1は、例えばクラウド(クラウドコンピューティング)に実装されていてもよい。
また、商品認識システム100の各構成要素(入力部11、特定部12、及び出力部13)は、2つ以上の装置に分散して設けられてもよい。例えば、入力部11及び出力部13と、特定部12とが、それぞれ店舗に設置された装置とクラウドとに分散して設けられてもよい。
本実施形態の商品認識システム100は、認識装置1と、撮像装置2と、計測装置3と、を備えているが、撮像装置2及び計測装置3は備えていなくてもよい。つまり、商品認識システム100は、入力部11、特定部12、及び出力部13を備えていればよく、システム外の撮像装置2及び計測装置3から画像信号及び重量信号を取得する構成であればよい。
本実施形態では、商品認識システム100を、例えばコンビニエンスストアなどの店舗に設置されている、いわゆる無人レジに採用することを想定しているが、商品認識システム100の用途を限定する趣旨ではない。例えば、商品認識システム100は、駅の売店、スーパーマーケットの無人レジに採用されてもよい。つまり、商品認識システム100は、店員の手を介さずに商品の販売を行う販売手法を利用する店舗において、適宜採用することが可能である。もちろん、商品認識システム100は、上記のように店員の操作を必要とせずに商品の購入が可能な販売システムと併せて使用されなくてもよく、例えば、いわゆる有人レジのようにレジカウンタに店員が居る状況で使用されてもよい。
また、商品認識システム100と同様の機能は、商品認識方法、又は学習済みモデル等で具現化されてもよい。一態様に係る商品認識方法は、認識処理と、出力処理と、を含む。認識処理は、対象商品の画像を含む画像情報、及び区分情報に基づいて、対象商品の属する商品群G10から対象商品を特定する処理である。区分情報は、少なくとも商品の重量情報により区分けされた複数の商品群G10のうち対象商品の属する商品群G10を選択するための情報である。出力処理は、認識処理により特定した対象商品の識別情報を出力する処理である。
また、一態様に係る学習済みモデルは、ニューラルネットワークN1の重み付け係数に基づく演算を行い、ニューラルネットワークN1の出力層L3から対象商品を特定する情報を出力するように、コンピュータシステムを機能させるためのモデルである。上記演算は、ニューラルネットワークN1の入力層L1に入力された画像情報に対して行われる。重み付け係数は、少なくとも対象商品の重量情報により区分けされた複数の商品群G10のうち対象商品の属する商品群における商品の画像を入力データとした学習により得られる。
(まとめ)
以上述べたように、第1の態様に係る商品認識システム(100)は、入力部(11)と、特定部(12)と、出力部(13)と、を備える。入力部(11)には、対象商品の画像を含む画像情報と、区分情報と、が入力される。区分情報は、少なくとも商品の重量情報により区分けされた複数の商品群(G10)のうち対象商品の属する商品群(G10)を選択するための情報である。特定部(12)は、画像情報及び区分情報に基づいて、対象商品の属する商品群(G10)から対象商品を特定する。出力部(13)は、特定した対象商品の識別情報を出力する。
以上述べたように、第1の態様に係る商品認識システム(100)は、入力部(11)と、特定部(12)と、出力部(13)と、を備える。入力部(11)には、対象商品の画像を含む画像情報と、区分情報と、が入力される。区分情報は、少なくとも商品の重量情報により区分けされた複数の商品群(G10)のうち対象商品の属する商品群(G10)を選択するための情報である。特定部(12)は、画像情報及び区分情報に基づいて、対象商品の属する商品群(G10)から対象商品を特定する。出力部(13)は、特定した対象商品の識別情報を出力する。
この構成によれば、区分情報により対象商品の属する商品群(G10)を絞り込むことで、全ての商品から対象商品を特定する場合と比較して、特定すべき商品の種類の数を低減することができる。つまり、特定部(12)が対象商品を特定する処理を実行する際に、全ての商品が処理の対象となるのではなく、複数の商品群(G10)のうちの一部の商品群(G10)に属する商品のみが処理の対象になる。したがって、この構成によれば、全ての対象商品から対象商品を特定する場合と比較して、対象商品を特定する処理の負荷が軽減され、商品の特定に要する時間を低減することができる、という利点がある。
第2の態様に係る商品認識システム(100)では、第1の態様において、特定部(12)は、画像情報と、区分情報と、画像情報を入力データとして機械学習することで得られた予測モデルとを用いて、対象商品を特定するように構成されている。
この構成によれば、機械学習により得られた予測モデルを用いることで、対象商品を特定する処理を容易に実現し易い、という利点がある。ただし、この構成は必須ではなく、特定部(12)は、例えば予測モデルを用いないパターンマッチングにより、対象商品を特定するように構成されていてもよい。
第3の態様に係る商品認識システム(100)では、第2の態様において、特定部(12)は、選択処理と、特定処理と、を実行するように構成されている。選択処理は、区分情報のうち重量情報に基づいて対象商品の属する商品群(G10)を選択する処理である。特定処理は、選択処理で選択された商品群(G10)に対応する予測モデルを用いて対象商品を特定する処理である。
この構成によれば、区分情報として比較的計測し易い商品の重量情報を用いるので、対象商品の属する商品群(G10)を選択する精度を向上することができる、という利点がある。ただし、この構成は必須ではなく、特定部(12)は、選択処理において、重量情報以外の区分情報に基づいて対象商品の属する商品群(G10)を選択するように構成されていてもよい。
第4の態様に係る商品認識システム(100)では、第3の態様において、予測モデルは複数である。複数の予測モデルは、複数の商品群(G10)にそれぞれ割り当てられており、対応する商品群(G10)に属する商品の画像を入力データとして機械学習可能に構成されている。
この構成によれば、商品認識システム100が取り扱う商品に新たな商品が追加された場合に、予測モデルの再学習に必要な時間を短くすることができる、という利点がある。つまり、予測モデルが1つである場合、新たな商品が追加されると、新たな商品を含めた全ての商品について予測モデルの再学習を行う必要があり、再学習に要する時間が長くなってしまう。そして、商品認識システム100を採用する店舗によっては、新たな商品が追加される頻度は比較的多いため、その都度、全ての商品について予測モデルの再学習を行っていたのでは非常に効率が悪い。
一方、複数の予測モデルが複数の商品群(G10)にそれぞれ割り当てられている場合、新たな商品が追加された場合でも、新たな商品の属する商品群(G10)に対応する予測モデルについてのみ再学習を行えばよい。つまり、この構成では、他の予測モデルについての再学習が不要であることから、予測モデルの再学習に必要な時間を短くすることができる。ただし、この構成は必須ではなく、複数の予測モデルの一部は、機械学習可能に構成されていなくてもよい。
第5の態様に係る商品認識システム(100)では、第3又は第4の態様において、対象商品の一部は、複数の商品群(G10)のうちの2以上の商品群(G10)に紐付けられる。
この構成によれば、例えば野菜、果物、及び弁当など商品の重量にばらつきがある場合でも、対象商品を特定し易い、という利点がある。例えば、胡瓜の重量が平均100[g]であり、胡瓜が第2商品群G2のみに属する商品であると仮定する。この場合、比較的大きい胡瓜であれば、重量が100[g]を超える可能性がある。そして、特定部(12)は、重量が100[g]を超えた胡瓜については、第3商品群G3に属する商品として対象商品を特定する処理を実行するため、対象商品が胡瓜であると特定できない可能性がある。一方、対象商品が2以上の商品群(G10)に紐付けられている場合、例えば上記の例であれば胡瓜が第2商品群G2及び第3商品群G3に紐付けられていれば、特定部(12)は、対象商品が胡瓜であると特定することが可能である。
また、この構成によれば、例えば原材料の値上がり等により商品の単価当たりの重量を減らす場合でも、対象商品を特定し易い、という利点がある。ただし、この構成は必須ではなく、対象商品は、1つの商品群(G10)のみに紐付けられていてもよい。
第6の態様に係る商品認識システム(100)では、第5の態様において、特定部(12)は、2以上の商品群(G10)に紐付けられた対象商品については、2以上の商品群(G10)ごとに対象商品の候補を特定するように構成されている。出力部(13)は、特定部(12)で特定された2以上の対象商品の候補のうち重量情報により選択される対象商品の識別情報を出力するように構成されている。
この構成によれば、2以上の商品群(G10)のいずれにも属する対象商品について、商品を特定する精度を向上することが可能である、という利点がある。ただし、この構成は必須ではなく、出力部(13)は、特定部(12)で特定された2以上の対象商品の識別情報を全て出力するように構成されていてもよい。
第7の態様に係る商品認識システム(100)は、第1〜第6のいずれかの態様において、計測装置(3)を更に備える。計測装置(3)は、載置部(31)と、計測部(32)と、を有する。載置部(31)には、対象商品が載せられる。計測部(32)は、載置部(31)に載せられた対象商品の重量を計測し、計測した対象商品の重量を重量情報として出力する。計測部(32)は、載置部(31)に載せられた対象商品の重量を複数の計測点にて計測するように構成されている。
この構成によれば、複数の計測点のうち対象商品の重量を計測した計測点の位置に基づいて、載置部(31)における対象商品の位置情報を計測することも可能である、という利点がある。ただし、この構成は必須ではなく、計測部(32)は、載置部(31)に載せられた対象商品の重量を1点で計測するように構成されていてもよい。
第8の態様に係る商品認識システム(100)では、第7の態様において、対象商品は複数である。計測部(32)は、載置部(31)に載せられた複数の対象商品の重量を個別に計測するように構成されている。
この構成によれば、複数の対象商品の重量情報(区分情報)を纏めて取得することができるので、載置部(31)に1つずつ対象商品を置かずとも、載置部(31)に複数の対象商品を纏めて置くことが可能である。また、この構成によれば、載置部(31)に1つずつ対象商品を置いて対象商品を特定することなく、載置部(31)に複数の対象商品を纏めて置いて複数の対象商品を纏めて特定することができる、という利点がある。ただし、この構成は必須ではなく、計測部(32)は、載置部(31)に載せられた1つの対象商品の重量のみを計測するように構成されていてもよい。
第9の態様に係る商品認識システム(100)では、第7又は第8の態様において、計測部(32)は、載置部(31)に加わる圧力に基づいて対象商品の重量を計測するように構成されている。
この構成によれば、載置部(31)に加わる圧力分布に基づいて、画像情報のうち対象商品が存在する画像領域を限定することができるので、対象商品の特定に要する時間を更に低減することができる、という利点がある。ただし、この構成は必須ではなく、計測部(32)は、例えばロードセル、又は電磁平衡式センサなどを用いて、圧力以外の物理量に基づいて対象商品の重量を計測するように構成されていてもよい。
第10の態様に係る学習済みモデルは、以下のように構成されるモデルである。すなわち、学習済みモデルは、ニューラルネットワーク(N1)の重み付け係数に基づく演算を行い、ニューラルネットワーク(N1)の出力層(L3)から対象商品を特定する情報を出力するように、コンピュータシステムを機能させるためのモデルである。上記演算は、ニューラルネットワーク(N1)の入力層(L1)に入力された画像情報に対して行われる。重み付け係数は、少なくとも対象商品の重量情報により区分けされた複数の商品群(G10)のうち対象商品の属する商品群における商品の画像を入力データとした学習により得られる。
この構成によれば、全ての商品から対象商品を特定する場合と比較して、商品の特定に要する時間を低減することができる、という利点がある。
第11の態様に係る商品認識方法は、認識処理と、出力処理と、を含む。認識処理は、対象商品の画像を含む画像情報、及び区分情報に基づいて、対象商品の属する商品群(G10)から対象商品を特定する処理である。区分情報は、少なくとも商品の重量情報により区分けされた複数の商品群(G10)のうち対象商品の属する商品群(G10)を選択するための情報である。出力処理は、認識処理により特定した対象商品の識別情報を出力する処理である。
この構成によれば、全ての商品から対象商品を特定する場合と比較して、商品の特定に要する時間を低減することができる、という利点がある。
以上、実施形態に係る商品認識システム100、学習済みモデル、及び商品認識方法について説明した。ただし、以上に説明した実施形態は、本発明の様々な実施形態の一つに過ぎない。上記の実施形態は、本発明の目的を達成できれば、設計等に応じて種々の変更が可能である。
11 入力部
12 特定部
13 出力部
3 計測装置
31 載置部
32 計測部
43 計測点
100 商品認識システム
G10 商品群
L1 入力層
L3 出力層
N1 ニューラルネットワーク
12 特定部
13 出力部
3 計測装置
31 載置部
32 計測部
43 計測点
100 商品認識システム
G10 商品群
L1 入力層
L3 出力層
N1 ニューラルネットワーク
Claims (11)
- 対象商品の画像を含む画像情報と、少なくとも商品の重量情報により区分けされた複数の商品群のうち前記対象商品の属する商品群を選択するための区分情報と、が入力される入力部と、
前記画像情報及び前記区分情報に基づいて、前記対象商品の属する商品群から前記対象商品を特定する特定部と、
特定した前記対象商品の識別情報を出力する出力部と、を備える
商品認識システム。 - 前記特定部は、前記画像情報と、前記区分情報と、前記画像情報を入力データとして機械学習することで得られた予測モデルとを用いて、前記対象商品を特定するように構成されている
請求項1記載の商品認識システム。 - 前記特定部は、
前記区分情報のうち前記重量情報に基づいて前記対象商品の属する商品群を選択する選択処理と、
前記選択処理で選択された商品群に対応する前記予測モデルを用いて前記対象商品を特定する特定処理と、を実行するように構成されている
請求項2記載の商品認識システム。 - 前記予測モデルは複数であって、
前記複数の予測モデルは、前記複数の商品群にそれぞれ割り当てられており、対応する商品群に属する商品の画像を入力データとして機械学習可能に構成されている
請求項3記載の商品認識システム。 - 前記対象商品の一部は、前記複数の商品群のうちの2以上の商品群に紐付けられる
請求項3又は4に記載の商品認識システム。 - 前記特定部は、前記2以上の商品群に紐付けられた対象商品については、前記2以上の商品群ごとに対象商品の候補を特定するように構成され、
前記出力部は、前記特定部で特定された2以上の対象商品の候補のうち前記重量情報により選択される対象商品の前記識別情報を出力するように構成されている
請求項5記載の商品認識システム。 - 前記対象商品が載せられる載置部と、
前記載置部に載せられた前記対象商品の重量を計測し、計測した前記対象商品の重量を前記重量情報として出力する計測部と、を有する計測装置を更に備え、
前記計測部は、前記載置部に載せられた前記対象商品の重量を複数の計測点にて計測するように構成されている
請求項1乃至6のいずれか1項に記載の商品認識システム。 - 前記対象商品は複数であって、
前記計測部は、前記載置部に載せられた前記複数の対象商品の重量を個別に計測するように構成されている
請求項7記載の商品認識システム。 - 前記計測部は、前記載置部に加わる圧力に基づいて前記対象商品の重量を計測するように構成されている
請求項7又は8に記載の商品認識システム。 - ニューラルネットワークの入力層に入力された画像情報に対して、前記ニューラルネットワークの重み付け係数に基づく演算を行い、前記ニューラルネットワークの出力層から対象商品を特定する情報を出力するように、コンピュータシステムを機能させるための学習済みモデルであって、
前記重み付け係数は、少なくとも前記対象商品の重量情報により区分けされた複数の商品群のうち前記対象商品の属する商品群における商品の画像を入力データとした学習により得られる
学習済みモデル。 - 対象商品の画像を含む画像情報、及び少なくとも商品の重量情報により区分けされた複数の商品群のうち前記対象商品の属する商品群を選択するための区分情報に基づいて、前記対象商品の属する商品群から前記対象商品を特定する認識処理と、
前記認識処理により特定した前記対象商品の識別情報を出力する出力処理と、を含む
商品認識方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017065914A JP2018169752A (ja) | 2017-03-29 | 2017-03-29 | 商品認識システム、学習済みモデル、及び商品認識方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017065914A JP2018169752A (ja) | 2017-03-29 | 2017-03-29 | 商品認識システム、学習済みモデル、及び商品認識方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018169752A true JP2018169752A (ja) | 2018-11-01 |
Family
ID=64020395
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017065914A Pending JP2018169752A (ja) | 2017-03-29 | 2017-03-29 | 商品認識システム、学習済みモデル、及び商品認識方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018169752A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020161077A (ja) * | 2019-03-28 | 2020-10-01 | 株式会社イシダ | 学習済みモデル生成方法、学習済みモデル生成装置、商品判別方法、商品判別装置、商品判別システム及び計量装置 |
JP2020201769A (ja) * | 2019-06-11 | 2020-12-17 | 株式会社イシダ | 物品識別システム及び物品識別システムを備えた会計処理システム |
CN112241755A (zh) * | 2019-07-17 | 2021-01-19 | 东芝泰格有限公司 | 物品指定装置及存储介质 |
JP2021100179A (ja) * | 2019-12-20 | 2021-07-01 | 京セラ株式会社 | 認識システム、認識装置、認識及び制御処理方法 |
CN113807146A (zh) * | 2020-06-15 | 2021-12-17 | 深圳绿米联创科技有限公司 | 门锁识别方法、装置及电子设备 |
JP2022501660A (ja) * | 2019-09-06 | 2022-01-06 | ▲図▼▲霊▼通▲諾▼(北京)科技有限公司Yi Tunnel (Beijing) Technology Co., Ltd. | 視覚及び重力感知に基づく商品認識方法、装置及びシステム |
WO2022004370A1 (ja) * | 2020-07-03 | 2022-01-06 | コニカミノルタ株式会社 | データ収集装置及びデータ収集方法 |
JP7113469B1 (ja) | 2021-12-24 | 2022-08-05 | 学校法人明治大学 | 物体認識システム、物体認識プログラム及び、物体認識方法 |
-
2017
- 2017-03-29 JP JP2017065914A patent/JP2018169752A/ja active Pending
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11669948B2 (en) | 2019-03-28 | 2023-06-06 | Ishida Co., Ltd. | Learned model generating method, learned model generating device, product identifying method, product identifying device, product identifying system, and measuring device |
JP2020161077A (ja) * | 2019-03-28 | 2020-10-01 | 株式会社イシダ | 学習済みモデル生成方法、学習済みモデル生成装置、商品判別方法、商品判別装置、商品判別システム及び計量装置 |
JP7374453B2 (ja) | 2019-03-28 | 2023-11-07 | 株式会社イシダ | 学習済みモデル生成方法、学習済みモデル生成装置、商品判別方法、商品判別装置、商品判別システム及び計量装置 |
JP2020201769A (ja) * | 2019-06-11 | 2020-12-17 | 株式会社イシダ | 物品識別システム及び物品識別システムを備えた会計処理システム |
JP7289448B2 (ja) | 2019-06-11 | 2023-06-12 | 株式会社イシダ | 物品識別システム及び物品識別システムを備えた会計処理システム |
CN112241755A (zh) * | 2019-07-17 | 2021-01-19 | 东芝泰格有限公司 | 物品指定装置及存储介质 |
JP2021018470A (ja) * | 2019-07-17 | 2021-02-15 | 東芝テック株式会社 | 物品特定装置及びプログラム |
JP2022501660A (ja) * | 2019-09-06 | 2022-01-06 | ▲図▼▲霊▼通▲諾▼(北京)科技有限公司Yi Tunnel (Beijing) Technology Co., Ltd. | 視覚及び重力感知に基づく商品認識方法、装置及びシステム |
JP7068450B2 (ja) | 2019-09-06 | 2022-05-16 | ▲図▼▲霊▼通▲諾▼(北京)科技有限公司 | 視覚及び重力感知に基づく商品認識方法、装置及びシステム |
JP2021100179A (ja) * | 2019-12-20 | 2021-07-01 | 京セラ株式会社 | 認識システム、認識装置、認識及び制御処理方法 |
JP7364457B2 (ja) | 2019-12-20 | 2023-10-18 | 京セラ株式会社 | 認識システム、認識装置、認識方法、認識プログラム |
CN113807146A (zh) * | 2020-06-15 | 2021-12-17 | 深圳绿米联创科技有限公司 | 门锁识别方法、装置及电子设备 |
WO2022004370A1 (ja) * | 2020-07-03 | 2022-01-06 | コニカミノルタ株式会社 | データ収集装置及びデータ収集方法 |
JP7113469B1 (ja) | 2021-12-24 | 2022-08-05 | 学校法人明治大学 | 物体認識システム、物体認識プログラム及び、物体認識方法 |
WO2023120070A1 (ja) * | 2021-12-24 | 2023-06-29 | 学校法人明治大学 | 物体認識システム、物体認識プログラム及び、物体認識方法 |
JP2023094636A (ja) * | 2021-12-24 | 2023-07-06 | 学校法人明治大学 | 物体認識システム、物体認識プログラム及び、物体認識方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2018169752A (ja) | 商品認識システム、学習済みモデル、及び商品認識方法 | |
JP6709862B6 (ja) | 畳み込みニューラルネットワーク画像認識技術による会計方法及び設備 | |
US9412050B2 (en) | Produce recognition method | |
US20200193404A1 (en) | An automatic in-store registration system | |
CN108022152A (zh) | 基于图像识别的用户商品自动推荐系统及推荐方法 | |
CN110942035A (zh) | 一种用于获取商品信息的方法、系统、装置和存储介质 | |
Wong et al. | A decision support tool for apparel coordination through integrating the knowledge-based attribute evaluation expert system and the T–S fuzzy neural network | |
US20160358195A1 (en) | Method To Generate A Consumer Interest Spatial Map, Based On Data Collected From The Movements Of Multiple Devices In A Defined Location | |
KR20160010756A (ko) | 쇼핑 분석기능을 갖는 온라인 쇼핑 시스템 및 쇼핑 분석 방법 | |
CN110909698A (zh) | 电子秤识别结果输出方法、系统、装置以及可读存储介质 | |
CN108197980B (zh) | 个性化购物者的肖像生成方法/系统、存储介质及终端 | |
WO2018061623A1 (ja) | 評価装置及び評価方法 | |
KR20240073905A (ko) | 품목 인식을 위한 시스템 및 방법 | |
CN114120083A (zh) | 图像识别装置及存储介质、图像识别方法 | |
CN109034887B (zh) | 物品价格的调整方法、装置和系统 | |
CN116611875A (zh) | 一种基于顾客特征与行为预测新品的推荐方法及系统 | |
CN110956459A (zh) | 一种商品处理方法及系统 | |
CN110992140A (zh) | 一种用于识别模型的匹配方法和系统 | |
Takai et al. | Finding latent groups of customers via the poisson mixture regression model | |
Kaushik et al. | Revamping Supermarkets With AI and RSSi | |
CN109444360B (zh) | 基于细胞神经网络和电子鼻特征提取的果汁贮藏期检测算法 | |
Bakshi et al. | Predicting Pregnant Shoppers Based on Purchase History Using Deep Convolutional Neural Networks | |
KR101468457B1 (ko) | 스마트 상품 검색 제공 방법 | |
CN111339991A (zh) | 一种人体属性识别方法及装置 | |
CN109935020A (zh) | 商品结算设备、方法以及系统 |