JP2020021378A - 物品判別システム、買物支援システム、買物支援方法、物品判別方法、及びプログラム - Google Patents
物品判別システム、買物支援システム、買物支援方法、物品判別方法、及びプログラム Download PDFInfo
- Publication number
- JP2020021378A JP2020021378A JP2018146320A JP2018146320A JP2020021378A JP 2020021378 A JP2020021378 A JP 2020021378A JP 2018146320 A JP2018146320 A JP 2018146320A JP 2018146320 A JP2018146320 A JP 2018146320A JP 2020021378 A JP2020021378 A JP 2020021378A
- Authority
- JP
- Japan
- Prior art keywords
- article
- product
- unit
- image
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Analysis (AREA)
- Cash Registers Or Receiving Machines (AREA)
Abstract
【課題】判別対象の物品の種類が増えても、物品を判別するまでに要する時間が長くなりにくくすること。【解決手段】物品判別システム100は、撮像部2と、判別部31と、を備える。撮像部2は、運搬機器1に配置された物品を撮像する。判別部31は、物品を判別する。判別部31は、第1分類部311と、複数の第2分類部312と、を有する。第1分類部311は、物品に関する情報に基づいて、物品を複数のカテゴリのうちの1以上のカテゴリに分類する。複数の第2分類部312は、複数のカテゴリごとに設けられて、機械学習された分類器を用いて、撮像部2で撮像された物品の画像に基づいて、1以上のカテゴリに分類された物品を更に分類する。【選択図】図1
Description
本開示は、一般に物品判別システム、買物支援システム、買物支援方法、物品判別方法、及びプログラムに関する。より詳細には、本開示は、運搬機器に配置される物品を判別する物品判別システム、買物支援システム、買物支援方法、物品判別方法、及びプログラムに関する。
特許文献1には、買物かご内の商品の識別を行う商品管理システムが記載されている。この商品管理システムでは、サーバと無線通信を行う通信機器が買物かごに設けられている。通信機器は、買物かご内の動画を撮像する撮像部と、撮像部で撮像された動画をサーバに送信する無線通信部と、を有する。サーバは、動画に基づいて買物かごに投入された商品の位置を追跡する物体認識部と、動画に基づいて商品の画像認識を行い商品を識別する画像認識部と、を有する。そして、物体認識部は、画像認識部によって商品が識別されるまで、商品の位置を追跡し続ける。
特許文献1に記載の商品管理システム(物品判別システム)では、判別対象の商品(物品)の種類が増えるにつれて、物品を判別するまでに要する時間が長くなる、という問題があった。
本開示は、判別対象の物品の種類が増えても、物品を判別するまでに要する時間が長くなりにくい、物品判別システム、買物支援システム、買物支援方法、物品判別方法、及びプログラムに関する。
本開示の一態様に係る物品判別システムは、撮像部と、判別部と、を備える。前記撮像部は、運搬機器に配置された物品を撮像する。前記判別部は、前記物品を判別する。前記判別部は、第1分類部と、複数の第2分類部と、を有する。前記第1分類部は、前記物品に関する情報に基づいて、前記物品を複数のカテゴリのうちの1以上のカテゴリに分類する。前記複数の第2分類部は、前記複数のカテゴリごとに設けられて、機械学習された分類器を用いて、前記撮像部で撮像された前記物品の画像に基づいて、前記1以上のカテゴリに分類された前記物品を更に分類する。
本開示の一態様に係る買物支援システムは、上記の物品判別システムと、販売システムと、を備える。前記販売システムは、前記物品の販売処理を行うためのシステムである。
本開示の一態様に係る買物支援方法は、第1ステップと、第2ステップと、を有する物品判別方法により物品を判別し、前記物品判別方法により判別された前記物品の販売処理を行う。前記第1ステップは、運搬機器に配置される前記物品に関する情報に基づいて、前記物品を複数のカテゴリのうちの1以上のカテゴリに分類するステップである。前記第2ステップは、前記1以上のカテゴリに分類された前記物品について、機械学習された分類器を用いて、前記物品を撮像した画像に基づいて、前記第1ステップよりも更に前記物品を分類するステップである。
本開示の一態様に係る物品判別方法は、運搬機器に配置される物品を判別する物品判別方法であって、第1ステップと、第2ステップと、を有する。前記第1ステップは、前記物品に関する情報に基づいて、前記物品を複数のカテゴリのうちの1以上のカテゴリに分類するステップである。前記第2ステップは、前記1以上のカテゴリに分類された前記物品について、機械学習された分類器を用いて、前記物品を撮像した画像に基づいて、前記第1ステップよりも更に前記物品を分類するステップである。
本開示の一態様に係るプログラムは、1以上のプロセッサに、上記の物品判別方法を実行させるためのプログラムである。
本開示は、判別対象の物品の種類が増えても、物品を判別するまでに要する時間が長くなりにくい、という利点がある。
(1)概要
まず、本実施形態に係る物品判別システム100の概要について、図1〜図4Bを参照して説明する。本実施形態の物品判別システム100は、運搬機器1に配置される物品A1を判別するシステムである。本開示でいう「運搬機器」は、例えば店舗等の施設にて物品A1を運搬、つまり「運びうつす」ための機器であって、物品A1を保持した状態で物品A1を運搬機器1ごと移動させることが可能な機器である。具体的には、運搬機器1は、例えば物品A1を収容することで物品A1を保持するかご及び食器等の容器、又は物品A1を載せることで物品A1を保持するカート、トレイ、皿及び台車等である。
まず、本実施形態に係る物品判別システム100の概要について、図1〜図4Bを参照して説明する。本実施形態の物品判別システム100は、運搬機器1に配置される物品A1を判別するシステムである。本開示でいう「運搬機器」は、例えば店舗等の施設にて物品A1を運搬、つまり「運びうつす」ための機器であって、物品A1を保持した状態で物品A1を運搬機器1ごと移動させることが可能な機器である。具体的には、運搬機器1は、例えば物品A1を収容することで物品A1を保持するかご及び食器等の容器、又は物品A1を載せることで物品A1を保持するカート、トレイ、皿及び台車等である。
本実施形態では、運搬機器1が、買物かごである場合を例に説明する。以下、特に断りのない限り、運搬機器1を「買物かご1」ともいう。買物かご1は、例えばコンビニエンスストア、スーパーマーケット、百貨店、ドラッグストア、家電量販店及びホームセンター等の小売店の店舗で用いられる。このような買物かご1は、店舗で販売されている物品A1としての商品の運搬に使用される。以下、特に断りのない限り、物品A1を「商品A1」ともいう。
ここで想定する物品判別システム100は、販売システム5と共に、店舗に導入されて客の買物を支援するための買物支援システム200を構成する。販売システム5は、商品としての物品A1の販売処理を行うためのシステムである。本実施形態では、販売システム5は、店舗装置51を備えている。店舗装置51は、例えば店舗のカウンタ台53(図5参照)に設置されており、精算処理等の機能を有する装置である。買物かご1は、カウンタ台53に置かれた際に、後述する通信部33(図1参照)にて、買物かご1に収容されている1以上の商品A1の商品情報(物品情報)を店舗装置51に送信する。これにより、店舗装置51では、買物かご1から受信した商品情報に基づいて、1以上の商品A1についての精算処理が可能になる。
本開示でいう「商品情報(物品情報)」は、判別された商品(物品)A1に関する情報である。物品A1が商品であれば、物品情報は商品情報(商品識別コード)であって、例えば日本国で用いられているJAN(Japanese Article Number)コード等である。また、物品情報は、物品A1の品種(種類)を識別する情報に限らず、同一品種の物品A1を個別に識別するシリアル情報等の情報を含んでいてもよい。これにより、同一品種の物品A1が複数ある場合にも、これら同一品種の複数の物品A1の各々を物品情報にて特定可能である。以下、特に断りのない限り、商品A1の物品情報を「商品情報」という。
上記買物かご1が導入された店舗では、客(ユーザ)は、商品A1を店内でピックアップして買物かご1に収容し、店舗装置51にて精算を行う、という一連の処理で、商品A1の購入を済ませることができる。したがって、上記買物かご1が導入された店舗では、店舗の従業員(店員)及び客の手間を軽減しつつ、例えば精算処理の開始から、商品A1が客に渡るまでに掛かる時間を短縮でき、客の買物に掛かる時間を短縮できる。
ここで、本実施形態の物品判別システム100は、以下の構成を採用することで、買物かご(運搬機器)1に収容された商品(物品)A1を判別している。すなわち、物品判別システム100は、撮像部2と、判別部31と、を備えている。
撮像部2は、買物かご(運搬機器)1に設けられている。買物かご1は、図3〜図4Bに示すように、載置部11と、突出部12と、撮像部2と、を有している。載置部11は、買物かご1の本体であって、運搬対象の商品A1が配置される載置面10を有している。以下、特に断りのない限り、載置部11を「本体11」ともいう。突出部12は、本体11に設けられている一対の把持部のうちの1つであって、本体(載置部)11から載置面10と交差する向きに突出する。ここでは、載置面10と交差する向きは、図3における上向き、すなわち、載置面10から本体11の開口部110に向かう向きである。また、以下、特に断りのない限り、突出部12を「把持部12」ともいう。
そして、撮像部2は、一対の把持部12のうちの一方の把持部12に保持され、少なくとも載置面10を撮像範囲とする。つまり、撮像部2は、買物かご(運搬機器)1に配置された商品A1、言い換えれば載置面10に配置された商品A1、又は載置面10に配置された商品A1の上に更に載せ置かれた商品A1を撮像することが可能である。
判別部31は、買物かご1が有する処理部であって、買物かご1に配置された商品A1を判別する。以下、特に断りのない限り、判別部31を「処理部31」ともいう。判別部31は、図2に示すように、第1分類部311と、複数の第2分類部312と、を有している。本実施形態では、判別部31は、“n”個の第2分類部312を有している(“n”は2以上の整数)。
第1分類部311は、商品(物品)A1に関する情報に基づいて、商品A1を複数のカテゴリC1,…,Cnのうちの1以上のカテゴリに分類する。本開示でいう「カテゴリ」は、商品A1の特徴に基づく分類であって、例えば飲料品、菓子、若しくは日用品などの商品A1の品種、商品A1の形状、又は商品A1のサイズなどである。つまり、第1分類部311は、商品A1に関する情報に基づいて、商品A1の特徴を抽出し、抽出した商品A1の特徴に基づいて商品A1がいずれのカテゴリに含まれるかを分類する。本実施形態では、第1分類部311は、複数のカテゴリC1,…,Cnのうちいずれか1つのカテゴリに商品A1を分類する。
複数の第2分類部312は、それぞれ複数のカテゴリC1,…,Cnごとに設けられている。言い換えれば、複数の第2分類部312は、それぞれ複数のカテゴリC1,…,Cnと1対1に対応している。そして、複数の第2分類部312の各々は、機械学習された分類器を用いて、撮像部2で撮像された商品(物品)A1の画像に基づいて、1以上のカテゴリに分類された商品A1を更に分類する。本実施形態では、第2分類部312での商品A1の分類は、商品A1の判別に相当する。例えば、任意の第2分類部312が飲料品のカテゴリに対応している場合、この第2分類部312は、撮像部2で撮像された商品A1の画像に基づいて、この商品A1がどのような飲料品であるかを判別する。具体例として、撮像部2で撮像された商品A1が固有の名称が付された炭酸水であれば、上記の第2分類部312は、商品A1が上記固有の名称が付された炭酸水であると判別する。
上述のように、本実施形態では、まず第1分類部311により、商品(物品)A1を1以上のカテゴリに分類する。そして、本実施形態では、1以上のカテゴリに分類された商品(物品)A1に対して、撮像部2で撮像された商品A1の画像に基づく商品A1の分類処理(判別処理)を実行している。このため、本実施形態では、1つの分類器により全てのカテゴリC1,…,Cnの商品A1を対象として判別処理を行う場合と比較して、第1分類部311及び第2分類部312の各々の分類器での処理負担が小さくて済む。その結果、本実施形態では、判別対象の商品A1の種類が増えても、商品A1を判別するまでに要する時間が長くなりにくい、という利点がある。
(2)詳細
以下、本実施形態に係る物品判別システム100の構成について詳しく説明する。本実施形態の物品判別システム100は、図1に示すように、買物かご1と、処理部31と、を備えている。本実施形態では、処理部31は、買物かご1の構成要素の1つである。本実施形態では、運搬機器1として、コンビニエンスストアで用いられる買物かご1を例に説明する。また、本実施形態では、物品A1として、コンビニエンスストアで取り扱われる商品A1を例に説明する。
以下、本実施形態に係る物品判別システム100の構成について詳しく説明する。本実施形態の物品判別システム100は、図1に示すように、買物かご1と、処理部31と、を備えている。本実施形態では、処理部31は、買物かご1の構成要素の1つである。本実施形態では、運搬機器1として、コンビニエンスストアで用いられる買物かご1を例に説明する。また、本実施形態では、物品A1として、コンビニエンスストアで取り扱われる商品A1を例に説明する。
(2.1)買物支援システム
まず、本実施形態に係る買物かご1を用いた買物支援システム200の全体構成について、図1を参照して説明する。買物支援システム200は、物品判別システム100と、店舗装置51を含む販売システム5と、を備えている。また、販売システム5は、袋詰装置52を更に備えている。
まず、本実施形態に係る買物かご1を用いた買物支援システム200の全体構成について、図1を参照して説明する。買物支援システム200は、物品判別システム100と、店舗装置51を含む販売システム5と、を備えている。また、販売システム5は、袋詰装置52を更に備えている。
本実施形態では、店舗装置51は、店舗(コンビニエンスストア)のカウンタ台53に設置されている(図5参照)。カウンタ台53は、販売システム5による販売処理を行うために買物かご(運搬機器)1が配置される台である。店舗装置51は、買物かご1との通信機能を有しており、買物かご1がカウンタ台53の精算スペースに置かれた際に、買物かご1と通信することにより、買物かご1から商品情報を取得する。
ここで、買物かご1では、客が商品A1を店内でピックアップして買物かご1に投入する際に、この商品A1を判別することにより、この商品A1に関する商品情報を取得する。そして、買物かご1は、取得した商品A1の商品情報を後述する記憶部32に記憶している。そのため、買物かご1に1以上の商品A1が投入されると、1以上の商品A1の商品情報が買物かご1の記憶部32に記憶されることになる。そして、買物かご1は、カウンタ台53の精算スペースに置かれたときに、記憶部32に記憶している1以上の商品A1の商品情報を、店舗装置51に対して通信部33にて送信する。
店舗装置51は、このようにして買物かご1から送信される商品情報を取得することで、買物かご1に収容された1以上の商品A1の商品情報を取得することができる。そして、店舗装置51は、買物かご1から取得した商品情報に基づいて、1以上の商品A1についての精算処理を実行する。その結果、買物かご1が導入された店舗では、店舗の従業員(店員)及び客の手間を軽減しつつ、例えば精算処理の開始から、商品A1が客に渡るまでに掛かる時間を短縮でき、客の買物に掛かる時間を短縮できる。
袋詰装置52は、買物かご1から、持ち帰り用の容器に商品A1を移す「袋詰め」を行う装置である。持ち帰り用の容器は、例えば、袋、かご、箱、カート又はバッグ等である。本実施形態では、一例として、持ち帰り用の容器が、ポリエチレン製又はポリプロピレン製の買物袋(いわゆるレジ袋)である場合を想定する。すなわち、精算処理が完了した商品は、買物かご1から持ち帰り用の容器(ここでは買物袋)に移し替えられた状態で、客に持ち帰られることになる。そのため、買物かご1から買物袋に商品A1を移し替える「袋詰め」の作業が必要である。本実施形態では、このような「袋詰め」の作業を、袋詰装置52が自動的に行うので、店員又は客が行う必要がない。
袋詰装置52は、一例として、カウンタ台53に内蔵されている。袋詰装置52は、例えば、買物かご1の本体11の底板を開閉する機構を有している。袋詰装置52は、カウンタ台53の精算スペースに買物かご1が置かれたときに、買物かご1の本体11の底板を開放し、買物かご1の本体11の底から商品A1を排出する。買物かご1の底から商品A1が排出されると、袋詰装置52は、カウンタ台53内で商品A1を買物袋に収容する。これにより、カウンタ台53の精算スペースに買物かご1が置かれた状態で、カウンタ台53内では商品A1の袋詰めが完了する。その後、精算スペースから買物かご1が撤去された状態で、袋詰装置52が、袋詰めされた状態、つまり買物袋に収容された状態の商品A1を、カウンタ台53の精算スペース上に排出する。これにより、客においては、カウンタ台53上に置かれている、袋詰めされた状態の商品A1を持ち帰ることが可能になる。
ところで、袋詰装置52は、店舗装置51と通信することによって店舗装置51と連動している。すなわち、袋詰装置52は、店舗装置51との通信機能を有している。本実施形態では、買物支援システム200は、精算スペースに買物かご1が置かれると、まず、店舗装置51にて買物かご1と通信を行い、店舗装置51にて買物かご1から商品情報を取得する。店舗装置51は、商品情報の取得が完了すると、袋詰装置52に対して袋詰開始信号を送信する。袋詰装置52は、店舗装置51から袋詰開始信号を受信すると、商品A1の「袋詰め」を開始する。その後、店舗装置51での精算処理が完了し、かつ精算スペースから買物かご1が撤去されると、店舗装置51は、袋詰装置52に対して排出開始信号を送信する。袋詰装置52は、店舗装置51から排出開始信号を受信すると、袋詰めされた状態の商品A1を精算スペース上に排出する。
この買物支援システム200によれば、カウンタ台53の精算スペースに買物かご1が置かれることで商品A1の袋詰めが開始し、客が精算処理を行っている間に商品A1の袋詰めを完了させ、精算処理の完了後に商品A1を客に受け渡すことができる。したがって、客が買物かご1をカウンタ台53の精算スペースに置いた後、袋詰めされた状態の商品A1を受け取るまでの間に、精算処理以外では客及び店員が介在する必要がない。その結果、商品情報の読み取り及び袋詰め等の作業を客又は店員が行う従来の買物に比較して、買物に係る客及び店員の手間が軽減されることになる。
本実施形態に係る買物支援システム200においては、精算スペースからの買物かご1の回収(撤去)は、基本的に客自身が行う。具体的には、袋詰装置52は、買物かご1から商品A1の排出が完了すると買物かご1の底板を閉じる。その後、例えば店舗装置51により、表示又は音声等の手段により、買物かご1の回収を促すための通知が行われる。この通知を受けて、客は、精算スペースに置かれている空の買物かご1を、かご置場に移動させる。かご置場には、給電装置が設置されており、買物かご1は、給電装置に対してスタックされた状態でかご置場に返却される。
ここにおいて、買物かご1は、図1に示すように、撮像部2、及び処理部31等を含む電気回路3の動作用の電源として、二次電池(バッテリ)4を備えている。二次電池4は、一例としてリチウムイオン電池である。二次電池4は、撮像部2及び電気回路3に電力を供給することで、撮像部2及び電気回路3を動作させる。つまり、買物かご1の使用中における買物かご1(撮像部2及び電気回路3)の動作用の電力は、二次電池4によって賄われるため、買物かご1の使用後には、買物かご1の(二次電池4の)充電が必要になる。そこで、本実施形態では、かご置場に置かれた買物かご1の充電を給電装置にて行う。
本実施形態では、かご置場に複数の買物かご1が一列にスタックされた状態(積み重ねられた状態)で、給電装置が複数の買物かご1の充電を行うように構成される。つまり、本実施形態では、縦方向(鉛直方向)に積み重ねられた状態の複数の買物かご1を対象として、かご置場に置かれた1台の給電装置にて充電を行う。各買物かご1は、給電装置からの電力供給を受けて、充電回路35にて二次電池4を充電する。
(2.2)買物かご
次に、買物かご1の構成について図1〜図4Bを参照して説明する。買物かご1は、本体11と、撮像部2と、電気回路3と、二次電池4と、を備えている。本実施形態では、撮像部2、電気回路3、及び二次電池4は、いずれも一対の把持部12のうちの一方の把持部12に内蔵されており、互いに電気的に接続されている。図1は、買物かご1の回路構成を表しており、本体11の図示は省略している。
次に、買物かご1の構成について図1〜図4Bを参照して説明する。買物かご1は、本体11と、撮像部2と、電気回路3と、二次電池4と、を備えている。本実施形態では、撮像部2、電気回路3、及び二次電池4は、いずれも一対の把持部12のうちの一方の把持部12に内蔵されており、互いに電気的に接続されている。図1は、買物かご1の回路構成を表しており、本体11の図示は省略している。
本体11は、少なくとも上面が開口した箱状である。本体11は、一対の把持部12と、開口部110の周囲に設けられた鍔部13と、を有している。本体11の底板の上面は、複数の商品A1が配置される載置面10となっている。したがって、本体11内には、複数の商品A1を収容可能である。鍔部13は、本体11の上端部に連続しており、本体11の開口部110を囲む枠状に形成されている。
一対の把持部12は、可倒式であって、各々の根元部分が鍔部13に支持されている。つまり、一対の把持部12は、本体11に設けられている。一対の把持部12は、客が買物かご(運搬機器)1を運搬する(持ち運ぶ)際に掴まれる部位である。本実施形態では、一対の把持部12は、各々の根元部分を軸として回転することで、図4Aに示す第1位置と、図4Bに示す第2位置との間で移動可能に構成されている。
第1位置では、一対の把持部12の各々の持ち手部分が開口部110の上方に位置するように、一対の把持部12の各々が直立している。このため、一対の把持部12が第1位置にある場合、客は一対の把持部12を掴んで買物かご1を持ち運ぶことが可能である。つまり、第1位置は、買物かご(運搬機器)1を運搬する場合、言い換えれば買物かご1が使用状態にある場合の位置である。
第2位置では、一対の把持部12の各々の持ち手の部分が鍔部13に近い位置まで倒れている。このため、一対の把持部12が第2位置にある場合、客は一対の把持部12を掴んで買物かご1を持ち運ぶことができない。つまり、第2位置は、買物かご(運搬機器)1を運搬しない場合、言い換えれば買物かご1が使用状態にない場合の位置である。
一対の把持部12は、買物かご1がかご置場にスタックされている状態においては、第2位置にある。そして、一対の把持部12は、客が買物かご1をかご置場から取り出す際に、客の手により第2位置から第1位置に移動する。
撮像部2は、例えばCCD(Charge-Coupled Device)イメージセンサ等の固体撮像素子を有する。撮像部2は、買物かご1の内部を撮像することにより、買物かご1に収容されている商品A1の画像を撮像する。つまり、撮像部2は、少なくとも載置面10を撮像範囲とする。撮像部2で撮像されることで得られる画像は、処理部31に送信される。
図4A及び図4Bに示すように、一対の把持部12のうちの一方の把持部12の持ち手の部分121からは、持ち手の部分121の長手方向において間隔を空けて一対の突起122が突出している。一対の突起122は、一対の把持部12が第1位置にある場合に、図4Aにおける下向き(つまり、開口部110から載置面10に向かう向き)に突出する。そして、撮像部2は、一対の突起122のうちの一方の突起122の下端に設けられている。このため、客が持ち手の部分121を掴んで買物かご1を持ち運ぶ際に、客の手が撮像部2の撮像範囲に入り込みにくくなっている。
本実施形態では、撮像部2は、買物かご(運搬機器)1に商品(物品)A1が配置されたことを検知する検知部としても機能する。つまり、載置面10に商品A1が配置されると、撮像部2の撮像範囲に商品A1が入り込むことになる。このため、処理部31は、撮像部2の撮像範囲に商品A1が入り込むことにより、撮像部2からの電気信号に所定量以上の変化が生じると、この変化が生じたタイミングの画像を取得する。言い換えれば、撮像部2は、検知部(撮像部2)にて商品A1が買物かご1に配置されたことを検知すると、撮像する。なお、検知部(撮像部2)は、商品A1が載置面10の上方にある所定の領域(ここでは、本体11の内部)に入ったことを検知すると、撮像するように構成されていてもよい。
電気回路3は、二次電池4からの電力供給を受けて動作する種々の回路モジュールを含んでいる。本実施形態では、電気回路3は、図1に示すように、処理部31と、記憶部32と、通信部33と、センサ34と、充電回路35と、を有している。
処理部31は、例えばプロセッサ及びメモリを含むコンピュータ(マイクロコントローラを含む)を有する。すなわち、コンピュータは、メモリに記録された適宜のプログラムをプロセッサにて実行することにより、処理部31の一部として機能する。処理部31は、少なくとも撮像部2及び通信部33を制御する機能を有している。
本実施形態では、処理部31は、判別部31としての機能を有している。つまり、処理部31は、撮像部2からの画像を入力データとして機械学習された分類器に入力することにより、撮像部2からの画像に含まれる商品A1を判別し、判別した商品A1の商品情報を取得する。分類器は、例えば店舗で取り扱う複数の商品A1の画像を入力データとして機械学習することで得られる。分類器は、例えばSVM(Support Vector Machine)等の線形分類器の他、ニューラルネットワークを用いた分類器、又は多層ニューラルネットワークを用いた深層学習(ディープラーニング)により生成される分類器を含み得る。
本実施形態では、処理部31は、図2に示すように、第1分類部311と、複数(ここでは、“n”個)の第2分類部312と、を有している。また、本実施形態では、第1分類部311及び複数の第2分類部312は、それぞれ互いに異なる学習済みのニューラルネットワークを用いた分類器を有している。学習済みのニューラルネットワークは、例えばCNN(Convolutional Neural Network:畳み込みニューラルネットワーク)、又はBNN(Bayesian Neural Network:ベイズニューラルネットワーク)等を含み得る。
第1分類部311及び複数の第2分類部312は、いずれもASIC(Application Specific Integrated Circuit)又はFPGA(Field-Programmable Gate Array)等の集積回路に、学習済みのニューラルネットワークを実装することで実現されている。本実施形態では、第1分類部311及び複数の第2分類部312は、いずれも1枚の基板に実装されているが、複数の基板に分かれて実装されてもよい。
第1分類部311は、撮像部2で撮像された商品A1が写っている画像を入力データとして、商品A1を複数のカテゴリC1,…,Cnのうちの1つのカテゴリに分類する。つまり、本実施形態では、撮像部2で撮像された商品A1が写っている画像が、商品(物品)A1に関する情報である。言い換えれば、商品A1に関する情報は、撮像部2で撮像された商品A1の画像情報を含んでいる。本実施形態では、複数のカテゴリC1,…Cnは、商品A1の品種である。つまり、第1分類部311は、飲料品又は日用品などの店舗が取り扱う商品A1の複数の品種のうちのいずれかの品種に、商品A1を分類する。
複数の第2分類部312は、それぞれ複数のカテゴリC1,…,Cnに1対1に対応している。また、複数の第2分類部312の各々は、撮像部2で撮像された商品A1が写っている画像を入力データとして、商品A1(言い換えれば、商品A1の商品情報)を判別する(つまり、分類する)。
図2において、“312”の隣に付している“[C1],…,[Cn]”は、それぞれ第2分類部312が対応する商品A1のカテゴリを表している。例えば、第2分類部312[C2]は、カテゴリC2に対応する第2分類部312である。また、図2において、“B11,…,B1m,…Bnm”は、それぞれ商品A1の商品情報を表している(“m”は、2以上の整数)。例えば、カテゴリC2に対応する第2分類部312は、撮像部2で撮像された商品A1が写っている画像を入力データとして、商品A1の商品情報が、“B21,…,B2m”のうちのいずれかの商品情報であると判別する。なお、“m”の数値は、複数の第2分類部312ごとに異なっていてもよい。
ここで、処理部31は、全ての第2分類部312を用いるのではなく、第1分類部311で商品A1が分類されたカテゴリに対応した第2分類部312を用いて、商品A1を判別する。例えば、第1分類部311において商品A1がカテゴリC3に分類された場合、処理部31では、カテゴリC3に対応する第2分類部312が、撮像部2で撮像された商品A1が写っている画像を入力データとして、商品A1を判別する。
本実施形態では、第1分類部311及び複数の第2分類部312は、それぞれ撮像部2からの画像をそのまま用いるのではなく、差分画像を用いている。言い換えれば、複数の第2分類部312の各々は、差分画像に基づき、商品(物品)A1を分類する。前記検知部にて検知された第1時点と、前記第1時点よりも前の第2時点とのそれぞれで前記撮像部に撮像された画像の差分の画像である差分画像に基づき、前記物品を分類する。本開示でいう「差分画像」は、検知部(撮像部2)にて検知された第1時点と、第1時点よりも前の第2時点とのそれぞれで撮像部2で撮像された画像の差分の画像である。つまり、処理部31は、撮像部2からの画像をバッファに記憶しておき、撮像部2から新たに画像が送信されるごとにバッファに記憶してある画像との差分である差分画像を生成する。生成した差分画像は、バッファに上書きされ、次に撮像部2で撮像された画像との差分の画像を生成する際に用いられる。なお、買物かご1に商品A1が投入される前においては、バッファには、背景画像(商品A1が投入されていない載置面10の画像)が記憶される。
例えば、図6Aに示すように商品A1として飲料品A11が載置面10に配置されている状態で、図6Bに示すように商品A1として食料品A12が買物かご1に投入されたと仮定する。この場合、処理部31は、食料品A12が買物かご1に投入される前においては、差分画像として飲料品A11が載置面10に配置されている画像をバッファに記憶している。そして、処理部31は、食料品A12が買物かご1に投入されると、食料品A12が買物かご1に投入された時点(第1時点)の画像と、バッファに記憶してある画像(第2時点の画像)との差分である差分画像を生成する。この場合、差分画像は、図6Cに示すように、食料品A12のみが載置面10に配置された画像となる。そして、処理部31は、食料品A12が買物かご1に投入された時点の画像(図6B参照)をバッファに上書きする。
以下、商品A1が買物かご1に投入されるごとに上記の処理を繰り返すことにより、処理部31には、新たに買物かご1に投入された商品A1のみが撮像範囲に含まれる画像が入力データとして処理部31に入力される。このため、処理部31は、買物かご1に複数の商品A1が投入されることで複数の商品A1が重なって配置される場合においても、複数の商品A1を1つずつ判別することが可能である。
記憶部32は、一例としてEEPROM(Electrically Erasable Programmable Read-Only Memory)等の書き換え可能な不揮発性メモリ、又はRAM(Random Access Memory)等の揮発性メモリである。また、記憶部32は、不揮発性メモリ及び揮発性メモリの組み合わせで実現されてもよい。記憶部32は、少なくとも処理部31で取得した商品A1の商品情報を記憶する。記憶部32は、複数の商品A1の商品情報を記憶可能である。そのため、処理部31が複数の商品A1の商品情報を取得した場合、これら複数の商品A1についての商品情報が記憶部32に記憶される。
通信部33は、例えば赤外線又は可視光等の光を媒体とする光無線通信、又は電波を媒体とする無線通信にて、店舗装置51との通信を行う。通信部33は、少なくとも記憶部32に記憶されている商品A1の商品情報を店舗装置51に送信する機能を有する。
センサ34は、例えば加速度センサであって、把持部12の加速度を検知する。センサ34は、一対の把持部12が第1位置にあるか第2位置にあるか、つまり買物かご1が使用状態にあるか否かを検知するために用いられる。具体的には、センサ34の検知結果に基づいて、処理部31が一対の把持部12が第1位置にあるか第2位置にあるかを判定する。
例えば、かご置場に買物かご1がスタックされることで、一対の把持部12が初期位置(第2位置)にあると仮定する。この場合、客が買物かご1を使用するために一対の把持部12を直立させると、センサ34にて所定以上の加速度を検知することになる。すると、処理部31は、一対の把持部12が第2位置から第1位置に移動したと判定する。その後、処理部31は、センサ34にて所定以上の加速度を検知するごとに、一対の把持部12が一方の位置から他方の位置に移動したと判定する。なお、かご置場に買物かご1が戻され、給電装置からの電力供給を受けて充電回路35にて二次電池4の充電を開始すると、処理部31は、一対の把持部12の位置を初期位置(第2位置)にリセットする。
そして、本実施形態では、処理部31は、センサ34の検知結果に基づき一対の把持部12が第1位置にあると判定すると、撮像部2を起動させる。一方、処理部31は、センサ34の検知結果に基づき一対の把持部12が第2位置にあると判定すると、撮像部2を停止させる。つまり、撮像部2は、把持部12が第1位置にあると撮像可能な状態となり、把持部12が第2位置にあると撮像できない状態となる。
充電回路35は、給電装置からの電力供給を受けて、二次電池4の充電を行う。ここでは、充電回路35は、給電装置から印加される直流電圧を降圧するDC/DCコンバータを含んでいる。
(3)動作
以下、本実施形態の物品判別システム100の動作について説明する。以下では、まず、物品判別システム100の使用前において、機械学習により、第1分類部311及び複数の第2分類部312で用いられる学習済みのニューラルネットワークを構築する学習フェーズについて説明する。次に、物品判別システム100を使用する推論フェーズについて説明する。
以下、本実施形態の物品判別システム100の動作について説明する。以下では、まず、物品判別システム100の使用前において、機械学習により、第1分類部311及び複数の第2分類部312で用いられる学習済みのニューラルネットワークを構築する学習フェーズについて説明する。次に、物品判別システム100を使用する推論フェーズについて説明する。
(3.1)学習フェーズ
学習フェーズにおける機械学習は、例えば学習用のセンターで実行される。つまり、推論フェーズにて物品判別システム100を使用する場所(例えば、コンビニエンスストアなどの店舗)と、学習フェーズにて機械学習を実行する場所とは互いに異なっていてもよい。学習用のセンターでは、1以上のプロセッサを用いて、第1分類部311及び複数の第2分類部312の各々で用いるニューラルネットワークの機械学習を行う。機械学習を行うに当たり、各ニューラルネットワークの重み付け係数は、初期化されている。本開示でいう「プロセッサ」は、例えばCPU(Central Processing Unit)及びGPU(Graphics Processing Unit)等の汎用のプロセッサの他に、ニューラルネットワークでの演算に特化した専用のプロセッサを含み得る。
学習フェーズにおける機械学習は、例えば学習用のセンターで実行される。つまり、推論フェーズにて物品判別システム100を使用する場所(例えば、コンビニエンスストアなどの店舗)と、学習フェーズにて機械学習を実行する場所とは互いに異なっていてもよい。学習用のセンターでは、1以上のプロセッサを用いて、第1分類部311及び複数の第2分類部312の各々で用いるニューラルネットワークの機械学習を行う。機械学習を行うに当たり、各ニューラルネットワークの重み付け係数は、初期化されている。本開示でいう「プロセッサ」は、例えばCPU(Central Processing Unit)及びGPU(Graphics Processing Unit)等の汎用のプロセッサの他に、ニューラルネットワークでの演算に特化した専用のプロセッサを含み得る。
(3.1.1)第1分類部
まず、第1分類部311の学習用データセットを用いて、第1分類部311で用いるニューラルネットワークの機械学習を行う。本開示でいう「学習用データセット」は、ニューラルネットワークの入力層に入力される学習用の画像(以下、単に「学習用画像」という)と、学習用画像に対応する教師データとの組み合わせを1つの学習用データとした、複数の学習用データの集合である。学習用画像は、商品A1が写った画像である。なお、画像における商品A1の位置、大きさ、及び角度を変更した多数の学習用画像を、商品A1ごとに用意するのが好ましい。
まず、第1分類部311の学習用データセットを用いて、第1分類部311で用いるニューラルネットワークの機械学習を行う。本開示でいう「学習用データセット」は、ニューラルネットワークの入力層に入力される学習用の画像(以下、単に「学習用画像」という)と、学習用画像に対応する教師データとの組み合わせを1つの学習用データとした、複数の学習用データの集合である。学習用画像は、商品A1が写った画像である。なお、画像における商品A1の位置、大きさ、及び角度を変更した多数の学習用画像を、商品A1ごとに用意するのが好ましい。
第1分類部311の学習用データセットには、物品判別システム100が取り扱う全ての商品(物品)A1についての学習用データが含まれる。また、第1分類部311の学習用データにおいては、教師データは、学習用画像に写っている商品A1が分類されるカテゴリの情報である。
1以上のプロセッサは、複数の学習用データの各々について、ニューラルネットワークの入力層に学習用画像を入力して演算を実行する。そして、1以上のプロセッサは、ニューラルネットワークの出力層の複数のニューロンの出力値と、教師データとを用いて、バックプロパゲーション(誤差逆伝播法)処理を実行する。ここで、出力層の複数のニューロンは、それぞれ複数のカテゴリC1,…,Cnに対応している。バックプロパゲーション処理においては、1以上のプロセッサは、出力層の複数のニューロンのうち、教師データと対応するニューロンの出力値の最大化を図るように、ニューラルネットワークの重み付け係数を更新する。
1以上のプロセッサは、全ての学習用データについてバックプロパゲーション処理を実行することにより、第1分類部311で用いるニューラルネットワークの重み付け係数の最適化を図る。これにより、第1分類部311で用いるニューラルネットワークの学習が完了する。
(3.1.2)第2分類部
次に、複数の第2分類部312の各々について、第2分類部312の学習用データセットを用いて、第2分類部312で用いるニューラルネットワークの機械学習を行う。第2分類部312の学習用データセットには、物品判別システム100が取り扱う全ての商品(物品)A1のうち、第2分類部312が対応するカテゴリの全ての商品A1についての学習用データが含まれる。例えば、カテゴリC1に対応する第2分類部312の学習用データセットには、カテゴリC1に分類される全ての商品A1についての学習用データが含まれる。また、第2分類部312の学習用データにおいては、教師データは、学習用画像に写っている商品A1の商品情報(物品情報)である。
次に、複数の第2分類部312の各々について、第2分類部312の学習用データセットを用いて、第2分類部312で用いるニューラルネットワークの機械学習を行う。第2分類部312の学習用データセットには、物品判別システム100が取り扱う全ての商品(物品)A1のうち、第2分類部312が対応するカテゴリの全ての商品A1についての学習用データが含まれる。例えば、カテゴリC1に対応する第2分類部312の学習用データセットには、カテゴリC1に分類される全ての商品A1についての学習用データが含まれる。また、第2分類部312の学習用データにおいては、教師データは、学習用画像に写っている商品A1の商品情報(物品情報)である。
1以上のプロセッサは、複数の学習用データの各々について、ニューラルネットワークの入力層に学習用画像を入力して演算を実行する。そして、1以上のプロセッサは、ニューラルネットワークの出力層の複数のニューロンの出力値と、教師データとを用いて、バックプロパゲーション処理を実行する。ここで、出力層の複数のニューロンは、それぞれ第2分類部312が対応するカテゴリに分類される複数の商品A1の商品情報に対応している。バックプロパゲーション処理においては、1以上のプロセッサは、出力層の複数のニューロンのうち、教師データと対応するニューロンの出力値の最大化を図るように、ニューラルネットワークの重み付け係数を更新する。
1以上のプロセッサは、全ての学習用データについてバックプロパゲーション処理を実行することにより、第2分類部312で用いるニューラルネットワークの重み付け係数の最適化を図る。これにより、第2分類部312で用いるニューラルネットワークの学習が完了する。以下、1以上のプロセッサは、上記の処理を全ての第2分類部312に対して実行する。これにより、全ての第2分類部312の各々で用いるニューラルネットワークの学習が完了する。
(3.2)推論フェーズ
次に、本実施形態の物品判別システム100の推論フェーズでの動作について図7を用いて説明する。まず、かご置場にスタックされている買物かご1の一対の把持部12を客が手に持つことで、一対の把持部12が第2位置から第1位置へ移動する。これにより、処理部31は、センサ34の検知結果に基づき、一対の把持部12が第1位置にあると判定し、撮像部2を起動させる。
次に、本実施形態の物品判別システム100の推論フェーズでの動作について図7を用いて説明する。まず、かご置場にスタックされている買物かご1の一対の把持部12を客が手に持つことで、一対の把持部12が第2位置から第1位置へ移動する。これにより、処理部31は、センサ34の検知結果に基づき、一対の把持部12が第1位置にあると判定し、撮像部2を起動させる。
その後、客が店舗内を移動しながら、購入したい商品A1を買物かご1に投入する。処理部31は、検知部(撮像部2)にて買物かご1に商品A1が投入されたこと(つまり、載置面10に商品A1が配置されたこと)を検知すると(S100:Yes)、撮像部2に撮像させる(S101)。これにより、処理部31は、買物かご1に商品A1が投入された時点(第1時点)における、載置面10に商品A1が配置された画像を取得する。
その後、処理部31は、ステップS101にて取得した画像と、ステップS101の前に予めバッファに記憶してある画像(第2時点における画像)との差分画像を生成することで、差分画像を取得する(S102)。
処理部31は、差分画像を入力データとして第1分類部311に入力することで、差分画像に含まれる商品A1を、複数のカテゴリC1,…,Cnのうちの1つのカテゴリに分類する(S103)。次に、処理部31は、第1分類部311で商品A1が分類されたカテゴリに対応する第2分類部312を選択する。そして、処理部31は、この第2分類部312に差分画像を入力データとして入力することで、差分画像に含まれる商品A1をさらに分類する(S104)。本実施形態では、第2分類部312での商品A1の分類が、商品A1の判別に相当する。これにより、処理部31は、商品A1を判別し、判別した商品A1の商品情報を取得する(S105)。
つまり、処理部31は、ステップS100において買物かご1に投入された商品A1の商品情報を取得する。そして、処理部31は、取得した商品A1の商品情報を記憶部32に記憶させる(S106)。このように、物品判別システム100では、買物かご1に投入された商品A1について、投入されたタイミングにおける商品A1に関する情報を用いて判別する。
以下、客が購入したい商品A1を全て買物かご1に投入し、買物かご1をカウンタ台53に配置するまで、つまり、一対の把持部12が第2位置にあると処理部31が判定するまで、買物かご1では、ステップS100〜S106の処理を繰り返す。そして、一対の把持部12が第2位置にあると処理部31が判定すると、処理部31は、撮像部2を停止させる。
買物かご1をカウンタ台53に配置すると、処理部31は、買物かご1の記憶部32に記憶している1以上の商品A1の商品情報を、通信部33を介して店舗装置51へ送信する。これにより、店舗装置51は、買物かご1に投入された1以上の商品A1の商品情報を取得する。
ここで、本実施形態では、カウンタ台53は、カウンタ台53に配置された買物かご(運搬機器)1の載置面10を撮像範囲とする撮像装置55を備えている。撮像装置55は、図5に示すように、カウンタ台53の上面に設置されたアーチ54に取り付けられている。アーチ54は、一対の支柱541と、梁542と、を有している。一対の支柱541は、カウンタ台53に配置された買物かご1を挟むようにしてカウンタ台53の上面に設置されており、上面から上方に起立している。梁542は、一対の支柱541の各々の上端部を繋いでいる。撮像装置55は、梁542の長手方向の中間部に取り付けられている。
店舗装置51は、処理部31と同様に、店舗にて取り扱う複数の商品A1を判別するための分類器を有している。この分類器は、処理部31の第1分類部311及び複数の第2分類部312の各々の分類器とは異なり、載置面10に配置された複数の商品A1を含む画像を入力データとしながら、複数の商品A1を個別に判別可能であることが好ましい。そして、店舗装置51は、撮像装置55により撮像された画像を入力データとして分類器に入力することにより、買物かご1に配置された1以上の商品A1を判別し、1以上の商品A1の商品情報を取得する。つまり、販売システム5(店舗装置51)は、撮像装置55により撮像された画像に基づき、買物かご(運搬機器)1に配置された商品(物品)A1を判別する。
そして、店舗装置51は、店舗装置51にて取得した1以上の商品A1の商品情報と、買物かご1から取得した1以上の商品A1の商品情報とが一致すれば、精算処理を実行する。一方、店舗装置51は、店舗装置51にて取得した1以上の商品A1の商品情報と、買物かご1から取得した1以上の商品A1の商品情報とが一致しなければ、一致した商品A1についてのみ販売処理を実行する。一致しない商品A1については、例えば店員を介して精算処理を別途行うことで、対応する。このように、本実施形態では、買物かご1と、販売システム5とでそれぞれ商品A1の判別処理を実行することで、商品A1の判別精度を向上させている。
ここで、学習フェーズで用いる1以上のプロセッサの性能、学習に要する時間、及び学習に要するコスト等を考慮すると、1つの分類器(例えば、ニューラルネットワーク)で判別可能な商品(物品)A1の数には限界がある。一方、本実施形態では、第1分類部311及び複数の第2分類部312を用いることにより、商品A1を複数の段階に分けて判別している。このため、本実施形態では、1つの分類器が判別対象とする商品A1の数を少なくすることができる。
一例として、判別対象の商品A1が1000種類であると仮定する。この場合、本実施形態では、例えば第1分類部311にて、1000種類の商品A1を5つのカテゴリに分類することが可能である。そして、この場合、5つのカテゴリにそれぞれ対応する複数の第2分類部312は、いずれも概ね200種類の商品A1を判別対象とするような分類器を備えていればよい。この場合、第1分類部311及び複数の第2分類部312の各々では、1つの分類器で1000種類の商品A1を判別する場合と比較して、処理負担が小さくて済む。
このように、本実施形態では、1つの分類器により全てのカテゴリC1,…,Cnの商品A1を対象として判別処理を行う場合と比較して、第1分類部311及び第2分類部312の各々の分類器での処理負担が小さくて済む。その結果、本実施形態では、判別対象の商品A1の種類が増えても、第1分類部311及び複数の第2分類部312の各々での処理負担は大きくなりにくいので、商品A1を判別するまでに要する時間が長くなりにくい、という利点がある。
(4)変形例
上述の実施形態は、本開示の様々な実施形態の一つに過ぎない。上述の実施形態は、本開示の目的を達成できれば、設計等に応じて種々の変更が可能である。また、物品判別システム100と同様の機能は、物品判別方法、コンピュータプログラム、又はプログラムを記録した記録媒体等で具現化されてもよい。また、買物支援システム200と同様の機能は、買物支援方法、コンピュータプログラム、又はプログラムを記録した記録媒体等で具現化されてもよい。
上述の実施形態は、本開示の様々な実施形態の一つに過ぎない。上述の実施形態は、本開示の目的を達成できれば、設計等に応じて種々の変更が可能である。また、物品判別システム100と同様の機能は、物品判別方法、コンピュータプログラム、又はプログラムを記録した記録媒体等で具現化されてもよい。また、買物支援システム200と同様の機能は、買物支援方法、コンピュータプログラム、又はプログラムを記録した記録媒体等で具現化されてもよい。
一態様に係る買物支援方法は、第1ステップS1(図7のステップS103に相当)と、第2ステップS2(図7のステップS104に相当)と、を有する物品判別方法により商品(物品)A1を判別し、物品判別方法により判別された商品A1の販売処理を行う。第1ステップS1は、買物かご(運搬機器)1に配置される商品A1に関する情報に基づいて、商品A1を複数のカテゴリC1,…,Cnのうちの1以上のカテゴリに分類するステップである。第2ステップS2は、1以上のカテゴリに分類された商品A1について、機械学習された分類器を用いて、商品A1を撮像した画像に基づいて、第1ステップS1よりも更に商品A1を分類するステップである。
一態様に係る物品判別方法は、買物かご(運搬機器)1に配置される商品(物品)A1を判別する物品判別方法であって、第1ステップS1と、第2ステップS2と、を有している。第1ステップS1は、買物かご1に配置される商品A1に関する情報に基づいて、商品A1を複数のカテゴリC1,…,Cnのうちの1以上のカテゴリに分類するステップである。第2ステップS2は、1以上のカテゴリに分類された商品A1について、機械学習された分類器を用いて、商品A1を撮像した画像に基づいて、第1ステップS1よりも更に商品A1を分類するステップである。
一態様に係るプログラムは、1以上のプロセッサに、上記の物品判別方法を実行させるためのプログラムである。
以下、上述の実施形態の変形例を列挙する。以下の種々の変形例は、適宜組み合わせて適用可能である。
(4.1)第1変形例
第1変形例の物品判別システム100は、図8Aに示すように、電気回路3が重量センサ36を備えている点で、上述の実施形態の物品判別システム100と相違する。重量センサ36は、例えば感圧型のセンサシートであって、買物かご1の載置面10に設けられている。重量センサ36は、載置面10に配置された商品A1の重量(質量)を計測するように構成されている。本変形例では、商品A1が配置される前の重量センサ36の計測値と、商品A1が配置された時点の重量センサ36の計測値との差分を、商品A1の重量としている。
第1変形例の物品判別システム100は、図8Aに示すように、電気回路3が重量センサ36を備えている点で、上述の実施形態の物品判別システム100と相違する。重量センサ36は、例えば感圧型のセンサシートであって、買物かご1の載置面10に設けられている。重量センサ36は、載置面10に配置された商品A1の重量(質量)を計測するように構成されている。本変形例では、商品A1が配置される前の重量センサ36の計測値と、商品A1が配置された時点の重量センサ36の計測値との差分を、商品A1の重量としている。
そして、本変形例では、第1分類部311が、重量センサ36で計測された商品A1の重量に基づいて、商品A1を複数のカテゴリC1,…,Cnのうちの1以上のカテゴリに分類する点で、上述の実施形態の物品判別システム100と相違する。つまり、本変形例では、第1分類部311にて商品(物品)A1を分類する際に用いる、商品A1に関する情報は、商品A1の重量情報を含んでいる。
本変形例では、複数のカテゴリC1,…,Cnは、それぞれ商品A1の重量区分に相当する。例えば、カテゴリC1,C2,C3には、それぞれ10[g]未満の重量の商品A1、10[g]以上50[g]未満の重量の商品A1、及び50[g]以上100[g]未満の重量の商品A1が属する。そして、本変形例では、第1分類部311は、単に重量センサ36で計測された商品A1の重量に基づいて、複数の重量区分のうちのいずれの重量区分に商品A1が分類されるかを特定すればよい。このため、本変形例では、第1分類部311は、学習済みのニューラルネットワーク等の機械学習された分類器が不要である。
(4.2)第2変形例
第2変形例の物品判別システム100は、図8Bに示すように、電気回路3が位置測定部37を備えている点で、上述の実施形態の物品判別システム100と相違する。位置測定部37は、例えばBLE(Bluetooth Low Energy:登録商標)又はWi−Fi(登録商標)等の通信方式を用いて、店舗内に設置された発信機との間で無線通信を行うことにより、買物かご(運搬機器)1の店舗における位置を測定する。ここで、位置測定部37が測定するのは買物かご1の位置であるが、商品(物品)A1が買物かご1に投入された時点での買物かご1の位置は、実質的に商品A1の位置に相当する。つまり、位置測定部37は、商品A1が買物かご1に配置された際の商品A1の位置を測定している、といえる。
第2変形例の物品判別システム100は、図8Bに示すように、電気回路3が位置測定部37を備えている点で、上述の実施形態の物品判別システム100と相違する。位置測定部37は、例えばBLE(Bluetooth Low Energy:登録商標)又はWi−Fi(登録商標)等の通信方式を用いて、店舗内に設置された発信機との間で無線通信を行うことにより、買物かご(運搬機器)1の店舗における位置を測定する。ここで、位置測定部37が測定するのは買物かご1の位置であるが、商品(物品)A1が買物かご1に投入された時点での買物かご1の位置は、実質的に商品A1の位置に相当する。つまり、位置測定部37は、商品A1が買物かご1に配置された際の商品A1の位置を測定している、といえる。
そして、本変形例では、第1分類部311が、位置測定部37で計測された商品A1の位置に基づいて、商品A1を複数のカテゴリC1,…,Cnのうちの1以上のカテゴリに分類する点で、上述の実施形態の物品判別システム100と相違する。つまり、本変形例では、第1分類部311にて商品(物品)A1を分類する際に用いる、商品A1に関する情報は、商品A1が買物かご1に配置された際の商品A1の位置情報を含んでいる。
本変形例では、複数のカテゴリC1,…,Cnは、それぞれ店舗内において商品A1が陳列されている陳列棚に相当する。例えば、カテゴリC1,C2,C3には、それぞれ第1陳列棚に陳列されている商品A1、第2陳列棚に陳列されている商品A1、及び第3陳列棚に陳列されている商品A1が属する。そして、本変形例では、第1分類部311は、単に位置測定部37で測定された商品A1の位置に基づいて、複数の陳列棚のうちのいずれの陳列棚に商品A1が分類されるかを特定すればよい。このため、本変形例では、第1分類部311は、学習済みのニューラルネットワーク等の機械学習された分類器が不要である。
(4.3)第3変形例
第3変形例の物品判別システム100は、図9に示すように、特定部6を備えている点で、上述の実施形態の物品判別システム100と相違する。特定部6は、例えばカウンタ台53に設けられたリーダであって、商品(物品)A1に付された電子タグを読み取るように構成されている。電子タグは、例えばRFID(Radio Frequency Identification)又はIrDA(Infrared Data Association)等の通信規格に対応するのが好ましい。特定部6は、買物かご(運搬機器)1をカウンタ台53に載せた際に、商品A1に付された電子タグを読み取ることにより、商品A1の商品情報を取得する。つまり、特定部6は、商品A1に対応付けられた情報(ここでは、電子タグの有する情報)に基づいて、商品A1を特定する。
第3変形例の物品判別システム100は、図9に示すように、特定部6を備えている点で、上述の実施形態の物品判別システム100と相違する。特定部6は、例えばカウンタ台53に設けられたリーダであって、商品(物品)A1に付された電子タグを読み取るように構成されている。電子タグは、例えばRFID(Radio Frequency Identification)又はIrDA(Infrared Data Association)等の通信規格に対応するのが好ましい。特定部6は、買物かご(運搬機器)1をカウンタ台53に載せた際に、商品A1に付された電子タグを読み取ることにより、商品A1の商品情報を取得する。つまり、特定部6は、商品A1に対応付けられた情報(ここでは、電子タグの有する情報)に基づいて、商品A1を特定する。
本変形例では、仮に処理部(判別部)31では判別しにくい商品A1が存在する場合でも、このような商品A1を特定部6により特定する(判別する)ことができる、という利点がある。つまり、電子タグは、物品判別システム100にて取り扱う全ての商品A1に対して付されなくてもよく、処理部31では判別しにくい商品A1にのみ付されていればよい。具体的には、電子タグは、例えば弁当など、撮像部2で撮像された画像のみでは判別しにくい商品A1に付されていればよい。
(4.4)第4変形例
第4変形例の物品判別システム100では、図10に示すように、処理部(判別部)31が複数の第3分類部313を更に備えている点で、上述の実施形態の物品判別システム100と相違する。図10に示す例では、カテゴリCnに対応する第2分類部312に対して、複数の第3分類部313が設けられている。もちろん、複数の第2分類部312の各々に対して、複数の第3分類部313が設けられてもよい。この場合、複数の第3分類部313の数は、複数の第2分類部312ごとに異なっていてもよい。
第4変形例の物品判別システム100では、図10に示すように、処理部(判別部)31が複数の第3分類部313を更に備えている点で、上述の実施形態の物品判別システム100と相違する。図10に示す例では、カテゴリCnに対応する第2分類部312に対して、複数の第3分類部313が設けられている。もちろん、複数の第2分類部312の各々に対して、複数の第3分類部313が設けられてもよい。この場合、複数の第3分類部313の数は、複数の第2分類部312ごとに異なっていてもよい。
複数の第3分類部313の各々は、例えば機械学習された分類器を用いて、撮像部2で撮像された商品(物品)A1の画像に基づいて、第2分類部312により分類された商品A1を更に分類する。つまり、本変形例では、処理部31は、第1分類部311、複数の第2分類部312、及び複数の第3分類部313を用いることにより、商品A1を3段階に分けて判別する。
一例として、第1分類部311は、商品A1の形状により区分けされた複数のカテゴリC1,…,Cnのうちの1つのカテゴリに商品A1を分類する。次に、第1分類部311で商品A1が分類されたカテゴリに対応する第2分類部312は、商品A1の品種により区分けされた複数の小カテゴリのうちの1つの小カテゴリに商品A1を更に分類する。そして、第2分類部312で商品A1が分類された小カテゴリに対応する第3分類部313は、商品A1を判別する。このように、処理部31は、商品A1の有する複数の特徴に基づいて、複数の段階に分けて商品A1を細かく分類することで、商品A1を判別してもよい。
(4.5)その他の変形例
以下、第1変形例〜第4変形例以外の変形例を列挙する。以下の種々の変形例は、上述の実施形態、及び第1変形例〜第4変形例と適宜組み合わせて適用可能である。
以下、第1変形例〜第4変形例以外の変形例を列挙する。以下の種々の変形例は、上述の実施形態、及び第1変形例〜第4変形例と適宜組み合わせて適用可能である。
本開示における物品判別システム100は、例えば処理部(判別部)31等に、コンピュータシステムを含んでいる。コンピュータシステムは、ハードウェアとしてのプロセッサ及びメモリを主構成とする。コンピュータシステムのメモリに記録されたプログラムをプロセッサが実行することによって、本開示における物品判別システム100としての機能が実現される。プログラムは、コンピュータシステムのメモリに予め記録されていてもよいが、電気通信回線を通じて提供されてもよく、コンピュータシステムで読み取り可能なメモリカード、光学ディスク、ハードディスクドライブ等の非一時的な記録媒体に記録されて提供されてもよい。コンピュータシステムのプロセッサは、半導体集積回路(IC)又は大規模集積回路(LSI)を含む1ないし複数の電子回路で構成される。ここでいうIC又はLSI等の集積回路は、集積の度合いによって呼び方が異なっており、システムLSI、VLSI(Very Large Scale Integration)、又はULSI(Ultra Large Scale Integration)と呼ばれる集積回路を含む。更に、LSIの製造後にプログラムされる、FPGA、又はLSI内部の接合関係の再構成若しくはLSI内部の回路区画の再構成が可能な論理デバイスについても、プロセッサとして採用することができる。複数の電子回路は、1つのチップに集約されていてもよいし、複数のチップに分散して設けられていてもよい。複数のチップは、1つの装置に集約されていてもよいし、複数の装置に分散して設けられていてもよい。ここでいうコンピュータシステムは、1以上のプロセッサ及び1以上のメモリを有するマイクロコントローラを含む。したがって、マイクロコントローラについても、半導体集積回路又は大規模集積回路を含む1ないし複数の電子回路で構成される。
上述の実施形態では、第1分類部311は、複数のカテゴリC1,…,Cnのうちいずれか1つのカテゴリに商品(物品)A1を分類しているが、複数のカテゴリに商品A1を分類してもよい。そして、例えば処理部31は、第1分類部311での推定確率の大小に応じて、1つの第2分類部312を用いるか、複数の第2分類部312を用いるかを決定してもよい。ここでいう「推定確率」は、商品A1が複数のカテゴリC1,…,Cnのうちの一のカテゴリに属すると推定される確率の最大値である。例えば、複数のカテゴリが3つ(第1カテゴリ、第2カテゴリ、及び第3カテゴリ)であって、商品A1が第1カテゴリ、第2カテゴリ、及び第3カテゴリに属すると推定される確率がそれぞれ5%、85%、及び10%であると仮定する。この場合、推定確率は、85%である。
一例として、第1分類部311での推定確率が90%以上であれば、処理部31は、1つの第2分類部312を用いて商品A1を判別する。また、一例として、第1分類部311での推定確率が30%程度であれば、処理部31は、商品A1が属すると推定される確率の高い上位2以上のカテゴリに対応する2以上の第2分類部312を用いて、商品A1を判別する。そして、処理部31は、2以上の第2分類部312の判別結果のうち、最も確率の高い第2分類部312の判別結果を採用する。
上述の実施形態において、第1分類部311及び複数の第2分類部312の各々で用いられるニューラルネットワークは、例えば新たな商品(物品)A1が追加された場合に再学習してもよい。一例として、再学習により生成される学習済みモデル(つまり、ニューラルネットワークで用いられる重み係数の集合)は、サーバにアップロードされる。買物かご(運搬機器)1の処理部(判別部)31は、サーバと通信することにより学習済みモデルをダウンロードし、第1分類部311及び複数の第2分類部312の各々で用いられるニューラルネットワークを更新する。
上述の実施形態において、処理部(判別部)31は、買物かご(運搬機器)1に投入された商品(物品)A1の数を判別する分類器を更に有していてもよい。この態様では、例えば買物かご1に複数の商品A1が一時に投入された場合に、差分画像を用いて分類器で複数の商品A1が投入されたことを判別することが可能である。複数の商品A1が投入されたと判別した場合、処理部31は、例えば「商品を再度、1つずつ買物かごに投入してください」等の音声メッセージを再生することで、1つずつ商品A1を投入し直すように客に促すことが可能となる。この分類器は、例えば1ないし複数の商品A1が写った画像を学習用画像、学習用画像に写っている商品A1の数を教師データとする学習用データセットを用いて、機械学習を行うことで生成可能である。
上述の実施形態では、把持部12の持ち手の部分121から突出する突起122に撮像部2が設けられているが、これに限定する趣旨ではない。例えば、把持部12の持ち手の部分121に撮像部2が設けられていてもよい。
上述の実施形態では、買物かご1は、1つの撮像部2を備えているが、これに限定する趣旨ではない。例えば、買物かご1は、複数の撮像部2からなるステレオカメラを備えていてもよい。この場合、処理部31は、ステレオカメラから載置面10と直交する方向における奥行き情報(深度情報)を取得することができ、商品A1の判別精度を向上することが可能である。
上述の実施形態では、撮像部2は、買物かご(運搬機器)1に設けられているが、これに限定する趣旨ではない。例えば、撮像部2は、店舗の天井又は壁など、買物かご1以外の場所に設けられていてもよい。この態様では、撮像部2は、無線通信により通信部33を介して処理部(判別部)31との間で情報を送受可能な構成である。この態様では、処理部31は、例えば撮像部2で撮像された画像から商品A1が写っている領域を切り出して適切なサイズに正規化する正規化処理を行い、処理後の画像を入力データとすればよい。なお、正規化処理は、例えば撮像部2など、処理部31以外で行ってもよい。
上述の実施形態では、センサ34は加速度センサであるが、これに限定する趣旨ではない。例えば、センサ34は、本体11の鍔部13に設けられて、一対の把持部12のうちの少なくとも1つの把持部12と接触することでオン/オフする物理スイッチであってもよい。この態様では、一対の把持部12がセンサ34と接触する位置(つまり、第1位置)にあるか、一対の把持部12がセンサ34から離れた位置(つまり、第2位置)にあるかを、センサ34のオン/オフにより判定することが可能である。また、センサ34は、本体11の鍔部13に設けられて、一対の把持部12のうちの少なくとも1つの把持部12が接触する際の圧力を検知する感圧センサであってもよい。この態様でも、一対の把持部12がセンサ34と接触する位置(つまり、第1位置)にあるか、一対の把持部12がセンサ34から離れた位置(つまり、第2位置)にあるかを、センサ34が圧力を感知するか否かにより判定することが可能である。
上述の実施形態では、処理部31は、センサ34を用いて一対の把持部12の位置を検知し、検知結果に応じて撮像部2を起動又は停止させているが、これに限定する趣旨ではない。例えば、買物かご1はセンサ34を有していなくてもよい。また、撮像部2は、常に起動していてもよい。
上述の実施形態では、買物かご1と販売システム5(店舗装置51)との間の通信方式は無線通信であるが、有線通信であってもよい。有線通信の場合、無線通信の場合と比較して、買物かご1から販売システム5(店舗装置51)に対して、より多くの情報を一時に送信することが可能である。
上述の実施形態では、買物かご1をカウンタ台53に配置した時点で、買物かご1の記憶部32に記憶されている1以上の商品A1の商品情報を店舗装置51へ送信しているが、これに限定する趣旨ではない。例えば、処理部31は、商品A1の商品情報を取得した時点で、通信部33を用いた無線通信により、商品A1の商品情報を店舗装置51へ送信してもよい。つまり、店舗装置51は、買物かご1に投入された商品A1の商品情報をリアルタイムに収集し、収集した1以上の商品A1の商品情報をメモリに記憶させてもよい。
この態様では、客がカウンタ台53に買物かご1を配置すると、店舗装置51は、買物かご1の識別子(アドレス)を取得するのが好ましい。具体的には、店舗装置51は、カウンタ台53に設けられたリーダにより買物かご1に付された電子タグを読み取ることで、買物かご1の識別子を取得する。電子タグは、例えばRFID又はIrDA等の通信規格に対応するのが好ましい。そして、店舗装置51は、買物かご1の識別子に紐付けられた1以上の商品A1の商品情報をメモリから読み出し、読み出した1以上の商品A1の商品情報を参照して精算処理を実行する。つまり、店舗内に複数の買物かご1が存在する場合、店舗装置51では、複数の買物かご1の各々から送信される1以上の商品A1の商品情報を、送信元の買物かご1の識別子と紐付けてメモリに記憶する。そして、店舗装置51は、カウンタ台53に買物かご1が配置された際に、この買物かご1の識別子を参照することで、この買物かご1に投入された1以上の商品A1についての精算処理を実行する。
この態様では、精算処理が完了すると、店舗装置51は、精算処理の対象であった買物かご1に投入された1以上の商品A1の商品情報をメモリから抹消する。そして、客が、かご置場に買物かご1を戻すと、処理部31は、把持部12が第2位置にあると判定して、撮像部2の動作を停止させる。このとき、処理部31は、記憶部32に記憶してある1以上の商品A1の商品情報を抹消する。処理部31が1以上の商品A1の商品情報を抹消するタイミングは、精算処理が完了した時点であってもよい。
また、上述の実施形態では、販売システム5は、カウンタ台53に搭載されているが、これに限定する趣旨ではない。例えば、販売システム5(店舗装置51)は、店舗に設置されているコンピュータシステムにて実現されていてもよい。この場合、買物かご1の処理部31は、通信部33を用いて販売システム5と通信することにより、買物かご1をカウンタ台53に配置することなく精算処理を完了させることも可能である。そして、この場合、客は、カウンタ台53に買物かご1を置く必要がないので、例えば、カウンタ台53の前に赴くことなく買物を済ませることも可能である。
上述の実施形態では、撮像部2が検知部として機能しているが、これに限定する趣旨ではない。例えば、検知部として、透過型の光センサ、反射型の光センサ、又は超音波センサを買物かご1に搭載してもよい。この場合、処理部31は、上述の光センサ又は超音波センサにより、買物かご1の開口部110を商品A1が通過したことを検知すると、載置面10に商品A1が配置されたと判定すればよい。
上述の実施形態では、カウンタ台53にアーチ54及び撮像装置55が設けられているが、これに限定する趣旨ではない。例えば、カウンタ台53は、アーチ54及び撮像装置55を備えていなくてもよい。この場合、販売システム5は、商品A1を判別する処理を実行しない。つまり、上述の実施形態において、商品A1を判別する処理は、買物かご1で完結してもよい。
上述の実施形態では、処理部(判別部)31は、買物かご(運搬機器)1に設けられているが、これに限定する趣旨ではない。例えば、処理部31は、店舗装置51が備えていてもよい。この場合、買物かご(運搬機器)1では、撮像部2で撮像された画像(差分画像)を、通信部33を介して店舗装置51へ送信すればよい。そして、店舗装置51にて、撮像部2で撮像された画像に基づき、商品(物品)A1を判別して商品A1の商品情報(物品情報)を取得すればよい。
また、処理部(判別部)31は、サーバシステム又はクラウド(クラウドコンピューティング)等により実現されてもよい。例えば、買物かご(運搬機器)1は、撮像部2で撮像された画像(差分画像)を、通信部33を介してサーバシステムへ送信してもよい。そして、サーバシステムにて、撮像部2で撮像された画像に基づき、商品(物品)A1を判別して商品A1の商品情報(物品情報)を取得してもよい。
上述の実施形態では、第1分類部311及び複数の第2分類部312は、いずれも買物かご(運搬機器)1に設けられているが、これに限定する趣旨ではない。例えば、第1分類部311が買物かご1に設けられ、複数の第2分類部312が店舗装置51に設けられていてもよい。また、店舗内に複数の店舗装置51が設置されている場合、複数の第2分類部312は、それぞれ複数の店舗装置51に分かれて設けられてもよい。この態様では、複数の店舗装置51のうち、第1分類部311で商品A1が分類されたカテゴリに対応する第2分類部312を有する店舗装置51は、第2分類部312での分類結果を、精算処理が行われる店舗装置51に送信すればよい。
上述の実施形態において、買物支援システム200は、店員の操作を必要とせずに商品の購入が可能な態様に限らず、例えば、いわゆる有人レジのようにカウンタ台53に店員が居る状況で使用されてもよい。その他、買物支援システム200は、例えば店員がいない店舗で使用されてもよい。
上述の実施形態では、物品判別システム100は、買物かご(運搬機器)1に配置された商品(物品)A1を判別するために用いられているが、この用途に限定する趣旨ではない。例えば、物品判別システム100は、物流倉庫においてピッキングすることで、かご(運搬機器)1に配置された物品A1を判別するために用いられてもよい。その他、物品判別システム100は、工場においてピッキングすることで、運搬機器(例えば、かご又はトレイ等)1に配置された物品A1を判別するために用いられてもよい。
上述の実施形態において、買物かご(運搬機器)1は、人が運ぶだけでなく、例えばロボットが運んでもよい。
(まとめ)
以上述べたように、第1の態様に係る物品判別システム(100)は、撮像部(2)と、判別部(31)と、を備える。撮像部(2)は、運搬機器(1)に配置された物品(A1)を撮像する。判別部(31)は、物品(A1)を判別する。判別部(31)は、第1分類部(311)と、複数の第2分類部(312)と、を有する。第1分類部(311)は、物品(A1)に関する情報に基づいて、物品(A1)を複数のカテゴリ(C1,…,Cn)のうちの1以上のカテゴリに分類する。複数の第2分類部(312)は、複数のカテゴリ(C1,…,Cn)ごとに設けられて、機械学習された分類器を用いて、撮像部(2)で撮像された物品(A1)の画像に基づいて、1以上のカテゴリに分類された物品(A1)を更に分類する。
以上述べたように、第1の態様に係る物品判別システム(100)は、撮像部(2)と、判別部(31)と、を備える。撮像部(2)は、運搬機器(1)に配置された物品(A1)を撮像する。判別部(31)は、物品(A1)を判別する。判別部(31)は、第1分類部(311)と、複数の第2分類部(312)と、を有する。第1分類部(311)は、物品(A1)に関する情報に基づいて、物品(A1)を複数のカテゴリ(C1,…,Cn)のうちの1以上のカテゴリに分類する。複数の第2分類部(312)は、複数のカテゴリ(C1,…,Cn)ごとに設けられて、機械学習された分類器を用いて、撮像部(2)で撮像された物品(A1)の画像に基づいて、1以上のカテゴリに分類された物品(A1)を更に分類する。
この態様によれば、判別対象の物品(A1)の種類が増えても、物品(A1)を判別するまでに要する時間が長くなりにくい、という利点がある。
第2の態様に係る物品判別システム(100)では、第1の態様において、物品(A1)に関する情報は、撮像部(2)で撮像された物品(A1)の画像情報を含む。
この態様によれば、物品(A1)に関する情報を取得するために撮像部(2)以外の手段を用意する必要がない、という利点がある。
第3の態様に係る物品判別システム(100)では、第1又は第2の態様において、物品(A1)に関する情報は、物品(A1)の重量情報を含む。
この態様によれば、撮像部(2)で撮像された物品(A1)の画像情報を用いる場合と比較して、物品(A1)を1以上のカテゴリに分類しやすい、という利点がある。
第4の態様に係る物品判別システム(100)では、第1〜第3のいずれかの態様において、物品(A1)に関する情報は、物品(A1)が運搬機器(1)に配置された際の物品(A1)の位置情報を含む。
この態様によれば、撮像部(2)で撮像された物品(A1)の画像情報を用いる場合と比較して、物品(A1)を1以上のカテゴリに分類しやすい、という利点がある。
第5の態様に係る物品判別システム(100)は、第1〜第4のいずれかの態様において、物品(A1)に対応付けられた情報に基づいて物品(A1)を特定する特定部(6)を更に備える。
この態様によれば、仮に判別部(31)で判別しきれない物品(A1)が存在する場合でも、このような物品(A1)を特定することができる、という利点がある。
第6の態様に係る物品判別システム(100)では、第1〜第5のいずれかの態様において、撮像部(2)は、運搬機器(1)に設けられており、物品(A1)が配置される載置面(10)を少なくとも撮像範囲とする。
この態様によれば、撮像部(2)で撮像された画像に物品(A1)の全体が含まれやすく、物品(A1)を判別しやすい、という利点がある。
第7の態様に係る物品判別システム(100)は、第1〜第6のいずれかの態様において、検知部(撮像部(2))を更に備える。検知部は、運搬機器(1)に物品(A1)が配置されたことを検知する。撮像部(2)は、検知部にて物品(A1)が運搬機器(1)に配置されたことを検知すると、撮像する。
この態様によれば、撮像部(2)が物品(A1)の存否に依らず常に撮像する場合と比較して、物品(A1)の写った画像に基づいて物品(A1)を判別しやすい、という利点がある。
第8の態様に係る物品判別システム(100)では、第7の態様において、複数の第2分類部(312)の各々は、差分画像に基づき、物品(A1)を分類する。差分画像は、検知部にて検知された第1時点と、第1時点よりも前の第2時点とのそれぞれで撮像部(2)に撮像された画像の差分の画像である。
この態様によれば、運搬機器(1)に複数の物品(A1)が重ねて配置される場合でも、物品(A1)ごとに判別しやすい、という利点がある。
第9の態様に係る買物支援システム(200)は、第1〜第8のいずれかの態様の物品判別システム(100)と、販売システム(5)と、を備える。販売システム(5)は、物品(A1)の販売処理を行うためのシステムである。
この態様によれば、判別対象の物品(A1)の種類が増えても、物品(A1)を判別するまでに要する時間が長くなりにくい、という利点がある。
第10の態様に係る買物支援方法は、第1ステップ(S1)と、第2ステップ(S2)と、を有する物品判別方法により物品(A1)を判別し、物品判別方法により判別された物品(A1)の販売処理を行う。第1ステップ(S1)は、運搬機器(1)に配置される物品(A1)に関する情報に基づいて、物品(A1)を複数のカテゴリ(C1,…,Cn)のうちの1以上のカテゴリに分類するステップである。第2ステップ(S2)は、1以上のカテゴリに分類された物品(A1)について、機械学習された分類器を用いて、物品(A1)を撮像した画像に基づいて、第1ステップ(S1)よりも更に物品(A1)を分類するステップである。
この態様によれば、判別対象の物品(A1)の種類が増えても、物品(A1)を判別するまでに要する時間が長くなりにくい、という利点がある。
第11の態様に係る物品判別方法は、運搬機器(1)に配置される物品(A1)を判別する物品判別方法であって、第1ステップ(S1)と、第2ステップ(S2)と、を有する。第1ステップ(S1)は、運搬機器(1)に配置される物品(A1)に関する情報に基づいて、物品(A1)を複数のカテゴリ(C1,…,Cn)のうちの1以上のカテゴリに分類するステップである。第2ステップ(S2)は、1以上のカテゴリに分類された物品(A1)について、機械学習された分類器を用いて、物品(A1)を撮像した画像に基づいて、第1ステップ(S1)よりも更に物品(A1)を分類するステップである。
この態様によれば、判別対象の物品(A1)の種類が増えても、物品(A1)を判別するまでに要する時間が長くなりにくい、という利点がある。
第12の態様に係るプログラムは、1以上のプロセッサに、第11の態様に係る物品判別方法を実行させるためのプログラムである。
この態様によれば、判別対象の物品(A1)の種類が増えても、物品(A1)を判別するまでに要する時間が長くなりにくい、という利点がある。
第2〜第8の態様に係る構成については、物品判別システム(100)に必須の構成ではなく、適宜省略可能である。
1 買物かご(運搬機器)
10 載置面
2 撮像部
31 処理部(判別部)
311 第1分類部
312 第2分類部
5 販売システム
6 特定部
100 物品判別システム
200 買物支援システム
A1 商品(物品)
C1,…,Cn カテゴリ
S1 第1ステップ
S2 第2ステップ
10 載置面
2 撮像部
31 処理部(判別部)
311 第1分類部
312 第2分類部
5 販売システム
6 特定部
100 物品判別システム
200 買物支援システム
A1 商品(物品)
C1,…,Cn カテゴリ
S1 第1ステップ
S2 第2ステップ
Claims (12)
- 運搬機器に配置された物品を撮像する撮像部と、
前記物品を判別する判別部と、を備え、
前記判別部は、
前記物品に関する情報に基づいて、前記物品を複数のカテゴリのうちの1以上のカテゴリに分類する第1分類部と、
前記複数のカテゴリごとに設けられて、機械学習された分類器を用いて、前記撮像部で撮像された前記物品の画像に基づいて、前記1以上のカテゴリに分類された前記物品を更に分類する複数の第2分類部と、を有する、
物品判別システム。 - 前記物品に関する情報は、前記撮像部で撮像された前記物品の画像情報を含む、
請求項1記載の物品判別システム。 - 前記物品に関する情報は、前記物品の重量情報を含む、
請求項1又は2に記載の物品判別システム。 - 前記物品に関する情報は、前記物品が前記運搬機器に配置された際の前記物品の位置情報を含む、
請求項1〜3のいずれか1項に記載の物品判別システム。 - 前記物品に対応付けられた情報に基づいて前記物品を特定する特定部を更に備える、
請求項1〜4のいずれか1項に記載の物品判別システム。 - 前記撮像部は、前記運搬機器に設けられており、前記物品が配置される載置面を少なくとも撮像範囲とする、
請求項1〜5のいずれか1項に記載の物品判別システム。 - 前記運搬機器に前記物品が配置されたことを検知する検知部を更に備え、
前記撮像部は、前記検知部にて前記物品が前記運搬機器に配置されたことを検知すると、撮像する、
請求項1〜6のいずれか1項に記載の物品判別システム。 - 前記複数の第2分類部の各々は、前記検知部にて検知された第1時点と、前記第1時点よりも前の第2時点とのそれぞれで前記撮像部に撮像された画像の差分の画像である差分画像に基づき、前記物品を分類する、
請求項7記載の物品判別システム。 - 請求項1〜8のいずれか1項に記載の物品判別システムと、
前記物品の販売処理を行うための販売システムと、を備える、
買物支援システム。 - 運搬機器に配置される物品に関する情報に基づいて、前記物品を複数のカテゴリのうちの1以上のカテゴリに分類する第1ステップと、
前記1以上のカテゴリに分類された前記物品について、機械学習された分類器を用いて、前記物品を撮像した画像に基づいて、前記第1ステップよりも更に前記物品を分類する第2ステップと、
を少なくとも有する物品判別方法により前記物品を判別し、
前記物品判別方法により判別された前記物品の販売処理を行う、
買物支援方法。 - 運搬機器に配置される物品を判別する物品判別方法であって、
前記物品に関する情報に基づいて、前記物品を複数のカテゴリのうちの1以上のカテゴリに分類する第1ステップと、
前記1以上のカテゴリに分類された前記物品について、機械学習された分類器を用いて、前記物品を撮像した画像に基づいて、前記第1ステップよりも更に前記物品を分類する第2ステップと、を有する、
物品判別方法。 - 1以上のプロセッサに、
請求項11記載の物品判別方法を実行させるための、
プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018146320A JP2020021378A (ja) | 2018-08-02 | 2018-08-02 | 物品判別システム、買物支援システム、買物支援方法、物品判別方法、及びプログラム |
US16/443,967 US20190392505A1 (en) | 2018-06-20 | 2019-06-18 | Item information acquisition system, shopping assistance system, shopping assistance method, and carrier |
CN201910540782.0A CN110615242A (zh) | 2018-06-20 | 2019-06-20 | 物品信息取得系统、购物辅助系统、购物辅助方法以及搬运设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018146320A JP2020021378A (ja) | 2018-08-02 | 2018-08-02 | 物品判別システム、買物支援システム、買物支援方法、物品判別方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020021378A true JP2020021378A (ja) | 2020-02-06 |
Family
ID=69588583
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018146320A Pending JP2020021378A (ja) | 2018-06-20 | 2018-08-02 | 物品判別システム、買物支援システム、買物支援方法、物品判別方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020021378A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021018470A (ja) * | 2019-07-17 | 2021-02-15 | 東芝テック株式会社 | 物品特定装置及びプログラム |
JP2021128416A (ja) * | 2020-02-12 | 2021-09-02 | Line株式会社 | サーバ、決済処理方法およびプログラム |
JP2022078310A (ja) * | 2021-06-03 | 2022-05-24 | 阿波▲羅▼智▲聯▼(北京)科技有限公司 | 画像分類モデル生成方法、装置、電子機器、記憶媒体、コンピュータプログラム、路側装置およびクラウド制御プラットフォーム |
JP2022102516A (ja) * | 2020-12-25 | 2022-07-07 | エヌ・ティ・ティ・コムウェア株式会社 | 物体分類装置、物体分類方法、およびプログラム |
JP7148689B1 (ja) | 2021-06-09 | 2022-10-05 | 京セラ株式会社 | 認識器学習装置、認識装置、電子機器、及び学習方法 |
WO2022260148A1 (ja) * | 2021-06-09 | 2022-12-15 | 京セラ株式会社 | 認識装置、端末装置、認識器構築装置、認識器修正装置、構築方法、及び修正方法 |
-
2018
- 2018-08-02 JP JP2018146320A patent/JP2020021378A/ja active Pending
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021018470A (ja) * | 2019-07-17 | 2021-02-15 | 東芝テック株式会社 | 物品特定装置及びプログラム |
JP2021128416A (ja) * | 2020-02-12 | 2021-09-02 | Line株式会社 | サーバ、決済処理方法およびプログラム |
JP2022102516A (ja) * | 2020-12-25 | 2022-07-07 | エヌ・ティ・ティ・コムウェア株式会社 | 物体分類装置、物体分類方法、およびプログラム |
JP7138158B2 (ja) | 2020-12-25 | 2022-09-15 | エヌ・ティ・ティ・コムウェア株式会社 | 物体分類装置、物体分類方法、およびプログラム |
JP2022078310A (ja) * | 2021-06-03 | 2022-05-24 | 阿波▲羅▼智▲聯▼(北京)科技有限公司 | 画像分類モデル生成方法、装置、電子機器、記憶媒体、コンピュータプログラム、路側装置およびクラウド制御プラットフォーム |
JP7148689B1 (ja) | 2021-06-09 | 2022-10-05 | 京セラ株式会社 | 認識器学習装置、認識装置、電子機器、及び学習方法 |
WO2022260148A1 (ja) * | 2021-06-09 | 2022-12-15 | 京セラ株式会社 | 認識装置、端末装置、認識器構築装置、認識器修正装置、構築方法、及び修正方法 |
JP2022188725A (ja) * | 2021-06-09 | 2022-12-21 | 京セラ株式会社 | 認識器学習装置、認識装置、電子機器、及び学習方法 |
JP2022188754A (ja) * | 2021-06-09 | 2022-12-21 | 京セラ株式会社 | 認識装置、端末装置、認識器構築装置、認識器修正装置、構築方法、及び修正方法 |
JP2022188780A (ja) * | 2021-06-09 | 2022-12-21 | 京セラ株式会社 | 認識器学習装置、認識装置、電子機器、及び学習方法 |
JP7262650B2 (ja) | 2021-06-09 | 2023-04-21 | 京セラ株式会社 | 認識装置、端末装置、認識器構築装置、認識器修正装置、構築方法、及び修正方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2020021378A (ja) | 物品判別システム、買物支援システム、買物支援方法、物品判別方法、及びプログラム | |
US11889933B2 (en) | Resolving events in item-identifying carts | |
US11205166B2 (en) | Wireless reading system, shopping assistance system with the same, wireless reading method and shopping assistance method | |
US20190392505A1 (en) | Item information acquisition system, shopping assistance system, shopping assistance method, and carrier | |
US11381780B2 (en) | Item-identifying carts | |
US11820414B1 (en) | Item-identifying carts | |
US7796037B2 (en) | System for facilitating the handling of goods based on containers equipped with an RFID tag | |
RU2739542C1 (ru) | Система автоматической регистрации для торговой точки | |
WO2018094286A1 (en) | Automated-service retail system and method | |
US11393253B1 (en) | Using sensor data to determine activity | |
US20190241298A1 (en) | Bagging system for store merchandise | |
CN108510649A (zh) | 自助售货设备及系统 | |
US11636457B1 (en) | Efficient weight estimation and stabilization | |
US11922486B2 (en) | Identifying items using cascading algorithms | |
US11893563B2 (en) | Reading system, shopping assistance system, reading method, and program | |
CN111932774A (zh) | 售卖机售出商品识别方法、装置及售卖机 | |
KR102122159B1 (ko) | 스마트 확장형 카트 백 및 이를 이용한 구매물품 비용 자동 산출 방법 | |
US11117744B1 (en) | Determination of untidy item return to an inventory location | |
CN109808981A (zh) | 容器、使用该容器的购物支持系统以及购物支持方法 | |
US11620822B1 (en) | Resolving events in item-identifying carts | |
US11727224B1 (en) | Determining RFID-tag locations in a facility | |
GB2568159A (en) | Shopping facility discarded item sorting systems, devices, and methods | |
JP2019219966A (ja) | 物品情報取得システム、買物支援システム、買物支援方法、及び運搬機器 | |
EP3267407A1 (en) | Shopping container, shopping infrastructure and related method | |
US11797920B1 (en) | Customized retail environments |