JP7384267B2 - 処理装置、処理方法及びプログラム - Google Patents

処理装置、処理方法及びプログラム Download PDF

Info

Publication number
JP7384267B2
JP7384267B2 JP2022502774A JP2022502774A JP7384267B2 JP 7384267 B2 JP7384267 B2 JP 7384267B2 JP 2022502774 A JP2022502774 A JP 2022502774A JP 2022502774 A JP2022502774 A JP 2022502774A JP 7384267 B2 JP7384267 B2 JP 7384267B2
Authority
JP
Japan
Prior art keywords
class
product
processing device
classification
class classification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022502774A
Other languages
English (en)
Other versions
JPWO2021171553A1 (ja
Inventor
博志 橋本
観 荒井
恵 渋谷
健 花沢
あずさ 古川
万貴子 秋口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2021171553A1 publication Critical patent/JPWO2021171553A1/ja
Application granted granted Critical
Publication of JP7384267B2 publication Critical patent/JP7384267B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/04Inference or reasoning models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Molecular Biology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、処理装置、処理方法及びプログラムに関する。
特許文献1は、番組映像内から検索対象者を検索する顔認識処理において、各出演者が番組映像に写っている可能性を示す適合率を用いたソートを行うことを開示している。
特開2017-33372号
機械学習等で生成された推論器は推論結果を誤ることがある。推論結果が誤っている可能性があることを検知し、それを訂正するための技術が望まれる。当該技術により、誤った推論結果に基づき以降の処理が行われる不都合を抑制できる。特許文献1は、当該課題及びその解決手段を開示していない。
本発明の課題は、機械学習等で生成された推論器による推論結果が誤っている可能性があることを検知し、それを訂正するための技術を提供することである。
本発明によれば、
推論器に基づきクラス分類を実行する分類実行手段と、
前記クラス分類により特定されたクラスの適合率を算出する算出手段と、
前記適合率が基準値未満である場合、前記クラス分類により特定されたクラスを出力し、オペレータによる正誤入力を受付ける処理手段と、
を有する処理装置が提供される。
また、本発明よれば、
コンピュータが、
推論器に基づきクラス分類を実行し、
前記クラス分類により特定されたクラスの適合率を算出し、
前記適合率が基準値未満である場合、前記クラス分類により特定されたクラスを出力し、オペレータによる正誤入力を受付ける処理方法が提供される。
また、本発明によれば、
コンピュータを、
推論器に基づきクラス分類を実行する分類実行手段、
前記クラス分類により特定されたクラスの適合率を算出する算出手段、
前記適合率が基準値未満である場合、前記クラス分類により特定されたクラスを出力し、オペレータによる正誤入力を受付ける処理手段、
として機能させるプログラムが提供される。
本発明によれば、機械学習等で生成された推論器による推論結果が誤っている可能性があることを検知し、それを訂正するための技術が実現される。
本実施形態の処理装置のハードウエア構成の一例を示す図である。 本実施形態の処理装置の機能ブロック図の一例である。 本実施形態の処理装置が処理する情報の一例を模式的に示す図である。 本実施形態の処理装置が処理する情報の一例を模式的に示す図である。 本実施形態の処理装置が出力する画面の一例を模式的に示す図である。 本実施形態の処理装置が出力する画面の一例を模式的に示す図である。 本実施形態の処理装置が出力する画面の一例を模式的に示す図である。 本実施形態の処理装置の処理の流れの一例を示すフローチャートである。 本実施形態の処理装置の処理の流れの一例を示すフローチャートである。 本実施形態の処理装置が処理する情報の一例を模式的に示す図である。 本実施形態の処理装置が処理する情報の一例を模式的に示す図である。 本実施形態の処理装置が処理する情報の一例を模式的に示す図である。 本実施形態の処理装置が処理する情報の一例を模式的に示す図である。
<第1の実施形態>
「概要」
まず、本実施形態の処理装置が実行する処理の概要を説明する。処理装置は、機械学習等で生成された推論器に基づきクラス分類を実行すると、当該クラス分類により特定されたクラスの事前分布に基づき、特定されたクラスの適合率を算出する。そして、適合率が基準値以上である場合、処理装置は、特定されたクラスに基づき以降の処理を実行する。一方、適合率が基準値未満である場合、処理装置は、特定されたクラスを出力してオペレータによる正誤入力を受付け、当該正誤入力で特定された正しいクラスに基づき以降の処理を実行する。
本実施形態の処理装置の適用場面を説明する。本実施形態の処理装置は、コンビニエンスストア、スーパーマーケット等の店舗における会計処理において利用される。本実施形態の処理装置の一例は、いわゆるPOS(point of sales)レジスターである。処理装置は、購入対象の商品を撮影した画像と推論器とに基づき、画像に含まれる商品を特定するクラス分類を実行する。そして、処理装置は、特定された商品が購入対象として登録される頻度(購入頻度)を示す事前分布に基づき、特定された商品の適合率を算出する。そして、適合率が基準値以上である場合、処理装置10は、特定された商品を購入対象として登録する。一方、適合率が基準値未満である場合、処理装置10は、特定結果を出力してオペレータによる正誤入力を受付け、当該正誤入力で特定された商品を購入対象として登録する。
このような本実施形態の処理装置によれば、機械学習等で生成された推論器による推論結果が誤っている可能性があることを検知し、それを訂正するための技術が実現される。結果、誤った推論結果に基づき以降の処理が行われる不都合を抑制できる。上述した適用場面の場合、画像に含まれる商品と異なる商品を購入対象として登録し、会計処理を行う不都合が抑制される。
「ハードウエア構成」
次に、処理装置のハードウエア構成の一例を説明する。処理装置の各機能部は、任意のコンピュータのCPU(Central Processing Unit)、メモリ、メモリにロードされるプログラム、そのプログラムを格納するハードディスク等の記憶ユニット(あらかじめ装置を出荷する段階から格納されているプログラムのほか、CD(Compact Disc)等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムをも格納できる)、ネットワーク接続用インターフェイスを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
図1は、処理装置のハードウエア構成を例示するブロック図である。図1に示すように、処理装置は、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5Aを有する。周辺回路4Aには、様々なモジュールが含まれる。処理装置は周辺回路4Aを有さなくてもよい。なお、処理装置は物理的及び/又は論理的に分かれた複数の装置で構成されてもよいし、物理的及び/又は論理的に一体となった1つの装置で構成されてもよい。処理装置が物理的及び/又は論理的に分かれた複数の装置で構成される場合、複数の装置各々が上記ハードウエア構成を備えることができる。
バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPU、GPU(Graphics Processing Unit)などの演算処理装置である。メモリ2Aは、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。入出力インターフェイス3Aは、入力装置、外部装置、外部サーバ、外部センサー、カメラ等から情報を取得するためのインターフェイスや、出力装置、外部装置、外部サーバ等に情報を出力するためのインターフェイスなどを含む。入力装置は、例えばキーボード、マウス、マイク、物理ボタン、タッチパネル等である。出力装置は、例えばディスプレイ、スピーカ、プリンター、メーラ等である。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行うことができる。
「機能構成」
次に、処理装置の機能構成を説明する。図2に示すように、処理装置10は、記憶部11と、分類実行部12と、算出部13と、処理部14と、登録部15とを有する。
記憶部11は、本実施形態の処理に必要な各種情報を記憶する。例えば、記憶部11は、画像に含まれる商品を特定する推論器(推定モデル)を記憶する。推論器は、画像に含まれる商品を特定する。例えば、商品画像と商品識別情報(商品名、商品コード等)とを紐づけた教師データに基づく機械学習により、推論器が生成される。
分類実行部12は、推論器に基づきクラス分類を実行する。まず、分類実行部12は、購入対象の商品を撮影した画像を取得する。当該撮影は、会計処理を実行するオペレータ(例:店員、客)が行う。そして、分類実行部12は、当該画像及び記憶部11に記憶されている推論器に基づくクラス分類により、画像に含まれる商品を特定する。分類実行部12は、取得した画像をそのまま推論器に入力してもよいし、所定の処理(例:ノイズ除去、物体検出、背景除去、トリミング等)を行った後に推論器に入力してもよい。推論器による推論結果は、画像に含まれる商品であると特定された商品の商品識別情報等を示す。なお、商品を撮影するカメラの構成、撮影方法、処理装置10への画像の入力方法などは設計的事項であり、あらゆる技術を採用できる。
算出部13は、分類実行部12によるクラス分類により特定されたクラスの適合率を算出する。すなわち、算出部13は、画像に含まれる商品であると特定された商品の適合率を算出する。
ここで、適合率を算出する処理の詳細を説明する。算出部13は、クラス分類により特定されたクラス(商品)の事前分布に基づきそのクラスの適合率を算出する。具体的には、算出部13は、下記式(1)に基づき、適合率Pを算出する。
Figure 0007384267000001
Rは再現率であり、Sは特異度である。本実施形態では、再現率R及び特異度Sは固定値である。すなわち、会計処理時の環境(時間帯、天気など)やクラス分類の結果に関わらず、再現率R及び特異度Sは同じ値である。pは事前分布である。本実施形態では、事前分布pは特定された商品が購入対象として処理装置10に登録される頻度を示す。事前分布pはその会計処理時における各商品の登録履歴に基づき算出される。
すなわち、算出部13は、予め記憶部11に記憶されている再現率R及び特異度Sの値を取り出す。また、算出部13は、その会計処理時における各商品の登録履歴に基づき、特定された商品の最新の事前分布pを算出する。そして、算出部13は、上記式(1)に、取り出した再現率R及び特異度Sと、算出した事前分布pを入力して、適合率Pを算出する。
ここで、上記式(1)について説明する。まず、以下のパラメータを定義する。
TP:true positive:正解を正解と推論した数
FP:false positive:不正解を正解と推論した数
FN:false negative:正解を不正解と推論した数
TN:true negative:不正解を不正解と推論した数
一般的に、適合率P、再現率R、特異度S、事前分布pは下記式(2)乃至(5)で算出されることが知られている。これらの式を変形することで、上記式(1)が得られる。
Figure 0007384267000002
Figure 0007384267000003
Figure 0007384267000004
Figure 0007384267000005
次に、再現率R及び特異度Sを固定値とすること、及び、その値の決定方法を説明する。
再現率R及び特異度Sは、推論器による認識の難しさによって変わる。認識の難しさは、画像に含まれる推論対象の写り方によるところが大きく、例えば、撮影時の光環境(外光、室内光、室内光の種類、光と被写体との相対的な関係(距離、向き等)等)や、推論対象(被写体)とカメラの相対的な関係(距離、向き等)等によって異なる。
しかし、店舗における会計処理において処理装置10が利用される本実施形態の場合、実行環境によらず認識の難しさは不変と想定できる。すなわち、本実施形態の場合、撮影に影響する光は室内光であり、外光の影響は無視できる。そして、室内光の強さ等は時間等に関係なく不変であることが一般的である。また、室内のライトや会計処理に利用するカメラは所定位置に固定されていることが一般的であるので、これらの相対的な関係(距離、向き等)は時間等に関係なく不変であることが一般的である。さらに、会計処理時に購入対象の商品をカメラで撮影する方法はマニュアル化されるので、推論対象(被写体)とカメラの相対的な関係(距離、向き等)はオペレータ毎の多少のずれがあったとしても、大きくずれることはない。
本発明者は、本実施形態はこのように再現率R及び特異度Sを不変と想定できる環境にあることを新たに見出し、これらの値を固定値とすることを新たに想到した。
再現率R及び特異度Sの値は、例えば、店舗で実際に処理装置10を使用する前に、所定の場所で分類実行部12によるクラス分類のテストを実行し、そのテストの結果、及び、上記式(3)及び(4)に基づき算出することができる。テストを実行する場所は、店舗であるのが好ましいが、他の場所であってもよい。
次に、事前分布pの算出方法を説明する。店舗における会計処理において処理装置10が利用される本実施形態の場合、事前分布pは、クラス分類により特定された商品が購入対象として登録される頻度(購入頻度)を示す。
例えば、本実施形態の事前分布pは、「店舗で扱っている商品各々の購入対象としての登録回数の合計」に対する「クラス分類により特定された商品の購入対象としての登録回数」の割合である。ここでの「購入対象としての登録」は、以下で説明する登録部15により実現される処理であり、会計処理時にPOSレジスター等の会計装置に購入対象として登録することである。
記憶部11は、図3に示すように、店舗で扱っている商品各々の商品識別情報と、各商品が購入対象として登録された回数とを紐づけた事前分布情報を記憶している。当該事前分布情報は、会計処理が行われるごとに更新される。そして、算出部13は、当該事前分布情報に基づき、上述した事前分布pを算出する。
なお、「店舗で扱っている商品各々の購入対象としての登録回数の合計」は、その店舗で扱っているすべての商品の登録回数の合計であってもよい。
その他、「店舗で扱っている商品各々の購入対象としての登録回数の合計」は、その店舗で扱っている一部商品の登録回数の合計であってもよい。一部商品は、例えば、クラス分類により特定された商品と外観が類似しており、分類実行部12によるクラス分類で互いの識別が比較的困難な商品の集まり(外観類似商品群)とすることができる。クラス分類で互いの識別が比較的困難な商品の集まりは、例えば同種商品(飲料、シャンプー、歯磨き粉等)の集まりであってもよいし、同一メーカの同種商品の集まりであってもよいし、同一メーカの同一シリーズの商品の集まりであってもよいし、その他であってもよい。
記憶部11は、図4に示すように、分類実行部12によるクラス分類で互いの識別が比較的困難な商品の集まりを示すグループ情報を記憶しておいてもよい。そして、算出部13は、当該グループ情報に基づき、クラス分類により特定された商品と同一のグループ番号を紐づけられた商品を特定し、「クラス分類により特定された商品と同一のグループ番号を紐づけられた商品(クラス分類により特定された商品を含む)の登録回数」の合計を、「店舗で扱っている商品各々の購入対象としての登録回数の合計」として算出してもよい。
なお、本実施形態では、当該頻度は、処理装置10が設置された一の店舗において各商品が購入対象として登録される頻度とする。すなわち、処理装置10が設置されたその店舗における各商品の購入頻度を示す。変形例として、複数の店舗群においてその商品が購入対象として登録される頻度としてもよい。すなわち、複数の店舗全体での各商品の購入頻度としてもよい。複数の店舗群は、客による商品の購入傾向が似ている店舗の集まりとするのが好ましく、例えば、立地条件(例:100m以内に駅がある、100m以内に大学がある等)が似ている店舗の集まり等が例示される。
図2に戻り、処理部14は、算出部13により算出された適合率Pが基準値未満である場合、分類実行部12によるクラス分類により特定されたクラス(商品)を出力し、オペレータによる正誤入力を受付ける。処理部14は、会計処理を実行するオペレータに向けて当該情報を出力し、当該オペレータから正誤入力を受付ける。情報の出力は、ディスプレイ、スピーカ、投影装置等のあらゆる出力装置を介して実現される。また、入力の受付は、タッチパネル、物理ボタン、マイク、マウス、キーボード等のあらゆる入力装置を介して実現される。
例えば、処理部14は、図5に示すような画面をタッチパネルディスプレイに表示し、入力を受付けてもよい。図5に示す画面では、分類実行部12によるクラス分類により特定された商品を識別する情報が表示され、それが正しいか否かの回答の入力を受付けるようになっている。そして、処理部14は、当該画面で「No」の入力を受付けた場合、図6に示すような画面をタッチパネルディスプレイに表示し、入力を受付けてもよい。図6に示す画面では、店舗で扱っている商品が一覧表示され、その中から1つを指定する入力を受付けるようになっている。
その他、処理部14は、図7に示すような画面をタッチパネルディスプレイに表示し、入力を受付けてもよい。図7に示す画面では、店舗で扱っている商品の中から選択された一部の複数の商品が、購入対象の商品の候補として表示されている。そして、当該画面では、その候補の中から1つを指定する入力を受付けるようになっている。処理部14は、当該画面で「どれでもない」の入力を受付けた場合、図6に示すような画面をタッチパネルディスプレイに表示し、入力を受付けてもよい。
ここで、図7に示す画面に表示する商品の候補を選択する方法の一例を説明する。
(選択方法1)その時点で事前分布の値が高い方から所定数の商品を選択する。
(選択方法2)その時点の事前分布の値が高い方から所定数の商品に含まれ、かつ、事前分布の値が基準値以上の商品を選択する。
(選択方法3)選択方法1又は選択方法2で選択した商品に加え、分類実行部12によるクラス分類で特定された商品を選択する。
(選択方法4)分類実行部12によるクラス分類で特定された商品と同一のグループ番号を紐づけられた商品の中からその時点で事前分布の値が高い方から所定数を選択する。
(選択方法5)分類実行部12によるクラス分類で特定された商品と同一のグループ番号を紐づけられた商品の中でその時点の事前分布の値が高い方から所定数の商品に含まれ、かつ、事前分布の値が基準値以上の商品を選択する。
(選択方法6)選択方法4又は選択方法5で選択した商品に加え、分類実行部12によるクラス分類で特定された商品を選択する。
(選択方法7)推論器が事後分布を出力する場合、選択方法1乃至6の方法において、事前分布の値を事後分布の値に置き換えて、商品を選択する。
図2に戻り、登録部15は、算出部13により算出された適合率Pが基準値以上である場合、分類実行部12によるクラス分類により特定された商品を購入対象として登録する。そして、登録部15は、当該適合率Pが当該基準値未満である場合、処理部14により受付けられたオペレータによる正誤入力で特定された商品を購入対象として登録する。
例えば、登録部15は、店舗サーバに記憶されている商品マスタから、購入対象として登録する商品の商品情報(商品名、単価等)を取得し、記憶部11に記憶させる。
次に、図8のフローチャートを用いて、処理装置10の処理の流れの一例を説明する。
店舗における会計処理において処理装置10が利用される本実施形態の場合、処理装置10は、購入対象の商品を登録する商品登録処理S20と、登録内容に基づく精算処理S21とを繰り返す。
商品登録処理S20では、処理装置10は、図9のフローチャートで示す処理を繰り返す。
まず、オペレータは、購入対象の商品を撮影する操作を行う。分類実行部12は、当該撮影で生成された画像を取得する(S10)。次いで、分類実行部12は、記憶部11に記憶されている推論器と、S10で取得された画像とに基づき、画像に含まれる商品を特定するクラス分類を実行する(S11)。
次に、算出部13は、S11のクラス分類で特定された商品の適合率Pを算出する(S12)。具体的には、算出部13は、その時点の事前分布情報(図3参照)に基づき、S11のクラス分類で特定された商品の事前分布を算出する。そして、算出部13は、記憶部11に予め記憶されている再現率R及び特異度Sと、算出した事前分布と、上述した式(1)とに基づき、適合率Pを算出する。
算出された適合率Pが基準値以上である場合(S13のYes)、登録部15は、S11のクラス分類で特定された商品を購入対象として登録する(S16)。例えば、登録部15は、店舗サーバに記憶されている商品マスタからその商品の商品情報(商品名、単価等)を取得し、記憶部11に記憶させる。次いで、登録部15は、事前分布情報(図3参照)を更新する(S17)。すなわち、登録部15は、購入対象として登録した商品の登録回数を「1」増加させる。
一方、算出された適合率Pが基準値未満である場合(S13のNo)、処理部14は、S11のクラス分類で特定された商品を出力し、オペレータによる正誤入力を受付ける正誤入力受付処理を実行する(S14)。そして、登録部15は、S14の正誤入力の内容に基づき正しい商品を特定し(S15)、S14の正誤入力の内容に基づき特定された商品を購入対象として登録する(S16)。例えば、登録部15は、店舗サーバに記憶されている商品マスタからその商品の商品情報(商品名、単価等)を取得し、記憶部11に記憶させる。次いで、登録部15は、事前分布情報(図3参照)を更新する(S17)。すなわち、登録部15は、購入対象として登録した商品の登録回数を「1」増加させる。S16及びS17の処理は、上述の通りである。
図9のフローチャートで示す処理を少なくとも一回行い、少なくとも1つの商品が購入対象として登録された後、処理装置10は、精算処理に進む入力を受付け可能となる。そして、処理装置10は、当該入力に応じて精算処理S21を実行する。
例えば、処理装置10は、精算処理S21において、クレジットカード情報の入力を受付けたり、クレジットカード会社のサーバと通信して決済処理を行ったり、預かり金額の入力を受付けたり、釣銭を算出したり、算出した釣銭を送出したり、コード決済等のその他の処理を実行したり、レシートを発行したりすることで、商品登録処理S20での登録内容に基づき算出された会計金額の精算を行う。
その他、処理装置10は、精算処理S21において、商品登録処理S20での登録内容に基づき算出された会計金額や購入対象の商品の明細などを、処理装置10とは物理的及び/又は論理的に分かれた精算装置に送信してもよい。そして、当該精算装置が、クレジットカード情報の入力を受付けたり、クレジットカード会社のサーバと通信して決済処理を行ったり、預かり金額の入力を受付けたり、釣銭を算出したり、算出した釣銭を送出したり、コード決済等のその他の処理を実行したり、レシートを発行したりしてもよい。この例は、購入対象の商品を登録するための装置と、精算処理を行うための装置とが物理的及び/又は論理的に分かれている状況を想定している。
「作用効果」
以上説明した本実施形態の処理装置10によれば、機械学習等で生成された推論器による推論結果が誤っている可能性があることを検知し、それを訂正するための技術が実現される。このため、誤った推論結果に基づき以降の処理が実行される不都合を軽減できる。店舗における会計処理において処理装置10が利用される本実施形態の場合、画像に含まれる商品と異なる商品を購入対象として登録し、会計処理を行う不都合が抑制される。
また、本実施形態の処理装置10によれば、各商品が購入対象として登録される頻度を示す事前分布に基づき、各商品の適合率Pを算出することができる。このような特徴的な事前分布を利用することで、高精度に適合率Pを算出し、推論結果の誤りを高精度に検知することができる。
また、本実施形態の処理装置10によれば、上述のような特徴的な式(1)に基づき、適合率Pを算出することができる。このため、比較的簡易に、高精度な適合率Pを算出することができる。
また、本実施形態の処理装置10は、実行環境に関わらず再現率R及び特異度Sが不変と想定できる環境下で利用されるので、上記式(1)に含まれるパラメータのうち、再現率R及び特異度Sを固定値とすることができる。このため、処理装置10による処理負担を軽減することができる。
<第2の実施形態>
本実施形態の処理装置10は、事前分布(購入頻度)の算出の仕方が、第1の実施形態と異なる。具体的には、処理装置10は、会計処理時の環境を特定し、その環境下での事前分布(購入頻度)を算出する。
本実施形態の記憶部11は、図10に示すような事前分布情報、及び、図11に示すような環境情報を記憶する。図10に示すように、本実施形態の事前分布情報では、各環境下で各商品が購入対象として登録された回数を示す。すなわち、当該事前分布情報は、各商品が購入対象として登録された時の環境を記録している。各環境は、曜日、時間帯、季節、天気、商品メーカ、商品形状、商品種類、購入者属性、在庫情報(在庫有無、在庫数)等のパラメータの中の1つ以上で特定されてもよい。
算出部13は、事前分布や適合率Pを算出する際、まず、その時の環境を特定する。算出部13は、処理装置10内に記憶されている情報に基づき、上述のような環境を特定する各種パラメータの値を取得してもよいし、外部装置から取得してもよい。そして、算出部13は、取得した各種パラメータの値と、図11に示すような環境情報とに基づき、その時の環境(環境番号)を特定する。
環境を特定後、算出部13は、図10に示すような事前分布情報を参照し、「店舗で扱っている商品各々の特定した環境下での購入対象としての登録回数の合計」に対する「クラス分類により特定された商品の特定した環境下での購入対象としての登録回数」の割合を、クラス分類により特定された商品のその環境下での事前分布として算出する。
処理装置10のその他の構成は、第1の実施形態と同様である。
本実施形態の処理装置10によれば、第1の実施形態と同様の作用効果が実現される。また、会計処理時の環境を考慮して各商品の事前分布及び適合率Pを算出できる本実施形態の処理装置10によれば、機械学習等で生成された推論器による推論結果が誤っている可能性があることをより精度よく検知することが可能となる。
<第3の実施形態>
本実施形態の処理装置10は、再現率R及び特異度Sが固定値でなく、会計処理時の環境毎に用意されている。そして、処理装置10は、会計処理時の環境に紐づいた再現率R及び特異度Sを用いて、適合率Pを算出する。
本実施形態の記憶部11は、図12に示すようなRS情報、及び、図13に示すようなRS環境情報を記憶する。これらの図に示すように、本実施形態では、会計処理時の環境を複数の環境に分類し、環境毎に再現率R及び特異度Sを予め記憶部11に記憶しておく。例えば、店舗で実際に処理装置10を使用する前に所定の場所で行われる分類実行部12によるクラス分類のテストを、複数の環境各々の下で行い、各環境下で複数のテスト結果を収集する。そして、各環境下でのテストの結果、及び、上記式(3)及び(4)に基づき、環境毎に再現率R及び特異度Sを算出することができる。
算出部13は、適合率Pを算出する際、まず、その時の環境を特定する。算出部13は、処理装置10内に記憶されている情報に基づき、上述のような環境を特定する各種パラメータの値を取得してもよいし、外部装置から取得してもよい。そして、算出部13は、取得した各種パラメータの値と、図13に示すようなRS環境情報とに基づき、その時の環境(RS環境番号)を特定する。環境を特定後、算出部13は、図12に示すようなRS情報に基づき、適合率Pの算出に用いる再現率R及び特異度Sを取得する。
処理装置10のその他の構成は、第1及び第2の実施形態と同様である。
本実施形態の処理装置10によれば、第1及び第2の実施形態と同様の作用効果が実現される。また、会計処理時の環境を考慮して再現率R及び特異度Sを決定できる本実施形態の処理装置10によれば、機械学習等で生成された推論器による推論結果が誤っている可能性があることをより精度よく検知することが可能となる。
本実施形態の処理装置10は、再現率R及び特異度Sを実行環境によらず不変と想定できないが、実行環境を分類し、各実行環境下では再現率R及び特異度Sを不変と想定できるような状況下で利用できる。店舗における会計処理において処理装置10が利用される本実施形態の場合、例えば、窓やドアの近くに処理装置10が設置されており、商品の撮影において外光の影響を無視できない場合などが当該状況に該当する。
<変形例>
第1乃至第3の実施形態では、処理装置10を店舗における会計処理において利用するものとした。しかし、処理装置10の利用場面はこれに限定されない。第1及び第2の実施形態の処理装置10は、再現率R及び特異度Sが実行環境によらず不変と想定できる各種場面で利用可能である。また、第3の実施形態の処理装置10は、実行環境を分類し、各実行環境下では再現率R及び特異度Sを不変と想定できる各種場面で利用可能である。なお、変形例においては、処理装置10は、登録部15に代えて、クラス分類による特定結果に基づき所定の処理を実行する実行部を有してもよい。実行部は、適合率が基準値以上である場合、クラス分類による特定結果に基づき所定の処理を実行し、適合率が基準値未満である場合、オペレータによる正誤入力に基づく特定結果に基づき所定の処理を実行する。所定の処理の詳細は設計的事項である。
なお、本明細書において、「取得」とは、ユーザ入力に基づき、又は、プログラムの指示に基づき、「自装置が他の装置や記憶媒体に格納されているデータを取りに行くこと(能動的な取得)」、たとえば、他の装置にリクエストまたは問い合わせして受信すること、他の装置や記憶媒体にアクセスして読み出すこと等を含んでもよい。また、「取得」とは、ユーザ入力に基づき、又は、プログラムの指示に基づき、「自装置に他の装置から出力されるデータを入力すること(受動的な取得)」、たとえば、配信(または、送信、プッシュ通知等)されるデータを受信すること等を含んでもよい。また、「取得」とは、受信したデータまたは情報の中から選択して取得すること、及び、「データを編集(テキスト化、データの並び替え、一部データの抽出、ファイル形式の変更等)などして新たなデータを生成し、当該新たなデータを取得すること」を含んでもよい。
以上、実施形態(及び実施例)を参照して本願発明を説明したが、本願発明は上記実施形態(及び実施例)に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限定されない。
1. 推論器に基づきクラス分類を実行する分類実行手段と、
前記クラス分類により特定されたクラスの適合率を算出する算出手段と、
前記適合率が基準値未満である場合、前記クラス分類により特定されたクラスを出力し、オペレータによる正誤入力を受付ける処理手段と、
を有する処理装置。
2. 前記算出手段は、前記クラス分類により特定されたクラスの事前分布に基づき前記適合率を算出する1に記載の処理装置。
3. 前記算出手段は、上記式(1)に基づき、前記適合率を算出する2に記載の処理装置。
4. R及びSは固定値である3に記載の処理装置。
5. 予め環境ごとにR及びSの値が用意されており、記適合率を算出する時の環境に基づきR及びSが決定される3に記載の処理装置。
6. 前記分類実行手段は、商品を撮影した画像及び前記推論器に基づくクラス分類により、前記画像に含まれる商品を特定し、
前記適合率が前記基準値以上である場合、前記クラス分類により特定された商品を購入対象として登録し、前記適合率が前記基準値未満である場合、前記オペレータによる正誤入力で特定された商品を購入対象として登録する登録手段をさらに有し、
前記事前分布は、前記クラス分類により特定された商品が購入対象として登録される頻度を示す2から5のいずれかに記載の処理装置。
7. 前記事前分布は、店舗で扱っている商品各々の購入対象としての登録回数の合計に対する前記クラス分類により特定された商品の購入対象としての登録回数の割合である6に記載の処理装置。
8. 前記算出手段は、各商品が購入対象として登録された時の環境を記録した情報に基づき、前記適合率を算出する時の環境下における前記クラス分類により特定された商品の前記事前分布を算出し、算出した前記事前分布に基づき前記適合率を算出する6又は7に記載の処理装置。
9. コンピュータが、
推論器に基づきクラス分類を実行し、
前記クラス分類により特定されたクラスの適合率を算出し、
前記適合率が基準値未満である場合、前記クラス分類により特定されたクラスを出力し、オペレータによる正誤入力を受付ける処理方法。
10. コンピュータを、
推論器に基づきクラス分類を実行する分類実行手段、
前記クラス分類により特定されたクラスの適合率を算出する算出手段、
前記適合率が基準値未満である場合、前記クラス分類により特定されたクラスを出力し、オペレータによる正誤入力を受付ける処理手段、
として機能させるプログラム。

Claims (9)

  1. 推論器に基づきクラス分類を実行する分類実行手段と、
    前記クラス分類により特定されたクラスの事前分布に基づき、前記クラス分類により特定されたクラスの適合率を算出する算出手段と、
    前記適合率が基準値未満である場合、前記クラス分類により特定されたクラスを出力し、オペレータによる正誤入力を受付ける処理手段と、
    を有する処理装置。
  2. 前記算出手段は、下記式(1)に基づき、前記適合率を算出する請求項に記載の処理装置。
    Figure 0007384267000006
    (なお、Pは前記適合率、pは前記事前分布、Rは再現率、Sは特異度。)
  3. R及びSは固定値である請求項に記載の処理装置。
  4. 予め環境ごとにR及びSの値が用意されており、記適合率を算出する時の環境に基づきR及びSが決定される請求項に記載の処理装置。
  5. 前記分類実行手段は、商品を撮影した画像及び前記推論器に基づくクラス分類により、前記画像に含まれる商品を特定し、
    前記適合率が前記基準値以上である場合、前記クラス分類により特定された商品を購入対象として登録し、前記適合率が前記基準値未満である場合、前記オペレータによる正誤入力で特定された商品を購入対象として登録する登録手段をさらに有し、
    前記事前分布は、前記クラス分類により特定された商品が購入対象として登録される頻度を示す請求項からのいずれか1項に記載の処理装置。
  6. 前記事前分布は、店舗で扱っている商品各々の購入対象としての登録回数の合計に対する前記クラス分類により特定された商品の購入対象としての登録回数の割合である請求項に記載の処理装置。
  7. 前記算出手段は、各商品が購入対象として登録された時の環境を記録した情報に基づき、前記適合率を算出する時の環境下における前記クラス分類により特定された商品の前記事前分布を算出し、算出した前記事前分布に基づき前記適合率を算出する請求項又はに記載の処理装置。
  8. コンピュータが、
    推論器に基づきクラス分類を実行し、
    前記クラス分類により特定されたクラスの事前分布に基づき、前記クラス分類により特定されたクラスの適合率を算出し、
    前記適合率が基準値未満である場合、前記クラス分類により特定されたクラスを出力し、オペレータによる正誤入力を受付ける処理方法。
  9. コンピュータを、
    推論器に基づきクラス分類を実行する分類実行手段、
    前記クラス分類により特定されたクラスの事前分布に基づき、前記クラス分類により特定されたクラスの適合率を算出する算出手段、
    前記適合率が基準値未満である場合、前記クラス分類により特定されたクラスを出力し、オペレータによる正誤入力を受付ける処理手段、
    として機能させるプログラム。
JP2022502774A 2020-02-28 2020-02-28 処理装置、処理方法及びプログラム Active JP7384267B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/008294 WO2021171553A1 (ja) 2020-02-28 2020-02-28 処理装置、処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2021171553A1 JPWO2021171553A1 (ja) 2021-09-02
JP7384267B2 true JP7384267B2 (ja) 2023-11-21

Family

ID=77491112

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022502774A Active JP7384267B2 (ja) 2020-02-28 2020-02-28 処理装置、処理方法及びプログラム

Country Status (3)

Country Link
US (1) US20230140512A1 (ja)
JP (1) JP7384267B2 (ja)
WO (1) WO2021171553A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015129988A (ja) 2014-01-06 2015-07-16 日本電気株式会社 データ処理装置
JP6161229B1 (ja) 2017-02-21 2017-07-12 アーバン・コーポレーション株式会社 自動仕訳システムおよび自動仕訳プログラム
WO2019163094A1 (ja) 2018-02-23 2019-08-29 日本電気株式会社 登録装置、登録方法及びプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090087854A1 (en) * 2007-09-27 2009-04-02 Perlegen Sciences, Inc. Methods for genetic analysis
CN109661578B (zh) * 2016-07-10 2022-05-10 米密德诊断学有限公司 用于区分细菌和病毒感染的蛋白质特征
US11501210B1 (en) * 2019-11-27 2022-11-15 Amazon Technologies, Inc. Adjusting confidence thresholds based on review and ML outputs
CN115298213A (zh) * 2019-12-19 2022-11-04 奎多公司 单克隆抗体融合

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015129988A (ja) 2014-01-06 2015-07-16 日本電気株式会社 データ処理装置
JP6161229B1 (ja) 2017-02-21 2017-07-12 アーバン・コーポレーション株式会社 自動仕訳システムおよび自動仕訳プログラム
WO2019163094A1 (ja) 2018-02-23 2019-08-29 日本電気株式会社 登録装置、登録方法及びプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
土井 賢治,ラーメン画像からの全店舗識別,情報処理,日本,一般社団法人情報処理学会,2018年10月15日,第59巻 , 第11号,pp.971-973,ISSN 0447-8053

Also Published As

Publication number Publication date
JPWO2021171553A1 (ja) 2021-09-02
WO2021171553A1 (ja) 2021-09-02
US20230140512A1 (en) 2023-05-04

Similar Documents

Publication Publication Date Title
JP2022189890A (ja) 精算システム、精算方法、プログラム、及び精算装置
US20160180315A1 (en) Information processing apparatus using object recognition, and commodity identification method by the same
US20150193668A1 (en) Information processing apparatus, store system and method for recognizing object
JP7310969B2 (ja) 情報処理システム、顧客特定装置、情報処理方法及びプログラム
US20170344853A1 (en) Image processing apparatus and method for easily registering object
JP7235119B2 (ja) 処理装置、会計装置、処理方法及びプログラム
JP5571633B2 (ja) 健康度報知装置、プログラム及び健康度報知方法
US20190043033A1 (en) Point-of-sale terminal
JP5428356B2 (ja) 顧客分析システム、顧客データ収集装置、顧客分析装置、顧客分析方法、及びプログラム
JP7384267B2 (ja) 処理装置、処理方法及びプログラム
JP2013145527A (ja) 情報処理装置、店舗システム及びプログラム
JP2015194791A (ja) Pos端末装置
JP6503670B2 (ja) 商品登録装置、商品登録方法、および商品登録プログラム
WO2021251280A1 (ja) 情報処理装置、情報処理方法、情報処理プログラム及び情報処理システム
US9792635B2 (en) Information processing apparatus and method for updating feature values of products for object recognition
WO2019215966A1 (ja) 登録システム、登録方法及びプログラム
WO2023188068A1 (ja) 商品数特定装置、商品数特定方法、及び記録媒体
JP2008530690A (ja) セルフチェックアウトにおける複数の未解決な物品のセキュリティを実現する方法及びシステム
WO2023175767A1 (ja) 商品確認装置、商品確認方法、及び記録媒体
WO2023187993A1 (ja) 商品数特定装置、商品数特定方法、及び記録媒体
JPWO2019181033A1 (ja) 登録システム、登録方法及びプログラム
JP7342943B2 (ja) 販売管理システム、店舗装置、販売管理方法、およびプログラム
JP7464162B2 (ja) 処理装置、処理方法及びプログラム
US20230093938A1 (en) Non-transitory computer-readable recording medium, information processing method, and information processing apparatus
JP5903414B2 (ja) 情報処理装置、店舗システム及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230908

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231010

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231023

R151 Written notification of patent or utility model registration

Ref document number: 7384267

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151