JP2022149539A - 情報処理装置、プログラム、および行動分析システム - Google Patents

情報処理装置、プログラム、および行動分析システム Download PDF

Info

Publication number
JP2022149539A
JP2022149539A JP2021051747A JP2021051747A JP2022149539A JP 2022149539 A JP2022149539 A JP 2022149539A JP 2021051747 A JP2021051747 A JP 2021051747A JP 2021051747 A JP2021051747 A JP 2021051747A JP 2022149539 A JP2022149539 A JP 2022149539A
Authority
JP
Japan
Prior art keywords
information
transaction
behavior
product
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021051747A
Other languages
English (en)
Inventor
良彰 水岡
Yoshiaki Mizuoka
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2021051747A priority Critical patent/JP2022149539A/ja
Priority to US17/551,542 priority patent/US20220309524A1/en
Publication of JP2022149539A publication Critical patent/JP2022149539A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0201Market modelling; Market analysis; Collecting market data
    • G06Q30/0202Market predictions or forecasting for commercial activities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Game Theory and Decision Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Human Computer Interaction (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Social Psychology (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Cash Registers Or Receiving Machines (AREA)

Abstract

【課題】店舗内における顧客の行動を推定する判定精度向上を容易に行う情報処理端末装置、プログラムおよび行動分析システムを提供する。【解決手段】行動分析システム1において、情報処理装置としての行動分析装置30は、カメラ10から取得した撮像データから特定の顧客の特徴情報(例えば顔画像)を抽出し、当該特徴情報を含む撮像データを時系列に並べ、特徴情報を含む撮像データから顧客が商品陳列棚に対して手を伸ばしてから戻すまでの1動作を示す撮像データを抽出する。情報処理装置50は、行動分析装置30が推定した1取引における購入商品と、当該1取引において実際に取引された取引情報に含まれる購入商品と、を比較して、両者が異なる場合、行動分析装置30が推定した行動情報を修正する。【選択図】図1

Description

本発明の実施形態は、情報処理装置、プログラム、および行動分析システムに関する。
従来、小売店などにおける顧客の行動を検出することが行われている(例えば、特許文献1)。店舗は、検出した顧客の行動に基づいて拡販のための各種施策を実行することができる。例えば、店舗は、検出した顧客の移動軌跡(動線)に基づいて商品の配置を変更したり、顧客が商品陳列棚から商品を取り出したことの検出に伴って当該商品に関連する他の商品のレコメンドやクーポンを配信したりすることができる。
また、近年、機械学習で人の行動を推定する取り組みがなされている。機械学習においては、機械学習モデルの判定精度向上が重要となってくる。機械学習モデルの判定精度向上のためには、実環境におけるセンサ値と正解ラベルとを対応づけた訓練データが必要となるが、当該訓練データの収集には手間とコストを要するのが実情である。
本発明が解決しようとする課題は、店舗内における顧客の行動を推定する機械学習モデルの判定精度向上を容易に行うことが可能な情報処理装置、プログラム、および行動分析システムを提供することである。
実施形態の情報処理装置は、店舗に設けられたセンサのセンサ情報に基づいて推定された顧客の行動を示す行動情報と、当該行動情報に基づいて当該顧客が1取引で購入したと推定される商品を識別する商品識別情報と、当該1取引を特定することが可能な取引特定情報と、を対応付けた購入推定情報を取得する購入推定情報取得部と、前記店舗の取引に係る情報であって、1取引で取引された商品の前記商品識別情報と前記取引特定情報とを対応付けた取引情報を取得する取引情報取得部と、前記取引特定情報で特定される1取引に関して、前記購入推定情報に含まれる前記商品識別情報と前記取引情報に含まれる前記商品識別情報とを比較する比較部と、前記比較部による比較の結果、前記購入推定情報に含まれる前記商品識別情報と前記取引情報に含まれる前記商品識別情報とが一致しない場合、前記取引情報に基づいて前記行動情報を修正する修正部と、前記修正部が修正した行動情報を出力する出力部と、を備える。
図1は、実施形態の情報処理装置を含む行動分析システムの概略を示す図である。 図2は、実施形態の情報処理装置のハードウェア構成を示すブロック図である。 図3は、実施形態の情報処理装置のメモリ部に記憶される購入推定情報ファイルのデータ構成を示す図である。 図4は、実施形態の情報処理装置のメモリ部に記憶される推定対象データファイルのデータ構成を示す図である。 図5は、実施形態の情報処理装置のメモリ部に記憶される取引情報ファイルのデータ構成を示す図である。 図6は、実施形態の情報処理装置のメモリ部に記憶される修正データファイルのデータ構成を示す図である。 図7は、実施形態の情報処理装置における制御部の機能構成を示すブロック図である。 図8は、実施形態の情報処理装置の制御部による処理の流れを示すフローチャートである。 図9は、実施形態の情報処理装置における行動情報の修正画面を示す図である。
以下、図面を参照して実施形態の情報処理装置、プログラム、および行動分析システムについて説明する。なお、以下に説明する実施形態によりこの発明が限定されるものではない。例えば、以下に説明する実施形態では、行動分析システムをスーパーマーケットに適用する例について説明するが、商品を販売する各種店舗に広く適用することができる。
図1は、情報処理装置を含む行動分析システムの概略を示す図である。本実施形態の行動分析システム1は、食料品や日用品等を販売するスーパーマーケット(以下、店舗ともいう)などに適用される。行動分析システム1は、複数のカメラ10、複数のPOS(Point Of Sales)端末20、行動分析装置30、店舗サーバ40、および情報処理装置50を備える。これら複数のカメラ10、複数のPOS端末20、行動分析装置30、店舗サーバ40、および情報処理装置50は、LAN(Local Area Network)等のネットワークを介して互いに通信可能に接続されている。
カメラ10は、店舗の売り場に複数配置される。各カメラ10は、売り場内に配置される各商品陳列棚にそれぞれ対応して設けられ、対応する商品陳列棚における顧客の動作等を撮像可能となっている。各カメラ10は、撮像した撮像データを随時行動分析装置30に出力する。撮像データは、カメラ10が撮像した画像データと当該画像データが撮像された時刻を示す情報と撮像したカメラを特定する情報とが対応づけられている。カメラ10は、店舗内に設けられたセンサの一例である。また、カメラ10が出力する撮像データはセンサ情報の一例である。
POS端末20は、店舗の売り場の会計場所に複数設けられる。POS端末20は、顧客が購入する商品の商品情報を登録(以下、商品登録ともいう)し、商品登録した商品について会計処理を実行する。会計処理とは、顧客が購入する商品の代金の支払を行うための処理であり、例えば、合計金額の算出、釣銭の算出、キャッシュレス決済における決済サーバとの情報の送受信、レシートの発行などの処理である。なお、POS端末20は、店員が操作するPOS端末でもよいし、顧客が操作するセルフPOS端末でもよい。POS端末20は、店舗における取引の会計処理を実行する会計装置の一例である。なお、会計装置は、商品登録と会計処理を別装置で行う、いわゆるセミセルフPOSにおける会計装置であってもよい。
POS端末20は、取引情報を店舗サーバ40に出力する。取引情報とは、1取引で取引された商品を識別する商品識別情報(例えば、商品コードや商品名等)と、1取引を特定する取引特定情報(例えば、支払(精算)時刻とPOS端末Noなど)と、を対応付けた情報である。店舗サーバ40は、取得した取引情報を記憶部(図示せず)に記憶する。POS端末20は、取引情報を随時店舗サーバ40に出力してもよいし、定期的(例えば、毎日所定時刻)に出力してもよい。
行動分析装置30は、カメラ10から取得した撮像データに基づいて顧客の行動を推定する。例えば、行動分析装置30は、商品陳列棚から商品を取り出した動作(以下、取得動作ともいう)、商品陳列棚から取り出した商品を当該商品陳列棚に戻す動作(以下、返却動作ともいう)、POS端末20で精算する動作(以下、精算動作ともいう)等の顧客の行動を推定する。顧客の行動の推定は、機械学習モデルを用いて行われる。また、行動分析装置30は、推定された顧客の行動に基づいて当該顧客が1取引で購入した商品を推定する。
ここで、行動分析装置30の機能について詳細に説明する。行動分析装置30が実行する処理は、推定対象データの生成、顧客の行動の推定、購入推定情報の生成、推定結果を活用するシステムへの情報の出力、店舗サーバ40への情報の出力などである。以下、これら処理について説明する。
(推定対象データの生成)
推定対象データは、機械学習モデルに入力するためのデータで、カメラ10から取得した撮像データに基づいて画像処理によって生成される画像データである。行動分析装置30は、店舗の売り場のレイアウトデータを記憶している。レイアウトデータは、商品陳列棚の配置、各商品陳列棚と当該陳列棚に陳列されている商品とを対応付けた情報等を備えている。行動分析装置30は、機械学習モデルにデータを入力するための前処理として、カメラ10から取得した撮像データとレイアウトデータとに基づいて推定対象データを生成する。
行動分析装置30は、カメラ10から取得した撮像データから特定の顧客の特徴情報(例えば、顔画像など)を抽出し、当該特徴情報を含む撮像データを時系列に並べる。また、行動分析装置30は、特徴情報を含む撮像データから顧客が商品陳列棚に対して手を伸ばしてから戻すまでの1動作を示す撮像データを抽出する。各撮像データには撮像したカメラ10を特定する情報(カメラNo)が対応づけられている。各カメラ10は各商品陳列棚に対応しており、またレイアウトデータにより各商品陳列棚と当該商品陳列棚に陳列されている商品とが対応づけられているため、行動分析装置30は撮像データに示される顧客がどの商品に手を伸ばしたかを認識することができる。また、行動分析装置30は、特定した顧客がPOS端末20に位置してから立ち去るまでの撮像データを抽出する。なお、上記撮像データの抽出を機械学習モデルによって行うことも可能である。こうして撮像データが抽出されることで推定対象データが生成される。
行動分析装置30によって抽出された、特定の顧客が商品陳列棚に対して手を伸ばしてから戻すまでの1動作を示す撮像データ、POS端末20に位置してから立ち去るまでの撮像データのそれぞれは、推定対象データの一例である。これら推定対象データを時系列に並べることによって、特定の顧客の1取引における行動を推定するためのデータが生成される。
(顧客の行動の推定)
顧客の行動の推定は、機械学習モデルを用いて実行される。機械学習モデルは、撮像データと当該撮像データに含まれる行動についての正解ラベルとを備えた訓練データに基づいて生成されたものである。また、機械学習モデルは、情報処理装置50から取得する行動情報を訓練データとしてトレーニングを実行し、機械学習モデルのパラメータを調整する。これにより、機械学習モデルの判定精度を向上することができる。情報処理装置50から取得する行動情報については後述する。
機械学習モデルには推定対象データが入力される。機械学習モデルは、例えば、特定した顧客が商品陳列棚に対して手を伸ばしてから戻すまでの1動作を示す撮像データが入力されると、当該撮像データに含まれる顧客の行動が取得動作や返却動作であるか判定する。機械学習モデルは、顧客の行動を抽出し、抽出した行動が実行されたと判定される確率値が所定値(例えば70パーセント)以上であると、当該行動が行われたと推定する。機械学習モデルには顧客の1取引中の行動に関する推定対象データが入力され、機械学習モデルは各推定対象データに含まれる行動を抽出し、抽出した行動が実行されたか否か判定する。例えば、機械学習モデルは、顧客の1取引中の取得動作、返却動作、精算動作等の行動が実行されたか否か判定する。機械学習モデルは、抽出した1取引の行動を示す情報(以下、行動情報ともいう)を出力する。行動情報は、例えば、取得、返却、精算などの行動の名称と、当該行動が実行されたか否かの判定結果と、当該行動が行われたと推定される時間と、を含む。機械学習モデルに入力された推定対象データと、機械学習モデルから出力された行動情報とには同一の判定IDが付与されて両者は対応づけられる。
(購入推定情報の生成)
行動分析装置30は、機械学習モデルから随時出力される各行動情報に基づいて購入推定情報を生成する。購入推定情報は、機械学習モデルが出力した1取引の行動を示す行動情報、当該行動情報に基づいて顧客が1取引で購入したと推定される商品を識別する商品識別情報、および当該1取引を特定することが可能な取引特定情報が対応付けられた情報を含む。本実施形態においては、購入推定情報は、さらに1取引で購入したと推定される商品ごとの個数を示す情報を含む。商品識別情報は、例えば商品名や商品コードなどである。取引特定情報は、本実施形態では、POS端末20で精算されたと推定される時刻とPOS端末Noとで構成される。POS端末20で精算されたと推定される時刻は、例えば精算動作中のレシートを受領した行動を推定した時刻を設定してもよい。また、顧客がPOS端末20に位置した時刻と、精算を終えてPOS端末20から立ち去った時刻と、をセットにして精算時刻として扱ってもよい。
(推定結果を活用するシステムへの情報の出力)
行動分析装置30は、機械学習モデルが出力した行動情報、あるいは当該行動情報に基づいて推定された購入推定情報を外部システムに出力する。外部システムは、行動分析装置30から取得した情報に基づいて各種サービスを展開する。外部システムの一例としては、クーポン発行システム等が挙げられる。クーポン発行システムは、顧客が商品陳列棚からある商品を取り出したことを示す行動情報を行動分析装置30から取得すると、当該商品に関連する商品のクーポンを顧客の携帯端末に配信するなどの処理が可能となる。なお、外部システムはクーポン発行システムに限らない。
(店舗サーバ40への情報の出力)
行動分析装置30は、生成した推定対象データおよび購入推定情報を随時店舗サーバ40に出力する。推定対象データおよび購入推定対象情報には判定IDも含まれる。店舗サーバ40は、取得した推定対象データおよび購入推定情報を記憶部(図示せず)に記憶する。なお、本実施形態では、行動分析装置30が店舗サーバ40に出力する推定対象データおよび購入推定対象情報には、機械学習モデルで顧客が実行したと判定された行動に関するものに加えて、行動は抽出されたが顧客が実行したとは判定されなかった行動に関するものも含まれる。しかしながら、行動分析装置30が店舗サーバ40に出力する推定対象データおよび購入推定対象情報は、機械学習モデルで顧客が実行したと判定された行動に関するものだけでもよい。
次に、店舗サーバ40について説明する。店舗サーバ40は、各POS端末20から取引情報を取得し、当該取引情報を記憶する。また、店舗サーバ40は行動分析装置30から購入推定情報および推定対象データを取得し、これら購入推定情報および推定対象データを記憶する。そして、店舗サーバ40は、例えば情報処理装置50からの出力要求に応じて、所定期間(例えば1カ月間)の取引情報、推定対象データ、および購入推定情報を情報処理装置50に出力する。店舗サーバ40は、情報処理装置50からの出力要求に応じてではなく、予め設定されたタイミングで、所定期間の取引情報、推定対象データ、および購入推定情報を情報処理装置50に出力してもよい。
また、店舗サーバ40は、店舗で取り扱っている商品について、商品コードと商品情報(商品名、価格等)とを対応付けた商品マスタを記憶する。店舗で取り扱う商品は日々変化するので、商品マスタは適宜更新される。店舗サーバ40は、各POS端末20に商品マスタを送信する。
情報処理装置50は、行動分析装置30の機械学習モデルをトレーニングするための訓練データを行動分析装置30に提供する。情報処理装置50は、行動分析装置30が推定した1取引における購入商品と、当該1取引において実際に取引された取引情報に含まれる購入商品と、を比較して、両者が異なる場合、行動分析装置30が推定した行動情報を修正する。例えば、情報処理装置50は、実際に取引された取引情報を正解データとして行動情報を修正する。そして、情報処理装置50は、修正した行動情報を行動分析装置30に出力する。行動分析装置30は、情報処理装置50から取得した行動情報を訓練データとして機械学習モデルがトレーニングを実行することで当該機械学習モデルの判定精度を向上させることができる。情報処理装置50は、上記のとおり機能するので、訓練データ生成装置ということもできる。
次に、情報処理装置50のハードウェア構成について説明する。図2は、情報処理装置50のハードウェア構成を示すブロック図である。情報処理装置50は、制御部500と、メモリ部510と、表示装置520と、入力装置530と、通信部540と、を備えている。制御部500、メモリ部510、表示装置520、入力装置530、および通信部540は、バス550等を介して互いに接続されている。
制御部500は、CPU(Central Processing Unit)501、ROM(Read Only Memory)502、RAM(Random Access Memory)503を備えたコンピュータで構成されている。CPU501、ROM502、およびRAM503は、互いにバス550を介して接続されている。
CPU501は情報処理装置50の全体の動作を制御する。ROM502は、CPU501の駆動に用いられるプログラムなどの各種プログラムや各種データを記憶する。RAM503は、CPU501のワークエリアとして使用され、ROM502やメモリ部510に記憶された各種プログラムや各種データを展開する。制御部500は、CPU501がROM502や、メモリ部510に記憶されRAM503に展開された制御プログラムに従って動作することによって、情報処理装置50の各種制御処理を実行する。
メモリ部510は、HDD(Hard Disk Drive)やフラッシュメモリ等の記憶媒体で構成されており、電源を遮断しても記憶内容を維持する。メモリ部510は、制御プログラム511、購入推定情報ファイル512、推定対象データファイル513、取引情報ファイル514、および修正データファイル515を記憶する。なお、購入推定情報ファイル512、推定対象データファイル513、取引情報ファイル514、および修正データファイル515は外部メモリに記憶されていてもよい。
制御プログラム211は、情報処理装置50を、行動分析装置30の機械学習モデルに提供する訓練データの生成装置として機能させるプログラムなどである。
購入推定情報ファイル512は、店舗サーバ40から取得した購入推定情報を管理するファイルである。購入推定情報は、1取引毎のデータであって、行動分析装置30から随時店舗サーバ40に送信される。情報処理装置50は、例えば、毎月1回、1カ月分の購入推定情報を店舗サーバ40から取得する。購入推定情報に含まれる各情報は、行動分析装置30で推定された情報である。図3は、購入推定情報ファイル512のデータ構成を示す図である。購入推定情報ファイル512に登録される各データは、精算時刻、POS端末No、商品名、行動、時間、判定、確率値、および判定IDを示す情報が対応づけられている。
精算時刻の項目には、1取引において精算されたと推定される時刻を示す情報が登録される。すなわち、精算時刻に登録される情報は、行動分析装置30がカメラ10からの撮像データに基づいて推定した精算時刻を示す情報である。POS端末Noの項目には、精算されたと推定されるPOS端末20を識別するユニークな番号が登録される。精算時刻と精算されたPOS端末20の番号を特定することで、1取引を特定することが可能となる。言い換えれば、精算時刻とPOS端末Noとの組み合わせは、取引特定情報の一例である。なお、店舗に設置されるPOS端末20等の会計機が1台の場合は、精算時刻のみによって1取引が特定できることから、精算時刻のみが取引特定情報となる。
商品名の項目には、顧客が購入したと推定された商品の名称を示す情報が登録される。商品名の項目に登録される情報は、商品識別情報の一例である。購入推定情報ファイル512は、商品識別情報として商品コードを登録するようにしてもよい。行動の項目には、行動分析装置30で抽出された顧客の行動内容を示す情報が登録される。行動名の項目に登録される情報は、行動情報の一例である。時間の項目には、行動を推定するために用いられた撮像データの開始時刻と終了時刻を示す情報が登録される。時間の項目には、例えば、行動を推定するために用いられた撮像データの開始時刻のみ、あるいは終了時間のみを登録するようにしてもよい。
判定の項目には、行動分析装置30で抽出された顧客の行動内容が正しいか誤っているかの判定結果を示す情報が登録される。判定の項目に「○」が登録されたものは、対応する行動が行われたと判定されたことを示す。確率値の項目には、行動分析装置30の機械学習モデルが抽出した行動を正しいと判定する確率を示す情報が登録される。図3に示す例では、2021年3月3日12時15分にPOS端末Noが1のPOS端末20で精算された1取引において、10時38分~39分の行動で商品Aが取り出された確率が90パーセントであり、商品Aが取り出されて購入されたと行動分析装置が判定したことを示している。判定IDの項目には、行動分析装置30の機械学習モデルにおける入力(推定対象データ)と出力(行動情報)とを対応付ける情報が登録される。
推定対象データファイル513は、店舗サーバ40から取得した推定対象データを管理するファイルである。推定対象データは、行動分析装置30が生成した個々の行動ごとの撮像データであって、行動分析装置30から随時店舗サーバ40に送信される。情報処理装置50は、購入推定情報を取得するタイミングで推定対象データを店舗サーバ40から取得する。図4は、推定対象データファイル513のデータ構成を示す図である。推定対象データファイル513に登録される各データは、時間、カメラNo、撮像データ、商品名、および判定IDを示す情報が対応づけられている。
時間の項目には、行動を推定するために用いられた撮像データの開始時刻と終了時刻を示す情報が登録される。カメラNoの項目には、撮像データを撮像したカメラを識別するユニークな番号が登録される。撮像データの項目には、対応する時間およびカメラNoのカメラで撮像された撮像データが登録される。商品名の項目には、対応する撮像データの撮像対象となっている商品、言い換えれば行動分析装置30が抽出した行動の対象となっている商品の名称を示す情報が登録される。判定IDの項目には、上述したとおり、行動分析装置30の機械学習モデルにおける入力(推定対象データ)と出力(行動情報)とを対応付ける情報が登録される。
取引情報ファイル514は、店舗サーバ40から取得した取引情報を管理するファイルである。取引情報は、各POS端末20から随時店舗サーバ40に送信される。情報処理装置50は、購入推定情報を取得するタイミングで取引情報を店舗サーバ40から取得する。図5は、取引情報ファイル514のデータ構成を示す図である。取引情報ファイル514に登録される各データは、精算時刻、POS端末No、商品名を示す情報が対応づけられている。
精算時刻の項目には、POS端末20で記録された精算時間を示す情報が登録される。POS端末Noの項目には、POS端末20を識別するユニークな番号が登録される。精算時刻と精算されたPOS端末20の番号を特定することで、1取引を特定することが可能となる。上述したように、精算時刻とPOS端末Noとの組み合わせは、取引特定情報の一例である。
修正データファイル515は、行動分析装置30に訓練データとして出力する修正データを管理するファイルである。修正データは、情報処理装置50で生成される。修正データは、1取引において、機械学習モデルの出力に基づいて推定された購入商品と、POS端末20で精算された取引情報に基づく購入商品と、の比較に基づいて生成される。図6は、修正データファイル515のデータ構成を示す図である。修正データファイル515に登録される各データは、行動、修正後判定、時間、カメラNo、および撮像データを示す情報が対応づけられている。
行動の項目には、購入推定情報ファイル512における行動の項目と同様に、行動分析装置30で抽出された顧客の行動内容を示す情報が登録される。修正後判定の項目には、情報処理装置50が修正した判定結果が登録される。図6の例では、修正後判定の項目に「×」が登録されているので、機械学習モデルによる取得動作の判定結果の「○」に誤りがあり、「×」に修正されたことを示している。行動の項目に登録される情報および修正後判定の項目に登録される情報は、修正された行動情報の一例である。
時間の項目には、行動を推定するために用いられた撮像データの開始時刻と終了時刻を示す情報が登録される。カメラNoの項目には、撮像データを撮像したカメラを識別するユニークな番号が登録される。撮像データの項目には、対応する時間およびカメラNoのカメラで撮像された撮像データが登録される。修正データファイル515は、修正された行動情報(行動および修正後判定の各項目に登録された情報)、および当該行動情報に対応する推定対象データ(時間、カメラNo、および撮像データの各項目に登録された情報)が登録されているということができる。
図2に戻って説明する。表示装置520は、後述する修正画面等、各種情報を表示する。入力装置530は、制御部500に対して情報を入力するもので、表示装置520の表面に設けられたタッチパネルや、キーボード等で構成される。通信部540は、行動分析装置30や店舗サーバ40等の外部装置と通信するためのインターフェイスである。制御部500は、通信部540を介して外部装置と接続されることで、当該外部装置と情報(データ)の送受信が可能となる。
続いて、情報処理装置50の機能構成について説明する。図7は、情報処理装置50の制御部500の機能構成を示すブロック図である。制御部500は、CPU501がROM502やメモリ部510に記憶された制御プログラムにしたがって動作することで、購入推定情報取得部5001、撮像データ取得部5002、取引情報取得部5003、記憶処理部5004、比較部5005、修正部5006、表示処理部5007、受付部5008、および出力部5009として機能する。なお、これら各機能を専用回路等のハードウェアで構成してもよい。
購入推定情報取得部5001は、店舗に設けられたセンサのセンサ情報に基づいて推定された顧客の行動を示す行動情報と、当該行動情報に基づいて当該顧客が1取引で購入したと推定される商品を識別する商品識別情報と、当該1取引を特定することが可能な取引特定情報と、を対応付けた購入推定情報を取得する。行動情報は、例えば、カメラ10の撮像データに基づいて、行動分析装置30の機械学習モデルによって推定された顧客の行動を示す情報である。商品識別情報は、例えば、行動分析装置30の機械学習モデルの推定結果に基づいて顧客が1取引で購入したと推定される商品名である。取引特定情報は、例えば、行動分析装置30が推定した精算時刻およびPOS端末Noである。購入推定情報取得部5001は、購入推定情報を店舗サーバ40から取得する。
撮像データ取得部5002は、カメラ10の撮像データを取得する。詳細には、撮像データ取得部5002は、行動分析装置30が生成した推定対象データを店舗サーバ40から取得する。すなわち、撮像データ取得部5002は、行動分析装置30の機械学習モデルに入力された撮像データを店舗サーバ40から取得する。
取引情報取得部5003は、店舗の取引に係る情報であって、1取引で取引された商品の商品識別情報と取引特定情報とを対応付けた取引情報を取得する。商品識別情報は、例えば、商品の名称を示す商品名である。取引特定情報は、例えば、POS端末20で記録された精算時刻と当該POS端末20の番号である。取引情報取得部5003は、店舗サーバ40から取引情報を取得する。
なお、購入推定情報取得部5001、撮像データ取得部5002、および取引情報取得部5003は、例えば、毎月1回同じタイミングで、それぞれ店舗サーバ40から情報を取得する。購入推定情報取得部5001、撮像データ取得部5002、および取引情報取得部5003は、店舗サーバ40に出力要求を出力するなどして能動的に情報を取得してもよいし、店舗サーバ40の出力を待って受動的に情報を取得してもよい。
記憶処理部5004は、購入推定情報取得部5001、撮像データ取得部5002、および取引情報取得部5003が取得した情報をメモリ部510に記憶する。具体的には、記憶処理部5004は、購入推定情報取得部5001が取得した購入推定情報を購入推定情報ファイル512に登録する。また、記憶処理部5004は、撮像データ取得部5002が取得した推定対象データを推定対象データファイル513に登録する。同様に、記憶処理部5004は、取引情報取得部5003が取得した取引情報を取引情報ファイル514に登録する。さらに、記憶処理部5004は、修正部5006が修正した行動情報を修正データファイル515に登録する。
比較部5005は、取引特定情報で特定される1取引に関して、購入推定情報に含まれる商品識別情報と取引情報に含まれる商品識別情報とを比較する。例えば、比較部5005は、1取引に関して、行動分析装置30によって顧客が購入したと推定された商品の商品名および個数とPOS端末20で実際に顧客が精算した商品の商品名および個数とを比較する。
修正部5006は、比較部5005による比較の結果、購入推定情報に含まれる商品識別情報と取引情報に含まれる商品識別情報とが一致しない場合、取引情報に基づいて行動情報を修正する。具体的には、修正部5006は、比較部5005による比較の結果、行動分析装置30によって顧客が購入したと推定された商品の商品名および個数とPOS端末20で実際に顧客が購入した商品の商品名および個数とが一致しない場合、POS端末20の取引情報に基づいて行動情報を修正する。
例えば、特定の1取引において、機械学習モデルによって顧客がある商品を取得したと推定したことに基づいて、行動分析装置30が当該商品を購入したと推定したが、POS端末20から出力された取引情報には当該商品が含まれていないことがある。この場合、修正部5006は、オペレータが撮像データを確認するなどしたうえで受付部5008に入力された修正入力に基づいて機械学習モデルによる上記商品が取得されたことを示す行動情報を修正する。なお、修正部5006は、自動的に行動情報を修正してもよい。例えば、上記の例において、修正部5006は、取引情報が正解データで、機械学習モデルによる上記商品が取得されたとの推定が誤りであると判断して、当該取得を示す行動情報をオペレータの確認なしで修正してもよい。
表示処理部5007は、取引特定情報で特定される1取引に関する、撮像データ取得部5002が取得した撮像データ、購入推定情報取得部5001が取得した行動情報と商品識別情報、および取引情報取得部5003が取得した商品識別情報を表示可能な修正画面を表示装置520に表示する。具体的には、表示処理部5007は、行動分析装置30から出力された情報であって、1取引に関する推定対象データ、推定された顧客の行動を示す行動情報、および商品名を表示装置520に表示する。また、表示処理部5007は、商品名で識別される商品の個数も表示する。併せて、表示処理部5007は、POS端末20から出力された情報であって、上記1取引で顧客が購入した商品の商品名とその個数を表示装置520に表示する。
受付部5008は、行動情報の修正の入力を受付ける。例えば、情報処理装置50を操作するオペレータが表示装置520に表示される確認画面を見ながら入力装置530に入力する行動情報の修正入力を受付ける。
出力部5009は、修正部5006が修正した行動情報を出力する。具体的には、出力部5009は、修正部5006によって修正された行動情報を行動分析装置30に出力する。修正された行動情報は、行動分析装置30の機械学習モデルの訓練データとして活用される。
次に、情報処理装置50の制御部500の処理について説明する。図8は、情報処理装置50の制御部500による処理の流れを示すフローチャートである。
まず、制御部500にトリガ情報が入力される(S1)。トリガ情報は、機械学習モデルの訓練データの生成開始を指示する情報で、オペレータの操作によって入力されてもよいし、予め設定された日時に店舗サーバ40から入力されてもよい。トリガ情報が入力されると、購入推定情報取得部5001が購入推定情報を店舗サーバ40から取得し、記憶処理部5004が当該購入推定情報を購入推定情報ファイル512に記憶する(S2)。
併せて、撮像データ取得部5002が推定対象データを店舗サーバ40から取得し、記憶処理部5004が当該推定対象データを推定対象データファイル513に記憶する(S3)。また、取引情報取得部5003が取引情報を店舗サーバ40から取得し、記憶処理部5004が当該取引情報を取引情報ファイルに514に記憶する(S4)。購入推定情報取得部5001、撮像データ取得部5002、および取引情報取得部5003が取得する各情報は、同時期(例えば同じ1カ月間)のデータである。
続いて、比較部5005は、購入推定情報ファイル512、推定対象データファイル513、および取引情報ファイルに514に記憶されている情報から、1取引分の購入推定情報、推定対象データ、および取引情報を抽出して対応づける(S5)。購入推定情報と取引情報との対応づけは、取引特定情報(精算時刻とPOS端末No)をキーとして行う(図3および図5参照)。なお、購入推定情報に含まれる精算時刻は推定された時刻であるため、取引情報に含まれる精算時刻と一致しない場合がある。この場合、比較部5005は、購入推定情報と取引情報とを比較して、POS端末Noが一致し、かつ、精算時刻が最も近い1取引同士を対応付ける。また、購入推定情報と推定対象データとの対応づけは、判定IDをキーとして行う(図3および図4参照)。
次いで、比較部5005は、対応付けた購入推定情報および取引情報のそれぞれに含まれる商品名および個数を比較する(S6)。言い換えれば、比較部5005は、行動分析装置30で顧客が購入したと推定された商品と当該顧客が実際にPOS端末20で精算した商品とを比較する。
制御部500は、比較部5005の比較の結果、購入推定情報に含まれる商品の商品名および個数と取引情報に含まれる商品の商品名および個数とに不一致があるか否か判断する(S7)。不一致すなわち一致しない商品名が1つでもある場合(S7のY)、表示処理部5007は、表示装置520に修正画面521を表示する(S8)。
制御部500は、受付部5008が行動情報の修正入力を受付けた否か判断する(S9)。なお、修正画面および行動情報の修正入力の詳細については後述する。修正入力を受付けないと(S9のN)、制御部500はS9の処理に戻る。修正入力を受付けると(S9のY)、修正部5006は、修正入力に基づいて行動情報を修正する(S10)。例えば、修正部5006は、顧客がある商品を取得したと推定された行動情報を、顧客が当該商品を取得していないという行動情報に修正する。
次いで、記憶処理部5004は、修正した行動情報をメモリ部510の修正データファイル515に記憶する(S11)。制御部500は、取得した情報の全取引についてS5~S11の処理が完了したか否か判断する(S12)。完了していなければ(S12のN)、制御部500は、S5の処理に戻る。完了していれば(S12のY)、出力部5009は修正データ(修正データファイル515に蓄積された修正行動情報)を行動分析装置30に出力する。そして、制御部500は処理を終了する。なお、S7の処理において不一致がない場合(S7のN)、制御部500は、S8~S11の処理をスキップしてS12の処理に移行する。
以上の処理により、POS端末20の取引情報に基づいて、行動分析装置30の機械学習モデルが推定した行動情報を修正し、修正した行動情報を訓練データとして行動分析装置30に出力する。
次に、修正画面および行動情報の修正入力について説明する。図9は、修正画面521の一例を示す図である。修正画面521は、撮像データ表示領域522、購入推定情報表示領域523、および取引情報表示領域524を備える。
撮像データ表示領域522には、表示フレーム5221が形成されている。表示フレーム5221には、行動分析装置30の機械学習モデルに入力された推定対象データが表示される。推定対象データは、カメラ映像すなわちカメラ10が撮像した撮像データである。
購入推定情報表示領域523には、再生ボタン5231、時刻表示部5232、判定行動情報表示部5233、確率値表示部5234、修正行動情報表示部5235、修正ボタン5236、削除ボタン5237、項目追加ボタン5238、および確認ボタン5239が表示される。再生ボタン5231、時刻表示部5232、判定行動情報表示部5233、確率値表示部5234、修正行動情報表示部5235、修正ボタン5236、および削除ボタン5237は、推定対象データごと、言い換えれば1つの行動ごとに対応づけられている。購入推定情報表示領域523には、1取引分の情報が表示される。
再生ボタン5231は、行動分析装置30の機械学習モデルに入力された推定対象データを再生させるボタンである。時刻表示部5232は、推定対象データの撮像開始時刻を表示する。判定行動情報表示部5233は、推定対象データに対応する行動情報および判定結果を表示する。具体的には、判定行動情報表示部5233は、推定対象データから行動分析装置30の機械学習モデルが抽出した商品、行動、および当該機械学習モデルによる行動の判定結果を表示する。図9の1段目の例では、行動分析装置30の機械学習モデルによって、顧客が商品陳列棚から商品Aを1つ取得したことが抽出され、抽出された行動が正しいと判定されたことを示している。
確率値表示部5234は、行動分析装置30の機械学習モデルが抽出した行動が実行されたと判定される確率値を表示する。修正行動情報表示部5235は、判定結果が修正された行動情報および判定結果を表示する。修正行動情報表示部5235は、判定結果が修正されない行動情報については判定行動情報表示部5233と同一の表示を行う。また、修正行動情報表示部5235は、判定結果が修正された行動情報および判定結果を強調表示する。強調表示は、他の表示と文字の色を変えたり文字の太さを変えたりすることでなされる。図9の2段目の例では、行動分析装置30の機械学習モデルによって顧客が商品陳列棚から商品Bを取得した行動が正しい(実行された)と判定された結果が誤りであるとして、商品陳列棚から商品Bが取得されていないと修正されたことを示している。
修正ボタン5236は、行動情報を修正するためのボタンである。修正ボタン5236が操作されると、例えば修正後の内容を入力可能なダイアログがポップアップ表示される。削除ボタン5237は、購入推定情報表示領域523に表示された対応する1行、すなわち削除ボタン5237自体も含め、当該削除ボタン5237に対応する、再生ボタン5231、時刻表示部5232、判定行動情報表示部5233、確率値表示部5234、修正行動情報表示部5235、修正ボタン5236を削除するためのボタンである。
購入推定情報表示領域523に表示された1行分の表示を削除する場合としては、再生ボタン5231によって再生された推定対象データが、人物が撮像されていない場合、特定した顧客でない他の人物が撮像されている場合、1回の行動が重複して撮像されている場合、顧客が何もしていない(取得動作や精算動作を行っていない)状態が撮像されている場合、などである。これらは、行動分析装置30で実行されたカメラ10の撮像データから推定対象データを生成する処理が適切に行われなかった場合である。このため、行動分析装置30における推定対象データ生成処理も機械学習モデルを用いてなされている場合、購入推定情報表示領域523から削除された行動に関するデータを当該推定対象データ生成処理の訓練データとして行動分析装置30に出力すれば、当該推定対象データ生成処理の精度を向上させることができる。
項目追加ボタン5238は、オペレータが手動で項目を追加するボタンである。確認ボタン5239は、修正した行動情報を記憶するためのボタンである。なお、修正内容を入力完了した段階(例えば、修正後の内容を入力可能なポップアップ表示が閉じられた時点)で自動的に修正データを記憶するようにしてもよく、この場合、確認ボタン5239は不要となる。
取引情報表示領域524には、対応レシート情報表示部5241が表示される。対応レシート情報表示部5241は、購入推定情報表示領域523に表示された1取引分の情報に対応する1取引について、POS端末20で精算された取引情報に含まれる商品の商品名と個数とを表示する。
このような修正画面521を用いた行動情報の修正について説明する。まず、上述したように比較部5005の比較結果で不一致があると、修正画面521が表示される。つまり、取引特定情報で特定された1取引について、行動分析装置30によって顧客が購入したと推定された商品(個数含む)とPOS端末20で精算された商品(個数含む)とが一致していないと、修正画面521が表示される。
図9の例においては、行動分析装置30が出力した購入推定情報に含まれる商品は商品A、商品B、商品Cであるのに対し、POS端末20が出力した取引情報に含まれる商品は商品A、商品Cである。
購入推定情報表示領域523には、行動分析装置30が商品A、商品B、商品Cが購入されたと推定した根拠となる行動情報が表示される。行動分析装置30は、商品Aについて、機械学習モデルが取得動作を推定した(判定行動情報表示部5233の1段目参照)ことに基づいて商品Aが購入されたと推定している。同様に、行動分析装置30は、商品Bについて、機械学習モデルが取得動作を推定した(判定行動情報表示部5233の2段目参照)ことに基づいて商品Bが購入されたと推定している。
商品Cについては、行動分析装置30において、2つの推定対象データが生成されて機械学習モデルで行動が判定されている。詳細には、商品Cについては、機械学習モデルによって1つは取得動作が推定されず(判定行動情報表示部5233の3段目参照)、1つは取得動作が推定されている(判定行動情報表示部5233の5段目参照)。この機械学習モデルの推定結果に基づいて、行動分析装置30は、商品Cが購入されたと推定している。上記判定行動情報表示部5233の3段目に表示される情報は、センサ情報に基づいて抽出された顧客の行動であって当該顧客が実行したものと推定されなかった行動を示す情報の一例である。
商品Dについては、行動分析装置30において、2つの推定対象データが生成されて機械学習モデルで行動が判定されている。詳細には、商品Dについては、機械学習モデルによって1つは取得動作が推定され(判定行動情報表示部5233の4段目参照)、1つは返却動作が推定されている(判定行動情報表示部5233の6段目参照)。この機械学習モデルの推定結果に基づいて、行動分析装置30は、商品Dが顧客によって商品陳列棚から取り出されたものの、当該商品陳列棚に戻されて顧客によって購入されていないと推定している。
情報処理装置50を操作するオペレータは、行動分析装置30が出力した購入推定情報に含まれるが、POS端末20が出力した取引情報に含まれない商品Bに関する行動情報を修正する。修正にあたって、オペレータは、商品Bに関する行動情報に対応する2段目の再生ボタン5231を操作して表示フレーム5221に表示される推定対象データを目視して確認する。オペレータは、推定対象データを目視で確認した結果、商品Bが顧客によって商品陳列棚から取得されていないことを確認すると2段目の修正ボタン5236を操作して取得動作の判定結果を「○」から「×」に修正する。これにより行動情報が修正される。
なお、情報処理装置50は、修正画面を表示することなく、自動的に行動情報を修正してもよい。例えば、図9に示す例では、購入推定情報に含まれるが取引情報に含まれない商品Bに関する行動情報は1つだけであるので、この行動情報を自動的に修正することができる。また、例えば、購入推定情報において購入されたと推定された商品Bの個数が2つであるのに対し、取引情報に含まれる商品Bの個数が1つである場合、確率値が低い行動情報を誤りとして自動的に「○」から「×」に修正してもよい。
ただし、本実施形態のように、修正画面を表示してオペレータが確認のうえ、行動情報を修正することにより正確な修正データを行動分析装置30に提供することができる。顧客による万引きや店員による商品登録忘れ等により、顧客によって商品が商品陳列棚から取り出されても精算されない場合があるからである。なお、修正画面が表示されるのは、購入推定情報に含まれる商品の商品名および個数と取引情報に含まれる商品の商品名および個数とが一致しない場合だけであるので、オペレータの負担が必要以上に大きくなることはない。
以上説明したとおり、実施形態の情報処理装置50は、店舗に設けられたセンサのセンサ情報に基づいて推定された顧客の行動を示す行動情報と、当該行動情報に基づいて当該顧客が1取引で購入したと推定される商品を識別する商品識別情報と、当該1取引を特定することが可能な取引特定情報と、を対応付けた購入推定情報を取得する購入推定情報取得部5001と、前記店舗の取引に係る情報であって、1取引で取引された商品の前記商品識別情報と前記取引特定情報とを対応付けた取引情報を取得する取引情報取得部5003と、前記取引特定情報で特定される1取引に関して、前記購入推定情報に含まれる前記商品識別情報と前記取引情報に含まれる前記商品識別情報とを比較する比較部5005と、前記比較部5005による比較の結果、前記購入推定情報に含まれる前記商品識別情報と前記取引情報に含まれる前記商品識別情報とが一致しない場合、前記取引情報に基づいて前記行動情報を修正する修正部5006と、前記修正部5006が修正した行動情報を出力する出力部5009と、を備える。
これにより、取引情報を活用して、機械学習モデルで推定された行動情報を修正することができ、修正された行動情報を訓練データとして機械学習モデルに提供することができる。このため、店舗内における顧客の行動を推定する機械学習モデルの判定精度向上を容易に行うことが可能となる。
また、実施形態の情報処理装置50は、購入推定情報取得部5001は、センサ情報に基づいて抽出された顧客の行動であって当該顧客が実行したものと推定されなかった行動を示す行動情報を取得する。
これにより、機械学習モデルが推定しなかった行動、言い換えると機械学習モデルが実行されなかったと判定した行動を示す行動情報についても修正することが可能となる。このため、情報処理装置50は、修正した行動情報をより多く機械学習モデルに提供できるので、機械学習モデルの判定精度をより向上させることが可能となる。
さらに、実施形態の情報処理装置50は、センサ情報は、カメラ10の撮像データであって、撮像データを取得する撮像データ取得部5002と、前記撮像データ取得部5002が取得した撮像データを表示装置520に表示する表示処理部5007と、行動情報の修正の入力を受付ける受付部5008と、をさらに備える。
これにより、情報処理装置50を操作するオペレータが顧客の行動を撮像した撮像データを確認したうえで、行動情報を修正することができる。このため、行動情報をより正確に修正することができる。
加えて、実施形態の情報処理装置50は、表示処理部5007は、取引特定情報で特定される1取引に関する、撮像データ取得部5002が取得した撮像データ、購入推定情報取得部5001が取得した行動情報と商品識別情報、および取引情報取得部5003が取得した商品識別情報を表示可能な修正画面を前記表示装置に表示する。
これにより、行動情報を修正するオペレータの操作性を向上することができる。このため、オペレータの負荷を軽減することが可能となる。
なお、上記実施形態において、行動分析装置30、店舗サーバ40、および情報処理装置50で実行される制御プログラムは、CD-ROM等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。また、上記実施形態の上記各装置で実行される制御プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良く、さらには、インターネット等のネットワーク経由で提供するように構成しても良い。
以上、本発明の実施形態を説明したが、この実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。この実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。この実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1 行動分析システム
10 カメラ
20 POS端末(会計装置)
30 行動分析装置
40 店舗サーバ
50 情報処理装置
5001 購入推定情報取得部
5002 撮像データ取得部
5003 取引情報取得部
5004 記憶処理部
5005 比較部
5006 修正部
5007 表示処理部
5008 受付部
5009 出力部
特開2020-27313号公報

Claims (6)

  1. 店舗に設けられたセンサのセンサ情報に基づいて推定された顧客の行動を示す行動情報と、当該行動情報に基づいて当該顧客が1取引で購入したと推定される商品を識別する商品識別情報と、当該1取引を特定することが可能な取引特定情報と、を対応付けた購入推定情報を取得する購入推定情報取得部と、
    前記店舗の取引に係る情報であって、1取引で取引された商品の前記商品識別情報と前記取引特定情報とを対応付けた取引情報を取得する取引情報取得部と、
    前記取引特定情報で特定される1取引に関して、前記購入推定情報に含まれる前記商品識別情報と前記取引情報に含まれる前記商品識別情報とを比較する比較部と、
    前記比較部による比較の結果、前記購入推定情報に含まれる前記商品識別情報と前記取引情報に含まれる前記商品識別情報とが一致しない場合、前記取引情報に基づいて前記行動情報を修正する修正部と、
    前記修正部が修正した行動情報を出力する出力部と、
    を備える情報処理装置。
  2. 前記購入推定情報取得部は、前記センサ情報に基づいて抽出された顧客の行動であって当該顧客が実行したものと推定されなかった行動を示す行動情報を取得する、
    請求項1に記載の情報処理装置。
  3. 前記センサ情報は、カメラの撮像データであって、
    前記撮像データを取得する撮像データ取得部と、
    前記撮像データ取得部が取得した撮像データを表示装置に表示する表示処理部と、
    前記行動情報の修正の入力を受付ける受付部と、をさらに備える、
    請求項1または2に記載の情報処理装置。
  4. 前記表示処理部は、前記取引特定情報で特定される1取引に関する、前記撮像データ取得部が取得した撮像データ、前記購入推定情報取得部が取得した行動情報と商品識別情報、および前記取引情報取得部が取得した商品識別情報を表示可能な修正画面を前記表示装置に表示する、
    請求項3に記載の情報処理装置。
  5. 情報処理装置をコンピュータで制御するためのプログラムであって、
    前記コンピュータを、
    店舗に設けられたセンサのセンサ情報に基づいて推定された顧客の行動を示す行動情報と、当該行動情報に基づいて当該顧客が1取引で購入したと推定される商品を識別する商品識別情報と、当該1取引を特定することが可能な取引特定情報と、を対応付けた購入推定情報を取得する購入推定情報取得部と、
    前記店舗の取引に係る情報であって、1取引で取引された商品の前記商品識別情報と前記取引特定情報とを対応付けた取引情報を取得する取引情報取得部と、
    前記取引特定情報で特定される1取引に関して、前記購入推定情報に含まれる前記商品識別情報と前記取引情報に含まれる前記商品識別情報とを比較する比較部と、
    前記比較部による比較の結果、前記購入推定情報に含まれる前記商品識別情報と前記取引情報に含まれる前記商品識別情報とが一致しない場合、前記取引情報に基づいて前記行動情報を修正する修正部と、
    前記修正部が修正した行動情報を出力する出力部と、
    して機能させるプログラム。
  6. 店舗内の顧客の行動を推定する行動分析装置と、前記店舗における取引の会計処理を実行する会計装置と、前記会計装置で会計処理された取引の取引情報に基づいて前記行動分析装置で推定された顧客の行動を示す情報を修正する情報処理装置と、を備えた行動分析システムであって、
    前記情報処理装置は、
    前記行動分析装置が出力した情報であって、前記店舗に設けられたセンサのセンサ情報に基づいて推定された顧客の行動を示す行動情報、当該行動情報に基づいて当該顧客が1取引で購入したと推定される商品を識別する商品識別情報、および当該1取引を特定することが可能な取引特定情報を対応付けた購入推定情報を、取得する購入推定情報取得部と、
    前記会計装置が出力した前記店舗の取引に係る情報であって、1取引で取引された商品の前記商品識別情報と前記取引特定情報とを対応付けた取引情報を取得する取引情報取得部と、
    前記取引特定情報で特定される1取引に関して、前記購入推定情報に含まれる前記商品識別情報と前記取引情報に含まれる前記商品識別情報とを比較する比較部と、
    前記比較部による比較の結果、前記購入推定情報に含まれる前記商品識別情報と前記取引情報に含まれる前記商品識別情報とが一致しない場合、前記取引情報に基づいて前記行動情報を修正する修正部と、
    前記修正部が修正した行動情報を、前記行動分析装置に出力する出力部と、
    を備える行動分析システム。
JP2021051747A 2021-03-25 2021-03-25 情報処理装置、プログラム、および行動分析システム Pending JP2022149539A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021051747A JP2022149539A (ja) 2021-03-25 2021-03-25 情報処理装置、プログラム、および行動分析システム
US17/551,542 US20220309524A1 (en) 2021-03-25 2021-12-15 Information processing device, method, and behavior analysis system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021051747A JP2022149539A (ja) 2021-03-25 2021-03-25 情報処理装置、プログラム、および行動分析システム

Publications (1)

Publication Number Publication Date
JP2022149539A true JP2022149539A (ja) 2022-10-07

Family

ID=83363514

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021051747A Pending JP2022149539A (ja) 2021-03-25 2021-03-25 情報処理装置、プログラム、および行動分析システム

Country Status (2)

Country Link
US (1) US20220309524A1 (ja)
JP (1) JP2022149539A (ja)

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8317086B2 (en) * 2011-02-16 2012-11-27 International Business Machines Corporation Communication of transaction data within a self-checkout environment
US8851375B2 (en) * 2012-12-21 2014-10-07 Ncr Corporation Systems and methods for facilitating in-aisle scanning
US10282722B2 (en) * 2015-05-04 2019-05-07 Yi Sun Huang Machine learning system, method, and program product for point of sale systems
US10628695B2 (en) * 2017-04-26 2020-04-21 Mashgin Inc. Fast item identification for checkout counter
US10474988B2 (en) * 2017-08-07 2019-11-12 Standard Cognition, Corp. Predicting inventory events using foreground/background processing
CN108269369A (zh) * 2017-09-27 2018-07-10 中山市宾哥网络科技有限公司 结算箱及其结算方法
US10885336B1 (en) * 2018-01-13 2021-01-05 Digimarc Corporation Object identification and device communication through image and audio signals
CA3109571A1 (en) * 2018-07-16 2020-01-23 Accel Robotics Corporation Autonomous store tracking system
US10535146B1 (en) * 2018-07-16 2020-01-14 Accel Robotics Corporation Projected image item tracking system
US11393213B2 (en) * 2018-12-05 2022-07-19 AiFi Inc. Tracking persons in an automated-checkout store
US10607080B1 (en) * 2019-10-25 2020-03-31 7-Eleven, Inc. Feedback and training for a machine learning algorithm configured to determine customer purchases during a shopping session at a physical store
US11023728B1 (en) * 2019-10-25 2021-06-01 7-Eleven, Inc. Machine learning algorithm trained to identify algorithmically populated shopping carts as candidates for verification
US20210319420A1 (en) * 2020-04-12 2021-10-14 Shenzhen Malong Technologies Co., Ltd. Retail system and methods with visual object tracking

Also Published As

Publication number Publication date
US20220309524A1 (en) 2022-09-29

Similar Documents

Publication Publication Date Title
EP3696779A1 (en) Information processing apparatus
WO2017056433A1 (ja) Posシステム、pos装置、そのデータ処理方法、および記録媒体
JP7163604B2 (ja) 精算システム、精算方法及びプログラム
US20110055031A1 (en) Registration terminal, settlement terminal, transaction content changing method, and commodity sales processing apparatus
JP7298865B2 (ja) 情報処理システム、顧客特定装置、情報処理方法及びプログラム
JP2013054588A (ja) 販売管理システム及びプログラム
US20160155158A1 (en) Information distribution server and information distribution method
JP2018136692A (ja) 情報処理装置およびプログラム
JP2007087208A (ja) 顧客動向収集システム、顧客動向収集方法および顧客動向収集プログラム
JP2023088960A (ja) 情報処理装置、及び店舗システム
JP2017102846A (ja) 接客対応評価装置及び接客対応評価方法
JP7298644B2 (ja) 処理装置、処理方法及びプログラム
JP5523490B2 (ja) 情報処理装置、商品販売データ処理装置及びポイント管理方法
JP2022149539A (ja) 情報処理装置、プログラム、および行動分析システム
JP2022118266A (ja) 情報処理装置およびプログラム
US20190272648A1 (en) Sales data processing apparatus, information processing apparatus, and information processing method
JP2011028731A (ja) 商品販売データ処理装置及びその制御プログラム
US20230401599A1 (en) Merchandise processing device and method therefor
JP2014167830A (ja) 商取引処理装置及びレシート明細検索プログラム
US20230252548A1 (en) Recommendation device, recommendation system, recommendation method, and non-transitory computer-readable medium storing recommendation program
US20220092573A1 (en) Portable terminal and information processing method for a portable terminal
US20240104535A1 (en) Commodity registration apparatus and monitoring apparatus
US20220092614A1 (en) Information processing apparatus and information processing method
JP2013030095A (ja) 商品販売データ処理装置及びレシート明細検索プログラム
US20230091825A1 (en) Checkout apparatus and checkout method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240115