JP7401638B2 - 情報提供装置及びその制御プログラム - Google Patents

情報提供装置及びその制御プログラム Download PDF

Info

Publication number
JP7401638B2
JP7401638B2 JP2022200091A JP2022200091A JP7401638B2 JP 7401638 B2 JP7401638 B2 JP 7401638B2 JP 2022200091 A JP2022200091 A JP 2022200091A JP 2022200091 A JP2022200091 A JP 2022200091A JP 7401638 B2 JP7401638 B2 JP 7401638B2
Authority
JP
Japan
Prior art keywords
person
purchaser
information
terminal
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022200091A
Other languages
English (en)
Other versions
JP2023021348A (ja
Inventor
航太 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2022200091A priority Critical patent/JP7401638B2/ja
Publication of JP2023021348A publication Critical patent/JP2023021348A/ja
Priority to JP2023207108A priority patent/JP2024015277A/ja
Application granted granted Critical
Publication of JP7401638B2 publication Critical patent/JP7401638B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/55Clustering; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Library & Information Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明の実施形態は、情報提供装置及びコンピュータを当該情報提供装置として機能させるための制御プログラムに関する。
商品売場にいる客に対し、その売場に関連した情報を提供することで、客の購買行動を支援するシステムが提案されている。従来のこの種のシステムの多くは、売場を移動する客をリアルタイムで追跡し、客が所定の売場に来ると、その客が使用する端末に、その売場に関連した情報を提供する、というものである。そして客を追跡する方法としては、GPS(Global Positioning System)、ビーコン等の無線測位技術を利用した方法が知られている。
しかしながら、GPSを採用した場合には、屋内での適用が難しく、適用できたとしても測位精度が悪いという問題がある。ビーコンを採用した場合にも、測位精度を高めるためには店舗内に高密度でビーコン用の通信デバイスを配置する必要がある。このように、人物の行動を追跡しようとすると、解決しなければならない様々な問題が生じ得る。
特許第3931541号公報 特開2010-009566号公報 特開2012-185576号公報
本発明の実施形態が解決しようとする課題は、人物の行動を追跡することなく、その人物が使用する端末を介してその人物が居る場所に関連した情報を提供できる情報提供装置を提供しようとするものである。
一実施形態において、情報提供装置は、人物特定手段と、場所特定手段と、端末特定手段と、提供手段と、を備える。人物特定手段は、購買者に提供すべき情報がある複数の拠点にそれぞれ設置された撮影手段で撮影された画像から、その画像に顔が映し出されている人物を特定する。場所特定手段は、人物特定手段により人物が特定された画像を撮影した撮影手段が設置されている拠点を、人物がいる場所として特定する。端末特定手段は、人物特定手段により特定された人物が使用する端末を特定する。提供手段は、端末特定手段により特定された端末に、場所特定手段により人物がいる場所として特定された拠点と関連付けて、当該拠点に来た購買者に対して提供される情報を記憶する記憶装置に記憶されている情報を提供する。
一実施形態の情報提供装置が適用された店舗に構築される店舗システムの全体構成図。 カメラレコードのデータ構成を示す模式図。 購買者レコードのデータ構成を示す模式図。 提供情報レコードのデータ構成を示す模式図。 情報端末の要部回路構成を示すブロック図。 情報端末を備えたカートの一例を示す斜視図。 画像処理サーバの要部回路構成を示すブロック図。 撮影データのフォーマットを示す模式図。 画像処理サーバのプロセッサが制御プログラムに従って実行する情報処理の要部手順を示す流れ図。 購買者サーバのプロセッサが制御プログラムに従って実行する情報処理の要部手順を示す流れ図。 図10に示される入店カメラ処理の手順を具体的に示す流れ図。 図10に示されるカートカメラ処理の手順を具体的に示す流れ図。 図10に示される拠点カメラ処理の手順を具体的に示す流れ図。 図10に示される会計カメラ処理の手順を具体的に示す流れ図。 第1の実施形態において、提供サーバのプロセッサが制御プログラムに従って実行する情報処理の要部手順を示す流れ図。 第2の実施形態において、提供サーバのプロセッサが制御プログラムに従って実行する情報処理の要部手順を示す流れ図。
以下、人物の行動を追跡することなく、その人物が使用する端末を介してその人物が居る場所に関連した情報を提供できる情報提供装置の実施形態について、図面を用いて説明する。
因みに本実施形態は、スーパーマーケット等の小売店において、ショッピングカートを利用して買物を行う人物に対し、そのショッピングカートに備えられた情報端末を介して、その人物が居る売場に関連した情報を提供する、というものである。なお、以下の説明では、買物を行う人物を購買者と称する。ショッピングカートは、カートと称する。
[第1の実施形態]
図1は、本実施形態の情報提供装置が適用された店舗に構築される店舗システム1の全体構成図である。店舗システム1は、情報端末10、アクセスポイント20、会計機30、カメラインターフェース40、店舗サーバ50、画像処理サーバ60、購買者サーバ70及び提供サーバ80を含む。また店舗システム1は、ネットワーク2を含む。ネットワーク2は、アクセスポイント20、会計機30、カメラインターフェース40、店舗サーバ50、画像処理サーバ60、購買者サーバ70及び提供サーバ80を通信自在に接続する。ネットワーク2は、例えばLAN(Local Area Network)である。
情報端末10は、購買者が買上商品の登録に係るデータの入力をセルフで行うことを可能とした機器である。情報端末10は、カートSC毎に設けられている。カートSCは、そのカートSCのユーザである購買者の買上商品を搬送する移動体の一例である。
情報端末10は、無線ユニットを備えている。情報端末10は、アクセスポイント20と無線通信を行う。アクセスポイント20は、ネットワーク2に繋がる各機器、例えば会計機30、店舗サーバ50、画像処理サーバ60、購買者サーバ70又は提供サーバ80と、情報端末10との通信を中継する。アクセスポイント20は、図1では1台のみ示しているが、店舗の規模等により2台以上あってもよい。
情報端末10は、撮影手段の一つであるカメラCA1を備えている。カメラCA1は、情報端末10が設けられたカートSCを操作する購買者の顔画像を撮影するためのものである。ここに、カメラCA1は、移動体撮影手段として機能する。以下では、カメラCA1をカートカメラCA1と称する。
会計機30は、買上商品の会計を店員若しくは客が行うことを可能とした機器である。会計機30は、周知のセルフ式POS端末である。会計機30は、周知の対面式POS端末であってもよい。会計機30の台数は、特に制限されない。
カメラインターフェース40は、カートカメラCA1とは別の撮影手段として備えられたカメラで撮影された画像データを取り込む。カメラには、入店カメラCA2、拠点カメラCA3、及び、会計カメラCA4がある。
入店カメラCA2は、店舗内に入る購買者の顔画像を撮影するためのものである。入店カメラCA2は、購買者の顔画像を撮影可能な位置に設置される。入店カメラCA2は、入口の数だけある。
拠点カメラCA3は、売場の拠点に来た購買者の顔画像を撮影するためのものである。拠点とは、購買者に提供すべき情報がある場所である。例えば特売品が陳列された商品棚の前に来た購買者に対し、その特売品に関する情報を提供する場合、その特売品が陳列された商品棚の前の床面が拠点となる。例えば推奨するレシピの食材となる商品が陳列された商品棚の前に来た購買者に対し、そのレシピを紹介する情報を提供する場合、その食材となる商品が陳列された商品棚の前の床面が拠点となる。拠点カメラCA3は、拠点に来た購買者の顔画像を撮影可能な位置に設置される。拠点カメラCA3は、拠点の数だけある。
会計カメラCA4は、会計機30で会計を行う購買者の顔画像を撮影するためのものである。会計カメラCA4は、会計を行う購買者の顔画像を撮影可能な位置に設置される。会計カメラCA4は、会計機30の台数だけある。
店舗サーバ50は、店舗業務を支援するのに特化したコンピュータ装置である。店舗サーバ50は、商品データベース、売上データベース等を備える。これらのデータベースは、店舗サーバ50に内蔵された記憶装置にあってもよいし、店舗サーバ50に外付けされた記憶装置にあってもよい。商品データベースは、店舗で販売される商品毎に商品データを記述した商品レコードの集合体である。商品データは、商品コード、価格、商品名等を含む。商品コードは、商品の識別コードである。売上データベースは、商品、部門、時間帯、日付、週、月等の項目毎に売上データを記述した売上レコードの集合体である。売上データは、売上点数、売上金額等を含む。
画像処理サーバ60は、撮影手段、すなわちカートカメラCA1、入店カメラCA2、拠点カメラCA3及び会計カメラCA4で撮影された画像を処理するのに特化したコンピュータ装置である。画像処理サーバ60は、カメラデータベース91を備える。カメラデータベース91は、画像処理サーバ60に内蔵された記憶装置にあってもよいし、画像処理サーバ60に外付けされた記憶装置にあってもよい。カメラデータベース91は、画像処理サーバ60と通信可能な他のサーバの記憶装置にあってもよい。カメラデータベース91は、各カメラCA1,CA2,CA3,CA4の個々に対して作成されるカメラレコード91Rの集合体である。
図2は、カメラレコード91Rのデータ構成を示す模式図である。図示するようにカメラレコード91Rは、カメラID、カメラ区分及びカメラデータを含む。カメラIDは、各カメラCA1,CA2,CA3,CA4を個々に識別するためにカメラ毎に設定された一意のコードである。各カメラCA1,CA2,CA3,CA4は、自機に設定されたカメラIDを記憶しており、撮影した画像データを出力する際、カメラIDとともに画像データを出力するようになっている。
カメラ区分は、カメラIDで識別されるカメラの種類を示す情報である。すなわちカメラ区分は、当該カメラがカートカメラCA1なのか、入店カメラCA2なのか、拠点カメラCA3なのか、会計カメラCA4なのかを区分するための情報である。
カメラデータは、店内座標又はカート番号である。カートカメラCA1に対するカメラレコード91Rの場合、カメラデータはカート番号となる。カート番号は、当該カートカメラCA1を設けた情報端末10が備えられたカートSCの識別番号である。したがってカート番号は、そのカート番号で識別されるカートSCに備えられた情報端末10を特定するための情報となる。入店カメラCA2、拠点カメラCA3及び会計カメラCA4に対するカメラレコード91Rの場合には、カメラデータは店内座標となる。店内座標は、当該カメラによって撮影される店内の位置を特定するための情報である。店内座標は、店舗の床面をX-Y平面と見立て、任意の位置を原点(X,Y)=(0,0)とし、その原点からの差分をX座標とY座標とで表したものである。
図1の説明に戻る。
購買者サーバ70は、購買者の情報管理に特化したコンピュータ装置である。購買者サーバ70は、購買者データベース92を備える。購買者データベース92は、購買者サーバ70に内蔵された記憶装置にあってもよいし、購買者サーバ70に外付けされた記憶装置にあってもよい。購買者データベース92は、購買者サーバ70と通信可能な他のサーバの記憶装置にあってもよい。購買者データベース92は、購買者に係る情報が記述された購買者レコード92Rの集合体である。
図3は、購買者レコード92Rのデータ構成を示す模式図である。図示するように購買者レコード92Rは、購買者ID、顔画像、購買者属性、入店時刻、位置情報、カート番号及び会計フラグを含む。購買者IDは、購買者を個々に識別するために購買者毎に割り当てられた一意のコードである。顔画像は、購買者の顔を撮影した画像である。顔画像は、基本的には、入店カメラCA2によって撮影された画像から抽出されて、購買者レコード92Rに記述される。顔画像は、カートカメラCA1又は拠点カメラCA3によって撮影された画像から抽出されて、購買者レコード92Rに記述される場合もある。
購買者属性は、購買者の性別及び年代等の属性を表す情報である。入店時刻は、購買者が入店した時刻である。位置情報は、購買者が居る店舗内の位置を特定する店内座標とその時点の時刻である。カート番号は、購買者が使用するカートSCの識別番号である。会計フラグFは、購買者が会計を行ったか否かを識別するための1ビットデータである。本実施形態では、会計を行う前のときの会計フラグFを“0”とし、会計を行った後の会計フラグFを“1”とする。
図1の説明に戻る。
提供サーバ80は、拠点に来た購買者に対して提供する情報の管理に特化したコンピュータ装置である。提供サーバ80は、提供情報データベース93を備える。提供情報データベース93は、提供サーバ80に内蔵された記憶装置にあってもよいし、提供サーバ80に外付けされた記憶装置にあってもよい。提供情報データベース93は、提供サーバ80と通信可能な他のサーバの記憶装置にあってもよい。提供情報データベース93は、購買者に提供する情報が記述された提供情報レコード93Rの集合体である。
図4は、提供情報レコード93Rのデータ構成を示す模式図である。図示するように提供情報レコード93Rは、拠点座標、購買者属性及び表示データを含む。拠点座標は、当該提供情報レコード93Rで管理される情報を提供する拠点となる店内の位置を特定するための情報である。拠点座標は、拠点カメラCA3のカメラIDを含むカメラレコード91Rに設定されている店内座標と一致する。購買者属性は、当該提供情報レコード93Rで管理される情報を提供する購買者の属性である。
表示データは、当該提供情報レコード93Rの拠点座標で特定される拠点に来た購買者のうち、購買者属性と一致する属性を有する購買者に対して提供される情報の一例である。本実施形態では、購買者が使用するカートSCに備えられた情報端末10の表示デバイスに情報を表示することで、購買者に対して情報を提供する。したがって表示データは、例えばテキストデータである。表示データは、静止画又は動画の画像データであってもよい。因みに、情報端末10にスピーカが設けられている場合には、表示データとともに、あるいは表示データの代わりに音声データを適用してもよい。
図5は、情報端末10の要部回路構成を示すブロック図である。情報端末10は、プロセッサ11、メインメモリ12、補助記憶デバイス13、無線ユニット14、タッチパネル15、スキャナ16、リーダ17、カメラCA1及びシステム伝送路18を備える。システム伝送路18は、アドレスバス、データバス、制御信号線等を含む。情報端末10は、システム伝送路18に、プロセッサ11、メインメモリ12、補助記憶デバイス13、無線ユニット14、タッチパネル15、スキャナ16、リーダ17、カメラCA3を接続する。情報端末10では、プロセッサ11、メインメモリ12及び補助記憶デバイス13と、これらを接続するシステム伝送路18とによってコンピュータが構成される。
プロセッサ11は、上記コンピュータの中枢部分に相当する。プロセッサ11は、オペレーティングシステム又はアプリケーションプログラムに従って、情報端末10としての各種の機能を実現するべく各部を制御する。プロセッサ11は、例えばCPU(Central Processing Unit)である。
メインメモリ12は、上記コンピュータの主記憶部分に相当する。メインメモリ12は、不揮発性のメモリ領域と揮発性のメモリ領域とを含む。メインメモリ12は、不揮発性のメモリ領域ではオペレーティングシステム又はアプリケーションプログラムを記憶する。メインメモリ12は、プロセッサ11が各部を制御するための処理を実行する上で必要なデータを不揮発性又は揮発性のメモリ領域で記憶する場合もある。メインメモリ12は、揮発性のメモリ領域を、プロセッサ11によってデータが適宜書き換えられるワークエリアとして使用する。不揮発性のメモリ領域は、例えばROM(Read Only Memory)である。揮発性のメモリ領域は、例えばRAM(Random Access Memory)である。
補助記憶デバイス13は、上記コンピュータの補助記憶部分に相当する。例えばEEPROM(Electric Erasable Programmable Read-Only Memory)、HDD(Hard Disc Drive)、あるいはSSD(Solid State Drive)等が補助記憶デバイス13となり得る。補助記憶デバイス13は、プロセッサ11が各種の処理を行う上で使用するデータ、あるいはプロセッサ11での処理によって作成されたデータ等を保存する。補助記憶デバイス13は、上記のアプリケーションプログラムを記憶する場合もある。補助記憶デバイス13は、当該情報端末10が備えられたカートSCの識別番号、すなわちカート番号を記憶する。
無線ユニット14は、アクセスポイント20との間で無線通信プロトコルに従いデータの無線通信を行う。
タッチパネル15は、情報端末10の入力デバイスと表示デバイスとを兼ね備えた機器である。タッチパネル15は、表示された画像に対するタッチ位置を検出し、そのタッチ位置情報をプロセッサ11に出力する。
スキャナ16は、商品に付されたバーコード、二次元データコード等のコードシンボルを読み取る。商品には、その商品コードを表すコードシンボルが付されている。スキャナ16は、読み取ったコードシンボルのデータをプロセッサ11に出力する。スキャナ16は、レーザ光の走査によりコードシンボルを読み取るタイプであってもよいし、撮像デバイスで撮像した画像からコードシンボルを読み取るタイプであってもよい。
リーダ17は、記録媒体に記録されたデータを読み取り、読み取ったデータをプロセッサ11に出力する。リーダ17は、記録媒体が磁気カードの場合は磁気カードリーダであり、接触式ICカードの場合にはICカードリーダである。非接触式ICカード又はスマートフォン等のようにRFID(Radio Frequency Identification)を使用した記録媒体の場合には、RFIDリーダがリーダ17として使用される。
以上のような回路構成要素を備えた情報端末10において、プロセッサ11、メインメモリ12、補助記憶デバイス13、無線ユニット14及びタッチパネル15は、タブレット端末TMによって構成されている。そしてこのタブレット端末TMに、スキャナ16、リーダ17及びカメラCA1を電気的に接続することで、情報端末10が構成されている。
図6は、情報端末10を備えたカートSCの一例を示す斜視図である。カートSCは、移動用のキャスタ部C1と、ハンドルフレーム部C2と、籠受部C3とを備えている。キャスタ部C1は、床面上を円滑に移動させるための4輪の車輪C11を有している。またキャスタ部C1は、籠SBに入らないような大きな荷物を置くための受け部C12を備えている。ハンドルフレーム部C2は、キャスタ部C1の後輪側に立設された一対の縦フレームC21,C21と、これら縦フレームC21,C21の上端を連結するハンドルバーC22と、を含む。籠受部C3は、ハンドルフレーム部C2の中途部位から前方にある。カートSCは、籠受部C3に、店備え付けの籠SBを載置することができる。籠SBは、商品を収容するためのものである。
スキャナ16は、ハンドルバーC22の中途部にある。スキャナ16は、手前側に読取窓が位置するようにハンドルバーC22に取り付けられている。手前側は、ハンドルバーC22を持ってカートSCを押す客が立つ側である。
一方の縦フレームC21に、ポールC4が取り付けられている。ポールC4は、その先端がハンドルバーC22よりも上方に位置している。タブレット端末TMは、タッチパネル15の画面を手前にしてポールC4の先端部に取り付けられている。リーダ17は、カードスリットが手前側に位置するようにタブレット端末TMに取り付けられている。図5においては、リーダ17を磁気カードリーダとしている。カメラCA1は、ハンドルバーC22を握る客の顔を含む画像を撮影するように、ポールC4の中途部に取り付けられている。
バッテリBTは、ハンドルフレーム部C2の下端側に、縦フレームC21,C21に亘って取り付けられている。バッテリBTは、タブレット端末TM、スキャナ16、リーダ17及びカメラCA1の駆動電源となる。
図7は、画像処理サーバ60の要部回路構成を示すブロック図である。画像処理サーバ60は、プロセッサ61、メインメモリ62、補助記憶デバイス63、時計64、通信インターフェース65及びシステム伝送路66を備える。システム伝送路66は、アドレスバス、データバス、制御信号線等を含む。画像処理サーバ60は、システム伝送路66に、プロセッサ61、メインメモリ62、補助記憶デバイス63、時計64及び通信インターフェース65を直接または信号入出力回路を介して接続する。画像処理サーバ60は、プロセッサ61、メインメモリ62及び補助記憶デバイス63と、これらを接続するシステム伝送路66とによってコンピュータを構成する。
プロセッサ61は、上記コンピュータの中枢部分に相当する。プロセッサ61は、オペレーティングシステムやアプリケーションプログラムに従って、画像処理サーバ60としての各種の機能を実現するべく各部を制御する。プロセッサ61は、例えばCPUである。
メインメモリ62は、上記コンピュータの主記憶部分に相当する。メインメモリ62は、不揮発性のメモリ領域と揮発性のメモリ領域とを含む。メインメモリ62は、不揮発性のメモリ領域ではオペレーティングシステムやアプリケーションプログラムを記憶する。またメインメモリ62は、プロセッサ61が各部を制御するための処理を実行する上で必要なデータを不揮発性または揮発性のメモリ領域で記憶する場合もある。メインメモリ62は、揮発性のメモリ領域を、プロセッサ61によってデータが適宜書き換えられるワークエリアとして使用する。メインメモリ62において、不揮発性のメモリ領域は例えばROMであり、揮発性のメモリ領域は例えばRAMである。
補助記憶デバイス63は、上記コンピュータの補助記憶部分に相当する。例えばEEPROM、HDD、あるいはSSD等が補助記憶デバイス63として使用される。補助記憶デバイス63は、プロセッサ61が各種の処理を行う上で使用するデータや、プロセッサ61での処理によって生成されたデータを保存する。補助記憶デバイス63は、上記のアプリケーションプログラムを記憶する場合もある。
時計64は、画像処理サーバ60の時刻情報源として機能する。プロセッサ61は、時計64によって計時される時刻情報を基に、現在の日付及び時刻を計時する。
通信インターフェース65は、ネットワーク2を介して接続される各部との間で通信プロトコルに従いデータの送信及び受信を行う。
購買者サーバ70及び提供サーバ80についても、要部回路構成は画像処理サーバ60と同一となる。そこで以下では、購買者サーバ70の構成要素をプロセッサ71、メインメモリ72、補助記憶デバイス73、時計74、通信インターフェース75及びシステム伝送路76として表す。また提供サーバ80の構成要素をプロセッサ81、メインメモリ82、補助記憶デバイス83、時計84、通信インターフェース85及びシステム伝送路86として表す。
図8は、画像処理サーバ60から購買者サーバ70に出力される撮影データD1のフォーマットを示す模式図である。図9は、画像処理サーバ60のプロセッサ61が制御プログラムに従って実行する情報処理の要部手順を示す流れ図である。図10乃至図14は、購買者サーバ70のプロセッサ71が制御プログラムに従って実行する情報処理の要部手順を示す流れ図である。図15は、提供サーバ80のプロセッサ81が制御プログラムに従って実行する情報処理の要部手順を示す流れ図である。以下、各図を用いて、店舗システム1の主要な動作について説明する。なお、以下に説明する動作は一例である。同様な結果が得られるのであれば、その処理手順は適宜変更して実施することができる。
初めに、入店カメラCA2、拠点カメラCA3及び会計カメラCA4は、開店時刻から閉店時刻までの間、一定の周期で撮影動作を繰り返し、撮影された画像データを自機のカメラIDとともにカメラインターフェース40へと出力している。カメラインターフェース40へと出力されたカメラIDと画像データは、ネットワーク2を介して画像処理サーバ60に送り込まれる。カートカメラCA1は、情報端末10に対してユーザのログインがあると起動し、一定の周期で撮影動作を繰り返す。撮影動作は、情報端末10がログアウトするまで継続される。カートカメラCA1で撮影された画像データは、プロセッサ11の制御により自機のカメラIDとともに無線ユニット14を介して無線送信され、アクセスポイント20で受信される。アクセスポイント20で受信されたカメラIDと画像データは、ネットワーク2を介して画像処理サーバ60に送り込まれる。
ここで、画像処理サーバ60の動作について、図9を用いて説明する。
画像処理サーバ60のプロセッサ61は、Act1として画像データを待ち受けている。ネットワーク2を介して画像データが送り込まれてくると、プロセッサ61は、Act1においてYESと判定し、Act2へと進む。プロセッサ61は、Act2として時計64で計時されている日時を撮影時刻として取得する。またプロセッサ61は、Act3として画像データを解析して人物の顔画像を抽出する。
プロセッサ61は、Act4として人物の顔を一定以上の認識率で認識可能な顔画像を抽出できたか否かを確認する。顔画像を1つも抽出できなかった場合、プロセッサ61は、Act4においてNOと判定し、Act5へと進む。プロセッサ61は、Act5として画像データを破棄する。以上で、プロセッサ61は、Act1において受信した画像データに対する処理を終了する。
顔画像を抽出できた場合、プロセッサ61は、Act4においてYESと判定し、Act6へと進む。プロセッサ61は、Act6として画像データとともに受信したカメラIDを取得する。プロセッサ61は、Act7としてカメラIDを検索データとしてカメラデータベース91を検索する。そしてプロセッサ61は、Act8として検索データをカメラIDとして含むカメラレコード91Rを読込み、そのカメラレコード91Rからカメラ区分を取得する。
プロセッサ61は、Act9としてカメラ区分がカートカメラCA1を示すものか否かを確認する。カメラ区分がカートカメラCA1を示すものの場合、プロセッサ61は、Act9においてYESと判定し、Act10へと進む。プロセッサ61は、Act10としてカメラレコード91Rのカメラデータをカート番号として取得する。
カメラ区分がカートカメラCA1を示すものでなかった場合、すなわちカメラ区分が入店カメラCA2、拠点カメラCA3又は会計カメラCA4を示すものであった場合、プロセッサ61は、Act9においてNOと判定し、Act11へと進む。プロセッサ61は、Act11としてカメラレコード91Rのカメラデータを店内座標として取得する。
Act10またはAct11の処理を終えると、プロセッサ61は、Act12として、図8に示すフォーマットの撮影データD1を生成する。すなわちプロセッサ61は、Act6おいて取得したカメラIDと、Act8において取得したカメラ区分と、Act2において取得した撮影時刻と、Act10またはAct11において取得したカート番号又は店内座標と、Act3において抽出した顔画像とで撮影データD1を生成する。プロセッサ61は、Act13として撮影データD1を購買者サーバ70へと出力するように通信インターフェース65を制御する。この制御により、通信インターフェース65からネットワーク2を介して購買者サーバ70へと撮影データD1が送信される。
撮影データD1の出力を制御したプロセッサ61は、Act14として別の顔画像を抽出しているか否かを確認する。Act1において受信した画像データから複数の顔画像を抽出し得た場合、プロセッサ61は、Act14においてYESと判定し、Act12へと戻る。すなわちプロセッサ61は、直前に生成した撮影データD1と顔画像だけが異なる撮影データD1を生成し、購買者サーバ70へと出力するように通信インターフェース65を制御する。このように、画像データから複数の顔画像を抽出し得た場合には、プロセッサ61は、その顔画像の数だけ撮影データD1を生成して、購買者サーバ70へと出力するように通信インターフェース65を制御する。
画像データから抽出し得た顔画像の数だけの撮影データD1を出力し終えたならば、プロセッサ61は、その画像データに対する処理を終了する。
次に、購買者サーバ70の動作について、図10乃至図14を用いて説明する。
購買者サーバ70のプロセッサ71は、図10のAct21として撮影データD1を待ち受けている。ネットワーク2を介して撮影データD1を受信すると、プロセッサ71は、Act21においてYESと判定し、Act22へと進む。プロセッサ71は、Act22としてその撮影データD1からカメラ区分を取得する。そしてプロセッサ71は、Act23としてカメラ区分が入店カメラCA2を示すものであるか否かを確認する。カメラ区分が入店カメラCA2を示すものである場合、プロセッサ71は、Act23においてYESと判定し、Act24へと進む。プロセッサ71は、Act24として入店カメラ処理を実行する。
図11は、入店カメラ処理の手順を具体的に示す流れ図である。前述したように、入店カメラCA2は、店舗内に入る購買者の顔画像を撮影するものである。したがって、入店カメラCA2で撮影された画像から生成された撮影データD1に含まれる顔画像は、店舗内に入った購買者の顔画像である。
入店カメラ処理に入ると、プロセッサ71は、Act31としてその撮影データD1から顔画像を取得する。そしてプロセッサ71は、Act32としてその顔画像を検索データとして購買者データベース92を検索する。プロセッサ71は、Act33として検索データとしての顔画像と、会計フラグが“1”にセットされていない購買者レコード92Rの顔画像とを順次比較する。そしてプロセッサ71は、検索データとしての顔画像の人物と同一人物であると認定可能な類似度の顔画像を記憶した購買者レコード92Rを探す。プロセッサ71は、該当する購買者レコード92Rを検出した場合、Act33においてYESと判定し、入店カメラ処理を終了する。
該当する購買者レコード92Rを検出できなかった場合には、プロセッサ71は、Act33においてNOと判定し、Act34へと進む。プロセッサ71は、Act34として新規の購買者IDを生成する。またプロセッサ71は、Act35として撮影データD1に含まれる顔画像から購買者の性別、年代等の属性を判別する。またプロセッサ71は、Act36して撮影データD1の撮影時刻を入店時刻として取得する。またプロセッサ71は、Act37として撮影データD1の撮影時刻と店内座標とから位置情報を生成する。
しかしてプロセッサ71は、Act38として、Act34乃至Act37の処理で得た購買者ID、購買者属性、入店時刻及び位置情報と、撮影データD1に含まれる顔画像とから購買者レコード92Rを作成する。この購買者レコードにおいては、カート番号は記述されていない。また、会計フラグは“0”にリセットとされている。プロセッサ71は、Act39としてその購買者レコード92Rを購買者データベース92に保存する。
このように、店舗の入口から購買者が入店すると、その購買者の顔画像が入店カメラCA2で撮影される。入店カメラCA2で購買者の顔画像が撮影されると、その購買者固有の購買者IDが設定された購買者レコード92Rが生成され、購買者データベース92に保存される。ただし、購買者レコード92Rが作成された購買者が一旦店を出て再度入店した場合には、図11のAct33の処理においてYESと判定されるので、同一購買者の購買者レコードが重複して作成される虞はない。
図10の説明に戻る。
プロセッサ71は、入店カメラ処理を終了すると、Act21において受信した撮影データD1に対する処理を終了する。
撮影データD1から取得したカメラ区分が入店カメラCA2を示すものでない場合、プロセッサ71は、Act23においてNOと判定し、Act25へと進む。プロセッサ71は、Act25としてカメラ区分がカートカメラCA1を示すものであるか否かを確認する。カメラ区分がカートカメラCA1を示すものである場合、プロセッサ71は、Act25においてYESと判定し、Act26へと進む。プロセッサ71は、Act26としてカートカメラ処理を実行する。
図12は、カートカメラ処理の手順を具体的に示す流れ図である。前述したように、カートカメラCA1は、カートSCを操作する購買者の顔画像を撮影するものである。したがって、カートカメラCA1で撮影された画像から生成された撮影データD1に含まれる顔画像は、カートSCを操作して買物を行っている購買者の顔画像である。
カートカメラ処理に入ると、プロセッサ71は、Act41としてその撮影データD1から顔画像を取得する。そしてプロセッサ71は、Act42としてその顔画像を検索データとして購買者データベース92を検索する。プロセッサ71は、Act43として検索データとしての顔画像と、会計フラグが“1”にセットされていない購買者レコード92Rの顔画像とを順次比較する。そしてプロセッサ71は、検索データとしての顔画像の人物と同一人物であると認定可能な類似度の顔画像を記憶した購買者レコード92Rを探す。プロセッサ71は、該当する購買者レコード92Rを検出した場合、Act43においてYESと判定し、Act44へと進む。プロセッサ71は、Act44として該当する購買者レコード92Rを更新対象の購買者レコード92Rとして購買者データベース92から読み込む。
プロセッサ71は、Act45としてその購買者レコード92Rにカート番号が設定されているか否かを確認する。カート番号が設定されている場合、プロセッサ71は、Act45においてYESと判定し、Act46へと進む。プロセッサ71は、Act46として購買者レコード92Rに設定されているカート番号が撮影データD1に含まれているカート番号と一致するか否かを確認する。両カート番号が一致する場合、プロセッサ71は、Act46においてYESと判定し、カートカメラ処理を終了する。
更新対象の購買者レコード92Rにカート番号が設定されていない場合には、プロセッサ71は、Act45においてNOと判定し、Act47へと進む。また購買者レコード92Rに設定されているカート番号が撮影データD1に含まれているカート番号と一致しない場合にも、プロセッサ71は、Act46においてNOと判定し、Act47へと進む。
プロセッサ71は、Act47として撮影データD1に含まれているカート番号を取得する。そしてプロセッサ71は、Act48として、更新対象の購買者レコード92Rに、Act47において取得したカート番号を記述した後、その購買者レコード92Rを購買者データベース92に上書き保存する。以上でプロセッサ71は、カートカメラ処理を終了する。
このように、購買者がカートSCを操作すると、その購買者の顔画像がカートカメラCA1によって撮影される。カートカメラCA1で購買者の顔画像が撮影されると、その購買者固有の購買者IDが設定された購買者レコード92Rに、当該購買者が操作するカートSCのカート番号が記述される。
なお、購買者レコード92Rに当該購買者が操作するカートSCのカート番号が既に記述されていた場合には、図12のAct46の処理においてYESと判定されるので、Act47及びAct48の処理が実行されることはない。ただし、購買者が別のカートSCを操作し始めた場合には、図12のAct46の処理においてNOと判定されるので、Act47及びAct48の処理が実行される。したがって、購買者レコード92Rには、当該購買者レコード92Rの購買者IDで特定される購買者が操作している最新のカートSCのカート番号が記述される。
ところで、Act43において検索データとしての顔画像の人物と同一人物であると認定可能な類似度の顔画像を記憶した購買者レコード92Rを検出できなかった場合、プロセッサ71は、図11に示した入店カメラ処理のAct34の処理へと済む。そしてプロセッサ71は、Act34乃至Act39の処理を前述したのと同様に実行する。このとき、Act37として撮影時刻のみから位置情報を生成し、Act38として購買者レコード92Rにカート番号も記述する。
したがって、入店カメラCA2では撮影されなかった購買者については、カートSCを操作することで、当該購買者固有の購買者IDが設定された購買者レコード92Rが生成され、購買者データベース92に保存されることとなる。
図10の説明に戻る。
プロセッサ71は、カートカメラ処理を終了すると、Act21において受信した撮影データD1に対する処理を終了する。
撮影データD1から取得したカメラ区分が入店カメラCA2又はカートカメラCA1を示すものでない場合、プロセッサ71は、Act25においてNOと判定し、Act27へと進む。プロセッサ71は、Act27としてカメラ区分が拠点カメラCA3を示すものであるか否かを確認する。カメラ区分が拠点カメラCA3を示すものである場合、プロセッサ71は、Act27においてYESと判定し、Act28へと進む。プロセッサ71は、Act28として拠点カメラ処理を実行する。
図13は、拠点カメラ処理の手順を具体的に示す流れ図である。前述したように、拠点カメラCA3は、売場の拠点に来た購買者の顔画像を撮影するためのものである。したがって、拠点カメラCA3で撮影された画像から生成された撮影データD1に含まれる顔画像は、売場の拠点に来た購買者の顔画像である。
拠点カメラ処理に入ると、プロセッサ71は、Act51としてその撮影データD1から顔画像を取得する。そしてプロセッサ71は、Act52としてその顔画像を検索データとして購買者データベース92を検索する。プロセッサ71は、Act53として検索データとしての顔画像と、会計フラグが“1”にセットされていない購買者レコード92Rの顔画像とを順次比較する。そしてプロセッサ71は、検索データとしての顔画像の人物と同一人物であると認定可能な類似度の顔画像を記憶した購買者レコード92Rを探す。プロセッサ71は、該当する購買者レコード92Rを検出した場合、Act53においてYESと判定し、Act54へと進む。プロセッサ71は、Act54として該当する購買者レコード92Rを更新対象の購買者レコード92Rとして購買者データベース92から読み込む。
プロセッサ71は、Act55として撮影データD1に含まれる撮影時刻と店内座標とから位置情報を生成する。そしてプロセッサ71は、Act56として、更新対象の購買者レコード92Rに、Act55において生成した位置情報を記述した後、その購買者レコード92Rを購買者データベース92に上書き保存する。このとき、購買者レコード92Rに既に位置情報が記述されている場合には、その位置情報に代えて、Act55で生成された位置情報が記述される。
プロセッサ71は、Act57として更新対象であった購買者レコード92Rにカート番号が記述されているか否かを確認する。カート番号が記述されていない場合、プロセッサ71は、Act57においてNOと判定し、拠点カメラ処理を終了する。
更新対象であった購買者レコード92Rにカート番号が記述されている場合には、プロセッサ71は、Act57においてYESと判定し、Act58へと進む。プロセッサ71は、Act58として提供サーバ80宛に提供コマンドを送信するように通信インターフェース75を制御する。この制御により、通信インターフェース75は、ネットワーク2を介して提供サーバ80に提供コマンドを送信する。提供コマンドには、更新対象であった購買者レコード92Rに記述されている位置情報、購買者属性及びカート番号の各データが含まれる。以上で、プロセッサ71は、拠点カメラ処理を終了する。
このように購買者が拠点となる位置に移動すると、その拠点に設けられた拠点カメラCA3によって購買者の顔画像が撮影される。拠点カメラCA3で購買者の顔画像が撮影されると、その購買者固有の購買者IDが設定された購買者レコード92Rに、当該拠点カメラCA3に対する店内座標と現在日時とを関連付けた位置情報が記述される。そして、その位置情報とともに当該購買者レコード92Rに記述されている購買者属性及びカート番号を含む提供コマンドが提供サーバ80へと送信される。
ところで、Act53において検索データとしての顔画像の人物と同一人物であると認定可能な類似度の顔画像を記憶した購買者レコード92Rを検出できなかった場合、プロセッサ71は、図11に示した入店カメラ処理のAct34の処理へと済む。そしてプロセッサ71は、Act34乃至Act39の処理を前述したのと同様に実行する。
したがって、入店カメラCA2あるいはカートカメラCA1では撮影されなかった購買者については、店舗内の拠点に移動することで、当該購買者固有の購買者IDが設定された購買者レコード92Rが生成され、購買者データベース92に保存されることとなる。
図10の説明に戻る。
プロセッサ71は、拠点カメラ処理を終了すると、Act21において受信した撮影データD1に対する処理を終了する。
撮影データD1から取得したカメラ区分が入店カメラCA2、カートカメラCA1又は拠点カメラCA3を示すものでない場合、プロセッサ71は、Act27においてNOと判定し、Act29へと進む。プロセッサ71は、Act29として会計カメラ処理を実行する。
図14は、会計カメラ処理の手順を具体的に示す流れ図である。前述したように、会計カメラCA4は、会計機30で会計を行う購買者の顔画像を撮影するためのものである。したがって、会計カメラCA4で撮影された画像から生成された撮影データD1に含まれる顔画像は、会計機30で会計を行っている購買者の顔画像である。
会計カメラ処理に入ると、プロセッサ71は、Act61としてその撮影データD1から顔画像を取得する。そしてプロセッサ71は、Act62としてその顔画像を検索データとして購買者データベース92を検索する。プロセッサ71は、Act63として検索データとしての顔画像と、会計フラグが“1”にセットされていない購買者レコード92Rの顔画像とを順次比較する。そしてプロセッサ71は、検索データとしての顔画像の人物と同一人物であると認定可能な類似度の顔画像を記憶した購買者レコード92Rを探す。プロセッサ71は、該当する購買者レコード92Rを検出した場合、Act63においてYESと判定し、Act64へと進む。プロセッサ71は、Act64として該当する購買者レコード92Rを更新対象の購買者レコードとして購買者データベース92から読み込む。
プロセッサ71は、Act65として購買者レコード92Rの会計フラグを“1”にセットする。そしてプロセッサ71は、Act66として、更新対象の購買者レコード92Rを購買者データベース92に上書き保存する。以上で、プロセッサ71は、会計カメラ処理を終了する。
このように会計カメラCA4で購買者が撮影されると、その購買者固有の購買者IDが設定された購買者レコード92Rの会計フラグFが“0”から“1”に更新される。したがって、以後、当該購買者レコード92Rは、前述したカートカメラ処理、拠点カメラ処理及び会計カメラ処理において、検索対象外となる。
なお、Act63において検索データとしての顔画像の人物と同一人物であると認定可能な類似度の顔画像を記憶した購買者レコード92Rを検出できなかった場合、プロセッサ71は、会計カメラ処理を終了する。
図10の説明に戻る。
プロセッサ71は、会計カメラ処理を終了すると、Act21において受信した撮影データD1に対する処理を終了する。
次に、提供サーバ80の動作について、図15を用いて説明する。
提供サーバ80のプロセッサ81は、通信インターフェース85を介して提供コマンドを受信すると、図15の流れ図に示す手順の情報処理を開始する。すなわちプロセッサ81は、Act71として提供コマンドに含まれている位置情報の店内座標を取得する。また、プロセッサ81は、Act72としてその提供コマンドに含まれている購買者属性を取得する。さらにプロセッサ81は、Act73としてその提供コマンドに含まれているカート番号を取得する。
プロセッサ81は、Act74として提供コマンドから取得した店内座標と購買者属性とを検索データとして提供情報データベース93を検索する。プロセッサ81は、Act75として検索データとしての店内座標を拠点座標として含み、且つ購買者属性が一致する提供情報レコード93Rの有無を判定する。該当する提供情報レコード93Rが提供情報データベース93に保存されていない場合、プロセッサ81は、Act75においてNOと判定し、この処理を終了する。
該当する提供情報レコード93Rが提供情報データベース93に保存されていた場合には、プロセッサ81は、Act75においてYESと判定し、Act76へと進む。プロセッサ81は、Act76として該当する提供情報レコード93Rから表示データを読み込む。そしてプロセッサ81は、Act77としてその表示データを、Act73の処理で取得したカート番号で識別される情報端末10宛に送信するように通信インターフェース85を制御する。この制御により、通信インターフェース85は、カート番号と表示データとを含む通信データを送信する。この通信データは、ネットワーク2を介してアクセスポイント20に送られ、アクセスポイント20から無線送信される。以上で、プロセッサ81は、提供コマンドを受信したときの処理を終了する。
さて、アクセスポイント20から無線送信された通信データは、情報端末10で受信される。無線ユニット14を介して通信データを受信した情報端末10のプロセッサ11は、その通信データに含まれるカート番号が、補助記憶デバイス13で記憶しているカート番号と一致するか否かを確認する。そして一致しない場合、プロセッサ11は、その通信データを破棄する。カート番号が一致する場合には、プロセッサ11は、その通信データに含まれる表示データを、タッチパネル15に表示させる。
このように、購買者が拠点となる位置に移動した場合、その拠点に対して設定された購買者に提供すべき情報の中に当該購買者の属性を対象とした情報の有無が判別される。そして当該購買者の属性を対象とした情報がある場合には、当該購買者が操作するカートSCに備えられた情報端末10のタッチパネル15にその情報が表示される。
例えば、特売品が陳列された商品棚の前に購買者が来ると、その購買者の性別又は年代であれば購買意欲が高まると推定される特売品を紹介する画像が表示される。例えば推奨するレシピの食材となる商品が陳列された商品棚の前に購買者に来ると、その購買者の性別又は年代であれば食欲が高まると推定されるレシピを紹介する画像が表示される。
逆を言えば、特売品が陳列された商品棚の前に購買者が来ても、その購買者の性別又は年代では購買意欲が高まると推定される特売品がない場合には、画像は表示されない。同様に、推奨するレシピの食材となる商品が陳列された商品棚の前に購買者に来ても、その購買者の性別又は年代では食欲が高まると推定されるレシピがない場合には、画像が表示されない。
ここに、購買者サーバ70は、プロセッサ71を主体とするコンピュータが、図11のAct34乃至Act39の処理を実行することにより、入店カメラCA2、カートカメラCA1又は拠点カメラCA3で撮影された画像から、その画像に顔が映し出されている購買者を特定する人物特定手段として機能する。
また、購買者サーバ70は、プロセッサ71を主体とするコンピュータが、図11のAct35の処理を実行することにより、購買者の性別、年代等の属性を判定する属性判定手段として機能する。
また、購買者サーバ70は、プロセッサ71を主体とするコンピュータが、図12のAct41乃至Act48の処理を実行することにより、カートカメラCA1で撮影された画像から、カートSCを操作する購買者の顔画像と当該カートSCに備えられた情報端末10とを関連付ける関連付け手段として機能する。
一方、提供サーバ80は、プロセッサ81を主体とするコンピュータが、図15のAct71の処理を実行することにより、購買者の顔を映し出した拠点カメラCA3の情報から場所を特定する場所特定手段として機能する。
また、提供サーバ80は、プロセッサ81を主体とするコンピュータが、図15のAct73の処理を実行することにより、購買者が使用する情報端末10を特定する端末特定手段として機能する。具体的には提供サーバ80は、人物特定手段で特定された購買者の顔画像と関連付けられた情報端末10を特定する。
また、提供サーバ80は、プロセッサ81を主体とするコンピュータが、図15のAct74乃至Act77の処理を実行することにより、情報端末10に場所に応じた情報を提供する提供手段を構成する。さらに提供サーバ80は、プロセッサ81を主体とするコンピュータが、Act72の処理も含めてAct74乃至Act77の処理を実行することにより、購買者の属性と場所とに応じた情報を提供する提供手段として機能する。
したがって本実施形態においては、購買者データベース92を管理する購買者サーバ70と、提供情報データベース93を管理する提供サーバ80とによって、情報提供装置が構成されている。情報提供装置は、カメラデータベース91を管理する画像処理サーバ60を含めて構成してもよい。情報提供装置は、複数のサーバではなく、1つのサーバによって構成することも可能である。
以上の説明から明らかなように、本実施形態によれば、購買者の行動を追跡することなく、その購買者が使用する情報端末10を介してその購買者が居る場所に関連した情報を提供することができる。したがって、購買者の行動を追跡する必要がないので、GPS、ビーコン等の無線測位技術の利用を排除することができる。
その上、本実施形態によれば、購買者の性別、年代等の属性に係る情報を選択的に提供できるので、購買者の購買意欲を一層高めたり、その購買者が納得できる情報を的確に提供したりすることができる。
また、情報の提供は、購買者が使用するカートSCに備えられた情報端末10から行われるので、例えば購買者が情報を得るためにスマートフォン等の端末を操作する必要はない。したがって、購買者の負担なく適切な情報を提供できる効果を奏する。
[第2の実施形態]
第1の実施形態では、購買者を一人とみなし、その購買者が拠点に移動すると、その拠点に係る情報を当該購買者に提供する場合を例示した。しかし、購買者には、子供連れ、夫婦、友人同士等のようにグループで来店する購買者も含まれる。そこで、グループで来店した購買者についても、そのグループの中の誰かが拠点に移動した際には、その拠点に係る情報を、そのグループが使用しているカートSCの情報端末10に表示するようにした第2の実施形態について、図16を用いて説明する。
図16は、提供サーバ80のプロセッサ81が通信インターフェース85を介して提供コマンドを受信したことによって実行する情報処理の要部手順を示す流れ図である。この手順は、第1の実施形態では、図15の流れ図によって示したものである。そこで、第1の実施形態と共通する手順には、図15と同一の符号を付し、詳しい説明は省略する。また、第1の実施形態において図1乃至図14を用いて説明した内容は、第2の実施形態でも共通である。したがって、図1乃至図14はそのまま使用し、その説明は省略する。
提供サーバ80のプロセッサ81は、通信インターフェース85を介して提供コマンドを受信すると、図16の流れ図に示す手順の情報処理を開始する。すなわちプロセッサ81は、Act71乃至Act73として、提供コマンドから位置情報の店内座標と、購買者属性と、カート番号とを取得する。
次いでプロセッサ81は、Act81としてカート番号の問合せコマンドを購買者サーバ70に出力するように、通信インターフェース85を制御する。この制御により、通信インターフェース85は、ネットワーク2を介して購買者サーバ70宛にカート番号の問合せコマンドを送信する。この問合せコマンドには、提供コマンドから取得したカート番号が含まれる。
問合せコマンドを受信した購買者サーバ70のプロセッサ71は、その問合せコマンドに含まれるカート番号を検索データとして購買者データベース92を検索する。そしてプロセッサ71は、会計フラグが“1”にセットされていない購買者レコード92Rのなかから、検索データであるカート番号を含む購買者レコード92Rを全て抽出する。プロセッサ71は、購買者データベース92から抽出した購買者レコード92Rを、提供サーバ80に送信するように通信インターフェース75を制御する。この制御により、通信インターフェース75は、ネットワーク2を介して提供サーバ80宛に、購買者データベース92から抽出した購買者レコード92Rを送信する。
第1の実施形態で説明したように、カートカメラCA1で撮影された画像から購買者の顔画像が取得されると、その購買者の購買者IDが設定された購買者レコード92Rに当該カートカメラCA1が備えられたカートSCのカート番号が記述される。購買者がグループの場合、大抵は1台のカートSCをグループのメンバーで共有する。このため、カートカメラCA1によってグループ内の複数のメンバーが撮影される可能性が高い。1つのカートカメラCA1によって複数のメンバーが撮影されると、各メンバーの購買者レコード92Rに同じカート番号が記述されることとなる。その結果、提供サーバ80からのカート番号の問い合わせに対し、複数の購買者レコード92Rが購買者サーバ70から送信されることとなる。
そこで、提供サーバ80のプロセッサ81は、Act81においてカート番号問い合わせを行った後、Act82として複数の購買者レコード92Rを受信したか否かを確認する。複数の購買者レコード92Rを受信した場合には、プロセッサ81は、Act82においてYESと判定し、Act83へと進む。プロセッサ81は、Act83としてその複数の購買者レコード92Rから購買者属性を収集する。そしてプロセッサ81は、Act84としてその複数の購買者属性からグループ属性を推定する。
例えば、2つの購買者属性のうち1つが男性であり、別の1つが女性であって、年代が近い場合、夫婦又はカップルと推定する。例えば2つの購買者属性が同性であり、年代も近い場合には、友人同士と推定する。例えば、3つの購買者属性のうち1つが男性、別の1つが女性であって、年代が近く、残りの1つの購買者属性の年代が子供の場合、家族連れと推定する。
グループ属性を推定したならば、プロセッサ81は、Act85として提供コマンドから取得した店内座標と、Act84の処理で取得したグループ属性とを検索データとして、提供情報データベース93を検索する。提供情報データベース93には、購買者属性の代わりにグループ属性を記述した提供情報レコード93Rが含まれている。プロセッサ81は、Act86として検索データとしての店内座標を拠点座標として含み、且つグループ属性が一致する提供情報レコード93Rの有無を判定する。該当する提供情報レコード93Rが提供情報データベース93に保存されていない場合、プロセッサ81は、Act86においてNOと判定し、この処理を終了する。
該当する提供情報レコード93Rが提供情報データベース93に保存されていた場合には、プロセッサ81は、Act86においてYESと判定し、Act87へと進む。プロセッサ81は、Act87として該当する提供情報レコード93Rから表示データを読み込む。そしてプロセッサ81は、Act88としてその表示データを、Act73の処理で取得したカート番号で識別される情報端末10宛に送信するように通信インターフェース85を制御する。この制御により、通信インターフェース85は、カート番号と表示データとを含む通信データを送信する。この通信データは、ネットワーク2を介してアクセスポイント20に送られ、アクセスポイント20から無線送信される。
なお、カート番号の問い合わせを行った結果、受信した購買者レコード92Rが1つだけであった場合には、プロセッサ81は、Act82においてNOと判定し、Act85へと進む。そしてプロセッサ81は、Act85乃至Act88として、第1の実施形態で説明したAct74乃至Act77の処理と同様の処理を実行する。
以上で、プロセッサ81は、提供コマンドを受信したときの処理を終了する。
ここに、提供サーバ80は、プロセッサ81を主体とするコンピュータが、図15のAct81乃至Act84の処理を実行することにより、関連付け手段で同じ情報端末10に複数の購買者の顔画像が関連付けられた場合、その複数の購買者の属性からグループ構成を推定する推定手段として機能する。
このように構成された第2の実施形態によれば、購買者がグループの場合、そのグループの中の誰かが拠点に移動した際には、その拠点に係る情報を、そのグループが使用しているカートSCの情報端末10に表示させることができる。その場合において、例えばグループが家族連れであった場合には、家族連れに適した情報を表示させることができる。例えばグループがカップルであった場合には、カップルに適した情報を表示させることができる。
ところで、購買者レコード92Rの会計フラグは、その購買者レコード92Rで特定される購買者が会計カメラCA4によって撮影されないと“1”にセットされない。その一方で、購買者がグループの場合、会計は一人で行い、他のメンバーは会計機30に近づかない場合がある。このような場合、会計機30に近づかなかったメンバーの購買者レコード92Rは、会計が済んでも会計フラグが“1”にセットされない。
そこで、例えば入店時刻から一定時間が経過し、既に会計が済んでいると推定される購買者の購買者レコード92Rについては、自動的に会計フラグを“1”にセットする。このような構成を採用することにより、会計が済んでいる購買者の購買者レコード92Rが検索対象となることを防ぐことができる。
なお、この点に関しては、会計カメラCA4と同等のカメラを店舗の出入口に設ける。そして、この出入口のカメラで顔画像が撮影された購買者に対する購買者レコード92Rの会計フラグを“1”にセットしてもよい。こうすることにより、購買者が店を出ることによって、その購買者に対する購買者レコード92Rの会計フラグが“1”にセットされるので、効果的である。
以上、人物の行動を追跡することなく、その人物が使用する端末を介してその人物が居る場所に関連した情報を提供できる情報提供装置の実施形態について説明したが、かかる実施形態はこれに限定されるものではない。
前記実施形態では、購買者が使用する端末を、カートSCに備えられた情報端末10とした。端末は、情報端末10に限定されるものではない。例えば、購買者の顔画像とともにその購買者が使用するスマートフォン等の通信端末の識別情報を予め登録しておく。そして提供サーバ80は、拠点カメラCA3で撮影された顔画像に対して登録されている識別情報を取得し、その識別情報で識別される通信端末に、拠点に応じた情報を提供してもよい。この場合、カートカメラCA1及び入店カメラCA2は省略することができる。
例えば第2の実施形態では、推定手段としての機能を提供サーバ80が有するものとした。推定手段は、購買者サーバ70が有してもよい。その場合、購買者サーバ70は、購買者データベース92から複数の購買者レコード92Rを検出した場合に、各購買者レコードの購買者属性からグループ属性を推定する。そして購買者サーバ70は、そのグループ属性を提供サーバ80に通知すればよい。
前記実施形態では、画像処理サーバ60、購買者サーバ70、提供サーバ80に対し、制御プログラムがメインメモリまたは補助記憶デバイスに予め記憶されているものとして説明した。この点に関しては、制御プログラムが記憶されていない状態で、各サーバが譲渡されてもよい。その場合、各サーバがそれぞれ備える書き込み可能な記憶デバイスに、このサーバとは個別に譲渡された制御プログラムがユーザなどの操作に応じて書き込まれる。制御プログラムの譲渡は、リムーバブルな記録媒体に記録して、あるいはネットワークを介した通信により行うことができる。記録媒体は、CD-ROM,メモリカード等のようにプログラムを記憶でき、かつ装置が読み取り可能であれば、その形態は問わない。
この他、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態及びその変形は、発明の範囲に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[1]撮影手段で撮影された画像から、その画像に顔が映し出されている人物を特定する人物特定手段と、前記人物の顔を映し出した前記撮影手段の情報から場所を特定する場所特定手段と、前記人物が使用する端末を特定する端末特定手段と、前記端末に前記場所に応じた情報を提供する提供手段と、を具備する情報提供装置。
[2]前記人物の属性を判定する属性判定手段、をさらに具備し、前記提供手段は、前記人物の属性と前記場所とに応じた情報を提供する、付記[1]記載の情報提供装置。 [3]前記撮影手段は、端末を備えた移動体を操作する人物を撮影する移動体撮影手段、を含み、前記移動体撮影手段で撮影された画像から、前記移動体を操作する人物の顔画像と当該移動体に備えられた前記端末とを関連付ける関連付け手段、をさらに具備し、前記端末特定手段は、前記人物特定手段で特定された前記人物の顔画像と関連付けられた端末を特定する、付記[1]又は[2]記載の情報提供装置。
[4]前記撮影手段は、端末を備えた移動体を操作する人物を撮影する移動体撮影手段、を含み、前記移動体撮影手段で撮影された画像から、前記移動体を操作する人物の顔画像と当該移動体に備えられた前記端末とを関連付ける関連付け手段と、前記人物の属性を判定する属性判定手段と、前記関連付け手段で同じ前記端末に複数の人物の顔画像が関連付けられた場合、その複数の人物の属性からグループ構成を推定する推定手段と、をさらに具備し、前記提供手段は、前記グループ構成と前記場所とに応じた情報を提供する付記[1]記載の情報提供装置。
[5]前記端末特定手段は、前記人物特定手段で特定された前記人物の顔画像と関連付けられた端末を特定する、付記[4]記載の情報提供装置。
[6]情報提供装置のコンピュータを、撮影手段で撮影された画像から、その画像に顔が映し出されている人物を特定する人物特定手段、前記人物の顔を映し出した前記撮影手段の情報から場所を特定する場所特定手段、前記人物が使用する端末を特定する端末特定手段、及び、前記端末に前記場所に応じた情報を提供する提供手段、として機能させるための制御プログラム。

1…店舗システム、2…ネットワーク、10…情報端末、20…アクセスポイント、30…会計機、40…カメラインターフェース、50…店舗サーバ、60…画像処理サーバ、70…購買者サーバ、80…提供サーバ、91…カメラデータベース、92…購買者データベース、93…提供情報データベース、CA1…カートカメラ、CA2…入店カメラ、CA3…拠点カメラ、CA4…会計カメラ、SC…ショッピングカート。

Claims (6)

  1. 購買者に提供すべき情報がある複数の拠点にそれぞれ設置された撮影手段で撮影された画像から、その画像に顔が映し出されている人物を特定する人物特定手段と、
    前記人物特定手段により人物が特定された画像を撮影した前記撮影手段が設置されている拠点を、前記人物がいる場所として特定する場所特定手段と、
    前記人物特定手段により特定された人物が使用する端末を特定する端末特定手段と、
    前記端末特定手段により特定された前記端末に、前記場所特定手段により前記人物がいる場所として特定された拠点と関連付けて、当該拠点に来た購買者に対して提供される情報を記憶する記憶装置に記憶されている前記情報を提供する提供手段と、
    を具備する情報提供装置。
  2. 前記記憶装置は、前記購買者に対して提供される情報を、当該情報を提供すべき人物の属性と関連付けて記憶しており、
    前記人物特定手段により特定された人物の属性を判定する属性判定手段、
    をさらに具備し、
    前記提供手段は、前記場所特定手段により前記人物がいる場所として特定された拠点と関連付けて前記記憶装置に記憶されている情報で、前記属性判定手段により判定された前記人物の属性と関連付けられている前記情報を前記端末に提供する、請求項1記載の情報提供装置。
  3. 末を備えた移動体を操作する人物を撮影する移動体撮影手段と、
    前記移動体撮影手段で撮影された画像から、前記移動体を操作する人物の顔画像と当該移動体に備えられた前記端末とを関連付ける関連付け手段と、
    をさらに具備し、
    前記端末特定手段は、前記人物特定手段で特定された前記人物の顔画像と関連付けられた端末を特定する、請求項1又は2記載の情報提供装置。
  4. 末を備えた移動体を操作する人物を撮影する移動体撮影手段と、
    前記移動体撮影手段で撮影された画像から、前記移動体を操作する人物の顔画像と当該移動体に備えられた前記端末とを関連付ける関連付け手段と、
    前記人物の属性を判定する属性判定手段と、
    前記関連付け手段で同じ前記端末に複数の人物の顔画像が関連付けられた場合、その複数の人物の属性からグループ構成を推定する推定手段と、
    をさらに具備し、
    前記記憶装置は、前記購買者に対して提供される情報を、当該情報を提供すべきグループ構成と関連付けて記憶しており、
    前記提供手段は、前記場所特定手段により前記人物がいる場所として特定された拠点と関連付けて前記記憶装置に記憶されている情報で、前記推定手段により推定された前記グループ構成と関連付けられている情報を前記端末に提供する、請求項1記載の情報提供装置。
  5. 前記端末特定手段は、前記人物特定手段で特定された前記人物の顔画像と関連付けられた端末を特定する、請求項4記載の情報提供装置。
  6. 情報提供装置のコンピュータを、
    購買者に提供すべき情報がある複数の拠点にそれぞれ設置された撮影手段で撮影された画像から、その画像に顔が映し出されている人物を特定する人物特定手段、
    前記人物特定手段により人物が特定された画像を撮影した前記撮影手段が設置されている拠点を、前記人物がいる場所として特定する場所特定手段、
    前記人物特定手段により特定された人物が使用する端末を特定する端末特定手段、及び、
    前記端末特定手段により特定された前記端末に、前記場所特定手段により前記人物がいる場所として特定された拠点と関連付けて、当該拠点に来た購買者に対して提供される情報を記憶する記憶装置に記憶されている前記情報を提供する提供手段、
    として機能させるための制御プログラム。
JP2022200091A 2018-11-07 2022-12-15 情報提供装置及びその制御プログラム Active JP7401638B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022200091A JP7401638B2 (ja) 2018-11-07 2022-12-15 情報提供装置及びその制御プログラム
JP2023207108A JP2024015277A (ja) 2018-11-07 2023-12-07 情報提供装置及びその制御プログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018209696A JP7197333B2 (ja) 2018-11-07 2018-11-07 情報提供装置及びその制御プログラム
JP2022200091A JP7401638B2 (ja) 2018-11-07 2022-12-15 情報提供装置及びその制御プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018209696A Division JP7197333B2 (ja) 2018-11-07 2018-11-07 情報提供装置及びその制御プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023207108A Division JP2024015277A (ja) 2018-11-07 2023-12-07 情報提供装置及びその制御プログラム

Publications (2)

Publication Number Publication Date
JP2023021348A JP2023021348A (ja) 2023-02-10
JP7401638B2 true JP7401638B2 (ja) 2023-12-19

Family

ID=70458056

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018209696A Active JP7197333B2 (ja) 2018-11-07 2018-11-07 情報提供装置及びその制御プログラム
JP2022200091A Active JP7401638B2 (ja) 2018-11-07 2022-12-15 情報提供装置及びその制御プログラム
JP2023207108A Pending JP2024015277A (ja) 2018-11-07 2023-12-07 情報提供装置及びその制御プログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018209696A Active JP7197333B2 (ja) 2018-11-07 2018-11-07 情報提供装置及びその制御プログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023207108A Pending JP2024015277A (ja) 2018-11-07 2023-12-07 情報提供装置及びその制御プログラム

Country Status (2)

Country Link
US (1) US11487809B2 (ja)
JP (3) JP7197333B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11227007B2 (en) * 2019-07-23 2022-01-18 Obayashi Corporation System, method, and computer-readable medium for managing image

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004348618A (ja) 2003-05-26 2004-12-09 Nec Soft Ltd 顧客情報収集管理方法及びそのシステム
JP2010032851A (ja) 2008-07-30 2010-02-12 Seiko Epson Corp 広告出力システム、及び、広告出力方法
US8380558B1 (en) 2006-12-21 2013-02-19 Videomining Corporation Method and system for analyzing shopping behavior in a store by associating RFID data with video-based behavior and segmentation data
JP2015041194A (ja) 2013-08-21 2015-03-02 株式会社Nttドコモ ユーザ観察システム
WO2015033575A1 (ja) 2013-09-06 2015-03-12 日本電気株式会社 販売促進システム、販売促進方法、非一時的なコンピュータ可読媒体及び棚システム
JP2016081174A (ja) 2014-10-14 2016-05-16 富士ゼロックス株式会社 関連付プログラム及び情報処理装置
JP2017217921A (ja) 2016-06-02 2017-12-14 株式会社ブイシンク ショッピングカート及びその制御方法
JP2018025882A (ja) 2016-08-08 2018-02-15 キヤノン株式会社 情報処理装置及びその制御方法、表示装置、コンピュータプログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3931541B2 (ja) 2000-08-09 2007-06-20 セイコーエプソン株式会社 商品購入支援システム
JP2010009566A (ja) 2007-09-06 2010-01-14 Columbus No Tamagotachi:Kk 商品探し支援・提案システム
JP2012185576A (ja) 2011-03-03 2012-09-27 Toshiba Tec Corp 買物アシストシステム、情報端末装置及び制御プログラム
CN107103502B (zh) * 2017-03-07 2020-06-30 阿里巴巴集团控股有限公司 一种订单信息确定方法和装置
KR102345945B1 (ko) * 2017-10-13 2021-12-30 미디어 그룹 코 엘티디 맞춤형 현장 정보 교환을 제공하기 위한 방법 및 시스템
US20190318417A1 (en) * 2018-04-12 2019-10-17 MrG Systems, LLC. Method and system associated with a smart shopping apparatus
US20200034812A1 (en) * 2018-07-26 2020-01-30 Walmart Apollo, Llc System for dynamic smart cart content notifications

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004348618A (ja) 2003-05-26 2004-12-09 Nec Soft Ltd 顧客情報収集管理方法及びそのシステム
US8380558B1 (en) 2006-12-21 2013-02-19 Videomining Corporation Method and system for analyzing shopping behavior in a store by associating RFID data with video-based behavior and segmentation data
JP2010032851A (ja) 2008-07-30 2010-02-12 Seiko Epson Corp 広告出力システム、及び、広告出力方法
JP2015041194A (ja) 2013-08-21 2015-03-02 株式会社Nttドコモ ユーザ観察システム
WO2015033575A1 (ja) 2013-09-06 2015-03-12 日本電気株式会社 販売促進システム、販売促進方法、非一時的なコンピュータ可読媒体及び棚システム
JP2016081174A (ja) 2014-10-14 2016-05-16 富士ゼロックス株式会社 関連付プログラム及び情報処理装置
JP2017217921A (ja) 2016-06-02 2017-12-14 株式会社ブイシンク ショッピングカート及びその制御方法
JP2018025882A (ja) 2016-08-08 2018-02-15 キヤノン株式会社 情報処理装置及びその制御方法、表示装置、コンピュータプログラム

Also Published As

Publication number Publication date
JP2024015277A (ja) 2024-02-01
US20200142924A1 (en) 2020-05-07
JP2020077161A (ja) 2020-05-21
US11487809B2 (en) 2022-11-01
JP7197333B2 (ja) 2022-12-27
JP2023021348A (ja) 2023-02-10

Similar Documents

Publication Publication Date Title
US20240242506A1 (en) Computing device installed in or mountable on a shopping cart
JP7371614B2 (ja) 店舗管理装置および店舗管理方法
JP7093783B2 (ja) 自動化買物環境における動的な顧客チェックアウト体験のためのシステム及び方法
JP6261197B2 (ja) 表示制御装置、表示制御方法、及びプログラム
JP5704279B1 (ja) 関連付プログラム及び情報処理装置
US20110199486A1 (en) Customer behavior recording device, customer behavior recording method, and recording medium
JP7225434B2 (ja) 情報処理システム
JP2019109751A (ja) 情報処理装置、システム、情報処理装置の制御方法、及び、プログラム
JP7092354B2 (ja) 商品情報管理装置、商品情報管理方法およびプログラム
JP7443016B2 (ja) 買物支援システム及び買物支援方法
JP2024015277A (ja) 情報提供装置及びその制御プログラム
JP2020067825A (ja) 監視装置及び監視プログラム
JP2020115261A (ja) 商品登録装置及び情報処理プログラム
JP2024028307A (ja) チェックアウトシステム
JP2007087208A (ja) 顧客動向収集システム、顧客動向収集方法および顧客動向収集プログラム
JP7508220B2 (ja) 販促システム
JP6557702B2 (ja) 顧客分析システム
JP2024038338A (ja) 情報処理装置及びその制御プログラム
JP2016167172A (ja) 情報処理方法、情報処理システム、情報処理装置、およびそのプログラム
JP5962747B2 (ja) 関連付プログラム及び情報処理装置
JP7561489B2 (ja) エリア遷移予測装置及びエリア遷移予測プログラム
JP7207230B2 (ja) サーバ装置、情報処理システム、プログラム、移動店舗、及び情報処理システムの動作方法
JP2018025882A (ja) 情報処理装置及びその制御方法、表示装置、コンピュータプログラム
JP7181766B2 (ja) 商品決済システム、商品運搬カート及び商品決済方法
JP7465476B2 (ja) 決済処理装置、方法および決済処理プログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230113

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231207

R150 Certificate of patent or registration of utility model

Ref document number: 7401638

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150