JP2016009470A - 販売支援システム、販売支援方法及びプログラム - Google Patents
販売支援システム、販売支援方法及びプログラム Download PDFInfo
- Publication number
- JP2016009470A JP2016009470A JP2014131802A JP2014131802A JP2016009470A JP 2016009470 A JP2016009470 A JP 2016009470A JP 2014131802 A JP2014131802 A JP 2014131802A JP 2014131802 A JP2014131802 A JP 2014131802A JP 2016009470 A JP2016009470 A JP 2016009470A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- image
- information
- product
- accounting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 28
- 238000003384 imaging method Methods 0.000 claims abstract description 46
- 238000012545 processing Methods 0.000 claims abstract description 31
- 239000000284 extract Substances 0.000 claims description 6
- 230000001815 facial effect Effects 0.000 claims description 2
- 238000005516 engineering process Methods 0.000 abstract description 9
- 230000008569 process Effects 0.000 description 21
- 230000006870 function Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 239000000470 constituent Substances 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000012790 confirmation Methods 0.000 description 2
- 230000012447 hatching Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Cash Registers Or Receiving Machines (AREA)
Abstract
【課題】顔認識技術を有効に活用して商品の購入に要する手間を簡略化する。
【解決手段】商品の購入意図を受付ける操作部35、及び操作部35を操作した人物の画像を撮影する第1の撮影部IM1を備えるデジタルサイネージ装置10と、商品購入時の会計処理を行なう会計部60、及び会計部60を使用する商品購入者の画像を撮影する第2の撮影部IM2を備えるキャッシュレジスタ装置50と、操作部35での操作により受付けた商品の情報と第1の撮影部IM1で撮影した画像の情報とを関連付けてデータベース(DB)に記憶し、第2の撮影部IM2で撮影した顔画像の情報に基づいてDBを検索し、第1の撮影部IM1で撮影した画像と、第2の撮影部IM2で撮影した画像と、の類似度から、関連付けて記憶された商品の情報を抽出し、抽出した画像の情報及び商品の情報をキャッシュレジスタ装置50に提供する販売支援サーバSVとを有する。
【選択図】図1
【解決手段】商品の購入意図を受付ける操作部35、及び操作部35を操作した人物の画像を撮影する第1の撮影部IM1を備えるデジタルサイネージ装置10と、商品購入時の会計処理を行なう会計部60、及び会計部60を使用する商品購入者の画像を撮影する第2の撮影部IM2を備えるキャッシュレジスタ装置50と、操作部35での操作により受付けた商品の情報と第1の撮影部IM1で撮影した画像の情報とを関連付けてデータベース(DB)に記憶し、第2の撮影部IM2で撮影した顔画像の情報に基づいてDBを検索し、第1の撮影部IM1で撮影した画像と、第2の撮影部IM2で撮影した画像と、の類似度から、関連付けて記憶された商品の情報を抽出し、抽出した画像の情報及び商品の情報をキャッシュレジスタ装置50に提供する販売支援サーバSVとを有する。
【選択図】図1
Description
本発明は、例えば催事場など個々の商品の説明及び販売を効率的に実施する必要がある環境に好適な販売支援システム、販売支援方法及びプログラムに関する。
従来より、購入者個々の性別や年齢層等を求めて商品を変更するようにした自動販売機の技術が提案され、多くの場所で実機として運用されている。(例えば、特許文献1)
上記特許文献に記載された技術を含めて、自動販売機で商品購入者の顔画像等から購入可能な商品を変更するようにした技術では、購入者の外見上の特徴から性別や年齢層など一般的な傾向としての商品の嗜好等を導き出すものとしており、実際に購入者が商品を購入する際の手間自体は、顔画像等から選択できる商品を変えない場合と同等である。
本発明は上記のような実情に鑑みてなされたもので、その目的とするところは、顔認識技術を有効に活用して購入者が商品の購入に要する手間を簡略化することが可能な販売支援システム、販売支援方法及びプログラムを提供することにある。
本発明の一態様は、商品の購入意図を受付ける操作部、及び上記操作部を操作した人物の画像を撮影する第1の撮影部を備える第1の装置と、商品購入時の会計処理を行なう会計部、及び上記会計部を使用する商品購入者の画像を撮影する第2の撮影部を備える第2の装置と、上記操作部での操作により受付けた商品の情報と上記第1の撮影部で撮影した画像の情報とを関連付けて記憶する記憶部、上記第2の撮影部で撮影した画像の情報に基づいて上記記憶部を検索し、上記第1の撮影部で撮影された画像と、上記第2の撮影部で撮影された画像と、の類似度から、関連付けて記憶された商品の情報を抽出する検索部、及び上記検索部で検索した画像の情報及び商品の情報を上記会計部に提供する提供部を備える第3の装置と、を有することを特徴とする。
本発明によれば、顔認識技術を有効に活用して購入者が商品の購入に要する手間を簡略化することが可能となる。
以下、本発明を店舗で使用される販売支援システムに適用した場合の一実施形態について、図面を参照して説明する。
図1は、同システム全体の接続構成を示すブロック図である。店舗フロア内に複数のデジタルサイネージ装置10,10,‥‥及びキャッシュレジスタ装置50が設置される。これらデジタルサイネージ装置10,10,‥‥及びキャッシュレジスタ装置50が、無線LAN、インターネットを含むネットワークNWを介して、外部の販売支援サーバSVと接続される。
販売支援サーバSVは、当該店舗でデジタルサイネージ装置10により商品の購入意図を受付けた購入者の顔画像と当該商品の情報等を関連付けて記憶するデータベース(DB)を備える。
図2は、上記デジタルサイネージ装置10の外観構成を示す斜視図である。デジタルサイネージ装置10はプロジェクタ技術を用いた電子マネキンであり、装置筐体10Aの上面前端側に、交換可能なサイネージボードSBが立設される。このサイネージボードSBは、デジタルサイネージ10の本来は矩形の投影可能領域内に収まるように設置された、任意形状を有する半透過板状の構成を有する。
サイネージボードSBは、装置筐体10Aの上面に設けられた、図示しないリアプロジェクション方式の投影レンズから出射された光像が背面側から投影されることで、例えば図示するような画像を表示する。
このサイネージボードSBの下部寄りには複数、ここでは4個の操作ボタンB1〜B4を合わせて投影しており、当該ボタン中のいずれかを閲覧者がタッチ操作した場合、ボード取付け基部に配列された、それぞれが指向性を有するライン状の赤外線センサアレイにより当該操作位置が検知可能となっている。
さらに装置筐体10Aの前面には、このデジタルサイネージ装置10の上記操作ボタンB1〜B4を操作する人物の顔画像を撮影するための撮影部IM1を備える。
次に図3によりデジタルサイネージ10の主として電子回路の機能構成を説明する。画像メモリ20に記憶されている投影用の画像データが読出され、システムバスBSを介して投影画像駆動部21に送られる。
上記投影画像駆動部21は、送られてきた画像データに応じて、所定のフォーマットに従ったフレームレート、例えば120[フレーム/秒]と色成分の分割数、及び表示階調数を乗算した、より高速な時分割駆動により、表示素子であるマイクロミラー素子22を表示駆動する。
このマイクロミラー素子22は、アレイ状に配列された複数個、例えばWXGA(横1280画素×縦768画素)分の微小ミラーの各傾斜角度を個々に高速でオン/オフ動作して表示動作することで、その反射光により光像を形成する。
一方で、光源部23から時分割でR,G,Bの原色光が循環的に出射される。光源部23は、半導体発光素子であるLEDを有し、R,G,Bの原色光を時分割で繰返し出射する。光源部23が有するLEDは、広義でのLEDとして、LD(半導体レーザ)や有機EL素子を含むものとしても良い。
また、LEDから出射された光を蛍光体に照射することで励起される、元の光とは波長が異なる原色光を用いるものとしても良い。この光源部23からの原色光が、ミラー24で全反射して上記マイクロミラー素子22に照射される。
そして、マイクロミラー素子22での反射光で光像が形成され、形成された光像が投影レンズ部25を介して上記サイネージボードSBの背面に投射される。
上記撮影部IM1は、デジタルサイネージ装置10の正面近傍にいる人物の顔の方向を向いた撮影レンズ部27、及びこの撮影レンズ部27の焦点位置に配設された固体撮像素子であるCMOSイメージセンサ28を含む。
CMOSイメージセンサ28で得られる画像信号は、A/D変換器29でデジタル化された後、撮影画像処理部30に送られる。
この撮影画像処理部30は、上記CMOSイメージセンサ28を走査駆動して撮影動作を実行させ、撮影により得た画像データをデータファイル化して、後述するCPU32に送出する。
上記各回路の動作すべてをCPU32が制御する。このCPU32は、メインメモリ33及びプログラムメモリ34と直接接続される。メインメモリ33は、例えばSRAMで構成され、CPU32のワークメモリとして機能する。プログラムメモリ34は、電気的書換可能な不揮発性メモリ、例えばフラッシュROMで構成され、CPU32が実行する動作プログラムや各種定型データ等を記憶する。
CPU32は、上記プログラムメモリ34に記憶されている動作プログラムや定型データ等を読出し、メインメモリ33に展開して記憶させた上で当該プログラムを実行することにより、このデジタルサイネージ10を統括して制御する。またCPU32は、RTC(Real Time Clock)を内蔵し、現在時刻を計時し続ける。
上記CPU32は、操作部35からの操作信号に応じて各種投影動作を実行する。この操作部35は、デジタルサイネージ10の本体に備える、電源キーを含むいくつかの操作キーのキー操作信号、または上記サイネージボードSBの一部に仮想的に投影するボタンへの操作を検出する、上記赤外線センサアレイからの検出信号を受付け、受付けた操作に応じた信号を上記CPU32へ送出する。
上記CPU32はさらに、上記システムバスBSを介して音声処理部36、無線LANインタフェース(I/F)38と接続される。
音声処理部36は、PCM音源等の音源回路を備え、投影動作時に与えられる音声信号をアナログ化し、スピーカ部37を駆動して放音させ、あるいは必要によりビープ音等を発生させる。
音声処理部36は、PCM音源等の音源回路を備え、投影動作時に与えられる音声信号をアナログ化し、スピーカ部37を駆動して放音させ、あるいは必要によりビープ音等を発生させる。
無線LANインタフェース38は、無線LANアンテナ39を介して図示しない最寄りの無線LANルータと接続し、データの送受を行なうもので、上記図1の販売支援サーバSVと交信する。
図4は、上記キャッシュレジスタ装置50の主として電子回路の機能構成を示すブロック図である。
キャッシュレジスタ装置50の筐体上面のオペレータに向けてメイン表示部51とタッチパネル部52とが一体になった入出力部が設けられる。メイン表示部51は、カラー液晶パネルとその駆動回路とで構成され、表示コントローラ53の制御により会計処理に必要な種々の画像を表示する。タッチパネル部52は、上記メイン表示部51上に一体にして透明電極膜で構成され、上記オペレータの手指等のタッチ操作に応じた座標信号を生成してタッチパネルコントローラ54へ出力する。
また、上記キャッシュレジスタ装置50の筐体上には、上記オペレータと相対向する側に向けてサブ表示部55が設けられる。このサブ表示部55では、会計処理時に購入された商品の単価や合計金額等を表示する。
さらに上記サブ表示部55の上部に、同じく上記オペレータと相対向する側に向けた撮影部IM2が設けられる。この撮影部IM2では、キャッシュレジスタ装置50の正面近傍にいる人物の顔の撮影する撮影レンズ部56、及びこの撮影レンズ部56の焦点位置に配設された固体撮像素子であるCMOSイメージセンサ57を含む。
撮影レンズ部56で得られる画像信号は、A/D変換器58でデジタル化された後、撮影画像処理部59に送られる。
この撮影画像処理部59は、上記CMOSイメージセンサ57を走査駆動して撮影動作を実行させ、撮影により得た画像データをデータファイル化して、後述するCPU60に送出する。
上記表示コントローラ53、タッチパネルコントローラ54、サブ表示部55、及び撮影画像処理部59とCPU60とがシステムバスBRを介してCPU60と接続され、上記各回路の動作すべてをCPU60が制御する。
このCPU60は、メインメモリ61及びプログラムメモリ62と直接接続される。メインメモリ61は、例えばSRAMで構成され、CPU60のワークメモリとして機能する。プログラムメモリ62は、電気的書換可能な不揮発性メモリ、例えばフラッシュROMで構成され、CPU60が実行する会計処理を含む動作プログラムや各種定型データ等を記憶する。
上記CPU60は、操作部63からの操作信号に応じて各種会計処理等を実行する。この操作部63は、キャッシュレジスタ装置50の本体に備える、電源キーを含むいくつかの操作キーのキー操作信号を受付け、受付けた操作に応じた信号を上記CPU60へ送出する。
上記CPU60はさらに、上記システムバスBRを介して印字部64、無線LANインタフェース(I/F)65と接続される。
印字部64は、例えば感熱ロール紙に対する売上伝票、領収証等の印字及び切断を行なう。
印字部64は、例えば感熱ロール紙に対する売上伝票、領収証等の印字及び切断を行なう。
無線LANインタフェース65は、無線LANアンテナ66を介して図示しない最寄りの無線LANルータと接続し、データの送受を行なうもので、上記図1の販売支援サーバSVと交信する。
次に上記実施形態の動作について説明する。
まず図5により、デジタルサイネージ装置10で閲覧者が行なう操作に対応した処理内容について説明する。この図5は、その時点で設定されているデフォルトの商品に関する画像投影状態において、サイネージボードSBの操作ボタンB1〜B4に対して以下に示すような機能、すなわち、
B1:商品情報
B2:言語切替
B3:レジでお買い上げ
B4:設定なし
が割当てられているものとして、デジタルサイネージ装置10のCPU32が実行する処理を示す。
まず図5により、デジタルサイネージ装置10で閲覧者が行なう操作に対応した処理内容について説明する。この図5は、その時点で設定されているデフォルトの商品に関する画像投影状態において、サイネージボードSBの操作ボタンB1〜B4に対して以下に示すような機能、すなわち、
B1:商品情報
B2:言語切替
B3:レジでお買い上げ
B4:設定なし
が割当てられているものとして、デジタルサイネージ装置10のCPU32が実行する処理を示す。
CPU32では、まず「商品情報」を示す操作ボタンB1が操作されたか否かを操作部35からの信号により判断する(ステップC101)。
ここで操作ボタンB1が操作され、「商品情報」がお客様により求められてると判断した場合(ステップC101のYes)、CPU32は画像メモリ20から該当する商品情報用の動画コンテンツのデータを読出し、上記投影画像駆動部21、マイクロミラー素子22、光源部23、ミラー24、及び投影レンズ部25からなる投影系において動画像を再生して投影させると共に、対応する音声データを音声処理部36及びスピーカ部37により再生して拡声出力させ、各再生終了後に再び再生以前の初期画像の投影状態に復帰した上で(ステップC102)、上記ステップC101からの処理に戻る。
ここで操作ボタンB1が操作され、「商品情報」がお客様により求められてると判断した場合(ステップC101のYes)、CPU32は画像メモリ20から該当する商品情報用の動画コンテンツのデータを読出し、上記投影画像駆動部21、マイクロミラー素子22、光源部23、ミラー24、及び投影レンズ部25からなる投影系において動画像を再生して投影させると共に、対応する音声データを音声処理部36及びスピーカ部37により再生して拡声出力させ、各再生終了後に再び再生以前の初期画像の投影状態に復帰した上で(ステップC102)、上記ステップC101からの処理に戻る。
また上記ステップC101で操作ボタンB1は操作されていないと判断した場合(ステップC101のNo)、CPU32は次に「言語切替」を示す操作ボタンB2が操作されたか否かを操作部35からの信号により判断する(ステップC103)。
操作ボタンB2が操作されたと判断した場合(ステップC103のYes)、CPU32はあらたに操作ボタンB1〜B3において各言語の具体的な候補を、操作ボタンB4により上記操作ボタンB1〜B3では示されない他の候補への切替を促す画像を投影し、それらの操作に応じて、閲覧者が所望する言語での投影に切替える言語切替処理を実行した上で(ステップC104)、上記ステップC101からの処理に戻る。
操作ボタンB2が操作されたと判断した場合(ステップC103のYes)、CPU32はあらたに操作ボタンB1〜B3において各言語の具体的な候補を、操作ボタンB4により上記操作ボタンB1〜B3では示されない他の候補への切替を促す画像を投影し、それらの操作に応じて、閲覧者が所望する言語での投影に切替える言語切替処理を実行した上で(ステップC104)、上記ステップC101からの処理に戻る。
また上記ステップC103で操作ボタンB2は操作されていないと判断した場合(ステップC103のNo)、CPU32は次に「レジでお買い上げ」を示す操作ボタンB3が操作されたか否かを操作部35からの信号により判断する(ステップC105)。
「レジでお買い上げ」を示す操作ボタンB3は操作されていないと判断した場合(ステップC105のNo)、この時点では無効な操作ボタンB4が操作されたものとして、操作を無効化して、他の操作ボタンB1〜B3への操作を待機するべく、上記ステップC101からの処理に戻る。
「レジでお買い上げ」を示す操作ボタンB3は操作されていないと判断した場合(ステップC105のNo)、この時点では無効な操作ボタンB4が操作されたものとして、操作を無効化して、他の操作ボタンB1〜B3への操作を待機するべく、上記ステップC101からの処理に戻る。
また上記ステップC105で「レジでお買い上げ」を示す操作ボタンB3が操作されたと判断した場合(ステップC105のYes)、CPU32は撮影部IM1によりボタンを操作したお客様の顔画像を撮影させる(ステップC106)。そして、撮影画像処理部30から当該画像データを取得し、取得した画像データを、お買い上げがあった商品に関する情報、具体的には商品名と上記操作ボタンB3が操作された時刻の情報とを関連付けて上記販売支援サーバSVに送信した上で(ステップC107)、次の操作ボタンB1〜B3への操作を待機するべく、上記ステップC101からの処理に戻る。
図7は、キャッシュレジスタ装置50のメイン表示部51で表示される、店舗フロアでの複数台、例えば4台のデジタルサイネージ装置10,10,‥‥での売り上げ状態を示すマップ画像を例示している。同図では、「Floor」タグTG1を操作することで当該表示画面となる。
店舗フロアとして、「01」〜「04」とナンバリングされた4台のデジタルサイネージ装置10,10,‥‥が並置され、これらデジタルサイネージ装置10,10,‥‥と相対するように、観葉樹(tree)を挟んでエントランス(entrance)があり、当該キャッシュレジスタ装置(Register)50及びカウンタ(Counter)が配置されている。
4台のデジタルサイネージ装置10,10,‥‥中、「01」「02」「04」のデジタルサイネージ装置10,10,‥‥が購入予約がないことを白色で、「03」のデジタルサイネージ装置10のみが購入予約がなされた後にキャッシュレジスタ装置50にて購入処理が終了した購入済状態を青色(横方向のハッチング)で識別して表示している。また、画面の右端部では、購入者(Customer)の顔画像が表示される。
このメイン表示部51での表示画面は、キャッシュレジスタ装置50が販売支援サーバSVからネットワークNWを介して取得したデータにより構築する。
図8は、キャッシュレジスタ装置50のメイン表示部51で表示される、デジタルサイネージ装置10の稼働状況確認画面を例示する。同図で、「01」のデジタルサイネージ装置10は電源が投入されているが、未だ購入予約が1件もなされていない状態を白色で示している。
「02」のデジタルサイネージ装置10は、購入予約がなされたものの、まだお客様がキャッシュレジスタ装置50での購入処理を終えていない状態をオレンジ色(のハッチング)で識別して示す。
「03」のデジタルサイネージ装置10は、上記図7と同じく、購入予約がなされた後にキャッシュレジスタ装置50にて購入処理が終了した購入済状態を青色(横方向のハッチング)で示す。「04」のデジタルサイネージ装置10は、電源が未投入で稼働していない状態を示す。
次に図6によりキャッシュレジスタ装置50と販売支援サーバSVとの間で実行される、デジタルサイネージ装置10で購入予約を行なったお客様に対する会計処理について説明する。
キャッシュレジスタ装置50においては、撮影部IM2により常時撮影状態として撮影画像処理部59から画像データを取得し、その内容から、このキャッシュレジスタ装置50に接近するお客様があるか否かを定期的に判断することで(ステップC301)、お客様の接近を待機している。
キャッシュレジスタ装置50においては、撮影部IM2により常時撮影状態として撮影画像処理部59から画像データを取得し、その内容から、このキャッシュレジスタ装置50に接近するお客様があるか否かを定期的に判断することで(ステップC301)、お客様の接近を待機している。
お客様の接近があったと判断した場合(ステップC301のYes)、キャッシュレジスタ装置50のCPU60は、撮影部IM2にてあらためて接近したお客様の顔画像を撮影する(ステップC302)。
そして、撮影画像処理部59から当該画像データを取得し、取得した画像データを上記販売支援サーバSVに送信した上で(ステップC303)、このデータ送信に対して販売支援サーバSVから何らかの応答があるのを待機する(ステップC304)。
販売支援サーバSVでは、キャッシュレジスタ装置50から画像データが送信されてくるのを常時待機している(ステップS301)。
キャッシュレジスタ装置50から送信されてきた画像データを受付けた時点で(ステップS301のYes)、販売支援サーバSVではその画像データに基づいて、その時点でデータベースに記憶されている、お買い上げがあった商品に関する情報と関連付けられている画像データを検索し、顔画像の類似度を算出する(ステップS302)。
ここで販売支援サーバSVは、例えば類似度90%を閾値として、送信されてきた画像データと類似度90%以上の画像データを検索できたか否かにより、一致画像があったか否かを判断する(ステップS303)。
送信されてきた画像データと類似度90%以上の画像データがあり、一致画像があったと判断した場合(ステップS303のYes)、販売支援サーバSVはその画像データと関連付けられている商品に関する情報に基づいて送信データを作成した上で(ステップS304)、作成したデータをキャッシュレジスタ装置50に対して送信し(ステップS305)、以上で一連の処理を一旦終了し、次のキャッシュレジスタ装置50からのお買い上げ情報の受付けに備えるべく、上記ステップS101からの処理に戻る。
また上記ステップS303において、送信されてきた画像データと類似度90%以上の画像データがなく、一致画像はなかったと判断した場合(ステップS303のNo)、販売支援サーバSVでは類似度が高いと判断した上位の定数、例えば3つの画像データを選択した上で、それらの画像データと関連付けられている商品に関する情報に基づいて送信データを作成した上で(ステップS306)、作成したデータをキャッシュレジスタ装置50に対して送信し(ステップS305)、以上で一連の処理を一旦終了し、次のキャッシュレジスタ装置50からのお買い上げ情報の受付けに備えるべく、上記ステップS101からの処理に戻る。
キャッシュレジスタ装置50では、販売支援サーバSVからの応答があったと判断すると(ステップC304のYes)、販売支援サーバSVから与えられたお買い上げ情報の内容、具体的にはお買い上げ時が1つのみの場合と、複数ある場合とに応じた表示をメイン表示部51で実行し、特に候補が複数ある場合にはそれらの中から正しいお客様を選択する操作を行なった上で(ステップC305)、実際の会計処理を実行し(ステップC306)、次のお客様に対処するべく、上記ステップC301からの処理に戻る。
図9は、キャッシュレジスタ装置50を利用するお客様の顔画像と類似度90%以上の画像データがあり、一致画像があったと判断した場合に販売支援サーバSVから送られてくるお買い上げ情報に基づいた、キャッシュレジスタ装置50のメイン表示部51での表示画面を例示する図である。
ここでは、お買い上げ内容を確認して会計処理を行なう「Cash Reister」タグTG3に自動的に切り替わり、画面の左側で商品名と売り上げ個数、及び消費税を抜いた本体価格等を表示する一方で、画面の右側では消費税込みの価格とそのうちの税価格分、上記お買い上げ情報に基づくデジタルサイネージ装置10の端末番号や購入予約を行なった時刻、商品名、及び個数と、購入予約時に撮影したお客様の顔画像を表示する。
このキャッシュレジスタ装置50のオペレータは、キャッシュレジスタ装置50の前にいるお客様のメイン表示部51で表示された内容を確認することで、速やかに会計処理に移行することができる。
図10は、キャッシュレジスタ装置50を利用するお客様の顔画像と類似度90%以上の画像データがなく、一致画像はなかったと判断した場合に販売支援サーバSVから送られてくるお買い上げ情報に基づいた、キャッシュレジスタ装置50のメイン表示部51での表示画面を例示する図である。
ここでは、お客様を選択する「Costomer Select」タグTG2に自動的に切り替わり、画面の左側と中央とで販売支援サーバSVから送られてきた候補となるお客様情報を列挙して表示すると共に、このキャッシュレジスタ装置50の前にいるお客様の顔画像を撮影部IM2で撮影した結果を画面の右側で表示する。
候補となる個々のお買い上げ情報では、デジタルサイネージ装置10で撮影したお客様の顔画像と、上記類似度を「認証一致率」として併記すると共に、デジタルサイネージ装置10の端末番号、購入予約を行なった時刻、商品名、及び個数を表示する。
このキャッシュレジスタ装置50のオペレータは、キャッシュレジスタ装置50の前にいるお客様の顔とメイン表示部51で表示された内容を確認し、複数、例えば3人の候補の中から1つをタッチ操作して選択することで、上記図9に示したような、お買い上げ内容を確認して会計処理を行なう「Cash Reister」タグTG3の画面に移行できる。
なお上記実施形態では、販売支援サーバSVがネットワークNWを介してデジタルサイネージ装置10,10,‥‥及びキャッシュレジスタ装置50と接続されるシステム構成について説明したが、比較的小規模なシステム構成を構築する場合には、キャッシュレジスタ装置50が販売支援サーバSVの機能を有するものとして、販売支援サーバSVとキャッシュレジスタ装置50とを一体化した構成とすることも考えられる。
以上詳述した如く本実施形態によれば、顔認識技術を有効に活用して購入者が商品の購入に要する手間を簡略化することが可能となる。
なお、上記図10のように、顔認識技術による類似度が閾値(例えば90%)以下の場合には、類似度をより一層高めるため、顔画像の類似度だけでなく、撮影した上半身の画像も比較の対象とし、身につけている服装部分の画像から得られる情報を加味するようにしてもよい。
また上記実施形態では、顔画像の類似度が予め設定した閾値に至らない場合、関連付けて記憶された商品の情報と共に、より類似度の高い複数の顔画像の情報を抽出し、抽出した複数の顔画像の情報を候補として提供した上で、キャッシュレジスタ装置50のオペレータ自身が目前に位置するお客様の顔画像を認識し、またお買い上げいただいた商品等を確認した上で候補を選択するものとしてもよく、顔認識技術で正確に認証できない部分を人間が補って、正しくシステムを運用できる。
さらに上記実施形態では、複数のデジタルサイネージ装置10,10,‥‥のうちのどれが商品の購入意図を受付けたのかを示す識別情報をキャッシュレジスタ装置50で表示するものとしたので、特に顔認識技術によりお客様が特定できないような、顔の類似度が高くない状態にあって、お客様を正しく選択するための1つの指標となり得る。
なお上記実施形態はリアプロジェクション方式でサイネージボードSBに画像を背面側から投影するデジタルサイネージ装置10について説明したが、本発明は画像の表示素子等を限定するものではない。
その他、本発明は上述した実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、上述した実施形態で実行される機能は可能な限り適宜組み合わせて実施しても良い。上述した実施形態には種々の段階が含まれており、開示される複数の構成要件による適宜の組み合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、効果が得られるのであれば、この構成要件が削除された構成が発明として抽出され得る。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
請求項1記載の発明は、商品の購入意図を受付ける操作部、及び上記操作部を操作した人物の画像を撮影する第1の撮影部を備える第1の装置と、商品購入時の会計処理を行なう会計部、及び上記会計部を使用する商品購入者の画像を撮影する第2の撮影部を備える第2の装置と、上記操作部での操作により受付けた商品の情報と上記第1の撮影部で撮影した画像の情報とを関連付けて記憶する記憶部、上記第2の撮影部で撮影した画像の情報に基づいて上記記憶部を検索し、上記第1の撮影部で撮影された画像と、上記第2の撮影部で撮影された画像と、の類似度から、関連付けて記憶された商品の情報を抽出する検索部、及び上記検索部で検索した画像の情報及び商品の情報を上記会計部に提供する提供部を備える第3の装置と、を有することを特徴とする。
請求項1記載の発明は、商品の購入意図を受付ける操作部、及び上記操作部を操作した人物の画像を撮影する第1の撮影部を備える第1の装置と、商品購入時の会計処理を行なう会計部、及び上記会計部を使用する商品購入者の画像を撮影する第2の撮影部を備える第2の装置と、上記操作部での操作により受付けた商品の情報と上記第1の撮影部で撮影した画像の情報とを関連付けて記憶する記憶部、上記第2の撮影部で撮影した画像の情報に基づいて上記記憶部を検索し、上記第1の撮影部で撮影された画像と、上記第2の撮影部で撮影された画像と、の類似度から、関連付けて記憶された商品の情報を抽出する検索部、及び上記検索部で検索した画像の情報及び商品の情報を上記会計部に提供する提供部を備える第3の装置と、を有することを特徴とする。
請求項2記載の発明は、上記請求項1記載の発明において、上記画像は顔画像を含む画像であり、上記検索部は、上記第2の撮影部で撮影した顔画像との類似度が予め設定した閾値に至らない場合、関連付けて記憶された商品の情報と共に、より類似度の高い複数の顔画像の情報を抽出し、上記提供部は、商品の情報と共に抽出された複数の顔画像の情報を候補として提供することを特徴とする。
請求項3記載の発明は、上記請求項1記載の発明において、上記第1の装置を複数有し、上記提供部は、画像の情報及び商品の情報とともに当該商品の購入意図を受付けた第1の装置を識別する情報を上記会計部に提供することを特徴とする。
請求項4記載の発明は、商品の購入意図を受付ける操作部、及び上記操作部を操作した人物の画像を撮影する第1の撮影部を備える第1の装置と、購入時の会計処理を行なう会計部、及び上記会計部を使用する商品購入者の画像を撮影する第2の撮影部を備える第2の装置とを有するシステムでの販売支援方法であって、上記操作部での操作により受付けた商品の情報と上記第1の撮影部で撮影した画像の情報とを関連付けて記憶する記憶工程と、上記第2の撮影部で撮影した画像の情報に基づいて上記記憶工程で記憶した内容を検索し、上記第1の撮影部で撮影された画像と、上記第2の撮影部で撮影された画像と、の類似度から、関連付けて記憶された商品の情報を抽出する検索工程と、上記検索工程で検索した画像の情報及び商品の情報を上記会計部に提供する提供工程とを有することを特徴とする。
請求項5記載の発明は、商品の購入意図を受付ける操作部、及び上記操作部を操作した人物の画像を撮影する第1の撮影部を備える第1の装置と、購入時の会計処理を行なう会計部、及び上記会計部を使用する商品購入者の画像を撮影する第2の撮影部を備える第2の装置とを有するシステムが内蔵したコンピュータが実行するプログラムであって、上記コンピュータを、上記操作部での操作により受付けた商品の情報と上記第1の撮影部で撮影した画像の情報とを関連付けて記憶する記憶部、上記第2の撮影部で撮影した画像の情報に基づいて上記記憶部で記憶した内容を検索し、上記第1の撮影部で撮影された画像と、上記第2の撮影部で撮影された画像と、の類似度から、関連付けて記憶された商品の情報を抽出する検索部、及び上記検索部で検索した画像の情報及び商品の情報を上記会計部に提供する提供部として機能させることを特徴とする。
10…デジタルサイネージ装置、
10A…装置筐体、
20…画像メモリ、
21…投影画像駆動部、
22…マイクロミラー素子22、
23…光源部、
24…ミラー、
25…投影レンズ部、
27…撮影レンズ部、
28…CMOSイメージセンサ、
29…A/D変換器、
30…撮影画像処理部、
32…CPU、
33…メインメモリ、
34…プログラムメモリ、
35…操作部、
36…音声処理部、
37…スピーカ部、
38…無線LANインタフェース(I/F)、
39…無線LANアンテナ、
50…キャッシュレジスタ装置、
51…メイン表示部、
52…タッチパネル部、
53…表示コントローラ、
54…タッチパネルコントローラ、
55…サブ表示部、
56…撮影レンズ部、
57…CMOSイメージセンサ、
58…A/D変換器、
59…撮影画像処理部、
60…CPU、
61…メインメモリ、
62…プログラムメモリ、
63…操作部、
64…印字部、
65…無線LANインタフェース(I/F)、
66…無線LANアンテナ、
B1〜B4…操作ボタン、
BR…システムバス、
BS…システムバス、
IM1…撮影部、
IM2…撮影部、
NW…ネットワーク、
SB…サイネージボード、
SV…販売支援サーバ。
10A…装置筐体、
20…画像メモリ、
21…投影画像駆動部、
22…マイクロミラー素子22、
23…光源部、
24…ミラー、
25…投影レンズ部、
27…撮影レンズ部、
28…CMOSイメージセンサ、
29…A/D変換器、
30…撮影画像処理部、
32…CPU、
33…メインメモリ、
34…プログラムメモリ、
35…操作部、
36…音声処理部、
37…スピーカ部、
38…無線LANインタフェース(I/F)、
39…無線LANアンテナ、
50…キャッシュレジスタ装置、
51…メイン表示部、
52…タッチパネル部、
53…表示コントローラ、
54…タッチパネルコントローラ、
55…サブ表示部、
56…撮影レンズ部、
57…CMOSイメージセンサ、
58…A/D変換器、
59…撮影画像処理部、
60…CPU、
61…メインメモリ、
62…プログラムメモリ、
63…操作部、
64…印字部、
65…無線LANインタフェース(I/F)、
66…無線LANアンテナ、
B1〜B4…操作ボタン、
BR…システムバス、
BS…システムバス、
IM1…撮影部、
IM2…撮影部、
NW…ネットワーク、
SB…サイネージボード、
SV…販売支援サーバ。
Claims (5)
- 商品の購入意図を受付ける操作部、及び上記操作部を操作した人物の画像を撮影する第1の撮影部を備える第1の装置と、
商品購入時の会計処理を行なう会計部、及び上記会計部を使用する商品購入者の画像を撮影する第2の撮影部を備える第2の装置と、
上記操作部での操作により受付けた商品の情報と上記第1の撮影部で撮影した画像の情報とを関連付けて記憶する記憶部、上記第2の撮影部で撮影した画像の情報に基づいて上記記憶部を検索し、上記第1の撮影部で撮影された画像と、上記第2の撮影部で撮影された画像と、の類似度から、関連付けて記憶された商品の情報を抽出する検索部、及び上記検索部で検索した画像の情報及び商品の情報を上記会計部に提供する提供部を備える第3の装置と、
を有することを特徴とする販売支援システム。 - 上記画像は顔画像を含む画像であり、
上記検索部は、上記第2の撮影部で撮影した顔画像との類似度が予め設定した閾値に至らない場合、関連付けて記憶された商品の情報と共に、より類似度の高い複数の顔画像の情報を抽出し、
上記提供部は、商品の情報と共に抽出された複数の顔画像の情報を候補として提供する
ことを特徴とする請求項1記載の販売支援システム。 - 上記第1の装置を複数有し、
上記提供部は、画像の情報及び商品の情報とともに当該商品の購入意図を受付けた第1の装置を識別する情報を上記会計部に提供する
ことを特徴とする請求項1記載の販売支援システム。 - 商品の購入意図を受付ける操作部、及び上記操作部を操作した人物の画像を撮影する第1の撮影部を備える第1の装置と、購入時の会計処理を行なう会計部、及び上記会計部を使用する商品購入者の画像を撮影する第2の撮影部を備える第2の装置とを有するシステムでの販売支援方法であって、
上記操作部での操作により受付けた商品の情報と上記第1の撮影部で撮影した画像の情報とを関連付けて記憶する記憶工程と、
上記第2の撮影部で撮影した画像の情報に基づいて上記記憶工程で記憶した内容を検索し、上記第1の撮影部で撮影された画像と、上記第2の撮影部で撮影された画像と、の類似度から、関連付けて記憶された商品の情報を抽出する検索工程と、
上記検索工程で検索した画像の情報及び商品の情報を上記会計部に提供する提供工程と
を有することを特徴とする販売支援方法。 - 商品の購入意図を受付ける操作部、及び上記操作部を操作した人物の画像を撮影する第1の撮影部を備える第1の装置と、購入時の会計処理を行なう会計部、及び上記会計部を使用する商品購入者の画像を撮影する第2の撮影部を備える第2の装置とを有するシステムが内蔵したコンピュータが実行するプログラムであって、上記コンピュータを、
上記操作部での操作により受付けた商品の情報と上記第1の撮影部で撮影した画像の情報とを関連付けて記憶する記憶部、
上記第2の撮影部で撮影した画像の情報に基づいて上記記憶部で記憶した内容を検索し、上記第1の撮影部で撮影された画像と、上記第2の撮影部で撮影された画像と、の類似度から、関連付けて記憶された商品の情報を抽出する検索部、及び
上記検索部で検索した画像の情報及び商品の情報を上記会計部に提供する提供部
として機能させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014131802A JP2016009470A (ja) | 2014-06-26 | 2014-06-26 | 販売支援システム、販売支援方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014131802A JP2016009470A (ja) | 2014-06-26 | 2014-06-26 | 販売支援システム、販売支援方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016009470A true JP2016009470A (ja) | 2016-01-18 |
Family
ID=55226949
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014131802A Pending JP2016009470A (ja) | 2014-06-26 | 2014-06-26 | 販売支援システム、販売支援方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016009470A (ja) |
-
2014
- 2014-06-26 JP JP2014131802A patent/JP2016009470A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11397914B2 (en) | Continuous display shelf edge label device | |
US20160180378A1 (en) | Content reproduction system including reproduction unit reproducing content related to commodities, content reproduction method, and storage medium storing program | |
JP2004127013A (ja) | 販売時点情報管理装置 | |
US20170243191A1 (en) | Reading apparatus | |
US9542703B2 (en) | Virtual custom framing expert system | |
CN106203225B (zh) | 基于深度的图像元素删除 | |
JP2016038877A (ja) | 表示システム及び表示方法 | |
US20160379197A1 (en) | Commodity sales data processing apparatus, portable terminal and method | |
JP6405826B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2019174959A (ja) | 商品棚位置登録プログラム、及び情報処理装置 | |
JP6176014B2 (ja) | 投影装置、投影制御方法及びプログラム | |
JP2017041065A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2003075930A (ja) | デジタル画像受付装置 | |
JP2016009470A (ja) | 販売支援システム、販売支援方法及びプログラム | |
JP6326866B2 (ja) | 表示装置、表示方法及びプログラム | |
JP2016061955A (ja) | コンテンツ出力装置、コンテンツ出力方法及びプログラム | |
US11487809B2 (en) | Information provision device and information provision method therefor | |
JP7272100B2 (ja) | 情報処理装置、情報処理システム、方法、およびプログラム | |
US20200057877A1 (en) | Code symbol reading device and method therefor | |
JP2017174222A (ja) | 案内出力装置、案内出力方法及びプログラム | |
US20160307046A1 (en) | Content Output Apparatus, Content Output System, Content Output Method, And Computer Readable Storage Medium | |
JP6446779B2 (ja) | コンテンツ出力システム、コンテンツ出力装置、コンテンツ出力方法及びプログラム | |
JP2017116693A (ja) | コンテンツ再生装置、コンテンツ再生方法及びプログラム | |
JP7417119B2 (ja) | 情報処理システム、情報処理システムの制御方法、電子機器、プログラム | |
US20240185205A1 (en) | Systems, devices, and related methods for upsell options and delivery management for self-checkout systems |