JP2018133050A - 機器、制御方法及びプログラム - Google Patents

機器、制御方法及びプログラム Download PDF

Info

Publication number
JP2018133050A
JP2018133050A JP2017028314A JP2017028314A JP2018133050A JP 2018133050 A JP2018133050 A JP 2018133050A JP 2017028314 A JP2017028314 A JP 2017028314A JP 2017028314 A JP2017028314 A JP 2017028314A JP 2018133050 A JP2018133050 A JP 2018133050A
Authority
JP
Japan
Prior art keywords
action
user
guidance
threshold
skill level
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Abandoned
Application number
JP2017028314A
Other languages
English (en)
Inventor
悠太 白川
Yuta Shirakawa
悠太 白川
小坂谷 達夫
Tatsuo Kosakaya
達夫 小坂谷
進 窪田
Susumu Kubota
進 窪田
伊藤 聡
Satoshi Ito
聡 伊藤
ヴェトクォク ファン
Viet Quoc Pham
ヴェトクォク ファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2017028314A priority Critical patent/JP2018133050A/ja
Priority to US15/670,412 priority patent/US20180239458A1/en
Priority to EP17187831.7A priority patent/EP3364293A1/en
Publication of JP2018133050A publication Critical patent/JP2018133050A/ja
Abandoned legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • G06F9/453Help systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/183On-screen display [OSD] information, e.g. subtitles or menus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/373Image reproducers using viewer tracking for tracking forward-backward translational head movements, i.e. longitudinal movements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/041012.5D-digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface and also measures the distance of the input means within a short range in the Z direction, possibly with a separate measurement setup
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • User Interface Of Digital Computer (AREA)
  • Control Of Vending Devices And Auxiliary Devices For Vending Devices (AREA)
  • Image Analysis (AREA)
  • Navigation (AREA)

Abstract

【課題】利用者に心理的負担を強いるような案内が行われることを防止する。【解決手段】実施形態の機器は出力制御部を備える。出力制御部は、第1行動にかかった時間が第1閾値以上の場合、又は、第1行動をやり直した回数が第2閾値以上の場合、第1行動の次に利用者により行われることが想定されている第1想定行動に誘導する第1案内を出力し、第1行動にかかった時間が第1閾値未満の場合、又は、第1行動をやり直した回数が第2閾値未満の場合、第1想定行動に誘導する案内を省略する、又は、第1案内よりも簡易な第2案内を出力する。【選択図】図2

Description

本発明の実施形態は機器、制御方法及びプログラムに関する。
所定の手順に従って利用者に利用される自動券売機等の機器において、利用者に手順を案内する音声等を出力する機器が、従来から知られている。例えば画像処理を用いて利用者の行動を認識し、利用者の行動に対応した案内を行う行動認識型の自動券売機が、従来から知られている。
しかしながら、従来の技術では、利用者に心理的負担を強いるような案内が行われることを防止することが難しかった。例えば利用者が機器の操作にどれほど慣れているかが考慮されておらず、過剰な案内をしてしまう恐れがあった。
特開平09−161102号公報
本発明が解決しようとする課題は、利用者に心理的負担を強いるような案内が行われることを防止することができる機器、制御方法及びプログラムを提供することである。
実施形態の機器は出力制御部を備える。出力制御部は、前記第1行動にかかった時間が第1閾値以上の場合、又は、前記第1行動をやり直した回数が第2閾値以上の場合、前記第1行動の次に前記利用者により行われることが想定されている第1想定行動に誘導する第1案内を出力し、前記第1行動にかかった時間が第1閾値未満の場合、又は、前記第1行動をやり直した回数が第2閾値未満の場合、前記第1想定行動に誘導する案内を省略する、又は、前記第1案内よりも簡易な第2案内を出力する。
第1実施形態の機器のハードウェア構成の例を示す図。 第1実施形態の機器の機能構成の例を示す図。 第1実施形態の機器の動作の例を示すフローチャート。 第2実施形態の機器の機能構成の例を示す図。 第2実施形態の機器の動作の例を示すフローチャート。 第2実施形態により解決される問題の例(熟練度が高い場合)を示す図。 第2実施形態により解決される問題の例(熟練度が低い場合)を示す図。 第3実施形態の機器のハードウェア構成の例を示す図。 第3実施形態の機器の機能構成の例を示す図。 第3実施形態の機器の動作の例を示すフローチャート。
以下に添付図面を参照して、機器、制御方法及びプログラムの実施形態を詳細に説明する。
(第1実施形態)
はじめに、第1実施形態の機器100のハードウェア構成の例について説明する。
[ハードウェア構成の例]
図1は第1実施形態の機器100のハードウェア構成の例を示す図である。第1実施形態の機器100は、プロセッサ101、補助記憶装置102、主記憶装置103、カメラ104、表示装置105、入力装置106及びスピーカー107を備える。機器100は任意でよい。機器100は、例えば自動券売機である。
プロセッサ101は、補助記憶装置102等の記憶媒体からプログラムを読み出して実行する。
補助記憶装置102は、プログラム等の情報を記憶する。補助記憶装置102は任意でよい。補助記憶装置102は、例えばHDD(Hard Disk Drive)である。主記憶装置103は、プロセッサ101により作業領域として使用される記憶領域である。
カメラ104は、機器100の利用者を撮像することにより、複数の画像を時系列に取得する。カメラ104は任意でよい。カメラ104は、例えば可視光カメラ及び深度画像カメラ等である。カメラ104は、機器100を利用する利用者の動作を撮像できる位置に設置される。カメラ104は、機器100の利用開始時から利用終了時まで利用者の動作の様子を示す画像を継続的に取得する。
なお機器100は、カメラ104を複数、備えていてもよい。機器100が複数のカメラ104を備える場合、それぞれのカメラ104が、異なる位置、異なる角度から利用者を撮像することにより、例えば利用者の前方、後方、及び、利用者の手元等を撮像する。
また、カメラ104として、深度画像カメラが使用される場合、機器100の利用者の動作を、奥行き情報を含む画像として取得できる。
表示装置105は、機器100の利用者に提示する情報等を表示する。表示装置105は任意でよい。表示装置105は、例えば液晶ディスプレイである。入力装置106は、機器100の利用者の操作入力を受け付ける。入力装置106は、例えばハードウェアキーである。
なお表示装置105及び入力装置106は、表示機能と入力機能とを兼ね備えた液晶タッチパネル等でもよい。
スピーカー107は、機器100の利用者に対する案内音声等を出力する。
次に第1実施形態の機器100の機能構成の例について説明する。
[機能構成の例]
図2は第1実施形態の機器100の機能構成の例を示す図である。第1実施形態の機器100は、撮像部1、取得部2、認識部3、第1決定部4a、第2決定部4b、出力制御部5及び記憶部6を備える。
<動作の概要>
撮像部1は、機器100の利用者を撮像することにより、複数の画像を時系列に取得する。撮像部1は、例えばカメラ104により実現される。
取得部2は、撮像部1により撮像された複数の画像を取得すると、当該複数の画像を、認識部3、第1決定部4a及び第2決定部4bに入力する。取得部2は、例えばプロセッサ101により実行されるプログラムにより実現される。また例えば、取得部2は、IC(Integrated Circuit)等のハードウェアにより実現される。
認識部3は、取得部2から複数の画像を受け付けると、当該複数の画像から利用者の行動を認識する。認識部3は、認識された行動を示す行動情報を第1決定部4a及び第2決定部4bに入力する。認識部3は、例えばプロセッサ101により実行されるプログラムにより実現される。また例えば、認識部3は、IC等のハードウェアにより実現される。
第1決定部4aは、取得部2から複数の画像を受け付け、認識部3から行動情報を受け付けると、当該複数の画像、及び、当該行動情報の少なくとも一方から、利用者の熟練度を決定する。熟練度を示すデータ形式は任意でよい。熟練度は、例えば熟練度の高さを示す数値である。
熟練度は、例えば1〜10までの数値により示されてもよい。この場合、第1決定部4aは、例えば熟練度の初期値を5とし、利用者の行動に応じて、熟練度の加算又は減算することにより、当該利用者の熟練度を決定してもよい。
また例えば、熟練度は、2値(0:低い、1:高い)により示されてもよい。
第1決定部4aは、決定された熟練度を示す熟練度情報を第2決定部4bに入力する。
第2決定部4bは、認識部3から行動情報を受け付け、第1決定部4aから熟練度情報を受け付けると、当該行動情報及び熟練度情報から、出力対象の案内を決定する。第2決定部4bは、決定された案内を示す案内情報を出力制御部5に入力する。
第1決定部4a及び第2決定部4bは、例えばプロセッサ101により実行されるプログラムにより実現される。また例えば、第1決定部4a及び第2決定部4bは、IC等のハードウェアにより実現される。また、第1決定部4a及び第2決定部4bは、1つの機能ブロックにより実現してもよい。
出力制御部5は、第2決定部4bから案内情報を受け付けると、当該案内情報を出力する。出力制御部5は、例えばプロセッサ101により実行されるプログラムにより実現される。また例えば、出力制御部5は、IC等のハードウェアにより実現される。
記憶部6は情報を記憶する。記憶部6は、例えば補助記憶装置102及び主記憶装置103により実現される。記憶部6に記憶される情報は、例えば利用者の行動と熟練度との組と、機器100の案内とが関連付けられた案内情報である。
案内情報は、行動と熟練度との組が検索キーとして使用されることにより、機器100の案内が検索される仕組みになっている。そのため、認識部3により同じ行動と認識された場合でも、熟練度が異なる場合は、異なる案内が検索される。また、案内情報に記憶される機器100の案内は、出力される音声、及び、出力されるテキスト等の案内に限られない。案内情報に記憶される機器100の案内は、例えば熟練度が閾値未満の利用者の手助けを行う動作を示す情報でもよい。利用者の手助けを行う動作は、例えば「係員を呼び出す」等である。出力制御部5は、例えば係員により使用される端末等の他の装置に、ネットワークを介して通知することにより、当該係員を呼び出す。また例えば、案内情報に記憶される機器100の案内は、熟練度が閾値以上の利用者の操作の妨げにならないようにする動作を示す情報でもよい。利用者の操作の妨げにならないようにする動作は、例えば「案内を出力しない」等である。
なお案内情報のデータ形式は任意でよい。例えば案内情報を、行動と案内種別とを記憶するデータベースと、熟練度と案内種別との組と、機器100の案内とを記憶するデータベースとに分けてもよい。
[動作方法の例]
次にフローチャートを参照して、第1実施形態の機器の動作の詳細について説明する。
図3は第1実施形態の機器100の動作の例を示すフローチャートである。はじめに、取得部2が、撮像部1により撮像された複数の画像を取得する(ステップS1)。
次に、認識部3が、ステップS1の処理により取得された複数の画像から、利用者の行動を認識する(ステップS2)。具体的には、まず認識部3は、1つの画像が示すフレーム毎の特徴量、及び、前後のフレーム間から特定される特徴量を抽出する。
フレーム毎の特徴量は、例えば利用者の体の特徴的な部位の画像中の座標情報を含む。座標情報は、平面又は空間の点を示す。利用者の体の特徴的な部位は、例えば利用者の目等、画像中のエッジとして検出される部位である。また例えば、フレーム毎の特徴量は、画像中の勾配情報から特定される画像内の見え(アピアランス)の情報を含む。
前後のフレーム間から特定される特徴量は、前後のフレームに含まれる利用者の動きを示す特徴量である。
次に、認識部3は、抽出された特徴量の変化から利用者の行動を認識する。具体的には、認識部3は、例えば抽出された特徴量の変化と、予め用意された、行動を認識するためのモデルとを比較することにより、最も尤もらしい行動を認識する。また例えば、認識部3は、抽出された特徴量の変化と、予め定められている特徴量の変化パターンとを比較する。認識部3は、抽出された特徴量の変化に最も近い特徴量の変化パターンを特定する。そして認識部3は、特定された特徴量の変化パターンに予め対応付けられた行動パターンを、利用者の行動として認識する。行動パターンは、例えば「コインを入れる。」、及び、「液晶タッチパネルをさわる。」等である。
また、認識部3は、時系列に認識された複数の行動パターンを使用して、行動の遷移を認識する。行動の遷移を示す情報は、例えば利用者の行動と、当該利用者の次の行動との間の時間を含む。また例えば、行動の遷移を示す情報は、利用者の行動と、当該利用者の次の行動との組み合わせを含む。
次に、第1決定部4aは、ステップS1の処理により取得された複数の画像、並びに、ステップS2の処理により認識された行動及び行動の遷移の少なくとも1つから、利用者の熟練度を決定する(ステップS3)。
<熟練度の決定例>
熟練度の決定方法は任意でよい。以下、熟練度の決定方法について例示する。
第1決定部4aは、例えば複数の画像から上述の特徴量を抽出し、当該特徴量の変化を使用して、利用者の熟練度の回帰及び分類等をすることにより、熟練度を決定する。
また例えば、第1決定部4aは、認識部3により認識された行動、及び、行動の遷移を使用して、利用者の熟練度の回帰及び分類等をすることにより、熟練度を決定する。具体的には、第1決定部4aは、各行動の実施に費やされる時間と、行動毎に予め定めた所定時間との大小関係を使用して、利用者の熟練度の回帰及び分類等をする。また例えば、第1決定部4aは、行動の遷移の間隔と、遷移毎に予め定めた所定時間との大小関係を使用して、利用者の熟練度の回帰及び分類等をする。また例えば、第1決定部4aは、各行動のやり直し回数等を使用して、利用者の熟練度の回帰及び分類等をする。
なお上述の所定時間は、行動、及び、行動の遷移等毎に定められていなくてもよい。上述の所定時間は、例えば一律に定められていてもよい。また例えば、上述の所定時間は、その時刻までに決定された利用者の熟練度に応じて調整されていてもよい。
また例えば、第1決定部4aは、第1行動にかかった時間が閾値(第1閾値)以上の場合、この利用者の熟練度から所定の値を減算する。所定の値は、例えば1である。逆に、第1決定部4aは、第1行動にかかった時間が閾値(第1閾値)未満の場合、この利用者の熟練度に所定の値を加算する。
また例えば、第1決定部4aは、第1行動をやり直した回数が閾値(第2閾値)以上の場合、この利用者の熟練度から所定の値を減算する。逆に、第1決定部4aは、第1行動をやり直した回数が閾値(第2閾値)未満の場合、この利用者の熟練度に所定の値を加算する。
また例えば、第1決定部4aは、第1行動にかかった時間が閾値(第1閾値)以上の場合、又は、第1行動をやり直した回数が閾値(第2閾値)以上の場合、熟練度を閾値(第3閾値)未満の値に決定する。
また例えば、第1決定部4aは、第1行動と、当該第1行動の次に利用者により行われた第2行動と、の間の時間が長いほど、熟練度を小さい値に決定する。第1決定部4aは、例えば第1行動と第2行動との間の時間が長いほど、この利用者の熟練度の減算値を大きくする。
なお第1決定部4aは、時間による閾値(第1閾値)、及び、回数による閾値(第2閾値)のいずれか一方を判定してもよいし、両方を判定してもよい。
次に、第2決定部4bは、ステップS2の処理により認識された行動と、ステップS3の処理により決定された熟練度とから、出力制御部5により出力される機器100の案内を決定する(ステップS4)。具体的には、第2決定部4bは、行動と熟練度との組を検索キーとして使用して、上述の案内情報から検索された機器100の案内を、出力制御部5により出力される機器100の案内に決定する。
次に、出力制御部5は、第2決定部4bにより決定された案内の出力を制御する(ステップS5)。出力制御部5は、例えば表示装置105及びスピーカー107等に案内を出力する。
出力制御部5は、例えば第1行動が行われた後の熟練度が閾値(第3閾値)未満の場合、第1行動の次に利用者により行われることが想定されている第1想定行動に誘導する第1案内を出力し、熟練度が閾値(第3閾値)以上の場合、第1想定行動に誘導する案内を、省略する、又は、第1案内よりも簡易な第2案内を出力する。
例えば第1行動が、「レシート発行ボタンを押下する。」の場合、第1想定行動は、「レシートを取る。」である。この場合、第1案内は、例えば「画面右下の取り出し口から、レシートをお取り下さい。」であり、第2案内は、例えば「レシートをお取り下さい。」又は「レシートの取り忘れにご注意下さい」等である。
また例えば、出力制御部5は、第2行動が行われた後の熟練度が閾値(第3閾値)未満の場合、第2行動の次に利用者により行われることが想定されている第2想定行動に誘導する第3案内を出力し、熟練度が閾値(第3閾値)以上の場合、第2想定行動に誘導する案内を、省略する、又は、第3案内よりも簡易な第4案内を出力する。
なお上述の図3の説明では、第2決定部4bが、ステップS2の処理により認識部3により認識された行動と、ステップS3の処理により第1決定部4aにより決定された熟練度とに基づいて、機器100の案内を決定する場合について説明した。しかしながら、第2決定部4bは、認識部3により認識された行動のみから、機器100の案内を決定してもよい。
なお認識部3は、カメラ104により取得された画像のみではなく、入力装置106等から取得される操作入力も使用して、利用者の行動を認識してもよい。認識部3は、例えばレシート発行ボタンの押下された場合、利用者の行動が「レシート発行ボタンを押下する。」であると認識してもよい。
以上、説明したように、第1実施形態の機器100では、出力制御部5が、第1行動にかかった時間が第1閾値以上の場合、又は、第1行動をやり直した回数が第2閾値以上の場合、第1行動の次に利用者により行われることが想定されている第1想定行動に誘導する第1案内を出力し、第1行動にかかった時間が第1閾値未満の場合、又は、第1行動をやり直した回数が第2閾値未満の場合、第1想定行動に誘導する案内を省略する、又は、前記第1案内よりも簡易な第2案内を出力する。
これにより第1実施形態の機器100によれば、利用者の熟練度に応じて機器100の案内を制御することができる。具体的には、第1実施形態の機器100によれば、利用者による機器100の利用状況と、当該利用者の熟練度とに応じて、最も適切な案内を行うことが可能となり、利用者に心理的負担を強いるような案内が行われることを防止することができる。
(第2実施形態)
次に第2実施形態について説明する。第2実施形態の説明では、第1実施形態と同様の説明については省略し、第1実施形態と異なる箇所について説明する。第2実施形態では、第1時刻に利用者に対して案内された案内に対して、第2時刻の利用者の応答が望ましい応答を示しているかどうかを示す乖離度に更に基づいて、熟練度が決定される場合について説明する。
第1実施形態との1つ目の違いは、乖離度を、第2時刻における熟練度の判定に利用する点である。なお第2時刻は、第1時刻よりも後の時刻である。なお第1時刻と第2時刻との間隔は任意でよい。
第1実施形態との2つ目の違いは、上述の案内情報に含まれる機器100の案内に応じて利用者により行われることが想定されている想定行動が、更に関連付けて記憶されている点である。すなわち第2実施形態の案内情報には、行動、熟練度、案内及び想定行動が関連付けて記憶されている。
[機能構成の例]
図4は第2実施形態の機器100の機能構成の例を示す図である。第2実施形態の機器100は、撮像部1、取得部2、認識部3、第1決定部4a、第2決定部4b、第3決定部4c、出力制御部5及び記憶部6を備える。第2実施形態の機器100では、第1実施形態の機器100の機能構成に、更に第3決定部4cが追加されている。
第3決定部4cは、例えばプロセッサ101により実行されるプログラムにより実現される。また例えば、第3決定部4cは、IC等のハードウェアにより実現される。また、第1決定部4a、第2決定部4b及び第3決定部4cは、1つの機能ブロックにより実現してもよい。
第3決定部4cは、第1行動の次に利用者により行われることが想定されている第1想定行動と、第2行動との乖離度を決定する。第1想定行動は、上述の案内情報に含まれる第1行動に関連付けられている想定行動である。なお乖離度の決定方法は任意でよい。第3決定部4cは、例えば第1行動を示す上述の特徴量と、第1想定行動を示す上述の特徴量との差から乖離度を決定する。
第2決定部4bは、第3決定部4cにより決定された乖離度に更に基づいて、利用者の熟練度を決定する。第2決定部4bは、例えば乖離度が大きいほど、熟練度を小さい値に決定する。
[動作方法の例]
次にフローチャートを参照して、第2実施形態の機器の動作の詳細について説明する。
図5は第2実施形態の機器100の動作の例を示すフローチャートである。図5の説明では、第1時刻に行われた第1行動が、認識部3により最初に認識された行動である場合を例にして説明する。
<利用開始時の第1行動に対する動作>
第1時刻に行われた第1行動が、認識部3により最初に認識された行動である場合、第1行動の前に行われた行動が存在しない。そのため、第3決定部4cによるステップS2−2の処理は行われない。利用開始時の第1行動に対する動作は、第1実施形態の機器100の動作(図3参照)と同じなので説明を省略する。
<第2行動に対する動作>
次に、第1行動の次に利用者により行われた第2行動に対する動作について説明する。はじめに、取得部2が、撮像部1により撮像された複数の画像を取得する(ステップS1)。
次に、認識部3が、ステップS1の処理により取得された複数の画像から、利用者の第2行動を認識する(ステップS2−1)。
次に、第3決定部4cが、第1行動の次に利用者により行われることが想定されている第1想定行動と、ステップS2−1の処理により認識された第2行動との乖離度を決定する(ステップS2−2)。なお第3決定部4cは、第1時刻に行われた第1行動に対する処理で決定された第1案内に関連付けられた想定行動を、上述の案内情報から取得することにより、第1想定行動を特定する。
次に、第1決定部4aは、ステップS1の処理により取得された複数の画像、ステップS2−1の処理により認識された行動及び行動の遷移、並びに、ステップS2−2の処理により決定された乖離度の少なくとも1つから、利用者の熟練度を決定する(ステップS3)。第1決定部4aは、例えば第1想定行動と第2行動との乖離度が大きいほど、熟練度を小さい値に決定する。
ステップS4及びステップS5の処理の説明は、第1実施形態の機器100の動作方法の説明(図3参照)と同じなので省略する。
第2行動よりも後に行われた第3行動以降の利用者の行動に対する動作の説明は、上述の第2行動に対する動作と同様であるので省略する。
以上、説明したように、実施形態の機器100では、第1決定部4aは、第1想定行動と第2行動との乖離度が大きいほど、熟練度を小さい値に決定する。
第2実施形態では、第1時刻の案内に対する第2時刻の利用者の行動を、第2時刻の熟練度の決定にフィードバックすることができる。これにより案内に対する利用者の行動を加味した案内の制御が可能となる。
第2実施形態により解決される問題として、例えば図6Aに示す問題が考えられる。機器100による購入手続きを終えた熟練度の高い利用者は、次に行うべき行動が「レシートをとる」行動であることを予め認識しており、利用終了のアナウンス後は、すぐに「レシートをとる」動作を開始し始める。この場合に、機器100が、「レシートを取らせる」アナウンス等の案内を出力すると、利用者に心的負担を強いる恐れがあり望ましくない。第2実施形態によれば、「利用終了」アナウンスに対する利用者の反応として「レシートをとる」動作が確認された場合は、「レシートを取らせる」アナウンスを取りやめる制御をすることができる。これにより第2実施形態の機器100によれば、利用者に心理的負担を強いるような案内が行われることを防止することができる。
また、第2実施形態により解決される問題として、例えば図6Bに示す問題が考えられる。機器100により「レシートをとらせる」アナウンス等の案内を受けた利用者は、「レシートをとる」動作を開始すると想定される。しかしながら、アナウンスに対して同動作を開始できない熟練度の低い利用者に対して、同アナウンスを繰り返すことは無意味である。第2実施形態の機器100によれば、アナウンスの反応として想定される行動が見られない利用者に対しては、アナウンスをより具体的な指示へ変更する、または、係員を派遣する等の対応へ変更する制御をすることができる。これにより第2実施形態の機器100によれば、利用者に心理的負担を強いるような案内が行われることを防止することができる。
(第3実施形態)
次に第3実施形態について説明する。第3実施形態の説明では、第1実施形態と同様の説明については省略し、第1実施形態と異なる箇所について説明する。第3実施形態では、利用者の利用履歴に更に基づいて、熟練度が決定される場合について説明する。
第1実施形態との1つ目の違いは、機器100が、利用者の利用者情報を読み取る点である。第1実施形態との2つ目の違いは、機器100が利用者の利用履歴を記憶する点である。
[ハードウェア構成の例]
図7は第3実施形態の機器100のハードウェア構成の例を示す図である。第3実施形態の機器100は、プロセッサ101、補助記憶装置102、主記憶装置103、カメラ104、表示装置105、入力装置106、スピーカー107及び読取装置108を備える。第3実施形態の機器100では、第1実施形態の機器100のハードウェア構成に、更に読取装置108が追加されている。
読取装置108は、利用者の利用者情報を読み取る。読取装置108は、例えばICカードリーダー等である。利用者情報は、利用者に関する情報である。利用者情報は、少なくとも利用者を識別する利用者識別情報を含む。
補助記憶装置102は、利用者による機器100の利用履歴を更に記憶する。利用履歴は、利用者により機器100が利用されたときの記録である。利用履歴は、例えば上述の利用者識別情報、利用日時及び熟練度等を含む。利用日時は、利用者により機器100が利用された日時である。熟練度は、利用者により機器100が利用されたときに決定された熟練度である。
[機能構成の例]
図8は第3実施形態の機器100の機能構成の例を示す図である。第3実施形態の機器100は、撮像部1、取得部2、認識部3、第1決定部4a、第2決定部4b、出力制御部5、記憶部6及び読取部7を備える。第3実施形態の機器100では、第1実施形態の機器100の機能構成に、更に読取部7が追加されている。
読取部7は、上述の利用者情報を読み取る。読取部7は、例えば読取装置108により実現される。記憶部6は、上述の利用履歴を更に記憶する。
[動作方法の例]
次にフローチャートを参照して、第3実施形態の機器の動作の詳細について説明する。
図9は第3実施形態の機器100の動作の例を示すフローチャートである。はじめに、取得部2が、撮像部1により撮像された複数の画像を取得する(ステップS1−1)。
次に、読取部7が、上述の利用者情報を読み取る(ステップS1−2)。
次に、認識部3が、ステップS1−1の処理により取得された複数の画像から、利用者の行動を認識する(ステップS2)。
次に、第1決定部4aは、ステップS1−1の処理により取得された複数の画像、ステップS1−2の処理により読み取られた利用者情報、並びに、ステップS2の処理により認識された行動及び行動の遷移の少なくとも1つから、利用者の熟練度を決定する(ステップS3)。
<熟練度の決定例>
熟練度の決定方法は任意でよい。以下、熟練度の決定方法について例示する。
第1決定部4aは、例えば利用開始時点の利用者の熟練度を、利用者情報に含まれる利用者識別情報を使用して、利用履歴から読み出された熟練度により決定する。
また例えば、第1決定部4aは、利用履歴から熟練度を読み出すことができた場合、利用者の熟練度を利用履歴から読み出された熟練度に決定し、利用履歴から熟練度を読み出すことができなかった場合、ステップS1−1の処理により取得された複数の画像、並びに、ステップS2の処理により認識された行動及び行動の遷移の少なくとも1つから、利用者の熟練度を決定する。
また例えば、第1決定部4aは、利用履歴から読み出された熟練度と、ステップS1−1の処理により取得された複数の画像、並びに、ステップS2の処理により認識された行動及び行動の遷移の少なくとも1つから決定された熟練度と、に基づいて、熟練度を決定する。この場合、利用履歴から読み出された熟練度を、一定の影響度をもって、熟練度の決定に反映させてもよいし、利用履歴から読み出された熟練度の影響度を、時系列とともに、減衰させてもよい。
ステップS3の処理により決定された熟練度は、利用者による一連の操作が完了した時点で、記憶部6の利用履歴に記憶される。
ステップS4及びステップS5の処理の説明は、第1実施形態の機器100の動作方法の説明(図3参照)と同じなので省略する。
以上、説明したように、実施形態の機器100では、記憶部6が、利用者による機器100の利用履歴を記憶する。そして第1決定部4aが、更に、利用履歴に基づいて利用者の熟練度を決定する。
これにより第3実施形態の機器100によれば、前回の利用時に決定された利用者の熟練度を利用することができるので、機器100の利用開始時等の利用者の操作が行われていない状態でも、案内の適切な制御が可能となる。すなわち第3実施形態の機器100によれば、利用者に心理的負担を強いるような案内が行われることを防止することができる。
なお上述の利用者情報は、利用者を識別する識別情報と、利用者の熟練度とを含んでもよい。この場合、第1決定部4aは、例えば読取部7により利用者情報が読み取られた場合、利用者情報に含まれる熟練度により、利用者の熟練度を決定する。
上述の第1乃至第3実施形態の機器100は、例えば汎用のプロセッサ101を備えるコンピュータにより実現することが可能である。すなわち、上述の機器100の機能(図2、図4及び図8参照)のうち、プログラムにより実現可能な機能の全部又は一部を、汎用のプロセッサ101にプログラムを実行させることにより実現することができる。
第1乃至第3実施形態の機器100で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、メモリカード、CD−R、及び、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記憶媒体に記憶されてコンピュータ・プログラム・プロダクトとして提供される。
また第1乃至第3実施形態の機器100で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また第1乃至第3実施形態の機器100が実行するプログラムを、ダウンロードさせずにインターネット等のネットワーク経由で提供するように構成してもよい。
また第1乃至第3実施形態の機器100で実行されるプログラムを、ROM等に予め組み込んで提供するように構成してもよい。
また第1乃至第3実施形態の機器100の機能の一部を、IC等のハードウェアにより実現してもよい。ICは、例えば所定の処理を実行する専用のプロセッサ101である。
また機器100は、複数のプロセッサ101を備えていてもよい。複数のプロセッサ101を用いて各機能を実現する場合、各プロセッサ101は、各機能のうち1つを実現してもよいし、各機能のうち2以上を実現してもよい。
また第1乃至第3実施形態の機器100の動作形態は任意でよい。第1乃至第3実施形態の機器100の機能を、例えばネットワーク上のクラウドシステムとして動作させてもよい。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1 撮像部
2 取得部
3 認識部
4 決定部
5 出力制御部
6 記憶部
7 読取部
100 機器
101 プロセッサ
102 補助記憶装置
103 主記憶装置
104 カメラ
105 表示装置
106 入力装置
107 スピーカー
108 読取装置

Claims (14)

  1. 利用者の第1行動にかかった時間が第1閾値以上の場合、又は、前記第1行動をやり直した回数が第2閾値以上の場合、前記第1行動の次に前記利用者により行われることが想定されている第1想定行動に誘導する第1案内を出力し、前記第1行動にかかった時間が第1閾値未満の場合、又は、前記第1行動をやり直した回数が第2閾値未満の場合、前記第1想定行動に誘導する案内を省略する、又は、前記第1案内よりも簡易な第2案内を出力する出力制御部と、
    を備える機器。
  2. 利用者の第1行動から前記利用者の熟練度を決定する決定部と、
    前記熟練度が第3閾値未満の場合、前記第1行動の次に前記利用者により行われることが想定されている第1想定行動に誘導する第1案内を出力し、前記熟練度が第3閾値以上の場合、前記第1想定行動に誘導する案内を省略する、又は、前記第1案内よりも簡易な第2案内を出力する出力制御部と、
    を備える機器。
  3. 前記決定部は、前記第1行動にかかった時間が第1閾値以上の場合、又は、前記第1行動をやり直した回数が第2閾値以上の場合、前記熟練度を前記第3閾値未満の値に決定する、
    請求項2に記載の機器。
  4. 前記利用者の第1行動を認識する認識部、
    を更に備える請求項2に記載の機器。
  5. 前記認識部は、前記第1行動の次に前記利用者により行われた第2行動を、更に認識し、
    前記決定部は、前記第1行動と前記第2行動との間の時間が長いほど、前記熟練度を小さい値に決定し、
    前記出力制御部は、前記熟練度が前記第3閾値未満の場合、前記第2行動の次に前記利用者により行われることが想定されている第2想定行動に誘導する第3案内を出力し、前記熟練度が第3閾値以上の場合、前記第2想定行動に誘導する案内を、省略又は前記第3案内よりも簡易な第4案内に変更する、
    請求項4に記載の機器。
  6. 前記決定部は、前記第1想定行動と前記第2行動との乖離度が大きいほど、前記熟練度を小さい値に決定する、
    請求項5に記載の機器。
  7. 前記出力制御部は、前記熟練度が第4閾値以下の場合、前記機器が熟練度の低い利用者により使用されていることを他の装置に通知する、
    請求項2に記載の機器。
  8. 前記認識部は、少なくとも、前記利用者を含む画像および前記利用者の操作入力の何れか一つに基づいて前記第1行動を認識する、
    請求項4に記載の機器。
  9. 前記利用者を識別する識別情報と、前記利用者の熟練度とを含む利用者情報を読み取る読取部を更に備え、
    前記決定部は、前記読取部により前記利用者情報が読み取られた場合、前記利用者情報に含まれる熟練度により、前記利用者の熟練度を決定する、
    請求項2に記載の機器。
  10. 前記利用者による前記機器の利用履歴を記憶する記憶部を更に備え、
    前記決定部は、更に、前記利用履歴に基づいて前記利用者の熟練度を決定する、
    請求項2に記載の機器。
  11. 利用者の第1行動にかかった時間が第1閾値以上の場合、又は、前記第1行動をやり直した回数が第2閾値以上の場合、前記第1行動の次に前記利用者により行われることが想定されている第1想定行動に誘導する第1案内を出力するステップと、
    前記第1行動にかかった時間が第1閾値未満の場合、又は、前記第1行動をやり直した回数が第2閾値未満の場合、前記第1想定行動に誘導する案内を省略する、又は、前記第1案内よりも簡易な第2案内を出力するステップと、
    を含む制御方法。
  12. 利用者の第1行動から前記利用者の熟練度を決定するステップと、
    前記熟練度が第3閾値未満の場合、前記第1行動の次に前記利用者により行われることが想定されている第1想定行動に誘導する第1案内を出力するステップと、
    前記熟練度が第3閾値以上の場合、前記第1想定行動に誘導する案内を省略する、又は、前記第1案内よりも簡易な第2案内を出力するステップと、
    を含む制御方法。
  13. コンピュータを、
    利用者の第1行動にかかった時間が第1閾値以上の場合、又は、前記第1行動をやり直した回数が第2閾値以上の場合、前記第1行動の次に前記利用者により行われることが想定されている第1想定行動に誘導する第1案内を出力し、前記第1行動にかかった時間が第1閾値未満の場合、又は、前記第1行動をやり直した回数が第2閾値未満の場合、前記第1想定行動に誘導する案内を省略する、又は、前記第1案内よりも簡易な第2案内を出力する出力制御部、
    として機能させるためのプログラム。
  14. コンピュータを、
    利用者の第1行動から前記利用者の熟練度を決定する決定部と、
    前記熟練度が第3閾値未満の場合、前記第1行動の次に前記利用者により行われることが想定されている第1想定行動に誘導する第1案内を出力し、前記熟練度が第3閾値以上の場合、前記第1想定行動に誘導する案内を省略する、又は、前記第1案内よりも簡易な第2案内を出力する出力制御部、
    として機能させるためのプログラム。
JP2017028314A 2017-02-17 2017-02-17 機器、制御方法及びプログラム Abandoned JP2018133050A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017028314A JP2018133050A (ja) 2017-02-17 2017-02-17 機器、制御方法及びプログラム
US15/670,412 US20180239458A1 (en) 2017-02-17 2017-08-07 Device, control method, and computer program product
EP17187831.7A EP3364293A1 (en) 2017-02-17 2017-08-24 Device and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017028314A JP2018133050A (ja) 2017-02-17 2017-02-17 機器、制御方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2018133050A true JP2018133050A (ja) 2018-08-23

Family

ID=59799211

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017028314A Abandoned JP2018133050A (ja) 2017-02-17 2017-02-17 機器、制御方法及びプログラム

Country Status (3)

Country Link
US (1) US20180239458A1 (ja)
EP (1) EP3364293A1 (ja)
JP (1) JP2018133050A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110362352A (zh) * 2019-06-14 2019-10-22 深圳市富途网络科技有限公司 一种引导信息的展示方法及装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63291111A (ja) * 1987-05-25 1988-11-29 Fujitsu Ltd 操作ガイダンス出力制御方法
US6047261A (en) * 1997-10-31 2000-04-04 Ncr Corporation Method and system for monitoring and enhancing computer-assisted performance
JP4065516B2 (ja) * 2002-10-21 2008-03-26 キヤノン株式会社 情報処理装置及び情報処理方法
US7526722B2 (en) * 2005-12-29 2009-04-28 Sap Ag System and method for providing user help according to user category

Also Published As

Publication number Publication date
US20180239458A1 (en) 2018-08-23
EP3364293A1 (en) 2018-08-22

Similar Documents

Publication Publication Date Title
US9507420B2 (en) System and method for providing haptic feedback to assist in capturing images
US11386717B2 (en) Fingerprint inputting method and related device
US10095949B2 (en) Method, apparatus, and computer-readable storage medium for area identification
JP6729545B2 (ja) 作業支援装置、作業支援方法及び作業支援プログラム
US10824891B2 (en) Recognizing biological feature
US10291843B2 (en) Information processing apparatus having camera function and producing guide display to capture character recognizable image, control method thereof, and storage medium
WO2016011027A1 (en) Method and apparatus of controlling a smart device
US20160180315A1 (en) Information processing apparatus using object recognition, and commodity identification method by the same
CN111324352A (zh) 一种应用页面的代码生成方法及相关设备
US11625754B2 (en) Method for providing text-reading based reward-type advertisement service and user terminal for executing same
KR102065912B1 (ko) 압력 감지를 이용한 사용자 인증 영상 획득 장치 및 방법
US9148537B1 (en) Facial cues as commands
JP2018133050A (ja) 機器、制御方法及びプログラム
WO2016131337A1 (zh) 一种检测视力的方法和终端
WO2023228730A1 (ja) 情報処理装置、情報処理システム、情報処理方法およびプログラムが格納された非一時的なコンピュータ可読媒体
CN116611401A (zh) 文案生成方法及相关装置、电子设备和存储介质
KR20140134844A (ko) 객체 기반 사진 촬영 방법 및 장치
US20170068848A1 (en) Display control apparatus, display control method, and computer program product
KR20150043149A (ko) 손 모양 인식을 이용한 디지털 장치의 제어 방법 및 촬영 방법과, 그 장치
US11250242B2 (en) Eye tracking method and user terminal performing same
JP2009187443A (ja) 現金自動預け払い機、および、現金自動預け払い機における暗証番号の取得方法
US20170068841A1 (en) Detecting device, and detecting method
US10489571B2 (en) Information processing apparatus determining propriety of use based on authentication result of fingerprint authentication process, control method therefor, and storage medium storing control program therefor
US20240089591A1 (en) Non-transitory computer-readable storage medium storing display content notification program, display content notification device, display content notification method
JP2022182083A (ja) 情報処理プログラム、強調表示方法、及び情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180912

A762 Written abandonment of application

Free format text: JAPANESE INTERMEDIATE CODE: A762

Effective date: 20190107