JP6210884B2 - 操作支援装置、操作支援方法及び操作支援プログラム - Google Patents

操作支援装置、操作支援方法及び操作支援プログラム Download PDF

Info

Publication number
JP6210884B2
JP6210884B2 JP2014003667A JP2014003667A JP6210884B2 JP 6210884 B2 JP6210884 B2 JP 6210884B2 JP 2014003667 A JP2014003667 A JP 2014003667A JP 2014003667 A JP2014003667 A JP 2014003667A JP 6210884 B2 JP6210884 B2 JP 6210884B2
Authority
JP
Japan
Prior art keywords
player
guide
operation support
support method
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014003667A
Other languages
English (en)
Other versions
JP2015132951A (ja
Inventor
令子 瀧塚
令子 瀧塚
朋広 小原
朋広 小原
加藤 晴久
晴久 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2014003667A priority Critical patent/JP6210884B2/ja
Publication of JP2015132951A publication Critical patent/JP2015132951A/ja
Application granted granted Critical
Publication of JP6210884B2 publication Critical patent/JP6210884B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • User Interface Of Digital Computer (AREA)

Description

本発明は、タッチパネル等の表示部を備えた情報処理装置等の電子機器の操作について、ユーザ(プレイヤ)の習熟度等に適した操作支援を行う操作支援装置、操作支援方法及び操作支援プログラムに関する。
従来から、機器などのハードウェアをユーザが操作するときの操作支援技術としては、各種の手法が提案されている。
例えば、特許文献1に記載された機器や装置では、過去の操作でユーザの対応が早かったり正解率が高かったりした操作ガイドアプリの機能や、新たに加わった機能であるが共通機能として機能の一部もしくは全部を学んだことがある操作ガイドアプリの機能に関しては、ユーザ(以下、操作を行うユーザをプレイヤという)が操作方法や内容を推測できるとして、プレイヤの操作負担を減らし、機器が提示するメッセージに対する信頼性を上げてメッセージの見落としによる操作ミスを防ぐために、操作ガイドを提示しないことが行われている。
また、ビデオゲームなどの各種アプリケーションの制御を行う各種デバイスに適用されるユーザインタフェース技術に関する特許文献2によれば、ビデオゲーム処理装置において、表示画面で受け付けた操作に応じて合計プレイ時間や特定機能の実行回数などのビデオゲームの進行状態を制御し、進行状態に応じてプレイヤの習熟度を判定し、習熟度に応じて表示画面の操作性を向上させることが行われている。
特許第4153980号 特許第5237325号
しかしながら、上述した特許文献1の手法によれば、プレイヤの操作ガイドアプリの使用履歴に基づいてプレイヤが操作方法や内容を推測できない機能を判別し、推測できない機能についてのみ操作ガイドアプリを提示するので、以下に示すような課題が存在した。
(1)操作ガイドアプリを事前に使用していないとプレイヤの習熟度を判断できず、操作ガイドアプリの使用開始時からプレイヤの習熟度にあわせた支援ができない。
(2)シニアなどのタッチデバイス操作に不慣れな層は、操作ガイドアプリを使用する際の周辺の環境や精神面の変化に応じて、習熟度が変化する場合があるため、ガイドアプリの操作中に、プレイヤの周辺の環境や精神面の変化を判断してそれらに応じて習熟度を判断し、学習対象操作の説明の詳細度や練習回数や操作スピードといった指導内容を変えられることが望ましい。
また、特許文献2の手法によれば、ビデオゲームの操作中に、合計プレイ時間や特定機能の実行回数など、進行時に表示画面で受け付けられた操作に基づいてプレイヤの習熟度を判定し、習熟度に応じて動的に表示画面の操作性を向上させることが行われている。
しかしながら、プレイヤの習熟度は、操作ガイドアプリの進行時だけでなく、操作前の操作説明視聴時や操作開始直後のプレイヤの状況に大きく影響を受ける。一般に、操作ガイドの指示に従わず操作の説明を注視しないプレイヤは、操作の理解度が低く、習熟度が低い。従って、動的にアプリの操作性を向上させるためには、操作説明時や操作開始時のプレイヤの状況を観察することが望ましいが、そのような技術はなかった。
また、特許文献2の手法では、プレイヤの操作状況について、表示画面だけから取得することはできなかった。
すなわち、従来技術の中には、プレイヤに使用開始前に余計な操作をさせることなく操作ガイドアプリの使用開始時から操作支援を行い、操作デバイスだけでプレイヤの操作状況を把握し、動的にプレイヤの習熟度や習得意欲を推測して説明の詳細度や練習回数や操作スピードといった指導内容を変化させる操作支援装置や操作支援方法が存在しなかった。
本発明は上記実情に鑑みて提案されたもので、プレイヤが電子機器等の装置を操作する場合に、プレイヤによる操作状況から動的に、習熟度等に適した操作支援を行う操作支援装置、操作支援方法及び操作支援プログラムを提供することを目的とする。
上記目的を達成するため請求項1は、表示画面を有する入力装置を備え、プレイヤによる操作ガイドアプリの操作状況を前記入力装置から取得するとともに、プレイヤの操作時における操作状況を検知する認識装置を備えることでプレイヤによる操作を動的に支援する操作支援装置であって、次の構成を含むことを特徴としている。
前記表示画面で前記操作ガイドアプリを実行する操作ガイド実行部。
前記表示画面におけるプレイヤの操作状況を前記入力装置で受け付けるとともに、 前記認識装置によるプレイヤの操作時における操作状況を受け付ける操作状況受付部。
前記操作状況受付部によって受け付けたプレイヤの操作状況が期待するリアクションに合致しているか否かを判断することによってプレイヤの習熟度や習得意欲を推測する操作状況解析部。
前記操作状況解析部で推測したプレイヤの習熟度や習得意欲に応じて、プレイヤに適した操作支援方法を決定する操作支援方法決定部。
前記操作支援方法決定部で決定した操作支援方法に基づいて前記操作ガイドアプリの操作ガイドパラメタを更新する操作ガイドパラメタ決定部。
そして、前記操作状況受付部は、プレイヤによる操作支援装置の回転操作や傾け操作の角度や速度の操作状況の受け付けを含む。
例えば、前記操作状況受付部は、操作支援装置に付属の加速度センサを用いて、プレイヤが操作支援装置を傾けたり回転させたりしていることを検出する。
請求項2は、請求項1の操作支援装置において、
前記入力装置の表示画面をタッチパネルで構成し、
前記操作状況受付部は、プレイヤによる接触操作による前記タッチパネルの押下操作を検出することを特徴としている。
請求項3は、請求項1の操作支援装置において、
前記認識装置は、プレイヤの操作時における周辺状況の検知を含み、
前記操作状況受付部は、
レイヤの音声以外の操作支援装置の周辺の音声
作支援装置の周辺の臭いや温度や湿度、
のいずれか又は複数の周辺状況を受け付け、
前記操作状況解析部は、
前記操作状況及び前記周辺状況からプレイヤの習熟度や習得意欲を推測することを特徴としている。
前記操作状況受付部は、操作支援装置に付属の近接センサを用いて、プレイヤがタッチパネルに触らずにタッチパネルの上方でジェスチャ操作をしていることを検出してもよい。
前記操作状況受付部は、操作支援装置に付属のマイクロホンを用いて操作支援装置の周辺の音声を検出してもよい。
前記操作状況受付部は、操作支援装置に付属のマイクロホンを用いて、プレイヤの発する言葉や音声を検出してもよい。
前記操作状況受付部は、操作支援装置に付属のカメラを用いて、操作ガイドアプリの説明中に、プレイヤが表示画面以外を見ていることを検出してもよい。
前記操作状況受付部は、臭気センサ、温度センサ、湿度センサを用いて、操作支援装置の周辺の臭いや温度や湿度を検知してもよい。
前記操作状況受付部は、操作開始指示を出した後に一定時間が経過しても、前記入力装置や前記認識装置で、プレイヤからの期待されるリアクションを検出する手段を備えていてもよい。
請求項4は、請求項3の操作支援装置において、
前記入力装置や前記認識装置が受けつけた操作ガイドアプリの操作状況と前記期待されるリアクションや前記習熟度や前記習熟意欲とが対応付けされた情報である操作習熟度判定情報を記憶する操作習熟度判定記憶部を含み、
前記操作状況解析部は、前記操作習熟度判定情報を参照して受け付けた操作状況が前記期待されるリアクションに合致しているか否かを判断することで、前記習熟度や習得意欲を判定することを特徴としている。
ここで、習熟度や習熟意欲の判定例について、以下に示す。
前記操作状況解析部は、期待されるリアクションに従わずにプレイヤがタッチパネルを押下していることから、プレイヤの習熟度が、操作ガイドアプリの説明にしたがって説明を注視できなかったり、注視していても理解できなかったりするほど低いことを検出することで前記判定を行う。
前記操作状況解析部は、期待されるリアクションに従わずにプレイヤが操作支援装置を傾けたり回転させたりしていることから、プレイヤが操作支援装置の側面や背面の特定機能に関心をもっていることを検出することで前記判定を行う。
前記操作状況解析部は、期待されるリアクションに従わずにプレイヤがタッチパネルの上方でジェスチャ操作をしていることから、プレイヤが操作のイメージトレーニングをしていることを検出することで前記判定を行う。
前記操作状況解析部は、操作支援装置の周辺の騒音が操作ガイドアプリの音声と比較して大き過ぎるときに、プレイヤが操作ガイドアプリの音声を聞き取れない可能性があることを検出することで前記判定を行う。
前記操作状況解析部は、期待されるリアクションに従わずにプレイヤが言葉や音声を発していることから、プレイヤが操作ガイドアプリの内容に戸惑っていることを検出することで前記判定を行う。
前記操作状況解析部は、プレイヤが操作支援装置の表示画面を見ていないことから、プレイヤが操作ガイドアプリに関心がないことを検出することで前記判定を行う。
前記操作状況解析部は、操作ガイドアプリの説明が終了して操作練習の開始を指示した後に、一定時間が経過してもプレイヤから期待したリアクションが戻ってこないことから、プレイヤが操作ガイドアプリの指示を理解できないほど自信がなかったり習熟度が低かったりすることを検出することで前記判定を行う。
請求項5は、請求項1から請求項4のいずれかに記載の操作支援装置において、
前記習熟度や前記習得意欲と、前記操作支援方法とが対応付けされた操作支援方法決定情報を記憶する操作支援方法記憶部を含み、
前記操作支援方法決定部は、前記操作支援方法決定情報を参照して前記操作支援方法を決定することを特徴としている。
ここで、操作支援方法の例について、以下に示す。
前記操作支援方法決定部は、操作ガイドアプリの説明中にプレイヤが操作ガイドアプリの指示に従うことができない程、習熟度の低いプレイヤである場合は、ワンステップ毎の説明や電話やスカイプを使った第三者による学習支援を提供するようにしてもよい。
前記操作支援方法決定部は、プレイヤが操作支援装置の側面や背面にある特定機能に注目していると推測した場合は、プレイヤが特定機能を十分に観察ができるように操作ガイドアプリの進捗速度を遅らせたり、特的機能についての詳細な説明を追加して提供するようにしてもよい。
プレイヤが特定機能の観察を終えて操作支援装置を元の位置に戻したことを検出した場合は、操作ガイドアプリの進捗速度を元の速度に戻したり、元の場所から再開したりするようにしてもよい。
また、前記操作支援方法決定部は、プレイヤがタッチパネルの上方でイメージトレーニングを行っていることを検出した場合は、該当操作の練習回数を増やしたり、練習スピードを遅らせたりして、操作ガイドアプリを提供するようにしてもよい。
前記操作支援方法決定部は、操作ガイドアプリの説明中に、操作支援装置の周辺に操作の進捗を妨げかねない騒音を検出した場合は、ガイドの音量をプレイヤにあわせて調整したり、テキストモードでのガイドの提供やイヤホンを通しての受講を提案するようにしてもよい。
前記操作支援方法決定部は、操作ガイドアプリの説明中に、プレイヤが戸惑っていると推測した場合は、プレイヤに操作状況に応じたヘルプ機能を提供するようにしてもよい。
前記操作支援方法決定部は、プレイヤが操作ガイドアプリに関心がないことを検出した場合は、プレイヤに警告を出したり操作の中止を勧告するようにしてもよい。
前記操作支援方法決定部は、プレイヤが操作ガイドアプリの指示を理解して操作を開始できないほど自信がなかったり習熟度が低かったりすると推測した場合は、プレイヤが操作を開始するまで操作開始のメッセージを出し続けたり、繰り返し出したりするようにしてもよい。
請求項6は、請求項1から請求項5のいずれかに記載の操作支援装置において、
前記操作支援方法と前記操作ガイドパラメタとが対応付けされた操作ガイドパラメタ決定情報を記憶する操作ガイドパラメタ決定記憶部を含み、
前記操作ガイドパラメタ決定記憶部は、前記操作ガイドパラメタ決定情報を参照して前記操作ガイドパラメタを決定して実行用操作ガイドパラメタ記憶部に記憶することを特徴としている。
請求項7は、請求項1から請求項6のいずれかに記載の操作支援装置において、
前記操作ガイド実行部は、前記操作ガイドパラメタを参照して、操作ガイドアプリを実行することを特徴としている。
請求項8は、請求項1から請求項7のいずれかに記載の操作支援装置において、
前記操作ガイド実行部は、前記表示画面に操作説明を表示する説明画面を提示する操作ガイドアプリを実行することを特徴としている。
請求項9は、請求項1から請求項7のいずれかに記載の操作支援装置において、
前記操作ガイド実行部は、前記表示画面に操作練習を表示する操作画面を提示する操作ガイドアプリを実行することを特徴としている。
請求項10は、請求項1から請求項7のいずれかに記載の操作支援装置において、
前記操作ガイド実行部は、前記表示画面に操作説明を表示する説明画面と、前記表示画面に操作練習を表示する操作画面とを交互に提示する複数の関連操作を提供し、
前記操作支援方法決定部は、プレイヤの操作状況から推測した前記習熟度や前記習熟意欲に応じて後続の操作練習時の操作支援方法を決定し、決定した操作支援方法を後続のいずれかの操作練習の表示に適応させることを特徴としている。
請求項11は、前記操作ガイド実行部は、請求項1から請求項10のいずれかに記載の操作支援装置において、
プレイヤによって期待されるリアクションに従った操作が行われなかった操作状況に対して、後続の操作過程で、同一の操作状況に対して期待されるリアクションに従った操作が行われた場合は、実行していた操作支援を解除することを特徴としている。
請求項12は、請求項1から請求項11のいずれかに記載の操作支援装置において、
前記操作ガイド実行部は、直前のプレイヤの操作状況や周辺状況に応じて前記操作ガイドアプリの指導方法や指導レベルを変化させて実行することを特徴としている。
請求項13は、請求項8から請求項10のいずれかに記載の操作支援装置において、
前記操作ガイド実行部は、前記操作支援方法決定部が複数の操作支援方法を同時に取得した場合、後続の操作説明又は操作練習にいずれかの操作支援方法を適応させることを特徴としている。
請求項14は、請求項1から請求項13に記載の操作支援装置において、
前記操作支援方法決定部は、同一プレイヤや他の同程度の習熟度や習熟意欲のプレイヤの過去や異なる操作ガイドアプリの操作成績を参考にして、習熟度や習熟意欲を推測することを特徴としている。
請求項15は、請求項9又は請求項10の操作支援装置において、
前記操作ガイド実行部は、プレイヤの期待されるリアクションが期待よりも遅れて発生する場合、その後の操作練習の開始時期や速度をプレイヤの習熟度や習得意欲に応じて遅らせることを特徴としている。
請求項16は、請求項8から請求項10のいずれかに記載の操作支援装置において、
前記操作ガイド実行部は、前記操作説明時におけるプレイヤの操作状況から習熟度や習熟意欲を推測し、操作支援方法を決定する複数の操作ガイドアプリを実行することを特徴としている。
請求項17は、請求項10の操作支援装置において、
前記操作ガイド実行部は、前記操作練習時におけるプレイヤの操作状況から習熟度や習熟意欲を推測し、操作支援方法を決定する1つ以上の操作ガイドアプリを実行することを特徴としている。
請求項18は、装置についての操作ガイドアプリを操作中のプレイヤを支援するための操作支援方法であって、
前記装置に搭載された表示画面を有する入力装置で所定の操作ガイドパラメタを用いて操作ガイドアプリを実行する操作ガイド実行ステップと、
前記入力装置を用いてプレイヤの操作状況を取得するとともに、プレイヤによる前記装置の回転操作や傾け操作の角度や速度の操作状況を取得する操作状況受付ステップと、
前記操作状況受付ステップで受けつけた操作状況を解析してプレイヤの習熟度や習得意欲を推測し、プレイヤが操作に躓きそうな状態であることを検出する操作状況解析ステップと、
前記操作状況解析ステップで取得した、操作に躓きそうな状況にあるプレイヤを支援するための操作支援方法を決定するための操作支援方法決定ステップと、
前記操作支援方法決定ステップで検出した操作支援方法を実行中の操作ガイドアプリに即座に適応するために、前記操作ガイドアプリの操作ガイドパラメタを更新する操作ガイドパラメタ決定ステップと
を含むことを特徴としている。
請求項19は、請求項18に記載の操作支援方法の各手順をコンピュータにより実行可能とした操作支援プログラムであることを特徴としている。
請求項20は、請求項1から請求項11のいずれかに記載の操作支援装置における各部を装置が備えるコンピュータ上に構築可能とした操作支援プログラムであることを特徴としている。
本発明の操作支援装置及び操作支援方法によれば、プレイヤが使用開始前に余計な操作をすることなく、操作ガイドアプリの使用開始時からプレイヤの習熟度に応じた動的な操作支援を提供することができる。
したがって、従来の操作履歴に基づく操作支援装置や操作支援方法を使用した場合と比較して、操作支援開始までの準備を少なくすることができる。
また、本発明の操作支援装置および操作支援方法によれば、プレイヤの習熟度や習熟意欲と関係の深いプレイヤの操作状況や周辺状況を取得して、即座にプレイヤの習熟度や習得意欲を推測することにより、動的に操作の説明方法や練習回数や速度を変えて提供することでプレイヤを支援することができる。
その結果、シニアなどタッチパネルにおけるタッチデバイス操作に不慣れで、操作中に周辺の環境や精神面の変化の影響を受けやすい人達に、スマートフォン操作などの操作ガイドアプリを提供する際に、習熟度や習得意欲が異なる各プレイヤに適した適正な操作ガイドアプリを提供することができる。
更に、本発明の操作支援装置および操作支援方法によれば、操作支援装置に付属の入力装置(タッチパネル)や認識装置(センサやマイクロホンやカメラ)だけを使ってプレイヤの操作状況や周辺状況を広く取得し、プレイヤの操作の習熟度や習熟意欲を推測することができる。
したがって、プレイヤが操作支援装置を携帯していれば、どこにいても手軽にプレイヤに適した操作支援を行うことができる。
本発明の実施形態の一例である操作支援装置の機能構成の一例を示すブロック図である。 本発明の操作支援装置の全体の処理手順を示すフローチャートである。 本発明の操作支援装置の操作ガイド読取部における処理手順を示すフローチャートである。 本発明の操作支援装置の操作ガイド実行部における処理手順を示すフローチャートである。 本発明の操作支援装置の操作状況受付部における処理手順を示すフローチャートである。 本発明の操作支援装置の操作状況解析部における処理手順の一部を示すフローチャートである。 本発明の操作支援装置の操作状況解析部における処理手順の一部を示すフローチャートである。 本発明の操作支援装置の操作支援方法決定部における処理手順の一部を示すフローチャートである。 本発明の操作支援装置の操作支援方法決定部における処理手順の一部を示すフローチャートである。 本発明の操作支援装置の操作ガイドパラメタ決定部における処理手順を示すフローチャートである。 本発明の操作支援装置の習熟度判定部における処理手順を示すフローチャートである。
本発明の実施形態の一例としての操作支援装置について、図1を参照しながら説明する。
操作支援装置10は、タッチパネルなど操作を行うための表示部を備えた情報処理装置等の各種装置に内蔵され、各種装置の操作を説明するために表示部に表示される操作ガイドアプリの操作支援を行うものである。
操作支援装置10が適用される各種装置は、スマートフォン、タブレット端末、携帯型音楽再生機、携帯型ゲーム機などの情報処理装置や、プリンター、電子レンジや冷蔵庫など、操作説明を表示するための表示部を備えた機器である。
操作支援装置10をスマートフォン(情報処理装置)に適用した例について説明する。
情報処理装置はタッチパネルを採用し、本発明の操作支援装置10を内蔵している。操作支援装置10は、表示部に表示する操作ガイドをプレイヤの操作状況に基づいて支援する制御部11と、プレイヤによる操作が行われる入力装置としてのUI部12と、プレイヤの操作時における周辺状況を検知する認識部13と、操作履歴などを記録する記憶部14とを備えて構成されている。
制御部11はCPU(Central Processing Unit)、ROM(Read Only Memory)およびRAM(Random Access Memory)を備えるマイクロコンピュータで構成されている。CPUはROMや記憶部14に記憶された操作支援プログラムをRAMに読み出して実行することにより、操作支援装置10の各部を制御する。
制御部11は操作支援プログラムを実行することにより、操作ガイド読取部111、操作ガイド実行部112、操作状況受付部113、操作状況解析部114、操作支援方法決定部115、操作ガイドパラメタ決定部116、習熟度判定部117に相当する機能を提供する。
UI部12は、GUI(Graphical User Interface)を提供し、表示面に画像を表示させる表示画面(表示部)121と、表示画面に重ねて設けられプレイヤに操作されるタッチパネル(操作部)122とを備える。UI部12は、プレイヤによりタッチパネル122が操作されることで、プレイヤの操作状況を検出できる。
認識部13は、プレイヤが情報処理装置を操作する場合の周辺状況を検知するため、スマートフォン(情報処理装置)を動かした場合の加速度を検知する加速度センサ131、表示画面121から離れた位置でのプレイヤのジェスチャ操作を検知する近接センサ132、プレイヤの受話音声等を収音するマイクロホン133、プレイヤの視線等を検知するカメラ134を備える。認識部13は、これら全部を必要とするものではなく、1つ又は複数の組み合わせであってもよい。
記憶部14は、例えばEPROMを備え、各種アプリケーションプログラムの他、操作ガイドアプリが記憶されたオリジナル操作ガイド記憶部141と、実行する操作ガイドアプリのパラメタを記憶する実行用操作ガイドパラメタ記憶部142と、プレイヤによる過去の操作履歴を記憶する操作履歴記憶部143と、プレイヤによる過去の操作習熟度判定を記録する操作習熟度判定記憶部144と、プレイヤに対して過去に決定された操作支援方法を記録する操作支援方法決定記憶部145と、各操作支援方法に対する操作ガイドパラメタ決定情報が記憶された操作ガイドパラメタ決定記憶部146と、プレイヤの過去の操作習熟度が記録された習熟度記憶部147を備えて構成されている。
次に、制御部11についての詳細な構成を説明する。
操作ガイド読取部111は、プレイヤによるタッチパネル122の操作や、認識部13のマイクロホン133による音声を使って選択した操作ガイドアプリをオリジナル操作ガイド記憶部141から読取り、操作ガイドアプリと共に読み込んだ操作用パラメタを実行用操作ガイドパラメタ記憶部142に記憶する。
操作ガイド実行部112は、操作ガイド読取部111が読み込んだ操作ガイドアプリを、実行用操作ガイドパラメタ記憶部142内の操作ガイドパラメタを適応させながら、表示画面121に提供して実行する。
すなわち、操作ガイド実行部112は、実行用操作ガイドパラメタ記憶部142の操作ガイドパラメタ情報を参照して、操作ガイドアプリを実行する。
操作ガイド実行部112は、プレイヤに操作内容を理解させるため、表示画面121に操作説明を表示する説明画面を提示する操作ガイドアプリを実行してもよい。
また、操作ガイド実行部112は、表示画面121に操作説明を表示する説明画面と、表示画面121に操作練習を表示する操作画面とを交互に提示することにより、プレイヤに対して複数の関連操作が提供される操作ガイドアプリを実行してもよい。
これらの場合において、操作ガイド実行部112は、直前のプレイヤの操作状況又は周辺状況に応じて操作説明や操作練習における指導方法や指導レベルを変化させた操作ガイドアプリを実行するようにしてもよい。
操作ガイド実行部112は、プレイヤによって期待されるリアクションに従った操作が行われなかった操作状況に対して、後続の操作過程で、同一の操作状況に対して期待されるリアクションに従った操作が行われた場合は、実行していた操作支援を解除する操作ガイドアプリを実行してもよい。
操作ガイド実行部112は、プレイヤの操作状況や周辺状況から状況に適した操作支援方法が複数存在する場合は、いずれかを選択して適応する。すなわち、後述する操作支援方法決定部115が複数の操作支援方法を同時に取得した場合、後続の操作練習にいずれかの操作支援方法を適応させる操作ガイドアプリを実行してもよい。
操作ガイド実行部112は、プレイヤの期待されるリアクションが期待よりも遅れて発生する場合、その後の操作練習の開始時期や速度をプレイヤの習熟度や習得意欲に応じて遅らせる操作ガイドアプリを実行してもよい。
操作ガイド実行部112は、前記した操作説明時や操作練習時におけるプレイヤの操作状況から習熟度や習熟意欲を推測し、操作支援方法を決定する1つ以上の操作ガイドアプリを実行する。
操作状況受付部113は、タッチパネル122や加速度センサ131や近隣センサ132やマイクロホン133やカメラ134から、プレイヤの操作状況や操作支援装置10の周辺状況を受け取り、操作状況解析部114に提供すると共に操作履歴記憶部143に記憶する。ここで、操作状況受付部113が受け付ける周辺状況について説明する。
操作状況受付部113は、タッチパネル122から受け付けた、タッチパネル122に物体が接触していることを示す信号を、操作履歴記憶部143に記憶すると共に操作状況解析部114に提供する。
操作状況受付部113は、加速度センサ131から受けつけた、操作支援装置10が傾いたり回転したりしていることを示す信号を、操作履歴記憶部143に記憶すると共に操作状況解析部114に提供する。
操作状況受付部113は、近隣センサ132から受け付けた、タッチパネル122の上方でジェスチャ操作が行われていることを示す信号を、操作履歴記憶部143に記憶すると共に操作状況解析部114に提供する。
操作状況受付部113は、定期的に、マイクロホン133が受け付けた操作支援装置10の周辺の音声を表す信号を、操作履歴記憶部143に記憶すると共に操作状況解析部114に提供する。
操作状況受付部113は、定期的に、カメラ134が受け付けたプレイヤの視線を表す信号を、操作履歴記憶部143に記憶すると共に操作状況解析部114に提供する。
また、操作状況受付部113は、臭気センサ、温度センサ、湿度センサを用いて、操作支援装置10の周辺の臭いや温度や湿度を検知して操作状況解析部114に提供することで、操作中のプレイヤにおける精神状態に影響を及ぼしやすい周囲状況を検出することができる。
操作状況受付部113は、プレイヤに対して操作の開始指示を出した後に一定時間を経過しても、タッチパネル122や認識部13から、プレイヤの期待される操作を表す信号を受けとらなかった場合は、操作履歴記憶部143に記憶すると共に操作状況解析部114に提供する。
操作状況解析部114は、操作状況受付部113から受け取った、プレイヤの操作状況や操作支援装置10の周辺状況を示す信号に基づいて、操作履歴記憶部143や操作習熟度判定記憶部144や習熟度記憶部147の情報を参照してプレイヤの習熟度や習熟意欲を推測し、プレイヤが操作に躓かないように支援ができると判断した場合は、推測した習熟度や習熟意欲を操作支援方法決定部115に伝える。
ここで、操作状況解析部114が推測する習熟度や習熟意欲の判断手法について説明する。
操作状況解析部114が、操作ガイドアプリの提示中にタッチパネル122への何らかの期待に反する接触動作を受け取った場合は、操作ガイドアプリ視聴時(操作説明時)には、プレイヤが操作説明ガイドの指示に従わずに、無駄に操作の説明中にタッチパネルを触ったり、表示画面上のボタンを押したりしており、操作説明ガイドの説明に従って表示画面を見ていられない習熟度の低いプレイヤ(プレイヤP1)であると判断して、操作支援方法決定部115に伝える。
また、操作練習中に受け取った場合は、操作ガイドアプリの事前の説明や表示中の説明を視聴していなかったり、視聴していたとしても理解ができない習熟度の低いプレイヤ(プレイヤP2)であると判断して、操作支援方法決定部115に伝える。
ここにおいて、期待に反する操作とは、説明視聴中に発生した全操作や、操作練習中に発生した、事前の説明や練習中に画面に提示される説明に反した操作を意味する。
また、推測の手段として、操作履歴記憶部143や習熟度記憶部147の情報を利用してもよい。操作履歴記憶部143の情報から、過去にも操作ガイドアプリの説明中にタッチパネル122を無駄に触る操作を繰り返していたり、習熟度記憶部147の情報から過去の操作ガイドアプリの操作成績が低かったりした場合は、プレイヤの習熟度の低さについての確実度が増す。
一方、過去において、操作ガイドアプリの説明中にタッチパネルを無駄に触る操作を実施した回数が少ない場合や、過去のガイドアプリの操作結果が優れている場合は、タッチパネル122への接触操作はプレイヤの誤操作と判断して、推測結果を操作支援方法決定部115へは伝えない。
操作状況解析部114が、操作ガイドアプリを提示中の操作支援装置10の期待に反する傾きや回転を受け付けた場合は、プレイヤが表示画面121以外を注目していると推測して、受け付けた傾きや回転の向きや大きさから、プレイヤが注目している操作支援装置10の背面や側面の機能を特定する。特定できた機能が、操作ガイドアプリが説明中の内容と一致した場合は、該当する特定機能に関心が高く学習意欲も高いプレイヤ(プレイヤP3)であると判断して、操作支援方法決定部115に伝える。
ここにおいて、期待に反する操作とは、説明視聴中に発生した全操作や、操作練習中に発しした、事前の説明や練習中に画面に提示される説明に反した操作を意味する。
一方、特定した機能が、操作ガイドアプリで説明している内容と異なる場合は、プレイヤが操作ガイドアプリの説明を無視して勝手なことをしている、習熟意欲に乏しいプレイヤ(プレイヤP7)であると判断して、操作支援方法決定部115に伝える。
操作状況解析部114が、操作ガイドアプリの提示中にタッチパネル122の上方で行われた期待に反するジェスチャ操作についての信号を受け取り、受け取ったジェスチャ操作がガイドの説明内容と一致した場合は、操作に自信がなく念入りな練習を希望するプレイヤ(プレイヤP4)が、タッチパネル122の上方で実際に操作をする前にイメージトレーニングを行ったと判断して、操作支援方法決定部115に伝える。
ここにおいて、期待に反する操作とは、説明視聴中に発生した全操作や、操作練習中に発生した、事前の説明や練習中に画面に提示される説明に反した操作を意味する。
受け取ったジェスチャ操作の軌跡がガイドの操作内容と一致するか否かについては、例えば、受け取ったジェスチャや想定される操作の軌跡の面積や特徴点を解析結果と共に操作習熟度判定記憶部144に記憶して後の判定に用いてもよい。
一方、受け取ったジェスチャ操作と操作ガイドアプリの操作内容が一致しない場合は、操作ガイドアプリの説明を無視して勝手なことをしている習熟意欲に乏しいプレイヤ(プレイヤP7)であると判断して、操作支援方法決定部115に伝える。
操作状況解析部114が、期待に反するプレイヤの音声を受け取った場合は、操作ガイドアプリの内容に戸惑っているプレイヤ(プレイヤP5)であると判断して、操作支援方法決定部115に伝える。
ここにおいて、期待に反するプレイヤの音声とは、説明視聴中に発生した全音声や、操作練習中の、事前の説明や練習中に画面に提示された説明に反した音声を意味する。
上述した解析では、音声認識ソフトを利用してプレイヤの発する言葉を認識し、認識した言葉からプレイヤの気持ちを推測することにより推測精度を向上させる。音声認識ソフトを使用する際は、プレイヤや状況ごとに発する言葉を収集し、データベース化をして操作習熟度判定記憶部144に保存して後の判定に使用してもよい。
操作状況解析部114が、操作支援装置の周辺の音声を定期的に取得し、周辺の音声からプレイヤの音声を取り除いた音声(=周辺の騒音)と操作支援ガイドの音声とを比較し、操作習熟度判定記憶部144に記憶した閾値より大きい場合は、周辺の騒音が大きすぎるために操作ガイドアプリの音声が聞き取りにくいかもしれないプレイヤ(プレイヤP6)であると判断して、操作支援方法決定部115に伝える。
プレイヤの特性と騒音の大きさ、および操作の正確度を、データベース化して操作習熟度判定記憶部144に保存し、閾値の精度更新に利用してもよい。
操作状況解析部114が、定期的に受け付けるプレイヤの視線信号から視線の方向を計算し、プレイヤが表示画面121の方向を向いていないと推測した場合は、操作ガイドアプリの説明を無視して勝手なことをしている習熟意欲に乏しいプレイヤ(プレイヤP7)と判断して操作支援方法決定部115に伝える。
プレイヤの視線の方向を操作習熟度判定記憶部144にデータベース化し、プレイヤが表示画面121を見ていることを判断するための閾値の精度更新に利用してもよい。
操作状況解析部114が、プレイヤに操作を指示した後に一定時間が経過しても、期待するプレイヤのリアクションを受け取れなかった場合は、操作ガイドアプリの開始指示に従うことができないほど自信がなかったり習熟度の低かったりするプレイヤ(プレイヤP8)である可能性が高いとして、操作支援方法決定部115に伝える。
一方、操作状況解析部114が、プレイヤに操作を指示した後の一定時間内に、期待するプレイアのリアクションを受け取れた場合は、操作ガイドアプリの説明通りに操作ができるプレイヤ(プレイヤP9)として、操作支援方法決定部115に伝える。
操作状況解析部114で、プレイヤP1からプレイヤP9までに分類されなかったプレイヤは操作支援の対象ではないプレイヤ(プレイヤP10)と判断され、操作支援方法決定部115には伝えられない。
上述した解析においては、プレイヤの特性と、指示が出てから操作を開始するまでの時間や操作支援方法をデータベース化して操作習熟度判定記憶部144に保存し、待機時間や操作支援方法の精度更新に利用してもよい。
操作支援方法決定部115は、操作状況解析部114から、操作に躓きそうなプレイヤを支援できる状況にあるという信号を受け取った場合は、操作支援方法決定記憶部145を参照してプレイヤの習熟度や習熟意欲に応じた操作支援方法を決定し、操作ガイドパラメタ決定部116に伝える。
また、操作支援方法決定部115は、同一プレイヤや他の同程度の習熟度や習熟意欲のプレイヤの過去や異なる操作ガイドアプリの操作成績を参考にして、習熟度や習熟意欲を推測するようにしてもよい。
次に、操作支援方法決定部115が決定する操作支援方法についてそれぞれ説明する。
操作支援方法決定部115が、操作状況解析部114から、操作説明ガイドの説明に従って表示画面を見ていられない習熟度の低いプレイヤ(プレイヤP1)であるという信号を受け取った場合は、操作ガイドアプリの操作指示方法を、本来ならば包括的な説明方法が適した場合であっても、ワンステップ毎の説明方法に切り替えるように操作ガイドパラメタ決定部116に伝える。
操作支援方法決定部115が、操作状況解析部114から、操作説明ガイドの説明に従って表示画面を見ていられない習熟度の低いプレイヤ(プレイヤP2)であるという信号を受け取った場合は、操作ガイドアプリの操作指示方法を、本来ならば包括的な説明方法が適した場合であっても、ワンステップ毎の説明方法に切り替えたり、操作の間違いをすぐに指示したりするように操作ガイドパラメタ決定部116に伝える。
操作支援方法決定部115が、特定機能に関心が高く習熟意欲も高いプレイヤ(プレイヤP3)であるという信号を受け取った場合は、オリジナルの操作ガイドアプリの進捗を一時停止して、該当機能についての説明を繰り返したり、詳細な説明を追加したりすることにより、プレイヤの習熟意欲を満たすように操作ガイドパラメタ決定部116に伝える。
上述した操作ガイドパラメタ決定部116では、操作状況解析部114が、プレイヤの関心が、操作支援装置10の背面や側面にある機能から、表示画面121に戻ったことを示す信号を受け取ったことを把握した場合は、操作支援方法決定部115が、表示画面121で実施している背面や側面の機能についての説明を終了して、表示画面121でオリジナル操作ガイドアプリの提供を再開するように伝える。
操作支援方法決定部115が、操作状況解析部114から、操作に自信がなく念入りな学習を希望するプレイヤ(プレイヤP4)であるという信号を受け取った場合は、操作学習の回数をふやしたり、操作スピードを遅くしたりするように操作ガイドパラメタ決定部116に伝える。
操作支援方法決定部115が、操作状況解析部114から、操作ガイドアプリの内容に戸惑っているかもしれないプレイヤ(プレイヤP5)であるという信号を受け取った場合は、操作ガイドアプリの進捗内容と一致したショートヘルプ機能を表示画面121に提示するように操作ガイドパラメタ決定部116に伝える。
操作支援方法決定部115が、操作状況解析部114から、操作ガイドアプリの音声が聞き取りにくいプレイヤ(プレイヤP6)であるという信号を受け取った場合は、操作ガイドアプリの操作音声を大きくしたり、イヤホンを使用したり、操作ガイドアプリの説明をテキスト主体にするように、といった提案を表示画面121に提示するように操作ガイドパラメタ決定部116に伝える。
操作支援方法決定部115が、操作状況解析部114から、操作ガイドアプリの説明を無視して勝手なことをしている習得意欲に乏しいプレイヤ(プレイヤP7)である、という信号を受け取った場合は、「操作ガイドアプリの説明に集中して下さい」といったメッセージを表示画面121に提示し、一定時間が経過してもプレイヤが従わなかった場合は、プレイヤがガイドアプリの説明に集中する準備ができるまで操作ガイドアプリを停止させるように、操作ガイドパラメタ決定部116に伝える。
操作支援方法決定部115が、操作状況解析部114から、操作ガイドアプリの開始指示に従えないほど自信がなかったり習熟度の低かったりするプレイヤ(プレイヤP8)であるという信号を受け取った場合は、プレイヤが操作を開始するまで指示を出し続けたり、繰り返して出したり、テキストだけでなく音声などを使ってもっとインパクトの大きな指示を出すように、操作ガイドパラメタ決定部116に伝える。さらに、プレイヤの遅れや習熟度に応じて操作ガイドアプリの進捗スピードを遅らせるように操作ガイドパラメタ決定部116に伝える。
操作支援方法決定部115が、操作状況解析部114から、操作ガイドアプリの説明通りに操作ができるプレイヤ(プレイヤP9)であるという信号を受け取った場合は、プレイヤを褒めて習熟意欲を高めてもよいと、操作ガイドパラメタ決定部116に伝える。
操作ガイドパラメタ決定部116は、操作支援方法決定部115からプレイヤへの操作支援方法を示す信号を受け取った場合は、操作ガイドパラメタ決定記憶部146を参照して該当する操作ガイドパラメタを決定し、実行用操作ガイドパラメタ記憶部142内の値を更新する。
習熟度判定部117は、プレイヤが操作ガイドアプリを全て終了した後に、操作ガイドアプリ内の練習操作の成功率や実施した操作支援内容に基づき、実施した操作ガイドアプリについての総合的な習熟度を判定してプレイヤの情報とともに習熟度記憶部147に記憶する。
操作状況解析部114では、プレイヤの操作状況からプレイヤの習熟度や習得意欲を推測する際に習熟度記憶部147に記憶されたプレイヤの操作ガイドアプリ毎の総合的な習熟度を利用してもよい。
例えば、操作状況解析部114でプレイヤの操作説明中のタッチパネル122への押下操作の信号を受け取った場合、プレイヤが操作説明に従えない習熟度の低いプレイヤなのか、もしくはたまたま不注意や無関心のため説明に従わなかったのかを判断する場合に、習熟度記憶部147に記憶された、過去の同一プレイヤや他の習熟度や習得意欲が同程度のプレイヤの習熟度を参照すれば判断の確かさが増す。
次に、実施形態における操作支援装置10の動作について、図2を参照して説明する。
ステップ1:
先ず、操作ガイド読取部111により、プレイヤの希望の機能の操作ガイドの読み取りが行われる。すなわち、ステップ1のフローチャートである図3に示すように、タッチパネル122(UI部12)やマイクロホン133(認識装置13)を使用してプレイヤから学習希望のガイドアプリの指定を受け(S11)、操作支援装置10の操作ガイド読取部111がプレイヤの選択した操作ガイドアプリをオリジナル操作ガイド記憶部141から読みとると共に、操作ガイドアプリの実行のための操作パラメタの初期値を実行用操作ガイドパラメタ記憶部142に記憶する(S12)。
続いて、操作ガイドアプリが未終了であるか否かを判断し、未終了である場合にはステップ2へ進む。操作ガイドアプリが終了している場合は、後述するステップ7に進む。
ステップ2:
操作ガイド実行部112により、オリジナル操作ガイド記憶部141から読み取った操作ガイドアプリを実行する。すなわち、ステップ2のフローチャートである図4に示すように、操作ガイド実行部112は実行用操作ガイドパラメタ記憶部142に記憶した操作ガイドパラメタの内容に従って、操作ガイドアプリを表示画面121上で実施する(S21)。
ステップ3:
操作状況受付部113により、タッチパネル(入力装置)122や、認識装置13からプレイヤの操作状況や周辺状況を受け付ける。すなわち、ステップ3のフローチャートである図5に示すように、操作状況受付部113は、操作ガイドアプリが始まると、プレイヤの操作状況や操作支援装置10の周辺状況を示す信号を、タッチパネル122や加速度センサ131や近隣センサ132やマイクロホン133やカメラ134から受け取り(S31)、操作履歴記憶部143に記憶する(S32)と共に、操作状況解析部114に送る。
認識装置13として、臭気センサ、温度センサ、湿度センサなどを設置した場合は、これらのセンサが検知した周辺状況の情報も操作状況解析部114に送られる。
ステップ4:
次に、操作状況解析部114は、操作状況受付部113から受けとったプレイヤの操作状況や周辺状況から、操作履歴記憶部143や操作習熟度判定記憶部144や習熟度記憶部147を参照して、プレイヤの習熟度や習熟意欲を推測する。さらに、操作に躓きそうなプレイヤを動的に支援できる状況にあると判断した場合は、プレイヤの習熟度や習熟意欲を示す信号を操作支援方法決定部115に送る。
操作状況解析部114において、受け取った操作信号からプレイヤの習熟度や取得意欲を推測して、プレイヤが操作支援の対象になるか否かを判断する詳細手順について、図6及び図7のフローチャートを参照して説明する。
受け取った信号が期待に反する画面を触れる操作か否かを判断する(S401)。
期待に反する画面を触れる操作である場合、説明視聴中か否かを判断する(S402)。
説明視聴中の場合、操作ガイドアプリの説明に従って表示画面を見ていられない習熟度の低いプレイヤ(P1)と判断する(S403)。
また、説明視聴中でない場合、操作ガイドアプリの説明の視聴や理解ができず、指示通りに操作ができない習熟度の低いプレイヤ(P2)と判断する(S404)。
S401で期待に反する画面を触れる操作でない場合、受け取った信号が期待に反する傾きや回転操作か否かを判断する(S405)。
期待に反する傾きや回転操作である場合、スマートフォン(操作装置)に関して、傾きや回転からプレイヤが注目する背面や側面の機能を特定する(S406)。そして、機能が特定できた場合(S407)、操作ガイドアプリで取り扱っている機能と一致しているか否かを判断し(S408)、取り扱っている機能であれば、特定機能に関心が高く学習意欲も高いプレイヤ(P3)と判断する(S409)
S407において機能が特定できない場合、又は、S408において操作ガイドアプリで取り扱っている機能と一致しない場合は、操作ガイドアプリの説明を無視して勝手なことをしている習熟意欲の乏しいプレイヤ(P7)と判断する(S410)。
S405において、期待に反する傾きや回転操作でない場合、受け取った信号がタッチパネルの上方で行われた、期待に反するジェスチャ操作か否かを判断する(S411)。
期待に反するジェスチャ操作である場合、ジェスチャの内容を認識し(S412)、操作ガイドアプリで取り扱っている操作内容と一致しているか否かを判断し(S413)、操作内容が一致していれば、操作に自信がなく念入りな練習を希望するプレイヤ(P4)と判断する(S414)。
S413において、操作ガイドアプリで取り扱っている操作内容と一致していない場合、操作ガイドアプリの説明を無視して勝手なことをしている習熟意欲の乏しいプレイヤ(P7)と判断する(S415)。
S411において、タッチパネルの上方で行われた、期待に反するジェスチャ操作でない場合、受け取った信号がスマートフォン(操作装置)周辺の音声であるか否かを判断する(S416)。
スマートフォン(操作装置)周辺の音声である場合、プレイヤの音声と操作ガイドアプリの音声と周辺の騒音を分離し(S417)、期待に反するプレイヤの音声が有るか否かを判断し(S418)、音声が有る場合はプレイヤの音声の音声認識を行い(S419)、戸惑いを表す言葉が有るか否かを判断し(S420)、戸惑いを表す言葉がある場合は、操作ガイドアプリの内容に戸惑っているプレイヤ(P5)と判断する(S421)。
また、戸惑いを表す言葉がない場合は、操作ガイドアプリの内容に戸惑っているかもしれないプレイヤ(P5)と判断する(S422)。
更に、周辺の騒音が操作ガイドアプリの音声より著しく大きいか否かを判断し(S423)、著しく大きい場合は、操作ガイドアプリの音声が聞き取りにくいかもしれないプレイヤ(P6)と判断する(S424)。
S416において、受け取った信号がスマートフォン(操作装置)周辺の音声でない場合、受け取った信号が操作者(プレイヤ)の視線であるか否かを判断する(S425)。
S416において、受け取った信号が視線である場合、視線推定を行い(S426)、視線の方向が表示画面外であるか否かを判断する(S427)。視線の方向が表示画面外である場合、操作ガイドアプリの説明を無視して勝手なことをしている習熟意欲の乏しいプレイヤ(P7)と判断する(S428)。
視線の方向が表示画面外でない場合、操作支援の対象でないプレイヤ(P10)と判断する(S429)。
S425において、受け取った信号が操作者(プレイヤ)の視線でない場合、操作指示後一定時間がたっても操作が始まらないか否かを判断する(S430)。
操作が始まらない場合、操作ガイドアプリの開始指示に従えないほど自信がなかったり、習熟度の低かったりするプレイヤ(P8)と判断する(S431)。
操作が始まる場合、操作ガイドアプリの説明通りに操作ができるプレイヤ(P9)と判断する(S432)。
S403、S404、S409、S410、S414、S415、S421,S422,S424、S428、S429、S431、S432で、操作状況及び周辺状況からプレイヤの分類(P1〜P10)が行われた場合や、S423において周辺の騒音が操作ガイドアプリの音声より著しく大きくない場合、操作支援の対象であるプレイヤについての信号を操作支援方法決定部115に伝える(S433)。このステップ433においては、複数のプレイヤについての信号を伝える場合もある(例えば、P5とP6)。
ステップ5:
次に、操作支援方法決定部115は、操作状況解析部114から取得したプレイヤの習熟度や習熟意欲を、操作支援方法決定記憶部145の記録と対応させてプレイヤへの操作支援方法を決定し、操作ガイドパラメタ決定部116に送る。
操作状況解析部114において、取得したプレイヤの習熟度や取得意欲から、プレイヤに対する操作支援方法を決定する詳細手順について、図8及び図9のフローチャートを参照して説明する。
先ず、操作ガイドアプリの説明に従って表示画面を見ていられない習熟度の低いプレイヤ(P1)であるか否かを判断する(S501)。プレイヤがP1である場合、操作の進め方をワンステップずつにする操作支援とする(S502)。
S501において、プレイヤがP1でない場合、操作ガイドアプリの説明の視聴や理解ができず指示通りに操作ができない習熟度の低いプレイヤ(P2)であるか否かを判断する(S503)。プレイヤがP2である場合、操作の進め方をワンステップずつにし、操作の間違いを直ぐに指示する操作支援とする(S504)。
S503において、プレイヤがP2でない場合、特定機能に関心が高く学習意欲も高いプレイヤ(P3)であるか否かを判断する(S505)。プレイヤがP3である場合、該当機能に注目している間は操作ガイドを一時中止するとともに、該当機能の詳細な説明を追加する操作支援とする(S506)。
S505において、プレイヤがP3でない場合、操作に自信がなく念入りな練習を希望するプレイヤ(P4)であるか否かを判断する(S507)。プレイヤがP4である場合、該当操作について、練習回数を増やし、操作スピードを遅くする操作支援とする(S508)。
S507において、プレイヤがP4でない場合、操作ガイドアプリの内容に戸惑っている(又は戸惑っているかもしれない)プレイヤ(P5)であるか否かを判断する(S509)。プレイヤがP5である場合、該当操作について表示画面に対してショートヘルプ機能を提示する操作支援とする(S510)。
また、プレイヤがP5である場合は、図7のS423及びS424により、同時にP6である可能性も有しているので、S510で操作支援を行った後に、S511でP6であるか否かの判断が行われる。
S509において、プレイヤがP5でない場合、操作ガイドアプリの音声が聞き取りにくいかもしれないプレイヤ(P6)であるか否かを判断する(S511)。プレイヤがP6である場合、該当操作について、操作ガイド音声の拡大、イヤホンの使用、テキストベースの操作ガイドを提案する操作支援とする(S512)。
S511において、プレイヤがP6でない場合、操作ガイドアプリの説明を無視して勝手なことをしている習熟意欲の乏しいプレイヤ(P7)であるか否かを判断する(S513)。プレイヤがP7である場合、操作ガイドの説明に集中するようにメッセージを提示し、提示しても効果がない場合は、プレイヤが操作ガイドの説明に集中するまで操作ガイドを一時停止させる操作支援とする(S514)。
S513において、プレイヤがP7でない場合、操作ガイドアプリの開始指示に従えないほど自信がなかったり習熟度の低かったりするプレイヤ(P8)であるか否かを判断する(S515)。プレイヤがP8である場合、プレイヤが操作を開始するまで指示を出し続け、若しくは繰り返す、よりインパクトのある指示を出す、プレイヤの操作の遅れや習熟度に応じた操作ガイドの進捗スピードを遅らせる操作支援とする(S516)。
S515において、プレイヤがP8でない場合、操作ガイドアプリの説明通りに操作ができるプレイヤ(P9)であるか否かを判断する(S517)。プレイヤがP9である場合、操作ガイドの説明通りに操作ができたことを褒めて、学習意欲を高める操作支援とする(S518)。
操作状況解析部114において、S502、S504、S506、S508、S510、S512、S514、S516、S518の処理で操作支援方法が決定した場合、決定した操作支援内容を操作ガイドパラメタ決定部116に伝える(S520)。
プレイヤがP5及びP6の両方に該当する場合は、両方の操作支援内容を伝える。
ステップ6:
次に、操作ガイドパラメタ決定部116は、操作支援方法の決定によって変更した操作ガイドパラメタの値を変更する。すなわち、ステップ6のフローチャートである図10に示すように、操作ガイドパラメタ決定部116は、操作支援方法決定部115から受け取った操作支援方法を、操作ガイドパラメタ決定記憶部146を参照して該当する操作ガイドパラメタに変換し(S61)、実行用操作ガイドパラメタ記憶部142に記憶する。
操作ガイドパラメタ決定部116に、P5及びP6の両方の操作支援内容が伝えられた場合は、どちらかの操作支援方法に適応させるため、対応する操作ガイドパラメタの値に更新する。
上述したステップ2からステップ6までの処理は、操作ガイドアプリが終了するまで繰り返される。
操作ガイドアプリが終了した場合は、ステップ7の処理が行われる。
ステップ7:
習熟度判定部117は、操作ガイドアプリ全体を通しての操作の習熟度を判定し、習熟度記憶部147に記憶する。すなわち、ステップ7のフローチャートである図11に示すように、プレイヤは操作ガイドアプリを全て終了した時点で、操作ガイドアプリの練習の正解率や操作ガイドアプリが提供した操作支援内容に基づき、操作ガイドアプリ毎のプレイヤによる操作の習熟度を計算し(S71)、習熟度記憶部147に記憶する。
上述した操作支援装置10によれば、タッチパネル122や認識装置13から検出されたプレイヤの操作状況や周辺状況に基づいて、操作中のプレイヤに対する操作支援方法を決定し、動的に操作ガイドアプリの操作パラメタを更新することにより、プレイヤに適した操作ガイドを提供することで、プレイヤの操作支援を行うことができる。
更に、操作ガイドアプリで行われる複数の関連操作について、操作説明による視聴部分と、操作練習による行動部分を交互に提示する操作ガイドアプリを実行する操作支援装置10である場合は、プレイヤの説明視聴時の操作状況から推測した習熟度や習熟意欲に応じて後続の操作練習時の操作支援方法を決定することで、決定した操作支援方法を後続のいずれかの操作練習に適応させることができる。
また、期待されるリアクションに従った操作が行われなかった操作状況に対して、後続の操作過程において期待されるリアクションに従った操作が行われた場合は、実施していた操作支援を解除するようにしてもよい。
したがって、操作支援装置10は、直前のプレイヤの操作状況や周辺状況を考慮することでプレイヤの精神状態に応じて練習操作の指導方法や指導レベルを変えるため、感情が変わりやすかったり物忘れをしやすかったりする高齢者などに有効である。
また、上述した実施形態は、全て本発明を例示的に示すものであって限定的に示すものではなく、本発明は他の数々の変形態様および変更態様で実施することができる。
10…操作支援装置、 11…制御部、 12…UI部(入力装置)、 13…記憶部、 111…操作ガイド読取部、 112…操作ガイド実行部、 113…操作状況受付部、 114…操作状況解析部、 115…操作支援方法決定部、 116…操作ガイドパラメタ決定部、 117…習熟度判定部、 121…表示画面、 122…タッチパネル、 131…加速度センサ、 132…近隣センサ、 133…マイクロホン、 134…カメラ、 141…オリジナル操作ガイド記憶部、 142…実行用操作ガイドパラメタ記憶部、 143…操作履歴記憶部、 144…操作習熟度判定記憶部、 145…操作支援方法決定記憶部、 146…操作ガイドパラメタ決定記憶部、 147…習熟度記憶部。

Claims (20)

  1. 表示画面を有する入力装置を備え、プレイヤによる操作ガイドアプリの操作状況を前記入力装置から取得するとともに、プレイヤの操作時における操作状況を検知する認識装置を備えることでプレイヤによる操作を動的に支援する操作支援装置であって、
    前記表示画面で前記操作ガイドアプリを実行する操作ガイド実行部と、
    前記表示画面におけるプレイヤの操作状況を前記入力装置で受け付けるとともに、 前記認識装置によるプレイヤの操作時における操作状況を受け付ける操作状況受付部と、
    前記操作状況受付部によって受け付けたプレイヤの操作状況が期待するリアクションに合致しているか否かを判断することによってプレイヤの習熟度や習得意欲を推測する操作状況解析部と、
    前記操作状況解析部で推測したプレイヤの習熟度や習得意欲に応じて、プレイヤに適した操作支援方法を決定する操作支援方法決定部と、
    前記操作支援方法決定部で決定した操作支援方法に基づいて前記操作ガイドアプリの操作ガイドパラメタを更新する操作ガイドパラメタ決定部とを備える一方、
    前記操作状況受付部は、プレイヤによる操作支援装置の回転操作や傾け操作の角度や速度の操作状況の受け付けを含むことを特徴とする操作支援装置。
  2. 前記入力装置の表示画面をタッチパネルで構成し、
    前記操作状況受付部は、プレイヤによる接触操作による前記タッチパネルの押下操作を検出する
    請求項1に記載の操作支援装置。
  3. 前記認識装置は、プレイヤの操作時における周辺状況の検知を含み、
    前記操作状況受付部は、
    レイヤの音声以外の操作支援装置の周辺の音声
    作支援装置の周辺の臭いや温度や湿度、
    のいずれか又は複数の周辺状況を受け付け、
    前記操作状況解析部は、
    前記操作状況及び前記周辺状況からプレイヤの習熟度や習得意欲を推測する
    請求項1に記載の操作支援装置。
  4. 前記入力装置や前記認識装置が受けつけた操作ガイドアプリの操作状況や周辺状況と、前記期待されるリアクションや前記習熟度や前記習熟意欲とが対応付けされた操作習熟度判定情報を記憶する操作習熟度判定記憶部を含み、
    前記操作状況解析部は、前記操作習熟度判定情報を参照して受け付けた操作状況が前記期待されるリアクションに合致しているか否かを判断することで、習熟度や習得意欲を判定する
    請求項3に記載の操作支援装置。
  5. 前記習熟度や前記習得意欲と、前記操作支援方法とが対応付けされた操作支援方法決定情報を記憶する操作支援方法記憶部を含み、
    前記操作支援方法決定部は、前記操作支援方法決定情報を参照して前記操作支援方法を決定する
    請求項1から請求項4のいずれかに記載の操作支援装置。
  6. 前記操作支援方法と前記操作ガイドパラメタとが対応付けされた操作ガイドパラメタ決定情報を記憶する操作ガイドパラメタ決定記憶部を含み、
    前記操作ガイドパラメタ決定記憶部は、前記操作ガイドパラメタ決定情報を参照して前記操作ガイドパラメタを決定して実行用操作ガイドパラメタ記憶部に記憶する
    請求項1から請求項5のいずれかに記載の操作支援装置。
  7. 前記操作ガイド実行部は、前記操作ガイドパラメタを参照して、操作ガイドアプリを実行する
    請求項1から請求項6のいずれかに記載の操作支援装置。
  8. 前記操作ガイド実行部は、前記表示画面に操作説明を表示する説明画面を提示する操作ガイドアプリを実行する
    請求項1から請求項7のいずれかに記載の操作支援装置。
  9. 前記操作ガイド実行部は、前記表示画面に操作練習を表示する操作画面を提示する操作ガイドアプリを実行する
    請求項1から請求項7のいずれかに記載の操作支援装置。
  10. 前記操作ガイド実行部は、前記表示画面に操作説明を表示する説明画面と、前記表示画面に操作練習を表示する操作画面とを交互に提示する複数の関連操作を提供し、
    前記操作支援方法決定部は、プレイヤの操作状況から推測した前記習熟度や前記習熟意欲に応じて後続の操作練習時の操作支援方法を決定し、決定した操作支援方法を後続のいずれかの操作練習の表示に適応させる
    請求項1から請求項7のいずれかに記載の操作支援装置。
  11. 前記操作ガイド実行部は、
    プレイヤによって期待されるリアクションに従った操作が行われなかった操作状況に対して、後続の操作過程で、同一の操作状況に対して期待されるリアクションに従った操作が行われた場合は、実行していた操作支援を解除する
    請求項1から請求項10のいずれかに記載の操作支援装置。
  12. 前記操作ガイド実行部は、直前のプレイヤの操作状況又は周辺状況に応じて前記操作ガイドアプリの指導方法や指導レベルを変化させて実行する
    請求項1から請求項11に記載の操作支援装置。
  13. 前記操作ガイド実行部は、前記操作支援方法決定部が複数の操作支援方法を同時に取得した場合、後続の操作説明又は操作練習にいずれかの操作支援方法を適応させる
    請求項8から請求項10のいずれかに記載の操作支援装置。
  14. 前記操作支援方法決定部は、同一プレイヤや他の同程度の習熟度や習熟意欲のプレイヤの過去や異なる操作ガイドアプリの操作成績を参考にして、習熟度や習熟意欲を推測する請求項1から請求項13に記載の操作支援装置。
  15. 前記操作ガイド実行部は、プレイヤの期待されるリアクションが期待よりも遅れて発生する場合、その後の操作練習の開始時期や速度をプレイヤの習熟度や習得意欲に応じて遅らせる
    請求項9又は請求項10に記載の操作支援装置。
  16. 前記操作ガイド実行部は、前記操作説明時におけるプレイヤの操作状況から習熟度や習熟意欲を推測し、操作支援方法を決定する1つ以上の操作ガイドアプリを実行する
    請求項8から請求項10のいずれかに記載の操作支援装置。
  17. 前記操作ガイド実行部は、前記操作練習時におけるプレイヤの操作状況から習熟度や習熟意欲を推測し、操作支援方法を決定する1つ以上の操作ガイドアプリを実行する
    請求項10に記載の操作支援装置。
  18. 装置についての操作ガイドアプリを操作中のプレイヤを支援するための操作支援方法であって、
    前記装置に搭載された表示画面を有する入力装置で所定の操作ガイドパラメタを用いて操作ガイドアプリを実行する操作ガイド実行ステップと、
    前記入力装置を用いてプレイヤの操作状況を取得するとともに、プレイヤによる前記装置の回転操作や傾け操作の角度や速度の操作状況を取得する操作状況受付ステップと、
    前記操作状況受付ステップで受けつけた操作状況を解析してプレイヤの習熟度や習得意欲を推測し、プレイヤが操作に躓きそうな状態であることを検出する操作状況解析ステップと、
    前記操作状況解析ステップで取得した、操作に躓きそうな状況にあるプレイヤを支援するための操作支援方法を決定するための操作支援方法決定ステップと、
    前記操作支援方法決定ステップで検出した操作支援方法を実行中の操作ガイドアプリに即座に適応するために、前記操作ガイドアプリの操作ガイドパラメタを更新する操作ガイドパラメタ決定ステップと
    を含むことを特徴とする操作支援方法。
  19. 請求項18に記載の操作支援方法の各手順をコンピュータにより実行可能とした操作支援プログラム。
  20. 請求項1から請求項11のいずれかに記載の操作支援装置における各部を装置が備えるコンピュータ上に構築可能とした操作支援プログラム。
JP2014003667A 2014-01-10 2014-01-10 操作支援装置、操作支援方法及び操作支援プログラム Active JP6210884B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014003667A JP6210884B2 (ja) 2014-01-10 2014-01-10 操作支援装置、操作支援方法及び操作支援プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014003667A JP6210884B2 (ja) 2014-01-10 2014-01-10 操作支援装置、操作支援方法及び操作支援プログラム

Publications (2)

Publication Number Publication Date
JP2015132951A JP2015132951A (ja) 2015-07-23
JP6210884B2 true JP6210884B2 (ja) 2017-10-11

Family

ID=53900105

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014003667A Active JP6210884B2 (ja) 2014-01-10 2014-01-10 操作支援装置、操作支援方法及び操作支援プログラム

Country Status (1)

Country Link
JP (1) JP6210884B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110309000A (zh) * 2018-03-20 2019-10-08 Tcl集团股份有限公司 应用更新提示方法及终端设备

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6601078B2 (ja) * 2015-09-10 2019-11-06 富士通株式会社 システム、情報処理装置、アラーム制御プログラム、およびアラーム制御方法
US10427047B2 (en) 2018-01-08 2019-10-01 Sony Interactive Entertainment LLC Identifying player engagement to generate contextual game play assistance
WO2023106040A1 (ja) * 2021-12-09 2023-06-15 ソニーグループ株式会社 情報処理装置、情報処理方法およびプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008009808A (ja) * 2006-06-30 2008-01-17 Sanyo Electric Co Ltd 情報処理装置
JP2008269588A (ja) * 2007-03-29 2008-11-06 Matsushita Electric Ind Co Ltd 認識装置、認識方法及び認識プログラム
JP2009020554A (ja) * 2007-07-10 2009-01-29 Panasonic Corp 操作支援表示装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110309000A (zh) * 2018-03-20 2019-10-08 Tcl集团股份有限公司 应用更新提示方法及终端设备
CN110309000B (zh) * 2018-03-20 2021-10-01 Tcl科技集团股份有限公司 应用更新提示方法及终端设备

Also Published As

Publication number Publication date
JP2015132951A (ja) 2015-07-23

Similar Documents

Publication Publication Date Title
JP6542039B2 (ja) フォーリー式触覚コンテンツ作成のためのシステム及び方法
JP6210884B2 (ja) 操作支援装置、操作支援方法及び操作支援プログラム
RU2656693C2 (ru) Способ и устройство подсказывания события
CN109348239A (zh) 直播片段处理方法、装置、电子设备及存储介质
US11372538B2 (en) Detection device and detection method
US20160231818A1 (en) Method for controlling an electronic device using a gesture command and a voice command
JP6689818B2 (ja) セルフバランスカーの制御方法、装置、プログラム及び記録媒体
JP2015215696A (ja) 電子機器、プログラム及び電子機器における警告方法
JP6556757B2 (ja) モバイル端末の操作状態を起動する方法、装置、プログラム及び記録媒体
JP2016053804A (ja) 操作支援装置、操作支援方法及び操作支援プログラム
US20120058825A1 (en) Game apparatus, game control method, and information recording medium
US11315599B2 (en) Information processing device and information processing method
JP6292672B2 (ja) 操作支援装置、操作支援方法及び操作支援プログラム
JP2014171725A (ja) ゲームプログラム及びゲーム装置
JP5937773B1 (ja) プログラム及び携帯端末
US20240115935A1 (en) Processing devices and methods
CN111656303A (zh) 数据处理装置的手势控制
JPWO2015163208A1 (ja) ゲーム配信装置、ゲーム配信方法、ゲーム配信プログラム
JP2011197719A (ja) タッチパネル入力装置、タッチパネル入力装置の制御方法およびプログラム
US11395964B2 (en) Information processing apparatus, information processing system, storage medium and information processing method
JP2018110709A (ja) 振動制御システム、振動制御装置、振動制御プログラムおよび振動制御方法
JP2015073714A (ja) ゴルフ用スコア記録装置
JP5933093B1 (ja) プログラム及び携帯端末
JP2014109885A (ja) 表示装置及び通知方法
JP5912940B2 (ja) 評価装置、評価方法、プログラム、ならびに、システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160729

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160822

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170518

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170524

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170906

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170912

R150 Certificate of patent or registration of utility model

Ref document number: 6210884

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150