JP2015041317A - 電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する方法、当該ユーザの習熟度を推定する方法、及び、当該ユーザの習熟度に応じたユーザ支援をする方法、並びに、それらのコンピュータ及びコンピュータ・プログラム - Google Patents

電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する方法、当該ユーザの習熟度を推定する方法、及び、当該ユーザの習熟度に応じたユーザ支援をする方法、並びに、それらのコンピュータ及びコンピュータ・プログラム Download PDF

Info

Publication number
JP2015041317A
JP2015041317A JP2013173026A JP2013173026A JP2015041317A JP 2015041317 A JP2015041317 A JP 2015041317A JP 2013173026 A JP2013173026 A JP 2013173026A JP 2013173026 A JP2013173026 A JP 2013173026A JP 2015041317 A JP2015041317 A JP 2015041317A
Authority
JP
Japan
Prior art keywords
user
model
electronic device
data
touch
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013173026A
Other languages
English (en)
Inventor
佐藤 大介
Daisuke Sato
大介 佐藤
哲郎 森村
Tetsuo Morimura
哲郎 森村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Priority to JP2013173026A priority Critical patent/JP2015041317A/ja
Publication of JP2015041317A publication Critical patent/JP2015041317A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】本発明は、スマートフォンや携帯電話などのマルチタッチ操作可能な表面を備えている電子機器の機能を単に制限するのではなく、ユーザの習熟度に応じて最適なフィードバックを提供するために、当該ユーザの習熟度を推定するためのモデルを提供することを目的とする。【解決手段】本発明は上記ユーザの習熟度を推定するためのモデルを構築する技法であり、当該技法は、所定の操作課題に対する複数のユーザそれぞれの操作ログ・データを読み出すこと、上記複数のユーザそれぞれの操作ログ・データから特徴ベクトルをユーザ毎に算出すること、上記算出された特徴ベクトルを用いて、上記タッチ操作スキルの低いデータと上記操作スキルの高いデータとを分類する為のモデルを構築することを含み、当該構築されたモデルが任意のユーザの習熟度を上記モデルの識別面からの距離として算出するために使用される。【選択図】図6B

Description

本発明は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する技法に関する。また、本発明は、当該構築されたモデルを使用して、上記電子機器の操作についてのユーザの習熟度を推定する技法に関する。さらに、本発明は、当該構築されたモデルを使用して、ユーザの習熟度に応じたユーザ支援をする技法に関する。
近年、マルチタッチ操作可能な電子機器(例えば、スマートフォン、携帯電話、タブレット端末、及びパーソナル・コンピュータ)が急速に普及してきている。しかしながら、それら電子機器のユーザ・インタフェース(以下、「UI」ともいう)は、全ての世代に渡って必ずしもユーザ・フレンドリであるとはいえない部分もある。また、それら電子機器のUIは、それら電子機器の操作に慣れていないユーザにとって年齢に関わりなく操作の困難性を伴う。
そこで、例えば携帯電話メーカーは、高齢者や初心者でも使用可能なスマートフォンや携帯電話を提供している。
しかしながら、スマートフォンや携帯電話の機能を、高齢者や初心者向けに単に制限することは、有用な機能の利用の制限にも繋がる。
下記特許文献1は、複数の第1のユーザの端末装置に対する操作履歴情報に基づいて、該操作履歴情報から算出される使い方の特徴を表す特徴量が似ているユーザ同士からなる複数のユーザ群を生成する使い方クラスタ生成手段と、複数の第2のユーザの端末装置に対する操作履歴情報のそれぞれを時間で分割した各分割区間の操作履歴情報毎に、該操作履歴情報から算出される使い方の特徴を表す特徴量が前記複数のユーザ群の使い方の特徴のうちの何れに類似するかを分析し、該分析結果に基づいて前記ユーザ群間の遷移関係を表す遷移モデルを生成する使い方遷移モデル生成手段とを備えることを特徴とするユーザモデル処理装置を記載する。
下記特許文献2は、ユーザの生体信号を用いて機器の使いやすさを評価するためのユーザビリティ評価装置、ユーザビリティ評価方法、およびプログラムを記載する。
下記特許文献3は、電子化された作業におけるユーザの操作を支援するシステムおよびその方法を記載する。
下記特許文献4は、金融機器や駅務機器、自動化情報システムなど、ユーザとの対話を行うことでタスクを達成する対話装置に係り、特にユーザにシステ
ムの操作方法を提示する操作ガイダンス出力方法を記載する。
下記非特許文献1は、運動障害を持つユーザの個々の運動能力に適応されたパーソナライズされたインタフェースを自動的に生成するためのシステムを記載する。
国際公開第2010/010653号 特開2007−052601号公報 特開平8−76955号公報 特開平8−44520号公報
Krzysztof Z. Gajos et., al. "Improving the Performance of Motor-Impaired Users with Automatically-Generated, Ability-Based Interfaces", Proceedings of the twenty-sixth annual SIGCHI conference on Human factors in computing systems, page 1257-1266. New York, NY, USA, ACM, (2008) 、インターネット〈URL:http://www.cs.washington.edu/ai/puirg/papers/kgajos-chi08-supple.pdf〉より入手可能
スマートフォンや携帯電話などのマルチタッチ操作可能な表面(例えば、画面)を備えている電子機器の機能を、高齢者や初心者向けに単に制限することは、有用な機能の利用の制限にも繋がる。従って、上記電子機器の機能を単に制限するのではなく、ユーザの習熟度に応じて最適なフィードバックを提供することが望まれている。例えば、ユーザの習熟度に応じてユーザ・インタフェースが変化し、最終的には、スマートフォンや携帯電話の全ての機能が利用可能になることが望ましい。また、例えば、ユーザの習熟度に応じて異なるアドバイス・ガイド(ヘルプ・アシスタンス又は操作ガイドともいう)が提供されることが望ましい。
また、タッチパネルやトラックパッドなどのマルチタッチ操作可能な表面を備えている電子機器の機能が十分に利用されていない。
そこで、本発明は、マルチタッチ操作可能な表面を備えている電子機器におけるユーザの習熟度を推定する技法を提供することを目的とする。また、さらには、本発明は、上記電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する技法を提供することを目的とする。また、さらには、本発明は、上記電子機器の操作についてのユーザの習熟度に応じたユーザ支援をする技法を提供することを目的とする。
上記最適なフィードバックをする為には、ユーザの習熟度を推定する必要がある。例えばスマートフォンや携帯電話の習熟には、例えば下記(1)〜(3)に示す幾つかの異なるスキルや知識が要求される:
(1)ジェスチャや文字入力のスキル;
(2)UIの機能に関する知識;及び
(3)スマートフォンや携帯電話特有のネットワーク(例えば、インターネットやクラウド)に関する知識。
本発明は、上記(1)に示すジェスチャや文字入力のスキルを推定することによって、ユーザの習熟度を推定する技法を提供する。
本発明は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する技法を提供する。
上記技法はいずれも、方法、並びに、当該方法を実行するコンピュータ、コンピュータ・プログラム、及びコンピュータ・プログラム製品を包含しうる。
また、本発明は、上記電子機器の操作についてのユーザの習熟度を推定する技法を提供する。また、本発明は、上記電子機器の操作についてのユーザの習熟度に応じたユーザ支援をする技法を提供する。
上記技法はいずれも、方法、並びに、当該方法を実行する電子機器、電子機器プログラム、及び電子機器プログラム製品を包含しうる。
本発明に従う第1の態様は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する方法であり、当該方法は、
所定の操作課題に対する複数のユーザそれぞれの操作ログ・データを読み出すステップであって、上記操作ログ・データが、上記表面へのタッチ操作スキルの低いデータと当該タッチ操作スキルの高いデータとを含む、上記読み出すステップと、
上記複数のユーザそれぞれの操作ログ・データから特徴ベクトルをユーザ毎に算出するステップであって、上記特徴ベクトルが、上記表面へのタッチ開始からタッチ終了までの1ジェスチャを構成するタッチ操作に関する特徴量に基づいて求められる、上記算出するステップと、
上記算出された特徴ベクトルを用いて、上記タッチ操作スキルの低いデータと上記操作スキルの高いデータとを分類する為のモデルを構築するステップであって、当該構築されたモデルが任意のユーザの習熟度を上記モデルの識別面からの距離として算出するために使用される、上記構築するステップと
を含む。当該方法の各ステップは、上記モデルを構築するためのコンピュータによって実行されうる。
本発明に従う第2の態様は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する方法であり、当該方法は、
所定の操作課題に対するトレーニング前後それぞれの複数のユーザの操作ログ・データを読み出すステップと、
上記複数のユーザそれぞれの上記トレーニング前後それぞれの操作ログ・データから、上記トレーニング前後それぞれの特徴ベクトルをユーザ毎に算出するステップであって、上記特徴ベクトルが、上記表面へのタッチ開始からタッチ終了までの1ジェスチャを構成するタッチ操作に関する特徴量に基づいて求められる、上記算出するステップと、
上記算出された特徴ベクトルを用いて、トレーニング前とトレーニング後とを分類する為のモデルを構築するステップであって、当該構築されたモデルが任意のユーザの習熟度を上記モデルの識別面からの距離として算出するために使用される、上記構築するステップと
を含む。当該方法の各ステップは、上記モデルを構築するためのコンピュータによって実行されうる。
本発明に従う第3の態様は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定する方法であり、当該方法は、
ユーザの操作を操作ログ・データとして格納するステップと、
上記操作ログ・データを読み出して、上記ユーザの習熟度を、上記第1の態様又は上記第2の態様の各ステップに従って構築された上記モデルの識別面からの距離として算出するステップと
を含む。当該方法の各ステップは、上記電子機器によって実行されうる。
本発明に従う第4の態様は、マルチタッチ操作可能な表面を備えている電子機器の表示表面に関連付けられたユーザ・インタフェースを変更する方法であり、当該方法は、
ユーザの操作を操作ログ・データとして格納するステップと、
上記操作ログ・データを読み出して、上記ユーザの習熟度を、上記第1の態様又は上記第2の態様の各ステップに従って構築された上記モデルの識別面からの距離として算出するステップと、
上記ユーザの習熟度に応じて、上記ユーザ・インタフェースを変更するステップ、又は、上記ユーザの習熟度に応じて、当該習熟度に関連付けられたアドバイス・ガイドを提供するステップと
を含む。当該方法の各ステップは、上記電子機器によって実行されうる。
本発明に従う第5の態様は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築するためのコンピュータであり、当該コンピュータは、所定の操作課題に対する複数のユーザの操作ログ・データを格納した記憶装置にアクセス可能であり、当該コンピュータは、
上記複数のユーザそれぞれの操作ログ・データから特徴ベクトルをユーザ毎に算出する特徴ベクトル算出部であって、上記特徴ベクトルが、上記表面へのタッチ開始からタッチ終了までの1ジェスチャを構成するタッチ操作に関する特徴量に基づいて求められる、上記特徴ベクトル算出部と、
上記算出された特徴ベクトルを用いて、上記タッチ操作スキルの低いデータと上記操作スキルの高いデータとを分類する為のモデルを構築するモデル構築部であって、当該構築されたモデルが任意のユーザの習熟度を上記モデルの識別面からの距離として算出するために使用される、上記モデル構築部と
を備えている。
本発明の一つの実施態様において、上記特徴ベクトル算出部が、上記複数のユーザそれぞれの上記操作ログ・データそれぞれから、1ジェスチャ毎に、複数の基本特徴量を抽出しうる。当該基本特徴量は少なくとも、上記1ジェスチャにおいて用いられた指の数、及び当該1ジェスチャにおける指の移動距離を含みうる。また、当該基本特徴量は、上記1ジェスチャにおける指の移動方向若しくは移動角度、各指の位置若しくは位置関係、二つの指間の距離の移動前後の差分、当該1ジェスチャに要した時間、上記タッチ開始時と上記タッチ終了時それぞれにおける指の位置の直線距離若しくは軌跡の距離、又はマルチタッチの種類をさらに含みうる。
本発明の一つの実施態様において、上記特徴ベクトル算出部が、1ジェスチャ毎に、上記基本特徴量の少なくとも2つを組み合わせて演算処理して、拡張特徴量を算出しうる。また、上記特徴ベクトル算出部は、上記基本特徴量と上記演算処理後の拡張特徴量とを組み合わせて演算処理して、又は、上記演算処理後の拡張特徴量の少なくとも2つを組み合わせて演算処理して、拡張特徴量を算出しうる。
本発明の一つの実施態様において、上記特徴ベクトル算出部が、上記特徴ベクトルを構成する統計値を、各ユーザについての上記基本特徴量若しくは上記拡張特徴量又は上記基本特徴量と上記拡張特徴量との組み合わせを統計処理して算出しうる。当該統計値は、上記操作課題における全てのジェスチャについての統計値である。
本発明の一つの実施態様において、上記特徴ベクトル算出部が、上記抽出した上記基本特徴量を特徴量リストに格納しうる。また、上記特徴ベクトル算出部が、上記算出した上記拡張特徴量を上記特徴量リストに格納しうる。
本発明の一つの実施態様において、上記特徴ベクトル算出部が、上記特徴ベクトルを構成する統計値を、上記特徴量リスト内に格納された各ユーザについての上記特徴量を統計処理して算出しうる。当該統計値は、上記操作課題における全てのジェスチャについての統計値である。
本発明の一つの実施態様において、上記モデル構築部が、上記タッチ操作スキルの低いデータと上記操作スキルの高いデータの各クラスの判別を最適化するようにクラス判別モデルを学習しうる。当該クラス判別モデルは、任意の数理モデルでありうる。
本発明の一つの実施態様において、上記数理モデルがハイパーパラメータを含んでいる場合に、上記モデル構築部が、上記タッチ操作のスキルの高いデータが上記タッチ操作のスキルの低いデータよりも評価値が高くなるように、上記ハイパーパラメータをチューニングしうる。
本発明の一つの実施態様において、上記モデル構築部が、上記ハイパーパラメータをチューニングすることを、交差検定法又はブートストラップ法に従い行いうる。
本発明の一つの実施態様において、上記モデル構築部が、上記チューニングされたハイパーパラメータを使用して、上記数理モデルを構築しうる。
本発明に従う第6の態様は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築するためのコンピュータであり、当該コンピュータは、所定の操作課題に対する複数のユーザの操作ログ・データを格納した記憶装置にアクセス可能であり、当該コンピュータは、
上記複数のユーザそれぞれの上記トレーニング前後それぞれの操作ログ・データから、上記トレーニング前後それぞれの特徴ベクトルをユーザ毎に算出する特徴ベクトル算出部であって、上記特徴ベクトルが、上記表面へのタッチ開始からタッチ終了までの1ジェスチャを構成するタッチ操作に関する特徴量に基づいて求められる、上記特徴ベクトル算出部と、
上記算出された特徴ベクトルを用いて、トレーニング前とトレーニング後とを分類する為のモデルを構築するモデル構築部であって、当該構築されたモデルが任意のユーザの習熟度を上記モデルの識別面からの距離として算出するために使用される、上記モデル構築部と
を備えている。
本発明の一つの実施態様において、上記特徴ベクトル算出部が、上記複数のユーザそれぞれの上記トレーニング前後それぞれの上記操作ログ・データそれぞれから、1ジェスチャ毎に、複数の基本特徴量を抽出しうる。
本発明の一つの実施態様において、上記特徴ベクトル算出部が、上記と同様にして、拡張特徴量及び、特徴ベクトルを構成する統計値を算出しうる。
本発明の一つの実施態様において、上記モデル構築部が、上記トレーニング前及び上記トレーニング後の各クラスの判別を最適化するようにクラス判別モデルを学習しうる。当該クラス判別モデルは、任意の数理モデルでありうる。
本発明の一つの実施態様において、上記数理モデルがハイパーパラメータを含んでいる場合に、上記モデル構築部が、上記トレーニング後が上記トレーニング前よりも評価値が高くなるように、上記ハイパーパラメータをチューニングしうる。
本発明に従う第7の態様は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを格納する記憶装置を備えている電子機器であり、当該電子機器は、
上記第1の態様又は上記第2の態様に従う方法の各ステップに従って構築された上記モデルを格納する為の記憶装置と、
ユーザの操作を操作ログ・データとして収集する操作ログ・データ収集部と、
上記操作ログ・データを読み出して、上記ユーザの習熟度を、上記モデルの識別面からの距離として算出する習熟度算出部と
を備えている。
本発明の一つの実施態様において、上記電子機器は、上記ユーザの習熟度に応じて、上記電子機器の表示画面に関連付けられたユーザ・インタフェースを変更するUI変更部をさらに備えうる。
本発明の一つの実施態様において、上記電子機器は、上記ユーザ・インタフェースを変更するステップ、又は、上記ユーザの習熟度に応じて、当該習熟度に関連付けられたアドバイス・ガイドを提供するアドバイス・ガイド提供部をさらに備えうる。
本発明に従う第8の態様は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築するためのコンピュータ・プログラムであって、当該コンピュータに、上記第1の態様又は上記第2の態様に従う方法の各ステップを実行させる。
本発明に従う第9の態様は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するための電子機器プログラムであって、当該電子機器に、上記第3の態様に従う方法の各ステップを実行させる。
本発明に従う第10の態様は、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度に応じたユーザ支援をするための電子機器プログラムであって、当該電子機器に、上記第4の態様に従う方法の各ステップを実行させる。
本発明の実施態様に従う電子機器プログラムはそれぞれ、一つ又は複数のフレキシブル・ディスク、MO、CD−ROM、DVD、BD、ハードディスク装置、USBに接続可能なメモリ媒体、ROM、MRAM、RAM等の任意の電子機器読み取り可能な記録媒体に格納することができる。当該電子機器プログラムは、記録媒体への格納のために、通信回線で接続する他のデータ処理システム、例えばサーバ・コンピュータからダウンロードしたり、又は他の記録媒体から複製したりすることができる。また、本発明の実施態様に従う電子機器プログラムは、圧縮し、又は複数に分割して、単一又は複数の記録媒体に格納することもできる。また、様々な形態で、本発明の実施態様に従う電子機器プログラム製品を提供することも勿論可能であることにも留意されたい。本発明の実施態様に従う電子機器プログラム製品は、例えば、上記電子機器プログラムを記録した記憶媒体、又は、上記電子機器プログラムを伝送する伝送媒体を包含しうる。
本発明の上記概要は、本発明の必要な特徴の全てを列挙したものではなく、これらの構成要素のコンビネーション又はサブコンビネーションもまた、本発明となりうることに留意すべきである。
本発明の実施態様において使用される電子機器の各ハードウェア構成要素を、複数のマシンと組み合わせ、それらに機能を配分し実施する等の種々の変更は当業者によって容易に想定され得ることは勿論である。それらの変更は、当然に本発明の思想に包含される概念である。ただし、これらの構成要素は例示であり、そのすべての構成要素が本発明の必須構成要素となるわけではない。
また、本発明は、ハードウェア、ソフトウェア、又は、ハードウェア及びソフトウェアの組み合わせとして実現可能である。ハードウェアとソフトウェアとの組み合わせによる実行において、上記電子機器プログラムのインストールされた電子機器における実行が典型的な例として挙げられる。かかる場合、当該電子機器プログラムが当該電子機器のメモリにロードされて実行されることにより、当該電子機器プログラムは、当該電子機器を制御し、本発明にかかる処理を実行させる。当該電子機器プログラムは、任意の言語、コード、又は、表記によって表現可能な命令群から構成されうる。そのような命令群は、当該電子機器が特定の機能を直接的に、又は、1.他の言語、コード若しくは表記への変換及び、2.他の媒体への複製、のいずれか一方若しくは双方が行われた後に、本発明の実施態様に従う処理を実行することを可能にするものである。
本発明の実施態様に従い作成されたモデル、すなわちマルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルは、タッチ操作スキルの低いユーザとタッチ操作スキルの高いユーザとを適切に推定することを可能にする。すなわち、本発明の実施態様に従い作成されたモデルは、ユーザの習熟度を適切に推定することを可能にする。
また、本発明の実施態様に従い作成されたモデルは、同じタスクに対して、高精度(例えば、90%程度)でユーザの習熟度の推定を可能にする。また、本発明の実施態様に従い作成されたモデルは、異なるタスクに対してもユーザの習熟度の推定を良い精度(例えば、70%程度)で可能にする。
本発明の実施態様において使用されうるコンピュータの一例を示した図である。 本発明の実施態様において使用されうる電子機器の一例を示した図である。 本発明の実施態様に従い、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する処理を図示化して示したものである。 本発明の実施態様に従い、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する処理を図示化して示したものである。 図2A及び図2Bに従い作成されたモデルを使用して、同一のユーザについてのトレーニング前のデータとトレーニング後のデータとを比較して、トレーニング後において習熟度が高くなっていることを示す図である。 本発明の実施態様において使用されうる基本特徴量の一例を示す。 図4Aに示す基本特徴量のうち、タッチ操作スキルの低いデータとタッチ操作スキルの高いデータとを分類する為のモデルを構築するために有用な基本特徴量を示す。 本発明の実施態様に従い、図2A及び図2Bに従い作成されたモデルを使用して判定されたユーザの習熟度に応じて、ユーザ・インタフェースが変更されることを示す。 本発明の実施態様に従い、図2A及び図2Bに従い作成されたモデルを使用して判定されたユーザの習熟度に応じて、ユーザ・インタフェースが変更されることを示す。 本発明の実施態様に従い、図2A及び図2Bに従い作成されたモデルを使用して判定されたユーザの習熟度に応じて、ユーザ・インタフェース及びアドバイス・ガイドが変更されることを示す。 本発明の実施態様に従い、コンピュータが操作ログ・データを記憶する処理を含むフローチャートを示す。 本発明の実施態様に従い、コンピュータが、上記記憶した操作ログ・データに基づいてモデルを学習し、当該学習したモデルから識別面を算出する処理を含むフローチャートを示す。 本発明の実施態様に従い、コンピュータが上記記憶した操作ログ・データから基本特徴量を抽出し、そして拡張特徴量及び特徴量データを算出する処理を含むフローチャートを示す。 本発明の実施態様に従い、コンピュータが上記算出した特徴量データに基づいて、タッチ操作スキルの低いデータとタッチ操作スキルの高いデータとを分類する為のモデルを学習する処理を含むフローチャートを示す。 本発明の実施態様に従い、電子機器がユーザの習熟度に応じたユーザ支援をする処理を含むフローチャートを示す。 図1Aに従うハードウェア構成を好ましくは備えており、本発明の実施態様に従うコンピュータの機能ブロック図の一例を示した図である。 図1Bに従うハードウェア構成を好ましくは備えており、本発明の実施態様に従う電子機器の機能ブロック図の一例を示した図である。
本発明の実施形態を、以下に図面に従って説明する。以下の図を通して、特に断らない限り、同一の符号は同一の対象を指す。本発明の実施形態は、本発明の好適な態様を説明するためのものであり、本発明の範囲をここで示すものに限定する意図はないことを理解されたい。
本発明の実施態様に従う「コンピュータ」は、ユーザの習熟度を推定するためのモデルを構築する処理能力があるものであれば特に限定されない。当該コンピュータは、例えば、デスクトップ・コンピュータ、ノート・コンピュータ若しくは一体型パソコン、又は、サーバでありうる。
本発明の実施態様に従う「電子機器」は、マルチタッチ操作(マルチタッチジェスチャともいわれる)可能な表面を備えているもの、又は、マルチタッチ操作可能な表面に接続されているものであれば特に限定されない。
「マルチタッチ操作可能な表面」とは例えば、マルチタッチ操作可能な画面(例えば、タッチパネル、タッチスクリーン、フローティングタッチ、若しくは仮想タッチパネル)、又は、マルチタッチ操作可能なトラックパッドを包含する。
「マルチタッチ操作可能な表面を備えている電子機器」とは、当該電子機器がマルチタッチ操作可能な画面を備えている表示装置若しくはマルチタッチ操作可能なトラックパッドに接続されているか、又は、当該電子機器にマルチタッチ操作可能な画面それ自体若しくはマルチタッチ操作可能なトラックパッドそれ自体を備えているものを意味する。
「マルチタッチ操作可能な表面を備えている電子機器」は、例えば、デスクトップ・コンピュータ;ノート・コンピュータ、タブレットPC、スマートフォン、携帯電話、タブレット端末(例えば、アンドロイド(登録商標)端末、Windows(登録商標)タブレット、若しくはiOS端末)、携帯音楽プレイヤー、パーソナル・ディジタル・アシスタント(PDA)、医療機器端末、理化学機器、ゲーム端末(ゲーム機器)、カー・ナビゲーション・システム、ポータブル・ナビゲーション・システム、車載装置、コックピット・ディスプレイ・システム、券売機、若しくはキヨスク端末でありうる。
以下において、特に断らない限りは、コンピュータとはマルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築するためのコンピュータを意味し、電子機器とは、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを格納する記憶装置を備えている電子機器を意味する。
図1A及び図1Bはそれぞれ、本発明の実施態様において使用されうるコンピュータ及び電子機器を実現するためのハードウェア構成の一例を示した図である。
図1Aは、本発明の実施態様において使用されうるコンピュータ又は電子機器を実現するためのハードウェア構成の一例を示した図である。以下の説明では、コンピュータ(101)と示すが、電子機器(101)とも読み替えられる。
コンピュータ(101)は、CPU(102)とメイン・メモリ(103)とを備えており、これらはバス(104)に接続されている。CPU(102)は好ましくは、32ビット又は64ビットのアーキテクチャに基づくものである。当該CPU(102)は例えば、インテル社のCore(商標) iシリーズ、Core(商標) 2シリーズ、Atom(商標)シリーズ、Xeon(登録商標)シリーズ、Pentium(登録商標)シリーズ若しくはCeleron(登録商標)シリーズ、AMD(Advanced Micro Devices)社のAシリーズ、Phenom(商標)シリーズ、Athlon(商標)シリーズ、Turion(商標)シリーズ若しくはSempron(商標)、又は、インターナショナル・ビジネス・マシーンズ・コーポレーションのPower(商標)シリーズでありうる。
バス(104)には、ディスプレイ・コントローラ(105)を介して、ディスプレイ(106)、例えば液晶ディスプレイ(LCD)が接続されうる。また、液晶ディスプレイ(LCD)は例えば、タッチパネル・ディスプレイ又はフローティング・タッチ・ディスプレイであてもよい。ディスプレイ(106)は、コンピュータ(101)上で動作中のソフトウェア、例えば本発明の実施態様に従うコンピュータ・プログラムが稼働することによって表示されるオブジェクトを、適当なグラフィック・インタフェースで表示するために使用されうる。
バス(104)には任意的に、例えばSATA又はIDEコントローラ(107)を介して、ディスク(108)、例えばハードディスク又はソリッド・ステート・ドライブ(SSD)が接続されうる。
バス(104)には任意的に、例えばSATA又はIDEコントローラ(107)を介して、ドライブ(109)、例えばCD、DVD又はBDドライブが接続されうる。
バス(104)には、周辺装置コントローラ(110)を介して、例えばキーボード・マウス・コントローラ又はUSBバスを介して、任意的に、キーボード(111)、マウス(112)及び/又はトラックパッドが接続されうる。
ディスク(108)には、オペレーティング・システム、Windows(登録商標)OS、UNIX(登録商標)、MacOS(登録商標)、及びJ2EEなどのJava(登録商標)処理環境、Java(登録商標)アプリケーション、Java(登録商標)仮想マシン(VM)、Java(登録商標)実行時(JIT)コンパイラを提供するプログラム、本発明の実施態様に従うアプリケーション・プログラム、及びその他のプログラム、並びにデータが、メイン・メモリ(103)にロード可能なように記憶されうる。
ディスク(108)は、コンピュータ(101)内に内蔵されていてもよく、当該コンピュータ(101)がアクセス可能なようにケーブルを介して接続されていてもよく、又は、当該コンピュータ(101)がアクセス可能なように有線又は無線ネットワークを介して接続されていてもよい。
ドライブ(109)は、必要に応じて、CD−ROM、DVD−ROM又はBDからプログラム、例えばオペレーティング・システム、アプリケーション又は本発明の実施態様に従うコンピュータ・プログラムをディスク(108)にインストールするために使用されうる。
通信インタフェース(114)は、例えばイーサネット(登録商標)・プロトコルに従う。通信インタフェース(114)は、通信コントローラ(113)を介してバス(104)に接続され、コンピュータ(101)を通信回線(115)に有線又は無線接続する役割を担い、コンピュータ(101)のオペレーティング・システムの通信機能のTCP/IP通信プロトコルに対して、ネットワーク・インタフェース層を提供する。なお、通信回線は例えば、無線LAN接続規格に基づく無線LAN環境、IEEE802.11a/b/g/nなどのWiFi無線LAN環境、又は携帯電話網環境(例えば、3G又は4G環境)でありうる。
図1Bは、本発明に実施態様において使用されうる電子機器のうちマルチタッチ操作可能な画面を備えているものの一例を示した図である。
電子機器(121)のCPU(122)、メイン・メモリ(123)、バス(124)、ディスプレイ・コントローラ(125)、ディスプレイ(126)、SSD(128)、通信コントローラ(133)、通信インタフェース(134)及び通信回線(135)はそれぞれ、図1Aに示すコンピュータ(101)のCPU(102)、メイン・メモリ(103)、バス(104)、ディスプレイ・コントローラ(105)、ディスプレイ(106)、SSD(108)、通信コントローラ(113)、通信インタフェース(114)及び通信回線(115)に対応する。
スマートフォン、携帯電話又はタブレット端末等の場合、CPU(122)は例えば、スマートフォン、携帯電話若しくはタブレット端末用等のCPU、例えばARMアーキテクチャに従うCPU(例えばARM系CPU又はCortex系CPU)、又は、アップル社(登録商標)のAシリーズ、でありうる。
SSD(128)ディスクには例えば、スマートフォン用OS(例えば、アンドロイド(登録商標)OS、Windows(登録商標)PhoneOS若しくはWindows(登録商標)OS、又はiOS)、本発明の実施態様に従う電子機器プログラム、及びその他のプログラム、並びにデータが、メイン・メモリ(123)にロード可能なように記憶されうる。
キーボード実現手段(130)は、アプリの一つとして、ディスプレイ(126)上にソフトウェアキーボードを表示する。
図2A及び図2Bは、本発明の実施態様に従い、マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する処理を図示化して示したものである。
ステップ1において、コンピュータは、操作ログ・データを例えば所定の操作課題を実行したユーザ(被実験者でもある)に関連付けられた電子機器から収集して、当該コンピュータがアクセス可能な記憶媒体(例えば、内蔵ハードディスク、外付けハードディスク、又は、ネットワーク接続ストレージ(NAS))に格納する(201)。代替的には、コンピュータは、操作ログ・データが格納された記憶媒体にアクセス可能である。
本発明の実施態様において、「所定の操作課題」とは、ある結果を得る為までに行われる複数のジェスチャから構成される一連の動作セット、或いは、ある結果を得る為までに行われる複数のジェスチャによって達成される一連の動作セットである。「所定の操作課題」は例えば、モデルを構築する実験者によって指定されたものでありうる。
所定の操作課題は例えば、マルチタッチ操作可能な表面を備えている電子機器上での地図アプリ操作課題(例えば、地図を東京から沖縄に移動する操作課題)、アドレス帳を検索して、又は、ある人物に電話をかける操作課題、ある文字列を入力する操作課題などでありうる。当業者は、所定の操作課題を適宜用意しうる。
ジェスチャとは、マルチタッチ操作可能な表面上で行われる任意の動作を含む。当該操作は例えば、タップ、ダブルタップ、ロングプレス(長押し)、スワイプ、バン、フリック、2本指タップ、2本指スクロール、ピンチ、スプレッド、又は、回転でありうるがこれらに限定されない。
本発明の実施態様において、「操作ログ・データ」は、ユーザが電子機器を使用して、上記所定の操作課題に対して行われたユーザの任意の動作の操作イベント系列データ(生データ)を含む。操作ログ・データは例えば、操作課題を操作したユーザのユーザID、低スキル又は高スキルを示すタグ(又は、トレーニング前又は後を示すタグ)、及び操作イベント系列データ、並びに任意的に、当該該操作課題を実行した電子機器の電子機器ID、当該操作課題の操作課題ID、及び/又は当該所定の操作課題の開始のセッションを識別する為のセッションIDを含みうる。
操作ログ・データは、例えば操作ログ・データベース(以下、「操作ログDB」ともいう)(下記図6Aの操作ログDB(691)を参照)中に格納されている。操作ログ・データは、ステップ1が実行される前に、又はステップ1の実行と同時に、操作ログDBに格納される。
本発明の実施態様において、タッチ操作スキルの低いデータと前記タッチ操作スキルの高いデータとを分類する為のモデルを構築するために、「所定の操作課題に対する複数のユーザそれぞれの操作ログ・データ」は、表面へのタッチ操作スキルの低いデータと当該表面へのタッチ操作スキルの高いデータとを含む。表面へのタッチ操作スキルの低いデータ及び当該表面へのタッチ操作スキルの高いデータとは例えば、それぞれ、タッチ操作スキルの低いと判定されているユーザの所定の操作課題に対する操作ログ・データ及びタッチ操作スキルの高いと判定されているユーザの操作ログ・データ;又は、所定の操作課題に対する同一人物のトレーニング前の操作ログ・データ及びトレーニング後の操作ログ・データ、でありうる。タッチ操作スキルの低い又は高いは例えば、マルチタッチ操作に習熟した実験主体者が主観的に判断しうる。代替的には、タッチ操作スキルの低い又は高いは、同一人物においてトレーニング前を低い、トレーニング後を高いとみなしてもよい。
ステップ2において、コンピュータは、上記ステップ1で記憶した操作ログ・データを読み出す。そして、当該コンピュータは、当該操作ログ・データから特徴ベクトルをユーザ毎に算出するために、上記操作ログ・データを1ジェスチャ単位に(1ジェスチャ毎に)集約し、当該集約された集約データ(セッション・データともいう)に基づいて複数の基本特徴量を抽出する(202)。すなわち、コンピュータは、1ジェスチャを構成する1又は複数の基本特徴量を上記操作ログ・データから抽出する。
本発明の実施態様において、「1ジェスチャ」とは、マルチタッチ操作可能な表面への、タッチ開始からタッチ終了までに行われたユーザによる行為をいう。
基本特徴量とは、マルチタッチ操作においてイベント系列のデータとして収集されるデータである。基本特徴量の例を、図4Aに示してあるので参照されたい。図4Aに示すように、基本特徴量は、比較的にタスクへの依存が少ないローレベルの特徴量でありうる。
本発明の一つの実施態様において、基本特徴量は少なくとも、1ジェスチャにおいて用いられた指の数、及び当該1ジェスチャにおける指の移動距離(タッチ開始時からタッチ終了時の直線距離であって、指の軌跡距離ではない)を含みうる。すなわち、基本特徴量は少なくとも、1ジェスチャの開始時と終了時において用いられた指の数と当該1ジェスチャの開始時と終了時における指の移動距離(タッチ開始時からタッチ終了時の直線距離であって、指の軌跡距離ではない)とを含みうる。また、当該基本特徴量は、1ジェスチャにおける指の移動方向若しくは移動角度、各指の位置若しくは位置関係、二つの指間の距離の移動前後の差分、当該1ジェスチャに要した時間、前記タッチ開始時と前記タッチ終了時それぞれにおける指の位置の直線距離若しくは軌跡の距離、又はマルチタッチの種類をさらに含みうる。
コンピュータは、算出した基本特徴量を、上記特徴量リストに格納しうる。
ステップ3において、コンピュータは、1ジェスチャ毎に、ステップ2で抽出した基本特徴量の少なくとも2つ(典型的には、2つ)を組み合わせて演算処理して、拡張特徴量を算出する。さらには、コンピュータは、任意的に、ステップ2で算出した基本特徴量と上記算出した拡張特徴量の少なくとも2つ(典型的には、2つ)を組み合わせて演算処理し、又は、上記算出した拡張特徴量の少なくとも2つ(典型的には、2つ)を組み合わせて演算処理して、拡張特徴量を算出しうる。コンピュータは例えば、1ジェスチャ毎に、「基本特徴量」と「基本特徴量の直積」の直積(=基本特徴量の3次の組み合わせ積、もしくは3次の直積) 、「基本特徴量の直積」と「基本特徴量の直積」の直積(=基本特徴量の4次の組み合わせ積、もしくは4次の直積)を算出し、拡張特徴量を算出しうる。
基本特徴量がK個あるとした場合に、当該K個の基本特徴量の2つを組み合わせて算出される拡張特徴量の数(K’)は、K’=(K(K−1))/2 個である。従って、特徴量の数(すなわち、基本特徴量と拡張特徴量を合計したもの)は、K+K’である。従って、K個の基本特徴量がK+K’個に増加することになるので、拡張特徴量を算出することにより基本特徴量の次数を膨らませることが可能である。
上記演算処理は、例えば直積、商、和又は差であり、特には例えば直積又は商である。
コンピュータは、算出した拡張特徴量を、上記特徴量リストに格納しうる。
ステップ4において、コンピュータは、特徴ベクトル(204)を構成する統計値を、各ユーザについての操作課題における全てのジェスチャについての、(1)ステップ2で算出した基本特徴量の少なくとも2つの組み合わせ、(2)ステップ2で算出した基本特徴量の少なくとも1つとステップ3で算出した拡張特徴量の少なくとも1つとの組み合わせ、又は、(3)ステップ3で算出した拡張特徴量の少なくとも2つの組み合わせ、を統計処理して算出する(211,212,213)。当該統計値は、操作課題における特定のユーザについての全てのジェスチャについての統計値である、コンピュータは、上記基本特徴量及び上記拡張特徴量を特徴量リストから取り出しうる。
当該統計処理は、上記操作課題における全てのジェスチャについての統計値でありうる。
当該統計処理は例えば、平均値、標準偏差、分位点、最大値若しくは最小値、又はそれらの組み合わせでありうる。当該組み合わせは例えば、平均値+標準偏差、平均値+分位点、又は、平均値+標準偏差+分位点でありうる。統計処理として分位点を使用する場合例えば、0.05,0.25,0.5,0.75及び0.95の5点のパーセンタイルを算出する。
上記統計処理として、平均値+標準偏差+分位点(上記5点)を使用した場合、K+K’個の特徴量(基本特徴量又は拡張特徴量である)が、(K+K’)×7個に増加することになる。従って、K個の基本特徴量が、上記拡張特徴量の算出、そして統計処理を経ることにより、(K+K’)×7個に増加することになるので、統計処理をすることにより基本特徴量の次数を膨らませることが可能である。当該次数を膨らませておくことは、下記数理モデルのハイパーパラメータ(ステップ6を参照)を用いて学習されたモデルの識別能力を高めることになる。
ステップ5において、コンピュータは、ユーザそれぞれについて、ステップ4の説明で述べたようにして特徴ベクトル(204)を構成する統計値を算出する。算出された統計値を有する特徴ベクトルは、1×D次元の行列である(205)。
ステップ6において、コンピュータは、ステップ4でユーザそれぞれについて算出された複数の特徴ベクトルを用いて、タッチ操作スキルの低いデータとタッチ操作スキルの高いデータとを分類する為のモデルを構築する。または、上記タッチ操作スキルの低いデータは例えば、あるユーザのトレーニング前のデータであり、上記タッチ操作スキルの高いデータは例えば、上記あるユーザのトレーニング後のデータでありうる。コンピュータは例えば少なくとも2つのクラス(例えばタッチ操作スキルの低いデータとタッチ操作スキルの高いデータの各クラスの判別、例えば同一のユーザのトレーニング前のデータトレーニング後のデータ)とを最適化するようにクラス判別モデルを学習しうる。
当該学習されたモデルは、上記したとおり、比較的にタスクへの依存が少ないローレベルの特徴量である基本特徴量及びそれから算出された拡張特徴量に基づいている。従って、当該学習されたモデルも、タスクへの依存性が低い。
上記クラス判別モデルは例えば、任意の数理モデルでありうる。当業者は、例えば少なくとも2つのクラスの判別を可能にする任意の数理モデルを使用しうる。当該任意の数理モデルとして例えば、当業者に知られている任意の手法を使用しうる。当該任意の数理モデルは例えば、ロジスティック回帰モデル、線形回帰モデル、サポート・ベクター・マシン(SVM)、又は、ニューラル・ネットワークでありうる。線形回帰モデルは例えば、リッジ回帰(ridge regression)モデル、又は、ラッソ回帰モデルでありうる。ロジスティック回帰モデルにおいて、スパース正則化が使用されうる。当該数理モデルのいずれも公知のものであり、本発明の本質ではないので、ここではその説明を省略する。スパース正則化を使用してモデルを構築した場合に、習熟度推定に役に立たない統計値に対応する重みはゼロになる。すなわち、非ゼロ重みに対応する統計値は、習熟度推定に有用な統計値となる。従って、習熟度推定に有用な統計値が選択される。このようにして、習熟度推定に有用な統計値、そして当該統計値の元となる基本特徴量及び拡張特徴量を知ることが可能になる。
コンピュータは、数理モデルがハイパーパラメータを含んでいる場合に、任意的に、タッチ操作のスキルの高いデータがタッチ操作のスキルの低いデータよりも評価値が高くなるように、又は、同一のユーザについてのトレーニング後にデータがトレーニング前のデータよりも評価値が高くなるように、上記ハイパーパラメータをチューニングしうる。当該ハイパーパラメータをチューニング方法として、当業者に知られている種々の技法を選択して使用しうる。当該ハイパーパラメータをチューニングする手法は例えば、交差検定法、又は、ブートストラップ法でありうる。当該チューニングする手法のいずれも公知のものであり、本発明の本質ではないので、ここではその説明を省略する。
コンピュータは、任意的に、上記チューニングされたハイパーパラメータを使用して、上記数理モデルを構築しうる。
コンピュータは例えば、タッチ操作のスキルの高いデータがタッチ操作のスキルの低いデータを区別するのに有効な疎な識別を学習しうる。そして、コンピュータは例えば、クラス分類法(例えば、サポート・ベクター・マシン)により識別面(216)を算出しうる。識別面は例えば、wx+b=0で表される。ここで、w=[w1,w2,…,wd]Tx は重みベクター、wはベクトルxの転置を表し、スカラーbはバイアス項であり入力に関わりなく出力を全体的に調整する項である。例えばサポート・ベクター・マシンによる2つのクラスへの分類方法として、当業者に知られている種々の技法を使用しうる。
ステップ7において、コンピュータは、任意のユーザの習熟度を、ステップ5で構築されたモデルの識別面(216)からの距離として算出する(207)。図2Bにおいて、識別面(216)への垂線に対して、上側に習熟度の高いユーザ群(高スキル群)が、そして下側に習熟度の低いユーザ群(低スキル群)が分類されている。同一のユーザについてのトレーニング後においてトレーニング前よりも習熟度が高くなっていること(すなわち、スキルが向上していること)を示す。
図3は、図2A及び図2Bに従い作成されたモデルを使用して、同一のユーザについてのトレーニング前のデータとトレーニング後のデータとを比較して、トレーニング後において習熟度が高くなっていることを示す図である。
61〜80歳の被験者40人(ユーザID 01〜40)が、スマートフォンの同じ操作課題をトレーニング(練習)の前後で2回実施した。そして、交差検定法(39人のデータで図2A及び図2Bに記載の各ステップに従いモデルを構築し、残り1人の習熟度を推定)で、トレーニング前後それぞれでの操作課題の習熟度を推定した。
図3のグラフ(311及び312)は、図2Bのステップ7に示すグラフの識別面(216)を回転させて、左側に低い習熟度及び右側に高い習熟度が示されるようにした図である。
その結果、40人中39人(すなわち、ユーザID31以外の全てのユーザ)で習熟度の向上が見られた。また、ユーザID 20〜40の被験者20人について、上記実験の実験者が各ユーザを実際に観察して評価した主観評価と上記推定された習熟度との間に相関が見られた。従って、本結果は、図2A及び図2Bに記載の各ステップに従い構築されたモデルがユーザの習熟度を適切に推定していること(すなわち、トレーニング後にスキルが向上していること、或いは、トレーニング前とトレーニング後とを適切に当たられていること)、さらには主観評価と相関していること(すなわち、人間による主観評価と一致していること)を示す。
従って、図2A及び図2Bに従い作成されたモデルを使用し、ユーザの習熟度をモデルの識別面からの距離として算出することによって、ユーザの習熟度を推定することが可能になる。
図4Aは、本発明の実施態様において使用されうる基本特徴量の一例を示す。
図4Aの基本特徴量のリスト(401)は、タッチ操作において収集される特徴データのうち、本発明の実施態様に従うモデルを構築する上で有用な基本特徴量を示したものである。タッチ操作において収集される特徴データのうち、タスク依存性の高い特徴や変化のほとんどのない特徴は上記モデルを構築する上で適切でない。そこで、上記特徴データのうち、上記モデルを構築する上で適切な特徴量が基本特徴量として選択されうる。当業者は、当該選択を適宜実施しうる。
図4Bの基本特徴量のリスト(402)は、図4Aに示す基本特徴量のうち、タッチ操作スキルの低いデータとタッチ操作スキルの高いデータとを分類する為のモデルを構築するために有用な基本特徴量を示す。
上記モデルを構築するために有用な基本特徴であるかどうかは、例えば図4Aに示す基本特徴量のうち、機械学習での習熟度の推定に有効であるかどうかに基づいて判断されうる。当業者は、上記モデルを構築する為に、上記有効な基本特徴量のうちの任意の複数の基本特徴量を組み合わせて使用することが可能である。基本特徴量の組み合わせによって習熟度の推定精度に差が生じる為に、当該推定精度が高くなるような基本特徴量を選択することがよい。当該選択された基本特徴量は例えば、操作ログ点データから取り出されるべき基本特徴量であることを示す為に下記図6Cに示す基本特徴量抽出テーブルに記録される。
図5A〜図5Cは、本発明の実施態様に従い、図2A及び図2Bに従い作成されたモデルを使用して判定されたユーザの習熟度に応じて、ユーザ・インタフェースやアドバイス・ガイドが変更される態様を示す。
図5Aは、ユーザの習熟度に応じて、ズーム・イン及びズーム・アウト、並びに、回転機能についてのユーザ・インタフェースが変更される態様を示す。
コンピュータは、図2Bに示すステップ7において算出されたユーザの習熟度が低い(低スキル)と判断した場合(501)と、高い(高スキル)と判断した場合(511)とで、ユーザ・インタフェースを切り替える。
コンピュータは、ユーザの習熟度が低いと判断した場合に、ジェスチャとボタン(+,−)との併用によるズーム・イン及びズーム・アウトが可能であり(501,502)、且つ回転機能が無効である(501,503)ようにユーザ・インタフェースを変更する。
コンピュータは、ユーザの習熟度が高いと判断した場合に、ジェスチャのみによるズーム・イン及びズーム・アウトが可能であり(511,512)、且つ回転機能が有効である(511,513)ようにユーザ・インタフェースを変更する。
図5Bは、本発明の実施態様に従い、ユーザの習熟度に応じて、一画面当たりに表示される情報量についてのユーザ・インタフェースが変更される態様を示す。
コンピュータは、図2Bに示すステップ7において算出されたユーザの習熟度が低い(低スキル)と判断した場合(521)と、高い(高スキル)と判断した場合(531)とで、ユーザ・インタフェースを切り替える。
コンピュータは、ユーザの習熟度が低いと判断した場合に、1画面当たりに表示されるリスト項目の数を少なくし、それに伴い文字を大きく表示するように、且つ、先頭文字での検索が可能であるように(521)、そしてインデックス機能を無効にする(523)ようにユーザ・インタフェースを変更する(521)。
コンピュータは、ユーザの習熟度が高いと判断した場合に、1画面当たりに表示されるリスト項目の数を多くし、それに伴い文字を小さく表示するようにし、且つ、インデックス機能を有効にする(533)ようにユーザ・インタフェースを変更する(531)。
図5Cは、本発明の実施態様に従い、ユーザの習熟度に応じて、ユーザ・インタフェース及び、画像又は音声によるアドバイス・ガイドが変更される態様を示す。
コンピュータは、図2Bに示すステップ7において算出されたユーザの習熟度が中スキルであると判断した場合(541)、高スキルであると判断した場合(561)、又はその中間であると判断した場合(551)とで、ユーザ・インタフェース及びアドバイス・ガイド(操作ガイド、ヘルプガイドともいう)を切り替える。アドバイス・ガイドは、音声によるもの又は画面表示によるものでありうる。
コンピュータは、ユーザの習熟度が中スキルである判断した場合に、画面操作のアドバイス・ガイドとして、画面上に指の動きの例示をアニメーション(542から543への動き)で表示する(541)。また、コンピュータは、画面操作のアドバイス・ガイドとして、画面上に当該指の動きの例示とともに、当該指の動きによって画面上の表示コンテンツがどのように変化するか(例えば、地図が縮小表示される)を例えば点線表示で例示しうる。
コンピュータは、ユーザの習熟度が上記中間スキルである判断した場合に、画面操作のアドバイス・ガイドとして、画面上に指の影(上記アニメーションではない)(552)を表示する。但し、コンピュータは、ユーザの習熟度が中スキルの場合と異なり、指の動きによって画面上の表示コンテンツがどのように変化するか(例えば、地図が縮小表示される)は例示しない。また、コンピュータは、ユーザの習熟度が上記中間スキルである判断した場合に、ジェスチャとボタン(+,−)(544)との併用によるズーム・イン及びズーム・アウトが可能であるようにユーザ・インタフェースを変更する。
コンピュータは、ユーザの習熟度が高スキルである判断した場合に、画面操作のアドバイス・ガイドとして、画面上に指の上記アニメーションや上記影を表示しないが、音声によるアドバイス・ガイドを提供する(565)。また、コンピュータは、ユーザの習熟度が上記高スキルである判断した場合に、ジェスチャとボタン(+,−)(564)との併用によるズーム・イン及びズーム・アウトが可能であるようにユーザ・インタフェースを変更する。
図6A〜図6Dは本発明の実施態様に従い構築されるモデルの学習フェーズを示すフローチャートであり、及び、図7は本発明の実施態様に従い構築されたモデルの運用フェーズを示すフローチャートである。
図6A〜図6Dは、本発明の実施態様に従い、操作ログ・データを用いて、ユーザの習熟度を推定するためのモデルを構築する処理(モデルの学習フェーズ)のためのフローチャートを示す。
図6Aは、本発明の実施態様に従い、マルチタッチ操作可能な表面を備えている電子機器上で行われたユーザのタッチ操作を操作ログ・データとして記憶する処理を含むフローチャートを示す。
ステップ601において、電子機器は、操作ログ・データを記憶する処理を開始する。
ステップ602において、電子機器は、所定の操作課題を実行するユーザ(被実験者でもある)に低スキル又は高スキルのどちらであるかを選択させる。低スキル又は高スキルのどちらであるかの選択は例えば、同一人物におけるトレーニング前のスキル又はトレーニング後のスキルであるかの選択でありうる。当該選択は例えば、画面上に表示されるポップアップウィンドウ上のアイテム「低スキル」又は「高スキル」をユーザがタッチすることによって行われうる。ユーザが低スキルであるか高スキルであるかは例えば、モデルを構築する実験者により主観的に判断されうる。
ステップ603において、電子機器は、実験者によって指定された所定の操作課題が開始されることに応じて、ログ取得対象のアプリケーションを起動する。電子機器は、任意的に、当該所定の操作課題の開始のセッションを識別する為のセッションIDを作成しうる。
ステップ604において、電子機器は、ユーザの上記アプリケーション上のユーザの操作が行われるのを待つ(すなわち、画面上の操作により発生したイベントの発生を待つ)。
ステップ605において、電子機器は、ユーザの操作が行われたことに応じて、操作ログ・データを、当該電子機器の記憶装置、操作ログ・データを一時的に収集しているサーバ、又は、ユーザの習熟度を推定するためのモデルを構築するためのコンピュータがアクセス可能な記憶装置(以下、纏めて、「操作ログDB」(691)という)上に記憶する。代替的には、電子機器は、ユーザの操作が行われたことに応じて、操作ログ・データをサーバに送信しうる。操作ログ・データは例えば、少なくとも操作課題を操作したユーザのユーザID、低スキル又は高スキルを示すタグ、及び操作イベント系列データを含む。操作ログ・データは、任意的に、例えば、当該該操作課題を実行した電子機器の電子機器ID、当該操作課題の操作課題ID、及び/又はセッションIDをさらに含みうる。
ステップ606において、電子機器は、ユーザによる操作課題が終了したかどうかを判断する。電子機器は、当該操作課題が終了していることに応じて、処理を終了ステップ607に進める。一方、電子機器は、当該操作課題が終了していないことに応じて、処理をステップ605に戻す。
ステップ607において、電子機器は、操作ログ・データを記録する処理を終了する。
ユーザそれぞれは、各ユーザが所持している電子機器、又は上記電子機器を用いて、上記所定の操作課題を行う。
図6Bは、本発明の実施態様に従い、コンピュータが、上記操作ログDB(691)に記憶した操作ログ・データに基づいてモデルを学習し、当該学習したモデルから識別面を算出する処理を含むフローチャートを示す。
ステップ611において、コンピュータは、操作ログ・データに基づいてモデルを学習し、当該学習したモデルから識別面を算出する処理を開始する。
ステップ612において、コンピュータは、操作ログDB(691)から操作ログ・データを読み出し、当該操作ログ・データ中の低スキル又は高スキルを示すタグに基づいて、低スキル・データのN個の操作ログ・データを読み込む。
ステップ613において、コンピュータは、ステップ612で読み出したN個の操作ログ・データそれぞれの操作ログ・データから特徴ベクトルをユーザ毎に算出するために、上記図2A〜2Bのステップ2〜5に示したように、上記操作ログ・データを1ジェスチャ単位に(1ジェスチャ毎に)集約し、当該集約された集約データに基づいて、基本特徴量、そして拡張特徴量を算出し、当該算出した基本特徴量及び拡張特徴量を特徴量DB(692)に格納する。コンピュータは、さらに当該基本特徴量、当該拡張特徴量又はそれらの少なくとも2つの組み合わせを統計処理して、特徴ベクトルを構成する統計値を算出する。そして、コンピュータは、上記算出した統計値からなる特徴量データを特徴ベクトルとして、特徴ベクトルDB(695)に格納する。コンピュータは、低スキル・データのN個の操作ログ・データそれぞれに対応する特徴ベクトルを得る。当該特徴ベクトルを得る為の詳細なフローチャートを図6Cに示す。
ステップ614において、コンピュータは、上記ステップ612と同じようにして、高スキル・データのM個の操作ログ・データを読み込む。
ステップ615において、コンピュータは、上記ステップ613と同じようにして、特徴ベクトルを構成する統計値を算出する。そして、コンピュータは、上記算出した統計値からなる特徴量データを特徴ベクトルとして、特徴ベクトルDB(695)に格納する。コンピュータは、高スキル・データのM個の操作ログ・データそれぞれに対応する特徴ベクトルを得る。当該特徴ベクトルを得る為の詳細なフローチャートを図6Cに示す。
ステップ616において、コンピュータは、ステップ613で得たN個の特徴ベクトル及びステップ615で得たM個の特徴ベクトルから、タッチ操作スキルの低スキル・データとタッチ操作スキルの高スキル・データとを分類する為のモデルを学習する。当該モデルを学習する為の詳細なフローチャートを図6Dに示す。
ステップ617において、コンピュータは、上記図2Bのステップ6に示したように、ステップ616で学習したモデルからクラス分類法により識別面を算出する。
ステップ618において、コンピュータは、操作ログ・データに基づいてモデルを学習し、当該学習したモデルから識別面を算出する処理を終了する。
図6Cは、本発明の実施態様に従い、コンピュータが上記記憶した操作ログ・データから基本特徴量を抽出し、そして拡張特徴量及び特徴量データを算出する処理を含むフローチャートを示す。
ステップ621において、コンピュータは、上記基本特徴量を抽出し、そして拡張特徴量及び特徴量データを算出する処理を開始する。
ステップ622において、コンピュータは、図6Bのステップ612で読み込んだN個の操作ログ・データ又は同ステップ614で読み込んだM個の操作ログ・データのうちの1個の操作ログ・データをメモリ上に取り出す。
ステップ623において、コンピュータは、基本特徴量抽出テーブル(694)を参照して、上記図2Bのステップ2に示したように、ステップ622で取り出した1個の操作ログ・データから、1ジェスチャ毎に、K個の基本特徴量を抽出する。当該基本特徴量は少なくとも、1ジェスチャにおいて用いられた指の数、及び当該1ジェスチャにおける指の移動距離(タッチ開始時からタッチ終了時の直線距離であって、指の軌跡距離ではない)を含む。コンピュータは、抽出したK個の基本特徴量を特徴量DB(692)に格納する。基本特徴量抽出テーブル(694)は、上記操作ログ・データから抽出すべき基本特徴量を指定する記述を含む。当該抽出すべき基本特徴量は例えば、図4A及び図4Bに示した基本特徴量の複数でありうる。
ステップ624において、コンピュータは、上記図2Bのステップ3に示したように、1ジェスチャ毎に、ステップ623で抽出した基本特徴量の少なくとも2つを組み合わせて演算処理して、拡張特徴量を算出する。コンピュータは、算出した拡張特徴量を特徴量DB(692)に格納する。
ステップ625において、コンピュータは、上記図2Bのステップ4に示したように、特徴ベクトル(204)を構成する統計値を、各ユーザについての、(1)ステップ2で算出した基本特徴量の少なくとも2つの組み合わせ、(2)ステップ2で算出した基本特徴量の少なくとも1つとステップ3で算出した拡張特徴量の少なくとも1つとの組み合わせ、又は、(3)ステップ3で算出した拡張特徴量の少なくとも2つの組み合わせ、を統計処理して算出するコンピュータは、上記算出した統計値からなる特徴量データを特徴ベクトルとして特徴ベクトルDB(695)に格納する。
ステップ626において、コンピュータは、図6Bのステップ612で読み込んだ操作ログ・データのうち、ステップ623〜625の処理が未処理である操作ログ・データがあるかを判断する。コンピュータは、未処理の操作ログ・データがあることに応じて、処理をステップ622に戻す。一方、コンピュータは、未処理の操作ログ・データがないことに応じて、処理を終了ステップ627に進める。
ステップ627において、コンピュータは、上記基本特徴量を抽出し、そして拡張特徴量及び特徴量データを算出する処理を終了する。
図6Dは、本発明の実施態様に従い、コンピュータが上記算出した特徴量データに基づいて、タッチ操作スキルの低いデータとタッチ操作スキルの高いデータとを分類する為のモデルを学習する処理を含むフローチャートを示す。
ステップ631において、コンピュータは、上記モデルを学習する処理を開始する。
ステップ632において、コンピュータは、クラス判別モデルが数理モデルであり、当該数理モデルがハイパーパラメータを含んでいる場合に、タッチ操作スキルの低いデータとタッチ操作スキルの高いデータの各クラスの判別を最適化するように学習する数理モデルのためのハイパーパラメータをPパターン用意する。当該ハイパーパラメータのPパターンは、当業者が適宜設定することが可能である。当業者は例えば、当該Pパターンを、当該ハイパーパラメータが現実的にとりうる区間に対して、線形スケール又は対数スケールに等間隔に値の候補を準備しうる。例えば、当該ハイパーパラメータが複数のn個あり、各ハイパーパラメータについてk種類の値を用意する場合、P=kパターンになる。なお、上記数理モデルがハイパーパラメータを含んでいない場合には、コンピュータは、ステップ632〜640を飛ばして、ステップ640の「N個及びM個の特徴ベクトルでモデルを学習」することを実行し、処理を終了ステップ641に進める。
ステップ633において、コンピュータは、特徴ベクトルDB(695)を参照して、1個の低スキル・データの特徴ベクトルと1個の高スキル・データの特徴ベクトルとを選択する。
ステップ634において、コンピュータは、N個の低スキル・データのうちの残りのN−1個の低スキル・データの特徴ベクトル及びM個の高スキル・データのうちの残りのM−1個の高スキル・データの特徴ベクトルから、上記数理モデルを学習する。
ステップ635において、コンピュータは、ステップ633で選択した低スキル・データ及び高スキル・データそれぞれを、ステップ634で学習したモデル上で分類できるかどうかを検証する。コンピュータは、ステップ633で選択した1個の低スキル・データの特徴ベクトル及び1個の高スキル・データの特徴ベクトルが、ステップ634で学習したモデルで分類できた場合には、分類可(Yes)を記録し、一方、ステップ634で学習したモデルで分類できなかった場合には、分類不可(No)を記録する。
ステップ636において、コンピュータは、全ての特徴ベクトルがステップ633で選択されたがを判断する。コンピュータは、全ての特徴ベクトルが選択されていることに応じて処理をステップ637に進める。一方、コンピュータは、全ての特徴ベクトルが選択されていないことに応じて、処理をステップ633に戻す。
ステップ637において、コンピュータは、ステップ635での記録に基づいて、N個の低スキル・データ及びM個の高スキル・データの全てについて、それぞれ正答率を算出する。
ステップ638において、コンピュータは、ハイパーパラメータのステップ632で用意したPパターン全てについて、ステップ633〜637を実行して正答率を算出したかを判断する。コンピュータは、Pパターン全てについて正答率を算出していることに応じて、処理をステップ639に進める。一方、コンピュータは、Pパターン全てについて正答率を算出していないことに応じて、未処理のパターンについてステップ633〜637を繰り返す為に、処理をステップ632に戻す。
ステップ639において、コンピュータは、タッチ操作のスキルの高いデータがタッチ操作のスキルの低いデータよりも評価値が高くなるように、上記ハイパーパラメータをチューニングする。コンピュータは例えば、ステップ632で用意したPパターンのうち、正答率が最大となるハイパーパラメータpを決定する。
ステップ640において、コンピュータは、ステップ639で決定したハイパーパラメータpを使って、N個及びM個の特徴ベクトルでモデルを学習する。コンピュータは、当該学習したモデルを、モデルDB(693)に格納する。
ステップ641において、コンピュータは、上記モデルを学習する処理を終了する。
図7は、本発明の実施態様に従い、電子機器が、学習されたモデルを使用して、ユーザの習熟度に応じたユーザ支援をする処理(モデルの運用フェーズ)を含むフローチャートを示す。
なお、以下の各ステップ701〜715で述べる電子機器は、モデルを構築する為に操作ログ・データを収集した図6Aの各ステップで示す電子機器モデルと異なるものでありうる。また、以下の各ステップ701〜715で述べる電子機器は、図6A〜図6Cで学習されたモデルを記憶媒体中に備えているとする。
ステップ701において、電子機器は、ユーザ支援をする処理を開始する。当該処理の開始は例えば、電子機器の起動時に当該処理の為の電子機器プログラムが自動的に起動することによって行われうる。
ステップ702において、電子機器は、ユーザの習熟度を推測する為に、ログ取得対象のアプリケーションを起動する。当該ログ取得対象のアプリケーションは、ユーザが任意に使用しうるアプリケーションでよい。すなわち、モデルを構築する場合と異なり、特定のアプリケーションである必要はない。代替的には、当該アプリケーションは、ユーザの習熟度を推測する為に使用される特定のアプリケーションであってもよい。
ステップ703において、電子機器は、ユーザの上記アプリケーション上のユーザの操作が行われるのを待つ(すなわち、画面上の操作により発生したイベントの発生を待つ)。
ステップ704において、電子機器は、ユーザの操作が行われたことに応じて、当該ユーザ操作に関連付けられたイベント・レコードを取得し、当該イベント・レコードを履歴データとして当該電子機器の記憶装置に記憶する。当該イベント・レコードは例えば、少なくとも操作課題を操作したユーザのユーザID、低スキル又は高スキルを示すタグ、及び操作イベント系列データを含む。電子機器は、履歴データ中にT件以上のイベント・レコードがある場合には、一番古い日付を有する1件のイベント・レコードを削除して、上記取得したイベント・レコードを上記履歴データ中に記憶する。当該T件は、下記ステップ707で特徴ベクトルを得る為に十分な件数でありうる。
ステップ705において、電子機器は、上記履歴データ中にT件以上のイベント・レコードが追加されたかを判断する。電子機器は、T件以上のイベント・レコードが追加されていないことに応じて、処理をステップ706に進める。一方、電子機器は、T件以上のイベント・レコードが追加されたことに応じて、最新のT件のイベント・レコードのみを利用して統計値からなる特徴量データを算出する為に、処理をステップ707に進める。電子機器は例えば、T+1件のバッファを備えており、当該バッファから最新のT件のみのデータを取り出しうる。代替的には、電子機器は例えば、全てのイベント・レコードを保持可能なバッファを備えており、当該バッファから最新のT件のみのデータを取り出しうる。
ステップ706において、電子機器は、ステップ702で起動したアプリケーションが終了するかを判断する。電子機器は、当該アプリケーションが終了することに応じて、処理を終了ステップ715に進める。一方、電子機器は、当該アプリケーションが終了しないことに応じて、処理をステップ703に戻す。
ステップ707において、電子機器は、T件のイベント・レコードを操作ログ・データとして、図6Cに示したフローチャートの各ステップと同様にして、当該操作ログ・データから基本特徴量を抽出し、そして拡張特徴量、及び統計値からなる特徴量データをさらにそれぞれ算出する。そして、電子機器は、上記算出した統計値からなる特徴量データを特徴ベクトルとして特徴ベクトルDBに格納する。
ステップ708において、電子機器は、上記特徴ベクトルに基づいて、当該ユーザの習熟度をモデルの識別面からの距離として算出する。
ステップ709において、電子機器は、ステップ708で算出した習熟度を当該電子機器の表示装置上に表示するかを判断する。電子機器は、習熟度を表示することに応じて、処理をステップ710に進める。電子機器は、習熟度を表示しないことに応じて、処理をステップ711に進める。
ステップ710において、電子機器は、ステップ708で算出した習熟度を当該電子機器の表示装置上に表示する。当該表示は例えば、低レベル又は高レベル;数字による習熟度の表示;例えばグラフによる視覚的な表示でありうる。電子機器は、当該変更をすることに応じて、処理をステップ711に進める。
ステップ711において、電子機器は、ステップ708で算出した習熟度に基づいて、ユーザ・インタフェース(UI)を変更するかを判断する。電子機器は、UIを変更することに応じて、処理をステップ712に進める。電子機器は、UIを変更しないことに応じて、処理をステップ713に進める。
ステップ712において、電子機器はUIを変更する。UIの変更は例えば、図5A〜図5Cの各実施態様を参照されたい。電子機器は、当該変更をすることに応じて、処理をステップ713に進める。
ステップ713において、電子機器は、ステップ708で算出した習熟度に基づいて、アドバイス・ガイドを表示又は変更するかを判断する。電子機器は、アドバイス・ガイドを表示又は変更することに応じて、処理をステップ714に進める。電子機器は、アドバイス・ガイドを表示及び変更しないことに応じて、処理をステップ715に進める。
ステップ714において、電子機器は、アドバイス・ガイドを表示及び変更する。アドバイス・ガイドを表示及び変更は例えば、図5Cの実施態様を参照されたい。電子機器は、当該表示又は変更をすることに応じて、処理をステップ715にさらに進める。
ステップ715において、電子機器は、ユーザ支援をする処理を終了する。
上記の実施態様では、電子機器それ自体が、習熟度を算出する態様を説明した。代替的には、電子機器はステップ704で収集したイベント・レコードを、例えば習熟度を算出することが可能なコンピュータ(例えば、図6B〜図6Dに示す各ステップを実行可能なコンピュータ)に送信して、当該コンピュータから習熟度の結果を得るようにしてもよい。
また、本発明の実施態様に従う上記運用フェーズでは、電子機器がユーザにより行われたマルチタッチ操作から操作ログ・データをタイムリーに取得し、習熟度を推定することを示した。代替的には、電子機器がユーザにより行われた操作を動的に取得するのではなく、記憶装置に保存された特定の時期における操作ログ・データを取り出して、当該特定の時期における習熟度を推定するようにしうる。
また、本発明の実施態様に従う上記運用フェーズでは、マルチタッチ操作可能な表面上のタッチ操作の履歴の基本特徴量を利用する為に、当該電子機器の短時間(例えば、数分)の利用であっても、操作スピードにむらがあっても(例えば、テレビをみながら、スマートフォンを操作している場合に、一時的にマルチタッチ操作をしていない時間帯がある)、ユーザの習熟度を推定することが可能である。
さらに、本発明の実施態様に従う上記運用フェーズでは、上記した通り、タスクへの依存性が低いモデルを使用する為に、例えば所定の操作課題が地図タスクである場合において、当該地図タスクと異なる電話帳タスクでの習熟度の推定にも使用できる。
図8は、図1Aに従うハードウェア構成を好ましくは備えており、本発明の実施態様に従うコンピュータの機能ブロック図の一例を示した図である。以下において、「部」は「手段」とも読み替えてもよい。
コンピュータ(801)は、イベント・レコード収集部(811)、特徴ベクトル算出部(812)及びモデル構築部(813)を備えている。
イベント・レコード収集部(811)は、電子機器からの操作ログ・データを、例えば操作ログDB(891)から収集する。イベント・レコード収集部(811)は、当該収集した操作ログ・データを特徴量DB(892)に格納しうる。
イベント・レコード収集部(811)は、図6Bのステップ612及び図6Cのステップ622を実行しうる。
特徴ベクトル算出部(812)は、基本特徴量算出部(821)、拡張特徴量算出部(822)及び統計処理部(823)を備えている。特徴ベクトル算出部(812)は、複数のユーザそれぞれの操作ログ・データから特徴ベクトルをユーザ毎に算出する。
基本特徴量算出部(821)は、イベント・レコード収集部(811)が収集した操作ログ・データそれぞれから特徴ベクトルをユーザ毎に算出するために、基本特徴量抽出テーブル(894)を参照して、上記操作ログ・データを1ジェスチャ単位に(1ジェスチャ毎に)集約し、当該集約された集約データに基づいて、基本特徴量を抽出する。コンピュータは、算出した拡基本特徴量を例えば特徴量DB(892)に格納しうる。
基本特徴量算出部(821)は、図6Cのステップ622及び623を実行しうる。
拡張特徴量算出部(822)は、1ジェスチャ毎に、基本特徴量算出部(821)が抽出した基本特徴量の少なくとも2つを組み合わせて演算処理して、拡張特徴量を算出する。コンピュータは、算出した拡張特徴量を例えば特徴量DB(892)に格納しうる。
拡張特徴量算出部(822)は、図6Cのステップ624を実行しうる。
統計処理部(823)は、特徴ベクトルを構成する統計値を、各ユーザについての操作課題における全てのジェスチャについての、(1)基本特徴量算出部(821)が算出した基本特徴量の少なくとも2つの組み合わせ、(2)基本特徴量算出部(821)が基本特徴量の少なくとも1つと拡張特徴量算出部(822)が算出した拡張特徴量の少なくとも1つの組み合わせ、又は、(3)拡張特徴量算出部(822)が算出した拡張特徴量の少なくとも2つの組み合わせ、を統計処理して算出する。統計処理部(823)は、上記算出した統計値からなる特徴量データを特徴ベクトルとして例えば特徴ベクトルDB(895)に格納しうる。
統計処理部(823)は、図6Cのステップ625を実行しうる。
モデル構築部(813)は、統計処理部(823)が得た特徴ベクトルから、タッチ操作スキルの低スキル・データとタッチ操作スキルの高スキル・データとを分類する為のモデルを学習する。統計処理部(823)は、当該モデルを例えばモデルDB(893)に格納しうる。また、モデル構築部は、当該学習したモデルからクラス分類法により識別面を算出する。
モデル構築部(813)は、図6Cのステップ625、及び、図6Bのステップ617、並びに、図6Dの各ステップを実行しうる。
コンピュータ(801)は任意的に、下記図9に示す習熟度算出部(913)と同様の機能を有する習熟度算出部(図示せず)を備えていてもよい。コンピュータ(801)が備えている習熟度算出部は例えば、電子機器からの習熟度の算出依頼に応じて、習熟度を算出しうる。
図9は、図1Bに従うハードウェア構成を好ましくは備えており、本発明の実施態様に従う電子機器の機能ブロック図の一例を示した図である。以下において、「部」は「手段」とも読み替えてもよい。
コンピュータ(901)は、イベント・レコード記憶部(911)、特徴ベクトル算出部(912)、習熟度算出部(913)、並びに任意的に、UI変更部(914)及び/又はアドバイス・ガイド提供部(915)を備えている。
イベント・レコード記憶部(911)は、ユーザの操作が行われたことに応じて、当該ユーザ操作に関連付けられたイベント・レコードを取得し、当該イベント・レコードを操作ログ・データとして当該電子機器の記憶装置に例えば、操作ログDB(991)として記憶する。
イベント・レコード記憶部(911)は、図7のステップ703〜706を実行しうる。
特徴ベクトル算出部(912)は、基本特徴量算出部(921)、拡張特徴量算出部(922)及び統計処理部(923)を備えている。特徴ベクトル算出部(912)は、複数のユーザそれぞれの操作ログ・データから特徴ベクトルをユーザ毎に算出する。
基本特徴量算出部(921)は、イベント・レコード記憶部(911)が収集した操作ログ・データそれぞれから特徴ベクトルをユーザ毎に算出するために、基本特徴量抽出テーブル(994)を参照して、上記操作ログ・データを1ジェスチャ単位に(1ジェスチャ毎に)集約し、当該集約された集約データに基づいて、基本特徴量を抽出する。コンピュータは、算出した拡基本特徴量を例えば特徴量DB(992)に格納しうる。
基本特徴量算出部(921)は、図6Cのステップ622及び623と同様の処理を実行しうる。
拡張特徴量算出部(922)は、1ジェスチャ毎に、基本特徴量算出部(921)が抽出した基本特徴量の少なくとも2つを組み合わせて演算処理して、拡張特徴量を算出する。また、拡張特徴量算出部(922)は、基本特徴量と上記演算処理後の拡張特徴量とを組み合わせて演算処理して、又は、上記演算処理後の拡張特徴量の少なくとも2つを組み合わせて演算処理して、拡張特徴量を算出する。コンピュータは、算出した拡張特徴量を例えば特徴量DB(992)に格納しうる。
拡張特徴量算出部(922)は、図6Cのステップ624と同様の処理を実行しうる。
統計処理部(923)は、特徴ベクトルを構成する統計値を、各ユーザについての操作課題における全てのジェスチャについての、(1)基本特徴量算出部(921)が算出した基本特徴量の少なくとも2つの組み合わせ、(2)基本特徴量算出部(921)が基本特徴量の少なくとも1つと拡張特徴量算出部(922)が算出した拡張特徴量の少なくとも1つの組み合わせ、又は、(3)拡張特徴量算出部(922)が算出した拡張特徴量の少なくとも2つの組み合わせ、を統計処理して算出する。統計処理部(923)は、上記算出した統計値からなる特徴量データを特徴ベクトルとして例えば特徴ベクトルDB(995)に格納しうる。
統計処理部(923)は、図6Cのステップ625と同様の処理を実行しうる。
習熟度算出部(913)は、タッチ操作スキルの低いデータと前記タッチ操作スキルの高いデータとを分類する為のモデルを例えばモデルDB(993)から取得して、又は当該モデルを電子機器が備えている記憶媒体から読み出す。そして、習熟度算出部(913)は、統計処理部(923)が得た特徴ベクトルを上記モデルに入れて、習熟度を当該モデルの識別面からの距離として算出する。
習熟度算出部(913)は、図7のステップ708〜710を実行しうる。
UI変更部(914)は、習熟度算出部(913)が算出したユーザの習熟度に応じて、UIを変更する。
UI変更部(914)は、図7のステップ711〜712を実行しうる。
アドバイス・ガイド提供部(915)は、習熟度算出部(913)が算出したユーザの習熟度に応じて、アドバイス・ガイドを表示又は変更する。
アドバイス・ガイド提供部(915)は、図7のステップ713〜714を実行しうる。

Claims (20)

  1. マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する方法であって、コンピュータが、
    所定の操作課題に対する複数のユーザそれぞれの操作ログ・データを読み出すステップであって、前記操作ログ・データが、前記表面へのタッチ操作スキルの低いデータと当該タッチ操作スキルの高いデータとを含む、前記読み出すステップと、
    前記複数のユーザそれぞれの操作ログ・データから特徴ベクトルをユーザ毎に算出するステップであって、前記特徴ベクトルが、前記表面へのタッチ開始からタッチ終了までの1ジェスチャを構成するタッチ操作に関する特徴量に基づいて求められる、前記算出するステップと、
    前記算出された特徴ベクトルを用いて、前記タッチ操作スキルの低いデータと前記タッチ操作スキルの高いデータとを分類する為のモデルを構築するステップであって、当該構築されたモデルが任意のユーザの習熟度を前記モデルの識別面からの距離として算出するために使用される、前記構築するステップと
    を実行することを含む、前記方法。
  2. 前記特徴ベクトルを算出するステップが、
    前記複数のユーザそれぞれの前記操作ログ・データそれぞれから、1ジェスチャ毎に、複数の基本特徴量を抽出するステップであって、前記基本特徴量が少なくとも、前記1ジェスチャにおいて用いられた指の数、及び前記1ジェスチャにおける指の移動距離を含む、前記抽出するステップ
    をさらに含む、請求項1に記載の方法。
  3. 前記基本特徴量が、
    前記1ジェスチャにおける指の移動方向若しくは移動角度、各指の位置若しくは位置関係、二つの指間の距離の移動前後の差分、当該1ジェスチャに要した時間、前記タッチ開始時と前記タッチ終了時それぞれにおける指の位置の直線距離若しくは軌跡の距離、又はマルチタッチの種類をさらに含む、
    請求項2に記載の方法。
  4. 前記特徴ベクトルを算出するステップが、
    1ジェスチャ毎に、前記基本特徴量の少なくとも2つを組み合わせて演算処理して、拡張特徴量を算出するステップ、及び任意的に、
    前記基本特徴量の少なくとも1つと前記演算処理後の拡張特徴量の少なくとも1つとを組み合わせて演算処理して、又は、前記演算処理後の拡張特徴量の少なくとも2つを組み合わせて演算処理して、拡張特徴量を算出するステップ
    をさらに含む、請求項2に記載の方法。
  5. 前記特徴ベクトルを算出するステップが、
    前記特徴ベクトルを構成する統計値を、各ユーザについての前記基本特徴量若しくは前記拡張特徴量、又は、前記基本特徴量と前記拡張特徴量との組み合わせを統計処理して算出するステップであって、前記統計値は前記操作課題における全てのジェスチャについての統計値である、前記算出するステップと
    をさらに含む、請求項4に記載の方法。
  6. 前記特徴ベクトルを算出するステップが、
    前記抽出した前記基本特徴量を特徴量リストに格納するステップと、
    前記算出した前記拡張特徴量を前記特徴量リストに格納するステップと
    をさらに含む、請求項5に記載の方法。
  7. 前記特徴ベクトルを算出するステップが
    前記特徴ベクトルを構成する統計値を、前記特徴量リスト内に格納された各ユーザについての前記特徴量を統計処理して算出するステップであって、前記統計値は前記操作課題における全てのジェスチャについての統計値である、前記算出するステップと
    をさらに含む、請求項4に記載の方法。
  8. 前記モデルを構築するステップが、
    前記タッチ操作スキルの低いデータと前記タッチ操作スキルの高いデータの各クラスの判別を最適化するようにクラス判別モデルを学習するステップ
    をさらに含む、請求項1に記載の方法。
  9. 前記クラス判別モデルが、任意の数理モデルである、請求項1に記載の方法。
  10. 前記数理モデルがハイパーパラメータを含み、
    前記モデルを構築するステップが、
    前記タッチ操作のスキルの高いデータが前記タッチ操作のスキルの低いデータよりも評価値が高くなるように、前記ハイパーパラメータをチューニングするステップ
    をさらに含む、請求項9に記載の方法。
  11. 前記モデルを構築するステップが、
    前記チューニングされたハイパーパラメータを使用して、前記数理モデルを構築するステップ
    を含む、請求項10に記載の方法。
  12. 前記タッチ操作スキルの低いデータ及び前記タッチ操作スキルの高いデータがそれぞれ、同一のユーザのトレーニング前のデータ及びトレーニング後のデータである、請求項1に記載の方法。
  13. マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定する方法であって、前記電子機器が、
    ユーザの操作を操作ログ・データとして格納するステップと、
    前記操作ログ・データを読み出して、前記ユーザの習熟度を、請求項1〜12のいずれか一項に記載の方法の各ステップに従って構築された前記モデルの識別面からの距離として算出するステップと
    を実行することを含む、前記方法。
  14. マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度に応じたユーザ支援をする方法であって、前記電子機器が、
    ユーザの操作を操作ログ・データとして格納するステップと、
    前記操作ログ・データを読み出して、前記ユーザの習熟度を、請求項1〜12のいずれか一項に記載の方法の各ステップに従って構築された前記モデルの識別面からの距離として算出するステップと、
    前記ユーザの習熟度に応じて、前記電子機器の表示画面に関連付けられたユーザ・インタフェースを変更するステップ、又は、前記ユーザの習熟度に応じて、当該習熟度に関連付けられたアドバイス・ガイドを提供するステップと
    を実行することを含む、前記方法。
  15. マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築するためのコンピュータであって、
    前記コンピュータは、所定の操作課題に対する複数のユーザの操作ログ・データを格納した記憶装置にアクセス可能であり、
    前記コンピュータは、
    前記複数のユーザそれぞれの操作ログ・データから特徴ベクトルをユーザ毎に算出する特徴ベクトル算出部であって、前記特徴ベクトルが、前記表面へのタッチ開始からタッチ終了までの1ジェスチャを構成するタッチ操作に関する特徴量に基づいて求められる、前記特徴ベクトル算出部と、
    前記算出された特徴ベクトルを用いて、前記タッチ操作スキルの低いデータと前記タッチ操作スキルの高いデータとを分類する為のモデルを構築するモデル構築部であって、当該構築されたモデルが任意のユーザの習熟度を前記モデルの識別面からの距離として算出するために使用される、前記モデル構築部と
    を備えている、前記コンピュータ。
  16. マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを格納する記憶装置を備えている電子機器であって、
    請求項1〜12のいずれか一項に記載の方法の各ステップに従って構築された前記モデルを格納する為の記憶装置と、
    ユーザの操作を操作ログ・データとして収集する操作ログ・データ収集部と、
    前記操作ログ・データを読み出して、前記ユーザの習熟度を、前記モデルの識別面からの距離として算出する習熟度算出部と
    を備えている、前記電子機器。
  17. 前記ユーザの習熟度に応じて、前記電子機器の表示画面に関連付けられたユーザ・インタフェース(以下、「UI」という)を変更するUI変更部、又は、
    前記ユーザの習熟度に応じて、当該習熟度に関連付けられたアドバイス・ガイドを提供するアドバイス・ガイド提供部
    をさらに備えている、請求項16に記載の電子機器。
  18. マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築するためのコンピュータ・プログラムであって、請求項1〜12のいずれか一項に記載の方法の各ステップを実行させる、前記コンピュータ・プログラム。
  19. マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度を推定するための電子機器プログラムであって、前記電子機器に、請求項13に記載の方法の各ステップを実行させる、前記電子機器プログラム。
  20. マルチタッチ操作可能な表面を備えている電子機器の操作についてのユーザの習熟度に応じたユーザ支援をするための電子機器プログラムであって、前記電子機器に、請求項14に記載の方法の各ステップを実行させる、前記電子機器プログラム。
JP2013173026A 2013-08-23 2013-08-23 電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する方法、当該ユーザの習熟度を推定する方法、及び、当該ユーザの習熟度に応じたユーザ支援をする方法、並びに、それらのコンピュータ及びコンピュータ・プログラム Pending JP2015041317A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013173026A JP2015041317A (ja) 2013-08-23 2013-08-23 電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する方法、当該ユーザの習熟度を推定する方法、及び、当該ユーザの習熟度に応じたユーザ支援をする方法、並びに、それらのコンピュータ及びコンピュータ・プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013173026A JP2015041317A (ja) 2013-08-23 2013-08-23 電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する方法、当該ユーザの習熟度を推定する方法、及び、当該ユーザの習熟度に応じたユーザ支援をする方法、並びに、それらのコンピュータ及びコンピュータ・プログラム

Publications (1)

Publication Number Publication Date
JP2015041317A true JP2015041317A (ja) 2015-03-02

Family

ID=52695425

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013173026A Pending JP2015041317A (ja) 2013-08-23 2013-08-23 電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する方法、当該ユーザの習熟度を推定する方法、及び、当該ユーザの習熟度に応じたユーザ支援をする方法、並びに、それらのコンピュータ及びコンピュータ・プログラム

Country Status (1)

Country Link
JP (1) JP2015041317A (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017045323A (ja) * 2015-08-27 2017-03-02 ファナック株式会社 メニューを備える数値制御装置
JP2017146958A (ja) * 2016-02-12 2017-08-24 日本電信電話株式会社 ユーザインタフェース情報提供装置、ユーザインタフェース変更装置、ユーザインタフェース情報提供方法、ユーザインタフェース変更方法、及びプログラム
JP2017538980A (ja) * 2015-08-20 2017-12-28 小米科技有限責任公司Xiaomi Inc. 操作のガイド方法、装置及び電子デバイス
WO2020085374A1 (ja) * 2018-10-24 2020-04-30 日本電信電話株式会社 熟練指数提供装置、熟練指数提供方法、及びプログラム
WO2020196558A1 (ja) * 2019-03-26 2020-10-01 株式会社東海理化電機製作所 操作装置
JP2020194410A (ja) * 2019-05-29 2020-12-03 株式会社デンソー 操作装置
WO2021024594A1 (ja) * 2019-08-06 2021-02-11 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
JPWO2021048902A1 (ja) * 2019-09-09 2021-09-27 楽天グループ株式会社 学習モデル適用システム、学習モデル適用方法、及びプログラム
WO2021199697A1 (ja) * 2020-03-31 2021-10-07 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理システム、情報処理方法およびプログラム
WO2022215273A1 (ja) * 2021-04-09 2022-10-13 日本電信電話株式会社 処理方法、処理装置及び処理プログラム

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017538980A (ja) * 2015-08-20 2017-12-28 小米科技有限責任公司Xiaomi Inc. 操作のガイド方法、装置及び電子デバイス
JP2017045323A (ja) * 2015-08-27 2017-03-02 ファナック株式会社 メニューを備える数値制御装置
JP2017146958A (ja) * 2016-02-12 2017-08-24 日本電信電話株式会社 ユーザインタフェース情報提供装置、ユーザインタフェース変更装置、ユーザインタフェース情報提供方法、ユーザインタフェース変更方法、及びプログラム
JP7184093B2 (ja) 2018-10-24 2022-12-06 日本電信電話株式会社 熟練指数提供装置、熟練指数提供方法、及びプログラム
WO2020085374A1 (ja) * 2018-10-24 2020-04-30 日本電信電話株式会社 熟練指数提供装置、熟練指数提供方法、及びプログラム
CN112840364A (zh) * 2018-10-24 2021-05-25 日本电信电话株式会社 熟练指数提供装置、熟练指数提供方法、及程序
JPWO2020085374A1 (ja) * 2018-10-24 2021-09-02 日本電信電話株式会社 熟練指数提供装置、熟練指数提供方法、及びプログラム
WO2020196558A1 (ja) * 2019-03-26 2020-10-01 株式会社東海理化電機製作所 操作装置
JP2020194410A (ja) * 2019-05-29 2020-12-03 株式会社デンソー 操作装置
WO2021024594A1 (ja) * 2019-08-06 2021-02-11 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
US11842025B2 (en) 2019-08-06 2023-12-12 Sony Group Corporation Information processing device and information processing method
JP7556355B2 (ja) 2019-08-06 2024-09-26 ソニーグループ株式会社 情報処理装置、情報処理方法及びプログラム
JPWO2021048902A1 (ja) * 2019-09-09 2021-09-27 楽天グループ株式会社 学習モデル適用システム、学習モデル適用方法、及びプログラム
WO2021199697A1 (ja) * 2020-03-31 2021-10-07 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理システム、情報処理方法およびプログラム
WO2022215273A1 (ja) * 2021-04-09 2022-10-13 日本電信電話株式会社 処理方法、処理装置及び処理プログラム

Similar Documents

Publication Publication Date Title
JP2015041317A (ja) 電子機器の操作についてのユーザの習熟度を推定するためのモデルを構築する方法、当該ユーザの習熟度を推定する方法、及び、当該ユーザの習熟度に応じたユーザ支援をする方法、並びに、それらのコンピュータ及びコンピュータ・プログラム
US11372657B2 (en) Systems and methods for adaptive user interfaces
US11829720B2 (en) Analysis and validation of language models
US11501774B2 (en) Automatically executing operations sequences
US10628001B2 (en) Adapting user interfaces based on gold standards
US11853108B2 (en) Electronic apparatus for searching related image and control method therefor
Tsandilas Fallacies of agreement: A critical review of consensus assessment methods for gesture elicitation
Oh et al. The challenges and potential of end-user gesture customization
US11830033B2 (en) Theme recommendation method and apparatus
US8751550B2 (en) Freeform mathematical computations
CN109074368B (zh) 使用异构社交网络的图形框架
CN104335561A (zh) 生物识别发起的通信
CN103562835A (zh) 带有快速站点访问用户界面的web浏览器
CN104969184A (zh) 个性化实时推荐系统
CN109710066B (zh) 基于手势识别的交互方法、装置、存储介质和电子设备
WO2017027696A1 (en) Interactive product review interface
WO2024001578A1 (zh) 书籍信息处理方法、装置、设备和存储介质
WO2016048439A2 (en) Selective access to interactive device features
US10229212B2 (en) Identifying Abandonment Using Gesture Movement
Parente da Costa et al. A set of usability heuristics for mobile applications
Park et al. A novel approach for usability evaluation of mobile applications
EP3374879A1 (en) Provide interactive content generation for document
Park et al. Intuitive multi-touch gestures for mobile web browsers
Setthawong et al. Updated Goals Operators Methods and Selection Rules (GOMS) with touch screen operations for quantitative analysis of user interfaces
Zotz et al. Identification of age-specific usability problems of smartwatches