以下、実施の形態について図面を参照しながら説明する。実施の形態による情報処理装置は、対象者への働きかけを行う行動タイミングを示すタイミング情報を出力する。情報処理装置では、第1の時刻からの第1の時間に検出された対象者の働きかけの回数と種類とに応じた情報量が用いられる。また、第1の時刻より後の第2の時刻からの第1の時間よりも短い第2の時間に検出された対象者の働きかけの種類毎の種別回数が用いられる。タイミング情報は、情報量と種別回数とに基づき生成され、出力される。ここで、対象者とは、情報処理装置との間でインタラクションを行うユーザになり得るとして、挙動検出の対象となる者をいう。
なお、情報処理装置は、例えば、ロボット、エージェント、広告等様々なものの動作を行うタイミング、動作の種類などを制御するための制御装置に備えられる。また、情報処理装置は、データ通信網を介して、ロボット、エージェント、広告などから取得された情報を受付けて処理し、出力結果を、データ通信網を介して出力する装置であってもよい。
以下、制御対象となるロボット、エージェント、広告等を総称して「ロボット」と称する。ロボットが対象者に働きかけを行う時機(タイミング)を、「行動タイミング」という。対象者の挙動を、「イベント」ともいう。「働きかけ」とは、例えば、顔を向ける、アイコンタクトをする、手を振る、触る、声をかけるなど、ロボットまたは対象者に対して行う行動をいう。「インタラクション」とは、対象者またはロボットによる働きかけである。
第1の時間、第2の時間は、それぞれ現時点になるべく近い過去のそれぞれの時間をいう。第1の時間は、第1の時刻からの所定時間である。第2の時間は、第1の時刻より後の第2の時刻からの第1の時間より短い所定時間である。
対象者の働きかけの意志の強さとは、例えば、対象者がロボットにどれほど興味を持っているか、インタラクションを行っている、あるいは行おうとしているかの、数値的指標、段階的指標、または遷移状態を示す指標である。
(第1の実施の形態)
以下、図面を参照しながら、第1の実施の形態による情報処理装置1について説明する。第1の実施の形態は、動作情報量として、種別情報量を用いる例である。種別情報量は、働きかけの種類毎の動作情報量である。第1の時間に検出された対象者の働きかけの回数と種類とに応じた情報量としては、選択情報量が用いられる。
図1は、第1の実施の形態による情報処理装置1の機能的な構成を示すブロック図である。情報処理装置1は、センサなどにより検出された対象者の挙動をイベントとして入力されると、対象者へのインタラクションの行動タイミングを示すタイミング情報を出力する装置である。以下、行動タイミングを検出するとは、行動タイミングを決定するために参照可能な情報などを含む、タイミング情報を出力することを含む。
図1に示すように、情報処理装置1は、選択情報量算出部3、回数計数部5、動作情報量算出部7、タイミング情報生成部9、出力部11、記憶部13を有している。情報処理装置1の各機能は、例えば、予め記憶部13に記憶された動作プログラムを後述する演算処理装置が読み込んで実行することにより実現される。
図2は、第1の実施の形態による情報処理装置1を備えたインタラクションシステム20の構成の一例を示す図である。図2に示すように、インタラクションシステム20は、情報処理装置1の利用形態の一例であり、情報処理装置1に加え、カメラ22、イベント検出部24、出力装置26を有している。インタラクションシステム20では、情報処理装置1は、対象者30の挙動を検出した結果イベント検出部24から出力されるイベントを受付け、出力装置26に結果を出力する。なおインタラクションシステム20は、一つの装置として構成される形態でもよい。
カメラ22は、動画、または静止画を撮像する装置である。カメラ22は、例えば、出力装置26に対向する領域を撮影することで画像を生成し、生成した画像を、イベント検出部24に出力する。カメラ22は、例えば、毎秒数コマから数十コマのフレームレートで撮影可能な性能を有する装置としてもよい。
イベント検出部24は、カメラ22で生成された画像から、対象者30の、例えば出力装置26への働きかけを検出する。例えば、イベント検出部24は、取得された画像から、輝度の不連続な変化を示すエッジ等特徴点を抽出し、抽出した特徴点の分布に基づいて対象者30の顔、腕、胴体等の輪郭を特定する。イベント検出部24は、特定した輪郭に基づいて対象者30を検出する。イベント検出部24は、例えば、特定した対象者30の顔、目、鼻、耳、あるいは口等の輪郭の形状や互いの位置の関係に基づいて、対象者30の顔の向き、視線の方向、表情等を、対象者30によるイベントとして検出する。
なお、イベント検出部24が検出する対象者30のイベントは、上記に限定されない。逆に、上記の各種イベントを全種類検出する必要はなく、特定の少なくとも1種類以上のイベントを検出すればよい。イベントの検出は、特許文献1のユーザの表情を検出するために用いられる方法など、公知の技術を利用して行われるようにしてもよい。また、イベントの検出は、所定の処理または判定の規則を予め決め、カメラ22で取得された画像に適用することにより行われるようにしてもよい。
情報処理装置1は、イベント検出部24からイベントを受付ける。このとき、情報処理装置1は、例えば、イベントの種別を時刻とともに記憶部13に記憶するようにしてもよい。図1に示すように、選択情報量算出部3は、受付けたイベントに基づき、選択情報量Isel(T)を算出する。選択情報量Isel(T)は、ある事象(ここでは、あるイベント)が起こった際の情報量の一例を表す。選択情報量算出部3は、第1の時間Tに検出された全種類のイベント数Nt(T)と、第1の時間Tに検出されたイベントの種類毎の検出回数Ne(T)とを算出する。ここで、第1の時間Tとは、直近の所定時間とすることが好ましい。
選択情報量Isel(T)は、第1の時間Tに検出された全種類のイベント数Nt(T)に対する種類毎の検出回数Ne(T)の検出割合Peに基づき、下記式1により算出される。
なお、検出回数Niは、直近の過去の第1の時間Tに、いずれかのイベントiが検出された検出回数である。識別子i(iは、整数)は、イベントの種類に対応する識別子である。イベントとしては、例えば、顔左向き、顔右向き、アイコンタクト、表情、タッチ、声などが考えられる。なお、夫々のイベントの種類には、識別子iを割り当てて区別する。
上記のように、選択情報量Isel(T)は、検出された全イベントの中の、ある種類のイベントが起こったという事象に対応する数値的指標の一例を表す。例えば、あまり起こらない種類のイベントが起こった場合は、起こったことの意味は大きくなると考えられる。逆に、継続して起こっている種類のイベントがさらに起こった場合は、起こったことの意味はあまり大きくないと考えられる。これを数値化した例が選択情報量Isel(T)である。この概念の範囲において、式1の変形は可能である。
回数計数部5は、第1の時間Tより短い第2の時間T2に検出された、種類毎のイベントの回数を、種別回数Ne(T2)として計数する。第2の時間T2は、第1の時間T内の直近の所定時間とすることが好ましい。種別回数Ne(T2)は、直近の時間に起きた働きかけの状態の変化を表す数値的指標の一例である。働きかけの状態の変化を表すという概念の範囲において、種別回数Ne(T2)に代えて別な値を用いることもできる。例えば、種別回数Ne(T2)を、第2の時間T2における特定種類のイベントが検出される単位時間当たりの平均回数等に変形することは可能である。
動作情報量算出部7は、動作情報量を算出する。動作情報量とは、第1の時間に検出された対象者の働きかけの回数と種類とに応じた選択情報量と、第1の時間よりも短い第2の時間に検出された対象者の働きかけの種類毎の種別回数とに基づき、算出される。本実施の形態において、動作情報量は、イベントの種類毎の種別情報量Ieである。種別情報量Ieは、下記式2により算出される。
Ie=Ne(T2)×Isel(T)・・・(式2)
種別情報量Ieは、種類毎のイベントに関する、対象者の意志の強さの数値的指標の一例であり、第1の実施の形態においては、上述のように動作情報量として、この種別情報量Ieを用いている。種別情報量Ieが大きい場合は、対応する特定の種類のイベントの働きかけに対応する対象者の意志は、相対的に大きいことを表している。なお、このとき、動作情報量算出部7は、算出した種別情報量Ieを、時刻を表す情報とともに記憶部13に記憶させるようにしてもよい。なお、識別子iに対応するイベントの種別情報量Ieは、種別情報量Iiと記載される。
タイミング情報生成部9は、種別情報量Ieが、対象者の働きかけの意志の強さが一定以上であることを示しているか否かを判定し、判定結果に基づいてタイミング情報を生成する。情報処理装置1は、例えば、対象者の働きかけの意志の強さが一定以上であるための条件を予め定めて、記憶部13に記憶させておく。条件として、例えば、対象者の働きかけの意志の強さが一定以上であることを示す種別情報量Ieの閾値が、予め定められる。タイミング情報生成部9は、種別情報量Ieと閾値とを比較し、種別情報量Ieが閾値を超えていると、タイミング情報を生成し、出力部11に出力する。このとき、タイミング情報生成部9は、記憶部13に記憶された種別情報量Ieを参照して判定を行うようにしてもよい。
なお、タイミング情報生成部9は、種別情報量Ieが、複数種類のイベントに対して算出される場合は、その中のいずれか少なくとも一つが閾値を超えている場合に、タイミング情報を生成するようにしてもよい。
出力部11は、タイミング情報生成部9によりタイミング情報が入力された場合に、出力を行う。出力は、タイミング情報が出力されたことを知らせる情報であればよい。タイミング情報は、判定結果を示す情報や、閾値を超えたイベントの種類を示す情報を含むようにしてもよい。
このタイミング情報は、例えば、出力されたタイミングが行動タイミングであることを示す情報として利用することができる。また、例えば、当該タイミング情報が出力された時刻以降に検出された対象者のイベントには働きかけを返す、といったように利用することもできる。すなわち、タイミング情報の出力が行われることは、出力のタイミングが、行動タイミングであるための必要条件を満たしていることを示す。対象者への働きかけは、例えば出力装置26に備えられた機能を用いて行うことができる動作である。例えば、ロボットや表示されたキャラクタの表情を変える、音声を発する、特定の動きをする、特定の表示を行うなどが考えられる。
記憶部13は、例えば、随時読み出し書き込み可能な記憶装置、読み出し可能な記憶装置等である。記憶部13は、上述のように、例えば、算出された種別情報量Ie等を、時刻を表す情報とともに記憶する。また、記憶部13は、情報処理装置1の動作を行うためのプログラムを記憶するようにしてもよい。
出力装置26は、情報処理装置1からの制御に応じて、対象者30に対して働きかけを行う。出力装置26は、例えば、サーボモータにより動く顔および腕等の部材やスピーカ等を有し、対象者30に対して、身振り等の働きかけや発話を行うロボットである。あるいは、出力装置26は、液晶表示装置等のディスプレイであり、情報処理装置1からの制御に応じて、対象者30に対して、発話や身振り等の働きかけを行う人物や動物等のキャラクタを表示してもよい。
図3は、第1の実施の形態による動作情報量変化の一例を示す図である。動作情報量変化例40において、横軸は時間を示す。縦軸は、エントロピHおよび動作情報量(ここでは、上述のように種別情報量Ie)を示す。エントロピHは、第1の時間Tにおける平均的な情報量を示す。エントロピHは、比較の対象として記載している。なお、エントロピHは、式1に示した検出割合Peを用いて、下記式3で表される。
図3に示すように、イベント種別42では、イベントA〜Cが検出されたタイミングを、それぞれ「×」、「○」、「+」で表している。エントロピ44は、式3により算出されたイベントA〜Cに対応するエントロピHである。動作情報量46は、ここでは、イベントBに対応する種別情報量Ieである。閾値48は、種別情報量Ieに対して定められた閾値の一例を示している。
このように、イベントBが時刻t1以降に検出されている場合、イベントBに対応する種別情報量Ieを示す種別情報量46は、閾値48を超える値となるような変化を示している。一方、エントロピ44は、時刻t1より後の時刻t2まで、緩やかな上昇をするにとどまっている。特に、イベントB検出開始後のエントロピ44と種別情報量46とのピークとなる時刻を見ると、明らかに種別情報量46のほうが早く、また、イベントBが検出されない時間帯には値が減少しており、対象者の働きかけに対し鋭敏に反応する指標であることが分かる。
図4は、第1の実施の形態による情報量テーブル50の一例を示す図である。情報量テーブル50は、例えば記憶部13に記憶される。情報量テーブル50は、相対的な時刻を示すタイムスタンプと種別情報量Ie(I1、・・・、Ii、・・・)が関連付けられた情報である。種別情報Ieは、1種類以上が記憶される。今、例えば選択情報量の閾値が「0.5」と定められているとする。タイミング情報生成部9は、各時刻に算出される種別情報量Ieを閾値と比較し、閾値よりも大きくなった場合、タイミング情報52を出力する。タイミング情報52は、例えば、比較結果を示す情報など、判定の結果、タイミング情報が出力されたことを示す情報であればよい。
図5は、第1の実施の形態による情報処理装置1による行動タイミング検出の動作を示すフローチャートである。ここで、行動タイミング検出とは、少なくとも行動タイミングであるための必要条件を満たしていることを検出することを意味する。図5に示すように、情報処理装置1ではまず、選択情報量算出部3が、過去の第1の時間Tに検出されたイベントを集計する(S61)。選択情報量算出部3は、過去の第1の時間Tでのイベントの種類毎の検出回数Ne(T)を計測する(S62)。選択情報量算出部3は、さらに、検出回数Ne(T)およびイベントの総検出回数を用いて、イベントの種類毎の検出割合Peを算出する(S63)。選択情報量算出部3は、算出された検出割合Peに基づき、選択情報量Isel(T)を算出する(S64)。
一方、回数計数部5は、第1の時間Tよりも短い過去の第2の時間T2において検出されたイベントを種類毎に集計する(S65)。回数計数部5は、集計に基づき、種別回数Ne(T2)を計測する(S66)。動作情報量算出部7は、算出された選択情報量Isel(T)と、種別回数Ne(T2)とに基づき、種別情報量Ieを算出する(S67)。
タイミング情報生成部9は、例えば情報量テーブル50を参照して、種別情報量Ieが、出力を行う条件に合致しているか否かを判定する(S68)。条件は、上述したように、動作情報量(ここでは種別情報量Ie)が、閾値よりも大きいこと、閾値よりも大きく、かつ、複数の種別情報量Ieの中で最も大きいこと、など、適宜定めることができる。ここで定められる条件は、少なくとも、行動タイミングであると判定するための必要条件となる。
判定の結果、条件を満たしていると判定された場合は(S68:YES)、タイミング判定部9は、出力部11にタイミング情報を出力する。出力部11は、タイミング情報を出力し(S69)、処理を終了する。タイミング情報が出力されない場合には(S68:NO)、処理が終了される。なお、タイミング情報が出力されるタイミングは、少なくとも行動タイミングであるための必要条件を満たしていることを示す。タイミング情報の出力が行われるタイミングは、行動タイミングの候補として参照されるタイミングであるともいえる。
以上詳細に説明したように、第1の実施の形態による情報処理装置1においては、検出されたイベントの回数と種類とに基づき、動作情報量が算出される。動作情報量は、対象者の働きかけの意志の強さを表す。本実施の形態において、動作情報量として、種別情報量Ieが用いられる。種別情報量Ieは、第1の時間Tにおける、ある種類のイベントが検出されたという事象の意味の大きさと、第1の時間より短い第2の時間におけるその種類のイベントの検出回数とに応じた情報量である。タイミング情報生成部9は、種別情報量Ieに基づき、対象者に対して働きかけを行う行動タイミングである条件に当てはまるか否かを判定する。行動タイミングは、例えば、タイミング情報生成部9によるタイミング情報が出力部11から出力されたタイミングとすることができる。
以上のように、情報処理装置1によれば、対象者に対し、顔検出、動き検出等の画像または接触センサ等の様々なセンサによるセンシングを行い、対象者の挙動をイベントとして検出することができる。情報処理装置1は、第1の時間に検出したイベントの回数および種類と、第2の時間に検出した種別回数とに基づきタイミング情報を生成し、出力する。例えば、動作情報量を算出することにより、対象者の働きかけに関する意志の強さを数値的に表すことができる。これにより、情報処理装置1は、行動タイミングとして参照されるタイミング情報を出力することができる。すなわち、情報処理装置1は、少なくとも、対象者への働きかけを行うタイミングであるための予め定められた条件を満たすか否かを判定することができる。タイミング情報の出力のタイミングは、行動タイミングとして用いることも可能である。
このように動作情報量に基づく行動タイミング判定を行うことで、インタラクションを行う対象者の意思を遅滞なく反映した適切な行動タイミングを検出することができる。例えば、平均情報量(エントロピ)では検出が困難であった、イベントの頻度や発生パターンの急な変化なども、種別回数Ne(T2)が反映されて感度よく検出可能になる。一方、選択情報量Isel(T)により、1回のイベントの意味の重みが加味されることになり、対象者のイベントにおける働きかけの意志の強さの度合いが反映される。よって、働きかけの意志のない継続した動作を働きかけと誤認したり、働きかけになかなか反応が返されなかったり、といった不都合が防止される。これにより、対象者の意志の強さの推定精度を低下させることなく、適切な行動タイミングを検出することが可能となる。特に、種別情報量Ieを監視することで、短い遅延で対象者の行動の変化、およびイベントの種類を検出することができ、反応時間の短縮が可能となる。さらに、対象者とのインタラクションが実現可能な時間内で、ロボットに反応を返させることが可能となる。
この際、頻度高く検出されているイベントに対しては、対象者が惰性で行っている可能性が高いため、情報処理装置1では、イベント一回ごとの情報量は低いと見積もることができる。逆に、観測量の少ないイベントに関しては、対象者が何か意志を持って変化した結果、またはロボットの行動に対して状態を変化させながら追従した結果であると見なして、イベント一回ごとの情報量が高く見積もられる。
現時点以前でのインタラクション状態で観測されていたイベントであっても、イベントの観測量の大きな変動があったタイミングを検出可能である。例えば、情報処理装置1は、今までちらちらとロボットを見ていただけの対象者が急にロボットに興味を示して観察を始めたタイミングを検出可能である。逆に、情報処理装置1は、接触を伴うインタラクションを行っていたにも関わらず、急にやめてしまった等、対象者とのインタラクションに変化が起こったタイミングを検出可能である。情報処理装置1によれば、対象者への働きかけを行う行動タイミングを示す情報として、上記のようにタイミング情報を出力することができる。
なお、閾値を定める場合は、例えば、予めインタラクションシステム20において計測を行い、結果を解析して定めるようにしてもよい。閾値は、例えば、特にある種類のイベントを重視したい場合や、イベントの種類により重み付けを行いたい場合には、イベントの種類に応じた値にすることもできる。また、ある複数の種類のイベントに応じた種別情報量Ieが、全て閾値を超えている場合に、最大の閾値のイベントの種類を出力するなど、変形は可能である。また、上述した選択情報量Isel(T)、種別情報量Ie等の算出方法は一例であり、上述した概念の範囲で変形が可能である。
(第2の実施の形態)
以下、図面を参照しながら、第2の実施の形態による情報処理装置80について説明する。第2の実施の形態において、第1の実施の形態と同様の構成および動作については、同一番号を付し、重複説明を省略する。
図6は、第2の実施の形態による情報処理装置80の機能的な構成を示すブロック図である。情報処理装置80は、センサなどにより検出された対象者の挙動をイベントとして入力されると、対象者へのインタラクションの行動タイミングに応じた情報を出力する装置である。情報処理装置1と同様にインタラクションシステム20に適用することもできる。情報処理装置80では、動作情報量として総情報量Iを用いる。総情報量Iとは、算出された種別情報量Ieを加算した情報である。
図6に示すように、情報処理装置80は、選択情報量算出部3、回数計数部5、動作情報量算出部82、タイミング情報生成部9、出力部11、記憶部13を有している。情報処理装置80の各機能は、例えば、予め記憶部13に記憶された動作プログラムを後述する演算処理装置が読み込んで実行することにより実現される。
情報処理装置80では、情報処理装置1の動作情報量算出部7に代えて、動作情報量算出部82が備えられている。動作情報量算出部82は、種別情報量算出部84、および総情報量算出部86を有している。
種別情報量算出部84は、種別情報量Ieを算出する。種別情報量Ieとしては、例えば、第1の実施の形態による動作情報量算出部7で算出される種別情報量Ieと同様の算出方法を用いることができるが、これに限定されない。
動作情報量算出部82において、種別情報量算出部84は、イベントの種類毎の種別情報量Ieを算出する。種別情報量Ieは、選択情報量Isel(T)と種別回数Ne(T2)とに基づき、例えば、上記式2により算出される。
総情報量算出部86は、算出された種別情報量Ieに基づき、総情報量Iを算出する。総情報量Iは、全ての種類のイベントの種別情報量Ieの和とすることができる。例えば、総情報量Iは、下記式4で算出される。
総情報量Iは、イベントの種類にかかわらない対象者の働きかけの意志を総合的に表す数値的指標の一例である。総情報量Iが大きい場合は、検出された様々な種類のイベントに対応する対象者の意志は、相対的に大きいことを表している。なお、このとき、動作情報量算出部82は、算出した総情報量Iを、時刻を表す情報とともに記憶部13に記憶させるようにしてもよい。
タイミング情報生成部9は、総情報量Iが、予め決められた条件に合致しているか否かを判定し、条件に合致している場合にタイミング情報を生成する。例えば、タイミング情報生成部9は、対象者の働きかけの意志の強さが一定以上であることを示しているか否かを判定する。一例として、対象者の働きかけの意志の強さが一定以上であることを示す総情報量Iに対応する閾値が、予め定められる。タイミング情報生成部9は、総情報量Iと対応する閾値とを比較し、総情報量Iが対応する閾値を超えていると、タイミング情報を出力部11に出力する。このとき、タイミング情報生成部9は、記憶部13に記憶された総情報量Iを参照して判定を行うようにしてもよい。
出力部11は、タイミング情報生成部9によりタイミング情報が入力された場合に、出力を行う。出力は、タイミング情報が出力されたことを知らせる情報であればよい。このタイミング情報は、出力されたタイミングを、行動タイミングであるとして利用することができる。また、例えば、当該タイミング情報が出力された時刻以降に検出された対象者のイベントには働きかけを返す、といったように利用することができる。
図7は、第2の実施の形態による動作情報量変化の一例を示す図である。動作情報量変化例90において、横軸は時間を示す。縦軸は、エントロピHおよび動作情報量を示す。図7に示すように、イベント種別92では、イベントA、Bが検出されたタイミングを、それぞれ「×」、「○」で表している。エントロピ94は、上記式3により算出されたイベントA、Bに対応するエントロピHである。動作情報量96は、ここでは、イベントA、イベントBにそれぞれ対応する種別情報量Ieを加算した総情報量Iである。閾値98は、総情報量Iに対応して予め決められた閾値である。
このように、イベントBが、時刻t4以降、それ以前よりも頻繁に検出されている場合、動作情報量96は、時刻t4付近で明らかに変化し、閾値98を超える値となっている。一方、エントロピ64は、時刻t4より前の時刻t3付近で既に大きな変化をしている。この時刻t3は、イベントBが検出され始めた時刻である。しかしながら、イベントB、イベントAがそれ以前より頻繁に検出されるようになったタイミングでは、エントロピ64は目立った変化を示していない。このように、動作情報量96は、エントロピ64では検出が困難なイベントの検出頻度の変化などに敏感に反応する値とすることができる。
図8は、第2の実施の形態による動作情報量変化の別の例を示す図である。動作情報量変化例100において、横軸は、時間を示す。縦軸は、エントロピHおよび動作情報量を示す。図8に示すように、イベント種別102では、イベント(ジェスチャ)、(顔検出)、(アイコンタクト)が検出されたタイミングを、それぞれ「*」、「○」、「×」で表している。エントロピ104は、式3により算出されたイベント種別102に対応するエントロピHである。動作情報量106は、ここでは、イベント種別102の3種類のイベントに対応する総情報量Iである。閾値108は、総情報量Iに対応して予め決められた閾値である。
このように、イベント(ジェスチャ)が、時刻t5以降に検出され始めた場合、総情報量Iは、明らかに大きく変化し、閾値108を超える値となっている。また、動作情報量106は、イベント(ジェスチャ)が検出されなくなった時刻t6付近では、顕著に減少している。一方、エントロピ104の時刻t5付近における変化は、顕著ではないとともに、時刻t6付近での減少も見られない。このように、動作情報量106は、エントロピ104では検出が困難な、新しいイベントの出現や消失などに敏感に反応する値とすることができる。よって、例えば、種別情報量Ieの時間変化が、予め定められた閾値以上になったか否かを判定するといった方法を用いることで、イベントの増加、減少などの判別が可能になる。
図9は、第2の実施の形態による情報量テーブル110の一例を示す図である。情報量テーブル110は、例えば記憶部13に記憶される。情報量テーブル110は、相対的な時刻を示すタイムスタンプと総情報量Iとが関連付けられた情報である。今、例えば総情報量の閾値が「0.5」と定められているとする。タイミング情報生成部9は、各時刻に算出される総情報量Iを閾値と比較し、閾値よりも大きくなった場合、タイミング情報112のように、例えば比較結果など、行動タイミングを示す情報を出力する。
図10は、第2の実施の形態による情報処理装置80の動作を示すフローチャートである。図10のフローチャートでは、S121に選択情報量算出部3、回数計数部5での算出が含まれるとして処理を記載している。図10に示すように、動作情報量算出部82の種別情報量算出部84は、選択情報量Isel(T)、種別回数Ne(T2)に基づき、式2を用いて種別情報量Ieを算出する(S121)。総情報量算出部86は、算出された種別情報量Ieに基づき、式4を用いて総情報量Iを算出する(S122)。
タイミング情報生成部9は、例えば情報量テーブル110を参照して、総情報量Iが、出力を行う条件に合致しているか否かを判定する(S123)。条件は、上述したように、動作情報量(ここでは総情報量I)が、対応する閾値よりも大きいこと、時間的変化量が対応する閾値よりも大きいこと、相対的な変化量が対応する閾値より大きいこと、など、適宜定めることができる。
タイミング情報生成部9が、判定の結果タイミング情報を出力すると(S123:YES)、出力部11は、タイミング情報を出力し(S124)、処理を終了する。出力が行われない場合には(S123:NO)、処理を終了する。
以上のように、第2の実施の形態による情報処理装置80によれば、第1の実施の形態による情報処理装置1と同様に、適切な行動タイミングの検出を行うことができる。さらに、種別情報量Ieを加算した総情報量Iに基づく判定を行うことにより、対象者の挙動を総合的に判定することが可能になる。
このように動作情報量に基づく行動タイミング判定を行うことで、例えば、平均情報量(エントロピ)では検出が困難であった、イベントの頻度や発生パターンの急な変化なども、種別回数Ne(T2)が反映されて感度よく検出可能になる。一方、選択情報量Isel(T)により、1回のイベントの意味の重みも加味されることになり、対象者のイベントにおける働きかけの意志の強さの度合いが反映される。よって、働きかけの意志のない継続した動作を働きかけと誤認したり、働きかけになかなか反応が返されなかったり、といった不都合が防止され、適切な行動タイミングを検出することが可能となる。なお、上記総情報量Iの算出方法は、上述した概念の範囲で変形が可能である。
(第3の実施の形態)
以下、第3の実施の形態による情報処理装置150について説明する。第3の実施の形態において、第1または第2の実施の形態と同様の構成および動作については、同一番号を付し、重複説明を省略する。
第3の実施の形態による情報処理装置150は、例えばインタラクションシステム200に備えられる。図11は、第3の実施の形態による情報処理装置150の機能的な構成の一例を示すブロック図である。図12は、第3の実施の形態による情報処理装置150を含むインタラクションシステム200の構成の一例を示す図である。
情報処理装置150は、センサなどにより検出された対象者の挙動をイベントとして入力されると、対象者へのインタラクションの行動タイミングに応じた情報を出力する装置である。情報処理装置1、情報処理装置80と同様にインタラクションシステム20に適用することもできる。情報処理装置150では、動作情報量として総情報量Iを用いる。
図11に示すように、情報処理装置150は、第2の実施の形態による情報処理装置80と同様に、選択情報量算出部3、回数計数部5、動作情報量算出部82、タイミング情報生成部9、出力部11、記憶部13を有している。情報処理装置150は、タイミング情報生成部9に代えて、タイミング情報生成部153を有している。情報処理装置150は、さらに最大種別検出部151を有している。情報処理装置150の各機能は、例えば、予め記憶部13に記憶された動作プログラムを後述する演算処理装置が読み込んで実行することにより実現される。
最大種別検出部151は、種別情報量算出部84で算出された種別情報量Ieの中で、最も大きい値を有するイベント種別である最大種別を検出する。この検出は、例えば、種別情報量Ieが算出されるたびに行われるようにしてもよい。また、この検出は、例えば、動作情報量算出部82で算出された動作情報量が予め対応して定められた閾値より大きい場合に、行われるようにしてもよい。
タイミング情報生成部153は、動作情報量が、予め定められた条件に合致している場合に、動作タイミングであるための条件を満たしていると判定する。このとき、タイミング情報生成部153は、例えば、総情報量が閾値を超えたと判定されたタイミングで、検出された最大種別を含むタイミング情報を出力するようにしてもよい。タイミング情報生成部153は、総情報量Iが、閾値を上回っており、しかも、最大種別が変化した場合に、変化後の最大種別を出力するようにしてもよい。あるいは、タイミング情報生成部153は、総情報量Iが閾値を上回っている間、所定時間毎に検出された最大種別を含むタイミング情報を出力するようにしてもよい。出力部11は、タイミング情報生成部153から入力された結果を出力する。
図12に示すように、インタラクションシステム200は、ロボット制御装置210およびロボット230を有している。インタラクションシステム200は、対象者とロボット230とのインタラクションを行うシステムの一例である。ロボット制御装置210は、ロボット230の動作を制御する装置である。ロボット制御装置210は、ロボット230で検出されたイベントに基づき行動タイミングを判定し、タイミング情報に基づきロボット230の動作を制御する。なお、インタラクションシステム200は、一体化された装置でもよい。
ロボット制御装置210は、タッチセンサ検出部211、音声検出部213、顔画像検出部215、情報処理装置150、動作管理部217、および動作制御部219を有している。ロボット230は、タッチセンサ231、マイク233、カメラ235、サーボモータ237などを有している。
タッチセンサ検出部211は、ロボット230のタッチセンサ231で検出された信号に所定の処理を行い、検出結果として動作管理部217および情報処理装置150に出力する。音声検出部213は、ロボット230のマイク233で検出された信号に所定の処理を行い、検出結果として動作管理部217および情報処理装置150に出力する。顔画像検出部215は、カメラ235で検出された信号に所定の処理を行い、検出結果として動作管理部217および情報処理装置150に出力する。これにより、顔検出、表情検出、動作検出などの結果が情報処理装置150に出力される。
情報処理装置150は、タッチセンサ検出部211、音声検出部213、顔画像検出部215から受付けた検出結果に基づき、動作情報量、および最大種別を算出する。動作情報量および最大種別が所定の条件に当てはまる場合、情報処理装置150は、出力部11から行動タイミング検出結果を出力する。このとき、出力結果には、対象者の状態を示す情報として、最大の種別情報量Ieを有するイベントの種類を含むことができる。
動作管理部217は、情報処理装置150から入力された対象者の状態を示す情報、および行動タイミング検出結果を解析し、動作指示を動作制御部219に出力する。動作制御部219は、入力された動作指示に基づき、動作命令をロボット230に出力するとともに、ロボット230から動作結果のフィードバックを入力される。
ロボット230は、対象者の挙動をイベントとして検出するとともに、動作制御部219からの動作指示に従い、対象者への働きかけを行う。タッチセンサ231は、接触を検出する検出装置である。マイク233は、音声を検出する検出装置である。カメラ235は、画像を取得する装置である。サーボモータ237は、ロボット230の一部を動かすための駆動装置である。ロボット230は、例えば、動作制御部219による指示に基づき、本体の一部をサーボモータ237により動かすなどの反応を行うようにすることができる。
図13は、第3の実施の形態による情報量テーブル260の一例を示す図である。情報量テーブル260は、例えば記憶部13に記憶させるようにしてもよい。図13に示すように、情報量テーブル260は、タイムスタンプ、総情報量I、および最大種別が、互いに関連付けられた情報である。タイムスタンプは、相対的な時刻を示す。最大種別とは、タイムスタンプに対応する時刻に対応して算出された種別情報Ieの中で最大の値を持つイベントの種類をいう。なお、このとき、例えば総情報量Iの閾値を「0.5」としているとする。情報量テーブル260は、タイミング情報生成部153が、総情報量Iが閾値を上回ったことを検出したタイミング、および総情報量が閾値を上回り、かつ、最大種別がそれ以前と変化したタイミングで、最大種別がタイミング情報として出力される例である。
図13に示すように、タイムスタンプが0.1〜0.15では、最大種別は「顔」であり、「顔」で表されるイベントに関して算出された種別情報量Ieが、その時点に算出された種別情報量Ieの中で最大の値であることを示している。なお、「顔」とは、例えば対象者の顔が検出された、といったイベントである。
タイムスタンプが0.6〜0.9では、最大種別が「ジェスチャ」になっている。タイムスタンプが0.6のときには、総情報量Iが「0.7」となり、タイミング情報262が出力される。タイミング情報262は、総情報量Iが閾値を超え、かつ最大種別が「ジェスチャ」に変わったときに出力される情報である。
タイムスタンプが1.0〜1.2では、最大種別が「タッチ」になっている。タイムスタンプが1.0のときには、総情報量が「0.8」であり、タイミング情報264が出力される。タイミング情報264は、総情報量Iが閾値を超え、かつ最大種別が「タッチ」に変わったことを表す情報である。
タイムスタンプが1.3のときに、最大種別が再び「顔」になっている。このとき、総情報量Iは「0.3」であり、閾値以下であるので、出力はない。
図14は、第3の実施の形態による情報処理装置150を備えたインタラクションシステム200の動作の一例を示すフローチャートである。図14に示すように、情報処理装置150は、タッチセンサ検出部211、音声検出部213、顔画像検出部215から得られる情報に基づき、検出範囲内に対象者がいるか否か判定する(S271)。すなわち、イベントが検出されない場合には、対象者はいないと判定され(S271:NO)、処理はS282に進められる。イベントが検出された場合、対象者がいると判定され(S271:YES)、行動タイミングの検出が行われる。
行動タイミングの検出では、例えば、図10を参照しながら説明した処理と同様に、動作情報量算出部82は、種別情報量Ieと、総情報量Iとを算出する。さらに、最大種別検出部151は、種別情報量Ieが最大の種別を検出する。タイミング情報生成部153は、例えば、総情報量Iが閾値を超えたタイミング、および総情報量Iが閾値を超えている場合であって、最大種別が変化した場合に、タイミング情報の出力を行うと判定する。出力部11は、タイミング情報生成部153で出力を行うと判定された場合に、タイミング情報を行動タイミング検出結果として動作管理部217へ出力する。図14の例では、タイミング情報には、対象者状態として、最大種別が含まれる(S272)。
動作管理部217は、情報処理装置150の出力に応じて行動タイミングであるか否かを判定し(S273)、行動タイミングでないと判定した場合には(S273:NO)、処理をS282に進める。行動タイミングであると判定した場合には(S273:YES)、既に指示した動作に対する対象者の反応待ちであるか否かを判定する(S279)。ここで、動作管理部217は、情報処理装置150から出力があり、さらに予め定められた所定の条件を満たすときに、情報処理装置150からの出力のタイミングを行動タイミングであると判定してもよい。
既に指示した動作に対する反応待ちである場合(S274:YES)、動作管理部217は、タイムアウトか否か判別する(S275)。タイムアウトであると判別された場合(S275:YES)、動作管理部217は、反応待ち状態を解除してフォロー行動を行い(S276)、処理をS282に進める。フォロー行動とは、例えば、がっかりした様子を見せる、文句を言うなど、期待した反応が得られなかったことを表現する行動などが考えられる。このとき、情報処理装置150から出力された最大種別に応じた対応をするようにしてもよい。
タイムアウトであると判定されていない場合(S275:NO)、動作管理部217は、タッチセンサ検出部211、音声検出部213、および顔画像検出部215から、対象者の反応が検出されたか否かを判定する(S277)。反応が検出されない場合には(S277:NO)、動作管理部217は、S275から処理を繰り返す。反応が検出された場合(S277:YES)、動作管理部217は、反応待ち状態を解除し、対象者の反応に対する返答行動を行う指示を動作制御部219に出力する。返答行動とは、例えば、「ありがとう」という音声を発するなど、対象者の反応として検出されたイベントに対応する行動である。このとき、動作管理部217は、動作制御部219は、指示に従い、所定の信号をロボット230に出力し、ロボット230からのフィードバック信号を用いてロボット230を制御する(S278)。その後、処理はS282に進められる。
S279で、反応待ち状態でない場合(S274:NO)、動作管理部217は、インタラクションシステム200と対象者とが活性化に適したインタラクション状態であるか否かを判別する(S279)。活性化に適したインタラクション状態とは、例えば、イベントの検出頻度が疎である場合に、総情報量Iと閾値との比較結果、最大種別などの情報処理装置150の出力を検出した場合である。活性化に適したインタラクション状態の別の例は、例えば、インタラクションが成立していない状態の対象者へ、独り言をいう等のさりげない働きかけを行った後、総情報量Iが閾値を超えたことを示す出力や、最大種別が変化したことを示す出力が検出された場合である。このような場合、動作管理部217は、活性化に適したインタラクション状態であると判定し(S279:YES)、活性化行動を行う指示を動作制御部219に出力する(S280)。活性化行動とは、例えば、それ以前より明確に、あるいは頻繁にインタラクションを行う、行っていなかったインタラクションを行うなど、インタラクションを密にするような行動をいう。動作制御部219は、指示に応じた信号をロボット230に出力し、ロボット230の動作を制御する。
動作管理部217は、活性化に適したインタラクション状態でないと判定した場合(S279:NO)、反応待ち状態を継続するとともに、動作制御部219に、要求行動を行う指示を出力し(S281)、処理をS282に進める。要求行動とは、対象者に何かの行動を促す音声を発するなど、インタラクションを対象者に要求する行動である。
インタラクションシステム200は、システム終了が入力されたと判定すると(S282:YES)、処理を終了し、入力がないと判定した場合は、S271に戻って処理を繰り返す(S282:NO)。
以上説明したように、第3の実施の形態による情報処理装置150によれば、第1の実施の形態による情報処理装置1および第2の実施の形態による情報処理装置80と同様の効果を奏することができる。さらに、情報処理装置150によれば、行動タイミングであるための条件を満たすと判定されると、種別情報量Ieが最大のイベントの種類が出力される。これにより、適切なタイミングで行動タイミングを検出できるとともに、インタラクションシステム200で検出結果を反映させた行動を行う際に有用な情報とすることができる。
インタラクションシステム200においてロボット制御装置210は、上記の情報を用いて、対象者に対する働きかけをより精密に制御することが可能になり、より適切なインタラクションを行うことが可能になる。インタラクション密度の変化を遅滞なく検出可能であるため、例えば、インタラクション密度が上がった場合、ロボット230から対象者へのインタラクションをより親密な状態へ遷移させる等の戦略をとることができる。
第3の実施の形態による150では、種別情報量Ieをイベントの種類毎に算出し、例えば最大種別を一定周期ごとに算出する。また、情報処理装置150は、総情報量Iが閾値を超えたタイミングを、対象者がロボットに興味を持ち、インタラクションを開始した、または興味を失ってインタラクションを打ち切ろうとした行動タイミングの一つの指標とする。さらに、ある閾値以上の総情報量Iであって、最大種別が変わったタイミングを行動タイミングの別の指標とする。
ロボット制御装置210は、情報処理装置150から入力される指標に基づき、ロボット230に出力する指示を変更することができる。例えば、情報処理装置150の出力に基づき、動作管理部217が、ロボット230がどのように行動するべきかの戦略を算出する。例えば、対象者へ伝えるべき情報がある場合に、インタラクションが親密にされている状態であれば、ロボット制御装置210は、ロボット230に即座に情報を伝達する。対象者があまりロボット230に興味を抱いていない場合には、ロボット制御装置210は、まず対象者に働きかけてから、対象者とロボット230とがインタラクションを開始した段階で情報を伝えるなどの戦略である。
さらに、ロボット制御装置210では、算出した戦略に関して、さらに変形をしてもよい。例えば、「インタラクション要求行動」であれば、ロボット制御装置210は、毎回同じ行動を指示するのではなく、様々な行動を指示することが好ましい。例えば、対象者に向かい手を振る、軽く声をかけてみる等、同じ効果を得るためにグループ化された行動の中から一つを選び、実際にロボット230を稼動させることが好ましい。このように、ロボット230の反応に関する様々な変形例と組み合わせることで、多彩なインタラクション戦略を立てることが可能となる。
なお、本発明は、以上に述べた実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の構成または実施形態を採ることができる。例えば、タイミング情報生成部9、タイミング情報生成部153では、総情報量の値に対応する閾値を用いて判定を行う例を説明したが、別の方法でもよい。例えば、行動情報量が、急激に上昇または下降した場合に出力が行われるようにしてもよい。このとき、判断時間および情報量が変化したとみなすための閾値は、検出されているイベントの種類など、インタラクション状態によって変化してもよい。別の方法として、ロボットが対象者に働きかけを行った後、一定時間(タイムアウト時間)以内に、行動情報量が変化した場合、あるいは、行動情報量が変化しないままタイムアウト時間が経過した場合に出力が行われるようにしてもよい。
ここで、上記第1から第3の実施の形態による行動タイミング検出方法の動作をコンピュータに行わせるために共通に適用されるコンピュータの例について説明する。図15は、標準的なコンピュータのハードウエア構成の一例を示すブロック図である。図15に示すように、コンピュータ300は、Central Processing Unit(CPU)302、メモリ304、入力装置306、出力装置308、外部記憶装置312、媒体駆動装置314、ネットワーク接続装置318等がバス310を介して接続されている。
CPU302は、コンピュータ300全体の動作を制御する演算処理装置である。メモリ304は、コンピュータ300の動作を制御するプログラムを予め記憶したり、プログラムを実行する際に必要に応じて作業領域として使用したりするための記憶部である。メモリ304は、例えばRandom Access Memory(RAM)、Read Only Memory(ROM)等である。入力装置306は、コンピュータの使用者により操作されると、その操作内容に対応付けられている使用者からの各種情報の入力を取得し、取得した入力情報をCPU302に送付する装置であり、例えばキーボード装置、マウス装置などである。出力装置308は、コンピュータ300による処理結果を出力する装置であり、表示装置などが含まれる。例えば表示装置は、CPU302により送付される表示データに応じてテキストや画像を表示する。
外部記憶装置312は、例えば、ハードディスクなどの記憶装置であり、CPU302により実行される各種制御プログラムや、取得したデータ等を記憶しておく装置である。媒体駆動装置314は、可搬記録媒体316に書き込みおよび読み出しを行うための装置である。CPU302は、可搬記録媒体316に記録されている所定の制御プログラムを、媒体駆動装置314を介して読み出して実行することによって、各種の制御処理を行うようにすることもできる。可搬記録媒体316は、例えばCompact Disc(CD)−ROM、Digital Versatile Disc(DVD)、Universal Serial Bus(USB)メモリ等である。ネットワーク接続装置318は、有線または無線により外部との間で行われる各種データの授受の管理を行うインタフェース装置である。バス310は、上記各装置等を互いに接続し、データのやり取りを行う通信経路である。
上記第1から第3の実施の形態による行動タイミング検出方法をコンピュータに実行させるプログラムは、例えば外部記憶装置312に記憶させる。CPU302は、外部記憶装置312からプログラムを読み出し、メモリ304を利用してプログラムを実行することで、行動タイミング検出の動作を行なう。このとき、まず、行動タイミング検出の処理をCPU302に行わせるための制御プログラムを作成して外部記憶装置312に記憶させておく。そして、入力装置306から所定の指示をCPU302に与えて、この制御プログラムを外部記憶装置312から読み出させて実行させるようにする。また、このプログラムは、可搬記録媒体316に記憶するようにしてもよい。
以上の実施形態に関し、さらに以下の付記を開示する。
(付記1)
第1の時刻からの第1の時間に検出された対象者の働きかけの回数と種類とに応じた情報量と、前記第1の時刻より後の第2の時刻からの前記第1の時間よりも短い第2の時間に検出された前記対象者の働きかけの種類毎の種別回数とに基づき、前記対象者への働きかけを行う行動タイミングを示すタイミング情報を生成するタイミング情報生成部と、
前記タイミング情報を出力する出力部と、
を有することを特徴とする情報処理装置。
(付記2)
前記情報量と、前記種別回数とに基づき、前記対象者の働きかけの意志の強さを示す動作情報量を算出する動作情報量算出部、
をさらに有し、
前記タイミング情報生成部は、前記動作情報量に基づき、前記対象者への働きかけを行う行動タイミングであるための予め定められた条件を満たすと判定された場合に前記タイミング情報を生成する
ことを特徴とする付記1に記載の情報処理装置。
(付記3)
前記第1の時間に検出された前記対象者の働きかけに応じて、前記対象者の働きかけの全回数に対する前記種類毎の働きかけの回数を示す相対回数に基づき前記種類毎に選択情報量を算出することにより前記情報量を算出する選択情報量算出部と、
前記第2の時間に検出された前記対象者の働きかけに応じて、前記種類毎の働きかけの種別回数を計数する回数計数部と、
をさらに有し、
前記動作情報量算出部は、前記選択情報量と前記種別回数とを掛け合わせることにより前記種類毎に前記動作情報量を算出する
ことを特徴とする付記2に記載の情報処理装置。
(付記4)
前記動作情報量算出部は、前記選択情報量と前記種別回数とを掛け合わせた前記種類毎の前記動作情報量を、さらに前記第1の時間に検出された働きかけの全種類について加算して前記動作情報量を算出する
ことを特徴とする付記2または付記3に記載の情報処理装置。
(付記5)
前記タイミング情報生成部は、前記動作情報量が予め決められた閾値より大きい場合に、前記条件を満たすと判定し、判定結果に応じたタイミング情報を生成する
ことを特徴とする付記2から付記4のいずれかに記載の情報処理装置。
(付記6)
前記種別情報量が最大の最大種別を検出する最大種別検出部、
をさらに有し、
前記タイミング情報生成部は、前記総情報量が予め決められた閾値より大きい場合であって前記最大種別の変化があった場合に、前記条件を満たすと判定し、前記最大種別を含むタイミング情報を生成する
ことを特徴とする付記5に記載の情報処理装置。
(付記7)
コンピュータによる行動タイミング検出方法であって、
第1の時刻からの第1の時間に検出された対象者の働きかけの回数と種類とに応じた情報量と、前記第1の時刻より後の第2の時刻からの前記第1の時間よりも短い第2の時間に検出された前記対象者の働きかけの種類毎の種別回数とに基づき、前記対象者の働きかけを行う行動タイミングを示すタイミング情報を生成し、
前記タイミング情報を出力する
を有することを特徴とする行動タイミング検出方法。
(付記8)
前記情報量と、前記種別回数とに基づき、前記対象者の働きかけの意志の強さを示す動作情報量を算出し、
前記動作情報量に基づき、前記対象者への働きかけを行う行動タイミングであるための予め定められた条件を満たすと判定された場合に前記タイミング情報を生成する
ことを特徴とする付記7に記載の行動タイミング検出方法。
(付記9)
さらに、
前記第1の時間に検出された前記対象者の働きかけに応じて、前記対象者の働きかけの全回数に対する前記種類毎の働きかけの回数を示す相対回数に基づき前記種類毎に選択情報量を算出することにより前記情報量を算出し、
前記第2の時間に検出された前記対象者の働きかけに応じて、前記種類毎の働きかけの種別回数を計数し、
前記選択情報量と前記種別回数とを掛け合わせることにより前記種類毎に前記動作情報量を算出する
ことを特徴とする付記8に記載の行動タイミング検出方法。
(付記10)
前記選択情報量と前記種別回数とを掛け合わせた前記種類毎の前記動作情報量を、さらに前記第1の時間に検出された働きかけの全種類について加算して前記動作情報量を算出する
ことを特徴とする付記7または付記8に記載の行動タイミング検出方法。
(付記11)
さらに、
前記動作情報量が予め決められた閾値より大きい場合に、前記行動タイミングであるための条件を満たすと判定する
ことを特徴とする付記8から付記10のいずれかに記載の行動タイミング検出方法。
(付記12)
前記種別情報量が最大の最大種別を検出し、
前記総情報量が予め決められた閾値より大きい場合であって前記最大種別の変化があった場合に、前記条件を満たすと判定し、
前記最大種別を含む前記タイミング情報を出力する
ことを特徴とする付記9に記載の行動タイミング検出方法。
(付記13)
第1の時刻からの第1の時間に検出された対象者の働きかけの回数と種類とに応じた情報量と、前記第1の時刻より後の第2の時刻からの前記第1の時間よりも短い第2の時間に検出された前記対象者の働きかけの種類毎の種別回数とに基づき、前記対象者の働きかけを行う行動タイミングを示すタイミング情報を生成し、
前記タイミング情報を出力する
処理をコンピュータに実行させるプログラム。
(付記14)
さらに、
前記情報量と、前記種別回数とに基づき、前記対象者の働きかけの意志の強さを示す動作情報量を算出し、
前記動作情報量に基づき、前記対象者への働きかけを行う行動タイミングであるための予め定められた条件を満たすと判定された場合に前記タイミング情報を生成する
ことを特徴とする付記13に記載のプログラム。
(付記15)
前記第1の時間に検出された前記対象者の働きかけに応じて、前記対象者の働きかけの全回数に対する前記種類毎の働きかけの回数を示す相対回数に基づき前記種類毎に選択情報量を算出することにより前記情報量を算出し、
前記第2の時間に検出された前記対象者の働きかけに応じて、前記種類毎の働きかけの種別回数を計数し、
前記選択情報量と前記種別回数とを掛け合わせることにより前記種類毎に前記動作情報量を算出する
ことを特徴とする付記14に記載のプログラム。