JP2013117821A - 情報処理装置およびその制御方法 - Google Patents

情報処理装置およびその制御方法 Download PDF

Info

Publication number
JP2013117821A
JP2013117821A JP2011264480A JP2011264480A JP2013117821A JP 2013117821 A JP2013117821 A JP 2013117821A JP 2011264480 A JP2011264480 A JP 2011264480A JP 2011264480 A JP2011264480 A JP 2011264480A JP 2013117821 A JP2013117821 A JP 2013117821A
Authority
JP
Japan
Prior art keywords
frequency
blinking
time
blink
seconds
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011264480A
Other languages
English (en)
Inventor
Tomonobu Nakamura
友宣 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011264480A priority Critical patent/JP2013117821A/ja
Publication of JP2013117821A publication Critical patent/JP2013117821A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Abstract

【課題】 情報処理装置が、ユーザからの指示入力を認識する際の誤認識を低減させることを目的とする。
【解決手段】 上記の目的を達成するために、本発明の請求項1に記載の情報処理装置は、単位時間毎にまばたきの頻度を取得するまばたき取得部104と、まばたきの頻度が増加してから、次に増加するまでに、まばたき取得部104によって取得されるまばたきの頻度が第1の閾値未満の状態が継続される時間が、第1の所定の時間の範囲内であるかを判定する判定部106と、前記判定部106により前記時間が所定の範囲内であると判定された場合に、視線による所定の指示が行われたと解釈する認識部107と、を備えることを特徴とする。
【選択図】 図1

Description

本発明はユーザによる指示に応じて装置を動作させる技術に関する。
従来、ジェスチャ認識や音声認識を行う際に、ボタンを押したりメニューを選択したりする操作をユーザに行わせる技術がある。しかし、ジェスチャ認識は手の動きだけを、音声認識は口で発する音声だけを使って装置の操作が可能であることが利点である。即ち、ボタンの押下やメニューの選択といったそれ以外の操作が加わるとユーザにとって操作が煩雑となり、ジェスチャ認識や音声認識の利点を生かしきれない場合がある。
この課題を解決する方法として、ユーザの装置への凝視を指示開始の合図と判定し、凝視対象に応じてジェスチャ認識や音声認識を有効にする技術が知られている(特許文献1)。
一方、従来から、目視している対象とまばたきの回数との関係を示す知見が存在する。例えば、まばたきはユーザの心理状況や目視している対象との距離等に応じてその特徴が変化することが知られている。特にテレビやモニタ等表示端末を見ているとき、まばたきの回数が極端に少なくなることが知られている(非特許文献1)。また、処理しなければならない刺激が提示されたり、処理をしている最中であったり、その刺激が提示されることを予期していたりするときにはまばたきが抑制され、その処理を終了した段階で、抑制が解除され、まばたきが多発することが知られている。また、このような処理による抑制だけでなく、視線の動きによってもまばたきが誘発されることが知られている(非特許文献2)。
特開平10−301675号公報
難波 哲子, 堀田 咲子, 田淵 昭雄,"Visual Display Terminal(VDT)作業による瞬目回数・涙液量の変化と屈折矯正方法との関連", 川崎医療福祉学会,2006年 松尾太加志、"階層メニュー検索時における認知的負荷〜瞬目を指標とした分析〜",2000年度日本ディレクトリ学会研究助成報告書,2002年 石岡 敬浩,田中 浩司,高野 博史,中村 清実,"居眠りによる覚醒水準低下に伴う瞬き特徴の解析" ,第8回情報科学技術フォーラム講演論文集,G−012,2009年
ユーザによる凝視が行われたことの判定方法として、ユーザのまばたきに関する情報を利用することが考えられる。ユーザが、カメラ(入力部)及び表示部を有する装置のカメラを凝視することで、指示開始の意思を装置に伝える場合を考える。非特許文献2の理論を用いれば、ユーザが凝視という処理を開始しようと考えた時にまばたきの回数が増加し、実際に凝視を開始した時にはまばたきの回数が減少する。このようなまばたきの増減を検出することで、ユーザによる凝視が開始されたことを判定することができる。
しかし、まばたきの頻度は非特許文献2におけるように、処理が終了した段階以外でも一時的に増加することが起こり得る。例えば、眠気により覚醒水準が低下した際にもまばたきの頻度が一時的に増加することが報告されている(非特許文献3)。ユーザが凝視していないにもかかわらず凝視と判定されてしまうことは問題といえる。
本発明は、以上の課題を解決するためのものであり、ユーザからの指示を認識する際の誤認識を低減させることを目的とする。
上記の目的を達成するために、本発明の請求項1に記載の情報処理装置は、単位時間毎にまばたきの頻度を取得する取得手段と、まばたきの頻度が増加してから、次に増加するまでに、前記取得手段により取得されるまばたきの頻度が第1の閾値未満の状態が継続される時間が、第1の所定の時間の範囲内であるかを判定する第1の判定手段と、前記判定手段により前記時間が所定の範囲内であると判定された場合に、視線による所定の指示が行われたと解釈する解釈手段と、を備えることを特徴とする。
本発明によれば、ユーザからの指示を認識する際の誤認識を低減させることが可能となる。
情報処理装置の機能構成と外観の一例を示す図。 ユーザからの指示を認識する処理のフローチャート。 まばたきを判定する処理の流れ、まばたきの頻度を決定する処理のフローチャート。 ユーザによるジェスチャを認識する処理のフローチャート。 ユーザからの指示を認識する処理のフローチャート。 情報処理装置によって検知されたまばたきとその頻度の具体例を表すテーブル。 ユーザからの指示を認識する処理のフローチャート。 ユーザからの指示を認識する処理のフローチャート。 ユーザに対する通知方法の一例を示す図。
以下、本発明を実施するための形態について、図面を参照しながら説明する。以下の実施例で、まばたきとは、まぶたを閉じた後開けることを示す。また、凝視とは一定の時間以上、継続して同じ対象に視線が向けられていることを示す。
(実施例1)
実施例1では、図1(c)の外観図ように、表示部102と入力部103が配置され、ユーザが入力部103を凝視することによって、同じユーザによる指示入力としてジェスチャ操作の認識を開始する情報処理装置101における例を説明する。本実施例における情報処理装置101は、X秒間継続して入力部103が凝視されたと認識した場合に、ユーザのジェスチャ操作の認識を開始するものとする。ユーザが入力部103を凝視する前後には、それまで行っていた処理による抑制の解除および視線の移動に誘発され、まばたきが増加すると考えられる。従って、本実施例では、ユーザによって入力部103がX秒間凝視されたか否かの判定を、ユーザのまばたきの頻度の増減を検知することによって行う。なお、上述した要因による現象として、ユーザのまばたきの頻度が増加すると考えられる時間をY秒間とする。
図1(a)は、本発明に係る情報処理装置101の機能構成を示す機能ブロック図である。情報処理装置101には、動画像を表示するためのディスプレイを備える表示部102が接続されている。更にスピーカを備え、音声を出力することもできる。入力部103は、カメラ等によって構成され、動画像を撮影し、撮影した動画像の各フレームをRAMに格納する。まばたき取得部104は、CPU、ROM、RAM(以下、CPU等)によって構成され、CPUがROMに格納されたプログラムをRAMに展開し実行することでその機能を実現する。また、まばたき取得部104はRAMに格納された動画像のフレームに映っているユーザがまばたきをしたことを検知してまばたきの頻度を取得し、その結果を示す情報を保持部105に保持する。本実施例の保持部105には、入力部103が撮影した動画像の各フレームでのまばたきの有無を示す有無情報、および単位時間におけるまばたきの回数を示す回数情報、及び単位時間毎に取得されるまばたき頻度を示す履歴情報が保持される。判定部106は、CPU等によって構成され、ユーザによるまばたきの頻度の増減が所定の条件を満たすか否かを判定する。本実施例では、所定時間におけるまばたきの頻度と閾値の大小関係に基づいて判定を行う。認識部107は、CPU等によって構成され、判定部106がユーザによるまばたきの頻度が所定の条件を満たすと判定したことを受け、ユーザがジェスチャ操作を開始するために行う入力部103への凝視が行われたと解釈する。そして、入力部103が撮影した動画像の各フレームから、ユーザのジェスチャを認識する。さらに、認識されたジェスチャに対応する指示を特定し、表示制御部108に伝える。表示制御部108は、CPU等によって構成され、表示部102に表示される内容を制御する。本実施例では認識部107がユーザによるジェスチャの認識開始したことを通知するための表示画像を生成し、表示部102に出力する。解釈なお、表示部102は情報処理装置101の内部に構成されてもよく、入力部103は情報処理装置101の外部に接続される装置によって構成されてもよい。
図2はユーザからの指示を認識する処理のフローチャートである。本実施例では、情報処理装置101の電源が投入されたことに従って、処理が開始される。
まず、ステップS201では、まばたき取得部104が、Y秒間におけるまばたきの頻度を取得する。本実施例では、まばたきの検知を開始してから最初に起こるまばたき頻度の増加は、ユーザが入力部103を凝視しようと考え、視線を移動させたことによるものであると解釈することができる。ここで利用するY秒間とは、上述した視線の移動、あるいはそれまで行っていた処理によるまばたきの抑制の解除に伴う現象として、まばたきの頻度が増えると考えられる第2の所定時間である。従って、本実施例では、新たなフレームを取得する度に、図3で説明したまばたき頻度取得処理によって、Y秒間でのまばたき頻度を取得する。
ここで、図3を用いて本実施例において、まばたきの頻度を取得する際に用いる際に実行される処理を説明する。図3(a)は、図2のステップS201で実行されるまばたき頻度取得処理の詳細フローチャートである。まず、ステップS301において、入力部103は撮影した動画像のn番目のフレームを取得する。nは正の整数であるとする。次にステップS302において、入力部103は撮影した動画像のn+1番目のフレームを取得する。入力部103は、フレームを取得する度にRAMに格納する。本実施例では、n+1番目のフレームは、入力部103によって撮影された最新のフレームであるとする。なお、本フローチャートに示す処理は、入力部103が動画像の1フレームを撮影するたびに実行される。
図3(b)は、図3(a)のステップS303で実行されるまばたき検知処理の詳細フローチャートである。ステップS311において、まばたき取得部104は、n+1番目のフレームにおいて、ユーザの目が開いているか判定する。開いていると判定された場合はステップS312に進み、閉じていると判定された場合はステップS314に進む。ステップS312において、まばたき取得部104は、n番目のフレームを表す静止画像に映ったユーザの目が閉じているか判定する。閉じていると判定された場合はステップS313に進む。開いていると判定された場合はステップS314に進む。ステップS313において、まばたき取得部104は、ユーザがn+1番目の1フレームが撮影された時刻において、ユーザがまばたきをしたと判定する。そして、まばたき取得部104は、ユーザがまばたきをしたことを示す有無情報を保持部105に保持する。一方、ステップS314においては、まばたき取得部104は、n+1番目のフレームが撮影された時刻においてユーザはまばたきをしていないと判定する。そして、まばたきをしていないことを示す有無情報を保持部105に保持し、処理を終了する。
図6(a)は、情報処理装置101によって検知されたまばたきとその頻度の具体例を表すテーブルである。項目601は、ステップS302においてn+1番目のフレームが取得された時刻を示す。項目602は、対応する時刻に取得されたフレームに対しステップS311でユーザの目が開いているかを判定した結果502を示す。そして、項目603は、対応する時刻に取得されたn番目のフレームに対し、ステップS303のまばたき検知処理が行われた結果、ステップS313あるいはステップS314において保持部105に保持されたまばたきの有無情報を示す。本実施例では、対応する時刻にユーザがまばたきをしたことを示す場合には1、まばたきをしていないことを示す場合には0を、それぞれ時刻に対応させて保持する。例えば、2009年12月17日20時59分40.2秒において取得されたn+1番目のフレームにおいてユーザの目が開いている。なおかつ、2009年12月17日20時59分40.1秒に取得された1つ前のn番目のフレームにおいては、ユーザの目が開いている。そのため、ステップS303のまばたき検知処理によって、2009年12月17日20時59分40.2秒において、ユーザはまばたきをしたと判定される。従って、保持部105に保持される値は1となる。
次に、ステップS304において、まばたき取得部104は、まばたき頻度を取得したい時間分の情報が、保持部105が保持されているかを判定する。従って、ステップS304において、まばたき取得部104は、所定時間分に相当する数のフレームに対してまばたきを検知する処理が行われ、まばたきの有無情報が保持部105に保持されているかを判定している。本実施例では、まずY秒間におけるまばたきの頻度を取得するので、Y秒間分のまばたきの情報が保持されていると判定されれば、ステップS306に進む。一方、保持されていなければ、ステップS305に進んで、n=n+1と更新して、ステップS302からの処理を繰り返す。
ステップS306では、まばたき取得部104が、保持部105に保持されたでのまばたきの回数をカウントする。本実施例では、保持部105に保持されているY秒間分の有無情報を参照して、1が保持されている数をカウントすることにより、Y秒間中にまばたきがなされた回数を求める。そして、カウントした回数を保持部105が回数情報として保持する。本実施例における保持部105は、メモリの使用量の削減のため、まばたきの回数をカウントした時点で有無情報をクリアし、使用されていたメモリを解放する。次に、ステップS307では、カウントした回数を時間(ここではY秒間)で除算することによってまばたきの頻度を取得する。
以上が、本実施例のまばたき頻度取得処理であり、以降、所定時間におけるまばたきの頻度を取得する場合には、全て図3で説明したフローによる処理が実行される。
次に、ステップS202においては、判定部106が、ステップS201で取得されたY秒間のまばたきの頻度が、閾値a以上であるかどうかを判定する。閾値aは、ユーザが入力部103を凝視しようと考え、視線を移動させたと解釈できるほどまばたきの頻度が増加したのかを判定するための第2の閾値である。Y秒間でのまばたきの頻度が閾値a以上であると判定された場合は、処理はステップS203に進む。閾値a未満であると判定された場合は、ステップS201に戻って、Y秒間のまばたきの頻度を求め、閾値a以上であるかを判定する処理を行う。
次に、ステップS203においては、単位時間毎にまばたきの頻度を取得する処理を開始する。本実施例では、s秒間を単位時間として用いる。図3のフローチャートに従い、s秒間におけるまばたきの頻度を取得し、s秒間毎のまばたきの頻度を示す情報をs秒間毎の履歴情報として保持部105に保持していく。なお、単位時間であるs秒間とは、本実施例では1秒間に相当するものと考える。ただし、入力部103が撮影する動画像のフレームレートや情報処理装置101の処理速度によって、適切な値を選べばよい。
そして、ステップS204において、まばたき取得部104が、まばたきの頻度が閾値b未満の状態が継続される時間の長さを計測する。ここで閾値bとは、ユーザが入力部103を凝視するという処理を行っていると解釈できるほどまばたきの頻度が減少しているかを判定するための第1の閾値である。まず、まばたき取得部104は、保持部105を参照し、ステップS203で取得されているs秒間のまばたき頻度を示す情報を取得する。そして、s秒間毎にまばたき頻度を取得する処理を開始した時点以降に、s秒間でのまばたきの頻度が閾値b未満である状態が継続される時間の合計を計測する。
ステップS205では、判定部106が、計測した時間の長さががX秒以上X´秒未満であったかを判定する。本実施例では、ステップS204で計測された、まばたきの頻度が低くなっている時間は、ユーザの入力部103を凝視するという処理によってまばたきが抑制されている時間であると考える。本実施例の情報処理装置101は、入力部103をX秒間継続して凝視することによって、ユーザによるジェスチャの認識を開始するため、ステップS204で計測された時間の長さはX秒間以上である必要がある。ただし、X秒間という時間の感覚はユーザ毎に個人差があり、ユーザの性格によって予め決められたX秒よりも長めに凝視することで確実な操作を行おうと考える傾向がある場合もある。このようなユーザ毎の個人差に対応するため、X秒以上X´秒未満(第1の所定時間)という範囲を設定して、ユーザのまばたきの頻度が閾値bよりも低い時間の長さが、その範囲内であったかによって、入力部103が凝視されたかを判定する。計測した時間の長さがX秒以上X´秒未満であると判定されれば、処理はステップS206に進む。その際、単位時間毎にまばたき頻度を取得する処理を終了する。一方、X秒以上X´秒未満ではないと判定されれば、ユーザの指示を認識する処理を終了する。例えば、X´秒以上継続してs秒間のまばたきの頻度が閾値未満となる場合には、ユーザは表示部102のディスプレイに表示された映像を視聴しているなど、他の要因によってまばたきが抑制されていると考えられるからである。
次に、ステップS206では、Y秒間におけるまばたきの頻度を取得する。本実施例では、所定のX秒以上X´秒未満の間、まばたきの頻度が閾値bより低い状態が継続された後、最初に起こるまばたき頻度の増加は、ユーザが入力部103に対する凝視を終えたことによって抑制が解除されたことによると解釈する。ここで利用するY秒間とは、抑制が解除された、あるいは視線が移動した際の現象として、まばたきの頻度が増えると考えられる第2の所定時間である。ここでは、ステップS201で用いたY秒間と同じ時間とするが、誤差を含むことができる。まばたき取得部104は、図3で説明した所定時間におけるまばたきの頻度を取得する処理のフローに従って、まばたきの頻度が閾値d未満の状態が継続された後のY秒間のまばたきの頻度を取得する。
次に、ステップS207において、判定部106が、ステップS206において取得されたY秒間でのまばたきの頻度が、閾値a以上であるかどうかを判定する。閾値aは、ステップS202と同様、ユーザが入力部103を凝視しようと考え、視線を移動させたと解釈できるほどまばたきの頻度が増加したのかを判定するための第2の閾値である。Y秒間におけるまばたきの頻度が閾値a以上であると判定されれば、処理はステップS208に進む。本実施例では、判定部106が、Y秒間のまばたき頻度が閾値a以上であると判定した場合、ユーザは入力部103を凝視する処理を行い、その処理を終えたと解釈する。一方、閾値a未満であると判定された場合には、処理を終了する。本実施例では、Y秒間のまばたき頻度が閾値a以上であった場合、ユーザは入力部103を凝視する処理を行い、その処理を終えたと解釈する。従って、次にユーザはジェスチャ操作を行うため、視線を表示部102に移動させる可能性が高い。ステップS208では、表示制御部108が、表示部102にジェスチャの認識を開始することをユーザに通知するための表示画像を出力する。例えば、「ジェスチャ認識を開始しました」という通知ダイアログなどの表示画像を、ディスプレイ中央に表示されることによって、ユーザはジェスチャ操作を行えば情報処理装置101によって認識されることを確認できる。次に、ステップS209において、ジェスチャ認識を行う。ステップS209のジェスチャ認識が終了したら、本実施例におけるユーザからの指示を認識する処理が終了する。
なお、本実施例で用いた第1及び第2の閾値は、同一の値を用いてもよいが、それぞれを予め設定した適切な値を保持しておくことで、精度のよい判定を行うことができる。
ここで、図4(a)は本実施例のステップS209において行われるジェスチャ認識処理の詳細フローチャートである。まず、ステップS401において、認識部107が、入力部103が撮影したユーザの動画像を取得する。認識部107は、取得した動画像を基にユーザによるジェスチャを認識する。ステップS402では、認識部107が、取得している動画像を解析し、ユーザによるジェスチャが認識されたかを判定する。ここでは、ユーザによる何らかの動きが動画像から検出された際に、予め情報処理装置101に登録されたジェスチャ操作の動きに該当すれば、ジェスチャが行われたと判定して認識する。ユーザによるジェスチャが認識された場合には、ステップS403に進み、ジェスチャが認識されない判定された場合には、ジェスチャ認識処理を終了する。本実施例では、例えば、ステップS208でジェスチャ認識開始の通知がなされてから30秒間、という所定の時間内にユーザによるジェスチャが認識されなかった場合には、タイムアウトしてジェスチャ認識処理を終了する。ステップS403では、認識部107が、認識したジェスチャに対応する指示を特定する。認識部107は、情報処理装置101に予め登録されているジェスチャ操作による指示の中から、ステップS404で認識したユーザのジェスチャに対応する指示を特定する。そして、ステップS404において、情報処理装置101が指示された処理を実行する。ユーザによって行われたジェスチャ操作に対応する処理を全て実行したら、終了する。以上が、本実施例のステップS209において実行されるジェスチャ認識処理である。
以上説明したように、実施例1によれば、ユーザによるまばたきの頻度が増加した後に減少し、次に増加するまでに、所定の時間閾値よりも低い状態が継続されることによって、ユーザがジェスチャ操作を行うために入力部103を凝視したと判定する。従って、眠気などの要因により一時的にまばたきの頻度が増加した場合において、ユーザの動きをジェスチャ操作として認識してしまう誤認識の可能性を低減できる。
なお、本実施例は、ユーザが行う指示入力としてジェスチャを認識する情報処理装置を例として説明したが、ジェスチャ以外の、例えば音声による指示入力を認識する情報処理装置にも適応することができる。
また、実施例1では、ステップS208において、表示制御部108がジェスチャ認識の開始をユーザに対して通知する処理を行った。例として、文字を含む表示画像を表示部102に表示させることとしたが、また、このような表示画像が、表示部102の表示内容の視認性を下げてしまう可能性がある。ジェスチャ認識開始の通知が、ユーザの予期していたものではない場合には、ユーザによるまばたきの頻度を一時的に増加させる原因にもなり得る。従って、ステップS208におけるジェスチャ認識開始を通知する方法としては、ディスプレイの端部にイラストやマークを表示させたり、ディスプレイとは別に設けられたLEDを点灯させたりすることによってもかまわない。さらに、ステップS208は省略することもできる。ステップS208を省略し、ジェスチャの認識開始を通知しない場合には、Y´秒間のまばたき頻度が閾値以上であったことを判定した後、すぐにステップS209のジェスチャ認識処理が実行される。この場合にも、ユーザが、X秒間継続して入力部103を凝視した後、表示部102に視線を移し、その表示内容に対して行うジェスチャ操作を認識することが可能である。
(実施例1の変形例1)
ここで、実施例1の変形例を示す。実施例1では、情報処理装置101の電源が投入された後、まばたき取得部104が、動画像のY秒間分のフレームからまばたきの情報を取得し、Y秒間分のまばたきの頻度を取得して、閾値aとの大小関係を判定していた。それに対し、ここで説明する変形例1では、まばたき取得部104は、情報処理装置101の電源が投入された後、単位時間毎にまばたきの頻度を取得し、履歴情報として保持していく。そして、履歴情報を基にまばたきが増加した時点と、閾値aとの大小関係を判定すべきY秒間を特定した上で、判定処理を行う点が異なる。
図5は、変形例1における、ユーザの指示を認識する処理を示すフローチャートである。図2と同番号の処理ステップでは、実施例1と同じ処理が実行されるため、詳細な説明は省略する。
まず、ステップS501において、単位時間毎にまばたきの頻度を取得する処理を開始する。変形例1においても、s秒間を単位時間として用いる。ここでは、図3のフローチャートに従い、s秒間におけるまばたきの頻度を取得し、s秒間毎にまばたきの頻度を示す履歴情報をs秒間毎に保持部105に保持していく。このとき、s秒間におけるs秒当たりのまばたきの頻度は、ステップS306でカウントしたまばたきの回数に相当する。以上のような本実施例のまばたき頻度取得処理が、ステップS501において処理が開始された以降、ユーザによって終了が指示されるまで繰り返し実行される。
ステップS502において、まばたき取得部104が、ステップS306で取得したs秒間でのまばたき頻度が閾値c以上に増加してからY秒間におけるまばたきの頻度を取得する。ここで、閾値cは、通常時よりも高い頻度のまばたきが検知されたことを判定するために用いる第3の閾値である。まず、まばたき取得部104は、保持部105に保持されている履歴情報を参照し、まばたきの検知を開始してから、s秒間毎に取得しているまばたきの頻度が閾値c上に増加した時点を特定する。続いて、まばたき取得部104は、保持部105に保持された回数情報を基に、特定された時点からのY秒間において検知されたまばたきの合計回数を求め、時間(Y秒間)で除算することによって、Y秒間におけるまばたきの頻度を取得する。ステップS202において実行される処理は実施例1に準じ、変形例1では、ステップS502で取得されたまばたきの頻度が、閾値a以上であるかを判定する。
ステップS503では、s秒間毎に取得されているまばたき頻度が閾値c未満に減少してから、閾値b未満の状態が継続される時間の長さを計測する。ここで、閾値cとは、まばたきの頻度が、抑制の解除によって増加していた時よりも減少したことを判定するための第3の閾値である。閾値bは、実施例1と同様、ユーザが入力部103を凝視するという処理を行っていると解釈できるほどまばたきの頻度が減少しているかを判定するための第1の閾値である。まばたき取得部104は、ステップS202で特定した時点より後に、まばたきの頻度が閾値c未満に減少した時点を特定する。続いて、判定部106が、ここで特定された時点以降に、s秒間毎に取得されるまばたきの頻度が閾値b未満である状態が継続される時間を計測する。ステップS205において実行される処理は実施例1に準じ、ステップS503で計測された時間が、X秒以上X´秒未満の範囲内であるかを判定する。
次に、ステップS504では、まばたき取得部104が、ステップS503で計測した時間の後、次にs秒間毎に取得しているまばたきの頻度が閾値c以上に増加してから、Y秒間におけるまばたきの頻度を取得する。まず、まばたき取得部104は、保持部105に保持されている情報を参照し、ステップS306で取得しているまばたきの頻度が閾値b未満の状態が継続された後、次に閾値a以上に増加した時点を特定する。続いて、まばたき取得部104は、特定された時点から、Y´秒間のまばたきの頻度を取得する。ステップS207では、ステップS504で取得したまばたきの頻度が、閾値a以上であるかを判定する。ステップS208、ステップS209における処理は実施例1と同様に処理される。
なお、変形例で用いた第1〜第4の閾値は、同一の値を用いてもよいが、それぞれを予め設定した適切な値を保持しておくことで、精度のよい判定を行うことができる。
ここで、図6(b)は、変形例1においてユーザによる指示を認識する処理の具体例を説明するためのテーブルである。項目604は、まばたきの検知を開始してから、まばたきの頻度を取得しているs秒刻みの時間を示す。項目605は、ステップS306においまばたき取得部104によってカウントされた各s秒間におけるまばたきの回数を示す。項目606は、変形例2において用いるため後述する。また、ここでは一例として、閾値a=閾値b=閾値c=閾値d=2回/s秒、Y=2s秒、X=3s秒、X´=5s秒と定義する。図6(b)の例では、まばたきの検知が開始された時点(時間0)から、s秒間毎に取得されるまばたきの頻度が閾値c=2以上に増加するのは、ステップ4s秒目から5s秒目のs秒間である。従って、ステップS502において、まばたき頻度が閾値a以上に増加した時点は4s秒目であると特定される。そして、4s秒目からY=2s秒間(時間607)においては、5回のまばたきが検知されているため、Y秒間でのまばたき頻度は2.5(回/s秒)と取得される。従って、取得されたまばたきの頻度は、閾値aである2以上であると判定される。また、この例では、4s秒目以降、s秒間毎に取得されるまばたきの頻度が、閾値d=2(回/s秒)未満に減少するのは、6s秒目から7s秒目のs秒間である。従って、ステップS503において、まばたき頻度が閾値d=2(回/s秒)未満に減少した時点は6s秒目であると特定される。そして、6s秒目以降、s秒間でのまばたき頻度が次に閾値c=2(回/s秒)以上となるのは、10s秒目から11s秒目のs秒間であるため、ステップS503で計測される時間は4s秒間(時間608)となる。本実施例では、X=3s秒、X´=5s秒であるため、ステップS205では、計測した時間はX秒以上X´秒未満の間であると判定される。また、この例では、時間608の後、まばたきの頻度が増加した10s秒目からY=2s秒間(時間609)において、5回のまばたきが検知されているためY秒間でのまばたき頻度は2.5(回/s秒)と取得される。従って、取得されたまばたきの頻度は、閾値である2以上である。このようにして、ユーザが情報処理装置101にジェスチャ操作を認識させるため、入力部103を凝視したことが判定される。
以上のように、変形例1によれば、単位時間毎に取得しているまばたきの頻度が増加あるいは減少した時点からの所定の時間について、まばたきの頻度と閾値の大小関係を比較する処理を行う。こうすることで、例えば、Y秒よりも長い時間まばたきが増加する傾向があるなどユーザ毎の個人差があった場合にも、判定すべき時間でのまばたき頻度を判定することができる。
(実施例1の変形例2)
変形例2では、上記変形例1とは異なる方法によって、ユーザによるまばたきの頻度が増加および減少した時点を特定する例を説明する。なお、変形例2の機能構成、外観は実施例1において図1を用いて説明されたものに準じるため、共通する説明は詳細を省略する。
図7は、変形例2におけるユーザの指示を認識する処理のフローチャートである。図2及び図5と同番号の処理ステップについては、同様の処理内容が処理される。
変形例2では、ステップS701において、単位時間毎に、経過時間におけるまばたきの頻度を取得する。経過時間におけるまばたきの頻度とは、まばたきの検知を開始してからのその時点までの経過時間における、まばたきの頻度である。変形例2では、まばたき取得部104が、まばたきの検知を開始してからその時点までの各s秒間においてカウントされたまばたきの回数を合計し、経過時間で除算することによって頻度を取得し、保持部105に履歴情報を保持する。
次に、ステップS702では、まばたき取得部104が、s秒間毎に取得されているまばたき頻度が上がり始めてから、Y秒間におけるまばたきの頻度を取得する。ここでも、Y秒間とは、上述した視線の移動、あるいはそれまで行っていた処理によるまばたきの抑制の解除に伴う現象として、まばたきの頻度が増えると考えられる第2の所定時間である。まず、まばたき取得部104は、保持部105に保持されている履歴情報を参照し、まばたきの検知を開始してからs秒間毎に取得しているまばたきの頻度が上がり始めた時点を特定する。ここで、まばたきの頻度が上がり始めるとは、s秒間毎に取得している、経過時間におけるまばたきの頻度が、2回以上連続して増加する傾向が生じるということである。まばたき取得部104は、まばたきの頻度が上がり始めた時点を特定し、その時点からY秒間でのまばたきの頻度を取得する。変形例2のステップS202では、判定部106が、ステップS702で取得されたまばたきの頻度が、閾値a以上であるかどうかを判定する。
ステップS703では、まばたき取得部104が、s秒間毎に取得されている経過時間でのまばたき頻度が下がり始めてから、s秒間でのまばたきの頻度が閾値b未満の状態が継続される時間を計測する。まず、まばたき取得部104は、保持部105に保持された履歴情報を参照し、ステップS702で特定した、まばたきの頻度が上がり始めた時点の後、まばたきの頻度が下がり始めた時点を特定する。ここで、まばたきの頻度が下がり始めるとは、s秒間毎に取得しいるまばたきの頻度が、2回以上連続して減少する傾向が生じるということである。続いて、判定部106が、頻度が下がり始めた時点の後、s秒間でのまばたきの頻度が、閾値b未満である状態が継続される時間を計測する。ここで、s秒間でのまばたきの頻度は、s秒間に検知されるまばたきの回数に相当する。変形例2のステップS205では、ステップS703において計測した時間の長さが、X秒以上X´秒未満であるかを判定する。
ステップS704では、まばたき取得部104が、s秒間毎に取得されている経過時間におけるまばたき頻度が上がり始めてから、Y秒間におけるまばたきの頻度を取得する。まばたき取得部104は、保持部105に保持されている情報を参照し、ステップS703で計測した時間の後、s秒間毎に取得している経過時間におけるまばたきの頻度が上がり始めた時点を特定する。ここでも、まばたきの頻度が上がり始めるとは、s秒間毎に取得しているまばたきの頻度が、2回以上連続して増加する傾向が生じるということである。続いて、まばたき取得部104は、特定された時点からY秒間のまばたきの頻度を取得する。そして、変形例2のステップS207においては、ステップS704で取得されたまばたきの頻度が、閾値a以上であるかを判定する。閾値b以上であると判定された場合には、ステップS208に進み、閾値b未満であると判定された場合には、処理を終了する。ステップS208、及びステップS209で実行される処理は、実施例1において説明されたものに準じる。
ここで、図6(b)のテーブルを用いて、変形例2においてユーザによる指示を認識する処理の具体例を説明する。変形例2においても、項目604は、まばたきの検知を開始してから、まばたきの頻度を取得しているs秒刻みの時間を示す。項目605は、ステップS306において、まばたき取得部104によってカウントされたs秒間における回数である。さらに、項目606は、ステップS307において取得される、まばたきの検知を開始してからの経過時間におけるまばたきの頻度である。例えば、まばたきの検知を開始した時点から、3s秒目までには、合計1回のまばたきが検知されているため、経過時間における単位時間(s秒間)あたりのまばたきの頻度は1/3=0.33(回/s秒)と取得され、情報されている。また、ここでは一例として、閾値a=閾値b=2回/s秒、Y=2s秒、X=3s秒、X´=5s秒と定義する。
図6(b)の例では、5s秒目までのから取得されたまばたき頻度0.60(回/s秒)は、そのs秒前のまばたき頻度0.25(回/s秒)より増加している。さらに、次の6s秒目までの情報から取得されたまばたき頻度はさらに1.00(回/s秒)に増加している。従って、ステップS702において、まばたきの検知が開始された時点(時間0)から、まばたきの頻度が上がり始めた時点は、4s秒目と特定される。まばたきの検知を開始して4s秒目からのY=2s秒間の時間607では、合計5回のまばたきが検知されているため、Y秒間でのまばたき頻度は2.5(回/s秒)と取得される。また、本実施例において閾値bは2(回/s秒)であるため、ステップS203において、ステップS702で取得された頻度は2.5(回/s秒)は、閾値a以上であると判定される。
また、図6(b)の例では、4s秒目以降では、7s秒目までの情報から取得されたまばたきの頻度0.86(回/s秒)となり、そのs秒前に取得された頻度1.00(回/s秒)よりも減少している。さらに、8s秒目までの情報から取得されたまばたきの頻度は0.75(回/s秒)となり、2回継続して減少している。従って、ステップS703において、まばたきの頻度が下がり始めた時点は、検知処理開始から6s秒目と特定される。そして、6s秒目以降において、s秒間毎に取得されるs秒間でのまばたきの頻度は、閾値b未満が継続され、10s秒目から11s秒目までのs秒間に初めて閾値cである2(回/s秒)以上となる。従って、閾値c未満のまばたき頻度が継続しているのは、10s秒目までの時間608であることがわかる。したがって、計測される時間608は4s秒間となる。
変形例2では、X=3s、X´=5sである。従って、図6(b)の例では、ステップS703で計測された時間608が4s秒間であるので、判定部106によって、X秒以上X´秒未満の範囲内であると判定され、ステップS704に進む。
また、図b(b)の例では、11s秒目に取得されたまばたきの頻度0.91(回/s秒)は、そのs秒前のまばたき頻度0.70(回/s秒)より増加している。さらに、次の12s秒目に取得されたまばたき頻度は1.00(回/s秒)に増加している。従って、ステップS704において、まばたきの頻度が上がり始めた時点は、カウント開始から10s秒目と特定される。続いて、まばたき取得部104は、特定された時点から、Y秒間のまばたきの頻度を取得する。本実施例では、Y=2sであるとする。10s秒目からのY=2s秒間の時間609では、合計5回のまばたきが検知されているため、Y秒間でのまばたき頻度は2.5(回/s秒)と取得される。また、本実施例において閾値bは2(回/s秒)であるため、ステップS207において、ステップS704で取得された頻度は2.5(回/s秒)は、閾値b以上であると判定される。
以上のように、変形例2によれば、そしてm単位時間毎に取得しているまばたきの頻度があがり始めた、あるいは下がり始めた時点からの所定の時間について、まばたきの頻度と閾値の大小関係を比較する処理を行う。この際、ユーザによるまばたきの頻度が増加または減少したことを検知する際に、まばたきの検知を開始してからの経過時間におけるまばたきの頻度を取得する。こうすることで、例えば、Y秒よりも長い時間まばたきが増加する傾向があるなどユーザ毎の個人差があった場合にも、判定すべき時間でのまばたき頻度を判定することができる。また、変形例2では、s秒間毎に取得しているまばたきの頻度が、2回以上増加あるいは減少する傾向が生じたときに、まばたきが上がり始めたあるいは減少したと判定している。これによって、眠気などの要因により一時的にまばたきの頻度が増加した場合において、ユーザの動きをジェスチャ操作として認識してしまう誤認識の可能性をさらに低減できる。
(実施例2)
実施例1では、ユーザによるまばたきの頻度の増加と減少が所定の条件を満たすことによって、ユーザがジェスチャ操作の認識を開始させるために入力部103を凝視したことを判定した。実施例2では、眠気などによる一時的なまばたきの増加により、ユーザの意図に反してジェスチャの認識が開始されたと考えられる場合に、ジェスチャ操作が行われなければ情報し、次回以降の処理に利用する。
図1(b)は、本発明に係る情報処理装置101の機能構成を示す機能ブロック図である。本実施例では、認識部107は、判定部106の判定によってジェスチャの認識が開始されたにも関わらず、ユーザによるジェスチャを認識しなかった場合に、保持部105にジェスチャがなされなかったことを示す誤認識情報を記録する。例えば、フラグを立てる、あるいは情報を行った回数をカウントした数値を決定するなどの方法を用いることができる。さらに、本実施例では、変更部109が、表示制御部108に、ジェスチャの認識を開始することを通知するための表示画像を変更するように指示する。その他の機能構成は、実施例1および変形例2に準じるため、説明を省略する。
図8は、実施例2において、ユーザからの指示を認識するためのメインの処理のフローチャートである。本実施例においても、情報処理装置101の電源が投入されたことに従って、処理が開始される。以下、実施例1の図2と番号が同じステップにおける処理は、実施例1と同様であるため詳細な説明を省略する。
本実施例では、ステップS207において、判定部106が、ユーザのY秒間でのまばたきの頻度の大きさが閾値a以上であると判定した場合には、処理はステップS801に進む。ステップS801では、変更部109が、誤認識情報が保持部105に保持されているかを判定する。誤認識情報とは、過去に判定部106がジェスチャの認識の開始を指示したにも関わらず、認識部107がユーザによるジェスチャ操作を認識しなかった場合に、保持部105に保持した情報である。誤認識情報が保持されていなかった場合には、ステップS208に進む。電源投入後の初回の処理では、誤認識情報は保持されていない。ステップS208では、実施例1と同様に、表示制御部108がジェスチャ認識を開始したことを通知する。表示制御部108が通知のための表示画像を生成し、表示部102に出力して、ステップS803に進んでジェスチャ認識を開始する。
ここで、図4(b)は、本実施例のステップS803で実行されるジェスチャ認識処理を示すフローチャートである。以下、実施例1の図4(a)と番号が同じステップにおける処理は、実施例1と同様におこなわれるため詳細な説明を省略する。本実施例では、ステップS402において、認識部107がユーザのジェスチャを認識しなかったと判定した場合には、ステップS405に進む。本実施例においても、例えば、ステップS208でジェスチャ認識開始の通知がなされてから30秒間という所定の時間内にユーザによるジェスチャが認識されなかった場合には、認識部107がユーザのジェスチャを認識しなかったと判定する。ステップS405では、表示制御部108が、ジェスチャの認識が終了したことを通知する。具体的には、ジェスチャの認識を終了することを示す表示画像を生成し、表示部102に出力する。ここでの通知のために表示部102に表示される表示画像は、ジェスチャの認識を開始した際に通知される表示画像よりも小さい、色が薄い、あるいはディスプレイの端に位置するなどの工夫がされていてもよい。そうすることによって、ジェスチャを意図していなかったユーザが感じるストレスを軽減させることができる。次に、ステップS406において、認識部107が、誤認識情報を保持部105に保持する。以上で、ステップS803のジェスチャ認識処理が終了する。
一方、図8のフローチャートのステップS801において、ジェスチャが無かったことを示す情報が保持されていた場合、処理はステップS802に進む。ステップS802において、変更部109は、表示制御部108に、ユーザに対する通知方法を変更するように指示する。そして、ステップS208において、変更部109による指示を受けた表示制御部108が、ユーザのジェスチャの認識を開始したことを通知する。この際、表示制御部108は、変更部109の指示に応じて通常とは通知方法を変更する。図9は、表示制御部108が、ユーザに対してジェスチャ操作の認識開始を通知するために生成した表示画像を表示させたときの表示部102を示している。誤認識情報が保持されていない場合、ステップS208では、図9(a)のように通知ダイアログを示す表示画像が表示されるとする。それに対し、図9(b)〜(d)は、いずれもRAM上に情報が保持されていた場合に、変更された通知方法を表している。例えば、図9(b)は通知ダイアログを、図9(a)の場合より小さくして表示している。図9(c)は通知ダイアログの色を、図9(a)の場合より薄くして表示している。図9(d)は通知ダイアログの位置を図9(a)のように中央ではなく端に表示している。なお、通知方法を変更の仕方は上記例に限らない。例えば、通知する際に通知音が鳴る場合には通知音の音量を下げるなど、ユーザにとって通知が通常よりも弱く感じられるように工夫した方式を用いる。また、認識部107がステップS406の処理を行った回数をカウントしていた誤認識回数情報を保持部105が保持し、その回数の値を、通知方法を弱める度合に関連させてもよい。例えば、連続してステップS406の処理ステップを通過するフローが繰り返されている場合には、通知方法の変更程度を加速させてもよい。又、通知は表示部102の別な位置に設けられたLEDを点灯させるなどの方法で行ってもよい。ステップS208の通知処理が終了したら、ステップS803の処理に進む。ステップS803のジェスチャ認識処理が終了したら、本実施例におけるユーザからの指示を認識するメインの処理が終了する。
以上説明したように、実施例2によれば、眠気などの要因によってまばたきの頻度が増減することにより、ユーザの意図に反してジェスチャの認識が開始された場合に、ジェスチャ操作が行われなければ情報し、次回以降の処理に利用することができる。特に、ジェスチャの認識を開始することを通知する際の方法を変更することにより、ジェスチャ操作を意図していないにも関わらず、ジェスチャの認識開始を伝える通知が表示部102に度々表示されることでユーザが感じるストレスを低減することができる。
なお、本実施例においても、ユーザが行う指示入力としてジェスチャを認識する情報処理装置を例として説明したが、その他の、例えば音声による指示入力を認識する情報処理装置にも適応することができる。
また、実施例2では、他の要因によるまばたきの頻度の増減を、入力部103への凝視によると誤認識したと考えられる場合に、認識部107が記録した誤認識情報を、通知方法を変化させるために利用したが、他の処理に用いることもできる。例えば、ユーザの意図に反してジェスチャの認識を開始してしまった場合には、次回以降にまばたきの頻度の増減を判定するために用いる閾値の大きさや所定の時間の長さ(Y、X、X´)の値を調整してもよい。調整後に、再び誤った判定がなされば場合には、さらに調整を加える、あるいは元に戻すといった処理を行う事もできる。このように、閾値の大きさや所定の時間の長さ(Y、X、X´)をユーザに合わせて調整することで、よりユーザが直感的に操作しやすい環境を提供することができる。
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (9)

  1. 単位時間毎にまばたきの頻度を取得する取得手段と、
    まばたきの頻度が増加してから、次に増加するまでに、前記取得手段により取得されるまばたきの頻度が第1の閾値未満である状態が継続される時間が、第1の所定の時間の範囲内であるかを判定する第1の判定手段と、
    前記第1の判定手段により前記時間が第1の所定の時間の範囲内であると判定された場合に、視線による所定の指示が行われたと解釈する解釈手段と、
    を備えることを特徴とする情報処理装置。
  2. 第2の所定時間におけるまばたきの頻度が、第2の閾値以上であることを判定する第2の判定手段をさらに備え、
    前記第1の判定手段は、前記第2の判定手段により、前記第2の所定時間におけるまばたきの頻度が、第2の閾値以上であると判定された場合に、前記取得手段により取得されるまばたきの頻度が第1の閾値未満の状態が継続される時間が、第1の所定の時間の範囲内であるかを判定することを特徴とする請求項1に記載の情報処理装置。
  3. 第1の判定手段により、前記取得手段により取得されるまばたきの頻度が第1の閾値未満の状態が継続される時間が、第1の所定の時間の範囲内であると判定された場合に、第2の所定時間におけるまばたきの頻度が、前記第2の閾値以上であることを判定する第3の判定手段をさらに備えることを特徴とする請求項2に記載の情報処理装置。
  4. 前記認識手段は、前記認識を開始した後に、前記ユーザによるまばたきとは異なる指示入力が行われなかった場合には、ユーザの指示がなかったことを示す情報を保持部に保持させること特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
  5. 前記認識手段が前記認識を開始することを通知するための表示画像を表示部に表示させる表示制御手段と、
    前記表示制御手段に対し、前記保持部がユーザの指示がなかったことを示す情報を保持している場合には、前記通知するための表示画像を変更させる変更手段と、
    を更に備えることを特徴とする請求項4に記載の情報処理装置。
  6. コンピュータに読み込み込ませ実行させることで、前記コンピュータを請求項1乃至5のいずれか1項に記載の情報処理装置として機能させることを特徴とするプログラム。
  7. 取得手段により、単位時間毎にまばたきの頻度を取得する取得工程と、
    第1の判定手段により、まばたきの頻度が増加してから、次に増加するまでに、前記取得手段により取得されるまばたきの頻度が第1の閾値未満である状態が継続される時間が、第1の所定の時間の範囲内であるかを判定する第1の判定工程と、
    認識手段により、前記第1の判工程において、前記時間が第1の所定の時間の範囲内であると判定された場合に、視線による所定の指示が行われたと解釈する解釈工程と、
    を備えることを特徴とする情報処理装置の制御方法。
  8. 第2の判定手段により、第2の所定時間におけるまばたきの頻度が、第2の閾値以上であることを判定する第2の判定工程をさらに備え、
    前記第1の判定工程では、前記第2の判定工程において、前記第2の所定時間におけるまばたきの頻度が、第2の閾値以上であると判定された場合に、前記取得手段により取得されるまばたきの頻度が第1の閾値未満の状態が継続される時間が、第1の所定の時間の範囲内であるかを判定することを特徴とする請求項7に記載の情報処理装置の制御方法。
  9. 第3の判定手段により、前記第1の判定工程において、前記取得手段により取得されるまばたきの頻度が第1の閾値未満の状態が継続される時間が、第1の所定の時間の範囲内であると判定された場合に、第2の所定時間におけるまばたきの頻度が、前記第2の閾値以上であることを判定する第8の判定工程をさらに備えることを特徴とする請求項2に記載の情報処理装置。
JP2011264480A 2011-12-02 2011-12-02 情報処理装置およびその制御方法 Pending JP2013117821A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011264480A JP2013117821A (ja) 2011-12-02 2011-12-02 情報処理装置およびその制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011264480A JP2013117821A (ja) 2011-12-02 2011-12-02 情報処理装置およびその制御方法

Publications (1)

Publication Number Publication Date
JP2013117821A true JP2013117821A (ja) 2013-06-13

Family

ID=48712361

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011264480A Pending JP2013117821A (ja) 2011-12-02 2011-12-02 情報処理装置およびその制御方法

Country Status (1)

Country Link
JP (1) JP2013117821A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022196476A1 (ja) * 2021-03-16 2022-09-22 富士フイルム株式会社 電子機器、電子機器の制御方法及び電子機器の制御プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022196476A1 (ja) * 2021-03-16 2022-09-22 富士フイルム株式会社 電子機器、電子機器の制御方法及び電子機器の制御プログラム

Similar Documents

Publication Publication Date Title
US9257114B2 (en) Electronic device, information processing apparatus,and method for controlling the same
US11023038B2 (en) Line of sight detection adjustment unit and control method
CN106463114B (zh) 信息处理设备、控制方法及程序存储单元
US20220319520A1 (en) Voice interaction wakeup electronic device, method and medium based on mouth-covering action recognition
JP4659905B2 (ja) 脳波識別の要否を決定する装置および方法
JP2012128523A (ja) 情報処理装置およびその動作方法
JPWO2016103988A1 (ja) 情報処理装置、情報処理方法およびプログラム
US11636859B2 (en) Transcription summary presentation
KR20150112337A (ko) 디스플레이 장치 및 그 사용자 인터랙션 방법
RU2015114537A (ru) Устройство отображения и его способ управления
US10963063B2 (en) Information processing apparatus, information processing method, and program
JP2008003816A (ja) 操作誘導装置及び操作誘導方法
CN110622111B (zh) 用于用户界面的触觉反馈
JP2012160173A (ja) 電子機器および電子機器の制御プログラム
CN105306817B (zh) 一种拍照的控制方法及移动终端
JP5771998B2 (ja) 電子機器および電子機器の制御プログラム
US10754432B2 (en) Information processing device and information processing method for detecting gesture manipulation
JP2016021259A (ja) 電子機器および電子機器の制御プログラム
JP2013117821A (ja) 情報処理装置およびその制御方法
US20200066269A1 (en) Information processing apparatus and information processing method
JP2012146216A (ja) 電子機器および電子機器の制御プログラム
JP5811537B2 (ja) 電子機器
KR20170029390A (ko) 음성 명령 모드 진입 방법
KR102333976B1 (ko) 사용자 인식 기반의 영상 제어 장치 및 그 동작방법
JP2019023872A (ja) 電子機器