JP6201408B2 - 電子制御装置、制御方法及び制御プログラム - Google Patents

電子制御装置、制御方法及び制御プログラム Download PDF

Info

Publication number
JP6201408B2
JP6201408B2 JP2013100140A JP2013100140A JP6201408B2 JP 6201408 B2 JP6201408 B2 JP 6201408B2 JP 2013100140 A JP2013100140 A JP 2013100140A JP 2013100140 A JP2013100140 A JP 2013100140A JP 6201408 B2 JP6201408 B2 JP 6201408B2
Authority
JP
Japan
Prior art keywords
information
electronic device
control
user
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013100140A
Other languages
English (en)
Other versions
JP2014219904A (ja
Inventor
淳史 田中
淳史 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2013100140A priority Critical patent/JP6201408B2/ja
Publication of JP2014219904A publication Critical patent/JP2014219904A/ja
Application granted granted Critical
Publication of JP6201408B2 publication Critical patent/JP6201408B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Description

本発明は、電子制御装置、制御方法及び制御プログラムに関する。
電子機器を遠隔操作するリモートコントロール機器(電子制御装置)が、特許文献1に開示されている。
特開2011‐250027号公報
しかしながら、特許文献1に開示された電子制御装置は、電子機器を操作する都度、アプリケーションを起動する必要があり、操作性が低いという問題がある。
本発明は、前記の点に鑑みてなされたものであり、操作性が高い電子制御装置、制御方法及び制御プログラムを提供することを目的の一つとする。
本発明の一態様は、ユーザを撮像する撮像部と、前記ユーザに関する情報を認識するユーザ認識部と、電子機器に関する情報を認識する機器認識部と、前記ユーザに関する情報、及び、前記電子機器に関する情報の少なくとも一方に基づいて、前記電子機器を制御するための制御情報と、前記制御情報に対応付けられた画像の表示位置と、を定める制御部と、前記制御部により定められた前記表示位置に、前記画像を出力する出力部と、を備え、前記ユーザに関する情報は、前記ユーザの状態を示す情報を含み、前記電子機器に関する情報は、前記電子機器の状態を示す情報を含み、前記制御部は、前記ユーザの状態と前記電子機器の状態とに基づいて前記制御情報と、前記制御情報に対応する前記画像の表示内容とを定める電子制御装置である。
また、本発明の一態様は、電子制御装置における制御方法であって、ユーザを撮像する工程と、前記ユーザの状態を示す情報を含む前記ユーザに関する情報を認識する工程と、電子機器の状態を示す情報を含む前記電子機器に関する情報を認識する工程と、前記ユーザに関する情報に含まれる前記ユーザの状態を示す情報と前記電子機器に関する情報に含まれる前記電子機器の状態を示す情報とに基づいて、前記電子機器を制御するための制御情報と、前記制御情報に対応付けられた画像の表示位置と、前記画像の表示内容とを定める工程と、定められた前記表示位置に、前記画像を出力する工程と、を有する制御方法である。
また、本発明の一態様は、コンピュータに、ユーザを撮像する手順と、前記ユーザの状態を示す情報を含む前記ユーザに関する情報を認識する手順と、電子機器の状態を示す情報を含む前記電子機器に関する情報を認識する手順と、前記ユーザに関する情報に含まれる前記ユーザの状態を示す情報と前記電子機器に関する情報に含まれる前記電子機器の状態を示す情報とに基づいて、前記電子機器を制御するための制御情報と、前記制御情報に対応付けられた画像の表示位置と、前記画像の表示内容とを定める手順と、定められた前記表示位置に、前記画像を出力する手順と、を実行させるための制御プログラムである。
本発明によれば、電子制御装置、制御方法及び制御プログラムは、操作性が高い。
本発明の一実施形態における、電子制御装置の構成例を示すブロック図である。 本発明の一実施形態における、ユーザの属性情報の例を示すデータテーブルである。 本発明の一実施形態における、画像候補を定めるための情報の例を示すデータテーブルである。 本発明の一実施形態における、表示させる画像を定めるための第1の情報の例を示すデータテーブルである。 本発明の一実施形態における、表示させる画像を定めるための第2の情報の例を示すデータテーブルである。 本発明の一実施形態における、撮像照射装置の構成例を示すブロック図である。 本発明の一実施形態における、電子制御装置の第1の動作例を示す図である。 本発明の一実施形態における、電子制御装置の第2の動作例を示す図である。 本発明の一実施形態における、撮像されたアイコン画像の例を示す図である。 本発明の一実施形態における、電子制御装置の第3の動作例を示す図である。 本発明の一実施形態における、画像を表示させるための動作手順例を示すフローチャートである。
本発明の一実施形態について図面を参照して詳細に説明する。図1には、電子制御装置の構成例が、ブロック図により示されている。電子制御装置100は、実空間における所定の位置(例えば、部屋の天井)に設置される。電子制御装置100は、屋内又は屋外のいずれに備えられてもよい。電子制御装置100は、第1電子機器200及び第2電子機器300を制御する。なお、電子制御装置100は、さらに多くの電子機器を制御してもよい。
電子制御装置100は、撮像部110と、センサ部120と、ユーザ認識部130と、機器認識部140と、制御部150と、記憶部160と、出力部170と、選択認識部180と、通信部190とを備える。
撮像部110は、周囲を撮像する。撮像部110は、例えば、可視光の波長帯に感度を有するカメラである。撮像部110は、撮像された画像を示す信号を、ユーザ認識部130、機器認識部140及び選択認識部180に出力する。以下、撮像部110の位置からは、第1の電子機器(以下、「第1電子機器」という。)と、第2の電子機器(以下、「第2電子機器」という。)と、ユーザとを撮像することが可能であるものとする。また、第1電子機器及び第2電子機器に共通する事項については、第1及び第2を省略して、「電子機器」と表記する。以下、第1電子機器200は、一例として、洗濯機であるものとし、第2電子機器300は、一例として、乾燥機であるものとする。
センサ部120は、周囲をセンシングし、センシング結果を示す信号を、ユーザ認識部130に出力する。センサ部120は、例えば、マイクであり、ユーザの音声等を周囲から収音してもよい。
ユーザ認識部130には、撮像された画像を示す信号が、撮像部110から入力される。また、ユーザ認識部130には、センシング結果を示す信号が、センサ部120から入力される。ユーザ認識部130は、撮像された画像を示す信号、及び、センシング結果を示す信号の少なくとも一方に基づいて、ユーザに関する情報を認識する。
ここで、ユーザに関する情報は、例えば、ユーザが誰であるかを識別した結果を示す情報、ユーザの位置及び状態である。また、ユーザの状態は、ユーザの行動又は姿勢であり、例えば、洗濯かごを両手に持った状態、又は、洗剤を持った状態である。ユーザ認識部130は、ユーザに関する情報に基づく認識結果を示す信号を、制御部150に出力する。
機器認識部140には、撮像された画像を示す信号が、撮像部110から入力される。また、機器認識部140には、通信部190が受信した所定の通信情報を示す信号が、通信部190から入力される。ここで、所定の通信情報は、例えば、電子機器の識別番号、電子機器の状態を示す情報、及び、電子機器を制御(操作)するための制御情報(操作情報)である。
機器認識部140は、撮像された画像を示す信号、及び、通信情報を示す信号の少なくとも一方に基づいて、電子機器に関する情報を認識する。ここで、電子機器に関する情報は、例えば、電子機器の位置及び状態である。また、電子機器の状態は、例えば、電子機器の形状、ドアが開いているか否か、又は、内部に物が入れられているか否かである。機器認識部140は、電子機器に関する情報に基づいて、電子機器の表面における空き空間を認識してもよい。機器認識部140は、電子機器に関する情報に基づく認識結果を示す信号を、制御部150に出力する。
記憶部160は、ユーザの属性情報と、出力部170により表示される画像の候補(以下、「画像候補」という。)を定めるための情報と、出力部170により表示される画像(例えば、ガイダンス画像、アイコン画像)を定めるための情報とを、予め記憶する。これらの情報は、データテーブル形式により記憶されていてもよい。記憶部160は、出力部170により表示される画像情報を、予め記憶する。なお、記憶部160が記憶する各種の情報は、通信部190及び通信回線(インターネット)等を介して、更新されてもよい。例えば、表示される画像は、選択された異なる言語により表示可能となるよう更新されてもよい。
図2には、ユーザの属性情報の例が、データテーブルにより示されている。ユーザの属性情報では、ユーザと属性とが対応付けられている。ここで、属性は、例えば、利き手、性別、年齢、及び視力である。図2では、ユーザ10には、属性として、利き手「右利き」と、性別「男性」と、年齢「10」と、視力「1.5」とが、対応付けられている。また、ユーザ20には、属性として、利き手「左利き」と、性別「女性」と、年齢「30」と、視力「0.7」とが、対応付けられている。
図3には、画像候補を定めるための情報の例が、データテーブルにより示されている。画像候補は、制御部150により制御対象として選択された電子機器、及び、ユーザの状態に基づいて、定められる。図3では、制御対象として選択された第1電子機器200、及び、ユーザの第1状態(例えば、ユーザが洗濯かごを両手に持った状態)には、画像候補400が対応付けられている。また、制御対象として選択された第1電子機器200、及び、ユーザの第2状態(例えば、ユーザが洗剤を持った状態)には、画像候補410が対応付けられている。また、制御対象として選択された第1電子機器200、及び、ユーザの第3状態(例えば、ユーザが手に何も持っていない状態)には、画像候補440が対応付けられている。
また、制御対象として選択された第2電子機器300、及び、ユーザの第1状態には、画像候補420が対応付けられている。また、制御対象として選択された第2電子機器300、及び、ユーザの第2状態には、画像候補430が対応付けられている。また、制御対象として選択された第2電子機器300、及び、ユーザの第3状態には、画像候補450が対応付けられている。
なお、図3に示すデータテーブルでは、行方向及び列方向の少なくとも一方向に、同じ画像候補が並んでいてもよい。つまり、選択された電子機器、及び、ユーザの状態の少なくとも一方が定まれば、画像候補が一意に定まるように、画像候補を定めるための情報は定められていてもよい。
図4には、表示させる画像を定めるための第1の情報の例が、データテーブルにより示されている。この第1の情報は、制御対象として第1電子機器200が選択された場合に用いられる。つまり、制御対象として第1電子機器200が選択された場合、表示される画像は、画像候補、及び、第1電子機器200の状態に基づいて定められることになる。
図4では、一例として、画像候補400、及び、第1電子機器200の第3状態(例えば、蓋が開いている状態)には、非表面用アイコン画像401が対応付けられている。ここで、非表面用アイコン画像とは、電子機器の表面以外の所定の位置に表示されるアイコン画像(操作キー画像)である。また、画像候補400、及び、第1電子機器200の第4状態(例えば、蓋が閉まっている状態)には、表面用アイコン画像402が対応付けられている。ここで、表面用アイコン画像とは、電子機器の表面の所定の位置に表示されるアイコン画像である。
また、画像候補410、及び、第1電子機器200の第3状態には、表面用アイコン画像411が対応付けられている。また、画像候補410、及び、第1電子機器200の第4状態には、表面用アイコン画像412と、表面用アイコン画像413とが対応付けられている。
図5には、表示させる画像を定めるための第2の情報の例が、データテーブルにより示されている。この第2の情報は、制御対象として第2電子機器300が選択された場合に用いられる。つまり、制御対象として第2電子機器300が選択された場合、表示される画像は、画像候補、及び、第2電子機器300の状態に基づいて定められることになる。
図5では、一例として、画像候補420、及び、第2電子機器300の第5状態(例えば、蓋が開いている状態)には、非表面用ガイダンス画像431が対応付けられている。ここで、非表面用ガイダンス画像とは、電子機器の表面以外の所定の位置(例えば、床面)に表示されるガイダンス画像(操作等を案内するための画像)である。ガイダンス画像は、例えば、文字列を表す画像、又は、矢印の画像でもよい。例えば、矢印のガイダンス画像は、洗剤の投入位置を示してもよい。
また、画像候補420、及び、第2電子機器300の第6状態(例えば、蓋が閉まっている状態)には、表面用ガイダンス画像432が対応付けられている。ここで、表面用ガイダンス画像とは、電子機器の表面の所定の位置に表示されるガイダンス画像である。また、画像候補430、及び、第2電子機器300の第5状態には、表面用アイコン画像441が対応付けられている。また、画像候補430、及び、第2電子機器300の第6状態には、表面用アイコン画像442が対応付けられている。
なお、図4及び図5に示す各データテーブルでは、行方向及び列方向の少なくとも一方向に、同じ画像候補が並んでいてもよい。つまり、画像候補、及び、電子機器の状態の少なくとも一方が定まれば、表示される画像が一意に定まるように、表示させる画像を定めるための情報は定められていてもよい。
図1に戻り、電子制御装置の構成例の説明を続ける。制御部150は、ユーザに関する情報、及び、電子機器に関する情報の少なくとも一方に基づいて、電子機器を制御するための制御情報と、制御情報に対応付けられた画像の表示位置と、を定める。制御部150には、ユーザに関する情報に基づく認識結果を示す信号が、ユーザ認識部130から入力される。また、制御部150には、電子機器に関する情報に基づく認識結果を示す信号が、機器認識部140から入力される。また、制御部150は、ユーザの属性情報(図2を参照)を、ユーザに関する情報の一つとして、記憶部160から取得する。
制御部150は、ユーザに関する情報に基づいて位置を定める場合、その定めた位置にガイダンス画像又はアイコン画像が表示されるよう、出力部170を制御する。例えば、制御部150は、ユーザの利き手側に(図2を参照)、ガイダンス画像又はアイコン画像が表示されるよう、出力部170を制御する。例えば、制御部150は、ユーザ10が右利きである場合(図2を参照)、ガイダンス画像又はアイコン画像がユーザ10の右側に表示されるよう、出力部170を制御する。
また、例えば、制御部150は、ユーザが未成年である場合、ユーザの身長が高くないと予想されるので、ガイダンス画像又はアイコン画像が所定の高さよりも低い位置に表示されるよう、出力部170を制御する。例えば、制御部150は、ユーザ10が10歳である場合(図2を参照)、ユーザ10の身長が高くないと予想されるので、ガイダンス画像又はアイコン画像が所定の高さよりも低い位置に表示されるよう、出力部170を制御する。また、この場合、制御部150は、平易な文章で表されたガイダンス画像が表示されるよう、そのガイダンス画像を記憶部160から取得し、出力部170を制御してもよい。
また、例えば、制御部150は、ユーザの視力が所定値以下である場合、所定の大きさ以上の文字で表されたガイダンス画像が表示されるよう、ガイダンス画像を記憶部160から取得し、出力部170を制御する。例えば、制御部150は、ユーザ20の視力が0.7である場合(図2を参照)、所定の大きさ以上の文字で表されたガイダンス画像が表示されるよう、そのガイダンス画像を記憶部160から取得し、出力部170を制御する。
制御部150は、電子機器に関する情報に基づく認識結果を示す信号に基づいて、電子機器から所定の距離内にユーザが位置しているか否かを判定する。電子機器から所定の距離内にユーザが位置している場合、制御部150は、制御対象の電子機器として、その電子機器を選択する。制御部150は、選択した電子機器に関する情報に基づいて、画像を表示させる位置を定める。例えば、第2電子機器300よりも第1電子機器200の近くにユーザが位置している場合、制御部150は、制御対象として第1電子機器200を選択し、表示させる画像を定めるための第1の情報(図4に示すテーブルデータ)に基づいて、表示させる画像を定める。
制御部150は、電子機器に関する情報に基づく認識結果を示す信号に基づいて、その電子機器の表面の空き空間(例えば、模様のない平面空間)の所定領域に、画像を表示させる位置を定めてもよい。なお、制御部150は、電子機器の表面の模様のある立体空間に、プロジェクション・マッピングにより画像を表示させるよう、出力部170を制御してもよい。ここで、制御部150は、電子機器の表面の色に対して補色の関係にある色を含む画像の光が照射されるように、出力部170を制御してもよい。
制御部150は、所定条件に基づいて、画像を表示させる位置を定める。この所定条件は、例えば、予め定められた操作手順を示す条件である。また、この操作手順を示す条件は、例えば、第1電子機器200に関する情報に基づいて、第2電子機器300を制御するための制御情報を定める、という操作手順を示す条件でもよい。
出力部170は、制御部150により定められた位置に、制御情報に対応付けられた画像を出力する。ここで、出力部170は、制御情報に対応付けられたガイダンス画像又はアイコン画像を表示させるための光を、ユーザに関する情報に基づいて定められた位置に照射する。また、出力部170は、制御情報に対応付けられた画像を表示させるための光を、電子機器に関する情報に基づいて定められた位置に照射してもよい。
出力部170は、制御情報に対応付けられた画像を表示させるための光を、電子機器の表面に照射してもよい。ここで、出力部170は、制御情報に対応付けられた画像を表示させるための光を、電子機器の表面の空き空間に定められた位置に照射してもよい。
出力部170は、制御情報に対応付けられた画像を表示させるための光を、所定条件(例えば、予め定められた操作手順を示す条件)に基づいて定められた位置に、照射してもよい。また、出力部170は、第1電子機器200に関する情報(例えば、洗濯機が洗濯及び脱水を完了したことを示す情報)に基づいて制御部150により定められた、第2電子機器300を制御するための制御情報(例えば、乾燥機の電源を入れるための制御情報)に対応付けられた画像(例えば、アイコン画像)を照射してもよい。
次に、撮像部110及び出力部170の構成例を説明する。
撮像部110及び出力部170は、撮像部110の光学系と、出力部170の光学系とを共通にした構成であってもよい。以下、光学系が一体に構成された撮像部及び出力部をまとめて、「撮像照射装置」という。
図6には、撮像照射装置の構成例がブロック図により示されている。撮像照射装置C1は、出力部170、入出光分離部C131、光学部C132、及び撮像部110を備える。出力部170は、光源を有し、制御部150からの制御に基づいて、照射する画像を表す光を生成し、生成した光を出力する。
入出光分離部C131は、光学部C132及び出力部170の間の光路上であって、光学部C132及び撮像部110の間の光路上に備えられる。入出光分離部C131は、撮像照射装置C1が外部に照射する照射光の光路と、外部から撮像照射装置C1に入射する入射光の光路とを分離する。例えば、入出光分離部C131は、出力部170から入射された光の少なくも一部を透過させ、光学部C132から入射された光の少なくも一部を反射させる。入出光分離部C131は、例えば、ハーフミラーである。
光学部C132は、レンズを有する。レンズは、複数枚でもよい。
撮像部110は、例えば、相補性金属酸化膜半導体(CMOS:Complementary Metal Oxide Semiconductor)イメージセンサでもよい。
出力部170から出射された光は、入出光分離部C131を透過し、光学部C132を介して、所定の位置に照射される。一方、撮像照射装置C1の外部から光学部C132に入射した光は、入出光分離部C131で反射され、反射部C140でも反射される。さらに、反射部C140で反射された光は、撮像部110に入射し、画像を示す情報に光電変換される。
これにより、撮像照射装置C1は、照射と撮像に関して、光学部C132を共通にすることができる。また、撮像照射装置C1は、照射と撮像に関して、光軸を共通にすることができる。制御部150は、光軸が共通する構成で撮像された画像により、ユーザ及び電子機器を認識可能なので、照射された光のスポットの調整を、容易に実行することができる。また、撮像照射装置C1は、光学系を共通にするので、光学系を共通にしない場合と比較して、余分な空間が省かれた筐体内の空間を有することができる。また、撮像照射装置C1は、コストを下げることができる。また、ユーザは、光学系から光が照射されているので、撮像されていることに気づき難い場合もある。この場合、ユーザは、撮像部(カメラ)で撮影されていることを意識することなく、電子制御装置100を利用することができる。
なお、撮像照射装置C1は、照射と撮像とで独立に、焦点を合わせてもよい。例えば、撮像照射装置C1は、光学部C132及び出力部170の間の光路上に、可動レンズを備えていてもよい。また、撮像照射装置C1は、光学部C132及び撮像部110の間の光路上に、可動レンズを備えていてもよい。また、撮像部110は、撮像照射装置C1において、位置が可動でもよい。これにより、撮像照射装置C1は、照射と撮像とで独立に、焦点を変えることができる。
選択認識部180には、撮像された画像を示す信号が、撮像部110から入力される。 選択認識部180は、制御情報に対応付けられた画像を介してユーザが選択した制御情報を、撮像されたユーザの画像に基づいて認識する。選択認識部180は、ユーザが選択した制御情報を示す信号を、通信部190に出力する。
通信部190には、ユーザが選択した制御情報を示す信号が、選択認識部180から入力される。通信部190は、選択認識部180により認識された制御情報、すなわち、ユーザが選択した制御情報を、制御対象として制御部150により選択された電子機器に通信する。通信部190は、所定の通信情報を、有線又は無線により電子機器と通信する。通信部190は、電子機器から受信した所定の通信情報を示す信号を、機器認識部140に転送する。
次に、電子制御装置の動作例を説明する。
図7には、電子制御装置の第1の動作例が示されている。図7では、ユーザ10は、洗濯かごを両手に持っている(第1状態)。また、ユーザ10は、第1電子機器200からX1[m]の位置、且つ、第2電子機器300からY1[m]の位置にいる。また、第1電子機器200の蓋は、開いている。
撮像部110(図1を参照)は、周囲を撮像する。この撮像された画像には、ユーザ10と、第1電子機器200(洗濯機)と、第2電子機器(乾燥機)とが、撮像されているものとする。
ユーザ認識部130は、ユーザ10を認識したことを示す信号を、制御部150に出力する。また、ユーザ認識部130は、第1電子機器200からユーザ10までの距離がX1[m]であることを示す信号と、第2電子機器300からユーザ10までの距離がX1より長いY1[m]であることを示す信号とを、制御部150に出力する。また、ユーザ認識部130は、ユーザ10が洗濯かごを両手に持っている(図3に示す第1状態であること)を示す信号を、制御部150に出力する。
機器認識部140は、撮像された画像を示す信号に基づいて、第1電子機器200の蓋が開いていること(図4に示す第3状態であること)を認識し、第1電子機器200の蓋が開いていることを示す信号を、制御部150に出力する。また、自機器の状態を示す通信情報を第1電子機器200が通信部190に送信することにより、機器認識部140は、通信部190が受信したこの通信情報を示す信号に基づいて、第1電子機器200の蓋が開いていることを認識してもよい。
制御部150は、第1電子機器200からユーザ10までの距離がX1[m]であることを示す信号と、第2電子機器300からユーザ10までの距離がX1より長いY1[m]であることを示す信号とに基づいて、ユーザ10との距離がより短い第1電子機器200を、制御対象として選択する。なお、制御部150は、第1電子機器200の次に第2電子機器300が使われること(所定条件)を示す情報を、記憶部160から取得し、この情報に基づいて、第2電子機器300を制御対象とする前に、第1電子機器200を制御対象として選択してもよい。
制御部150は、画像候補を定めるための情報(図3を参照)を、記憶部160から取得する。制御部150は、制御対象として選択した第1電子機器200と、ユーザが第1状態であることとに基づいて、画像候補として画像候補400を定める。制御部150は、第1電子機器200を制御対象として選択したことに基づいて、表示させる画像を定めるための第1の情報(図4を参照)を、記憶部160から取得する。制御部150は、画像候補として定めた画像候補400と、第1電子機器200が第3状態であることとに基づいて、表示させる画像として非表面用アイコン画像401を定める。
表示させる画像として定めた非表面用アイコン画像401は、第1電子機器200の表面に表示させるための画像でない。このため、制御部150は、例えば、非表面用アイコン画像401がユーザ10の足元の床面に表示されるように、出力部170を制御する。ここで、制御部150は、ユーザの属性情報(図2を参照)を参照し、ユーザ10の属性情報を取得する。制御部150は、ユーザ10が右利きであるため、ユーザ10の足元の右側に、非表面用アイコン画像401を表示させるようにしてもよい。
出力部170は、非表面用アイコン画像401を表示させるための光を、ユーザ10の足元の床面に照射する。ユーザ10は、非表面用アイコン画像401が表示されている床面を足で触れることで、非表面用アイコン画像401に対応付けられた制御情報を選択する。撮像部110は、ユーザ10が非表面用アイコン画像401を足で触れている状態を撮像したとする。選択認識部180は、非表面用アイコン画像401に対応付けられた制御情報を示す信号を、通信部190に出力する。通信部190は、非表面用アイコン画像401に対応付けられた制御情報を、第1電子機器200に送信する。第1電子機器200は、非表面用アイコン画像401に対応付けられた制御情報を受信し、受信した制御情報に基づいて動作する。
図8には、電子制御装置の第2の動作例が示されている。この第2の動作例は、第1の動作例(図7を参照)に続けて実行されてもよい。図8では、ユーザ10は、洗剤を持っている(第2状態)。また、ユーザ10は、第1電子機器200からX2[m]の位置、且つ、第2電子機器300からY2[m]の位置にいる。また、第1電子機器200の蓋は、閉まっている。
撮像部110(図1を参照)は、周囲を撮像する。この撮像された画像には、ユーザ10と、第1電子機器200(洗濯機)と、第2電子機器(乾燥機)とが、撮像されているものとする。
ユーザ認識部130は、ユーザ10を認識したことを示す信号を、制御部150に出力する。また、ユーザ認識部130は、第1電子機器200からユーザ10までの距離がX2[m]であることを示す信号と、第2電子機器300からユーザ10までの距離がX2より長いY2[m]であることを示す信号とを、制御部150に出力する。また、ユーザ認識部130は、ユーザ10が洗剤を持っている(図3に示す第2状態であること)を示す信号を、制御部150に出力する。
機器認識部140は、撮像された画像を示す信号に基づいて、第1電子機器200の蓋が閉まっていること(図4に示す第4状態であること)を認識し、第1電子機器200の蓋が閉まっていることを示す信号を、制御部150に出力する。また、自機器の状態を示す通信情報を第1電子機器200が通信部190に送信することにより、機器認識部140は、通信部190が受信したこの通信情報を示す信号に基づいて、第1電子機器200の蓋が閉まっていることを認識してもよい。
制御部150は、第1電子機器200からユーザ10までの距離がX2[m]であることを示す信号と、第2電子機器300からユーザ10までの距離がX2より長いY2[m]であることを示す信号とに基づいて、ユーザ10との距離がより短い第1電子機器200を、制御対象として選択する。なお、制御部150は、第1電子機器200の次に第2電子機器300が使われること(所定条件)を示す情報を、記憶部160から取得し、この情報に基づいて、第2電子機器300を制御対象とする前に、第1電子機器200を制御対象として選択してもよい。
制御部150は、画像候補を定めるための情報(図3を参照)を、記憶部160から取得する。制御部150は、制御対象として選択した第1電子機器200と、ユーザが第2状態であることとに基づいて、画像候補として画像候補410を定める。制御部150は、第1電子機器200を制御対象として選択したことに基づいて、表示させる画像を定めるための第1の情報(図4を参照)を、記憶部160から取得する。制御部150は、画像候補として定めた画像候補410と、第1電子機器200が第4状態であることとに基づいて、表示させる画像として、表面用アイコン画像412及び413を定める。
表示させる画像として定めた表面用アイコン画像412及び413は、第1電子機器200の表面に表示させるための画像である。このため、制御部150は、表面用アイコン画像412及び413が第1電子機器200の表面に表示されるように、出力部170を制御する。ここで、制御部150は、ユーザの属性情報(図2を参照)を参照し、ユーザ10の属性情報を取得する。制御部150は、ユーザ10が右利きであるため、第1電子機器200の表面における、ユーザ10にとって右側に、表面用アイコン画像412及び413を表示させるようにしてもよい。
出力部170は、表面用アイコン画像412及び413を表示させるための光を、第1電子機器200の表面に照射する。ユーザ10は、表面用アイコン画像412が表示されている表面、又は、表面用アイコン画像413が表示されている表面に対して、所定の選択動作をすることで、その所定の選択動作の対象となった表面用アイコン画像412又は413に対応付けられた制御情報を選択する。撮像部110は、ユーザ10が表面用アイコン画像413を手で触れている状態を撮像したとする。選択認識部180は、表面用アイコン画像413に対応付けられた制御情報を示す信号を、通信部190に出力する。通信部190は、表面用アイコン画像413に対応付けられた制御情報を、第1電子機器200に送信する。第1電子機器200は、表面用アイコン画像413に対応付けられた制御情報を受信し、受信した制御情報に基づいて動作する。
図9には、撮像されたアイコン画像の例が示されている。選択認識部180は、制御情報に対応付けられた画像を介してユーザが選択した制御情報を、撮像されたユーザの画像に基づいて認識する。図9では、選択認識部180は、表面用アイコン画像413を介してユーザ10が選択した制御情報を、撮像されたユーザ10の画像に基づいて認識する。
図9では、ユーザ10は、表面用アイコン画像413を介して制御情報を選択するために、表面用アイコン画像413が表示されている表面に対して、所定の選択動作をしたとする。ここで、所定の選択動作とは、例えば、アイコン画像が表示されている位置を触れているように、電子制御装置100に対して見せる動作をユーザがとることで、そのアイコン画像に対応付けられた制御情報をユーザが選択する動作である。例えば、ユーザは、撮像部110が撮像した画像において、ユーザの手の見かけ上の大きさを所定量以上に変化させることで、アイコン画像が表示されている位置にユーザの手が触れているように見せてもよい。選択認識部180は、このような選択動作の対象となったアイコン画像に基づいて、そのアイコン画像に対応付けられた制御情報、つまり、ユーザが選択した制御情報を認識してもよい。
図10には、電子制御装置の第3の動作例が示されている。この第3の動作例は、第2の動作例(図8を参照)に続けて実行されてもよい。図10では、ユーザ10は、手に何も持っていない(第3状態)。また、第2電子機器300の蓋は、閉まっている。撮像部110(図1を参照)は、周囲を撮像する。この撮像された画像には、ユーザ10と、第1電子機器200(洗濯機)と、第2電子機器(乾燥機)とが、撮像されているものとする。
ユーザ認識部130は、ユーザ10を認識したことを示す信号を、制御部150に出力する。また、ユーザ認識部130は、第1電子機器200からユーザ10までの距離がX3[m]であることを示す信号と、第2電子機器300からユーザ10までの距離がX3より短いY3[m]であることを示す信号とを、制御部150に出力する。また、ユーザ認識部130は、ユーザ10が手に何も持っていない(図3に示す第3状態であること)を示す信号を、制御部150に出力する。
機器認識部140は、撮像された画像を示す信号に基づいて、第2電子機器300の蓋が閉まっていること(図5に示す第6状態であること)を認識し、第2電子機器300の蓋が閉まっていることを示す信号を、制御部150に出力する。また、自機器の状態を示す通信情報を第2電子機器300が通信部190に送信することにより、機器認識部140は、通信部190が受信したこの通信情報を示す信号に基づいて、第2電子機器300の蓋が閉まっていることを認識してもよい。
制御部150は、第1電子機器200の次に第2電子機器300が使われること(所定条件)を示す情報を、記憶部160から取得するともに、第1電子機器200の動作が完了したことを示す情報を、通信部190を介して第1電子機器200から取得する。そして、これらの情報に基づいて、第1電子機器200を制御対象とした次に、第2電子機器300を制御対象として選択する。なお、制御部150は、この所定条件に加えて、電子機器からユーザ10までの距離に関する条件を組み合わせて、制御対象の電子機器を選択してもよい。例えば、第1電子機器200からユーザ10までの距離が、第2電子機器300からユーザ10までの距離よりも短く、それらの距離の差が予め定められた値よりも大きい場合、制御部150は、たとえ、第1電子機器200の動作が完了していても、距離に関する条件を優先させて、第1電子機器200を制御対象として選択する。
制御部150は、画像候補を定めるための情報(図3を参照)を、記憶部160から取得する。制御部150は、制御対象として選択した第2電子機器300と、ユーザが第3状態であることとに基づいて、画像候補として画像候補450を定める。制御部150は、第2電子機器300を制御対象として選択したことに基づいて、表示させる画像を定めるための第2の情報(図5を参照)を、記憶部160から取得する。制御部150は、画像候補として定めた画像候補450と、第2電子機器300が第6状態であることとに基づいて、表示させる画像として、表面用アイコン画像442を定める。
表示させる画像として定めた表面用アイコン画像442は、第2電子機器300の表面に表示させるための画像である。このため、制御部150は、表面用アイコン画像442が第2電子機器300の表面に表示されるように、出力部170を制御する。ここで、制御部150は、ユーザの属性情報(図2を参照)を参照し、ユーザ10の属性情報を取得する。制御部150は、ユーザ10が右利きであるため、第2電子機器300の表面における、ユーザにとっての右側に、表面用アイコン画像442を表示させるようにしてもよい。
出力部170は、表面用アイコン画像442を表示させるための光を、第2電子機器300の表面に照射する。ユーザ10は、表面用アイコン画像442が表示されている表面に対して、所定の選択動作をすることで、その所定の選択動作の対象となった表面用アイコン画像442に対応付けられた制御情報を選択する。撮像部110は、ユーザ10が表面用アイコン画像442を手で触れている状態を撮像したとする。選択認識部180は、表面用アイコン画像442に対応付けられた制御情報を示す信号を、通信部190に出力する。通信部190は、表面用アイコン画像442に対応付けられた制御情報を、第2電子機器300に送信する。第2電子機器300は、表面用アイコン画像442に対応付けられた制御情報を受信し、受信した制御情報に基づいて動作する。
次に、画像を表示させるための動作手順例を説明する。
図11は、画像を表示させるための動作手順例を示すフローチャートである。
(ステップS1)ユーザ認識部130は、撮像された画像を示す信号、及び、センシング結果を示す信号の少なくとも一方に基づいて、ユーザの位置及び状態を認識する。
(ステップS2)制御部150は、ユーザの属性情報(図2を参照)を、記憶部160から取得する。
(ステップS3)制御部150は、ユーザの位置、又は、予め定められた条件に基づいて、電子機器を選択する。例えば、制御部150は、ユーザからより近い電子機器を、制御対象として選択する。
(ステップS4)機器認識部140は、制御部150により選択された電子機器の状態を認識する。
(ステップS5)制御部150は、ユーザの状態、及び、選択された電子機器(図3を参照)に基づいて、表示させる画像の候補を選択する。ここで、画像情報は、記憶部160に記憶されていてもよい。
(ステップS6)制御部150は、選択された電子機器の状態に基づいて、画像の候補から画像を選択する(図4又は図5を参照)。
(ステップS7)制御部150は、選択された画像が表面用であるか否かを判定する。選択された画像が表面用である場合(ステップS7:Yes)、制御部150は、ステップS8に処理を進める。一方、選択された画像が表面用でない場合(ステップS7:No)、制御部150は、ステップS9に処理を進める。
(ステップS8)制御部150は、選択された画像を表示させるための光を、選択された電子機器の表面の空き空間に、ユーザの属性に基づいて照射するよう(例えば、ユーザが右利きである場合、ユーザにとって右側に照射するよう)、出力部170を制御する。
(ステップS9)制御部150は、選択された画像を表示させるための光を、所定位置に、ユーザの属性に基づいて照射するよう、出力部170を制御する。
表示されたガイダンス画像は、ユーザに操作を案内する。また、表示されたアイコン画像は、ユーザによる操作により選択される。選択認識部180は、ユーザにより選択された画像に対応付けられた制御情報を、制御部150により選択された電子機器に対し、通信部190を介して送信する。
以上のように、電子制御装置100は、ユーザを撮像する撮像部110と、ユーザに関する情報(例えば、ユーザの位置、ユーザの状態)を認識するユーザ認識部130と、電子機器に関する情報(例えば、電子機器の位置、状態(動作状況等)、及び機能)を認識する機器認識部140と、ユーザに関する情報、及び、電子機器に関する情報の少なくとも一方に基づいて、電子機器を制御するための制御情報と、制御情報に対応付けられた画像の表示位置と、を定める制御部150と、制御部150により定められた表示位置に、制御情報に対応付けられた画像(例えば、アイコン画像、ガイダンス画像)を出力する出力部170と、を備える。
また、制御方法は、電子制御装置100における制御方法であって、ユーザを撮像する工程と、ユーザに関する情報を認識する工程と、電子機器に関する情報を認識する工程と、ユーザに関する情報、及び、電子機器に関する情報の少なくとも一方に基づいて、電子機器を制御するための制御情報と、制御情報に対応付けられた画像の表示位置と、を定める工程と、制御部により定められた表示位置に、画像を出力する工程と、を有する。
また、制御プログラムは、コンピュータに、ユーザを撮像する手順と、ユーザに関する情報を認識する手順と、電子機器に関する情報を認識する手順と、ユーザに関する情報、及び、電子機器に関する情報の少なくとも一方に基づいて、電子機器を制御するための制御情報を定める手順と、ユーザに関する情報、及び、電子機器に関する情報の少なくとも一方に基づいて、位置を定める手順と、定められた位置に、制御情報に対応付けられた画像を出力する手順と、を実行させる。
この構成により、制御部150は、ユーザに関する情報、及び、電子機器に関する情報の少なくとも一方に基づいて、電子機器を制御するための制御情報と、制御情報に対応付けられた画像の表示位置と、を定める。出力部170は、制御部150により定められた表示位置に、制御情報に対応付けられた画像を出力する。これにより、電子制御装置100、制御方法及び制御プログラムは、操作性が高い。
つまり、電子制御装置100、制御方法及び制御プログラムは、電子機器を操作する都度、アプリケーションを起動する必要がなく、操作性が高い。また、電子制御装置100、制御方法及び制御プログラムは、表示可能な範囲内であれば表示領域の大きさが制限されないので、表示部に表示された画像のページを送るなどの操作が不要であり、操作性が高い。また、電子制御装置100、制御方法及び制御プログラムは、ガイダンス画像(操作等を案内するための画像)を電子機器に直接表示することができるので、ユーザにとって分かり易く表示することができる。また、電子制御装置100、制御方法及び制御プログラムは、制御情報を選択するための画像、すなわち、電子機器を操作するためのアイコン画像(操作キー画像)を、必要に応じて、適切な位置及び大きさで、所定の位置に選択可能に表示させる。これにより、電子制御装置100、制御方法及び制御プログラムは、操作性及び利便性が高い。また、ユーザは、電子機器を直感的に操作することができる。
また、制御部150は、ユーザに関する情報に基づいて表示位置(例えば、ユーザの近くの電子機器の表面における位置、ユーザの近くの床面における位置)を定め、出力部170は、制御情報に対応付けられた画像を表示させるための光を、表示位置に照射(投射)してもよい。
つまり、出力部170は、電子機器の動作状況(機能的な状況、物理的な状況)に関連する行動をユーザがとる際、制御情報に対応付けられた画像(アイコン画像又はガイダンス画像)を、そのユーザの周囲に表示させてもよい。
これにより、出力部170は、ユーザが、電子機器の動作状況に関連する予め定められた行動をとる際に、必要に応じて、制御情報に対応付けられた画像を表示させることができる。制御部150は、制御情報に対応付けられた画像を表示させる位置を、ユーザの位置、行動及び状態に応じて定めることができる。例えば、出力部170は、ユーザが洗濯かごを両手で持っている場合、制御情報に対応付けられた画像を、床面に表示させることができる。また、例えば、出力部170は、ユーザが右利きの場合、制御情報に対応付けられた画像を、ユーザの右側に表示させることができる。
また、制御部150は、電子機器から所定の距離内にユーザが位置している場合、電子機器に関する情報に基づいて表示位置を定め、出力部170は、制御情報に対応付けられた画像を表示させるための光を、電子機器に関する情報に基づいて定められた表示位置に、照射してもよい。
つまり、出力部170は、ユーザが電子機器の近くに位置する場合、制御情報に対応付けられた画像を、そのユーザの周囲に表示させてもよい。例えば、近づいて使用する電子機器(例えば、洗濯機、乾燥機、冷蔵庫又は電子レンジ)をユーザが操作する場合、当該電子機器にユーザが近づいたことをユーザ認識部130が認識した際に、出力部170は、制御情報に対応付けられた画像を表示させることができる。
また、出力部170は、制御情報に対応付けられた画像を表示させるための光を、電子機器の表面に照射してもよい。
また、機器認識部140は、撮像部110により撮像された画像に基づいて、電子機器に関する情報を取得してもよい。また、機器認識部140は、通信部190による通信に基づいて、電子機器に関する情報を取得してもよい。機器認識部140は、センサ部120がセンシングした結果に基づいて、電子機器に関する情報を取得してもよい。
また、機器認識部140は、電子機器の表面の形状を認識し、その表面の空き空間(例えば、画像を表示させるのに適した平面空間)の位置に、制御情報に対応付けられた画像を表示させてもよい。これにより、出力部170は、制御情報に対応付けられた画像を電子機器の表面に表示させることで、どの電子機器を操作しているのかを、ユーザに明確に判らせることができる。また、出力部170は、アイコン画像及びガイダンス画像を空き空間に表示させるので、アイコン画像及びガイダンス画像の視認性と操作性とを向上させることができる。
また、機器認識部140は、電子機器に関する情報に基づいて、電子機器の表面における空き空間を認識し、制御部150は、空き空間の所定領域に表示位置を定め、出力部170は、制御情報に対応付けられた画像を表示させるための光を、空き空間の所定領域に定められた表示位置に照射してもよい。
つまり、出力部170は、制御情報に対応付けられた画像を、空き空間のほぼ全てを占めるような大きさで、表示させてもよい。出力部170は、制御情報に対応付けられた画像を可能な限り大きく表示させるので、ユーザは当該画像を見やすく、電子機器を操作しやすい。
また、制御部150は、予め定められた操作手順に基づいて表示位置を定め、出力部170は、制御情報に対応付けられた画像を表示させるための光を、予め定められた操作手順に基づいて定められた表示位置に照射してもよい。また、出力部170は、電子機器の動作状況に応じて、ユーザが次に操作すべきアイコン画像(操作キー)の位置、及び、操作内容を案内するためのガイダンス画像のうち、少なくとも一方を、電子機器の表面における、操作すべき実際の位置に重畳して表示させてもよい。
電子機器の表面にガイダンス画像を、出力部170が表示させるので、これにより、制御部150は、電子機器の操作手順及び操作内容を、ユーザに直感的に理解させることができる。例えば、洗濯機の蓋が開いている状態、且つ、その洗濯機にユーザが近づいた場合、出力部170は、洗剤の投入位置を表す画像、及び、洗剤の量を表す画像のうち、少なくとも一方を、洗剤の実際の投入位置に重畳して表示させる。ガイダンス画像は、洗剤の実際の投入位置の近傍で読みやすい所定位置に表示されてもよい。また、出力部170は、洗剤の投入位置を表す画像、及び、洗剤の量を表す画像のうち少なくとも一方を、例えば、ハイライト、輪郭強調、又は矢印により表示させてもよい。通信部190は、洗濯物の量を示す情報を、洗濯機から通信により取得してもよい。
また、制御部150は、電子機器が複数である場合、第1の電子機器に関する情報に基づいて、第2の電子機器を制御するための制御情報を定め、出力部170は、制御部150により定められた第2の電子機器を制御するための制御情報に対応付けられた画像を出力してもよい。
つまり、機器認識部140は、複数の電子機器(例えば、洗濯機及び乾燥機)の動作状況を認識し、これら複数の電子機器の一方の動作(例えば、洗濯及び脱水の完了)に関連した他方の動作(例えば、乾燥の開始)を制御するための制御情報に対応付けられた画像を、表示させてもよい。複数の電子機器を連動させることで、電子制御装置100は、より利便性を向上させることができる。
また、制御情報に対応付けられた画像は、電子機器(第1電子機器200、第2電子機器300)の操作を示す画像でもよい。
また、電子制御装置100は、制御情報に対応付けられた画像を介してユーザが選択した制御情報を、撮像されたユーザの画像に基づいて認識する選択認識部180と、選択認識部180により認識された制御情報を、電子機器(第1電子機器200、第2電子機器300)に通信する通信部190と、をさらに備えてもよい。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
例えば、電子機器が電子レンジである場合、制御対象として選択された電子レンジ、及び、ユーザの状態(例えば、ユーザが皿を持った状態)には、画像候補が対応付けられてもよい。出力部170は、加熱時間を案内するためのガイダンス画像を、電子レンジの表面に表示させてもよい。
また、例えば、電子機器は、産業用の製造装置でもよい。例えば、産業用の大型の製造装置を駆動させるためにユーザが移動する必要がある場合、電子制御装置100は、ユーザの位置及び状態と、製造装置の状態とに基づいて、画像を表示させてもよい。また、例えば、産業用の複数の製造装置が連動する製造ラインを駆動させるためにユーザが移動する必要がある場合、電子制御装置100は、ユーザの位置及び状態と、複数の製造装置の状態とに基づいて、画像を表示させてもよい。
なお、上記に説明した電子制御装置を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、実行処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバーやクライアントとなるコンピュータシステム内部の揮発性メモリーのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
10…ユーザ、100…電子制御装置、110…撮像部、120…センサ部、130…ユーザ、認識部、140…機器認識部、150…制御部、160…記憶部、170…出力部、180…選択認識部、190…通信部、200…第1電子機器、300…第2電子機器、C1…撮像照射装置、C131…入出光分離部、C132…光学部、C140…反射部

Claims (11)

  1. ユーザを撮像する撮像部と、
    前記ユーザに関する情報を認識するユーザ認識部と、
    電子機器に関する情報を認識する機器認識部と、
    前記ユーザに関する情報、及び、前記電子機器に関する情報の少なくとも一方に基づいて、前記電子機器を制御するための制御情報と、前記制御情報に対応付けられた画像の表示位置と、を定める制御部と、
    前記制御部により定められた前記表示位置に、前記画像を出力する出力部と、
    を備え、
    前記ユーザに関する情報は、前記ユーザの状態を示す情報を含み、
    前記電子機器に関する情報は、前記電子機器の状態を示す情報を含み、
    前記制御部は、前記ユーザの状態と前記電子機器の状態とに基づいて前記制御情報と、前記制御情報に対応する前記画像の表示内容とを定める
    電子制御装置。
  2. 前記制御部は、前記ユーザに関する情報に基づいて前記表示位置を定め、
    前記出力部は、前記制御情報に対応付けられた画像を表示させるための光を、前記表示位置に照射する請求項1に記載の電子制御装置。
  3. 前記制御部は、前記電子機器から所定の距離内に前記ユーザが位置している場合、前記電子機器に関する情報に基づいて前記表示位置を定め、
    前記出力部は、前記制御情報に対応付けられた画像を表示させるための光を、前記表示位置に照射する請求項1又は請求項2に記載の電子制御装置。
  4. 前記出力部は、前記制御情報に対応付けられた画像を表示させるための光を、前記電子機器の表面に照射する請求項3に記載の電子制御装置。
  5. 前記機器認識部は、前記電子機器に関する情報に基づいて、前記電子機器の表面における空き空間を認識し、
    前記制御部は、前記空き空間の所定領域に前記表示位置を定め、
    前記出力部は、前記制御情報に対応付けられた画像を表示させるための光を、前記表示位置に照射する請求項4に記載の電子制御装置。
  6. 前記制御部は、予め定められた操作手順に基づいて前記表示位置を定め、
    前記出力部は、前記制御情報に対応付けられた画像を表示させるための光を、前記表示位置に照射する請求項3から請求項5のいずれか一項に記載の電子制御装置。
  7. 前記制御部は、前記電子機器が複数である場合、第1の前記電子機器に関する情報に基づいて、第2の前記電子機器を制御するための制御情報を定め、
    前記出力部は、前記制御部により定められた第2の前記電子機器を制御するための制御情報に対応付けられた画像を出力する請求項1から請求項6のいずれか一項に記載の電子制御装置。
  8. 前記制御情報に対応付けられた画像は、前記電子機器の操作を示す画像である請求項1から請求項7のいずれか一項に記載の電子制御装置。
  9. 前記制御情報に対応付けられた画像を介して前記ユーザが選択した前記制御情報を、撮像された前記ユーザの画像に基づいて認識する選択認識部と、
    前記選択認識部により認識された前記制御情報を、前記電子機器に通信する通信部と、
    をさらに備える請求項1から請求項8のいずれか一項に記載の電子制御装置。
  10. 電子制御装置における制御方法であって、
    ユーザを撮像する工程と、
    前記ユーザの状態を示す情報を含む前記ユーザに関する情報を認識する工程と、
    電子機器の状態を示す情報を含む前記電子機器に関する情報を認識する工程と、
    前記ユーザに関する情報に含まれる前記ユーザの状態を示す情報と前記電子機器に関する情報に含まれる前記電子機器の状態を示す情報とに基づいて、前記電子機器を制御するための制御情報と、前記制御情報に対応付けられた画像の表示位置と、前記画像の表示内容とを定める工程と、
    定められた前記表示位置に、前記画像を出力する工程と、
    を有する制御方法。
  11. コンピュータに、
    ユーザを撮像する手順と、
    前記ユーザの状態を示す情報を含む前記ユーザに関する情報を認識する手順と、
    電子機器の状態を示す情報を含む前記電子機器に関する情報を認識する手順と、
    前記ユーザに関する情報に含まれる前記ユーザの状態を示す情報と前記電子機器に関する情報に含まれる前記電子機器の状態を示す情報とに基づいて、前記電子機器を制御するための制御情報と、前記制御情報に対応付けられた画像の表示位置と、前記画像の表示内容とを定める手順と、
    定められた前記表示位置に、前記画像を出力する手順と、
    を実行させるための制御プログラム。
JP2013100140A 2013-05-10 2013-05-10 電子制御装置、制御方法及び制御プログラム Active JP6201408B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013100140A JP6201408B2 (ja) 2013-05-10 2013-05-10 電子制御装置、制御方法及び制御プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013100140A JP6201408B2 (ja) 2013-05-10 2013-05-10 電子制御装置、制御方法及び制御プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017166391A Division JP6500954B2 (ja) 2017-08-31 2017-08-31 電子制御装置、電子制御方法及び制御プログラム

Publications (2)

Publication Number Publication Date
JP2014219904A JP2014219904A (ja) 2014-11-20
JP6201408B2 true JP6201408B2 (ja) 2017-09-27

Family

ID=51938272

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013100140A Active JP6201408B2 (ja) 2013-05-10 2013-05-10 電子制御装置、制御方法及び制御プログラム

Country Status (1)

Country Link
JP (1) JP6201408B2 (ja)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100231506A1 (en) * 2004-09-07 2010-09-16 Timothy Pryor Control of appliances, kitchen and home
JP4563863B2 (ja) * 2005-05-12 2010-10-13 クリナップ株式会社 システムキッチン
JP4907483B2 (ja) * 2007-09-28 2012-03-28 パナソニック株式会社 映像表示装置
JP2009223490A (ja) * 2008-03-14 2009-10-01 Shimizu Corp 仮想スイッチならびにそれを用いた家電制御システムおよび家電制御方法
CN101874234B (zh) * 2008-09-29 2014-09-24 松下电器产业株式会社 用户接口装置、用户接口方法、以及记录媒体
JP2011059194A (ja) * 2009-09-07 2011-03-24 Sharp Corp 制御装置、画像形成装置、画像形成装置の制御方法、プログラムおよび記録媒体
JP5728009B2 (ja) * 2010-06-17 2015-06-03 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 指示入力装置、指示入力方法、プログラム、記録媒体および集積回路
JP5845783B2 (ja) * 2011-09-30 2016-01-20 カシオ計算機株式会社 表示装置、表示制御方法及びプログラム

Also Published As

Publication number Publication date
JP2014219904A (ja) 2014-11-20

Similar Documents

Publication Publication Date Title
JP5743416B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US20180203518A1 (en) Control of a real world object user interface
KR101896947B1 (ko) 제스쳐를 이용한 입력 장치 및 방법
JP6131540B2 (ja) タブレット端末、操作受付方法および操作受付プログラム
JP5802667B2 (ja) ジェスチャ入力装置およびジェスチャ入力方法
US8823642B2 (en) Methods and systems for controlling devices using gestures and related 3D sensor
JP6041016B2 (ja) 眼鏡型端末
KR20170026164A (ko) 가상 현실 디스플레이 장치 및 그 장치의 표시 방법
JP6689559B2 (ja) 画像投影装置、システム、画像投影方法およびプログラム
US20090251559A1 (en) User interface system based on pointing device
US20130077831A1 (en) Motion recognition apparatus, motion recognition method, operation apparatus, electronic apparatus, and program
TWI559174B (zh) 以手勢爲基礎之三維影像操控技術
JP6439806B2 (ja) ロボット装置及びプログラム
CN111344663A (zh) 渲染装置及渲染方法
CN107528873B (zh) 智能家电的控制系统及虚拟现实投影装置
JP6714632B2 (ja) 情報表示端末及び情報表示方法
JP6201408B2 (ja) 電子制御装置、制御方法及び制御プログラム
JP6500954B2 (ja) 電子制御装置、電子制御方法及び制御プログラム
US10310676B2 (en) Image projection apparatus and operation method thereof
JP6801329B2 (ja) 画像形成装置、情報処理装置及び情報処理システム
US20160309312A1 (en) Information processing device, information processing method, and information processing system
KR102360628B1 (ko) 영상 투사 장치 및 그의 동작 방법
JP2011158959A (ja) 電子マニュアル表示装置
JP5676959B2 (ja) 情報処理装置及びその制御方法
JP6721024B2 (ja) 情報処理装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160407

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170403

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170801

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170814

R150 Certificate of patent or registration of utility model

Ref document number: 6201408

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250