JP2007329823A - 機器制御システムおよび機器制御方法 - Google Patents

機器制御システムおよび機器制御方法 Download PDF

Info

Publication number
JP2007329823A
JP2007329823A JP2006160944A JP2006160944A JP2007329823A JP 2007329823 A JP2007329823 A JP 2007329823A JP 2006160944 A JP2006160944 A JP 2006160944A JP 2006160944 A JP2006160944 A JP 2006160944A JP 2007329823 A JP2007329823 A JP 2007329823A
Authority
JP
Japan
Prior art keywords
image data
similarity
reference image
comparison
control system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Abandoned
Application number
JP2006160944A
Other languages
English (en)
Other versions
JP2007329823A5 (ja
Inventor
Naoto Kaneshiro
金城  直人
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2006160944A priority Critical patent/JP2007329823A/ja
Publication of JP2007329823A publication Critical patent/JP2007329823A/ja
Publication of JP2007329823A5 publication Critical patent/JP2007329823A5/ja
Abandoned legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Computer And Data Communications (AREA)
  • Television Signal Processing For Recording (AREA)
  • Selective Calling Equipment (AREA)
  • Image Analysis (AREA)

Abstract

【課題】住宅、または自動車内に設けられた電子機器または家庭用電化製品など各機器について、専用のセンサ類に頼ることなく、ユーザの好みに応じて、各機器の動作制御の内容を設定または変更を容易にできる機器制御システムおよび機器の動作の機器制御方法を提供する。
【解決手段】本発明の機器制御システムは、機器に設けられ、所定の空間領域を撮影し、撮影画像データを得るカメラと、撮影画像データを解析し、比較対象画像データを作成する撮影画像解析部と、比較対象画像データと比較される参照画像データ、ならびに比較対象画像データと参照画像データとの類似度に基づく機器の動作条件、および機器の動作内容が登録される登録部と、類似度を算出する比較部と、類似度の結果に応じて、動作内容に基づく制御信号を機器に出力し、動作内容の動作を機器に実行させる指示部とを有する。
【選択図】図2

Description

本発明は、電子機器または家庭用電化製品など各機器の動作制御を行う、機器制御システムおよび機器の動作の機器制御方法に関し、特に、電子機器または家庭用電化製品など各機器について、専用のセンサ類に頼ることなく、ユーザの好みに応じて、各機器の動作制御の内容を設定または変更を容易にできる機器制御システムおよび機器の動作の機器制御方法に関する。
現在、視聴者が家庭であるテレビ番組を鑑賞していて、風呂、トイレ等の用事でその場から席をはずし、場所を移動する必要が生じ、テレビ鑑賞を中断せざるを得ないような場合に、継続してその番組を見ようとすると、携帯テレビを持ち歩くか、その移動先のそれぞれの場所にテレビ受像機を備えておき、移動先のテレビ受像機のスイッチを入れ、今まで見ていた番組にチャンネルを合わせなければならない。
この場合、家庭内でどこへ移動してもテレビ番組を継続して見るために、携帯テレビを持ち歩いたりする方法では、常にこれらの端末装置等を持ち歩かなければならない。
また、家庭内で移動する先々の各場所にそれぞれテレビ受像機を設置する方法では、テレビ受像機の設置場所が必要であり、またいちいちそのテレビ受像機自体のスイッチを操作しなくてもよいようにするためには、やはりリモコンを持ち歩かなければならない。
そこで、従来、テレビ番組等の見たい情報をどこででも自動的に継続して見ることを可能とする画像表示方法が提案されている(例えば、特許文献1参照)。
特許文献1には、人物が視聴するための画像情報を複数の表示装置の表示画面に表示する画像表示方法が開示されている。この特許文献1においては、予め、登録モードとして、追尾表示の有無、継続表示の有無、人物同定の有無および停止条件設定の少なくとも2つの選択項目の組み合せからなる表示モードを設定することができ、設定された登録モードに応じて、複数の表示装置の表示画面への画像情報の表示を制御することができる。
この構成により、特許文献1においては、家庭内において、ある人物が場所限定追尾モードを指定した場合、最初居間において、ある人物が場所限定追尾モードを指定して、テレビを見ていたとする。表示内容が場面N3のときに、その人物が席を立ち、トイレへ行くために居間を離れ、人物センサがそれを検知し、パソコンサーバがその人物を識別すると、パソコンサーバは、その時の表示場面N3を、自動的に記録する。その人物がトイレに行っている間は、表示が中断され、その間に放映される内容は、データ蓄積機能によって記憶される。
その人物が居間に戻り、人物センサによりその人物がテレビの鑑賞可能エリア内に入ったことが検出されると、パソコンサーバの指示により、記憶、蓄積されていたデータを、先程の続きの場面N4から継続してテレビに表示させることができる。
特許文献1においては、上述のような画像表示制御がなされている。しかし、特許文献1以外にも、従来、種々の画像表示制御方法が開示されている(例えば、特許文献2および特許文献3参照)。
特許文献2には、視聴者を認識し、視聴者に応じた動作を行うことができるもの認識機能付表示装置が開示されている。この特許文献2においては、家庭でテレビ放送等を鑑賞していて、テレビを視聴している視聴者に応じて、ある特定のシーンの画像は、見せないようにするなどの視聴制限をすることができる。
また、特許文献3には、視聴者の好み、感性に沿った再生を行うことができる映像再生装置が開示されている。この特許文献3においては、視聴者の視聴する視聴動作により、表示される映像の表示位置および表示画角を制御することができる。
特開2003−195845号公報 特開2001−016514号公報 特開平10−243383号公報
しかしながら、特許文献1においては、人物が場所を移動した場合において、表示画面への画像情報の表示を制御することができるものの、表示装置の動作そのものを、設定または変更することができるものではない。
また、特許文献2においては、テレビを視聴している視聴者に応じて、ある特定のシーンの画像は、見せないようにするなどの視聴の禁止制限をすることができるものの、それ以外には変更できず、また、テレビの電源を切るなどの動作制御を設定することができない。
さらに、特許文献3においても、視聴者の視聴する視聴動作により、表示される映像の表示位置および表示画角を制御することができるものの、それ以外には、テレビの電源を切るなどの動作制御を設定することができない。
このように、特許文献1〜特許文献3のいずれにおいても、視聴者が、テレビの電源を切るなどの動作制御を設定すること、または動作制御の内容を変更することができないという問題点がある。
本発明の目的は、従来技術の問題点を解決することにあり、住宅、または自動車内に設けられた電子機器または家庭用電化製品など各機器について、専用のセンサ類に頼ることなく、ユーザの好みに応じて、各機器の動作制御の内容を設定または変更を容易にできる機器制御システムおよび機器の動作の機器制御方法を提供することにある。
目的達成するために、本発明の第1の態様は、機器に設けられ、所定の空間領域を撮影し、撮影画像データを得るカメラと、前記カメラにより得られた前記撮影画像データを解析し、比較対象画像データを作成する撮影画像解析部と、前記比較対象画像データと比較される参照画像データ、ならびに前記比較対象画像データと前記参照画像データとの類似度に基づく機器の動作条件、および機器の動作内容が登録される登録部と、前記参照画像データと前記比較対象画像データとの類似度を算出する比較部と、前記比較部による前記類似度の結果に応じて、前記動作内容に基づく制御信号を前記機器に出力し、前記動作内容の動作を前記機器に実行させる指示部とを有することを特徴とする機器制御システムを提供するものである。
本発明においては、前記指示部は、携帯情報通信端末または携帯電話に、文字を表示させる通知機能を有するものであり、前記動作内容は、前記携帯情報通信端末または前記携帯電話に所定の文章を表示させることであることが好ましい。
また、本発明においては、前記機器は、例えば、住宅に設けられた電子機器または家庭用電化製品である。
さらに、本発明においては、前記機器は、例えば、自動車に設けられた電子機器である。
さらにまた、本発明においては、前記機器は、複数設けられていることが好ましい。
また、本発明の第2の態様は、機器に設けられたカメラにより得られた撮影画像データから比較対象画像データを作成し、前記比較対象画像データと比較される参照画像の参照画像データ、前記参照画像データと前記比較対象画像データとの類似度に応じた前記機器の動作条件、および前記機器の動作内容を予め登録しておいて、機器に所定の動作を行わせる機器制御方法であって、前記カメラによる前記撮影画像データを取得する工程と、前記撮影画像データを解析し、前記比較対象画像データを作成する工程と、前記参照画像データと前記比較対象画像データとの類似度を算出する工程と、前記類似度の結果に応じて、前記動作内容に基づく制御信号を前記機器に出力し、前記動作内容の動作を前記機器に実行させる工程とを有することを特徴とする機器制御方法を提供するものである。
本発明の第1の態様の機器制御システム、および第2の態様の機器制御方法によれば、登録部に、動作条件の基準となる参照画像の参照画像データと、この参照画像データに応じた動作条件および動作内容を予め登録しておき、この参照画像データと、機器に設けられたカメラにより得られた撮影画像データを解析して得られた比較対象画像データとの類似度を算出し、この類似度に基づく予め登録した機器の動作条件、および機器の動作内容で、機器に所定の動作を行わせることができる。このため、ユーザが参照画像データを登録し、機器の動作条件、および機器の動作内容を設定することにより、機器の制御を特定のセンサを用いることなく設定することができる。これにより、機器制御における操作性を高くでき、各種の機器を容易に扱うことができる。
また、ユーザが設定した参照画像データと、比較対象画像データとの類似度を求めるため、類似度の計算精度を高くすることもできる。さらには、ユーザが設定した参照画像データと、比較対象画像データとの類似度を求めるため、汎用的なパターン認識のアルゴリズムが不要であり、ハードウエア構成を簡素化でき、コストダウンを図ることができる。
以下、本発明の機器制御システムおよび機器制御方法について、添付の図面に示される好適実施例を基に、詳細に説明する。
まず、本発明の機器制御システムの第1の実施例について説明する。
ここで、図1は、本発明の第1の実施例の機器制御システムが設けられた住宅を示す模式図であり、図2は、本発明の機器制御システムの第1の実施例の概略構成を示す模式的ブロック図である。
第1の実施例の機器制御システム20は、住宅10に設けられたテレビ50、外部記録再生装置52、冷蔵庫54および調理器56などの種々の家庭用電化製品を制御するものである。
図1に示すように、住宅10は、2つの部屋12a、12bと、リビング14と、キッチン16とを有する。リビング14にテレビ50が設けられており、このテレビ50には、外部記録再生装置52が接続されている。さらに、キッチン16に冷蔵庫54および調理器56が設けられている。
図2に示すように、機器制御システム20は、基本的に、サーバ22と、カメラ24a、24b、24cと、入力装置40とを有する。このサーバ22に、カメラ24a、24b、24cおよび入力装置40が接続されている。
カメラ24aは、テレビ50に取り付けられている。また、カメラ24bは、冷蔵庫54の内部に取り付けられている。さらに、カメラ24cは、調理器56の上方に取り付けられている。
また、本実施例においては、機器制御システム20のサーバ22は、テレビ50、外部記録再生装置52、冷蔵庫54および調理器56に接続されており、さらには、サーバ22は、通信端末機器58に接続されている。
サーバ22は、撮影画像解析部30、登録部32、比較部34、指示部36、および制御部38を有する。
撮影画像解析部30は、カメラ24a、24b、24cにより得られた撮影画像データ(デジタルデータ)について、人物などの被写体を抽出し、種々の画像処理を施して、比較対象画像データを作成するものである。
この比較対象画像データは、後述するように、登録部32に登録された参照画像データと比較されるものであり、比較部34に出力される。
撮影画像解析部30における画像解析は、制御対象機器毎に設定することができる。例えば、撮影画像解析部30においては、カメラ24a、24b、24cが取り付けられた機器を登録し、各カメラ24a、24b、24cから出力された撮影画像データ毎に異なる画像処理をしてもよい。
登録部32は、比較対象画像データと比較される参照画像データ、ならびに比較対象画像データと参照画像データとの類似度に基づく機器の動作条件、および機器の動作内容が登録されるものである。この登録部32には入力装置40が接続されている。
この入力装置40は、例えば、キーボード、マウス、またはペンタイプの入力機器を備えるパーソナルコンピュータである。
本実施例において、登録部32に参照画像の参照画像データを登録する場合、CD−R、CD−RW、もしくはDVD、または各種のメモリカードなどの記録媒体に記録された参照画像の参照画像データを、入力装置40を用いて登録部32に登録するとともに、この参照画像の参照画像データと比較される比較対象画像データとの類似度に基づく機器の動作条件、および機器の動作内容も入力装置40を用いて入力する。登録部32においては、参照画像の参照画像データ毎に機器の動作条件、および機器の動作内容が記憶される。
機器の動作条件とは、例えば、比較対象画像データと参照画像データとの類似度について点数を設定し、この設定した類似度の点数よりも類似度が高いか、または類似度が低い場合に、設定した機器の動作内容を実行させる閾値のことである。
機器の動作内容とは、機器に実行させる動作のことであり、例えば、テレビの電源のオンもしくはオフ、テレビ番組の録画、通信端末機器58を介したユーザへの通知、または調理器の制御などである。この動作内容は、特に限定されるものではなく、サーバ22に接続される機器に応じて適宜設定することができるものである。
また、登録部32においては、各機器毎に、参照画像(参照画像データ)を登録し、各参照画像に対して同動作条件および動作内容を登録することができる。このため、1つの機器に対して、複数の動作条件を設定し、動作条件毎に動作内容を設定することができる。
また、登録部32に参照画像の参照画像データを登録する場合、入力装置40により、カメラ24a、24b、24cで撮影されたものの中から、参照画像(参照画像データ)を選択することもできる。
さらには、登録部32において、参照画像となるコンピュータグラフィックによる画像(以下、CG画像という)を複数記憶しておき、これらのCG画像の中から、入力装置40により、参照画像を選択し、登録部32に参照画像データとして登録できるようにしてもよい。
比較部34は、撮影画像解析部30で画像解析されて得られた比較対象画像データと参照画像データとを比較して、類似度を算出するものである。さらに、この比較部34は、算出された類似度が、設定された点数に適合するか否かを判定するものである。すなわち、動作条件に適合するか否かが判定される。比較部34は、この判定結果を指示部36に出力する。
例えば、比較部34において、比較対象画像データと、参照画像データとの類似度の算出には、テンプレートマッチング、または構造マッチングが用いられる。
指示部36は、比較部34による比較対象画像データと参照画像データとの比較の結果、類似度の点数が機器の動作条件に適合する場合には、登録部32に記憶された機器の動作内容を参照して、この機器の動作内容に基づく動作を機器に実行させるための制御指示を制御信号として機器に出力するものである。
制御部38は、撮影画像解析部30、登録部32、比較部34および指示部36を制御するものである。
カメラ24aは、図3に示すように、撮像部60と、送信部62と、アンテナ64と、バッテリ66とを有するものである。
撮像部60は、レンズ(図示せず)と、例えば、CCDイメージセンサまたはCMOSイメージセンサを備える撮像素子(図示せず)と、この撮像素子により、得られた被写体の撮影画像データ(アナログデータ)をデジタルデータに変換するA/D変換素子(図示せず)とを有する。このカメラ24aにおいては、撮像部60を向けた方向が撮影領域となる。
カメラ24aの撮像部60で得られた被写体の撮影画像データ(デジタルデータ)は、送信部62に出力される。
送信部62は、撮像部60で得られた被写体の撮影画像データ(デジタルデータ)を、アンテナ64を介して、サーバ22の撮影画像解析部30に送信するものである。
バッテリ66は、撮像部60および送信部62に動作電力を供給するものである。このバッテリ66は、例えば、電池が用いられる。
なお、カメラ24b、24cは、カメラ24aと同様の構成であるため、その詳細な説明は省略する。
また、カメラ24a、24b、24cは、無線式のものとしたが、本発明は、これに限定されるものではなく、送信部62およびアンテナ64を設けることなく、撮像部60に撮影画像データを出力するための信号線を取り付けた有線式でもよい。
次に、本実施例の機器制御システム20による機器制御方法について説明する。
ここで、図4は、本実施例の機器制御システムによる機器制御方法を示すフローチャートである。
本実施例の機器制御システム20においては、まず、カメラ24aによる撮影画像データがサーバ22(撮影画像解析部30)に入力され、撮影画像データを取得する(ステップS10)。
次に、撮影画像解析部30において、撮影画像データについて被写体が抽出され、さらに種々の画像解析がされて、比較対象画像データが作成される。(ステップS12)。
次に、比較対象画像データが比較部34に出力される。次に、比較部34において、参照画像データと比較対照画像データ(撮影画像データ)とを比較し、類似度を算出し、この類似度が動作条件に適合するか否かが判定される(ステップS14)。この判定結果を、指示部36に出力する。
ステップS14において、参照画像データと比較対照画像データとの類似度が動作条件に適合しない場合には、指示部36においては、機器に対して制御はしない(ステップS16)。
一方、ステップS14において、参照画像データと比較対照画像データとの類似度が動作条件に適合する場合には、指示部36においては、登録部32に比較した参照データに基づく機器の動作内容を確認する(ステップS18)。
そして、指示部36から、機器の動作内容に基づいて、所定の機器に対して制御指示が出力される(ステップS20)。これにより、機器が所定の動作を実行する。
このように、本実施例の機器制御システム20においては、カメラ24a〜24cにより、撮影画像データを得て、この撮影画像データを画像解析して得られた比較対象画像データと、参照画像データとを比較して、類似度を求め、この類似度に対して、設定された機器の動作条件に基づく機器の動作内容に応じて、所定の機器の制御をすることができる。
次に、本実施例の機器制御システム20によるテレビ50および外部記録再生装置52の制御について説明する。
ここで、図5は、本実施例の機器制御システムによるテレビおよび外部記録再生装置の制御を説明するための模式図である。
図5に示すように、カメラ24aは、テレビ50に取り付けられている。このカメラ24aは、テレビ50の表示画面50aを正面から視聴する視聴者70を撮影するものである。カメラ24aは、撮影部60のレンズ(図示せず)がテレビ50の表示画面50aと同じ向きに配置されている。
本実施例においては、まず、視聴者70がテレビ50を視聴している場合を例にして、説明する。
なお、視聴者70は、リモコン74を用いて、テレビ50および外部記録再生装置52を操作できるものとする。
テレビ50は、テレビ受像機のことであり、テレビジョン放送を受信するチューナー(図示せず)を備え、映像を表示画面50aに表示するものである。また、テレビ50は、外部記録再生装置52により、記録された映像(以下、録画コンテンツという)を再生するモニタの機能を有するものである。
外部記録再生装置52は、テレビ50に所定の映像を再生することができるものであり、例えば、ビデオテープレコーダ、HDDレコーダ、またはDVDレコーダなどである。
また、外部記録再生装置52は、テレビ50に接続されており、テレビ50で放送されている映像を記録するものである。
さらに、外部記録再生装置52は、指示部36からの制御信号に基づいて、その動作が制御されるものである。例えば、視聴者70が表示画面50aを見ておらず、視聴者70がよそ見していると判定された場合に指示部36からの指示情報により、テレビ50で放映されている映像を記録する。
テレビ50および外部記録再生装置52を制御する場合、サーバ22の撮影画像解析部30は、撮影画像データから視聴者70の顔検出、および視聴者70の目の部分の検出をする画像解析機能を備えるものである。
この場合、撮影画像解析部30により視聴者70の顔検出、または目の部分の検出がなされ、比較対象画像データが作成される。
テレビ50および外部記録再生装置52を制御する場合においては、登録部32に、例えば、視聴者70がテレビ50の表示画面50aを注視している画像を参照画像(参照画像データ)として登録する。この視聴者70が注視している画像は、例えば、カメラ24aで撮影されたものの中から、選択されたものである。また、視聴者70が注視している画像は、参照画像(参照画像データ)として複数登録してもよい。
さらに、視聴者70が注視している画像については、目の部分を指定して、登録することもできる。
例えば、目の部分の指定は、視聴者70の顔画像を入力装置40に表示させて、入力装置40を用いて目の部分の領域を選択することによりなされる。
また、テレビ50の動作条件としては、視聴者70がテレビ50の表示画面50aを注視している画像(参照画像データ)と、視聴者70の撮影画像データから得られた比較対象画像データとの類似度が所定の値以下であることを設定する。
この場合、動作条件として、さらに撮影するカメラ24aを指定し、このカメラ24aで撮影された撮影画像データであることを要件として付加することができる。
また、機器の動作内容として、対象機器をテレビ50とし、動作を通知モードオンとする。
この通知モードオンとは、テレビ50で放送されているテレビ番組を外部記録再生装置52に記録させることである。
また、比較部34においては、参照画像データと比較対象画像データとの類似度に基づいて、顔72の向きが注視している状態ではなく、例えば、上向き、下向き、左向き、または右向きである場合、視聴者70が表示画面50aを見ていないと判定する。
さらに、比較部34による類似度の算出結果に基づいて、類似度が所定値以下である場合、指示部36においては、動作内容を登録部32に参照し、その動作内容(通知モードオン)に基づく制御指示を制御信号の形態で、外部記録再生装置52に出力する。
指示部36からの制御信号に基づいて、外部記録再生装置52においては、テレビ50で放送されているテレビ番組を記録する。
これにより、視聴者70がよそ見をしているか、またはテレビ50の前からいなくなった場合、外部記録再生装置52にテレビ番組が記録されるため、見逃した映像を、後で見ることができる。
また、外部記録再生装置52に、記録されたテレビ50の映像の映像データから、図6に示すようなインデックス画像80を作成し、このインデックス画像80をテレビ50の表示画面50aに表示させる画像編集部(図示せず)を設けてもよい。
図6に示すインデックス画像80は、例えば、視聴者70が表示画面50aを見ていないと判定された時点における映像の静止画像82a〜82cを、まとめて表示するものである。このため、視聴者70が表示画面50aを見ていないとする判定が1回であれば、静止画像が1つだけ表示される。
この画像編集部においても、指示部36からの制御信号により、その動作が制御されるものである。外部記録再生装置52で記録されたテレビ50の映像データを、画像編集部に出力させて、視聴者70が表示画面50aを見ておらず、視聴者70が表示画面50aを見ていないと判定された時点における映像の手がかりを示すインデックス画像80を画像編集部に作成させる。
本実施例においては、インデックス画像80は、画像編集部から外部記録再生装置52を経て、テレビ番組の終了時、コーマーシャル中、またはテレビ50の電源を切る際に、表示させるものである。
なお、視聴者70が画面を見ていないと判定された、すなわち、視聴者70が見逃した映像については、視聴者70の指示に基づいて、インデックス画像80に示された各静止画像82a〜82cに対応する映像を再生する。
また、インデックス画像80に示された各静止画像82a〜82cを、リモコン74を用いて、クリックすることにより、各静止画像82a〜82c対応する映像を再生させるようにしてもよい。
本実施例の機器制御システム20においては、カメラ24aにより、所定の時間間隔で撮影し、撮影画像の撮影画像データを撮影画像解析部30に出力する。
撮影画像解析部30において、撮影画像データから被写体の抽出、画像処理を施し、比較対象画像データを作成する。この比較対象画像データを比較部34に出力する。
そして、比較部34において、参照画像データと、比較対象画像データとの類似度を求め、この類似度が、視聴者70が表示画面50aを見ていない状態である設定された類似度の値以下である場合には、指示部36において、外部記録再生装置52にテレビ番組を記録する制御信号が出力される。
これにより、外部記録再生装置52が、テレビ50で放送されている映像が記録される。これにより、視聴者が見逃した映像を容易に選択することができる。
なお、視聴者70が見逃した映像について、インデックス画像80を作成することにより、視聴者70が見逃した映像を容易に選択することができ、速やかに見逃した映像を見ることができる。
また、本実施例においては、視聴者70の指示によらず、テレビ番組の終了時、再生映像の終了時、またはテレビ50の電源を切る際に、視聴者70が見逃した映像を、自動的に再生するようにしてもよい。この視聴者70が見逃した映像についての再生タイミングは、特に限定されるものではない。
また、本実施例において、録画コンテンツをテレビ50で再生しており、この録画コンテンツを視聴者70が視聴している場合、視聴者70がよそ見をしていると判定された時点で、再生を停止し、視聴者が所定時間、テレビ50の表示画面50aを見ていると判定されたとき(類似度が所定の値以上であるとき)に、再度、録画コンテンツを再生するようにしてもよい。
また、本実施例においては、パーソナルコンピュータ、PDA(Personal Digital Assistant、携帯情報通信端末)または携帯電話などの通信端末機器58に、テレビ50を見ることを促すために、メッセージ、または音声などを発する制御指示を指示部36から制御信号として出力するようにしてもよい。
なお、視聴者が、通信端末機器58をテレビ50が設置されている部屋などで使用した場合に、制御部38において、よそ見していると自動的に判定して、上述の如く、指示部36により、テレビ番組を外部画像記録再生装置52に記録させるようにしてもよい。
また、本実施例においては、登録部32に、例えば、視聴者70がテレビ50の表示画面50aを注視している画像を参照画像(参照画像データ)として登録したが、本発明は、これに限定されるものではない。
例えば、視聴者70がよそ見をしている画像を参照画像(参照画像データ)として登録してもよい。この場合、視聴者70が注視している画像を参照画像(参照画像データ)として登録したときと反対になり、動作条件は、類似度を所定値以上となる。このように設定することにより、視聴者70が注視している画像を参照画像として登録した場合と同様の動作内容を実現することができる。
次に、本実施例の機器制御システム20による冷蔵庫54の制御について説明する。
ここで、図7(a)は、本実施例の機器制御システムによる冷蔵庫の制御を説明するための模式図であり、(b)は、本実施例の機器制御システムによる冷蔵庫を制御する際の通知機能を説明する模式図である。
図7(a)に示すように、冷蔵庫54は、開戸54a、および2つの引戸54b、54cを有するものである。
図8に示すように、開戸54aの内側には、下方から第1の棚90a、第2の棚90b、第3の棚90cの合計3つの棚が設けられている。
第1の棚90aは、紙パック、プラスチック容器またはビンなどに充填された比較的容量が大きい飲料などが収納されるものである。この場合、牛乳の容器92a〜92dが収納されている。
また、第2の棚90bは、ジャムなどが充填されたビンなどが収納されるものである。この第2の棚90bの下方に、カメラ24bが設けられている。このカメラ24bは、第1の棚90aの全域を撮影することができるものである。
また、第3の棚90cは、玉子94が収納されるものであり、玉子94の形状に合わせた凹部(図示せず)が複数形成されている。この凹部に、玉子94が収納される。
また、第3の棚90cの玉子94を収納する凹部が形成された全域を撮影可能なカメラ25が設けられている。このカメラ25は、カメラ24a(図3参照)と同じ構成であり、その詳細な説明は省略する。
冷蔵庫54を制御する場合においては、ユーザ(図示せず)が、食材を買って、冷蔵庫54で保存する場合、特定の食材を消費し、なくなった場合、その特定食材がなくなったことをユーザに携帯電話59(通信端末機器)を介して通知するものである。
冷蔵庫54を制御する場合においては、登録部32に、特定の食材が冷蔵庫54の内部に置かれた状態の撮影画像を参照画像として登録する。
この場合、参照画像として登録する撮影画像としては、第1の棚90aであれば、牛乳の容器92a〜92dが置かれた状態の画像を用いる。また、牛乳の容器92a〜92dについては、それぞれ容器92a〜92dの画像を参照画像として登録することもできる。このとき、牛乳の容器92a〜92dの画像の検出数に応じて、携帯電話59に通知をすることもできる。すなわち、牛乳のストックが少ないことを知らせることもできる。
また、第3の棚90cであれば、玉子94が置かれた状態の画像を用いる。また、玉子94の画像を参照画像として登録することもできる。このとき、玉子94の画像の検出数に応じて、携帯電話59に通知をすることもできる。すなわち、玉子94のストックが少ないことを知らせることもできる。
牛乳の容器92a〜92dを管理する場合には、動作条件として、牛乳の容器92a〜92dの参照画像データと、カメラ24bによる撮影画像データから得られた比較対象画像データとの類似度が所定の値以下であることを設定する。
また、牛乳の容器92a〜92dを管理する場合には、動作条件として、さらに撮影するカメラ24bを指定し、このカメラ24bで撮影された撮影画像データであることを要件として付加することができる。
また、動作内容として、対象機器を携帯電話59とし、動作をデータ通信とする。
このデータ通信とは、消費された食材の買い物リストとして、携帯電話59の画面59aに表示させるものである。
この場合、消費された牛乳を買い物リストとして、携帯電話59の画面59aに表示させるものである。さらに、図7(b)に示すように、携帯電話59の画面59aに「牛乳がなくなりました」というメッセージ59bを表示させて、注意を促すものである。
玉子94を管理する場合には、動作条件として、玉子94の参照画像データと、カメラ25による撮影画像データから得られた比較対象画像データとの類似度が所定の値以下であることを設定する。
また、玉子94を管理する場合には、動作条件として、さらに撮影するカメラ25を指定し、このカメラ25で撮影された撮影画像データであることを要件として付加することができる。
また、動作内容として、対象機器を携帯電話59とし、動作をデータ通信とする。
このデータ通信とは、消費された食材の買い物リストとして、携帯電話59の画面59aに表示させるものである。さらに、消費された玉子94を買い物リストとして、携帯電話59の画面59aに表示させるものである。
また、比較部34においては、牛乳の容器92a〜92dおよび玉子94以外にも、参照画像データと、冷蔵庫内に設けられた撮影画像データから得られた比較対象画像データとの類似度に基づいて、特定の食材の有無を判定することができる。
さらに、比較部34による参照画像データと、冷蔵庫内に設けられた撮影画像データから得られた比較対象画像データと類似度の算出結果に基づいて、類似度が所定値以下である場合、指示部36においては、動作内容を登録部32に参照し、その動作内容(データ通信)に基づく制御指示を制御信号の形態で携帯電話59に出力し、携帯電話59に表示させる。
指示部36からの制御信号に基づいて、携帯電話59においては、その画面59aに、牛乳がないこと、または玉子94がないことを示すメッセージを表示させる。
これにより、ユーザに、特定食材を消費したこと通知することができる。ユーザは、買い忘れなどを防止することができる。
本実施例の機器制御システム20においては、カメラ24b、25により、第1の棚90aまたは第3の棚90cを所定の時間間隔で撮影し、撮影画像の撮影画像データを撮影画像解析部30に出力する。この場合、冷蔵庫内部は暗いため、カメラ24b、25による撮影のタイミングで内部を明るくする。
そして、撮影画像解析部30において、撮影画像データから被写体の抽出、画像処理を施し、比較対象画像データを作成する。この比較対象画像データを比較部34に出力する。
そして、比較部34において、参照画像データと、比較対象画像データとの類似度を求め、牛乳、および玉子などの特定の食材がない状態であると設定された類似度の値以下である場合には、指示部36から制御信号が出力されて、携帯電話59の画面59aに、買い物リストを表示させるとともに、特定の食材がないこと示すメッセージ59bを表示させる。
このようにして、ユーザに、特定の食材を消費したこと通知することができ、ユーザは、買い忘れを防止できる。
次に、本実施例の機器制御システム20による調理器56の制御について説明する。
ここで、図9は、本実施例の機器制御システムによる調理器の制御を説明するための模式図である。
図1に示すように、キッチン16に設けられた流し台17に、電磁調理式の調理器56が設けられている。この調理器56の制御について説明する。
図9に示すように、調理器56は、流し台17に設けられており、この調理器56の上方には、換気のため、レンジフード17aが設けられている。このレンジフード17aに、カメラ24cが設けられている。
このカメラ24cは、調理器56を上方から撮影するものであり、調理器56の全域を撮影することができるものである。
機器制御システム20による調理器56の制御においては、調理する料理の出来上がりを判定し、料理が完成したときに自動的に調理器56を停止させるものであり、適正な調理を実現することができる。
この調理器56は、電磁調理器具であり、IH(Induction Heating)調理器と呼ばれるものである。
また、機器制御システム20による調理器56の制御においては、なべ、フライパン、またはやかんなどの調理器具を加熱した状態で放置した場合、空焚き、または沸騰を判定し、火災などの事故を防ぐために、自動的に調理器56を停止させるものである。
本実施例においては、登録部32に、図10(a)に示すような料理が完成した状態の撮影画像を参照画像(参照画像データ)として登録する。
この場合、参照画像として登録する撮影画像としては、カメラ24cと同様に、調理器56の上方から撮影された画像を用いることが好ましい。
また、空焚き、または沸騰を判定し、火災などの事故を防ぐためには、図10(b)に示すような各種調理器具における空焚き状態の撮影画像、または沸騰状態の撮影画像を参照画像(参照画像データ)として登録する。
なお、空焚き状態の撮影画像、または沸騰状態の撮影画像の取得が困難である場合には、空焚き状態、または沸騰状態を示す画像を参照画像(参照画像データ)として登録する。この場合、例えば、入力装置40から、インターネットを介して通信ネットワーク上(Web上)に公開されている料理の完成画像または空焚き状態の画像、または沸騰状態の画像を参照画像として登録することもできる。
料理の出来上がりの場合、動作条件としては、完成した料理の参照画像データと、カメラ24cによる撮影画像データから得られた比較対象画像データとの類似度が所定の値以上であることを設定する。この動作条件として、さらに撮影するカメラ24cを指定し、これらのカメラ24cで撮影された撮影画像データであることを要件として付加することができる。
また、動作内容として、対象機器を調理器56とし、動作を調理器56の停止とする。
この調理器56の停止とは、調理器56をオフにすることである。
空焚き状態、および沸騰状態の場合、動作条件としては、空焚き状態を示す参照画像データ、または沸騰状態を示す参照画像データと、カメラ24cによる撮影画像データから得られた比較対象画像データとの類似度が所定の値以上であることを設定する。この動作条件として、さらに撮影するカメラ24cを指定し、これらのカメラ24cで撮影された撮影画像データであることを要件として付加することができる。
また、動作内容として、対象機器を調理器56とし、動作を調理器56の停止とする。
この調理器56の停止とは、調理器56をオフにすることである。
また、比較部34においては、参照画像データと、比較対象画像データとの類似度に基づいて、料理の出来具合、ならびに空焚き状態、および沸騰状態を判定することができる。
さらに、比較部34による参照画像データと、比較対象画像データとの類似度の算出結果に基づいて、類似度が所定値以上である場合、指示部36においては、動作内容を登録部32に参照し、その動作内容(調理器56をオフ)に基づく制御指示を制御信号の形態で、調理器56に出力する。
指示部36からの制御信号に基づいて、調理器56の電源を切る。
これにより、料理を完成させることができる。また、空焚き状態、および沸騰状態を抑制することができ、火災などの事故を防ぐことができる。
本実施例の機器制御システム20においては、カメラ24cにより、調理器56を上方から所定の時間間隔で撮影し、撮影画像の撮影画像データを撮影画像解析部30に出力する。
そして、比較部34において、完成した料理の参照画像データと、カメラ24cによる撮影画像データから得られた比較対象画像データとの類似度を求め、料理が完成した状態であると設定された類似度の値以上である場合には、指示部36から制御信号を出力して、調理器56をオフにする。
また、比較部34において、空焚き状態を示す参照画像データ、または沸騰状態を示す参照画像データと、カメラ24cによる撮影画像データから得られた比較対象画像データとの類似度を求め、空焚き状態、または沸騰状態であると設定された類似度の値以上である場合には、指示部36から制御信号を出力して、調理器56をオフにする。
以上のように、本実施例の機器制御システム20においては、ユーザが参照画像データを登録し、機器の動作条件、および機器の動作内容を設定することにより、各機器の制御を特定のセンサを用いることなく設定することができる。このため、機器制御における操作性が高く、各種の機器を容易に扱うことができる。
また、ユーザが設定した参照画像データと、比較対象画像データとの類似度を求めるため、類似度を求めるマッチングアルゴリズムは、複雑なものではなく、簡単なものでよい。さらには、ユーザが設定した参照画像データと、比較対象画像データとの類似度を求めるため、類似度の計算精度を高くすることもできる。さらにまた、ユーザが設定した参照画像データと、比較対象画像データとの類似度を求めるため、汎用的なパターン認識のアルゴリズムが不要であり、比較部34のハードウエア構成を簡素化でき、コストダウンを図ることができる。
次に、本発明の機器制御システムの第2の実施例について説明する。
図11(a)は、本発明の第2の実施例の機器制御システムが設けられた車を示す側面図であり、(b)は、図11(a)に示す車の後部の一部を示す模式的斜視図である。
図12は、本発明の機器制御システムの第2の実施例を示す模式的ブロック図である。
図13は、本実施例の機器制御システムが設けられた車の内部の一部を示す模式的斜視図である。
なお、本実施例においては、図2に示す第1の実施例の機器制御システム20と同一の構成物には、同一符号を付して、その詳細な説明は省略する。
本実施例の機器制御システム20aは、図11(a)および(b)に示すように、自動車110に設けられたフロントカメラ114およびリアカメラ116により得られた各撮影画像データに基づいて作成した各比較対象画像データと、参照画像データとを比較し、その類似度を求め、この類似度に基づいて、自動車110に設けられた各種の電子機器を制御するものである。
本実施例の機器制御システム20aにおいては、第1実施例の機器制御システム20(図2参照)に比して、住宅10(図1参照)ではなく自動車110に設けられている点、制御対象がカーナビゲーション装置122、表示装置126、および警告装置128である点、ならびにサーバ120の構成が相違する点が異なり、それ以外の構成は、第1実施例の機器制御システム20(図2参照)と同様であるため、その詳細な説明は省略する。
本実施例において、図12に示すように、サーバ120は、指示部36aがカーナビゲーション装置122、表示装置126および警告装置128に接続されている。
また、サーバ120の撮影画像解析部30に、フロントカメラ114およびリアカメラ116が接続されている。
ここで、図11(a)および図13に示すように、フロントカメラ114が、ダッシュボード150に設けられている。
また、図11(b)に示すように、リアゲート112にリアカメラ116が設けられている。
さらに、図13に示すように、カーナビゲーション装置122、GPS124、および表示装置126がダッシュボード150に設けられている。
図14に示すように、カーナビゲーション装置122は、GPS(Global Positioning System)124を用いて車両の現在位置を探索し、液晶モニタ(LCD)などの表示装置126に車両の走行状態を表示するものであり、DVD(Digital Versatile Disc)などの記録媒体に記録された動画コンテンツを再生する機能、およびテレビ中継を受信する機能を備えたものである。
また、カーナビゲーション装置122は、CPU130、DVDプレイヤ132、スピーカ134、操作部136、ROM138、RAM140、外部I/F(インターフェース)142、および位置・方位検出回路144を有するものであり、CPU130には、DVDプレイヤ132、スピーカ134、操作部136、ROM138、RAM140、外部I/F(インターフェース)142、および位置・方位検出回路144が接続されている。この外部I/F142に、表示装置126が接続されており、位置・方位検出回路144にGPS124が接続されている。
DVDプレイヤ132は、ナビゲーションソフトが記録されたDVDまたは動画コンテンツが記録されたDVDの再生が可能なものである。
DVDプレイヤ132でナビゲーションソフトが記録されたDVDの再生を行うと、自動車110の現在位置とともに、地図(図示せず)が表示装置126に表示される。また、動画コンテンツが記録されたDVDの再生を行うと、動画コンテンツが表示装置126に表示され、その動画コンテンツに付随した音声がスピーカ134から出力される。
操作部136は、目的地の設定またはDVDプレイヤ132を動作させる際に操作されるものである。
CPU130は、この操作部136の操作に応答して、各部に制御信号を出力するものである。
また、ROM138には、カーナビゲーション装置16を動作させるためのプログラムおよび各種データが記憶されているものである。
RAM140は、DVDプレイヤ132で再生される動画および音声に対して、デコード/エンコード処理などを施す際に、バッファメモリとして機能するものである。
位置・方位検出回路144は、GPS124からの衛星電波信号を解析して、自動車110の現在位置を検出する。位置・方位検出回路144による現在位置の検出結果は、CPU130に送信される。CPU130は、この検出結果に基づいて、ナビゲーションソフトが記録されたDVDから地図情報を読み出し、自動車110の現在位置とともに、地図を表示装置126に表示する。
なお、表示装置126は、液晶モニタ(LCD)、有機EL、またはPDPなどである。
また、警告装置128は、音声または光などで、運転手に注意を促すものである。この警告装置128は、例えば、アラーム、または点滅するライトなどである。
また、警告装置128は、カーナビゲーション装置122のスピーカ134から音声を発生させるか、または表示装置126を点滅させるなどして、運転手に注意を促す機能を有するものでもよい。
本実施例のサーバ120においては、フロントカメラ114またはリアカメラ116により、得られた撮影画像(撮影画像データ)と、登録された参照画像データとを比較し、類似度を求め、この類似度に基づいて、カーナビゲーション装置122の操作を禁止するとともに、DVDプレイヤ132による動画の再生を中断させることができるものである。
本実施例においては、フロントカメラ114またはリアカメラ116により、得られた撮影画像(撮影画像データ)が画像処理されて得られた比較対象画像データと、登録された参照画像データとの類似度を求め、この類似度に応じて、カーナビゲーション装置122または警告装置128を制御する。
また、本実施例においては、登録部32(図12参照)に、図15に示すように、自宅の車庫入れ成功時の撮影画像160を参照画像として登録する。この撮影画像160は、自動車110の後部118と、地面162に設けられた車止め164a、164bとの位置関係を示すものである。
自宅の車庫入れ成功時の撮影画像160の参照画像として登録する撮影画像としては、リアカメラ116と同様に撮影された画像を用いることが好ましい。
また、運転中のカーナビゲーション装置122のDVDプレイヤ132による動画コンテンツの再生を防ぐためには、図16に示すように、停止時における自動車110正面の撮影画像170を参照画像として登録する。この撮影画像170は、信号機172と、前方の他車両174とが撮影されたものである。
停止時における自動車110正面の撮影画像170の参照画像として登録する撮影画像は、例えば、フロントカメラ114により停止時に自動的に撮影されたものである。また、参照画像としては、撮影画像170の信号機172または他車両174について、範囲指定して範囲指定した領域を参照画像(参照画像データ)として登録することもできる。
自宅の車庫入れ成功時のバック撮影画像160においては、動作条件として、類似度が所定の値以下であることを設定する。
この動作条件として、さらに撮影するリアカメラ116を指定し、リアカメラ116で撮影された撮影画像データであることを要件として付加することができる。
また、動作内容として、動作条件が自宅の車庫入れ成功時のバック撮影画像160の類似度が所定の値以下である場合、対象機器を警告装置128とし、動作を警告装置128による警告とする。この警告装置128による警告とは、警告装置128から音声または光を発し、運転手に、自動車が車庫に対して適性な位置ではない知らせるために注意を促すことである。
また、比較部34においては、参照画像データと比較対象画像データとの類似度に基づいて、自動車110の車庫への入り具合を判定することができる。
さらに、比較部34による参照画像データと、比較対象画像データとの類似度の算出結果に基づいて、類似度が所定値以上である場合、指示部36においては、動作内容を登録部32に参照し、その動作内容(警告装置128による警告)に基づく制御指示を制御信号の形態で、警告装置128に出力する。警告装置128は、指示部36からの制御信号に基づいて、警告を発する。
これにより、自宅の車庫に自動車110を入れる場合、自動車110が適性に車庫に納められたか、または障害物があるか、もしくは猫、犬などの動物がいても、運転手に警告がされる。このため、車庫に、自動車110を適正に入れることができる。さらには、障害物があるか、もしくは猫、犬などの動物がいる場合でも対処することができる。
また、停止時における自動車110正面の撮影画像170においては、動作条件として、類似度が所定の値以下であることを設定する。
この類似度が所定の値以下である場合には、自動車110の周辺の自動車(交通)が動いていると判定される。この類似度は、例えば、信号機172を構成する各信号の色データ(信号機172が赤から青に変わることを示すもの)、または前方の他車両174の移動を判定し、自動車110の周辺の自動車(交通)が動いているか否かが判定される。
この動作条件として、さらに撮影するフロントカメラ114を指定し、フロントカメラ114で撮影された撮影画像データであることを要件として付加することができる。
また、動作内容として、停止時における自動車110正面の撮影画像170の類似度である場合には、対象機器をカーナビゲーション装置122とし、動作をカーナビゲーション装置122の動画コンテンツの表示停止とする。この動画コンテンツの表示停止とは、動画コンテンツの再生を停止することである。
また、比較部34においては、参照画像データと、比較対象画像データとを比較して、類似度を求め、この類似度に基づいて、自動車110の周辺の自動車(交通)が動いているかなどの状態を判定することができる。
さらに、比較部34による類似度の算出結果に基づいて、類似度が所定値以下である場合、指示部36においては、動作内容を登録部32に参照し、その動作内容(カーナビゲーション装置122の動画コンテンツの表示停止)に基づく制御指示を制御信号の形態で、警告装置128に出力する。
指示部36からの制御信号に基づいて、カーナビゲーション装置122の動画コンテンツの表示が停止される。
これにより、自動車110の周辺の自動車(交通)が動いているか、または動き出した場合、自動車110が発進すべきタイミング直前で、カーナビゲーション装置122の動画コンテンツの表示が停止され、運転手に運転動作を促すことができる。
本実施例の機器制御システム20aにおいては、フロントカメラ114およびリアカメラ116により、所定の時間間隔で撮影し、撮影画像の撮影画像データを撮影画像解析部30に出力する。
撮影画像解析部30において、撮影画像データから被写体の抽出、画像処理を施し、比較対象画像データを作成する。この比較対象画像データを比較部34に出力する。
そして、比較部34において、参照画像データと、比較対象画像データとを比較して、類似度を求め、車庫に適正に自動車110が入れられていると設定された類似度の値以下である場合には、指示部36において、警告装置128から警告をするものである。
また、比較部34において、参照画像データと、比較対象画像データとを比較して、類似度を求め、自動車110および周辺の自動車(交通)が停止していると設定された類似度の値以下である場合には、カーナビゲーション装置122の動画コンテンツの表示が停止されるものである。
以上のように、本実施例の機器制御システム20aにおいては、ユーザが参照画像(参照画像データ)を登録し、動作条件、および動作内容を設定することにより、自動車110のカーナビゲーション装置122および警告装置128を特定のセンサを用いることなく制御することができる。このため、自動車110に設けられたカーナビゲーション装置122および警告装置128などの機器の制御を高い操作性で実現でき、各種の機器を容易に扱うことができる。
また、ユーザが設定した参照画像データと、比較対象画像データとの類似度を求めるため、類似度を求めるマッチングアルゴリズムは、複雑なものではなく、簡単なものでよい。さらには、ユーザが設定した参照画像データと、比較対象画像データとの類似度を求めるため、類似度の計算精度を高くすることもできる。さらにまた、ユーザが設定した参照画像データと、比較対象画像データとの類似度を求めるため、汎用的なパターン認識のアルゴリズムが不要であり、比較部34のハードウエア構成を簡素化でき、コストダウンを図ることができる。
なお、上述のいずれの実施例の機器制御システムにおいても、参照画像(参照画像データ)として、1画像分登録するものに限定されるものではない。例えば、状態変化前後の複数の画像(画像データ)を参照画像(参照画像データ)として、登録することができる。この場合、類似度については、参照画像として登録した状態変化を示す画像(画像データ)が撮影画像データ(比較対象画像データ)に含まれるか否かにより判定される。
例えば、信号機が赤から青に変化した画像を参照画像(参照画像データ)として登録しておき、信号機が赤から青に変化した場合に、所定の類似度であるかが判定される。一方、信号機が青から赤に変化した場合には、類似度の判定からは除外する。これにより、類似度の判定精度を高くすることができる。
また、上述のいずれの実施例の機器制御システムにおいても、例えば、入力装置40を用いて、比較部34において所定の類似度であると判定された比較対象画像(比較対象画像データ)を排除することもできる。これにより、機器の動作制御を撮影画像データ(比較対象画像データ)についてもユーザによる制限を加えることができるため、機器の制御をさらに一層高い操作性で実現でき、各種の機器を容易に扱うことができる。
以上、本発明の機器制御システムおよび機器制御方法について詳細に説明したが、本発明は、上記実施例に限定は、されず、本発明の要旨を逸脱しない範囲において、各種の改良または変更を行ってもよいのは、もちろんである。
本発明の第1の実施例の機器制御システムが設けられた住宅を示す模式図である。 本発明の機器制御システムの第1の実施例の概略構成を示す模式的ブロック図である。 カメラの構成を示す模式的ブロック図である。 本実施例の機器制御システムによる機器制御方法を示すフローチャートである。 本実施例の機器制御システムによるテレビおよび外部記録再生装置の制御を説明するための模式図である。 本発明の第1の実施例の機器制御システムによるインデックス画像を示す模式図である。 (a)は、本実施例の機器制御システムによる冷蔵庫の制御を説明するための模式図であり、(b)は、本実施例の機器制御システムによる冷蔵庫を制御する際の通知機能を説明する模式図である。 図7(a)に示す冷蔵庫の内部を示す模式図である。 本実施例の機器制御システムによる調理器の制御を説明するための模式図である。 (a)および(b)は、それぞれ本実施例の機器制御システムによる調理器の制御に用いられる参照画像の一例を示す模式図である。 (a)は、本発明の第2の実施例の機器制御システムが設けられた車を示す側面図であり、(b)は、図11(a)に示す車の後部の一部を示す模式的斜視図である。 本発明の機器制御システムの第2の実施例を示す模式的ブロック図である。 本実施例の機器制御システムが設けられた車の内部の一部を示す模式的斜視図である。 本実施例の機器制御システムに用いられるカーナビゲーション装置の構成を示す模式的ブロック図である。 本実施例の機器制御システムによる車の制御に用いられる参照画像の一例を示す模式図である。 本実施例の機器制御システムによる車の制御に用いられる参照画像の一例を示す模式図である。
符号の説明
10 住宅
20、20a 機器制御システム
22、120 サーバ
24a、24b、24c、25 カメラ
30 撮影画像解析部
32 登録部
34 比較部
36 指示部
38 制御部
40 入力装置
50 テレビ
52 外部記録再生装置
54 冷蔵庫
56 調理器
58 通信端末機器
59 携帯電話
70 視聴者
80 インデックス画像
82a〜82c 画像
92a〜92d 容器
94 玉子
110 自動車
112 リアゲート
114 フロントカメラ
116 リアカメラ
122 カーナビゲーション装置
124 GPS
126 表示装置
128 警告装置
160、170 撮影画像
172 信号機
174 他車両

Claims (6)

  1. 機器に設けられ、所定の空間領域を撮影し、撮影画像データを得るカメラと、
    前記カメラにより得られた前記撮影画像データを解析し、比較対象画像データを作成する撮影画像解析部と、
    前記比較対象画像データと比較される参照画像データ、ならびに前記比較対象画像データと前記参照画像データとの類似度に基づく機器の動作条件、および機器の動作内容が登録される登録部と、
    前記参照画像データと前記比較対象画像データとの類似度を算出する比較部と、
    前記比較部による前記類似度の結果に応じて、前記動作内容に基づく制御信号を前記機器に出力し、前記動作内容の動作を前記機器に実行させる指示部とを有することを特徴とする機器制御システム。
  2. 前記指示部は、携帯情報通信端末または携帯電話に、文字を表示させる通知機能を有するものであり、
    前記動作内容は、前記携帯情報通信端末または前記携帯電話に所定の文章を表示させることである請求項1に記載の機器制御システム。
  3. 前記機器は、住宅に設けられた電子機器または家庭用電化製品である請求項1または2に記載の機器制御システム。
  4. 前記機器は、自動車に設けられた電子機器である請求項1〜3のいずれか1項に記載の機器制御システム。
  5. 前記機器は、複数設けられている請求項1〜4のいずれか1項に記載の機器制御システム。
  6. 機器に設けられたカメラにより得られた撮影画像データから比較対象画像データを作成し、前記比較対象画像データと比較される参照画像の参照画像データ、前記参照画像データと前記比較対象画像データとの類似度に応じた前記機器の動作条件、および前記機器の動作内容を予め登録しておいて、機器に所定の動作を行わせる機器制御方法であって、
    前記カメラによる前記撮影画像データを取得する工程と、
    前記撮影画像データを解析し、前記比較対象画像データを作成する工程と、
    前記参照画像データと前記比較対象画像データとの類似度を算出する工程と、
    前記類似度の結果に応じて、前記動作内容に基づく制御信号を前記機器に出力し、前記動作内容の動作を前記機器に実行させる工程とを有することを特徴とする機器制御方法。
JP2006160944A 2006-06-09 2006-06-09 機器制御システムおよび機器制御方法 Abandoned JP2007329823A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006160944A JP2007329823A (ja) 2006-06-09 2006-06-09 機器制御システムおよび機器制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006160944A JP2007329823A (ja) 2006-06-09 2006-06-09 機器制御システムおよび機器制御方法

Publications (2)

Publication Number Publication Date
JP2007329823A true JP2007329823A (ja) 2007-12-20
JP2007329823A5 JP2007329823A5 (ja) 2009-04-09

Family

ID=38929978

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006160944A Abandoned JP2007329823A (ja) 2006-06-09 2006-06-09 機器制御システムおよび機器制御方法

Country Status (1)

Country Link
JP (1) JP2007329823A (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015045450A (ja) * 2013-08-28 2015-03-12 株式会社東芝 貯蔵庫用カメラ装置及びこれを備えた貯蔵庫
JP2015045448A (ja) * 2013-08-28 2015-03-12 株式会社東芝 貯蔵庫用カメラ装置及びこれを備えた貯蔵庫
JP2015045734A (ja) * 2013-08-28 2015-03-12 株式会社東芝 貯蔵庫用カメラ装置及びこれを備えた貯蔵庫
JP2015045449A (ja) * 2013-08-28 2015-03-12 株式会社東芝 食品貯蔵庫用カメラ装置及びこれを備えた食品貯蔵庫
JP2015065630A (ja) * 2013-08-27 2015-04-09 株式会社東芝 カメラシステム、冷蔵庫
US9661281B2 (en) 2013-08-28 2017-05-23 Toshiba Lifestyle Products & Services Corporation Camera device for refrigerator and refrigerator comprising same
JP2017207766A (ja) * 2017-07-04 2017-11-24 東芝ライフスタイル株式会社 貯蔵庫用カメラ装置及びこれを備えた貯蔵庫
CN110501914A (zh) * 2018-05-18 2019-11-26 佛山市顺德区美的电热电器制造有限公司 一种安全监控方法、设备及计算机可读存储介质
JP2021073421A (ja) * 2013-03-29 2021-05-13 パナソニックIpマネジメント株式会社 システム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002092761A (ja) * 2000-09-12 2002-03-29 Toshiba Tec Corp 移動監視システム
JP2004314855A (ja) * 2003-04-17 2004-11-11 Sumitomo Electric Ind Ltd 機器動作制御方法及び機器動作制御システム
JP2005039693A (ja) * 2003-07-18 2005-02-10 Aichi Kikaku:Kk 遠隔監視方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002092761A (ja) * 2000-09-12 2002-03-29 Toshiba Tec Corp 移動監視システム
JP2004314855A (ja) * 2003-04-17 2004-11-11 Sumitomo Electric Ind Ltd 機器動作制御方法及び機器動作制御システム
JP2005039693A (ja) * 2003-07-18 2005-02-10 Aichi Kikaku:Kk 遠隔監視方法

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021073421A (ja) * 2013-03-29 2021-05-13 パナソニックIpマネジメント株式会社 システム
JP2015065630A (ja) * 2013-08-27 2015-04-09 株式会社東芝 カメラシステム、冷蔵庫
US10389980B2 (en) 2013-08-27 2019-08-20 Toshiba Lifestyle Products & Services Corporation Camera system and refrigerator
JP2015045449A (ja) * 2013-08-28 2015-03-12 株式会社東芝 食品貯蔵庫用カメラ装置及びこれを備えた食品貯蔵庫
JP2015045450A (ja) * 2013-08-28 2015-03-12 株式会社東芝 貯蔵庫用カメラ装置及びこれを備えた貯蔵庫
US9661281B2 (en) 2013-08-28 2017-05-23 Toshiba Lifestyle Products & Services Corporation Camera device for refrigerator and refrigerator comprising same
US9924140B2 (en) 2013-08-28 2018-03-20 Toshiba Lifestyle Products & Services Corporation Camera device for refrigerator and refrigerator comprising same
US10244210B2 (en) 2013-08-28 2019-03-26 Toshiba Lifestyle Products & Services Corporation Camera device for refrigerator and refrigerator comprising same
JP2015045734A (ja) * 2013-08-28 2015-03-12 株式会社東芝 貯蔵庫用カメラ装置及びこれを備えた貯蔵庫
US10694154B2 (en) 2013-08-28 2020-06-23 Toshiba Lifestyle Products & Services Corporation Camera device for refrigerator and refrigerator comprising same
JP2015045448A (ja) * 2013-08-28 2015-03-12 株式会社東芝 貯蔵庫用カメラ装置及びこれを備えた貯蔵庫
JP2017207766A (ja) * 2017-07-04 2017-11-24 東芝ライフスタイル株式会社 貯蔵庫用カメラ装置及びこれを備えた貯蔵庫
CN110501914A (zh) * 2018-05-18 2019-11-26 佛山市顺德区美的电热电器制造有限公司 一种安全监控方法、设备及计算机可读存储介质
CN110501914B (zh) * 2018-05-18 2023-08-11 佛山市顺德区美的电热电器制造有限公司 一种安全监控方法、设备及计算机可读存储介质

Similar Documents

Publication Publication Date Title
JP2007329823A (ja) 機器制御システムおよび機器制御方法
CN109168034B (zh) 商品信息显示方法、装置、电子设备和可读存储介质
JP6307698B2 (ja) 冷蔵庫
KR101984515B1 (ko) 냉장고 및 이를 포함하는 홈 오토메이션 시스템
US9607315B1 (en) Complementing operation of display devices in an augmented reality environment
US10217487B2 (en) Method and device for controlling playback
JP6348947B2 (ja) 移動撮影装置、移動撮影指示装置、撮影機器、移動撮影システム、移動撮影方法及び移動撮影指示方法
WO2014155935A1 (ja) 冷蔵庫、および冷蔵庫システム
US11545188B2 (en) Video processing method, video playing method, devices and storage medium
JP6307702B2 (ja) 冷蔵庫
JP2010016432A (ja) デジタルフォトフレーム、情報処理システム、制御方法、プログラム及び情報記憶媒体
JP6303127B2 (ja) 冷蔵庫
JP2017529638A (ja) 情報プッシュ方法及び装置
US20120242868A1 (en) Image capturing device
JP2007318431A (ja) 表示制御システムおよび表示制御方法
WO2023005277A1 (zh) 信息提示方法和信息提示装置
KR101946367B1 (ko) 냉장고 및 냉장고에 보관된 식품의 잔여량을 통지하기 위한 방법
JP2011239029A (ja) 映像表示装置、省電力制御装置、及び省電力方法
CN110958473A (zh) 一种低亮度环境下的遥控方法、电视机及存储介质
JP2006086717A (ja) 画像表示システム、画像再生装置及びレイアウト制御装置
JP4887832B2 (ja) 照明制御システム
US20120081547A1 (en) Conducting surveillance using a digital picture frame
JP2005033682A (ja) 映像表示システム
CN106303701A (zh) 智能电视内容推荐方法及装置
JP2011223169A (ja) 電気機器システム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080714

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090223

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090223

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110125

A762 Written abandonment of application

Free format text: JAPANESE INTERMEDIATE CODE: A762

Effective date: 20110204