JP3887279B2 - 監視装置 - Google Patents

監視装置 Download PDF

Info

Publication number
JP3887279B2
JP3887279B2 JP2002208866A JP2002208866A JP3887279B2 JP 3887279 B2 JP3887279 B2 JP 3887279B2 JP 2002208866 A JP2002208866 A JP 2002208866A JP 2002208866 A JP2002208866 A JP 2002208866A JP 3887279 B2 JP3887279 B2 JP 3887279B2
Authority
JP
Japan
Prior art keywords
image
person
edge
dimensional space
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002208866A
Other languages
English (en)
Other versions
JP2004056318A (ja
Inventor
朋史 西浦
真人 中島
安弘 竹村
一弘 味村
圭 加藤
利治 武居
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Osaka Cement Co Ltd
Original Assignee
Sumitomo Osaka Cement Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Osaka Cement Co Ltd filed Critical Sumitomo Osaka Cement Co Ltd
Priority to JP2002208866A priority Critical patent/JP3887279B2/ja
Publication of JP2004056318A publication Critical patent/JP2004056318A/ja
Application granted granted Critical
Publication of JP3887279B2 publication Critical patent/JP3887279B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Emergency Alarm Devices (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、監視装置に関し、特に対象領域内の物体や人物の存在及びその姿勢を検出する監視装置に関するものである。
【0002】
【従来の技術】
近年、人口構成の高齢化に伴い、特に浴室での事故が社会問題として注目されつつある。浴室では、心臓麻痺や脳卒中を起こすことが多く、それに伴って浴槽内で溺れる等のケースが目立つ。これらのトラブルは、いずれも1分、1秒でも早く発見し、蘇生術を施すことが、救命及び後潰症の軽減に必要であり、また一般家庭では、浴室が個室であることが多く、浴室内でのトラブルの早期発見には、それを迅速に検出する検出装置が必要となる。
【0003】
上記のような検出装置として、動き検出センサが提案されている。代表的な例は、浴室内の画像を撮像し、取得した画像を複数の部分画像に分けて、各部分画像毎に明るさと色の変化から対象物の動きがあるかどうかを検出し、各部分画像の動きの状況により、入浴中の人物が動いているか否かを判定する物である。また、浴室専用ではないが、転倒を含む個室内の人物の状態を検出する装置として、天井に取り付けた赤外線画像センサと、壁面に取り付け一定の高さを検知エリアとする熱線高さセンサを組み合わせて相互の出力から室内の人物の状態を判定する装置が提案されている。この装置は、壁面のセンサの検出高さエリアを適当に設定することにより、在室中の人物が低い姿勢をとっているか、高い姿勢をとっているか、即ち、転倒状態にあるか、そうでないかを検出することができる。
【0004】
【発明が解決しようとする課題】
しかしながら以上のような従来の装置によれば、浴室で使用した場合には、例えば湯気によるくもりが発生することにより、人物の状態の検出精度が低下する傾向があった。
【0005】
本発明は、湯気を発生し得る三次元空間内でも、対象物の状態を迅速かつ正確に検出することができる監視装置を提供することを目的としている。
【0006】
【課題を解決するための手段】
上記目的を達成するために、請求項1に係る発明による監視装置1は、例えば図1、図3に示すように、湯気を発生し得る三次元空間3内における対象物2を監視する監視装置において;三次元空間3内の対象物2を撮像する撮像装置11と;撮像装置11からの出力を受信して処理し、対象物2の画像を取得する画像処理装置41と;前記取得された画像のエッジの鋭さを判定するエッジ判定手段42と;エッジ判定手段42の判定結果に基き三次元空間3内の湯気を除去する湯気除去手段8を動作可能とする信号を発信する信号発信手段42を備える。
【0007】
このように構成すると、撮像装置11と、画像処理装置41と、エッジ判定手段42とを備えているので、例えば、撮像装置11からの出力を受信して処理し、対象物2の画像を取得し、前記取得された画像のエッジの鋭さを判定することができる。さらに、エッジ判定手段42の判定結果に基き三次元空間内の湯気を除去する湯気除去手段を動作可能とする信号を発信する信号発信手段42を備えているので、湯気を発生し得る三次元空間内でも、対象物の状態を迅速かつ正確に検出することができる監視装置を提供することができる。また、前記信号発信手段からの信号により、湯気除去手段例えば換気扇を始動するようにし、このときは、湯気を消滅または薄くすることができ、検出精度を回復することができる。
【0008】
上記目的を達成するために、請求項2に係る発明による監視装置1は、例えば図1、図3に示すように、湯気を発生し得る三次元空間3内における対象物2を監視する監視装置において;三次元空間3内の対象物2を撮像する撮像装置11と;撮像装置11からの出力を受信して処理し、対象物2の画像を取得する画像処理装置41と;前記取得された画像のエッジの鋭さを判定するエッジ判定手段42と;対象物2の動きの有無を検出する動き検出手段44とを備え;エッジ判定手段42が数値により前記エッジの鋭さを判定し、前記エッジの鋭さが一定未満のとき、動き検出手段44の検出結果に基づいて、対象物2の異常有無判定を行うように構成される。
【0009】
このように構成すると、撮像装置11と、画像処理装置41と、エッジ判定手段42とを備えているので、例えば、撮像装置11からの出力を受信して処理し、対象物2の画像を取得し、前記取得された画像のエッジの鋭さを判定することができる。さらに、動き検出手段44とを備え、エッジ判定手段42が数値により前記エッジの鋭さを判定し、前記エッジの鋭さが一定未満のとき、動き検出手段44の検出結果に基づいて、対象物2の異常有無判定を行うように構成されるので、湯気を発生し得る三次元空間内でも、対象物の状態を迅速かつ正確に検出することができる監視装置を提供することができる。
【0010】
上記目的を達成するために、請求項3に係る発明による監視装置1は、例えば図1、図3に示すように、湯気を発生し得る三次元空間3内における対象物2を監視する監視装置において;三次元空間3内の対象物2を撮像する撮像装置11と;撮像装置11からの出力を受信して処理し、対象物2の画像を取得する画像処理装置41と;前記取得された画像のエッジの鋭さを判定するエッジ判定手段42と;対象物2の存在を検出する存在検出手段43と;対象物2の動きの有無を検出する動き検出手段44とを備え;エッジ判定手段42の判定結果に基き、前記エッジの鋭さが一定以上のときは、存在検出手段43の検出結果に基づいて、対象物2の異常有無判定を行い、前記エッジの鋭さが一定未満のときは、動き検出手段44の検出結果に基づいて、対象物2の異常有無判定を行うように構成される。
【0011】
このように構成すると、撮像装置11と、画像処理装置41と、エッジ判定手段42とを備えているので、例えば、撮像装置11からの出力を受信して処理し、対象物2の画像を取得し、前記取得された画像のエッジの鋭さを判定することができる。さらに、存在検出手段43と、動き検出手段44とを備え、エッジ判定手段42の判定結果に基き、前記エッジの鋭さが一定以上のときは、存在検出手段43の検出結果に基づいて、対象物2の異常有無判定を行い、前記エッジの鋭さが一定未満のときは、動き検出手段44の検出結果に基づいて、対象物2の異常有無判定を行うように構成されるので、湯気を発生し得る三次元空間内でも、対象物の状態を迅速かつ正確に検出することができる監視装置を提供することができる。
【0012】
また請求項4に記載のように、請求項1乃至請求項3のいずれか1項に記載の監視装置1では、撮像装置11は、上方から三次元空間3内の対象物2を撮像するように構成するとよい。
【0013】
このように構成すると、撮像装置11は、上方から三次元空間3内の対象物2を撮像するので、例えば、上方から撮像することで、三次元空間3内の広範囲を撮像した画像を容易に取得することができ、対象物2の存在を検出しやすくなる。
【0014】
また請求項5に記載のように、請求項4に記載の監視装置1では、例えば図12、図16に示すように、三次元空間3内の所定の基準面から所定の距離に設定された特定の平面内に光束を射出する光束発生手段121と、光束発生手段121から射出される光束により照射される位置に配置された再帰反射素子122と、再帰反射素子122で反射された前記光束を検知する光束検知手段121とを備え;光束発生手段121は、前記光束の伝搬方向を前記特定の平面内で偏向角度可変に偏向する光束偏向手段127を有するとよい。
【0015】
このように構成すると、三次元空間3内の所定の基準面から所定の距離に設定された特定の平面内に光束を射出する光束発生手段121と、光束発生手段121から射出される光束により照射される位置に配置された再帰反射素子122と、再帰反射素子122で反射された前記光束を検知する光束検知手段121とを備え、光束発生手段121は、前記光束の伝搬方向を前記特定の平面内で偏向角度可変に偏向する光束偏向手段127を有するので、例えば、単純な構成でありながら、特定の平面内の対象物2の存在を検出できる。
【0016】
また請求項6に記載のように、請求項1乃至請求項3のいずれか1項に記載の監視装置1では、例えば図1に示すように、撮像装置11は、三次元空間3内の所定の基準面から所定の距離に設定された特定の平面内の対象物2を撮像するように構成してもよい。
【0017】
このように構成すると、撮像装置11は、三次元空間3内の所定の基準面から所定の距離に設定された特定の平面内の対象物2を撮像するように構成されているので、例えば、三次元空間3内の所定の基準面から所定の距離に設定された特定の平面内を撮像した画像を取得することで、特定の平面内の対象物2の存在を検出しやすくなる。言い換えれば、特定の平面の高さの対象物2の存在を容易に検出できる。
【0018】
また請求項7に記載のように、請求項1乃至請求項3のいずれか1項に記載の監視装置1では、撮像装置11は複数備えられ;さらに前記複数の撮像装置11のうち少なくとも1は、上方から三次元空間3内の対象物2を撮像し、他の少なくとも1は、三次元空間3内の所定の基準面から所定の距離に設定された特定の平面内の対象物2を撮像するように構成してもよい。
【0019】
このように構成すると、撮像装置11は複数備えられ、さらに前記複数の撮像装置11のうち少なくとも1は、上方から三次元空間3内の対象物2を撮像し、他の少なくとも1は、三次元空間3内の所定の基準面から所定の距離に設定された特定の平面内の対象物2を撮像するように構成されているので、例えば、上方から三次元空間3内を撮像した画像と、三次元空間3内の所定の基準面から所定の距離に設定された特定の平面内を撮像した画像とを容易に取得することができ、対象物2の存在の検出精度を高めることができる。即ち対象物2を高い精度で監視できる監視装置とすることができる。
【0020】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を参照して説明する。なお、各図において互いに同一あるいは相当する部材には同一符号または類似符号を付し、重複した説明は省略する。
【0021】
図1は、本発明による第1の実施の形態である監視装置1の模式的斜視図である。また、図2(a)は図1の正面図、図2(b)は図1の平面図である。監視装置1は、湯気の発生し得る三次元空間としての浴室3内における対象物2を監視するものである。また図中対象物2が浴室3内に存在している。対象物2は、本実施の形態では人物である(以下対象物を人物2という。)。また、浴室3には、浴室3内の人物2を撮像する撮像装置が設置されている。本実施の形態では、撮像装置は、複数備えられ、さらに複数の撮像装置のうち少なくとも1は、上方から浴室3内の人物2を撮像し、他の少なくとも1は、浴室3内の特定の平面内の人物2を撮像するように構成されている。なお、監視装置1の各構成の詳細については後で説明する。
【0022】
浴室3は、四方を壁面6に囲まれた閉空間であり、上方に天井5が形成されている。壁面6は、正面壁面61、左側面壁面62、裏面壁面63、右側面壁面64(以下単に壁面61、62、63、64という、また区別しないときは単に壁面6という)で構成されている。さらに浴室3は、浴槽4と、洗い場7とを有している。そして、浴槽4は洗い場7と隣接して設置されている。また、浴室3には、図3を参照して後述するエッジ処理部32からの信号を受信し、浴室3内に発生した湯気を除去する湯気除去手段としての換気扇8が取り付けられている。換気扇8は、浴室3の裏面壁面63上部に取り付けられ、浴室3内の換気を行うことができる。換気扇8は、演算装置30に接続されている。また換気扇8は、図3で後述するエッジ処理部42の換気扇作動信号を受信することで、運転を開始(始動)する即ち湯気の除去を開始するように構成されている。また、換気扇8は、後述のエッジ処理部42によるエッジの鋭さの判定結果が、一定以上に回復した場合には、運転を停止するように構成するとよい。また、換気扇8は、換気扇作動信号を受信することで、一定時間運転した後に自動的に運転を停止するように構成してもよい。
【0023】
さらに、天井5には、浴室3内の人物2を撮像する撮像装置としての天井カメラ11が設置されている。また、天井カメラ11は、複数の撮像装置のうち、上方から浴室3内の人物2を撮像するものでもある。本実施の形態では、天井カメラ11は、天井5の図中右端部中央に、天井カメラ11を保護する撮像装置保護手段としての保護カバー12(図中破線で表示)に覆われて、取り付けられている。天井カメラ11は、保護カバー12により保護されているので、例えば天井カメラ11にお湯がかかるような場合でも、壊れたり、作動不良を発生することなく、安定して撮像することができる。また、本実施の形態では、撮像装置保護手段としては保護カバー12を用いるが、例えば、撮像装置保護手段として、カメラ本体に防滴処理を施してもよい。防滴処理とは例えばカメラ内部に水分の侵入を防ぐために、部の隙間等をシールする処理である。
【0024】
さらに、撮像装置保護手段は、撮像装置と三次元空間即ち浴室3との界面で、撮像に係る光が透過する部位には、水滴の形成を防止する手段例えば親水性の薄膜を形成してすることが好ましい。言い換えれば、保護カバー12の撮像に係る光が透過する部位に親水性の薄膜を形成することが好ましい。このようにすると、該部位が一様に濡れるので水滴が形成されにくい。また、上述のようにカメラに防滴処理を施す場合には、撮像装置の対物レンズに親水性の薄膜を形成するとよい。ここでいう水滴の形成は、くもりを含む概念である。このようにすることで、例えば水滴の形成により画像の画質が悪くなることを防止することができるので有効である。
【0025】
また天井カメラ11の取付場所は、本実施の形態では、上記のように天井5の右端部であるが、中央部であってもよい。さらに、取付場所は、天井5であることが好ましいが、浴室3内に存在する人物2を検出しやすい場所であればどこでもよく、例えば壁面6の上部であってもよい。
【0026】
また壁面6には、浴室3内の人物2を撮像する撮像装置としての壁面カメラ21が設置されている。また、壁面カメラ21は、複数の撮像装置のうち、浴室3内の特定の平面内の人物2を撮像するように構成されたものでもある。本実施の形態では、壁面カメラ21は、壁面6が形成する角部(図中正面壁面61と右側面壁面64とが形成する角部)に取り付けられている。言い換えれば、浴槽4近傍に取り付けられている。壁面カメラ21は、撮像装置保護手段としての保護カバー22(図中破線で表示)に覆われて、取り付けられている。壁面カメラ21は、保護カバー22により保護されているので、例えば壁面カメラ21にお湯がかかるような場合でも、壊れたり、作動不良を発生することなく、安定して撮像することができる。これにより、監視装置1の信頼性が向上する。なお、壁面カメラ21は、少なくとも浴室3内の特定の平面内を撮像すればよく、例えば、浴室3内の特定の平面内を含む浴室3全体を撮像してもよい。
【0027】
また特定平面は、所定の高さに設定する。所定の高さとは、例えば、人物2が座っているときの頭の高さ程度とする。さらに所定の高さは、図2(a)に示すように、浴槽4の上端と同じ高さ、または上端より僅かに高い位置に設定することがさらに好ましい。このように所定の高さに設定すれば、後述の状態判定処理部45での人物2の状態の判定で、容易かつ確実に、例えば人物2の浴槽4内の水没状態、洗い場7での転倒状態を判定することができる。さらに特定平面は、高さ方向に適当な幅を有するように設定することが好ましい。適当な幅は、好ましくは5mm〜100mm程度、さらに好ましくは5mmから20mm程度である。なお、図示では適当な幅は、一定の大きさ(図中一点鎖線で表示)で示してあるが、実際には、壁面カメラ21から離れる程、大きくなる傾向にある。このため、適当な幅は、人物2が主に存在する場所、例えば浴槽4周辺の位置で上記の値になるように調整するとよい。
以下、天井カメラ11と壁面カメラ21とを特に区別しないときには単にカメラ10という。
【0028】
カメラ10は、結像レンズと撮像素子とを含んで構成されたものであり、典型的にはCCDカメラである。さらにカメラ10は、色の3成分を検出し、3成分で構成されるカラー画像を取得できるものとする。即ちカメラ10は、カラーCCDカメラとする。検出する色の3成分は、典型的には赤(R)、緑(G)、青(B)(以下単にRGBという)であるが、3成分のうちどの2成分を混色しても残りの1成分にならない、即ち3成分が独立な組み合わせならよい。また、他の3成分としては、例えばCMY、HSV、YCbCr、YUV、YIQ、XYZ、L*a*b*、L*u*v*等があり、これらのいずれでも構わない。またこれらは、いずれもRGBから容易に変換することができる。ここでは、検出する色の3成分は、RGBカラーとして説明する。
【0029】
図3のブロック図を参照して、監視装置1の構成の一例についてさらに説明する。監視装置1は、前述した天井カメラ11、壁面カメラ21と、演算装置30とを含んで構成される。演算装置30は、典型的にはパソコンやマイコン等のコンピュータある。演算装置30は、制御部31を備えており、監視装置1を制御している。また制御部31には、インターフェース32が接続されており、天井カメラ11、壁面カメラ21、換気扇8、通報装置40は、インターフェース32を介して制御部31に接続され、制御されている。
【0030】
また、制御部31には、記憶部34が接続されており、入力した情報や算出された情報等のデータが記憶できる。さらに演算装置30は、天井カメラ11、壁面カメラ21から、それぞれ取得した画像、及びそれぞれ後述の画像処理部32を介して取得した画像を、記憶部34に時系列で保存できるように構成されている。
【0031】
また制御部31には、監視装置1を操作するための情報を入力する入力装置36、監視装置1で処理された結果を出力する出力装置37が接続されている。入力装置36は例えばタッチパネル、キーボードあるいはマウスであり、出力装置37は例えばディスプレイやプリンタである。本図では、入力装置36、出力装置37は演算装置30に外付けするものとして図示されているが、内蔵されていてもよい。また、入力装置36は、例えば監視の開始や解除を行なえるスイッチ、出力装置37は、例えば動作インジケータとしてのLEDとしてもよい。このようにすると、監視装置1を単純に構成できる。
【0032】
また監視装置1は、カメラ10からの出力を受信して処理し、人物2の画像を取得する画像処理装置としての画像処理部41と、画像処理部41により取得された画像のエッジの鋭さを判定するエッジ判定手段としてのエッジ処理部42とを有している。画像処理部41と、エッジ処理部42は、典型的には、制御部1内に備えられる。また、エッジ処理部42は、エッジ処理部42の判定結果に基き一定の信号を発信する信号発信手段でもある。以下上記各構成について説明する。
【0033】
画像処理部41は、カメラ10から受信した出力信号を処理し、画像を取得するものである。また、画像処理部41による画像の取得間隔は、例えば装置の処理速度や、監視したい人物の動きの内容により適宜決めるとよいが、例えば0.1〜10秒、好ましくは、0.5〜3秒、最も好ましくは1秒程度とするとよい。カメラ10から出力される画像は、画像処理部41により取り込まれる。取り込まれた画像は、デジタル画像であり各ピクセル(画素)の情報は、次式(1)のように、R、G、Bの輝度値の集合として表される。
I(i,j)={R(i,j), G(i,j), B(i,j)} ・・・・・・・・・・(1)
【0034】
また、画像処理部41が取得する画像は、モザイク化した画像である。ここでのモザイク化とは、例えば画像の解像度を下げることである。解像度は、例えば取得した画像の1/10程度に下げるとよい。これは、例えばカメラ10から出力される画像の解像度が、例えば240×320pixel(ピクセル)であった画像を、24×32pixelに変換することである。このようにすることで、画像が軽くなり、計算量を減らすことができるので、処理の高速化が可能になる。さらに、取得された画像上での人物2の細部が判らなくなるので、撮像される人物2のプライバシーを保護することができる。
【0035】
エッジ処理部42は、上述の画像処理部41により取得された画像のエッジの鋭さを判定するものである。ところで、一般的に、ぼやけた画像はエッジが少ない。このことに注目して、画像全体のエッジの鋭さを求めることで、画像のぼやけ具合を検知することができる。また、例えば湯気によるくもりが激しく、ぼやけてしまった画像から後述のような存在検出部43による人物2の存在の検出を行うと、正確な検出ができず、人物2の状態の誤判定を起こす可能性がある。監視装置1は、エッジ処理部42でエッジの鋭さを判定することにより、例えば、湯気によりくもりが激しいか否かを検知でき、判定の信頼性を高めることができる。
【0036】
エッジ処理部42は、エッジの鋭さの判定を、画像処理装置41で取得した色の3成分(RGB)で表現される画像から、輝度だけで表現される画像に変換し、その変換した画像で行うようにするとよい。ここでいう、画像を変換するとは、R、G、Bのそれぞれの成分に、各々所定の係数をかけて加算した画像とすることである。所定の係数は、例えば必要な色が強調されるように各々設定するようにすることが好ましい。このようにすることで、必要な色が強調された画像でエッジの鋭さの判定を行なえるので、判定の信頼性が増す。
【0037】
エッジの鋭さは、画像からエッジを抽出する方法として一般的に用いられているラプラシアンフィルタを用いて算出することが好ましい。ラプラシアンフィルタは、2つの変数によって変化するスカラー値I (x, y)に対して、次式(2)によって求めることができる。
【数1】
Figure 0003887279
具体的には、注目画素の輝度(明度)I (i, j)に対して、次式(3)の計算を行うことになる。
Figure 0003887279
そして、この計算を画像の全画素に対して行い、その総和をとる。但し、ラプラシアンフィルタは、エッジの方向により、負の値もとり得るので、次式(4)に示すように、絶対値の総和E (i, j)を求める。
E(i,j)=Σ|∇2I| ・・・・・・・・・・・・・・・・・・・・・(4)
この絶対値の総和E (i, j)をエッジの鋭さとする。
【0038】
エッジ処理部42は、エッジの鋭さが一定未満のとき、即ちエッジの鋭さの値が一定値より小さくなったときに、湯気によるくもりが激しいと判定するように構成されている。具体的には、例えば、一定値として第1の閾値Th1を設定する。そして、エッジ処理部42は、エッジの鋭さの値が第1の閾値Th1より小さくなったときに、湯気によるくもりが激しいと判定するように構成するとよい。
【0039】
また、エッジ処理部42は、上記の判定結果に基づき一定の信号としての換気扇作動信号を発信するように構成される。エッジ処理部42は、換気扇作動信号を発信することで、湯気除去手段としての換気扇8を作動させることができるように構成される。即ち、発生した湯気を除去できる。また、エッジ処理部42は、エッジの鋭さの判定結果が、一定未満のときには、湯気除去手段としての換気扇8の運転を行うように構成するとよい。ここで、換気扇8の運転を行うとは、運転の開始(始動)であってもよいし、運転の継続であってもよい。
【0040】
例えば、図4に示すように、エッジ処理部42は、湯気によりくもりが発生した状態(図4(a)の状態)であっても、エッジ処理部42によるエッジの鋭さの判定によりくもりが激しいと判定することで、換気扇8が作動される。換気扇8が作動することで、浴室3内の湯気によるくもりが軽減され、くもりが少ない状態(図4(b)の状態)に戻る。このように、監視装置1は、湯気によるくもりが激しい場合に、エッジ処理部42によりそれを判定し、換気扇8作動させることで、くもりを軽減し、低下したエッジの鋭さの値を高めることができる。さらに、エッジの鋭さの値を高めることで、人物2の存在の検出が高精度に行なえるようになる。
【0041】
また、エッジ処理部42は、エッジの鋭さの判定結果が、一定以上に回復した場合には、湯気除去手段としての換気扇8の運転を停止するように構成するとよい。即ちくもりが激しいと判定し、換気扇8を作動させた後に、エッジの鋭さの値が第1の閾値Th1(又は頻繁な発停を避けるために第1の閾値Th1より僅かに大きい閾値Th1’)以上になったときには、湯気によるくもり軽減されたと判定して、換気扇8を停止させるように構成するとよい。
【0042】
図3に戻って、監視装置1についてさらに説明する。さらに監視装置1は、画像処理部41により取得された画像に基いて人物2の存在を検出する存在検出手段としての存在検出部43と、画像処理部41により取得された画像に基いて人物2の動きの有無を検出する動き検出手段としての動き検出部44とを有している。存在検出部43と、動き検出部44は、典型的には制御部21内に備えられている。また監視装置1は、エッジ処理部42の判定結果に基き、エッジの鋭さが一定以上のときは、存在検出部43の検出結果に基づいて、人物2の異常有無判定を行い、エッジの鋭さが一定未満のときは、動き検出部44の検出結果に基づいて、人物2の異常有無判定を行うように構成されている。上記異常有無判定は、制御部1内に備えられた状態判定処理部45で行うようにする。以下上記各構成について説明する。
【0043】
図5を参照して、存在検出部43について説明する。存在検出部43は、カメラ10より取得した異なる2時点の画像から人物2が抽出された画像であるシルエット画像を生成するように構成されている。異なる2時点のうち1時点は、例えば、人物2が浴室3内に存在しない時点である。即ち、本実施の形態では、異なる2時点の画像とは、任意の検出時点に取得した画像と、人物2が存在しない時点の画像である。また、人物2が存在しない時点の画像を基準画像とする。基準画像は、記憶部34内に保存される。以下、異なる2時点の画像を、取得画像、基準画像として説明する。
【0044】
また、異なる2時点の画像は、任意の検出時点とそのわずかに前の時点としてもよい。わずかに前とは、人物2の移動を監視するのに十分な時間間隔だけ前であればよい。この場合、人物2のわずかな移動も監視したいときは短く、例えば人物2の移動量が大きくなり過ぎず、実質的にはほぼ同位置とみなせる程度の時間、例えば0.1秒程度とすればよい。あるいはテレビ周期の1〜10周期(1/30〜1/3)とする。また、人物2の大まかな移動を監視したいとき、または動きの少ない人物2を監視したいときは長く、例えば10秒程度としてもよい。ただし、高齢者の監視等では長くし過ぎると、状態の検出が遅くなり大事に到ることがあり得るので、例えば5分などにするのは適切でない。
【0045】
存在検出部43は、画像処理部41により取得されたカラー画像の3成分即ちRGBから選択される2乃至3成分により構成されるベクトルの差を算出してシルエット画像を生成するように構成されている。本実施の形態では、選択される成分は、3成分である。ベクトルの差とは、例えばベクトル間距離又はベクトルのなす角である。本実施の形態では、ベクトルのなす角θを算出する。また、存在検出手段43は、RGBカラー画像から、対応する各々の画素毎に、3成分の場合にはRGB色空間を形成し、2成分の場合には、色平面を形成する。本実施の形態は、3成分であるので、色空間を形成する。ここでは、注目画素のR、G、Bの輝度値(式(1)参照)を成分とするベクトルをRGBバランスと呼ぶ。
【0046】
RGBバランスは、上記ベクトルの向きが色そのものの情報を、ベクトルの長さが色の明るさの情報をそれぞれ反映する。従って、RGBバランスの差、即ちRGBバランスのなす角θの大きさは、色の明るさに関係しない、色そのものの差に相当する。これにより、例えば照明変動によってある画素が影になっても、明るさ、即ちRGBバランスの長さ(ベクトルの大きさ)の変動に過ぎず、RGBバランスの向きには影響しないので、本実施の形態のように浴室を監視するような場合には特に有効である。
【0047】
図6を参照して、RGBバランスについて説明する。図6の線図は、RGB色空間を直交座標系で示したものである。RGBバランスは、取得画像、基準画像共に、各画素について算出する。存在検出部43は、取得画像と基準画像の2つの画像の対応する画素のRGBバランスの差、即ち2つのRGBバランス(ベクトル)のなす角θを算出する。ここで、2つの画像の対応する画素とは、典型的には、2つの画像の同じ位置にある画素であるが、例えば2つの画像各々で任意に定めた位置にある画素であってもよい。存在検出部43は、RGBバランスのなす角θの算出を、全ての画素に対して行う。
【0048】
ここで、例えば、基準画像上の対応する点のRGBバランスを
(i,j)={R(i,j), G(i,j), B(i,j)} ・・・・・・(5)
とし、取得画像上の対応する点のRGBバランスを
(i,j)={R(i,j), G(i,j), B(i,j)} ・・・・・・(6)
とすると、この2つのRGBバランスのなす角θは、次式(7)となる。
【数2】
Figure 0003887279
【0049】
図5に戻って説明する。存在検出部43は、算出されたベクトルの差、即ちRGBバランスのなす角θに対応する画素が、一定値以上のときには、人物2の部分と判定し、一定値未満のときには、背景の部分と判定するように構成される。具体的には、一定値として第2の閾値Th2を設定し、存在検出部43は、RGBバランスのなす角θに対応する取得画像の画素が、第2の閾値Th2以上のときには、人物2の部分と判定し、第2の閾値Th2より小さいときには、背景の部分と判定するように構成される。この判定値B (i, j)を、次式(8)と定義する。
【数3】
Figure 0003887279
即ち、シルエット画像は、0、1の2階調で表現される画像となる。
【0050】
このようして、人物2か、背景部分かの判定を、取得画像と基準画像の2つの画像の対応する各画素について行うと、人物2の分布を示したシルエット画像が得られる。シルエット画像は前述しようにモザイク化した取得画像と基準画像から生成するので、シルエット画像もモザイク化された即ち、取得画像と基準画像と同じ解像度の画像となる。なお図示では、取得画像と基準画像は通常の画像で示しているが、前述のようにモザイク化された画像からシルエット画像は生成される。モザイク化された画像からシルエット画像を生成することで、画像の処理量を低減でき、処理の高速化が図れる。
【0051】
また以上のようにシルエット画像を生成することで、例え、画像の明度(各画素の輝度)による差分を用いて、濃淡(白黒)の差により、人物2と背景部分の判定を行う場合と比較して、人物2の形を正しく抽出したシルエット画像を生成することができる。
【0052】
ここで、本実施の形態では、存在検出部43による人物2の存在の検出には、天井カメラ11で撮像された画像に基づいて行う、浴槽4内の人物2の存在位置検出と、壁面カメラ21で撮像された画像に基づいて行う、浴室3内の特定の平面内の人物2の存在検出(以下遮断検出という)とがある。まず、前者について説明する。
【0053】
まず、浴槽4内の人物2の存在位置検出について説明する。存在検出部43は、生成されたシルエット画像に基づいて、人物2の存在位置検出を行うように構成される。存在位置検出とは、人物2が浴室3内のどの位置に存在しているかを検出するものである。また、ここでいう位置検出は、例えば、人物2の存在が浴室3内のどの位置でも検出されない、即ち人物2が浴室3内に存在しないと検出することも含むものとする。以下、存在検出部43による人物2の存在位置検出について説明する。
【0054】
まず、存在検出部43は、生成されたシルエット画像内に存在する各領域(シルエット)にそれぞれラベリング処理を行うようにする。ラベリング処理は、人物2の存在位置検出の際に行うものである。シルエット画像には、例えば洗面器や椅子等の入浴用道具の位置が移動することにより、これらのシルエットがシルエット画像内に残っている場合がある。このため、人物2のシルエットと、入浴用道具とを区別する必要がある。存在検出部43は、この区別をラベリング処理により行う。
【0055】
ラベリング処理は、まず各シルエットにラベリングを行う。そして、各ラベルに含まれる画素数(面積)を求め、一定値以上のラベル面積を有するラベルを人物2のシルエットと見なす処理である。具体的には、ラベル面積に対して第3の閾値Th3を設け、第3の閾値Th3以上のラベル面積を有するシルエットを人物2と判定する。また、第3の閾値Th3よりラベル面積が小さいシルエットは、人物2ではないものとして対象から外す。さらにシルエット画像内に第3の閾値Th3以上のラベル面積を有するシルエットが存在しない場合には、浴室3内に人物2が存在しない(人物存在無し)と検出するようにするとよい。また上記以外の方法として、第3の閾値Th3以上のラベル面積を有するラベルのうち、最大のラベル面積を有するラベルを人物2のシルエットとみなすようにしてもよい。
【0056】
次に、存在検出部43は、ラベリング処理により抽出された人物の領域(シルエット)の重心位置を算出する。ここで、人物2のシルエットのデータが、前記式(8)のように求まっているとき、その重心座標(Gi, Gj)は、次式(9)に示すように、
【数4】
Figure 0003887279
となる。ここでNはシルエット画像の全画素数である。このようにして人物2のシルエットの重心位置を算出できる。
【0057】
そして、存在検出部43は、人物2のシルエットの重心位置に基づいて、人物2の存在位置検出を行う。これは、例えば重心位置が、シルエット画像上の浴槽4(図1参照)の位置にあるか、洗い場7(図1参照)の位置にあるかの検出である。このようにして、存在検出部43は、生成されたシルエット画像に基づいて、人物2の存在位置検出を行うことができる。また、この検出の結果は、前述の出力装置37により、人物2が洗い場7に存在するときには、「洗い場使用」、浴槽4にある場合は「入浴」と表示するように構成してもよい。
【0058】
次に、図7を参照して、遮断検出について説明する。存在検出部43は、生成されたシルエット画像に基づいて、浴室3内の特定の平面内の人物2の存在検出、即ち人物2の遮断検出を行うように構成される。遮断検出は、浴室3内の特定の平面内の人物2の存在、即ち人物2の所定の高さの存在の検出である。このような遮断検出を行うことにより、例えば人物2の転倒や、水没を判定することが容易にできる。以下、存在検出部43による人物2の遮断検出について説明する。
【0059】
存在検出部43は、壁面カメラ21で撮像した画像から前述したように取得したシルエット画像の、特定の平面に相当する部分を切り出す。そして、切り出した画像上で、次式(10)を満たす列の数(貫通ライン数)が、第4の閾値Th4を越えた場合に、遮断があった、即ち特定平面内の人物2の存在を検出する。
B(i,l)・B(i,l+1)・B(i,l+2)・・・B(i,m)=1 ・・・・(10)
ただし、シルエット画像上での特定平面の部分がl≦j≦mであるとする。また、この検出の結果は、前述の出力装置37により、遮断があったと検出した場合には、「遮断あり」、遮断が無かったと検出した場合には、「遮断なし」と表示するように構成してもよい。また、以上では、シルエット画像を切り出す場合で説明したが、壁面カメラ21で撮像した画像を画像処理部41から取得する際に、上記の切り出し画像部分のみを取得するようにしてもよい。この場合には、この切り出し画像からシルエット画像を生成するようにする。なお、この場合には、基準画像もこの切り出し画像に対応する部分の画像である。このようにすると、シルエット画像を生成する際の画像の処理量を低減できる。
【0060】
図3に戻って、動き検出部44について説明する。動き検出部44は、画像処理部41により取得した異なる2時点の画像の差分(フレーム間差分)を算出するように構成される。異なる2時点の画像間のフレーム間差分を算出することで、画像上の動きの無かった部分は背景とともに除去され、動きのあった部分が抽出された画像となる。即ち、動きのある人物2の部分の像を抽出できる。なお、ここでの異なる2時点の画像は、撮像された最新の画像と、この画像よりの過去の時点に撮像された画像とであればよく、例えば1フレームだけずれた画像である。さらに、異なる2時点の画像は、エッジ処理部42によるエッジの鋭さの判定で用いた画像と同様な画像を用いるとよい。即ち異なる2時点の画像は、画像処理装置41で取得した色の3成分(RGB)で表現される画像から、輝度だけで表現される画像に変換したものである。このようにすることで、必要な色が強調された画像で動きの検出を行なえるので、検出の信頼性が増す。
【0061】
フレーム間差分Dは、最新の取得画像の輝度値(明度)をIn(i,j) 、過去の取得画像の輝度値をIn-1(i,j)として、次式(11)で表される。
【数5】
Figure 0003887279
動き検出部44は、このフレーム間差分Dが、第5の閾値Th5以上であれば、浴室3内に人物2の動きがあると検出するようにする。即ち、フレーム間差分Dが、第5の閾値Th5より小さければ、浴室3内に人物2の動きが無いと検出する。なお、本実施の形態では、動き検出部44による人物2の動きの検出は、天井カメラ11で撮像した画像と、壁面カメラ21で撮像した画像とに基づいて行うが、天井カメラ11で撮像した画像に基づいて行うようにしてもよい。この場合には、画像の処理量を低減できるので処理の高速化が図れる。
【0062】
さらに監視装置1は、状態判定処理部45を備えている。状態判定処理部45は、典型的には制御部31内に備えられる。状態判定処理部45は、浴室3内の人物2の状態を判定するものである。
【0063】
図8に示すように、状態判定処理部4は、存在検出部43の検出結果に基づいて、浴室3内の人物2の状態を判定する。本実施の形態では、洗い場の床は浴槽上端部より1段低い位置にある場合であり、例えば、存在検出部43の存在位置検出で、人物2の浴室3内に存在しないことが検出された場合には(人物検出無し)、人物2が浴室3内に存在しない、即ち人物2が不在であると判定する。また、存在位置検出で、人物検出無しと検出され、遮断検出で、遮断有りと検出された場合には、どちらかの検出結果が誤っていることになるが、本実施の形態では、この場合も人物2が不在であると判定する。また、存在検出部43の存在位置検出で、人物2が洗い場で検出され、遮断検出で、遮断有りと検出された場合には、人物2が洗い場を使用していると判定する。また、存在検出部43の存在位置検出で、人物2が浴槽で検出され、遮断検出で、遮断有りと検出された場合には、人物2が入浴中であると判定する。そして、存在位置検出で、人物2が洗い場で検出され、遮断検出で遮断無しと検出された場合には、人物2が転倒しており危険だと判定する。さらに、存在位置検出で、人物2が浴槽で検出され、遮断検出で遮断無しと検出された場合には、人物2が水没しており危険だと判定する。
【0064】
さらにここでは、状態判定処理部4は、上記の人物2が不在、洗い場使用、入浴と判定した場合には、異常無しと判定する。また状態判定処理部4は、人物2が転倒、水没と判定した場合には、異常有りと判定するように構成してある。即ち、状態判定処理部4は、存在検出部43の検出結果に基づいて、人物2が危険な状態にあるを判定した場合には、異常有りと判定するように構成してある。
【0065】
また、状態判定処理部4は、人物2に異常有りと判定した際には、警報を発するように構成される。この警報は、異常有りと判定されている状態が、第1の所定期間経過した際に第1の警報としての内部警報を発し、第1の所定期間より長い期間の第2の所定期間経過した際に、第2の警報としての外部警報を発するように構成してある。外部警報を発する場合には、第2の所定期間内に内部警報が発せられたことが条件となる。第1の所定期間、第2の所定期間は、例えば時間で定めてもよいし、撮像されたフレーム数で定めでもよい。時間で定めた場合には、第1の所定期間は、例えば、3〜15秒、好ましくは5〜10秒程度とし、第2の所定期間は、例えば、10〜30秒、好ましくは10〜20秒程度である。例えば、これをフレーム数で示した場合には、第1の所定期間を8秒、第2の所定期間を15秒、撮像間隔を毎秒1フレームとすると、内部警報は8フレーム、外部警報は15フレームである。また、上記警報は、異常有りと判定された回数が、所定の回数のうち、第1の回数あった際に第1の警報としての内部警報を発し、第1の回数より多い回数の第2の回数あった際に第2の警報としての外部警報を発するように構成してもよい。所定の回数は、例えば15〜25回とした場合に、第1の回数は、5〜10回程度、第2の回数は、10〜20程度とするとよい。
【0066】
内部警報は、比較的軽度な警報例えば人物2に異常の有無を確認する、あるいは注意を促す為の警報である。状態判定処理部45は、内部警報を発した際には、例えば、浴室3に備えられた不図示のスピーカにより、「大丈夫ですか」等のメッセージを音声出力するように構成される。外部警報は、内部警報と比較して重度な警報である。状態判定処理部45は、外部警報を発した際には、後述の通報装置50に警報信号を送信するように構成される。
【0067】
さらに、状態判定処理部45は、エッジ処理部42の判定結果に基き、エッジの鋭さが一定即ち第1の閾値Th1以上のときは、存在検出部43の検出結果に基づいて、人物2の異常有無判定を行い、エッジの鋭さが第1の閾値Th1未満のときは、動き検出部44の検出結果に基づいて、人物2の異常有無判定を行うように構成されている。
【0068】
さらに状態判定処理部45は、動き検出部44による動きの検出で、人物2の動きが検出されない期間が、第3の所定期間経過した際に、異常有りと判定するように構成される。さらに、異常有りと判定した際には、警報を発するように構成してもよい。第3の所定期間は、例えば20〜60秒である。この警報は、典型的には、上述の内部警報よりさらに軽度な第3の警報である。状態判定処理部45は、第3の警報を発した際には、例えば、浴室3に備えられた不図示のスピーカにより、「お風呂に人はいませんか」等のメッセージを音声出力するように構成するとよい。また、第3の警報が発せられた後、異常有りと判定されている状態が、一定時間(例えば20〜60秒)経過した際に内部警報を発し、さらに内部警報から一定時間(例えば20〜60秒)経過した際に、外部警報を発するように構成してもよい。
【0069】
さらに状態判定処理部45は、存在検出部43、又は動き検出部44の検出結果の変化に基づいて、人物2の状態を判定するように構成するとよい。このように人物2の変化追っていれば、人物2の位置をより確実に判定することができる。例えば、人物2の存在位置が浴槽4内で終息していれば、浴槽4の位置に人物2の存在が検出できなくとも、浴槽4内に存在することになり、浴槽4外で終息していれば、洗い場7または浴室3の外へ出ていったことになり、少なくとも浴槽4内には存在しないことがわかる。
【0070】
ここで、通報装置50について説明する。通報装置50は、状態判定処理部45により送信された警報信号により、外部へ人物2の状態を通報するように構成されている。即ち、通報装置50は、例えば状態判定処理部45により浴室3内の人物2に異常がある(危険な状態にある)と判定された際に、このことを外部へ通報するように構成される。通報装置50には、状態判定処理部45で判定された人物2の異常や、浴室3に備えられた不図示のマイクより取得した音の情報等を、浴室3の外や、居間や食堂、寝室等の別の場所へ届けるための無線通信を用いた無線通信装置、電力線または専用線を用いた有線通信装置を含んで構成される。これらの通信装置によって送られた情報により、緊急を知らせるメッセージを流したり、警報音を出したり、光によるサインを出したりすることができる。また、これらの情報やメッセージ等は、固定電話回線やデータ通信回線、CATV回線、移動電話回線等を通じて、離れた場所にいる人物2や装置に送ることも可能である。このようにすることで、人物2に異常があること即ち人物2が危険な状態にあることを第三者に逸く知らせることができるので、危険な状態に迅速に対応できる。即ち、監視装置1は、監視の信頼性を高めることができる。本図では、通報装置50は、外付けとして図示してあるが演算装置30に内蔵としてもよい。
【0071】
図9、図10、図11のフローを参照して、監視装置1の作用について説明する。
図9を参照して、図1、図3を適宜参照して、天井カメラ11で撮像された画像に基づいての人物2の存在検出の作用について説明する。
【0072】
まず、天井カメラ11は、浴室3内の人物2を上方から撮像する(S1)。撮像された画像は、天井カメラ11から出力信号として送信され、インターフェース32を介して、画像処理部41で受信する。そして、この出力信号を受信した画像処理部41は、出力信号を処理してモザイク化した画像を取得する(S3)。次に、画像処理部41により取得された画像は、エッジ処理部42により、エッジの鋭さが算出される(S5)。さらにエッジ処理部42は、算出したエッジの鋭さが、第1の閾値Th1以上かを判定する(S7)。
【0073】
エッジの鋭さが第1の閾値Th1以上の場合には(S7がYES)、まず換気扇8が運転中か否かを判定する(S9)。換気扇8が運転中の場合には(S9がYES)、換気扇8の運転を停止し(S11)、次に、存在検出部43により、取得された画像のシルエット画像を生成する(S13)。換気扇8が運転中でない場合には(S9がNO)、そのまま、存在検出部43により、取得された画像のシルエット画像を生成する(S13)。そして、存在検出部43は、生成されたシルエット画像上のシルエットにラベリング処理を行ない、人物2のシルエットを区別する(S15)。さらに、全てのラベリングされたシルエットの面積(ラベル面積)が、第3の閾値Th3より小さいかを判定する(S17)。全てのラベル面積が第3の閾値Th3より小さい場合には(S17がYES)、存在検出部43は、人物2の存在無しと検出する(S19)。
【0074】
また、第3の閾値Th3以上のラベル面積を有するシルエット即ち人物2のシルエットが存在する場合には(S17がNO)、人物2のシルエットの重心位置を算出する。そして、算出された重心位置に基づいて、重心位置が浴槽4に存在するか、洗い場7に存在するかを検出する(S21)。人物2のシルエットの重心位置が浴槽4で検出された場合には(S21が浴槽)、存在検出部43は、人物2が浴槽4に存在することを検出する(S23)。また、人物2のシルエットの重心位置が洗い場7で検出された場合には(S21が洗い場)、存在検出部43は、人物2が洗い場7に存在することを検出する(S25)。
【0075】
また、エッジの鋭さが第1の閾値Th1より小さい場合には(S7がNO)、まず、換気扇8を始動させ、湯気の除去を開始する(S27)。また、既に換気扇8が運転している場合には、その運転を継続させる。次に、動き検出部44により、フレーム間差分を算出する(S29)。さらに、フレーム間差分が、第5の閾値Th5以上であるかを判定する(S31)。フレーム間差分が、第5の閾値Th5以上である場合には(S31がYES)、動きが有ると検出する(S33)。また、フレーム間差分が、第5の閾値Th5より小さい場合には(S31がNO)、動きが無いと検出する(S35)。
【0076】
また、上述の換気扇8の運転中かの判定は、毎回判定しないようにしてもよく、例えば、所定回数に1回判定するようにしてもよい。このようにすれば、換気扇8の頻繁な発停を回避できる。
【0077】
次に、図10を参照して、図1、図3を適宜参照して、壁面カメラ21で撮像された画像に基づいての人物2の遮断検出の作用について説明する。
【0078】
まず、壁面カメラ21は、浴室3内の特定の平面内を含む浴室3内を撮像する(S41)。撮像された画像は、前述の天井カメラ11の場合と同様に、モザイク化した画像を取得し(S43)、エッジ処理部42により、エッジの鋭さが算出される(S45)。そして、エッジ処理部42は、算出したエッジの鋭さが、第1の閾値Th1以上かを判定する(S47)。
【0079】
エッジの鋭さが第1の閾値Th1以上の場合には(S47がYES)、まず換気扇8が運転中か否かを判定する(S49)。換気扇8が運転中の場合には(S49がYES)、換気扇8の運転を停止し(S51)、次に、存在検出部43により、取得された画像のシルエット画像を生成する(S53)。換気扇8が運転中でない場合には(S49がNO)、そのまま、存在検出部43により、取得された画像のシルエット画像を生成する(S53)。そして、存在検出部43は、生成されたシルエット画像から、特定の平面に相当する部分を切り出す(S55)。さらに、切り出したシルエット画像の貫通ライン数が、第4の閾値Th4を越えているかを判定する(S57)。貫通ライン数が、第4の閾値Th4を越えている場合には(S57がYES)、遮断有りと検出する(S59)。また、貫通ライン数が、第4の閾値Th4を越えていない場合には(S57がNO)、遮断無しと検出する(S61)。
【0080】
さらに、エッジの鋭さが第1の閾値Th1より小さい場合には(S47がNO)、まず、換気扇8を始動させ、湯気の除去を開始する(S63)。また、既に換気扇8が運転している場合には、その運転を継続させる。次に、動き検出部44により、フレーム間差分を算出し(S65)、さらに、フレーム間差分が、第5の閾値Th5以上であるかを判定する(S67)。フレーム間差分が、第5の閾値Th5以上である場合には(S67がYES)、動きが有ると検出する(S69)。また、フレーム間差分が、第5の閾値Th5より小さい場合には(S67がNO)、動きが無いと検出する(S71)。
【0081】
そして、状態判定処理部45は、存在検出部43、又は動き検出部44の検出結果の基づき、人物2の監視を行う。
【0082】
次に、図11の表に、本発明の第1の実施の形態の監視装置1を使用して、実際に行った人物2の状態の判定実験の結果について述べる。表の数値は判定精度を百分率で表したものである。実験は、画像取得間隔(撮像間隔)毎秒1フレームで、4021フレームを対象に行った。この結果が示すように、監視装置1は、判定精度90%という高い精度持つことが判った。また、この4021フレーム中、誤った判定をしたフレームが202フレームあったので、データ全体の判定精度を算出すると、95%以上という結果が得られた。また、この結果では人物2の水没の判定では、2%の誤判定があるが、これはフレーム毎の判定結果であり、各シーンによる警報については誤作動することなく100%で発せられたので非常に信頼性が高い。
【0083】
以上のように、監視装置1は、RGBバランスのなす角θ、即ち色の変化により、人物2の存在を検出できるので、例えば、浴室にこもった湯気や浴槽の湯面の反射、及び、交流電源による照明の周期的変動などに起因する悪影響を軽減しながらの人物2の存在する領域を抽出した画像を得ることが可能である。また、浴室壁面がべージュ色などのように、一見して肌の色に近い場合であっても、的確に人物2の存在を検出することが可能である。
【0084】
以上のような第1の実施の形態の監視装置1によれば、浴室でも、人物2の状態を判断して、人物2の倒れ等の危険な状態を確実かつ迅速に検出することができる。また、浴槽での水没状態を正確に検出できるので、早期発見が可能であり、その際の誤報を低減することができる。また、洗い場に人物2がいるときは、倒れを検出しても、浴室内への呼びかけをゆっくり行ない、不要な呼びかけや通報を低減し、浴槽に人物2がいるときは、迅速な通報を優先する等、人物2の居場所によって、対応を選択することが可能であり、安静で快適な浴室の利用と救急対応とが両立できる。
【0085】
また、監視装置1は、浴室3内の人物2の存在の検出を、上方から浴室3内の人物を撮像した画像と、浴室3内の特定の平面内を撮像した画像とに基づいて行っているので、人物2の監視を精度良く行うことができる。また、浴室3内の湯気等によるくもりを、エッジ処理部42によるエッジの鋭さの判定により検出できる。これにより、例えば、くもりが激しい場合でも、エッジの鋭さの判定によりそれを検出し、換気扇8を作動させることで、くもりが低減されるので、監視の精度を低下させることなく、信頼性が高い。
【0086】
以上では、撮像装置は複数の場合で説明したが、1つであってもよい。例えば前述した天井カメラ11、壁面カメラ21のどちらか1方であってもよい。この場合には、監視装置1の構成を単純化できる。このような場合では、例えば天井カメラ11のみのときには、存在検出部43は、前述した存在位置検出のみを行うといった具合に、それぞれのカメラから取得する画像に合わせた人物2の存在の検出を行うようにする。
【0087】
また、撮像装置は複数の場合であっても、例えば、存在検出部43は、前述した存在位置検出のみを行ない、遮断検出は行わないようにしてもよい。逆の場合も同じである。このようにすることで、処理を単純化することもできる。
【0088】
さらに、以上では、エッジの鋭さが第1の閾値Th1未満のときには、換気扇8を始動し、浴室3内のくもりを低減する場合で説明したが、監視装置1は、仮に、換気扇8を始動せずに、くもりが激しい状態のままであっても、動き検出部44による人物2の動きの検出を行うので、人物2の監視を継続して行うことができる。即ち信頼性が高い。
【0089】
また、本実施の形態では、図1に示すように、洗い場7の床は、浴槽4上端部より1段低い位置にある場合で説明したが、洗い場7の床と浴槽4の上端部とがほぼ同じ高さの場合には、特定の平面を複数例えば2つ設けることにより対処すればよい。即ちこの場合には、特定の平面の高さを浴槽4の上端部に設定すると、人物2の洗い場7での転倒を判定できなくなるので、高さの異なる複数例えば2つの特定の平面内の人物2の存在をそれぞれ検出するようにし、これら2つの特定の平面内の遮断検出と、存在位置検出との検出結果に基づいて人物2の転倒と水没を判定するようにするとよい。
【0090】
図12、図13を参照して、本発明による第2の実施の形態である監視装置101について説明する。図12は模式的斜視図であり、また、図13(a)は図12の正面図、図13(b)は図12の平面図である。本実施の形態では、人物2の存在を検出する存在検出手段は、第1の存在検出手段と、第2の存在検出手段とがある。第1の存在検出手段は、図14に示す存在検出部43であり、第2の存在検出手段は、面内検出装置120である。存在検出部43は、第1の実施の形態で前述したものと同様なものであるが、本実施の形態では遮断検出を行わない。監視装置101は、基本的に第1の実施の形態で説明した監視装置1と同様な構成であるが、壁面カメラ21を備えおらず、第2の存在検出手段としての面内検出装置120を備えている。以下、第1の実施の形態と重複する説明を省略して説明する。
【0091】
図14に示すように、面内検出装置120は、第1の実施の形態で説明した演算装置30の制御部31にインターフェース32を介して接続される。
【0092】
図12、図13に戻って説明する。監視装置1と同様に、天井5には、天井カメラ11が設置されている。また壁面6には、三次元空間としての浴室3内の特定の平面内での人物2の存在を検出する面内検出装置20が設置されている。また特定平面は、所定の高さに設定する。所定の高さは、図13(a)に示すように、浴槽4の上端より少し高い位置に設定することが好ましい。このように所定の高さに設定すれば、後述の人物2の状態の判定で、容易かつ確実に人物2の浴槽4内の水没状態を判定することができる。
【0093】
ここで、面内検出装置120について説明する。面内検出装置20は、浴室3内の特定の平面内に光束を射出する光束発生手段としての光検出装置121と、光検出装置121から射出される光束により照射される位置に配置された再帰反射素子122とを含んで構成されている。また光検出装置121は、再帰反射素子122で反射された光束を検知する光束検知手段でもあり、光束の伝搬方向を特定の平面内で偏向角度可変に偏向する光束偏向手段でもある。光検出装置121は、壁面6の所定の高さに設置される。
【0094】
また、再帰反射素子122は、光検出装置121に対向する壁面6に、光検出装置121とほぼ同じ高さで帯状に設置される。また光検出装置121は、検出範囲の特に角の部分、例えば壁面61と壁面62との角部に設置するとよい。このように設置することで、浴室3全体を検出範囲とすることができる。またこの場合には、後述の光検出装置21の光束200の偏向ミラーによる偏向角は、浴室3のおよそ中央部の壁面6に設置した場合に、180度に近い偏向角が必要なの対して、およそ90度で済むことになるので、大変有利である。以上では、面内検出装置120は、以上のように設置したが、これに限られるものではなく、検出したい範囲、設置環境により適宜決めるようにするとよい。
【0095】
再帰反射素子122は、入射した光束200を、主に入射してきた方向に反射させるものである。再帰反射素子122は、例えばベースの上に小さいガラス球をちりばめたものや、小型の三角プリズムを多数細密に配置したものであり、一般に市販されているものを利用可能である。
【0096】
また図15(a)に示すように、再帰反射素子122は、反射面に複数の段部122aを形成してもよい。再帰反射素子122は、光束200が入射する角度が浅くなるにつれて、入射してきた方向に反射する光量が減少する傾向ある。このため再帰反射素子122は、複数の段部122aを形成することにより、光束200が入射する角度を垂直に近づけることができ、反射する光量の減少を抑えることができる。また、段部122aは、光束200が入射する角度にあわせて、(a)に示すように、反射面の角度を変えるようにしてもよいし、(b)に示すように、入射する角度が極端に浅くなる部分だけに一定の角度で形成してもよい。また(c)に示すように、再帰反射素子122は、反射面に曲面122bを形成して、光束200が入射する角度を垂直に近づけてもよい。
【0097】
図16の模式図を参照して、光検出装置121の構成例を説明する。光検出装置121は、光源123、照射レンズ124、ビームスプリッタ125、受光素子126、偏向ミラー127、コントローラ128を含んで構成される。光検出装置121は、ほぼ水平に光束200を射出する。また光検出装置121は、コントローラ128により制御されている。
【0098】
光源123は、典型的には半導体レーザやLEDである。光検出装置121は、光源123に、半導体レーザやLEDを使用することで、装置の小型化を図ることができる。光束200は、光源123から照射レンズ124を介してやや集束気味の集束光束として射出される。また、射出される光束200としては、半導体レーザのようなコヒーレント光を使っても良いが、特に無収差光学系であったり、大きな輝度を必要とするわけではないので、一般的な光源を用いても構わない。以上では光束200は、集束光束としたが平行光束または緩やかに拡散した拡散光束であってもよい。また、光束200の光束径は、適当な光束径で再帰反射素子122に入射するように設定するとよい。光束200の光束径は、再帰反射素子122の幅より小さく設定することがさらに好ましい。
【0099】
また、光束200には、赤外光を用いるとよい。このようにすることで、射出される光束200が人間には見えず、不快感を与えることがない。
【0100】
さらに光源123は、後で説明する受光素子126による光束200の検知の際に外乱光と区別するために、一定の周波数で変調を行う。変調は、例えば周期的に光束200の発生(射出)停止を繰り返し行うような動作である。この場合、光束200の発生停止は、例えば光源123を発光停止してもよいし、遮光板やスリットを回転させることにより、発生停止をするようにしてもよい。さらに変調は、上述に加え、外乱光の強さにより、光源123の出力も変化させるようにしてもよい。変調は、コントローラ128により行うようにするとよい。
【0101】
光源123から照射レンズ124を介してやや集束気味の集束光束として射出された光束200は、ビームスプリッタ125を透過し、向ミラー127に到達して、反射する。反射した光束200は、緩やかな拡散光束となり再帰反射素子122の幅に近い適当な光束径となって再帰反射素子122に入射する。再帰反射素子122で反射した光束200は、元の光路を戻り、偏向ミラー127で反射し、ビームスプリッタ125に入射する。そして、ビームスプリッタ125に入射した光束200は、ビームスプリッタ125で反射して受光素子126に入射し、受光素子126により検出される。偏向ミラー127は、典型的にはポリゴンミラーであり、受光素子126は、典型的にはフォトダイオードである。
【0102】
また、偏向ミラー127としては、ポリゴンミラー的な構成の他に、共振ミラー、ガルバノミラー等があるが、特に高速の偏向を必要としない場合、平面ミラーを水平面に対してほぼ垂直に設置し、水平面に対してほぼ垂直な軸で回転させても良い。
【0103】
また図17の模式図に示すように、平面ミラー127を水平面に対してほぼ45度に設置し、水平面に対してほぼ垂直な軸で回転させ、この回転軸を含む直線上に光軸を設けてミラーの回転と共に反射光を偏向するように構成してもよい。また、偏向ミラー127の代わりとして、透過型の偏向器である超音波偏向器を使用してもよい。
【0104】
図16に戻って説明する。偏向ミラー127は、不図示のモーターにより、水平面に対してほぼ垂直方向を回転軸として回転可能となっている。光束200は、偏向ミラー127が回転によって127’または127”の位置に来たときに、光束200はそれぞれ200’、200”の方向に反射される。従って、光検出装置121を射出した光束200は、偏向ミラー127により、浴室3の壁面6に帯状に設置した再帰反射素子122に沿って偏向され、この高さにおいて浴室3内のほぼ全体を走査することができる。
【0105】
光検出装置121は、コントローラ128により想定された光量が受光素子126に戻ってきたかどうかにより人物2の存在を検出する。また光検出装置121は、受光素子126が受光した光のうち、光源123からの変調された周波数の光を増幅し、検出するようにしてもよい。このようにすると、光検出装置121は、再帰反射素子122で反射された光束200と外乱光とを区別することができるので、より正確に人物2の存在を検出できる。光検出装置121には、例えばフォトディテクタを用いるとよい。
【0106】
想定された光量が受光素子126に戻ってきた場合には、コントローラ128は、人物2の存在の検出を、第1の実施の形態で説明した遮断検出の検出結果として演算装置30に出力する。即ち、人物2が存在すると検出した場合には、遮断有り、人物2が存在しないと検出した場合には、遮断無しという検出結果を演算装置30の状態判定処理部45に出力する。また検出結果には、人物2の存在の検出位置を含めてもよい。検出位置は、偏向角度から求めることができ、偏向角度は、モーターの回転角や、光束200が再帰反射素子122の端部等の一定位置を通過してからの時間等から知ることができる。
【0107】
光検出装置121から再帰反射素子122に至る光路の途中に人物2がいた場合には、射出された光束200が人物2にあたることによって散乱されるため、光検出装置121に戻ってくる光束200の光量は光路途中に人物2がいなかった場合に比べて非常に小さくなる。従って光検出装置121は、検出範囲のいずれかの場所で特定平面に人物2が存在する場合には、受光素子126に戻ってくる光量が想定よりも少なくなり、そのことを知ることができる。受光素子126に入射する光量は、人物2がいる場合といない場合で、非常に大きい差となるので、浴室3内の湯気等の外乱物質があってもその影響を受けにくい。
【0108】
以上では、面内検出装置120の検出範囲は浴室3全体として説明したが、検出範囲を浴槽4としてもよい。これは、浴室3の場合、洗い場7での転倒事故も頻繁に発生するが、生命に関わったり、後遺障害を残す事故は、浴槽4内での水没事故がほとんどであるためである。
【0109】
図18の模式図に示すように、面内検出装置120を、浴槽4と洗い場7の境界付近に設置し、浴槽4の上だけを検出範囲即ち特定平面とすれば、シャワー等の影響を受ける検知領域を最小限にすることができ、より確実に水没事故を検出することができる。
【0110】
以上のような第2の実施の形態の監視装置1によれば、例えば、第1の実施の形態と比較して、壁面カメラ21により特定の平面内を撮像した画像を処理しないので、画像の処理量を低減できることで、処理を単純化できる。
【0111】
【発明の効果】
以上のように本発明によれば、湯気を発生し得る三次元空間内における対象物を監視する監視装置において、前記三次元空間内の前記対象物を撮像する撮像装置と、前記撮像装置からの出力を受信して処理し、前記対象物の画像を取得する画像処理装置と、前記取得された画像のエッジの鋭さを判定するエッジ判定手段と、前記エッジ判定手段の判定結果に基き前記三次元空間内の湯気を除去する湯気除去手段を動作可能とする信号を発信する信号発信手段を備えるので、湯気を発生し得る三次元空間内でも、対象物の状態を迅速かつ正確に検出することができる監視装置を提供することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態である監視装置の概要を示す模式的斜視図である。
【図2】図1の場合における、監視装置の正面図(a)と平面図(b)である。
【図3】本発明の第1の実施の形態である監視装置の構成を説明するブロック図である。
【図4】本発明の第1の実施の形態で用いるエッジ処理部について説明する模式的正面図である。
【図5】本発明の第1の実施の形態で用いる存在検出部について説明する模式図である。
【図6】本発明の第1の実施の形態で用いるRGBバランスについて説明する線図である。
【図7】本発明の第1の実施の形態で用いる壁面カメラから取得した画像に基づいて行う遮断検出について説明する模式図である。
【図8】本発明の第1の実施の形態である人物の状態の判定について説明するブロック図である。
【図9】本発明の第1の実施の形態である天井カメラで撮像された画像に基づいての人物の存在検出の作用について説明するフロー図である。
【図10】本発明の第1の実施の形態である壁面カメラで撮像された画像に基づいての人物の遮断検出の作用について説明するフロー図である。
【図11】本発明の第1の実施の形態である監視装置を用いた実験の結果を示す表の図である。
【図12】本発明の第2の実施の形態である監視装置の概要を示す模式的斜視図である。
【図13】図12の場合における、監視装置の正面図(a)と平面図(b)である。
【図14】本発明の第2の実施の形態である監視装置の構成を説明するブロック図である。
【図15】本発明の第2の実施の形態で用いる再帰反射素子の形状を説明する模式図である。
【図16】本発明の第2の実施の形態で用いる光検出装置の構成例を示す模式図である。
【図17】本発明の第2の実施の形態で用いる光検出装置の別の構成例を示す模式図である。
【図18】図12の場合における、面内検出装置の検出範囲を浴槽上のみにした場合の監視装置の正面図(a)と平面図(b)である。
【符号の説明】
1 監視装置
2 人物
3 浴室
4 浴槽
6 壁面
7 洗い場
11 天井カメラ
21 壁面カメラ
30 演算装置
31 制御部
32 インターフェース
34 記憶部
36 入力装置
37 出力装置
41 画像処理部
42 エッジ処理部
43 存在検出部
44 動き検出部
45 状態判定処理部
50 通報装置
101 監視装置
120 面内検出装置
121 光検出装置
122 再帰反射素子
123 光源
124 照射レンズ
125 ビームスプリッタ
126 受光素子
127 偏向ミラー
200 光束

Claims (7)

  1. 湯気を発生し得る三次元空間内における対象物を監視する監視装置において;
    前記三次元空間内の前記対象物を撮像する撮像装置と;
    前記撮像装置からの出力を受信して処理し、前記対象物の画像を取得する画像処理装置と;
    前記取得された画像のエッジの鋭さを判定するエッジ判定手段と;
    前記エッジ判定手段の判定結果に基き前記三次元空間内の湯気を除去する湯気除去手段を動作可能とする信号を発信する信号発信手段を備える;
    監視装置。
  2. 湯気を発生し得る三次元空間内における対象物を監視する監視装置において;
    前記三次元空間内の前記対象物を撮像する撮像装置と;
    前記撮像装置からの出力を受信して処理し、前記対象物の画像を取得する画像処理装置と;
    前記取得された画像のエッジの鋭さを判定するエッジ判定手段と;
    前記対象物の動きの有無を検出する動き検出手段とを備え;
    前記エッジ判定手段が数値により前記エッジの鋭さを判定し、前記エッジの鋭さが一定未満のとき、前記動き検出手段の検出結果に基づいて、前記対象物の異常有無判定を行うように構成された;
    監視装置。
  3. 湯気を発生し得る三次元空間内における対象物を監視する監視装置において;
    前記三次元空間内の前記対象物を撮像する撮像装置と;
    前記撮像装置からの出力を受信して処理し、前記対象物の画像を取得する画像処理装置と;
    前記取得された画像のエッジの鋭さを判定するエッジ判定手段と;
    前記対象物の存在を検出する存在検出手段と;
    前記対象物の動きの有無を検出する動き検出手段とを備え;
    前記エッジ判定手段の判定結果に基き、前記エッジの鋭さが一定以上のときは、前記存在検出手段の検出結果に基づいて、前記対象物の異常有無判定を行い、前記エッジの鋭さが一定未満のときは、前記動き検出手段の検出結果に基づいて、前記対象物の異常有無判定を行うように構成された;
    監視装置。
  4. 前記撮像装置は、上方から前記三次元空間内の前記対象物を撮像するように構成された;
    請求項1乃至請求項3のいずれか1項に記載の監視装置。
  5. 前記三次元空間内の所定の基準面から所定の距離に設定された特定の平面内に光束を射出する光束発生手段と、前記光束発生手段から射出される光束により照射される位置に配置された再帰反射素子と、前記再帰反射素子で反射された前記光束を検知する光束検知手段とを備え;
    前記光束発生手段は、前記光束の伝搬方向を前記特定の平面内で偏向角度可変に偏向する光束偏向手段を有する;
    請求項4に記載の監視装置。
  6. 前記撮像装置は、前記三次元空間内の所定の基準面から所定の距離に設定された特定の平面内の前記対象物を撮像するように構成された;
    請求項1乃至請求項3のいずれか1項に記載の監視装置。
  7. 前記撮像装置は複数備えられ;
    さらに前記複数の撮像装置のうち少なくとも1は、上方から前記三次元空間内の前記対象物を撮像し、他の少なくとも1は、前記三次元空間内の所定の基準面から所定の距離に 設定された特定の平面内の前記対象物を撮像するように構成された;
    請求項1乃至請求項3のいずれか1項に記載の監視装置。
JP2002208866A 2002-07-17 2002-07-17 監視装置 Expired - Lifetime JP3887279B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002208866A JP3887279B2 (ja) 2002-07-17 2002-07-17 監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002208866A JP3887279B2 (ja) 2002-07-17 2002-07-17 監視装置

Publications (2)

Publication Number Publication Date
JP2004056318A JP2004056318A (ja) 2004-02-19
JP3887279B2 true JP3887279B2 (ja) 2007-02-28

Family

ID=31932901

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002208866A Expired - Lifetime JP3887279B2 (ja) 2002-07-17 2002-07-17 監視装置

Country Status (1)

Country Link
JP (1) JP3887279B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6954522B2 (ja) * 2016-08-15 2021-10-27 株式会社木村技研 セキュリティ管理システム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09276237A (ja) * 1996-04-18 1997-10-28 Matsushita Electric Ind Co Ltd 監視装置
JP3956484B2 (ja) * 1998-05-26 2007-08-08 株式会社ノーリツ 入浴監視装置
JP2000099863A (ja) * 1998-09-18 2000-04-07 Mitsubishi Electric Corp 異常検出装置
JP4122634B2 (ja) * 1999-06-23 2008-07-23 株式会社Ihi 遠隔監視システム及び遠隔監視方法
JP2001238204A (ja) * 2000-02-23 2001-08-31 Takenaka Engineering Co Ltd 妨害検知機能付監視カメラ
JP4953502B2 (ja) * 2000-10-02 2012-06-13 日本信号株式会社 2次元走査型光レーダセンサ
JP2002183861A (ja) * 2000-12-14 2002-06-28 Noritz Corp 人体検出装置

Also Published As

Publication number Publication date
JP2004056318A (ja) 2004-02-19

Similar Documents

Publication Publication Date Title
US7106885B2 (en) Method and apparatus for subject physical position and security determination
JP4587067B2 (ja) 物体の転倒をモニターする方法および装置
JP4460782B2 (ja) 侵入監視装置
JP6717235B2 (ja) 見守り支援システム及びその制御方法
US20110313325A1 (en) Method and system for fall detection
JP5127531B2 (ja) 画像監視装置
JP4448304B2 (ja) 顔検知装置
JP2005109540A (ja) 投影表示装置
WO2022080353A1 (ja) 熱痕跡領域抽出装置、熱痕跡領域抽出方法及びプログラム
JP6119938B2 (ja) 画像処理システム、画像処理装置、画像処理方法、および画像処理プログラム
JP2012043021A (ja) 移動物体検出装置
CN107851185A (zh) 占用检测
Inoue et al. Vision-based bed detection for hospital patient monitoring system
JP4463450B2 (ja) 状態検出装置
JP3887279B2 (ja) 監視装置
JP2023084685A (ja) 対象をモニタリングするための方法及びシステム
KR20130094488A (ko) 영상 기반 이상 동작 감시 시스템 및 방법
JP6645503B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP2012048691A (ja) 画像監視装置
JP7351339B2 (ja) 画像処理システム、画像処理プログラム、および画像処理方法
JP2005269473A (ja) 監視システム
JP2009085618A (ja) 人体検出装置
JP2012118716A (ja) 画像監視装置
JP2022102691A (ja) 異常通報装置
JPH09276237A (ja) 監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040412

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061124

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3887279

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091201

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101201

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111201

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121201

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121201

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131201

Year of fee payment: 7

S201 Request for registration of exclusive licence

Free format text: JAPANESE INTERMEDIATE CODE: R314201

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S303 Written request for registration of pledge or change of pledge

Free format text: JAPANESE INTERMEDIATE CODE: R316303

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term