JP4517606B2 - 監視システム、信号処理装置および方法、並びにプログラム - Google Patents

監視システム、信号処理装置および方法、並びにプログラム Download PDF

Info

Publication number
JP4517606B2
JP4517606B2 JP2003303031A JP2003303031A JP4517606B2 JP 4517606 B2 JP4517606 B2 JP 4517606B2 JP 2003303031 A JP2003303031 A JP 2003303031A JP 2003303031 A JP2003303031 A JP 2003303031A JP 4517606 B2 JP4517606 B2 JP 4517606B2
Authority
JP
Japan
Prior art keywords
audio signal
unit
audio
signal
notification information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003303031A
Other languages
English (en)
Other versions
JP2005070643A (ja
Inventor
哲二郎 近藤
哲彦 有光
洋 一木
健司 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2003303031A priority Critical patent/JP4517606B2/ja
Publication of JP2005070643A publication Critical patent/JP2005070643A/ja
Application granted granted Critical
Publication of JP4517606B2 publication Critical patent/JP4517606B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Circuit For Audible Band Transducer (AREA)

Description

本発明は、監視システム、信号処理装置および方法、並びにプログラムに関し、特に、監視対象の音声を含む音声データから、監視対象の音声以外の雑音成分をより正確に除去することができるようにした監視システム、信号処理装置および方法、並びにプログラムに関する。
近年、情報処理技術の向上に伴い、各種の装置を用いた情報処理システムが様々な分野に適用されてきている。例えば、撮像装置、集音装置、および情報処理装置等を用いて、ユーザが肉眼で視認不可能な位置に存在する対象物を監視する監視システムがある。
撮像装置および集音装置は、例えばユーザが位置する空間と異なる他の空間に設置され、その空間において取得した情報を、通信装置等を用いてユーザが位置する空間に設置される情報処理装置に供給する。撮像装置および集音装置により供給された情報を取得した情報処理装置は、その情報に信号処理を施す等して出力用の情報を作成し、ディスプレイやスピーカ等より、その出力用の情報を出力する。ユーザは、その出力された情報を参照することにより、直接肉眼で視認することができない空間の状況を把握する。
例えば、このような監視システムとして、監視対象を乳幼児とし、その乳幼児の保護者がその乳幼児の状態を把握するために使用する乳幼児監視システムがある。乳幼児監視システムは、乳幼児が位置する空間において、カメラやマイクを用いて乳幼児の画像や音声(泣き声)を取得し、保護者が位置する空間において、その画像や音声を、ディスプレイやスピーカを介して出力する。保護者は、このような乳幼児監視システムを用いることにより、その出力された画像や音声を参照して、他の空間に位置する乳幼児の状態を容易に把握することができる。
このような乳幼児監視システムにおいて、マイクにより取得された音声情報には、通常、乳幼児の音声(泣き声)の他に、乳幼児周辺の空間において発生するその他の音声(例えば、乳幼児の近傍に位置する他の人物の音声や、乳幼児の近傍に位置するスピーカ等より出力される音声等)、すなわち、雑音成分(乳幼児監視システムが処理の対象としない音声)も含まれている。従って、乳幼児監視システムは、例えば、情報処理装置等において、取得した音声情報に対して信号処理を行い、音声情報よりこの雑音成分を除去し(低減させ)、雑音成分が除去(低減)された音声情報をスピーカより出力する。
その雑音成分の除去の方法として、例えばローパスフィルタ等を用いて不要な周波数成分(乳幼児の音声と異なる周波数帯域の信号成分)を除去する方法が考えられるが、例えば、上述したように監視対象である乳幼児の近傍に位置する他の人物の音声がマイクにより取得された音声情報に含まれる等、乳幼児の音声と同じ周波数帯域に雑音成分が存在する場合、フィルタ等を用いた周波数帯域の制限では、雑音成分を十分に除去することができない。
これに対して、2つのマイクを用い、それらのマイクより入力された音声信号間の相関を低くする分離行列を適応処理により最適化し、その最適化された分離行列を用いて、入力された音声信号より目的の音源に対応する音声のみを分離して抽出する方法がある(例えば、特許文献1参照)。
ビデオカメラは、ビデオカメラの正面軸上に間隔をあけて配置された2つのマイクより入力された音声信号に対して適応処理を行い、分離行列を最適化し、その分離行列を用いて、ピントが合わせられた被写体の発する音声を他の音声から分離することにより、その被写体の発する音声のみを収音することができる。
特開2001-84713号公報(第2−4ページ、図1乃至図3)
しかしながら、以上のような分離行列を最適化する方法においては、目的とする被写体の発声した音声を、その被写体の位置のみに基づいて判別しており、例えば、反射音等の外部環境の影響等により、雑音成分を十分に除去することができない場合があるという課題があった。
また、以上のような分離行列を最適化する方法においては、目的とする被写体の発声した音声を判別して分離するだけであり、その音声の内容に関わらず同様に分離処理を行うので、常に目的の音声をなるべく残すように分離しなければならず、例えば、目的の音声の音声レベルが無音または無音状態に近いレベルの状態である場合に、完全に分離できなかった雑音成分の方が目立ってしまう場合があるという課題があった。
本発明はこのような状況に鑑みてなされたものであり、監視対象の音声を含む音声データから、監視対象の音声以外の雑音成分をより正確に除去することができるようにするものである。
本発明の監視システムは、監視対象を監視する監視装置と、監視装置を制御する主制御装置とを備える監視システムであって、監視装置は、第1の音声入力部と、第1の音声入力部と所定の間隔をあけて配置された第2の音声入力部とを有し、第1の音声入力部において得られた第1の音声信号と、第2の音声入力部において得られた第2の音声信号を主制御装置に供給し、主制御装置は、監視装置より供給された第1の音声信号に含まれる所望の音声信号を、第2の音声信号に含まれる所望の音声信号に対して相対的に所定の量だけ遅延し、相対的に遅延された第1の音声信号と第2の音声信号とを加算して第3の音声信号を生成し、相対的に遅延された第1の音声信号と第2の音声信号との一方から他方を減算して第4の音声信号を生成し、第4の音声信号の移動平均を算出し、第1の音声信号および第2の音声信号が、所望の音声信号を多く含む第1の領域の音声信号であるか、所望の音声信号がほとんど含まれず、雑音成分を多く含む第2の領域の音声信号であるかを判定し、第1の音声信号および第2の音声信号が第2の領域の音声信号であると判定された場合、第3の音声信号から、第4の音声信号および第4の音声信号の移動平均の乗算結果を減算することにより、雑音成分を減衰させた音声信号を生成する監視システムである。
主制御装置は、第1の音声信号と第2の音声信号との相関関係を示す相関係数を算出し、算出された相関係数の値の大きさによって、第1の音声信号および第2の音声信号が、第1の領域の音声信号であるか、第2の領域の音声信号であるかを判定することができる。
前記主制御装置は、算出された相関係数の値が、予め定められた所定の閾値より大きい場合、第1の音声信号および第2の音声信号が第1の領域の音声信号であると判定し、算出された相関係数の値が閾値より小さい場合、第1の音声信号および第2の音声信号が第2の領域の音声信号であると判定することができる。
前記閾値の値は、「−1」以上であり、かつ、「1」以下であることができる。
前記主制御装置は、第1の音声入力部および第2の音声入力部の位置と、所望の音声信号に対応する音声の発生源の位置との関係に応じて、第1の音声信号を相対的に遅延する量を決定することができる。
前記主制御装置は、監視装置の動作を制御する制御情報を監視装置に供給し、監視装置は、制御情報に基づいて、音声信号を主制御装置に供給するか否かを判定することができる。
前記制御情報は、監視装置により使用されるテーブルのテーブル番号を指定する情報であることができる。
前記主制御装置は、主制御装置が有するテーブルを更新する新たなテーブルを監視装置に供給することができる。
前記主制御装置は、監視装置において使用されるセンサを指定する情報を監視装置に供給することができる。
本発明の信号処理装置は、第1の音声入力部において得られた第1の音声信号に含まれる所望の音声信号を、第1の音声入力部と所定の間隔をあけて配置された第2の音声入力部において得られた第2の音声信号に含まれる所望の音声信号に対して相対的に所定の量だけ遅延する遅延手段と、遅延手段により相対的に遅延された第1の音声信号と第2の音声信号とを加算して第3の音声信号を生成する加算手段と、遅延手段により相対的に遅延された第1の音声信号と第2の音声信号との一方から他方を減算して第4の音声信号を生成する減算手段と、減算手段により生成された第4の音声信号の移動平均を算出する移動平均算出手段と、第1の音声信号および第2の音声信号が、所望の音声信号を多く含む第1の領域の音声信号であるか、所望の音声信号がほとんど含まれず、雑音成分を多く含む第2の領域の音声信号であるかを判定する領域判定手段と、領域判定手段により第1の音声信号および第2の音声信号が第2の領域の音声信号であると判定された場合、第3の音声信号から、第4の音声信号および第4の音声信号の移動平均の乗算結果を減算することにより、雑音成分を減衰させた音声信号を生成する減衰手段とを備える。
前記第1の音声信号と第2の音声信号との相関関係を示す相関係数を算出する相関係数算出手段をさらに備え、領域判定手段は、相関係数算出手段により算出された相関係数の値の大きさによって、第1の音声信号および第2の音声信号が、第1の領域の音声信号であるか、第2の領域の音声信号であるかを判定することができる。
前記領域判定手段は、相関係数算出手段により算出された相関係数の値が、予め定められた所定の閾値より大きい場合、第1の音声信号および第2の音声信号が第1の領域の音声信号であると判定し、相関係数算出手段により算出された相関係数の値が閾値より小さい場合、第1の音声信号および第2の音声信号が第2の領域の音声信号であると判定することができる。
前記閾値の値は、「−1」以上であり、かつ、「1」以下であることができる。
前記第1の音声入力部および第2の音声入力部の位置と、所望の音声信号に対応する音声の発生源の位置との関係に応じて、遅延手段が第1の音声信号を相対的に遅延する量を決定する遅延量決定手段をさらに備え、遅延手段は、遅延量決定手段により決定された量だけ、第1の音声信号を相対的に遅延することができる。
本発明の信号処理方法は、信号処理装置の信号処理方法であって、信号処理装置の遅延手段が、第1の音声入力部において得られた第1の音声信号に含まれる所望の音声信号を、第1の音声入力部と所定の間隔をあけて配置された第2の音声入力部において得られた第2の音声信号に含まれる所望の音声信号に対して相対的に所定の量だけ遅延し、信号処理装置の加算手段が、相対的に遅延された第1の音声信号と第2の音声信号とを加算して第3の音声信号を生成し、信号処理装置の減算手段が、相対的に遅延された第1の音声信号と第2の音声信号との一方から他方を減算して第4の音声信号を生成し、信号処理装置の移動平均手段が、第4の音声信号の移動平均を算出し、信号処理装置の領域判定手段が、第1の音声信号および第2の音声信号が、所望の音声信号を多く含む第1の領域の音声信号であるか、所望の音声信号がほとんど含まれず、雑音成分を多く含む第2の領域の音声信号であるかを判定し、信号処理装置の減衰手段が、第1の音声信号および第2の音声信号が第2の領域の音声信号であると判定された場合、第3の音声信号から、第4の音声信号および第4の音声信号の移動平均の乗算結果を減算することにより、雑音成分を減衰させた音声信号を生成する。
本発明のプログラムは、コンピュータを、第1の音声入力部において得られた第1の音声信号に含まれる所望の音声信号を、第1の音声入力部と所定の間隔をあけて配置された第2の音声入力部において得られた第2の音声信号に含まれる所望の音声信号に対して相対的に所定の量だけ遅延する遅延手段と、遅延手段により相対的に遅延された第1の音声信号と第2の音声信号とを加算して第3の音声信号を生成する加算手段と、遅延手段により相対的に遅延された第1の音声信号と第2の音声信号との一方から他方を減算して第4の音声信号を生成する減算手段と、減算手段により生成された第4の音声信号の移動平均を算出する移動平均算出手段と、第1の音声信号および第2の音声信号が、所望の音声信号を多く含む第1の領域の音声信号であるか、所望の音声信号がほとんど含まれず、雑音成分を多く含む第2の領域の音声信号であるかを判定する領域判定手段と、領域判定手段により第1の音声信号および第2の音声信号が第2の領域の音声信号であると判定された場合、第3の音声信号から、第4の音声信号および第4の音声信号の移動平均の乗算結果を減算することにより、雑音成分を減衰させた音声信号を生成する減衰手段として機能させる。
本発明の監視システムにおいては、監視装置において、第1の音声入力部において得られた第1の音声信号と、第2の音声入力部において得られた第2の音声信号が主制御装置に供給され、主制御装置において、監視装置より供給された第1の音声信号に含まれる所望の音声信号が、第2の音声信号に含まれる所望の音声信号に対して相対的に所定の量だけ遅延され、相対的に遅延された第1の音声信号と第2の音声信号とを加算して第3の音声信号が生成され、相対的に遅延された第1の音声信号と第2の音声信号との一方から他方を減算して第4の音声信号が生成され、第4の音声信号の移動平均が算出され、第1の音声信号および第2の音声信号が、所望の音声信号を多く含む第1の領域の音声信号であるか、所望の音声信号がほとんど含まれず、雑音成分を多く含む第2の領域の音声信号であるかが判定され、第1の音声信号および第2の音声信号が第2の領域の音声信号であると判定された場合、第3の音声信号から、第4の音声信号および第4の音声信号の移動平均の乗算結果を減算することにより、雑音成分を減衰させた音声信号が生成される。
本発明の信号処理装置および方法、並びにプログラムにおいては、第1の音声入力部において得られた第1の音声信号に含まれる所望の音声信号が、第1の音声入力部と所定の間隔をあけて配置された第2の音声入力部において得られた第2の音声信号に含まれる所望の音声信号に対して相対的に所定の量だけ遅延され、相対的に遅延された第1の音声信号と第2の音声信号とが加算されて第3の音声信号が生成され、相対的に遅延された第1の音声信号と第2の音声信号との一方から他方が減算されて第4の音声信号が生成され、第4の音声信号の移動平均が算出され、第1の音声信号および第2の音声信号が、所望の音声信号を多く含む第1の領域の音声信号であるか、所望の音声信号がほとんど含まれず、雑音成分を多く含む第2の領域の音声信号であるかが判定され、第1の音声信号および第2の音声信号が第2の領域の音声信号であると判定された場合、第3の音声信号から、第4の音声信号および第4の音声信号の移動平均の乗算結果を減算することにより、雑音成分を減衰させた音声信号が生成される
本発明によれば、信号を処理することができる。特に、任意の位置の監視対象の音声を含む音声データから、監視対象の音声以外の雑音成分をより正確に除去することができる。
以下に、本発明の実施の形態について図面を参照して説明する。
図1は、本発明を適用した監視システムの構成例を示すブロック図である。
図1において、監視システム1は、例えば、乳幼児を監視対象とし、その乳幼児の状態を監視する保護者をユーザとする乳幼児監視システムであり、乳幼児近傍に設置され、乳幼児を監視する監視装置10、監視装置10を制御し、ユーザ近傍に設置され、監視装置10より乳幼児に関する情報を取得し、ユーザに通知する主制御装置20により構成される。
監視装置10は、制御情報等の送受信を行う低速通信用のアンテナ11、および監視対象である乳幼児に関する情報である通知情報の送受信を行う高速通信用のアンテナ12を有しており、同様に、主制御装置20も、低速通信用のアンテナ21および高速通信用のアンテナ22を有している。監視装置10および主制御装置20は、これらのアンテナ11およびアンテナ21を介して、例えば、IEEE(Institute of Electronic and Electronics Engineers)802.11bやブルートゥース(Bluetooth(登録商標))等の通信速度が遅い無線通信規格を用いて低速無線通信を行い、アンテナ12およびアンテナ22を介して、例えば、IEEE802.11aやIEEE802.11g等の通信速度が速い無線通信規格を用いて高速無線通信を行う。
なお、IEEE802.11xは、無線LAN(Local Area Network)の標準化を推進する、IEEE(米国電気電子技術者協会)で標準化された規格であり、通信のベースとなる使用する周波数帯や変調方式などの物理層(Physical Layer)と、データフォーマットやコミュニケーション方法などのメディアアクセス制御(Medium Access Control)を規定したものである。IEEE802.11bは、2.4GHz帯を使用し、最大11Mbpsの転送速度で、DSSS(Direct Sequence Spectrum Spread)方式(直接拡散方式のスペクトラム拡散)の無線通信を行う無線LANの拡張規格である。また、IEEE802.11aは、5GHz帯を使用し、最大54Mbpsの転送速度で、狭帯域の搬送波を複数使って伝送する、OFDM(Orthogonal Frequency Division Multiplex:直交周波数分割多重)という変調方式の無線通信を行う無線LANの拡張規格である。さらにIEEE802.11gという2.4GHz帯を使用し、最大54Mbpsの転送速度で、OFDM変調方式の無線通信を行う無線LANの拡張規格である。ブルートゥースは、2.4GHz帯域を用いる最大伝送速度が1Mbpsの無線伝送方式である。
後述するように、監視装置10は、後述するセンサの出力を、アンテナ11およびアンテナ21を介して、低速無線通信により主制御装置20に供給するとともに、内蔵するカメラやマイク等を介して取得した乳幼児に関する通知情報を、アンテナ12およびアンテナ22を介して、高速無線通信により主制御装置20に供給する。主制御装置20は、このようにして取得したセンサ出力や乳幼児に関する通知情報をディスプレイ等より出力する。また、主制御装置20は、例えば、ユーザの指示等に基づいて作成された制御情報を、アンテナ21およびアンテナ11を介して、低速無線通信により監視装置10に供給し、監視装置10の動作を制御する。
乳幼児の保護者であるユーザは、主制御装置20において出力された情報を参照し、乳幼児の状態を把握することができる。
図2は、図1の監視装置10の詳細な構成例を示す図である。
監視装置10は、監視装置10の各部を制御する制御部31、制御部31において実行されるプログラムやデータを一時的に保持する半導体メモリであるRAM(Random Access Memory)32、制御部31において実行されるプログラムやデータが記録されている読み出し専用半導体メモリであるROM(Read Only Memory)33を備えている。
制御部31は、演算部、制御部、および保持部を含むCPU等により構成され、RAM32やROM33に記憶されているプログラムやデータを実行し、監視装置10の各部を制御して、監視対象である乳幼児の画像や音声を取得し、主制御装置20に供給する処理を行ったり、監視装置10の設定を行ったりする。
また監視装置10は、複数のセンサを有し、乳幼児の状態に関する情報を取得するセンサ部41、アンテナ11を介して主制御装置20と低速の無線通信を行う低速通信部42、乳幼児の画像や音声等の、ユーザに通知する情報(以下、通知情報と称する)を取得する通知情報取得部43、通知情報取得部43より供給された通知情報に信号処理等を施し、送信用の通知情報を生成する通知情報処理部44、アンテナ12を介して主制御装置20と高速の無線通信を行う高速通信部45、制御部31が乳幼児の状態等に応じて各部を制御するために参照するルックアップテーブル(LUT)を記憶するLUT記憶部46、監視装置10の各部に電力を供給する電力供給部47、並びに、制御部31に制御されて、監視装置10の各部の動作を制御する動作制御部48を有している。
センサ部41は、第1センサ51、第2センサ52、および第3センサの、互いに異なる情報を計測する3つのセンサを有し、さらに、その第1センサ51乃至第3センサ53の動作をそれぞれ制御するセンサドライバ54乃至センサドライバ56、および第1センサ51乃至第3センサ53のセンサ出力より制御部31に供給するセンサ出力を選択するセレクタ57を有している。
第1センサ51は、図示は省略するが、乳幼児の発声する音声を取得するための簡易なマイクよりなり、センサドライバ54に制御されて、取得した音声信号をセンサドライバ54に出力信号として出力する。センサドライバ54は、図示は省略するが、取得したマイクの出力信号を増幅するアンプ回路、および、その増幅された出力信号より所定のパラメータを計測して出力する計測部を内蔵しており、第1センサ51を制御して出力させた出力信号を増幅し、乳幼児の呼吸時間と発声時間を計測し、計測値をセンサ出力としてセレクタ57に供給する。
第2センサ52は、図示は省略するが、乳幼児の発声する音声等による空間の圧力変化を検知し、電気信号に変換する空圧センサよりなり、センサドライバ55に制御されて、空圧の変化を変換して得られた電気信号をセンサドライバ55に出力信号として出力する。センサドライバ55は、図示は省略するが、第2センサ52の出力信号を増幅するアンプ回路、および、その増幅された出力信号より所定のパラメータを計測して出力する計測部を内蔵しており、第2センサ52を制御して出力させた出力信号を増幅し、乳幼児の呼吸時間と発声時間を計測し、計測値をセンサ出力としてセレクタ57に供給する。
第3センサ53は、図示は省略するが、乳幼児の体温の変化を検知し、その変化を電気信号に変換する赤外線(温度)センサよりなり、センサドライバ56に制御されて、体温の変化を変換して得られた電気信号をセンサドライバ56に出力信号として出力する。センサドライバ56は、図示は省略するが、第3センサ53の出力信号を増幅するアンプ回路、および、その増幅された出力信号より所定のパラメータを計測して出力する計測部を内蔵しており、第3センサ53を制御して出力させた出力信号を増幅し、乳幼児の呼吸時間と発声時間を計測し、計測値をセンサ出力としてセレクタ57に供給する。
セレクタ57は、制御部31に制御され、センサドライバ54乃至センサドライバ56より供給された第1センサ51乃至第第3センサ53のセンサ出力の内、いずれか1つを選択し、制御部31に供給する。
低速通信部42は、上述したように、IEEE802.11bやブルートゥース等の低速な無線通信方式により、アンテナ11を介して、図1の主制御装置20と通信を行い、主制御装置20より供給された、後述するセンサ指定情報やテーブルに関する情報等を含む制御情報を取得すると、その制御情報を制御部31に供給する。また、低速通信部42は、制御部31を介してセンサ部41より供給されたセンサ出力を主制御装置20に供給する。
通知情報取得部43は、乳幼児を撮像し、得られた画像データを出力する撮像部61、および乳幼児の泣き声等を集音し、得られた音声データを出力する集音部62よりなり、主制御装置20のディスプレイやスピーカにおいて出力される(ユーザに通知される)、乳幼児の画像データや音声データを含む通知情報を取得する。
図3は、通知情報取得部43の内部の詳細な構成例を示す図である。図3において、撮像部61は、被写体である乳幼児84を撮像可能な方向に向けて設置されるカメラ83等により構成され、監視対象である乳幼児84を撮像し、カメラ83のCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の、図示せぬ光電素子により撮像画像を電気信号に変換し、画像データとして図2の通知情報処理部44に供給する。また、集音部62は、カメラ83の横方向両側の位置に所定の間隔で設置される2本のマイク81およびマイク82等を有し、主に乳幼児84が発声する音声をそれぞれ集音し、音声データとして通知情報処理部44に供給する。なお、マイク81およびマイク82は、乳幼児84が発声する音声の他に、例えば、乳幼児84近傍に位置する他の人物85が発声する音声等、不必要な音声も集音してしまう。従って、集音部82は、後述するように、マイク81において得られた音声信号と、マイク82において得られた音声信号との遅延量を算出して利用することで、監視対象である乳幼児84の位置と、乳幼児84近傍に位置する、監視対象でない他の人物85の位置とを区別し、不必要な雑音成分を除去することができるように、マイク81とマイク82の2つのマイクを用いて集音するようになされている。
図2に戻り、通知情報取得部43の撮像部61より画像データを取得したり、集音部62より音声データを取得したりした通知情報処理部44は、取得した画像データに画像処理を施したり、取得した音声データに信号処理を施したりする等して、送信用の通知情報を生成し、それを高速通信部45に供給する。
高速通信部45は、上述したように、IEEE802.11aやIEEE802.11g等の高速な無線通信方式により、アンテナ12を介して、図1の主制御装置20と通信を行い、通知情報処理部44より供給された通知情報を主制御装置20に供給する。
LUT記憶部46は、半導体メモリ等により構成され、センサ出力より得られる特徴量に基づいて監視装置10の動作を制御するためのLUT(Look Up Table)である特徴量テーブルを記憶する。
LUT記憶部46は、例えばROMやEEPROM(Electronically Erasable and Programmable Read Only Memory)等の不揮発性のメモリからなり、工場出荷時等に記録されたLUTを記憶する基本LUT記憶部71、および、例えば、フラッシュメモリやRAM等により構成され、図1の主制御装置20より供給される等した新たな特徴量テーブルを記憶する更新LUT記憶部72を内蔵しており、制御部31に要求された特徴量テーブル(LUT)を基本LUT記憶部71または更新LUT記憶部72に記憶されている特徴量テーブル(LUT)より検索し、制御部31に供給する。また、制御部31より供給された更新テーブルを更新LUT記憶部72に記憶させる。
電力供給部47は、例えば、電源アダプタ、乾電池、または蓄電池等により構成され、動作制御部48に制御され、監視装置10の各部に電力を供給する。なお、図2においては、電力供給部47による電力の主な供給先が矢印で示されているが、電力供給部47は、これ以外の各部にも電力を供給する。
動作制御部48は、制御部31により、テーブル91を参照するなどして算出された乳幼児84の状態値を供給されることにより制御され、その供給された状態値に基づいて、センサ部41、低速通信部42、通知情報取得部43、通知情報処理部44、並びに、高速通信部45等の動作の開始や終了を制御する。また、動作制御部48は、電力供給部47を制御して、センサ部41、低速通信部42、通知情報取得部43の撮像部61および集音部62、通知情報取得部44、並びに、高速通信部45への電力の供給の開始や停止を制御する。なお、図2においては、動作制御部48による動作の主な制御先が矢印で示されているが、動作制御部48は、これ以外の各部の動作も制御するようにしてもよい。
次に、図1の主制御装置20の内部の構成例について説明する。図4は、図1の主制御装置20の内部の構成例を示すブロック図である。
図4において、主制御装置20は、主制御装置20の各部の動作を制御する制御部101、制御部101において実行されるプログラムやデータを一時的に保持するRAM102、制御部101において実行されるプログラムやデータが記憶されているROM103を有している。
制御部101は、演算部、制御部、および保持部を含むCPU等により構成され、RAM102やROM103に記憶されているプログラムやデータを実行し、主制御装置20の各部を制御して、監視装置10より供給された乳幼児84に関する情報を取得したり、その取得した情報を解析して出力したり、ユーザ入力等に基づいて、監視装置10の動作を制御したりする。
また、主制御装置20は、その他に、アンテナ21を介して監視装置10と低速な無線通信を行う低速通信部111、アンテナ22を介して監視装置10と高速な無線通信を行う高速通信部112、高速通信部112により取得された通知情報の音声データに対して、雑音成分を除去する処理を行うフィルタバンク113、通知情報をデータベース化して蓄積する通知情報蓄積部114、通知情報蓄積部114に蓄積されている過去の通知情報より所望の通知情報を検索する通知情報検索部115、通知情報検索部115により検索された過去の通知情報を、監視装置10より供給された現在の通知情報と合成する合成処理部116、合成処理部116により合成された通知情報と、監視装置10より供給された現在の通知情報とのいずれか一方を、出力する通知情報として選択するセレクタ117、フィルタバンク113により雑音成分が除去された通知情報に含まれる音声データに対して音声解析を行い、ユーザの足音を特定する足音解析部121、フィルタバンク113により雑音成分が除去された通知情報に含まれる音声データに対して音声解析を行い、監視対象である乳幼児の泣き声の特徴量を抽出する音声解析部122、音声解析部122により抽出された乳幼児の泣き声の特徴量やユーザ入力に基づいて、ユーザが所望する泣き声の種類を特定する定性値判定部123、監視装置10の動作を制御するLUTを記憶するLUT記憶部131、ユーザ入力を受け付ける入力部141、制御部101に制御され、乳幼児の状態を示すメッセージ等を表示する簡易表示部142、セレクタ117により出力する情報として選択された通知情報を出力する通知情報出力部143を有している。
低速通信部111は、IEEE802.11bやブルートゥース等の低速な無線通信方式により、図2に示される監視装置10の低速通信部42と無線通信を行い、監視装置10より供給されるセンサ出力を取得して制御部101に供給したり、制御部101より供給される制御情報を監視装置10に供給したりする。監視装置10に供給する制御情報には、例えば、テーブル番号指定情報や更新テーブル、またはセンサ指定情報などが含まれる。
高速通信部112は、IEEE802.11aやIEEE802.11g等の高速な無線通信方式により、図2に示される監視装置10の高速通信部45と無線通信を行い、監視装置10より供給される通知情報を取得する。
フィルタバンク113は、図5に示されるような各部よりなり、取得した通知情報の雑音成分(乳幼児が発声する泣き声以外の音声)を除去する処理を行う。図5において、フィルタバンク113は、高速通信部112より供給される音声データに対して、所定の周波数以上の高周波成分を除去するローパスフィルタ161およびローパスフィルタ161により高周波成分を除去された通知情報に対して雑音成分を除去する処理を行う雑音成分除去処理部162を有している。
雑音成分除去処理部162は、ローパスフィルタ161により高周波成分を除去された音声データに含まれる、マイク81により集音された音声データの成分と、マイク82により集音された音声データの成分との間の遅延量を決定し、その遅延量を用いて音声データを補正する遅延量決定部171、遅延量決定部171において補正された音声データにおいて、マイク81により集音された音声データの成分と、マイク82により集音された音声データの成分とを加算する遅延補正加算処理部172、遅延量決定部171において補正された音声データにおいて、マイク81により集音された音声データの成分と、マイク82により集音された音声データの成分とを減算する遅延補正減算処理部173、遅延補正減算処理部173により減算された音声データより移動平均を算出する移動平均処理部174、遅延補正加算処理部172により加算された音声データおよび遅延補正減算処理部173により減算された音声データを加算する加算処理部175、加算処理部175において加算された音声データに基づいて、相関係数を算出する相関係数処理部176、音声データの内容を解析し、雑音成分を除去する部分であるか否かを判定する該当領域判定部177、該当領域判定部177において、雑音成分を除去する部分であると判定された領域において雑音成分の減衰処理を行う減衰処理部178を有している。
すなわち、フィルタバンク113は、フィルタを用いて通知情報に含まれる音声データの周波数帯域を制限するだけでなく、乳幼児84の泣き声以外の雑音成分を除去する処理を行う。
図4に戻り、通知情報蓄積部114は、例えば、ハードディスク等の磁気記録媒体や、光ディスク、光磁気ディスク、または半導体メモリ等により構成され、制御部101に制御され、高速通信部112より供給された通知情報に、制御部101を介して供給されたセンサ出力、音声解析部122の解析結果、および定性値判定部123の判定結果を対応付けて蓄積する。
通知情報検索部115は、制御部101により供給された、監視対象の現在の状況に関する情報に基づいて、その状況と同様の状況を通知情報蓄積部114に蓄積されている情報より検索し、現在の状況と同様か、若しくは、最も近い状況に対応する過去の通知情報を取得し、取得したその過去の通知情報を合成処理部116に供給する。
合成処理部116は、制御部101に制御されて、通知情報検索部115より供給された過去の通知情報を高速通信部112より供給された現在の通知情報に合成し、その合成された通知情報をセレクタ117に供給する。セレクタ117は、制御部101からの指示に基づいて、合成処理部116より供給される通知情報と、高速通信部112より供給された通知情報との内、いずれか一方を選択し、通知情報出力部143に供給する。
入力部141は、キーボード、マウス、タッチペン、カメラ、またはマイク等の入力インタフェースにより構成され、ユーザからの入力を受け付け、そのユーザ入力を制御部101に供給する。
簡易表示部142は、LCD(Liquid Crystal Display)等の小型のディスプレイ等により構成され、制御部101に制御されて、制御部101より供給された情報(例えば、乳幼児の状態を示すメッセージ等の文字情報)を表示する。
通知情報出力部143は、モニタ151やスピーカ152等を内蔵しており、制御部101に制御されて、セレクタ117より供給された通知情報を、それらのモニタ151やスピーカ152を用いて出力する。
次に図1の監視システム1の動作について説明する。
監視装置10の制御部31は、後述するように、センサ部41より供給されたセンサ出力や主制御装置20より供給された制御情報等に基づいて、センサ部41の動作を制御する。
初期状態において、制御部31は、センサ部41のセンサドライバ54等を制御し、第1センサ51を用いて音声信号を取得させ、その音声信号に基づいて呼吸時間と発声時間を計測させ、セレクタ57を介してその計測結果をセンサ出力として制御部31に供給させる。セレクタ57は、制御部31に制御されて、センサドライバ54より供給される計測値(呼吸時間と発声時間)を制御部31に供給するように入力を切り替える。
その際、制御部31は、動作制御部48を介して電力供給部47を制御し、センサ部41の第1センサ51、センサドライバ54、およびセレクタ57に電力を供給させ、それ以外の第2センサ52、第3センサ53、センサドライバ55、並びに、センサドライバ56への電力の供給を停止させる。このように不必要な回路への電力の供給を停止させることにより、電力の消費を抑制させることができる。これにより、監視装置10は、電池を電源として駆動する場合においても、より長時間動作することができる等、より効率的に動作することできる。
なお、第1センサ51は、通常、第2センサ52および第3センサと比較して消費電力が少なく、また集音の環境が良い場合には、最も正確にセンスすることが出来る。しかしながら、例えば、環境音(乳幼児84の泣き声以外の不必要な雑音成分)が大きい場合等において、センサドライバ54は、第1センサ51より出力された、その雑音成分が多く含まれる音声信号より、十分な精度で泣き声の波形を計測できずに不正確な計測結果をセンサ出力として出力してしまう恐れがある。
ところで、一般的な乳幼児の泣き声の呼吸時間は、およそ、200msecから650msecの間であり、発声時間は、およそ、200msecから1000msecの間であるということが広く知られている。従って、センサドライバ54において、このような範囲外の音声パターンが頻繁に計測されるような場合、制御部31は、第1センサ51より出力される音声信号に環境音が許容量以上に含まれていると判断し、その場合、使用するセンサを第2センサ52に切り替えて呼吸時間と発声時間を計測させる。
その際、制御部31は、動作制御部48を介して電力供給部47を制御し、センサ部41の第2センサ52、センサドライバ55、およびセレクタ57に電力を供給させ、それ以外の第1センサ51、第3センサ53、センサドライバ54、並びに、センサドライバ56への電力の供給を停止させる。このように不必要な回路への電力の供給を停止させることにより、電力の消費を抑制させることができる。これにより、監視装置10は、電池を電源として駆動する場合においても、より長時間動作することができる等、より効率的に動作することできる。
第2センサ52は、空圧センサであり、ゲインの大きなセンサアンプやチャージアンプが必要であるので第1センサ51の場合に比べて電力を消費してしまうが、精密な空気の流れを検知することができる。第2センサ52において検知された空圧の変化は、電気信号として、第1センサ51を使用した場合と同様に、センサドライバ55に供給される。センサドライバ55は、その取得した電気信号に基づいて、呼吸時間と発声時間を計測し、セレクタ57を介してその計測結果をセンサ出力として制御部31に供給する。セレクタ57は、制御部31に制御されて、センサドライバ55より供給される計測値(呼吸時間と発声時間)を制御部31に供給するように入力を切り替える。
しかしながら、例えば、乳幼児84が位置する空間において、風などのその他の要因により空圧が変化する場合もあり、そのような場合、センサドライバ55は、第2センサ52より出力された電気信号より、十分な精度で泣き声の波形を計測できずに不正確な計測結果をセンサ出力として出力してしまう恐れがある。
従って、センサドライバ55に供給された電気信号において、予め定められた所定の閾値を超えるような圧力値が計測されるような場合、制御部31は、第2センサ52より出力される電気信号に乳幼児84の泣き声以外の要因による圧力変化が許容量以上に含まれていると判断し、その場合、使用するセンサを第3センサ53に切り替えて呼吸時間と発声時間を計測させる。
その際、制御部31は、動作制御部48を介して電力供給部47を制御し、センサ部41の第3センサ53、センサドライバ56、およびセレクタ58に電力を供給させ、それ以外の第1センサ51、第2センサ52、センサドライバ54、並びに、センサドライバ55への電力の供給を停止させる。このように不必要な回路への電力の供給を停止させることにより、電力の消費を抑制させることができる。これにより、監視装置10は、電池を電源として駆動する場合においても、より長時間動作することができる等、より効率的に動作することできる。
第3センサ53は、呼吸による温度変化を検知するセンサであり、環境音や風などには影響されないが、第1センサ51や第2センサ52の場合と比較して電力を必要とする。
また、制御部31は、主制御装置20より供給された制御情報を、低速通信部42を介して取得した場合、その制御情報に含まれるセンサ指定情報に基づいて、使用するセンサを決定する。
その際、制御部31は、動作制御部48を介して電力供給部47を制御し、センサ部41において、使用するセンサに関する部分にのみ、電力を供給させ、センサ部41のそれ以外の各部への電力の供給を停止させる。このように不必要な回路への電力の供給を停止させることにより、電力の消費を抑制させることができる。これにより、監視装置10は、電池を電源として駆動する場合においても、より長時間動作することができる等、より効率的に動作することできる。
監視装置10に電源が投入され、制御部31に電源が供給されると、制御部31は、センサ切り替え処理を実行することにより、上述したように使用するセンサの切り替えを行う。このセンサ切り替え処理を図6および図7のフローチャートを参照して説明する。
最初に、ステップS1において、制御部31は、センサドライバ54を介して、第1センサ51が動作しているか否かを判定し、動作していないと判定した場合、ステップS2に処理を進める。制御部31は、ステップS2において、動作制御部48を介して電力供給部47を制御し、第1センサ51に対する電力の供給を開始させるとともに、センサドライバ54およびセレクタ57に対する電力の供給も開始させ、さらに、センサ部41の動作させない各部(第2センサ52、第3センサ53、センサドライバ55、並びに、センサドライバ56)に対する電力の供給を停止させる。そして、制御部31は、ステップS3において、センサドライバ54を制御し、第1センサ51による計測処理を開始させる。第1センサ51による計測処理を開始させた制御部31は、ステップS4に処理を進める。また、ステップS1において、第1センサ51が動作していると判定した場合、制御部31は、ステップS2およびステップS3の処理を省略し、ステップS4に処理を進める。
ステップS4において、制御部31は、センサドライバ54において計測される発声時間および呼吸時間が上述した条件(呼吸時間がおよそ200msecから650msecの間で計測され、発声時間がおよそ200msecから1000msecの間で計測されること)を満たすか否かを判定し、その判定結果に基づいて、第1センサ51の出力を解析可能であるか否かを判定する。センサドライバ54において計測される発声時間および呼吸時間が上述した範囲外で頻繁に計測され、上述した条件を満たしておらず、第1センサ51の出力を解析不可能であると判定した場合、制御部31は、第1センサ51より出力される音声信号に環境音が許容量以上に含まれていると判断し、使用するセンサを第2センサ52に切り替えて呼吸時間と発声時間を計測させる。すなわち、制御部31は、その場合、ステップS5に処理を進め、センサドライバ54を制御して第1センサ51による計測処理を終了させ、ステップS6において、動作制御部48を介して電力供給部47を制御し、第1センサ51およびセンサドライバ54に対する電力の供給を停止させ、ステップS7において、動作制御部48を介して電力供給部47を制御し、第2センサ52およびセンサドライバ55に対する電力の供給を開始させ、ステップS8において、センサドライバ55を制御して、第2センサ52による計測処理を開始させ、ステップS9に処理を進める。
ステップS9において、制御部31は、センサドライバ55において予め定められた所定の閾値を超えるような圧力値が計測されるか否かを判定し、その判定結果に基づいて、第2センサ52の出力を解析可能であるか否かを判定する。センサドライバ55において予め定められた所定の閾値を超えるような圧力値が計測され、第2センサ52の出力を解析不可能であると判定した場合、制御部31は、第2センサ52より出力される電気信号に乳幼児84の泣き声以外の要因による圧力変化が許容量以上に含まれていると判断し、使用するセンサを第3センサ53に切り替えて呼吸時間と発声時間を計測させる。すなわち、制御部31は、その場合、ステップS10に処理を進め、センサドライバ55を制御して第2センサ52による計測処理を終了させ、ステップS11において、動作制御部48を介して電力供給部47を制御し、第2センサ52およびセンサドライバ55に対する電力の供給を停止させ、ステップS12において、動作制御部48を介して電力供給部47を制御し、第3センサ53およびセンサドライバ56に対する電力の供給を開始させ、ステップS13において、センサドライバ56を制御して、第3センサ53による計測処理を開始させ、処理を図7のステップS21に進める。
図7のステップS201において、制御部31は、センサドライバ56において、第3センサ53の出力を解析可能であるか否かを判定する。センサドライバ56において予め定められた所定の閾値を超えるような温度変化が計測され、第3センサ53の出力を解析不可能であると判定した場合、制御部31は、第3センサ53より出力される電気信号に、乳幼児84が泣き声を発生する以外の要因による温度変化が許容量以上に含まれていると判断し、センサによる呼吸時間と発声時間の計測を中止させる。すなわち、制御部31は、その場合、ステップS22に処理を進め、センサドライバ56を制御して第3センサ53による計測処理を終了させ、ステップS23において、動作制御部48を介して電力供給部47を制御し、第3センサ53、センサドライバ54、およびセレクタ57に対する電力の供給を停止させ(すなわち、センサ部41に対する電力の供給を停止させ)、ステップS24において、エラー処理を行った後、ステップS25に処理を進め、終了処理を行った後、センサ切り替え処理を終了する。
なお、図6のステップS4において第1センサ51の出力を解析可能と判定した場合、図6のステップS9において第2センサ52の出力を解析可能と判定した場合、または、図7のステップS21において第3センサ53の出力を解析可能と判定した場合、制御部31は、それぞれの場合において、それぞれのセンサを用いて計測処理を行うために、処理をステップS25に進め、終了処理を行った後、センサ切り替え処理を終了する。
以上のように、制御部31は、センサ切り替え処理を行い、最適なセンサを用いて乳幼児84の呼吸時間と発声時間を計測させ、それらを含むセンサ出力を取得する。なお、このセンサ切り替え処理は、監視装置10が乳幼児84を監視している間、制御部31により、所定の間隔で繰り返され、そのときの状態において最適なセンサが選択される。
このようにして、制御部31は、環境に応じてセンサ部41のセンサを切り替え、適切かつ、必要最低限の電力で所望の泣き声に反応するようにセンサ部41を動作させる。これにより、監視装置10は、電池を電源として駆動する場合においても、より長時間動作することができる等、より効率的に動作することできる。
また、制御部31は、低速通信部42を介して取得した、主制御装置20より供給された制御情報に含まれるテーブル番号指定情報に基づいて、LUT記憶部46の基本LUT記憶部71に記憶されている特徴量テーブルの中から、使用する特徴量テーブルを決定する。さらに、制御部31は、低速通信部42を介して取得した、主制御装置20より供給された制御情報に、新たな特徴量テーブルである更新テーブルが含まれている場合、その更新テーブルをLUT記憶部46に供給し、更新LUT記憶部72に記憶させるとともに、RAM32に保持させる。制御部31は、後述するように、その更新テーブルを参照することにより、乳幼児84の状態値を決定し、その状態値を動作制御部48に供給する。
制御部31は、このようにセンサ部41より供給されたセンサ出力や主制御装置20より供給された制御情報等に基づいて、LUT記憶部46より特徴量テーブルを取得し、その特徴量テーブルより算出される乳幼児84の状態値に応じて、適宜、各部を制御し、主制御装置20に画像データや音声データ等の通知情報を供給させる。
具体的には、制御部31は、監視装置10に電源が投入され、制御部31に電源が供給されると、センサ部41を制御して、センサ出力を供給させるとともに、監視制御処理を実行し、取得したセンサ出力と、LUT記憶部46より取得した特徴量テーブルに基づいて各部を制御する。監視制御処理を図8のフローチャートを参照して説明する。また、必要に応じて図9を参照して説明する。
制御部31は、最初に、ステップS31において、監視制御処理を終了するか否かを判定する。終了しないと判定した場合、制御部31は、ステップS32に処理を進め、センサ部41を制御してセンサ出力を取得し、ステップS33において、取得したセンサ出力を解析し、特徴量テーブルに対応する発声時間や呼吸時間等のパラメータを生成する。パラメータを生成した制御部31は、ステップS34において、LUT記憶部46より取得した特徴量テーブルを参照する。
図9は、LUT記憶部46に記憶されるLUTの例を示す図である。図9に示される特徴量テーブル181は、乳幼児84の泣き声の2つの特徴量と、その乳幼児84の状態を行列で対応付けたテーブルである。特徴量テーブル181の列は監視対象である図3の乳幼児84の呼吸時間(無音時間)の長さを示しており、行は監視対象である乳幼児84の発声時間の長さを示している。特徴量テーブル181においては、呼吸時間および発声時間の長さに応じて、乳幼児84の状態が値「0」乃至「3」の4段階にグループ分けされており、呼吸時間および発声時間の長さに基づいて、この値(以下、状態値と称する)が算出されるようになされている。動作制御部48は、後述するように、この状態値に基づいて主制御装置20に供給する情報の内容を決定する。
すなわち、制御部31は、ステップS34において、センサ部41より出力されるセンサ出力から得られた発声時間や呼吸時間等のパラメータから、この特徴量テーブル181を用いて乳幼児84の状態値を算出する。
乳幼児84の状態値を算出した制御部31は、ステップS35において、その状態値を動作制御部48に供給することにより、状態値に基づいて各部の動作を制御させる。
ステップS35の処理を終了した制御部31は、ステップS31に処理を戻し、それ以降の処理を繰り返す。すなわち、制御部31は、ステップS31乃至ステップS35の処理を繰り返し実行し、センサ部41より供給されるセンサ出力に基づいて、各部の制御を行う。そして、ステップS31において、例えば、図示せぬ入力部等を介して入力されたユーザ入力等に基づいて、監視装置10の電源をオフしたり、サスペンド状態に移行したりするために、監視制御処理を終了すると判定した場合、制御部31は、ステップS36に処理を進め、終了処理を行った後、監視制御処理を終了する。
ところで、図9の特徴量テーブル181は、呼吸時間(無音時間)や発声時間に基づいて乳幼児84の状態値を決定するテーブルであるが、一般的に、乳幼児の泣き声の意味は、その呼吸時間と発声時間、もしくはその割合で、良く分類できることが知れられている。従って、特徴量テーブル181における状態値を、この乳幼児の泣き声の意味に基づいて設定することにより、監視装置10が、この特徴量テーブル181に基づいて、所望の泣き声の時だけを判定して、主制御装置20へ画像データや音声データなどを送信するようにすることもできる。
また、特徴量テーブル181を構成する乳幼児84の泣き声の特徴量は、上述した以外の特徴量であってもよいし、その特徴量の数もいくつであってもよい。
制御部31は、LUT記憶部46より利用する特徴量テーブル181を取得すると、それをRAM32または制御部31に内蔵される保持部等に保持し、上述したように、センサ部41より供給されるセンサ出力(乳幼児84の呼吸時間および発声時間の長さ)から、特徴量テーブル181を用いて乳幼児84の状態値を決定し、その状態値を動作制御部48に供給する。動作制御部48は、その状態値に基づいて、電力供給部47、通知情報取得部43、通知情報処理部44、高速通信部45、センサ部41、および低速通信部42の動作を制御する。
例えば、状態値が「3」の場合、動作制御部48は、電力供給部47を制御して、通知情報取得部43の撮像部61および集音部62、通知情報処理部44、並びに高速通信部45に電力を供給して起動し、画像データと音声データとを通知情報として主制御装置20へ送信するように制御する。
これにより、通知情報取得部43の撮像部61は、動作制御部48により制御され、監視対象である乳幼児84を撮像し、乳幼児84の画像を画像データとして取得し、通知情報処理部44に供給する。また、通知情報取得部43の集音部62は、動作制御部48により制御され、監視対象である乳幼児84の発声する泣き声(乳幼児84の位置する空間の音声)を音声データとして取得し、通知情報処理部44に供給する。
通知情報処理部44は、動作制御部48により制御され、供給された画像データおよび音声データを取得すると、それらに画像処理や信号処理を施し、それらを含む送信用の通知情報を生成し、高速通信部45に供給する。高速通信部45は、アンテナ12を介して主制御装置20と通信を行い、供給された、画像データおよび音声データを含む通知情報を主制御装置20に供給する。
また、取得した状態値が「2」の場合、動作制御部48は、電力供給部47を制御して、通知情報取得部43の集音部62、通知情報処理部44、並びに高速通信部45を起動し、音声データのみを主制御装置20へ送信させる。このとき、動作制御部48は、撮像部61により実行されている処理を終了させるとともに、電源供給部47を制御して撮像部61への電力の供給を停止させる。また、この場合、送信する情報量が少ないために高速通信部45の動作時間が、上述した状態値が「3」場合と比較して短縮されるので、監視装置10は、電力の消費を抑制させることができる。
ところで、取得した状態値が「1」若しくは「0」の場合、動作制御部48は、通知情報取得部43の撮像部61および集音部62、通知情報処理部44、並びに高速通信部45の動作を停止させるとともに、電力供給部47を制御して、これらの各部への電力の供給を停止させる。
なお、状態値が「1」乃至「3」の場合、動作制御部48は、さらに、電源供給部47を制御して、センサ部41および低速通信部42に電力を供給して起動させ、センサ出力を供給したり、制御信号を受信したりする。
この様に、動作制御部48は、制御部31に制御され、必要最低限の回路だけを動作させる。これにより、監視装置10は、低消費電力化を実現することができ、電池を電源として駆動する場合においても、より長時間動作することができる等、より効率的に動作することできる。
制御部31より状態値を供給される動作制御部48は、監視装置10に電源が投入されると、動作制御処理の実行を開始する。そして、制御部31より状態値を供給されると、動作制御部48は、上述したようにその状態値に基づいて各部の動作を制御する。図10乃至図12のフローチャートを参照して、動作制御処理について説明する。
最初に、動作制御部48は、図10のステップS51において、制御部31より供給された状態値が「0」であるか否かを判定し、状態値が「0」であると判定した場合、通知情報の提供や、主制御装置20との低速無線通信などの処理を行わないように、監視制御装置10の各部を制御するために、ステップS52に処理を進める。
ステップS52において、動作制御部48は、監視装置10の各部において、通知情報を主制御装置20に供給するための処理である、後述する第1の通知情報提供処理や第2の通知情報提供処理、または、主制御装置20と低速無線通信を行う低速通信処理が実行されているか否かを判定する。通知情報提供処理(第1の通知情報提供処理若しくは第2の通知情報提供処理)または低速通信処理が実行されていると判定した場合、動作制御部48は、ステップS53において、通知情報提供処理および低速通信処理を終了させ、ステップS54において、電力供給部47を制御し、撮像部61、集音部62、通知情報処理部44、高速通信部45、並びに、低速通信部42に対する電力の供給を停止させる。
ステップS54の処理を終了した動作制御部48は、ステップS55に処理を進める。また、ステップS51において、制御部31より供給された状態値が「0」でないと判定した場合、動作制御部48は、ステップS52乃至ステップS54の処理を省略し、ステップS55に処理を進める。さらに、ステップS52において、通知情報提供処理(第1の通知情報提供処理若しくは第2の通知情報提供処理)、および低速通信処理が実行されていないと判定した場合、動作制御部48は、ステップS53およびステップS54の処理を省略し、ステップS55に処理を進める。
ステップS55において、動作制御部48は、制御部31より供給された状態値が「1」であるか否かを判定し、状態値が「1」であると判定した場合、ステップS56に処理を進める。
状態値が「1」である場合、動作制御部48は、監視装置10が通知情報の提供に関する処理である通知情報制御処理を行わないように監視装置10の各部を制御するとともに、監視装置10が主制御装置20との低速無線通信を行うように監視装置10の各部を制御する。
ステップS56において、動作制御部48は、監視装置10の各部において、通知情報提供処理(第1の通知情報提供処理若しくは第2の通知情報提供処理)が実行されているか否かを判定する。通知情報提供処理が実行されていると判定した場合、動作制御部48は、ステップS57において、通知情報提供処理を終了させ、ステップS58において、電力供給部47を制御し、撮像部61、集音部62、通知情報処理部44、並びに高速通信部45に対する電力の供給を停止させる。
ステップS58の処理を終了した動作制御部48は、ステップS59に処理を進める。また、ステップS56において、通知情報提供処理(第1の通知情報提供処理若しくは第2の通知情報提供処理)、が実行されていないと判定した場合、動作制御部48は、ステップS57およびステップS58の処理を省略し、ステップS59に処理を進める。
ステップS59において、動作制御部48は、低速通信処理が実行されているか否かを判定し、低速通信部42に電力が供給されておらず、低速通信処理が実行されていないと判定した場合、ステップS60に処理を進め、電力供給部47を制御して、低速通信部42に対する電力の供給を開始し、ステップS61において、低速通信部42を制御して低速通信処理を開始させ、図11のステップS71に処理を進める。
また、動作制御部48は、ステップS55において、制御部31より供給された状態値が「1」でないと判定した場合や、ステップS59において、低速通信処理が実行されていると判定した場合、図11のステップS71に処理を進める。
図11のステップS71において、動作制御部48は、制御部31より供給された状態値が「2」であるか否かを判定し、状態値が「2」であると判定した場合、ステップS72に処理を進める。
状態値が「2」である場合、動作制御部48は、監視装置10が通知情報として音声データのみを、主制御装置20に供給するように監視装置10の各部を制御するとともに、監視装置10が主制御装置20との低速無線通信を行うように監視装置10の各部を制御する。
ステップS72において、動作制御部48は、監視装置10の各部において、画像データおよび音声データを通知情報として主制御装置20に供給する第2の通知情報提供処理が実行されているか否かを判定する。第2の通知情報提供処理が実行されていると判定した場合、動作制御部48は、ステップS73において、第2の通知情報提供処理を終了させ、ステップS74において、電力供給部47を制御し、撮像部61に対する電力の供給を停止させる。
ステップS74の処理を終了した動作制御部48は、ステップS75に処理を進める。また、ステップS72において、第2の通知情報提供処理が実行されていないと判定した場合、動作制御部48は、ステップS73およびステップS74の処理を省略し、ステップS75に処理を進める。
ステップS75において、動作制御部48は、音声データのみを通知情報として主制御装置20に供給する第1の通知情報提供処理が実行されているか否かを判定し、集音部62等に電力が供給されておらず、第1の通知情報提供処理が実行されていないと判定した場合、ステップS76に処理を進め、電力供給部47を制御して、集音部62、通知情報処理部44、並びに高速通信部45に対する電力の供給を開始させ、ステップS77において、それらの各部を制御して第1の通知情報提供処理を開始させる。
ステップS77の処理を終了した動作制御部48は、ステップS78に処理を進める。また、ステップS75において、第1の通知情報提供処理が実行されていると判定した場合、動作制御部48は、ステップS76およびステップS77の処理を省略し、ステップS78に処理を進める。
ステップS78において、動作制御部48は、低速通信処理が実行されているか否かを判定し、低速通信部42に電力が供給されておらず、低速通信処理が実行されていないと判定した場合、ステップS79に処理を進め、電力供給部47を制御して、低速通信部42に対する電力の供給を開始し、ステップS80において、低速通信部42を制御して低速通信処理を開始させ、図12のステップS91に処理を進める。
また、動作制御部48は、ステップS71において、制御部31より供給された状態値が「2」でないと判定した場合や、ステップS78において、低速通信処理が実行されていると判定した場合、図12のステップS91に処理を進める。
図12のステップS91において、動作制御部48は、制御部31より供給された状態値が「3」であるか否かを判定し、状態値が「3」であると判定した場合、ステップS92に処理を進める。
状態値が「3」である場合、動作制御部48は、監視装置10が高速無線通信により画像データおよび音声データを通知情報として主制御装置20に供給するとともに、低速無線通信により制御情報を取得したり、センサ出力を主制御装置20に供給したりするように、各部を制御する。
ステップS92において、動作制御部48は、監視装置10の各部において、第1の通知情報提供処理が実行されているか否かを判定する。第1の通知情報提供処理が実行されていると判定した場合、動作制御部48は、ステップS93において、第1の通知情報提供処理を終了させる。
ステップS93の処理を終了した動作制御部48は、ステップS94に処理を進める。また、ステップS92において、第1の通知情報提供処理が実行されていないと判定した場合、動作制御部48は、ステップS93の処理を省略し、ステップS94に処理を進める。
ステップS94において、動作制御部48は、第2の通知情報提供処理が実行されているか否かを判定し、撮像部61に電力が供給されておらず、第2の通知情報提供処理が実行されていないと判定した場合、ステップS95に処理を進め、電力供給部47を制御して、撮像部61、集音部62、通知情報処理部44、並びに高速通信部45に対する電力の供給を開始させ、ステップS96において、それらの各部を制御して第2の通知情報提供処理を開始させる。
ステップS96の処理を終了した動作制御部48は、ステップS97に処理を進める。また、ステップS94において、第2の通知情報提供処理が実行されていると判定した場合、動作制御部48は、ステップS95およびステップS96の処理を省略し、ステップS97に処理を進める。
ステップS97において、動作制御部48は、低速通信処理が実行されているか否かを判定し、低速通信部42に電力が供給されておらず、低速通信処理が実行されていないと判定した場合、ステップS98に処理を進め、電力供給部47を制御して、低速通信部42に対する電力の供給を開始し、ステップS99において、低速通信部42を制御して低速通信処理を開始させ、ステップS100に処理を進める。
また、動作制御部48は、ステップS91において、制御部31より供給された状態値が「3」でないと判定した場合や、ステップS97において、低速通信処理が実行されていると判定した場合、ステップS100に処理を進める。
ステップS100において、動作制御部48は、動作制御処理を終了するか否かを判定し、終了しないと判定した場合、処理を図10のステップS51に戻し、それ以降の処理を繰り返す。すなわち、動作制御部48は、図10のステップS51乃至図12のステップS100の処理を繰り返すことにより、制御部31より供給される状態値に基づいて、各部の動作を制御する。
図12のステップS100において、図示せぬ入力部を介して入力されたユーザ入力等に基づいて、監視装置10の電源をオフしたり、サスペンド状態に移行したりするために、動作制御処理を終了すると判定した場合、動作制御部48は、ステップS101に処理を進め、終了処理を行った後、動作制御処理を終了する。
以上のように、動作制御部48が動作制御処理を実行することにより、制御部31は、乳幼児84の状態を示す状態値を動作制御部48に供給することにより、各部の動作を制御し、主制御装置10に供給する通知情報の内容を決定したり、制御情報の取得やセンサ出力の供給等を制御したりすることができる。すなわち、監視装置10は、監視対象である乳幼児84の状態に基づいて、必要最低限の情報を主制御装置20に供給することができるので、低消費電力化を実現することができ、電池を電源として駆動する場合においても、より長時間動作することができる等、より効率的に動作することできる。
次に、上述した、音声データのみを通知情報として主制御装置20に供給する第1の通知情報提供処理について、図13のフローチャートを参照して説明する。
最初に、監視装置10の通知情報取得部43に含まれる集音部62は、ステップS121において、動作制御部48に制御され、マイク81およびマイク82を用いて、監視対象である乳幼児84が存在する空間の音声を集音する集音処理を行い、音声を電気信号(音声信号)に変換し、その音声信号を増幅し、A/D(Analog / Digital)変換するなどして音声データを生成し、その音声データを通知情報処理部44に供給するとともに、ステップS122に処理を進める。
ステップS122において、通知情報処理部44は、動作制御部48に制御され、供給された音声データに対してフィルタ処理や補正処理等を行い、送信用の通知情報を生成し、その通知情報を高速通信部45に供給し、ステップS123に処理を進める。ステップS123において、高速通信部45は、動作制御部48に制御されて、アンテナ12を介して主制御装置20と高速無線通信を行い、供給された通知情報を主制御装置20に送信する。通知情報を送信した高速通信部45は、ステップS124に処理を進める。
ステップS124において、集音部62、通知情報処理部44、および高速通信部45は、動作制御部48に制御されて第1の通知情報提供処理を終了するか否かを判定し、終了しないと判定した場合、ステップS121に処理を戻し、それ以降の処理を繰り返す。また、動作制御部48に制御されて、第1の通知情報提供処理を終了すると判定した場合、集音部62、通知情報処理部44、および高速通信部45は、ステップS125に処理を進め、終了処理を行い、第1の通知情報提供処理を終了する。
このように、集音部62、通知情報処理部44、および高速通信部45の各部は、第1の通知情報提供処理を行い、音声データのみを含む通知情報を主制御装置20に供給する。
次に、上述した、音声データおよび画像データを通知情報として主制御装置20に供給する第2の通知情報提供処理について、図14のフローチャートを参照して説明する。
最初に、監視装置10の通知情報取得部43に含まれる撮像部61は、ステップS141において、動作制御部48に制御され、カメラ83を用いて、監視対象である乳幼児84を撮像し画像データを得る撮像処理を行い、カメラ83に内蔵されるCCD等の光電変換素子により入射光を光電変換して画像信号を生成し、その画像信号を増幅し、A/D(Analog / Digital)変換するなどして画像データを生成し、その画像データを通知情報処理部44に供給するとともに、ステップS142に処理を進める。
監視装置10の通知情報取得部43に含まれる集音部62は、ステップS142において、動作制御部48に制御され、マイク81およびマイク82を用いて、監視対象である乳幼児84が存在する空間の音声を集音する集音処理を行い、音声を電気信号(音声信号)に変換し、その音声信号を増幅し、A/D変換するなどして音声データを生成し、その音声データを通知情報処理部44に供給するとともに、ステップS143に処理を進める。
ステップS143において、通知情報処理部44は、動作制御部48に制御され、供給された画像データおよび音声データに対してフィルタ処理や補正処理等を行い、送信用の通知情報を生成し、その通知情報を高速通信部45に供給し、ステップS144に処理を進める。ステップS144において、高速通信部45は、動作制御部48に制御されて、アンテナ12を介して主制御装置20と高速無線通信を行い、供給された通知情報を主制御装置20に送信する。通知情報を送信した高速通信部45は、ステップS145に処理を進める。
ステップS145において、撮像部61、集音部62、通知情報処理部44、および高速通信部45は、動作制御部48に制御されて第2の通知情報提供処理を終了するか否かを判定し、終了しないと判定した場合、ステップS141に処理を戻し、それ以降の処理を繰り返す。また、動作制御部48に制御されて、第2の通知情報提供処理を終了すると判定した場合、撮像部61、集音部62、通知情報処理部44、および高速通信部45は、ステップS146に処理を進め、終了処理を行い、第2の通知情報提供処理を終了する。
このように、撮像部61、集音部62、通知情報処理部44、および高速通信部45の各部は、第2の通知情報提供処理を行い、画像データおよび音声データを含む通知情報を主制御装置20に供給する。
次に、センサ出力を主制御装置20に供給したり、主制御装置20より供給された制御情報を取得したりする低速通信処理について、図15のフローチャートを参照して説明する。
最初に、ステップS161において、低速通信部42は、主制御装置20との通信接続処理を実行し、主制御装置20との無線通信を確立する。ステップS162において、低速通信部42は、ステップS161の通信接続処理により、主制御装置20との無線通信が確立し、接続が完了したか否かを判定し、接続したと判定した場合、ステップS163に処理を進める。
ステップS163において、低速通信部42は、低速無線通信により主制御装置20より供給された制御情報を、アンテナ11を介して受信したか否かを判定し、受信したと判定した場合、ステップS164に処理を進め、受信した制御情報を制御部31に供給する。ステップS164の処理が終了すると低速通信部42は、ステップS165に処理を進める。また、ステップS163において制御情報を受信していないと判定した場合、低速通信部42は、ステップS164の処理を省略し、ステップS165に処理を進める。
ステップS165において、低速通信部42は、制御部31よりセンサ出力が供給されたか否かを判定し、供給されたと判定した場合、ステップS166に処理を進め、供給されたセンサ出力を、アンテナ11を介して、低速の無線通信により主制御装置20に送信する。ステップS166の処理を終了すると低速通信部42は、ステップS167に処理を進める。また、ステップS165においてセンサ出力が供給されていないと判定した場合、低速通信部42は、ステップS166の処理を省略し、ステップS167に処理を進める。
ステップS167において、低速通信部42は、低速通信処理を終了するか否かを判定し、終了しないと判定した場合、処理をステップS163に戻し、それ以降の処理を繰り返す。また、ステップS167において、動作制御部48に制御される等して、低速通信処理を終了すると判定した場合、低速通信部42は、ステップS168に処理を進め、終了処理を行った後、低速通信処理を終了する。
なお、ステップS162において、主制御装置20との通信の確立に失敗し、主制御装置20と接続されていないと判定した場合、低速通信部42は、ステップS169に処理を進め、エラー処理を行い、ステップS168において終了処理を行った後、低速通信処理を終了する。
このように、低速通信部42は、センサ出力を主制御装置20に供給したり、主制御装置20より供給された制御情報を取得したりする。
以上のように、通知情報等を供給された主制御装置20は、供給された通知情報をユーザに提示する等の各種の処理を行う。
次に、主制御装置20の動作について説明する。
主制御装置20の制御部101は、入力部141を介して入力されるユーザ入力、または、図1の監視装置10より供給されるセンサ出力、若しくは通知情報に基づいて、主制御装置20の各部の動作を制御する。
監視装置10より音声データや画像データ等の通知情報が供給されると、高速通信部112は、アンテナ22を介してその通知情報を取得し、図示せぬ内蔵キャッシュメモリ等に保持する。そして、高速通信部112は、例えば所定のデータ量毎に、その保持している通知情報を、通知情報蓄積部114、合成処理部116、およびセレクタ117に供給するとともに、その通知情報より抽出した音声データをフィルタバンク113に供給する。
また、監視装置10よりセンサ出力が供給されると、低速通信部111は、アンテナ21を介してそのセンサ出力を取得し、図示せぬ内蔵キャッシュメモリ等に保持する。そして、低速通信部111は、例えば所定のデータ量毎に、その保持しているセンサ出力を制御部101に供給する。
主制御装置20の各部は、受信制御処理を実行することにより、監視装置10より供給される通知情報やセンサ出力の受信処理を制御する。図16のフローチャートを参照して、受信制御処理を説明する。
最初に、主制御装置20の低速通信部111および高速通信部112は、ステップS181において、制御部101に制御されて、通知情報およびセンサ出力の受信を開始する。
ステップS182において、高速通信部112は、監視装置10より送信された通知情報を受信したか否かを判定し、アンテナ22を介して通知情報を受信したと判定した場合、ステップS183に処理を進め、その受信した通知情報を一時的に保持していき、ステップS184において、所定のタイミング、または、所定のデータ量を保持する毎に、その保持している通知情報より音声データを抽出し、フィルタバング113に供給する。また、高速通信部112は、ステップS185において、所定のタイミング、または、所定のデータ量を保持する毎に、保持している通知情報(音声データを含む)を通知情報蓄積部114、合成処理部116、およびセレクタ117等に供給する。通知情報を供給した高速通信部112は、ステップS186に処理を進める。また、ステップS182において、通知情報を受信していないと判定した高速通信部112は、ステップS183乃至ステップS185の処理を省略し、ステップS186に処理を進める。
ステップS186において、低速通信部111は、監視装置10より送信されたセンサ出力を受信したか否かを判定し、アンテナ21を介してセンサ出力を受信したと判定した場合、ステップS187に処理を進め、その受信したセンサ出力を一時的に保持していき、ステップS188において、所定のタイミング、若しくは、所定のデータ量を保持する毎に、または、ユーザ等の指示に基づいて、その保持しているセンサ出力を制御部101に供給する。センサ出力を供給した低速通信部111は、ステップS189に処理を進める。また、ステップS186において、センサ出力を受信していないと判定した低速通信部112は、ステップS187およびステップS188の処理を省略し、ステップS189に処理を進める。
ステップS189において、制御部101は、受信制御処理を終了するか否かを判定し、終了しないと判定した場合、ステップS182に処理を戻し、それ以降の処理を繰り返す。また、ステップS189において、受信制御処理を終了すると判定した場合、制御部101は、ステップS190において、終了処理を実行し、例えば、低速通信部111および高速通信部112を制御してセンサ出力や通知情報の受信を終了させるなどして、受信制御処理を終了する。
以上のようにして、主制御装置20は、監視装置10より供給される通知情報やセンサ出力を受信する。
以上のように高速通信部112より供給された音声データを取得したフィルタバンク113は、その音声データに対して、Wavelet変換、FIR(Finite Impulse Response)フィルタ、またはIIR(Infinite Impulse Response)フィルタによるローパスフィルタを用いてフィルタ処理を行ったり、雑音成分除去処理を行ったりする。例えば、フィルタバング113は、フィルタ処理を行うことにより、取得した音声データより、泣き声を含む周波数帯域(例えば数百Hz乃至数千Hz)の信号のみを抽出する。なお、フィルタバング113は、ハイパスフィルタやバンドパスフィルタを併用してフィルタ処理を行うようにしてもよい。フィルタバンク113による雑音成分の除去処理については後述する。また、フィルタバンク113は、例えば、サンプリング周波数が24KHzの音声データに対して、データ量が16分の1になるように間引き処理を行う等、通知情報のデータ量を必要十分に間引くことによって、後段における処理量を減らすようにしてもよい。
次に、例えば、図18のステップS255においてフィルタバンク113において実行される雑音成分の除去処理について具体的に説明する。なお、以下において、「除去」と「低減」を同義語として用いて説明する。
例えば、図17に示されるように乳幼児84が位置し、その乳幼児84の近傍において他の人物85が発声しているものとする。泣き声の特徴量について上述したが、通常外部騒音が無い場合、フィルタバンク113に供給される音声信号(音声データ)の波形は、図18に示されるような波形になる。そして、その音声データは、フィルタバンク113において処理され、図19に示されるように絶対値化される。フィルタバンク113の各部は、図19に示されるような計算用の音声信号に対して処理を行う。
図17において乳幼児84より出力された波形(泣き声)はマイク81に到達したのち、マイク82へ遅延量τ遅れて到達する。なお、以下において、マイク81にマイク82の波形を遅延量τ分だけ補正して、各波形の位相を互いに揃える処理のことを遅延量補正と称する。
図5に示される雑音成分除去処理部162において、遅延量決定部171は、図17に示される遅延量τを決定する。その方法として、例えば、ユーザにパラメータを解放する(遅延量τに関する情報をユーザが入力できるようにする)ようにしてもよい。例えば、通知情報出力部143のモニタ151にタッチパネルを重畳しておき、そのモニタ151に表示される乳幼児84の画像に基づいて、ユーザがモニタ151の画面上において乳幼児84の顔がある部分を指定すると、その位置をユーザ入力としてタッチパネルで検出し、制御部101や遅延量決定部171が、そのユーザ入力に基づいて乳幼児84の位置を算出して特定することができるようにし、マイク81およびマイク82の位置と乳幼児84の位置との関係から遅延量τを予め算出するようにしておいてもよい。
また,雑音成分除去処理部162において、出力側から遅延量決定部171にフィードバックをかけ、遅延量決定部171が、処理後の乳幼児84の泣き声を最も良好に抽出できる遅延量を決定するようにしてもよいし、さらに、通知情報出力部143のスピーカ152より出力される音声に基づいて、ユーザが、乳幼児84の泣き声を最もはっきりと聞き取れる遅延量τを決定する情報を、入力部141を介して入力できるようにし、そのユーザ入力に基づいて、遅延量決定部171が遅延量τを決定するようにしてもよい。
さらに、遅延量決定部171がマイク81において得られる音声信号と、マイク82において得られる音声信号との間の相関係数の関係に基づいて、遅延量τを計算するようにしてもよい。これは、2本のマイク間の遅延量を補正していき、マイク81において得られる音声信号と、マイク82において得られる音声信号との間の相関係数が最大値をとる点を遅延量τとする方法である。
以上の遅延量τは、騒音源である他の人物85が発声する音声についても同様に発生し、あらゆる方向からでも2本のマイク間では遅延量が発生する。
図20においてマイク81を基準とすると、乳幼児84からの波形は、マイク82に、マイク81に到達するよりτ1だけ遅れて到達し、騒音源である他の人物85からの波形は、マイク81に到達するよりτ2だけ早く、マイク82に到達している。基準マイク81における、これらの2つの波形(波形211および波形212)を、ある基準時刻t´に基づいて、それぞれx(t´)(波形212)、またはy(t´)(波形211)とすると、マイク82における、乳幼児84からの波形(波形221)はx(t´+τ1)で表すことができ、騒音源である他の人物85からの波形(波形222)はy(t´−τ2)で表すことができる。それらの波形(波形211および波形212、並びに、波形221および波形222)を、図20に示されるバッファ遅延器213およびバッファ223が基準時刻tに遅延補正すると、波形211は波形214に変換され、波形212は波形215に変換され、波形221は波形224に変換され、波形222は波形225に変換される。さらに、加算器231が、それらの波形(波形214および波形215、並びに、波形224および波形225)を、式(1)に示されるように加算し(ADD)、減算器232が、それらの波形(波形214および波形215、並びに、波形224および波形225)を、式(2)に示されるように減算する(SUB)。
ADD=2x(t)+y(t)+y(t−(τ1+τ2)) ・・・(1)
SUB=y(t)−y(t−(τ1+τ2)) ・・・(2)
以下において、変数xの項を乳幼児84の項と称し、変数yの項を騒音源の項と称する。図5に示される雑音成分除去処理部162において、遅延補正加算処理部172は、以上に示される式(1)の演算処理(図20の加算器231が実行する加算処理)を行い、遅延補正減算処理部173は、以上に示される式(2)の演算処理(図20の減算器232が実行する減算処理)を実行する。
ここで、これらの式(1)および式(2)に基づいて、図2の集音部62を構成する2本のマイクであるマイク81およびマイク82の特徴について説明する。
図20に示されるように、基準マイクであるマイク81において集音されて得られた音声信号を中心に遅延補正した後に、マイク81における音声信号と、マイク82における音声信号とを足し込む(加算する)と、乳幼児84の泣き声の波形は強調させることができ、騒音源からの雑音成分の波形は互いに位相がずれれば減衰させることができる。
また基準マイクであるマイク81において集音されて得られた音声信号を中心に遅延補正した後に、マイク81における音声信号より、マイク82における音声信号を引き込む(減算する)と、乳幼児84の泣き声の波形は理論的になくすことができ、騒音源からの雑音成分の波形は位相を変えて残すことができる。なお、ここで理論的と記述したが、実際には、減衰項や壁や床からの反射等を考慮すると、乳幼児84の泣き声の波形は完全には消えることはない。
騒音源(例えば、他の人物85)は移動する場合もあり、複数存在する場合もあるので、基準マイクであるマイク81において集音されて得られた音声信号を中心に遅延補正した後に、マイク81における音声信号より、マイク82における音声信号を引き込むだけの、一時的な処理では、雑音成分を十分に除去することができない場合がある。
以下において、この様な特徴を応用し、ターゲット(乳幼児84の泣き声)以外の騒音を低減させる方法について説明する。上述した式(1)および式(2)において、騒音源の項に着目し、加算結果ADD、並びに減算結果SUBについて説明する。加算結果ADDと減算結果SUBの位相関係について説明すると、どの周波数帯域においても(τ1+τ2)が半波長以内であれば、図21に示されるように、減算式である式(2)の騒音源の項の方が、加算式である式(1)の騒音源の項よりも見掛け上1/4波長(π/2)遅れる。
図21において、波形241は、加算式である式(1)における、マイク81に対応する騒音源の項(y(t))の波形であり、波形242は、加算式である式(1)におけるマイク82に対応する騒音源の項(y(t−(τ1+τ2)))の波形であり、波形243は、波形241と波形242の合成波形である。また、波形251は、減算式である式(2)における、マイク81に対応する騒音源の項(y(t))の波形であり、波形252は、減算式である式(2)におけるマイク82に対応する騒音源の項(−y(t−(τ1+τ2)))の波形であり、波形253は、波形251と波形252の合成波形である。なお、図21においては、位相のずれを各マイクにおける騒音源の要素である単一周波数にて表している。
図21において、波形252(y(t−(τ1+τ2)))の位相は波形242(−y(t−(τ1+τ2)))の位相に対して半波長(π)ずれている。また、波形243は、波形241と波形242の合成波形であり、その位相は、波形242の位相に対して(τ1+τ2)/2だけ遅れている。波形253も同様に、波形251と波形252の合成波形であり、その位相は、波形252の位相に対して(τ1+τ2)/2だけ進んでいる。従って、波形242および波形252の位相差は、波形252および波形242の位相差の半分、すなわち、1/4波長(π/2)となる。
次に、図5の移動平均処理部174が実行する処理について説明する。
移動平均は周波数帯域の高域の除去に主に使われ、その演算の際に、足し込まれるサンプルの数やポイントはどのような値であってもよい。上述した環境の場合、移動平均MAは、以下の式(3)のように示される。
Figure 0004517606
この時,足し込む波形の関数をf(x)とし、足し込むサンプル数をαとする。
この様に自身より後方を足し込む移動平均では、図22に示されるように、見掛け上、足し込むサンプル数αの1/2サンプルだけ位相が進む。図22において、グラフ260は、横軸がサンプル数を示し、縦軸が増幅度を示すグラフである。波形261は、上述した関数f(x)の波形を示し、波形262は、その波形261より算出された移動平均MAを示している。またこの時、式(3)の1/αの項より、移動平均MAの波形は、周波数によって元の波形に対する減衰率(図22のr)が異なる。
以上のように、騒音源の減算結果SUBは、加算結果ADDの場合に比べて、周波数の1/4波長分、見掛け上遅延する。また移動平均MAは、足し込むサンプル数αの1/2分だけ位相が進む。これらの特徴を利用し、図5の加算処理部175は、以下の式(4)に示される演算を行い、雑音成分を除去した除去波形NRを産出する。
NR=ADD/2−R×MA×SUB ・・・(4)
式(4)において、Rは除去率を表し、音声信号より雑音成分を除去する割合を表している。以上の式(4)における特徴の一つとして、ターゲットとしている乳幼児84の泣き声の波形は、原型をとどめていることがわかる。
以上のように、騒音源において発生する音声の帯域が除去できるような最適なパラメータ(移動平均足し込みサンプル数αや除去率R)を設定することで、雑音成分除去処理部162は、より騒音の低減を行うことができる。
例えば、乳幼児84は、泣き声を発声する場合、呼吸に合わせて声を出したり(例えば”ギャー”等)、息を吸ったり(例えば”ーーー”等)している。なお、ここで”ーーー”は、声を出しているときと、次の声を出しているときの間(例えば、”ギャー”と”ギャー”の間)に乳幼児84が息を吸い込むときの音(声を出していない部分の音)を示している。そこで、この声を出していない部分(無音部分)は冗長な領域であり、音声情報としては必要の無い部分であるので、雑音成分除去処理部162は、その部分の騒音を抑制することにより、より誤差が少ない特徴量を算出することができる。
そのために、雑音成分除去処理部162は、2本のマイク(マイク81およびマイク82)における音声信号の関係として、相関係数を利用する。図23は、この相関関係を説明するための図である。図23において、表270は、マイク81における乳幼児84の泣き声の波形(波形271)と、マイク82における乳幼児84の泣き声の波形(波形272)との相関関係、並びに、マイク81における騒音波形(波形273)と、マイク82における騒音波形(波形274)との相関関係を示している。表270においては、乳幼児84の泣き声の波形に着目し、その遅延量を補正することで波形271および波形272の位相を揃えており、これらの波形間(波形271と波形272の間)の差分は小さくなっており、これらの波形の相関性が高くなっている。このとき、騒音波形においては、波形273および波形274のように、騒音自身の位相が異なるので、それらの波形の相関性は低くなる。
そこで、図5の相関係数処理部176は、式(5)により示されるような、遅延量補正後の2本のマイクにおいて得られた音声信号の相関係数rを算出する。
Figure 0004517606
ただし、
Figure 0004517606
なお、式(5)において、変数m1は、マイク81において入力される音声信号であり、変数m2は、マイク82において入力される音声信号である。また、相関係数rは、n対の数値(m11,m21),(m12,m22),・・・,(m1n,m2n)についての相関係数である。さらに、変数S1および変数S2は、標準偏差を示しており、それぞれ、式(6)および式(7)のように示される。
図5の該当領域判定部177は、以上のように算出された相関係数を用いて、泣き声に騒音が混じっているか否か、または、発声領域であるか無音領域であるかの判定を行い、それぞれの場合において減衰処理部178を制御して、音声データに含まれる雑音成分を、より低減させる。
音声データの内、泣き声の部分で声を発している部分を発声領域とし、息を吸って声を発していない領域を無音領域とすると、該当領域判定部177は、以下の式(10)および式(11)に示される条件式に基づいて、判定処理を行う。なお、式(10)および式(11)において、変数CORは、相関係数を示しており、変数thは、予め定められた所定の閾値である。また、式(10)は発声領域に対する条件式であり、式(11)は、騒音混在領域であり、かつ無音領域である領域を特定する条件式である。
COR>th ・・・(10)
COR<th ・・・(11)
ただし、
−1≦th≦1 ・・・(12)
すなわち、式(10)および式(11)に示されるように、相関係数をCORとすると,相関係数COR が閾値th 以上であれば発声領域,相関係数COR が閾値th 以下であれば騒音混在領域かつ無音領域とすることで,音声信号における領域の判定が可能となる。
仮に、図5の該当領域判定部177が現在の音声信号の領域を無音領域かつ混在領域であると判定すると、減衰処理部178は、図5の加算処理部175までの処理により、完全に除去しきれなかった雑音成分を、式(4)の変数Rを変化させて、再度、減衰処理することにより、さらに雑音成分を低減させる。
なお、図17において、乳幼児84と騒音源である他の人物85の位置関係が逆であっても、騒音の低減は可能である。
以上のように、音声信号より雑音成分を除去するために、フィルタバンク113の雑音成分除去処理部162は、ローパスフィルタ161より供給された帯域を制限された音声信号に対して、ノイズ除去処理を実行する。雑音成分除去処理部162によるノイズ除去処理を図24のフローチャートを参照して説明する。
最初に、ステップS211において、雑音成分除去処理部162の遅延量決定部171は、入力された2つの音声信号に対する遅延量τを決定し、ステップS212において、2つの音声信号に対して遅延補正を行い、それらの補正結果を遅延補正加算処理部172および遅延補正減算処理部173に供給した後、ステップS213に処理を進める。ステップS213において、遅延補正加算処理部172は、取得した2つの補正結果を上述したように加算し、加算結果を加算処理部175に供給するとともに、処理をステップS214に進める。ステップS214において、遅延補正減算処理部173は、取得した2つの補正結果を上述したように減算し、減算結果を移動平均処理部174に供給し、ステップS215に処理を進める。ステップS215において、移動平均処理部174は、供給された減算結果に基づいて、上述したように移動平均MAを算出し、その算出結果を加算処理部175に供給するとともに、ステップS216に処理を進める。
ステップS216において、加算処理部175は、上述したように加算処理(減算処理)を行い、雑音成分を除去し、雑音成分を除去した音声信号を相関係数処理部176に供給し、ステップS217に処理を進める。ステップS217において、相関係数処理部176は、供給された音声信号に基づいて相関係数を算出し、音声信号とともに、その相関係数を該当領域判定部177に供給し、処理をステップS218に進める。ステップS218において、該当領域判定部177は、供給された音声信号や相関係数を減衰処理部178に供給するとともに、供給された相関係数に基づいて、供給された音声信号の領域判定を行う。そして、該当領域判定部177は、ステップS219において、その領域が発声領域であるか否かを判定し、発声領域でないと判定した場合、ステップS220において、減衰処理部178を制御し、雑音成分の減衰処理を実行させる。ステップS220の処理が終了すると減衰処理部178は、ステップS221に処理を進める。また、ステップS219において、発声領域でないと判定した場合、該当領域判定部177は、ステップS220の処理を省略し、ステップS221に処理を進める。
ステップS221において、雑音成分除去処理部162は、ノイズ除去処理を終了するか否かを判定し、終了しないと判定した場合、処理をステップS212に戻し、それ以降の処理を繰り返し、次に入力される音声信号に対して動揺の処理を行う。また、ステップS221において、ノイズ除去処理を終了すると判定した場合、雑音成分除去処理部162は、ステップS222に処理を進め、終了処理を行った後、ノイズ除去処理を終了する。
以上のようにノイズ除去処理を行うことにより、雑音成分除去処理部162は、監視対象の位置に関わらず、雑音成分が含まれる音声信号においても目的の音声信号成分の特徴量計算の誤差を抑制することができる。これにより、監視システム1は、雑音成分が含まれる場合であっても、ユーザに対して雑音成分の少ない目的の音声信号を提供することができる。さらに、雑音成分除去処理部162は、雑音成分の発生源の位置によらず、同様の処理により雑音成分の除去を行うことができる。
フィルタバンク113は、以上のように処理した音声データを足音解析部121および音声解析部122に供給する。音声データを供給された音声解析部122は、その音声データを解析し、乳幼児84の泣き声の特徴量を抽出する。この特徴量として、音声解析部122は、泣き声の呼吸1周期あたりの発声時間と息の吸い込み時間の割合を特徴量として検出する。なお、声の高さを表す周波数を特徴量とするようにしてももちろんよく、上述の発声時間等の特徴量と組み合わせ、特徴量の数を増やすことで泣き声の状態を正確に特定できる確率は高くなる。また、人物の状態、例えば、人物の体温や動き量を、温度センサ、赤外線センサ、またはマイクロ波センサ等を用いて計測しておき、音声解析部122が、それらの情報に基づいて、画像処理を行うことでより泣き声の状態をより絞り込むようにすることも可能である。
音声解析部122は、例えば、フィルタバンク113より図25に示されるような波形の音声データを供給される。図25に示されるように、泣き声の波形281においては、発声と呼吸が周期的に繰り返されている。通常、波形281に示されるように、この泣き声の1周期(図中Cの区間)において、発声している時間(図中Aの区間)は音圧が高くなり、息を吸い込む時間(図中Bの区間)は音が多少鳴るものの、発声音圧に比べ統計的に十分に低くなる場合が多い。音声解析部122は、フィルタバンク113より音声データを供給されると、音声解析処理を実行することにより、これらの発声時間や呼吸時間などの特徴量を算出する。
図26乃至図28のフローチャートを参照して、音声解析部122による音声解析処理を説明する。また、必要に応じて、図29を参照して説明する。
音声データが供給されると、音声解析部122は、最初にステップS241において、泣き声の始まりを検知するために単位時間あたりの信号レベルの平均値を算出し、呼吸の変わり目にあたる空白時間を検出する。例えば、音声解析部122に、図29に示されるような波形の音声データが供給されるとする。なお、図29において示される丸枠で囲まれた数字は、位置や範囲を示しており、以下においてはそれらの数字を「」で囲んで表す。図29に示されるような波形の音声データが供給されると、音声解析部122は、位置「1」において、ステップS241の処理を実行する。
そして、音声解析部122ステップS242において、ステップS241において算出される単位時間の平均値が、予め定められた所定の第1の閾値以下であるか否かを判定し、図29に示される音声データにおける現在の位置が、位置「1」のように、呼吸時間の範囲に位置するか否かを確認する。単位時間の平均値が第1の閾値以下でなく、現在の位置が発声時間であると判定した場合、音声解析部122は、ステップS241に処理を戻し、それ以降の処理を繰り返す。
また、ステップS242において、単位時間の平均値が第1の閾値以下であり、現在の位置が、位置「1」のように、呼吸時間の範囲に位置すると判定した場合、音声解析部122は、ステップS243に処理を進める。
ステップS243において、音声解析部122は、供給された音声データのサンプルのレベルを確認し、ステップS244において、そのサンプルのレベルが予め定められた所定の閾値である発声開始レベル以上であるか否かを判定する。得られたサンプルのレベルが発声開始レベルより小さく、まだ呼吸時間であると判定した場合、音声解析部122は、ステップS243に処理を戻し、次に供給されるサンプルについてそれ以降の処理を繰り返す。
また、ステップS244において、サンプルのレベルが発声開始以上であり、泣き声の発生時間が開始されたと判定すると、音声解析部122は、そのサンプル(位置)を泣き声の発声の始まりとし、ステップS245に処理を進め、メインカウンタのカウントを開始させることにより特徴量の長さの管理を開始する。例えば、図29の信号の位置「2」のサンプルにおいて、そのレベルが発声開始レベル以上の値をとるので、音声解析部122は、この位置「2」よりメインカウンタのカウントを開始させる。
メインカウンタのカウントを開始させた音声解析部122は、ステップS246において、後述するレベル閾値である第2の閾値を決定するために、所定の区間のサンプルについて、平均音圧(レベルの平均値)を算出する。この第2の閾値は平均音圧に比例して算出される。例えば、音声解析部122は、図29の信号において、発声時間内の所定の区間である区間「3」のサンプルの平均音圧(レベルの平均値)を算出する。
平均音圧を算出した音声解析部122は、ステップS247に処理を進め、発声時間の終了部分に対して処理を行うため、所定の時間待機する。例えば、音声解析部122は、図29の信号において、区間「3」の終了位置「4」より所定の時間待機する。
所定の時間待機すると音声解析部122は、図27のステップS251に処理を進める。また、音声解析部122は、このとき、後述するように図28のステップS271にも処理を進め、図27のステップS251以降の処理と並行して、図28のステップS271以降の処理を実行する。
図27のステップS251において、音声解析部122は、無音時間(呼吸時間)を計測する(呼吸時間におけるサンプル数を数える)ためにサブカウンタのカウントを開始する。そして、ステップS252において、音声解析部122は、サンプルのレベル(値)が予め定められた所定の閾値である第2の閾値以上であるか否かを判定する。この第2の閾値の値は、上述したように、ステップS246において算出された平均音圧に所定の係数を乗算することにより算出される。サンプルのレベルが第2の閾値以上であり、呼吸時間が終了した、または、まだ呼吸時間が開始されていないと判定した場合、音声解析部122は、ステップS253に処理を進め、必要に応じて仮の呼吸時間の長さを示す値を保持する変数であるサブカウンタ最大値を更新し、ステップS254において、必要に応じて、その仮の呼吸時間の終了位置を示す値を保持する変数である第1のメインカウンタ座標を更新し、ステップS255において、サブカウンタの値をリセットし、ステップS252に処理を戻し、それ以降の処理を繰り返す。
すなわち、音声解析部122は、ステップS252において現在の位置が呼吸時間でないと判定した場合、サブカウンタの値と、保持しているサブカウンタ最大値の値とを比較し、サブカウンタの値の方が大きい場合、その値を用いてサブカウンタ最大値を更新するとともに、そのときのメインカウンタの値を用いて第1のメインカウンタ座標を更新する。その後、音声解析部122は、サブカウンタの値を初期値に戻し、ステップS252に処理を戻し、それ以降の処理を繰り返す。
また、ステップS252において、サンプルの値が第2の閾値より小さいと判定した場合、音声解析部122は、ステップS256に処理を進め、メインカウンタのカウントが終了したか否かを判定する。メインカウンタのカウントが継続しており終了していないと判定した場合、音声解析部122は、ステップS252に処理を戻し、それ以降の処理を繰り返す。すなわち、音声解析部122は、ステップS252において、サンプル値のレベルより現在の位置が呼吸時間であると判定した場合、ステップS256において、メインカウンタのカウントが終了し、音声解析を行う区間が終了したか否かを判定する。
ステップS256において、メインカウンタのカウントが終了したと判定した場合、音声解析部122は、ステップS257に処理を進め、サブカウンタのカウントを終了し、ステップS258において、サブカウンタ最大値の値を取得し、ステップS259において、第1のメインカウンタ座標を取得し、ステップS260において、取得したサブカウンタの最大値および第1のメインカウンタ座標に基づいて、無音時間(呼吸時間)の開始位置を算出し、それらの値によって仮無音時間情報を作成する。
例えば、音声解析部122は、図29において、サブカウンタによって仮の無音時間(呼吸時間)を示す範囲「5」の長さを算出し、その際のメインカウンタの値を利用して、その仮の呼吸時間の終了位置を示す位置「6」を求め、それらから、仮の呼吸時間の開始位置を示す位置「7」を求め、それらを用いて仮無音時間情報を作成する。
仮無音時間情報を作成した音声解析部122は、図28のステップS277に処理を進める。
また、上述したように、音声解析部122は、図27に示されるステップS251乃至ステップS260の処理の実行に並行して、次の泣き声の発声の開始を検知するために、図28のステップS271乃至ステップS276の処理を実行する。ステップS271乃至ステップS274において音声解析部122は、図26に示されるステップS241乃至ステップS244と同様の処理を行い、次の泣き声の発声の開始を検知する。例えば、音声解析部122は、図29の信号に対して、ステップS271およびステップS272の処理を行い、単位時間の平均値を算出し、第1の閾値と比較することにより、現在の位置が呼吸時間の範囲内の位置「8」であることを確認すると、ステップS273およびステップS274の処理を行い、サンプルのレベルを発声開始レベルと比較することにより、発生開始の位置「9」を検出する。
ステップS274において、サンプルのレベルが発声開始以上であると判定した場合、音声解析部122は、ステップS275に処理を進め、現在のメインカウンタの値を第2のメインカウンタ座標として保持する。
そして、ステップS276において音声解析部122は、メインカウンタのカウントが終了したか否かを判定し、終了していないと判定した場合ステップS271に処理を戻し、それ以降の処理を繰り返す。また、ステップS276においてメインカウンタのカウントが終了したと判定した場合、音声解析部122は、ステップS277に処理を進める。
ステップS277において、音声解析部122は、図27のステップS251乃至ステップS260の処理により作成された仮無音時間情報、並びに、図28のステップS271乃至ステップS276の処理により検出された第2のメインカウンタ座標を用いて、仮無音時間情報に含まれる誤差成分に関する情報である誤差情報を作成し、その誤差情報を、仮無音時間情報より減算することにより、無音時間情報を作成する。
例えば、図29において、音声解析部122は、第1のメインカウンタ座標の値から第2のメインカウンタ座標の値を減算することにより、発声開始の位置「9」から仮無音時間の終了位置「6」までの長さを算出し、その長さを「誤差」として「仮の無音時間」である範囲「5」の長さより減算することにより「誤差減無音時間」(すなわち、無音時間情報)を作成する。
無音時間情報を作成した音声解析部122は、音声解析処理を終了する。以上のように処理を行うことで、図25に示される範囲「A」、「B」、および「C」のそれぞれの長さ、すなわち泣き声の特徴量を求めることができる。
以上のように処理を行うことにより、音声解析部122は、複雑な処理を行わずに音声を解析し、特徴量を求めることができるので、より高速、かつ、より容易に特徴量を算出することができる。これにより、制御装置20は、より効率的に動作することできる。
主制御装置20において、所定のアクションが起ると、上述ように、データが入力される度に音声解析部122により特徴量が計算される。この特徴量は泣き声の特性を量子化したものであり、多数のデータに適応すると、任意空間内に分布される。この特徴量を用いて作成された特徴量空間内における、入力された特徴量の分布図を図30に示す。図30において、特徴量空間310は、上述したように、特徴量に基づいて作成された特徴量空間であり、その縦軸は呼吸比率を示し、横軸は泣き声周期(サンプル数)を示す。
図30に示される特徴量空間310に点で示される各特徴量データは、上述したように算出された特徴量データを特徴量空間310にプロットしたものである。範囲310乃至範囲314は、それらの各特徴量データに対応する乳児84の泣き声を聞いた、乳児84の親(ユーザ)により設定される乳児84の状態毎に各特徴量データを分類したものである。ここで状態とは、呼吸が落ち着いた甘えの状態や、呼吸が比較的激しい危険を伴う状態、甘え寄りや危険寄りといった中間的な状態を示している。例えば、図30において、範囲311および範囲312は、甘えの状態に分類される範囲を示しており、範囲313は、甘えと危険の中間の状態に分類される範囲を示しており、範囲314は、危険の状態に分類される範囲を示している。
なお、以上においては、特徴量データを、甘え、中間、および危険の3つの状態に分類する場合について説明したが、これに限らず、分類する状態の内容はどのようなものであってもよく、いくつの状態に分類するようにしてもよい。例えば、ユーザは日頃の親子の関係から、様々な状態を把握しているので、お腹が空いた、おむつの交換、抱っこ、または、わがまま等の状態も定性値として与えることができるようにしてもよい。
以上のように、ユーザは、入力部141を操作することにより、予め、特徴量空間310に分布されている各特徴量データを、乳幼児84の状態により分類して定性値を割り当てる。また、ユーザは、入力部141を操作することにより、一度分類した設定を、適宜、変更することもできる。なお、ユーザが状態を分類する際に用いられる特徴量データの数はいくつであってももちろんよいし、状態を分類するユーザの数が2人以上であってもよい。
このように特徴量空間310には泣き声の特徴量データに対し、ユーザから得た定性値が対応づけられている。主制御装置20は、このように同じ定性値を与える特徴量データを予め囲い込むことで特徴量空間310を定性値の領域(例えば、図30の場合、範囲311乃至範囲314)毎に分割できる。この定性値の領域の分割の方法として、評価値の比率を考慮して分割を行うようにしてもよい。
特徴量空間310を定性値の領域に分割する例を図31に示す。図31において、特徴量テーブル321は、特徴量空間をテーブル化したものであり、各定性値には、後述するように、特徴量空間を特徴量テーブルとしてLUT記憶部131に保持させるために、数値化され、番号が振られている。この数値化されたものを評価値とし、値や分解能は任意であるが、図31においては、特徴量テーブル321に対するサンプル322に示されるように、評価値3が危険の状態と対応付けられており、評価値2は中間の状態と対応付けられており、評価値1は甘えの状態と対応付けられており、評価値0は未入力と対応づけられている。
図31において、特徴量テーブル321は、特徴量空間が所定の大きさの特徴量の単位帯域(ブロック)毎に分割されたテーブルである。特徴量空間の分割方法は、これ以外であってももちろん良く、例えば、特徴量空間の分割数をいくつにしても良いし、各ブロックの大きさが互いに異なるようにしてもよいし、各ブロックの形状を任意の形状にしてもよい。また、各ブロックの領域の範囲は、可変であっても、固定であってもよい。
図31に示される特徴量テーブルの各ブロックをLUT記憶部131に保持させるために、各状態を数値化する例を図32に示す。図32において、特徴量テーブル325は、図31に示される特徴量テーブル321の各ブロックの評価値を乳幼児84の状態値として数値化したものである。LUT記憶部131には、図32に示されるような特徴量テーブル325が参照テーブルとして保存されている。
なお、LUT記憶部131は、図33に示されるように、互いに内容の異なる特徴量テーブル325を複数保存している。図33において、テーブルリスト331は、図32に示されるような複数の特徴量テーブル325をリスト化したものである。このテーブルリスト331において、各特徴量テーブルにはテーブル番号が割り当てられて管理されており、それらの特徴量テーブル毎に各ブロックの状態値が示されている。
また、このテーブルリスト331には、ユーザの入力情報が全て記録されてあり、制御部101は、ユーザが入力部141を介して情報を入力する(設定を更新する)度に、その情報を追記し、LUT記憶部131に記憶されているテーブルリスト331を更新する。テーブルリスト331には、さらに、入力部141の操作度数(すなわち、テーブルリスト331を更新した回数)等も、制御部101により随時更新される。テーブルリスト331は、このように様々な情報を記述することが可能であり、例えば、入力時刻や他のセンサ特徴量等の情報を、その他の情報として入力情報の分類に結び付けることも可能である。
以上のように、音声解析部122は、フィルタバンク113を介して供給された音声データより泣き声の特徴量を抽出する。定性値判定部123は、以上のようにして予め用意しLUT記憶部131に記憶されている特徴量テーブルに応じて、音声解析部122より供給された特徴量データに対応する乳幼児84の状態値を決定し、ユーザが所望する泣き声の種類を特定し、その情報を制御部101に供給する。制御部101は、その情報、またはユーザ入力に基づいて、通知情報に含まれる画像データを出力してユーザに提示するかどうかを再度判断する。
図34のフローチャートを参照して、画像データ出力判定処理を説明する。
最初に、ステップS291において定性値判定部123は、制御部101を介して、LUT記憶部131より特徴量テーブルを取得し、ステップS292においてその特徴量テーブルを参照し、特徴量データに対応する状態値を判定する。ステップS293において、制御部101は、入力部141を制御し、画像データを出力するか否かを指定するユーザ入力を受け付けたか否かを判定し、ユーザ入力を受け付けたと判定した場合、ステップS294に処理を進め、入力されたユーザ入力に基づいて画像データを出力するか否かを判定し、ステップS296に処理を進める。また、制御部101は、ステップS293において、ユーザ入力を受け付けていないと判定した場合、ステップS295に処理を進め、定性値判定部123より供給された状態値に基づいて画像データを出力するか否かを判定し、ステップS296に処理を進める。
ステップS296において、制御部101は、ステップS294の処理結果、またはステップS295の処理結果に基づいて、画像データを出力するか否かを判定し、出力すると判定した場合、ステップS297に処理を進め、画像データを出力するように各部を制御し、画像データ出力判定処理を終了する。
また、ステップS296において、画像データを出力しないと判定した場合、制御部101は、画像データを出力しないように各部を制御し、画像データ出力判定処理を終了する。
また、ユーザに通知情報を提示中の場合、足音解析部121は、供給された音声データを解析し、予め登録されているユーザの足音を検知することにより、ユーザが監視装置10の設置場所、すなわち、乳幼児84に近接する位置に存在するか否かを判定する。例えば、足音解析部121は、供給された音声データよりユーザの足音を検知し、ユーザが乳幼児84付近に位置すると判定した場合、その情報を制御部101に供給する。制御部101は、その情報に基づいて、通知情報の出力を行わないように、通知情報出力部143の動作を制御する。
このようにすることにより、主制御装置20は、送信側である監視装置10における条件だけでなく、受信側である主制御装置20における条件に基づいて、通知情報のユーザに対する提示を制御することができる。
図35のフローチャートを参照して、足音判定処理を説明する。
足音解析部121は、ステップS311において、供給された音声データに対して足音解析処理を実行し、解析結果を制御部101に供給する。制御部101は、その解析結果を取得すると、ステップS312において、ユーザが監視装置10の近傍に位置するか否かを判定し、近傍に位置すると判定した場合、ステップS313に処理を進め通知情報(例えば、画像データ)の出力を停止するように、セレクタ117や通知情報出力部143等の各部を制御する。通知情報を出力を停止した制御部101は、ステップS316に処理を進める。
また、ステップS312において、ユーザが監視装置10の近傍に位置しないと判定した場合、制御部101は、ステップS314に処理を進め、通知情報の出力が停止中であるか否かを判定する。通知情報の出力が停止中であると判定した場合、制御部101は、ステップS315に処理を進め、通知情報の出力を開始するように、セレクタ117や通知情報出力部143等の各部を制御し、ステップS316に処理を進める。また、ステップS314において通知情報の出力が停止中でないと判定した場合、制御部101は、ステップS315の処理を省略し、ステップS316に処理を進める。
ステップS316において、制御部101は、足音判定処理を終了するか否かを判定し、終了しないと判定した場合、ステップS311に処理を戻し、それ以降の処理を繰り返す。また、ステップS316において、例えば、ユーザの指示等に基づいて、足音判定処理を終了すると判定した場合、制御部101は、ステップS317に処理を進め、終了処理を行い、足音判定処理を終了する。
このようにすることにより、主制御装置20は、送信側である監視装置10における条件だけでなく、受信側である主制御装置20における条件に基づいて、通知情報のユーザに対する提示を制御することができる。
制御部101は、また、低速通信部111を介して取得した乳幼児84が発声する泣き声の特徴量や定性値判定部123より供給される解析結果等を通知情報蓄積部114に供給する。通知情報蓄積部114は、それらの情報に、フィルタバンク113より供給された通知情報(音声データや画像データ)を関連付けて蓄積する。
図36のフローチャートを参照して、映像蓄積処理を説明する。
制御部101は、ステップS331において、音声解析部122において解析された音声解析結果、および定性値判定処理部123において判定された定性値判定結果を、定性値判定処理部123より取得し、ステップS332において、監視装置10より供給されたセンサ出力を、低速通信部111を介して取得し、それらを通知情報蓄積部114に供給する。
通知情報蓄積部114は、制御部101に制御され、ステップS333において、制御部101より供給された、音声解析結果、定性値判定結果、および、センサ出力に対応付けて、高速通信部112より供給された通知情報を記録し、映像蓄積処理を終了する。
制御部101は、以上のような映像蓄積処理を、通知情報が高速通信部112より通知情報蓄積部114に供給されると、必要に応じて実行する。
なお、制御部101は、必要に応じて、通知情報検索部115を制御して、通知情報蓄積部114に記憶されている通知情報の中から、特定の条件に対応付けられた通知情報を検索させて取得させる。制御部101に制御されて、通知情報蓄積部114より通知情報を検索して取得した通知情報検索部115は、その通知情報を合成処理部116に供給する。
すなわち、制御部101は、通知情報蓄積部114、通知情報検索部115、合成装置116、並びにセレクタ117を、LUT記憶部131に記憶されているテーブルに基づいて制御することにより、通知情報の、監視装置10より送信されてこなかった情報を、過去に供給された情報を用いて補って、ユーザに提示する。
例えば、制御部101は、監視装置10より送信されてきた通知情報に含まれる画像データを、音声解析部122と定性値判定部123の結果と、低速通信部111を介して取得したセンサ出力に含まれる、乳幼児84の発声する音声の特徴量をキーにして、通知情報蓄積部114に蓄積させる。
そして、監視装置10より通知情報として音声データのみしか送られてこない場合、制御部101は、通知情報検索部115を制御し、音声解析部122と定性値判定部123の結果やセンサ出力等をキーとして、通知情報蓄積部114に蓄積されている情報の中から、現在の乳幼児84の状況と似た状況の画像データを検索して取得し、合成装置116に供給させる。さらに監視装置10は、合成装置116やセレクタ117を制御して、通知情報蓄積部114に蓄積されていた画像データを、監視装置10より供給された音声データと合成し、必要に応じて通知情報出力部143を介して出力させる。
このように、制御部101は、監視装置10より供給された通知情報を、乳幼児84の状況に対応付けて通知情報蓄積部114に蓄積させておくことにより、監視装置10より供給されない通知情報の一部または全部のデータを、通知情報蓄積部114に記憶されている過去の通知情報を用いて補完し、通知情報出力部143を制御してユーザに提示させる。
このようにすることにより、主制御装置20は、ユーザに不便を感じさせることなく、電力消費の激しい無線通信を著しく減らすことが出来る。これにより、主制御装置20は、監視装置10が電池を電源として駆動する場合においても、監視装置10を、より長時間動作することができるようにする等、より効率的に動作させることできる。
以上のような処理を行う画像データ代用判定処理を、図37のフローチャートを参照して説明する。
最初に、制御部101は、ステップS351において、高速通信部112を制御し、画像データが供給されたか否かを判定し、供給されていないと判定した場合、ステップS352に処理を進め、音声データが供給されたか否かを判定する。音声データが供給されたと判定した場合、制御部101は、ステップS353に処理を進め、定性値判定部123より供給される音声解析結果および定性値判定結果を取得し、それらを通知情報検索部115に供給する。音声解析結果および定性値判定結果を取得した通知情報検索部115は、制御部101に制御され、ステップS354において、通知情報蓄積部114にアクセスし、取得した音声解析結果および定性値判定結果に基づいて、それらに対応する過去の通知情報を検索し、取得する。過去の通知情報を取得した通知情報検索部115は、その過去の通知情報を合成処理部116に供給する。
合成処理部116は、ステップS355において、制御部101に制御され、通知情報検索部115より取得した、通知情報蓄積部114に蓄積されていた過去の通知情報、並びに、高速通信部112より供給された現在の通知情報を合成し、セレクタ117に供給する。セレクタ117は、制御部101に制御されて、その合成された通知情報を通知情報出力部143に供給し、ステップS358に処理を進める。
また、ステップS352において、音声データが供給されていないと判定した場合、制御部101は、解析結果や判定結果を取得することができないので、ステップS356において低速通信部111を制御し、監視装置10より供給されるセンサ出力を取得し、そのセンサ出力を通知情報検索部115に供給する。センサ出力を供給された通知情報検索部115は、ステップS357において、制御部101に制御されて通知情報蓄積部114にアクセスし、供給されたセンサ出力に基づいて、過去の通知情報を検索し、取得する。過去の通知情報を取得した通知情報検索部115は、その過去の通知情報を合成処理部116に供給する。合成処理部116は、制御部101に制御され、通知情報検索部115より取得した、通知情報蓄積部114に蓄積されていた過去の通知情報をセレクタ117に供給する。セレクタ117は、制御部101に制御されて、その過去の通知情報を通知情報出力部143に供給し、ステップS358に処理を進める。
ステップS358において、合成された通知情報または過去の通知情報を供給された通知情報出力部143は、ステップS358において、制御部101に制御されてその通知情報を出力する。通知情報を出力した通知情報出力部143は、ステップS359に処理を進める。
また、ステップS351において、画像データが供給されていると判定した場合、制御部101は、ステップS359に処理を進める。ステップS359において制御部101は、画像データ代用判定処理を終了するか否かを判定し、終了しないと判定した場合、ステップS351に処理を戻し、それ以降の処理を繰り返す。また、ステップS359において、画像データ代用判定処理を終了すると判定した場合、制御部101は、ステップS360に処理を進め、終了処理を実行し、画像データ代用判定処理を終了する。
また、制御部101は、ユーザの指示等に基づいて、簡易表示処理を実行し、低速通信部111を介して取得したセンサ出力等に基づいて、簡易表示情報を作成して、簡易表示部142において表示させる。図38のフローチャートを参照して、簡易表示処理を説明する。
ユーザの指示等に基づいて簡易表示処理を実行した制御部101は、最初に、ステップS401において、低速通信部111を制御し、監視装置10より供給されるセンサ出力を取得する。センサ出力を取得した制御部101は、ステップS402において、そのセンサ出力に基づいて、メッセージ等の簡易表示データを作成し、それを簡易表示部142に供給する。簡易表示データを供給された簡易表示部142は、ステップS403において、制御部101に制御されてその簡易表示データをディスプレイに表示する等して出力する。簡易表示部142を制御し、簡易表示データを出力させた制御部101は、簡易表示処理を終了する。
以上のようにすることにより、主制御装置20は、画像データや音声データ等の通知情報だけでなく、文字データ等の簡易表示データを用いて、ユーザに乳幼児84の状態を簡易的に通知することができる。
このようにすることにより、主制御装置20は、ユーザに不便を感じさせることなく、電力消費の激しい無線通信を著しく減らすことが出来る。これにより、主制御装置20は、監視装置10が電池を電源として駆動する場合においても、監視装置10を、より長時間動作することができるようにする等、より効率的に動作させることできる。
また、制御部101は、入力部141を介して供給されるユーザ入力等に基づいて、新たなテーブル(更新テーブル)を作成する。その場合、制御部101は、作成した更新テーブルを、LUT記憶部131に記憶させたり、低速通信部111を介して、監視装置10に供給したりする。これにより主制御装置20は、任意のテーブルを、監視装置10に使用させることができる。
制御部101は、さらに、ユーザの指示等に基づいて、LUT記憶部131に記憶されているテーブルの中から、適切なテーブルを選択し、そのテーブルのテーブル番号を含むテーブル番号指定情報を、低速通信部111を介して監視装置10に供給する。これにより主制御装置20は、監視装置10において用いられるテーブルを指定することができる。
また、入力部141を介してユーザより「重要」を意味する入力があった場合、制御部101は、テーブル91の該当部分の値を「3」に設定し、以後は過去の映像を使わないようにする。その際、更新されたテーブル91は、監視装置10に送信され、各部の動作に反映される。
このようにすることにより、主制御装置20は、監視装置10より通知情報の一部または全部が供給されていない場合、低速通信部111を介して監視装置10に制御情報を供給し、通知情報を再送信させることもできる。
逆に、制御部101は、入力部141を介して「重要」を意味する入力がない場合、各部を制御して、通信量を減らすようにしてもよいし、さらには通知自体も無くすことで、さらに通信量を減らすようにしてもよい。
また、制御部101は、ユーザの指示等に基づいて、監視装置10において使用されるセンサ部41のセンサを指定する。
以上のように、主制御装置20は、低速通信部111を介して制御情報を監視装置10に供給することにより、ユーザにより入力された指示を処理に反映させることができる。
図39および図40のフローチャートを参照してユーザ指示受付処理について説明する。
ユーザに指示情報を入力され、ユーザ指示受付処理を開始した制御部101は、最初に、ステップS421において、ユーザにより使用するテーブルが指定されたか否かを判定し、LUT記憶部131に記憶されている複数の特徴量テーブルの中から使用テーブルが指定されたと判定した場合、ステップS422に処理を進め、指定されたテーブル番号を用いて、使用テーブルに関する設定を更新し、ステップS423において、低速通信部111を介して、その指定されたテーブル番号を含むテーブル番号指定情報を監視装置10に供給する。
ステップS423の処理を終了した制御部101は、ステップS424に処理を進める。また、ステップS421において、ユーザにより使用するテーブルが指定されていないと判定した場合、ステップS422およびステップS423の処理を省略し、ステップS424に処理を進める。
ステップS424において、制御部101は、ユーザにより、新たなテーブルが作成されたか否かを判定し、作成されたと判定した場合、その作成された新たなテーブルをLUT記憶部131に供給し、ステップS425に処理を進める。ステップS425において、LUT記憶部131は、制御部101に制御され、供給された新たなテーブルを保存する。新たなテーブルを保存させた制御部101は、ステップS426において、使用テーブルの設定を更新し、新たに作成されたテーブルを使用テーブルに設定し、ステップS427において、低速通信部111を介して、その新たなテーブルを更新テーブルとして、監視装置10に供給する。
ステップS427の処理を終了した制御部101は、図40のステップS431に処理を進める。また、図39のステップS424において、ユーザにより新たな特徴量テーブルが作成されていないと判定した場合、制御部101は、ステップS425乃至ステップS427の処理を省略し、図40のステップS431に処理を進める。
図40のステップS431において、制御部101は、ユーザにより、特徴量テーブルが更新されたか否かを判定し、更新されたと判定した場合、その更新情報をLUT記憶部131に供給し、ステップS432に処理を進める。ステップS432において、LUT記憶部131は、制御部101に制御され、供給された更新情報を保存する。更新情報を保存させた制御部101は、ステップS433において、使用テーブルの設定を更新し、使用テーブルに更新情報を反映させ、ステップS434において、低速通信部111を介して、その更新されたテーブルを更新テーブルとして、監視装置10に供給する。
ステップS434の処理を終了した制御部101は、ステップS435に処理を進める。また、ステップS431において、ユーザにより特徴量テーブルが更新されていないと判定した場合、制御部101は、ステップS432乃至ステップS434の処理を省略し、ステップS435に処理を進める。
ステップS435において、制御部101は、ユーザにより、監視装置10において使用されるセンサを指定されたか否かを判定し、センサを指定されたと判定した場合、ステップS436において、低速通信部111を介して、そのセンサ指定情報を監視装置10に供給し、ユーザ指示受付処理を終了する。また、ステップS435において、ユーザにより監視装置10において使用されるセンサを指定されていないと判定した場合、制御部101は、ステップS436の処理を省略し、ユーザ指示受付処理を終了する。
以上のように、主制御装置20は、低速通信部111を介して制御情報を監視装置10に供給することにより、ユーザにより入力された指示を処理に反映させることができる。
なお、監視装置10の制御部31は、以上のような処理により主制御装置20より供給された制御情報に基づいて、各部を制御する。制御部31は、監視装置10に電源が投入され、制御部31に電源が供給されると、低速通信部42を制御して、主制御装置20より供給される制御情報を取得させるとともに、制御情報反映処理を実行し、取得した制御情報に基づいて各部を制御する。制御情報反映処理を図41のフローチャートを参照して説明する。
最初に、ステップS451において、制御部31は、低速通信部42を介して制御情報を取得したか否かを判定し、取得したと判定した場合は、ステップS452に処理を進め、取得した制御情報が、監視装置10において使用される特徴量テーブル181を、テーブル番号を用いて指定するテーブル番号指定情報であるか否かを判定する。取得した制御情報がテーブル番号指定情報である、または、取得した制御情報にテーブル番号指定情報が含まれると判定した場合、制御部31は、ステップS453に処理を進め、指定されたテーブル番号に対応する特徴量テーブルをLUT記憶部46より読み出し、その特徴量テーブルをRAM32に保持させる等して使用テーブルとして設定する。
ステップS453の処理を終了した制御部31は、ステップS454に処理を進める。また、ステップS452において、取得した制御情報がテーブル番号指定情報でない、または、取得した制御情報にテーブル番号指定情報が含まれていないと判定した場合、制御部31は、ステップS453の処理を省略し、ステップS454に処理を進める。
ステップS454において制御部31は、取得した制御情報が、主制御装置20において更新された更新テーブルであるか否かを判定する。取得した制御情報が更新テーブルである、または、取得した制御情報に更新テーブルが含まれると判定した場合、制御部31は、ステップS455に処理を進め、供給された更新テーブルをLUT記憶部46の更新LUT記憶部72に記憶させ、ステップS456において、その更新テーブルをRAM32に保持させる等して使用テーブルとして設定する。
ステップS456の処理を終了した制御部31は、ステップS457に処理を進める。また、ステップS454において、取得した制御情報が更新テーブルでない、または、取得した制御情報に更新テーブルが含まれていないと判定した場合、制御部31は、ステップS455およびステップS456の処理を省略し、ステップS457に処理を進める。
ステップS457において制御部31は、取得した制御情報が、センサ部41において動作させるセンサを指定するセンサ指定情報であるか否かを判定する。取得した制御情報がセンサ指定情報である、または、取得した制御情報に繊細指定情報が含まれると判定した場合、制御部31は、ステップS458に処理を進め、センサ部41を制御し、動作させるセンサを、そのセンサ指定情報により指定されるセンサに切り替える。
ステップS458の処理を終了した制御部31は、ステップS459に処理を進める。また、ステップS457において、取得した制御情報がセンサ指定情報でない、または、取得した制御情報にセンサ指定情報が含まれていないと判定した場合、制御部31は、ステップ458の処理を省略し、ステップS459に処理を進める。さらに、ステップS451において、制御情報を取得していないと判定した場合、制御部31は、ステップS452乃至ステップS458の処理を省略し、ステップS459に処理を進める。
ステップS459において、制御部31は、制御情報反映処理を終了するか否かを判定し、終了しないと判定した場合、ステップS451に処理を戻し、それ以降の処理を繰り返す。ステップS459において、図示せぬ入力部等を介して入力されたユーザ入力等に基づいて、監視装置10の電源をオフしたり、サスペンド状態に移行したりするために、制御情報反映処理を終了すると判定した場合、制御部31は、ステップS460に処理を進め、終了処理を行った後、制御情報反映処理を終了する。
以上のように制御部31は、制御情報を反映する。これにより、主制御装置20は、制御情報を供給することにより、監視装置10の動作を制御することができる。
なお、図1や図4に示される主制御装置20の大きさは、実現可能であれば、どのような大きさであっても良く、例えば、所定の位置に設置される据え置き型の装置であってもよいし、ユーザにより携帯可能なモバイル機器であってもよい。
また、主制御装置20の内部の構成例について、図4を参照して説明したが、これに限らず、例えば、図42に示されるように、リモートコントローラにより、図4に示される主制御装置20の一部の機能を別体として実現するようにしてもよい。
図42において、リモートコントローラ340は、主制御装置360に対応する装置であり、ユーザが携帯可能なサイズの装置であり、低速通信部341、アンテナ342、入力部343、簡易表示部344、モニタ351およびスピーカ352を含む通知情報出力部345、高速通信部346、並びに、アンテナ347よりなる。リモートコントローラ340の低速通信部341は、アンテナ342を介して、主制御装置360の低速通信部111と無線通信を行い、入力部343を介して入力されたユーザ入力を主制御装置360に供給する。また、低速通信部341は、低速通信部111と無線通信を行い、簡易表示情報を取得すると、簡易表示部344に供給し、それを表示させる。入力部343は、図4の入力部141と同様の入力インタフェースであり、ユーザの入力を受け付け、低速通信部341に供給する。簡易表示部344は、上述した簡易表示部142と同様の表示部であり、低速通信部341を介して取得したメッセージを簡易表示する。
また、高速通信部346は、アンテナ347を介して、主制御装置360の高速通信部112と無線通信を行い、通知情報を取得すると、その通知情報を、通知情報出力部345に供給して出力させる。通知情報出力部345は、図4に示される通知情報出力部143と同様にモニタ351およびスピーカ352を有しており、それらを用いて、高速通信部346を介して供給された通知情報を出力する。
主制御装置360は、図4に示される主制御装置20より、入力部141、簡易表示部142、および通知情報出力部143をリモートコントローラ340として構成させた装置である。なお、主制御装置360において、セレクタ117の出力は、高速通信部112に供給され、高速通信部112を介して、リモートコントローラ340に供給される。
主制御装置360がこのような装置である場合、主制御装置360は、据え置き型の装置にし、ユーザはリモートコントローラ340を携帯するようにしてもよい。
なお、本発明は、上述した機能以外の機能を有する構成の情報処理装置においても適用することができる。従って、上述した監視装置10または主制御装置20は、上述した以外の機能をさらに有するようにしてももちろんよい。
上述した一連の処理は、ハードウェアにより実行させることもできるし、上述したようにソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体等からインストールされる。
図43は、このような処理を実行するパーソナルコンピュータの内部構成例を示す図である。
パーソナルコンピュータ400のCPU(Central Processing Unit)401は、ROM402に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)403には、CPU401が各種の処理を実行する上において必要なデータやプログラムなどが適宜記憶される。
CPU401、ROM402、およびRAM403は、バス404を介して相互に接続されている。このバス404にはまた、入出力インタフェース410も接続されている。
入出力インタフェース410は、キーボードやマウスから構成される入力部411が接続され、入力部411に入力された信号をCPU401に出力する。また、入出力インタフェース410には、ディスプレイやスピーカなどから構成される出力部412も接続されている。
さらに、入出力インタフェース410には、ハードディスクなどから構成される記憶部413、および、インターネットなどのネットワークを介して他の装置とデータの通信を行う通信部414も接続されている。ドライブ415は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどの記録媒体からなるリムーバブルメディア416よりデータを読み出したり、データを書き込んだりするときに用いられる。
記録媒体は、図43に示されるように、パーソナルコンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)(登録商標)を含む)、若しくは半導体メモリなどよりなるパッケージメディアを含むリムーバブルメディア121により構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記憶されているROM402や記憶部413が含まれるハードディスクなどで構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
本発明を適用した監視システムの構成例を示すブロック図である。 図1に示される監視装置の詳細な構成例を示すブロック図である。 図2に示される通知情報取得部の詳細な構成例を示すブロック図である。 図1に示される主制御装置の詳細な構成例を示すブロック図である。 図4に示されるフィルタバンクの詳細な構成例を示すブロック図である。 センサ切り替え処理を説明するフローチャートである。 センサ切り替え処理を説明する、図6に続くフローチャートである。 監視制御処理を説明するフローチャートである。 図2のLUT記憶部に記憶されるテーブルの構成例を示す図である。 動作制御処理を説明するフローチャートである。 動作制御処理を説明する、図10に続くフローチャートである。 動作制御処理を説明する、図11に続くフローチャートである。 第1の通知情報提供処理を説明するフローチャートである。 第2の通知情報提供処理を説明するフローチャートである。 低速通信処理を説明するフローチャートである。 受信制御処理を説明するフローチャートである。 遅延量を説明する模式図である。 フィルタバンクに入力される音声データの波形の例を示す図である。 絶対値化された音声データの波形の例を示す図である。 遅延量補正の原理を説明する図である。 加算式と減算式の関係を説明する図である。 移動平均を説明する図である。 相関関係を説明する図である。 ノイズ除去処理を説明するフローチャートである。 乳幼児の泣き声の波形の例を示す図である。 音声解析処理を説明するフローチャートである。 音声解析処理を説明する、図26に続くフローチャートである。 音声解析処理を説明する、図27に続くフローチャートである。 音声解析処理の様子の例を説明する図である。 特徴量空間に分布する特徴量データの例を示す図である。 特徴量空間に対応する特徴量テーブルの例を示す図である。 数値化された特徴量テーブルの例を示す図である。 テーブルリストの例を説明する図である。 画像データ出力判定処理を説明するフローチャートである。 足音判定処理を説明するフローチャートである。 映像蓄積処理を説明するフローチャートである。 画像データ代用判定処理を説明するフローチャートである。 簡易表示処理を説明するフローチャートである。 ユーザ指示受付処理を説明するフローチャートである。 ユーザ指示受付処理を説明する、図39に続くフローチャートである。 制御情報反映処理を説明するフローチャートである。 本発明を適用した主制御装置およびリモートコントローラの構成例を示す図である。 本発明を適用したパーソナルコンピュータの構成例を示す図である。
符号の説明
1 監視システム, 10 監視装置, 20 主制御装置, 31 制御部, 41 センサ部, 42 低速通信部, 43 通知情報取得部, 44 通知情報処理部, 45 高速通信部, 46 LUT記憶部, 47 電力供給部, 48 動作制御部, 62 集音部, 81および82 マイク, 84 乳幼児, 85 他の人物, 101 制御部, 111 低速通信部, 112 高速通信部, 113 フィルタバンク, 114 通知情報蓄積部, 115 通知情報検索部, 116 合成処理部, 117 セレクタ, 121 足音解析部, 122 音声解析部, 123 定性値判定部, 131 LUT記憶部, 141 入力部, 142 簡易表示部, 143 通知情報出力部, 151 モニタ, 152 スピーカ, 161 ローパスフィルタ, 162 雑音成分除去処理部, 171 遅延量決定部, 172 遅延補正加算処理部, 173 遅延補正減算処理部, 174 移動平均処理部, 175 加算処理部, 176 相関係数処理部, 177 該当領域判定部, 178 減衰処理部, 181 特徴量テーブル, 310 特徴量空間 , 321 特徴量テーブル, 325 特徴量テーブル, 331 テーブルリスト, 340 リモートコントローラ, 341 低速通信部, 342 アンテナ, 343 入力部, 344 簡易表示部, 345 通知情報出力部, 346 高速通信部, 347 アンテナ, 360 主制御装置, 400 パーソナルコンピュータ 416 リムーバブルメディア

Claims (16)

  1. 監視対象を監視する監視装置と、前記監視装置を制御する主制御装置とを備える監視システムであって、
    前記監視装置は、
    第1の音声入力部と、前記第1の音声入力部と所定の間隔をあけて配置された第2の音声入力部とを有し、
    前記第1の音声入力部において得られた第1の音声信号と、前記第2の音声入力部において得られた第2の音声信号を前記主制御装置に供給し、
    前記主制御装置は、
    前記監視装置より供給された前記第1の音声信号に含まれる前記所望の音声信号を、前記第2の音声信号に含まれる前記所望の音声信号に対して相対的に所定の量だけ遅延し、
    相対的に遅延された前記第1の音声信号と前記第2の音声信号とを加算して第3の音声信号を生成し、
    相対的に遅延された前記第1の音声信号と前記第2の音声信号との一方から他方を減算して第4の音声信号を生成し、
    前記第4の音声信号の移動平均を算出し、
    前記第1の音声信号および前記第2の音声信号が、所望の音声信号を多く含む第1の領域の音声信号であるか、前記所望の音声信号がほとんど含まれず、雑音成分を多く含む第2の領域の音声信号であるかを判定し、
    前記第1の音声信号および前記第2の音声信号が前記第2の領域の音声信号であると判定された場合、前記第3の音声信号から、前記第4の音声信号および前記第4の音声信号の移動平均の乗算結果を減算することにより、前記雑音成分を減衰させた音声信号を生成する
    視システム。
  2. 前記主制御装置は、
    前記第1の音声信号と前記第2の音声信号との相関関係を示す相関係数を算出し、
    算出された前記相関係数の値の大きさによって、前記第1の音声信号および前記第2の音声信号が、前記第1の領域の音声信号であるか、前記第2の領域の音声信号であるかを判定する
    求項1に記載の監視システム。
  3. 前記主制御装置は、
    出された前記相関係数の値が、予め定められた所定の閾値より大きい場合、前記第1の音声信号および前記第2の音声信号が前記第1の領域の音声信号であると判定し、算出された前記相関係数の値が前記閾値より小さい場合、前記第1の音声信号および前記第2の音声信号が前記第2の領域の音声信号であると判定する
    求項2に記載の監視システム。
  4. 前記閾値の値は、「−1」以上であり、かつ、「1」以下である
    求項3に記載の監視システム。
  5. 前記主制御装置は、
    記第1の音声入力部および前記第2の音声入力部の位置と、前記所望の音声信号に対応する音声の発生源の位置との関係に応じて、前記第1の音声信号を相対的に遅延する量を決定する
    請求項1に記載の監視システム。
  6. 前記主制御装置は、
    記監視装置の動作を制御する制御情報を前記監視装置に供給し、
    前記監視装置は、
    記制御情報に基づいて、前記音声信号を前記主制御装置に供給するか否かを判定する
    求項1に記載の監視システム。
  7. 前記制御情報は、前記監視装置により使用されるテーブルのテーブル番号を指定する情報である
    請求項6に記載の監視システム。
  8. 前記主制御装置は、
    記主制御装置が有するテーブルを更新する新たなテーブルを前記監視装置に供給する
    請求項6に記載の監視システム。
  9. 前記主制御装置は、
    記監視装置において使用されるセンサを指定する情報を前記監視装置に供給する
    請求項6に記載の監視システム。
  10. 第1の音声入力部において得られた第1の音声信号に含まれる前記所望の音声信号を、前記第1の音声入力部と所定の間隔をあけて配置された第2の音声入力部において得られた第2の音声信号に含まれる前記所望の音声信号に対して相対的に所定の量だけ遅延する遅延手段と、
    前記遅延手段により相対的に遅延された前記第1の音声信号と前記第2の音声信号とを加算して第3の音声信号を生成する加算手段と、
    前記遅延手段により相対的に遅延された前記第1の音声信号と前記第2の音声信号との一方から他方を減算して第4の音声信号を生成する減算手段と、
    前記減算手段により生成された前記第4の音声信号の移動平均を算出する移動平均算出手段と、
    前記第1の音声信号および前記第2の音声信号が、所望の音声信号を多く含む第1の領域の音声信号であるか、前記所望の音声信号がほとんど含まれず、雑音成分を多く含む第2の領域の音声信号であるかを判定する領域判定手段と、
    前記領域判定手段により前記第1の音声信号および前記第2の音声信号が前記第2の領域の音声信号であると判定された場合、前記第3の音声信号から、前記第4の音声信号および前記第4の音声信号の移動平均の乗算結果を減算することにより、前記雑音成分を減衰させた音声信号を生成する減衰手段と
    を備える信号処理装置。
  11. 記第1の音声信号と前記第2の音声信号との相関関係を示す相関係数を算出する相関係数算出手段をさらに備え、
    前記領域判定手段は、前記相関係数算出手段により算出された前記相関係数の値の大きさによって、前記第1の音声信号および前記第2の音声信号が、前記第1の領域の音声信号であるか、前記第2の領域の音声信号であるかを判定する
    請求項10に記載の信号処理装置。
  12. 前記領域判定手段は、前記相関係数算出手段により算出された前記相関係数の値が、予め定められた所定の閾値より大きい場合、前記第1の音声信号および前記第2の音声信号が前記第1の領域の音声信号であると判定し、前記相関係数算出手段により算出された前記相関係数の値が前記閾値より小さい場合、前記第1の音声信号および前記第2の音声信号が前記第2の領域の音声信号であると判定する
    請求項11に記載の信号処理装置。
  13. 前記閾値の値は、「−1」以上であり、かつ、「1」以下である
    請求項12に記載の信号処理装置。
  14. 前記第1の音声入力部および前記第2の音声入力部の位置と、前記所望の音声信号に対応する音声の発生源の位置との関係に応じて、前記遅延手段が前記第1の音声信号を相対的に遅延する量を決定する遅延量決定手段をさらに備え、
    前記遅延手段は、前記遅延量決定手段により決定されただけ、前記第1の音声信号を相対的に遅延する
    請求項10に記載の信号処理装置。
  15. 号処理装置の信号処理方法であって、
    前記信号処理装置の遅延手段が、第1の音声入力部において得られた第1の音声信号に含まれる前記所望の音声信号を、前記第1の音声入力部と所定の間隔をあけて配置された第2の音声入力部において得られた第2の音声信号に含まれる前記所望の音声信号に対して相対的に所定の量だけ遅延し、
    前記信号処理装置の加算手段が、相対的に遅延された前記第1の音声信号と前記第2の音声信号とを加算して第3の音声信号を生成し、
    前記信号処理装置の減算手段が、相対的に遅延された前記第1の音声信号と前記第2の音声信号との一方から他方を減算して第4の音声信号を生成し、
    前記信号処理装置の移動平均手段が、前記第4の音声信号の移動平均を算出し、
    前記信号処理装置の領域判定手段が、前記第1の音声信号および前記第2の音声信号が、所望の音声信号を多く含む第1の領域の音声信号であるか、前記所望の音声信号がほとんど含まれず、雑音成分を多く含む第2の領域の音声信号であるかを判定し、
    前記信号処理装置の減衰手段が、前記第1の音声信号および前記第2の音声信号が前記第2の領域の音声信号であると判定された場合、前記第3の音声信号から、前記第4の音声信号および前記第4の音声信号の移動平均の乗算結果を減算することにより、前記雑音成分を減衰させた音声信号を生成する
    号処理方法。
  16. コンピュータを、
    第1の音声入力部において得られた第1の音声信号に含まれる前記所望の音声信号を、前記第1の音声入力部と所定の間隔をあけて配置された第2の音声入力部において得られた第2の音声信号に含まれる前記所望の音声信号に対して相対的に所定の量だけ遅延する遅延手段と、
    前記遅延手段により相対的に遅延された前記第1の音声信号と前記第2の音声信号とを加算して第3の音声信号を生成する加算手段と、
    前記遅延手段により相対的に遅延された前記第1の音声信号と前記第2の音声信号との一方から他方を減算して第4の音声信号を生成する減算手段と、
    前記減算手段により生成された前記第4の音声信号の移動平均を算出する移動平均算出手段と、
    前記第1の音声信号および前記第2の音声信号が、所望の音声信号を多く含む第1の領域の音声信号であるか、前記所望の音声信号がほとんど含まれず、雑音成分を多く含む第2の領域の音声信号であるかを判定する領域判定手段と、
    前記領域判定手段により前記第1の音声信号および前記第2の音声信号が前記第2の領域の音声信号であると判定された場合、前記第3の音声信号から、前記第4の音声信号および前記第4の音声信号の移動平均の乗算結果を減算することにより、前記雑音成分を減衰させた音声信号を生成する減衰手段
    として機能させるプログラム。
JP2003303031A 2003-08-27 2003-08-27 監視システム、信号処理装置および方法、並びにプログラム Expired - Fee Related JP4517606B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003303031A JP4517606B2 (ja) 2003-08-27 2003-08-27 監視システム、信号処理装置および方法、並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003303031A JP4517606B2 (ja) 2003-08-27 2003-08-27 監視システム、信号処理装置および方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2005070643A JP2005070643A (ja) 2005-03-17
JP4517606B2 true JP4517606B2 (ja) 2010-08-04

Family

ID=34407142

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003303031A Expired - Fee Related JP4517606B2 (ja) 2003-08-27 2003-08-27 監視システム、信号処理装置および方法、並びにプログラム

Country Status (1)

Country Link
JP (1) JP4517606B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2011074702A1 (ja) * 2009-12-18 2013-05-02 日本電気株式会社 信号分離装置、信号分離方法、及び信号分離プログラム
JP2011170282A (ja) * 2010-02-22 2011-09-01 Toshiba Corp 再生装置および再生方法
JP6098425B2 (ja) * 2013-08-01 2017-03-22 株式会社デンソー 並列駆動電源システム
JP6463904B2 (ja) * 2014-05-26 2019-02-06 キヤノン株式会社 信号処理装置及び音源分離方法及びプログラム
JP7140542B2 (ja) * 2018-05-09 2022-09-21 キヤノン株式会社 信号処理装置、信号処理方法、およびプログラム
CN110267160B (zh) * 2019-05-31 2020-09-22 潍坊歌尔电子有限公司 声音信号处理方法、装置及设备
WO2023074655A1 (ja) * 2021-10-27 2023-05-04 パイオニア株式会社 情報処理装置、情報処理方法、プログラムおよび記録媒体
CN115662383B (zh) * 2022-12-22 2023-04-14 杭州爱华智能科技有限公司 主声源删除方法及系统、多声源识别方法及系统、装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05260589A (ja) * 1992-03-10 1993-10-08 Nippon Hoso Kyokai <Nhk> 焦点収音方法
JPH0997392A (ja) * 1995-10-02 1997-04-08 Hitachi Zosen Corp 異常監視方法およびその装置
JPH09252465A (ja) * 1996-03-14 1997-09-22 Sony Corp 画像表示方法及び装置
JPH10155194A (ja) * 1996-11-22 1998-06-09 Nec Corp 雑音抑圧送話装置
JPH10227400A (ja) * 1997-02-14 1998-08-25 Hitachi Ltd 遠隔監視システム
JP2001273576A (ja) * 2000-03-23 2001-10-05 Dx Antenna Co Ltd 移動体温度の遠隔監視装置
JP2002183863A (ja) * 2000-12-15 2002-06-28 Katsuyoshi Nakai 安否確認システム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6995309B2 (en) * 2001-12-06 2006-02-07 Hewlett-Packard Development Company, L.P. System and method for music identification

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05260589A (ja) * 1992-03-10 1993-10-08 Nippon Hoso Kyokai <Nhk> 焦点収音方法
JPH0997392A (ja) * 1995-10-02 1997-04-08 Hitachi Zosen Corp 異常監視方法およびその装置
JPH09252465A (ja) * 1996-03-14 1997-09-22 Sony Corp 画像表示方法及び装置
JPH10155194A (ja) * 1996-11-22 1998-06-09 Nec Corp 雑音抑圧送話装置
JPH10227400A (ja) * 1997-02-14 1998-08-25 Hitachi Ltd 遠隔監視システム
JP2001273576A (ja) * 2000-03-23 2001-10-05 Dx Antenna Co Ltd 移動体温度の遠隔監視装置
JP2002183863A (ja) * 2000-12-15 2002-06-28 Katsuyoshi Nakai 安否確認システム

Also Published As

Publication number Publication date
JP2005070643A (ja) 2005-03-17

Similar Documents

Publication Publication Date Title
CN107454508B (zh) 麦克风阵列的电视机及电视系统
EP3413303B1 (en) Information processing device, information processing method, and program
EP2261616B1 (en) Standing wave detection apparatus and method of controlling the same
US10733970B2 (en) Noise control method and device
CN109256146B (zh) 音频检测方法、装置及存储介质
US9905215B2 (en) Noise control method and device
JP4729927B2 (ja) 音声検出装置、自動撮像装置、および音声検出方法
CN109920419B (zh) 语音控制方法和装置、电子设备及计算机可读介质
US20150287414A1 (en) Method for controlling device and device control system
CN110970057A (zh) 一种声音处理方法、装置与设备
JP2012027186A (ja) 音声信号処理装置、音声信号処理方法及びプログラム
JPWO2017168936A1 (ja) 情報処理装置、情報処理方法、及びプログラム
US10783903B2 (en) Sound collection apparatus, sound collection method, recording medium recording sound collection program, and dictation method
JP4517606B2 (ja) 監視システム、信号処理装置および方法、並びにプログラム
CN109616135B (zh) 音频处理方法、装置及存储介质
CN109192214B (zh) 一种语音取号方法、存储介质和机器人
JP2017144521A (ja) 情報処理装置、情報処理方法、及びプログラム
JP6772839B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP4556099B2 (ja) 監視システム、制御装置および方法、並びにプログラム
CN107452398B (zh) 回声获取方法、电子设备及计算机可读存储介质
CN109671430A (zh) 一种语音处理方法及装置
CN110888335A (zh) 一种智能家居控制器及其交互方法、存储介质
JP2002034092A (ja) 収音装置
JP2007158589A (ja) 音場補正方法、音場補正装置及びオーディオ装置
CN107808655B (zh) 音频信号处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060816

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100427

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100510

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees