JP2007186915A - パワーウインドウ装置 - Google Patents
パワーウインドウ装置 Download PDFInfo
- Publication number
- JP2007186915A JP2007186915A JP2006006051A JP2006006051A JP2007186915A JP 2007186915 A JP2007186915 A JP 2007186915A JP 2006006051 A JP2006006051 A JP 2006006051A JP 2006006051 A JP2006006051 A JP 2006006051A JP 2007186915 A JP2007186915 A JP 2007186915A
- Authority
- JP
- Japan
- Prior art keywords
- window
- image
- image processing
- pinching
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000001514 detection method Methods 0.000 claims abstract description 125
- 230000033001 locomotion Effects 0.000 claims description 53
- 239000000463 material Substances 0.000 claims description 23
- 230000006870 function Effects 0.000 claims description 15
- 230000002265 prevention Effects 0.000 claims description 12
- 238000005286 illumination Methods 0.000 claims description 4
- 238000003384 imaging method Methods 0.000 claims description 3
- 235000019557 luminance Nutrition 0.000 description 67
- 239000003550 marker Substances 0.000 description 45
- 238000000034 method Methods 0.000 description 30
- 230000003287 optical effect Effects 0.000 description 27
- 238000010586 diagram Methods 0.000 description 16
- 238000012544 monitoring process Methods 0.000 description 10
- 239000000126 substance Substances 0.000 description 10
- 238000000605 extraction Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 5
- 230000005484 gravity Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000010354 integration Effects 0.000 description 4
- 230000000630 rising effect Effects 0.000 description 4
- 230000007423 decrease Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 101100243951 Caenorhabditis elegans pie-1 gene Proteins 0.000 description 1
- 241000282412 Homo Species 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 239000005357 flat glass Substances 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 238000009413 insulation Methods 0.000 description 1
- 230000009545 invasion Effects 0.000 description 1
- 239000003973 paint Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000000049 pigment Substances 0.000 description 1
Images
Landscapes
- Window Of Vehicle (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Power-Operated Mechanisms For Wings (AREA)
Abstract
【課題】ウインドウによる異物の挟み込みを、実際に異物を挟む前に検出することができるパワーウインドウ装置を提供する。
【解決手段】車両1に、挟み込み検出機能を備えた画像処理装置15を設け、車両1のドア2に、窓枠周辺を撮影可能な赤外線カメラ14を取り付ける。画像処理装置15は、赤外線カメラ14から画像データDpicを取得し、この画像データDpicを用いて挟み込みの有無を判定する。画像処理装置15は、ウインドウ3に挟み込まれる位置に異物が侵入したと判定すると、挟み込みが生じ得ると認識し、その旨をパワーウインドウECU6に通知する。この通知を受けたパワーウインドウECU6は、安全動作を実施してウインドウ3の昇降に規制を加え、ウインドウ3による挟み込みを未然に防ぐ。
【選択図】図1
【解決手段】車両1に、挟み込み検出機能を備えた画像処理装置15を設け、車両1のドア2に、窓枠周辺を撮影可能な赤外線カメラ14を取り付ける。画像処理装置15は、赤外線カメラ14から画像データDpicを取得し、この画像データDpicを用いて挟み込みの有無を判定する。画像処理装置15は、ウインドウ3に挟み込まれる位置に異物が侵入したと判定すると、挟み込みが生じ得ると認識し、その旨をパワーウインドウECU6に通知する。この通知を受けたパワーウインドウECU6は、安全動作を実施してウインドウ3の昇降に規制を加え、ウインドウ3による挟み込みを未然に防ぐ。
【選択図】図1
Description
本発明は、ウインドウの開閉動作時において、カメラ等の撮影機器で取得した撮影画像を用い、ウインドウによる人体等の異物の挟み込み有無を検出するパワーウインドウ装置に関する。
近年、多くの車両においては、ウインドウの開閉操作の利便性向上を目的として、DCモータ等を駆動源にウインドウを自動で昇降させるパワーウインドウ装置が搭載されている。この種のパワーウインドウ装置には、ウインドウの開閉動作時においてウインドウによる挟み込みを防止する挟み込み防止機能を有する機種があり、この技術が例えば特許文献1,2に開示されている。この挟み込み防止機能は、挟み込みを検出すると、上昇中のウインドウを停止したり、或いはウインドウガラスを上昇から下降に転じさせたりする。
これら文献で示された挟み込み防止機能は、モータの回転数を検出するパルスセンサのパルス信号を見ることで、ウインドウによる挟み込みの有無を検出する。このパルスセンサは、パルス信号のパルスをカウントすることによってウインドウの位置を見るためのセンサであるが、ウインドウで挟み込みが生じた場合、その時点からウインドウの上昇が規制されてモータの回転数、つまりパルス信号のパルス数が減少する。よって、パルスセンサを備えたパワーウインドウ装置においては、パルスセンサが出力するパルス信号の単位時間当たりのパルス数変化を見ることで、ウインドウによる挟み込みの有無を判定する方式(パルス信号検出式)が採用される。
特開2004−092314号公報
特開2004−244956号公報
ところが、挟み込み検出がパルス信号検出式の場合は、実際にウインドウで異物が挟み込まれた時に、これを挟み込み有りとして検出する。このように、挟み込み検出がパルス信号検出式の場合、挟み込み検出に際しては異物の挟み込みを前提としていることから、この種の挟み込み防止機能はウインドウによる挟み込みを防止するといっても、実際にユーザは軽微と言えど手等の人体の一部がウインドウに挟まれた状態となる。よって、パワーウインドウ装置に挟み込み防止機能を備え付けて、ウインドウによる挟み込みを防止したとしても、ユーザの不快感解消の解決にはなっていない問題があった。
本発明の目的は、ウインドウによる異物の挟み込みを、実際に異物を挟む前に検出することができるパワーウインドウ装置を提供することにある。
前記問題点を解決するために、本発明によれば、昇降動作中のウインドウにより異物が挟み込まれることを防止する挟み込み防止機能を備えたパワーウインドウ装置において、窓枠周辺を撮影する撮影手段と、前記撮影手段が撮影した画像データを入力し、当該画像データに映り込んだ輝度から求まる特徴量を基に前記挟み込みの有無を検出する画像処理手段と、前記画像処理手段が前記挟み込みを検出した際に、前記挟み込みを防止し得る安全動作を、前記ウインドウの昇降を制御する昇降制御手段に実行させる実行手段とを備えたことを要旨とする。
この構成によれば、撮影手段が起動を開始して窓枠周辺を撮影すると、その画像データが撮影手段から画像処理手段に出力される。この画像データを入力した画像処理手段は、その画像データの輝度から特徴量を算出し、この特徴量と閾値とを比較することで、ウインドウによる挟み込みの有無を検出する。画像処理手段は、挟み込みを検出するとその旨を昇降制御手段に出力し、昇降制御手段に安全動作を実行させる。これにより、例えばウインドウの昇降が停止したり或いは逆転したりしてウインドウの動作に規制が加わり、ウインドウにより人体が挟み込まれる事が抑制される。
従って、本発明のような画像データから挟み込みの有無を検出する手法を用いれば、実際にユーザが例えば手や指等をウインドウで挟まれなくても、挟み込みが発生しそうな状況を検出することが可能となる。よって、ユーザが例えば手や指等をウインドウで挟み込んでしまう前に、未然に挟み込みを検出することが可能となり、ユーザに不快感等を与えることなく、ウインドウによる挟み込みを検出することが可能となる。
本発明によれば、前記画像処理手段は、前記特徴量を基に前記画像データに映り込んだ物体の動きを検出し、当該動きから前記挟み込みの有無を検出することを要旨とする。
この構成によれば、人体の動きはそれ特有の動きをとることから、撮影画像上の物体の動きを見て挟み込み検出を行えば、挟み込み判定時に用いる撮影画像上の基準領域(異物判定基準領域)に人体が侵入したか否かを、より高い精度で判定することが可能となる。よって、撮影手段の画像データを用いて挟み込み有無を検出するに際して、誤検出が生じ難い。
この構成によれば、人体の動きはそれ特有の動きをとることから、撮影画像上の物体の動きを見て挟み込み検出を行えば、挟み込み判定時に用いる撮影画像上の基準領域(異物判定基準領域)に人体が侵入したか否かを、より高い精度で判定することが可能となる。よって、撮影手段の画像データを用いて挟み込み有無を検出するに際して、誤検出が生じ難い。
本発明によれば、前記窓枠に、光反射率の高い光反射材料を設け、前記画像処理手段は、前記光反射材料を撮影した画像から当該光反射材料の画像領域を取得し、この領域において前記特徴量を求め、当該特徴量の変化から前記挟み込みの有無を検出することを要旨とする。
この構成によれば、窓枠に光反射材料が設けられているので、撮影手段は光反射材料が映り込んだ画像を撮影する。画像処理手段は、光反射材料の映った画像データから光反射材料の画像領域を取得し、この光反射材料画像領域の特徴量を求めて挟み込みの有無を検出する。この場合、撮影画像に映り込む光反射材料領域を異物判定基準領域として用いることになるので、異物判定基準領域を例えばペイントソフト等でマーキングした画像データをテンプレートデータとして用意しておく必要がなくなり、面倒なデータ編集等の作業を行わずに異物判定基準領域を設定することが可能となる。
本発明によれば、前記撮影手段の前記画像データから前記窓枠周辺の照度を算出する照度算出手段と、挟み込み有無の検出手法が各々異なる複数のアルゴリズムを記憶した記憶手段とを備え、前記画像処理手段は、前記記憶手段内の複数のアルゴリズムの中から前記照度に応じたアルゴリズムを選択し、当該アルゴリズムを用いて前記挟み込みの有無を検出することを要旨とする。
この構成によれば、挟み込み有無を検出するに際して窓枠周辺の照度が算出され、記憶手段に登録された複数のアルゴリズムの中から、その時の照度に応じたアルゴリズムが選択され、そのアルゴリズムを用いて挟み込み検出が行われる。従って、その時の照度に応じた最適のアルゴリズムで挟み込み検出が実施されることになり、挟み込み有無を判定するに際して誤判定防止に非常に効果が高い。
本発明によれば、前記撮影手段は、近赤外線を前記窓枠周辺に発光し、被写体で反射した前記近赤外線を用いて前記挟み込みの有無を検出することを要旨とする。
この構成によれば、人には見えない特性がある近赤外線を窓枠周辺に照射し、窓枠周辺に存在する被写体から跳ね返った反射光を取り込んで窓枠周辺の画像を取得する。従って、夜間などの暗所においても、人の視界に影響を及ぼすことなく窓枠周辺の画像を撮影することが可能となる。ところで、例えば撮影手段が照射する光として赤外線を用いることも可能であるが、赤外線には赤外線カメラに写らない波長領域もあるため、場合によっては画像の映り込まない部分が生じる可能性もある。しかし、本発明のように赤外線カメラが照射する光として近赤外線を用いれば、赤外線を用いた場合に起こり得る問題が生じ難くなる。
この構成によれば、人には見えない特性がある近赤外線を窓枠周辺に照射し、窓枠周辺に存在する被写体から跳ね返った反射光を取り込んで窓枠周辺の画像を取得する。従って、夜間などの暗所においても、人の視界に影響を及ぼすことなく窓枠周辺の画像を撮影することが可能となる。ところで、例えば撮影手段が照射する光として赤外線を用いることも可能であるが、赤外線には赤外線カメラに写らない波長領域もあるため、場合によっては画像の映り込まない部分が生じる可能性もある。しかし、本発明のように赤外線カメラが照射する光として近赤外線を用いれば、赤外線を用いた場合に起こり得る問題が生じ難くなる。
本発明によれば、ウインドウによる異物の挟み込みを、実際に異物を挟む前に検出することができる。
以下、本発明を具体化したパワーウインドウ装置の一実施形態を図1〜図23に従って説明する。
図1に示すように、車両1の各ドア2には、ウインドウ3を昇降させる際に操作するパワーウインドウスイッチ(以下、PWスイッチと記す)4が配設されている。このPWスイッチ4は、例えば2段クリック式の揺動型スイッチであって、一端側(下降側)を1段クリックすると、クリック操作されている間においてウインドウ3が下降し、一端側を2段クリックすると作動モードがオート下降状態となり、再スイッチ操作されるまでウインドウ3が連続下降する。なお、PWスイッチ4を上昇操作した時も同様の動きをとる。
図1に示すように、車両1の各ドア2には、ウインドウ3を昇降させる際に操作するパワーウインドウスイッチ(以下、PWスイッチと記す)4が配設されている。このPWスイッチ4は、例えば2段クリック式の揺動型スイッチであって、一端側(下降側)を1段クリックすると、クリック操作されている間においてウインドウ3が下降し、一端側を2段クリックすると作動モードがオート下降状態となり、再スイッチ操作されるまでウインドウ3が連続下降する。なお、PWスイッチ4を上昇操作した時も同様の動きをとる。
車両1には、操作者のスイッチ操作を基にウインドウ3を自動で昇降させるモータユニット5が、運転席、助手席、リヤ右側席及びリヤ左側席の各ドアに各々配設されている。モータユニット5には、ウインドウ3の昇降制御を行うパワーウインドウECU(Electric Control Unit)6が搭載されている。パワーウインドウECU6には、ウインドウ3が昇降する際の駆動源となる駆動モータ7と、この駆動モータ7の回転数を検出するパルスセンサ8とが接続されている。なお、パワーウインドウECU6が昇降制御手段に相当する。
パワーウインドウECU6には、このECU6を統括制御するCPU(Central Processing Unit)9が内蔵されている。CPU9の入力側には、パワーウインドウECU6内のスイッチ回路10を介してPWスイッチ4が接続されるとともに、パワーウインドウECU6内のパルス入力回路11を介してパルスセンサ8が各々接続されている。また、CPU9の出力側には、パワーウインドウECU6内の駆動回路12を介して駆動モータ7が接続されている。
CPU9は、PWスイッチ4が操作された事を検出すると、駆動モータ7の駆動力をウインドウ3の上下方向の運動力に変換するレギュレータ13を介し、駆動モータ7の駆動力をウインドウ3に伝達してウインドウ3を昇降させる。このとき、CPU9は、パルスセンサ8が出力するパルス信号Spaのパルスをカウントすることで、ウインドウ3の位置を判定する。
各ドア2の内側面には、車内からウインドウ3の昇降動作を撮影可能な赤外線カメラ14が配設されている。この赤外線カメラ14は、カメラ撮影領域に近赤外線LED14aから近赤外線を照射するとともに、被写体で反射した近赤外線を撮影画像として撮影するカメラである。近赤外線等の赤外線は目に見えない光であることから、この種の赤外線カメラ14を用いて撮影を行えば、夜間においても運転者等に気付かれることなく、ウインドウ3の窓枠周辺を撮影可能である。なお、赤外線カメラ14が撮影手段に相当する。
各赤外線カメラ14には、例えばドア2の内壁などに埋設された画像処理装置15がケーブル16を介して接続されている。また、この画像処理装置15は、信号線17を介してパワーウインドウECU6に接続されている。画像処理装置15は、赤外線カメラ14の作動を制御するとともに、赤外線カメラ14から撮影画像(画像データDpic)をモノクロ画像で取得し、この画像データDpicを用いて、ウインドウ3による指や手などの人体の挟まれを防止する挟み込み防止制御を行う。なお、画像処理装置15が画像処理手段、実行手段及び照度算出手段を構成する。
赤外線カメラ14は、画像処理装置15からパルス状の画像要求信号Sreqを入力すると、その入力タイミングで画像撮影を行い、その撮影画像Picを画像処理装置15に出力する。よって、画像処理装置15は、画像要求信号Sreを赤外線カメラ14に出力する度に赤外線カメラ14から撮影画像Picを取得し、このように画像要求信号発信の度に得られる撮影画像Picを画像データDpicとして取得する。
また、赤外線カメラ14が単位時間当たりに画像要求信号Sreqを多パルス(短い周期)で入力すれば、赤外線カメラ14は短い周期で撮影画像Picを画像処理装置15に順次送ることになる。このため、画像処理装置15が画像要求信号Sreqを赤外線カメラ14に短い周期で出力するように設定すれば、画像処理装置15が赤外線カメラ14から取得する撮影画像数はより多くなり、画像処理装置15は連続的な画像(動画)を得ることが可能でなる。
画像処理装置15には、同装置15を統括制御する画像処理制御部(CPU)18が内蔵されている。画像処理制御部18は、画像処理装置15内のインターフェース19を介し、赤外線カメラ14から延びるケーブル16と接続されている。画像処理制御部18とインターフェース19との間において画像データの入力ライン上には、画像データ内のノイズを除去するノイズ除去回路20が接続されている。
画像処理制御部18には、各種プログラムを記憶したROM21と、各種処理実行時において画像処理制御部18の作業領域として用いられるRAM22と、データを書き換え可能な状態で保持するEEPROM23が接続されている。ROM21には、画像処理制御部18が挟み込み防止制御として実行する挟み込み防止制御プログラム24が記憶されている。画像処理制御部18は、挟み込み防止制御プログラム24に沿って作動することにより、赤外線カメラ14から取得した画像データから、ウインドウ3による挟み込みの有無を検知する。なお、ROM21が記憶手段に相当する。
画像処理制御部18は、画像処理装置15内のインターフェース25を介し、パワーウインドウECU6から延びる信号線17の一端と接続されている。また、パワーウインドウECU6のCPU9は、パワーウインドウECU6内のインターフェース26を介して、信号線17の他端と接続されている。異物の挟み込みを検出した画像処理制御部18は、信号線17を介してその旨の指令を送り、パワーウインドウECU6に各種安全動作を実行させることが可能である。
挟み込み防止制御プログラム24には、挟み込み検知処理のアルゴリズム(挟み込み有無の検知手法)が複数登録されている。本例のアルゴリズムとしては、以下の4パターンがある。即ち、撮影画像からオプティカルフローを求めて異物の動きを検出する手法(オプティカルフロー検知手法)と、撮影画像の差分を求めて異物の動きを検出する手法(画像差分検知手法)と、撮影画像の特徴量(輪郭、領域面積)の変化を見る手法(特徴量検知手法)と、窓枠に付したマーカの変化を撮影画像から取得する手法(マーカ監視検知手法)とがある。
続いて、これらの検知手法の詳細を以下に順を追って説明する。
ところで、赤外線カメラ14で取り込んだ撮影画像Picは、図2に示すようにウインドウ3以外の不要な部分(周囲の風景等)も映り込むことから、挟み込み検出時に用いるべき領域を切り出し、それを検知エリアEとして設定する必要がある。そこで、本例においては、窓枠27を撮影した撮影画像を予め取得しておき、ペイントソフト等を用いてその画像から窓枠周辺領域を切り出すことによって、この領域を挟み込み検知時に用いる検知エリアEとして特定する。そして、検知エリアEを特定した画像データを、テンプレートデータDtempとして予めEEPROM23に登録しておく。
ところで、赤外線カメラ14で取り込んだ撮影画像Picは、図2に示すようにウインドウ3以外の不要な部分(周囲の風景等)も映り込むことから、挟み込み検出時に用いるべき領域を切り出し、それを検知エリアEとして設定する必要がある。そこで、本例においては、窓枠27を撮影した撮影画像を予め取得しておき、ペイントソフト等を用いてその画像から窓枠周辺領域を切り出すことによって、この領域を挟み込み検知時に用いる検知エリアEとして特定する。そして、検知エリアEを特定した画像データを、テンプレートデータDtempとして予めEEPROM23に登録しておく。
まず、オプティカルフロー検知手法を説明する。画像処理制御部18は、信号線17で繋がれたパワーウインドウECU6から、ウインドウ3の現在位置を表す窓位置情報Dwiを入力しているため、ウインドウ3が昇降中である事や、ウインドウ3の現在位置を認識可能である。よって、画像処理制御部18は、ウインドウ3が開いていることを検出すると、赤外線カメラ14への画像要求信号Sreqの出力を開始して窓枠周辺の撮影を開始し、ノイズ除去回路20でノイズを取った後の画像データDpicを用いて挟み込み検出を行う。
画像処理制御部18は、赤外線カメラ14から画像データDpicを取得した際、その画像データDpicから図3に示すようなオプティカルフロー28を求め、そのオプティカルフロー28を用いて、画像に映り込む図4に示す物体の動き(移動軌跡29)を特徴量Tとして検出する。そして、画像処理制御部18は、検出された物体の動きの位置、方向、面積を各々の異物判定閾値と比較し、ウインドウ3により挟み込まれる領域に異物が入り込んだか否かを判定する。なお、ここで言う異物判定閾値は、算出した画像上の特性値がこの値を超えると、その物体を異物と判断することが可能な設定値である。オプティカルフロー28の算出手法としては、例えば勾配法、ブロックマッチング法、Horn and BG Schunck法、Lucas Kanade法などが用いられる。
オプティカルフロー28を用いて挟み込みの有無を判定するに際しては、最初に行う処理として、図5(a)に示すように、撮影画像Picにおいてピクセル(画素)ごとに輝度を求め、画面縦軸方向の各画素列と画面横軸方向の各画素列で輝度波形30を求める。例えば、図5(a)に示す例のように、ある所定の列において真ん中付近の輝度が低くなると、その真ん中部分で波形の傾きがマイナスになった輝度波形30が求まる。
オプティカルフロー算出に際しては、前後する撮影画像Picを比較する処理が必要となるため、前後する撮影画像Picに連続性を持たせる、つまり前後する撮影画像Picを連続的に繋がった状態とすべく、図5(a)に示す輝度波形30を、波形傾きを緩やかにした図5(b)に示す補正波形31に変換する。この補正波形31は、輝度波形30の変曲点部分が緩やかに湾曲した波形である。この補正波形31を求める処理は、画像処理制御部18が撮影画像Picを取得する度に、画面縦軸方向及び画面横軸方向の全ての列で行う。
そして、連続的に前後する撮影画像Picにおいて、それぞれの列の補正波形31同士で図5(c)に示すような波形差La(同図の斜線領域)を算出する。例えば、図5(c)に実線で示す補正波形31aを、図5(b)に示す補正波形31bの一つ後の撮影画像Picの補正波形とすると、補正波形31aと補正波形31bとの間で差をとることによって波形差Laを算出する。そして、この波形差Laからオプティカルフロー28を算出する。また、このオプティカルフロー28は、物体が次の瞬間にどの方向へどれだけ移動するかを表す値であることから、別の言い方をすれば物体の速度として求まる値であるとも言える。そして、画像処理制御部18は、画面縦軸方向及び画面横軸方向の各画素列から求まる波形差Laを用い、撮影画像Picのピクセルごとに図3に示すようなオプティカルフロー28を算出する。
ここで、勾配法の詳細について説明する。画像上の画素(x,y)の輝度をf(x,y,z)とし、その点が時刻(t+dt)となった時に、輝度がf(x+dx,y+dy,t+dt)に移ったとすると、次式(1)が成立する。
f(x,y,z)=f(x+dx,y+dy,t+dt) … (1)
そして、式(1)をテーラー展開し、dxとdyとdtとの2次以降を切り捨てると、次式(2)が成立する。
そして、式(1)をテーラー展開し、dxとdyとdtとの2次以降を切り捨てると、次式(2)が成立する。
fx(x,y,z)・u+fy(x,y,z)・v+ft(x,y,z)=0 … (2)
これにより、式(2)を解けばf(x+dx,y+dy,t+dt)を求めることができるが、係数uと係数vは未知数の値であるため、まずは係数uと係数vとを求める必要がある。そこで、次式(3),(4)に示すような2つのフィルタを用いて勾配法の拘束式を作る。
これにより、式(2)を解けばf(x+dx,y+dy,t+dt)を求めることができるが、係数uと係数vは未知数の値であるため、まずは係数uと係数vとを求める必要がある。そこで、次式(3),(4)に示すような2つのフィルタを用いて勾配法の拘束式を作る。
(g*f)x・u+(g*f)y・v+(g*f)t=0 … (3)
(h*f)x・u+(h*f)y・v+(h*f)t=0 … (4)
このフィルタgとフィルタhとには、微分可能であるために連続であることと、これら2つの拘束式が独立であることという2つの条件がある。このうち、微分可能であるために連続であるという条件が、図5(a)に示す輝度波形30を図5(b)に示す補正波形31に平滑化したという部分に相当する。そして、式(3)と(4)から係数uと係数vを算出し、これら係数uと係数vとを式(2)に代入してこれを解くことにより、f(x+dx,y+dy,t+dt)を算出し、オプティカルフロー28を求める。
(h*f)x・u+(h*f)y・v+(h*f)t=0 … (4)
このフィルタgとフィルタhとには、微分可能であるために連続であることと、これら2つの拘束式が独立であることという2つの条件がある。このうち、微分可能であるために連続であるという条件が、図5(a)に示す輝度波形30を図5(b)に示す補正波形31に平滑化したという部分に相当する。そして、式(3)と(4)から係数uと係数vを算出し、これら係数uと係数vとを式(2)に代入してこれを解くことにより、f(x+dx,y+dy,t+dt)を算出し、オプティカルフロー28を求める。
即ち、勾配法の概略を図6に示すと、まず元の画像をx方向に強い平滑化を行って平滑画像Pxを求めるとともに、元の画像をy方向に強い平滑化を行って平滑画像Pyを求める。そして、これら平滑画像Px,Pyを用いて係数uと係数vとを求め、これら係数u,vを用いて画像の速度や方向等を求めることになる。
オプティカルフロー28を求めた画像処理制御部18は、このオプティカルフロー28を用いて物体の動きを検出し、検出された物体の動きの位置、方向、面積から、ウインドウ3により挟み込まれる領域に異物が入り込んだか否かを判定する。即ち、図4に示すように、同じ方向を成すオプティカルフロー28を繋げて物体の動き(移動軌跡29)を求め、この動きの位置、方向、面積を各々の閾値と比較し、全ての項目でこれらパラメータが異物判定閾値を超えると、ウインドウ3により挟み込まれる領域に異物が入り込んだと判定する。
具体的な処理例を挙げると、画像処理制御部18は、物体の動き(移動軌跡29)を逐次監視し、その物体が人体の手や指等の動きを伴って検知エリアEに侵入してきたと検出すると、その物体が異物と判断し得る面積を有するもので、しかも移動軌跡29から求まる物体の検知エリア侵入方向が手や指の動き方向(例えば画面横軸方向)であるか否かを判定する。画像処理制御部18は、これら条件が揃うと、ウインドウ3により挟まれる領域に異物が入り込んだと判定し、信号線17を介して安全動作要求信号SsafをパワーウインドウECU6に出力する。
安全動作要求信号Ssafを受けたパワーウインドウECU6は、ウインドウ3による挟み込みを回避すべく安全動作を実行する。この安全動作としては、例えばウインドウ3が停止している場合、所定時間の間においてウインドウの上昇を禁止する動作や、ウインドウ3が上昇している場合、ウインドウ3をその位置で停止させたり、或いはウインドウ3を安全な位置まで下降させたりする動作が挙げられる。また、これら以外の安全動作としては、車内に設置した警報装置によって音声や光で操作者に警告を与える動作でもよい。
次に、画像差分検知手法を説明する。画像処理制御部18は、赤外線カメラ14から画像データDpicを取得すると、図7に示すような連続する2つの撮影画像Pic1,Pic2との間で、それぞれに映り込んだ認識物体32a,32bの画像差分Mをとり、この画像差分Mを用いて画像データDpicに映り込んだ図8に示すような物体の動き(移動軌跡33)を特徴量Tとして検出する。そして、画像処理制御部18は、検出された物体の動きの位置、方向、面積を各々の異物判定閾値と比較し、ウインドウ3により挟み込まれる領域に異物が入り込んだか否かを判定する。
画像差分Mを用いて挟み込み有無を判定するに際して、まず画像処理制御部18は、撮影画像Picに映り込んだ各個体の大きさや色等から、撮影画像Picに映った映像物が物体であるか否かを認識する。この撮影画像Pic上における個体認識は、画像上の輝度と物体判定閾値とを比較することで行い、その物体判定閾値を超える部分を認識物体32a(32b)として把握する。ここで言う物体判定閾値とは、算出した画像上の特性値がこの値を超えると、それを物体として認識可能な設定値である。物体認識を行った画像処理制御部18は、連続して前後する撮影画像Picにおいて図7に示すような認識物体の画像差分Mをとり、その画像差分Mから認識物体の動きを求める処理を、赤外線カメラ14から画像データDpicを入手する度に行い、図8に示す物体の動き(移動軌跡32)を求める。
具体的な処理例を挙げると、赤外線カメラ14から撮影画像Picを取り込んで物体認識を行った画像処理制御部18は、その認識物体について画像上の重心Gを算出する。この重心Gは、撮影画像Picの画素を単位として算出される値であって、以下の方法で算出される。即ち、認識物体のx座標値及びy座標値の各々において全ての和をとり、これら和をそれぞれ認識物体の画素数で割ることによってx座標値及びy座標値の平均値を算出し、以上によって求まったx座標平均値とy座標平均値を重心座標としている。
画像処理制御部18は、赤外線カメラ14から撮影画像Picを取得する度に認識物体32a(32b)の重心演算を行い、これら画像間における重心G(図8参照)の差を画像差分Mとして算出し、これを物体の動きとして導出する。そして、画像処理制御部18は、連続して前後する認識物体32a,32b,…の重心Gを繋げて認識物体の経路を導き出し、これを物体の動き、つまり移動軌跡33として求める。
画像処理制御部18は、オプティカルフロー検知手法の時と同様の手法で物体の動き(移動軌跡33)の位置、方向、面積を監視し、ウインドウ3により挟み込まれる領域に異物が入り込んだか否かを判定する。画像処理制御部18は、この判定の際において、ウインドウ3により挟み込まれる領域に異物が入り込んだと判断すると、信号線17を介して安全動作要求信号SsafをパワーウインドウECU6に出力する。パワーウインドウECU6は、安全動作要求信号Ssafを入力すると、オプティカルフロー検知手法の時に述べたような安全動作を実行する。
次に、特徴量検知手法を説明する。画像処理制御部18は、赤外線カメラ14から画像データDpicを入力した際、入力した撮影画像Picごとに検知エリアE(図2参照)部分の画像を抽出し、この検知エリアEにおける画像の特徴量Tを求める。この特徴量Tとしては、例えば図9(c)に示す窓枠27の輪郭34や、図12(a)に示す窓枠27の領域面積35などが挙げられ、更には輝度自体(輝度変化)の値を用いてもよい。画像処理制御部18は、この特徴量Tを異物判定閾値と比較し、ウインドウ3により挟み込まれる領域に異物が入り込んだか否かを判定する。
ここで、例えば特徴量Tとして図9(c)に示す窓枠27の輪郭34を用いる場合、画像処理制御部18が行う処理としては、まず指や手等の異物が入り込んでいない時の窓枠27の輪郭(以下、初期輪郭34a(図9(c)参照)と記す)を認識すべく、最初に取り込んだ撮影画像Picから図9(a)に示すような輝度波形36を求める処理を行う。この輝度波形36は、撮影画像Picの各画素(ピクセル)の輝度を画面横軸方向に沿って繋げた波形であって、画面横軸方向の列ごとに各々求められる。
画像処理制御部18は、撮影画像Picにおいて画面横軸方向に延びる列ごとに求めた輝度波形36を、波形傾き(本例は絶対値)をエッジ高さに変えた図9(b)に示す輝度エッジ波形37に各々変換する。そして、画像処理制御部18は、図9(c)に示すように互いに画面縦軸方向に隣接する輝度エッジ波形37において、エッジ38が物体判定閾値を超える部分を繋げる処理を行い、それを窓枠27の初期輪郭34aとして認識する。画像処理制御部18は、赤外線カメラ14から撮影画像Picを取得する度に、窓枠27の輪郭34を導出する。
ここで、例えば図10に示すように窓枠27が手や指などで遮られた場合、この異物によって通常よりも手前で近赤外線光が反射することから、輝度波形36は異物部分で輝度が高くなった図11(a)に示す波形(これを輝度波形36aと記す)をとる。画像処理制御部18は、この輝度波形36aを輝度エッジ波形に変換することになるが、この輝度波形36aを波形変換した際には、初期時に対してエッジ位置が変化した図11(b)に示す輝度エッジ波形37aを導出することになる。従って、画像処理制御部18は、通常とは異なる窓枠27の輪郭(以下、変形輪郭34b(図11(c)参照)と記す)を得た状態となる。
画像処理制御部18は、窓枠27の輪郭34を常に監視し、変形輪郭34bと初期輪郭34aとの輪郭差(例えば、輪郭の線の長さの差)Lbが異物判定閾値を超えたか否かを逐次監視する。画像処理制御部18は、この輪郭差Lbが異物判定閾値を超えたと判定すると、ウインドウ3により挟まれる領域に異物が入り込んだと認識し、信号線17を介して安全動作要求信号SsafをパワーウインドウECU6に出力する。パワーウインドウECU6は、安全動作要求信号Ssafを入力すると、オプティカルフロー検知手法や画像差分検知手法の時に述べたような安全動作を実行する。なお、輝度変化を用いて異物検知を行う場合も、エッジで説明した場合と同様の原理から異物判定が可能である。
また、特徴量Tとして図12(a)に示す窓枠27の領域面積35を用いる場合、画像処理制御部18は、手や指等の異物が入り込んでいない時の図12(a)に示す物体の初期輪郭34aを求め、その輪郭34aによって囲まれる領域面積(以下、初期領域面積35aと記す)を求める。そして、画像処理制御部18は、赤外線カメラ14から撮影画像Picを取得する度に、輪郭34によって囲まれる領域面積35を導出する。
画像処理制御部18は、窓枠27の領域面積を常に監視し、領域面積35の面積値が変化した際の領域面積(以下、変形領域面積35bと記す)と初期領域面積35aとの面積差Lcが異物判定閾値を超えたか否かを逐次監視する。画像処理制御部18は、図12(b)に示すように検知エリアEに手や指等の異物が入り込んで面積差Lcが異物判定閾値を超えたと判定すると、ウインドウ3により挟まれる領域に異物が入り込んだと認識し、信号線17を介して安全動作要求信号SsafをパワーウインドウECU6に出力し、安全動作要求信号Ssafを実行させる。
次に、マーカ監視検知手法を説明する。図13に示すように、ドア2の窓枠周辺には、赤外線カメラ14に映り込む位置にマーカ39が塗布されている。このマーカ39は、光の反射率が高い塗料や顔料から成るとともに、本例においては近赤外光の反射率が高い材質が用いられている。よって、近赤外線LED14aの近赤外線光を窓枠周辺に照射した際には、このマーカ39の部分において光が多く(強く)反射し、赤外線カメラ14の撮影画像は、マーカ39の部分において輝度が高い状態で映り込む。
画像処理制御部18は、赤外線カメラ14から画像データDpicを入力した際、マーカ39が映り込んだ撮影画像Picから、図14(c)に示すようなマーカ39の画像領域を取得し、そのマーカ画像領域40において画像の特徴量Tを求める。この特徴量Tとしては、例えば図14(c)に示すマーカ画像領域40の輪郭41や、図17(a)に示すマーカ画像領域40の領域面積42などが上げられる。画像処理制御部18は、この特徴量Tを異物判定閾値と比較し、ウインドウ3により挟み込まれる領域に異物が入り込んだか否かを判定する。画像処理制御部18は、求めた特徴量Tを用いてマーカ39の破断や輪郭変形の有無を判定する。なお、マーカ39が光反射材料に相当し、マーカ画像領域40が画像領域に相当する。
この処理の一例を述べると、例えば特徴量Tとして図14(c)に示すマーカ画像領域40の輪郭41を用いる場合、画像処理制御部18が行う処理としては、最初に取り込んだ撮影画像Picから、手や指等の異物がマーカ画像領域40に入り込んでいない時のマーカ画像領域40の輪郭(以下、初期輪郭41aと記す)を認識する。この処理の際、マーカ39からは輝度の高い光が反射することから、画像処理制御部18は輝度の高い部分の光をマーカ画像領域40として取り込むことになり、図14(a)に示すような輝度波形43が求まる。この輝度波形43は、撮影画像の各画素(ピクセル)の輝度を画面横軸方向に沿って繋げた波形であって、画面横軸方向の列ごとに各々求められる。
画像処理制御部18は、撮影画像において画面横軸方向に延びる列ごとに求めた輝度波形43を、波形傾き(本例は絶対値)をエッジ高さに変換した図14(b)に示す輝度エッジ波形44に各々変換する。そして、画像処理制御部18は、図14(c)に示すように互いに画面縦軸方向に隣接する輝度エッジ波形44において、エッジ45が物体判定閾値を超える部分を繋げる処理を行い、それをマーカ画像領域40の初期輪郭41aとして認識する。画像処理制御部18は、赤外線カメラ14から撮影画像Picを取得する度に、マーカ画像領域40の輪郭41を導出する。
ここで、例えば、図15に示すようにマーカ39が手などで遮られると、それによってマーカ39で反射する光が遮断され、赤外線カメラ14に映り込む輝度がその遮断部分において通常よりも低くなり、輝度波形43は異物部分で輝度が低くなった波形(これを輝度波形43aと記す)をとる。画像処理制御部18は、この輝度波形43aを輝度エッジ波形に変換することになるが、この輝度波形43aを波形変換した際には、初期時に対してエッジ位置が変化した図16(b)に示す輝度エッジ波形44aを導出することになる。従って、画像処理制御部18は、通常とは異なるマーカ画像領域40の輪郭(以下、変形輪郭41b(図16(c)参照)と記す)を得ることになる。
画像処理制御部18は、マーカ画像領域40の輪郭41を常に監視し、変形輪郭41bと初期輪郭41aとの輪郭差Ldが異物判定閾値を超えたか否かを逐次監視する。画像処理制御部18は、この輪郭差Ldが異物判定閾値を超えたと判定すると、ウインドウ3により挟まれる領域に異物が入り込んだと認識し、信号線17を介して安全動作要求信号SsafをパワーウインドウECU6に出力し、パワーウインドウECU6に安全動作を実行させる。
また、特徴量Tとしてマーカ39の領域面積を用いる場合、画像処理制御部18は、特徴量検知手法の場合と同様に、手や指等の異物が入り込んでいない時のマーカ画像領域40の初期領域面積42a(図17(a)参照)を求める。そして、画像処理制御部18は、マーカ画像領域40に手や指等の異物が入り込んだ際の変形領域面積42b(図17(b)参照)と初期領域面積42aとの間の面積差Leを逐次監視する。画像処理制御部18は、その面積差Leが異物判定閾値を超えたと判定すると、ウインドウ3により挟まれる領域に異物が入り込んだと認識し、信号線17を介して安全動作要求信号SsafをパワーウインドウECU6に出力し、安全動作要求信号Ssafを実行させる。
次に、画像処理制御部18が挟み込み防止制御を行う際の処理を図18に示すフローチャートに従って説明する。この挟み込み防止制御は、例えば車両のエンジンスイッチがACC位置に操作されたことを条件に処理が開始され、所定サイクル単位(例えば、数百μs単位)で繰り返し実行される。
ステップ100では、ウインドウ3が開状態か否かを判定する。即ち、画像処理制御部18は、パワーウインドウECU6から窓位置情報Dwiを取り込んでいることから、この窓位置情報Dwiを用いてウインドウ3が開状態であるか否かを判定する。このとき、ウインドウ3が閉状態であればステップ101に移行し、ウインドウ3が開状態であればステップ102に移行する。
ステップ101では、赤外線カメラ14に画像要求信号Sreqを出さずに、赤外線カメラ14の起動をオフ状態のままにする。
ステップ102では、赤外線カメラ14への画像要求信号Sreqの出力を開始し、赤外線カメラ14をオン状態にする。オン状態となった赤外線カメラ14は、近赤外線LED14aから近赤外線光照射を開始するとともに、窓枠周辺の画像撮影を開始する。このとき、画像処理制御部18は、赤外線カメラ14に画像要求信号Sreqを連続的に繰り返し出力し、赤外線カメラ14から画像データDpicを連続的な撮影画像で取得する。
ステップ102では、赤外線カメラ14への画像要求信号Sreqの出力を開始し、赤外線カメラ14をオン状態にする。オン状態となった赤外線カメラ14は、近赤外線LED14aから近赤外線光照射を開始するとともに、窓枠周辺の画像撮影を開始する。このとき、画像処理制御部18は、赤外線カメラ14に画像要求信号Sreqを連続的に繰り返し出力し、赤外線カメラ14から画像データDpicを連続的な撮影画像で取得する。
ステップ103では、赤外線カメラ14から得た画像データDpicを用い、ウインドウ3の周辺の照度Kを算出する。例えば、画像処理制御部18は、連続的に取得した撮影画像のうち最初に得た撮影画像を用いて照度Kを算出する。
ステップ104では、算出した照度Kを用いて、挟み込み検知に使用するアルゴリズムを選択する。本例においては、オプティカルフロー検知手法、画像差分検知手法、特徴量検知手法及びマーカ監視検知手法の4パターンがあるので、これら4パターンの中から、その時の照度Kに合った手法を選択する。例えば、ウインドウ3の周辺照度が低いと撮影画像の輪郭が強く浮き出ることから、特徴量Tを用いて異物判定するのが好ましく、照度Kが低い時の挟み込み検知のアルゴリズムとしては、特徴量検知手法やマーカ監視検知手法が用いられる。一方、ウインドウ3の周辺照度が高い場合には、特徴量Tを用いるよりも画像の動きを見た方が異物の誤判定が生じ難いことから、照度Kが高い時の挟み込み検知のアルゴリズムとしては、オプティカルフロー検知手法や画像差分検知手法が用いられる。
ステップ105では、算出した照度Kを用いて、アルゴリズムで使用する際の閾値(物体判定閾値、異物判定閾値)を選択する。即ち、挟み込み検知を行う際に使用する閾値を、照度Kに応じた値に設定する。
ステップ106では、選択したアルゴリズムを実行することにより、画像データDpicを用いた挟み込み検知処理を実行する。
ステップ107では、挟み込み検知処理を行った結果、ウインドウ3に挟み込まれる位置に異物が侵入したか否かを見ることで、異物の有無を判定する。ここで、異物有りと判定すればステップ108に移行し、異物無しと判定すればこのフローチャートを終了する。
ステップ107では、挟み込み検知処理を行った結果、ウインドウ3に挟み込まれる位置に異物が侵入したか否かを見ることで、異物の有無を判定する。ここで、異物有りと判定すればステップ108に移行し、異物無しと判定すればこのフローチャートを終了する。
ステップ108では、パワーウインドウECU6に安全動作要求信号Ssafを出力し、パワーウインドウECU6に安全動作を実行させる。
従って、本例においては、赤外線カメラ14から取得した画像データDpicを用いて挟み込みの有無を検知するので、手や指等が実際にウインドウ3に挟まれなくても、ウインドウ3による挟み込みの有無を未然に検知することが可能である。よって、挟み込みを検知するにあたって、その時に手や指等がウインドウ3で挟み込まれるような状況は生じないことから、挟み込み検知に際してユーザに不快感を与えなくて済む。
従って、本例においては、赤外線カメラ14から取得した画像データDpicを用いて挟み込みの有無を検知するので、手や指等が実際にウインドウ3に挟まれなくても、ウインドウ3による挟み込みの有無を未然に検知することが可能である。よって、挟み込みを検知するにあたって、その時に手や指等がウインドウ3で挟み込まれるような状況は生じないことから、挟み込み検知に際してユーザに不快感を与えなくて済む。
次に、ペイントソフト等により検知エリアEを特定したテンプレートデータDtempを予めメモリ(EEPROM23)に登録しておくのではなく、赤外線カメラ14から取得した画像データDpicを用いて検知エリアEを自動で抽出する検知エリア抽出機能を以下に説明する。ところで、赤外線カメラ14の配置位置や窓枠形状は車種ごとに変わることから、検知エリアE(窓位置データ)も車種ごとに変わる。そこで、複数車種に対応すべくEEPROM23に複数のテンプレートデータDtempを登録することも考えられるが、テンプレートデータDtempは画像データであるため、データサイズが大きく、1つのシステムで複数のテンプレートデータDtempを登録しておくことは現実的に困難である。
また、実際に赤外線カメラ14をドア2に組み付ける際、赤外線カメラ14に組付誤差が生じる場合があり、実際に取得した画像データDpicと、予め登録しておいたテンプレートデータDtempとの間に差異が生じることがある。この場合には、赤外線カメラ14を組み付け直したり、或いはEEPROM23内のテンプレートデータDtempを修正したりする処理が必要となるが、この手法で組付誤差を解消したとしても、この処理に際して手間がかかることから、実際には実用的でない。
そこで、本例の画像処理制御部18は、ウインドウ3が映り込んだ画像データDpicからウインドウ3の画像領域(以下、ウインドウ画像領域46(図21参照)と記す)を抽出し、このウインドウ3の画像領域から検知エリアEを抽出することによって、検知エリアEを特定する。画像処理制御部18は、この検知エリア抽出処理を、ウインドウ3が全開状態となった時に開始する。
この検知エリア抽出処理として、画像処理制御部18は、ウインドウ3を動かし、その動きをオプティカルフロー検知手法や画像差分検知手法と同様の手法で検出し、それに基づき検知エリアEを抽出する。動き検出に際して画像処理制御部18は、赤外線カメラ14から撮影画像Picを取得した際、その撮影画像Picに関するオプティカルフロー28や、連続する二画像間の輝度変化から、連続する画像間において物体がどの位置へ動いたかという図19に示すような物体の動きを検出する。このとき、画像処理制御部18が行う物体認識は、撮影画像Picにおける輝度が、物体判別の基準となる物体判定閾値を超えたか否かを見ることで行う。
そして、画像処理制御部18は、このように撮影画像Pic上で動きがあった動き領域47を画素数の値で抽出する。画像処理制御部18は、ウインドウ3が全閉状態となるまで、抽出した動き領域47を積算する処理を行い、この積算した領域をウインドウ画像領域46として求める。なお、上述した図19や後ほど説明する図21及び図22においては、説明の便宜上、ドア2を側面から見た画像を撮影画像Picとしているが、実際の撮影画像Picは、ウインドウ3を斜め下側から撮影した図23に示すような画像となる。
ところで、例えばウインドウ3に外乱光等の他の光が照射されている場合、図20に示すようにウインドウ3として撮影画像Picに映り込む輝度は、ウインドウ3が昇降する際に変化する。例えば、ウインドウ3が全閉状態から閉じ始めた時は、通常の輝度でウインドウ3の画像を得られるが、ウインドウ3が閉じ切る際にウインドウ上端部分が外乱光に影響を受けた場合、その部分の輝度が低くなった状態でウインドウ3の画像を得ることになる。よって、撮影画像Picからウインドウ3の部分を認識するに際して、例えば全開のウインドウ3が閉じ切るまで1つの閾値を用いて画像認識を行おうとすると、閾値のレベルをできる限り低くする必要がある。このため、実際にはウインドウ3ではない部分をウインドウ画像領域46として取り込む可能性が高くなり、ウインドウ画像領域46の誤判定に繋がる。
そこで、本例において画像処理制御部18は、撮影画像Picを取得して動き領域47を抽出する際、その都度、撮影画像Picの輝度の値からその時の照度Kを算出し、その照度Kに応じた値に閾値(物体判定閾値、異物判定閾値)を設定する。このように、動き領域47を抽出する際に物体判定閾値をその都度設定するようにすれば、動き領域抽出に際して最適な物体判定閾値を使用することが可能となり、ウインドウ3の画像認識において誤認識が生じ難くなる。
ウインドウ画像領域46を抽出した画像処理制御部18は、このウインドウ画像領域46からノイズを除去する。ところで、画像処理制御部18は、予めウインドウ3のサイズ、つまりウインドウ3が閉じ切った時に取り得るウインドウ画像領域(以下、基準サイズ46aと記す)を、画素パターンのデータで把握している。よって、ノイズ除去処理として、まず画像処理制御部18は、ウインドウ画像領域46を算出した際、このウインドウ画像領域46と基準サイズ46aとを比較し、図21に示すように基準サイズ46aからはみ出す部分を撮影画像Picに不意に映り込んだ物体と見なしてウインドウ画像領域46から消去する。
また、画像処理制御部18は、別のノイズ除去処理として、画像積算方向とは異なる方向に動きのあった部位をノイズと認識し、ウインドウ画像領域46から消去することも可能である。即ち、本例においては、撮影画像Picに映り込んだ物体の動きを検出することでウインドウ画像領域46を求めているので、物体の動き方向については認識可能である。よって、画像処理制御部18は、動き方向の量が多い方向を画像積算方向と認識し、例えば図22に示す矢印A方向を画像積算方向と認識すると、これ以外の方向の動きから取得した画像(図22の点領域の画像)についてはウインドウ画像領域46から消去する。
ウインドウ画像領域46からノイズを消去した画像処理制御部18は、ノイズ消去後のウインドウ画像領域46を用いて検知エリアEを抽出する。即ち、撮影画像Pic上においてウインドウ画像領域46が分かれば、ウインドウ3が閉じ切った際のウインドウ3の上端縁が認識可能である。よって、画像処理制御部18は、このウインドウ3の上端縁48を基準に画面縦軸方向に沿って例えば上側数十画素分の領域(図23の点領域)を検知エリアEとして設定し、これをEEPROM23に書き込む。
従って、本例においては、赤外線カメラ14の画像データDpicから検知エリアEを適宜設定することが可能である。よって、画像処理装置15の搭載先が複数車種に亘ったとしても、車種ごとに検知エリアE用のテンプレートデータDtempを用意せずに済むことから、容量の大きいメモリを用意するなどのコスト増に繋がる問題が生じない。また、赤外線カメラ14をドア2に組み付ける際に組付誤差が生じたとしても、組付後に検知エリア抽出処理を行って検知エリアEの設定を行えばよいことから、赤外線カメラ14を組み付け直したり、或いはテンプレートデータDtempに修正を加えたりする等の面倒な作業を行わずに済む。
本実施形態の構成によれば、以下に記載の効果を得ることができる。
(1)赤外線カメラ14から取得した画像データDpicを用いて挟み込み検出を行うので、実際に手や指等がウインドウ3で挟み込まれる前に、未然に挟み込みを検出することができる。従って、ユーザに不快感等を与えることなく、ウインドウ3による挟み込みを検出することができる。
(1)赤外線カメラ14から取得した画像データDpicを用いて挟み込み検出を行うので、実際に手や指等がウインドウ3で挟み込まれる前に、未然に挟み込みを検出することができる。従って、ユーザに不快感等を与えることなく、ウインドウ3による挟み込みを検出することができる。
(2)挟み込み検出のアルゴリズムとしてオプティカルフロー検知手法や画像差分検知手法を用いた場合、撮影画像Picに映り込む物体の動きを見て、挟み込みを検出する。ところで、手や指等の人体の動きはそれ特有の動きをとるため、撮影画像Picに映る物体の動きを見て挟み込み検出を行えば、人体が検知エリアEに侵入したか否かを、より高い精度で判定することができる。従って、挟み込み検出のアルゴリズムとしてオプティカルフロー検知手法や画像差分検知手法を用いれば、挟み込み検出に際して誤検出を生じ難くすることができる。
(3)挟み込み検出のアルゴリズムとしてマーカ監視検知手法を用いた場合、赤外線カメラ14の画像データDpicからマーカ画像領域40を抽出し、これを異物侵入判定の際の異物判定基準領域として使用する。従って、例えばペイントソフト等で画像にマーキングを付すことで検知エリアEを特定したテンプレートデータDtempを、予めEEPROM23等のメモリに登録する作業が不要となり、面倒なデータ編集作業などを行わずに済む。
(4)画像処理を用いた挟み込み検出の手法として複数のアルゴリズムを用意し、これら複数のアルゴリズムの中から、挟み込み検出時におけるその時々の照度に応じた最適なアルゴリズムを選択して挟み込み検出を行う。従って、検知エリアE(マーカが画像領域40)に異物が侵入したか否かの判定を精度よく行うことができ、挟み込みの有無を検出するに際して誤判定が生じ難くなる。
(5)人の目には見えない性質のある近赤外線を近赤外線LED14aから照射し、被写体で跳ね返ってきた近赤外線を用いて窓枠周辺の画像を撮影する赤外線カメラ14を用いた。従って、夜間などの暗所において、人の視界に影響を及ぼしたり、或いは窓枠周囲に不要な光を照らし出したりすることなく、窓枠周辺の画像(動き)を撮影することができる。また、赤外線カメラ14として赤外線を照射する機種を用いることも考えられるが、赤外線には赤外線カメラ14に映り込まない波長領域もあるため、場合によっては画像の映り込まない部分が生じる可能性もあるが、近赤外線を用いれば、この種の問題が生じ難くなる。
(6)赤外線カメラ14の画像データDpicからウインドウ画像領域46を抽出し、そのウインドウ画像領域46から検知エリアEする検知エリア抽出機能を備えた。従って、画像処理装置15の搭載先が複数車種に亘ったとしても、車種ごとに検知エリアE用のテンプレートデータDtempを用意せずに済む、容量大のメモリを用意することが原因のコストアップが生じない。また、赤外線カメラ14をドア2に組み付ける際に組付誤差が生じたとしても、組付後に検知エリア抽出処理を行って検知エリアEの設定を行えばよいことから、赤外線カメラ14の組み直し作業や、テンプレートデータDtempのデータ修正作業などが必要とならずに済む。
(7)ウインドウ3が開状態のときに赤外線カメラ14が起動するようにしたので、車載バッテリの節電に効果がある。
なお、本実施形態は上記構成に限定されず、例えば以下の態様に変更してもよい。
なお、本実施形態は上記構成に限定されず、例えば以下の態様に変更してもよい。
・ ウインドウ3による挟み込み検出は、検知エリアE(マーカ画像領域40)に異物と思しき物体が侵入した事を条件として、挟み込み有りと判定することに限定されない。例えば、検知エリアE(マーカ画像領域40)に異物と思しき物体が侵入し、しかもその時にウインドウ3が昇降中であることを条件に挟み込み有りと判定するようにしてもよい。
・ 画像処理を用いた本例の挟み込み検出機能と、背景技術で述べたようなパルスセンサ8の出力により挟み込みを検出する従来の挟み込み検出機能とを併用してもよい。この場合、例えば画像処理による挟み込み検出機能が故障しても、パルス出力による挟み込み検出機能により挟み込みの有無が監視可能となるため、フェールセーフを満たすことができる。
・ 挟み込み検出用のアルゴリズムは複数用意することに限らず、実施形態に述べた4パターンの中の1つのみ使用することにしてもよい。
・ 窓枠周辺を撮影する撮影手段は、必ずしも赤外線カメラ14に限らず、例えばカラーカメラを用いてもよい。撮影手段としてカラーカメラを用い、特徴量検知手法やマーカ監視検知手法で挟み込み検出を行った場合、特徴量Tとして色相や彩度を用いて異物判定を行うことが可能である。
・ 窓枠周辺を撮影する撮影手段は、必ずしも赤外線カメラ14に限らず、例えばカラーカメラを用いてもよい。撮影手段としてカラーカメラを用い、特徴量検知手法やマーカ監視検知手法で挟み込み検出を行った場合、特徴量Tとして色相や彩度を用いて異物判定を行うことが可能である。
・ 検知エリア抽出機能を用いて赤外線カメラ14の画像データDpicから検知エリアEを抽出する際、抽出したウインドウ画像領域46の上端縁から数十画素分のエリアを検知エリアEとしたが、どのエリアを検知エリアEとするかの決め方は自由に適宜設定可能である。
・ ウインドウ3の材質に遮熱ガラスを採用してもよい。この場合、赤外線カメラ14で撮影を行うと、ウインドウ部分が暗く映り込む状態となり、画像データDpicから物体判定を行う際の判定精度を向上することができる。
・ 本例の画像処理による挟み込み検出機能の採用対象は、必ずしも車両1のドア2に限定されず、例えば住宅のドアなどの他機器のパワーウインドウ装置を採用対象としてもよい。
次に、上記実施形態及び別例から把握できる技術的思想について、それらの効果とともに以下に追記する。
(1)請求項1〜5のいずれかにおいて、前記撮影手段の前記画像データから前記窓枠周辺の照度を算出する照度算出手段を備え、前記画像処理手段は、前記挟み込み有無を検出する際に実行するアルゴリズムにおいて、そのアルゴリズム内で用いる閾値を前記照度に応じた値に設定し、当該閾値を用いて前記挟み込み有無を検出する。この場合、挟み込みを検出するに際して窓枠周辺の照度が算出され、アルゴリズムを実行して挟み込み検出を行う際に用いる閾値が、その時の照度に応じた値に設定される。従って、アルゴリズムを実行する際、その時の照度に応じた最適の閾値で挟み込み検出を行うことが可能となり、挟み込み有無を判定するに際して誤判定防止に非常に効果が高い。
(1)請求項1〜5のいずれかにおいて、前記撮影手段の前記画像データから前記窓枠周辺の照度を算出する照度算出手段を備え、前記画像処理手段は、前記挟み込み有無を検出する際に実行するアルゴリズムにおいて、そのアルゴリズム内で用いる閾値を前記照度に応じた値に設定し、当該閾値を用いて前記挟み込み有無を検出する。この場合、挟み込みを検出するに際して窓枠周辺の照度が算出され、アルゴリズムを実行して挟み込み検出を行う際に用いる閾値が、その時の照度に応じた値に設定される。従って、アルゴリズムを実行する際、その時の照度に応じた最適の閾値で挟み込み検出を行うことが可能となり、挟み込み有無を判定するに際して誤判定防止に非常に効果が高い。
3…ウインドウ、6…昇降制御手段としてのパワーウインドウECU、14…撮影手段としての赤外線カメラ、15…画像処理手段、実行手段及び照度算出手段を構成する画像処理装置、21…記憶手段としてのROM、27…窓枠、39…光反射材料としてのマーカ、40…画像領域としてのマーカ画像領域、Dpic…画像データ、T…特徴量、K…照度。
Claims (5)
- 昇降動作中のウインドウにより異物が挟み込まれることを防止する挟み込み防止機能を備えたパワーウインドウ装置において、
窓枠周辺を撮影する撮影手段と、
前記撮影手段が撮影した画像データを入力し、当該画像データに映り込んだ輝度から求まる特徴量を基に前記挟み込みの有無を検出する画像処理手段と、
前記画像処理手段が前記挟み込みを検出した際に、前記挟み込みを防止し得る安全動作を、前記ウインドウの昇降を制御する昇降制御手段に実行させる実行手段と
を備えたことを特徴とするパワーウインドウ装置。 - 前記画像処理手段は、前記特徴量を基に前記画像データに映り込んだ物体の動きを検出し、当該動きから前記挟み込みの有無を検出することを特徴とする請求項1に記載のパワーウインドウ装置。
- 前記窓枠に、光反射率の高い光反射材料を設け、
前記画像処理手段は、前記光反射材料を撮影した画像から当該光反射材料の画像領域を取得し、この領域において前記特徴量を求め、当該特徴量の変化から前記挟み込みの有無を検出することを特徴とする請求項1又は2に記載のパワーウインドウ装置。 - 前記撮影手段の前記画像データから前記窓枠周辺の照度を算出する照度算出手段と、
挟み込み有無の検出手法が各々異なる複数のアルゴリズムを記憶した記憶手段とを備え、
前記画像処理手段は、前記記憶手段内の複数のアルゴリズムの中から前記照度に応じたアルゴリズムを選択し、当該アルゴリズムを用いて前記挟み込みの有無を検出することを特徴とする請求項1〜3のうちいずれか一項に記載のパワーウインドウ装置。 - 前記撮影手段は、近赤外線を前記窓枠周辺に発光し、被写体で反射した前記近赤外線を用いて前記挟み込みの有無を検出することを特徴とする請求項1〜4のうちいずれか一項に記載のパワーウインドウ装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006006051A JP2007186915A (ja) | 2006-01-13 | 2006-01-13 | パワーウインドウ装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006006051A JP2007186915A (ja) | 2006-01-13 | 2006-01-13 | パワーウインドウ装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007186915A true JP2007186915A (ja) | 2007-07-26 |
JP2007186915A5 JP2007186915A5 (ja) | 2008-10-30 |
Family
ID=38342262
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006006051A Withdrawn JP2007186915A (ja) | 2006-01-13 | 2006-01-13 | パワーウインドウ装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007186915A (ja) |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010173591A (ja) * | 2009-02-02 | 2010-08-12 | Nippon Telegr & Teleph Corp <Ntt> | 電車ドア監視システムおよび方法 |
WO2012157486A1 (ja) * | 2011-05-17 | 2012-11-22 | ソニー株式会社 | 表示制御装置および方法、並びにプログラム |
JP5813894B1 (ja) * | 2015-03-16 | 2015-11-17 | 株式会社城南製作所 | 車両用窓ガラス昇降装置、車両用ドア、および車両 |
JP5813893B1 (ja) * | 2015-03-16 | 2015-11-17 | 株式会社城南製作所 | 車両用窓ガラス昇降装置、車両用ドア、および車両 |
JP5833268B1 (ja) * | 2015-06-25 | 2015-12-16 | 株式会社城南製作所 | 車両用窓ガラス昇降装置及び車両 |
CN105298289A (zh) * | 2015-10-28 | 2016-02-03 | 南京信息工程大学 | 一种智能车窗控制系统及其控制方法 |
JP5886466B1 (ja) * | 2015-09-11 | 2016-03-16 | 株式会社城南製作所 | 車両用窓ガラス昇降装置、車両用ドア、および車両 |
JP5897191B1 (ja) * | 2015-06-25 | 2016-03-30 | 株式会社城南製作所 | 車両用窓ガラス昇降装置及び車両 |
WO2016147418A1 (ja) * | 2015-03-16 | 2016-09-22 | 株式会社城南製作所 | 車両用窓ガラス昇降装置、車両用ドア、および車両 |
JP2016217092A (ja) * | 2015-05-26 | 2016-12-22 | 株式会社城南製作所 | 車両用窓ガラス昇降装置及び車両 |
JP2017031712A (ja) * | 2015-08-04 | 2017-02-09 | 株式会社城南製作所 | 車両用窓ガラス昇降装置及び車両 |
WO2017110888A1 (ja) * | 2015-12-25 | 2017-06-29 | 株式会社城南製作所 | 車両用窓ガラス昇降装置 |
KR101759192B1 (ko) | 2016-01-19 | 2017-07-18 | 동명대학교산학협력단 | 능동형 차량 윈도우 안전장치 |
JP2017203376A (ja) * | 2017-08-10 | 2017-11-16 | 株式会社ミツバ | 車両用窓ガラス昇降装置及び車両 |
DE102018127819A1 (de) | 2017-12-01 | 2019-06-06 | Aisin Seiki Kabushiki Kaisha | Steuerungsvorrichtung und Programm |
EP4300444A1 (en) * | 2022-06-30 | 2024-01-03 | Aptiv Technologies Limited | Method for determining a current status of a window |
-
2006
- 2006-01-13 JP JP2006006051A patent/JP2007186915A/ja not_active Withdrawn
Cited By (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010173591A (ja) * | 2009-02-02 | 2010-08-12 | Nippon Telegr & Teleph Corp <Ntt> | 電車ドア監視システムおよび方法 |
WO2012157486A1 (ja) * | 2011-05-17 | 2012-11-22 | ソニー株式会社 | 表示制御装置および方法、並びにプログラム |
CN103518178A (zh) * | 2011-05-17 | 2014-01-15 | 索尼公司 | 显示控制装置、方法和程序 |
US9817485B2 (en) | 2011-05-17 | 2017-11-14 | Sony Semiconductor Solutions Corporation | Display control device, method, and program |
US10400497B2 (en) | 2015-03-16 | 2019-09-03 | Mitsuba Corporation | Vehicle window glass raising/lowering device, vehicle door, and vehicle |
US10400498B2 (en) | 2015-03-16 | 2019-09-03 | Mitsuba Corporation | Vehicle window glass raising/lowering device, vehicle door, and vehicle |
JP5813893B1 (ja) * | 2015-03-16 | 2015-11-17 | 株式会社城南製作所 | 車両用窓ガラス昇降装置、車両用ドア、および車両 |
CN107407120A (zh) * | 2015-03-16 | 2017-11-28 | 株式会社美姿把 | 车辆用窗玻璃升降装置、车辆用门以及车辆 |
JP5813894B1 (ja) * | 2015-03-16 | 2015-11-17 | 株式会社城南製作所 | 車両用窓ガラス昇降装置、車両用ドア、および車両 |
WO2016147416A1 (ja) * | 2015-03-16 | 2016-09-22 | 株式会社城南製作所 | 車両用窓ガラス昇降装置、車両用ドア、および車両 |
WO2016147417A1 (ja) * | 2015-03-16 | 2016-09-22 | 株式会社城南製作所 | 車両用窓ガラス昇降装置、車両用ドア、および車両 |
WO2016147418A1 (ja) * | 2015-03-16 | 2016-09-22 | 株式会社城南製作所 | 車両用窓ガラス昇降装置、車両用ドア、および車両 |
CN107407120B (zh) * | 2015-03-16 | 2020-09-15 | 株式会社美姿把 | 车辆用窗玻璃升降装置、车辆用门以及车辆 |
JP2016217092A (ja) * | 2015-05-26 | 2016-12-22 | 株式会社城南製作所 | 車両用窓ガラス昇降装置及び車両 |
WO2016208086A1 (ja) * | 2015-06-25 | 2016-12-29 | 株式会社城南製作所 | 車両用窓ガラス昇降装置及び車両 |
WO2016208085A1 (ja) * | 2015-06-25 | 2016-12-29 | 株式会社城南製作所 | 車両用窓ガラス昇降装置及び車両 |
US10323451B2 (en) | 2015-06-25 | 2019-06-18 | Mitsuba Corporation | Vehicle window glass lifting device, and vehicle |
JP5897191B1 (ja) * | 2015-06-25 | 2016-03-30 | 株式会社城南製作所 | 車両用窓ガラス昇降装置及び車両 |
US10519706B2 (en) | 2015-06-25 | 2019-12-31 | Mitsuba Corporation | Vehicle window glass lifting device and vehicle |
EP3315705A4 (en) * | 2015-06-25 | 2019-03-06 | Mitsuba Corporation | WINDOW GLASS LIFTING DEVICE FOR VEHICLE AND VEHICLE |
EP3315706A4 (en) * | 2015-06-25 | 2019-03-06 | Mitsuba Corporation | WINDOW GLASS LIFTING DEVICE FOR VEHICLE AND VEHICLE |
JP5833268B1 (ja) * | 2015-06-25 | 2015-12-16 | 株式会社城南製作所 | 車両用窓ガラス昇降装置及び車両 |
JP2017031712A (ja) * | 2015-08-04 | 2017-02-09 | 株式会社城南製作所 | 車両用窓ガラス昇降装置及び車両 |
JP5886466B1 (ja) * | 2015-09-11 | 2016-03-16 | 株式会社城南製作所 | 車両用窓ガラス昇降装置、車両用ドア、および車両 |
CN105298289A (zh) * | 2015-10-28 | 2016-02-03 | 南京信息工程大学 | 一种智能车窗控制系统及其控制方法 |
WO2017110888A1 (ja) * | 2015-12-25 | 2017-06-29 | 株式会社城南製作所 | 車両用窓ガラス昇降装置 |
KR101759192B1 (ko) | 2016-01-19 | 2017-07-18 | 동명대학교산학협력단 | 능동형 차량 윈도우 안전장치 |
JP2017203376A (ja) * | 2017-08-10 | 2017-11-16 | 株式会社ミツバ | 車両用窓ガラス昇降装置及び車両 |
CN109871734A (zh) * | 2017-12-01 | 2019-06-11 | 爱信精机株式会社 | 控制装置及程序 |
DE102018127819A1 (de) | 2017-12-01 | 2019-06-06 | Aisin Seiki Kabushiki Kaisha | Steuerungsvorrichtung und Programm |
US11105141B2 (en) | 2017-12-01 | 2021-08-31 | Aisin Seiki Kabushiki Kaisha | Control device and program |
EP4300444A1 (en) * | 2022-06-30 | 2024-01-03 | Aptiv Technologies Limited | Method for determining a current status of a window |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2007186915A (ja) | パワーウインドウ装置 | |
JP2007186916A (ja) | ウインドウ画像領域検出装置及びパワーウインドウ装置 | |
WO2016038784A1 (ja) | ドライバ状態判定装置 | |
US20200334477A1 (en) | State estimation apparatus, state estimation method, and state estimation program | |
EP1933256B1 (en) | Eye closure recognition system and method | |
US8435188B2 (en) | Eye opening detection system and method of detecting eye opening | |
CN106965675B (zh) | 一种货车集群智能安全作业系统 | |
US20130222564A1 (en) | Apparatus for recognizing face based on environment adaptation | |
JP5177011B2 (ja) | 開眼度特定装置 | |
JP5761074B2 (ja) | 撮像制御装置及びプログラム | |
JP5694161B2 (ja) | 瞳孔検出装置及び瞳孔検出方法 | |
US7912251B2 (en) | Eyelid detection apparatus and program therefor | |
WO2013157466A1 (ja) | 喫煙検出装置、方法及びプログラム | |
JP5127531B2 (ja) | 画像監視装置 | |
JP5001930B2 (ja) | 動作認識装置及び方法 | |
CN111267724B (zh) | 一种车辆开启车门的保护和提醒方法及其系统 | |
JP3063504B2 (ja) | 画像データの特徴量検出装置 | |
CN107507395A (zh) | 一种疲劳驾驶检测系统及方法 | |
JP4082203B2 (ja) | 開閉眼判定装置 | |
JP6747493B2 (ja) | ドライバ状態判定装置 | |
US20200290543A1 (en) | Occupant observation device | |
JP5376254B2 (ja) | 被写体認識装置 | |
CN111696312B (zh) | 乘员观察装置 | |
CN114120187A (zh) | 一种基于监控视频的实时摔倒事件检测方法 | |
JP2018190213A (ja) | 顔認識装置及び視線検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080725 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080910 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20100729 |