JP4438753B2 - 車両内状態検知システム,車両内状態検知装置および方法 - Google Patents

車両内状態検知システム,車両内状態検知装置および方法 Download PDF

Info

Publication number
JP4438753B2
JP4438753B2 JP2006018358A JP2006018358A JP4438753B2 JP 4438753 B2 JP4438753 B2 JP 4438753B2 JP 2006018358 A JP2006018358 A JP 2006018358A JP 2006018358 A JP2006018358 A JP 2006018358A JP 4438753 B2 JP4438753 B2 JP 4438753B2
Authority
JP
Japan
Prior art keywords
vehicle
detection system
occupant
state detection
seat
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006018358A
Other languages
English (en)
Other versions
JP2007198929A (ja
Inventor
耕太 入江
勲 古沢
竜彦 門司
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2006018358A priority Critical patent/JP4438753B2/ja
Priority to DE602007002927T priority patent/DE602007002927D1/de
Priority to EP07001011A priority patent/EP1816589B1/en
Priority to US11/655,151 priority patent/US8081800B2/en
Publication of JP2007198929A publication Critical patent/JP2007198929A/ja
Application granted granted Critical
Publication of JP4438753B2 publication Critical patent/JP4438753B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/0153Passenger detection systems using field detection presence sensors
    • B60R21/01538Passenger detection systems using field detection presence sensors for image processing, e.g. cameras or sensor arrays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Air Bags (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Arrangements Of Lighting Devices For Vehicle Interiors, Mounting And Supporting Thereof, Circuits Therefore (AREA)

Description

本発明は、車両内の状態を検知する装置または方法に関する。
従来における車両内の乗員または物体の状態を検知する技術としては、例えばエアバッグの展開の要否を判断するための計測装置として、乗員の有無や乗員の重量を検知する装置が知られている。これは、シート座面に一定以上の荷重が加わった場合に乗員が存在することを知らせるシートスイッチや、シートに加わっている重量を計測できる荷重センサを用いたものである。
また、乗員の着座状態を検知するものとして、一つの撮像デバイスと複数のスポット光源を用いて、座席の使用状況を判断する装置が知られている(例えば、特許文献1)。
特開2004−69687号公報
車両内の状態をより制度良く検知することは、例えば昨今のサイドエアバッグやカーテンエアバッグなど、エアバッグの多様化に対応するために有利である。しかし、多様化したエアバッグを効果的に作用させるためには、乗員の有無や体重のみならず、乗員の姿勢や体型を高精度に計測する技術や、チャイルドシートの装着の有無といった、座席の使用状態、引いては車両内の状態を精度良く検知する技術が必要である。
しかしながら上述の技術では、スポット光を精度良く安定的に検知する必要がある一方で、直射日光などの外乱が生じた場合、精度良く安定的に対象を検知することは困難である。例えば明るさが急激に変化する場合や、太陽光が直接入射する場合などの車室内環境において、安定的に乗員を検知することは困難である。
本発明の目的は、車両内の状態をより高い精度で検知する装置を提供することにある。
座席上の乗員や物体に対して、複数の照射領域を所定時間内に時間を異ならせて照射し、照射毎に座席上の乗員や物体を撮像し、撮像された複数の画像を分析することにより、乗員や物体の状態を示す情報を生成する。
本発明によれば、車両内の状態をより高い精度で検知することができる。
以下、本発明の実施形態を説明する。
本実施形態は、自動車等の車室内において、乗員の有無,乗員の姿勢,乗員の体格,チャイルドシートなど、座席の使用状態を認識するための車両内状態検知装置、及び、その検知方法に関する。例えば、エアバッグの展開の有無を制御するための計測装置として、乗員の有無や乗員の重量を検知する装置が考えられる。これは、シート座面に一定以上の荷重が加わった場合に乗員が存在することを知らせるシートスイッチや、シートに加わっている重量を計測できる荷重センサを用いたものである。例えば、重量を検知するセンサをシートに取り付けたシートセンサがある。乗員の有無や体重によってエアバッグの展開を制御するためのセンサとして用いられる。図29は、シート重量センサを用いた乗員検知システムの例を示す。
しかしながら、このような乗員検知システムでは、乗員の有無や重量は判断できるが、乗員の姿勢や体型,チャイルドシートを判断することは困難である。すなわち、乗員がエアバッグ装置に近接しているような場合や、助手席にチャイルドシートが存在する場合におけるエアバッグの展開制御が適切に行われない。図30は、車両座席の状態とエアバッグの展開方法を示す。
サイドエアバッグやカーテンエアバッグなど、エアバッグの多様化に対応するためには、より高精度なエアバッグの展開制御が必要となっている。そのためには、乗員の有無や体重だけでなく、乗員の姿勢や体型を高精度に計測する技術や、チャイルドシートの装着の有無といった、座席の使用状態を検知する技術が必要である。
また、座席に乗員が存在しない状況など、エアバッグの展開が不要な場合にはエアバッグを展開させないことで、ユーザに対する補修費用の軽減や、資源の節約にも貢献できる。
そこで本実施形態は、車両内の状態をより高い精度で検知し、車室内の明るさの変動等に影響されることなく、乗員の有無,姿勢,体格,チャイルドシート等の座席の使用状態を高精度に検知する車両内状態検知装置を提供する。
本実施形態では、例えば撮像手段として、車両座席を含む車室内所定領域へ所定の波長領域の光を照射する複数の照射デバイスで構成される照射手段と、前記所定の波長領域の光を透過し、前記車室内の所定領域を少なくとも一つの撮像素子で撮像する撮像手段と、これらの手段によって撮像した画像に対して画像処理を行い、前記車両座席の使用状態を検知する画像処理手段とを備えている。
また、照明については、好ましくは、複数の照射デバイスで構成され、各々の照射デバイスはそれぞれ所定の方向に指向性を持ち、撮像デバイスのシャッターと同期したタイミングで順次発光消灯を行う。
このことにより、各照射デバイスからの反射光の光量を画像処理で検知することで車両座席に存在する物体の有無および位置が特定できる。
さらに、乗員に対して左(もしくは右)方向または左右方向から所定の方向に照射することが好ましく、これにより、乗員の頭部などが左右方向にずれた状態で着座していても、乗員に対して確実に照射される。
さらに、照明によって得られた位置情報を基に、ステレオマッチングの探索範囲を限定することで、計算量を軽減することができ、処理速度の高速化が図れる。
さらに、照明によって得られた位置情報をステレオカメラによる距離計測結果の補正値として利用することができ、精度が向上する。
撮像デバイスと照射デバイスは、インストルメンタルパネルより上方に取り付けられることが好ましい。このことにより、車両座席の前方に大きな荷物が存在する場合や、インストルメンタルパネルに荷物が存在する場合でも車両座席を撮像することが可能である。さらに、乗員が新聞などを広げている場合でも上方から撮像することで、乗員を検知することが可能となるなどのメリットもある。
撮像デバイスは、好ましくは運転席の状態を検知する場合は運転席側のAピラー、又はサンバイザー部から撮像し、助手席の状態を検知する場合は助手席側のAピラー、又はサンバイザー部から撮像する様に取り付けられる。このことにより、撮像領域に車両窓入りにくくなるため、車室外の背景,太陽光といった外乱からの影響を低減することができる。さらに、Aピラー又はサンバイザー部には前記撮像デバイスを設置するための領域の確保が容易であり、かつ意匠をみだしにくい。
撮像手段は、一つの撮像デバイスとレンズとを組み合わせた単眼カメラによる撮像手段、または、前記単眼カメラを少なくとも2台もちいたステレオカメラによる撮像手段とすることが好ましい。また、照射デバイスに所定の波長領域の近赤外光を用い、さらに撮像デバイスの手前に赤外光の波長領域を透過するフィルタを組み合わせることも可能である。このことにより、撮像デバイスによって受光される光は、前記照射デバイスによって照射された光の反射光のみとなるため、車室外から入射する太陽光や街灯,対向車のヘッドライトなどの光による影響を軽減することができる。
座席の使用状況を認識する手段は、撮像手段が単眼カメラの場合、複数の照射デバイスによって別々の位置へ照射された画像における濃淡分布や2次元形状等の特徴量を基に認識される。また、撮像手段がステレオカメラの場合、左右画像から距離画像を生成し、生成された距離画像から得られる3次元形状の特徴量を基に認識される。
乗員が存在しない場合と、乗員が存在する場合と、チャイルドシートが存在する場合とを判断し、乗員が存在する場合には、乗員の体格判断,乗員の姿勢判断を、予め登録した学習データとのパターン照合を行うことにより実現することが可能である。このことにより、乗員の有無,体格,姿勢,チャイルドシートの存在をそれぞれ精度良く検知することができる。さらに、距離画像から対象物体との距離を検知することができるため、シートが前後方向に移動した場合でも上記判断が可能となる。
乗員が所定の体格に満たない場合、チャイルドシートが存在する場合、エアバッグ展開部に乗員が極めて接近している場合、正しい姿勢で着座していない場合、乗員が存在しない場合、車両座席に乗員以外の荷物などが置かれている場合はエアバッグの展開せず、乗員が前記所定の体格以上かつ新たに設ける所定の体格(例えば10歳程度)未満の場合はエアバッグの展開強度を緩め、それ以外の使用状況の場合には通常にエアバッグの展開を行うことが好ましい。このようなエアバッグの展開制御を行うことで、エアバッグの展開に対する乗員の安全性をより高く保つことができ、かつ座席に乗員が存在しない状況など、エアバッグの展開が不要な場合にはエアバッグを展開させないことで、ユーザに対する補修費用の軽減や、資源の節約にも貢献できる。
また、所定の車速以下の場合には、乗員検知の処理周期を遅くするといった、車速に応じて乗員検知を行う処理周期を変化させることが好ましい。また、乗員がエアバッグに接近している場合と十分に離れている場合とで乗員検知の処理周期を変化させても良い。このことにより、エアバッグの展開に対する乗員の安全性をより高く保つ必要がある場合には十分な検知能力を有し、安全なエアバッグの展開が可能であると同時に、通常の場合には、処理速度を遅くすることで、車両内状態検知装置の消費電力を低く抑えることが可能となり、バッテリや発電器への負荷を低減し、本装置の耐久性維持にも貢献する。
尚、上記の各構成は本発明に必須なものではなく、それぞれの効果が得られる範囲において、取捨選択が可能である。
以下、具体的な実施例を説明する。
図1は、本発明の一実施例をなす車両内状態検知システムの構成図を示す。
本システムは、車室内の乗員の頭部位置,姿勢,体型,チャイルドシート、その他の荷物などを検知するための装置であり、例えばエアバッグの展開制御に使用される。図2において、実線の矢印は電気信号の進路を示す。
本実施例における車両内状態検知システム107には、車室内の所定領域を撮像することができ、少なくとも赤外線波長領域に感度を持つ撮像デバイス103、撮像デバイス
103によって撮影される領域を照らす赤外線の照射装置105、それを制御する照射装置制御回路113、撮像デバイス103のシャッター等の制御を行う撮像素子制御回路
111、撮影デバイスからのデジタル信号をアナログ信号に変換するA/D変換器108、取得された画像を保存するメモリ109、取得された画像に対して信号処理を行い距離画像を生成する画像処理演算回路110、画像から乗員を検知し、車両からの情報を加味してエアバッグの展開制御指令を行う制御演算回路112から構成されている。
尚、図1で示したデバイスや装置は、どのように分離されて車内に配置されていてもよく、例えば照射装置105と撮像装置104を除く回路等を一つの筐体で構成した制御装置(車両内状態検知装置)に収め、照射装置105と撮像装置104との間を信号線等で接続しても良い。
図2及び図3は、図1の照射装置105の配置図を示す。
ここでは、照射装置105が105La,105Lb,105Lc,105Ra,
105Rb,105Rcの6個の赤外線LEDで構成される例を示す。各々の照射デバイスはそれぞれ一定角度に取り付けられ異なる領域への照射を行う。そして、ヘッドレストからシートバッグ,エアバッグ近傍にかけての撮像デバイスが撮影する範囲を照らし、撮像デバイス103のシャッターと同期したタイミングで順次発光消灯を行う。赤外線LEDは、800nm〜900nmの近赤外線を発光するデバイスを用い、図2に示すように運転席202a及び/または助手席202bの両側天井部に車両進行方向に並べて配置され、乗員201a,201bと運転席202a及び助手席202bが照らされるように照射角度が調整される。ここでは運転席と助手席に照射装置105を配置した例を示したが、車両によっては運転席のみ、助手席のみに当該照射装置105があっても良い。
図4は、図1の各照射装置105の発光タイミングと撮像デバイス103の露光タイミングを示したタイミングチャートを示す。各LEDは高出力化と耐久性を考慮してパルス発光を行う。まず、照射装置105L(R)aがパルス発光を開始したと同時に撮像デバイス103のシャッターを開き、露光を開始し、所定の時間だけ露光した後、照射装置
105L(R)aの発光を停止して撮像デバイスのシャッターを閉じる。つづいて、同様の操作を照射装置105L(R)bと照射装置105L(R)cについても順次行う。
撮像装置104は、図2に示すように、撮影領域からの反射光を集光するレンズ101と、所定の赤外線波長の光を透過するバンドパスフィルタ102と、撮影領域からの反射光を電気信号に変換する撮像デバイス103で構成される。
撮像デバイス103には、前記赤外線LEDの波長領域に対する感度をもつCCD素子を用い、CCD素子とレンズとの間には、前記赤外線LEDの波長領域のみを透過するバンドパスフィルタ102が用いられる。
図5は、図1の撮像装置104の配置図を示す。
撮像装置104は、運転席202aおよび助手席202bの前方上部の車両天井に配置され、運転席202aおよび助手席202bの少なくともヘッドレスト,シートバック、またはエアバッグ装置近傍のいずれか一つを撮影することができるよう設置される。
図1と図5において、撮像装置104と照射装置105は、インストルメンタルパネル204より上方に取り付けられている。また、車両のフロントガラス,サイドガラス,リヤサイドガラス,リヤガラス等のガラス部材は、赤外線光をほとんど透過させない特性の部材が用いられることが好ましい。
図1の制御演算回路112は、撮像装置104と照射装置105への制御信号を送信する送信部、撮像装置104により撮像された複数の画像を比較する画像比較部、画像処理演算回路110による画像処理結果から車両座席の状態を判断する判断部、画像比較機能の比較結果に基づいて乗員及び/または物体の状態を示す情報を生成する情報生成部、車両の速度やシートベルトの装着状態などの車両情報115を受信する受信部、情報生成部が生成した情報に基づいてエアバッグ制御装置114へエアバッグの展開方法を送信するエアバッグ送信部うち、少なくともいずれか一つを具備している。
エアバッグの展開方法は、画像処理演算回路110による画像処理結果から得られる車両座席の状態と、車両からの速度情報,シートベルトのバックルスイッチを総合的に判断される。この判断結果をもとに制御演算回路112では、エアバッグの展開の有無と強度を決定し、エアバッグ制御装置114へ信号を送信する。
エアバッグ制御装置114は、制御演算回路112から送信された信号をもとにエアバッグの展開の有無と、エアバッグの展開量の制御を行う。具体的には、エアバッグの非展開,緩い展開,強い展開のいずれかの制御を行う。
次に本実施例における、車両内状態検知装置の各部の動作を説明する。
照射装置105によって撮像領域へ赤外線光が照射される。照射装置による赤外線光の照射は、周囲の明るさによらず、常に行われる。
図5に示すようにLEDの発光タイミングと撮像装置104の露光タイミングは同期して行われる(後述する図17におけるステップS201からステップ205)。
図6は、図1の実施例で取得された画像を示す。
照射装置105L(R)aが照射されている場合の画像301と、照射装置105L(R)bが照射されている場合の画像302と、照射装置105L(R)cが照射されている場合の画像303がそれぞれ取得されることになる。この制御は順次繰り返して行われる。
照射装置105L(R)a〜照射装置105L(R)cのそれぞれの照射領域における反射光が図6に示す3つの画像301〜303として取得され、メモリ109へ保存される。保存された画像に対して画像処理演算回路110において、テンプレートマッチングが行われ、制御演算回路112によって3つの画像の内、乗員が存在する画像が選択される
(テンプレートマッチングに関する詳細は後述する)。よって、選択された画像におけるLED照射範囲に乗員が存在すると認識され、前後方向の着座位置が特定される。
照射装置105L(R)a〜照射装置105L(R)cは、乗員に対して左右方向から照射されるため、乗員の頭部などが左右方向にずれた状態で着座していても、乗員に対して確実に照射される。
また、車両のフロントガラス,サイドガラス,リヤサイドガラス,リヤガラス等のガラス部材は、赤外線光をほとんど透過させない特性の部材が用いられることが好ましい。このことにより、車室外から入射する太陽光や自動車のヘッドライトに含まれる赤外線光の大部分を遮断することが可能となる。
つまり、車室外からの光による外乱のほとんどは車室内に入射せず、照射装置105から照射される赤外線光の反射光のみが撮像装置104に具備されたバンドパスフィルタ
102を透過し、撮像装置104によって撮像される。よって、周囲の明るさによらず一定した照明条件における撮影が可能となる。
以上のことから、各照射装置105からの反射光の光量を画像処理で検知することで車両座席に存在する物体の位置が特定できる。
さらに、乗員に対して左右方向から所定の方向に照射することにより、乗員の頭部などが左右方向にずれた状態で着座していても、乗員に対して確実に照射されるため、乗員の姿勢に依存せず、安定した撮影が可能となる。
また、撮像装置104と照射装置105は、インストルメンタルパネル204より上方に取り付けられる。このため、車両座席の前方に大きな荷物が存在する場合や、インストルメンタルパネルに荷物が存在する場合でも車両座席を撮像することが可能である。さらに、乗員が新聞などを広げている場合でも上方から撮像することで、乗員を検知することが可能となる。
また、レンズの焦点距離fを小さくし、撮像範囲を広くすることで、撮像装置104と計測対象となる乗員201との距離が近い場合でも、乗員の頭部から上半身までを確実に撮像することが可能となる。
次に、乗員検知に関する認識方法について説明する。
図7から図11は、図1の実施例における車両内状態検知のフローチャートを示す。
まず、図7のステップS101にて車両内状態検知装置が正常に動作するかの自己診断が行われる。異常と判断された場合、車両へフェール信号を送信し、正常と判断された場合は、次のステップへ進む。
ステップS102では、車両の速度が所定の速度以上であるかが判断される。所定の車速未満である場合、以下のステップは実行されずにリターンとなる。所定の速度以上の場合、ステップS103に進み、画像取り込みのサブルーチンが実行される。ステップ
S103からステップS104が照射装置105の個数分だけ繰り返し行われる。
図8を用いてステップ104の画像取り込みについて説明する。
ステップS201でシャッターを開くとともに、S202で照射装置のLEDのパルス発光を開始する。S203で所定露光時間のループを行い、その後S204でシャッターを閉じるとともに、S205でLEDのパルス発光を終了する。この一連の動作の結果が、先に説明した図4のタイミングチャートで示されている。その後ステップS206で撮像画像をメモリに保存し、ステップ207で画像のIDであるTをインクリメントする。
次に、ステップS105で照射装置105による反射光量及び/または濃淡分布によって、乗員の位置が算出され、ステップS110でメモリに距離データが保存される。例えば、照射装置105L(R)bによる反射光量が他の照射装置105に比べて大きい場合には、105L(R)bによって照射される領域に物体が存在すると判断される。
次にステップS106において、存在する物体が乗員であるかの判断と、乗員である場合の特徴抽出を行う。詳細を図9で説明する。ステップS301でメモリから画像を読み出す。S302でLED発光による距離データを読み込み(S308)、頭部テンプレートサイズの正規化を行う。S303では、存在する物体が人間である場合、頭部が存在することを利用し、人間の頭部の形状特徴としたテンプレートマッチングを行う。頭部の形状はほぼ球形状としてとらえることができるため、姿勢による形状の変化は少ない。
テンプレートマッチングにおいて、所定のしきい値以上の相関値が得られた場合、乗員が存在すると判断される(ステップS304)。一般的に、形状を用いたテンプレートマッチングはテンプレートとモデルとの大きさが異なる場合、マッチング精度が落ちる。よって、マッチングの精度を向上させるために、照射装置105によって撮像装置104から乗員までの距離が既知であるため、その距離を用いて予めテンプレートの大きさの正規化が行われる(ステップS302)。
図12は、図9のテンプレートマッチングにおける重心座標算出方法を示す。
テンプレートマッチングによって頭部が検出された場合、乗員201が存在すると判断されるとともに(ステップS305)、頭部の重心座標Gh(xh,yh)が算出される(ステップS306)。この重心座標Ghを基に、乗員201の姿勢及び/または身長が決定される。また、体格の指標として肩幅Dを算出する(ステップS307)。肩幅Dは、左肩と右肩の端部エッジを抽出し、それらの距離を肩幅Dとする。肩幅Dの抽出は、既に頭部位置が既知である場合には、肩領域をより容易に推定することができ、高速な処理が可能となる。
その後、図7のステップS107で、図10に示す座席状態の分類処理ルーチンが実行される。まず、乗員存在フラグが判断される(ステップS401)。フラグの値が1の場合、ステップS402へ進み、フラグの値が1以外の場合は、乗員が存在しないと判断される(ステップS409)。続いて、図7のステップS110で得た距離データを基に、乗員が前後方向の所定の範囲内に存在するか判断される(ステップS402)。所定の範囲内に存在しない場合は着座姿勢が不正と判断される(ステップS408)。続いて、図7のステップS106の結果を用いて、水平方向の頭部重心座標xhが所定のしきい値の範囲であれば、適正な着座姿勢と判断され(ステップS403)、所定のしきい値の範囲を逸脱した場合には、不適切な着座姿勢と判断される(ステップS408)。また、垂直方向の頭部重心座標yhと肩幅Dが所定のしきい値以上であれば、大人と判断され(ステップS404およびステップS405,ステップS406)、所定のしきい値未満であれば、子供と判断される(ステップS407)。
次に、図7のステップS107の結果を基に、ステップS108にて図11に示されるようなエアバッグの適切な展開強度が選択される。
エアバッグ制御装置114は、制御演算回路112によって出力される検知結果に基づいてエアバッグの展開方法を決定し、エアバッグの展開制御を行う。まず、ステップ
S501とステップS502では、乗員が不在の場合、乗員がエアバッグに近接している場合、乗員が不適切な姿勢で着座している場合、チャイルドシートが存在する場合など、エアバッグの展開が不必要な場合はエアバッグを非展開とする(ステップS506)。また、乗員が所定の体格以下(子供や小柄な女性など)の場合の判断が行われ(ステップ
S503)、エアバッグを弱展開とされる(ステップS505)。その他、乗員が所定の体格以上の場合はエアバッグを通常展開とする(ステップS504)。
なお、チャイルドシートが存在する場合、テンプレートマッチングによる頭部の検出が行われないため、乗員が存在しないと判断され、エアバッグは非展開となる。
以上のことから、本実施例によれば、異なる方向に指向性をもった複数の照射装置105によって車室内所定領域に照射し、かつ撮像デバイス103のシャッターと同期したタイミングで順次発光消灯を行い、各照射装置105からの反射光の光量を画像処理で検知することにより、車両座席に存在する物体の位置が特定できる。これにより、乗員の状態を的確に検知し、エアバッグ制御装置114によって、適切なエアバッグの展開が可能となる。
また、照射装置105は、乗員に対して左右方向から所定の方向に配置され、乗員の頭部などが左右方向にずれた状態で着座していても、乗員に対して確実に照射されるため、安定した乗員検知が行える。
また好ましくは、照射装置105に所定領域の赤外線光を用い、撮像装置104には、少なくとも近赤外線光の一部に受光感度を有する撮像デバイス103と、撮像デバイスへの光路上には、少なくとも近赤外線光の一部を透過させるバンドパスフィルタ102とから構成される。このことから、車室外から入射する太陽光や対向車などのヘッドライトや、街灯等の可視光による影響を低減することができる。一方、照射装置105によって照射される赤外線光は、バンドパスフィルタを透過するため、照射装置105による反射光は撮像デバイス103により撮影することができる。
また好ましくは、車両のフロントガラス,サイドガラス,リヤサイドガラス,リヤガラス等のガラス部材は、赤外線光をほとんど透過させない特性の部材が用いられる。このことにより、車室外から入射する太陽光や自動車のヘッドライトに含まれる赤外線光の大部分を遮断することが可能となる。
また好ましくは、撮像装置104と照射装置105は、インストルメンタルパネル204より上方に取り付けられるため、車両座席の前方に大きな荷物が存在する場合や、インストルメンタルパネル204に荷物が存在する場合でも車両座席を撮像することが可能である。さらに、乗員が新聞などを広げている場合でも上方から撮像することで、乗員を検知することが可能となる。
また好ましくは、照射装置105の反射光量や濃淡分布による乗員の位置検出と、乗員の位置に応じて正規化を行った頭部形状のテンプレートマッチングを行い、乗員の位置,姿勢,体格を精度良く、高速に検知することが可能となる。
また好ましくは、エアバッグの展開制御方法は、乗員が所定の体格に満たない場合、チャイルドシートが存在する場合、エアバッグ展開部に乗員が極めて接近している場合、正しい姿勢で着座していない場合、乗員が存在しない場合、車両座席に乗員以外の荷物などが置かれている場合はエアバッグの展開せず、乗員が前記所定の体格以上かつ新たに設ける所定の体格未満の場合はエアバッグの展開強度を緩め、それ以外の使用状況の場合には通常にエアバッグの展開を行う。このことにより、エアバッグの展開に対する乗員の安全性をより高く保つことができる。さらに、座席に乗員が存在しない状況など、エアバッグの展開が不要な場合にはエアバッグを非展開とすることで、ユーザに対する補修費用の軽減や、資源の節約にも貢献できる。
図13は、本発明の他の実施例をなす車両内状態検知システムの構成図を示す。以下で置き換えた構成以外は、本願の他の実施例と組み合わせても良い。
実施例1では、撮像装置に単眼カメラを用いたが、本実施例では、撮像装置に2つのカメラを用いたステレオカメラを用いる。実施例1と同様の構成である撮像装置を2つ用いている。つまり、本実施例の車両内状態検知システム116における撮像装置106は、撮影領域からの反射光を集光するレンズ101L,101Rと、所定の赤外線波長の光を透過するバンドパスフィルタ102L,102Rと、撮影領域からの反射光を電気信号に変換する撮像デバイス103L,103Rで構成される。また、2つの撮像デバイス103L,103Rから出力されるアナログ信号をデジタル信号へ変換するA/D変換器は、撮像デバイス103Lに接続される108Lと103Rに接続される108Rとを用いる。
尚、図13で示したデバイスや装置は、どのように分離されて車内に配置されていてもよく、例えば照射装置105と撮像装置106を除く回路等を一つの筐体で構成した制御装置(車両内状態検知装置)に収め、照射装置105と撮像装置106との間を信号線等で接続しても良い。
図14は、図13のステレオカメラの構成図を示す。
二つの撮像デバイス103L,103Rは視差に相当する間隔dだけ離れて平行に配置される。視差dと2つのレンズ101L,101Rの焦点距離fは、乗員が存在しうる範囲において乗員の形状が認識可能となる精度になるように定められる。レンズ103L(R) の焦点距離を小さくし、撮像範囲を広くすることで、本装置と計測対象となる乗員との距離が近い場合でも、乗員を撮像することが可能となる。
次に、画像処理演算回路110における距離画像生成方法について説明する。メモリ
109から1対の左右画像を読み出す。左右画像における左画像と右画像は、広角のレンズ103L(R)によって歪みを伴っている。そのため、レンズの固有値によって定まる補正式によって、この歪みを補正する。今、広角レンズ103L(R)によって歪んだ画像の座標を(u,v)とすると、歪みを補正した後の画像の座標(x,y)は以下の(式1)で与えられる。ここで、kは放射歪みの大きさをモデル化したパラメータである。
Figure 0004438753
補正された画像の左(右でもよい)画像を基準画像、補正された右(左でもよい)画像をマッチング画像とする。N×Mのウィンドウを用意し、基準画像をテンプレートとして、マッチング画像中を走査させ、マッチング演算を行う。本実施例におけるマッチング手法には、残差逐次検定法を用いる。注目している画素の周りの面で比較し、その面中の点それぞれについて左右の画像中で差をとり、その合計がもっとも小さいものを対応点とする。N×Mの濃淡テンプレート画像T(i,j)を、処理対象の画面I(i,j)の中から探索する。残差rを表す式を(式2)に示す。
Figure 0004438753
つまり、基準画像とテンプレート画像における画素の周りの面(ウィンドウ)で比較し、その面中の点それぞれについて左右の画像中で濃淡値の差分を求め、それが小さい場合、その点を対応点とする。ここで、エピポーラ線がほぼ一致していることから、対応点を探すときは、ウィンドウの縦方向はほぼ同じ高さに固定し、横方向のみをずらしながら探索すればよい。ここで、左右2つの対物鏡の輻輳角が0であるので、左画像からみた右画像の対応点は、すべて左画像のものより左側にあることに注意することで計算量をさらに減らすことができる。
上記演算処理によって、残差rが所定のしきい値以下を満たした座標が左右画像の対応点となる。
図14に示すように、3次元座標の原点Oに中心を置くように設置された左レンズ101Lおよび左撮像デバイス103Lと、その左レンズ101Lの中心から距離dだけ離れて設置された右レンズ101Rおよび右撮像デバイス103Rがある。図14では、右方向
(左カメラの中心から右カメラの中心へと延ばした直線方向)をX軸方向、上方向をZ軸方向、X軸およびZ軸に垂直であり紙面の手前方向をY軸方向としている。
座標T(X,Y,Z)にある対象物体401からの光が、左レンズ101Lおよび右レンズ101Rで集光し、左右の撮像デバイス103Lおよび103Rの撮像面(XY座標面)上の点t1(x1,y1),t2(x2,y2)で観測されたとすると、t1とt2は対応点となる。この場合の物体の3次元座標X,Y,Zはそれぞれ、3角測量の原理から、以下の(式3),(式4),(式5)で表される。
Figure 0004438753
Figure 0004438753
Figure 0004438753
尚、(式5)において、fはそれぞれのレンズ101L(R)の焦点距離を表す。
以上の演算は、画像処理演算回路110で行われ、距離画像としてメモリ109に保存される。
さらに、照射装置105によって得られた位置情報をステレオカメラによる距離計測結果の補正値としても利用することもでき、乗員検知の精度が向上する。
図15から図17は、図13の実施例における車両内状態検知のフローチャートを示す。
ステップS101からステップS105、およびステップS109,ステップS110は実施例1と同様である。ステップS601では、距離画像生成ルーチンが実行される。詳細を図16に示す。メモリから左右の画像が読み出され(ステップS701)、それぞれの画像の歪みを補正する(ステップS702)。つづいて、ステップS110に基づく距離データからテンプレートマッチングの探索領域を決定し(ステップS703)、N×Mがそのテンプレートで左右画像の残差演算が行われる(ステップS704)。テンプレートマッチングの結果から、三角測量の原理を用いて距離計測が行われ(ステップS705)、距離画像を生成し(ステップS706)、メモリへ保存される(ステップS707)。
次に、図15のステップS602で座席状態の分類処理が行われる。これは、乗員の有無や乗員の体格,姿勢,チャイルドシートの認識は、距離画像をもちいたクラスタリングによって実現される。クラスタリングを行うための学習データはあらかじめメモリ109に保存される。学習データは、乗員の有無や乗員の体格,姿勢,チャイルドシートといったパターンを、定量的に定義し、距離画像から算出されるパラメータによる特徴空間で表現される。
生成された距離画像から、例えば5つの距離画像に分割する(以後、この分割された距離画像を分割距離画像とよぶ)。
図18に、図13の実施例における図分割方法を示す。
距離画像の分割は、撮像素子からの距離がL1の時の分割距離画像501、撮像素子からの距離がL2の時の分割距離画像502、という具合に以後L3からL5までの分割距離画像はそれぞれ503,504,505である。各距離での分割距離画像は、所定の距離のしきい値で二値化される。
図19に、図18の実施例における分割距離画像の例を示す。
601〜605は、乗員が存在しない場合の分割距離画像501〜505に対応する。また、606〜610は、大人の乗員が存在する場合の分割距離画像501〜505に対応する。611〜615は、子供の乗員が存在する場合の分割距離画像501〜505に対応する。また、616〜620は、チャイルドシートが正面を向いて取り付けられている場合の分割距離画像501〜505に対応し、621〜625は、チャイルドシートが背面を向いて取り付けられている場合の分割距離画像501〜505に対応する。
二値化された各距離における分割距離画像から、面積Snと重心座標Gn(xgn,
ygn)を特徴空間とするクラスタリングが行われる。ここで、nは分割数を表す。例えば、分割距離画像501の面積はS1、重心座標はG1(xg1,xg2)となる。
クラスには、座席に乗員が存在しない場合と、乗員が存在する場合と、チャイルドシートがある場合とに分類される。さらに、乗員が存在する場合には乗員が大人の場合と乗員が子供の場合に分類され、また、乗員の姿勢が正常な場合と乗員が危険な姿勢をとっている場合に分類される。ここで、乗員の体格に関しては、各分割距離画像における面積Snの和として定義され、乗員の姿勢は各分割距離画像における重心座標Gnの分布によって定義される。分類するための学習データは、認識を行う前にあらかじめパラメータとしてメモリに保存される。
次に、図15のステップS602の結果を基に、ステップS603にてエアバッグの適切な展開強度が選択される。ステップS603の詳細を図17に示す。
エアバッグ制御装置114は、制御演算回路112によって出力される検知結果に基づいてエアバッグの展開方法を決定し、エアバッグの展開制御を行う。図17のステップ
S801では、乗員存在が判定され、乗員が不在の場合には、エアバッグを非展開とする(ステップS807)。また、ステップS802では、チャイルドシートの存在が判定され、チャイルドシートが存在する場合にはエアバッグを非展開とする(ステップS807)。次に、ステップS803で着座姿勢の判定が行われ、不正な着座状態の場合にはエアバッグを非展開とする(ステップS807)。続いて、ステップS804では、乗員の体格の判定が行われ、乗員の体格が所定の値以下である場合、エアバッグを弱展開とする(ステップS806)。その他、乗員が所定の体格以上の場合はエアバッグを通常展開とする(ステップS805)。
以上のことから、本実施例によれば、照射装置105の反射光によって得られる位置情報をステレオカメラによる距離計測結果の補正値として利用し、計算量の低減と距離精度が向上する。
また、ステレオカメラを用いることで詳細な3次元形状が得られるため、より精度良く乗員の体格や姿勢の判断が可能となる。
また、好ましくは、座席の状態を検知する手段は、撮像装置106によって得られた画像から距離画像を生成し、生成された距離画像から得られる3次元形状の特徴量を基に行う。乗員が存在しない場合と、乗員が存在する場合と、チャイルドシートが存在する場合とを判断し、乗員が存在する場合には、乗員の体格判断,乗員の姿勢判断を、予め登録した学習データとのパターン照合を行うことにより実現する。このことにより、乗員の有無,体格,姿勢,チャイルドシートの存在をそれぞれ精度良く検知することができる。
また、距離画像から対象物体との距離を検知することができるため、シートが前後方向に移動した場合やシートバックの角度が変化した場合でも確実に座席の状態を検知することが可能である。
図20は、本発明の他の実施例をなす車両内状態検知装置における、撮像装置の配置図を示す。以下で置き換えた構成以外は、本願の他の実施例と組み合わせても良い。
実施例1及び実施例2において、撮像装置104および106は、運転席202aおよび助手席202bの前方上部の車両天井に配置され、運転席202aおよび助手席202bのヘッドレストとシートバックおよびエアバッグ装置近傍を撮影することができるよう設置されていた。一方、図20に示すように、運転席の状態を検知する場合は運転席側のAピラー203aの上部に、助手席の状態を検知する場合は助手席側のAピラー203bの上部に取り付け、実施例1及び実施例2と同様の撮影領域となるように設置されてもよい。
Aピラー上部に撮像装置を取り付けることで、撮像領域に車両窓が写りづらくなり、車室外の背景,太陽光といった外乱からの影響を低減することができる。さらに、Aピラー内部には電源供給のための配線や、撮像装置を取り付けるためのスペースを確保しやすく、意匠を乱すことがないといった利点もある。上記の場所に撮像装置を取り付けた場合でも、実施例1及び実施例2と同等の乗員検知結果が得られる。
図21は、本発明の他の実施例をなす車両内状態検知装置における、撮像装置の配置図を示す。以下で置き換えた構成以外は、実施例1と同様である。
図21に示すように、実施例1及び実施例2における撮影領域と同様となるように、撮像装置を運転席と助手席の中心付近(ルームミラー付近)にそれぞれ設置してもよい。
ルームミラー付近に設置することで、運転席と助手席それぞれの車両内状態検知装置が、一箇所の取り付け場所に集約し、さらに、ルームミラー周辺には、電源供給のための配線が存在するため、取り付け性が良い。
図22は、本発明の他の実施例をなす車両内状態検知装置におけるタイミングチャートを示す。以下で置き換えた構成以外は、本願の他の実施例と組み合わせても良い。
実施例1及び実施例2において、撮像デバイス103の露光方法は、図4に示すように照射装置105と同期している。撮像デバイスは照射装置105L(R)aのパルス発光区間に全画素を露光し、照射装置105L(R)aのパルス発光の終了と同時に露光を終了し、メモリへ転送している。つづいて同様に、照射装置105L(R)b,照射装置105L(R)cと同様の動作が行われている。
一方本実施例では、図12に示すように、照射装置105L(R)a〜cの発光に対して撮像デバイス103の露光画素を所定の水平または垂直ラインに対応させて露光することを特徴としている。
具体的には、照射装置105L(R)aのパルス発光時には撮像デバイス103における水平または垂直の3n+1ラインが露光し、続いて照射装置105L(R)bのパルス発光時には撮像デバイス103における水平または垂直の3n+2ラインが露光し、照射装置105L(R)cのパルス発光時には撮像デバイス103における水平または垂直の3n+3ラインが露光する。ここで、nは0から始まる整数値であり、(3n+3)≦(撮像デバイス103の水平または垂直画素数)が成り立つ値をとる。
本実施例は、画像が間引かれて情報量が減少する分、画像の取り込み周期を早くすることができ、乗員検知の処理周期の高速化が可能となる。
本実施例では、照射装置105が6個(左右で3組)の場合について述べたが、任意の照射装置105の個数で、それに応じた間引き露光を実現することもできる。
図23,図24は、本発明の他の実施例をなす車両内状態検知装置における撮像装置の配置図を示す。以下で置き換えた構成以外は、本願の他の実施例と組み合わせても良い。
実施例1において、撮像装置には単眼撮像装置104が用いられていたが、本実施例では、代わりに広角のレンズを図23のように配置した撮像装置121を用いる。レンズを広角にすることで映像が歪みを生じるため、歪みを補整した画像に対して、乗員検知処理を行う。
広角撮像装置121を用いることで、前方の座席(運転席と助手席)における乗員検知を一つの撮像装置で実現することができる。また、後方の座席においても同様に一つの撮像装置で撮像することが可能となる。
また、図24に示すように、広角撮像装置121の代わりに全方位を撮像範囲とするレンズを具備した全方位撮像装置120を用いてもよい。全方位撮像装置で得られる映像においても、歪みを含んでおり、歪みを補整した画像に対して、乗員検知処理を行う。全方位撮像装置120を用いることで、前方の座席と後方の座席を一つの撮像装置で撮像することが可能となる。
図25,図26,図27は、本発明の他の実施例をなす車両内状態検知装置における照射装置の配置図を示す。以下で置き換えた構成以外は、本願の他の実施例と組み合わせても良い。
実施例1及び実施例2において、照射装置105は前方座席周辺を照射範囲としていた。
本実施例では、図25に示すように、照射装置105L,105Rを車両の前方座席部から後方座席部にかけて左右天井に配置する。このことで、後方座席の乗員に対しても照明が照射されることとなり、後方座席の乗員検知に関して、実施例1及び実施例2における前方座席の乗員検知と同等の効果が得られる。
また、図26に示すように、照射装置105を車両天井部中心から車両前後方向に並べても良い。
さらに、図27に示すように、車室内に具備されたマップランプに前記照射装置105Mを内蔵してもよい。既存のマップランプに内蔵することで、電源の確保や取り付け性,保守性が向上する。
図28は、本発明の他の実施例をなす車両内状態検知装置のフローチャートを示す。以下で置き換えた構成以外は、本願の他の実施例と組み合わせても良い。
まず、車両が停車している状態において、乗員検知センサはスリープ状態となっている。乗員がキーレスエントリーシステム等で、車両のドアロックを解除した場合(S901)、その信号を乗員検知センサが検知し、乗員検知センサが起動する(S902)。
次に、マップランプ等の室内灯もしくは、照射装置105を点灯させる(S903)。さらに、その時点における車室内を撮像し、メモリに画像を保存する(S904)。
所定時間内(S905)にドアが開かなかった場合は、消費電力を抑えるために再びスリープ状態(S901)となる(S906)。一方、ドアが開いた場合、ステップS908でどのドアが開いたかを判断する。前方のドアが開いた場合には、前方の乗員検知(S909)を行う。後方のドアが開いた場合は後方の乗員検知(S910)を行う。また、前後方のドアが開いた場合には、前後方両方の乗員検知を行う。
これらの処理結果から、乗員数の特定(S911)と、乗員の乗車座席位置の特定(図示しない)を行う。さらに、所定時間内(S912)に車速を検知しなかった場合、消費電力を抑えるために再びスリープ状態(S915)となる。車速を検知した場合には、所定の周期で乗員検知を行う乗員検知ルーチンへ遷移する(S914)。
本実施例によれば、夜間において既存のマップランプ等の室内灯のみで乗員検知を行うことができる。また、乗員が乗車する前に車室内を撮像し、メモリに画像を保存し、乗車した後の画像と比較することにより、乗員の有無や体格を精度良く検知することが可能となる。
なお、本発明は上述した各実施形態に限定されるものではなく、本発明の主旨の範囲内で種々の変更を施すことが可能である。
例えば、前述の実施形態における照射装置105の数は左右に3個ずつ並べて配置して計6個であるが、任意の個数で実現することもできる。また、照射装置の光量が大きい場合には、車両の進行方向に向かって乗員に対して左または右のみからの照射でもよい。
また、前述の実施形態における撮像デバイス103にはCCD素子を用いているが、
CCD素子の代わりにCMOS素子を用いてもよい。つまり、照射装置105が発光する赤外線領域に感度を有する撮像デバイスであればよい。
また、前述の実施形態における車両情報には、車両速度を用いているが、その他にシートベルトの装着を検知するセンサの情報や、車両座席の前後位置の情報,シートバックのリクライニング角度の情報,車両座席に取り付けられた圧力センサや重量センサの情報など車両に取り付けられた各種センサからの情報を用いてもよい。
また、前述の実施形態における制御対象は、エアバッグとしたが、シートベルトの張力を制御にも利用可能である。例えば、乗員の体格が所定以下であった場合(子供など)、張力を弱くしたり、チャイルドシートの場合は張力を強くするといった制御が可能となる。さらに、トラクション制御装置に対しても利用可能である。乗員が不適切な姿勢を取っている場合には、急激な加速は危険となる。よって、乗員の姿勢に応じて安全なトラクション制御するこが可能となる。
本発明の実施例をなす車両内状態検知システムの構成図を示す。 図1の照射装置105の配置図を示す。 図1の照射装置105の配置図を示す。 図1の各照射装置105の発光タイミングと撮像デバイス103の露光タイミングを示したタイミングチャートを示す。 図1の撮像装置104の配置図を示す。 図1の実施例で取得された画像を示す。 図1の実施例における車両内状態検知のフローチャートを示す。 図1の実施例における車両内状態検知のフローチャートを示す。 図1の実施例における車両内状態検知のフローチャートを示す。 図1の実施例における車両内状態検知のフローチャートを示す。 図1の実施例における車両内状態検知のフローチャートを示す。 図9のテンプレートマッチングにおける重心座標算出方法を示す。 本発明の他の実施例をなす車両内状態検知システムの構成図を示す。 図13のステレオカメラの構成図を示す。 図13の実施例における車両内状態検知のフローチャートを示す。 図13の実施例における車両内状態検知のフローチャートを示す。 図13の実施例における車両内状態検知のフローチャートを示す。 図13の実施例における図分割方法を示す。 図18の実施例における分割距離画像の例を示す。 本発明の他の実施例をなす車両内状態検知装置における、撮像装置の配置図を示す。 本発明の他の実施例をなす車両内状態検知装置における、撮像装置の配置図を示す。 本発明の他の実施例をなす車両内状態検知装置におけるタイミングチャートを示す。 本発明の他の実施例をなす車両内状態検知装置における撮像装置の配置図を示す。 本発明の他の実施例をなす車両内状態検知装置における撮像装置の配置図を示す。 本発明の他の実施例をなす車両内状態検知装置における照射装置の配置図を示す。 本発明の他の実施例をなす車両内状態検知装置における照射装置の配置図を示す。 本発明の他の実施例をなす車両内状態検知装置における照射装置の配置図を示す。 本発明の他の実施例をなす車両内状態検知装置のフローチャートを示す。 シート重量センサを用いた乗員検知システムの例を示す。 車両座席の状態とエアバッグの展開方法を示す。
符号の説明
103…撮像デバイス、104…撮像装置、105…照射装置、107…車両内状態検知システム、108…A/D変換器、109…メモリ、110…画像処理演算回路、111…撮像素子制御回路、112…制御演算回路、113…照射装置制御回路。



Claims (19)

  1. 各々が異なる照射領域に照射する複数の照射デバイスを有し、車両の少なくとも一つの座席上及びその周囲の互いに異なる複数の照射領域を、所定時間内に時間を異ならせて照射する照射装置と、
    前記照射装置の照射毎に前記座席上の乗員及び/または物体を撮像する撮像装置と、
    前記撮像装置により撮像された複数の画像を比較する画像比較部、前記画像比較部の比較結果に基づいて前記乗員及び/または物体の状態を示す情報を生成する情報生成部を有する制御装置と、を有する車両内状態検知システム。
  2. 請求項1記載の車両内状態検知システムであって、
    前記照射装置は、車両の座席に対して上方から照射するように配置された車両内状態検知システム。
  3. 請求項1記載の車両内状態検知システムであって、
    前記照射装置は、車両の運転席及び/または助手席の両側天井部に車両進行方向に並べて配置され、運転席及び/または助手席が照射されるように照射角度が調整されたものである車両内状態検知システム。
  4. 請求項1記載の車両内状態検知システムであって、
    前記照射装置は、車両進行方向に対して平行に配置された車両内状態検知システム。
  5. 請求項1記載の車両内状態検知システムであって、
    前記撮像装置は、運転席及び/または助手席の前方上部の車両天井に配置されるとともに、運転席及び/または助手席の少なくともヘッドレスト,シートバック、またはエアバッグ装置近傍のいずれか一つを撮影することができるよう設置された車両内状態検知システム。
  6. 請求項1記載の車両内状態検知システムであって、
    前記制御装置は、前記情報生成部が生成した情報に基づく信号を、少なくともエアバッグ制御装置,シートベルト張力制御装置、またはトラクション制御装置のいずれか一方に対し出力する出力部を有する車両内情報検知システム。
  7. 請求項1記載の車両内状態検知システムであって、
    前記画像比較部は、前記画像における前記照射装置の反射光量及び/または濃淡分布を複数の前記画像間で比較する車両内情報検知システム。
  8. 請求項1記載の車両内状態検知システムであって、
    前記情報生成部は、前記画像に対してテンプレートマッチングを行うことにより、前記乗員及び/または物体の状態を示す情報を生成する車両内情報検知システム。
  9. 請求項8記載の車両内状態検知システムであって、
    前記情報生成部は、前記乗員及び/または物体の距離情報に基づいて前記テンプレートマッチングのテンプレートの大きさの正規化を行う車両内情報検知システム。
  10. 請求項8記載の車両内状態検知システムであって、
    前記情報生成部は、テンプレートマッチングにより前記乗員の頭部の重心座標を算出し、当該重心座標に基づいて前記乗員の姿勢及び/または身長を決定し、当該姿勢及び/または身長に基づいて前記乗員の状態を示す情報を生成する車両内情報検知システム。
  11. 請求項8記載の車両内状態検知システムであって、
    前記情報生成部は、テンプレートマッチングにより前記乗員の左肩と右肩の端部エッジを抽出し、当該端部エッジに基づき前記乗員の肩幅を算出し、当該肩幅に基づいて前記乗員の状態を示す情報を生成する車両内情報検知システム。
  12. 請求項1記載の車両内状態検知システムであって、
    前記撮像装置は、ステレオカメラである車両内情報検知システム。
  13. 請求項12記載の車両内状態検知システムであって、
    前記制御装置は、前記ステレオカメラで検出した撮像対象との距離ごとに前記画像を分割する画像処理部を有し、分割された画像に基づいて前記乗員及び/または物体の状態を示す情報を生成する車両内情報検知システム。
  14. 請求項1記載の車両内状態検知システムであって、
    前記撮像装置は、前部座席と後部座席の乗員及び/または物体を撮像する車両内状態検知システム。
  15. 請求項1記載の車両内状態検知システムであって、
    前記照射装置は、車室内に具備されたマップランプに内蔵されている車両内状態検知システム。
  16. 請求項1記載の車両内状態検知システムであって、
    前記車両のドアの施錠または解錠信号に基づいて、状態検知動作の停止または開始が制御される車両内状態検知システム。
  17. 請求項1記載の車両内状態検知システムであって、
    乗員が乗車する前に車室内を撮像し、記憶装置に前記画像を保存し、乗員が乗車した後の画像と比較することにより、乗員の有無や体格を検知する車両内状態検知システム。
  18. 請求項1記載の車両内状態検知システムであって、
    所定の時間内に車速信号を検知しない場合、作動を停止させ、その後車速信号を検知した場合に作動を開始する車両内状態検知システム。
  19. 各々が異なる照射領域に照射する複数の照射デバイスにて、車両の少なくとも一つの座席上及びその周囲の互いに異なる複数の照射領域を、所定時間内に時間を異ならせて照射し、
    前記照射毎に前記座席上の乗員及び/または物体を撮像し、
    前記撮像された複数の前記画像を比較し、当該比較結果に基づいて前記乗員及び/または物体の状態を示す情報を生成する車両内状態検知方法。
JP2006018358A 2006-01-27 2006-01-27 車両内状態検知システム,車両内状態検知装置および方法 Active JP4438753B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2006018358A JP4438753B2 (ja) 2006-01-27 2006-01-27 車両内状態検知システム,車両内状態検知装置および方法
DE602007002927T DE602007002927D1 (de) 2006-01-27 2007-01-18 Vorrichtung zur Erfassung des Zustands des Innenraums von Fahrzeugen
EP07001011A EP1816589B1 (en) 2006-01-27 2007-01-18 Detection device of vehicle interior condition
US11/655,151 US8081800B2 (en) 2006-01-27 2007-01-19 Detection device of vehicle interior condition

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006018358A JP4438753B2 (ja) 2006-01-27 2006-01-27 車両内状態検知システム,車両内状態検知装置および方法

Publications (2)

Publication Number Publication Date
JP2007198929A JP2007198929A (ja) 2007-08-09
JP4438753B2 true JP4438753B2 (ja) 2010-03-24

Family

ID=37998327

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006018358A Active JP4438753B2 (ja) 2006-01-27 2006-01-27 車両内状態検知システム,車両内状態検知装置および方法

Country Status (4)

Country Link
US (1) US8081800B2 (ja)
EP (1) EP1816589B1 (ja)
JP (1) JP4438753B2 (ja)
DE (1) DE602007002927D1 (ja)

Families Citing this family (65)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5059551B2 (ja) * 2007-10-31 2012-10-24 株式会社デンソー 車両の乗員検出装置
JP5288440B2 (ja) * 2007-12-27 2013-09-11 株式会社Ihi 人体検出装置及び人体検出方法
WO2010023788A1 (ja) * 2008-08-26 2010-03-04 パナソニック株式会社 撮像装置
JP5368771B2 (ja) * 2008-11-10 2013-12-18 パナソニック株式会社 乗員監視装置
JP5271723B2 (ja) * 2009-01-20 2013-08-21 本田技研工業株式会社 撮像制御装置
US20100182425A1 (en) * 2009-01-21 2010-07-22 Mazda Motor Corporation Vehicle interior state recognition device
JP2010167859A (ja) * 2009-01-21 2010-08-05 Mazda Motor Corp 車両の状態認識装置
JP5251539B2 (ja) * 2009-01-21 2013-07-31 マツダ株式会社 車両の状態認識装置
JP2010195139A (ja) * 2009-02-24 2010-09-09 Takata Corp 乗員拘束制御装置および乗員拘束制御方法
JP2010249598A (ja) * 2009-04-14 2010-11-04 Honda Motor Co Ltd 3次元形状測定システムおよび方法
JP2011023973A (ja) * 2009-07-15 2011-02-03 Honda Motor Co Ltd 撮像制御装置
JP5365387B2 (ja) * 2009-07-17 2013-12-11 株式会社ニコン 位置検出装置
JP2011164063A (ja) * 2010-02-15 2011-08-25 Stanley Electric Co Ltd 車載装置の受付制御装置および受付制御方法
JP5170176B2 (ja) * 2010-06-30 2013-03-27 ソニー株式会社 物体判断システム、物体判断方法およびプログラム
JP5453230B2 (ja) * 2010-12-15 2014-03-26 本田技研工業株式会社 乗員検知装置
JP2012144217A (ja) * 2011-01-14 2012-08-02 Asahi Glass Co Ltd 自動車用窓ガラス
DE102011014262B4 (de) * 2011-03-17 2014-03-27 Audi Ag Leuchtvorrichtung mit animiertem Lauflicht für ein Kraftfahrzeug
JP6008417B2 (ja) * 2011-04-21 2016-10-19 いすゞ自動車株式会社 乗員状態検知装置
WO2012170898A2 (en) * 2011-06-09 2012-12-13 Utah State University Research Foundation Systems and methods for sensing occupancy
KR101300350B1 (ko) * 2011-08-09 2013-08-28 삼성전기주식회사 영상 처리 장치 및 영상 처리 방법
US8781171B2 (en) 2012-10-24 2014-07-15 Honda Motor Co., Ltd. Object recognition in low-lux and high-lux conditions
JP5821833B2 (ja) 2012-12-24 2015-11-24 株式会社デンソー 撮影装置、近赤外光照射装置、およびサンバイザー
JP2014157124A (ja) * 2013-02-18 2014-08-28 Sumitomo Electric Ind Ltd 人検出装置
JP5986944B2 (ja) * 2013-03-29 2016-09-06 株式会社デンソー 荷重センサを用いる乗員判定装置
JP6031395B2 (ja) 2013-03-29 2016-11-24 株式会社デンソー 荷重センサを用いる乗員判定装置
JP2013252863A (ja) * 2013-09-27 2013-12-19 Takata Corp 乗員拘束制御装置および乗員拘束制御方法
US9669759B2 (en) 2014-09-12 2017-06-06 Yazaki Corporation In-vehicle device
JP2016068637A (ja) * 2014-09-26 2016-05-09 富士通株式会社 情報収集プログラム、情報収集方法および情報収集装置
DE102015200133A1 (de) * 2015-01-08 2016-07-14 Tridonic Gmbh & Co Kg Lichtsystem mit Anwesenheitserkennung von Personen
US10829072B2 (en) 2015-04-10 2020-11-10 Robert Bosch Gmbh Detection of occupant size and pose with a vehicle interior camera
US10940790B1 (en) * 2015-12-01 2021-03-09 Apple Inc. System and method for adjustable lighting based on occupant and object identification in a vehicle
US10048560B1 (en) 2015-12-01 2018-08-14 Apple Inc. Transparent structure with controllable lighting
US10843535B1 (en) 2015-12-01 2020-11-24 Apple Inc. System and method for dynamic privacy and window tinting
DE102016203897A1 (de) * 2016-03-10 2017-09-14 Osram Gmbh Verfahren zum Einstellen von Beleuchtungslicht
KR101777518B1 (ko) * 2016-04-07 2017-09-11 엘지전자 주식회사 인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 이를 포함하는 차량
KR101846184B1 (ko) * 2016-06-14 2018-04-06 엘지전자 주식회사 차량 운전 보조장치 및 이를 포함하는 차량
JP2018001908A (ja) * 2016-06-30 2018-01-11 本田技研工業株式会社 乗員状態検知装置及び車両制御装置
JP6814977B2 (ja) * 2016-10-07 2021-01-20 パナソニックIpマネジメント株式会社 画像処理装置、検知装置、学習装置、画像処理方法、および画像処理プログラム
JP6870294B2 (ja) 2016-11-25 2021-05-12 株式会社アイシン 乗員情報検出装置およびプログラム
JP6772786B2 (ja) 2016-11-25 2020-10-21 アイシン精機株式会社 乗員検知装置および乗員検知プログラム
DE102017200607B4 (de) 2017-01-17 2024-02-15 Robert Bosch Gmbh Verfahren und Vorrichtung zum Erkennen eines Objekts in einem Fahrzeug
JP2018149990A (ja) * 2017-03-14 2018-09-27 オムロン株式会社 運転者の着座判定装置
DE102017217486A1 (de) * 2017-09-29 2019-04-04 Robert Bosch Gmbh Fahrerbeobachtungssystem, Verfahren zum Erfassen eines Fahrers mittels eines Fahrerbeobachtungssystems und Verfahren zum Herstellen einer Wellenlängenschiebereinheit für ein Fahrerbeobachtungssystem
KR102329629B1 (ko) * 2017-10-24 2021-11-22 현대모비스 주식회사 차량 내 유아 사고 방지 장치 및 방법
JP6720952B2 (ja) * 2017-11-21 2020-07-08 オムロン株式会社 乗員監視装置
JP7060790B2 (ja) * 2018-02-06 2022-04-27 ミツミ電機株式会社 カメラおよび乗員検知システム
US11146784B2 (en) * 2018-02-16 2021-10-12 Mitsubishi Electric Corporation Abnormality detection device and abnormality detection method
JPWO2019207625A1 (ja) * 2018-04-23 2020-12-03 三菱電機株式会社 乗員検知装置、乗員検知方法及び乗員検知システム
JP2019189101A (ja) * 2018-04-26 2019-10-31 アイシン精機株式会社 乗員情報判定装置
US11117594B2 (en) 2018-06-22 2021-09-14 GM Global Technology Operations LLC System and method for detecting objects in an autonomous vehicle
DE102018116511B3 (de) * 2018-07-09 2019-07-11 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Verfahren zur Tiefenwahrnehmung basierend auf beidseitig angeordneten Scheinwerfern eines Fahrzeugs
US11283985B2 (en) 2018-12-05 2022-03-22 Gentex Corporation Imaging system for iris authentication and driver monitoring
JP7259324B2 (ja) * 2018-12-27 2023-04-18 株式会社アイシン 室内監視装置
US11100347B2 (en) 2019-03-12 2021-08-24 Ford Global Technologies, Llc Photometric stereo object detection for articles left in an autonomous vehicle
JP7213466B2 (ja) * 2019-03-28 2023-01-27 パナソニックIpマネジメント株式会社 カメラシステム、搭乗者監視システム、移動装置、撮像方法及びプログラム
DE102019113839B3 (de) * 2019-05-23 2020-07-09 3Dvisionlabs Gmbh Vorrichtung und Verfahren zur Überwachung einer Fahrgastzelle
KR102645061B1 (ko) * 2019-06-20 2024-03-08 현대자동차주식회사 차량 및 이의 감성 환경 자동 제어 방법
CN110378258B (zh) * 2019-07-04 2021-02-09 上海眼控科技股份有限公司 一种基于图像的车辆座椅信息检测方法及设备
JP7134364B2 (ja) * 2019-09-05 2022-09-09 三菱電機株式会社 体格判定装置および体格判定方法
JP7285188B2 (ja) * 2019-10-08 2023-06-01 株式会社Subaru 車両の乗員監視装置、および車両の乗員保護システム
JP7287239B2 (ja) * 2019-10-18 2023-06-06 株式会社デンソー 乗員体格判定装置
IL272059A (en) * 2020-01-15 2021-07-29 Abdallah SHVIKI A smart system for monitoring car seats and providing alerts
WO2023021917A1 (ja) * 2021-08-20 2023-02-23 株式会社デンソー 乗員撮像装置
US11999233B2 (en) * 2022-01-18 2024-06-04 Toyota Jidosha Kabushiki Kaisha Driver monitoring device, storage medium storing computer program for driver monitoring, and driver monitoring method
WO2023175686A1 (ja) * 2022-03-14 2023-09-21 日本電気株式会社 乗員情報取得装置、乗員情報取得システム、乗員情報取得方法及び非一時的なコンピュータ可読媒体

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6442465B2 (en) * 1992-05-05 2002-08-27 Automotive Technologies International, Inc. Vehicular component control systems and methods
US7243945B2 (en) * 1992-05-05 2007-07-17 Automotive Technologies International, Inc. Weight measuring systems and methods for vehicles
WO2000032451A1 (en) * 1998-11-27 2000-06-08 Hamamatsu Photonics K.K. Driver sensor and apparatus for controlling air bag
US6968073B1 (en) 2001-04-24 2005-11-22 Automotive Systems Laboratory, Inc. Occupant detection system
JP2002352229A (ja) * 2001-05-30 2002-12-06 Mitsubishi Electric Corp 顔部位検出装置
JP3808454B2 (ja) 2003-06-27 2006-08-09 三菱電機株式会社 座席の使用状況判定装置
WO2005032887A2 (en) 2003-10-03 2005-04-14 Automotive Systems Laboratory, Inc. Occupant detection system

Also Published As

Publication number Publication date
EP1816589A3 (en) 2007-09-26
EP1816589A2 (en) 2007-08-08
DE602007002927D1 (de) 2009-12-10
US8081800B2 (en) 2011-12-20
JP2007198929A (ja) 2007-08-09
US20070176402A1 (en) 2007-08-02
EP1816589B1 (en) 2009-10-28

Similar Documents

Publication Publication Date Title
JP4438753B2 (ja) 車両内状態検知システム,車両内状態検知装置および方法
EP1693254B1 (en) Detection system, informing system, actuation system and vehicle
US11447085B2 (en) 3D time of flight active reflecting sensing systems and methods
JP4898261B2 (ja) 対象物検出システム、作動装置制御システム、車両、対象物検出方法
EP1674347B1 (en) Detection system, occupant protection device, vehicle, and detection method
US7978881B2 (en) Occupant information detection system
US6553296B2 (en) Vehicular occupant detection arrangements
US20070229661A1 (en) Object detecting system and method
US20080048887A1 (en) Vehicle occupant detection system
US20040220705A1 (en) Visual classification and posture estimation of multiple vehicle occupants
CN107428302A (zh) 利用车辆内部相机的占用者尺寸和姿势的检测
JP2007022401A (ja) 乗員情報検出システム、乗員拘束装置、車両
JP2007218626A (ja) 対象物検出システム、作動装置制御システム、車両
JP2008001136A (ja) 車両乗員シート検出システム、作動装置制御システム、車両
JP6772786B2 (ja) 乗員検知装置および乗員検知プログラム
US20060276945A1 (en) Method of operation for a vision-based occupant classification system
JP2007216722A (ja) 対象物検出システム、作動装置制御システム、車両
Lee et al. Stereovision-based real-time occupant classification system for advanced airbag systems
JP2012141281A (ja) 体積検出装置、及び、体積検出方法
JP2009169692A (ja) 画像処理装置及び画像処理方法
JP2019060608A (ja) 乗員体格判定装置
JP2006284600A (ja) 乗員検知装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080130

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090701

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090904

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091215

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091228

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130115

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4438753

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130115

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130115

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130115

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350