JP4589600B2 - 自動車の安全及び便宜に対する人間顔面特徴認識の適用 - Google Patents

自動車の安全及び便宜に対する人間顔面特徴認識の適用 Download PDF

Info

Publication number
JP4589600B2
JP4589600B2 JP2002513734A JP2002513734A JP4589600B2 JP 4589600 B2 JP4589600 B2 JP 4589600B2 JP 2002513734 A JP2002513734 A JP 2002513734A JP 2002513734 A JP2002513734 A JP 2002513734A JP 4589600 B2 JP4589600 B2 JP 4589600B2
Authority
JP
Japan
Prior art keywords
vehicle
person
human
image
detector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002513734A
Other languages
English (en)
Other versions
JP2004517512A (ja
Inventor
ベレンツ,ジョン・ジェイ
マクアイヴァー,ジョージ・ダブリュー
ニーセン,ジョセフ・ダブリュー
ダンブリッジ,バリー
シュレヴェ,グレゴリー・エイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Northrop Grumman Space and Mission Systems Corp
Original Assignee
Northrop Grumman Space and Mission Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Northrop Grumman Space and Mission Systems Corp filed Critical Northrop Grumman Space and Mission Systems Corp
Publication of JP2004517512A publication Critical patent/JP2004517512A/ja
Application granted granted Critical
Publication of JP4589600B2 publication Critical patent/JP4589600B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/01542Passenger detection systems detecting passenger motion
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/0153Passenger detection systems using field detection presence sensors
    • B60R21/01534Passenger detection systems using field detection presence sensors using electromagneticwaves, e.g. infrared
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/0153Passenger detection systems using field detection presence sensors
    • B60R21/01538Passenger detection systems using field detection presence sensors for image processing, e.g. cameras or sensor arrays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/01552Passenger detection systems detecting position of specific human body parts, e.g. face, eyes or hands
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/20Means to switch the anti-theft system on or off
    • B60R25/25Means to switch the anti-theft system on or off using biometry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19608Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19645Multiple cameras, each having view on one of a plurality of scenes, e.g. multiple cameras for multi-room surveillance or for tracking an object by view hand-over
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19647Systems specially adapted for intrusion detection in or around a vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms

Description

【0001】
【発明の属する技術分野】
本発明は一般に人間の存在を検出するための車両における作像装置に関し、特に、人間の顔面を特定し、この情報を車両安全及び便宜目的に対して使用するために車両に使用する作像装置に関する。
【0002】
【従来の技術】
国家主要道路交通安全政策(National Highway Traffic Safety Administration)は1998年以降に製造されたすべての乗用車に対して乗員側(即ち同乗者側)エアバッグを要求している。エアバッグは数千もの人命を救ったが、一層安全なエアバッグ展開装置は更に一層の人命を救うことができる。一層安全で一層有効な発展したエアバッグが必要であることを国家主要道路交通安全政策は提案している。従って、当分野において、車両の乗員座席(即ち同乗者の座席)における人間の検出、特定及び追跡に応じてエアバッグの展開を決定する発展したエアバッグ展開装置の要求がある。
【0003】
将来のエアバッグ展開装置は車両の乗員座席における人間を特定し、追跡できるものとなろう。この情報に基づき、装置は、人間が乗員座席に着席しているか否かに応じて及び人間の寸法やエアバッグ展開装置に関する人間の位置に応じて、クラッシュ事故中にエアバッグを始動するか、低速でエアバッグを始動するか又は通常の高速でエアバッグを始動するかの信号を提供する。1つの例においては、人間が乗員座席で検出され、エアバッグドアからある小距離(例えば、3インチ(約76.2mm)以内)離れている場合は、エアバッグはクラッシュ事故中に始動しない。人間が乗員座席で検出され、エアバッグドアに対して近い(例えば、3インチないし8インチ(約203.2mm)の間)場合は、エアバッグはクラッシュ事故中に低速で始動する。人間が乗員座席で検出され、エアバッグドアから一層十分に離れている(例えば、8インチ以上)場合は、エアバッグはクラッシュ事故中に通常の高速で始動する。
【0004】
現在の乗員感知装置は典型的にはエアバッグの展開のために乗員を検出するための超音波、重量、赤外及び(又は)電磁センサを含む。超音波感知装置は乗員座席領域内の対象物の動きを感知し、対象物がセンサの位置に対して近づいているか離れて行くかを決定する。しかし、超音波センサは対象物の性質を特定せず、従って、人間であるか又は食品雑貨のバッグの如きある他の対象物であるかを見分けることができない。超音波センサと同様、能動ドップラーレーダー装置に使用されるマイクロ波センサは対象物を追跡できるが、人間の存在を特定できない。重量センサは加えられた圧力に基づき乗員座席内の対象物を特定するが、エアバッグに関する乗員の位置を考慮しない。受動IRセンサは乗員座席の熱画像を取得するが、これらの装置は極めて高価である。現在の能動IRセンサはエアバッグに関する乗員の相対位置を感知するが、人間の存在を特定できない。電磁装置はLC共振回路を含み、存在を検出し対象物を特定するために人体のキャパシタンスを使用するが、これらの装置は対象物を追跡できない。
【0005】
次に示す米国特許明細書は車両の乗員コンパートメント内の人間を特定し、位置決めし、監視することを要求する車両内部監視装置を開示している。
【0006】
【特許文献1】
米国特許第5,835,613号明細書(1998年11月10日発行)
【0007】
この監視装置は車両の内部を照明する赤外エミッタと、放射線を検出する電荷結合素子(CCD)アレイとを使用する。CCDアレイからの出力は乗員座席内の内容即ち対象物を分類し、特定し又は位置決めするためにパターン認識アルゴリズムを使用するコンピュータ装置により分析される。
【0008】
【発明が解決しようとする課題】
上記米国特許第5,835,613号明細書に開示された車両の乗員を決定するためのパターン認識装置は種々の条件の下にすべての種類の証明位置における個人の形状を学習しなければならない複雑なソフトウエアを使用する。更に、この方法でのパターン認識の使用は乗員座席のまわりで移動するときに個人を追跡するその能力を制限する。更に、一般的なパターン認識により人間を特定し、追跡する能力は信頼性に疑問がある。パターン認識はどれが人間であるかを特定できず、対象物の形状を検出するだけである。
【0009】
要求されるものは、車両の乗員座席内の人間を有効に特定し、追跡できる改善されたエアバッグ展開センサ及び装置である。それ故、本発明の目的は車両乗員エアバッグ展開のためのそのような感知装置を提供することである。
【0010】
【課題を解決するための手段】
本発明の教示によれば、車両の安全及び便宜特徴を提供するための作像装置が開示され、この装置は人間を特定し、追跡するために顔面認識ソフトウエア及びアルゴリズムを使用する。この装置は所定の視野に沿って赤外信号を放出する赤外エミッタと、視野内の対象物から反射された赤外照射を受け取る、ビデオ信号アレイとして使用されるCMOSセンサの如き赤外センサとを含む。顔面認識ソフトウエアを含むプロセッサを使用して人間の顔面を検出する。顔面が検出されると、これをデータベースと比較し、人間を特定できる。
【0011】
運転手便宜及び安全を提供する作像装置の種々の応用は、運転手が車両に近づくときに、ドアを自動的に係止解除し、車両を始動させるために、運転手の特定を決定すること;顔面認識により可能性のある泥棒が車両内にいるか否かを決定すること;及び運転手座席調整、後及び側ミラー調整並びにハンドル調整を提供することを含む。
【0012】
本発明の更なる目的、利点及び特徴は添付図面を参照しての以下の説明及び特許請求の範囲から明らかとなろう。
【0013】
【発明の実施の形態】
人間の顔面特徴認識を使用するエアバッグ展開装置に関する好ましい実施の形態の次の説明は本質的に単なる例示であり、本発明又はその応用又は使用を制限する意図のものではない。
【0014】
本発明の1つの実施の形態によれば、車両の乗員座席内の人間を検出し、特定し、追跡する技術が開示される。上述のように、人間が車両の乗員座席を占めているか否かに応じて及びエアバッグドアへの人間の接近及び人間の寸法に応じて、クラッシュ事故中に、車両の乗員側(同乗者側)エアバッグを低速で展開させるか又はエアバッグを展開させないことが時々望ましい。本発明によれば、人間の特定及び追跡は顔面認識ソフトウエア、特に人間の目及び他の顔面特徴を認識し、追跡するソフトウエアにより決定される。追跡は多くの頭の角度及び姿勢で行うことができる。ソフトウエアアルゴリズムは範囲(レンジ)を見積もるために較正された顔面及び特徴分離を使用する。人間の顔面上の局部領域の追跡は1秒当りの一層多くの画像駒の取得を可能にし、人間の一層頻繁な追跡を許容する。顔面特徴の一層頻繁な追跡は、画像が一層頻繁に更新されるため、不鮮明な画像の取得を阻止する。
【0015】
分析中の対象物から受け取ったビデオデータパターンからのデータを処理し、対象物が顔面であるか否かを決定する種々のソフトウエアは当業界で既知である。例えば、このようなソフトウエアは当業者にとって周知のビジオニクス・フェースイット(Visionics Face-It) ソフトウエアを含む。本発明は任意の特定の顔面特徴作図機能に限定されないが、二次元であるか又は三次元であるかに拘わらず、範囲分け(ranging) 機能のためにも同様に使用される顔面特徴を認識するための、ここで述べる目的にとって適した任意の既知のアルゴリズムを含むことができることを強調しておく。更に、本発明によれば、範囲分けアルゴリズムは既知の顔面認識ソフトウエアと組み合わせて使用される。
【0016】
後に詳細に説明するが、本発明は車両の乗員コンパートメントの乗員側における対象物から反射される赤外放射線を使用し、この放射線は電子ビデオカメラにより受け取られる。ビデオカメラは人間の存在の特定及び追跡を決定するために顔面認識ソフトウエアにより使用される電気信号及び画像を発生させる。
【0017】
図1は車両12の乗員側コンパートメント10の破断側立面図である。この図示においては、人間16が乗員座席18内に示され、人間16はクラッシュ事故中に前方へ動いている。エアバッグ枕20はクラッシュ事故中に計器パネル22内に収容されたエアバッグドア24を通して展開されている状態で示される。
【0018】
ビデオカメラ及びIRLED照明ユニット26はここで述べる目的にとって適した位置で計器パネル22上に装着される。図2は車両12から取り外したユニット26の斜視図である。ユニット26は一群28のIRLED30を含む。複数のLED30が設けられ、昼間作動のために必要な強度を発生させる。群団28は人間16の方へIR放射線のビームを放出し、ビームは人間から反射してユニット26の方へ戻る。ビデオカメラ34がユニット26内に設けられ、人間16から反射された放射線を受け取る。ビデオカメラ34は、ここで述べる目的にとって適した赤外放射線を検出する任意の検出器を使用できるような非限定的な例として使用される。
【0019】
フィルタ36がカメラ34上に設けられ、所望の赤外範囲内にない放射線を濾波する。フィルタ36は、TiO2 フィルタ又は偏光フィルタの如き、ここで述べる目的にとって適した任意のフィルタとすることができる。フィルタ層及び厚さは、IR画像を検出器へ伝達するが、検出器から可視画像を反射させるように選択することができる。IR波長を通過させるが、非IR波長を強力に減衰する電気光学偏光を使用して、検出器への可視光を減少させるために偏光フィルタを使用することができる。図3は日光のための輝度曲線を示し、ここでは、フィルタ36は40nmバンドパス窓において赤外放射線を通過させる。フィルタ36はエアバッグ展開装置の作動及び人間16の顔面の認識に対して影響を及ぼすことのある日光に対してある保護を提供する。
【0020】
本発明のこの実施の形態においては、単一のカメラを使用して、人間16の範囲(レンジ)を取得し、監視する。この機能を遂行するために使用されるソフトウエアは範囲分けを提供するために乗員の顔面上の2つの別個の位置を利用する。好ましい実施の形態においては、範囲分けの目的のための三角法を提供するために検出されるのは人間の目である。しかし、当業者なら認識できるように、人間の耳等の如き、人間16の他の顔面特徴も使用することができる。また、ソフトウエアアルゴリズムは、人間が認識された後に人間を追跡するためには両方の目が認識されている必要がないように、人間の頭の寸法を決定即ち認識することを可能にする。更に、ソフトウエアは、顔面特徴又は頭寸法検出と組み合わせて、人間の胴の如き人体の他の部分を見るために使用できる。
【0021】
人間の顔面特徴がユニークであるため、ソフトウエアがその人間を特に特定できるように、人間についての目間距離の如き特定の情報を記憶するためにデータベースを使用することができる。1つの例においては、装置が子供や第5パーセント女性を特定でき、政府の指定する条例により要求されるようなそのような人間に対するエアバッグの始動を禁止できる点で、これは重要である。また、人間を特に特定できることは、装置の範囲分け精度を改善する。その理由は、装置がそのような人間の目の離間距離又は他の特殊な顔面特徴を知っているからである。
【0022】
取得(認識)及び追跡ソフトウエアは特定の座席位置、エアバッグ位置、車両構造等のために較正する必要がある。図4はエアバッグドア24の中心及び法線に関するカメラ方位及び位置パラメータを表す。カメラ及びビジオニクス・フェースイットソフトウエアが較正された後に本発明に係る範囲分けのために車両内で見積もらねばならない3つのパラメータは2つの位置オフセット即ち位置片寄り及び1つの角度オフセット即ち角度片寄りを含む。2つの位置片寄りはエアバッグドア24の中心からの法線ベクトルに対して横方向で垂直に測定したエアバッグの中心に関するカメラ34の横方向片寄り(ΔY)及びエアバッグドア24の中心からの法線に平行な軸線に沿って測定したエアバッグ24の中心に関するカメラ34の前方又は後方片寄り(ΔX)である。角度パラメータはカメラ34の光学軸線とエアバッグ20の中心から来る法線ベクトルとの間の方位角片寄り(Δθ)である。これらのパラメータのうちの2つのみΔX、ΔΦは修正された単眼距離等式に使用される。
【0023】
後述する較正手順はΔY、ΔX、ΔΦを決定するために使用することができる。多数の較正地点の測定とそれらの間の線形補間との間、又は、少数の較正地点の測定とそれらの間の非線形補間との間には、トレードオフ即ち交換がある。理論的には、多数の地点での較正はここで説明する見積もりのためのモデルを必要としない。粗い較正に必要な多数の測定を行うためのコスト、及び、粗い較正と気づかないでカメラ34又はソフトウエアの範囲外作動が生じる可能性を、この試みを使用する前に考慮しなければならない。ここで使用される試みは補間のためのモデルを形成するために少数の較正試験を使用する。
【0024】
図4から、エアバッグドア基準駒(xyz)内でなされる測定をカメラレンズ基準駒(xyz)内でなされる測定に関連づけるために次の等式を書くことができる。エアバッグドアの前方の顔面位置(x>0)のみが次の等式において考慮される。カメラの球面座標系において定義されるρ、θ(縦揺れ即ち仰角)及びφ(偏揺れ即ち方位角)に対して、エアバッグ座標系における変位x、yについての等式は
【0025】
【数1】
Figure 0004589600
【0026】
【数2】
Figure 0004589600
【0027】
である。これは、θ+Δθが較正中一定であると仮定する。等式(1)、(2)を整理すると、
【0028】
【数3】
Figure 0004589600
【0029】
となる。固定のx+ΔXでの目座標読み取り測定を行い、次いで、yにおける変化に関する正接の勾配をとると、
【0030】
【数4】
Figure 0004589600
【0031】
となる。x及び等式(4)の右辺の結果を知ることにより、ΔXを決定することができる。ΔXを知ることにより、等式(3)及び測定データをΔYを決定するために使用することができる。次いで、ΔX、ΔY、等式(3)及びデータを使用して、Δφを決定することができる。等式(3)及び
【0032】
【数5】
Figure 0004589600
【0033】
という事実を使用して、修正された単眼等式は目標地点パラメータx即ちエアバッグへの目の距離を画定するために等式(6)から続く。
【0034】
【数6】
Figure 0004589600
【0035】
較正テーブルは、カメラ座標系で見られるような、関連する光線勾配にリンクされた画素値としてSDKで決定された目座標の検索テーブルからなる。等式(6)は光線勾配(単数角度の正接)の点から単純化でき、もって、単眼作動からエアバッグへの目の距離を決定するために較正テーブルを直接使用することができる。以下の等式(7)における正接三角法特定を使用し、この特定を等式(6)に適用することにより、較正検索テーブルからの正接/勾配の直接の検索により使用することのできる形として修正された単眼等式を残す。
【0036】
【数7】
Figure 0004589600
【0037】
この等式は以下の等式(8)により与えられる。
【0038】
【数8】
Figure 0004589600
【0039】
図5はデジタル信号プロセッサ(DSP)52を含む本発明の作像装置50のブロック線図である。DSP52はカメラ34により発生された画像について分析を行う顔面認識ソフトウエア及び範囲分け機能を有する。クロック発生器60は装置50内の種々のデジタル装置のためのタイミングを提供し、パワー管理装置62はパワーを提供する。DSP52はカメラ34の如きIR検出器を表す画素アレイ72を含むCMOSチップ70に接続される。この例においては、画素アレイ72は所望のレベルの解像度を提供するために256×256の画素を含む。CMOSチップ70はまたタイミング及び制御の目的のための種々の素子を有し、これらの素子は状態整合ロジック74、クロック/タイミング回路76、アナログコンディショニング回路78、レジスタ/バッファ80、オンチッププログラム可能ロジック回路82等を含む。更に、アナログ/デジタル変換器84も設けられ、画素アレイ72からのアナログ信号を代表的なデジタル信号に変換する。オンチップSRAMメモリー86は記憶の目的で示されているが、同様にオフチップとすることができる。ここに開示した装置におけるこれらの装置の作動は当業者にとって明らかであろう。
【0040】
1つの実施の形態においては、赤外LED30はカメラ34により受け取られる反射放射線を提供するように連続的にオンされる。しかし、典型的には、フィルタ36を通されるカメラ34上の直射日光により生じる問題を補正するためにある種の濾波又は信号処理を行わねばならない。特に、装置50は日光及び乗員16上の特徴の実際の縁部により生じる影間の区別を行うことができる必要がある。本発明によれば、所定の時間期間だけビデオデータの所定数の駒についてLED30を同期的にパルス作動させ、次いで、ビデオデータの同じ数の駒にわたって所定の時間期間だけパルス停止させる駒差分(frame differencing)技術を使用する。次いで、IR照明のない駒をIR照明のある駒から差し引くことができ、背景を排除することができるように、データの駒が互いから差し引かれる。検出器は露光制御を提供するようにパルスと同期して電子的に遮断される。ここで述べる駒差分技術は所望の結果を達成するために赤外パルス作動に関連して使用される。換言すれば、駒差分は赤外パルスと同期化される。
【0041】
駒差分の概念は自然照明のみ及び自然照明に赤外照明を付加したものを使用する画像の時間開口(アパーチュア)画素レベル記憶である。駒差分は強い可視照明の効果を軽減するためにこれらの画像が差し引かれるのを許容する。装備(set-up)はアナログ/デジタル変換器の入力を最大にするようにIR照明プラス最悪の場合の背景を設定する天然濃度フィルタを含む。顔面認識は、差分画像のための最悪の場合のアナログ/デジタル範囲が5ないし6ビットとなることを必要とする。可視光はアナログ/デジタル変換器により許される残りの範囲内に適合する。画像差分は、2つの画素レベルコンデンサが各照明レベルで充電されるようなアナログ領域において、又は、デジタル化された画素出力のRAMメモリーが各照明において取られるようなデジタル領域において遂行される。駒差分は可視の照明の照明効果を減じ、画像のコントラストを改善するように作用する。駒差分機能は取得/高帯域幅発生モード又はパルス作動LED照明を使用する狭帯域幅トラックモードで遂行することができる。パルス作動IR光源からの電子の数は周囲照明の光子ノイズの10倍大きくなければならない。ここで、周囲照明のノイズは日光強度内での電子の数の2倍の平方根である。その理由は、受け取られるそれぞれ1つのIR画像に対して2つの画像駒が取得されるからである。
【0042】
図6は、本発明の1つの実施の形態に従って、駒差分がカメラ34内でどのように遂行されるかを示す。図7は本発明の駒差分技術の作動を示す信号タイミングラインである。カメラ34内の画素アレイ90はLED30からのIRパルスの間に所定の時間期間(10μs(ミクロン秒))だけ景色から放射線を受け取る。この時点で、画素アレイ90は周囲光及び赤外光を受け取る。次いで、アレイ90内の各画素即ちフォトダイオード92により貯蔵されたチャージは複数のコンデンサ(各画素92に対して1つのコンデンサ96)からなるチャージ貯蔵箇所94へ移送される。約10μs後、群団28からのパルスの終わりに、画素アレイ90は同じ時間期間だけ周囲光を丁度検出する。この時間期間で画素アレイ90により受け取られたチャージはコンデンサ100を有するコンデンサ貯蔵箇所98に貯蔵される。検出器内に電子シャッタを使用し、ここで述べる作動のためのIR放射線のパルスと同期した適当な時間に開閉を行う。
【0043】
2つの貯蔵箇所94、98は総合増幅器102で総合される。次いで、2つの貯蔵箇所94、98間の差がアナログ/デジタル変換器104によりデジタル化され、周囲光を除去したデータの駒を表す。データの読み取りは約10ms(ミリ秒)行われ、次いで、次の時間期間で、群団28からの次のパルスが生じる。完全な駒差分工程は、画素アレイ90及び貯蔵箇所94、98が一緒になったCMOS内の単一のチップ上で遂行される。別の実施の形態においては、駒差分は、貯蔵箇所94、98がRAMであるようなオフチップ箇所において異なる時間期間で遂行される。
【0044】
本発明の駒差分技術は次の方法で述べることができる。変数は周囲照明I(x、y)、直接周囲照明T(x、y)、景色反射率R(x、y)、及びオン時はLでオフ時は0である変調源として定義される。カメラ34の応答は反射率及び照明の積に比例する。
【0045】
【数9】
Figure 0004589600
【0046】
この差景色は簡単な画像S(x,y、オフ)よりも一層小さな動的範囲を有する。同じ利益は、LEDで駒を読み取り、次いでLED無しで駒を読み取り、カメラ34に対する外部の駒を差し引くことにより、導き出すことができる。不利益は飽和を回避するのに必要な動的範囲が増大することである。
【0047】
Lは直積周囲照明応答Iよりも大きくなければならない。従って、Iは周波数でLに整合する狭バンドパスフィルタを使用して出来る限り小さくされる。生のサンプリング比率は対象物追跡により設定される要求の2倍とすべきである。その理由は、2つの駒が顔面認識ソフトウエアを供給するための1つの駒を得るように差分化されるからである。LED30は一層迅速でなければならない。IR放射線源は、すべての検出器が作動している期間中にすべての放出が行われるように、変調すべきである。検出器内のすべての画素の積分時間が整合しない場合は、源をオンにするための利用できる時間は最悪の場合の不整合により減少されてしまう。
【0048】
車両の乗員座席内の人間を特定し、追跡するための上述の顔面認識装置は他の目的のための他の型式の車両装置に拡張することができる。図8は他の目的のために種々の位置に位置するセンサ又はカメラを示す車両110の頂平面図である。例えば、前方注視赤外センサ112は計器パネル22上の中心位置に位置し、車両の前方の対象物を検出するように前方に向いている。更に、後方注視赤外センサ114は計器パネル22上の中心位置に位置し、車両のその部分における活動を監視するために車両110の後部乗員コンパートメントの方に向いている。更に、赤外センサ116は運転手座席118の前方で計器パネル22上に位置し、後に説明する種々の目的のために運転手の顔面特徴を検出する。赤外センサ120は上述したようなエアバッグ展開のために乗員座席122の前方で計器パネル22上に位置する。種々のセンサ112、114、116、120は異なる装置において異なる方法で使用することができる。他のセンサ位置もここでの説明と矛盾しないで他の目的のために使用することができる。いくつかの応用を以下に説明する。
【0049】
1つの実施の形態においては、本発明に従い、センサ又はカメラは乗員及び運転手の座席の方に指向し、運転手及び乗員の顔面特徴の画像を撮影する。顔面特徴ソフトウエアを使用して、運転手及び乗員の顔面及び目の座標の輪郭がコンピュータデータベース又は検索テーブル内に記憶された画像と比較される。ソフトウエアがデータベースに記憶されたものとの人間の顔面の合致を行った場合、運転手及び(又は)乗員のエアバッグは、エアバッグ展開を個人専用化するために人間の特徴を使用するように、調整される。これは、低重量、若者、背の低い運転手等に対してエアバッグを自動的に調整する補助をなす。
【0050】
本発明によれば、眠くなった運転手に対する応用は、運転手がハンドルを握った状態で眠りに落ちた場合を特定し、運転手を目覚めさせることを含む。最初は、規則正しい時間間隔で、顔面認識ソフトウエアは目の如き顔面特徴又は運転手の二次元又は三次元顔面/頭/胴特徴座標の任意の組み合わせを取得する。運転手の顔面特徴の新たな座標に応じて、ソフトウエアは眠りに落ちている運転手に警報を送る。この警報は、運転手の目が閉じている等に拘わらず、運転手の頭のうなずき即ち前後への頭の運動の頻度に基づく。特に、一定の時間期間中に目を閉じている時間の百分率を使用して、運転手が眠っているか否かを決定する。予備研究では、運転手の目が2秒以上の時間の70%以上閉じている場合に、運転手が眠くなって眠りに落ちることがあることが判明した。更に、運転手の頭の前後運動又は携帯電話を見ている運転手の目を利用して、運転手が前方の路面に注意を払っているか否かを決定する。顔面認識ソフトウエアは運転手の目の座標における差異を感知でき、この情報は運転手へ戻るように中継できる。この情報は、運転手を目覚めさせるために機械的な運動、又は電気的刺激又は音声信号の生成の形として運転手へ戻る。
【0051】
上述の眠くなった運転手に対する応用と同様、薬の使用が運転手を眠りに陥らせることがある。現在、多くの運転手はカフェイン又は覚醒剤を使用し、長い旅にわたって目覚めた状態を維持する。しかし、薬が切れた場合、運転手の応答時間は路面又は運転状態における重大な変化に対して弱まる。従って、運転手の瞳を監視することは、薬の効能が停止した場合の薬を使用する運転手を検出する補助をなす。基本的には、顔面特徴認識ソフトウエアは、運転手が眠りに落ちたか否かを決定するために、目の虹彩が運転手の瞼により如何に頻繁に遮断されるかを決定する。
【0052】
ここに述べる顔面特徴認識装置はまた運転手の特定に使用することができる。運転手が車両に入るとき、運転手のドアの近傍に位置する外方に指向するカメラは運転手の顔面特徴の画像を撮影する。顔面特徴認識ソフトウエアを使用して、目の如き顔面特徴の輪郭、又は遠近法での運転手の二次元又は三次元顔面/頭/胴特徴座標の任意の組み合わせがソフトウエアデータベース内に記憶された画像と比較される。ソフトウエアがデータベースに記憶されたものとの顔面の合致を行った場合、ドアが開き、車両は自動的に始動することができる。それ以外は、車両はオフ位置に留まったままである。別の実施の形態においては、運転手が車両に近づき、運転手座席に入った後、車両を始動させる目的で運転手を特定するためにカメラを使用できる。更に、親制御状況において、運転手は若者として特定でき、この場合、アルゴリズムは車両の制御をその運転手の使用のための最大速度に設定する。
【0053】
運転手ID概念は顔面認識ソフトウエアを同様に使用する運転手便宜特徴に拡張することができる。特に、運転手の人間顔面特徴は運転手の最新の座席位置、後及び側ミラー調整、ハンドル設定、ラジオ設定等を思い出すために使用できる。この例においては、車両のコンピュータは運転手の最新の座席位置及び運転手の人間顔面特徴での後及び側ミラー調整を記憶することができる。続いて、カメラが運転手の顔面特徴を取得し、この画像が記憶された運転手の人的優先に合致した場合は、座席及びミラーを所望の位置へ自動できに再位置決めできる。
【0054】
本発明の特定の作像及び処理技術の使用は、極めて高い信頼性で、意識があるか又は眠っているかに拘わらず、車両の内部におけるすべての年齢及び寸法の人間の存在検出を可能にする。この検出は、車両の活動に対する外部刺激により混乱することなく、エンジンが運転中であると否とに拘わらず、静止している車両又は動いている車両に対して常に有効であり、そのため、危険な人間内部状況の決定が警告警報を局部的に発生させるために又は伝達されるように可能にされる。これは、捨て子、医療緊急事態、監禁された乗員、眠っている乗員等の状況を含む。
【0055】
図9は車両130の前方にセンサ視野を提供する前方で装着されたセンサ132を含む車両130の側面図である。横断歩道内の歩行者、ゆっくり動く車両等の如き前方注視方向における対象物からの投影が処理装置により登録され、車両の経路における対象物の運転手に警報を提供する。横断歩道内の歩行者等を認識することにより、本発明の顔面認識装置を使用して、クラッシュ前回避を提供できる。
【0056】
図10は車両が後方へ動いているときの車両の経路内の対象物の表示を提供するための、車両140の背後の中央装着カメラ142を含む車両140の頂面図である。更に、運転手の側ミラー146内に位置するカメラ144は運転手の盲スポット内に位置し、運転手が見えないかもしれない対象物を検出し、警報を提供することができる。この例においては、カメラ144は運転手が前方の路面上に焦点を維持することを許容するが、右折又は左折又は車線変更をなお安全に行える。カメラ144は顔面認識装置により車両の盲スポット内の歩行者又は自転車乗員を検出するために設けることができる。
【0057】
激しい自動車衝突においては、何で事故が生じたかを決定するのが時々困難である。1つの例においては、クラシュ事故前に、外部前方注視カメラがクラッシュ前画像を撮影することができる。これらの画像は電気的又は機械的な警報の形で運転手へ戻し中継され、そのため、運転手は衝突を回避するように調整を行うことができる。車両衝突の場合、取得された画像は後のデータとして記憶され、クラッシュ前感知状態はクラッシュ後負傷調査を行うために利用される。クラッシュの後、クラッシュ地域の警察及び消防に警報するラジオ波信号の形として、クラッシュ通知信号を自動的に伝達することができる。
【0058】
路面上に運転手の注意を維持させ、ハンドル上に手を維持させるため、顔面特徴の運動の如き運転手の顔面しぐさを使用して、手動で先に遂行された仕事を遂行させることができる。例えば、運転手の顔面特徴コマンドを既存の記憶された顔面特徴と比較し、運転手が自分の目を路面から逸らせることなく、運転手に自動車制御を自動的に変更させることができる。いくつかの例は、ラジオのオン/オフ、車両のライトのオン/オフ、フロントガラスワイパーのオン/オフ又は警笛の作動の如き、自動車付属品の制御を含む。図11は運転手156の前方に位置し、運転手156の顔面特徴を特定し、追跡するためのここに記載された型式のセンサ154を含む車両152の側面図である。本発明の顔面認識装置はここに記載したような方法でこの情報を使用することができる。
【0059】
更に、侵入を監視するためにカメラを車両内で位置決めすることができる。この例においては、カメラは車両の乗員コンパートメントの内部のどこでも画像を撮影する。人間が車両の後部座席で検出された場合、カメラは人間の顔面特徴の画像を撮影する。顔面特徴がコンピュータに記憶されたものと合致した場合、警報は発せられない。それ以外は、後部座席に誰かがいることを運転手に警告するために警報を鳴らすことができる。カメラは後の特定のために侵入者の記録を提供でき、車両がロックされた後に人間の存在の検出を提供する。図12はこの例を示す車両160の側面図であり、センサ162は中央のドームライト内の如き車両の乗員コンパートメント内の中央位置に装着される。
【0060】
上述の説明は本発明の単なる例示的な実施の形態を開示し、記載している。当業者なら、このような説明から及び添付図面並びに特許請求の範囲から、特許請求の範囲に規定されたような本発明の精神及び範囲を逸脱することなく、種々の変更、修正及び変形を行うことができることを容易に認識できよう。
【図面の簡単な説明】
【図1】 本発明の実施の形態に係る、エアバッグ展開のための画像感知装置に関連する車両の乗員座席における人間を示す破断側平面図である。
【図2】 本発明のエアバッグ展開装置に使用するビデオカメラ及びLED照明ユニットの斜視図である。
【図3】 日光のための輝度曲線を示すグラフで、横軸は波長、縦軸は照明エネルギを示す図である。
【図4】 エアバッグドアの中心及び法線に関するカメラの方位及び位置パラメータを示す図である。
【図5】 本発明のエアバッグ展開装置のブロック線図である。
【図6】 本発明のエアバッグ展開装置に使用する駒差分技術を示す概略線図である。
【図7】 本発明の駒差分技術のためのタイミング線図である。
【図8】 本発明の実施の形態に係る、種々の安全及び便宜目的のために車両の異なる領域を感知するための種々のセンサ位置を示す車両の頂平面図である。
【図9】 本発明の別の実施の形態に係る、車両の前方で対象物を検出するための視野を有するカメラを示す車両の側面図である。
【図10】 本発明の実施の形態に係る、車両の側部及び後部で対象物を検出するための側カメラ及び後中央カメラを含む車両の頂面図である。
【図11】 本発明の別の実施の形態に係る、車両の運転手の前方に位置するカメラを含む車両の側面図である。
【図12】 本発明の別の実施の形態に係る、侵入目的のための車両のドームライト内に装着されたカメラを含む車両の側面図である。

Claims (16)

  1. 車両のための作像装置において、
    車両の外側の領域でありかつ該車両へ入るための経路に隣接した所定の領域を照射する照射装置と;
    上記所定の領域に存在する人間から反射された放射線を検知し、それに応答して画像信号を発生させる検出器と;
    上記検出器からの画像信号に応答するものであり、上記所定の領域内の人間の顔面特徴を取得するため上記画像信号を分析する顔面認識ソフトウエアを含むプロセッサと;
    を有し、上記プロセッサは、上記人間の顔面特徴と乗車が許された者の既に知られている顔面特徴とを比較し、上記人間が乗車を許された者であるか否かを決定し、該人間が乗車を許された者である場合には上記車両に入るための経路が自動的に係止解除となるようになっており、
    また、上記照射装置は、車両の所定の内部領域も照射するようになっており、上記検出器は該内部領域に存在する車中の人間から反射された放射線も検知し該人間の画像信号を発生させるようになっており、上記プロセッサは、該車中の人間の画像信号の顔面特徴と乗車が許された者の既に知られている顔面特徴とを比較し、これらが合致したときに車両の作動を遂行させる、
    ことを特徴とする作像装置。
  2. 上記照射装置は赤外線源であり、上記検出器は反射された赤外線を受け取る赤外線検出器であることを特徴とする請求項1に記載の作像装置。
  3. 上記検出器と上記所定の領域との間に配置された赤外線フィルタを更に有することを特徴とする請求項2に記載の作像装置。
  4. 上記赤外線源が赤外線発光ダイオードの群を含むことを特徴とする請求項2に記載の作像装置。
  5. 上記乗車を許された者の既に知られている顔面特徴は、上記プロセッサに組み合わされたメモリに記憶されたものであることを特徴とする請求項1に記載の作像装置。
  6. 上記照射装置は、パルス作動及びパルス停止されるよう作動し、上記検出器はパルス作動の間に第1の画像を取得しパルス停止の間に第2の画像を取得し、上記プロセッサは上記第1及び第2の画像の差を決定しそれにより周囲光の影響を弱めることを特徴とする請求項1に記載の作像装置。
  7. 作像装置は、上記車中の人間のしぐさを監視し、検知されたしぐさに応答して車両機能を遂行するようになっていることを特徴とする請求項1に記載の作像装置。
  8. 上記車中の人間の画像信号と既に知られている顔面特徴との間の顔面特徴合致が得られた場合に、車両を始動させることを特徴とする請求項1に記載の作像装置。
  9. 上記プロセッサは顔面特徴の合致に応答して上記車中の人間を特定し、該車中の人間に対応した最大運転速度に車両の作動を制限するようになっていることを特徴とする請求項1に記載の作像装置。
  10. 侵入警報装置をさらに有し、上記プロセッサは、乗車を許された者の既に知られている顔面特徴と上記車中の人間の画像信号の顔面特徴とが合致しない場合に上記侵入警報装置を作動させるようになっていることを特徴とする請求項1に記載の作像装置。
  11. 上記プロセッサは、乗車を許された者の既に知られている顔面特徴と上記車中の人間の画像信号の顔面特徴とが合致しない場合に、該車中の人間の画像をメモリに記録するようになっていることを特徴とする請求項1に記載の作像装置。
  12. 車両に使用する侵入者検出装置において、
    車両内の領域を照射する照射装置と;
    上記車両内の領域に存在する人間から反射されてきた放射線を検知しそれに応答して該人間の画像を示す画像信号を提供する検出器と;
    上記検出器からの画像信号に応答するものであり、上記人間の顔面特徴を取得するため上記画像信号を分析する顔面認識ソフトウエアを含むプロセッサと;
    を有し、上記プロセッサは、後部座席の人間の顔面特徴と乗車が許された者の既に知られている顔面特徴とを比較し、上記後部座席の人間が乗車を許された者であるか否かを決定し、該後部座席の人間が乗車を許された者でない場合には、後部座席に侵入者がいることを運転者に警告するために警報を鳴らし該人間の画像をメモリに記録するようになっていることを特徴とする侵入者検出装置。
  13. 上記照射装置は赤外線源であり、上記検出器は反射された赤外線を受け取る赤外線検出器であることを特徴とする請求項12に記載の侵入者検出装置。
  14. 上記検出器と上記領域との間に配置された赤外線フィルタを更に有することを特徴とする請求項13に記載の侵入者検出装置。
  15. 上記赤外線源が赤外線発光ダイオードの群を含むことを特徴とする請求項13に記載の侵入者検出装置。
  16. 上記照射装置は、パルス作動及びパルス停止されるよう作動し、上記検出器はパルス作動の間に第1の画像を取得しパルス停止の間に第2の画像を取得し、上記プロセッサは上記第1及び第2の画像の差を決定しそれにより周囲光の影響を弱めることを特徴とする請求項12に記載の侵入者検出装置。
JP2002513734A 2000-07-21 2001-07-10 自動車の安全及び便宜に対する人間顔面特徴認識の適用 Expired - Fee Related JP4589600B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/621,772 US7110570B1 (en) 2000-07-21 2000-07-21 Application of human facial features recognition to automobile security and convenience
PCT/US2001/021687 WO2002008022A2 (en) 2000-07-21 2001-07-10 Application of human facial features recognition to automobile security and convenience

Publications (2)

Publication Number Publication Date
JP2004517512A JP2004517512A (ja) 2004-06-10
JP4589600B2 true JP4589600B2 (ja) 2010-12-01

Family

ID=24491566

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002513734A Expired - Fee Related JP4589600B2 (ja) 2000-07-21 2001-07-10 自動車の安全及び便宜に対する人間顔面特徴認識の適用

Country Status (4)

Country Link
US (1) US7110570B1 (ja)
EP (1) EP1355806A2 (ja)
JP (1) JP4589600B2 (ja)
WO (1) WO2002008022A2 (ja)

Families Citing this family (87)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7768380B2 (en) * 1994-05-09 2010-08-03 Automotive Technologies International, Inc. Security system control for monitoring vehicular compartments
US6850872B1 (en) * 2000-08-30 2005-02-01 Microsoft Corporation Facial image processing methods and systems
GB0024274D0 (en) * 2000-10-04 2000-11-15 Harris John W Vehicle security and occupant safety system
FR2837444B1 (fr) * 2002-03-19 2004-07-16 Magneti Marelli France Systeme de controle pour la surveillance a bord d'un vehicule, base sur la reprise d'images biometriques
ATE321689T1 (de) 2002-04-19 2006-04-15 Iee Sarl Sicherheitsvorrichtung für ein fahrzeug
LU90912B1 (de) * 2002-04-19 2003-10-20 Iee Sarl Sicherheitsvorrichtung fuer ein Fahrzeug
DE10224017A1 (de) * 2002-05-29 2003-12-18 Volkswagen Ag Verfahren und Vorrichtung zur Datenübertragung in einem Kraftfahrzeug
DE10230486A1 (de) * 2002-07-06 2004-01-15 Robert Bosch Gmbh Verfahren und Vorrichtung zum adaptiven Auslösen von Rückhaltemitteln in einem Kfz
DE10257963A1 (de) * 2002-12-12 2004-07-08 Daimlerchrysler Ag Verfahren und Vorrichtung zur Bestimmung der 3D-Position von PKW-Insassen
DE10308415B3 (de) * 2003-02-27 2004-06-03 Bayerische Motoren Werke Ag Verfahren zur Steuerung einer Sitzeinstellung
US7049947B2 (en) * 2003-09-29 2006-05-23 Nattel Group, Inc. System and method for monitoring the operational condition of a motor vehicle
US20060012679A1 (en) * 2004-07-14 2006-01-19 Ressler Galen E Multifunction vehicle interior imaging system
US9155373B2 (en) * 2004-08-02 2015-10-13 Invention Science Fund I, Llc Medical overlay mirror
US7657125B2 (en) * 2004-08-02 2010-02-02 Searete Llc Time-lapsing data methods and systems
DE102004052519A1 (de) * 2004-10-29 2006-05-04 Robert Bosch Gmbh Vorrichtung zur Vermeidung einer Kollision
JP2006248364A (ja) * 2005-03-10 2006-09-21 Omron Corp 移動体のドライバー認証装置
US7301464B2 (en) * 2005-05-24 2007-11-27 Electronic Data Systems Corporation Process and method for safer vehicle navigation through facial gesture recognition and operator condition monitoring
US7259659B2 (en) * 2005-06-08 2007-08-21 Pin Liu Hung Motorcar burglarproof system
US9230601B2 (en) 2005-07-01 2016-01-05 Invention Science Fund I, Llc Media markup system for content alteration in derivative works
US8126190B2 (en) 2007-01-31 2012-02-28 The Invention Science Fund I, Llc Targeted obstrufication of an image
US9583141B2 (en) 2005-07-01 2017-02-28 Invention Science Fund I, Llc Implementing audio substitution options in media works
US20080086380A1 (en) * 2005-07-01 2008-04-10 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Alteration of promotional content in media works
JPWO2007043452A1 (ja) * 2005-10-12 2009-04-16 パイオニア株式会社 車載撮影装置及び車載カメラの撮影可動範囲測定方法
WO2007051118A2 (en) 2005-10-25 2007-05-03 Nxstage Medical, Inc Safety features for medical devices requiring assistance and supervision
US20070158116A1 (en) * 2006-01-12 2007-07-12 Trw Automotive U.S. Llc Adjustable steering column assembly
JP4538468B2 (ja) * 2007-02-27 2010-09-08 日立オートモティブシステムズ株式会社 画像処理装置,画像処理方法、及び画像処理システム
US9215512B2 (en) 2007-04-27 2015-12-15 Invention Science Fund I, Llc Implementation of media content alteration
EP2160269B1 (de) * 2007-06-15 2012-02-29 Robert Bosch GmbH Werkzeugmaschinenüberwachungsvorrichtung
US8411963B2 (en) 2008-08-08 2013-04-02 The Nielsen Company (U.S.), Llc Methods and apparatus to count persons in a monitored environment
US20100186234A1 (en) 2009-01-28 2010-07-29 Yehuda Binder Electric shaver with imaging capability
US7950118B1 (en) 2010-01-14 2011-05-31 Fumo Pamela M Memorial urn assembly
US10580088B2 (en) * 2010-03-03 2020-03-03 The Western Union Company Vehicle travel monitoring and payment systems and methods
US8407144B2 (en) * 2010-03-18 2013-03-26 The Western Union Company Vehicular-based transactions, systems and methods
US8836491B2 (en) * 2010-04-29 2014-09-16 Ford Global Technologies, Llc Occupant detection
US11292477B2 (en) 2010-06-07 2022-04-05 Affectiva, Inc. Vehicle manipulation using cognitive state engineering
US11067405B2 (en) 2010-06-07 2021-07-20 Affectiva, Inc. Cognitive state vehicle navigation based on image processing
US11410438B2 (en) 2010-06-07 2022-08-09 Affectiva, Inc. Image analysis using a semiconductor processor for facial evaluation in vehicles
US10897650B2 (en) 2010-06-07 2021-01-19 Affectiva, Inc. Vehicle content recommendation using cognitive states
US11318949B2 (en) 2010-06-07 2022-05-03 Affectiva, Inc. In-vehicle drowsiness analysis using blink rate
US10779761B2 (en) 2010-06-07 2020-09-22 Affectiva, Inc. Sporadic collection of affect data within a vehicle
US10482333B1 (en) 2017-01-04 2019-11-19 Affectiva, Inc. Mental state analysis using blink rate within vehicles
US11935281B2 (en) 2010-06-07 2024-03-19 Affectiva, Inc. Vehicular in-cabin facial tracking using machine learning
US10922567B2 (en) 2010-06-07 2021-02-16 Affectiva, Inc. Cognitive state based vehicle manipulation using near-infrared image processing
US10796176B2 (en) 2010-06-07 2020-10-06 Affectiva, Inc. Personal emotional profile generation for vehicle manipulation
US11151610B2 (en) * 2010-06-07 2021-10-19 Affectiva, Inc. Autonomous vehicle control using heart rate collection based on video imagery
US10627817B2 (en) 2010-06-07 2020-04-21 Affectiva, Inc. Vehicle manipulation using occupant image analysis
US10911829B2 (en) 2010-06-07 2021-02-02 Affectiva, Inc. Vehicle video recommendation via affect
US11587357B2 (en) 2010-06-07 2023-02-21 Affectiva, Inc. Vehicular cognitive data collection with multiple devices
US11511757B2 (en) 2010-06-07 2022-11-29 Affectiva, Inc. Vehicle manipulation with crowdsourcing
US11017250B2 (en) 2010-06-07 2021-05-25 Affectiva, Inc. Vehicle manipulation using convolutional image processing
US11465640B2 (en) 2010-06-07 2022-10-11 Affectiva, Inc. Directed control transfer for autonomous vehicles
US11823055B2 (en) 2019-03-31 2023-11-21 Affectiva, Inc. Vehicular in-cabin sensing using machine learning
US11704574B2 (en) 2010-06-07 2023-07-18 Affectiva, Inc. Multimodal machine learning for vehicle manipulation
EP2625061B1 (en) 2010-10-07 2020-06-24 Faurecia Automotive Seating, LLC System, methodologies, and components acquiring, analyzing, and using occupant body specifications for improved seating structures and environment configuration
PL3255613T3 (pl) 2010-12-15 2022-12-27 Auto Telematics Ltd Sposób i układ do rejestrowania zachowania pojazdu
US11697372B1 (en) 2011-01-04 2023-07-11 Spirited Eagle Enterprises, LLC System and method for enhancing situational awareness in a transportation vehicle
US8880291B2 (en) * 2012-05-17 2014-11-04 Harman International Industries, Inc. Methods and systems for preventing unauthorized vehicle operation using face recognition
US9311544B2 (en) * 2012-08-24 2016-04-12 Jeffrey T Haley Teleproctor reports use of a vehicle and restricts functions of drivers phone
DE102012222175A1 (de) * 2012-12-04 2014-06-18 Robert Bosch Gmbh Verfahren und Vorrichtung zum Öffnen einer Tür eines Fahrzeugs
KR101372838B1 (ko) 2013-02-20 2014-03-12 (주)인펙비전 다기능 차량촬영 시스템 및 방법
US10127754B2 (en) 2014-04-25 2018-11-13 Vivint, Inc. Identification-based barrier techniques
US10274909B2 (en) 2014-04-25 2019-04-30 Vivint, Inc. Managing barrier and occupancy based home automation system
US10235822B2 (en) 2014-04-25 2019-03-19 Vivint, Inc. Automatic system access using facial recognition
US10657749B2 (en) 2014-04-25 2020-05-19 Vivint, Inc. Automatic system access using facial recognition
CN105590410A (zh) * 2014-10-22 2016-05-18 鸿富锦精密工业(武汉)有限公司 安全驾驶监控系统及安全驾驶监控方法
US20160297362A1 (en) * 2015-04-09 2016-10-13 Ford Global Technologies, Llc Vehicle exterior side-camera systems and methods
CN105235615B (zh) * 2015-10-27 2018-01-23 浙江吉利控股集团有限公司 一种基于人脸识别的车辆控制系统
EP3525186B1 (en) 2016-01-18 2020-10-28 Veoneer Sweden AB Driver monitoring system and driver monitoring method for a motor vehicle
WO2017164835A1 (en) 2016-03-21 2017-09-28 Ford Global Technologies, Llc Virtual vehicle occupant rendering
JP6628189B2 (ja) * 2016-05-19 2020-01-08 パナソニックIpマネジメント株式会社 検出装置および検出方法
WO2018165384A1 (en) * 2017-03-10 2018-09-13 Gentex Corporation Imaging system and method for vehicle occupant indentification and monitoring
US10922566B2 (en) 2017-05-09 2021-02-16 Affectiva, Inc. Cognitive state evaluation for vehicle navigation
DE102017217486A1 (de) * 2017-09-29 2019-04-04 Robert Bosch Gmbh Fahrerbeobachtungssystem, Verfahren zum Erfassen eines Fahrers mittels eines Fahrerbeobachtungssystems und Verfahren zum Herstellen einer Wellenlängenschiebereinheit für ein Fahrerbeobachtungssystem
CN110163026A (zh) * 2018-01-04 2019-08-23 上海蓥石汽车技术有限公司 一种基于结构光的三维驾驶员识别系统及方法
CN110182172A (zh) 2018-02-23 2019-08-30 福特环球技术公司 车辆驾驶员认证系统及方法
JP7161318B2 (ja) * 2018-06-20 2022-10-26 矢崎総業株式会社 乗車人数監視システム
CN109409207B (zh) * 2018-09-10 2022-04-12 阿波罗智能技术(北京)有限公司 无人车内乘客状态的识别方法、装置、设备及存储介质
CN109733314B (zh) * 2018-12-05 2021-08-03 江苏大学 机动车智能安全装置及其控制方法
US11887383B2 (en) 2019-03-31 2024-01-30 Affectiva, Inc. Vehicle interior object management
KR20210042469A (ko) * 2019-10-10 2021-04-20 현대자동차주식회사 차량 및 차량 제어 방법
CN110816448A (zh) * 2019-12-20 2020-02-21 奇瑞汽车股份有限公司 一种座椅和后视镜的调节控制系统及方法
US11873000B2 (en) 2020-02-18 2024-01-16 Toyota Motor North America, Inc. Gesture detection for transport control
US11055998B1 (en) 2020-02-27 2021-07-06 Toyota Motor North America, Inc. Minimizing traffic signal delays with transports
US11290856B2 (en) 2020-03-31 2022-03-29 Toyota Motor North America, Inc. Establishing connections in transports
CN113548010A (zh) * 2020-04-15 2021-10-26 长城汽车股份有限公司 基于人脸识别的无钥匙进入的控制系统和方法
US11752974B2 (en) 2020-12-11 2023-09-12 Ford Global Technologies, Llc Systems and methods for head position interpolation for user tracking
CN113822145A (zh) * 2021-07-30 2021-12-21 的卢技术有限公司 一种基于深度学习的人脸识别操作方法

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5829782A (en) 1993-03-31 1998-11-03 Automotive Technologies International, Inc. Vehicle interior identification and monitoring system
US5845000A (en) 1992-05-05 1998-12-01 Automotive Technologies International, Inc. Optical identification and monitoring system using pattern recognition for use with vehicles
US6324453B1 (en) 1998-12-31 2001-11-27 Automotive Technologies International, Inc. Methods for determining the identification and position of and monitoring objects in a vehicle
US4648052A (en) 1983-11-14 1987-03-03 Sentient Systems Technology, Inc. Eye-tracker communication system
JPS60152904A (ja) * 1984-01-20 1985-08-12 Nippon Denso Co Ltd 車両運転者位置認識装置
US4720189A (en) 1986-01-07 1988-01-19 Northern Telecom Limited Eye-position sensor
JPH01158579A (ja) 1987-09-09 1989-06-21 Aisin Seiki Co Ltd 像認識装置
US4975969A (en) 1987-10-22 1990-12-04 Peter Tal Method and apparatus for uniquely identifying individuals by particular physical characteristics and security system utilizing the same
US5164992A (en) 1990-11-01 1992-11-17 Massachusetts Institute Of Technology Face recognition system
JP2522859B2 (ja) * 1990-12-14 1996-08-07 日産自動車株式会社 眼位置検出装置
US5331544A (en) * 1992-04-23 1994-07-19 A. C. Nielsen Company Market research method and system for collecting retail store and shopper market research data
US5835613A (en) 1992-05-05 1998-11-10 Automotive Technologies International, Inc. Optical identification and monitoring system using pattern recognition for use with vehicles
US5581630A (en) * 1992-12-21 1996-12-03 Texas Instruments Incorporated Personal identification
US5348005A (en) * 1993-05-07 1994-09-20 Bio-Tek Instruments, Inc. Simulation for pulse oximeter
DE4400664C2 (de) 1994-01-12 1995-11-16 Spies Martin Dipl Ing Fh Vorrichtung zur Erkennung der Sitzbelegung in Fahrzeugen etc.
US5748780A (en) 1994-04-07 1998-05-05 Stolfo; Salvatore J. Method and apparatus for imaging, image processing and data compression
DE4414216C1 (de) * 1994-04-23 1995-04-06 Daimler Benz Ag Fremdnutzungsschutzeinrichtung für ein Kraftfahrzeug mit Personalisierung der Fahrberechtigung
DE4416507C5 (de) 1994-05-10 2006-10-19 Volkswagen Ag Verfahren zur Erkennung einer Benutzungsberechtigung für ein Fahrzeug
US6002326A (en) * 1994-09-19 1999-12-14 Valerie Turner Automotive vehicle anti-theft and anti-vandalism and anti-carjacking system
US5844573A (en) * 1995-06-07 1998-12-01 Massachusetts Institute Of Technology Image compression by pointwise prototype correspondence using shape and texture information
US5729619A (en) 1995-08-08 1998-03-17 Northrop Grumman Corporation Operator identity, intoxication and drowsiness monitoring system and method
US5850470A (en) 1995-08-30 1998-12-15 Siemens Corporate Research, Inc. Neural network for locating and recognizing a deformable object
US6400835B1 (en) * 1996-05-15 2002-06-04 Jerome H. Lemelson Taillight mounted vehicle security system employing facial recognition using a reflected image
US6144366A (en) 1996-10-18 2000-11-07 Kabushiki Kaisha Toshiba Method and apparatus for generating information input using reflected light image of target object
DE19645175A1 (de) 1996-11-02 1998-05-07 Telefunken Microelectron Verfahren zum Steuern einer optischen Überwachungseinrichtung
US6079738A (en) 1997-08-22 2000-06-27 Breed Automotive Technology, Inc. Occupant presence and position sensing system
US6326613B1 (en) * 1998-01-07 2001-12-04 Donnelly Corporation Vehicle interior mirror assembly adapted for containing a rain sensor
US20020097145A1 (en) * 1997-11-06 2002-07-25 David M. Tumey Integrated vehicle security system utilizing facial image verification
US6108437A (en) * 1997-11-14 2000-08-22 Seiko Epson Corporation Face recognition apparatus, method, system and computer readable medium thereof
US6100811A (en) 1997-12-22 2000-08-08 Trw Inc. Fingerprint actuation of customized vehicle features
US6092192A (en) 1998-01-16 2000-07-18 International Business Machines Corporation Apparatus and methods for providing repetitive enrollment in a plurality of biometric recognition systems based on an initial enrollment
US6060989A (en) 1998-10-19 2000-05-09 Lucent Technologies Inc. System and method for preventing automobile accidents
US6323761B1 (en) * 2000-06-03 2001-11-27 Sam Mog Son Vehicular security access system
US6904347B1 (en) 2000-06-29 2005-06-07 Trw Inc. Human presence detection, identification and tracking using a facial feature image sensing system for airbag deployment
US6498970B2 (en) * 2001-04-17 2002-12-24 Koninklijke Phillips Electronics N.V. Automatic access to an automobile via biometrics

Also Published As

Publication number Publication date
WO2002008022A3 (en) 2003-09-04
EP1355806A2 (en) 2003-10-29
JP2004517512A (ja) 2004-06-10
US7110570B1 (en) 2006-09-19
WO2002008022A2 (en) 2002-01-31

Similar Documents

Publication Publication Date Title
JP4589600B2 (ja) 自動車の安全及び便宜に対する人間顔面特徴認識の適用
JP4025643B2 (ja) 自動車の安全に対する人間顔面特徴認識の適用
US9129505B2 (en) Driver fatigue monitoring system and method
US8604932B2 (en) Driver fatigue monitoring system and method
JP4246410B2 (ja) 顔面特徴イメージ・センシング・システムを使用した人間の存在の検出、識別および追跡によりエアバックを展開させるためのシステム及び方法
KR100492765B1 (ko) 최적화된 인간 존재 검출 시스템에 의한 차량의 에어백 제어 장치 및 방법
US8538636B2 (en) System and method for controlling vehicle headlights
US7655895B2 (en) Vehicle-mounted monitoring arrangement and method using light-regulation
US7831358B2 (en) Arrangement and method for obtaining information using phase difference of modulated illumination
US7983817B2 (en) Method and arrangement for obtaining information about vehicle occupants
US7570785B2 (en) Face monitoring system and method for vehicular occupants
US7788008B2 (en) Eye monitoring system and method for vehicular occupants
US7477758B2 (en) System and method for detecting objects in vehicular compartments
US7511833B2 (en) System for obtaining information about vehicular components
US8152198B2 (en) Vehicular occupant sensing techniques
US7768380B2 (en) Security system control for monitoring vehicular compartments
US20080157510A1 (en) System for Obtaining Information about Vehicular Components
US20080234899A1 (en) Vehicular Occupant Sensing and Component Control Techniques
Boverie A new class of intelligent sensors for the inner space monitoring of the vehicle of the future
Kosiak et al. Interior sensing for automotive occupant safety
Boverie et al. Intelligent systems for the perception inside a vehicle

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051012

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051018

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20060117

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20060124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060418

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20061219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070418

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20070516

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20070713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20091009

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100722

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100910

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130917

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees