JP4838261B2 - 車両機器制御用の画像収集及び処理システム - Google Patents

車両機器制御用の画像収集及び処理システム Download PDF

Info

Publication number
JP4838261B2
JP4838261B2 JP2007543170A JP2007543170A JP4838261B2 JP 4838261 B2 JP4838261 B2 JP 4838261B2 JP 2007543170 A JP2007543170 A JP 2007543170A JP 2007543170 A JP2007543170 A JP 2007543170A JP 4838261 B2 JP4838261 B2 JP 4838261B2
Authority
JP
Japan
Prior art keywords
systems
image
control device
module
sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007543170A
Other languages
English (en)
Other versions
JP2008522881A (ja
Inventor
ジョセフ エス スタム
グレゴリー エス ブッシュ
ティモシー エス デブルーイン
エリック ジェイ ウォルストラ
Original Assignee
ジェンテックス コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=36407686&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP4838261(B2) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by ジェンテックス コーポレイション filed Critical ジェンテックス コーポレイション
Publication of JP2008522881A publication Critical patent/JP2008522881A/ja
Application granted granted Critical
Publication of JP4838261B2 publication Critical patent/JP4838261B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • B60Q1/14Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights having dimming means
    • B60Q1/1415Dimming circuits
    • B60Q1/1423Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/008Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for anti-collision purposes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/02Rear-view mirror arrangements
    • B60R1/04Rear-view mirror arrangements mounted inside vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/02Rear-view mirror arrangements
    • B60R1/06Rear-view mirror arrangements mounted on vehicle exterior
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/0153Passenger detection systems using field detection presence sensors
    • B60R21/01538Passenger detection systems using field detection presence sensors for image processing, e.g. cameras or sensor arrays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1253Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/013Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over
    • B60R21/0134Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over responsive to imminent contact with an obstacle, e.g. using radar systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/106Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using night vision cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/108Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using 'non-standard' camera systems, e.g. camera sensor used for additional purposes i.a. rain sensor, camera sensor split in multiple image areas
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/804Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for lane monitoring

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Rear-View Mirror Devices That Are Mounted On The Exterior Of The Vehicle (AREA)

Description

発明の詳細な説明
(関連出願の相互参照)
本発明は、2004年11月18日に出願された名称「車両機器制御のための画像処理システムの改善」の米国仮特許出願第60/629,108号;2005年8月23日に出願された名称「車両機器制御用の画像収集及び処理システムの改善」の米国仮特許出願第60/710,602号;2005年9月8日に出願された名称「車両機器制御及び種々の車両機器制御システム用の画像処理システムの改善」の米国仮特許出願代理人DocketAUTO433V3の米国特許法119条(e)に基づく利益を主張し、これらの開示事項は引用により全体が本明細書に組み込まれる。
(背景技術)
様々な車両機器システムの自動制御及び監視のために車両内に視野システムを組み込むことは一般的になってきた。本発明は、車両視野システム構成要素、車両視野システム、並びに視野システム構成要素及び視野システムを用いた車両機器制御システムにおける改善をもたらす。
(発明を実施するための最良の形態)
イメージングシステム及び関連プロセッサを組み込む多くの車両機器制御システムが提案されている。本明細書で説明される少なくとも1つの実施形態では、複数の車両システムの機能を容易にするための単一のイメージングシステムが提供される。少なくとも1つの実施形態では、複数又は単一の用途を個々に提供する複数のイメージングシステムが提供される。
カメラ及び画像処理システムを用いた車両外部ライト制御システムは、同一譲受人に譲渡された米国特許第5,837,994号、第5,990,469号、第6,008,486号、第6,130,448号、第6,130,421号、第6,049,171号、第6,465,963号、第6,403,942号、第6,587,573号、第6,611,610号、第6,621,616号、第6,631,316号、第6,774,988号、第6,631,316号、第6,861,809号、第6,587,573号、米国特許出願公開第2004−0143380号、第2004−0008410号、第2004−0120358号、第2004−0201483号、及び第2006−0016965号において開発され開示されており、これらの開示事項は、引用により全体が本明細書に組み込まれる。これらのシステムでは、自動車前方のビューの画像が収集される。少なくとも1つの実施形態では、画像センサは、フロントガラスの室内表面からの反射及び/又は屈折が実質的に排除されるように、フロントガラスの室内表面に光学的に結合される。これらの画像は、接近車両又は先行車両の有無を判断するために処理され、他の車両の運転者に対する眩光を防ぐために、例えばハイビームを消すことによって被制御車両の外部ライトが調節される。
湿気感知、フロントガラスワイパー、及びHVAC制御は、同一譲受人に譲渡された米国特許第5,923,027号、第6,617,566号、第6,681,163号、及び米国特許出願公開第2004−0232773号で説明されており、これらの開示全体は引用により本明細書に組み込まれる。
図1を参照すると、被制御車両105は、ヘッドライト組立体120a、120b、スモールライト130a、130b、フロントターンシグナルインジケータ135a、135b、テールライト組立体125a、125b、リアターンシグナルインジケータ126a、126b、リアハザードランプ127a、127b、バックライト140a、140b、及び中央ハイマウントストップランプ(CHMSL)145などの種々の外部ライトを備えることができる。
本明細書で詳細に説明するように、被制御車両は、他の車両機器との共有機能を提供する様々な構成要素を組み込んだ少なくとも1つの制御システムを備えることができる。本明細書で説明される1つの制御システムの実施例は、少なくとも1つのリアビューミラー要素の反射率の自動制御及び少なくとも1つの外部ライトの自動制御に関連する様々な構成要素を一体化する。かかるシステム115は、リアビューミラー、Aピラー150a、150b、Bピラー155a、155b、Cピラー160a、160b、CHMSL、又は被制御車両内又は被制御車両上の他の場所に少なくとも1つの画像センサを備えることができる。収集画像又はその一部は、自動車両機器制御に用いることができる。その代わりに又はこれに加えて、この画像又はその一部は、1つ又はそれ以上のディスプレイ上に表示することができる。少なくとも1つのディスプレイは、半透過性又は少なくとも部分的に透過性の電気光学素子の後部に隠して位置付けることができる。共通コントローラは、少なくとも1つのミラー要素駆動信号及び少なくとも1つの他の機器制御信号を発生させるように構成することができる。
ここで図2を参照すると、外部リアビューミラー組立体210の様々な構成要素が示されている。少なくとも1つの実施形態では、内方面上に少なくとも1つの導電性/反射性コーティングを有する第1の基板220を備え、該第1の基板が内方面上に少なくとも1つの導電性/反射性コーティングを有する第2の基板225と離間した関係で一次シール230を介して固定されて、これらの間にチャンバを形成する電気光学ミラー要素が提供される。少なくとも1つの実施形態では、一次シールの少なくとも一部は空隙を残し、少なくとも1つのチャンバ注入口235を形成する。電気光学媒体はチャンバ内に封入され、注入口はプラグ材料240を介してシール密封される。好ましくは、プラグ材料は、UV硬化エポキシ又はアクリル材料である。また、ミラー素子の外縁部近くに配置されたスペクトルフィルタ材料245も図示されている。電気クリップ250、255はそれぞれ、好ましくは第1の接着材料251,252を介して要素に固定される。要素は、第2の接着材料265を介してキャリアプレート260に固定される。外部リアビューミラーから被制御車両の他の構成要素への電気的接続は、コネクタ270を介して行われるのが好ましい。キャリアは、ポジショナ280を介して関連するハウジングマウント276に取り付けられる。ハウジングマウントは、ハウジング275と係合され、少なくとも1つの留め具276を介して固定されるのが好ましい。好ましくは、ハウジングマウントは、旋回マウント277に係合するように構成された旋回部分を含む。旋回マウントは、少なくとも1つの留め具279を介して車両マウント278を係合するように構成されるのが好ましい。これらの構成要素、追加の構成要素、これらの相互接続部、及び動作の追加の詳細事項が本明細書で提供される。
ここで図3を参照すると、第1の基板322に向いて見たときの内部リアビューミラー組立体310が示されており、見る人と一次シール材料(図示せず)との間にスペクトルフィルタ材料345が位置付けられている。ミラー要素は、可動ハウジング375内に位置付けられ、装着構造体381上の固定ハウジング377と組み合されるように示されている。第1のインジケータ386、第2のインジケータ387、オペレータインターフェース391、及び第1の光センサ396が可動ハウジングの顎部390に位置付けられる。第1の情報ディスプレイ388、第2の情報ディスプレイ389、及び第2の光センサ397は、見る人に対して要素の後部にあるように組立体内に組み込まれる。外部リアビューミラー組立体関して説明したように、装置388、389、397を少なくとも部分的に隠すことが好ましい。
かかるシステムの好ましい実施形態では、他の車両及び非車両物体からの光は、画像内の輝度のピーク点を位置特定することによって識別される。位置特定されると、輝度、色、位置、幅、高さ、動き等のこれらの輝点の様々な特性が求められる。これらのパラメータ値は、統計的手法を用いて分析され、この輝点が他の車両のヘッドランプ又はテールランプに相当するか、或いは標識、反射器、又は他の固定ライト等の非車両光源に相当するかどうかを判断する。車両照明制御用の画像処理アルゴリズムの開発における重要な課題は、画像内のピーク点を適正に分類することである。光源を正確に識別することができないことによって、他の車両に対する眩光又は不適切なタイミングのハイビームの遮断を生じる可能性があり、被制御車両の運転者の不満が生じることになる。
発明者らは、画像内の輝点の位置は物体の分類において極めて大きく変動することを確認した。画像の中央に位置するピーク点は、車両光源に相当する可能性が高く、一方、側方に離れてある光源は、標識又は反射器に相当する可能性が高い(色、輝度、及び動き等の他の因子が同時に考慮されるのが好ましい)。発明者らはまた、カメラの製造及び車両へのカメラの物理的装着は変動を受け易いことを経験から認識していている。従って、画像の実際の中心を高精度で認知することはできない。これらの問題を軽減するために、車両組み立て工場において画像の中心を確定するのに工場照準較正が利用されるのが好ましい。上記の従来技術において説明されたように、自動連続照準較正も同様に利用される。
これらの照準法は、適切な画像中心較正を構築する際に極めて有効ではあるが、制約があり、本発明はこれらの制約を克服する。ヘッドランプ照準設定用に利用されるものと同様の装置を組立体工場において利用するのが好ましい。照明源は、各車両の前面の予め設定された位置に配置され、少なくとも1つの画像が収集される。少なくとも1つの画像を分析して、画像センサの照準調整が許容可能であるかどうかを判断する。
少なくとも1つの実施形態において、本発明は、画像サイクル毎又は僅かなサイクルだけで行う画像照準較正を構築することによって照準調整法を改善する。すなわち、本発明は、道路状況の変化に極めて迅速に適応して画像内の道路の中心位置を確定し、従って道路に対する画像内の識別した輝度ピークの位置を求めることができる。この情報を用いて、識別されたピークを良好に分類し、性能の改善及び工場照準調整の必要性を潜在的に排除することがもたらされる。
本発明の少なくとも1つの実施形態では、道路の位置を特定するためにペイントされた道路車線マーカが識別される。画像内における左右の車線の交点が道路の中心を示す。車線マーカを識別して、ターンシグナルを出さずに車線変更をする運転者に警報する車線逸脱警報システムが車両で商業的に利用可能である。これらのシステムの一部は、これらの車線を識別するために画像センサ及び画像処理手段を利用する。これらのシステムで使用されるアルゴリズムは、外部ライト制御システムと共に用いて、車線逸脱警報機能以外、又はこれに付加して外部ライト制御システムの照準調整の目的で車線を識別することができる。別個の車線逸脱警報システムは、外部ライト制御システム用に道路位置を求める目的ために、外部ライト制御システムに車線位置を伝達する手段を備えた機器とすることができる。
ここで、本明細書で説明する目的のために、車線識別に有効と見なされる簡単な車線追跡アルゴリズムが提示される。この実施例においては、イメージングシステムは、図4又は図5で説明するように構成することができる。図4に示すように、イメージングシステム405は、回路基板415に搭載された画像センサ410を備える。画像センサは、材料425内に封入されて、レンズ組立体430マウントを形成する。レンズ組立体は、シーンからの光線440を画像センサ上に合焦するように構成された第1のレンズ431を備える。イメージングシステムは更に、第1のレンズの周囲にアパーチャを形成するように構成されたマスク445を備える。画像センサ全体の解像度は、144×176ピクセルである。図5に示すように、イメージングシステム505は、回路基板515に搭載された画像センサ510を備え、スペクトルフィルタ材料520が関連するピクセルのおよそ半分の上に配置される。画像センサは、材料525内に封入されて、レンズ組立体520マウントを形成する。レンズ組立体は、シーンからの光線540を画像センサの半分の上に合焦させて、該光線がスペクトルフィルタ材料を通過するように構成された第1のレンズ531を備える。レンズ組立体は、実質的に同じシーンからの光線を画像センサの残りの半分の上に合焦して、該光線がスペクトルフィルタ材料を通過しないようにするよう構成された第2のレンズ532を備える。イメージングシステムは更に、第1及び第2のレンズの周りにアパーチャを形成するように構成されたマスク545を備える。画像センサ全体の解像度は176×144ピクセルである。しかしながら、このアレイは2つの半部分に分割され、その各々は、実質的に同じシーンを撮像するが、半分はスペクトルフィルタを通して撮像する。各半部分は、例えば144ピクセル幅×50ピクセル高さのピクセルのサブウィンドウを用いる。好ましくは、非フィルタリング半部分は車線検出に用いられる。視野は、好ましくはピクセル当たりおよそ0.2度である。車線検出アルゴリズムは、好ましくは、例えば下側15行の画像の下側領域で動作し、必ずしも全ての列を利用しない。以下の後続の実施例は様々な解像度並びに様々な光学構成を有する種々の画像センサに適用することができる点を理解されたい。画像センサ及びプロセッサのコストが下がるにつれて、より高い解像度及び、例えば50度又はそれ以上のより広い視野を有する画像センサを用いることが有利とすることができる。視野がより広くなるほど、より大きな照準補正、カーブ近辺のより良好な車両検出、及びより広い範囲のフロントガラス角度に対する許容範囲が可能になる。本発明は、いずれかの特定のタイプ又は構成の画像センサに限定されるものとして解釈すべきではない。
各行において、処理は水平中心ピクセルから始まる。行全体を右方向に移動するときに、各ピクセルを調査し、調査されるピクセルが左右の2つの場所のピクセルよりも有意に大きいかどうかを判断する。大きい場合には、そのピクセルは輝線の部分(すなわち車線マーカ)をイメージングしていると判断される。このピクセルの座標は、右車線座標のリスト内に記憶され、次いで、同じ処理は、中心ピクセルの左移動を生じる。高輝度のピクセルが見つからない場合には、座標は記憶されない。この処理は、下側15行の各々について繰り返され、高輝度の車線マーカピクセルの座標が左右の車線ピクセルリストに記憶される。右又は左の車線において十分な数(例えば少なくとも4つ)のピクセルが見つけられた場合には、線形回帰を行い、車線ポイントに適合するラインの勾配及び切片を求める。好ましくは、R2適合度の値を用いて、これらの点がライン上にほぼ位置するかどうかを判断し、そうである場合、結果として得られる一次方程式は車線位置の指標として用いられる。
左右両方の車線が良好なR2値によって識別された場合には、車線及び道路の位置が既知となる。中心点はこれらのラインの交点として計算される。2つの線のうちの一方しか見つからなかった場合には、第2の線は左右の車線の勾配間に存在する関係を知ることによって近似することができる。この関係は、2つの車線が存在する場合に収集されたデータ例を用いて実験的に求められた。道路の幅は一般に不変であるので、1つの車線の勾配及び切片は一般に他方の車線と関連しているとみなすことができる。従って、道路位置の妥当性のある近似値を片方の車線から求めることができる。道路中心及び車線位置が求められると、道路中心に対する識別物体の位置は分類を改善するのに用いることができる。更に、車線ラインマーカに対する物体の位置も同様に用いることができる。例えば、右車線の右側の物体は標識である可能性が高い。
場合によっては道路のラインマーカは識別されないことがある。これは、地方道路上のペイントの欠如、雪、塩、或いは他のノイズ源によって引き起こされる可能性があり、これらは、車線を不明確にし、又は説明されたアルゴリズムが車線を正確に識別することを困難にする。車線識別が途切れる期間においては、直前の車線マーカ識別からの中心を用いることができる。車線が長い時間期間識別されていない他の場合には、時間平均された平均中心位置を利用することができる。本発明は、車線は可視であることが多いことに起因して、従来のシステムよりも平均中心を算出することをより迅速且つ動的に可能とすることによって従来のシステムと比べて改善をもたらす。左右の車線が明確に検出される場合には、結果として得られる中心は、他の直近の計算からの中心と平均化される。平均中心は、車両が直進している場合にのみ計算する必要があり、この車両の直進は、車両のヨーレートセンサ、操舵センサ、又はコンパスにより、或いは検出された車線勾配の大きさがほぼ等しく符号が反対であり、従って直進走行を示すことを検証することから判断することができる。車線が存在しない場合には、時間平均値が較正画像中心点として用いられる。図8は、車線マーカを有する道路のカメラからの画像を示している。図9は、上述の方法を用いて車線マーカ上で選択されたピクセルを示している。
本発明の別の実施形態では、道路位置を求めるために道路の照度勾配が用いられる。図8に見られるように、車線ラインは、画像の中心を向いている。図10では、雪に覆われた道路の画像が描かれており、可視の車線マーカは存在しない。しかしながら、道路及び中心点に向かって狭くなる道路の透視図を視覚的に見ることができる。この中心点は、照明勾配で見ることによってソフトウェアで識別される。画像の下側半分におけるピクセルの多くでは、ピクセル輝度はその隣接ピクセルに対してほとんど変化せず、直角方向でより急激に変化する方向が存在する。方向依存勾配計算フィルタは、この変化の大きさ及び方向を求めるために用いられる。例えば、以下のSobel演算子である。
Figure 0004838261
ここでfx,yは地点x,yにおける画像ピクセルのピクセルグレースケール値であり、i,jは、勾配を計算している現在のピクセルの位置である。
これらのベクトルから最大勾配の方向が計算される。このベクトルに対し直角の方向は道路中心を指すことになる。強い勾配を示すあらゆるピクセルについて、勾配に対して直角ベクトルの交点を計算することができる。この平均交点が道路中心を示す。
勾配を求めるために、Sobel演算子以外の式を用いてもよい。調査ピクセルの隣接ピクセルを超えるピクセルを考慮することは特に有用である。
少なくとも1つの実施形態では、画像中心を求めるために検出物体の動きを考慮することができる。上記で引用した同一譲受人に譲渡された特許及び特許出願の幾つかにおいて説明されているように、検出物体を経時的に追跡し、その運動ベクトルを求めることができる。一般的に物体は画像中心から出て来る傾向がある。経時的に調査された幾つかの物体の運動ベクトルの交点を用いて、画像の平均中心点を計算することができる。幾つかの物体が存在する場合には、この中心点を迅速に計算することができる。
上述の方法のいずれも最良の結果を求めて組み合せることができる。当該技術分野において公知の他の方法をこれらの方法と組み合せてもよい。例えば、明確な車線が検出される場合には、これらの車線を用いて道路の位置及び中心を求めることができる。明確な車線が存在しないが強い勾配がある場合には、これらの勾配を用いることができる。明確な道路が識別されない場合、最近の画像からの道路の位置を用いることができる。最終的に長い時間期間にわたって道路が識別されなかった場合には、以前のサイクルから時間平均された画像の平均中心を用いることができる。
物体の分類は、運転時に記録された物体からの収集された手動識別されたサンプルの統計分析を用いて実行することができる。調査された物体の種々のパラメータは、xの位置、yの位置、輝度、色、幅、高さ、経年、xの動き、及びyの動きを含むことができる。本発明では、xの位置及びyの位置は、現在識別されている画像中心からの差分として表すことができる。パラメータは、市販のソフトウェアプログラムMinitabのもの等の統計分析手法を用いて調査される。例えば、物体が外部ライトである確率に対してこれらのパラメータを関連付ける式を作成するために二項ロジスティック回帰を用いることができ、更に、物体がテールランプである確率を求めるために別の式を生成することができる。
パラメータのいずれかと物体が車両のライトである確率との間の線形関係は通常はないので、例示的なデータは様々なサブセットに分割することができる。サブセット内では、この関係をより線形にすることができる。画像中心にある物体を分析して、これらの物体を特徴付ける式を作成することができる。画像の様々な区分について別個の式を作成することができる。種々の車両速度又は種々の旋回状態について別個の式を作成することができる。旋回状態は、ヨーレート率、操舵センサ、コンパスに基づくことができ、又は道路識別から得ることができる。道路を明確に識別することができない状況から道路中心が明確に識別される状況については、別個の回帰式を作成することができる。例えば、道路が識別される場合には、位置に関する強い依存性を分類用に用いることができる。道路が識別されない場合には、位置情報は不確実であるので、位置に関する依存性の少ない回帰式と共に時間平均の平均画像中心の場所が利用される。引用の従来技術で説明されたようなデータ分析の他の方法を本発明の方法と併せて用いることもできる。本明細書で説明される道路識別のための本発明は、例えば、車線逸脱警報システムなど、外部ライト制御以外の用途で用いてもよい。
画像センサ及び画像処理システムは、自動車において安全で好都合な様々な機能を実行するために益々用いられている。かかる機能の実施例は、視界支援、ヘッドランプ制御、雨滴感知、車線逸脱警報、衝突回避、標識認識、及び適応走行制御を含む。用途に必要とされる視野が同じか又は重なり合う場合においては、これら又は他の機能のうちの1つよりも多い機能を実行するために単一のカメラを用いることが望ましい。単一のカメラは物理空間をあまり必要とされないので、複数の専用カメラを使用するよりも安価なものとすることができる。
複数の機能を実行するために単一のカメラを使用することは、最初は魅力的であるが、この目的を複雑にする幾つかの技術上並びに商業上の障害がある。上記に挙げた用途の多くは車両の実質的に前方視野を必要とするが、カメラの各要件は実質的に異なる。接近車両のヘッドランプ及び先行車両のテールランプを識別するヘッドランプ制御システムでは、30°から50°の視野、およそ5〜10ピクセル/度の解像度、極めて高いシーン間ダイナミックレンジ(すなわち、単一画像内で広範な光レベルを感知する能力)、点光源における極めて正確な色測定、及びおよそ5フレーム/秒のフレームレートを必要とする。車線逸脱警報システムは、およそ25°〜35°の視野、5度/ピクセルを上回る解像度、日中及び夜間の変化する光レベルに適応するための広いシーン間ダイナミックレンジ、及びおよそ10フレーム/秒のフレームレートを必要とする。標識認識システムは、より狭い視野ではあるが、20度/ピクセルを上回る極めて高い解像度を必要とする。
複数の機能を実行するためには、プロセッサは、極めて異なる手法で画像を処理することが必要となる可能性がある。例えば、標識の読み取りは、ヘッドランプ又はテールランプの検出とは方法及び複雑さにおいて実質的に異なる。幾つかの用途では、連続するビデオ画像ストリームを分析することによって機能することができる。これとは対照的にヘッドランプ制御は、露出時間と画像ウィンドウとが急激に変わるためにイメージャを必要とする。他の箇所に引用により本明細書に組み込まれる特許及び特許出願において説明されているように、街灯は、強度のACリップルを検出することによって、ヘッドランプと区別することができる。この検出は、480フレーム/秒のフレームレートで小ウィンドウを収集するイメージャを必要とする。街灯を分析した後、次のサイクルで完全なフィールド画像が収集される。
技術的障害に加えて、1つのカメラからの複数機能の実装を複雑にする商業上の障害がある。自動車製造業者は、個々の供給業者の専門技術に基づく異なる機能を提供するために異なる供給業者を利用することを好む可能性がある。各供給業者によって開発された画像処理ソフトウェア及び方法は、各々が特定の機能に最適化された広範な計算ハードウェアを利用している可能性が高い。1つの処理プラットフォーム上に幾つかの機能を実装することは技術的には考えられるが、実施することは極めて困難であるか、或いは不可能である可能性が高い。従って、単一のカメラを用いて実行されことになる幾つかの異なる機能を可能にするには、用途の一部が適切に動作するのに必要とされる画像感知制御の柔軟性を維持しながら、各用途に提供される様々な処理プラットフォームに画像データを提供することが必要である。
本発明は、他の用途に対して連続した標準ビデオストリームを提供しながら、様々な画像収集パラメータを可能にする画像処理システムの1つ又はそれ以上によって制御することができるカメラを提供する。
本発明の実施形態例を図6に示す。この実施例では、画像センサ601はプロセッサ602によって制御される。画像センサ制御パラメータ並びに画像データの通信は、通信バス603上で行われ、この通信バス603は双方向シリアルバス、パラレルバス、この両方の組み合せ、又は他の適切な手段とすることができる。プロセッサ602は、カメラ601からの画像を分析し、これらの画像に基づいてヘッドランプ状態を判断し、更にCANバス又は他のあらゆる適切な通信リンクとすることができるバス604を通じてヘッドランプ制御モジュール605に対して判断されたヘッドライト状態を伝達することによって、ヘッドランプ制御機能を実行する役割を果たす。
本明細書で上述したように、ヘッドランプ制御機能は、画像センサが異なる露出時間及び異なる読み出しウィンドウを有する幾つかの異なるモードで起動することを必要とする。この複雑さにより、プロセッサ602はヘッドランプ制御機能の実行と画像センサ601のパラメータ制御の両方を行うように選択される。上記に挙げたような他の機能は、ヘッドランプ制御機能によって必要とされる直接画像センサ制御の必要なしに画像センサ601から画像データを受けとることができる。従って、画像センサ601からの画像データは、プロセッサ602から画像データリンク607を通じて1つ又はそれ以上の他のプロセッサ(608、609、及び610で示している)に通信することができる。画像データリンクは、MOSTバス、高速CANバス、又は他のあらゆる適切な電子データ通信スキームとすることができる。通信は、一方向又は双方向とすることができる。双方向の場合には、必要に応じて画像収集パラメータを修正するために追加のプロセッサがプロセッサ602と通信することができる。好ましい実施形態では、画像データリンク607は、同一譲受人に譲渡された米国特許出願公開第20050135465号に説明されているように実装され、その全開示事項は引用により本明細書に組み込まれる。
ヘッドランプ制御機能の実行中、プロセッサ1は、1つ又はそれ以上の露出時間での全視野の画像を要求することになる。次いで、これらの画像はヘッドランプ制御機能用に処理される。処理と同時に、これらの画像は画像データリンク607を介して他のプロセッサに送信されることになる。プロセッサ602は、伝送の前にフィルタリング、ダイナミックレンジ圧縮、又は色計算等の何らかの前処理を実行することができる。画像データに加えて、画像を取得するために用いられる収集パラメータが他の用途のうちの1つによって必要とされる場合には、この情報を送信することができる。画像データを受け取ると、他のプロセッサは、プロセッサ602から独立してこれらのデータを分析し、必要とされる機能を実行することができる。ヘッドランプ制御機能用だけに必要とされる追加画像は、他のプロセッサに画像を伝送する間に収集することができる。
日中又は無効時等、ヘッドランプ制御機能が作動していない状態の間でも、プロセッサ602は、画像の収集、画像の前処理、及びこれらの画像を他のプロセッサに伝送することを行うことが依然として可能である。プロセッサ602はまた、現在の照明条件における適切な画像パラメータを求める自動露出制御を実行することができる。或いは、プロセッサ602は、他のプロセッサのうちの1つから命令を受け取り、露出時間又は他のパラメータを調節することができる。場合によっては、1つの機能からの出力を用いて、別の機能の性能を補完することができる。例えば、ヘッドランプ制御機能は、車線逸脱警報システムによって検出された道路車線の位置を用いて道路位置に対する光源の位置を求めることを可能にすることができる。この場合、画像データ以外のデータもまた、画像データリンク607を介して機能間で計算することができる。
第1の実施形態では、プロセッサ602は「マスター」プロセッサとしての役割を果たし、他のプロセッサはマスターから情報を受け取る役割を果たす。図7に示す別の実施形態では、専用画像コントローラ704が備えられ、これは、画像センサ701を制御する役割を果たし、更に、自動露出、ダイナミックレンジ圧縮、フィルタリング、又は色計算等の前処理を実行する役割を果たすことができる。次に画像データは、データリンク707を介してプロセッサの各々に伝送される。プロセッサ702はこの場合も同様に、ヘッドランプ制御機能を実行する役割を果たすが、カメラを直接制御するのではなく、画像コントローラ704に画像を要求する。1つ又はそれ以上の追加プロセッサ708及び709はまた、画像コントローラ704に特定の画像データを要求することができ、又は単に一定の時間間隔で画像データを受け取ることができる。画像コントローラ704は、全てのプロセッサに画像データの規則的な出力を供給しながら、複数のプロセッサからの画像要求を管理する。画像コントローラ704は画像センサ701と一体化して備えることができ、場合によっては画像センサと同じシリコンチップ上にモノリシックに集積化することが想定される。
本明細書で説明している両方の実施形態では、画像センサ701は、車両のリアビューミラーのマウント上に配置することができる。ミラーマウント上にカメラを配置することには幾つかの利点がある。すなわち、ミラーマウントは剛直で据え置きであり、通常、車両のフロントガラスのワイパー経路内に配置され、ミラーが既に取り付けられているために工場組み込みが簡素化される。カメラは、ミラーとは独立して置くこともできるが、その結果、工場組み込み段階を追加することが必要となる。
画像センサ701の位置とは関係なく、プロセッサ702(或いは代替的に画像コントローラ704)は、同じ又は別個の回路基板上に画像センサ701と共に配置することができる。これらのプロセッサはまた、リアビューミラー本体内に配置することもでき、コンパスセンサ又は自動防眩リアビューミラー制御等の他の機能を実行する役割を果たすことができる。これらのプロセッサはまた、ヘッドライナー、オーバーヘッドコンソール、又は車両内の他の適切な位置に配置することもできる。
ここで図11を参照すると、左車線ライン1105、中央車線ライン1110、及び右車線ライン1115を含む車道の画像が示されている。好ましい実施形態では、関連する画像センサの感度は、車線ラインが無い画像範囲内区分が所与のピクセルから得ることができるフルスケール値のおよそ20パーセントの相関ピクセル値を生じるように設定されるが、感度は、30パーセント、40パーセント、50パーセント、又は他のどのような望ましい値を生じるように設定してもよい点を理解されたい。最も好ましい感度設定は、フルスケールよりも少ない値を有する車線マークキングを実際に検出する(すなわち色落ちしない)ピクセルを生じることになる。
図12は、図11の画像の代表的な行のピクセル値のグラフを示している。左車線ライン1205、中央車線ライン1210、及び右車線ライン1215は、関連するピクセルにおいて高い値を誘起している。画像の各行における所与の車線ラインのエッジに対応するピクセルを識別することが望ましい。好ましい実施形態では、図12に示す値から1次導関数が取られ、左車線ラインの結果を1次導関数1305として図13に示す。図12の値の1次導関数を取ることによって、未処理のピクセル値に付随するノイズの「閾値処理による除去」が得られる。更に好ましい実施形態では、2次導関数1405が算出され、図14に示すグラフが得られる。2次導関数は、点1406と点1407との間で正から負への移行が車線ラインの第1のエッジを示し、更に点1409と1408との間で負から正への移行が車線ラインの第2のエッジを示していることを明らかにしている。2次導関数を取ることによって、分析中のピクセル値の所与の行に関連する変曲点が識別されることになる。図15は、正から負への移行1505の分解図を示し、点1506は第1のピクセルに対応し、点1507は第2のピクセルに対応しており、これらの値の内挿により関連する車線ラインのエッジについて正確な位置1508が求められることになる。同様の分析を実行して、関連する画像内の各車線ラインの各エッジを正確に特定することができる点を理解されたい。
次に図16を参照すると、第1の特徴部1605、第2の特徴部1610、及び第3の特徴部1615を含む変換画像が示されている。理想的な状況では、これらの3つの特徴部は、原画像の左、中央、及び右の車線ラインに相当することになり、原画像のピクセル値と比較して、付随するノイズが除去又は低減されている。
好ましい実施形態では、図16の値は、対応する左ライン1705、中央ライン1710、及び右ライン1715の「平面図」を得るために転置される。図18に示すように、被制御車両を示す矩形1820は、水平ライン1825と組み合せられ、被制御車両が適切な車線から逸脱していないかどうかを判断するのに用いられる。車両が右車線を走行していると仮定すると、判断は、ライン1810又は1815のいずれかと水平ライン1825及び/又は矩形1820との交差を検査することで行われる。車両が左車線を走行していると仮定すると、判断は、ライン1805又は1810のいずれかと水平ライン1825及び/又は矩形1820との交差を検査することで行われる。関連するラインのいずれかは、水平ライン1825及び/又は矩形1820と交差していることが判明した場合には、被制御車両の室内で可聴及び/又は可視警報を起動し、運転者に車線逸脱を警報することができる。少なくとも1つの対応する画像センサ及び/又は少なくとも1つのプロセッサと共に適切な可聴及び/又は可視警報装置をリアビュー組立体に組み込むことができる点を理解されたい。所与のプロセッサ及び/又は画像センサの出力は、当初の機器製品に供給され、運転者の見える範囲又は聞こえる範囲内の車両内のいずれかの場所で可聴及び/又は可視警報を起動するようにできる点も理解されたい。上述の車線検出アルゴリズムの結果として、自動操舵が作動するように構成することができる点も理解されたい。車両操舵において被制御車両をある方向に誘導するように「促す」ことができ、運転者は、車線逸脱検出が無い車両を操舵するのに必要な力よりも若干強い力でこれに打ち勝つことができる。
図19を参照すると、連続して収集された3つの画像を参照して車線逸脱検出アルゴリズムを説明している。実線グラフで示した第1の画像は、左車線ライン1905a、中央車線ライン1910a、右車線ライン1915a、及び被制御車両1920aを含む。点線グラフで示した第2の画像は、左車線ライン1905b、中央車線ライン1910b、右車線ライン1915b、及び被制御車両1920bを含む。破線グラフで示した第3の画像は、左車線ライン1905c、中央車線ライン1910c、右車線ライン1915c、及び被制御車両1920cを含む。好ましい実施形態では、被制御車両のヨーレートセンサ入力及び/又は被制御車両の速度入力が一連の連続的に収集された画像と組み合わされ、被制御車両が所与の車線ラインを横切った時点又は横切ろうとしている時点を判断する。上記の実施形態に関して説明したように、被制御車両が右車線又は左車線のいずれかを走行している仮定に応じて異なる車線ラインが分析される。好ましい実施形態では、被制御車両の速度、被制御車両のヨーレート、及び連続して収集された画像を組み合せて、車線逸脱を予測する。好ましい実施形態では、車線逸脱が差し迫ると、可聴及び/又は可視警報が起動される。少なくとも1つの実施形態では、被制御車両の操舵が上述のように行われる。
少なくとも1つの実施形態では、所与の「特徴部」が実際に関心のある車線ラインであるか又は非車線ラインノイズであるかを判断する際に、少なくとも1つの予測ライン幅を利用するものとする。例えば、被制御車両からの所与の距離において予測ライン幅は実際のライン幅と比較することができ、このアルゴリズムは、実際の幅と比較した予測幅の差分に基づいてサブルーチン内の特定のサブルーチンを実行することになる。少なくとも1つの実施形態では、画像センサ組立体は、被制御車両からおよそ10メートルにおける予測ライン幅がおよそ4ピクセル幅であるように構成されるが、およそ10メートルにおいては3から4ピクセル幅が好ましいことを理解されたい。少なくとも1つの実施形態では、予測車線ライン幅は、25メートルにおいて1ピクセルよりも大きい。ライン幅は、本明細書の他の箇所で説明しているように求めることができる。少なくとも1つの実施形態では、予測車線ラインピクセル幅、予測車線ライン、これらの部分組み合せ又は組み合せは、被制御車両の位置に対する所与の特徴部の位置を固定するのに利用される。車線ラインである所与の特徴部の特徴付けは、地理依存予測データから推測することができる点を理解されたい。例えば、被制御車両に組み込まれた地理測位システム(GPS)に基づいて自動的に選択された地理データに依存する車線ライン幅のルックアップテーブルを有する等である。第1の特徴部の結果に基づく第2の特徴部の推測における車線幅はまた、地理依存のルックアップテーブル内に記憶することができる点は明らかであろう。車道に沿って一定間隔で計画的に配置された磁石又は磁気材料等の道路依存システムは、これらがより利用可能になれば組み込むことができることは理解されたい。GPSデータがより正確で信頼できるものになると、これらの情報は、被制御車両が走行している環境に関する地理依存の経験データとの組み合せて用いることができる。地理依存で且つ視覚依存のシステムは、個々に用いられる技術の性能を高めるように構成することができる。
少なくとも1つの実施形態では、1つ又は複数の所与の画像において識別されない別の特徴部は、少なくとも1つの他の特徴部が所与の画像又は直近の画像において見出されていたことによって、予測特徴部により推測することができる。少なくとも1つの実施形態では、このシステムは、かかる車線ラインが互いに予め設定された距離にあることが予想され、従って第2の車線ラインの位置が第1の車線ラインの位置の検出から推測することができるように構成される。少なくとも部分的に雪で覆われた道路、少なくとも部分的に濡れた道路、少なくとも部分的に陰になった道路、車線ライン以外の道路マーキング、タール帯、他のタイヤのスリップ痕、道路にペイントされた矢印及び同様のもの、並びに工事マーキング等の多くの妨害状況を予想することができる。少なくとも1つの実施形態では、様々な予想される「特徴部の特性」は、妨害物から実際の車線ラインを区別するのに利用される。本明細書で教示される技術の多くは、この目的において有用である。
少なくとも1つの実施形態では、少なくとも1つの画像から抽出されたピクセル値は、原画像内で一連のサブウィンドウを定義する複数のセルに分割される。続いて、これらの個々のセルが分析され、各々の範囲内で車線マーカを識別する。次に、個々のセルから抽出された特徴部は、道路モデルに再構築される。セルを利用する1つの利点は、例えば、建築物、樹木、橋梁、及び同様のものから車道上に落ちる影に起因するシーン内の変動に対処することである。更に、所与の画像内の舗装及び/又は道路表面の変動に対処することができる。一例として、画像は一連の3×3のセルに分割することができる。或いは、画像は2列、2行、4列、4行、これらのあらゆる部分組み合せ又は組み合せに分割してもよいことを理解されたい。本発明の精神の範囲内でより多くのセルを用いることができる。
完全な画像又はセルが分析中であるかどうかによらず、少なくとも1つの実施形態においては、分析は、所与の行をわたる2、3、4、5、又はそれ以上のピクセル値の移動平均を計算することで始まる。分析のこの段階は、追跡中の分析において変曲の局所ポイントを排除することになる。少なくとも1つの実施形態では、全体の行平均を下回る所与の行のあらゆるピクセル値には、この行平均に等しい値が割り当てられる。この手順は、結果として得られるデータ内のコントラストを低減する。少なくとも1つの実施形態では、1次導関数がその行全体にわたって計算される。少なくとも1つの実施形態では、1次導関数の計算に続いて、1次導関数の値の群を利用して、平均及び/又は中間範囲を計算する。次に、少なくとも1つの実施形態では、平滑化された1次導関数データを用いて、2次導関数を計算する。少なくとも1つの実施形態では、2次導関数データを用いて、関連する立ち上がり及び立ち下がりエッジを識別することによって車線マーカを識別する。少なくとも1つの実施形態では、上記分析は、濡れた車道表面、他の自動車及び/又は車道照明から部分的に照明される車道表面上の車線マーカを正確に検出するのに用いられる。
少なくとも1つの実施形態では、所与の行又はデータ内のピクセルのグループが、例えば車線マーカに対して予想されるはずのもの以上に「広幅」の高輝度スポットを示すと判断する場合には、広幅の高輝度スポットによって定義される列に関連するデータは、分析において無視される。この分析は、夜間又は暗状態又は降雨状態の接近車両からの照明の処理に特に好適である。
少なくとも1つの実施形態では、車線マーカを検出するために一連の画像が分析される。車線マーカが1つの画像及び再度次の画像に存在すると判断される場合には、カウンタがインクリメントされる。車線マーカが後続の画像で検出されない場合には、カウンタはデクリメントされる。カウンタが予め設定された閾値数に達すると、車線マーカの存在が確認されたものと判断される。この分析は、車線マークの検出に関して高度の確実性を与える。
少なくとも1つの実施形態では、画像からの未処理データは、最初に平均化され、平均を下回るピクセル値には平均値が割り当てられる。続いて、1次導関数が算出される。このデータのヒストグラムを利用する閾値関数が導出され、次いで重み付けされる。次に、ヒストグラムのうちの0.33を下回るヒストグラム値は無視され、これらの値にはゼロ値が割り当てられる。次いで、2次導関数が算出される。最終的に、2次導関数の変曲点を利用して、ゼロ交差値を内挿する。
上記の説明及び添付図は例示の目的のものであり、図示し説明された特定の実施形態に本発明を限定するものと解釈すべきではない点を理解されたい。添付の請求項は、均等論並びに適用可能な特許法及び規則の範囲内で全ての均等物を含むと解釈されるもものとする。
被制御車両の平面図である。 外部リアビューミラー組立体の分解斜視図である。 内部リアビューミラー組立体の斜視図である。 画像センサの断面外形図である。 画像センサの断面外形図である。 車両機器制御システムのブロック図である。 車両機器制御システムのブロック図である。 被制御車両のほぼ前方のシーンの実画像である。 図8に示す画像から特徴部を抽出した結果を示す図である。 被制御車両のほぼ前方のシーンの実画像である。 車線マーカを有する車道の図面である。 図11の図面の画像から生じることになるある行のピクセルデータのグラフである。 図12の車線マーカのうちの1つの1次導関数のグラフである。 図13の2次導関数のグラフである。 図14のグラフのあるセクションの分解図である。 図13に示す図面において識別される特徴部の図である。 図13に示す図面から作成された道路モデルの図である。 図13に示す図面から作成した道路モデルに被制御車両を重ね合わせた図である。 各々が被制御車両を重ね合わせた図13に示すのと同様の一連の図面から作成した一連の道路モデルの図である。

Claims (26)

  1. 少なくとも1つの画像センサと、
    前記少なくとも1つの画像センサから少なくとも1つの画像の少なくとも一部分を受け取るように構成された少なくとも1つのプロセッサと、
    を備え、前記少なくとも1つの画像センサの照準は前記少なくとも1つの画像の関数であり、それによって、前記プロセッサが前記受け取った少なくとも1つの画像の少なくとも一部分のピクセルデータの1次導関数を取り、前記ピクセルデータを閾値処理し、前記閾値処理されたピクセルデータの2次導関数を取るように構成されており、
    前記プロセッサは更に、少なくとも1つの画像の少なくとも一部分から抽出される少なくとも1つの特徴部の関数として少なくとも1つの車両機器制御信号を発生させるように構成されている、
    ことを特徴とする装置。
  2. 少なくとも1つの車線マーカを検出するように構成された請求項1に記載の装置。
  3. 前記画像センサの照準が前記少なくとも1つの車線マーカの関数であることを特徴とする請求項2に記載の装置。
  4. 固定ハウジングを備えるリアビューミラー組立体として構成された請求項1に記載の装置であって、前記固定ハウジングが、
    第2のイメージャセンサ、自動外部ライト制御モジュール、湿気センサモジュール、コンパスセンサ、コンパス、スピーカ、マイクロフォン、フロントガラスワイパー自動制御装置、デジタル信号プロセッサ、自動デフォッガ制御装置、衝突回避制御装置、車線逸脱警報モジュール、電気光学ミラー要素制御モジュール、補助照明器モジュール、光センサ、及び第2のプロセッサから構成されるグループから選択される少なくとも1つのデバイスを備える、
    ことを特徴とする請求項1に記載の装置。
  5. リアビューミラー組立体として構成された請求項1に記載の装置であって、前記リアビューミラー組立体が、
    イメージャ、自動外部ライト制御モジュール、湿気センサモジュール、コンパスセンサ、コンパス、スピーカ、マイクロフォン、フロントガラスワイパー自動制御装置、デジタル信号プロセッサ、自動デフォッガ制御装置、衝突回避制御装置、車線逸脱警報モジュール、電気光学ミラー要素制御モジュール、補助照明器モジュール、光センサ、及び第2のプロセッサから構成されるグループから選択される少なくとも1つのデバイスを備える、ことを特徴とする請求項1に記載の装置。
  6. 自動外部ライト制御システム、湿気感知システム、フロントガラスワイパー制御装置、デフロスター制御装置、デフォッガ制御装置、車線維持システム、車線逸脱警報システム、セキュリティシステム、視野システム、適応走行制御システム、駐車支援システム、死角警報システム、日射感知システム、晴天検出システム、トンネル検出システム、昼間走行ライト制御システム、エアバッグ作動化システム、後方視界システム、乗員検出システム、監視システム、衝突回避システム、事故再現システム、及び画像収集システムから選択されるグループの中の少なくとも1つとして機能するように構成された請求項1に記載の装置。
  7. 少なくとも1つの画像センサと、
    前記少なくとも1つの画像センサから少なくとも1つの画像の少なくとも一部分を受け取るように構成された第1のプロセッサと、
    を備え、前記少なくとも1つの画像センサの照準が前記少なくとも1つの画像の少なくとも一部分の関数であり、それによって、前記第1のプロセッサが前記受け取った少なくとも1つの画像の少なくとも一部分のピクセルデータの1次導関数を取り、前記ピクセルデータを閾値処理し、前記閾値処理されたピクセルデータの2次導関数を取るように構成されており、
    更に、少なくとも1つの画像の少なくとも一部分の関数として少なくとも1つの車両機器制御信号を発生させるように構成された第2のプロセッサを備える、
    ことを特徴とする装置。
  8. 少なくとも1つの車線マーカを検出するように構成された請求項7に記載の装置。
  9. 前記画像センサの照準が、前記少なくとも1つの車線マーカの関数であることを特徴とする請求項8に記載の装置。
  10. 固定ハウジングを備えるリアビューミラー組立体として構成された請求項1に記載の装置であって、前記固定ハウジングが、
    第2の画像センサ、自動外部ライト制御モジュール、湿気センサモジュール、コンパスセンサ、コンパス、スピーカ、マイクロフォン、フロントガラスワイパー自動制御装置、デジタル信号プロセッサ、自動デフォッガ制御装置、衝突回避制御装置、車線逸脱警報モジュール、電気光学ミラー要素制御モジュール、補助照明器モジュール、光センサ、及び第3のプロセッサから構成されるグループから選択される少なくとも1つのデバイスを備える、
    ことを特徴とする請求項7に記載の装置。
  11. リアビューミラー組立体として構成された請求項1に記載の装置であって、前記リアビューミラー組立体が、
    イメージャ、自動外部ライト制御モジュール、湿気センサモジュール、コンパスセンサ、コンパス、スピーカ、マイクロフォン、フロントガラスワイパー自動制御装置、デジタル信号プロセッサ、自動デフォッガ制御装置、衝突回避制御装置、車線逸脱警報モジュール、電気光学ミラー要素制御モジュール、補助照明器モジュール、光センサ、及び第3のプロセッサから構成されるグループから選択される少なくとも1つのデバイスを備える、ことを特徴とする請求項7に記載の装置。
  12. 自動外部ライト制御システム、湿気感知システム、フロントガラスワイパー制御装置、デフロスター制御装置、デフォッガ制御装置、車線維持システム、車線逸脱警報システム、セキュリティシステム、視野システム、適応走行制御システム、駐車支援システム、死角警報システム、日射感知システム、晴天検出システム、トンネル検出システム、昼間走行ライト制御システム、エアバッグ作動化システム、後方視界システム、乗員検出システム、監視システム、衝突回避システム、事故再現システム、及び画像収集システムから選択されるグループの中の少なくとも1つとして機能するように構成された請求項7に記載の装置。
  13. 少なくとも1つの画像センサと、
    前記少なくとも1つの画像センサから少なくとも1つの画像の少なくとも一部分を受け取るように構成された少なくとも1つのプロセッサと、
    を備え、前記少なくとも1つの画像センサの照準は前記少なくとも1つの画像の関数であり、それによって、前記第1のプロセッサが前記受け取った少なくとも1つの画像の少なくとも一部分のピクセルデータの1次導関数を取り、前記ピクセルデータを閾値処理し、前記閾値処理されたピクセルデータの2次導関数を取るように構成されており、
    前記プロセッサは更に、少なくとも1つの画像の少なくとも一部分の関数として少なくとも1つの車線マーカを検出するように構成されている、
    ことを特徴とする装置。
  14. 前記画像センサの照準が前記少なくとも1つ車線マーカの関数であることを特徴とする請求項13に記載の装置。
  15. 固定ハウジングを備えるリアビューミラー組立体として構成された請求項1に記載の装置であって、前記固定ハウジングが、
    イメージャ、自動外部ライト制御モジュール、湿気センサモジュール、コンパスセンサ、コンパス、スピーカ、マイクロフォン、フロントガラスワイパー自動制御装置、デジタル信号プロセッサ、自動デフォッガ制御装置、衝突回避制御装置、車線逸脱警報モジュール、電気光学ミラー要素制御モジュール、補助照明器モジュール、光センサ、及びプロセッサから構成されるグループから選択される少なくとも1つのデバイスを備える、
    ことを特徴とする請求項13に記載の装置。
  16. リアビューミラー組立体として構成された請求項1に記載の装置であって、前記リアビューミラー組立体が、
    イメージャ、自動外部ライト制御モジュール、湿気センサモジュール、コンパスセンサ、コンパス、スピーカ、マイクロフォン、フロントガラスワイパー自動制御装置、デジタル信号プロセッサ、自動デフォッガ制御装置、衝突回避制御装置、車線逸脱警報モジュール、電気光学ミラー要素制御モジュール、補助照明器モジュール、光センサ、及びプロセッサから構成されるグループから選択される少なくとも1つのデバイスを備える、
    ことを特徴とする請求項13に記載の装置。
  17. 自動外部ライト制御システム、湿気感知システム、フロントガラスワイパー制御装置、デフロスター制御装置、デフォッガ制御装置、車線維持システム、車線逸脱警報システム、セキュリティシステム、視野システム、適応走行制御システム、駐車支援システム、死角警報システム、日射感知システム、晴天検出システム、トンネル検出システム、昼間走行ライト制御システム、エアバッグ作動化システム、後方視界システム、乗員検出システム、監視システム、衝突回避システム、事故再現システム、及び画像収集システムから選択されるグループの中の少なくとも1つとして機能するように構成された請求項13に記載の装置。
  18. 少なくとも1つの画像センサと、
    前記少なくとも1つの画像センサの少なくとも一部分から少なくとも1つの画像の少なくとも一部分を受け取るように構成された少なくとも1つのプロセッサと、
    を備え、
    前記少なくとも1つの画像センサの照準が前記少なくとも1つの画像の少なくとも一部分の関数であり、
    前記プロセッサが、
    前記少なくとも1つの画像の少なくとも一部分の少なくとも1つの行の平均を計算し、 前記平均を下回るあらゆるピクセル値に前記平均値を割り当て、
    前記ピクセルの1次導関数を取り、
    ヒストグラム分析を介して前記ピクセルを閾値処理し、
    更に閾値処理されたピクセルの2次導関数を取る、
    ように構成されていることを特徴とする装置。
  19. 固定ハウジングを備えるリアビューミラー組立体として構成された請求項1に記載の装置であって、前記固定ハウジングが、
    イメージャ、自動外部ライト制御モジュール、湿気センサモジュール、コンパスセンサ、コンパス、スピーカ、マイクロフォン、フロントガラスワイパー自動制御装置、デジタル信号プロセッサ、自動デフォッガ制御装置、衝突回避制御装置、車線逸脱警報モジュール、電気光学ミラー要素制御モジュール、補助照明器モジュール、光センサ、及びプロセッサから構成されるグループから選択される少なくとも1つのデバイスを備える、
    ことを特徴とする請求項18に記載の装置。
  20. リアビューミラー組立体として構成された請求項1に記載の装置であって、前記リアビューミラー組立体が、
    イメージャ、自動外部ライト制御モジュール、湿気センサモジュール、コンパスセンサ、コンパス、スピーカ、マイクロフォン、フロントガラスワイパー自動制御装置、デジタル信号プロセッサ、自動デフォッガ制御装置、衝突回避制御装置、車線逸脱警報モジュール、電気光学ミラー要素制御モジュール、補助照明器モジュール、光センサ、及びプロセッサから構成されるグループから選択される少なくとも1つのデバイスを備える、
    ことを特徴とする請求項18に記載の装置。
  21. 自動外部ライト制御システム、湿気感知システム、フロントガラスワイパー制御装置、デフロスター制御装置、デフォッガ制御装置、車線維持システム、車線逸脱警報システム、セキュリティシステム、視野システム、適応走行制御システム、駐車支援システム、死角警報システム、日射感知システム、晴天検出システム、トンネル検出システム、昼間走行ライト制御システム、エアバッグ作動化システム、後方視界システム、乗員検出システム、監視システム、衝突回避システム、事故再現システム、及び画像収集システムから選択されるグループの中の少なくとも1つとして機能するように構成された請求項18に記載の装置。
  22. 少なくとも1つの画像センサと、
    前記少なくとも1つの画像センサから少なくとも1つの画像の少なくとも一部分を受け取るように構成された第1のプロセッサと、
    を備え、前記画像センサの照準が前記少なくとも1つの画像の関数であり、それによって、前記第1のプロセッサが前記受け取った少なくとも1つの画像の少なくとも一部分のピクセルデータの1次導関数を取り、前記ピクセルデータを閾値処理し、前記閾値処理されたピクセルデータの2次導関数を取るように構成されており、
    更に、少なくとも1つの画像の少なくとも一部分の関数として少なくとも1つの車線マーカを検出するように構成された第2のプロセッサを備える、
    ことを特徴とする装置。
  23. 前記画像センサの照準が前記少なくとも1つの車線マーカの関数であることを特徴とする請求項22に記載の装置。
  24. 固定ハウジングを備えるリアビューミラー組立体として構成された請求項1に記載の装置であって、前記固定ハウジングが、
    イメージャ、自動外部ライト制御モジュール、湿気センサモジュール、コンパスセンサ、コンパス、スピーカ、マイクロフォン、フロントガラスワイパー自動制御装置、デジタル信号プロセッサ、自動デフォッガ制御装置、衝突回避制御装置、車線逸脱警報モジュール、電気光学ミラー要素制御モジュール、補助照明器モジュール、光センサ、及びプロセッサから構成されるグループから選択される少なくとも1つのデバイスを備える、
    ことを特徴とする請求項22に記載の装置。
  25. リアビューミラー組立体として構成された請求項1に記載の装置であって、前記リアビューミラー組立体が、
    イメージャ、自動外部ライト制御モジュール、湿気センサモジュール、コンパスセンサ、コンパス、スピーカ、マイクロフォン、フロントガラスワイパー自動制御装置、デジタル信号プロセッサ、自動デフォッガ制御装置、衝突回避制御装置、車線逸脱警報モジュール、電気光学ミラー要素制御モジュール、補助照明器モジュール、光センサ、及びプロセッサから構成されるグループから選択される少なくとも1つのデバイスを備える、
    ことを特徴とする請求項22に記載の装置。
  26. 自動外部ライト制御システム、湿気感知システム、フロントガラスワイパー制御装置、デフロスター制御装置、デフォッガ制御装置、車線維持システム、車線逸脱警報システム、セキュリティシステム、視野システム、適応走行制御システム、駐車支援システム、死角警報システム、日射感知システム、晴天検出システム、トンネル検出システム、昼間走行ライト制御システム、エアバッグ作動化システム、後方視界システム、乗員検出システム、監視システム、衝突回避システム、事故再現システム、及び画像収集システムから選択されるグループの中の少なくとも1つとして機能するように構成された請求項22に記載の装置。
JP2007543170A 2004-11-18 2005-11-14 車両機器制御用の画像収集及び処理システム Expired - Fee Related JP4838261B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US62910804P 2004-11-18 2004-11-18
US60/629,108 2004-11-18
US71060205P 2005-08-23 2005-08-23
US60/710,602 2005-08-23
US71531505P 2005-09-08 2005-09-08
US60/715,315 2005-09-08
PCT/US2005/041318 WO2006055541A2 (en) 2004-11-18 2005-11-14 Improved image acquisition and processing systems for vehicle equipment control

Publications (2)

Publication Number Publication Date
JP2008522881A JP2008522881A (ja) 2008-07-03
JP4838261B2 true JP4838261B2 (ja) 2011-12-14

Family

ID=36407686

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007543170A Expired - Fee Related JP4838261B2 (ja) 2004-11-18 2005-11-14 車両機器制御用の画像収集及び処理システム

Country Status (5)

Country Link
US (2) US7881839B2 (ja)
EP (1) EP1817689B1 (ja)
JP (1) JP4838261B2 (ja)
CA (1) CA2585982C (ja)
WO (1) WO2006055541A2 (ja)

Families Citing this family (85)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030200107A1 (en) * 2002-03-13 2003-10-23 Allen Jeffrey L. System and method for cash management
US7881496B2 (en) * 2004-09-30 2011-02-01 Donnelly Corporation Vision system for vehicle
US8676492B2 (en) * 2006-01-19 2014-03-18 GM Global Technology Operations LLC Map-aided vision-based lane sensing
TWI305728B (en) * 2006-04-26 2009-02-01 Pixart Imaging Inc Interactive wireless game apparatus and wireless peripheral module
JP4258539B2 (ja) 2006-08-31 2009-04-30 株式会社日立製作所 複数画角カメラ
EP1908640B1 (en) * 2006-10-02 2009-03-04 Harman Becker Automotive Systems GmbH Voice control of vehicular elements from outside a vehicular cabin
WO2008091565A1 (en) * 2007-01-23 2008-07-31 Valeo Schalter & Sensoren Gmbh Method and system for universal lane boundary detection
CN101369351A (zh) * 2007-08-14 2009-02-18 深圳富泰宏精密工业有限公司 机动车行驶记录装置
US8017898B2 (en) * 2007-08-17 2011-09-13 Magna Electronics Inc. Vehicular imaging system in an automatic headlamp control system
EP2181416B1 (de) * 2007-08-29 2023-01-25 Valeo Schalter und Sensoren GmbH Verfahren und anordnung zur auswertung von helligkeitswerten in sensorbildern bei bildauswertenden umfelderkennungssystemen
JP2011505284A (ja) * 2007-10-25 2011-02-24 アーデーツエー・オートモテイブ・デイスタンス・コントロール・システムズ・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング 暗がりにおいて車道縁反射体と車両電灯とを区別する方法
US20100209882A1 (en) * 2009-02-18 2010-08-19 Gm Global Technology Operations, Inc. Driving skill recognition based on straight-line driving behavior
EP2539197B1 (en) 2010-02-26 2020-12-16 Gentex Corporation Automatic vehicle equipment monitoring, warning, and control system
DE102010002929A1 (de) * 2010-03-16 2011-09-22 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur automatischen Längsführung eines Kraftfahrzeugs
US9177213B2 (en) * 2010-12-29 2015-11-03 Tomtom Polska Sp. Z O.O. Method and apparatus for use in forming an image
US8433479B2 (en) * 2011-02-09 2013-04-30 Ford Global Technologies, Llc Adaptive front-lighting system with fuzzy logic control
US8814373B2 (en) 2011-02-28 2014-08-26 Gentex Corporation Rearview device support assembly
WO2012118749A1 (en) 2011-02-28 2012-09-07 Gentex Corporation Rearview device support assembly
JP5953658B2 (ja) 2011-05-25 2016-07-20 ソニー株式会社 ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置
US9769430B1 (en) 2011-06-23 2017-09-19 Gentex Corporation Imager system with median filter and method thereof
US9098751B2 (en) 2011-07-27 2015-08-04 Gentex Corporation System and method for periodic lane marker identification and tracking
CN103121422A (zh) * 2011-11-21 2013-05-29 镁骅科技有限公司 行车偏移自动警示装置
US8935057B2 (en) * 2012-01-17 2015-01-13 LimnTech LLC Roadway mark data acquisition and analysis apparatus, systems, and methods
US20130202155A1 (en) * 2012-02-03 2013-08-08 Gopal Gudhur Karanam Low-cost lane marker detection
GB201202344D0 (en) * 2012-02-10 2012-03-28 Isis Innovation Method of locating a sensor and related apparatus
WO2013123133A1 (en) 2012-02-14 2013-08-22 Gentex Corporation High dynamic range imager system
US8543254B1 (en) 2012-03-28 2013-09-24 Gentex Corporation Vehicular imaging system and method for determining roadway width
US8879139B2 (en) 2012-04-24 2014-11-04 Gentex Corporation Display mirror assembly
US8983135B2 (en) 2012-06-01 2015-03-17 Gentex Corporation System and method for controlling vehicle equipment responsive to a multi-stage village detection
US8977439B2 (en) 2012-06-12 2015-03-10 Genetex Corporation Vehicle imaging system providing multi-stage aiming stability indication
DE102012210608A1 (de) * 2012-06-22 2013-12-24 Robert Bosch Gmbh Verfahren und Vorrichtung zum Erzeugen eines Steuerparameters für ein Abstandsassistenzsystem eines Fahrzeugs
US8964024B2 (en) 2012-08-02 2015-02-24 Gentex Corporation System and method for controlling exterior vehicle lights responsive to detection of a semi-truck
US9511708B2 (en) * 2012-08-16 2016-12-06 Gentex Corporation Method and system for imaging an external scene by employing a custom image sensor
RU2571871C2 (ru) * 2012-12-06 2015-12-27 Александр ГУРЕВИЧ Способ определения границ дороги, формы и положения объектов, находящихся на дороге, и устройство для его выполнения
US9122933B2 (en) * 2013-03-13 2015-09-01 Mighty Carma, Inc. After market driving assistance system
US9758099B2 (en) 2013-03-15 2017-09-12 Gentex Corporation Display system and method thereof
EP3036132B1 (en) 2013-08-19 2019-02-27 Gentex Corporation Vehicle imaging system and method for distinguishing reflective objects from lights of another vehicle
US9619720B2 (en) 2013-08-19 2017-04-11 Gentex Corporation Vehicle imaging system and method for distinguishing between vehicle tail lights and flashing red stop lights
WO2015026817A1 (en) 2013-08-19 2015-02-26 Gentex Corporation Imaging system and method with ego motion detection
EP3041712B1 (en) 2013-09-04 2018-11-28 Gentex Corporation A rearview assembly of a vehicle for displaying images
WO2015048162A1 (en) 2013-09-24 2015-04-02 Gentex Corporation Display mirror assembly
EP3052341B1 (en) 2013-10-01 2021-12-01 Gentex Corporation System and method for controlling exterior vehicle lights on motorways
EP3068647B1 (en) 2013-11-15 2023-05-10 Gentex Corporation Imaging system including dynamic compensation for color attenuation for vehicle windscreens
US9205835B2 (en) * 2014-01-30 2015-12-08 Mobileye Vision Technologies Ltd. Systems and methods for detecting low-height objects in a roadway
US9511715B2 (en) 2014-01-31 2016-12-06 Gentex Corporation Backlighting assembly for display for reducing cross-hatching
US10705332B2 (en) 2014-03-21 2020-07-07 Gentex Corporation Tri-modal display mirror assembly
CN106163873B (zh) 2014-04-01 2019-04-26 金泰克斯公司 自动显示镜组件
WO2016044746A1 (en) 2014-09-19 2016-03-24 Gentex Corporation Rearview assembly
WO2016073848A1 (en) 2014-11-07 2016-05-12 Gentex Corporation Full display mirror actuator
WO2016077583A1 (en) 2014-11-13 2016-05-19 Gentex Corporation Rearview mirror system with a display
WO2016090126A2 (en) 2014-12-03 2016-06-09 Gentex Corporation Display mirror assembly
USD746744S1 (en) 2014-12-05 2016-01-05 Gentex Corporation Rearview device
US9744907B2 (en) 2014-12-29 2017-08-29 Gentex Corporation Vehicle vision system having adjustable displayed field of view
US9720278B2 (en) 2015-01-22 2017-08-01 Gentex Corporation Low cost optical film stack
JP6824186B2 (ja) 2015-03-19 2021-02-03 ジェンテックス コーポレイション カメラベースの表示システムのための画像処理
JP2018513810A (ja) 2015-04-20 2018-05-31 ジェンテックス コーポレイション 装飾を備えた後方視認アセンブリ
KR102050315B1 (ko) 2015-05-18 2019-11-29 젠텍스 코포레이션 전면 디스플레이 후방미러 장치
KR102135427B1 (ko) 2015-06-22 2020-07-17 젠텍스 코포레이션 진폭-변조된 광의 깜박임을 보정하기 위해 스트리밍된 비디오 이미지를 처리하는 시스템 및 방법
FR3040934A1 (fr) * 2015-09-15 2017-03-17 Valeo Vision Belgique Feu de signalisation stop sureleve pour vehicule automobile
EP3368375B1 (en) 2015-10-30 2020-03-04 Gentex Corporation Rearview device
USD797627S1 (en) 2015-10-30 2017-09-19 Gentex Corporation Rearview mirror device
USD798207S1 (en) 2015-10-30 2017-09-26 Gentex Corporation Rearview mirror assembly
US10685623B2 (en) 2015-10-30 2020-06-16 Gentex Corporation Toggle paddle
USD800618S1 (en) 2015-11-02 2017-10-24 Gentex Corporation Toggle paddle for a rear view device
US10179583B2 (en) * 2016-03-29 2019-01-15 Ford Global Technologies, Llc Vehicle subsystem coordination and control
USD845851S1 (en) 2016-03-31 2019-04-16 Gentex Corporation Rearview device
WO2017180882A1 (en) 2016-04-14 2017-10-19 Gentex Corporation Camera based headlight control system
USD817238S1 (en) 2016-04-29 2018-05-08 Gentex Corporation Rearview device
US11087486B2 (en) * 2016-05-18 2021-08-10 Panasonic Intellectual Property Management Co., Ltd. Lane specification method and lane specification device
US10025138B2 (en) 2016-06-06 2018-07-17 Gentex Corporation Illuminating display with light gathering structure
CN106228125B (zh) * 2016-07-15 2019-05-14 浙江工商大学 基于集成学习级联分类器的车道线检测方法
WO2018031466A1 (en) 2016-08-08 2018-02-15 Gentex Corporation System and method for processing video data to detect and eliminate flickering light sources through dynamic exposure control
DE102016216205B4 (de) 2016-08-29 2022-08-25 Volkswagen Aktiengesellschaft Navigationsverfahren für selbstfahrende Fahrzeuge
USD809984S1 (en) 2016-12-07 2018-02-13 Gentex Corporation Rearview assembly
USD854473S1 (en) 2016-12-16 2019-07-23 Gentex Corporation Rearview assembly
KR102438097B1 (ko) * 2016-12-30 2022-08-31 젠텍스 코포레이션 차량용 사이드미러 어셈블리
KR20190104990A (ko) 2016-12-30 2019-09-11 젠텍스 코포레이션 즉각 맞춤형 스포터 뷰를 갖는 풀 디스플레이 미러
JP6693893B2 (ja) * 2017-01-16 2020-05-13 株式会社Soken 走路認識装置
US10735638B2 (en) 2017-03-17 2020-08-04 Gentex Corporation Dual display reverse camera system
CN110621543B (zh) 2017-06-08 2022-12-16 金泰克斯公司 具有水平校正的显示装置
CN109271959A (zh) * 2018-09-30 2019-01-25 京东方科技集团股份有限公司 一种车辆偏移预警方法及装置
US11769257B2 (en) 2019-05-30 2023-09-26 Honeywell International Inc. Systems and methods for image aided navigation
CN114555421B (zh) 2019-10-31 2024-03-26 金泰克斯公司 具有成像器组件的可旋转外部镜
CN112896051B (zh) * 2021-03-04 2022-11-04 广州融盛科技有限公司 一种能消除汽车视觉盲区的全景电子后视镜
US11994272B2 (en) 2021-08-20 2024-05-28 Gentex Corporation Lighting assembly and illumination system having a lighting assembly

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0411524A (ja) * 1990-04-28 1992-01-16 Aisin Seiki Co Ltd 車両速度制御装置
JPH0996508A (ja) * 1995-09-29 1997-04-08 Aisin Seiki Co Ltd ステア型撮影装置
JPH11201908A (ja) * 1998-01-16 1999-07-30 Nec Corp 外観検査装置、外観検査方法及び外観検査プログラムを記録した記録媒体
JP2000048183A (ja) * 1998-07-31 2000-02-18 Toyota Central Res & Dev Lab Inc 走行路認識装置
JP2001184512A (ja) * 1999-12-24 2001-07-06 Sanyo Electric Co Ltd 画像処理装置及び方法並びに記録媒体
JP2004258907A (ja) * 2003-02-25 2004-09-16 Nissan Motor Co Ltd 顔部位追跡装置
JP2004310525A (ja) * 2003-04-08 2004-11-04 Toyota Motor Corp 車両用画像処理装置

Family Cites Families (87)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US2632040A (en) 1952-05-01 1953-03-17 Rabinow Jacob Automatic headlight dimmer
US2827594A (en) 1954-09-02 1958-03-18 Rabinow Jacob Color discriminating headlight dimmer
US4139801A (en) 1977-01-26 1979-02-13 Linares Raul F Automatic automobile light control system
US4236099A (en) 1979-03-05 1980-11-25 Irving Rosenblum Automatic headlight system
US4376909A (en) 1979-04-13 1983-03-15 Honda Giken Kogyo Kabushiki Kaisha Automatic light control for automotive vehicles
FR2492748A2 (fr) 1979-11-07 1982-04-30 Massoni Francois Dispositif de commande automatique de l'allumage et de l'extinction des feux d'un vehicule
DE2946561A1 (de) 1979-11-17 1981-05-27 Bosch Gmbh Robert Einrichtung zur automatischen pruefung der lichtverteilung eines kraftfahrzeugscheinwerfers
US6778672B2 (en) * 1992-05-05 2004-08-17 Automotive Technologies International Inc. Audio reception control arrangement and method for a vehicle
US7164117B2 (en) * 1992-05-05 2007-01-16 Automotive Technologies International, Inc. Vehicular restraint system control system and method using multiple optical imagers
US4692798A (en) 1984-01-09 1987-09-08 Nissan Motor Company, Limited Apparatus and process for improving visibility of object within visual field
US4599544A (en) 1984-05-24 1986-07-08 General Motors Corporation Vehicle headlamp beam control
NO850900L (no) 1985-03-06 1986-09-08 Hans Christian Flaaten Anordning for automatisk, selektiv lyskontroll for kjoeretoeyer.
US4662037A (en) * 1985-04-15 1987-05-05 Actief, N.V. Method and apparatus for slitting and providing selvedge by ultrasonic means on hook and loop type fastener tapes
US4891559A (en) 1985-06-13 1990-01-02 Nippondenso Soken, Inc. Apparatus for controlling a headlight of a vehicle
US4665321A (en) 1985-08-14 1987-05-12 Kwangling Chang Automatic control system for automobile lights
DE3601388A1 (de) 1986-01-18 1987-07-23 Bosch Gmbh Robert Scheinwerferanlage fuer fahrzeuge, insbesondere fuer kraftfahrzeuge
US4727290A (en) 1987-05-29 1988-02-23 General Motors Corporation Automatic vehicle headlamp dimming control
US4862037A (en) 1987-12-24 1989-08-29 Ford Motor Company Automatic headlamp dimming system
US4930742A (en) 1988-03-25 1990-06-05 Donnelly Corporation Rearview mirror and accessory mount for vehicles
JPH01278848A (ja) 1988-05-02 1989-11-09 Nissan Motor Co Ltd 車両用前照灯装置
DE3844364C2 (de) 1988-12-30 1996-07-25 Bosch Gmbh Robert Verfahren zur Steuerung der Lichtemission einer Scheinwerferanordnung eines Fahrzeugs und Scheinwerferanordnung zur Durchführung des Verfahrens
US5072154A (en) 1990-03-13 1991-12-10 Chen Min Hsiung Automatic luminosity control device for car and motor bicycle headlamps
US5036437A (en) 1990-09-04 1991-07-30 Lectron Products, Inc. Vehicle lamp control sensor
US5086253A (en) 1990-10-15 1992-02-04 Lawler Louis N Automatic headlight dimmer apparatus
US5124549A (en) 1990-10-15 1992-06-23 Lectron Products, Inc. Automatic headlamp dimmer with optical baffle
US5187383A (en) 1990-11-06 1993-02-16 Alfonse Taccetta Headlight actuator associated with windsheild wiper actuation having delay circuits and daylight detection
US5451822A (en) 1991-03-15 1995-09-19 Gentex Corporation Electronic control system
US5182502A (en) 1991-05-06 1993-01-26 Lectron Products, Inc. Automatic headlamp dimmer
JPH04358410A (ja) * 1991-06-05 1992-12-11 Sumitomo Electric Ind Ltd 表面弾性波素子及びその製造方法
US5416318A (en) 1991-10-03 1995-05-16 Hegyi; Dennis J. Combined headlamp and climate control sensor having a light diffuser and a light modulator
US5235178A (en) 1991-10-03 1993-08-10 Hegyi Dennis J Light sensor with diffuser and eye-like response
GB2267341B (en) 1992-05-27 1996-02-21 Koito Mfg Co Ltd Glare sensor for a vehicle
JP2783079B2 (ja) 1992-08-28 1998-08-06 トヨタ自動車株式会社 ヘッドランプの配光制御装置
US5796094A (en) 1993-02-26 1998-08-18 Donnelly Corporation Vehicle headlight control using imaging sensor
US5550677A (en) 1993-02-26 1996-08-27 Donnelly Corporation Automatic rearview mirror system using a photosensor array
US6396397B1 (en) 1993-02-26 2002-05-28 Donnelly Corporation Vehicle imaging system with stereo imaging
US5434407A (en) 1993-08-23 1995-07-18 Gentex Corporation Automatic rearview mirror incorporating light pipe
US5841126A (en) 1994-01-28 1998-11-24 California Institute Of Technology CMOS active pixel sensor type imaging system on a chip
US5471515A (en) 1994-01-28 1995-11-28 California Institute Of Technology Active pixel sensor with intra-pixel charge transfer
US5666028A (en) 1994-04-06 1997-09-09 Gentex Corporation Automobile headlamp and running light control system
US5537003A (en) 1994-04-08 1996-07-16 Gentex Corporation Control system for automotive vehicle headlamps and other vehicle equipment
BE1008236A3 (nl) * 1994-04-08 1996-02-20 Traficon Nv Verkeersbewakingsinrichting.
US8189825B2 (en) * 1994-05-09 2012-05-29 Breed David S Sound management techniques for vehicles
EP0693397B1 (en) 1994-07-19 2002-09-11 Donnelly Corporation Automatic rearview mirror system with automatic headlight activation
US5812321A (en) 1994-07-19 1998-09-22 Donnelly Corporation Automatic sensitivity adjustment for electro-optic mirror and headlight activation control
FR2726144B1 (fr) 1994-10-24 1996-11-29 Valeo Vision Procede et dispositif d'amelioration de la vision nocturne, notamment pour vehicule automobile
JP3503230B2 (ja) 1994-12-15 2004-03-02 株式会社デンソー 夜間用車両認識装置
US5508592A (en) 1994-12-21 1996-04-16 Osram Sylvania Inc. Method for deflecting the arc of an electrodeless hid lamp
US5614788A (en) 1995-01-31 1997-03-25 Autosmart Light Switches, Inc. Automated ambient condition responsive daytime running light system
US7085637B2 (en) 1997-10-22 2006-08-01 Intelligent Technologies International, Inc. Method and system for controlling a vehicle
DE19603529A1 (de) 1996-02-01 1997-08-07 Bosch Gmbh Robert Fernlichtscheinwerfer für Fahrzeuge
US5912534A (en) 1996-03-18 1999-06-15 Autosmart Light Switches, Inc. Double relay light switching system for providing daytime running lights for vehicles
US6144158A (en) 1996-11-07 2000-11-07 Sensci Corporation Adaptive/anti-blinding headlights
US5811888A (en) 1996-11-12 1998-09-22 Hsieh; Cheng-Tien Automatic vehicle power and headlight controlling device with detecting function of a generator and delayed effect
US6587573B1 (en) 2000-03-20 2003-07-01 Gentex Corporation System for controlling exterior vehicle lights
US6130421A (en) 1998-06-09 2000-10-10 Gentex Corporation Imaging system for vehicle headlamp control
US5923027A (en) 1997-09-16 1999-07-13 Gentex Corporation Moisture sensor and windshield fog detector using an image sensor
US6774988B2 (en) 2002-07-30 2004-08-10 Gentex Corporation Light source detection and categorization system for automatic vehicle exterior light control and method of manufacturing
US6861809B2 (en) 1998-09-18 2005-03-01 Gentex Corporation Headlamp control to prevent glare
US5990469A (en) * 1997-04-02 1999-11-23 Gentex Corporation Control circuit for image array sensors
US6681163B2 (en) 2001-10-04 2004-01-20 Gentex Corporation Moisture sensor and windshield fog detector
US6049171A (en) 1998-09-18 2000-04-11 Gentex Corporation Continuously variable headlamp control
US5837994C1 (en) 1997-04-02 2001-10-16 Gentex Corp Control system to automatically dim vehicle head lamps
US6631316B2 (en) 2001-03-05 2003-10-07 Gentex Corporation Image processing system to control vehicle headlamps or other vehicle equipment
US8120652B2 (en) * 1997-04-02 2012-02-21 Gentex Corporation System for controlling vehicle equipment
US6611610B1 (en) 1997-04-02 2003-08-26 Gentex Corporation Vehicle lamp control
US6008486A (en) 1997-12-31 1999-12-28 Gentex Corporation Wide dynamic range optical sensor
US6445287B1 (en) * 2000-02-28 2002-09-03 Donnelly Corporation Tire inflation assistance monitoring system
DE19861428B4 (de) 1998-03-17 2008-01-10 Robert Bosch Gmbh Optischer Sensor
US6130448A (en) 1998-08-21 2000-10-10 Gentex Corporation Optical sensor package and method of making same
ATE269239T1 (de) 1998-10-12 2004-07-15 Control Devices Inc Umgebungslichtsensor.
US6166698A (en) 1999-02-16 2000-12-26 Gentex Corporation Rearview mirror with integrated microwave receiver
US6486915B2 (en) * 1999-04-20 2002-11-26 Intel Corporation Determining a final exposure setting automatically for a solid state camera without a separate light metering circuit
US6403942B1 (en) 2000-03-20 2002-06-11 Gentex Corporation Automatic headlamp control system utilizing radar and an optical sensor
US6617566B2 (en) 2000-10-04 2003-09-09 Lucent Technologies Inc. Apparatus and method for optical pattern detection
JP3690283B2 (ja) * 2001-01-18 2005-08-31 日産自動車株式会社 車線追従制御装置
ES2391556T3 (es) * 2002-05-03 2012-11-27 Donnelly Corporation Sistema de detección de objetos para vehículo
US7683326B2 (en) 2002-07-09 2010-03-23 Gentex Corporation Vehicle vision system with high dynamic range
JP4818609B2 (ja) * 2002-08-21 2011-11-16 ジェンテックス コーポレイション 外部車両照明の自動制御のための画像取得及び処理方法
US6788225B2 (en) 2002-12-19 2004-09-07 Sony Corporation System and method for intraframe timing in multiplexed channel
US8045760B2 (en) 2003-02-21 2011-10-25 Gentex Corporation Automatic vehicle exterior light control systems
KR100928056B1 (ko) * 2003-05-19 2009-11-24 젠텍스 코포레이션 핸즈프리 전화기 구성요소를 설치한 백미러 어셈블리
US7446427B2 (en) 2003-05-20 2008-11-04 Gentex Corporation Rearview mirror system for accommodating a rain sensor
US7308341B2 (en) * 2003-10-14 2007-12-11 Donnelly Corporation Vehicle communication system
US6923027B1 (en) 2004-06-17 2005-08-02 Lambert Kuo Cable lock assembly to ensure stable linear movement of the latch bolt
US20060016965A1 (en) 2004-07-23 2006-01-26 Gentex Corporation Optics elements configured for light sensing applications and related methods of manufacturing
US7417221B2 (en) * 2005-09-08 2008-08-26 Gentex Corporation Automotive vehicle image sensor

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0411524A (ja) * 1990-04-28 1992-01-16 Aisin Seiki Co Ltd 車両速度制御装置
JPH0996508A (ja) * 1995-09-29 1997-04-08 Aisin Seiki Co Ltd ステア型撮影装置
JPH11201908A (ja) * 1998-01-16 1999-07-30 Nec Corp 外観検査装置、外観検査方法及び外観検査プログラムを記録した記録媒体
JP2000048183A (ja) * 1998-07-31 2000-02-18 Toyota Central Res & Dev Lab Inc 走行路認識装置
JP2001184512A (ja) * 1999-12-24 2001-07-06 Sanyo Electric Co Ltd 画像処理装置及び方法並びに記録媒体
JP2004258907A (ja) * 2003-02-25 2004-09-16 Nissan Motor Co Ltd 顔部位追跡装置
JP2004310525A (ja) * 2003-04-08 2004-11-04 Toyota Motor Corp 車両用画像処理装置

Also Published As

Publication number Publication date
JP2008522881A (ja) 2008-07-03
EP1817689A2 (en) 2007-08-15
CA2585982A1 (en) 2006-05-26
WO2006055541A2 (en) 2006-05-26
US8065053B2 (en) 2011-11-22
EP1817689A4 (en) 2012-03-07
EP1817689B1 (en) 2014-03-12
US7881839B2 (en) 2011-02-01
CA2585982C (en) 2012-07-10
WO2006055541A3 (en) 2008-01-17
US20060106518A1 (en) 2006-05-18
US20110125374A1 (en) 2011-05-26

Similar Documents

Publication Publication Date Title
JP4838261B2 (ja) 車両機器制御用の画像収集及び処理システム
US8924078B2 (en) Image acquisition and processing system for vehicle equipment control
US10827151B2 (en) Rear obstruction detection
CN104185588B (zh) 用于确定道路宽度的车载成像系统及方法
KR100874461B1 (ko) 차량의 외부 조명 제어 장치 및 차량의 자동 제어 장치
US6822563B2 (en) Vehicle imaging system with accessory control
US9185363B2 (en) Vehicle imaging system and method for categorizing objects using relative motion analysis
US9892331B2 (en) Imaging system and method with ego motion detection
MXPA05001880A (es) Metodos de adquisicion y procesamiento de imagen para control automatico de iluminacion exterior vehicular.
KR101848451B1 (ko) 차량 후미등과 점멸 적색 정지등을 구별하기 위한 차량 촬상 시스템 및 방법
KR20160061411A (ko) 자동차도로 상에서 실외 차량 등을 제어하기 위한 시스템 및 방법
US9511708B2 (en) Method and system for imaging an external scene by employing a custom image sensor
JP7472571B2 (ja) ヘッドライト制御装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100917

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110912

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110929

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141007

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4838261

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees