JP6824186B2 - カメラベースの表示システムのための画像処理 - Google Patents

カメラベースの表示システムのための画像処理 Download PDF

Info

Publication number
JP6824186B2
JP6824186B2 JP2017549230A JP2017549230A JP6824186B2 JP 6824186 B2 JP6824186 B2 JP 6824186B2 JP 2017549230 A JP2017549230 A JP 2017549230A JP 2017549230 A JP2017549230 A JP 2017549230A JP 6824186 B2 JP6824186 B2 JP 6824186B2
Authority
JP
Japan
Prior art keywords
image data
feature
display
view
offset
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017549230A
Other languages
English (en)
Other versions
JP2018514122A (ja
Inventor
トム ビー シャーマン
トム ビー シャーマン
ダニエル ジー マクミラン
ダニエル ジー マクミラン
グレゴリー エス ブッシュ
グレゴリー エス ブッシュ
Original Assignee
ジェンテックス コーポレイション
ジェンテックス コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ジェンテックス コーポレイション, ジェンテックス コーポレイション filed Critical ジェンテックス コーポレイション
Publication of JP2018514122A publication Critical patent/JP2018514122A/ja
Application granted granted Critical
Publication of JP6824186B2 publication Critical patent/JP6824186B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Arrangement of adaptations of instruments
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • B60R2300/605Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint the adjustment being automatic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Studio Devices (AREA)

Description

本開示は概して車両のための表示システムに関し、より詳しくは車両の後方視界をもたらす表示システムに関する。
本開示の一態様によると、車両のための表示システムが開示される。本システムは、車両に対しての後方の視野の画像データを取得するように構成された撮像装置を備える。このシステムは表示デバイスと制御装置を更に備える。表示デバイスは車両の客室内に配置された画面を有する。制御装置は撮像装置及び表示デバイスと通信する。制御装置は画像データを処理して少なくとも一つの特徴を特定するように動作可能である。画像データ内の少なくとも一つの特徴の位置または配向に基づいて、制御装置は、画面上での表示のために、画像データの所望の視界の位置と配向のうちの少なくとも一つを調整する。
本開示の別の態様によると、車両の後方に向けられた視野を表示する方法が開示される。この方法は、視野内の画像データを取得すること、及び画像データを処理して少なくとも一つの特徴を特定することを含む。この方法は、画像データ内の少なくとも一つの特徴の位置または配向に応じて、画像データの所望の視界の位置及び配向のうちの少なくとも一つを調整することを更に含む。所望の視界は車両の後方視界の表示デバイス上に表示される。
本開示の更に別の態様によると、車両の後方に向けられた視野を表示する装置が開示される。その装置は、車両の客室内に配置された画面を有する表示デバイスを備える。その装置は、表示デバイス及び視野内の画像データを取得するように構成された撮像装置と通信する制御装置を更に備える。制御装置は、道路の地平線と消失点のうちの少なくとも一つを特定するために画像データを処理するように動作可能である。地平線及び消失点のうちの少なくとも一つの位置または配向に基づいて、制御装置は、画面上での表示のために、画像データの所望の視界の位置及び配向のうちの少なくとも一つを調整するように動作可能である。
本開示のこれらの及び他の特徴、利点、及び目的は、以下の明細書、請求の範囲、及び添付の図面を参照することにより当業者によって、更に理解されかつ認識されるであろう。
本開示は、詳細な説明及び添付の図面からより十分に理解されるであろう。
表示システムを備えた車両を示す図である。 表示システムを備えた車両を示す図である。 表示システムの撮像装置により取得された場面に対応する画像データの図である。 画像データの所望のまたは最適な視界を表示するために、撮像装置により取得された画像データを調整するように構成された表示デバイスの正面図である。 ディスプレイのための画像データを表示システムにより調整する方法を示すプロセス図である。 本開示による表示システムのブロック線図である。
ここに図解される実施形態は、主として、画像センサシステムとその方法に関連する方法ステップと装置部品との組み合わせに属する。従って、装置の部品及び方法ステップを表すが、適切な場合には、図面中の従前通りのシンボルにより、本開示の実施形態を理解することに関連する特定の詳細だけを示し、本明細書の説明の利益を受ける当業者にとって直ちに明らかである詳細によって、この開示を不明瞭なものとしないようにしている。更に、説明と図面の表現における類似の数字は類似の要素を表している。
この文書において、関係を示す用語、例えば第1及び第2、上部及び底部等は、単に一つの構成要素または動作と他の構成要素または動作を、そのような構成要素または動作の間のそのような関係または順序を必然的に必要としまたは意味することなしに、単に区別するため用いられる。用語「備える」「備えている」またはその何らかの他の変形は非排他的な包含をカバーすることを意図しており、プロセス、方法、物品または要素のリストを含む装置は、それらの要素だけを含むのではなく、明白にリストされていないまたはそのようなプロセス、方法、物品または装置に固有の他の要素を含むことができる。
図1及び図2を参照すると表示システム12を備える車両10が示されている。その表示システム12は、ある場面18に対応する視野16を取得するように構成された撮像装置14を備えている。視野16は、垂直構成要素16A及び水平構成要素16Bを含んでいる。撮像装置14は、視野16に対応する画像データを取得すると共に、その画像データを表示デバイス22上に表示するように構成されている。表示デバイス22は、画像データの所望の視界24または最適な視界が表示デバイス22の画面上に表示されるように調整するように動作可能である。所望の視界24は、少なくとも1つの画像解析技術に基づいて表示システム12の制御装置により特定することができ、かついくつかの実施形態においては、表示デバイス22上での表示のために画像データを最適化するべくユーザの好みを更に取り入れることができる。所望の視界24は、表示デバイス上に表示させるために画像データを移動、拡大縮小、切り取り、及び/または比例調整した視界に対応し得る。
表示デバイス22は、車両10に対して後方に向けられた視界をもたらすように構成された後方視界表示デバイスに対応し得る。この構成において、表示システム12は、車両10の後方の場面に対応して取得された一連の画像を表示するように動作可能である。撮像装置14は、制御装置と通信すると共に、画素情報の形態で画像データを取得するように構成された画素配列を含んでいる。本明細書に述べる様々な実施において、表示システム12は、撮像装置14により取得された画像データを処理すると共に、所望の視界24を特定して表示するために少なくとも一つの画像解析技術を適用するように構成されている。
図1を参照すると、視野16の垂直構成要素16Aを図示する車両10の側面図が示されている。視野16の垂直構成要素16Aの一部に対応する、所望の視界24の垂直構成要素24Aが示されている。所望の視界24は、撮像装置14の視野16の中央焦点28からの角度オフセットとして示される、垂直オフセット26を含むことができる。中央焦点28は、視野16の垂直構成要素16A及び水平構成要素16Bの中心に対応し得る。
図2を参照すると、視野16の水平構成要素16Bを図示する車両10の平面図が示されている。所望の視界24の水平構成要素24Bは、水平構成要素16Bの一部に対応して示されている。水平オフセット30は、視野16の中央焦点28からの角度オフセットとして示されている。
図1及び2に示されるように、垂直オフセット及び水平オフセット26及び30は、少なくとも一つのユーザの好みに基づいて、かつ画像データ内に特定された一つまたは複数の特徴に応じて適用できる。例えば、画像データが画像データ内の垂直の基準点を基準にして常に表示されるように、垂直オフセット26が画像データを垂直方向にオフセットして示されている。この場合、オフセットは、車両10の後部を押し下げているトレーラ31による撮像装置14の角度を修正するために少なくとも部分的に適用できる。水平オフセットは、画像データ内に特定された道路32の消失点及び/または地平線と、ユーザの好みのうちの少なくとも一つに基づいて適用できる。加えて、制御装置は、本明細書において、更に述べるように、所望の視界24を表示するために回転のオフセットを特定して画像データに適用するように動作可能とすることができる。
いくつかの実施形態においては、道路32の表面の変動または変化(例えば起伏、くぼみ、減速バンプ等)により、所望の視界24の垂直構成要素24A及び/または水平構成要素24Bが変化する結果となり得る。このような状況においては、制御装置は、画像データ内の少なくとも一つの特徴を特定し及び/または追跡するように構成できる。制御装置は、少なくとも一つの特徴に基づいて、画像データの所望の視界24の外観を安定させるために所望の視界24の位置及び/または配向を調整できる。例えば、画像データ内の少なくとも一つの特徴の第1フレームから第2フレームへの動きを制御装置が特定する場合、制御装置は、少なくとも一つの特徴の動きを考慮して垂直オフセット26及び/または水平オフセット30を調整できる。
ここで図3及び4を参照すると、撮像装置14により取得された画像データの視野16及び所望の視界24が示されている。図3は、視野16に対応して取得された画像データを示している。所望の視界24は画像データの一部として図3に表示されている。所望の視界はまた表示デバイス22の画面42上に表示されることが図4に示されている。
所望の視界24は、画像データ48内に特定された検出された消失点46を基準とする中央基準点44を有することが示されている。その中央基準点は、視野16の中央焦点28に対応し得る。所望の視界24及び中央基準点44は、表示デバイス22のインタフェース50への入力により定めることができる。中央基準点44は、ユーザの好みとして定めることができるが、それはディスプレイの中央点54に対するディスプレイオフセットとして制御装置のメモリに記憶できる。この構成において、車両10のオペレータは、所望の視界24を定める少なくとも一つのユーザの好みを設定できる。所望の視界24は、道路56の消失点46、地平線62、及び画像データ48内に特定できる様々な特徴に関する、所望の視界24の相対的な水平位置、垂直位置、及び回転として定めることができる。インタフェース50は、表示デバイス22の一部とし、及び/または表示デバイス22の制御装置と通信できる、様々なユーザ入力部及び/または制御部により実施できる。例えば、表示システム12及びインタフェース50は、2015年3月18日に出願された「Proximity control Device for Camera」という名称の米国仮特許出願第62/134,814号において、議論されている要素または特徴のいずれかを実施しあるいは具体化できる。なお、当該文献はこの参照によって、その全体が本願明細書に援用されるものとする。
例えば、制御装置は、消失点46の水平位置のずれを特定するために、画像データ48内の消失点46の水平位置を利用できる。中央基準点44に対する所望の視界の水平オフセット64を決定するために、画像データ48の現在のフレーム内の消失点46の水平位置のずれを、所望の視界24における消失点46の水平位置と比較できる。例えば、道路56のおおよその中央66の位置、道路56の中央ライン70、道路56の少なくとも一つの側部56A及び56B等の追加の特徴は、所望の視界24を達成するために画像データの水平オフセット64を決定すべく、制御装置によって同様に利用できる。
制御装置は、地平線62の垂直位置のずれを特定するために、画像データ48において、特定された地平線62の垂直位置を利用できる。画像データ48の現在のフレームにおける地平線62の垂直位置のずれは、中央基準点44に対する所望の視界24の垂直オフセット74を決定するために、所望の視界24内の地平線62の垂直位置と比較できる。例えば消失点46や画像データ48内に特定できる様々な特徴といった追加の特徴は、所望の視界24を達成するために画像データ48の垂直オフセット74を決定すべく、制御装置によって同様に利用できる。
制御装置は、地平線62の回転のずれを特定するために、画像データ48内に特定された地平線62の相対角度または傾斜を利用することもできる。地平線62の回転のずれは、所望の視界24の回転のオフセット76を決定するために、所望の視界24における地平線62の回転位置または配向と比較できる。例えば道路56の中央ライン70の位置、道路56の少なくとも一つの側部56A及び56B等といった追加の特徴は、所望の視界24を達成するために画像データ48の回転のオフセット76を決定すべく、制御装置によって同様に利用できる。
制御装置は、様々なアルゴリズム及び方法を利用して画像データ内の特徴を特定するように構成できる。例えば、制御装置は、消失点46を特定するために道路56の車線及び部分を特定すべく、アダプティブエッジ検出プロセスを利用するように構成できる。加えて、制御装置は、画像データ48の一連の画素値の勾配閾値を検出することにより、地平線62を検出するために、境界線コントラストアルゴリズムを利用するように構成できる。本明細書においては特定の画像処理方法を議論するが、それらの方法は限定のためにではなく説明のために導入されるものである。このように、本開示は、他に明示的に述べる場合を除き、そのような例示的な実施形態に限定されるものではない。
アダプティブエッジ検出プロセスは、画像データ内の画素位置における勾配を概算するためにエッジ検出マスクを利用できる。ある画素が強度値及び勾配閾値の予め定められた基準を満たす場合、制御装置は、それらの画素を候補車線境界線画素として特定できる。撮像装置14により取得された現在のフレームに対応する画像データが処理されるときに、道路56の車線境界線をモデル化するために最良適合多項式を生成すべく、それらの候補車線境界線画素が利用される。いくつかの実施形態において、最良適合多項式は三次多項式に対応できる。このようにして、候補車線境界線画素は、道路56の側部に対応し得る左側の車線境界線モデル56Aと右側の車線境界線モデル56Bを生成するために利用できる。左側の車線境界線モデル56A及び右側の車線境界線モデル56Bモデルは、画像データ内の消失点46に対応し得る道路56の側部の交点を決定するために用いることができる。
制御装置は、地平線62を特定するために画像データ内の画素群を検出すべく、地平線境界コントラストアルゴリズムを利用できる。各画素群は、画像データ48の空の部分82と地面の部分84の間の境界を含む、画像データ48内で隣接する画素の部分または断片に対応し得る。地平線境界コントラストアルゴリズムは、地平線62の位置を決定するために、空の部分82と地面の部分の間のコントラストを分析できる。そのコントラストは、垂直の勾配を決定するために、画像データ内の垂直の画素強度を計算することによって、分析できる。垂直の勾配は、空の部分82に対応する画素と地面の部分84に対応する画素の強度または画素値の差を取得する。制御装置は、空の部分82と地面の部分84の境界を特定することにより、画像データ48内の地平線62を特定するように動作可能とすることができる。
いくつかの実施形態において、制御装置は、垂直構成要素24A及び/または水平構成要素24Bの位置の変化を安定させ及び/または制限するために、画像データの様々な特徴を特定できる。例えば制御装置は、画像データ内の一つまたは複数の特徴85または対象を検出するように構成できる。それらの特徴は、地平線62、消失点46、木86、道路標識、車両88、及び制御装置によって、画像データの複数の画像フレーム内に検出できる何らかの形態の対象に対応し得る。このようにして、制御装置は、所望の視界の垂直構成要素24A及び/または水平構成要素24Bにおける変化を調整するために、画像データ内の様々な対象を検出するように構成できる。そのような変化は、視野16に対する場面18の急速なまたは段階的な変化に応じるものであり得る。
いくつかの実施形態において、所望の視界24の垂直構成要素24A及び/または水平構成要素24Bの変化は、道路32の表面の変動(例えば起伏、くぼみ、減速バンプ等)により生じ得る。このような状況では、制御装置は、第1フレームから後のフレームへと画像データ内の少なくとも一つの特徴を特定し及び/または追跡するように構成できる。制御装置は、少なくとも一つの特徴に基づいて、画像データ内の所望の視界24の外観を安定させるために、所望の視界24の位置及び/または配向を調整できる。例示的な実施形態において、制御装置は、少なくとも一つの対象の動きを考慮しつつ垂直オフセット26及び/または水平オフセット30を決定しかつ調整するために、一つあるいは複数の対象(例えば木86、車両88等)を検出するように動作可能とすることができる。そのような実施形態において、画像データ内に検出不能である消失点46及び地平線62のうちの一つまたは複数に応じて所望の視界24をオフセットするために、一つまたは複数の対象を制御装置によって選択的に利用できる。
表示システム12において、実施できる様々な検出技術を示すシステムは、Steven G.Hoek他によって、2013年7月11日に出願された「STAND ALONE BLIND SPOT DETECTION SYSTEM」という名称の米国特許出願公開第US2014/0015972A1号、Oliver M.Jeromin他によって、2011年10月17日に出願された「IMAGE ACQUISITION AND PROCESSING SYSTEM FOR VEHICLE EQUIPMENT CONTROL」という名称の米国特許第8,924,078号、Jeremy C.Andrus他によって、2010年2月1日に出願された「DIGITAL IMAGE PROCESSING AND SYSTEMS INCORPORATING THE SAME」という名称の米国特許第8,577,169号、Joseph S.Stam他によって、2011年1月31日に出願された「IMAGE ACQUISITION AND PROCESSING SYSTEMS FOR VEHICLE EQUIPMENT CONTROL」という名称の米国特許第8,065,053B2号、及び、Jeremy A.Schutその他によって、2012年3月28日に出願された「VEHICULAR IMAGING SYSTEM AND METHOD FOR DETERMINING ROADWAY WIDTH」という名称の米国特許第8,543,254B1号に詳細に述べられている。なお、これらの文献はこの参照によって、その全体が本明細書に援用されるものとする。
ここで図5を参照すると、表示システム12による表示のために画像データ48を調整する方法を説明するフローチャート90が示されている。この方法は、撮像装置14により画像データ48を取得し、かつその画像データ48を制御装置に伝達することから開始できる。制御装置の少なくとも一つのプロセッサは、消失点46、地平線62、または画像データ48内に特定できる何らかの他の特徴を決定するために、画像データ48について一つまたは複数の画像処理ステップ92を完了するように構成できる。画像データ48内の特定された特徴は、所望の視界24の水平オフセット64、垂直オフセット74、及び回転のオフセット76のうちのすくなくとも一つを特定するためにプロセッサによって利用できる。
一つまたは複数の画像処理ステップ92は、地平線検出ステップ94、ロール検出ステップ96及び消失点検出ステップ98を含むことができる。画像処理ステップ92において、プロセッサにより特定された特徴に基づいて、プロセッサは、画像データの配向が所望の視界24と一致するように、一つまたは複数の画像修正ステップ102において、画像データを補正するように更に動作可能とすることができる。一つまたは複数のプロセッサは、画像修正ステップ102を処理するように構成された一つまたは複数のモジュールを含むことができる。それらのモジュールは、傾動モジュール104、回動モジュール106、及び左右動モジュール108を含むことができる。
地平線検出ステップ94は、画像データ48の地平線62を検出するように構成できる。少なくとも一つのプロセッサの傾動モジュール104は、画像データ48の現在のフレームにおける地平線62の垂直位置にずれを適用するために、画像データ48内に特定された地平線62の垂直位置を利用できる。地平線62の垂直位置のずれは、中央基準点44に対する所望の視界24の垂直オフセット74を決定するために、所望の視界24の地平線62の垂直位置と比較できる。例えば消失点46や画像データ48内に特定できる様々な特徴といった追加の特徴は、所望の視界24を達成するために画像データの垂直オフセット74を決定すべく、制御装置によって同様に利用できる。
ロール検出ステップ96は、視野16の回転のずれを特定するために、画像データ48内の地平線62の相対角度を特定するように構成できる。一つまたは複数のプロセッサの回動モジュール106は、所望の視界24の回転のオフセット76を決定するために、所望の視界24の地平線62の回転位置を比較することにより地平線62の回転のずれを特定できる。例えば道路56の中央ライン70の位置、道路56の少なくとも一つの側部56A及び56B、等といった追加の特徴は、所望の視界24を達成するために画像データの回転のオフセット76を決定すべく、一つまたは複数のプロセッサによって同様に利用できる。
消失点検出ステップ98は、画像データ48内の消失点46の少なくとも水平位置を決定するために画像データを処理できる。一つまたは複数のプロセッサの左右動モジュール108は、画像データ48の現在のフレームにおける消失点46の水平位置のずれを特定できる。消失点46の水平位置のずれは、中央基準点44に対する所望の視界24の水平オフセット64を決定するために、所望の視界24の消失点46の水平位置と比較できる。例えば道路56のおおよその中央66の位置、道路56の中央ライン70、道路56の少なくとも一つの側部56A及び56B等の追加の特徴は、所望の視界24を達成するために画像データの水平オフセット64を決定すべく、一つまたは複数のプロセッサによって同様に利用できる。
画像修正ステップ102が終了した後、制御装置は、画像データ48の最適なまたは所望の視界24を表示デバイス22に出力できる。先に議論したように、表示デバイス22は、所望の視界24及び/または中央基準点44の位置と倍率を設定するために、ユーザ入力ステップ110において、少なくとも一つの入力を受け入れるように構成されたインタフェース50を含むことができる。所望の視界24及び基準点44はユーザの好みとして定めることができるが、それは画像データの比率及びディスプレイの中央点54に対するディスプレイのオフセットとして制御装置のメモリに記憶できる。この構成において、車両10のオペレータは、所望の視界24を定めるユーザの好みを少なくとも一つ設定できる。所望の視界24は、道路56の消失点46、地平線62、及び画像データ48内に特定できる様々な特徴に関する、所望の視界24の相対的な水平位置、垂直位置、及び回転として定めることができる。
ここで図6を参照すると、表示システム12のブロック図が示されている。撮像装置14は制御装置112と通信することが示されている。撮像装置14の画素配列はCMOSイメージセンサ、例えばCMOSアクティブ画素センサ(APS)または電荷結合デバイス(CCD)に対応できる。画素配列の各画素は、受光センサ、受光センサの配列、または光を捕捉するように構成されたセンサの何らかの群に対応できる。制御装置112は、撮像装置14において、アナログまたはデジタルの形式で供給される画像データ48を処理するように動作可能なプロセッサ114を含むことができる。例えば、制御装置112は、複数のプロセッサ、マルチコアプロセッサ、またはプロセッサ、回路、及び周辺処理デバイスの何らかの組合せとして実施できる。プロセッサは、画像データ48を処理し及び/または修正するように構成された複数のモジュールを含むことができる。モジュールは、傾動モジュール104、回動モジュール106、及び左右動モジュール108を含むことができる。
制御装置112は、メモリ116を更に含むことができる。メモリ116は、様々な形態のメモリ、例えばランダムアクセスメモリ(RAM)、ダイナミックRAM(DRAM)、同期型DRAM(SDRAM)、及びデジタル情報を格納するように構成された他の形態のメモリを含むことができる。メモリ116は、処理のために画像データ48を格納するように構成できる。画像データ48を処理することは、表示デバイス22の画面に出力される画像データ48の位置及び見かけの寸法を調整するために画像データ48を拡大縮小し切り取ることを含む。表示デバイス22は、所望の視界24を表示するように動作可能な画面を含む。その画面は、何らかのディスプレイ、例えば発光ダイオード(LED)ディスプレイ、液晶ディスプレイ(LCD)、有機LED(OLED)ディスプレイに対応できる。いくつかの実施形態において、メモリ116は、複数の所望の視界に対応する複数の利用者プロファイルを格納するように構成できる。所望の視界の各々は、車両10の特定のオペレータに関して制御装置112によって、呼び出すことができる、特定の垂直オフセット、水平オフセット、及び回転のオフセットを含むことができる。
制御装置112は、複数の入力部、例えば速度入力部118及び車両バス120と通信できる。速度入力部118は、スピードメータまたは車両10の速度に対応するデータを測定して伝達するように動作可能な何らかのデバイスにより、車両10の速度を伝達する信号をもたらす。車両バス120は、例えばコントローラエリアネットワーク(CAN)バスといった、何らかの適切な標準的なコミュニケーションバスを用いて実施できる。車両バス120は、様々な追加の情報を制御装置112にもたらすように構成できる。
本明細書に記載されている開示の実施形態を、本明細書に記載されるように、一つまたは複数の従来のプロセッサと、ある種の非プロセッサ回路と共に画像センサシステムの機能のうちのいくつか、ほとんど、あるいは全て及びその方法を実施する一つまたは複数のプロセッサを制御する固有のストアドプログラム命令と、から構成できることは理解されよう。非プロセッサ回路には、信号ドライバ、クロック回路、電源回路、及び/またはユーザ入力デバイスが含まれるが、これらに限定されるものではない。代わりに、いくつかのまたは全ての機能は、ストアドプログラム命令を有しないステートマシンにより、または各機能あるいは機能のいくつかの組合せがカスタムロジックとして実施される一つまたは複数の特定用途向け集積回路(ASIC)において実施できる。もちろん、二つのアプローチの組合せを用いることができる。従って、これらの機能のための方法及び手段を本明細書に記載してきた。更に、本明細書に開示されている概念及び原理によって導かれるときに、例えば利用可能な時間、現在の技術及び経済的な考慮によって、動機付けられるおそらくは著しい努力及び多くの設計的な選択にも関わらず、当業者がそのようなソフトウェア命令やプログラム及びICを最小の実験によって、生成することを容易になし得ることが予想される。
本明細書に明確に記載されていない追加のまたは代わりのやり方で、上に記載した要素を組み合わせ得ることは、当業者により認識されなければならない。本開示の様々な実施の変更は当業者や本開示の教示を適用する人々に生じるであろう。従って、図面に示しかつ上に記載した実施形態は、単に例証を目的としたものであり、均等論を含む特許法の原則に従って解釈される以下の請求の範囲によって、定められる開示の範囲を制限することを意図したものではないことが理解される。

Claims (13)

  1. 車両のための表示システムであって、
    前記車両に対して後方の視界の複数の画像フレームの画像データを取得するように構成された撮像装置と、
    前記車両の客室内に配置された画面を備えた表示デバイスと、及びメモリを有し、前記撮像装置及び前記表示デバイスと通信する制御装置であって、
    所望の視界として前記メモリ内の前記画像データに対して、水平オフセット、垂直オフセット及び回転のオフセットうちの少なくとも1つのユーザが定めたディスブレイオフセットを格納し、該ユーザが定めたディスプレイオフセットは、前記画像データにおいて特定された少なくとも1つの特徴の第1の特徴位置及び第1の特徴配向に関係して定められている、制御装置と、を備え、
    前記制御装置は、前記画像データを処理して前記画像データの前記少なくとも1つの特徴のうちの第2の特徴位置と第2の特徴配向の少なくとも1つを特定し、
    前記第2の特徴位置及び第2の特徴配向のうちの少なくとも一つと、前記メモリ内においてアクセスされる前記ユーザが定めたディスプレイオフセットとを比較し、
    前記ユーザが定めたディスプレイオフセットに対する比較に応答して前記第2の特徴位置及び第2の特徴配向のうちの少なくとも一つを追跡するように、前記撮像装置から受信した前記画像データの表示位置と表示配向の少なくとも一つを調整することによって出力画像を生成し、前記画面に前記出力画像を表示するように構成された、表示システム。
  2. 前記表示デバイスが、後方視界表示デバイスに対応する、請求項1に記載の表示システム。
  3. 前記所望の視界が、後方視界表示デバイスに表示された前記画像データの角度オフセットに対応する、請求項2に記載の表示システム。
  4. 前記少なくとも一つの特徴が、前記車線境界線の方向に基づいて前記画像データ内に特定された道路の消失点をさらに含む、請求項1乃至3のいずれか一項に記載の表示システム。
  5. 前記消失点は、前記画像データの前記所望の視界の水平位置及び垂直位置のうちの少なくとも一つをオフセットするために利用される、請求項4に記載の表示システム。
  6. 前記所望の視界が、前記画像データの垂直構成要素及び水平構成要素のオフセットに対応する、請求項1乃至5のいずれか一項に記載の表示システム。
  7. 車両の後方に向けられた視野を表示する方法であって、
    前記視野内の画像データを取得することと、
    前記画像データを処理して、少なくとも1つの特徴を特定することと、
    画像データに対してユーザが定めたディスブレイオフセットを定めるユーザ入力を受信することと、
    所望の視界として前記メモリ内の前記画像データに対して、水平オフセット、垂直オフセット及び回転のオフセットのうちの少なくとも1つのユーザが定めたディスブレイオフセットを格納し、この場合、該ユーザが定めたディスプレイオフセットは、前記画像データにおいて特定された少なくとも1つの特徴の第1の特徴位置及び第1の特徴配向に関係して定められている、前記格納することと、
    前記少なくとも1つの特徴の第1の特徴の特定された位置を前記少なくとも1つの特徴の第2の特徴の特定された位置と比較することと、
    前記ユーザが定めたディスプレイオフセットに対する前記少なくとも1つの特徴の前記第2の特定された位置の比較に応答して前記第2の特徴位置及び第2の特徴配向のうちの少なくとも一つを追跡するように、前記視野内に取得された前記画像データの所望の視界の表示位置を調整することと、
    前記車両の後方視界表示上に前記所望の視界を表示することと、を含む、方法。
  8. 前記第1の特徴及び前記第2の特徴が、前記画像データ内に特定された道路の消失点及び地平線のうちの少なくとも一つを含む、請求項7に記載の方法。
  9. 前記調整することは、前記画像データ内の前記消失点の位置に基づいて、前記所望の視界の水平位置及び垂直位置のうちの少なくとも一つをオフセットすることを含む、請求項8に記載の方法。
  10. 前記画像データの調整が前記制御装置の複数の画像処理モジュールによって処理され、前記画像処理モジュールが前記撮像装置から受信した前記画像データを移動及び回転して前記所望の視界を生成するように構成されている、請求項1に記載の表示システム。
  11. 前記車線境界線が前記画像データに特定された複数の候補画素に基づいて特定される、請求項4に記載の表示システム。
  12. 前記制御装置がさらに、前記候補画素に基づいて車線境界線モデルを生成し、該車線境界線モデルに基づいて該車線境界線を計算するように構成されている、請求項11に記載の表示システム。
  13. 前記車線境界線モデルは最良適合多項式モデルである、請求項12に記載の表示システム。
JP2017549230A 2015-03-19 2016-03-17 カメラベースの表示システムのための画像処理 Active JP6824186B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562135417P 2015-03-19 2015-03-19
US62/135,417 2015-03-19
PCT/US2016/022905 WO2016149514A1 (en) 2015-03-19 2016-03-17 Image processing for camera based display system

Publications (2)

Publication Number Publication Date
JP2018514122A JP2018514122A (ja) 2018-05-31
JP6824186B2 true JP6824186B2 (ja) 2021-02-03

Family

ID=56919409

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017549230A Active JP6824186B2 (ja) 2015-03-19 2016-03-17 カメラベースの表示システムのための画像処理

Country Status (6)

Country Link
US (1) US11412123B2 (ja)
EP (1) EP3272113B1 (ja)
JP (1) JP6824186B2 (ja)
KR (1) KR102087588B1 (ja)
CN (1) CN107409188B (ja)
WO (1) WO2016149514A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10582125B1 (en) * 2015-06-01 2020-03-03 Amazon Technologies, Inc. Panoramic image generation from video
KR102351496B1 (ko) * 2015-07-24 2022-01-14 삼성전자주식회사 영상 처리 장치 및 그 동작 방법
EP3634809B1 (en) * 2017-06-08 2022-03-16 Gentex Corporation Display device with level correction
JP6958147B2 (ja) * 2017-09-07 2021-11-02 トヨタ自動車株式会社 画像表示装置
CN111284325B (zh) * 2018-12-10 2022-04-15 博泰车联网科技(上海)股份有限公司 车辆、车机设备及其车辆沿途对象详尽信息显示方法
US11594036B2 (en) * 2019-08-21 2023-02-28 Micron Technology, Inc. Advanced driver-assistance system (ADAS) operation utilizing algorithmic skyline detection
WO2021127199A1 (en) * 2019-12-17 2021-06-24 Gentex Corporation System and method for capturing and displaying images from a vehicle/trailer camera
EP4138388A1 (en) * 2021-08-20 2023-02-22 Arlo Technologies, Inc. Modification of camera functionality based on orientation
US11580690B1 (en) * 2021-08-31 2023-02-14 Raytheon Company Horizon-based navigation

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3045760A (en) 1958-11-17 1962-07-24 Camco Inc Storm choke
JPS5918669B2 (ja) * 1978-10-03 1984-04-28 三菱電機株式会社 相関追尾装置
JPH06321011A (ja) 1993-05-17 1994-11-22 Mitsubishi Electric Corp 周辺視野表示装置
JPH0952555A (ja) * 1995-08-11 1997-02-25 Mitsubishi Electric Corp 周辺監視装置
JP4252252B2 (ja) 2002-03-29 2009-04-08 三菱電機株式会社 撮像装置
ATE414380T1 (de) 2002-07-25 2008-11-15 Koninkl Philips Electronics Nv Darstellungsvorrichtung
AU2003298558A1 (en) 2002-08-21 2004-05-04 Gentex Corporation Image acquisition and processing methods for automatic vehicular exterior lighting control
US8326483B2 (en) 2003-02-21 2012-12-04 Gentex Corporation Monitoring and automatic equipment control systems
WO2004106856A1 (ja) * 2003-05-29 2004-12-09 Olympus Corporation ステレオカメラ支持装置、ステレオカメラ支持方法及びキャリブレーション検出装置及びキャリブレーション補正装置並びにステレオカメラシステム
JP3722485B1 (ja) * 2004-05-19 2005-11-30 本田技研工業株式会社 車両用走行区分線認識装置
US20070263301A1 (en) 2004-06-17 2007-11-15 Zohar Agrest System and Method for Automatic Adjustment of Mirrors for a Vehicle
CA2585982C (en) 2004-11-18 2012-07-10 Gentex Corporation Improved image acquisition and processing systems for vehicle equipment control
JP2006217447A (ja) * 2005-02-07 2006-08-17 Yazaki Corp 車両用表示装置
JP4453775B2 (ja) 2008-06-27 2010-04-21 トヨタ自動車株式会社 物体検出装置
WO2010080610A1 (en) * 2008-12-19 2010-07-15 Delphi Technologies, Inc. Electronic side view display system
US8259174B2 (en) * 2009-02-06 2012-09-04 GM Global Technology Operations LLC Camera auto-calibration by horizon estimation
JP5398408B2 (ja) * 2009-08-07 2014-01-29 オリンパスイメージング株式会社 カメラ、カメラの制御方法、表示制御装置、および表示制御方法
JP5321540B2 (ja) * 2010-06-25 2013-10-23 株式会社Jvcケンウッド 画像補正処理装置、画像補正処理方法、及び画像補正処理プログラム
US8588550B2 (en) 2010-10-04 2013-11-19 Sony Corporation Virtual level for a digital camera
WO2013019707A1 (en) 2011-08-01 2013-02-07 Magna Electronics Inc. Vehicle camera alignment system
WO2013030932A1 (ja) * 2011-08-29 2013-03-07 パイオニア株式会社 ナビゲーション装置、画像表示装置、サーバ、調整装置、及び前方画像表示方法
US9738223B2 (en) * 2012-05-31 2017-08-22 GM Global Technology Operations LLC Dynamic guideline overlay with image cropping
US8977439B2 (en) 2012-06-12 2015-03-10 Genetex Corporation Vehicle imaging system providing multi-stage aiming stability indication
US9177360B2 (en) * 2012-09-11 2015-11-03 Apple Inc. Automatic image orientation and straightening through image analysis
US9445011B2 (en) 2012-10-22 2016-09-13 GM Global Technology Operations LLC Dynamic rearview mirror adaptive dimming overlay through scene brightness estimation
US10322672B2 (en) * 2013-02-28 2019-06-18 Aisin Seiki Kabushiki Kaisha Vehicle control apparatus and program with rotational control of captured image data
US9758099B2 (en) * 2013-03-15 2017-09-12 Gentex Corporation Display system and method thereof
US9674490B2 (en) 2013-04-18 2017-06-06 Magna Electronics Inc. Vision system for vehicle with adjustable cameras
US9073493B1 (en) 2014-04-10 2015-07-07 Qualcomm Incorporated Method and apparatus for adjusting view mirror in vehicle

Also Published As

Publication number Publication date
EP3272113A4 (en) 2018-03-21
EP3272113B1 (en) 2022-05-04
US20160277651A1 (en) 2016-09-22
JP2018514122A (ja) 2018-05-31
WO2016149514A1 (en) 2016-09-22
US11412123B2 (en) 2022-08-09
KR20170120665A (ko) 2017-10-31
EP3272113A1 (en) 2018-01-24
CN107409188B (zh) 2021-06-11
KR102087588B1 (ko) 2020-03-11
CN107409188A (zh) 2017-11-28

Similar Documents

Publication Publication Date Title
JP6824186B2 (ja) カメラベースの表示システムのための画像処理
US10625660B2 (en) Camera based headlight control system
JP5012718B2 (ja) 画像処理装置
JP2017100718A5 (ja)
US20060188130A1 (en) Apparatus and method for normalizing face image used for detecting drowsy driving
US20140071240A1 (en) Free space detection system and method for a vehicle using stereo vision
US10300854B2 (en) Apparatus and method of generating top-view image
JP7247173B2 (ja) 画像処理方法及び装置
JP6032034B2 (ja) 物体検知装置
JP2008027138A (ja) 車両用監視装置
US20170341582A1 (en) Method and device for the distortion-free display of an area surrounding a vehicle
JP2008102620A (ja) 画像処理装置
US11055541B2 (en) Vehicle lane marking and other object detection using side fisheye cameras and three-fold de-warping
JP2013187562A (ja) 車両用後方視界支援装置
KR20180112010A (ko) 자동차의 도로변의 물체를 검출하는 방법, 컴퓨팅 장치, 운전자 보조 시스템 및 자동차
EP3634809B1 (en) Display device with level correction
US11580695B2 (en) Method for a sensor-based and memory-based representation of a surroundings, display device and vehicle having the display device
JP2007182201A (ja) 車線変更支援装置
KR101709009B1 (ko) 어라운드 뷰 왜곡 보정 시스템 및 방법
JP2008230561A (ja) 撮像制御装置および測光領域調整方法
JP6855254B2 (ja) 画像処理装置、画像処理システム、及び、画像処理方法
JP6919740B2 (ja) 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
JP5098982B2 (ja) 顔部位検出装置
JP2017163337A (ja) 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
KR20200061957A (ko) 차량용 영상 표시 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170919

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181203

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191016

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200323

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200727

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200727

C11 Written invitation by the commissioner to file amendments

Free format text: JAPANESE INTERMEDIATE CODE: C11

Effective date: 20200811

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200910

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210112

R150 Certificate of patent or registration of utility model

Ref document number: 6824186

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250