JP4023311B2 - 車両周辺監視装置 - Google Patents

車両周辺監視装置 Download PDF

Info

Publication number
JP4023311B2
JP4023311B2 JP2002370370A JP2002370370A JP4023311B2 JP 4023311 B2 JP4023311 B2 JP 4023311B2 JP 2002370370 A JP2002370370 A JP 2002370370A JP 2002370370 A JP2002370370 A JP 2002370370A JP 4023311 B2 JP4023311 B2 JP 4023311B2
Authority
JP
Japan
Prior art keywords
steering angle
image
vehicle
camera
monitoring device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002370370A
Other languages
English (en)
Other versions
JP2004201223A5 (ja
JP2004201223A (ja
Inventor
一生 登
雅通 中川
悟 増田
政喜 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2002370370A priority Critical patent/JP4023311B2/ja
Publication of JP2004201223A publication Critical patent/JP2004201223A/ja
Publication of JP2004201223A5 publication Critical patent/JP2004201223A5/ja
Application granted granted Critical
Publication of JP4023311B2 publication Critical patent/JP4023311B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、運転者の安全な運転を支援することを目的として、車両に設置したカメラの画像を変形加工して車両周辺の映像を表示する車両周辺監視装置に関するものであり、特に、車両の舵角の検出と予測軌跡の描画をともなう車両周辺監視装置に関するものである。
【0002】
【従来の技術】
近年、車載用のディスプレイ装置の普及やカメラなどの映像機器の低価格化に伴い、カメラによって車両周辺を監視することで安全運転を支援する装置が普及しつつある。
【0003】
上記した従来の車両周辺監視装置の一例としては、車両の後方などの運転者から死角となる部分を映すようにカメラを設置し、舵角センサーで検出した舵角に応じた車両の予想軌跡を計算して、カメラで得られた画像に重畳合成し、車内に設置したディスプレイに表示するという装置がある。(例えば、特許文献1参照。)。
【0004】
また、上記した従来の車両周辺監視装置における舵角検出方法の一例としては、車両の操舵機構にロータリーエンコーダ型のセンサーを設置して前輪の相対的な操舵角の変化量を検出した上で、所定の直進走行状態から操舵の中立位置を検出し、この中立位置と相対的な変化量との関係から、絶対的な舵角を検出する舵角検出装置がある。(例えば、特許文献2参照。)。
【0005】
【特許文献1】
特開昭64−14700号公報
【特許文献2】
特開昭61−28811号公報
【0006】
【発明が解決しようとする課題】
しかしながら、上記した車両周辺監視装置では、予想軌跡を得るために舵角センサーが必要であり、車両の操舵機構に舵角センサーを設置するのが困難であったり、舵角センサーの分だけ価格が高くなるという課題を有していた。
【0007】
また、上記した車両周辺監視装置における舵角検出方法では、一般的に用いられているロータリーエンコーダ型のセンサーが相対的な角度を検出するセンサーであることから、電源投入直後から舵角の中点位置が検出されるまでの間、舵角が求まらないという問題を有していた。さらに、上記の課題に対応するため、電源断時に舵角を保存しておき、電源投入直後は保存された舵角を用いる舵角検出方法も知られているが、電源断時に舵角が変わった場合に誤った舵角を出力するという、別の課題を有していた。
【0008】
本発明は上記問題点に鑑み、その第1の目的は、舵角センサーを不要にすることで、設置が簡便かつ安価な車両周辺監視装置を提供することにある。
【0009】
また、本発明の第2の目的は、常に絶対舵角を出力することが可能な舵角検出方法を提供することにある。
【0010】
【課題を解決するための手段】
上記課題を解決する本発明の車両周辺監視装置は、車両に設置されたカメラで撮影した画像を車内に設置したディスプレイに表示する車両周辺監視装置であって、前記カメラで撮影された操舵輪の画像から舵角を算出するとともに、舵角センサーで検出された相対舵角を入力し、前記算出された舵角と前記相対舵角との関係から新たに舵角を算出して出力する舵角検出手段と、前記算出した舵角から車両の予測軌跡を算出し、前記ディスプレイに、前記カメラで撮影した画像と算出した車両の予測軌跡とを重畳合成して出力する予測軌跡画像合成手段とを備えることを特徴とする。
【0011】
好ましくは、舵角検出手段は、画像から舵角を算出する際の評価値を用いて、舵角センサーから入力された相対舵角を補正して、新たな舵角を算出することを特徴とする。
【0012】
好ましくは、舵角検出手段は、予め記憶した画像の前輪テンプレートとカメラで撮影した操舵角とのマッチングを行い、舵角を算出するとともに、前記マッチング処理の評価値が所定のしきい値よりも悪い場合に画像から算出した舵角を出力し、前記マッチング処理の評価値が所定のしきい値よりも良い場合に舵角センサーで検出された相対舵角を用いて、舵角を補正した舵角を出力することを特徴とする。
【0013】
上記した構成によって、電源投入直後や電源断時の操舵などの状況に関わらず、常に絶対舵角を出力することが可能になる。
【0014】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を参照して説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態における車両周辺監視装置の構成図である。図1において101は画像を取り込むカメラであり、102はカメラ101で撮影された画像から操舵輪の舵角を算出する舵角検出手段であり、103はカメラ101で撮影された画像と舵角検出手段102で検出された舵角を入力として、画像上に車両の予測軌跡を重畳描画する予測軌跡画像合成手段であり、104は画像を表示するディスプレイである。
【0015】
図2は、本発明の第1の実施の形態におけるカメラ設置の例であり、図3は、本発明の第1の実施の形態におけるカメラで撮影された画像の例である。図1のカメラ101は、図2のように車両左側のサイドミラー部に前左下向きに設置されており、撮影される画像には、図3のように車両の操舵輪が写るように設置されているものとする。また、車両に対するカメラの位置や焦点距離、レンズ歪み係数などのカメラパラメタは、あらかじめ計測するなどによって既知であるとする。
【0016】
図4は、舵角検出手段102の処理の概念図である。車両に対するカメラの位置はあらかじめ計測されているため、画像中の車両前輪が写っている前輪領域は、図4中の破線部のように一定の範囲となる。舵角検出手段102は、さまざまな舵角に対応する前輪領域の複数の画像を、前輪テンプレート画像としてあらかじめ記憶しておく。動作時には、入力された画像の前輪領域に対して前輪テンプレート画像とのマッチング処理を行うことで、最も近い前輪テンプレート画像を選択し、選択した前輪テンプレート画像に対応する舵角を出力することで、舵角の検出処理を実現する。
【0017】
図5は、予測軌跡画像合成手段103が出力する表示画像の例である。車両の前後輪間の距離などの車両パラメタはあらかじめ与えられているものとする。予測軌跡画像合成手段103は、舵角検出手段102で検出した舵角とあらかじめ与えられた車両パラメタとカメラパラメタから、車両の予測軌跡を算出して、画像に重畳合成して出力する。
【0018】
以上のように構成された本発明の第1の実施の形態における車両周辺監視装置について、以下図1〜5を用いてその動作を説明する。
【0019】
カメラ101では画像を撮影し、図3のような画像を出力する。舵角検出手段102では、入力された画像の前輪領域と前輪テンプレート画像とのマッチングにより舵角を算出する。予測軌跡画像合成手段103は、算出された舵角に対応する予測軌跡を算出し、画像に重畳合成して図5のような画像を生成し、ディスプレイ104に出力表示する。図5中の車両左前方の点線は、予測軌跡画像合成手段103が重畳合成した予測軌跡である。カメラで撮影された画像に予測軌跡を重畳することで、車両の進行方向の予測が容易になり、結果として運転者の安全な運転を支援することができる。
【0020】
以上のように本実施例によれば、画像に車両前輪を含むようにカメラ101を設置し、前輪の画像から舵角を算出する舵角検出手段102を設けることにより、舵角センサーなどの特別な装置無しで舵角の取得が可能になり、さらに予測軌跡画像合成手段103を設けることにより、予測軌跡の合成表示が可能になる。また、画像を用いた舵角の検出は、ロータリーエンコーダ型の舵角センサーなどのような相対値ではないため、電源投入直後などのさまざまな状況においても、常に絶対舵角として求めることができるという効果がある。
(第2の実施の形態)
図6は、本発明の第2の実施の形態における車両周辺監視装置の構成図である。図6において、図1の第1の実施例の構成図と異なるのは、舵角の相対的な値を出力する舵角センサー605と、カメラ画像を変形加工することであたかも別の視点から見た画像を合成する視点変換手段606を設けたことである。
【0021】
舵角センサー605は、ロータリーエンコーダ型のセンサーをハンドル軸などの操舵機構に設置して、舵角の相対的な値である相対舵角を出力するセンサーであるものとする。また、舵角センサー605が出力する相対舵角は、舵角検出手段103において前輪の画像から算出した舵角よりも精度が高いものとする。
【0022】
視点変換手段606は、あらかじめ得られたカメラの位置および、合成画像の仮想的な視点位置の情報から、撮影された画像を変形加工することで、仮想的な視点位置から見たような画像に変換するものである。その詳細な方法については、「画像処理装置および監視システム」(特開2000−864175号)などに開示されているので、ここでは詳細な説明は省略する。
【0023】
以上のように構成された本発明の第2の実施の形態における車両周辺監視装置について、以下、図6〜7を用いてその動作を説明する。
【0024】
カメラ101では画像を撮影し、図3のような画像を出力する。舵角検出手段102では、カメラ101で撮影された画像を入力として、画像の前輪領域と前輪テンプレート画像とのマッチング処理を行い、最も近い前輪テンプレート画像の舵角を選択する。ここで、マッチング処理の評価値が、あらかじめ定められた閾値よりも悪い場合、すなわち入力された前輪領域画像と前輪テンプレート画像があまり一致していない場合は、画像から算出した舵角をそのまま出力する。逆に、マッチング処理の評価が、あらかじめ定められた閾値よりも良い場合、すなわち入力された前輪領域画像と前輪テンプレート画像があらかじめ定められた基準以上に良く一致している場合、算出された舵角の精度が高いと判断し、この時舵角センサーから入力されている相対舵角を記憶しておき、以降は、舵角センサーが出力する相対舵角を、記録された舵角および相対舵角を用いて補正することで、新たに舵角を算出して出力する。例えば、「相対舵角10.00度のときの舵角が0度」であると記録されているとし、現在の舵角センサーの入力が12.00度であるとすると、新たに舵角を2.00度であると算出して出力する。
【0025】
視点変換手段606は、カメラの画像を仮想的な視点位置から見た視点変換画像を合成して出力し、予測軌跡画像合成手段103は、算出された舵角に対応する予測軌跡を算出し、視点変換画像に重畳合成して図7のような画像を生成し、ディスプレイ104に出力表示する。
【0026】
図7の例では、視点変換手段606は、車両の左前方部を上方から見たような視点変換画像に変換している。また、予測軌跡画像合成手段103では、予想軌跡を図5のような破線ではなく、車両前輪の向きとして合成表示している。カメラで撮影された画像に、タイヤの画像を重畳表示することで、車両の進行方向の予測が容易になり、結果として運転者の安全な運転を支援することができる。さらに、舵角検出手段102において、前輪画像から算出した舵角は、舵角センサーの相対舵角よりも精度が低い場合があるが、このような場合においても、画像から算出された舵角と相対舵角とを組み合わせて舵角を算出することで、常に精度の良い絶対舵角を得ることができる。
【0027】
なお、本発明の実施例において、舵角検出手段はテンプレートマッチング法を用いて、前輪の画像から舵角を算出するとしたが、前輪の画像から舵角を算出する方法であればどのような方法を用いてもよく、例えば、前輪領域画像から輪郭抽出やハフ変換などによって車輪の楕円形状のパラメタを求めて、あらかじめ与えられた楕円形状パラメタと舵角との関係から舵角を算出するとしても、本発明の実施例と同様な効果を得ることができる。
【0028】
なお、本発明の実施例において、カメラはサイドミラーに設置されているものとしたが、カメラの設置位置を制限するものではなく、操舵輪が写るように設置されていれば良い。
【0029】
なお、本発明の実施例において、カメラは1台としたが、カメラを複数台用いても、そのうちの少なくとも1つのカメラに操舵輪の画像が映っていれば良く、さらに視点変換手段および予測軌跡画像合成手段では、複数のカメラからの画像を1つの画像に変形合成した上で予測軌跡を描画するものとしても良く、本発明の実施例と同様な効果を得ることができる。
【0030】
【発明の効果】
本発明によれば、電源投入直後や電源断時に舵角が変わるなどの状況であっても、常に 絶対舵角を出力することが可能な舵角検出方法を提供できる。
【図面の簡単な説明】
【図1】 本発明の第1の実施の形態における車両周辺監視装置の構成図
【図2】 本発明の第1の実施の形態におけるカメラ設置の例の図
【図3】 本発明の第1の実施の形態におけるカメラ画像の例の図
【図4】 本発明の第1の実施の形態における舵角検出手段の処理の概念図
【図5】 本発明の第1の実施の形態における表示画像の例の図
【図6】 本発明の第2の実施の形態における車両周辺監視装置の構成図
【図7】 本発明の第2の実施の形態における表示画像の例の図
【符号の説明】
101 カメラ
102 舵角検出手段
103 予測軌跡画像合成手段
104 ディスプレイ
605 舵角センサー
606 視点変換手段

Claims (4)

  1. 車両に設置されたカメラで撮影した画像を車内に設置したディスプレイに表示する車両周辺監視装置であって前記カメラで撮影された舵輪の画像から舵角を算出するとともに、舵角センサーで検出された相対舵角を入力し、前記算出された舵角と前記相対舵角との関係から新たに舵角を算出して出力する舵角検出手段と、前記算出した舵角から車両の予測軌跡を算出し、前記ディスプレイに、前記カメラで撮影した画像と算出した車両の予測軌跡を重畳合成して出力する予測軌跡画像合成手段とを備える車両周辺監視装置。
  2. 舵角検出手段は、画像から舵角を算出する際の評価値を用いて、舵角センサーから入力された相対舵角を補正して、新たな舵角を算出することを特徴とする請求項1記載の車両周辺監視装置。
  3. 舵角検出手段は、予め記憶した画像の前輪テンプレートとカメラで撮影した操舵角とのマッチングを行い、舵角を算出するとともに、前記マッチング処理の評価値が所定のしきい値よりも悪い場合に画像から算出した舵角を出力し、前記マッチング処理の評価値が所定のしきい値よりも良い場合に舵角センサーで検出された相対舵角を用いて、舵角を補正した舵角を出力することを特徴とする請求項1記載の車両周辺監視装置。
  4. 前記カメラはサイドミラーに設置されていることを特徴とする請求項1から3のいずれかに記載の車両周辺監視装置。
JP2002370370A 2002-12-20 2002-12-20 車両周辺監視装置 Expired - Fee Related JP4023311B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002370370A JP4023311B2 (ja) 2002-12-20 2002-12-20 車両周辺監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002370370A JP4023311B2 (ja) 2002-12-20 2002-12-20 車両周辺監視装置

Publications (3)

Publication Number Publication Date
JP2004201223A JP2004201223A (ja) 2004-07-15
JP2004201223A5 JP2004201223A5 (ja) 2005-10-27
JP4023311B2 true JP4023311B2 (ja) 2007-12-19

Family

ID=32766308

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002370370A Expired - Fee Related JP4023311B2 (ja) 2002-12-20 2002-12-20 車両周辺監視装置

Country Status (1)

Country Link
JP (1) JP4023311B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006248247A (ja) * 2005-03-08 2006-09-21 Alpine Electronics Inc 画像提供装置
JP2008042235A (ja) * 2006-08-01 2008-02-21 Honda Motor Co Ltd 車両用表示装置
JP5132249B2 (ja) * 2007-10-23 2013-01-30 アルパイン株式会社 車載用撮像装置
JP5090126B2 (ja) 2007-10-23 2012-12-05 アルパイン株式会社 車載用撮像装置
US9204108B2 (en) 2009-12-07 2015-12-01 Clarion Co., Ltd. Vehicle periphery monitoring system
JP2013028277A (ja) * 2011-07-28 2013-02-07 Denso Corp 情報入力装置
US9862417B2 (en) 2013-08-28 2018-01-09 Kyocera Corporation Turning angle correction method, turning angle correction device, image-capturing device, and turning angle correction system
JP6023025B2 (ja) * 2013-08-28 2016-11-09 京セラ株式会社 舵角補正方法、舵角補正装置、撮像装置、および舵角補正システム
EP3051807B1 (en) * 2013-09-27 2017-09-06 Nissan Motor Co., Ltd Predicted-route presentation device and predicted-route presentation method
JP6313992B2 (ja) * 2014-02-18 2018-04-18 クラリオン株式会社 牽引車用周囲監視装置
EP3543086A1 (en) * 2018-03-22 2019-09-25 Visteon Global Technologies, Inc. Method for predicting a change in the direction of travel of a vehicle
DE102021211326A1 (de) 2021-10-07 2023-04-13 Zf Friedrichshafen Ag Verfahren und Steuereinheit zum Erfassen einer Radstellung mindestens eines Rades eines Fahrzeugs und Fahrzeug
DE102022205456A1 (de) 2022-05-31 2023-03-02 Zf Friedrichshafen Ag Virtueller Lenksensor für ein Fahrrad
US20230410527A1 (en) 2022-06-20 2023-12-21 Steering Solutions Ip Holding Corporation Roadwheel angle estimation based on camera input

Also Published As

Publication number Publication date
JP2004201223A (ja) 2004-07-15

Similar Documents

Publication Publication Date Title
US8184160B2 (en) Image processor, driving assistance system, and out-of-position detecting method
EP2614997B1 (en) Driving assist apparatus
JP4023311B2 (ja) 車両周辺監視装置
US9105080B2 (en) Method and a system for calibrating an image capture device
JP5729158B2 (ja) 駐車支援装置および駐車支援方法
JP4832321B2 (ja) カメラ姿勢推定装置、車両、およびカメラ姿勢推定方法
EP3150443B1 (en) Display device for vehicle and display method for vehicle
WO2001058164A1 (fr) Ecran de proximite pour vehicule automobile
KR101611194B1 (ko) 차량 주변 이미지 생성 장치 및 방법
JP2008227646A (ja) 障害物検知装置
JP2009126270A (ja) 画像処理装置及び方法、運転支援システム、車両
JP5136256B2 (ja) 駐車支援装置および画像表示方法
JP6471522B2 (ja) カメラパラメータ調整装置
KR102285424B1 (ko) 차량의 사각영역 표시장치 및 그 표시방법
JP4797877B2 (ja) 車両用映像表示装置及び車両周囲映像の表示方法
JP4855884B2 (ja) 車両周辺監視装置
JP7426174B2 (ja) 車両周囲画像表示システム及び車両周囲画像表示方法
WO2015122124A1 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
JP5083137B2 (ja) 運転支援装置
KR101709009B1 (ko) 어라운드 뷰 왜곡 보정 시스템 및 방법
JP4857159B2 (ja) 車両運転支援装置
KR101659606B1 (ko) 뒷바퀴 위치 표시 차량 후진 영상 시스템의 영상 표시 방법
US10986286B2 (en) Image creation device
JP2018113622A (ja) 画像処理装置、画像処理システム、及び、画像処理方法
JP7459607B2 (ja) 表示制御装置、表示制御方法およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050802

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050802

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20050913

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070903

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070911

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070924

R151 Written notification of patent or utility model registration

Ref document number: 4023311

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101012

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111012

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121012

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131012

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees