JP2016220021A - 画像表示装置 - Google Patents

画像表示装置 Download PDF

Info

Publication number
JP2016220021A
JP2016220021A JP2015102707A JP2015102707A JP2016220021A JP 2016220021 A JP2016220021 A JP 2016220021A JP 2015102707 A JP2015102707 A JP 2015102707A JP 2015102707 A JP2015102707 A JP 2015102707A JP 2016220021 A JP2016220021 A JP 2016220021A
Authority
JP
Japan
Prior art keywords
image
optical axis
unit
captured image
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015102707A
Other languages
English (en)
Other versions
JP6380233B2 (ja
Inventor
政義 栢野
Masayoshi Kayano
政義 栢野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2015102707A priority Critical patent/JP6380233B2/ja
Publication of JP2016220021A publication Critical patent/JP2016220021A/ja
Application granted granted Critical
Publication of JP6380233B2 publication Critical patent/JP6380233B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

【課題】車両に搭載されたカメラの光軸の向きがずれた場合にも、後方視野領域を撮像した画像を表示装置に表示させるための技術を提供する。【解決手段】画像表示装置は、車両に搭載され、撮像画像の少なくとも一部を表示部に表示させる。画像取得手段(S310)は、車両に搭載され可動部を動かすことによって光軸の向きを調整可能なカメラ、で撮像された撮像画像を取得する。ずれ量検出手段(S360)は、予め定められたカメラの光軸の向きを初期設定方向として、カメラの光軸の向きの初期設定方向に対するずれ量を検出する。第1の補正手段(S380)は、ずれ量を減少させるようにカメラにおける光軸の向きを変化させる光軸指示を可動部へ出力する。【選択図】図7

Description

本発明は、車両に搭載されたカメラによる撮像画像の少なくとも一部を表示装置に表示させるための技術に関する。
カメラを車両に搭載し、カメラで撮像した画像を表示装置に表示させることにより、運転者の運転操作を支援する技術が知られている。特許文献1には、運転者が車両をバックさせる際に、車両の後方を撮像する後方撮像カメラの画像であって運転者の後方視野領域に対応する画像を、運転者が視認可能な表示装置に表示させる技術が開示されている。
特開2013−238497号公報
しかしながら、特許文献1に記載の技術では、例えば強い振動などの予期せぬ要因によって、走行中に後方撮像カメラの光軸の向きがずれると、後方視野領域を撮像した画像を表示装置に表示させることができないという問題があった。
本発明は、車両に搭載されたカメラの光軸の向きがずれた場合にも、後方視野領域を撮像した画像を表示装置に表示させるための技術を提供することを目的とする。
本発明の一側面は、車両に搭載され、撮像画像の少なくとも一部を表示部に表示させる画像表示装置であって、画像取得手段と、ずれ量検出手段と、第1の補正手段と、を備える。画像取得手段は、車両に搭載され可動部を動かすことによって光軸の向きを調整可能なカメラ、で撮像された撮像画像を取得する。ずれ量検出手段は、予め定められたカメラの光軸の向きを初期設定方向として、カメラの光軸の向きの初期設定方向に対するずれ量を検出する。第1の補正手段は、ずれ量を減少させるようにカメラにおける光軸の向きを変化させる光軸指示を可動部へ出力する。
このような構成では、カメラの光軸の向きの初期設定方向に対するずれ量を減少させるように、可動部が自動でカメラの光軸の向きを変化させる。これによれば、走行中であっても、車両に搭載されたカメラの光軸の向きがずれた場合に自動で光軸の向きが調整されるため、光軸の向きがずれる前と同様に後方視野領域を撮像した画像を表示部に表示させることができる。
なお、各請求項の記載は、可能な限りにおいて任意に組み合わせることができる。この際、一部構成を除外してもよい。
第1実施形態の画像表示システムの概略構成を示す図。 撮像部及び表示部の設置位置を説明する図。 撮像画像の一部が表示部に表示されることを説明する図。 初期設定処理を表すフローチャート。 撮像画像に対する表示枠及び特徴点の位置の一例を示す図。 表示処理を表すフローチャート。 補正処理を表すフローチャート。 補正処理の前後における特徴点の変化を説明する図。 第2実施形態の補正処理を表すフローチャート。
以下に本発明の実施形態を図面と共に説明する。
[1.第1実施形態]
[1−1.構成]
図1に示す画像表示システム1は、車両に搭載されたシステムであって、画像表示制御装置10と、表示部20とを備える。画像表示制御装置10は、車両後方を撮像した撮像画像の少なくとも一部を、無線通信により表示部20へ送信し、表示部20に表示させるための装置である。表示部20は、画像表示制御装置10から無線通信によって送信された画像を車両の乗員に対して表示する装置である。本実施形態では、所謂スマートフォン等の多機能携帯電話が、表示部20の一例として用いられる。
画像表示制御装置10は、撮像部30と、シフトポジション検出部40と、制御部50と、通信部60とを備える。
撮像部30は、可動部31と画像撮像部32とを備え、図2に示すように、一例として車両後方のリアウィンドの上部に設置され、車両の後方、すなわち運転者の後方視野領域の画像を撮像する。なお、撮像部30の設置位置は、これに限るものではなく、車両において運転者の後方視野領域の画像を撮像可能な位置に設置されればよい。
図1に戻り説明を続ける。可動部31は、図示しないが、一例として車両後方のリアウィンドの上部に一方の端部が固定され、他方の端部が画像撮像部32を取り付けるための取付部を有する。この取付部は、一例として、制御部50からの駆動信号に従って、水平方向に駆動する水平可動部と、垂直方向に駆動する垂直可動部とを有する。具体的には、水平可動部及び垂直可動部は、ギアの組合せによって、それぞれ水平方向及び垂直方向へ駆動するように構成される。
水平可動部のギアの位置、垂直可動部のギアの位置については、それぞれ基準となる基準位置が予め定められている。水平可動部におけるギアの基準位置を水平基準位置といい、垂直可動部におけるギアの基準位置を垂直基準位置というものとする。水平可動部におけるギアの位置の水平基準位置に対する変位量、及び、垂直可動部におけるギアの位置の垂直基準位置に対する変位量は、各可動部に取り付けられたエンコーダ311によって検出される。以下では、水平可動部におけるギアの位置の水平基準位置に対する変位量、及び、垂直可動部におけるギアの位置の垂直基準位置に対する変位量を、可動部31の基準位置に対する変位量というものとする。なお、可動部31の構成は、ここで説明した構成に限るものではなく、駆動信号に従って水平方向及び垂直方向に駆動する構成であればよい。
画像撮像部32は、イメージャであり、可動部31の取付部に取り付けられて、取付部と共に水平方向及び垂直方向に動くことができる。画像撮像部32は、制御部50に撮像した画像を表す撮像画像信号を出力する。
シフトポジション検出部40は、車両のシフトポジションがリアであることを検出したときに、リアポジション検出信号を出力する。
制御部50は、CPU51、ROM52、RAM53等を備える周知のマイクロコンピュータであり、撮像部30から取得した撮像画像信号が表す撮像画像に基づいて、運転者による運転を支援するための各種制御処理を実行する。
例えば、制御部50は、撮像部30による撮像画像のうち表示部20に表示させる領域を車両の乗員に設定させる初期設定処理を実行する。また、制御部50は、車両のシフトポジションがリアであることが検出された場合に、撮像部30による撮像画像のうち初期設定処理により設定された領域の画像を表示部20に表示させる表示処理を実行する。また、制御部50は、撮像部30の光軸の向きがずれた場合に、撮像画像のうち初期設定処理により設定された領域と同様の領域の画像を表示部20に表示させるように補正を行う補正処理を実行する。
また、制御部50は、これらの処理の他に、カウント開始指示を取得してからタイマリセット指示を取得するまでの間、所定期間毎に、カウント開始指示を取得してからの経過時間を表す信号を出力するタイマ処理、等を実行する。
通信部60は、制御部50による制御に従って、表示部20に表示させる画像を表す表示画像信号を無線通信によって送信する。
図2示すように、表示部20は、車両の運転席付近に設置される。一例として、表示部20は、図3に示すように、車両前方のダッシュボードの上に設けられた支持台80に設置される。この支持台80は、車両の乗員が表示部20を左右方向及び上下方向に動かすことができるように該表示部20を支持する。支持台80は、表示部20が設置されると制御部50に設置検出信号を出力するように構成される。
図1に戻り説明を続ける。表示部20は、表示通信部21と、ディスプレイ部22と、傾き検出部23と、表示制御部24とを備える。表示通信部21は、通信部60との無線通信によって表示画像信号を受信し、ディスプレイ部22は表示画像信号が表す画像を表示する。傾き検出部23は、支持台80に設置された表示部20が、車両の乗員によって左右方向及び上下方向に動かされた場合に、ディスプレイ部22を含む表示部20全体の傾きの有無及び傾きの大きさを検出するためのセンサ(例えば加速度センサ)を備える。
表示制御部24は、通信部60を介して制御部50から送信された表示画像信号が表す画像をディスプレイ部22に表示させる制御を実行する。また、表示制御部24は、表示部20が支持台80に設置されている間、傾き検出部23の出力(以下、加速度信号として説明する。)を表示通信部21を介して画像表示制御装置10へ無線通信により送信するための制御を実行する。
[1−2.処理]
[1−2−1.初期設定処理]
次に、制御部50のCPU51が実行する初期設定処理について、図4に示すフローチャートを用いて説明する。初期設定処理は、車両の乗員に、支持台80に設置された表示部20の表示面の向き(傾き)を変化させることによって、表示部20に車両の乗員が指定する後方視野領域の画像が表示されるように調整させるための処理である。初期設定処理は、支持台80に表示部20が設置されたことをきっかけとして、すなわち、支持台80からの設置検出信号が検出されたことをきっかけとして、起動される。なお、以下の説明において主語が省略されている場合は、CPU51を主語とする。
はじめに、S(ステップ)100では、撮像部30から撮像画像信号を取得する。なお、以下の説明では、撮像画像信号を取得することを撮像画像を取得する、と記載する。
S110では、撮像画像のうち表示部20に表示させる領域の画像を表す表示画像信号を生成し、通信部60によって、表示部20へ該表示画像信号を送信させる。ここで、撮像画像のうち表示部20に表示させる領域について説明しておく。図3に示すように、本実施形態では、撮像画像90に含まれる表示枠91内の画像を表示部20に表示させる。本実施形態では、撮像画像90に対する表示枠91の位置は予め定められた位置、例えば撮像画像90の中央付近の位置などに固定されているものとして、以下の説明を行う。
S115では、カウント開始指示を出力する。ここで、カウント開始指示とは、CPU51が実行する別処理であるタイマ処理を起動させるための指示を表し、カウント開始指示が出力されると、CPU51が、所定時間毎にカウント開始指示が出力されてからの経過時間の出力を行う。
S120では、表示部20から送信された、表示部20の傾きの有無及び傾きの変化の大きさを表す加速度信号を取得する。
S125では、S120にて取得した加速度信号に基づいて、表示部20の傾きの変化量を算出する。なお、本実施形態では加速度信号に基づいて表示部20の傾きの変化量を算出するが、加速度信号に基づいて傾きの大きさを算出してから傾きの変化量を算出するようにしてもよい。
S130では、S125で算出された傾きの変化量に基づいて、車両の乗員の操作による表示部20の傾き変化の有無を判断する。車両の乗員の操作によって表示部20が傾けられた場合は処理をS135へ移行させ、傾けられなかった場合は処理をS145へ移行させる。
車両の乗員によって表示部20が傾けられた場合に移行するS135では、S125にて算出された傾きの変化の方向と変化量とに応じて、傾きの変化の方向と同様の方向に同様の変化量となるように撮像部30の光軸の向きを変化させる駆動信号を可動部31へ出力する。例えば、S125にて水平方向へ所定量及び垂直方向へ所定量の傾きの変化量が算出されたとする。この場合、該傾きの変化量に応じて傾きの変化と同様の方向に撮像部30の光軸の向きを変化させるように、水平可動部及び垂直可動部を駆動させる駆動信号を可動部31へ出力する。
このように、S120〜S135では、車両の乗員の操作によって表示部20が傾けられた場合に、その傾きの方向と変化量に応じて撮像部30の光軸の向きを変化させることによって、表示部20に表示させる画像を変化させる。つまり、表示枠91に表示させる画像を変化させる。これにより、車両の乗員に、表示部20に表示された画像を確認させながら、撮像部30の光軸の向きを変化させるようにしている。
S140では、タイマリセット指示を出力した後、カウント開始指示を出力し、処理をS120へ移行させ、S120〜S130の一連の処理を繰り返す。ここで、タイマリセット指示とは、CPU51が実行する別処理であるタイマ処理を停止させるための指示を表し、タイマリセット開始指示が出力されると、CPU51が、カウント開始指示が出力されてからの経過時間のリセットを行う(経過時間の値を0に設定する)。
車両の乗員の操作による表示部20の傾きが無かった場合に移行するS145では、車両の乗員による表示部20(表示部20の表示面)の傾きの初期設定が完了したか否かを判断する。具体的には、CPU51による別処理として実行されるタイマ処理により出力される経過時間を取得し、カウント開始指示を出力してからの経過時間が予め定められた初期設定期間以上であった場合に、表示部20の傾きの初期設定が完了したと判断する。車両の乗員は、表示部20の表示面の向きを適切に設定し終えると、その後は表示部20の向きを変化させないと考えられる。
つまり、表示部20の傾きの変化が検出されない状態が継続すると考えられる。初期設定期間は、車両の乗員が表示部20の向きを設定し終えたと判断される程度の期間(例えば、十〜数十(秒))に設定される。初期設定が完了した場合は処理をS150へ移行させ、初期設定が完了していない場合は処理をS120へ移行させる。なお以下では、本ステップにおいて初期設定が完了したと判断されたときを初期設定時といい、初期設定時の撮像部30の光軸の向きを初期期設定方向というものとする。
初期設定が完了したと判断された場合に移行するS150では、撮像画像90における特徴点を検出する。具体的には、撮像画像90における無限遠点を特徴点として検出する。撮像画像90における無限遠点は、例えば、オプティカルフロー等の手法に基づいて検出される。
S155では、撮像特徴点設定位置を特定する。撮像特徴点設定位置は、車両の乗員が表示部20の向き(換言すれば、本実施形態では撮像部30の光軸の向き)の初期設定を完了したときの、撮像画像90に対する特徴点の位置である。ここでは一例として図5に示すように、撮像画像90(90a)の水平方向をx軸、垂直方向をy軸とし、撮像画像90の左下隅を撮像原点Pとして、撮像原点Pの座標を(0、0)とする。そして、撮像原点Pに対する特徴点Gの座標(x1、y1)を、撮像特徴点設定位置として特定する。
S160では、撮像画像90に対する表示枠91の位置を特定する。ここでは一例として図5に示すように、表示枠91(91a)の左下隅を表示枠原点Qとし、撮像画像90(90a)の撮像原点Pに対する表示枠原点Qの座標(x2、y2)を、撮像画像90に対する表示枠91の位置として特定する。
S165では、表示特徴点設定位置を特定する。表示特徴点設定位置は、車両の乗員が表示部20の向きの初期設定を完了したときの、特徴点の表示枠91に対する位置である。ここでは一例として図5に示すように、表示枠原点Qの座標を(0、0)としたときの表示枠原点Qに対する特徴点Gの座標(x1−x2、y1−y2)を、表示特徴点設定位置として特定する。
S170では、基準変位量を特定する。基準変位量は、車両の乗員が表示部20の向きの初期設定を完了したときの可動部31の(ギアの)基準位置に対する変位量、すなわち水平可動部のギアの水平基準位置からの変位量及び垂直可動部のギアの垂直基準位置からの変位量を示す値である。ここでは、水平方向及び垂直方向のギアの基準位置からの変位量を示すエンコーダ311による検出結果を基準変位量として特定する。
S175では、撮像特徴点設定位置、撮像画像90に対する表示枠91の位置、表示特徴点設定位置、基準変位量を、設定情報としてRAM53に記録する。そして、本初期設定処理を終了する。
つまり、初期設定処理では、車両の乗員に、表示部20に表示された画像を確認させながら、表示部20に車両の乗員が指定する後方視野領域の画像が表示されるように撮像部30の光軸の向きを調整させている。
[1−2−2.表示処理]
次に、制御部50のCPU51が実行する表示処理について、図6に示すフローチャートを用いて説明する。表示処理は、初期設定処理によって、撮像部30の光軸の向きの初期設定方向が設定された後に実行される処理である。なお、表示処理は、前述のように撮像画像90に対する表示枠91の位置が設定された後に、実行されてもよい。表示処理は、リアポジション信号が検出されたことをきっかけとして起動される。以下の説明において主語が省略されている場合は、CPU51を主語とする。
はじめに、S210では、撮像部30が撮像した撮像画像を取得する。
S220では、撮像画像90における表示枠91内の画像を表す表示画像信号を生成し、通信部60に該表示画像信号を表示部20へ送信させる。
S230では、シフトポジションがリアであるか否かを判断する。具体的には、リアポジション信号が検出されている場合に、シフトポジションがリアであると判断する。シフトポジションがリアである場合は処理をS210へ移行させ、リアでない場合は、本表示処理を終了する。
つまり、表示処理では、シフトポジションがリアである間、撮像部30から取得された撮像画像90における表示枠91の画像を、表示部20へ送信し続ける。
[1−2−3.補正処理]
次に、制御部50のCPU51が実行する補正処理について、図7に示すフローチャートを用いて説明する。補正処理は、支持台80に表示部20が設置された後であって、リアポジション信号が出力されている間に、繰り返し実行される。
S310では、撮像画像を取得する。
S320では、S310にて取得された撮像画像の中の特徴点Gを検出する。本実施形態では、前述の初期設定処理と同様に、撮像画像中の無限遠点を特徴点Gとして検出する。
S330では、S320で検出された特徴点の撮像画像に対する位置である撮像特徴点位置を特定する。例えば、図5に示すように、取得された撮像画像が撮像画像90bである場合は、撮像画像90bの撮像原点Rを座標(0、0)としたときの特徴点Gの座標が撮像特徴点位置として検出される。また、取得された撮像画像が撮像画像90cである場合は、撮像画像90cの撮像原点Tを座標(0、0)としたときの特徴点Gの座標が撮像特徴点位置として検出される。当然のことながら、撮像画像90b及び撮像画像90cが取得されたときの撮像部30の光軸の向きが初期設定方向に対してずれている場合、撮像画像90b及び撮像画像90cの撮像特徴点位置は、撮像特徴点設定位置とは異なる値となる。
S340では、S320で検出された特徴点Gの表示枠90に対する位置である表示特徴点位置を特定する。例えば、図5に示すように、取得された撮像画像が撮像画像90bである場合は、撮像画像90bにおける表示枠91bの表示枠原点Sを座標(0、0)としたときの特徴点Gの座標が表示特徴点位置として検出される。また、取得された撮像画像が撮像画像90cである場合は、撮像画像90cにおける表示枠91cの表示枠原点Uを座標(0、0)としたときの特徴点Gの座標が表示特徴点位置として検出される。当然のことながら、撮像画像90b及び撮像画像90cが取得されたときの撮像部30の光軸の向きが、初期設定方向に対してずれている場合、撮像画像90b及び撮像画像90cの表示特徴点位置は、表示特徴点設定位置とは異なる値となる。
S350では、RAM53に記録されている設定情報のうち、撮像特徴点設定位置及び表示特徴点設定位置を取得する。
S360では、撮像部30の光軸の向きの初期設定方向に対するずれ量を検出し、検出したずれ量に基づいて、該光軸の向きにずれが生じた否かを判断する。本実施形態では一例として、撮像特徴点設定位置とS330にて特定された撮像特徴点位置との距離をずれ量として検出し、検出したずれ量が予め定められた第1の距離閾値以上である場合に、撮像部30の光軸の向きにずれが生じたと判断する。第1の距離閾値は、例えば、光軸の向きを少しずつずらした前後の撮像画像を車両の乗員に見せて、これらの撮像画像を見た車両の乗員が違和感を覚えたときのずれ量に基づいて設定されてよい。撮像部30の光軸の向きにずれが生じた場合は処理をS370へ移行させ、ずれが生じていない場合は本補正処理を終了する。
撮像部30の光軸の向きにずれが生じた場合に移行するS370では、生じたずれ量を可動部31を駆動させることによって補正可能であるか否かを判断する。本実施形態では一例として、撮像画像90における撮像特徴点設定位置と撮像特徴点位置との距離が第1の距離閾値よりも大きい第2の距離閾値未満である場合に、生じたずれ量を可動部31を駆動させることによって補正可能であると判断する。第2の距離閾値は、例えば、可動部31の可動範囲に基づいて設定されてよい。
第2の距離閾値は、水平方向については、一例として、水平可動部において変位可能なギア数の上限に基づいて設定されてよい。また、第2の距離閾値は、垂直方向については、一例として、垂直可動部において変位可能なギア数の上限に基づいて設定されてよい。つまり、本処理では、可動部31を駆動させることによって生じたずれ量を補正可能と判断された場合は処理をS380へ移行させ、補正不可能と判断された場合は処理をS390へ移行させる。
ずれ量を可動部31を駆動させることによって補正可能と判断された場合に移行するS380では、撮像画像90における撮像特徴点設定位置に対する撮像特徴点位置のずれ量を減少させるように、すなわち初期設定方向に対する撮像部30の光軸の向きのずれを減少させるように、撮像部30の光軸の向きを変化させる指示である駆動信号を可動部31へ出力する。つまり、一例として、図5のように撮像画像90bが取得された場合は、撮撮像画像90bの撮像原点Rを座標(0、0)としたときの特徴点Gの座標である撮像特徴点位置と、撮像原点Pを座標(0、0)としたときの特徴点Gの座標である撮像特徴点設定位置との、x方向及びy方向における差分を算出する。そして、これらの差分を打ち消すように、可動部31の水平可動部及び垂直可動部を駆動させる駆動信号を出力する。
ずれ量を可動部31を駆動させることによって補正不可能と判断された場合に移行するS390では、初期設定方向に対する撮像部30の光軸の向きのずれ量を打ち消す方向に、撮像画像における表示枠の位置を変化させる。具体的には、撮像画像90における表示特徴点設定位置に対する表示特徴点位置のずれ量を小さくするように、撮像画像90における表示枠91の位置を変化させる。
つまり、一例として、図5のように撮像画像90cが取得された場合は、撮撮像画像90cの表示枠原点Uを座標(0、0)としたときの特徴点Gの座標である表示特徴点位置と、表示枠原点Qを座標(0、0)としたときの特徴点Gの座標である表示特徴点設定位置との、x方向及びy方向における差分を算出する。そして、これらのx方向及びy方向の差分を打ち消すように、撮像画像90cにおける表示枠91cの位置を変化させる。
つまり、補正処理では、ずれ量が第2の距離閾値未満である場合に可動部31によって撮像部30の光軸の向きを変化させ(S380)、ずれ量が第2の距離閾値以上である場合に撮像画像90に対する表示枠91の位置を変化させる(S390)。
このように構成された補正処理では、図8に示すように、表示枠91に対する特徴点Gの関係が設定情報が記録された初期設定時と同様となるように、撮像部30の光軸の向き、または撮像画像90に対する表示枠91の位置が補正される。
[1−4.効果]
以上詳述した第1実施形態によれば、以下の効果が得られる。
[1A]走行中であっても、車両に搭載された撮像部30の光軸の向きがずれた場合に自動で光軸の向きが補正される(S380)ため、光軸の向きがずれる前と同様の後方視野領域を撮像した画像を表示部20に表示させることができる。
[1B]撮像部30の光軸の向きを可動部31を駆動させることによって調整できる範囲は、可動部31の構成に基づいて制限される。ただし、この可動部31を駆動させることによって調整できる範囲を大きく超えて撮像部30の光軸の向きがずれる状況も生じ得る。そこで、可動部31を駆動させることによって調整可能な範囲を超えて撮像部30の光軸の向きがずれた場合には、撮像部30の光軸のずれ量を打ち消す方向に、撮像画像90に対する表示枠91の位置を変化させてもよい(S390)。これによれば、仮に、可動部31を駆動させることによって調整可能な範囲を超えて撮像部30の光軸の向きがずれた場合であっても、撮像画像90に対する表示枠91の位置を変化させることによって、光軸の向きがずれる前と同様の後方視野領域を撮像した画像を表示部20に表示させることができる。
[1C]撮像部30の光軸の向きのずれ量に応じて、撮像画像90に対する特徴点Gの位置は変化する。そこで、初期設定時の撮像画像90(90a)に対する特徴点Gの位置(撮像特徴点設定位置)と、撮像部30の光軸の向きのずれの有無を判断する際に取得された撮像画像90(90b、90c)に対する特徴点Gの位置(撮像特徴点位置)とを比較して、ずれ量を検出してもよい。これによれば、撮像画像に基づいて撮像部30の光軸の向きのずれ量を検出することができる。
[1D]撮像部30の光軸の向きのずれ量に応じて、ずれ量が予め設定された基準値(本実施形態では第2の距離閾値)未満である場合(S370;YES)は、可動部31を駆動させることによって撮像部30の光軸の向きを補正して、表示部20に表示させる画像を補正してもよい(S380)。また、ずれ量が基準値(第2の距離閾値)以上である場合(S370;NO)は、画像処理によって表示部20に表示させる画像を補正してもよい(S390)。これによれば、ずれ量の大きさに関係なく、光軸の向きがずれる前と同様の後方視野領域を撮像した画像を表示部20に表示させることができる。
[1E]撮像部30は、表示部20の傾きの変化に応じて撮像部30の光軸の向きを変えるように構成されたものであってもよい。これによれば、表示部20の傾きの変化に応じて撮像部30の光軸の向きが変化するので、車両の乗員が表示部20の画像を確認しながら撮像部30の光軸の向きを調整することができる。
[1F]撮像部30の光軸の向きを調整するために表示部20の傾きを変化させた後、初期設定期間が経過しても表示部20の傾きの変化が検出されなかった場合(S145;YES)、このときの撮像部30の光軸の向きを初期設定方向として設定してもよい。これによれば、ボタン操作等の車両の乗員による特別な操作無しに初期設定方向を設定することができる。ここで、車両の乗員は、支持台80に設置された表示部20を、支持台80から離して再び支持台80に設置し直すことによって、表示部20に表示させる後方視野領域の画像を再調整してもよい。
なお、第1実施形態では、撮像部30がカメラとしての一例に相当し、制御部50が画像表示装置としての一例に相当する。また、S300が変位量取得手段としての処理の一例に相当し、S310が画像取得手段としての処理の一例に相当し、S320が特徴点位置検出手段としての処理の一例に相当し、S330が設定位置取得手段としての処理の一例に相当する。また、S360がずれ量検出手段としての処理の一例に相当し、S370が補正作動手段としての処理の一例に相当し、S380が第1の補正手段としての処理の一例に相当し、S390が第2の補正手段としての処理の一例に相当する。
また、S120が傾き変化取得手段としての処理の一例に相当し、S135が同期指示出力手段としての処理の一例に相当し、S145が初期方向設定手段としての処理の一例に相当し、S160が設定手段としての処理の一例に相当する。また、表示枠が画像枠としての一例に相当し、車両の乗員がユーザとしての一例に相当し、駆動信号が光軸指示、同期指示としての一例に相当し、加速度信号が傾き変化信号の一例に相当し、第2の距離閾値が可動部閾値の一例に相当する。
[2.第2実施形態]
[2−1.構成]
第2実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。
前述した第1実施形態では、撮像部30の光軸の向きのずれ量を撮像画像90に基づいて検出していた(S360、S370)。これに対し、第2実施形態では、撮像部30の光軸の向きのずれ量を可動部31の基準位置に対する変位量に基づいて判断する点で、第1実施形態と相違する。具体的には、図7に示す第1実施形態の補正処理に対して、図9に示す第2実施形態の補正処理では、S300が追加され、S350、S360、S370がそれぞれS351、S361、S371に置換される点が異なる。
[2−2.処理]
第2実施形態の補正処理を図9に示すフローチャートを用いて説明する。
S300では、初期設定手段によって撮像部30の光軸の初期設定方向が特定された後に、エンコーダ311から出力される、可動部31の基準位置に対する変位量を取得する。
S310〜S340は、第1実施形態のS310〜S340と同様の処理を実行する。
S351では、第1実施形態のS350とは異なり、設定情報のうち、表示特徴点設定位置と、基準変位量とを取得する。
S361では、撮像部30の光軸の向きの初期設定方向に対するずれ量を検出し、検出したずれ量に基づいて、該光軸の向きにずれが生じた否かを判断する。本ステップでは、第1実施形態のS160のように撮像画像90に基づいてずれ量を検出するのでは無く、可動部31の(ギアの)基準位置に対する変位量に基づいてずれ量を検出する。具体的には、S300にて取得された可動部31の変位量、すなわち、水平可動部及び垂直可動部のギアの基準位置に対する変位量が、基準変位量が特定されたときと比べてどれだけずれているかをずれ量として検出する。そして、検出されたずれ量が所定の第1の可動閾値以上である場合に、撮像部30の光軸の向きにずれが生じたと判断する。
第1の可動閾値は、例えば、光軸の向きを少しずつずらした前後の撮像画像を車両の乗員に見せて、これらの撮像画像を見た車両の乗員が違和感を覚えたときの、変位量のずれ(差分)に基づいて設定されてよい。第1の可動閾値は、水平可動部及び垂直可動部のそれぞれについて設定される。撮像部30の光軸の向きにずれが生じたと判断された場合は処理をS371へ移行させ、ずれが生じていないと判断された場合は本補正処理を終了する。
S371では、生じたずれ量を可動部31を駆動させることによって補正可能であるか否かを判断する。本ステップでは、第1実施形態のS160のように撮像画像90に基づいて判断するのでは無く、可動部31の(ギアの)基準位置に対する変位量に基づいて判断する。具体的には、S300にて取得された可動部31の変位量、すなわち、水平可動部及び垂直可動部のギアの基準位置に対する変位量が、基準変位量が特定されたときと比べてどれだけずれているかをずれ量として検出し(S361)、このずれ量が、第1の可動閾値よりも大きい第2の可動閾値未満である場合に、生じたずれ量を可動部31を駆動させることによって補正可能であると判断する。
第2の可動閾値は、第1実施形態と同様に、可動部31の可動範囲に基づいて設定されてよい。生じたずれ量を可動部31を駆動させることによって補正可能と判断された場合は処理をS380へ移行させ、補正不可能と判断された場合は処理をS390へ移行させる。
S380〜S390は、第1実施形態のS380〜S390と同様の処理を実行する。
[2−3.効果]
以上詳述した第2実施形態によれば、前述した第1実施形態の効果[1A]〜[1F]と同様の効果に加え、次の効果[2A]が得られる。
[2A]初期設定時の可動部31の基準位置に対する変位量である基準変位量と、撮像部30の光軸の向きのずれの有無を判断する際に取得された可動部31の基準位置に対する変位量とを比較して、差分をずれ量として検出してもよい。これによれば、撮像部30の光軸の向きのずれの有無の判断、及びずれ量の検出が、画像処理に基づいて行われないため、第1実施形態よりもCPU51の処理負荷を低減することができる。
なお、第2実施形態では、S351が基準変位量取得手段としての処理の一例に相当し、S361がずれ量検出手段としての処理の一例に相当する。
[3.他の実施形態]
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。
[3A]上記実施形態では、撮像画像90に対する特徴点Gの位置に基づいて撮像部30の光軸のずれ量を検出した(S360)が、ずれ量の検出はこれに限るものではない。例えば、S360に代えて、表示枠91に対する特徴点Gの位置(表示特徴点位置)に基づいてずれ量を検出し、このずれ量を打ち消すように可動部31を駆動させる指示を出力(S380)してもよい。
[3B]上記実施形態では、多機能携帯電話(所謂スマートフォン)が表示部20として用いられたが、表示部20の構成はこれに限るものではない。例えば、撮像部30からの撮像画像を表示することが可能で、運転者によって上下左右に動かされる可動部を有するようなルームミラーである電子ミラーが、表示部20として用いられてもよい。又、撮像部30からの撮像画像を表示することが可能で、運転者によって上下左右に動かされる可動部を有するようなディスプレイである可動式ディスプレイが、表示部20として用いられてもよい。
[3C]上記実施形態では、撮像部30の撮像画像90が無線通信によって表示部20に送信されていたが、撮像画像90の送信方式はこれに限るものではない。撮像画像90が有線通信によって表示部20に送信されてもよい。
[3D]上記実施形態では撮像画像90における無限遠点を特徴点として用いたが、特徴点はこれに限るものではない。例えば、撮像画像90において、無限遠点以外の特定の点を特徴点としてもよい。また、撮像画像90において、人、車両、白線、道路標識などの予め定められた対象物を特徴点としてもよい。
[3E]車両(具体的には車両における所定の基準点)を基準とした撮像部30の3次元空間での座標位置、ピッチ角、ヨー角及びロール角等の情報をカメラパラメータとしてRAM53に記録し、このカメラパラメータに基づいて可動部31の変位量を検出してもよい。
[3F]上記実施形態は、制御部50は、車両のシフトポジションがリアであることを検出した場合に、表示部20に撮像画像90の一部を表示させるものであった。これに限らず、制御部50は、例えば、方向指示器の出力を検出した場合に、表示部20に撮像画像90の一部(例えば方向指示器が示す方向の自車両後方の画像)を表示させるものであってもよい。
[3G]上記実施形態では、初期設定処理では、撮像画像90に対する表示枠91の位置は予め定められた位置(例えば撮像画像90の中央付近の位置)に固定され、表示部20の傾きの変化に応じて撮像部30による撮像領域を変化させることによって、表示枠91に表示させる画像を変化させていた。ただし、初期設定処理は、これに限らず、撮像部30の光軸の向きが予め定められた向きに固定され、車両の乗員による表示部20の傾きの変化に応じて撮像画像90に対する表示枠91の位置を変化させることによって、表示枠91に表示させる画像を変化させる処理であってもよい。
[3H]上記実施形態では、初期設定処理は、支持台80に表示部20が設置されることをきっかけとして起動したがこれに限るものではなく、表示部20の傾きの変化量が所定値以上検出されたことをきっかけとして起動するものであってもよい。
[3I]上記実施形態における1つの構成要素が有する機能を複数の構成要素として分散させたり、複数の構成要素が有する機能を1つの構成要素に統合したりしてもよい。また、上記実施形態の構成の少なくとも一部を、同様の機能を有する公知の構成に置き換えてもよい。また、上記実施形態の構成の一部を、課題を解決できる限りにおいて省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加、置換等してもよい。なお、特許請求の範囲に記載の文言から特定される技術思想に含まれるあらゆる態様が本発明の実施形態である。
[3J]本発明は、前述した画像表示システム1、画像表示制御装置10、制御部50の他、制御部50を機能させるためのプログラム、このプログラムを記録した媒体、画像表示方法など、種々の形態で実現することができる。
1…画像表示システム 10…画像表示制御装置 20…表示部 30…撮像部 50…制御部 51…CPU。

Claims (7)

  1. 車両に搭載され、撮像画像の少なくとも一部を表示部(20)に表示させる画像表示装置(50)であって、
    前記車両に搭載され可動部を動かすことによって光軸の向きを調整可能なカメラ(30)、で撮像された撮像画像を取得する画像取得手段(S310)と、
    予め定められたカメラの光軸の向きを初期設定方向として、カメラの光軸の向きの初期設定方向に対するずれ量を検出するずれ量検出手段(S360、S361)と、
    前記ずれ量を減少させるようにカメラにおける光軸の向きを変化させる光軸指示を前記可動部へ出力する第1の補正手段(S380)と、
    を備えることを特徴とする画像表示装置。
  2. 請求項1に記載の画像表示装置であって、
    前記撮像画像における領域であって表示部に画像を表示させる際にユーザが予め指定した領域を、前記撮像画像に対する画像枠として設定する設定手段(S160)と、
    前記ずれ量検出手段によって検出されたずれ量に応じて、前記撮像画像に対する画像枠の位置を、前記カメラの光軸のずれ量を打ち消す方向に補正する第2の補正手段(S390)と、
    を備えることを特徴とする画像表示装置。
  3. 請求項2に記載の画像表示装置であって、
    前記画像取得手段は、前記設定手段による画像枠の設定後にも撮像画像を取得し、
    前記設定手段によって画像枠が設定されたときの撮像画像に対する特徴点の位置である特徴点設定位置を取得する設定位置取得手段(S330)と、
    前記設定手段による画像枠の設定後に画像取得手段によって撮像画像が取得されたときの該撮像画像に対する特徴点の位置である特徴点位置を検出する特徴点位置検出手段(S320)と、
    を備え、
    前記ずれ量検出手段(S360)は、前記特徴点設定位置に対する特徴点位置のずれに基づいて、前記ずれ量を検出する
    ことを特徴とする画像表示装置。
  4. 請求項2または請求項3に記載の画像表示装置であって、
    前記ずれ量が予め設定された可動部閾値以上である場合に前記第2の補正手段を作動させ、前記ずれ量が予め設定された可動部閾値未満である場合に前記第1の補正手段を作動させる補正作動手段(S370)
    を備えることを特徴とする画像表示装置。
  5. 請求項2から請求項4のいずれか一項に記載の画像表示装置であって、
    前記設定手段によって画像枠が設定されたときの予め定められた基準位置に対する可動部の位置の変位量を、基準変位量として取得する基準変位量取得手段(S351)と、
    前記設定手段によって前記画像枠が設定された後、前記基準位置に対する可動部の位置の変位量を取得する変位量取得手段(S300)と、
    を備え、
    前記ずれ量検出手段(S361)は、前記変位量取得手段によって取得された変位量の前記基準変位量に対する差分を前記ずれ量として検出する
    ことを特徴とする画像表示装置。
  6. 請求項1から請求項5のいずれか一項に記載の画像表示装置であって、
    ユーザの操作によって傾きが調整されるように構成された表示部において該表示部の傾きの変化方向に応じた傾き変化信号を取得する傾き変化取得手段(S120)と、
    前記可動部へ、前記傾きの変化方向に基づいて、前記撮像画像に対する画像枠の位置を前記傾きの変化方向と同様の方向に変化させるような同期指示を出力する同期指示出力手段(S135)と、
    を備えることを特徴とする画像表示装置。
  7. 請求項6に記載の画像表示装置であって、
    前記同期指示が出力された後、予め定められた初期設定期間の間、前記傾き変化取得手段によって表示部の傾きの変化が検出されなかった場合に、前記同期指示に基づくカメラの光軸の向きを前記初期設定方向として設定する初期方向設定手段(S145)
    を備えることを特徴とする画像表示装置。
JP2015102707A 2015-05-20 2015-05-20 画像表示装置 Expired - Fee Related JP6380233B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015102707A JP6380233B2 (ja) 2015-05-20 2015-05-20 画像表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015102707A JP6380233B2 (ja) 2015-05-20 2015-05-20 画像表示装置

Publications (2)

Publication Number Publication Date
JP2016220021A true JP2016220021A (ja) 2016-12-22
JP6380233B2 JP6380233B2 (ja) 2018-08-29

Family

ID=57581688

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015102707A Expired - Fee Related JP6380233B2 (ja) 2015-05-20 2015-05-20 画像表示装置

Country Status (1)

Country Link
JP (1) JP6380233B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020010166A (ja) * 2018-07-06 2020-01-16 キヤノン株式会社 画像処理装置およびその制御方法、撮像装置、プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0816999A (ja) * 1994-07-05 1996-01-19 Hitachi Ltd 撮像装置を用いた環境認識装置,撮像装置を備えた車両,車両用の撮像装置,撮像装置を用いた車両用の環境認識装置、及び撮像データから環境を認識する方法
JP2007008325A (ja) * 2005-06-30 2007-01-18 Nissan Motor Co Ltd 設置状態判断装置及び方法
JP2009100180A (ja) * 2007-10-16 2009-05-07 Denso Corp 車両後方監視装置
JP2010089745A (ja) * 2008-10-10 2010-04-22 Denso Corp 車載撮像装置の光軸調整システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0816999A (ja) * 1994-07-05 1996-01-19 Hitachi Ltd 撮像装置を用いた環境認識装置,撮像装置を備えた車両,車両用の撮像装置,撮像装置を用いた車両用の環境認識装置、及び撮像データから環境を認識する方法
JP2007008325A (ja) * 2005-06-30 2007-01-18 Nissan Motor Co Ltd 設置状態判断装置及び方法
JP2009100180A (ja) * 2007-10-16 2009-05-07 Denso Corp 車両後方監視装置
JP2010089745A (ja) * 2008-10-10 2010-04-22 Denso Corp 車載撮像装置の光軸調整システム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020010166A (ja) * 2018-07-06 2020-01-16 キヤノン株式会社 画像処理装置およびその制御方法、撮像装置、プログラム
JP7094806B2 (ja) 2018-07-06 2022-07-04 キヤノン株式会社 画像処理装置およびその制御方法、撮像装置、プログラム

Also Published As

Publication number Publication date
JP6380233B2 (ja) 2018-08-29

Similar Documents

Publication Publication Date Title
CA2998600C (en) Vehicular display apparatus and vehicular display method
JP6493361B2 (ja) 車両用装置、車両用プログラム、フィルタ設計プログラム
TWI574224B (zh) An image processing apparatus, an image processing method, a video product processing apparatus, a recording medium, and an image display apparatus
WO2018047400A1 (ja) 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
JP6899875B2 (ja) 情報処理装置、映像表示システム、情報処理装置の制御方法、及びプログラム
JP6291866B2 (ja) 運転支援装置、および運転支援方法
JP5861218B2 (ja) 携帯端末装置、表示制御方法およびプログラム
JPWO2008087707A1 (ja) 車両用画像処理装置及び車両用画像処理プログラム
US20150370415A1 (en) Image display device
JP2009183473A (ja) 視線方向検出装置及び視線方向検出方法
CN1448029A (zh) 校正三维图像的方法和系统
JP2018142884A (ja) 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP6380233B2 (ja) 画像表示装置
US10547815B2 (en) Bird's-eye view video generation device, bird's-eye view video generation method and non-transitory storage medium
JP6407596B2 (ja) 画像処理装置、及び、運転支援システム
JP2017138645A (ja) 視線検出装置
JP2005286938A (ja) 車外情報表示装置
JP2016118400A (ja) ステレオカメラ装置、移動体、制御方法及び較正装置
WO2016157666A1 (ja) カメラ姿勢推定装置、運転支援装置、及び、カメラ姿勢推定方法
KR20160123411A (ko) 차량용 카메라 장치, 및 그의 캘리브레이션 시스템과 방법
JP2017097274A (ja) 表示補正装置
JP5974762B2 (ja) カメラ取り付け誤差補正装置及びカメラ取り付け誤差補正方法
WO2013140702A1 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2019151307A (ja) 駐車エリア検知装置および駐車エリア検知方法
JP2019075687A (ja) 車両用表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170804

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180716

R151 Written notification of patent or utility model registration

Ref document number: 6380233

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees