JP2023174682A - 車両用映像処理装置および車両用映像処理方法 - Google Patents

車両用映像処理装置および車両用映像処理方法 Download PDF

Info

Publication number
JP2023174682A
JP2023174682A JP2023155520A JP2023155520A JP2023174682A JP 2023174682 A JP2023174682 A JP 2023174682A JP 2023155520 A JP2023155520 A JP 2023155520A JP 2023155520 A JP2023155520 A JP 2023155520A JP 2023174682 A JP2023174682 A JP 2023174682A
Authority
JP
Japan
Prior art keywords
vehicle
distortion
road surface
video data
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023155520A
Other languages
English (en)
Inventor
正宏 恩田
Masahiro Onda
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2023155520A priority Critical patent/JP2023174682A/ja
Publication of JP2023174682A publication Critical patent/JP2023174682A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Abstract

【課題】表示領域の車両の周囲の映像を適切に表示する。【解決手段】車両用映像処理装置30は、カメラユニット10が撮影した映像データを取得する映像データ取得部341と、映像データの歪みを歪パラメータを用いて補正して、歪補正映像データを出力する歪補正部343と、映像データに写されている路面領域を検出する路面領域検出部342と、を備え、歪補正部343は、路面領域検出部342が路面を検出できない場合、歪パラメータを変更しない場合の表示領域より広い範囲を表示領域とするように歪パラメータを変更して歪みを補正する。【選択図】図1

Description

本発明は、車両用映像処理装置および車両用映像処理方法に関する。
車両の周囲を撮影した映像データによって、車両の周囲を確認する技術が知られている(例えば、特許文献1参照)。特許文献1に記載の技術は、カーナビゲーションシステムに登録されている見通しの悪い交差点において、カメラの映像をディスプレイに表示させる。
特開平08-293098号公報
例えば、車両が走行している道路に積雪または冠水などが生じている場合、車両に設置された撮影部が撮影した映像データの表示領域を、通常よりも広く表示することが求められる。
本発明は、上記に鑑みてなされたものであって、表示領域の車両の周囲の映像を適切に表示することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る車両用映像処理装置は、車両の周辺を撮影する撮影部が撮影した映像データを取得する映像データ取得部と、前記映像データ取得部が取得した前記映像データの歪みを歪パラメータを用いて補正して、歪補正映像データを出力する歪補正部と、前記映像データ取得部が取得した前記映像データに写されている路面領域を検出する路面領域検出部と、を備え、前記歪補正部は、前記路面領域検出部が路面を検出できない場合、前記歪パラメータを変更しない場合の表示領域より広い範囲を表示領域とするように前記歪パラメータを変更して歪みを補正する、ことを特徴とする。
本発明に係る車両用映像処理方法は、 車両の周辺を撮影する撮影部が撮影した映像データを取得する映像データ取得ステップと、前記映像データ取得ステップで取得した前記映像データの歪みを歪パラメータを用いて補正して、歪補正映像データを出力する歪補正ステップと、前記映像データ取得ステップで取得した前記映像データに写されている路面領域を検出する路面領域検出ステップと、を含み、前記歪補正ステップにおいては、前記路面領域検出ステップで路面が検出できない場合、前記歪パラメータを変更しない場合の表示領域より広い範囲を表示領域とするように前記歪パラメータを変更して歪みを補正する。
本発明によれば、表示領域の車両の周囲の映像を適切に表示することができるという効果を奏する。
図1は、実施形態の車両用映像処理装置の構成例を示すブロック図である。 図2は、車両が平坦な道路を走行する状態を説明する図である。 図3は、車両が平坦な道路を走行する状態を説明する図である。 図4は、車両が平坦な道路を走行する際に、カメラが撮影した映像データの一例を示す図である。 図5は、図4に示す映像データのうち、歪補正処理を行う表示領域の一例を示す図である。 図6は、車両が上りの急勾配を有する道路を走行する状態を説明する図である。 図7は、車両が上りの急勾配を有する道路を走行する状態を説明する図である。 図8は、車両が上りの急勾配を有する道路を走行する際に、カメラが撮影した映像データの一例を示す図である。 図9は、図8に示す映像データのうち、歪補正処理を行う表示領域の一例を示す図である。 図10は、車両が下りの急勾配を有する道路を走行する状態を説明する図である。 図11は、車両が下りの急勾配を有する道路を走行する状態を説明する図である。 図12は、車両が下りの急勾配を有する道路を走行する際に、カメラが撮影した映像データの一例を示す図である。 図13は、図12に示す映像データのうち、歪補正処理を行う表示領域の一例を示す図である。 図14は、実施形態に係る車両用映像処理装置における処理の流れを示すフローチャートである。 図15は、交差道路がカーブしている際に、歪補正処理を行う表示領域の一例を示す図である。 図16は、車両が走行している道路に交差する道路がカーブしている状態を説明する図である。 図17は、車両が雪道を走行する際に、歪補正処理を行う表示領域の一例を示す図である。
以下に添付図面を参照して、本発明に係る車両用映像処理装置、車両用映像処理システム、車両用映像処理方法およびプログラムの実施形態を詳細に説明する。なお、以下の実施形態により本発明が限定されるものではない。
図1は、実施形態の車両用映像処理装置の構成例を示すブロック図である。車両用映像処理システム1は、例えば、低速での走行時、または、駐車時、車両Vの周辺を確認する映像を表示する。車両用映像処理システム1は、車両Vの傾斜角によらず、適切な表示領域の映像を表示する。車両用映像処理システム1は、カメラユニット(撮影部)10と、表示部21と、ヘッドライトスイッチ22と、車速センサ23と、3軸ジャイロセンサ24と、車両用映像処理装置30とを有する。
カメラユニット10は、車両Vの周囲を撮影するカメラを有する。カメラは、複数配置されていてもよい。本実施形態では、カメラユニット10は、前方カメラ11と、右側方カメラ12と、左側方カメラ13と、後方カメラ14とを有する。
前方カメラ11は、車両Vの前方に配置され、車両Vの前方を中心とした周辺を撮影する。前方カメラ11は、超広角、例えば、水平方向に190°程度の撮影範囲を撮影する。前方カメラ11は、撮影した映像を車両用映像処理装置30の映像処理部34へ出力する。
右側方カメラ12は、車両Vの右側方に配置され、車両Vの右側方を中心とした周辺を撮影する。右側方カメラ12は、超広角、例えば、水平方向に190°程度の撮影範囲を撮影する。右側方カメラ12は、撮影した映像を車両用映像処理装置30の映像処理部34へ出力する。
左側方カメラ13は、車両Vの左側方に配置され、車両Vの左側方を中心とした周辺を撮影する。左側方カメラ13は、超広角、例えば、水平方向に190°程度の撮影範囲を撮影する。左側方カメラ13は、撮影した映像を車両用映像処理装置30の映像処理部34へ出力する。
後方カメラ14は、車両Vの後方に配置され、車両Vの後方を中心とした周辺を撮影する。後方カメラ14は、超広角、例えば、水平方向に190°程度の撮影範囲を撮影する。後方カメラ14は、撮影した映像を車両用映像処理装置30の映像処理部34へ出力する。
このような前方カメラ11と右側方カメラ12と左側方カメラ13と後方カメラ14とを含むカメラユニット10で、車両Vの全方位を撮影する。
表示部21は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)または有機EL(Organic Electro-Luminescence)ディスプレイを含むディスプレイである。表示部21は、車両用映像処理システム1の車両用映像処理装置30から出力された映像信号に基づいて、例えば、車両Vの周辺の映像を表示する。表示部21は、車両用映像処理システム1に専用のものであっても、例えば、ナビゲーションシステムを含む他のシステムと共同で使用するものであってもよい。表示部21は、ユーザから視認容易な位置に配置されている。本実施形態では、表示部21は、ダッシュボードの車幅方向の中央部のセンターコンソールに配置されている。
ヘッドライトスイッチ22は、ヘッドライトの点灯と消灯とを検出可能な信号を車両用映像処理装置30のヘッドライト点灯検出部31へ出力する。
車速センサ23は、車両Vの車速を検出する。より詳しくは、車速センサ23は、車両Vの駆動軸またはタイヤに配置されている。車速センサ23は、駆動軸またはタイヤの回転に応じたパルス信号を検出する。車速センサ23は、検出したパルス信号を車両用映像処理装置30の車速検出部32へ出力する。
3軸ジャイロセンサ24は、車両Vが走行する道路の勾配を検出する。3軸ジャイロセンサ24は、車両Vの傾きを検出するセンサである。3軸ジャイロセンサ24は、例えば、車両Vの角速度を検出する。より詳しくは、3軸ジャイロセンサ24は、ロールレートジャイロと、ピッチレートジャイロと、ヨーレートジャイロとを有する。ロールレートジャイロは、車両Vの前後方向を軸とした回転の角速度であるロール角速度を検出する。ピッチレートジャイロは、車両Vの左右方向を軸とした回転の角速度であるピッチ角速度を検出する。ヨーレートジャイロは、車両Vの鉛直方向を軸とした回転の角速度であるヨー角速度を検出する。3軸ジャイロセンサ24は、ロールレートジャイロで検出したロール角速度と、ピッチレートジャイロで検出したピッチ角速度と、ヨーレートジャイロで検出したヨー角速度とを角速度信号として車両用映像処理装置30の傾斜角検出部33へ出力する。
車両用映像処理装置30は、車両Vの周囲を確認する映像を生成して、表示部21に表示させる。車両用映像処理装置30は、記憶部39に記憶されているプログラムをメモリにロードして、プログラムに含まれる命令を実行する。車両用映像処理装置30は、ヘッドライト点灯検出部31と、車速検出部32と、傾斜角検出部33と、映像処理部34と、判定部35と、測光領域制御部36と、表示制御部37と、記憶部39とを有する。
ヘッドライト点灯検出部31は、ヘッドライトスイッチ22から出力された信号から、ヘッドライトが点灯しているか消灯しているかを検出する。ヘッドライトが点灯している場合、前方カメラ11が撮影する前方映像データには、ヘッドライトに照らされた路面が写される。前方映像データに写されたヘッドライトに照らされた路面は、ヘッドライトに照らされていない路面と、色相、明度、彩度、輝度に差異が生じる。ヘッドライト点灯検出部31は、検出結果を判定部35へ出力する。
車速検出部32は、車速センサ23から取得したパルス信号から車両Vの車速を検出する。車速検出部32は、算出した車速を示す車速情報を判定部35へ出力する。
傾斜角検出部33は、車両Vが走行する道路の傾斜角を検出する。本実施形態では、傾斜角検出部33は、3軸ジャイロセンサ24から出力された角速度信号を取得する。傾斜角検出部33は、角速度信号に含まれるロール角速度とピッチ角速度とヨー角速度とから、車両Vの傾きを示す、ロール角とピッチ角とヨー角とを算出する。傾斜角検出部33は、算出したロール角とピッチ角とヨー角とを傾斜角情報として判定部35へ出力する。なお、傾斜角検出部33は、ピッチ角のみを算出して、ピッチ角のみを傾斜角情報として判定部35へ出力してもよい。
映像処理部34は、カメラユニット10が撮影した映像データに基づいて、表示部21に表示させる表示用の映像の表示映像データを生成する。映像処理部34は、映像データ取得部341と、路面領域検出部342と、歪補正部343と、映像生成部344とを有する。
映像データ取得部341は、カメラユニット10が撮影した映像データを取得する。映像データ取得部341は、前方カメラ11が撮影した前方映像データと、右側方カメラ12が撮影した右側方映像データと、左側方カメラ13が撮影した左側方映像データと、後方カメラ14が撮影した後方映像データとを取得する。
路面領域検出部342は、映像データ取得部341が取得した映像データに写されている路面領域を検出する。路面領域とは、映像データに写されている路面の領域である。路面領域は、道路の形状と、道路幅と、道路の奥行とで規定される。本実施形態では、路面領域検出部342は、前方映像データに写されている路面領域を検出するものとして説明する。路面領域検出部342は、車両Vが平坦な道路を走行している場合に検出される路面領域を基準の路面領域として記憶する。基準の路面領域は、車両Vが走行する道路の道路幅ごとに記憶されることが好ましい。路面を検出する方法は、公知のいずれの方法でもよく、限定されない。路面領域検出部342は、ヘッドライト点灯検出部31の検出結果がヘッドライトが点灯していることを示す場合、映像データに写された路面はヘッドライトに照らされているため、映像データの色相、明度、彩度、輝度を補正して路面の路面領域を検出する。
歪補正部343は、映像データ取得部341が取得した超広角の映像データの一部の領域である表示領域の歪みを歪パラメータを用いて補正して、矩形状の歪補正映像データを出力する。歪補正映像データは、前方映像データを補正した前方歪補正映像データと、右側方映像データを補正した右側方歪補正映像データと、左側方映像データを補正した左側方歪補正映像データと、後方映像データを補正した後方歪補正映像データとを含む。前方歪補正映像データと右側方歪補正映像データと左側方歪補正映像データと後方歪補正映像データとの区別を要しない場合、歪補正映像データとして説明する。
歪補正部343は、判定部35が、車両Vの傾斜角が閾値以上であり、車両Vの車速が閾値以下であり、路面領域の面積が閾値以上、変化したと判定する場合、路面領域の面積の変化に応じて、歪パラメータを変更して歪みを補正して、歪補正映像データを出力する。より詳しくは、歪補正部343は、路面領域の面積が基準の路面領域に比べて増加した場合、歪みを補正する表示領域を上側にシフトさせるように、歪パラメータを変更して歪みを補正して、歪補正映像データを出力する。歪補正部343は、路面領域の面積が基準の路面領域に比べて減少した場合、歪みを補正する表示領域を下側にシフトさせるように、歪パラメータを変更して歪みを補正して、歪補正映像データを出力する。
図2ないし図5を用いて、車両Vが平坦な道路を走行している場合の歪補正部343における処理について説明する。図2は、車両が平坦な道路を走行する状態を説明する図である。図3は、車両が平坦な道路を走行する状態を説明する図である。図4は、車両が平坦な道路を走行する際に、カメラが撮影した映像データの一例を示す図である。図5は、図4に示す映像データのうち、歪補正処理を行う表示領域の一例を示す図である。図2、図3に示すように、車両Vが平坦な道路を走行している場合、前方カメラ11が撮影した前方映像データは、例えば、図4に示すようなものとなる。このような前方映像データが基準の映像データとされ、ユーザに映像として視認させる領域を示す表示領域と、歪パラメータとが設定されている。また、この前方映像データから検出される路面領域が、基準の路面領域である。例えば、表示領域は、図中に示した樽型の領域であるA1に設定されている。このような表示領域A1に対して歪みを補正して矩形状の前方歪補正映像データが生成されるように歪パラメータが設定されている。
ここで、前方カメラ11を含むカメラユニット10は超広視野角の映像を撮影している。車両Vの周囲を確認する映像を生成する場合のように、広範囲を確認する用途には、水平方向に全視野角が確保できるように歪みを補正することが望ましい。このような場合、前方との自然な距離感を確保しつつ歪みを補正すると、水平方向とは逆に垂直方向の表示領域は、カメラの撮影範囲の一部の範囲を切り出したようになる。逆に、垂直方向の表示領域をそのまま確保して歪みを補正すると、前方の距離感が実際より遠方に感じられるような違和感のある映像になる。そこで、車両Vの傾斜角によっては、表示される垂直方向の表示領域を調整する必要がある。具体的には、路面領域の増減比率に応じて、カメラの撮影範囲の中心部から上側あるいは下側へ歪みを補正する表示領域をシフトするよう歪パラメータを変更する。
図6ないし図9を用いて、車両Vが上りの急勾配を有する道路を走行している場合の歪補正部343における処理について説明する。図6は、車両が上りの急勾配を有する道路を走行する状態を説明する図である。図7は、車両が上りの急勾配を有する道路を走行する状態を説明する図である。図8は、車両が上りの急勾配を有する道路を走行する際に、カメラが撮影した映像データの一例を示す図である。図9は、図8に示す映像データのうち、歪補正処理を行う表示領域の一例を示す図である。図6、図7に示すように、車両Vが上りの急勾配を有する道路を走行している場合、前方カメラ11が撮影した前方映像データは、例えば、図8に示すようなものとなる。ここでは、上りの急勾配の途中に交差道路R1と交差する交差点があるものとする。交差道路R1を他車両V1が走行している。車両Vが前上がりになる場合、前方カメラ11の撮影範囲が上向きになる。これにより、前方映像データの表示領域における路面領域が減少する。そこで、表示領域における路面領域の位置が適切になるように歪パラメータを変更して、図中に示した樽型の領域であるA2が表示領域となるように歪パラメータを変更する。このように、表示領域A2に対して歪みを補正して前方歪補正映像データを出力する。なお、図中に破線で示した表示領域A1は、歪パラメータを変更しない場合の表示領域である。以下の図においても同様である。
図10ないし図13を用いて、車両Vが下りの急勾配を有する道路を走行している場合の歪補正部343における処理について説明する。図10は、車両が下りの急勾配を有する道路を走行する状態を説明する図である。図11は、車両が下りの急勾配を有する道路を走行する状態を説明する図である。図12は、車両が下りの急勾配を有する道路を走行する際に、カメラが撮影した映像データの一例を示す図である。図13は、図12に示す映像データのうち、歪補正処理を行う表示領域の一例を示す図である。図10、図11に示すように、車両Vが下りの急勾配を有する道路を走行している場合、前方カメラ11が撮影した前方映像データは、例えば、図12に示すようなものとなる。ここでは、下りの急勾配の途中に交差道路R1と交差する交差点があるものとする。交差道路R1を他車両V1が走行している。車両Vが前下がりになる場合、前方カメラ11の撮影範囲が下向きになる。これにより、前方映像データの表示領域における路面領域が増加する。そこで表示領域における路面領域の位置が適切になるように歪パラメータを変更して、図中に示した樽型の領域であるA3が表示領域となるように歪パラメータを変更する。このように、表示領域A3に対して歪みを補正して前方歪補正映像データを出力する。
映像生成部344は、歪補正部343が出力した歪補正映像データに基づいて、車両Vの周辺を確認する表示映像データを生成する。本実施形態では、映像生成部344は、前方歪補正映像データに基づいて、車両Vの前方を確認可能な表示映像データを生成する。
映像生成部344は、歪補正部343が出力した歪補正映像データに基づいて、車両Vを上方から見下ろした仮想自車両画像を含む俯瞰映像の表示映像データを生成してもよい。この場合、映像生成部344は、前方歪補正映像データと右側方歪補正映像データと左側方歪補正映像データと後方歪補正映像データとに視点変換処理および車両Vを示す自車両アイコンを合成する合成処理を行い、車両Vの周囲を表示する俯瞰映像の表示映像データを生成する。俯瞰映像を生成する方法は、公知のいずれの方法でもよく、限定されない。
判定部35は、傾斜角検出部33が検出した車両Vの傾斜角と、路面領域検出部342が検出した路面領域とに基づいて、車両Vの傾斜角と路面領域の面積の閾値に対する変化を判定する。より詳しくは、判定部35は、傾斜角検出部33が検出した車両Vの傾斜角と、車速検出部32が検出した車速と、路面領域検出部342が検出した路面領域とに基づいて、車両Vの傾斜角が閾値以上であり、車両Vの車速が閾値以下であり、路面領域の面積が閾値以上、変化したか否かを判定する。傾斜角の閾値は、例えば、5°程度である。車速の閾値は、例えば、10km/h程度である。路面領域の面積の閾値は、例えば、20%程度である。
路面領域の面積が閾値以上、変化したか否かは、路面領域検出部342が検出した路面領域の面積が、同じ道路幅を有する道路の基準の路面領域の面積に比べて、20%程度以上、増減したか否かで判定する。路面領域検出部342が検出した路面領域の面積が、基準の路面領域の面積に比べて、20%程度以上、増減したと判定する場合、路面領域の面積が閾値以上、変化したと判定する。路面領域検出部342が検出した路面領域の面積が、基準の路面領域の面積に比べて、20%程度以上増減していないと判定する場合、路面領域の面積が閾値以上、変化していないと判定する。
または、路面領域の面積が閾値以上、変化したか否かは、路面領域検出部342が検出した路面領域の面積が、所定期間または所定走行距離において、20%程度以上、増減したか否かで判定してもよい。路面領域検出部342が検出した路面領域の面積が、所定期間または所定走行距離において、20%程度以上、増減したと判定する場合、路面領域の面積が閾値以上、変化したと判定する。路面領域検出部342が検出した路面領域の面積が、所定期間または所定走行距離において、20%程度以上増減していないと判定する場合、路面領域の面積が閾値以上、変化していないと判定する。
測光領域制御部36は、歪補正部343が歪パラメータを変更する場合、カメラユニット10が撮影する際の測光領域の位置を歪パラメータの変更に合わせて制御する。例えば、通常時における、カメラユニット10が撮影する際の測光領域の位置は、表示領域の中央部である。測光領域制御部36は、歪補正部343が歪みを補正する表示領域を上側にシフトさせた場合、上側にシフトした表示領域の中央部が測光領域となるように、測光領域を上側にシフトさせる制御信号をカメラユニット10に対して出力する。測光領域制御部36は、歪補正部343が歪みを補正する表示領域を下側にシフトさせた場合、下側にシフトした表示領域の中央部が測光領域となるように、測光領域を下側にシフトさせる制御信号をカメラユニット10に対して出力する。
表示制御部37は、映像処理部34の映像生成部344が生成した表示映像データを表示部21に表示させる制御を行う。
記憶部39は、車両用映像処理装置30における各種処理に要するデータおよび各種処理結果を記憶する。記憶部39は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、または、ハードディスク、光ディスク、通信網を介した外部記憶装置などの記憶装置である。
次に、図14を用いて、車両用映像処理装置30における処理の流れについて説明する。図14は、実施形態に係る車両用映像処理装置30における処理の流れを示すフローチャートである。ここでは、前方カメラ11が撮影した前方映像データに基づいて、車両Vの前方の安全を確認するための映像を表示させる場合について説明する。
車両用映像処理システム1は、車両Vのエンジンが始動すると、起動されるものとする。車両用映像処理システム1の起動中、カメラユニット10は、車両Vの周囲を撮影する。車両用映像処理システム1の起動中、映像データ取得部341は、カメラユニット10で撮影された映像データを取得する。
車両用映像処理装置30は、ヘッドライトの点灯を検出する(ステップS101)。車両用映像処理装置30は、ヘッドライト点灯検出部31によって、ヘッドライトスイッチ22から出力された信号から、ヘッドライトが点灯しているか消灯しているかを検出する。車両用映像処理装置30は、ステップS102に進む。
車両用映像処理装置30は、路面領域を検出する(ステップS102)。車両用映像処理装置30は、路面領域検出部342によって、公知の路面検出の方法を使用して、前方映像データに写されている路面領域を検出する。車両用映像処理装置30は、ステップS103に進む。
車両用映像処理装置30は、判定部35によって、車速が閾値以下であるかを判定する(ステップS103)。車両用映像処理装置30は、判定部35が、車速検出部32が検出した車速が閾値以下であると判定する場合(ステップS103でYes)、ステップS104に進む。車両用映像処理装置30は、判定部35が、車速検出部32が検出した車速が閾値以下ではないと判定する場合(ステップS103でNo)、ステップS101の処理を再度実行する。
車速検出部32が検出した車速が閾値以下であると判定する場合(ステップS103でYes)、車両用映像処理装置30は、判定部35によって、ピッチ角が閾値以上であるかを判定する(ステップS104)。車両用映像処理装置30は、判定部35が、傾斜角検出部33が検出したピッチ角が閾値以上であると判定する場合(ステップS104でYes)、ステップS105に進む。車両用映像処理装置30は、判定部35が、傾斜角検出部33が検出したピッチ角が閾値以上ではないと判定する場合(ステップS104でNo)、ステップS111に進む。
傾斜角検出部33が検出したピッチ角が閾値以上であると判定する場合(ステップS104でYes)、車両用映像処理装置30は、判定部35によって、路面領域検出部342が検出した路面領域に基づいて、路面領域の面積が増減したかを判定する(ステップS105)。車両用映像処理装置30は、判定部35が、路面領域の面積が増減したと判定する場合(ステップS105でYes)、ステップS106に進む。車両用映像処理装置30は、判定部35が、路面領域の面積が増減していないと判定する場合(ステップS105でNo)、ステップS101の処理を再度実行する。
路面領域の面積が増減したと判定する場合(ステップS105でYes)、車両用映像処理装置30は、表示領域の補正処理を行う(ステップS106)。車両用映像処理装置30は、歪補正部343によって、路面領域の面積の変化に応じて、歪パラメータを変更して歪みを補正する表示領域の補正処理を行う。車両用映像処理装置30は、歪補正部343によって、路面領域の面積が増加した場合、歪みを補正する表示領域を上側にシフトさせるように、歪パラメータを変更して歪みを補正する表示領域の補正処理を行う。車両用映像処理装置30は、歪補正部343によって、路面領域の面積が減少した場合、歪みを補正する表示領域を下側にシフトさせるように、歪パラメータを変更して歪みを補正する表示領域の補正処理を行う。車両用映像処理装置30は、ステップS107に進む。
車両用映像処理装置30は、表示映像データを生成する(ステップS107)。車両用映像処理装置30は、映像生成部344によって、前方歪補正映像データから表示映像データを生成する。車両用映像処理装置30は、ステップS108に進む。
車両用映像処理装置30は、表示制御部37によって、生成した表示映像データを表示部21に表示させる(ステップS108)。車両用映像処理装置30は、ステップS109に進む。
車両用映像処理装置30は、判定部35によって、ピッチ角が閾値未満であるかを判定する(ステップS109)。車両用映像処理装置30は、判定部35が、傾斜角検出部33が検出したピッチ角が閾値未満であると判定する場合(ステップS109でYes)、ステップS110に進む。車両用映像処理装置30は、判定部35が、傾斜角検出部33が検出したピッチ角が閾値未満ではないと判定する場合(ステップS109でNo)、ステップS109の処理を再度実行する。
傾斜角検出部33が検出したピッチ角が閾値未満であると判定する場合(ステップS109でYes)、車両用映像処理装置30は、表示領域を初期設定に戻す(ステップS110)。車両用映像処理装置30は、歪補正部343が、ステップS106において変更した歪パラメータを初期値に戻す。車両用映像処理装置30は、歪補正部343によって、歪パラメータを、車両Vが平坦な道路を走行している場合の歪パラメータに戻す。車両用映像処理装置30は、ステップS113に進む。
傾斜角検出部33が検出したピッチ角が閾値以上ではないと判定する場合(ステップS104でNo)、車両用映像処理装置30は、表示映像データを生成する(ステップS111)。車両用映像処理装置30は、映像生成部344によって、映像データから表示映像データを生成する。車両用映像処理装置30は、ステップS112に進む。
車両用映像処理装置30は、表示制御部37によって、表示映像データを表示部21に表示させる(ステップS112)。車両用映像処理装置30は、ステップS113に進む。
車両用映像処理装置30は、判定部35によって、車速が閾値より大きいかを判定する(ステップS113)。車両用映像処理装置30は、判定部35が、車速検出部32が検出した車速が閾値より大きいと判定する場合(ステップS113でYes)、ステップS114に進む。車両用映像処理装置30は、判定部35が、車速検出部32が検出した車速が閾値より大きくないと判定する場合(ステップS113でNo)、ステップS113の処理を再度実行する。
車速検出部32が検出した車速が閾値より大きいと判定する場合(ステップS113でYes)、車両用映像処理装置30は、表示映像データの表示を停止する(ステップS114)。車両用映像処理装置30は、ステップS115に進む。
車両用映像処理装置30は、処理を終了するかを判定する(ステップS115)。より詳しくは、車両用映像処理装置30は、終了トリガの有無に基づいて、処理を終了するか否かを判定する。終了トリガは、例えば、エンジンオフ、ギヤをパーキングに入れた、サイドブレーキを動作させたなどの組合せで終了トリガとなる。終了トリガは、ユーザの操作によって終了トリガとなってもよい。車両用映像処理装置30は、終了トリガがある場合、処理を終了すると判定し(ステップS115でYes)、処理を終了する。車両用映像処理装置30は、終了トリガがない場合、処理を終了しないと判定し(ステップS115でNo)、ステップS101の処理を再度実行する。
このようにして、判定部35が、車両Vの傾斜角が閾値以上であり、車両Vの車速が閾値以下であり、路面領域の面積が閾値以上、変化したと判定する場合、歪補正部343は、路面領域の面積の変化に応じて、歪パラメータを変更して歪みを補正する。歪補正部343は、路面領域の面積が増加した場合、歪みを補正する表示領域を上側にシフトさせるように、歪パラメータを変更して歪みを補正する。歪補正部343は、路面領域の面積が減少した場合、歪みを補正する表示領域を下側にシフトさせるように、歪パラメータを変更して歪みを補正する。
上述したように、本実施形態は、車両Vの傾斜角が閾値以上であり、車両Vの車速が閾値以下であり、路面領域の面積が閾値以上、変化したと判定する場合、路面領域の面積の変化に応じて、歪パラメータを変更して歪みを補正することができる。本実施形態は、路面領域の面積が増加した場合、歪みを補正する表示領域を上側にシフトさせるように、歪パラメータを変更して歪みを補正することができる。路面領域の面積が減少した場合、歪みを補正する表示領域を下側にシフトさせるように、歪パラメータを変更して歪みを補正することができる。このようにして、本実施形態によれば、車両Vの傾斜角によらず、適切な表示領域の映像を表示することができる。
本実施形態は、歪パラメータを変更する場合、カメラユニット10が撮影する際の測光領域の位置を歪パラメータの変更に合わせて制御することができる。本実施形態によれば、車両Vの傾斜角によらず、適切な測光領域を設定して、適切に測光して撮影することができる。
このように、本実施形態によれば、車両Vの傾斜角によらず、車両Vの周囲を適切な映像で確認させることができる。
さて、これまで本発明に係る車両用映像処理システム1について説明したが、上述した実施形態以外にも種々の異なる形態にて実施されてよいものである。
図示した車両用映像処理システム1の各構成要素は、機能概念的なものであり、必ずしも物理的に図示の如く構成されていなくてもよい。すなわち、各装置の具体的形態は、図示のものに限られず、各装置の処理負担や使用状況などに応じて、その全部または一部を任意の単位で機能的または物理的に分散または統合してもよい。
車両用映像処理システム1の構成は、例えば、ソフトウェアとして、メモリにロードされたプログラムなどによって実現される。上記実施形態では、これらのハードウェアまたはソフトウェアの連携によって実現される機能ブロックとして説明した。すなわち、これらの機能ブロックについては、ハードウェアのみ、ソフトウェアのみ、または、それらの組み合わせによって種々の形で実現できる。
上記した構成要素には、当業者が容易に想定できるもの、実質的に同一のものを含む。さらに、上記した構成は適宜組み合わせが可能である。また、本発明の要旨を逸脱しない範囲において構成の種々の省略、置換または変更が可能である。
図15、図16を用いて、車両Vが走行している道路と交差道路がカーブしている場合について説明する。図15は、交差道路がカーブしている際に、歪補正処理を行う表示領域の一例を示す図である。図16は、車両が走行している道路に交差する道路がカーブしている状態を説明する図である。歪補正部343は、車両Vが走行している道路と交差道路がカーブしている場合、カーブの形状に合わせて、歪パラメータを変更して歪みを補正してもよい。車両用映像処理装置30は、図示しないナビゲーションシステムから車両Vの現在位置の現在位置情報と、車両Vの周囲の地図情報とを取得するナビゲーション情報取得部を有する。さらに、車両用映像処理装置30は、ナビゲーション情報取得部が取得した情報に基づいて、道路の形状を検出する道路形状検出部を有する。歪補正部343は、路面領域の面積の変化と、道路形状検出部が検出した道路の形状に応じて、歪パラメータを変更して歪みを補正する。歪補正部343は、交差道路のカーブ形状に合わせて、カーブしている側の表示表域を遠方まで表示できるように、歪みを補正する表示領域の右側または左側を上側または下側にシフトさせるように、歪パラメータを変更して、図中に示した形状の領域であるA4が表示領域となるように歪パラメータを変更する。これにより、交差道路がカーブしている場合、ユーザが直接視認しにくい、カーブ形状に合わせた表示領域の車両Vの周囲の映像を表示することができる。
図17を用いて、車両Vが雪道などを走行している場合について説明する。図17は、車両が雪道を走行する際に、歪補正処理を行う表示領域の一例を示す図である。例えば、積雪または冠水によって、路面領域検出部342が路面を検出できない場合、より広い範囲を表示領域とするように歪パラメータを変更して、図中に示した形状の領域であるA5が表示領域となるように歪パラメータを変更する。これにより、積雪または冠水によって路面領域の検出が困難である場合、路面とする領域を通常よりも広くした表示領域の車両Vの周囲の映像を表示することができる。
駐車時、車両Vの周囲を確認する映像を表示する場合について説明する。この場合、車両用映像処理装置30は、後退トリガがあると判定された場合、図14に示すフローチャートの処理を実行する。後退トリガとは、例えば、シフトポジションが「リバース」とされたこと、または、車両Vの進行方向が車両Vの前後方向の後方となったことをいう。そして、ステップS102において、後方映像データに写されている路面領域を検出して、ステップS105において、後方映像データの路面領域の面積が増減したかを判定する。そして、ステップS106において、歪パラメータを変更して後方映像データの歪みを補正する。このようにして、駐車時、車両Vの傾斜角によらず、適切な表示領域の車両Vの後方の映像を表示することができる。
車両用映像処理システム1は、車両Vの走行時に周囲の映像を撮影して記録する、いわゆるドライブレコーダにも適用可能である。この場合、車両Vの車速によらず、判定部35は、傾斜角検出部33が検出した車両Vの傾斜角と、路面領域検出部342が検出した路面領域とに基づいて、車両Vの傾斜角が閾値以上であり、路面領域の面積が閾値以上、変化したか否かを判定する。また、歪補正部343は、判定部35が、車両Vの傾斜角が閾値以上であり、路面領域の面積が閾値以上、変化したと判定する場合、路面領域の面積の変化に応じて、歪パラメータを変更して歪みを補正する。車両用映像処理装置30は、図14に示すフローチャートのステップS103、ステップS113、および、ステップS114以外の処理を実行する。さらに、ドライブレコーダに適用する場合、記憶部39とは別に、車両用映像処理装置30の外部に、映像データを保存するための、例えば、カード型の記録メディアを含む外部記録装置を有していてもよい。
車両用映像処理装置30は、歪補正部343が歪パラメータを変更する場合に、ヘッドライトの光軸の位置を歪パラメータの変更に合わせて制御する光軸制御部を有していてもよい。これにより、適切な車両Vの周囲の映像を表示することができる。
上記の3軸ジャイロセンサ24に代えて、X方向、Y方向、及びZ方向の加速度を検出可能な3軸の加速度センサと3軸ジャイロセンサとの機能を有する6軸のセンサであってもよい。
1 車両用映像処理システム
10 カメラユニット
21 表示部
22 ヘッドライトスイッチ
23 車速センサ
24 3軸ジャイロセンサ
30 車両用映像処理装置
31 ヘッドライト点灯検出部
32 車速検出部
33 傾斜角検出部
34 映像処理部
341 映像データ取得部
342 路面領域検出部
343 歪補正部
344 映像生成部
35 判定部
36 測光領域制御部
37 表示制御部
39 記憶部

Claims (3)

  1. 車両の周辺を撮影する撮影部が撮影した映像データを取得する映像データ取得部と、
    前記映像データ取得部が取得した前記映像データの歪みを歪パラメータを用いて補正して、歪補正映像データを出力する歪補正部と、
    前記映像データ取得部が取得した前記映像データに写されている路面領域を検出する路面領域検出部と、
    を備え、
    前記歪補正部は、前記路面領域検出部が路面を検出できない場合、前記歪パラメータを変更しない場合の表示領域より広い範囲を表示領域とするように前記歪パラメータを変更して歪みを補正する、
    ことを特徴とする車両用映像処理装置。
  2. 前記歪補正部は、前記路面領域検出部が路面を検出できない場合、歪を補正する表示範囲の上側および下側に広げるように前記歪パラメータを変更して歪みを補正する、
    請求項1に記載の車両用映像処理装置。
  3. 車両の周辺を撮影する撮影部が撮影した映像データを取得する映像データ取得ステップと、
    前記映像データ取得ステップで取得した前記映像データの歪みを歪パラメータを用いて補正して、歪補正映像データを出力する歪補正ステップと、
    前記映像データ取得ステップで取得した前記映像データに写されている路面領域を検出する路面領域検出ステップと、
    を含み、
    前記歪補正ステップにおいては、前記路面領域検出ステップで路面が検出できない場合、前記歪パラメータを変更しない場合の表示領域より広い範囲を表示領域とするように前記歪パラメータを変更して歪みを補正する、
    車両用映像処理方法。
JP2023155520A 2018-12-28 2023-09-21 車両用映像処理装置および車両用映像処理方法 Pending JP2023174682A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023155520A JP2023174682A (ja) 2018-12-28 2023-09-21 車両用映像処理装置および車両用映像処理方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018247699A JP7081481B2 (ja) 2018-12-28 2018-12-28 車両用映像処理装置、車両用映像処理システム、車両用映像処理方法およびプログラム
JP2022085121A JP7363965B2 (ja) 2018-12-28 2022-05-25 車両用映像処理装置、車両用映像処理システム、車両用映像処理方法およびプログラム
JP2023155520A JP2023174682A (ja) 2018-12-28 2023-09-21 車両用映像処理装置および車両用映像処理方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2022085121A Division JP7363965B2 (ja) 2018-12-28 2022-05-25 車両用映像処理装置、車両用映像処理システム、車両用映像処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2023174682A true JP2023174682A (ja) 2023-12-08

Family

ID=71449604

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018247699A Active JP7081481B2 (ja) 2018-12-28 2018-12-28 車両用映像処理装置、車両用映像処理システム、車両用映像処理方法およびプログラム
JP2022085121A Active JP7363965B2 (ja) 2018-12-28 2022-05-25 車両用映像処理装置、車両用映像処理システム、車両用映像処理方法およびプログラム
JP2023155520A Pending JP2023174682A (ja) 2018-12-28 2023-09-21 車両用映像処理装置および車両用映像処理方法

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2018247699A Active JP7081481B2 (ja) 2018-12-28 2018-12-28 車両用映像処理装置、車両用映像処理システム、車両用映像処理方法およびプログラム
JP2022085121A Active JP7363965B2 (ja) 2018-12-28 2022-05-25 車両用映像処理装置、車両用映像処理システム、車両用映像処理方法およびプログラム

Country Status (1)

Country Link
JP (3) JP7081481B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115742962B (zh) * 2022-11-25 2024-05-14 重庆长安汽车股份有限公司 一种全景影像控制方法及装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0952555A (ja) * 1995-08-11 1997-02-25 Mitsubishi Electric Corp 周辺監視装置
WO2015083228A1 (ja) * 2013-12-03 2015-06-11 富士通株式会社 表示制御装置、表示制御方法、及びプログラム
JP2016134129A (ja) * 2015-01-22 2016-07-25 株式会社Jvcケンウッド 映像表示システム、処理装置、映像表示方法、及び映像表示プログラム
JP6453192B2 (ja) * 2015-09-25 2019-01-16 日立オートモティブシステムズ株式会社 画像認識処理装置、及びプログラム
JP6941949B2 (ja) * 2017-03-15 2021-09-29 株式会社Subaru 車両用映像表示装置

Also Published As

Publication number Publication date
JP7081481B2 (ja) 2022-06-07
JP2022126659A (ja) 2022-08-30
JP7363965B2 (ja) 2023-10-18
JP2020108093A (ja) 2020-07-09

Similar Documents

Publication Publication Date Title
US8780202B2 (en) Image generation apparatus
US9902323B2 (en) Periphery surveillance apparatus and program
JP5087051B2 (ja) 画像生成装置及び画像表示システム
US20110234802A1 (en) On-vehicle lighting apparatus
US10875452B2 (en) Driving assistance device and driving assistance method
JP6379967B2 (ja) 画像生成装置および画像生成方法
JP5697512B2 (ja) 画像生成装置、画像表示システム及び画像表示装置
US11450040B2 (en) Display control device and display system
JP5592138B2 (ja) 画像生成装置、画像表示システム及び画像生成方法
JP2023174682A (ja) 車両用映像処理装置および車両用映像処理方法
JP6326869B2 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
CN113077747A (zh) 车载显示屏控制方法、装置、车辆及存储介质
JP7000383B2 (ja) 画像処理装置および画像処理方法
JP2013109505A (ja) 周辺監視装置
JP6852465B2 (ja) 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
WO2016047037A1 (ja) 車両用画像処理装置
JP6424449B2 (ja) 後方状況表示装置、後方状況表示方法
JP3968720B2 (ja) 車両用画像表示装置
JP2007221199A (ja) 車載カメラ表示装置及び画像処理装置
JP3932127B2 (ja) 車両用画像表示装置
JP5413843B2 (ja) 画像処理装置、及び、画像処理方法
CN111788088A (zh) 车辆用显示控制装置和显示控制方法
JP2008230561A (ja) 撮像制御装置および測光領域調整方法
JP6405930B2 (ja) 車載用表示装置
JP6866212B2 (ja) 表示制御装置、表示制御方法及びカメラモニタリングシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230921