JP6213727B2 - 画像データ変換装置並びに運転支援装置およびナビゲーション装置およびカメラ装置 - Google Patents

画像データ変換装置並びに運転支援装置およびナビゲーション装置およびカメラ装置 Download PDF

Info

Publication number
JP6213727B2
JP6213727B2 JP2013198575A JP2013198575A JP6213727B2 JP 6213727 B2 JP6213727 B2 JP 6213727B2 JP 2013198575 A JP2013198575 A JP 2013198575A JP 2013198575 A JP2013198575 A JP 2013198575A JP 6213727 B2 JP6213727 B2 JP 6213727B2
Authority
JP
Japan
Prior art keywords
image
pixels
overhead
image data
data conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013198575A
Other languages
English (en)
Other versions
JP2015065579A (ja
Inventor
恭佑 河野
恭佑 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu General Ltd
Original Assignee
Fujitsu General Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu General Ltd filed Critical Fujitsu General Ltd
Priority to JP2013198575A priority Critical patent/JP6213727B2/ja
Publication of JP2015065579A publication Critical patent/JP2015065579A/ja
Application granted granted Critical
Publication of JP6213727B2 publication Critical patent/JP6213727B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Navigation (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、魚眼レンズから投影される被写体の撮像画像に関して画素情報を記憶し、画像変換を行ったのちモニタに出力を行う画像データ変換装置に関する。
車体後方の俯瞰画像を映し出す運転支援装置は一般に知られる。運転支援装置では例えば魚眼レンズから被写体は撮像素子に投影される。したがって、魚眼レンズから遠方であればあるほど、画像は縮小される。こうした撮像画像から俯瞰画像は生成される。遠方の画像は拡大される。遠方であればあるほど、画像の部分的な拡大率は増大する。顕著な画質の劣化が観察される。
特開2001−145012号公報
いまのところ、運転支援装置の表示ディスプレイにはWVGA程度の解像度のものが利用される。撮像素子には同程度の解像度のものが利用される。したがって、俯瞰画像の生成にあたって撮像画像が2倍や3倍に拡大されると、表示ディスプレイの画素数に比べて2分の1や3分の1の画素数でしか画素情報は取得されることができない。画質は劣化してしまう。特に、1表示画面内で部分的に顕著に画質が劣化することから、画質の劣化は目立ってしまう。
本発明のいくつかの態様によれば、俯瞰画像の生成にあたって、画質の劣化を回避することができる画像データ変換装置は提供されることができる。
本発明の一形態は、魚眼レンズから投影される被写体の撮像画像に関して個々の画素ごとに画素情報を特定する撮像データから俯瞰画像に相当する範囲で前記画素ごとの画素情報を抽出する座標変換部と、前記撮像画像の全画素に関する情報の情報量よりも小さい容量を有し、抽出された前記画素に関する画素情報を記憶するバッファ記憶部とを備える画像データ変換装置に関する。
撮像画像の撮像データはバッファ記憶部への格納に先立って座標変換部で処理される。座標変換部では、撮像画像の全画素のうち、地面の俯瞰画像に相当する範囲で画素が抽出される。こうして画素情報の情報量は縮小される。バッファ記憶部は、撮像画像の全画素に関する情報の情報量よりも小さい容量しか有しないものの、確実に俯瞰画像は生成されることができる。撮像画像の解像度が高められても、バッファ記憶部の容量の増大は回避されることができる。撮像画像の解像度が高められれば、俯瞰画像の生成にあたってたとえ部分的に撮像画像が拡大されても、画質の劣化は概ね回避されることができる。
画像データ変換装置では記憶部を備え、前記座標変換部は前記記憶部に格納された数式に基づき俯瞰画像に相当する範囲で前記画素ごとの画素情報の抽出を実施すればよい。
前記記憶部には、仮想三次元空間内で水平軸回りに前記撮像画像を回転し角度変換後画像を生成するための第1式と、前記撮像画像を含む二次元平面に前記角度変換後画像を投影し投影画像を生成するための第2式と、前記投影画像から前記俯瞰画像に相当する範囲を切り取り、切り取った前記投影画像を表示画面の画素数に合わせて変形しバッファ画像を生成するための第3式とを格納することができる。
画像データ変換装置は、前記投影画像から切り取られた範囲に前記バッファ画像から第1復元画像を生成し、前記仮想三次元空間内で前記水平軸回りに前記第1復元画像を逆回転し第2復元画像を生成し、前記仮想三次元空間内で前記撮像画像を含む前記二次元平面に前記第2復元画像を投影し第3復元画像を生成し、前記第3復元画像にレンズに起因する画像の歪みを補正する歪み補正処理を施し俯瞰前原画像を生成し、前記第1式および前記第2式に基づき前記俯瞰画像を生成する俯瞰画像処理部を備えることができる。
一般に、魚眼レンズから投影される被写体の撮像画像では魚眼レンズの光軸から離れるにつれて被写体は歪む。撮像画像に線形的な座標変換が施されるだけでは俯瞰画像に被写体の歪みが残存する。歪み補正は被写体の歪みを補正する。その結果、俯瞰画像の見栄えは向上する。
前記俯瞰画像処理部は、前記撮像画像の画素数よりも小さい画素数で前記俯瞰画像を生成することができる。表示ディスプレイには撮像素子よりも低い解像度のものが利用されることができる。こうした場合には、俯瞰画像の生成にあたって撮像画像が拡大されても、こうして画像の拡大時に画素情報の不足は補われることができる。その結果、表示ディスプレイ上での画質の劣化は回避されることができる。
以上のような画像データ変換装置は運転支援装置に組み込まれることができる。このとき、運転支援装置は画像データ変換装置を備える。こうした運転支援装置は例えば車両に搭載されて利用されることができる。
その他、以上のような画像データ変換装置はナビゲーション装置に組み込まれることができる。このとき、ナビゲーション装置は画像データ変換装置を備える。こうしたナビゲーション装置は例えば車両に搭載されて利用されることができる。
その他、以上のような画像データ変換装置はカメラ装置に組み込まれることができる。このとき、カメラ装置はデータ変換装置を備える。こうしたカメラ装置は車両に搭載されて利用されることができる。
以上のように本発明の形態によれば、俯瞰画像の生成にあたって画質の劣化を回避することができる。
一実施形態に係る車両すなわち自動車の全体像を概略的に示す斜視図である。 運転支援装置の構成を概略的に示すブロック図である。 第1画像データ、第2画像データおよび第3画像データの概念を概略的に示す図である。 第4画像データの概念を概略的に示す図である。 魚眼レンズから投影される被写体の撮像画像の一具体例を示す写真である。 三次元角度変換部の画像変換の概念を示す図である。 俯瞰画像の一具体例を示す写真である。 第1比較例に係る俯瞰画像の倍率を概略的に示す原画像の写真である。 第2比較例に係る俯瞰画像の倍率を概略的に示す原画像の写真である。 他の具体例に係る俯瞰画像を示す写真である。
以下、添付図面を参照しつつ本発明の一実施形態を説明する。
図1は一実施形態に係る車両すなわち自動車11を概略的に示す。自動車11の車体12には運転支援装置13が搭載される。運転支援装置13はナビゲーション装置14を備える。ナビゲーション装置14はディスプレイパネル15を有する。ディスプレイパネル15は例えば640x480の解像度を有する。ディスプレイパネル15は例えばダッシュボードに組み込まれることができる。ディスプレイパネル15の表示画面には地図その他の情報が表示されることができる。
運転支援装置13はカメラ装置16を備える。カメラ装置16は例えば車体12の後部に設置される。カメラ装置16は例えばリアバンパーの上方に取り付けられる。カメラ装置16の光軸17は例えば水平面に対して所定の角度に設定される。光軸17は、車体12から後方に離れるにつれて自動車11が置かれている地面に近づくように傾斜する。カメラ装置16は車体12後方の様子を撮像する。ここでは、光軸17に対して水平方向および垂直方向にいずれも少なくとも±90°の画角範囲で被写体の撮像画像は取得される。
カメラ装置16は撮像画像に基き表示画像の画像信号(以下「表示用画像信号」という)を生成する。表示用画像信号は車体後方に関してカメラ視点の画像や地面の俯瞰画像を特定する。画像や俯瞰画像は任意に切り替えられればよい。カメラ装置16はナビゲーション装置14に接続される。ナビゲーション装置14にはカメラ装置16から表示用画像信号が供給される。ディスプレイパネル15の表示画面には表示用画像信号に基き車体12後方の映像が表示されることができる。この運転支援装置13では、例えば駐車場で駐車スペースに後進で進入する際に運転手は車体12の後方の様子を確認することができる。こうして運転支援装置13は運転手の後方確認を支援することができる。
図2に示されるように、カメラ装置16は魚眼レンズ21を備える。魚眼レンズ21は、例えば光軸17に直交する赤道面を有する半球面で被写体の入射面を規定する。その結果、被写体から反射する光は、光軸17に対して水平方向および垂直方向にいずれも少なくとも±90°の画角範囲で入射する。入射した光は赤道面上に被写体の画像を形成する。被写体の画像は円形の輪郭で仕切られる。画像では円の中心から外側に遠ざかるにつれて被写体は縮小する。
カメラ装置16は撮像素子22を備える。撮像素子22は、魚眼レンズ21から投影される被写体の画像を電気信号に変換する。撮像素子22はマトリクス状に配置された画素を備える。ここでは、撮像素子22は1280x960の解像度を有する。したがって、ディスプレイパネル15の解像度は撮像素子22の解像度よりも低い。撮像素子22の撮像面に設定される二次元座標系に従って個々の画素の位置は特定される。例えばベイヤー配列ではRGGB(赤緑緑青)の電気信号で被写体の色が表現される。
カメラ装置16は画像処理部23を備える。画像処理部23は撮像素子22に電気的に接続される。画像処理部23は画素の位置すなわちアドレスを順次指定しながら画素の電気信号を読み出す。画像処理部23はデジタルの撮像信号すなわち撮像データを出力する。撮像データは画素ごとに画像情報を特定する。
カメラ装置16には画像データ変換装置24が組み込まれる。画像データ変換装置24は画像処理部23から撮像データを受信する。画像データ変換装置24は画像生成部25および俯瞰画像生成部26を備える。画像生成部25は撮像データに基づきカメラ視点の通常画像を生成する。俯瞰画像生成部26は撮像データに基づき俯瞰画像を生成する。画像データ変換装置24では画像変換により俯瞰画像や歪み補正画像を生成する処理が実施される。
ナビゲーション装置14は演算処理部27を備える。演算処理部27は画像データ変換装置24に電気的に接続される。演算処理部27は例えばMPU(マイクロプロセッサユニット)およびメモリを有することができる。例えばメモリに格納されるソフトウェアに従ってMPUは動作することができる。演算処理部27はソフトウェアで実行される処理に従ってカメラ装置16から座標変換後の画像情報を取得することができる。演算処理部27はナビゲーション装置14のナビゲーション動作と運転支援動作とを切り替えることができる。例えば自動車11のギアがバックに入れられると、演算処理部27はナビゲーション動作から運転支援動作にナビゲーション装置14を切り替えることができる。演算処理部27は、例えばナビゲーション装置14の操作に応じて、通常画像および俯瞰画像のいずれか一方または両者の供給を選択することができる。
ディスプレイパネル15は演算処理部27に電気的に接続される。ディスプレイパネル15には演算処理部27から画像情報が供給される。供給される画像情報に応じてディスプレイパネル15の表示画面には地図や車体12後方の映像が映し出されることができる。
俯瞰画像生成部26は記憶部28と接続される。記憶部28はバッファ記憶部29を含む。バッファ記憶部29には第1バッファ領域31と第2バッファ領域32とが形成される。バッファ記憶部29の第1バッファ領域31と第2バッファ領域32には入力画像データが格納される。ただし、バッファ記憶部29の第1バッファ領域31および第2バッファ領域32のそれぞれには入力画像の全画素を格納する必要はなく、俯瞰画像の生成に必要な画像部分だけを格納すればよい。第1バッファ領域31および第2バッファ領域32はフレームごとに切り替えられ各々画像情報を記憶する。第1バッファ領域31は、ディスプレイパネル15の全画素に関する画素情報の情報量に相当する容量を有する。第2バッファ領域32は第1バッファ領域31と等しい容量を有する。決められた入力順で画素情報は画素ごとに第1バッファ領域31に記憶される。ディスプレイパネル15の全画素に関して第1バッファ領域31に画素情報が記憶されると、第1バッファ領域31から画素情報は出力され始める。画素情報の受信は第2バッファ領域32に切り替わる。決められた入力順で画素情報は画素ごとに第2バッファ領域32に記憶される。ディスプレイパネル15の全画素に関して第2バッファ領域32に画素情報が記憶されると、第2バッファ領域32から画素情報は出力され始める。画素情報の受信は再び第1バッファ領域31に切り替わる。
記憶部28はさらに数式記憶部33およびルックアップテーブル記憶部34を含む。数式記憶部33には第1式〜第8式が記憶される。第1式〜第8式には後述されるように三次元座標に従ってそれぞれ次式が設定される。ここで、座標値(x、y、z)は仮想三次元空間の三次元座標系に従って特定される。
ルックアップテーブル記憶部34にはルックアップテーブル37が記憶される。ルックアップテーブル37は三次元座標系に従って座標変換を特定する。画素ごとに仮想三次元空間内で座標位置は変換される。
俯瞰画像生成部26は座標変換部35および俯瞰画像処理部36をさらに有する。座標変換部35は画像処理部23に接続される。座標変換部35は撮像データから俯瞰画像に相当する範囲の画素を抽出する。座標変換部35にはバッファ記憶部29が接続される。抽出された画素に関する画素情報はバッファ記憶部29に順次記憶される。バッファ記憶部29に俯瞰画像処理部36が接続される。俯瞰画像処理部36はバッファ記憶部29から画素情報を引き出す。俯瞰画像処理部36は画素情報にレンズに起因する画像の歪みを補正する歪み補正処理、および画像を真上から見下ろした画像に変換する俯瞰画像変換処理を施し俯瞰画像を生成する。
座標変換部35は三次元角度変換部41、切り取り処理部42および縮小処理部43を有する。三次元角度変換部41は画像処理部23に接続される。三次元角度変換部41は第1式および第2式に基づき撮像データに演算処理を施す。第1式および第2式は数式記憶部33から取得される。三次元角度変換部41で第1画像データは生成される。切り取り処理部42は三次元角度変換部41に接続される。切り取り処理部42は第3式に基づき第1画像データに演算処理を施す。第3式は数式記憶部33から取得される。切り取り処理部42で第2画像データは生成される。縮小処理部43は切り取り処理部42に接続される。縮小処理部43は第4式に基づき第2画像データに演算処理を施す。第4式は数式記憶部33から取得される。縮小処理部43で第3画像データは生成される。第3画像データはバッファ記憶部29に記憶される。第1、第2および第3画像データの概念は後述される。
俯瞰画像処理部36は逆三次元角度変換部45、歪み補正部46および三次元角度変換部47を有する。逆三次元角度変換部45はバッファ記憶部29に接続される。逆三次元角度変換部45は第3画像データに第5式、第6式、第7式および第8式に基づき演算処理を施す。第5式、第6式、第7式および第8式は数式記憶部33から取得される。逆三次元角度変換部45で第4画像データは生成される。歪み補正部46は逆三次元角度変換部45に接続される。歪み補正部46はルックアップテーブル37に基づき第4画像データに座標変換を施す。歪み補正部46はルックアップテーブル37と接続される。歪み補正部46は座標変換にあたってルックアップテーブル記憶部34を参照する。歪み補正部46で第5画像データは生成される。三次元角度変換部47は歪み補正部46に接続される。三次元角度変換部47は第1式および第2式に基づき第5画像データに演算処理を施す。第1式および第2式は数式記憶部33から取得される。三次元角度変換部47で第6画像データは生成される。第6画像データは俯瞰画像を特定する。
ここで、第1〜第6画像データの概念を説明する。図3(a)に示されるように、撮像面51の二次元面に仮想三次元空間が設定される。撮像面51の二次元面に仮想三次元空間のxy平面が重ねられる。撮像面51ではx座標で行方向(水平方向)に画素の位置が特定されy座標で列方向(垂直方向)に画素の位置が特定される。xy平面から距離zの位置に回転中心52が設定される。
図3(b)に示されるように、座標変換部35で第1式に基づき演算処理が実施されると、仮想三次元空間内で水平軸回りに撮像画像は回転する。こうして角度変換後画像53が生成される。水平軸は回転中心52を通ってxy平面に平行に延びる。図3(c)に示されるように、座標変換部35で第2式に基づき演算処理が実施されると、撮像面51を含む二次元平面に角度変換後画像53は投影される。こうして投影画像54は生成される。投影画像54に俯瞰的に被写体が現れるように水平軸回りの回転角度tは設定されればよい。第1画像データは投影画像54を特定する。
座標変換部35で第3式に基づき第1画像データに演算処理が実施されると、図3(d)に示されるように、投影画像54から俯瞰画像に相当する範囲55が切り出される。こうして切り取り画像56は生成される。切り取り画像56は表示画面57に対して位置合わせされる。ここで、定数aはx軸方向に範囲55の中心と表示画面57の中心との距離を示し、定数bはy軸方向に範囲55の中心と表示画面57の中心との距離を示す。第2画像データは切り取り画像56を特定する。
座標変換部35で第4式に基づき第2画像データに演算処理が実施されると、図3(e)に示されるように、切り取り画像56は表示画面57の画素数に併せて変形する。ここでは、y軸方向に画像は縮小されx軸方向に画像は拡大する。こうしてバッファ画像58は生成される。ここで、定数cはx軸方向に表示画面57に対して切り取り画像56の拡大率を示し、定数dはy軸方向に表示画面57に対して切り取り画像56の拡大率を示す。第3画像データはバッファ画像58を特定する。
俯瞰画像処理部36で第5式に基づき第3画像データに演算処理が実施されると、図4(a)および(b)に示されるように、バッファ画像58は切り取り画像56に復元される。俯瞰画像処理部36で第6式に基づき切り取り画像56に演算処理が実施されると、図4(c)に示されるように、切り取り画像59は仮想三次元空間内で位置合わせされる。こうして範囲55内に第1復元画像61は生成される。第1復元画像61は前述の投影画像54に相当する。俯瞰画像処理部36で第7式に基づき第1復元画像61に演算処理が実施されると、図4(d)に示されるように、位置合わせされた第1復元画像61は仮想三次元空間内で水平軸回りに逆回転する。こうして第2復元画像62は生成される。俯瞰画像処理部36で第8式に基づき第2復元画像62に演算処理が実施されると、図4(e)に示されるように、第2復元画像62は仮想三次元空間内で撮像面51を含む二次元平面63に投影される。こうして第3復元画像64は生成される。第3復元画像64は、撮像画像上で俯瞰画像として切り取られる範囲の被写体に相当する。第4画像データは第3復元画像64を特定する。
第4画像データに歪み補正が実施される。ルックアップテーブル37に従って第3復元画像64に座標変換が施される。その結果、第4復元画像に歪み補正処理が施される。こうして俯瞰前原画像は生成される。俯瞰前原画像では被写体の歪みは補正される。第5画像データは俯瞰前原画像を特定する。
第5データに三次元角度変換が実施される。座標変換部35で第1式および第2式に基づき俯瞰前原画像に演算処理が施される。こうして俯瞰画像は生成される。第6画像データは俯瞰画像を特定する。
画像データ変換装置24は撮像画像から俯瞰画像を生成する。図5に示されるように、撮像画像66では光軸17から画面の縁に向かって遠ざかるにつれて被写体は縮小する。その結果、実空間の被写体の直線形状は損なわれ直線形状は湾曲する。参照範囲67は俯瞰画像の原画像に相当する。切り取り処理部42で参照範囲67に対応して切り取り範囲68が切り出される。切り取り範囲68は参照範囲67を完全に含む。ここでは、切り取り範囲68は台形に区画される。台形の下底は撮像画像66の下辺に一致する。台形の上底および脚は参照範囲67の外側で参照範囲67の輪郭に平行に設定される。
図6は三次元角度変換部41の画像変換の概念を示す。座標変換部35で第1式および第2式の演算処理に基づき水平軸回りで撮像画像は回転する。回転するにつれて投影画像69では台形の切り取り範囲は長方形または正方形に重なる。重なるように回転角度tは三次元角度変換部41で設定される。
図7に示されるように、俯瞰画像71の下辺71aでは俯瞰画像71の画素と撮像画像66の画素とは1対1で対応する。解像度は維持される。俯瞰画像71の上辺71bでは1.5倍程度の倍率で撮像画像66は拡大する。言い換えると、俯瞰画像71の画素数に対して撮像画像66では1.5分の1の画素数の画素が抽出される。解像度の劣化は抑制される。俯瞰画像71の側辺71c、71dでは1.2倍程度の倍率で撮像画像66は拡大する。俯瞰画像71の画素数に対して撮像画像66では1.2分の1の画素数の画素が抽出される。解像度の劣化は抑制される。水平方向に中央位置の垂直線71vや垂直方向に中央位置の水平線71hでは俯瞰画像71の画素と撮像画像66の画素とはほぼ1対1で対応する。解像度は維持される。
図8は第1比較例に係る俯瞰画像の倍率を示す。俯瞰画像の形成にあたって撮像素子は640x480の解像度を有する。全ての撮像画像72の画素が利用される。撮像画像72に歪み補正および三次元角度変換が実施される。俯瞰画像の下辺72aでは俯瞰画像の画素と撮像画像72の画素とは1対1で対応する。俯瞰画像の上辺72bでは3.0倍程度の倍率で撮像画像72は拡大する。言い換えると、俯瞰画像の画素数に対して撮像画像では3分の1の画素数の画素が抽出される。解像度は劣化する。俯瞰画像の側辺72c、72dでは2.2倍程度の倍率で撮像画像72は拡大する。俯瞰画像の画素数に対して撮像画像72では2.2分の1の画素数の画素が抽出される。解像度は劣化する。水平方向に中央位置の垂直線72vでは1.9倍程度の倍率で撮像画像72は拡大する。すなわち、俯瞰画像の画素数に対して撮像画像では1.9分の1の画素数の画素が抽出される。解像度は劣化する。この場合には、1表示画面内で部分的に顕著に画質が劣化することから、画質の劣化が目立ってしまう。
図9は第2比較例に係る俯瞰画像を示す。俯瞰画像の形成にあたって撮像素子22は1280x960の解像度を有する。全ての撮像画像66の画素が利用される。撮像画像66に歪み補正および三次元角度変換が実施される。俯瞰画像の下辺73aでは0.5倍程度の倍率で撮像画像66は拡大する。言い換えると、俯瞰画像の画素数に対して撮像画像66では2倍の画素数の画素が抽出される。1つの画素に対して2つの画素の画素情報が利用されるものの、画素情報は劣化しないことから、解像度は維持されることができる。俯瞰画像の上辺73bでは1.5倍程度の倍率で撮像画像66は拡大する。すなわち、俯瞰画像の画素数に対して撮像画像66では1.5分の1の画素数の画素が抽出される。解像度の劣化は抑制される。俯瞰画像の側辺73c、73dでは1.1倍程度の倍率で撮像画像66は拡大する。俯瞰画像の画素数に対して撮像画像66では1.1分の1の画素数の画素が抽出される。解像度の劣化は抑制される。水平方向に中央位置の垂直線73vでは0.9倍程度の倍率で撮像画像66は拡大する。言い換えると、俯瞰画像の画素数に対して撮像画像66では1.1倍程度の画素数の画素が抽出される。解像度は維持される。この場合には、撮像画像66の全ての画素の画素情報が一時的にバッファ記憶部に格納される。したがって、撮像画像66の画素数が増加することで、バッファ記憶部に容量の増加が要求される。いまのところ、メモリの容量とメモリの大きさとには相関関係が成立することから、容量の増加はバッファメモリのサイズの増大を誘引する。こうしてバッファメモリのサイズが増大すると、カメラ装置16内にバッファメモリの組み込みは難しい。
画像データ変換装置24では撮像画像66の撮像データはバッファ記憶部29への格納に先立って座標変換部35で処理される。座標変換部35では、撮像画像66の全画素のうち、地面の俯瞰画像71に相当する範囲で画素が抽出される。こうして画素情報の情報量は縮小される。バッファ記憶部29は、撮像画像66の全画素に関する情報の情報量よりも小さい容量しか有しないものの、確実に俯瞰画像71は生成されることができる。撮像画像66の解像度が高められても、バッファ記憶部29の容量の増大は回避されることができる。撮像画像66の解像度が高められれば、俯瞰画像71の生成にあたってたとえ部分的に撮像画像66が拡大されても、画質の劣化は概ね回避されることができる。
前述のように、座標変換部35は数式に従って演算処理を実施する。このときバッファ記憶部29の容量は小さい容量に留められることができる。特に、数式の利用にあたって前述のように単純な数式が用いられる。その結果、演算処理の負荷はできるだけ軽減されることができる。
一般に、魚眼レンズ21から投影される被写体の撮像画像66では魚眼レンズ21の光軸17から離れるにつれて被写体は歪む。撮像画像66に線形的な座標変換が施されるだけでは俯瞰画像に被写体の歪みが残存する。歪み補正は被写体の歪みを補正する。その結果、俯瞰画像71の見栄えは向上する。
ディスプレイパネル15には撮像素子22よりも低い解像度のものが利用される。こうした場合には、俯瞰画像71の生成にあたって撮像画像66が拡大されても、こうした画像の拡大時に画素情報の不足は補われることができる。その結果、画質の劣化は回避されることができる。
その他、図10に示されるように、第1バッファ領域31および第2バッファ領域32の容量は前述の640x480から768x576に増やされてもよい。こうすることで、切り取り範囲55の大きさが同じであっても俯瞰画像74に利用される撮像画像66の画素数は増大することができる。その結果、俯瞰画像74の下辺74a、水平方向中央の垂直線74vおよび垂直方向中央の水平線74hで俯瞰画像74の画素と撮像画像66の画素とは1対1で対応する。解像度は維持される。俯瞰画像74の上辺74bでは1.5倍程度の倍率で撮像画像66は拡大する。俯瞰画像74の側辺74c、74dでは1.1倍程度の倍率で撮像画像66は拡大する。こうして解像度の劣化はさらに効果的に抑制されることができる。
11 車両(自動車)、13 運転支援装置、14 ナビゲーション装置、16 カメラ装置、21 魚眼レンズ、24 画像データ変換装置、29 バッファ記憶部、35 座標変換部、36 俯瞰画像処理部、53 角度変換後画像、54 投影画像、55 範囲、57 表示画面、58 バッファ画像、61 第1復元画像、62 第2復元画像、64 第3復元画像、66 撮像画像、71 俯瞰画像。

Claims (6)

  1. 仮想三次元空間内で水平軸回りに、魚眼レンズから投影される被写体の撮像画像を回転し角度変換後画像を生成するための第1式、前記撮像画像を含む二次元平面に前記角度変換後画像を投影し投影画像を生成するための第2式、および、前記投影画像から俯瞰画像に相当する範囲を切り取り、切り取った前記投影画像を表示画面の画素数に合わせて変形しバッファ画像を生成するための第3式を格納する記憶部と、
    前記撮像画像に関して個々の画素ごとに画素情報を特定する撮像データから、前記記憶部に格納された第1式、第2式および第3式に基づき前記俯瞰画像に相当する範囲で前記画素ごとの画素情報を抽出する座標変換部と、
    前記撮像画像の全画素に関する情報の情報量よりも小さい容量を有し、抽出された前記画素に関する画素情報を記憶するバッファ記憶部と
    を備えることを特徴とする画像データ変換装置。
  2. 請求項1に記載の画像データ変換装置において、前記投影画像から切り取られた範囲に前記バッファ画像から第1復元画像を生成し、前記仮想三次元空間内で前記水平軸回りに前記第1復元画像を逆回転し第2復元画像を生成し、前記仮想三次元空間内で前記撮像画像を含む前記二次元平面に前記第2復元画像を投影し第3復元画像を生成し、前記第3復元画像に歪み補正処理を施し俯瞰前原画像を生成し、前記第1式および前記第2式に基づき前記俯瞰画像を生成する俯瞰画像処理部を備えることを特徴とする画像データ変換装置。
  3. 請求項2に記載の画像データ変換装置において、前記俯瞰画像処理部は、前記撮像画像の画素数よりも小さい画素数で前記俯瞰画像を生成することを特徴とする画像データ変換装置。
  4. 請求項1〜3のいずれか1項に記載の画像データ変換装置を備えることを特徴とする運転支援装置。
  5. 請求項1〜3のいずれか1項に記載の画像データ変換装置を備えることを特徴とするナビゲーション装置。
  6. 請求項1〜3のいずれか1項に記載の画像データ変換装置を備えることを特徴とするカメラ装置。
JP2013198575A 2013-09-25 2013-09-25 画像データ変換装置並びに運転支援装置およびナビゲーション装置およびカメラ装置 Active JP6213727B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013198575A JP6213727B2 (ja) 2013-09-25 2013-09-25 画像データ変換装置並びに運転支援装置およびナビゲーション装置およびカメラ装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013198575A JP6213727B2 (ja) 2013-09-25 2013-09-25 画像データ変換装置並びに運転支援装置およびナビゲーション装置およびカメラ装置

Publications (2)

Publication Number Publication Date
JP2015065579A JP2015065579A (ja) 2015-04-09
JP6213727B2 true JP6213727B2 (ja) 2017-10-18

Family

ID=52833105

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013198575A Active JP6213727B2 (ja) 2013-09-25 2013-09-25 画像データ変換装置並びに運転支援装置およびナビゲーション装置およびカメラ装置

Country Status (1)

Country Link
JP (1) JP6213727B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09138869A (ja) * 1995-11-15 1997-05-27 Meidensha Corp 画像整形方法
JP2007226300A (ja) * 2006-02-21 2007-09-06 Aisin Aw Co Ltd 運転支援方法及び運転支援装置
JP2008213744A (ja) * 2007-03-06 2008-09-18 Auto Network Gijutsu Kenkyusho:Kk 車輌周辺視認装置
JP4927647B2 (ja) * 2007-06-08 2012-05-09 アルパイン株式会社 車両周辺監視装置

Also Published As

Publication number Publication date
JP2015065579A (ja) 2015-04-09

Similar Documents

Publication Publication Date Title
JP4596978B2 (ja) 運転支援システム
JP4257356B2 (ja) 画像生成装置および画像生成方法
CN101978694B (zh) 图像处理装置和方法、驾驶支持系统、车辆
TWI524306B (zh) 圖像轉換和多視圖輸出系統及方法
JP5739584B2 (ja) 車両周辺視角化のための3次元映像合成装置およびその方法
KR101617956B1 (ko) 화상 처리 장치, 화상 처리 방법 및 기록 매체
JP5884439B2 (ja) 車両周辺監視用画像生成装置
JP5523730B2 (ja) 車載周辺画像表示装置
JP4248570B2 (ja) 画像処理装置並びに視界支援装置及び方法
JP2009017020A (ja) 画像処理装置及び表示画像生成方法
JP2007109166A (ja) 運転支援システム
TW201739647A (zh) 車輛周圍影像處理方法及裝置
JP2008077628A (ja) 画像処理装置並びに車両周辺視界支援装置及び方法
JP2013110712A5 (ja)
JP5959311B2 (ja) データ導出装置、及び、データ導出方法
CN113490879A (zh) 使用实时光线跟踪以用于透镜重新映射
JP2007180720A (ja) 車両運転支援装置
CN110651295A (zh) 图像处理设备、图像处理方法和程序
KR101436445B1 (ko) 차량 주변 영상 표시 방법
JP2009120135A (ja) 撮像装置
JP7081265B2 (ja) 画像処理装置
JP2009141490A (ja) 合成画像生成装置および合成画像生成方法
JP2012065228A (ja) 画像処理装置、画像表示システム及び画像表示方法
US9067538B2 (en) Drive assist display apparatus
JP3446277B2 (ja) 車両用周囲状況表示装置

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20150903

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170321

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170905

R151 Written notification of patent or utility model registration

Ref document number: 6213727

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151