JP2014215855A - 画像生成装置及び画像生成方法 - Google Patents

画像生成装置及び画像生成方法 Download PDF

Info

Publication number
JP2014215855A
JP2014215855A JP2013093384A JP2013093384A JP2014215855A JP 2014215855 A JP2014215855 A JP 2014215855A JP 2013093384 A JP2013093384 A JP 2013093384A JP 2013093384 A JP2013093384 A JP 2013093384A JP 2014215855 A JP2014215855 A JP 2014215855A
Authority
JP
Japan
Prior art keywords
image
area
virtual viewpoint
transmission
size
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013093384A
Other languages
English (en)
Other versions
JP6148896B2 (ja
Inventor
巧 林田
Takumi Hayashida
巧 林田
正博 山田
Masahiro Yamada
正博 山田
康嘉 澤田
Yasuyoshi Sawada
康嘉 澤田
岡田直之
Naoyuki Okada
直之 岡田
彬翔 元廣
Akinari Motohiro
彬翔 元廣
奨 谷口
Sho Taniguchi
奨 谷口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2013093384A priority Critical patent/JP6148896B2/ja
Publication of JP2014215855A publication Critical patent/JP2014215855A/ja
Application granted granted Critical
Publication of JP6148896B2 publication Critical patent/JP6148896B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)

Abstract

【課題】画質の高い撮影画像を用いて仮想視点画像を正しく生成する。
【解決手段】画像生成装置2では、画像生成部23が、カメラ5の全領域画像の一部のデータを仮想の投影面に投影し、該投影面上のデータを用いて仮想視点からみた仮想視点画像を生成する。また、領域指定部20bは、全領域画像のうち仮想視点画像の生成に必要となる対象領域を仮想視点に応じて指定する。画像取得部21は全領域画像のうちの対象領域に対応する伝送画像をカメラ5から伝送路92を介して受信し、画像メモリ22が記憶領域に伝送画像を記憶する。そして、テーブル選択部20cが記憶領域22aの位置と投影面TS上の位置との対応関係を示す対応テーブル28cを仮想視点に応じて選択し、画像生成部23は選択された対応テーブル28cを用いて記憶領域22aに記憶された伝送画像のデータを投影面に投影する。
【選択図】図1

Description

本発明は、車両の周辺を示す画像を生成する技術に関する。
従来より、自動車などの車両に設けられたカメラで得られた撮影画像を車両内の表示装置に表示する画像表示システムが知られている。このような画像表示システムを利用することにより、ユーザ(代表的にはドライバ)は、車両の周辺の様子をほぼリアルタイムに確認することができる。
また、近年では、カメラで得られた撮影画像を用いて仮想視点からみた車両の周辺を示す仮想視点画像を生成し、その仮想視点画像を表示する画像表示システムも提案されている(例えば、特許文献1参照。)。このような画像表示システムは、例えば、撮影画像のデータを仮想の投影面に投影し、投影面上のデータを用いて仮想視点画像を生成する。このような画像表示システムでは、例えば、車両の上部から車両の周辺を見下ろすような仮想視点画像を表示することができる。
国際公開第00−64175号
近年、上記のような仮想視点画像の画質の改善が要望されている。このため、比較的画素数の大きな撮像素子を有するカメラを採用して画質(解像度)の高い撮影画像を取得し、画像生成装置がこのような画質の高い撮影画像を用いて仮想視点画像を生成することが検討されている。
ただし、このような画質の高い撮影画像はサイズ(データ量)が大きくなる。このため、伝送路の制約などから、カメラの撮像素子の全領域で得られた撮影画像である全領域画像をカメラから画像生成装置に伝送することが困難となる場合がある。これを解消するため、全領域画像のうちの仮想視点画像に必要となる一部の領域のみを、カメラから画像生成装置に伝送することが考えられる。
しかしながら、このように全領域画像の一部の領域のみを画像生成装置に伝送すると、撮影画像のデータと投影面上の位置との対応関係が伝送される領域に応じて変わってしまう。このため、画像生成装置が、撮影画像のデータを投影面上の正しい位置に投影できなくなり、その結果、仮想視点画像を正しく生成できなくなる。
本発明は、上記課題に鑑みてなされたものであり、画質の高い撮影画像を用いて仮想視点画像を正しく生成できる技術を提供することを目的とする。
上記課題を解決するため、請求項1の発明は、カメラを備える車両において用いられる画像生成装置であって、前記カメラの撮像素子の全領域で得られた全領域画像の一部のデータを仮想の投影面に投影し、該投影面上のデータを用いて仮想視点からみた前記車両の周辺を示す仮想視点画像を生成する生成手段と、前記全領域画像のうち前記仮想視点画像の生成に必要となる対象領域を前記仮想視点に応じて指定する指定手段と、前記全領域画像のうちの前記対象領域に対応する伝送画像を、前記カメラから伝送路を介して受信する受信手段と、前記受信手段が受信した前記伝送画像を記憶領域に記憶する記憶手段と、前記記憶領域の位置と前記投影面上の位置との対応関係を示すテーブルデータを、前記仮想視点に応じて選択する選択手段と、を備え、前記生成手段は、前記選択手段に選択されたテーブルデータを用いて、前記記憶領域に記憶された前記伝送画像のデータを前記投影面に投影する。
また、請求項2の発明は、請求項1に記載の画像生成装置において、前記記憶手段において前記伝送画像のために確保される前記記憶領域のサイズは、前記伝送画像のサイズと一致する。
また、請求項3の発明は、請求項1に記載の画像生成装置において、前記記憶手段において前記伝送画像のために確保される前記記憶領域のサイズは、前記全領域画像のサイズと一致し、前記記憶手段は、前記記憶領域に前記全領域画像を記憶させたと仮定した場合に前記対象領域に対応する前記記憶領域中の位置に、前記伝送画像を記憶する。
また、請求項4の発明は、請求項1ないし3のいずれかに記載の画像生成装置において、前記受信手段は、前記対象領域のサイズが前記伝送路において許容される許容サイズを超える場合は、前記許容サイズまで縮小された前記伝送画像を受信する。
また、請求項5の発明は、請求項3に記載の画像生成装置において、前記受信手段は、前記対象領域のサイズが前記伝送路において許容される許容サイズを超える場合は、前記許容サイズまで縮小された前記伝送画像を受信するものであり、前記画像生成装置は、前記受信手段が前記許容サイズまで縮小された前記伝送画像を受信した場合に、前記伝送画像を前記記憶領域に記憶させる前に、前記伝送画像を前記対象領域のサイズまで拡大する拡大手段、をさらに備えている。
また、請求項6の発明は、カメラを備える車両において用いられる画像生成方法であって、(a)前記カメラの撮像素子の全領域で得られた全領域画像の一部のデータを仮想の投影面に投影し、該投影面上のデータを用いて仮想視点からみた前記車両の周辺を示す仮想視点画像を生成する工程と、(b)前記全領域画像のうち前記仮想視点画像の生成に必要となる対象領域を前記仮想視点に応じて指定する工程と、(c)前記全領域画像のうちの前記対象領域に対応する伝送画像を、前記カメラから伝送路を介して受信する工程と、(d)前記工程(c)で受信した前記伝送画像を記憶領域に記憶する工程と、(e)前記記憶領域の位置と前記投影面上の位置との対応関係を示すテーブルデータを、前記仮想視点に応じて選択する工程と、を備え、前記工程(a)は、前記工程(e)で選択されたテーブルデータを用いて、前記記憶領域に記憶された前記伝送画像のデータを前記投影面に投影する。
請求項1ないし6の発明によれば、仮想視点に応じて選択したテーブルデータを用いて伝送画像のデータを投影面に投影するため、全領域画像の一部の伝送画像のみを受信して記憶領域に記憶する場合においても投影面上の正しい位置にデータを投影できる。その結果、画質の高い撮影画像を用いて仮想視点画像を正しく生成できる。
また、特に請求項2の発明によれば、伝送画像のために確保される記憶領域のサイズを小さくすることができる。
また、特に請求項3の発明によれば、全領域画像において対象領域がいずれの位置に指定されたとしても、全領域画像中の同一位置のデータは記憶領域中の同一位置に記憶される。このため、テーブルデータを容易に生成することができる。
また、特に請求項4の発明によれば、伝送路において許容される許容サイズを超える対象領域に対応する伝送画像を受信することができる。
また、特に請求項5の発明によれば、許容サイズまで縮小された伝送画像を受信した場合であっても、対象領域に対応する記憶領域中の位置に伝送画像を記憶することができる。
図1は、第1の実施の形態の画像表示システムの構成を示す図である。 図2は、4つのカメラがそれぞれ撮影する方向を示す図である。 図3は、仮想視点画像を生成する手法の概要を説明する図である。 図4は、フロントモードで表示される表示画像の一例を示す図である。 図5は、サイドモードで表示される表示画像の一例を示す図である。 図6は、上部俯瞰モードで表示される表示画像の一例を示す図である。 図7は、後方俯瞰モードで表示される表示画像の一例を示す図である。 図8は、バックモードで表示される表示画像の一例を示す図である。 図9は、第1の実施の形態における伝送画像を説明する図である。 図10は、カメラの処理の例を示す図である。 図11は、第1の実施の形態の対応テーブルを説明する図である。 図12は、第1の実施の形態の画像表示システムの処理の流れを示す図である。 図13は、第2の実施の形態の画像表示システムの構成を示す図である。 図14は、第2の実施の形態における伝送画像を説明する図である。 図15は、画像生成装置の処理の例を示す図である。 図16は、第2の実施の形態の対応テーブルを説明する図である。 図17は、第2の実施の形態の画像表示システムの処理の流れを示す図である。
以下、図面を参照しつつ本発明の実施の形態について説明する。
<1.第1の実施の形態>
<1−1.構成>
図1は、第1の実施の形態の画像表示システム10の構成を示す図である。この画像表示システム10は、車両(本実施の形態では、自動車)において用いられるものであり、車両の周辺を示す画像を生成して車室内に表示する機能を有している。画像表示システム10のユーザ(代表的にはドライバ)は、この画像表示システム10を利用することにより、当該車両の周辺の様子をほぼリアルタイムに把握できる。
図に示すように、画像表示システム10は、複数のカメラ5、画像生成装置2、表示装置3、及び、操作ボタン4を備えている。複数のカメラ5はそれぞれ、車両の周辺を撮影して撮影画像を取得し、取得した撮影画像を画像生成装置2に送信する。画像生成装置2は、複数のカメラ5で取得された撮影画像を受信し、これらの撮影画像を用いて表示装置3に表示するための表示画像を生成する。表示装置3は、画像生成装置2で生成された表示画像を表示する。また、操作ボタン4は、ユーザの操作を受け付ける。
複数のカメラ5はそれぞれ、CCDなどの撮像素子とレンズとを備えており、車両の周辺を示す撮影画像を電子的に取得する。複数のカメラ5は、フロントカメラ5F、左サイドカメラ5L、右サイドカメラ5R及びリアカメラ5Bを含んでいる。これら4つのカメラ5F,5L,5R,5Bは、車両9において互いに異なる位置に配置され、車両9の周辺の異なる方向を撮影する。
図2は、4つのカメラ5F,5L,5R,5Bがそれぞれ撮影する方向を示す図である。フロントカメラ5Fは、車両9の前端に設けられ、その光軸5Faは車両9の前後方向に沿って前方に向けられる。左サイドカメラ5Lは、左側の左サイドミラー95Lに設けられ、その光軸5Laは車両9の左右方向に沿って左側方に向けられる。右サイドカメラ5Rは、右側の右サイドミラー95Rに設けられ、その光軸5Raは車両9の左右方向に沿って右側方に向けられる。また、リアカメラ5Bは、車両9の後端に設けられ、その光軸5Baは車両9の前後方向に沿って後方に向けられる。
これらのカメラ5のレンズには魚眼レンズなどの広角レンズが採用され、各カメラ5は180度以上の画角θを有している。このため、4つのカメラ5F,5L,5R,5Bを利用することで、車両9の全周囲を撮影することが可能である。
図1に示すように、これら4つのカメラ5はそれぞれ、取得した撮影画像を映像ケーブルなどの伝送路92を介して画像生成装置2に伝送する。各カメラ5は、取得した撮影画像を例えばNTSC方式の映像信号に変換し、この映像信号を伝送路92を介して画像生成装置2に送信する。
表示装置3は、例えば、液晶などの薄型の表示パネルを備えており、各種の情報や画像を表示する。表示装置3は、ユーザが表示パネルの画面を視認できるように、車両9のインストルメントパネルなどに配置される。表示装置3は、画像生成装置2と同一のハウジング内に配置されて画像生成装置2と一体化されていてもよく、画像生成装置2とは別体の装置であってもよい。また、表示装置3は、表示パネルに重ねてタッチパネル31を備えており、ユーザの操作を受け付けることが可能である。表示装置3は、画像等を表示する機能以外に、目的地までのルート案内を行うナビゲーション機能などの他の機能を有していてもよい。
操作ボタン4は、ユーザの操作を受け付ける操作部材である。操作ボタン4は、例えば、車両9のステアリングホイールに設けられており、主にドライバからの操作を受け付ける。ユーザは、この操作ボタン4、及び、表示装置3のタッチパネル31を介して画像表示システム10に対する各種の操作を行うことができる。操作ボタン4及びタッチパネル31のいずれかにユーザの操作がなされた場合は、その操作の内容を示す操作信号が画像生成装置2に入力される。
画像生成装置2は、各種の画像処理が可能な電子装置である。画像生成装置2は、画像取得部21と、画像メモリ22と、画像生成部23と、画像出力部24とを備えている。
画像取得部21は、4つのカメラ5でそれぞれ得られた撮影画像を取得する。画像取得部21は、各カメラ5から送信された例えばNTSC方式の映像信号を伝送路92を介して受信する。画像取得部21は、受信した映像信号に含まれる撮影画像をデジタルの撮影画像に変換し、そのデジタルの撮影画像を画像メモリ22に記憶させる。
画像メモリ22は、例えば、DRAMなどの揮発性のメモリであり、内部の記憶領域に撮影画像を記憶する。画像メモリ22の記憶領域は、処理の対象とする撮影画像を一時的に記憶するバッファとして機能する。
画像生成部23は、所定の画像処理を行うハードウェア回路である。画像生成部23は、画像メモリ22に記憶された4つの撮影画像(4つのカメラ5で得られた4つの撮影画像)の少なくとも一部のデータを用いて、仮想視点からみた車両9の周辺を示す仮想視点画像を生成する。この仮想視点画像を生成する手法の詳細については後述する。
画像出力部24は、表示用の表示画像を表示装置3に出力して、表示画像を表示装置3に表示させる。画像出力部24は、画像生成部23で生成された仮想視点画像を含む表示画像を生成し、この表示画像を表示装置3に出力する。これにより、仮想視点からみた車両9の周辺を示す仮想視点画像が表示装置3に表示される。
また、画像生成装置2は、制御部20と、操作受付部25と、信号受信部26と、信号送信部27と、記憶部28とをさらに備えている。制御部20は、例えば、CPU、RAM及びROMなどを備えたマイクロコンピュータであり、画像表示システム10の全体を統括的に制御する。
操作受付部25は、ユーザが操作を行った場合に操作ボタン4及びタッチパネル31から送出される操作信号を受信する。これにより、操作受付部25はユーザの操作を受け付ける。操作受付部25は、受信した操作信号を制御部20に入力する。
信号受信部26は、画像生成装置2とは別に車両9に設けられる他の装置から送出される信号をCANなどの車載ネットワーク93を介して受信する。信号受信部26は、受信した信号を制御部20に入力する。信号受信部26は、例えば、シフトセンサ91から送出される信号を受信可能となっている。シフトセンサ91は、車両9の変速装置のシフトレバーの位置であるシフトポジションを検出し、そのシフトポジションを示す信号を画像生成装置2に送出する。
信号送信部27は、制御部20の制御により、画像生成装置2とは別に車両9に設けられる他の装置に対して各種の制御信号をCANなどの車載ネットワーク94を介して送信する。信号送信部27は、例えば、4つのカメラ5のそれぞれに対して車載ネットワーク94を介して信号を送信可能となっている。車載ネットワーク93と車載ネットワーク94とは別のネットワークであっても、同一のネットワークであってもよい。
記憶部28は、例えば、フラッシュメモリなどの不揮発性のメモリであり、画像処理に必要な各種の情報を記憶する。記憶部28は、ファームウェアとしてのプログラム28aの他、領域データ28b及び対応テーブル28cを記憶する。領域データ28b及び対応テーブル28cはそれぞれ、画像表示システム10の動作モードに対応する複数のものが予め記憶部28に記憶されている(詳細は後述。)。
制御部20の各種の機能は、記憶部28に記憶されたプログラム28aの実行(プログラム28aに従ったCPUの演算処理)によって実現される。図中に示すモード制御部20a、領域指定部20b及びテーブル選択部20cは、プログラム28aの実行により実現される機能部の一部である。
モード制御部20aは、画像表示システム10の動作モードに関する制御を行う。領域指定部20bは、カメラ5が取得する撮影画像のうちの仮想視点画像の生成に必要となる対象領域を指定する。また、テーブル選択部20cは、仮想視点画像の生成に用いる対応テーブル28cを選択する。これらの機能の詳細については、後述する。
<1−2.仮想視点画像の生成>
次に、画像生成部23が、仮想視点からみた車両9の周辺の様子を示す仮想視点画像を生成する手法の概要について説明する。図3は、画像生成部23が仮想視点画像を生成する手法の概要を説明する図である。
4つのカメラ5は、車両9の前方、後方、左側方及び右側方をそれぞれ示す4つの撮影画像FPを取得する。これら4つの撮影画像FPには、車両9の全周囲のデータが含まれている。
画像生成部23は、これら4つの撮影画像FPに含まれるデータ(画素データ)を、仮想的な三次元空間における立体的な曲面である投影面TSに投影(マッピング)する。投影面TSは、例えば、略半球状(お椀形状)をしており、その中心領域(お椀の底部分)は車両9の位置となる車両領域R0として定められている。
また、投影面TSにおける車両領域R0の外側の領域である投影領域R1は、車両9の周辺の領域に相当する。画像生成部23は、撮影画像FPに含まれるデータをこの投影面TSの投影領域R1に投影する。画像生成部23は、フロントカメラ5Fの撮影画像FPのデータを車両9の前方、左サイドカメラ5Lの撮影画像FPのデータを車両9の左側方、右サイドカメラ5Rの撮影画像FPのデータを車両9の右側方、リアカメラ5bの撮影画像FPのデータを車両9の後方にそれぞれ相当する投影面TSの部分に投影する。
このように投影面TSの投影領域R1に撮影画像のデータを投影すると、次に、画像生成部23は、車両9の三次元形状を示すポリゴンのモデルを仮想的に構成する。この車両9のモデルは、投影面TSが設定される三次元空間における車両9の位置である車両領域R0に配置される。
次に、画像生成部23は、モード制御部20aが設定した仮想視点VPを三次元空間に設置する。この仮想視点VPは、視点位置と視線方向とで規定される。画像生成部23は、任意の視点位置、かつ、任意の視線方向の仮想視点VPを3次元空間に設置できる。
次に、画像生成部23は、投影面TSのうち、仮想視点VPからみて所定の視野角に含まれる領域に投影されたデータを画像として切り出す。また、画像生成部23は、仮想視点VPに基づいて車両9のモデルに関してレンダリングを行い、その結果となる二次元の車両像90を切り出した画像に対して重畳する。これにより、画像生成部23は、仮想視点VPからみた車両9及び車両9の周辺の様子を示す仮想視点画像CPを生成する。
例えば、図3に示すように、視点位置を車両9の直上、視線方向を直下とした仮想視点VPaを設定した場合には、車両9及び車両9の周辺を俯瞰する仮想視点画像CPaを生成できる。また、視点位置を車両9の左後方、視線方向を車両9の前方とした仮想視点VPbを設定した場合には、車両9の左後方からみた車両9及び車両9の周辺を示す仮想視点画像CPbを生成できる。
このような仮想視点画像CPの生成においては、4つの撮影画像FPに含まれる全てのデータを投影面TSに投影する必要はない。画像生成部23は、4つの撮影画像FPに含まれる全てのデータのうちの一部の、仮想視点画像CPの生成に必要となる領域のデータを投影面TSに投影する。仮想視点画像CPの生成に必要となる領域は、仮想視点VPごとに異なる。そして、この仮想視点VPは、画像表示システム10の動作モードに応じて設定されることになる。
<1−3.動作モード>
次に、画像表示システム10の動作モードについて説明する。画像表示システム10は、表示装置3が表示する仮想視点画像が互いに異なる5つの動作モードを備えている。この5つの動作モードは、例えば、フロントモード、サイドモード、上部俯瞰モード、後方俯瞰モード及びバックモードである。
図4は、フロントモードM1で表示される仮想視点画像CP1を含む表示画像DPの一例を示す図である。フロントモードM1の仮想視点画像CP1は、フロントカメラ5Fの位置からみた車両9の前方を示している。フロントモードM1では、視点位置をフロントカメラ5Fの位置とした仮想視点VPが設定される。
図5は、サイドモードM2で表示される仮想視点画像CP2を含む表示画像DPの一例を示す図である。サイドモードM2の仮想視点画像CP2は、左サイドカメラ5Lの位置からみた車両9の左側方を示している。サイドモードM2では、視点位置を左サイドカメラ5Lの位置とした仮想視点VPが設定される。
図6は、上部俯瞰モードM3で表示される仮想視点画像CP3を含む表示画像DPの一例を示す図である。上部俯瞰モードM3の仮想視点画像CP3は、車両9の直上から俯瞰するように車両9の周辺を示している。上部俯瞰モードM3では、視点位置を車両9の直上とした仮想視点VPが設定される。
図7は、後方俯瞰モードM4で表示される仮想視点画像CP4を含む表示画像DPの一例を示す図である。後方俯瞰モードM4の仮想視点画像CP4は、車両9の後方上部から俯瞰するように車両9の周辺を示している。後方俯瞰モードM4では、視点位置を車両9の後方上部とした仮想視点VPが設定される。
図8は、バックモードM5で表示される仮想視点画像CP5を含む表示画像DPの一例を示す図である。バックモードM5の仮想視点画像CP5は、リアカメラ5Bの位置からみた車両9の後方を示している。バックモードM5では、視点位置をリアカメラ5Bの位置とした仮想視点VPが設定される。
このようにこれら5つの動作モードにおいては、仮想視点画像を生成する際に設定される仮想視点VPが互いに異なっている。モード制御部20aは、ユーザの操作やシフトポジションなどに基づいてこのような動作モードを変更する。モード制御部20aは、動作モードを変更すると、変更後の動作モードに応じた仮想視点VPを設定し、設定した仮想視点VPを画像生成部23に入力する。これにより、画像生成部23は、設定された仮想視点VPからみた仮想視点画像を生成する。
また、このように動作モード(仮想視点VP)が異なると、それに応じて、4つの撮影画像FPに含まれる全てのデータのうち仮想視点画像の生成に必要となる領域も異なることになる。例えば、サイドモードM2では、左サイドカメラ5Lで得られた撮影画像のうちの、車両9のフロントフェンダ付近の領域のみが仮想視点画像の生成に必要となる。また、例えば、後方俯瞰モードM4では、4つのカメラ5で得られた4つの撮影画像それぞれの比較的広い領域が仮想視点画像の生成に必要となる。
<1−4.伝送画像の伝送>
ところで、4つのカメラ5のそれぞれは、例えば、縦960×横1280画素の撮像素子を備えている。このため、各カメラ5では、比較的画質(解像度)の高い縦960×横1280画素の撮影画像が得られる。以下、各カメラ5の撮像素子の全領域で得られる縦960×横1280画素の撮影画像を「全領域画像」という。
一方で、カメラ5から画像生成装置2へ撮影画像を伝送する際の経路となる伝送路92を介して伝送できる画像のサイズには制限がある。本実施の形態では、カメラ5から画像生成装置2へ伝送路92を介して伝送できる画像のサイズは、最大で縦480×横720画素である。
このため、本実施の形態では、各カメラ5で得られた全領域画像のうち仮想視点画像の生成に必要となる対象領域に対応する撮影画像のみを伝送画像として、カメラ5から画像生成装置2へ伝送するようにしている。これにより、伝送路92において伝送できる画像のサイズに制限がある場合であっても、比較的画質(解像度)の高い撮影画像をカメラ5から画像生成装置2へ伝送できるようになっている。
画像生成装置2の領域指定部20bは、各カメラ5の全領域画像のうち仮想視点画像の生成に必要となる対象領域を、動作モード(仮想視点VP)に応じて特定する。記憶部28には、5つの動作モードにそれぞれ対応した5つの領域データ28bが予め記憶されている。これらの領域データ28bは、対応する動作モードにおいて仮想視点画像の生成に必要となる対象領域を示している。領域指定部20bは、その時点の動作モードに対応した領域データ28bを参照することで、仮想視点画像の生成に必要となる対象領域を仮想視点に応じて特定する。
領域指定部20bは、対象領域を特定すると、特定した対象領域を指定する信号である領域指定信号を信号送信部27を介して各カメラ5に送信する。これにより、領域指定部20bは、各カメラ5の全領域画像のうち仮想視点画像の生成に必要となる対象領域を指定する。各カメラ5は、この領域指定信号に基づいて、全領域画像のうち領域指定信号が指定する対象領域に対応する伝送画像を、伝送路92を介して画像生成装置2に送信することになる。
図9は、4つのカメラ5から画像生成装置2へ伝送される伝送画像TPを説明するための図である。前述のように4つのカメラ5のそれぞれは、縦960×横1280画素の撮像素子を備えている。このため、図9に示すように、各カメラ5においては、縦960×横1280画素の全領域画像FPが取得される。
このような全領域画像FPのうち、仮想視点画像の生成に必要となる対象領域DAが画像生成装置2から送信される領域指定信号によって指定される。全領域画像FPのうち対象領域DAとして指定される領域は、各カメラ5ごとに異なっている。
各カメラ5は、全領域画像FPから指定された対象領域DAを切り出し、対象領域DAに対応する伝送画像TPを伝送路92を介して画像生成装置2に伝送する。伝送される伝送画像TPのサイズは、伝送路92において許容される最大のサイズ(以下、「許容サイズ」という。)に合わせて、縦480×横720画素とされる。
また、領域指定部20bは、対象領域DAとして許容サイズ以上のサイズの領域を指定できるようになっている。各カメラ5は、指定された対象領域DAのサイズが許容サイズ(縦480×横720画素)と同一の場合は、全領域画像FPのうちから対象領域DAを切り出した切出画像を、そのまま伝送画像TPとして画像生成装置2に送信する。一方、各カメラ5は、指定された対象領域DAのサイズが許容サイズを超える場合は、全領域画像FPのうちから対象領域DAを切り出した切出画像を許容サイズまで縮小し、縮小した切出画像を伝送画像TPとして画像生成装置2に送信する。
図10は、対象領域DAのサイズが許容サイズを超える場合におけるカメラ5の処理の例を示す図である。図10は、全領域画像FPのうち許容サイズを超える縦700×横900画素の領域が対象領域DAとして指定された場合を示している。
全領域画像FPからこの対象領域DAを切り出した切出画像PPのサイズは、縦700×横900画素となる。このため、切出画像PPは、そのままでは伝送路92を介して画像生成装置2に伝送することができない。このため、カメラ5は、切出画像PPに縮小処理を行い、許容サイズ(縦480×横720画素)まで縮小した切出画像を伝送画像TPとして生成する。そして、カメラ5は、この伝送画像TPを伝送路92を介して画像生成装置2に送信する。
<1−5.投影面への投影>
画像生成装置2の画像取得部21は、このようにして各カメラ5から伝送路92を介して伝送された伝送画像TPを受信する。対象領域DAのサイズが許容サイズを超える場合においては、画像取得部21は、カメラ5において許容サイズまで縮小された伝送画像TPを受信することになる。
図9に示すように、画像取得部21は、4つのカメラ5から受信した4つの伝送画像TPを画像メモリ22に記憶させる。画像メモリ22には、これら4つの伝送画像TPをそれぞれ記憶するために、4つの記憶領域22aが確保されている。各記憶領域22aのサイズ(記憶容量)は、伝送画像TPのサイズ(データ量)と一致している。すなわち、各記憶領域22aのサイズは、縦480×横720画素の画像を記憶するサイズとなっている。したがって、各記憶領域22aは、伝送画像TPをそのままのサイズで記憶することができる。
画像生成部23は、このようにして画像メモリ22の各記憶領域22aに記憶された伝送画像TPを用いて仮想視点画像を生成する。図11に示すように、画像生成部23は、記憶領域22aの位置(アドレス)と投影面TS上の位置との対応関係を示すテーブルデータである対応テーブル28cを用いて、記憶領域22aに記憶された伝送画像TPのデータを投影面TSに投影する。
前述のように、伝送画像TPは、全領域画像FPのうち動作モード(仮想視点VP)に応じて指定された対象領域DAに対応する撮影画像である。このため、記憶領域22aの位置と投影面TS上の位置との対応関係は、動作モード(仮想視点VP)ごとに異なる。
このため、画像生成装置2のテーブル選択部20cは、画像生成部23が用いるべき対応テーブル28cを、動作モード(仮想視点VP)に応じて選択する。記憶部28には、5つの動作モードにそれぞれ対応した5つの対応テーブル28cが予め記憶されている。これらの対応テーブル28cは、対応する動作モードにおける、記憶領域22aの位置と投影面TS上の位置との適切な対応関係を示している。テーブル選択部20cは、その時点の動作モードに対応した対応テーブル28cを選択することで、画像生成部23が用いるべき対応テーブル28cを選択できる。
画像生成部23は、このように選択された対応テーブル28cを用いて、記憶領域22aに記憶された伝送画像TPのデータを投影面TSに投影する。これにより、投影面TS上の正しい位置に伝送画像TPのデータを投影できる。すなわち、全領域画像FPの一部の対象領域DAに対応する伝送画像TSのみを伝送し、その伝送画像TSを記憶領域22aに記憶した場合においても、投影面TS上の正しい位置に撮影画像のデータを投影できることになる。
<1−6.処理の流れ>
次に、画像表示システム10の処理の流れについて説明する。図12は、画像表示システム10の処理の流れを示す図である。図中の左側は画像生成装置2の処理を示し、図中の右側はカメラ5の処理を示している。なお、画像表示システム10は、4つのカメラ5を備えているが、これら4つのカメラ5の処理は同一であることから、図12では1つのカメラ5の処理を代表的に示している。図12の処理は、画像生成装置2のモード制御部20aが、画像表示システム10の動作モードを変更した時点を開始時点としている。
まず、モード制御部20aが、変更後の動作モードに応じた仮想視点VPを設定する(ステップS11)。モード制御部20aは、設定した仮想視点VPを画像生成部23に入力する。
次に、領域指定部20bが、領域データ28bに基づいて、変更後の動作モード(仮想視点VP)に応じて各カメラ5の全領域画像FPのうち仮想視点画像の生成に必要となる対象領域DAを特定する。そして、領域指定部20bは、特定した対象領域DAを指定する領域指定信号を信号送信部27を介して各カメラ5に送信する(ステップS12)。
カメラ5は、領域指定部20bから送信された領域指定信号を受信する(ステップS51)。以降、カメラ5は、ステップS52〜S56の処理を所定周期(例えば、1/30秒周期)で繰り返す。
具体的にはまず、カメラ5は、撮像素子の全領域を用いて、比較的画質(解像度)の高い全領域画像FPを取得する(ステップS52)。次に、カメラ5は、全領域画像FPのうち領域指定信号が指定する対象領域DAを切り出して切出画像を生成する(ステップS53)。
次に、カメラ5は、指定された対象領域DAのサイズが、伝送路92において許容される許容サイズを超えるか否かを判定する(ステップS54)。対象領域DAのサイズが許容サイズを超える場合は(ステップS54にてYes)、切出画像を許容サイズまで縮小して伝送画像TPを生成する(ステップS55)。一方、対象領域DAのサイズが許容サイズと一致する場合は、切出画像をそのまま伝送画像TPとする。
そして、カメラ5は、生成した伝送画像TPを、伝送路92を介して画像生成装置2に送信する(ステップS56)。このような処理により、比較的画質(解像度)の高い撮影画像がカメラ5から画像生成装置2へ伝送される。このようなステップS52〜S56の処理が所定周期が繰り返されるため、伝送画像TPが所定周期で繰り返しカメラ5から画像生成装置2へ伝送されることになる。
画像生成装置2の画像取得部21は、このようにして各カメラ5から伝送路92を介して伝送された伝送画像TPを受信する(ステップS13)。そして、画像取得部21は、受信した伝送画像TPをそのままのサイズで画像メモリ22の対応する記憶領域22aに記憶させる(ステップS14)。これにより、画像メモリ22は、4つの伝送画像TPを4つの記憶領域22aにそれぞれ記憶する。
次に、テーブル選択部20cが、その時点の動作モード(仮想視点VP)に応じて、画像生成部23が用いるべき対応テーブル28cを選択する(ステップS15)。なお、この対応テーブル28cを選択する処理は、ステップS13より前に行われてもよい。
次に、画像生成部23は、選択された対応テーブル28cを用いて、画像メモリ22の記憶領域22aに記憶された伝送画像TPのデータを投影面TSに投影する。そして、画像生成部23は、投影面TS上に投影されたデータを用いて仮想視点画像を生成する(ステップS16)。画像生成部23は、選択された対応テーブル28cを用いることで、投影面TS上の正しい位置に伝送画像TPのデータを投影できる。その結果、画像生成部23は、比較的画質(解像度)の高い撮影画像を用いて仮想視点画像を正しく生成できる。
次に、画像出力部24は、画像生成部23で生成された仮想視点画像を含む表示画像を生成し、この表示画像を表示装置3に出力する(ステップS17)。これにより、仮想視点VPからみた車両9の周辺を示す仮想視点画像が表示装置3に表示される。
次に、モード制御部20aが、現在の動作モードを維持するかどうかを判定し(ステップS18)、動作モードを維持する場合は処理はステップS13に戻る。これにより、再び、画像取得部21が各カメラ5から伝送された伝送画像TPを受信することになる。
以上のように、本実施の形態の画像生成装置2では、画像生成部23が、カメラ5の撮像素子の全領域で得られた全領域画像FPの一部のデータを仮想の投影面TSに投影し、該投影面TS上のデータを用いて仮想視点VPからみた車両の周辺を示す仮想視点画像を生成する。また、領域指定部20bは、全領域画像FPのうち仮想視点画像の生成に必要となる対象領域DAを仮想視点VPに応じて指定する。画像取得部21は全領域画像FPのうちの対象領域DAに対応する伝送画像TPをカメラ5から伝送路92を介して受信し、この画像取得部21が受信した伝送画像TPを画像メモリ22が記憶領域22aに記憶する。そして、テーブル選択部20cが記憶領域22aの位置と投影面TS上の位置との対応関係を示す対応テーブル28cを仮想視点VPに応じて選択し、画像生成部23は選択された対応テーブル28cを用いて記憶領域22aに記憶された伝送画像TPのデータを投影面TSに投影する。
このように仮想視点VPに応じて選択した対応テーブル28cを用いて、伝送画像TPのデータを投影面TSに投影する。このため、伝送路92の制約により、全領域画像FPの一部の伝送画像TPのみを伝送して記憶領域22aに記憶する場合においても、投影面TS上の正しい位置にデータを投影できる。その結果、画質の高い撮影画像を用いて仮想視点画像を正しく生成できる。
また、画像メモリ22において伝送画像TPのために確保される記憶領域22aのサイズは、伝送画像TPのサイズと一致する。このため、伝送画像TPのために確保される記憶領域22aのサイズを最小限にすることができる。
また、画像取得部21は、対象領域DAのサイズが伝送路92において許容される許容サイズを超える場合は、許容サイズまで縮小された伝送画像TPを受信する。このため、画像生成装置2は、許容サイズを超える対象領域DAに対応する伝送画像TPを取得することができる。
<2.第2の実施の形態>
次に、第2の実施の形態について説明する。第2の実施の形態の画像表示システム10の構成及び動作は、第1の実施の形態とほぼ同様であるため、以下、第1の実施の形態との相違点を中心に説明する。第1の実施の形態では、画像メモリ22において伝送画像TPのために確保される記憶領域22aのサイズは、伝送画像TPのサイズと一致していた。これに対して、第2の実施の形態では、画像メモリ22において伝送画像TPのために確保される記憶領域のサイズは、カメラ5の撮像素子の全領域で得られる全領域画像FPのサイズと一致している。
図13は、第2の実施の形態の画像表示システム10の構成を示す図である。第2の実施の形態の画像表示システム10においては、画像取得部21が、伝送画像TPを拡大する拡大処理を行う拡大部21aを備えている。また、記憶部28は、第1の実施の形態の対応テーブル28cとは異なる対応テーブル28dを記憶している。記憶部28には、5つの動作モードにそれぞれ対応した5つの対応テーブル28dが予め記憶される。画像表示システム10のその他の構成は、図1に示す第1の実施の形態の構成と同様である。
図14は、第2の実施の形態において、4つのカメラ5から画像生成装置2へ伝送される伝送画像TPを説明するための図である。第2の実施の形態におけるカメラ5の処理は、第1の実施の形態と同一である。したがって、各カメラ5は、指定された対象領域DAのサイズが許容サイズ(縦480×横720画素)と同一の場合は、全領域画像FPのうちから対象領域DAを切り出した切出画像を、そのまま伝送画像TPとして画像生成装置2に送信する。また、各カメラ5は、指定された対象領域DAのサイズが許容サイズを超える場合は、全領域画像FPのうちから対象領域DAを切り出した切出画像を許容サイズまで縮小し、縮小した切出画像を伝送画像TPとして画像生成装置2に送信する。
画像生成装置2の画像取得部21は、このようにして各カメラ5から伝送路92を介して伝送された伝送画像TPを受信する。そして、画像取得部21は、4つのカメラ5から受信した4つの伝送画像TPを画像メモリ22に記憶させる。本実施の形態においても、画像メモリ22には、これら4つの伝送画像TPをそれぞれ記憶するために、4つの記憶領域22bが確保されている。ただし、各記憶領域22bのサイズ(記憶容量)は、伝送画像TPのサイズより大きく、全領域画像FPのサイズ(データ量)と一致している。すなわち、各記憶領域22bのサイズは、例えば、縦960×横1280画素の画像を記憶するサイズとなっている。
画像取得部21は、このような記憶領域22bに伝送画像TPを記憶させる場合に、記憶領域22bにおいて伝送画像TPを記憶させる位置を、全領域画像FPにおける対象領域DAの位置に合うように調整する。これにより、画像取得部21は、記憶領域22bに全領域画像FPを記憶させたと仮定した場合に対象領域DAに対応する記憶領域22b中の位置に、伝送画像TPを記憶させる。すなわち、全領域画像FPにおける対象領域DAの位置と、記憶領域22bにおける伝送画像TPの位置とが一致される。
また、画像取得部21は、対象領域DAのサイズが許容サイズを超える場合においては、許容サイズまで縮小された伝送画像TPを受信することになる。この場合は、画像取得部21の拡大部21aが、伝送画像TPを記憶領域22bに記憶させる前に、伝送画像TPを対象領域DAのサイズまで拡大する。
図15は、許容サイズまで縮小された伝送画像TPを受信した場合における画像生成装置2の処理の例を示す図である。図15は、図10と同様の縦700×横900画素の対象領域DAが指定され、許容サイズ(縦480×横720画素)まで縮小された伝送画像TPがカメラ5から画像生成装置2に伝送された場合を示している。
画像取得部21の拡大部21aは、このように許容サイズまで縮小された伝送画像TPを、縦700×横900画素の対象領域DAのサイズまで拡大する。そして、画像取得部21は、伝送画像TPを記憶させる位置を全領域画像FPにおける対象領域DAの位置に合うように調整しつつ、拡大した伝送画像TPを記憶領域22bに記憶させる。したがって、この場合も、全領域画像FPにおける対象領域DAの位置と、記憶領域22bにおける伝送画像TPの位置とが一致される。
このようにして画像メモリ22は、記憶領域22bに全領域画像FPを記憶させたと仮定した場合に対象領域DAに対応する記憶領域22b中の位置に、伝送画像TPを記憶することになる。画像メモリ22が、このように伝送画像TPを記憶することで、全領域画像FPにおいて対象領域DAがいずれの位置に指定されたとしても、全領域画像FP中の同一位置のデータは、記憶領域22b中の同一位置に記憶できることになる。したがって、記憶領域22bの位置(アドレス)と投影面TS上の位置との対応関係は、動作モード(仮想視点VP)が変更されたとしても不変となる。
本実施の形態においては、図16に示すように、画像生成部23は、記憶領域22bの位置(アドレス)と投影面TS上の位置との対応関係を示すテーブルデータである対応テーブル28dを用いて、記憶領域22bに記憶された伝送画像TPのデータを投影面TSに投影する。そして、画像生成部23が用いるべき対応テーブル28dは、テーブル選択部20cが動作モード(仮想視点VP)に応じて選択する。
ただし、本実施の形態においては、記憶領域22bの位置と投影面TS上の位置との対応関係は不変のため、動作モードごとの対応テーブル28dは、仮想視点画像CPの生成に必要となる領域(投影面TSに投影する領域)のみを動作モードに応じて変えたものとすればよい。このため、動作モードに応じた対応テーブル28dを容易に生成することが可能となる。
次に、第2の実施の形態の画像表示システム10の処理の流れについて説明する。図17は、第2の実施の形態の画像表示システム10の処理の流れを示す図である。図中の左側は画像生成装置2の処理を示し、図中の右側はカメラ5の処理を示している。図17の処理も、画像生成装置2のモード制御部20aが、画像表示システム10の動作モードを変更した時点を開始時点としている。
まず、モード制御部20aが、変更後の動作モードに応じた仮想視点VPを設定する(ステップS21)。次に、領域指定部20bが、変更後の動作モード(仮想視点VP)に応じて全領域画像FPのうちの対象領域DAを特定する。そして、領域指定部20bは、特定した対象領域DAを指定する領域指定信号を信号送信部27を介して各カメラ5に送信する(ステップS22)。
カメラ5は、領域指定部20bから送信された領域指定信号を受信する(ステップS51)。以降、第1の実施の形態と同様に、カメラ5は、ステップS52〜S56の処理を所定周期(例えば、1/30秒周期)で繰り返す。これにより、伝送画像TPが所定周期で繰り返しカメラ5から画像生成装置2へ伝送される。
画像生成装置2の画像取得部21は、各カメラ5から伝送路92を介して伝送された伝送画像TPを受信する(ステップS23)。次に、画像取得部21は、受信した各伝送画像TPが許容サイズまで縮小されたものであるか否かを判定する(ステップS24)。画像取得部21は、領域指定部20bが特定した対象領域DAのサイズに基づいて、伝送画像TPが許容サイズまで縮小されたものであるか否かを判定できる。
伝送画像TPが許容サイズまで縮小されたものである場合は(ステップS24にてYes)、拡大部21aが伝送画像TPを対象領域DAのサイズまで拡大する(ステップS25)。一方、伝送画像TPが縮小されたものでない場合は、伝送画像TPをそのままのサイズとする。
そして、画像取得部21は、伝送画像TPを記憶させる位置を全領域画像FPにおける対象領域DAの位置に合うように調整しつつ、伝送画像TPを記憶領域22bに記憶させる(ステップS26)。これにより、画像メモリ22は、記憶領域22bに全領域画像FPを記憶させたと仮定した場合に対象領域DAに対応する記憶領域22b中の位置に、伝送画像TPを記憶する。画像メモリ22は、4つの伝送画像TPを4つの記憶領域22bにそれぞれ記憶する。
次に、テーブル選択部20cが、その時点の動作モード(仮想視点VP)に応じて、画像生成部23が用いるべき対応テーブル28dを選択する(ステップS27)。次に、画像生成部23が、選択された対応テーブル28dを用いて、画像メモリ22の記憶領域22bに記憶された伝送画像TPのデータを投影面TSに投影する。そして、画像生成部23は、投影面TS上に投影されたデータを用いて仮想視点画像を生成する(ステップS28)。
次に、画像出力部24は、画像生成部23で生成された仮想視点画像を含む表示画像を生成し、この表示画像を表示装置3に出力する(ステップS29)。これにより、仮想視点VPからみた車両9の周辺を示す仮想視点画像が表示装置3に表示される。次に、モード制御部20aが、現在の動作モードを維持するかどうかを判定し(ステップS30)、動作モードを維持する場合は処理はステップS23に戻る。
以上のように第2の実施の形態の画像生成装置2では、画像メモリ22において伝送画像TPのために確保される記憶領域22bのサイズは、全領域画像FPのサイズと一致する。画像メモリ22は、記憶領域22bに全領域画像FPを記憶させたと仮定した場合に対象領域DAに対応する記憶領域22b中の位置に、伝送画像TPを記憶する。これにより、全領域画像FPにおいて対象領域DAがいずれの位置に指定されたとしても、全領域画像FP中の同一位置のデータは記憶領域22b中の同一位置に記憶される。このため、対応テーブル28dを容易に生成することができる。
また、拡大部21aは、画像取得部21が許容サイズまで縮小された伝送画像TPを受信した場合に、伝送画像TPを記憶領域22aに記憶させる前に、伝送画像TPを対象領域DAのサイズまで拡大する。このため、許容サイズまで縮小された伝送画像TPを受信した場合であっても、対象領域DAに対応する記憶領域22b中の位置に伝送画像TPを記憶することができる。
<3.変形例>
以上、本発明の実施の形態について説明してきたが、この発明は上記実施の形態に限定されるものではなく様々な変形が可能である。以下では、このような変形例について説明する。上記実施の形態及び以下で説明する形態を含む全ての形態は、適宜に組み合わせ可能である。
上記実施の形態では、領域指定部20bは、対象領域DAとして許容サイズ以上のサイズの領域を指定するようになっていたが、対象領域DAとして許容サイズ未満のサイズの領域を指定できるようになっていてもよい。
また、上述した全領域画像FPのサイズや伝送画像TPのサイズは一例であり、これらは他のサイズであってもよい。
また、上記実施の形態において一つのブロックとして説明した機能は必ずしも単一の物理的要素によって実現される必要はなく、分散した物理的要素によって実現されてよい。また、上記実施の形態で複数のブロックとして説明した機能は単一の物理的要素によって実現されてもよい。また、車両内の装置と車両外の装置とに任意の一つの機能に係る処理を分担させ、これら装置間において通信によって情報の交換を行うことで、全体として当該一つの機能が実現されてもよい。
また、上記実施の形態においてプログラムの実行によってソフトウェア的に実現されると説明した機能の全部又は一部は電気的なハードウェア回路により実現されてもよく、ハードウェア回路によって実現されると説明した機能の全部又は一部はソフトウェア的に実現されてもよい。また、上記実施の形態において一つのブロックとして説明した機能が、ソフトウェアとハードウェアとの協働によって実現されてもよい。
2 画像生成装置
5 カメラ
10 画像表示システム
20b 領域指定部
20c テーブル選択部
21 画像取得部
22 画像メモリ
22a 記憶領域
22b 記憶領域
23 画像生成部
92 伝送路

Claims (6)

  1. カメラを備える車両において用いられる画像生成装置であって、
    前記カメラの撮像素子の全領域で得られた全領域画像の一部のデータを仮想の投影面に投影し、該投影面上のデータを用いて仮想視点からみた前記車両の周辺を示す仮想視点画像を生成する生成手段と、
    前記全領域画像のうち前記仮想視点画像の生成に必要となる対象領域を前記仮想視点に応じて指定する指定手段と、
    前記全領域画像のうちの前記対象領域に対応する伝送画像を、前記カメラから伝送路を介して受信する受信手段と、
    前記受信手段が受信した前記伝送画像を記憶領域に記憶する記憶手段と、
    前記記憶領域の位置と前記投影面上の位置との対応関係を示すテーブルデータを、前記仮想視点に応じて選択する選択手段と、
    を備え、
    前記生成手段は、前記選択手段に選択されたテーブルデータを用いて、前記記憶領域に記憶された前記伝送画像のデータを前記投影面に投影することを特徴とする画像生成装置。
  2. 請求項1に記載の画像生成装置において、
    前記記憶手段において前記伝送画像のために確保される前記記憶領域のサイズは、前記伝送画像のサイズと一致することを特徴とする画像生成装置。
  3. 請求項1に記載の画像生成装置において、
    前記記憶手段において前記伝送画像のために確保される前記記憶領域のサイズは、前記全領域画像のサイズと一致し、
    前記記憶手段は、前記記憶領域に前記全領域画像を記憶させたと仮定した場合に前記対象領域に対応する前記記憶領域中の位置に、前記伝送画像を記憶することを特徴とする画像生成装置。
  4. 請求項1ないし3のいずれかに記載の画像生成装置において、
    前記受信手段は、前記対象領域のサイズが前記伝送路において許容される許容サイズを超える場合は、前記許容サイズまで縮小された前記伝送画像を受信することを特徴とする画像生成装置。
  5. 請求項3に記載の画像生成装置において、
    前記受信手段は、前記対象領域のサイズが前記伝送路において許容される許容サイズを超える場合は、前記許容サイズまで縮小された前記伝送画像を受信するものであり、
    前記画像生成装置は、
    前記受信手段が前記許容サイズまで縮小された前記伝送画像を受信した場合に、前記伝送画像を前記記憶領域に記憶させる前に、前記伝送画像を前記対象領域のサイズまで拡大する拡大手段、
    をさらに備えることを特徴とする画像生成装置。
  6. カメラを備える車両において用いられる画像生成方法であって、
    (a)前記カメラの撮像素子の全領域で得られた全領域画像の一部のデータを仮想の投影面に投影し、該投影面上のデータを用いて仮想視点からみた前記車両の周辺を示す仮想視点画像を生成する工程と、
    (b)前記全領域画像のうち前記仮想視点画像の生成に必要となる対象領域を前記仮想視点に応じて指定する工程と、
    (c)前記全領域画像のうちの前記対象領域に対応する伝送画像を、前記カメラから伝送路を介して受信する工程と、
    (d)前記工程(c)で受信した前記伝送画像を記憶領域に記憶する工程と、
    (e)前記記憶領域の位置と前記投影面上の位置との対応関係を示すテーブルデータを、前記仮想視点に応じて選択する工程と、
    を備え、
    前記工程(a)は、前記工程(e)で選択されたテーブルデータを用いて、前記記憶領域に記憶された前記伝送画像のデータを前記投影面に投影することを特徴とする画像生成方法。
JP2013093384A 2013-04-26 2013-04-26 画像生成装置及び画像生成方法 Active JP6148896B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013093384A JP6148896B2 (ja) 2013-04-26 2013-04-26 画像生成装置及び画像生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013093384A JP6148896B2 (ja) 2013-04-26 2013-04-26 画像生成装置及び画像生成方法

Publications (2)

Publication Number Publication Date
JP2014215855A true JP2014215855A (ja) 2014-11-17
JP6148896B2 JP6148896B2 (ja) 2017-06-14

Family

ID=51941550

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013093384A Active JP6148896B2 (ja) 2013-04-26 2013-04-26 画像生成装置及び画像生成方法

Country Status (1)

Country Link
JP (1) JP6148896B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018116408A (ja) * 2017-01-17 2018-07-26 オムロン株式会社 画像処理装置、制御システム、画像処理装置の制御方法、制御プログラム、および記録媒体
CN113826378A (zh) * 2019-05-16 2021-12-21 佳能株式会社 布置确定装置、系统、布置确定方法和程序

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006287826A (ja) * 2005-04-05 2006-10-19 Nissan Motor Co Ltd 車両用画像生成装置および方法
JP2007286851A (ja) * 2006-04-14 2007-11-01 Canon Inc 画像処理システム、画像処理装置、撮像装置、及びそれらの制御方法
WO2012007993A1 (ja) * 2010-07-14 2012-01-19 三菱電機株式会社 画像合成装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006287826A (ja) * 2005-04-05 2006-10-19 Nissan Motor Co Ltd 車両用画像生成装置および方法
JP2007286851A (ja) * 2006-04-14 2007-11-01 Canon Inc 画像処理システム、画像処理装置、撮像装置、及びそれらの制御方法
WO2012007993A1 (ja) * 2010-07-14 2012-01-19 三菱電機株式会社 画像合成装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018116408A (ja) * 2017-01-17 2018-07-26 オムロン株式会社 画像処理装置、制御システム、画像処理装置の制御方法、制御プログラム、および記録媒体
CN113826378A (zh) * 2019-05-16 2021-12-21 佳能株式会社 布置确定装置、系统、布置确定方法和程序
CN113826378B (zh) * 2019-05-16 2024-05-07 佳能株式会社 布置确定装置、系统、布置确定方法和存储介质
US12010437B2 (en) 2019-05-16 2024-06-11 Canon Kabushiki Kaisha Arrangement determination apparatus, system, arrangement determination method, and recording medium

Also Published As

Publication number Publication date
JP6148896B2 (ja) 2017-06-14

Similar Documents

Publication Publication Date Title
JP5341789B2 (ja) パラメータ取得装置、パラメータ取得システム、パラメータ取得方法、及び、プログラム
JP5627253B2 (ja) 画像処理装置、電子装置、および、画像処理方法
JP6099333B2 (ja) 画像生成装置、画像表示システム、パラメータ取得装置、画像生成方法及びパラメータ取得方法
JP4642723B2 (ja) 画像生成装置および画像生成方法
TWI524306B (zh) 圖像轉換和多視圖輸出系統及方法
JP4257356B2 (ja) 画像生成装置および画像生成方法
KR20190000591A (ko) 시차 보상 기능을 갖는 애플리케이션 프로세서, 및 이를 구비하는 디지털 촬영 장치
KR101389884B1 (ko) 차량 이미지를 처리하기 위한 동적 이미지 처리 방법 및 시스템
US9667864B2 (en) Image conversion apparatus, camera, image conversion method, and storage medium with program stored therein
CN105556956A (zh) 图像生成装置、图像显示系统、图像生成方法以及图像显示方法
JP6548900B2 (ja) 画像生成装置、画像生成方法及びプログラム
KR101272257B1 (ko) 차량의 주변 영상 보정 장치 및 방법
JP2011040825A (ja) 画像補正装置、画像補正方法、及びそれらに用いられる変換マップ作成方法
JP6257978B2 (ja) 画像生成装置、画像表示システム及び画像生成方法
JP2011004201A (ja) 周辺表示装置
JP2008160381A (ja) ファイル生成方法および装置並びに立体画像の表示制御方法および装置
CN110651295B (zh) 图像处理设备、图像处理方法和程序
JP2008219559A (ja) 車載カメラシステム
JP6151535B2 (ja) パラメータ取得装置、パラメータ取得方法及びプログラム
JP2016225865A (ja) 俯瞰画像生成装置
WO2015133072A1 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
JP2013141120A (ja) 画像表示装置
JP7000383B2 (ja) 画像処理装置および画像処理方法
JP6148896B2 (ja) 画像生成装置及び画像生成方法
JP6118936B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160404

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170405

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170522

R150 Certificate of patent or registration of utility model

Ref document number: 6148896

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250