JP2023122897A - 画像合成装置 - Google Patents
画像合成装置 Download PDFInfo
- Publication number
- JP2023122897A JP2023122897A JP2022026674A JP2022026674A JP2023122897A JP 2023122897 A JP2023122897 A JP 2023122897A JP 2022026674 A JP2022026674 A JP 2022026674A JP 2022026674 A JP2022026674 A JP 2022026674A JP 2023122897 A JP2023122897 A JP 2023122897A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- brightness
- color
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000002194 synthesizing effect Effects 0.000 title claims abstract description 128
- 238000006243 chemical reaction Methods 0.000 claims abstract description 70
- 238000003384 imaging method Methods 0.000 claims abstract description 58
- 238000011156 evaluation Methods 0.000 claims abstract description 48
- 238000009826 distribution Methods 0.000 claims abstract description 31
- 238000000034 method Methods 0.000 description 23
- 239000002131 composite material Substances 0.000 description 22
- 238000010586 diagram Methods 0.000 description 20
- 238000005286 illumination Methods 0.000 description 19
- 230000008569 process Effects 0.000 description 15
- 230000004048 modification Effects 0.000 description 9
- 238000012986 modification Methods 0.000 description 9
- 239000003086 colorant Substances 0.000 description 6
- 238000009434 installation Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Landscapes
- Stereoscopic And Panoramic Photography (AREA)
- Lighting Device Outwards From Vehicle And Optical Signal (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
Abstract
【課題】合成された複数の画像間の明るさや色のばらつきを低減することができる画像合成装置を提供する。【解決手段】画像合成装置は、観測範囲の明るさと色の分布を画像信号に変換する撮像部と、受光素子が画像信号を生成する際に、明るさを画像信号に変換する第1の変換特性と色を画像信号に変換する第2の変換特性との設定指示を取得して、変換特性を設定する設定部とを備える撮像装置と、複数の撮像装置から取得した画像信号の明るさと色のばらつきに係る評価値を算出する分析部と、評価値に基づいて、画像信号の明るさと色のばらつきがより小さくなるように、複数の撮像装置の変換特性をそれぞれ決定する決定部と、決定部が決定した変換特性の設定を設定部に指示する設定指示部と、画像信号を合成した合成画像を生成する合成部と、合成画像を表示装置に表示させる表示部とを備える画像処理装置とを備える。【選択図】図3
Description
本開示は、画像合成装置に関する。
近年、車両を運転する際に、運転を支援するシステムが普及している。例えば、車両周辺の画像情報を取得するカメラを、車両の前部、左側部、右側部、後部に設置して、各カメラが取得した画像情報を合成することによって、あたかも車両の周辺を真上から見た画像を生成して表示することにより、駐車を支援するシステムが実用化されている。
特許文献1に開示された車両周辺モニタ装置では、車両から異なる方向(前方、左側方、右側方、後方)を撮影した複数の画像の一部が、他車の前照灯等によって明るくなっている場合に、複数の画像の観測範囲をそれぞれ照明する照明の点灯/消灯を制御している。しかしながら、車両の異なる方向を撮影した複数の画像を合成した際に、画像間の明るさや色のばらつきが発生した場合に、ばらつきを低減することについては言及されていない。
本開示は、合成された複数の画像間の明るさや色のばらつきを低減することができる画像合成装置を提供することを目的とする。
本開示に係る画像合成装置は、撮像装置と画像処理装置とを備える。撮像装置は、観測範囲の明るさおよび色の分布を画像信号に変換する撮像部と、撮像部が画像信号を生成する際の、明るさを画像信号に変換する第1の変換特性と色を画像信号に変換する第2の変換特性との設定指示を取得して、第1の変換特性と第2の変換特性とを設定する設定部と、を備える。画像処理装置は、複数の撮像装置から取得した複数の画像信号の各々の明るさおよび色の分布を分析する分析部と、分析部の分析結果に基づいて、撮像装置毎に、第1の変換特性および第2の変換特性を決定する決定部と、決定部が決定した第1の変換特性および第2の変換特性の設定を、設定部に指示する設定指示部と、画像信号を合成した合成画像を生成する合成部と、合成部が合成した合成画像を表示装置に表示させる表示部と、を備える画像処理装置と、を備える。
本開示に係る画像合成装置によれば、合成された複数の画像間の明るさや色のばらつきを低減することができる。
(第1の実施形態)
以下、図面を参照しながら、本開示に係る画像合成装置の第1の実施形態について説明する。
以下、図面を参照しながら、本開示に係る画像合成装置の第1の実施形態について説明する。
(画像合成装置が搭載された車両の説明)
図1を用いて、画像合成装置20aが搭載された車両15におけるカメラの設置状態を説明する。図1は、第1の実施形態の画像合成装置が備えるカメラの設置状態の一例を示す図である。
図1を用いて、画像合成装置20aが搭載された車両15におけるカメラの設置状態を説明する。図1は、第1の実施形態の画像合成装置が備えるカメラの設置状態の一例を示す図である。
車両15には、複数のカメラ21a,21b,21c,21dが設置されている。カメラ21a,21b,21c,21dは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の受光素子を内蔵するデジタルカメラである。複数のカメラ21a,21b,21c,21dは、明るさを画像信号に変換する第1の変換特性と、色を画像信号に変換する第2の変換特性とを除いて、いずれも同じ仕様を有する。以下、特定のカメラに関して説明する場合を除き、単にカメラ21と呼ぶ。また、カメラ21a,21b,221,21dは、アナログカメラでもよい。また、カメラの台数は4台に限定されるものではない。
カメラ21は、所定のフレームレートでカラー画像データを出力する。カメラ21は、それぞれ、広角レンズまたは魚眼レンズを備え、水平方向の略180°の範囲を撮影する。また、カメラ21の光軸は、斜め下方に向けて設定されている。なお、カメラ21は、後述するECU27(Electronic Control Unit)から指示された撮像タイミングで、同時に撮像を行う。なお、カメラ21は、本開示における撮像装置の一例である。
カメラ21aは、車両15の前方端部、例えばフロントバンパやフロントグリルに設置されて、車両15の前方直近の観測範囲11aを撮像する。
カメラ21bは、車両15の左側端部、例えば左ドアミラーに設置されて、車両15の左側方直近の観測範囲11bを撮像する。
カメラ21cは、車両15の右側端部、例えば右ドアミラーに設置されて、車両15の右側方直近の観測範囲11cを撮像する。
カメラ21dは車両15の、後方端部、例えばリアバンパに設置されて、車両15の後方直近の観測範囲11dを撮像する。
なお、隣接するカメラの観測範囲は、互いに重複するように配置される。例えば、カメラ21aの観測範囲11aとカメラ21bの観測範囲11bとは、一部が重複している。カメラ21bの観測範囲11bとカメラ21dの観測範囲11dとは、一部が重複している。カメラ21dの観測範囲11dとカメラ21cの観測範囲11cとは、一部が重複している。カメラ21cの観測範囲11cとカメラ21aの観測範囲11aとは、一部が重複している。
(画像合成装置が合成する合成画像の説明)
図2を用いて、画像合成装置20aが合成する合成画像10について説明する。図2は、第1の実施形態の画像合成装置が生成する合成画像の一例を示す図である。
図2を用いて、画像合成装置20aが合成する合成画像10について説明する。図2は、第1の実施形態の画像合成装置が生成する合成画像の一例を示す図である。
画像合成装置20aは、複数のカメラ21a,21b,21c,21dが出力したカラー画像データを、それぞれ、車両15の真上から見た画像に座標変換する。このとき画像合成装置20aは、カメラ21が撮像したカラー画像データを路面に投影する座標変換を行う。
さらに、画像合成装置20aは、座標変換された画像を、各カメラ21a,21b,21c,21dの設置位置に応じた位置関係で合成することによって、図2に示す合成画像10を生成する。
合成画像10は、車両15の周辺をあたかも真上から見た状態を示す仮想的な画像である。合成画像10は、部分画像12a,12b,12c,12dと車両アイコン16とを含む。
部分画像12aは、カメラ21aが撮像したカラー画像信号を座標変換した画像である。
部分画像12bは、カメラ21bが撮像したカラー画像信号を座標変換した画像である。
部分画像12cは、カメラ21cが撮像したカラー画像信号を座標変換した画像である。
部分画像12dは、カメラ21dが撮像したカラー画像信号を座標変換した画像である。
車両アイコン16は、車両15の上面図を模したCG画像、または車両15を上空から撮像した実写画像である。車両アイコン16は、予め画像合成装置20aに記憶されている。
画像合成装置20aは、車両15のシフトポジションが後退位置にある場合、または、操作スイッチが押下された場合に、合成画像10を生成して、生成された合成画像10を表示装置32(図3参照)に出力する。車両15の運転者は、合成画像10を目視することによって、車両15の周辺の障害物の状態を確認しつつ、駐車を行う。
(画像合成装置のハードウエア構成の説明)
図3を用いて、画像合成装置20aのハードウエア構成を説明する。図3は、第1の実施形態の画像合成装置のハードウエア構成の一例を示すハードウエアブロック図である。
図3を用いて、画像合成装置20aのハードウエア構成を説明する。図3は、第1の実施形態の画像合成装置のハードウエア構成の一例を示すハードウエアブロック図である。
画像合成装置20aは、4台のカメラ21a,21b,21c,21dと、ECU27と、表示装置32とを備える。
カメラ21(21a,21b,21c,21d)は、ECU27からの指示を受けて、明るさを画像信号に変換する第1の変換特性と色を画像信号に変換する第2の変換特性とを設定する。また、カメラ21は、ECU27から指示を受けたタイミングで撮像を行う。また、カメラ21は、撮像したカラー画像信号(以下、単に画像信号と呼ぶ)を、ECU27に出力する。
カメラ21aは、レンズ22aと、受光素子23aと、ISP24aと、シリアライザ25aと、コネクタ26aとを備える。
レンズ22aは、カメラ21aが観測している範囲の光学像を受光素子23aに結像させる。
受光素子23aは、レンズ22aが結像した光学像の明るさと色とを電気信号に変換する、いわゆる光電変換を行う。なお、受光素子23aは、複数のセルの集合体である。各セルは画素とも呼ばれて、画素数が多いほど、生成される映像信号の解像度が高い。なお、受光素子23aは、本開示における撮像部の一例である。
ISP24a(Image Signal Processor)は、受光素子23aが生成した画像信号から、例えば、明るさの信号と色の信号とを含むYUV信号を生成する。YUV信号とは、明るさを表す輝度信号(Y)と、輝度信号と青色成分との差(U)と、輝度信号と赤色成分との差(V)とを含む信号である。なお、ISP24aが生成する信号は、YUV信号に限定されるものではない。例えば、YC信号(輝度信号(Y)と色度信号(C))を生成してもよいし、その他の信号形式であってもよい。なお、ISP24aが明るさを表す信号と色を表す信号とを生成する際には、光学像の明るさと色とを電気信号に変換する際の変換特性が参照される。本実施形態において、明るさ信号は、明るさを画像信号に変換する際の変換テーブルである第1の変換特性に基づいて生成される。また、色信号は、色を画像信号に変換する際の変換テーブルである第2の変換特性に基づいて生成される。ISP24aは、具体的な第1の変換特性および第2の変換特性を、ECU27から取得する。なお、ISP24aは、本開示における設定部の一例である。
シリアライザ25aは、画像信号を、パラレル信号からシリアル信号に変換する。
コネクタ26aは、カメラ21とECU27とを電気的に接続する。
カメラ21bは、カメラ21aと同様に、レンズ22bと、受光素子23bと、ISP24bと、シリアライザ25bと、コネクタ26bとを備える。
カメラ21cは、カメラ21aと同様に、レンズ22cと、受光素子23cと、ISP24cと、シリアライザ25cと、コネクタ26cとを備える。
カメラ21dは、カメラ21aと同様に、レンズ22dと、受光素子23dと、ISP24dと、シリアライザ25dと、コネクタ26dとを備える。
以下、レンズ22a,22b,22c,22dを総称して、単にレンズ22と呼ぶ場合がある。また、受光素子23a,23b,23c,23dを総称して、単に受光素子23と呼ぶ場合がある。また、ISP24a,24b,24c,24dを総称して、単にISP24と呼ぶ場合がある。また、シリアライザ25a,25b,25c,25dを総称して、単にシリアライザ25と呼ぶ場合がある。
ECU27は、カメラ21が生成した複数の画像を取得して、取得した複数の画像の明るさと色の分布を分析する。そして、ECU27は、取得した複数の画像の間に、明るさや色の分布にばらつきがある場合に、ばらつきを低減するための撮像パラメータ(例えばゲイン)の設定を各カメラ21に指示する。また、ECU27は、カメラ21から取得した複数の画像を1枚に合成した合成画像10を生成する。そして、ECU27は、合成画像10を、表示装置32に表示させる。なお、ECU27は、本開示における画像処理装置の一例である。
ECU27は、コネクタ28a,28b,28c,28dと、デシリアライザ29と、画像処理IC30と、マイコン31とを備える。
コネクタ28aは、カメラ21とECU27とを電気的に接続する。
デシリアライザ29は、画像信号を、シリアル信号からパラレル信号に変換する。
画像処理IC30は、カメラ21が生成した画像信号を、明るさを表す輝度信号Yと、色を表す色信号Uや色信号Cとに分離する。
マイコン31は、画像処理IC30と協働することによって、予め設定された信号処理を行う。具体的には、マイコン31は、画像処理IC30が生成した輝度信号Yと色信号Uや色信号Cとを分析することによって、カメラ21a,21b,21c,21dが撮像した画像から生成された画像信号の明るさのばらつきと色のばらつきとを分析する。また、マイコン31は、画像信号の明るさのばらつきと色のばらつきとに基づいて、カメラ21a,21b,21c,21dが映像信号を生成する際に、明るさを画像信号に変換する第1の変換特性と、色を画像信号に変換する第2の変換特性とを設定する。また、マイコン31は、設定した第1の変換特性の設定と第2の変換特性の設定とを、カメラ21a,21b,21c,21dのISP24a,24b,24c,24dにそれぞれ指示する。
なお、マイコン31が行う具体的な信号処理の内容については後述する。
なお、マイコン31が行う具体的な信号処理の内容については後述する。
表示装置32は、ECU27が生成した合成画像10を表示する。表示装置32は、例えば、液晶ディスプレイや有機ELディスプレイである。
また、画像合成装置20aは、カメラ21に流れる電流を検出することによって、カメラ21が正常に動作しているかを確認する機能を備えてもよい。また、カメラ21がASIL(Automotive Safety Integrity Level)機能を備えている場合は、当該ASIL機能を利用してもよい。
また、図3には図示しないが、画像合成装置20aは、更に、画像合成装置20aに動作の開始を指示する操作スイッチを備える。なお、操作スイッチは、車両15のシフトポジションが後退位置にあることを検出するスイッチであってもよいし、車両15の運転者が、任意のタイミングで押下可能なスイッチであってもよい。
(明るさのばらつきの低減方法)
図4を用いて、画像合成装置20aが、合成画像10を構成する部分画像12a,12b,12c,12dの明るさのばらつきを低減させる方法を説明する。図4は、合成画像における画像間の明るさのばらつきを低減させる方法を説明する図である。
図4を用いて、画像合成装置20aが、合成画像10を構成する部分画像12a,12b,12c,12dの明るさのばらつきを低減させる方法を説明する。図4は、合成画像における画像間の明るさのばらつきを低減させる方法を説明する図である。
グラフ40aは、カメラ21aが生成した輝度信号Y1のヒストグラムf(p)の一例である。グラフ40aの横軸は画素値pを表し、縦軸は、輝度信号Y1における画素値pを有する画素の頻度fを表す。
画像処理IC30は、カメラ21aが生成した輝度信号Y1のヒストグラムf(p)から、明るさ平均値A1を算出する。
グラフ40bは、カメラ21bが生成した輝度信号Y2のヒストグラムf(p)の一例である。グラフ40bの横軸は画素値pを表し、縦軸は、輝度信号Y2における画素値pを有する画素の頻度fを表す。
画像処理IC30は、カメラ21bが生成した輝度信号Y2のヒストグラムf(p)から、明るさ平均値A2を算出する。
グラフ40cは、カメラ21cが生成した輝度信号Y3のヒストグラムf(p)の一例である。グラフ40cの横軸は画素値pを表し、縦軸は、輝度信号Y3における画素値pを有する画素の頻度fを表す。
画像処理IC30は、カメラ21cが生成した輝度信号Y3のヒストグラムf(p)から、明るさ平均値A3を算出する。
グラフ40dは、カメラ21dが生成した輝度信号Y4のヒストグラムf(p)の一例である。グラフ40dの横軸は画素値pを表し、縦軸は、輝度信号Y4における画素値pを有する画素の頻度fを表す。
画像処理IC30は、カメラ21dが生成した輝度信号Y4のヒストグラムf(p)から、明るさ平均値A4を算出する。
更に、画像処理IC30は、カメラ21a,21b,21c,21dがそれぞれ生成した4つの輝度信号Y1,Y2,Y3,Y4を構成する全ての画素値の明るさ平均値Aaを算出する。
マイコン31は、輝度信号Yi(i=1~4)から算出された明るさ平均値Ai(i=1~4)と、明るさ平均値Aaとの偏差Si=Ai-Aa(i=1~4)をそれぞれ算出する。
算出された偏差S1,S2,S3,S4が大きいほど、合成画像12における部分画像12a,12b,12c,12dの明るさのばらつきが大きくなる。ここで、部分画像の明るさのばらつきを、式(1)の明るさ評価値Kaで表すことにする。
Ka=S1+S2+S3+S4・・・(1)
画像合成装置20aは、明るさ評価値Kaができるだけ小さくなるように、カメラ21a,21b,21c,21dがそれぞれ備えるISP24a,24b,24c,24dが、明るさに係る信号を生成する際の第1の変換特性である、例えばゲインを調整する。なお、第1の変換特性は、ゲイン以外のパラメータであってもよい。
画像合成装置20aは、合成画像12を表示装置32に表示している期間に亘って、ゲイン調整を繰り返し行う。これによって、合成画像12を構成する部分画像12a,12b,12c,12dの明るさのばらつきが、徐々に減少する。
(色のばらつきの低減方法)
図5を用いて、画像合成装置20aが、合成画像10を構成する部分画像12a,12b,12c,12dの色のばらつきを低減させる方法を説明する。図5は、合成画像における画像間の色のばらつきを低減させる方法を説明する図である。
図5を用いて、画像合成装置20aが、合成画像10を構成する部分画像12a,12b,12c,12dの色のばらつきを低減させる方法を説明する。図5は、合成画像における画像間の色のばらつきを低減させる方法を説明する図である。
グラフ42aは、カメラ21aが生成した赤色信号Cr1のヒストグラムf(p)の一例である。グラフ42aの横軸は画素値pを表し、縦軸は、赤色信号Cr1における画素値pを有する画素の頻度fを表す。
画像処理IC30は、カメラ21aが生成した赤色信号Cr1のヒストグラムf(p)から、赤色平均値A1rを算出する。
グラフ42bは、カメラ21bが生成した赤色信号Cr2のヒストグラムf(p)の一例である。グラフ42bの横軸は画素値pを表し、縦軸は、赤色信号Cr2における画素値pを有する画素の頻度fを表す。
画像処理IC30は、カメラ21bが生成した赤色信号Cr2のヒストグラムf(p)から、赤色平均値A2rを算出する。
グラフ42cは、カメラ21cが生成した赤色信号Cr3のヒストグラムf(p)の一例である。グラフ42cの横軸は画素値pを表し、縦軸は、赤色信号Cr2における画素値pを有する画素の頻度fを表す。
画像処理IC30は、カメラ21cが生成した赤色信号Cr3のヒストグラムf(p)から、赤色平均値A3rを算出する。
グラフ42dは、カメラ21dが生成した赤色信号Cr4のヒストグラムf(p)の一例である。グラフ42dの横軸は画素値pを表し、縦軸は、赤色信号Cr3における画素値pを有する画素の頻度fを表す。
画像処理IC30は、カメラ21dが生成した赤色信号Cr4のヒストグラムf(p)から、赤色平均値A4rを算出する。
更に、画像処理IC30は、カメラ21a,21b,21c,21dがそれぞれ生成した4つの赤色信号Cr1,Cr2,Cr3,Cr4を構成する全ての画素値の赤色平均値Arを算出する。
マイコン31は、赤色信号Cri(i=1~4)から算出された赤色平均値Air(i=1~4)と、赤色平均値Arとの偏差Si=Air-Ar(i=1~4)をそれぞれ算出する。
算出された偏差S1,S2,S3,S4が大きいほど、合成画像12における部分画像12a,12b,12c,12dの赤色成分のばらつきが大きくなる。ここで、部分画像の赤色成分のばらつきを、式(2)の赤色評価値Krで表すことにする。
Kr=S1+S2+S3+S4・・・(2)
画像合成装置20aは、赤色評価値Krができるだけ小さくなるように、カメラ21a,21b,21c,21dがそれぞれ備えるISP24a,24b,24c,24dが、色に係る信号を生成する際の第2の変換特性である、例えばゲインを調整する。なお、第2の変換特性は、ゲイン以外のパラメータであってもよい。例えば、ホワイトバランスや、色相、彩度、明度等を調整してもよい。
画像合成装置20aは、合成画像12を表示装置32に表示している期間に亘って、ゲイン調整を繰り返し行う。これによって、合成画像12を構成する部分画像12a,12b,12c,12dの赤色成分のばらつきが、徐々に減少する。
画像合成装置20aは、全く同様にして、緑色評価値Kg、青色評価値Kbを算出する。緑色評価値Kgは、緑色平均値Agと緑色平均値Aig(i=1~4)との偏差の総和である。青色評価値Kbは、青色平均値Abと青色平均値Aib(i=1~4)との偏差の総和である。画像合成装置20aは、緑色評価値Kgができるだけ小さくなるように、また、青色評価値Kbができるだけ小さくなるように、ISP24a,24b,24c,24dが、色に係る信号を生成する際の第2の変換特性である、例えばゲインを調整する。なお、以下、赤色平均値Ar、緑色平均値Ag、青色平均値Abを総称して特定色平均値Ar,Ag,Abと呼ぶ場合がある。また、赤色平均値Air、緑色平均値Aig、青色平均値Aibを総称して特定色平均値Air,Aig,Aibと呼ぶ場合がある。また、赤色平均値Kr、緑色評価値Kg、青色評価値Kbを総称して特定色評価値Kr,Kg,Kbと呼ぶ場合がある。
(画像合成装置の機能構成)
図6を用いて、画像合成装置20aの機能構成を説明する。図6は、第1の実施形態の画像合成装置の機能構成の一例を示す機能ブロック図である。
図6を用いて、画像合成装置20aの機能構成を説明する。図6は、第1の実施形態の画像合成装置の機能構成の一例を示す機能ブロック図である。
画像合成装置20aのECU27は、当該ECU27に記憶された制御プログラム、ECU27が取得した制御プログラムを実行することによって、図6に示す画像信号取得部51と、明るさ分布分析部52と、色分布分析部53と、撮像パラメータ調整量算出部54と、撮像パラメータ調整指示部56と、調整結果判定部57と、画像合成部58と、合成画像出力部59とを機能部として実現する。
画像信号取得部51は、カメラ21から画像信号を取得する。
明るさ分布分析部52は、画像信号取得部51が取得した複数の画像信号の明るさの分布を分析する。より具体的には、明るさ分布分析部52は、複数の画像信号の明るさのばらつきに係る明るさ評価値Kaを算出する。明るさ評価値Kaは、例えば、複数の画像信号の全てに対する明るさ平均値Aaと、複数の画像信号の各々の明るさ平均値Ai(i=1~4)との偏差の総和である。なお、明るさ分布分析部52は、本開示における分析部の一例である。
色分布分析部53は、画像信号取得部51が取得した複数の画像信号の色の分布を分析する。より具体的には、色分布分析部53は、複数の画像信号の色のばらつきに係る特定色評価値Kr,Kg,Kbを算出する。特定色評価値Kr,Kg,Kbは、例えば、複数の画像信号の全てに対する特定色平均値Ar,Ag,Abと、複数の画像信号の各々の特定色平均値Air,Aig,Aib(i=1~4)との偏差の総和である。なお、色分布分析部53は、本開示における分析部の一例である。
撮像パラメータ調整量算出部54は、明るさ分布分析部52が算出した明るさ評価値Ka、および色分布分析部53が算出した特定色評価値Kr,Kg,Kbに基づいて、複数の画像信号の明るさのばらつき、および色のばらつきがより小さくなるように、カメラ21a,21b,21c,21d毎に、明るさを画像信号に変換する第1の変換特性、および色を画像信号に変換する第2の変換特性を決定する。より具体的には、撮像パラメータ調整量算出部54は、複数の画像信号の全てに対する明るさ平均値Aaと、複数の画像信号の各々の明るさ平均値Ai(i=1~4)との偏差の総和がより小さくなるように、第1の変換特性を決定する。また、撮像パラメータ調整量算出部54は、複数の画像信号の全てに対する特定色平均値Ar,Ag,Abと、複数の画像信号の各々の特定色平均値Air,Aig,Aib(i=1~4)との偏差の総和がより小さくなるように、第2の変換特性を決定する。なお、撮像パラメータ調整量算出部54は、本開示における決定部の一例である。
撮像パラメータ調整指示部56は、撮像パラメータ調整量算出部54が決定した第1の変換特性および第2の変換特性の設定を、各カメラ21a,21b,21c,21dに指示する。なお、撮像パラメータ調整指示部56は、本開示における設定指示部の一例である。
調整結果判定部57は、撮像パラメータ調整指示部56からの指示に基づいて、各カメラ21a,21b,21c,21dが出力した画像信号の明るさのばらつき、および色のばらつきが、より小さくなったかを判定する。より具体的には、調整結果判定部57は、複数の画像信号の全てに対する明るさの平均値と、複数の画像信号の各々の明るさの平均値との偏差の総和がより小さくなったかを判定する。また、調整結果判定部57は、複数の画像信号の全てに対する特定色の平均値と、複数の画像信号の各々の特定色の平均値との偏差の総和がより小さくなったかを判定する。なお、調整結果判定部57は、本開示における判定部の一例である。
画像合成部58は、各カメラ21a,21b,21c,21dが出力した画像信号を合成した合成画像10を生成する。なお、画像合成部58は、本開示における合成部の一例である。
合成画像出力部59は、画像合成部58が合成した合成画像10を表示装置32に表示させる。なお、合成画像出力部59は、本開示における表示部の一例である。
(画像合成装置が行う処理の流れ)
図7を用いて、画像合成装置20aが行う処理の流れを説明する。図7は、第1の実施形態の画像合成装置が行う処理の流れの一例を示すフローチャートである。
図7を用いて、画像合成装置20aが行う処理の流れを説明する。図7は、第1の実施形態の画像合成装置が行う処理の流れの一例を示すフローチャートである。
ECU27は、画像合成装置20aの合成画像表示機能が作動中であるかを判定する(ステップS11)。画像合成装置20aの合成画像表示機能が作動中であると判定される(ステップS11:Yes)とステップS12に進む。一方、画像合成装置20aの合成画像表示機能が作動中であると判定されない(ステップS11:No)とステップS11を繰り返す。
ステップS11において、画像合成装置20aの合成画像表示機能が作動中であると判定されると、画像信号取得部51は、カメラ21から、画像Ii(i=1~4)を取得する(ステップS12)。なお、画像Iiは明るさと色とを含む画像信号である。
明るさ分布分析部52は、明るさ平均値Ai(i=1~4)を算出する(ステップS13)。
色分布分析部53は、特定色平均値Air,Aig,Aib(i=1~4)を算出する(ステップS14)。
明るさ分布分析部52は、明るさ評価値Kaを算出する。また、色分布分析部53は、特定色評価値Kr,Kg,Kbを算出する(ステップS15)。
撮像パラメータ調整量算出部54は、明るさ評価値Kaと特定色評価値Kr,Kg,Kbとがより小さくなるように、各カメラ21a,21b,21c,21dのゲインを設定する(ステップS16)。
撮像パラメータ調整指示部56は、ステップS16で設定したゲインを、各カメラ21a,21b,21c,21dに適用する(ステップS17)。
画像信号取得部51は、カメラ21から、ステップS17で適用したゲインで生成された画像Ii(i=1~4)を取得する(ステップS18)。
明るさ分布分析部52は、明るさ平均値Ai(i=1~4)を算出する。また、色分布分析部53は、特定色平均値Air,Aig,Aib(i=1~4)を算出する(ステップS19)。
明るさ分布分析部52は、明るさ評価値Kaを算出する。また、色分布分析部53は、特定色評価値Kr,Kg,Kbを算出する(ステップS20)。
画像合成部58は、各カメラ21a,21b,21c,21dが出力した画像信号を合成した合成画像10を生成する(ステップS21)。
合成画像出力部59は、画像合成部58が合成した合成画像10を表示装置32に表示させる(ステップS22)。
ECU27は、画像合成装置20aの合成画像表示機能が作動中であるかを判定する(ステップS23)。画像合成装置20aの合成画像表示機能が作動中であると判定される(ステップS13:Yes)とステップS24に進む。一方、画像合成装置20aの合成画像表示機能が作動中であると判定されない(ステップS23:No)と、画像合成装置20aは図7の処理を終了する。
ステップS23において、画像合成装置20aの合成画像表示機能が作動中であると判定されると、調整結果判定部57は、明るさ評価値Kaおよび特定色評価値Kr,Kg,Kbが、前回よりも小さくなったかを判定する(ステップS24)。明るさ評価値Kaおよび特定色評価値Kr,Kg,Kbが、前回よりも小さくなったと判定される(ステップS24:Yes)とステップS18に戻って、新たな画像Iiを取得する。一方、明るさ評価値Kaおよび特定色評価値Kr,Kg,Kbが、前回よりも小さくなったと判定されない(ステップS24:No)とステップS16に戻って、各カメラ21a,21b,21c,21dのゲインの再設定を行う。
(本実施の形態の作用効果)
以上説明したように、本実施形態に係る画像合成装置20aは、複数のカメラ21(撮像装置)と、ECU27(画像処理装置)とを備える。カメラ21は、観測範囲の明るさおよび色の分布を画像信号に変換する受光素子23(撮像部)と、受光素子23が画像信号を生成する際に、明るさを画像信号に変換する第1の変換特性と色を画像信号に変換する第2の変換特性との設定指示を取得して、第1の変換特性と第2の変換特性とを設定するISP24(設定部)と、を備える。ECU27は、複数のカメラ21から取得した複数の画像信号の明るさのばらつきに係る明るさ評価値Kaを算出する明るさ分布分析部52(分析部)と、複数の画像信号の色のばらつきに係る特定色評価値Kr,Kg,Kbを算出する色分布分析部53(分析部)と、明るさ評価値Kaと特定色評価値Kr,Kg,Kbとに基づいて、複数のカメラ21の各々に対して、複数の画像信号の明るさのばらつき、および色のばらつきがより小さくなるように、第1の変換特性および第2の変換特性を決定する撮像パラメータ調整量算出部54(決定部)と、撮像パラメータ調整量算出部54が決定した第1の変換特性および第2の変換特性の設定を、ISP24に指示する撮像パラメータ調整指示部56(設定指示部)と、画像信号を合成した合成画像10を生成する画像合成部58(合成部)と、画像合成部58が合成した合成画像10を表示装置32に表示させる合成画像出力部59(表示部)と、を備える。したがって、合成画像10を構成する部分画像12a,12b,12c,12dの明るさと色のばらつきを低減することができる。
以上説明したように、本実施形態に係る画像合成装置20aは、複数のカメラ21(撮像装置)と、ECU27(画像処理装置)とを備える。カメラ21は、観測範囲の明るさおよび色の分布を画像信号に変換する受光素子23(撮像部)と、受光素子23が画像信号を生成する際に、明るさを画像信号に変換する第1の変換特性と色を画像信号に変換する第2の変換特性との設定指示を取得して、第1の変換特性と第2の変換特性とを設定するISP24(設定部)と、を備える。ECU27は、複数のカメラ21から取得した複数の画像信号の明るさのばらつきに係る明るさ評価値Kaを算出する明るさ分布分析部52(分析部)と、複数の画像信号の色のばらつきに係る特定色評価値Kr,Kg,Kbを算出する色分布分析部53(分析部)と、明るさ評価値Kaと特定色評価値Kr,Kg,Kbとに基づいて、複数のカメラ21の各々に対して、複数の画像信号の明るさのばらつき、および色のばらつきがより小さくなるように、第1の変換特性および第2の変換特性を決定する撮像パラメータ調整量算出部54(決定部)と、撮像パラメータ調整量算出部54が決定した第1の変換特性および第2の変換特性の設定を、ISP24に指示する撮像パラメータ調整指示部56(設定指示部)と、画像信号を合成した合成画像10を生成する画像合成部58(合成部)と、画像合成部58が合成した合成画像10を表示装置32に表示させる合成画像出力部59(表示部)と、を備える。したがって、合成画像10を構成する部分画像12a,12b,12c,12dの明るさと色のばらつきを低減することができる。
また、本実施形態に係る画像合成装置20aにおいて、撮像パラメータ調整量算出部54(決定部)は、複数の画像信号の全てに対する明るさ平均値Aaと、複数の画像信号の各々の明るさ平均値Aiとの偏差の総和がより小さくなるように、第1の変換特性を決定する。したがって、簡便な演算で、合成画像10を構成する部分画像12a,12b,12c,12dの明るさのばらつきを低減することができる。
また、本実施形態に係る画像合成装置20aにおいて、撮像パラメータ調整量算出部54(決定部)は、複数の画像信号の全てに対する特定色平均値Ar,Ag,Abと、複数の画像信号の各々の特定色平均値Air,Aig,Aibとの偏差の総和がより小さくなるように、第2の変換特性を決定する。したがって、簡便な演算で、合成画像10を構成する部分画像12a,12b,12c,12dの色のばらつきを低減することができる。
また、本実施形態に係る画像合成装置20aにおいて、特定色は、画像信号のR、G、B成分の少なくとも1つである。したがって、特定の色に限定して、合成画像10を構成する部分画像12a,12b,12c,12dの特定の色のばらつきを低減することができる。
また、本実施形態に係る画像合成装置20aにおいて、ECU27(画像処理装置)は、撮像パラメータ調整指示部56(設定指示部)の指示に基づいて受光素子23(撮像部)が撮像した複数の画像信号の明るさのばらつき、および色のばらつきが、撮像パラメータ調整指示部56の指示前よりも小さくなったかを判定する調整結果判定部57(判定部)を更に備える。したがって、画像信号の明るさのばらつき、および色のばらつきを、撮像環境によらずに低減することができる。
なお、ここでは、画像の明るさのばらつきと色のばらつきの両方を低減させるものとして説明したが、明るさのばらつきのみ、または色のばらつきのみを低減させるようにしてもよい。また、カメラ21から取得した複数の画像信号のうち、いずれか1部の画像信号のみに対して、明るさのばらつきや色のばらつきを低減させるようにしてもよい。更に、色のばらつきの低減を、特定の色のみに対して行ってもよい。どの画像信号に対して、どのようなばらつきの低減を行うかは、例えば、輝度信号のヒストグラムの形状や、色信号のヒストグラムの形状を分析することによって決定することができる。例えば、他の画像信号と比べて、明らかに形状が異なるヒストグラムを有する画像信号が存在した場合、当該画像信号のみに対して、他の画像信号との明るさのばらつきや、他の画像信号との色のばらつきを低減させるようにしてもよい。
また、前記した明るさと色のばらつきの低減は、カメラ1台とECU27と表示装置32とを備える非図示の画像表示装置に適用することも可能である。
例えば、車両15が備える、後退時に車両15の後方の画像を撮像して表示する、いわゆるバックモニタにおいて、車両15の後方に、車両15に向けて前照灯を点灯させた別の車両が存在する場合に、車両15の後方の画像を撮像して表示すると、表示された画像は、前照灯の明るさの影響で視認性が悪化する場合がある。このような場合、画像表示装置は、撮像された画像の明るさの平均値と、予め設定された、望ましい画像の明るさの平均値との偏差が小さくなるように、第1の変換特性を再設定して撮像を行うことにより、視認性の高い画像を得ることができる。
また、夜間にバックモニタを起動した際に、車両15のテールランプやブレーキランプによって、撮像された画像の赤色成分が強くなる場合がある。このような場合、画像表示装置は、撮像された画像の赤色平均値と、予め設定された、望ましい画像の赤色平均値との偏差が小さくなるように、第2の変換特性を再設定して撮像を行うことにより、視認性の高い画像を得ることができる。
更に、路面に特定色のペイントがなされている場合、バックモニタを起動すると、特定色の影響で画像の視認性が悪化する場合がある。このような場合、画像表示装置は、撮像された画像の特定色平均値と、予め設定された、望ましい画像の特定色平均値との偏差が小さくなるように、第2の変換特性を再設定して撮像を行うことにより、視認性の高い画像を得ることができる。
(第1の実施形態の変形例)
図8を用いて、画像合成装置20aの変形例を説明する。図8は、第1の実施形態の変形例の画像合成装置のハードウエア構成の一例を示すハードウエアブロック図である。
図8を用いて、画像合成装置20aの変形例を説明する。図8は、第1の実施形態の変形例の画像合成装置のハードウエア構成の一例を示すハードウエアブロック図である。
図8に示す画像合成装置20bは、画像合成装置20aにおいて、カメラ21が備えていたISP24を、ECU27に内蔵した構成を有する。
ECU27は、カメラ21(21a,21b,21c,21d)から受光素子23(23a,23b,23c,23d)が出力する電気信号を取得する。そして、ECU27が内蔵するISP24によって、電気信号から明るさと色とを含む画像信号を生成する。なお、図8に示すISP24は、カメラ21aから取得した電気信号から画像信号を生成する非図示のISP24aと、カメラ21bから取得した電気信号から画像信号を生成する非図示のISP24bと、カメラ21cから取得した電気信号から画像信号を生成する非図示のISP24cと、カメラ21dから取得した電気信号から画像信号を生成する非図示のISP24dとを備える。
マイコン31は、ISP24(24a,24b,24c,24d)に対して、第1の変特性と第2の変換特性の設定を指示する。
なお、ECU27の機能構成、および画像合成装置20bが行う処理の流れは、第1の変換特性および第2の変換特性の設定がECU27内で実行される点を除くと、第1の実施形態で説明した通りである。そのため、画像合成装置20bの機能構成および処理の流れの詳細な説明は省略する。
このように、ISP24をECU27の内部に備えることによって、カメラ21の構成を簡素化することができるため、カメラ21を小型化することができる。したがって、カメラ21を車両15に搭載する際の搭載性が向上するとともに、搭載場所の自由度が向上する。
(第2の実施形態)
以下、図面を参照しながら、本開示に係る画像合成装置の第2の実施形態について説明する。
以下、図面を参照しながら、本開示に係る画像合成装置の第2の実施形態について説明する。
(画像合成装置のハードウエア構成の説明)
図9を用いて、第2の実施形態の画像合成装置20cのハードウエア構成を説明する。説明する。図9は、第2の実施形態の画像合成装置のハードウエア構成の一例を示すハードウエアブロック図である。
図9を用いて、第2の実施形態の画像合成装置20cのハードウエア構成を説明する。説明する。図9は、第2の実施形態の画像合成装置のハードウエア構成の一例を示すハードウエアブロック図である。
画像合成装置20cは、4台のカメラ21a,21b,21c,21dと、ECU27と、表示装置32とを備える。
画像合成装置20cは、画像合成装置20aに対して、カメラ21a,21b,21c,21dの近傍に、LED33a,33b,33c,33dを備える。LED33a,33b,33c,33dは、カメラ21a,21b,21c,21dの観測範囲を照明する。以下、LED33a,33b,33c,33dを総称して、単にLED33と呼ぶ場合がある。LED33は、それぞれ1個のLEDであってもよいし、複数のLEDをアレイ状に組み合わせたものでもよい。なお、LED33の発光波長は、受光素子23が感度を有する波長であれば、具体的な波長は問わない。なお、LED33は、本開示における照明装置の一例である。
また、LED33は、複数のLEDを、例えばレンズ22の先端の周縁にリングライトのように設置したものであってもよい。この場合、LED33は、レンズ22の観測範囲を遮らない位置に、LED33の照射方向がレンズ22の観測範囲を向くように設置される。
LED33の点灯状態および明るさは、ECU27からの指示によって制御される。より具体的には、ECU27は、第1の実施形態で説明した通り、複数のカメラ21に対して、複数のカメラ21の各々に対して、当該カメラ21が撮像した複数の画像信号の明るさのばらつき、および色のばらつきがより小さくなるように、第1の変換特性および第2の変換特性の設定を指示する。その際、第1の変換特性または第2の変換特性の変更範囲が、予め設定された所定の範囲を超える場合に、LED33の点灯状態の変更、またはLED33の明るさの変更を行うことによって、画像信号の変更範囲を拡大する。なお、LED33の点灯状態および明るさを制御する信号は、図9に示すように、画像処理IC30から出力される。また、LED33の点灯状態および明るさを制御する信号は、マイコン31から出力してもよい。
具体的には、画像が暗いためゲインを上げたいが、これ以上ゲインを上げると画像のノイズが目立つような場合、ゲインを予め設定された所定の値に設定する代わりに、LED33を点灯させる、またはLED33の明るさを増すことによって、画像を適切な明るさに調整する。また、画像が明るいためゲインを下げたいが、これ以上ゲインを下げても画像が明るすぎる場合、ゲインを予め設定された所定の値に設定する代わりに、LED33を消灯させる、またはLED33の明るさを減らすことによって、画像を適切な明るさに調整する。即ち、画像合成装置20cは、LED33の点灯、消灯、および点灯時の明るさ調整を行うことによって、画像合成装置20aに対して、画像の明るさの変更範囲を拡大する。
(画像合成装置の機能構成)
図10を用いて、画像合成装置20cの機能構成を説明する。図10は、第2の実施形態の画像合成装置の機能構成の一例を示す機能ブロック図である。
図10を用いて、画像合成装置20cの機能構成を説明する。図10は、第2の実施形態の画像合成装置の機能構成の一例を示す機能ブロック図である。
画像合成装置20cは、画像合成装置20aの機能構成(図6参照)に加えて、照明発光制御部55を備える。
照明発光制御部55は、受光素子23の観測範囲を照明するLED33の点灯または消灯と、LED33が点灯している際の当該LED33の明るさを変更とを行う。なお、照明発光制御部55は、本開示における照明制御部の一例である。
また、撮像パラメータ調整量算出部54は、明るさ分布分析部52が算出した明るさ評価値Ka、および色分布分析部53が算出した特定色評価値Kr,Kg,Kbに基づいて、複数の画像信号の明るさのばらつき、および色のばらつきがより小さくなるように、カメラ21a,21b,21c,21d毎に、明るさを画像信号に変換する第1の変換特性、および色を画像信号に変換する第2の変換特性を決定するとともに、LED33の点灯または消灯と、LED33を点灯する際の明るさとを決定する。そして、撮像パラメータ調整量算出部54は、照明発光制御部55に対して、決定したLED33の点灯状態を指示する。
図10に示す、その他の機能部位の作用は、画像合成装置20aと同じであるため、説明は省略する。
(画像合成装置が行う処理の流れ)
図11を用いて、画像合成装置20cが行う処理の流れを説明する。図11は、第2の実施形態の画像合成装置が行う処理の流れの一例を示すフローチャートである。
図11を用いて、画像合成装置20cが行う処理の流れを説明する。図11は、第2の実施形態の画像合成装置が行う処理の流れの一例を示すフローチャートである。
画像合成装置20cが行う処理の流れ、即ち、図11に示すステップS31からステップS45の流れは、第1の実施形態で説明した画像合成装置20aが行う処理の流れ(図7参照)とほぼ同じである。図7と異なるのは、ステップS36において、撮像パラメータ調整量算出部54が、明るさ評価値Kaと特定色評価値Kr,Kg,Kbとがより小さくなるように、各カメラ21a,21b,21c,21dのゲインを設定した後で、照明発光制御部55が、照明点消灯処理を行う(ステップS37)点である。照明点消灯処理の詳細な内容は後述する(図12参照)。
(照明点消灯処理の流れ)
図12を用いて、画像合成装置20cが行う照明点消灯処理の流れを説明する。図12は、第2の実施形態の画像合成装置が行う照明点消灯処理の流れの一例を示すフローチャートである。
図12を用いて、画像合成装置20cが行う照明点消灯処理の流れを説明する。図12は、第2の実施形態の画像合成装置が行う照明点消灯処理の流れの一例を示すフローチャートである。
調整結果判定部57は、ステップS36で設定したゲインが、所定の最大値よりも大きい、または、明るさ平均値Aiが、所定の最小値よりも小さいかを判定する(ステップS51)。条件を満足すると判定される(ステップS51:Yes)とステップS52に進む。一方、条件を満足すると判定されない(ステップS51:No)とステップS54に進む。
ステップS51において、条件を満足すると判定されると、照明発光制御部55は、対応するカメラ21のLED33を点灯させる(ステップS52)。
続いて、撮像パラメータ調整指示部56は、ISP24に対して、対応するカメラ21のゲインをデフォルト値に設定させる(ステップS53)。
ステップS51において、条件を満足すると判定されない場合、またはステップS53に続いて、調整結果判定部57は、明るさ平均値Aiが、所定の最大値よりも大きいかを判定する(ステップS54)。明るさ平均値Aiが、所定の最大値よりも大きいと判定される(ステップS54:Yes)とステップS55に進む。一方、明るさ平均値Aiが、所定の最大値よりも大きいと判定されない(ステップS54:No)と、図12の処理を終了して、図11のステップS38に戻る。
ステップS54において、明るさ平均値Aiが、所定の最大値よりも大きいと判定されると、照明発光制御部55は、対応するカメラ21のLED33は点灯しているかを判定する(ステップS55)。対応するカメラ21のLED33は点灯していると判定される(ステップS55:Yes)とステップS56に進む。一方、対応するカメラ21のLED33は点灯していると判定されない(ステップS55:No)と、図12の処理を終了して、図11のステップS38に戻る。
ステップS55において、対応するカメラ21のLED33は点灯していると判定されると判定されると、照明発光制御部55は、対応するカメラ21のLED33を消灯させる(ステップS56)。
続いて、撮像パラメータ調整指示部56は、ISP24に対して、対応するカメラ21のゲインをデフォルト値に設定させる(ステップS57)。その後、図12の処理を終了して、図11のステップS38に戻る。
(本実施の形態の作用効果)
以上説明したように、本実施形態に係る画像合成装置20cにおいて、カメラ21(撮像装置)は、受光素子23(撮像部)の観測範囲を照明するLED33(照明装置)の点灯および消灯と、LED33が点灯している際の当該LED33の明るさを変更とを行う照明発光制御部55(照明制御部)を更に備えて、撮像パラメータ調整量算出部54(決定部)は、更に、LED33の点灯または消灯と、LED33を点灯する際の明るさとを決定して、照明発光制御部55に対して、決定したLED33の点灯状態を指示する。したがって、合成画像10を構成する部分画像12a,12b,12c,12dの明るさと色のばらつきを低減する際に、明るさと色の調整範囲を拡大することができる。
以上説明したように、本実施形態に係る画像合成装置20cにおいて、カメラ21(撮像装置)は、受光素子23(撮像部)の観測範囲を照明するLED33(照明装置)の点灯および消灯と、LED33が点灯している際の当該LED33の明るさを変更とを行う照明発光制御部55(照明制御部)を更に備えて、撮像パラメータ調整量算出部54(決定部)は、更に、LED33の点灯または消灯と、LED33を点灯する際の明るさとを決定して、照明発光制御部55に対して、決定したLED33の点灯状態を指示する。したがって、合成画像10を構成する部分画像12a,12b,12c,12dの明るさと色のばらつきを低減する際に、明るさと色の調整範囲を拡大することができる。
(第1の実施形態の変形例)
図13を用いて、画像合成装置20cの変形例を説明する。図13は、第1の実施形態の変形例の画像合成装置のハードウエア構成の一例を示すハードウエアブロック図である。
図13を用いて、画像合成装置20cの変形例を説明する。図13は、第1の実施形態の変形例の画像合成装置のハードウエア構成の一例を示すハードウエアブロック図である。
図13に示す画像合成装置20dは、画像合成装置20cにおいて、カメラ21が備えていたISP24を、ECU27に内蔵した構成を有する。即ち、画像合成装置20cと画像合成装置20dとの違いは、前記した画像合成装置20aと画像合成装置20bとの違いと同じである。
このように、ISP24をECU27の内部に備えることによって、カメラ21の構成を簡素化することができるため、カメラ21を小型化することができる。したがって、カメラ21を車両15に搭載する際の搭載性が向上するとともに、搭載場所の自由度が向上する。
以上、本発明の実施の形態について説明したが、上述した実施の形態は、例として提示したものであり、本発明の範囲を限定することは意図していない。この新規な実施の形態は、その他の様々な形態で実施されることが可能である。また、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。また、この実施の形態は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
10 合成画像
11a,11b,11c,11d 観測範囲
12a,12b,12c,12d 部分画像
15 車両
16 車両アイコン
20a,20b,20c,20d 画像合成装置
21,21a,21b,21c,21d カメラ(撮像装置)
22,22a,22b,22c,22d レンズ
23,23a,23b,23c,23d 受光素子(撮像部)
24,24a,24b,24c,24d ISP(設定部)
25,25a,25b,25c,25d シリアライザ
27 ECU(画像処理装置)
30 画像処理IC
31 マイコン
32 表示装置
33,33a,33b,33c,33d LED(照明装置)
51 画像信号取得部
52 明るさ分布分析部(分析部)
53 色分布分析部(分析部)
54 撮像パラメータ調整量算出部(決定部)
55 照明発光制御部(照明制御部)
56 撮像パラメータ調整指示部(設定指示部)
57 調整結果判定部(判定部)
58 画像合成部(合成部)
59 合成画像出力部(表示部)
Aa,A1,A2,A3,A4,Ai 明るさ平均値
Ar,A1r,A2r,A3r,A4r,Air 赤色平均値(特定色平均値)
Ag,Aig 緑色平均値(特定色平均値)
Ab,Aib 青色平均値(特定色平均値)
Cr1,Cr2,Cr3,Cr4,Cri 赤色信号
C,U 色信号
f 頻度
Ii 画像
Ka 明るさ評価値
Kr 赤色評価値(特定色評価値)
Kg 緑色評価値(特定色評価値)
Kb 青色評価値(特定色評価値)
p 画素値
S1,Si 偏差
Y,Y1,Y2,Y3,Y4,Yi 輝度信号
11a,11b,11c,11d 観測範囲
12a,12b,12c,12d 部分画像
15 車両
16 車両アイコン
20a,20b,20c,20d 画像合成装置
21,21a,21b,21c,21d カメラ(撮像装置)
22,22a,22b,22c,22d レンズ
23,23a,23b,23c,23d 受光素子(撮像部)
24,24a,24b,24c,24d ISP(設定部)
25,25a,25b,25c,25d シリアライザ
27 ECU(画像処理装置)
30 画像処理IC
31 マイコン
32 表示装置
33,33a,33b,33c,33d LED(照明装置)
51 画像信号取得部
52 明るさ分布分析部(分析部)
53 色分布分析部(分析部)
54 撮像パラメータ調整量算出部(決定部)
55 照明発光制御部(照明制御部)
56 撮像パラメータ調整指示部(設定指示部)
57 調整結果判定部(判定部)
58 画像合成部(合成部)
59 合成画像出力部(表示部)
Aa,A1,A2,A3,A4,Ai 明るさ平均値
Ar,A1r,A2r,A3r,A4r,Air 赤色平均値(特定色平均値)
Ag,Aig 緑色平均値(特定色平均値)
Ab,Aib 青色平均値(特定色平均値)
Cr1,Cr2,Cr3,Cr4,Cri 赤色信号
C,U 色信号
f 頻度
Ii 画像
Ka 明るさ評価値
Kr 赤色評価値(特定色評価値)
Kg 緑色評価値(特定色評価値)
Kb 青色評価値(特定色評価値)
p 画素値
S1,Si 偏差
Y,Y1,Y2,Y3,Y4,Yi 輝度信号
Claims (6)
- 観測範囲の明るさおよび色の分布を画像信号に変換する撮像部と、
前記撮像部が前記画像信号を生成する際に、明るさを画像信号に変換する第1の変換特性と色を画像信号に変換する第2の変換特性との設定指示を取得して、前記第1の変換特性と前記第2の変換特性とを設定する設定部と、を備える複数の撮像装置と、
前記複数の撮像装置から取得した複数の前記画像信号の明るさのばらつき、および色のばらつきに係る評価値を算出する分析部と、
前記評価値に基づいて、前記撮像装置毎に、複数の前記画像信号の明るさのばらつき、および色のばらつきがより小さくなるように、前記第1の変換特性および前記第2の変換特性を決定する決定部と、
前記決定部が決定した前記第1の変換特性および前記第2の変換特性の設定を、前記設定部に指示する設定指示部と、
前記画像信号を合成した合成画像を生成する合成部と、
前記合成部が合成した合成画像を表示装置に表示させる表示部と、を備える画像処理装置と、
を備える画像合成装置。 - 前記決定部は、複数の前記画像信号の全てに対する明るさの平均値と、複数の前記画像信号の各々の明るさの平均値との偏差の総和がより小さくなるように、前記第1の変換特性を決定する、
請求項1に記載の画像合成装置。 - 前記決定部は、複数の前記画像信号の全てに対する特定色の平均値と、複数の前記画像信号の各々の特定色の平均値との偏差の総和がより小さくなるように、前記第2の変換特性を決定する、
請求項1または請求項2に記載の画像合成装置。 - 前記特定色は、前記画像信号のR、G、B成分の少なくとも1つである、
請求項3に記載の画像合成装置。 - 前記画像処理装置は、前記設定指示部の指示に基づいて前記撮像部が撮像した複数の前記画像信号の明るさのばらつき、および色のばらつきが、前記設定指示部の指示前よりも小さくなったかを判定する判定部を、更に備える、
請求項1から請求項4のいずれか1項に記載の画像合成装置。 - 前記撮像装置は、前記撮像部の観測範囲を照明する照明装置の点灯および消灯と、前記照明装置が点灯している際の当該照明装置の明るさを変更とを行う照明制御部を更に備えて、
前記決定部は、更に、前記照明装置の点灯または消灯と、前記照明装置を点灯する際の明るさとを決定して、前記照明制御部に対して、決定した前記照明装置の点灯状態を指示する、
請求項1から請求項5のいずれか1項に記載の画像合成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022026674A JP2023122897A (ja) | 2022-02-24 | 2022-02-24 | 画像合成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022026674A JP2023122897A (ja) | 2022-02-24 | 2022-02-24 | 画像合成装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023122897A true JP2023122897A (ja) | 2023-09-05 |
Family
ID=87885544
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022026674A Pending JP2023122897A (ja) | 2022-02-24 | 2022-02-24 | 画像合成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023122897A (ja) |
-
2022
- 2022-02-24 JP JP2022026674A patent/JP2023122897A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2010134366A1 (ja) | 監視装置 | |
WO2015064095A1 (ja) | 画像の補正パラメータ出力装置、カメラシステム、および補正パラメータ出力方法 | |
JP6305430B2 (ja) | 撮像設定変更装置、撮像システム、および撮像設定変更方法 | |
JP2010114667A (ja) | 自動ホワイトバランス調整システム | |
JP3793487B2 (ja) | 撮像システム | |
WO2013118337A1 (ja) | 撮像装置 | |
JP4710403B2 (ja) | 車両用画像生成装置および方法 | |
JP2005223605A (ja) | 画像処理方法、画像処理システムおよび画像処理装置 | |
KR101601324B1 (ko) | 차량용 카메라 시스템의 영상 획득 방법 | |
KR101822344B1 (ko) | 히스토그램 스프레딩을 갖는 자동차 카메라 장치 | |
KR101406073B1 (ko) | 어라운드 뷰 영상을 생성하는 방법 및 장치 | |
JP2023122897A (ja) | 画像合成装置 | |
JP6478138B2 (ja) | 画像処理装置、撮像装置、画像処理プログラム、画像処理方法 | |
JP2012023459A (ja) | 車載用監視カメラおよびその撮像方法 | |
WO2015098107A1 (ja) | 画像処理装置、警報装置、および画像処理方法 | |
JP2019197948A (ja) | 撮像装置およびその制御方法 | |
JP6655504B2 (ja) | 画像処理装置、画像処理システム、移動体、及び画像処理方法 | |
JP2007228455A (ja) | 撮像装置 | |
JP7009334B2 (ja) | 画像表示装置、画像表示システム | |
WO2023026617A1 (ja) | 撮像装置および映像表示システム | |
JP2019129339A (ja) | 撮影画像表示システム及び電子ミラーシステム | |
JP2003087633A (ja) | 動画撮影用カメラ | |
JP2006109171A (ja) | 車両用表示装置 | |
JP2006137383A (ja) | 車両用撮像装置 | |
JP6338062B2 (ja) | 画像処理装置および撮像装置並びに画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20240226 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240904 |