JP6740866B2 - 画像出力装置 - Google Patents

画像出力装置 Download PDF

Info

Publication number
JP6740866B2
JP6740866B2 JP2016217320A JP2016217320A JP6740866B2 JP 6740866 B2 JP6740866 B2 JP 6740866B2 JP 2016217320 A JP2016217320 A JP 2016217320A JP 2016217320 A JP2016217320 A JP 2016217320A JP 6740866 B2 JP6740866 B2 JP 6740866B2
Authority
JP
Japan
Prior art keywords
image
unit
brightness
range
distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016217320A
Other languages
English (en)
Other versions
JP2018078372A (ja
Inventor
西川 雅人
雅人 西川
一芳 秋葉
一芳 秋葉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2016217320A priority Critical patent/JP6740866B2/ja
Priority to US15/804,782 priority patent/US10136080B2/en
Priority to DE102017219694.7A priority patent/DE102017219694A1/de
Priority to CN201711085293.8A priority patent/CN108063898B/zh
Publication of JP2018078372A publication Critical patent/JP2018078372A/ja
Application granted granted Critical
Publication of JP6740866B2 publication Critical patent/JP6740866B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • H04N25/589Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images

Description

本開示は、ハイダイナミックレンジ機能を用いて撮像された画像を出力する技術に関する。
シャッタ時間を相対的に短くして撮像した短シャッタ画像と、シャッタ時間を相対的に長くして撮像した長シャッタ画像とを合成して、低輝度から高輝度まで鮮明に描画した画像を生成する、ハイダイナミックレンジ機能(以下、HDR機能)が知られている。車載カメラにも、白線や他車両等の検知精度を高めるため、HDR機能を有するものがある。ただし、車載カメラで撮影する場合、走行中に撮影シーンが刻々と変化する。走行中に照明環境が変化すると、画像の色調が変化して、白線等の検出精度に影響を与える可能性がある。
そこで、特許文献1に記載の車載カメラシステムは、走行中に種々変化する照明環境を取得し、取得した照明環境に応じて、長シャッタ画像及び短シャッタ画像のそれぞれに対するホワイトバランスの補正処理を切り替えている。そして、上記車載カメラシステムは、長シャッタ画像及び短シャッタ画像のそれぞれにホワイトバランスの補正処理を施した後、両画像を合成してHDR画像を生成している。
特開2016−96417号公報
ところで、昼間や夜間といった撮影シーンに応じて、色調だけではなく、被写体の輝度の分布も変化する。そのため、撮影シーンに応じて、ホワイトバランスの補正処理を施すだけでは、限られた出力画素値を効率的に使用することができずに、黒潰れや白飛びしてしまったり、被写体が存在しない不要な輝度に出力画素値が割り当てられて、階調が荒くなってしまったりすることがある。
本開示は、上記実情に鑑みてなされたものであり、撮影シーンに応じて、限られた出力画素値を効率的に使用した画像を出力することを主たる目的とする。
本開示は、画像出力装置であって、パラメータ算出部(32)と、撮像制御部(33)と、画像生成部(22)と、範囲設定部(31)と、特性生成部(22)と、画像出力部(22)と、を備える。パラメータ算出部は、複数のシャッタ時間を含む車載カメラ(20)の制御パラメータを繰り返し算出するように構成されている。撮像制御部は、パラメータ算出部により算出された制御パラメータを用いて、車載カメラを制御するように構成されている。画像生成部は、撮像制御部により制御された車載カメラにより撮像された、異なるシャッタ時間の複数の撮像画像を合成して、予め設定された第1ビット幅の画素値で輝度を表した合成画像を生成するように構成されている。範囲設定部は、画像生成部により生成された合成画像において、被写体の輝度が分布する範囲である分布範囲を設定するように構成されている。特性生成部は、範囲設定部により設定された分布範囲の輝度を、第1ビット幅よりも狭い予め設定された第2ビット幅の画素値で表す圧縮特性を生成するように構成されている。画像出力部は、特性生成部で生成された圧縮特性を用いて、合成画像を圧縮して圧縮画像を生成し、生成した圧縮画像を出力するように構成されたている。
本開示によれば、異なるシャッタ時間で撮像された複数の画像から、第1ビット幅の画素値で輝度が表現された合成画像が生成され、生成された合成画像において、被写体の輝度が分布する範囲である分布範囲が設定される。そして設定された分布範囲の輝度を、第1ビット幅よりも狭い第2ビット幅の画素値で表す圧縮特性が生成され、生成された圧縮特性を用いて合成画像から圧縮画像が生成され、圧縮画像が出力される。すなわち、被写体が存在しない不要な輝度に対しては、限られた第2ビット幅の画素値の割り当てが抑制され、被写体が存在する範囲の輝度に限られた画素値が全て割り当てられる。したがって、限られた出力画素値を効率的に使用した圧縮画像を出力することができる。
なお、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本発明の技術的範囲を限定するものではない。
カメラ装置20及び画像処理装置30の構成を示すブロック図。 第1実施形態に係る画像圧縮処理の処理手順を示すフローチャートである。 長シャッタ画像及び短シャッタ画像の輝度−出力特性を示すグラフである。 ゲインをかけた短シャッタ画像の輝度−出力特性を示すグラフである。 HDR合成画像の圧縮に適用する圧縮特性を示すグラフである。 HDR合成画像の輝度ヒストグラムを示すグラフである。 画像に太陽光が写っている場合の輝度ヒストグラムを示すグラフである。 ダイナミックレンジが不適切な場合のHDR合成画像の輝度ヒストグラムを示すグラフである。 第1シーンにおける輝度ヒストグラム及び圧縮特性を示すグラフである。 第2シーンにおける輝度ヒストグラム及び圧縮特性を示すグラフである。 第2実施形態に係る画像圧縮処理の処理手順を示すフローチャートである。 第2実施形態に係る輝度ヒストグラム及び最大ダイナミックレンジを示す図である。
以下、図面を参照しながら、本開示の実施形態を説明する。
(第1実施形態)
[1.構成]
まず、本実施形態に係る画像出力装置10の構成について、図1を参照して説明する。画像出力装置10は、カメラ装置20と、処理装置30と、を備える。
カメラ装置20は、撮像部21と画像生成部22とを備え、車両前方の路面を含む所定範囲が撮像範囲となるように、例えば、ルームミラーに隠れる位置のウィンドシールドに設置されている。
撮像部21は、撮像素子と、撮像素子に被写体の像を結像させるレンズとを備えている。撮像部21は、後述する処理装置30の撮像制御部33によって、短シャッタ撮像と、長シャッタ撮像とを連続して行うように制御される。短シャッタ撮像は、シャッタ時間が相対的に短い、すなわち露光時間が相対的に短い撮像であり、長シャッタ撮像は、シャッタ時間が相対的に長い、すなわち露光時間が相対的に長い撮像である。撮像素子は、CCDセンサーやCMOSセンサーであり、ノイズレベル以上かつ飽和レベル以内の入射光量に対して感度を有する。
画像生成部22は、カメラ装置20内に設けられた画像信号処理回路により構成されているハードウェアである。画像生成部22は、撮像部21により撮像された短シャッタ画像と長シャッタ画像を合成して、短シャッタ画像や長シャッタ画像よりもダイナミックレンジの広いハイダイナミックレンジ(以下、HDR)合成画像を生成する。生成されるHDR合成画像は、予め設定された第1ビット幅の画素値で輝度を表した画像である。本実施形態では、第1ビット幅を16ビットとしている。
さらに、画像生成部22は、設定された分布範囲の輝度を、予め設定された第2ビット幅の画素値で表す圧縮特性を生成する。そして、画像生成部22は、生成した圧縮特性を用いて、第1ビット幅の画素値で表されたHDR合成画像を、第2ビット幅の画素値で表された圧縮画像に変換し、変換した圧縮画像を画像処理部34へ出力する。第2ビット幅は、第1ビット幅よりも狭い幅であり、本実施形態では、第2ビット幅を12ビットとしている。
なお、ダイナミックレンジとは、1枚の画像に写し込める明暗差の幅である輝度幅のことである。1回のシャッタで撮像できるダイナミックレンジは、撮像素子の感度により決まる。
処理装置30は、CPU、ROM、RAM、及びフラッシュメモリ等の半導体メモリを備えた周知のマイクロコンピュータを中心に構成されている。処理装置30は、CPUが非遷移的実体的記録媒体に格納されたプログラムを実行することにより、範囲設定部31、パラメータ算出部32、撮像制御部33、画像処理部34及び画像認識部35の機能を実現する。また、このプログラムの実行により、プログラムに対応する方法が実行される。なお、処理装置30を構成するマイクロコンピュータの数は1つでも複数でもよい。
範囲設定部31は、画像生成部22により生成されたHDR合成画像において、被写体の輝度が分布する範囲である分布範囲を設定する。パラメータ算出部32は、短シャッタ時間、長シャッタ時間、及びカメラゲインを含む撮像部21の制御パラメータを算出する。撮像制御部33は、パラメータ算出部32により算出された制御パラメータを用いて、撮像部21を制御し、短シャッタ撮像及び長シャッタ撮像を行う。
画像処理部34は、画像生成部22から出力された圧縮画像の輝度を表す第2ビット幅の画素値から、所定幅の下位ビットを切り捨てる。本実施形態では、画像処理部34は、12ビット幅の画素値から下位4ビットを切り捨て、8ビット幅の画素値で表された出力画像を生成し、出力画像を画像認識部35へ出力する。
画像認識部35は、8ビット幅以下のデータを取り扱うことができ、画像処理部34から出力された出力画像を認識する。本実施形態では、画像生成部22が、特性生成部及び画像出力部の一例に相当する。
[2.処理]
次に、画像出力装置10が実行する画像圧縮処理の処理手順について、図2のフローチャートを参照して説明する。本処理手順は、所定の時間間隔で繰り返し実行される。
まず、ステップS10では、撮像制御部33が、制御パラメータ用いて撮像部21を制御して、短シャッタ撮像と長シャッタ撮像を行う。ここで用いる制御パラメータは、前回の処理周期のステップS40において、パラメータ算出部32により算出されものである。本実施形態では、一例として、短シャッタ撮像のシャッタ時間を1.25[ms]、長シャッタ撮像のシャッタ時間を20[ms]としている。
続いて、ステップS20では、画像生成部22が、ステップS10で撮像された短シャッタ画像と長シャッタ画像とを合成して、HDR合成画像を生成する。
図3に、短シャッタ画像及び長シャッタ画像の輝度を、それぞれ12ビット幅の画素値で表した場合における、輝度に対する画素値の特性グラフを示す。長シャッタ画像では、短シャッタ画像よりもシャッタ時間が16倍長く、入射光量は16倍となる。よって、長シャッタ画像は、短シャッタ画像と同じ輝度の被写体を写しても、画素値は16倍となっている。
そのため、短シャッタ画像と長シャッタ画像とを合成する場合には、図4に示すように、短シャッタ画像にシャッタ比率分のゲインをかけて、輝度−画素値特性を合わせる。つまり、同じ画素値が同じ輝度を表すようにする。本実施形態では、短シャッタ画像の画素値を16倍して、長シャッタ画像と合成する。短シャッタ画像の画素値を16倍すると、短シャッタ画像の輝度は、16ビット幅の画素値0〜65535で表される。
一般に、短シャッタ画像と長シャッタ画像を合成する場合、シャッタ比率をかけた短シャッタ画像のデータは最下位ビットが粗くなるため、低輝度部分では長シャッタ画像のデータを採用し、高輝度部分で短シャッタ画像のデータを採用する。図5に示すように、シャッタ比率を掛けた短シャッタ画像と長シャッタ画像とを合成して生成したHDR合成画像の輝度は、16ビット幅の画素値で表される。
続いて、ステップS30では、範囲設定部31が、ステップS20において生成されたHDR合成画像における被写体の輝度の分布範囲を設定する。図6に、長シャッタ画像及び短シャッタ画像を合わせた輝度のヒストグラムを示す。図6は、横軸が輝度、縦軸が輝度に対応する画素数つまり頻度を表す。図6に示すように、長シャッタ画像の輝度は相対的に低い値に分布し、短シャッタ画像の輝度は相対的に高い値に分布している。ステップS30では、輝度ヒストグラムにおける輝度の上限値から下限値までを分布範囲とする。
具体的には、範囲設定部31は、分布範囲の上限値を超える輝度の画素数が、予め設定された明閾値よりも少なくなるように、分布範囲の上限値を設定する。また、範囲設定部31は、分布範囲の下限値を下回る輝度の画素数が、予め設定された暗閾値よりも少なくなるように、分布範囲の下限値を設定する。明閾値は、目立った被写体の白飛びが生じないような値に設定されている。また、暗閾値は、目立った被写体の黒潰れが生じないような値に設定されている。
さらに、範囲設定部31は、図7に示すように、予め設定された上限閾値を超える範囲に輝度の分布がある場合に、上限閾値を超える輝度の分布を除外して、分布範囲を設定する。上限閾値は、歩行者や他車両などのカメラ装置20が撮像対象とする被写体が、通常取り得る輝度よりも大きな値に設定されている。つまり、上限閾値を超えるような非常に高い輝度を持つ被写体は、太陽光等の光源であり、カメラ装置20の撮像対象から除外しても問題がない。図7では、分布H2が除外され、分布H1に対して分布範囲が設定される。
続いて、ステップS40では、パラメータ算出部32が、撮像部21の制御パラメータを算出する。ステップS30で設定された分布範囲は、HDR合成画像の必要なダイナミックレンジである。図8は、輝度が分布している範囲に対して、ダイナミックレンジが足りていない状態を示す。図8のA部分のように、低輝度部分のダイナミックレンジが不足していると、被写体が黒潰れしてしまう。また、図8のB部分のように、高輝度部分のダイナミックレンジが不足していると、被写体が飽和し白飛びしてしまう。一方、ダイナミックレンジが分布範囲よりも広いと、HDR合成画像に被写体が存在しない不要な輝度情報が含まれてしまう。
そこで、ステップS40において、パラメータ算出部32は、HDR合成画像のダイナミックレンジがステップS30で設定された分布範囲となるように、撮像部21の制御パラメータを算出する。具体的には、パラメータ算出部32は、ダイナミックレンジを暗い方へ広げる場合には、長シャッタ時間を長くし、より低い輝度を画素値1にする。一方、ダイナミックレンジを明るい方へ広げる場合には、短シャッタ時間を短くし、より高い輝度を画素値の最大値とする。シャッタ時間を限界まで長くしても、ダイナミックレンジが設定された分布範囲をカバーできない場合には、パラメータ算出部32は、ダイナミックレンジを暗い方へ広げるように、カメラゲインを調整する。なお、ステップS40において算出された制御パラメータは、次の処理周期のステップS10において用いられる。
続いて、ステップS50では、画像生成部22が、ステップS110で生成されたHDR合成画像を圧縮するための圧縮特性を生成する。異なるシャッタ時間の画像を合成したことで、HDR合成画像の輝度を表す画素値のビット幅は16ビット幅となり、画像認識部35で認識可能な8ビット幅よりも長くなっている。そのため、HDR合成画像の画素値を、まず12ビット幅の画素値に圧縮する。画像生成部22は、図5に実線で示すように、HDR合成画像のダイナミックレンジの輝度を、12ビット幅の画素値で表す圧縮特性を生成する。
具体的には、例えば、夜間の歩行者を被写体とする場合は、高分解能が必要な歩行者の体幹部分はヘッドライトが当たらず低輝度となるので、低輝度部分は非圧縮にするとよい。一方、高分解能が不要な歩行者の下半身部分はヘッドライトが当たって高輝度となるので、高輝度部分は圧縮してもよい。よって、夜間の歩行者を被写体とする場合、画像処理部34は、例えば、低輝度部分は長シャッタ画像の情報を残し、高輝度部分は高圧縮とし、設定された分布範囲が広いほど、高輝度部分の圧縮率を高くするような圧縮特性を生成する。
続いて、ステップS60では、画像生成部22が、生成した圧縮特性を用いて、16ビット幅のHDR合成画像から12ビット幅の圧縮画像を生成し、生成した12ビット幅の圧縮画像を画像処理部34へ出力する。そして、画像処理部34は、圧縮画像の12ビット幅の画素値から下位4ビットを切り捨てし、8ビット幅の出力画像を生成して、生成した出力画像を画像認識部35へ出力する。以上で、本処理を一旦終了する。
[3.作用]
図9に、第1シーンにおいて撮像したHDR合成画像の輝度ヒストグラム及び圧縮特性を示す。また、図10に、第2シーンにおいて撮像したHDR合成画像の輝度ヒストグラム及び圧縮特性を示す。第1シーンと第2シーンは異なるシーンであり、第1シーンは、例えば昼のシーン、第2シーンは、例えばトンネル出口のシーンである。
図9及び図10に示すように、シーンによって輝度分布は異なるが、輝度分布に応じて分布範囲が設定され、HDR合成画像のダイナミックレンジが、設定された分布範囲となるように、制御パラメータが設定される。そして、設定された制御パラメータを用いて、短シャッタ画像及び長シャッタ画像が撮像され、撮像された短シャッタ画像及び長シャッタ画像から、新しいHDR合成画像が生成される。生成されたHDR合成画像のダイナミックレンジは、前回生成されたHDR合成画像において設定された分布範囲となっている。同じシーンであれば、連続するHDR合成画像における輝度分布は略等しくなるので、今回生成されたHDR合成画像のダイナミックレンジは、今回生成されたHDR合成画像において輝度が分布する分布範囲と略等しくなる。
そして、生成されたHDR合成画像のダイナミックレンジの輝度に、すなわち、被写体の輝度が分布する分布範囲の輝度に、12ビット幅の画素値が割り当てられ、圧縮画像が生成される。図9及び図10において、シーン1及びシーン2のHDR合成画像には、いずれも12ビット幅の画素値が割り当てられているが、ダイナミックレンジはシーン1よりもシーン2の方が広くなっている。そのため、シーン1は、シーン2と比べて、低輝度部分及び高輝度部分の圧縮特性は等しいが、高輝度部分の圧縮率が高くなっている。
このように、設定された分布範囲の輝度に対して、出力画素値が全て割り当てられるため、被写体が存在しない不要な輝度に対する出力画素値の割り当てが抑制される。また、被写体の輝度に対して、出力画素値が割り当てられないことも抑制される。
[4.効果]
以上説明した第1実施形態によれば、以下の効果が得られる。
(1)撮像部21を制御する制御パラメータを適切に算出することにより、被写体の輝度が分布する分布範囲をダイナミックレンジとするHDR合成画像を生成することができる。そして、生成したHDR合成画像のダイナミックレンジに、限られた出力画素値を全て割り当てることで、被写体が存在しない不要な輝度に対する出力画素値の割り当てを抑制して、被写体が存在する有効な輝度に対して出力画素値を割り当てることができる。
(2)HDR合成画像のダイナミックレンジが分布範囲となるように撮像することにより、撮像後にダイナミックレンジが分布範囲となるように画像処理する場合よりも、きれいな変換画像を出力することができるとともに、処理負荷を抑制することができる。
(3)分布範囲の上限値を超える輝度の画素数が明閾値よりも少なくなるように、分布範囲を設定することにより、被写体の白飛びを抑制することができる。
(4)分布範囲の下限値を下回る輝度の画素数が暗閾値よりも少なくなるように、分布範囲を設定することにより、被写体の黒潰れを抑制することができる。
(5)上限閾値を超える輝度分布を除外して分布範囲を設定することにより、明らかに撮像対象と異なる被写体を除外して、効率的に撮像対象である被写体の輝度に出力画素値を割り当てることができる。
(第2実施形態)
[1.第1実施形態との相違点]
第2実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。なお、第1実施形態と同じ符号は、同一の構成を示すものであって、先行する説明を参照する。
前述した第1実施形態では、撮像部21の制御パラメータを適切に設定することで、被写体の輝度が分布する分布範囲をダイナミックレンジとするHDR合成画像を生成した。これに対し、第2実施形態では、ダイナミックレンジが最大幅となるHDR合成画像を一旦生成し、画像処理により、生成したHDR合成画像から分布範囲となるダイナミックレンジを切り出すように調整された調整画像を生成する点で、第1実施形態と相違する。HDR合成画像のダイナミックレンジの最大幅は、カメラ装置20の撮像素子の感度、シャッタ時間の最小値及び最大値といったカメラ装置20の設計により決まる。なお、第2実施形態では、画像処理部34が範囲設定部31の機能を含む。
[2.処理]
次に、第2実施形態の画像出力装置10が実行する画像圧縮処理について、図11のフローチャートを用いて説明する。本処理手順は、所定の時間間隔で繰り返し実行される。
まず、ステップS100では、パラメータ算出部32が、HDR合成画像のダイナミックレンジが最大幅となるように、撮像部21の制御パラメータを算出する。
続いて、ステップS110では、撮像制御部33が、ステップS100で算出された制御パラメータを用いて撮像部21を制御し、短シャッタ撮像と長シャッタ撮像を行う。
続いて、ステップS120では、図2のステップS20と同様にして、画像生成部22が、HDR合成画像を生成する。生成されたHDR合成画像は16ビットの画像であり、ダイナミックレンジは最大幅となる。生成されたHDR合成画像は、画像処理部34へ送信される。
続いて、ステップS130では、画像処理部34が、図2のステップS30と同様にして、分布範囲を設定する。
続いて、ステップS140では、図12に示すように、画像処理部34が、ステップS120で生成されたHDR合成画像から、ステップS130において設定された分布範囲となるダイナミックレンジを切り出すように調整された調整画像を生成する。そして、画像処理部34は、HDR合成画像を調整画像に更新する。
続いて、ステップS150では、画像処理部34が、ステップS50と同様に、圧縮特性を生成する。
続いて、ステップS160では、画像処理部34が、ステップS150において生成した圧縮特性を用いてHDR合成画像から圧縮画像を生成し、生成した圧縮画像を出力する。本実施形態では、第2ビット幅を8ビット幅とし、HDR合成画像を圧縮して、8ビット幅の圧縮画像を生成する。以上で、本処理を一旦終了する。
[3.効果]
以上詳述した第2実施形態によれば、前述した第1実施形態の効果(3)〜(5)に加え、以下の効果が得られる。
(6)ダイナミックレンジを最大幅としたHDR合成画像が生成され、HDR合成画像のから被写体の輝度が分布する分布範囲となるダイナミックレンジとを切り出すように調整された調整画像が生成され、調整画像がHDR合成画像とされる。よって、被写体が存在しない不要な輝度に出力画素値が割り当てられることを抑制して、被写体が存在する有効な輝度に対して出力画素値を割り当てることができる。
(第3実施形態)
[1.第2実施形態との相違点]
第3実施形態は、基本的な構成は第2実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。なお、第2実施形態と同じ符号は、同一の構成を示すものであって、先行する説明を参照する。
前述した第2実施形態では、処理装置30が実現する機能である画像処理部34が、ダイナミックレンジが最大幅のHDR合成画像から調整画像を生成した。これに対して、第3実施形態では、カメラ装置20に含まれるハードウェアである画像生成部22が、調整画像を生成する。第3実施形態では、画像生成部22が範囲設定部31の機能を含む。
つまり、図11のフローチャートにおいて、ステップS120からステップS140までの処理を画像生成部22が実行し、ステップS150及びステップS160の処理を画像処理部34が実行する。
[4.効果]
以上説明した第3実施形態によれば、前述した第1実施形態の効果(3)〜(5)に加え、前述した第2実施形態の効果(6)が得られる。
(他の実施形態)
以上、本発明を実施するための形態について説明したが、本発明は上述の実施形態に限定されることなく、種々変形して実施することができる。
(a)上記実施形態では、シャッタ時間を長短の2種類としたが、これに限定されるものではない。例えば、シャッタ時間を、長、中、短の3種類とし、3種類のシャッタ時間で撮像された画像を合成してHDR合成画像を生成するようにしてもよい。また、4種類以上のシャッタ時間を用いてもよい。
(b)上記実施形態における1つの構成要素が有する複数の機能を、複数の構成要素によって実現したり、1つの構成要素が有する1つの機能を、複数の構成要素によって実現したりしてもよい。また、複数の構成要素が有する複数の機能を、1つの構成要素によって実現したり、複数の構成要素によって実現される1つの機能を、1つの構成要素によって実現したりしてもよい。また、上記実施形態の構成の一部を省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加又は置換してもよい。なお、特許請求の範囲に記載した文言のみによって特定される技術思想に含まれるあらゆる態様が本発明の実施形態である。
(c)上述した画像出力装置の他、当該画像出力装置を構成要素とするシステム、当該画像出力装置としてコンピュータを機能させるためのプログラム、このプログラムを記録した半導体メモリ等の非遷移的実態的記録媒体、画像生成方法など、種々の形態で本発明を実現することもできる。
10…画像出力装置、20…カメラ装置、22…画像生成部、30…処理装置、31…範囲設定部、32…パラメータ算出部、33…撮像制御部、34…画像処理部。

Claims (5)

  1. 複数のシャッタ時間を含む車載カメラ(20)の制御パラメータを繰り返し算出するように構成されたパラメータ算出部(32)と、
    前記パラメータ算出部により算出された前記制御パラメータを用いて、前記車載カメラを制御するように構成された撮像制御部(33)と、
    前記撮像制御部により制御された前記車載カメラにより撮像された、異なる前記シャッタ時間の複数の撮像画像を合成して、予め設定された第1ビット幅の画素値で輝度を表す合成画像を生成するように構成された画像生成部(22)と、
    前記画像生成部により生成された前記合成画像において、被写体の輝度が分布する範囲である分布範囲を設定するように構成された範囲設定部(31)と、
    前記範囲設定部により設定された前記分布範囲の輝度を、前記第1ビット幅よりも狭い予め設定された第2ビット幅の画素値で表す圧縮特性を生成するように構成された特性生成部(22)と、
    前記特性生成部で生成された前記圧縮特性を用いて、前記合成画像を圧縮して圧縮画像を生成し、生成した前記圧縮画像を出力するように構成された画像出力部(22)と、を備え
    前記範囲設定部は、前記合成画像の輝度の分布から、予め設定された上限閾値を超える輝度の分布を除外した除外分布を算出し、算出した除外分布に対して、前記分布範囲の上限値を超える輝度の画素数が、予め設定された明閾値よりも少なくなるように、前記分布範囲を設定するように構成されており、
    前記上限値は、前記上限閾値よりも小さい値である、
    画像出力装置。
  2. 前記パラメータ算出部は、前記画像生成部により生成される前記合成画像の輝度幅が、前回生成された前記合成画像に対して前記範囲設定部により設定された前記分布範囲となるように、前記車載カメラの制御パラメータを算出するように構成されている、請求項1に記載の画像出力装置
  3. 前記画像出力部は、前記範囲設定部を含み、
    前記パラメータ算出部は、前記合成画像の輝度幅が前記車載カメラの設計で決まる最大幅となるように、前記車載カメラの制御パラメータを算出するように構成されており、
    前記画像出力部は、前記画像生成部により生成された前記合成画像から、前記範囲設定部により設定された前記分布範囲となる輝度幅切り出すように調整された調整画像を生成し、切り出した前記調整画像を前記合成画像として、前記圧縮画像を生成するように構成されている、請求項1に記載の画像出力装置
  4. 前記画像生成部は、前記範囲設定部を含み、前記車載カメラに含まれるハードウェアで構成されており、
    前記パラメータ算出部は、前記合成画像の輝度幅が前記車載カメラの設計で決まる最大幅となるように、前記車載カメラの制御パラメータを算出するように構成されており、
    前記画像生成部は、生成した前記合成画像から、前記範囲設定部により設定された前記分布範囲となる輝度幅を切り出すように調整された調整画像を生成し、前記合成画像を前記調整画像に更新するように構成されている、請求項1に記載の画像出力装置
  5. 前記範囲設定部は、前記分布範囲の下限値を下回る輝度の画素数が、予め設定された暗閾値よりも少なくなるように、前記分布範囲を設定するように構成されている、請求項1〜のいずれか1項に記載の画像出力装置。
JP2016217320A 2016-11-07 2016-11-07 画像出力装置 Active JP6740866B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016217320A JP6740866B2 (ja) 2016-11-07 2016-11-07 画像出力装置
US15/804,782 US10136080B2 (en) 2016-11-07 2017-11-06 Image generating apparatus
DE102017219694.7A DE102017219694A1 (de) 2016-11-07 2017-11-06 Bilderzeugungsvorrichtung
CN201711085293.8A CN108063898B (zh) 2016-11-07 2017-11-07 图像生成设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016217320A JP6740866B2 (ja) 2016-11-07 2016-11-07 画像出力装置

Publications (2)

Publication Number Publication Date
JP2018078372A JP2018078372A (ja) 2018-05-17
JP6740866B2 true JP6740866B2 (ja) 2020-08-19

Family

ID=62002865

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016217320A Active JP6740866B2 (ja) 2016-11-07 2016-11-07 画像出力装置

Country Status (4)

Country Link
US (1) US10136080B2 (ja)
JP (1) JP6740866B2 (ja)
CN (1) CN108063898B (ja)
DE (1) DE102017219694A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10721426B2 (en) * 2017-08-31 2020-07-21 Canon Kabushiki Kaisha Solid-state image sensor, image capture apparatus and image capture method
US10965894B2 (en) * 2017-11-20 2021-03-30 Flir Commercial Systems, Inc. Short wave infrared image sensor with automatic exposure and dynamic range control
JP7373299B2 (ja) * 2019-04-26 2023-11-02 キヤノン株式会社 画像処理装置およびその制御方法
KR20210009255A (ko) 2019-07-16 2021-01-26 삼성전자주식회사 이미지 센서 및 이를 포함하는 이미지 처리 시스템
JP7217211B2 (ja) * 2019-08-23 2023-02-02 日立Astemo株式会社 撮像装置及び撮像方法
CN117135288B (zh) * 2023-10-25 2024-02-02 钛玛科(北京)工业科技有限公司 图像拼接方法及装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3801126B2 (ja) * 2002-09-25 2006-07-26 ソニー株式会社 撮像装置,撮像装置の画像出力方法,およびコンピュータプログラム
US8120570B2 (en) * 2004-12-02 2012-02-21 Sharp Laboratories Of America, Inc. Systems and methods for tone curve generation, selection and application
JP4306750B2 (ja) * 2007-03-14 2009-08-05 ソニー株式会社 撮像装置、撮像方法、露光制御方法、プログラム
JP4996402B2 (ja) 2007-09-14 2012-08-08 株式会社東芝 撮像装置
CN101212545A (zh) * 2007-12-24 2008-07-02 电子科技大学 一种高动态范围的图形映射到低动态范围的方法及装置
JP5646884B2 (ja) 2010-05-27 2014-12-24 矢崎エナジーシステム株式会社 車載画像撮影用制御装置
JP5621569B2 (ja) * 2010-12-13 2014-11-12 ソニー株式会社 撮像装置及びシャッタ動作補正方法
US8947555B2 (en) * 2011-04-18 2015-02-03 Qualcomm Incorporated White balance optimization with high dynamic range images
JP5975642B2 (ja) * 2011-12-28 2016-08-23 三菱電機株式会社 画像処理装置、画像処理方法及び撮像装置
CN103024300B (zh) * 2012-12-25 2015-11-25 华为技术有限公司 一种高动态范围图像显示方法及装置
CN103916669B (zh) * 2014-04-11 2017-06-13 浙江宇视科技有限公司 高动态范围图像压缩方法及装置
US9307162B2 (en) * 2014-05-21 2016-04-05 Himax Imaging Limited Local enhancement apparatus and method to generate high dynamic range images by blending brightness-preserved and brightness-adjusted blocks
JP6533050B2 (ja) 2014-11-13 2019-06-19 クラリオン株式会社 車載カメラシステム
KR101939012B1 (ko) * 2015-03-02 2019-01-15 돌비 레버러토리즈 라이쎈싱 코오포레이션 하이 다이내믹 레인지 이미지들을 위한 콘텐츠 적응적 지각 양자화기
JP6549901B2 (ja) 2015-05-26 2019-07-24 株式会社Soken 点火装置
CN105450939A (zh) * 2015-11-19 2016-03-30 上海斐讯数据通信技术有限公司 一种高动态范围图像的显示方法及移动终端

Also Published As

Publication number Publication date
CN108063898A (zh) 2018-05-22
CN108063898B (zh) 2020-12-22
US20180131884A1 (en) 2018-05-10
JP2018078372A (ja) 2018-05-17
US10136080B2 (en) 2018-11-20
DE102017219694A1 (de) 2018-05-09

Similar Documents

Publication Publication Date Title
JP6740866B2 (ja) 画像出力装置
JP4985394B2 (ja) 画像処理装置および方法、プログラム、並びに記録媒体
JP5182555B2 (ja) 画像処理装置および画像処理方法、画像処理システム、プログラム、並びに、記録媒体
CN113840096B (zh) 具有led闪烁抑制的wdr成像
JP4835593B2 (ja) 画像処理装置および画像処理方法、プログラム、並びに、記録媒体
JP4089911B2 (ja) 画像入力装置
JP5743696B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4986747B2 (ja) 撮像装置及び撮像方法
JP5860663B2 (ja) ステレオ撮像装置
JP2018064201A (ja) 画像処理装置、画像処理方法、及び画像処理回路
CN109474770B (zh) 一种成像装置及成像方法
JP4952499B2 (ja) 画像処理装置
JP2009177250A (ja) 車載用画像認識装置、車両状況判定装置および車載用画像認識方法
JP4400512B2 (ja) 車載カメラ制御装置
JP5898509B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
WO2005064922A1 (ja) 撮像システム
CN113728619A (zh) 摄像装置以及图像调整方法
JP5427744B2 (ja) 画像処理装置
KR20160030350A (ko) 화상 처리 장치 및 화상 처리 방법
JP6376339B2 (ja) 画像処理装置および画像処理方法
JP2008230464A (ja) 車載カメラ用自動露出装置
JP6944350B2 (ja) 撮影画像表示システム、電子ミラーシステム及び撮影画像表示方法
JP2019204988A (ja) 画像処理装置及び画像処理方法
JP6570311B2 (ja) 画像処理装置及び画像処理方法
JP6693387B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190123

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200623

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200706

R151 Written notification of patent or utility model registration

Ref document number: 6740866

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250