JP2015213276A - Image processing system and image processing method - Google Patents

Image processing system and image processing method Download PDF

Info

Publication number
JP2015213276A
JP2015213276A JP2014095853A JP2014095853A JP2015213276A JP 2015213276 A JP2015213276 A JP 2015213276A JP 2014095853 A JP2014095853 A JP 2014095853A JP 2014095853 A JP2014095853 A JP 2014095853A JP 2015213276 A JP2015213276 A JP 2015213276A
Authority
JP
Japan
Prior art keywords
value
image
margin
maximum value
range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014095853A
Other languages
Japanese (ja)
Other versions
JP6543786B2 (en
Inventor
毅 都築
Takeshi Tsuzuki
毅 都築
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hanwha Vision Co Ltd
Original Assignee
Hanwha Techwin Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hanwha Techwin Co Ltd filed Critical Hanwha Techwin Co Ltd
Priority to JP2014095853A priority Critical patent/JP6543786B2/en
Priority to KR1020140114529A priority patent/KR102170697B1/en
Publication of JP2015213276A publication Critical patent/JP2015213276A/en
Application granted granted Critical
Publication of JP6543786B2 publication Critical patent/JP6543786B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/426Internal components of the client ; Characteristics thereof
    • H04N21/42607Internal components of the client ; Characteristics thereof for processing the incoming bitstream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a technique capable of obtaining a range compressed image whose object color reproducibility using a range near saturation is improved.SOLUTION: In an image processing system 1 that performs range compression of the number of bits of each pixel value constituting an input image from A bits to B bits (where, A>B), a maximum value detection section 41 for detecting the maximum value of pixel values constituting an input image, a margin determination section 42 for determining a margin value on the basis of the maximum value, a coefficient calculation section 44 for calculating a coefficient on the basis of a sum of the maximum value and the margin value, and a compression section 45 for performing range compression of the input image by using the coefficient are provided.

Description

本発明は、画像処理装置および画像処理方法に関する。   The present invention relates to an image processing apparatus and an image processing method.

近年、センサが撮影可能なダイナミックレンジを超えたダイナミックレンジを捉えた画像(以下、「WDR信号」とも言う。)を得るWDR(ワイドダイナミックレンジ)もしくはHDR(ハイダイナミックレンジ)という撮影機能が増えてきている。かかる撮影機能は、逆光の構図など明暗比が非常に大きいシーンでは特に大きな効果がある。   In recent years, an imaging function called WDR (Wide Dynamic Range) or HDR (High Dynamic Range) for obtaining an image (hereinafter also referred to as “WDR signal”) that captures a dynamic range that exceeds the dynamic range that can be captured by the sensor has increased. ing. Such a photographing function is particularly effective in a scene with a very large contrast ratio such as a composition of backlight.

WDR信号を得る手段としては、短時間露光の画像(以下、単に「短露光画像」とも言う。)および長時間露光の画像(以下、単に「長露光画像」とも言う。)を1枚ずつ連続して撮影して合成する手段や、短露光画像および長露光画像を領域毎に撮影して合成する手段、撮像能力を向上させて1枚撮影で広いダイナミックレンジが得られるセンサを使用する手段などがある。このような手段によって得られるダイナミックレンジは、16ビットから20ビット、あるいはそれ以上のレンジである場合もある。   As means for obtaining the WDR signal, a short-exposure image (hereinafter also simply referred to as “short-exposure image”) and a long-exposure image (hereinafter also simply referred to as “long-exposure image”) are successively displayed one by one. Means for photographing and compositing, means for photographing short-exposure images and long-exposure images for each region, means for using a sensor that improves imaging ability and obtains a wide dynamic range by one-shot photography, etc. There is. The dynamic range obtained by such means may be a range of 16 bits to 20 bits or more.

しかし、このようなダイナミックレンジを有するWDR信号が得られたとしても、最終的に表示するディスプレイの表示能力は10ビット程度に限定されてしまうという状況があり得る他、後段において20ビット信号精度で様々な信号処理を行っては処理量が膨大になるという問題が発生してしまう。そこで、例えば、各画素値を20ビットから10ビットに圧縮するというように、WDR信号を大幅にレンジ圧縮する必要がある。   However, even if a WDR signal having such a dynamic range is obtained, the display capability of the display to be finally displayed may be limited to about 10 bits. If various signal processing is performed, a problem that the processing amount becomes enormous will occur. Therefore, for example, it is necessary to significantly compress the range of the WDR signal so that each pixel value is compressed from 20 bits to 10 bits.

ここで、20ビットのレンジを捉える能力があるWDRシステムを利用した場合であっても、被写体のレンジが20ビットの上限まで達している時もあれば、シーンによっては16ビット程度にしか達していない時もある。そのため、入力上限レンジに対する出力上限レンジの比を圧縮比として固定的に使用する場合には、出力レンジの低輝度側しか使わずに暗い画像が出力されてしまうことがあるし、圧縮比が小さ過ぎる場合には、圧縮が不十分となり出力画像が飽和してしまう。   Here, even if a WDR system capable of capturing a 20-bit range is used, the subject range may reach the upper limit of 20 bits, but depending on the scene, it only reaches about 16 bits. Sometimes there isn't. Therefore, when the ratio of the output upper limit range to the input upper limit range is fixedly used as the compression ratio, a dark image may be output using only the low luminance side of the output range, and the compression ratio is small. If it is too high, the compression will be insufficient and the output image will be saturated.

したがって、出力画像のダイナミックレンジを有効に活用しつつ、出力画像が飽和することも防ぐためには、入力画像のダイナミックレンジに応じて適応的に圧縮を行う必要がある。このような目的を達成する技術として、以下の特許文献1〜4に開示されているような技術が公開されている。   Therefore, in order to prevent the output image from being saturated while effectively utilizing the dynamic range of the output image, it is necessary to adaptively perform compression according to the dynamic range of the input image. As a technique for achieving such an object, techniques disclosed in the following Patent Documents 1 to 4 are disclosed.

例えば、特許文献1には、入力RGB信号の最大値を検出し、入力RGB信号に対する入力RGB信号の圧縮後の信号が取り得る最大値のレベル比を圧縮比とし、その圧縮比を入力RGB信号に対して掛け算する技術が開示されている。かかる演算処理によれば、圧縮後の信号が出力レンジを超えて飽和することを防ぐことが可能である。   For example, in Patent Document 1, the maximum value of the input RGB signal is detected, the level ratio of the maximum value that can be taken by the signal after compression of the input RGB signal with respect to the input RGB signal is defined as the compression ratio, and the compression ratio is used as the input RGB signal. A technique for multiplying is disclosed. According to such arithmetic processing, it is possible to prevent the compressed signal from being saturated beyond the output range.

また、特許文献2には、入力信号のレベルに応じて修正値を定義して、その修正値を入力信号に加算または減算する技術が開示されている。かかる演算により、特に、入力信号のハイライト部のレベルを下げることで色飽和を低減することができる。   Patent Document 2 discloses a technique in which a correction value is defined according to the level of an input signal and the correction value is added to or subtracted from the input signal. With this calculation, color saturation can be reduced particularly by lowering the level of the highlight portion of the input signal.

また、特許文献3には、入力RGB信号から輝度信号を算出し、この輝度信号を入力RGB信号から減算して色差信号を生成し、輝度信号に対してニー処理を施して、その輝度信号を色差信号に再加算する技術が開示されている。   Patent Document 3 calculates a luminance signal from an input RGB signal, subtracts the luminance signal from the input RGB signal to generate a color difference signal, performs knee processing on the luminance signal, and outputs the luminance signal. A technique for re-adding to a color difference signal is disclosed.

また、特許文献4には、入力RGB信号にゲイン演算を行い、演算後のRGB信号から最大値を検出し、検出した最大値に基づいて抑圧係数を得て、抑圧係数を用いて飽和レベル付近の画素値を圧縮する技術が開示されている。   In Patent Document 4, gain calculation is performed on an input RGB signal, a maximum value is detected from the calculated RGB signal, a suppression coefficient is obtained based on the detected maximum value, and a saturation level is obtained using the suppression coefficient. A technique for compressing the pixel value is disclosed.

特開2000−115796号公報JP 2000-115796 A 特開2005−109871号公報JP 2005-109871 A 特開2009−111894号公報JP 2009-111894 A 特開2004−180090号公報JP 2004-180090 A

しかしながら、特許文献1に記載された技術では、飽和付近のレンジを使うオブジェクトの色再現性は十分ではない。   However, in the technique described in Patent Document 1, the color reproducibility of an object using a range near saturation is not sufficient.

また、特許文献2に記載された技術では、出力信号のレンジを飽和しない範囲に収めることが目的であり、飽和付近のレンジを使うオブジェクトの色再現性は十分ではない。   In addition, the technique described in Patent Document 2 aims to keep the range of the output signal within a range that does not saturate, and the color reproducibility of an object that uses a range near saturation is not sufficient.

また、特許文献3に記載された技術では、出力信号の飽和付近のレンジを使うオブジェクトの色再現性は十分ではない。また、特許文献3に記載された技術では、ニー処理はあるレベル以上の高輝度部だけをレンジ圧縮するために行われ、大幅なレンジ圧縮に対しては該技術を応用することは難しいと思われる。   Further, with the technique described in Patent Document 3, the color reproducibility of an object using a range near the saturation of the output signal is not sufficient. Further, in the technique described in Patent Document 3, knee processing is performed to perform range compression only on a high-luminance portion of a certain level or higher, and it seems difficult to apply this technique to significant range compression. It is.

また、特許文献4に記載された技術においては、各画素値のビット数を8ビットから9ビット程度に増幅し、飽和した画素値を8ビット以内に収める用途が想定されており、強力なレンジ圧縮は想定されていない。また、特許文献4に記載された技術では、飽和付近のレンジを使うオブジェクトの色再現性は十分ではない。   Further, in the technique described in Patent Document 4, it is assumed that the number of bits of each pixel value is amplified from about 8 bits to about 9 bits and the saturated pixel value is kept within 8 bits. Compression is not expected. Further, with the technique described in Patent Document 4, the color reproducibility of an object using a range near saturation is not sufficient.

そこで、本発明は、飽和付近のレンジを使うオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能な技術を提供する。   Therefore, the present invention provides a technique capable of obtaining a range-compressed image with improved color reproducibility of an object that uses a range near saturation.

本発明のある実施形態によれば、入力画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する画像処理装置において、前記入力画像を構成する画素値の最大値を検出する最大値検出部と、前記最大値に基づいてマージン値を決定するマージン決定部と、前記最大値と前記マージン値との加算値に基づいて係数を算出する係数算出部と、前記係数を用いて前記入力画像をレンジ圧縮する圧縮部と、を備える、画像処理装置が提供される。   According to an embodiment of the present invention, in an image processing apparatus that performs range compression on the number of bits of each pixel value constituting an input image from A bits to B bits (A> B), the pixels constituting the input image A maximum value detecting unit for detecting a maximum value, a margin determining unit for determining a margin value based on the maximum value, and a coefficient calculating unit for calculating a coefficient based on an added value of the maximum value and the margin value And a compression unit that performs range compression on the input image using the coefficient.

かかる構成によれば、出力レンジの上限から一定の領域のレンジを不使用とする制御を行うことによって、高輝度・高彩度のオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能となる。   According to such a configuration, it is possible to obtain a range-compressed image in which the color reproducibility of a high-brightness / high-saturation object is improved by performing control so as not to use a certain range from the upper limit of the output range. .

前記マージン決定部は、前記入力画像を構成する画素値の飽和値と前記最大値との比較結果に基づいて前記マージン値を決定してもよいし、所定の閾値と前記最大値との比較結果に基づいて前記マージン値を決定してもよい。   The margin determination unit may determine the margin value based on a comparison result between a saturation value of a pixel value constituting the input image and the maximum value, or a comparison result between a predetermined threshold and the maximum value The margin value may be determined based on

例えば、前記マージン決定部は、前記最大値が前記飽和値以上である場合には、零を前記マージン値として決定してもよい。入力画像が飽和している場合には、圧縮後の画像も飽和している方が自然だからである。   For example, the margin determination unit may determine zero as the margin value when the maximum value is greater than or equal to the saturation value. This is because when the input image is saturated, it is natural that the compressed image is also saturated.

また、例えば、前記マージン決定部は、前記最大値が前記閾値を下回る場合には、規定値を前記マージン値として決定してもよい。また、例えば、前記マージン決定部は、前記最大値が前記飽和値と前記閾値との間である場合には、線形補間により算出された値を前記マージン値として決定してもよい。   For example, the margin determination unit may determine a specified value as the margin value when the maximum value is lower than the threshold value. For example, when the maximum value is between the saturation value and the threshold value, the margin determination unit may determine a value calculated by linear interpolation as the margin value.

飽和値はどのように設定されてもよい。例えば、前記入力画像は、短露光画像と長露光画像との合成画像であり、前記飽和値は、センサから出力される各画素値のビット数と前記センサによって撮影される前記短露光画像および前記長露光画像の露光比との乗算値であってもよい。   The saturation value may be set in any way. For example, the input image is a composite image of a short exposure image and a long exposure image, and the saturation value is the number of bits of each pixel value output from a sensor, the short exposure image captured by the sensor, and the It may be a multiplication value with the exposure ratio of the long exposure image.

あるいは、前記入力画像は、短露光画像と長露光画像との合成画像であり、前記マージン決定部は、前記短露光画像を構成する画素値の飽和値と前記短露光画像を構成する画素値の最大値との比較結果に基づいて前記マージン値を決定してもよい。   Alternatively, the input image is a composite image of a short-exposure image and a long-exposure image, and the margin determination unit includes a saturation value of a pixel value constituting the short-exposure image and a pixel value constituting the short-exposure image. The margin value may be determined based on a comparison result with the maximum value.

また、本発明の別の実施形態によれば、入力画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する画像処理方法において、前記入力画像を構成する画素値の最大値を検出するステップと、前記最大値に基づいてマージン値を決定するステップと、前記最大値と前記マージン値との加算値に基づいて係数を算出するステップと、前記係数を用いて前記入力画像をレンジ圧縮するステップと、
を含む、画像処理方法が提供される。
According to another embodiment of the present invention, in the image processing method for performing range compression on the number of bits of each pixel value constituting an input image from A bit to B bit (A> B), the input image Detecting a maximum value of constituent pixel values; determining a margin value based on the maximum value; calculating a coefficient based on an added value of the maximum value and the margin value; and the coefficient Range-compressing the input image using
An image processing method is provided.

かかる方法によれば、出力レンジの上限から一定の領域のレンジを不使用とする制御を行うことによって、高輝度・高彩度のオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能となる。   According to such a method, it is possible to obtain a range-compressed image in which the color reproducibility of a high-brightness / high-saturation object is improved by performing control so as not to use a certain range from the upper limit of the output range. .

以上説明したように、本発明によれば、飽和付近のレンジを使うオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能である。   As described above, according to the present invention, it is possible to obtain a range-compressed image with improved color reproducibility of an object that uses a range near saturation.

飽和付近のレンジを使用する際の色再現性について説明するための図である。It is a figure for demonstrating the color reproducibility at the time of using the range near saturation. 本発明の実施形態に係る画像処理装置の機能構成例を示す図である。It is a figure which shows the function structural example of the image processing apparatus which concerns on embodiment of this invention. レンジ圧縮部の詳細な機能構成例を示すブロック図である。It is a block diagram which shows the detailed functional structural example of a range compression part. マージン値の決定例を説明するための図である。It is a figure for demonstrating the example of a margin value determination. 画素値の最大値が飽和値に達していないWDR合成画像、最大値を用いて12ビットレンジに圧縮した後のWDR合成画像および最大値とマージン値との加算値を用いて12ビットレンジに圧縮した後のWDR合成画像それぞれのヒストグラムを示す図である。WDR composite image in which the maximum pixel value has not reached the saturation value, WDR composite image after compression to the 12-bit range using the maximum value, and compression to the 12-bit range using the sum of the maximum value and the margin value It is a figure which shows the histogram of each WDR synthetic | combination image after having performed. 画素値の最大値が飽和値に達しているWDR合成画像、最大値とマージン値との加算値を用いて12ビットレンジに圧縮した後のWDR合成画像および最大値を用いて12ビットレンジに圧縮した後のWDR合成画像それぞれのヒストグラムを示す図である。WDR composite image in which the maximum pixel value reaches the saturation value, WDR composite image after compression to the 12-bit range using the sum of the maximum value and the margin value, and compression to the 12-bit range using the maximum value It is a figure which shows the histogram of each WDR synthetic | combination image after having performed.

以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付すことにより重複説明を省略する。   Exemplary embodiments of the present invention will be described below in detail with reference to the accompanying drawings. In the present specification and drawings, components having substantially the same functional configuration are denoted by the same reference numerals, and redundant description is omitted.

また、本明細書および図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。   In the present specification and drawings, a plurality of constituent elements having substantially the same functional configuration may be distinguished by attaching different alphabets after the same reference numeral. However, when it is not necessary to particularly distinguish each of a plurality of constituent elements having substantially the same functional configuration, only the same reference numerals are given.

まず、飽和付近のレンジを使用する際の色再現性について、図1を参照しながら説明する。図1は、飽和付近のレンジを使用する際の色再現性について説明するための図である。図1では、青いオブジェクトを表すRGB画素値それぞれを簡単のため8ビット値で示している。図1に示したように、「短露光画像」が(R,G,B)=(96,144,192)の値を持つ場合は、撮影されたオブジェクトが非常に高い明度を持つ青い物体である。具体的には、快晴の日の真っ青な空が青い物体の典型的な例である。   First, color reproducibility when using a range near saturation will be described with reference to FIG. FIG. 1 is a diagram for explaining color reproducibility when a range near saturation is used. In FIG. 1, each RGB pixel value representing a blue object is shown as an 8-bit value for simplicity. As shown in FIG. 1, when the “short exposure image” has a value of (R, G, B) = (96, 144, 192), the photographed object is a blue object having very high brightness. is there. Specifically, the clear blue sky is a typical example of a blue object.

この短露光画像および長露光画像に対してWDR合成を行った後、従来技術を使用してWDR合成画像に対して出力レンジに合わせたレンジ圧縮を行うと、図1に示した「出力画像」が出力される。図1の「短露光画像」と「出力画像」とをHSV表色系で表現して比較すれば、「短露光画像」と「出力画像」との間においては、V(明度)だけが異なっており、H(色相)もS(彩度)も異なっておらず、飽和もしていないため、「出力画像」には一見すると不具合はない。   After performing WDR composition on the short-exposure image and long-exposure image, and performing range compression in accordance with the output range on the WDR composite image using conventional technology, the “output image” shown in FIG. Is output. If the “short exposure image” and the “output image” in FIG. 1 are expressed and compared in the HSV color system, only the V (brightness) is different between the “short exposure image” and the “output image”. Since H (hue) and S (saturation) are not different and are not saturated, there is no problem at first glance in the “output image”.

しかし、「出力画像」の色を観察すると、「出力画像」に映る空は真っ青には見えずに明るい水色に見えてしまって、実物とだいぶ印象が異なってしまう。これを一例として、高輝度・高彩度物体を「短露光画像」で捉えてからWDR合成画像を生成したとしても、レンジ圧縮を適切に行わないと「出力画像」では深みのある色が再現できずに実物と異なってしまう問題がある。   However, when the color of the “output image” is observed, the sky reflected in the “output image” does not look bright blue but looks bright light blue, and the impression of the actual image is very different. As an example, even if a WDR composite image is generated after capturing a high-brightness / high-saturation object with a “short-exposure image”, deep colors cannot be reproduced in the “output image” unless the range compression is performed properly. There is a problem that is different from the real thing.

そこで、本明細書においては、入力画像に対するレンジ圧縮を行うに際して、出力画像が出力レンジを超えて飽和することがないようにするだけでなく、飽和レベル付近の色再現性が不十分であることに着目する。具体的には、本明細書においては、出力レンジの上限から一定の領域のレンジを不使用とする制御を行うことによって、高輝度・高彩度のオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能な技術を提案する。なお、入力画像の例として、入力RGB信号を用いる場合を説明する。   Therefore, in this specification, when performing range compression on an input image, not only does the output image not be saturated beyond the output range, but also color reproducibility near the saturation level is insufficient. Pay attention to. Specifically, in the present specification, a range-compressed image with improved color reproducibility of a high-brightness / high-saturation object is obtained by performing control so as not to use a certain range from the upper limit of the output range. Propose a possible technology. A case where input RGB signals are used as an example of the input image will be described.

続いて、本発明の実施形態について詳細に説明する。まず、本発明の実施形態に係る画像処理装置1の機能構成について説明する。図2は、本発明の実施形態に係る画像処理装置1の機能構成例を示す図である。図2に示すように、画像処理装置1は、センサ10、フレームメモリ20、合成部30およびレンジ圧縮部40を備える。以下、画像処理装置1が備える各機能ブロックの機能について順次詳細に説明する。   Next, embodiments of the present invention will be described in detail. First, a functional configuration of the image processing apparatus 1 according to the embodiment of the present invention will be described. FIG. 2 is a diagram illustrating a functional configuration example of the image processing apparatus 1 according to the embodiment of the present invention. As shown in FIG. 2, the image processing apparatus 1 includes a sensor 10, a frame memory 20, a synthesis unit 30, and a range compression unit 40. Hereinafter, the function of each functional block included in the image processing apparatus 1 will be described in detail sequentially.

画像処理装置1は、センサ10の露光設定を変えて2枚の画像を連続撮影するが、ここでは短露光撮影を先に行い、その次に長露光撮影を行うものとする。しかし、長露光撮影を先に行い、その次に短露光撮影を行ってもよい。このようにして撮影された短露光画像および長露光画像は、ペアとしてフレームメモリ20に書き込まれる。長露光画像および短露光画像の撮影と撮影された長露光画像および短露光画像のフレームメモリ20への書き込みは、連続的に行われる。   The image processing apparatus 1 changes the exposure setting of the sensor 10 and continuously shoots two images. Here, it is assumed that short exposure shooting is performed first and then long exposure shooting is performed. However, long exposure photography may be performed first and then short exposure photography. The short-exposure image and the long-exposure image photographed in this way are written in the frame memory 20 as a pair. Shooting of the long exposure image and the short exposure image and writing of the captured long exposure image and the short exposure image to the frame memory 20 are continuously performed.

ここで、本明細書においては、少なくとも、現時刻の長露光画像および現時刻の短露光画像がフレームメモリ20に残っていればよい。したがって、長露光画像および短露光画像が撮影される間隔は特に限定されない。また、長露光画像および短露光画像は、毎フレームがフレームメモリ20に書き込まれてもよいし、複数フレームに一度フレームメモリ20に書き込まれてもよい。   Here, in the present specification, it is sufficient that at least the long exposure image at the current time and the short exposure image at the current time remain in the frame memory 20. Therefore, the interval at which the long exposure image and the short exposure image are taken is not particularly limited. Further, each frame of the long exposure image and the short exposure image may be written in the frame memory 20, or may be written in the frame memory 20 once every a plurality of frames.

例えば、図2に示した例のように、長露光画像および短露光画像のペアを書き込む領域がフレームメモリ20に存在する場合には、画像処理装置1は、長露光画像および短露光画像のペアをその領域に対して連続して書き込めばよい。例えば、フレームメモリ20に書き込まれた前時刻の短露光画像および前時刻の長露光画像は、現時刻の短露光画像および現時刻の長露光画像によって上書きされてよい。   For example, when the frame memory 20 has an area in which a pair of a long exposure image and a short exposure image is written, as in the example illustrated in FIG. 2, the image processing apparatus 1 sets the pair of the long exposure image and the short exposure image. Can be written continuously to the area. For example, the short exposure image at the previous time and the long exposure image at the previous time written in the frame memory 20 may be overwritten by the short exposure image at the current time and the long exposure image at the current time.

なお、図2に示した例では、画像処理装置1は、長露光画像および短露光画像を出力するための共通の系統を1つ有し、センサ10が長露光画像と短露光画像とを時分割で出力することとしたが、長露光画像と短露光画像とが同時に出力されてもよい。かかる場合、画像処理装置1は、センサ10から長露光画像を出力するための系統と短露光画像を出力するための系統との2つの系統を有すればよい。それぞれのシャッタータイムは、例えば、撮影対象のダイナミックレンジやセンサ仕様などによって決まる。   In the example shown in FIG. 2, the image processing apparatus 1 has one common system for outputting the long exposure image and the short exposure image, and the sensor 10 sometimes outputs the long exposure image and the short exposure image. Although the output is divided, the long exposure image and the short exposure image may be output simultaneously. In such a case, the image processing apparatus 1 may have two systems, that is, a system for outputting a long exposure image from the sensor 10 and a system for outputting a short exposure image. Each shutter time is determined by, for example, a dynamic range of a subject to be imaged, a sensor specification, and the like.

本発明の実施形態においては、短露光画像および長露光画像という用語を使用するが、これらの用語は、撮影された2つの画像それぞれの絶対的な露光時間を限定するものではない。したがって、露光時間の異なる2つの画像が撮影された場合に、当該2つの画像のうち、相対的に露光時間が短い画像が短露光画像に相当し、相対的に露光時間が長い画像が長露光画像に相当する。例えば、短露光の時間に対する長露光の時間(以下、単に「露光比」とも言う。)を数倍から十数倍に設定してよい。   In the embodiments of the present invention, the terms short exposure image and long exposure image are used, but these terms do not limit the absolute exposure time of each of the two captured images. Therefore, when two images with different exposure times are taken, an image with a relatively short exposure time corresponds to a short exposure image and an image with a relatively long exposure time is a long exposure. Corresponds to an image. For example, the long exposure time (hereinafter also simply referred to as “exposure ratio”) relative to the short exposure time may be set from several times to several tens of times.

合成部30は、長露光画像と短露光画像とを合成することによりWDR合成画像を生成する。具体的には、合成部30は、使用画像選択情報を参照して、短露光画像使用領域には短露光画像を使用し、長露光画像使用領域には長露光画像を使用して合成画像を生成する。例えば、センサ10から出力された短露光画像および長露光画像それぞれのビット数が12ビットであっても、合成部30によって生成されるWDR合成画像のビット数は16ビット程度であってよい。   The combining unit 30 generates a WDR combined image by combining the long exposure image and the short exposure image. Specifically, the compositing unit 30 refers to the use image selection information, uses the short exposure image in the short exposure image use region, and uses the long exposure image in the long exposure image use region to generate the composite image. Generate. For example, even if the number of bits of each of the short exposure image and the long exposure image output from the sensor 10 is 12 bits, the number of bits of the WDR composite image generated by the combining unit 30 may be about 16 bits.

なお、使用画像選択情報は、どのように生成されてもよいが、例えば、長露光画像において飽和してしまった領域は、短露光画像においては飽和していない可能性が高いため、当該領域の使用画像として短露光画像が選択されればよい。一方、例えば、長露光画像において飽和していない領域は、当該領域の使用画像として長露光画像が選択されればよい。   Note that the use image selection information may be generated in any way. For example, an area that has been saturated in the long exposure image is highly likely not to be saturated in the short exposure image. A short exposure image may be selected as a use image. On the other hand, for example, for a region that is not saturated in the long exposure image, the long exposure image may be selected as the use image of the region.

レンジ圧縮部40は、WDR合成画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する。かかる圧縮処理としては、ルックアップテーブル(LUT)に従ったトーンマッピングが用いられてよいが、特にどのような手法が用いられてもよい。例えば、合成部30によって生成されるWDR合成画像のビット数が16ビット程度であっても、レンジ圧縮部40は、WDR合成画像のビット数が12ビットとなるように圧縮を行う。   The range compression unit 40 performs range compression on the number of bits of each pixel value constituting the WDR composite image from A bits to B bits (A> B). As such compression processing, tone mapping according to a look-up table (LUT) may be used, but any method may be used. For example, even if the number of bits of the WDR synthesized image generated by the synthesis unit 30 is about 16 bits, the range compression unit 40 performs compression so that the number of bits of the WDR synthesized image becomes 12 bits.

レンジ圧縮部40の後段は、例えば、ベイヤーデータからRGBプレーンを生成するデモザイク部、輪郭強調部、カラーマネージメントなどを含む画像処理エンジンに接続される。そのため、レンジ圧縮部40からの出力信号のデータ量は、例えば、画像処理エンジンへの入力データのサイズに適合するように(例えば、12bit程度に)調整されるのが好ましい。単純にデータサイズを低下させるだけでは暗い画像に変換されてしまうため、人間の視覚特性に近づくように高輝度側が強く圧縮されるとよい。   The subsequent stage of the range compression unit 40 is connected to an image processing engine including, for example, a demosaic unit that generates an RGB plane from Bayer data, a contour enhancement unit, and color management. Therefore, it is preferable that the data amount of the output signal from the range compression unit 40 be adjusted so as to match the size of the input data to the image processing engine (for example, about 12 bits). If the data size is simply reduced, the image is converted into a dark image. Therefore, it is preferable that the high luminance side is strongly compressed so as to approximate human visual characteristics.

以上において説明した例では、露光量の異なる2種類の画像(短露光画像および長露光画像)を撮影して合成する例を説明した。しかし、合成に使用される画像の種類は特に限定されない。例えば、露光量の異なる3種類以上の画像を撮影して合成する例にも本実施形態は適用され得る。3種類以上の画像を撮影して合成する場合には、得られるWDR合成画像のダイナミックレンジを20ビット以上に広げることもできるようになると予想される。しかし、レンジ圧縮部40による圧縮後のレンジは一定であるのがよい。   In the example described above, an example in which two types of images (short exposure image and long exposure image) having different exposure amounts are captured and combined has been described. However, the type of image used for composition is not particularly limited. For example, the present embodiment can be applied to an example in which three or more types of images having different exposure amounts are captured and combined. When three or more types of images are captured and combined, it is expected that the dynamic range of the obtained WDR combined image can be expanded to 20 bits or more. However, the range after compression by the range compressor 40 should be constant.

続いて、レンジ圧縮部40の詳細な機能構成例について、図3を参照しながら説明する。図3は、レンジ圧縮部40の詳細な機能構成例を示すブロック図である。図3に示したように、画像処理装置1は、最大値検出部41と、マージン決定部42と、加算部43と、係数算出部44と、圧縮部45とを備える。なお、以下では、レンジ圧縮部40への入力RGB信号が、合成部30によって生成されたWDR合成画像である場合を主に説明するが、レンジ圧縮部40への入力RGB信号はWDR合成画像に限定されない。   Next, a detailed functional configuration example of the range compression unit 40 will be described with reference to FIG. FIG. 3 is a block diagram illustrating a detailed functional configuration example of the range compression unit 40. As illustrated in FIG. 3, the image processing apparatus 1 includes a maximum value detection unit 41, a margin determination unit 42, an addition unit 43, a coefficient calculation unit 44, and a compression unit 45. In the following description, the case where the input RGB signal to the range compression unit 40 is a WDR synthesized image generated by the synthesis unit 30 will be mainly described. However, the input RGB signal to the range compression unit 40 is converted to a WDR synthesized image. It is not limited.

最大値検出部41は、入力画像を構成する画素値の最大値hmaxを検出する。例えば、図3に示すように、最大値検出部41は、ダイナミックレンジが拡張された入力RGB信号が入力された場合には、この入力RGB信号を構成する全画素値から最大値hmaxを検出してよい。   The maximum value detection unit 41 detects a maximum value hmax of pixel values constituting the input image. For example, as shown in FIG. 3, when an input RGB signal with an extended dynamic range is input, the maximum value detection unit 41 detects the maximum value hmax from all the pixel values constituting the input RGB signal. It's okay.

ここで、最大値検出部41は、入力RGB信号を構成する全画素値のヒストグラムを取り、所定数以上存在する画素値のうち最も画素値の大きな値を最大値として検出するのが望ましい。1画素でも最大値として検出してしまうと、欠陥画素を検出してしまったり、非常に小さく画像全体からすると重要性が低い高輝度物体を検出してしまったりする可能性があるが、そのような可能性を低減することができるからである。   Here, it is desirable that the maximum value detection unit 41 takes a histogram of all the pixel values constituting the input RGB signal, and detects the largest pixel value among the pixel values existing in a predetermined number or more as the maximum value. If even one pixel is detected as the maximum value, a defective pixel may be detected, or a very bright object that is very small and less important than the entire image may be detected. This is because the possibility can be reduced.

また、入力RGB信号のヒストグラムを取る際に、階調を量子化してからヒストグラムを取るのがさらに望ましい。入力RGB信号がWDR合成画像である場合、全階調のヒストグラムを取れば、ヒストグラムに使用するメモリが非常に大きくなってしまうためである。最大値検出部41によって検出された最大値hmaxは、マージン決定部42および加算部43に出力される。   Further, when taking a histogram of the input RGB signal, it is more desirable to take the histogram after quantizing the gradation. This is because, when the input RGB signal is a WDR composite image, if a histogram of all gradations is taken, the memory used for the histogram becomes very large. The maximum value hmax detected by the maximum value detection unit 41 is output to the margin determination unit 42 and the addition unit 43.

マージン決定部42は、最大値検出部41によって検出された最大値hmaxに基づいてマージン値marginを決定する。マージン決定部42によるマージン値marginの決定についての詳細は後に説明する。また、加算部43は、最大値検出部41によって検出された最大値hmaxとマージン決定部42によって決定されたマージン値marginとの加算値hmax’を算出する。   The margin determination unit 42 determines the margin value margin based on the maximum value hmax detected by the maximum value detection unit 41. Details of the determination of the margin value margin by the margin determination unit 42 will be described later. Further, the adding unit 43 calculates an added value hmax ′ between the maximum value hmax detected by the maximum value detecting unit 41 and the margin value margin determined by the margin determining unit 42.

係数算出部44は、加算値hmax’に基づいて係数coeffを算出する。例えば、係数算出部44は、出力レンジの上限値を加算値hmax’によって除することにより係数coeffを算出する。そうすれば、加算値hmax’を出力レンジの上限値に一致させるための係数coeffを算出することができる。   The coefficient calculation unit 44 calculates a coefficient coeff based on the added value hmax ′. For example, the coefficient calculation unit 44 calculates the coefficient coeff by dividing the upper limit value of the output range by the added value hmax ′. Then, the coefficient coeff for making the added value hmax 'coincide with the upper limit value of the output range can be calculated.

圧縮部45は、係数coeffを用いて入力RGB信号をレンジ圧縮する。圧縮部45は、入力RGB信号の各画素値に対して係数coeffを乗じることによって、入力RGB信号を圧縮することができる。   The compression unit 45 performs range compression on the input RGB signal using the coefficient coeff. The compression unit 45 can compress the input RGB signal by multiplying each pixel value of the input RGB signal by a coefficient coeff.

このようにして、出力レンジの上限から一定の領域のレンジを不使用とする制御を行うことによって、高輝度・高彩度のオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能となる。以下、マージン決定部42によるマージン値marginの決定の詳細について説明する。図4は、マージン値marginの決定例を説明するための図である。なお、図4には、最大値hmaxとマージン値marginとの対応関係の例が示されている。   In this way, by performing control so as not to use a certain range from the upper limit of the output range, it is possible to obtain a range-compressed image with improved color reproducibility of an object with high luminance and high saturation. Hereinafter, details of the determination of the margin value margin by the margin determination unit 42 will be described. FIG. 4 is a diagram for explaining an example of determining the margin value margin. FIG. 4 shows an example of the correspondence relationship between the maximum value hmax and the margin value margin.

例えば、マージン決定部42は、入力RGB信号を構成する画素値の飽和値VALuと最大値hmaxとの比較結果に基づいてマージン値marginを決定してよい。例えば、図4に示すように、マージン決定部42は、最大値hmaxが飽和値VALu以上である場合には、零をマージン値marginとして決定してもよい。   For example, the margin determination unit 42 may determine the margin value margin based on the comparison result between the saturation value VALu of the pixel values constituting the input RGB signal and the maximum value hmax. For example, as illustrated in FIG. 4, the margin determination unit 42 may determine zero as the margin value margin when the maximum value hmax is equal to or greater than the saturation value VALu.

ここで、飽和値VALuは、入力RGB信号が短露光画像と長露光画像とのWDR合成画像である場合、短露光画像の飽和状態において取り得る何らかの値であってよい。具体的には、飽和値VALuは、WDR合成画像の画素値の理論的な上限値であってもよい。例えば、飽和値VALuは、以下の式(1)に示すように、センサ10から出力される各画素値のビット数nとセンサ10によって撮影される短露光画像に対する長露光画像の露光比Expとの乗算値によって理論的に算出されてもよい。   Here, when the input RGB signal is a WDR composite image of a short exposure image and a long exposure image, the saturation value VALu may be any value that can be taken in the saturation state of the short exposure image. Specifically, the saturation value VALu may be a theoretical upper limit value of the pixel value of the WDR composite image. For example, as shown in the following formula (1), the saturation value VALu is the number of bits n of each pixel value output from the sensor 10 and the exposure ratio Exp of the long exposure image to the short exposure image captured by the sensor 10. It may be theoretically calculated by the multiplication value.

VALu=2×Exp ・・・(1) VALu = 2 n × Exp (1)

センサ10から出力される各画素値のビット数nを12とし、短露光画像に対する長露光画像の露光比を10倍とした場合には、WDR合成画像の画素値の理論的な上限値は、212×10=40960であり、この上限値よりも大きな画素値がWDR合成画像に存在することは基本的にはないと考えられる。 When the bit number n of each pixel value output from the sensor 10 is 12, and the exposure ratio of the long exposure image to the short exposure image is 10 times, the theoretical upper limit value of the pixel value of the WDR composite image is 2 12 × 10 = 40960, and it is basically considered that a pixel value larger than the upper limit value is present in the WDR synthesized image.

あるいは、飽和値VALuは、短露光画像を構成する画素値の飽和値であってもよい。例えば、かかる場合、マージン決定部42は、短露光画像を構成する画素値の飽和値と短露光画像を構成する画素値の最大値との比較結果に基づいてマージン値marginを決定してよい。短露光画像を構成する画素値の飽和値と短露光画像を構成する画素値の最大値との比較は、図示しない比較部によって行われればよい。   Alternatively, the saturation value VALu may be a saturation value of pixel values constituting a short exposure image. For example, in such a case, the margin determination unit 42 may determine the margin value margin based on the comparison result between the saturation value of the pixel value constituting the short exposure image and the maximum value of the pixel value constituting the short exposure image. The comparison between the saturation value of the pixel value constituting the short exposure image and the maximum value of the pixel value constituting the short exposure image may be performed by a comparison unit (not shown).

また、例えば、マージン決定部42は、所定の閾値THと最大値hmaxとの比較結果に基づいてマージン値marginを決定してもよい。例えば、図4に示すように、マージン決定部42は、最大値hmaxが閾値THを下回る場合には、規定値をマージン値marginとして決定してもよい。   For example, the margin determination unit 42 may determine the margin value margin based on a comparison result between a predetermined threshold value TH and the maximum value hmax. For example, as illustrated in FIG. 4, the margin determination unit 42 may determine the specified value as the margin value margin when the maximum value hmax is lower than the threshold value TH.

また、図4に示すように、マージン決定部42は、最大値hmaxが飽和値VALuと閾値THとの間である場合には、線形補間により算出された値をマージン値marginとして決定してもよい。   Further, as shown in FIG. 4, when the maximum value hmax is between the saturation value VALu and the threshold value TH, the margin determination unit 42 may determine a value calculated by linear interpolation as the margin value margin. Good.

なお、ここでは、短露光画像に対する長露光画像の露光比を用いて説明をしているが、異なる露光量で撮影された3種類以上の画像を用いる場合には、最短露光画像に対する最長露光画像の露光比を用いてVALuを算出すればよい。   Here, the description is made using the exposure ratio of the long exposure image to the short exposure image. However, when using three or more types of images taken with different exposure amounts, the longest exposure image with respect to the shortest exposure image is used. The VALu may be calculated using the exposure ratio.

続いて、本発明の実施形態が奏する効果の例を説明する。まず、画素値の最大値hmaxが飽和値VALuに達していない場合について説明する。図5は、画素値の最大値hmaxが飽和値VALuに達していないWDR合成画像(上段)、最大値hmaxを用いて12ビットレンジに圧縮した後のWDR合成画像(中段)および最大値hmaxとマージン値marginとの加算値hmax’を用いて12ビットレンジに圧縮した後のWDR合成画像(下段)それぞれのヒストグラムを示す図である。   Subsequently, an example of an effect produced by the embodiment of the present invention will be described. First, a case where the maximum pixel value hmax has not reached the saturation value VALu will be described. FIG. 5 shows a WDR composite image (upper stage) in which the maximum pixel value hmax has not reached the saturation value VALu, a WDR composite image (middle stage) after compression into a 12-bit range using the maximum value hmax, and a maximum value hmax. It is a figure which shows the histogram of each WDR synthetic | combination image (lower stage) after compressing to 12 bit range using added value hmax 'with margin value margin.

最大値hmaxを用いて圧縮した後のWDR合成画像(図5の中段)を参照すると、出力レンジをいっぱいまで使い切っている状態であるが、背景技術の項で説明したように高輝度・高彩度部の色再現性が不十分となってしまう。   Referring to the WDR composite image after compression using the maximum value hmax (middle of FIG. 5), the output range is fully used up, but as described in the background section, the high luminance and high saturation portion The color reproducibility will be insufficient.

一方、最大値hmaxとマージン値marginとの加算値を用いて12ビットレンジに圧縮した後のWDR合成画像(図5の下段)を参照すると、出力レンジの飽和付近を使用しないため、高輝度・高彩度のオブジェクトの色再現性が改善される。ただし、マージン値marginを大きくし過ぎると、出力レンジのハイライト側の不使用階調が多くなって出力画像のコントラストが低下したり、画像が暗く見えたりする可能性もある。したがって、高輝度・高彩度のオブジェクトの色再現性と画像のコントラストとのバランスを取ったマージン値が設定されるとよい。   On the other hand, referring to the WDR composite image (lower part of FIG. 5) after compression into the 12-bit range using the added value of the maximum value hmax and the margin value margin, the vicinity of the saturation of the output range is not used. The color reproducibility of high saturation objects is improved. However, if the margin value margin is too large, the number of unused gradations on the highlight side of the output range increases, and the contrast of the output image may decrease, or the image may appear dark. Therefore, it is preferable to set a margin value that balances the color reproducibility of an object with high luminance and high saturation and the contrast of an image.

続いて、画素値の最大値hmaxが飽和値VALuに達した場合について説明する。図7は、画素値の最大値が飽和値に達しているWDR合成画像(上段)、最大値hmaxとマージン値marginとの加算値hmax’を用いて12ビットレンジに圧縮した後のWDR合成画像(中段)および最大値hmaxを用いて12ビットレンジに圧縮した後のWDR合成画像(下段)それぞれのヒストグラムを示す図である。   Next, a case where the maximum pixel value hmax reaches the saturation value VALu will be described. FIG. 7 shows a WDR composite image in which the maximum pixel value reaches the saturation value (upper stage), and a WDR composite image after compression into a 12-bit range using the added value hmax ′ of the maximum value hmax and the margin value margin. It is a figure which shows the histogram of each WDR synthetic | combination image (lower stage) after compressing to 12 bit range using (middle stage) and maximum value hmax.

画素値の最大値が飽和値に達しているWDR合成画像(図6の上段)を参照すると、ハイライト部のヒストグラムはWDR合成画像の飽和値VALuに達しており、hmax=VALuとなっている。なお、WDR合成画像が飽和しているということは、短露光画像でも飽和するような非常に高輝度のオブジェクトが撮影されているということである。   Referring to the WDR composite image in which the maximum pixel value reaches the saturation value (upper part of FIG. 6), the histogram of the highlight portion reaches the saturation value VALu of the WDR composite image, and hmax = VALu. . Note that the fact that the WDR composite image is saturated means that a very high-brightness object that is saturated even in a short-exposure image has been captured.

最大値hmaxとマージン値marginとの加算値hmax’を用いて12ビットレンジに圧縮した後のWDR合成画像(図6の中段)を参照すると、最大値hmaxとマージン値marginとの加算値hmax’を使用したレンジ圧縮がなされており、ハイライト部が飽和からやや小さい階調を使用して出力されている。その結果、短露光画像だけを見れば飽和して真っ白もしくはそれに近いように見えるのに、合成画像を見ると飽和しておらず明るい灰色のように見えてしまい、不自然に見えてしまう。   Referring to the WDR composite image after compression to the 12-bit range using the added value hmax ′ of the maximum value hmax and the margin value margin (the middle part of FIG. 6), the added value hmax ′ of the maximum value hmax and the margin value margin The range is compressed using, and the highlight part is output using a slightly smaller gradation from saturation. As a result, if only the short-exposure image is seen, it looks saturated and appears white or close to it, but when the synthesized image is seen, it looks like a light gray, not saturated, and looks unnatural.

一方、最大値hmaxを用いて12ビットレンジに圧縮した後のWDR合成画像(図6の下段)を参照すると、WDR合成画像が飽和している場合が示されている。このような場合には、圧縮した後のWDR合成画像も飽和している方が自然である。すなわち、加算値hmax’は用いずに最大値hmaxを用いてWDR合成画像を圧縮するのがよい。   On the other hand, referring to the WDR composite image (lower part of FIG. 6) after compression into the 12-bit range using the maximum value hmax, the case where the WDR composite image is saturated is shown. In such a case, it is natural that the compressed WDR composite image is also saturated. That is, it is preferable to compress the WDR composite image using the maximum value hmax without using the added value hmax '.

以上に示した効果の例のように、本発明の実施形態においては、最大値hmaxと飽和値VALuとを比較して、最大値hmaxが飽和値VALuに到達している時には、マージン値marginを零にするなどといった制御を導入する。これによって、WDR合成画像が飽和している場合でも自然な結果が得られるように配慮されている。   As in the example of the effect described above, in the embodiment of the present invention, the maximum value hmax is compared with the saturation value VALu, and when the maximum value hmax reaches the saturation value VALu, the margin value margin is set. Introduce controls such as zero. Accordingly, consideration is given so that a natural result can be obtained even when the WDR composite image is saturated.

以上、本発明の実施形態について説明した。本発明の実施形態によれば、入力画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する画像処理装置1において、入力画像を構成する画素値の最大値を検出する最大値検出部41と、最大値に基づいてマージン値を決定するマージン決定部42と、最大値とマージン値との加算値に基づいて係数を算出する係数算出部44と、係数を用いて入力画像をレンジ圧縮する圧縮部45と、を備える、画像処理装置1が提供される。   The embodiment of the present invention has been described above. According to the embodiment of the present invention, in the image processing apparatus 1 that performs range compression on the number of bits of each pixel value constituting an input image from A bits to B bits (A> B), the pixel values constituting the input image A maximum value detecting unit 41 for detecting a maximum value of the image, a margin determining unit 42 for determining a margin value based on the maximum value, a coefficient calculating unit 44 for calculating a coefficient based on an added value of the maximum value and the margin value, The image processing apparatus 1 includes a compression unit 45 that performs range compression on an input image using a coefficient.

かかる構成によれば、出力レンジの上限から一定の領域のレンジを不使用とする制御を行うことによって、高輝度・高彩度のオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能となる。   According to such a configuration, it is possible to obtain a range-compressed image in which the color reproducibility of a high-brightness / high-saturation object is improved by performing control so as not to use a certain range from the upper limit of the output range. .

以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。   The preferred embodiments of the present invention have been described in detail above with reference to the accompanying drawings, but the present invention is not limited to such examples. It is obvious that a person having ordinary knowledge in the technical field to which the present invention pertains can come up with various changes or modifications within the scope of the technical idea described in the claims. Of course, it is understood that these also belong to the technical scope of the present invention.

ワイドダイナミックレンジ技術は、ネットワークカメラの差別化技術として特に重要視されている。本発明の実施形態は、従来技術では色再現性が不十分であった高輝度・高彩度オブジェクトを、より実物に近い色で再現できるようにするもので、マージン値の適応制御によって副作用も抑え込んでいる。そのため、画質を安定的に向上させることができる点、処理が複雑でなく現実的な回路規模で実現できる点、制御が必要な箇所も少ない点などが優れている。   Wide dynamic range technology is particularly important as a network camera differentiation technology. Embodiments of the present invention enable high brightness / saturation objects, which were insufficient in color reproducibility in the prior art, to be reproduced with colors that are closer to real objects, and side effects are suppressed by adaptive control of margin values. Yes. Therefore, it is excellent in that the image quality can be stably improved, the processing is not complicated and can be realized with a realistic circuit scale, and there are few places that need to be controlled.

1 画像処理装置
10 センサ
20 フレームメモリ
30 合成部
40 レンジ圧縮部
41 最大値検出部
42 マージン決定部
43 加算部
44 係数算出部
45 圧縮部
coeff 係数
Exp 露光比
hmax 最大値
hmax’ 加算値
margin マージン値
TH 閾値
VALu 飽和値


DESCRIPTION OF SYMBOLS 1 Image processing apparatus 10 Sensor 20 Frame memory 30 Synthesis | combination part 40 Range compression part 41 Maximum value detection part 42 Margin determination part 43 Addition part 44 Coefficient calculation part 45 Compression part coeff Coefficient Exp Exposure ratio hmax Maximum value hmax 'Addition value margin Margin value TH threshold VALu saturation value


Claims (9)

入力画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する画像処理装置において、
前記入力画像を構成する画素値の最大値を検出する最大値検出部と、
前記最大値に基づいてマージン値を決定するマージン決定部と、
前記最大値と前記マージン値との加算値に基づいて係数を算出する係数算出部と、
前記係数を用いて前記入力画像をレンジ圧縮する圧縮部と、
を備える、画像処理装置。
In an image processing apparatus that performs range compression on the number of bits of each pixel value constituting an input image from A bits to B bits (where A> B),
A maximum value detecting unit for detecting a maximum value of pixel values constituting the input image;
A margin determining unit that determines a margin value based on the maximum value;
A coefficient calculation unit that calculates a coefficient based on an added value of the maximum value and the margin value;
A compression unit that performs range compression on the input image using the coefficient;
An image processing apparatus comprising:
前記マージン決定部は、前記入力画像を構成する画素値の飽和値と前記最大値との比較結果に基づいて前記マージン値を決定する、
請求項1に記載の画像処理装置。
The margin determining unit determines the margin value based on a comparison result between a saturation value of a pixel value constituting the input image and the maximum value;
The image processing apparatus according to claim 1.
前記マージン決定部は、所定の閾値と前記最大値との比較結果に基づいて前記マージン値を決定する、
請求項2に記載の画像処理装置。
The margin determining unit determines the margin value based on a comparison result between a predetermined threshold and the maximum value;
The image processing apparatus according to claim 2.
前記マージン決定部は、前記最大値が前記飽和値以上である場合には、零を前記マージン値として決定する、
請求項3に記載の画像処理装置。
The margin determining unit determines zero as the margin value when the maximum value is equal to or greater than the saturation value;
The image processing apparatus according to claim 3.
前記マージン決定部は、前記最大値が前記閾値を下回る場合には、規定値を前記マージン値として決定する、
請求項4に記載の画像処理装置。
The margin determining unit determines a specified value as the margin value when the maximum value is less than the threshold;
The image processing apparatus according to claim 4.
前記マージン決定部は、前記最大値が前記飽和値と前記閾値との間である場合には、線形補間により算出された値を前記マージン値として決定する、
請求項5に記載の画像処理装置。
The margin determining unit determines, as the margin value, a value calculated by linear interpolation when the maximum value is between the saturation value and the threshold;
The image processing apparatus according to claim 5.
前記入力画像は、短露光画像と長露光画像との合成画像であり、
前記飽和値は、センサから出力される各画素値のビット数と前記センサによって撮影される前記短露光画像および前記長露光画像の露光比との乗算値である、
請求項2に記載の画像処理装置。
The input image is a composite image of a short exposure image and a long exposure image,
The saturation value is a multiplication value of the number of bits of each pixel value output from a sensor and the exposure ratio of the short exposure image and the long exposure image captured by the sensor.
The image processing apparatus according to claim 2.
前記入力画像は、短露光画像と長露光画像との合成画像であり、
前記マージン決定部は、前記短露光画像を構成する画素値の飽和値と前記短露光画像を構成する画素値の最大値との比較結果に基づいて前記マージン値を決定する、
請求項2に記載の画像処理装置。
The input image is a composite image of a short exposure image and a long exposure image,
The margin determining unit determines the margin value based on a comparison result between a saturation value of a pixel value constituting the short exposure image and a maximum value of a pixel value constituting the short exposure image;
The image processing apparatus according to claim 2.
入力画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する画像処理方法において、
前記入力画像を構成する画素値の最大値を検出するステップと、
前記最大値に基づいてマージン値を決定するステップと、
前記最大値と前記マージン値との加算値に基づいて係数を算出するステップと、
前記係数を用いて前記入力画像をレンジ圧縮するステップと、
を含む、画像処理方法。
In an image processing method in which the number of bits of each pixel value constituting an input image is range-compressed from A bit to B bit (A> B),
Detecting a maximum value of pixel values constituting the input image;
Determining a margin value based on the maximum value;
Calculating a coefficient based on an added value of the maximum value and the margin value;
Range compressing the input image using the coefficients;
Including an image processing method.
JP2014095853A 2014-05-07 2014-05-07 Image processing apparatus and image processing method Active JP6543786B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014095853A JP6543786B2 (en) 2014-05-07 2014-05-07 Image processing apparatus and image processing method
KR1020140114529A KR102170697B1 (en) 2014-05-07 2014-08-29 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014095853A JP6543786B2 (en) 2014-05-07 2014-05-07 Image processing apparatus and image processing method

Publications (2)

Publication Number Publication Date
JP2015213276A true JP2015213276A (en) 2015-11-26
JP6543786B2 JP6543786B2 (en) 2019-07-17

Family

ID=54697313

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014095853A Active JP6543786B2 (en) 2014-05-07 2014-05-07 Image processing apparatus and image processing method

Country Status (2)

Country Link
JP (1) JP6543786B2 (en)
KR (1) KR102170697B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017141544A1 (en) * 2016-02-16 2017-08-24 ソニー株式会社 Image processing device, image processing method, and program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003046859A (en) * 2001-08-01 2003-02-14 Sony Corp Image pickup device and method
JP2009296178A (en) * 2008-06-03 2009-12-17 Sony Corp Imaging device and imaging method
US20120236020A1 (en) * 2010-01-27 2012-09-20 Sylvain Paris Methods and Apparatus for Performing Tone Mapping on High Dynamic Range Images

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4069522B2 (en) 1998-10-08 2008-04-02 ソニー株式会社 Video signal processing apparatus, color video camera, and video signal processing method
JP2004180090A (en) 2002-11-28 2004-06-24 Mitsubishi Electric Corp Video signal processing device
JP2005109871A (en) 2003-09-30 2005-04-21 Fuji Photo Film Co Ltd Image processor, method and program
JP2009111894A (en) 2007-10-31 2009-05-21 Sony Corp Video signal processing device, imaging apparatus and video signal processing method
KR101450800B1 (en) * 2012-10-05 2014-10-15 서강대학교산학협력단 Dynamic range adjustment method using log average

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003046859A (en) * 2001-08-01 2003-02-14 Sony Corp Image pickup device and method
JP2009296178A (en) * 2008-06-03 2009-12-17 Sony Corp Imaging device and imaging method
US20120236020A1 (en) * 2010-01-27 2012-09-20 Sylvain Paris Methods and Apparatus for Performing Tone Mapping on High Dynamic Range Images

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017141544A1 (en) * 2016-02-16 2017-08-24 ソニー株式会社 Image processing device, image processing method, and program
JPWO2017141544A1 (en) * 2016-02-16 2018-12-13 ソニー株式会社 Image processing apparatus, image processing method, and program
US10523874B2 (en) 2016-02-16 2019-12-31 Sony Corporation Image processing apparatus, image processing method, and program
JP7000861B2 (en) 2016-02-16 2022-02-04 ソニーグループ株式会社 How to operate image processing equipment and medical equipment and programs

Also Published As

Publication number Publication date
KR20150127524A (en) 2015-11-17
KR102170697B1 (en) 2020-10-27
JP6543786B2 (en) 2019-07-17

Similar Documents

Publication Publication Date Title
CN110033418B (en) Image processing method, image processing device, storage medium and electronic equipment
KR100990904B1 (en) The apparatus for enhancing image by generating and blending multiple image and method therefor
RU2491760C2 (en) Image processing device, image processing method and programme
US8169500B2 (en) Dynamic range compression apparatus, dynamic range compression method, computer-readable recording medium, integrated circuit, and imaging apparatus
JP6478499B2 (en) Image processing apparatus, image processing method, and program
JP2012205244A (en) Image processing device and method of controlling the same
JP2012054811A (en) Image processor, image processing method and program
WO2015119271A1 (en) Image processing device, imaging device, image processing method, computer-processable non-temporary storage medium
JP2012235377A (en) Image processing apparatus, image processing method, and program
CN110047060B (en) Image processing method, image processing device, storage medium and electronic equipment
KR100933556B1 (en) Color image processing apparatus and method for extending the dynamic range
JPWO2008111180A1 (en) Image signal processing apparatus and image signal processing program
JP6543787B2 (en) Image processing apparatus and image processing method
JP2011199785A (en) Imaging apparatus and method
JP6324235B2 (en) Image processing apparatus and image processing method
JP5932392B2 (en) Image processing apparatus and image processing method
KR102247597B1 (en) Image processing apparatus and image processing method
JP6563646B2 (en) Image processing apparatus and image processing method
JP6543786B2 (en) Image processing apparatus and image processing method
CN114697483B (en) Under-screen camera shooting device and method based on compressed sensing white balance algorithm
JP5365881B2 (en) Image processing apparatus and image processing method
JP7507554B2 (en) IMAGE PROCESSING APPARATUS, IMAGING APPARATUS, IMAGE PROCESSING METHOD, AND PROGRAM
KR102003777B1 (en) Apparatus and method for processing image
JP2014220759A (en) Image processing apparatus and image processing method
JP6121234B2 (en) Image processing apparatus and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170330

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180424

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180719

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20181221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190320

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190524

R150 Certificate of patent or registration of utility model

Ref document number: 6543786

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R154 Certificate of patent or utility model (reissue)

Free format text: JAPANESE INTERMEDIATE CODE: R154

R150 Certificate of patent or registration of utility model

Ref document number: 6543786

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250