JP6543786B2 - Image processing apparatus and image processing method - Google Patents

Image processing apparatus and image processing method Download PDF

Info

Publication number
JP6543786B2
JP6543786B2 JP2014095853A JP2014095853A JP6543786B2 JP 6543786 B2 JP6543786 B2 JP 6543786B2 JP 2014095853 A JP2014095853 A JP 2014095853A JP 2014095853 A JP2014095853 A JP 2014095853A JP 6543786 B2 JP6543786 B2 JP 6543786B2
Authority
JP
Japan
Prior art keywords
value
image
margin
maximum value
range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014095853A
Other languages
Japanese (ja)
Other versions
JP2015213276A (en
Inventor
毅 都築
毅 都築
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hanwha Techwin Co Ltd
Original Assignee
Hanwha Techwin Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hanwha Techwin Co Ltd filed Critical Hanwha Techwin Co Ltd
Priority to JP2014095853A priority Critical patent/JP6543786B2/en
Priority to KR1020140114529A priority patent/KR102170697B1/en
Publication of JP2015213276A publication Critical patent/JP2015213276A/en
Application granted granted Critical
Publication of JP6543786B2 publication Critical patent/JP6543786B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/426Internal components of the client ; Characteristics thereof
    • H04N21/42607Internal components of the client ; Characteristics thereof for processing the incoming bitstream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Description

本発明は、画像処理装置および画像処理方法に関する。   The present invention relates to an image processing apparatus and an image processing method.

近年、センサが撮影可能なダイナミックレンジを超えたダイナミックレンジを捉えた画像(以下、「WDR信号」とも言う。)を得るWDR(ワイドダイナミックレンジ)もしくはHDR(ハイダイナミックレンジ)という撮影機能が増えてきている。かかる撮影機能は、逆光の構図など明暗比が非常に大きいシーンでは特に大きな効果がある。   In recent years, imaging functions such as WDR (wide dynamic range) or HDR (high dynamic range) to obtain an image (hereinafter, also referred to as "WDR signal") capturing a dynamic range beyond the dynamic range that the sensor can image are increasing. ing. Such a photographing function is particularly effective in a scene with very high contrast, such as a composition of backlight.

WDR信号を得る手段としては、短時間露光の画像(以下、単に「短露光画像」とも言う。)および長時間露光の画像(以下、単に「長露光画像」とも言う。)を1枚ずつ連続して撮影して合成する手段や、短露光画像および長露光画像を領域毎に撮影して合成する手段、撮像能力を向上させて1枚撮影で広いダイナミックレンジが得られるセンサを使用する手段などがある。このような手段によって得られるダイナミックレンジは、16ビットから20ビット、あるいはそれ以上のレンジである場合もある。   As means for obtaining the WDR signal, an image of short exposure (hereinafter, also referred to simply as “short exposure image”) and an image of long exposure (hereinafter, referred to simply as “long exposure image”) are continuous one by one. Means for capturing and combining images, means for capturing and combining short-exposure images and long-exposure images for each area, means for using a sensor capable of obtaining a wide dynamic range by single-image shooting, etc. There is. The dynamic range obtained by such means may be in the range of 16 bits to 20 bits or more.

しかし、このようなダイナミックレンジを有するWDR信号が得られたとしても、最終的に表示するディスプレイの表示能力は10ビット程度に限定されてしまうという状況があり得る他、後段において20ビット信号精度で様々な信号処理を行っては処理量が膨大になるという問題が発生してしまう。そこで、例えば、各画素値を20ビットから10ビットに圧縮するというように、WDR信号を大幅にレンジ圧縮する必要がある。   However, even if a WDR signal having such a dynamic range is obtained, there may be a situation that the display capability of the display to be finally displayed is limited to about 10 bits. Performing various signal processing causes a problem that the amount of processing becomes enormous. Therefore, for example, the WDR signal needs to be greatly range-compressed such as compressing each pixel value from 20 bits to 10 bits.

ここで、20ビットのレンジを捉える能力があるWDRシステムを利用した場合であっても、被写体のレンジが20ビットの上限まで達している時もあれば、シーンによっては16ビット程度にしか達していない時もある。そのため、入力上限レンジに対する出力上限レンジの比を圧縮比として固定的に使用する場合には、出力レンジの低輝度側しか使わずに暗い画像が出力されてしまうことがあるし、圧縮比が小さ過ぎる場合には、圧縮が不十分となり出力画像が飽和してしまう。   Here, even when the WDR system capable of capturing a 20-bit range is used, if the subject range reaches the upper limit of 20 bits, it may reach only about 16 bits depending on the scene. Sometimes there is not. Therefore, when the ratio of the output upper limit range to the input upper limit range is fixedly used as the compression ratio, a dark image may be output using only the low luminance side of the output range, and the compression ratio is small. If it is, compression will be insufficient and the output image will be saturated.

したがって、出力画像のダイナミックレンジを有効に活用しつつ、出力画像が飽和することも防ぐためには、入力画像のダイナミックレンジに応じて適応的に圧縮を行う必要がある。このような目的を達成する技術として、以下の特許文献1〜4に開示されているような技術が公開されている。   Therefore, in order to prevent saturation of the output image while effectively utilizing the dynamic range of the output image, it is necessary to perform adaptive compression in accordance with the dynamic range of the input image. As a technique for achieving such an object, techniques as disclosed in the following Patent Documents 1 to 4 are disclosed.

例えば、特許文献1には、入力RGB信号の最大値を検出し、入力RGB信号に対する入力RGB信号の圧縮後の信号が取り得る最大値のレベル比を圧縮比とし、その圧縮比を入力RGB信号に対して掛け算する技術が開示されている。かかる演算処理によれば、圧縮後の信号が出力レンジを超えて飽和することを防ぐことが可能である。   For example, in Patent Document 1, the maximum value of the input RGB signal is detected, the level ratio of the maximum value that the signal after compression of the input RGB signal can take to the input RGB signal is taken as the compression ratio, and the compression ratio is the input RGB signal Discloses a technique for multiplying by. According to this arithmetic processing, it is possible to prevent the signal after compression from being saturated beyond the output range.

また、特許文献2には、入力信号のレベルに応じて修正値を定義して、その修正値を入力信号に加算または減算する技術が開示されている。かかる演算により、特に、入力信号のハイライト部のレベルを下げることで色飽和を低減することができる。   Patent Document 2 discloses a technique of defining a correction value according to the level of an input signal, and adding or subtracting the correction value to the input signal. By such calculation, color saturation can be reduced, in particular, by lowering the level of the highlight portion of the input signal.

また、特許文献3には、入力RGB信号から輝度信号を算出し、この輝度信号を入力RGB信号から減算して色差信号を生成し、輝度信号に対してニー処理を施して、その輝度信号を色差信号に再加算する技術が開示されている。   Further, in Patent Document 3, a luminance signal is calculated from an input RGB signal, this luminance signal is subtracted from the input RGB signal to generate a color difference signal, a luminance process is performed on the luminance signal, and the luminance signal is calculated. A technique is disclosed for re-adding to a color difference signal.

また、特許文献4には、入力RGB信号にゲイン演算を行い、演算後のRGB信号から最大値を検出し、検出した最大値に基づいて抑圧係数を得て、抑圧係数を用いて飽和レベル付近の画素値を圧縮する技術が開示されている。   Further, Patent Document 4 performs gain operation on an input RGB signal, detects a maximum value from the calculated RGB signal, obtains a suppression coefficient based on the detected maximum value, and uses the suppression coefficient to near the saturation level. A technique is disclosed for compressing pixel values of.

特開2000−115796号公報JP 2000-115796 A 特開2005−109871号公報JP, 2005-109871, A 特開2009−111894号公報JP, 2009-111894, A 特開2004−180090号公報Unexamined-Japanese-Patent No. 2004-180090

しかしながら、特許文献1に記載された技術では、飽和付近のレンジを使うオブジェクトの色再現性は十分ではない。   However, in the technique described in Patent Document 1, the color reproducibility of the object using the range near the saturation is not sufficient.

また、特許文献2に記載された技術では、出力信号のレンジを飽和しない範囲に収めることが目的であり、飽和付近のレンジを使うオブジェクトの色再現性は十分ではない。   Further, in the technology described in Patent Document 2, the object is to keep the range of the output signal within the range that does not saturate, and the color reproducibility of the object using the range near the saturation is not sufficient.

また、特許文献3に記載された技術では、出力信号の飽和付近のレンジを使うオブジェクトの色再現性は十分ではない。また、特許文献3に記載された技術では、ニー処理はあるレベル以上の高輝度部だけをレンジ圧縮するために行われ、大幅なレンジ圧縮に対しては該技術を応用することは難しいと思われる。   Further, in the technique described in Patent Document 3, the color reproducibility of the object using the range near the saturation of the output signal is not sufficient. Further, in the technology described in Patent Document 3, knee processing is performed to perform range compression only on high luminance portions above a certain level, and it seems difficult to apply the technology to large range compression. Be

また、特許文献4に記載された技術においては、各画素値のビット数を8ビットから9ビット程度に増幅し、飽和した画素値を8ビット以内に収める用途が想定されており、強力なレンジ圧縮は想定されていない。また、特許文献4に記載された技術では、飽和付近のレンジを使うオブジェクトの色再現性は十分ではない。   Further, in the technology described in Patent Document 4, the application of amplifying the number of bits of each pixel value to about 8 to 9 bits and keeping the saturated pixel value within 8 bits is assumed, and a strong range is expected. No compression is assumed. Further, in the technique described in Patent Document 4, the color reproducibility of an object using a range near the saturation is not sufficient.

そこで、本発明は、飽和付近のレンジを使うオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能な技術を提供する。   Therefore, the present invention provides a technology capable of obtaining a range-compressed image in which the color reproducibility of an object using a range near the saturation is improved.

本発明のある実施形態によれば、入力画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する画像処理装置において、前記入力画像を構成する画素値の最大値を検出する最大値検出部と、前記最大値に基づいてマージン値を決定するマージン決定部と、前記最大値と前記マージン値との加算値に基づいて係数を算出する係数算出部と、前記係数を用いて前記入力画像をレンジ圧縮する圧縮部と、を備える、画像処理装置が提供される。   According to an embodiment of the present invention, in an image processing apparatus which performs range compression on the number of bits of each pixel value constituting an input image from A bits to B bits (where A> B), the pixels constituting the input image A maximum value detection unit that detects a maximum value of the values, a margin determination unit that determines a margin value based on the maximum value, and a coefficient calculation unit that calculates a coefficient based on an addition value of the maximum value and the margin value And a compression unit for performing range compression on the input image using the coefficients.

かかる構成によれば、出力レンジの上限から一定の領域のレンジを不使用とする制御を行うことによって、高輝度・高彩度のオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能となる。   According to such a configuration, it is possible to obtain a range-compressed image with improved color reproducibility of a high-brightness / high-saturation object by performing control to discontinue use of the range of a certain area from the upper limit of the output range. .

前記マージン決定部は、前記入力画像を構成する画素値の飽和値と前記最大値との比較結果に基づいて前記マージン値を決定してもよいし、所定の閾値と前記最大値との比較結果に基づいて前記マージン値を決定してもよい。   The margin determination unit may determine the margin value based on a comparison result of a saturation value of pixel values constituting the input image and the maximum value, or a comparison result of a predetermined threshold and the maximum value. The margin value may be determined based on

例えば、前記マージン決定部は、前記最大値が前記飽和値以上である場合には、零を前記マージン値として決定してもよい。入力画像が飽和している場合には、圧縮後の画像も飽和している方が自然だからである。   For example, the margin determining unit may determine zero as the margin value when the maximum value is equal to or more than the saturation value. When the input image is saturated, it is natural that the compressed image is also saturated.

また、例えば、前記マージン決定部は、前記最大値が前記閾値を下回る場合には、規定値を前記マージン値として決定してもよい。また、例えば、前記マージン決定部は、前記最大値が前記飽和値と前記閾値との間である場合には、線形補間により算出された値を前記マージン値として決定してもよい。   Also, for example, when the maximum value is less than the threshold, the margin determining unit may determine a specified value as the margin value. Also, for example, when the maximum value is between the saturation value and the threshold value, the margin determining unit may determine a value calculated by linear interpolation as the margin value.

飽和値はどのように設定されてもよい。例えば、前記入力画像は、短露光画像と長露光画像との合成画像であり、前記飽和値は、センサから出力される各画素値のビット数と前記センサによって撮影される前記短露光画像および前記長露光画像の露光比との乗算値であってもよい。   The saturation value may be set in any way. For example, the input image is a composite image of a short exposure image and a long exposure image, and the saturation value is the number of bits of each pixel value output from a sensor, the short exposure image photographed by the sensor, and the saturation image It may be a multiplication value with the exposure ratio of the long exposure image.

あるいは、前記入力画像は、短露光画像と長露光画像との合成画像であり、前記マージン決定部は、前記短露光画像を構成する画素値の飽和値と前記短露光画像を構成する画素値の最大値との比較結果に基づいて前記マージン値を決定してもよい。   Alternatively, the input image is a composite image of a short exposure image and a long exposure image, and the margin determination unit is configured to use a saturation value of pixel values constituting the short exposure image and a pixel value constituting the short exposure image. The margin value may be determined based on the comparison result with the maximum value.

また、本発明の別の実施形態によれば、入力画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する画像処理方法において、前記入力画像を構成する画素値の最大値を検出するステップと、前記最大値に基づいてマージン値を決定するステップと、前記最大値と前記マージン値との加算値に基づいて係数を算出するステップと、前記係数を用いて前記入力画像をレンジ圧縮するステップと、
を含む、画像処理方法が提供される。
Further, according to another embodiment of the present invention, in the image processing method for range-compressing the number of bits of each pixel value constituting the input image from A bits to B bits (where A> B), the input image Detecting a maximum value of the pixel values to be configured; determining a margin value based on the maximum value; calculating a coefficient based on an addition value of the maximum value and the margin value; Range-compressing the input image using
An image processing method is provided, including:

かかる方法によれば、出力レンジの上限から一定の領域のレンジを不使用とする制御を行うことによって、高輝度・高彩度のオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能となる。   According to such a method, it is possible to obtain a range-compressed image with improved color reproducibility of a high-brightness / high-saturation object by performing control so as not to use the range of a certain area from the upper limit of the output range. .

以上説明したように、本発明によれば、飽和付近のレンジを使うオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能である。   As described above, according to the present invention, it is possible to obtain a range-compressed image in which the color reproducibility of an object using a range near the saturation is improved.

飽和付近のレンジを使用する際の色再現性について説明するための図である。It is a figure for demonstrating the color reproducibility at the time of using the range of saturation vicinity. 本発明の実施形態に係る画像処理装置の機能構成例を示す図である。It is a figure showing an example of functional composition of an image processing device concerning an embodiment of the present invention. レンジ圧縮部の詳細な機能構成例を示すブロック図である。It is a block diagram which shows the detailed function structural example of a range compression part. マージン値の決定例を説明するための図である。It is a figure for demonstrating the example of determination of a margin value. 画素値の最大値が飽和値に達していないWDR合成画像、最大値を用いて12ビットレンジに圧縮した後のWDR合成画像および最大値とマージン値との加算値を用いて12ビットレンジに圧縮した後のWDR合成画像それぞれのヒストグラムを示す図である。WDR composite image whose maximum pixel value has not reached the saturation value, WDR composite image after compression to a 12-bit range using the maximum value, and compression to a 12-bit range using the sum of the maximum value and the margin value It is a figure which shows the histogram of each WDR synthetic | combination image after being carried out. 画素値の最大値が飽和値に達しているWDR合成画像、最大値とマージン値との加算値を用いて12ビットレンジに圧縮した後のWDR合成画像および最大値を用いて12ビットレンジに圧縮した後のWDR合成画像それぞれのヒストグラムを示す図である。WDR composite image with maximum pixel value reaching saturation value, WDR composite image after compression into 12-bit range using maximum value and margin value, and compression into 12-bit range using maximum value It is a figure which shows the histogram of each WDR synthetic | combination image after being carried out.

以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付すことにより重複説明を省略する。   The present invention will now be described more fully with reference to the accompanying drawings, in which exemplary embodiments of the invention are shown. In the present specification and the drawings, components having substantially the same functional configuration will be assigned the same reference numerals and redundant description will be omitted.

また、本明細書および図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。   Further, in the present specification and the drawings, a plurality of components having substantially the same functional configuration may be distinguished by attaching different alphabets after the same reference numerals. However, when it is not necessary to distinguish each of a plurality of components having substantially the same functional configuration, only the same reference numerals will be given.

まず、飽和付近のレンジを使用する際の色再現性について、図1を参照しながら説明する。図1は、飽和付近のレンジを使用する際の色再現性について説明するための図である。図1では、青いオブジェクトを表すRGB画素値それぞれを簡単のため8ビット値で示している。図1に示したように、「短露光画像」が(R,G,B)=(96,144,192)の値を持つ場合は、撮影されたオブジェクトが非常に高い明度を持つ青い物体である。具体的には、快晴の日の真っ青な空が青い物体の典型的な例である。   First, color reproducibility when using a range near saturation will be described with reference to FIG. FIG. 1 is a diagram for explaining color reproducibility when using a range near the saturation. In FIG. 1, each RGB pixel value representing a blue object is shown as an 8-bit value for simplicity. As shown in FIG. 1, when the “short exposure image” has a value of (R, G, B) = (96, 144, 192), the photographed object is a blue object having a very high lightness. is there. Specifically, the clear blue sky on a clear day is a typical example of a blue object.

この短露光画像および長露光画像に対してWDR合成を行った後、従来技術を使用してWDR合成画像に対して出力レンジに合わせたレンジ圧縮を行うと、図1に示した「出力画像」が出力される。図1の「短露光画像」と「出力画像」とをHSV表色系で表現して比較すれば、「短露光画像」と「出力画像」との間においては、V(明度)だけが異なっており、H(色相)もS(彩度)も異なっておらず、飽和もしていないため、「出力画像」には一見すると不具合はない。   After WDR combining is performed on the short exposure image and the long exposure image, when the range compression matched to the output range is performed on the WDR combined image using the conventional technique, the "output image" shown in FIG. Is output. If “short exposure image” and “output image” in FIG. 1 are expressed in HSV color system and compared, only “V (brightness)” is different between “short exposure image” and “output image”. Since the H (hue) and the S (saturation) are not different and the saturation is not, the "output image" has no problem at first glance.

しかし、「出力画像」の色を観察すると、「出力画像」に映る空は真っ青には見えずに明るい水色に見えてしまって、実物とだいぶ印象が異なってしまう。これを一例として、高輝度・高彩度物体を「短露光画像」で捉えてからWDR合成画像を生成したとしても、レンジ圧縮を適切に行わないと「出力画像」では深みのある色が再現できずに実物と異なってしまう問題がある。   However, when observing the color of the "output image", the sky appearing in the "output image" does not look perfect blue but looks bright blue, and the impression of the real thing is different. Taking this as an example, even if a WDR composite image is generated after capturing a high-brightness / high-saturation object as a “short-exposure image”, deep color can not be reproduced in the “output image” unless the range compression is properly performed. There is a problem that is different from the real thing.

そこで、本明細書においては、入力画像に対するレンジ圧縮を行うに際して、出力画像が出力レンジを超えて飽和することがないようにするだけでなく、飽和レベル付近の色再現性が不十分であることに着目する。具体的には、本明細書においては、出力レンジの上限から一定の領域のレンジを不使用とする制御を行うことによって、高輝度・高彩度のオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能な技術を提案する。なお、入力画像の例として、入力RGB信号を用いる場合を説明する。   Therefore, in the present specification, when performing range compression on an input image, not only the output image is not saturated beyond the output range, but also the color reproducibility near the saturation level is insufficient. Focus on Specifically, in the present specification, a range-compressed image with improved color reproducibility of a high-brightness / high-saturation object is obtained by performing control not to use the range of a certain area from the upper limit of the output range. We propose the technology that can be done. The case of using an input RGB signal will be described as an example of an input image.

続いて、本発明の実施形態について詳細に説明する。まず、本発明の実施形態に係る画像処理装置1の機能構成について説明する。図2は、本発明の実施形態に係る画像処理装置1の機能構成例を示す図である。図2に示すように、画像処理装置1は、センサ10、フレームメモリ20、合成部30およびレンジ圧縮部40を備える。以下、画像処理装置1が備える各機能ブロックの機能について順次詳細に説明する。   Subsequently, embodiments of the present invention will be described in detail. First, the functional configuration of the image processing apparatus 1 according to the embodiment of the present invention will be described. FIG. 2 is a diagram showing an example of a functional configuration of the image processing apparatus 1 according to the embodiment of the present invention. As shown in FIG. 2, the image processing apparatus 1 includes a sensor 10, a frame memory 20, a combining unit 30, and a range compression unit 40. The functions of the functional blocks included in the image processing apparatus 1 will be sequentially described in detail below.

画像処理装置1は、センサ10の露光設定を変えて2枚の画像を連続撮影するが、ここでは短露光撮影を先に行い、その次に長露光撮影を行うものとする。しかし、長露光撮影を先に行い、その次に短露光撮影を行ってもよい。このようにして撮影された短露光画像および長露光画像は、ペアとしてフレームメモリ20に書き込まれる。長露光画像および短露光画像の撮影と撮影された長露光画像および短露光画像のフレームメモリ20への書き込みは、連続的に行われる。   The image processing apparatus 1 changes the exposure setting of the sensor 10 and continuously captures two images. Here, short exposure shooting is performed first, and then long exposure shooting is performed. However, long exposure shooting may be performed first, and then short exposure shooting may be performed. The short exposure image and the long exposure image captured in this manner are written to the frame memory 20 as a pair. The photographing of the long exposure image and the short exposure image and the writing of the photographed long exposure image and the short exposure image into the frame memory 20 are continuously performed.

ここで、本明細書においては、少なくとも、現時刻の長露光画像および現時刻の短露光画像がフレームメモリ20に残っていればよい。したがって、長露光画像および短露光画像が撮影される間隔は特に限定されない。また、長露光画像および短露光画像は、毎フレームがフレームメモリ20に書き込まれてもよいし、複数フレームに一度フレームメモリ20に書き込まれてもよい。   Here, in the present specification, at least the current long exposure image and the current short exposure image may be left in the frame memory 20. Therefore, the intervals at which the long exposure image and the short exposure image are captured are not particularly limited. Further, the long exposure image and the short exposure image may be written in the frame memory 20 for each frame, or may be written in the frame memory 20 once in a plurality of frames.

例えば、図2に示した例のように、長露光画像および短露光画像のペアを書き込む領域がフレームメモリ20に存在する場合には、画像処理装置1は、長露光画像および短露光画像のペアをその領域に対して連続して書き込めばよい。例えば、フレームメモリ20に書き込まれた前時刻の短露光画像および前時刻の長露光画像は、現時刻の短露光画像および現時刻の長露光画像によって上書きされてよい。   For example, as in the example illustrated in FIG. 2, when the frame memory 20 has an area in which a pair of a long exposure image and a short exposure image is to be written, the image processing apparatus 1 includes a pair of a long exposure image and a short exposure image. Can be written continuously to the area. For example, the previous short exposure image and the previous long exposure image written in the frame memory 20 may be overwritten by the current short exposure image and the current long exposure image.

なお、図2に示した例では、画像処理装置1は、長露光画像および短露光画像を出力するための共通の系統を1つ有し、センサ10が長露光画像と短露光画像とを時分割で出力することとしたが、長露光画像と短露光画像とが同時に出力されてもよい。かかる場合、画像処理装置1は、センサ10から長露光画像を出力するための系統と短露光画像を出力するための系統との2つの系統を有すればよい。それぞれのシャッタータイムは、例えば、撮影対象のダイナミックレンジやセンサ仕様などによって決まる。   In the example shown in FIG. 2, the image processing apparatus 1 has one common system for outputting a long exposure image and a short exposure image, and the sensor 10 has a long exposure image and a short exposure image. Although output is made by division, a long exposure image and a short exposure image may be simultaneously output. In such a case, the image processing apparatus 1 may have two systems of a system for outputting a long exposure image from the sensor 10 and a system for outputting a short exposure image. Each shutter time is determined by, for example, a dynamic range of an object to be photographed, a sensor specification, and the like.

本発明の実施形態においては、短露光画像および長露光画像という用語を使用するが、これらの用語は、撮影された2つの画像それぞれの絶対的な露光時間を限定するものではない。したがって、露光時間の異なる2つの画像が撮影された場合に、当該2つの画像のうち、相対的に露光時間が短い画像が短露光画像に相当し、相対的に露光時間が長い画像が長露光画像に相当する。例えば、短露光の時間に対する長露光の時間(以下、単に「露光比」とも言う。)を数倍から十数倍に設定してよい。   In the embodiments of the present invention, the terms short exposure image and long exposure image are used, but these terms do not limit the absolute exposure time of each of the two captured images. Therefore, when two images having different exposure times are taken, of the two images, an image with a relatively short exposure time corresponds to a short exposure image, and an image with a relatively long exposure time is a long exposure It corresponds to an image. For example, the time of long exposure (hereinafter, also simply referred to as “exposure ratio”) may be set to several to ten times the time of short exposure.

合成部30は、長露光画像と短露光画像とを合成することによりWDR合成画像を生成する。具体的には、合成部30は、使用画像選択情報を参照して、短露光画像使用領域には短露光画像を使用し、長露光画像使用領域には長露光画像を使用して合成画像を生成する。例えば、センサ10から出力された短露光画像および長露光画像それぞれのビット数が12ビットであっても、合成部30によって生成されるWDR合成画像のビット数は16ビット程度であってよい。   The combining unit 30 combines the long exposure image and the short exposure image to generate a WDR combined image. Specifically, referring to the use image selection information, the combining unit 30 uses the short exposure image for the short exposure image use area and uses the long exposure image for the long exposure image use area. Generate For example, even if the number of bits of each of the short exposure image and the long exposure image output from the sensor 10 is 12 bits, the number of bits of the WDR combined image generated by the combining unit 30 may be about 16 bits.

なお、使用画像選択情報は、どのように生成されてもよいが、例えば、長露光画像において飽和してしまった領域は、短露光画像においては飽和していない可能性が高いため、当該領域の使用画像として短露光画像が選択されればよい。一方、例えば、長露光画像において飽和していない領域は、当該領域の使用画像として長露光画像が選択されればよい。   The use image selection information may be generated in any way, but for example, since the area saturated in the long exposure image is highly likely not saturated in the short exposure image, A short exposure image may be selected as a use image. On the other hand, for example, in a long exposure image, a long exposure image may be selected as a use image of the area that is not saturated.

レンジ圧縮部40は、WDR合成画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する。かかる圧縮処理としては、ルックアップテーブル(LUT)に従ったトーンマッピングが用いられてよいが、特にどのような手法が用いられてもよい。例えば、合成部30によって生成されるWDR合成画像のビット数が16ビット程度であっても、レンジ圧縮部40は、WDR合成画像のビット数が12ビットとなるように圧縮を行う。   The range compression unit 40 performs range compression on the number of bits of each pixel value constituting the WDR composite image from A bits to B bits (where A> B). As such compression processing, tone mapping in accordance with a look-up table (LUT) may be used, but any particular method may be used. For example, even if the number of bits of the WDR combined image generated by the combining unit 30 is about 16 bits, the range compression unit 40 performs compression so that the number of bits of the WDR combined image is 12 bits.

レンジ圧縮部40の後段は、例えば、ベイヤーデータからRGBプレーンを生成するデモザイク部、輪郭強調部、カラーマネージメントなどを含む画像処理エンジンに接続される。そのため、レンジ圧縮部40からの出力信号のデータ量は、例えば、画像処理エンジンへの入力データのサイズに適合するように(例えば、12bit程度に)調整されるのが好ましい。単純にデータサイズを低下させるだけでは暗い画像に変換されてしまうため、人間の視覚特性に近づくように高輝度側が強く圧縮されるとよい。   The subsequent stage of the range compression unit 40 is connected to an image processing engine including, for example, a demosaicing unit that generates an RGB plane from Bayer data, an edge enhancement unit, and color management. Therefore, it is preferable that the amount of data of the output signal from the range compression unit 40 be adjusted (for example, to about 12 bits) so as to conform to the size of the input data to the image processing engine, for example. Since the image is converted to a dark image simply by reducing the data size, it is preferable that the high luminance side be strongly compressed so as to approach human visual characteristics.

以上において説明した例では、露光量の異なる2種類の画像(短露光画像および長露光画像)を撮影して合成する例を説明した。しかし、合成に使用される画像の種類は特に限定されない。例えば、露光量の異なる3種類以上の画像を撮影して合成する例にも本実施形態は適用され得る。3種類以上の画像を撮影して合成する場合には、得られるWDR合成画像のダイナミックレンジを20ビット以上に広げることもできるようになると予想される。しかし、レンジ圧縮部40による圧縮後のレンジは一定であるのがよい。   In the example described above, the example of photographing and combining two types of images (short-exposure image and long-exposure image) having different exposure amounts has been described. However, the type of image used for composition is not particularly limited. For example, the present embodiment can be applied to an example in which three or more types of images having different exposure amounts are captured and combined. When three or more types of images are taken and synthesized, it is expected that the dynamic range of the obtained WDR synthesized image can be extended to 20 bits or more. However, it is preferable that the range after compression by the range compression unit 40 be constant.

続いて、レンジ圧縮部40の詳細な機能構成例について、図3を参照しながら説明する。図3は、レンジ圧縮部40の詳細な機能構成例を示すブロック図である。図3に示したように、画像処理装置1は、最大値検出部41と、マージン決定部42と、加算部43と、係数算出部44と、圧縮部45とを備える。なお、以下では、レンジ圧縮部40への入力RGB信号が、合成部30によって生成されたWDR合成画像である場合を主に説明するが、レンジ圧縮部40への入力RGB信号はWDR合成画像に限定されない。   Subsequently, a detailed functional configuration example of the range compression unit 40 will be described with reference to FIG. FIG. 3 is a block diagram showing a detailed functional configuration example of the range compression unit 40. As shown in FIG. As shown in FIG. 3, the image processing apparatus 1 includes a maximum value detection unit 41, a margin determination unit 42, an addition unit 43, a coefficient calculation unit 44, and a compression unit 45. In the following, the case where the input RGB signal to the range compression unit 40 is the WDR composite image generated by the combination unit 30 will be mainly described, but the input RGB signal to the range compression unit 40 is a WDR composite image It is not limited.

最大値検出部41は、入力画像を構成する画素値の最大値hmaxを検出する。例えば、図3に示すように、最大値検出部41は、ダイナミックレンジが拡張された入力RGB信号が入力された場合には、この入力RGB信号を構成する全画素値から最大値hmaxを検出してよい。   The maximum value detection unit 41 detects the maximum value hmax of pixel values constituting the input image. For example, as shown in FIG. 3, when the input RGB signal whose dynamic range is expanded is input, the maximum value detection unit 41 detects the maximum value hmax from all pixel values constituting the input RGB signal. You may

ここで、最大値検出部41は、入力RGB信号を構成する全画素値のヒストグラムを取り、所定数以上存在する画素値のうち最も画素値の大きな値を最大値として検出するのが望ましい。1画素でも最大値として検出してしまうと、欠陥画素を検出してしまったり、非常に小さく画像全体からすると重要性が低い高輝度物体を検出してしまったりする可能性があるが、そのような可能性を低減することができるからである。   Here, it is desirable that the maximum value detection unit 41 take a histogram of all pixel values constituting the input RGB signal, and detect the largest value of the pixel values as the maximum value among the pixel values existing in a predetermined number or more. If even one pixel is detected as the maximum value, there is a possibility that a defective pixel is detected, or a very small object with high brightness which is less important from the whole image may be detected. It is because that possibility can be reduced.

また、入力RGB信号のヒストグラムを取る際に、階調を量子化してからヒストグラムを取るのがさらに望ましい。入力RGB信号がWDR合成画像である場合、全階調のヒストグラムを取れば、ヒストグラムに使用するメモリが非常に大きくなってしまうためである。最大値検出部41によって検出された最大値hmaxは、マージン決定部42および加算部43に出力される。   Further, when taking a histogram of the input RGB signal, it is more desirable to quantize the gradation and then take the histogram. When the input RGB signal is a WDR synthesized image, the memory used for the histogram becomes very large if the histogram of all gradations is taken. The maximum value hmax detected by the maximum value detection unit 41 is output to the margin determination unit 42 and the addition unit 43.

マージン決定部42は、最大値検出部41によって検出された最大値hmaxに基づいてマージン値marginを決定する。マージン決定部42によるマージン値marginの決定についての詳細は後に説明する。また、加算部43は、最大値検出部41によって検出された最大値hmaxとマージン決定部42によって決定されたマージン値marginとの加算値hmax’を算出する。   The margin determination unit 42 determines a margin value margin based on the maximum value hmax detected by the maximum value detection unit 41. Details of the determination of the margin value margin by the margin determination unit 42 will be described later. Further, the addition unit 43 calculates an addition value hmax ′ of the maximum value hmax detected by the maximum value detection unit 41 and the margin value margin determined by the margin determination unit 42.

係数算出部44は、加算値hmax’に基づいて係数coeffを算出する。例えば、係数算出部44は、出力レンジの上限値を加算値hmax’によって除することにより係数coeffを算出する。そうすれば、加算値hmax’を出力レンジの上限値に一致させるための係数coeffを算出することができる。   The coefficient calculation unit 44 calculates the coefficient coeff based on the addition value hmax '. For example, the coefficient calculation unit 44 calculates the coefficient coeff by dividing the upper limit value of the output range by the addition value hmax '. Then, it is possible to calculate a coefficient coeff for making the addition value hmax 'coincide with the upper limit value of the output range.

圧縮部45は、係数coeffを用いて入力RGB信号をレンジ圧縮する。圧縮部45は、入力RGB信号の各画素値に対して係数coeffを乗じることによって、入力RGB信号を圧縮することができる。   The compression unit 45 performs range compression on the input RGB signal using the coefficient coeff. The compression unit 45 can compress the input RGB signal by multiplying each pixel value of the input RGB signal by the coefficient coeff.

このようにして、出力レンジの上限から一定の領域のレンジを不使用とする制御を行うことによって、高輝度・高彩度のオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能となる。以下、マージン決定部42によるマージン値marginの決定の詳細について説明する。図4は、マージン値marginの決定例を説明するための図である。なお、図4には、最大値hmaxとマージン値marginとの対応関係の例が示されている。   In this way, by performing control so as not to use the range of a certain area from the upper limit of the output range, it is possible to obtain a range-compressed image in which the color reproducibility of an object with high brightness and high saturation is improved. The details of the determination of the margin value margin by the margin determination unit 42 will be described below. FIG. 4 is a diagram for explaining an example of determining the margin value margin. FIG. 4 shows an example of the correspondence between the maximum value hmax and the margin value margin.

例えば、マージン決定部42は、入力RGB信号を構成する画素値の飽和値VALuと最大値hmaxとの比較結果に基づいてマージン値marginを決定してよい。例えば、図4に示すように、マージン決定部42は、最大値hmaxが飽和値VALu以上である場合には、零をマージン値marginとして決定してもよい。   For example, the margin determination unit 42 may determine the margin value margin based on the comparison result of the saturation value VALu of the pixel values constituting the input RGB signal and the maximum value hmax. For example, as shown in FIG. 4, the margin determination unit 42 may determine zero as the margin value margin when the maximum value hmax is equal to or greater than the saturation value VALu.

ここで、飽和値VALuは、入力RGB信号が短露光画像と長露光画像とのWDR合成画像である場合、短露光画像の飽和状態において取り得る何らかの値であってよい。具体的には、飽和値VALuは、WDR合成画像の画素値の理論的な上限値であってもよい。例えば、飽和値VALuは、以下の式(1)に示すように、センサ10から出力される各画素値のビット数nとセンサ10によって撮影される短露光画像に対する長露光画像の露光比Expとの乗算値によって理論的に算出されてもよい。   Here, when the input RGB signal is a WDR composite image of a short exposure image and a long exposure image, the saturation value VALu may be any value that can be taken in the saturation state of the short exposure image. Specifically, the saturation value VALu may be a theoretical upper limit of pixel values of the WDR composite image. For example, as the saturation value VALu is expressed by the following equation (1), the bit number n of each pixel value output from the sensor 10 and the exposure ratio Exp of the long exposure image to the short exposure image photographed by the sensor 10 It may be theoretically calculated by the multiplication value of.

VALu=2×Exp ・・・(1) VALu = 2 n × Exp (1)

センサ10から出力される各画素値のビット数nを12とし、短露光画像に対する長露光画像の露光比を10倍とした場合には、WDR合成画像の画素値の理論的な上限値は、212×10=40960であり、この上限値よりも大きな画素値がWDR合成画像に存在することは基本的にはないと考えられる。 When the bit number n of each pixel value output from the sensor 10 is 12 and the exposure ratio of the long exposure image to the short exposure image is 10 times, the theoretical upper limit value of the pixel value of the WDR composite image is It is considered that basically 2 12 × 10 = 40960 that a pixel value larger than this upper limit value is not present in the WDR composite image.

あるいは、飽和値VALuは、短露光画像を構成する画素値の飽和値であってもよい。例えば、かかる場合、マージン決定部42は、短露光画像を構成する画素値の飽和値と短露光画像を構成する画素値の最大値との比較結果に基づいてマージン値marginを決定してよい。短露光画像を構成する画素値の飽和値と短露光画像を構成する画素値の最大値との比較は、図示しない比較部によって行われればよい。   Alternatively, the saturation value VALu may be a saturation value of pixel values constituting the short exposure image. For example, in such a case, the margin determination unit 42 may determine the margin value margin based on the comparison result of the saturation value of the pixel values constituting the short exposure image and the maximum value of the pixel values constituting the short exposure image. The comparison between the saturation value of the pixel values constituting the short exposure image and the maximum value of the pixel values constituting the short exposure image may be performed by a comparison unit (not shown).

また、例えば、マージン決定部42は、所定の閾値THと最大値hmaxとの比較結果に基づいてマージン値marginを決定してもよい。例えば、図4に示すように、マージン決定部42は、最大値hmaxが閾値THを下回る場合には、規定値をマージン値marginとして決定してもよい。   Also, for example, the margin determination unit 42 may determine the margin value margin based on the comparison result between the predetermined threshold TH and the maximum value hmax. For example, as shown in FIG. 4, the margin determination unit 42 may determine the specified value as the margin value margin when the maximum value hmax is smaller than the threshold value TH.

また、図4に示すように、マージン決定部42は、最大値hmaxが飽和値VALuと閾値THとの間である場合には、線形補間により算出された値をマージン値marginとして決定してもよい。   Further, as shown in FIG. 4, if the maximum value hmax is between the saturation value VALu and the threshold value TH, the margin determining unit 42 may determine the value calculated by linear interpolation as the margin value margin. Good.

なお、ここでは、短露光画像に対する長露光画像の露光比を用いて説明をしているが、異なる露光量で撮影された3種類以上の画像を用いる場合には、最短露光画像に対する最長露光画像の露光比を用いてVALuを算出すればよい。   Here, the description is made using the exposure ratio of the long exposure image to the short exposure image, but when using three or more types of images photographed with different exposure amounts, the longest exposure image to the shortest exposure image VALu may be calculated using the exposure ratio of

続いて、本発明の実施形態が奏する効果の例を説明する。まず、画素値の最大値hmaxが飽和値VALuに達していない場合について説明する。図5は、画素値の最大値hmaxが飽和値VALuに達していないWDR合成画像(上段)、最大値hmaxを用いて12ビットレンジに圧縮した後のWDR合成画像(中段)および最大値hmaxとマージン値marginとの加算値hmax’を用いて12ビットレンジに圧縮した後のWDR合成画像(下段)それぞれのヒストグラムを示す図である。   Subsequently, an example of an effect exerted by the embodiment of the present invention will be described. First, the case where the maximum value hmax of the pixel values has not reached the saturation value VALu will be described. FIG. 5 shows a WDR composite image (upper row) in which the maximum value hmax of pixel values has not reached the saturation value VALu, a WDR composite image (middle row) after compression into a 12-bit range using the maximum value hmax, and the maximum value hmax It is a figure which shows the histogram of each WDR synthetic | combination image (lower stage) after compressing to 12 bit range using addition value hmax 'with margin value margin.

最大値hmaxを用いて圧縮した後のWDR合成画像(図5の中段)を参照すると、出力レンジをいっぱいまで使い切っている状態であるが、背景技術の項で説明したように高輝度・高彩度部の色再現性が不十分となってしまう。   Referring to the WDR composite image (the middle part of FIG. 5) after compression using the maximum value hmax, the output range is fully used, but as described in the background art section, the high brightness and high saturation portion The color reproducibility of the image becomes insufficient.

一方、最大値hmaxとマージン値marginとの加算値を用いて12ビットレンジに圧縮した後のWDR合成画像(図5の下段)を参照すると、出力レンジの飽和付近を使用しないため、高輝度・高彩度のオブジェクトの色再現性が改善される。ただし、マージン値marginを大きくし過ぎると、出力レンジのハイライト側の不使用階調が多くなって出力画像のコントラストが低下したり、画像が暗く見えたりする可能性もある。したがって、高輝度・高彩度のオブジェクトの色再現性と画像のコントラストとのバランスを取ったマージン値が設定されるとよい。   On the other hand, referring to the WDR composite image (the lower part of FIG. 5) after compression into a 12-bit range using the addition value of the maximum value hmax and the margin value margin, high saturation The color reproducibility of high saturation objects is improved. However, if the margin value margin is made too large, the number of unused tones on the highlight side of the output range may be increased to lower the contrast of the output image, or the image may appear dark. Therefore, it is preferable to set a margin value that balances the color reproducibility of an object with high brightness and high saturation with the contrast of the image.

続いて、画素値の最大値hmaxが飽和値VALuに達した場合について説明する。図7は、画素値の最大値が飽和値に達しているWDR合成画像(上段)、最大値hmaxとマージン値marginとの加算値hmax’を用いて12ビットレンジに圧縮した後のWDR合成画像(中段)および最大値hmaxを用いて12ビットレンジに圧縮した後のWDR合成画像(下段)それぞれのヒストグラムを示す図である。   Subsequently, the case where the maximum value hmax of the pixel values reaches the saturation value VALu will be described. FIG. 7 shows a WDR composite image (upper part) in which the maximum value of the pixel values has reached the saturation value, and the WDR composite image after compression into a 12-bit range using the sum hmax ′ of the maximum value hmax and the margin value margin. FIG. 16 is a diagram showing histograms of respective WDR composite images (lower) after compression to a 12-bit range using (middle) and the maximum value hmax.

画素値の最大値が飽和値に達しているWDR合成画像(図6の上段)を参照すると、ハイライト部のヒストグラムはWDR合成画像の飽和値VALuに達しており、hmax=VALuとなっている。なお、WDR合成画像が飽和しているということは、短露光画像でも飽和するような非常に高輝度のオブジェクトが撮影されているということである。   Referring to the WDR composite image (upper part of FIG. 6) in which the maximum value of the pixel value has reached the saturation value, the histogram of the highlight portion has reached the saturation value VALu of the WDR composite image, and hmax = VALu. . The fact that the WDR composite image is saturated means that an object of very high brightness is taken that is saturated even in a short exposure image.

最大値hmaxとマージン値marginとの加算値hmax’を用いて12ビットレンジに圧縮した後のWDR合成画像(図6の中段)を参照すると、最大値hmaxとマージン値marginとの加算値hmax’を使用したレンジ圧縮がなされており、ハイライト部が飽和からやや小さい階調を使用して出力されている。その結果、短露光画像だけを見れば飽和して真っ白もしくはそれに近いように見えるのに、合成画像を見ると飽和しておらず明るい灰色のように見えてしまい、不自然に見えてしまう。   Referring to the WDR composite image (middle part of FIG. 6) after compression to a 12-bit range using the added value hmax ′ of the maximum value hmax and the margin value margin, the added value hmax ′ of the maximum value hmax and the margin value margin Range compression is performed, and the highlight portion is output using saturation and a slightly smaller gradation. As a result, although only a short exposure image looks saturated and looks white or nearly white, it does not look saturated when it is seen in a composite image but looks light gray and looks unnatural.

一方、最大値hmaxを用いて12ビットレンジに圧縮した後のWDR合成画像(図6の下段)を参照すると、WDR合成画像が飽和している場合が示されている。このような場合には、圧縮した後のWDR合成画像も飽和している方が自然である。すなわち、加算値hmax’は用いずに最大値hmaxを用いてWDR合成画像を圧縮するのがよい。   On the other hand, referring to the WDR composite image (lower part of FIG. 6) after compression to the 12-bit range using the maximum value hmax, the case where the WDR composite image is saturated is shown. In such a case, it is natural that the WDR composite image after compression is also saturated. That is, it is preferable to compress the WDR composite image using the maximum value hmax without using the addition value hmax '.

以上に示した効果の例のように、本発明の実施形態においては、最大値hmaxと飽和値VALuとを比較して、最大値hmaxが飽和値VALuに到達している時には、マージン値marginを零にするなどといった制御を導入する。これによって、WDR合成画像が飽和している場合でも自然な結果が得られるように配慮されている。   As in the example of the effects described above, in the embodiment of the present invention, the maximum value hmax and the saturation value VALu are compared, and when the maximum value hmax reaches the saturation value VALu, the margin value margin is set. Introduce control such as zeroing. By this, it is considered that a natural result is obtained even when the WDR composite image is saturated.

以上、本発明の実施形態について説明した。本発明の実施形態によれば、入力画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する画像処理装置1において、入力画像を構成する画素値の最大値を検出する最大値検出部41と、最大値に基づいてマージン値を決定するマージン決定部42と、最大値とマージン値との加算値に基づいて係数を算出する係数算出部44と、係数を用いて入力画像をレンジ圧縮する圧縮部45と、を備える、画像処理装置1が提供される。   The embodiments of the present invention have been described above. According to the embodiment of the present invention, in the image processing apparatus 1 for performing range compression on the number of bits of each pixel value constituting the input image to A bits to B bits (where A> B), the pixel values constituting the input image A maximum value detection unit 41 that detects the maximum value of the above, a margin determination unit 42 that determines a margin value based on the maximum value, and a coefficient calculation unit 44 that calculates a coefficient based on the sum of the maximum value and the margin value , And a compression unit 45 which performs range compression on an input image using coefficients.

かかる構成によれば、出力レンジの上限から一定の領域のレンジを不使用とする制御を行うことによって、高輝度・高彩度のオブジェクトの色再現性を改善したレンジ圧縮画像を得ることが可能となる。   According to such a configuration, it is possible to obtain a range-compressed image with improved color reproducibility of a high-brightness / high-saturation object by performing control to discontinue use of the range of a certain area from the upper limit of the output range. .

以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。   Although the preferred embodiments of the present invention have been described in detail with reference to the accompanying drawings, the present invention is not limited to such examples. It is obvious that those skilled in the art to which the present invention belongs can conceive of various changes or modifications within the scope of the technical idea described in the claims. Of course, it is understood that these also fall within the technical scope of the present invention.

ワイドダイナミックレンジ技術は、ネットワークカメラの差別化技術として特に重要視されている。本発明の実施形態は、従来技術では色再現性が不十分であった高輝度・高彩度オブジェクトを、より実物に近い色で再現できるようにするもので、マージン値の適応制御によって副作用も抑え込んでいる。そのため、画質を安定的に向上させることができる点、処理が複雑でなく現実的な回路規模で実現できる点、制御が必要な箇所も少ない点などが優れている。   Wide dynamic range technology is regarded as particularly important as a network camera differentiation technology. The embodiment of the present invention enables high brightness and high saturation objects, whose color reproducibility is insufficient in the prior art, to be reproduced with colors closer to real colors, and side effects are suppressed by adaptive control of the margin value. There is. Therefore, it is superior in that the image quality can be stably improved, the processing is not complicated and can be realized with a realistic circuit scale, and the number of parts requiring control is small.

1 画像処理装置
10 センサ
20 フレームメモリ
30 合成部
40 レンジ圧縮部
41 最大値検出部
42 マージン決定部
43 加算部
44 係数算出部
45 圧縮部
coeff 係数
Exp 露光比
hmax 最大値
hmax’ 加算値
margin マージン値
TH 閾値
VALu 飽和値


Reference Signs List 1 image processing apparatus 10 sensor 20 frame memory 30 combination unit 40 range compression unit 41 maximum value detection unit 42 margin determination unit 44 addition unit 44 coefficient calculation unit 45 compression unit coeff coefficient Exp exposure ratio hmax maximum value hmax 'addition value margin margin value TH threshold VALu saturation value


Claims (7)

入力画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する画像処理装置において、
前記入力画像を構成する画素値の最大値を検出する最大値検出部と、
前記最大値が前記入力画像を構成する画素値の飽和値以上である場合には、零をマージン値として決定するマージン決定部と、
前記最大値と前記マージン値との加算値に基づいて係数を算出する係数算出部と、
前記係数を用いて前記入力画像をレンジ圧縮する圧縮部と、
を備える、画像処理装置。
In an image processing apparatus which performs range compression on the number of bits of each pixel value constituting an input image from A bits to B bits (where A> B),
A maximum value detection unit that detects the maximum value of pixel values constituting the input image;
A margin determination unit configured to determine zero as a margin value when the maximum value is equal to or more than a saturation value of pixel values constituting the input image ;
A coefficient calculation unit that calculates a coefficient based on an addition value of the maximum value and the margin value;
A compression unit that performs range compression on the input image using the coefficients;
An image processing apparatus comprising:
前記マージン決定部は、前記飽和値よりも小さい所定の閾値と前記最大値との比較結果に基づいて前記マージン値を決定する、
請求項に記載の画像処理装置。
The margin determination unit determines the margin value based on a comparison result of a predetermined threshold smaller than the saturation value and the maximum value.
The image processing apparatus according to claim 1 .
前記マージン決定部は、前記最大値が前記閾値を下回る場合には、規定値を前記マージン値として決定する、
請求項に記載の画像処理装置。
The margin determination unit determines a specified value as the margin value when the maximum value is less than the threshold.
The image processing apparatus according to claim 2 .
前記マージン決定部は、前記最大値が前記飽和値と前記閾値との間である場合には、線形補間により算出された値を前記マージン値として決定する、
請求項に記載の画像処理装置。
The margin determination unit determines a value calculated by linear interpolation as the margin value, when the maximum value is between the saturation value and the threshold value.
The image processing apparatus according to claim 3 .
前記入力画像は、短露光画像と長露光画像との合成画像であり、
前記飽和値は、センサから出力される各画素値のビット数と前記センサによって撮影される前記短露光画像および前記長露光画像の露光比との乗算値である、
請求項に記載の画像処理装置。
The input image is a composite image of a short exposure image and a long exposure image,
The saturation value is a product of the number of bits of each pixel value output from a sensor and the exposure ratio of the short exposure image and the long exposure image captured by the sensor.
The image processing apparatus according to claim 1 .
前記入力画像は、短露光画像と長露光画像との合成画像であり、
前記マージン決定部は、前記短露光画像を構成する画素値の飽和値と前記短露光画像を構成する画素値の最大値との比較結果に基づいて前記マージン値を決定する、
請求項に記載の画像処理装置。
The input image is a composite image of a short exposure image and a long exposure image,
The margin determining unit determines the margin value based on a comparison result of a saturation value of pixel values constituting the short exposure image and a maximum value of pixel values constituting the short exposure image.
The image processing apparatus according to claim 1 .
入力画像を構成する各画素値のビット数をAビットからBビット(ただし、A>B)にレンジ圧縮する画像処理方法において、
前記入力画像を構成する画素値の最大値を検出するステップと、
前記最大値が前記入力画像を構成する画素値の飽和値以上である場合には、零をマージン値として決定するステップと、
前記最大値と前記マージン値との加算値に基づいて係数を算出するステップと、
前記係数を用いて前記入力画像をレンジ圧縮するステップと、
を含む、画像処理方法。




In an image processing method for range-compressing the number of bits of each pixel value constituting an input image from A bits to B bits (where A> B),
Detecting a maximum value of pixel values constituting the input image;
If the maximum value is greater than or equal to a saturation value of pixel values constituting the input image, determining zero as a margin value ;
Calculating a coefficient based on an addition value of the maximum value and the margin value;
Range compressing the input image using the coefficients;
Image processing methods, including:




JP2014095853A 2014-05-07 2014-05-07 Image processing apparatus and image processing method Active JP6543786B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014095853A JP6543786B2 (en) 2014-05-07 2014-05-07 Image processing apparatus and image processing method
KR1020140114529A KR102170697B1 (en) 2014-05-07 2014-08-29 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014095853A JP6543786B2 (en) 2014-05-07 2014-05-07 Image processing apparatus and image processing method

Publications (2)

Publication Number Publication Date
JP2015213276A JP2015213276A (en) 2015-11-26
JP6543786B2 true JP6543786B2 (en) 2019-07-17

Family

ID=54697313

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014095853A Active JP6543786B2 (en) 2014-05-07 2014-05-07 Image processing apparatus and image processing method

Country Status (2)

Country Link
JP (1) JP6543786B2 (en)
KR (1) KR102170697B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10523874B2 (en) 2016-02-16 2019-12-31 Sony Corporation Image processing apparatus, image processing method, and program

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4069522B2 (en) 1998-10-08 2008-04-02 ソニー株式会社 Video signal processing apparatus, color video camera, and video signal processing method
JP3948229B2 (en) * 2001-08-01 2007-07-25 ソニー株式会社 Image capturing apparatus and method
JP2004180090A (en) 2002-11-28 2004-06-24 Mitsubishi Electric Corp Video signal processing device
JP2005109871A (en) 2003-09-30 2005-04-21 Fuji Photo Film Co Ltd Image processor, method and program
JP2009111894A (en) 2007-10-31 2009-05-21 Sony Corp Video signal processing device, imaging apparatus and video signal processing method
JP5083046B2 (en) * 2008-06-03 2012-11-28 ソニー株式会社 Imaging apparatus and imaging method
US9230312B2 (en) * 2010-01-27 2016-01-05 Adobe Systems Incorporated Methods and apparatus for performing tone mapping on high dynamic range images
KR101450800B1 (en) * 2012-10-05 2014-10-15 서강대학교산학협력단 Dynamic range adjustment method using log average

Also Published As

Publication number Publication date
KR20150127524A (en) 2015-11-17
KR102170697B1 (en) 2020-10-27
JP2015213276A (en) 2015-11-26

Similar Documents

Publication Publication Date Title
JP3668014B2 (en) Image processing method and apparatus
US9357139B2 (en) Image processing apparatus, display apparatus and image capturing apparatus with generation of composite image by adding multiplied edge components outputted from first multiplier and multiplied low frequency components outputted from second mylitplier
EP2360906A2 (en) Method of and apparatus for image denoising
US8665348B2 (en) Image processing apparatus and method using forward and inverse local adaptation processing and dynamic range processing
JP2012205244A (en) Image processing device and method of controlling the same
JP5901667B2 (en) Image processing apparatus and method, image processing program, and imaging apparatus
JP4639037B2 (en) Image processing method and apparatus
CN106575434B (en) Image processing apparatus, imaging apparatus, and image processing method
JP2020145553A (en) Image processing apparatus, image processing method and program
JP6080531B2 (en) Image processing apparatus, image processing method, program, and storage medium
JP2011199785A (en) Imaging apparatus and method
KR102199472B1 (en) Apparatus and method for processing image
JP6543786B2 (en) Image processing apparatus and image processing method
KR102247597B1 (en) Image processing apparatus and image processing method
JP2013179485A (en) Image processing apparatus and control method thereof
KR102282464B1 (en) Image processing apparatus and image processing method
JP5365881B2 (en) Image processing apparatus and image processing method
CN114697483B (en) Under-screen camera shooting device and method based on compressed sensing white balance algorithm
JP2020136928A (en) Image processing apparatus, image processing method, and program
JPH06253176A (en) Gradation correction circuit and image pickup device
JP2016046701A (en) Image processing apparatus, image processing method and program
JP7507554B2 (en) IMAGE PROCESSING APPARATUS, IMAGING APPARATUS, IMAGE PROCESSING METHOD, AND PROGRAM
JP5444720B2 (en) projector
JP7332325B2 (en) IMAGE PROCESSING DEVICE, IMAGING DEVICE, IMAGE PROCESSING METHOD, AND PROGRAM
JP2021048522A (en) Image processing apparatus and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170330

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180424

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180719

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20181221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190320

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190524

R150 Certificate of patent or registration of utility model

Ref document number: 6543786

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R154 Certificate of patent or utility model (reissue)

Free format text: JAPANESE INTERMEDIATE CODE: R154

R150 Certificate of patent or registration of utility model

Ref document number: 6543786

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250