JP2016213747A - Image processing apparatus, image processing method, and program - Google Patents

Image processing apparatus, image processing method, and program Download PDF

Info

Publication number
JP2016213747A
JP2016213747A JP2015097495A JP2015097495A JP2016213747A JP 2016213747 A JP2016213747 A JP 2016213747A JP 2015097495 A JP2015097495 A JP 2015097495A JP 2015097495 A JP2015097495 A JP 2015097495A JP 2016213747 A JP2016213747 A JP 2016213747A
Authority
JP
Japan
Prior art keywords
image
color component
display image
pixel
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015097495A
Other languages
Japanese (ja)
Inventor
水谷 仁
Hitoshi Mizutani
仁 水谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015097495A priority Critical patent/JP2016213747A/en
Publication of JP2016213747A publication Critical patent/JP2016213747A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Studio Circuits (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To generate a display image which does not damage feeling of resolution belonging to a captured image such as a RAW image, while reducing a load of generating the display image.SOLUTION: A first display image generation circuit (131) acquires only specific color component values out of plural color component values for determining the colors of respective pixels constituting a captured image. Then, the first display image generation circuit (131) configures the specific color component values acquired from the captured image as the pixel values of luminances respectively corresponding to the respective pixels constituting the captured image, and generates the respective pixel values of an image for display.SELECTED DRAWING: Figure 1

Description

本発明は、画像処理装置、画像処理方法、及びプログラムに関する。   The present invention relates to an image processing apparatus, an image processing method, and a program.

近年、いわゆる4K映像などのようなUHD(Ultra High Definition:超高精)映像を撮影可能なデジタルビデオカメラの増加に伴い、高解像度映像の制作が広がりを見せている。このため撮影現場では、4Kモニタなどを用いてデジタルビデオカメラのフォーカスや映像のディテールを確認する需要が高まりつつある。   In recent years, with the increase in digital video cameras capable of shooting UHD (Ultra High Definition) images such as so-called 4K images, production of high-resolution images has been spreading. For this reason, in the field of photography, there is an increasing demand for confirming the focus of a digital video camera and details of images using a 4K monitor or the like.

ただし、例えば4Kなど高解像度映像撮影と同時に、4Kモニタなどの表示装置への映像出力をリアルタイムに行う場合、デジタルビデオカメラ側の処理負荷が増大する。特に、4Kのような高解像度映像においてRAW撮影が行われているような場合には、デジタルビデオカメラ内部の処理負担が増加する。つまり、記憶媒体へのRAW画像データの記憶処理、RAW画像データから表示画像を生成する処理、表示画像を表示装置へ出力する処理などがリアルタイムに行われるため、デジタルビデオカメラ内部の処理負担が非常に増加する。   However, for example, when video output to a display device such as a 4K monitor is performed in real time simultaneously with high-resolution video shooting such as 4K, the processing load on the digital video camera side increases. In particular, when RAW shooting is performed on a high-resolution video such as 4K, the processing load inside the digital video camera increases. In other words, the storage processing of the RAW image data in the storage medium, the processing of generating the display image from the RAW image data, the processing of outputting the display image to the display device, and the like are performed in real time, so that the processing load inside the digital video camera is extremely To increase.

このように、デジタルビデオカメラ内部の処理負担が増加すると、他の処理フローが圧迫される。このため、RAW画像データから表示画像を生成する処理の負荷を軽減することが望まれる。   As described above, when the processing load in the digital video camera increases, other processing flows are compressed. For this reason, it is desirable to reduce the processing load for generating a display image from RAW image data.

高解像度のRAW画像から表示画像を生成する際の計算量を削減可能な技術として、例えば特許文献1には、記憶媒体に記憶されたRAW画像データから縮小画像を生成し、その縮小画像を撮像結果として表示する技術が開示されている。この特許文献1に記載の技術においては、RAW画像に対して縮小画像構成画素を設定し、表示画像の算出対象となる画素を縮小画像構成画素に限定することにより、計算量を削減している。   As a technique capable of reducing the amount of calculation when generating a display image from a high-resolution RAW image, for example, in Patent Document 1, a reduced image is generated from RAW image data stored in a storage medium, and the reduced image is captured. A technique for displaying as a result is disclosed. In the technique described in Patent Document 1, the amount of calculation is reduced by setting a reduced image constituent pixel for a RAW image and limiting the pixels to be a display image calculation target to the reduced image constituent pixel. .

特開2008−21129号公報JP 2008-21129 A

特許文献1に記載の技術は、RAW画像から表示画像を生成する際の計算量を削減(表示画像生成処理の負担を軽減)可能である。しかしながら、特許文献1に記載の技術では、高解像度のRAW画像を縮小して低解像度の表示画像を生成しているため、画像の見た目のきめ細かさ(以下、解像感とする。)が低下するという問題がある。   The technique described in Patent Literature 1 can reduce the amount of calculation when generating a display image from a RAW image (reducing the burden of display image generation processing). However, in the technique described in Patent Document 1, since a high-resolution RAW image is reduced to generate a low-resolution display image, the fineness of the appearance of the image (hereinafter referred to as resolution) is reduced. There is a problem of doing.

本発明はこのような問題点に鑑みてなされたものであり、表示用画像生成処理の負担を軽減しつつ、RAW画像等の撮像画像が有する解像感を損なわない表示用画像を生成可能とする画像処理装置、画像処理方法、及びプログラムを提供することを目的とする。   The present invention has been made in view of such problems, and can reduce the burden of display image generation processing and can generate a display image that does not impair the sense of resolution of a captured image such as a RAW image. An object of the present invention is to provide an image processing apparatus, an image processing method, and a program.

本発明の画像処理装置は、撮像画像を構成する各画素の各々の色を決めるための複数の色成分値のうち、前記画素の色を決める色成分値の数より少ない一色以上の特定の色成分値のみを取得する取得手段と、前記取得された特定の色成分値を、前記撮像画像を構成する各画素に各々対応した輝度の画素値として設定して、表示用画像の各画素値を生成する生成手段とを有することを特徴とする。   The image processing apparatus according to the present invention includes one or more specific colors that are smaller than the number of color component values that determine the color of the pixel among a plurality of color component values that determine the color of each pixel that constitutes the captured image. An acquisition unit that acquires only component values; and the acquired specific color component value is set as a pixel value of luminance corresponding to each pixel constituting the captured image, and each pixel value of the display image is set. And generating means for generating.

本発明によれば、表示用画像生成処理の負担を軽減しつつ、RAW画像等の撮像画像が有する解像感を損なわない表示用画像を生成可能である。   ADVANTAGE OF THE INVENTION According to this invention, the display image which does not impair the sense of resolution which picked-up images, such as a RAW image, have can be produced | generated, reducing the burden of the display image production | generation process.

実施形態の撮像装置の概略構成を示す図である。It is a figure which shows schematic structure of the imaging device of embodiment. 第1の表示画像生成回路の概略構成を示す図である。It is a figure which shows schematic structure of a 1st display image generation circuit. 第2の表示画像生成回路の概略構成を示す図である。It is a figure which shows schematic structure of a 2nd display image generation circuit. 第1の表示画像生成回路による輝度画像生成の概略図である。It is the schematic of the luminance image generation by the 1st display image generation circuit. RAW画像のデータ構造の例を示す図である。It is a figure which shows the example of the data structure of a RAW image. 表示画像のデータ構造の例を示す図である。It is a figure which shows the example of the data structure of a display image. 第2の表示画像生成回路による表示画像生成の概略図である。It is the schematic of the display image generation by the 2nd display image generation circuit. RAW画像の撮影から記憶までの処理のフローチャートである。It is a flowchart of the process from imaging | photography of a RAW image to memory | storage. RAW画像から表示画像が生成されるまでの処理のフローチャートである。It is a flowchart of a process until a display image is produced | generated from a RAW image.

以下、本実施形態の画像処理装置の一適用例として、デジタルビデオカメラなどの撮像装置を挙げて説明する。図1は、本実施形態の撮像装置1の概略構成を示す図である。撮像装置1は、撮像回路11、補正処理回路12、表示画像生成回路13、3G−SDIコントローラ14、3G−SDI端子15、メモリカードコントローラ16、CPU17、メモリ18、Key/電子ダイヤル19、LCD20、バス21を有する。   Hereinafter, an imaging apparatus such as a digital video camera will be described as an application example of the image processing apparatus of the present embodiment. FIG. 1 is a diagram illustrating a schematic configuration of an imaging apparatus 1 according to the present embodiment. The imaging device 1 includes an imaging circuit 11, a correction processing circuit 12, a display image generation circuit 13, a 3G-SDI controller 14, a 3G-SDI terminal 15, a memory card controller 16, a CPU 17, a memory 18, a key / electronic dial 19, an LCD 20, A bus 21 is provided.

表示画像生成回路13は、取得手段と生成手段の一例である第1の表示画像生成回路131と、縮小画生成手段の一例である第2の表示画像生成回路132とを有する。第1の表示画像生成回路131は、図2に示すように、画素補間処理回路131aと平均化処理回路131bを有する。第2の表示画像生成回路は、図3に示すように、RAW縮小処理回路132aと現像処理回路132bを有する。   The display image generation circuit 13 includes an acquisition unit and a first display image generation circuit 131 that is an example of a generation unit, and a second display image generation circuit 132 that is an example of a reduced image generation unit. As shown in FIG. 2, the first display image generation circuit 131 includes a pixel interpolation processing circuit 131a and an averaging processing circuit 131b. As shown in FIG. 3, the second display image generation circuit includes a RAW reduction processing circuit 132a and a development processing circuit 132b.

モニタ22は、接続手段の一例である3G−SDI端子15を介して撮像装置1と接続される。なお、3G−SDIは、SMPTE424とSMPTE425で規定されているインターフェイス規格である。また、モニタ22と撮像装置1との間の接続インターフェイス規格は、いわゆるHDMI(登録商標)、DVI、DisplayPortなどの規格でもよく、3G−SDIに限らない。また、メモリカード23は、撮像装置1のメモリカードスロットに挿入され、メモリカードコントローラ16を介して撮像装置1と接続される。なお、メモリカードは、一例としてCFastカード(CFastは国際登録商標)等を挙げることができる。   The monitor 22 is connected to the imaging device 1 via a 3G-SDI terminal 15 which is an example of a connection unit. Note that 3G-SDI is an interface standard defined by SMPTE 424 and SMPTE 425. In addition, the connection interface standard between the monitor 22 and the imaging apparatus 1 may be a standard such as so-called HDMI (registered trademark), DVI, or DisplayPort, and is not limited to 3G-SDI. The memory card 23 is inserted into the memory card slot of the imaging device 1 and connected to the imaging device 1 via the memory card controller 16. An example of the memory card is a CFast card (CFast is an international registered trademark).

撮像回路11は、撮像面上に複数の受光素子が配列された撮像センサを有する。撮像センサは、図示しない結像光学系(レンズ等)により撮像面上に結像された被写体像を受光して光電変換し、その光電変換によるアナログ撮像信号を出力する。撮像回路11は、撮像センサから出力されたアナログ撮像信号をデジタル撮像データへと変換することで、撮像画像であるRAW画像のデータを生成する。撮像センサは、例えばCMOSにより構成される単板撮像センサであり、当該単板撮像センサの撮像面上には例えばいわゆるベイヤ方式のカラーフィルタが配されている。   The imaging circuit 11 has an imaging sensor in which a plurality of light receiving elements are arranged on the imaging surface. The imaging sensor receives a subject image formed on an imaging surface by an imaging optical system (lens or the like) (not shown), performs photoelectric conversion, and outputs an analog imaging signal by the photoelectric conversion. The imaging circuit 11 converts the analog imaging signal output from the imaging sensor into digital imaging data, thereby generating RAW image data that is a captured image. The image sensor is a single-plate image sensor composed of, for example, a CMOS, and a so-called Bayer type color filter is disposed on the image pickup surface of the single-plate image sensor.

ベイヤ方式のカラーフィルタは、赤(R)と緑(GのGrとGb)と青(B)の各色成分用の色フィルタが、例えば図4(a)に示すようなパターンで配列されて構成されている。なお、図4(a)はカラーフィルタの一部分のみを示している。ベイヤ方式の場合、図5に示すように、RAW画像のデータ201は、Rチャンネル、Grチャンネル,Gbチャンネル,Bチャンネルの各色成分のデータからなる。これらRチャンネル、Grチャンネル,Gbチャンネル,Bチャンネルの各色データは、RAW画像の各画素の色を決めるためのデータである。   The Bayer color filter is configured by arranging color filters for red (R), green (G Gr and Gb), and blue (B) color components in a pattern as shown in FIG. 4A, for example. Has been. FIG. 4A shows only a part of the color filter. In the case of the Bayer method, as shown in FIG. 5, the RAW image data 201 includes data of each color component of the R channel, the Gr channel, the Gb channel, and the B channel. Each color data of the R channel, the Gr channel, the Gb channel, and the B channel is data for determining the color of each pixel of the RAW image.

なお、撮像センサは、いわゆる三板式の撮像センサや、各層で異なる色の光を受光する多層センサであってもよい。三板式の撮像センサの場合、例えばダイクロイックプリズム等により入射光がR,G,Bの各色成分に分光されて、各色成分に対応して配された各撮像センサにより被写体像が受光される。多層センサの場合は、各層でそれぞれ異なる色成分の光を受光する。前述した単板撮像センサ、三板式撮像センサ、多層センサの何れの場合でも、撮像画像を構成する各画素の色を決めるために複数の色成分値が取得されることになる。   The imaging sensor may be a so-called three-plate imaging sensor or a multilayer sensor that receives light of different colors in each layer. In the case of a three-plate image sensor, for example, incident light is split into R, G, and B color components by a dichroic prism or the like, and a subject image is received by each image sensor arranged corresponding to each color component. In the case of a multilayer sensor, each layer receives light of different color components. In any of the above-described single-plate image sensor, three-plate image sensor, and multilayer sensor, a plurality of color component values are acquired in order to determine the color of each pixel constituting the captured image.

補正処理回路12は、撮像回路11で生成されたRAW画像データに対し、欠陥画素補正、黒レベル補正などの補正処理を行う。補正処理回路12で補正処理がなされたRAW画像データは、メモリ18に一時的に格納される。   The correction processing circuit 12 performs correction processing such as defective pixel correction and black level correction on the RAW image data generated by the imaging circuit 11. The RAW image data that has been corrected by the correction processing circuit 12 is temporarily stored in the memory 18.

表示画像生成回路13は、メモリ18に格納されたRAW画像を構成する各画素の各々の色を決めるための複数の色成分値のうち、当該画素の色を決める色成分値の数より少ない一色以上の特定の色成分値を用いて、モニタ22へ出力する表示用画像を生成する。また、表示画像生成回路13は、メモリ18に格納されたRAW画像を縮小した縮小画像を構成する各画素の各々の色を決めるための複数の色成分値の全ての色成分値を用いて、モニタ22へ出力する縮小表示用画像を生成することも可能となされている。   The display image generation circuit 13 is one color less than the number of color component values that determine the color of the pixel among a plurality of color component values for determining the color of each pixel constituting the RAW image stored in the memory 18. A display image to be output to the monitor 22 is generated using the specific color component values described above. Further, the display image generation circuit 13 uses all the color component values of the plurality of color component values for determining the color of each pixel constituting the reduced image obtained by reducing the RAW image stored in the memory 18, It is also possible to generate a reduced display image to be output to the monitor 22.

具体的には、表示画像生成回路13の第1の表示画像生成回路131は、RAW画像を構成する各画素の各々の色を決めるための複数の色成分値のうち、当該画素の色を決める色成分値の数より少ない一色以上の特定の色成分値のみをRAW画像から取得する。また、第1の表示画像生成回路131は、RAW画像から取得された特定の色成分値のみを用いて、RAW画像を構成する各画素に各々対応した、表示用画像の各画素値を生成する。言い換えると、第1の表示画像生成回路131は、RAW画像の各画素の色を決めるための複数の色成分値のうちの特定の色成分値のみを用いて、RAW画像の解像度と同じ解像度の表示用画像を生成する。なお、第1の表示画像生成回路131は、RAW画像に対して有効画素領域を設定し、その有効画素領域に対して表示用画像の生成を行ってもよい。   Specifically, the first display image generation circuit 131 of the display image generation circuit 13 determines the color of the pixel among a plurality of color component values for determining the color of each pixel constituting the RAW image. Only specific color component values of one or more colors smaller than the number of color component values are acquired from the RAW image. Further, the first display image generation circuit 131 generates each pixel value of the display image corresponding to each pixel constituting the RAW image using only the specific color component value acquired from the RAW image. . In other words, the first display image generation circuit 131 uses only a specific color component value among a plurality of color component values for determining the color of each pixel of the RAW image, and has the same resolution as that of the RAW image. A display image is generated. The first display image generation circuit 131 may set an effective pixel area for the RAW image and generate a display image for the effective pixel area.

一方、表示画像生成回路13の第2の表示画像生成回路132は、メモリ18に格納されたRAW画像を縮小した縮小画像を生成する。また、第2の表示画像生成回路132は、その縮小画像を構成している各画素の各々の色を決めるための複数の色成分値の全ての色成分値を用いて、縮小画像を構成する各画素に対応した、縮小表示用画像の各画素値を生成する。言い換えると、第2の表示画像生成回路132は、縮小画像を構成する各画素の色を決めるための複数の色成分値の全ての色成分値を用いて、RAW画像の解像度よりも低解像度の縮小表示用画像を生成する。なお、第2の表示画像生成回路132は、RAW画像に対して有効画素領域を設定し、その有効画素領域に対して縮小表示用画像の生成を行ってもよい。   On the other hand, the second display image generation circuit 132 of the display image generation circuit 13 generates a reduced image obtained by reducing the RAW image stored in the memory 18. Further, the second display image generation circuit 132 forms a reduced image using all the color component values of a plurality of color component values for determining each color of each pixel constituting the reduced image. Each pixel value of the reduced display image corresponding to each pixel is generated. In other words, the second display image generation circuit 132 uses all the color component values of the plurality of color component values for determining the color of each pixel constituting the reduced image, and has a resolution lower than the resolution of the RAW image. A reduced display image is generated. Note that the second display image generation circuit 132 may set an effective pixel area for the RAW image and generate a reduced display image for the effective pixel area.

以下、第1の表示画像生成回路131について詳細に説明する。本実施形態では、特定の色成分値は、R,G(GrとGb),Bの色成分値のうちの、例えばG(GrとGb)の色成分値とする。なお、以下の説明では、色成分値を色データと表記する。   Hereinafter, the first display image generation circuit 131 will be described in detail. In the present embodiment, the specific color component value is, for example, the G (Gr and Gb) color component value among the R, G (Gr and Gb) and B color component values. In the following description, the color component value is expressed as color data.

第1の表示画像生成回路131の画素補間処理回路131aは、メモリ18に格納されているRAW画像の各画素におけるR,G(GrとGb),Bの各色データのうち、GrとGbの各色データのみを取得する。そして、画素補間処理回路131aは、それらGrとGbの各色データそれぞれに対して、画素補間(いわゆるデモザイク処理)を行う。   The pixel interpolation processing circuit 131a of the first display image generation circuit 131 includes Gr and Gb colors among the R, G (Gr and Gb) and B color data in each pixel of the RAW image stored in the memory 18. Get data only. The pixel interpolation processing circuit 131a performs pixel interpolation (so-called demosaic processing) for each of the color data Gr and Gb.

ここで、単板撮像センサの撮像面上に配されるベイヤ方式のカラーフィルタは、前述の図4(a)に示したようにR,G(GrとGb),Bの三原色のフィルタが互い違いに配列されている。そして、いわゆるドット・バイ・ドット方式では、RAW画像データの一画素につき一色の情報しか有しないため、各色のRAW画像(以下、色プレーンとする。)それぞれにおいて欠落画素が生じることになる。すなわち、メモリ18から読み出されて第1の表示画像生成回路131に供給されるGrとGbの各色プレーンは、例えば図4(b)と図4(d)に示すようにそれぞれ欠落画素601が存在しているものとなる。なお、図4(b)はGrの色プレーンを例示し、図4(d)はGbの色プレーンを例示している。   Here, as shown in FIG. 4A, the Bayer color filters arranged on the imaging surface of the single-plate imaging sensor have three primary color filters of R, G (Gr and Gb), and B alternately. Is arranged. The so-called dot-by-dot method has only one color information for each pixel of the RAW image data, and therefore a missing pixel occurs in each color RAW image (hereinafter referred to as a color plane). In other words, the Gr and Gb color planes read from the memory 18 and supplied to the first display image generation circuit 131 include missing pixels 601 as shown in FIGS. 4B and 4D, for example. It will exist. FIG. 4B illustrates a Gr color plane, and FIG. 4D illustrates a Gb color plane.

そこで、画素補間処理回路131aは、欠落画素601の近傍の画素値から欠落画素の値を推定して、その推定画素値により欠落画素601の画素値を補間するデモザイク処理を行う。なお、例えば、RAW画像と同じ解像度の表示用画像を得る必要がない場合、或いは、三板式の撮像センサや多層センサが用いられることで欠落画素が生じない場合には、画素補間処理回路131aは省かれてもよい。   Therefore, the pixel interpolation processing circuit 131a performs a demosaic process of estimating the value of the missing pixel from the pixel values near the missing pixel 601 and interpolating the pixel value of the missing pixel 601 based on the estimated pixel value. For example, when it is not necessary to obtain a display image having the same resolution as the RAW image, or when a missing pixel is not generated by using a three-plate image sensor or a multilayer sensor, the pixel interpolation processing circuit 131a is May be omitted.

第1の表示画像生成回路131の平均化処理回路131bは、画素補間処理回路131aで画素補間がなされたGrとGbの各色プレーンの、各々対応した座標の画素毎に平均値を算出する平均化処理を行う。そして、平均化処理回路131bは、GrとGbの各色プレーンの各画素から算出した各平均画素値を輝度の画素値として設定する。また、平均化処理回路131bは、YUV空間で表現される表示用画像を構成するための各画素におけるU,Vの色差値については、予め設定した所定の値とする。本実施形態では、所定の値としてゼロ値(0)を用い、U,Vの色差値については全ての画素についてゼロ値(0)とするゼロ詰め処理を行う。   The averaging processing circuit 131b of the first display image generation circuit 131 calculates an average value for each pixel of the corresponding coordinates of each color plane of Gr and Gb subjected to pixel interpolation by the pixel interpolation processing circuit 131a. Process. Then, the averaging processing circuit 131b sets each average pixel value calculated from each pixel of each color plane of Gr and Gb as a luminance pixel value. In addition, the averaging processing circuit 131b sets predetermined color values for the U and V color difference values in each pixel for constituting a display image expressed in the YUV space. In the present embodiment, zero value (0) is used as a predetermined value, and zero padding processing is performed with respect to U and V color difference values to zero values (0) for all pixels.

具体的な例として、座標(0,0)について図4(c)のGr(0,0)と図4(e)のGb(0,0)の色データを挙げて説明する。平均化処理回路131bは、先ず、Gr(0,0)とGb(0,0)の色データの平均値を求め、当該平均値を輝度の画素値Y(0,0)として設定する。また、平均化処理回路131bは、U,Vの色差値についてはゼロ値とする。平均化処理回路131bは、このような輝度の生成処理を各座標の画素値に対して行い、また色差を所定値に設定する処理(ゼロ詰め処理)を行うことで、図4(f)示すような輝度成分のみからなるグレースケールの表示用画像を生成する。これにより、図6に示すように、表示用画像202は、各画素が輝度成分(Y)とゼロ値の色差成分(U,V)とで構成されたYUV色空間のデータ構造を有したものとなる。なお、本実施形態では、U,Vの各画素値は全てゼロ値としたが、ゼロ値以外の予め決めた所定値にしてもよい。   As a specific example, the coordinates (0, 0) will be described with reference to color data of Gr (0, 0) in FIG. 4C and Gb (0, 0) in FIG. The averaging processing circuit 131b first obtains an average value of the color data of Gr (0, 0) and Gb (0, 0), and sets the average value as the luminance pixel value Y (0, 0). In addition, the averaging processing circuit 131b sets zero values for the U and V color difference values. The averaging processing circuit 131b performs such luminance generation processing on the pixel values of the respective coordinates, and performs processing for setting the color difference to a predetermined value (zero padding processing), so that FIG. A grayscale display image consisting only of such luminance components is generated. Thereby, as shown in FIG. 6, the display image 202 has a data structure of a YUV color space in which each pixel is composed of a luminance component (Y) and a zero-value color difference component (U, V). It becomes. In the present embodiment, the pixel values of U and V are all zero values, but may be predetermined values other than zero values.

ここで、輝度画像の生成において、Gr及びGbの色データを用いた理由は、第1に、R,G,Bの三原色のうち、G成分は輝度情報(被写体の構造を表す部分)を多く含むこと、第2に、G成分に対して人間の視覚は高い感度を持つことが挙げられる。なお、前述の説明では、RAW画像データの色データのうち、G成分であるGrとGbの両色データからモニタ22へ出力する表示用画像を生成したが、例えばGrとGbの何れか一方の色データのみから表示用画像を生成してもよい。この場合、平均化処理回路131bは、前述したGrとGbの平均値を算出するような平均化処理については行わない。   Here, in the generation of the luminance image, the reason why the color data of Gr and Gb is used is that, first, among the three primary colors of R, G, and B, the G component has a lot of luminance information (part representing the structure of the subject). Secondly, human vision is highly sensitive to the G component. In the above description, the display image to be output to the monitor 22 is generated from both color data of Gr and Gb, which are G components, out of the color data of the RAW image data. For example, either one of Gr and Gb is generated. A display image may be generated from only the color data. In this case, the averaging processing circuit 131b does not perform the averaging processing for calculating the average value of Gr and Gb described above.

次に、メモリ18に格納されたRAW画像を構成している各画素の色を決めるための複数の色成分値の全てを用いて、RAW画像の解像度よりも低解像度の縮小表示用画像を生成する第2の表示画像生成回路132について以下に説明する。   Next, a reduced display image having a resolution lower than the resolution of the RAW image is generated using all of a plurality of color component values for determining the color of each pixel constituting the RAW image stored in the memory 18. The second display image generation circuit 132 will be described below.

先ず、第2の表示画像生成回路132のRAW縮小処理回路132aは、メモリ18から読み出したRAW画像データのサイズを縮小する。具体的には、RAW縮小処理回路132aは、例えば図7(a)に示すようなRAW画像に対し画素間引きを行うことで、図7(b)に示すようなRAW縮小画像を生成する。なお、RAW画像データから縮小画像を生成するアルゴリズムとしては、一般的な1/N間引き(Nは整数)などの公知の様々なアルゴリズムを用いることができ、ここではそれらアルゴリズムの説明は省略する。   First, the RAW reduction processing circuit 132 a of the second display image generation circuit 132 reduces the size of the RAW image data read from the memory 18. Specifically, the RAW reduction processing circuit 132a generates a RAW reduced image as shown in FIG. 7B by performing pixel thinning on the RAW image as shown in FIG. 7A, for example. Note that various known algorithms such as general 1 / N thinning (N is an integer) can be used as an algorithm for generating a reduced image from RAW image data, and description of these algorithms is omitted here.

第2の表示画像生成回路132の現像処理回路132bは、RAW縮小処理回路132aから供給されたRAW縮小画像データに対し、画素補間などのデモザイク処理やディベイヤ処理などの現像に係る処理を行う。   The development processing circuit 132b of the second display image generation circuit 132 performs processing related to development such as demosaic processing such as pixel interpolation and debayer processing on the RAW reduced image data supplied from the RAW reduction processing circuit 132a.

ベイヤ方式を例に挙げて具体的に説明すると、現像処理回路132bは、先ず、図7(b)に示したRAW縮小画像データから、図7(c)に示すRの色プレーンと、図7(d)に示すGr,Gbの色プレーンと、図7(e)に示すBの色プレーンを生成する。なお、Gr,Gbの色プレーンについては、Grの色プレーンとGbの色プレーンに分かれていてもよいし、図7(d)に示すように一つの色プレーンに纏められていてもよい。   More specifically, taking the Bayer method as an example, the development processing circuit 132b starts with the R color plane shown in FIG. 7C from the RAW reduced image data shown in FIG. The color planes Gr and Gb shown in (d) and the color plane B shown in FIG. 7E are generated. The Gr and Gb color planes may be divided into a Gr color plane and a Gb color plane, or may be combined into one color plane as shown in FIG.

また、現像処理回路132bは、図7(c)〜図7(e)に示した各色プレーンの欠落画素を、前述の画素補間処理回路131aと同様のデモザイク処理により補間する。そして、現像処理回路132bは、ディベイヤ処理により、図7(f)、図7(g)、図7(h)のようなR,G,Bの3色各々について一枚の画像を作り出す。その後、現像処理回路132bは、R,G,Bのデータから、Y,U,Vからなる表示用画像のデータを生成する。すなわち、現像処理回路132bは、RAW縮小画像データに対して現像処理を施すことにより、当該RAW縮小画像データをモニタ22へ出力するために適したデータ形式へと変換する。なお、現像処理回路132bは、ホワイトバランス補正、ノイズ低減、ガンマ変換、色調整などの画質調整処理を含んでもよい。   Further, the development processing circuit 132b interpolates the missing pixels of each color plane shown in FIGS. 7C to 7E by the demosaic process similar to the pixel interpolation processing circuit 131a described above. Then, the development processing circuit 132b creates one image for each of the three colors R, G, and B as shown in FIGS. 7F, 7G, and 7H by debayer processing. Thereafter, the development processing circuit 132b generates display image data including Y, U, and V from the R, G, and B data. That is, the development processing circuit 132 b performs development processing on the RAW reduced image data, thereby converting the RAW reduced image data into a data format suitable for output to the monitor 22. The development processing circuit 132b may include image quality adjustment processing such as white balance correction, noise reduction, gamma conversion, and color adjustment.

CPU17は、Key/電子ダイヤル19を介したユーザからの入力操作などに応じて、プログラムをメモリ18に展開し、撮像装置1全体の制御を行う。メモリ18は、補正処理回路12で生成されたRAW画像データ、表示画像生成回路13で生成された表示用画像又は縮小表示用画像のデータ、CPU17で実行されるプログラムなどを格納する。   The CPU 17 develops a program in the memory 18 in accordance with an input operation from the user via the key / electronic dial 19 and controls the entire imaging apparatus 1. The memory 18 stores RAW image data generated by the correction processing circuit 12, data of a display image or reduced display image generated by the display image generation circuit 13, a program executed by the CPU 17, and the like.

Key/電子ダイヤル19は、ユーザ入力手段の一例であり、ユーザの操作に応じた操作入力信号をCPU17へ送る。LCD20は、本実施形態の撮像装置1の動作モードやKey/電子ダイヤル19を用いた選択操作の内容等を、ユーザが視覚的に確認するための表示装置である。なお、撮像装置1は、EVF(電子ビューファインダ)など、その他の表示装置を備えていてもよい。バス21は、CPU命令やデータなどの伝送路として機能する。   The Key / electronic dial 19 is an example of a user input unit, and sends an operation input signal corresponding to a user operation to the CPU 17. The LCD 20 is a display device for the user to visually confirm the operation mode of the imaging apparatus 1 of the present embodiment, the contents of the selection operation using the key / electronic dial 19, and the like. Note that the imaging device 1 may include other display devices such as an EVF (electronic viewfinder). The bus 21 functions as a transmission path for CPU instructions and data.

ここで、前述したように、第1の表示画像生成回路131による表示用画像は、RAW画像のRとG(GrとGb)とBの各色成分のうち、G(GrとGb)の色データを輝度として設定し、色差はゼロ詰めとなされることにより生成されている。このため、RAW画像が例えば4K映像などの動画の高解像度画像であったとしても、撮像装置1が表示用画像を生成する際の処理負担はさほど大きくない。また、表示用画像の解像度はRAW画像の解像度と同じであるため、RAW画像が有している解像感が損なわれることはない。   Here, as described above, the display image by the first display image generation circuit 131 is color data of G (Gr and Gb) among the R, G (Gr and Gb), and B color components of the RAW image. Is set as the luminance, and the color difference is generated by being zero-padded. For this reason, even if the RAW image is a high-resolution image of a moving image such as 4K video, for example, the processing load when the imaging device 1 generates the display image is not so large. Further, since the resolution of the display image is the same as the resolution of the RAW image, the resolution of the RAW image is not impaired.

したがって、例えば4K等の高解像度撮影を行いつつ、RAW画像から表示用画像を生成して4K等の高精細表示が可能なモニタ22に表示させた場合、ユーザは、フォーカスの合焦や映像のディテール等をリアルタイムに確認しながら撮影を行うことができる。但し、表示用画像は、G(GrとGb)の色データを用いて生成された輝度画像のみからなるグレースケール画像であるため、モニタ22上にカラー画像として表示することはできない。   Therefore, for example, when a display image is generated from a RAW image and displayed on the monitor 22 capable of high-definition display such as 4K while performing high-resolution shooting such as 4K, the user can focus or Shooting can be performed while checking details in real time. However, since the display image is a grayscale image composed only of a luminance image generated using G (Gr and Gb) color data, it cannot be displayed on the monitor 22 as a color image.

一方で、前述した縮小表示用画像は、RAW画像に対して間引き等の縮小処理が施された画像であるため、撮像装置1が縮小表示用画像を生成する際の処理負担はさほど大きくないが、RAW画像よりも解像度が低い画像になっている。但し、縮小表示用画像は、RAW画像の全ての色データを用いて生成されたY,U,V画像であるため、モニタ22上にはカラー画像が表示される。   On the other hand, since the above-described reduced display image is an image obtained by performing reduction processing such as thinning on the RAW image, the processing load when the imaging apparatus 1 generates the reduced display image is not so large. The resolution is lower than that of the RAW image. However, since the reduced display image is a Y, U, V image generated using all the color data of the RAW image, the color image is displayed on the monitor 22.

したがって、RAW画像から縮小表示用画像を生成して表示させた場合、ユーザは、例えば映像の色を確認することができる。また、この場合、4K等の高精細表示に対応していないモニタ22の使用が可能となる。   Therefore, when the reduced display image is generated from the RAW image and displayed, the user can check the color of the video, for example. In this case, it is possible to use the monitor 22 that does not support high-definition display such as 4K.

このようなことから、本実施形態の撮像装置1は、表示用画像と縮小表示用画像の生成処理を切り替え可能となされている。具体的には、撮像装置1のCPU17は、表示画像生成回路13に対し、第1の表示画像生成回路131による表示用画像の生成処理と、第2の表示画像生成回路132による縮小表示用画像の生成処理の何れを行わせるかを切り替え制御可能である。CPU17は、このような切り替え制御を、Key/電子ダイヤル19からのユーザによる操作入力信号に基づいて行うことができ、また、撮像装置1に接続されるモニタ22の解像度に基づいて自動的に行うことができる。   For this reason, the imaging apparatus 1 according to the present embodiment can switch between the display image generation process and the reduced display image generation process. Specifically, the CPU 17 of the imaging device 1 causes the display image generation circuit 13 to generate a display image by the first display image generation circuit 131 and a reduced display image by the second display image generation circuit 132. It is possible to switch which of the generation processes is performed. The CPU 17 can perform such switching control based on an operation input signal from the user from the key / electronic dial 19 and automatically based on the resolution of the monitor 22 connected to the imaging apparatus 1. be able to.

Key/電子ダイヤル19からのユーザによる操作入力信号に基づく切り替え制御の場合、CPU17は、例えばLCD20の画面上に、表示画像生成モードの選択画面を表示させる。当該表示画像生成モードの選択画面は、第1の表示画像生成回路131による表示用画像の生成モードと、第2の表示画像生成回路132による縮小表示用画像の生成モードの何れかを選択可能であることを、ユーザに示すための画面となされている。CPU17は、ユーザがLCD20にて選択項目を視覚的に確認しつつKey/電子ダイヤル19を操作して何れかの表示用画像の何れかを選択した場合、当該ユーザ選択に応じた表示用画像生成処理を行わせるように表示画像生成回路13を制御する。   In the case of switching control based on an operation input signal by the user from the key / electronic dial 19, the CPU 17 displays a display image generation mode selection screen on the screen of the LCD 20, for example. The display image generation mode selection screen can select either a display image generation mode by the first display image generation circuit 131 or a reduced display image generation mode by the second display image generation circuit 132. It is a screen for showing a certain thing to the user. When the user operates the key / electronic dial 19 while visually confirming the selection items on the LCD 20 and selects any one of the display images, the CPU 17 generates a display image according to the user selection. The display image generation circuit 13 is controlled to perform the processing.

モニタ22の解像度に基づく切り替え制御の場合、CPU17は、HDMI、DVI、DisplayPortなどで使用される双方向通信を用い、モニタ22の推奨解像度を指定したEDIDなどのモニタ性能情報を取得する。そして、CPU17は、当該モニタ性能情報に基づいて、表示画像生成回路13における表示用画像生成処理を制御する。すなわち、CPU17は、当該モニタ性能情報により、モニタ22が4K等の高精細度表示に対応していると判断した場合には、前述の第1の表示画像生成回路131による表示画像生成処理を行わせる。一方、モニタ性能情報により、モニタ22が低解像度にしか対応できないと判断した場合には、前述の第2の表示画像生成回路132による縮小表示画像生成処理を行わせる。なお、EDIDとは、Extended Display Identification Dataを指す。その他にも、CPU17は、外部コントローラなどからの入力操作に基づいて、これら表示用画像の切り替え制御を行うこともできる。   In the case of switching control based on the resolution of the monitor 22, the CPU 17 acquires monitor performance information such as EDID that specifies the recommended resolution of the monitor 22 using bidirectional communication used in HDMI, DVI, DisplayPort, and the like. Then, the CPU 17 controls display image generation processing in the display image generation circuit 13 based on the monitor performance information. That is, when the CPU 17 determines that the monitor 22 supports high-definition display such as 4K based on the monitor performance information, the CPU 17 performs display image generation processing by the first display image generation circuit 131 described above. Make it. On the other hand, if it is determined from the monitor performance information that the monitor 22 can only support a low resolution, the reduced display image generation processing by the second display image generation circuit 132 is performed. In addition, EDID refers to Extended Display Identification Data. In addition, the CPU 17 can also control switching of these display images based on an input operation from an external controller or the like.

次に、撮像開始からRAW画像データがメモリカード23へ記憶されるまでに撮像装置1にて実行される処理の流れを、図8のフローチャートを参照しながら説明する。図8において、先ずステップS101の処理として、撮像装置1のCPU17は、撮影開始の判定処理を行う。例えば、ユーザによる撮影開始操作に応じた操作入力信号をKey/電子ダイヤル19から受け取ると、CPU17は、撮像命令を撮像回路11へ送信する。ステップS101の後、撮像装置1における処理は、撮像回路11によるステップS102の処理へ遷移する。   Next, the flow of processing executed by the imaging apparatus 1 from the start of imaging until RAW image data is stored in the memory card 23 will be described with reference to the flowchart of FIG. In FIG. 8, first, as processing of step S <b> 101, the CPU 17 of the imaging apparatus 1 performs shooting start determination processing. For example, when an operation input signal corresponding to a user's shooting start operation is received from the Key / electronic dial 19, the CPU 17 transmits an imaging command to the imaging circuit 11. After step S <b> 101, the process in the imaging apparatus 1 transitions to the process in step S <b> 102 performed by the imaging circuit 11.

CPU17からの撮像命令を受信した撮像回路11は、ステップS102の処理として、撮像センサによる撮像を行わせる。そして、撮像回路11は、撮像センサでの撮像により得られた撮像信号に対して、AFE(Analog Front End)の処理を施してRAW画像データを生成する。このRAW画像データは、補正処理回路12へ送られる。ステップS102の後、撮像装置1における処理は、補正処理回路12によるステップS103の処理へ遷移する。   The imaging circuit 11 that has received the imaging command from the CPU 17 causes the imaging sensor to perform imaging as processing in step S102. Then, the imaging circuit 11 performs AFE (Analog Front End) processing on the imaging signal obtained by imaging with the imaging sensor to generate RAW image data. This raw image data is sent to the correction processing circuit 12. After step S102, the process in the imaging apparatus 1 transitions to the process in step S103 by the correction processing circuit 12.

補正処理回路12は、ステップS103の処理として、撮像回路11で生成されたRAW画像データに対し、前述した欠陥画素補正や黒レベル補正などの補正処理を行う。ステップS103の後、撮像装置1の処理は、CPU17によるステップS104の処理へ遷移する。   The correction processing circuit 12 performs correction processing such as the defective pixel correction and the black level correction described above on the RAW image data generated by the imaging circuit 11 as the processing in step S103. After step S103, the process of the imaging apparatus 1 transitions to the process of step S104 by the CPU 17.

CPU17は、ステップS104の処理として、補正処理回路12に格納命令を送信する。この格納命令を受信した補正処理回路12は、前述の補正処理後のRAW画像データを、CPU17より指示されたメモリ18のアドレスへ格納する。ステップS104の後、CPU17は、処理をステップS105へ進める。   The CPU 17 transmits a storage command to the correction processing circuit 12 as the process of step S104. The correction processing circuit 12 that has received this storage command stores the RAW image data after the above correction processing at the address of the memory 18 instructed by the CPU 17. After step S104, the CPU 17 advances the process to step S105.

ステップS105では、CPU17は、メモリカードコントローラ16へ記憶命令を送信する。記憶命令を受信したメモリカードコントローラ16は、メモリ18から、CPU17より指示されたアドレスに格納されているRAW画像データを読み出す。そして、メモリカードコントローラ16は、メモリ18から読み出させたRAW画像データをメモリカード23に記憶させる。   In step S <b> 105, the CPU 17 transmits a storage command to the memory card controller 16. The memory card controller 16 that has received the storage command reads the RAW image data stored at the address instructed by the CPU 17 from the memory 18. Then, the memory card controller 16 stores the RAW image data read from the memory 18 in the memory card 23.

撮像装置1は、ステップS101からステップS105までの処理をフレーム毎に順次繰り返すことにより、連続する複数フレームからなる映像のRAW画像データを、メモリカード23へ記憶させることができる。   The imaging apparatus 1 can store the RAW image data of video composed of a plurality of continuous frames in the memory card 23 by sequentially repeating the processing from step S101 to step S105 for each frame.

次に、撮像装置1において、RAW画像データから前述の表示用画像又は縮小表示用画像を生成する処理の流れを図9のフローチャートを参照して説明する。図9のフローチャートにおいて、CPU17は、先ずステップS201の処理として、表示画像生成モードとして、表示用画像の生成モードと縮小表示用画像の生成モードの何れを用いるかを判定する。例えば、ユーザがKey/電子ダイヤル19を操作して何れかの生成モードを選択した場合、CPU17は、ユーザ選択による生成モードに応じて処理を分岐させる。また、モニタ22の性能に応じて表示画像生成モードを自動選択する場合、CPU17は、モニタ性能情報に基づいて表示用画像の生成モードと縮小表示用画像の生成モードの何れを用いるかを判定して、その判定結果に応じて処理を分岐させる。   Next, a flow of processing for generating the above-described display image or reduced display image from the RAW image data in the imaging apparatus 1 will be described with reference to the flowchart of FIG. In the flowchart of FIG. 9, the CPU 17 first determines in step S201 whether to use a display image generation mode or a reduced display image generation mode as the display image generation mode. For example, when the user operates the key / electronic dial 19 to select any generation mode, the CPU 17 branches the process according to the generation mode selected by the user. When the display image generation mode is automatically selected according to the performance of the monitor 22, the CPU 17 determines whether to use the display image generation mode or the reduced display image generation mode based on the monitor performance information. Then, the process is branched according to the determination result.

そして、ステップS201において、表示用画像の生成モードを用いると判定した場合、CPU17は、第1の表示画像生成回路131へ表示画像生成命令を送信する。この場合、撮像装置1の処理は、ステップS201から、第1の表示画像生成回路131によるステップS202の処理へ遷移する。一方、ステップS201において、縮小表示用画像の生成モードを用いると判定した場合、CPU17は、第2の表示画像生成回路132に表示画像生成命令を送信する。この場合、撮像装置1の処理は、ステップS201から、第2の表示画像生成回路132によるステップS205の処理へ遷移する。   If it is determined in step S201 that the display image generation mode is to be used, the CPU 17 transmits a display image generation command to the first display image generation circuit 131. In this case, the process of the imaging apparatus 1 transitions from step S201 to the process of step S202 by the first display image generation circuit 131. On the other hand, if it is determined in step S201 that the reduced display image generation mode is to be used, the CPU 17 transmits a display image generation command to the second display image generation circuit 132. In this case, the process of the imaging apparatus 1 transitions from step S201 to the process of step S205 by the second display image generation circuit 132.

ステップS202では、第1の表示画像生成回路131は、CPU17より指示されたメモリ18のアドレスに格納されているRAW画像データのGrチャンネル及びGbチャンネルの色データを取得する。ステップS202の後、撮像装置1の処理は、第1の表示画像生成回路131の画素補間処理回路131aによるステップS203の処理へ遷移する。   In step S202, the first display image generation circuit 131 acquires the color data of the Gr channel and Gb channel of the RAW image data stored at the address of the memory 18 instructed by the CPU 17. After step S202, the processing of the imaging device 1 transitions to the processing of step S203 by the pixel interpolation processing circuit 131a of the first display image generation circuit 131.

ステップS203において、画素補間処理回路131aは、Grチャンネル及びGbチャンネルの各色プレーンに対して前述した画素補間を施す。ステップS202の後、撮像装置1の処理は、第1の表示画像生成回路131の平均化処理回路131bによるステップS204の処理へ遷移する。   In step S203, the pixel interpolation processing circuit 131a performs the above-described pixel interpolation on each color plane of the Gr channel and the Gb channel. After step S202, the processing of the imaging device 1 transitions to the processing of step S204 by the averaging processing circuit 131b of the first display image generation circuit 131.

ステップS204において、平均化処理回路131bは、画素補間処理回路131aで生成されたGrとGbの色プレーンに対し、前述のように画素各々の平均値を算出してその平均値を輝度Yとして設定する。そして、平均化処理回路131bは、U,Vの色差の画素値についてはすべてゼロ(0)詰めとした、輝度画像のみからなるグレースケール画像を表示用画像として生成する。また、ステップS204において、CPU17は、第1の表示画像生成回路131へ格納命令を送信する。格納命令を受信した第1の表示画像生成回路131は、CPU17より指示されたメモリ18のアドレスへ、表示用画像のデータを格納する。ステップS204の後、撮像装置1の処理は、CPU17によるステップS208の処理へ遷移する。   In step S204, the averaging processing circuit 131b calculates the average value of each pixel as described above for the Gr and Gb color planes generated by the pixel interpolation processing circuit 131a, and sets the average value as the luminance Y. To do. Then, the averaging processing circuit 131b generates, as a display image, a grayscale image composed of only a luminance image in which the pixel values of the U and V color differences are all zero-padded. In step S <b> 204, the CPU 17 transmits a storage command to the first display image generation circuit 131. The first display image generation circuit 131 that has received the storage command stores the display image data at the address of the memory 18 instructed by the CPU 17. After step S204, the process of the imaging device 1 transitions to the process of step S208 by the CPU 17.

また、ステップS205では、第2の表示画像生成回路132は、CPU17より指示されたメモリ18のアドレスに格納されたRAW画像データのR,Gr,Gb,Bのすべての色プレーンを取得する。ステップS205の後、撮像装置1の処理は、第2の表示画像生成回路132のRAW縮小処理回路132aによるステップS206の処理へ遷移する。   In step S205, the second display image generation circuit 132 acquires all the color planes R, Gr, Gb, and B of the RAW image data stored at the address of the memory 18 instructed by the CPU 17. After step S205, the processing of the imaging device 1 transitions to the processing of step S206 by the RAW reduction processing circuit 132a of the second display image generation circuit 132.

ステップS206において、RAW縮小処理回路132aは、R,G(GrとGb),Bの色プレーンそれぞれに対し、画素間引きなどの縮小処理を施して、画像サイズを縮小する。ステップS206の後、撮像装置1の処理は、第2の表示画像生成回路132の現像処理回路132bによるステップS207の処理に遷移する。   In step S206, the RAW reduction processing circuit 132a performs reduction processing such as pixel thinning on the R, G (Gr and Gb), and B color planes to reduce the image size. After step S206, the processing of the imaging device 1 transitions to the processing of step S207 by the development processing circuit 132b of the second display image generation circuit 132.

ステップS207において、現像処理回路132bは、RAW縮小処理回路132aで生成された色プレーンに対し、デモザイク処理とディベイヤ処理を施してR,G,Bの各々からなる各画像を生成する。さらに現像処理回路132bは、R,G,Bの各画像データより、Y,U,Vからなる表示用画像のデータを生成する。また、ステップS207において、CPU17は、第2の表示画像生成回路132へ格納命令を送信する。格納命令を受信した第2の表示画像生成回路132は、CPU17より指示されたメモリ18のアドレスへ、縮小表示用画像のデータを格納する。ステップS207の後、撮像装置1の処理は、CPU17によるステップS208の処理に遷移する。   In step S207, the development processing circuit 132b performs demosaic processing and debayer processing on the color plane generated by the RAW reduction processing circuit 132a to generate each image composed of R, G, and B. Further, the development processing circuit 132b generates display image data composed of Y, U, and V from the R, G, and B image data. In step S207, the CPU 17 transmits a storage command to the second display image generation circuit 132. The second display image generation circuit 132 that has received the storage command stores the reduced display image data at the address of the memory 18 instructed by the CPU 17. After step S207, the process of the imaging apparatus 1 transitions to the process of step S208 by the CPU 17.

ステップS208において、CPU17は、3G−SDIコントローラ14へ表示命令を送信する。表示命令を受信した3G−SDIコントローラ14は、CPU17より指示された、メモリ18のアドレスに格納された表示用の画像のデータを、3G−SDI端子15を介してモニタ22へ出力する。これにより、モニタ22には、表示用画像、又は、縮小表示用画像が表示されることになる。   In step S <b> 208, the CPU 17 transmits a display command to the 3G-SDI controller 14. The 3G-SDI controller 14 that has received the display command outputs display image data stored in the address of the memory 18 instructed by the CPU 17 to the monitor 22 via the 3G-SDI terminal 15. As a result, a display image or a reduced display image is displayed on the monitor 22.

以上説明したように、本実施形態の撮像装置1によれば、第1の表示画像生成回路131によりRAW画像から表示用画像を生成した場合、その生成処理前後で解像度は変化しないため、RAW画像の解像感を損ねることのない表示用画像を表示できる。また、RAW画像から表示用画像を生成する処理は、撮像装置1に処理負担を掛けることなく実現できる。このため、本実施形態によれば、デジタルビデオカメラなどの撮像装置1において、4KのRAW画像データの記録媒体への記録と、RAW画像データから動画の表示画像の生成など複数の負荷の大きい処理をリアルタイムに行うことが可能となる。   As described above, according to the imaging apparatus 1 of the present embodiment, when the display image is generated from the RAW image by the first display image generation circuit 131, the resolution does not change before and after the generation process, and thus the RAW image A display image that does not impair the resolution of the image can be displayed. Further, the process of generating the display image from the RAW image can be realized without imposing a processing burden on the imaging apparatus 1. For this reason, according to the present embodiment, in the imaging apparatus 1 such as a digital video camera, a plurality of high-load processes such as recording of 4K RAW image data on a recording medium and generation of a moving image display image from the RAW image data. Can be performed in real time.

すなわち、本実施形態の撮像装置1は、例えば撮影現場において4Kモニタなどを用いてデジタルビデオカメラのフォーカスや映像のディテールを確認する場合に有効である。また、本実施形態によれば、撮像装置1の処理負荷を軽減できるため、例えば周期的に行われるタスクの起動遅れやバス帯域の圧迫などを抑制できる。さらに、本実施形態においては、表示用画像は、G(緑)の色データから生成されているため、例えばいわゆるクロマキー撮影においてグリーンバックの抜け具合の確認に有効である。   In other words, the imaging apparatus 1 of the present embodiment is effective when, for example, the focus of a digital video camera and the details of an image are confirmed using a 4K monitor or the like at a shooting site. Moreover, according to this embodiment, since the processing load of the imaging device 1 can be reduced, it is possible to suppress, for example, a task start delay that is periodically performed and a bus bandwidth compression. Furthermore, in the present embodiment, the display image is generated from G (green) color data, and is thus effective for confirming the degree of missing green background, for example, in so-called chroma key photography.

また、本実施形態の撮像装置1においては、高解像度ではあるがグレースケール画像である表示用画像の生成と、低解像度ではあるがカラー表示が可能な縮小表示用画像の生成とを、切り替え可能となされている。したがって、本実施形態によれば、撮影現場などでRAW画像と同数の画素数を備えたモニタにより映像をチェックしながら撮影を行う場合に、表示用画像を用いることで、処理速度を担保しつつ解像度の高い画像によるチェックが可能となる。一方、RAW画像よりも画素数の少ない一般的なモニタで映像をチェックしながら撮影を行う場合には、縮小表示用画像を用いることで、処理負荷を抑えつつ色のチェックが可能となる。また、本実施形態によれば、表示用画像と縮小表示用画像の生成切り替えは、ユーザによる指示に応じた手動切り替えと、表示用画像データの出力先のモニタの性能に応じた自動切り替えの両方に対応している。   In the imaging apparatus 1 of the present embodiment, it is possible to switch between generation of a display image that is a high-resolution but grayscale image and generation of a reduced display image that can be displayed in color at a low resolution. It has been. Therefore, according to the present embodiment, when shooting is performed while checking a video with a monitor having the same number of pixels as a RAW image at a shooting site or the like, the processing speed is secured by using the display image. Checking with high-resolution images is possible. On the other hand, when shooting is performed while checking a video on a general monitor having a smaller number of pixels than that of a RAW image, the color can be checked while reducing the processing load by using the reduced display image. In addition, according to the present embodiment, the generation switching of the display image and the reduced display image is performed by both manual switching according to an instruction from the user and automatic switching according to the performance of the monitor to which the display image data is output. It corresponds to.

なお、本実施形態における前述した表示画像生成のための画像処理は、各画素の各々の色を決める複数の色成分を表す値を有する撮像画像に対して適用可能である。したがって、本実施形態において表示画像生成の対象となる撮像画像データは、前述したRAW画像データや現像処理後のJPEG画像データ等に限定されるものではない。また、本実施形態は、動画像だけでなく、静止画像についても適用可能である。   Note that the above-described image processing for display image generation in the present embodiment can be applied to a captured image having values representing a plurality of color components that determine the color of each pixel. Therefore, the captured image data that is the target of display image generation in the present embodiment is not limited to the above-described RAW image data, JPEG image data after development processing, or the like. In addition, this embodiment can be applied not only to moving images but also to still images.

本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。   The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.

上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。   The above-described embodiments are merely examples of implementation in carrying out the present invention, and the technical scope of the present invention should not be construed as being limited thereto. That is, the present invention can be implemented in various forms without departing from the technical idea or the main features thereof.

1 撮像装置、11 撮像回路、12 補正処理回路、13 表示画像生成回路、131 第1の表示画像生成回路、131a 画素補間処理回路、131b 平均化処理回路、132 第2の表示画像生成回路、132a RAW縮小処理回路、132b 現像処理回路、14 3G−SDIコントローラ、15 3G−SDI端子、16 メモリカードコントローラ、17 CPU、18 メモリ、19 Key/電子ダイヤル、20 LCD、21 バス、22 モニタ、23 メモリカード   DESCRIPTION OF SYMBOLS 1 Imaging device, 11 Imaging circuit, 12 Correction processing circuit, 13 Display image generation circuit, 131 1st display image generation circuit, 131a Pixel interpolation processing circuit, 131b Averaging processing circuit, 132 2nd display image generation circuit, 132a RAW reduction processing circuit, 132b development processing circuit, 14 3G-SDI controller, 15 3G-SDI terminal, 16 memory card controller, 17 CPU, 18 memory, 19 Key / electronic dial, 20 LCD, 21 bus, 22 monitor, 23 memory card

Claims (9)

撮像画像を構成する各画素の各々の色を決めるための複数の色成分値のうち、前記画素の色を決める色成分値の数より少ない一色以上の特定の色成分値のみを取得する取得手段と、
前記取得された特定の色成分値を、前記撮像画像を構成する各画素に各々対応した輝度の画素値として設定して、表示用画像の各画素値を生成する生成手段と
を有することを特徴とする画像処理装置。
Acquisition means for acquiring only one or more specific color component values less than the number of color component values for determining the color of the pixel among a plurality of color component values for determining the color of each pixel constituting the captured image When,
Generation means for setting the acquired specific color component value as a pixel value of brightness corresponding to each pixel constituting the captured image, and generating each pixel value of the display image. An image processing apparatus.
前記複数の色成分値はR,G,Bの三原色の色成分値であり、
前記取得手段は、前記R,G,Bの各色成分値のうちGの色成分値のみを前記特定の色成分値として取得し、
前記生成手段は、前記取得された前記Gの色成分値を前記輝度の画素値として設定し、色差の画素値については予め設定された所定値とし、前記輝度の画素値と前記所定値に設定された色差の画素値を、前記表示用画像の画素値とすることを特徴とする請求項1に記載の画像処理装置。
The plurality of color component values are R, G, B color component values,
The acquisition means acquires only the G color component value among the R, G, B color component values as the specific color component value,
The generation unit sets the acquired G color component value as the luminance pixel value, sets a color difference pixel value as a predetermined value, and sets the luminance pixel value and the predetermined value as the predetermined value. The image processing apparatus according to claim 1, wherein the pixel value of the color difference obtained is used as a pixel value of the display image.
前記Gの色成分値はGrとGbの二つの色成分値からなり、
前記取得手段は、前記GrとGbの二つの色成分値のみを前記特定の色成分値として取得し、
前記生成手段は、前記取得された前記GrとGbの二つの色成分値の平均値を前記輝度の画素値として設定し、色差の前記所定値についてはゼロ値に設定することを特徴とする請求項2に記載の画像処理装置。
The G color component value is composed of two color component values, Gr and Gb.
The acquisition means acquires only the two color component values Gr and Gb as the specific color component value,
The generation unit sets an average value of the two color component values of the acquired Gr and Gb as the pixel value of the luminance, and sets the predetermined value of the color difference to a zero value. Item 3. The image processing apparatus according to Item 2.
前記撮像画像を縮小した縮小画像を生成し、前記縮小画像を構成する各画素の各々の色を決めるための複数の色成分値の全ての色成分値を用いて、前記縮小画像を構成する各画素に各々対応した縮小表示用画像の各画素値を生成する縮小画生成手段を有することを特徴とする請求項1〜3の何れか1項に記載の画像処理装置。   A reduced image obtained by reducing the captured image is generated, and all the color component values of a plurality of color component values for determining the color of each pixel constituting the reduced image are used to configure each reduced image. The image processing apparatus according to claim 1, further comprising reduced image generation means for generating each pixel value of a reduced display image corresponding to each pixel. 前記取得手段による特定の色成分値の取得及び前記生成手段による前記表示用画像の各画素値の生成と、前記縮小画生成手段による縮小画像の生成及び縮小表示用画像の各画素値の生成との、何れか一方を行わせる制御手段を有することを特徴とする請求項4に記載の画像処理装置。   Acquisition of a specific color component value by the acquisition unit, generation of each pixel value of the display image by the generation unit, generation of a reduced image by the reduced image generation unit, and generation of each pixel value of the reduced display image The image processing apparatus according to claim 4, further comprising a control unit configured to perform any one of the above. 前記表示用画像の生成と前記縮小表示用画像の生成の何れを行わせるかを、ユーザが選択するためのユーザ入力手段を有し、
前記制御手段は、前記ユーザ入力手段を介したユーザからの選択に応じて、前記取得手段による特定の色成分値の取得及び前記生成手段による前記表示用画像の各画素値の生成と、前記縮小画生成手段による縮小画像の生成及び前記縮小表示用画像の各画素値の生成との、何れを行わせるかを決めることを特徴とする請求項5に記載の画像処理装置。
A user input means for a user to select whether to generate the display image or the reduced display image;
In accordance with a selection from the user via the user input unit, the control unit acquires a specific color component value by the acquisition unit, generates each pixel value of the display image by the generation unit, and reduces the reduction The image processing apparatus according to claim 5, wherein the generation of a reduced image by the image generation unit and generation of each pixel value of the reduced display image are determined.
モニタ装置が接続される接続手段を有し、
前記制御手段は、前記接続手段を介して接続されたモニタ装置の解像度に応じて、前記取得手段による特定の色成分値の取得及び前記生成手段による前記表示用画像の各画素値の生成と、前記縮小画生成手段による縮小画像の生成及び前記縮小表示用画像の各画素値の生成との、何れを行わせるかを決めることを特徴とする請求項5に記載の画像処理装置。
Having a connection means to which the monitor device is connected;
The control means, according to the resolution of the monitor device connected via the connection means, acquisition of a specific color component value by the acquisition means and generation of each pixel value of the display image by the generation means, The image processing apparatus according to claim 5, wherein the generation of a reduced image by the reduced image generation unit and generation of each pixel value of the reduced display image are determined.
取得手段が、撮像画像を構成する各画素の各々の色を決めるための複数の色成分値のうち、前記画素の色を決める色成分値の数より少ない一色以上の特定の色成分値のみを取得するステップと、
生成手段が、前記取得された特定の色成分値を、前記撮像画像を構成する各画素に各々対応した輝度の画素値として設定して、表示用画像の各画素値を生成するステップと
を含むことを特徴とする画像処理方法。
Of the plurality of color component values for determining the color of each pixel that constitutes the captured image, the acquisition unit obtains only one or more specific color component values that are smaller than the number of color component values that determine the color of the pixel A step to obtain,
Generating means for setting the acquired specific color component value as a pixel value having a luminance corresponding to each pixel constituting the captured image, and generating each pixel value of the display image. An image processing method.
コンピュータを、請求項1〜7の何れか1項に記載の画像処理装置の各手段として機能させるためのプログラム。   The program for functioning a computer as each means of the image processing apparatus of any one of Claims 1-7.
JP2015097495A 2015-05-12 2015-05-12 Image processing apparatus, image processing method, and program Pending JP2016213747A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015097495A JP2016213747A (en) 2015-05-12 2015-05-12 Image processing apparatus, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015097495A JP2016213747A (en) 2015-05-12 2015-05-12 Image processing apparatus, image processing method, and program

Publications (1)

Publication Number Publication Date
JP2016213747A true JP2016213747A (en) 2016-12-15

Family

ID=57551881

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015097495A Pending JP2016213747A (en) 2015-05-12 2015-05-12 Image processing apparatus, image processing method, and program

Country Status (1)

Country Link
JP (1) JP2016213747A (en)

Similar Documents

Publication Publication Date Title
US10896634B2 (en) Image signal processing apparatus and control method therefor
US8368775B2 (en) Imaging apparatus and live-view image display method thereof
EP2645703A2 (en) Image processing apparatus and method of camera device
JP2007081685A (en) Image signal processor, image signal processing method, and image signal processing system
JPWO2011067850A1 (en) Image processing device
JP2005244980A (en) Apparatus and method for processing image signal
JP2006013828A (en) Imaging apparatus
JP2014096749A (en) Imaging apparatus and image processing method
US8218021B2 (en) Image capture apparatus, method of controlling the same, and program
JP6948810B2 (en) Image processing system
JP2010268520A (en) Vehicle mounted camera apparatus and vehicle
JP2007067714A (en) Image processing circuit, and camera device and vehicle-mounted camera device using same
US9007479B2 (en) Imaging apparatus and evaluation value generation apparatus
US20140133781A1 (en) Image processing device and image processing method
US10762600B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable recording medium
KR20120024448A (en) Imaging apparatus, signal processing method, and program
US20190051270A1 (en) Display processing device and imaging device
US8908060B2 (en) Imaging apparatus generating evaluation values at a high frame rate and having a live view function of displaying a video smoothly at a low frame rate
US20170310921A1 (en) Image capturing apparatus connectable to display apparatus, display apparatus connectable to external apparatus, and image processing apparatus performing image processing
JP5959194B2 (en) Imaging device
JP7123568B2 (en) IMAGE PROCESSING DEVICE, CONTROL METHOD AND PROGRAM THEREOF
JP2014042109A (en) Image processing apparatus, control method, program, and storage medium
JP2016213747A (en) Image processing apparatus, image processing method, and program
JP2002359856A (en) Data conversion circuit and digital camera
JP2014236244A (en) Image processing system, image processing program, and digital camera