JP2016213747A - Image processing apparatus, image processing method, and program - Google Patents
Image processing apparatus, image processing method, and program Download PDFInfo
- Publication number
- JP2016213747A JP2016213747A JP2015097495A JP2015097495A JP2016213747A JP 2016213747 A JP2016213747 A JP 2016213747A JP 2015097495 A JP2015097495 A JP 2015097495A JP 2015097495 A JP2015097495 A JP 2015097495A JP 2016213747 A JP2016213747 A JP 2016213747A
- Authority
- JP
- Japan
- Prior art keywords
- image
- color component
- display image
- pixel
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims description 124
- 238000003672 processing method Methods 0.000 title claims description 4
- 230000009467 reduction Effects 0.000 claims description 12
- 239000003086 colorant Substances 0.000 abstract description 7
- 235000019557 luminance Nutrition 0.000 abstract 1
- 238000003384 imaging method Methods 0.000 description 70
- 238000000034 method Methods 0.000 description 39
- 230000008569 process Effects 0.000 description 31
- 238000012937 correction Methods 0.000 description 18
- 238000011161 development Methods 0.000 description 15
- 238000012935 Averaging Methods 0.000 description 13
- 238000003860 storage Methods 0.000 description 13
- 230000007704 transition Effects 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 239000000470 constituent Substances 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Circuits (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、画像処理装置、画像処理方法、及びプログラムに関する。 The present invention relates to an image processing apparatus, an image processing method, and a program.
近年、いわゆる4K映像などのようなUHD(Ultra High Definition:超高精)映像を撮影可能なデジタルビデオカメラの増加に伴い、高解像度映像の制作が広がりを見せている。このため撮影現場では、4Kモニタなどを用いてデジタルビデオカメラのフォーカスや映像のディテールを確認する需要が高まりつつある。 In recent years, with the increase in digital video cameras capable of shooting UHD (Ultra High Definition) images such as so-called 4K images, production of high-resolution images has been spreading. For this reason, in the field of photography, there is an increasing demand for confirming the focus of a digital video camera and details of images using a 4K monitor or the like.
ただし、例えば4Kなど高解像度映像撮影と同時に、4Kモニタなどの表示装置への映像出力をリアルタイムに行う場合、デジタルビデオカメラ側の処理負荷が増大する。特に、4Kのような高解像度映像においてRAW撮影が行われているような場合には、デジタルビデオカメラ内部の処理負担が増加する。つまり、記憶媒体へのRAW画像データの記憶処理、RAW画像データから表示画像を生成する処理、表示画像を表示装置へ出力する処理などがリアルタイムに行われるため、デジタルビデオカメラ内部の処理負担が非常に増加する。 However, for example, when video output to a display device such as a 4K monitor is performed in real time simultaneously with high-resolution video shooting such as 4K, the processing load on the digital video camera side increases. In particular, when RAW shooting is performed on a high-resolution video such as 4K, the processing load inside the digital video camera increases. In other words, the storage processing of the RAW image data in the storage medium, the processing of generating the display image from the RAW image data, the processing of outputting the display image to the display device, and the like are performed in real time, so that the processing load inside the digital video camera is extremely To increase.
このように、デジタルビデオカメラ内部の処理負担が増加すると、他の処理フローが圧迫される。このため、RAW画像データから表示画像を生成する処理の負荷を軽減することが望まれる。 As described above, when the processing load in the digital video camera increases, other processing flows are compressed. For this reason, it is desirable to reduce the processing load for generating a display image from RAW image data.
高解像度のRAW画像から表示画像を生成する際の計算量を削減可能な技術として、例えば特許文献1には、記憶媒体に記憶されたRAW画像データから縮小画像を生成し、その縮小画像を撮像結果として表示する技術が開示されている。この特許文献1に記載の技術においては、RAW画像に対して縮小画像構成画素を設定し、表示画像の算出対象となる画素を縮小画像構成画素に限定することにより、計算量を削減している。 As a technique capable of reducing the amount of calculation when generating a display image from a high-resolution RAW image, for example, in Patent Document 1, a reduced image is generated from RAW image data stored in a storage medium, and the reduced image is captured. A technique for displaying as a result is disclosed. In the technique described in Patent Document 1, the amount of calculation is reduced by setting a reduced image constituent pixel for a RAW image and limiting the pixels to be a display image calculation target to the reduced image constituent pixel. .
特許文献1に記載の技術は、RAW画像から表示画像を生成する際の計算量を削減(表示画像生成処理の負担を軽減)可能である。しかしながら、特許文献1に記載の技術では、高解像度のRAW画像を縮小して低解像度の表示画像を生成しているため、画像の見た目のきめ細かさ(以下、解像感とする。)が低下するという問題がある。 The technique described in Patent Literature 1 can reduce the amount of calculation when generating a display image from a RAW image (reducing the burden of display image generation processing). However, in the technique described in Patent Document 1, since a high-resolution RAW image is reduced to generate a low-resolution display image, the fineness of the appearance of the image (hereinafter referred to as resolution) is reduced. There is a problem of doing.
本発明はこのような問題点に鑑みてなされたものであり、表示用画像生成処理の負担を軽減しつつ、RAW画像等の撮像画像が有する解像感を損なわない表示用画像を生成可能とする画像処理装置、画像処理方法、及びプログラムを提供することを目的とする。 The present invention has been made in view of such problems, and can reduce the burden of display image generation processing and can generate a display image that does not impair the sense of resolution of a captured image such as a RAW image. An object of the present invention is to provide an image processing apparatus, an image processing method, and a program.
本発明の画像処理装置は、撮像画像を構成する各画素の各々の色を決めるための複数の色成分値のうち、前記画素の色を決める色成分値の数より少ない一色以上の特定の色成分値のみを取得する取得手段と、前記取得された特定の色成分値を、前記撮像画像を構成する各画素に各々対応した輝度の画素値として設定して、表示用画像の各画素値を生成する生成手段とを有することを特徴とする。 The image processing apparatus according to the present invention includes one or more specific colors that are smaller than the number of color component values that determine the color of the pixel among a plurality of color component values that determine the color of each pixel that constitutes the captured image. An acquisition unit that acquires only component values; and the acquired specific color component value is set as a pixel value of luminance corresponding to each pixel constituting the captured image, and each pixel value of the display image is set. And generating means for generating.
本発明によれば、表示用画像生成処理の負担を軽減しつつ、RAW画像等の撮像画像が有する解像感を損なわない表示用画像を生成可能である。 ADVANTAGE OF THE INVENTION According to this invention, the display image which does not impair the sense of resolution which picked-up images, such as a RAW image, have can be produced | generated, reducing the burden of the display image production | generation process.
以下、本実施形態の画像処理装置の一適用例として、デジタルビデオカメラなどの撮像装置を挙げて説明する。図1は、本実施形態の撮像装置1の概略構成を示す図である。撮像装置1は、撮像回路11、補正処理回路12、表示画像生成回路13、3G−SDIコントローラ14、3G−SDI端子15、メモリカードコントローラ16、CPU17、メモリ18、Key/電子ダイヤル19、LCD20、バス21を有する。
Hereinafter, an imaging apparatus such as a digital video camera will be described as an application example of the image processing apparatus of the present embodiment. FIG. 1 is a diagram illustrating a schematic configuration of an imaging apparatus 1 according to the present embodiment. The imaging device 1 includes an
表示画像生成回路13は、取得手段と生成手段の一例である第1の表示画像生成回路131と、縮小画生成手段の一例である第2の表示画像生成回路132とを有する。第1の表示画像生成回路131は、図2に示すように、画素補間処理回路131aと平均化処理回路131bを有する。第2の表示画像生成回路は、図3に示すように、RAW縮小処理回路132aと現像処理回路132bを有する。
The display
モニタ22は、接続手段の一例である3G−SDI端子15を介して撮像装置1と接続される。なお、3G−SDIは、SMPTE424とSMPTE425で規定されているインターフェイス規格である。また、モニタ22と撮像装置1との間の接続インターフェイス規格は、いわゆるHDMI(登録商標)、DVI、DisplayPortなどの規格でもよく、3G−SDIに限らない。また、メモリカード23は、撮像装置1のメモリカードスロットに挿入され、メモリカードコントローラ16を介して撮像装置1と接続される。なお、メモリカードは、一例としてCFastカード(CFastは国際登録商標)等を挙げることができる。
The
撮像回路11は、撮像面上に複数の受光素子が配列された撮像センサを有する。撮像センサは、図示しない結像光学系(レンズ等)により撮像面上に結像された被写体像を受光して光電変換し、その光電変換によるアナログ撮像信号を出力する。撮像回路11は、撮像センサから出力されたアナログ撮像信号をデジタル撮像データへと変換することで、撮像画像であるRAW画像のデータを生成する。撮像センサは、例えばCMOSにより構成される単板撮像センサであり、当該単板撮像センサの撮像面上には例えばいわゆるベイヤ方式のカラーフィルタが配されている。
The
ベイヤ方式のカラーフィルタは、赤(R)と緑(GのGrとGb)と青(B)の各色成分用の色フィルタが、例えば図4(a)に示すようなパターンで配列されて構成されている。なお、図4(a)はカラーフィルタの一部分のみを示している。ベイヤ方式の場合、図5に示すように、RAW画像のデータ201は、Rチャンネル、Grチャンネル,Gbチャンネル,Bチャンネルの各色成分のデータからなる。これらRチャンネル、Grチャンネル,Gbチャンネル,Bチャンネルの各色データは、RAW画像の各画素の色を決めるためのデータである。
The Bayer color filter is configured by arranging color filters for red (R), green (G Gr and Gb), and blue (B) color components in a pattern as shown in FIG. 4A, for example. Has been. FIG. 4A shows only a part of the color filter. In the case of the Bayer method, as shown in FIG. 5, the RAW
なお、撮像センサは、いわゆる三板式の撮像センサや、各層で異なる色の光を受光する多層センサであってもよい。三板式の撮像センサの場合、例えばダイクロイックプリズム等により入射光がR,G,Bの各色成分に分光されて、各色成分に対応して配された各撮像センサにより被写体像が受光される。多層センサの場合は、各層でそれぞれ異なる色成分の光を受光する。前述した単板撮像センサ、三板式撮像センサ、多層センサの何れの場合でも、撮像画像を構成する各画素の色を決めるために複数の色成分値が取得されることになる。 The imaging sensor may be a so-called three-plate imaging sensor or a multilayer sensor that receives light of different colors in each layer. In the case of a three-plate image sensor, for example, incident light is split into R, G, and B color components by a dichroic prism or the like, and a subject image is received by each image sensor arranged corresponding to each color component. In the case of a multilayer sensor, each layer receives light of different color components. In any of the above-described single-plate image sensor, three-plate image sensor, and multilayer sensor, a plurality of color component values are acquired in order to determine the color of each pixel constituting the captured image.
補正処理回路12は、撮像回路11で生成されたRAW画像データに対し、欠陥画素補正、黒レベル補正などの補正処理を行う。補正処理回路12で補正処理がなされたRAW画像データは、メモリ18に一時的に格納される。
The
表示画像生成回路13は、メモリ18に格納されたRAW画像を構成する各画素の各々の色を決めるための複数の色成分値のうち、当該画素の色を決める色成分値の数より少ない一色以上の特定の色成分値を用いて、モニタ22へ出力する表示用画像を生成する。また、表示画像生成回路13は、メモリ18に格納されたRAW画像を縮小した縮小画像を構成する各画素の各々の色を決めるための複数の色成分値の全ての色成分値を用いて、モニタ22へ出力する縮小表示用画像を生成することも可能となされている。
The display
具体的には、表示画像生成回路13の第1の表示画像生成回路131は、RAW画像を構成する各画素の各々の色を決めるための複数の色成分値のうち、当該画素の色を決める色成分値の数より少ない一色以上の特定の色成分値のみをRAW画像から取得する。また、第1の表示画像生成回路131は、RAW画像から取得された特定の色成分値のみを用いて、RAW画像を構成する各画素に各々対応した、表示用画像の各画素値を生成する。言い換えると、第1の表示画像生成回路131は、RAW画像の各画素の色を決めるための複数の色成分値のうちの特定の色成分値のみを用いて、RAW画像の解像度と同じ解像度の表示用画像を生成する。なお、第1の表示画像生成回路131は、RAW画像に対して有効画素領域を設定し、その有効画素領域に対して表示用画像の生成を行ってもよい。
Specifically, the first display
一方、表示画像生成回路13の第2の表示画像生成回路132は、メモリ18に格納されたRAW画像を縮小した縮小画像を生成する。また、第2の表示画像生成回路132は、その縮小画像を構成している各画素の各々の色を決めるための複数の色成分値の全ての色成分値を用いて、縮小画像を構成する各画素に対応した、縮小表示用画像の各画素値を生成する。言い換えると、第2の表示画像生成回路132は、縮小画像を構成する各画素の色を決めるための複数の色成分値の全ての色成分値を用いて、RAW画像の解像度よりも低解像度の縮小表示用画像を生成する。なお、第2の表示画像生成回路132は、RAW画像に対して有効画素領域を設定し、その有効画素領域に対して縮小表示用画像の生成を行ってもよい。
On the other hand, the second display
以下、第1の表示画像生成回路131について詳細に説明する。本実施形態では、特定の色成分値は、R,G(GrとGb),Bの色成分値のうちの、例えばG(GrとGb)の色成分値とする。なお、以下の説明では、色成分値を色データと表記する。
Hereinafter, the first display
第1の表示画像生成回路131の画素補間処理回路131aは、メモリ18に格納されているRAW画像の各画素におけるR,G(GrとGb),Bの各色データのうち、GrとGbの各色データのみを取得する。そして、画素補間処理回路131aは、それらGrとGbの各色データそれぞれに対して、画素補間(いわゆるデモザイク処理)を行う。
The pixel
ここで、単板撮像センサの撮像面上に配されるベイヤ方式のカラーフィルタは、前述の図4(a)に示したようにR,G(GrとGb),Bの三原色のフィルタが互い違いに配列されている。そして、いわゆるドット・バイ・ドット方式では、RAW画像データの一画素につき一色の情報しか有しないため、各色のRAW画像(以下、色プレーンとする。)それぞれにおいて欠落画素が生じることになる。すなわち、メモリ18から読み出されて第1の表示画像生成回路131に供給されるGrとGbの各色プレーンは、例えば図4(b)と図4(d)に示すようにそれぞれ欠落画素601が存在しているものとなる。なお、図4(b)はGrの色プレーンを例示し、図4(d)はGbの色プレーンを例示している。
Here, as shown in FIG. 4A, the Bayer color filters arranged on the imaging surface of the single-plate imaging sensor have three primary color filters of R, G (Gr and Gb), and B alternately. Is arranged. The so-called dot-by-dot method has only one color information for each pixel of the RAW image data, and therefore a missing pixel occurs in each color RAW image (hereinafter referred to as a color plane). In other words, the Gr and Gb color planes read from the
そこで、画素補間処理回路131aは、欠落画素601の近傍の画素値から欠落画素の値を推定して、その推定画素値により欠落画素601の画素値を補間するデモザイク処理を行う。なお、例えば、RAW画像と同じ解像度の表示用画像を得る必要がない場合、或いは、三板式の撮像センサや多層センサが用いられることで欠落画素が生じない場合には、画素補間処理回路131aは省かれてもよい。
Therefore, the pixel
第1の表示画像生成回路131の平均化処理回路131bは、画素補間処理回路131aで画素補間がなされたGrとGbの各色プレーンの、各々対応した座標の画素毎に平均値を算出する平均化処理を行う。そして、平均化処理回路131bは、GrとGbの各色プレーンの各画素から算出した各平均画素値を輝度の画素値として設定する。また、平均化処理回路131bは、YUV空間で表現される表示用画像を構成するための各画素におけるU,Vの色差値については、予め設定した所定の値とする。本実施形態では、所定の値としてゼロ値(0)を用い、U,Vの色差値については全ての画素についてゼロ値(0)とするゼロ詰め処理を行う。
The averaging
具体的な例として、座標(0,0)について図4(c)のGr(0,0)と図4(e)のGb(0,0)の色データを挙げて説明する。平均化処理回路131bは、先ず、Gr(0,0)とGb(0,0)の色データの平均値を求め、当該平均値を輝度の画素値Y(0,0)として設定する。また、平均化処理回路131bは、U,Vの色差値についてはゼロ値とする。平均化処理回路131bは、このような輝度の生成処理を各座標の画素値に対して行い、また色差を所定値に設定する処理(ゼロ詰め処理)を行うことで、図4(f)示すような輝度成分のみからなるグレースケールの表示用画像を生成する。これにより、図6に示すように、表示用画像202は、各画素が輝度成分(Y)とゼロ値の色差成分(U,V)とで構成されたYUV色空間のデータ構造を有したものとなる。なお、本実施形態では、U,Vの各画素値は全てゼロ値としたが、ゼロ値以外の予め決めた所定値にしてもよい。
As a specific example, the coordinates (0, 0) will be described with reference to color data of Gr (0, 0) in FIG. 4C and Gb (0, 0) in FIG. The averaging
ここで、輝度画像の生成において、Gr及びGbの色データを用いた理由は、第1に、R,G,Bの三原色のうち、G成分は輝度情報(被写体の構造を表す部分)を多く含むこと、第2に、G成分に対して人間の視覚は高い感度を持つことが挙げられる。なお、前述の説明では、RAW画像データの色データのうち、G成分であるGrとGbの両色データからモニタ22へ出力する表示用画像を生成したが、例えばGrとGbの何れか一方の色データのみから表示用画像を生成してもよい。この場合、平均化処理回路131bは、前述したGrとGbの平均値を算出するような平均化処理については行わない。
Here, in the generation of the luminance image, the reason why the color data of Gr and Gb is used is that, first, among the three primary colors of R, G, and B, the G component has a lot of luminance information (part representing the structure of the subject). Secondly, human vision is highly sensitive to the G component. In the above description, the display image to be output to the
次に、メモリ18に格納されたRAW画像を構成している各画素の色を決めるための複数の色成分値の全てを用いて、RAW画像の解像度よりも低解像度の縮小表示用画像を生成する第2の表示画像生成回路132について以下に説明する。
Next, a reduced display image having a resolution lower than the resolution of the RAW image is generated using all of a plurality of color component values for determining the color of each pixel constituting the RAW image stored in the
先ず、第2の表示画像生成回路132のRAW縮小処理回路132aは、メモリ18から読み出したRAW画像データのサイズを縮小する。具体的には、RAW縮小処理回路132aは、例えば図7(a)に示すようなRAW画像に対し画素間引きを行うことで、図7(b)に示すようなRAW縮小画像を生成する。なお、RAW画像データから縮小画像を生成するアルゴリズムとしては、一般的な1/N間引き(Nは整数)などの公知の様々なアルゴリズムを用いることができ、ここではそれらアルゴリズムの説明は省略する。
First, the RAW
第2の表示画像生成回路132の現像処理回路132bは、RAW縮小処理回路132aから供給されたRAW縮小画像データに対し、画素補間などのデモザイク処理やディベイヤ処理などの現像に係る処理を行う。
The
ベイヤ方式を例に挙げて具体的に説明すると、現像処理回路132bは、先ず、図7(b)に示したRAW縮小画像データから、図7(c)に示すRの色プレーンと、図7(d)に示すGr,Gbの色プレーンと、図7(e)に示すBの色プレーンを生成する。なお、Gr,Gbの色プレーンについては、Grの色プレーンとGbの色プレーンに分かれていてもよいし、図7(d)に示すように一つの色プレーンに纏められていてもよい。
More specifically, taking the Bayer method as an example, the
また、現像処理回路132bは、図7(c)〜図7(e)に示した各色プレーンの欠落画素を、前述の画素補間処理回路131aと同様のデモザイク処理により補間する。そして、現像処理回路132bは、ディベイヤ処理により、図7(f)、図7(g)、図7(h)のようなR,G,Bの3色各々について一枚の画像を作り出す。その後、現像処理回路132bは、R,G,Bのデータから、Y,U,Vからなる表示用画像のデータを生成する。すなわち、現像処理回路132bは、RAW縮小画像データに対して現像処理を施すことにより、当該RAW縮小画像データをモニタ22へ出力するために適したデータ形式へと変換する。なお、現像処理回路132bは、ホワイトバランス補正、ノイズ低減、ガンマ変換、色調整などの画質調整処理を含んでもよい。
Further, the
CPU17は、Key/電子ダイヤル19を介したユーザからの入力操作などに応じて、プログラムをメモリ18に展開し、撮像装置1全体の制御を行う。メモリ18は、補正処理回路12で生成されたRAW画像データ、表示画像生成回路13で生成された表示用画像又は縮小表示用画像のデータ、CPU17で実行されるプログラムなどを格納する。
The
Key/電子ダイヤル19は、ユーザ入力手段の一例であり、ユーザの操作に応じた操作入力信号をCPU17へ送る。LCD20は、本実施形態の撮像装置1の動作モードやKey/電子ダイヤル19を用いた選択操作の内容等を、ユーザが視覚的に確認するための表示装置である。なお、撮像装置1は、EVF(電子ビューファインダ)など、その他の表示装置を備えていてもよい。バス21は、CPU命令やデータなどの伝送路として機能する。
The Key /
ここで、前述したように、第1の表示画像生成回路131による表示用画像は、RAW画像のRとG(GrとGb)とBの各色成分のうち、G(GrとGb)の色データを輝度として設定し、色差はゼロ詰めとなされることにより生成されている。このため、RAW画像が例えば4K映像などの動画の高解像度画像であったとしても、撮像装置1が表示用画像を生成する際の処理負担はさほど大きくない。また、表示用画像の解像度はRAW画像の解像度と同じであるため、RAW画像が有している解像感が損なわれることはない。
Here, as described above, the display image by the first display
したがって、例えば4K等の高解像度撮影を行いつつ、RAW画像から表示用画像を生成して4K等の高精細表示が可能なモニタ22に表示させた場合、ユーザは、フォーカスの合焦や映像のディテール等をリアルタイムに確認しながら撮影を行うことができる。但し、表示用画像は、G(GrとGb)の色データを用いて生成された輝度画像のみからなるグレースケール画像であるため、モニタ22上にカラー画像として表示することはできない。
Therefore, for example, when a display image is generated from a RAW image and displayed on the
一方で、前述した縮小表示用画像は、RAW画像に対して間引き等の縮小処理が施された画像であるため、撮像装置1が縮小表示用画像を生成する際の処理負担はさほど大きくないが、RAW画像よりも解像度が低い画像になっている。但し、縮小表示用画像は、RAW画像の全ての色データを用いて生成されたY,U,V画像であるため、モニタ22上にはカラー画像が表示される。
On the other hand, since the above-described reduced display image is an image obtained by performing reduction processing such as thinning on the RAW image, the processing load when the imaging apparatus 1 generates the reduced display image is not so large. The resolution is lower than that of the RAW image. However, since the reduced display image is a Y, U, V image generated using all the color data of the RAW image, the color image is displayed on the
したがって、RAW画像から縮小表示用画像を生成して表示させた場合、ユーザは、例えば映像の色を確認することができる。また、この場合、4K等の高精細表示に対応していないモニタ22の使用が可能となる。
Therefore, when the reduced display image is generated from the RAW image and displayed, the user can check the color of the video, for example. In this case, it is possible to use the
このようなことから、本実施形態の撮像装置1は、表示用画像と縮小表示用画像の生成処理を切り替え可能となされている。具体的には、撮像装置1のCPU17は、表示画像生成回路13に対し、第1の表示画像生成回路131による表示用画像の生成処理と、第2の表示画像生成回路132による縮小表示用画像の生成処理の何れを行わせるかを切り替え制御可能である。CPU17は、このような切り替え制御を、Key/電子ダイヤル19からのユーザによる操作入力信号に基づいて行うことができ、また、撮像装置1に接続されるモニタ22の解像度に基づいて自動的に行うことができる。
For this reason, the imaging apparatus 1 according to the present embodiment can switch between the display image generation process and the reduced display image generation process. Specifically, the
Key/電子ダイヤル19からのユーザによる操作入力信号に基づく切り替え制御の場合、CPU17は、例えばLCD20の画面上に、表示画像生成モードの選択画面を表示させる。当該表示画像生成モードの選択画面は、第1の表示画像生成回路131による表示用画像の生成モードと、第2の表示画像生成回路132による縮小表示用画像の生成モードの何れかを選択可能であることを、ユーザに示すための画面となされている。CPU17は、ユーザがLCD20にて選択項目を視覚的に確認しつつKey/電子ダイヤル19を操作して何れかの表示用画像の何れかを選択した場合、当該ユーザ選択に応じた表示用画像生成処理を行わせるように表示画像生成回路13を制御する。
In the case of switching control based on an operation input signal by the user from the key /
モニタ22の解像度に基づく切り替え制御の場合、CPU17は、HDMI、DVI、DisplayPortなどで使用される双方向通信を用い、モニタ22の推奨解像度を指定したEDIDなどのモニタ性能情報を取得する。そして、CPU17は、当該モニタ性能情報に基づいて、表示画像生成回路13における表示用画像生成処理を制御する。すなわち、CPU17は、当該モニタ性能情報により、モニタ22が4K等の高精細度表示に対応していると判断した場合には、前述の第1の表示画像生成回路131による表示画像生成処理を行わせる。一方、モニタ性能情報により、モニタ22が低解像度にしか対応できないと判断した場合には、前述の第2の表示画像生成回路132による縮小表示画像生成処理を行わせる。なお、EDIDとは、Extended Display Identification Dataを指す。その他にも、CPU17は、外部コントローラなどからの入力操作に基づいて、これら表示用画像の切り替え制御を行うこともできる。
In the case of switching control based on the resolution of the
次に、撮像開始からRAW画像データがメモリカード23へ記憶されるまでに撮像装置1にて実行される処理の流れを、図8のフローチャートを参照しながら説明する。図8において、先ずステップS101の処理として、撮像装置1のCPU17は、撮影開始の判定処理を行う。例えば、ユーザによる撮影開始操作に応じた操作入力信号をKey/電子ダイヤル19から受け取ると、CPU17は、撮像命令を撮像回路11へ送信する。ステップS101の後、撮像装置1における処理は、撮像回路11によるステップS102の処理へ遷移する。
Next, the flow of processing executed by the imaging apparatus 1 from the start of imaging until RAW image data is stored in the
CPU17からの撮像命令を受信した撮像回路11は、ステップS102の処理として、撮像センサによる撮像を行わせる。そして、撮像回路11は、撮像センサでの撮像により得られた撮像信号に対して、AFE(Analog Front End)の処理を施してRAW画像データを生成する。このRAW画像データは、補正処理回路12へ送られる。ステップS102の後、撮像装置1における処理は、補正処理回路12によるステップS103の処理へ遷移する。
The
補正処理回路12は、ステップS103の処理として、撮像回路11で生成されたRAW画像データに対し、前述した欠陥画素補正や黒レベル補正などの補正処理を行う。ステップS103の後、撮像装置1の処理は、CPU17によるステップS104の処理へ遷移する。
The
CPU17は、ステップS104の処理として、補正処理回路12に格納命令を送信する。この格納命令を受信した補正処理回路12は、前述の補正処理後のRAW画像データを、CPU17より指示されたメモリ18のアドレスへ格納する。ステップS104の後、CPU17は、処理をステップS105へ進める。
The
ステップS105では、CPU17は、メモリカードコントローラ16へ記憶命令を送信する。記憶命令を受信したメモリカードコントローラ16は、メモリ18から、CPU17より指示されたアドレスに格納されているRAW画像データを読み出す。そして、メモリカードコントローラ16は、メモリ18から読み出させたRAW画像データをメモリカード23に記憶させる。
In step S <b> 105, the
撮像装置1は、ステップS101からステップS105までの処理をフレーム毎に順次繰り返すことにより、連続する複数フレームからなる映像のRAW画像データを、メモリカード23へ記憶させることができる。
The imaging apparatus 1 can store the RAW image data of video composed of a plurality of continuous frames in the
次に、撮像装置1において、RAW画像データから前述の表示用画像又は縮小表示用画像を生成する処理の流れを図9のフローチャートを参照して説明する。図9のフローチャートにおいて、CPU17は、先ずステップS201の処理として、表示画像生成モードとして、表示用画像の生成モードと縮小表示用画像の生成モードの何れを用いるかを判定する。例えば、ユーザがKey/電子ダイヤル19を操作して何れかの生成モードを選択した場合、CPU17は、ユーザ選択による生成モードに応じて処理を分岐させる。また、モニタ22の性能に応じて表示画像生成モードを自動選択する場合、CPU17は、モニタ性能情報に基づいて表示用画像の生成モードと縮小表示用画像の生成モードの何れを用いるかを判定して、その判定結果に応じて処理を分岐させる。
Next, a flow of processing for generating the above-described display image or reduced display image from the RAW image data in the imaging apparatus 1 will be described with reference to the flowchart of FIG. In the flowchart of FIG. 9, the
そして、ステップS201において、表示用画像の生成モードを用いると判定した場合、CPU17は、第1の表示画像生成回路131へ表示画像生成命令を送信する。この場合、撮像装置1の処理は、ステップS201から、第1の表示画像生成回路131によるステップS202の処理へ遷移する。一方、ステップS201において、縮小表示用画像の生成モードを用いると判定した場合、CPU17は、第2の表示画像生成回路132に表示画像生成命令を送信する。この場合、撮像装置1の処理は、ステップS201から、第2の表示画像生成回路132によるステップS205の処理へ遷移する。
If it is determined in step S201 that the display image generation mode is to be used, the
ステップS202では、第1の表示画像生成回路131は、CPU17より指示されたメモリ18のアドレスに格納されているRAW画像データのGrチャンネル及びGbチャンネルの色データを取得する。ステップS202の後、撮像装置1の処理は、第1の表示画像生成回路131の画素補間処理回路131aによるステップS203の処理へ遷移する。
In step S202, the first display
ステップS203において、画素補間処理回路131aは、Grチャンネル及びGbチャンネルの各色プレーンに対して前述した画素補間を施す。ステップS202の後、撮像装置1の処理は、第1の表示画像生成回路131の平均化処理回路131bによるステップS204の処理へ遷移する。
In step S203, the pixel
ステップS204において、平均化処理回路131bは、画素補間処理回路131aで生成されたGrとGbの色プレーンに対し、前述のように画素各々の平均値を算出してその平均値を輝度Yとして設定する。そして、平均化処理回路131bは、U,Vの色差の画素値についてはすべてゼロ(0)詰めとした、輝度画像のみからなるグレースケール画像を表示用画像として生成する。また、ステップS204において、CPU17は、第1の表示画像生成回路131へ格納命令を送信する。格納命令を受信した第1の表示画像生成回路131は、CPU17より指示されたメモリ18のアドレスへ、表示用画像のデータを格納する。ステップS204の後、撮像装置1の処理は、CPU17によるステップS208の処理へ遷移する。
In step S204, the averaging
また、ステップS205では、第2の表示画像生成回路132は、CPU17より指示されたメモリ18のアドレスに格納されたRAW画像データのR,Gr,Gb,Bのすべての色プレーンを取得する。ステップS205の後、撮像装置1の処理は、第2の表示画像生成回路132のRAW縮小処理回路132aによるステップS206の処理へ遷移する。
In step S205, the second display
ステップS206において、RAW縮小処理回路132aは、R,G(GrとGb),Bの色プレーンそれぞれに対し、画素間引きなどの縮小処理を施して、画像サイズを縮小する。ステップS206の後、撮像装置1の処理は、第2の表示画像生成回路132の現像処理回路132bによるステップS207の処理に遷移する。
In step S206, the RAW
ステップS207において、現像処理回路132bは、RAW縮小処理回路132aで生成された色プレーンに対し、デモザイク処理とディベイヤ処理を施してR,G,Bの各々からなる各画像を生成する。さらに現像処理回路132bは、R,G,Bの各画像データより、Y,U,Vからなる表示用画像のデータを生成する。また、ステップS207において、CPU17は、第2の表示画像生成回路132へ格納命令を送信する。格納命令を受信した第2の表示画像生成回路132は、CPU17より指示されたメモリ18のアドレスへ、縮小表示用画像のデータを格納する。ステップS207の後、撮像装置1の処理は、CPU17によるステップS208の処理に遷移する。
In step S207, the
ステップS208において、CPU17は、3G−SDIコントローラ14へ表示命令を送信する。表示命令を受信した3G−SDIコントローラ14は、CPU17より指示された、メモリ18のアドレスに格納された表示用の画像のデータを、3G−SDI端子15を介してモニタ22へ出力する。これにより、モニタ22には、表示用画像、又は、縮小表示用画像が表示されることになる。
In step S <b> 208, the
以上説明したように、本実施形態の撮像装置1によれば、第1の表示画像生成回路131によりRAW画像から表示用画像を生成した場合、その生成処理前後で解像度は変化しないため、RAW画像の解像感を損ねることのない表示用画像を表示できる。また、RAW画像から表示用画像を生成する処理は、撮像装置1に処理負担を掛けることなく実現できる。このため、本実施形態によれば、デジタルビデオカメラなどの撮像装置1において、4KのRAW画像データの記録媒体への記録と、RAW画像データから動画の表示画像の生成など複数の負荷の大きい処理をリアルタイムに行うことが可能となる。
As described above, according to the imaging apparatus 1 of the present embodiment, when the display image is generated from the RAW image by the first display
すなわち、本実施形態の撮像装置1は、例えば撮影現場において4Kモニタなどを用いてデジタルビデオカメラのフォーカスや映像のディテールを確認する場合に有効である。また、本実施形態によれば、撮像装置1の処理負荷を軽減できるため、例えば周期的に行われるタスクの起動遅れやバス帯域の圧迫などを抑制できる。さらに、本実施形態においては、表示用画像は、G(緑)の色データから生成されているため、例えばいわゆるクロマキー撮影においてグリーンバックの抜け具合の確認に有効である。 In other words, the imaging apparatus 1 of the present embodiment is effective when, for example, the focus of a digital video camera and the details of an image are confirmed using a 4K monitor or the like at a shooting site. Moreover, according to this embodiment, since the processing load of the imaging device 1 can be reduced, it is possible to suppress, for example, a task start delay that is periodically performed and a bus bandwidth compression. Furthermore, in the present embodiment, the display image is generated from G (green) color data, and is thus effective for confirming the degree of missing green background, for example, in so-called chroma key photography.
また、本実施形態の撮像装置1においては、高解像度ではあるがグレースケール画像である表示用画像の生成と、低解像度ではあるがカラー表示が可能な縮小表示用画像の生成とを、切り替え可能となされている。したがって、本実施形態によれば、撮影現場などでRAW画像と同数の画素数を備えたモニタにより映像をチェックしながら撮影を行う場合に、表示用画像を用いることで、処理速度を担保しつつ解像度の高い画像によるチェックが可能となる。一方、RAW画像よりも画素数の少ない一般的なモニタで映像をチェックしながら撮影を行う場合には、縮小表示用画像を用いることで、処理負荷を抑えつつ色のチェックが可能となる。また、本実施形態によれば、表示用画像と縮小表示用画像の生成切り替えは、ユーザによる指示に応じた手動切り替えと、表示用画像データの出力先のモニタの性能に応じた自動切り替えの両方に対応している。 In the imaging apparatus 1 of the present embodiment, it is possible to switch between generation of a display image that is a high-resolution but grayscale image and generation of a reduced display image that can be displayed in color at a low resolution. It has been. Therefore, according to the present embodiment, when shooting is performed while checking a video with a monitor having the same number of pixels as a RAW image at a shooting site or the like, the processing speed is secured by using the display image. Checking with high-resolution images is possible. On the other hand, when shooting is performed while checking a video on a general monitor having a smaller number of pixels than that of a RAW image, the color can be checked while reducing the processing load by using the reduced display image. In addition, according to the present embodiment, the generation switching of the display image and the reduced display image is performed by both manual switching according to an instruction from the user and automatic switching according to the performance of the monitor to which the display image data is output. It corresponds to.
なお、本実施形態における前述した表示画像生成のための画像処理は、各画素の各々の色を決める複数の色成分を表す値を有する撮像画像に対して適用可能である。したがって、本実施形態において表示画像生成の対象となる撮像画像データは、前述したRAW画像データや現像処理後のJPEG画像データ等に限定されるものではない。また、本実施形態は、動画像だけでなく、静止画像についても適用可能である。 Note that the above-described image processing for display image generation in the present embodiment can be applied to a captured image having values representing a plurality of color components that determine the color of each pixel. Therefore, the captured image data that is the target of display image generation in the present embodiment is not limited to the above-described RAW image data, JPEG image data after development processing, or the like. In addition, this embodiment can be applied not only to moving images but also to still images.
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。 The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.
上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。 The above-described embodiments are merely examples of implementation in carrying out the present invention, and the technical scope of the present invention should not be construed as being limited thereto. That is, the present invention can be implemented in various forms without departing from the technical idea or the main features thereof.
1 撮像装置、11 撮像回路、12 補正処理回路、13 表示画像生成回路、131 第1の表示画像生成回路、131a 画素補間処理回路、131b 平均化処理回路、132 第2の表示画像生成回路、132a RAW縮小処理回路、132b 現像処理回路、14 3G−SDIコントローラ、15 3G−SDI端子、16 メモリカードコントローラ、17 CPU、18 メモリ、19 Key/電子ダイヤル、20 LCD、21 バス、22 モニタ、23 メモリカード DESCRIPTION OF SYMBOLS 1 Imaging device, 11 Imaging circuit, 12 Correction processing circuit, 13 Display image generation circuit, 131 1st display image generation circuit, 131a Pixel interpolation processing circuit, 131b Averaging processing circuit, 132 2nd display image generation circuit, 132a RAW reduction processing circuit, 132b development processing circuit, 14 3G-SDI controller, 15 3G-SDI terminal, 16 memory card controller, 17 CPU, 18 memory, 19 Key / electronic dial, 20 LCD, 21 bus, 22 monitor, 23 memory card
Claims (9)
前記取得された特定の色成分値を、前記撮像画像を構成する各画素に各々対応した輝度の画素値として設定して、表示用画像の各画素値を生成する生成手段と
を有することを特徴とする画像処理装置。 Acquisition means for acquiring only one or more specific color component values less than the number of color component values for determining the color of the pixel among a plurality of color component values for determining the color of each pixel constituting the captured image When,
Generation means for setting the acquired specific color component value as a pixel value of brightness corresponding to each pixel constituting the captured image, and generating each pixel value of the display image. An image processing apparatus.
前記取得手段は、前記R,G,Bの各色成分値のうちGの色成分値のみを前記特定の色成分値として取得し、
前記生成手段は、前記取得された前記Gの色成分値を前記輝度の画素値として設定し、色差の画素値については予め設定された所定値とし、前記輝度の画素値と前記所定値に設定された色差の画素値を、前記表示用画像の画素値とすることを特徴とする請求項1に記載の画像処理装置。 The plurality of color component values are R, G, B color component values,
The acquisition means acquires only the G color component value among the R, G, B color component values as the specific color component value,
The generation unit sets the acquired G color component value as the luminance pixel value, sets a color difference pixel value as a predetermined value, and sets the luminance pixel value and the predetermined value as the predetermined value. The image processing apparatus according to claim 1, wherein the pixel value of the color difference obtained is used as a pixel value of the display image.
前記取得手段は、前記GrとGbの二つの色成分値のみを前記特定の色成分値として取得し、
前記生成手段は、前記取得された前記GrとGbの二つの色成分値の平均値を前記輝度の画素値として設定し、色差の前記所定値についてはゼロ値に設定することを特徴とする請求項2に記載の画像処理装置。 The G color component value is composed of two color component values, Gr and Gb.
The acquisition means acquires only the two color component values Gr and Gb as the specific color component value,
The generation unit sets an average value of the two color component values of the acquired Gr and Gb as the pixel value of the luminance, and sets the predetermined value of the color difference to a zero value. Item 3. The image processing apparatus according to Item 2.
前記制御手段は、前記ユーザ入力手段を介したユーザからの選択に応じて、前記取得手段による特定の色成分値の取得及び前記生成手段による前記表示用画像の各画素値の生成と、前記縮小画生成手段による縮小画像の生成及び前記縮小表示用画像の各画素値の生成との、何れを行わせるかを決めることを特徴とする請求項5に記載の画像処理装置。 A user input means for a user to select whether to generate the display image or the reduced display image;
In accordance with a selection from the user via the user input unit, the control unit acquires a specific color component value by the acquisition unit, generates each pixel value of the display image by the generation unit, and reduces the reduction The image processing apparatus according to claim 5, wherein the generation of a reduced image by the image generation unit and generation of each pixel value of the reduced display image are determined.
前記制御手段は、前記接続手段を介して接続されたモニタ装置の解像度に応じて、前記取得手段による特定の色成分値の取得及び前記生成手段による前記表示用画像の各画素値の生成と、前記縮小画生成手段による縮小画像の生成及び前記縮小表示用画像の各画素値の生成との、何れを行わせるかを決めることを特徴とする請求項5に記載の画像処理装置。 Having a connection means to which the monitor device is connected;
The control means, according to the resolution of the monitor device connected via the connection means, acquisition of a specific color component value by the acquisition means and generation of each pixel value of the display image by the generation means, The image processing apparatus according to claim 5, wherein the generation of a reduced image by the reduced image generation unit and generation of each pixel value of the reduced display image are determined.
生成手段が、前記取得された特定の色成分値を、前記撮像画像を構成する各画素に各々対応した輝度の画素値として設定して、表示用画像の各画素値を生成するステップと
を含むことを特徴とする画像処理方法。 Of the plurality of color component values for determining the color of each pixel that constitutes the captured image, the acquisition unit obtains only one or more specific color component values that are smaller than the number of color component values that determine the color of the pixel A step to obtain,
Generating means for setting the acquired specific color component value as a pixel value having a luminance corresponding to each pixel constituting the captured image, and generating each pixel value of the display image. An image processing method.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015097495A JP2016213747A (en) | 2015-05-12 | 2015-05-12 | Image processing apparatus, image processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015097495A JP2016213747A (en) | 2015-05-12 | 2015-05-12 | Image processing apparatus, image processing method, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016213747A true JP2016213747A (en) | 2016-12-15 |
Family
ID=57551881
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015097495A Pending JP2016213747A (en) | 2015-05-12 | 2015-05-12 | Image processing apparatus, image processing method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016213747A (en) |
-
2015
- 2015-05-12 JP JP2015097495A patent/JP2016213747A/en active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10896634B2 (en) | Image signal processing apparatus and control method therefor | |
US8368775B2 (en) | Imaging apparatus and live-view image display method thereof | |
EP2645703A2 (en) | Image processing apparatus and method of camera device | |
JP2007081685A (en) | Image signal processor, image signal processing method, and image signal processing system | |
JPWO2011067850A1 (en) | Image processing device | |
JP2005244980A (en) | Apparatus and method for processing image signal | |
JP2006013828A (en) | Imaging apparatus | |
JP2014096749A (en) | Imaging apparatus and image processing method | |
US8218021B2 (en) | Image capture apparatus, method of controlling the same, and program | |
JP6948810B2 (en) | Image processing system | |
JP2010268520A (en) | Vehicle mounted camera apparatus and vehicle | |
JP2007067714A (en) | Image processing circuit, and camera device and vehicle-mounted camera device using same | |
US9007479B2 (en) | Imaging apparatus and evaluation value generation apparatus | |
US20140133781A1 (en) | Image processing device and image processing method | |
US10762600B2 (en) | Image processing apparatus, image processing method, and non-transitory computer-readable recording medium | |
KR20120024448A (en) | Imaging apparatus, signal processing method, and program | |
US20190051270A1 (en) | Display processing device and imaging device | |
US8908060B2 (en) | Imaging apparatus generating evaluation values at a high frame rate and having a live view function of displaying a video smoothly at a low frame rate | |
US20170310921A1 (en) | Image capturing apparatus connectable to display apparatus, display apparatus connectable to external apparatus, and image processing apparatus performing image processing | |
JP5959194B2 (en) | Imaging device | |
JP7123568B2 (en) | IMAGE PROCESSING DEVICE, CONTROL METHOD AND PROGRAM THEREOF | |
JP2014042109A (en) | Image processing apparatus, control method, program, and storage medium | |
JP2016213747A (en) | Image processing apparatus, image processing method, and program | |
JP2002359856A (en) | Data conversion circuit and digital camera | |
JP2014236244A (en) | Image processing system, image processing program, and digital camera |