JP2018182550A - Image processing apparatus - Google Patents

Image processing apparatus Download PDF

Info

Publication number
JP2018182550A
JP2018182550A JP2017080141A JP2017080141A JP2018182550A JP 2018182550 A JP2018182550 A JP 2018182550A JP 2017080141 A JP2017080141 A JP 2017080141A JP 2017080141 A JP2017080141 A JP 2017080141A JP 2018182550 A JP2018182550 A JP 2018182550A
Authority
JP
Japan
Prior art keywords
processing
image
image data
image processing
attention area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017080141A
Other languages
Japanese (ja)
Inventor
正俊 石井
Masatoshi Ishii
正俊 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017080141A priority Critical patent/JP2018182550A/en
Publication of JP2018182550A publication Critical patent/JP2018182550A/en
Pending legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To realize image quality confirmation equivalent to that at the time of editing work simultaneously with confirmation of the angle of view at a shooting site of a movie or the like.SOLUTION: An image processing apparatus includes target region setting means that sets a target region in image data, first image processing means that performs image processing for realizing image quality desired by a user on the target region, second image processing means that performs image processing for realizing image quality substantially coincident with the first image processing means on the whole image data at high speed, and image synthesizing means that synthesizes the image data generated by the first processing means and the image data generated by the second image processing means.SELECTED DRAWING: Figure 1

Description

本発明は、静止画あるいは動画を表示する画像表示に関する。   The present invention relates to an image display for displaying a still image or a moving image.

現在の映画製作における撮影は、RAWデータでのデジタル撮影が一般的になりつつあり、解像度も従来の2Kから4Kへと向上している。また、必ずと言っていいほど撮影後に編集作業(例えばRAW現像処理、カット編集、グレーディング、CG合成等)が行われる。そのため、編集に適した動画を撮影するためには、撮影現場で編集時と同じ現像パラメータでRAW現像処理を行い、カメラの設定や照明等の撮影条件を調整できることが望ましい。これを効率的に行うためには、4K解像度のRAWデータをキャプチャしながら実時間で編集作業時と同等の現像処理を行う必要がある。   In current film production, digital photography with RAW data is becoming common, and the resolution is also improved from the conventional 2K to 4K. In addition, editing operations (for example, RAW development processing, cut editing, grading, CG composition, and the like) are performed after shooting. Therefore, in order to shoot a moving image suitable for editing, it is desirable that RAW development processing be performed at the shooting site with the same development parameters as at the time of editing, and that shooting conditions such as camera settings and illumination be adjusted. In order to do this efficiently, it is necessary to perform development processing equivalent to that during editing work in real time while capturing RAW data of 4K resolution.

しかしながら、編集作業時に4K解像度のRAWデータに適用する現像処理は、偽色緩和処理、ノイズリダクション処理、レンズ収差補正処理等の高画質化処理が含まれているため非常に処理負荷が高い。よって、これをそのまま撮影現場で適用することは難しい。   However, since development processing applied to RAW data of 4K resolution at the time of editing work includes high-quality processing such as false color relaxation processing, noise reduction processing, and lens aberration correction processing, the processing load is extremely high. Therefore, it is difficult to apply this as it is at the shooting site.

そこで、RAW現像処理を高速化するための技術が従来技術として知られている(特許文献1)。これは、拡大表示時には光学系の補正処理を行い、FIT表示時は光学系の補正処理を行わないように現像パラメータを変更することで処理負荷を軽減させるものであった。   Therefore, a technique for speeding up the RAW development process is known as a conventional technique (Patent Document 1). This is to reduce the processing load by performing correction processing of the optical system at the time of enlarged display and changing development parameters so as not to perform correction processing of the optical system at the time of FIT display.

特開2012−10190号公報JP, 2012-10190, A

しかしながら、従来技術は、拡大表示を前提とした処理であるため、編集時の画質と画角の両方を同時に確認しながらカメラ設定や照明等の撮影条件を決定したいというユーザの要望には対応できないという課題があった。   However, since the prior art is processing on the premise of enlarged display, it can not respond to the user's request to determine shooting conditions such as camera settings and illumination while simultaneously checking both the image quality and the angle of view at the time of editing. There was a problem called.

そこで本発明では、映画等の撮影現場において、画角の確認と同時に編集作業時と同等の画質確認を実現することを目的とする。   Therefore, it is an object of the present invention to realize image quality confirmation equivalent to that at the time of editing work at the same time as confirmation of the angle of view at the shooting site such as a movie.

上記の目的を達成するために、本発明に係る画像処理装置は、
画像データ中の注目領域を設定する注目領域設定手段と、前記注目領域に対してユーザの所望する画質を実現するための画像処理を行う第一の画像処理手段と、前記画像データ全体に対して前記第一の画像処理手段と略一致する画質を高速に実現するための画像処理を行う第二の画像処理手段と、前記第一の画像処理手段で生成された画像データと前記第二の画像処理手段で生成された画像データを合成するための画像合成手段と、を備えることを特徴とする。
In order to achieve the above object, an image processing apparatus according to the present invention is
An attention area setting means for setting an attention area in image data, a first image processing means for performing image processing for realizing the image quality desired by the user to the attention area, and the whole image data A second image processing means for performing image processing to realize an image quality substantially corresponding to the first image processing means at high speed; image data generated by the first image processing means and the second image And image combining means for combining the image data generated by the processing means.

本発明に係る画像処理装置によれば、デジタルシネマ製作ワークフローにおいて画質問題に起因する再撮影のリスクを減少し、さらに撮影時の撮影条件決定作業を効率化するという効果を奏する。   The image processing apparatus according to the present invention has the effect of reducing the risk of re-shooting due to an image quality problem in a digital cinema production workflow, and further improving the efficiency of the shooting condition determination work at the time of shooting.

画像処理装置のシステム構成図である。It is a system configuration figure of an image processing device. 実施例1における画像処理装置の論理構成を示すブロック図である。FIG. 2 is a block diagram showing a logical configuration of the image processing apparatus in Embodiment 1. 実施例1における画像処理の流れを示すフローチャートである。5 is a flowchart showing the flow of image processing in Embodiment 1. 高画質RAW現像処理の流れを示すフローチャートである。5 is a flowchart showing the flow of high-quality RAW development processing. 高速RAW現像処理の流れを示すフローチャートである。5 is a flowchart showing the flow of high-speed RAW development processing. 注目領域を示す図である。It is a figure which shows an attention area. 実施例1における表示画像の表示方法を示す図である。FIG. 6 is a diagram showing a display method of a display image in the first embodiment. 実施例1におけるGUIによる注目領域設定方法を示す図である。FIG. 8 is a diagram showing a method of setting a region of interest by the GUI in the first embodiment. 実施例2における画像処理の流れを示すフローチャートである。7 is a flowchart showing the flow of image processing in the second embodiment. 実施例2における表示画像の表示方法を示す図である。FIG. 7 is a view showing a display method of a display image in the second embodiment. 実施例3における画像処理の流れを示すフローチャートである。15 is a flowchart showing the flow of image processing in the third embodiment. 実施例3における処理タイミングと表示画像を示す図である。FIG. 18 is a diagram showing processing timing and a display image in the third embodiment. 実施例2における画像処理装置の論理構成を示すブロック図である。FIG. 7 is a block diagram showing a logical configuration of the image processing apparatus in Embodiment 2. 画質評価処理の流れを示すフローチャートである。It is a flowchart which shows the flow of an image quality evaluation process. 実施例3における画像処理装置の論理構成を示すブロック図である。FIG. 13 is a block diagram showing a logical configuration of the image processing apparatus in Embodiment 3.

以下、本発明を実施するための形態について、図面を参照しながら説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1は、本実施例における画像処理装置のシステム構成を示す図である。   FIG. 1 is a diagram showing a system configuration of an image processing apparatus in the present embodiment.

画像処理装置は、CPU101、RAM102、ROM103、HDD104、入力インタフェース(I/F)105、表示インタフェース(I/F)107、撮像インタフェース(I/F)109、システムバス111で構成される。入力I/F105は、例えばUSBやIEEE1394等のシリアルバスインタフェイスである。入力I/F105は、ユーザが各種操作指示を行うためのキーボードやマウスなどの入力装置106を接続する。出力I/F107は、例えばDVIやHDMI(登録商標)等の画像出力インタフェースであり、液晶ディスプレイなどの表示装置108を接続する。撮像I/F109は、例えば、3G/HD−SDIやHDMI等の画像入力インタフェースであり、デジタルカメラやデジタルビデオカメラ、デジタルシネマカメラなどの撮像装置110を接続する。   The image processing apparatus includes a CPU 101, a RAM 102, a ROM 103, an HDD 104, an input interface (I / F) 105, a display interface (I / F) 107, an imaging interface (I / F) 109, and a system bus 111. The input I / F 105 is, for example, a serial bus interface such as USB or IEEE 1394. The input I / F 105 connects an input device 106 such as a keyboard or a mouse for the user to issue various operation instructions. The output I / F 107 is an image output interface such as DVI or HDMI (registered trademark), for example, and connects a display device 108 such as a liquid crystal display. An imaging I / F 109 is, for example, an image input interface such as 3G / HD-SDI or HDMI, and connects an imaging device 110 such as a digital camera, a digital video camera, or a digital cinema camera.

以下では、CPU101がHDD104に格納された各種ソフトウェア(コンピュータプログラム)を動作させることで実現する各種処理について述べる。   In the following, various processes realized by operating various software (computer programs) stored in the HDD 104 by the CPU 101 will be described.

まず、CPU101はHDD104に格納されている画像処理アプリケーションを起動し、RAM102に展開するとともに、表示装置108にユーザインタフェース(UI)を表示する。続いて、HDD104に格納されている各種データ、撮像装置110で撮像された画像、入力装置106からの指示などがRAM102に転送される。さらに、画像処理アプリケーション内の処理に従って、RAM102に格納されているデータはCPU101からの指令に基づき各種演算を行う。そして、演算結果を表示装置108に表示したり、HDD104に記憶したりする。   First, the CPU 101 activates an image processing application stored in the HDD 104 and expands the image processing application on the RAM 102 and displays a user interface (UI) on the display device 108. Subsequently, various data stored in the HDD 104, an image captured by the imaging device 110, an instruction from the input device 106, and the like are transferred to the RAM 102. Furthermore, in accordance with the processing in the image processing application, the data stored in the RAM 102 performs various calculations based on an instruction from the CPU 101. Then, the calculation result is displayed on the display device 108 or stored in the HDD 104.

次に、本発明による画像処理アプリケーションについて述べる。冒頭でも述べたように、例えば映画等の撮影現場では、編集作業時に実行されるRAW現像処理と同じ処理を適用して画質を確認したいという要求がある。そこで、本実施例では、RAW動画データ上の注目領域に対してはユーザが所望する画質(編集作業時の画質)を実現するためのRAW現像処理を行い、画像全体に対しては高速処理を実行可能な高速RAW現像処理を行う。そして、これら2つの現像結果を合成して出力することで、画角の確認と編集作業時と同等の画質確認の2つを同時に実現する。なお、本実施例では、RAW動画データを一般的なベイヤー配列で構成されたフレーム画像データの集合であるとして以降の説明を行う。   The image processing application according to the invention will now be described. As described at the beginning, for example, at a shooting site such as a movie, there is a demand to apply the same processing as the RAW development processing performed at the time of editing work to check the image quality. Therefore, in this embodiment, RAW development processing for realizing the image quality (image quality at the time of editing work) desired by the user is performed on the attention area on the RAW moving image data, and high-speed processing is performed on the entire image. Perform executable high-speed RAW development processing. Then, by combining these two development results and outputting them, both the confirmation of the angle of view and the image quality confirmation equivalent to that at the editing operation are realized simultaneously. In the present embodiment, the following description will be made assuming that RAW moving image data is a set of frame image data configured in a general Bayer arrangement.

<画像処理装置の論理構成>
図2は、本実施例における画像処理装置の論理構成を示すブロック図である。
<Logical Configuration of Image Processing Device>
FIG. 2 is a block diagram showing the logical configuration of the image processing apparatus in this embodiment.

画像データ取得部201は、CPU101からの指示に基づき、撮像装置110あるいはHDD104からRAW動画データを取得する。注目領域情報取得部202は、CPU101からの指示に基づき、注目領域情報をHDD104あるいは入力装置106から取得する。高画質RAW現像処理部203は、CPU101からの指示に基づき、RAW動画データ中の処理対象フレーム画像データの注目領域に対して高画質RAW現像処理を行い、高画質RAW現像済画像データを生成する。生成した画像データはRAM102に記憶される。高速RAW現像処理部204は、CPU101からの指示に基づき、RAW動画データ中の処理対象フレーム画像データ全体に対して高速RAW現像処理を行い、高速RAW現像済画像データを生成する。生成した画像データはRAM102に記憶される。画像データ出力部205は、CPU101からの指示に基づき、高画質RAW現像済画像データと高速RAW現像済画像データを表示装置108やHDD104などに出力する。   The image data acquisition unit 201 acquires RAW moving image data from the imaging device 110 or the HDD 104 based on an instruction from the CPU 101. The attention area information acquisition unit 202 acquires attention area information from the HDD 104 or the input device 106 based on an instruction from the CPU 101. The high-quality RAW development processing unit 203 performs high-quality RAW development processing on a target area of processing target frame image data in RAW moving image data based on an instruction from the CPU 101, and generates high-quality RAW developed image data. . The generated image data is stored in the RAM 102. The high-speed RAW development processing unit 204 performs high-speed RAW development processing on the entire processing target frame image data in the RAW moving image data based on an instruction from the CPU 101 to generate high-speed RAW developed image data. The generated image data is stored in the RAM 102. The image data output unit 205 outputs the high-quality RAW developed image data and the high-speed RAW developed image data to the display device 108 or the HDD 104 based on an instruction from the CPU 101.

<メイン処理フロー>
以下では、図2で説明した画像処理装置の論理構成における各処理の詳細について、図3のフローチャートを用いて説明する。
<Main processing flow>
Hereinafter, details of each process in the logical configuration of the image processing apparatus described with reference to FIG. 2 will be described using the flowchart of FIG. 3.

ステップS301において、画像データ取得部201は、入力画像データとして幅W、高さHの解像度のRAW動画データを取得する。   In step S301, the image data acquisition unit 201 acquires RAW moving image data with a resolution of width W and height H as input image data.

ステップS302において、注目領域情報取得部202は、予め設定された注目領域情報を取得する。注目領域情報とは、少なくとも領域の位置と大きさを含む情報であり、例えば本実施例では図6に示すように、領域の中央座標(Xroi,Yroi)と領域の幅Wroiと高さHroiで構成される。なお、注目領域の大きさは、画像処理装置の性能に合わせて高画質RAW現像処理を実時間で実行可能なサイズに設定されているものとする。 In step S302, the attention area information acquisition unit 202 acquires attention area information set in advance. The attention area information is information including at least the position and size of the area, and for example, as shown in FIG. 6 in the present embodiment, the central coordinates (X roi , Y roi ) of the area and the width W roi of the area and the height It consists of H roi . Note that the size of the attention area is set to a size that allows high-quality RAW development processing to be performed in real time in accordance with the performance of the image processing apparatus.

ステップS303において、高画質RAW現像処理部203は、ステップS301で取得したRAW動画データ中の処理対象フレーム画像データの注目領域に対して高画質RAW現像処理を行い、幅Wroi、高さHroiの解像度の高画質RAW現像済画像データを生成する。高画質RAW現像処理の詳細は後述する。 In step S303, the high-quality RAW development processing unit 203 performs high-quality RAW development processing on the target area of the processing target frame image data in the RAW moving image data acquired in step S301, and the width W roi , height H roi Generate high quality RAW developed image data of resolution of. Details of the high image quality RAW development processing will be described later.

ステップS304において、高速RAW現像処理部204は、ステップS301で取得したRAW動画データ中の処理対象フレーム画像データ全体に対して高速RAW現像処理を行い、幅W、高さHの解像度の高速RAW現像済画像データを生成する。高速RAW現像処理の詳細は後述する。   In step S304, the high-speed RAW development processing unit 204 performs high-speed RAW development processing on the entire processing target frame image data in the RAW moving image data acquired in step S301, and performs high-speed RAW development with a resolution of width W and height H. Generated image data. Details of the high-speed RAW development processing will be described later.

ステップS305において、画像データ出力部205は、ステップS303で生成した高画質RAW現像済画像データとステップS304で生成した高速RAW現像済画像データを合成して表示画像データを生成し、出力する。本実施例における表示画像データを図7に示す。注目領域については高画質RAW現像済画像データが表示され、注目領域以外は高速RAW現像済画像が表示されるように、それぞれの画像を合成した画像データとなっている。   In step S305, the image data output unit 205 combines the high-quality RAW developed image data generated in step S303 and the high-speed RAW developed image data generated in step S304 to generate display image data. Display image data in the present embodiment is shown in FIG. The high quality RAW developed image data is displayed for the attention area, and the high speed RAW developed image is displayed except for the attention area.

<高画質RAW現像処理>
以下では、図3のステップS303における高画質RAW現像処理の詳細について、図4のフローチャートを用いて説明する。
<High-quality RAW development processing>
Hereinafter, details of the high-image-quality RAW development processing in step S303 of FIG. 3 will be described using the flowchart of FIG.

ステップS401において、ステップS302で取得した注目領域情報に基づき、ステップS301で取得したRAW動画データ中の処理対象フレーム画像データから、注目領域に対応する画像データを取得する。つまり、幅Wroi、高さHroiの解像度のベイヤー配列で構成された画像データを得る。なお、後述する各種フィルタ処理のアルゴリズムによっては処理対象画素の周辺画素の情報を必要とする場合があるため、注目領域の上下左右に数画素のマージンを持たせて取得するようにしてもよい。 In step S401, based on the attention area information acquired in step S302, image data corresponding to the attention area is acquired from the processing target frame image data in the RAW moving image data acquired in step S301. That is, image data composed of a Bayer array of resolution of width W roi and height H roi is obtained. Note that since information of peripheral pixels of the processing target pixel may be required depending on an algorithm of various filter processes to be described later, a margin of several pixels may be provided with upper, lower, left, and right of the attention area.

ステップS402において、ステップS401で取得した注目領域の画像データに対して公知のホワイトバランス処理を行う。   In step S402, known white balance processing is performed on the image data of the region of interest acquired in step S401.

ステップS403において、ステップS402で得られるホワイトバランス処理後の画像データに対してデベイヤー処理を行う。デベイヤー処理とは、ベイヤー配列の画像データから各画素に対してRGBの全ての色成分の揃った画像データに変換する処理である。ベイヤー配列の状態では、各画素はR、G、Bのどれか1つの色成分しか保持していないため、それ以外の色成分については周囲の画素から補間処理によって埋める必要がある。この補間処理には、バイリニア法やバイキュービック法などの基本的な補間手法を用いてもよいし、例えば色の相関を用いて高画質化を図る手法などを用いてもよい。様々なデベイヤーアルゴリズムが適用可能である。また、偽解像緩和処理や偽色処理などを同時に適用するようにしてもよい。   In step S403, the image processing after the white balance processing obtained in step S402 is subjected to the debayering processing. The debayering process is a process of converting the image data of the Bayer array into image data in which all the color components of RGB are uniformed for each pixel. In the Bayer arrangement, each pixel holds only one of R, G, and B color components, and for the other color components, it is necessary to interpolate surrounding pixels from the surrounding pixels. For this interpolation processing, a basic interpolation method such as a bilinear method or a bicubic method may be used, or for example, a method for achieving high image quality using color correlation may be used. Various DeBeer algorithms are applicable. In addition, it is possible to simultaneously apply false resolution alleviation processing, false color processing, and the like.

ステップS404において、ステップS403で得られるデベイヤー処理後の画像データに対して、エッジ保存型平滑化フィルタであるバイラテラルフィルタを用いてノイズリダクション処理を行う。なお、ノイズリダクション処理には、様々な公知のノイズリダクションアルゴリズムを適用可能である。例えば、基本的な平滑化フィルタやメディアンフィルタを用いてもよい。   In step S404, noise reduction processing is performed on the image data after the debayering processing obtained in step S403 using a bilateral filter, which is an edge preserving smoothing filter. Note that various known noise reduction algorithms can be applied to the noise reduction process. For example, a basic smoothing filter or median filter may be used.

ステップS405において、ステップS404で得られるノイズリダクション処理後の画像データに対して、ICCプロファイルを用いて撮像装置のデバイスRGBからsRGBなどの規定の色空間への色変換処理を行う。なお、この色変換処理にはICCプロファイルを用いる方法以外にも、例えばLUTやマトリクスを用いる方法など様々な色変換処理が適用可能である。   In step S405, color conversion processing from the device RGB of the imaging apparatus to a prescribed color space such as sRGB is performed on the image data after noise reduction processing obtained in step S404 using an ICC profile. In addition to the method of using the ICC profile, various color conversion processes such as a method of using a LUT or a matrix can be applied to this color conversion process.

ステップS406において、ステップS405で得られる変換処理後の画像データに対してガンマ補正処理を行う。   In step S406, gamma correction processing is performed on the image data after conversion processing obtained in step S405.

ステップS407において、ステップS406で得られるガンマ補正処理後の画像データに対してアンシャープマスク法によりエッジ強調処理を行う。なお、エッジ強調処理には、アンシャープマスク法以外にも公知の様々なエッジ強調アルゴリズムが適用可能である。   In step S407, edge enhancement processing is performed on the image data after gamma correction processing obtained in step S406 by the unsharp mask method. Note that various known edge enhancement algorithms other than the unsharp mask method can be applied to the edge enhancement processing.

<高速RAW現像処理>
以下では、図3のステップS304における高速RAW現像処理の詳細について、図5のフローチャートを用いて説明する。
<High-speed RAW development processing>
Details of the high-speed RAW development processing in step S304 of FIG. 3 will be described below using the flowchart of FIG.

ステップS501において、ステップS301で取得したRAW動画データ中の処理対象フレーム画像データを取得する。つまり、幅W、高さHの解像度のベイヤー配列で構成された画像データが得られることになる。   In step S501, processing target frame image data in the RAW moving image data acquired in step S301 is acquired. That is, image data composed of a Bayer array of resolution of width W and height H can be obtained.

ステップS502において、ステップS501で取得した画像データに対してホワイトバランス処理を行う。ステップS402と同様な処理であるため詳細な説明は省略する。   In step S502, white balance processing is performed on the image data acquired in step S501. The process is the same as that in step S402, and thus the detailed description is omitted.

ステップS503において、ステップS502で得られるホワイトバランス処理後の画像データに対してデベイヤー処理を行う。ステップS403と同様な処理であるため詳細な説明は省略する。   In step S503, the image processing after the white balance processing obtained in step S502 is subjected to the debayering processing. The process is the same as that in step S403, and thus the detailed description is omitted.

ステップS504において、ステップS503で得られるデベイヤー処理後の画像データに対して色変換処理を行う。ステップS405と同様な処理であるため詳細な説明は省略する。   In step S504, color conversion processing is performed on the image data after the debayering processing obtained in step S503. The process is the same as that of step S405, and thus the detailed description is omitted.

ステップS505において、ステップS504で得られる色変換処理後の画像データに対してガンマ処理を行う。   In step S505, gamma processing is performed on the color-converted image data obtained in step S504.

以上の処理により、注目領域に対しては編集作業時と同等の高画質なRAW現像処理を適用し、それ以外の領域に対しては高速なRAW現像処理を適用することで、ユーザの所望する画質の確認と画角の確認の両方を同時に実現することができる。   According to the above processing, the user can desire the user to apply the high quality RAW development processing equivalent to that at the editing work to the attention area and apply the high speed RAW development processing to the other areas. Both confirmation of image quality and confirmation of angle of view can be realized simultaneously.

なお、本実施例では、注目領域をHDD等から取得する例について説明したが、この代わりに注目領域情報をユーザに設定させてもよい。図8に注目領域設定UIの例を示す。ユーザは、注目領域の中央座標(Xroi,Yroi)と領域の幅Wroi、高さHroiの情報をエディットボックスを通して入力する。この際、設定された注目領域に対して、高画質RAW現像処理を実時間で実行可能かどうかを判定し、実時間で実行できない場合には実時間で処理できない旨の警告を、画面表示あるいは音声等でユーザに提示する。なお、判定処理は、例えば1フレームの画像データに対して実際に処理を行うことで実行する。あるいは、予め実時間で処理可能な注目領域の大きさの最大値を決めておき、これに基づきユーザからの入力を制限するようにしてもよい。なお、本実施例では、エディットボックスによる領域設定方法について示したが、ユーザによる領域設定方法はこれに限るものではない。例えば、マウスや視線入力デバイス等を使用して座標と大きさを設定するようにしてもよいことは言うまでもない。 In the present embodiment, an example of acquiring the attention area from the HDD or the like has been described, but instead, attention area information may be set by the user. FIG. 8 shows an example of the attention area setting UI. The user inputs information on the central coordinate (X roi , Y roi ) of the region of interest, the width W roi of the region, and the height H roi through the edit box. At this time, it is determined whether high-quality RAW development processing can be performed in real time with respect to the set attention area, and if it can not be performed in real time, a warning that the processing can not be performed in real time is displayed Present to the user by voice etc. The determination process is performed by actually performing processing on image data of one frame, for example. Alternatively, the maximum value of the size of the attention area that can be processed in real time may be determined in advance, and the input from the user may be limited based on this. In the present embodiment, although the area setting method by the edit box is described, the area setting method by the user is not limited to this. For example, it goes without saying that the coordinates and the size may be set using a mouse, a line-of-sight input device or the like.

また、高画質RAW現像処理および高速RAW現像処理の処理内容や処理順は、本実施例で説明した処理に限るものではない。つまり、注目領域にはユーザが所望する画質を実現するための高画質RAW現像処理を適用し、それ以外の領域には広範囲に実時間処理を実現するための高速RAW現像処理を適用するようなものであれば、どのような処理、および処理順であってもかまわない。例えば、注目領域に対しては、高画質RAW現像処理に偽色緩和処理やレンズ収差補正処理等のその他の高画質化処理が含まれていてもよい。また、高速RAW現像処理についても、デベイヤー処理をより高速に行うために縦横それぞれの解像度を半分に落とした処理にするなど、あらゆる高速化処理を適用可能である。さらに、高速RAW現像処理全体を高画質RAW現像処理全体よりも前に実行してもよいし、あるいはこれらを並列に実行してもよいことは言うまでもない。   Further, the processing content and processing order of the high-quality RAW development processing and the high-speed RAW development processing are not limited to the processing described in the present embodiment. In other words, high quality RAW development processing to realize the image quality desired by the user is applied to the attention area, and high speed RAW development processing to realize real time processing over a wide range is applied to the other areas. As long as it is a thing, what kind of process and process order may be used. For example, for the attention area, the high-quality RAW development process may include other high-quality processing such as false color alleviation processing and lens aberration correction processing. Further, also for high-speed RAW development processing, all kinds of high-speed processing can be applied, such as processing in which the vertical and horizontal resolutions are reduced to half in order to perform debayer processing at high speed. Furthermore, it goes without saying that the entire high-speed RAW development processing may be executed before the entire high-quality RAW development processing, or these may be executed in parallel.

なお、本実施例で説明した処理を実行するかどうかをユーザに選択させる表示モード設定手段を設け、ユーザによる実行意思があるときにだけ本実施例で説明した処理を適用するようにしてもかまわない。例えば、画像全体を同一のパラメータでRAW現像して表示するプレビューモードと、本実施例で説明した処理を適用することでユーザの所望する画質を確認するための表示モードを設け、後者のモードが選択されたときにだけ、本実施例で説明した処理を適用するようにしてもよい。   A display mode setting unit may be provided which allows the user to select whether or not to execute the process described in the present embodiment, and the process described in the present embodiment may be applied only when the user intends to execute the process. Absent. For example, a preview mode in which the entire image is subjected to RAW development with the same parameters and displayed, and a display mode for confirming the image quality desired by the user by applying the processing described in this embodiment are provided. The processing described in the present embodiment may be applied only when selected.

実施例1では、画像処理アプリケーションにRAW動画データを入力し、画像全体と注目領域のそれぞれに対して異なる現像パラメータで現像処理を行うことで画像データを生成し、これを出力する処理について説明した。本実施例では、注目領域の現像処理後の画像データに対して、さらに画質評価処理を行い、この画質評価値を画像データとともに出力する処理について説明する。   In the first embodiment, processing for generating image data by outputting RAW moving image data to an image processing application and performing development processing with different development parameters for each of the entire image and the area of interest has been described. . In this embodiment, an image quality evaluation process is further performed on image data after development processing of the attention area, and a process of outputting the image quality evaluation value together with the image data will be described.

図13は、本実施例における画像処理装置の論理構成を示すブロック図である。図2で説明した実施例1における画像処理装置の論理構成を示すブロック図に画質評価処理部1301が付加された構成となっている。   FIG. 13 is a block diagram showing the logical configuration of the image processing apparatus in the present embodiment. The image quality evaluation processing unit 1301 is added to the block diagram showing the logical configuration of the image processing apparatus according to the first embodiment described with reference to FIG.

画質評価処理部1301は、CPU101からの指示に基づき、高画質RAW現像済画像に対して画質評価処理を行い、画質評価値を導出する。なお、実施例1との重複部分については説明は省略する。   The image quality evaluation processing unit 1301 performs image quality evaluation processing on the high-quality RAW developed image based on an instruction from the CPU 101, and derives an image quality evaluation value. The description of the same parts as in the first embodiment will be omitted.

以下では、図13で説明した画像処理装置の論理構成における各処理の詳細について、図9のフローチャートを用いて説明する。   Hereinafter, details of each process in the logical configuration of the image processing apparatus described with reference to FIG. 13 will be described with reference to the flowchart of FIG.

ステップS901において、画像データ取得部201は、入力画像データとして幅W、高さHの解像度のRAW動画データを取得する。   In step S901, the image data acquisition unit 201 acquires RAW moving image data with a resolution of width W and height H as input image data.

ステップS902において、注目領域情報取得部202は、予め設定された注目領域情報を取得する。注目領域情報とは、少なくとも領域の位置と大きさを含む情報であり、例えば図6に示すように、領域の中央座標(Xroi,Yroi)と領域の幅Wroiと高さHroiで構成される。なお、注目領域の大きさは、画像処理装置の性能に合わせて高画質RAW現像処理を実時間で実行可能なサイズに設定されている必要ものとする。 In step S902, the attention area information acquisition unit 202 acquires attention area information set in advance. The attention area information is information including at least the position and size of the area, and for example, as shown in FIG. 6, the center coordinates (X roi , Y roi ) of the area, the width W roi of the area, and the height H roi Configured Note that the size of the attention area needs to be set to a size that allows high-quality RAW development processing to be performed in real time in accordance with the performance of the image processing apparatus.

ステップS903において、高画質RAW現像処理部203は、ステップS901で取得したRAW動画データ中の処理対象フレーム画像データの注目領域に対して高画質RAW現像処理を行い、幅Wroi、高さHroiの解像度の高画質RAW現像済画像データを生成する。高画質RAW現像処理の詳細は、実施例1と同様であるため説明は省略する。 In step S903, the high-quality RAW development processing unit 203 performs high-quality RAW development processing on the target area of the processing target frame image data in the RAW moving image data acquired in step S901, and the width W roi , height H roi Generate high quality RAW developed image data of resolution of. The details of the high-quality RAW development processing are the same as in the first embodiment, and thus the description thereof is omitted.

ステップS904において、画質評価処理部1301は、ステップS903で生成された高画質RAW現像済画像データに対して画質評価処理を行い、画質評価値を算出する。画質評価処理の詳細は後述する。   In step S904, the image quality evaluation processing unit 1301 performs image quality evaluation processing on the high-quality RAW developed image data generated in step S903, and calculates an image quality evaluation value. Details of the image quality evaluation process will be described later.

ステップS905において、高速RAW現像処理部204は、ステップS901で取得したRAW動画データ中の処理対象フレーム画像データ全体に対して高速RAW現像処理を行い、幅W、高さHの解像度の高速RAW現像済画像データを生成する。高速RAW現像処理の詳細は、実施例1と同様であるため説明は省略する。   In step S905, the high-speed RAW development processing unit 204 performs high-speed RAW development processing on the entire processing target frame image data in the RAW moving image data acquired in step S901, and performs high-speed RAW development with resolution of width W and height H. Generated image data. The details of the high-speed RAW development processing are the same as in the first embodiment, and thus the description thereof is omitted.

ステップS906において、画像データ出力部205は、ステップS903で生成した高画質RAW現像済画像データとステップS905で生成した高速RAW現像済画像データを合成して表示画像データを生成し、ステップS904で算出した画質評価値とともに出力する。本実施例における表示画像の表示方法の例を図10に示す。例えば、注目領域については高画質RAW現像済画像データを表示し、注目領域以外は高速RAW現像済画像を表示する。さらに注目領域の画質評価値を画像の上に重畳表示する(図10(a))。一方、画像全体に対して高速RAW現像処理済画像を表示し、これに注目領域の画質評価値を重畳表示することも考えられる(図10(b))。例えば、本実施例では、図10(a)の方法で情報を提示する。   In step S906, the image data output unit 205 combines the high-quality RAW developed image data generated in step S903 and the high-speed RAW developed image data generated in step S905 to generate display image data, and calculation is performed in step S904. Output together with the evaluated image quality evaluation value. An example of the display method of the display image in the present embodiment is shown in FIG. For example, high quality RAW developed image data is displayed for the area of interest, and a high speed RAW developed image is displayed for areas other than the area of interest. Further, the image quality evaluation value of the region of interest is superimposed and displayed on the image (FIG. 10A). On the other hand, it is also conceivable to display an image subjected to high-speed RAW development processing over the entire image and to display the image quality evaluation value of the attention area superimposed thereon (FIG. 10 (b)). For example, in the present embodiment, the information is presented by the method of FIG.

<画質評価処理>
本実施例では、ノイズを評価対象の画質項目として説明を行う。画像に対する画質評価値としてノイズ量を算出する方法について、図14のフローチャートを用いて説明する。
<Image quality evaluation process>
In the present embodiment, noise is described as an image quality item to be evaluated. A method of calculating the amount of noise as an image quality evaluation value for an image will be described using the flowchart of FIG.

ステップS1401において、高画質RAW現像済画像データ中の各画素のRGB値を取得する。
ステップS1402において、各画素のRGB値に対してRGB値から3刺激値であるXYZ値への変換処理を行う。変換はsRGB、AdobeRGBなど規定の方法で行う。
In step S1401, RGB values of each pixel in high-quality RAW developed image data are acquired.
In step S1402, the RGB values of each pixel are converted from RGB values into XYZ values which are tristimulus values. Conversion is performed by a specified method such as sRGB or Adobe RGB.

α、β、γ、a11〜a33は規定の係数である。 α, β, γ and a11 to a33 are prescribed coefficients.

ステップS1403において、各画素のXYZ値をCIEで規定されている変換式を用いてLab値に変換する。   In step S1403, the XYZ values of each pixel are converted into Lab values using a conversion equation defined by CIE.

ステップS1404において、各画素のLabを用いて標準偏差σ、σ、σを計算する。 In step S1404, standard deviations σ L , σ a , σ b are calculated using Lab of each pixel.

ステップS1405において、評価値Pとして各標準偏差を重みづけした和を計算する。   In step S1405, a sum obtained by weighting each standard deviation as the evaluation value P is calculated.

なお、重み係数A、B、Cは任意の係数であり、明度Lと色成分abで知覚されるノイズ量と一致するように予めA、B、Cの値を決定しておけば、知覚に一致したノイズ量Pを計算することができる。なお、算出方法は これに限らず、たとえば、ウィーナースペクトルやRMS粒状度などでもよいが、算出したノイズ量と知覚されるノイズ強度が一致していることが望ましい。また、複数フレーム間の画像を解析して動画のノイズ量を計算してもよい。 The weighting factors A, B and C are arbitrary coefficients, and if the values of A, B and C are determined in advance so as to coincide with the amount of noise perceived by the lightness L and the color component ab The matched noise amount P can be calculated. The calculation method is not limited to this, and may be, for example, Wiener spectrum or RMS granularity, but it is desirable that the calculated amount of noise matches the perceived noise intensity. Also, the amount of noise of a moving image may be calculated by analyzing an image between a plurality of frames.

なお、本実施例ではノイズ量を画質評価処理の対象として説明したが、ノイズ以外にも階調性、コントラスト、フォーカス、ジャギー、ジャーキネス、色再現性など他の画質項目を画質評価処理の対象として設定してもよい。また、これらを複数組み合わせて画質評価処理を実行してもかまわない。   Although the noise amount has been described as the target of the image quality evaluation processing in this embodiment, other image quality items such as gradation, contrast, focus, jaggy, jerkiness, color reproducibility and the like are also targets of the image quality evaluation processing other than noise. It may be set. Also, the image quality evaluation process may be executed by combining a plurality of these.

以上説明した処理により、ユーザの所望する画質と画角の両方を同時に確認可能にし、さらに画質評価値を算出して表示することで画質の定量的な確認を実現する。   By the above-described processing, it is possible to simultaneously check both the image quality and the angle of view desired by the user, and by calculating and displaying the image quality evaluation value, quantitative confirmation of the image quality is realized.

なお、実施例1と同様に、高速RAW現像処理を高画質RAW現像処理よりも前に実行してもよいことは言うまでもない。   Needless to say, as in the first embodiment, the high-speed RAW development process may be performed before the high-quality RAW development process.

本実施例では、実施例1で説明した各処理を実行する画像処理装置の処理能力が低い場合に、注目領域に対する処理を優先的に実行することで画質確認の精度を保つ方法について説明する。   In this embodiment, when the processing capability of the image processing apparatus that executes each processing described in the first embodiment is low, a method of maintaining the accuracy of image quality confirmation by preferentially executing processing on the attention area will be described.

画角の確認とユーザの所望する画質の確認を適切に行うためには、実施例1で説明した各処理が実時間で終わっている必要がある。例えば、24fpsの動画を処理する場合は、1/24秒以内に、全ての処理が終わっている必要がある。しかし、これらの処理を実行する画像処理装置の処理能力が低い場合、全ての処理が実時間に間に合わない可能性がある。もし、これらの処理が実時間に終わらない場合、表示にコマ落ちが発生してしまう。つまり、24fpsの動画が例えば1コマ置きの12fpsで表示されるような状態が発生し、これにより動画の画質確認を適切に行うことは難しくなる。例えば、映画等の撮影現場では、画像処理装置として性能のそれほど高くないノートPCを利用することが多々あり、このようなケースでは前述の問題が発生する可能性が高い。   In order to properly confirm the angle of view and the image quality desired by the user, each process described in the first embodiment needs to be completed in real time. For example, in the case of processing a 24 fps moving image, all processing needs to be completed within 1/24 seconds. However, if the processing capacity of the image processing apparatus that executes these processes is low, all the processes may not be in real time. If these processes do not finish in real time, a frame drop will occur on the display. In other words, a situation occurs in which a 24 fps moving image is displayed at, for example, 12 fps every other frame, which makes it difficult to properly confirm the image quality of the moving image. For example, in a shooting site such as a movie, a notebook PC with low performance is often used as an image processing apparatus, and in such a case, the above-mentioned problem is likely to occur.

本実施例では、注目領域に対する処理を優先的に実行し、残りの時間で注目領域以外に対する処理を実行することで注目領域のコマ落ちを抑制する。注目領域以外については優先度を落として処理を行うために、場合によってはコマ落ちが発生することになるが、画角を大きく変化させている場合を除き、画角の確認は必ずしもフルフレームで表示されていなくても十分可能であり、これが大きな弊害とはならない。   In the present embodiment, the processing for the region of interest is preferentially executed, and the processing for the areas other than the region of interest is performed in the remaining time, thereby suppressing the frame dropping of the region of interest. In order to lower the priority for processing in areas other than the area of interest, dropping frames may occur in some cases, but confirmation of the angle of view is necessarily performed in full frame unless the angle of view is largely changed. Even if it is not displayed, it is possible enough, and this is not a big disadvantage.

次に、本実施例における画像処理装置の論理構成と各処理の詳細について説明する。図15は、本実施例における画像処理装置の論理構成を示すブロック図である。図2で説明した実施例1における画像処理装置の論理構成を示すブロック図に処理順制御部1501が付加された構成となっている。処理順制御部1501は、CPU101からの指示に基づき、高画質RAW現像処理を優先的に行うように処理順を制御する。なお、実施例1との重複部分については説明は省略する。   Next, the logical configuration of the image processing apparatus in the present embodiment and the details of each process will be described. FIG. 15 is a block diagram showing the logical configuration of the image processing apparatus in this embodiment. A processing order control unit 1501 is added to the block diagram showing the logical configuration of the image processing apparatus in the first embodiment described with reference to FIG. The processing order control unit 1501 controls the processing order so that high image quality RAW development processing is preferentially performed based on an instruction from the CPU 101. The description of the same parts as in the first embodiment will be omitted.

以下、図2で説明した画像処理装置の論理構成における本実施例での各処理の詳細について、図11のフローチャートを用いて説明する。   The details of each process in the present embodiment in the logical configuration of the image processing apparatus described with reference to FIG. 2 will be described below using the flowchart of FIG.

ステップS1101において、処理順制御部1501は、高画質RAW現像処理および高速RAW現像処理においてそれぞれの処理対象となるフレーム画像データのフレーム番号と、それぞれの現像処理における処理ステートを取得する。処理ステートはフレーム画像データに対して現像処理がどこまで終了したかを示す情報である。例えば、本実施例における処理ステートは、次の処理の開始位置を示すx方向、y方向の画素位置、現像処理のフロー中のどの処理まで終了したかを示すフラグ等を含む。   In step S1101, the processing order control unit 1501 acquires the frame number of the frame image data to be processed in each of the high image quality RAW development processing and the high speed RAW development processing, and the processing state in each development processing. The processing state is information indicating how far the development processing has ended for the frame image data. For example, the processing state in the present embodiment includes pixel positions in the x direction and y direction indicating the start position of the next processing, a flag indicating which processing in the flow of development processing has been completed, and the like.

ステップS1102において、画像データ取得部201は、入力画像データとして幅W、高さHの解像度のRAW動画データを取得する。なお、このRAW動画データは、ステップS1101で取得した処理対象のフレーム番号に対応するデータを含む。   In step S1102, the image data acquisition unit 201 acquires RAW moving image data with a resolution of width W and height H as input image data. Note that this RAW moving image data includes data corresponding to the processing target frame number acquired in step S1101.

ステップS1103において、注目領域情報取得部202は、予め設定された注目領域情報を取得する。注目領域情報とは、少なくとも領域の位置と大きさを含む情報であり、例えば図6に示すように、領域の中央座標(Xroi,Yroi)と領域の幅Wroiと高さHroiで構成される。なお、注目領域の大きさは、画像処理装置の性能に合わせて高画質RAW現像処理がリアルタイムに実行可能なサイズに設定されている必要がある。 In step S1103, the attention area information acquisition unit 202 acquires attention area information set in advance. The attention area information is information including at least the position and size of the area, and for example, as shown in FIG. 6, the center coordinates (X roi , Y roi ) of the area, the width W roi of the area, and the height H roi Configured The size of the region of interest needs to be set to a size that allows high-quality RAW development processing to be performed in real time in accordance with the performance of the image processing apparatus.

ステップS1104において、高画質RAW現像処理部203は、ステップS1102で取得したRAW動画データからステップS1101で取得した処理対象のフレーム番号に対応するフレーム画像データを処理対象フレーム画像データとして取得する。そして、この処理対象フレーム画像データの注目領域に対して高画質RAW現像処理を行い、幅Wroi、高さHroiの解像度の高画質RAW現像済画像データを生成する。高画質RAW現像処理の詳細は、実施例1と同様であるため説明は省略する。 In step S1104, the high image quality RAW development processing unit 203 acquires frame image data corresponding to the processing target frame number acquired in step S1101 from the RAW moving image data acquired in step S1102 as processing object frame image data. Then, high quality RAW development processing is performed on the attention area of the processing target frame image data to generate high quality RAW developed image data having a resolution of width W roi and height H roi . The details of the high-quality RAW development processing are the same as in the first embodiment, and thus the description thereof is omitted.

ステップS1105において、高速RAW現像処理部204は、ステップS1102で取得したRAW動画データからステップS1101で取得した処理対象のフレーム番号に対応するフレーム画像データを処理対象フレーム画像データとして取得する。そして、この処理対象フレーム画像データ全体に対して高速RAW現像処理を行い、幅W、高さHの解像度の高速RAW現像済画像データを生成する。高速RAW現像処理の詳細は、実施例1と同様であるため説明は省略する。   In step S1105, the high-speed RAW development processing unit 204 acquires frame image data corresponding to the processing target frame number acquired in step S1101 from the RAW moving image data acquired in step S1102 as processing object frame image data. Then, high-speed RAW development processing is performed on the entire processing target frame image data to generate high-speed RAW developed image data having a resolution of width W and height H. The details of the high-speed RAW development processing are the same as in the first embodiment, and thus the description thereof is omitted.

ステップS1106において、処理順制御部1501は、高画質RAW現像処理および高速RAW現像処理のそれぞれの現像処理において、処理対象のフレーム画像データに対して現像処理フローの全ての処理が終了していれば、フレーム番号を次に処理すべきフレーム番号に更新する。もし、全ての処理が終了していない場合はフレーム番号を更新しない。さらに、それぞれの現像処理において、次の処理の開始位置を示すx方向、y方向の画素位置や、処理フローのどの処理まで終了したかを示すフラグを処理ステートとして記憶する。   In step S1106, the processing order control unit 1501 determines that all processing of the development processing flow for the frame image data to be processed is completed in the development processing of the high-quality RAW development processing and the high-speed RAW development processing. , Updates the frame number to the next frame number to be processed. If all processing has not been completed, the frame number is not updated. Furthermore, in each development process, a pixel position in the x direction and y direction indicating the start position of the next process, and a flag indicating which process of the process flow has been completed are stored as a process state.

ステップS1107において、画像データ出力部205は、ステップS1104で生成した高画質RAW現像済画像データとステップS1105で生成した高速RAW現像済画像データを合成して表示画像データを生成して出力する。この際、処理ステートを参照して全ての処理が終了しているフレームのうち最も新しいフレーム画像を使用する。   In step S1107, the image data output unit 205 combines the high-quality RAW developed image data generated in step S1104 and the high-speed RAW developed image data generated in step S1105 to generate and output display image data. At this time, the most recent frame image of the frames for which all processing has been completed is used with reference to the processing state.

次に、本実施例におけるそれぞれの現像処理の処理タイミングと表示画像データの一例を図12に示す。図12では、横軸に時間tをとっており、24fpsのRAW動画データを処理して表示する例について示している。   Next, FIG. 12 shows an example of processing timing of each development processing and display image data in the present embodiment. In FIG. 12, time t is taken on the horizontal axis, and an example of processing and displaying 24 fps RAW moving image data is shown.

時間tn−1からtまでの1/24秒間の処理に着目すると、まず、フレーム番号fの画像データの注目領域に対する高画質RAW現像処理を最優先で実行し、残りの時間でフレーム番号fの画像データ全体に対する高速RAW現像処理を行っている。この1/24秒間では、注目領域に対する処理は100%、画像全体に対する処理は50%終了しており、それぞれの現像処理に対してこの状態を示す処理ステートが記憶される。具体的には、注目領域に対しては処理対象フレーム番号を1だけ更新してfn+1とし、画像全体に対しては処理対象フレーム番号はfのままとする。また、注目領域に対しては処理が完了しており、画像全体に対しては処理が50%しか終了していないという情報も併せて記憶する。この時点で画面に表示される画像は、注目領域についてはフレーム番号fの画像データとなり、それ以外の領域についてはフレーム番号fに対する処理が完了していないため、すでに処理が完了しているフレーム番号fn−2の画像データが表示画像として画面に表示される。 Focusing on the processing of 1/24 seconds from time t n-1 to t n , first, the high-quality RAW development processing on the attention area of the image data of frame number f n is executed with the highest priority, and the remaining time is a frame High-speed RAW development processing is performed on the entire image data of number f n . In this 1/24 second, the processing for the attention area is 100% and the processing for the entire image is 50% completed, and processing states indicating this state are stored for each development processing. Specifically, for the region of interest, the process target frame number is updated by 1 to be f n + 1, and for the entire image, the process target frame number remains f n . Further, information that the processing has been completed for the attention area and only 50% of the processing for the entire image is also stored. The image displayed on the screen at this time is the image data of the frame number f n for the attention area, and the processing for the frame number f n is not completed for the other areas, so the processing is already completed. The image data of the frame number f n-2 is displayed on the screen as a display image.

次に、時間tからtn+1までの1/24秒間の処理に着目すると、まず、フレーム番号fn+1の画像データの注目領域に対する高画質RAW現像処理を最優先で実行し、残りの時間でフレーム番号fの画像データの画像全体に対する高速RAW現像処理を行っている。後者の高速RAW現像処理は、前の1/24秒間の処理において50%まで処理が終わっているという処理ステートが記憶されており、この1/24秒間ではこの続きから処理を行う。この1/24秒間では、注目領域に対する処理はフレーム番号fn+1の画像データに対して100%、画像全体に対する処理はフレーム番号fの画像データに対して100%終了しており、それぞれの現像処理に対してこの状態を示す処理ステートが記憶される。具体的には、注目領域に対しては処理対象フレーム番号を1だけ更新してfn+2とし、画像全体に対しては注目領域に合わせて処理対象フレーム番号をfn+2に更新する。また、注目領域と画像全体のそれぞれに対して処理が完了しているという情報も併せて記憶する。この時点で画面に表示される画像は、注目領域についてはフレーム番号fn+1の画像データとなり、それ以外の領域についてはフレーム番号fの画像データとなる。 Next, focusing on the processing of 1/24 seconds from time t n to t n + 1 , first, the high-quality RAW development processing on the attention area of the image data of the frame number f n + 1 is executed with the highest priority. High-speed RAW development processing is performed on the entire image of the image data of the frame number f n . In the latter high-speed RAW development processing, a processing state in which processing has been completed up to 50% in the previous 1/24 second processing is stored, and processing is performed from this continuation in this 1/24 second. In this 1/24 second, the processing for the region of interest is 100% for the image data of frame number f n + 1 , and the processing for the entire image is 100% for the image data of frame number f n. A process state is stored that indicates this state for the process. Specifically, for the region of interest and f n + 2 by updating only the processing target frame number, for the entire image is updated processed frame number in accordance with the region of interest f n + 2. In addition, information indicating that the processing has been completed for each of the attention area and the entire image is also stored. The image displayed on the screen at this time is the image data of the frame number f n + 1 for the region of interest, and the image data of the frame number f n for the other regions.

以降同様に処理を繰り返していくことによって、注目領域に対しては実時間で処理が行われるため24fpsで表示が更新され、それ以外の領域に対しては12fpsで表示が更新される。   Thereafter, the processing is repeated in the same manner, and the processing is performed in real time on the attention area, so the display is updated at 24 fps, and the display is updated at 12 fps for the other areas.

以上の処理により、注目領域に対する処理を優先的に実行して注目領域のコマ落ちを抑制することで、ノートPC等の処理能力のそれほど高くない画像処理装置を用いる撮影現場において、画質確認の質を落とさずに画角確認と編集時の画質確認の両方を同時に実現することができる。   Through the above processing, the processing of the attention area is preferentially executed to suppress the frame dropping of the attention area, so that the quality of the image quality confirmation in the shooting site using the image processing apparatus such as a notebook PC etc. Both the angle of view check and the image quality check at the time of editing can be realized simultaneously without dropping the.

なお、本実施例で説明した処理は、実施例2で説明した画像評価処理を同時に行う場合についても適用可能である。この場合、高画質RAW現像処理に加え画像評価処理も優先的に実行するようにして、これらの処理が終わり次第残りの時間を使って高速RAW現像処理を行うようにすればよい。   The process described in the present embodiment is also applicable to the case where the image evaluation process described in the second embodiment is simultaneously performed. In this case, in addition to the high-quality RAW development process, the image evaluation process may be preferentially executed, and the high-speed RAW development process may be performed using the remaining time as soon as these processes are completed.

101 CPU、102 RAM、103 ROM、104 HDD、
105 入力インタフェース(I/F)、107 表示インタフェース(I/F)、
109 撮像インタフェース(I/F)、111 システムバス
101 CPU, 102 RAM, 103 ROM, 104 HDD,
105 input interface (I / F), 107 display interface (I / F),
109 Imaging interface (I / F), 111 system bus

Claims (6)

画像データ中の注目領域を設定する注目領域設定手段と、
前記注目領域に対してユーザの所望する画質を実現するための画像処理を行う第一の画像処理手段と、
前記画像データ全体に対して前記第一の画像処理手段と一致する画質を高速に実現するための画像処理を行う第二の画像処理手段と、
前記第一の画像処理手段で生成された画像データと前記第二の画像処理手段で生成された画像データを合成するための画像合成手段と、を備える
ことを特徴とする画像処理装置。
An attention area setting unit for setting an attention area in the image data;
First image processing means for performing image processing for realizing the image quality desired by the user with respect to the region of interest;
A second image processing means for performing image processing for realizing an image quality matching the first image processing means at high speed with respect to the entire image data;
An image processing apparatus comprising: image combining means for combining the image data generated by the first image processing means and the image data generated by the second image processing means.
前記合成手段により合成された画像データを表示するための画像表示手段をさらに備えることを特徴とする請求項1に記載の画像処理装置。   The image processing apparatus according to claim 1, further comprising an image display unit for displaying the image data combined by the combining unit. 前記注目領域設定手段は前記注目領域の位置と大きさをユーザに設定させることを特徴とする請求項1又は請求項2に記載の画像処理装置。   The image processing apparatus according to claim 1, wherein the attention area setting unit allows the user to set the position and the size of the attention area. 前記注目領域設定手段は前記第一の画像処理手段により画像処理を行った結果から前記注目領域の大きさの上限値を導出することを特徴とする請求項1乃至請求項3の何れか一項に記載の画像処理装置。   The said attention area setting means derives the upper limit of the magnitude | size of the said attention area from the result of having performed image processing by said 1st image processing means, Any one of the Claims 1 to 3 characterized by the above-mentioned. The image processing apparatus according to claim 1. 前記注目領域設定手段は設定された注目領域の大きさが前記注目領域の大きさの上限値を超える場合は警告を発することを特徴とする請求項4に記載の画像処理装置。   5. The image processing apparatus according to claim 4, wherein the attention area setting unit issues a warning when the size of the attention area set exceeds the upper limit of the size of the attention area. 前記注目領域設定手段は設定可能な注目領域の大きさを前記注目領域の大きさの上限値に限定することを特徴とする請求項4に記載の画像処理装置。   5. The image processing apparatus according to claim 4, wherein the attention area setting unit limits the size of the attention area that can be set to the upper limit value of the size of the attention area.
JP2017080141A 2017-04-14 2017-04-14 Image processing apparatus Pending JP2018182550A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017080141A JP2018182550A (en) 2017-04-14 2017-04-14 Image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017080141A JP2018182550A (en) 2017-04-14 2017-04-14 Image processing apparatus

Publications (1)

Publication Number Publication Date
JP2018182550A true JP2018182550A (en) 2018-11-15

Family

ID=64276307

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017080141A Pending JP2018182550A (en) 2017-04-14 2017-04-14 Image processing apparatus

Country Status (1)

Country Link
JP (1) JP2018182550A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110490808A (en) * 2019-08-27 2019-11-22 腾讯科技(深圳)有限公司 Picture joining method, device, terminal and storage medium

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110490808A (en) * 2019-08-27 2019-11-22 腾讯科技(深圳)有限公司 Picture joining method, device, terminal and storage medium

Similar Documents

Publication Publication Date Title
JP4290193B2 (en) Image processing device
JP2006033656A (en) User interface provider
TWI519151B (en) Image processing method and image processing apparatus
JP2016208307A (en) Image processing apparatus, control method therefor, and program
US8094213B2 (en) Image processing apparatus, image processing method, and program in which an original image is modified with respect to a desired reference point set on a screen
KR20110035981A (en) Image processing apparatus, image processing method, and storage medium
JP2010244360A (en) Image processing apparatus, image processing method, and computer program
JP2014119997A (en) Image processing apparatus and control method thereof
JP2012022652A (en) Image processing apparatus, image processing method and program
KR101819984B1 (en) Image synthesis method in real time
KR101279576B1 (en) Method for generating panorama image within digital image processing apparatus
JP2018182550A (en) Image processing apparatus
US10311550B2 (en) Image processing device for eliminating graininess of image
JP2018036579A (en) Microscope image processing device, method, and program
JP5482589B2 (en) Image processing apparatus, image processing method, and image processing program
KR102470242B1 (en) Image processing device, image processing method and program
JP2007151094A (en) Tone-conversion device for image, program, electronic camera, and tone-conversion method
JP2013162247A (en) Image processing apparatus and control method thereof
JP7183015B2 (en) Image processing device, image processing method, and program
JP2017219566A (en) Display device and display method
JP5952573B2 (en) Image processing apparatus and control method thereof
JP2011151597A (en) Apparatus and program for processing image, and electronic camera
JP2016201771A (en) Image processing device, image processing method and program
EP3709254A1 (en) Image processing device, image processing method, and image processing program
JP5889383B2 (en) Image processing apparatus and image processing method

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20191125