JP2016127505A - Image processing apparatus and image processing method - Google Patents

Image processing apparatus and image processing method Download PDF

Info

Publication number
JP2016127505A
JP2016127505A JP2015001278A JP2015001278A JP2016127505A JP 2016127505 A JP2016127505 A JP 2016127505A JP 2015001278 A JP2015001278 A JP 2015001278A JP 2015001278 A JP2015001278 A JP 2015001278A JP 2016127505 A JP2016127505 A JP 2016127505A
Authority
JP
Japan
Prior art keywords
parameter
image data
raw image
raw
shooting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015001278A
Other languages
Japanese (ja)
Inventor
樋口 正祐
Masasuke Higuchi
正祐 樋口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Priority to JP2015001278A priority Critical patent/JP2016127505A/en
Publication of JP2016127505A publication Critical patent/JP2016127505A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To reduce processing load when parameters for use in development of RAW image data are obtained.SOLUTION: An image processing apparatus comprises: a first parameter generator which analyzes RAW image data and generates a first parameter for use in development of RAW image data; a second parameter generator which generates a second parameter for use in development of the RAW image data on the basis of Exif information given to the RAW image data; and a RAW image developer which develops the RAW image data by using the first parameter generated by the first parameter generator and the second parameter generated by the second parameter generator.SELECTED DRAWING: Figure 5

Description

本発明は、画像処理装置及び画像処理方法に関し、特にRAW画像データを現像する技術に関する。   The present invention relates to an image processing apparatus and an image processing method, and more particularly to a technique for developing RAW image data.

特許文献1には、RAW動画像データの予め定められた間隔毎の飛び飛びのフレームに対する現像パラメータを生成し、RAW動画像データと現像パラメータとを関連付けて記録媒体に格納するカメラシステムが開示されている。   Patent Document 1 discloses a camera system that generates development parameters for skipped frames at predetermined intervals of RAW moving image data, and stores the RAW moving image data and the development parameters in association with each other in a recording medium. Yes.

また、特許文献2には、特許文献1に開示の技術と比較して、補間処理に必要となる現像パラメータを記録可能とすることを目的とした撮像装置が開示されている。この撮像装置は、この目的を達成するために、シーンチェンジが検出された前後のRAW画像フレームの現像パラメータを記録する。   Further, Patent Document 2 discloses an imaging apparatus that is capable of recording development parameters necessary for interpolation processing as compared with the technique disclosed in Patent Document 1. In order to achieve this object, this imaging apparatus records development parameters of RAW image frames before and after a scene change is detected.

特許第4831017号公報Japanese Patent No. 4831017 特許第5603641号公報Japanese Patent No. 56033641

しかしながら、特許文献1及び特許文献2に開示の技術は、いずれもRAW画像データを解析することで、全ての現像パラメータを取得するようにしている。現像パラメータの全てをRAW画像データを解析することで取得するようにしてしまうと、現像パラメータを取得するための処理負荷が増大してしまうという問題がある。   However, the techniques disclosed in Patent Document 1 and Patent Document 2 both acquire all development parameters by analyzing RAW image data. If all the development parameters are acquired by analyzing the RAW image data, there is a problem that the processing load for acquiring the development parameters increases.

本発明は、上述した知見に基づいてなされたものであり、RAW画像データの現像に使用するパラメータを得る際の処理負荷を低減することができる画像処理装置及び画像処理方法を提供することができる。   The present invention has been made based on the above-described knowledge, and can provide an image processing apparatus and an image processing method capable of reducing a processing load when obtaining parameters used for developing RAW image data. .

本発明の第1の態様に係る画像処理装置は、RAW画像データを解析して、前記RAW画像データの現像で使用される第1のパラメータを生成する第1のパラメータ生成部と、前記RAW画像データに付与されたExif情報に基づいて、前記RAW画像データの現像で使用される第2のパラメータを生成する第2のパラメータ生成部と、前記第1のパラメータ生成部によって生成された第1のパラメータと、前記第2のパラメータ生成部によって生成された第2のパラメータを使用して、前記RAW画像データを現像するRAW画像現像部と、を備えたものである。   An image processing apparatus according to a first aspect of the present invention analyzes a RAW image data, generates a first parameter used in developing the RAW image data, and the RAW image. Based on the Exif information added to the data, a second parameter generation unit that generates a second parameter used in the development of the RAW image data, and a first parameter generated by the first parameter generation unit And a RAW image development unit that develops the RAW image data using the parameter and the second parameter generated by the second parameter generation unit.

本発明の第2の態様に係る画像処理方法は、RAW画像データを解析して、前記RAW画像データの現像で使用される第1のパラメータを生成するとともに、前記RAW画像データに付与されたExif情報に基づいて、前記RAW画像データの現像で使用される第2のパラメータを生成するパラメータ生成ステップと、前記パラメータ生成ステップにおいて生成された第1のパラメータ及び第2のパラメータに基づいて、前記RAW画像データを現像するRAW画像現像ステップと、を備えたものである。   The image processing method according to the second aspect of the present invention analyzes RAW image data to generate a first parameter used in the development of the RAW image data, and the Exif added to the RAW image data. A parameter generating step for generating a second parameter used in developing the RAW image data based on the information; and the RAW based on the first parameter and the second parameter generated in the parameter generating step. And a RAW image development step for developing image data.

上述した本発明の各態様によれば、RAW画像データの現像に使用するパラメータを得る際の処理負荷を低減することができる画像処理装置及び画像処理方法を提供することができる。   According to each aspect of the present invention described above, it is possible to provide an image processing apparatus and an image processing method capable of reducing the processing load when obtaining parameters used for developing RAW image data.

実施の形態に係るRAW動画データ処理システムの構成を示す図である。It is a figure which shows the structure of the raw video data processing system which concerns on embodiment. 実施の形態に係る撮像装置の構成を示す図である。It is a figure which shows the structure of the imaging device which concerns on embodiment. 実施の形態に係る現像装置の構成を示す図である。It is a figure which shows the structure of the developing device which concerns on embodiment. 実施の形態に係るRAW動画データの構成と、そのRAW動画データから生成されるパラメータとの関係を示す図である。It is a figure which shows the relationship between the structure of the RAW moving image data which concerns on embodiment, and the parameter produced | generated from the RAW moving image data. 実施の形態に係る現像装置の機能ブロックを示す図である。It is a figure which shows the functional block of the developing device which concerns on embodiment. 実施の形態に係る現像装置の処理を示すシーケンス図である。It is a sequence diagram which shows the process of the developing device which concerns on embodiment.

以下、図面を参照しながら、本発明の実施の形態について説明する。以下の実施の形態に示す具体的な数値などは、実施の形態の理解を容易とするための例示にすぎず、特に断る場合を除き、それに限定されるものではない。また、以下の記載及び図面では、説明の明確化のため、当業者にとって自明な事項などについては、適宜、省略及び簡略化がなされている。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. Specific numerical values and the like shown in the following embodiments are merely examples for facilitating understanding of the embodiments, and are not limited thereto unless otherwise specified. In the following description and drawings, matters obvious to those skilled in the art are omitted and simplified as appropriate for the sake of clarity.

<RAW動画データ処理システムの構成>
まず、図1を参照して、本発明の実施の形態に係るRAW動画データ処理システム1の構成について説明する。RAW動画データ処理システム1は、RAW動画データからストリーミングで利用可能な動画データを生成するシステムである。図1に示すように、RAW動画データ処理システム1は、撮像装置2と、PC(Personal Computer)3と、現像装置4とを有する。
<Configuration of RAW video data processing system>
First, the configuration of a RAW moving image data processing system 1 according to an embodiment of the present invention will be described with reference to FIG. The RAW moving image data processing system 1 is a system that generates moving image data that can be used for streaming from RAW moving image data. As shown in FIG. 1, the RAW moving image data processing system 1 includes an imaging device 2, a PC (Personal Computer) 3, and a developing device 4.

撮像装置2は、被写体を撮像してRAW動画データを生成する。より具体的には、撮像装置2は、所定の時間間隔で被写体を撮像して複数のRAW画像データ(RAW静止画データ)を生成する。すなわち、上述のRAW動画データは、複数のRAW画像データによって構成される。   The imaging device 2 captures a subject and generates RAW moving image data. More specifically, the imaging device 2 captures a subject at a predetermined time interval and generates a plurality of RAW image data (RAW still image data). That is, the above-mentioned RAW moving image data is composed of a plurality of RAW image data.

PC3は、USBケーブルによって撮像装置2と接続可能である。RAW動画データは、USBケーブルを介した通信によって撮像装置2からPC3へ転送される。また、PC3は、USBケーブルによって現像装置4と接続可能である。撮像装置2から転送されたRAW動画データは、USBケーブルを介した通信によってPC3から現像装置4へ転送される。   The PC 3 can be connected to the imaging device 2 via a USB cable. The RAW moving image data is transferred from the imaging device 2 to the PC 3 by communication via a USB cable. The PC 3 can be connected to the developing device 4 by a USB cable. The RAW moving image data transferred from the imaging device 2 is transferred from the PC 3 to the developing device 4 by communication via a USB cable.

現像装置4は、PC3から転送されたRAW動画データを現像する。以下、このRAW動画データを現像することで生成された動画データを「現像動画データ」とも呼ぶ。現像動画データは、USBケーブルを介した通信によって現像装置4からPC3へ転送される。   The developing device 4 develops the RAW moving image data transferred from the PC 3. Hereinafter, the moving image data generated by developing the RAW moving image data is also referred to as “development moving image data”. The development moving image data is transferred from the development device 4 to the PC 3 by communication via the USB cable.

PC3は、現像装置4から転送された現像動画データを再生して、PC3と接続された表示装置(図示せず)に表示することが可能である。この表示装置として、例えば、液晶ディスプレイ、有機ELディスプレイ、又はプラズマディスプレイ等の各種表示装置のうち、任意の表示装置を利用してよい。   The PC 3 can reproduce the developed moving image data transferred from the developing device 4 and display it on a display device (not shown) connected to the PC 3. As this display device, for example, an arbitrary display device among various display devices such as a liquid crystal display, an organic EL display, or a plasma display may be used.

<撮像装置の構成>
続いて、図2を参照して、本発明の実施の形態に係る撮像装置2の構成について説明する。図2に示すように、撮像装置2は、イメージセンサ11と、プリプロセス回路12と、CPU(Central Processing Unit)13と、ディスプレイ14と、USB(Universal Serial Bus)ホストバスアダプタ15と、RAM(Random Access Memory)16と、SDカード17と、画像処理ブロック18とを有する。以下、USBホストバスアダプタを「USBアダプタ」とも呼ぶ。
<Configuration of imaging device>
Next, the configuration of the imaging device 2 according to the embodiment of the present invention will be described with reference to FIG. As shown in FIG. 2, the imaging device 2 includes an image sensor 11, a preprocess circuit 12, a CPU (Central Processing Unit) 13, a display 14, a USB (Universal Serial Bus) host bus adapter 15, a RAM ( Random Access Memory) 16, an SD card 17, and an image processing block 18. Hereinafter, the USB host bus adapter is also referred to as “USB adapter”.

イメージセンサ11は、レンズ(図示せず)を介して被写界の画像を電圧値で示す画像情報を生成する。   The image sensor 11 generates image information indicating an image of the object scene with a voltage value via a lens (not shown).

プリプロセス回路12は、イメージセンサ11によって生成された画像情報をデジタルデータ化するとともに、イメージセンサ11の欠陥画素補正などの前処理を行うことで、画像情報からRAW画像データを生成する。なお、欠陥画素補正は、予め認識されているイメージセンサ11の欠陥画素に対応する情報を、周辺の画素の情報に基づいて補完する処理である。プリプロセス回路12は、生成したRAW画像データをRAM16に格納する。ここで、プリプロセス回路12は、所定の一定時間間隔毎にRAW画像データを繰り返し生成する。これにより、複数のRAW画像データによって構成されるRAW動画データが生成される。   The preprocess circuit 12 converts the image information generated by the image sensor 11 into digital data, and generates RAW image data from the image information by performing preprocessing such as defective pixel correction of the image sensor 11. The defective pixel correction is a process of complementing information corresponding to a defective pixel of the image sensor 11 that has been recognized in advance based on information of surrounding pixels. The preprocess circuit 12 stores the generated RAW image data in the RAM 16. Here, the preprocess circuit 12 repeatedly generates RAW image data at predetermined time intervals. Thereby, RAW moving image data composed of a plurality of RAW image data is generated.

CPU13は、撮像装置2を統括的に制御する。CPU13は、例えば、RAM16に格納されたプログラムを実行することによって、撮像装置2を制御する処理を実行する。すなわち、RAM16に格納されたプログラムは、撮像装置2を制御する処理をCPU13に実行させるコードを含む。なお、このプログラムは、撮像装置2が有する不揮発性記憶装置(例えばフラッシュメモリ又はハードディスク等)からRAM16にロードされてCPU13によって実行されてもよいことは言うまでもない。   The CPU 13 comprehensively controls the imaging device 2. CPU13 performs the process which controls the imaging device 2, for example by running the program stored in RAM16. That is, the program stored in the RAM 16 includes a code that causes the CPU 13 to execute processing for controlling the imaging device 2. Needless to say, this program may be loaded into the RAM 16 from a nonvolatile storage device (for example, a flash memory or a hard disk) included in the imaging apparatus 2 and executed by the CPU 13.

ディスプレイ14は、任意の画像を表示する表示装置である。ディスプレイ14として、上述の各種表示装置のうち、任意の表示装置を利用してよい。   The display 14 is a display device that displays an arbitrary image. As the display 14, any display device among the above-described various display devices may be used.

USBアダプタ15は、上述のUSBケーブルが接続される。USBアダプタ15は、CPU13からの制御に応じて、後述のようにSDカード17に格納されたRAW動画データをPC3に転送する。   The USB adapter 15 is connected to the USB cable described above. The USB adapter 15 transfers RAW moving image data stored in the SD card 17 to the PC 3 as will be described later in accordance with control from the CPU 13.

RAM16は、撮像装置2で利用される任意のデータが格納される揮発性メモリである。RAM16は、上述したようにRAW動画データ(複数のRAW画像データ)及びプログラム等が格納される。   The RAM 16 is a volatile memory that stores arbitrary data used by the imaging device 2. As described above, the RAM 16 stores RAW moving image data (a plurality of RAW image data), a program, and the like.

SDカード17は、RAW動画データが格納されるメモリカードである。プリプロセス回路12によってRAM16に順次格納される複数のRAW画像データは、最終的にRAW動画データとしてSDカード17に格納される。   The SD card 17 is a memory card that stores RAW moving image data. A plurality of RAW image data sequentially stored in the RAM 16 by the preprocess circuit 12 is finally stored in the SD card 17 as RAW moving image data.

より具体的には、CPU13は、所定のタイミングで、RAM16に蓄積された複数のRAW画像データをSDカード17に書き出す。所定のタイミングは、例えば、所定の一定時間間隔毎のタイミング又はRAM16に格納された複数のRAW画像データの合計サイズが所定量に達したタイミング等である。また、このときに、CPU13は、撮影条件などに基づいて撮影情報及びExif情報を生成し、RAW画像データに付与する。これにより、撮影が終了するまでに生成された全てのRAW画像データと、それらに付与された撮影情報及びExif情報とを含むRAW動画データがSDカード17に格納される。なお、撮影情報及びExif情報は、1つのRAW画像データに対して1つ付与してもよく、複数のRAW画像データに対して1つ付与するようにしてもよい。   More specifically, the CPU 13 writes a plurality of RAW image data stored in the RAM 16 to the SD card 17 at a predetermined timing. The predetermined timing is, for example, a timing at predetermined time intervals or a timing when the total size of the plurality of RAW image data stored in the RAM 16 reaches a predetermined amount. At this time, the CPU 13 generates shooting information and Exif information based on shooting conditions and the like, and assigns them to the RAW image data. As a result, the RAW moving image data including all the RAW image data generated until the shooting is completed and the shooting information and the Exif information assigned to the RAW image data is stored in the SD card 17. Note that one piece of shooting information and Exif information may be assigned to one RAW image data, or one piece may be assigned to a plurality of RAW image data.

画像処理ブロック18は、CPU13からの制御に応じて、RAM16に格納されたRAW動画データの画像処理を行う回路である。この画像処理は、RAW動画データに含まれる複数のRAW画像データのそれぞれを、現像する処理と、ディスプレイ14のサイズに合わせて縮小する処理とが含まれる。すなわち、プリプロセス回路12によってRAM16に順次格納される複数のRAW画像データは、上述したようにSDカード17に書き出されるとともに、画像処理ブロック18によって順次画像処理が行われる。画像処理ブロック18は、画像処理においてRAW画像データを現像することで生成した画像データをディスプレイ14に出力する。以下、RAW画像データを現像することで生成された画像データを「現像画像データ」とも呼ぶ。ディスプレイ14は、画像処理ブロック18から出力された現像画像データが示す画像を表示する。これにより、複数の現像画像データによって構成される現像動画データのプレビュー動画がディスプレイ14に表示される。   The image processing block 18 is a circuit that performs image processing of RAW moving image data stored in the RAM 16 in accordance with control from the CPU 13. This image processing includes processing for developing each of the plurality of RAW image data included in the RAW moving image data, and processing for reducing the RAW image data according to the size of the display 14. That is, a plurality of RAW image data sequentially stored in the RAM 16 by the preprocess circuit 12 is written to the SD card 17 as described above, and image processing is sequentially performed by the image processing block 18. The image processing block 18 outputs the image data generated by developing the RAW image data in the image processing to the display 14. Hereinafter, the image data generated by developing the RAW image data is also referred to as “developed image data”. The display 14 displays an image indicated by the developed image data output from the image processing block 18. As a result, a preview moving image of developed moving image data constituted by a plurality of developed image data is displayed on the display 14.

<現像装置の構成>
続いて、図3を参照して、本発明の実施の形態に係る現像装置4の構成について説明する。図3に示すように、現像装置4は、CPU21と、USBアダプタ22と、RAM23と、RAW解析ブロック24と、画像処理ブロック25と、動画コーデック26とを有する。
<Configuration of developing device>
Next, the configuration of the developing device 4 according to the embodiment of the present invention will be described with reference to FIG. As illustrated in FIG. 3, the developing device 4 includes a CPU 21, a USB adapter 22, a RAM 23, a RAW analysis block 24, an image processing block 25, and a moving image codec 26.

CPU21は、現像装置4を統括的に制御する。CPU21は、例えば、RAM23に格納されたプログラムを実行することによって、現像装置4を制御する処理を実行する。すなわち、RAM23に格納されたプログラムは、現像装置4を制御する処理をCPU21に実行させるコードを含む。なお、このプログラムは、現像装置4が有する不揮発性記憶装置(例えばフラッシュメモリ又はハードディスク等)からRAM23にロードされてCPU21によって実行されてもよいことは言うまでもない。   The CPU 21 comprehensively controls the developing device 4. The CPU 21 executes a process for controlling the developing device 4 by executing a program stored in the RAM 23, for example. That is, the program stored in the RAM 23 includes a code that causes the CPU 21 to execute processing for controlling the developing device 4. Needless to say, this program may be loaded into the RAM 23 from the nonvolatile storage device (for example, flash memory or hard disk) of the developing device 4 and executed by the CPU 21.

USBアダプタ22は、上述のUSBケーブルが接続される。USBアダプタ22は、CPU21からの制御に応じて、PC3から転送されたRAW動画データを受信し、RAM23に格納する。また、USBアダプタ22は、CPU21からの制御に応じて、後述のようにRAW動画データから生成された現像動画データをRAM23から取得し、PC3に転送する。   The USB adapter 22 is connected to the USB cable described above. The USB adapter 22 receives the RAW moving image data transferred from the PC 3 in accordance with control from the CPU 21 and stores it in the RAM 23. In addition, the USB adapter 22 acquires, from the RAM 23, developed moving image data generated from the RAW moving image data as described later, and transfers it to the PC 3 in accordance with control from the CPU 21.

RAM23は、撮像装置2で利用される任意のデータが格納される揮発性メモリである。RAM23は、上述したようにRAW動画データ(複数のRAW画像データ)、現像動画データ(複数の現像画像データ)、及びプログラム等が格納される。   The RAM 23 is a volatile memory that stores arbitrary data used by the imaging device 2. As described above, the RAM 23 stores RAW moving image data (a plurality of RAW image data), developed moving image data (a plurality of developed image data), a program, and the like.

RAW解析ブロック24は、CPU21からの制御に応じて、RAM23に格納されたRAW動画データを解析する回路である。RAW解析ブロック24は、RAW動画データに含まれる複数のRAW画像データのそれぞれを解析して、その複数のRAW画像データのそれぞれの特徴量を抽出する。CPU21は、RAW解析ブロック24によって生成された特徴量に基づいて、RAW画像データの現像に使用するパラメータを生成する。なお、1つのRAW画像データからそのRAW画像データに対する特徴量を算出してもよく、複数のRAW画像データからそれら複数のRAW画像データのそれぞれに対する特徴量を算出してもよい。   The RAW analysis block 24 is a circuit that analyzes RAW moving image data stored in the RAM 23 in accordance with control from the CPU 21. The RAW analysis block 24 analyzes each of the plurality of RAW image data included in the RAW moving image data, and extracts each feature amount of the plurality of RAW image data. The CPU 21 generates parameters used for developing the RAW image data based on the feature amount generated by the RAW analysis block 24. Note that a feature amount for the RAW image data may be calculated from one RAW image data, or a feature amount for each of the plurality of RAW image data may be calculated from a plurality of RAW image data.

画像処理ブロック25は、CPU21からの制御に応じて、RAM3に格納されたRAW動画データの画像処理を行う回路である。この画像処理は、RAW動画データに含まれる複数のRAW画像データのそれぞれを現像する現像処理が含まれる。この現像処理は、RAW画像データに対する各種補正をする処理が含まれる。CPU21は、RAW画像データに付与されたExif情報に基づいて生成したパラメータと、RAW画像データの特徴量に基づいて生成したパラメータとを指定して、そのRAW画像データの画像処理を画像処理ブロック25に行わせる。これにより、画像処理ブロック25は、CPU21から指定されたパラメータを使用して適切な現像処理を行う。画像処理ブロック25は、RAW動画データを現像することで生成した現像動画データをRAM23に格納する。   The image processing block 25 is a circuit that performs image processing of RAW moving image data stored in the RAM 3 in accordance with control from the CPU 21. This image processing includes development processing for developing each of the plurality of RAW image data included in the RAW moving image data. This development processing includes processing for performing various corrections on the RAW image data. The CPU 21 designates a parameter generated based on the Exif information added to the RAW image data and a parameter generated based on the feature amount of the RAW image data, and performs image processing of the RAW image data on the image processing block 25. To do. As a result, the image processing block 25 performs appropriate development processing using the parameters specified by the CPU 21. The image processing block 25 stores the developed moving image data generated by developing the RAW moving image data in the RAM 23.

動画コーデック26は、CPU21からの制御に応じて、RAM23に格納された現像動画データを、ストリーミングで利用可能な現像動画データに変換する。以下、このストリーミングで利用可能な動画データを「動画ストリーム」とも呼ぶ。動画コーデック26は、現像動画データを変換することで生成した動画ストリームをRAM23に格納する。動画ストリームは、例えば、MPEG(Moving Picture Experts Group)形式の動画データである。   The moving image codec 26 converts the developed moving image data stored in the RAM 23 into developed moving image data that can be used for streaming under the control of the CPU 21. Hereinafter, the moving image data available for streaming is also referred to as “moving image stream”. The moving image codec 26 stores the moving image stream generated by converting the developed moving image data in the RAM 23. The moving image stream is, for example, moving image data in MPEG (Moving Picture Experts Group) format.

<現像装置におけるパラメータ生成方法>
続いて、図4及び図5を参照して、本発明の実施の形態に係る撮像装置2および現像装置4におけるパラメータ生成方法について説明する。図4は、本発明の実施の形態に係るRAW動画データの構成と、そのRAW動画データから生成されるパラメータとの関係を示す図である。図5は、本発明の実施の形態に係る現像装置4の機能ブロックを示す図である。
<Parameter generation method in developing device>
Subsequently, with reference to FIGS. 4 and 5, a parameter generation method in the imaging device 2 and the developing device 4 according to the embodiment of the present invention will be described. FIG. 4 is a diagram showing a relationship between the configuration of the RAW moving image data according to the embodiment of the present invention and parameters generated from the RAW moving image data. FIG. 5 is a functional block diagram of the developing device 4 according to the embodiment of the present invention.

図4に示すように、RAW動画データは、撮影情報と、複数のExif情報と、複数のRAW画像データとを有する。   As illustrated in FIG. 4, the RAW moving image data includes shooting information, a plurality of Exif information, and a plurality of RAW image data.

撮影情報は、RAW動画データのヘッダに含まれる。すなわち、図4では、RAW動画データに含まれる全てのRAW画像データに対して1つの撮影情報が付与されている例を示している。撮影情報は、撮影によってRAW動画データを生成した際の撮影条件を示す情報である。撮影情報は、例えば、被写体輝度情報、ISO感度情報、レンズ情報、光源情報、撮影絞り情報、及び、撮影シャッタースピード情報などの情報が含まれる。これらの情報は、例えば、Exifに準じた形式で撮影情報に含まれている。   The shooting information is included in the header of the RAW moving image data. That is, FIG. 4 shows an example in which one piece of shooting information is assigned to all RAW image data included in the RAW moving image data. The shooting information is information indicating shooting conditions when RAW moving image data is generated by shooting. The shooting information includes information such as subject brightness information, ISO sensitivity information, lens information, light source information, shooting aperture information, and shooting shutter speed information. These pieces of information are included in the shooting information in a format conforming to Exif, for example.

被写体輝度情報は、撮影した被写体の輝度を示す情報である。ISO感度情報は、撮影時におけるISO感度を示す情報である。レンズ情報は、例えばレンズの種類及び焦点距離などを示す情報である。光源情報は、例えば撮影時における光源の種類及び色温度などを示す情報である。撮影絞り情報は、撮影時における絞り値(F値)を示す情報である。撮影シャッタースピード情報は、撮影時におけるシャッタースピードを示す情報である。   The subject luminance information is information indicating the luminance of the photographed subject. The ISO sensitivity information is information indicating the ISO sensitivity at the time of shooting. The lens information is information indicating, for example, the lens type and focal length. The light source information is information indicating, for example, the type of light source and the color temperature at the time of shooting. The shooting aperture information is information indicating an aperture value (F value) at the time of shooting. The shooting shutter speed information is information indicating the shutter speed at the time of shooting.

複数のExif情報のそれぞれは、所定数単位のRAW画像データのそれぞれに付与されている。図4では、N個のRAW画像データに対して1つExif情報が付与されている例を示している(Nは、所定の正整数)。Exif情報は、例えば、その中のメーカノート部分において、ホワイトバランス(WB)係数、オプティカルブラック(OB)係数、及び、カラーマトリクス(CCM)等の情報が含まれている。   Each of the plurality of pieces of Exif information is given to each of a predetermined number of units of RAW image data. FIG. 4 shows an example in which one Exif information is assigned to N RAW image data (N is a predetermined positive integer). The Exif information includes, for example, information such as a white balance (WB) coefficient, an optical black (OB) coefficient, and a color matrix (CCM) in the manufacturer note portion therein.

また、図5に示すように、現像装置4は、機能ブロックとして、情報取得部31と、RAW画像解析部32と、第1のパラメータ算出部33と、第2のパラメータ算出部34と、RAW画像現像部35とを有する。   As shown in FIG. 5, the developing device 4 includes, as function blocks, an information acquisition unit 31, a RAW image analysis unit 32, a first parameter calculation unit 33, a second parameter calculation unit 34, and a RAW. And an image developing unit 35.

ここで、CPU21が、情報取得部31、第1のパラメータ算出部33、第2のパラメータ算出部34として機能する。RAW解析ブロック24が、RAW画像解析部32として機能する。画像処理ブロック25が、RAW画像現像部35として機能する。   Here, the CPU 21 functions as an information acquisition unit 31, a first parameter calculation unit 33, and a second parameter calculation unit 34. The RAW analysis block 24 functions as the RAW image analysis unit 32. The image processing block 25 functions as the RAW image developing unit 35.

情報取得部31は、RAM23に格納されたRAW動画データから撮影情報及びExif情報を取得する。   The information acquisition unit 31 acquires shooting information and Exif information from RAW moving image data stored in the RAM 23.

RAW画像解析部32は、RAW動画データに含まれる複数のRAW画像データのそれぞれを解析する。RAW画像解析部32は、RAW画像データを解析して、その特徴量を抽出する。この特徴量として、例えば、RAW画像データにおける、ノイズ量、色再現性、輝度分布、軸外色収差、及びエッジ強度などが抽出される。   The RAW image analysis unit 32 analyzes each of the plurality of RAW image data included in the RAW moving image data. The RAW image analysis unit 32 analyzes the RAW image data and extracts the feature amount. As this feature amount, for example, noise amount, color reproducibility, luminance distribution, off-axis chromatic aberration, edge strength, and the like in RAW image data are extracted.

第1のパラメータ算出部33は、RAW画像解析部32によって抽出された特徴量に基づいて、その特徴量が抽出されたRAW画像データの現像に使用する第1のパラメータを生成する。すなわち、RAW画像データにおける、ノイズ量、色再現性、輝度分布、軸外色収差、及び、エッジ強度のそれぞれを補正する補正量である第1のパラメータ群(第1のパラメータセット)が生成される。   Based on the feature amount extracted by the RAW image analysis unit 32, the first parameter calculation unit 33 generates a first parameter used for developing the RAW image data from which the feature amount has been extracted. That is, a first parameter group (first parameter set) that is a correction amount for correcting each of noise amount, color reproducibility, luminance distribution, off-axis chromatic aberration, and edge intensity in RAW image data is generated. .

なお、第1のパラメータは、既存の技術のうち、任意の技術を利用して生成するようにしてよいが、例えば、概略的には以下のように生成される。   The first parameter may be generated using an arbitrary technique among existing techniques. For example, the first parameter is generally generated as follows.

ノイズ量に対する第1のパラメータは、画像処理ブロック25による画像処理におけるノイズ量の補正処理(ノイズリダクション)で使用される補正量である。ノイズ量に対する第1のパラメータとして、特徴量として抽出されたノイズ量が大きくなるに従って、ノイズを低減する強さをより強くするような補正量が算出される。   The first parameter for the noise amount is a correction amount used in noise amount correction processing (noise reduction) in image processing by the image processing block 25. As a first parameter for the amount of noise, a correction amount that increases the strength of noise reduction is calculated as the amount of noise extracted as a feature amount increases.

色再現性に対する第1のパラメータは、画像処理ブロック25による画像処理における色再現性の補正処理で使用される補正量である。色再現性に対する第1のパラメータとして、特徴量として抽出された色再現性に基づいて、画素が明るくなる又は暗くなるに従って、より色を落とすような補正量が算出される。   The first parameter for color reproducibility is a correction amount used in the color reproducibility correction process in the image processing by the image processing block 25. As a first parameter for color reproducibility, based on the color reproducibility extracted as a feature amount, a correction amount that causes more color drop is calculated as the pixel becomes brighter or darker.

輝度分布に対する第1のパラメータは、画像処理ブロック25による画像処理における輝度分布の補正処理(ガンマ補正)で使用される補正量である。すなわち、輝度補正処理は、ガンマカーブ(トーンカーブ)を補正する処理である。輝度分布に対する第1のパラメータとして、特徴量として抽出された輝度分布に基づいて、ガンマカーブの補正量が算出される。   The first parameter for the luminance distribution is a correction amount used in the luminance distribution correction processing (gamma correction) in the image processing by the image processing block 25. That is, the luminance correction process is a process for correcting a gamma curve (tone curve). As a first parameter for the luminance distribution, a gamma curve correction amount is calculated based on the luminance distribution extracted as the feature amount.

軸外色収差に対する第1のパラメータは、画像処理ブロック25による画像処理における軸外色収差の補正処理で使用される補正量である。軸外色収差に対する第1のパラメータとして、特徴量として抽出された軸外色収差に基づいて、RAW画像データにおける赤色と青色の位置のずれを修正する補正量が算出される。   The first parameter for the off-axis chromatic aberration is a correction amount used in the off-axis chromatic aberration correction process in the image processing by the image processing block 25. As a first parameter for the off-axis chromatic aberration, a correction amount for correcting the shift between the red and blue positions in the RAW image data is calculated based on the off-axis chromatic aberration extracted as the feature amount.

エッジ強度に対する第1のパラメータとして、画像処理ブロック25による画像処理におけるエッジ強度の補正処理で使用される補正量である。エッジ強度に対する第1のパラメータは、特徴量として抽出されたエッジ強度が小さくなるに従って、よりエッジ強度を強くする補正量が算出される。   The first parameter for the edge strength is a correction amount used in the edge strength correction processing in the image processing by the image processing block 25. As the first parameter for the edge strength, a correction amount for increasing the edge strength is calculated as the edge strength extracted as the feature amount decreases.

この際に、第1のパラメータ算出部33は、情報取得部31によって取得された撮影情報のうち、任意の情報を利用して第1のパラメータを補正する。ここでは、撮影情報のうち、(1)撮影絞り情報を利用して第1のパラメータを補正する場合と、(2)ISO感度情報を利用して第1のパラメータを補正する場合の例について説明する。   At this time, the first parameter calculation unit 33 corrects the first parameter using arbitrary information among the shooting information acquired by the information acquisition unit 31. Here, examples of (1) correcting the first parameter using shooting aperture information and (2) correcting the first parameter using ISO sensitivity information in the shooting information will be described. To do.

(1)撮影絞り情報
一般的に、撮影時の絞りで画像のシャープさが分かる。撮影時における絞りが強くなるに従って、画像のボケが強くなることが知られている。これは回折現象と呼ばれる。そこで、第1のパラメータ算出部33は、撮影絞り情報が示す撮影絞りが強くなるに従って、よりエッジ強度を強くするように、エッジ強度に対する第1のパラメータを補正する。これによれば、エッジ強度に対する第1のパラメータとして、より最適な補正量を算出することができる。
(1) Shooting Aperture Information Generally, the sharpness of an image can be known from the aperture at the time of shooting. It is known that blurring of an image becomes stronger as the aperture at the time of shooting becomes stronger. This is called a diffraction phenomenon. Therefore, the first parameter calculation unit 33 corrects the first parameter for the edge strength so that the edge strength becomes stronger as the photographing aperture indicated by the photographing aperture information becomes stronger. According to this, a more optimal correction amount can be calculated as the first parameter for the edge strength.

(2)ISO感度情報
ノイズ量の解析では、RAW画像データにおいて画素値が平坦な部分を検出し、その部分の画素値を基準とした画素値の変化をノイズ量として算出する。しかしながら、上手に画素値が平坦な部分を検出することができなかった場合には、正常な画素値の変化をノイズとして誤検出してしまう場合がある。
(2) ISO sensitivity information In the analysis of the noise amount, a portion where the pixel value is flat in the RAW image data is detected, and a change in the pixel value based on the pixel value of the portion is calculated as the noise amount. However, if a portion with a flat pixel value cannot be detected well, a change in a normal pixel value may be erroneously detected as noise.

一方で、一般的に、撮影時におけるISO感度が強くなるに従って、ノイズが強くなることが知られている。そこで、第1のパラメータ算出部33は、ノイズ量に対する第1のパラメータが所定の正常範囲内であるか否かを判定し、正常範囲外であると判定した場合には、その第1のパラメータをISO感度情報が示すISO感度に基づいて導出した第1のパラメータに補正する。一方、第1のパラメータ算出部33は、ノイズ量に対する第1のパラメータが所定の正常範囲内であると判定した場合には、この第1のパラメータの補正は行わない。   On the other hand, it is generally known that noise increases as ISO sensitivity at the time of shooting increases. Therefore, the first parameter calculation unit 33 determines whether or not the first parameter with respect to the noise amount is within a predetermined normal range. If it is determined that the first parameter is outside the normal range, the first parameter is calculated. Is corrected to the first parameter derived based on the ISO sensitivity indicated by the ISO sensitivity information. On the other hand, when the first parameter calculation unit 33 determines that the first parameter with respect to the noise amount is within a predetermined normal range, the first parameter calculation unit 33 does not correct the first parameter.

なお、上述したようにISO感度とノイズ量との関係が知られており、ISO感度からノイズ量を推定することができる。言い換えると、ISO感度に基づいて、ノイズ量の補正処理に対する補正量を予め推定することができる。そこで、ISO感度と、そのISO感度で推定されるノイズ量に対する第1のパラメータとを対応付けた情報を撮像装置2内に予め用意しておく。この情報は、例えば、現像装置4のRAM23又は不揮発性記憶装置などに格納しておく。そして、第1のパラメータ算出部33は、その情報に基づいて、ISO感度情報が示すISO感度から第1のパラメータを導出するようにすればよい。   As described above, the relationship between the ISO sensitivity and the noise amount is known, and the noise amount can be estimated from the ISO sensitivity. In other words, the correction amount for the noise amount correction process can be estimated in advance based on the ISO sensitivity. Therefore, information in which the ISO sensitivity is associated with the first parameter for the noise amount estimated by the ISO sensitivity is prepared in the imaging device 2 in advance. This information is stored in, for example, the RAM 23 of the developing device 4 or a nonvolatile storage device. And the 1st parameter calculation part 33 should just derive | lead-out a 1st parameter from the ISO sensitivity which ISO sensitivity information shows based on the information.

第2のパラメータ算出部34は、情報取得部31によって取得されたExif情報に基づいて、そのExif情報が付与されたRAW画像データの現像に使用する第2のパラメータを生成する。すなわち、Exif情報に含まれる、ホワイトバランス係数、オプティカルブラック係数、及び、カラーマトリクスのそれぞれが第2のパラメータ群(第2のパラメータセット)として生成される。   Based on the Exif information acquired by the information acquisition unit 31, the second parameter calculation unit 34 generates a second parameter used for developing the RAW image data to which the Exif information is added. That is, each of the white balance coefficient, the optical black coefficient, and the color matrix included in the Exif information is generated as a second parameter group (second parameter set).

ホワイトバランス係数で示される第2のパラメータは、画像処理ブロック25による画像処理における色再現性の補正処理で使用される補正量となる。オプティカルブラック係数で示される第2のパラメータは、画像処理ブロック25による画像処理における輝度分布の補正処理で使用される補正量となる。カラーマトリクスで示される第2のパラメータは、画像処理ブロック25による画像処理における色再現性の補正処理で使用される補正量となる。   The second parameter indicated by the white balance coefficient is a correction amount used in the color reproducibility correction processing in the image processing by the image processing block 25. The second parameter indicated by the optical black coefficient is a correction amount used in the luminance distribution correction processing in the image processing by the image processing block 25. The second parameter indicated by the color matrix is a correction amount used in the color reproducibility correction processing in the image processing by the image processing block 25.

なお、以上の説明では、ノイズ量、色再現性、輝度分布、軸外色収差、及び、エッジ強度の全てを補正する例について説明したが、これに限られない。これらのうち、少なくとも1つについて補正を行うようにしてもよい。その場合、実施する補正に対応する特徴量のみを抽出するようにすればよい。   In the above description, an example of correcting all of the noise amount, color reproducibility, luminance distribution, off-axis chromatic aberration, and edge intensity has been described, but the present invention is not limited to this. Of these, at least one may be corrected. In that case, only the feature amount corresponding to the correction to be performed may be extracted.

また、第1のパラメータ算出部33と第2のパラメータ算出部34は、パラメータが急激な変化をしないように、パラメータに対してヒステリシス制御を行う。以下、その方法について、図4を参照して説明する。   Further, the first parameter calculation unit 33 and the second parameter calculation unit 34 perform hysteresis control on the parameter so that the parameter does not change suddenly. Hereinafter, the method will be described with reference to FIG.

図4では、Exif情報に基づいて、2つの第2のパラメータ「パラメータA」、「パラメータB」が生成され、そのExif情報が付与されたN個のRAW画像データを解析することで、2つの第1のパラメータ「パラメータC」、「パラメータD」が生成される例について示している。   In FIG. 4, two second parameters “parameter A” and “parameter B” are generated based on the Exif information, and N pieces of RAW image data to which the Exif information is added are analyzed to obtain two parameters. An example in which the first parameters “parameter C” and “parameter D” are generated is shown.

1つ目の情報群「Exif情報1」、「RAW画像データ1−1」〜「RAW画像データ1−N」に基づいて、第2のパラメータ「パラメータA1」、「パラメータB1」と、第1のパラメータ「パラメータC1」、「パラメータD1」とが生成される。これらのパラメータに基づいて、画像処理ブロック25において「RAW画像データ1−1」〜「RAW画像データ1−N」の現像処理が行われる。   Based on the first information group “Exif information 1”, “RAW image data 1-1” to “RAW image data 1-N”, the second parameters “parameter A1”, “parameter B1”, and the first Parameters “parameter C1” and “parameter D1” are generated. Based on these parameters, development processing of “RAW image data 1-1” to “RAW image data 1-N” is performed in the image processing block 25.

2つ目の情報群「Exif情報2」、「RAW画像データ2−1」〜「RAW画像データ2−N」に基づいて、第2のパラメータ「パラメータA2」、「パラメータB2」と、第1のパラメータ「パラメータC2」、「パラメータD2」とが生成される。   Based on the second information group “Exif information 2”, “RAW image data 2-1” to “RAW image data 2-N”, the second parameter “parameter A2”, “parameter B2”, and the first Parameters “parameter C2” and “parameter D2” are generated.

このときに、第2のパラメータ算出部34は、今回生成した「パラメータA2」、「パラメータB2」のそれぞれと、前回生成した「パラメータA1」、「パラメータB1」のそれぞれとを平均化する。より具体的には、「パラメータA2」と「パラメータA1」とを加算して、それらのパラメータ数「2」で割った結果を最終的なパラメータ「パラメータA2’」とする。「パラメータB2」と「パラメータB1」とを加算して、それらのパラメータ数「2」で割った結果を最終的なパラメータ「パラメータB2’」とする。   At this time, the second parameter calculation unit 34 averages each of “parameter A2” and “parameter B2” generated this time and each of “parameter A1” and “parameter B1” generated last time. More specifically, “parameter A2” and “parameter A1” are added and divided by the number of parameters “2” as a final parameter “parameter A2 ′”. The result obtained by adding “parameter B2” and “parameter B1” and dividing the result by “2” is the final parameter “parameter B2 ′”.

また、第1のパラメータ算出部33も、今回生成した「パラメータC2」、「パラメータD2」のそれぞれと、前回生成した「パラメータC1」、「パラメータD1」のそれぞれとを平均化する。より具体的には、「パラメータC2」と「パラメータC1」とを加算して、それらのパラメータ数「2」で割った結果を最終的なパラメータ「パラメータC2’」とする。「パラメータD2」と「パラメータD1」とを加算して、それらのパラメータ数「2」で割った結果を最終的なパラメータ「パラメータD2’」とする。   The first parameter calculation unit 33 also averages each of the “parameter C2” and “parameter D2” generated this time and each of the “parameter C1” and “parameter D1” generated last time. More specifically, “parameter C2” and “parameter C1” are added and divided by the number of parameters “2” as a final parameter “parameter C2 ′”. The result obtained by adding “parameter D2” and “parameter D1” and dividing the result by the number of parameters “2” is the final parameter “parameter D2 ′”.

これらのパラメータ「パラメータA2’」、「パラメータB2’」、「パラメータC2’」、「パラメータD2’」に基づいて、画像処理ブロック25において「RAW画像データ1−2」〜「RAW画像データ2−N」の現像処理が行われる。   Based on these parameters “parameter A2 ′”, “parameter B2 ′”, “parameter C2 ′”, “parameter D2 ′”, “RAW image data 1-2” to “RAW image data 2-” in the image processing block 25. N "development processing is performed.

3つ目の情報群「Exif情報3」、「RAW画像データ3−1」〜「RAW画像データ3−N」に基づいて、第2のパラメータ「パラメータA3」、「パラメータB3」と、第1のパラメータ「パラメータC3」、「パラメータD3」とが生成される。   Based on the third information group “Exif information 3”, “RAW image data 3-1” to “RAW image data 3-N”, the second parameter “parameter A3”, “parameter B3”, and the first Parameters “parameter C3” and “parameter D3” are generated.

このときに、第2のパラメータ算出部34は、今回生成した「パラメータA3」、「パラメータB3」のそれぞれと、前回生成した「パラメータA2’」、「パラメータB2’」のそれぞれとを平均化する。より具体的には、「パラメータA3」と「パラメータA2’」とを加算して、それらのパラメータ数「2」で割った結果を最終的なパラメータ「パラメータA2’」とする。「パラメータB3」と「パラメータB2’」とを加算して、それらのパラメータ数「2」で割った結果を最終的なパラメータ「パラメータB3’」とする。   At this time, the second parameter calculation unit 34 averages each of “parameter A3” and “parameter B3” generated this time and each of “parameter A2 ′” and “parameter B2 ′” generated last time. . More specifically, “parameter A3” and “parameter A2 ′” are added and divided by the number of parameters “2” as the final parameter “parameter A2 ′”. The result of adding “parameter B3” and “parameter B2 ′” and dividing by the number of parameters “2” is the final parameter “parameter B3 ′”.

また、第1のパラメータ算出部33も、今回生成した「パラメータC3」、「パラメータD3」のそれぞれと、前回生成した「パラメータC2’」、「パラメータD2’」のそれぞれとを平均化する。より具体的には、「パラメータC3」と「パラメータC2’」とを加算して、それらのパラメータ数「2」で割った結果を最終的なパラメータ「パラメータC3’」とする。「パラメータD3」と「パラメータD2’」とを加算して、それらのパラメータ数「2」で割った結果を最終的なパラメータ「パラメータD3’」とする。   In addition, the first parameter calculation unit 33 also averages each of the “parameter C3” and “parameter D3” generated this time and each of the “parameter C2 ′” and “parameter D2 ′” generated last time. More specifically, “parameter C3” and “parameter C2 ′” are added and divided by the number of parameters “2” as a final parameter “parameter C3 ′”. The result obtained by adding “parameter D3” and “parameter D2 ′” and dividing the result by “2” is the final parameter “parameter D3 ′”.

これらのパラメータ「パラメータA3’」、「パラメータB3’」、「パラメータC3’」、「パラメータD3’」に基づいて、画像処理ブロック25において「RAW画像データ1−2」〜「RAW画像データ2−N」の現像処理が行われる。   Based on these parameters “parameter A3 ′”, “parameter B3 ′”, “parameter C3 ′”, and “parameter D3 ′”, in the image processing block 25, “RAW image data 1-2” to “RAW image data 2- N "development processing is performed.

以降も同様にして、第1のパラメータ算出部33及び第2のパラメータ算出部34は、今回生成したパラメータと前回生成したパラメータを平均化したパラメータを最終的なパラメータとして生成する。これによれば、RAW動画データに含まれる一連のRAW画像データのそれぞれに対するパラメータの急激な変化を抑制することができる。そのため、それらのパラメータを使用して生成される現像動画データにおいて急激な画像の変化を抑制し、より自然かつ画質の良い動画の再生を可能とすることがきる。   Similarly thereafter, the first parameter calculation unit 33 and the second parameter calculation unit 34 generate, as a final parameter, a parameter obtained by averaging the parameter generated this time and the parameter generated last time. According to this, it is possible to suppress a rapid change in parameters for each of a series of RAW image data included in the RAW moving image data. For this reason, it is possible to suppress a sudden image change in the developed moving image data generated using these parameters, and to reproduce a moving image with more natural and good image quality.

なお、以上の説明では、パラメータの平均化として、パラメータの相加平均を算出する例について説明したが、これに限られない。パラメータの平均化として、相乗平均及び加重平均などの他の平均化の手法を採用するようにしてよい。また平均化処理に追加して、クリッピング処理によりParameterの範囲を制限する処理を行っても良い。   In the above description, an example in which an arithmetic average of parameters is calculated as parameter averaging has been described. However, the present invention is not limited to this. As the parameter averaging, other averaging methods such as a geometric average and a weighted average may be adopted. In addition to the averaging process, a process of limiting the parameter range by the clipping process may be performed.

また、以上の説明では、第1のパラメータと第2のパラメータの両方についてヒステリシス制御を実施する例について説明したが、これに限られない。第1のパラメータと第2のパラメータのうち、少なくとも1つについてヒステリシス制御を実施するようにしてもよい。しかしながら、好ましくは、上述したように第1のパラメータと第2のパラメータの両方についてヒステリシス制御を実施することで、より自然かつ画質の良い動画の再生を可能とすることがきる。   Moreover, although the above description demonstrated the example which implements hysteresis control about both the 1st parameter and the 2nd parameter, it is not restricted to this. Hysteresis control may be performed for at least one of the first parameter and the second parameter. However, preferably, the hysteresis control is performed on both the first parameter and the second parameter as described above, so that it is possible to reproduce a moving image with more natural and good image quality.

RAW画像現像部35は、第1のパラメータ算出部33によって生成された第1のパラメータと、第2のパラメータ算出部34によって生成された第2のパラメータに基づいて、RAW画像データを現像する。   The RAW image development unit 35 develops the RAW image data based on the first parameter generated by the first parameter calculation unit 33 and the second parameter generated by the second parameter calculation unit 34.

<現像装置の処理>
続いて、図6を参照して、本発明の実施の形態に係る現像装置4の処理の流れについて説明する。
<Processing of developing device>
Next, with reference to FIG. 6, the flow of processing of the developing device 4 according to the embodiment of the present invention will be described.

USBアダプタ22は、PC3から受信したRAW動画データをRAM23に格納する(S1)。RAW解析ブロック24(RAW画像解析部32)は、RAM23に格納されたRAW動画データを取得し、解析する(S2、S3)。RAW解析ブロック24は、解析結果となる特徴量をCPU21に出力する(S4)。   The USB adapter 22 stores the RAW moving image data received from the PC 3 in the RAM 23 (S1). The RAW analysis block 24 (RAW image analysis unit 32) acquires and analyzes the RAW moving image data stored in the RAM 23 (S2, S3). The RAW analysis block 24 outputs the feature amount as the analysis result to the CPU 21 (S4).

CPU21(情報取得部31、第1のパラメータ算出部33、第2のパラメータ算出部34)は、RAM23に格納されたRAW動画データから取得した撮影情報及びExif情報と、RAW解析ブロック24から出力された特徴量に基づいて、パラメータを生成する(S5、S6)。CPU21は、生成したパラメータを画像処理ブロック25に出力する(S7)。   The CPU 21 (information acquisition unit 31, first parameter calculation unit 33, second parameter calculation unit 34) outputs the shooting information and Exif information acquired from the RAW moving image data stored in the RAM 23 and the RAW analysis block 24. A parameter is generated based on the feature amount (S5, S6). The CPU 21 outputs the generated parameter to the image processing block 25 (S7).

画像処理ブロック25(RAW画像現像部35)は、RAM23に格納されたRAW動画データを取得し、CPU21から出力されたパラメータに基づいて現像する(S8、S9)。画像処理ブロック25は、現像することで生成した現像動画データをRAM23に格納する(S10)。   The image processing block 25 (RAW image developing unit 35) acquires the RAW moving image data stored in the RAM 23, and develops it based on the parameters output from the CPU 21 (S8, S9). The image processing block 25 stores the developed moving image data generated by the development in the RAM 23 (S10).

動画コーデック26は、RAM23に格納された現像動画データを取得し、動画ストリームに変換する(S11、S12)。動画コーデック26は、生成した動画ストリームをRAM23に格納する(S13)。USBアダプタ22は、RAM23に格納された動画ストリームを取得し、PC3に送信する(S14)。   The moving image codec 26 acquires the developed moving image data stored in the RAM 23 and converts it into a moving image stream (S11, S12). The moving image codec 26 stores the generated moving image stream in the RAM 23 (S13). The USB adapter 22 acquires the moving image stream stored in the RAM 23 and transmits it to the PC 3 (S14).

<本実施の形態の効果>
以上に説明したように、本実施の形態では、第1のパラメータ算出部33は、RAW画像データを解析して、RAW画像データの現像で使用される第1のパラメータを生成し、第2のパラメータ算出部34は、RAW画像に含まれるExif情報に基づいて、RAW画像データの現像で使用される第2のパラメータを生成するようにしている。そして、RAW画像現像部35は、第1のパラメータ算出部33によって生成された第1のパラメータと、第2のパラメータ算出部によって生成された第2のパラメータを使用して、RAW画像データを現像するようにしている。
<Effects of the present embodiment>
As described above, in the present embodiment, the first parameter calculation unit 33 analyzes the RAW image data, generates the first parameter used in the development of the RAW image data, and generates the second parameter. The parameter calculation unit 34 generates a second parameter used for developing the RAW image data based on the Exif information included in the RAW image. Then, the RAW image development unit 35 develops the RAW image data using the first parameter generated by the first parameter calculation unit 33 and the second parameter generated by the second parameter calculation unit. Like to do.

これによれば、RAW画像データの現像に使用するパラメータのうち、一部のパラメータ(第2のパラメータ)についてRAW画像データを解析して生成することなく、RAW画像データの現像を行うことが可能となる。よって、本実施の形態によれば、RAW画像データの現像に使用するパラメータを得る際の処理負荷を低減することができる。例えば、RAW画像データを解析してホワイトバランスの特徴量を算出し、その特徴量に基づいて第2のパラメータ(ホワイトバランス係数)を算出するといった手間を省くことが可能となる。   According to this, it is possible to develop RAW image data without analyzing and generating RAW image data for some parameters (second parameters) among parameters used for developing RAW image data. It becomes. Therefore, according to the present embodiment, it is possible to reduce the processing load when obtaining parameters used for developing RAW image data. For example, it is possible to save the trouble of analyzing the RAW image data to calculate the white balance feature amount and calculating the second parameter (white balance coefficient) based on the feature amount.

また、本実施の形態では、第1のパラメータ算出部33は、RAW画像データを生成した際の撮影条件を示す撮影情報に基づいて、第1のパラメータを補正するようにしている。これによれば、第1のパラメータをより適切な値に補正して、現像画像データの画質をより向上することができる。   In the present embodiment, the first parameter calculation unit 33 corrects the first parameter based on the shooting information indicating the shooting condition when the RAW image data is generated. According to this, it is possible to further improve the image quality of the developed image data by correcting the first parameter to a more appropriate value.

また、本実施の形態では、第1のパラメータ算出部33及び第2のパラメータ算出部34は、第1のパラメータ及び第2のパラメータの少なくとも1つについて、第1のRAW画像データの現像に使用されたパラメータと、第1のRAW画像データの後の第2のRAW画像データから生成されたパラメータとを平均化したパラメータを生成するようにしている。そして、RAW画像現像部35は、第1のパラメータ算出部33及び第2のパラメータ算出部34によって平均化されたパラメータを使用して、第2のRAW画像データを現像するようにしている。   In the present embodiment, the first parameter calculation unit 33 and the second parameter calculation unit 34 use at least one of the first parameter and the second parameter for developing the first RAW image data. The averaged parameter and the parameter generated from the second RAW image data after the first RAW image data are averaged. Then, the RAW image developing unit 35 develops the second RAW image data using the parameters averaged by the first parameter calculating unit 33 and the second parameter calculating unit 34.

これによれば、第1のRAW画像データに対して使用されるパラメータと、第1のRAW画像データの後の第2のRAW画像データに対して使用されるパラメータとで急激な変化を無くすことができる。これによれば、パラメータを動画に適した値に補正することができる。   According to this, a sudden change is eliminated between the parameter used for the first RAW image data and the parameter used for the second RAW image data after the first RAW image data. Can do. According to this, the parameter can be corrected to a value suitable for a moving image.

また、本実施の形態では、RAW動画データから動画ストリームを生成するときに、リアルタイムでRAW動画データを解析して適切なパラメータを自動的に設定するようにしている。よって、RAW動画データを解析して得たパラメータをそのRAW動画データに予め含めておく技術と比較して、本実施の形態では、RAW動画データにそのようなパラメータが含めていないため、RAW動画データのデータ量を低減することができる。また、RAW動画データに含まれるパラメータに対して、ユーザーが複雑なEdit操作をする必要がなく、簡単にRAW動画データから高画質な動画ストリームを得ることができる。また、RAW動画データにパラメータを含めない構成とすることができるため、RAW動画データの現像に使用するパラメータが予め固定されることなく、現像を特定の現像装置に限らず実行することができる。   In the present embodiment, when a moving image stream is generated from RAW moving image data, the RAW moving image data is analyzed in real time and appropriate parameters are automatically set. Therefore, compared with a technique in which parameters obtained by analyzing RAW video data are included in the RAW video data in advance, in the present embodiment, such parameters are not included in the RAW video data. The amount of data can be reduced. Further, it is not necessary for the user to perform a complicated Edit operation on the parameters included in the RAW moving image data, and a high-quality moving image stream can be easily obtained from the RAW moving image data. Further, since it is possible to employ a configuration in which no parameters are included in the RAW moving image data, the parameters used for developing the RAW moving image data are not fixed in advance, and the development can be executed without being limited to a specific developing device.

なお、本発明は上述の実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。   Note that the present invention is not limited to the above-described embodiment, and can be modified as appropriate without departing from the spirit of the present invention.

上述の実施の形態では、現像装置4によってRAW動画データから動画ストリームを生成する例について説明したが、撮像装置2が現像装置4の機能を有するようにし、撮像装置2によってRAW動画データから動画ストリームを生成するようにしてもよい。   In the above-described embodiment, the example in which the developing device 4 generates the moving image stream from the RAW moving image data has been described. However, the imaging device 2 has the function of the developing device 4, and May be generated.

上述の実施の形態では、RAW動画データ処理システムが1つの現像装置4を有する例について説明したが、RAW動画データ処理システムが複数の現像装置4を有するようにしてもよい。   In the above-described embodiment, the example in which the RAW moving image data processing system has one developing device 4 has been described. However, the RAW moving image data processing system may have a plurality of developing devices 4.

上述の実施の形態では、CPU21がパラメータを生成する例について説明したが、CPU21とは別途設けられた専用のハードウェアブロック(回路)によってパラメータを生成するようにしてもよい。   In the above-described embodiment, an example in which the CPU 21 generates parameters has been described. However, the parameters may be generated by a dedicated hardware block (circuit) provided separately from the CPU 21.

上述の実施の形態では、動画ストリームをRAM23に格納する例について説明したが、これに限られない。例えば、現像装置4がSDカードを有するようにし、そのSDカードに動画ストリームを格納するようにしてもよい。   In the above-described embodiment, the example in which the moving image stream is stored in the RAM 23 has been described. For example, the developing device 4 may have an SD card, and the moving image stream may be stored in the SD card.

上述の実施の形態では、動画を対象とした例について説明したが、静止画を対象としてもよい。例えば、写真撮影によって生成されたRAW画像データについても同様に現像をすることができる。   In the above-described embodiment, an example in which a moving image is targeted has been described, but a still image may be targeted. For example, RAW image data generated by photography can be similarly developed.

また、上述した現像装置4のCPU21によって実行されるプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non−transitory computer readable medium)を用いて格納され、コンピュータ(現像装置4)に供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。   The program executed by the CPU 21 of the developing device 4 described above is stored using various types of non-transitory computer readable media and supplied to the computer (developing device 4). be able to. Non-transitory computer readable media include various types of tangible storage media. Examples of non-transitory computer-readable media include magnetic recording media (for example, flexible disks, magnetic tapes, hard disk drives), magneto-optical recording media (for example, magneto-optical disks), CD-ROM (Read Only Memory) CD-R, CD -R / W, semiconductor memory (for example, mask ROM, PROM (Programmable ROM), EPROM (Erasable PROM), flash ROM, RAM (Random Access Memory)). The program may also be supplied to the computer by various types of transitory computer readable media. Examples of transitory computer readable media include electrical signals, optical signals, and electromagnetic waves. The temporary computer-readable medium can supply the program to the computer via a wired communication path such as an electric wire and an optical fiber, or a wireless communication path.

1 RAW動画データ処理システム
2 撮像装置
3 PC
4 現像装置
11 イメージセンサ
12 プリプロセス回路
13 CPU
14 ディスプレイ
15 USBアダプタ
16 RAM
17 SDカード
18 画像処理ブロック
21 CPU
22 USBアダプタ
23 RAM
24 RAW解析ブロック
25 画像処理ブロック
26 動画コーデック
31 Exif情報取得部
32 RAW画像解析部
33 第1のパラメータ算出部
34 第2のパラメータ算出部
35 RAW画像現像部
1 Raw video data processing system 2 Imaging device 3 PC
4 Developing Device 11 Image Sensor 12 Preprocess Circuit 13 CPU
14 Display 15 USB adapter 16 RAM
17 SD card 18 Image processing block 21 CPU
22 USB adapter 23 RAM
24 RAW analysis block 25 image processing block 26 video codec 31 Exif information acquisition unit 32 RAW image analysis unit 33 first parameter calculation unit 34 second parameter calculation unit 35 RAW image development unit

Claims (6)

RAW画像データを解析して、前記RAW画像データの現像で使用される第1のパラメータを生成する第1のパラメータ生成部と、
前記RAW画像データに付与されたExif情報に基づいて、前記RAW画像データの現像で使用される第2のパラメータを生成する第2のパラメータ生成部と、
前記第1のパラメータ生成部によって生成された第1のパラメータと、前記第2のパラメータ生成部によって生成された第2のパラメータを使用して、前記RAW画像データを現像するRAW画像現像部と、
を備えた画像処理装置。
A first parameter generation unit that analyzes RAW image data and generates a first parameter used in development of the RAW image data;
A second parameter generation unit configured to generate a second parameter used in the development of the RAW image data based on the Exif information given to the RAW image data;
A RAW image development unit for developing the RAW image data using the first parameter generated by the first parameter generation unit and the second parameter generated by the second parameter generation unit;
An image processing apparatus.
前記RAW画像データは、撮影によって前記RAW画像データを生成した際の撮影条件を示す撮影情報が付与されており、
前記画像処理装置は、さらに、前記撮影情報に基づいて、前記第1のパラメータを補正するパラメータ補正部を備えた、
請求項1に記載の画像処理装置。
The RAW image data is provided with shooting information indicating shooting conditions when the RAW image data is generated by shooting,
The image processing apparatus further includes a parameter correction unit that corrects the first parameter based on the shooting information.
The image processing apparatus according to claim 1.
前記撮影情報は、撮影時における絞りを示す撮影絞り情報を含み、
前記第1のパラメータは、前記RAW画像データの現像において実施されるエッジ強度補正で使用されるパラメータであり、
前記パラメータ補正部は、前記撮影絞り情報が示す絞りが強くなるに従って、前記エッジ強度補正においてエッジ強度がより強く補正されるように前記第1のパラメータを補正する、
請求項2に記載の画像処理装置。
The shooting information includes shooting aperture information indicating an aperture at the time of shooting,
The first parameter is a parameter used in edge strength correction performed in the development of the RAW image data.
The parameter correction unit corrects the first parameter so that the edge strength is corrected more strongly in the edge strength correction as the diaphragm indicated by the photographing aperture information becomes stronger.
The image processing apparatus according to claim 2.
前記撮影情報は、撮影時におけるISO感度を示す撮影ISO感度情報を含み、
前記第1のパラメータは、前記RAW画像データの現像において実施されるノイズ補正で使用されるパラメータであり、
前記パラメータ補正部は、前記第1のパラメータが所定の正常範囲外である場合、前記第1のパラメータを、前記ISO感度情報が示すISO感度に基づいて導出したパラメータに補正する、
請求項2に記載の画像処理装置。
The shooting information includes shooting ISO sensitivity information indicating ISO sensitivity at the time of shooting,
The first parameter is a parameter used in noise correction performed in the development of the RAW image data,
The parameter correction unit corrects the first parameter to a parameter derived based on the ISO sensitivity indicated by the ISO sensitivity information when the first parameter is outside a predetermined normal range.
The image processing apparatus according to claim 2.
前記画像処理装置は、複数のRAW画像データを含むRAW動画データを現像するものであり、
前記画像処理装置は、さらに、前記第1のパラメータ及び前記第2のパラメータの少なくとも1つについて、第1のRAW画像データの現像に使用されたパラメータと、前記第1のRAW画像データの後の第2のRAW画像データから生成されたパラメータとを平均化したパラメータを生成するパラメータ平均化部を備え、
前記RAW画像現像部は、前記第1のパラメータ及び前記第2のパラメータの少なくとも1つについて、前記パラメータ平均化部によって平均化されたパラメータを使用して、前記第2のRAW画像データを現像する、
請求項1に記載の画像処理装置。
The image processing device develops RAW moving image data including a plurality of RAW image data,
The image processing apparatus further includes, for at least one of the first parameter and the second parameter, a parameter used for developing the first RAW image data, and a parameter after the first RAW image data. A parameter averaging unit that generates a parameter obtained by averaging the parameter generated from the second RAW image data;
The RAW image development unit develops the second RAW image data using a parameter averaged by the parameter averaging unit for at least one of the first parameter and the second parameter. ,
The image processing apparatus according to claim 1.
RAW画像データを解析して、前記RAW画像データの現像で使用される第1のパラメータを生成するとともに、前記RAW画像データに付与されたExif情報に基づいて、前記RAW画像データの現像で使用される第2のパラメータを生成するパラメータ生成ステップと、
前記パラメータ生成ステップにおいて生成された第1のパラメータ及び第2のパラメータに基づいて、前記RAW画像データを現像するRAW画像現像ステップと、
を備えた画像処理方法。
The RAW image data is analyzed to generate a first parameter used in the development of the RAW image data, and is used in the development of the RAW image data based on the Exif information given to the RAW image data. A parameter generating step for generating a second parameter;
A RAW image development step for developing the RAW image data based on the first parameter and the second parameter generated in the parameter generation step;
An image processing method comprising:
JP2015001278A 2015-01-07 2015-01-07 Image processing apparatus and image processing method Pending JP2016127505A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015001278A JP2016127505A (en) 2015-01-07 2015-01-07 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015001278A JP2016127505A (en) 2015-01-07 2015-01-07 Image processing apparatus and image processing method

Publications (1)

Publication Number Publication Date
JP2016127505A true JP2016127505A (en) 2016-07-11

Family

ID=56359853

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015001278A Pending JP2016127505A (en) 2015-01-07 2015-01-07 Image processing apparatus and image processing method

Country Status (1)

Country Link
JP (1) JP2016127505A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020188669A1 (en) * 2019-03-15 2020-09-24 株式会社ニコン Encoding device, decoding device, encoding method, decoding method, encoding program, and decoding program
JP2021072572A (en) * 2019-10-31 2021-05-06 キヤノン株式会社 Imaging apparatus, image processing device, and control method thereof

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020188669A1 (en) * 2019-03-15 2020-09-24 株式会社ニコン Encoding device, decoding device, encoding method, decoding method, encoding program, and decoding program
WO2020188875A1 (en) * 2019-03-15 2020-09-24 株式会社ニコン Encoding device, decoding device, encoding method, decoding method, encoding program, and decoding program
JP2021072572A (en) * 2019-10-31 2021-05-06 キヤノン株式会社 Imaging apparatus, image processing device, and control method thereof
JP7410620B2 (en) 2019-10-31 2024-01-10 キヤノン株式会社 Imaging device, image processing device, and control method thereof

Similar Documents

Publication Publication Date Title
US7656437B2 (en) Image processing apparatus, image processing method, and computer program
JP6415062B2 (en) Image processing apparatus, image processing method, control program, and recording medium
EP2426928A2 (en) Image processing apparatus, image processing method and program
JP6420540B2 (en) Image processing apparatus, control method therefor, program, and storage medium
US10382671B2 (en) Image processing apparatus, image processing method, and recording medium
JP5719123B2 (en) Image processing apparatus, image processing method, and program
JP2018148281A (en) Image processing device
WO2013114803A1 (en) Image processing device, image processing method therefor, computer program, and image processing system
US20200195857A1 (en) Image capturing device and control method thereof and medium
KR101349968B1 (en) Image processing apparatus and method for automatically adjustment of image
JP6611543B2 (en) Image processing apparatus, image processing method, and program
CN104869370B (en) Image processing equipment and image processing method
JP2016127505A (en) Image processing apparatus and image processing method
JP2009188947A (en) Color processing apparatus and color processing method
US9692983B2 (en) Apparatus, method, and medium for correcting pixel switching pattern
US9413974B2 (en) Information processing apparatus, image sensing apparatus, control method, and recording medium for conversion processing
WO2013114802A1 (en) Image processing device, image processing method therefor, computer program, and image processing system
JP2015126416A (en) Image processing apparatus, control method, and program
US11381798B2 (en) Image processing apparatus, control method therefor, and non-transitory computer-readable storage medium
US11696044B2 (en) Image capturing apparatus, control method, and storage medium
US20230088317A1 (en) Information processing apparatus, information processing method, and storage medium
JP2016001782A (en) Image processing system, imaging device, image processing method, program, and storage medium
JP2018085578A (en) Image processing apparatus, image processing method, and program
JP2006197082A (en) Signal processing method, signal processor, and storage medium stored with signal processing procedure
US20200118304A1 (en) Image processing apparatus, image processing method, and recording medium