JP4883057B2 - Image processing program, image processing apparatus, and image processing method - Google Patents

Image processing program, image processing apparatus, and image processing method Download PDF

Info

Publication number
JP4883057B2
JP4883057B2 JP2008194851A JP2008194851A JP4883057B2 JP 4883057 B2 JP4883057 B2 JP 4883057B2 JP 2008194851 A JP2008194851 A JP 2008194851A JP 2008194851 A JP2008194851 A JP 2008194851A JP 4883057 B2 JP4883057 B2 JP 4883057B2
Authority
JP
Japan
Prior art keywords
contrast
gradation
image
image processing
gradation conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008194851A
Other languages
Japanese (ja)
Other versions
JP2010034848A (en
Inventor
勝 村松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2008194851A priority Critical patent/JP4883057B2/en
Priority to CN2009801273925A priority patent/CN102090054B/en
Priority to EP09797655A priority patent/EP2299695A4/en
Priority to US12/993,027 priority patent/US8570407B2/en
Priority to EP18163870.1A priority patent/EP3364647B1/en
Priority to PCT/JP2009/002736 priority patent/WO2010007726A1/en
Publication of JP2010034848A publication Critical patent/JP2010034848A/en
Application granted granted Critical
Publication of JP4883057B2 publication Critical patent/JP4883057B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、処理対象の画像データに画像処理を施す画像処理プログラム、画像処理装置、および画像処理方法に関する。   The present invention relates to an image processing program for performing image processing on image data to be processed, an image processing apparatus, and an image processing method.

電子カメラなどの撮像装置により生成した画像データを、CRTモニタやプリンタなどの出力機器に出力する場合、見ばえを良くするために、出力機器に対応した階調カーブを用いた階調変換処理が行われている。このような階調変換処理を行わないと、出力機器のフレアや、黒浮き、外光反射などにより見ばえがわるくなる。階調変換処理には、出力機器に対応した階調カーブに加えて、いわゆるS字型の階調カーブが用いられている。このS字型階調カーブによりコントラストを調整することで、出力機器においてメリハリのある出力画像が得られる(例えば、特許文献1参照)。
特開2004−222076号公報
To output image data generated by an imaging device such as an electronic camera to an output device such as a CRT monitor or a printer, a gradation conversion process using a gradation curve corresponding to the output device in order to improve the appearance. Has been done. If such gradation conversion processing is not performed, it will be difficult to see due to flare of the output device, black float, external light reflection, and the like. In the gradation conversion process, a so-called S-shaped gradation curve is used in addition to the gradation curve corresponding to the output device. By adjusting the contrast with this S-shaped gradation curve, a sharp output image can be obtained in the output device (see, for example, Patent Document 1).
JP 2004-222076 A

上述したS字型の階調カーブを用いた階調変換処理では、コントラストを強調することが可能である一方、明部階調のコントラストが低下する場合や、暗部階調が暗く潰れてしまう場合があった。   In the gradation conversion process using the S-shaped gradation curve described above, the contrast can be enhanced, while the contrast of the bright gradation is lowered or the dark gradation is crushed darkly. was there.

本発明は、上記問題に鑑みてなされたものであり、見た目のコントラストを維持しつつ、明部階調および暗部階調を改善することが可能な画像処理を行うことを目的とする。   The present invention has been made in view of the above problems, and an object of the present invention is to perform image processing capable of improving bright part gradation and dark part gradation while maintaining apparent contrast.

本発明の画像処理プログラムは、処理対象の画像データに対する画像処理をコンピュータで実現するための画像処理プログラムであって、前記画像データを取得する取得ステップと、階調変換処理に用いる入出力特性と、画像の局所領域におけるコントラストを示す局所的コントラストを強調する補正を行う際の強調度合いとを関連付けて決定する決定ステップと、前記画像データに対して、前記入出力特性にしたがって階調変換処理を行う階調変換処理ステップと、前記階調変換処理が施された前記画像データに対して、前記強調度合いに基づいて、前記局所的コントラストを強調する補正を行う補正ステップとをコンピュータで実現することを特徴とする。   An image processing program of the present invention is an image processing program for realizing image processing on image data to be processed by a computer, an acquisition step for acquiring the image data, and input / output characteristics used for gradation conversion processing. A determination step in which a degree of emphasis at the time of performing correction for emphasizing a local contrast indicating a contrast in a local region of the image is determined and a gradation conversion process is performed on the image data according to the input / output characteristics. A computer that realizes a gradation conversion processing step to be performed and a correction step of performing correction for enhancing the local contrast on the image data subjected to the gradation conversion processing based on the enhancement degree. It is characterized by.

なお、前記入出力特性は、階調の中間部において、前記コントラストを弱める特性を加味した特性を有しても良い。   The input / output characteristic may have a characteristic that takes into account the characteristic of weakening the contrast at an intermediate part of the gradation.

また、前記入出力特性は、通常の特性を有する階調カーブと、前記コントラストを弱める特性を有する階調カーブとにより定義されるか、または、前記通常の特性に前記コントラストを弱める特性を加味した1つの階調カーブにより定義されても良い。   The input / output characteristics are defined by a gradation curve having normal characteristics and a gradation curve having characteristics that weaken the contrast, or the characteristics that weaken the contrast are added to the normal characteristics. It may be defined by one gradation curve.

また、前記決定ステップでは、前記コントラストを弱める度合いが大きいほど、前記強調度合いを大きく決定し、前記コントラストを弱める度合いが小さいほど、前記強調度合いを小さく決定しても良い。   Further, in the determination step, the degree of enhancement may be determined to be larger as the degree of weakening the contrast is larger, and the degree of enhancement may be determined to be smaller as the degree of weakening the contrast is smaller.

また、上記発明に関する構成を、処理対象の画像データに対する画像処理を行う画像処理装置および画像処理方法に変換して表現したものも本発明の具体的態様として有効である。   In addition, a configuration obtained by converting the configuration related to the above invention into an image processing apparatus and an image processing method for performing image processing on image data to be processed is also effective as a specific aspect of the present invention.

本発明によれば、見た目のコントラストを維持しつつ、明部階調および暗部階調を改善することが可能な画像処理を行うことができる。   According to the present invention, it is possible to perform image processing capable of improving the bright part gradation and the dark part gradation while maintaining the apparent contrast.

<第1実施形態>
以下、図面を用いて本発明の第1実施形態について説明する。第1実施形態では、本発明の画像処理プログラムを適用した一眼レフタイプの電子カメラを例に挙げて説明する。
<First Embodiment>
Hereinafter, a first embodiment of the present invention will be described with reference to the drawings. In the first embodiment, a single-lens reflex type electronic camera to which the image processing program of the present invention is applied will be described as an example.

図1は、第1実施形態の電子カメラ1の構成を示す図である。図1に示すように、電子カメラ1は、撮影レンズ2、絞り3、クイックリターンミラー4、サブミラー5、拡散スクリーン6、コンデンサレンズ7、ペンタプリズム8、ビームスプリッタ9、接眼レンズ10、結像レンズ11、測光センサ12、シャッタ13、撮像素子14、焦点検出部15の各部を備える。   FIG. 1 is a diagram illustrating a configuration of an electronic camera 1 according to the first embodiment. As shown in FIG. 1, an electronic camera 1 includes a photographing lens 2, an aperture 3, a quick return mirror 4, a sub mirror 5, a diffusion screen 6, a condenser lens 7, a pentaprism 8, a beam splitter 9, an eyepiece lens 10, and an imaging lens. 11, a photometric sensor 12, a shutter 13, an image sensor 14, and a focus detection unit 15.

測光センサ12は、例えば、5分割の測光センサである。撮像素子14は、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの半導体デバイスである。焦点検出部15は、例えば、位相差方式の焦点検出を行い、撮影レンズ2の焦点状態を検出する。また、電子カメラ1は、測光センサ12により検出される輝度に基づいて、コントラスト方式の焦点検出を行い、撮影レンズ2の焦点状態を検出する。   The photometric sensor 12 is, for example, a five-part photometric sensor. The imaging element 14 is a semiconductor device such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor). For example, the focus detection unit 15 detects a focus state of the photographic lens 2 by performing phase difference type focus detection. The electronic camera 1 detects the focus state of the photographic lens 2 by performing contrast-type focus detection based on the luminance detected by the photometric sensor 12.

また、電子カメラ1は、撮像により生成された画像などを表示する液晶モニタなどのモニタ16、各部を制御する制御部17をさらに備える。制御部17は、内部に不図示のメモリを備え、各部を制御するためのプログラムを予め記録する。   The electronic camera 1 further includes a monitor 16 such as a liquid crystal monitor that displays an image generated by imaging, and a control unit 17 that controls each unit. The control unit 17 includes a memory (not shown) therein, and records a program for controlling each unit in advance.

非撮影時、すなわち撮影を行わない場合には、クイックリターンミラー4は、図1に示すように、45°の角度に配置される。そして、撮影レンズ2および絞り3を通過した光束は、クイックリターンミラー4で反射され、拡散スクリーン6、コンデンサレンズ7、ペンタプリズム8、ビームスプリッタ9を介して接眼レンズ10に導かれる。ユーザは、接眼レンズ10を介して被写体の像を目視することにより構図確認を行う。一方、ビームスプリッタ9により、上方に分割された光束は、結像レンズ11を介して測光センサ12の撮像面上に再結像される。また、クイックリターンミラー4を透過した光束は、サブミラー5を介して焦点検出部15に導かれる。   When not photographing, that is, when photographing is not performed, the quick return mirror 4 is disposed at an angle of 45 ° as shown in FIG. The light beam that has passed through the photographing lens 2 and the diaphragm 3 is reflected by the quick return mirror 4 and guided to the eyepiece lens 10 through the diffusion screen 6, the condenser lens 7, the pentaprism 8, and the beam splitter 9. The user confirms the composition by viewing the subject image through the eyepiece 10. On the other hand, the light beam split upward by the beam splitter 9 is re-imaged on the imaging surface of the photometric sensor 12 via the imaging lens 11. Further, the light beam transmitted through the quick return mirror 4 is guided to the focus detection unit 15 via the sub mirror 5.

一方、撮影時には、クイックリターンミラー4が、破線で示す位置に退避してシャッタ13が開放し、撮影レンズ2からの光束は撮像素子14に導かれる。   On the other hand, at the time of photographing, the quick return mirror 4 is retracted to the position indicated by the broken line, the shutter 13 is opened, and the light flux from the photographing lens 2 is guided to the image sensor 14.

図2は、第1実施形態の電子カメラ1の機能ブロック図である。図2に示すように、電子カメラ1は、図1の構成に加えて、タイミングジェネレータ20、信号処理部21、A/D変換部22、バッファメモリ23、バス24、カードインターフェース25、圧縮伸長部26、画像表示部27の各部を備える。タイミングジェネレータ20は、撮像素子14に出力パルスを供給する。また、撮像素子14で生成される画像データは、信号処理部21(撮像感度に対応するゲイン調整部を含む)およびA/D変換部22を介して、バッファメモリ23に一時記憶される。バッファメモリ23は、バス24に接続される。このバス24には、カードインターフェース25、図1で説明した制御部17、圧縮伸張部26、および画像表示部27が接続される。カードインターフェース25は、着脱自在なメモリカード28と接続し、メモリカード28に画像データを記録する。また、制御部17には、電子カメラ1のスイッチ群29(不図示のレリーズ釦などを含む)、タイミングジェネレータ20、および測光センサ12が接続される。さらに、画像表示部27は、電子カメラ1の背面に設けられたモニタ16に画像などを表示する。   FIG. 2 is a functional block diagram of the electronic camera 1 according to the first embodiment. 2, the electronic camera 1 includes a timing generator 20, a signal processing unit 21, an A / D conversion unit 22, a buffer memory 23, a bus 24, a card interface 25, and a compression / decompression unit in addition to the configuration of FIG. 26, each part of the image display unit 27 is provided. The timing generator 20 supplies output pulses to the image sensor 14. The image data generated by the image sensor 14 is temporarily stored in the buffer memory 23 via the signal processing unit 21 (including a gain adjustment unit corresponding to the imaging sensitivity) and the A / D conversion unit 22. The buffer memory 23 is connected to the bus 24. The bus 24 is connected to the card interface 25, the control unit 17, the compression / decompression unit 26, and the image display unit 27 described in FIG. The card interface 25 is connected to a removable memory card 28 and records image data on the memory card 28. The control unit 17 is connected to a switch group 29 (including a release button (not shown)) of the electronic camera 1, a timing generator 20, and a photometric sensor 12. Further, the image display unit 27 displays an image or the like on the monitor 16 provided on the back surface of the electronic camera 1.

以上説明した構成の電子カメラ1の撮影時の動作について、図3に示すフローチャートを用いて説明する。   The operation at the time of photographing of the electronic camera 1 having the above-described configuration will be described using the flowchart shown in FIG.

ステップS1において、制御部17は、ユーザによりスイッチ群29を介して撮影開始が指示されたか否かを判定する。そして、制御部17は、撮影開始が指示されたと判定するとステップS2に進む。   In step S <b> 1, the control unit 17 determines whether or not the user has instructed to start shooting via the switch group 29. If the control unit 17 determines that an instruction to start photographing is given, the process proceeds to step S2.

ステップS2において、制御部17は、各部を制御し、撮像素子14により被写体像を撮像して画像データを生成する。撮像素子14により生成された画像データは、信号処理部21およびA/D変換部22を介して、バッファメモリ23に一時記憶される。   In step S <b> 2, the control unit 17 controls each unit and captures a subject image with the image sensor 14 to generate image data. Image data generated by the imaging device 14 is temporarily stored in the buffer memory 23 via the signal processing unit 21 and the A / D conversion unit 22.

ステップS3において、制御部17は、バッファメモリ23から画像データを読み出し、通常の画像処理を行う。通常の画像処理とは、ホワイトバランス調整、補間処理、色調補正処理などである。各処理の具体的な方法は公知技術と同様であるため説明を省略する。   In step S3, the control unit 17 reads the image data from the buffer memory 23 and performs normal image processing. Normal image processing includes white balance adjustment, interpolation processing, color tone correction processing, and the like. Since the specific method of each process is the same as that of a well-known technique, description is abbreviate | omitted.

ステップS4において、制御部17は、階調カーブG1を選択する。階調カーブG1は、後述するステップS5で行われる階調変換処理に用いられるものであり、CRTなどの出力機器に対応した階調カーブに公知のS字型特性を持たせた階調カーブである。制御部17は、内部の不図示のメモリに、図4および図5に示す2種類の階調カーブ(G1,G2)を予め記録している。   In step S4, the control unit 17 selects the gradation curve G1. The gradation curve G1 is used for gradation conversion processing performed in step S5 described later, and is a gradation curve having a known S-shaped characteristic in a gradation curve corresponding to an output device such as a CRT. is there. The control unit 17 records in advance two types of gradation curves (G1, G2) shown in FIGS. 4 and 5 in an internal memory (not shown).

ステップS5において、制御部17は、ステップS4で選択した階調カーブG1にしたがって、ステップS3で画像処理を施した画像データに対して階調変換処理を行う。階調変換処理の詳細は公知技術と同様であるため説明を省略する。   In step S5, the control unit 17 performs gradation conversion processing on the image data subjected to image processing in step S3 according to the gradation curve G1 selected in step S4. The details of the gradation conversion process are the same as those of the known technique, and thus description thereof is omitted.

ステップS6において、制御部17は、階調カーブG2を選択する。階調カーブG2は、図5に示すように、1:1の入出力(図5点線参照)と比較して、階調の中間部において、コントラストを弱める特性を有する。   In step S6, the control unit 17 selects the gradation curve G2. As shown in FIG. 5, the gradation curve G2 has a characteristic of weakening the contrast in the middle portion of the gradation as compared with the 1: 1 input / output (see the dotted line in FIG. 5).

ステップS7において、制御部17は、ステップS6で選択した階調カーブG2にしたがって、ステップS5で1回目の階調変換処理を施した画像データに対して2回目の階調変換処理を行う。階調変換処理の詳細は公知技術と同様であるため説明を省略する。なお、上述した階調カーブG2にしたがって階調変換処理を行うことにより、階調の中間部において階調が軟調化される。   In step S7, the control unit 17 performs the second gradation conversion process on the image data that has been subjected to the first gradation conversion process in step S5, according to the gradation curve G2 selected in step S6. The details of the gradation conversion process are the same as those of the known technique, and thus description thereof is omitted. Note that the gradation is softened in the middle portion of the gradation by performing the gradation conversion processing according to the gradation curve G2 described above.

ステップS8において、制御部17は、ステップS7で2回目の階調変換処理を施した画像データに対して局所的コントラスト強調処理を行う。局所的コントラストとは、画像の局所領域におけるコントラストのことである。   In step S8, the control unit 17 performs local contrast enhancement processing on the image data that has been subjected to the second gradation conversion processing in step S7. The local contrast is a contrast in a local region of an image.

各画素R[x,y],G[x,y],B[x,y]における局所的コントラスト強調演算は以下の式1から式6により行う。   The local contrast enhancement calculation in each pixel R [x, y], G [x, y], B [x, y] is performed by the following equations 1 to 6.

Figure 0004883057
式1中のYは、注目画素の輝度値を示す。また、式1中のkr,kg,kbは所定の係数である。また、式2中のLpwは、注目画素周りのローパスフィルタであり、このローパスフィルタは、図6に示す特性を有する。このローパスフィルタは、半値幅(図6中d)が画像の短辺の1/100以上の広い幅のローパスフィルタである。したがって、式2のYlpは、輝度値Yにローパス処理を施したローパス値に相当する。また、式3のgainは、強調演算時のゲインであり、式3中のKdifは、所定の調整係数である。
Figure 0004883057
Y in Equation 1 indicates the luminance value of the target pixel. Further, kr, kg, and kb in Equation 1 are predetermined coefficients. Lpw in Equation 2 is a low-pass filter around the pixel of interest, and this low-pass filter has the characteristics shown in FIG. This low-pass filter is a wide-width low-pass filter whose half-value width (d in FIG. 6) is 1/100 or more of the short side of the image. Therefore, Ylp in Equation 2 corresponds to a low-pass value obtained by performing low-pass processing on the luminance value Y. Further, “gain” in Expression 3 is a gain at the time of emphasis calculation, and “Kdif” in Expression 3 is a predetermined adjustment coefficient.

調整係数Kdifは、局所的コントラストを調整するための調整係数である。式3から明らかなように、調整係数Kdifが変化すると、注目画素の輝度値と注目画素周りのローパス値とを組み合わせる際の重みが変化する。例えば、調整係数Kdif=0の場合には、式3から明らかなように、局所的コントラストは強調されない。傾向としては、調整係数Kdifが大きくなるほど局所的コントラストの強調度合いも大きくなる。ステップS7で説明したように、階調カーブG2にしたがって階調変換処理を行うことにより、階調が軟調化されるので、調整係数Kdifを適切に設定することにより、局所的コントラストを調整して、見た目のコントラストを維持することができる。調整係数Kdifは、固定値であっても良いし、変動値であっても良い。ここでは、例えば、Kdif=0.1程度の固定値であるものとする。   The adjustment coefficient Kdif is an adjustment coefficient for adjusting the local contrast. As apparent from Equation 3, when the adjustment coefficient Kdif changes, the weight for combining the luminance value of the target pixel and the low-pass value around the target pixel changes. For example, when the adjustment coefficient Kdif = 0, the local contrast is not enhanced, as is apparent from Equation 3. As a tendency, the degree of local contrast enhancement increases as the adjustment coefficient Kdif increases. As described in step S7, the gradation is softened by performing the gradation conversion processing according to the gradation curve G2, so that the local contrast is adjusted by appropriately setting the adjustment coefficient Kdif. The visual contrast can be maintained. The adjustment coefficient Kdif may be a fixed value or a fluctuation value. Here, for example, it is assumed that Kdif = a fixed value of about 0.1.

ステップS9において、制御部17は、ステップS8で局所的コントラスト強調処理を施した画像データを、カードインターフェース25を介してメモリカード28に記録し、一連の処理を終了する。なお、画像データをメモリカード28に記録する前に、圧縮伸長部26を介して、必要に応じて画像圧縮処理(JPEG圧縮処理など)を施しても良い。   In step S9, the control unit 17 records the image data subjected to the local contrast enhancement process in step S8 on the memory card 28 via the card interface 25, and ends the series of processes. Note that before the image data is recorded on the memory card 28, an image compression process (such as a JPEG compression process) may be performed as necessary via the compression / decompression unit 26.

以上説明したように、第1実施形態によれば、処理対象の画像データに対して、所定の入出力特性にしたがって階調変換処理を行い、階調変換処理が施された画像データに対して、入力特性に応じた所定の強調度合いに基づいて、局所的コントラストを強調する補正を行う。したがって、コントラストを維持しつつ、明部階調および暗部階調を改善することができる。さらに、第1実施形態によれば、従来のようなS字型の階調カーブを用いた階調変換処理によって、明部階調、中間部の階調、および暗部階調のそれぞれの色相が変わってしまうという現象も、低減することができる。   As described above, according to the first embodiment, gradation conversion processing is performed on image data to be processed in accordance with predetermined input / output characteristics, and image data subjected to gradation conversion processing is processed. Then, based on a predetermined enhancement degree according to the input characteristics, correction for enhancing the local contrast is performed. Therefore, it is possible to improve the bright part gradation and the dark part gradation while maintaining the contrast. Furthermore, according to the first embodiment, the hue of each of the bright part gradation, the intermediate part gradation, and the dark part gradation is obtained by the gradation conversion process using the S-shaped gradation curve as in the related art. The phenomenon of changing can also be reduced.

また、第1実施形態によれば、図6に例示した、半値幅(図6中d)が画像の短辺の1/100以上の広い幅のローパスフィルタを用いて局所的コントラストを強調する補正を行うので、中周波成分に基づいて補正を行うことができる。この補正は、通常1画素毎に行われるエッジ強調など、超高周波成分に基づく補正とは異なり、局所的コントラストを補正して、コントラストを維持しつつ、明部階調および暗部階調を改善することができる。   Further, according to the first embodiment, the correction for emphasizing the local contrast using the low-pass filter having the wide width at half maximum (d in FIG. 6) of 1/100 or more of the short side of the image illustrated in FIG. Thus, correction can be performed based on the medium frequency component. This correction is different from the correction based on the super-high frequency component such as edge enhancement usually performed for each pixel, and corrects the local contrast to improve the bright part gradation and the dark part gradation while maintaining the contrast. be able to.

<第2実施形態>
以下、図面を用いて本発明の第2実施形態について説明する。第2実施形態は、第1実施形態の変形例であるため、第1実施形態と異なる部分についてのみ説明する。
Second Embodiment
The second embodiment of the present invention will be described below with reference to the drawings. Since the second embodiment is a modification of the first embodiment, only portions different from the first embodiment will be described.

第2実施形態の電子カメラの構成は、第1実施形態の電子カメラ1と同様である。したがって、以下では第1実施形態と同様の符号を用いて説明する。   The configuration of the electronic camera of the second embodiment is the same as that of the electronic camera 1 of the first embodiment. Therefore, the following description will be made using the same reference numerals as in the first embodiment.

第1実施形態では、2回目の階調変換処理に用いる階調カーブである階調カーブG2と、局所的コントラストを調整するための調整係数Kdifとは固定である場合を例に挙げて説明したが、第2実施形態では、階調カーブG2および調整係数Kdifを連動させて変更する。第1実施形態で説明したように、調整係数Kdifが大きくなるほど局所的コントラストの強調度合いも大きくなる。したがって、制御部17は、調整係数Kdifが大きくなるほど、階調の中間部においてコントラストが弱まるように階調カーブG2を設定すれば良い。   In the first embodiment, the case where the gradation curve G2 that is the gradation curve used for the second gradation conversion processing and the adjustment coefficient Kdif for adjusting the local contrast are fixed is described as an example. However, in the second embodiment, the gradation curve G2 and the adjustment coefficient Kdif are changed in conjunction with each other. As described in the first embodiment, the degree of enhancement of local contrast increases as the adjustment coefficient Kdif increases. Therefore, the control unit 17 may set the gradation curve G2 so that the contrast is weakened in the middle part of the gradation as the adjustment coefficient Kdif increases.

図7のフローチャートは、第2実施形態の電子カメラ1の撮影時の動作を示す。   The flowchart of FIG. 7 shows the operation at the time of photographing of the electronic camera 1 of the second embodiment.

ステップS21からステップS25において、制御部17は、図3のフローチャートのステップS1からステップS5と同様の処理を行う。   In step S21 to step S25, the control unit 17 performs the same processing as in step S1 to step S5 of the flowchart of FIG.

そして、ステップS26において、制御部17は、階調カーブG2の選択および調整係数Kdifの決定を行う。   In step S26, the control unit 17 selects the gradation curve G2 and determines the adjustment coefficient Kdif.

制御部17は、階調カーブG2の選択および調整係数Kdifの決定を、撮影モード(例えば、「ポートレートモード」、「風景モード」など)に応じて行う構成としても良いし、画像のコントラストの強弱に応じて行う構成としても良いし、画像の調整モードに応じて行う構成としても良い。また、シーン解析や顔認識による画像判断結果に応じて、階調カーブG2の選択および調整係数Kdifの決定を行う構成としても良い。このように階調カーブG2の選択および調整係数Kdifの決定を適宜行うことにより、画像に最適化した階調変換処理および局所的コントラスト強調処理を行うことができる。   The control unit 17 may be configured to perform the selection of the gradation curve G2 and the determination of the adjustment coefficient Kdif according to the shooting mode (for example, “portrait mode”, “landscape mode”, etc.), or the contrast of the image It is good also as a structure performed according to strength, and it is good also as a structure performed according to the adjustment mode of an image. Further, the gradation curve G2 may be selected and the adjustment coefficient Kdif may be determined according to the image determination result by scene analysis or face recognition. Thus, by appropriately selecting the gradation curve G2 and determining the adjustment coefficient Kdif, it is possible to perform gradation conversion processing and local contrast enhancement processing optimized for an image.

また、制御部17は、階調カーブG2の選択および調整係数Kdifの決定を、スイッチ群29を介したユーザ操作に基づいて行っても良い。例えば、制御部17は、画像表示部27に、図8に示すような、画像処理時の特性を指定する指定画面を表示する。ユーザは、スイッチ群29を介してスライドバーを移動させて画像処理時の特性を指定する。図8の例では、「硬質な」または「自然な」という言葉を用いているが、これは一例であり、上述した階調カーブG2および調整係数Kdifに応じた画像処理時の特性を示す言葉であればどのようなものであっても良い。そして、制御部17は、ユーザにより指定された画像処理時の特性に応じて、階調変換処理に用いる入出力特性と、画像の局所領域におけるコントラストを示す局所的コントラストを強調する補正を行う際の強調度合いとを関連付けて決定する。例えば、図8の例では、ユーザに指定された特性が「自然な」に近いほど、調整係数Kdifの値を大きく決定し、ユーザに指定された特性が「硬質な」に近いほど、調整係数Kdifの値を小さく決定する。また、ユーザに指定された特性が「自然な」に近いほど、階調カーブG2による軟調化の度合いを大きくし、ユーザに指定された特性が「硬質な」に近いほど、階調カーブG2による軟調化の度合いを小さくする。なお、ユーザに画像処理時の特性を指定させる場合には、図8に例示したように、プレビュー画面を設け、指定した特性に応じた画像処理の結果をユーザが確認可能な構成としても良い。   In addition, the control unit 17 may select the gradation curve G2 and determine the adjustment coefficient Kdif based on a user operation via the switch group 29. For example, the control unit 17 displays a designation screen for designating characteristics at the time of image processing as shown in FIG. 8 on the image display unit 27. The user moves the slide bar via the switch group 29 and designates characteristics at the time of image processing. In the example of FIG. 8, the words “hard” or “natural” are used, but this is an example, and the words indicating the characteristics at the time of image processing according to the gradation curve G2 and the adjustment coefficient Kdif described above. Anything can be used. Then, the control unit 17 performs correction to enhance the input / output characteristics used for the gradation conversion process and the local contrast indicating the contrast in the local area of the image according to the characteristics at the time of image processing specified by the user. It is determined in association with the degree of emphasis. For example, in the example of FIG. 8, as the characteristic specified by the user is closer to “natural”, the value of the adjustment coefficient Kdif is determined to be larger, and as the characteristic specified to the user is closer to “hard”, the adjustment coefficient is increased. Decrease the value of Kdif. Further, the closer the characteristic specified by the user is to “natural”, the greater the degree of softening by the gradation curve G2, and the closer the characteristic specified by the user to “hard”, Reduce the degree of softening. In the case where the user designates characteristics at the time of image processing, a preview screen may be provided as shown in FIG. 8 so that the user can confirm the result of image processing according to the designated characteristics.

図9に、階調カーブG2と調整係数Kdifの値との関係の一例を示す。制御部17は、図9に示したような複数の階調カーブを予め記録しておき、何れかの階調カーブを選択して使用しても良いし、階調カーブを適宜調整して使用する構成としても良い。   FIG. 9 shows an example of the relationship between the gradation curve G2 and the value of the adjustment coefficient Kdif. The control unit 17 may record a plurality of gradation curves as shown in FIG. 9 in advance, select one of the gradation curves, and use the gradation curve as appropriate. It is good also as composition to do.

ステップS27において、制御部17は、ステップS26で選択した階調カーブG2にしたがって、図3のフローチャートのステップS7と同様に、ステップS25で1回目の階調変換処理を施した画像データに対して2回目の階調変換処理を行う。   In step S27, the control unit 17 performs the first gradation conversion process in step S25 on the image data that has been subjected to the first gradation conversion process in step S25 in accordance with the gradation curve G2 selected in step S26. A second gradation conversion process is performed.

ステップS28において、制御部17は、ステップS26で決定した調整係数Kdifにしたがって、図3のフローチャートのステップS8と同様に、ステップS27で2回目の階調変換処理を施した画像データに対して局所的コントラスト強調処理を行う。   In step S28, the control unit 17 performs local processing on the image data that has been subjected to the second gradation conversion process in step S27 in accordance with the adjustment coefficient Kdif determined in step S26, as in step S8 of the flowchart of FIG. Contrast enhancement processing is performed.

ステップS29において、制御部17は、図3のフローチャートのステップS9と同様に、ステップS28で局所的コントラスト強調処理を施した画像データを、カードインターフェース25を介してメモリカード28に記録し、一連の処理を終了する。なお、画像データをメモリカード28に記録する前に、圧縮伸長部26を介して、必要に応じて画像圧縮処理(JPEG圧縮処理など)を施しても良い。   In step S29, the control unit 17 records the image data subjected to the local contrast enhancement processing in step S28 on the memory card 28 via the card interface 25, as in step S9 of the flowchart of FIG. The process ends. Note that before the image data is recorded on the memory card 28, an image compression process (such as a JPEG compression process) may be performed as necessary via the compression / decompression unit 26.

以上説明したように、第2実施形態によれば、階調変換処理に用いる入出力特性と、画像の局所領域におけるコントラストを示す局所的コントラストを強調する補正を行う際の強調度合いとを関連付けて決定する。したがって、第1実施形態の効果に加えて、見た目のコントラストを維持しつつ、明部階調および暗部階調を改善するために最適なファクターをバランス良く決定することができる。このような効果を得ることができるのは、人間の視覚では、コントラストを知覚するのが局所的であるためである。   As described above, according to the second embodiment, the input / output characteristics used for the gradation conversion process are associated with the degree of enhancement when performing correction for enhancing the local contrast indicating the contrast in the local region of the image. decide. Therefore, in addition to the effects of the first embodiment, it is possible to determine optimal factors in a well-balanced manner in order to improve the bright part gradation and the dark part gradation while maintaining the apparent contrast. This effect can be obtained because in human vision, it is local to perceive contrast.

<第3実施形態>
以下、図面を用いて本発明の第3実施形態について説明する。第3実施形態は、第1実施形態の変形例であるため、第1実施形態と異なる部分についてのみ説明する。
<Third Embodiment>
The third embodiment of the present invention will be described below with reference to the drawings. Since the third embodiment is a modification of the first embodiment, only parts different from the first embodiment will be described.

第3実施形態の電子カメラの構成は、第1実施形態の電子カメラ1と同様である。したがって、以下では第1実施形態と同様の符号を用いて説明する。   The configuration of the electronic camera of the third embodiment is the same as that of the electronic camera 1 of the first embodiment. Therefore, the following description will be made using the same reference numerals as in the first embodiment.

図10のフローチャートは、第3実施形態の電子カメラ1の撮影時の動作を示す。   The flowchart of FIG. 10 shows the operation at the time of shooting of the electronic camera 1 of the third embodiment.

ステップS41からステップS43において、制御部17は、図3のフローチャートのステップS1からステップS3と同様の処理を行う。   In step S41 to step S43, the control unit 17 performs the same processing as in step S1 to step S3 in the flowchart of FIG.

そして、ステップS44において、制御部17は、階調カーブG3を選択する。階調カーブG3は、図11に示すように、図3のフローチャートを用いて説明した階調カーブG1の特性と階調カーブG2の特性とをあわせ持つ階調カーブである。   In step S44, the control unit 17 selects the gradation curve G3. As shown in FIG. 11, the gradation curve G3 is a gradation curve having both the characteristics of the gradation curve G1 and the characteristics of the gradation curve G2 described using the flowchart of FIG.

ステップS45において、制御部17は、ステップS44で選択した階調カーブG3にしたがって、ステップS43で画像処理を施した画像データに対して階調変換処理を行う。すなわち、制御部17は、通常の特性(G1に相当)にコントラストを弱める特性(G2に相当)を加味した1つの階調カーブを用いて、1回のみ階調変換処理を行う。   In step S45, the control unit 17 performs gradation conversion processing on the image data subjected to image processing in step S43 according to the gradation curve G3 selected in step S44. That is, the control unit 17 performs the gradation conversion process only once using one gradation curve in which a characteristic (corresponding to G2) that weakens contrast is added to a normal characteristic (corresponding to G1).

ステップS46からステップS47において、制御部17は、図3のフローチャートのステップS8からステップS9と同様の処理を行う。このような構成とすることにより、第1実施形態と同様の効果を得ることができる。   In step S46 to step S47, the control unit 17 performs the same processing as in step S8 to step S9 in the flowchart of FIG. By adopting such a configuration, the same effect as that of the first embodiment can be obtained.

なお、上述した各実施形態では、本発明の技術を電子カメラ1において実現する例について説明した。しかしながら、本発明はこれに限定されるものではない。例えば、コンパクトタイプの電子カメラや動画撮影を行うムービーカメラなどにも本発明を同様に適用することができる。   In each of the above-described embodiments, the example in which the technique of the present invention is realized in the electronic camera 1 has been described. However, the present invention is not limited to this. For example, the present invention can be similarly applied to a compact type electronic camera, a movie camera for taking a moving image, and the like.

また、コンピュータと画像処理プログラムとにより、上述した各実施形態で説明した画像処理装置をソフトウェア的に実現しても良い。この場合、図3のフローチャートで説明したステップS4以降の処理の一部または全部をコンピュータで実現する構成とすれば良い。または、図7のフローチャートで説明したステップS24以降の処理の一部または全部をコンピュータで実現する構成とすれば良い。または、図10のフローチャートで説明したステップS44以降の処理の一部または全部をコンピュータで実現する構成とすれば良い。   Further, the image processing apparatus described in each of the above-described embodiments may be realized by software using a computer and an image processing program. In this case, what is necessary is just to make it the structure which implement | achieves part or all of the process after step S4 demonstrated with the flowchart of FIG. 3 with a computer. Or what is necessary is just to set it as the structure which implement | achieves one part or all part of the process after step S24 demonstrated with the flowchart of FIG. 7 with a computer. Or what is necessary is just to set it as the structure which implement | achieves a part or all of the process after step S44 demonstrated with the flowchart of FIG. 10 with a computer.

また、処理対象の画像が、上述した各実施形態において説明した階調カーブG1を用いた階調変換処理後の画像である場合にも本発明を同様に適用することができる。この場合、図3のフローチャートで説明したステップS6以降の処理の一部または全部をコンピュータで実現する構成とすれば良い。または、図7のフローチャートで説明したステップS26以降の処理の一部または全部をコンピュータで実現する構成とすれば良い。   In addition, the present invention can be similarly applied when the image to be processed is an image after the gradation conversion process using the gradation curve G1 described in each of the above-described embodiments. In this case, what is necessary is just to make it the structure which implement | achieves part or all of the process after step S6 demonstrated with the flowchart of FIG. 3 with a computer. Or what is necessary is just to set it as the structure which implement | achieves a part or all of the process after step S26 demonstrated with the flowchart of FIG. 7 with a computer.

なお、本発明は、その精神または主要な特徴から逸脱することなく、他のいろいろな形で実施することができる。そのため、前述の実施例はあらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。本発明の範囲は、特許請求の範囲によって示すものであって、明細書本文には、なんら拘束されない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、すべて本発明の範囲内のものである。   The present invention can be implemented in various other forms without departing from the spirit or main features thereof. For this reason, the above-described embodiments are merely examples in all respects and should not be interpreted in a limited manner. The scope of the present invention is indicated by the scope of claims, and is not restricted by the text of the specification. Further, all modifications and changes belonging to the equivalent scope of the claims are within the scope of the present invention.

第1実施形態の電子カメラ1の構成を示す図である。It is a figure which shows the structure of the electronic camera 1 of 1st Embodiment. 第1実施形態の電子カメラ1の機能ブロック図である。It is a functional block diagram of electronic camera 1 of a 1st embodiment. 第1実施形態の電子カメラ1の撮影時の動作を示すフローチャートである。It is a flowchart which shows the operation | movement at the time of imaging | photography of the electronic camera 1 of 1st Embodiment. 階調カーブについて説明する図である。It is a figure explaining a gradation curve. 階調カーブについて説明する別の図である。It is another figure explaining a gradation curve. ローパスフィルタについて説明する図である。It is a figure explaining a low pass filter. 第2実施形態の電子カメラ1の撮影時の動作を示すフローチャートである。It is a flowchart which shows the operation | movement at the time of imaging | photography of the electronic camera 1 of 2nd Embodiment. 階調カーブG2の選択および調整係数Kdifの決定について説明する図である。It is a figure explaining selection of the gradation curve G2, and determination of the adjustment coefficient Kdif. 階調カーブについて説明する別の図である。It is another figure explaining a gradation curve. 第3実施形態の電子カメラ1の撮影時の動作を別のフローチャートである。It is another flowchart about the operation | movement at the time of imaging | photography of the electronic camera 1 of 3rd Embodiment. 階調カーブについて説明する別の図である。It is another figure explaining a gradation curve.

符号の説明Explanation of symbols

1…電子カメラ,2…撮影レンズ,14…撮像素子,17…制御部 DESCRIPTION OF SYMBOLS 1 ... Electronic camera, 2 ... Shooting lens, 14 ... Image sensor, 17 ... Control part

Claims (6)

処理対象の画像データに対する画像処理をコンピュータで実現するための画像処理プログラムであって、
前記画像データを取得する取得ステップと、
階調変換処理に用いる入出力特性と、画像の局所領域におけるコントラストを示す局所的コントラストを強調する補正を行う際の強調度合いとを関連付けて決定する決定ステップと、
前記画像データに対して、前記入出力特性にしたがって階調変換処理を行う階調変換処理ステップと、
前記階調変換処理が施された前記画像データに対して、前記強調度合いに基づいて、前記局所的コントラストを強調する補正を行う補正ステップと
をコンピュータで実現することを特徴とする画像処理プログラム。
An image processing program for realizing image processing on image data to be processed by a computer,
An acquisition step of acquiring the image data;
A determination step that correlates and determines input / output characteristics used for gradation conversion processing and an enhancement degree when performing correction for enhancing local contrast indicating contrast in a local region of an image;
A gradation conversion processing step for performing gradation conversion processing on the image data according to the input / output characteristics;
A computer-implemented image processing program for performing a correction step for correcting the local contrast based on the degree of enhancement on the image data subjected to the gradation conversion processing.
請求項1に記載の画像処理プログラムにおいて、
前記入出力特性は、階調の中間部において、前記コントラストを弱める特性を加味した特性を有する
ことを特徴とする画像処理プログラム。
In the image processing program according to claim 1,
The image processing program characterized in that the input / output characteristic has a characteristic in consideration of a characteristic of weakening the contrast in an intermediate part of gradation.
請求項2に記載の画像処理プログラムにおいて、
前記入出力特性は、通常の特性を有する階調カーブと、前記コントラストを弱める特性を有する階調カーブとにより定義されるか、または、前記通常の特性に前記コントラストを弱める特性を加味した1つの階調カーブにより定義される
ことを特徴とする画像処理プログラム。
The image processing program according to claim 2,
The input / output characteristic is defined by a gradation curve having a normal characteristic and a gradation curve having a characteristic that weakens the contrast, or one of the normal characteristic and a characteristic that weakens the contrast. An image processing program characterized by being defined by a gradation curve.
請求項2に記載の画像処理プログラムにおいて、
前記決定ステップでは、前記コントラストを弱める度合いが大きいほど、前記強調度合いを大きく決定し、前記コントラストを弱める度合いが小さいほど、前記強調度合いを小さく決定する
ことを特徴とする画像処理プログラム。
The image processing program according to claim 2,
In the determining step, the degree of enhancement is determined to be larger as the degree of weakening the contrast is larger, and the degree of enhancement is determined to be smaller as the degree of weakening the contrast is smaller.
処理対象の画像データを取得する取得部と、
階調変換処理に用いる入出力特性と、画像の局所領域におけるコントラストを示す局所的コントラストを強調する補正を行う際の強調度合いとを関連付けて決定する決定部と、
前記画像データに対して、前記入出力特性にしたがって階調変換処理を行う階調変換処理部と、
前記階調変換処理が施された前記画像データに対して、前記強調度合いに基づいて、前記局所的コントラストを強調する補正を行う補正部と
を備えたことを特徴とする画像処理装置。
An acquisition unit for acquiring image data to be processed;
A determination unit that associates and determines input / output characteristics used for gradation conversion processing and an enhancement degree when performing correction for enhancing local contrast indicating contrast in a local region of an image;
A gradation conversion processing unit that performs gradation conversion processing on the image data according to the input / output characteristics;
An image processing apparatus comprising: a correction unit configured to perform correction for enhancing the local contrast based on the enhancement degree with respect to the image data subjected to the gradation conversion process.
処理対象の画像データを取得する取得工程と、
階調変換処理に用いる入出力特性と、画像の局所領域におけるコントラストを示す局所的コントラストを強調する補正を行う際の強調度合いとを関連付けて決定する決定工程と、
前記画像データに対して、前記入出力特性にしたがって階調変換処理を行う階調変換処理工程と、
前記階調変換処理が施された前記画像データに対して、前記強調度合いに基づいて、前記局所的コントラストを強調する補正を行う補正工程と
を有することを特徴とする画像処理方法。
An acquisition step of acquiring image data to be processed;
A determination step for determining the input / output characteristics used for the gradation conversion processing in association with the degree of enhancement when performing correction for enhancing the local contrast indicating the contrast in the local region of the image;
A gradation conversion processing step for performing gradation conversion processing on the image data according to the input / output characteristics;
An image processing method comprising: a correction step of performing correction for enhancing the local contrast on the image data subjected to the gradation conversion processing based on the enhancement degree.
JP2008194851A 2008-07-17 2008-07-29 Image processing program, image processing apparatus, and image processing method Expired - Fee Related JP4883057B2 (en)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2008194851A JP4883057B2 (en) 2008-07-29 2008-07-29 Image processing program, image processing apparatus, and image processing method
CN2009801273925A CN102090054B (en) 2008-07-17 2009-06-16 Imaging device, image processing program, image processing device, and image processing method
EP09797655A EP2299695A4 (en) 2008-07-17 2009-06-16 Imaging device, image processing program, image processing device, and image processing method
US12/993,027 US8570407B2 (en) 2008-07-17 2009-06-16 Imaging apparatus, image processing program, image processing apparatus, and image processing method
EP18163870.1A EP3364647B1 (en) 2008-07-17 2009-06-16 Imaging apparatus, image processing program, image processing apparatus, and image processing method
PCT/JP2009/002736 WO2010007726A1 (en) 2008-07-17 2009-06-16 Imaging device, image processing program, image processing device, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008194851A JP4883057B2 (en) 2008-07-29 2008-07-29 Image processing program, image processing apparatus, and image processing method

Publications (2)

Publication Number Publication Date
JP2010034848A JP2010034848A (en) 2010-02-12
JP4883057B2 true JP4883057B2 (en) 2012-02-22

Family

ID=41738835

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008194851A Expired - Fee Related JP4883057B2 (en) 2008-07-17 2008-07-29 Image processing program, image processing apparatus, and image processing method

Country Status (1)

Country Link
JP (1) JP4883057B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011228807A (en) * 2010-04-15 2011-11-10 Nikon Corp Image processing program, image processing apparatus, and image processing method
JP5561389B2 (en) * 2013-01-30 2014-07-30 株式会社ニコン Image processing program, image processing apparatus, electronic camera, and image processing method
JP6326997B2 (en) * 2014-06-13 2018-05-23 大日本印刷株式会社 Image processing apparatus and brightness adjustment method

Also Published As

Publication number Publication date
JP2010034848A (en) 2010-02-12

Similar Documents

Publication Publication Date Title
JP5076716B2 (en) Imaging device
US8243158B2 (en) Image processing device, imaging device, and medium storing image processing program for interpolating at an af pixel position
JP4678060B2 (en) Imaging apparatus and image processing program
JP2011228807A (en) Image processing program, image processing apparatus, and image processing method
JP5076650B2 (en) Imaging apparatus and image processing program
JP5589660B2 (en) Image processing apparatus, imaging apparatus, and image processing program
WO2010007726A1 (en) Imaging device, image processing program, image processing device, and image processing method
JP2009088935A (en) Image recording apparatus, image correcting apparatus, and image pickup apparatus
JP4883057B2 (en) Image processing program, image processing apparatus, and image processing method
JP5561389B2 (en) Image processing program, image processing apparatus, electronic camera, and image processing method
JP4941424B2 (en) Imaging apparatus and image processing program
JP2012095223A (en) Imaging device, imaging method, and program
JP5284183B2 (en) Image processing apparatus and method
JP4857856B2 (en) Electronic camera having saturation adjustment function and image processing program
JP5217783B2 (en) Imaging device
US7956911B2 (en) Digital photographing apparatus, and method and program for controlling the same
JP2009088933A (en) Image recording apparatus, image correcting apparatus and image pickup apparatus
US8665351B2 (en) Image processing device, electronic camera, and storage medium storing image processing program
JP5307572B2 (en) Imaging system, video signal processing program, and imaging method
JP5772096B2 (en) Imaging device
JP4868040B2 (en) Image processing apparatus, electronic camera, and image processing program
JP4978669B2 (en) Image processing apparatus, electronic camera, and image processing program
JP5208799B2 (en) Imaging system, video signal processing program, and imaging method
JP5874180B2 (en) Image processing apparatus, imaging apparatus, and image processing program
JP2009272798A (en) Imaging apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110325

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110921

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111108

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141216

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4883057

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141216

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees