JP5458937B2 - 撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体 - Google Patents

撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体 Download PDF

Info

Publication number
JP5458937B2
JP5458937B2 JP2010031990A JP2010031990A JP5458937B2 JP 5458937 B2 JP5458937 B2 JP 5458937B2 JP 2010031990 A JP2010031990 A JP 2010031990A JP 2010031990 A JP2010031990 A JP 2010031990A JP 5458937 B2 JP5458937 B2 JP 5458937B2
Authority
JP
Japan
Prior art keywords
light source
color temperature
white balance
correction coefficient
balance correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010031990A
Other languages
English (en)
Other versions
JP2011169998A (ja
Inventor
健一郎 野村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2010031990A priority Critical patent/JP5458937B2/ja
Priority to US13/025,726 priority patent/US8692903B2/en
Priority to EP11154718.8A priority patent/EP2362662B1/en
Publication of JP2011169998A publication Critical patent/JP2011169998A/ja
Application granted granted Critical
Publication of JP5458937B2 publication Critical patent/JP5458937B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Exposure Control For Cameras (AREA)
  • Studio Devices (AREA)

Description

本発明は、ホワイトバランス制御を行う技術を備えた撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体に関する。
近年、撮像装置として、報道写真を目的とするプロフェッショナル用のデジタルカメラを除いて、電球や白熱灯等のいわゆる赤い光源による低色温度光源下での撮影の際には、その低色温度光源による撮影環境下での撮影がされたという雰囲気を撮影画像に残すため、意図的に「白い被写体」を撮影したときの撮影画像が完全には白くならないようにホワイトバランス補正を行うものが一般的になっている。
しかし、撮影者によっては、光源による色味を撮影画像に残さずに「白い」被写体は白く写した方がきれいであると判断する等、撮影者の好みによる問題もあり、光源の色味を撮影画像に残すかどうかを撮影者が選択できるようにしたものもある(特許文献1参照)。
ところで、低色温度光源による撮影環境下での撮影には、撮影者の好みに応じて照明光源の色味を撮影画像に残すかどうかを撮影者に選択させるという問題の他に、被写体に起因する問題がある。
例えば、被写体がもともと彩度の高い暖色系統のものの場合、低色温度光源下でその被写体を撮影した場合、光源の色合いを撮影画像に残すというホワイトバランス補正処理を行うと、その結果、「赤」が飽和してしまって、色再現が劣化することになり、低色温度光源による撮影環境下での撮影画像の品質が劣化する。被写体が「肉」や「刺身」等の彩度の高い暖色系統の飲食物の場合に、この色再現が劣化すると、新鮮に感じられる飲食物が新鮮に感じられなくなる等、望ましくない画像品質となる。特に、マクロ撮影や被写体までの距離が近い場合にこの画像品質が問題となる。
このような場合、撮影者が被写体の色味に応じて光源の色味を残すか否かの判断を行って、手動によりホワイトバランス処理を行わないという選択肢もあるが、操作が煩雑となり、その判断も困難な場合がある。
本発明は、上記事情に鑑みてなされたもので、低色温度光源の撮影環境下であっても、煩雑な操作を行わず、マクロ撮影若しくは被写体までの距離が近づくに伴って自動的に光源の色合いを残さないホワイトバランス補正に移行することのできる撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体を提供することにある。
本発明の請求項1に記載の撮像装置は、光学系から入射した光を電気信号に変換して撮像信号として出力する撮像素子と、マクロ撮影であるか否かを判定するマクロ撮影判定手段と、色情報に基づいて低色温度光源下であるか否かの判定を行う低色温度光源判定手段と、前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出する第一ホワイトバランス補正係数算出手段と、前記低色温度光源下でかつ前記マクロ撮影の時に前記色温度光源の色合いを加味しない撮影画像が得られるようにホワイトバランス補正係数を算出する第二ホワイトバランス補正係数算出手段とを備え、前記低色温度光源下のときに前記マクロ撮影判定結果に基づいて前記第一ホワイトバランス補正係数算出手段と前記第二ホワイトバランス補正係数算出手段との算出処理を切り替えることを特徴とする。マクロ撮影であるか否かの判定は、フォーカス位置とズーム位置とによって判断を行うのが望ましい。
本発明の請求項3に記載の撮像装置は、光学系から入射した光を電気信号に変換して撮像信号として出力する撮像素子と、被写体までの距離を算出する被写体距離算出手段と、色情報に基づいて低色温度光源下であるか否かの判定を行う低色温度光源判定手段と、前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出するホワイトバランス補正係数算出手段と、前記被写体までの距離が近くなるに伴って前記色温度光源の色合いを加味した撮影画像が抑制されるように前記ホワイトバランス補正係数算出手段により算出されるべきホワイトバランス補正係数を調整する調整手段とを備え、
前記低色温度光源下の場合に被写体距離に応じて光源の色合いを加味する度合いを調整することを特徴とする。
低色温度光源であるか否かの判定は、色情報と輝度情報とに基づき判断を行うのが望ましい。
本発明の請求項5に記載の撮像方法は、光学系から入射した光を電気信号に変換する撮像素子から出力される撮像信号の色情報に基づき低色温度光源下であるか否かの判定を行う低色温度光源判定ステップと、マクロ撮影であるか否かを判定するマクロ撮影判定ステップと、前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出する第一ホワイトバランス補正係数算出ステップと、前記低色温度光源下でかつ前記マクロ撮影の時に前記色温度光源の色合いを加味しない撮影画像が得られるようにホワイトバランス補正係数を算出する第二ホワイトバランス補正係数算出ステップと、前記低色温度光源下のときにマクロ撮影判定結果に基づいて前記第一ホワイトバランス補正係数算出ステップと前記第二ホワイトバランス補正係数算出ステップとの算出処理を切り替えることを特徴とする。
本発明の請求項7に記載の撮像方法は、光学系から入射した光を電気信号に変換する撮像素子から出力される撮像信号の色情報に基づき低色温度光源下であるか否かの判定を行う低色温度光源判定ステップと、前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出するホワイトバランス補正係数算出ステップと、被写体までの距離が近くなるに伴って前記色温度光源の色合いを加味した撮影画像が抑制されるように前記ホワイトバランス補正係数算出手段により算出されるべきホワイトバランス補正係数を調整する調整ステップとを備え、前記低色温度光源下の場合に被写体距離に応じて光源の色合いを加味する度合いを調整することを特徴とする。
本発明の請求項9に記載のプログラムは、画像処理機能を有する撮像装置に搭載されたコンピュータに読み取らせるプログラムであって、光学系から入射した光を電気信号に変換する撮像素子から出力される撮像信号の色情報に基づき低色温度光源下であるか否かの判定を行う低色温度光源判定ステップと、マクロ撮影であるか否かを判定するマクロ撮影判定ステップと、前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出する第一ホワイトバランス補正係数算出ステップと、前記低色温度光源下でかつ前記マクロ撮影の時に前記色温度光源の色合いを加味しない撮影画像が得られるようにホワイトバランス補正係数を算出する第二ホワイトバランス補正係数算出ステップと、 前記低色温度光源下のときに前記マクロ撮影判定結果に基づいて前記第一ホワイトバランス補正係数算出ステップと前記第二ホワイトバランス補正係数算出ステップとの算出処理を切り替える処理を実行させるためのプログラムが記録されたコンピュータ読み取り可能な記録媒体である。
本発明の請求項10に記載のプログラムは、画像処理機能を有する撮像装置に搭載されたコンピュータに読み取らせるプログラムであって、光学系から入射した光を電気信号に変換する撮像素子から出力される撮像信号の色情報に基づき低色温度光源下であるか否かの判定を行う低色温度光源判定ステップと、前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出するホワイトバランス補正係数算出ステップと、被写体までの距離が近くなるに伴って前記色温度光源の色合いを加味した撮影画像が抑制されるように前記ホワイトバランス補正係数算出手段により算出されるべきホワイトバランス補正係数を調整する調整ステップとをさせるためのプログラムを記録したコンピュータ読み取り可能な記録媒体である。
本発明によれば、低色温度光源下であっても、煩雑な操作を行わず、マクロ撮影若しくは被写体までの距離が近づくに伴って自動的に光源の色合いを残さないホワイトバランス補正に移行することができるという効果を奏する。
図1(a)は本発明に係るデジタルカメラの正面図である。 図1(b)は図1(a)に示すデジタルカメラの上面図である。 図1(c)は図1(a)に示すデジタルカメラの背面図である。 図2はデジタルカメラのシステム構成を示すブロック図である。 図3は画面分割の一例を示す模式図である。 図4は本発明の実施例1に係る作用を説明するためのフローチャートである。 図5はRゲイン−Bゲイン座標の説明図である。 図6は本発明の実施例1に係る屋外加重率の一例を示す特性図である。 図7は本発明の実施例2に係る作用を説明するためのフローチャートである。 図8は本発明の実施例2に係る屋外加重抑圧係数の一例を示す特性図である。
以下に、本発明に係る撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体の実施例を図面を参照しつつ説明する。
(デジタルカメラの外観構成)
図1(a)ないし図1(c)は、本発明に係る撮像装置としてのデジタルカメラの概略図である。この図1(a)ないし図1(c)において、符号1はデジタルカメラである。
デジタルカメラ1の正面(前面)側には、図1(a)に示すように、後述する撮影レンズ系を有する鏡胴ユニット2、ストロボ発光部3、光学ファインダ4が設けられている。
デジタルカメラ1の上部には、図1(b)に示すように、レリーズボタン(シャッタボタン)5、電源ボタン6、撮影・再生切替ダイアル7が設けられている。
デジタルカメラ1の背面側には、図1(c)に示すように、液晶モニタ(LCD)8、光学ファインダ4の接眼レンズ部9、広角側ズーム(W)スイッチ10、望遠側ズーム(T)スイッチ11、メニュー(MENU)ボタン12、確定ボタン(OKボタン)13等が設けられている。また、デジタルカメラ1の側面内部には、撮影した画像データを保存するためのメモリカードを収納するメモリカード収納部(図示を略す)が設けられている。
(デジタルカメラのシステム構成)
デジタルカメラ1の内部には、図2に示すように、後述する撮影レンズ系(光学系)を通して入射する像形成光束を受像する固体撮像素子(CCD)15、固体撮像素子15から出力される電気信号としての撮像信号(アナログRGB画像信号)をデジタル信号に処理するアナログフロントエンド部(AFE部)16、AFE部16から出力されるデジタル信号を処理する信号処理部17、データを一時的に格納するSDRAM18、制御プログラム等が記憶されたROM(コンピュータが読み取り可能な記録媒体)19、モータドライバ20等が設けられている。
鏡胴ユニット2は、ズームレンズ21やフォーカスレンズ22等を有する撮影レンズ系14、絞りユニット(図示を略す)、メカシャッタユニット23を備えている。
撮影レンズ系14、絞りユニット(図示を略す)、メカシャッタユニット23の各駆動ユニット(図示を略す)は、モータドライバ20によって駆動される。モータドライバ20は、信号処理部17の制御部(CPU:コンピュータ)24からの駆動信号により駆動制御される。
固体撮像素子15には、各種の撮像素子を用いることができるが、ここでは、CCDから構成され、このCCDを構成する複数の画素上に色分解フィルタとしてのRGB原色フィルタが配置されている。これにより、CCDからRGB3原色に対応した電気信号(アナログRGB画像信号)が出力される。
AFE部16は、CCDを駆動するTG部(タイミング信号発生部)25、CCDから出力される電気信号(アナログRGB画像信号)をサンプリングするCDS部(相関2重サンプリング部)26、CDS部26においてサンプリングされたアナログRGB画像信号のゲインを調整するAGC部(アナログ利得制御部)27、AGC部27でゲイン調整されたアナログRGB画像信号を生のデジタル信号(RAW−RGBデータ)に変換するA/D変換器28を備えている。
信号処理部17は、AFE部16のTG部25へ画面水平同期信号(HD)と画面垂直同期信号(VD)の出力を行う。この信号処理部17は、これらの同期信号HD、VDに対応して、AFE部16のA/D変換器28から出力されるRAW−RGBデータを取り込むCCDインターフェース(CCDI/F部)29と、SDRAM18を制御するメモリコントローラ30と、取り込んだRAW−RGBデータを表示や記録が可能なYUV形式の画像データに変換するYUV変換部31と、表示や記録される画像データのサイズに合わせて画像サイズを変更するリサイズ処理部32と、この画像データの表示出力を制御する表示出力制御部33と、この画像データをJPEG形式等で記録するためのデータ圧縮部34と、画像データをメモリカード35へ書き込み、又は、メモリカード35に書き込まれた画像データを読み出すメディアインターフェース(メディアI/F)36とを備えている。
制御部(CPU)24は、操作部37からの操作入力情報に基づきROM19に記憶された制御プログラムに基づいてデジタルカメラ1全体のシステム制御等を行う。
この図2において、操作部37とは、デジタルカメラ1(図1参照)の表面に設けられているレリーズボタン5、電源ボタン6、撮影・再生切替ダイアル7、広角側ズームスイッチ10、望遠側ズームスイッチ11、メニューボタン12、確定ボタン13等であり、撮影者の操作によって所定の動作指示信号が制御部24に入力される。
SDRAM18には、CCDI/F部29に取り込まれたRAW−RGBデータ37’が保存されると共に、YUV変換部31で変換処理されたYUVデータ(YUV形式の画像データ)38が保存され、更に、データ圧縮部34で圧縮処理されたJPEG形式などの画像データ39が保存される。
なお、YUVデータ38のYUVは、輝度データYと、色差(輝度データYと青色成分データBの差分Uと、輝度データYと赤色成分データRの差分V)の色差情報として「色」を表現する形式である。
(デジタルカメラのモニタリング動作、静止画撮影動作)
次に、デジタルカメラ1のモニタリング動作と静止画撮影動作について説明する。このデジタルカメラ1は、静止画撮影モード時には、以下に説明するモニタリング動作を実行しながら静止画撮影動作を行う。
先ず、撮影者が電源ボタン6をONし、撮影・再生切替ダイアル7を撮影モード(静止画撮影モード)に設定することにより、デジタルカメラ1は記録モードで起動する。電源ボタンが6がONされて、撮影・再生切替ダイアル7が撮影モードに設定されたことを制御部24が検知すると、制御部24はモータドライバ20に制御信号を出力し、鏡胴ユニット2が撮影可能位置に移動され、かつ、固体撮像素子(CCD)15、AFE部16、信号処理部17、SDRAM18、ROM19、液晶モニタ(LCDディスプレイ)8等が起動される。
そして、鏡胴ユニット2の撮影レンズ系14を被写体に向けると、撮影レンズ系14を通して入射する像形成光束により被写体画像が固体撮像素子(CCD)15の各画素の受光面上に結像される。
これにより、固体撮像素子(CCD)15から出力される被写体画像に応じた撮像信号(アナログRGB画像信号)が、CDS部26、AGC部27を介してA/D変換器28に入力され、撮像信号(アナログRGB画像信号)がA/D変換器28により12ビット(bit)のRAW−RGBデータに変換される。
このRAW−RGBデータは、信号処理部17のCCDI/F部29に取り込まれ、メモリコントローラ30を介してSDRAM18に保存される。そして、SDRAM18から読み出されたRAW−RGBデータ37’は、YUV変換部31に送信されて、表示可能な形式のYUVデータ38に変換された後、YUVデータ38がメモリコントローラ30を介してSDRAM18に保存される。
そして、SDRAM18からメモリコントローラ30を介して読み出されたYUVデータ38は、表示出力制御部33を介して液晶モニタ(LCD)ディスプレイ8へ送られ、撮影画像(動画)が表示される。
液晶モニタ(LCDディスプレイ)8に撮影画像を表示しているモニタリング時においては、CCDI/F部29による画素数の間引き処理により1/30秒の時間で1フレームを読み出している。
なお、このモニタリング動作時は、電子ファインダとして機能する液晶モニタ(LCDディスプレイ)8に撮影画像(動画)が表示されているだけで、レリーズボタン5は押下(半押も含む)操作されていない状態である。
この撮影画像の液晶モニタ(LCDディスプレイ)8への表示によって、静止画を撮影するための構図の確認等をすることができる。なお、表示出力制御部33からTVビデオ信号として出力して、ビデオケーブルを介して外部のTV(テレビ)に撮影画像(動画)を表示することもできる。
そして、信号処理部のCCDI/F部29は、取り込まれたRAW−RGBデータ37’により、AF(自動合焦)評価値、AE(自動露出)評価値、AWB(オートホワイトバランス)評価値を算出する。
AF評価値は、例えば、高周波成分抽出フィルタの出力積分値や、近接画素の輝度差の積分値によって算出される。合焦状態にあるときは、被写体のエッジ部分がはっきりしているため、高周波成分が一番高くなる。これを利用して、AF動作時(合焦検出動作時)には、撮影レンズ系14内の各フォーカスレンズ位置におけるAF評価値を取得して、その極大になる点を合焦検出位置としてAF動作が実行される。
AE評価値とAWB評価値は、RAW−RGBデータ37’におけるRGB値のそれぞれの積分値から算出される。例えば、CCDの全画素の受光面に対応した液晶モニタ(LCDディスプレイ)8の画面Gを、図3に示すように、256エリア(ブロック)に等分割(水平16分割、垂直16分割)し、それぞれのエリア(ブロック)のRGB積算を算出する。
そして、制御部24は、算出されたRGB積算値を読み出し、AE処理では、液晶モニタ(LCDディスプレイ)8の画面Gの各エリア(ブロック)の輝度を算出し、輝度分布から適正な露光量を決定する。
この決定した露光量に基づいて、露光条件(CCDの電子シャッタ回数、絞りユニットの絞り値、NDフィルタの出し入れ等)を設定する。また、AWB処理では、RGBの分布から被写体の光源の色に合わせたAWB(オートホワイトバランス)の制御値を決定する。このAWB処理により、YUV変換部31でYUVデータに変換処理するときのホワイトバランスを合わせる。なお、AE処理とAWB処理は、モニタリング時には連続的に行われている。
そして、モニタリング動作時に、レリーズボタン5が押下(半押しから全押し)操作されると、静止画撮影動作が開始され、合焦位置検出動作であるAF動作と静止画記録処理が行われる。
すなわち、レリーズボタン5が押圧(半押しから全押し)操作されると、制御部24からモータドライバ20への駆動指令により撮影レンズ系14のフォーカスレンズ22が移動し、例えば、いわゆる山登りAFと称されるコントラスト評価方式のAF動作が実行される。
AF(合焦)対象範囲が無限から至近までの全領域であった場合、撮影レンズ系14のフォーカスレンズ22は、至近から無限、又は、無限から至近までの間の各フォーカス位置に移動し、制御部24がCCDI/F部29で算出されている各フォーカス位置におけるAF評価値を読み出す。そして、各フォーカス位置のAF評価値が極大になる点を合焦位置としてフォーカスレンズ22を合焦位置に移動させ、被写体に合焦させる。
そして、AE処理が行われ、露光完了時点で、制御部24からモータドライバ20への駆動指令によりメカシャッタユニット23が閉じられ、CCDから静止画用のアナログRGB画像信号が出力される。そして、モニタリング時と同様に、AFE部16のA/D変換器28によりRAW−RGBデータ37’に変換される。
そして、このRAW−RGBデータ37’は、信号処理部17のCCDI/F部29に取り込まれ、YUV変換部31でYUVデータに変換されて、メモリコントローラ30を介してSDRAM18に保存される。そして、このYUVデータ38はSDRAM18から読み出されて、リサイズ処理部32で記録画素数に対応するサイズに変換され、データ圧縮部34でJPEG形式等の画像データへと圧縮される。
圧縮されたJPEG形式等の画像データは、SDRAM18に書き戻された後にメモリコントローラ30を介してSDRAM18から読み出され、メディアI/F36を介してメモリカード35に保存される。
以上の説明は、従来の市販のデジタルカメラ1の動作の概要である。
(実施例1)
以下に、本発明に係るデジタルカメラのホワイトバランス補正処理について説明する。
図4は信号処理部17のCCDI/F29のホワイトバランス補正処理のフローチャートを示している。なお、これらの処理はCCDI/F29とCPU24との情報の授受に基づき実行される。
まず、RAW−RGBデータ(撮影画像に対応した画像データ)37’を、図3に示す画面Gの画面分割に対応して、水平16×垂直16のブロック単位で等分割を行う。
分割された各ブロックについてRGB値をそれぞれ積算し、RGB積算値(ホワイトバランス評価値)を取得する(S1)。
なお、分割ブロックの分割数は、16×16=256に限定されるものではない(但し、n個の分割ブロックとしたとき、n≧4を満たすことを条件とする。)。
また、等分割である必要は必ずしもないが、全ての分割ブロックが等面積かつ同形状になるように分割することが好ましい。
以下に、RGB積算値について詳細に説明する。
このRGB積算値の算出は、各分割ブロックGk(kは1から256までの整数)のそれぞれに対して行う。この実施例1において、各分割ブロックGkは、画面が「256」に等分割されているから、例えば、固体撮像素子15が約1000万画素からなっていると、各分割ブロックGkはそれぞれ約3.9万画素からなる。
ここで、この各分割ブロックGkのそれぞれが有する各画素のデータは、その固体撮像素子15に結像された被写体像に対応する被写体部分のR、G、Bの各成分の情報である。
なお、図3には、固体撮像素子15の分割ブロックに対応する分割画面に符号Gkが付されている。
実施例1では、R、G、Bの各成分は8bitの情報(0ないし255の階調情報)として記録されて利用されている。すなわち、256個の各分割ブロックGkのそれぞれにおいて、各分割ブロックGkが有する画素の総数(約1000万画素÷256=約3.9万画素)について、それぞれ、8bitのR、G、B成分の情報がある。
RGB積算値(R積算値、G積算値、B積算値)は、この各分割ブロックGkのそれぞれについて、各分割ブロックGkが有する画素全てのR成分、G成分、B成分のそれぞれについて、数式1に従って加算平均して算出する。
Figure 0005458937
この数式1に基づいて演算を行うことにより、例えば、
Rsum=78000/9750
Gsum=2925000/19500
Bsum=945750/9750
が得られる。
この実施例1では、R、G、Bの各画素の比率は、R:G:B=1:2:1となっていて、分割ブロックのそれぞれはR画素=約0.975万画素、G画素=約1.95万画素、B画素=0.975万画素から構成され、256個に分割した各分割ブロックGkのそれぞれについて、R、G、B成分毎に、RGB積算値(R積算値、G積算値、B積算値)が8bitの情報として出力される。
白抽出は分割ブロックGk単位で取得したRGB積算値(R積算値、G積算値、B積算値)について演算を行って、Rゲイン=G積算値/R積算値、Bゲイン=G積算値/B積算値に変換し、その分割ブロックGkのRゲイン=G積算値/R積算値、Bゲイン=G積算値/B積算値の値が予め設定してあるRゲイン−Bゲイン座標(図5参照)上の白抽出範囲内であれば、当該分割ブロックGkを白抽出ブロックとして記憶する(S2)。
その図5において、横軸はRゲイン、縦軸はBゲインであり、楕円は各色温度光源における白検出枠を示している。日向から日陰までの色温度は例えば5800〜3200K(ケルビン)であり、夕日、白熱灯の色温度は例えば3000〜1500Kであり、白色蛍光、温白色蛍光はこの間の色温度である。
なお、Rゲイン、Bゲインは、生の白抽出ブロックGkjのホワイトバランス(AWB)評価値である。これにより、256個の分割ブロックGk(k=1〜256)の中から白抽出ブロックGkjが決定される。
図3には、固体撮像素子15の白抽出ブロックGkjに対応する分割画面Gkに便宜上符号Gkjが付されている。その図3では、被写体としてのテーブルと電球傘とに対応する画像が白いものとして仮定している。
ついで、当該各白抽出ブロックGkjに高輝度加重処理を行う(S3)。
この高輝度加重処理は、各白抽出ブロックGkjのRゲイン=G積算値/R積算値、Bゲイン=G積算値/B積算値について当該白抽出ブロックGkjの平均輝度Yaveによる重み付けを行う。高輝度加重処理の計算式は下記の数2式により行う。
なお、平均輝度Yaveは、当該白抽出ブロックGkjのR積算値、G積算値、B積算から以下の式によって算出する。
式 Yave=Rsum×0.299+Gsum×0.587+Bsum×0.114
Rsum R積算値
Gsum G積算値
Bsum B積算値
Figure 0005458937
ここで、Rgain、Bgainとは、高輝度加重処理後のホワイトバランスゲインをいう。
また、Yavejはj番目の白抽出ブロックGkjの平均輝度Yave、GRjはj番目の白抽出ブロックGkjのホワイトバランス(AWB)評価値(Rゲイン=G積算値/R積算値)、GBjはj番目の白抽出ブロックGkjのホワイトバランス(AWB)評価値(Bゲイン=G積算値/B積算値)、符号nは当該白抽出ブロックGkjの総個数である。
白抽出ブロックGkjの総個数がある一定基準よりも以下(例えば、分割ブロックGkの総数256個に対して7%以下の場合)である場合、全分割ブロックGkのG積算値/R積算値(Rgain)を加算平均したもの、G積算値/B積算値(Bgain)を加算平均したもの及び各分割ブロックGkのG積算値/R積算値(Rgain)、G積算値/B積算値(Bgain)を用いて低色温度光源の照明環境下での撮影であるか判別を行う(S4、S.5)。
すなわち、この低色温度光源下の判別は、全分割ブロックGkにおけるG積算値/R積算値(Rgain)を加算平均したもの、G積算値/B積算値(Bgain)を加算平均したものについて、図5中のAで示す白熱灯の白検出枠を中心に当該G積算値/R積算値(Rgain)を加算平均したものが中心A以下に存在し、かつ、当該G積算値/B積算値(Bgain)を加算平均したものが中心A以上の斜線部分に存在し、しかも、各分割ブロックGkのG積算値/R積算値(Rgain)、G積算値/B積算値(Bgain)の70%以上が図5に示す斜線部分に存在する場合、低色温度光源下と判定する。
ここでは、分割ブロックGkの総個数が256個であるので、例えば、分割ブロックGkの総数が179個以上のとき低色温度光源下であると判断される。この低色温度光源判定手段の詳細については特開2009−212641号公報に記載されているので、必要ならば参照されたい。
低色温度光源下でない場合(S.8)、又は、低色温度光源下でかつマクロ撮影でない場合(S.5、S.8)は高輝度加重処理結果に基づき屋外加重率out#kの算出を行う(S6)。
マクロ撮影であるか否かは、フォーカスレンズ22のフォーカス位置とズームレンズ21のズーム位置とによって判定する。
ここで、屋外加重とは高輝度加重処理の結果(Rgain、Bgain)と屋外のリファレンスゲインRgain”、Bgain”との加重平均で算出される。
屋外加重率out#kは、図6に示すように、白抽出ブロックGkjの高輝度加重処理後のホワイトバランス評価値Rgainによって算出される。図6に示すように、高輝度加重処理後のホワイトバランス評価値Rgainが小さい、すなわち、低色温度になるほど屋外加重率out#kが大きくなる。
また、白抽出ブロックGkjの高輝度加重処理後のホワイトバランス評価値Rgainが大きい、すなわち、高色温度になるほど屋外加重率が小さい。
この屋外加重率out#kは低色温度になるほど、屋外のリファレンスゲインRgain”、Bgain”の加重を高くし、光源の色合いを残す役割を果たす。
ここで、屋外のリファレンスゲインRgain”、Bgain”とは、例えば、色温度が5200〜5500Kの屋外で最適になるようなホワイトバランス(WB)補正係数をいう。なお、屋外で最適になるようなホワイトバランス(WB)補正係数は、色温度が5200〜5500Kに限定されるものではない。
次に、高輝度加重処理結果Rgain、Bgainと屋外加重率out#kとから下記の数3式によってホワイトバランス補正係数Rgain’、Bgain’を算出(屋外加重処理)する(S7)。
Figure 0005458937
低色温度光源でかつマクロ撮影の場合(S.5、S.8)、高輝度加重処理結果Rgain、Bgainをホワイトバランス(WB)補正係数Rgain’=Rgain、Bgain’=Bgainとする(S.9)。
次に、画面全体の各画素の各Rデータ、各Bデータに、WB補正係数Rgain’、Bgain’を掛ける(S10)。
これにより、低色温度光源下で光源の暖か味を残したホワイトバランスWBを設定することができる。従って、マクロ撮影で、飲食物を撮影する際、肉や刺身の赤みが飽和することなく良好なホワイトバランスWBを設定することができる。
その一方、低色温度光源下及びマクロ撮影でない場合(S.5、S.6)、高輝度加重処理結果Rgain、Bgainと屋外加重率out#kとから求められたホワイトバランス補正係数Rgain’、Bgain’を用いてホワイトバランスWBが設定される。このため、低色温度条件下で、光源の色合いを残したホワイトバランスWBを設定できる。
なお、これらの処理は、画像処理機能を有する撮像装置に搭載されたコンピュータに読み取らせるプログラムであって、光学系から入射した光を電気信号に変換する撮像素子から出力される撮像信号の色情報に基づき低色温度光源下であるか否かの判定を行う低色温度光源判定ステップ(図4のステップS.4、S.5の処理)と、マクロ撮影であるか否かを判定するマクロ撮影判定ステップ(図4のS.8)と、色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出する第一ホワイトバランス補正係数算出ステップ(図4のS.7)と、低色温度光源下でかつマクロ撮影の時に色温度光源の色合いを加味しない撮影画像が得られるようにホワイトバランス補正係数を算出する第二ホワイトバランス補正係数算出ステップ(図4のS.9)と、低色温度光源下のときにマクロ撮影判定結果に基づいて第一ホワイトバランス補正係数算出ステップと前記第二ホワイトバランス補正係数算出ステップとの算出処理を切り替えるプログラム(図4のステップS.5、S.8の処理)とをコンピュータに読み込ませて、ホワイトバランス演算処理を実行させるために、コンピュータ読み取り可能な記録媒体であるROM19にこれらのプログラムを記録しておけば良い。
低色温度光源判定処理を実行するプログラムは、色情報と輝度情報に基づき低色温度光源かであるか判断可能なプログラムであることが望ましい。マクロ撮影判定処理プログラムは、フォーカス位置とズーム位置によってマクロ撮影であるかの判断を実行可能なプログラムであるのが望ましい。
(実施例2)
図7は本実施例2に係るホワイトバランス補正係数Rgain’、Bgain’の算出処理を示すフローチャートである。
実施例1では、マクロ撮影かマクロ撮影以外かによって、ホワイトバランス補正係数Rgain’、Bgain’の算出処理を切り替えることにした。
この実施例2では、低色温度光源撮影環境下でデジタルカメラから被写体までの距離によって光源の色合いの残し度合いを調節することにしたものである。
ステップS1’〜ステップS3’までは、実施例1のステップS1ないしS3(図4参照)と同一内容の処理である。
ステップS4’は実施例1のS.6と同一内容の処理(図4参照)、ステップS5’は実施例1のステップS4(図4参照)と同一内容の処理であるので、その説明は省略する。ステップS.6’において、低色温度光源環境下であると判定された場合(Yesの場合)、図8に示す屋外加重抑圧係数out#k’を用いて、被写体までの距離に応じて屋外加重率out#kを調整する(S.7’)。
調整前の屋外加重率out#kを屋外加重抑圧係数out#k’により積算した値を調整後の屋外加重率out#kに設定する。
調整後の屋外加重率out#k=調整前の屋外加重率out#k×屋外加重抑圧係数out#k’
屋外加重抑圧係数out#k’は被写体に近い場合に係数が大きく、被写体が遠くなるに伴ってリニアーに小さくなるような係数とされているから、低色温度環境下で光源の色合いを残すのに用いる屋外加重率out#kの値が被写体に対する距離が小さくなるに伴って小さくなる。従って、これにより、被写体までの距離が近くなるに従って光源の色合いを残さないように調節される。
例えば、調整前の屋外加重率out#kが図6に示すout#k1であり、図8に示す屋外加重抑圧係数out#k’がout#k’1である場合、調整後の屋外加重率out#kはout#k=out#k1×out#k’1により求められ、この調整後の屋外加重率out#kを用いて式2に従ってホワイトバランス補正係数Rgain’、Bgain’が求められる。
すなわち、高輝度加重処理結果Rgain、Bgainと調整後の屋外加重率out#kとから式2に従って、ホワイトバランス補正係数Rgain’、Bgain’を算出(屋外加重処理)する(S.8’)。
次に、画面全体の各画素のR成分データ、B成分データのそれぞれに対して、WB補正係数Rgain’、Bgain’を乗算する(S.9’)。
これにより、低色温度光源環境下で、光源の暖か味を残したホワイトバランスWBを設定することができ、その一方、飲食物、調理物等の被写体までの距離が近い撮影の場合、肉や刺身等の飲食物、調理物の赤みが飽和することなく、良好なホワイトバランスWBを設定することができる。
この処理には、低色温度光源の場合に被写体距離に応じて光源の色合いの残し度合いを調整する処理を行わせるために、被写体距離に応じてホワイトバランス演算処理を実行可能なプログラムを用いる。
1…デジタルカメラ(撮像装置)
15…固体撮像素子
24…CPU(制御部)
Rgain’…第一ホワイトバランス補正係数(ホワイトバランス補正係数)
Bgain’…第二ホワイトバランス補正係数(ホワイトバランス補正係数)
特開2002‐218495号公報

Claims (10)

  1. 光学系から入射した光を電気信号に変換して撮像信号として出力する撮像素子と、
    マクロ撮影であるか否かを判定するマクロ撮影判定手段と、
    色情報に基づいて低色温度光源下であるか否かの判定を行う低色温度光源判定手段と、
    前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出する第一ホワイトバランス補正係数算出手段と、
    前記低色温度光源下でかつ前記マクロ撮影の時に前記色温度光源の色合いを加味しない撮影画像が得られるようにホワイトバランス補正係数を算出する第二ホワイトバランス補正係数算出手段とを備え、
    前記低色温度光源下のときに前記マクロ撮影判定結果に基づいて前記第一ホワイトバランス補正係数算出手段と前記第二ホワイトバランス補正係数算出手段との算出処理を切り替えることを特徴とする撮像装置。
  2. 前記マクロ撮影判定手段は、フォーカス位置とズーム位置とによってマクロ撮影であるか否かの判断を行うことを特徴とする請求項1の撮像装置。
  3. 光学系から入射した光を電気信号に変換して撮像信号として出力する撮像素子と、
    被写体までの距離を算出する被写体距離算出手段と、
    色情報に基づいて低色温度光源下であるか否かの判定を行う低色温度光源判定手段と、
    前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出するホワイトバランス補正係数算出手段と、
    前記被写体までの距離が近くなるに伴って前記色温度光源の色合いを加味した撮影画像が抑制されるように前記ホワイトバランス補正係数算出手段により算出されるべきホワイトバランス補正係数を調整する調整手段とを備え、
    前記低色温度光源下の場合に被写体距離に応じて光源の色合いを加味する度合いを調整することを特徴とする撮像装置。
  4. 前記低色温度光源判定手段は、色情報と輝度情報とに基づき前記低色温度光源下であるか否かの判断を行うことを特徴とする請求項1ないし請求項3のいずれか1項に記載の撮像装置。
  5. 光学系から入射した光を電気信号に変換する撮像素子から出力される撮像信号の色情報に基づき低色温度光源下であるか否かの判定を行う低色温度光源判定ステップと、
    マクロ撮影であるか否かを判定するマクロ撮影判定ステップと、
    前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出する第一ホワイトバランス補正係数算出ステップと、
    前記低色温度光源下でかつ前記マクロ撮影の時に前記色温度光源の色合いを加味しない撮影画像が得られるようにホワイトバランス補正係数を算出する第二ホワイトバランス補正係数算出ステップと、
    前記低色温度光源下のときに前記マクロ撮影判定結果に基づいて前記第一ホワイトバランス補正係数算出ステップと前記第二ホワイトバランス補正係数算出ステップとの算出処理を切り替えることを特徴とする撮像方法。
  6. 前記マクロ撮影判定ステップは、フォーカス位置とズーム位置によってマクロ撮影であるか否かの判断を行うことを特徴とする請求項5の撮像方法。
  7. 光学系から入射した光を電気信号に変換する撮像素子から出力される撮像信号の色情報に基づき低色温度光源下であるか否かの判定を行う低色温度光源判定ステップと、
    前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出するホワイトバランス補正係数算出ステップと、被写体までの距離が近くなるに伴って前記色温度光源の色合いを加味した撮影画像が抑制されるように前記ホワイトバランス補正係数算出手段により算出されるべきホワイトバランス補正係数を調整する調整ステップとを備え、
    前記低色温度光源下の場合に被写体距離に応じて光源の色合いを加味する度合いを調整することを特徴とする撮像方法。
  8. 前記低色温度光源判定ステップは、色情報と輝度情報とに基づき低色温度光源かであるか否かの判断を行うことを特徴とする請求項5ないし請求項7のいずれか1項に記載の撮像方法。
  9. 画像処理機能を有する撮像装置に搭載されたコンピュータに読み取らせるプログラムであって、
    光学系から入射した光を電気信号に変換する撮像素子から出力される撮像信号の色情報に基づき低色温度光源下であるか否かの判定を行う低色温度光源判定ステップと、
    マクロ撮影であるか否かを判定するマクロ撮影判定ステップと、
    前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出する第一ホワイトバランス補正係数算出ステップと、
    前記低色温度光源下でかつ前記マクロ撮影の時に前記色温度光源の色合いを加味しない撮影画像が得られるようにホワイトバランス補正係数を算出する第二ホワイトバランス補正係数算出ステップと、
    前記低色温度光源下のときに前記マクロ撮影判定結果に基づいて前記第一ホワイトバランス補正係数算出ステップと前記第二ホワイトバランス補正係数算出ステップとの算出処理を切り替える処理を実行させるためのプログラムが記録されたコンピュータ読み取り可能な記録媒体。
  10. 画像処理機能を有する撮像装置に搭載されたコンピュータに読み取らせるプログラムであって、
    光学系から入射した光を電気信号に変換する撮像素子から出力される撮像信号の色情報に基づき低色温度光源下であるか否かの判定を行う低色温度光源判定ステップと、
    前記色温度光源の色合いを加味した撮影画像が得られるようにホワイトバランス補正係数を算出するホワイトバランス補正係数算出ステップと、
    被写体までの距離が近くなるに伴って前記色温度光源の色合いを加味した撮影画像が抑制されるように前記ホワイトバランス補正係数算出手段により算出されるべきホワイトバランス補正係数を調整する調整ステップとをさせるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2010031990A 2010-02-17 2010-02-17 撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体 Active JP5458937B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010031990A JP5458937B2 (ja) 2010-02-17 2010-02-17 撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体
US13/025,726 US8692903B2 (en) 2010-02-17 2011-02-11 Imaging device, imaging method and computer readable recording medium storing program for performing the imaging method
EP11154718.8A EP2362662B1 (en) 2010-02-17 2011-02-16 Imaging device, imaging method and computer readable recording medium storing program for performing the imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010031990A JP5458937B2 (ja) 2010-02-17 2010-02-17 撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JP2011169998A JP2011169998A (ja) 2011-09-01
JP5458937B2 true JP5458937B2 (ja) 2014-04-02

Family

ID=43902620

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010031990A Active JP5458937B2 (ja) 2010-02-17 2010-02-17 撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体

Country Status (3)

Country Link
US (1) US8692903B2 (ja)
EP (1) EP2362662B1 (ja)
JP (1) JP5458937B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013150167A (ja) * 2012-01-19 2013-08-01 Sony Corp 撮像装置、色補正方法、および色補正プログラム
JP6083974B2 (ja) * 2012-04-24 2017-02-22 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
TWI493967B (zh) * 2013-11-12 2015-07-21 Novatek Microelectronics Corp 自動色彩校正方法及其色彩校正模組
JP6307702B2 (ja) * 2014-01-17 2018-04-11 パナソニックIpマネジメント株式会社 冷蔵庫
JP5843027B1 (ja) 2015-03-10 2016-01-13 株式会社リコー 撮像装置、制御方法およびプログラム
WO2017043190A1 (ja) 2015-09-09 2017-03-16 株式会社リコー 制御システム、撮像装置、およびプログラム
JP6971794B2 (ja) * 2017-11-14 2021-11-24 キヤノン株式会社 照明装置およびその制御方法
CN114710654B (zh) * 2022-04-24 2024-01-23 安谋科技(中国)有限公司 图像处理方法、装置、可读存储介质以及电子设备

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06261324A (ja) * 1993-03-03 1994-09-16 Toshiba Corp ビデオカメラシステム
JP2002218495A (ja) 2001-01-15 2002-08-02 Fuji Photo Film Co Ltd ホワイトバランス制御方法及び電子カメラ
JP2005176271A (ja) 2003-12-15 2005-06-30 Canon Inc 撮像方法及びその装置
JP2006020165A (ja) * 2004-07-02 2006-01-19 Fuji Photo Film Co Ltd ホワイトバランスの設定方法
JP2007121654A (ja) * 2005-10-27 2007-05-17 Eastman Kodak Co 撮像装置
US8294813B2 (en) * 2007-07-23 2012-10-23 Panasonic Corporation Imaging device with a scene discriminator
JP5095294B2 (ja) 2007-08-02 2012-12-12 株式会社リコー 撮像装置、撮像方法
JP5169318B2 (ja) 2007-09-18 2013-03-27 株式会社リコー 撮像装置、撮像方法
JP5066463B2 (ja) * 2008-03-03 2012-11-07 株式会社リコー ホワイトバランス制御装置及び制御方法並びに制御処理プログラムを記録した記録媒体
JP5146015B2 (ja) 2008-03-04 2013-02-20 株式会社リコー 撮像装置及び撮像方法
JP5123010B2 (ja) 2008-03-06 2013-01-16 株式会社リコー 撮像装置、撮像方法及び撮像装置が備えるコンピュータに撮像方法を実行させるためのプログラム
JP2010035048A (ja) * 2008-07-30 2010-02-12 Fujifilm Corp 撮像装置及び撮像方法
JP5256947B2 (ja) 2008-09-03 2013-08-07 株式会社リコー 撮像装置、撮像方法およびその方法を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP5187241B2 (ja) 2009-02-16 2013-04-24 株式会社リコー 撮像装置及び撮像方法
JP5321163B2 (ja) 2009-03-12 2013-10-23 株式会社リコー 撮像装置及び撮像方法

Also Published As

Publication number Publication date
EP2362662A3 (en) 2012-05-30
EP2362662A2 (en) 2011-08-31
EP2362662B1 (en) 2013-12-11
US8692903B2 (en) 2014-04-08
US20110199508A1 (en) 2011-08-18
JP2011169998A (ja) 2011-09-01

Similar Documents

Publication Publication Date Title
JP5187241B2 (ja) 撮像装置及び撮像方法
JP5321163B2 (ja) 撮像装置及び撮像方法
JP5458937B2 (ja) 撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体
JP5660341B2 (ja) 撮像装置、撮像方法
JP5123137B2 (ja) 撮像装置および撮像方法
JP6521776B2 (ja) 画像処理装置、画像処理方法
JP5553230B2 (ja) 撮像装置および撮像処理方法
US8319864B2 (en) Imaging apparatus and imaging method
JP5223686B2 (ja) 撮像装置および撮像方法
JP5256947B2 (ja) 撮像装置、撮像方法およびその方法を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2008278354A (ja) 撮像装置
JP5948997B2 (ja) 撮像装置及び撮像方法
JP5277863B2 (ja) 撮像装置および撮像方法
JP5146015B2 (ja) 撮像装置及び撮像方法
JP5310331B2 (ja) 撮像装置および撮像方法
JP2010068331A (ja) 撮像装置および撮像方法
JP5482131B2 (ja) 撮像装置
JP5123010B2 (ja) 撮像装置、撮像方法及び撮像装置が備えるコンピュータに撮像方法を実行させるためのプログラム
JP2010068064A (ja) 撮像装置及び撮像方法
JP5091734B2 (ja) 撮像装置および撮像方法
JP2012227744A (ja) 撮像装置
JP5145876B2 (ja) 撮像装置および撮像方法
JP4326997B2 (ja) 撮像装置および合焦方法、制御プログラム、記録媒体
JP5644260B2 (ja) 撮像装置及びホワイトバランス制御方法
JP2007251857A (ja) 撮像装置および撮像方法

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20120711

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131217

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131230

R151 Written notification of patent or utility model registration

Ref document number: 5458937

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151