JP2011113526A - 画像判定装置および画像判定プログラム - Google Patents

画像判定装置および画像判定プログラム Download PDF

Info

Publication number
JP2011113526A
JP2011113526A JP2009272411A JP2009272411A JP2011113526A JP 2011113526 A JP2011113526 A JP 2011113526A JP 2009272411 A JP2009272411 A JP 2009272411A JP 2009272411 A JP2009272411 A JP 2009272411A JP 2011113526 A JP2011113526 A JP 2011113526A
Authority
JP
Japan
Prior art keywords
image
contrast
unit
blur
blurred
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009272411A
Other languages
English (en)
Other versions
JP5544848B2 (ja
Inventor
Susumu Honma
行 本間
Tetsuharu Kamata
徹治 鎌田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2009272411A priority Critical patent/JP5544848B2/ja
Publication of JP2011113526A publication Critical patent/JP2011113526A/ja
Application granted granted Critical
Publication of JP5544848B2 publication Critical patent/JP5544848B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

【課題】画像がぼけているか否かを好適に判定する画像判定装置等を提供する。
【解決手段】
第1の画像に対して画像をぼかす処理を行い第2の画像を生成するぼかし処理部(42)と、前記第1の画像のコントラストと前記第2の画像のコントラストとを比較した値であるコントラスト比較値を算出するコントラスト比較部(44)と、前記コントラスト比較値が所定のしきい値を超えているか否かによって、前記第1の画像がぼけているか否かを判定するぼけ判定部(46)と、を備える画像判定装置。
【選択図】図3

Description

本発明は、画像がぼけているか否かを判定する画像判定装置および画像判定プログラムに関する。
近年、デジタルカメラ等を用いることによって、銀塩フィルムカメラ等を用いる場合と比較して、多量の撮影画像を容易かつ安価に生成することが可能になった。それに伴い、撮影後において、撮影画像の中から、撮影者が目視によって、ぼけている画像など撮影に失敗した画像を選別するには、多大な労力を要求されるようになってきている。そこで、多量の撮影画像の中から、ぼけている画像など撮影に失敗した画像を画像処理によって判別し、分類するシステムが求められている。
画像処理によってぼけている画像等を判定するシステムとしては、例えばJPEG画像のDCT周波数成分から、画像がぼけているか否かを判定する技術が提案されている(特許文献1等参照)。しかし、DCT周波成分を用いる従来技術では、画像のエッジ情報ではなくDCT周波数成分を用いることにより発生する判定精度低下の問題や、特定の保存形式の画像ファイルのみしか処理できないという問題を有している。
特開2007−220009号公報
本発明は、このような実状に鑑みてなされ、その目的は、画像がぼけているか否かを好適に判定する画像判定装置および画像判定プログラムを提供することである。
上記目的を達成するために、本発明の第1の観点に係る画像判定装置は、
第1の画像に対して画像をぼかす処理を行い第2の画像を生成するぼかし処理部(42)と、
前記第1の画像のコントラストと前記第2の画像のコントラストとを比較した値であるコントラスト比較値を算出するコントラスト比較部(44)と、
前記コントラスト比較値が所定のしきい値を超えているか否かによって、前記第1の画像がぼけているか否かを判定するぼけ判定部(46)と、を備える。
本発明の第2の観点に係る画像判定装置は、
第1の画像に対して画像をぼかす第1の処理を行い第2の画像を生成し、前記第1の画像に対して前記第1の処理とは異なる処理で画像をぼかす第2の処理を行い第3の画像を生成するぼかし処理部(42a)と、
前記第2の画像のコントラストと前記第3の画像のコントラストとを比較した値であるコントラスト比較値を算出するコントラスト比較部(44a)と、
前記コントラスト比較値が所定のしきい値を超えているか否かによって、前記第1の画像がぼけているか否かを判定するぼけ判定部(46,107)と、を備える。
また、例えば、前記第2の処理は、前記第1の処理を複数回繰り返す処理であってもよい。
また、例えば、本発明に係る画像判定装置は、元画像を複数に分割して複数の前記第1の画像を生成する画像分割部(101)をさらに有してもよく、
前記コントラスト比較部は、複数の前記第1の画像に対応する複数の前記コントラスト比較値を算出してもよく、
前記ぼけ判定部は、複数の前記第1の画像のうちぼけていないと判定されるものがあるか否かによって、前記元画像がぼけているか否かを判定してもよい。
また、例えば、前記ぼけ判定部は、複数の前記第1の画像のうちぼけていないと判定されるものがある場合は、その判定が行われた時点においてぼけているか否かの判定を行っていない前記第1の画像についてはぼけているか否かの判定を行わずに、前記元画像がぼけているか否かを判定してもよい。
また、本発明に係る画像判定プログラムは、
コンピュータに、
第1の画像に対して画像をぼかす処理を行い第2の画像を生成するぼかし処理手順と、
前記第1の画像のコントラストと前記第2の画像のコントラストとを比較した値であるコントラスト比較値を算出するコントラスト比較手順と、
前記コントラスト比較値が所定のしきい値を超えているか否かによって、前記第1の画像がぼけているか否かを判定するぼけ判定手順と、を実行させる。
なお上述の説明では、本発明をわかりやすく説明するために実施形態を示す図面の符号に対応づけて説明したが、本発明は、これに限定されるものでない。後述の実施形態の構成を適宜改良してもよく、また、少なくとも一部を他の構成物に代替させてもよい。さらに、その配置について特に限定のない構成要件は、実施形態で開示した配置に限らず、その機能を達成できる位置に配置することができる。
図1は、本発明の第1実施形態に係る画像判定装置を搭載したカメラの概略断面図である。 図2は、本発明の第1実施形態に係る画像判定装置の概略ブロック図である。 図3は、図2に示す画像判定装置で行われる画像判定処理の一例を表すフローチャートである。 図4は、画像判定処理に用いられるボケフィルターの一例を表す概念図である。 図5は、図2に示す画像判定装置で算出されるコントラスト評価値とボケ量の関係を表す概念図である。 図6は、ぼけていない画像とぼけている画像について画像をぼかす処理を行った場合におけるエッジの変化を比較したグラフである。 図7は、図2に示す画像判定装置で行われる画像の保存作業を説明した概念図である。 図8は、本発明の第2実施形態に係る画像判定装置の概略ブロック図である。 図9は、本発明の第2実施形態に係る画像判定装置で行われる画像判定処理の一例を表すフローチャートである。 図10は、第2実施形態に係る画像判定装置で算出されるコントラスト評価値とボケ量の関係を表す概念図である。 図11は、本発明の第3実施形態に係る画像判定装置の概略ブロック図である。 図12は、本発明の第3実施形態に係る画像判定装置で行われる画像判定処理の一例を表すフローチャートである。 図13は、本発明の第3実施形態に係る画像判定装置で行われる画像判定処理の一例を表すフローチャートである。
第1実施形態
図1は、本発明の第1実施形態に係る画像判定装置を搭載したデジタル一眼レフカメラの概略断面図である。カメラボディ10の筐体12には、筐体開口20が形成されており、筐体開口20の周辺にはレンズマウント14が形成されている。撮影時には、筐体開口20を覆うように交換レンズ(不図示)が設置され、交換レンズに備えられる撮影光学系によって導かれた撮影光が、筐体12の内部に導入される。
筐体12の内部には、クイックリターンミラー(不図示)、ファインダスクリーン28、ペンタプリズム30、接眼レンズ32、シャッタ18、撮像部22等が設置されている。ファインダスクリーン28、ペンタプリズム30および接眼レンズ32は、筐体12内部における上側に配置されており、ファインダ装置を構成している。ファインダスクリーン28、ペンタプリズム30および接眼レンズ32等によって構成されるファインダ装置は、不図示のクイックリターンミラーからの撮影光を、撮影者の目に導くことができる。
筐体12の内部には、シャッタ18と撮像部22が配置されている。シャッタ18は、筐体開口20と撮像部22との間に配置されている。シャッタ18は、撮影時において露光時間を制御するための機構であり、撮影光学系から撮像素子24に導かれる撮影光を遮蔽したり、通過させたりすることができる。
撮像部22は、撮影対象からの光である撮影光が入射することにより、撮影対象を撮像する。本実施形態に係る撮像部22は、光学ローパスフィルタ26と撮像素子24とを有している。光学ローパスフィルタ26は、撮影に際して偽色(色モアレ)の発生を防止する光学素子である。光学ローパスフィルタ26は、撮像素子24の撮影対象側表面に形成された受光面を覆うように配置されている。
撮像素子24は、光学ローパスフィルタ26を透過した撮影光を受光し、画像信号を生成する。画像制御部38は、撮像素子24によって生成された画像信号を処理し、画像(画像データ)を生成する。また、画像制御部38から出力された画像は、必要に応じてCPU34によって処理されたのち、不図示のメモリカード等に保存される。また、撮像素子24による画像信号の生成や、画像制御部38による処理は、筐体12の内部に備えられるボディCPU34からの制御信号によって制御される。筐体12の背面には、表示部16が設置されている。表示部16は、液晶パネル等によって構成されており、CPU34を介して入力された画像を表示することができる。
また、CPU34は、撮像素子24および画像制御部38等によって生成された画像について、当該画像がぼけているか否かを判定する画像判定装置としての演算処理を行うことができる。図2は、本発明の第1実施形態に係る画像判定装置の概略ブロック図である。
図2に示すように、画像判定装置としてのCPU34は、ぼかし処理部42と、コントラスト比較部44とぼけ判定部46と保存処理部48とを含む。ぼかし処理部42には、撮像素子24および画像制御部38によって生成された画像や、記憶部40等に保存されている画像が入力される。ぼかし処理部42に入力される画像には、例えば、撮像素子24(図1)の撮像面に結ばれた像を電子データ化した撮影画像のように、撮影装置によって撮影された画像が含まれる。以下、実施形態の説明では、ぼかし処理部42に入力される画像を、第1画像と呼ぶ。
ぼかし処理部42は、第1画像に対して画像をぼかす処理を行い第2の画像を生成する。ぼかし処理部42で生成される第2画像は、第1画像をぼかした画像である。ぼかし処理部42で行われるぼかし処理としては、特に限定されないが、例えば図4に示すようなガウシアンフィルタ50等を用いて第1画像をぼかす処理が挙げられる。
図4に示すガウシアンフィルタ50は、マトリックスサイズ5×5、標準偏差1のガウシアンフィルタであるが、フィルタのマトリックスサイズや標準偏差は、処理の対象となる第1画像や、ぼかし処理部42の処理能力等に応じて適正に設定される。なお、図4において、ガウシアンフィルタ50の各マトリックスに記載されている数値は、各マトリックスに対応する画素が、ぼかし処理後におけるマトリックス中央52に対応する画素に与える影響度を表している。
コントラスト比較部44は、撮影装置によって撮影された画像等である第1画像と、ぼかし処理部42において生成された第2画像とのコントラストを比較した値であるコントラスト比較値を算出する。例えば、コントラスト比較部44は、第1画像と第2画像について、第1画像および第2画像のコントラストを数値で表現したコントラスト評価値を算出する。コントラスト評価値の算出方法としては、特に限定されないが、例えばコントラスト評価値を評価値S、画像を構成する画素の輝度成分を輝度V(m,n)とした場合、以下の式を用いて算出することができる。
Figure 2011113526
なお、mおよびnは、画素の水平方向および垂直方向の位置を表しており、n+1は、nに対して垂直方向に沿って隣の位置であることを意味する。
また、例えば、評価値Sは、輝度V(m,n)の差を求める方向を、数式1から90度回転させた数式2を用いて表すこともできる。
Figure 2011113526
なお、m+1は、mに対して水平方向に沿って隣の位置であることを意味する。
また、例えば、評価値Sは、輝度V(m,n)の水平方向の差と垂直方向の差を足し合わせた数式3を用いて表すこともできる。
Figure 2011113526
数式3を用いることによって、コントラスト比較部44は、より正確にコントラスト評価値を求めることができる。
また、コントラスト比較部44は、第1画像のコントラスト評価値と、第2画像のコントラスト評価値から、第1画像のコントラストと第2画像とのコントラストとを比較した値であるコントラスト比較値を算出する。コントラスト比較値の計算方法は特に限定されないが、例えば、コントラスト比較値を比較値C、第1画像のコントラスト評価値を評価値Sa、第2画像のコントラスト評価値を評価値Sbとすると、コントラスト比較値は、以下の数式4を用いて算出することができる。
Figure 2011113526
図2に示すコントラスト比較部44は、算出したコントラスト比較値を、ぼけ判定部46に出力する。ぼけ判定部46は、入力されたコントラスト比較値が所定のしきい値より大きいか否かを判断する。ぼけ判定部46は、入力されたコントラスト比較値が所定のしきい値よりも大きければ、第1画像をぼけているボケ画像であると判断する。反対に、入力されたコントラスト比較値が所定のしきい値以下であれば、ぼけ判定部46は、第1画像をぼけていないシャープ画像であると判断する。
図5は、画像のコントラスト評価値と、画像のボケ量(画像が実際にどの程度ぼけているかを表す指標)の関係を表した概念図である。曲線58は、ある1つの撮影対象から得られる画像について、画像のボケ量に伴うコントラスト評価値の変化を表したものである。曲線58は、例えば、ある1つの撮影対象を、ピントのずれ度合い等を変えてボケ量を変化させながら撮影し、撮影によって得られた画像のコントラスト評価値を、ボケ量に対してプロットすることによって得られる。
曲線58によって示されるように、より画像がぼけていない領域においては、コントラスト評価値は、ボケ量の変化に対して急激に変化する傾向にある。また、より画像がぼけている領域では、コントラスト評価値は、ボケ量の変化に対して緩やかに変化する傾向にある。
図5における点54は、ぼけていない画像であるシャープ画像のコントラスト評価値を、ボケ量に対してプロットしたものである。シャープ画像は、第1画像としてCPU34(図2)に入力された段階では、コントラスト評価値が評価値S1である。シャープ画像は、ぼかし処理部42によってぼかし処理をされることによって第2画像となり、この第2画像のコントラスト評価値は評価値S2である。
図5における点54から解るように、シャープ画像のコントラスト評価値は、ボケ量の変化に対して急激に変化する。したがって、第1画像がシャープ画像である場合は、ぼかし処理によるコントラスト劣化が大きく、第2画像の評価値S2は、第1画像の評価値S1より大幅に小さくなる。そのため、第1画像のコントラスト評価値と第2画像のコントラスト評価値の比であるコントラスト比較値は、小さい値となる。
図5における点56は、ぼけている画像であるボケ画像のコントラスト評価値を、ボケ量に対してプロットしたものである。ボケ画像は、第1画像としてCPU34(図2)に入力された段階では、コントラスト評価値が評価値S3である。ボケ画像は、ぼかし処理部42によってぼかし処理をされることによって第2画像となり、この第2画像のコントラスト評価値は評価値S4である。
図5における点56から解るように、ボケ画像のコントラスト評価値は、ボケ量の変化に対して緩やかに変化する。したがって、第1画像がボケ画像である場合は、ぼかし処理によるコントラスト劣化が小さく、第2画像の評価値S2は、第1画像の評価値S1に対して少しだけ小さくなる。そのため、第1画像のコントラスト評価値と第2画像のコントラスト評価値の比であるコントラスト比較値は、シャープ画像に比べて大きい値となる。
図7は、シャープ画像とボケ画像について、画像をぼかす処理を行った場合に発生するエッジの変化を比較したグラフである。図6(a)の曲線60は、シャープ画像に含まれるエッジの輝度変化を表したものである。曲線60に示すように、シャープ画像に含まれるエッジは、位置の変化に対して輝度成分が急激に変化する。図6(b)の曲線62は、図6(a)の曲線60で示すエッジに対してぼかし処理を施したエッジの輝度変化を表したものである。また、図6(c)の曲線64は、曲線60と曲線62の差分を表したものである。
図6(a)〜図6(c)に示すように、シャープ画像に含まれるエッジは、輝度成分の変化が急激であるため、第1画像と第2画像の間に大きな差分が発生することがわかる。このように、図6(a)〜図6(c)から、第1画像がシャープ画像である場合は、ぼかし処理によるコントラスト劣化が大きいことが理解できる。
図6(d)の曲線66は、ボケ画像に含まれるエッジの輝度変化を表したものである。曲線66に示すように、ボケ画像に含まれるエッジは、シャープ画像のエッジと比較して、位置の変化に対して輝度成分が緩やかに変化する。図6(e)の曲線68は、図6(d)の曲線66で示すエッジに対してぼかし処理を施したエッジの輝度変化を、表したものである。また、図6(f)の曲線70は、曲線66と曲線68の差分を表したものである。
図6(d)〜図6(f)に示すように、ボケ画像に含まれるエッジは、輝度成分の変化が、シャープ画像と比較して緩やかであるため、ボケ画像では、第1画像と第2画像の間に小さな差分しか発生しないことがわかる。このように、図6(d)〜図6(f)から、第1画像がボケ画像である場合は、ぼかし処理によるコントラスト劣化が小さいことが理解できる。
以上のように、画像のボケ量に応じて画像のコントラスト比較値が変化するため、ぼけ判定部46は、コントラスト比較値から第1画像がぼけているか否かを判断することができる。ここで、ぼけ判定部46は、第1画像のコントラスト評価値そのものではなく、第1画像のコントラスト評価値と第2画像のコントラスト評価値の比であるコントラスト比較値を用いて、第1画像がぼけているか否かを判断することが好ましい。なぜなら、数式1〜数式3を用いて算出されるコントラスト評価値は、画像に含まれるエッジの絶対量に応じて変化するため、例えばシャープ画像であっても、撮影対象が異なれば変化する。したがって、コントラスト評価値の絶対値は、画像に含まれるエッジのシャープさだけでなく、画像に含まれるエッジの量にも影響を受けるため、第1画像のボケ量を反映していない場合がある。
それに対して、第1画像のコントラスト評価値と第2画像のコントラスト評価値の比であるコントラスト比較値を用いると、画像に含まれるエッジの量ではなく、画像に含まれるエッジのシャープさを判断することができる。なぜなら、曲線58(図5)に示すような、第1画像のボケ量の変化に伴うコントラスト劣化量の変化は、エッジの量が多い画像でも、エッジの量が少ない画像でも見られるからである。
図2に示すぼけ判定部46は、入力されたコントラスト比較値が所定のしきい値よりも大きければ、第1画像がボケ画像である旨の信号を、保存処理部48に出力する。反対に、入力されたコントラスト比較値が所定のしきい値以下であれば、ぼけ判定部46は、第1画像がぼけていないシャープ画像である旨の信号を、保存処理部48に出力する。
保存処理部48は、ぼけ判定部46での判定結果に応じて、ぼかし処理部42に入力された第1画像の保存処理を変更することができる。図7に示すように、保存処理部48は、撮影された画像を保存する通常の画像フォルダ72のほかに、ぼけている画像を保存する失敗写真フォルダ74を、記憶部40に作成することができる。
ぼかし処理部42に入力された第1画像が、ぼけ判定部46によってシャープ画像であると判断された場合、すなわち、画像A76、画像B78、画像D82および画像F86が第1画像であった場合には、保存処理部48は、第1画像の保存場所を、画像フォルダ72とする。それに対して、ぼかし処理部42に入力された第1画像が、ぼけ判定部46によってボケ画像であると判断された場合、すなわち、画像C80および画像E84が第1画像であった場合には、保存処理部48は、第1画像の保存場所を、通常の画像フォルダ72とは異なる失敗写真フォルダ74とする。
このように、本実施形態に係る画像判定装置は、対象となる画像について、コントラスト比較値を算出することによって、画像がぼけているか否かを正確に判断することができる。また、コントラスト評価値およびコントラスト比較値は、画像に含まれる輝度情報から算出することができるため、本実施形態に係る画像判定装置は、対象となる画像の保存形式にかかわらず、画像がぼけているか否かを容易に判断することができる。
また、本実施形態に係る画像判定装置は、ぼけ判定部46による判定結果に基づき、第1画像の保存処理を変更することができる。これによって、本実施形態に係る画像判定装置は、撮影画像の中からボケ画像を探すために費やされる撮影者の労力を軽減することができる。
図3は、図2に示す画像判定装置で行われる画像判定処理の一例を表すフローチャートである。ステップS001において、CPU34(図1または図2参照)は、画像判定処理を開始する。CPU34による画像処理は、撮像素子24および画像制御部38によって画像が生成された直後に自動的に開始されても良く、撮影者の入力に基づく所定のタイミングで開始されてもよい。
ステップS002において、CPU34におけるぼかし処理部42は、第1画像を取得する。ぼかし処理部42は、画像制御部38において生成された直後の第1画像を所得しても良く、記憶部40に保存されている画像を読み出すことによって、第1画像を取得しても良い。
ステップS003において、CPU34におけるぼかし処理部42は、第1画像に対して画像をぼかすぼかし処理を行い、第2画像を生成する。また、ぼかし処理部42は、ステップS002において取得した第1画像と、ステップS003において生成した第2画像の両方に関する情報を、コントラスト比較部44に出力する。
ステップS004において、コントラスト比較部44は、第1画像のコントラスト評価値と、第2画像のコントラスト評価値を算出する。さらに、ステップS005において、コントラスト比較部44は、第1画像と第2画像のコントラスト評価値を比較する。すなわち、ステップS005において、コントラスト比較部44は、第1画像と第2画像のコントラスト評価値とを比較した値であるコントラスト比較値を算出し、ぼけ判定部46に出力する。
ステップS006において、ぼけ判定部46は、入力されたコントラスト比較値が所定のしきい値より大きいか否かを判断することによって、ステップS002において取得された第1画像がぼけているか否かを判断する。また、ぼけ判定部46は、判定結果を保存処理部48に出力する。
ステップS007において、保存処理部48は、ぼけ判定部46から入力された判定結果に応じて、第1画像の保存処理または保存場所の変更等を行う。たとえば、保存処理部48は、第1画像がぼけている旨の信号がぼけ判定部46から入力された場合は、第1画像の保存場所を、記憶部40における画像フォルダ72から、失敗写真フォルダ74(図7参照)に変更する。
ステップS008において、CPU34は、一連の画像判定処理を終了する。
第2実施形態
図8は、本発明の第2実施形態に係る画像判定装置の概略ブロック図である。図8に示すように、第2実施形態に係る画像判定装置としてのCPU34aは、ぼかし処理部42aと、コントラスト比較部44aと、ぼけ判定部46aと、保存処理部48とを含む。第2実施形態に係るCPU34aは、ぼかし処理部42a、コントラスト比較部44a等における処理が、第1実施形態に係るCPU34と異なるが、その他は同様である。
ぼかし処理部42aには、第1実施形態に係るぼかし処理部42と同様に、撮影画像等が入力される。第2実施形態に係る画像装置の説明においては、ぼかし処理部42aに入力される画像を、第1画像と呼ぶ。
ぼかし処理部42aは、第1画像に対して画像ぼかす第1の処理を行い、第2画像を生成するとともに、第1画像に対して第1の処理とは異なる処理で画像をぼかす第2の処理を行い、第3画像を生成する。ぼかし処理部42aで行われる第1の処理および第2の処理としては、特に限定されないが、例えば図4に示すようなガウシアンフィルタ50等を用いて第1画像をぼかす処理が挙げられる。
第2の処理は、第1の処理と比較して、画像を大きくぼかす。また、第1の処理と第2の処理においては、使用するガウシアンフィルタのサイズや標準偏差を変えることによって、第1の処理と第2の処理で実施される処理を変えることができる。例えば、第1の処理で用いるガウシアンフィルタとして、マトリックスサイズが5×5であって標準偏差が1であるフィルタを用いた場合、第2の処理では、マトリックスサイズが15×15、標準偏差が3であるフィルタを用いることができる。第1の処理と第2の処理とで、互いに異なるフィルタを用いれば、第1の処理および第2の処理を、1回のフィルタ処理で行うことができる。
また、第1の処理と第2の処理においては、使用するガウシアンフィルタを同じとし、第1画像に対してガウシアンフィルタを用いて画像処理する回数を変化させることによって、第1の処理と第2の処理で実施される処理を変えることができる。例えば、第1の処理では、第1画像に対して所定のガウシアンフィルタを用いて1回処理を行い、第2の処理では、第1画像に対して、第1の処理と同じガウシアンフィルタを用いて複数回(例えば3回)処理を行うことができる。第2の処理を、第1の処理を複数回繰り返す処理とすることによって、第1の処理と第2の処理で用いられるガウシアンフィルタを共通化することができる。また、第2の処理で用いられるガウシアンフィルタのマトリックスサイズを第1の処理より大きくする場合に比べて、第2の処理で行われる計算量を抑制できる場合がある。
コントラスト比較部44aは、ぼかし処理部42aで生成された第2画像と第3画像とのコントラストを比較した値であるコントラスト比較値を算出する。例えば、コントラスト比較部44aは、第1実施形態に係るコントラスト比較部44と同様に、第2画像と第3画像について、第2画像および第3画像のコントラストを数値で表現したコントラスト評価値を算出する。コントラスト評価値の算出方法としては、第1実施形態において第1画像および第2画像のコントラスト評価値を算出する場合と同様の方法を用いることができる。
さらに、コントラスト比較部44aは、第2画像のコントラスト評価値と、第3画像のコントラスト評価値から、第2画像のコントラストと第3画像とのコントラストとを比較した値であるコントラスト比較値を算出する。コントラスト比較値の計算方法は特に限定されないが、例えば、コントラスト比較値を比較値C、第2画像のコントラスト評価値を評価値Sb、第3画像のコントラスト評価値を評価値Scとすると、以下の数式5を用いて算出することができる。
Figure 2011113526
コントラスト比較部44aは、第1画像を比較対象に用いるのではなく、第1画像に対して異なるぼかし処理を行った2つの画像(第2画像および第3画像)のコントラストを比較したコントラスト比較値を算出する。そのため、コントラスト比較部44aは、第1画像のボケ量をより正確に反映したコントラスト比較値を算出することができる。
図10は、画像のコントラスト評価値と、画像のボケ量(画像が実際にどの程度ぼけているかを表す指標)の関係を表した概念図である。曲線92は、ある1つの撮影対象から得られる画像について、画像のボケ量に伴うコントラスト評価値の変化を表したものである。曲線92は、例えば、ある1つの撮影対象を、ピントのずれ度合い等を変えてボケ量を変化させながら撮影し、撮影によって得られた画像のコントラスト評価値を、ボケ量に対してプロットすることによって得られる。
撮影対象が同じである場合、画像のコントラスト評価値は、通常、曲線92の上にのるが、点88で示すように、画像にノイズが含まれるような場合は、画像がぼけているにもかかわらず、コントラスト評価値が高く算出される場合がある。なお、点88は、ノイズが含まれる画像(第1画像)のコントラスト評価値を、ボケ量に対してプロットしたものである。点88で示す第1画像のコントラスト評価値である評価値S5には、評価値S5から評価値S5aを引いた大きさに相当するノイズ成分が含まれる。例えば、撮影時のISO感度を高く設定しすぎたような場合に、画像にノイズが含まれる。
しかし、図10に示すように、第1画像に含まれるノイズの影響は、第1画像をぼかす処理を行うことによって低減もしくは除去することができる。すなわち、点88で示す第1画像に対して、第1の処理または第2の処理を行うことによって、画像のコントラスト評価値は矢印90に沿って変化し、画像のノイズ成分が低減もしくは除去される。その結果、第1の処理によって得られた第2画像のコントラスト評価値は、評価値S6となる。また、第1画像に対して第2の処理を行って得られた第3画像のコントラスト評価値は、評価値S7となる。図10に示すように、評価値S6および評価値S7からはノイズ成分が低減もしくは除去されているため、これらのコントラスト評価値から算出されるコントラスト比較値は、第1画像のボケ量をより正確に反映する。
このように、第2実施形態に係るコントラスト比較部44aは、第1画像の含まれるノイズの影響を低減もしくは除去してコントラスト比較値を算出するため、第1画像のボケ量をより正確に反映したコントラスト比較値を算出できる。
コントラスト比較部44aは、算出したコントラスト比較値を、ぼけ判定部46に出力する。ぼけ判定部46は、第1実施形態と同様に、第1画像がぼけているか否かを判断する。また、保存処理部48は、第1実施形態と同様に、ぼけ判定部46での判定結果に応じて、ぼかし処理部42aに入力された第1画像の保存処理を変更することができる。
図9は、図8に示す画像判定装置で行われる画像判定処理の一例を表すフローチャートである。ステップS101において、CPU34a(図8参照)は、画像判定処理を開始する。また、ステップS102においてCPU34aは、第1画像を取得する。ステップS101およびステップS102における処理は、図3に示すステップS001およびステップS002における処理と同様である。
ステップS103において、CPU34aにおけるぼかし処理部42aは、第1画像に対して画像をぼかす第1処理を行い、第2画像を生成するとともに、第1画像に対して画像をぼかす第2処理を行い、第3画像を生成する。また、ぼかし処理部42aは、第2画像および第3画像に関する情報を、コントラスト比較部44aに出力する。
ステップS104において、コントラスト比較部44aは、第2画像のコントラスト評価値と、第3画像のコントラスト評価値を算出する。さらに、ステップS105において、コントラスト比較部44aは、第2画像と第3画像のコントラスト評価値を比較する。すなわち、ステップS105において、コントラスト比較部44aは、第2画像と第3画像のコントラスト評価値とを比較した値であるコントラスト比較値を算出し、ぼけ判定部46に出力する。
ステップS106において、ぼけ判定部46は、入力されたコントラスト比較値が所定のしきい値より大きいか否かを判断することによって、ステップS102において取得された第1画像がぼけているか否かを判断する。ステップS107において、保存処理部48は、ぼけ判定部46から入力された判定結果に応じて、第1画像の保存処理または保存場所の変更等を行う。さらに、ステップS108において、CPU34aは、一連の画像判定処理を終了する。ステップS106〜ステップS108における処理は、図3に示すステップS006〜ステップS008における処理と同様である。
本発明の第2実施形態に係る画像判定装置は、第1画像の含まれるノイズの影響を低減もしくは除去して第1画像がぼけているか否かを判定するため、より正確な判定が可能である。また、本発明の第2実施形態に係る画像判定装置は、第1実施形態に係る画像判定装置と同様の効果を有する。
第3実施形態
図11は、本発明の第3実施形態に係る画像判定装置の概略ブロック図である。図11に示すように、第3実施形態に係る画像判定装置としてのCPU94は、画像分割部101と、ぼかし処理部42aと、コントラスト比較部44aと、ぼけ判定部107と、保存処理部48とを含む。第3実施形態に係るCPU94は、画像分割部101を含む点と、ぼけ判定部107における処理が異なる点で、第2実施形態に係るCPU34aと異なるが、その他はCPU34aと同様である。
画像分割部101は、撮像素子24および画像制御部38によって生成された画像や、記憶部40等に保存されている画像が入力される。画像分割部101に入力される画像には、例えば、撮像素子24(図1)の撮像面に結ばれた像を電子データ化した撮影画像のように、撮影装置によって撮影された画像が含まれる。本実施形態の説明では、画像分割部101に入力される画像を元画像と呼ぶ。
画像分割部101は、元画像を分割して複数の画像を生成する。画像分割部101は、図13に示すような元画像109が入力された場合、元画像109を分割して、複数の第1画像111〜127を生成する。なお、本実施形態の説明では、画像分割部101によって生成され、ぼかし処理部42aに入力される画像を第1画像と呼ぶ。本実施形態に係る画像分割部101は、元画像109を分割して、9つの第1画像111〜127を生成する。
画像分割部101は、生成した複数の第1画像111〜127を、ぼかし処理部42aに出力する。ぼかし処理部42aは、生成した全ての第1画像111〜127を、一度にぼかし処理部42aに出力してもよいが、ぼけ判定部107によって1つの第1画像についての判断が出力されるのを待って、一画像ごとに出力してもよい。
ぼかし処理部42aは、第2実施形態と同様に、第1画像に対して画像ぼかす第1の処理を行い、第2画像を生成するとともに、第1画像に対して第1の処理とは異なる処理で画像をぼかす第2の処理を行い、第3画像を生成する。ぼかし処理部42aは、入力される複数の第1画像111〜127のそれぞれについて、第2画像および第3画像を生成することができる。
コントラスト比較部44aは、第2実施形態と同様に、第2画像のコントラスト評価値と、第3画像のコントラスト評価値から、第2画像のコントラストと第3画像とのコントラストとを比較した値であるコントラスト比較値を算出する。コントラスト比較部44aは、画像分割部101で生成された複数の第1画像111〜127のそれぞれから生成されたそれぞれの第2画像および第3画像について、コントラスト比較値を算出することができる。
コントラスト比較部44aは、算出したコントラスト比較値を、ぼけ判定部107に出力する。ぼけ判定部107は、第1および第2実施形態と同様に、コントラスト比較値に対応する第1画像がぼけているか否かを判断する。ぼけ判定部107は、画像分割部101で生成された複数の第1画像111〜127のそれぞれについて、第1画像111〜127がぼけているか否かを判断することができる。
また、第3実施形態に係るぼけ判定部107は、第1画像111〜127がぼけているか否かを判断した後に、その判断結果を用いて、元画像109がぼけているか否かを判断する。たとえば、ぼけ判定部107は、複数の第1画像111〜127のなかに、ぼけていない第1画像が含まれている場合は、元画像109はシャープ画像であると判断することができる。また、ぼけ判定部107は、複数の第1画像111〜127のなかに、ぼけていない第1画像が含まれていない場合は、元画像109はボケ画像であると判断することができる。
また、ぼけ判定部107は、1つの第1画像111〜127についての判定が終わるたびに、1つの第1画像111〜127についての判定結果を画像分割部101に出力してもよい。これによって、ぼかし処理部42a、コントラスト比較部44aおよびぼけ判定部107は、複数の第1画像111〜127に対して、1画像ごとに順番に、ぼけているか否かを判断することができる。
保存処理部48は、ぼけ判定部107での判定結果に応じて、画像分割部101に入力された元画像109の保存処理を変更することができる。例えば、画像分割部101に入力された元画像109が、ぼけ判定部107によってシャープ画像であると判断された場合には、保存処理部48は、元画像109の保存場所を、記憶部40における画像フォルダ72とする(図7参照)。また、例えば、画像分割部101に入力された元画像109が、ぼけ判定部107によってボケ画像であると判断された場合には、保存処理部48は、元画像109の保存場所を、通常の画像フォルダ72とは異なる失敗写真フォルダ74(図7参照)とする。
本実施形態に係る画像判定装置は、元画像を分割することによって複数の第1画像を生成し、複数の第1画像について当該第1画像がぼけているか否かを判断した後、その判断結果を用いて元画像がぼけているか否かを判断する。したがって、本実施形態に係る画像判定装置は、マクロ撮影した画像や、文字を撮影した画像など、比較的エッジが少ないか、あるいは、画像の一部にしかエッジがない画像に対しても、良好にシャープ画像であるかボケ画像であるかの判別を行うことができる。また、本実施形態に係る画像判定装置は、第1実施形態および第2実施形態に係る画像判定装置と同様の効果を有する。
図12は、図11に示す画像判定装置で行われる画像処理の一例を表すフローチャートである。ステップS201において、CPU94は、画像判定処理を開始する。ステップS202において、CPU94の画像分割部101は、画像制御部38または記憶部40から元画像を取得する。
ステップS203において、画像分割部101は、元画像を分割して、複数の第1画像を生成する。さらに、ステップS204において、画像分割部101は、生成した複数の第1画像のうちの1つの第1画像を、ぼかし処理部42aに出力する。画像分割部101は、生成した複数の第1画像のうち、元画像の中央部分を構成する第1画像を優先して、ぼかし処理部42aに出力してもよい。また、画像分割部101は、生成した複数の第1画像のうち、オートフォーカスのピント位置を含む第1画像を優先して、ぼかし処理部42aに出力してもよい。元画像の中央部分を構成する第1画像や、AFのピント位置を含む第1画像は、シャープ画像である可能性が高いため、これらの画像を優先して処理することによって、CPU94の演算量を抑制することができる。
さらに、ステップS204において、ぼかし処理部42aは、ぼかし処理部42aに入力された第1画像に対して、画像をぼかす第1処理を行い、第2画像を生成する。また、ステップS204において、ぼかし処理部42aは、当該ぼかし処理部42aに入力された第1画像に対して、画像をぼかす第2処理を行い、第3画像を生成する。また、ぼかし処理部44aは、第2画像および第3画像に関する情報を、コントラスト比較部44aに出力する。
ステップS205において、コントラスト比較部44aは、第2画像のコントラスト評価値と、第3画像のコントラスト評価値を算出する。さらに、ステップS206において、コントラスト比較部44aは、第2画像と第3画像のコントラスト評価値を比較する。すなわち、ステップS206において、コントラスト比較部44aは、第2画像と第3画像のコントラスト評価値を比較した値であるコントラスト比較値を算出し、ぼけ判定部107に出力する。
ステップS207において、ぼけ判定部107は、入力されたコントラスト比較値が所定のしきい値より大きいか否かを判断することによって、ステップS204においてぼかし処理部42aに入力された第1画像が、ぼけているか否かを判断する。ぼけ判定部107が、第1画像はぼけていると判断した場合は、ステップS208に進む。反対に、ぼけ判定部107が、第1画像はぼけていないと判断した場合は、ステップS209に進み、元画像についての判定を行う。すなわち、図12に示す例では、ぼけ判定部107がぼけていない第1画像を発見すると、その時点でぼけているか否かの判定が終了していない第1画像については判定を行わず、元画像についての判定を行う。このような処理を行うことによって、第3実施形態に係る画像処理装置は、元画像がぼけているか否かの判定を行う際の演算量を減少させることができる。
ステップS208において、ぼけ判定部107は、ステップS203において生成されたすべての第1画像について、第1画像がぼけているか否かの判定(ステップS207の処理)が行われているか否かを判断する。ぼけているか否かの判定が終了していない第1画像が存在する場合は、ぼけ判定部107は、画像分割部101に信号を出力し、ステップS204の処理に戻り、まだ処理が終了していない第1画像について、処理を進めるように指示する。その反対に、すべての画像分割部101で生成されたすべての第1画像について、ぼけているか否かの判定が終了していた場合は、ステップS209に進み、元画像についての判定を行う。
ステップS209において、ぼけ判定部107は、画像分割部101で生成された第1画像のなかにぼけていない第1画像が含まれているか否かによって、画像分割部101に入力された元画像がぼけているか否かを判定する。さらにぼけ判定部107は、判定結果を保存処理部48に出力する。
ステップS210において、保存処理部48は、ぼけ判定部107から入力された判定結果に応じて、元画像の保存処理または保存場所の変更等を行う。たとえば、保存処理部48は、元画像がぼけている旨の信号がぼけ判定部107から入力された場合は、元画像の保存場所を、記憶部40における画像フォルダ72から、失敗写真フォルダ74に変更する。また、ステップS211において、CPU94は、一連の画像判定処理を終了する。
その他の実施形態
上述の実施形態では、撮像素子24等を制御するCPU34,34a,94が、画像判定に関する一連の演算処理を行ったが、画像判定に関する演算処理を行う演算部としては、これに限定されない。画像判定に関する一連の演算処理は、例えば、CPU34,34a,94とは別の内蔵プロセッサまたは外部プロセッサで行われても良い。
また、上述の実施形態では、カメラボディ10に搭載された画像判定装置を例に説明を行ったが、本発明に係る画像判定装置としてはこれに限定されず、例えば、コンパクトカメラや携帯電話、ビデオカメラ等に搭載することができる。また、本発明に係る画像判定装置は、撮影装置に搭載されるものに限られず、上述の実施形態で説明した画像判定手順に関するプログラムを実装したパーソナルコンピュータ等も、本発明に係る画像判定装置に含まれる。
34,34a,94… CPU
42,42a… ぼかし処理部
44,44a… コントラスト比較部
46,107… ぼけ判定部
48… 保存処理部
50… ボケフィルター
101… 画像分割部

Claims (6)

  1. 第1の画像に対して画像をぼかす処理を行い第2の画像を生成するぼかし処理部と、
    前記第1の画像のコントラストと前記第2の画像のコントラストとを比較した値であるコントラスト比較値を算出するコントラスト比較部と、
    前記コントラスト比較値が所定のしきい値を超えているか否かによって、前記第1の画像がぼけているか否かを判定するぼけ判定部と
    を備える画像判定装置。
  2. 第1の画像に対して画像をぼかす第1の処理を行い第2の画像を生成し、前記第1の画像に対して前記第1の処理とは異なる処理で画像をぼかす第2の処理を行い第3の画像を生成するぼかし処理部と、
    前記第2の画像のコントラストと前記第3の画像のコントラストとを比較した値であるコントラスト比較値を算出するコントラスト比較部と、
    前記コントラスト比較値が所定のしきい値を超えているか否かによって、前記第1の画像がぼけているか否かを判定するぼけ判定部と
    を備える画像判定装置。
  3. 前記第2の処理は、前記第1の処理を複数回繰り返す処理であることを特徴とする請求項2に記載の画像判定装置。
  4. 元画像を複数に分割して複数の前記第1の画像を生成する画像分割部をさらに有し、
    前記コントラスト比較部は、複数の前記第1の画像に対応する複数の前記コントラスト比較値を算出し、
    前記ぼけ判定部は、複数の前記第1の画像のうちぼけていないと判定されるものがあるか否かによって、前記元画像がぼけているか否かを判定することを特徴とする請求項1から請求項3までのいずれか1項に記載された画像判定装置。
  5. 前記ぼけ判定部は、複数の前記第1の画像のうちぼけていないと判定されるものがある場合は、その判定が行われた時点においてぼけているか否かの判定を行っていない前記第1の画像についてはぼけているか否かの判定を行わずに、前記元画像がぼけているか否かを判定することを特徴とする請求項4に記載された画像判定装置。
  6. コンピュータに、
    第1の画像に対して画像をぼかす処理を行い第2の画像を生成するぼかし処理手順と、
    前記第1の画像のコントラストと前記第2の画像のコントラストとを比較した値であるコントラスト比較値を算出するコントラスト比較手順と、
    前記コントラスト比較値が所定のしきい値を超えているか否かによって、前記第1の画像がぼけているか否かを判定するぼけ判定手順と
    を実行させるための画像判定プログラム。
JP2009272411A 2009-11-30 2009-11-30 画像判定装置および画像判定プログラム Expired - Fee Related JP5544848B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009272411A JP5544848B2 (ja) 2009-11-30 2009-11-30 画像判定装置および画像判定プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009272411A JP5544848B2 (ja) 2009-11-30 2009-11-30 画像判定装置および画像判定プログラム

Publications (2)

Publication Number Publication Date
JP2011113526A true JP2011113526A (ja) 2011-06-09
JP5544848B2 JP5544848B2 (ja) 2014-07-09

Family

ID=44235780

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009272411A Expired - Fee Related JP5544848B2 (ja) 2009-11-30 2009-11-30 画像判定装置および画像判定プログラム

Country Status (1)

Country Link
JP (1) JP5544848B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013076964A1 (ja) * 2011-11-22 2013-05-30 パナソニック株式会社 測定方法、測定装置、カメラ、コンピュータ・プログラムおよび記録媒体
JP5248719B1 (ja) * 2012-04-25 2013-07-31 楽天株式会社 画像評価装置、画像選択装置、画像評価方法、記録媒体、ならびに、プログラム
WO2013161111A1 (ja) * 2012-04-25 2013-10-31 楽天株式会社 画像評価装置、画像選択装置、画像評価方法、記録媒体、ならびに、プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005277503A (ja) * 2004-03-23 2005-10-06 Fuji Photo Film Co Ltd 画像処理方法および装置並びにプログラム
JP2008123346A (ja) * 2006-11-14 2008-05-29 Seiko Epson Corp ぼやけ判定装置、ぼやけ判定方法および印刷装置
JP2009105637A (ja) * 2007-10-23 2009-05-14 Kyodo Printing Co Ltd 画像のぼけ判断方法、その装置及びそのプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005277503A (ja) * 2004-03-23 2005-10-06 Fuji Photo Film Co Ltd 画像処理方法および装置並びにプログラム
JP2008123346A (ja) * 2006-11-14 2008-05-29 Seiko Epson Corp ぼやけ判定装置、ぼやけ判定方法および印刷装置
JP2009105637A (ja) * 2007-10-23 2009-05-14 Kyodo Printing Co Ltd 画像のぼけ判断方法、その装置及びそのプログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013076964A1 (ja) * 2011-11-22 2013-05-30 パナソニック株式会社 測定方法、測定装置、カメラ、コンピュータ・プログラムおよび記録媒体
US9183456B2 (en) 2011-11-22 2015-11-10 Panasonic Intellectual Property Management Co., Ltd. Measurement method, measurement apparatus, camera, and storage medium having stored therein computer program
JP5248719B1 (ja) * 2012-04-25 2013-07-31 楽天株式会社 画像評価装置、画像選択装置、画像評価方法、記録媒体、ならびに、プログラム
WO2013161111A1 (ja) * 2012-04-25 2013-10-31 楽天株式会社 画像評価装置、画像選択装置、画像評価方法、記録媒体、ならびに、プログラム

Also Published As

Publication number Publication date
JP5544848B2 (ja) 2014-07-09

Similar Documents

Publication Publication Date Title
JP5596138B2 (ja) 撮像装置、画像処理装置、画像処理方法、および画像処理プログラム
JP4186699B2 (ja) 撮像装置および画像処理装置
JP6267502B2 (ja) 撮像装置、撮像装置の制御方法、及び、プログラム
JP6497987B2 (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
KR101599872B1 (ko) 디지털 영상 처리 장치, 그 제어방법 및 이를 실행시키기 위한 프로그램을 저장한 기록매체
CN107968913B (zh) 显示控制设备、显示控制设备的控制方法和存储介质
JP5046769B2 (ja) 撮像装置及びその制御方法及びプログラム
JP2017126897A (ja) 画像処理装置、撮像装置および制御方法
JP6432038B2 (ja) 撮像装置
JP7281977B2 (ja) 焦点調節装置および焦点調節方法
JP2019083364A (ja) 画像処理装置、撮像装置および制御方法
JP5544848B2 (ja) 画像判定装置および画像判定プログラム
JP2018137613A (ja) 画像処理装置、撮像装置および画像処理装置の制御方法
JP2012252213A (ja) 撮像装置、プログラム及び撮像装置のブレ補正方法
JP2015204470A (ja) 撮像装置およびその制御方法ならびにプログラム
JP6346484B2 (ja) 画像処理装置およびその制御方法
JP6032967B2 (ja) 撮像装置、レンズ装置および撮像装置の制御方法
JP5484129B2 (ja) 撮像装置
JP2015215553A (ja) 撮像装置
JP2007306436A (ja) 撮像装置
JP5998820B2 (ja) 撮影装置、合焦状態表示方法、合焦状態表示プログラム
JP5747595B2 (ja) 露出制御装置及びカメラ
JP2008067168A (ja) デジタルカメラ
JP2008011102A (ja) 画像処理装置及び画像処理方法及びプログラム及び記憶媒体及び撮像装置
US10951829B2 (en) Image capturing apparatus and method for controlling display

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121108

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20121108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131021

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140415

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140428

R150 Certificate of patent or registration of utility model

Ref document number: 5544848

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees