JP2013157867A - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP2013157867A
JP2013157867A JP2012018122A JP2012018122A JP2013157867A JP 2013157867 A JP2013157867 A JP 2013157867A JP 2012018122 A JP2012018122 A JP 2012018122A JP 2012018122 A JP2012018122 A JP 2012018122A JP 2013157867 A JP2013157867 A JP 2013157867A
Authority
JP
Japan
Prior art keywords
unit
signal
level
amplitude
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012018122A
Other languages
English (en)
Other versions
JP5743918B2 (ja
Inventor
Shiroshi Kanemitsu
史呂志 金光
Yoshiharu Kawakami
好日 川上
Kazuhiro Tabuchi
和浩 田淵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2012018122A priority Critical patent/JP5743918B2/ja
Priority to US13/597,646 priority patent/US8692911B2/en
Priority to KR1020120096037A priority patent/KR101353863B1/ko
Priority to CN2012103203475A priority patent/CN103227891A/zh
Publication of JP2013157867A publication Critical patent/JP2013157867A/ja
Application granted granted Critical
Publication of JP5743918B2 publication Critical patent/JP5743918B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/142Edging; Contouring
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • G06T5/75Unsharp masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/205Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
    • H04N5/208Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • H04N5/213Circuitry for suppressing or minimising impulsive noise
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】効果的なエッジ強調とノイズの抑制とを可能とし、高品質な画像を得るための画像処理装置を提供すること。
【解決手段】実施形態によれば、画像処理装置は、エッジ強調部33及び輝度レベル判定部54を有する。エッジ強調部33は、画像信号から得られた輝度信号35について、エッジ強調処理を実施する。エッジ強調部33は、ノイズキャンセル処理及び振幅制限処理を経た抽出データ38を、輝度信号35に加算する。輝度レベル判定部54は、輝度信号35の信号レベルの高低を判定する。輝度レベル判定部54は、予め設定された輝度レベル判定用閾値d1、d2と輝度信号35の信号レベルとを比較する。エッジ強調部33は、輝度レベル判定部54での比較結果に応じて選択された係数を用いて抽出データ38を調整し、輝度信号35に加算する。
【選択図】図11

Description

本発明の実施形態は、画像処理装置に関する。
近年、携帯電話に搭載されるカメラモジュール等は、低コスト化や薄型化のために、レンズ枚数を削減することや、MTF(modulation transfer function)特性の低いレンズを使用することがある。MTFが低いことによる、ピント合わせの不十分さをカバーするためには、例えば、デジタル信号処理によるエッジの補正(エッジ強調処理)が実施される。エッジ強調処理は、一般に、バンドバスフィルタ(BPF)で抽出された所定帯域のエッジ成分に所定の処理を施し、エッジ部分への加算によるオーバーシュート或いは減算によるアンダーシュートを付加することなどにより行う。
特に、信号対ノイズ比(SNR)の低い画像においては、エッジ成分とともにノイズ成分が抽出され、エッジ部分へ加算されることで、得られる画像のSNRがさらに悪化することがある。SNRの悪化については、抽出されたエッジ成分に対するノイズキャンセル機能を付加することにより対応がなされている。ノイズキャンセル機能は、ノイズ成分のみならずエッジ成分も減少させることがある。そのため、ノイズキャンセル機能の適用により、所望のレベルに対し解像度が低下する場合がある。
明部と暗部とを併せ持つ画像では、エッジ強調処理は、明部においては強めとし、暗部においては弱め、とすることが望まれる。暗部については、エッジ強調処理を強めとする必要性が低いものとされている。エッジ成分の振幅は、明部において大きく、暗部において小さくなることから、必要とされるエッジ強調のレベルは明暗により変化する。また、明部のエッジについては、エッジ強調のレベルのバランスを保つために、エッジ強調を所望のレベルでクリップする振幅制限処理が施される。
エッジ強調のレベルのバランスを優先させる場合、エッジ強調の制限とするレベルを低く設定することで、エッジ強調が不十分となる。これについては、振幅制限処理後のエッジ成分にゲインを乗ずることで、エッジ強調のレベルをかさ上げする措置を取り得る。この場合、暗部から抽出されたエッジ成分に含まれるノイズも増幅されることとなる。これに対し、エッジ強調の制限とするレベルを高く設定すると、エッジにおけるレベルのバランスが崩れることとなる。このように、従来技術によると、効果的なエッジ強調とノイズの抑制との両立を可能とするための調整が困難であることが問題となる。
特開2005−286411号公報
本発明の一つの実施形態は、効果的なエッジ強調とノイズの抑制とを可能とし、高品質な画像を得るための画像処理装置を提供することを目的とする。
本発明の一つの実施形態によれば、画像処理装置は、データ抽出部、ノイズキャンセル部、振幅制限部、エッジ強調部及び輝度レベル判定部を有する。データ抽出部は、被写体像の撮像により取得された画像信号から、信号レベルに応じたデータ抽出を実施する。ノイズキャンセル部は、データ抽出部にて抽出された抽出データについて、ノイズキャンセル処理を実施する。振幅制限部は、抽出データについて、振幅制限処理を実施する。エッジ強調部は、画像信号から得られた輝度信号について、エッジ強調処理を実施する。エッジ強調部は、ノイズキャンセル処理及び振幅制限処理を経た抽出データを、輝度信号に加算する。輝度レベル判定部は、輝度信号の信号レベルの高低を判定する。輝度レベル判定部は、予め設定された輝度レベル判定用閾値と輝度信号の信号レベルとを比較する。エッジ強調部は、輝度レベル判定部での比較結果に応じて選択された係数を用いて抽出データを調整し、輝度信号に加算する。
第1の実施形態にかかる画像処理装置であるDSPの概略構成を示すブロック図。 図1に示すDSPを備えるカメラモジュールの概略構成を示すブロック図。 図2に示すカメラモジュールを備えるデジタルカメラの概略構成を示すブロック図。 エッジ抽出部の構成を示すブロック図。 エッジ抽出部によるエッジ抽出の概要を説明する図(その1)。 エッジ抽出部によるエッジ抽出の概要を説明する図(その2)。 エッジ抽出部によるエッジ抽出の概要を説明する図(その3)。 エッジ抽出部によるエッジ抽出の概要を説明する図(その4)。 エッジ抽出部によるエッジ抽出の概要を説明する図(その5)。 エッジ抽出部によるエッジ抽出の概要を説明する図(その6)。 エッジ強調部の構成を示すブロック図。 エッジ強調部において加算される抽出データのレベルの調整について説明する図。 抽出データの調整のための係数を、アナログゲインに連動して変化させる例を説明する図。 第2の実施形態にかかる画像処理装置であるDSPの概略構成を示すブロック図。 図14に示すDSPに含まれるエッジ抽出部及びエッジ強調部の構成を示すブロック図。 第3の実施形態にかかる画像処理装置であるDSPのうち、エッジ抽出部及びエッジ強調部の構成を示すブロック図。
以下に添付図面を参照して、実施形態にかかる画像処理装置を詳細に説明する。なお、これらの実施形態により本発明が限定されるものではない。
(第1の実施形態)
図1は、第1の実施形態にかかる画像処理装置であるデジタルシグナルプロセッサ(digital signal processor;DSP)の概略構成を示すブロック図である。図2は、図1に示すDSPを備えるカメラモジュールの概略構成を示すブロック図である。図3は、図2に示すカメラモジュールを備えるデジタルカメラの概略構成を示すブロック図である。カメラモジュール2は、デジタルカメラ1以外には、例えばカメラ付き携帯端末等の電子機器で使用される。
デジタルカメラ1は、カメラモジュール2、記憶部3及び表示部4を有する。カメラモジュール2は、被写体像を撮像する。記憶部3は、カメラモジュール2により撮影された画像を格納する。表示部4は、カメラモジュール2により撮影された画像を表示する。表示部4は、例えば、液晶ディスプレイである。
カメラモジュール2は、被写体像の撮像により、記憶部3及び表示部4へ画像信号を出力する。記憶部3は、ユーザの操作等に応じて、表示部4へ画像信号を出力する。表示部4は、カメラモジュール2あるいは記憶部3から入力される画像信号に応じて、画像を表示する。
カメラモジュール2は、レンズユニット11、イメージセンサ12、アナログデジタル変換器(analog to digital converter;ADC)13及びDSP14を有する。レンズユニット11は、被写体からの光を取り込み、イメージセンサ12にて被写体像を結像させる。イメージセンサ12は、レンズユニット11により取り込まれた光を信号電荷に変換し、被写体像を撮像する。
イメージセンサ12は、R(赤)、G(緑)、B(青)の信号値をベイヤー配列に対応する順序で取り込むことにより、アナログ画像信号を生成する。ADC13は、イメージセンサ12からの画像信号をアナログ方式からデジタル方式へ変換する。DSP14は、ADC13からのデジタル画像信号に対して種々の画像処理を施す。
ラインメモリ20は、ADC13からDSP14へ入力されたデジタル画像信号を一時的に貯える。キズ補正部21及びノイズキャンセル部22は、ラインメモリ20を共用する。キズ補正部21は、ラインメモリ20からのデジタル画像信号に対してキズ補正を実施する。キズ補正部21は、イメージセンサ12において正常に機能していない画素によるデジタル画像信号の欠損部分(キズ)を補正する。ノイズキャンセル部22は、ノイズを低減させるためのノイズキャンセル処理を実施する。シェーディング補正部28は、被写体像のシェーディング補正を実施するためのシェーディング補正係数を算出する。
デジタルアンプ(AMP)回路23は、後述するAWB/AE演算部27で算出された係数と、シェーディング補正部28で算出されたシェーディング補正係数とを基にしてデジタルAMP係数を算出する。また、デジタルAMP回路23は、キズ補正部21及びノイズキャンセル部22での処理を経たデジタル画像信号に、デジタルAMP係数を乗算する。
ラインメモリ24は、デジタルAMP係数が乗算されたデジタル画像信号を一時的に貯える。画素補間部25は、ラインメモリ24からベイヤー配列の順序で伝達されてくるデジタル画像信号の補間処理(デモザイク処理)により、RGBの信号(感度信号)を生成する。カラーマトリクス部26は、RGBの感度信号に対して、色再現性を得るためのカラーマトリクス演算処理(色再現性処理)を実施する。AWB/AE演算部27は、自動ホワイトバランス(auto white balance;AWB)調整、自動露出(auto exposure;AE)調整のための各係数を、RGBの感度信号から算出する。
ガンマ補正部30は、RGBの感度信号に対して、画像の階調を補正するためのガンマ補正を実施する。YUV変換部31は、RGBの感度信号から輝度(Y)信号35及び色差(UV)信号36を生成することにより、画像信号をRGB形式からYUV形式(例えば、YUV422など)へ変換する。YUV変換部31は、色成分ごとの感度信号を、Y信号35及びUV信号36に変換する。ラインメモリ32は、YUV変換部31からのY信号35及びUV信号36を一時的に貯える。
エッジ強調部33は、ラインメモリ32から読み出されたY信号35について、エッジ強調処理を実施する。エッジ強調部33は、エッジ強調処理において、例えば、イメージセンサ12による撮像条件及び各画素の位置に基づいて算出した補正係数を用いる。さらに、エッジ強調部33は、エッジ強調処理として、エッジ抽出部34から入力される抽出データ38をY信号35に加算する。
エッジ抽出部34は、ラインメモリ24から読み出されるRAW画像データ37についてエッジ抽出を実施し、抽出データ38を出力する。RAW画像データ37は、イメージセンサ12(図2参照)における被写体像の撮像により取得されてから、エッジ抽出部34へ至るまでの各部における信号処理を経た画像信号とする。
DSP14は、エッジ強調部33でのエッジ強調処理を経たY信号39とラインメモリ32からのUV信号36とを出力する。なお、本実施形態で説明するDSP14の構成は一例であって、適宜変形しても良い。DSP14は、例えば、本実施形態で示す要素とは別の要素の追加や、省略可能な要素の省略等の変更をしても良い。
図4は、エッジ抽出部の構成を示すブロック図である。エッジ抽出部34は、ラインメモリ40、バンドパスフィルタ(BPF)41、ノイズキャンセル部42、振幅制限部43及び乗算器44を有する。
ラインメモリ40は、ラインメモリ24(図1参照)からエッジ抽出部34へ入力されたRAW画像データ37を一時的に貯える。BPF41は、ラインメモリ40から読み出されたRAW画像データ37のうち所定帯域のデータを、エッジ成分を含むデータとして抽出する。BPF41は、被写体像の撮像により取得された画像データから、信号レベルに応じたデータ抽出を実施するデータ抽出部として機能する。BPF41は、RAW画像データ37から抽出された抽出データを出力する。
ノイズキャンセル部42は、BPF41にて抽出された抽出データについて、ノイズキャンセル処理を実施する。ノイズキャンセル部42は、抽出データの信号レベルから所定のノイズキャンセル用閾値を差し引くことで、ノイズキャンセル用閾値以下の信号レベルのデータを、ノイズ成分とみなして除去する。ノイズキャンセル用閾値は、ノイズキャンセル処理のために予め設定された閾値とする。
振幅制限部43は、ノイズキャンセル部42におけるノイズキャンセル処理を経た抽出データについて、振幅制限処理を実施する。振幅制限部43は、抽出データのうち所定の振幅制限幅を超える信号レベルのデータを、振幅制限内のレベルに揃えることで、エッジ強調のレベルを均一化させる。振幅制限幅は、振幅制限処理のために予め設定された設定値とする。
乗算器44は、振幅制限部43における振幅制限処理を経た抽出データに、例えば予め設定された振幅調整用ゲイン45を乗算する。乗算器44は、振幅制限部43における振幅制限処理がなされた抽出データについて、振幅調整を実施する振幅調整部として機能する。振幅調整用ゲイン45は、振幅調整部における振幅調整のために設定されたゲインとする。エッジ抽出部34は、乗算器44での振幅調整用ゲイン45の乗算を経た抽出データ38を出力する。
図5から図10は、エッジ抽出部によるエッジ抽出の概要を説明する図である。各図において、縦軸は抽出データの信号レベル、横軸は画像上の位置を表すものとする。各図において、実線の棒グラフは画像に存在するエッジ成分、破線の棒グラフはエッジ部分に存在するノイズ成分を表すものとする。
例えば、BPF41におけるデータ抽出により、図5に示す分布をなす抽出データが取得されたとする。抽出データには、エッジ成分とともにノイズ成分が含まれている。かかる抽出データに対し、ノイズキャンセル部42が、図6の上段に示すように、ノイズキャンセル用閾値をTh1とするノイズキャンセル処理を実施したとする。
ノイズキャンセル処理前の抽出データに、Th1未満のレベルのエッジ成分が含まれていた場合、図6の下段に示すように、当該エッジ成分は、ノイズ成分とともに除去されることとなる。ノイズキャンセル用閾値を低い値とするほど、低いレベルのエッジ成分を多く残存させることができる一方、多くのノイズ成分も残存し易くなる。
また、例えば、BPF41におけるデータ抽出により、図7に示す分布をなす抽出データが取得されたとする。抽出データには、エッジ成分とノイズ成分とが含まれている。図7に示す例では、画像の明部と暗部とが、画像上において比較的明確に分かれているとする。データ51は、画像の明部から得られたデータとする。データ52は、画像の暗部から得られたデータとする。
この例において、明部のデータ51と暗部のデータ52とで、ノイズ成分の信号レベルを比較すると、明部には、暗部に含まれるノイズ成分より高い信号レベルのノイズ成分が含まれている。但し、エッジ成分の信号レベルに対するノイズ成分の信号レベルの比率は、明部に比べて暗部のほうが高いことから、明部のエッジ部分に生じたノイズに対して、暗部のエッジ部分に生じたノイズのほうが目立つこととなる。
かかる抽出データに対し、ノイズキャンセル部42が、図8の上段に示すように、ノイズキャンセル用閾値をTh1とするノイズキャンセル処理を実施したとする。この例では、ノイズキャンセル処理前の抽出データに、Th1以上のノイズ成分が含まれている。このため、図8の下段に示すように、ノイズキャンセル処理の抽出データには、ノイズ成分が残存している。但し、明部及び暗部のいずれにおいても、エッジ成分の信号レベルに対し、ノイズ成分の信号レベルが十分低いことから、残存したノイズ成分を目立たせなくすることができる。
図8の下段に示すように、ノイズキャンセル処理後の抽出データでは、このようにノイズが低減されている一方、明部のエッジ部分53において、信号レベルの大幅なばらつきが生じている。そこで、エッジ強調のレベルのバランスを保つために、エッジ強調を所望のレベルでクリップする振幅制限処理を施す。
例えば、図8の下段に示すように、振幅制限部43が、振幅制限幅をTh2とする振幅制限処理を実施したとする。図9に示すように、かかる振幅制限処理後の抽出データでは、エッジ部分53における信号レベルのアンバランスを解消できている一方、エッジ強調のレベルが不十分となる。そこで、乗算器44は、振幅制限処理後の抽出データに振幅調整用ゲイン45を乗ずることで、図10に示すように、抽出データのレベルを一律に増幅させる。
かかる振幅調整により、明部及び暗部において十分なエッジ強調が可能となる一方、ノイズ成分のレベルも増幅されることとなる。振幅制限処理における振幅制限幅を広くするほど、ノイズ成分に対しエッジ成分の信号レベルを高くできる一方、エッジにおける信号レベルのアンバランスが残存し易くなる。
本実施形態では、DSP14は、効果的なエッジ強調とノイズの抑制とを両立させるための調整が難航することを回避するために、エッジ抽出部34から出力された抽出データ38を、Y信号35に応じて調整してから、Y信号35に加算する。
図11は、エッジ強調部の構成を示すブロック図である。エッジ強調部33は、輝度レベル判定部54及びセレクタ55を有する。輝度レベル判定部54は、輝度レベル判定用閾値d1及びd2(d1<d2とする)とY信号35の信号レベルとを比較することで、Y信号35の信号レベルの高低を判定する。例えば、エッジ強調部33は、予め設定された輝度レベル判定用閾値d1及びd2を保持する。セレクタ55は、加算される抽出データ38が互いに異なるレベルに調整されたY信号35のうちの一つを、輝度レベル判定部54での判定結果に応じて選択する。
輝度レベル判定用閾値d2は、例えば、通常の手法でのエッジ抽出により、ノイズ成分に対し十分なレベルのエッジ成分を容易に抽出可能な輝度レベルとする。輝度レベル判定用閾値d1は、例えば、通常の手法でのエッジ抽出では、エッジ成分に対しノイズ成分が顕著となるために、SNR確保の観点からY信号35へ加算しないことが望ましい状況となり易い輝度レベルとする。
エッジ強調部33には、エッジ抽出部34において、データ抽出、ノイズキャンセル処理、振幅制限処理及び振幅調整を経た抽出データ38と、ラインメモリ32(図1参照)から読み出したY信号35とが入力される。
エッジ強調部33へ入力されたY信号35の信号レベルがd1未満である場合、輝度レベル判定部54は、かかる判定結果を表す信号、例えば「0」を出力する。Y信号35の信号レベルがd1以上かつd2未満である場合、輝度レベル判定部54は、かかる判定結果を表す信号、例えば「1」を出力する。Y信号35の信号レベルがd2以上である場合、輝度レベル判定部54は、かかる判定結果を表す信号、例えば「2」を出力する。
輝度レベル判定部54から信号「2」が入力された場合、セレクタ55は、抽出データ38がレベルの調整を経ずに加算されたY信号35を選択する。輝度レベル判定部54から信号「1」が入力された場合、セレクタ55は、係数A(0<A<1とする)の乗算を経た抽出データ38が加算されたY信号35を選択する。係数Aは、例えば2分の1とする。
輝度レベル判定部54から信号「0」が入力された場合、セレクタ55は、抽出データ38の加算を経ないY信号35を選択する。エッジ強調部33は、セレクタ55で選択されたデータを、Y信号39として出力する。この例において、エッジ強調部33は、Y信号35に加算する抽出データ38のレベルを、輝度レベル判定部54での判定結果に応じて、1倍、2分の1倍、0と調整する。
図12は、エッジ強調部において加算される抽出データのレベルの調整について説明する図である。Y信号35の信号レベルがd1未満である場合、エッジ強調部33は、Y信号35への抽出データ38の加算を停止させる。言い換えると、エッジ強調部33は、Y信号35への加算対象とする抽出データ38を調整するための係数としてゼロを選択する。エッジ強調部33は、画像のうち、エッジ強調の効果に比べてSNRの悪化が見込まれる暗部のエッジ部分については抽出データ38の加算を停止することで、SNRの悪化を抑制させる。
Y信号35の信号レベルがd1以上かつd2未満である場合、エッジ強調部33は、Y信号35への加算対象とする抽出データ38を調整するための係数として、0<A<1を満たすAを選択する。d1以上かつd2未満の輝度レベルの場合、抽出データ38には、微小なレベルのエッジ成分が存在する可能性があり、かつノイズ成分も残存する可能性がある。エッジ強調部33は、この場合のように、画像のうち中程度の明るさの部分については、所定の比率で減少させた抽出データ38をY信号35へ加算することで、エッジ強調の効果を残しつつSNRの悪化を抑制させる。なお、係数Aは、2分の1である場合に限られず、0<A<1を満足するいずれの値としても良い。
Y信号35の信号レベルがd2以上である場合、エッジ強調部33は、抽出データ38をそのまま、即ち、係数を1として、Y信号35へ加算する。エッジ強調部33は、画像のうち、SNR悪化の懸念が少ない明部のエッジ部分については、エッジ抽出部34からの抽出データ38をそのままY信号35へ加算することで、十分なエッジ強調を可能とする。
以上により、DSP14は、輝度レベルの高低に応じて抽出データ38のレベルを調整し、Y信号35に加算することで、効果的なエッジ強調とノイズの抑制とを可能とし、高品質な画像を得ることができる。
0<A<1を満たす係数Aは、一定の値である場合に限られない。係数Aは、例えば、イメージセンサ12(図2参照)での被写体像の撮像におけるアナログゲインに連動して変化させたものとしても良い。
図13は、抽出データの調整のための係数を、アナログゲインに連動して変化させる例を説明する図である。エッジ強調部33は、アナログゲインが高いほど係数Aが小さい値となるように、係数Aを変化させる。エッジ強調部33は、アナログゲインと係数Aとが例えば線形関数の関係にあるものとして、係数Aを変化させる。エッジ強調部33は、アナログゲインと係数Aとが非線形関数の関係にあるものとして、係数Aを変化させることとしても良い。
撮像時の照度が低くアナログゲインが高いほど、係数Aを小さい値とすることで、エッジ強調部33は、Y信号35への抽出データ38の加算量を減少させて、SNRの悪化を抑制させる効果を高める。これに対し、撮像時の照度が高くアナログゲインが低いほど、係数Aを大きい値とすることで、エッジ強調部33は、Y信号35への抽出データ38の加算量を増大させて、エッジ強調の効果を高める。これにより、DSP14は、撮像時の照度に応じて最適なエッジ強調とノイズの抑制とを実現できる。
エッジ強調部33は、図12に示すように、二つの輝度レベル判定用閾値d1及びd2を基準として、抽出データ38のレベルを三段階で調整することとしている。エッジ強調部33は、輝度レベルの高低に応じて、抽出データ38のレベルをさらに細かく調整することとしても良い。エッジ強調部33は、輝度レベルの高低に応じて抽出データ38のレベルを調整可能であれば良く、構成は適宜変更しても良い。
輝度レベル判定部54は、エッジ強調部33に組み込まれたものである場合に限られない。輝度レベル判定部54は、例えば、エッジ抽出部34に組み込まれたものであっても良い。DSP14は、輝度レベル判定部54を、エッジ強調部33及びエッジ抽出部34のいずれにも含めないものとしても良い。
エッジ抽出部34は、デモザイク処理前のRAW画像データ37を用いてエッジ抽出を実施する場合に限られない。DSP14は、デモザイク処理後のRGBの感度信号、或いはY信号35を用いてエッジ抽出を実施することとしても良い。
(第2の実施形態)
図14は、第2の実施形態にかかる画像処理装置であるDSPの概略構成を示すブロック図である。図15は、図14に示すDSPに含まれるエッジ抽出部及びエッジ強調部の構成を示すブロック図である。第1の実施形態と同一の部分には同一の符号を付し、重複する説明を省略する。本実施形態にかかるDSP60は、エッジ抽出部61及びエッジ強調部62以外の部分については、第1の実施形態にかかるDSP14(図1参照)と同様の構成を備える。
エッジ抽出部61は、ラインメモリ40、バンドパスフィルタ(BPF)41、ノイズキャンセル部42、振幅制限部43及び乗算器44を有する。エッジ強調部62は、輝度レベル判定部54、セレクタ55及びパラメータ調整部63を有する。
パラメータ調整部63は、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66を、輝度レベル判定部54の判定結果に応じて調整する。例えば、エッジ強調部62は、予め設定されたノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66を保持する。
輝度レベル判定部54は、Y信号35の信号レベルの判定結果を、セレクタ55及びパラメータ調整部63へ出力する。パラメータ調整部63は、例えば、Y信号35の信号レベルがd1未満である場合、d1以上かつd2未満である場合、d2以上である場合、のそれぞれに応じて、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66を切り換える。パラメータ調整部63は、例えば、予め設定されたノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66にそれぞれ係数を乗ずることで、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66を調整する。係数は、例えば0から1に含まれる値とする。
パラメータ調整部63は、ノイズキャンセル用閾値64については、Y信号35の信号レベルがd1未満、d1以上かつd2未満、d2以上、と高くなるに従い、低い値となるように調整する。これにより、暗部におけるノイズを低減させるとともに、明部においては十分なエッジ強調を可能とする。
パラメータ調整部63は、振幅制限幅65については、Y信号35の信号レベルがd2以上、d1以上かつd2未満、及びd1未満、と低くなるに従い、低い値となるように調整する。これにより、暗部におけるノイズを低減させるとともに、明部においては十分なエッジ強調を可能とする。
パラメータ調整部63は、振幅調整用ゲイン66については、Y信号35の信号レベルがd2以上、d1以上かつd2未満、及びd1未満、と低くなるに従い、低い値となるように調整する。これにより、暗部におけるノイズを低減させるとともに、明部においては十分なエッジ強調を可能とする。
ノイズキャンセル部42は、パラメータ調整部63から入力されたノイズキャンセル用閾値64を使用するノイズキャンセル処理を実施する。振幅制限部43は、パラメータ調整部63から入力された振幅制限幅65を使用する振幅制限処理を実施する。乗算器44は、パラメータ調整部63から入力された振幅調整用ゲイン66を使用する振幅調整を実施する。
第2の実施形態においても、DSP60は、第1の実施形態の場合と同様、効果的なエッジ強調とノイズの抑制とを可能とし、高品質な画像を得ることができる。本実施形態では、DSP60は、ノイズキャンセル処理、振幅制限処理、振幅調整における各パラメータを、輝度レベルの高低に応じて調整してエッジ抽出を実施することで、さらに効果的なエッジ強調とノイズの抑制とを実現可能とする。
ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66に乗ずる係数は、一定の値である場合に限られない。係数は、例えば、イメージセンサ12(図2参照)での被写体像の撮像におけるアナログゲインに連動して変化させたものとしても良い。これにより、DSP60は、撮像時の照度に応じて最適なエッジ強調とノイズの抑制とを実現できる。
パラメータ調整部63は、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66の全てを調整するものである場合に限られない。パラメータ調整部63は、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66のうち、少なくともいずれかを調整するものであれば良い。
パラメータ調整部63は、エッジ強調部62に組み込まれたものである場合に限られない。パラメータ調整部63は、例えば、エッジ抽出部61に組み込まれたものであっても良い。DSP60は、パラメータ調整部63を、エッジ強調部62及びエッジ抽出部61のいずれにも含めないものとしても良い。
(第3の実施形態)
図16は、第3の実施形態にかかる画像処理装置であるDSPのうち、エッジ抽出部及びエッジ強調部の構成を示すブロック図である。エッジ強調部71は、第2の実施形態におけるエッジ強調部62(図14参照)に代えて適用される。第1及び第2の実施形態と同一の部分には同一の符号を付し、重複する説明を省略する。
エッジ強調部71は、輝度レベル判定部54、セレクタ55及びパラメータ調整部72を有する。パラメータ調整部72は、Y信号35の信号レベルに連動して、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66を変化させる。パラメータ調整部72は、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66が、例えば、Y信号35の信号レベルに対して線形関数の関係にあるものとして、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66をそれぞれ変化させる。パラメータ調整部72は、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66が、Y信号35の信号レベルに対して非線形関数の関係にあるものとして、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66をそれぞれ変化させることとしても良い。
パラメータ調整部72は、Y信号35の信号レベルが高いほど、ノイズキャンセル用閾値64が低い値となるように、ノイズキャンセル用閾値64を調整する。パラメータ調整部72は、Y信号35の信号レベルが低いほど、振幅制限幅65が低い値となるように、振幅制限幅65を調整する。パラメータ調整部72は、Y信号35の信号レベルが低いほど、振幅調整用ゲイン66が低い値となるように、振幅調整用ゲイン66を調整する。
ノイズキャンセル部42は、パラメータ調整部72から入力されたノイズキャンセル用閾値64を使用するノイズキャンセル処理を実施する。振幅制限部43は、パラメータ調整部72から入力された振幅制限幅65を使用する振幅制限処理を実施する。乗算器44は、パラメータ調整部72から入力された振幅調整用ゲイン66を使用する振幅調整を実施する。
第3の実施形態においても、DSPは、第1の実施形態の場合と同様、効果的なエッジ強調とノイズの抑制とを可能とし、高品質な画像を得ることができる。本実施形態では、DSPは、ノイズキャンセル処理、振幅制限処理、振幅調整における各パラメータを、輝度レベルの高低に応じて調整してエッジ抽出を実施することで、さらに効果的なエッジ強調とノイズの抑制とを実現可能とする。
パラメータ調整部72は、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66の全てを調整するものである場合に限られない。パラメータ調整部72は、ノイズキャンセル用閾値64、振幅制限幅65及び振幅調整用ゲイン66のうち、少なくともいずれかを調整するものであれば良い。
パラメータ調整部72は、エッジ強調部71に組み込まれたものである場合に限られない。パラメータ調整部72は、例えば、エッジ抽出部61に組み込まれたものであっても良い。DSPは、パラメータ調整部72を、エッジ強調部71及びエッジ抽出部61のいずれにも含めないものとしても良い。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
14 DSP、33、62、71 エッジ強調部、34、61 エッジ抽出部、35 Y信号、38 抽出データ、41 BPF、42 ノイズキャンセル部、43 振幅制限部、44 乗算器、45、66 振幅調整用ゲイン、54 輝度レベル判定部、63、72 パラメータ調整部、64 ノイズキャンセル用閾値、65 振幅制限幅。

Claims (5)

  1. 被写体像の撮像により取得された画像信号から、信号レベルに応じたデータ抽出を実施するデータ抽出部と、
    前記データ抽出部にて抽出された抽出データについて、ノイズキャンセル処理を実施するノイズキャンセル部と、
    前記抽出データについて、振幅制限処理を実施する振幅制限部と、
    前記画像信号から得られた輝度信号に、前記ノイズキャンセル処理及び前記振幅制限処理を経た前記抽出データを加算することで、前記輝度信号についてエッジ強調処理を実施するエッジ強調部と、
    予め設定された輝度レベル判定用閾値と前記輝度信号の信号レベルとを比較することで、前記輝度信号の信号レベルの高低を判定する輝度レベル判定部と、を有し、
    前記エッジ強調部は、前記輝度レベル判定部での比較結果に応じて選択された係数を用いて前記抽出データを調整し、前記輝度信号に加算することを特徴とする画像処理装置。
  2. 被写体像の撮像により取得された画像信号から、信号レベルに応じたデータ抽出を実施するデータ抽出部と、
    前記データ抽出部にて抽出された抽出データについて、ノイズキャンセル処理を実施するノイズキャンセル部と、
    前記抽出データについて、振幅制限処理を実施する振幅制限部と、
    前記画像信号から得られた輝度信号に、前記ノイズキャンセル処理及び前記振幅制限処理を経た前記抽出データを加算することで、前記輝度信号についてエッジ強調処理を実施するエッジ強調部と、
    前記輝度信号の信号レベルの高低を判定する輝度レベル判定部と、を有し、
    前記エッジ強調部は、前記輝度レベル判定部での判定結果に応じてレベルが調整された前記抽出データを、前記輝度信号に加算することを特徴とする画像処理装置。
  3. 前記エッジ強調部は、前記輝度レベル判定部での判定結果に応じて選択された係数を用いて前記抽出データを調整し、さらに、前記被写体像の撮像におけるアナログゲインに連動して前記係数を変化させることを特徴とする請求項2に記載の画像処理装置。
  4. 前記振幅制限処理がなされた前記抽出データについて、振幅調整を実施する振幅調整部と、
    前記ノイズキャンセル処理のために設定されたノイズキャンセル用閾値、前記振幅制限処理のために設定された振幅制限幅、及び、前記振幅調整のために設定された振幅調整用ゲイン、の少なくともいずれかを、前記輝度レベル判定部での判定結果に応じて調整するパラメータ調整部と、をさらに有することを特徴とする請求項2又は3に記載の画像処理装置。
  5. 前記パラメータ調整部は、前記輝度信号の信号レベルに連動して、前記ノイズキャンセル用閾値、前記振幅制限幅及び前記振幅調整用ゲインの少なくともいずれかを変化させることを特徴とする請求項4に記載の画像処理装置。
JP2012018122A 2012-01-31 2012-01-31 画像処理装置 Expired - Fee Related JP5743918B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2012018122A JP5743918B2 (ja) 2012-01-31 2012-01-31 画像処理装置
US13/597,646 US8692911B2 (en) 2012-01-31 2012-08-29 Image processing device, image processing method, and camera module
KR1020120096037A KR101353863B1 (ko) 2012-01-31 2012-08-31 화상 처리 장치, 화상 처리 방법 및 카메라 모듈
CN2012103203475A CN103227891A (zh) 2012-01-31 2012-08-31 图像处理装置、图像处理方法及照相机模块

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012018122A JP5743918B2 (ja) 2012-01-31 2012-01-31 画像処理装置

Publications (2)

Publication Number Publication Date
JP2013157867A true JP2013157867A (ja) 2013-08-15
JP5743918B2 JP5743918B2 (ja) 2015-07-01

Family

ID=48838136

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012018122A Expired - Fee Related JP5743918B2 (ja) 2012-01-31 2012-01-31 画像処理装置

Country Status (4)

Country Link
US (1) US8692911B2 (ja)
JP (1) JP5743918B2 (ja)
KR (1) KR101353863B1 (ja)
CN (1) CN103227891A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015211320A (ja) * 2014-04-25 2015-11-24 キヤノン株式会社 画像処理装置、その制御方法、及びプログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9766121B2 (en) * 2012-09-28 2017-09-19 Intel Corporation Mobile device based ultra-violet (UV) radiation sensing
CN104917969B (zh) * 2015-05-30 2018-01-19 广东欧珀移动通信有限公司 一种图像处理的方法及移动终端
US10386792B2 (en) * 2016-10-19 2019-08-20 Ants Technology (Hk) Limited Sensory systems for autonomous devices
CN113545185B (zh) * 2019-03-14 2022-11-25 株式会社富士 对象体判定方法、对象体判定装置
CN110070508B (zh) * 2019-04-23 2020-11-10 西安交通大学 一种基于门限值和线性映射的反锐化增强方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001167264A (ja) * 1999-09-30 2001-06-22 Fuji Photo Film Co Ltd 画像処理方法および装置並びに記録媒体
JP2002281348A (ja) * 2001-03-19 2002-09-27 Minolta Co Ltd 画像処理装置、画像処理方法および記録媒体
JP2002319020A (ja) * 2001-04-24 2002-10-31 Fuji Xerox Co Ltd 画像処理装置および画像処理方法
JP2008052353A (ja) * 2006-08-22 2008-03-06 Kyocera Mita Corp 画像処理装置

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5729360A (en) 1994-01-14 1998-03-17 Fuji Xerox Co., Ltd. Color image processing method and system
JP2906975B2 (ja) 1994-01-14 1999-06-21 富士ゼロックス株式会社 カラー画像処理方法および装置
JP3697844B2 (ja) * 1997-07-25 2005-09-21 株式会社富士通ゼネラル 輪郭強調回路
JP2000059651A (ja) * 1998-08-07 2000-02-25 Hitachi Denshi Ltd 輪郭強調回路
JP2000209463A (ja) * 1999-01-12 2000-07-28 Fujitsu General Ltd 輪郭強調回路
JP2001136413A (ja) * 1999-11-09 2001-05-18 Hitachi Kokusai Electric Inc 輪郭強調回路
JP2001346069A (ja) * 2000-06-02 2001-12-14 Fuji Photo Film Co Ltd 映像信号処理装置及び輪郭強調補正装置
JP4463400B2 (ja) * 2000-08-29 2010-05-19 三菱電機株式会社 輝度信号エンハンサ
US7260267B2 (en) * 2002-02-20 2007-08-21 Fujifilm Corporation Image processing apparatus, computer readable medium storing program, image processing method, image capturing apparatus, printing apparatus, and scanning apparatus
JP2004159148A (ja) 2002-11-07 2004-06-03 Fujitsu General Ltd 立体的表現回路
WO2005064920A1 (ja) * 2003-12-25 2005-07-14 Nokia Corporation デジタル撮影装置、デジタル撮影装置のピント調節方法、及びデジタル撮影装置用のプログラム
JP2005260517A (ja) * 2004-03-11 2005-09-22 Sanyo Electric Co Ltd 画像信号処理装置
JP4048440B2 (ja) 2004-03-26 2008-02-20 富士フイルム株式会社 画像処理装置、輪郭強調方法及びプログラム
KR100542365B1 (ko) * 2004-05-07 2006-01-10 삼성전자주식회사 영상 화질 개선 장치 및 그 방법
JP2006279812A (ja) * 2005-03-30 2006-10-12 Matsushita Electric Ind Co Ltd 輝度信号処理装置
CN2838184Y (zh) * 2005-10-19 2006-11-15 上海广电(集团)有限公司中央研究院 一种基于边界的直方图均衡装置
US8134646B2 (en) * 2006-05-24 2012-03-13 Kabushiki Kaisha Toshiba Video signal processing device and video signal processing method
JP4139430B1 (ja) * 2007-04-27 2008-08-27 シャープ株式会社 画像処理装置及び方法、画像表示装置及び方法
KR100901354B1 (ko) * 2007-05-31 2009-06-05 주식회사 코아로직 영상의 에지 보정장치 및 그 방법
KR100976284B1 (ko) * 2007-06-07 2010-08-16 가부시끼가이샤 도시바 촬상 장치
JP2009021905A (ja) * 2007-07-13 2009-01-29 Hoya Corp 輪郭強調装置
CN101188671A (zh) * 2007-12-18 2008-05-28 上海广电集成电路有限公司 视频图像的锐化方法
JP5095860B2 (ja) * 2008-06-19 2012-12-12 マーベル ワールド トレード リミテッド 分離エッジ強調アーキテクチャ
JP5129685B2 (ja) * 2008-08-06 2013-01-30 キヤノン株式会社 輝度信号生成装置及び輝度信号生成方法、並びに撮像装置
JP4875032B2 (ja) * 2008-08-11 2012-02-15 株式会社東芝 固体撮像装置
JP2010154298A (ja) * 2008-12-25 2010-07-08 Toshiba Corp 映像処理装置、映像処理方法及び映像表示装置
KR101114698B1 (ko) * 2010-01-29 2012-02-29 삼성전자주식회사 이미지 특성에 따라 에지를 강조하기 위한 이미지 생성 장치 및 방법
JP5242750B2 (ja) 2011-09-09 2013-07-24 オリンパス株式会社 画像処理装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001167264A (ja) * 1999-09-30 2001-06-22 Fuji Photo Film Co Ltd 画像処理方法および装置並びに記録媒体
JP2002281348A (ja) * 2001-03-19 2002-09-27 Minolta Co Ltd 画像処理装置、画像処理方法および記録媒体
JP2002319020A (ja) * 2001-04-24 2002-10-31 Fuji Xerox Co Ltd 画像処理装置および画像処理方法
JP2008052353A (ja) * 2006-08-22 2008-03-06 Kyocera Mita Corp 画像処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015211320A (ja) * 2014-04-25 2015-11-24 キヤノン株式会社 画像処理装置、その制御方法、及びプログラム

Also Published As

Publication number Publication date
KR20130088711A (ko) 2013-08-08
CN103227891A (zh) 2013-07-31
US20130194459A1 (en) 2013-08-01
JP5743918B2 (ja) 2015-07-01
US8692911B2 (en) 2014-04-08
KR101353863B1 (ko) 2014-01-20

Similar Documents

Publication Publication Date Title
US8175378B2 (en) Method and system for noise management for spatial processing in digital image/video capture systems
KR101099401B1 (ko) 화상 처리 장치 및 컴퓨터가 판독 가능한 기록 매체
JP5743918B2 (ja) 画像処理装置
JP4960309B2 (ja) 固体撮像装置
US8102445B2 (en) Solid-state image-capturing apparatus, camera, and method of processing signal
US8154629B2 (en) Noise canceling circuit, noise canceling method, and solid-state imaging device
JP5112238B2 (ja) 撮像装置、設定値変更方法およびプログラム
CN105960658B (zh) 图像处理装置、摄像装置、图像处理方法以及可通过计算机处理的非暂时性的存储介质
JP5701640B2 (ja) 画像処理装置
US8559747B2 (en) Image processing apparatus, image processing method, and camera module
JP5474586B2 (ja) 画像処理装置
US20140028879A1 (en) Image processing device, image processing method, and solid-state imaging device
US9071803B2 (en) Image processing apparatus, image pickup apparatus, image processing method and non-transitory computer-readable storage medium storing image processing program
JP2012175169A (ja) 画像処理装置
US20060092174A1 (en) Color noise suppressing system
JP2010068465A (ja) 画像処理装置、撮像装置及び画像処理方法
JP5535443B2 (ja) 画像処理装置
JP2006332732A (ja) 色むらノイズ抑制装置
JP5158239B2 (ja) 画像信号処理装置及びその方法
JP2010193112A (ja) 画像処理装置およびディジタルスチルカメラ
KR101038821B1 (ko) 렌즈 쉐이딩 보정 방법
JP2009152881A (ja) 画像信号処理回路、画像信号処理装置及び画像信号処理方法
JP2009164839A (ja) 撮像装置及び信号処理方法
JP2009105925A (ja) 画像信号処理装置及びその方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150319

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150428

LAPS Cancellation because of no payment of annual fees