JP5863092B2 - 画像処理回路、半導体装置、画像処理装置 - Google Patents

画像処理回路、半導体装置、画像処理装置 Download PDF

Info

Publication number
JP5863092B2
JP5863092B2 JP2011097400A JP2011097400A JP5863092B2 JP 5863092 B2 JP5863092 B2 JP 5863092B2 JP 2011097400 A JP2011097400 A JP 2011097400A JP 2011097400 A JP2011097400 A JP 2011097400A JP 5863092 B2 JP5863092 B2 JP 5863092B2
Authority
JP
Japan
Prior art keywords
image data
unit
enhancement
image
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011097400A
Other languages
English (en)
Other versions
JP2012230190A (ja
Inventor
丸本 共治
共治 丸本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rohm Co Ltd
Original Assignee
Rohm Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Rohm Co Ltd filed Critical Rohm Co Ltd
Priority to JP2011097400A priority Critical patent/JP5863092B2/ja
Publication of JP2012230190A publication Critical patent/JP2012230190A/ja
Application granted granted Critical
Publication of JP5863092B2 publication Critical patent/JP5863092B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Liquid Crystal (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Description

本発明は、画像処理回路、これを集積化して成る半導体装置、並びに、これを用いた画像処理装置に関するものである。
従来より、液晶ディスプレイにおける応答速度を高めるための技術として、オーバードライブ技術が知られている。液晶ディスプレイにおいては、その応答速度が遅いと、画像に残像や乱れが生じるという問題がある。
液晶ディスプレイはその性質上、白から黒への階調変化(またはその逆)の応答速度と比較して、中間階調から中間階調への階調変化の応答速度が遅い。このため、特に中間階調から中間階調への階調変化において、上記の問題が生じやすかった。
オーバードライブ技術は、階調変化に必要となる電圧よりも大きな電圧を液晶に与えることにより、液晶の応答速度を速める技術である。ただし与える電圧が大きすぎると、強調効果により画質が低下するため、電圧の調整が必要となる。
上記の調整を行うため、フレームを形成する各画素に設定される階調値(表示データ)を前後フレーム間で比較することにより、印加すべき電圧を決定する装置が開示・提案されている(例えば特許文献1を参照)。
特開2003−143556号公報
しかしながら従来の装置では、画素に設定される階調値のフレーム間比較結果のみに基づいて、画素に印加すべき電圧を一意に決定していた。このため、画像の種別(例えば自然画、テキスト画、コンピュータグラフィックス等)によって、強調効果にばらつきが出てしまうという問題があった。
本発明は、本願の発明者により見出された上記の問題点に鑑み、オーバードライブ技術を用いて応答速度を高める画像処理回路であって、強調効果のばらつきを低減することが可能な画像処理回路、これを集積化して成る半導体装置、並びに、これを用いた画像処理装置を提供することを目的とする。
上記目的を達成するために、本発明に係る画像処理回路は、画像データを記録する記録部と、入力された第1入力画像データと前記記録部に記録されている画像データであり前記第1入力画像データより先に入力された第2入力画像データとを用いて前記第1入力画像データに対して階調の強調処理を行い出力画像データを生成する強調処理部と、前記第1入力画像データ及び前記第2入力画像データの少なくとも一方に対して予め定められた画像評価を行い、前記画像評価の結果を示す評価値に基づいて前記強調処理における強調量を決定し、決定した前記強調量により前記強調処理を行うよう前記強調処理部へ指示する強調量調整部とを有する構成(第1の構成)とされている。
なお、上記第1の構成から成る画像処理回路は、前記強調量調整部が、前記画像評価において、前記強調処理部が強調処理の対象とする画素を含むm×n画素(m及びnは2以上の自然数)を評価対象とすることを特徴とする構成(第2の構成)にするとよい。
また、上記第2の構成から成る画像処理回路は、前記強調量調整部が、前記第1入力画像データ、前記第2入力画像データ、または前記第1入力画像データと前記第2入力画像データとの差分である差分データを評価対象として前記画像評価を行うことを特徴とする構成(第3の構成)にするとよい。
また、上記第3の構成から成る画像処理回路は、前記強調処理部が、前記強調量の基準値を前記第1入力画像データ及び前記第2入力画像データに基づいて算出する基準値算出部と、前記強調量の増減を行うための係数を前記評価値に基づいて決定する係数算出部とを備える構成(第4の構成)にするとよい。
また、上記第3の構成から成る画像処理回路は、前記強調処理部が、入力画像データと出力画像データとを関連付けて格納した複数のLUT(Look Up Table)と、前記強調処理において用いられる前記LUTを前記評価値に基づいて決定する選択部とを備える構成(第5の構成)にするとよい。
また、本発明に係る半導体装置は、上記第1〜第5いずれかの構成から成る画像処理回路を集積化した構成(第6の構成)とされている。
また、本発明に係る画像処理装置は、上記第6の構成から成る半導体装置と、前記半導体装置に前記入力画像データを供給する画像入力部と、前記半導体装置から前記出力画像データが供給される出力部と、を有する構成(第7の構成)とされている。
また、上記第7の構成から成る画像処理装置は、前記出力部が、液晶ディスプレイである構成(第8の構成)にするとよい。
本発明によれば、入力画像データに対して強調処理を施す際に、強調処理の対象とする画素の周辺画素を評価対象として画像評価を行い、この評価結果に基づいて強調量を変化させる。これにより、入力画像データの特徴、例えば自然画やテキスト画等の画像種別に起因する強調効果のばらつきを低減することができる。
本発明に係る画像処理装置を示すブロック図 本発明に係る画像処理回路を示すブロック図 印加電圧と階調変化との関係を示す模式図 印加電圧と階調変化との関係を示す模式図 印加電圧と階調変化との関係を示す模式図 本発明に係る強調量調整部を示すブロック図 本発明に係る強調処理部の第1実施形態を示すブロック図 本発明に係る強調処理部の第2実施形態を示すブロック図
図1は、本発明に係る画像処理装置1を示すブロック図である。画像処理装置1は、撮像部10(画像入力部)と、画像処理IC11(半導体装置)と、出力部12とを有する。
撮像部10は、所定のレンズ群や撮像素子、例えばCMOS(Complementary Metal-Oxide Semiconductor)センサやCCD(Charge Coupled Devices)センサ等を備えており、被写体の光学像を結像させることで被写体の撮像処理、例えば30フレーム毎秒の動画撮像を行う。なお、撮像部10で生成された入力画像データは、画像処理IC11に逐次出力される。なお、入力画像データの生成手段は、撮像部10に限定されるものではなく、その他の画像入力部(メディア再生装置や放送受信装置など)を用いても構わない。
画像処理IC11は、撮像部10からの入力画像データに所定の画像処理を施し、画像処理が施された出力画像データを生成する。出力画像データは、出力部12に逐次出力される。なお、画像処理IC11が実施する画像処理の詳細については後述する。
出力部12は、LCD(Liquid Crystal Display)等のディスプレイ(例えば、車載モニタ)を備えており、画像処理IC11によってオーバードライブ処理のなされた出力画像データを逐次表示する。
上記構成から成る画像処理装置1は、撮像部10で得られた入力画像データに所定の画像処理を施して出力画像データを生成し、この出力画像データに応じた画像表示を行う。
次に、画像処理装置1で実施される画像処理の全体的な流れについて、図2を参照しながら説明する。
図2は、本発明に係る画像処理IC11の詳細を示すブロック図である。画像処理IC11は、撮像部10で得られる入力画像を構成する各画素に対して、オーバードライブ処理を施すことにより、所望の出力画像を生成する半導体装置である。
図2に示すように、画像処理IC11は、オーバードライブ処理部100(強調処理部)と、オーバードライブ調整部200(強調量調整部)とを集積化して成る。
オーバードライブ処理部100は、画像処理IC11の外部に設けられている装置より入力画像データであるDIを入力し、入力画像データにオーバードライブ処理を施す。そしてオーバードライブ処理により階調が強調された強調画像データを、出力画像データであるDOとして出力部12へ出力する。
オーバードライブ調整部200は、入力画像データに対して所定の評価処理(詳細は後述)を行い、評価結果を示す評価値αを算出する。そして評価値αを、オーバードライブ処理部100へ与える。評価値αは、オーバードライブ処理部100において、オーバードライブ処理における強調量の調整に用いられる。
オーバードライブ処理部100が実施するオーバードライブ処理について、図3〜図5を用いて説明する。図3〜図5は、液晶ディスプレイの所定画素に印加される電圧と、電圧が印加された画素の階調変化とを示した模式図である。なお、各図の縦軸が階調値、横軸が経過時間を示している。
図中の太直線は、時間経過に伴う印加電圧の変化を示している。また図中の細曲線は、時間経過に伴う階調の変化を示している。また、図3で「フレームレート」と書かれた矢印の期間が、1フレームの画像を表示する時間を示している。
図3は、最小階調から最大階調へ変化させた場合、つまり黒から白へ変化させた場合を示している。図4は、オーバードライブ処理を用いず、第1の中間階調から、より階調値の高い第2の中間階調へ変化させた場合を示している。図5は、オーバードライブ処理を用いて、第1の中間階調から第2の中間階調へ変化させた場合を示している。
図3に示すように、階調の変化量が大きくなるほど前後フレーム間で印加電圧の差が大きくなるため、階調変化を示す細曲線が急激に変化し、1フレームで階調変化が完了している。これに対して図4では、階調の変化量が図3より小さいため、印加電圧の差も図3より小さくなっている。このため、液晶の特性により、階調変化がなだらかになり、階調変化が完了するのに3フレームを要している。
このように階調変化に遅延が発生するのを回避するため、図5に示すオーバードライブ処理を行う。図5に示すように、オーバードライブ処理では、所望の階調を得るために必要な印加電圧に加え過剰電圧(図中の上下矢印で示す電圧)を所定時間だけ液晶に与える。図5の例では、1フレーム期間だけ過剰電圧を与えている。これにより、階調変化が図4よりも急峻となり、1フレームで階調変化が完了している。
しかしながら、好適な過剰電圧の大きさ、つまり強調度合いは、入力画像データの画像特性に応じて異なる。例えば自然画とテキスト画とでは、好適な強調度合いが異なる。強調度合いが大きすぎると、表示画像の視認性が低下する等の問題が発生する。
このため本発明では、オーバードライブ調整部200により、強調度合いの調整を行う。オーバードライブ調整部200が実施する調整処理について、図6を用いて説明する。図6に示すように、オーバードライブ調整部200は、前画像保持部201(記録部)と、評価部202と、減算器203とを含んでいる。
前画像保持部201は、入力画像データの入力を受けて、当該入力画像データをフレーム単位で記録する。これにより、最新の入力画像データ(第1入力画像データ)よりも1フレーム前の入力画像データ(第2入力画像データ)を保持する。1フレーム前の入力画像データ(以下、「前画像データ」という)は、評価部202、減算器203、及びオーバードライブ処理部100へ与えられる(図中のDI_P)。
減算器203は、入力画像データと前画像データとから、両画像データのRGB値の差分を示す差分データを算出し、評価部202へ与える。なお前画像保持部201は、所定の周期で古い前画像データを破棄し、格納データの更新を行うものとする。
評価部202は、入力画像データ、前画像データ、及び差分データを用いて、所定の画像評価を行う。評価部202は、オーバードライブ処理部100がオーバードライブ処理の対象とする画素(以下、「対象画素」という)と、対象画素を含むm×n画素(m及びnは2以上の自然数)とについて、画像評価を行う。なおこの画像評価は、上記の3データの全てに対して行う形態でもよいし、或いは一部に対してのみ行う形態でもよい。
評価部202は、画像評価を行うことにより入力画像データの画像特性を検出し、画像種別を判別する。例えば、入力画像データがテキスト画、自然画、コンピュータグラフィックスのいずれであるか等を判別する。
より具体的には、例えばJPEG形式の画像では、画像を所定のブロックに分割し、ブロック単位でDCT(Discrete Cosine Transform)変換を行い、空間領域から周波数領域へ変換している。このため、対象画素を含むm×n画素、例えば対象画素を中心とする3×3の9画素について周波数成分を検出し、周波数成分の高低に基づいて、入力画像データの種別を判断する。
例えば自然画のように、画素毎にRGB値が変化しやすい画像ほど、周波数成分が高くなる傾向がある。逆にテキスト画のように、画素毎にRGB値が変化しにくい画像ほど、周波数成分が低くなる傾向がある。評価部202は、この傾向を利用して、入力画像データの種別を判別する。そして判別結果に応じた評価値αを、オーバードライブ処理部100へ与える。
次に、評価値αを受けたオーバードライブ処理部100が実施する処理について、図7及び図8を用いて説明する。図7は、第1の実施形態に係るオーバードライブ処理部100の詳細を示している。また図8は、第2の実施形態に係るオーバードライブ処理部100の詳細を示している。
図7に示すように、第1の実施形態のオーバードライブ処理部100は、基準値算出部101と、係数算出部102と、乗算器103とを含んでいる。
基準値算出部101は、オーバードライブ処理を行うために必要となる過剰電圧(図5)を、入力画像データ(DI)と前画像データ(DI_P)とより算出する。そして算出した値を、基準値として乗算器103へ出力する。なお、基準値の算出処理の詳細は、従来のオーバードライブ技術と同様であるため、ここでは説明を省略する。
係数算出部102は、評価部202より入力された評価値αに基づいて、係数βを算出する。係数βは、基準値算出部101により算出された基準値の増減を行うための数値であり、乗算器103へ出力される。
乗算器103は、基準値算出部101より入力された基準値と、係数算出部102より入力された係数βとを乗算する。これにより、基準値と係数βとの両方が反映された強調画像データが生成され、出力部12へ出力される。
次に、第2の実施形態のオーバードライブ処理部100について、図8を用いて説明する。図8に示すように、第2の実施形態のオーバードライブ処理部100は、LUTマトリクス104と、選択信号生成部105(選択部)とを含んでいる。
LUTマトリクス104は、入力画像データに対して、LUTを用いた強調処理を行い、強調画像データを生成し、出力する。LUTマトリクス104は、LUTを格納した複数のレジスタ(図中のLUT1〜LUTX)と、セレクタとを含む。
レジスタは、画像処理装置1の生産時等に予め作成されたLUTを格納する記録装置である。LUTは、輝度変換を行うための入出力対応テーブルであり、入力輝度に対する出力輝度を割り当てたテーブルである。LUTが異なれば、輝度変換の変換方法も異なる。変換方法には大きく分けて、線形変換と非線形変換がある。
通常、LUTのテーブル容量(格納数)は、階調分だけ存在する。例えば256階調なら256個のデータ格納数を持っている。このテーブルに、入力輝度に対する出力輝度を予め作成しておき、テーブルを参照することで輝度変換を行う。
セレクタは、複数のレジスタのいずれか1つを選択し、接続を行う。これによりLUTマトリクス104は、接続されたレジスタに格納されているLUTの読み出しが可能となる。セレクタは、いずれのレジスタを選択するかを、選択信号生成部105より送られてくるSELECT信号に基づいて決定する。
選択信号生成部105は、評価部202より入力された評価値αに基づいてSELECT信号を生成し、LUTマトリクス104へ与える。SELECT信号は、セレクタがLUT1〜LUTXのいずれを接続するかを指定するための信号である。
これにより、評価値αが反映された強調画像データが生成され、出力部12へ出力される。なお、評価値αの値に応じて出力すべきSELECT信号を定めた情報は、予め画像処理装置1の生産時等に生成されて、選択信号生成部105に記録されているものとする。
以上に説明した本実施形態によれば、オーバードライブ処理を施す画素を含むm×n画素の画像データに対して画像評価を行い、この評価結果に基づいて、階調を強調する度合いを動的に変化させる。
つまり、オーバードライブ処理における強調量(ひいては印加電圧)を、入力画像データの画像特性に応じて変化させる。これにより、入力画像データの画像特性に起因した、強調効果のばらつきを低減することができる。
<その他の変形例>
なお、本発明の構成は、上記実施形態のほか、発明の主旨を逸脱しない範囲で種々の変更を加えることが可能である。すなわち、上記実施形態は、全ての点で例示であって、制限的なものではないと考えられるべきであり、本発明の技術的範囲は、上記実施形態の説明ではなく、特許請求の範囲によって示されるものであり、特許請求の範囲と均等の意味及び範囲内に属する全ての変更が含まれると理解されるべきである。
また上記の実施形態では、係数算出部102により係数βを算出し、乗算器103により基準値に乗算しているが、基準値に加算するオフセット値を評価値αに基づいて算出し、オフセット値を加算器(不図示)により基準値に加算することにより、オーバードライブ処理における強調量の増減を行う形態でもよい。
また上記の実施形態では、評価部202が評価対処とする画素をm×n画素(m及びnは2以上の自然数)としているが、m及びnのいずれか一方が1の値を取ることを許可する形態でもよい。例えば、1×5の画素を対象として、画像評価を行う形態でもよい。
また本発明の画像処理装置としては、例えばテレビジョン装置、ハードディスクレコーダ、ビデオカメラ等の装置のほか、インターネットを介して提供される画像コンテンツの再生機能を備えたパーソナルコンピュータ等を用いることができる。
本発明は、入力画像データにオーバードライブ処理を施して出力画像データを生成する画像処理回路、これを集積化して成る半導体装置、並びに、これを用いた画像処理装置において、入力画像データの画像特性に起因する強調効果のばらつきを低減する上で有用な技術である。
1 画像処理装置
10 撮像部(画像入力部)
11 画像処理IC(半導体装置)
12 出力部
100 オーバードライブ処理部(強調処理部)
101 基準値算出部
102 係数算出部
103 乗算器
104 LUTマトリクス
105 選択信号生成部(選択部)
200 オーバードライブ調整部(強調量調整部)
201 前画像保持部(記録部)
202 評価部
203 減算器

Claims (6)

  1. 画像データを記録する記録部と、
    入力された第1入力画像データと、前記記録部に記録されている画像データであり前記第1入力画像データより先に入力された1フレーム前の入力画像データである第2入力画像データと、を用いて前記第1入力画像データに対して階調の強調処理を行い出力画像データを生成する強調処理部と、
    前記第2入力画像データに対して予め定められた画像評価を行い、前記画像評価の結果を示す評価値に基づいて前記強調処理における強調量を決定し、決定した前記強調量により前記強調処理を行うよう前記強調処理部へ指示する強調量調整部とを有し、
    前記強調量調整部は、前記画像評価において、前記強調処理部が強調処理の対象とする画素を含むm×n画素(m及びnは2以上の自然数)を評価対象とし、前記m×n画素についてDCT(Discrete Cosine Transform)変換を行うことにより周波数成分を検出し、検出された周波数成分の高低に基づいて前記m×n画素の画像データの種別を判別し、前記強調処理部は前記判別結果に応じて前記強調処理における強調量を決定することを特徴とする画像処理回路。
  2. 前記強調処理部は、前記強調量の基準値を前記第1入力画像データ及び前記第2入力画像データに基づいて算出する基準値算出部と、前記強調量の増減を行うための係数を前記評価値に基づいて決定する係数算出部とを備えることを特徴とする請求項1に記載の画像処理回路。
  3. 前記強調処理部は、入力画像データと出力画像データとを関連付けて格納した複数のLUT(Look Up Table)と、前記強調処理において用いられる前記LUTを前記評価値に基づいて決定する選択部とを備えることを特徴とする請求項1に記載の画像処理回路。
  4. 請求項1〜請求項3のいずれか1項に記載の画像処理回路を集積化したことを特徴とする半導体装置。
  5. 請求項4に記載の半導体装置と、前記半導体装置に前記入力画像データを供給する画像入力部と、前記半導体装置から前記出力画像データが供給される出力部と、を有することを特徴とする画像処理装置。
  6. 前記出力部は、液晶ディスプレイである請求項5に記載の画像処理装置。
JP2011097400A 2011-04-25 2011-04-25 画像処理回路、半導体装置、画像処理装置 Expired - Fee Related JP5863092B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011097400A JP5863092B2 (ja) 2011-04-25 2011-04-25 画像処理回路、半導体装置、画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011097400A JP5863092B2 (ja) 2011-04-25 2011-04-25 画像処理回路、半導体装置、画像処理装置

Publications (2)

Publication Number Publication Date
JP2012230190A JP2012230190A (ja) 2012-11-22
JP5863092B2 true JP5863092B2 (ja) 2016-02-16

Family

ID=47431800

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011097400A Expired - Fee Related JP5863092B2 (ja) 2011-04-25 2011-04-25 画像処理回路、半導体装置、画像処理装置

Country Status (1)

Country Link
JP (1) JP5863092B2 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3602520B2 (ja) * 2002-09-24 2004-12-15 シャープ株式会社 液晶表示装置
JP2006113359A (ja) * 2004-10-15 2006-04-27 Rohm Co Ltd オーバードライブ回路および表示装置
JP2006243325A (ja) * 2005-03-03 2006-09-14 Matsushita Electric Ind Co Ltd 液晶表示装置
JP2008033315A (ja) * 2006-07-31 2008-02-14 Seiko Epson Corp 関連画像のサラウンド・フィールドを表示するシステム、入力画像に関係する少なくとも1つの画像を含むサラウンド・ビジュアル・フィールドを生成する方法、およびサラウンド・ビジュアル・フィールド・コントローラ
JP5100312B2 (ja) * 2007-10-31 2012-12-19 ルネサスエレクトロニクス株式会社 液晶表示装置及びlcdドライバ
JP2010066384A (ja) * 2008-09-09 2010-03-25 Kawasaki Microelectronics Inc 画像処理装置
JP2010146026A (ja) * 2010-02-12 2010-07-01 Ricoh Co Ltd 表示制御装置

Also Published As

Publication number Publication date
JP2012230190A (ja) 2012-11-22

Similar Documents

Publication Publication Date Title
CN110545413B (zh) 用于执行高动态范围视频的色调映射的方法及装置
JP5394305B2 (ja) 画像処理装置
US8072511B2 (en) Noise reduction processing apparatus, noise reduction processing method, and image sensing apparatus
JP2004221644A (ja) 画像処理装置および方法、記録媒体、並びにプログラム
KR100525143B1 (ko) 액정 표시 방법
JP4886888B2 (ja) 画像処理装置及びその制御方法
JP2012119761A (ja) 電子機器、画像処理方法及びプログラム
JP2007052127A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2016173477A (ja) 画像表示装置及びその制御方法
JP2010256810A (ja) 表示装置及びその制御方法
JP2017224939A (ja) 撮像装置
JPWO2011155258A1 (ja) 画像処理装置および方法、画像表示装置および方法
US20090079714A1 (en) Apparatus for improving display quality of dynamic images on liquid crystal display and method thereof
JP5642348B2 (ja) 表示装置の駆動方法、及びこれを利用した表示装置の駆動回路
JP2011081150A (ja) 画像処理装置、画像処理方法
JP2010067253A (ja) ドメインゲイン修正を利用した画像強化方法
JP2017184220A (ja) 映像処理装置、表示装置、映像処理方法、制御プログラム、および記録媒体
JP5863092B2 (ja) 画像処理回路、半導体装置、画像処理装置
JP4306274B2 (ja) 液晶表示装置
JP4770290B2 (ja) 液晶表示装置
JP5998982B2 (ja) 映像信号処理装置及び方法
JP5820213B2 (ja) 画像処理装置及びその方法、撮像装置
JP2017011676A (ja) 画像処理装置及び画像処理方法
JP2010073074A (ja) 画像信号処理装置、画像表示装置、録画再生装置、画像信号処理方法
JP2006208854A (ja) 画像処理装置、プログラム、記録媒体および画像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140411

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150303

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150430

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20150430

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150721

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150910

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151218

R150 Certificate of patent or registration of utility model

Ref document number: 5863092

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees