JP2011151739A - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP2011151739A
JP2011151739A JP2010013370A JP2010013370A JP2011151739A JP 2011151739 A JP2011151739 A JP 2011151739A JP 2010013370 A JP2010013370 A JP 2010013370A JP 2010013370 A JP2010013370 A JP 2010013370A JP 2011151739 A JP2011151739 A JP 2011151739A
Authority
JP
Japan
Prior art keywords
signal
color
image
pixel
false
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010013370A
Other languages
English (en)
Other versions
JP2011151739A5 (ja
JP5474586B2 (ja
Inventor
Gen Horie
原 堀江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2010013370A priority Critical patent/JP5474586B2/ja
Priority to EP11000432.2A priority patent/EP2360929B1/en
Priority to US13/012,994 priority patent/US8427560B2/en
Publication of JP2011151739A publication Critical patent/JP2011151739A/ja
Publication of JP2011151739A5 publication Critical patent/JP2011151739A5/ja
Application granted granted Critical
Publication of JP5474586B2 publication Critical patent/JP5474586B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/77Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】被写体画像の彩度の検出精度を向上して、低彩度領域における偽色の抑圧と、高彩度領域における「色抜け」の発生の抑制性能を向上して、より自然な画像を再現する。
【解決手段】
撮像部2の撮像素子は、ベイヤー配列のカラーフィルタを有し、補間手段6により撮像素子から入力した各画素の画像信号に対して、近傍の画素の画像信号を用いて補間処理を行い、各画素についてR、G、Bの画像信号を取得する。高周波成分抽出手段7は、G信号から高周波成分を抽出し、偽色低減色信号生成手段8は、各画素について偽色の影響が低減された偽色低減色信号(R+B−2G)を求め、彩度信号生成手段9が偽色低減色信号の絶対値である彩度信号を生成する。抑圧手段10は、高周波成分抽出手段7により抽出された高周波成分と彩度信号生成手段9により生成された画素ごとの彩度信号に基づき、偽色の抑圧を行う。
【選択図】図1

Description

本発明は、デジタルカメラや顕微鏡等に用いられる画像処理装置に関する。
従来、デジタルカメラやビデオカメラでは、撮像素子としてCCD(Charge Coupled Device)が用いられている。CCDは、多数の光電変換素子を例えば格子状に配置した構造を有する。これらの光電変換素子は、光を受光するとその強度に応じた電荷を発生し、これを順次読み出すことによって、被写体の画像を電気信号に変換することができる。
一方、CCDを用いてカラー画像を得るためには、複数の原色成分を含むカラーフィルタを撮像素子の受光面側に設け、各光電変換素子に所定の原色成分の光を入射させ、各画素に対応する色成分の画像信号を取得する。このとき用いられるフィルタとしては、R(赤)、G(緑)、B(青)の各色フィルタを用いたベイヤー配列のものが良く知られている。
ベイヤー配列のフィルタを用いた撮像素子では、光電変換素子ごとにカラーフィルタに対応した色成分の信号のみが得られる。例えば、Rのフィルタに覆われた光電変換素子では、GおよびBの信号は得られない。このため、各画素について光電変換素子から直接得ることのできない原色成分データは、当該原色成分を有する周辺画素の原色成分データから、補間処理を行うことによって取得している。これによって、一つの撮像素子を用いて、各画素について被写体のカラー画像データを取得することが可能になる。
ところで、ベイヤー配列のフィルタを使用して撮像を行う場合、被写体画像に高周波の空間周波数成分が含まれる部分では、偽色が発生することが知られている。そこで、一般に高周波成分を有する領域では、色差を減じて彩度を抑圧し、偽色を目立たなくさせる処理が行われる。しかしながら、彩度を抑圧すると、いわゆる「色抜け」が発生するという問題が生じる。特に、高彩度領域における「色抜け」は、視覚的に目立ちやすく撮像画像を不自然にする。
このため、高彩度部の色抜けを低減しつつ、低彩度部の偽色を抑圧する技術が開示されている(例えば、引用文献1参照)。引用文献1によれば、三原色成分を持つ色空間の画像信号を、輝度信号Yと色差信号Cr(=R−Y)、Cb(=B−Y)とを持つYCbCr色空間の画像信号に変換する(R、Bはそれぞれ赤色成分、青色成分の画像信号を表す)。そして、輝度信号Yに基づいて、各画像近傍における輝度信号の高周波成分の含有程度を検出し、また、色差信号Cb、Crに基づいて彩度を求め低彩度領域を検出する。これにより、検出された低彩度領域内の画素については、高周波成分の含有程度に応じた色差信号の抑圧を行う一方、高彩度領域内の画素については、色差信号の抑圧を行わない(あるいは、抑制する)ようにしている。
特許第3633561号公報
しかしながら、従来技術では、低彩度エリアを検出する際に使用する色成分信号自体に偽色が含まれているため、低彩度エリアの検出が不正確になり、低彩度部の偽色の抑圧が不充分になるという問題点がある。たとえば、引用文献1に開示された発明では、色差信号Cr、Cbの絶対値の和を求めることにより彩度を求めている。しかしながら、この信号には偽色成分(R−B)が含まれているため、画像に高周波成分が多く含まれていると、本来低彩度エリアであっても、低彩度エリアとして検出されないという問題点が生じる。この結果、偽色が目立ちやすい低彩度エリアでの偽色抑圧が充分に行われなくなり、画質の低下が懸念される。
したがって、これらの点に着目してなされた本発明の目的は、被写体画像の低彩度領域の検出精度を向上させて、低彩度領域における偽色の抑圧と、高彩度領域における「色抜け」の発生の抑制性能を向上させることにより、より自然な画像を再現することができる画像処理装置を提供することにある。
上記目的を達成する請求項1に係る画像処理装置の発明は、
複数の原色成分のうちいずれかの原色成分の画像信号をそれぞれ出力する複数種の光電変換素子が、画素ごとに所定の配列規則に従って配置された撮像素子からの画像信号を処理する画像処理装置であって、
前記撮像素子は、ものであり、
前記撮像素子から入力した各画素の画像信号に対して、近傍の画素の画像信号を用いて補間処理を行い、各画素について複数の原色成分の画像信号を取得する補間手段と、
前記撮像素子から入力した画像信号に含まれる高周波成分を抽出する高周波成分抽出手段と、
前記各画素について複数の原色成分の画像信号から、偽色の影響が低減された偽色低減色信号を求める偽色低減色信号生成手段と、
前記偽色低減色信号の信号値に基づいて、各画素について彩度信号を生成する彩度信号生成手段と、
前記彩度信号と前記高周波成分とに基づいて、前記各画素について複数の原色成分の画像信号に含まれる偽色を抑圧する抑圧手段と、
を備えることを特徴とするものである。
請求項2に係る発明は、請求項1に記載の画像処理装置において、
前記撮像素子は、原色成分R、G、Bをベイヤー配列して成り、前記偽色低減色信号生成手段は、偽色低減色信号として(R+B)成分を生成することを特徴とする
ものである。
上記目的を達成する請求項3に係る画像処理装置の発明は、
複数の原色成分のうちいずれかの原色成分の画像信号をそれぞれ出力する複数種の光電変換素子が、画素ごとに所定の配列規則に従って配置された撮像素子からの画像信号を処理する画像処理装置であって、
前記撮像素子から入力した各画素の画像信号に対して、近傍の画素の画像信号を用いて補間処理を行い、各画素について複数の原色成分の画像信号を取得する補間手段と、
前記各画素について前記補間手段により取得された複数の原色成分の画像信号を、輝度成分と色成分とをもつ色空間の画像信号に変換する色空間変換手段と、
前記前記輝度成分の信号値に基づいて、各画素における輝度成分の信号値の高周波成分を抽出する高周波成分抽出手段と、
前記前記色成分の信号値に基づいて、各画素において、偽色の影響が低減された偽色低減色信号を求める偽色低減色信号生成手段と、
前記偽色低減色信号の信号値に基づいて、各画素において彩度信号を生成する彩度信号生成手段と、
前記彩度信号と前記高周波成分とに基づいて、前記色成分の信号値を抑圧する抑圧手段と、
を備えることを特徴とするものである。
請求項4に係る発明は、請求項3に記載の画像処理装置において、
前記撮像素子は、原色成分R、G、Bをベイヤー配列して成り、輝度と色成分とを持つ色空間がYCbCr空間であり、偽色低減色信号として、Cb成分とCr成分との線形和を生成することを特徴とするものである。
本発明によれば、各画素について複数の原色成分の画像信号から、偽色の影響が低減された偽色低減色信号を求め、これに基づいて、各画素について彩度信号を生成するようにしたので、被写体の彩度の検出精度を向上して、低彩度領域における偽色の抑圧と、高彩度領域における「色抜け」の発生の抑制性能を向上して、より自然な画像を再現することができる。
本発明の第1実施の形態に係る画像処理装置を搭載したデジタルカメラの概略構成を示すブロック図である。 撮像部の撮像素子に用いられるカラーフィルタの原色ベイヤー配列を示す図である。 第1実施の形態に係るデジタルカメラの信号処理部のより詳細な構成を示すブロック図である。 水平垂直ハイパスフィルタ(HPF)の周波数特性を示す図である。 原色ベイヤー配列画像信号のスペクトルを示す図である。 エッジクロマキラー設定LUTの高周波成分強度Shfの入力値と偽色抑制量Supの出力値との関係を示すグラフである。 クロマキラー調整回路における彩度信号Satの入力値と偽色抑圧調整値kの出力値との関係を示すグラフである。 本発明の第2実施の形態に係る画像処理装置を搭載した顕微鏡の概略構成を示す図である。 本発明の第3実施の形態に係る画像処理装置を搭載したデジタルカメラの概略構成を示すブロック図である。 第3実施に係るデジタルカメラの信号処理部のより詳細な構成を示すブロック図である。 本発明の第4実施の形態に係る画像処理装置におけるコンピュータプログラムによる画像処理手順を示すフローチャートである。 低彩度エリアの抽出処理を示すフローチャートである。
以下、本発明の実施の形態について、図面を参照して説明する。
(第1実施の形態)
まず、本発明に係る画像処理装置の第1実施の形態について説明する。本実施の形態は、本発明に係る画像処理装置をデジタルカメラに適用した例である。図1は、第1実施の形態に係る画像処理装置を搭載したデジタルカメラの概略構成を示すブロック図である。本実施の形態は、低彩度エリアを検出する際に使用する偽色低減色信号生成手段を有し、この低彩度エリアの色成分信号に対して偽色低減処理を行うことに特徴を有する。
図1のデジタルカメラは、光学系1、撮像部2、本願の画像処理装置に対応する信号処理部3、出力部4および制御部5を含んで構成される。ここで、光学系1は、図示しない撮像レンズ、絞り、シャッターを備え、撮像部2は、図示しない撮像素子、アナログ増幅器、A/D変換器およびバッファを備える。信号処理部3は、撮像部2から入力された画像情報に対して、偽色抑圧処理を行う他、偽色抑圧処理を行った画像情報に対して、階調調整処理や色調整処理などを行う図示しない色調整部を備える。出力部4は、信号処理部3から出力された出力画像を表示する図示しない液晶ディスプレイ、出力画像を圧縮する図示しないデータ圧縮部、圧縮された出力画像を格納する図示しないメモリーカード等を備える。制御部5は、光学系1、撮像部2、信号処理部3および出力部4の各部と相互に接続され各部の制御を行う図示しないCPUや、ユーザーからの操作を受け付ける図示しない操作ボタン等を有する。
撮像部2の撮像素子には、各光電変換素子の受光面に各1つのカラーフィルタが配置されるように、原色ベイヤー配列のフィルタが設けられている。このフィルタは、図2に示すように、R(赤)、G(緑)、B(青)の3原色のカラーフィルタをマトリクス状に2次元配列したものであり、左上から右下へR−G−G−Bの順に配置した2×2画素のフィルタを、縦横方向に繰り返し配列した構成となっている。
また、信号処理部3は、補間手段6、高周波成分抽出手段7、偽色低減色信号生成手段8、彩度信号生成手段9、抑圧手段10を含んで構成される。
補間手段6は、撮像部2から入力された各画素の画像信号に対して、近傍の画素の画像信号を用いて補間処理を行い、各画素についてR、G、Bそれぞれの原色成分の画像信号を取得する。例えば、光電変換素子によりR成分の画像信号が得られる画素については、G成分およびB成分を、それぞれ、近傍の光電変換素子により得られたG成分およびB成分の信号値を用いて補間処理を行うことによって取得する。
また、高周波成分抽出手段7は、撮像部2から入力された画像信号に含まれる高周波成分を抽出する。具体的には、補間処理前のG成分の信号を用いて高周波成分の抽出を行う。
さらに、偽色低減色信号生成手段8は、各画素について補間手段6から入力された複数の原色成分の画像信号から、偽色の影響が低減された偽色低減色信号を算出して出力する。彩度信号生成手段9は、偽色低減色信号生成手段8から出力された偽色低減色信号の信号値に基づいて、各画素について彩度信号を生成する。
抑圧手段10は、彩度信号生成手段9から入力された彩度信号と高周波成分抽出手段7から入力された高周波成分とに基づいて、補間手段6から入力された各画素の画像信号について複数の原色成分の画像信号に含まれる偽色を抑圧する。
次に、図3を用いて信号処理部3をより詳細に説明する。図3は、第1実施の形態に係るデジタルカメラの信号処理部のより詳細な構成を示すブロック図である。
信号処理部3は、ホワイトバランス回路(WB回路)101、補間手段である補間回路102、偽色抑圧部104、エッジ強調処理部105、3×3色差マトリックス回路106、バッファ107、色調整回路108を含んで構成される。
また、偽色抑圧部104は、水平垂直ハイパスフィルタ(HPF)111、エッジクロマキラー設定ルックアップテーブル(LUT)112、加算器114、積算器115、絶対値回路116、クロマキラー調整回路117および偽色抑制回路118を含んで構成される。ここで、水平垂直HPF111とエッジクロマキラー設定LUT112とは、高周波成分抽出手段7を構成し、加算器114と積算器115とは、偽色低減色信号生成手段8を構成し、絶対値回路116は、彩度信号生成手段9を構成し、クロマキラー調整回路117と、偽色抑圧回路118とは、抑圧手段10を構成する。
さらに、エッジ強調処理部105は、ローパスフィルタ(LPF)121、ハイパスフィルタ(HPF)122、エッジ強調回路123およびエッジ加算器124を含んで構成される。
以上のような構成によって、シャッターボタンが押されると、図1に示す制御部5の制御に基づいて、光学系1の撮像レンズ、絞り、シャッターが駆動される。さらに、撮像部2が駆動され、光学系1により結像された被写体像は、撮像部2の撮像素子により光電変換され、アナログ増幅、A/D変換されて、デジタル化された画像データが撮像部2内のバッファに一時保存される。本実施の形態では、原色ベイヤー配列の撮像素子を用いているので、得られた画像データは、各画素にR、G、Bのいずれか一色のデータがモザイク状に配置されたデータとなっている。
続いて、信号処理部3が、撮像部2のバッファから画像データを読み出して処理を行う。画像処理部での処理を、図3を参照して説明する。以下各部での処理は、画素ごとに、適宜周囲の画素のデータも用いて行われる。
撮像部2から読み出された画像データは、WB回路101に入力される。WB回路101は、制御部5により算出されたホワイトバランス補正係数に基づいて、入力画像データのR信号、B信号のゲインを調整し、ホワイトバランスを調整する。
補間回路102は、WB回路101より出力した画像データのR信号、G信号、B信号に、別個に補間フィルタをかけることにより、各画素の欠落した色信号成分を生成する。
エッジ強調処理部105において、HPF122は、補間回路102から出力されたG信号の高周波成分を抽出する。エッジ強調回路123は、HPF122から出力されたG信号の高周波成分のゲインを調整して、画像のエッジ強調処理を行う。一方、LPF121は、補間回路102から出力されたG信号の低周波成分を抽出する。エッジ加算器124は、LPF121から出力されたG信号の低周波成分に、エッジ強調回路123から出力されたエッジ強調されたG信号の高周波成分を加算して、エッジ強調されたG信号を出力する。
偽色抑圧部104の水平垂直HPF111は、WB回路2から出力されたベイヤーG信号に対して、図4に示す周波数特性のハイパスフィルタをかけることにより、水平および垂直のナイキスト周波数近傍の高周波成分を抽出する。図4において、Fh、Fvの座標軸はそれぞれ水平および垂直方向の周波数を示し、画素ピッチに対応する空間周波数を1としている。
ここで、図5を用いて、原色ベイヤー配列画像信号の周波数スペクトルについて説明する。原色ベイヤー配列では、水平、垂直のナイキスト周波数の位置にR−Bのエイリアス成分が、斜めのナイキスト周波数の2倍の位置にR+B−2×Gのエイリアス成分が発生する。この信号に対して、各画素の欠落した色成分信号を生成するため、補間フィルタを適用すると、水平、垂直のナイキスト周波数の位置に発生しているR−Bのエイリアスも抽出してしまうため、偽色が発生する。そこで、本実施の形態では、画像信号に水平および垂直のナイキスト周波数近傍に高周波成分が含まれている場合に発生するR−Bの偽色の有無を、水平、垂直のナイキスト周波数の位置にエイリアス成分が発生しないG信号を用いて、高周波成分を検出することにより推定する。水平垂直HPF111は、検出した高周波成分の絶対値をとって、高周波成分強度Shfを生成する。
水平垂直HPF111で抽出した高周波成分Shfは、エッジクロマキラー設定LUT112に入力される。エッジクロマキラー設定LUT112は、図6に示した高周波成分強度Shfの入力値と偽色抑制量Supの出力値との関係を示すグラフに基づき、高周波成分Shfを偽色抑制量Supに変換する。この結果、画像信号に含まれる高周波成分強度Shfに基づいた偽色抑圧量Supが得られる。
低彩度部の検出に際して、色信号に含まれている偽色による誤差を小さくするためには、彩度信号の算出時にR−B成分が含まれないようにすれば良い。本実施の形態で対象としている、水平もしくは垂直の高周波を含む画像をベイヤー配列でサンプリングした場合の例として、白黒(R=G=B)の縦縞画像の場合を考える。ベイヤー配列の画像をG成分と(R+B)成分に分けると、両者の信号が同一となり、偽色の影響を受けない。そこで、加算器114でR+B成分を生成し、元々エイリアス成分を含まないG成分と組み合わせて偽色低減色信号C(=R+B−2×G)を算出することにより、低彩度部の検出を正確に行うことができる。
具体的には、積算器115は、補間回路102から出力されたG信号のゲインを調整する。また、加算器114は、補間回路102から出力されたR信号、B信号を加算し、積算器115でゲイン調整されたG信号を減算する。この処理により、偽色低減色信号C(=R+B−2×G)が算出される。積算器115のゲインは2に設定したことによって、無彩色信号のとき彩度信号Cが0となる。
次に、絶対値回路116は、加算器114により出力された偽色低減色信号Cの絶対値を求めて、色成分信号の彩度に相当する彩度信号Satを算出する。クロマキラー調整回路117は、エッジクロマキラー設定LUT112より出力された偽色抑圧量Sup、および、絶対値回路116より出力された彩度信号Satを入力として、修正偽色抑圧量Sup’を出力する。このSup’の算出は、以下のように行う。
まず、図7に示すグラフに従うルックアップテーブルを用いて、彩度信号Satを入力として偽色抑圧量調整値kを求める。偽色抑圧量調整値kは、彩度信号が小さい低彩度領域では1に近く、彩度信号が大きい高彩度領域では、1よりも小さい値となる。次に、偽色抑圧量調整値kを偽色抑圧量Supにかけることにより、修正偽色抑圧量Sup’(=k×Sup)を求める。
偽色抑圧回路118は、補間回路102から出力されたR信号およびB信号、並びに、クロマキラー調整回路117から出力された修正偽色抑圧量Sup’を入力とし、偽色が抑圧されたR信号およびB信号を出力する。R信号およびB信号に対する偽色の抑圧は、修正偽色抑圧量Sup’に基づいて、下記の式により行われる。これらの式に基づく処理は、R信号およびB信号それぞれに含まれる偽色成分(R−B)の量を、修正偽色抑圧量Sup’に従って低減する処理になっている。
R=(R+B)/2+(1−Sup’)×(R−B)/2
B=(R+B)/2−(1−Sup’)×(R−B)/2
この結果、彩度信号Satが小さい領域では、高周波成分強度Shfに基づく偽色抑圧の効果が大きく、彩度信号Satが大きい領域では、偽色抑圧効果が小さくなるように制御される。
3×3色差マトリックス回路106は、偽色抑圧回路118から出力された偽色が抑圧されたR信号、B信号およびエッジ加算器124から出力されたエッジ強調されたG信号を、YCbCr表色系に変換して、輝度信号Yと色差信号Cb、Crとを生成する。これらの輝度信号Yおよび色差信号Cb,Crは、バッファ107によって一時的に保持される。
さらに、出力部4がバッファ107のカラー画像を読み出し、データを圧縮した後、メモリーカードに記録する。また、画像を表示する場合は画像表示用のボタンが操作されると、制御部5の制御により、出力部4がバッファ107のカラー画像を読み出し、色調整回路108により、Y信号に対する階調変換処理や、Cb信号、Cr信号に対する調整処理を行って、液晶ディスプレイに表示する。
以上説明したように、本実施の形態によれば、偽色の影響が低減された偽色低減色信号Cを求め、これに基づいて、各画素について彩度に相当する彩度信号Satを生成し、彩度信号Satが小さい領域では、高周波成分強度Shfに基づく偽色抑圧の効果が大きくなるように制御し、彩度信号Satが大きい領域では偽色の抑圧を抑制するようにしたので、被写体画像の彩度の検出精度を向上して、低彩度領域における偽色の抑圧と、高彩度領域における「色抜け」の発生の防止性能を向上して、より自然な画像を再現することができる。また、撮像素子にベイヤー配列のカラーフィルタフィルタを用い、偽色低減色信号Cとして、偽色の含まれない(R+B)成分を生成するようにしたので、被写体画像の彩度の検出精度をより向上させ、より自然な画像を再現することができる。
(第2実施の形態)
次に、本発明に係る画像処理装置の第2実施の形態について説明する。本実施の形態は、第1実施の形態に係る画像処理装置と同様の画像処理装置を顕微鏡に搭載したものである。図8に、本発明の第2実施の形態に係る顕微鏡の概略構成を示す。
本実施の形態の顕微鏡200は、照明光学系、観察光学系、試料台等を備えた顕微鏡本体201、撮像部202、信号処理部203、出力部204および制御部205を含んで構成されている。撮像部202、信号処理部203、出力部204および制御部205は、第1実施の形態の撮像部2、信号処理部3、出力部4および制御部5と略同様の構成、作用を有しているので、説明を省略する。
これによって、第1実施の形態と同様に、被写体画像の彩度の検出精度を向上して、低彩度領域における偽色の抑圧と、高彩度領域における「色抜け」の発生の防止性能を向上して、より自然な画像を再現することができる。
特に、細胞組織の顕微鏡観察の分野では、代表的な染色方法としてヘマトキシリン・エオジン染色(HE染色)が使用されている。このような染色方法を用いた標本を撮影して得られるRGB画像においては、高周波領域の偽色を抑圧し過ぎると、鮮明な色彩の染色画像が得られなくなる虞がある。このような染色方法では、(R−B)成分が比較的小さい傾向があるので、本実施の形態に係る彩度信号による低彩度エリアの検出が特に好適である。
(第3実施の形態)
次に、本発明に係る画像処理装置の第3実施の形態について説明する。本実施の形態は、第1実施の形態に係るデジタルカメラにおいて、信号処理部3における偽色の抑圧を各画素の原色成分の画像信号に対して行うのではなく、これらを他の色空間の画像信号に変換した信号に対して行うようにしたものである。図9は、本発明の第3実施にかかるデジタルカメラの概略構成を示すブロック図である。
本実施の形態の信号処理部3は、補間手段6、色空間変換手段11、高周波成分抽出手段7’、偽色低減信号生成手段8’、彩度信号生成手段9’、抑圧手段10’を含んで構成されている。
色空間変換手段11は、補間手段6から出力された各画素の原色成分の画像信号を、異なる色空間の画像信号に変換する。高周波成分抽出手段7’、偽色低減信号生成手段8’、彩度信号生成手段9’および抑圧手段10’は、色空間変換手段11で変換された色空間の画像信号に対して、第1実施の形態における高周波成分抽出手段7、偽色低減信号生成手段8、彩度信号生成手段9および抑圧手段10と同様な処理を行うように構成されている。その他の構成、すなわち、光学系1、撮像部2、補間手段6、出力部4および制御部5は、第1実施の形態と同様なので、同一参照符号を付して説明を省略する。
次に、図10を用いて信号処理部3をより詳細に説明する。図10は、第3実施の形態に係るデジタルカメラの信号処理部のより詳細な構成を示すブロック図である。
本実施の形態の信号処理部3は、ホワイトバランス回路(WB回路)101、補間回路102、3×3色差マトリックス回路306、偽色抑圧部304、エッジ強調処理部305、バッファ107および色調整回路108を含んで構成される。これらのうち、ホワイトバランス回路(WB回路)101、補間回路102、バッファ107および色調整回路108は、第1実施の形態と同様の構成、作用を有するので、同一構成要素には同一符号を付して説明を省略する。
3×3色差マトリックス回路306は、補間回路102の後段に設けられ、RGB信号をYCbCr表色系の輝度信号であるY信号および色差信号であるCb信号、Cr信号に変換する。
偽色抑圧部304は、エッジクロマキラー設定LUT311、加算器312、積算器313、絶対値回路314、マスキング回路315、Cb積算器316およびCr積分器317を含んで構成される。ここで、エッジクロマキラー設定LUT311は、高周波成分抽出手段7’を構成し、加算器312と積算器313とは、偽色低減色信号生成手段8’を構成し、絶対値回路314は、彩度信号生成手段9’を構成し、マスキング回路315、Cb積算器316およびCr積算器317は、抑圧手段10’を構成する。
さらに、エッジ強調処理部305は、ローパスフィルタ(LPF)321、ハイパスフィルタ(HPF)322、エッジ強調回路323およびエッジ加算器324を含んで構成される。
エッジ強調処理部305において、HPF322は、3×3色差マトリックス回路306から出力されたY信号の高周波成分を抽出する。エッジ強調回路323は、HPF322から出力されたY信号の高周波成分のゲインを調整して、画像のエッジ強調処理を行う。一方、LPF321は、3×3色差マトリックス回路306から出力されたY信号の低周波成分を抽出する。エッジ加算器324は、LPF321から出力されたY信号の低周波成分に、エッジ強調回路323から出力されたエッジ強調されたY信号の高周波成分を加算して、エッジ強調されたY信号を出力する。
偽色抑圧部104のエッジクロマキラー設定LUT311は、HPF322から出力されたY信号の高周波成分の絶対値を取り高周波成分強度Shfとする。この高周波成分強度Shfは、第1実施の形態のエッジクロマキラー設定LUT112と同様の方法に基づいて、偽色抑圧量Supに変換される。
積算器313は、3×3色差マトリックス回路306から出力されたCb信号と制御部5により設定された調整係数kCbとを積算する。加算器312は、3×3色差マトリックス回路306から出力されたCr信号と積算器313から出力された調整Cb信号(=kCb×Cb)とを加算して偽色低減色信号C(=kCb×Cb+Cr)を生成して出力する。調整係数kCbは、以下のようにして設定される。
RGB信号からYCbCr信号への変換は以下の式により行われる。
Y = 0.299×R+0.587×G+0.114×B
Cr= 0.5×R−0.419×G−0.081×B
Cb=−0.168×R−0.332×G +0.5×B
よって、逆変換は以下の式となる。
R=Y +1.4×Cr−0.0009×Cb
G=Y −0.713×Cr −0.344×Cb
B=Y−0.0028×Cr +1.77×Cb
したがって、偽色低減色信号Cは、下記の式で算出できる。
C=R+B−2×G=2.83×Cr+2.46×Cb
以上から、積算器313に設定する調整係数kCbは以下のようにして求めることができる。
kCb=2.46/2.83=0.87
絶対値回路314は、加算器312から出力された偽色低減色信号Cの入力を受け、絶対値を求めて彩度信号Satとして出力する。マスキング回路315は、エッジクロマキラー設定LUT311より出力された偽色抑圧量Supを、絶対値回路314より出力された彩度信号Satに応じて、修正偽色抑圧量Sup’に変換する。
マスキング回路315での変換処理は、以下のようにして行われる。彩度信号Satが、制御部5により設定された閾値Sthと比較される。彩度信号Satが閾値Sthより小さい場合には、修正偽色抑圧量Sup’を1とする。彩度信号Satが閾値Sth以上の場合には、修正偽色抑圧量Sup’を
Sup’=1−Sup×(Sat−Sth)
とする。この結果低彩度エリアにおいては、高周波成分強度Shfに応じた修正偽色抑圧量Sup’が生成され、高彩度エリアにおいては、高周波数成分強度Shfの値にかかわらず一定の修正偽色抑圧量Sup’が生成される。
Cb積算器316は、3×3色差マトリックス回路306から出力されたCb信号とマスキング回路315から出力された修正偽色抑圧量Sup’とを積算しCb信号に含まれる偽色を抑圧する。Cr積算器317は、3×3色差マトリックス回路306から出力されたCr信号とマスキング回路315から出力された修正偽色抑圧量Sup’とを積算しCr信号に含まれる偽色を抑圧する。
Cb積算器316から出力された偽色を抑圧したCb信号、Cr積算器317から出力された偽色を抑圧したCr信号、および、エッジ加算器324から出力したエッジ強調されたY信号は、バッファ107に入力され一時的に保持される。その他の作用は、第1実施の形態と同様なので、説明を省略する。
上記のようにして偽色低減色信号Cを求めてから、彩度信号Sat(=abs(C))を求めることにより、低彩度エリアの検出を行う際に、色信号に含まれる偽色の影響をなくすことできる。
YCbCr信号を一旦RGB信号に逆変換して偽色低減色信号Cを求めようとすると計算が複雑になるが、上記に示した処理方法であれば、加算器ひとつと積算器ひとつの簡単な構成で偽色低減色信号Cを求めることができる。
また、上記例では、調整係数kCbは1に近い値になっている。そこで、偽色低減色信号Cを下記の式により求めることにすれば、積算器313が不要になるので、より小さな回路規模で正確な低彩度エリアの検出ができる。
C=Cr+Cb
以上説明したように、本実施の形態によれば、原色成分の画像信号をYCbCr色空間の画像信号に変換し、輝度成分の信号値であるY信号から高周波成分を抽出し、色成分の信号値であるCb、Cr信号から偽色の影響が低減された偽色低減色信号Cを求めこれに基づいて、各画素について彩度に相当する彩度信号を生成する。このようにして、抽出、生成した高周波成分と彩度信号とに基づいてCb、Cr信号の信号値を抑圧するようにしたので、被写体画像の彩度の検出精度を向上して、低彩度領域における偽色の抑圧と、高彩度領域における「色抜け」の発生の防止性能を向上して、より自然な画像を再現することができる。また、偽色低減色信号をCb信号とCr信号との線形和により算出するようにしたので、簡単な回路構成で実現することができる。
なお、本実施の形態では、原色ベイヤー配列のカラーフィルタを用いて得られるRGB色空間の画像信号を所定のYCbCr信号に変換して処理する例を示したが、変換先のYCbCr色空間は、機器に応じて様々である。このため、変換先の色空間に応じた変換式に基づいて、偽色低減色信号Cを求める際の調整係数kCbを変えることが望ましい。すなわち、YCbCr信号からRGB信号への変換式が、次式で表されるものとする。
R=Y+kCrR×Cr+kCbR×Cb
G=Y+kCrG×Cr+kCbG×Cb
B=Y+kCrB×Cr+kCbB×Cb
(kCrR,kCbR,kCrG,kCbG,kCrB,kCbBは変換先の色空間に応じて定まる変換係数)
この場合、積算器313に設定する調整係数kCbは以下のようにして求めることができる。
kCb=(kCbR+kCbB−2×kCbG)/(kCrR+kCrB−2×kCrG)
そこで、予め変換先の色空間と調整係数kCbの組み合わせを求めて記憶しておき、変換先色空間の切り替えに応じて、調整係数kCbを切り替えるようにしても良い。
(第4実施の形態)
本実施の形態は、第3実施の形態においてハードウェア回路で行っていた信号処理部の画像処理を、コンピュータ上でソフトウエアプログラムによって行うものである。図11は、コンピュータプログラムによる画像処理の手順を示すフローチャートである。また、図12は、図11のステップS5(色差信号Cr,Cbに基づいて低彩度エリアを抽出)の処理の詳細を示すフローチャートである。
図11に示すように、ソフトウエアプログラムによる処理は、まず、コンピュータが各画素についての、いずれかの原色成分の画像信号の入力を受け(ステップS1)、近傍画素の画像信号を用いて各画素についてRGB3原色成分を補間し(ステップS2)、これによって得られたRGB信号を輝度信号Yおよび色差信号Cb,Crに変換し(ステップS3)、輝度信号Yに基づいて高周波エリアを抽出し(ステップS4)、色差信号Cb,Crに基づいて、低彩度エリアを抽出し(ステップS5)、高周波エリア内かつ低彩度エリア内の画素について、色差信号Cb、Crを抑圧し(ステップS6)、輝度信号Yおよび色差信号Cb,Crを出力する(ステップS7)。
ここで、ステップS5の低彩度エリアの抽出は、図12に示すように、偽色低減色信号CをCr+kCb×Cbにより求め(ステップS51)、その絶対値SatをSat=abs(C)によりCの絶対値を求めて算出し(ステップS52)、算出した彩度信号Satに基づいて低彩度エリア以外をマスキング処理する(ステップS53)ことによって行う。
本実施の形態によれば、画像処理装置をソフトウェアで実現したので、第3実施の形態の効果に加え、装置を小型で安価に構成することが可能になる。
なお、本発明は、上記実施の形態にのみ限定されるものではなく、幾多の変形または変更が可能である。たとえば、撮像素子に用いるカラーフィルタとしては、RGBの3原色によるベイヤー配列に限られない。例えば、これ以外の色の組み合わせや、3色以上のフィルタを用いても良い。
1 光学系
2 撮像部
3 信号処理部
4 出力部
5 制御部
6 補間手段
7,7’ 高周波成分抽出手段
8,8’ 偽色低減色信号生成手段
9,9’ 彩度信号生成手段
10,10’ 抑圧手段
11 色空間変換手段
101 WB回路
102 補間回路
104 偽色抑圧部
105 エッジ強調処理部
106 3×3色差マトリックス回路
107 バッファ
108 色調整回路
111 水平垂直HPF
112 エッジクロマキラー設定LUT
114 加算器
115 積算器
116 絶対値回路
117 クロマキラー調整回路
118 偽色抑圧回路
121 LPF
122 HPF
123 エッジ強調回路
124 エッジ加算器
200 顕微鏡
201 顕微鏡光学系
202 撮像部
203 信号処理部
204 出力部
205 制御部
304 偽色抑圧部
305 エッジ強調処理部
306 3×3色差マトリックス回路
311 エッジクロマキラー設定LUT
312 加算器
313 積算器
314 絶対値回路
315 マスキング回路
316 Cb積算器
317 Cr積算器
321 LPF
322 HPF
323 エッジ強調回路
324 エッジ加算器

Claims (4)

  1. 複数の原色成分のうちいずれかの原色成分の画像信号をそれぞれ出力する複数種の光電変換素子が画素ごとに所定の配列規則に従って配置された撮像素子からの画像信号を処理する画像処理装置であって、
    前記撮像素子は、ものであり、
    前記撮像素子から入力した各画素の画像信号に対して、近傍の画素の画像信号を用いて補間処理を行い、各画素について複数の原色成分の画像信号を取得する補間手段と、
    前記撮像素子から入力した画像信号に含まれる高周波成分を抽出する高周波成分抽出手段と、
    前記各画素について複数の原色成分の画像信号から、偽色の影響が低減された偽色低減色信号を求める偽色低減色信号生成手段と、
    前記偽色低減色信号の信号値に基づいて、各画素について彩度信号を生成する彩度信号生成手段と、
    前記彩度信号と前記高周波成分とに基づいて、前記各画素について複数の原色成分の画像信号に含まれる偽色を抑圧する抑圧手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記撮像素子は、原色成分R、G、Bをベイヤー配列して成り、前記偽色低減色信号生成手段は、偽色低減色信号として(R+B)成分を生成することを特徴とする請求項1に記載の画像処理装置。
  3. 複数の原色成分のうちいずれかの原色成分の画像信号をそれぞれ出力する複数種の光電変換素子が画素ごとに所定の配列規則に従って配置された撮像素子からの画像信号を処理する画像処理装置であって、
    前記撮像素子から入力した各画素の画像信号に対して、近傍の画素の画像信号を用いて補間処理を行い、各画素について複数の原色成分の画像信号を取得する補間手段と、
    前記各画素について前記補間手段により取得された複数の原色成分の画像信号を、輝度成分と色成分とをもつ色空間の画像信号に変換する色空間変換手段と、
    前記前記輝度成分の信号値に基づいて、各画素における輝度成分の信号値の高周波成分を抽出する高周波成分抽出手段と、
    前記前記色成分の信号値に基づいて、各画素において、偽色の影響が低減された偽色低減色信号を求める偽色低減色信号生成手段と、
    前記偽色低減色信号の信号値に基づいて、各画素において彩度信号を生成する彩度信号生成手段と、
    前記彩度信号と前記高周波成分とに基づいて、前記色成分の信号値を抑圧する抑圧手段と、
    を備えることを特徴とする画像処理装置。
  4. 前記撮像素子は、原色成分R、G、Bをベイヤー配列して成り、輝度と色成分とを持つ色空間がYCbCr空間であり、偽色低減色信号として、Cb成分とCr成分との線形和を生成することを特徴とする請求項3に記載の画像処理装置。
JP2010013370A 2010-01-25 2010-01-25 画像処理装置 Active JP5474586B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010013370A JP5474586B2 (ja) 2010-01-25 2010-01-25 画像処理装置
EP11000432.2A EP2360929B1 (en) 2010-01-25 2011-01-20 Image processing device
US13/012,994 US8427560B2 (en) 2010-01-25 2011-01-25 Image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010013370A JP5474586B2 (ja) 2010-01-25 2010-01-25 画像処理装置

Publications (3)

Publication Number Publication Date
JP2011151739A true JP2011151739A (ja) 2011-08-04
JP2011151739A5 JP2011151739A5 (ja) 2013-02-28
JP5474586B2 JP5474586B2 (ja) 2014-04-16

Family

ID=43901703

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010013370A Active JP5474586B2 (ja) 2010-01-25 2010-01-25 画像処理装置

Country Status (3)

Country Link
US (1) US8427560B2 (ja)
EP (1) EP2360929B1 (ja)
JP (1) JP5474586B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013099792A1 (ja) * 2011-12-28 2013-07-04 富士フイルム株式会社 画像処理装置及び方法並びに撮像装置
CN112689141A (zh) * 2020-12-22 2021-04-20 上海富瀚微电子股份有限公司 一种图像绿通道平衡的方法及装置
JP7299398B1 (ja) 2022-10-14 2023-06-27 株式会社 日立産業制御ソリューションズ 画像処理装置および画像処理方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013100036A1 (ja) * 2011-12-27 2013-07-04 富士フイルム株式会社 カラー撮像素子
JP6135490B2 (ja) * 2013-12-12 2017-05-31 ソニー株式会社 動画画像処理システムおよび動画画像処理方法
US9582861B2 (en) * 2015-04-10 2017-02-28 Stmicroelectronics (Grenoble 2) Sas Image processing technique using high frequency data analysis to filter low frequency data by dynamic kernel adjustment
WO2017149932A1 (ja) * 2016-03-03 2017-09-08 ソニー株式会社 医療用画像処理装置、システム、方法及びプログラム
JP7265114B2 (ja) * 2018-11-14 2023-04-26 日本電信電話株式会社 予測画像取得装置、原信号取得装置、予測画像取得方法及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000253414A (ja) * 1999-03-01 2000-09-14 Canon Inc 撮像装置及び前記撮像装置における画像処理方法
JP2006324974A (ja) * 2005-05-19 2006-11-30 Megachips Lsi Solutions Inc 画像処理装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4717294B2 (ja) * 2001-09-20 2011-07-06 キヤノン株式会社 画像処理方法、撮像装置およびプログラム
JP3633561B2 (ja) 2002-01-29 2005-03-30 ミノルタ株式会社 画像処理装置、画像処理方法およびプログラム
JP4235903B2 (ja) * 2003-09-10 2009-03-11 ソニー株式会社 撮像装置
US7200279B1 (en) * 2003-09-11 2007-04-03 Magnachip Semiconductor, Inc. Method and system for image chroma suppression
KR100585004B1 (ko) * 2004-04-21 2006-05-29 매그나칩 반도체 유한회사 이미지센서의 디지털 신호 처리 장치
JP4822773B2 (ja) * 2004-09-13 2011-11-24 キヤノン株式会社 色ノイズ低減回路及びそれを用いた撮像装置
KR101201672B1 (ko) * 2005-12-20 2012-11-15 삼성전자주식회사 의사 색 억제 기능을 갖는 디지털 영상 신호 처리 장치 및그 방법
JP5416928B2 (ja) 2008-07-01 2014-02-12 学校法人近畿大学 ゼルンボン誘導体およびその製造方法
JP5223742B2 (ja) * 2009-03-16 2013-06-26 富士通セミコンダクター株式会社 エッジ強調画像処理装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000253414A (ja) * 1999-03-01 2000-09-14 Canon Inc 撮像装置及び前記撮像装置における画像処理方法
JP2006324974A (ja) * 2005-05-19 2006-11-30 Megachips Lsi Solutions Inc 画像処理装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013099792A1 (ja) * 2011-12-28 2013-07-04 富士フイルム株式会社 画像処理装置及び方法並びに撮像装置
CN104025583A (zh) * 2011-12-28 2014-09-03 富士胶片株式会社 图像处理装置、方法及摄像装置
JP5621053B2 (ja) * 2011-12-28 2014-11-05 富士フイルム株式会社 画像処理装置、方法及びプログラム並びに撮像装置
US9325957B2 (en) 2011-12-28 2016-04-26 Fujifilm Corporation Image processing device, method, recording medium and imaging device
CN112689141A (zh) * 2020-12-22 2021-04-20 上海富瀚微电子股份有限公司 一种图像绿通道平衡的方法及装置
JP7299398B1 (ja) 2022-10-14 2023-06-27 株式会社 日立産業制御ソリューションズ 画像処理装置および画像処理方法
JP2024058362A (ja) * 2022-10-14 2024-04-25 株式会社 日立産業制御ソリューションズ 画像処理装置および画像処理方法

Also Published As

Publication number Publication date
US8427560B2 (en) 2013-04-23
EP2360929B1 (en) 2013-10-23
US20110181760A1 (en) 2011-07-28
JP5474586B2 (ja) 2014-04-16
EP2360929A3 (en) 2011-11-23
EP2360929A2 (en) 2011-08-24

Similar Documents

Publication Publication Date Title
JP5474586B2 (ja) 画像処理装置
KR101099401B1 (ko) 화상 처리 장치 및 컴퓨터가 판독 가능한 기록 매체
JP5047048B2 (ja) 画像処理装置、撮像装置、制御方法、プログラム、及び記憶媒体
US8154629B2 (en) Noise canceling circuit, noise canceling method, and solid-state imaging device
US9936172B2 (en) Signal processing device, signal processing method, and signal processing program for performing color reproduction of an image
US8648937B2 (en) Image processing apparatus, image processing method, and camera module
KR20140013891A (ko) 화상 처리 장치, 화상 처리 방법 및 고체 촬상 장치
JP5743918B2 (ja) 画像処理装置
JP2005115598A (ja) 画像処理方法及び画像処理装置
JP5268321B2 (ja) 画像処理装置及び画像処理方法、画像処理プログラム
US8896731B2 (en) Image processing apparatus, image processing method, and camera module
JP6143575B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP5919086B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
JP2018022951A (ja) 画像処理装置および白黒画像処理装置
JP5494249B2 (ja) 画像処理装置、撮像装置及び画像処理プログラム
US9013606B2 (en) Image processing apparatus and control method thereof
KR100688757B1 (ko) 이미지 데이터의 에지 강조 장치 및 방법
JP2002209224A (ja) 画像処理装置、画像処理方法および記録媒体
JP4954658B2 (ja) 画像処理装置
JP4496931B2 (ja) 映像信号処理装置及び方法
TWI609351B (zh) Image processing apparatus, camera apparatus, image processing method, and program for executing the method on a computer
JP2011055280A (ja) 画像処理装置および画像処理方法並びに電子カメラ
JP2010193112A (ja) 画像処理装置およびディジタルスチルカメラ
JP2006080767A (ja) 信号処理装置及び撮像装置
JP2005328338A (ja) 撮像装置及び撮像装置付き携帯端末

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130115

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130813

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131009

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20131009

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140205

R151 Written notification of patent or utility model registration

Ref document number: 5474586

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250