JP2009081695A - 色変換定義作成方法、色変換定義作成装置、および内視鏡システム - Google Patents

色変換定義作成方法、色変換定義作成装置、および内視鏡システム Download PDF

Info

Publication number
JP2009081695A
JP2009081695A JP2007249808A JP2007249808A JP2009081695A JP 2009081695 A JP2009081695 A JP 2009081695A JP 2007249808 A JP2007249808 A JP 2007249808A JP 2007249808 A JP2007249808 A JP 2007249808A JP 2009081695 A JP2009081695 A JP 2009081695A
Authority
JP
Japan
Prior art keywords
color
data
conversion
patch
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007249808A
Other languages
English (en)
Other versions
JP4875578B2 (ja
Inventor
Masayuki Takahira
正行 高平
Kazunori Abe
一則 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujinon Corp
Original Assignee
Fujinon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujinon Corp filed Critical Fujinon Corp
Priority to JP2007249808A priority Critical patent/JP4875578B2/ja
Publication of JP2009081695A publication Critical patent/JP2009081695A/ja
Application granted granted Critical
Publication of JP4875578B2 publication Critical patent/JP4875578B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)
  • Image Processing (AREA)

Abstract

【課題】記憶容量の増加などを抑え、画像の色を精度良く補正することができる色変換定義作成装置、および内視鏡システムを提供する。
【解決手段】複数のパッチ色データを取得するパッチ色データ取得過程と、複数のパッチ色データと、複数の色パッチそれぞれに対する目標色を色空間上の座標で表現した複数の目標色データとの差分に基づいて、色空間の線形変換を表した補正マトリクスを生成するマトリクス生成過程と、複数のパッチ色データが補正マトリクスによって変換された複数の変換パッチ色データを複数の目標色データに変換するとともに、色空間上の各座標を表した各色データに対しては、複数の変換パッチ色データと複数の目標色データとの差分に基づいて線形的な補間で求められる補正量の色補正を行う色変換を定義した色変換定義を生成する色変換定義生成過程とを有する。
【選択図】 図5

Description

本発明は、画像の色を変換する色変換定義を作成する色変換定義作成方法、色変換定義作成装置、および内視鏡システムに関する。
従来から、医療の分野においては、先端に光学部材や撮像素子などが取り付けられた細長い管を被検体の体内に挿入し、被検者の体内を撮影して腫瘍や血栓などを観察する内視鏡装置が広く利用されている。被検者の体内を直接撮影することによって、被検者に外的なダメージを与えることなく、放射線画像では分かりにくい病巣の色や形状などを把握することができ、治療方針の決定などに必要な情報を手軽に得ることができる。
また、近年では、消化器官等の分光反射率に基づいた複数の狭(波長)帯域のバンドパスフィルタを備え、これら狭帯域バンドパスフィルタを通過してきた被写体光に基づいて分光画像を得る内視鏡装置が広く利用されてきている。この狭帯域バンドパスフィルタを使った内視鏡装置によると、胃、大腸などといった消化器の微細な構造を観察することができ、より正確な診断を行うことができる。
一方、狭帯域バンドパスフィルタを用いずに、撮像素子にR(赤)、G(緑)、B(青)各色の色フィルタを装着し、色フィルタを通過してきた被写体光に基づいて得られたカラー画像に所定の演算処理を施して、狭帯域バンドパスフィルタを介して得られる分光画像を擬似的に生成する内視鏡装置も利用されてきている。通常は、内視鏡装置におけるR,G,Bそれぞれのカラー感度値と、所定の狭帯域バンドパスにおける分光特性値との対応関係を示す分光マトリクスが予め用意されており、撮像素子で得られたカラー画像が分光マトリクスを使って分光画像に変換されることが一般的である。色フィルタを使った内視鏡装置では、観察対象である胃や腸の分光反射率に合わせて狭帯域バンドパスフィルタを交換する必要がないため、装置の大型化やコストの上昇を抑えることができるという利点がある。
ここで、内視鏡装置は、光を発する光源と、被検体の体内に挿入される光プローブと、被検体の体内が撮影されて得られた画像信号に画像処理を施す画像処理装置と、画像を表示する表示装置とで構成されていることが一般的である。この光プローブは、光源から発せられた光を導く導光線や、導光線によって導かれた光を被検体の体内に集光する光学部材や、光学部材によって照射された光が被検体で反射した反射光を受光して画像信号を生成する撮像素子などが内部に搭載されており、撮影時には、撮影箇所(例えば、胃と腸)の位置や形状等に合った光プローブに交換されることが一般的である。しかし、光プローブを交換すると分光感度特性が変わってしまうため、同じ被検体の同じ箇所を撮影しても、得られるカラー画像の色が微妙に異なってしまうことがある。上述したように、内視鏡装置では、カラー画像が分光画像に変換されて利用されることが多く、カラー画像の色が変わってしまうと目的の観察物に応じた波長帯域とは全く異なる波長帯域にピークが発生してしまい、正しい診断ができなくなってしまう恐れがある。このため、画像信号に色変換処理を施して、カラー画像の色を目標の色に近づける必要がある。カラー画像に色変換処理を施す方法としては、画像の色を色空間ごと線形変換するマトリクスを利用する方法や、画像の色と目標の色とを直接的に対応付けるルックアップテーブルを利用する方法などが知られている。マトリクスを利用した色変換処理では、画像の色が簡単な一次式を使って補正されるため、マトリクスを設計する手間や、色補正にかかる処理時間や、マトリクスを記憶しておくための記憶容量などが少なくてすむという利点があるが、色空間の非線形的な歪みを補正することができないため、画像の色を十分には補正することができない。一方、ルックアップテーブルを利用した色変換処理では、自由度の高い色変換が可能であるという利点がある。しかし、色変換処理の精度を向上させるために、ルックアップテーブル中で多くの色を目標の色と対応付けようとすると、ルックアップテーブルを記憶しておくための記憶容量が大幅に増加してしまったり、ルックアップテーブルの設計に手間がかかってしまうという問題があり、その逆に、ルックアップテーブル中で定義する色の数を抑えようとすると、その定義された色以外の色の補間処理によって色補正精度が劣化してしまうという問題がある。内視鏡装置においては、複数の光プローブそれぞれの分光感度特性に応じた複数のルックアップテーブルを用意しなければならないうえ、画像をリアルタイムに表示することが求められており、記憶容量の増加や設計の手間を抑えて、画像の色を精度良くかつ高速に補正することができる技術の開発が望まれている。
この点に関し、特許文献1には、画像の色の階調を補正するガンマ処理の前に輝度を調整するリニアマトリクスを使った色変換を実行し、ガンマ処理の後に色相や彩度を調整するための色差マトリクスを使った色変換を実行する例について記載されており、特許文献2には、複数の光源のうちの1つの光源が選択されて得られたカラー画像に対して、マトリクスとルックアップテーブルとの両方を使って色変換処理を実行する画像処理装置において、複数の光源それぞれの色温度に応じてマトリクスの係数を調整することによって、ルックアップテーブルを共通に、かつ簡素化する技術について記載されている。これら特許文献1および特許文献2に記載された技術によると、記憶容量の増加を抑えることができるとともに、色変換の精度を向上させることができる。
特開2001−86519号公報 特開2004−40544号公報
しかし、特許文献1に記載された技術では、色空間の線形変換が2度実行されるが、色空間の非線形的な歪みは補正することができず、内視鏡装置に適用するには色変換の精度が不十分である。また、特許文献2に示すように、複数の光源の色温度の違い程度であればマトリクスを使って補正することができるが、撮像素子、光学部材、光源、導光線それぞれの光学特性が複雑に絡んだ複数の光プローブの分光感度の違いはマトリクスだけでは吸収することができない。このため、特許文献2に記載された技術を内視鏡装置に適用すると、複数の光プローブにおける分光感度特性の違いが補正されないまま、共通のルックアップテーブルを使った色変換処理が実行されることとなり、画像の色を十分には補正することができないという問題がある。
本発明は、上記事情に鑑み、記憶容量の増加などを抑え、画像の色を精度良く補正することができる色変換定義作成装置、および内視鏡システムを提供することを目的とする。
上記目的を達成する本発明の色変換定義作成方法は、画像を読み取って画像を表わす画像データを生成する入力デバイスによって相互に色が異なる複数の色パッチそれぞれが読み取られて得られる、複数の色パッチそれぞれの色を所定の色空間上の座標で表現した複数のパッチ色データを取得するパッチ色データ取得過程と、
複数のパッチ色データと、複数の色パッチそれぞれに対する目標色を色空間上の座標で表現した複数の目標色データとの差分に基づいて、複数のパッチ色データを複数の目標色データに近似させる、色空間の線形変換を表した補正マトリクスを生成するマトリクス生成過程と、
複数のパッチ色データが補正マトリクスによって変換された複数の変換パッチ色データを複数の目標色データに変換するとともに、色空間上の各座標を表した各色データに対しては、複数の変換パッチ色データと複数の目標色データとの複数の差分のうち、座標に応じた一部の差分に基づいて線形的な補間で求められる補正量の色補正を行う色変換を定義した色変換定義を生成する色変換定義生成過程とを有することを特徴とする。
本発明の色変換定義作成方法によると、所定の色空間上の座標で色が表現された色データを色空間ごと線形変換する補正マトリクスと、予め用意されている複数の色パッチが読み取られて得られた複数のパッチ色データを複数の目標色データに変換するとともに、それらパッチ色データを除く色データについては、パッチ色データと目標色データとの差分に基づいて線形的な補間で求められる補正量の色補正を行う色変換定義とが生成される。ここで用いられる補間は線形的であるが、補間に用いられる差分は一部の差分であるので、線形性は局所的であり、全色空間では、全パッチの色を精度良く再現する非線形な色変換が実現する。補正マトリクスによって色空間の線形的な歪みが補正された後で、色変換定義によって局所的に線形的な色変換で画像の色が個々に補正されることにより、色変換定義を保存しておくための記憶容量の増加を抑えることができるとともに、高精度な色補正処理を実現することができる。
また、本発明の色変換定義作成方法において、上記色変換定義生成過程は、色空間上の座標で色が表現された色データを、座標軸と、座標軸周りの角度と、座標軸からの距離とで明度、色相、彩度を表した円筒座標色空間上の座標で色が表現された色データに変換し、円筒座標色空間上で補間を行うものであることが好ましい。
また、本発明の色変換定義作成方法において、上記円筒座標色空間は、明度および彩度が色の輝度にリニアな色空間であることが好ましい。
明度および彩度が色の輝度にリニアな円筒座標色空間が用いられることによって、線形的な補間処理を容易に実行することができる。
また、本発明の色変換定義作成方法において、上記色変換定義生成過程は、
補間対象の色データについては、複数の変換パッチ色データのうち、その補間対象の色データの色相を挟む2つの変換パッチ色データを選択する選択過程と、
選択過程で選択された2つの変換パッチ色データを、2つの変換パッチ色データと補間対象の色データとの間の色相比で明度、彩度のそれぞれについて線形補間することにより基準データを生成する基準生成過程と、
選択過程で選択された2つの変換パッチ色データと補間対象の色データとの間の色相比で2つの変換パッチ色データとそれら2つの変換パッチ色データに対応した2つの目標色データとの各差分を線形補間することにより、基準データに対する補正量を表した基準補正データを生成する基準補正過程と、
彩度が0のときに彩度補正量が0で、かつ彩度が前記基準データの彩度と同じであるときに彩度補正量が基準補正データが表わす彩度補正量に等しくなる1次関数に前記補間対象の色データの彩度を適用して彩度補正量を算出する彩度量算出過程と、
彩度が0のときに明度補正量が0で、かつ彩度が前記基準データの彩度と同じであるときに明度補正量が基準補正データが表わす明度補正量に等しくなる1次関数に補間対象の色データの彩度を適用して明度補正量を算出する明度量算出過程とを有するものであることが好ましい。
彩度に関する一次関数に従って彩度補正量や明度補正量が算出されることにより、補間処理にかかる負荷や処理速度の増加を抑え、十分に高い精度で色変換処理を実行することができる。
また、本発明の色変換定義作成方法において、上記色変換定義は、色変換の前の色データと色変換の後の色データとが対応付けられたルックアップテーブルであることが好ましい。
ここで、本発明にいう色変換定義には、ルックアップテーブル以外の関数などであってもよい。ルックアップテーブルは、単純な形式であるが高い自由度を有するため、本発明に好ましく適用することができる。
また、本発明の色変換定義作成方法において、
上記補正マトリクスおよび上記色変換定義生成が、補正マトリクスを使った色補正と色変換定義に従った色変換との間に他の色処理が施される一連の色変換処理に用いられるものであり、
上記色変換定義生成過程は、
前記色空間の格子点を表わす格子点データに、前記色処理の逆変換処理を施す逆変換過程と、
逆変換処理が施された格子点データに対する補正量を線形的な補間で算出し、格子点データに補正量の色補正を施して補正格子点データを生成する色補正過程と、
補正格子点データに、色変換との間の色処理を施す順変換過程と、
順変換過程で色処理が施された補正格子点データを色変換処理前の格子点データと対応付ける対応過程とを有することが好ましい。
この好ましい色変換定義作成方法によると、色空間の格子点を表わす色データと、その色データにおける目標色データである補正格子点データとが対応付けられた色変換定義を生成することができ、それらを使った色補間処理の精度を向上させることができる。
また、上記目的を達成する本発明の色変換定義作成装置は、画像を読み取って該画像を表わす画像データを生成する入力デバイスによって相互に色が異なる複数の色パッチそれぞれが読み取られて得られる、複数の色パッチそれぞれの色を所定の色空間上の座標で表現した複数のパッチ色データを取得するパッチ色データ取得部と、
複数のパッチ色データと、複数の色パッチそれぞれに対する目標色を色空間上の座標で表現した複数の目標色データとの差分に基づいて、複数のパッチ色データを複数の目標色データに近似させる、色空間の線形変換を表した補正マトリクスを生成するマトリクス生成部と、
複数のパッチ色データが補正マトリクスによって変換された複数の変換パッチ色データを複数の目標色データに変換するとともに、色空間上の各座標を表した各色データに対しては、複数の変換パッチ色データと複数の目標色データとの複数の差分のうち、座標に応じた一部の差分に基づいて線形的な補間で求められる補正量の色補正を行う色変換を定義した色変換定義を生成する色変換定義生成部とを備えたことを特徴とする。
本発明の色変換定義作成装置によると、記憶容量の増加などを抑え、画像の色を精度良く補正することができる色変換定義を生成することができる。
尚、色変換定義作成装置については、ここではそれらの基本形態のみを示すのにとどめるが、これは単に重複を避けるためであり、本発明にいう色変換定義作成装置には、上記の基本形態のみではなく、前述した色変換定義作成方法の各形態に対応する各種の形態が含まれる。
また、上記目的を達成する本発明の内視鏡システムは、光を発する光源と、入力デバイスとを備えた光プローブと、
上記色変換定義作成装置と、
色変換定義作成装置で生成された補正マトリクスおよび色変換定義を使って、入力デバイスで得られた画像データに色変換処理を施す色変換装置と、
色変換装置で色変換処理が施された画像データが表わす画像を表示する表示装置とを備えたことを特徴とする。
本発明の内視鏡システムによると、光プローブが交換された場合であっても、画像の色を精度良く補正することができ、表示装置上に高画質な医用画像を表示することができる。
本発明によれば、光プローブが交換される内視鏡装置においても、画像の色を精度良く調整することができる。
以下、図面を参照して本発明の実施の形態を説明する。
図1は、本発明の一実施形態が適用された内視鏡システムの概略構成図である。
図1に示す内視鏡システム1は、被検体Pの体内に光を導いて照射し、その反射光に基づいて画像信号を生成する光プローブ10と、光を発する光源装置20と、光プローブ10で得られた画像信号に所定の画像処理を施して、被検体Pの体内を撮影した医用画像を生成する画像処理装置30と、画像処理装置30で生成された医用画像を表示モニタ41上に表示する表示装置40とを備えている。この内視鏡システム1は、光プローブ10が光源20および画像処理装置30に対して着脱自在に装着される。光プローブ10は、本発明にいう光プローブの一例にあたり、表示装置40は、本発明にいう表示装置の一例に相当する。また、光源装置20は、本発明にいう光源の一例に相当する。
光プローブ10は、可撓性を有する細長のプローブ部11と、プローブ部11を操作する操作部12と、光源装置20および画像処理装置30と光プローブ10とを接続する光/信号ガイド13で構成されている。以下では、光プローブ10の、被検体Pの体内に挿入される側を先端、その先端の逆側を後端と称して説明する。
操作部12には、プローブ部11を湾曲させるための湾曲操作レバー121、静止画を撮影するための撮影ボタン122、および表示されている画像の色味を調整するための色調整ボタン123などが設けられている。
光/信号ガイド13は、光を伝達するライトガイド131と、信号を伝達する信号線132とで構成されている。ライトガイド131は、後端が光源装置20に接続され、光源装置20から発せられた光をプローブ部11内にまで導き、その光をプローブ部11の先端に設けられた照射窓11aから被検体Pに向けて照射する。信号線132は、先端にCCD133が取り付けられており、後端側が画像処理装置30に接続される。ライトガイド131の照射窓11aから照射された光が被検体Pの体内で反射した反射光は、プローブ部11の先端に設けられた光学部材134によって集光され、CCD133で受光されて、反射光を表わす画像データが生成される。CCD133は、複数の受光センサが並べて配置されたものであり、それら複数の受光センサそれぞれで光が受光されることにより、画像が複数の画素で表現された画像データが生成される。本実施形態においては、CCD133を構成する複数の受光センサそれぞれに対応する位置に、R,G,B各色が規則的な色パターンで配置された色フィルタ(図2参照)が取り付けられており、色フィルタを通過してきた光がCCD133で受光されることによって、色フィルタの色パターンと同じ色パターンでR,G,B各色の画素が並んだ色モザイク画像を表わす画像データが生成される。CCD133は、本発明にいう入力デバイスの一例に相当する。
生成された画像データは、信号線132を通って画像処理装置30に伝達され、画像処理装置30において所定の画像処理が施された後で表示装置40に伝えられる。
図2は、内視鏡システム1の概略的な機能ブロック図である。
尚、図2では、表示モニタ41や、光プローブ10の操作部12などの図示を省き、画像信号の生成に関連する主要要素のみを示している。
図1にも示す光源装置20は、白色光を発するものであり、画像処理装置30の全体制御部360によって制御されている。
光プローブ10には、図1にも示すCCD133に加えて、R,G,B各色が規則的な色パターンでモザイク状に配置された色フィルタ140、CCD133で生成された画像信号をデジタルの画像データに変換するA/D変換部150、光プローブ10内の各種要素における処理を制御する撮像制御部160などが備えられている。尚、本実施形態では、光プローブ10において、R,G,B3色で画像の色が表現されるとともに、R,G,B各色の成分が輝度リニアなRGB色空間の画像データが生成されるものとして説明する。
画像処理装置30には、信号線132を通って光プローブ10から送られてきる画像データの黒点を補正する暗補正部310と、画像データのホワイトバランスを補正するAWB補正部320と、画像データにリニアマトリクス331を使った画像補正処理を施すことによって、CCD133を含む光プローブ10の分光特性におけるリニアな成分を補正するマトリクス補正部330と、リニアマトリクス331を生成するマトリクス生成部340と、画像データに階調補正処理を施すガンマ補正部350と、画像データに3次元ルックアップテーブル(3D−LUT)371を使った色補正処理を施すことによって、画像の色を調整する3D−LUT補正部370と、3D−LUT371を生成する3D−LUT生成部380と、画像データに、モザイク画像に基づいて各画素がR,G,B3色の混色で表現されたカラー画像を生成する同時化処理や、色のメリハリを調整するシャープネス処理や、偽色などといった画像中のノイズを低減するノイズ低減処理や、画像中の血管を抽出する抽出処理などを施すとともに、表示用LUT391を使って画像データを表示モニタ41用の表示画像データに変換する画像処理部390と、光プローブ10および画像処理装置30全体の処理を制御する全体制御部360などが備えられている。
図3は、光プローブ10が画像処理装置30および光源装置20に装着されて被検体Pが撮影され、その撮影された医用画像が表示モニタ41上に表示されるまでの一連の処理の流れを示すフローチャート図である。
画像処理装置30および光源装置20に光プローブ10が装着されると(図3のステップS1)、実際に被検体Pの撮影が行われる前に、その光プローブ10の分光感度特性に応じたリニアマトリクス331および3D−LUT371が生成される。まずは、光プローブ10で、後述するチャート画像が読み取られ(図3のステップS2)、その読取結果に基づいて、光プローブ10の分光特性を補正するリニアマトリクス331が生成される(図3のステップS3)。
光源などの影響が排除され、被検体Pの分光反射率にのみ依存した状態で撮影された理想的なRGBデータC(R,G,B)と、そのRGBデータから抽出される分光データの波長帯域F(λ1,λ2,λ3)との関係は、以下のように示される。
Figure 2009081695
また、保存部300には、被検体Pの撮影箇所それぞれについて、その撮影箇所の分光反射率に基づいた3つの波長帯域F(λ1,λ2,λ3)と、式(1)に示す基本分光マトリクスAを構成する分光用パラメータとが対応付けて保存されている。
例えば、内視鏡装置1で胃の中を撮影するときには、胃における分光反射率に基づいた3つの波長帯域λ1,λ2,λ3が取得され、さらに、それら3つの波長帯域λ1,λ2,λ3と対応付けられた分光用パラメータa1,a2,…,a9に基づいて、式(1)に示す基本分光マトリクスAが生成される。
続いて、内視鏡装置1を使って、予めR,G,Bそれぞれの目標色データT(r,g,b)が分かっている複数の色パッチが配置されたチャート画像が撮影され、光プローブ10で生成された各パッチ色データD(dr,dg,db)が画像処理装置20の暗補正部310およびAWB補正部320を介してマトリクス生成部330に伝えられる。パッチ色データD(dr,dg,db)が取得される。パッチ色データDが取得されるステップS2の処理は、本発明にいうパッチ色データ取得過程の一例にあたる。
図4は、チャート画像の一例を示す図である。
図4に示すチャート画像500は、黒い背景上に、C(シアン),M(マゼンタ),Y(イエロー),R(赤),G(緑),B(青),白,肌色それぞれの色パッチ501が配置されている。複数の色パッチ501は、本発明にいう複数の色パッチの一例に相当する。図2の保存部300には、複数の色パッチ501それぞれが撮影されて得られる各パッチ色データに対する各目標色データが用意されている。この目標色データTは、光源などの影響が排除され、各色パッチ501の分光反射特性にのみ依存した状態で得られた理想的な色データである。目標色データT(r,g,b)およびパッチ色データD(dr,dg,db)は、基本分光マトリクスAによって以下に示す目標分光データFt,パッチ分光データFdに変換される。
Figure 2009081695
ここで、各パッチ色データD(dr,dg,db)には、図2に示す光源装置20の分光感度特性S(λ)や、CCD133の分光感度特性R(λ),G(λ),B(λ)などの影響によって、それぞれの目標色データT(r,g,b)とは一致していないことが一般的である。光プローブ10で生成されたパッチ色データD(dr,dg,db)と目標色データT(r,g,b)との関係は、光源装置20の分光感度特性S(λ)や、CCD133の分光感度特性R(λ),G(λ),B(λ)などによって決定される補正係数K(kr,kg,kb)を使って、
Figure 2009081695
と表わすことができる。
図4に示す複数の色パッチ501それぞれに対して、パッチ色データD(dr,dg,db)と目標色データT(r,g,b)とを使って補正係数K(kr,kg,kb)が求められ、それら複数の補正係数K(kr,kg,kb)の平均値が光プローブ10の補正係数K(Kr、Kg,Kb)と決定される。この補正係数K(Kr、Kg,Kb)を表わす感度補正マトリクスKは、式(6)のようになる。
Figure 2009081695
式(5)を式(3)に代入すると、パッチ色データDが分光データに変換され、さらに色補正が施された補正後のパッチ分光データFt´は、
Figure 2009081695
となり、式(1)および式(6)を式(7)に代入すると、補正後のパッチ分光データFt´(λ1´,λ2´,λ3´)に関して以下の式(8)が生成される。
Figure 2009081695
図2のマトリクス生成部340は、感度補正マトリクスKと基本分光マトリクスAとを合成してリニアマトリクス331を生成する。リニアマトリクス331は、本発明にいう補正マトリクスの一例にあたり、リニアマトリクス331を生成するステップS3の処理は、本発明にいうマトリクス生成過程の一例に相当する。
このリニアマトリクス331は、RGB色空間の色データを分光データに変換するとともに、輝度リニアなRGB色空間の線形変換を行うものである。また、本来は、式(3)で得られる目標分光データFt(λ1,λ2,λ3)と、式(7)で得られる補正後のパッチ分光データFt´(λ1´,λ2´,λ3´)とが一致することが理想であるが、リニアマトリクス331では非線形な色空間の歪みを補正することはできないため、これらは一致していない。
生成されたリニアマトリクス331は、マトリクス補正部330に伝えられる。マトリクス補正部330は、式(3)に示す目標分光データFt(λ1,λ2,λ3)を構成する3つの波長成分λ1,λ2,λ3を順にR,G,B各色チャンネルに割り当てるとともに、式(7)で得られる補正後のパッチ分光データFt´(λ1´,λ2´,λ3´)を構成する3つの波長成分λ1´,λ2´,λ3´も順にR,G,B各色チャンネルに割り当てる。
Figure 2009081695
以下では、目標分光データFtがR,G,B各色チャンネルに割り当てられた、式(9)に示す目標色データTfを各色パッチ501における目標色データ、補正後のパッチ分光データFt´がR,G,B各色チャンネルに割り当てられた、式(10)に示す補正後のパッチ色データDafを各色パッチ501におけるパッチ色データとして説明する。
以上のようにしてリニアマトリクス331が生成されると、3D−LUT生成部380において3D−LUT371が生成される(図3のステップS4)。
図5は、3D−LUT371を生成する一連の処理の流れを示すフローチャート図である。
ここで、図3のフローチャート図の説明を中断し、図5に示すフローチャート図に従って3D−LUT371を生成する一連の処理について説明する。
3D−LUT371では、まず、リニアマトリクス331を使って色補正処理が施された複数のパッチ色データDafと複数の目標色データTfが、座標軸が輝度リニアな明度(Y)を表し、座標軸周りの角度が色相(H)を表し、座標軸からの距離が彩度(C)を表したYHC色空間上のデータに変換される(図5のステップS11)。YHC色空間は、本発明にいう円筒座標色空間の一例に相当する。
続いて、3D−LUT371における入力値となるRGB色空間上の格子点を表わす格子点データN(Rn,Bn,Gn)が取得され(図5のステップS12)、それら格子点データN(Rn,Bn,Gn)に対して、図2に示すマトリクス補正部330の後段から3D−LUT補正部370の前段までの間の色処理の逆変換処理が施される(図5のステップS13)。この例では、マトリクス補正部330と3D−LUT補正部370との間にはガンマ補正部350が存在するため、格子点データN(Rn,Bn,Gn)にガンマ補正部350におけるガンマ補正の逆変換処理が施される。格子点データN(Rn,Bn,Gn)に色処理の逆変換処理を施すステップS13の処理は、本発明にいう逆変換過程の一例に相当する。
続いて、逆変換処理が施された格子点データN(Rn_r,Bn_r,Gn_r)がYHC色空間上の格子点データN(Yn,Hn,Cn)に変換される(図5のステップS14)。
次に、ステップS11で変換されたYHC色空間上の複数のパッチ色データDafのうち、ステップS14で変換されたYHC色空間上の格子点データN(Yn,Hn,Cn)の色相「Hn」を挟む2つのパッチ色データDadが探索される(図5のステップS15)。格子点データNの色相を挟む2つのパッチ色データDadを探索するステップS15の処理は、本発明にいう選択過程の一例に相当する。
図6は、YHC色空間上のパッチ色データDaf、目標色データTf、および格子点データNを示す図である。
図6では、図面の前後方向に延びる輝度軸によって明度を表わし、輝度軸周りの角度で色相を表わし、輝度軸からの距離で彩度を表したYHC色空間が示されている。また、パッチ色データDafが黒丸で示され、目標色データTfが白抜き丸で示され、格子点データNが星印で示されている。
図6には、複数の格子点データNのうちの1つの格子点データNが代表して示されている。この格子点データNは、Y(イエロー)色の色パッチ501が読み取られたパッチ色データDaf_yと、R(レッド)色の色パッチ501が読み取られたパッチ色データDaf_rによって色相方向に挟まれており、これら2つのパッチ色データDaf_y,Dad_rが探索される。
続いて、探索された2つのパッチ色データDafとそれらの目標色データTfを用いて、格子点データNに対する補間処理が行われる(図5のステップS16)。本実施形態においては、格子点データNと2つのパッチ色データDafそれぞれとの色相差の比で、それらパッチ色データDafの明度および彩度が補間された補間データN_Hと、格子点データNと2つのパッチ色データDafそれぞれとの色相差の比で、各パッチ色データDafと目標色データTfの明度、彩度、色相それぞれの差分が補間された差分補間データN_allとが生成される。補間データN_Hは、本発明にいう基準データの一例にあたり、差分補間データN_allは、本発明にいう基準補正データの一例に相当する。また、補間データN_Hを生成する処理は、本発明にいう基準生成過程の一例にあたり、差分補間データN_allを生成する処理は、本発明にいう基準補正過程の一例に相当する。図6の例では、格子点データNと2つのパッチ色データDad_y,Dad_rそれぞれとの色相差がθ1,θ2であり、パッチ色データDad_y,Dad_rの明度および彩度それぞれが以下に示す式(11)に代入されて得られた明度および彩度と、格子点データNの色相「Hn」を有する補間データN_Hと、2つのパッチ色データDad_y,Dad_rとそれらの目標色データTf_y,Tf_rの明度、彩度、色相それぞれの差分が式(11)に代入されて得られた差分補間データN_allが生成される。
Figure 2009081695
さらに、差分補間データN_allと補間データN_Hとに基づいて、格子点データNの色を補正するための一次関数が生成される(図5のステップS17)。
図7は、生成された一次関数の一例を示す図である。
この図7には、彩度が「0」のときに補正量が「0」で、彩度が補間データN_Hの彩度値のときに、補正量が差分補間データN_allの彩度差分値となる1次関数q_1と、彩度が「0」のときに補正量が「0」で、彩度が補間データN_Hの彩度値のときに、補正量が差分補間データN_allの明度差分値となる一次関数q_2とが示されている。
1次関数が生成されると、格子点データNが一次関数q_1,q_2を使って色補正される(図5のステップS18)。まず、図7に示すように、格子点データNの彩度値が取得され、上の一次関数q_1に取得された彩度値が代入されることによって彩度補正量が算出され、下の一次関数q_2に取得された彩度値が代入されることによって明度補正量が算出される。彩度補正量が算出される処理は、本発明にいう彩度量算出過程の一例にあたり、明度補正量を算出する処理は、本発明にいう明度量算出過程の一例に相当する。また、色相補正量として、差分補間データN_allの補正色相量が取得される。続いて、格子点データNの彩度、明度、色相に、算出された彩度補正量、明度補正量、色相補正量が加算され、補正格子点データNが生成される。補正格子点データNが生成される過程は、本発明にいう色補正過程の一例に相当する。
補正格子点データNが生成されると、その補正格子点データNがRGB色空間の補正格子点データNに変換される(図5のステップS19)。さらに、補正格子点データNに、図2に示すマトリクス補正部330の後段から3D−LUT補正部370の前段までの間の処理が順次に施される(図5のステップS20)。本実施形態においては、マトリクス補正部330と3D−LUT補正部370との間にはガンマ補正部350が存在するため、補正格子点データNにはガンマ補正部350におけるガンマ補正処理が施される。補正格子点データNに順変換処理が施されるステップS20の処理は、本発明にいう順変換処理の一例に相当する。
さらに、パッチ色データDafと目標色データTfとが対応付けられるとともに、図5のステップS12において取得された格子点データNと、ステップS20においてガンマ補正処理が施された補正格子点データNとが対応付けられて3D−LUT371が生成される(図5のステップS21)。格子点データNと補正格子点データNとが対応付けられるステップS21の処理は、本発明にいう対応過程の一例に相当する。この格子点データNを取得して、補正格子点データNと対応付けられるまでの一連の処理は、全ての格子点に対して実行される(図5のステップS22:Yes)。
以上のような処理によって、パッチ色データDafは目標色データTfに色補正されるとともに、格子点データが、パッチ色データDafと目標色データTfとの差分に基づいて1次関数q_1,q_2に従って色補正される3D−LUT371が生成される。3D−LUT371は、本発明にいう色変換定義の一例にあたり、図5に示す3D−LUT371を生成する一連の処理は、本発明にいう色変換定義生成過程の一例に相当する。生成された3D−LUT371は、図2の3D−LUT補正部370に伝えられる。
図5のフローチャート図の説明を終了し、図3のフローチャート図に戻って説明する。
光プローブ10が装着されて3D−LUT371が生成されると(図5のステップS4)、被検体Pの撮影が開始される(図5のステップS5)。
光源20から発せられた光は、ライトガイド131の先端から照射され、その反射光がCCD133で受光されて画像データが生成される。画像データは信号線132を通って画像処理装置30に伝達され、暗補正部310において黒点補正処理が施された後、AWB補正部320においてホワイトバランス補正処理が施されて、マトリクス補正部330に伝達される。
マトリクス補正部330では、リニアマトリクス331を使って、画像データが分光データに変換されるとともに、画像データに対して色空間の線形変換が施される。マトリクス補正部において色補正処理が施された画像データは、ガンマ補正部350において階調補正処理が施され、3D−LUT補正部370に伝達される。
3D−LUT補正部370では、3D−LUT371を使って色補正処理が施される(図3のステップS6)。本実施形態においては、マトリクス補正部330において画像データの色空間が線形変換された後で、3D−LUT補正部370において局所的に線形的な色変換で画像の色が個々に補正されるため、3D−LUT371のサイズを抑えることができるとともに、高速で高精度な色補正処理を実行することができる。
3D−LUT補正部370において色補正処理が施された画像データは、画像処理部390において、予め用意されている表示用LUT391を使って、同時化処理、ノイズ低減処理、血管抽出処理などが施され、表示装置40に送られて、表示モニタ41上に画像データに基づいた医用画像が表示される。
以上のような処理が、撮影が終了するまで続けられる。
このように、本実施形態の内視鏡システム1によると、光プローブ10が交換されても画像データが表わす画像の色を精度良く補正することができ、画像中の異常陰影を精度良く映し出すことができる。
以上で、本発明の第1実施形態の説明を終了し、本発明の第2実施形態について説明する。本発明の第2実施形態は、図2に示す第1実施形態の内視鏡システム1とほぼ同様の構成を有している。このため、第1実施形態と同じ要素には同じ符号を付して説明を省略し、第1実施形態との相違点についてのみ説明する。
図8は、本実施形態における内視鏡システム1´の概略的な機能ブロック図である。
本実施形態の内視鏡システム1´は、図2に示す第1実施形態の内視鏡システム1とほぼ同様な構成を有してるが、本実施形態の内視鏡システム1´は、3D−LUT371と表示用LUT391とが合成される点が第1実施形態とは異なる。
本実施形態の内視鏡システム1´においては、3D−LUT380において図2に示す3D−LUT371が生成されると、その3D−LUT371が表示用LUT391と合成される。合成された合成LUT372は、3D−LUT補正部370´に伝えられる。
3D−LUT補正部370´では、光プローブ10で得られた画像データに合成LUT372を使った色処理が施されることによって、画像の色を補正する色補正処理と、図2の画像処理部390で行われていた表示モニタ41用の画像データに変換する処理とが同時に実行されることとなる。
このように、3D−LUTの後段にも表示用LUT等が存在する場合には、それらを合成した合成LUTを生成しておくことによって、ルックアップテーブルを保存する記憶容量を抑えることができるとともに、処理を高速化することができる。
ここで、上記では、光プローブが装着されるたびにリニアマトリクス331と3D−LUTを生成する例について説明したが、例えば、光プローブを識別する識別番号とリニアマトリクス331および3D−LUTとを対応付けて保存しておき、光プローブの装着によって識別番号を検出し、その識別番号と対応付けられたリニアマトリクス331および3D−LUTを利用するものであってもよい。
本発明の第1実施形態における内視鏡システムの概略構成図である 内視鏡システムの概略的な機能ブロック図である。 光プローブが画像処理装置および光源装置に装着されて被検体Pが撮影され、その撮影された医用画像が表示画面上に表示されるまでの一連の処理の流れを示すフローチャート図である。 チャート画像の一例を示す図である。 3D−LUTを生成する一連の処理の流れを示すフローチャート図である。 YHC色空間上のパッチ色データDaf、目標色データTf、および格子点データNを示す図である。 生成された一次関数の一例を示す図である。 第2実施形態における内視鏡システムの概略的な機能ブロック図である。
符号の説明
1,1´ 内視鏡システム
10 光プローブ
20 光源装置
30 画像処理装置
40 表示装置
11 プローブ部
12 操作部
13 光/信号ガイド
121 湾曲操作レバー
122 撮影ボタン
123 選択ボタン
131 ライトガイド
132 信号線
133 CCD
140 色フィルタ
150 A/D変換部
160 撮像制御部
300 保存部
310 暗補正部
320 AWB補正部
330 マトリクス補正部
331 リニアマトリクス
340 マトリクス生成部
350 ガンマ補正部
360 全体制御部
370 3D−LUT補正部
371 3D−LUT
380 3D−LUT生成部
390 画像処理部
391 処理用LUT

Claims (8)

  1. 画像を読み取って該画像を表わす画像データを生成する入力デバイスによって相互に色が異なる複数の色パッチそれぞれが読み取られて得られる、該複数の色パッチそれぞれの色を所定の色空間上の座標で表現した複数のパッチ色データを取得するパッチ色データ取得過程と、
    前記複数のパッチ色データと、前記複数の色パッチそれぞれに対する目標色を前記色空間上の座標で表現した複数の目標色データとの差分に基づいて、該複数のパッチ色データを該複数の目標色データに近似させる、前記色空間の線形変換を表した補正マトリクスを生成するマトリクス生成過程と、
    前記複数のパッチ色データが前記補正マトリクスによって変換された複数の変換パッチ色データを前記複数の目標色データに変換するとともに、前記色空間上の各座標を表した各色データに対しては、該複数の変換パッチ色データと該複数の目標色データとの複数の差分のうち、該座標に応じた一部の差分に基づいて線形的な補間で求められる補正量の色補正を行う色変換を定義した色変換定義を生成する色変換定義生成過程とを有することを特徴とする色変換定義作成方法。
  2. 前記色変換定義生成過程は、前記色空間上の座標で色が表現された色データを、座標軸と、該座標軸周りの角度と、該座標軸からの距離とで明度、色相、彩度を表した円筒座標色空間上の座標で色が表現された色データに変換し、該円筒座標色空間上で前記補間を行うものであることを特徴とする請求項1記載の色変換定義作成方法。
  3. 前記円筒座標色空間は、明度および彩度が色の輝度にリニアな色空間であることを特徴とする請求項1又は2記載の色変換定義作成方法。
  4. 前記色変換定義生成過程は、
    補間対象の色データについては、複数の変換パッチ色データのうち、その補間対象の色データの色相を挟む2つの変換パッチ色データを選択する選択過程と、
    前記選択過程で選択された2つの変換パッチ色データを、該2つの変換パッチ色データと前記補間対象の色データとの間の色相比で明度、彩度のそれぞれについて線形補間することにより基準データを生成する基準生成過程と、
    前記選択過程で選択された2つの変換パッチ色データと前記補間対象の色データとの間の色相比で該2つの変換パッチ色データとそれら2つの変換パッチ色データに対応した2つの目標色データとの各差分を線形補間することにより、前記基準データに対する補正量を表した基準補正データを生成する基準補正過程と、
    彩度が0のときに彩度補正量が0で、かつ彩度が前記基準データの彩度と同じであるときに彩度補正量が前記基準補正データが表わす彩度補正量に等しくなる1次関数に前記補間対象の色データの彩度を適用して彩度補正量を算出する彩度量算出過程と、
    彩度が0のときに明度補正量が0で、かつ彩度が前記基準データの彩度と同じであるときに明度補正量が前記基準補正データが表わす明度補正量に等しくなる1次関数に前記補間対象の色データの彩度を適用して明度補正量を算出する明度量算出過程とを有するものであることを特徴とする請求項2又は3記載の色変換定義作成方法。
  5. 前記色変換定義は、前記色変換の前の色データと色変換の後の色データとが対応付けられたルックアップテーブルであることを特徴とする請求項1から4のうちいずれか1項記載の色変換定義作成方法。
  6. 前記補正マトリクスおよび前記色変換定義生成が、該補正マトリクスを使った色補正と該色変換定義に従った色変換との間に他の色処理が施される一連の色変換処理に用いられるものであり、
    前記色変換定義生成過程は、
    前記色空間の格子点を表わす格子点データに、前記色処理の逆変換処理を施す逆変換過程と、
    前記逆変換処理が施された格子点データに対する前記補正量を線形的な補間で算出し、該格子点データに該補正量の色補正を施して補正格子点データを生成する色補正過程と、
    前記補正格子点データに、前記色変換との間の色処理を施す順変換過程と、
    前記順変換過程で前記色処理が施された補正格子点データを前記色変換処理前の格子点データと対応付ける対応過程とを有することを特徴とする請求項1から5のうちいずれか1項記載の色変換定義作成方法。
  7. 画像を読み取って該画像を表わす画像データを生成する入力デバイスによって相互に色が異なる複数の色パッチそれぞれが読み取られて得られる、該複数の色パッチそれぞれの色を所定の色空間上の座標で表現した複数のパッチ色データを取得するパッチ色データ取得部と、
    前記複数のパッチ色データと、前記複数の色パッチそれぞれに対する目標色を前記色空間上の座標で表現した複数の目標色データとの差分に基づいて、該複数のパッチ色データを該複数の目標色データに近似させる、前記色空間の線形変換を表した補正マトリクスを生成するマトリクス生成部と、
    前記複数のパッチ色データが前記補正マトリクスによって変換された複数の変換パッチ色データを前記複数の目標色データに変換するとともに、前記色空間上の各座標を表した各色データに対しては、該複数の変換パッチ色データと該複数の目標色データとの複数の差分のうち、該座標に応じた一部の差分に基づいて線形的な補間で求められる補正量の色補正を行う色変換を定義した色変換定義を生成する色変換定義生成部とを備えたことを特徴とする色変換定義作成装置。
  8. 光を発する光源と、前記入力デバイスとを備えた光プローブと、
    請求項7に記載の色変換定義作成装置と、
    前記色変換定義作成装置で生成された補正マトリクスおよび色変換定義を使って、前記入力デバイスで得られた画像データに色変換処理を施す色変換装置と、
    前記色変換装置で色変換処理が施された画像データが表わす画像を表示する表示装置とを備えたことを特徴とする内視鏡システム。
JP2007249808A 2007-09-26 2007-09-26 色変換定義作成方法、色変換定義作成装置、および内視鏡システム Expired - Fee Related JP4875578B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007249808A JP4875578B2 (ja) 2007-09-26 2007-09-26 色変換定義作成方法、色変換定義作成装置、および内視鏡システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007249808A JP4875578B2 (ja) 2007-09-26 2007-09-26 色変換定義作成方法、色変換定義作成装置、および内視鏡システム

Publications (2)

Publication Number Publication Date
JP2009081695A true JP2009081695A (ja) 2009-04-16
JP4875578B2 JP4875578B2 (ja) 2012-02-15

Family

ID=40656124

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007249808A Expired - Fee Related JP4875578B2 (ja) 2007-09-26 2007-09-26 色変換定義作成方法、色変換定義作成装置、および内視鏡システム

Country Status (1)

Country Link
JP (1) JP4875578B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010213746A (ja) * 2009-03-13 2010-09-30 Fujifilm Corp 内視鏡画像処理装置および方法ならびにプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11205620A (ja) * 1998-01-07 1999-07-30 Fuji Photo Film Co Ltd 3次元ルックアップテーブルの補正法およびこれを行う画像処理装置ならびにこれを備えたデジタルカラープリンタ
JP2006211369A (ja) * 2005-01-28 2006-08-10 Pentax Corp 色変換マトリクス算出方法および画像信号処理装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11205620A (ja) * 1998-01-07 1999-07-30 Fuji Photo Film Co Ltd 3次元ルックアップテーブルの補正法およびこれを行う画像処理装置ならびにこれを備えたデジタルカラープリンタ
JP2006211369A (ja) * 2005-01-28 2006-08-10 Pentax Corp 色変換マトリクス算出方法および画像信号処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010213746A (ja) * 2009-03-13 2010-09-30 Fujifilm Corp 内視鏡画像処理装置および方法ならびにプログラム

Also Published As

Publication number Publication date
JP4875578B2 (ja) 2012-02-15

Similar Documents

Publication Publication Date Title
US7627189B2 (en) Sharpness adjustment method and program and electronic endoscope apparatus
JP5190944B2 (ja) 内視鏡装置および内視鏡装置の作動方法
JP5467754B2 (ja) 電子内視鏡用信号処理装置および電子内視鏡装置
JP6420230B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
US7791651B2 (en) Brightness adjustment method and image processing apparatus
EP2505121B1 (en) Endoscope apparatus
CN105310633B (zh) 医用图像处理装置及其工作方法、以及内窥镜系统
JP6437943B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JPWO2017085793A1 (ja) 内視鏡システム、画像処理装置、画像処理方法およびプログラム
JP6629639B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
US20060082647A1 (en) Electronic endoscope apparatus
WO2017183324A1 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP2010115243A (ja) 電子内視鏡用画像信号処理装置
WO2017110180A1 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
US11510549B2 (en) Medical image processing apparatus and medical observation system
CN106163367A (zh) 医用图像处理装置及其工作方法以及内窥镜系统
US20060087557A1 (en) Electronic endoscope apparatus
JP6218709B2 (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
JP5173130B2 (ja) 電子内視鏡装置
JPWO2018142658A1 (ja) 内視鏡システム
JP2006142002A (ja) 電子内視鏡装置
US10646102B2 (en) Processor for electronic endoscope, and electronic endoscope system
JP2008093225A (ja) 内視鏡システム及び内視鏡システムにおける画像処理方法
JP4606838B2 (ja) 電子内視鏡装置
JP4875578B2 (ja) 色変換定義作成方法、色変換定義作成装置、および内視鏡システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100312

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100312

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20100312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100312

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111101

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111125

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141202

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4875578

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees