JP4314001B2 - 画像表示装置 - Google Patents
画像表示装置 Download PDFInfo
- Publication number
- JP4314001B2 JP4314001B2 JP2002267519A JP2002267519A JP4314001B2 JP 4314001 B2 JP4314001 B2 JP 4314001B2 JP 2002267519 A JP2002267519 A JP 2002267519A JP 2002267519 A JP2002267519 A JP 2002267519A JP 4314001 B2 JP4314001 B2 JP 4314001B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- gradation conversion
- gradation
- conversion characteristic
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000006243 chemical reaction Methods 0.000 claims description 156
- 238000012545 processing Methods 0.000 claims description 53
- 230000006870 function Effects 0.000 claims description 48
- 238000000605 extraction Methods 0.000 claims description 28
- 238000004364 calculation method Methods 0.000 claims description 18
- 238000005259 measurement Methods 0.000 claims description 8
- 238000003860 storage Methods 0.000 claims description 5
- 238000000034 method Methods 0.000 description 23
- 238000010586 diagram Methods 0.000 description 15
- 238000009499 grossing Methods 0.000 description 13
- 230000015654 memory Effects 0.000 description 13
- 238000007689 inspection Methods 0.000 description 12
- 210000001370 mediastinum Anatomy 0.000 description 10
- 238000011156 evaluation Methods 0.000 description 8
- 238000003909 pattern recognition Methods 0.000 description 8
- 238000009826 distribution Methods 0.000 description 7
- 210000004072 lung Anatomy 0.000 description 7
- 230000002123 temporal effect Effects 0.000 description 7
- 230000007423 decrease Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000005484 gravity Effects 0.000 description 4
- 238000003745 diagnosis Methods 0.000 description 3
- 238000002594 fluoroscopy Methods 0.000 description 3
- 238000012886 linear function Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000010521 absorption reaction Methods 0.000 description 2
- 238000002583 angiography Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 210000001035 gastrointestinal tract Anatomy 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000000630 rising effect Effects 0.000 description 2
- 210000001015 abdomen Anatomy 0.000 description 1
- 210000000038 chest Anatomy 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 210000003141 lower extremity Anatomy 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000012887 quadratic function Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000000087 stabilizing effect Effects 0.000 description 1
- 230000008961 swelling Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Landscapes
- Apparatus For Radiation Diagnosis (AREA)
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は画像表示装置に係り、特に医用画像の階調処理により、診断に最適な画像を表示する画像表示装置に関する。
【0002】
【従来の技術】
X線診断システムでは、画像中央の輝度が一定となるようにX線条件を制御する自動露出制御が行われている。例えば、画像中央にX線吸収の高い被写体(縦隔等)がある場合にはX線条件が増加し、画像中央にX線吸収の低い被写体(肺等)がある場合にはX線条件が減少する。
【0003】
また、X線診断システムでは、従来から透視像や撮影像に対して階調処理が行われており、ユーザにより必要に応じて手動調整が行われている。しかし、階調変換特性の手動調整は煩雑なため、透視像では階調は固定のまま使用される場合が多い。
【0004】
このため、X線診断システムにおいて、固定階調処理で、自動露出制御下でアンギオ検査を行う場合、X線照射領域の中央が縦隔の場合にはX線条件が高く、また縦隔に重複したカテーテルやガイドワイヤー等の関心対象物のコントラストは高い(図11a)。しかし、X線照射領域の中央が縦隔から肺に移動した場合には、画像中央にある肺の領域の輝度が一定になるようにX線条件が低下し、画像の辺縁に位置する縦隔と重複するカテーテル等のコントラストが低下し、黒つぶれしたように見える場合があった(図11b)。また、Cアームの角度を変化させた場合にも、カテーテル等のコントラストが低下する場合があった。
【0005】
ここで、X線照射領域の中央が縦隔であり、かつ固定的階調処理を行った表示画像における縦隔と重複するカテーテル先端の水平方向のプロファイルと、X線照射領域の中央が肺であり、かつ固定階調処理を行った表示画像における縦隔と重複するカテーテル先端の水平方向のプロファイルとを示す(図12)。X線照射領域の中央が縦隔から肺へ変化することで、カテーテルのコントラストが低下してしまう(コントラストC1→C2)。
【0006】
そこで、X線照射領域が移動する場合でも、低輝度側にある関心対象物のコントラストを高く保持するためには、X線照射領域の中央が肺の場合(X線条件が低下する場合)、低輝度側のコントラストの低下を防ぐように、つまり低輝度側のコントラストを向上させるように、階調変換特性を自動的に調節する自動階調処理が必要である。
【0007】
[特許文献1]に記載されている自動階調処理は、複数の階調変換特性を事前にテーブルデータメモリ部に設定し、ヒストグラム平坦化法を用いて入力画像の階調変換特性を決定し、決定した階調変換特性と近似する階調変換特性を選択し、入力画像の階調変換処理を行う。尚、階調変換特性を算出する例として挙げられているヒストグラム平坦化法は、入力画像において画素値の頻度が低い領域のコントラストを低下させ、頻度が高い領域のコントラストを向上させる処理である。
【0008】
一方、[特許文献2]に記載されている自動階調処理は、検出器の入力面でX線量が零となる場合の、入力画像の画素値(最小値)と出力画像の画素値からなるオフセット点と、X線量が中間的な場合の入力画像の画素値とその出力画像の画素値からなる中間点と、そしてX線量が最大となる場合の、入力画像の画素値(最大値)とその出力画像の画素値からなるピーク点との3点を結ぶ折れ線を滑らかに近似するような階調変換特性を決定し、入力画像の階調処理を行う。
【0009】
【特許文献1】
特開平6-149204号公報
【特許文献2】
特開平10-84504号公報
【0010】
【発明が解決しようとする課題】
ところで、X線透視像では、画素値の頻度が低い領域であっても関心領域となる場合がある。例えば、画像中央に広く肺野があり、画像の辺縁に縦隔と重複するようにカテーテルや、ガイドワイヤー等がある場合である。このような画像に対し、[特許文献1]に記載のヒストグラム平坦化法を適用すると、ガイドワイヤー等のコントラストが逆に低下するという問題がある。
【0011】
一方、[特許文献2]に記載の方法は、入力画像に対して、オフセット点、中間点、そしてピーク点からなる3点を通過する折れ線を近似する曲線をフレーム毎に生成する必要があるため、計算量が非常に大きく、X線透視像のような秒30フレームというような動画に適用するには演算回路が大規模になるという問題がある。また、この方法では、関心領域のコントラストが高くなるように、複数枚のX線画像の画質を評価しながらパラメータの微調整を行い、これらの操作を何度も繰り返す必要があるため、パラメータの最適化が煩雑であるという問題がある。
【0012】
本発明はこのような事情を鑑みてなされたもので、各種の入力画像の特徴量に基づいて選択可能な最適な階調変換特性を漏れなく容易に準備することができ、入力画像に対して最適な階調変換特性を選択することにより、診断に最適な画像を表示することができる画像表示装置を提供することを目的とする。
【0013】
【課題を解決するための手段】
請求項1に係る発明は、前記目的を達成するために、画像表示手段に表示された画像である教師画像を参照しながら画像計測手段により計測された入力画像に対する階調変換特性を設定する階調操作手段と、前記入力画像からクラスタ平均値の最大値及び最小値を抽出する画像特徴抽出手段と、 前記抽出されたクラスタ平均値の最大値及び最小値から複数の教師画像のクラスタ平均値の最大値及び最小値と、当該複数の教師画像に対してそれぞれ前記階調操作手段によって設定された複数の階調変換特性とを記憶する階調変換特性記憶手段と、前記記憶された複数のクラスタ平均値の最大値及び最小値と複数の階調変換特性とを用いて前記入力画像の所定領域内に分布する新たな特徴量と新たな階調変換特性とを生成する最適階調処理学習手段とを備え、前記最適階調処理学習手段は、複数の教師画像のクラスタ平均値の最大値及び最小値の組に、各荷重係数の組を用いて荷重和を計算し、各教師画像に対応する新しい特徴量を生成する画像特徴量荷重和計算手段と、各教師画像に最適な階調変換特性を関数で近似し、その近似関数の階調変換特性の特徴量を出力する階調変換特性特徴抽出手段と、前記階調変換特性特徴抽出手段により抽出された最適な階調変換特性の特徴量を、前記画像特徴量荷重和計算手段により得られた特徴量を入力変数とした関数で近似する階調変換特性特徴量近似手段とを有し、前記画像表示手段は、前記生成された新たな特徴量に対応する新たな階調変換特性によって階調変換された前記入力画像を表示することを特徴としている。
【0014】
本発明によれば、抽出した複数の教師画像の特徴量と、表示される教師画像を見ながら手動で設定した複数の階調変換特性とを用いて、新たな複数の画像特徴量と各画像特徴量に対応する階調変換特性とを自動的に生成して記憶するようにする。これにより、教師画像の階調変換特性を容易に設定することができ、診断等に最適な画像を効率良く提供するようにしている。
【0015】
請求項2に係る画像表示装置は、前記記憶手段に記憶される複数の階調変換特性は、X線による被検体の検査部位あるいは検査法ごとに分類され、前記階調設定手段は、入力画像の特徴量と、前記記憶手段に記憶されている該入力画像の検査部位あるいは検査法と同じ検査部位あるいは検査法の中の複数の画像特徴量とを比較し、最も類似する画像特徴量に対応する階調変換特性を選択することを特徴としている。即ち、入力画像の特徴量と検査部位あるいは検査法とに基づいてその入力画像に対して最適な階調変換特性を選択するようにしている。
【0016】
更に、画像表示装置は、前記記憶手段から階調変換特性を選択するための情報に対応してX線発生器から発生するX線量の情報を記憶するX線条件判定テーブルを有し、前記階調変換特性を選択するための情報に基づいて前記X線条件判定テーブルからX線量の情報を読み出して前記X線発生器のX線条件を設定することを特徴としている。即ち、X線条件を最適にすることにより、画質を改善することができる。
【0017】
請求項3に係わる発明は、請求項1に記載した最適階調処理学習手段に、階調操作手段により設定された各教師画像に対応する階調変換特性を関数で近似し、階調変換特性の特徴(近似関数のパラメータ)を抽出する階調変換特性特徴抽出手段と、前記画像特徴抽出手段から得られた教師画像の特徴量の組に対し、予め設定した荷重係数の組を用いて荷重和を計算することで、教師画像の特徴量の組を1つの画像特徴量に変換する画像特徴量荷重和計算手段と、前記階調変換特性特徴抽出手段から得られた階調変換特性の各々の特徴量を、前記画像特徴量荷重和計算手段から得られた新しい画像特徴量の関数で近似する階調変換特性特徴量近似手段とを備えたことを特徴としている。
【0018】
請求項3に係る画像表示装置は、複数の教師画像の特徴量の組から、最適な階調変換特性の特徴量の組を決定する際に、最適な階調変換特性の各特徴量の近似精度(決定係数、相関係数の絶対値等)が最大となるような、画像特徴量の荷重和を行った新しい画像特徴量を用いることで、操作者が求める表示画像の画質をより正確に反映させることが可能となり、また自動階調処理の汎用性を向上することができ、画質を向上することができる。
【0019】
【発明の実施の形態】
以下添付図面に従って本発明に係る画像表示装置の好ましい実施の形態について詳説する。
【0020】
図1は、本発明に係る画像表示装置の第1の実施の形態を示すブロック図である。図1に示すように、本発明に係る画像表示装置は、主として画像計測部101、平滑化処理部102、画像特徴抽出部103、パターン認識部104と、最適階調処理学習部105と、テーブルデータメモリ部106、LUT (ルックアップテーブル)107と、画像表示部108と、操作卓109とから構成される。
【0021】
画像計測部101は、例えば、イメージインテンシファイア(I.I.)により、被検体を透過したX線の空間的強度分布を可視光の空間的強度分布に変換し、CCDカメラ等により可視光の空間的強度分布をフレーム画像データに変換するI.I.−CCD系を使用することができる。
【0022】
また、画像計測部101は、I.I.−CCD系に限らず、X線平面検出器や、イメージングプレートを用いたCR、X線CT装置、MRI、超音波診断装置等を使用することができる。あるいは、カラー画像であるデジタルカメラも使用することができる。
【0023】
平滑化処理部102は、画像計測部101により得られた入力画像から、階調処理の制御に不要な時間的、あるいは空間的、あるいは時空間的な高周波数成分を除去するためのものである。平滑化処理部102には、空間フィルタ(例:カーネルサイズ16×16画素の平均値フィルタ)、動き検出型リカーシブフィルタ(特開平6-169920号公報)、そして空間フィルタと動き検出型リカーシブフィルタを組み合わせた時空間フィルタ等を使用することができる。
【0024】
また、平滑化処理部102は、高速化を図るために、画像計測部101から得られた入力画像(例:1024×1024画素)を水平・垂直方向に各々間引いた後に、メッシュ状に小領域(例:8×8画素)に領域分割し、そして領域分割した個々の領域(クラスタ)の平均値を計算する方式でもよい。
【0025】
画像特徴抽出部103は、一例として、最小値選択器と最大値選択器から構成される。外部から設定された関心領域情報(例:形状(円)、サイズ(直径が画像サイズの90%))に基づき、平滑化処理部102の出力画像(例:画像を小領域(クラスタ)に分割した後の、各クラスタの平均画素値の集合)から、画像特徴抽出部103により関心領域内のクラスタ最小値とクラスタ最大値が抽出される。
【0026】
画像特徴抽出部103により抽出される特徴量の他の例としては、画像中央部(例:形状(円)、サイズ(直径が画像サイズの90%))の平均値、最頻値等がある。また、関心領域情報は、操作卓109に付属する検査項目選択ボタンにより、検査部位(頭部、胸部、腹部、下肢等)や検査法(アンギオ検査、上部消化管検査、下部消化管検査等)に応じて形状やサイズ等を変更することができる。
【0027】
また、画像特徴抽出部103は、最小値選択器と最大値選択器だけではなく、最小値選択器の後段に動き検出型リカーシブフィルタ(特開平6-169920号公報)や、最大値選択器の後段に動き検出型リカーシブフィルタを追加した構成でもよい。あるいは、画像特徴抽出部103は、最小値選択器と最大値選択器だけではなく、最小値選択器の後段に、ある閾値を超えた場合にのみ値を更新する不感帯処理や、最大値選択器の後段に、ある閾値を超えた場合にのみ値を更新する不感帯処理を設けた構成でもよい。このように、画像全体の各画素の時間変化に対してではなく、画像の各特徴量の時間変化に対して非線形的なデジタル処理を行うことで、回路構成を小さくすることが可能である。
【0028】
また、 画像特徴抽出部103は、図2に示すように、最小値選択器201、メモリ202〜204と、最大値選択器205、メモリ206〜208とからなる構成でもよい。
【0029】
最小値選択器201は、外部から設定された関心領域の情報(例:形状(円)、サイズ(画像サイズの90%))に基づき、関心領域内にある複数のクラスタ平均値の集合から、クラスタ最小値を抽出する。同様に、最大値選択器205は、クラスタ最大値を抽出する。このようにして抽出されたクラスタ最小値及びクラスタ最大値は、それぞれメモリ202〜204及び206〜208により、過去の3フレームの特徴として記憶される。そして過去4フレーム分のクラスタ最小値mint-1〜mint-4の平均値、及びクラスタ最大値maxt-1〜maxt-4が出力される。
【0030】
尚、メモリの個数は3個に限らず、時間的により緩やかな自動階調処理を行う場合には、メモリの個数を15個のように多数使用してもよい。
【0031】
あるいは、自動階調処理の時間的な安定化を図りながら、時間的な追随を高めるために、t-1フレーム目の特徴量を各々16個、t-2フレーム目の特徴量を8個、t-3フレーム目の特徴量を4個、t-4フレーム目の特徴量を2個のように過去フレームほど特徴量の多重度を低くするような方式でも良い(この場合の全特徴量の個数は60となる)。
【0032】
上述の画像特徴抽出部103によりX線透視像のような動画の実時間の自動階調処理を行う場合、X線透視直後の特徴量の時間的パターンや、X線透視直後から例えば15フレーム以上経過した時の特徴量の時間的パターンを各々多数用意し、入力パターンのパターン認識を行うことで、X線透視直後でも最適な階調処理が可能となり、かつ、画像全体の時間的変動(ちらつき)が少ない自動階調処理が可能となる。
【0033】
パターン認識部104は、図3に示すように、例えば、距離計算部301と、最小値引数選択器302とからなる。画像特徴抽出部103により抽出された画像特徴量の組(入力パターンV、例:V=(クラスタ最小値、クラスタ最大値))と、最適階調処理学習部105により設定された複数の画像特徴量の組(標準パターンPi 、例:Pi= (クラスタ最小値、クラスタ最大値))とを用いて、距離計算部301により入力パターンVと全標準パターンPiとの距離(マンハッタン距離、ユークリッド距離等)が各々計算される。そして、最小値引数選択器302により、距離計算部301から得られた複数の距離の中で最小となる標準パターンPcが選択され、その標準パターンPcに対応する階調変換特性番号Cが出力される。
【0034】
テーブルデータメモリ部106は、LUTからなり、最適階調処理学習部105により設定された複数の階調変換特性を記憶するものである。階調変換特性には、例えば入力が12bit、出力が12bitのものが使用される。
テーブルデータメモリ部106により、パターン認識部104において選択された階調変換特性番号Cに対応する階調変換特性がLUT107に設定される。そして、画像計測部101により計測された入力画像は、LUT107にて階調処理が行われる。
LUT107により出力された階調処理画像は、画像表示部108にてモニタ等に表示される。
【0035】
画像表示部108は、モニタ、CRT、液晶ディスプレイ等から構成され、LUT107から得られる階調処理されたデジタル画像信号をアナログ信号に変換し、モニタ等に表示する。あるいは、階調処理されたデジタル画像はフィルム等に出力してもよい。
【0036】
操作卓109は、画像特徴抽出部103における関心領域を変更するための検査部位項目選択ボタンや、教師画像の階調変換特性を調整するためのボタン付きマウスと、教師画像に最適な階調変換特性を最適階調処理学習部105に追加するための階調変換特性追加ボタンと、最適階調処理学習部105から以前に追加した最適な階調変換特性を削除するための階調変換特性削除ボタン等が付属している。
【0037】
次に、最適な階調変換特性を設定する方法について説明する。
操作者は、画像表示部108に表示される画像(以下、「教師画像」という)を見ながら、LUT107における最適な階調変換特性を、操作卓109により手動で設定する。即ち、画像計測部101により計測した教師画像の階調処理画像を画像表示部108で観察しながら、関心領域のコントラストが高くなるように操作卓109上のボタン付きマウスで階調変換特性を調整する。最終的に、教師画像に対して臨床的に最適な階調変換特性が得られた後、操作卓109に付属する階調変換特性追加ボタンを押すことにより、最適階調処理学習部105の中にあるハードディスク等に最適な階調変換特性が記録される。また、画像特徴抽出部103から得られた教師画像の特徴量の組(標準パターン)も最適階調処理学習部105の中にあるハードディスク等に記録される。
【0038】
図4は、最適階調処理学習部105の処理手順を示すフローチャート(複数の標準パターンと、対応する階調変換特性の生成)である。図5(a)〜図5(g)は、フローチャートの各ステップの説明図である。
【0039】
まず、図5(a)に示すように、画像計測部101により教師画像をN枚(例えば、N=30)計測する(ステップS1、以降S1のように省略して記載する)。続いて、図5(b)に示すように、操作者は、画像表示部108に表示される教師画像の階調処理画像と階調変換特性Fi(x)を目視しながら、操作卓109に付属したボタン付きマウスにより、各教師画像に臨床的に最適な階調変換特性Fi(x)を設定する(S2)。次に、図5(c)に示すように、画像表示部108に表示される教師画像の階調処理画像を目視しながら、操作卓109に付属するボタン付きマウスを用いて、教師画像の関心領域ROIを設定する(S3)。
【0040】
例えば、心臓のX線検査の場合には、撮影角度や被写体位置、X線絞り等に関係なく固定的な関心領域(例:円領域、直径は画像サイズの90%)とすれば良い。
【0041】
画像特徴抽出部103は、教師画像をメッシュ状に分割し(図5(c))、各小領域(クラスタ)の平均値(クラスタ平均値)を計算し、教師画像の関心領域ROIi内のクラスタ平均値の中から最小値(クラスタ最小値mini)や、最大値(クラスタ最大値maxi)を抽出し、これを最適階調処理学習部105に出力する(標準パターンPi=(mini,maxi)、図5(d))。
【0042】
次に、図5(e)に示すように、標準パターンPiの分布領域(例:四角形,八角形)を決定する(S5)。次に、図5(f)に示すように、標準パターンPiの分布領域内で、偏りが少ないn点の標準パターンPj'(Pj'=(minj',maxj')を決定する(S6)。そして、図5(g)に示すように、類似した標準パターンPj'に対して、類似した階調変換特性Fj' (x)となるように、標準パターンPiと対応する階調変換特性Fi (x)を用いて、標準パターンPj'に対応する階調変換特性Fj' (x)を決定する(S7)。
【0043】
あるいは、標的パターンPiを線形変換した後に、偏りが少ないn点の標準パターンPj'を決定するような方式も可能である。このような画像特徴量の正規化処理の追加により、画像の各特徴量に対する自動階調処理における階調変換特性の感度を一定にすることが可能である。
【0044】
次に、図6に示すように、m点の標準パターンPiと、各々に対応する最適な階調変換特性Fi (x)を用いて、n点の標準パターンPj'に対応する階調変換特性Fj'(x)の決定方法について説明する。
【0045】
まず、標準パターンPj'と全標準パターンPi(P1,P2,P3,…)との距離dj,iを計算する(例:マンハッタン距離)。
【数1】
【0046】
続いて、m点の標準パターンPiの重心Pc(Pc=(minc,maxc))を計算し、標準パターンPj'と重心Pcとの距離dj'を計算する。
【数2】
【0047】
次に、標準パターンPj'と重心Pcとの距離dj'が大きくなるほど、値が小さくなる係数β(例えば、ガウス関数)を決定する。
【数3】
【0048】
尚、係数β0は係数βの最大値とし、係数αはガウス関数の広がりを表すパラメータである。仮に、係数αの値が非常に大きい場合、係数βは標準パターンPj'の重心Pcからの距離dj, iに寄らず一定値β0となる。
【0049】
次に、標準パターンPiと標準パターンPj'との距離dj, iが小さくなるほど、値が大きくなる係数wj, iを決定する(例えば、ガウス関数)。
【数4】
【0050】
ここで、ガウス関数は距離dj, iが大きい場合、係数wj,iは非常に小さくなるため、ガウス関数が最小値wminを超えない場合にはwminとする。例えば、最小値w minは0.00001とすればよい。また、本発明を透視像のような動画に適用する場合には、最小値wminをより1に近い値(例:wmin=0.01,m=20)にすることにより、出力画像(階調処理画像)のちらつき(画素値の時間変動)を低減することができる。
【0051】
次に、標準パターンPiに対応する階調変換特性Fi(x)の各成分(例:Fi(0)、Fi(1)、...、Fi(4095)毎に係数w j, iを乗算し、それらの総和を計算し、この総和を係数wj, iの総和で除算することにより、図5(f)に示すように、クラスタ最小値とクラスタ最大値からなる2次元の特徴空間上で滑らかに定義された階調変換特性の集合{Fj'(x)}が生成される。
【0052】
【数5】
【0053】
また、m点の標準パターンPiと各々に対応する階調変換特性Fi (x)を用いて、n点の標準パターンPj'に対応する階調変換特性Fj'(x)を決定するには、入力xに依存した、特徴空間上で非対称的なガウス関数を使用してもよい。
【0054】
【数6】
【0055】
例えば、入力xが小さい場合には、クラスタ最小値方向のガウス関数の広がりβh(x)がクラスタ最大値方向のガウス関数の広がりβv(x)より小さいガウス関数を使用し、入力xが大きい場合には、クラスタ最大値方向のガウス関数の広がりβv(x)がクラスタ最小値方向のガウス関数の広がりβh(x)より小さいガウス関数を使用してもよい。このような入力に依存した非対称的なガウス関数を使用して階調変換特性の平滑化を行うことで、階調処理画像における黒つぶれやハレーションを防ぐとともに、関心領域のコントラストが高い画像を表示することができる。
【0056】
次に、本発明に係る画像表示装置の第2の実施の形態について説明する。
図7は、第2の実施の形態について画像表示装置のハードウェア構成例を示すブロック図である。尚、図1に示した第1の実施の形態と共通する部分には同一の符号を付し、その詳細な説明は省略する。
【0057】
図7に示すように、第2の実施の形態における画像表示装置は、第1の実施の形態に、X線条件判定テーブル701を接続して構成される。X線条件判定テーブル701は、階調変換特性(階調変換特性番号C)に対応してX線発生器(図示せず)から発生すべきX線量の情報を記憶しており、パターン認識部104からの階調変換特性番号Cに基づいて、対応するX線量の情報を読み出してX線発生器のX線条件を設定する。
【0058】
第1の実施の形態では、入力画像に対して最適な階調変換特性を選択することができるが、選択された特性によってはX線条件を増減させた方が画質が改善される場合がある。例えば、黒つぶれが発生した画像の場合に低輝度部のコントラストを増加させる階調変換特性を選択して表示を改善するが、本来ならばX線条件を増加させた方が黒つぶれ部のS/Nを改善できる。そこで、前述の階調変換特性を選択した場合に、X線発生器に対して線量増加の情報を合わせて出力することにより、画質を改善することができる。また、入力画像にハレーションが発生した場合に高輝度部分のコントラストを抑えて画質を改善するが、同様に線量低減の情報を出力することによって画質を改善することが可能となる。いずれの場合も線量変動に伴って、常に最適な階調変換特性を選び続けることにより、常に適正な表示画像を得ることができる。この実施の形態では、被検者の動き等で一時的にX線条件が最適値から外れたときに、まず最適な階調変換特性により適正化した画像を表示して、その後、X線条件が最適値へ導かれる。ビデオ信号を平滑化した情報によりX線条件を制御する機構が設けられている場合でも、その微調整機能としてX線条件判定テーブル701の出力信号を使用しても良い。
【0059】
なお、標準パターンの分布領域内で、新しく複数の標準パターンを決定し、その決定した標準パターンに各々対応する新しい階調変換特性を生成する際の計算手法は、この実施の形態に限定されない。例えば、等間隔に複数の標準パターンを決定し、各々に対応する階調変換特性を線形補間的に決定すること等も可能である。また、画像特徴抽出部によって抽出される入力画像の特徴量は、その入力画像のクラスタ最大値、クラスタ最小値に限らず、階調変換特性の特徴量(出力値がダイナミックレンジの5%となる入力値,出力値がダイナミックレンジの95%となる入力値等)と相関が高い入力画像の特徴量であれば、いかなるものでもよい。
【0060】
また、入力画像の特徴量に基づいて対応する階調変換特性を選択する際に、入力画像の特徴量とともに、X線の検査部位あるいは検査法の情報を利用してもよい。即ち、テーブルデータメモリ部に検査項目(検査部位、検査法)ごと区分してそれぞれ複数の階調変換特性を記憶させておき、操作卓の検査項目選択ボタンによって入力画像が示す検査部位あるいは検査法が選択されると、この選択された検査部位あるいは検査法に対応する階調変換特性の中から、入力画像に対する最適な階調変換特性を選択するようにしてもよい。
【0061】
次に、本発明に係る画像表示装置の第3の実施の形態について説明する。
図8は、本発明に係る画像表示装置の第1の実施の形態の中の最適階調処理学習部の実施の形態を示すブロック図である。図8に示すように、本発明に係る最適階調処理学習部は、主として画像特徴量荷重和計算部801、階調変換特性特徴抽出部802、階調変換特性特徴量近似部803、近似精度評価部804、最大値選択部805、画像特徴量設定部806、階調変換特性設定部807とから構成される。
【0062】
画像特徴量荷重和計算部801は、ある係数の組(荷重係数の組)を多数生成した後、図1の画像特徴抽出部103から得られた各教師画像の関心領域内の特徴量の組に、各荷重係数の組を用いて荷重和を計算し、各教師画像に対応する新しい特徴量を生成するものである。また、画像特徴量荷重和計算部801により生成された教師画像に対応する新しい特徴量は、画像特徴量荷重和計算部801の中にあるハードディスク等に記憶する。
【0063】
もし、画像の特徴量として、画像を空間的に平滑化した後の円領域内(直径90%)の最小値minや、最大値maxを使用する場合には、数7〜9のような荷重和を計算し、2つの特徴量から新しい1つの特徴量r(i)を生成する。また、荷重係数の組(例:(W1,W2))は複数(N1個)用意し、ハードディスク等に記憶する。
【数7】
【数8】
【数9】
【0064】
あるいは、画像の特徴量として、画像を空間的に平滑化した後の最小値min、最大値max、そして画像の中央の円領域内(直径70%)の平均値avr70を使用する場合には、数10〜13のような荷重和を計算し、3つの特徴量から新しい1つの特徴量r(i,j)を生成する。また、荷重係数の組(例:(W1,W2,W3))は複数(N1 * N2個)用意し、ハードディスク等に記憶する。
【数10】
【数11】
【数12】
【数13】
【0065】
あるいは、画像の特徴量として、画像を空間的に平滑化した後の円領域内(直径90%)の最小値min、最大値max、画像の中央の円領域内(直径70%)の平均値avr70、そして画像の中央の円領域内(直径90%)の平均値avr90を使用する場合には、数14〜18のような荷重和を計算し、4つの特徴量から新しい1つの特徴量r(i,j,k)を生成する。また、荷重係数の組(例:(W1,W2,W3,W4))は複数(N1*N2*N3個)用意し、ハードディスク等に記憶する。
【数14】
【数15】
【数16】
【数17】
【数18】
【0066】
階調変換特性特徴抽出部802は、各教師画像に最適な階調変換特性を関数で近似し、その近似関数のパラメータ(階調変換特性の特徴量)を出力するものである。
まず、最適な階調変換特性が立ち上がる通過点(立ち上がり点=(X1,Y1))を求め、階調変換特性の近似関数の通過点とする。
【0067】
また、最適な階調変換特性の出力値が最大となる(飽和する)入力値の中で、入力値が最小となる値X3_1を求め、その際の最適な階調変換特性の通過点(飽和開始点=(X3_1,Y3_1))を求め、階調変換特性の近似関数の通過点とする。
【0068】
また、最適な階調変換特性の局所的な傾きθ(角度)を求め、階調変換特性の入力値を、最大値(例:4095)から立ち上がりの入力値X1まで変化させ、ある閾値を超えるような局所的な傾きの不連続点(X3_2,Y3_2)を探索する。そして、階調変換特性の局所的な傾きに不連続点がある場合には、入力値X3_1と入力値X3_2を比較して、小さい方を近似関数の通過点(X3,Y3)とする。あるいは、階調変換特性の局所的な傾きに不連続点がない場合には、(X3,Y3)の通過点はX3_1,Y3_1)とする。このように、階調変換特性の局所的な傾きθと、階調変換特性の高輝度側の飽和開始点(X3_1,Y3_1)を利用することで、階調変換特性の曲線が変化している変曲点を精度良く検出することができる。
【0069】
次に、一般的な固定階調処理では見えにくい、縦隔と重複する関心対象物(例:アンギオ検査で使用されるX線透視像の場合では、ガイドワイヤーやカテーテル)の画素値を予め計測し、その凡その上限値(X2)を階調変換特性特徴抽出部802に設定する。
【0070】
次に、最適な階調変換特性を、入力値が[X1, X2]の場合と、入力値が[X2, X3]の場合とに区分して、各々ある関数で近似を行う。近似関数には、1次直線(数19)、2次曲線(数20)、対数曲線(数21)、べき乗曲線(数22)、ロジスティック曲線(数23)、ゴンペルツ曲線(数24)等が使用できる。
【数19】
【数20】
【数21】
【数22】
【数23】
【数24】
【0071】
ここでは、最適な階調変換特性の2つの近似関数に、対数曲線(数21)を用いた場合について説明する。まず、対数曲線が(X1,Y1),(X2,Y2)を通過することから、対数曲線は以下の式で表される。
【数25】
【数26】
【数27】
【数28】
【0072】
ここで、変数DLは対数曲線のカーブの膨らみ具合を表し、変数DLが1に近い程、対数曲線は直線に近づく。
対数曲線の変数DLは、入力値が[X1,X2]の範囲内において、最適な階調変換特性と、対数曲線との最小自乗解とする。最小自乗解の計算例としては、最適な階調変換特性y(x)と対数曲線y(x) との自乗誤差をEとする(数29)。
【数29】
【0073】
次に、自乗誤差Eの変数DLに関する変微分係数を用いて、自乗誤差Eが最小となるように、変数DLを繰り返し修正し、変数DLが収束するまで繰り返す(数30)。そして、このようにして得られた変数DLを近似関数のパラメータ(階調変換特性の特徴量)とする。
【数30】
【0074】
同様に、入力値が[X2, X3]の間についても、対数曲線を用いて近似を行い、通過点(X2,Y2),(X3,Y3)の条件からaH, bH, cHの変数を定義し,変数DHを求める。
【0075】
このようにして、入力値が[X1,X3]までの近似関数が決定された後、入力値が[X1,X2]における近似関数を用いて、その出力値が0となる場合の入力値の値を求める。その時の入力値をWLと定義する。また、入力値が[X2, X3]における近似関数を用いて、その出力値が出力値の最大値(例:4095)となる場合の入力値の値を求める。その時の入力値をWHと定義する。
【0076】
以上により、最適な階調変換特性は、WL, WH, Y2, DL, DHの5つのパラメータ(階調変換特性の特徴量)を用いた区分的な対数曲線により近似することができる。ここで、最適な階調変換特性と、区分的な対数曲線を用いて近似した場合の近似関数の例を図9に示す。
【0077】
次に、階調変換特性特徴量近似部803は、階調変換特性特徴抽出部802により抽出された最適な階調変換特性の特徴量(例:WL, WH, Y2, DL, DH)を、画像特徴量荷重和計算部801により得られた特徴量rを入力変数とした関数で近似する。
近似関数には、1次関数、2次曲線、べき乗曲線等を用いれば良い。
【0078】
図10は、新しい特徴量rのべき乗曲線で、階調変換特性の1つの特徴量であるY2を近似した場合の例である。なお、べき乗曲線は階調変換特性の特徴量が正の場合にのみ有効であり、また特徴量WLは負の値もとり得るため、特徴量WLのべき乗曲線での近似は行えない。そのような階調変換特性の特徴量の近似には、例えば1次関数や2次関数等で近似すればよい。
【0079】
近似精度評価部804は、階調変換特性の各特徴量の近似関数の近似精度を評価するためのものである。近似関数の近似精度の評価値には、相関係数の絶対値(数31)や、決定係数(数32)等を使用すれば良い。
なお、近似関数が1次関数の場合には近似精度の評価は(数31)、あるいは(数32)を使用すればよいが、近似関数がべき乗曲線の場合には、階調変換特性の特徴量の近似値や測定値等を対数変換した後に評価すればよい。
【数31】
【数32】
【0080】
最大値選択部805は、近似精度評価部804において近似精度の評価値が最大となる、荷重係数の組を選択するとともに、もし近似精度の評価値が低い場合には、近似関数は使用せずに、階調変換特性の特徴量の平均とするものである。
【0081】
近似関数を使用できる条件の例としては、以下のような基準を設ければよい。
【数33】
【数34】
【0082】
画像特徴量設定部806は、教師画像の関心領域内の特徴量の組の各特徴量の変動域の上限値と下限値を求め、自動階調処理の標準パターン(例:(mini,maxi))の分布を凡そ均等になるように分布させるものである。
【0083】
また、このように決定された標準パターンの位置情報は画像特徴量設定部の中のハードディスク等に記録される。また、図1のテーブルデータメモリ部106に記憶される。
【0084】
階調変換特性設定部807は、画像特徴量設定部806により設定された多数の標準パターンに対応する階調変換特性を生成するものである。
階調変換特性設定部807は、画像特徴量設定部806により設定された多数の標準パターン(例:(mini,maxi))に対応する階調変換特性の特徴量の組(例:WL,WH,Y2,DL,DH)を計算するとともに、得られた階調変換特性の特徴量の組を用いて階調変換特性をある関数(例:区分的な対数曲線等、図9)を用いて決定する。
また、このように2つの区分的な関数により階調変換特性を決定した後に、平滑化を行うことで、2つの関数の接続点における傾きの不連続性を緩和することも可能である。
そして、このように決定された複数の階調変換特性は図1のテーブルデータメモリ部106に設定される。
【0085】
【発明の効果】
以上説明したように本発明に係る画像表示装置によれば、多数の階調変換特性の中から最適な階調変換特性をパターン認識により選択する方式であるため、小規模の回路構成で実現できる。また、複数の教師画像と、各教師画像に最適な階調変換特性、(必要に応じて関心領域)を設定するだけで、自動階調処理のパラメータを自動的に生成できるため、自動階調処理のパラメータの最適化が容易である。
【0086】
そして、本発明の画像表示装置では、標準パターンが類似する場合に、対応する階調変換特性も類似するように階調変換特性が生成されるため、未知画像に対しても黒つぶれやハレーションが生じることが無く、関心領域のコントラストが高い画像を表示することができる。
【0087】
そして、本発明の画像表示装置では、近似精度が最大となる荷重係数の組を用いて、画像の特徴量の荷重和を行った新しい特徴量により、階調変換特性の特徴量をある関数で近似した後、階調変換特性の各特徴量の近似関数を用いて階調変換特性を作成するため、未知画像に対しても黒つぶれやハレーションが生じることが無く、関心対象物(カテーテル等)のコントラストが高い画像を表示することができる。
【0088】
また、パターン認識により選択された階調変換特性に基づいて、X線条件判定を求めるX線条件判定テーブルを加えることにより、X線条件を含めた画質改善を行うことができる。
【図面の簡単な説明】
【図1】本発明に係る画像表示装置の第1の実施の形態を示すブロック図。
【図2】画像特徴抽出部の構成を示す図。
【図3】パターン認識部の構成を示す図。
【図4】最適階調処理学習部の処理手順を示すフローチャート。
【図5】フローチャートの各ステップを説明する図。
【図6】階調変換特性の平滑化を示す図。
【図7】第2の実施の形態を示すブロック図。
【図8】本発明に係る最適階調処理学習部の実施の形態を示すブロック図。
【図9】最適な階調変換特性を区分的な2つの対数曲線を用いて近似する場合を説明する図。
【図10】最適な階調変換特性の特徴量Y2をべき乗曲線を用いて近似する場合を説明する図。
【図11】階調変換特性を固定し、自動露出制御下でアンギオ検査を行う例を示す図。
【図12】固定的な階調処理が行われた画像について、カテーテル先端の水平方向のプロファイルを示す図。
【符号の説明】
101 画像計測部、102 平滑化処理部、103 画像特徴抽出部、104 パターン認識部、105 最適階調処理学習部、106 テーブルデータメモリ部、107 LUT、108 画像表示部、109 操作卓、201 最小値選択器、205 最大値選択器、301距離計算部、302 最小値引数選択器、701 X線条件判定テーブル、801 画像特徴量荷重和計算部、802 階調変換特性特徴抽出部、803 階調変換特性特徴量近似部、804 近似精度評価部、805 最大値選択部、806 画像特徴量設定部、807 階調変換特性設定部
Claims (1)
- 画像表示手段に表示された画像である教師画像を参照しながら画像計測手段により計測された入力画像に対する階調変換特性を設定する階調操作手段と、
前記入力画像からクラスタ平均値の最大値及び最小値を抽出する画像特徴抽出手段と、
前記抽出されたクラスタ平均値の最大値及び最小値から複数の教師画像のクラスタ平均値の最大値及び最小値と、当該複数の教師画像に対してそれぞれ前記階調操作手段によって設定された複数の階調変換特性とを記憶する階調変換特性記憶手段と、
前記記憶された複数のクラスタ平均値の最大値及び最小値と複数の階調変換特性とを用いて前記入力画像の所定領域内に分布する新たな特徴量と新たな階調変換特性とを生成する最適階調処理学習手段とを備え、
前記最適階調処理学習手段は、複数の教師画像のクラスタ平均値の最大値及び最小値の組に、各荷重係数の組を用いて荷重和を計算し、各教師画像に対応する新しい特徴量を生成する画像特徴量荷重和計算手段と、各教師画像に最適な階調変換特性を関数で近似し、その近似関数の階調変換特性の特徴量を出力する階調変換特性特徴抽出手段と、前記階調変換特性特徴抽出手段により抽出された最適な階調変換特性の特徴量を、前記画像特徴量荷重和計算手段により得られた特徴量を入力変数とした関数で近似する階調変換特性特徴量近似手段とを有し、
前記画像表示手段は、前記生成された新たな特徴量に対応する新たな階調変換特性によって階調変換された前記入力画像を表示することを特徴とする画像表示装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002267519A JP4314001B2 (ja) | 2001-11-05 | 2002-09-13 | 画像表示装置 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001339414 | 2001-11-05 | ||
JP2001-339414 | 2001-11-05 | ||
JP2002267519A JP4314001B2 (ja) | 2001-11-05 | 2002-09-13 | 画像表示装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2003204483A JP2003204483A (ja) | 2003-07-18 |
JP2003204483A5 JP2003204483A5 (ja) | 2005-10-27 |
JP4314001B2 true JP4314001B2 (ja) | 2009-08-12 |
Family
ID=27666897
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002267519A Expired - Fee Related JP4314001B2 (ja) | 2001-11-05 | 2002-09-13 | 画像表示装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4314001B2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4641784B2 (ja) * | 2004-10-29 | 2011-03-02 | パナソニック株式会社 | 階調変換処理装置、階調変換処理方法、画像表示装置、テレビジョン、携帯情報端末、カメラ、集積回路および画像処理プログラム |
JP4606203B2 (ja) * | 2005-03-02 | 2011-01-05 | キヤノン電子株式会社 | 画像処理装置 |
JP4847041B2 (ja) * | 2005-05-09 | 2011-12-28 | 株式会社日立メディコ | X線撮影装置 |
JP4591784B2 (ja) * | 2006-10-23 | 2010-12-01 | ノーリツ鋼機株式会社 | 撮影画像補正用変換テーブル作成方法とこの方法を実施する写真プリント装置 |
JP4775289B2 (ja) * | 2007-03-13 | 2011-09-21 | Nkワークス株式会社 | 画像処理装置及び画像処理方法 |
JP5026939B2 (ja) * | 2007-12-04 | 2012-09-19 | 富士フイルム株式会社 | 画像処理装置およびそのプログラム |
JP5224898B2 (ja) * | 2008-05-09 | 2013-07-03 | キヤノン株式会社 | 放射線画像撮影装置及びその駆動方法 |
JP5294956B2 (ja) * | 2009-04-08 | 2013-09-18 | キヤノン株式会社 | 画像処理装置及び画像処理装置の制御方法 |
JP2013005884A (ja) * | 2011-06-23 | 2013-01-10 | Hoya Corp | 画像強調装置及び方法 |
JP6342128B2 (ja) | 2013-08-23 | 2018-06-13 | キヤノンメディカルシステムズ株式会社 | 画像処理装置、方法、及びプログラム、並びに、立体画像表示装置 |
-
2002
- 2002-09-13 JP JP2002267519A patent/JP4314001B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003204483A (ja) | 2003-07-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5471987A (en) | Method of compressing a dynamic range for a radiation image | |
JP3670439B2 (ja) | X線装置 | |
JPH0614193A (ja) | ディジタル放射線画像における自動階調スケール生成方法 | |
JP4821611B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
US8433154B2 (en) | Enhanced contrast for scatter compensation in X-ray imaging | |
US7869637B2 (en) | Histogram calculation for auto-windowing of collimated X-ray image | |
WO2015068388A1 (ja) | 放射線画像処理装置および方法並びにプログラム | |
JPH09191408A (ja) | 画像アクティビティ測定を用いた階調スケールの自動調整法 | |
US8588485B2 (en) | Rendering for improved diagnostic image consistency | |
EP1321899A2 (en) | Method and apparatus for enhancing the contrast of a medical diagnostic image acquired using collimation | |
JP2005522237A (ja) | X線イメージエンハンスメント | |
US20070286519A1 (en) | Trilateral filter for medical diagnostic imaging | |
JP2003515825A (ja) | デジタルx線画像の表示に用いるためのグレイスケール伝達関数を生成する方法 | |
US11213268B2 (en) | X-ray system with computer implemented methods for image processing | |
JP5721833B2 (ja) | X線画像診断装置及びx線発生装置の制御方法 | |
JP4314001B2 (ja) | 画像表示装置 | |
CN104091309B (zh) | 一种平板x射线图像的均衡显示方法及系统 | |
US20230306657A1 (en) | Noise suppression using deep convolutional networks | |
US10182783B2 (en) | Visualization of exposure index values in digital radiography | |
US6744849B2 (en) | Image processing apparatus, image processing method, program, and storage medium | |
US7889904B2 (en) | Image processing device, image processing method, program, storage medium and image processing system | |
CN111915523A (zh) | Dr图像亮度自适应调整方法及系统 | |
JP2011120668A (ja) | ディジタル医用放射線画像の局所の観察条件を最適化する方法 | |
JP3597272B2 (ja) | 異常陰影候補の検出方法 | |
JP2007325641A (ja) | 医用画像表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050902 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050902 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20081030 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081201 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090507 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090518 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120522 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120522 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130522 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130522 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |