JP4404291B2 - Image processing apparatus and method and system - Google Patents

Image processing apparatus and method and system Download PDF

Info

Publication number
JP4404291B2
JP4404291B2 JP2003104091A JP2003104091A JP4404291B2 JP 4404291 B2 JP4404291 B2 JP 4404291B2 JP 2003104091 A JP2003104091 A JP 2003104091A JP 2003104091 A JP2003104091 A JP 2003104091A JP 4404291 B2 JP4404291 B2 JP 4404291B2
Authority
JP
Japan
Prior art keywords
image
value
difference
images
pixel group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003104091A
Other languages
Japanese (ja)
Other versions
JP2004312434A (en
Inventor
仁司 井上
茂 真田
利恵 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Kanazawa University NUC
Original Assignee
Canon Inc
Kanazawa University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc, Kanazawa University NUC filed Critical Canon Inc
Priority to JP2003104091A priority Critical patent/JP4404291B2/en
Publication of JP2004312434A publication Critical patent/JP2004312434A/en
Application granted granted Critical
Publication of JP4404291B2 publication Critical patent/JP4404291B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Apparatus For Radiation Diagnosis (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は画像処理技術に関し、特に医療分野における放射線撮影画像の処理に好適な画像処理技術に関する。
【0002】
【従来の技術】
X線に代表される放射線の物質透過能力を用いて、その透過強度分布を画像化する技術は、近代医療技術発展の基本となるものである。X線の発見以来、その強度分布の画像化については、X線強度分布を蛍光体により可視光に変換した後、銀塩フィルムで潜像を作り現像するという方法が採られてきた。近年、X線画像をデジタル化する際に輝尽性蛍光体を用い、X線照射による輝尽性蛍光体上の蓄積エネルギ分布としての潜像をレーザ光で励起して読み出し、デジタル画像化する、いわゆるイメージングプレートを用いる方法も一般化してきた。さらに、半導体技術の進歩により人体の大きさをカバーできる大判の固体撮像素子、いわゆるフラットパネルディテクタも開発され、潜像をつくることなく直接にX線画像をデジタル化し、効率のよい診断が行えるようになって来た。
【0003】
また一方、光電子増倍管(イメージインテンシファイア)に代表される高感度の撮像素子により微弱なX線による蛍光を画像化し、人体内部の動態を観察することも可能であり、一般に用いられてきている。最新のフラットパネルディテクタは、そのようなイメージインテンシファイアにも匹敵する感度を持ち、人体の広範囲における動態を撮影することも可能になってきている。
【0004】
一般に、医療用のX線撮影で最も有効であるのは人体の胸部撮影である。腹部を含む胸部の広範囲を撮影すれば、肺疾患を含む多くの疾病の発見に役立つため、通常の健康診断では胸部X線撮影は不可欠なものになっている。また、近年、健康診断のために撮影された膨大な量の胸部X線画像を効率よく診断するため、胸部デジタルX線画像に対して計算機を用いて画像解析を行い、医師の初期診断を補助するいわゆる計算機支援診断(CAD:Computer Aided Diagnosis)も実用化されつつある。
なお、尚、放射線画像に現われる異常陰影を検出する異常陰影検出装置が特許文献1及び特許文献2において知られている。
【0005】
【特許文献1】
特許第2582665号公報
【特許文献2】
特許第2582666号公報
【0006】
【発明が解決しようとする課題】
さて、健康診断で胸部X線撮影等により何らかの疾病の疑いがあるとの所見が得られた場合は、いわゆる精密診断により確定診断が行われる。このような精密診断には、多くの場合CT、MRスキャンが行われる。このCTスキャンやMRスキャンは、通常のX線撮影と比して数倍の診断コストがかかるものである。このような精密診断により初期の診断が誤診であり何の疾病も無いという場合も多く見られるが、このような誤診は無駄な医療費を費やすものであり、医療費高騰の一因ともなっている。これを防ぐには、初期診断である健康診断の正確度を向上させることが重要である。
【0007】
コスト上昇を抑えて診断の正確度を向上させる方法としては、前述の大判のフラットパネルディテクタを用いて、呼吸などにより動態を示す胸部動画像を取得し、動態観察を行うことが有効である。動態観察では従来の静止画を観察する場合とは異なり、画像を時系列で切り換えて観察することになる。しかしながら、このような動態観察では、静止画観察に比べて観察者の主観に依存するところが多く、あいまいな点が残りやすい。また、多大な観察時間も費やされることになるため、診断効率も悪い。
【0008】
本発明は上記の課題に鑑みてなされたものであり、動態画像に基づいて診断に有効な画像を生成することを1つの目的とする。
【0009】
【課題を解決するための手段】
上記の課題を解決するための本発明による画像処理装置は以下の構成を備える。すなわち、
複数の動態画像の時間的に隣接する2つの画像の間で差分をとることにより、複数の差分画像を生成する差分手段と、
前記差分手段により生成された前記複数の差分画像から各対応する画素群毎に、該画素群毎の画素値の最大値、最小値、平均値、中間値のいずれかを該画素群毎の画素値として画像を生成する解析手段とを備える。
また、本発明の他の態様による画像処理装置は以下の構成を備える。すなわち、
複数の動態画像から各対応する画素群毎に、該画素群の画素値の最大値、最小値、平均値、中間値のいずれかを該画素群に対応する参照画素値として参照画像を生成し、該参照画像と前記複数の動態画像との間で差分をとることにより、複数の差分画像を生成する差分手段と、
前記差分手段により生成された前記複数の差分画像から各対応する画素群毎に、該画素群毎の画素値の最大値、最小値、平均値、中間値のいずれかを該画素群に対応する画素値として画像を生成する解析手段とを備える。
【0010】
【発明の実施の形態】
以下、添付の図面を参照して本発明の好適な実施形態を説明する。
【0011】
[第1実施形態]
本実施形態では、取得された呼吸動態画像のフレーム間差分画像を作成し、該差分動画像を表示する。さらに、各差分画像を解析して、対応画素群毎に絶対値が最大の差分画素を求め、当該差分画素からなる最大値画像を作成し、当該最大値画像を特定の呼吸位相の画像上に重ねて1枚の画像を作成し、その画像を観察、解析することで疾病の有無を判断することを可能にする。
【0012】
図1は第1実施形態による呼吸動態撮影装置の構成を模式的に示すブロック図である。図1において、1はX線強度を画像化するX線画像センサであり、連続的な画像取得が可能である。X線画像センサ1としてはフラットパネルディテクタを用いることができる。2はX線発生装置でありX線を発生し、被検体に照射する。3は制御装置であり、X線画像センサ1およびX線発生装置2を制御し、X線発生と画像取得の適切な同期をとる。4は被写体(被検体)としての人体を示している。
【0013】
5は連続画像取得ユニットであり、X線画像センサ1から出力される画像データを連続的に取得する。6は動画表示ユニットであり、連続画像取得ユニット5によって連続的に取得される人体の胸部画像を実時間でディスプレイ上に表示する。7はストレージ装置であり、連続画像取得ユニット5で取得された画像を格納する。なお、動画像表示ユニット6はストレージ装置7から随時データを引き出し、順次参照することが可能である。すなわち、動画像表示ユニット6は、実時間での動画的表示や、録画再生のように連続的に取得された画像を後に動画的表示させることができる。
【0014】
9はフレーム間差分演算ユニットであり、連続画像取得ユニット5により連続的に取得され、ストレージ装置7に格納された時系列X線画像の各フレーム間差分演算を行う。8はフレーム間差分動画像表示ユニットであり、作成された複数のフレーム間差分画像を動画像としてディスプレイに表示する。10は差分画像解析ユニットであり、フレーム間差分演算ユニット9より得られた複数の差分画像を解析する。具体的には、本実施形態では、複数の差分画像における対応画素群毎の最大画素値を示す画素で構成された1枚の画像を作成する。11は差分解析結果表示ユニットであり、差分画像解析ユニット10による差分解析結果(具体的には、差分画素値の絶対値が最大の差分画素からなる1枚の画像)をディスプレイに表示する。
【0015】
図2は、フレーム間差分演算ユニット9による差分画像作成の様子を示す図である。図2において、21は連続画像取得ユニット5により取得されストレージ装置7に格納された呼吸動態を表す複数のフレーム画像である。これらの複数のフレーム画像の隣接するタイミングの画像どうしの差分を演算した結果が22であり、これらをフレーム間差分画像と呼ぶ。
【0016】
さて、元の呼吸動態画像の画素値範囲を0〜Aとすると、理論上はフレーム間差分画像の画素値範囲は−A〜Aの範囲に広がる。しかし、各フレーム画像は実質的に相似する画像であるため、差分画像の画素値範囲はかなり狭くなる。また、通常のディスプレイでは正の画素値のみを対象にするので、上述のような差分画像を表示するためには全ての画素値を正の値にしなければならない。これを実現する方法として、各画素値にオフセットを加えてすべて正の値にする、各画素について絶対値をとる等の方法がある。本実施形態では、フレーム間差分動画像表示ユニット8において、ディスプレイに差分画像を表示するために、オフセットとしてA/2を差分画像の各画素に加え、その結果として0を下回る値は0にクリッピングし、Aを上回る値はAにクリッピングすることにより、安定したフレーム間差分画像表示を実現している。
【0017】
図3は差分画像解析ユニット10による差分画像解析処理を説明するフローチャートである。また、図4は、フレーム間差分演算ユニット8及び差分画像解析ユニット10による処理を説明する図である。
【0018】
図4では、呼吸動態を表す時系列画像がT1〜T5の5枚であるとして説明するが、実際には時系列画像はもっと多くの画像で構成される(例えば30枚以上)。上述したように、隣接する画像T1とT2の各画素毎の差分が計算され、差分画像D1が生成される。同様に、画像T2とT3から差分画像D2が、画像T3とT4から差分画像D3が、画像T4とT5から差分画像D4が夫々算出される。これら差分画像は差分画像解析ユニット10に提供される。差分画像解析ユニット10は、提供された複数の差分画像から各画素毎に最大値を求め、これを用いて結果画像(統合画像ともいう)Cを生成する。以下、結果画像Cを取得する処理について図3のフローチャートを参照して説明する。
【0019】
まず、ステップS11で結果画像Cの各画素値を0にする。そして、ステップS12において、全てのフレーム間差分画像(図4ではD1〜D4の全ての差分画像)について処理したかを判定する。全ての差分画像について処理を終えていれば、結果画像Cが得られたことになるので本処理を終了する。
【0020】
未処理の差分画像があれば、ステップS12からステップS13へ進み、処理対象の差分画像を選択し、これをBとする。最初の処理では例えばD1が選択される。そして、ステップS14において、選択された差分画像の画素とこれに対応する結果画像Cの画素を示す処理アドレスxを0に初期化する。
【0021】
ステップS15では、xが差分画像の画像サイズ(結果画像Cの画像サイズでもある)を超えたか否かを判定し、超えていれば当該差分画像の全ての画素について処理を終えたことになるので処理をステップS12に戻す。xが画像サイズを超えていなければ、ステップS16へ進み、xで示される処理対象差分画像中の画素値の絶対値(|B(x)|)と、結果画像C中の対応する画素に現在設定されている画素値(C(x))とを比較する。|B(x)|の方がC(x)よりも大きい場合は、ステップS17へ進み、B(x)で結果画像Cの画素(C(x))を更新する。そして、処理アドレスxを1つインクリメントしてステップS15に戻る。一方、|B(x)|がC(x)以下の場合は、C(x)を更新する必要が無いので、ステップS17をスキップし、そのまま次の処理アドレスへ以降する。
【0022】
以上の図3の処理により、差分画素値の絶対値が最大の差分画素で構成された結果画像Cが得られる。差分解析結果表示ユニット11ではこの結果画像を表示する。尚、結果画像の表示にあたり、結果画像の各画素値に対してオフセット値の加算とクリッピングとを行なうことは上述と同様である。このような結果画像を観察することで、胸部の呼吸による動きの多い部分と少ない部分とが明確に理解される。したがって、例えば、胸部の疾患などの影響で肺機能に損傷がある場合には、損傷部分の動きが少なくなるため、観察者は本実施形態に従って表示された画像により明確に肺機能の損傷部分を認識できる。
【0023】
[第2実施形態]
第1実施形態では隣接するフレームから差分画像を生成した。第2実施形態では、複数画像(複数フレーム画像)から統合された1つのリファレンス画像を作成し、そのリファレンス画像と各フレームから差分画像を生成し、表示・解析する。
【0024】
図5は第2実施形態による呼吸動態撮影装置の構成を模式的に示すブロック図である。図1と同様である部分には同一の参照番号を付してある。図5において、31はフレーム画像統合処理ユニットであり、連続画像取得ユニット5により取得され、ストレージ装置7に格納された複数のフレーム画像を1つの画像に統合する。以下、フレーム画像統合処理ユニット31によって複数のフレーム画像を統合して得られた画像をリファレンス画像と称する。32はフレーム画像統合処理31で得られたリファレンス画像を保存する保存装置であり、半導体メモリ等の手段でも代用できる。33は差分演算ユニットであり、リファレンス画像と各フレーム画像との差分を計算する。34は差分画像動画表示ユニットであり、差分演算ユニット33により計算された複数の差分画像を動画像として表示する。
【0025】
なお、フレーム画像統合処理31による複数画像の統合とは、例えば下記の画像処理を意味する。
・最大値投影画像:複数の画像のそれぞれ対応する画素中の最大値を保持することにより複数画像を統合する。
・最小値投影画像:複数の画像のそれぞれ対応する画素中の最小値を保持することにより複数画像を統合する。
・平均値画像:複数の画像のそれぞれ対応する画素の平均値を保持することにより複数画像を統合する。
・中間値画像:複数の画像のそれぞれ対応する画素値の中間値を保持することにより複数画像を統合する。
本実施形態では、目的に応じてそれぞれの統合方法が選択できるものとする。
【0026】
第2実施形態によれば、差分演算ユニット33では統合された画像(リファレンス画像)とそれぞれのフレーム画像との差分を計算し、差分画像動画表示ユニット34によってこれを表示するので、各フレーム画像における変動量が強調された画像を表示することができる。なお、表示のためのオフセット処理及びクリッピング処理は第1実施形態と同様である。
【0027】
また、第1実施形態と同様に、差分画像解析ユニット10により、全ての差分画像より、対応画素群中の最大絶対値を示す画素から構成された画像が生成、表示される。図6は第2実施形態による差分画像の生成と結果画像Cの生成を説明する図である。差分画像解析ユニット10は、統合された画像(リファレンス画像R)とそれぞれのフレーム画像(T1〜T5)との差分である差分画像(D1〜D5)を用いて、対応画素群中の最大絶対値を示す画素から構成された結果画像Cを生成する。このため、第2実施形態によれば、変動量の大きい部位がより明瞭な画像を得ることができる。
尚、上述の最大絶対値に代えて、絶対値の最小値、平均値、中間値等各種統計量を用いて結果画像Cを生成することも可能であり、同様の効果が得られる。
【0028】
[第3実施形態]
第3実施形態では、差分解析結果表示ユニット11による解析結果表示として、第1実施形態もしくは第2実施形態で得られた結果画像を、ストレージ装置7に保存されている複数画像のうちの特定の画像上に重畳して表示する。このような画像を観察することで、観察者は異常部分の解剖学的位置を把握しやすくなる。なお、この特定の一つの画像として、上記複数画像が呼吸動態を表す場合には、最大吸気時の画像を用いることが望ましい。また、重畳する場合には、特定画像と結果画像とで色を変えることがより望ましい。
【0029】
[第4実施形態]
第4実施形態では、差分解析結果表示ユニット11による解析結果表示として、上記手順で得られた結果画像Cを更に計算機で解析し、異常値を示す領域を検出してこれを識別可能に表示する。これは例えば次のような処理により実現される。すなわち、まず差分画像解析ユニット10において得られた結果画像Cの各画素値を、通常の医学的知識もしくは経験から知られた変動値と比較し、異常値(差分値が異常に大きい等)を示す領域を検出する。そして、異常値を示すと検出された画素値の領域にマークを施して当該結果画像Cを表示する。このような表示によれば、さらに診断効率が向上する。
【0030】
なお、このマークは、結果画像C上に付すものとしたが、ストレージ装置7に保存されている呼吸動態を表す複数画像のうちの特定の画像上に付してもよい。或いは、結果画像C或いは特定画像のいずれにマークを付与するかを選択できるようにしてもよい。また、複数画像が呼吸動態を表す場合、この特定の一つの画像としては、最大吸気時の画像を用いることが望ましい。更に、変動量の大きさを複数のランクに分け、ランクによって付されるマークの色を変えるようにしてもよい。このような画像表示を疾患の1次検出結果(疾患候補)として医師に提供することにより、医師による診断を支援することができる。
【0031】
なお、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、達成されることは言うまでもない。
【0032】
この場合、記憶媒体から読出されたプログラムコード自体が前述した実施形態の機能を実現することになり、当該プログラムコード、及び当該プログラムコードを記憶した記憶媒体は本発明を構成することになる。
【0033】
プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク,ハードディスク,光ディスク,光磁気ディスク,CD−ROM,CD−R,磁気テープ,不揮発性のメモリカード,ROMなどを用いることができる。
【0034】
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も、本発明の実施態様に含まれることは言うまでもない。
【0035】
さらに、記憶媒体から読出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も、本発明の実施態様に含まれることは言うまでもない。
【0036】
【発明の効果】
以上説明したように本発明によれば、動態画像に基づいて診断に有効な画像を生成することができる。
【図面の簡単な説明】
【図1】第1実施形態による呼吸動態撮影装置の構成を模式的に示すブロック図である。
【図2】フレーム間差分演算ユニット9による差分画像作成の様子を示す図である。
【図3】差分画像解析ユニット10による差分画像解析処理を説明するフローチャートである。
【図4】第1実施形態によるフレーム間差分演算ユニット8及び差分画像解析ユニット10による処理を説明する図である。
【図5】第2実施形態による呼吸動態撮影装置の構成を模式的に示すブロック図である。
【図6】第2実施形態による差分画像の生成と結果画像Cの生成を説明する図である。
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image processing technique, and more particularly to an image processing technique suitable for processing radiographic images in the medical field.
[0002]
[Prior art]
A technique for imaging the transmission intensity distribution using the substance transmission ability of radiation typified by X-rays is fundamental to the development of modern medical technology. Since the discovery of X-rays, the intensity distribution has been imaged by converting the X-ray intensity distribution into visible light with a phosphor and then developing a latent image with a silver salt film. In recent years, photostimulable phosphors are used when digitizing X-ray images, and a latent image as a stored energy distribution on the photostimulable phosphor by X-ray irradiation is read out by excitation with a laser beam and converted into a digital image. A method using a so-called imaging plate has also been generalized. In addition, large solid-state image sensors that can cover the size of the human body due to advances in semiconductor technology, so-called flat panel detectors, have also been developed so that X-ray images can be digitized directly without making latent images so that efficient diagnosis can be performed. Came.
[0003]
On the other hand, it is possible to image the fluorescence of weak X-rays with a high-sensitivity imaging device represented by a photomultiplier tube (image intensifier), and observe the dynamics inside the human body, which has been generally used. ing. Modern flat panel detectors have sensitivity comparable to such image intensifiers, and it has become possible to capture dynamics over a wide range of the human body.
[0004]
In general, the most effective X-ray imaging for medical use is chest imaging of a human body. Taking a wide area of the chest, including the abdomen, can help discover many diseases, including lung disease, so chest X-ray imaging is indispensable for normal health examinations. Also, in recent years, in order to efficiently diagnose a huge amount of chest X-ray images taken for medical examinations, image analysis is performed on the chest digital X-ray images using a computer to assist the initial diagnosis of the doctor. The so-called computer aided diagnosis (CAD) is also being put into practical use.
In addition, the abnormal shadow detection apparatus which detects the abnormal shadow which appears in a radiographic image is known in patent document 1 and patent document 2.
[0005]
[Patent Document 1]
Japanese Patent No. 2582665 [Patent Document 2]
Japanese Patent No. 2582666 [0006]
[Problems to be solved by the invention]
Now, when a finding that there is some suspicion of a disease is obtained by a chest X-ray or the like in a health check, a definitive diagnosis is performed by a so-called precise diagnosis. In such precise diagnosis, CT and MR scans are often performed. The CT scan and MR scan require several times the diagnostic cost as compared with normal X-ray imaging. Although there are many cases where the initial diagnosis is misdiagnosis and there is no illness due to such a precise diagnosis, such misdiagnosis consumes unnecessary medical expenses and contributes to an increase in medical expenses. . In order to prevent this, it is important to improve the accuracy of the initial medical examination.
[0007]
As a method of suppressing the cost increase and improving the accuracy of diagnosis, it is effective to obtain a chest moving image showing dynamics by breathing or the like and to perform dynamic observation using the above-described large flat panel detector. In the dynamic observation, unlike the case of observing a conventional still image, the images are observed by switching in time series. However, such dynamic observations often depend on the subjectivity of the observer compared to still image observations, and ambiguous points tend to remain. In addition, since a great amount of observation time is consumed, the diagnostic efficiency is poor.
[0008]
The present invention has been made in view of the above problems, and an object thereof is to generate an image effective for diagnosis based on a dynamic image.
[0009]
[Means for Solving the Problems]
In order to solve the above problems, an image processing apparatus according to the present invention comprises the following arrangement. That is,
Difference means for generating a plurality of difference images by taking a difference between two temporally adjacent images of the plurality of dynamic images;
For each corresponding pixel group from the plurality of difference images generated by the difference means, a pixel value for each pixel group is selected from a maximum value, a minimum value, an average value, and an intermediate value for each pixel group. Analyzing means for generating an image as a value.
An image processing apparatus according to another aspect of the present invention has the following configuration. That is,
For each corresponding pixel group from a plurality of dynamic images, a reference image is generated using any one of the maximum value, minimum value, average value, and intermediate value of the pixel value of the pixel group as a reference pixel value corresponding to the pixel group. Differential means for generating a plurality of difference images by taking a difference between the reference image and the plurality of dynamic images;
For each corresponding pixel group from the plurality of difference images generated by the difference means, one of the maximum value, the minimum value, the average value, and the intermediate value of the pixel value for each pixel group corresponds to the pixel group. Analyzing means for generating an image as a pixel value.
[0010]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, preferred embodiments of the present invention will be described with reference to the accompanying drawings.
[0011]
[First Embodiment]
In this embodiment, an inter-frame difference image of the acquired respiratory dynamic image is created, and the differential moving image is displayed. Further, each difference image is analyzed, a difference pixel having the maximum absolute value is obtained for each corresponding pixel group, a maximum value image including the difference pixels is created, and the maximum value image is placed on an image of a specific respiratory phase. It is possible to determine the presence or absence of a disease by creating a single image by superimposing and observing and analyzing the image.
[0012]
FIG. 1 is a block diagram schematically showing the configuration of the respiratory dynamic imaging apparatus according to the first embodiment. In FIG. 1, reference numeral 1 denotes an X-ray image sensor that images X-ray intensity, and continuous image acquisition is possible. As the X-ray image sensor 1, a flat panel detector can be used. An X-ray generator 2 generates X-rays and irradiates the subject. Reference numeral 3 denotes a control device that controls the X-ray image sensor 1 and the X-ray generation device 2 to appropriately synchronize X-ray generation and image acquisition. Reference numeral 4 denotes a human body as a subject (subject).
[0013]
Reference numeral 5 denotes a continuous image acquisition unit that continuously acquires image data output from the X-ray image sensor 1. Reference numeral 6 denotes a moving image display unit which displays a human chest image continuously acquired by the continuous image acquisition unit 5 on the display in real time. Reference numeral 7 denotes a storage device that stores images acquired by the continuous image acquisition unit 5. The moving image display unit 6 can pull out data from the storage device 7 as needed and refer to it sequentially. That is, the moving image display unit 6 can display a continuously acquired image such as a moving image display in real time or recording and reproduction later as a moving image.
[0014]
Reference numeral 9 denotes an inter-frame difference calculation unit, which performs the inter-frame difference calculation of the time-series X-ray images acquired continuously by the continuous image acquisition unit 5 and stored in the storage device 7. Reference numeral 8 denotes an inter-frame difference moving image display unit which displays a plurality of created inter-frame difference images as moving images on a display. A difference image analysis unit 10 analyzes a plurality of difference images obtained from the inter-frame difference calculation unit 9. Specifically, in this embodiment, one image composed of pixels indicating the maximum pixel value for each corresponding pixel group in a plurality of difference images is created. A difference analysis result display unit 11 displays a difference analysis result (specifically, one image composed of difference pixels having the largest absolute value of the difference pixel value) on the display.
[0015]
FIG. 2 is a diagram showing how the difference image is created by the inter-frame difference calculation unit 9. In FIG. 2, reference numeral 21 denotes a plurality of frame images representing respiratory dynamics acquired by the continuous image acquisition unit 5 and stored in the storage device 7. A result obtained by calculating the difference between adjacent images of the plurality of frame images is 22 and is referred to as an inter-frame difference image.
[0016]
Now, assuming that the pixel value range of the original respiratory dynamic image is 0 to A, the pixel value range of the inter-frame difference image theoretically extends to the range of -A to A. However, since each frame image is a substantially similar image, the pixel value range of the difference image is considerably narrowed. Further, since a normal display targets only positive pixel values, in order to display the above-described difference image, all pixel values must be set to positive values. As a method for realizing this, there are methods such as adding an offset to each pixel value to make all the values positive, and taking an absolute value for each pixel. In this embodiment, in order to display the difference image on the display in the inter-frame difference moving image display unit 8, A / 2 is added to each pixel of the difference image as an offset, and as a result, a value less than 0 is clipped to 0. Then, a value exceeding A is clipped to A, thereby realizing a stable inter-frame difference image display.
[0017]
FIG. 3 is a flowchart for explaining the difference image analysis processing by the difference image analysis unit 10. FIG. 4 is a diagram for explaining processing by the inter-frame difference calculation unit 8 and the difference image analysis unit 10.
[0018]
In FIG. 4, it is assumed that the time-series images representing the respiratory dynamics are five images T1 to T5, but in reality, the time-series images are composed of more images (for example, 30 images or more). As described above, the difference for each pixel between the adjacent images T1 and T2 is calculated, and the difference image D1 is generated. Similarly, the difference image D2 is calculated from the images T2 and T3, the difference image D3 is calculated from the images T3 and T4, and the difference image D4 is calculated from the images T4 and T5. These difference images are provided to the difference image analysis unit 10. The difference image analysis unit 10 obtains a maximum value for each pixel from the provided plurality of difference images, and generates a result image (also referred to as an integrated image) C using the maximum value. Hereinafter, the process of acquiring the result image C will be described with reference to the flowchart of FIG.
[0019]
First, each pixel value of the result image C is set to 0 in step S11. In step S12, it is determined whether or not all inter-frame difference images (all difference images D1 to D4 in FIG. 4) have been processed. If the processing has been completed for all the difference images, the result image C has been obtained, and thus this processing ends.
[0020]
If there is an unprocessed difference image, the process proceeds from step S12 to step S13, the difference image to be processed is selected, and this is designated as B. In the first process, for example, D1 is selected. In step S14, the processing address x indicating the pixel of the selected difference image and the corresponding pixel of the result image C is initialized to zero.
[0021]
In step S15, it is determined whether or not x exceeds the image size of the difference image (which is also the image size of the result image C). If it exceeds, the processing has been completed for all the pixels of the difference image. The process returns to step S12. If x does not exceed the image size, the process proceeds to step S16, and the absolute value (| B (x) |) of the pixel value in the processing target difference image indicated by x and the corresponding pixel in the result image C are currently displayed. The set pixel value (C (x)) is compared. If | B (x) | is larger than C (x), the process proceeds to step S17, and the pixel (C (x)) of the result image C is updated with B (x). Then, the processing address x is incremented by 1, and the process returns to step S15. On the other hand, when | B (x) | is equal to or less than C (x), it is not necessary to update C (x), so step S17 is skipped and the process continues to the next processing address.
[0022]
With the above-described processing of FIG. 3, a result image C composed of difference pixels having the maximum absolute value of the difference pixel value is obtained. The difference analysis result display unit 11 displays this result image. In displaying the result image, addition of an offset value and clipping are performed on each pixel value of the result image in the same manner as described above. By observing such a result image, it is possible to clearly understand a portion where the movement due to breathing of the chest is large and a portion where the movement is small. Therefore, for example, when the lung function is damaged due to the influence of a chest disease or the like, the movement of the damaged portion is reduced, so that the observer clearly shows the damaged portion of the lung function by the image displayed according to the present embodiment. Can be recognized.
[0023]
[Second Embodiment]
In the first embodiment, a difference image is generated from adjacent frames. In the second embodiment, one reference image integrated from a plurality of images (a plurality of frame images) is created, a difference image is generated from the reference image and each frame, and displayed and analyzed.
[0024]
FIG. 5 is a block diagram schematically showing the configuration of the respiratory dynamic imaging device according to the second embodiment. Parts similar to those in FIG. 1 are denoted by the same reference numerals. In FIG. 5, reference numeral 31 denotes a frame image integration processing unit, which integrates a plurality of frame images acquired by the continuous image acquisition unit 5 and stored in the storage device 7 into one image. Hereinafter, an image obtained by integrating a plurality of frame images by the frame image integration processing unit 31 is referred to as a reference image. Reference numeral 32 denotes a storage device that stores the reference image obtained by the frame image integration processing 31 and can be replaced by means such as a semiconductor memory. A difference calculation unit 33 calculates a difference between the reference image and each frame image. Reference numeral 34 denotes a difference image moving image display unit, which displays a plurality of difference images calculated by the difference calculation unit 33 as moving images.
[0025]
The integration of a plurality of images by the frame image integration processing 31 means, for example, the following image processing.
Maximum value projection image: A plurality of images are integrated by holding the maximum value in the corresponding pixel of each of the plurality of images.
Minimum value projection image: A plurality of images are integrated by holding a minimum value in a corresponding pixel of each of the plurality of images.
Average image: A plurality of images are integrated by holding an average value of corresponding pixels of the plurality of images.
Intermediate value image: A plurality of images are integrated by holding intermediate values of corresponding pixel values of a plurality of images.
In this embodiment, it is assumed that each integration method can be selected according to the purpose.
[0026]
According to the second embodiment, the difference calculation unit 33 calculates the difference between the integrated image (reference image) and each frame image and displays the difference image by the difference image moving image display unit 34. An image in which the amount of variation is emphasized can be displayed. Note that offset processing and clipping processing for display are the same as in the first embodiment.
[0027]
Similarly to the first embodiment, the difference image analysis unit 10 generates and displays an image composed of pixels indicating the maximum absolute value in the corresponding pixel group from all the difference images. FIG. 6 is a diagram illustrating generation of a difference image and generation of a result image C according to the second embodiment. The difference image analysis unit 10 uses a difference image (D1 to D5) that is a difference between the integrated image (reference image R) and each of the frame images (T1 to T5), and uses the maximum absolute value in the corresponding pixel group. Is generated as a result image C. For this reason, according to the second embodiment, it is possible to obtain a clearer image of a portion having a large fluctuation amount.
Note that the result image C can be generated using various statistics such as the minimum value, the average value, and the intermediate value instead of the above-described maximum absolute value, and the same effect can be obtained.
[0028]
[Third Embodiment]
In the third embodiment, as the analysis result display by the difference analysis result display unit 11, the result image obtained in the first embodiment or the second embodiment is used as a specific image among a plurality of images stored in the storage device 7. It is displayed superimposed on the image. By observing such an image, the observer can easily grasp the anatomical position of the abnormal part. In addition, as the specific one image, when the plurality of images represent respiratory dynamics, it is desirable to use an image during maximum inspiration. In the case of superimposing, it is more desirable to change the color between the specific image and the result image.
[0029]
[Fourth Embodiment]
In the fourth embodiment, as the analysis result display by the difference analysis result display unit 11, the result image C obtained by the above procedure is further analyzed by a computer, and an area showing an abnormal value is detected and displayed in an identifiable manner. . This is realized, for example, by the following processing. That is, first, each pixel value of the result image C obtained in the difference image analysis unit 10 is compared with a fluctuation value known from normal medical knowledge or experience, and an abnormal value (such as an abnormally large difference value) is obtained. The indicated area is detected. Then, a mark is applied to the area of the pixel value detected as an abnormal value, and the result image C is displayed. Such a display further improves the diagnostic efficiency.
[0030]
The mark is attached to the result image C. However, the mark may be attached to a specific image among a plurality of images representing respiratory dynamics stored in the storage device 7. Alternatively, the result image C or the specific image may be selected to be marked. When a plurality of images represent respiratory dynamics, it is desirable to use an image during maximum inspiration as the specific one image. Furthermore, the magnitude of the fluctuation amount may be divided into a plurality of ranks, and the color of the mark attached according to the rank may be changed. By providing such an image display to a doctor as a primary detection result (disease candidate) of a disease, diagnosis by the doctor can be supported.
[0031]
An object of the present invention is to supply a storage medium that records a program code of software that realizes the functions of the above-described embodiments to a system or apparatus, and a computer (or CPU or MPU) of the system or apparatus stores the storage medium. Needless to say, this can also be achieved by reading and executing the program code stored in the.
[0032]
In this case, the program code itself read from the storage medium realizes the functions of the above-described embodiments, and the program code and the storage medium storing the program code constitute the present invention.
[0033]
As a storage medium for supplying the program code, for example, a flexible disk, a hard disk, an optical disk, a magneto-optical disk, a CD-ROM, a CD-R, a magnetic tape, a nonvolatile memory card, a ROM, or the like can be used.
[0034]
Further, by executing the program code read by the computer, not only the functions of the above-described embodiments are realized, but also an OS (operating system) operating on the computer based on the instruction of the program code. It goes without saying that a case where the functions of the above-described embodiment are realized by performing part or all of the actual processing and the processing is included in the embodiment of the present invention.
[0035]
Further, after the program code read from the storage medium is written into a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer, the function expansion is performed based on the instruction of the program code. Needless to say, the embodiment of the present invention also includes a case where the CPU or the like provided in the board or the function expansion unit performs part or all of the actual processing and the functions of the above-described embodiments are realized by the processing.
[0036]
【The invention's effect】
As described above, according to the present invention, an image effective for diagnosis can be generated based on a dynamic image.
[Brief description of the drawings]
FIG. 1 is a block diagram schematically showing a configuration of a respiratory dynamic imaging device according to a first embodiment.
FIG. 2 is a diagram showing how a difference image is created by an inter-frame difference calculation unit 9;
FIG. 3 is a flowchart for explaining difference image analysis processing by the difference image analysis unit 10;
FIG. 4 is a diagram illustrating processing by an inter-frame difference calculation unit 8 and a difference image analysis unit 10 according to the first embodiment.
FIG. 5 is a block diagram schematically showing a configuration of a respiratory dynamic imaging device according to a second embodiment.
FIG. 6 is a diagram illustrating generation of a difference image and generation of a result image C according to the second embodiment.

Claims (11)

複数の動態画像の時間的に隣接する2つの画像の間で差分をとることにより、複数の差分画像を生成する差分手段と、
前記差分手段により生成された前記複数の差分画像から各対応する画素群毎に、該画素群毎の画素値の最大値、最小値、平均値、中間値のいずれかを該画素群毎の画素値として画像を生成する解析手段とを備えることを特徴とする画像処理装置。
Difference means for generating a plurality of difference images by taking a difference between two temporally adjacent images of the plurality of dynamic images;
For each corresponding pixel group from the plurality of difference images generated by the difference means, a pixel value for each pixel group is selected from a maximum value, a minimum value, an average value, and an intermediate value for each pixel group. An image processing apparatus comprising: an analysis unit that generates an image as a value.
複数の動態画像から各対応する画素群毎に、該画素群の画素値の最大値、最小値、平均値、中間値のいずれかを該画素群に対応する参照画素値として参照画像を生成し、該参照画像と前記複数の動態画像との間で差分をとることにより、複数の差分画像を生成する差分手段と、
前記差分手段により生成された前記複数の差分画像から各対応する画素群毎に、該画素群毎の画素値の最大値、最小値、平均値、中間値のいずれかを該画素群に対応する画素値として画像を生成する解析手段とを備えることを特徴とする画像処理装置。
For each corresponding pixel group from a plurality of dynamic images, a reference image is generated using any one of the maximum value, minimum value, average value, and intermediate value of the pixel value of the pixel group as a reference pixel value corresponding to the pixel group. Differential means for generating a plurality of difference images by taking a difference between the reference image and the plurality of dynamic images;
For each corresponding pixel group from the plurality of difference images generated by the difference means, one of the maximum value, the minimum value, the average value, and the intermediate value of the pixel value for each pixel group corresponds to the pixel group. An image processing apparatus comprising: an analysis unit that generates an image as a pixel value.
前記解析手段により生成された前記画像を表示する表示手段をさらに備えることを特徴とする請求項1又は2に記載の画像処理装置。  The image processing apparatus according to claim 1, further comprising display means for displaying the image generated by the analysis means. 前記表示手段は、前記生成された画像を、前記複数の画像のうちの所定の画像に重畳して表示することを特徴とする請求項3に記載の画像処理装置。  The image processing apparatus according to claim 3, wherein the display unit displays the generated image superimposed on a predetermined image of the plurality of images. 重畳して表示される前記生成された画像の色が前記所定の画像の色とは異なることを特徴とする請求項に記載の画像処理装置。The image processing apparatus according to claim 4 , wherein a color of the generated image displayed in a superimposed manner is different from a color of the predetermined image. 前記動態画像は、対象物を透過した放射線の強度分布に基づいて生成されたものであることを特徴とする請求項1乃至のいずれかに記載の画像処理装置。The dynamic image, the image processing apparatus according to any one of claims 1 to 5, characterized in that the one that was generated based on the intensity distribution of radiation transmitted through the object. 請求項1乃至のいずれかに記載の画像処理装置と、対象物の動態を撮影する撮影装置とを備えることを特徴とするシステム。System comprising: the image processing device according to any one of claims 1 to 6, and an image capturing apparatus for capturing a dynamic object. 複数の動態画像の時間的に隣接する2つの画像の間で差分をとることにより、複数の差分画像を生成する差分工程と、
前記差分工程において生成された前記複数の差分画像から各対応する画素群毎に、該画素群毎の画素値の最大値、最小値、平均値、中間値のいずれかを該画素群毎の画素値として画像を生成する解析工程とを備えることを特徴とする画像処理方法。
A difference step for generating a plurality of difference images by taking a difference between two temporally adjacent images of the plurality of dynamic images;
For each corresponding pixel group from the plurality of difference images generated in the difference step, any one of the maximum value, minimum value, average value, and intermediate value of the pixel value for each pixel group is determined for each pixel group. An image processing method comprising: an analysis step of generating an image as a value.
複数の動態画像から各対応する画素群毎に、該画素群の画素値の最大値、最小値、平均値、中間値のいずれかを該画素群に対応する参照画素値として参照画像を生成し、該参照画像と前記複数の動態画像との間で差分をとることにより、複数の差分画像を生成する差分工程と、
前記差分工程において生成された前記複数の差分画像から各対応する画素群毎に、該画素群の画素値の最大値、最小値、平均値、中間値のいずれかを該画素群に対応する画素値として画像を生成する解析工程とを備えることを特徴とする画像処理方法。
For each corresponding pixel group from a plurality of dynamic images, a reference image is generated using any one of the maximum value, minimum value, average value, and intermediate value of the pixel value of the pixel group as a reference pixel value corresponding to the pixel group. A difference step for generating a plurality of difference images by taking a difference between the reference image and the plurality of dynamic images;
For each corresponding pixel group from the plurality of difference images generated in the difference step, a pixel corresponding to the pixel group is one of the maximum value, minimum value, average value, and intermediate value of the pixel value of the pixel group An image processing method comprising: an analysis step of generating an image as a value.
請求項又はに記載の方法をコンピュータに実行させることを特徴とするプログラム。A program for causing a computer to execute the method according to claim 8 or 9 . 請求項10に記載のプログラムを格納したことを特徴とするコンピュータ可読記憶媒体。  A computer-readable storage medium storing the program according to claim 10.
JP2003104091A 2003-04-08 2003-04-08 Image processing apparatus and method and system Expired - Fee Related JP4404291B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003104091A JP4404291B2 (en) 2003-04-08 2003-04-08 Image processing apparatus and method and system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003104091A JP4404291B2 (en) 2003-04-08 2003-04-08 Image processing apparatus and method and system

Publications (2)

Publication Number Publication Date
JP2004312434A JP2004312434A (en) 2004-11-04
JP4404291B2 true JP4404291B2 (en) 2010-01-27

Family

ID=33467018

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003104091A Expired - Fee Related JP4404291B2 (en) 2003-04-08 2003-04-08 Image processing apparatus and method and system

Country Status (1)

Country Link
JP (1) JP4404291B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9990735B2 (en) 2012-04-04 2018-06-05 Konica Minolta, Inc. Image generation device that acquires images based on a periodic variation of an anatomical structure
US10614568B2 (en) 2016-03-28 2020-04-07 Konica Minolta, Inc. Dynamic analysis system
US10827999B2 (en) 2017-09-27 2020-11-10 Konica Minolta, Inc. Dynamic analysis apparatus and system for measuring temporal changes in blood vessels

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009078297A1 (en) 2007-12-19 2009-06-25 Konica Minolta Medical & Graphic, Inc. Dynamic image processing system
WO2012026146A1 (en) 2010-08-27 2012-03-01 コニカミノルタエムジー株式会社 Thoracic diagnosis assistance system and program
CN104887258B (en) 2010-08-27 2018-04-03 柯尼卡美能达医疗印刷器材株式会社 Diagnosis support system
JP5625800B2 (en) * 2010-11-22 2014-11-19 コニカミノルタ株式会社 Dynamic diagnosis support information generation system
JP5919717B2 (en) * 2011-10-07 2016-05-18 コニカミノルタ株式会社 Dynamic medical image generation system
CN104853677B (en) 2012-12-12 2017-11-24 柯尼卡美能达株式会社 Image processing apparatus and image processing method
US9665935B2 (en) 2013-05-16 2017-05-30 Konica Minolta, Inc. Image processing device and program
JP6323451B2 (en) * 2013-05-28 2018-05-16 コニカミノルタ株式会社 Image processing apparatus and program
JP6318739B2 (en) * 2014-03-17 2018-05-09 コニカミノルタ株式会社 Image processing apparatus and program
JP6413927B2 (en) 2015-05-25 2018-10-31 コニカミノルタ株式会社 Dynamic analysis apparatus and dynamic analysis system
JP6662385B2 (en) 2015-07-17 2020-03-11 コニカミノルタ株式会社 Radiation imaging apparatus and radiation imaging system
KR102356230B1 (en) * 2017-08-14 2022-02-09 레이던 컴퍼니 Subtraction algorithm for tumor detection
US11475558B2 (en) 2019-11-13 2022-10-18 Raytheon Company Organ isolation in scan data
US11282209B2 (en) 2020-01-10 2022-03-22 Raytheon Company System and method for generating contours
US11562512B2 (en) 2020-12-09 2023-01-24 Raytheon Company System and method for generating and displaying contours
US11893745B2 (en) 2020-12-09 2024-02-06 Raytheon Company System and method for generating and displaying contours

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9990735B2 (en) 2012-04-04 2018-06-05 Konica Minolta, Inc. Image generation device that acquires images based on a periodic variation of an anatomical structure
US10614568B2 (en) 2016-03-28 2020-04-07 Konica Minolta, Inc. Dynamic analysis system
US10827999B2 (en) 2017-09-27 2020-11-10 Konica Minolta, Inc. Dynamic analysis apparatus and system for measuring temporal changes in blood vessels

Also Published As

Publication number Publication date
JP2004312434A (en) 2004-11-04

Similar Documents

Publication Publication Date Title
JP4404291B2 (en) Image processing apparatus and method and system
US7158661B2 (en) Radiographic image processing method, radiographic image processing apparatus, radiographic image processing system, program, computer-readable storage medium, image diagnosis assisting method, and image diagnosis assisting system
JP5738510B2 (en) Image acquisition and processing chain for dual energy radiation imaging using a portable flat panel detector
JP2013126575A (en) Image processing device and method, and program
US20110284751A1 (en) Nuclear image reconstruction
JP2009153678A (en) Kinetic image processing system
US11350897B2 (en) Apparatus for presentation of dark field X-ray image information
JP2005065944A (en) Diagnostic supporting apparatus
JP7022584B2 (en) Radiation imaging device, image processing device and image judgment method
JP3888046B2 (en) Radiation image processing method and radiation image processing apparatus
KR101909125B1 (en) Method for computer-aided diagnosis and computer-aided diagnosis apparatus thereof
JP2003298939A (en) Radiographic device, radiographing method, system for radiographic image, program, and computer-readable storage medium
JP4830564B2 (en) Medical imaging system
JP2005056065A (en) Medical image information processor and medical image information processing system
JP2001325584A (en) Method and device for aligning image
JP6870765B1 (en) Dynamic quality control equipment, dynamic quality control program and dynamic quality control method
JP7099086B2 (en) Dynamic image processing equipment and programs
JP4639035B2 (en) Image processing apparatus and method, program, computer-readable storage medium
JP4227348B2 (en) X-ray generator control method, program, and computer-readable storage medium
JP4390127B2 (en) Image processing apparatus and method and system
JP2022081766A (en) Image processing device, image processing system, image processing method, and program
JP2004216007A (en) Device, method and program for image processing
JP3740429B2 (en) Radiation imaging apparatus, radiation imaging method, radiation image system, program, and computer-readable storage medium
JP2007244738A (en) Medical image system
JP2003220057A (en) Image display apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060410

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20060410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060424

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090417

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090612

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090903

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091005

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091029

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121113

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4404291

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121113

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131113

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees