JP2014017839A - 動きのアーティファクトを自動補正する方法およびシステム - Google Patents

動きのアーティファクトを自動補正する方法およびシステム Download PDF

Info

Publication number
JP2014017839A
JP2014017839A JP2013181238A JP2013181238A JP2014017839A JP 2014017839 A JP2014017839 A JP 2014017839A JP 2013181238 A JP2013181238 A JP 2013181238A JP 2013181238 A JP2013181238 A JP 2013181238A JP 2014017839 A JP2014017839 A JP 2014017839A
Authority
JP
Japan
Prior art keywords
motion
image
movement
raster
field
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013181238A
Other languages
English (en)
Other versions
JP6125379B2 (ja
Inventor
Dana Swift
スウィフト,ダナ
Birdsil Rally
バードシル,ラリー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Smith and Nephew Inc
Original Assignee
Smith and Nephew Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Smith and Nephew Inc filed Critical Smith and Nephew Inc
Publication of JP2014017839A publication Critical patent/JP2014017839A/ja
Application granted granted Critical
Publication of JP6125379B2 publication Critical patent/JP6125379B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Endoscopes (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

【課題】内視鏡撮像時の画ぶれを補正する。
【解決手段】カメラの動きによって生じた線状の動きのアーティファクトと、局部的な動きのアーティファクトとが、自動的にかつ区別をつけて検出される。局部的な動きのアーティファクトは例えば、内視鏡手術あるいは他の手術において、画像フィールドの中における外科用具あるいは患者の動きによって生じることがある。カメラの動きと局部的な動きとの双方について画像が自動的に補正された後に、その画像は観察のために表示される。
【選択図】図4

Description

発明の分野
この発明は、内視鏡手術あるいは他の手術から得られた飛越し走査方式のビデオおよび画像、スポーツの静止フレームあるいは他のビデオを改善する方法およびシステムに関するものである。特に、この発明の方法およびシステムは、録画用装置、対象物あるいはこれら両者が独立して動く飛越し走査方式のビデオおよび画像を改善することに関するものである。この発明は、いっそう詳しくは、カメラの動きによってもたらされたアーティファクト(artifact)および対象物の動きによってもたらされたアーティファクトを自動的に補正するための方法およびシステムに関するものである。
発明の背景
テレビ・ビデオ技術は、人間の眼を欺いて、テレビ信号あるいはビデオ信号が起きている出来事を正確に反映すると信じさせるためのトリックに永い間依存してきた。例えば、NTSC(国立テレビ放送規格委員会)規格のような従来のビデオ技術では、単一の画像あるいはフレームが1/60秒ずれて撮られた2つのフィールドからなる「飛越し走査方式のビデオ」(interlaced video)が用いられている。それぞれのフレームには、2つのフィールドに分けられた525本の走査線が含まれている。第1の、すなわち奇数のフィールドは、奇数の番号が付けられた線(例えば、1,3……525)からなり、第2の、すなわち偶数のフィールドは、偶数の番号が付けられた線(例えば、2,4……524)から形成されている。これら2つのフィールドは、フレームの表示の際に、奇数番号の走査線が偶数番号の走査線の間に挿入されるように飛越し走査されるが、これらのフィールドは、人間が一方の手の指を他方の手の指にからみ合わせるときに起きるであろうからみ合わせにきわめて似ている。それぞれのフレームは、(偶数および奇数の)それぞれが1/60秒ずれて捕捉された2つの飛越し走査フィールドから構成されているので、これらのフレーム自体は、1秒当たり30フレームの割合で捕捉される。
たいていのビデオの用途では、フィールドの捕捉どうしの間におけるきわめて短い遅延(1/60秒)は、対象物が撮影の間に動くときでも、どのような動きのアーティファクト(artifact of motion/motion artifact)も事実上検出できない、ということを意味している。(動きのアーティファクトの一例は、フレーム速度がかなり低い昔の無声映画に見ることができる。)録画機がフレームを捕捉する高い速度と、それぞれのフレームの中におけるフィールドどうしの間のわずかなタイムセパレーションとによって、ビデオにおけるぼやけが最小になる。例えば、動いている車あるいは走っている人のように、ビデオ録画される対象物が動いているときでも、そのような動きのアーティファクトは、捕捉されたフレームの中では人間の眼が実質的に検出することはできない。加えて、多くの用途では、人間は、ビデオにおいて検出可能な動きのアーティファクトでも無視しがちであるが、これは、特定の動きのアーティファクト(例えば、対象物の動きによるぼやけ)がそのアーティファクトを外す一組のフレームのうち別のフレームですばやく置換されることがしばしばあるためである。このように、いくつかの用途では、フレーム捕捉速度と、飛越し走査されたフィールドの連続的リフレッシュメントとは、ビデオ画像の目立ったぼやけを防止するのに充分である。
しかしながら、多くの用途では、フィールドが走査されかつフレームが捕捉される速度は、表示されたビデオにおける画像ゆがみ問題を引き起こす動きのアーティファクトを防止するに足りるほど高くはない。画像ゆがみ問題が動きのアーティファクトによって引き起こされることのある用途には例えば、内視鏡手術あるいは他の手術から得られたビデオおよび画像、スポーツの静止フレームあるいは、カメラと対象物とが独立して動く他のビデオが含まれる。エドガー(Edger)に付与された米国特許第5,191,413号には、この実例が記載されている。エドガーは次のように述べている。「もし、捕捉過程の間に手が対象物によって動かされるようなことがあれば、はっきり相異なる2つの位置でその手を捕捉する連続的なフィールドが生じるであろう。しかしながら、典型的な飛越し走査方式の作動には、表示スクリーンに交互に連続リフレッシュされる2つのフィールドが必要である。この結果、きわめて好ましくない画像の原因となる、1秒に30回の振動数で、じっとしていない動きあるいはぶるぶる震える動きをする手の様相が、示されることになる」。この現象はナイムパリー(Naimpally)らに付与された米国特許第5,329,317号にも示されている。
これらの動きのアーティファクトは、問題になっているビデオが拡大されたときに特に顕著である。例えば、内視鏡手術あるいは腹腔鏡手術においてビデオが撮影されて拡大されることがたびたびある。ビデオ画像は、内視鏡の光学部品あるいは腹腔鏡の光学部品に接続された高解像度カメラによって撮影される。これらの画像は、観察器械の光学部品によってきわめて大きく拡大され、その結果、捕捉された画像は動きに対してきわめて影響されやすい。従って、画像フィールドにおける小さい動きが、観察されたフィールドではきわめて大きい変化となり、また、そのように拡大された動きは局部的よりも全体的であるように見える。加えて、このような拡大のために、その動きは、捕捉されたフレームにおける2つのフィールド成分どうしの間でタイムセパレーションによって誇張される。
捕捉されたフレームにおける動きの効果は、相異なる少なくとも2つの方法で作り出されるが、これら少なくとも2つの方法のそれぞれは相異なる型の動きのアーティファクトに帰する。動きのアーティファクトにおける1つの型は外科医による内視鏡カメラの動きによって生じる。内視鏡の動きは、奇数のフィールドと偶数のフィールドとの間の「均一な動き関連誤差」に帰することができる。この型の動きの効果は「線状アーティファクト」として一般に知られている。両フィールドが捕捉されると、内視鏡の動きによって、内視鏡の動きの速度に直接比例してずらされるほとんど同一の画像が生じ、従って線状アーティファクトが作り出される。第2の型の動きの効果は、そのカメラの画像フィールドの中における動きによって作り出される。このような動きは、外科医による外科用具の動きのため、あるいは呼吸を伴うような患者の動きによる外科用具の動きのためかもしれない。この型の動きの効果は、手術器具あるいは患者の組織の動きが観察され、かつ、「局部的アーティファクト」として知られている画像の領域に限定される。内視鏡光学部品あるいは腹腔鏡光学部品による実質倍率によって、線状アーティファクトおよび局部的アーティファクトの双方でもたらされた捕捉画像における動きのゆがみ効果が劣化する。
手術のようなデリケートな用途では、最も安定しかつアーティファクトのない画像をもたらすことが重要である。これらの動きのアーティファクトについて補正するために、過去において、いくらかの努力が行なわれてきた。例えば、ソニー(Sony)のような製造業者から入手することのできるビデオプリンターには、「動き検査」ファームウェアが備わっている。このファームウェアは、特定の画像の中で発達した動きのアーティファクトを探し、それらを見つけると使用者に警報を出す。そして、使用者はその動きのアーティファクトを補正することができる。この補正には、画像を形成する前記2つのフィールドにおける1つのフィールド、すなわち、表示されあるいは印刷されるビデオの垂直解像度を大幅に減少させる1つのフィールドを削除することが含まれている。動きを補正する従来の別の技術は、前記2つのフィールドにおける1つのフィールドを削除して、その廃棄されたフィールドを残りのフィールドの繰り返しによって置換することである。このことは、捕捉された情報の半分だけを誇張する画像に帰し、より低い解像度に帰するものである。また、いくつかの商業的ソフトウェアの用途には、使用者によって実行することのできる動き補正の構成が備わっているが、これらの構成は、その使用に際して技術的に精通していない者にとっては実施するのが困難であることが多い。アドービ(Adobe)にはこのようなソフトウェアが備わっている。
動きのアーティファクトを補正することへの別の取り組みは、隣接する2つのフィールドにおける画素どうしの間における差を一定のしきい値と比較することであった。このしきい値が大き過ぎるときには、1つの画素におけるこの値は置換される。この置換値は、隣接する線どうしにおけるいくつかの画素の値を平均化することによって決定することができる。しかしながら、もし、画素どうしの間における差がその一定値を超えないときには、画素値を変化させるためにどのような動作も行なわれない。この過程は、それぞれのフレームのそれぞれの線におけるそれぞれの画素について繰り返される。内視鏡の画素の中で動きのアーティファクトへ適用されるようなこの取り組みの一例が、ブランソン(Branson)に付与された米国特許第5,877,819号に記載されている。
大きく拡大されたビデオにおける動きのアーティファクトを補正するための従来のいくつかの方法によれば、最高品質の映像がもたらされることはない。さらにまた、それらの方法は、専門化された技能を必要とし、また、順応性に欠けている。このため、高解像度の画像を生じる、大きく拡大されたビデオにおける動きのアーティファクトを補正する方法およびシステムについての要望がある。また、さらに別の画素値の解析および置換における順応性を増大させるように、画素値のしきい値について動的であるそのような方法およびシステムについての要望もある。さらにまた、手術のようなデリケートな用途におけるそのような方法およびシステムについての特別な要望もある。
発明の概要
この発明によれば、内視鏡的処置あるいは他の医療的および外科的処置から得られたビデオおよび画像、スポーツの静止フレームあるいは、録画用装置、対象物あるいはこれら両者が独立して動く他のビデオを改善する方法およびシステムが提供される。
すなわち、この発明の1つの観点によれば、
第1ラスターフィールドと飛越し走査された第2ラスターフィールドとを有している、飛越し走査方式のビデオ画像の完全なフレームを捕捉し、
カメラの動きを自動的に補正し、
対象物の動きを自動的に補正し、かつ、
カメラの動きおよび対象物の動きの補正ずみ画像を表示することからなる、
録画用カメラによって捕捉された飛越し走査方式のビデオ画像における動きのアーティファクトを自動補正する方法が提供される。
ここで、カメラの動きの自動的補正は、捕捉フレームがカメラの動きのアーティファクトを含んでいるかどうかを判定することからなっていてもよい。
また、カメラの動きの自動的補正は、第1ラスターフィールドにおける自己相関を第2ラスターフィールドに対して実行することからなっていてもよい。
ここで、第1および第2のラスターフィールドはそれぞれ、複数の画素を有し、第1ラスターフィールドにおける画素は、第2ラスターフィールドにおける画素からずれており、自己相関の実行は、第1ラスターフィールドにおける画素と第2ラスターフィールドにおける画素との間に2次元動きベクトルを創造することからなるものであってもよい。
2次元動きベクトルを創造することは、第1ラスターフィールドにおけるそれぞれの画素の第2ラスターフィールドにおける参照画素に対するX/Y座標についての最適相関値を配置することからなっていてもよい
最適相関値の配置は、3×3の畳み込み検索の繰り返しの使用からなっていてもよい
3×3の畳み込み検索の繰り返しの使用は、
(a)第1の特定のずれがX座標およびY座標の両方についてゼロであるときに、第1および第2のラスターフィールドにおける対応画素について第1相関値を決定し、
(b)第2の特定のずれがX座標について1でありかつY座標についてゼロであるときに、第2ラスターフィールドにおける対応画素の右側に位置する第1ラスターフィールドにおける画素について第2相関値を決定し、
(c)第1相関値と第2相関値との間の差を算出し、
(d)これらの値の間の差を2乗し、
(e)第1ラスターフィールドにおけるすべての画素について第2ラスターフィールドにおける画素に対してステップ(a),(b),(c)および(d)を繰り返し、
(f)第1の特定のずれでの相関値と第2の特定のずれでの相関値との間における差の2乗を加算し、かつ、
(g)第1ラスターフィールドを第2ラスターフィールドに対してずらすための最適相関値をもたらすために、第1ラスターフィールドにおける画素と第2ラスターフィールドにおける画素との間の最小差を創造する相関値を決定することからなっていてもよい
上記の2次元動きベクトルを創造することは、第2ラスターフィールドにおける参照画素から所定数の画素よりも多くずれていることが判定された第1ラスターフィールドにおけるそれぞれの画素に対するX/Y座標についての値を配置することからなっていてもよい
上記の所定数の画素は、10〜20画素の範囲内にあってもよい。
上記カメラの動きの自動的補正は、合成的第1ラスターフィールドを第2ラスターフィールドの複製によって創造することからさらになっていてもよい。
上記カメラの動きの自動的補正は、2次元動きベクトルによって決定された自己相関に係る補正位置のある完全捕捉フレームの中に合成的第1ラスターフィールドを創造するために第2ラスターフィールドを複製することからさらになっていてもよい
対象物の動きの自動的補正は、捕捉フレームの中における対象物の動きの領域を自動的に識別するために対象物動きマップを演算することからなっていてもよい
ここで、対象物動きマップの演算は、
(a)第1ラスターフィールドについて実際の画素値を決定し、
(b)第1ラスターフィールドについて予測された画素値を第2ラスターフィールドから演算し、
(c)捕捉フレームの別々の領域における第1ラスターフィールドと第2ラスターフィールドとの間の差を決定するために、第1ラスターフィールドについて予測された画素値と実際の画素値とを比較し、
(d)第1ラスターフィールドと第2ラスターフィールドとの間の差が比較的大きい捕捉フレームの領域を識別し、かつ、
(e)対象物動きマップを創造するために、第1ラスターフィールドと第2ラスターフィールドとの間の比較的大きい差を2乗することからなっていてもよい
対象物動きマップの演算は、その対象物動きマップの中における大きい差の領域にハーフハイトのグレースケール画像マップを創造するために、捕捉フレームの第1および第2のラスターフィールドを巻き込むことと、第1ラスターフィールドと第2ラスターフィールドとの間の差が比較的小さい捕捉フレームの非補正領域を残すこととからさらになっていてもよい
対象物の動きの自動的補正は、対象物の動きの補正を適用するための捕捉フレームにおける領域の輪郭を描くために、2値対象物位置決めマップを創造することからさらになっていてもよい
ここで、2値対象物位置決めマップの創造は、
(a)第1ラスターフィールドについて予測された画素値と実際の画素値との間のしきい値差を設定し、
(b)グレースケール画像マップにおけるそれぞれの画素をそのしきい値差と比較して、そのしきい値差を超える画素の数を合計し、
(c)グレースケール画像マップにおける3つ以下の隣接画素がそのしきい値差より大きいときには、そのグレースケール画像マップからそれらの画素を除去し、かつ、
(d)4つ以上の隣接画素がそのしきい値差よりも大きいときには、それらの画素をそのグレースケール画像マップの中に残しておくことからなるものであってもよい
上記しきい値差は、約20〜約150IRE輝度単位の範囲内にあってもよい。
上記しきい値差は、40〜100IRE輝度単位の範囲内にあってもよい。
対象物の動きの自動的補正は、対象物の動きの領域におけるグレースケール画像マップから除去された画素を置換することによって2値対象物位置決めマップを調整することからさらになっていてもよい。
ここで、対象物の動きの領域は、画素のある境界を形成するために除去された画素を有しており、2値対象物位置決めマップの調整が、
(a)対象物の動きの除去ずみ領域における境界にある画素から2次元ベクトルを演算し、
(b)対象物の動きの領域から除去された画素をその2次元ベクトルで置換し、かつ、
(c)なめらかなエッジのある補正画像を創造するために、対象物の動きの除去ずみ領域における境界からさらに1画素離れた位置でその2次元ベクトルを演算することによってステップ(a)および(b)を繰り返すことからなるものであってもよい。
対象物の動きの除去ずみ領域における境界にある画素からの2次元ベクトルの演算は、対象物の動きの除去ずみ領域における境界を識別することと、その境界における画素に隣接する画素を一度に1つ、2方向で検出することとからなるものであってもよい。
対象物の動きの自動的補正は、処理ずみ補正画像を演算することからさらになっていてもよい。
ここで、処理ずみ補正画像の演算は、調整されたマップを使って対象物の動きが最大である捕捉フレームにおける領域を表示することと、対象物の動きが最大である捕捉フレームにおける領域の中において補正ずみ第1ラスターフィールドから補正ずみ第2ラスターフィールドを演算することとからなるものであってもよい。
この発明の1つの観点による上記方法は、カメラの動きと対象物の動きとについて補正された処理ずみ画像を表示することからさらになっていてもよい。
この発明の1つの観点による上記方法は、カメラの動きを自動的に補正した後に対象物の動きを自動的に補正することからさらになっていてもよい
この発明の1つの観点による上記方法は、飛越し走査方式のビデオ画像の完全なフレームの捕捉が、外科的処置の間に得られたビデオ画像を捕捉することからなっていてもよい。
この発明の別の観点によれば、
第1ラスターフィールドと飛越し走査された第2ラスターフィールドとを有し、第1および第2のラスターフィールドのそれぞれが複数の画素を有している、飛越し走査方式のビデオ画像の完全なフレームを捕捉し、
第1ラスターフィールドにおける画素と第2ラスターフィールドにおける画素との間に最適相関値を配置し、
最適相関値から2次元動きベクトルを創造し、
2次元動きベクトルに係る補正位置における完全捕捉フレームの中に第2ラスターフィールドを複製することによって合成的第1ラスターフィールドを創造し、
第1ラスターフィールドと第2ラスターフィールドとの間の画素値における差が比較的大きい捕捉フレームの領域を識別するために対象物動きマップを演算し、
対象物について補正を施すための捕捉フレームの領域の輪郭を描くために2値対象物位置決めマップを創造し、
隣接画素の数があらかじめ設定されたしきい値を超えるときに2値対象物位置決めマップからそれらの画素を除去し、
除去された画素を置換することによって2値対象物位置決めマップを調整し、
処理ずみ補正画像を演算し、かつ、
カメラの動きおよび対象物の動きの補正ずみ画像を表示することからなる、
録画用カメラによって捕捉された飛越し走査方式のビデオ画像における動きのアーティファクトを自動補正する方法が提供される。
この発明のさらに別の観点によれば、
ビデオ画像の完全なフレームを捕捉するための録画用カメラ、
ライブビデオ画像とビデオ画像の捕捉フレームとを処理するためのディジタル捕捉ユニット、
カメラの動きを自動的に補正するための第1フィルター、
対象物の動きを自動的に補正するための第2フィルター、および
画像を表示するためのビデオモニターを備えてなる、
飛越し走査方式のライブビデオ画像における動きのアーティファクトを自動補正するシステムが提供される。
ここで、完全なフレームのそれぞれは、第1ラスターフィールドと飛越し走査方式の第2ラスターフィールドとを有し、それぞれのフィールドは、複数の画素を備え、カメラの動きを自動的に補正するための第1フィルターは、
自己相関によって作り出された第1ラスターフィールドと第2ラスターフィールドとの間における2次元動きベクトル、および
この2次元動きベクトルに係る完全捕捉フレームにおける補正位置において第2ラスターフィールドを複製することによって作り出された合成的第1ラスターフィールド
を備えていてもよい。
対象物の動きを自動的に補正するための第2フィルターは、
対象物の動きの領域を識別するために演算された対象物動きマップ、
対象物の動きの領域における画素を除去するための2値対象物動きマップ、
除去された画素を置換することによって調整された2値対象物動きマップ、および
対象物の動きが最大である領域において第1ラスターフィールドから補正された第2ラスターフィールドを演算することによって補正された捕捉フレーム
を備えてなるものであってもよい。
また、画像を表示するためのビデオモニターは、カメラの動きおよび対象物の動きの補正の前および後に表示された画像を備えていてもよい。
この発明のさらに別の観点によるシステムは、ライブビデオ画像を静止化するとともに静止化された画像をビデオモニターに表示するための静止化モードをさらに備えていてもよい。
このシステムは、静止化された画像をディジタル捕捉ユニットによってディジタル方式で捕捉するための捕捉モードをさらに備えていてもよい。
ここで、ディジタル捕捉ユニットは、内部一時記憶容量を有し、このシステムは、ディジタル捕捉ユニットの内部一時記憶容量の中にカメラの動きと対象物の動きとについて補正された画像をセーブするためのセーブモードをさらに備えていてもよい
このシステムは、携帯用記憶媒体に画像を永久的にセーブするための媒体書込装置を有し、携帯用記憶媒体にカメラの動きと対象物の動きとについて補正された画像を永久的にセーブするための書込モードをさらに備えていてもよい。
この明細書に記載されたこの発明の実施態様の一例は、録画用カメラによって捕捉された飛越し走査方式のビデオ画像における動きのアーティファクトの自動補正方法である。このような実施態様には、飛越し走査方式のビデオ画像の完全なフレームを捕捉し、カメラの動きを自動的に補正し、対象物の動きを自動的に補正し、かつ、カメラの動きおよび対象物の動きについて補正された画像を表示することが含まれていてもよい。
図1は、この発明の自動動き補正を実施するためのシステムを示している模式図である。 図2は、この発明の自動補正システムを実施するための実施態様の操作を示している流れ図である。 図3は、図2に表された実施態様の操作における、この発明の自動補正システムを利用するためのオプションを示している、より詳しい流れ図である。 図4は、図1に表されたシステムに具体化されたような、この発明の自動動き補正の方法を示している流れ図である。 図5は、図4に表されたシステムに具体化されたような、この発明の自動動き補正の方法を示しているとともに、カメラの動きの自動的補正と対象物の動きの自動的補正とを達成するためのステップを示している、より詳しい流れ図である。 図6は、カメラの動きによって生じた線状アーティファクトによる画像のゆがみを表すための写真である。 図7は、カメラの動きによって生じた線状アーティファクトの自動動き補正後における、図6の画像の写真である。 図8は、カメラの動きと、対象物動きマップによって識別されたような対象物の局部的動きとによって生じた画像のゆがみを表すための写真である。 図9は、カメラの動きの自動動き補正と対象物の局部的動きの自動動き補正との後における、図8の画像の写真である。
ある実施態様では、この発明の方法には、画像がカメラの動きによって影響されたかどうかをまず判定することが含まれている。全体の画像がカメラの動きによって引き起こされた線状アーティファクトに影響されるので、このようなカメラの動きのアーティファクトは、画像を局部的な動きについて試験することができる前に、全体として画像から排除しなければならない。カメラの動きは、奇数および偶数のラスターフィールドの自己相関を用いて識別されかつ測定される。次いで、カメラの動きについて最適な補正をもたらすために、2次元ベクトルが算出され、その後、前記2つのフィールドにおける捕捉の間における1/60秒間隔の間におけるカメラの動きを補正するために、偶数のフィールドを奇数のフィールドに対して正しい位置に変えることができる(あるいはその逆もまた同様である)。この発明のこのような観点によれば、観察される対象物に対してカメラ自体が全体として動く(あるいはその逆もまた同様である)「線状アーティファクト」のような状況が補正される。
この発明の別の観点によれば、対象物の動きあるいは局部的な動きのアーティファクトが含まれる特定のビデオ画像の中でセグメントを自動的に識別する方法が提供される。この発明のこのような方法では、画像対象物の動きが生じた箇所がまず決定される。このことは、偶数のフィールドを演算しあるいは予測するために奇数フィールドにおける赤―緑―青(RGB)の3つの色成分を畳み込むことによって行なうことができる。測定された偶数フィールドと予測された偶数フィールドとの差は、画像フィールドの中における動きの領域を表している。予測された偶数フィールドと実際の偶数フィールドとの差が小さいときには、その差は、細部を提示するのに寄与することができ、補正することなく残される。予測された偶数フィールドと実際の偶数フィールドとの差が大きいときには、対象物の動きあるいは画像フィールド内の局部的な動きが識別される。
次いで、補正を行なう必要のある画像の領域が決定される。補正の領域を決定する1つの方法は、対象物動きマップを作成することである。1つの実施例では、対象物動きマップは、予測された偶数フィールドと実際の偶数フィールドとの差を2乗することによって創造することができる。フィールド間の画素値の差を2乗すると、それらの値に関連した正あるいは負の方向が除去され、また、小さい誤差に対する影響が少なくなる。得られた対象物動きマップはその後、局部的な動きのアーティファクトが生じた画像の領域の輪郭を描くための2値画像を創造するために、しきい値と比較される。
次いで、識別された対象物の局部的動きが補正される。1つの方法では、補正は、対象物動きマップによって偶数フィールド予測精度の低いことが示されるときには、画像の領域における奇数フィールドから偶数フィールドを演算することによって行なわれる。局部的アーティファクトの識別された領域を指定された発光しきい値の上方における隣接画素の数と比較することによって、好ましくない画素を1つずつ除去することができる。
その後、好ましくない画素が除去された対象物動きマップにおけるそれぞれの領域は、局部的な動きのアーティファクトによって引き起こされたぼやけを生じることなく、置換することができる。1つの方法では、除去された画素についての自己相関置換は、相異なる2方向における隣接画素を検出することによって行なうことができる。除去された対象物の動きの領域における境界にあるぼやけていない画素から演算されたこのような2次元ベクトルは、そこからの鮮明な画素を対象物の動きの領域の中へ移すことによってそのマップを調整するために用いることができる。
次いで、処理ずみ補正画像を演算することができる。この発明に係る1つの方法では、処理ずみ補正画像が、調整されたマップを用いて最初のNTSCフレームを改変する箇所を示すことによって、演算される。最初のフレームの選択的補正は、対象物の動きが最も大きいことをそのマップが示すときに、奇数のラスターから偶数のラスターを演算することによって行なうことができる。カメラの動きと局部的な動きとの双方について自動的に補正された処理ずみ画像が演算された後に、その画像は観察のために表示される。
この発明のいくつかの実施態様における1つの利点は、動きのアーティファクトが、線状であるか局部的であるかに関わりなく、自動的に補正されることである。この発明におけるように、局部的フィールドの合成複製の利点は、観察された画像における可視的なエッジ効果がまったくないということである。言い換えれば、対象物の動きの領域には、過剰補正によってしばしば生じるぎざぎざのエッジではなく滑らかなエッジがある。
この発明のように、補正の必要な領域についてだけ自動的に補正する別の利点は、画像の解像度が高いということである。純粋な局部的フィールドの複製によれば、対象物の動きの領域における偶数のラスター画素を廃棄することによっていくつかの画像細部が欠損することになる。それにもかかわらず、この発明のいくつかの実施態様では、必要な領域でだけ画素が廃棄されるので、画素の領域をすべて廃棄するシステムにおけるよりもはるかに少ない画素が廃棄される。従って、この発明の方法およびシステムによれば、最高の解像特性の映像が得られることになる、大きく拡大されたビデオにおける動きのアーティファクトを自動補正する順応性のある手段が提供される。
この発明におけるいくつかの実施態様によれば、捕捉されたフレームの中に生じたアーティファクトの型が自動的に検出される。この発明に係るシステムによれば、動きのアーティファクトが、相対的なカメラの動きによって生じた線状アーティファクトであるか、あるいは対象物(外科器具あるいは患者)の動きによって生じた画像フィールドにおける局部的アーティファクトであるかが、自動的に識別される。相異なる動きの型を検出するための相異なるパラメーターを利用することによって、検出された動きの型についてだけ補正動作が行なわれる。
動きの型が自動的に識別された後に、この発明のいくつかの実施態様では、次に、フレームのそれぞれの画素において生じた特定のアーティファクトについての正確な補償を用いて、フレームの画像が自動的に補正される。これらの利益によって、外科医がビデオ捕捉の際に動き補正をしなければならないかどうかを判定する必要性がなくなり、従って、長い外科的処置時間がなくなる。加えて、このシステムの利点は、カメラ、外科医、外科用具および患者が画像の捕捉されるそれぞれの時刻と同じ瞬間に静止していることを外科医が保証するのに際して、集中する必要なく静止画像を捕捉することができることである。画像は、これらの潜在的なアーティファクト源のいずれかの動きによって生じた動きのアーティファクトを心配することなく、基本的には無作為に捕捉することができる。
この発明における別の利点は、いくつかの実施態様を、後処理である画像補正を行なうことが必要になる時間を省略するために、手術室において使うことができることである。自動的でない動き補正処置には、外科医が、「上方への動き」および「下方への動き」のような作用で画像を用手操作することによって、捕捉された画像を手で編集することが含まれる。この発明に係る動きのアーティファクトの自動補正によれば、手による編集の必要性がなくなる。
さらに、この発明の自動動き補正を利用するのに必要な最小時間によれば、実際のリアルタイム画像補正がもたらされる。この方法は、専用回路において実施された方法を伴う専用の画像処理設備を用いて、あるいは特定目的のための計算要素を用いて、リアルタイムに利用することができる。この代わりに、この方法は、ソフトウェアにおいて実施された方法を用いて動きのアーティファクトの補正を演算するために汎用目的コンピューターを用いて利用することができる。
この発明に係る自動動き補正の方法およびシステムは、内視鏡手術あるいは他の手術から得られたビデオおよび画像、スポーツの静止フレームあるいは、カメラおよび対象物が独立して動く他のビデオの、広範囲の用途に用いることができる。この発明は、NTSC、PALおよび他の飛越し走査方式のビデオ信号源が含まれる、さまざまなビデオ信号フォーマットで用いることができる。
従って、この発明の方法およびシステムによれば、カメラ、対象物あるいは、これら両者が独立して動き、高品質解像度画像が生じるビデオおよび画像の自動動き補正が提供される。このことは、飛越し走査方式のフレームにおける両方のラスターフィールドからの第1次情報を維持することによって達成される。この発明の方法およびシステムによれば、両方の動きの型が同時に生じるかもしれない、カメラの動きによって生じた線状の動きのアーティファクトと、画像フィールドの中における外科用具あるいは患者の動きによって生じた局部的な動きのアーティファクトとが、自動的にかつ区別をつけて検出される。この発明の方法およびシステムを用いることによって、動きのアーティファクトにおけるそれぞれの型を自動的にかつ区別をつけて補正することができる。
当業者によれば、この発明の利点および特徴は、これまでに説明されたように、また、以下のアーティファクトな説明から明らかなように、認識されるであろう。
詳細な説明
この発明に係る自動動き補正の方法およびシステムは、広範囲の用途に用いることができる。これらの用途の例には、内視鏡的処置あるいは他の医療的および外科的処置から得られたビデオおよび画像、スポーツの静止フレームあるいは、カメラおよび対象物が独立して動く他のビデオが含まれる。この発明は、NTSC、PALおよび他の飛越し走査方式のビデオ信号源が含まれる、さまざまなビデオ信号フォーマットで用いることができる。加えて、この発明は、さまざまなハードウェア用途で用いることができる。
この発明の実施態様の一例は、録画用カメラによって捕捉された飛越し走査方式のビデオ画像における動きのアーティファクトの自動補正方法である。このような実施態様には、飛越し走査方式のビデオ画像の完全なフレームを捕捉することが含まれており、その完全なフレームには第1ラスターフィールドが備わっており、その第1ラスターフィールドは第2ラスターフィールドで飛越し走査され、これら両方のフィールドはいくつかの画素からなっている。このような実施態様には、カメラの動きを自動的に補正すること、対象物の動きを自動的に補正することおよび、カメラの動きおよび対象物の動きについて補正された画像を表示することが含まれている。
この発明の実施態様の方法は、第1および第2のラスターフィールドにおける画素どうしの間に最適な補正値を配置するステップと、このような最適な補正値から2次元動きベクトルを創造するステップとを利用することもできる。カメラの動きの補正を行なうために、この実施態様ではその後、2次元動きベクトルに従って、補正後の位置において、捕捉された完全なフレームの中で第2ラスターフィールドを畳み込むことによって合成的第1ラスターフィールドが作り出される。
対象物の動きの補正を達成するために、この発明における実施態様の方法は、第1ラスターフィールドと第2ラスターフィールドとの間における画素値の差が比較的大きい捕捉フレームの領域を識別するために、対象物動きマップを演算するステップを利用することもできる。いくつかの隣接画素があらかじめ設定されたしきい値を超える画素を識別する捕捉フレームの領域の輪郭を描くために、対象物動きマップから、2値対象物動き位置決めマップを創造することができる。この実施態様では、対象物の動きの領域において識別された画素はその後、除去することができる。対象物の動きの領域から除去された画素は次に、除去ずみ領域の境界における画素から2次元ベクトルを演算することによって、ぼやけることなく置換することができる。この実施態様では、対象物の動きが最大である捕捉フレームにおける領域を表すために、調整された2値対象物動き位置決めマップを用い、かつ、対象物の動きが最大である領域における補正ずみ第1ラスターフィールドから補正ずみ第2ラスターフィールドを演算することによって、処理ずみ補正画像を創造することができる。先に説明された実施態様の方法では、カメラの動きと対象物の動きとについて補正された画像をビデオモニターに表示するステップを利用することもできる。
この発明の、内視鏡手術に関するある用途において、1つの実施態様では、米国マサチューセッツ州アンドーバー市のスミス・アンド・ネフュー・インコーポレーテッド(Smith & Nephew)社による「ダイオニックス(Dyonics 登録商標)ビジョン 625 ディジタル捕捉システム」が使われている。この「ダイオニックス(Dyonics 登録商標)ビジョン 625 ディジタル捕捉システム」(「ダイオニックス(Dyonics 登録商標)ビジョン 625」)は、手術中の画像をディジタル方式で捕捉するために、手術室で使われるように設計されている。これらの画像は、長期保管、検索あるいは印刷のための可搬型媒体における標準画像ファイルフォーマットに記憶される。
この発明の方法およびシステムに係るビデオ画像自動動き補正の実施態様が、例えば以下のステップにおける内視鏡手術について、「ダイオニックス(Dyonics 登録商標)ビジョン 625」を使って説明されている。特に図1〜図4には、この発明におけるような自動動き補正を実施するための実施態様の操作が表されている。
1.コンピューターフレームの捕捉(フレーム1)
この発明における自動動き補正の方法およびシステムでは、捕捉された偶数フィールドおよび奇数フィールドの双方のある完全なフレームが備わっている飛越し走査方式のビデオ画像について操作される。図5によれば、例えば、標準的なビデオ捕捉装置を使って完全なNTSCフレーム501を捕捉することができる。「ダイオニックス(Dyonics 登録商標)ビジョン 625」システム100が使われる実施態様では、図1に示されたように、内視鏡光学部品101によって、カメラの動きと対象物の局部的動きとの両方が自動的に検出されかつ補正されるビデオ画像が検出される。図1によれば、飛越し走査方式のビデオ信号が、内視鏡光学部品101からカメラ制御ユニット102を通って、全フレームの飛越し走査方式ビデオ画像が捕捉されるディジタル捕捉ユニット103へ送られる。
ディジタル捕捉ユニット103には、図3における符号306および308にそれぞれ示されたように、「静止化」および「捕捉」のようなこのシステムのさまざまな様相を活性化するために使うことのできる、付属のキーボード104が備わっていてもよい。内視鏡光学部品101によって検出されたライブビデオ画像は、ビデオモニター105に表示されたように(305a,305b)観察することができる。操作に際して、外科医は、ライブビデオ画像(305a)を静止させる(306)とともにビデオモニター105にその静止画像を表示する(307)ために、カメラ制御ユニット102において「静止」信号110を発信させることができる。外科医がライブ画像(305a)を観察するときに、その画像は、カメラ制御ユニット102において「捕捉」信号を発信させることによって捕捉することができ、その画像は、ディジタル捕捉ユニット103の内部一時記憶装置112にセーブされる(309)。「バイパス」モード330を活性化することによって、ディジタル捕捉ユニット103は、観察されるライプビデオ画像への適用から不活性化されあるいは一時停止されるとともに、ライブ画像が直接ビデオモニター105に表示される。
図5にいっそう詳しく示されたように、カメラの動きの自動補正405と対象物の局部的動きの自動補正406とが、図1に示された実施態様の自動動き補正(AMC)フィルター109によって作動可能にされる。カメラの動きと対象物の局部的動きとの両方についての自動補正は、以下に説明される。
2.第1ラスターフィールドの第2ラスターフィールドに対する自己相関の実行(フレーム1)
この発明の方法およびシステムによって実行された第1自動動き補正はカメラの動きのものである。図6には、カメラの動きによって生じた線状アーティファクトによる画像のゆがみが示されている。カメラの動きの補正は、偶数フィールドか奇数フィールドかのいずれか一方の第1ラスターフィールドについて、捕捉フレームにおいて第1ラスターフィールドに補完的であるフィールドである第2ラスターフィールドに対する自己相関を実行することによって達成される。この自己相関関数は「動きベクトル」に帰するものである。「ダイオニックス(Dyonics 登録商標)ビジョン 625」システムを使えば、図5における関数「動きベクトルの測定」502を実行することによって自己相関動きベクトルが演算される。「動きベクトルの測定」502によって、変数表から2つの値であるゆがみX(SkewX)およびゆがみY(SkewY)が出力される。時間を節約するために、そのアルゴリズムでは、反復検索、すなわち、3×3の畳み込みを最小化することが用いられる。最適な組み合わせが見つかるまで、あるいは第1ラスターが第2ラスターからずれている所定数の画素よりも大きいことが判定されるまで、新しい位置を検索するために、3×3の結果行列の最良適合位置が用いられる。この所定数は、10〜20画素の範囲内にあるのが好ましく、この例では15画素である。
「動きベクトルの測定」502は、1つのサブルーチンで「畳み込み」503と称される。この「畳み込み」の目的は、最適な自己相関箇所についての先の検索においてすでに実行された演算の複製を省くために、連続的な演算の結果をセーブすることである。一般に、「At巻き込み」(ConvolveAt)とは、一方のラスターにおけるそれぞれの試験画素の、他方のラスターにおける参照画素に対する適合度の質を示すさまざまなX箇所およびY箇所のそれぞれについての単一数を創造することによって、2つの画像を比較する数学的技法である。
この発明において、「At巻き込み」には、指定されたずれについての奇数ラスターと偶数ラスターとの間におけるすべての画素の差が巻き込まれている。指定されたずれがXおよびYの両方についてゼロであるときには、両方のラスターにおける同じ画素どうしが互いに比較される。そのずれがXについて1であり、Yについて0であるときには、奇数ラスターにおける同じ画素の右側に位置する偶数ラスター画素が比較される。「At巻き込み」における畳み込みによって、指定されたずれでラスターどうしの間における差の2乗の合計が測定される。奇数ラスターと偶数ラスターとの間における最適な自己相関は、2つのラスターどうしの間における最小差を創造するXおよびYの値である。試験画像を参照画像に対して移動させるための最適自己相関箇所を決定すれば、畳み込みによって、全フレーム画像が可能になるような鮮明な画像が作り出される。それにもかかわらず、この箇所には、局部的アーティファクトによる2つのラスターフィールドどうしの間における画像差がまだ存在している。
次のアルゴリズムは、第1ラスターフィールドの第2ラスターフィールドに対する自己相関に使われる。しかしながら、当業者に明らかなように、この発明における自動動き補正の方法およびシステムは、このような畳み込み法によらない用途にも容易に利用することができる。
Figure 2014017839
Figure 2014017839
Figure 2014017839
Figure 2014017839
3.第2ラスターフィールドを複製することによって第1ラスターフィールドを創造し、次いで、その合成的第1ラスターフィールドをその自己相関の中へ配置する。(フレーム2)
カメラの動きの自動動き補正を遂行するために、人間の眼にとって実質的に透明な中間フレームが作り出される。図7には、カメラの動きによる線状アーティファクトの自動補正の後における図6の画像が示されている。この中間フレームには、第2ラスターフィールドを複製し、次いで、合成されたものをその自己相関の中へ配置することによって作り出された合成的第1ラスターフィールドのあるラスターが備わっている。この発明の方法およびシステムについてのある実施態様では、「ダイオニックス(Dyonics 登録商標)ビジョン 625」システムを用いれば、図5に示されたような「偶数フィールドの移動と奇数フィールドへの重ね合わせ」関数504を自動的に実行させることによって、そのような合成的フィールドが作り出されるとともに、それが相関位置へ配置される。関数「偶数フィールドの移動と奇数フィールドへの重ね合わせ」504によって、関数「動きベクトルの測定」502で決定されたずれで、NTSCフレームにおける偶数フィールドが置換される。次のアルゴリズムは、合成的フィールドのあるラスターを創造する方法に使われる。
Figure 2014017839
Figure 2014017839
4. 対象物動きマップの演算(フレーム3)
図8には、カメラの動きと対象物の局部的動きとによる画像のゆがみが示されている。カメラの動きがこの発明の方法およびシステムによって自動的に補正された後に、対象物の局部的動きは、図4における参照符号406で示されたように、自動的に検出しかつ補正することができる。図5によれば、対象物の局部的動きは、透明な、すなわち見ることのできない別の中間フレームであるフレーム3が備わっている対象物動きマップを演算することによって、自動的に検出することができる。対象物の動きは、カメラの動きの影響が排除された後の画像におけるどの箇所でも分かる。関数「アーティファクトの位置決め」505は、例えば「ダイオニックス(Dyonics 登録商標)ビジョン 625」システムを用いて、偶数ラスターと奇数ラスターとの差における対象物の動きの結果を検索するものである。「予測された」偶数画素値と実際の偶数画素値との差を演算するために、「アーティファクトの位置決め」505関数では、畳み込み核
0 1 0
0 −2 0
0 1 0
の参照画像が用いられる。
しかしながら、
1 0 1
0 −4 0
1 0 1
あるいは
1 1 1
0 −6 0
1 1 1
のような任意の同値畳み込み核を用いてもよい。
この核は実行速度について選ばれたものである。3つの有効項が適切であるが、これは、画像の偶数ラスターには、合成的フィールド504のあるラスターを創造してその合成的フィールドをその補正ずみ箇所(フレーム2)の中へ配置するために、先に説明された方法の故に奇数ラスターへのあり得る最大相関がすでに備わっているからである。
「アーティファクトの位置決め」505には、「差」におけるハーフハイトのグレースケール画像を創造するために、NTSC画像すなわち「色ラスター」が含まれる。次のアルゴリズムは、対象物動きマップを演算する方法に使われる。
Figure 2014017839
5. 2値対象物動き位置決めマップを創造するための、フレーム3におけるしきい値差の設定と好ましくない画素の除去(フレーム4)
好ましくない画素を除去するとともに影響を受けた領域における実際の細部を依然として保存することによって、局部的な動きのアーティファクトについて補正するために、対象物動きマップが演算された後に2値対象物動き位置決めマップが作り出される。この発明の方法およびシステムでは、例えば「ダイオニックス(Dyonics 登録商標)ビジョン 625」システムの実施態様を用いれば、関数「大量除去」506(図5)によって2値対象物動き位置決めマップが作り出される。関数「大量除去」506は、グレースケール画像「マップ」におけるそれぞれの画素を、多数の画像で試してみることによって決定されたしきい値差と比較するものである。「アーティファクトの位置決め」505における畳み込み核を用いる実際の用途では、約20〜約150IRE輝度単位、好ましくは40〜100単位の箇所であればどこでも、良好に機能する。このましい最終平均しきい値差は80IRE単位である。
「大量除去」506によって、対象物動きマップにおける2値大量除去が行なわれて、多い画像細部に由来するヘアーライン信号が除去される。大量除去によって好ましくない画素が1つずつ除去されるが、この大量除去は、しきい値を超える隣接画素の数をまず合計することによって行なわれる。もし、対象物動きマップの中で4つ以上の隣接画素がしきい値よりも大きいときには、その画素は除去しない。もし、対象物動きマップの中で3つ以下の隣接画素がしきい値よりも大きいときには、その画素は除去する。このような次第なので、局部的な細部は保存され、一方、外科用具あるいは患者の動きによって生じた動きのアーティファクトは補正される。次のアルゴリズムは、2値対象物動き位置決めマップを創造するために、大量除去の方法に使われる。
Figure 2014017839
6. 2値対象物動き位置決めマップの調整(フレーム5)
先のステップにおいて、中間フレーム4の中に2値対象物動き位置決めマップを創造するために、しきい値を設定し、かつ、好ましくない画素を大量除去した後に、その2値マップの画像が、次の中間フレームの中で調整されて、動きのアーティファクトによって生じたぼやけを生じることなく大量除去ずみ区域が置換される。この発明の方法およびシステムでは、例えば「ダイオニックス(Dyonics 登録商標)ビジョン 625」システムの実施態様を使うことによって、そのマップが「大量除去」されて、対象物の動きのアーティファクトにより除去ずみ領域の境界の近傍における画素が識別される。この境界の近傍における画素は、類似した対象物の動きによって最も影響を受ける可能性が高い。「膨脹」ルーチン507(図5)によれば、局部的な動きのアーティファクトによって引き起こされたぼやけを生じることなく大量除去ずみ区域が置換される。「膨脹」ルーチン507は、このリーチンが求められる度にそのマップを「広げて」1つの画素を除去するというその効果を除いて、類似した方法で「大量除去」ルーチン506に使われる。除去ずみ領域の境界で識別された画素に隣接する画素を一度に1つ、2方向で検出することによって、2次元ベクトルが演算される。対象物の動きの領域内において除去された画素は次いで、その2次元ベクトルで置換されて、滑らかなエッジのある補正ずみ画像が作り出される。「膨脹」ルーチン507は、画像の鮮明度を高めるために、2回行なわれる。次のアルゴリズムは、しきい値の近傍の画素でそのマップを調整するための方法に使われる。
Figure 2014017839
7.処理ずみ補正画像の演算(フレーム6)
2値対象物動き位置決めマップ画像が、局部的な動きのアーティファクトによって引き起こされたぼやけを生じることなく大量除去ずみ区域を置換することで調整された後に、処理ずみ補正画像が演算される。処理ずみ補正画像は、最初のNTSCフレーム色ラスターを改変する箇所を表示するために、調整されたマップ(画像5)を使うことによって演算される。この発明の方法およびシステムでは、例えば「ダイオニックス(Dyonics 登録商標)ビジョン 625」システムの実施態様を用いれば、図5に示されたように「マップの内挿」ルーチン508を行なうことによって、最初のフレーム色ラスターが改変される。この「マップの内挿」ルーチン508は、対象物の動きが最大であることをマップが表示する箇所である偶数ラスターを奇数ラスターから演算することによって、色ラスターを選択的に補正するものである。すなわち、程度の大きい対象物の動きのある画像フィールドの局部的領域が、補正のために選び出される。その結果、鮮明な処理ずみ画像が内挿される。図9には、自動動き補正後における図8の画像が示されている。次のアルゴリズムは、カメラの動きと対象物の局部的動きとの両方についての処理ずみ画像を創造するために、最初のフレーム色ラスターを選択的に補正する方法に使われる。
Figure 2014017839
図におけるステップ505〜508(フレーム3〜6)の作動の結果、図4におけるステップ406によって表示されたように、最初の捕捉フレーム(フレーム1)が、対象物の局部的動きについて自動的に補正される。
8.処理ずみ補正画像の表示(フレーム7)
カメラの動きと対象物の局部的動きとの両方について自動的に補正された処理ずみ画像509(図5)が演算された後に、その画像は、例えば外科医によるリアルタイム観察のために、表示される。この発明の方法およびシステムによって、例えば「ダイオニックス(Dyonics 登録商標)ビジョン 625」システムを使って自動的に補正された画像もまた、長期保管、検索あるいは印刷のための可搬型媒体における標準画像ファイルフォーマットに記憶される。図1および図3によれば、処理ずみ補正画像(フレーム7)が表示されると、その画像はディジタル捕捉ユニット103における内部キャッシュのような内部一時記憶装置112にセーブされる(309)。内部一時記憶装置112にセーブされた補正画像は次いで、媒体書込装置106によって、携帯型記憶媒体107への永久記憶のために書き込まれる。補正画像は、標準的なビデオプリンター108を使って印刷することもできる。
この発明の前記実施態様は、この発明のさまざまな目的の達成のために説明されてきた。この実施態様はこの発明の原理の単なる例示であると認識すべきである。それについてのおびただしい改変および適用は、特許請求の範囲に画定されたようなこの発明の範囲から逸脱することなく、当業者にとっては直ちに明らかであろう。例えば、この発明の自動動き補正の方法およびシステムは、さまざまなビデオ信号の用途において、また、代わりのコンピューターハードウェアの様相で利用することができる。別の例として、この明細書では、この発明に係るさまざまなステップに応用するアルゴリズムが設けられているが、別のアルゴリズムを採用することができる。

Claims (1)

  1. 第1ラスターフィールドと飛越し走査された第2ラスターフィールドとを有している、飛越し走査方式のビデオ画像の完全なフレームを捕捉し、
    カメラの動きを自動的に補正し、
    対象物の動きを自動的に補正し、かつ、
    カメラの動きおよび対象物の動きの補正ずみ画像を表示することからなる、
    録画用カメラによって捕捉された飛越し走査方式のビデオ画像における動きのアーティファクトを自動補正する方法。
JP2013181238A 2000-04-04 2013-09-02 動きのアーティファクトを自動補正する方法およびシステム Expired - Lifetime JP6125379B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/542,611 US6842196B1 (en) 2000-04-04 2000-04-04 Method and system for automatic correction of motion artifacts
US09/542,611 2000-04-04

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2001573400A Division JP2003534837A (ja) 2000-04-04 2001-03-15 動きのアーティファクトを自動補正する方法およびシステム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2015103539A Division JP2015167397A (ja) 2000-04-04 2015-05-21 動きのアーティファクトを自動補正する方法およびシステム

Publications (2)

Publication Number Publication Date
JP2014017839A true JP2014017839A (ja) 2014-01-30
JP6125379B2 JP6125379B2 (ja) 2017-05-10

Family

ID=24164560

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2001573400A Pending JP2003534837A (ja) 2000-04-04 2001-03-15 動きのアーティファクトを自動補正する方法およびシステム
JP2013181238A Expired - Lifetime JP6125379B2 (ja) 2000-04-04 2013-09-02 動きのアーティファクトを自動補正する方法およびシステム
JP2015103539A Pending JP2015167397A (ja) 2000-04-04 2015-05-21 動きのアーティファクトを自動補正する方法およびシステム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2001573400A Pending JP2003534837A (ja) 2000-04-04 2001-03-15 動きのアーティファクトを自動補正する方法およびシステム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2015103539A Pending JP2015167397A (ja) 2000-04-04 2015-05-21 動きのアーティファクトを自動補正する方法およびシステム

Country Status (6)

Country Link
US (1) US6842196B1 (ja)
EP (1) EP1290636A2 (ja)
JP (3) JP2003534837A (ja)
AU (2) AU2001245731B2 (ja)
CA (1) CA2405434A1 (ja)
WO (1) WO2001075798A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021182066A1 (ja) 2020-03-11 2021-09-16 ソニー・オリンパスメディカルソリューションズ株式会社 医療用画像処理装置および医療用観察システム

Families Citing this family (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6788311B1 (en) * 1999-04-28 2004-09-07 Intel Corporation Displaying data on lower resolution displays
JP2003110944A (ja) * 2001-10-02 2003-04-11 Sanyo Electric Co Ltd 撮像装置
US20040199052A1 (en) 2003-04-01 2004-10-07 Scimed Life Systems, Inc. Endoscopic imaging system
US20050245789A1 (en) * 2003-04-01 2005-11-03 Boston Scientific Scimed, Inc. Fluid manifold for endoscope system
US8118732B2 (en) 2003-04-01 2012-02-21 Boston Scientific Scimed, Inc. Force feedback control system for video endoscope
US7591783B2 (en) 2003-04-01 2009-09-22 Boston Scientific Scimed, Inc. Articulation joint for video endoscope
US20050222499A1 (en) * 2003-04-01 2005-10-06 Banik Michael S Interface for video endoscope system
US7578786B2 (en) * 2003-04-01 2009-08-25 Boston Scientific Scimed, Inc. Video endoscope
US7606417B2 (en) 2004-08-16 2009-10-20 Fotonation Vision Limited Foreground/background segmentation in digital images with differential exposure calculations
US7680342B2 (en) * 2004-08-16 2010-03-16 Fotonation Vision Limited Indoor/outdoor classification in digital images
US7702236B2 (en) 2006-02-14 2010-04-20 Fotonation Vision Limited Digital image acquisition device with built in dust and sensor mapping capability
US7315658B2 (en) * 2003-09-30 2008-01-01 Fotonation Vision Limited Digital camera
US7206461B2 (en) * 2003-09-30 2007-04-17 Fotonation Vision Limited Digital image acquisition and processing system
US7424170B2 (en) * 2003-09-30 2008-09-09 Fotonation Vision Limited Automated statistical self-calibrating detection and removal of blemishes in digital images based on determining probabilities based on image analysis of single images
US7295233B2 (en) * 2003-09-30 2007-11-13 Fotonation Vision Limited Detection and removal of blemishes in digital images utilizing original images of defocused scenes
US7340109B2 (en) * 2003-09-30 2008-03-04 Fotonation Vision Limited Automated statistical self-calibrating detection and removal of blemishes in digital images dependent upon changes in extracted parameter values
US7590305B2 (en) 2003-09-30 2009-09-15 Fotonation Vision Limited Digital camera with built-in lens calibration table
US7310450B2 (en) 2003-09-30 2007-12-18 Fotonation Vision Limited Method of detecting and correcting dust in digital images based on aura and shadow region analysis
US7369712B2 (en) * 2003-09-30 2008-05-06 Fotonation Vision Limited Automated statistical self-calibrating detection and removal of blemishes in digital images based on multiple occurrences of dust in images
US8369650B2 (en) 2003-09-30 2013-02-05 DigitalOptics Corporation Europe Limited Image defect map creation using batches of digital images
US7308156B2 (en) * 2003-09-30 2007-12-11 Fotonation Vision Limited Automated statistical self-calibrating detection and removal of blemishes in digital images based on a dust map developed from actual image data
US7676110B2 (en) * 2003-09-30 2010-03-09 Fotonation Vision Limited Determination of need to service a camera based on detection of blemishes in digital images
JP4631057B2 (ja) * 2004-02-18 2011-02-16 国立大学法人大阪大学 内視鏡システム
US7983835B2 (en) 2004-11-03 2011-07-19 Lagassey Paul J Modular intelligent transportation system
US20060068360A1 (en) * 2004-09-30 2006-03-30 Scimed Life Systems, Inc. Single use fluid reservoir for an endoscope
CA2581124A1 (en) * 2004-09-30 2006-04-13 Boston Scientific Scimed, Inc. Adapter for use with digital imaging medical device
US7479106B2 (en) 2004-09-30 2009-01-20 Boston Scientific Scimed, Inc. Automated control of irrigation and aspiration in a single-use endoscope
AU2005292274A1 (en) 2004-09-30 2006-04-13 Boston Scientific Limited Multi-functional endoscopic system for use in electrosurgical applications
US7241263B2 (en) * 2004-09-30 2007-07-10 Scimed Life Systems, Inc. Selectively rotatable shaft coupler
US8083671B2 (en) 2004-09-30 2011-12-27 Boston Scientific Scimed, Inc. Fluid delivery system for use with an endoscope
US20060069310A1 (en) * 2004-09-30 2006-03-30 Couvillon Lucien A Jr Programmable brake control system for use in a medical device
WO2006039511A2 (en) * 2004-09-30 2006-04-13 Boston Scientific Scimed, Inc. System and method of obstruction removal
US8097003B2 (en) 2005-05-13 2012-01-17 Boston Scientific Scimed, Inc. Endoscopic apparatus with integrated variceal ligation device
US7846107B2 (en) 2005-05-13 2010-12-07 Boston Scientific Scimed, Inc. Endoscopic apparatus with integrated multiple biopsy device
JP3895357B2 (ja) * 2005-06-21 2007-03-22 日東光学株式会社 信号処理装置
US8052597B2 (en) 2005-08-30 2011-11-08 Boston Scientific Scimed, Inc. Method for forming an endoscope articulation joint
US7692696B2 (en) * 2005-12-27 2010-04-06 Fotonation Vision Limited Digital image acquisition system with portrait mode
US7967759B2 (en) 2006-01-19 2011-06-28 Boston Scientific Scimed, Inc. Endoscopic system with integrated patient respiratory status indicator
US7469071B2 (en) * 2006-02-14 2008-12-23 Fotonation Vision Limited Image blurring
IES20060558A2 (en) * 2006-02-14 2006-11-01 Fotonation Vision Ltd Image blurring
US8888684B2 (en) * 2006-03-27 2014-11-18 Boston Scientific Scimed, Inc. Medical devices with local drug delivery capabilities
US8202265B2 (en) 2006-04-20 2012-06-19 Boston Scientific Scimed, Inc. Multiple lumen assembly for use in endoscopes or other medical devices
US7955255B2 (en) 2006-04-20 2011-06-07 Boston Scientific Scimed, Inc. Imaging assembly with transparent distal cap
IES20060564A2 (en) 2006-05-03 2006-11-01 Fotonation Vision Ltd Improved foreground / background separation
US9633426B2 (en) 2014-05-30 2017-04-25 General Electric Company Remote visual inspection image capture system and method
US8810636B2 (en) * 2006-12-20 2014-08-19 Ge Inspection Technologies, Lp Inspection apparatus method and apparatus comprising selective frame output
WO2010105237A2 (en) * 2009-03-12 2010-09-16 Health Research Inc. Method and system for minimally-invasive surgery training
US8248481B2 (en) * 2009-04-08 2012-08-21 Aptina Imaging Corporation Method and apparatus for motion artifact removal in multiple-exposure high-dynamic range imaging
CN103377478A (zh) * 2012-04-25 2013-10-30 鸿富锦精密工业(深圳)有限公司 移动物体侦测系统及方法
US9805472B2 (en) 2015-02-18 2017-10-31 Sony Corporation System and method for smoke detection during anatomical surgery
US10708571B2 (en) * 2015-06-29 2020-07-07 Microsoft Technology Licensing, Llc Video frame processing
EP3437546B1 (en) 2016-03-29 2024-04-24 Sony Group Corporation Image processing device, image processing method, and medical system
CN106254769B (zh) * 2016-07-29 2018-06-29 广东欧珀移动通信有限公司 移动终端的拍照方法、装置及移动终端
TWI672946B (zh) * 2018-10-02 2019-09-21 宏碁股份有限公司 播放視頻的方法及裝置
CN111161852B (zh) * 2019-12-30 2023-08-15 北京双翼麒电子有限公司 一种内窥镜图像处理方法、电子设备及内窥镜系统
US11533428B2 (en) * 2020-01-23 2022-12-20 Samsung Electronics Co., Ltd. Electronic device and method for controlling electronic device
CN112767281B (zh) * 2021-02-02 2024-04-30 北京小米松果电子有限公司 图像鬼影消除方法、装置、电子设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05236335A (ja) * 1992-02-21 1993-09-10 Canon Inc 動きベクトル検出装置
JPH1023322A (ja) * 1996-07-08 1998-01-23 Hitachi Ltd カメラ揺れ補正方法および画像監視システム
US5784115A (en) * 1996-12-31 1998-07-21 Xerox Corporation System and method for motion compensated de-interlacing of video frames
JPH10191136A (ja) * 1996-12-27 1998-07-21 Canon Inc 撮像装置及び画像合成装置

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4799105A (en) 1984-03-14 1989-01-17 International Business Machines Corporation Modified technique for suppression of flicker in interlaced video images
US5005126A (en) 1987-04-09 1991-04-02 Prevail, Inc. System and method for remote presentation of diagnostic image information
US5099846A (en) 1988-12-23 1992-03-31 Hardy Tyrone L Method and apparatus for video presentation from a variety of scanner imaging sources
JPH04504510A (ja) 1989-01-24 1992-08-13 ドルフィン イメージング システムス インコーポレーテッド 頭蓋計測イメージの作成方法及び装置
GB2231747B (en) * 1989-04-27 1993-07-07 Sony Corp Motion dependent video signal processing
US5212637A (en) 1989-11-22 1993-05-18 Stereometrix Corporation Method of investigating mammograms for masses and calcifications, and apparatus for practicing such method
US5191413A (en) 1990-11-01 1993-03-02 International Business Machines System and method for eliminating interlace motion artifacts in captured digital video data
US5293313A (en) 1990-11-21 1994-03-08 Picker International, Inc. Real time physician view box
US5903319A (en) 1991-05-13 1999-05-11 Interactive Pictures Corporation Method for eliminating temporal and spacial distortion from interlaced video signals
US5666953A (en) 1993-01-10 1997-09-16 Wilk; Peter J. System and associated method for providing information for use in forming medical diagnosis
US5415167A (en) 1992-01-10 1995-05-16 Wilk; Peter J. Medical system and associated method for automatic diagnosis and treatment
SE9201183L (sv) * 1992-04-13 1993-06-28 Dv Sweden Ab Saett att adaptivt estimera icke oenskade globala bildinstabiliteter i bildsekvenser i digitala videosignaler
JP3505199B2 (ja) * 1992-06-30 2004-03-08 株式会社リコー ビデオカメラジッタ補正装置、データ圧縮装置、データ伸長装置、データ圧縮方法及びデータ伸長方法
US5329317A (en) 1992-09-30 1994-07-12 Matsushita Electric Corporation Of America Adaptive field/frame filter for interlaced video signals
US5446501A (en) 1992-10-22 1995-08-29 Accom, Incorporated Three-dimensional median and recursive filtering apparatus and method for video image enhancement
EP0692120B1 (en) 1993-03-31 2002-10-09 Luma Corporation Managing information in an endoscopy system
US5878746A (en) 1993-08-25 1999-03-09 Lemelson; Jerome H. Computerized medical diagnostic system
US5625421A (en) 1994-01-14 1997-04-29 Yves C. Faroudja Suppression of sawtooth artifacts in an interlace-to-progressive converted signal
US5605531A (en) 1994-04-08 1997-02-25 Tilane Corporation Apparatus for use with endoscopy and fluoroscopy for automatic switching between video modes
EP0697788A3 (en) * 1994-08-19 1997-03-26 Eastman Kodak Co Adaptive and global motion compensated cancellation of the interlacing of successive video images with post-processing
US5579054A (en) * 1995-04-21 1996-11-26 Eastman Kodak Company System and method for creating high-quality stills from interlaced video
JP3538965B2 (ja) * 1995-05-30 2004-06-14 ソニー株式会社 手振れ補正装置及び方法並びに手振れ補正処理装置及び方法
US5852475A (en) 1995-06-06 1998-12-22 Compression Labs, Inc. Transform artifact reduction process
US5920317A (en) 1996-06-11 1999-07-06 Vmi Technologies Incorporated System and method for storing and displaying ultrasound images
US6205178B1 (en) * 1996-09-20 2001-03-20 Hitachi, Ltd. Method and synthesizing a predicted image, video coding device and video coding method
EP0868815A2 (en) * 1996-10-24 1998-10-07 Koninklijke Philips Electronics N.V. Noise filtering
US5844613A (en) * 1997-03-17 1998-12-01 Microsoft Corporation Global motion estimator for motion video signal encoding
US6269484B1 (en) * 1997-06-24 2001-07-31 Ati Technologies Method and apparatus for de-interlacing interlaced content using motion vectors in compressed video streams
JP2000023024A (ja) * 1998-06-30 2000-01-21 Toshiba Corp 画像入力装置
US6252975B1 (en) * 1998-12-17 2001-06-26 Xerox Corporation Method and system for real time feature based motion analysis for key frame selection from a video
US6580812B1 (en) * 1998-12-21 2003-06-17 Xerox Corporation Methods and systems for automatically adding motion lines representing motion to a still image
US6628711B1 (en) * 1999-07-02 2003-09-30 Motorola, Inc. Method and apparatus for compensating for jitter in a digital video image
US6545719B1 (en) * 2000-03-31 2003-04-08 Matsushita Electric Industrial Co., Ltd. Apparatus and method for concealing interpolation artifacts in a video interlaced to progressive scan converter

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05236335A (ja) * 1992-02-21 1993-09-10 Canon Inc 動きベクトル検出装置
JPH1023322A (ja) * 1996-07-08 1998-01-23 Hitachi Ltd カメラ揺れ補正方法および画像監視システム
JPH10191136A (ja) * 1996-12-27 1998-07-21 Canon Inc 撮像装置及び画像合成装置
US5784115A (en) * 1996-12-31 1998-07-21 Xerox Corporation System and method for motion compensated de-interlacing of video frames

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021182066A1 (ja) 2020-03-11 2021-09-16 ソニー・オリンパスメディカルソリューションズ株式会社 医療用画像処理装置および医療用観察システム

Also Published As

Publication number Publication date
AU2001245731B2 (en) 2006-08-24
JP2015167397A (ja) 2015-09-24
AU4573101A (en) 2001-10-15
US6842196B1 (en) 2005-01-11
CA2405434A1 (en) 2001-10-11
WO2001075798A3 (en) 2003-01-16
WO2001075798A2 (en) 2001-10-11
EP1290636A2 (en) 2003-03-12
JP6125379B2 (ja) 2017-05-10
JP2003534837A (ja) 2003-11-25

Similar Documents

Publication Publication Date Title
JP6125379B2 (ja) 動きのアーティファクトを自動補正する方法およびシステム
AU2001245731A1 (en) Method and system for automatic correction of motion artifacts
US8000559B2 (en) Method of correcting image distortion and apparatus for processing image using the method
US20170024856A1 (en) Image processing apparatus, image processing method, and recording medium storing image processing program
WO2011061940A1 (ja) 画像処理方法および画像処理装置
US6784927B1 (en) Image processing apparatus and image processing method, and storage medium
KR20140081678A (ko) 투영형 화상 표시 장치 및 화상 투영 방법, 및 컴퓨터 프로그램
KR20080021646A (ko) 연속 확장 범위의 이미지 프로세싱
US11838674B2 (en) Image processing system, image processing method and storage medium
JP2004080252A (ja) 映像表示装置及びその方法
JP6911439B2 (ja) プロジェクター
JP2013128723A (ja) 内視鏡装置
JP2018163217A5 (ja)
JP2003179800A (ja) 多視点画像生成装置、画像処理装置、および方法、並びにコンピュータ・プログラム
US8184149B2 (en) Ophthalmic apparatus and method for increasing the resolution of aliased ophthalmic images
JP2006309661A (ja) 画像再生装置及び画像再生プログラム
US20130279761A1 (en) Method and arrangement for identifying virtual visual information in images
Vogt et al. A system for real-time endoscopic image enhancement
JP2005309740A (ja) 動物体追跡方法、動物体追跡プログラムおよびその記録媒体、ならびに、動物体追跡装置
CN105913395B (zh) 一种运动目标观测及模糊复原方法
JP2007036743A (ja) 複数画像合成方法及び撮像装置
KR100318065B1 (ko) 인터레이스된 프레임에서 움직임이 있는 화상 영역의 어긋남 보정 방법
JP2012186718A (ja) 画像処理装置、画像処理方法、プログラム、及び記録媒体
KR102669621B1 (ko) 지능형 고해상도 내시경 영상을 획득하여 저장하는 영상 제공 방법 및 장치
JP2010118822A (ja) 手ぶれ補正装置及び手ぶれ補正方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140424

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140520

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140818

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140821

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140917

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140922

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20141017

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150521

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150602

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20150904

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20161003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170405

R150 Certificate of patent or registration of utility model

Ref document number: 6125379

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term