JP2022523061A - レーザ走査型顕微鏡視のスペックルベース画像歪み補正 - Google Patents

レーザ走査型顕微鏡視のスペックルベース画像歪み補正 Download PDF

Info

Publication number
JP2022523061A
JP2022523061A JP2021543361A JP2021543361A JP2022523061A JP 2022523061 A JP2022523061 A JP 2022523061A JP 2021543361 A JP2021543361 A JP 2021543361A JP 2021543361 A JP2021543361 A JP 2021543361A JP 2022523061 A JP2022523061 A JP 2022523061A
Authority
JP
Japan
Prior art keywords
image
strips
correction
speckle
aspect ratio
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021543361A
Other languages
English (en)
Inventor
ギレルモ ジェイ. ティアニー
ジヘン リュ
Original Assignee
ザ ジェネラル ホスピタル コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ザ ジェネラル ホスピタル コーポレイション filed Critical ザ ジェネラル ホスピタル コーポレイション
Publication of JP2022523061A publication Critical patent/JP2022523061A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0062Arrangements for scanning
    • A61B5/0066Optical coherence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0084Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0062Arrangements for scanning
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/02007Evaluating blood vessel condition, e.g. elasticity, compliance
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6846Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive
    • A61B5/6867Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive specially adapted to be attached or implanted in a specific body part
    • A61B5/6876Blood vessel
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • A61B5/7207Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal of noise induced by motion artifacts
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/47Scattering, i.e. diffuse reflection
    • G01N21/4788Diffraction
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2423Optical details of the distal end
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0025Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for optical correction, e.g. distorsion, aberration
    • G02B27/0031Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for optical correction, e.g. distorsion, aberration for scanning purposes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/48Laser speckle optics
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2576/00Medical imaging apparatus involving image processing or analysis
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/47Scattering, i.e. diffuse reflection
    • G01N21/4788Diffraction
    • G01N2021/479Speckle

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Signal Processing (AREA)
  • Physiology (AREA)
  • Psychiatry (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Vascular Medicine (AREA)
  • Astronomy & Astrophysics (AREA)
  • Immunology (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Cardiology (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Mechanical Optical Scanning Systems (AREA)
  • Mechanical Light Control Or Optical Switches (AREA)
  • Endoscopes (AREA)

Abstract

プロセッサにより、走査型撮影装置から得られた画像の画像セグメントを解析してスペックルアーティファクトを識別するステップと、プロセッサにより、スペックルアーティファクトの形状のアスペクト比を求めるステップと、プロセッサにより、アスペクト比に基づいてスペックルアーティファクトの形状の補正係数を求めるステップと、プロセッサにより、補正係数に基づいて画像セグメントの寸法を調整するステップと、を有する、画像の歪みを補正する方法。【選択図】図2

Description

本願は、米国仮特許出願第62/797,548号(出願日:2019年1月28日)に基づく出願であり、同仮特許出願の利益を主張し、その優先権を主張するものである。同仮特許出願に記載の事項は全て、あらゆる目的のために参照により本願の記載事項に含まれるものとする。
本発明は、アメリカ国立衛生研究所により承認された承認番号第R01DK091923号の政府支援によりなされたものである。政府は本発明について一定の権利を有する。
不均一なレーザ走査により生じる画像歪みは、例えばカテーテル内視鏡視やカプセル内視鏡視で用いられるレーザ走査型撮影装置等の特定のレーザ走査型撮影装置において難しい課題となり得る。例えば、回転又は走査に関する部品はある程度の量の摩擦を有し、この摩擦は回転中に、例えば撮影装置の向き又は走査の波形等に依存して変動し得る。この摩擦は一般に未知で予測不能であるため、かかる摩擦に起因する歪みは、生成された画像データに例えばサンプルの幾何学的歪み等となって残ることがある。
本願で開示されているのは、画像プローブからの画像の歪みを補正するための方法及びシステムであり、画像中に現れたスペックル又は他の特徴の形状及び/又はサイズに基づき画像歪みを測定及び補正する技術を含む。
種々の実施形態では、本方法及び本システムは、以下のうち1つ又は複数の構成を有することができる:
1)スペックルの形状及び/又はサイズに基づき走査速度を求める。
2)例えばハイパスフィルタにより画像のフィルタリングを行った後等、画像の自己共分散に基づきスペックルの形状及び/又はサイズを算出する。
3)スペックルの形状及び/又はサイズに対する撮像プローブの移動(例えば回転移動又は直線移動等)の速度の間の非線形の関係を調整するために較正を行う。
4)相互相関を最小化することにより、複数の歪み補償された各線をアライメントする。
これらの補正技術は、回転及び/又は直線走査部を備えたいかなる撮影装置にも採用され得る。これらの技術は歪み量を測定するためにソフトウェアで実装できるので、本願にて開示されている方法及びシステムの実施形態を具備する製品をより簡素化し、その費用対効果を高くし、当該製品により得られる結果をよりロバストにすることができる。
一実施形態では、本発明は画像の歪みを補正する方法を包含し、本方法は以下のステップを有する:
プロセッサにより、走査型撮影装置から得られた画像の画像セグメントを解析してスペックルアーティファクトを識別するステップと、
プロセッサにより、スペックルアーティファクトの形状のアスペクト比を求めるステップと、
プロセッサにより、アスペクト比に基づいてスペックルアーティファクトの形状の補正係数を求めるステップと、
プロセッサにより、補正係数に基づいて画像セグメントの寸法を調整するステップ。
他の一実施形態では、本発明は画像の歪みを補正するための装置を包含し、本装置は、
プロセッサと、
プロセッサと通信し、命令のセットを記憶したメモリと、
を備えており、
命令のセットは、プロセッサにより実行されたときにプロセッサに、
走査型撮影装置から得られた画像の画像セグメントを解析してスペックルアーティファクトを識別させ、
スペックルアーティファクトの形状のアスペクト比を求めさせ、
アスペクト比に基づいてスペックルアーティファクトの形状の補正係数を求めさせ、
補正係数に基づいて画像セグメントの寸法を調整させる。
さらに他の一実施形態では、本発明は歪み補正方法を包含し、本歪み補正方法は、
画像を供給するステップと、
画像を、それぞれ第1の方向に延在する実質的に平行な複数のストリップに分割するステップと、
各ストリップを、第1の方向に実質的に垂直な第2の方向に沿った複数の部分ストリップに分割するステップと、
複数の各部分ストリップを解析して、少なくとも1つの局所的に明るい特徴を位置特定するステップと、
各部分ストリップの少なくとも一部分を調整して、少なくとも1つの局所的に明るい特徴を所定の形状に近付けることにより、補正された部分ストリップを作成するステップと、
補正された複数の部分ストリップを補正ストリップに再構築するステップと、
複数の補正ストリップを補正画像に再構築するステップと、
を有する。
さらに他の一実施形態では、本発明は画像の歪みを補正するための装置を包含し、本装置は、
コヒーレント光源を備えており、サンプルの画像を取得するように構成された走査型撮影装置と、
走査型撮影装置と通信するプロセッサと、
プロセッサと通信し、命令のセットを記憶したメモリと、
を備えており、
命令のセットは、プロセッサにより実行されたときにプロセッサに、
画像の画像セグメントを解析してスペックルアーティファクトを識別させ、
スペックルアーティファクトの形状のアスペクト比を求めさせ、
アスペクト比に基づいてスペックルアーティファクトの形状の補正係数を求めさせ、
補正係数に基づいて画像セグメントの寸法を調整させる。
以下の図面を参照して本願にて開示されている発明の以下の詳細な説明を参酌すれば、本願にて開示されている発明の種々の目的、特徴及び利点をより完全に理解することができ、図面中、同様の符号は同様の構成を示している。
本願にて開示されている方法及びシステムの実施形態と共に使用されるデータを収集するために使用できる一例のシステムを示す図である。 本願にて開示されている実施形態の歪み補償前(左側パネル、挿入写真)及び補償後(右側パネル、挿入写真)のスペックル例を示す図である。 スペックルアスペクト比に基づく画像ベースの歪み推定(x軸)と、球状マイクロビーズのアスペクト比を測定することにより算出された実際の歪み量(y軸)と、の間で見出された関係を示す図であり(各軸上の数値は無単位の比である)。画像中のスペックルを使用して求められた歪みと実際の歪みとの関係を較正するためのプロセスの一部として種々の曲線当てはめ手法がデータに重畳されて示されている。 図3の解析結果にバイスクエア(bisquare)曲線当てはめ手順の結果をデータに重畳したものを示すグラフである。 図3の解析結果に(図4のバイスクエア曲線当てはめ手順の数式に基づく)慣用技術の曲線当てはめ手順の結果をデータに重畳したものを示すグラフである。 補正部分ストリップ(下部イメージ)を形成するために1つの部分ストリップ(上部イメージ中の赤色の四角い領域)をどのように調整するかを示す図である。 本願にて記載されている歪み補正を使用して、軸方向の走査方向に補償を適用することにより、より滑らかでより規則的な画像をどのように作成できるかを示す図である。 本願の歪み補正アルゴリズムの動作シーケンス例を示すフローチャートである。 本願にて開示されている方法及びシステムの実施形態を具現化するためのコンピュータシステムを示す図である。 本願にて開示されている発明の一部の実施形態の画像の歪みを補正するためのプロセスの一例を示す図である。 本願にて開示されている発明の一部の実施形態の歪み補正のためのプロセスの一例を示す図である。
本願にて開示されている発明の一部の実施形態では、画像歪み補正のための機構(システム、方法及び媒体を含み得る)を提供する。
レーザスペックルは不所望のアーティファクトと考えられることがあるが、本願にて開示されている複数の有利な実施形態において、実質的に円形であると想定されるこのレーザスペックルスポットを用いて、実質的な円形からのスペックルの偏差の程度に基づき、画像中に生じたあらゆる歪みの量及び向きを特定することができる。複数の実施形態では、本願開示の手順において歪みを補償するために使用される特徴と、例えばレーザスペックル等の特に局在化した明るさを有する特徴とは、本願開示の自動化された手順を用いて容易に区別できる。これらの特徴は本願では「レーザスペックル」と称されるが、これらの特徴の発生源は別のものであり得るが、かかる特徴は画像歪みを識別及び補正するために有用である。
多くのイメージング利用環境(例えば、照明レーザを用いたカプセル内視鏡視等)では、不所望の歪みアーティファクトが生じ得る。例えば、360°回転カプセル内視鏡視の使用環境では、照明レーザ及び/又は受像センサを回転させるモータが貼り付き及び/又はスリップし得る。このような場合には回転がスムーズに行われないため、撮影された画像に歪みが生じ得る。というのも、スキャンデータからの画像再構成は、走査対象のデータポイントが等間隔であると仮定して行われるからである。すなわち、撮影プローブを回転及び/又は直進させてサンプル内を通過させながら、データポイント列を収集する。プローブの回転と直進とを同時に行いながら内腔サンプル内にプローブを通過させる場合に得られるヘリカルスキャンの場合、プローブが均一な速度で回転及び直進しているとの仮定に基づき、上述のデータポイント列を二次元又は三次元表現に組み立てることにより、サンプルの画像が生成される。しかし、装置における摩擦(例えばモータ自体における摩擦、又は、回転する光ファイバと当該ファイバを収容するシースとの摩擦、その他種々の可能性のある摩擦原因)が貼り付き又はスリップを引き起こし、この貼り付き又はスリップによって不均一な運動となり、この不均一な運動が、データストリームから生成される画像に歪みを生じる原因となり得る。
よって本願開示の歪み補正方法及びシステムは、照明レーザから自然発生するスペックルを利用して、走査方向にどの程度の歪みが生じたかを特定し、これに従って画像を修正して当該歪みを考慮し補償する。
図1は、本願にて開示されている方法及びシステムの実施形態と共に使用されるデータを収集するために使用できる一例のシステム100を示す図である。システム100はカテーテル110を備えており、カテーテル110の内部には、導波体140(例えば光ファイバ等)の端部に反射器130(例えば図示のボールレンズ、又はプリズム又はミラー等)を備えた光学プローブ120が配置されている。光源150が導波体140に対して照明を提供し、導波体140はその光を光学プローブ120の反射器130へ送り、反射器130はビーム122をサンプル160(例えば血管等の内腔組織又は消化器系の一部)へ送る。サンプル160からの光がこの経路を辿って戻り、この戻り光を収集及び処理して画像又は他のデータを形成する画像収集処理システム170に到達する。光源150はレーザ等のコヒーレント光源であり、これが、画像補正を行うために本発明の手順にて使用されるスペックルアーティファクトを生じさせる。
(回転124によって)サンプル160の全周領域からデータを収集するため、及び(直進126によって)サンプル160の軸方向長さに沿ってデータを収集するため、データ収集中に光学プローブ120を回転124及び/又は直進126させることができる。導波体140はカテーテル110に到達する前にシース142内で回転124及び/又は直進126することができる。光学プローブ120の回転や直進を容易にするため、カテーテルの近位端に回転直進装置180が取り付けられている(この回転直進装置は回転フォトカプラを備えることもできる)。回転直進装置180は、光学プローブ120を直進移動させるためのリニアモータと、当該光学プローブ120を回転移動させるためのモータ(例えば中空コアモータ等)を備えることができる。一部の実施形態では、カテーテル110に代えて、特に消化器系をプロービングするために患者が飲み込むカプセル装置内に、光学プローブ120を収容することができる。複数の実施形態では、特にカプセルベースの実施形態において、反射器130の隣の遠位端に、反射器130を回転させるためのモータを配置することができる。複数の実施形態では、光学プローブ120は1~30Hz、1~100Hz、1~1000Hz、又は1~10,000Hzの速度で回転することができ、また、1~10mm/minの速度で直進することができる。
種々の実施形態では、画像歪みを生じ得る要素は、シース142若しくはカテーテル110内における導波体140の貼り付き若しくはスリップ、並びに/又は、回転若しくはリニア/直進モータ等の回転直進装置180における部品の貼り付き若しくはスリップを含む。特定の実施形態では、本願にて開示されている補正手順は、データを収集した後、例えば後日等、記憶しておいたデータを処理することにより実施することができる。他の実施形態では、補正手順はデータ収集と同時に、例えばデータを収集したときの状態そのままで処理してデータの補正バージョンを記憶することにより、実施することができる。特定の実施形態では補正手順は、処理を実効的にリアルタイムで行うように、データ収集と実質的に同一の速度で行うことができる。
図2は、本願にて開示されている実施形態の歪み補償前(左側パネル、挿入写真)及び補償後(右側パネル、挿入写真)のスペックル例を示す図である。複数の実施形態では、最初に画像全体(図2の左側パネルにて未補正状態で示されている)を複数の小さなストリップに分割することができる。例えば一部の実施形態では、第1の寸法(例えば図2では水平方向寸法)と、当該第1の寸法と実質的に直交する第2の寸法と、を有する複数のストリップに画像を分割することができ、第1の寸法は300~500画素(特殊な実施形態では400画素)の範囲とすることができ、第2の寸法は、例えば元の画像の「幅」等、元の画像の寸法によって定めることができ、画像の幅(例えば図2では垂直方向寸法)は移動方向(例えば回転方向等)に相当することができ、特に、内腔サンプル内での回転撮影プローブの一回転から収集されるデータに相当することができる。その際には、画像は管状データセットの平坦化した表現となる。図2は、内腔内を下方に向かって「螺旋移動」する360°回転、例えば、撮影プローブを直進的に前進させながら回転させることによりヘリカルデータセットを生成すること等を前提としており、ここで図2の各パネルの左側は内腔の一端に相当する。よって、各ストリップは撮影装置の円形の一回転により得られるデータを表している(図2の左側パネルの垂直方向の破線を参照のこと。これは、画像を画像ストリップの可能な一セットにどのように分割できるかを示している)。特定の実施形態では、一画像におけるストリップの数及びサイズは当該ストリップの全高との関係において設定することができ、これによって例えば、各画像を実質的に等しいサイズの複数のストリップに分割することができる。
次に、各ストリップをその長さ方向に(例えば図2の垂直方向寸法に沿って)複数の部分ストリップ又は「フレーム」に細分割することができる。例えば、各部分ストリップを例えば300~500画素の範囲等の実質的に正方形とすることができ、より特殊な事例では400画素の「長い」部分ストリップとすることができる。一ストリップにおける部分ストリップの数及びサイズはストリップの全長との関係において設定することができ、これによって例えば、各ストリップを実質的に等しいサイズの複数の部分ストリップに分割することができる。
部分ストリップを形成した後、各部分ストリップについて高照明領域又は低照明領域の解析を行い、例えば「明るいスポット」又はレーザスペックルの領域を示す他の特徴等を探索する。特定の実施形態では、画像フィルタリング手順を用いて、スペックル又は「明るいスポット」が自動的に識別される。特殊な一実施形態ではハイパスフィルタ手法を用いることができ、例えば、元の画像と、当該元の画像から(例えばウィーナフィルタ等の適応フィルタ等を用いて)「ノイズ」を低減又は除去しフィルタ処理したコピーとの差分をとって、画像の特徴又は支配的な特徴がスペックル又は「明るいスポット」のみとなった結果画像を生成することができる。
部分ストリップにおいて1つ又は複数の「明るいスポット」又は他の特徴が識別された後、この各「明るいスポット」又は各特徴の形状を解析する。部分ストリップ又はフレームに含まれるスペックル又は「明るいスポット」等の特徴が最大1つとなるように当該部分ストリップ又はフレームのサイズを選択した特定の実施形態(下記参照)では、かかる特徴の境界を認識するために自動的な手順を用いることができる。例えばこの手順は、特徴の半値全幅(FWHM)に基づき全ての特徴のx寸法及び/又はy寸法を数学的に特定することにより行うことができる。歪みがある場合、特徴の水平方向寸法(又はx寸法)及び垂直方向寸法(又はy寸法)のFWHMの比(すなわちアスペクト比)がこの歪みを示唆するものとなる。例えば、アスペクト比が約1である場合、これは歪みがほとんど又は全く存在しないことを示唆し、これに対してアスペクト比の値が1を超える又は1を下回る場合、これは画像に歪みが存在することを示唆する(例えば、特定の方向における伸び又は縮み等)。
一部の実施形態では、画像データの自己共分散の算出(又は、上述のようにスペックル、「明るいスポット」又は他の特徴を強調した処理済みの画像データの自己共分散の算出)に基づいて特徴のアスペクト比を識別する手順を使用することができる。この手順は、2つの直交する方向の特徴幅値を返すことができる。例えば、下記に示すコード中 SpeckleSize_() 関数は、部分ストリップを処理するために自己共分散を使用し、所与の部分ストリップにおける複数のスペックル又は他の特徴を考慮できる、2つの直交する方向の特徴幅値を返す。部分ストリップにおける上述のような特徴が2つ以上存在する場合には、返される各方向の特徴幅値はこれら2つ以上の特徴全ての各方向における寸法を考慮したものとなり、これらの寸法の平均を効果的に提供することができる。半値全幅(FWHM)を算出することによって特徴幅を求める実施形態もあるが、下記のコードにより示されている実施形態では、ガウシアン値が0.5及び1/eの値に落ちる幅を用いて特徴幅が求められる。特徴幅のこの求め方は、ガウシアン関数の振幅が1でない場合であっても(すなわち、振幅が1.0に等しくなるようにガウシアン関数が正規化されていない場合であっても)、正規化されたデータの良好な当てはめの場合に期待されるものと同様に、スペックルサイズのサイズのより良好な把握を提供するが、この手順は想定外の傾向を生じる可能性がある。
アスペクト比から歪みの程度を特定した後、部分ストリップを実際に伸縮させて各スペックル、各「明るいスポット」又は他の各特徴を実質的に円形の輪郭に近付け(すなわち「無歪状態」にし)、これにより補正部分ストリップ又は補正フレームを作成する。この解析及び歪み処理は、所与のストリップの各部分ストリップに対して繰り返され、その後、補正部分ストリップはその元の順序で再統合(例えば「スティッチング処理」等)されて補正ストリップが形成される。
一部の実施形態では、部分ストリップ又はフレームにおける歪みをアンドゥ処理するための値を用いる前に、アスペクト比をさらに調整することができる。例えば「測定された」アスペクト比を調整して「実際の」アスペクト比を求め、その後、この実際のアスペクト比を部分ストリップ又はフレームに適用することにより、歪みを補償するために適した調整を提供することができる。測定されたアスペクト比の上述の調整は、図3~5及び添付のテキスト(下記参照)に示されている手順で得られた曲線当てはめ数式のうちいずれか1つを用いて、又は他の適切な任意の調整を用いて行うことができる。
一実施形態では、ストリップ及び部分ストリップの寸法は、各部分ストリップに含まれるスペックル、「明るいスポット」又は他の特徴が平均して最大1つになるように選択することができる。最大1つのスペックル又は他の特徴を含むようにストリップ及び部分ストリップの寸法を調整することにより、各部分ストリップの調整を、1つの部分ストリップにおいて2つ以上の特徴に基づいてではなく1つのスペックル又は1つの他の特徴に基づいて行うことができる。しかし、他の実施形態ではストリップ及び部分ストリップの寸法は、平均して2つ、3つ、4つ又はそれ以上のスペックル、「明るいスポット」又は他の特徴を含むように選択することができる。複数の実施形態では、部分ストリップ又はフレームのサイズは、1つの部分ストリップ又はフレームに複数(例えば2,3又は4以上)のスペックル、「明るいスポット」又は他の特徴が含まれている場合において歪みが生じた場合にこれらの特徴に生じる歪みの量が等しく又は実質的に等しくなるために十分にこれらの特徴が互いに近接するために十分に小さくなるように選択され、これにより、部分ストリップ又はフレームに適用される全ての補正係数が、全ての特徴を円形に近い外形にすることに対して略等価的な効果を及ぼすようにされる。部分ストリップ又はフレームが過度に大きい場合には、歪みが生じた領域と共に歪みが生じていない他の領域も含むことがあり、これが補正係数の決定と、画像歪みを適切に補償する程度の決定とに影響を及ぼすこととなる。一部の実施形態では、部分ストリップが正方形又は略正方形となり、各寸法における画素数が実質的に等しくなるように、部分ストリップを処理することができる。
一部の実施形態では、動きベースの歪みは比較的局所的となり得、また例えば、撮影プローブに摩擦が生じた際の動きの僅かな遅延に起因して、又は撮影プローブから摩擦が消えた際の動きの僅かな加速に起因して生じ得る(これは「回転(intra-rotation)NURD」と称されることがある。下記参照)。歪みの局所的な性質の観点から、2つの隣り合う部分ストリップに対して補正量を別々にしなければならない場合があり、また、歪みが生じている或る部分ストリップが、歪みを生じておらず全く補正を要しない部分ストリップに隣接している場合もあり得る。さらに、回転撮影プローブにおける歪みは、主にその回転方向に生じる場合もある(これは、図2では垂直方向寸法に相当する)。それゆえ一部の実施形態では、撮影プローブの移動方向(例えば図2では垂直方向寸法)に直交する寸法は固定したままで当該移動方向の部分ストリップの寸法のみを変化(延長又は短縮)させることにより、スペックル、「明るいスポット」又は他の特徴に基づいて識別された特定の部分ストリップの寸法の調整(例えばアスペクト比の変化等)を行うことができる。この手法の利点は、調整後の部分ストリップを、均一な幅の1つのストリップに再統合できることである。
特定の実施形態では、動きベースの歪み及び/又はかかる歪みを補償するための画像データの補正は、隣り合う画像ストリップ間にデータの不連続性を生じさせるものとすることができる(これは「回転NURD」と称されることがある。下記参照)。画像ストリップを適正にアライメント及び再連結するために種々の手順を適用することができ、その中には、隣り合うストリップの相互相関の測定を含む下記の手順が含まれる(これは、例えば図8のフローチャートを参酌して記載されている)。
各ストリップも同様に分割、解析/歪み処理して再統合し、複数の補正ストリップを元の順序で再統合することにより、補正画像を形成する。補正画像の一例が図2の右側パネルに示されている。その後、補正画像を目的に応じてさらに利用することができる。
1つのストリップの隣り合う部分ストリップ及び/又は1つの画像の隣り合うストリップの相互相関を任意の所望の態様でとり、画像の一部のエッジ(例えば個別のレーザスペックル)をアライメントすることにより、補正部分ストリップ及び/又は補正ストリップを正確に統合することを支援することができる。簡単な一例として、1つの補正ストリップが、その周について既知の曲率を有する実質的に半円状のアーティファクトを示し、隣の補正ストリップが、非常に類似又は同一の周を有する、対向する実質的に半円状のアーティファクトを示している場合、これら2つの補正ストリップは、両半円状のアーティファクトが「一致」すること又は両半円状のアーティファクトの周が他の態様でアライメントしていることを以て、実質的に円形の1つのアーティファクトのそれぞれ一部であると推定されて、「マッチング」しているとすることができる。補正画像は、ユーザ知覚可能な種々の形態を含めた任意の適切な形態で、さらなる処理及び/又は解析のために提供されることができる。ここで開示されている技術を用いて生成された補正画像は、ユーザ(例えば研究者、オペレータ、臨床医等)へ伝達及び/若しくは提示され、並びに/又は(例えば被検者に関連付けられたカルテ又は研究データベースの一部として)記憶されることができる。
歪み補正手順を較正するため、異なるサイズの蛍光ビーズの画像列を収集及び解析した(図3)。この手順を用いて、自然に生じたスペックルが、画像歪みを識別及び補正し、例えばマイクロビーズ等の参照標準を用いて識別される歪みとアライメントするようにスペックルを用いて求められた補正におけるいかなる偏差も調整するための有効な手段であることを確認した。画像中の実際の歪みは各ビーズのアスペクト比の測定に基づいて求められ、ここで、アスペクト比が1である場合にはビーズは球形構造であるとみなされる。よって、ビーズのアスペクト比が1から偏差している場合には全て、画像中において実際の歪みが存在することを示唆するとみなされる。スペックルのアスペクト比に基づいて画像ベースの歪みの推定も行った。これも、アスペクト比が1であると仮定した。よって図3は、スペックルアスペクト比に基づく画像ベースの歪み推定と、球状マイクロビーズのアスペクト比を測定することにより算出された実際の歪み量と、の間で見出された関係を示す図であり(両軸は無単位である)。この関係を利用して、一例の歪み補正作業を行うためのソフトウェアの較正を支援した。
図3中、プロットされている各円は、マイクロビーズ及びスペックルの両方を用いてアスペクト比を求めた画像又は画像の一部を表しており、各画像の算出されたアスペクト比は、スペックルベースのアスペクト比についてはx軸上に、マイクロビーズベースのアスペクト比はy軸上に示されている。2つの手順を用いることにより生じたアスペクト比(ひいては推定歪み)は完全には一致しないことが特定されたため、2つの手順を用いて得られる結果の間の数学的関係を同定するために複数の関数を使用した。データの簡単な線形当てはめにより生成されたのが、図3において1.1の傾きを有する直線であり、それに対して同図に示されている種々の曲線は、他の当てはめ手順により生成されたものである。線形当てはめに加えてさらに、他の手順には最小絶対値法(LAR)、バイスクエア(図4参照)、及びロバストOff(「Turning off any robust approximation」の略。すなわち標準最小二乗多項式当てはめであり、LARやバイスクエア当てはめと対照的なものである)が含まれる。さらに、バイスクエア数式に基づいて慣用の曲線当てはめ数式を求めた(「慣用」。図5参照)。
図4は、以下のパラメータを用いると共にバイスクエア技術を用いたデータセットの曲線当てはめの結果を示す図である。
f(x)=p1×x+p2×x+p3×x+p4
ここで係数(信頼限界は95%)は以下の通りである:
p1=07736(0.4771,1.07)
p2=-1.865(-2.779,-0.951)
p3=2.739(1.896,3.581)
p4=-0.427(-0.6545,-0.1994)
図5は、以下のパラメータを用いると共に慣用技術を用いたデータセットの曲線当てはめの結果を示す図である。
f(x)=p1×x+p2×x+p3×x+p4
ここで係数(信頼限界は95%)は以下の通りである:
p1=1.619(1.303,1.934)
p2=-3.786(-4.759,-2.813)
p3=4.088(3.191,4.985)
p4=-0.7122(-0.9544,-0.47)
さらなる詳細については、図4を参照されたい。
図6及び図7の画像を生成するために使用されたテストサンプルは、乾式のマイクロスフィアのセットを含むものであり、これをバイアルの内壁に取り付け、カプセル式撮影装置を用いて撮影した。マイクロスフィアのサイズは50.2μm±0.3μmであった(4K-50、Thermo Scientific社3K/4KシリーズのParticle Counter Standard(粒子カウンタ標準))。マイクロスフィアのサイズは、画像中において各マイクロスフィアの円形状を確認するために十分な大きさであり、なおかつ、200μm×200μmのサイズの1つの撮影視野に収まるのに十分な小ささであるように設定したが、100μm未満や10μm超の他のサイズのマイクロスフィアを用いることも可能である。図7の画像は拡大率を下げて収集されたものであるから、図6より大きい視野を示すものとなっている。
図6は、補正部分ストリップ(図6の下部パネル)を形成するために1つの部分ストリップ(図6の上部パネルの左側の破線ボックス内の領域)をどのように調整するかを示す図である。図6の上部パネルは画像ストリップを示しており、上部パネルの左部分(破線ボックスで囲まれ、「補正前」のラベルを付された部分)は部分ストリップであり、この部分ストリップが本願開示の手順を用いて処理されることにより、歪みの程度を特定すると共に、歪みをアンドゥ処理するための補正係数を求める。図6の下部パネルは、本願開示の手順を用いて特定された補正係数に基づきアスペクト比を調整された後の部分ストリップを示している。本例で行われる補償は水平方向の伸びのみであり、よって、本例では走査方向における伸び/補償が補正に使用されるが、あらゆる方向における画像の伸び又は縮みのどのような組み合わせも、具体的な使用環境において補正部分ストリップを作成する際に役立ち得る。赤色の輪郭内の「前」領域及び「後」領域中の明暗領域の同様のパターンも注目すべき点である。
図7は、どのようにして本願にて記載されている歪み補正を用いて、回転走査方向だけでなく二次(例えば軸方向)走査方向においても、より滑らかでより規則的な画像を作成できるかを示す図である。左側パネルは、歪み補正を適用する前のテスト又はファントム画像を示しており、右側パネルは歪み補正後の同じ画像を示している。各パネルにおける垂直方向の次元は回転走査方向であり、各パネルにおける水平方向の次元は直線走査方向である。歪み補正前の左側パネル画像を見ると分かるように、画像中の多くの特徴の水平方向のアライメントが不揃いになっているのに対し、右側パネルの歪み補正後の画像では、特徴は左から右に向かってより密にアライメントしている。本サンプルはデモンストレーションのために用いたファントムであるが、当業者であれば、どのようにして本願にて開示されている歪み補正を用いて、レーザスペックル支援プロセス(例えば、病変を検出及び/又はモニタリングするための患者の身体の内腔内部の撮影等)を使用して、より正確でより有用な撮影を支援できるかを理解することができる。
図8は、本発明の実施形態の歪み補正のための方法800を示すフローチャートである。ステップ810では、メモリ上のデータをロードするステップ812を行った後、各回転を介してデータを分割するステップ814を行い、その後、変数i=1を初期化するステップ816を行うことができる。方法800は818でi>回転の数になるまで継続され、818でi>回転の数になると終了820に進む。
方法800の次のステップは、データセグメントを複数の回転画像ストリップに変換すること822を含むことができる。その次に、方法800は各画像ストリップを複数のフレーム又は部分ストリップに分割すること824を含むことができる。変数jを初期化し826、j=1に設定することができる。828のj>フレーム数になるまで、各部分ストリップ又は各フレームの解析が継続される。方法800は、各部分ストリップ又は各フレームごとに以下のステップを行うことができる:フィルタリングにより各フレームのスペックル画像を抽出するステップ830、スペックル自己共分散のアスペクト比を測定するステップ832、アスペクト比から補正係数を算出するステップ834、及び、補正係数を用いて回転方向における画像のサイズを調整するステップ836。各部分ストリップ又はフレームを解析した後、変数jを増分してj=j+1とし838、制御をステップ828に戻して、j>フレーム数であるか否かを判定する。各部分ストリップ又は各フレームの歪みを補償するこれらのステップにより、回転NURD(回転ムラ歪み)が補正される。
特定の画像ストリップの全てのフレームを解析完了した場合(ステップ828においてj>フレーム数となった場合)、回転NURD、すなわち隣り合う画像ストリップ間の歪みを補正するための調整を行う。最初のステップは、現在の画像ストリップとその前の画像ストリップとの相互相関を測定すること840を含むことができ、次のステップは、相互相関を最大にする位相遅延値を算出すること842を含むことができ、その次のステップは、この位相遅延を用いて現在のストリップとその前のストリップとをアライメントすること844を含むことができる。これが完了した後、変数iを増分してi=i+1とすることができ846、制御をステップ818に戻して、i>回転の数か否かを判定する。iが回転の数を上回った場合、方法800は終了820に達する。
一部の実施形態では、市販のデータ解析ソフトウェアを用いて本願開示の手順を具現化することができ、そのようなコードのMatlabソフトウェアパッケージ用の特定の一実施形態を、下記にて示す。
%スペックルベースの歪み補正
data_ND = [];
for s = 1:hori/vert
ind = 1+(s-1)*vert:s*vert;
img = data1(:,ind);
min_int = mean(min(img));
max_int = mean(max(img));
avg_int = mean(mean(img));
med_int = median(median(img));
imgf = img-wiener2(img,[2 2]); % Wiener filter
[size_x,size_y] = size(imgf);
imgf = imresize(imgf,2);
[HFWHM,VFWHM] = SpeckleSize_gray(imgf);
mNURD = VFWHM/HFWHM;
dNURD = mNURD+0.8109...
-(-451.6*exp(-0.0007511*avg_int)...
+0.9899*exp(-3.833e-06*avg_int));
rNURD = 1.619*dNURD^3-3.786*dNURD^2+4.088*dNURD-0.7122; %慣用
rNURD = max([rNURD 1/vert]); %係数が負になるのを防ぐ
img_ND = imresize(data1(:,ind),[size_x round(size_y*rNURD)]);
data_ND = [data_ND,img_ND];
logdata = [int2str(i),' ',...
int2str(s),' ',...
int2str(min_int),' ',...
int2str(max_int),' ',...
int2str(avg_int),' ',...
int2str(med_int),' ',...
num2str(HFWHM),' ',...
num2str(VFWHM),' ',...
'\r\n'];
fprintf(logID,logdata);
%TIFファイルに書き込む
maxint = mean(max(img))/2;
minint = mean(min(img));
img = uint16((img-minint)/maxint*(2^16));
maxint = mean(max(img_ND))/2;
minint = mean(min(img_ND));
img_ND = uint16((img_ND-minint)/maxint*(2^16));
index = ceil(i/Num_steps);
fname = strcat(bead_folder,c,num2str(index),'-',...
num2str(s),' (',num2str(VFWHM/HFWHM),')');
imwrite(img,strcat(fname,'.tif'),'tif');
fname = strcat(nurd_folder,c,num2str(index),'-',...
num2str(s),' (',num2str(VFWHM/HFWHM),')_ND');
imwrite(img_ND,strcat(fname,'.tif'),'tif');
end
data1 = data_ND;
if size(data1,2) < hori/2
data1 = data0;
end
%背景補償
hori_cur = size(data1,2);
hori_max = max(hori_max,hori_cur);
dummy = 0; data1_min = min(data1)';
data1_temp = [data1_min(hori_cur-dummy+1:hori_cur);
data1_min;data1_min(1:dummy)];
ylower = smooth(data1_temp,200)';
ylower = ylower(dummy+1:hori_cur+dummy);
comp_BG = repmat(mean(ylower)./ylower,vert,1);
data1 = data1.*comp_BG;
%相互相関に基づく画像の再アライメント
data1 = circshift(data1,[0 preDiff]);
strip_prev = smooth(mean(data0)-mean(mean(data0)),2000);
strip_curr = smooth(mean(data1)-mean(mean(data1)),2000);
[acor,lag] = xcorr(strip_prev,strip_curr); length_acor = length(acor);
wfunc = normpdf(1:length_acor,(length_acor+1)/2,(length_acor+1)/2/16)';
acor = acor.*wfunc; [~,I] = max(acor); cofactor = (cofactor*(i-1)+I)/i;
lagDiff = lag(I)*(i>1); preDiff = lagDiff;
data1 = circshift(data1,[0 lagDiff]);
data0 = data1;
下記は、SpeckleSize_gray() 関数のMatlabコードである。
function [HFWHM,VFWHM]=SpeckleSize_gray(SpeckleImg)
M = size(SpeckleImg,1); %領域の高さ
N = size(SpeckleImg,2); %領域の幅
SpeckleImg = double(SpeckleImg);
E = SpeckleImg(1,:); %行1の値を有するアレイを作成する
s = size(xcov(E)); %自己共分散アレイのサイズを見つける
D = zeros(s); %サイズsの空のアレイを作成する
D = double(D); %値をdouble型にキャストする
for i = 1:M
C = SpeckleImg(i,:);
D = imadd(D,xcov(C,'coeff')); %全ての行のxcovアレイを加算してDに格納する
end
H0 = D/max(D); %終了した水平方向の結果物Hを正規化する
sizeH = size(H0,2);
H = H0 (floor(sizeH/2)-5 : floor(sizeH/2)+5);
E1 = SpeckleImg(:,1); %列1の値を有するアレイを作成する
s1 = size(xcov(E1)); %自己共分散アレイのサイズを見つける
D1 = zeros(s1); %サイズs1の空のアレイを作成する
D1 = double(D1); %値をdouble型にキャストする
for j = 1:N
C1 = SpeckleImg(:,j);
if max(C1)>0
D1 = D1 + xcov(C1,'coeff'); %全ての行のxcovアレイを加算してD1に格納する
end
end
V0 = D1/max(D1); %終了した垂直方向の結果物Vを正規化する
sizeV = size(V0);
V= V0(floor(sizeV/2)-5 : floor(sizeV/2)+5);
%H及びVをガウシアンに当てはめ、この当てはめからスペックルサイズを抽出する
helper1 = 1:size(H,2);
helper2 = 1:size(V);
gauss1 = fittype('gauss1'); %ガウシアン曲線当てはめを設定する
excludeLowH = excludedata(helper1',H','range',[.1,1]); %スペックルの外側からノイズを取り除く
excludeLowV = excludedata(helper2',V,'range',[.1,1]);
optionsH = fitoptions(gauss1);
optionsV = fitoptions(gauss1);
optionsH.Exclude = excludeLowH;
optionsV.Exclude = excludeLowV;
[HFit, HFitStats] = fit(helper1',H',gauss1, optionsH);
[VFit, VFitStats] = fit(helper2',V,gauss1, optionsV);
HFWHM = (2*(HFit.c1)*sqrt(-log(.5/(HFit.a1)))); %FWHM値(当てはめ=.5であるときに全幅)
VFWHM = (2*(VFit.c1)*sqrt(-log(.5/(VFit.a1))));
HeSquared = ((HFit.c1)*sqrt(-log((.1353353)/(HFit.a1)))); %1/e値(当てはめ=.135...のときに全幅)
VeSquared = ((VFit.c1)*sqrt(-log((.1353353)/(VFit.a1))));
end
図9は、本願にて開示されている歪みを識別及び補正するためのシステム及び方法の実施形態を実施できるハードウェア構成要素を備えた一例のコンピュータシステム900を示す概略的なブロック図であり、システム900は種々のシステム及びサブシステムを含むことができる。システム900はパーソナルコンピュータ、ラップトップコンピュータ、ワークステーション、コンピュータシステム、アプライアンス、特定用途集積回路(ASIC)、サーバ、サーバブレードセンタ、サーバファーム等とすることができ、1つ又は複数の計算機に分散することができる。
システム900はシステムバス902と、処理装置904と、システムメモリ906と、記憶装置908及び910と、通信インタフェース912(例えばネットワークインタフェース等)と、通信リンク914と、ディスプレイ916(例えばビデオスクリーン等)又は他の出力装置と、入力装置918(例えばキーボード、マウス、タッチスクリーン、タッチパッド等)と、を備えることができる。システムバス902は処理装置904及びシステムメモリ906と通信することができる。付加的な記憶装置908及び910は、例えばハードディスクドライブ、サーバ、スタンドアローンのデータベース、又は他の不揮発性メモリ等の種々の非一時的な記憶装置を含むことができ、またシステムバス902と通信することができる。システムバス902は処理装置904と、記憶装置906,908,910と、通信インタフェース912と、ディスプレイ916と、入力装置918とを相互接続する。一部の例では、システムバス902は例えば汎用シリアルバス(USB)ポート、イーサネットポート、又は他の通信機構/接続部等の1つ又は複数の追加のポートと接続することもできる。
処理装置904は演算装置とすることができ、特定用途集積回路(ASIC)又は他のプロセッサ若しくはマイクロプロセッサを含むことができる。処理装置904は、本願にて開示されている実施形態例の動作を実行するための命令セットを実行する。処理装置は処理コアを含むことができる。
追加の記憶装置906,908及び910は、データ、プログラム、命令、データセットクエリをテキスト形式又はコンパイル済み形式で記憶することができると共に、コンピュータを動作させるために必要となり得る他の任意の情報を記憶することができる。メモリ906,908及び910は、メモリカード、ディスクドライブ、コンパクトディスク(CD)、又はネットワークを介してアクセス可能なサーバ等、コンピュータ可読媒体(組込み型又はリムーバブル)として具現化することができる。特定の事例では、メモリ906,908及び910はテキスト、画像、ビデオ及び/又はオーディオを含むことができ、その一部は、人間が理解できるフォーマットで利用可能とすることができる。
追加的又は代替的にシステム900は、システムバス902及び通信リンク914と通信できる通信インタフェース912を介して、外部のデータソース又はクエリソースにアクセスすることができる。
動作時には、システム900を使用して、本発明の歪み補正の1つ又は複数の部分を実装することができる。歪み補正の一部分を具現化するためのコンピュータ実行可能なロジックは、特定の事例ではシステムメモリ906及び記憶装置908及び910のうち1つ又は複数に常駐する。処理装置904は、このシステムメモリ906及び記憶装置908及び910からのコンピュータ実行可能な1つ又は複数の命令を実行する。ここでいう「コンピュータ可読媒体」との用語は、命令を実行のために処理装置904へ供給することに関与する1つ又は複数の媒体をいう。
よって、コンピュータ可読媒体は非一時的な媒体であり、例えばローカルバス又はネットワーク接続のうち1つ又は複数を介して、処理装置に動作可能に接続された複数の分散した媒体を含むことができると解される。
一部の実施形態では、本願にて記載されている機能及び/又は処理を実行するための命令を記憶するために、任意の適切なコンピュータ可読媒体を使用することができる。例えば一部の実施形態では、コンピュータ可読媒体は一時的又は非一時的な媒体とすることができる。例えば非一時的なコンピュータ可読媒体は、磁気媒体(例えばハードディスク、フロッピーディスク等)、光学ディスク(例えばコンパクトディスク、デジタルビデオディスク、ブルーレイ(Blu-ray、登録商標)ディスク等)、半導体媒体(例えばRAM、フラッシュメモリ、電気的プログラマブルリードオンリーメモリ(EPROM)、電気的消去可能プログラマブルリードオンリーメモリ(EEPROM))、転送中に永続性のいかなる形も抜け落ちることなくまた欠けてもいない任意の適切な媒体、及び/又は任意の適切な有形の媒体等の媒体を含むことができる。他の一例として、一時的なコンピュータ可読媒体は、ネットワーク上、ワイヤ、導体、光ファイバ、回路、若しくは、転送中に永続性のいかなる形も抜け落ちることなくまた欠けてもいない任意の適切な媒体、又は任意の適切な無形媒体上の信号を含むことができる。
ここで留意すべき点は、ここでいう「機構」との用語は、ハードウェア、ソフトウェア、ファームウェア、又はこれらの任意の組み合わせを含むことができる。
図10は、本願にて開示されている発明の一部の実施形態の画像の歪みを補正するためのプロセスの一例1000を示す図である。図10に示されているように、プロセス1000は1002においてスペックルアーティファクトを識別するために、走査撮影装置から取得した画像の画像セグメントを解析することができる。1004において、プロセス1000はスペックルアーティファクトの形状のアスペクト比を特定することができる。ステップ1006において、プロセス1000はこのアスペクト比に基づいてスペックルアーティファクトの形状の補正係数を求めることができる。最後に、プロセス1000は1008において補正係数に基づき画像セグメントの寸法を調整することができる。
図11は、本願にて開示されている発明の一部の実施形態の歪み補正のためのプロセスの一例1100を示す図である。図11に示すように、1102においてプロセス1100は画像を供給することができる。1104において、プロセス1100はこの画像を、それぞれ第1の方向に延在する複数の実質的に平行なストリップに分割することができる。1106において、プロセス1100は各ストリップを、第1の方向に対して実質的に垂直な第2の方向に沿った複数の部分ストリップに分割することができる。1108において、プロセス1100は複数の各部分ストリップを解析することにより、少なくとも1つの局所的に明るい特徴を位置特定することができる。1110において、プロセス1100は各部分ストリップの少なくとも一部を歪ませることにより、局所的に最大/最小の特徴を所定の形状に近付け、これにより補正部分ストリップを作成することができる。1112において、プロセス1100は複数の補正部分ストリップを1つの補正ストリップに再構築することができる。最後に1114において、プロセス1100は複数の補正ストリップを補正画像に再構築することができる。
図10及び図11の上記の各ステップは、図中に示し説明した順序やシーケンスに限定されることはなく、任意の順序又はシーケンスで実行又は実施できると解すべきである。また、図10及び図11のプロセスの上記のステップの中には、適切な場合には実質的に同時に、又は遅延や処理時間を短縮するために平行して実行又は実施できるものもある。
ここでいう単数形「1つの(a, an)」及び「その1つの(that)」には、文脈から他のものを指すものと明確に解されない限り、複数形を含めることもできる。さらに、ここでいう「含む」及び/又は「備える」との用語は、当該用語が係る構成、ステップ、動作、要素及び/又は構成要素が存在することを特定できるものであるが、1つ又は複数の他の構成、ステップ、動作、要素、構成要素、及び/又はこれらの群の存在又は追加を除外するものではない。
ここでいう「及び/又は」等の用語は、当該用語が係る列挙された事項のうち1つ又は複数の任意の全ての組み合わせを含むことができる。
ある要素が他の要素「上にある」、他の要素に「取り付けられる」、他の要素に「接続されている」、他の要素に「結合されている」、他の要素に「接触している」等という場合、これは当該他の要素上に直接あり、当該他の要素に直接取り付けられており、当該他の要素に直接接続されており、当該他の要素に直接結合されており、若しくは当該他の要素に直接接触していることができ、又は両者間に介在する要素も存在することができると解される。これとは対照的に、ある要素が例えば他の要素「上に直接」ある、他の要素に「直接取り付けられている」、他の要素に「直接接続されている」、他の要素に「直接結合されている」、又は他の要素に「直接接触している」という場合には、両者間に介在する要素は存在しない。
空間的関係を表現する用語、例えば「下」、「下方」、「より下方」、「上」、「上方」等の用語は、説明を簡素化するため、本願では各図に示されている1つの要素若しくは特徴、又は1つの要素若しくは特徴と他の(1つ若しくは複数の)要素若しくは特徴との関係を記載するために用いられることがある。かかる空間的関係を表現する用語は、図中に示されている向きの他、使用中又は動作中の装置の別の向きを含むことができると解すべきである。例えば、図中の装置を逆にすると、他の要素又は構成の「下」又は「下方」と記載されている要素は、当該他の要素又は構成の「上方」を向くということになる。
ここで記載されている構成は任意の組み合わせで本発明に含まれ、本発明を構成し、又は本発明を実質的に構成する。
よって、上記では特定の実施形態及び例を参照して本発明を説明したが、本発明は必ずしもこれらに限定されることはなく、多数の他の実施形態、例、使用、改良形態、並びにこれらの実施形態、例及び使用からの導出形態も、添付の特許請求の範囲に含まれることを意図している。

Claims (34)

  1. 画像の歪みを補正する方法であって、
    プロセッサにより、走査型撮影装置から得られた前記画像の画像セグメントを解析してスペックルアーティファクトを識別するステップと、
    前記プロセッサにより、前記スペックルアーティファクトの形状のアスペクト比を求めるステップと、
    前記プロセッサにより、前記アスペクト比に基づいて前記スペックルアーティファクトの形状の補正係数を求めるステップと、
    前記プロセッサにより、前記補正係数に基づいて前記画像セグメントの寸法を調整するステップと、
    を有することを特徴とする方法。
  2. 前記アスペクト比に基づいて前記スペックルアーティファクトの形状の補正係数を求めるステップは、
    前記アスペクト比と前記補正係数とを関連付ける多項関数に基づき前記補正係数を求めることをさらに含む、
    請求項1記載の方法。
  3. 前記画像は、回転走査装置又は直線走査装置のうち少なくとも1つから得られたものである、
    請求項1記載の方法。
  4. 前記画像セグメントは、前記画像を複数のストリップに分割することにより導出され、
    前記複数の各ストリップは複数の部分ストリップに細分割され、
    前記画像セグメントは前記複数の部分ストリップのうち1つを含む、
    請求項3記載の方法。
  5. 前記画像は、サンプルを回転走査することにより生成されたものであり、
    前記複数の各ストリップは、前記サンプルの回転走査方向で収集されたデータに相当する、
    請求項4記載の方法。
  6. 前記複数の各部分ストリップについて求められた各補正係数に基づき、前記複数の各部分ストリップの寸法を調整するステップと、
    調整された前記各部分ストリップを複数の補正ストリップに再構築するステップと、
    前記複数の補正ストリップを補正画像に再構築するステップと、
    をさらに有する、
    請求項4記載の方法。
  7. 前記複数の補正ストリップを補正画像に再構築するステップは、
    補正された前記複数の部分ストリップのうち2つの隣り合うストリップの相互相関を求めることと、
    前記相互相関を最大にする位相遅延値を算出することと、
    算出した前記位相遅延に基づき前記2つの隣り合うストリップをアライメントすることと、
    をさらに有する、
    請求項6記載の方法。
  8. 前記画像セグメントを解析して前記スペックルアーティファクトを識別するステップは、
    前記画像セグメントのフィルタリングに基づき前記画像セグメントのスペックル画像を抽出すること
    をさらに有し、
    前記スペックルアーティファクトの形状のアスペクト比を求めるステップは、
    前記スペックル画像における前記スペックルアーティファクトの自己共分散に基づき前記アスペクト比を求めること
    をさらに有する、
    請求項1から7までのいずれか1項記載の方法。
  9. 前記スペックルアーティファクトは、コヒーレント光源により生じたものである、
    請求項1から7までのいずれか1項記載の方法。
  10. 前記コヒーレント光源はレーザを備えている、
    請求項9記載の方法。
  11. 画像の歪みを補正するための装置であって、
    プロセッサと、
    前記プロセッサと通信し、命令のセットを記憶したメモリと、
    を備えており、
    前記命令のセットは、前記プロセッサにより実行されたときに前記プロセッサに、
    走査型撮影装置から得られた前記画像の画像セグメントを解析してスペックルアーティファクトを識別させ、
    前記スペックルアーティファクトの形状のアスペクト比を求めさせ、
    前記アスペクト比に基づいて前記スペックルアーティファクトの形状の補正係数を求めさせ、
    前記補正係数に基づいて前記画像セグメントの寸法を調整させる
    ことを特徴とする装置。
  12. 前記プロセッサは、前記アスペクト比に基づいて前記スペックルアーティファクトの形状の補正係数を求める際に、前記命令により、
    前記アスペクト比と前記補正係数とを関連付ける多項関数に基づき前記補正係数を求める、
    請求項11記載の装置。
  13. 前記画像セグメントを導出する元になる前記画像は、サンプルの回転走査又は直線走査のうち少なくとも1つにより生成されたものである、
    請求項11記載の装置。
  14. 前記画像セグメントは、前記画像を複数のストリップに分割することにより導出され、
    前記複数の各ストリップは複数の部分ストリップに細分割され、
    前記画像セグメントは前記複数の部分ストリップのうち1つを含む、
    請求項13記載の装置。
  15. 前記画像は、前記サンプルを回転走査することにより生成されたものであり、
    前記複数の各ストリップは、前記サンプルの回転走査方向で収集されたデータに相当する、
    請求項14記載の装置。
  16. 前記プロセッサは前記命令によってさらに、
    前記複数の各部分ストリップについて求められた各補正係数に基づき、前記複数の各部分ストリップの寸法を調整し、
    調整された前記各部分ストリップを複数の補正ストリップに再構築し、
    前記複数の補正ストリップを補正画像に再構築する、
    請求項14記載の装置。
  17. 前記プロセッサは、前記複数の補正ストリップを補正画像に再構築する際に、前記命令によってさらに、
    補正された前記複数の部分ストリップのうち2つの隣り合うストリップの相互相関を求め、
    前記相互相関を最大にする位相遅延値を算出し、
    算出した前記位相遅延に基づき前記2つの隣り合うストリップをアライメントする、
    請求項16記載の装置。
  18. 前記プロセッサは、前記画像セグメントを解析して前記スペックルアーティファクトを識別する際に、前記命令によってさらに、
    前記画像セグメントのフィルタリングに基づき前記画像セグメントのスペックル画像を抽出し、
    前記プロセッサは、前記スペックルアーティファクトの形状の前記アスペクト比を求める際に、前記命令によってさらに、
    前記スペックル画像における前記スペックルアーティファクトの自己共分散に基づき前記アスペクト比を測定する、
    請求項11から17までのいずれか1項記載の装置。
  19. 前記スペックルアーティファクトは、コヒーレント光源により生じたものである、
    請求項11から17までのいずれか1項記載の装置。
  20. 前記コヒーレント光源はレーザを備えている、
    請求項19記載の装置。
  21. 歪み補正方法であって、
    画像を供給するステップと、
    前記画像を、それぞれ第1の方向に延在する実質的に平行な複数のストリップに分割するステップと、
    前記各ストリップを、前記第1の方向に実質的に垂直な第2の方向に沿った複数の部分ストリップに分割するステップと、
    前記複数の各部分ストリップを解析して、少なくとも1つの局所的に明るい特徴を位置特定するステップと、
    前記各部分ストリップの少なくとも一部分を調整して、前記少なくとも1つの局所的に明るい特徴を所定の形状に近付けることにより、補正された部分ストリップを作成するステップと、
    補正された複数の前記部分ストリップを補正ストリップに再構築するステップと、
    複数の前記補正ストリップを補正画像に再構築するステップと、
    を有することを特徴とする歪み補正方法。
  22. 少なくとも1つの局所的に明るい特徴は、レーザスペックルアーティファクトを含む、
    請求項21記載の歪み補正方法。
  23. 画像を供給するステップは、回転撮像センサから画像を取得することを含む、
    請求項21記載の歪み補正方法。
  24. 複数の前記補正ストリップを補正画像に再構築するステップは、
    複数の前記補正ストリップのうち隣り合うストリップの対の間で相互相関を実行することと、
    前記相互相関の実行に基づき、前記隣り合うストリップの対の相対位置を再調整することと、
    前記隣り合うストリップの対の前記相対位置の再調整に基づき、補正された複数の前記部分ストリップを前記補正画像に再構築するステップと、
    をさらに有する、
    請求項21から23までのいずれか1項記載の歪み補正方法。
  25. 画像の歪みを補正するための装置であって、
    コヒーレント光源を備えており、サンプルの画像を取得するように構成された走査型撮影装置と、
    前記走査型撮影装置と通信するプロセッサと、
    前記プロセッサと通信し、命令のセットを記憶したメモリと、
    を備えており、
    前記命令のセットは、前記プロセッサにより実行されたときに前記プロセッサに、
    前記画像の画像セグメントを解析してスペックルアーティファクトを識別させ、
    前記スペックルアーティファクトの形状のアスペクト比を求めさせ、
    前記アスペクト比に基づいて前記スペックルアーティファクトの形状の補正係数を求めさせ、
    前記補正係数に基づいて前記画像セグメントの寸法を調整させる
    ことを特徴とする装置。
  26. 前記プロセッサは、前記アスペクト比に基づいて前記スペックルアーティファクトの形状の補正係数を求める際に、前記命令により、
    前記アスペクト比と前記補正係数とを関連付ける多項関数に基づき前記補正係数を求める、
    請求項25記載の装置。
  27. 前記走査型撮影装置は、前記サンプルの回転走査又は直線走査のうち少なくとも1つを用いて前記サンプルから前記画像を取得する、
    請求項25記載の装置。
  28. 前記画像セグメントは、前記画像を複数のストリップに分割することにより導出され、
    前記複数の各ストリップは複数の部分ストリップに細分割され、
    前記画像セグメントは前記複数の部分ストリップのうち1つを含む、
    請求項27記載の装置。
  29. 前記画像は、前記サンプルを回転走査することにより取得されたものであり、
    前記複数の各ストリップは、前記サンプルの回転走査方向で収集されたデータに相当する、
    請求項28記載の装置。
  30. 前記プロセッサは前記命令によってさらに、
    前記複数の各部分ストリップについて求められた各補正係数に基づき、前記複数の各部分ストリップの寸法を調整し、
    調整された前記各部分ストリップを複数の補正ストリップに再構築し、
    前記複数の補正ストリップを補正画像に再構築する、
    請求項28記載の装置。
  31. 前記プロセッサは、前記複数の補正ストリップを補正画像に再構築する際に、前記命令によってさらに、
    補正された前記複数の部分ストリップのうち2つの隣り合うストリップの相互相関を求め、
    前記相互相関を最大にする位相遅延値を算出し、
    算出した前記位相遅延に基づき前記2つの隣り合うストリップをアライメントする、
    請求項30記載の装置。
  32. 前記プロセッサは、前記画像セグメントを解析して前記スペックルアーティファクトを識別する際に、前記命令によってさらに、
    前記画像セグメントのフィルタリングに基づき前記画像セグメントのスペックル画像を抽出し、
    前記プロセッサは、前記スペックルアーティファクトの形状の前記アスペクト比を求める際に、前記命令によってさらに、
    前記スペックル画像における前記スペックルアーティファクトの自己共分散に基づき前記アスペクト比を測定する、
    請求項25から31までのいずれか1項記載の装置。
  33. 前記スペックルアーティファクトは、前記コヒーレント光源により生じたものである、
    請求項25から31までのいずれか1項記載の装置。
  34. 前記コヒーレント光源はレーザを備えている、
    請求項33記載の装置。
JP2021543361A 2019-01-28 2020-01-27 レーザ走査型顕微鏡視のスペックルベース画像歪み補正 Pending JP2022523061A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962797548P 2019-01-28 2019-01-28
US62/797,548 2019-01-28
PCT/US2020/015153 WO2020159844A1 (en) 2019-01-28 2020-01-27 Speckle-based image distortion correction for laser scanning microscopy

Publications (1)

Publication Number Publication Date
JP2022523061A true JP2022523061A (ja) 2022-04-21

Family

ID=71840601

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021543361A Pending JP2022523061A (ja) 2019-01-28 2020-01-27 レーザ走査型顕微鏡視のスペックルベース画像歪み補正

Country Status (6)

Country Link
US (1) US11986266B2 (ja)
EP (2) EP4321922A2 (ja)
JP (1) JP2022523061A (ja)
CN (1) CN113678054A (ja)
IL (1) IL285124A (ja)
WO (1) WO2020159844A1 (ja)

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4792231A (en) 1987-06-25 1988-12-20 Fried David L Laser speckle imaging
DE60319095T2 (de) 2003-11-10 2009-02-12 Leica Microsystems Cms Gmbh Verfahren zur Verzerrungskorrektur von Multifokus-Bilderstapeln
WO2008121844A1 (en) 2007-03-30 2008-10-09 The General Hospital Corporation System and method providing intracoronary laser speckle imaging for the detection of vulnerable plaque
WO2009008745A2 (en) * 2007-07-06 2009-01-15 Industrial Research Limited Laser speckle imaging systems and methods
US7878651B2 (en) 2007-12-26 2011-02-01 Carl Zeiss Meditec, Inc. Refractive prescription using optical coherence tomography
CN102119326A (zh) * 2008-08-13 2011-07-06 皇家飞利浦电子股份有限公司 测量和校正多斑扫描设备中的透镜畸变
JP5832523B2 (ja) 2010-04-29 2015-12-16 マサチューセッツ インスティテュート オブ テクノロジー 光コヒーレンストモグラフィのための動き補正および画像改善の方法および装置
US9226673B2 (en) 2011-01-10 2016-01-05 East Carolina University Methods, systems and computer program products for non-invasive determination of blood flow distribution using speckle imaging techniques and hemodynamic modeling
EP3010389B1 (en) 2013-06-19 2020-08-26 The General Hospital Corporation Omni-directional viewing apparatus and method
JP6645961B2 (ja) * 2013-06-19 2020-02-14 ザ ジェネラル ホスピタル コーポレイション カテーテルによって全方位表示を得るための装置、デバイスおよび方法
JP6775914B2 (ja) * 2014-01-31 2020-10-28 ザ ジェネラル ホスピタル コーポレイション 光干渉法において振幅および位相を使用した多次元速度測定を実施する方法および装置
EP3291725A4 (en) 2015-05-07 2018-11-07 Novadaq Technologies Inc. Methods and systems for laser speckle imaging of tissue using a color image sensor
US10013780B2 (en) * 2016-02-29 2018-07-03 General Electric Company Systems and methods for artifact removal for computed tomography imaging
NL2018852B1 (en) * 2017-05-05 2018-11-14 Illumina Inc Optical distortion correction for imaged samples
JP2020064564A (ja) * 2018-10-19 2020-04-23 株式会社アスカネット 学習サーバ、学習システム、及び追加学習プログラム
US10992902B2 (en) * 2019-03-21 2021-04-27 Disney Enterprises, Inc. Aspect ratio conversion with machine learning

Also Published As

Publication number Publication date
WO2020159844A1 (en) 2020-08-06
CN113678054A (zh) 2021-11-19
EP3918411A4 (en) 2022-11-16
EP3918411B1 (en) 2024-01-03
EP3918411A1 (en) 2021-12-08
US20220054013A1 (en) 2022-02-24
US11986266B2 (en) 2024-05-21
IL285124A (en) 2021-09-30
EP4321922A2 (en) 2024-02-14

Similar Documents

Publication Publication Date Title
US20150062299A1 (en) Quantitative 3d-endoscopy using stereo cmos-camera pairs
Stoyanov Surgical vision
US7322698B2 (en) Method for judging changes in images of the eye or its component parts
US8388539B2 (en) Operation supporting device, method, and program
Hernandez-Mier et al. Fast construction of panoramic images for cystoscopic exploration
JP5393968B2 (ja) 内視鏡を較正するためのシステム及び方法
US20140044325A1 (en) System and method of overlaying images of different modalities
WO2014203531A1 (ja) 画像表示装置、画像表示方法および画像表示プログラム
US20220104786A1 (en) Apparatuses, systems, methods and storage mediums for performance of co-registration
Wisotzky et al. Interactive and multimodal-based augmented reality for remote assistance using a digital surgical microscope
KR101783964B1 (ko) 단층 촬영 장치 및 그에 따른 단층 영상 복원 방법
AU2017100092A4 (en) System, device, method and computer-accessible medium for imaging large areas with microscopic resolution
JP5528052B2 (ja) 放射線撮像装置及び同装置に用いるファントム装置
Chadebecq et al. Measuring the size of neoplasia in colonoscopy using depth-from-defocus
WO2021149050A1 (en) Systems, devices, subsystems and methods for oral cavity inspection
JP2022523061A (ja) レーザ走査型顕微鏡視のスペックルベース画像歪み補正
Xu et al. Auto-adjusted 3-D optic disk viewing from low-resolution stereo fundus image
JP6604743B2 (ja) 情報処理装置、その作動方法、及びコンピュータプログラム
JP7023195B2 (ja) 検査支援装置、方法およびプログラム
CN114401663A (zh) 用于立体彩色眼睛成像的方法和设备
US20240027180A1 (en) Calibration of imaging system with combined optical coherence tomography and visualization module
JP6527970B2 (ja) 眼科装置
Al Youzbaki et al. Creating panoramic image for linear transducer ultrasound Doppler images
Regef et al. Laryngeal surface reconstructions from monocular endoscopic videos: a structure from motion pipeline for periodic deformations
WO2023196184A1 (en) Pose-based three-dimensional structure reconstruction systems and methods

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240308