JP2014517342A - ファイバに基づく顕微鏡画像の連続的かつ実時間のキャリブレーション - Google Patents

ファイバに基づく顕微鏡画像の連続的かつ実時間のキャリブレーション Download PDF

Info

Publication number
JP2014517342A
JP2014517342A JP2014510902A JP2014510902A JP2014517342A JP 2014517342 A JP2014517342 A JP 2014517342A JP 2014510902 A JP2014510902 A JP 2014510902A JP 2014510902 A JP2014510902 A JP 2014510902A JP 2014517342 A JP2014517342 A JP 2014517342A
Authority
JP
Japan
Prior art keywords
fiber
calibration
transfer function
image
regression
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014510902A
Other languages
English (en)
Other versions
JP5583302B2 (ja
Inventor
サボワール、ニコラ
ベルコーテレン、トム
Original Assignee
マウナ ケア テクノロジーズ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by マウナ ケア テクノロジーズ filed Critical マウナ ケア テクノロジーズ
Publication of JP2014517342A publication Critical patent/JP2014517342A/ja
Application granted granted Critical
Publication of JP5583302B2 publication Critical patent/JP5583302B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Image Processing (AREA)
  • Analysing Materials By The Use Of Radiation (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Geometry (AREA)
  • Microscoopes, Condenser (AREA)

Abstract

【解決手段】第1の観点によると本発明は、とを含み、前記システム一式がイメージングシステムのキャリブレーションを構成する、均一な伝達関数を持ち空間的位置が一様でない画像検出手段によって獲得された画像を処理する方法に関する。この方法は、多数の画像からのデータを蓄積するステップと、関連する信号を計測する個々の検出器を結びつけるアフィニティグラフを定義するステップと、結びつけられた検出器からの蓄積されたデータに統計的な解析を実行するステップと、各検出器の伝達関数を推定するために、統計的な解析の結果から構成されるシステムを解くステップとを含む。ここで伝達関数一式がイメージングシステムのキャリブレーションを構成する。
【選択図】図1

Description

本発明は、概して、不均一な伝達関数を持ち空間的位置が一様でない画像検出手段によって獲得された画像を処理するための方法に関し、特に、複数の光学ファイバからなる画像誘導(image guide)手段によって獲得された画像を処理するための方法に関する。
光学ファイババンドル(bundle)を経由するレーザ走査イメージングを実行する間、その走査の間に検出器によって直接的に観測された信号のサンプルの集合が、生の出力となる。
米国特許第7903848号に記載されているように、この生の出力からまず生画像(raw image)が再構成される。この生画像においては、各ピクセルは所与の各ファイバに関連づけることができる。所与のファイバに関連づけられているこれらのピクセルはそれぞれ、組織(tissue)の同じ空間体積から戻された異なる信号の計測値を提供する。その組織は、ファイバの末端と対面している。この戻り信号(returned signal)は、蛍光発光、後方散乱、または入射光と組織との間の相互作用に起因する他の放射によって生じうる。
これらの個々の計測値は、走査の間にファイバに入れられる励起光の正確な量が、ファイバに関するレーザスポットの空間的位置に実際には依存するため、異なるものとなる。さらに、もしレーザスポットがいくつかのファイバに重なっていると、対応する計測値は、これらのファイバによって集められた戻り信号が混ぜ合わされる。生のデータの値から、ファイバに対面している空間体積に関連している可能性がある戻り信号の推定値が推定される。この推定は、典型的には、米国特許5878159号にある何らかのアドホックな手法、または米国特許7903848号にある厳密な統計モデルによってなされる。この結果得られる推定値は、所与のファイバに関連づけることができる計測値となる。
これがなされると、各ファイバは概念的には1つの検出器、またはCCDのピクセルとして作動する。しかしながら、この仮想的なCCDは、少なくとも以下の4つの理由により、一般的なCCDと異なる。
a.ファイババンドルは規則的な間隔のファイバとして作られていない。この仮想的なCCDは正方格子でなない。
b.導入される、伝送される、および集められる光の量は各ファイバに固有のものとなる。これは一つには、ファイバの直径が全く同じではなく、また隣接した光学系(proximal system optics)は収差を持つためである。この結果、この仮想的なCCDのピクセルは通常、異なる感度を少なくとも持つ。
c.いくつかの光学散乱(例えば、レイリー、フレネル、ラマン等)が接合部分やファイバ内で生じ、そのためにいくつかの線形または非線型な信号が発生する。これらの理由により、組織によって直接生じた被写体の信号がない場合であっても、ファイバから集められた戻り信号はゼロ(null)ではなくなる。また、この背景雑音(background)の値は、がファイバー毎に異なる。
d.加えて、上述した3つの現象は時間とともに変化する。例えば、蛍光画像との関連で、もしファイバーが自己蛍光(auto-fluorescence)を示す場合、光活性化能の消失(photo-bleaching)のためにその明度は一般に減衰する。
要約すると、ファイバを生のピクセル値と関連づけると、各ファイバは、固有の伝達関数(すなわち、固有のオフセットと固有のゲインまたは感度)を持つ単一ピクセルの検出器のように見える。そのためイメージングシステムは、伝達関数が時間的に変化しかつ不均一な(すなわち、ピクセル依存)である点、ピクセルが空間ドメインにおいて不規則に置かれるという点でむら(irregular)がある。以後、明確化のため、これらの概念的な検出器をファイバと呼ぶが、以下の議論では実際の物理的なファイバに限定する必要がないことは明らかである。
米国特許7903848号および米国特許5878159号は、不均一なファイバの伝達関数を持つ検出器からのデータを処理する異なる手段を提案する。米国特許5878159号はファイバ伝達関数が単純な線形関数(戻されたファイバ信号はファイバに依存するゲイン定数で被写体の信号を乗算することでモデル化されている)である発明のみが開示されている。したがって、被写体の信号がゼロのときに背景雑音信号がゼロとならない場合は対処されていない。米国特許7903848号は、アフィンファイバー伝達関数を補償する画像処理手法が開示されている。これは二つの画像を獲得することで達成できる。すなわち、例えば空気や水等の均質な背景雑音を持つ媒体の画像一枚と、例えば蛍光顕微鏡の蛍光溶液等の強い被写体信号を持つ一様な媒体の画像一枚とである。アフィンファイバ伝達関数(すなわち、オフセットおよびゲイン)が二つの画像から推定される。明確化のため、これらの参照画像を一様な媒体から獲得したものとするが、他の文脈では、これらは単に一様な被写体の信号(例えば平らな領域の画像)に相当してもよい。
ファイバに基づくイメージングシステムは、例えば共焦点内視鏡(endomicroscopy)、すなわち顕微鏡レベルでの内視鏡を実施するために一般には用いられる。このような臨床での状況では、米国特許7903848号で要求されるような二つの画像を、これらのイメージングシステム、すなわち共焦点内視鏡処置を用いる前に獲得するのは難しい。実際、ファイババンドルの先端を均一な媒体に差し込むのは、患者に接触することにより生じるファイバの清浄度または無菌化を侵害するとともに、医師の処理に負担をかけることになろう。他のユースケースでは、均質な媒体を探すことは些細なことでないことも明らかであろう。これらの問題に対処し、さらにアフィンファイバー伝達関数を補償可能とするために、PCT出願番号PCTIB2009008012は、処置の前に、背景雑音画像(典型的には空気)のみを獲得する発明が開示されている。この背景雑音画像は、処置に先立って(すなわち製造時に)獲得されているデータ(例えば背景雑音および強い被写体信号の画像)に自動的にマッピングされ、イメージングシステム(例えば制御コンピュータ)とともに格納される。現場での背景雑音画像とマッピングされた事前データとから、PCT出願番号PCTIB2009008012では、アフィンファイバー伝達関数のゲインとオフセットとを推定する。イメージングシステムは、典型的には、持続的に用いる(perduring)ユニット(例えばレーザ走査)と、消耗品(例えばファイバーバンドル)を備える。PCT出願番号PCTIB2009008012のやり方では、典型的には、製造の間では現場での画像処理に必要なデータを獲得するために消耗品のみが使用可能であるが、持続的に用いるユニットはエンドユーザ側に残されている。製造の間に獲得されたデータは、イメージングシステムの特性、例えば経年劣化や環境特性が長期にわたって変化したとしても、ずっと不変のままであるのは明らかである。それ故、画像獲得時における最終段階のイメージングシステムで獲得されるであろう近似値でデータをバイアスできるだけである。結果的に、ファイバー伝達関数の近似値でバイアスをかけることになり、次善的な画質が得られることになる。この解決法は、消耗品をそれと対応するデータとともにエンドユーザに送付することも要求する。このデータは画像処理方法によってアクセスされる必要がある。これはその消耗品を最初に用いる前に面倒な設定が概して要求されることになる。
既に記載したこれらの先行するアプローチの欠点に加えて、これらは全て共通の短所を共有する。参照画像(背景雑音および強い被写体信号)は典型的には、最終的に興味のある被写体(この性質はしばしば未知である)と全く同じ物理的な性質(例えば開口数)を持つ媒体で獲得されるものではない。このため、推定されたファイバー伝達関数は、どのような場合であっても、その被写体に見られるファイバー伝達関数の近似値でバイアスされるだけである。言い換えると、これらのファイバー伝達関数は、概して持続的に用いるユニットおよび消耗品のみならず、画像化された媒体を含む画像化セットアップ一式にも依存する。
その上さらに、これらの先行するアプローチはいずれも、時間的に変化するファイバー伝達関数を対処するものではない。しかしながら、前述したように、そのような事態が典型的には自己蛍光の背景雑音信号で見られる。ファイバーの自己蛍光に起因するオフセット値は時間とともに減衰し、かつファイバーによってその量は異なる。このため、使用前になされたいずれのオフセット計測も関連性が乏しくなる。処置の間に実時間で計測される背景雑音レベルの平均値を反映しないだけでなく、ファイバ毎の背景雑音の変化による相違が画質に影響し、最終的には画像上にベール(すなわち静的なパターン)のように現れる。イメージングシステムを使用する直前にファイバーを適切に事前照明することで、自己蛍光を安定化でき、潜在的な解決法となるかもしれないと考えられる。しかしながら、これはエンドユーザに強い制約を強いることになるし、他の時間的に変化する物理現象には一般化できない。
先行技術は、他の分野における一様でない画像検出器の問題と、その問題を対処する例えばWeiss ICCV 2001やKuhnらのAstronomical Society of the Pacific 1991示されるような異なる手法を示している。したがって、そのような検出器によって提供されるデータの処理を可能とするシステムや方法の必要性が存在する。
本発明の目的は、これらの一様でない、時間的に変化するファイバー伝達関数を補償して、均一な媒体を観察したときのような均一な画像を得るための新しい方法を提案することである。補償のためのファイバー伝達関数の推定を、イメージングシステムのキャリブレーションと呼ぶ。イメージングシステムを使用中に獲得された被写体画像から直接的に計算される連続的かつ実時間のキャリブレーションの最適化を提供する方法を開示する。したがって、本発明は事前のキャリブレーションデータを獲得するためにユーザが面倒な処理をすることや、製造時にデータをユーザに伝達するという手間のかかるであろうステップを要求する必要がない。
本発明の上述した目的、他の目的、作用効果、利点は、以下の説明および付帯する図面から明らかになろう。
以下、好適な実施の形態として本発明をより詳細に説明する。
図1は、本発明の実施の形態に係るシステムの上位レベルにおける主要な構成要素を示す状態図の例である。
図2は、本発明の処理の可能なモード間の遷移を示す状態図の例である。
図3は、図2に示すイメージングシステムのサブコンポーネントにおけるドリフト(drift)処理のフローチャートの例を示す図である。
概して、本発明の実施の形態は、単純なゲイン係数よりも複雑な、ファイバー伝達関数が時変で検出器の空間配置が一様でないファイバー伝達関数に対処する方法を提供する。
ブラインドキャリブレーションの概要
本発明の実施の形態は、イメージングシステムが受け取った入力被写体信号に基づいて、そのイメージングシステムの最適なキャリブレーションを見つけることが可能である。このようなキャリブレーションは、事前の特定のキャリブレーションデータに必ずしも依存しないという意味で、「ブラインド(blind)」と呼んでもよい。
本発明の背後にある根本を成す所見は、自然の被写体に注目するとき、近傍のファイバーは長い間ほとんど同じ被写体信号を見るということである。この性質は、画像の連続的な特性から主に生じる。これは自然画像に関して十分に研究されており、ほとんど全ての自然な被写体に当てはまる。ファイバー伝達関数は典型的には時不変かあるいは被写体信号の変動と比較してゆっくりな変動であるとすると、隣接するファイバーから観察された戻り信号は時間的な相関が強くなる。ファイバー伝達関数のモデルが得られているとすると、隣接するファイバー間の関係関数(relationship functions)のモデルを推定できる。新しいフレームはそれぞれ、隣接するファイバーの各セットの各関係関数のための標本計測値を提供する。関心のある被写体について十分な量のこれらの計測値を蓄積することにより、本発明はこれらの関係関数のよい推定を計算する。後ほどより明確にするように、この関係関数の推定ステップは、回帰(regression)ステップとも呼ばれる。関係関数の完全体系(complete system)の逆関数を求めることで、本発明はファイバー伝達関数の適用的な推定値を得る。代替手法として、より多くの計算が要求されるオプションが用いられてもよい。例えば、回帰反転(regression-inversion)と処理との2ステップを行う代わりに、ある場合は、計測値と接続されたファイバーの伝達関数との間の相違に基づいた一つのコスト関数を構築するのが効果的な場合もある。このコスト関数は、ファイバー伝達関数に関して最適化されてもよい。
本発明の逆転(inversion)の原理は、空間的に近接する場合に限定されず、統計的に高い関連性が見られる被写体信号であることが既知であるファイバ同士を結びつけるアフィニティグラフ(affinity graph;類似性グラフ)が定義できさえすれば有効である。本発明のいくつかの実施の形態では、アフィニティ(affinity;類似性)は空間的な近さに関連してもよい。このグラフは、典型的には、空間的な近さを定義する直感的な手段であるファイバー位置のドローネー三角分割法(Delaunay triangulation)から構成される。さらに、被写体および戻り信号はスカラ値に限定されず、米国特許第7869679号に開示されているようなイメージングシステムのベクトル値であってもよい。
ブラインドキャリブレーションの一般的な数学的導出
を任意のファイバ(例えば第1のファイバ)の空間位置に対する、ファイバーiの空間位置とする。
(t)を時刻tにファイバで計測された戻り信号とする。v(t)はスカラ値またはベクトル値である。
(t)を時刻tにファイバーiに計測された被写体信号とする。u(t)はスカラ値またはベクトル値である。
ψ(・)をファイバーiの伝達関数とする。単純化のため、ファイバー伝達関数は被写体信号と比較して時不変または時間の変化がとてもゆっくりであると仮定するので、時間の指標(index)は付さない。
Eをファイバーのアフィニティグラフの端部(edge)とする。
上記表記方を前提とすると、画像化ノイズも考え以下を得る。
Figure 2014517342
ここで、任意の組(i,j)∈E(Eはアフィニティグラフの端部を形成するファイバ)であり、組となるふたつのファイバで観測される被写体信号は高い相関があり、これらは端部の組が疎(sparse set of edges)のときのみ大きくなるノイズ項のみの相違であると仮定すると、以下の式を得る。
Figure 2014517342
上記関係は、関連するふたつのファイバで観測された被写体信号がノイズ項のみの相違である場合に限定されない。関連するファイバーが、伝達関数が既知である観測信号についてノイズの多い変換がなされたものを観測する場合にも適用できることは明らかである。
本発明の背後にあるアイデアは、ファイバー伝達関数を推定するためにこれらの関係を用いることである。被写体信号u(t)の十分なバリエーション(variation)が与えられたとする(したがって、仮定からu(t)も十分なバリエーションが与えられたとする)と、v(t)およびv(t)も多数のバリエーションが存在する。この戻り信号から、本発明はアフィニティグラフ中の関連するファイバーの組それぞれについて、合成伝達関数ψ°ψを推定する。この回帰ステップの結果、逆を求めること(invert)ができる、または解くことができる(方程式の解を見つけることができる)優決定系(overdetermined system;過剰決定系)の方程式を導く。
時変適用キャリブレーション概要
各ブラインドキャリブレーションはファイバー伝達関数が時不変であることに依存しているとしても、本発明は、その仮定が成り立つ時間窓(temporal window)を使うことで、時変のファイバー伝達関数を推定するために用いることもできる。開示された好適な実施の形態では、観測した戻り信号をバッファに蓄積する。バッファの最大容量は上記仮定にしたがって選択される。バッファが十分な情報を格納したらすぐに、ブラインドキャリブレーション手続が起動する。
図1は、本発明が時間窓を用いて本発明がこのような時変キャリブレーションをどのようには使うかの概観を例示する。
近接するファイバの戻り信号から関係関数を推定するには、正確な推定を得るために十分に広い値の範囲を持つ所定の量のサンプルが要求される。例えば、ファイババンドルの末端が空気中にあると、ノイズおよび背景雑音信号のみが集計され、回帰は不可能である。同様に、もしファイバーが不変の動かない被写体を観測すると、一般に回帰はできない。ファイバーに集計される被写体信号は時間とともに変化する必要がある。典型的な画像化の文脈では、画像化された被写体に対するファイバの動きが、ファイバーに観測される信号の範囲を広くする。他の実施の形態では、被写体信号のバリエーションは、被写体が光活性化能の消失にさらされている場合には、被写体自身からも生じる。他の実施の形態では、活発な信号の変動を含む。活発な信号の変動は、照明調整やバンドルと被写体との動き(bundle-to-object motion)をかけるなどの意図的な動作から引き起こされる。
時間窓を大きくすると、回帰がより正確になり、したがってキャリブレーションも正確となる。しかしながら、いくつかのケースでは迅速に推定を得ることが有利となる。例えば、最初のキャリブレーション(最初のブラインドキャリブレーションが起動する前のキャリブレーション)が大ざっぱな先見知識に基づく場合、素早く最初の推定を得て後にそれを改善することは、ユーザによってより興味のあることとなる。この基準を時間窓に適用することで、その結果を得るために本発明は用いられもよい。
初期化
キャリブレーションは多くの異なる方法で初期化される。最も明らかな選択肢のひとつは、初期化を実行するために先行技術を信頼することである。例えば、イメージングシステムの起動時に獲得された背景雑音画像を頼りにすることができる。これだけで既にファイバー伝達関数のいくつかのパラメータの有用な初期推定値を提供するが、一方で他のパラメータは、役に立たない可能性がある事前の値に設定される。他の補完的な選択肢は、PCT出願番号PCTIB2009008012に開示されているように、製造の間に事前計算されたデータを用いることである。
他の選択肢は、上述の選択肢と併用することができるが、ひとたび推定したキャリブレーションを保存することを当てにする。イメージングシステムの起動の間に、実施の形態に係る方法は、保存されたキャリブレーションを、もしイメージングシステムが事前にキャリブレーションを用いたことで存在するならば、取り出す。
しかしながら、イメージングシステムは、典型的には、異なるふたつの用途間では全く同じ構成でない。例えば、もしイメージングシステムが持続的に用いるユニットと、例えば洗浄等の目的で取り外す必要のある消耗品とを含む場合、使用の間に再度差し込むことで生画像上のファイバーの状況が変化する。これは、キャリブレーションの保存と再読込とをささいでない工程にする。イメージングシステムを最初にキャリブレーションするとき、空気や背景雑音画像等の参照画像の獲得を活用してキャリブレーションを保存することは効果的である。これは例えば、イメージングシステムを一番最初に初期化するために背景雑音画像を取得することと一緒に実行されてもよい。この参照画像は、伝達関数が保存されたファイバーを特定するために用いられてもよい。ファイバーの位置のみならず画像もディスクに保存される。ひとたびキャリブレーションの推定が利用可能となると、推定された伝達関数を参照画像とともに格納することができる。イメージングシステムの次のキャリブレーションにおいて、参照画像は背景雑音画像とマッピングされ、前回格納されたファイバー伝達関数が初期化に用いられてもよい。
上述したように、これらのアプローチは種々の方法で組み合わせることができる。例えば、ファイバー伝達関数のいくつかの部分は保存されたキャリブレーションに由来し、他の部分は、限定はしないが、先行技術に開示されたアプローチのような他のアプローチに由来してもよい。保存するための参照画像として提供するために製造の間に獲得された画像を使用してもよい。
ブラインドキャリブレーションの安定化
前述の説明から明らかなように、新しいブラインドキャリブレーションを解くことは、大量の回帰および方程式の逆システムを解くことを意味する。このような問題は、誤差および不安定さのために簡単に解くことができないことはよく知られている。ここで、標準的な手法に勝る、本願発明の実施の形態で利用することに特に適した、計算を安定化する新たな手法を提供する。いくつかの提案する手法は時変のファイバー伝達関数の場合に限定されず、より単純な時不変のファイバー伝達関数の場合にも有用であることは注目すべきである。
標準的な回帰手法は、ノイズのガウシアンモデルに依存する。本実施の形態の場合、ファイバー伝達関数の計測値中のノイズは正規分布である理由はなく、獲得された画像中の主として強いエッジに対応する大きな値を持つロングテイル(長い尾を持つような;long tailed)となる傾向にある。これらの大きな値は回帰の中で外れ値(outlier)として振るまい、回帰結果を歪める。次に、古典的な回帰は非対称である。古典的な回帰は、説明変数(explanatory variable)は誤差がないことを仮定するが、これは本願のシナリオには当てはまらない。これらの欠点を回避するために、本発明は、限定はしないが、M推定(M-estimators)、最小二乗トリム推定(least trimmed squares)等のようなロバストな直交回帰手法とあわせて用いられる。さらに、本発明は正確なノイズの統計モデルを用いて適用的な回帰を実行することからも恩恵を受ける。これは例えば最尤推定を用いて実現できる。
典型的な設定では、回帰を実行する前にファイバー伝達関数の測定結果に何らかの前処理を適用することも有用となる。例えば、実施の形態に係る方法がブラインドキャリブレーションを実行するために十分なデータがあると推定したときは、飽和した(saturated)ファイバーに対応するデータを除去し、ダイナミックレンジを比較的均一にカバーするようにデータをフィルタリングすることは効果的である。このステップの目的は、回帰のために類似した値が多くなりすぎることを回避することである。実際これにより、あるケースでは、回帰やロバストナ統計を歪める。例えば、サンプルの半数以上が背景雑音を表す場合には、メジアン推定は対処することができない。反対の問題も存在し、もし背景雑音フレームがとても少ない場合には、回帰は不正確となる。この問題を軽減するために、仮想的な背景雑音フレームを追加することができる。より一般的には、対応するヒストグラムを均一化(equalize)するためにサンプルが重み付けされる。
回帰の問題および解くためのシステムを構成することに関し、他の実際的な問題も出現する。ひとたび回帰を計算すると、いくつかの回帰結果は他の回帰結果より高い信頼性を持つ。そのため、これらの信頼性が、例えば解くべき逆システム中の対応する方程式を重み付けすることによって説明できると興味深い。この目的のため、標準的な決定係数(r-squared coefficient)や、上記ノイズモデルによりよく適用した他の一致の良さの計量のような、一致の良さの計量を用いてもよい。
さらに、ファイバーバンドルのうちいくつかのファイバーの故障し、それらはほとんど何の光も伝送しないということも発生しうる。それらのファイバーとその近隣のファイバーとの間で計算された回帰は誤っている可能性が高い。この場合、対応する回帰を検出して排斥することが望まれる。これは例えば信頼性基準(例えば一致の良さ)に閾値を用意することで実現できる。もし信頼性がその閾値を下回ると、対応する回帰は逆システムにおいてゼロの重みとともに用いられる。もし関係が除去されすぎると、システムのランクが低下する。典型的な運用の仕方では、ランクは、ファイバーに結びついているアフィニティグラフ中の関連づけられた要素の数と関連する。要素間に関連性はないので、各要素の回は、他の要素とは独立である。もし数個の関連づけられた要素が存在したら、最終的なキャリブレーションを計算するための数個のオプションが利用可能となる。本発明のいくつかの実施の形態では、全ての関連づけられた要素は独立に解くことが可能である。他の実施の形態では、最も大きく関連づけられた要素のファイバー伝達関数のみ解を見つけて、その結果を残りのファイバーに伝搬することを選択する。さらに他の実施の形態では、独立な要素毎の解は、例えばいくつかの平滑化(smoothness)制限を課すことで融合される。
本発明のいくつかの実施の形態では、隣接するファイバー間の関係関数またはファイバー伝達関数のいずれかに関する先見情報を利用する。この情報は、回帰計算、またはシステム反転(system inversion)の正規化に用いられる。
例えば、システムの使用前に初期の背景雑音画像が獲得され、かつ背景雑音信号が時間がたっても不変であると仮定する場合、戻り信号中の背景雑音信号を相殺(補償)でき、したがって単純化されたファイバー伝達関数を検討することができる。他の例でも初期の背景雑音画像が獲得されるが、この例は背景雑音画像の時間的進化(例えば自己蛍光の減衰)のモデルを持っている場合の例である。この時間的進化の法則は回帰およびシステム反転に導入される。これらの実施の形態の効果は、後に現実的な例を分析するときに明らかになる。
時変のモードで用いるとき、本発明のいくつかの実施の形態は、推定されたキャリブレーションの時間的な平滑化ないし整合性を導入することの恩恵を受ける。これは例えば解くべきシステム中の正規化項として前回のキャリブレーション結果を取り入れることで実現できる。限定はされないが、他のオプションは、連続するキャリブレーションを、推定した被写体信号の最終的な輝度に関して一致するように、キャリブレーションを単に拡大縮小(scaling)することを含む。
他の可能性のある画像処理要素との相互作用
多くのイメージングシステムにおいて、ファイバー伝達関数に加えて、入力データにしたがって調整された、調整可能な大域的(global)システム伝達関数が存在する。典型的なシナリオでは、検出チェーン(detection chain)のゲインや励起レーザ光の変動の調整である。そのような調整は、しばしば検出器の飽和を回避して電子機器の最適なダイナミックレンジ内に信号を保つためになされる。小さな適応をすることで、本発明はこれらの場合を扱うことができる。γ(・)を(既知の)調整可能な大域的システム伝達関数とすると、時刻tにおいてファイバiで計測された戻り信号は以下のようになる。
Figure 2014517342
サンプルを
Figure 2014517342
に変換すると、
Figure 2014517342
について同様のキャリブレーション処理が適用できる。
このようなイメージングシステムの既知の大域的変化に加えて、使用中にイメージングシステム構成のドリフト(出力信号の望ましくない変動;drift)を調べて潜在的に修正するために、自動制御が実行されることも発生しうる。例えば、もしイメージングシステムが持続的に用いるユニットと消耗品とを含み、それらが互いに差し込まれる必要がある場合、全体構成は接続に非常に敏感となる。コネクタのどのようなずれ(shift)も、生ピクセルのファイバーへの関連づけに影響を与えてファイバー伝達関数を使えない状態にする構成変更に帰着する。現在の生画像を参照画像に再度マッピングすることで、生ピクセルのファイバーへの関連づけを解決できるが、前回のファイバー伝達関数は使えないままである。他のケースでは、構成ドリフトはシステムによって検出され、ファイバー伝達関数に影響を与え続けることなく潜在的に補償される。本発明は、これら永続的または一時的なシステム構成の変更のいずれにも適用できる。永続的な変化の場合、十分な量の新たな戻り信号が蓄積されたらすぐに新しいブラインドキャリブレーションを要求すれば効果的である。一時的な変化の場合、システムが事前の構成に戻ることが分かるまで戻り信号の蓄積を単に停止することが効果的である。
オフラインおよび時間差(lagged-time)モード
前述したキャリブレーションシステムの一部は、オンライン運用モードに特に適している。しかしながら、小さな変更により、既に獲得したシーケンス、またはいくらかの遅れを持って、または現在獲得中のシーケンスの後処理として、キャリブレーションアルゴリズムを適用することができる。
ファイバー伝達関数がほとんど時不変である場合、オフラインモードでは、履歴バッファ(history buffer)が不要である可能性があり、および推定をいつ起動するかを決定する必要がない可能性がある。全てのシーケンスを新規のキャリブレーションの計算に利用できるからである。
一つの長いシーケンスから推定されたキャリブレーションは、直前または直後に獲得された十分なデータがないために推定ができない短いシーケンスにも、適用可能である。
オフラインモードの他の実施の形態では、数個のシーケンスがよりよいキャリブレーションの推定を得るために併用され、全ての入力シーケンスにキャリブレーションが適用される。
さらに、オフラインまたは時間差モードにおいて、時間窓が依然として用いられてもよいが、現在のフレームによって完了される必要はない。例えば、現在のフレームを中心とする時間窓を選択することは効果的である。
アフィンファイバー伝達関数の詳細な実施例
以下、アフィンファイバー伝達関数の例の全体モデルを導出する。アフィンファイバー伝達関数は、オフセットおよびゲインによって完全に特徴付けることができる。したがって、ファイバー毎のこれら二つのパラメータの推定に焦点を当てる。明確化のため、蛍光画像、第二次高調波発生(Second Harmonic Generation;SHG)およびコヒーレントアンチストークスラマン散乱(Coherent Antistokes Raman Scattering;CARS)を含む、既存のファイバに基づく顕微鏡画像化技術に焦点を当てる。しかしながら、アフィンファイバー伝達関数はこれらの特定の種類の画像化には限定されない。
ファイバー伝達関数のアフィンモデルが与えられ、ファイバを組(アフィニティグラフの端部)毎に用いると、合成伝達関数ψ°ψを得る。隣接するファイバーの組の一時的な戻り信号に結びつけられているこれらのアフィン関数の係数は、他のファイバーに対してあるファイバーをキャリブレーションするための構成係数である。本実施の形態のような一様でないグリッドにおける曖昧な概念であるが、構成係数は、概念上はオフセットとゲインのマッピングにおける勾配(gradient)である。システムのキャリブレーションを計算することは、勾配からオフセットおよびゲインを回収することに概念的には近い。
蛍光画像モデル
ファイバーを通した蛍光画像の典型的な場合では、第一の部分はファイバ自身の中で生成された背景雑音信号(自己蛍光効果、ラマン散乱等)に由来し、その他の部分は観察している組織によって生成された蛍光発光に由来する。
古典的な蛍光発光(一格子蛍光(one photon fluorescence)としても知られる)において、双方の強度は光源の強度に比例し、および種々の拡張として(different extends)、個々のファイバの(励起波長および蛍光波長における)透過率(transmission)およびファイバーの結合係数に比例する。しかしながら、背景雑音はファイバーの特性のみに依存する一方で、組織信号は、その組織内部の蛍光分子の集中(concentration)に依存および比例する。
集計された信号は、以下の総和として合成される。
a.蛍光分子の集中に比例し、係数がファイバにのみ依存する変数値。
b.ファイバーにのみ依存する定数値。
より詳細には、ランベルト・ベールの法則(Beer-Lambert law)によると蛍光発光の強度はいくつかの吸収および放出係数にも比例し、これは蛍光分子に特有である。これに関連して、集中自身からそれらを分離することはできない。以下では、集中という用語は、実効的な集中(例えば吸収および放出係数による実際の集中からできたもの)として解釈すべきである。
上記の議論から、蛍光画像モデルは、アフィン画像化モデルの具体化(instantiation)が必要であることが分かる。
二光子励起(two photons excitation)のような他の種類の蛍光発光が存在する。この場合、信号はもはや光源の強度に比例せず、その二乗に比例する。したがって、ファイバー中の結合係数および励起波長における透過率の依存性も二乗に上がる。しかしながら、組織中の蛍光分子の集中への依存性は同じ、すなわち線形にとどまる。分子個々の寄与は非干渉的に加算されるからである。
したがって、この二光子励起の状況でも、蛍光画像モデルは依然として、古典的な蛍光発光で用いられる係数とは異なる係数を持つアフィン画像化モデルの具体化を残していることは明らかである。
他の顕微鏡イメージングモデル
この説明は、第二次高調波発生やコヒーレントアンチストークスラマン散乱のようなより洗練された画像化モダリティにさえも一般化可能である。今回、個々の分子の寄与は、例えば、振幅について、強度が分子の集中の二乗の関数としてコヒーレントに加算される。しかし、検出器によって集計された信号は以下の二つの寄与の総和である。
a.いくつかのファイバーに依存する乗法性の係数(multiplicative coefficient)を持つ集中の二乗に比例する組織信号。
b.ファイバーに依存する加法性の背景雑音信号。
この議論から、実際の集中を扱う代わりにその量の二乗を扱うという条件の下で、依然としてアフィン画像化モデルの具体化に直面している。
続くセクションにおいて、上述した種々の画像化モデルを区別することはせず、実際の集中自体またはその関数のいずれに理解することができる一般化集中(generalized concentration)に常に注意を向ける。これは第二次高調波発生やコヒーレントアンチストークスラマン散乱の二乗のケースを含む。いずれにしても、蛍光発光、第二次高調波発生およびコヒーレントアンチストークスラマン散乱は単に公知の画像化モデルとして示されており、他の種類の画像化にも本願発明の利益を享受できることは明らかである。
主要な仮定の数学的評価
今後は、ファイバーのゲインをα、ファイバのオフセットをβと単に呼ぶ。システムをキャリブレーションするためには、被写体信号を回復できるようにするためにこれらの値を推定することが要求される。
前のセクションでは、本発明は隣接するファイバーはだいたい同じものを観察するという仮定に依存することについて言及した。顕微鏡イメージングに特別な場合において、この仮定は、主に一般化集中の連続的な特性から自然に引き出される。
a.pを、任意のファイバー(例えば第1のファイバー)の空間位置に対するファイバーiの空間位置とする。
b.v(t)を、時刻tにおいてファイバーiに計測された戻り信号とする。vをボールド体でなくしたのは、スカラー信号に集中することを強調するためである。
c.C(p)を、画像化された被写体中の位置pにおける一般化集中とする。
d.ψ(t)を、画像化された被写体に対する時刻tにおけるファイバーバンドルの先端の空間位置とする。
e.ファイバーiによって画像化された体積中の一般化集中u(t)は、u(t)=C(ψ(t)+p)によって与えられる。
これらの表記法が与えられると、アフィンモデルは以下のように定式化できる。
Figure 2014517342
Eを空間的に隣接するグラフの端部一式とする。例として、ファイバーのドローネー三角分割法に関連する無向グラフ(undirected graph)を典型的に用いる。(i,j)∈Eとすると、以下の式を得る。
Figure 2014517342
一般化集中の変動はほとんどの場合滑らかであり、激しい変動はまれ(これは勾配の分布が疎であることを意味する)であるという自然な仮定を用いると、最後の方程式は以下のように書き換えられる。
Figure 2014517342
ここでXは分布が疎であるノイズ項である。そのような分布の一例はラプラス分布である。式(6)から、二つの隣接するファイバーによって集計された戻り信号は実際にアフィン方程式(affine equation)に近似的に関連し、したがってこれらは高い関連性があると見てよい。
アフィンシステムモデル
このアフィン化において、キャリブレーションの推定のためにファイバー関係関数を用いる本発明の背後にあるアイデアは、これらの関係を{α}と{β}との推定に用いることに変換される。二つの隣接するファイバーから観測された戻り信号v(t)とv(t)とを考えると、二つの戻り信号間のアフィン関係の係数aij、bは、以下のアフィン回帰で推定することができる。
Figure 2014517342
式(6)の係数を用いてこれらの係数を特定すると、
Figure 2014517342
または別の表現として
Figure 2014517342
を得る。
全ての隣接するファイバの組を考慮することで、αが未知であるものと、βが未知であるものと二つの線形システムを得る。ゆえに、観測されたキャリブレーションされていない戻り信号から計算されたアフィン関係により、キャリブレーションを推定することができる。
続く部において、隣接するファイバー間のアフィン関係のみ考慮し、近傍を定義するために典型的にはドローネー三角分割法を頼る。もちろん、もっと離れたファイバ間(例えばおのおの2または3の端部分離れている)のアフィン関係を探すこともできる。
回帰:アフィン関係の推定
式(6)のモデルを用いることで、時刻{t1≦k≦mにおいて二つの隣接するファイバiおよびjから収集された二つの戻り信号のセットx=v(t)およびy=v(t)から、回帰係数aおよびbを推定したい。
Figure 2014517342
通常の最小二乗
最も古典的な手法は最小二乗回帰を用いることである。
Figure 2014517342
しかしながら、この手法にはいくつかの難点がある。第1にXは正規分布である理由はなく、よりロングテイルとなり獲得した画像中の強いエッジに対応する大きな値となる可能性が高い。先述したように、これらの大きな値は最小二乗推定を歪める。最小二乗回帰は非対称であることも留意する。説明変数xは誤差がないことを仮定している。回帰x=a’y+b’の結果は、回帰y=a’x+b’の逆とはならないという結果となる。ここで我々が扱うような説明変数中のノイズは、0に向かう勾配推定のバイアスとなるが、これは減衰バイアス(attenuation bias)として知られている。
ロバストな直交回帰
変数に誤差がある回帰、すなわち両方の変数に測定誤差がある回帰を行うので、もし両方の変数について誤差の分散(variance)が同じであるという仮定が妥当だとするならば、aとbとの推定のために直交回帰を用いることは効果的である。直交回帰においては、目的関数は回帰直線との距離の二乗の和である。
Figure 2014517342
このアプローチは、減衰バイアスを固定するのに役立つ。前にも説明したように、はずれ値を説明するために、実施の形態に係る方法はロバストな回帰手法を有利に当てにする。先行技術において提案されているロバストな手法、最小メジアン法(least median of squares)、最小二乗トリム推定、最小絶対値法(least absolute deviation)、M推定等のいずれも、本発明の実施の形態で用いられてもよい。
一致の良さ
述べたように、ファイバーバンドル中の故障の可能性があるファイバーが一つの原因で、一致の悪い回帰を検出して取り除くのが効果的である。決定係数のような標準的な一致の良さの計量に加えて、本発明の実施の形態は、以下に示すロバストなバージョンの決定係数を用いることによる利益を享受する。
Figure 2014517342
ここでwはロバスト推定からの最終的な重みであり、
Figure 2014517342
Figure 2014517342
である。決定係数と同様に、rrobust は[−1,1]に属する。
他に取り得る回帰
上述した回帰手法では、ノイズの構造は考慮されていない。しかしながら、ノイズの構造を考慮するのは効果がある。例えば、ノイズXがラプラス分布に従うことを仮定した場合、この回帰の最尤推定量は、差の絶対値の総和を最小化するものとなる。
Figure 2014517342
さらに、上記の回帰手法は、ノイズが等方分散的、すなわちノイズの分散が全てのサンプルについて同じであることを暗に仮定していたが、走査が不安定であることもあって、イメージングシステムは乗法性雑音として振る舞う。この結果、高い値を持つサンプルは、より高い分散を持つノイズの影響を受ける。この異分散(heteroscedastic)のノイズを説明するために、ノイズの分散がサンプルの値に比例するという仮定を立てることによって、本発明の実施の形態は回帰中の相対誤差を効果的に最適化する。
Figure 2014517342
線形システムの解
ゲイン推定
ひとたび回帰が計算されると、式(7)の線形システムを解く必要がある。両方の線形システムは同じ左辺を共有する。まず、次のゲイン線形システムを考える。
Figure 2014517342
nをファイバーの数とし、m=|E|を隣接するファイバーを結びつけるアフィニティグラフ、すなわちドローネー三角分割法の端部の数とする。ファイバーパターンが6角形である典型的な設定では、m?3である。E=(u,v1≦k≦mをアフィニティグラフの端部とする。Aを以下のm×nの行列とする。
Figure 2014517342
Aは疎であり、1行に非ゼロ係数は二つしかない。式(9)の線形システムは、Aα=0と書き換えることができる。0は自明な解であるが、興味を引く解ではない。αが自明ではない解の場合、λαも解となる。評価するのはファイバー間の相対ゲインであり、そのため任意の乗法性の係数をファイバーのゲインに適用しても相対ゲインは変化しないので、これは予期されたことである。
一般性を失うことなく、|α|=1の制限を追加することができる。システムは優決定なので最小二乗解
Figure 2014517342
はAAの最小の固有値に対応する固有ベクトルとなる。固有ベクトルは疎のSVDアルゴリズムを用いて計算することができる。
一般的な疎のSVDアルゴリズムをシステムを解くことに用いることができるが、本発明の実施の形態は、問題の構造も利用する。推定するゲインは正であり、これらに乗る誤差は乗法性としてだいたいはよりよいモデル化をしているので、問題は対数ドメインに効果的に置き換えることができる。
Figure 2014517342
または別の表現として、
Figure 2014517342
となる。ここで
Figure 2014517342
であり、
Figure 2014517342
である。
Mを以下のm×n行列とする。
Figure 2014517342
式(10)のシステムは
Figure 2014517342
と書き換えることができる。行列Mのランクはn−1である。解を一意にしシステムを正規化するために、ゲインは1に近い(それらの対数は0に近い)という先見情報を追加することができる。
Figure 2014517342
以前に説明したように、本発明の実施の形態の別の効果は、関係式(10)中にある信頼(confidence)で説明できる。回帰推定によって生成された一致の良さの計量に依存して、より強い信頼がある関係により重みを追加することができる。gijを、ファイバーiおよびjの回帰のために例えば式(8)で定義されたような一致の良さの計量であるとする。所与の一致のようさの閾値未満はゼロで、それ以上は増加する連続関数wを用いるのは効果的である。
kk=w(guk,vk)で定義されるWを対角重み行列とする。重み付きシステムは、以下のようになる。
Figure 2014517342
式(12)のシステムは、例えば疎直接(direct sparse)QR分解(Q factorization algorithms)や任意の反復法で解くことができる。
オフセット推定
オフセット推定のための線形システムは以下のようになる。
Figure 2014517342
このシステムを解く方法はいくつかある。限定はしないがこの方法は以下を含む。
a.因数
Figure 2014517342
はaijで近似可能である。
b.前セクションに示した手法にしたがって得られたαの推定値を用いて、因数
Figure 2014517342
を計算することができる。
c.前セクションに示した手法にしたがって得られたαの推定値を用いて、
Figure 2014517342
を用いて
Figure 2014517342
を推定し、線形システム
Figure 2014517342
を解いて
Figure 2014517342
を推定する。
もしオフセットの初期の推定、すなわちイメージングシステムのキャリブレーションの間に獲得された背景雑音画像が利用可能であれば、本発明の実施の形態は、解を正規化するためのそれを用いる。例えば、背景雑音が乗法則(multiplicative law)にしたがって減衰することが既知であれば、時刻tにおけるファイバの背景雑音βは、時刻tにおける背景雑音β(0)から、qを未知の因子として、qβ(0)で近似できる。β=qβ (0)を式(13)に代入すると以下の式を得る。
Figure 2014517342
qのロバストな推定は、例えば以下の式から得られる。
Figure 2014517342
この推定から、βの近似
Figure 2014517342
を得て、その値を式(13)のシステムの正規化に用いる。前のセクションに記載したようにシステムを重み付けると、オフセット推定は以下のように書き換えられる。
Figure 2014517342
ここでAは式(11)で定義されるm×nの行列である。
式(14)は前述したいずれかの手法で効果的に解ける。
いつ推定を開始するかの決定
アフィンファイバー伝達関数に関し、いつ推定ができるかを決定する必要がある。このシナリオにおいて、テストする効果のある二つの基準を開示する。第1は、最新のp個のサンプルにわたって計算された隣接するファイバ間の相関係数の変位値が所与の閾値を上回ることを要求する。これにより、ほとんどの隣接するファイバーの戻り信号間によいアフィン関連があるであろうことを保証する。
第2に、所与の少量のファイバーが少なくとも時間窓内の多数のサンプルを持っており、その戻り信号は単なるファイバーの背景雑音(すなわち自己蛍光)ではなく、ファイバーの端部で集計された被写体信号に占められていることを要求する。サンプルがファイバーの背景雑音のみに由来するか否かを決定するために、本発明の実施の形態は、例えばその値が、そのファイバーの最後に推定したオフセット値とファイバーの推定ノイズの因子(すなわち標準偏差、最大絶対偏差(maximum absolute deviation)等)を加えたものを上回るかを調べる。そのような基準はファイバーによって集計された値の範囲が信頼できる回帰をするのに十分広いことを保証する。
さらに、連続するフレーム間の相関係数を計算する。
Figure 2014517342
もし係数が所与の閾値を超えれば、バンドルとオブジェクトとの間の動き(bundle-to-object motion)がないと考える。もし、多くの連続する画像にバンドルとオブジェクトとの間の動きがなければ、そのうち1番目だけを履歴に残す。ほとんどの同一の連続するフレームは、必ずしも回帰をより正確なものとするわけではないので、このフィルタリングは効果がある。むしろ、これらはファイバーの両端の強いエッジの間にバイアスをかける。
迅速な背景雑音推定
蛍光イメージングの文脈において、ファイバーの自己蛍光の背景雑音は、典型的には時間とともに減少する。もしファイバーバンドルが事前照射(pre-illuminate)されていない場合は最初に早く減少し、次によりゆっくりとなる。前のセクションで示した方法では、ゲインおよびオフセットは、十分な量の観測された有益な信号が収集されたときのみ推定される。このアプローチには潜在的な二つの欠点がある。第1は、ファイバーバンドルによって末端の被写体の信号がほとんど集計されていない最も好適な時間(このシナリオは、ファイバーバンドルが画像化された被写体に接触する必要がある場合に典型的に発生する。)に背景雑音を推定する機会を逸する。第2に、ファイバーバンドルが高い蛍光性の被写体のみを見て低い被写体信号は見ない場合、回帰切片係数(regression intercept coefficient)bijは不正確となり、残りのオフセットも同様である。この場合、以上がいずれの背景雑音推定も試みないのが有利となる理由である。
本発明の好適な実施の形態では、別の迅速な背景雑音推定がなされる。この迅速な背景雑音推定は、従前のセクションにおいてなされた、時刻tにおけるオフセットβ(t)はqβ(t)でよく近似できるという仮定に依存する。新たな背景雑音推定を得るために、推定する必要があるパラメータはqひとつのみであることを意味する。
背景雑音を迅速に更新するアルゴリズムを開示する。これは以下のように実施する。各フレームについて、背景雑音を計測している可能性が非常に高いサンプルを特定する。そのような基準を満たすファイバーにマークをつける。固定量の少量のファイバーがマークされるまでフレームが処理される。この時点で、現在のオフセットより小さい全ての値を履歴バッファ中から探し、それらからqを推定する。推定の一例は以下で与えられる。
Figure 2014517342
動作モード
先のセクションで説明されたキャリブレーションの推定は、本質的にはオンライン処理であり、フレームを連続的に蓄積し、十分な情報が利用可能となったとき新たなキャリブレーションを推定する。しかしながら、時間によっては、若干異なる動作が望まれる。図2は、獲得の履歴に依存してこれらの動作をカスタマイズするいくつかの潜在的な方法を示す。開始においては、あまり正確でないとしても、早い推定が望まれる。ひとたび初期推定が得られると、より遅いがより正確な推定が実行できる。その結果、オンラインキャリブレーションは状態図としてモデル化される。各状態は推定、起動の決定、およびキャリブレーション係数推定のための異なるパラメータを持つ。
本発明の好適な実施の形態では、図2に示す5つの状態が定義される。
a.初期状態において、迅速な推定が望まれ、それに応じてパラメータがセットされる。ゲインだけを推定するのが効果的である。なぜなら、起動時のキャリブレーション中に獲得される背景雑音画像から計算されるオフセットはそれでも正確だからである。もちろん、素早い背景雑音推定も可能である。ひとたびゲイン推定が首尾よく実行されると、システムは履歴バッファを空にすることなく第2状態に遷移する。その根拠は、履歴バッファを維持して以前の推定を改善するために、より多くのフレームを蓄積するためである。もし推定が試みられたが失敗した場合、履歴バッファを空にすることなく初期状態にとどまるが、他の推定を試みる前に、より多くのフレームが蓄積するまで待機する。
b.第2の状態において、正確な推定を得るためにパラメータが調整される。この場合もやはり、ゲインのみを推定するのが効果的である。もちろん、迅速な背景雑音推定も可能である。ひとたびゲイン推定が首尾よく実行されると、システムは第3状態に遷移し、履歴バッファが空にされる。もし推定が試みられたが失敗した場合、システムは第2状態にとどまり履歴バッファは空にされる。
c.第3状態は巡航(cruising)状態である。第2状態と比較すると、典型的には、履歴バッファのサイズのみが増加される。迅速な背景雑音推定だけでなく、ゲインおよび背景雑音推定が可能である。推定が成功しても失敗しても、システムはこの状態にとどまるが、履歴バッファは各推定の後に空にされる(迅速な背景雑音推定の可能性がある場合は除く)。
d.第4状態は、イメージングシステムの構成の永続的なドリフトが検出されたときにシステムが遷移する特別な状態である。この場合、計算されたゲインは再度推定される必要がある。新たなゲイン推定が迅速に成されることが望まれるので、これは第1状態にとても似ている。推定が試みられた後、それが成功しても失敗しても、システムは第4状態に遷移する前の状態に遷移して戻る。図3は、このような永続的なドリフトに遭遇したときに実行されるステップのフローチャートを示す。
e.第5状態も、イメージングシステムの構成の一時的なドリフトが検出されたときにシステムが遷移する特別な状態である。この場合、システムはドリフトが是正されるまで第5状態にとどまり、その後第5状態に遷移する前の状態に遷移して戻る。図3は、このような一時的なドリフトに遭遇したときに実行されるステップのフローチャートを示す。
本発明の上記説明は、当業者が本発明の最良のモードと考えられるものを作り活用することを可能とするが、当業者は、ここに示した実施の形態、方法、および例の変形、組合せ、および等価なものが存在することは正しく評価および理解できるであろう。したがって、本発明は上記で説明した実施の形態、方法、および例には限定されず、開示された本発明の精神の範囲にある全ての実施の形態および方法によって限定されるべきである。
本発明は、概して、不均一な伝達関数を持ち空間的位置が一様でない画像検出手段によって獲得された画像を処理するための方法に関し、特に、複数の光学ファイバからなる画像誘導(image guide)手段によって獲得された画像を処理するための方法に関する。
光学ファイババンドル(bundle)を経由するレーザ走査イメージングを実行する間、その走査の間に検出器によって直接的に観測された信号のサンプルの集合が、生の出力となる。
米国特許第5878159号では、コヒーレントなファイバーバンドル、すなわちバンドルの長さの至る所でファイバーの空間配置が維持されているファイバーバンドルを用いて、光ファイバーバンドル使ったイメージングを実施する。他のシナリオでは、コヒーレントでないファイバーバンドルを使用することが有利となる。この場合、生ピクセルをファイバに関連づけること(raw-pixel-to fiber association)は、端部における他のファイバーに関する空間位置が既知である単一ピクセルの検出器として各ファイバーが見えるようにするために、ファイバーの出欠(inpout fiber)の対応も考慮する必要がある。ファイバーの出欠を補うことは、LazaroらのSenosrs, 2009やDemuynck と MenedezのWSEAS Transactions on Signal Processin, 2008のような異なる手段によって実現できる。米国特許第7903848号に記載されているように、この生の出力からまず生画像(raw image)が再構成される。この生画像においては、各ピクセルは所与の各ファイバに関連づけることができる。所与のファイバに関連づけられているこれらのピクセルはそれぞれ、組織(tissue)の同じ空間体積から戻された異なる信号の計測値を提供する。その組織は、ファイバの末端と対面している。この戻り信号(returned signal)は、蛍光発光、後方散乱、または入射光と組織との間の相互作用に起因する他の放射によって生じうる。
これらの個々の計測値は、走査の間にファイバに入れられる励起光の正確な量が、ファイバに関するレーザスポットの空間的位置に実際には依存するため、異なるものとなる。さらに、もしレーザスポットがいくつかのファイバに重なっていると、対応する計測値は、これらのファイバによって集められた戻り信号が混ぜ合わされる。生のデータの値から、ファイバに対面している空間体積に関連している可能性がある戻り信号の推定値が推定される。この推定は、典型的には、米国特許5878159号にある何らかのアドホックな手法、または米国特許7903848号にある厳密な統計モデルによってなされる。この結果得られる推定値は、所与のファイバに関連づけることができる計測値となる。
これがなされると、各ファイバは概念的には1つの検出器、またはCCDのピクセルとして作動する。しかしながら、この仮想的なCCDは、少なくとも以下の4つの理由により、一般的なCCDと異なる。
a.ファイババンドルは規則的な間隔のファイバとして作られていない。この仮想的なCCDは正方格子でなない。
b.導入される、伝送される、および集められる光の量は各ファイバに固有のものとなる。これは一つには、ファイバの直径が全く同じではなく、また隣接した光学系(proximal system optics)は収差を持つためである。この結果、この仮想的なCCDのピクセルは通常、異なる感度を少なくとも持つ。
c.いくつかの光学散乱(例えば、レイリー、フレネル、ラマン等)が接合部分やファイバ内で生じ、そのためにいくつかの線形または非線型な信号が発生する。これらの理由により、組織によって直接生じた被写体の信号がない場合であっても、ファイバから集められた戻り信号はゼロ(null)ではなくなる。また、この背景雑音(background)の値は、がファイバー毎に異なる。
d.加えて、上述した3つの現象は時間とともに変化する。例えば、蛍光画像との関連で、もしファイバーが自己蛍光(auto-fluorescence)を示す場合、光活性化能の消失(photo-bleaching)のためにその明度は一般に減衰する。
要約すると、ファイバを生のピクセル値と関連づけると、各ファイバは、固有の伝達関数(すなわち、固有のオフセットと固有のゲインまたは感度)を持つ単一ピクセルの検出器のように見える。そのためイメージングシステムは、伝達関数が時間的に変化しかつ不均一な(すなわち、ピクセル依存)である点、ピクセルが空間ドメインにおいて不規則に置かれるという点でむら(irregular)がある。以後、明確化のため、これらの概念的な検出器をファイバと呼ぶが、以下の議論では実際の物理的なファイバに限定する必要がないことは明らかである。
米国特許7903848号および米国特許5878159号は、不均一なファイバの伝達関数を持つ検出器からのデータを処理する異なる手段を提案する。米国特許5878159号はファイバ伝達関数が単純な線形関数(戻されたファイバ信号はファイバに依存するゲイン定数で被写体の信号を乗算することでモデル化されている)である発明のみが開示されている。したがって、被写体の信号がゼロのときに背景雑音信号がゼロとならない場合は対処されていない。米国特許7903848号は、アフィンファイバー伝達関数を補償する画像処理手法が開示されている。これは二つの画像を獲得することで達成できる。すなわち、例えば空気や水等の均質な背景雑音を持つ媒体の画像一枚と、例えば蛍光顕微鏡の蛍光溶液等の強い被写体信号を持つ一様な媒体の画像一枚とである。アフィンファイバ伝達関数(すなわち、オフセットおよびゲイン)が二つの画像から推定される。明確化のため、これらの参照画像を一様な媒体から獲得したものとするが、他の文脈では、これらは単に一様な被写体の信号(例えば平らな領域の画像)に相当してもよい。
ファイバに基づくイメージングシステムは、例えば共焦点内視鏡(endomicroscopy)、すなわち顕微鏡レベルでの内視鏡を実施するために一般には用いられる。このような臨床での状況では、米国特許7903848号で要求されるような二つの画像を、これらのイメージングシステム、すなわち共焦点内視鏡処置を用いる前に獲得するのは難しい。実際、ファイババンドルの先端を均一な媒体に差し込むのは、患者に接触することにより生じるファイバの清浄度または無菌化を侵害するとともに、医師の処理に負担をかけることになろう。他のユースケースでは、均質な媒体を探すことは些細なことでないことも明らかであろう。これらの問題に対処し、さらにアフィンファイバー伝達関数を補償可能とするために、PCT出願番号PCTIB2009008012は、処置の前に、背景雑音画像(典型的には空気)のみを獲得する発明が開示されている。この背景雑音画像は、処置に先立って(すなわち製造時に)獲得されているデータ(例えば背景雑音および強い被写体信号の画像)に自動的にマッピングされ、イメージングシステム(例えば制御コンピュータ)とともに格納される。現場での背景雑音画像とマッピングされた事前データとから、PCT出願番号PCTIB2009008012では、アフィンファイバー伝達関数のゲインとオフセットとを推定する。イメージングシステムは、典型的には、持続的に用いる(perduring)ユニット(例えばレーザ走査)と、消耗品(例えばファイバーバンドル)を備える。PCT出願番号PCTIB2009008012のやり方では、典型的には、製造の間では現場での画像処理に必要なデータを獲得するために消耗品のみが使用可能であるが、持続的に用いるユニットはエンドユーザ側に残されている。製造の間に獲得されたデータは、イメージングシステムの特性、例えば経年劣化や環境特性が長期にわたって変化したとしても、ずっと不変のままであるのは明らかである。それ故、画像獲得時における最終段階のイメージングシステムで獲得されるであろう近似値でデータをバイアスできるだけである。結果的に、ファイバー伝達関数の近似値でバイアスをかけることになり、次善的な画質が得られることになる。この解決法は、消耗品をそれと対応するデータとともにエンドユーザに送付することも要求する。このデータは画像処理方法によってアクセスされる必要がある。これはその消耗品を最初に用いる前に面倒な設定が概して要求されることになる。
既に記載したこれらの先行するアプローチの欠点に加えて、これらは全て共通の短所を共有する。参照画像(背景雑音および強い被写体信号)は典型的には、最終的に興味のある被写体(この性質はしばしば未知である)と全く同じ物理的な性質(例えば開口数)を持つ媒体で獲得されるものではない。このため、推定されたファイバー伝達関数は、どのような場合であっても、その被写体に見られるファイバー伝達関数の近似値でバイアスされるだけである。言い換えると、これらのファイバー伝達関数は、概して持続的に用いるユニットおよび消耗品のみならず、画像化された媒体を含む画像化セットアップ一式にも依存する。
その上さらに、これらの先行するアプローチはいずれも、時間的に変化するファイバー伝達関数を対処するものではない。しかしながら、前述したように、そのような事態が典型的には自己蛍光の背景雑音信号で見られる。ファイバーの自己蛍光に起因するオフセット値は時間とともに減衰し、かつファイバーによってその量は異なる。このため、使用前になされたいずれのオフセット計測も関連性が乏しくなる。処置の間に実時間で計測される背景雑音レベルの平均値を反映しないだけでなく、ファイバ毎の背景雑音の変化による相違が画質に影響し、最終的には画像上にベール(すなわち静的なパターン)のように現れる。イメージングシステムを使用する直前にファイバーを適切に事前照明することで、自己蛍光を安定化でき、潜在的な解決法となるかもしれないと考えられる。しかしながら、これはエンドユーザに強い制約を強いることになるし、他の時間的に変化する物理現象には一般化できない。
先行技術は、他の分野における一様でない画像検出器の問題と、その問題を対処する例えばWeiss ICCV 2001やKuhnらのAstronomical Society of the Pacific 1991示されるような異なる手法を示している。したがって、そのような検出器によって提供されるデータの処理を可能とするシステムや方法の必要性が存在する。
本発明の目的は、これらの一様でない、時間的に変化するファイバー伝達関数を補償して、均一な媒体を観察したときのような均一な画像を得るための新しい方法を提案することである。補償のためのファイバー伝達関数の推定を、イメージングシステムのキャリブレーションと呼ぶ。イメージングシステムを使用中に獲得された被写体画像から直接的に計算される連続的かつ実時間のキャリブレーションの最適化を提供する方法を開示する。したがって、本発明は事前のキャリブレーションデータを獲得するためにユーザが面倒な処理をすることや、製造時にデータをユーザに伝達するという手間のかかるであろうステップを要求する必要がない。
本発明の上述した目的、他の目的、作用効果、利点は、以下の説明および付帯する図面から明らかになろう。
以下、好適な実施の形態として本発明をより詳細に説明する。
図1は、本発明の実施の形態に係るシステムの上位レベルにおける主要な構成要素を示す状態図の例である。
図2は、本発明の処理の可能なモード間の遷移を示す状態図の例である。
図3は、図2に示すイメージングシステムのサブコンポーネントにおけるドリフト(drift)処理のフローチャートの例を示す図である。
概して、本発明の実施の形態は、単純なゲイン係数よりも複雑な、ファイバー伝達関数が時変で検出器の空間配置が一様でないファイバー伝達関数に対処する方法を提供する。
ブラインドキャリブレーションの概要
本発明の実施の形態は、イメージングシステムが受け取った入力被写体信号に基づいて、そのイメージングシステムの最適なキャリブレーションを見つけることが可能である。このようなキャリブレーションは、事前の特定のキャリブレーションデータに必ずしも依存しないという意味で、「ブラインド(blind)」と呼んでもよい。
本発明の背後にある根本を成す所見は、自然の被写体に注目するとき、近傍のファイバーは長い間ほとんど同じ被写体信号を見るということである。この性質は、画像の連続的な特性から主に生じる。これは自然画像に関して十分に研究されており、ほとんど全ての自然な被写体に当てはまる。ファイバー伝達関数は典型的には時不変かあるいは被写体信号の変動と比較してゆっくりな変動であるとすると、隣接するファイバーから観察された戻り信号は時間的な相関が強くなる。ファイバー伝達関数のモデルが得られているとすると、隣接するファイバー間の関係関数(relationship functions)のモデルを推定できる。新しいフレームはそれぞれ、隣接するファイバーの各セットの各関係関数のための標本計測値を提供する。関心のある被写体について十分な量のこれらの計測値を蓄積することにより、本発明はこれらの関係関数のよい推定を計算する。後ほどより明確にするように、この関係関数の推定ステップは、回帰(regression)ステップとも呼ばれる。関係関数の完全体系(complete system)の逆関数を求めることで、本発明はファイバー伝達関数の適用的な推定値を得る。代替手法として、より多くの計算が要求されるオプションが用いられてもよい。例えば、回帰反転(regression-inversion)と処理との2ステップを行う代わりに、ある場合は、計測値と接続されたファイバーの伝達関数との間の相違に基づいた一つのコスト関数を構築するのが効果的な場合もある。このコスト関数は、ファイバー伝達関数に関して最適化されてもよい。
本発明の逆転(inversion)の原理は、空間的に近接する場合に限定されず、統計的に高い関連性が見られる被写体信号であることが既知であるファイバ同士を結びつけるアフィニティグラフ(affinity graph;類似性グラフ)が定義できさえすれば有効である。本発明のいくつかの実施の形態では、アフィニティ(affinity;類似性)は空間的な近さに関連してもよい。このグラフは、典型的には、空間的な近さを定義する直感的な手段であるファイバー位置のドローネー三角分割法(Delaunay triangulation)から構成される。さらに、被写体および戻り信号はスカラ値に限定されず、米国特許第7869679号に開示されているようなイメージングシステムのベクトル値であってもよい。
ブラインドキャリブレーションの一般的な数学的導出
を任意のファイバ(例えば第1のファイバ)の空間位置に対する、ファイバーiの空間位置とする。
(t)を時刻tにファイバで計測された戻り信号とする。v(t)はスカラ値またはベクトル値である。
(t)を時刻tにファイバーiに計測された被写体信号とする。u(t)はスカラ値またはベクトル値である。
ψ(・)をファイバーiの伝達関数とする。単純化のため、ファイバー伝達関数は被写体信号と比較して時不変または時間の変化がとてもゆっくりであると仮定するので、時間の指標(index)は付さない。
Eをファイバーのアフィニティグラフの端部(edge)とする。
上記表記方を前提とすると、画像化ノイズも考え以下を得る。
Figure 2014517342
ここで、任意の組(i,j)∈E(Eはアフィニティグラフの端部を形成するファイバ)であり、組となるふたつのファイバで観測される被写体信号は高い相関があり、これらは端部の組が疎(sparse set of edges)のときのみ大きくなるノイズ項のみの相違であると仮定すると、以下の式を得る。
Figure 2014517342
上記関係は、関連するふたつのファイバで観測された被写体信号がノイズ項のみの相違である場合に限定されない。関連するファイバーが、伝達関数が既知である観測信号についてノイズの多い変換がなされたものを観測する場合にも適用できることは明らかである。
本発明の背後にあるアイデアは、ファイバー伝達関数を推定するためにこれらの関係を用いることである。被写体信号u(t)の十分なバリエーション(variation)が与えられたとする(したがって、仮定からu(t)も十分なバリエーションが与えられたとする)と、v(t)およびv(t)も多数のバリエーションが存在する。この戻り信号から、本発明はアフィニティグラフ中の関連するファイバーの組それぞれについて、合成伝達関数ψ°ψ −1 を推定する。この回帰ステップの結果、逆を求めること(invert)ができる、または解くことができる(方程式の解を見つけることができる)優決定系(overdetermined system;過剰決定系)の方程式を導く。
時変適用キャリブレーション概要
各ブラインドキャリブレーションはファイバー伝達関数が時不変であることに依存しているとしても、本発明は、その仮定が成り立つ時間窓(temporal window)を使うことで、時変のファイバー伝達関数を推定するために用いることもできる。開示された好適な実施の形態では、観測した戻り信号をバッファに蓄積する。バッファの最大容量は上記仮定にしたがって選択される。バッファが十分な情報を格納したらすぐに、ブラインドキャリブレーション手続が起動する。
図1は、本発明が時間窓を用いて本発明がこのような時変キャリブレーションをどのようには使うかの概観を例示する。
近接するファイバの戻り信号から関係関数を推定するには、正確な推定を得るために十分に広い値の範囲を持つ所定の量のサンプルが要求される。例えば、ファイババンドルの末端が空気中にあると、ノイズおよび背景雑音信号のみが集計され、回帰は不可能である。同様に、もしファイバーが不変の動かない被写体を観測すると、一般に回帰はできない。ファイバーに集計される被写体信号は時間とともに変化する必要がある。典型的な画像化の文脈では、画像化された被写体に対するファイバの動きが、ファイバーに観測される信号の範囲を広くする。他の実施の形態では、被写体信号のバリエーションは、被写体が光活性化能の消失にさらされている場合には、被写体自身からも生じる。他の実施の形態では、活発な信号の変動を含む。活発な信号の変動は、照明調整やバンドルと被写体との動き(bundle-to-object motion)をかけるなどの意図的な動作から引き起こされる。
時間窓を大きくすると、回帰がより正確になり、したがってキャリブレーションも正確となる。しかしながら、いくつかのケースでは迅速に推定を得ることが有利となる。例えば、最初のキャリブレーション(最初のブラインドキャリブレーションが起動する前のキャリブレーション)が大ざっぱな先見知識に基づく場合、素早く最初の推定を得て後にそれを改善することは、ユーザによってより興味のあることとなる。この基準を時間窓に適用することで、その結果を得るために本発明は用いられもよい。
初期化
キャリブレーションは多くの異なる方法で初期化される。最も明らかな選択肢のひとつは、初期化を実行するために先行技術を信頼することである。例えば、イメージングシステムの起動時に獲得された背景雑音画像を頼りにすることができる。これだけで既にファイバー伝達関数のいくつかのパラメータの有用な初期推定値を提供するが、一方で他のパラメータは、役に立たない可能性がある事前の値に設定される。他の補完的な選択肢は、PCT出願番号PCTIB2009008012に開示されているように、製造の間に事前計算されたデータを用いることである。
他の選択肢は、上述の選択肢と併用することができるが、ひとたび推定したキャリブレーションを保存することを当てにする。イメージングシステムの起動の間に、実施の形態に係る方法は、保存されたキャリブレーションを、もしイメージングシステムが事前にキャリブレーションを用いたことで存在するならば、取り出す。
しかしながら、イメージングシステムは、典型的には、異なるふたつの用途間では全く同じ構成でない。例えば、もしイメージングシステムが持続的に用いるユニットと、例えば洗浄等の目的で取り外す必要のある消耗品とを含む場合、使用の間に再度差し込むことで生画像上のファイバーの状況が変化する。これは、キャリブレーションの保存と再読込とをささいでない工程にする。イメージングシステムを最初にキャリブレーションするとき、空気や背景雑音画像等の参照画像の獲得を活用してキャリブレーションを保存することは効果的である。これは例えば、イメージングシステムを一番最初に初期化するために背景雑音画像を取得することと一緒に実行されてもよい。この参照画像は、伝達関数が保存されたファイバーを特定するために用いられてもよい。ファイバーの位置のみならず画像もディスクに保存される。ひとたびキャリブレーションの推定が利用可能となると、推定された伝達関数を参照画像とともに格納することができる。イメージングシステムの次のキャリブレーションにおいて、参照画像は背景雑音画像とマッピングされ、前回格納されたファイバー伝達関数が初期化に用いられてもよい。
上述したように、これらのアプローチは種々の方法で組み合わせることができる。例えば、ファイバー伝達関数のいくつかの部分は保存されたキャリブレーションに由来し、他の部分は、限定はしないが、先行技術に開示されたアプローチのような他のアプローチに由来してもよい。保存するための参照画像として提供するために製造の間に獲得された画像を使用してもよい。
ブラインドキャリブレーションの安定化
前述の説明から明らかなように、新しいブラインドキャリブレーションを解くことは、大量の回帰および方程式の逆システムを解くことを意味する。このような問題は、誤差および不安定さのために簡単に解くことができないことはよく知られている。ここで、標準的な手法に勝る、本願発明の実施の形態で利用することに特に適した、計算を安定化する新たな手法を提供する。いくつかの提案する手法は時変のファイバー伝達関数の場合に限定されず、より単純な時不変のファイバー伝達関数の場合にも有用であることは注目すべきである。
標準的な回帰手法は、ノイズのガウシアンモデルに依存する。本実施の形態の場合、ファイバー伝達関数の計測値中のノイズは正規分布である理由はなく、獲得された画像中の主として強いエッジに対応する大きな値を持つロングテイル(長い尾を持つような;long tailed)となる傾向にある。これらの大きな値は回帰の中で外れ値(outlier)として振るまい、回帰結果を歪める。次に、古典的な回帰は非対称である。古典的な回帰は、説明変数(explanatory variable)は誤差がないことを仮定するが、これは本願のシナリオには当てはまらない。これらの欠点を回避するために、本発明は、限定はしないが、M推定(M-estimators)、最小二乗トリム推定(least trimmed squares)等のようなロバストな直交回帰手法とあわせて用いられる。さらに、本発明は正確なノイズの統計モデルを用いて適用的な回帰を実行することからも恩恵を受ける。これは例えば最尤推定を用いて実現できる。
典型的な設定では、回帰を実行する前にファイバー伝達関数の測定結果に何らかの前処理を適用することも有用となる。例えば、実施の形態に係る方法がブラインドキャリブレーションを実行するために十分なデータがあると推定したときは、飽和した(saturated)ファイバーに対応するデータを除去し、ダイナミックレンジを比較的均一にカバーするようにデータをフィルタリングすることは効果的である。このステップの目的は、回帰のために類似した値が多くなりすぎることを回避することである。実際これにより、あるケースでは、回帰やロバストナ統計を歪める。例えば、サンプルの半数以上が背景雑音を表す場合には、メジアン推定は対処することができない。反対の問題も存在し、もし背景雑音フレームがとても少ない場合には、回帰は不正確となる。この問題を軽減するために、仮想的な背景雑音フレームを追加することができる。より一般的には、対応するヒストグラムを均一化(equalize)するためにサンプルが重み付けされる。
回帰の問題および解くためのシステムを構成することに関し、他の実際的な問題も出現する。ひとたび回帰を計算すると、いくつかの回帰結果は他の回帰結果より高い信頼性を持つ。そのため、これらの信頼性が、例えば解くべき逆システム中の対応する方程式を重み付けすることによって説明できると興味深い。この目的のため、標準的な決定係数(r-squared coefficient)や、上記ノイズモデルによりよく適用した他の一致の良さの計量のような、一致の良さの計量を用いてもよい。
さらに、ファイバーバンドルのうちいくつかのファイバーの故障し、それらはほとんど何の光も伝送しないということも発生しうる。それらのファイバーとその近隣のファイバーとの間で計算された回帰は誤っている可能性が高い。この場合、対応する回帰を検出して排斥することが望まれる。これは例えば信頼性基準(例えば一致の良さ)に閾値を用意することで実現できる。もし信頼性がその閾値を下回ると、対応する回帰は逆システムにおいてゼロの重みとともに用いられる。もし関係が除去されすぎると、システムのランクが低下する。典型的な運用の仕方では、ランクは、ファイバーに結びついているアフィニティグラフ中の関連づけられた要素の数と関連する。要素間に関連性はないので、各要素の回は、他の要素とは独立である。もし数個の関連づけられた要素が存在したら、最終的なキャリブレーションを計算するための数個のオプションが利用可能となる。本発明のいくつかの実施の形態では、全ての関連づけられた要素は独立に解くことが可能である。他の実施の形態では、最も大きく関連づけられた要素のファイバー伝達関数のみ解を見つけて、その結果を残りのファイバーに伝搬することを選択する。さらに他の実施の形態では、独立な要素毎の解は、例えばいくつかの平滑化(smoothness)制限を課すことで融合される。
本発明のいくつかの実施の形態では、隣接するファイバー間の関係関数またはファイバー伝達関数のいずれかに関する先見情報を利用する。この情報は、回帰計算、またはシステム反転(system inversion)の正規化に用いられる。
例えば、システムの使用前に初期の背景雑音画像が獲得され、かつ背景雑音信号が時間がたっても不変であると仮定する場合、戻り信号中の背景雑音信号を相殺(補償)でき、したがって単純化されたファイバー伝達関数を検討することができる。他の例でも初期の背景雑音画像が獲得されるが、この例は背景雑音画像の時間的進化(例えば自己蛍光の減衰)のモデルを持っている場合の例である。この時間的進化の法則は回帰およびシステム反転に導入される。これらの実施の形態の効果は、後に現実的な例を分析するときに明らかになる。
時変のモードで用いるとき、本発明のいくつかの実施の形態は、推定されたキャリブレーションの時間的な平滑化ないし整合性を導入することの恩恵を受ける。これは例えば解くべきシステム中の正規化項として前回のキャリブレーション結果を取り入れることで実現できる。限定はされないが、他のオプションは、連続するキャリブレーションを、推定した被写体信号の最終的な輝度に関して一致するように、キャリブレーションを単に拡大縮小(scaling)することを含む。
他の可能性のある画像処理要素との相互作用
多くのイメージングシステムにおいて、ファイバー伝達関数に加えて、入力データにしたがって調整された、調整可能な大域的(global)システム伝達関数が存在する。典型的なシナリオでは、検出チェーン(detection chain)のゲインや励起レーザ光の変動の調整である。そのような調整は、しばしば検出器の飽和を回避して電子機器の最適なダイナミックレンジ内に信号を保つためになされる。小さな適応をすることで、本発明はこれらの場合を扱うことができる。γ(・)を(既知の)調整可能な大域的システム伝達関数とすると、時刻tにおいてファイバiで計測された戻り信号は以下のようになる。
Figure 2014517342
サンプルを
Figure 2014517342
に変換すると、
Figure 2014517342
について同様のキャリブレーション処理が適用できる。
このようなイメージングシステムの既知の大域的変化に加えて、使用中にイメージングシステム構成のドリフト(出力信号の望ましくない変動;drift)を調べて潜在的に修正するために、自動制御が実行されることも発生しうる。例えば、もしイメージングシステムが持続的に用いるユニットと消耗品とを含み、それらが互いに差し込まれる必要がある場合、全体構成は接続に非常に敏感となる。コネクタのどのようなずれ(shift)も、生ピクセルのファイバーへの関連づけに影響を与えてファイバー伝達関数を使えない状態にする構成変更に帰着する。現在の生画像を参照画像に再度マッピングすることで、生ピクセルのファイバーへの関連づけを解決できるが、前回のファイバー伝達関数は使えないままである。他のケースでは、構成ドリフトはシステムによって検出され、ファイバー伝達関数に影響を与え続けることなく潜在的に補償される。本発明は、これら永続的または一時的なシステム構成の変更のいずれにも適用できる。永続的な変化の場合、十分な量の新たな戻り信号が蓄積されたらすぐに新しいブラインドキャリブレーションを要求すれば効果的である。一時的な変化の場合、システムが事前の構成に戻ることが分かるまで戻り信号の蓄積を単に停止することが効果的である。
オフラインおよび時間差(lagged-time)モード
前述したキャリブレーションシステムの一部は、オンライン運用モードに特に適している。しかしながら、小さな変更により、既に獲得したシーケンス、またはいくらかの遅れを持って、または現在獲得中のシーケンスの後処理として、キャリブレーションアルゴリズムを適用することができる。
ファイバー伝達関数がほとんど時不変である場合、オフラインモードでは、履歴バッファ(history buffer)が不要である可能性があり、および推定をいつ起動するかを決定する必要がない可能性がある。全てのシーケンスを新規のキャリブレーションの計算に利用できるからである。
一つの長いシーケンスから推定されたキャリブレーションは、直前または直後に獲得された十分なデータがないために推定ができない短いシーケンスにも、適用可能である。
オフラインモードの他の実施の形態では、数個のシーケンスがよりよいキャリブレーションの推定を得るために併用され、全ての入力シーケンスにキャリブレーションが適用される。
さらに、オフラインまたは時間差モードにおいて、時間窓が依然として用いられてもよいが、現在のフレームによって完了される必要はない。例えば、現在のフレームを中心とする時間窓を選択することは効果的である。
アフィンファイバー伝達関数の詳細な実施例
以下、アフィンファイバー伝達関数の例の全体モデルを導出する。アフィンファイバー伝達関数は、オフセットおよびゲインによって完全に特徴付けることができる。したがって、ファイバー毎のこれら二つのパラメータの推定に焦点を当てる。明確化のため、蛍光画像、第二次高調波発生(Second Harmonic Generation;SHG)およびコヒーレントアンチストークスラマン散乱(Coherent Antistokes Raman Scattering;CARS)を含む、既存のファイバに基づく顕微鏡画像化技術に焦点を当てる。しかしながら、アフィンファイバー伝達関数はこれらの特定の種類の画像化には限定されない。
ファイバー伝達関数のアフィンモデルが与えられ、ファイバを組(アフィニティグラフの端部)毎に用いると、合成伝達関数ψ°ψを得る。隣接するファイバーの組の一時的な戻り信号に結びつけられているこれらのアフィン関数の係数は、他のファイバーに対してあるファイバーをキャリブレーションするための構成係数である。本実施の形態のような一様でないグリッドにおける曖昧な概念であるが、構成係数は、概念上はオフセットとゲインのマッピングにおける勾配(gradient)である。システムのキャリブレーションを計算することは、勾配からオフセットおよびゲインを回収することに概念的には近い。
蛍光画像モデル
ファイバーを通した蛍光画像の典型的な場合では、第一の部分はファイバ自身の中で生成された背景雑音信号(自己蛍光効果、ラマン散乱等)に由来し、その他の部分は観察している組織によって生成された蛍光発光に由来する。
古典的な蛍光発光(一格子蛍光(one photon fluorescence)としても知られる)において、双方の強度は光源の強度に比例し、および種々の拡張として(different extends)、個々のファイバの(励起波長および蛍光波長における)透過率(transmission)およびファイバーの結合係数に比例する。しかしながら、背景雑音はファイバーの特性のみに依存する一方で、組織信号は、その組織内部の蛍光分子の集中(concentration)に依存および比例する。
集計された信号は、以下の総和として合成される。
a.蛍光分子の集中に比例し、係数がファイバにのみ依存する変数値。
b.ファイバーにのみ依存する定数値。
より詳細には、ランベルト・ベールの法則(Beer-Lambert law)によると蛍光発光の強度はいくつかの吸収および放出係数にも比例し、これは蛍光分子に特有である。これに関連して、集中自身からそれらを分離することはできない。以下では、集中という用語は、実効的な集中(例えば吸収および放出係数による実際の集中からできたもの)として解釈すべきである。
上記の議論から、蛍光画像モデルは、アフィン画像化モデルの具体化(instantiation)が必要であることが分かる。
二光子励起(two photons excitation)のような他の種類の蛍光発光が存在する。この場合、信号はもはや光源の強度に比例せず、その二乗に比例する。したがって、ファイバー中の結合係数および励起波長における透過率の依存性も二乗に上がる。しかしながら、組織中の蛍光分子の集中への依存性は同じ、すなわち線形にとどまる。分子個々の寄与は非干渉的に加算されるからである。
したがって、この二光子励起の状況でも、蛍光画像モデルは依然として、古典的な蛍光発光で用いられる係数とは異なる係数を持つアフィン画像化モデルの具体化を残していることは明らかである。
他の顕微鏡イメージングモデル
この説明は、第二次高調波発生やコヒーレントアンチストークスラマン散乱のようなより洗練された画像化モダリティにさえも一般化可能である。今回、個々の分子の寄与は、例えば、振幅について、強度が分子の集中の二乗の関数としてコヒーレントに加算される。しかし、検出器によって集計された信号は以下の二つの寄与の総和である。
a.いくつかのファイバーに依存する乗法性の係数(multiplicative coefficient)を持つ集中の二乗に比例する組織信号。
b.ファイバーに依存する加法性の背景雑音信号。
この議論から、実際の集中を扱う代わりにその量の二乗を扱うという条件の下で、依然としてアフィン画像化モデルの具体化に直面している。
続くセクションにおいて、上述した種々の画像化モデルを区別することはせず、実際の集中自体またはその関数のいずれに理解することができる一般化集中(generalized concentration)に常に注意を向ける。これは第二次高調波発生やコヒーレントアンチストークスラマン散乱の二乗のケースを含む。いずれにしても、蛍光発光、第二次高調波発生およびコヒーレントアンチストークスラマン散乱は単に公知の画像化モデルとして示されており、他の種類の画像化にも本願発明の利益を享受できることは明らかである。
主要な仮定の数学的評価
今後は、ファイバーのゲインをα、ファイバのオフセットをβと単に呼ぶ。システムをキャリブレーションするためには、被写体信号を回復できるようにするためにこれらの値を推定することが要求される。
前のセクションでは、本発明は隣接するファイバーはだいたい同じものを観察するという仮定に依存することについて言及した。顕微鏡イメージングに特別な場合において、この仮定は、主に一般化集中の連続的な特性から自然に引き出される。
a.pを、任意のファイバー(例えば第1のファイバー)の空間位置に対するファイバーiの空間位置とする。
b.v(t)を、時刻tにおいてファイバーiに計測された戻り信号とする。vをボールド体でなくしたのは、スカラー信号に集中することを強調するためである。
c.C(p)を、画像化された被写体中の位置pにおける一般化集中とする。
d.ψ(t)を、画像化された被写体に対する時刻tにおけるファイバーバンドルの先端の空間位置とする。
e.ファイバーiによって画像化された体積中の一般化集中u(t)は、u(t)=C(ψ(t)+p)によって与えられる。
これらの表記法が与えられると、アフィンモデルは以下のように定式化できる。
Figure 2014517342
Eを空間的に隣接するグラフの端部一式とする。例として、ファイバーのドローネー三角分割法に関連する無向グラフ(undirected graph)を典型的に用いる。(i,j)∈Eとすると、以下の式を得る。
Figure 2014517342
一般化集中の変動はほとんどの場合滑らかであり、激しい変動はまれ(これは勾配の分布が疎であることを意味する)であるという自然な仮定を用いると、最後の方程式は以下のように書き換えられる。
Figure 2014517342
ここでXは分布が疎であるノイズ項である。そのような分布の一例はラプラス分布である。式(6)から、二つの隣接するファイバーによって集計された戻り信号は実際にアフィン方程式(affine equation)に近似的に関連し、したがってこれらは高い関連性があると見てよい。
アフィンシステムモデル
このアフィン化において、キャリブレーションの推定のためにファイバー関係関数を用いる本発明の背後にあるアイデアは、これらの関係を{α}と{β}との推定に用いることに変換される。二つの隣接するファイバーから観測された戻り信号v(t)とv(t)とを考えると、二つの戻り信号間のアフィン関係の係数aij、bは、以下のアフィン回帰で推定することができる。
Figure 2014517342
式(6)の係数を用いてこれらの係数を特定すると、
Figure 2014517342
または別の表現として
Figure 2014517342
を得る。
全ての隣接するファイバの組を考慮することで、αが未知であるものと、βが未知であるものと二つの線形システムを得る。ゆえに、観測されたキャリブレーションされていない戻り信号から計算されたアフィン関係により、キャリブレーションを推定することができる。
続く部において、隣接するファイバー間のアフィン関係のみ考慮し、近傍を定義するために典型的にはドローネー三角分割法を頼る。もちろん、もっと離れたファイバ間(例えばおのおの2または3の端部分離れている)のアフィン関係を探すこともできる。
回帰:アフィン関係の推定
式(6)のモデルを用いることで、時刻{t1≦k≦mにおいて二つの隣接するファイバiおよびjから収集された二つの戻り信号のセットx=v(t)およびy=v(t)から、回帰係数aおよびbを推定したい。
Figure 2014517342
通常の最小二乗
最も古典的な手法は最小二乗回帰を用いることである。
Figure 2014517342
しかしながら、この手法にはいくつかの難点がある。第1にXは正規分布である理由はなく、よりロングテイルとなり獲得した画像中の強いエッジに対応する大きな値となる可能性が高い。先述したように、これらの大きな値は最小二乗推定を歪める。最小二乗回帰は非対称であることも留意する。説明変数xは誤差がないことを仮定している。回帰x=a’y+b’の結果は、回帰y=a’x+b’の逆とはならないという結果となる。ここで我々が扱うような説明変数中のノイズは、0に向かう勾配推定のバイアスとなるが、これは減衰バイアス(attenuation bias)として知られている。
ロバストな直交回帰
変数に誤差がある回帰、すなわち両方の変数に測定誤差がある回帰を行うので、もし両方の変数について誤差の分散(variance)が同じであるという仮定が妥当だとするならば、aとbとの推定のために直交回帰を用いることは効果的である。直交回帰においては、目的関数は回帰直線との距離の二乗の和である。
Figure 2014517342
このアプローチは、減衰バイアスを固定するのに役立つ。前にも説明したように、はずれ値を説明するために、実施の形態に係る方法はロバストな回帰手法を有利に当てにする。先行技術において提案されているロバストな手法、最小メジアン法(least median of squares)、最小二乗トリム推定、最小絶対値法(least absolute deviation)、M推定等のいずれも、本発明の実施の形態で用いられてもよい。
一致の良さ
述べたように、ファイバーバンドル中の故障の可能性があるファイバーが一つの原因で、一致の悪い回帰を検出して取り除くのが効果的である。決定係数のような標準的な一致の良さの計量に加えて、本発明の実施の形態は、以下に示すロバストなバージョンの決定係数を用いることによる利益を享受する。
Figure 2014517342
ここでwはロバスト推定からの最終的な重みであり、
Figure 2014517342
Figure 2014517342
である。決定係数と同様に、rrobust は[−1,1]に属する。
他に取り得る回帰
上述した回帰手法では、ノイズの構造は考慮されていない。しかしながら、ノイズの構造を考慮するのは効果がある。例えば、ノイズXがラプラス分布に従うことを仮定した場合、この回帰の最尤推定量は、差の絶対値の総和を最小化するものとなる。
Figure 2014517342
さらに、上記の回帰手法は、ノイズが等方分散的、すなわちノイズの分散が全てのサンプルについて同じであることを暗に仮定していたが、走査が不安定であることもあって、イメージングシステムは乗法性雑音として振る舞う。この結果、高い値を持つサンプルは、より高い分散を持つノイズの影響を受ける。この異分散(heteroscedastic)のノイズを説明するために、ノイズの分散がサンプルの値に比例するという仮定を立てることによって、本発明の実施の形態は回帰中の相対誤差を効果的に最適化する。
Figure 2014517342
線形システムの解
ゲイン推定
ひとたび回帰が計算されると、式(7)の線形システムを解く必要がある。両方の線形システムは同じ左辺を共有する。まず、次のゲイン線形システムを考える。
Figure 2014517342
nをファイバーの数とし、m=|E|を隣接するファイバーを結びつけるアフィニティグラフ、すなわちドローネー三角分割法の端部の数とする。ファイバーパターンが6角形である典型的な設定では、m?3である。E=(u,v1≦k≦mをアフィニティグラフの端部とする。Aを以下のm×nの行列とする。
Figure 2014517342
Aは疎であり、1行に非ゼロ係数は二つしかない。式(9)の線形システムは、Aα=0と書き換えることができる。0は自明な解であるが、興味を引く解ではない。αが自明ではない解の場合、λαも解となる。評価するのはファイバー間の相対ゲインであり、そのため任意の乗法性の係数をファイバーのゲインに適用しても相対ゲインは変化しないので、これは予期されたことである。
一般性を失うことなく、|α|=1の制限を追加することができる。システムは優決定なので最小二乗解
Figure 2014517342
はAAの最小の固有値に対応する固有ベクトルとなる。固有ベクトルは疎のSVDアルゴリズムを用いて計算することができる。
一般的な疎のSVDアルゴリズムをシステムを解くことに用いることができるが、本発明の実施の形態は、問題の構造も利用する。推定するゲインは正であり、これらに乗る誤差は乗法性としてだいたいはよりよいモデル化をしているので、問題は対数ドメインに効果的に置き換えることができる。
Figure 2014517342
または別の表現として、
Figure 2014517342
となる。ここで
Figure 2014517342
であり、
Figure 2014517342
である。
Mを以下のm×n行列とする。
Figure 2014517342
式(10)のシステムは
Figure 2014517342
と書き換えることができる。行列Mのランクはn−1である。解を一意にしシステムを正規化するために、ゲインは1に近い(それらの対数は0に近い)という先見情報を追加することができる。
Figure 2014517342
以前に説明したように、本発明の実施の形態の別の効果は、関係式(10)中にある信頼(confidence)で説明できる。回帰推定によって生成された一致の良さの計量に依存して、より強い信頼がある関係により重みを追加することができる。gijを、ファイバーiおよびjの回帰のために例えば式(8)で定義されたような一致の良さの計量であるとする。所与の一致のようさの閾値未満はゼロで、それ以上は増加する連続関数wを用いるのは効果的である。
kk=w(guk,vk)で定義されるWを対角重み行列とする。重み付きシステムは、以下のようになる。
Figure 2014517342
式(12)のシステムは、例えば疎直接(direct sparse)QR分解(Q factorization algorithms)や任意の反復法で解くことができる。
オフセット推定
オフセット推定のための線形システムは以下のようになる。
Figure 2014517342
このシステムを解く方法はいくつかある。限定はしないがこの方法は以下を含む。
a.因数
Figure 2014517342
はaijで近似可能である。
b.前セクションに示した手法にしたがって得られたαの推定値を用いて、因数
Figure 2014517342
を計算することができる。
c.前セクションに示した手法にしたがって得られたαの推定値を用いて、
Figure 2014517342
を用いて
Figure 2014517342
を推定し、線形システム
Figure 2014517342
を解いて
Figure 2014517342
を推定する。
もしオフセットの初期の推定、すなわちイメージングシステムのキャリブレーションの間に獲得された背景雑音画像が利用可能であれば、本発明の実施の形態は、解を正規化するためのそれを用いる。例えば、背景雑音が乗法則(multiplicative law)にしたがって減衰することが既知であれば、時刻tにおけるファイバの背景雑音βは、時刻tにおける背景雑音β(0)から、qを未知の因子として、qβ(0)で近似できる。β=qβ (0)を式(13)に代入すると以下の式を得る。
Figure 2014517342
qのロバストな推定は、例えば以下の式から得られる。
Figure 2014517342
この推定から、βの近似
Figure 2014517342
を得て、その値を式(13)のシステムの正規化に用いる。前のセクションに記載したようにシステムを重み付けると、オフセット推定は以下のように書き換えられる。
Figure 2014517342
ここでAは式(11)で定義されるm×nの行列である。
式(14)は前述したいずれかの手法で効果的に解ける。
いつ推定を開始するかの決定
アフィンファイバー伝達関数に関し、いつ推定ができるかを決定する必要がある。このシナリオにおいて、テストする効果のある二つの基準を開示する。第1は、最新のp個のサンプルにわたって計算された隣接するファイバ間の相関係数の変位値が所与の閾値を上回ることを要求する。これにより、ほとんどの隣接するファイバーの戻り信号間によいアフィン関連があるであろうことを保証する。
第2に、所与の少量のファイバーが少なくとも時間窓内の多数のサンプルを持っており、その戻り信号は単なるファイバーの背景雑音(すなわち自己蛍光)ではなく、ファイバーの端部で集計された被写体信号に占められていることを要求する。サンプルがファイバーの背景雑音のみに由来するか否かを決定するために、本発明の実施の形態は、例えばその値が、そのファイバーの最後に推定したオフセット値とファイバーの推定ノイズの因子(すなわち標準偏差、最大絶対偏差(maximum absolute deviation)等)を加えたものを上回るかを調べる。そのような基準はファイバーによって集計された値の範囲が信頼できる回帰をするのに十分広いことを保証する。
さらに、連続するフレーム間の相関係数を計算する。
Figure 2014517342
もし係数が所与の閾値を超えれば、バンドルとオブジェクトとの間の動き(bundle-to-object motion)がないと考える。もし、多くの連続する画像にバンドルとオブジェクトとの間の動きがなければ、そのうち1番目だけを履歴に残す。ほとんどの同一の連続するフレームは、必ずしも回帰をより正確なものとするわけではないので、このフィルタリングは効果がある。むしろ、これらはファイバーの両端の強いエッジの間にバイアスをかける。
迅速な背景雑音推定
蛍光イメージングの文脈において、ファイバーの自己蛍光の背景雑音は、典型的には時間とともに減少する。もしファイバーバンドルが事前照射(pre-illuminate)されていない場合は最初に早く減少し、次によりゆっくりとなる。前のセクションで示した方法では、ゲインおよびオフセットは、十分な量の観測された有益な信号が収集されたときのみ推定される。このアプローチには潜在的な二つの欠点がある。第1は、ファイバーバンドルによって末端の被写体の信号がほとんど集計されていない最も好適な時間(このシナリオは、ファイバーバンドルが画像化された被写体に接触する必要がある場合に典型的に発生する。)に背景雑音を推定する機会を逸する。第2に、ファイバーバンドルが高い蛍光性の被写体のみを見て低い被写体信号は見ない場合、回帰切片係数(regression intercept coefficient)bijは不正確となり、残りのオフセットも同様である。この場合、以上がいずれの背景雑音推定も試みないのが有利となる理由である。
本発明の好適な実施の形態では、別の迅速な背景雑音推定がなされる。この迅速な背景雑音推定は、従前のセクションにおいてなされた、時刻tにおけるオフセットβ(t)はqβ(t)でよく近似できるという仮定に依存する。新たな背景雑音推定を得るために、推定する必要があるパラメータはqひとつのみであることを意味する。
背景雑音を迅速に更新するアルゴリズムを開示する。これは以下のように実施する。各フレームについて、背景雑音を計測している可能性が非常に高いサンプルを特定する。そのような基準を満たすファイバーにマークをつける。固定量の少量のファイバーがマークされるまでフレームが処理される。この時点で、現在のオフセットより小さい全ての値を履歴バッファ中から探し、それらからqを推定する。推定の一例は以下で与えられる。
Figure 2014517342
動作モード
先のセクションで説明されたキャリブレーションの推定は、本質的にはオンライン処理であり、フレームを連続的に蓄積し、十分な情報が利用可能となったとき新たなキャリブレーションを推定する。しかしながら、時間によっては、若干異なる動作が望まれる。図2は、獲得の履歴に依存してこれらの動作をカスタマイズするいくつかの潜在的な方法を示す。開始においては、あまり正確でないとしても、早い推定が望まれる。ひとたび初期推定が得られると、より遅いがより正確な推定が実行できる。その結果、オンラインキャリブレーションは状態図としてモデル化される。各状態は推定、起動の決定、およびキャリブレーション係数推定のための異なるパラメータを持つ。
本発明の好適な実施の形態では、図2に示す5つの状態が定義される。
a.初期状態において、迅速な推定が望まれ、それに応じてパラメータがセットされる。ゲインだけを推定するのが効果的である。なぜなら、起動時のキャリブレーション中に獲得される背景雑音画像から計算されるオフセットはそれでも正確だからである。もちろん、素早い背景雑音推定も可能である。ひとたびゲイン推定が首尾よく実行されると、システムは履歴バッファを空にすることなく第2状態に遷移する。その根拠は、履歴バッファを維持して以前の推定を改善するために、より多くのフレームを蓄積するためである。もし推定が試みられたが失敗した場合、履歴バッファを空にすることなく初期状態にとどまるが、他の推定を試みる前に、より多くのフレームが蓄積するまで待機する。
b.第2の状態において、正確な推定を得るためにパラメータが調整される。この場合もやはり、ゲインのみを推定するのが効果的である。もちろん、迅速な背景雑音推定も可能である。ひとたびゲイン推定が首尾よく実行されると、システムは第3状態に遷移し、履歴バッファが空にされる。もし推定が試みられたが失敗した場合、システムは第2状態にとどまり履歴バッファは空にされる。
c.第3状態は巡航(cruising)状態である。第2状態と比較すると、典型的には、履歴バッファのサイズのみが増加される。迅速な背景雑音推定だけでなく、ゲインおよび背景雑音推定が可能である。推定が成功しても失敗しても、システムはこの状態にとどまるが、履歴バッファは各推定の後に空にされる(迅速な背景雑音推定の可能性がある場合は除く)。
d.第4状態は、イメージングシステムの構成の永続的なドリフトが検出されたときにシステムが遷移する特別な状態である。この場合、計算されたゲインは再度推定される必要がある。新たなゲイン推定が迅速に成されることが望まれるので、これは第1状態にとても似ている。推定が試みられた後、それが成功しても失敗しても、システムは第4状態に遷移する前の状態に遷移して戻る。図3は、このような永続的なドリフトに遭遇したときに実行されるステップのフローチャートを示す。
e.第5状態も、イメージングシステムの構成の一時的なドリフトが検出されたときにシステムが遷移する特別な状態である。この場合、システムはドリフトが是正されるまで第5状態にとどまり、その後第5状態に遷移する前の状態に遷移して戻る。図3は、このような一時的なドリフトに遭遇したときに実行されるステップのフローチャートを示す。
本発明の上記説明は、当業者が本発明の最良のモードと考えられるものを作り活用することを可能とするが、当業者は、ここに示した実施の形態、方法、および例の変形、組合せ、および等価なものが存在することは正しく評価および理解できるであろう。したがって、本発明は上記で説明した実施の形態、方法、および例には限定されず、開示された本発明の精神の範囲にある全ての実施の形態および方法によって限定されるべきである。

Claims (21)

  1. 不均一な伝達関数を持ち空間的位置が一様でない画像検出手段によって獲得された画像を処理するための方法であって、
    多数の画像からのデータを蓄積するステップと、
    関連する信号を計測する個々の検出器を結びつけるアフィニティグラフ(affinity graph)を定義するステップと、
    前記結びつけられた検出器からの前記蓄積されたデータに統計的な解析を実行するステップと、
    各検出器の伝達関数を推定するために、前記統計的な解析の結果から構成されるシステムを解くステップとを含み、
    前記伝達関数一式がイメージングシステムのキャリブレーションを構成することを特徴とする方法。
  2. 前記統計的な解析は、回帰を含むことを特徴とする請求項1に記載の方法。
  3. キャリブレーションは、前記蓄積されたデータが十分な情報を含み次第実行されることを特徴とする請求項1に記載の方法。
  4. 時変適応(time-varying adaptive)キャリブレーションが、データ蓄積窓を変更することにより実行されることを特徴とする請求項1に記載の方法。
  5. キャリブレーションは、前記蓄積されたデータが十分な情報を含み次第、連続して実行されることを特徴とする請求項4に記載の方法。
  6. 前記検出器の伝達関数の異なるパラメータは、前記蓄積されたデータの内容に依存して異なる時刻に更新されることを特徴とする請求項5に記載の方法。
  7. 前記キャリブレーションは、参照画像、特に背景雑音画像を用いて初期化されることを特徴とする請求項1に記載の方法。
  8. 各キャリブレーションは、その後の(ulterior)初期化のために保存のおよび復元されることを特徴とする請求項1に記載の方法。
  9. 前記アフィニティグラフは、近隣の情報、特に前記検出器の空間位置のドローネー三角分割法(Delaunay triangulation)に基づいて構成されることを特徴とする請求項1に記載の方法。
  10. 前記キャリブレーションは、画像再構成を含むさらなる処理に利用されることを特徴とする請求項1に記載の方法。
  11. 前記データは、前記結びつけられた検出器に前記統計的な解析を実行する前に、前処理またはフィルタリングされることを特徴とする請求項1に記載の方法。
  12. 前記計算は、先見情報、回帰から計量された一致の良さ、またはロバストな計算手法を用いて安定化されることを特徴とする請求項1に記載の方法。
  13. 前記計算は、時間的進化(temporal evolution)または時間的平滑制限を用いて安定化されることを特徴とする請求項4に記載の方法。
  14. 前記背景雑音の時間的進化のモデルは、前記背景雑音の初期推定を更新することに利用されることを特徴とする請求項13に記載の方法。
  15. 前記キャリブレーションは、オフラインまたは時間差で計算されることを特徴とする請求項1に記載の方法。
  16. いくつかの異なる画像のシーケンスが、前記キャリブレーションを計算するために併用されることを特徴とする請求項15に記載の方法。
  17. 不均一な伝達関数を持ち空間的位置が一様でない画像検出器を用いて画像を獲得し、そのような検出器を用いて獲得された画像を処理するためのの装置であって、
    多数の画像からのデータを蓄積する手段と、
    関連する信号を計測する個々の検出器を結びつけるアフィニティグラフ(affinity graph)を定義する手段と、
    前記結びつけられた検出器からの前記蓄積されたデータに統計的な解析を実行する手段と、
    各検出器の伝達関数を推定するために、前記統計的な解析の結果から構成されるシステムを解く手段とを備えることを特徴とする装置。
  18. 計算されたキャリブレーションを保存および読み出す手段をさらに備えることを特徴とする請求項17に記載の装置。
  19. 前記装置は、複数の光ファイバーからなる画像誘導(image guide)を備えるイメージングシステムの一部であり、
    各光ファイバーは、生ピクセルをファイバに関連づける手法(raw-pixel-to fiber association method)のアプリケーションに関する単一の検出器として作動することを特徴とする請求項17に記載の装置。
  20. 前記イメージングシステムは、顕微鏡イメージングシステムであり、特に一般的な蛍光顕微鏡、二光子蛍光顕微鏡、第二次高調波発生(Second Harmonic Generation;SHG)またはコヒーレントアンチストークスラマン散乱(Coherent Antistokes Raman Scattering;CARS)であることを特徴とする請求項19に記載の装置。
  21. 前記イメージングシステムは、いくつかの画像化帯域、特にスペクトル帯域を持つことを特徴とする請求項20に記載の装置。
JP2014510902A 2011-05-16 2012-05-16 ファイバに基づく顕微鏡画像の連続的かつ実時間のキャリブレーション Active JP5583302B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201161486551P 2011-05-16 2011-05-16
US61/486,551 2011-05-16
PCT/IB2012/001313 WO2012156826A2 (en) 2011-05-16 2012-05-16 Continuous and real-time calibration of fiber-based microscopic images

Publications (2)

Publication Number Publication Date
JP2014517342A true JP2014517342A (ja) 2014-07-17
JP5583302B2 JP5583302B2 (ja) 2014-09-03

Family

ID=46826864

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014510902A Active JP5583302B2 (ja) 2011-05-16 2012-05-16 ファイバに基づく顕微鏡画像の連続的かつ実時間のキャリブレーション

Country Status (8)

Country Link
US (1) US8969777B2 (ja)
EP (1) EP2710551B1 (ja)
JP (1) JP5583302B2 (ja)
CN (1) CN103959328B (ja)
AU (1) AU2012257496B2 (ja)
CA (1) CA2835832C (ja)
ES (1) ES2537733T3 (ja)
WO (1) WO2012156826A2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10932724B2 (en) * 2015-06-17 2021-03-02 Covidien Lp Systems and methods for monitoring autoregulation using a confidence level
GB201707239D0 (en) 2017-05-05 2017-06-21 Univ Edinburgh Optical system and method
US11844583B2 (en) 2021-03-31 2023-12-19 Moon Surgical Sas Co-manipulation surgical system having an instrument centering mode for automatic scope movements
US11832909B2 (en) 2021-03-31 2023-12-05 Moon Surgical Sas Co-manipulation surgical system having actuatable setup joints
CA3212211A1 (en) 2021-03-31 2022-10-06 David Paul Noonan Co-manipulation surgical system for use with surgical instruments for performing laparoscopic surgery
US11819302B2 (en) 2021-03-31 2023-11-21 Moon Surgical Sas Co-manipulation surgical system having user guided stage control
US11812938B2 (en) 2021-03-31 2023-11-14 Moon Surgical Sas Co-manipulation surgical system having a coupling mechanism removeably attachable to surgical instruments
US11986165B1 (en) 2023-01-09 2024-05-21 Moon Surgical Sas Co-manipulation surgical system for use with surgical instruments for performing laparoscopic surgery while estimating hold force
US11839442B1 (en) 2023-01-09 2023-12-12 Moon Surgical Sas Co-manipulation surgical system for use with surgical instruments for performing laparoscopic surgery while estimating hold force

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB8924793D0 (en) 1989-11-03 1989-12-20 Secr Defence Visual image transmission by fibre optic cable
WO1997042600A1 (fr) 1996-05-02 1997-11-13 Andromis S.A. Procede de traitement d'images obtenues par fibres multicoeurs ou multifibres, en particulier d'images endoscopiques
US6587189B1 (en) * 1999-11-29 2003-07-01 Srs Technologies Robust incoherent fiber optic bundle decoder
FR2842628B1 (fr) 2002-07-18 2004-09-24 Mauna Kea Technologies "procede de traitement d'une image acquise au moyen d'un guide compose d'une pluralite de fibres optiques"
DE102006011707B4 (de) * 2006-03-14 2010-11-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zum Erzeugen einer strukturfreien fiberskopischen Aufnahme
FR2922308B1 (fr) 2007-10-11 2012-03-16 Mauna Kea Technologies Dispositif d'imagerie modulaire, module pour ce dispositif et procede mis en oeuvre par ce dispositif
US20090237498A1 (en) * 2008-03-20 2009-09-24 Modell Mark D System and methods for the improvement of images generated by fiberoptic imaging bundles
JP5235586B2 (ja) * 2008-10-03 2013-07-10 キヤノン株式会社 生体情報処理装置及び生体情報処理方法
JP5629270B2 (ja) 2008-12-29 2014-11-19 マウナ ケア テクノロジーズ 画像処理方法および装置
CN101833755B (zh) * 2010-04-29 2011-09-14 中国科学院上海技术物理研究所 一种光纤束传像系统中非均匀性校正的方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JOSE L. LAZARO ET AL: ""Sensor Calibration Based on Incoherent Optical Fiber Bundles (IOFB) Used For Remote Image Transmiss", SENSORS, vol. col. 9, no. 10, JPN7014001790, 1 January 2009 (2009-01-01), pages 8215 - 8229, ISSN: 0002831756 *

Also Published As

Publication number Publication date
EP2710551A2 (en) 2014-03-26
CN103959328A (zh) 2014-07-30
CA2835832C (en) 2020-07-14
WO2012156826A2 (en) 2012-11-22
CA2835832A1 (en) 2012-11-22
CN103959328B (zh) 2017-08-15
ES2537733T3 (es) 2015-06-11
US8969777B2 (en) 2015-03-03
AU2012257496B2 (en) 2017-05-25
US20140117207A1 (en) 2014-05-01
EP2710551B1 (en) 2015-03-11
JP5583302B2 (ja) 2014-09-03
WO2012156826A3 (en) 2013-01-10

Similar Documents

Publication Publication Date Title
JP5583302B2 (ja) ファイバに基づく顕微鏡画像の連続的かつ実時間のキャリブレーション
AU2012257496A1 (en) Continuous and real-time calibration of fiber-based microscopic images
Cannell et al. Image enhancement by deconvolution
Haider et al. Fluorescence microscopy image noise reduction using a stochastically-connected random field model
Jezierska et al. Poisson-Gaussian noise parameter estimation in fluorescence microscopy imaging
US9471975B2 (en) Methods, systems and computer program products for dynamic optical histology using optical coherence tomography
JP5629270B2 (ja) 画像処理方法および装置
Liu et al. Quantitative evaluation of skeletal muscle defects in second harmonic generation images
Eldaly et al. Deconvolution and restoration of optical endomicroscopy images
Liu et al. Dispersion correction for optical coherence tomography by the stepped detection algorithm in the fractional Fourier domain
EP3830628B1 (en) Device and process for capturing microscopic plenoptic images with turbulence attenuation
Sivaguru et al. Application of an advanced maximum likelihood estimation restoration method for enhanced‐resolution and contrast in second‐harmonic generation microscopy
Ancora et al. Deconvolved image restoration from auto-correlations
Köthe et al. SimpleSTORM: a fast, self-calibrating reconstruction algorithm for localization microscopy
Koskela et al. Gaussian light model in brightfield optical projection tomography
Qiao et al. Adaptive iterative guided filtering for suppressing background noise in ptychographical imaging
Yokoi et al. Analysis of blood coagulation process based on fractality and dynamic characteristic of laser speckle pattern
Houhou et al. Comparison of denoising tools for the reconstruction of nonlinear multimodal images
Savoire et al. Online blind calibration of non-uniform photodetectors: Application to endomicroscopy
EP3314572A1 (en) Edge detection on images with correlated noise
JP2021511871A (ja) マルチコアファイバイメージング
EP2693397B1 (en) Method and apparatus for noise reduction in an imaging system
Liu et al. Comparative evaluation of performance measures for shading correction in time‐lapse fluorescence microscopy
Zhu et al. Fractal-based aberration-corrected full-field OCT
Du et al. A Regularization Method for Deconvolution of Optical Coherence Tomography Image

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20140415

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140617

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140715

R150 Certificate of patent or registration of utility model

Ref document number: 5583302

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250