JP2015515350A - 3dカメラシステム - Google Patents

3dカメラシステム Download PDF

Info

Publication number
JP2015515350A
JP2015515350A JP2015507598A JP2015507598A JP2015515350A JP 2015515350 A JP2015515350 A JP 2015515350A JP 2015507598 A JP2015507598 A JP 2015507598A JP 2015507598 A JP2015507598 A JP 2015507598A JP 2015515350 A JP2015515350 A JP 2015515350A
Authority
JP
Japan
Prior art keywords
image
pixel
camera system
viewpoint
stereoscopic camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015507598A
Other languages
English (en)
Other versions
JP6265971B2 (ja
Inventor
ハンソン,ピーター
ヘイル,ギデオン
Original Assignee
ビジョン アールティ リミテッド
ビジョン アールティ リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ビジョン アールティ リミテッド, ビジョン アールティ リミテッド filed Critical ビジョン アールティ リミテッド
Publication of JP2015515350A publication Critical patent/JP2015515350A/ja
Application granted granted Critical
Publication of JP6265971B2 publication Critical patent/JP6265971B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/77Determining position or orientation of objects or cameras using statistical methods
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61NELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
    • A61N5/00Radiation therapy
    • A61N5/10X-ray therapy; Gamma-ray therapy; Particle-irradiation therapy
    • A61N5/1048Monitoring, verifying, controlling systems and methods
    • A61N5/1049Monitoring, verifying, controlling systems and methods for verifying the position of the patient with respect to the radiation beam
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/51Housings
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61NELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
    • A61N5/00Radiation therapy
    • A61N5/10X-ray therapy; Gamma-ray therapy; Particle-irradiation therapy
    • A61N5/1048Monitoring, verifying, controlling systems and methods
    • A61N5/1049Monitoring, verifying, controlling systems and methods for verifying the position of the patient with respect to the radiation beam
    • A61N2005/1059Monitoring, verifying, controlling systems and methods for verifying the position of the patient with respect to the radiation beam using cameras imaging the patient

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Quality & Reliability (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Image Processing (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Radiation-Therapy Devices (AREA)

Abstract

患者位置決め・監視システム用の3Dカメラシステム(10)を提供する。システム内に一対の画像検出器(50)が配設され、画像検出器(50)は各々、画像検出器(50)の周辺に配設された伝導パッド(68)に熱的に接続されたヒータ(64)と結合される。ヒーター(64)及び伝導パッド(68)は、画像検出器(50)を実質的に一定温度の微気候内に包含するよう作用する。それにより、外部の温度変動が画像検出器の相対位置を変化させて、画像の部分を異なる画素として記録してしまうこと、ひいては、画像検出器(50)によって取得された画像の合致部分の特定を用いて撮像被写体の3D位置を決定するための一貫性を低下させてしまうことが防止される。

Description

本願は3Dカメラシステムに関する。より具体的には、本願は、患者の位置決め及び動作を監視する3Dカメラシステムに関する。本発明は特に、患者の動作又は不規則な呼吸の検出が成功的治療のために重要である場合に放射線治療装置やコンピュータ断層撮影(CT)スキャナなどとともに使用することに適する。
放射線療法は、患者の体の所定の領域に、その中に存在する腫瘍を破壊あるいは排除するように放射線ビームを投射することからなる。このような治療は通常、周期的且つ反復的に実行される。医療介入ごとに、放射線ビームが害を及ぼし得る隣接組織を照射してしまうことを回避するため、選択された領域を可能な限り高い精度で照射するように放射線源を患者に対して位置決めしなければならない。
腫瘍が胸腔又は腹部胸腔の中に位置するとき、呼吸サイクルの全体を通して腫瘍の位置がかなり(例えば、数センチメートルもの大きさで)変化し得る。故に、信頼性の高いCT走査データを取得するためには、一貫して呼吸サイクル内の同じポイントでデータを取得することが重要である。
特定の最新のCTスキャナは、呼吸サイクル内の複数の異なる時点で収集されたCT走査データを処理して、呼吸中の内部器官の3D動作を表現するものを生成することができる。このような器官動作の“4D”表現は、癌を照射する治療過程を決定するに際して非常に有益である。この場合も、高品質のプランニング(計画作成)データを生成するためには、個々のCTスキャンが収集される時の呼吸サイクル内でのタイミングを知って、内部器官の動作を4D表現が正確に表すようにしなければならない。
患者に放射線を適用するとき、放射線が腫瘍の位置に集束されて、その他の組織への巻き添え被害が最小化されるよう、治療装置のゲーティングが呼吸サイクルと整合されるべきである。患者の動作が検出された場合、腫瘍位置以外の患者の領域を照射することを回避するために、治療は中断されるべきである。また、例えば咳などの不規則呼吸が検出された場合にも、治療は中断されるべきである。何故なら、そのような不規則呼吸は、腫瘍が放射線ビームの焦点に対して位置を変えることをもたらし得るからである。
この理由により、放射線治療中に患者の動作及び呼吸を監視するための数多くの監視システムが提案されてきた。それらは、特許文献1乃至3に記載されているVision RT社の患者監視システムを含む。これらの文献を全てここに援用する。
Vision RT社の特許出願に記載されているそれらのシステムにおいては、患者の立体画像が取得されて処理され、撮像された患者の表面上の点群に対応する多数の点の3D位置を特定するデータが生成される。そのような表面データは、前の機会に生成されたデータと比較されることができ、そして、一貫性あるように患者を位置決めしたり、患者が適所を外れて動いたときに警告を提供したりするために使用されることができる。
米国特許7348974号明細書 米国特許7889906号明細書 米国特許出願公開第2009/0187112号明細書
患者が監視されるとき、患者の表面上の比較的小さい動きは、患者の胸腔又は腹部胸腔の中の腫瘍の遥かに大きい動きを指し示し得る。故に、患者の表面のモデルを生成するのに可能な精度及び一貫性の向上が望まれる。
本発明の一態様によれば、第1の視点から被写体の画像を取得する第1の画像検出器と、第1の画像検出器の視点に対して固定された第2の視点から被写体の画像を取得する第2の画像検出器とを有し、画像検出器の各々が、実質的に一定の温度の微気候(マイクロクライミット)内に含まれるように配置されている、立体視カメラシステムが提供される。
本願の出願人により判明したことには、外部の温度変動に起因にて生じる画像検出器間の相対位置の非常に小さい変化は、立体視カメラに基づく患者監視システムの精度を低下させる画素ドリフトを生じさせ得る。そのような変化は、画像センサ及びそれらの実装部が温度変動とともに膨張及び収縮するときに自然に発生する。そのような動きは、非常に小さいものの、センサの校正をミスアライメントされたものとすることで、画像の部分を隣接画素にレジストレーションさせてしまうものである。画像センサが、距離を置いた患者を撮像するとき、この非常に小さい位置変化は、監視される患者の表面の部分の位置における遥かに大きい変化としてレジストレーションされる。しかしながら、そのような誤りは、画像検出器を実質的に一定の温度に維持するステップが採用される場合に、実質的に排除されることができる。
一部の実施形態において、画像検出器を実質的に一定の温度に維持するための構成は、各画像検出器にヒーターを結合して、ヒーターがそれぞれの画像検出器を実質的に一定の温度に維持するように動作可能にすることを有し得る。他の実施形態において、例えばペルチェ熱電冷却素子などの冷却装置を用いて、各センサに対する実質一定温度の微気候を維持してもよい。しかしながら、ヒーターの使用の方が好ましい。というのは、ヒーターは、画像検出器の温度を周囲の気温より高くまで上昇させることを可能にし、故に、外部の気温変動がセンサ実装部に影響を及ぼすことが回避されるからである。
画像検出器は基板上にマウントされることができ、検出器を実質一定温度の微気候内に維持する助けとなるよう、画像検出器と結合されたヒーターに熱的に接続された1つ以上の伝導パッドが、画像検出器の外縁の周囲に配設され得る。
周囲温度を検出するよう動作可能な検出器を設けることができ、ヒーターは、検出された周囲温度より高い実質一定温度の微気候内に画像検出器を含ませるように構成されることができる。あるいは、他の実施形態において、ヒーターは、周囲温度の外部検出なしで、予期される周囲温度より高い温度まで画像検出器を加熱するように構成されてもよい。
一部の実施形態において、画像検出器は、ファンを含んだ筐体内に搭載されてもよく、筐体に通気孔が設けられ、ファンは、通気孔を介して筐体内に空気を引き込み、且つ画像検出器から離れた位置で筐体から空気を排出するように配置される。このような配置は、大いに、筐体の内部を一定温度に維持し、それにより、画像検出器に隣接するヒーター又は冷却器によって補償される必要がある温度変動を抑制する。他の実施形態において、空気の循環は、対流によって受動的(パッシブ)に達成されてもよい。一部の状況において、パッシブ循環を用いることによって、様々な温度の空気がカメラ内を引き通されること(筐体内に空気がアクティブに引き込まれるときに起こり得ることである)が回避されるとき、パッシブ循環の使用は有利となり得る。
一部の実施形態において、画像検出器によって撮像されることが可能な被写体上にスペックルパターンを投射するように構成されたスペックル投射器が筐体内に含められ、それにより、2つの画像検出器によって取得された画像の対応し合う部分を、より容易にマッチングすることができるようにされる。このようなシステムにおいて、好ましくは、スペックル投射器は、限られた程度しか筐体の内部を温めない光源を含む。1つの好適光源は発光ダイオードであり、特に、被写体に投射されるスペックルパターンに望ましい色に相当する色の発光ダイオードである。このようなシステムにおいて、スペックル投射器の使用により生じる加熱の影響は、筐体の外装上のヒートシンクを発光ダイオードに結合することによって更に抑制され得る。
一部の実施形態において、スペックル投射器の光源はハロゲンランプを有していてもよい。好ましくは、画像検出器は、そのような光源及び筐体内に含まれるその他の熱源から離して配置される。何れの実施形態においても、しかし特には、比較的大きい熱量を生成する例えばハロゲンランプなどの光源が使用される実施形態において、空気が、筐体に設けられた通気孔を介して引き込まれ、光源の傍を通ってから画像検出器から離れた位置で筐体の内部から排出される、ようにさせるよう配置されたファンを設けることができ、それにより、加熱された空気が筐体の内部から排出される。
典型的に、立体視カメラが患者監視システムの一部として使用される場合、患者の眼は赤色にあまり敏感でないので、これは赤色発光ダイオードである。他の例では、赤外光源が用いられてもよい。好ましくは、画像センサを収容した筐体の内部への光の反射及び熱の戻りをもたらし得るものである放射光のフィルタリングを必要としないよう、光源は所望の波長域の光を生成するものにされる。
一部の実施形態において、カメラシステムは更に、画像検出器から受信した画像データを処理するよう動作可能なプロセッサを有する。
そのような実施形態において、プロセッサは、或る画素及びその隣接画素の画素値の加重平均を決定することによって、画像検出器から受信した画像データを処理するよう動作可能とし得る。より具体的には、プロセッサは、隣接し合う画素のブロックにガウス分布ブラーの近似を適用することによって、画像データを処理するよう動作可能である。このようにして画像データを処理することにより、画像データ内のランダムな熱的誤差が画像データから実質的に除去され得る。何故なら、画像データをぼやかすことの作用によってランダム誤差が相殺されるからであり、それにより、2つの画像検出器によって取得された画像間でのマッチングが容易化される。
一部の実施形態において、画像データに適用されるガウス分布ブラーは、中心の画素の画素値を1/4にスケーリングし、直接隣接した画素の画素値を1/8にスケーリングし、対角線上に隣接した画素の画素値を1/16にスケーリングすることによって、加重平均を決定することを有し得る。このような一実施形態において、画素値の全てのスケーリングが、除算を実行するのではなく論理シフトを実行することによって決定され、故に、少ない処理リソースを用いて迅速に実行され得る。
一部の実施形態において、プロセッサは、画像検出器によって撮像された画像の暗めの領域内の異なる光レベルに対応する画素値の差を増大させるように、第1の閾値より低い画素値をスケーリングすることによって、画像検出器から受信した画像データを処理するよう構成され得る。プロセッサはまた、画像検出器によって撮像された画像の明るめの領域内の異なる光レベルに対応する画素値の差を低減させるように、第2の閾値より高い画素値をスケーリングするとともに、第1の閾値と第2の閾値との間の画素値を、第1の閾値に対応するスケーリングされた値と、第2の閾値に対応するスケーリングされた値との間の値にマッピングし得る。
スペックル投射器によって投射されるスペックルパターンによって照明された被写体の画像データを取得するとき、明るい領域は概して、投射器によって十分に照らされた領域に相当する。しかしながら、暗めの領域は、投射されたパターンにおける暗めの領域、又は実質的に影の中にある領域の何れかに相当し得る。記載したように画像データをスケーリングすることにより、画像の暗めの領域内のコントラストが増大され、それにより、画像検出器によって取得された画像の対応し合う部分の特定が容易化される。
一部の実施形態において、上述のような画像値のスケーリングは、第1の閾値より低い値の画素値を2倍にし、第1の閾値と第2の閾値との間の画素値に一定値を加算し、そして、第2の閾値より高い画素値については、それを半分にした上で第2の一定値を加算することによって達成されることができる。このような一実施形態は、全ての処理が2進シフト演算と2進加算演算との組み合わせによって達成され、故に、少ない処理リソースを用いて迅速に実行され得るという利点を有する。
一部の実施形態において、画像検出器はnビットデータを生成するように構成されることができ、プロセッサは、カメラシステムからの送信に先立ってデータのビット長を短縮するよう構成され得る。故に、例えば、画像検出器が10ビットデータを生成し、8ビットデータがカメラシステムによって出力されてもよいし、あるいは、12ビットデータが生成されて10ビットデータが出力されてもよく、それにより、画像データをコンピュータ(そこで、画像検出器によって取得された画像の対応し合う部分が特定されて、それらの点に対応する表面の3D位置が決定される)に伝送するのに必要な時間が短縮される。
一部の実施形態において、送信されるデータの削減は、一部の最下位ビットを送信しないことでnビットデータを切り捨てることによって達成され得る。しかしながら、好ましくは、データを切り捨てるのではなく、ラウンド処理が実行される。何故なら、ラウンド処理は、画像データ内の異なるパターンが特定され得る程度を高め、キャプチャ画像のペア内の対応し合う点をマッチングすることの助けとなるからである。
この立体視カメラシステムは、患者監視システムの一部として含められ得る。そのようなシステムには、3D位置決定モジュールが設けることができ、3D位置決定モジュールは、立体視カメラシステムによって出力された画像データを処理して、異なる視点からの異なる画像検出器によってキャプチャされた画像の対応し合う部分を特定し、且つ画像の対応し合う部分に対応する点の3D位置を決定するよう動作可能にされる。
患者監視システムは更に、3D位置決定モジュールによって決定された点の3D位置に基づいて、表面の3Dコンピュータワイヤメッシュモデルを生成するよう動作可能なモデル生成モジュールと、生成されたモデルを、記憶されたモデル表面と比較するよう動作可能なマッチングモジュールとを有し得る。
以下では、添付の図面を参照して本発明の一実施形態を説明する。添付図面は以下を含んでいる。
本発明による立体視カメラシステムを組み込んだ患者モニタを模式的に示す図である。 図1のカメラシステムの外観を模式的に示す斜視図である。 図1の立体視カメラシステムの内部を模式的に示すブロック図である。 図1の立体視カメラシステムのメインプロセッサによって行われる処理を示すフロー図である。 熱雑音の効果を除去するように画像を処理するための平均化マスクを例示する図である。 図5の平均化マスクを実装するフィルタを模式的に示すブロック図である。 照明不足領域のコントラストを高めるスケーリングされた入力値と出力値との間の関係を例示するグラフである。
図1は、本発明の一実施形態による立体視カメラシステム10を組み込んだ患者モニタの模式図である。この実施形態において、立体視カメラシステム10は、配線12によってコンピュータ14に接続されている。コンピュータ14はまた、例えば放射線治療を適用するための線形加速器又は放射線治療を計画するためのx線シミュレータなどの治療装置16に接続されている。治療装置16の一部として機械式カウチ18が設けられ、治療中、この上に患者20が横になる。治療装置16及び機械式カウチは、コンピュータ14の制御下で機械式カウチ18と治療装置16との相対的な位置が、横方向、上下方向、長手方向、及び回転的に変化され得るように構成される。
使用時、立体視カメラシステム10が、機械式カウチ18の上に横になった患者20のビデオ画像を取得する。これらのビデオ画像は配線12を介してコンピュータ14に渡される。そして、コンピュータ14が、患者20の画像を処理して、患者20の表面のモデルを生成する。このモデルが、以前の治療セッション中に生成された患者20のモデルと比較される。患者20を位置決めするとき、現在のモデル表面と、以前のセッションから得られたターゲットモデル表面との間の差が特定され、これらの表面を揃える(アライメントする)のに必要な位置決め命令が決定されて機械式カウチ18に送られる。その後、治療中に、初期設定からの逸脱を特定することができ、その逸脱が閾値より大きい場合、患者が正常位置に戻ることができるまで治療を中断させる命令をコンピュータ14が治療装置16に送る。
コンピュータ14が、立体視カメラシステム10から受信した画像を処理するため、コンピュータ14は、ディスク22上で、あるいは通信ネットワークを介して電気信号24を受信することによって、の何れかで提供されるソフトウェアによって、多数の機能モジュール26−34へと構成される。認識されるように、図1に示された機能モジュール26−34は、特許請求に係る発明の作用の理解を助けるための単に概念的なものであり、特定の実施形態において、ソフトウェアのソースコード内のコードブロックに直接に対応しないことがある。他の実施形態において、図示された機能モジュール26−34によって実行される機能は、複数の異なるモジュール間で分割されてもよいし、複数の異なる機能のために同じモジュールの再利用によって実行されてもよい。
この実施形態において、機能モジュール26−34は、立体視カメラ10から受信した画像を処理する3D位置決定モジュール26と、3D位置決定モジュール26によって生成されたデータを処理して、該データを撮像表面の3Dワイヤメッシュモデルへと変換するモデル生成モジュール28と、撮像表面の3Dワイヤメッシュモデルを格納する生成モデル格納部(ストア)30と、以前に生成された3Dワイヤメッシュモデルを格納するターゲットモデル格納部(ストア)32と、生成モデルをターゲットモデルとマッチングする(合致させる)のに必要な回転及び並進を決定するマッチングモジュール34とを有している。
使用時、立体視カメラシステム10によって画像が取得されると、これらの画像が3D位置決定モジュール26によって処理されて、画像のペア(対)内の対応し合う点の3D位置が特定される。これは、3D位置決定モジュール26が、立体視カメラシステム10によって取得された画像ペア内の対応し合う点を特定し、そして、それらの点の3D位置を、取得された画像ペア内の対応し合う点の相対位置と、画像を取得する複数のカメラの相対位置を特定する格納データとに基づいて決定することによって達成される。
典型的に、対応し合う点の特定は、およそ16×16画素の画像パッチの分析に基づく。対応し合うパッチの特定及びマッチングを支援するため、後述するように、立体視カメラシステム10は、患者20の表面の異なる部分をより容易に区別することができるよう、撮像される患者20上にランダムあるいは疑似ランダムなスペックルパターン(斑点模様)を投射するように構成される。スペックルパターンの大きさは、異なる画像パッチで異なるパターンがはっきり見えることになるように選定される。
そして、3D位置決定モジュール26によって生成された位置データがモデル生成モジュール28に渡され、モデル生成モジュール28が、この位置データを処理して、立体視カメラ10によって撮像された患者の表面の3Dワイヤメッシュモデルを生成する。この実施形態において、3Dモデルは、3D位置決定モジュール26によって決定された3D位置群にモデルの頂点群が対応した、三角ワイヤメッシュモデルを有する。モデルが決定されると、それは生成モデル格納部30に格納される。
患者20の表面のワイヤメッシュモデルが格納されると、マッチングモジュール34が呼び出されて、立体視カメラ10によって取得されている現在画像に基づく生成モデルと、ターゲットモデル格納部32に格納された以前に生成された患者のモデル表面との間のマッチングのための並進及び回転を決定する。
決定された並進及び回転は、機械式カウチ18に命令として送られることができ、それにより、カウチは、患者18を、治療装置16に対して、以前に取り扱われたときにあったのと同じ位置に位置付けるようにされる。その後、立体視カメラ10は患者20を監視し続けることができ、位置に何らかの変化があると、更なるモデル表面を生成し、それら生成された表面をターゲットモデル格納部32に格納されたターゲットモデルと比較することによって、位置の変化を特定することができる。患者が適所を外れて動いたと決定された場合、治療装置16は停止されることができ、患者20は正常な位置に戻され、それにより、患者20の誤った部分を照射することが回避される。
隣接組織の照射は害を及ぼし得るため、異なる時点で取得された画像データの画像データの一貫性を最大化するように画像データをキャプチャすることが非常に重要である。本願の出願人は、データ一貫性を高め、ひいては、患者モニタリングを向上させる多数の開発を提案してきた。
図2は、カメラシステム10の外観の模式的な斜視図であり、図3は、本発明の一実施形態による立体視カメラシステム10の内部の模式的なブロック図である。
この実施形態において、カメラシステム10は、ヒンジ44を介してブラケット(据え付け具)42に接続された筐体40を有している。ブラケット42は、カメラシステム10を処置室の天井に固定位置で取り付けることを可能にし、ヒンジ44は、カメラシステム10が機械式カウチ18上の患者20を眺めるように配置されるよう、カメラシステム10の向きをブラケット42に対して相対的に合わせることを可能にする。
筐体40の前面48のそれぞれの端に、対を為すレンズ46が取り付けられている。これらのレンズ46は、筐体40内に含まれる画像検出器50の正面に位置付けられている。この実施形態において、画像検出器50はCMOSアクティブピクセルセンサを有している。他の実施形態において、電荷結合デバイスが使用されてもよい。画像検出器50は、レンズ46を介して患者20の画像をキャプチャするよう、レンズ46の背後に配置されている。
スペックル投射器52が、2つのレンズ46の間の筐体40の前面48の中央に設けられている。スペックル投射器52は、この実施形態においては12Wの赤色LED光を有する光源54を含んでいる。他の実施形態において、例えばハロゲンランプなど、その他の光源が使用されてもよい。
スペックル投射器52は、患者20の画像が2つの画像検出器によってキャプチャされるときに、それらキャプチャ画像の対応し合う部分を識別することができるよう、非反復スペックルパターンの赤外光を患者20に当てるように構成される。この目的のため、光源54からの光は、ランダムスペックルパターンがプリントされたフィルム56を介して導かれる。結果として、明るい領域と暗い領域とからなるパターンが患者20の表面に投射される。
筐体40の側壁60に一連に通気孔(ベント)58が設けられている。更なる通気孔(図示せず)が筐体40の背面62に設けられる。温度センサ(図示せず)に接続されたファン(図示せず)が筐体40内に含められる。温度センサは、筐体40の内部の大気温度を監視するように構成され、これが変化した場合、筐体40の側壁60の通気孔58を介して空気を引き込んで筐体40の背面62の通気孔を介して空気を吐き出すよう、ファンが作動される。斯くして、室温の空気の気流が発生され、筐体40内を循環し、筐体40の内部を実質的に一定の温度に維持する。
画像検出器にすぐ隣接しての、筐体40内での温度変動を最小化するため、空気が筐体40の内部に引き込まれるときにそれがセンサ50の傍を通って引き込まれないように、通気孔58は、センサ50から少し離して、筐体40の側壁に設けられる。むしろ、ファン及び温度センサを利用して、筐体40の内部の空気本体の温度が実質的に一定レベルに維持され、その際、センサ50に隣接する空気は、この空気本体との受動的な連通及び対流を介して一定温度に保たれる。通気孔58をセンサ50から離隔させることにより、ファンの始動及び停止は、センサ50に隣接しての急激な温度変化を生じさせない。
本願の出願人が認識したことには、温度に対する感度は、意外にも、立体視カメラに基づく患者監視システムの精度の低下の有意な原因である。温度の変化は、画像検出器50の位置に小さい変化を生じさせる。画像検出器の感度に起因して、或る画素に相当する画像の1つの部分が別の画素にレジストレーションされてしまうことに関して、この位置の変化は高いものである必要はない。故に、例えば、2.5マイクロメートルほどの小さい移動でも画像の一部分を隣接画素にレジストレーションさせ得ることが判明している。これが起こるとき、画像検出器50によって撮像される点の3D位置の精度は低下する。
この誤差源を実質的に排除するため、この実施形態においては、画像検出器50の各々が搭載された回路基板66の背面に取り付けて、ヒーター64が設けられている。さらに、回路基板上に、画像検出器50をメインプロセッサ72に接続するための配線70を可能にする1つの側を除いて画像検出器50を囲んで、一組の銅の伝導パッド68が配設されている。周囲の室温より高い温度まで熱くなるようにヒーター64が構成されるとき、ヒーター64及び伝導パッド68の効果は、画像検出器50を外部の温度変動から実質的に隔離することである。故に、実効的に、画像検出器50は自身の一定温度の微気候(マイクロクライミット)に包囲される。
これは特に、可能な限り遠くに画像検出器50がその他の外部熱源から離される場合に当てはまる。記載される実施形態において、これは、例えば、スペックル投射器52の光源54として赤色LEDを使用し、それ故に、例えば虹色電球が使用されるときに生じるような内部加熱を抑制することによって達成される。何故なら、赤色LEDは、必要な光量を生成するのに必要な電力が低いからであり、さらには、発光が比較的狭い波長域内でのみ生成されるので、その他の波長域の光を除去するために、筐体40のボディ内に光を反射して熱を戻すように作用するものである着色フィルムを含める必要がないからである。
さらに、画像検出器50に隣接した通気孔58の配置、及び検出器50から離れるように筐体40の背面62から出て行く気流の方向も、周囲温度の空気の一定な流れが検出器50の傍を通り、且つカメラシステム10の動作から生じる加熱が筐体40の背面62から吐き出されるので、画像検出器50が一定温度に維持され得る程度を増す。検出器50は、それにより、外側の熱源から大いに遮蔽され、ヒーター64によって決定される一定温度にとどまる。
次いで、画像検出器50による画像データのメインプロセッサ72への処理を、図4のフロー図を参照して説明する。
例えばCMOSアクティブピクセルセンサなどの画像検出器によって取得される画像データは、画像の一部の明るさ又は暗さを指し示す画素値のマトリックスを有する。典型的に、そのような画素値は、0から1024までの範囲の値を有する10ビット画素データであり、0は完全に暗い画像の画素を指し示し、1023は明るい白の画素を指し示す。
このような画像データがメインプロセッサ72によって受信されると、最初のステップ(s4−1)として、プロセッサは、マトリックス内の交互のコラムに関連する画像データを、それらのラインに補正係数を適用することによって修正する。
画像検出器としてCMOSアクティブピクセルセンサが使用される場合、読み出し性能を高めるよう、頻繁に、画像内の交互のコラムが別々に更新される。データが別々にキャプチャされて更新される場合、これは、交互のコラムの平均輝度が異なるというアーチファクトが画像内に現れることをもたらし得る。このようなアーチファクトを除去することができるよう、独立に更新されたコラムに対応するコラムの組の平均輝度が決定される。そして、各組の平均輝度を等しくさせる補正係数が決定され、決定された補正値を、画像検出器50によって出力された値に加算することによって、画像内のコラムの画素値が更新される。
画像内のインターリーブされたコラムの独立した更新に起因するアーチファクトを不具にするように画像データが補正されると、メインプロセッサは、画像データを処理して画像から熱雑音を除去する(s4−2)。
より具体的には、熱的効果によって画像値の誤差がランダムに生じ、画像検出器50から得られる値を僅かに上昇あるいは低下させる。これは、2つの画像検出器50によってキャプチャされた画像の対応し合う部分を特定することに困難をもたらし得る。
この誤差を除去するため、この実施形態において、メインプロセッサ72は、この誤差はランダムに発生するので、画素値の上昇をもたらす誤差の個数は、低下した画素値をもたらす誤差の個数と等しいはずである、という事実を利用する。
これは、ガウス分布のブラー(ぼやけ)を近似するマスクを用いて画素のグループ(集まり)のスケーリングされた平均を決定することによって達成される。好適なマスクを図5に例示する。
図5の例において、位置x,yの画素の画素値は、この位置x,yの画素の画素値の1/4と、位置(x−1,y)、(x+1,y)、(x,y−1)及び(x,y+1)の画素の画素値の和の1/8と、位置(x−1,y−1)、(x−1,y+1)、(x+1,y−1)及び(x+1,y+1)の画素の画素値の和の1/16と、の合計を計算することによって決定される。
画素の各々にランダム誤差εが付随する場合、9個の隣接画素にわたって誤差を足し合わせることの効果は、元々の画素における誤差を相殺することであるが、画像データの鮮鋭さの僅かな損失という犠牲を伴う。しかしながら、双方の画像検出器50から受信された画像データに同様の処理が行われる場合、この鮮鋭さの損失は、これらの画像の間で同じになり、故に、元々のランダムな熱的誤差とは違って、画像の対応し合う部分を特定することの容易さには影響しないことになる。
画像の鮮鋭さのこの小さい損失は、この平滑化アルゴリズムによって処理されるものより大きい画素の集まりを何らかのパッチマッチングアルゴリズムがマッチングするマッチングアルゴリズム処理には悪影響を及ぼさない。故に、例えば、本実施形態において、平滑化アルゴリズムは3×3ブロックの画素を処理するように構成される。このような処理は、例えば16×16画素の画像パッチのマッチングを行うパッチマッチングアルゴリズムには悪影響を及ぼさない。
認識されるように、上述のスケーリングされた合計を決定するとき、好適な2進加算演算及び2進シフト演算を行うのみで、ランダムな熱的誤差が除去された画像の画素値を決定することができ、故に、非常に迅速に、そのような誤差を除去すべく画像を処理することができる。より具体的には、4、8又は16による除算は、2、3又は3回の2進シフトを実行することによって決定されることができる。従って、上述のスケーリングによる平均化は、非常に少ない処理リソースを用いて迅速に実行されることができ、故に、ここで処理した画像データが、キャプチャ画像内の対応し合う点をマッチングする処理のためにコンピュータ14に転送されることができるようになるまでに、有意な遅延を課すものではない。
図5の平均化マスクを実装するのに好適な回路を図6に示す。この例において、回路は、2つのラッチ74、76と、2つのラインストア(格納部)78、80と、4つの2進加算器82−88の組とを有している。ラッチ74、76は、画素値データを、画像の次の画素が読み出されることを通知されるまで格納するように構成される。対照的に、ラインストア78、80の対は、画像データのうちラインのデータを格納し、そのデータを次のラッチに渡すとともに、データの個々のアイテムを1つずつ2進加算器86、88に出力するように構成される。2進加算器82−88は各々、一対の入力を受信し、出力値が一対の入力の和の1/2となるように、入力の和をシフトした結果で出力するように構成される。
最初、データが受信されるとき、それが第1のラッチ74へと読み込まれる。その後、画素データの次のアイテムが受信されるとき、第1のラッチ74内の以前のデータがリリースされて第2のラッチ76に渡されるとともに、新たなデータが第1のラッチ74に書き込まれる。従って、最初の2つのラッチ74、76の効果は、3つの隣接する画素の画素値に対応する値を最初の2つの2進加算器82、84に提供することである。このデータが利用可能にされると、これらの2進加算器のうちの一方82が、第1及び第3の画素値を加算し、その和の半分に一致する値を第2の2進加算器84に出力する。第2の2進加算器84は、この値を、処理されている画素の組内の第2の画素の値に加算し、その和の半分を出力する。
故に、例えば、画素値A、A及びAが受信される場合、第1の2進加算器82からの出力は(A+A)/2であり、第2の2進加算器84からの出力は(A+A)/4+A/2である。
この値が、ラインストアのうちの第1のもの78と第3の2進加算器86とに渡される。上述のように、2つのラインストア78、80は、画像データのうちのラインのデータを格納するように構成される。第1のラインストア78は、処理されている画像のラインのデータを、画像データの次のラインが読み出されることを指し示す信号に応答して、第2のラインストア80に渡すように構成される。さらに、ラインストア78、80は、データの個々のアイテムを1つずつ第3及び第4の加算器86、88に出力するように構成され、その都度、データの新たなアイテムがラッチに受け入れられる。これの効果は、データが1つ又は2つのラインだけ遅延されることを除いて第1及び第2のラッチ74、76並びに加算器82、84による画素データの個々のアイテムの処理と同様にして、ラインストア78、80がデータのアイテムを出力し、2進加算器86、88が或るラインの3つの隣接する画素について計算されたデータを処理することである。
故に、第1のライン内の画素値A、A、Aと、第2のライン内の画素値B、B、Bと、第3のライン内の画素値C、C、Cとを有する画像の部分を処理する場合、第3の2進加算器86からの出力は(A+A)/8+A/4+(C+C)/8+C/4であり、これが第4の2進加算器88に渡される。第4の2進加算器がこのデータを受け取ると、このデータは、第2の2進加算器84によって出力されて第1のラインストア78に格納された、(B+B)/4+B/2となる画像の第2のラインを処理した結果と結合され、その結果、出力される最終値は、(A+A)/16+A/8+(B+B)/8+B/4+(C+C)/16+C/8、すなわち、3×3ブロックの画素の要求されたスケーリングされた和になる。
キャプチャされた画像データが、熱雑音の効果を抑制するように処理されると、メインプロセッサは、照明不足領域のコントラストを高めるように画像内の画素の画像データを再スケーリングすることへと進む(s4−3)。
上述のように、2つの画像検出器50によって取得された画像内の対応し合う点を3D位置決定モジュール26が特定することができるようにするため、スペックル投射器52が、患者20の表面に非反復(例えば、ランダムあるいは疑似ランダム)スペックルパターンを投射する。患者20がスペックル投射器52によって直接的に照らされる場合、これは、患者の表面を、照明領域に対応する明るい領域と、投射されたスペックルパターン内の暗黒領域に対応する暗い領域と、の何れかとして出現させることになり、これら2つの間で区別を行うことは容易である。しかしながら、あまり十分に照らされない患者の表面の部分(例えば、影の領域)では、照らされた領域と、投射されたスペックルパターン内の暗い箇所に対応する領域との間の見た目の差は、そのように大きくはならない。
故に、取得された画像内の対応し合う点がマッチングされることが可能な程度を高めるために、この実施形態において、熱雑音を除去した後に得られた画素値が、以下のようにしてスケーリングされる:
1) 128未満の全ての画素値が、論理シフト左を実行することによって2倍にされる
故に、例えば、2進数画素値12:0000001100は、2進画素値24:0000011000になるように処理される。
2) 128と768との間の全ての画素値が、元の画素値に128を加算することによって増大される
故に、例えば、2進数画素値296:0100101000は、2進画素値424:0110101000になるように処理される。
3) 768と1024との間の全ての画素値が、論理シフト右を実行することによって半分にされるとともに、その結果に512が加算される
故に、例えば、2進数画素値998:1111100110は、2進画素値1011:1111110011になるように処理される。
図7は、上述のようにしてスケーリングされた入力値と出力値との間の関係を例示するグラフである。
明らかなように、この処理の効果は、128未満の値を有する画素同士の間の差が増大され、且つ768を超える値を有する画素同士の間の差が低減されるように、元の入力値をマッピングすることである。
患者の表面上の点に対応する多くの点を特定できることが望ましい。本願の出願人が認識したことには、患者20の部分が十分に照らされる場合には、投射されたスペックルパターンの明るい領域と暗い領域との間の区別を行うことは、これらの領域におけるコントラストが低下されていても依然として可能である。このことは、投射されたスペックルパターンの明るい領域と暗い領域との間の差が小さくなり得る不十分な照明領域では対照的となる。故に、上述の処理は、3D位置決定モジュール26がマッチングし得る取得画像ペア内の対応し合う点の数を増加させるという効果を有する。
画素値をスケーリング(s4−3)すると、メインプロセッサ72は、より高速なデータ伝送のために、画素値をラウンド処理(s4−4)し、それにより10ビットデータを8ビットデータに変換することによって、コンピュータ14へと送信されるべきデータの量を削減することに進む。
そのようなデータサイズの縮小を達成する1つの選択肢は、2つの最下位ビットを無視することによって10ビットデータを切り捨てることである。これは、所望のデータ削減を達成し得るものの、それらの最下位ビットに含まれた如何なる情報をも捨て去ることを伴う。故に、この理由により、切り捨て処理を実行することよりむしろ、ラウンド(丸め)処理が好ましい。何故なら、ラウンド処理は、最下位ビットに保持された情報を利用することを可能にし、それにより、ポイント(点)マッチングの精度が向上されるからである。
ラウンド処理を実行すると、メインプロセッサ72は、処理したデータを、配線12を介してコンピュータ14に送信することに進み(s4−5)、そこで3D位置決定モジュール26が、受信したデータを処理して、2つの画像検出器50によってキャプチャされた画像の対応し合う点を特定するとともに、この対応関係と、画像検出器50の相対的な位置付けについての情報とを用いて、撮像された患者20の表面上の点の3D位置を決定する。処理した画像データをコンピュータ14に送信すると、メインプロセッサ72は、処理のために、2つの画像検出器50から次フレームの画像データを取得することに進む。斯くして、コンピュータ14は、患者20の動作及び位置をリアルタイムに監視することができる。
更なる実施形態及び変形
上述の実施形態においては、LED光源を含むスペックル投射器52を含んだカメラシステムを説明したが、認識されるように、例えばハロゲンランプなどの他の光源が使用されてもよい。また、認識されるように、上述の実施形態においては、システムのボディ内に温度センサ及びファンが含められたシステムを説明したが、一部の実施形態において、温度センサ及びファンは省略されてもよい。
これまた認識されるように、筐体40の内部での熱の蓄積を抑制するために空気の循環を用いることの代わりとして、あるいはそれに加えて、一部の実施形態において、例えばLED光源54又はプロセッサ72などの熱源に、筐体40の外装に設けられた1つ以上のヒートシンクを結合することで、光源54又はプロセッサ72によって生じる筐体40の内部での加熱が実質的に排除されるようにしてもよい。
上述の実施形態においては、画像データは熱雑音の効果を抑制するように処理されるものとして説明したが、一部の実施形態において、画像の一部のみを上述のように処理することが好ましいこともある。特に、低い照明の領域に対応する画像部分のみを処理することが好ましいことがある。それは何故なら、画像が十分に照明されているところでは、熱的誤差の相対的な大きさが遥かに重要でないものになるからである。
そのような一実施形態において、例えば図6に示したものなどの変更フィルタシステムが使用され得る。より具体的には、図示したシステムは、第1のラッチ74からの未処理データが、更なるラインストアに格納され、第4の2進加算器88の出力と同期されたフィルタリング無しバージョンの画像データを提供するようにリリースされる、ように変更され得る。システムは、画像の領域内の認識された照明レベルに応じて、処理されたデータと処理されていないデータとの間で選択を行い得る。
上述の実施形態においては、画像処理は立体視カメラシステム10及びコンピュータ14の中で行われるとして説明したが、認識されるように、上述の処理は、その全体がこれらの一方又は他方にて行われてもよいし、立体視カメラシステム10とコンピュータ14との間で分割されてもよい。
また、認識されるように、立体視カメラシステム内での処理はメインプロセッサ72によって処理されることで行われるとして説明したが、この処理が、プログラマブルアレイによって行われる処理により行われてもよいし、あるいは、好適なソフトウェアによって行われてもよい。
図面を参照して説明した本発明の実施形態は、コンピュータ装置、及びコンピュータ装置にて実行されるプロセスを有するが、本発明はまた、本発明を実現するように適応されたコンピュータプログラム、特に、キャリア上又はその中のコンピュータプログラムに及ぶ。プログラムは、ソースコード若しくはオブジェクトコードの形態、又は本発明に従ったプロセスの実装に使用されるのに適したその他の形態にあるとし得る。上記キャリアは、プログラムを担持することが可能な如何なるエンティティ又は装置であってもよい。
例えば、キャリアは、例えばCD−ROM若しくは半導体ROMといったROM、又はフロッピーディスク(登録商標)若しくはハードディスクといった磁気記録媒体などの、記憶媒体を有し得る。また、キャリアは、例えば電気ケーブル若しくは光ケーブルを介して、あるいは無線若しくはその他の手段によって伝達され得る電気信号若しくは光信号などの、伝送可能なキャリアであってもよい。プログラムがケーブル又はその他の装置若しくは手段によって直接的に伝達され得る信号にて具現化されるとき、キャリアはそのようなケーブル又はその他の装置若しくは手段によって構成され得る。
他の例では、キャリアは、プログラムが組み込まれる集積回路であってもよく、集積回路は、関連するプロセスを実行するように、あるいはその実行にて使用されるように適応される。

Claims (28)

  1. 第1の視点から被写体の画像を取得する第1の画像検出器と、
    前記第1の画像検出器の前記視点に対して固定された第2の視点から被写体の画像を取得する第2の画像検出器と
    を有し、
    前記画像検出器の各々が、実質的に一定の温度の微気候内に含まれるように配置されている、
    立体視カメラシステム。
  2. 前記画像検出器は各々、該画像検出器を実質的に一定の温度に維持するよう動作可能なヒーター又は冷却器と結合されることによって、実質的に一定の温度の微気候内に含まれるように配置されている、請求項1に記載の立体視カメラシステム。
  3. 前記画像検出器は各々、基板上に搭載され、該画像検出器と結合されたヒーター又は冷却器に熱的に接続された1つ以上の伝導パッドが、該画像検出器の外縁の周囲に配設されている、請求項1に記載の立体視カメラシステム。
  4. 当該立体視カメラシステムは更に、周囲温度を検出するよう動作可能な検出器を有し、前記ヒーターは、検出された周囲温度より高い実質的に一定の温度の微気候内に前記画像検出器を含ませるように構成されている、請求項2に記載の立体視カメラシステム。
  5. 前記第1及び第2の視点から視認可能な被写体上にスペックルパターンを投射するように構成されたスペックル投射器、を更に有する請求項1に記載の立体視カメラシステム。
  6. 前記スペックル投射器はハロゲンランプを有し、前記スペックル投射器及び前記画像検出器は、ファンとともに筐体内に搭載され、前記筐体に通気孔が設けられ、前記ファンは、空気が前記通気孔を介して引き込まれ且つ前記ハロゲンランプを通って前記画像検出器から離隔された位置で排出される、ようにさせるよう配置されている、請求項5に記載の立体視カメラシステム。
  7. 前記スペックル投射器は発光ダイオードを有し、前記スペックル投射器及び前記画像検出器は、筐体内に搭載され、前記発光ダイオードは、前記筐体の外装上のヒートシンクと結合されている、請求項5に記載の立体視カメラシステム。
  8. 前記画像検出器から受信した画像データを処理するよう動作可能なプロセッサ、を更に有する請求項1に記載の立体視カメラシステム。
  9. 前記プロセッサは、或る画素及びその隣接画素の画素値の加重平均を決定することによって、前記画像検出器から受信した画像データを処理するよう動作可能である、請求項8に記載の立体視カメラシステム。
  10. 前記プロセッサは、隣接し合う画素のブロックにガウス分布ブラーの近似を適用することによって、画像データを処理するよう動作可能である、請求項9に記載の立体視カメラシステム。
  11. 前記加重平均は、中心の画素の画素値を1/4にスケーリングし、直接隣接した画素の画素値を1/8にスケーリングし、対角線上に隣接した画素の画素値を1/16にスケーリングすることを有する、請求項10に記載の立体視カメラシステム。
  12. 前記プロセッサは、前記画像検出器によって撮像された画像の暗めの領域内の異なる光レベルに対応する画素値の差を増大させるように、第1の閾値より低い画素値をスケーリングすることによって、前記画像検出器から受信した画像データを処理するよう動作可能である、請求項8に記載の立体視カメラシステム。
  13. 前記プロセッサは、前記画像検出器によって撮像された画像の明るめの領域内の異なる光レベルに対応する画素値の差を低減させるように、第2の閾値より高い画素値をスケーリングすることによって、前記画像検出器から受信した画像データを処理するよう動作可能である、請求項12に記載の立体視カメラシステム。
  14. 前記プロセッサは、前記第1の閾値と前記第2の閾値との間の画素値を伴う前記画像検出器から受信した画像データを、該画素値を、前記第1の閾値に対応する前記スケーリングされた値と、前記第2の閾値に対応する前記スケーリングされた値との間の値にマッピングすることによって処理するよう動作可能である、請求項13に記載の立体視カメラシステム。
  15. 前記プロセッサは、画像データの最下位側ビットを除去することで画素値を切り捨てることによって、当該カメラシステムからの送信に先立って画像データのビット長を短縮するよう動作可能である、請求項8に記載の立体視カメラシステム。
  16. 前記プロセッサは、画像データの最下位側ビットを利用して、画像内の画素の画像データの、より上位側ビットのラウンド処理を決定することによって、当該カメラシステムからの送信に先立って画像データのビット長を短縮するよう動作可能である、請求項8に記載の立体視カメラシステム。
  17. 第1の視点から被写体の画像を取得する第1の画像検出器、及び前記第1の画像検出器の前記視点に対して固定された第2の視点から被写体の画像を取得する第2の画像検出器であり、
    前記画像検出器の各々が、実質的に一定の温度の微気候内に含まれるように配置されている、
    第1及び第2の画像検出器と、
    立体視カメラシステムによって出力された画像データを処理して、相異なる視点から相異なる画像検出器によってキャプチャされた画像の対応し合う部分を特定し、且つ画像の前記対応し合う部分に対応する点の3D位置を決定する、よう動作可能な3D位置決定モジュールと、
    を有する患者監視システム。
  18. 前記3D位置決定モジュールによって決定された前記点の3D位置に基づいて、表面の3Dコンピュータワイヤメッシュモデルを生成するよう動作可能なモデル生成モジュールと、
    生成されたモデルを、記憶されたモデル表面と比較するよう動作可能なマッチングモジュールと、
    を更に有する請求項17に記載の患者監視システム。
  19. 被写体の表面上の点の3D位置を決定するコンピュータ実行される方法であって、
    第1の視点と、前記第1の視点に対して固定された第2の視点とから被写体の画像を取得するステップであり、前記画像は、各画素が付随する画素値を有する複数の画素のマトリックスを有する、ステップと、
    コンピュータを用いて、取得された画像の画素に関して、或る画素及びその隣接画素の画素値の加重平均を決定することによって、前記画像を処理するステップと、
    コンピュータを用いて、画素値の前記加重平均に基づいて、第1の視点からの被写体と第2の視点からの被写体との対応し合う部分を特定するステップと、
    コンピュータを用いて、前記処理された画像の前記対応し合う部分に対応する点の3D位置を決定するステップと、
    を有する方法。
  20. 取得された画像の画素に関して、或る画素及びその隣接画素の画素値の加重平均を決定することによって、前記画像を処理するステップは、隣接し合う画素のブロックにガウス分布ブラーの近似を適用することによって画像データを処理することを有する、請求項19に記載の方法。
  21. 前記加重平均は、中心の画素の画素値を1/4にスケーリングし、直接隣接した画素の画素値を1/8にスケーリングし、対角線上に隣接した画素の画素値を1/16にスケーリングすることを有する、請求項20に記載の方法。
  22. 取得された画像の暗めの領域内の異なる光レベルに対応する画素値の差を増大させるように、第1の閾値より低い画素値をスケーリングすること、を更に有する請求項19に記載の方法。
  23. 取得された画像の明るめの領域内の異なる光レベルに対応する画素値の差を低減させるように、第2の閾値より高い画素値をスケーリングすること、を更に有する請求項22に記載の方法。
  24. 前記第1の閾値と前記第2の閾値との間の画素値を、前記第1の閾値に対応する前記スケーリングされた値と、前記第2の閾値に対応する前記スケーリングされた値との間の値にマッピングすること、を更に有する請求項23に記載の方法。
  25. 前記画素値はnビットデータを有し、前記画素値は、第1の視点からの被写体と第2の視点からの被写体との対応し合う部分を特定ために使用されるのに先立って、最下位側ビットを除去することによって切り捨てられる、請求項19に記載の方法。
  26. 前記画素値はnビットデータを有し、前記画素値は、第1の視点からの被写体と第2の視点からの被写体との対応し合う部分を特定ために使用されるのに先立って、前記画素値のより上位側ビットのラウンド処理に基づいてビット長を短縮される、請求項19に記載の方法。
  27. 画素値の前記加重平均に基づいて、第1の視点からの被写体と第2の視点からの被写体との対応し合う部分を特定するステップは、画像の合致する部分を特定することを有し、該部分の大きさは、或る画素及びその隣接画素の画素値の加重平均を決定するために使用される画像の領域より大きい、請求項19に記載の方法。
  28. コンピュータ解釈可能な命令を格納した非一時的なコンピュータ読み取り可能媒体であって、前記命令は、プログラマブルコンピュータによって解釈されるときに、該コンピュータに、
    第1の視点と、前記第1の視点に対して固定された第2の視点とから取得された被写体の画像を受信させ、前記画像は、各画素が付随する画素値を有する複数の画素のマトリックスを有し、
    前記画像の画素に関して、前記画像内の或る画素及びその隣接画素の画素値の加重平均を決定することによって、前記受信された画像を処理して、処理された画像を生成させ、
    前記処理された画像内の画素の値に基づいて、第1の視点からの被写体と第2の視点からの被写体との対応し合う部分を特定させ、且つ
    前記加重平均された画像の前記対応し合う部分に対応する点の3D位置を決定させる、
    コンピュータ読み取り可能媒体。
JP2015507598A 2012-04-26 2013-04-25 3dカメラシステム Active JP6265971B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
GB1207299.7 2012-04-26
GB1207299.7A GB2501516B (en) 2012-04-26 2012-04-26 3D Camera system
PCT/GB2013/051047 WO2013160682A1 (en) 2012-04-26 2013-04-25 3d camera system

Publications (2)

Publication Number Publication Date
JP2015515350A true JP2015515350A (ja) 2015-05-28
JP6265971B2 JP6265971B2 (ja) 2018-01-24

Family

ID=46261888

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015507598A Active JP6265971B2 (ja) 2012-04-26 2013-04-25 3dカメラシステム

Country Status (6)

Country Link
US (2) US9736465B2 (ja)
EP (1) EP2841158B1 (ja)
JP (1) JP6265971B2 (ja)
CN (1) CN104245046B (ja)
GB (2) GB2501516B (ja)
WO (1) WO2013160682A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018192253A (ja) * 2017-05-17 2018-12-06 ビジョン アールティ リミテッド 患者モニタリングシステム
JP2019188137A (ja) * 2018-04-18 2019-10-31 ビジョン アールティ リミテッド ボアベースの医療システムにおいて患者を監視するためのカメラ監視システム及びカメラ監視システムを較正する方法

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11576578B2 (en) * 2015-03-02 2023-02-14 Shanghai United Imaging Healthcare Co., Ltd. Systems and methods for scanning a patient in an imaging system
CN104644205A (zh) 2015-03-02 2015-05-27 上海联影医疗科技有限公司 用于影像诊断的患者定位方法及系统
US11576645B2 (en) * 2015-03-02 2023-02-14 Shanghai United Imaging Healthcare Co., Ltd. Systems and methods for scanning a patient in an imaging system
US9849306B2 (en) * 2016-03-21 2017-12-26 Varian Medical Systems International Ag Systems and methods for generating beam-specific planning target volume design outputs
US10272265B2 (en) 2016-04-01 2019-04-30 Varian Medical Systems International Ag Collision avoidance for radiation therapy
US9789338B1 (en) 2016-04-13 2017-10-17 Vision Rt Ltd. Patient monitoring system
DE202016004550U1 (de) * 2016-07-21 2016-08-05 Carl Zeiss Optotechnik GmbH 3D-Messgerät
KR101775110B1 (ko) * 2016-10-19 2017-09-05 (주)플럭스플래닛 고품질 텍스처 획득 방법 및 이를 위한 장치
US11006852B2 (en) * 2017-12-11 2021-05-18 Covidien Lp Systems, methods, and computer-readable media of estimating thoracic cavity movement during respiration
GB201802597D0 (en) 2018-02-16 2018-04-04 Vision Rt Ltd A calibration object for calibrating a patient monitoring system
CN109464757B (zh) 2018-12-29 2021-07-20 上海联影医疗科技股份有限公司 一种确定目标对象位置的方法、系统、装置及存储介质
CN111768450B (zh) * 2020-06-10 2023-10-13 合肥的卢深视科技有限公司 基于散斑图的结构光相机行偏差的自动检测方法和装置

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5843668A (ja) * 1981-09-10 1983-03-14 Sankyo Co Ltd 固形剤外観検査装置における撮像デバイスの温度制御装置
US6493095B1 (en) * 1999-04-13 2002-12-10 Inspeck Inc. Optional 3D digitizer, system and method for digitizing an object
EP1646249A1 (en) * 2004-10-08 2006-04-12 Dialog Semiconductor GmbH Single chip stereo image pick-up system with dual array design
JP2007259306A (ja) * 2006-03-24 2007-10-04 Univ Waseda 予測器及び画像符号化器
JP2007307224A (ja) * 2006-05-19 2007-11-29 Ushio Inc 光線治療装置
US20080011950A1 (en) * 2006-07-17 2008-01-17 General Electric Company PET detector methods and apparatus
JP2008204318A (ja) * 2007-02-22 2008-09-04 Advanced Telecommunication Research Institute International 画像処理装置、画像処理方法及び画像処理プログラム
US20100198112A1 (en) * 2007-07-13 2010-08-05 C-Rad Positioning Ab Patient monitoring at radiation machines
JP4551090B2 (ja) * 2002-02-20 2010-09-22 メディシス テクノロジーズ コーポレイション 脂肪組織の超音波処理および画像化
JP4718614B2 (ja) * 2005-11-18 2011-07-06 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング 光学式レインセンサが組み込まれているヘッドライトモジュール
JP2012520152A (ja) * 2009-03-13 2012-09-06 ケー−スペース エルエルシー 医療用の対話型mriシステムおよび患者の不安軽減ディストラクションシステム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05316407A (ja) * 1992-05-13 1993-11-26 Hitachi Denshi Ltd 撮像素子の恒温化方法
JP3816992B2 (ja) * 1996-08-29 2006-08-30 株式会社日立メディコ X線検出器恒温化装置
GB2368221A (en) * 2000-08-31 2002-04-24 Lee Scott Friend Camera apparatus having both omnidirectional and normal view imaging modes.
GB2390792B (en) 2002-07-08 2005-08-31 Vision Rt Ltd Image processing system for use with a patient positioning device
CN100543426C (zh) * 2003-07-15 2009-09-23 塞德拉公司 用于补偿科里奥利计的设备和方法
GB2464856B (en) 2004-09-24 2010-06-30 Vision Rt Ltd Image processing system for use with a patient positioning device
CN101232572B (zh) * 2007-01-23 2010-05-26 展讯通信(上海)有限公司 一种数字图像降噪方法和装置
JP5110356B2 (ja) 2007-07-10 2012-12-26 オムロン株式会社 検出装置および方法、並びに、プログラム
US8264537B2 (en) * 2007-09-28 2012-09-11 The Mainz Group Llc Photogrammetric networks for positional accuracy
WO2010092366A1 (en) * 2009-02-12 2010-08-19 Vision Rt Limited Patient monitor and method
US20100231483A1 (en) 2009-03-13 2010-09-16 K-Space Llc Interactive mri system and subject anxiety relief distraction system for medical use
KR101131998B1 (ko) * 2010-01-08 2012-03-30 (주)한비젼 3차원 이미지 센서 및 그를 구비하는 입체영상 카메라

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5843668A (ja) * 1981-09-10 1983-03-14 Sankyo Co Ltd 固形剤外観検査装置における撮像デバイスの温度制御装置
US6493095B1 (en) * 1999-04-13 2002-12-10 Inspeck Inc. Optional 3D digitizer, system and method for digitizing an object
JP4551090B2 (ja) * 2002-02-20 2010-09-22 メディシス テクノロジーズ コーポレイション 脂肪組織の超音波処理および画像化
EP1646249A1 (en) * 2004-10-08 2006-04-12 Dialog Semiconductor GmbH Single chip stereo image pick-up system with dual array design
JP4718614B2 (ja) * 2005-11-18 2011-07-06 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング 光学式レインセンサが組み込まれているヘッドライトモジュール
JP2007259306A (ja) * 2006-03-24 2007-10-04 Univ Waseda 予測器及び画像符号化器
JP2007307224A (ja) * 2006-05-19 2007-11-29 Ushio Inc 光線治療装置
US20080011950A1 (en) * 2006-07-17 2008-01-17 General Electric Company PET detector methods and apparatus
JP2008204318A (ja) * 2007-02-22 2008-09-04 Advanced Telecommunication Research Institute International 画像処理装置、画像処理方法及び画像処理プログラム
US20100198112A1 (en) * 2007-07-13 2010-08-05 C-Rad Positioning Ab Patient monitoring at radiation machines
JP2012520152A (ja) * 2009-03-13 2012-09-06 ケー−スペース エルエルシー 医療用の対話型mriシステムおよび患者の不安軽減ディストラクションシステム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018192253A (ja) * 2017-05-17 2018-12-06 ビジョン アールティ リミテッド 患者モニタリングシステム
JP2019188137A (ja) * 2018-04-18 2019-10-31 ビジョン アールティ リミテッド ボアベースの医療システムにおいて患者を監視するためのカメラ監視システム及びカメラ監視システムを較正する方法
US11612762B2 (en) 2018-04-18 2023-03-28 Vision Rt Limited 3D stereoscopic camera monitoring system and method of calibrating a camera monitoring system for monitoring a patient in a bore of a medical system for radiation treatment
JP7326009B2 (ja) 2018-04-18 2023-08-15 ビジョン アールティ リミテッド ボアベースの医療システムにおいて患者を監視するためのカメラ監視システム及びカメラ監視システムを較正する方法

Also Published As

Publication number Publication date
CN104245046B (zh) 2017-04-26
EP2841158B1 (en) 2021-06-16
US20150062303A1 (en) 2015-03-05
WO2013160682A1 (en) 2013-10-31
GB201207299D0 (en) 2012-06-06
CN104245046A (zh) 2014-12-24
GB2501516A (en) 2013-10-30
US9736465B2 (en) 2017-08-15
EP2841158A1 (en) 2015-03-04
GB2549022A (en) 2017-10-04
US20170310953A1 (en) 2017-10-26
GB2549022B (en) 2017-11-29
GB201709931D0 (en) 2017-08-02
JP6265971B2 (ja) 2018-01-24
GB2501516B (en) 2017-11-29

Similar Documents

Publication Publication Date Title
JP6265971B2 (ja) 3dカメラシステム
JP7135064B2 (ja) 医用撮像中の患者構造推定のためのシステムおよび方法
JP6641365B2 (ja) 放射線照射装置、並びに放射線照射装置の制御方法およびプログラム
JP6168879B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
JP6340488B1 (ja) 放射線量モニタリングシステム
CN1200567C (zh) 用于观察高温物体的光学观察装置和方法
CN106999727B (zh) 标定用于放射治疗设备的患者监测系统的方法
US20150145966A1 (en) 3d corrected imaging
JP6896649B2 (ja) 画素単位減衰因子を導き出すために色空間情報を用いる周囲光抑制
KR101742049B1 (ko) 적외선 마이봄샘 촬영장치 및 마이봄샘 촬영방법
US11583235B2 (en) Computed tomography and positioning of the anatomy desired to be imaged
TW201542170A (zh) 結合深度攝影機的x光機曝光參數自動控制裝置及方法
JP2017105431A (ja) 車両用撮影装置、及び、車両用撮影システム
US20180333081A1 (en) Patient monitoring system
US10491789B2 (en) Multi-light apparatus and method for imaging a subject
TWI708214B (zh) 醫用畫像處理裝置、醫用畫像處理方法及程式
JP6641065B2 (ja) コンピュータ断層撮影x線イメージング
JP2018141681A (ja) 距離測定装置
JP3504292B2 (ja) X線検査装置
JP2009254479A (ja) 光環境評価方法および光環境評価システム
JP2023049750A (ja) 紫外線照射システム
JPH04134568A (ja) 放射線画像処理装置
CN116919591A (zh) 一种光学成像装置及成像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160328

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170627

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171128

R150 Certificate of patent or registration of utility model

Ref document number: 6265971

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250