JP2012189689A - 撮影画像合成表示装置および画像合成提示システム - Google Patents

撮影画像合成表示装置および画像合成提示システム Download PDF

Info

Publication number
JP2012189689A
JP2012189689A JP2011051612A JP2011051612A JP2012189689A JP 2012189689 A JP2012189689 A JP 2012189689A JP 2011051612 A JP2011051612 A JP 2011051612A JP 2011051612 A JP2011051612 A JP 2011051612A JP 2012189689 A JP2012189689 A JP 2012189689A
Authority
JP
Japan
Prior art keywords
image
tomographic
subject
group
tomographic image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011051612A
Other languages
English (en)
Inventor
Fumio Okano
文男 岡野
Atsushi Arai
淳 洗井
Takayuki Yamashita
誉行 山下
Junichi Yamazaki
順一 山崎
Yutaka Tomita
豊 冨田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
NHK Engineering System Inc
Original Assignee
Nippon Hoso Kyokai NHK
NHK Engineering Services Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, NHK Engineering Services Inc filed Critical Nippon Hoso Kyokai NHK
Priority to JP2011051612A priority Critical patent/JP2012189689A/ja
Publication of JP2012189689A publication Critical patent/JP2012189689A/ja
Withdrawn legal-status Critical Current

Links

Images

Abstract

【課題】被写体を、眼の疲労が少ない立体像で表示しつつ、同一の視線上に被写体の断層画像を表示することが可能な撮影画像合成表示装置を提供する。
【解決手段】撮影画像合成表示装置3は、インテグラル方式の立体画像撮影装置1で撮影された要素画像群である被写体要素画像群と断層画像記憶装置2に予め記憶されている被写体の断層画像とを入力する画像入力手段30と、被写体要素画像群をインテグラル方式の立体像として表示する立体像表示手段330と、断層画像を表示する断層画像表示手段331と、立体像表示手段330が表示する映像光と断層画像表示手段331が表示する映像光とを光路上で合成する合成手段332と、を備えることを特徴とする。
【選択図】図6

Description

本発明は、実時間で撮影したインテグラル方式の3次元立体画像と、CT(Computed Tomography)等で得られる2次元断層画像とを合成して表示する撮影画像合成表示装置および画像合成提示システムに関する。
従来、医療行為である手術において、CT等によって患者の断層画像を予め撮影しておき、医者が、手術をする際に、その断層画像を参照して手術を行うことが一般的に行われている。しかし、手術の進行によって、例えば、脳神経外科手術において、脳組織や病変の偏位(ブレインシフト)によって、手術の部位は変化する。そのため、断層画像のみではリアルタイムに手術部位との対応関係を把握することが困難で、手術の途中に、手術の進行状況の確認を行うため、再度断層撮影装置で、断層画像を撮影することがしばしば行われている。
また、一方、微細な部位を手術するため、手術部位をカメラ撮影し、医者が、拡大された部位を画面で視認して手術を行うことが一般的に行われている。この場合、手術器具と手術部位との奥行き関係を把握して手術を行うため、手術部位を2眼式立体画像として撮影し、医者が、2眼式立体モニタを見ながら手術を行っている(特許文献1参照)。
特開平09−19441号公報
前記したように、2眼式立体画像と断層画像とは、独立して部位を観察する手段としての機能しか有していない。このように独立した機能では、手術者(医者)、補助者等が、それぞれの画像を別々に見る必要があるため、手術作業が煩雑になり、両画像を1つの表示装置に表示して、手術者、補助者等が同時に観察することが求められている。
また、2眼式立体モニタは、実際の立体像を見ているわけではなく、眼の輻輳機能によって立体感を感じているにすぎない。その結果、立体像を見る場合、輻輳点と眼のピントが一致せず、疲労が発生しやすく、長時間の手術では手術担当者に負担が強いられるという問題がある。
本発明は、以上のような問題点に鑑みてなされたものであり、被写体を、眼の疲労が少ない立体像で表示しつつ、同一の視線上に被写体の断層画像を表示することが可能な撮影画像合成表示装置および画像合成提示システムを提供することを課題とする。
本発明は、前記課題を解決するために創案されたものであり、まず、請求項1に記載の撮影画像合成表示装置は、インテグラル方式の立体画像撮影装置で被写体を撮影した画像と、予め断層撮影装置で前記被写体の断層面を撮影した画像とを合成して表示する撮影画像合成表示装置であって、断層画像入力手段と、被写体画像入力手段と、画像レベル変更手段と、立体像表示手段と、断層画像表示手段と、合成手段と、を備える構成とした。
かかる構成において、撮影画像合成表示装置は、断層画像入力手段によって、断層撮影装置で撮影された被写体の複数の断層画像を予め記憶した断層画像記憶装置から、断層画像を入力する。この断層画像は、予め被写体の断層面をCT等によって撮影した2次元断層画像である。
また、撮影画像合成表示装置は、被写体画像入力手段によって、立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する。この要素画像群(被写体要素画像群)は、立体画像撮影装置の要素レンズ群(レンズアレー)で撮影された個々の要素画像が要素レンズ分配列した画像である。
さらに、撮影画像合成表示装置は、画像レベル変更手段によって、外部から、断層画像および被写体要素画像群のそれぞれの画像レベルを入力し、断層画像および被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する。この画像レベルは、映像信号の出力レベル、輝度レベル等である。この画像レベル変更手段は、後記する断層画像表示手段や立体像表示手段によって、それぞれの画像(断層画像および被写体要素画像群)を表示する際に、一方の画像レベルを最小値(例えば“0”)、他方の画像レベルを最大値(例えば“100”)と設定されることで、後記する合成手段によって、いずれか一方のみを表示させることができる。あるいは、それぞれの画像レベルを最小値よりも大きい任意のレベルと設定されることで、それぞれの画像(断層画像および被写体要素画像群)を、それぞれの画像レベルに応じて合成した中間画像として表示させることができる。
そして、撮影画像合成表示装置は、立体像表示手段によって、画像レベル変更手段で画像レベルが変更された被写体要素画像群を、複数の要素レンズからなる要素レンズ群を介して表示する。これによって、被写体が立体像として再生されることになる。また、撮影画像合成表示装置は、断層画像表示手段によって、画像レベル変更手段で画像レベルが変更された断層画像を表示する。これによって、2次元の断層画像が表示されることになる。
そして、撮影画像合成表示装置は、合成手段によって、立体像表示手段が表示する被写体要素画像群の映像光と断層画像表示手段が表示する断層画像の映像光とを光路上で合成する。この合成には、例えば、ハーフミラーやプリズムを用いて、2つの映像光を合成する。これによって、同一の視線方向において、被写体の立体像と断層画像とが視認されることになる。
また、請求項2に記載の撮影画像合成表示装置は、インテグラル方式の立体画像撮影装置で被写体を撮影した画像と、予め断層撮影装置で前記被写体の断層面を撮影した画像とを合成して表示する撮影画像合成表示装置であって、断層画像入力手段と、被写体画像入力手段と、要素画像変換手段と、画像レベル変更手段と、合成手段と、立体像表示手段と、を備える構成とした。
かかる構成において、撮影画像合成表示装置は、断層画像入力手段によって、断層撮影装置で撮影された被写体の複数の断層画像を予め記憶した断層画像記憶装置から、断層画像を入力する。また、撮影画像合成表示装置は、被写体画像入力手段によって、立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する。
また、撮影画像合成表示装置は、要素画像変換手段によって、断層画像入力手段で入力された断層画像を、インテグラル方式の要素画像群である断層画像要素画像群に変換する。なお、この断層画像要素画像群の要素画像の数は、被写体要素画像群の要素画像の数と同じ数とする。
さらに、撮影画像合成表示装置は、画像レベル変更手段によって、外部から、断層画像要素画像群および被写体要素画像群のそれぞれの画像レベルを入力し、断層画像要素画像群および被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する。
そして、撮影画像合成表示装置は、合成手段によって、画像レベル変更手段で画像レベルが変更された断層画像要素画像群および被写体要素画像群を合成する。これによって、それぞれの画像の要素画像ごとに合成された画像が生成される。
そして、撮影画像合成表示装置は、立体像表示手段によって、合成手段で合成された画像を、要素レンズ群を介して表示する。
さらに、請求項3に記載の撮影画像合成表示装置は、請求項2に記載の撮影画像合成表示装置において、要素画像変換手段が、前記断層画像を空中像として定位させる定位位置を外部から入力し、前記要素画像の画素と当該要素画像に対応するインテグラル方式における仮想の要素レンズのレンズ中心とを結ぶ直線と、前記定位位置に仮想的に配置した前記断層画像との交点の画素値を、前記要素画像の画素の画素値とすることで、前記要素画像を生成することを特徴とする。
かかる構成において、撮影画像合成表示装置は、要素画像変換手段によって、断層画像を空中像として定位させたい位置を入力されることで、当該位置にインテグラル方式の立体像として定位する要素画像群を生成する。
また、請求項4に記載の撮影画像合成表示装置は、インテグラル方式の立体画像撮影装置で被写体を撮影した画像と、予め断層撮影装置で前記被写体の断層面を撮影した画像とを合成して表示する撮影画像合成表示装置であって、断層画像入力手段と、被写体画像入力手段と、画像レベル変更手段と、合成手段と、立体像表示手段と、を備える構成とした。
かかる構成において、撮影画像合成表示装置は、断層画像入力手段によって、断層撮影装置で撮影された被写体の複数の断層画像を、インテグラル方式の要素画像群である断層画像要素画像群として予め記憶した断層画像記憶装置から、断層画像要素画像群を入力する。また、撮影画像合成表示装置は、被写体画像入力手段によって、立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する。
さらに、撮影画像合成表示装置は、画像レベル変更手段によって、外部から、断層画像要素画像群および被写体要素画像群のそれぞれの画像レベルを入力し、断層画像要素画像群および被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する。
そして、撮影画像合成表示装置は、合成手段によって、画像レベル変更手段で画像レベルが変更された断層画像要素画像群および被写体要素画像群を合成する。これによって、それぞれの画像の要素画像ごとに合成された画像が生成される。
そして、撮影画像合成表示装置は、立体像表示手段によって、合成手段で合成された画像を、要素レンズ群を介して表示する。
また、請求項5に記載の撮影画像合成表示装置は、請求項1から請求項4のいずれか一項に記載の撮影画像合成表示装置において、外部からの指示により、前記断層画像入力手段に対して前記断層画像記憶装置から読み出す画像の切り替えを指示する表示切替手段をさらに備える構成とした。
かかる構成において、撮影画像合成表示装置は、表示切替手段によって、断層画像を外部からの指示により切り替え、操作者が所望する断層画像を画面上に表示させる。これによって、被写体の立体像に対応して、操作者が確認したい断層画像を選択して提示することができる。
また、請求項6に記載の画像合成提示システムは、被写体を撮影した画像と、前記被写体の断層画像とを同一視線上で提示する画像合成提示システムであって、インテグラル方式で前記被写体を撮影する立体画像撮影装置と、予め前記被写体の断層画像を記憶した断層画像記憶装置と、前記立体画像撮影装置で被写体を撮影した画像と、前記断層画像記憶装置に記憶されている画像とを合成して表示する撮影画像合成表示装置と、を備え、前記撮影画像合成表示装置は、断層画像入力手段と、被写体画像入力手段と、画像レベル変更手段と、立体像表示手段と、断層画像表示手段と、合成手段と、を備える構成とした。
かかる構成において、画像合成提示システムは、撮影画像合成表示装置の断層画像入力手段によって、断層画像記憶装置から断層画像を入力する。
また、画像合成提示システムは、撮影画像合成表示装置の被写体画像入力手段によって、立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する。
さらに、画像合成提示システムは、撮影画像合成表示装置の画像レベル変更手段によって、外部から、断層画像および被写体要素画像群のそれぞれの画像レベルを入力し、断層画像および被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する。
そして、画像合成提示システムは、撮影画像合成表示装置の立体像表示手段によって、画像レベル変更手段で画像レベルが変更された被写体要素画像群を、複数の要素レンズからなる要素レンズ群を介して表示する。また、画像合成提示システムは、撮影画像合成表示装置の断層画像表示手段によって、画像レベル変更手段で画像レベルが変更された断層画像を表示する。
そして、画像合成提示システムは、撮影画像合成表示装置の合成手段によって、立体像表示手段が表示する被写体要素画像群の映像光と断層画像表示手段が表示する断層画像の映像光とを光路上で合成する。
また、請求項7に記載の画像合成提示システムは、被写体を撮影した画像と、前記被写体の断層画像とを同一視線上で提示する画像合成提示システムであって、インテグラル方式で前記被写体を撮影する立体画像撮影装置と、予め前記被写体の断層画像を記憶した断層画像記憶装置と、前記立体画像撮影装置で被写体を撮影した画像と、前記断層画像記憶装置に記憶されている画像とを合成して表示する撮影画像合成表示装置と、を備え、前記撮影画像合成表示装置は、断層画像入力手段と、被写体画像入力手段と、要素画像変換手段と、画像レベル変更手段と、合成手段と、立体像表示手段と、を備える構成とした。
かかる構成において、画像合成提示システムは、撮影画像合成表示装置の断層画像入力手段によって、断層画像記憶装置から断層画像を入力する。また、画像合成提示システムは、撮影画像合成表示装置の被写体画像入力手段によって、立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する。
また、画像合成提示システムは、撮影画像合成表示装置の要素画像変換手段によって、断層画像入力手段で入力された断層画像を、インテグラル方式の要素画像群である断層画像要素画像群に変換する。
さらに、画像合成提示システムは、撮影画像合成表示装置の画像レベル変更手段によって、外部から、断層画像要素画像群および被写体要素画像群のそれぞれの画像レベルを入力し、断層画像要素画像群および被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する。
そして、画像合成提示システムは、撮影画像合成表示装置の合成手段によって、画像レベル変更手段で画像レベルが変更された断層画像要素画像群および被写体要素画像群を合成する。そして、画像合成提示システムは、撮影画像合成表示装置の立体像表示手段によって、合成手段で合成された画像を、要素レンズ群を介して表示する。
また、請求項8に記載の画像合成提示システムは、被写体を撮影した画像と、前記被写体の断層画像とを同一視線上で提示する画像合成提示システムであって、インテグラル方式で前記被写体を撮影する立体画像撮影装置と、前記被写体の複数の断層画像を、インテグラル方式の要素画像群である断層画像要素画像群として予め記憶した断層画像記憶装置と、前記立体画像撮影装置で被写体を撮影した画像と、前記断層画像記憶装置に記憶されている画像とを合成して表示する撮影画像合成表示装置と、を備え、前記撮影画像合成表示装置は、断層画像入力手段と、被写体画像入力手段と、画像レベル変更手段と、合成手段と、立体像表示手段と、を備える構成とした。
かかる構成において、画像合成提示システムは、撮影画像合成表示装置の断層画像入力手段によって、断層画像記憶装置から断層画像要素画像群を入力する。また、画像合成提示システムは、撮影画像合成表示装置の被写体画像入力手段によって、立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する。
さらに、画像合成提示システムは、撮影画像合成表示装置の画像レベル変更手段によって、外部から、断層画像要素画像群および被写体要素画像群のそれぞれの画像レベルを入力し、断層画像要素画像群および被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する。
そして、画像合成提示システムは、撮影画像合成表示装置の合成手段によって、画像レベル変更手段で画像レベルが変更された断層画像要素画像群および被写体要素画像群を合成する。そして、画像合成提示システムは、撮影画像合成表示装置の立体像表示手段によって、合成手段で合成された画像を、要素レンズ群を介して表示する。
さらに、請求項9に記載の画像合成提示システムは、請求項6から請求項8のいずれか一項に記載の画像合成提示システムにおいて、前記立体画像撮影装置が、赤外線、または、可視光に赤外線を含んだ光を撮影する撮影装置であることを特徴とする。
かかる構成において、画像合成提示システムは、赤外感度を有する立体画像撮影装置を用いることで、撮影画像合成表示装置が表示する被写体の立体像は、赤外線で撮影された被写体の立体像となる。
本発明は、以下に示す優れた効果を奏するものである。
請求項1,2,4,6〜8に記載の発明によれば、被写体の立体像と、被写体の断層画像とを同一光路上に提示することができ、当該画像を観察する観察者は、被写体の立体像と断層画像とを同一視線上で確認することができる。これによって、例えば、手術等で医者は、1つの画面で、手術部位の立体像と、断層画像とを対比して確認することができるため、手術作業を正確かつ効率的に進めることができる。
また、請求項1,2,4,6〜8に記載の発明によれば、立体像をインテグラル方式で表示するため、観察者の眼の疲労を抑えることができる。
請求項3に記載の発明によれば、断層画像を任意の位置に空中像として定位させることができる。これによって、被写体の立体像の対応する断面位置に断層画像の空中像を定位させることができ、立体像と断層画像との対比を行い易くすることができる。
請求項5に記載の発明によれば、観察者が所望する断層画像を適宜切り替えて表示することができる。これによって、例えば、手術等で手術部位が奥に進行していった場合でも、断層画像をその断層面に適宜切り替えることで、立体像との対比を行い易くすることができる。
請求項9に記載の発明によれば、赤外画像を立体像として表示することができる。これによって、例えば、手術等で、赤外画像で取得可能な手術部位直下の状態を立体像として確認することができ、断層画像との対比によって、手術作業を正確かつ効率的に進めることができる。
本発明の実施形態に係る手術支援システム(画像合成提示システム)の概略構成を示すシステム構成図である。 立体画像撮影装置の構成を示すブロック図である。 立体画像撮影装置の他の構成を示すブロック図である。 インテグラル方式で被写体の要素画像を取得する手法を説明するための説明図である。 インテグラル方式で要素画像から立体像を再生する手法を説明するための説明図である。 本発明の第1実施形態に係る撮影画像合成表示装置の構成を示すブロック図である。 本発明の第1実施形態に係る撮影画像合成表示装置の他の構成を示すブロック図である。 本発明の撮影画像合成表示装置における画像表示例を示す図である。 本発明の第2実施形態に係る撮影画像合成表示装置の構成を示すブロック図である。 本発明の第2実施形態に係る撮影画像合成表示装置の他の構成を示すブロック図である。 本発明の第2実施形態に係る撮影画像合成表示装置の他の構成を示すブロック図である。 断層画像から要素画像を生成する手法を説明するための説明図である。 本発明の撮影画像合成表示装置における断層画像を空中像として定位させる画像表示例を示す図である。
以下、本発明の実施形態について図面を参照して説明する。
[手術支援システム(画像合成提示システム)の概要]
まず、図1を参照して、本発明の実施形態に係る手術支援システム(画像合成提示システム)の概要について説明する。
図1に示すように、手術支援システム(画像合成提示システム)Sは、医者Dが患者Pを手術する際に、患者Pの手術部位Pを撮影した画像と、予め断層撮影装置(図示せず)で患者Pの手術部位Pの断層面を撮影した画像とを、同一の視線上に提示して、医者Dが行う手術を支援するものである。ここでは、手術支援システムSは、立体画像撮影装置1と、断層画像再生装置2と、撮影画像合成表示装置3と、操作卓4とを備えている。
立体画像撮影装置1は、インテグラルフォトグラフィ(Integral Photography:IP)方式(以下、インテグラル方式という)で被写体(ここでは、患者Pの手術部位P)を、複数の要素画像(要素画像群)として撮影するものである。
この立体画像撮影装置1は、手術中、患者Pの手術部位Pを撮影し、撮影した画像(要素画像群)を、撮影画像合成表示装置3に出力する。
断層画像再生装置2は、断層撮影装置(図示せず)でコンピュータ断層撮影(Computed Tomography:CT)等によって撮影した2次元の断層画像を記憶し再生するものである。この断層画像再生装置2には、手術を行う患者Pの手術部位Pを撮影した複数の断層画像が、予め内部の断層画像記憶装置20に記憶されているものとする。
この断層画像再生装置2は、撮影画像合成表示装置3からの要求によって、断層画像を再生し、撮影画像合成表示装置3に出力する。
撮影画像合成表示装置3は、立体画像撮影装置1で撮影された画像(要素画像群)を表示して、3次元の立体像として再生するとともに、その再生像に断層画像再生装置2から出力される2次元の断層画像を合成して表示するものである。これによって、同一視線上に、手術部位の立体像と断層画像とが重畳されて表示されることになる。
操作卓4は、撮影画像合成表示装置3が表示する要素画像群および断層画像の画像レベルの調整や、表示する断層画像の切り替えを撮影画像合成表示装置3に指示するものである。
この操作卓4は、例えば、つまみ、レバー等(図1中、A)を医者Dや補助者が操作することで、要素画像群および断層画像の画像レベルを撮影画像合成表示装置3に指示する。また、別のつまみ、レバー等(図1中、B)を医者Dや補助者が操作することで、複数の断層画像の中から表示用の画像を指示する。これによって、例えば、手術が進行し、手術部位Pの対象が奥に進行した場合であっても、医者D等が適宜断層画像を切り替えることで、手術部位Pに対応した所望の断層画像を表示することができる。
このように、手術支援システムSは、同一の視線上に立体像と断層画像とを表示するため、医者Dが立体像を見て手術を行う場合に、適宜断層画像と比較することで、手術部位の変化を容易に把握することができる。
また、手術支援システムSは、インテグラル方式の立体像を表示するため、医者Dは輻輳点と眼のピントが一致し、長時間の手術であっても疲労の発生を抑えることができる。
以下、手術支援システムSの立体画像撮影装置1について説明を行った後、撮影画像合成表示装置3について説明を行う。
〔立体画像撮影装置〕
まず、図2を参照(適宜図1参照)して、インテグラル方式の立体画像撮影装置1の構成について説明する。図2に示すように、立体画像撮影装置1は、撮影レンズアレイ10と、奥行き制御レンズ11と、集光レンズ12と、カメラ13とを備えている。
撮影レンズアレイ(要素レンズ群)10は、被写体の要素画像を取得するための要素レンズを平面上に複数配列したレンズアレイである。この撮影レンズアレイ10には、平面上に複数配列した凸レンズ群あるいはピンホール群を用いることができる。なお、ここでは、それぞれの要素レンズで撮影された要素画像が再生像として結像したときに、立体像の奥行きが反対するいわゆる逆視を防止するため、要素レンズとして、屈折率分布(GRIN:Gradient Index)レンズを用いることとする。もちろん、屈折率分布レンズを用いずに、要素画像を点対称変換する画像変換手段を設けてもよい。
奥行き制御レンズ11は、被写体の光学像を撮影レンズアレイ10の近傍に生成するものである。この奥行き制御レンズ11には、例えば、凸レンズを用いることができる。この奥行き制御レンズ11は、撮影レンズアレイ10から見て被写体側に配置され、撮影レンズアレイ10との距離が調整可能に調整部材(図示せず)によって支持されている。
この奥行き制御レンズ11は、撮影レンズアレイ10との距離を変化させることで、被写体の再生側(ここでは、撮影画像合成表示装置3)において、立体像を再生させる位置(奥行き位置)を調整することができる。
なお、奥行き制御レンズ11を備えないと、被写体が撮影レンズアレイ10から離れるにつれて、撮影レンズアレイ10の個々の要素レンズに入射する被写体光の解像度が劣化する。すなわち、奥行き制御レンズ11は、再生される被写体の立体像の解像度を劣化することを避けるための構成でもある。
集光レンズ12は、被写体に対して、撮影レンズアレイ10の反対側に配置され、撮影レンズアレイ10から出射した光をカメラ13に集光するものである。なお、集光レンズ12は、撮影レンズアレイ10が、カメラ13が備える撮影レンズ131よりも大きい場合は必要であるが、小さい場合は、必ずしも必要ではない。
カメラ13は、撮影レンズアレイ10から出射される光を撮影するものである。ここでは、カメラ13は、集光レンズ12を介して集光された光を、撮影レンズ131を介して撮影する。このカメラ13では、撮影レンズアレイ10の要素レンズの数に応じた複数の要素画像(要素画像群)が撮影されることになる。
なお、立体画像撮影装置1は、カメラ13内部の撮像素子と、撮影レンズアレイ10との大きさがほぼ同じ大きさであれば、図3に示すように、撮影レンズアレイ10をカメラ13の撮像素子132の被写体側に密着、あるいは、極近傍に配置する構成(立体画像撮影装置1B)としてもよい。この場合、カメラ13の撮影レンズ131が、図2で説明した奥行き制御レンズ11の機能を有することになる。
この立体画像撮影装置1(1B)は、撮影した要素画像群の画像を、撮影画像合成表示装置3に出力する。
なお、この立体画像撮影装置1(1B)は、赤外線、または、可視光に赤外線を含んだ光を撮影するものとしてもよい。この場合、立体画像撮影装置1内部のカメラ13の撮像素子(図示せず)や、立体画像撮影装置1Bの撮像素子132として赤外線に感光する素子を用いればよい。
この赤外感度を有する立体画像撮影装置1(1B)を用いれば、撮影された画像(要素画像群)が立体像として再生された場合、赤外画像の立体像が再生されることになる。これによって、手術部位の直下の患部状況を把握することができる。また、インドシアニングリーン(ICG:Indocyanine green)などのバイオマーカを用いれば、当該バイオマーカは、近赤外光として発光するため、手術部位や血管を立体的に確認することができる。
ここで、図4,図5を参照して、インテグラル方式による立体像の再生手法について簡単に説明しておく。
図4に示すように、インテグラル方式で被写体Hを撮影する場合、同一平面状に配列された複数の微小凸レンズ101,101,…,101からなる要素レンズ群101と、フィルム等の撮像板(撮像素子)103とを平行に配置したIP撮影装置100によって、被写体Hを撮像する。すると、被写体Hは、微小凸レンズ101,101,…,101の数だけ、撮像板103に要素画像群102(102,102,…,102)として撮像される。
一方、図5に示すように、インテグラル方式で被写体Hの立体像Hを再生する場合、同一平面状に配列された複数の微小凸レンズ201,201,…,201からなる要素レンズ群201と、図4の撮像板103で撮像された要素画像群102を要素画像群202(202,202,…,202)として表示する表示板(表示素子)203とを平行に配置したIP表示装置200によって、要素画像群202を表示する。
なお、要素レンズ群201の微小凸レンズの配列は、図4の要素レンズ群101と同一であり、表示板203に対する要素レンズ群201の配置位置は、図4の撮像板103に対する要素レンズ群101の配置位置と同じである。
ここで、観察者Oが、要素レンズ群201を通して、表示板203を観察すると、被写体Hの立体像Hが視認されることになる。
なお、この場合、撮影時において、要素レンズ群101から被写体を見て凹に見えるものが、再生時において、観察者Oは、被写体を裏側から見たようになるため凸に見えるいわゆる逆視となる。この逆視現象を解消するため、要素レンズ群101を、屈折率分布レンズを要素レンズ分配列する構成とする手法が一般的に用いられている。
〔撮影画像合成表示装置:第1実施形態〕
次に、図6を参照(適宜図1参照)して、本発明の第1実施形態に係る撮影画像合成表示装置の構成について説明する。図6に示すように、撮影画像合成表示装置3は、画像入力手段30と、画像レベル変更手段31と、表示切替手段32と、合成表示手段33とを備えている。
画像入力手段30は、外部から画像を入力するものである。ここでは、画像入力手段30は、被写体画像入力手段300と、断層画像入力手段301とを備えている。
被写体画像入力手段300は、立体画像撮影装置1で撮影された要素画像で構成される要素画像群(被写体要素画像群)を映像信号として入力するものである。この被写体画像入力手段300は、立体画像撮影装置1から出力される要素画像群を1枚のフレーム画像として、順次入力する。これによって、リアルタイムで撮影された被写体の画像が動画像として入力されることになる。
このように入力された要素画像群(映像信号)は、逐次、画像レベル変更手段31(被写体画像レベル変更手段310)に出力される。
断層画像入力手段301は、断層画像再生装置2に予め記憶されている断層画像を映像信号として入力するものである。この断層画像入力手段301は、表示切替手段32からの指示により、断層画像再生装置2に対して再生する断層画像を指示し、断層画像を入力する。これによって、断層画像入力手段301は、操作者(医者D等)が確認したい断層画像を入力することができる。
このように入力された断層画像(映像信号)は、画像レベル変更手段31(断層画像レベル変更手段311)に出力される。
画像レベル変更手段31は、外部から、画像入力手段30で入力された各画像(断層画像および被写体要素画像群)のそれぞれの画像レベルを入力し、それぞれの画像の画像レベルを、その入力された画像レベルに変更するものである。この画像レベルは、映像信号の出力レベル、あるいは、輝度レベル等である。例えば、画像レベル変更手段31は、画像がカラー画像であれば、RGB値の各成分を増減させる。また、例えば、画像がモノクロ画像であれば、輝度値を増減させることで、画像レベルを変更する。
ここでは、画像レベル変更手段31は、被写体画像レベル変更手段310と、断層画像レベル変更手段311とを備えている。
被写体画像レベル変更手段310は、被写体画像入力手段300で入力された要素画像群の画像レベルを、操作卓4から入力される画像レベルに変更するものである。ここでは、被写体画像レベル変更手段310は、操作卓4から入力されるレベル制御信号に基づいて、要素画像群の画像レベルを変更する。例えば、被写体画像レベル変更手段310は、操作卓4から、レベル制御信号として、0%以上100%以下の間で、画像レベルを入力されることで、要素画像群の画像レベルを入力された画像レベルに変更する。
このように外部から必要に応じて画像レベルが変更された要素画像群(映像信号)は、合成表示手段33の立体像表示手段330に出力される。
断層画像レベル変更手段311は、断層画像入力手段301で入力された断層画像の画像レベルを、操作卓4から入力される画像レベルに変更するものである。ここでは、断層画像レベル変更手段311は、操作卓4から入力されるレベル制御信号に基づいて、断層画像の画像レベルを変更する。例えば、断層画像レベル変更手段311は、被写体画像レベル変更手段310と同様に、操作卓4から、レベル制御信号として、0%以上100%以下の間で、画像レベルを入力されることで、断層画像の画像レベルを入力された画像レベルに変更する。
このように外部から必要に応じて画像レベルが変更された断層画像(映像信号)は、合成表示手段33の断層画像表示手段331に出力される。
なお、画像レベル変更手段31は、操作卓4から、被写体画像レベル変更手段310および断層画像レベル変更手段311に対して、それぞれ個別のレベル制御信号を取得することとしてもよいし、1つのレベル制御信号で共有してもよい。
例えば、操作卓4のレバーAでレベル制御信号を共有する場合、レベル制御信号の値(0%〜100%)そのものは、被写体画像レベル変更手段310に対する値とし、当該値と100%との差分値を、断層画像レベル変更手段311に対する値とする。これによって、被写体の要素画像群と断層画像との画像レベルを一度に調整することができる。また、いずれか一方の画像レベルを100%、他方の画像レベルを0%とすることで、要素画像群と断層画像とのいずれか一方のみを切り替えて表示させることもできる。
表示切替手段32は、外部からの指示により、断層画像再生装置2から入力する断層画像を切り替える指示を断層画像入力手段301に指示するものである。ここでは、表示切替手段32は、操作卓4から入力される切替制御信号によって、断層画像の切り替えを指示する。
例えば、操作卓4のレバーBで断層画像の切り替えを指示する場合、レバーBを一番手前に引いた状態を一番手前の断層画像として割り当て、レバーBを一番奥に押した状態を一番奥の断層画像として割り当てておくことで、表示切替手段32は、レバーBの位置を切替制御信号として入力されることで、その割合に応じた断層画像に切り替えるように、断層画像入力手段301に指示する。
合成表示手段33は、要素画像群を表示して、3次元の立体像として再生するとともに、その再生像に断層画像を合成して表示するものである。ここでは、合成表示手段33は、立体像表示手段330と、断層画像表示手段331と、合成手段332とを備えている。
立体像表示手段330は、被写体画像入力手段300で入力され、必要に応じて(外部からの指示に応じて)画像レベルが変更された要素画像群を入力し、インテグラル方式によって要素画像群を立体像として表示するものである。ここでは、立体像表示手段330は、要素画像群を表示する表示板(表示素子)330aと、要素画像に対応し、同一平面状に配列された複数の要素レンズ(微小凸レンズ)からなる要素レンズ群330bとを平行に配置して構成している。
なお、この立体像表示手段330の構成は、図5で説明したインテグラル方式のIP表示装置200と同じ構成であるため、立体像を再生する手法については説明を省略する。
断層画像表示手段331は、断層画像入力手段301で入力され、必要に応じて(外部からの指示に応じて)画像レベルが変更された断層画像を入力し、表示するものである。
この断層画像表示手段331は、一般的な液晶等の表示パネルを用いることができる。
合成手段332は、立体像表示手段330が表示する要素画像群の映像光と断層画像表示手段331が表示する断層画像の映像光とを光路上で合成するものである。この合成手段332は、例えば、ハーフミラーやプリズムで構成することができる。
ここでは、合成手段332は、立体像表示手段330が表示する要素画像群の映像光を透過させ、断層画像表示手段331が表示する断層画像の映像光を45度反射させる。これによって、断層画像の映像光は、要素画像群の映像光の光路上で合成されることになる。
以上、本発明の第1実施形態に係る撮影画像合成表示装置3の構成について説明したが、本発明は、この第1実施形態に限定されるものではない。例えば、撮影画像合成表示装置3は、表示切替手段32を備える構成としたが、この構成は必須ではない。例えば、図7に示すように、操作卓4から出力される切替制御信号を断層画像再生装置2に入力し、断層画像再生装置2が、指定された断層画像を内部の断層画像記憶装置20から読み出して撮影画像合成表示装置3に出力することとしてもよい。
(撮影画像合成表示装置の動作)
次に、図6を参照して、撮影画像合成表示装置3の動作について説明する。なお、断層画像再生装置2には、患者Pの手術部位Pを撮影した複数の断層画像が予め記憶されているものとする。
まず、撮影画像合成表示装置3は、画像入力手段30によって、立体画像撮影装置1で撮影された要素画像群と、断層画像再生装置2で再生される断層画像とを入力する。
すなわち、撮影画像合成表示装置3は、被写体画像入力手段300によって、リアルタイムに撮影されている要素画像群を映像信号として逐次入力する。
また、撮影画像合成表示装置3は、断層画像入力手段301によって、断層画像再生装置2に記憶されている断層画像を映像信号として入力する。
この断層画像入力手段301は、表示切替手段32によって、操作卓4のレバーBの位置を切替制御信号として入力されることで、その位置に対応した断層画像を、断層画像再生装置2から入力する。例えば、初期位置として、操作卓4のレバーBが、一番手前に引いた状態であれば、一番手前の断層画像を断層画像再生装置2から入力する。
そして、撮影画像合成表示装置3は、画像レベル変更手段31によって、要素画像群および断層画像のそれぞれの画像レベルを変更する。
すなわち、撮影画像合成表示装置3は、被写体画像レベル変更手段310によって、逐次入力される要素画像群の画像レベルを、操作卓4から入力されるレベル制御信号によって変更する。また、撮影画像合成表示装置3は、断層画像レベル変更手段311によって、断層画像の画像レベルを、操作卓4から入力されるレベル制御信号によって変更する。
ここでは、操作卓4のレバーAでレベル制御信号を共有することとし、レベル制御信号の値(0%〜100%)に応じて、被写体画像レベル変更手段310は、要素画像群の画像レベルを変更し、断層画像レベル変更手段311は、レベル制御信号の値(0%〜100%)と、100%との差分値を断層画像の画像レベルとして変更する。
そして、撮影画像合成表示装置3は、合成表示手段33によって、要素画像群を表示して、立体像として再生するとともに、その再生像に断層画像を合成して表示する。
すなわち、撮影画像合成表示装置3は、立体像表示手段330によって、要素画像群を表示する。このとき、要素画像群は表示板330aに表示され、その映像光が要素レンズ群330bを通過することで、インテグラル方式による立体像が再生されることになる。
また、一方で、撮影画像合成表示装置3は、断層画像表示手段331によって、断層画像を2次元画像として表示する。
このとき、断層画像表示手段331が表示する断層画像の映像光は、合成手段332を介して、要素画像群は表示板330aが表示する要素画像群の映像光と同一方向に反射することで、各画像の映像光が合成されることになる。
(撮影画像合成表示装置の表示例)
次に、図8を参照して、撮影画像合成表示装置3が表示する画像の例について説明する。なお、ここでは、操作卓4のレバーAによって、画像レベルを変更する例について説明する。また、操作卓4のレバーAを一番奥に押した状態で要素画像群(立体像)を100%表示し、レバーAを一番手前に引いた状態で断層画像(2次元画像)を100%表示することとする。
図8(a)は、立体像を表示した例を示し、図8(b)は断層画像を表示した例を示している。
図8(a−1)に示すように、操作卓4のレバーAを一番奥に押した状態では、図8(a−2)に示すように、撮影画像合成表示装置3は、要素画像群を100%の画像レベルで表示し、断層画像を0%の画像レベルで表示する。これによって、画面上には、立体像Gのみが表示されることになる。
また、図8(b−1)に示すように、操作卓4のレバーAを一番手前に引いた状態では、図8(b−2)に示すように、撮影画像合成表示装置3は、断層画像を100%の画像レベルで表示し、要素画像群を0%の画像レベルで表示する。これによって、画面上には、2次元の断層画像Gのみが表示されることになる。
なお、操作卓4のレバーAを0%より大きく100%より小さい中間位置の状態とした場合、それぞれの画像の画素値が加算された中間画像が表示される。
以上説明したように撮影画像合成表示装置3は、操作者(医者D等)が、被写体(患者Pの手術部位P)を3次元の立体像として視認することができるとともに、同一視線上において、被写体の立体像を断層画像とを適宜切り替えて確認することができる。
また、撮影画像合成表示装置3は、画像レベル変更手段31によって、同一視線上で被写体の立体像と断層画像とをその画像レベルを変えて表示できるため、被写体の立体像と断層画像とを切り替える途中の中間段階において、その変化を徐々に確認することができ、例えば、手術に伴う部位の変化を容易に視認することができる。
さらに、撮影画像合成表示装置3は、表示切替手段32によって、断層画像を切り替えて表示することができるため、例えば、手術が進行し手術対象が奥側に移行した場合であっても、対象となる断層画像を表示して、被写体の立体像と対比することができる。
〔撮影画像合成表示装置:第2実施形態〕
次に、図9を参照(適宜図1参照)して、本発明の第2実施形態に係る撮影画像合成表示装置の構成について説明する。第1実施形態に係る撮影画像合成表示装置3(図6)は、要素画像群と断層画像とを光路上で合成したが、図9に示す第2実施形態に係る撮影画像合成表示装置3Cは、断層画像をインテグラル方式の要素画像群(断層画像要素画像群)に変換して合成する点が異なっている。
また、撮影画像合成表示装置3Cは、外部から定位位置制御信号(詳細は後記する)を入力する点が撮影画像合成表示装置3とは異なっている。なお、この定位位置制御信号は、外部の操作卓4Bから入力されるものとする。
すなわち、図1で説明した撮影画像合成表示装置3および操作卓4を、それぞれ撮影画像合成表示装置3Cおよび操作卓4Bで置き換えることで、手術支援システム(画像合成提示システム)を構成することができる。
図9に示すように、撮影画像合成表示装置3Cは、画像入力手段30と、画像レベル変更手段31と、表示切替手段32と、合成表示手段33Bと、要素画像変換手段34とを備えている。合成表示手段33Bおよび要素画像変換手段34以外の構成については、図6で説明した撮影画像合成表示装置3と同じ構成であるため、同一の符号を付して説明を省略する。以下、要素画像変換手段34、合成表示手段33Bの順に説明する。
要素画像変換手段34は、断層画像入力手段301で入力された断層画像を、インテグラル方式の要素画像群(断層画像要素画像群)に変換するものである。この要素画像変換手段34は、立体像表示手段330が有する要素レンズ群330bの各要素レンズに対応する要素画像を生成する。このとき、要素画像変換手段34は、断層画像を空中像として表示させる定位位置を、操作卓4Bから定位位置制御信号として入力し、その定位位置に空中像を定位させる要素画像群を生成する。
なお、定位位置制御信号は、断層画像の空間上の定位位置(例えば、要素レンズ群330bからの距離)を特定するための制御信号であって、定位位置の最小値および最大値を、予め割り当てておく。例えば、定位位置制御信号が最小値(例えば、“0”)の場合、定位位置を要素レンズ群330bの位置とし、定位位置制御信号が最大値(例えば、“100”)の場合、定位位置を要素レンズ群330bから予め定めた距離(例えば、30cm等)の位置とする。もちろん、定位位置を要素レンズ群330bよりも奥側にすることとしても構わない。
ここで、図12を参照して、要素画像変換手段34における2次元画像の断層画像を要素画像に変換する手法について説明する。
図12(a)に示すように、要素画像変換手段34は、立体像表示手段330の表示板330aと要素レンズ群330bとの距離をLa、断層画像を定位させたい定位位置Hと要素レンズ群330bとの距離をLbとして、表示板330a、要素レンズ群330bおよび断層画像を3次元空間上に仮想的に配置する。なお、距離Laは立体像表示手段330における実際の距離である。また、距離Lbは、定位位置制御信号で特定される値である。
ここで、要素画像変換手段34は、仮想の表示面(表示板330a)において、生成する要素画像gの領域における画素aの画素値を、画素aと要素画像gに対応する要素レンズ330のレンズ中心Cとを結ぶ直線と、断層画像との交点の画素bの画素値とする。そして、要素画像変換手段34は、この処理を要素画像のすべてにおいて行うことで、それぞれの要素画像の画素値を決定する。
これによって、要素画像変換手段34は、図12(b)に示すように、断層画像Gから、任意の位置に定位可能な要素画像で構成される要素画像群(断層画像要素画像群)G
IPを生成することができる。
図9に戻って、撮影画像合成表示装置3Cの構成について説明を続ける。
要素画像変換手段34で変換された要素画像群(断層画像要素画像群)は、画像レベル変更手段31の断層画像レベル変更手段311に出力される。
なお、断層画像レベル変更手段311は、第1実施形態(図6)においては、断層画像の画像レベルを変更したが、第2実施形態(図9)においては、断層画像を要素画像群に変換した画像の画像レベルを変更する。すなわち、第1,第2実施形態において、断層画像レベル変更手段311は、どちらも2次元の画像の画像レベルを変更することにおいて、処理内容は同じである。
合成表示手段33Bは、被写体を立体画像撮影装置1で撮影した要素画像群(被写体要素画像群)と、断層画像を要素画像に変換した要素画像群(断層画像要素画像群)とを合成して表示するものである。ここでは、合成表示手段33Bは、立体像表示手段330と、合成手段332Bとを備えている。
立体像表示手段330は、図6で説明した撮影画像合成表示装置3と同一のものである。ただし、ここでは、立体像表示手段330は、要素画像群の入力元が合成手段332Bである点が撮影画像合成表示装置3と異なっている。
合成手段332Bは、被写体画像入力手段300で入力され、必要に応じて(外部からの指示に応じて)画像レベルが変更された要素画像群(被写体要素画像群)と、断層画像入力手段301で入力され、要素画像群に変換された後、必要に応じて(外部からの指示に応じて)画像レベルが変更された断層画像要素画像群とを合成するものである。
すなわち、合成手段332Bは、被写体をリアルタイムで撮影した要素画像群と、断層画像を要素画像に変換した要素画像群との各画素値を加算することで、合成した要素画像群の画像を生成する。
このように生成された要素画像群の画像は、立体像表示手段330に出力される。
これによって、被写体要素画像群については、立体像として再生され、断層画像要素画像群については、指定された定位位置に平面の空中像として再生されることになる。
以上、本発明の第2実施形態に係る撮影画像合成表示装置3Cの構成について説明したが、本発明は、この第2実施形態に限定されるものではない。例えば、表示切替手段32は、第1実施形態の変形例である撮影画像合成表示装置3Bと同様に必須ではない。例えば、図10に示す撮影画像合成表示装置3Dとし、操作卓4Bから出力される切替制御信号を断層画像再生装置2に入力し、断層画像再生装置2が、指定された断層画像を内部の断層画像記憶装置20から読み出して撮影画像合成表示装置3Dに出力することとしてもよい。
また、図9に示す撮影画像合成表示装置3Cでは、要素画像変換手段34を備える構成としたが、断層画像再生装置(断層画像記憶手段)2に、断層撮影装置(図示せず)で撮影された被写体の複数の断層画像を、インテグラル方式の要素画像群である断層画像要素画像群として予め記憶しておくことで、要素画像変換手段34を構成から省略することもできる。
すなわち、図11に示す撮影画像合成表示装置3Eとして構成することも可能である。
この場合、断層画像再生装置(断層画像記憶手段)2には、断層画像ごとに、定位位置に応じて予め複数の断層画像要素画像群を記憶しておく。そして、操作卓4Bから、切替制御信号および定位位置制御信号を、断層画像再生装置2に出力することで、指定された断層画像要素画像群が撮影画像合成表示装置3Eの断層画像入力手段301に入力される。
(撮影画像合成表示装置の動作)
次に、図9を参照して、撮影画像合成表示装置3Cの動作について説明する。なお、断層画像再生装置2には、患者Pの手術部位Pを撮影した複数の断層画像が予め記憶されているものとする。
まず、撮影画像合成表示装置3Cは、画像入力手段30によって、立体画像撮影装置1で撮影された要素画像群と、断層画像再生装置2で再生される断層画像とを入力する。
すなわち、撮影画像合成表示装置3Cは、被写体画像入力手段300によって、リアルタイムに撮影されている要素画像群(被写体要素画像群)を映像信号として逐次入力する。
また、撮影画像合成表示装置3Cは、断層画像入力手段301によって、断層画像再生装置2に記憶されている断層画像を映像信号として入力する。この断層画像入力手段301は、表示切替手段32によって、操作卓4BのレバーBの位置を切替制御信号として入力されることで、その位置に対応した断層画像を、断層画像再生装置2から入力する。
そして、撮影画像合成表示装置3Cは、要素画像変換手段34によって、断層画像をインテグラル方式の要素画像群(断層画像要素画像群)に変換する。このとき、要素画像変換手段34は、操作卓4Bから入力される定位位置制御信号に基づいて、断層画像を指定された空間上の位置に定位させるように要素画像群を生成する。
そして、撮影画像合成表示装置3Cは、画像レベル変更手段31によって、被写体要素画像群および断層画像要素画像群のそれぞれの画像レベルを変更する。
すなわち、撮影画像合成表示装置3Cは、被写体画像レベル変更手段310によって、逐次入力される被写体要素画像群の画像レベルを、操作卓4Bから入力されるレベル制御信号によって変更する。また、撮影画像合成表示装置3Cは、断層画像レベル変更手段311によって、断層画像要素画像群の画像レベルを、操作卓4Bから入力されるレベル制御信号によって変更する。
そして、撮影画像合成表示装置3Cは、合成表示手段33Bの合成手段332Bによって、被写体要素画像群と断層画像要素画像群とを加算し、立体像表示手段330によって、加算された要素画像群を表示する。これによって、被写体要素画像群は、立体像として再生され、断層画像要素画像群は、定位置に空中像として定位して再生されることになる。
(撮影画像合成表示装置の表示例)
次に、図13を参照して、撮影画像合成表示装置3Cが表示する画像の例について説明する。なお、ここでは、操作卓4BのレバーCによって、断層画像の定位位置を変更する例について説明する。また、操作卓4BのレバーCを一番奥に押した状態で断層画像を一番奥側に表示し、レバーCを一番手前に引いた状態で断層画像を一番手前に表示することとする。
図13(a)は、断層画像を一番奥に表示した例を示し、図13(b)は断層画像を一番手前に表示した例を示している。
図13(a−1)に示すように、操作卓4BのレバーCを一番奥に押した状態では、図13(a−2)に示すように、撮影画像合成表示装置3Cは、断層画像を最も奥側(ここでは、表示画面上とする)に表示する。
また、図13(b−1)に示すように、操作卓4BのレバーCを一番手前に引いた状態では、図13(b−2)に示すように、撮影画像合成表示装置3Cは、断層画像を表示画面よりも手前に断層画像を空中像として再生する。
なお、操作卓4BのレバーCを中間位置の状態とした場合、断層画像の空中像が定位する位置が変化する。
以上説明したように撮影画像合成表示装置3Cは、撮影画像合成表示装置3で説明した効果に加え、断層画像を任意の位置に空中像として定位させることができるため、被写体の立体像の対応する断層面の位置に断層画像を定位させることで、より手術部位と断層画像とを正確に対比することができる。
以上、本発明の実施形態について説明したが、本発明は、医療行為における手術を支援する装置として限定するものではない。例えば、工業製品や部品の生産工程において、部品の断層画像を撮影しておき、部品の加工段階で、逐次断層画像と対比することも可能である。
S 手術支援システム(画像合成提示システム)
1 立体画像撮影装置
2 断層画像再生装置
20 断層画像記憶装置
3 撮影画像合成表示装置
30 画像入力手段
300 被写体画像入力手段
301 断層画像入力手段
31 画像レベル変更手段
310 被写体画像レベル変更手段
311 断層画像レベル変更手段
32 表示切替手段
33 合成表示手段
330 立体像表示手段
331 断層画像表示手段
332 合成手段
34 要素画像変換手段

Claims (9)

  1. インテグラル方式の立体画像撮影装置で被写体を撮影した画像と、予め断層撮影装置で前記被写体の断層面を撮影した画像とを合成して表示する撮影画像合成表示装置であって、
    前記断層撮影装置で撮影された前記被写体の複数の断層画像を予め記憶した断層画像記憶装置から、前記断層画像を入力する断層画像入力手段と、
    前記立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する被写体画像入力手段と、
    外部から、前記断層画像および前記被写体要素画像群のそれぞれの画像レベルを入力し、前記断層画像および前記被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する画像レベル変更手段と、
    この画像レベル変更手段で画像レベルが変更された前記被写体要素画像群を、要素レンズ群を介して表示する立体像表示手段と、
    前記画像レベル変更手段で画像レベルが変更された前記断層画像を表示する断層画像表示手段と、
    前記立体像表示手段が表示する前記被写体要素画像群の映像光と前記断層画像表示手段が表示する前記断層画像の映像光とを光路上で合成する合成手段と、
    を備えることを特徴とする撮影画像合成表示装置。
  2. インテグラル方式の立体画像撮影装置で被写体を撮影した画像と、予め断層撮影装置で前記被写体の断層面を撮影した画像とを合成して表示する撮影画像合成表示装置であって、
    前記断層撮影装置で撮影された前記被写体の複数の断層画像を予め記憶した断層画像記憶装置から、前記断層画像を入力する断層画像入力手段と、
    前記立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する被写体画像入力手段と、
    前記断層画像入力手段で入力された断層画像を、インテグラル方式の要素画像群である断層画像要素画像群に変換する要素画像変換手段と、
    外部から、前記断層画像要素画像群および前記被写体要素画像群のそれぞれの画像レベルを入力し、前記断層画像要素画像群および前記被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する画像レベル変更手段と、
    この画像レベル変更手段で画像レベルが変更された前記断層画像要素画像群および前記被写体要素画像群を合成する合成手段と、
    この合成手段で合成された画像を、要素レンズ群を介して表示する立体像表示手段と、
    を備えることを特徴とする撮影画像合成表示装置。
  3. 前記要素画像変換手段は、前記断層画像を空中像として定位させる定位位置を外部から入力し、前記要素画像の画素と当該要素画像に対応するインテグラル方式における仮想の要素レンズのレンズ中心とを結ぶ直線と、前記定位位置に仮想的に配置した前記断層画像との交点の画素値を、前記要素画像の画素の画素値とすることで、前記要素画像を生成することを特徴とする請求項2に記載の撮影画像合成表示装置。
  4. インテグラル方式の立体画像撮影装置で被写体を撮影した画像と、予め断層撮影装置で前記被写体の断層面を撮影した画像とを合成して表示する撮影画像合成表示装置であって、
    前記断層撮影装置で撮影された前記被写体の複数の断層画像を、インテグラル方式の要素画像群である断層画像要素画像群として予め記憶した断層画像記憶装置から、前記断層画像要素画像群を入力する断層画像入力手段と、
    前記立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する被写体画像入力手段と、
    外部から、前記断層画像要素画像群および前記被写体要素画像群のそれぞれの画像レベルを入力し、前記断層画像要素画像群および前記被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する画像レベル変更手段と、
    この画像レベル変更手段で画像レベルが変更された前記断層画像要素画像群および前記被写体要素画像群を合成する合成手段と、
    この合成手段で合成された画像を、要素レンズ群を介して表示する立体像表示手段と、
    を備えることを特徴とする撮影画像合成表示装置。
  5. 外部からの指示により、前記断層画像入力手段に対して前記断層画像記憶装置から読み出す画像の切り替えを指示する表示切替手段をさらに備えることを特徴とする請求項1から請求項4のいずれか一項に記載の撮影画像合成表示装置。
  6. 被写体を撮影した画像と、前記被写体の断層画像とを同一視線上で提示する画像合成提示システムであって、
    インテグラル方式で前記被写体を撮影する立体画像撮影装置と、
    予め前記被写体の断層画像を記憶した断層画像記憶装置と、
    前記立体画像撮影装置で被写体を撮影した画像と、前記断層画像記憶装置に記憶されている画像とを合成して表示する撮影画像合成表示装置と、を備え、
    前記撮影画像合成表示装置は、
    前記断層画像記憶装置から、前記断層画像を入力する断層画像入力手段と、
    前記立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する被写体画像入力手段と、
    外部から、前記断層画像および前記被写体要素画像群のそれぞれの画像レベルを入力し、前記断層画像および前記被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する画像レベル変更手段と、
    この画像レベル変更手段で画像レベルが変更された前記被写体要素画像群を、要素レンズ群を介して表示する立体像表示手段と、
    前記画像レベル変更手段で画像レベルが変更された前記断層画像を表示する断層画像表示手段と、
    前記立体像表示手段が表示する前記被写体要素画像群の映像光と前記断層画像表示手段が表示する前記断層画像の映像光とを光路上で合成する合成手段と、
    を備えることを特徴とする画像合成提示システム。
  7. 被写体を撮影した画像と、前記被写体の断層画像とを同一視線上で提示する画像合成提示システムであって、
    インテグラル方式で前記被写体を撮影する立体画像撮影装置と、
    予め前記被写体の断層画像を記憶した断層画像記憶装置と、
    前記立体画像撮影装置で被写体を撮影した画像と、前記断層画像記憶装置に記憶されている画像とを合成して表示する撮影画像合成表示装置と、を備え、
    前記撮影画像合成表示装置は、
    前記断層画像記憶装置から、前記断層画像を入力する断層画像入力手段と、
    前記立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する被写体画像入力手段と、
    前記断層画像入力手段で入力された断層画像を、インテグラル方式の要素画像群である断層画像要素画像群に変換する要素画像変換手段と、
    外部から、前記断層画像要素画像群および前記被写体要素画像群のそれぞれの画像レベルを入力し、前記断層画像要素画像群および前記被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する画像レベル変更手段と、
    この画像レベル変更手段で画像レベルが変更された前記断層画像要素画像群および前記被写体要素画像群を合成する合成手段と、
    この合成手段で合成された画像を、要素レンズ群を介して表示する立体像表示手段と、
    を備えることを特徴とする画像合成提示システム。
  8. 被写体を撮影した画像と、前記被写体の断層画像とを同一視線上で提示する画像合成提示システムであって、
    インテグラル方式で前記被写体を撮影する立体画像撮影装置と、
    前記被写体の複数の断層画像を、インテグラル方式の要素画像群である断層画像要素画像群として予め記憶した断層画像記憶装置と、
    前記立体画像撮影装置で被写体を撮影した画像と、前記断層画像記憶装置に記憶されている画像とを合成して表示する撮影画像合成表示装置と、を備え、
    前記撮影画像合成表示装置は、
    前記断層画像記憶装置から、前記断層画像要素画像群を入力する断層画像入力手段と、
    前記立体画像撮影装置で撮影された要素画像群である被写体要素画像群を入力する被写体画像入力手段と、
    外部から、前記断層画像要素画像群および前記被写体要素画像群のそれぞれの画像レベルを入力し、前記断層画像要素画像群および前記被写体要素画像群のそれぞれの画像レベルを、その入力された画像レベルに変更する画像レベル変更手段と、
    この画像レベル変更手段で画像レベルが変更された前記断層画像要素画像群および前記被写体要素画像群を合成する合成手段と、
    この合成手段で合成された画像を、要素レンズ群を介して表示する立体像表示手段と、
    を備えることを特徴とする画像合成提示システム。
  9. 前記立体画像撮影装置は、赤外線、または、可視光に赤外線を含んだ光を撮影する撮影装置であることを特徴とする請求項6から請求項8のいずれか一項に記載の画像合成提示システム。
JP2011051612A 2011-03-09 2011-03-09 撮影画像合成表示装置および画像合成提示システム Withdrawn JP2012189689A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011051612A JP2012189689A (ja) 2011-03-09 2011-03-09 撮影画像合成表示装置および画像合成提示システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011051612A JP2012189689A (ja) 2011-03-09 2011-03-09 撮影画像合成表示装置および画像合成提示システム

Publications (1)

Publication Number Publication Date
JP2012189689A true JP2012189689A (ja) 2012-10-04

Family

ID=47082947

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011051612A Withdrawn JP2012189689A (ja) 2011-03-09 2011-03-09 撮影画像合成表示装置および画像合成提示システム

Country Status (1)

Country Link
JP (1) JP2012189689A (ja)

Similar Documents

Publication Publication Date Title
JP7073450B2 (ja) 対象領域の観察画像の生成
EP2903551B1 (en) Digital system for surgical video capturing and display
JP5284731B2 (ja) 立体画像撮影表示システム
Nam et al. Application of stereo-imaging technology to medical field
US9301682B2 (en) Eye examination apparatus with digital image output
US10324281B2 (en) Surgical microscope having a data unit and method for overlaying images
JP2018156073A (ja) イメージセンサとディスプレイを有する手術用顕微鏡及び手術用顕微鏡の操作方法
JP6296365B2 (ja) 手術内視鏡用カメラコントロールユニット
JP2017509925A (ja) 3dビデオ顕微鏡装置
JP2019025082A (ja) 画像処理装置、カメラ装置及び画像処理方法
JP2019029876A (ja) 画像処理装置、カメラ装置及び出力制御方法
JP2015220643A (ja) 立体観察装置
WO2015056701A1 (ja) 画像出力装置
JP5946777B2 (ja) 立体撮像装置
JP2016046780A (ja) 画像記録装置
KR101339667B1 (ko) 의료 수술용 현미경의 3차원 고화질 영상 인터페이스 시스템
US11729493B2 (en) Image capture apparatus and image capture method
JP2003522341A (ja) 三次元画像を記録するための設備の設計、機能及び利用
JP2012050605A (ja) X線画像撮影装置、x線画像撮影方法およびプログラム
JP2012189689A (ja) 撮影画像合成表示装置および画像合成提示システム
JP7207296B2 (ja) 撮像装置とフォーカス制御方法およびフォーカス判定方法
Song et al. Design of the computerized 3D endoscopic imaging system for delicate endoscopic surgery
JP7230923B2 (ja) 情報処理装置、情報処理方法及びプログラム
Dunkin et al. 3d in the minimally invasive surgery (mis) operating room: Cameras and displays in the evolution of mis
JP2004233480A (ja) 立体内視鏡システム

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20140513