JPWO2019012881A1 - 画像処理装置、眼科用観察装置及び眼科用観察システム - Google Patents

画像処理装置、眼科用観察装置及び眼科用観察システム Download PDF

Info

Publication number
JPWO2019012881A1
JPWO2019012881A1 JP2019528996A JP2019528996A JPWO2019012881A1 JP WO2019012881 A1 JPWO2019012881 A1 JP WO2019012881A1 JP 2019528996 A JP2019528996 A JP 2019528996A JP 2019528996 A JP2019528996 A JP 2019528996A JP WO2019012881 A1 JPWO2019012881 A1 JP WO2019012881A1
Authority
JP
Japan
Prior art keywords
image
region
image processing
processing apparatus
front lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019528996A
Other languages
English (en)
Other versions
JP7092131B2 (ja
Inventor
潤一郎 榎
潤一郎 榎
竜己 坂口
竜己 坂口
大月 知之
知之 大月
芳男 相馬
芳男 相馬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2019012881A1 publication Critical patent/JPWO2019012881A1/ja
Application granted granted Critical
Publication of JP7092131B2 publication Critical patent/JP7092131B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/117Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for examining the anterior chamber or the anterior chamber angle, e.g. gonioscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0025Operational features thereof characterised by electronic signal processing, e.g. eye models
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/13Ophthalmic microscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • G06V2201/034Recognition of patterns in medical or anatomical images of medical instruments

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Public Health (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Ophthalmology & Optometry (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Eye Examination Apparatus (AREA)
  • Microscoopes, Condenser (AREA)
  • Geometry (AREA)

Abstract

【課題】眼の観察に適した画像処理装置、眼科用観察装置及び眼科用観察システムを提供すること。【解決手段】本技術に係る画像処理装置は、画像生成部を具備する。上記画像生成部は、眼に装着された前置レンズを介して撮像された撮像画像において、上記前置レンズによって像が反転している画像領域である反転領域を反転させ、表示画像を生成する。【選択図】図1

Description

本技術は、眼科手術に利用される画像処理装置、眼科用観察装置及び眼科用観察システムに関する。
眼科の診断や手術治療において眼球の正面側からの観察というのは広く行われている。特に緑内障疾患においては、虹彩の根本と角膜の根本にある前房隅角の観察は診断においても重要視されてきた。
近年では、MIGS(minimally invasive glaucoma surgery)といわれる超低侵襲な緑内障手術でも治療時にこの隅角を直接観察しながら手術するということが行われている。しかしながら、前房隅角からの光は角膜により全反射されるため、そのままでは観察が困難である。
このため、隅角鏡と呼ばれるコンタクトレンズと手術顕微鏡やスリットランプを組み合わせて観察することが一般的である。だが、大半の隅角鏡は視野が狭いため、観察したい位置を見るためには隅角鏡と顕微鏡の双方を観察対象に合わせて適切に位置合わせする必要がある。この問題に対応するため、特許文献1では凹レンズを用いた隅角全周を確認できる隅角鏡が提案されている。
特表2000−504251号公報
しかしながら、特許文献1に記載の隅角鏡では、凹レンズを用いることによって術野の反転が発生し、術者にとって混乱が引き起こされる。これを防ぐためにはさらにレンズやミラーを複数組み合わせることが必要となり、減衰などのロスが生じやすくなってしまう。
また、レンズを用いて作られた像を観察するため、任意の位置を拡大する場合には光学顕微鏡を適切に操作する手間が生じる。特に術野が反転している場合には、操作の方向と術野が食い違うため混乱も生じやすくなる。
以上のような事情に鑑み、本技術の目的は、眼の観察に適した画像処理装置、眼科用観察装置及び眼科用観察システムを提供することにある。
上記目的を達成するため、本技術の一形態に係る画像処理装置は、画像生成部を具備する。
上記画像生成部は、眼に装着された前置レンズを介して撮像された撮像画像において、上記前置レンズによって像が反転している画像領域である反転領域を反転させ、表示画像を生成する。
この構成によれば、前置レンズによる像の反転が画像処理によって解消するため、前置レンズを利用することによる施術者の混乱を防止することが可能となる。
上記画像処理装置は、上記撮像画像において上記反転領域を検出する領域検出部をさらに具備してもよい。
上記画像生成部は、上記反転領域の中心を中心点として上記反転領域を反転させてもよい。
上記画像生成部は、上記反転領域を反転させ、上記撮像画像において上記前置レンズによって像が反転していない画像領域である非反転領域と合成することによって上記表示画像を生成してもよい。
上記前置レンズは、角膜に当接する凹レンズと、上記凹レンズから出射された光を眼の正面方向に向けて屈折させる凸レンズとを備える直視型前置レンズであり、上記反転領域は円形であり、上記非反転領域は上記反転領域の周囲を囲んでもよい。
上記画像生成部は、上記反転領域を反転させ、反転させた上記反転領域の外周と上記非反転領域の内周を一致させることによって上記反転領域と上記非反転領域とを合成してもよい。
上記前置レンズは、角膜に当接する凸レンズと、上記凸レンズの周囲に円周状に配置され、上記凸レンズから出射された光を眼の正面方向に向けて反射させるミラーとを備える反射型前置レンズであり、上記反転領域は円周状領域であり、上記非反転領域は上記反転領域に囲まれた中央領域と上記反転領域を囲む外周領域とを含んでもよい。
上記画像生成部は、上記反転領域において上記中央領域の像を含む領域を不要領域として検出し、上記不要領域を削除して上記反転領域に反転させ、反転させた上記反転領域の内周と上記中央領域の外周を一致させ、反転させた上記反転領域の外周と上記外周領域の内周を一致させることによって上記反転領域、上記中央領域及び上記外周領域を合成してもよい。
上記撮像画像に上記前置レンズが含まれていることを検出して上記前置レンズによる像の反転を補正する補正モードを選択し、上記領域検出部及び上記画像生成部に通知するモード決定部をさらに具備し、上記領域検出部は、上記モード決定部によって上記補正モードが選択された場合に上記反転領域を検出してもよい。
上記モード決定部は、上記撮像画像に対する物体認識処理によって上記前置レンズを検出してもよい。
上記モード決定部は、上記撮像画像において上記前置レンズに付されたマーカーを検出することによって上記前置レンズを検出してもよい。
上記領域検出部は、上記撮像画像に対する物体認識処理によって上記反転領域を検出してもよい。
上記領域検出部は、上記撮像画像における眼の構造によるテクスチャの違いを利用して上記反転領域を検出してもよい。
上記領域検出部は、上記撮像画像に対するエッジ検出処理によって上記反転領域を検出してもよい。
上記領域検出部は、上記撮像画像と上記前置レンズが装着されていない状態で撮像された眼の画像の差分に基づいて上記反転領域を検出してもよい。
上記領域検出部は、上記撮像画像から得られる視差情報から抽出されるデプス情報を利用して上記反転領域を検出してもよい。
上記撮像画像は、所定の撮像範囲毎に撮像された複数の画像から構成され、
上記画像生成部は、上記複数の画像の位置及び向きを反転させて上記表示画像を生成してもよい。
上記目的を達成するため、本技術の一形態に係る眼科用観察装置は、前置レンズと、画像処理装置とを具備する。
上記前置レンズは、眼に装着され、像を反転させる。
上記画像処理装置は、上記前置レンズを介して撮像された撮像画像において、上記前置レンズによって像が反転している画像領域である反転領域を反転させ、表示画像を生成する画像生成部を備える。
上記前置レンズは隅角鏡であってもよい。
上記目的を達成するため、本技術の一形態に係る眼科用観察システムは、前置レンズと、顕微鏡と、顕微鏡制御入力部と、撮像装置と、画像処理装置と、顕微鏡制御部とを具備する。
上記前置レンズは、眼に装着され、像を反転させる。
上記顕微鏡は、上記前置レンズの出射光を拡大する。
上記顕微鏡制御入力部は、ユーザによる操作入力を受け付けて入力信号を生成する。
上記撮像装置は、上記顕微鏡に接続され、上記前置レンズ及び上記顕微鏡を介して撮像画像を撮像する。
上記画像処理装置は、上記撮像画像において、上記前置レンズによって像が反転している画像領域である反転領域を反転させ、表示画像を生成する画像生成部を備える。
上記顕微鏡制御部は、上記画像生成部が上記反転領域を反転させると、上記入力信号を反転させて上記顕微鏡を制御する。
以上のように、本技術によれば、眼の観察に適した画像処理装置、眼科用観察装置及び眼科用観察システムを提供することが可能である。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術の第1の実施形態に係る画眼科用観察システムの構成を示すブロック図である。 同観察システムの観察対象である眼の構造を示す模式図である。 同観察システムの観察対象である眼の構造を示す模式図である。 同観察システムが備える直視型前置レンズの模式図である。 同観察システムが備える反射型前置レンズの模式図である。 同観察システムが備える直視型前置レンズにおける光の経路を示す模式図である。 同観察システムが備える直視型前置レンズによって形成される眼の像を示す模式図である。 同観察システムが備える直視型前置レンズによって形成される眼の像の反転領域を示す模式図である。 同観察システムが備える反射型前置レンズのミラーの配置を示す模式図である。 同観察システムが備える反射型前置レンズにおける光の経路を示す模式図である。 同観察システムが備える反射型前置レンズによって形成される眼の像を示す模式図である。 同観察システムが備える反射型前置レンズによって形成される眼の像の反転領域を示す模式図である。 同観察システムが備える反射型前置レンズによって形成される眼の像と眼の部位の位置関係を示す模式図である。 同観察システムが備える画像処理装置によって生成される表示画像を示す模式図である。 同観察システムが備える画像処理装置の機能的構成を示すブロック図である。 同観察システムが備える画像処理装置の領域検出部によって検出される反転領域を示す模式図である。 同観察システムが備える画像処理装置の画像生成部による表示画像の生成を示す模式図である。 同観察システムが備える画像処理装置の領域検出部によって検出される反転領域を示す模式図である。 同観察システムが備える画像処理装置の領域検出部によって検出される不要領域を示す模式図である。 同観察システムが備える画像処理装置の画像生成部による表示画像の生成を示す模式図である。 同観察システムが備える画像処理装置の画像生成部による表示画像の生成を示す模式図である。 同観察システムが備える画像処理装置の動作を示すフローチャートである。 同観察システムが備える画像処理装置のハードウェア構成を示すブロック図である。 本技術の第2の実施形態に係る画眼科用観察システムの構成を示すブロック図である。 同観察システムが備える前置レンズ及び撮像装置の構成を示す模式図である。 同観察システムが備える前置レンズ及び撮像装置の構成を示す模式図である。 同用観察システムが備える前置レンズ及び撮像装置の構成を示す模式図である。 同観察システムが備える撮像装置の小型カメラの配置を示す模式図である。 観察システムが備える撮像装置によって撮像される撮像画像の撮像範囲を示す模式図である。 同観察システムが備える画像処理装置の機能的構成を示すブロック図である。 同観察システムが備える画像処理装置による表示画像の生成を示す模式図である。 同観察システムが備える画像処理装置によって生成される表示画像の模式図である。 同観察システムが備える画像処理装置の動作を示すフローチャートである。
(第1の実施形態)
本技術の第1の実施形態に係る眼科用観察システムについて説明する。
[眼科用観察システムの構成]
図1は本実施形態に係る眼科用観察システム100の構成を示すブロック図である。同図に示すように眼科用観察システム100は、前置レンズ101、顕微鏡102、撮像装置103、画像処理装置104、表示装置105、顕微鏡制御入力部106、顕微鏡制御部107及びユーザ入力部108を備える。
図2及び図3は眼科用観察システム100の観察対象である眼300の構造を示す模式図であり、図2は断面図、図3は眼の正面方向からみた平面図である。これらの図に示すように、眼300は角膜301、虹彩302及び水晶体303等の組織で構成されている。水晶体303の表面において虹彩302の間が瞳孔304であり、角膜301の周縁には隅角305が位置する。また、図2及び図3には眼の手術に用いられる術具Tを示す。
前置レンズ101は、眼に装着されるレンズである。図4及び図5は、前置レンズ101を示す模式図である。前置レンズ101は図4に示す直視型の前置レンズ(以下、直視型前置レンズ101A)であってもよく、図5に示す反射型の前置レンズ(以下、反射型前置レンズ101B)であってもよい。
図4に示すように、直視型前置レンズ101Aは角膜301上に載置され、支持部材111、凹レンズ112及び凸レンズ113から構成されている。凹レンズ112は角膜301に当接し、凸レンズ113は凹レンズ112から離間して設けられている。
図6は、直視型前置レンズ101Aにおける光の経路を示す模式図である。同図に示すように、隅角305等の虹彩302の周縁部から出射された光(図中、L1)は凹レンズ112及び凸レンズ113によって反転し、眼の正面方向に向かって出射する。また、瞳孔304等の虹彩302の中央部から出射された光(図中、L2)もまた、凹レンズ112及び凸レンズ113によって反転し、眼の正面方向に向かって出射する。
図7は、直視型前置レンズ101Aを介してみた眼の像を示す模式図である。同図に示すように、虹彩302の周囲には、直視型前置レンズ101Aによって現された隅角305の像が映ると共に、直視型前置レンズ101Aの周縁Sより内側の領域では像が反転する。また、直視型前置レンズ101Aによって像は一定程度拡大される。図7において像が反転する領域を反転領域R1とし、像が反転しない領域を非反転領域R2として示す。図8は反転領域R1のみを示す模式図である。
図5に示すように反射型前置レンズ101Bは、角膜301上に載置され、支持部材121、凸レンズ122及びミラー123から構成されている。凸レンズ122は角膜301に当接するように配置される。図9は、ミラー123の配置を示す模式図であり、眼の正面方向からみた図である。同図に示すようにミラー123は、凸レンズ122の周囲において円周状に配置されている。
図10は、反射型前置レンズ101Bにおける光の経路を示す模式図である。同図に示すように、隅角305等の虹彩302の周縁部から出射された光(図中、L1)は凸レンズ122によって屈折し、ミラー123によって眼の正面方向に向かって反射され、反転して出射する。また、瞳孔304等の虹彩302の中央部から出射された光(図中、L2)はミラー123によって反射されず、反転せずに出射する。
図11は、反射型前置レンズ101Bを介してみた眼の像を示す模式図である。同図に示すように、虹彩302の周囲には、反射型前置レンズ101Bによって現された隅角305の像が映る。また、反射型前置レンズ101Bの周縁Sより内側の一定範囲の領域では上記光L1で示すように像が反転する。以下、この像が反転する領域を反転領域R1とし、像が反転しない領域を非反転領域R2とする。
図12は反転領域R1のみを示す模式図である。ミラー123が円周状に配置されているため、同図に示すように反転領域R1も円周状の領域となる。また、術具Tの像に示すように、反転領域R1の内周側から外周側にかけて像が次第に拡大される。
また図11に示すように非反転領域R2は、反転領域R1の内側の中央領域R2Aと反転領域R1の外側の外周領域R2Bを含む。中央領域R2Aは上記光L2で示すようにミラー123によって反射されていない領域であり、周縁領域2Bは反射型前置レンズ101Bの外側の領域である。
図13は、眼の構造と反射型前置レンズ101Bによって生じる像の関係を示す模式図である。同図に示すように、反転領域R1には、ミラー123によって反射された隅角305、虹彩302及び瞳孔304の像が含まれる。このため、虹彩302及び瞳孔304は中央領域R2Aと反転領域R1の両方に映ることになる。
前置レンズ101は以上のような構成を有する。前置レンズ101は直接的または間接的に眼との位置関係を固定され、像の一部を反転させるものであればよく、典型的には隅角305を観察するための隅角鏡である。また、前置レンズ101は網膜観察のためのワイドビューシステムに利用されるワイドビューレンズであってもよい。
顕微鏡102は、前置レンズ101から出射された光を拡大し、撮像装置103に入射させる。顕微鏡102は一般的構成を有する光学顕微鏡とすることができる。また、顕微鏡102は、左右両眼用に二つの鏡筒が設けられたものであってもよい。顕微鏡102は視野をX−Y方向に移動可能なものが好適である。顕微鏡102は、顕微鏡制御部107によって拡大倍率や視野範囲等の制御を受ける。
撮像装置103は、顕微鏡102にマウントされ、前置レンズ101及び顕微鏡102を介して眼の画像を撮像する。撮像装置103が撮像する画像(以下、撮像画像)は、前置レンズ101が眼に装着されていない場合には図3に示すような画像となり、前置レンズ101が眼に装着されている場合には図7又は図11に示すような画像となる。撮像装置103は撮像画像を画像処理装置104に出力する。
画像処理装置104は、撮像装置103から出力された撮像画像に画像処理を施し、表示画像を生成する。図14は表示画像を示す模式図である。画像処理装置104は撮像画像に前置レンズ101が含まれる場合、撮像画像に含まれる反転領域R1を反転させ、図14に示すように正しい向きに補正する。この詳細については後述する。画像処理装置104は生成した表示画像を表示装置105に出力し、表示させる。また、画像処理装置104は、反転の有無や反転領域の範囲等といった反転に関する情報を顕微鏡制御部107に出力する。
表示装置105は、画像処理装置104から出力された表示画像を表示する。表示装置105は一般的なディスプレイやヘッドマウントディスプレイである。また、表示装置105は複数のディスプレイであってもよく、例えば執刀医用のディスプレイと補助者用のディスプレイとすることができる。
顕微鏡制御入力部106は、ユーザによる顕微鏡102への操作入力を受け付ける。ユーザは顕微鏡制御入力部106を用いて顕微鏡102の視野をX−Y方向において移動させる(以下、X−Y操作)等の操作入力を行うことができる。顕微鏡制御入力部106は例えばフットスイッチである。顕微鏡制御入力部106は、ユーザの操作に基づいて入力信号を生成し、入力信号を顕微鏡制御部107に供給する。
顕微鏡制御部107は、顕微鏡制御入力部106から供給された入力信号に基づいて顕微鏡102を制御する。顕微鏡制御部107は、入力信号に応じて顕微鏡102の鏡筒位置等を調整し、顕微鏡102の視野を移動させることができる。
ここで、顕微鏡制御部107は、画像処理装置104から反転に関する情報を取得し、反転が実施されている場合、反転領域R1において顕微鏡制御入力部106から供給された入力信号を反転させる。
上記のように画像処理装置104において反転領域R1の反転が実施されている場合においてユーザが視野を移動させる際、表示画像には反転した眼の像が含まれているため、そのままではユーザが見たい方向に視野を移動させようとすると、視野が反対方向に移動する。これにより、ユーザに混乱を引き起こす。
これに対して顕微鏡制御部107がX−Y操作の入力信号を反転させることにより、ユーザの意図するX−Y操作にしたがって顕微鏡102の視野が移動し、ユーザの混乱が解消される。
ユーザ入力部108は、上述した顕微鏡制御部107による入力信号の反転処理を実施するかどうかをユーザの指示に従って設定する。
[画像処理装置の機能的構成]
図15は画像処理装置104の機能的構成を示すブロック図である。同図に示すように画像処理装置104は、画像取得部141、モード決定部142、領域検出部143、画像生成部144及び画像出力部145を備える。
<1.直視型前置レンズの場合>
前置レンズ101として直視型前置レンズ101A(図4参照)が用いられる場合の画像処理装置104の機能的構成について説明する。
画像取得部141は、撮像装置103から撮像画像を取得する。直視型前置レンズ101Aが用いられている場合の撮像画像は、図7に示すような画像となる。上述のように撮像画像には反転領域R1及び非反転領域R2が含まれている。画像取得部141は、取得した撮像画像をモード決定部142に供給する。
モード決定部142は、画像処理装置104の動作モードを決定する。具体的には、モード決定部142は前置レンズ101による影響を補正するためのモード(以下、補正モード)と通常のモード(以下、通常モード)のいずれかのモードを選択する。
モード決定部142は、撮像画像に含まれている前置レンズ101の検出結果を利用してモードを決定することができる。
モード決定部142は、予めデータベースに保存されている前置レンズ101の像の特徴を撮像画像において検出する物体認識技術によって前置レンズ101を検出することができる。また、モード決定部142は、前置レンズ101に付されたマーカーを検出することによって前置レンズ101を検出してもよい。
モード決定部142は、撮像画像に前置レンズ101が含まれている場合には補正モードを選択し、前置レンズ101が含まれていない場合には通常モードを選択することができる。
また、モード決定部142は、ユーザ入力部108を用いて入力されたユーザの指示に応じて、モードを決定してもよい。モード決定部142は、決定したモードを領域検出部143及び画像生成部144に通知する。
領域検出部143は、撮像画像において反転領域R1を検出する。図16は直視型前置レンズ101Aが眼に装着されている場合に撮像される撮像画像Gにおける反転領域R1の範囲を示す模式図である。
領域検出部143は、上述した物体認識を利用して反転領域R1を検出することができる。また、領域検出部143は、前置レンズ101の外側は白目の領域である一方、前置レンズ101の内側は隅角、虹彩及び瞳孔のように白目とは色やテクスチャの様子が異なることを利用して反転領域R1を検出することもできる。
また、撮像画像において前置レンズ101の周縁Sには明確エッジが存在するため、領域検出部143はエッジ検出処理を行い、検出されたエッジの内側の領域を反転領域R1として検出ことも可能である。
以上の検出方法は1つの撮像画像から反転領域R1を検出するものであるが、領域検出部143は複数の撮像画像を利用して反転領域R1を検出することもできる。具体的には領域検出部143は、前置レンズ101が装着されていない手術開始時の撮像画像を保持しておき、その撮像画像と前置レンズ101が含まれる撮像画像を比較し、差分が大きい領域を反転領域R1として検出してもよい。
また、顕微鏡102に撮像装置103を搭載する場合、左目用と右目用の両方の撮像画像を得ることができる。領域検出部143は、この二つの撮像画像の視差情報からデプス(Depth)情報を抽出し、前置レンズ101は眼の手前にあることを利用して反転領域R1を検出することもできる。
なお、領域検出部143は、一度反転領域R1の検出に成功した場合には、検出した前置レンズ101をトラッキングすることで反転領域R1を検出してもよい。領域検出部143は以上のようにして反転領域R1を検出する。領域検出部143は、検出した反転領域R1の範囲を画像生成部144に供給する。
画像生成部144は、撮像画像に補正処理を行い、表示画像を生成する。図17は画像生成部144による補正処理の態様を示す模式図である。まず、画像生成部144は、図17(a)に示すように撮像画像Gにおける反転領域R1を抽出する。図中、R、L、U及びDは反転領域R1における位置を示す記号である。
続いて、画像生成部144は図17(b)に示すように、反転領域R1の中心を中心点として点対称となるように反転領域R1を反転させる。さらに、画像生成部144は、図17(c)に示すように、反転させた反転領域R1の外周と非反転領域R2の内周を一致させることによって反転領域R1と非反転領域R2とを合成する。
これにより、画像生成部144は、図14に示すように、反転が解消された表示画像を生成することができる。画像生成部144は、生成した表示画像を画像出力部145に供給する。
画像出力部145は、表示画像を表示装置105に出力し、表示装置105に表示させる。ここで、眼科の手術では、執刀医と助手がいる場合、執刀医と助手が直交した位置関係となることが多い。この場合、画像出力部145は、あるディスプレイには執刀医の位置から見た表示画像を、別のディスプレイには助手の位置に合わせて回転させた表示画像を表示させることができる。これにより、執刀医と助手の両方に混乱が生じにくい表示画像を提供することができる。
<2.反射型前置レンズの場合>
前置レンズ101として反射型前置レンズ101B(図5参照)が用いられる場合の画像処理装置104の機能的構成について説明する。
画像取得部141は、撮像装置103から撮像画像を取得する。反射型前置レンズ101Bが用いられている場合の撮像画像は、図11に示すような画像となる。上述のように撮像画像には反転領域R1及び非反転領域R2が含まれている。画像取得部141は、取得した撮像画像をモード決定部142に供給する。
モード決定部142は、画像処理装置104の動作モードを決定する。モード決定部142は、直視型前置レンズ101Aの場合と同様に撮像画像に含まれている前置レンズ101の検出結果やユーザによる指示に応じて動作モードを決定することができる。モード決定部142は、決定したモードを領域検出部143及び画像生成部144に通知する。
領域検出部143は、撮像画像において各領域を検出する。図18は、反射型前置レンズ101Bが眼に装着されている場合に撮像される撮像画像Gにおける反転領域R1、中央領域R2A及び外周領域R2Bを示す模式図である。
まず、領域検出部143は、反転領域R1及び中央領域R2Aを検出する。領域検出部143は、直視型前置レンズ101Aの場合と同様に、物体認識やエッジ検出、撮像画像の差分等を利用して反転領域R1を検出することができる。また、領域検出部143は、検出した反転領域R1の内側の領域を中央領域R2Aとして検出することができる。
さらに、領域検出部143は、不要領域を検出する。図19は不要領域R3(図中、斜線部)を示す模式図である。同図に示すように、不要領域R3は、反転領域R1のうち、中央領域R2Aにも映っている領域であり、反転領域R1における虹彩302及び瞳孔304に相当する領域である。
領域検出部143は、隅角305と虹彩302の色やテクスチャの違いを利用して不要領域R3を検出することができる。また、領域検出部143は、予め取得したミラー123の傾斜角度から不要領域R3となる範囲を推定し、不要領域R3を検出することもできる。
さらに、領域検出部143は、中央領域R2Aの周縁に隅角305が移っている場合には、隅角305の領域も不要領域R3に含めることが可能である。領域検出部143は、検出した反転領域R1、中央領域R2A及び不要領域R3の範囲を画像生成部144に供給する。
画像生成部144は、撮像画像に補正処理を行い、表示画像を生成する。図20及び図21は画像生成部144による補正処理の態様を示す模式図である。まず、画像生成部144は、図20(a)に示すように撮像画像Gにおける反転領域R1を抽出する。図中、R0、R1、L0、L1、U0、U1、D0及びD1は反転領域R1における位置を示す記号である。
続いて、画像生成部144は、図20(b)に示すように、反転領域R1において不要領域R3を削除する。以下、不要領域R3を削除した反転領域R1を反転領域R4とする。同図において反転領域R4の内周を内周E1として示し、反転領域R4の外周を外周E2として示す。
さらに画像生成部144は図21(a)に示すように反転領域R4を、反転領域R4の中心を中心点として点対称となるように反転させる。同図において反転領域R4の内周E3は反転前の外周E2に相当し、反転領域R4の外周E4は反転前の内周E1に相当する。即ち、画像生成部144は、内周E1の長さが外周E4に一致し、外周E2の長さが内周E3に一致するように、台形補正を施して反転領域R4を反転させる。また、画像生成部144は、中央領域R2Aに不要領域R3の一部が存在する場合、この部分を削除する。
さらに、画像生成部144は、図21(b)に示すように、反転させた反転領域R4を非反転領域R2(中央領域R2A及び外周領域R2B)と合成する。この際、画像生成部144は、反転領域R4の内周E3が中央領域R2Aの外周に一致するように反転領域R4を拡大させ、又は中央領域R2Aを拡大させる。また、画像生成部144は、反転領域R4の外周E4を外周領域の内周に一致させる。
このようにして、画像生成部144は、図14に示すように、反転が解消された表示画像を生成することができる。画像生成部144は、生成した表示画像を画像出力部145に供給する。
画像出力部145は、表示画像を表示装置105に出力し、表示装置105に表示させる。画像出力部145は上記のように、執刀医と助手の位置関係に応じて表示画像を回転させ、ディスプレイに表示させることが可能である。
[画像処理装置の動作]
図22は、画像処理装置104の動作を示すフローチャートである。同図に示すように、まず、画像取得部141が撮像画像を取得する(St101)。
続いて、モード決定部142が、補正モードと通常モードのいずれかを決定する(St102)。モード決定部142は、上記のように撮像画像において前置レンズ101を検出し、又はユーザの指示を受けて補正モードを選択し、それ以外の場合は通常モードを選択することができる。
モード決定部142が補正モードを選択した場合(St103:Yes)、領域検出部143は反転領域R1を検出する(St104)。また、反射型前置レンズ101Bが眼に装着されている場合、領域検出部143は、反転領域R1に加え、中央領域R2A及び不要領域R3を検出する。
続いて、画像生成部144は、補正及び合成処理を行い、表示画像を生成する(St105)。画像生成部144は、直視型前置レンズ101Aの場合には反転領域R1を反転させ、非反転領域R2と合成させる。また、画像生成部144は、反射型前置レンズ101Bの場合には不要領域R3を削除した上で反転領域R4を反転させ、非反転領域R2と合成させる。
また、モード決定部142が通常モードを選択した場合(St103:No)、画像生成部144は、撮像画像をそのまま表示画像とする。
続いて画像出力部145は、画像生成部144によって生成された表示画像を表示装置105に出力し(St106)、表示装置105に表示させる。画像出力部145は、執刀医と助手の位置関係に応じて表示画像を回転させることができる。
画像処理装置104は以上のような動作を行う。画像処理装置104によって前置レンズ101による像の反転が解消されるため、ユーザは混乱を生じることなく手術を行うことが可能となる。
[眼科用観察システムの動作]
画像処理装置104によって、前置レンズ101による像の反転が解消された表示画像が表示装置105に表示させる。その表示画像を見ながら術者は処置を行うが、細かな作業を行う場合、拡大して観察したいということがある。デジタルズームで十分な場合は、それで対応するが、より拡大したい場合には顕微鏡102を適切な位置に、X−Y方向において平行移動させたうえで光学的に拡大することも必要になる。
表示画像は補正された画像であるため、たとえば表示装置105上の左上を拡大して見たい場合には、顕微鏡102自体は右下に動かす必要があり、齟齬が生じる。そこで、顕微鏡制御部107は補正モードで動作している場合には、顕微鏡制御入力部106等から得られるX−Y操作信号を反転させて顕微鏡102の動きに反映させることで、術者の混乱を防止することが可能である。
[眼科用観察システムによる効果]
従来、隅角等の眼の正面からの視認が困難な部位を、前置レンズ及び顕微鏡によって観察することが一般的であった。眼科用観察システム100では、前置レンズ101及び顕微鏡102に加えて画像処理装置104による画像処理を行うことにより術者の混乱のもとになる像の反転を解消することが可能である。
また、眼科用観察システム100の光学系(前置レンズ101及び顕微鏡102)は簡易な光学系であるため、光の減衰を減らすことができ、低光量にも対応することができる。さらに、像の反転の解消に合わせて顕微鏡102の操作信号を反転させることにより、術者は違和感なく顕微鏡102の視野を移動させることが可能である。
[ハードウェア構成]
図23は、画像処理装置104のハードウェア構成を示す模式図である。同図に示すように画像処理装置104はハードウェア構成として、CPU1001、GPU1002、メモリ1003、ストレージ1004及び入出力部(I/O)1005を有する。これらはバス1006によって互いに接続されている。
CPU(Central Processing Unit)1001は、メモリ003に格納されたプログラムに従って他の構成を制御すると共に、プログラムに従ってデータ処理を行い、処理結果をメモリ1003に格納する。CPU1001はマイクロプロセッサとすることができる。
GPU(Graphic Processing Unit)1002は、CPU1001による制御を受けて、画像処理を実行する。GPU1002はマイクロプロセッサとすることができる。
メモリ1003はCPU1001によって実行されるプログラム及びデータを格納する。メモリ1003はRAM(Random Access Memory)とすることができる。
ストレージ1004は、プログラムやデータを格納する。ストレージ1004はHDD(hard disk drive)又はSSD(solid state drive)とすることができる。
入出力部1005は画像処理装置104に対する入力を受け付け、また画像処理装置104の出力を外部に供給する。入出力部1005は、キーボードやマウス等の入力機器やディスプレイ等の出力機器、ネットワーク等の接続インターフェースを含む。
画像処理装置104のハードウェア構成はここに示すものに限られず、画像処理装置104の機能的構成を実現できるものであればよい。また、上記ハードウェア構成の一部又は全部はネットワーク上に存在していてもよい。
(第2の実施形態)
本技術の第2の実施形態に係る眼科用観察システムについて説明する。
[眼科用観察システムの構成]
図24は本実施形態に係る眼科用観察システム200の構成を示すブロック図である。同図に示すように眼科用観察システム200は、前置レンズ201、撮像装置202、画像処理装置203、表示装置204及び制御入力部205を備える。なお、眼の構造については、第1の実施形態(図2及び図3)と同一の符号を用いる。
前置レンズ201は、眼に装着されるレンズである。本実施形態においては、前置レンズ201に撮像装置202が組み込まれている。図25乃至図28は、前置レンズ201及び撮像装置202の構成を示す模式図である。
前置レンズ201は、第1の実施形態と同様に反射型前置レンズ又は直視型前置レンズとすることができる。本実施形態では、前置レンズ201として前置レンズの一部の構成について示す。図25乃至図28に示すように、前置レンズ201は眼300に装着され、支持部材211及び凸レンズ212を備える。
図25に示すように、撮像装置202は、複数の小型カメラ213が配列されたカメラアレイとすることができる。図28は小型カメラ213の配列を示す模式図であり、眼の正面方向からみた図である。同図に示すように小型カメラ213は同心円状の配列とすることができる。また、小型カメラ213の配列はこのような配列に限られず、小型カメラ213のアレイによって凸レンズ212の全周を撮像可能なものであればよい。
図25に示すように、眼から出射された光Lは凸レンズ212を通過し、それぞれの小型カメラ213に入射して撮像される。
また、図26に示すように撮像装置202は、複数の集光部214と、集光部214にそれぞれ接続された光ファイバ215と、各光ファイバ215が接続された一つのカメラ216によって構成されたものであってもよい。集光部214はレンズ等の任意の光学系を備え、入射光を光ファイバ215に集光する。集光部214の配列は、図28に示す小型カメラ213の配列と同様とすることができるが、凸レンズ212の全周を撮像可能なものであればよい。
図26に示すように、眼から出射された光Lは凸レンズ212を通過し、それぞれの集光部214に入射する。それぞれの集光部214に入射した光は光ファイバ215によってカメラ216に導かれ、カメラ216によって撮像される。
また、図27に示すように撮像装置202は、複数の集光部217と、集光部217にそれぞれ接続された光ファイバ218と、光ファイバ218がそれぞれ接続された複数の小型カメラ219によって構成されたものであってもよい。集光部217はレンズ等の任意の光学系を備え、入射光を光ファイバ218に集光する。集光部217の配列は、図28に示す小型カメラ213の配列と同様とすることができるが、凸レンズ212の全周を撮像可能なものであればよい。
図27に示すように、眼から出射された光Lは凸レンズ212を通過し、それぞれの集光部217に入射する。それぞれの集光部217に入射した光は光ファイバ218によってそれぞれの小型カメラ219に導かれ、小型カメラ219によって撮像される。
図29は、小型カメラ213によって撮像される眼の像を示す模式図である。同図において、小型カメラ213のそれぞれの撮像範囲を撮像範囲Hとして示す。同図に示すように、小型カメラ213の撮像範囲Hを結合することによって眼の全体の像が得られる。
図29に示すように、虹彩302の周囲には、前置レンズ201によって現された隅角305の像が映ると共に、前置レンズ201の周縁Sより内側の領域では像が反転する。また、前置レンズ201によって像は一定程度拡大される。図29において像が反転する領域を反転領域R1とし、像が反転しない領域を非反転領域R2として示す。
なお、小型カメラ219(図27参照)によって撮像される眼の像も小型カメラ213と同様の像となる。また、カメラ216(図26参照)の場合、図29に示すような一つの画像が撮像され、個々の集光部214に入射する光は個々の撮像範囲Hに相当する範囲の光となる。
前置レンズ201及び撮像装置202は以上のような構成を有する。前置レンズ201は眼に装着され、像の一部を反転させるものであればよく、典型的には隅角305を観察するための隅角鏡である。また、前置レンズ201は網膜観察のためのワイドビューシステムに利用されるワイドビューレンズであってもよい。
画像処理装置203は、撮像装置202から出力された撮像画像に画像処理を施し、表示画像を生成する。画像処理装置203は、撮像画像に含まれる反転領域R1を反転させて正しい向きに補正する。この詳細については後述する。画像処理装置203は生成した表示画像を表示装置204に出力し、表示させる。
表示装置204は、画像処理装置203から出力された表示画像を表示する。表示装置204は一般的なディスプレイやヘッドマウントディスプレイである。また、表示装置204は複数のディスプレイであってもよく、例えば手術者用のディスプレイと補助者用のディスプレイとすることができる。
制御入力部205は、ユーザによる画像処理装置203への操作入力を受け付ける。ユーザは、制御入力部205を用いて表示モードの指定等の操作入力を行うことができる。制御入力部205は例えばフットスイッチである。
[画像処理装置の機能的構成]
図30は画像処理装置203の機能的構成を示すブロック図である。同図に示すように画像処理装置203は、モード受付部231、画像取得部232、画像生成部233、画像出力部234を備える。
モード受付部231は、ユーザによる表示モードの入力を受け付ける。表示モードには、拡大率、立体感及びX−Y方向の位置の情報(以下、X−Y位置情報)が含まれている。モード受付部231は、表示モードを受け付けると、表示モードを画像取得部232に指示する。
画像取得部232は、撮像装置202から図29に示すような撮像画像を取得する。画像取得部232は、取得した撮像画像を画像生成部233に供給する。
画像生成部233は、撮像画像に補正処理を行い、表示画像を生成する。画像生成部233は、表示モードにおいて規定されている拡大率及びX−Y位置情報にしたがって定まる術野範囲を計算し、その術野範囲が映る撮像範囲Hの撮像画像を抽出する。
画像生成部233は、抽出した撮像画像の位置及び向きを変更しパノラマ合成を行う。図31は、画像生成部233による撮像画像の位置及び向きの変更を示す模式図であり、撮像範囲H1の撮像画像を範囲H2に反転させている。同図に示すように画像生成部233は、反転領域R1の反転が解消されるように撮像画像の位置及び向きを変更する。
図32は、画像生成部233が生成する表示画像の模式図である。画像生成部233は、表示モードによって眼の全体の画像を指示された場合には、図32(a)に示すように全ての撮像範囲Hの撮像画像を利用して表示画像を生成する。
また、画像生成部233は、表示モードによって眼の一部を拡大した画像を指示された場合には、図32(b)に示すように一部の撮像範囲Hの撮像画像を利用して表示画像を生成する。
このようにして画像生成部233は、反転領域R1の反転が解消された表示画像を生成することができる。また、画像生成部233は、輻輳を変更するように撮像範囲Hを選択する、即ち、互いに離間する撮像範囲Hから表示画像を生成することによって視差を変更することも可能である。画像生成部233は、生成した表示画像を画像出力部234に供給する。
画像出力部234は、表示画像を表示装置204に出力し、表示装置204に表示させる。画像出力部234は、第1の実施形態と同様に、あるディスプレイには執刀医の位置から見た表示画像を、別のディスプレイには助手の位置に合わせて回転させた表示画像を表示させることができる。
[画像処理装置の動作]
図33は、画像処理装置203の動作を示すフローチャートである。同図に示すように、まず、モード受付部231が表示モードの入力を受け付ける(St201)。表示モードの変更がある場合(St201:No)、表示モードが変更される(St202)。表示モードが変更された後、又は表示モードに変更がない場合(St201:Yes)、画像取得部232は表示モードにしたがって撮像画像を取得する(St203)。
続いて、画像生成部233は、表示モードにしたがって撮像範囲H毎に撮像画像の向き及び位置を変更して合成し、表示画像を生成する(St205)。画像出力部234は表示画像を表示装置204に出力し、表示させる(St206)。
画像処理装置203は、撮像画像の撮像に光学的なズームを用いないため、拡大した表示画像と眼の全体の表示画像を同時に提示することができ、執刀医が拡大している部位の位置を見失うことが防止されている。
また、微細な手技が実施される差異には術野の拡大が必要となるが、こういった場合、単純に拡大画像だけではなく、視差による立体感が重要になることも多い。本技術では、
二つの撮像範囲を輻輳を変更するように選ぶことで視差を変えることが容易に行えるため、ユーザによって指定された立体感の設定パラメタに瞬時に応じることができる。
また、本実施形態では光学的なズームを用いずに画像処理によって術野の画像を提供しているため、執刀医には拡大像を、助手は全体像を見るといったような使い方も可能である。
[眼科用観察システムによる効果]
眼科用観察システム200では、前置レンズ201に加えて画像処理装置203による画像処理を行うことにより術者の混乱のもとになる像の反転を解消することが可能である。
また、眼科用観察システム200の光学系(前置レンズ201)は簡易な光学系であるため、光の減衰を減らすことができ、低光量にも対応することができる。
また、眼科用観察システム200では眼の全体像と拡大図を同時に提示すること、術野の変更を瞬時に行うことが可能である。さらに眼科用観察システム200では、視差の変更が容易に行え、立体感を制御することが可能であり、執刀医と助手にそれぞれ適した表示画像を提示することも可能である。
[ハードウェア構成]
画像処理装置203は、第1の実施形態に係る画像処理装置104と同様のハードウェア構成によって実現することが可能である。
なお、本技術は以下のような構成もとることができる。
(1)
眼に装着された前置レンズを介して撮像された撮像画像において、上記前置レンズによって像が反転している画像領域である反転領域を反転させ、表示画像を生成する画像生成部
を具備する画像処理装置。
(2)
上記(1)に記載の画像処理装置であって、
上記撮像画像において上記反転領域を検出する領域検出部
をさらに具備する画像処理装置
(3)
上記(1)又は(2)に記載の画像処理装置であって、
上記画像生成部は、上記反転領域の中心を中心点として上記反転領域を反転させる
画像処理装置。
(4)
上記(1)から(3)のいずれか一つに記載の画像処理装置であって、
上記画像生成部は、上記反転領域を反転させ、上記撮像画像において上記前置レンズによって像が反転していない画像領域である非反転領域と合成することによって上記表示画像を生成する
画像処理装置。
(5)
上記(4)に記載の画像処理装置であって、
上記前置レンズは、角膜に当接する凹レンズと、上記凹レンズから出射された光を眼の正面方向に向けて屈折させる凸レンズとを備える直視型前置レンズであり、
上記反転領域は円形であり、上記非反転領域は上記反転領域の周囲を囲む
画像処理装置。
(6)
上記(5)に記載の画像処理装置であって、
上記画像生成部は、上記反転領域を反転させ、反転させた上記反転領域の外周と上記非反転領域の内周を一致させることによって上記反転領域と上記非反転領域とを合成する
画像処理装置。
(7)
上記(4)に記載の画像処理装置であって、
上記前置レンズは、角膜に当接する凸レンズと、上記凸レンズの周囲に円周状に配置され、上記凸レンズから出射された光を眼の正面方向に向けて反射させるミラーとを備える反射型前置レンズであり、
上記反転領域は円周状領域であり、上記非反転領域は上記反転領域に囲まれた中央領域と上記反転領域を囲む外周領域とを含む
画像処理装置。
(8)
上記(7)に記載の画像処理装置であって
上記画像生成部は、上記反転領域において上記中央領域の像を含む領域を不要領域として検出し、上記不要領域を削除して上記反転領域に反転させ、反転させた上記反転領域の内周と上記中央領域の外周を一致させ、反転させた上記反転領域の外周と上記外周領域の内周を一致させることによって上記反転領域、上記中央領域及び上記外周領域を合成する
画像処理装置。
(9)
上記(2)から(8)のいずれか一つに記載の画像処理装置であって、
上記撮像画像に上記前置レンズが含まれていることを検出して上記前置レンズによる像の反転を補正する補正モードを選択し、上記領域検出部及び上記画像生成部に通知するモード決定部をさらに具備し、
上記領域検出部は、上記モード決定部によって上記補正モードが選択された場合に上記反転領域を検出する
画像処理装置。
(10)
上記(9)に記載の画像処理装置であって
上記モード決定部は、上記撮像画像に対する物体認識処理によって上記前置レンズを検出する
画像処理装置。
(11)
上記(9)に記載の画像処理装置であって
上記モード決定部は、上記撮像画像において上記前置レンズに付されたマーカーを検出することによって上記前置レンズを検出する
画像処理装置。
(12)
上記(2)から(11)のいずれか一つに記載の画像処理装置であって、
上記領域検出部は、上記撮像画像に対する物体認識処理によって上記反転領域を検出する
画像処理装置。
(13)
上記(2)から(12)のいずれか一つに記載の画像処理装置であって、
上記領域検出部は、上記撮像画像における眼の構造によるテクスチャの違いを利用して上記反転領域を検出する
画像処理装置。
(14)
上記(2)から(12)のいずれか一つに記載の画像処理装置であって、
上記領域検出部は、上記撮像画像に対するエッジ検出処理によって上記反転領域を検出する
画像処理装置。
(15)
上記(2)から(12)のいずれか一つに記載の画像処理装置であって、
上記領域検出部は、上記撮像画像と上記前置レンズが装着されていない状態で撮像された眼の画像の差分に基づいて上記反転領域を検出する
画像処理装置。
(16)
上記(2)から(12)のいずれか一つに記載の画像処理装置であって、
上記領域検出部は、上記撮像画像から得られる視差情報から抽出されるデプス情報を利用して上記反転領域を検出する
画像処理装置。
(17)
上記(1)から(16)のいずれか一つに記載の画像処理装置であって、
上記撮像画像は、所定の撮像範囲毎に撮像された複数の画像から構成され、
上記画像生成部は、上記複数の画像の位置及び向きを反転させて上記表示画像を生成する
画像処理装置。
(18)
眼に装着され、像を反転させる前置レンズと、
上記前置レンズを介して撮像された撮像画像において、上記前置レンズによって像が反転している画像領域である反転領域を反転させ、表示画像を生成する画像生成部を備える画像処理装置と
を具備する眼科用観察装置。
(19)
上記(18)に記載の眼科用観察装置であって、
上記前置レンズは隅角鏡である
眼科用観察装置。
(20)
眼に装着され、像を反転させる前置レンズと、
上記前置レンズの出射光を拡大する顕微鏡と、
ユーザによる操作入力を受け付けて入力信号を生成する顕微鏡制御入力部と、
上記顕微鏡に接続され、上記前置レンズ及び上記顕微鏡を介して撮像画像を撮像する撮像装置と、
上記撮像画像において、上記前置レンズによって像が反転している画像領域である反転領域を反転させ、表示画像を生成する画像生成部を備える画像処理装置と
上記画像生成部が上記反転領域を反転させると、上記入力信号を反転させて上記顕微鏡を制御する顕微鏡制御部と
を具備する眼科用観察システム。
100、200…眼科用観察システム
101、201…前置レンズ
102…顕微鏡
103、202…撮像装置
104、203…画像処理装置
105、204…表示装置
106…顕微鏡制御入力部
107…顕微鏡制御部
108…ユーザ入力部
141、232…画像取得部
142…モード決定部
143…領域検出部
144、233…画像生成部
145、234…画像出力部
205…制御入力部
231…モード受付部

Claims (20)

  1. 眼に装着された前置レンズを介して撮像された撮像画像において、前記前置レンズによって像が反転している画像領域である反転領域を反転させ、表示画像を生成する画像生成部
    を具備する画像処理装置。
  2. 請求項1に記載の画像処理装置であって、
    前記撮像画像において前記反転領域を検出する領域検出部
    をさらに具備する画像処理装置
  3. 請求項1に記載の画像処理装置であって、
    前記画像生成部は、前記反転領域の中心を中心点として前記反転領域を反転させる
    画像処理装置。
  4. 請求項3に記載の画像処理装置であって、
    前記画像生成部は、前記反転領域を反転させ、前記撮像画像において前記前置レンズによって像が反転していない画像領域である非反転領域と合成することによって前記表示画像を生成する
    画像処理装置。
  5. 請求項4に記載の画像処理装置であって、
    前記前置レンズは、角膜に当接する凹レンズと、前記凹レンズから出射された光を眼の正面方向に向けて屈折させる凸レンズとを備える直視型前置レンズであり、
    前記反転領域は円形であり、前記非反転領域は前記反転領域の周囲を囲む
    画像処理装置。
  6. 請求項5に記載の画像処理装置であって、
    前記画像生成部は、前記反転領域を反転させ、反転させた前記反転領域の外周と前記非反転領域の内周を一致させることによって前記反転領域と前記非反転領域とを合成する
    画像処理装置。
  7. 請求項4に記載の画像処理装置であって、
    前記前置レンズは、角膜に当接する凸レンズと、前記凸レンズの周囲に円周状に配置され、前記凸レンズから出射された光を眼の正面方向に向けて反射させるミラーとを備える反射型前置レンズであり、
    前記反転領域は円周状領域であり、前記非反転領域は前記反転領域に囲まれた中央領域と前記反転領域を囲む外周領域とを含む
    画像処理装置。
  8. 請求項7に記載の画像処理装置であって、
    前記画像生成部は、前記反転領域において前記中央領域の像を含む領域を不要領域として検出し、前記不要領域を削除して前記反転領域に反転させ、反転させた前記反転領域の内周と前記中央領域の外周を一致させ、反転させた前記反転領域の外周と前記外周領域の内周を一致させることによって前記反転領域、前記中央領域及び前記外周領域を合成する
    画像処理装置。
  9. 請求項2に記載の画像処理装置であって、
    前記撮像画像に前記前置レンズが含まれていることを検出して前記前置レンズによる像の反転を補正する補正モードを選択し、前記領域検出部及び前記画像生成部に通知するモード決定部をさらに具備し、
    前記領域検出部は、前記モード決定部によって前記補正モードが選択された場合に前記反転領域を検出する
    画像処理装置。
  10. 請求項9に記載の画像処理装置であって、
    前記モード決定部は、前記撮像画像に対する物体認識処理によって前記前置レンズを検出する
    画像処理装置。
  11. 請求項9に記載の画像処理装置であって、
    前記モード決定部は、前記撮像画像において前記前置レンズに付されたマーカーを検出することによって前記前置レンズを検出する
    画像処理装置。
  12. 請求項2に記載の画像処理装置であって、
    前記領域検出部は、前記撮像画像に対する物体認識処理によって前記反転領域を検出する
    画像処理装置。
  13. 請求項2に記載の画像処理装置であって、
    前記領域検出部は、前記撮像画像における眼の構造によるテクスチャの違いを利用して前記反転領域を検出する
    画像処理装置。
  14. 請求項2に記載の画像処理装置であって、
    前記領域検出部は、前記撮像画像に対するエッジ検出処理によって前記反転領域を検出する
    画像処理装置。
  15. 請求項2に記載の画像処理装置であって、
    前記領域検出部は、前記撮像画像と前記前置レンズが装着されていない状態で撮像された眼の画像の差分に基づいて前記反転領域を検出する
    画像処理装置。
  16. 請求項2に記載の画像処理装置であって、
    前記領域検出部は、前記撮像画像から得られる視差情報から抽出されるデプス情報を利用して前記反転領域を検出する
    画像処理装置。
  17. 請求項1に記載の画像処理装置であって、
    前記撮像画像は、所定の撮像範囲毎に撮像された複数の画像から構成され、
    前記画像生成部は、前記複数の画像の位置及び向きを反転させて前記表示画像を生成する
    画像処理装置。
  18. 眼に装着され、像を反転させる前置レンズと、
    前記前置レンズを介して撮像された撮像画像において、前記前置レンズによって像が反転している画像領域である反転領域を反転させ、表示画像を生成する画像生成部を備える画像処理装置と
    を具備する眼科用観察装置。
  19. 請求項18に記載の眼科用観察装置であって、
    前記前置レンズは隅角鏡である
    眼科用観察装置。
  20. 眼に装着され、像を反転させる前置レンズと、
    前記前置レンズの出射光を拡大する顕微鏡と、
    ユーザによる操作入力を受け付けて入力信号を生成する顕微鏡制御入力部と、
    前記顕微鏡に接続され、前記前置レンズ及び前記顕微鏡を介して撮像画像を撮像する撮像装置と、
    前記撮像画像において、前記前置レンズによって像が反転している画像領域である反転領域を反転させ、表示画像を生成する画像生成部を備える画像処理装置と
    前記画像生成部が前記反転領域を反転させると、前記入力信号を反転させて前記顕微鏡を制御する顕微鏡制御部と
    を具備する眼科用観察システム。
JP2019528996A 2017-07-12 2018-06-08 画像処理装置、眼科用観察装置及び眼科用観察システム Active JP7092131B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017136607 2017-07-12
JP2017136607 2017-07-12
PCT/JP2018/022052 WO2019012881A1 (ja) 2017-07-12 2018-06-08 画像処理装置、眼科用観察装置及び眼科用観察システム

Publications (2)

Publication Number Publication Date
JPWO2019012881A1 true JPWO2019012881A1 (ja) 2020-05-07
JP7092131B2 JP7092131B2 (ja) 2022-06-28

Family

ID=65002160

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019528996A Active JP7092131B2 (ja) 2017-07-12 2018-06-08 画像処理装置、眼科用観察装置及び眼科用観察システム

Country Status (4)

Country Link
US (1) US20200175656A1 (ja)
EP (1) EP3653107A4 (ja)
JP (1) JP7092131B2 (ja)
WO (1) WO2019012881A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020130607A (ja) * 2019-02-20 2020-08-31 ソニー株式会社 制御装置、眼科用顕微鏡システム、眼科用顕微鏡及び画像処理装置
WO2020179588A1 (ja) * 2019-03-07 2020-09-10 ソニー株式会社 手術顕微鏡システム、画像処理方法、プログラム、及び画像処理装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09505221A (ja) * 1993-11-15 1997-05-27 ヴォルク,ダナルド、エイ 間接検眼鏡検査レンズ・システム及びアダプタ・レンズ
US20150313465A1 (en) * 2014-05-02 2015-11-05 Ocular Instruments, Inc. Unreversed prism gonioscopy lens assembly
JP2017029333A (ja) * 2015-07-31 2017-02-09 株式会社トプコン 眼科用顕微鏡

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1319362A1 (en) 1996-10-24 2003-06-18 Volk Optical, Inc. Ophthalmoscopic viewing system
US5953097A (en) * 1997-06-24 1999-09-14 Neuroptics, Inc. Contact lens for use with ophthalmic monitoring systems
WO2003102498A1 (en) * 2002-05-30 2003-12-11 Visx, Inc. “tracking torsional eye orientation and position”
US8709078B1 (en) * 2011-08-03 2014-04-29 Lockheed Martin Corporation Ocular implant with substantially constant retinal spacing for transmission of nerve-stimulation light
US20100091244A1 (en) * 2008-07-19 2010-04-15 Volk Donald A Real image forming eye examination lens utilizing two reflecting surfaces with non-mirrored central viewing area
US8414564B2 (en) * 2010-02-18 2013-04-09 Alcon Lensx, Inc. Optical coherence tomographic system for ophthalmic surgery
WO2014155815A1 (ja) * 2013-03-29 2014-10-02 オリンパスメディカルシステムズ株式会社 立体内視鏡システム
FR3012629B1 (fr) * 2013-10-25 2016-12-09 Luneau Tech Operations Procede et dispositif d'acquisition et de calcul de donnees d'un objet ophtalmique
US9693686B2 (en) * 2015-04-30 2017-07-04 Novartis Ag Ophthalmic visualization devices, systems, and methods
EP3324817B1 (en) * 2015-10-16 2020-12-30 Alcon Inc. Ophthalmic surgical image processing
KR101643724B1 (ko) * 2016-04-29 2016-07-29 세종대학교산학협력단 안구 위치 식별 방법 및 그 장치, 안구 위치 추적 방법 및 그 장치
EP3639728A4 (en) * 2017-05-01 2021-02-17 Nidek Co., Ltd. OPHTHALMOLOGICAL DEVICE
JP2020130607A (ja) * 2019-02-20 2020-08-31 ソニー株式会社 制御装置、眼科用顕微鏡システム、眼科用顕微鏡及び画像処理装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09505221A (ja) * 1993-11-15 1997-05-27 ヴォルク,ダナルド、エイ 間接検眼鏡検査レンズ・システム及びアダプタ・レンズ
US20150313465A1 (en) * 2014-05-02 2015-11-05 Ocular Instruments, Inc. Unreversed prism gonioscopy lens assembly
JP2017029333A (ja) * 2015-07-31 2017-02-09 株式会社トプコン 眼科用顕微鏡

Also Published As

Publication number Publication date
EP3653107A1 (en) 2020-05-20
EP3653107A4 (en) 2020-07-08
JP7092131B2 (ja) 2022-06-28
US20200175656A1 (en) 2020-06-04
WO2019012881A1 (ja) 2019-01-17

Similar Documents

Publication Publication Date Title
JP6930915B2 (ja) 眼科処置における拡大とそれに関わる装置、システム、および方法
KR101640536B1 (ko) 안과용 시스템들을 위한 이미지-프로세서-제어된 오정렬 감소
JP5845608B2 (ja) 眼科撮影装置
JP5918241B2 (ja) 眼科システム及び眼を眼科システムにアライメントする方法
JP5038703B2 (ja) 眼科装置
US20220115122A1 (en) Control device, ophthalmic microscope system, ophthalmic microscope, and image processing apparatus
CN114503011A (zh) 跟踪眼睛瞳孔的运动的紧凑视网膜扫描装置及其应用
JP2018061621A (ja) 眼底画像撮影装置、眼底画像撮影方法、及び眼底画像撮影プログラム
US20230333389A1 (en) Head wearable virtual image module for superimposing virtual image on real-time image
JP7092131B2 (ja) 画像処理装置、眼科用観察装置及び眼科用観察システム
JP5953740B2 (ja) 眼底検査装置
JP2023120308A (ja) 画像処理方法、画像処理装置、及び画像処理プログラム
JP6270312B2 (ja) 眼科装置、画像処理方法およびプログラム
JP2017127578A (ja) 撮像方法、撮像装置、および該撮像方法を実行するプログラム
US20220175245A1 (en) Eye examination attachment, control device, and ophthalmic microscope system
WO2022091431A1 (ja) 眼科観察装置
JP2020162926A (ja) 眼科撮影装置、および、眼科用画像処理プログラム
US20240074821A1 (en) Image processing device, image processing method, and surgical microscope system
JP6560735B2 (ja) 眼科装置、画像処理方法およびプログラム
JP7318273B2 (ja) 眼科撮影装置、および、眼科用画像処理プログラム
JP7171162B2 (ja) 眼科撮影装置
WO2019203314A1 (ja) 画像処理方法、プログラム、及び画像処理装置
JP2022077565A (ja) 眼科撮影装置
JP2022029592A (ja) 眼科画像処理プログラムおよび眼科画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210519

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220427

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20220427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220530

R151 Written notification of patent or utility model registration

Ref document number: 7092131

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151