JP5947561B2 - 画像形成装置及び画像形成方法 - Google Patents

画像形成装置及び画像形成方法 Download PDF

Info

Publication number
JP5947561B2
JP5947561B2 JP2012034538A JP2012034538A JP5947561B2 JP 5947561 B2 JP5947561 B2 JP 5947561B2 JP 2012034538 A JP2012034538 A JP 2012034538A JP 2012034538 A JP2012034538 A JP 2012034538A JP 5947561 B2 JP5947561 B2 JP 5947561B2
Authority
JP
Japan
Prior art keywords
frame
image
image forming
frames
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012034538A
Other languages
English (en)
Other versions
JP2013169309A (ja
Inventor
裕之 今村
裕之 今村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012034538A priority Critical patent/JP5947561B2/ja
Priority to CN201380010145.3A priority patent/CN104135910B/zh
Priority to PCT/JP2013/054066 priority patent/WO2013125547A1/en
Priority to US14/366,357 priority patent/US10791920B2/en
Publication of JP2013169309A publication Critical patent/JP2013169309A/ja
Application granted granted Critical
Publication of JP5947561B2 publication Critical patent/JP5947561B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0025Operational features thereof characterised by electronic signal processing, e.g. eye models
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/12Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes
    • A61B3/1225Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes using coherent radiation
    • A61B3/1233Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes using coherent radiation for measuring blood flow, e.g. at the retina
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/1015Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for wavefront analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Public Health (AREA)
  • Molecular Biology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Ophthalmology & Optometry (AREA)
  • Cardiology (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Hematology (AREA)
  • Signal Processing (AREA)
  • Pathology (AREA)
  • Physiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Eye Examination Apparatus (AREA)
  • Image Processing (AREA)

Description

本発明は画像形成装置及び画像形成方法に関し、特に眼科診療に用いられる画像形成装置及び画像形成方法に関する。
生活習慣病や失明原因の上位を占める疾病の早期診療を目的として、眼部の検査が広く行われている。共焦点レーザ顕微鏡の原理を利用した眼科装置である走査型レーザ検眼鏡(SLO:Scanning Laser Ophthalmoscope)は、測定光であるレーザを眼底に対してラスター走査し、その戻り光の強度から平面画像を高分解能かつ高速に得る装置である。以下、このような平面画像を撮像する装置をSLO装置、該平面画像をSLO画像と記す。
近年、SLO装置において測定光のビーム径を大きくすることにより、横分解能を向上させた網膜のSLO画像を取得することが可能になってきた。しかし、測定光のビーム径の大径化に伴い、網膜のSLO画像の取得において、被検眼の収差によるSLO画像の信号雑音比(S/N比)及び分解能の低下が課題になってきた。そのような課題を解決するために、被検眼の収差を波面センサでリアルタイムに測定し、被検眼にて発生する測定光やその戻り光の収差を波面補正デバイスで補正する補償光学系を有する補償光学SLO装置が開発され、高横分解能なSLO画像の取得を可能にしている。
このような高横分解能なSLO画像は、図5(a)に示すように、複数フレームからなる動画像として取得することができる。そして、たとえば血流動態を非侵襲に観察するために、各フレームから網膜血管を抽出(図5(b))した上で毛細血管における血球の移動速度などが計測される。また、SLO画像から視機能との関連を評価するために視細胞を検出した上で視細胞の密度分布や配列の計測が行われている。
SLO動画像において血球動態や血管の形状変化、視細胞の形態や輝度の変化を観察、計測する場合に、眼球、眼瞼運動の影響もしくは撮像装置に起因する画像特性の違いにより対象組織、細胞、病変の視認、計測が困難な例外フレームが生じることがある。例えば図5(c)に示すような固視ずれにより全フレームを通じて観察、計測が可能な領域が狭小化(図5(d))したり、瞬目により低輝度フレームが発生したりする場合(図5(e)の591)がある。あるいは、収差補正不良等の装置の特性により動画像中にS/N比の低下したフレームが含まれる場合がある。特に患眼のSLO画像には瞬目や固視ずれのフレームが含まれやすいことや、収差補正SLOでは画角が狭く固視微動の影響が大きいために、フレーム間の位置合わせを行うだけでは経時変化の観察や計測に必要な領域やフレーム数が十分得られない場合があった。
SLO動画像中に上記のような例外フレームが発生するのを防ぐために、撮像時に例外フレームの発生を防ぐための追尾機能を装置に設ける方法が考えられる。しかし、別途広画角SLO画像撮影のための構成を備える必要があることや、固視微動が大きい場合には完全な追尾を実現することが困難である、といった課題がある。
そこで、SLO動画像に例外フレームが発生した場合(図5(c)や(e))に、例外フレームを判定して削除もしくは補正し、対象組織・細胞・病変を観察もしくは計測可能なSLO動画像(図5(a))を自動形成する技術が必要となる。
特許文献1には、眼部の動画像の各フレームの位置を正確に対応付けて対象物の観察・計測を可能にする方法として、眼底の動脈血管を流れる蛍光剤の流れを見やすくするために、フレーム毎に位置合わせした動画を再生する技術が記載されている。また特許文献2には、OCT断層像(静止画像)同士の類似度等から瞬目、固視ずれを検知する方法が記載されている。
特開2004−159767号公報 特開2010−110656号公報
しかしながら特許文献1は、眼底の動きによる動画像のブレのみ考慮しているため、フレームの位置合わせしか言及しておらず、例外フレーム(特に、計測範囲が観察できないほどの動きのフレーム)の判定及び除外方法については何ら記載されていない。また、特許文献2には、高精細な平面画像に関する瞬目、固視ずれの検知法や瞬目や固視ずれのフレームを含まない動画像の取得(撮影・フレーム選択)技術についての記載はない。
本発明は上記の課題に鑑みてなされたものであり、眼底の動画像から眼科診断等に適した動画像を生成可能にすることを目的とする。
本発明の目的を達成するために、例えば本発明の画像形成装置は以下の構成を備える。すなわち、
画像形成装置であって、
被検者の眼部の動画像を構成する複数フレームから、各フレームの画像特徴に基づいて例外フレームを判定する判定手段と、
前記被検者の生体信号に基づく時相データを取得する取得手段と、
前記時相データに基づいて、前記判定手段が判定した例外フレームを含まないように抽出されたフレームからなるフレーム系列を抽出して新たな動画像を生成する生成手段と、を備える。

本発明によれば、眼底の動画像から眼科診断等に適した動画像が生成可能になる。
第1実施形態に係る画像形成装置の機能構成例を示すブロック図。 第1、第2、第4実施形態に係る撮影システムの構成例を示すブロック図。 実施形態の画像形成装置として機能するコンピュータのハードウェア構成例を示すブロック図。 第1実施形態に係る画像形成装置が実行する処理のフローチャート。 第1実施形態の画像形成内容を説明する図である。 第1実施形態における、ステップS420の処理を示すフローチャート。 第1実施形態における、ステップS430の処理を示すフローチャート。 第2実施形態に係る画像形成装置の機能構成例を示すブロック図。 第2実施形態に係る画像形成装置が実行する処理のフローチャート。 第2実施形態における、ステップS920の処理を示すフローチャート。 第3実施形態に係る画像形成装置の機能構成例を示すブロック図。 第3実施形態に係る撮影システムの構成例を示すブロック図。 第3実施形態におけるステップS930の処理を示すフローチャート。 第3実施形態におけるステップS1340で実行される処理を説明する図。 第4実施形態に係る画像形成装置の機能構成例を示すブロック図。 第4実施形態に係る画像形成装置が実行する処理のフローチャート。 第4実施形態におけるステップS1620の処理を示すフローチャート。
以下、添付図面に従って本発明に係る画像形成装置及び方法の好ましい実施形態について詳説する。ただし本発明は以下の実施形態に限定されるものではない。
[第1実施形態]
本実施形態に係る画像形成装置は、あらかじめ観察・計測に必要なフレーム数より多い数の複数フレームを有する単一のSLO動画像から、このSLO動画像に含まれる画像特徴に基づいて基準フレームからの変位量が大きい例外フレームを判定する。なお、SLO動画像とは、SLO装置により動画撮影を行なって得られた動画像である。そして、判定された例外フレームを含まない連続した最長のフレーム系列から所定数のフレーム(形成予定フレーム数分のフレーム)だけ切り出して、観察・計測用のSLO動画像として形成する。
具体的には、観察・計測に必要なフレーム数Tf(形成予定フレーム数)よりも多い複数フレームを持つSLO動画像Dを撮影しておく。次にSLO動画像Dから画像特徴に基づいて例外フレームEj(j=1,...,n1)判定する。ここで、例外フレームEjとは、拍動や瞬目のような眼球・眼瞼運動の影響や、収差補正位置のずれのような撮像条件の違いに起因する画像特性のばらつきが認められるフレームである。SLO動画像Dにおける例外フレームEjを含まない複数フレームが連続したフレーム系列(以下サブ動画像Sk(k=1,...,n2)とする)のうち、最長のフレーム系列(サブ動画像Sl)を抽出して新たなSLO動画像として形成する。
以上のようにして、拍動や瞬目のような眼球・眼瞼運動の影響及び収差補正位置のずれのような撮像条件の違いに起因する画像特性のばらつきに影響されない、観察・計測に必要な領域(広さ)とフレーム数(長さ)を持つSLO動画像が自動的に形成される。
図2は第1実施形態に係る画像形成装置10を含む撮影システムの構成例を示す図である。図2に示すように画像形成装置10は、SLO装置20やデータサーバ40と、光ファイバ、USBやIEEE1394等で構成されるローカル・エリア・ネットワーク(LAN30)を介して接続されている。なおこれらの機器との接続は、インターネット等の外部ネットワークを介して接続される構成であってもよい。また、これら画像形成装置10、SLO装置20、データサーバ40のうちの複数のいくつかが一つの装置において実現されてもよい。たとえば、画像形成装置10とデータサーバ40が一つの情報処理装置によって実現されてもよい。
SLO装置20は、走査型レーザ検眼鏡であり、眼底部の平面画像(SLO動画像D)を撮像し、SLO動画像D及びその撮影時に用いた固視標位置Fの情報を画像形成装置10やデータサーバ40へ送信する。なお、SLO装置20は、補償光学系を有し、収差補正を行なう補償光学走査型レーザ検眼鏡(AO−SLO)である。SLO装置20はSLD、シャックハルトマン波面センサ、補償光学系、第一及び第二のビームスプリッタ、X−Y走査ミラー、フォーカスレンズ、絞り、光センサ、画像形成部、出力部を有する。光源であるSLD(Super Luminescent Diode)から照射された光は眼底で反射され、一部が第二のビームスプリッタ経由でシャックハルトマン波面センサへ、それ以外は第一のビームスプリッタ経由で光センサへ入力される。シャックハルトマン波面センサは眼の収差を測定するためのデバイスであり、レンズアレイにCCDが接続されている。入射光がレンズアレイを透過するとCCDに輝点群が現れ、該投影された輝点の位置ずれに基づき波面収差が測定される。補償光学系はシャックハルトマン波面センサで測定された波面収差に基づき、収差補正デバイス(可変形状ミラーもしくは空間光位相変調器)を駆動して収差を補正する。該収差補正された光はフォーカスレンズ、絞りを経由し光センサにて受光される。X/Y走査ミラーを動かすことで眼底上の走査位置を制御でき、操作者が予め指定した撮影対象領域、時間(フレームレート×フレーム数)のデータを取得する。該データを画像形成部へ伝送し、走査速度のばらつきに起因する画像歪みの補正や、輝度値の補正を行って画像データ(動画像もしくは静止画像)を形成する。出力部は画像形成部が形成した画像データを出力する。眼底上の特定の深さ位置にフォーカスを合わせるためには、補償光学系内の収差補正デバイスを用いた調整か、光学系内に不図示のフォーカス調整用レンズを設置し、該レンズを移動することによる調整かの少なくともいずれかを用いることができる。なお、SLO装置20の代わりに補償光学系または収差補正デバイスを有する眼底カメラ等の眼科撮影装置を用いることもできる。
データサーバ40は被検眼のSLO動画像Dや固視標位置Fのような撮像条件データ、眼部の画像特徴などを保持する。すなわち、SLO装置20が出力するSLO動画像D、固視標位置F、画像形成装置10が出力する眼部の画像特徴がデータサーバ40に保存される。また、データサーバ40は、画像形成装置10からの要求に応じて、SLO動画像D、眼部の画像特徴及び該画像特徴の正常値データを画像形成装置10に送信する。
次に、図3を用いて画像形成装置10のハードウェア構成について説明する。図3において、301は中央演算処理装置(CPU)、302はメモリ(RAM)、303は制御メモリ(ROM)、304は外部記憶装置である。また、305はモニタ、306はキーボード、307はポインティングデバイス(たとえば、マウス)、308はLAN30と接続するためのインターフェースである。本実施形態に係る画像処理機能を実現するための制御プログラムや、当該制御プログラムが実行される際に用いられるデータは、外部記憶装置304に記憶されている。これらの制御プログラムやデータは、CPU301による制御のもと、バス309を通じて適宜RAM302に取り込まれ、CPU301によって実行され、以下に説明する各部として機能する。
次に、図1を用いて第1実施形態に係る画像形成装置10の機能構成を説明する。図1は画像形成装置10の機能構成例を示すブロック図であり、画像形成装置10は画像取得部110、記憶部120、画像形成部130、指示取得部140を有する。画像形成部130は更に例外フレーム判定部131、画像形成法変更部132を有する。例外フレーム判定部131は画像特徴取得部1311、基準領域設定部1312、変位量取得部1313を有する。また、画像形成法変更部132は画像選択部1321、例外フレーム置換法指示部1322を有する。以下、画像形成装置10を構成する各ブロックの機能について、図4のフローチャートに示す画像形成装置10の具体的な実行手順と関連付けて説明する。
<ステップS410> 画像取得部110はSLO装置20に対して、SLO動画像D、固視標位置Fの取得を要求する。本実施形態では、黄斑部の傍中心窩に固視標位置を設定してSLO動画像Dを取得する。なお、本実施形態では形成するべきSLO動画像Dfのフレーム数をTnとし、SLO動画像Dのフレーム数n0はTnよりも十分多いものとする。すなわち、SLO動画像Dに数回の瞬目または短時間の固視微動が含まれていても非例外フレーム(正常フレーム)がTn以上残るようにする。なお、撮影位置として黄斑部の傍中心窩を示したがこれに限定されず、任意の位置に設定してよいことは言うまでもない。
SLO装置20は画像取得部110からの取得要求に応じてSLO動画像D、固視標位置Fを取得し送信する。そして、画像取得部110はSLO装置20からLAN30を介してこれらSLO動画像D、固視標位置Fを受信する。画像取得部110は受信したSLO動画像D、固視標位置Fを記憶部120に格納する。
<ステップS420> 例外フレーム判定部131は、画像取得部110が取得したSLO動画像Dの各フレームDi(i=1,...,n0)から画像特徴を取得し、取得した画像特徴を用いて例外フレーム判定を行う。次に、例外フレーム以外のフレームで最もフレーム番号の小さい画像を基準フレームとして設定する。そして、各フレームから得られた画像特徴群のフレーム間変位量に基づいて例外フレーム判定を行う。以上のような例外フレーム判定の具体的な処理については図6のフローチャートにより詳述する。
<ステップS430> 画像形成法変更部132は、例外フレーム判定部131から例外フレーム番号リストを取得する。例外フレームがなければ、画像形成部130は、SLO動画像Dの先頭からTnフレーム分を選択し、選択された画像に対して画像ヘッダ(属性情報)を追加して観察・計測用のSLO動画像Dfを形成する。他方、例外フレームが含まれる場合は、画像形成法変更部132は上記画像形成法を変更し、画像形成部130は変更された画像形成法にしたがって観察・計測用のSLO動画像Dfを形成する。すなわち、画像形成部130は、ステップS420で例外フレーム判定部131が判定した例外フレームを含まない連続したフレーム列をSLO動画像Dから抽出して新たな動画像を生成するように画像形成法変更部132により画像形成法が変更される。なお、ステップS430における処理のより具体的な手順については、図7のフローチャートにより詳述する。
<ステップS440> 指示取得部140は、ステップS430において形成された観察・計測用のSLO動画像Df、固視標位置Fをデータサーバ40へ保存するか否かの指示を外部から取得する。この指示は例えばキーボード306やポインティングデバイス307を介して操作者により入力される。保存が指示された場合はステップS450へ、保存が指示されなかった場合はステップS460へ処理を進める。
<ステップS450> 画像形成部130は、検査日時、披検眼を同定する情報、SLO動画像Dfと該画像群の固視標位置F、を関連付けてデータサーバ40へ送信する。
<ステップS460> 指示取得部140は画像形成装置10によるSLO動画像Dfの形成処理を終了するか否かの指示を外部から取得する。この指示は例えばキーボード306やポインティングデバイス307を介して操作者により入力される。処理終了の指示を取得した場合は解析処理を終了する。一方、処理継続の指示を取得した場合にはステップS410に処理を戻し、次の披検眼に対する処理(または同一披検眼に対する再処理を)行う。
次に図6を参照して、ステップS420で実行される例外フレーム判定処理の詳細について説明する。
<ステップS610> 画像特徴取得部1311がSLO画像Dから画像特徴を取得する。本実施形態では、SLO動画像Dの各フレームDiにおける平均輝度値Ai、信号雑音比(SN比)及び血管領域Viを画像特徴として取得する。血管領域の取得方法は任意の公知の血管抽出法を用いることができ、本実施形態では輝度値が閾値T1以下の領域とする。また、血管領域Viを細線化して得られる点列Bim(m=1,2,...,n3)の交差部Cin(n=1,...,n4≧3)も取得しておく。なお、取得される特徴量は上記に限られるものではなく、後続の例外フレーム判定に必要な画像特徴が取得されることになる。
<ステップS620> 例外フレーム判定部131は、ステップS610で取得した画像特徴を用いて単独フレームの画像特徴や隣接フレームとの画像特徴の比較により例外フレームを判定する。例えば、例外フレーム判定部131は、SLO動画像Dの各フレームDiに対し、瞬目により輝度が極端に低いフレームや固視微動により画像歪みが生じているフレーム、収差補正不良によりS/N比が低いフレームを例外フレームEjとして検出する。本実施形態では、平均輝度値Aiが閾値T2以下であるフレームをDiを瞬目による輝度異常とみなし、例外フレームEjと判定する。また、フレームDiにおける血管交差部Cin間の距離の二乗和の値が隣接フレーム間で閾値T3以上異なっていれば、固視微動による画像歪みとみなして、フレームDiを例外フレームと判定する。さらに、フレームDiのS/N比が閾値T4以下であれば収差補正不良とみなして、フレームDiを例外フレームと判定する。
なお、ステップS610,S620による例外フレームの判定法は上記に限られるものではなく、上記の判定法に代えて或いは上記の判定法に加えて、任意の例外判定法を用いて良い。例えば、各フレームに対し微分処理を行うことにより得られる微分画像の輝度統計量(平均値、最頻値、もしくは最大値)を算出し、それが閾値T5以下であれば被写体の動きによるボケが発生しているとみなして例外フレームと判定するようにしても良い。
<ステップS630> 基準領域設定部1312は、動画像Dにおける固視ずれフレーム(例外フレーム)を判定するための基準となる領域を設定する。本実施形態では、ステップS620において例外フレームと判定されたフレーム以外で、最もフレーム番号の小さいフレームを基準フレームとし、その基準フレームの全体或いは一部を基準領域とする。
なお、基準領域の設定法はこれに限るものではなく、任意の設定法を用いて良い。例えば、ユーザが指定した基準フレーム番号を指示取得部140から取得して該基準フレームの全体を基準領域として設定してもよい。あるいは、ユーザが指定した領域(ユーザが指定したフレーム内のユーザが指定した領域)を基準領域して設定しても良い。あるいは、画像特徴取得部1311が任意の公知の画像処理法により特定部位(中心窩)もしくは病変を検出しておき、最もフレーム番号の小さい非例外フレームにおいて検出された該部位もしくは病変領域を基準領域として設定してもよい。
<ステップS640> 変位量取得部1313は、ステップS630で設定した基準フレームにおける画像特徴(血管交差部Cin)と非基準フレームにおける画像特徴との変位量を算出し、変位量が許容値より大きいフレームを例外フレームと判定する。本実施形態では、あるフレームの基準フレームに対する変位量として並進(x、y)、回転θ、拡大率(sx、sy)を成分として持つ変位量ベクトル(x,y,θ,sx、sy)を定義する。そして、x>Tx、y>Ty、θ>Tθ、sx>Tsx、sy>Tsyの少なくとも一つが成り立つ場合にそのフレームを例外フレームと判定する(Tx、Ty、Tθ、Tsx、Tsyはそれぞれ予め定められた閾値)。
なお、変位量の定義はこれに限らず、変位の程度を示す量(スカラ量またはベクトル量)であれば任意の値を用いてよい。例えば、観察・計測対象となる基準領域が各フレームにおいて含まれる割合(例えば、(基準領域全体の面積)/(各フレームDiに含まれる基準領域の面積))を変位量として定義しても良い。
次に、図7(a)を参照して、ステップS430で実行される処理の詳細について説明する。
<ステップS710> 画像形成法変更部132は、例外フレーム判定部131よりSLO動画像Dに含まれる例外フレーム番号リストを取得する。例外フレームリストが空(例外フレームなし)の場合はステップS730に処理を進め、例外フレームが1枚以上存在する場合にはステップS720に処理を進める。
<ステップS720> 画像形成法変更部132はSLO動画像Dから例外フレームが含まれないサブ動画像Skのフレーム数Nskを算出し、Nskの最大値Nslを算出する。もし最大値Nsl≧Tnであれば、画像形成法変更部132はサブ動画像Skのうち最長のサブ動画像Slを選択して新たなSLO動画像Dと再定義する。他方、もし最大値Nsl<Tnであれば、画像形成法変更部132はサブ動画像Slに隣接する例外フレーム系列を前後のサブ動画像を用いて補間処理を行うことで例外フレームを置き換えるよう画像形成部130に対して指示する。この指示によって定義される最長のサブ動画像を新たなSLO動画像Dとし、ステップS730に処理を進める。なお、ステップS720における画像形成法変更部132の処理の詳細は、図7(b)のフローチャートを参照して後述する。
<ステップS730> 画像形成部130は、ステップS720で定義されたSLO動画像Dの先頭からTnフレーム分を選択し、画像ヘッダ(属性情報)を追加することで、観察・計測用のSLO動画像Dfを形成する。ここで、もしステップS720で画像補間による例外フレームの置き変えが指示されている場合は、画像形成部130は、指示された画像補間法を用いて例外フレームを置き換えてSLO動画像Dfを形成する。
さらに図7(b)を参照して、ステップS720で実行される処理の詳細について説明する。
<ステップS721> 画像形成法変更部132は、例外フレーム判定部131から例外フレーム番号リストを取得し、SLO動画像Dに含まれる、例外フレームでない連続したフレームからなるフレーム系列(サブ動画像Sk)群の長さNskの最大値Nslを算出する。
<ステップS722> Nsl≧Tnであれば処理はステップS723に進み、Nsk<Tnであれば処理はステップS724に進む。
<ステップS723> SLO動画像Dから最長のフレーム系列(サブ動画像Sl)を選択し、新たにSLO動画像Dと再定義する。
<ステップS724> 画像形成部130は、最長の連続したフレーム系列に所定数(Tn)のフレームが含まれていない場合には、例外フレームと判定されたフレームの前後の非例外フレームを用いて補間フレームを生成する。そして、画像形成部130は、生成した補間フレームを非例外フレームとして用いることで所定数のフレームを有する連続したフレーム系列を生成する。例えば、画像形成部130は、SLO動画像D中の最長のサブ動画像Slに隣接する例外フレーム系列を該例外フレーム系列の前後に隣接するサブ動画像を用いて画像補間処理により置換し、再びNslを算出する。本実施形態では画像補間法として線形補間法を用いるものとするが、補間方法はこれに限らず、任意の公知の画像補間法を用いてよい。こうして、Nsl≧Tnとなるまで該補間処理(ステップS724)を繰り返すことにより得られた最長のサブ動画像Sl’を新たにSLO動画像Dと再定義する。
なお、上記実施形態においてはサブ動画像Skのフレーム数Nskの最大値NslがTnよりも小さい場合に画像補間処理を行ったが、これに限定されない。例えば、Nsl<Tnの場合に、SLO動画像Dfの形成を中止して不図示の表示部に再撮像を促すメッセージを表示するように構成しても良い。
また、補間するフレーム数に許容値を設け、ステップS724において該許容値を超えるフレーム数を補間する必要がある場合に、不図示の表示部に警告を表示してSLO動画像Dfの形成を中止するように構成しても良い。
また、本実施形態では形成するSLO動画像Dfのフレーム数を固定値(Tn)としたが、これに限定されない。例えばステップS723もしくはステップS730において、最長のサブ動画像Slをそのまま新たにSLO動画像Dと再定義し、画像ヘッダを追加して観察・計測用SLO動画像Dfとして形成しても良い。また、固定値(Tn)以上のフレームを含むフレーム系列を複数取得できた場合には、それら複数のフレーム系列のうち、フレーム系列を構成するフレーム間における変位量の統計量が最小となるフレーム系列を選択するようにしてもよい。
以上述べたように、第1実施形態によれば、画像形成装置10は、SLO動画像Dから、画像特徴に基づいて例外フレームを判定し、判定された例外フレームを含まない連続した最長フレーム系列からSLO動画像Dfを形成する。これにより、拍動や瞬目のような眼球・眼瞼運動、及び収差補正位置のずれのような撮像条件の違いに起因する画像特性のばらつきに影響されない、観察・計測に必要な領域(空間的な広さ)とフレーム数(時間的な長さ)を持つSLO動画像Dfを自動形成できる。
[第2実施形態]
第2実施形態では、位置合わせ部134が、単独のフレームの画像特徴に基づいて例外フレームを判定し、例外フレームを除いた動画像からフレーム間の位置合わせを行なう。そして、更に位置合わせを行なった後では、フレーム間の画像特徴の差に基づいて例外フレームが判定される。第2実施形態の構成によれば、より正確に基準フレームに対する変位量を算出して例外フレームを判定し、必要な領域とフレーム数を持つ観察・計測用のSLO動画像Dfを自動形成することができる。
第2実施形態に係る画像形成装置10の機能構成例を図8に示す。画像形成部130に位置合わせ部134を備え、位置合わせ部134に例外フレーム判定部131が設けられている点が第1実施形態(図1)と異なっている。以下、第2実施形態による画像形成処理を図9に示すフローチャートを参照して説明する。なお、図9において、ステップS920以外は第1実施形態(図4)と同様である(すなわち、ステップS910、S930〜S960は、ステップS410、S430〜S460と同様の処理である)。そこで、第2実施形態では、ステップS920における処理について説明する。
<ステップS920> 位置合わせ部134は、記憶部120からSLO動画像Dを読み込んでSLO動画像Dにおけるフレーム間位置合わせを行う。なお、フレーム間位置合わせとは、隣接するフレーム間で画像が同じ位置になるように調整することであり、周知の技術により実現される。次に、図10に示すフローチャートを参照して、ステップS920で実行される位置合わせ処理について説明する。
<ステップS1010> 例外フレーム判定部131は、SLO動画像Dの各フレームにおいて、単独フレームでの例外フレーム判定(単独のフレームの画像特徴を用いた例外フレームの判定)を行う。本実施形態においては、画像特徴取得部1311が各フレームの平均輝度値Ai及びS/N比SNiを算出する。そして、例外フレーム判定部131が、Aiが閾値T2以下であれば輝度異常、もしくはS/N比SNiがT4以下であれば低画質であるとして例外フレームと判定する。但し、単独のフレームの画像特徴を用いた例外フレームの判定法はこれに限るものではなく、任意の例外判定法を用いて良い。
<ステップS1020> 位置合わせ部134は、位置合わせの基準となる基準フレームを設定する。本実施形態では、ステップS1010において例外フレームと判定されたフレーム以外で、最もフレーム番号の小さいフレームを基準フレームとする。なお、基準フレームの設定法はこれに限るものではなく、任意の設定法を用いて良い。例えば、ユーザが指定した基準フレーム番号を指示取得部140から取得し、これに対応するフレームを基準フレームに設定してもよい。
<ステップS1030> 位置合わせ部134は、フレーム間の大まかな位置の対応付け(粗位置合わせ)を行う。任意の位置合わせ手法を用いることができるが、本実施形態では、画像間類似度評価関数として相関係数、座標変換手法としてAffine変換を用いて粗位置合わせを行う。なお、ステップS1030の粗位置合わせとステップS1040の精密位置合わせの対象となるフレームは、ステップS1010で例外フレームと判定されなかったフレームである。
<ステップS1040> 位置合わせ部134は、S1030で得られたフレーム間の大まかな位置の対応関係のデータに基づいて精密位置合わせを行う。本実施形態では、ステップS1030で得られた粗位置合わせ済みの動画像に対し、非剛体位置合わせ手法の一種であるFFD(Free Form Deformation)法を用いてフレーム間の精密位置合わせを行う。なお、精密位置合わせの手法はこれに限られるものではなく、任意の位置合わせ手法を用いて良い。
<ステップS1050> 例外フレーム判定部131は、ステップS1040の精密位置合わせによって得られた精密位置合わせ済み動画像の各フレームに対して、フレーム間の画像特徴の差に基づく例外フレーム判定を行う。本実施形態では、基準領域設定部1312が基準フレームを設定し、変位量取得部1313が基準フレームと(基準フレーム以外の)各フレームとの差分演算を行って該差分画像のヒストグラムを求める。そして、例外フレーム判定部131は、このヒストグラムの平均値及び分散がそれぞれ閾値T6以上かつ閾値T7以上であれば固視微動により一時的に眼底上の異なる位置が撮影されたとみなして例外フレームと判定する。
なお、フレーム間の画像特徴の差を利用した例外フレームの判定法はこれに限らず任意の判定法を用いて良い。例えば精密位置合わせ済動画像の各フレームに対して、第1実施形態と同様に血管抽出及び血管交差部Cinの検出を行う。そして、各フレームにおいて血管交差部Cin間の距離の二乗和を求めて該距離の二乗和の値が隣接フレーム間で閾値T3以上異なっていれば画像歪みが発生したとみなして例外フレームと判定する。
なお、本実施形態では、画素値ベースの画像間類似度を用いて、SLO動画像Dのフレーム全体が基準フレームに最も類似する位置合わせパラメータの組み合わせを求めたが、これに限定されるものではない。例えば、SLO動画像Dの各フレームにおいて観察対象の画像特徴(病変や中心窩などの部位、血管の分岐などの特徴点)を検出し、該画像特徴の位置が最も精密に合うようにSLO動画像Dのフレーム間で位置合わせを行うようにしても良い。また、フレーム間位置合わせで得られた画像特徴を例外フレームの判定に流用してもよいし、例外フレームの判定のために取得した画像特徴をフレーム間位置合わせに流用するようにしてもよい。このように、画像特徴を例外フレームの判定とフレーム間位置合わせで共有することにより、処理を効率化することができる。
以上のように、第2実施形態によれば、画像形成装置10は例外フレームを除外してからフレーム間の位置合わせが行なわれる。そのため、位置合わせが不要なフレーム(例外フレーム)に対して実行されてしまうといった無駄が排除される。また、フレーム間の位置合わせにおいて、固視微動や瞬目等の影響の排除が可能となる。更に、位置合わせの後に、基準フレームを利用した例外フレームの判定を行なうので、より正確に基準フレームに対する変位量を算出して例外フレームを判定できる。そのため、観察・計測に適した領域と必要なフレーム数を持つSLO動画像Dfを自動形成できる。
[第3実施形態]
図11は第3実施形態による画像形成装置10の機能構成例を示すブロック図である。第3実施形態の画像形成装置10は、第2実施形態(図8)に対して、時相データ取得部150を備えるとともに、画像形成法変更部132において例外フレーム置換法指示部1322を持たず、輝度補正部136と連結部138を備える点が異なっている。より具体的には、画像取得部110が同一撮影位置のSLO動画像を繰返し撮影し(SLO動画像Dn(n=1,2,...,n5)とする)、同時に時相データ取得部150が脈波のような生体信号データ(時相データ)を時相データPnとして取得しておく。輝度補正部136は、各SLO動画像Dnから最長のフレーム系列(サブ動画像Snl)を切り出し、サブ動画像Snl間の輝度調整を行う。さらに連結部138は、時相データPnを参考に輝度調整済のサブ動画像Snlを連結し、観察・計測に必要な領域とフレーム数を持つSLO動画像Dfを形成する。このような構成によれば、必要な領域(空間的な広さ)を持ち、より長時間の観察・計測が可能なSLO動画像Dfを自動形成することができる。
本実施形態における撮影システムの構成例を図12に示す。時相データ取得装置50がLAN30と接続されている点が第2実施形態(図2)と異なっている。時相データ取得装置50は、自律的に変化する生体信号データ(時相データ)を取得する装置であり、例えば脈波計もしくは心電計からなる。本実施形態では脈波計を用いる。時相データ取得装置50は不図示の操作者による操作に応じて、SLO動画像Dnの取得と同時に時相データPnを取得し、得られた時相データPnを画像形成装置10、データサーバ40へ送信する。
また、第3実施形態の画像形成処理のフローは図9に示した通りであり、ステップS910、S920及びS930以外は第2実施形態と同様である。したがって、以下では、ステップS910、S920及びS930における処理について説明する。
<ステップS910> 画像取得部110は、SLO装置20に対して、同一検査内で複数回撮影されたSLO動画像Dn、固視標位置Fの取得を要求する。本実施形態では、黄斑部の傍中心窩に固視標位置を設定してSLO動画像Dnを取得する。なお、本実施形態では最終的に形成するSLO動画像Dfのフレーム数をTnとする。また、撮影位置や撮影位置の設定方法はこれに限定されず、任意の位置に設定してよい。
SLO装置20は、画像取得部110が出力した取得要求に応じてSLO動画像Dn、固視標位置Fを取得して送信する。画像取得部110はSLO装置20からLAN30を介してこれらSLO動画像Dn、固視標位置Fを受信する。画像取得部110は受信したSLO動画像Dn、固視標位置Fを記憶部120に格納する。
<ステップS920> 位置合わせ部134は、記憶部120からSLO動画像Dnを読み込んでSLO動画像Dnにおけるフレーム間位置合わせを行う。本実施形態においては、基準フレームの設定法が第2実施形態と異なっており、最初に撮像したSLO動画像D1における基準フレームが他のSLO動画像D2〜Dnにおいても位置合わせの基準フレームとして用いられる。
なお、基準フレームの設定法はこれに限らず任意の設定法を用いて良い。例えば、以下のような手順の設定方法を用いてもよい。
処理P1:第2実施形態と同様の方法でSLO動画像Dnごとにフレーム間位置合わせを行って例外フレーム判定を行い、
処理P2:処理P1の後、例外フレーム数の最も少ないSLO動画像Dnにおける基準フレームを他のSLO動画像においても基準フレームとして設定し、
処理P3:その他のSLO動画像について、処理P2で設定された基準フレームを用いて再度位置合わせ処理を行う。
<ステップS930> 画像形成法変更部132は、例外フレーム判定部131から各SLO動画像Dnに関する例外フレーム番号リストを取得する。各SLO動画像Dnに関して例外フレームがなければ、画像形成部130は時相データ取得部150より取得した時相データPnに基づき、事前に指定された時相データの位相から時相データの周期単位で最長のフレーム数分選択したサブ動画像Snlを生成する。そして、サブ動画像Snlを撮影時刻順に連結する。連結された動画像のフレーム数がTn以上であれば、該連結した動画像の先頭からTnフレーム分を切り出し、画像ヘッダ(属性情報)を追加して観察・計測用のSLO動画像Dfを形成する。もし連結して得られた動画像のフレーム数がTnよりも小さければ、再撮影或いは撮影の継続を促す警告表示を行う。他方、SLO動画像Dnに例外フレームが含まれる場合、画像形成法変更部132は、例外フレームを含まないように画像形成法を変更して観察・計測用のSLO動画像Dfを形成する。
以下、図13に示すフローチャート及び図14を参照しながら、ステップS930で実行される画像形成処理の詳細について説明する。
<ステップS1310> 画像形成法変更部132は、例外フレーム判定部131から例外フレーム番号リストを受信する。例外フレームが1枚以上存在する場合は、ステップS1320に処理を進め、全く存在しない場合にはステップS1330へと処理を進める。
<ステップS1320> 画像選択部1321は、例外フレームを含むSLO動画像Dnからサブ動画像Dnlを選択する。図14において、繰り返し撮像したSLO動画像D1〜D4の正常フレームを白色、例外フレームを灰色(ハッチング)で表す。図14の最上部には撮像時に同時に取得された時相データが示されている。各SLO動画像Dnの撮影開始時と同時に時相データの取得を開始するので、SLO動画像の初期フレームに対応する時相データの位相は異なっている。画像選択部1321は、各SLO動画像Dnから例外フレームを除く最長のフレーム系列をサブ動画像Dnlとして選択する。図14では、D1l、D2l、D3l、D4lが選択される。
<ステップS1330> 輝度補正部136は、サブ動画像Dnl間の輝度を調整する。本実施形態では、サブ動画像Dnlのヒストグラムを求め、模型眼を撮影して得られる輝度平均値Gaと輝度分散値Jaに最も近い輝度特性を持つサブ動画像Dnlの輝度平均Gnと輝度分散Jnに一致するようにその他のサブ動画像の輝度値を線形変換する。
なお、輝度調整の方法はこれに限るものではなく、任意の輝度調整法を用いて良い。例えば、模型眼を撮影して得られる輝度平均値Gaと輝度分散値Jaに一致するように各サブ動画像の輝度値を線形変換しても良い。
あるいは、
・各SLO動画像Dnから公知の血管抽出法を用いて血管領域Vnを抽出し、
・血管領域Vnのみに限定したヒストグラムKvnを生成して、該ヒストグラムKvnから算出される輝度統計量(平均と分散)が血管領域Vnを視認しやすい特定の値(GvとJv)に一致するように輝度値を調整する、ようにしても良い。
<ステップS1340> 連結部138は、最長のサブ動画像Dnlと同時刻に取得した時相データPnに基づき、サブ動画像Snlの切り出し及び連結を行う。本実施形態では脈波信号値のピーク間隔を1周期とみなし、サブ動画像Dnlから周期単位で切り出した最長のサブ動画像Snl(以下、サブ動画像Cnとする)を撮影時刻順に連結する。すなわち、同図でD1〜D4に対して切り出したサブ動画像C1〜C4を、C1+C2+C3+C4の順で連結し、新たにSLO動画像Dとする。なお、本実施形態では、時相データのピーク位置を用いたが、時相データの任意の時相を用いて動画像を連結してもよい。
ここで、連結により得られた新たなSLO動画像Dのフレーム数がTn以上であれば、該連結したSLO動画像Dの先頭からTnフレーム分切り出し、画像ヘッダ(属性情報)を追加して観察・計測用のSLO動画像Dfを形成する。他方、連結により得られた新たなSLO動画像Dのフレーム数がTnよりも小さければ、再撮影を促す警告表示を行う。
なお、サブ動画像Cnの切り出し法はこれに限らず、任意の方法を用いて良い。例えば、サブ動画像D1lをそのままサブ動画像C1とし、サブ動画像D2lに対してはサブ動画像C1の最終フレームに対応する時相データの位相を持つフレームをサブ動画像C2の開始フレームとしてサブ動画像C2を切り出す。すなわち、サブ動画像Cnの開始フレームをサブ動画像Cn−1の最終フレームの持つ時相データの位相に合わせて設定し、サブ動画像Cnの最終フレームをサブ動画像Dnlの最終フレームの持つ時相データの位相に合わせて設定して切り出しても良い。また、図14ではSLO動画像D1〜D4が別々の動画像であったが、一つのSLO動画像について上記のようなフレーム系列の切り出し、連結を行って必要な長さの動画像を得るようにしてもよい。
以上のように、第3実施形態によれば、画像形成装置10は繰返し撮像したSLO動画像Dnから例外フレームを含まない最長のフレーム系列からなるサブ動画像Dnlを切り出し、輝度補正部136がサブ動画像Dnl間の輝度調整を行う。さらに連結部138は、時相データの位相に基づき上記輝度調整済のサブ動画像Dnlから連結を行なうために、部分画像Cnを切り出す。そして、切り出された部分画像Cnを連結し、観察・計測に必要な領域とフレーム数を持つSLO動画像Dfを形成する。これにより、必要な領域(空間的な広さ)を持ち、より長時間観察・計測可能なSLO動画像Dfを自動形成できる。
[第4実施形態]
第4実施形態は、SLO装置20によるSLO画像の取得を行ないながら例外フレーム判定を行う。そして、例外フレームを含まない連続したフレーム系列Slが規定のフレーム数TnとなるまでSLO装置20に対して撮影継続を指示し、観察・計測に必要なフレーム数Tnを満たしたSLO動画像Dfを形成する。これにより、例外フレームや画像補間されたフレームを含まず、かつ高速に観察・計測に必要な領域(空間的な広さ)及びフレーム数(時間)を持つSLO動画像Dfを自動形成することができる。
第4実施形態に係る画像形成装置10の機能ブロック図を図15に示す。画像形成法変更部132において、例外フレーム置換法指示部1322の代わりに撮影指示部1323を持つ点が第2実施形態(図8)と異なっている。また第4実施形態による画像形成処理のフローは図16に示す通りであり、ステップS1670における処理は第2実施形態(図9のS960)と同様である。以下、第4実施形態における各処理について説明する。
<ステップS1610> 画像取得部110はSLO装置20に対してSLO動画像D、固視標位置Fの取得を要求する。SLO装置20は、画像取得部110からの要求に応じてSLO動画像DのフレームDiの撮影を行う。
より、具体的には、SLO装置20は画像取得部110からの取得要求に応じてSLO動画像DのフレームDiとその時の固視標位置Fを取得し、送信する。なお、固視標位置Fが、第1フレームD1を取得する際にのみ取得、送信されるようにしてもよい。画像取得部110はSLO装置20からLAN30を介して当該SLO動画像Di、固視標位置Fを受信する。画像取得部110は受信したSLO動画像Di、固視標位置Fを記憶部120に格納する。さらに、画像形成部130は、連続した非例外フレーム系列のフレーム数Nskの値に1を加える。なお、フレーム数Nskは図16の処理の開始に先立って0に初期化されているものとする。
<ステップS1620> 位置合わせ部134は、ステップS1610で受信したSLO動画像Dの1フレーム分の位置合わせと例外フレーム判定を行う。なお、ステップS1080における処理の詳細は図17のフローチャートにより後述する。
<ステップS1630> 画像形成法変更部132は、例外フレーム判定部131からステップS1610で受信したフレームが例外フレームか否かの判定結果を受信する。ステップS1610で受信したSLO動画像のフレームが例外フレームであった場合はステップS1640へ処理を進め、そうでない場合はステップS1650へ処理を進める。
<ステップS1640> 画像形成法変更部132は、ステップS1630において例外フレームと判定された場合に、連続した非例外フレーム系列(サブ動画像)のフレーム数Nskに0を代入してステップS1650へ処理を進める。フレームDiが例外フレームと判定されなかった場合はそのままステップS1650へと処理を進める。
<ステップS1650> 画像形成法変更部132は、非例外フレーム系列のフレーム数Nskを参照する。Nsk≧Tnであれば、撮影指示部1323が画像取得部110を通じてSLO装置20に対して撮像終了を指示し、ステップS1660へと処理を進める。他方、非例外フレーム系列のフレーム数NskがTnよりも小さい場合は、撮影指示部1323が画像取得部110を通じてSLO装置20に対して撮影の継続、或いは再撮影を指示する。
<ステップS1660> 画像形成部130は、得られた非例外フレーム系列にヘッダ部を追加し、観察・計測用のSLO動画像Dfとして画像形成する。形成されたSLO動画像Dfはデータサーバ40に保存される。
<ステップS1670> ステップS460(図4)、ステップS960(図9)と同様。
次に、図17に示すフローチャートを参照しながら、ステップS1620で実行される位置合わせ処理の詳細について説明する。
<ステップS1710> 例外フレーム判定部131は、取得されたSLO動画像Dの一つのフレームDi単独での例外判定を行う。具体的な例外判定法は第2実施形態(図10のステップS1010)と同様である。ここで、取得されたSLO動画像DのフレームDiが例外フレームであれば基準フレーム番号は未設定にする。
<ステップS1720> 基準領域設定部1312は基準フレーム番号を参照し、基準フレーム番号が設定済であればステップS1740へと処理を進め、基準フレーム番号が未設定であればステップS1730へと処理を進める。
<ステップS1730> 取得されたSLO動画像DのフレームDiが例外フレームでなければ該フレームDiを基準フレームに設定して位置合わせ処理を終了する。他方、該フレームDiが例外フレームであれば何もせずに位置合わせ処理を終了する。
<ステップS1740> 位置合わせ部134は、基準フレームとSLO動画像DのフレームDi(非例がフレーム)との位置合わせを行う。具体的な位置合わせ方法は、第2実施形態のステップS1030及びS1040で述べたような位置合わせ手法を用いて当該1フレーム分だけ位置合わせ処理を実行すればよい。なお、位置合わせ方法はこれに限るものではなく、例えば位置合わせ処理の高速化のために精密位置合わせ処理を省略しても良い。
<ステップS1750> ステップS1740において得られた位置合わせ済のフレームDiに対して例外フレーム判定を行う。ここでの例外フレーム判定の具体的な方法としては、第2実施形態のステップS1050で述べたような例外フレーム判定処理を当該1フレーム分だけ実行すればよい。
以上のように、第4実施形態によれば、画像形成装置10はフレーム単位でSLO装置20によるSLO画像Diの取得及び例外フレーム判定を行う。そして、非例外フレーム系列が規定のフレーム数Tnに満たない場合には、画像形成装置10は撮影継続を指示して次フレームを撮像する。そして、該非例外フレーム系列が観察・計測に必要な規定のフレーム数Tnを満たすと、画像形成装置10はSLO動画像Dfを形成する。これにより、例外フレームや画像補間されたフレームを含まず、かつ高速に観察・計測に必要な領域(空間的な広さ)及びフレーム数(時間)を持つSLO動画像Dfを自動形成することができる。
以上のように、上述した各実施形態によれば、SLO動画像から組織・細胞・病変の観察・計測には適さない例外フレームを含まず、かつ観察や計測に必要な領域やフレーム数を持つようなSLO動画像を自動形成することが可能となる。
[その他の実施形態]
上述の実施形態では、例外フレームを含まない、連続したフレームからなるフレーム系列を生成することとしているが、医師、症例、診断部位から要求されるフレームレートに合わせるために、設定情報に応じて適宜フレームレートを変更することができる。例えば画像形成部130は、設定情報に応じて一部のフレームを間引くことで、フレームレートを下げることができる。また画像形成部130は設定に応じてフレームを補間することでフレームレートを上げることができる。
上述の実施形態では、例外フレームを含まないフレーム系列を生成することとしたが、図5(c)に示すような固視ずれにより全フレームを通じて観察、計測が可能な領域が狭小化(図5(d))した場合には、当該狭小化したフレームも含めた動画像を生成することができる。画像形成部130は、上述の実施形態で得られた第一のフレーム系列と第二のフレーム系列との間にある例外フレーム群について、例外フレームとなった原因が固視ずれ等による計測可能領域の狭小化であるか否かを判定する。狭小化が原因となっていると判定された場合には、画像形成部130は第一のフレーム系列と第二のフレーム系列との間に狭小化された第三のフレーム系列を挿入する。そして、第一乃至第三のフレーム系列を結合し動画像を生成する。画像形成装置10は生成された動画像をモニタ305に表示させる。以上の処理により、動画像の時間的な連続性を確保しつつ、観測や計測に必要な領域をユーザに提示することができる。
以上、実施形態を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (14)

  1. 画像形成装置であって、
    被検者の眼部の動画像を構成する複数フレームから、各フレームの画像特徴に基づいて例外フレームを判定する判定手段と、
    前記被検者の生体信号に基づく時相データを取得する取得手段と、
    前記時相データに基づいて、前記判定手段が判定した例外フレームを含まないように抽出されたフレームからなるフレーム系列を抽出して新たな動画像を生成する生成手段と、を備えることを特徴とする画像形成装置。
  2. 前記画像特徴は、輝度、歪み量、信号雑音比の少なくとも一を含むことを特徴とする請求項1に記載の画像形成装置。
  3. 前記判定手段は、前記複数フレームのうちの一つのフレームに設定された基準領域に対する変位量に基づいて例外フレームを判定することを特徴とする請求項1または2に記載の画像形成装置。
  4. 前記基準領域は、前記一つのフレームの全体、該一つのフレームの画像処理もしくはユーザにより特定された部分であることを特徴とする請求項3に記載の画像形成装置。
  5. 前記複数フレームのフレーム間位置合わせを行なう位置合わせ手段をさらに備え、
    前記判定手段は、前記フレーム間位置合わせにおいて得られる画像特徴もしくは位置合わせ済みのフレームから得られる画像特徴に基づいて例外フレームを判定することを特徴とする請求項1乃至4のいずれか1項に記載の画像形成装置。
  6. 前記判定手段は、前記フレーム間位置合わせを行う前に単独のフレームの画像特徴に基づいた例外判定を実行し、前記フレーム間位置合わせを行った後にフレーム間の画像特徴の差に基づいた例外判定を実行することを特徴とする請求項5に記載の画像形成装置。
  7. 前記生成手段は、前記複数フレームのうち例外フレームを含まない、最長の連続したフレーム系列を抽出することを特徴とする請求項1乃至6のいずれか1項に記載の画像形成装置。
  8. 前記生成手段は、前記最長の連続したフレーム系列に所定数のフレームが含まれていない場合に、例外フレームと判定されたフレームの前後の非例外フレームを用いて補間フレームを生成し、該補間フレームを非例外フレームとして用いることで前記所定数のフレームを有する連続したフレーム系列を生成することを特徴とする請求項7に記載の画像形成装置。
  9. 前記生成手段は、所定数を超えるフレームを含む複数のフレーム系列が得られた場合に、フレーム系列を構成するフレーム間における変位量の統計量が最小となるフレーム系列を用いて新たな動画像を生成することを特徴とする請求項1乃至6のいずれか1項に記載の画像形成装置。
  10. 前記動画像は、その撮影時に取得された前記時相データに関連付けられており、
    前記生成手段は、前記例外フレームを含まない連続したフレームからなるフレーム系列を前記時相データにより時相が一致する部分で接続することにより前記新たな動画像を生成することを特徴とする請求項1乃至6のいずれか1項に記載の画像形成装置。
  11. 前記生成手段が抽出したフレーム系列のフレーム数が所定数に満たない場合に、再撮影もしくは撮影の継続を指示する指示手段を更に備えることを特徴とする請求項1乃至6のいずれか1項に記載の画像形成装置。
  12. 画像形成装置であって、
    撮像手段により撮像された被検者の眼部の動画像を構成する複数フレームから、各フレームの画像特徴に基づいて例外フレームを判定する判定手段と、
    前記例外フレーム以外のフレームが連続する枚数が所定値以上になるまで前記撮像手段に撮影指示を出力する指示手段と、
    前記所定値以上の枚数の連続するフレームに基づいて、前記例外フレームを含まない新たな動画像を生成する生成手段と、
    を備えることを特徴とする画像形成装置。
  13. 画像形成装置による画像形成方法であって、
    判定手段が、被検者の眼部の動画像を構成する複数フレームから、各フレームの画像特徴に基づいて例外フレームを判定する工程と、
    取得手段が、前記被検者の生体信号に基づく時相データを取得する取得工程と、
    生成手段が、前記時相データに基づいて、前記判定する工程で判定した例外フレームを含まないように抽出したフレームからなるフレーム系列を抽出して新たな動画像を生成する工程と、を有することを特徴とする画像形成方法。
  14. コンピュータを請求項1乃至12のいずれか1項に記載の画像形成装置の各手段として機能させるためのプログラム。
JP2012034538A 2012-02-20 2012-02-20 画像形成装置及び画像形成方法 Expired - Fee Related JP5947561B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2012034538A JP5947561B2 (ja) 2012-02-20 2012-02-20 画像形成装置及び画像形成方法
CN201380010145.3A CN104135910B (zh) 2012-02-20 2013-02-13 图像形成设备和图像形成方法
PCT/JP2013/054066 WO2013125547A1 (en) 2012-02-20 2013-02-13 Image forming apparatus and image forming method
US14/366,357 US10791920B2 (en) 2012-02-20 2013-02-13 Image forming apparatus and image forming method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012034538A JP5947561B2 (ja) 2012-02-20 2012-02-20 画像形成装置及び画像形成方法

Publications (2)

Publication Number Publication Date
JP2013169309A JP2013169309A (ja) 2013-09-02
JP5947561B2 true JP5947561B2 (ja) 2016-07-06

Family

ID=49005731

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012034538A Expired - Fee Related JP5947561B2 (ja) 2012-02-20 2012-02-20 画像形成装置及び画像形成方法

Country Status (4)

Country Link
US (1) US10791920B2 (ja)
JP (1) JP5947561B2 (ja)
CN (1) CN104135910B (ja)
WO (1) WO2013125547A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10492681B2 (en) 2013-12-03 2019-12-03 Canon Kabushiki Kaisha System and method of blink detection for an adaptive optics system
JP6463048B2 (ja) * 2014-09-05 2019-01-30 キヤノン株式会社 画像処理装置及び画像処理装置の作動方法
JP6463047B2 (ja) 2014-09-05 2019-01-30 キヤノン株式会社 眼科装置及び眼科装置の作動方法
JP6470604B2 (ja) 2015-03-25 2019-02-13 キヤノン株式会社 画像処理装置及び画像処理方法及びプログラム
EP3216387B1 (en) 2016-03-10 2018-10-10 Canon Kabushiki Kaisha Method and system for motion artefacts removal in optical coherence tomograpy
US9867538B2 (en) 2016-03-21 2018-01-16 Canon Kabushiki Kaisha Method for robust eye tracking and ophthalmologic apparatus therefor
JP6747227B2 (ja) * 2016-09-30 2020-08-26 株式会社ニデック 眼底画像観察プログラム
JP6825292B2 (ja) * 2016-09-30 2021-02-03 株式会社ニデック 眼底画像観察プログラム
US10973406B2 (en) 2018-03-06 2021-04-13 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and non-transitory computer readable medium
KR102521408B1 (ko) * 2018-08-27 2023-04-14 삼성전자주식회사 인포그래픽을 제공하기 위한 전자 장치 및 그에 관한 방법
CN110309915B (zh) * 2019-07-05 2021-12-10 中国人民解放军国防科技大学 基于直方图的神经元定位异常图层处理方法、系统及介质
EP3858227A1 (en) * 2020-01-29 2021-08-04 AM2M Spolka z Organiczona Odpowiedzialnoscia Spolka Komandytowa A method and apparatus for determination of a trajectory and imaging device
JP2022068892A (ja) * 2020-10-23 2022-05-11 株式会社トプコン 眼科観察装置、眼科画像処理装置、眼科画像処理方法、プログラム、及び記録媒体

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7038736B2 (en) * 2000-09-21 2006-05-02 Canon Kabushiki Kaisha Moving image processing apparatus and method, and computer readable memory
JP4133238B2 (ja) 2002-11-11 2008-08-13 株式会社トプコン 眼底画像処理方法
EP1657923A4 (en) * 2004-03-04 2008-04-09 Seiko Epson Corp PROCESSING MOBILE IMAGE DATA
JP2005270364A (ja) * 2004-03-25 2005-10-06 Canon Inc 眼科撮影装置
JP4615963B2 (ja) 2004-10-29 2011-01-19 オリンパス株式会社 カプセル型内視鏡装置
US7805009B2 (en) * 2005-04-06 2010-09-28 Carl Zeiss Meditec, Inc. Method and apparatus for measuring motion of a subject using a series of partial images from an imaging system
CN101309647B (zh) * 2006-01-10 2013-03-20 株式会社东芝 超声波诊断装置和超声波图像生成方法
JP4869757B2 (ja) * 2006-03-24 2012-02-08 株式会社トプコン 眼底観察装置
JP4826485B2 (ja) * 2007-01-25 2011-11-30 ソニー株式会社 画像保存装置、画像保存方法
JP4561837B2 (ja) * 2008-01-07 2010-10-13 日本電気株式会社 再生装置、システム、方法、プログラム及びコンピュータ読取可能な記録媒体
JP2009183325A (ja) * 2008-02-02 2009-08-20 Calsonic Kansei Corp 瞳孔位置検出装置
WO2009139722A1 (en) 2008-05-14 2009-11-19 Agency For Science, Technology And Research Automatic cup-to-disc ratio measurement system
EP2378951A1 (en) * 2009-01-15 2011-10-26 Physical Sciences, Inc. Adaptive optics line scanning ophthalmoscope
JP2011010275A (ja) 2009-05-26 2011-01-13 Sanyo Electric Co Ltd 画像再生装置及び撮像装置
JP4909378B2 (ja) 2009-06-02 2012-04-04 キヤノン株式会社 画像処理装置及びその制御方法、コンピュータプログラム
JP5390942B2 (ja) 2009-06-03 2014-01-15 富士フイルム株式会社 超音波診断装置及び信号処理プログラム
JP5582772B2 (ja) 2009-12-08 2014-09-03 キヤノン株式会社 画像処理装置及び画像処理方法
JP5208145B2 (ja) 2010-02-15 2013-06-12 キヤノン株式会社 断層像撮影装置、断層像撮影方法法、プログラム、及びプログラム記憶媒体
JP5297415B2 (ja) * 2010-04-30 2013-09-25 キヤノン株式会社 眼科装置及び眼科方法
JP4644304B1 (ja) * 2010-05-11 2011-03-02 東海電子株式会社 飲酒状態検査装置
JP5702991B2 (ja) 2010-11-19 2015-04-15 キヤノン株式会社 画像処理装置及び画像処理方法
JP5904711B2 (ja) 2011-02-01 2016-04-20 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
CN102289805A (zh) * 2011-06-10 2011-12-21 北京云加速信息技术有限公司 一种基于视频的地铁人群密度检测方法
JP6025311B2 (ja) 2011-08-01 2016-11-16 キヤノン株式会社 眼科診断支援装置および方法
JP5955163B2 (ja) 2011-09-06 2016-07-20 キヤノン株式会社 画像処理装置および画像処理方法
JP6092659B2 (ja) 2013-02-28 2017-03-08 キヤノン株式会社 画像処理装置及び画像処理方法
JP6198410B2 (ja) 2013-02-28 2017-09-20 キヤノン株式会社 画像処理装置及び画像処理方法
JP6200168B2 (ja) 2013-02-28 2017-09-20 キヤノン株式会社 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
JP2013169309A (ja) 2013-09-02
CN104135910B (zh) 2017-05-24
US10791920B2 (en) 2020-10-06
CN104135910A (zh) 2014-11-05
US20140333749A1 (en) 2014-11-13
WO2013125547A1 (en) 2013-08-29

Similar Documents

Publication Publication Date Title
JP5947561B2 (ja) 画像形成装置及び画像形成方法
JP6114495B2 (ja) 画像表示装置及び画像表示方法、撮影システム
JP6101048B2 (ja) 画像処理装置及び画像処理方法
JP5822485B2 (ja) 画像処理装置、画像処理方法、画像処理システム、slo装置、およびプログラム
US9351650B2 (en) Image processing apparatus and image processing method
JP2013169296A (ja) 画像処理装置及び画像処理方法
JP2020089768A (ja) 画像処理装置及び画像処理方法
JP2022133399A (ja) 画像処理装置およびその制御方法
US10383514B2 (en) Ophthalmologic imaging apparatus, operation method thereof, and computer program
JP2017018177A (ja) 画像処理装置及び画像処理方法
JP6468907B2 (ja) 画像処理装置及び画像処理方法及びプログラム
US10123688B2 (en) Information processing apparatus, operation method thereof, and computer program
US10674902B2 (en) Information processing apparatus, operation method thereof, and computer program
JP6470604B2 (ja) 画像処理装置及び画像処理方法及びプログラム
JP2019000728A (ja) 眼底画像処理装置及び眼底画像処理方法、撮影システム
JP6420859B2 (ja) 画像表示装置及び画像表示方法、撮影システム
JP6711617B2 (ja) 画像形成装置、画像形成方法及びそのプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160506

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160603

R151 Written notification of patent or utility model registration

Ref document number: 5947561

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees