JP2015221089A - 画像生成装置および画像生成方法 - Google Patents

画像生成装置および画像生成方法 Download PDF

Info

Publication number
JP2015221089A
JP2015221089A JP2014106233A JP2014106233A JP2015221089A JP 2015221089 A JP2015221089 A JP 2015221089A JP 2014106233 A JP2014106233 A JP 2014106233A JP 2014106233 A JP2014106233 A JP 2014106233A JP 2015221089 A JP2015221089 A JP 2015221089A
Authority
JP
Japan
Prior art keywords
image
images
calculation unit
correlation
image generation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014106233A
Other languages
English (en)
Other versions
JP2015221089A5 (ja
JP6438216B2 (ja
Inventor
賢 恩田
Masaru Onda
賢 恩田
裕之 今村
Hiroyuki Imamura
裕之 今村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014106233A priority Critical patent/JP6438216B2/ja
Priority to US14/712,252 priority patent/US9613419B2/en
Priority to EP15168324.0A priority patent/EP2947623B1/en
Publication of JP2015221089A publication Critical patent/JP2015221089A/ja
Publication of JP2015221089A5 publication Critical patent/JP2015221089A5/ja
Application granted granted Critical
Publication of JP6438216B2 publication Critical patent/JP6438216B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/32Determination of transform parameters for the alignment of images, i.e. image registration using correlation-based methods
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0025Operational features thereof characterised by electronic signal processing, e.g. eye models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • G06T3/14
    • G06T3/147
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic

Abstract

【課題】特徴の少ない画像群の位置合わせを行ってパノラマ画像を生成する際に、該画像を精度よく貼り合わせることを可能性とする。
【解決手段】複数の画像各々の間の相関度を算出する算出手段と、複数の画像の特徴量を算出する第二の算出手段と、該算出手段と該第二の算出手段との算出結果に基づいて、複数の画像を貼り合せて生成するパノラマ画像を生成するための複数の画像の位置合わせを行う順番を決定する順番決定手段と、を画像処理装置内に配する。
【選択図】図1

Description

本発明は、画像生成装置及び画像生成方法に関する。
生活習慣病や失明原因の上位を占める疾病の早期診断を目的として、眼底部の検査が広く行われている。一例として、共焦点レーザー顕微鏡の原理を利用した眼科装置である走査型レーザー検眼鏡(SLO:Scanning Laser Ophthalmoscope)がある。該SLOは、測定光であるレーザーを眼底に対してラスタースキャンを行い、その戻り光の強度から平面画像を高分解能かつ高速に得る装置である。
また、近年、被検眼の収差を波面センサでリアルタイムに測定し、被検眼にて発生する測定光やその戻り光の収差を波面補正デバイスで補正する補償光学系を有する補償光学SLO(AO−SLO:adaptive Optics SLO)が開発され、高横分解能な平面画像(以下AO−SLO像という場合がある)の取得を可能にしている。
ここで、高横分解能な平面画像を取得する場合、装置自体の光学収差や撮像時間の長時間化等の問題から、一度に撮像する撮像範囲、つまり画角が狭くなってしまう。このため、診断や検査等に必要な情報を得ようとする場合には眼底をある程度の広い範囲の複数位置で撮影を行う必要がある。また、高倍率の撮影画像ではなくても被検者眼の局所的な部位を撮影する場合、全体を把握するために所定の範囲で複数回撮影を行う場合もある。
しかしこれらの場合では、診断や検査等に必要とされる領域を撮影したとしても、得られた複数の撮影画像同士の関連性が把握されなければならない。つまり撮影した複数の画像を、それぞれの画像同士の位置関係を明らかにして、その位置に応じてこれら画像の貼り合わせを行うことで、一枚の高精細パノラマ画像を生成することが求められる。
このような課題を解決するために、特許文献1では、広画角なSLO装置と小画角であるが高解像度なSLO装置とを組み合わせた複合装置が提案され、その問題の解決が試みられている。また、被検眼の所望の位置を撮像する場合、被検眼を固視するための固視灯がよく用いられている。特許文献2においては、被検眼の視度に応じて固視灯の表示位置を調整し、眼底の所望の位置の平面画像を取得することなどが試みられている。
特開2010−259543号公報 特開2013−169332号公報
複数画像の位置合わせを行い、パノラマを作成するということは一般的な手法である。しかし、眼底の小画角の高精細画像等の特徴が、視細胞や毛細血管など非常に小さな構造物である場合、それらは広画角画像には解像できないことが起こり得る。この場合、特許文献1の方法では、特徴の少ない小画角画像と広画角画像の二つの組み合わせが容易ではなくなり、画像がマッチングしないケースが生じる。さらには、小画角画像同士でも、特徴が少ない画像から先に位置合わせをした場合には、次に位置合わせする画像がマッチングしないケースが生じることもあり得る。観察対象の眼に疾患などがある場合に、たとえば白内障の影響で信号強度が弱くなることや、他の病気で正常な解剖構造が消失する場合に、このようにマッチングしない画像が顕著となる傾向がある。
上記課題があるため、少なくとも何かしらの構造物である特徴点が双方に存在する領域の重なり(オーバーラップ)があるように複数の小画角を撮影する必要がある。たとえば、眼底の観察したい部位をタイル状や血管や特徴となるような病変部(浮腫や出血)などの構造物の形状に合わせて、順次撮影したとする。しかし、少しの固視微動などによってでも被検眼が動いてしまうため、想定している場所がずれてしまい、それまでに撮影した画像と重なり領域がない画像や一つ前に撮影した画像にある特徴点が存在しない画像を撮影してしまうことが起こりうる。このような時に撮影順に順次小画角の画像を貼り合わせていくと、貼り合わせ順番によっては位置を決定できない画像が生じる恐れがある。
ここで、撮影している位置が撮影条件等からわかれば、位置合わせの誤検出を抑えることも可能である。しかし、特許文献2のように、固指標を用いて撮影位置を調整する場合、一般的に被検眼には固視微動がある上に、特に固視の悪い患眼の場合や固視灯が見えない被験者や動物などの場合に、撮影位置を精度良く特定することが非常に難しくなる。
本発明は以上の状況に鑑みて為されたものであって、従来に比べて画像の貼り合わせの失敗を減らすことを可能とする画像生成装置及び画像生成方法の提供を目的とする。
前記課題を解決するため、本発明による画像生成装置は、
前記複数の画像各々の間の相関度を算出する算出手段と、
前記算出手段の算出結果に基づいて、前記複数の画像を貼り合せて生成するパノラマ画像を生成するための前記複数の画像の位置合わせを行う順番を決定する順番決定手段と、を有することを特徴とする。
本発明によれば、自動で貼り合わせの失敗を減らすことが可能である。
本発明に係る画像生成装置の機能構成を示すブロック図である。 本発明に係る補償光学SLOの構成を示す概略図である。 本発明に係る画像生成装置の処理手順を示すフローチャートである。 図3に示すフローチャートにおいて画像特徴の算出の工程を詳細に説明するフローチャートである。 図3に示すフローチャートにおいて画像相関度の算出の工程を詳細に説明するフローチャートである。 図3に示すフローチャートにおいて画像位置合わせの工程を詳細に説明するフローチャートである。 図4に示すフローチャートにおいて第一の特徴量の算出の工程を説明する図である。 図4に示すフローチャートにおいて第二の特徴量の算出の工程を説明する図である。 本発明に係るユーティリティアプリケーションのUI画面の例を示した図である。 本発明の位置合わせ順序の一例を説明する図である。
本実施例では、補償光学SLOにより網膜を平面で撮影した複数の画像(網膜の平面像)を取得した後に、それぞれの画像位置合わせを行い、パノラマ画像を生成する処理について説明する。ここで網膜の平面画像とは、被検眼を正面から眼底カメラ等で撮影する際に得られる、正面像のことを言う。
具体的には、それぞれの画像の特徴量と複数の画像間の相関度を算出して、特徴量の大きさと相関度の大きさを考慮して、位置合わせの順番を決定する。こうして決定した順番を用いて、順次画像の位置合わせと貼り合わせとを行い、パノラマ画像を生成する。このような工程を用いることにより、画像の正確な位置情報がわからなくても、眼底画像のような特徴が少ない小画角の画像群を精度よく貼り合わせ、貼り合わせ失敗画像数を低減することができる。
<画像生成装置の構成>
図1は、本実施例に係る画像生成装置10の機能構成を示したものであり、図2の補償光学SLO装置と接続されている。図1において、信号取得部100は、補償光学SLO装置から網膜からの反射信号や画像生成に必要な他の情報を取得する。取得した情報は制御部120を通じて記憶部130に記憶される。140は画像生成部であり、取得した情報を用いて反射信号を画像化する。そして生成した画像を用いて、画像特徴算出部151は生成した画像を用いてそれぞれの画像の特徴量を算出し、画像相関算出部152は各画像間の相関度を算出する。位置合わせ部153は、それらの演算結果を用いて位置合わせの順番を決定する。また、位置合わせ部153は、決定した順番に従って、順次位置合わせと画像貼り合わせとを行う。このようにして画像処理部150が演算を行い、パノラマ画像を生成する。出力部160は、生成した画像を不図示のモニタ等に出力する。
次に、図2を用いて補償光学系を備えたSLO像撮像装置の構成を説明する。光源201として、SLD光源(Super Luminescent Diode)を用いた。なお、本実施例では撮像と波面測定のための光源を共用しているが、それぞれを別光源とし、途中で合波する構成としても良い。光源201から照射された光は、単一モード光ファイバー202を通って、コリメータ203により、平行な測定光205として照射される。照射された測定光205はビームスプリッタからなる光分割部204を透過し、補償光学の光学系に導光される。
補償光学系は、光分割部206、波面センサー215、波面補正デバイス208および、それらに導光するための反射ミラー207−1〜4から構成される。ここで、反射ミラー207−1〜4は、少なくとも眼の瞳と波面センサー215及び波面補正デバイス208とが光学的に共役関係になるように設置されている。また、光分割部206として、本実施例ではビームスプリッタを用いる。また、本実施例では波面補正デバイス208として液晶素子を用いた空間位相変調器を用いる。なお、波面補正デバイスとして可変形状ミラーを用いる構成としてもよい。
補償光学系を通過した光は、走査光学系209によって、1次元もしくは2次元に眼底上で走査される。走査光学系209として、本実施形態では主走査用(眼底水平方向)と副走査用(眼底垂直方向)に2つのガルバノスキャナを用いた。なお、スキャナとして、より高速な撮影のために、走査光学系209の主走査側に共振スキャナを用いてもよい。走査光学系209で走査された測定光205は、接眼レンズ210−1および210−2を通して眼211に照射される。
眼211に照射された測定光205は眼底で反射もしくは散乱される。接眼レンズ210−1および210−2の位置を調整することによって、眼211の視度にあわせて最適な照射を行うことが可能となる。ここでは、接眼部にレンズを用いたが、球面ミラー等でこれを構成しても良い。眼211の網膜から反射もしくは散乱された反射散乱光(戻り光)は、入射した時と同様の経路を逆向きに進行する。戻り光は、光分割部206によってその一部が波面センサー215に反射され、光線の波面を測定するために用いられる。
波面センサー215は補償光学制御部216に接続され、受光した波面を補償光学制御部216に伝える。波面補正デバイス208も補償光学制御部216に接続されており、補償光学制御部216から指示された変調を測定光若しくは戻り光に対して行う。補償光学制御部216は、波面センサー215の測定結果による取得された波面を基に収差のない波面へと補正するような変調量(補正量)を計算する。補償光学制御部216は、さらに波面補正デバイス208に対して、測定光若しくは戻り光に該変調量をあたえるように指令する。なお、波面の測定と波面補正デバイス308への指示は繰り返し行われ、戻り光が常に最適な波面となるようにフィードバック制御が行われる。
光分割部206を透過した反射散乱光は光分割部204によって一部が反射され、コリメータ212、光ファイバー213を通して光強度センサー214に導光される。光強度センサー214で光は電気信号に変換され、制御部217によって該データを画像生成装置10へ伝送し、画像データ(動画像もしくは静止画像)を形成する。
なお、図2の構成で走査光学系の振り角を大きくし、補償光学制御部216が収差補正を行わないよう指示することによってSLO像撮像装置20は通常のSLO装置としても動作し、広画角なSLO画像(WFSLO像)を撮像できる。なお、広画角なSLO画像は補償光学を備えたSLO像撮像装置20以外の装置によって撮像することとしてもよい。また、固視微動と呼ばれる不随意的な眼球運動や固視不良による眼球運動あるいは顔の動きに伴う眼の動きの影響を軽減するために、眼の動きを追尾(トラッキング)する場合がある。眼底の動きの計測には、画像生成装置によって生成した眼底画像を用いて、不図示の計算部によって特徴を持った小領域の画像であるテンプレート画像を抽出し、テンプレート画像と最も似た部位を探すパターン・マッチングによって眼底の動きを計測する方法等がある。該方法では、光学系内に不図示のスキャナを設置し、不図示の制御部を前記スキャナと計算部を接続する位置に設置することで、照射光の位置を前記スキャナによって計測した眼底の動きに追従させることができる。これによって、1動画像内の各フレーム間の撮影位置がずれることを軽減できる。
<画像処理装置の処理手順>
次に、図3のフローチャートを参照して、本実施形態の画像生成装置10の処理手順を説明する。
<ステップS310>
ステップS310において、信号取得部100は、画像生成装置10に接続される補償光学SLO装置から取得された複数の画像、または動画の信号情報を取得する。信号情報は、網膜の撮影に用いられるガルバノスキャナ、共振スキャナの位置信号、及び撮影によって取得された網膜からの反射信号などである。取得された信号情報は、制御部120を通じて記憶部130に保存される。
またこのとき、取得された信号情報に付随するハードウェアの制御情報を取得し、制御部120を通じて記憶部130に記憶する。ここで制御情報とは、網膜の反射信号を取得する際のサンプリング周波数やガルバノスキャナの周波数に相当するフレームレートなどである。これらの制御情報は、信号情報に付加している撮影情報ファイルに記載されている場合もあれば、信号情報のタグ情報として含まれている場合もある。
<ステップS320>
ステップS320において、画像生成部140は、記憶部130に保存されている補償光学SLO装置により取得された信号情報からそれぞれの画像、または動画を生成する。すなわち、画像生成部140はWFSLO像およびWFSLO像よりも小画角な収差が補正された画像(AOSLO像)を生成する。取得された画像、または動画は、制御部120を通じて記憶部130に保存される。本実施例では、取得画像、または動画は一般的な四角形の形状を取るが、これに限定されるものではない。
<ステップS330>
ステップS330において、画像特徴算出部151は、ステップS320で取得されたそれぞれの画像、または動画における特徴領域の特徴量を算出する。そうして算出した特徴量を、制御部120を通じて記憶部130に保存する。すなわち、該画像特徴算出部151は、本実施例での複数の画像の特徴量を算出する第二の算出手段として機能する。
図4に画像特徴量の算出(ステップS330)の詳細を説明するためのフローチャートを示す。本実施例のように眼底グレースケール画像の場合、血管や浮腫や出血部などの病変部は複数の小画角画像にまたがるケースが多い。このため、本実施例では、これらの領域を特徴領域とし、ここより第一の特徴量として算出する。他にも、複数の画像にまたがる大きな構造物があれば、これを第一の特徴量の算出のための特徴領域としても良い。
またこれ以外にも複数の画像にまたがるほどの大きさはないが、周りの画素と大きな差のある構造物を第二の特徴領域とし、ここより第二の特徴量として算出する。本実施例では、構造物として視細胞や小さな病変部などを対象とする。但し、特徴量を算出する構造物はこれに限定されるものではない。
なお、第一の特徴量および第2の特徴量のどちらかの特徴量のみを、算出しても十分な結果を得られる場合は、計算量を減らすために、片方の特徴量のみを対象にしてよい。また特徴量算出の方法は、ここに書かれている対象や方法のみならず、画像位置合わせを行うことができる画像内構造物であれば類を問わない。また上記の二つ以上の特徴量を用いてもよい。
<ステップS410>
ステップS410において、画像特徴算出部151は、ステップS320で取得された画像、または動画のうち特徴量算出に使用する少なくとも1枚の画像を選択する。例えば、画像特徴算出部151はステップS320で取得された全てのWFSLO像を選択する。また、WFSLO像を選択する際に予め画像の輝度を取得し、輝度が所定値以下の場合には選択しないこととしてもよい。輝度が所定値以下の画像からは後述するステップS420,430で十分な特徴量が検出できない虞があり、輝度が所定値以下の画像を選択しないことで無駄な処理を省くことが可能となる。なお、WFSLO像だけではなくAOSLO像を選択することとしてもよいし、AOSLO像のみを選択することとしてもよい。
また、動画の場合、少なくとも1動画内の画像のうち後述のステップS420、430で算出される特徴量の最も大きいものを選択してもよい。これはどちらかのみを用いてもよいし、どちらかに優先順位をつけて選定するなどしてもよい。また少なくとも1動画内の各フレームの画像間位置合わせを行い、瞬きにより輝度が極端に低いフレームや固視微動により画像歪みが生じているフレーム、収差補正不良によりS/N比が低いフレームを例外フレームとしてこれらを除き、残りの画像を用いて平均化画像を生成して、これを用いてもよい。
なお、フレーム間位置合わせと平均化画像の取得の方法については、任意の公知の位置合わせ法を用いることができる。もし、固視が良い被検眼の場合、同一固視の画像同士が、比較的同じ位置の画像であれば、同じ位置の複数の動画間で上記のいずれかの方法を用いて少なくともひとつの画像を選定してもよい。またユーザーが画像を選ぶ、もしくはマニュアルで平均化画像を作成してそれを用いてもよい。
なお、画角が所定値以上の画像においてはステップS420,430を省略することとしてもよい。例えば、WFSLO像がステップS410で選択された場合にはステップS420,430を省略することとしてもよい。
<ステップS420>
ステップS420において、画像特徴算出部151は、ステップS410で選ばれた少なくとも一つ以上の画像の第一の特徴量を算出する。図7に血管を対象とした第一の特徴量を算出する画像の例を提示する。図の下に眼底の画角の広い画像を示し、左側に乳頭があり、画像中上から下にかけて右方向に伸びるアーケード血管がみられる。そして、図上に広画角の画像上に四角でかこってあるアーケード血管近傍の太い血管の上を撮影した小画角の画像を示した。当該ステップでは、まず各画像における平均輝度値Ai及び血管領域Viを取得する。
血管領域の取得方法は任意の公知の血管抽出法を用いることができ、本実施形態では輝度値が閾値T1以下の領域とし、図7の画像の色が暗い領域がそれに相当する。また、前記血管領域Viを細線化して得られる点列の画像端と画像の周囲を規定する枠線とが交差する点をCoutn(n=1,...,n2)として取得する。本実施例では、Coutnは3点存在する。また、それぞれの前記の交差する点近傍の血管の幅をWoutn(n=1,...,n2)も取得する。これは血管径が太いほうが長く伸びているケースが多いため、複数の画像にまたがる可能性があるためこの指標も用いる。これらCoutnやWoutnが第一の特徴量に対応する。
不図示であるが、眼底の病変部で特徴的な構造をもつ浮腫や出血部などを対象とする場合も考えられる。例えば、それらの領域の輝度が低い場合は、上記と同様の方法で特徴量を算出する。また、輝度が高い場合は、閾値T2以上の領域のうち、視細胞のスポットよりも大きいもののみを検出して、任意の公知のエッジ抽出方法などを用いて、同様に画像端と交差する面の個数とその幅を取得する。網膜の画像の場合、上記のような方法で行うが、その他の画像などの場合、その画像に適した大きな構造物を対象として行ってもよい。更に、RGB画像であったとしても、任意の公知のセグメンテーション方法によって、構造物が画像端に接している面の数とその幅を算出すればよい。
<ステップS430>
ステップS430において、画像特徴算出部151は、ステップS410で選ばれた少なくとも一つ以上の画像の第二の特徴量を算出する。ステップS420で検出した大きな構造物である領域Vi以外の構造物を、第二の特徴量を検出するための第二の特徴領域として検出する。例えば、上記の領域Viである血管や病変部の中には視細胞ははっきりと観察されないので、第二の特徴量の算出対象は、網膜画像中の視細胞に相当する。
図8に視細胞を対象とした第二の特徴量を算出する法を説明する図を提示する。図の下に眼底の画角の広い画像を示し、上に1本の血管の上を撮影した小画角の画像を示した。実際に毛細血管も含まれない小画角の画像は、視細胞のみが撮影されることがある。するとフォーカスによっては視細胞がはっきり映っておらず、特徴が非常に少なくなるので、これを特徴量として算出する。そのために、第二の特徴量の算出に関しては、第一の特徴量などで取り扱った、血管や病変部など以外の領域で解析を行う。なお、図7,8は説明のために異なる画像を用いているが、ステップS420,430は同一の画像に対して逐次実行される。
ここでは、図8のように画像を複数分割して、ステップS420で検出した血管領域Vi(病変部なども含む)が含まれていない分割エリアを複数選択する。そして選ばれた複数の分割画像それぞれの輝度値のヒストグラムを作成して、その半値幅を算出して、それが大きい分割画像の半値幅を取得する。これはヒストグラムの画像半値幅が大きいということは、画素値の分布が広いことを示し、画像中に視細胞のような輝度の高い蛍光スポットのみが存在している場合、画像のシャープネスを表していると考えられるからである。この半値幅は、たとえばガウシアンフィッティングを行って算出するなど、任意の公知の方法で取得してもよい。
ヒストグラムのピークが複数ある場合は、複数のピークに対して半値幅を求め、その和を、画像の半値幅として取得しても良い。他にも任意の公知の視細胞カウント方法によって視細胞の密度や、視細胞一つの蛍光スポットの鮮鋭感を尺度化する方法などによって、小さな構造物の形状のシャープネス、つまりはっきりと特徴的な形状が存在する程度を評価してもよい。
以上述べたように、画像特徴算出部151は、複数の画像にまたがる大きな構造物についての特徴量、より詳細には、該構造物と画像端と交わる個所の数、大きさ、或いは構造物の該画像内の面積を特徴量として算出することが好ましい。或いは、画像内の構造物に関して、その鮮鋭度を特徴量として算出することも可能である。
<ステップS340>
ステップS340において、画像相関算出部152は、ステップS320で取得された画像のうちステップS410によって選択された画像間の相関情報を例えば相関度として算出する。そうして算出した各画像間の相関についての情報を、制御部120を通じて記憶部130に保存する。該画像相関算出部152は、本実施例において、複数の画像各々の間の相関度を算出する算出手段として機能する。
図5に画像の相関の算出(ステップS340)の詳細を説明するためのフローチャートを示す。少なくとも2つ以上の組み合わせの画像間の相関の度合いを算出して、画像間の関連性を評価する。
<ステップS510>
ステップS510において、画像相関算出部152は、ステップS410によって取得された画像のうち、少なくとも一つの画像を選択する。なお、ステップS410によって取得された画像のうち全ての画像を選択することとしてもよいし、WFSLO像のみを選択することとしてもよい。また、AOSLO像のみを選択することとしてもよい。
なお、すべての画像が同じ画角である場合、それらのすべて、もしくは複数の組み合わせの相関の程度、例えば相関度を算出するので、どれを選択してもよい。また、ステップS410によって選択した画像のうち特徴量の大きな画像のみを基準画像として選んでもよい。また複数の画角の画像が含まれる場合、一番初めは最大画角とすると、より多くの画像の相関度を算出できる可能性がある。またこれらはユーザーの指定の画像のみを選択してもよい。
<ステップS520>
ステップS520において、画像相関算出部152は、ステップS510で選択された基準画像に対して、組み合わせ画像としてその他の画像を少なくとも一つずつ選択する。すべての画像が同じ画角である場合、ここではどれを選んでもよい。また複数の画角の画像が含まれる場合、画角が同じ、もしくは近いもののみを選ぶほうが、計算量を減らすことができるが、その選択方法は限定されない。なお、ステップS510においてWFSLO像を選択し、ステップS520において同一画角の画像のみを選択することとしてもよいし、ステップS520においてAOSLO像等のWFSLO像よりも狭い画角の画像を選択することとしてもよい。
<ステップS530>
ステップS530において、画像相関算出部152は、ステップS510、520で選択された少なくとも二つずつ、即ち少なくとも二つ以上の画像間の粗位置合わせを行う。固視の良い被検眼の場合で、固視灯を用いた場合など、精度は保証されないが、ある程度位置のわかる画像については、その予想される位置を探索の初期位置とすると計算量が減る可能性がある。すなわち、各画像に対応付けられた固視に関する情報に基づいて位置合わせを行うこととしてもよい。
ここでは基準画像に対して、組み合わせ画像を、任意の公知の方法であるパターンマッチング手法によって画像間の相関度を算出する。。本実施例では、位相限定相関関数を計算して、最大相関ピーク値を相関度として、またその時の座標を租位置合わせの位置として求める。そして、制御部120を通じて相関度と粗位置合わせの位置情報を記憶部130に保存する。
また他には、同様のピクセル値を用いて、SAD(輝度値の差の絶対値の合計)や、SSD(輝度値の差の2乗の合計)、正規化相互相関など、一般的なパターンパッチングの手法を用いてもよい。ここで画像の二組の画像のみを用いた位置合わせでは、重なり領域(オーバーラップ)が見つからない程、相関が低い場合は、制御部120を通じてマッチングしない画像であるという情報を記憶部130に保存する。すなわち、画像間の相関を示す情報を取得できる手法であればよく、パターンマッチング等の手法に限定されるものではない。
以上述べたように、画像相関算出部152は、画像間の位置合わせに際して、画像間において最も相関の良くなる位置及び相関度を、位相限定相関関数を用いて算出することが好ましい。なお、この位置合わせは、ユーザーの指定した画像間で行われてよく、その際に相関度を算出することとしてもよい。或いは、少なくとも複数の画像同士の組み合わせの間で相関度の算出を行うことが好ましい。
<ステップS540>
ステップS540において、画像相関算出部152は、ステップS530で相関度を算出した組み合わせ画像について位置合わせを行った回数が、M回目である場合、ステップS550に進む。本実施例では、Mは基準画像に対してすべての画像の組み合わせの数に対応するが、これは限定されない。また、ステップS530で相関度を算出した組み合わせ画像について位置合わせを行った回数がM回目より小さい場合は、ステップS520に戻って、まだ行っていない組み合わせ画像を選択してステップS530を繰り返す。
<ステップS550>
ステップS550において、基準画像すべてに対して粗位置合わせが行われたか否かを判定する。ここでステップS510で相関度を算出するために選択した基準画像がN枚であるとする。画像相関算出部152は、ステップS520から540で取得した、ある基準画像に対してすべての組み合わせ画像での相関度が算出される。粗位置合わせを行った回数が選択された基準画像の数であるNと等しいN回目である場合、この工程は終了する。本実施例では、Nはすべての基準画像の数であるが、これは限定されない。ここでステップS520から540で取得したすべての組み合わせ画像での相関度が算出された基準画像の数が、Nより小さい場合は、ステップS510に戻って、まだ行っていない基準画像を選択してステップS520から540を繰り返す。
<ステップS350>
ステップS350において、位置合わせ部153は、ステップS330、340で取得された各画像の特徴量と画像間相関情報に基づき画像位置合わせと画像貼り合わせを順次行う。そして位置合わせを行った画像の位置情報とパノラマ画像とを、制御部120を通じて記憶部130に保存する。即ち、位置合わせ部153は、本実施例において、画像特徴算出部151と画像相関算出部152との算出結果に基づいて複数の画像を貼り合せてパノラマ画像を生成するための複数の画像の位置合わせを行う際の順番を決定する順番決定手段として機能する。
図6に画像位置合わせ(ステップS350)の詳細を説明するためのフローチャートを示す。ここでそれぞれの画像が、順次位置合わせが行われ、それぞれの位置情報が制御部120を通じて記憶部130に保存される。
<ステップS610>
ステップS610において、位置合わせ部153は、ステップS330、340で取得された各画像の特徴量と画像間相関情報に基づき、位置合わせの順番を決定する。本実施例では、すべての画像が同じ画角である場合の順番の決定法を以下に述べる。
始めに位置合わせの基準となるリファレンスフレームを一つ決定する。リファレンスフレーム選択法は、(1)ステップS530で算出した相関度が大きい組み合わせに多く含まれる画像であり、(2)ステップS420で算出された、Coutnの数が多く、Woutnの平均値が大きい、(3)ステップS430で算出したヒストグラムの半値幅が広い、これらの3つの条件を満たす画像をリファレンスフレームとして選ぶ。なお、リファレンスフレームを選択するための条件は3つ未満でも4つ以上であってもよい。また、条件(1)は他の画像に対する相関度の合計が大きい画像であるという条件であってもよい。なお、上記の条件において値が大きいか否かの基準となる固定の閾値を設けることとしてもよいし、取得した画像内で相対的に大きな値となるように可変の閾値を設けることとしてもよい。
本実施例では、画像の関連性が多く、複数の画像にまたがる大きな特徴を持ち、画像のシャープネスの高い画像を選びたいので、優先順位を(1)、(2)、(3)としてリファレンスフレームを選択するが、これは限定されるものではなくユーザーが選択してもよい。また、(1)−(3)の条件に重み付けをして、全ての条件を考慮してリファレンスフレームを選択することとしてもよいし、(1)−(3)の条件のうち一つの条件のみに基づいてリファレンスアームを選択することとしてもよい。例えば、他の画像との相関度の合計が最も高い画像をリファレンスフレームとしてもよい。
その後、次に位置合わせを行う画像を選択する。一番初めは、選ばれたリファレンスフレームに対して、相関度が所定値より大きい画像の中から、ステップS420で算出された第一の特徴量が所定値より大きな画像を選択する。さらに選択された画像の中から第二の特徴量が所定値よりも大きな画像を選択する。次の画像を選ぶ基準については、本実施例では、優先順位を先の(1)、(2)、(3)の順番で該当する画像を同様に選択する。また、順次選ばれる画像は、リファレンスフレームと、これまでに位置合わせを行った画像を用いて生成したパノラマ画像に対して位置合わせを行う。従って、(1)において用いられる条件はリファレンスフレームとこれまでに位置合わせを行った画像双方に対して相関のある画像の合計となる。ここで、位置合わせ順序の決定が進むとパノラマ画像に対して相関度が所定値より大きくなる画像がなくなってしまう場合があるため位置合わせ順序の決定状況に伴い閾値を下げることとしてもよいし、所定値以上の相関度をもつ画像がない場合には、残りの画像のうちパノラマ画像に対して最も相関の高い画像を選択することとしてもよい。
なお、例えば、WFSLO像のみで位置合わせを行う場合には他のWFSLO像に対して最も相関の高い画像をリファレンスフレームとして選択し、その後次に他のWFSLO像に対して相関の高い画像を位置合わせする処理を繰り返す。このように、AOSLO像であっても条件(1)のみを用いて位置合わせ順序を決定することとしてもよい。
また他の選択法として、たとえばステップS530でリファレンスフレームに対して算出した位置が、離れているものを優先して選択してもよい。これは、位置合わせの度にできるだけ大きなパノラマを作成して、広い範囲で位置合わせを行うためである。さらに、Woutの大きな血管近傍で位置の合う画像を優先的に選んでもよく、この画像の選択方法は、これらに限定されるのもではない。上記順番は、初めにすべての順番を決めてもよいが、一画像ずつ順次決定してもよい。さらにリファレンスフレームや、いくつかの画像同士の順番は、ユーザーの指定の画像や順番を選択してもよい。即ち、前述したように、順番決定手段として機能するモジュール領域は、画像特徴算出部151が算出した前述した複数種類の特徴量について、少なくとも一つの種類以上の特徴量を順不同で用いることが好ましい。
また、複数の画角の画像が含まれる場合、一番初めは最大画角とすると、より多くの相関度の高い画像を選択できる可能性がある。また順次画像を選択する際は、画角の大きい順に行ってもよく、また画角の順不同や前後の大きさの近い画角ごとの順番で選択してもよい。これらは限定されず、すべてもしくはいくつかの画像位置合わせの順番を決定することが、本発明の特徴である。
例えば図10を用いて位置合わせ順序の決定方法を説明する。図10はWFSLO像上に3枚のAOSLO像が位置合わせされた状態を示している。画角の異なる画像が含まれているため上述の如く最初にリファレンスフレームとしてWFSLO像が選択される。なお、図10においてAOSLO像501は血管等の特徴部分が不鮮明であるものとする。図10の上方における図において、点線は血管を示すものである。
大きな血管が含まれているAOSLO像500はAOSLO像501、502よりもWFSLO像に対して相関度が高くなる。また、AOSLO像502はAOSLO像501よりも鮮明であるためWFSLO像に対して相関度が高くなる。従って、位置合わせ順序はWFSLO像に対して相関度の高い順に、AOSLO像500、AOSLO像502、AOSLO像501の順序で行われる。このようにするとWFSLO像に対して相関度が低く位置合わせが難しいAOSLO像501もAOSLO像500、502の特徴部分を手掛かりに位置合わせを行うことが可能となる。また、AOSLO像500をWFSLO像に位置合わせした後にAOSLO像501を位置合わせする場合に比べて、AOSLO像502も位置合わせの基準として用いることが可能なため位置合わせの精度が向上し失敗を避けることが可能となる。なお、図10の下方のAOSLO像は上方におけるAOSLO像を拡大したものである。図10の下方のAOSLO像501の血管は位置合わせが行われていることを示すために明確に図示しているが、上述したように実際は不鮮明になっている。
<ステップS620>
ステップS620において、位置合わせ部153は、ステップS610で選択されたリファレンスフレーム、もしくはこれまで位置合わせを行ったパノラマ画像に対して、次に選ばれた位置合わせを行う画像についての粗位置合わせを行う。本実施例ではステップS530で算出された位置を探索の初期位置とする。また探索範囲は、ある程度限定するほうが計算は速く行えるが、全検索してもよい。また粗位置合わせの方法は、ステップS530と同様であり、制御部120を通じて、粗位置合わせの位置情報を記憶部130に保存する。またここである程度相関が低い場合は、マッチングしない画像として制御部120を通じて記憶部130に保存して、ステップS660に進んでよい。
<ステップS630>
ステップS640において、位置合わせ部153は、ステップS610で選択されたリファレンスフレーム、もしくはこれまで位置合わせを行ったパノラマ画像に対して、選択画像を分割することで得られる各小画像による位置合わせを行う。ここで画像の分割は、画像の特徴によって決めることができ、本実施例では12×12分割で行ったが、この数に限定されるものではない。
リファレンスフレーム、もしくはこれまで位置合わせを行ったパノラマ画像に対して、各小画像の位置合わせを行う方法は、ステップS620で設定された粗位置合わせの位置を初期位置として、それぞれ任意の公知の方法で位置合わせを行う。本実施例では、ステップS620と同様に、位相限定相関関数を計算して、それぞれの小画像の最も相関ピーク値の高い位置を取得した。
ここである程度相関が低い画像が多い場合は、マッチングしない画像として制御部120を通じて記憶部130に保存して、ステップS660にすすんでよい。
<ステップS640>
ステップS640において、位置合わせ部153は、ステップS630で取得した、リファレンスフレームもしくはこれまで位置合わせを行ったパノラマ画像に対して、位置合わせを行った組み合わせ画像の分割したそれぞれの小画像の位置に基づいて、任意の公知の方法で組み合わせ画像のアフィン係数を決定する。本実施例では、まずステップS630で取得した位置に基づいて、それぞれの小画像の中心位置を平面上に並べた点群Siを作成する。そして、組み合わせ画像の初期に分割のみ行ったそれぞれの小画角の中心位置を点群Aiとする。
次に、点群Siの各小画角の同じ位置に相当する点群Aiの各座標同士の距離の総和が最も小さくなるように、最小二乗法を用いて、アフィン係数を変化させる。そうして、距離の総和が最も小さくなる時のアフィン係数を取得してこれを位置情報とする。また、このアフィン変形により変化させた画像の、リファレンスフレームもしくはこれまで位置合わせを行ったパノラマ画像への貼り合わせを行う。貼り合わせた画像は、制御部120を通じて記憶部130に保存する。
以上述べた画像各々のシフト量の算出は、本実施例における位置合わせ部153において演算手段として機能するモジュール領域により実行される。また、該位置合わせ部153は貼り合せ手段として機能するモジュール領域も有し、該貼り合せ手段は、演算手段が算出したシフト量に基づいて画像各々を変形させ、変形後の画像を順番決定手段が決定した順番に応じて貼り合わせてパノラマ画像を生成する。なお、前述したように、ここで述べた演算手段として機能するモジュール領域は、画像同士の位相限定相関関数を用いてシフト量の演算を行うことが好ましい。
この貼り合わせ画像は次の画像の位置合わせに用いられ、その都度更新される。さらに、貼り合わせの合成の方法は、任意の公知の方法でよく、たとえばブレンディングをエッジ部のみ行ってもよい。即ち、画像各々の端部に対してアルファブレンディングを行うことで貼り合せを行うことが好ましい。或いは、画像の貼り合せに際して、画像毎の輝度調整として、輝度値の調整などを行ってもよい。
また、貼り合わせの際に、テップS420で算出されたCoutnの数、Woutnの平均値、あるいはステップS430で算出したヒストグラムの半値幅等の特徴量を、リファレンスフレーム、もしくはこれまで位置合わせを行ったパノラマ画像の特徴量と比較して、より特徴量の高いほうを上側の画像として選択してもよい。また、いずれの画像を上とするかを後にユーザーが選択してもよい。
ここで、このシフト量の総和がある程度以上大きい場合や、多くの小画角が変形後の組み合わせ画像内に収まらない場合は、これをマッチングしない画像とすることが好ましい。この場合、マッチングしないとされた画像は、制御部120を通じて記憶部130に保存して、ステップS660にすすんでよい。また本実施例ではアフィンによる簡易な変形のみ取り扱ったが、その他任意の公知の画像変換法や補正方法を用いて行ったり、たとえば光学歪みなどを補正したりしてもよく、本実施例はこの方法に限定されない。
また、前述したように、この場合に演算手段として機能するモジュール領域は、画像における一画像を小画角に分割してそれぞれの位置合わせを行うことが好ましい。或いは、分割した小画角の位置合わせの際に用いるシフト量を、位相限定相関関数を用いることで演算することが好ましい。更には、画像における一画像を小画角に分割してそれぞれの位置合わせを行った後、小画角の画像各々についてのアフィン変換係数を取得する態様が好ましい。
<ステップS650>
ステップS650において、位置合わせ部153は、位置合わせを行った画像の数が、L回目である場合、ステップS660に進む。本実施例では、Lはすべての画像の数であるが、これは限定されない。ここで、ステップS650で位置合わせを行った画像の数が、L回目より小さい場合は、ステップS610に戻って、次に位置合わせを行う画像を選択してステップS610から640を繰り返す。あらかじめ位置合わせの順番が決定されている場合は、S620に戻ってもよい。
<ステップS660>
ステップS650において、位置合わせ部153は、ステップS610から650で取得した、すべての画像の位置合わせが終了したのち、ステップS620から640でマッチングしなかった画像についてステップS610から640の工程を繰り返し、これら画像について再度位置合わせを行う。マッチングしないエラー画像の数に再度位置合わせを行う回数をかけた数をXとして、ステップS610に戻り、再度位置合わせを行う。ここで、再度の位置合わせの操作を何度か繰り返して位置が合わなくなるまで行ってよいし、その回数や実施するかどうかも限定されない。最終的に位置の合わせでマッチングした画像は、その画像のアフィン値と最終的なパノラマ画像とが制御部120を通じて記憶部130に保存される。また、マッチングしない画像は、不適合画像としての情報としてパノラマ画像に貼り合わせずに、最も相関の近い位置のアフィン値のみを制御部120を通じて記憶部130に保存する。再度位置合わせを実施する場合それが設定されたX回目である場合、この工程は終了する。
<ステップS360>
ステップS360において、出力部160は、ステップS350において記憶部130に保存された網膜のパノラマ画像を、出力部160を通じてモニタ等に表示する。さらに、ステップS310からステップS350で記憶部130に保存された各画像の特徴量と画像間相関情報などのパラメータ、或いは各画像の位置を特定したアフィン係数をデータベースに保存する。さらにもしユーザーかたの指定があれば、選択された画像のみ貼り合わせを行いパノラマ画像として再出力してもよく、また不適合画像を、最も相関の高い位置にアフィン変形して貼り合わせてもよい。
他にも、その不適合画像を、モニタ上の端に並べて、UI上でユーザーがマニュアルで位置合わせを行うような、ユーティリティアプリケーションを付属してもよい。図9にユーティリティアプリケーションのUI画面の例を示す。メイン画面910に生成したパノラマ画像のレイヤー表示部920とアフィンパラメータ変更コマンドウィンドウ930が表示されている。またこの実施例では、不適合画像は、上記のようにアプリケーションの左上に置いており、パノラマ画像上に貼り合わせられた画像とともに、表示/非表示可能な枠が表記されており、すべての画像をマニュアルで位置合わせを行うことができる。
このマニュアル位置合わせは、任意の公知の方法で行い、平行移動や回転、拡大縮小、せん断などを行ってもよい。またアフィンパラメータ変更コマンドウィンドウ930を用いて、パラメータを直接調整したり、一括で変形したりも可能である。このマニュアル位置合わせのユーティリティアプリケーションは画像の位置合わせを手動で調整できればよく、上記の方法に限定されない。
以上のべたように、眼底の高精細画像のように特徴の少ない、かつ撮影位置の情報を精度よく推定するのが難しい画像群を貼り合わせてパノラマ画像を生成する場合、位置合わせを行う順番を考慮することにより、精度よく位置合わせを行えない画像を削減し、貼り合わせ失敗画像の少ないパノラマ画像の生成が可能となる。
以上の構成により、補償光学SLO装置により取得された網膜の画像を用いて、画像位置を特定する特別なハードウェア構成を持たなくても、精度良く画像間位置合わせを行い、貼り合わせ失敗画像の少ないパノラマ画像を生成することが可能になる。
(その他の実施形態)
上記実施例では、特徴量が少なく、高精細で画角の小さい網膜の平面画像についてのものであったが、その他の高解像度の網膜断層撮影装置であるOCTなどの異なるモダリティでの、網膜の断層画像同士による位置合わせや、OCTなどの断層画像の積算によって生成される三次元積算画像の一つの面と本実施例のAO−SLOのような平面画像との位置合わせを行うことも可能である。ここで網膜断層像というのは、被検眼を正面から眼底カメラなどで撮影する際に得られる、正面像に対して垂直である、深さ方向の平面像のことを言う。このように複数のモダリティの画像同士の組み合わせでもよく、2次元、3次元の位置合わせに対しても、同様に画像特有の特徴点をもとに位置合わせの順番を設定することで、位置合わせを行うことが可能であるため、撮影モダリティに限定されない。
また、本件は上記の実施例に限定されるものではなく、本発明の趣旨を逸脱しない範囲内において、種々の変形、変更して実施することができる。例えば、上記の実施例では、被測定物が眼の場合について述べているが、眼以外の皮膚や臓器等の被測定物に本発明を適用することも可能である。この場合、本発明は眼科装置以外の、例えば内視鏡等の医療機器としての態様を有する。従って、本発明は眼科装置に例示される検査装置として把握され、被検眼は被検査物の一態様として把握されることが望ましい。
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、達成されることは言うまでもない。
10 画像生成装置
100 信号取得部
120 制御部
130 記憶部
140 画像生成部
150 画像処理部
151 画像特徴算出部
152 画像相関算出部
153 位置合わせ部
160 出力部

Claims (23)

  1. 複数の画像各々の間の相関度を算出する算出手段と、
    算出手段の算出結果に基づいて、前記複数の画像を貼り合せて生成するパノラマ画像を生成するための前記複数の画像の位置合わせを行う順番を決定する順番決定手段と、を有することを特徴とする画像生成装置。
  2. 複数の画像の特徴量を算出する第二の算出手段をさらに有し、
    前記順番決定手段は、前記算出手段と前記第二の算出手段との算出結果に基づいて前記順番を決定することを特徴とする請求項1に記載の画像生成装置。
  3. 前記画像各々のシフト量を算出する演算手段と、
    前記演算手段が算出したシフト量に基づいて前記画像各々を変形させ、変形後の画像を順番決定手段が決定した順番に応じて貼り合わせて前記パノラマ画像を生成する貼り合せ手段と、を有することを特徴とする請求項2に記載の画像生成装置。
  4. 前記第二の算出手段は、複数の前記画像にまたがる大きな構造物についての特徴量を算出することを特徴とする請求項2又は3に記載の画像生成装置。
  5. 前記第二の算出手段は、複数の前記画像にまたがる構造物の前記画像端と交わる個所の数を前記特徴量として算出することを特徴とする請求項2乃至4の何れか一項に記載の画像生成装置。
  6. 前記第二の算出手段は、複数の前記画像にまたがる構造物の画像端と交わる個所の大きさを前記特徴量として算出する行うことを特徴とする請求項2乃至5の何れか一項に記載の画像生成装置。
  7. 前記第二の算出手段は、複数の前記画像にまたがる構造物の面積を前記特徴量として算出することを特徴とする請求項2乃至6の何れか一項に記載の画像生成装置。
  8. 前記二の算出手段は、前記画像内の構造物の鮮鋭度を前記特徴量として算出することを特徴とする請求項2乃至7の何れか一項に記載の画像生成装置。
  9. 前記算出手段は、少なくとも二つ以上の画像間の位置合わせを行うことを特徴とする請求項2乃至8の何れか一項に記載の画像生成装置。
  10. 前記算出手段は、前記画像間の位置合わせに際し、前記画像間において最も相関度の良くなる位置及び前記相関度を、位相限定相関関数を用いることで算出することを特徴とする請求項2乃至9の何れか一項に記載の画像生成装置。
  11. 前記算出手段は、ユーザーにより指定された前記画像間での位置合わせを行い、前記相関度を算出することを特徴とする請求項2乃至9の何れか一項に記載の画像生成装置。
  12. 前記算出手段は、前記画像間の位置合わせに際し、少なくとも複数の画像同士の組み合わせの間で前記相関度の算出を行うことを特徴とする請求項2乃至10の何れか一項に記載の画像生成装置。
  13. 前記順番決定手段は、前記第二の算出手段が算出した複数種類の特徴量について、少なくとも一つの種類以上の特徴量を順不同で用いることを特徴とする請求項2乃至12の何れか一項に記載の画像生成装置。
  14. 前記演算手段は、前記画像同士の位相限定相関関数を用いることで前記シフト量を演算することを特徴とする請求項3に記載の画像生成装置。
  15. 前記演算手段は、前記画像を小画像に分割してそれぞれの位置合わせを行うことを特徴とする請求項3に記載の画像生成装置。
  16. 前記演算手段は、分割した小画像の位置合わせの際に用いる前記シフト量を、位相限定相関関数を用いることで演算することを特徴とする請求項3に記載の画像生成装置。
  17. 前記演算手段は、前記画像における一画像を小画像に分割してそれぞれの位置合わせを行った後、前記小画角の画像各々についてのアフィン変換係数を取得することを特徴とする請求項3に記載の画像生成装置。
  18. 前記複数の画像を貼り合せる貼り合せ手段をさらに有し、
    前記貼り合せ手段は、前記画像各々の端部に対してアルファブレンディングを行うことで前記貼り合せを行うことを特徴とする請求項1に記載の画像生成装置。
  19. 前記複数の画像を貼り合せる貼り合せ手段をさらに有し、
    前記貼り合せ手段は、前記画像の貼り合せに際して、前記画像毎の輝度調整を行うことを特徴とする請求項1に記載の画像生成装置。
  20. 前記パノラマ画像は検査された被検眼の画像であることを特徴とする請求項1乃至19の何れか一項に記載の画像生成装置。
  21. 前記被検眼の画像は、前記被検眼により生じた収差が補正された画像であることを特徴とする請求項20に記載の画像生成装置。
  22. 請求項1乃至21の何れか一項に記載の画像生成装置をコンピュータで実現させるためのプログラム。
  23. 複数の画像各々の間の相関度を算出する工程と、
    算出された結果に基づいて、前記複数の画像を貼り合せて生成するパノラマ画像を生成するための前記複数の画像の位置合わせを行う順番を決定する工程と、を有することを特徴とする画像生成方法。
JP2014106233A 2014-05-22 2014-05-22 画像生成装置および画像生成方法 Active JP6438216B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014106233A JP6438216B2 (ja) 2014-05-22 2014-05-22 画像生成装置および画像生成方法
US14/712,252 US9613419B2 (en) 2014-05-22 2015-05-14 Image generating device and image generating method
EP15168324.0A EP2947623B1 (en) 2014-05-22 2015-05-20 Image generating device and image generating method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014106233A JP6438216B2 (ja) 2014-05-22 2014-05-22 画像生成装置および画像生成方法

Publications (3)

Publication Number Publication Date
JP2015221089A true JP2015221089A (ja) 2015-12-10
JP2015221089A5 JP2015221089A5 (ja) 2017-06-29
JP6438216B2 JP6438216B2 (ja) 2018-12-12

Family

ID=53189718

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014106233A Active JP6438216B2 (ja) 2014-05-22 2014-05-22 画像生成装置および画像生成方法

Country Status (3)

Country Link
US (1) US9613419B2 (ja)
EP (1) EP2947623B1 (ja)
JP (1) JP6438216B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018000954A (ja) * 2016-07-01 2018-01-11 キヤノン株式会社 検査装置の制御方法、制御装置及びプログラム
JP2018066846A (ja) * 2016-10-19 2018-04-26 オリンパス株式会社 顕微鏡システム
US10018826B2 (en) 2016-10-19 2018-07-10 Olympus Corporation Microscope system
JP2018117693A (ja) * 2017-01-23 2018-08-02 株式会社トプコン 眼科装置
JP2020060394A (ja) * 2018-10-05 2020-04-16 株式会社Ihi 非接触計測装置の計測範囲拡大方法

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8968086B2 (en) 2010-02-10 2015-03-03 Leap Forward Gaming, Inc. Video processing and signal routing apparatus for providing picture in a picture capabilities on an electronic gaming machine
US10672224B2 (en) 2014-06-12 2020-06-02 Ronnie HARRIS Apparatus, system and method for utilizing a secondary controller for multiple game play and tracking credits
US9588514B2 (en) 2015-01-26 2017-03-07 Fisher-Rosemount Systems, Inc. Commissioning field devices in a process control system supported by big data
JP2017104343A (ja) 2015-12-10 2017-06-15 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
KR102517104B1 (ko) * 2016-02-17 2023-04-04 삼성전자주식회사 가상 현실 시스템에서 이미지 처리 방법 및 장치
JP6885896B2 (ja) * 2017-04-10 2021-06-16 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
JP7263983B2 (ja) * 2019-08-30 2023-04-25 富士通株式会社 撮影漏れ検出装置、及び、撮影漏れ検出方法
CN111210379B (zh) * 2020-01-09 2023-05-02 珠海博明视觉科技有限公司 一种提高2d测量效率的图像采集和拼接优化方法
CN114897678B (zh) * 2022-03-29 2023-05-16 中山大学中山眼科中心 婴幼儿眼底视网膜全景影像生成采集反馈方法及系统
CN117593462A (zh) * 2023-11-30 2024-02-23 约翰休斯(宁波)视觉科技有限公司 三维空间场景的融合方法和系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06319034A (ja) * 1993-05-07 1994-11-15 Sharp Corp 画像処理装置
JP2002058647A (ja) * 2000-08-22 2002-02-26 Nippon Telegr & Teleph Corp <Ntt> 眼底画像変形合成方法、及びそのプログラムを記録した記録媒体
JP2009533924A (ja) * 2006-04-10 2009-09-17 ノキア コーポレイション フレーム選択を用いるパノラマ画像の構成
JP2009544377A (ja) * 2006-07-28 2009-12-17 カール ツァイス メディテック アクチエンゲゼルシャフト 眼底パノラマ画像の調整方法
JP2013058124A (ja) * 2011-09-09 2013-03-28 Sony Corp 情報処理装置、情報処理方法、及びプログラム
JP2013063216A (ja) * 2011-09-20 2013-04-11 Canon Inc 画像処理装置及び画像処理方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5259484B2 (ja) 2009-04-30 2013-08-07 株式会社ニデック 眼底撮影装置
JP6039908B2 (ja) 2012-02-21 2016-12-07 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP6174908B2 (ja) 2013-05-27 2017-08-02 キヤノン株式会社 情報処理装置、情報処理方法、及び、コンピュータプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06319034A (ja) * 1993-05-07 1994-11-15 Sharp Corp 画像処理装置
JP2002058647A (ja) * 2000-08-22 2002-02-26 Nippon Telegr & Teleph Corp <Ntt> 眼底画像変形合成方法、及びそのプログラムを記録した記録媒体
JP2009533924A (ja) * 2006-04-10 2009-09-17 ノキア コーポレイション フレーム選択を用いるパノラマ画像の構成
JP2009544377A (ja) * 2006-07-28 2009-12-17 カール ツァイス メディテック アクチエンゲゼルシャフト 眼底パノラマ画像の調整方法
JP2013058124A (ja) * 2011-09-09 2013-03-28 Sony Corp 情報処理装置、情報処理方法、及びプログラム
JP2013063216A (ja) * 2011-09-20 2013-04-11 Canon Inc 画像処理装置及び画像処理方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018000954A (ja) * 2016-07-01 2018-01-11 キヤノン株式会社 検査装置の制御方法、制御装置及びプログラム
JP6995504B2 (ja) 2016-07-01 2022-01-14 キヤノン株式会社 検査装置の制御方法、制御装置及びプログラム
JP2018066846A (ja) * 2016-10-19 2018-04-26 オリンパス株式会社 顕微鏡システム
US10018826B2 (en) 2016-10-19 2018-07-10 Olympus Corporation Microscope system
US10261307B2 (en) 2016-10-19 2019-04-16 Olympus Corporation Microscope system
JP2018117693A (ja) * 2017-01-23 2018-08-02 株式会社トプコン 眼科装置
JP2020060394A (ja) * 2018-10-05 2020-04-16 株式会社Ihi 非接触計測装置の計測範囲拡大方法

Also Published As

Publication number Publication date
US9613419B2 (en) 2017-04-04
EP2947623B1 (en) 2017-12-20
US20150339822A1 (en) 2015-11-26
EP2947623A1 (en) 2015-11-25
JP6438216B2 (ja) 2018-12-12

Similar Documents

Publication Publication Date Title
JP6438216B2 (ja) 画像生成装置および画像生成方法
JP6108827B2 (ja) 眼科装置および位置合わせ方法
US9320424B2 (en) Image display apparatus, image display method and imaging system
KR101736728B1 (ko) 정보처리장치, 정보처리방법, 및 컴퓨터 판독 가능한 기억매체
US10165939B2 (en) Ophthalmologic apparatus and ophthalmologic apparatus control method
US10791920B2 (en) Image forming apparatus and image forming method
JP5847510B2 (ja) 画像処理装置及び画像処理方法
JP6463048B2 (ja) 画像処理装置及び画像処理装置の作動方法
JP2019201952A (ja) 撮影装置及びその制御方法
JP2019201951A (ja) 撮影装置及びその制御方法
JP2018068630A (ja) 断層画像取得装置及び方法
JP2017018177A (ja) 画像処理装置及び画像処理方法
JP2017127580A (ja) 検査装置及び検査方法
US10674902B2 (en) Information processing apparatus, operation method thereof, and computer program
US10123688B2 (en) Information processing apparatus, operation method thereof, and computer program
JP2017018202A (ja) 画像生成装置および画像生成方法
JP6882242B2 (ja) 眼科装置およびその制御方法
JP6468907B2 (ja) 画像処理装置及び画像処理方法及びプログラム
JP6419238B2 (ja) 眼科装置および位置合わせ方法
JP2017176716A (ja) 画像処理装置および画像処理方法
JP2018164814A (ja) 画像処理装置及び画像処理装置の作動方法
JP2017118919A (ja) 画像形成装置、画像形成方法及びそのプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170519

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170519

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20171214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20180126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180702

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180731

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180921

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181018

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181116

R151 Written notification of patent or utility model registration

Ref document number: 6438216

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151