JP2017018202A - Image generation apparatus and image generation method - Google Patents

Image generation apparatus and image generation method Download PDF

Info

Publication number
JP2017018202A
JP2017018202A JP2015136956A JP2015136956A JP2017018202A JP 2017018202 A JP2017018202 A JP 2017018202A JP 2015136956 A JP2015136956 A JP 2015136956A JP 2015136956 A JP2015136956 A JP 2015136956A JP 2017018202 A JP2017018202 A JP 2017018202A
Authority
JP
Japan
Prior art keywords
image
angle
view
images
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015136956A
Other languages
Japanese (ja)
Other versions
JP2017018202A5 (en
JP6652284B2 (en
Inventor
佐藤 章
Akira Sato
章 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015136956A priority Critical patent/JP6652284B2/en
Publication of JP2017018202A publication Critical patent/JP2017018202A/en
Publication of JP2017018202A5 publication Critical patent/JP2017018202A5/ja
Application granted granted Critical
Publication of JP6652284B2 publication Critical patent/JP6652284B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Eye Examination Apparatus (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image processing device facilitating positioning for laminating a wide field-angle image of a retina and a high-definition narrow field-angle image.SOLUTION: The image processing device includes: acquisition means that acquires a plurality of first field-angle images of a subject's eye and acquiring a second field-angle image having a wider field angle than the first field-angle of the subject's eye; display control means for causing display means to display the plurality of first field-angle images acquired by the acquisition means; selection means for selecting one image out of the plurality of first field-angle images displayed on the display means; and positioning means for positioning the second field-angle image and the first field-angle image selected by the selection means.SELECTED DRAWING: Figure 1

Description

本発明は、画像生成装置及び画像生成方法に関する。   The present invention relates to an image generation apparatus and an image generation method.

生活習慣病や失明原因の上位を占める疾病の早期診断を目的として、眼底部の検査が広く行われている。該眼底部を検査する装置として、共焦点レーザー顕微鏡の原理を利用した眼科装置である走査型レーザー検眼鏡(SLO:Scanning Laser Ophthalmoscope)が知られている。この眼科装置は、測定光であるレーザーを眼底に対してラスタースキャンを行い、その戻り光の強度から平面画像を高分解能かつ高速に得る。更に近年、被検眼で発生する収差を補償する補償光学SLO(AO−SLO:Adaptive Optics SLO)装置が開発された。該補償光学SLOでは、この収差を波面センサでリアルタイムに測定し、測定光やその戻り光の収差を波面補正デバイスで補正する補償光学系を有する。これにより、この補償光学SLOでは、被検眼の収差を補正することで高横分解能な平面画像(以下AO−SLO像という場合がある)の取得を可能にしている。   Examination of the fundus is widely performed for the purpose of early diagnosis of lifestyle diseases and diseases that occupy the top causes of blindness. As an apparatus for inspecting the fundus, a scanning laser opthalmoscope (SLO) which is an ophthalmologic apparatus using the principle of a confocal laser microscope is known. This ophthalmologic apparatus performs a raster scan on the fundus with laser as measurement light, and obtains a planar image with high resolution and high speed from the intensity of the return light. Further, in recent years, an adaptive optical SLO (AO-SLO: Adaptive Optics SLO) apparatus that compensates for aberrations occurring in the eye to be examined has been developed. The adaptive optics SLO has a compensation optical system that measures this aberration in real time with a wavefront sensor and corrects aberrations of the measurement light and its return light with a wavefront correction device. Thereby, in this adaptive optics SLO, it is possible to acquire a plane image with high lateral resolution (hereinafter also referred to as an AO-SLO image) by correcting the aberration of the eye to be examined.

高横分解能な平面画像を取得する場合、装置自体の光学収差や撮影時間の長時間化等の問題から、一度に撮影する撮影範囲を狭くする、つまり狭い画角で撮影することになる。このため、診断や検査等に必要な情報を得るために、画角が足りない場合は狭い画角の撮影を複数個所行う必要がある。また、高倍率の撮影画像ではなくても、被検者眼の局所的な部位を撮影する場合、全体を把握するために所定の範囲で複数回撮影を行うこともある。しかしながら、診断や検査等に必要とされる領域を撮影したとしても、得られた複数の撮影画像同士の関連性が把握されなければならない。つまり撮影した複数の画像を、それぞれの画像同士の位置関係を明らかにして、その位置に応じて貼り合わせを行うことで、一枚の高精細貼り合わせ画像を生成することが求められる。   When acquiring a planar image with a high lateral resolution, the shooting range to be shot at a time is narrowed, that is, shooting is performed with a narrow angle of view, due to problems such as optical aberration of the apparatus itself and longer shooting time. For this reason, in order to obtain information necessary for diagnosis, examination, etc., it is necessary to take a plurality of images with a narrow angle of view when the angle of view is insufficient. In addition, even when the image is not a high-magnification image, when a local region of the subject's eye is imaged, the image may be captured a plurality of times within a predetermined range in order to grasp the whole. However, even if a region required for diagnosis or examination is photographed, it is necessary to grasp the relevance between a plurality of photographed images obtained. That is, it is required to generate a single high-definition composite image by clarifying the positional relationship between the captured images and combining them according to the positions.

このような課題を解決するために、特許文献1では、広画角な画像を得るSLO装置と狭画角であるが高解像度な画像を得るSLO装置とを組み合わせた複合装置が提案されている。また、被検眼の所望の位置を撮影する場合、被検眼を固視するための固視灯が用いられている。特許文献2においては、被検眼の視度に応じて固視灯の表示位置を調整し、眼底の所望の位置の平面画像を取得することなどが試みられている。   In order to solve such a problem, Patent Document 1 proposes a composite device that combines an SLO device that obtains a wide-angle image and an SLO device that obtains a narrow-angle but high-resolution image. . Further, when photographing a desired position of the eye to be examined, a fixation lamp for fixing the eye to be examined is used. In Patent Document 2, attempts have been made to adjust the display position of the fixation lamp according to the diopter of the eye to be examined and obtain a planar image of a desired position of the fundus.

特開2010−259543号公報JP 2010-259543 A 特開2013−169332号公報JP 2013-169332 A

R. Szeliski, Image alignment and stitching: a tutorial, Tech. Rep. MSR−TR−2004−92, Microsoft Research, December 2004.R. Szeliski, Image alignment and stitching: a tutorial, Tech. Rep. MSR-TR-2004-92, Microsoft Research, December 2004.

複数画像の位置合わせを行い、貼り合わせ画像を作成するのは一般的な手法である(非特許文献1)。しかし、眼底の狭画角の高精細画像等に検知できる特徴が、視細胞や毛細血管など非常に小さな構造物である場合、それらは広画角画像では解像できないことが起こり得る。このため、位置合わせのためのマッチングの精度および成功率を向上させるには、画像内に存在する構造物がはっきり写っていることが求められるため、低解像度である広画角画像の画質を十分確保することが重要である。   It is a common technique to align a plurality of images and create a combined image (Non-Patent Document 1). However, if the features that can be detected in a high-definition image with a narrow angle of view of the fundus are very small structures such as photoreceptor cells and capillaries, they may not be resolved with a wide-angle image. For this reason, in order to improve the matching accuracy and success rate for alignment, it is required that the structures existing in the image are clearly visible, so that the image quality of the low-resolution wide-angle image is sufficient. It is important to ensure.

以上のことから、複数画像の位置合わせを行い、貼り合わせ画像を生成する眼科装置において、貼り合わせ画像作成に適した基準画像を設定することが求められる。これによって、高精細画像の狭画角画像を含む複数の画像について、位置ずれを正しく検出した上でこれらを貼り合せることが可能となる。   From the above, it is required to set a reference image suitable for creating a composite image in an ophthalmologic apparatus that aligns a plurality of images and generates a composite image. As a result, it is possible to paste a plurality of images including a narrow-angle image of a high-definition image after correctly detecting misalignment.

本発明はこのような状況に鑑みて為されたものであって、複数の画角で撮影した眼部画像を貼り合わせ処理の際の個々の画像同士の位置合わせ精度を高めることを可能とする画像処理装置および画像処理方法の提供を目的とする。   The present invention has been made in view of such a situation, and makes it possible to increase the alignment accuracy of individual images at the time of pasting eye images taken at a plurality of angles of view. An object is to provide an image processing apparatus and an image processing method.

前記課題を解決するため、本発明による画像処理装置は、
被検眼の第1の画角の画像を複数取得し、前記被検眼の前記第1の画角より広画角な第2の画角の画像を取得する取得手段と、
前記取得手段により取得された複数の前記第1の画角の画像を表示手段に表示させる表示制御手段と、
前記表示手段に表示された前記複数の第1の画角の画像から1の画像を選択する選択手段と、
前記選択手段により選択された前記第1の画角の画像に対して前記第2の画角の画像の位置合わせを行う位置合わせ手段と、を備えることを特徴とする。
In order to solve the above problems, an image processing apparatus according to the present invention provides:
Obtaining means for obtaining a plurality of images of a first angle of view of the eye to be examined, and obtaining an image of a second angle of view wider than the first angle of view of the eye to be examined;
Display control means for displaying a plurality of images of the first angle of view acquired by the acquisition means on a display means;
Selecting means for selecting one image from the plurality of images of the first angle of view displayed on the display means;
Alignment means for aligning the image of the second angle of view with respect to the image of the first angle of view selected by the selection means.

本発明によれば、複数の画角で撮影した眼部画像を貼り合わせ処理の際の位置合わせ精度を向上することができる。   ADVANTAGE OF THE INVENTION According to this invention, the alignment precision in the case of the bonding process of the eye part image image | photographed with the several view angle can be improved.

本発明の実施例1に係る画像生成装置10の機能構成を示すブロック図である。It is a block diagram which shows the function structure of the image generation apparatus 10 which concerns on Example 1 of this invention. 本発明の実施例1に係る補償光学SLO装置の構成を示す模式図である。It is a schematic diagram which shows the structure of the adaptive optics SLO apparatus which concerns on Example 1 of this invention. 本発明の実施例1に係る基準画像選択メニューのGUI画面例を示した図である。It is the figure which showed the example of a GUI screen of the reference | standard image selection menu which concerns on Example 1 of this invention. 本発明の実施例1に係る基準画像選択メニューのGUI画面の別の例を示した図である。It is the figure which showed another example of the GUI screen of the reference | standard image selection menu which concerns on Example 1 of this invention. 本発明の実施例1に係る画像生成装置にて行われる貼り合せ画像生成の処理手順を示すフローチャート。5 is a flowchart illustrating a processing procedure for generating a combined image performed by the image generation apparatus according to the first embodiment of the present invention. 基準画像選択メニューにおける、有力候補の印がつけられるGUI画面例を示した図である。It is the figure which showed the example of a GUI screen in which the mark of an influential candidate in the reference | standard image selection menu is marked. 基準画像選択メニューにおける、有力候補の印がつけられるGUI画面の別の例を示した図である。It is the figure which showed another example of the GUI screen in which a strong candidate is marked in the reference | standard image selection menu.

[実施例]
本実施例では、補償光学SLO装置により網膜を平面で撮影した複数の平面画像を取得した後に、それぞれの画像間で位置合わせを行い、基準画像に貼り合わせた合成画像を生成する態様について説明する。ここで網膜の平面画像とは、被検眼を正面から眼底カメラ等で撮影する際に得られる、正面像のことを言う。本実施例に係る装置では、撮影する画角を調整して、網膜の広画角の平面画像(広画角画像:第一の画角の画像)と、狭画角の平面画像(狭画角画像:第二の画角の画像)とを取得する。広画角画像は、網膜の広い領域を全景として取得する。狭画角画像は、広画角で撮影した領域内の一部領域を、高画角画像の解像度より高解像度な画像として必要に応じて、複数箇所で取得する。
[Example]
In the present embodiment, a description will be given of an aspect in which after acquiring a plurality of planar images obtained by photographing the retina with a plane by the adaptive optics SLO device, the respective images are aligned and a composite image that is pasted to the reference image is generated. . Here, the planar image of the retina refers to a front image obtained when the subject's eye is photographed from the front with a fundus camera or the like. In the apparatus according to the present embodiment, a plane image with a wide angle of view of the retina (wide angle image: an image with a first angle of view) and a plane image with a narrow angle of view (narrow image) are adjusted. Corner image: image of the second field angle). The wide field angle image acquires a wide area of the retina as a full view. The narrow-angle image is acquired at a plurality of locations as necessary as partial images within a region imaged at a wide angle of view as a higher-resolution image than the resolution of the high-angle image.

取得した網膜の平面画像において、広画角画像を基準画像として用いる。複数箇所で取得した狭画角画像は、基準画像内の対応する位置に貼りあわせられ、これにより合成画像が生成される。具体的には基準画像と狭画角画像との間で相互の相関を算出して、双方の相対的な位置ずれ量を検出する。その後、この位置ずれ量を考慮した位置合わせ位置合わせ手段により行い、対応する広画角画像の位置に狭画角画像を貼り合わせる。   In the acquired planar image of the retina, a wide angle image is used as a reference image. Narrow field angle images acquired at a plurality of locations are pasted to corresponding positions in the reference image, thereby generating a composite image. Specifically, the correlation between the reference image and the narrow angle image is calculated, and the relative positional deviation amount between them is detected. Thereafter, this is performed by an alignment unit that takes into account the amount of positional deviation, and a narrow field angle image is pasted to the position of the corresponding wide field angle image.

この時、位置合わせ処理のためのベース画像として十分な画質の画像を基準画像とする必要がある。本実施例においては、複数枚の広画角画像の中からユーザが基準画像を選択できる構成となっている。このようにすることで、合成画像の生成処理に適した画像をユーザが選択することが可能となり、位置合わせの精度、および成功率を高めることが可能となる。   At this time, an image having sufficient image quality as a base image for the alignment process needs to be used as the reference image. In this embodiment, the user can select a reference image from a plurality of wide-angle images. By doing in this way, it becomes possible for the user to select an image suitable for the composite image generation process, and it is possible to improve the alignment accuracy and the success rate.

以下、本発明の実施例について、図面を参照して説明する。なお、以下の実施例は特許請求の範囲に関わる本発明を限定するものではなく、また、本実施例で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。   Embodiments of the present invention will be described below with reference to the drawings. The following embodiments do not limit the present invention related to the scope of claims, and all combinations of features described in the embodiments are not necessarily essential to the solution means of the present invention. Absent.

<画像生成装置の構成>
図1は、本実施例に係る画像生成装置10の機能構成を示したブロック図であり、該画像生成装置10は、後述するように図2に概略構成を示す補償光学SLO装置と接続されている。図1に示す画像生成装置10は、信号取得部100、制御部120、記憶部130、画像生成部140、画像処理部150、出力部160、および操作入力部170を有する。画像処理部150は、位置合わせ部151を有する。
<Configuration of Image Generation Device>
FIG. 1 is a block diagram showing a functional configuration of an image generation apparatus 10 according to the present embodiment. The image generation apparatus 10 is connected to an adaptive optics SLO apparatus having a schematic configuration shown in FIG. 2 as will be described later. Yes. An image generation apparatus 10 illustrated in FIG. 1 includes a signal acquisition unit 100, a control unit 120, a storage unit 130, an image generation unit 140, an image processing unit 150, an output unit 160, and an operation input unit 170. The image processing unit 150 includes an alignment unit 151.

信号取得部100は、補償光学SLO装置から、網膜からの反射信号や画像生成に必要な情報を取得する。取得した情報は制御部120を通じて記憶部130に記憶される。画像生成部140は、取得した情報を用いて反射信号を画像化する。そして生成した画像を用いて、位置合わせ部151が順次位置合わせと、画像貼り合わせを行う。このようにして画像処理部150が演算を行い、合成画像を生成する。出力部160は、生成した画像を不図示のモニタ等に出力する。操作入力部170は、マウスやボタンなどに代表されるユーザによる入力手段であり、例えば後述する基準画像の選択を行う際に用いられる。   The signal acquisition unit 100 acquires a reflection signal from the retina and information necessary for image generation from the adaptive optics SLO device. The acquired information is stored in the storage unit 130 through the control unit 120. The image generation unit 140 images the reflected signal using the acquired information. Then, using the generated image, the alignment unit 151 sequentially performs alignment and image bonding. In this way, the image processing unit 150 performs an operation to generate a composite image. The output unit 160 outputs the generated image to a monitor (not shown) or the like. The operation input unit 170 is an input means by a user typified by a mouse or a button, and is used, for example, when selecting a reference image to be described later.

次に図2を用いて補償光学系を備えたSLO装置の構成を説明する。測定光とする光を発する光源201として、本実施例ではSLD光源(Super Luminescent Diode)を用いた。なお、本実施例では撮影と波面測定のための光源を共用しているが、それぞれを別光源とし、光路の途中で合波する構成としても良い。光源201から照射された光は、単一モード光ファイバー202を通って、コリメータ203により、平行な測定光205として照射される。照射された測定光205はビームスプリッタからなる光分割部204を透過し、収差補正のための補償光学系に導光される。   Next, the configuration of the SLO apparatus including the adaptive optics system will be described with reference to FIG. In this embodiment, an SLD light source (Super Luminescent Diode) is used as the light source 201 that emits light as measurement light. In the present embodiment, light sources for photographing and wavefront measurement are shared, but each may be a separate light source and combined in the middle of the optical path. The light emitted from the light source 201 passes through the single mode optical fiber 202 and is irradiated as parallel measurement light 205 by the collimator 203. The irradiated measurement light 205 is transmitted through a light splitting unit 204 formed of a beam splitter and guided to an adaptive optics system for aberration correction.

補償光学系は、光分割部206、波面センサ215、波面補正デバイス208および、それらに導光するための反射ミラー207−1〜4から構成される。ここで、反射ミラー207−1〜4は、少なくとも眼211の瞳と波面センサ215および波面補正デバイス208とが光学的に共役関係になるように設置されている。また、光分割部206として、本実施例ではビームスプリッタを用い、波面補正デバイス208として液晶素子を用いた空間位相変調器を用いる。なお、波面補正デバイスとして可変形状ミラーを用いる構成としても良い。   The compensation optical system includes a light splitting unit 206, a wavefront sensor 215, a wavefront correction device 208, and reflection mirrors 207-1 to 207-4 for guiding them. Here, the reflection mirrors 207-1 to 207-4 are installed so that at least the pupil of the eye 211, the wavefront sensor 215, and the wavefront correction device 208 are optically conjugate. In this embodiment, a beam splitter is used as the light splitting unit 206, and a spatial phase modulator using a liquid crystal element is used as the wavefront correction device 208. In addition, it is good also as a structure which uses a deformable mirror as a wavefront correction device.

補償光学系を通過した光は、走査光学系209によって、1次元もしくは2次元に眼211の眼底上で走査される。走査光学系209として、本実施例では主走査用(眼底における水平方向)と副走査用(眼底における垂直方向)とに2つのガルバノスキャナを用いた。しかし、より高速な撮影のために、走査光学系209の主走査側に共振スキャナを用いても良い。このとき、主副走査光学系による眼底における走査幅を変えることで、走査範囲つまり画角を変化させることができる。   The light that has passed through the compensation optical system is scanned on the fundus of the eye 211 in one or two dimensions by the scanning optical system 209. As the scanning optical system 209, two galvanometer scanners are used in this embodiment for main scanning (horizontal direction on the fundus) and sub-scanning (vertical direction on the fundus). However, a resonant scanner may be used on the main scanning side of the scanning optical system 209 for higher-speed shooting. At this time, the scanning range, that is, the angle of view can be changed by changing the scanning width of the fundus by the main / sub scanning optical system.

走査光学系209で走査された測定光205は、対物レンズ210−1および210−2を通して眼211に照射される。眼211に照射された測定光205は眼底で反射もしくは散乱される。対物レンズ210−1および210−2の位置を調整することによって、眼211の視度にあわせて測定光205の最適な位置に照射を行うことが可能となる。なお、本実施例では対物レンズを用いたが、これを球面ミラー等で構成しても良い。眼211の眼底の網膜から反射もしくは散乱された反射散乱光(戻り光)は、入射した時と同様の経路を逆向きに進行し、光分割部206によって一部は波面センサ215に反射され、光線の波面を測定するために用いられる。   The measuring light 205 scanned by the scanning optical system 209 is irradiated to the eye 211 through the objective lenses 210-1 and 210-2. The measurement light 205 irradiated to the eye 211 is reflected or scattered by the fundus. By adjusting the positions of the objective lenses 210-1 and 210-2, it is possible to irradiate the optimal position of the measuring light 205 in accordance with the diopter of the eye 211. Although the objective lens is used in this embodiment, it may be constituted by a spherical mirror or the like. Reflected scattered light (returned light) reflected or scattered from the retina of the fundus of the eye 211 travels in the reverse direction on the same path as when it was incident, and part of the light is reflected by the wavefront sensor 215 by the light splitting unit 206. Used to measure the wavefront of a ray.

波面センサ215は補償光学制御部216に接続され、受光した戻り光の波面を補償光学制御部216に伝える。波面補正デバイス208も補償光学制御部216に接続されており、補償光学制御部216から指示された測定光及び戻り光の波面を補正するための変調を行う。補償光学制御部216は波面センサ215の測定結果による取得された波面を基に収差のない波面へと補正するような変調量(補正量)を演算し、波面補正デバイス208にそのように変調するように指令する。なお、波面の測定と波面補正デバイス208への指示は繰り返し実行され、常に最適な波面となるようにフィードバック制御が行われる。   The wavefront sensor 215 is connected to the adaptive optics controller 216 and transmits the received wavefront of the return light to the adaptive optics controller 216. The wavefront correction device 208 is also connected to the adaptive optics controller 216 and performs modulation for correcting the wavefronts of the measurement light and the return light instructed from the adaptive optics controller 216. The adaptive optics control unit 216 calculates a modulation amount (correction amount) for correcting to a wavefront having no aberration based on the wavefront acquired from the measurement result of the wavefront sensor 215, and modulates the wavefront correction device 208 as such. To command. Note that the measurement of the wavefront and the instruction to the wavefront correction device 208 are repeatedly executed, and feedback control is performed so that the optimum wavefront is always obtained.

光分割部206を透過した反射散乱光は光分割部204によって一部が反射され、コリメータ212および光ファイバー213を通して光強度センサ214に導光される。光強度センサ214で光はその強度に応じた電気信号に変換され、該電気信号より得られたデータは制御部217によって画像生成装置10へ伝送される。画像生成装置10では、該データを用いて平面画像(動画像もしくは静止画像)を生成する。なお、図2の構成で走査光学系の振り角を大きくし、補償光学制御部216が収差補正を行わないよう指示することによって本実施例における補償光学SLO装置は通常のSLO装置としても動作可能である。即ち当該指示に応じて本実施例における補償光学SLO装置において、広画角なSLO画像を撮影できる。なお、広画角なSLO画像を撮影するための広画角設定モードと、狭画角なSLO画像を撮影するための狭画角設定モードとの選択は、選択のために表示手段に表示されるアイコン等をユーザが選択することにより実行される。   A part of the reflected and scattered light transmitted through the light splitting unit 206 is reflected by the light splitting unit 204 and guided to the light intensity sensor 214 through the collimator 212 and the optical fiber 213. The light intensity sensor 214 converts the light into an electrical signal corresponding to the intensity, and data obtained from the electrical signal is transmitted to the image generation apparatus 10 by the control unit 217. The image generation apparatus 10 generates a planar image (moving image or still image) using the data. In the configuration of FIG. 2, the compensation optical SLO device in this embodiment can also operate as a normal SLO device by increasing the swing angle of the scanning optical system and instructing the compensation optical control unit 216 not to perform aberration correction. It is. That is, in response to the instruction, the adaptive optics SLO apparatus according to the present embodiment can capture a wide-angle SLO image. The selection between the wide angle setting mode for photographing a wide angle SLO image and the narrow angle setting mode for photographing a narrow angle SLO image is displayed on the display means for selection. This is executed when the user selects an icon or the like.

また、固視微動と呼ばれる不随意的な眼球運動や固視不良による眼球運動あるいは顔の動きに伴う眼の動きの影響を軽減するために、眼の動きを追尾(トラッキング)する場合がある。眼底の動きの計測には、画像生成装置によって生成した平面画像を用いて、不図示の計算部によって特徴を持った小領域の画像であるテンプレート画像を抽出し、テンプレート画像と最も似た部位を探すパターン・マッチングによって眼底の動きを計測する方法がある。更に、光学系内にスキャナを設置し、制御部をスキャナと計算部を接続する位置に設置することで、測定光の眼底上の照射位置をスキャナによって計測した眼底の動きに追従させることができる。これによって、1動画像内の各フレーム間の撮影位置がずれることを軽減できる。   In addition, in order to reduce the influence of involuntary eye movement called fixation micromotion, eye movement caused by poor fixation, or eye movement caused by face movement, eye movement may be tracked (tracked). For the measurement of the fundus movement, a planar image generated by the image generation device is used to extract a template image that is a small region image having a feature by a calculation unit (not shown), and a portion most similar to the template image is extracted. There is a method of measuring the movement of the fundus by pattern matching to be searched. Furthermore, by installing a scanner in the optical system and installing the control unit at a position where the scanner and the calculation unit are connected, the irradiation position of the measurement light on the fundus can be made to follow the movement of the fundus measured by the scanner. . Thereby, it is possible to reduce the shift of the shooting position between the frames in one moving image.

以上述べたように、本実施例においては、一系統の走査光学系の走査範囲を変えることで複数の画角の画像の撮影を実現する構成とした。しかし本発明の適用対象はこれに限定されず、広画角用と狭画角用とに、それぞれ独立の異なる走査光学系を備える構成としても良い。   As described above, in the present embodiment, a configuration is realized in which images of a plurality of angles of view are realized by changing the scanning range of one scanning optical system. However, the application target of the present invention is not limited to this, and a configuration may be adopted in which different scanning optical systems are provided for each of a wide field angle and a narrow field angle.

<撮影の流れ>
次に、本実施例に係る画像生成装置を使用した場合の、実際の撮影の流れについて説明する。
<Flow of shooting>
Next, an actual photographing flow when the image generating apparatus according to the present embodiment is used will be described.

まずSLO装置において、広画角設定で患者の眼底の全景を撮影する。この広画角画像は複数回撮影される。その中から、どの画像を基準画像にするかは、操作入力部170を介してユーザによって選択される。このときの基準画像の選択方法についての詳細は、後述する。   First, in the SLO apparatus, a whole view of the fundus of the patient is photographed with a wide angle of view setting. This wide angle image is taken a plurality of times. Among them, which image is set as the reference image is selected by the user via the operation input unit 170. Details of the reference image selection method at this time will be described later.

次に、狭画角設定で、網膜の高倍率(狭画角)撮影を行う。ここでは、網膜の状況について詳細に撮影したい部分を複数箇所撮影する。画像生成装置10では、狭画角撮影を行う毎に、上述の基準画像を下地画像として、狭画角画像を対応する位置に合成(重畳)した、合成画像を生成、表示する。このとき狭画角画像が貼り合わせられる位置は、基準画像内の高倍率撮影を行った位置に対応する位置を画像処理により算出し、画像合成処理するものであって、本処理の詳細については後述する。   Next, photographing with a high magnification (narrow field angle) of the retina is performed with a narrow field angle setting. Here, a plurality of portions are photographed where the detailed retina situation is desired. The image generation apparatus 10 generates and displays a composite image obtained by combining (superimposing) a narrow angle of view image at a corresponding position with the above-described reference image as a base image every time narrow angle of view photographing is performed. At this time, the position at which the narrow-angle image is pasted is a position corresponding to the position where the high-magnification shooting was performed in the reference image is calculated by image processing, and image synthesis processing is performed. It will be described later.

<基準画像の選択>
ここでは、基準画像の選択方法について説明する。
まず、ユーザによって基準画像選択メニューが起動される。基準画像選択メニューの起動方法は、押しボタンのようなハードウェアキーであっても良いし、タッチパネルに表示されたGUIのメニューボタンであっても良い。或いは、GUIメニューをマウスやトラックボールに代表されるHIDによって選択する方法であっても良い。
<Selection of reference image>
Here, a reference image selection method will be described.
First, the reference image selection menu is activated by the user. The activation method of the reference image selection menu may be a hardware key such as a push button, or may be a GUI menu button displayed on the touch panel. Alternatively, a method of selecting the GUI menu by an HID represented by a mouse or a trackball may be used.

基準画像選択メニューが起動されると、まず、基準画像の候補として、広画角設定で撮影された画像を検索し、検査対象の被検眼より得られている広画角画像を一覧表示する。基準画像選択メニューの画面表示の一例を図3に示す。   When the reference image selection menu is activated, first, images taken with a wide angle of view setting are searched as candidates for the reference image, and a list of wide angle images obtained from the eye to be examined is displayed. An example of the screen display of the reference image selection menu is shown in FIG.

図3に示すように、一覧表示された基準画像の候補(図3では301領域に列挙されている画像群)の中から、どの画像を基準画像にするか、ユーザがカーソル操作によって選択し、決定ボタン302で指定する。ここまでの、選択メニューの起動および基準画像の選択は、操作入力部170を介して実行される。ユーザによって基準画像が選択されると、画像生成装置10の記憶部130に、基準画像として選択された広画角画像を特定する情報、例えば画像IDが保存される。   As shown in FIG. 3, the user selects which image is the reference image from among the reference image candidates displayed in a list (image group listed in the region 301 in FIG. 3) by a cursor operation, It designates with the decision button 302. The activation of the selection menu and the selection of the reference image so far are executed via the operation input unit 170. When the reference image is selected by the user, information for specifying the wide-angle image selected as the reference image, for example, an image ID, is stored in the storage unit 130 of the image generation apparatus 10.

本実施例において、基準画像の候補は、現在撮影中の患者の、現在撮影中の側の眼の、今回の撮影で撮影した広画角画像を一覧表示するものとする。患者の特定については、データ管理のための紐付として、撮影前に患者IDに代表される患者を一意に特定する情報を通常は入力している。よって本実施例では、この患者IDを患者を特定する情報として利用して、基準画像に関する情報を収集する。   In this embodiment, the reference image candidates are displayed as a list of wide-angle images captured by the current photographing of the currently photographing patient's eye. As for identification of a patient, information for uniquely identifying a patient represented by a patient ID is usually input before imaging as a link for data management. Therefore, in the present embodiment, information on the reference image is collected by using this patient ID as information for specifying the patient.

なお、基準画像の候補の選択方法は、本実施例の方式に限らない。たとえば、院内の画像情報データベース内を検索して、同じ患者の過去の画像を収集しても良い。さらに、広画角画像の中には、瞬きの瞬間や固視微動の影響などにより、明らかな失敗が自動検出できるのであれば、これら画像を予め基準画像の候補画像から外しても良い。   Note that the method of selecting a reference image candidate is not limited to the method of this embodiment. For example, past images of the same patient may be collected by searching the in-hospital image information database. Further, in the wide-angle image, if an obvious failure can be automatically detected due to the moment of blinking or the effect of fixational movement, these images may be excluded from the reference image candidate images in advance.

また、本実施例では、基準画像の候補画像はユーザによって任意の記憶手段或いはデータベースから手動で追加することが可能とする。追加方法の一例としては、一般的なウィンドウシステムのように、各種ストレージやデータベースを指定し、且つアイコン表示された広画角画像ファイルを開いて選択する方式、或いはリスト表示された広画角画像のサムネイル画像から選択する方式が考えられる。これにより上述のように自動的に候補画像から外された画像を再度候補画像に編入させたり、過去の撮影画像を手動で編入させるなど、ユーザの多様なニーズに応えることが可能となる。   Further, in this embodiment, the reference image candidate image can be manually added from any storage means or database by the user. As an example of the addition method, as in a general window system, a method of selecting various storages and databases and opening and selecting a wide-angle image file displayed as an icon, or a wide-angle image displayed as a list A method of selecting from the thumbnail images is considered. As a result, it is possible to meet various needs of users, such as automatically transferring images that have been automatically removed from candidate images as described above, and manually transferring past captured images.

ここで、GUIの操作方法については、基準画像の候補が多数あり、一度に表示するにはサムネイル画像が小さくなりすぎる場合も考えられる。この場合は、一画面に複数のサムネイル画像を無理に収めず、スクロール操作により順次表示画像を流しながら閲覧させる所謂携帯用モニタでの表示様式としても良い。また、サムネイル表示では確認しづらい場合に備え、カーソル操作によって一覧表示された候補画像のうちの一つを選択すると、選択された候補画像の拡大画像を別画面(別ウィンドウ)で表示することとしても良い。   Here, regarding the GUI operation method, there may be many reference image candidates, and the thumbnail image may be too small to be displayed at a time. In this case, a display format on a so-called portable monitor may be used in which a plurality of thumbnail images are not forcibly stored on one screen, and the display images are sequentially viewed by scroll operation. In addition, when one of the candidate images displayed as a list is selected by a cursor operation, an enlarged image of the selected candidate image is displayed on a separate screen (a separate window) in case the thumbnail display is difficult to confirm. Also good.

また、本実施例では一覧表示するGUI形式で説明を行ったが、図4に示すように、候補画像を1枚ずつ表示する形式であっても良い。この場合、ユーザは基準画像として適している画像が見つかるまでページ送りボタン401および402で画像切り替え(ページ送り)しながら画像を閲覧できる。候補画像の中から適切だと思う画像が決定できたら、決定ボタン403により基準画像を決定できる。   In the present embodiment, the GUI format for displaying a list has been described. However, as shown in FIG. 4, a format in which candidate images are displayed one by one may be used. In this case, the user can browse images while switching images (page feed) with the page feed buttons 401 and 402 until an image suitable as the reference image is found. When an image that is considered to be appropriate is determined from the candidate images, the reference image can be determined with the determination button 403.

<画像処理装置の処理手順>
次に、図5のフローチャートを参照して、本実施形態の画像生成装置10において行われる合成画像生成の処理手順を説明する。
<Processing procedure of image processing apparatus>
Next, a synthetic image generation processing procedure performed in the image generation apparatus 10 of the present embodiment will be described with reference to the flowchart of FIG.

<ステップS510>
ステップS510において、信号取得部100は、画像生成装置10に接続される補償光学SLO装置から取得された複数の画像または動画の信号情報を取得する。信号情報は、網膜の撮影に用いられるガルバノスキャナ或いは共振スキャナの位置信号、及び撮影によって取得された網膜からの反射信号などである。取得された信号情報は、制御部120を通じて記憶部130に保存される。信号取得部100は、本実施例において、被検眼の第1の画角の画像を複数取得し、且つ被検眼の1の画角より高倍率な或いはより狭い範囲の第2の画角の画像を取得する取得手段を構成する。
<Step S510>
In step S <b> 510, the signal acquisition unit 100 acquires signal information of a plurality of images or moving images acquired from the adaptive optics SLO device connected to the image generation device 10. The signal information includes a position signal of a galvano scanner or a resonant scanner used for photographing the retina, a reflection signal from the retina obtained by photographing, and the like. The acquired signal information is stored in the storage unit 130 through the control unit 120. In this embodiment, the signal acquisition unit 100 acquires a plurality of images of the first angle of view of the eye to be examined, and an image of the second angle of view with a higher magnification or a narrower range than one angle of view of the eye to be examined. The acquisition means for acquiring is configured.

またこのとき、取得された信号情報に付随するハードウェアの制御情報を取得し、制御部120を通じて記憶部130に記憶する。ここで制御情報とは、網膜の反射信号を取得する際にサンプリング周波数やガルバノスキャナの周波数に相当するフレームレート、撮影画角の情報などである。これらの制御情報は、信号情報に付加している撮影情報ファイルに記載されている場合もあれば、信号情報のタグ情報として含まれている場合もある。   At this time, hardware control information accompanying the acquired signal information is acquired and stored in the storage unit 130 through the control unit 120. Here, the control information includes information on a frame rate corresponding to a sampling frequency and a frequency of a galvano scanner, a photographing field angle, and the like when acquiring a retina reflection signal. Such control information may be described in a shooting information file added to signal information, or may be included as tag information of signal information.

<ステップS520>
ステップS520において、画像生成部140は、記憶部130に保存されている補償光学SLO装置により取得された信号情報から、それぞれの画像または動画を生成する。取得された画像または動画は、制御部120を通じて記憶部130に保存される。本実施例では、取得画像または動画は一般的な四角形の形状を取る。
<Step S520>
In step S520, the image generation unit 140 generates each image or moving image from the signal information acquired by the adaptive optics SLO device stored in the storage unit 130. The acquired image or moving image is stored in the storage unit 130 through the control unit 120. In this embodiment, the acquired image or moving image takes a general rectangular shape.

広角或いは狭角の画角設定に違いがあっても、基本的には以上の流れで網膜画像の取得を行っていく。ここで、制御部120は出力部160を介して、表示手段である例えば不図示のモニタに広画角画像を表示させる。制御部120は、本実施例において、複数の広画角画像を表示部に表示させる表示制御手段を構成する。   Even if there is a difference in the wide angle or narrow angle of view setting, the retinal image is basically acquired according to the above flow. Here, the control unit 120 causes the output unit 160 to display a wide-angle image on a monitor (not shown) that is a display unit. In this embodiment, the control unit 120 constitutes display control means for displaying a plurality of wide-angle images on the display unit.

また、モニタに一覧様式、スクロール様式、或いはページめくり様式によって並べて表示された複数の広画角画像は、前述したようにユーザによって閲覧され、どの画像を基準画像として用いるかの選択が為される。選択した結果は、操作入力部170を介して制御部120に伝えられる。本実施例では、操作入力部170においてユーザの指示を受け付ける構成を入力手段とする。また、当該指示、或いは場合によっては画像処理に基づく判断に応じて基準画像を選択する操作入力部170および制御部120からなる構成を、選択手段とする。   Further, as described above, a plurality of wide-angle images displayed side by side in a list style, scroll style, or page turning style on the monitor are browsed by the user, and a selection of which image to use as a reference image is made. . The selected result is transmitted to the control unit 120 via the operation input unit 170. In this embodiment, the operation input unit 170 accepts user instructions as input means. In addition, a configuration including the operation input unit 170 and the control unit 120 that selects the reference image in accordance with the instruction or the determination based on the image processing depending on the case is a selection unit.

以降については、基準画像に対して、取得した網膜画像を位置合わせして貼り合わせ合成画像を生成する手順の説明となる。よって、ステップS530からは広画角画像の取得を終え、基準画像選択後、狭画角画像撮影時の処理について説明する。   In the following, the procedure for generating a combined composite image by aligning the acquired retinal image with respect to the reference image will be described. Therefore, the processing at the time of photographing a narrow angle of view after completing acquisition of a wide angle of view from step S530 and selecting a reference image will be described.

<ステップS530>
ステップS530において、位置合わせ部151は、<基準画像の選択>の節で選択された基準画像、もしくは既に位置合わせと貼り合わせとにより合成済みの画像に対して、狭画角画像の位置合わせを行う。即ち、該位置合わせ部151は、本実施例において、選択手段により選択された広画角画像に対して狭画角画像の位置合わせを行う位置合わせ手段を構成する。
<Step S530>
In step S530, the alignment unit 151 aligns the narrow angle image with respect to the reference image selected in the section <Selection of reference image> or an image that has already been synthesized by alignment and pasting. Do. That is, in the present embodiment, the alignment unit 151 constitutes an alignment unit that aligns the narrow angle image with respect to the wide angle image selected by the selection unit.

この、基準画像若しくは合成済み画像に対して狭画角画像の位置合わせを行う方法は、任意の公知の方法を用いる。   Any known method can be used as the method for aligning the narrow-angle image with respect to the reference image or the synthesized image.

たとえば、本実施例では、平行移動によってシフトした二つの画像の重なる領域のピクセル値を用いて、正規化相互相関を計算する。このようにして求めた相関関数と粗位置合わせの位置情報とを制御部120を通じて記憶部130に保存する。他の方法としては、同様のピクセル値を用いて、SAD(輝度値の差の絶対値の合計)やSSD(輝度値の差の絶対値の合計)など、一般的なパターン・マッチングの手法を用いても良い。また、より一般的なPOC(位相限定相関法)を用いても良い。   For example, in the present embodiment, the normalized cross-correlation is calculated using the pixel value of the overlapping region of two images shifted by translation. The correlation function thus obtained and the position information for coarse alignment are stored in the storage unit 130 through the control unit 120. As another method, a general pattern matching method such as SAD (sum of absolute values of differences in luminance values) or SSD (sum of absolute values of differences in luminance values) is used by using similar pixel values. It may be used. A more general POC (phase only correlation method) may be used.

<ステップS540>
ステップS540においては、ステップS530で算出された、基準画像と狭画角画像との位置合わせ位置情報に基づき、基準画像または合成済み画像に対し、狭画角画像の貼り合わせによる画像の合成を実行する。このようにして生成された合成画像は、制御部120を通じて記憶部130に記録され、さらに網膜のパノラマ画像として出力部160を通じてモニタ等に表示される。
以上の構成により得られる効果について以下に説明する。
<Step S540>
In step S540, based on the alignment position information between the reference image and the narrow angle image calculated in step S530, the image is synthesized by combining the narrow angle image with the reference image or the synthesized image. To do. The composite image generated in this way is recorded in the storage unit 130 through the control unit 120, and further displayed on a monitor or the like through the output unit 160 as a panoramic image of the retina.
The effects obtained by the above configuration will be described below.

前述したように、位置合わせのためのマッチングの精度および成功率を向上させるには、低解像度である広画角画像の画質を十分確保することが重要である。広画角画像の画質を低下させる原因としては、上述した例の他に撮影中の固視微動による画像ブレや、縮瞳で測定光が十分に眼底に届けられないことによるコントラスト不足、調節微動によるピントぼけなどがある。   As described above, in order to improve the matching accuracy and success rate for alignment, it is important to sufficiently ensure the image quality of a wide-angle image having a low resolution. In addition to the above-mentioned examples, the causes of lowering the image quality of wide-angle images include image blur due to fixation fluctuation during shooting, insufficient contrast due to insufficient measurement light being delivered to the fundus due to miosis, and adjustment fine movement. There is out of focus by.

広画角画像は狭画角画像よりも画像取得時間が長くかかることが多く、上述した問題による画質低下や、中心窩付近のように高解像でないと解像できない微細領域を含むなどして、部分的に低画質となることがある。   Wide-angle images often require longer image acquisition times than narrow-angle images, including image quality degradation due to the above-mentioned problems, and including fine areas that can only be resolved at high resolution, such as near the fovea. In some cases, the image quality may be low.

一方で画像位置合わせ処理に関しては、狭画角で画像取得する位置に対応する部分の画質が広画角画像において確保されていれば、その他に部分的に画質が悪い領域が存在しても問題ない場合がある。例えば、ユーザが実際に画像を見て判断することで、部分的に低画質な部分が例えば中心窩のようにもともと解像しない領域であることが分かる。また、広画角画像において部分的に画質低下が起きていても、この画質の低い部分が必要な部分かどうかで該広画角画像の利用可否を判断できる。   On the other hand, regarding the image alignment processing, if the image quality of the portion corresponding to the position where the image is acquired with a narrow angle of view is ensured in the wide angle of view image, there is a problem even if there is a region where the image quality is partially poor. There may not be. For example, when the user actually sees and judges the image, it can be seen that a part with low image quality is an area that is not resolved, such as the fovea. Further, even if the image quality partially deteriorates in the wide-angle image, whether or not the wide-angle image can be used can be determined based on whether or not the low-image quality portion is a necessary portion.

以上述べたように、狭画角画像の貼り合せに際しては、位置合わせのための基準画像の適否判定は必ずしも自動化が容易ではない中で、いかに貼り合わせ画像作成に適した基準画像を設定するかが重要であった。本実施例のように構成することで、ユーザが基準画像として適切な広画角画像を判別して設定することができる。従って、複数の画角で撮影した眼部画像を貼り合わせ処理の際の位置ずれ検出の失敗を軽減することができる。   As described above, when pasting narrow-angle images, it is not always easy to determine the suitability of the reference image for positioning. How to set the reference image suitable for creating a stitched image Was important. By configuring as in the present embodiment, the user can determine and set an appropriate wide-angle image as a reference image. Therefore, it is possible to reduce the misalignment detection failure at the time of pasting the eye image captured at a plurality of angles of view.

(その他の実施形態:基準画像選択のタイミング)
上述した実施例では、撮影の流れで、広画角画像を複数回取得後、基準画像選択メニューにより基準画像を選択し、その後、狭画角画像撮影を行うフローとなっていたが、撮影の流れはこれに限定しない。
(Other Embodiments: Timing for Selecting Reference Image)
In the above-described embodiment, the flow of shooting is a flow in which a wide-angle image is acquired a plurality of times, a reference image is selected from a reference image selection menu, and then a narrow-angle image shooting is performed. The flow is not limited to this.

基準画像選択メニューは任意のタイミングで呼び出すことが可能であり、狭画角画像撮影を行っている最中にも基準画像選択を行うことが可能である。よって、撮影時は、ユーザによって基準画像が設定されていなくても、その時点で最新の広画角画像を仮の基準画像として貼り合わせ合成処理を行う。この場合、撮影後に改めてユーザにより基準画像選択メニューが呼び出され、基準画像が設定された時点で、新たに設定された基準画像に基づいて貼り合わせ合成画像を生成しなおすものとする。即ち、選択された基準画像が、複数の広画角画像のうち他の画像に変更された場合、位置合わせ手段は変更後の基準画像に対して狭画角画像の位置合わせを行う。   The reference image selection menu can be called at an arbitrary timing, and the reference image can be selected even during narrow-angle imaging. Therefore, at the time of shooting, even if the reference image is not set by the user, the pasting and combining process is performed using the latest wide-angle image as a temporary reference image at that time. In this case, when the reference image selection menu is called again by the user after shooting and the reference image is set, a combined composite image is generated again based on the newly set reference image. That is, when the selected reference image is changed to another image among the plurality of wide-angle images, the alignment unit aligns the narrow-angle image with respect to the changed reference image.

さらにこの時、最後に貼り合わせ合成画像を生成したときの、各狭画角画像と基準画像との位置ずれ情報とを保存しておき、これを初期値として新たに設定された基準画像との位置ずれ検出を行う。即ち、変更前の基準画像に対して位置合わせされた狭画角画像の位置を用いて変更後の基準画像に対して該狭画角画像の位置合わせを行うこととしている。   Further, at this time, the positional deviation information between each narrow field angle image and the reference image at the time of the last generation of the combined composite image is stored, and this is used as an initial value for the newly set reference image. Misalignment detection is performed. That is, the position of the narrow angle image is aligned with the reference image after change using the position of the narrow angle image aligned with the reference image before change.

このようにすることで、位置ずれ検出の計算にかかる時間を節約できる可能性が高まる。また、複数の狭画角画像取得の途中で、基準画像が再選定された場合は、貼り合わせ合成処理を最初からやり直す方式でも良い。   By doing so, there is an increased possibility of saving the time required for calculation of misregistration detection. In addition, when a reference image is selected again during acquisition of a plurality of narrow angle images, a method of restarting the pasting and combining process from the beginning may be used.

(その他の実施形態:基準画像の選択画面)
上述した実施例では、基準画像の候補画像を選択するGUI画面を説明したが、基準画像が多い場合は、ユーザにとって好ましいものにチェックを付けることが可能であれば、利便性が高まる。先の実施例でも説明したように、基準画像が多い場合は、一部を表示してスクロール表示する方法や、ページ送りのようにして1枚ずつ確認する表示方法が考えられる。このとき、好ましい画像が見つかっても、まだ見ていない画像のなかにより良い画像がある可能性もあることから、この画像を一端とりあえず有力候補として記憶しておく必要がある。
(Other Embodiments: Reference Image Selection Screen)
In the above-described embodiments, the GUI screen for selecting the candidate images for the reference image has been described. However, when there are many reference images, convenience can be improved if it is possible to check what is preferable for the user. As described in the previous embodiment, when there are a large number of reference images, there are a method of displaying a part and scrolling, or a display method of checking one by one like page turning. At this time, even if a preferable image is found, there is a possibility that there is a better image among the images that have not been viewed yet. Therefore, it is necessary to store this image as a strong candidate for the time being.

このような場合において、多くの候補画像の中から再度この有力候補であった画像を探し出して再検討することは普通困難である。対策として、この有力候補画像には何らかの印がつけられると便利である。本実施例は、こういった考えから、各候補画像近くにチェックマークをつけることができるGUIを構成する。図6は、本実施例における基準画像の候補画像のスクロール表示GUIの一例である。図中、表示画面上にはチェックボックス610が配置され、チェックマークが付けられるようになっている。またソートボタン620を備えており、チェックマークがついているものだけを一覧表示することができるようになっている。これにより、有力候補画像を再検討する際の利便性がさらに高まる。また、本実施例では、ソートボタン620はトグルボタンとなっており、もう一度押すとソート表示が解除される。   In such a case, it is usually difficult to find and review the image that was a strong candidate again from many candidate images. As a countermeasure, it is convenient if this leading candidate image is marked in some way. In this embodiment, a GUI that can add a check mark near each candidate image is configured based on this idea. FIG. 6 is an example of the scroll display GUI of the reference image candidate images in the present embodiment. In the figure, a check box 610 is arranged on the display screen so that a check mark is added. Also, a sort button 620 is provided so that only items with a check mark can be displayed in a list. Thereby, the convenience at the time of reexamining a leading candidate image further increases. In this embodiment, the sort button 620 is a toggle button, and when it is pressed again, the sort display is canceled.

図7は、本実施例における基準画像の候補画像のページ送り表示GUIの一例である。図7に例示されるGUIも同様に、チェックボックス710を備えており、チェックマークが付けられるようになっている。なお、該GUIもソートボタンを備えても良い。この場合、普段は候補画像1枚ずつのページ送り表示だが、ソートボタンを押すことで、チェックマークがついた有力候補画像の一覧表示に切り替わるようにすることで、有力候補画像の再検討の際の利便性が高まる。なお、以上の実施例では、基準画像として選択される候補であるか否かを示す表示形態としてチェックボックスを例示したが、候補であることが確認できれば当該形態に限定されない。後で確認可能なマークを付記する様式であれば公知の種々の様式を適用可能である。   FIG. 7 is an example of a page feed display GUI of the candidate image of the reference image in the present embodiment. Similarly, the GUI illustrated in FIG. 7 includes a check box 710 so that a check mark can be attached. The GUI may also include a sort button. In this case, the page-by-page display is usually performed one by one for each candidate image, but by pressing the sort button, the list is switched to the list of leading candidate images with a check mark. Convenience increases. In the above embodiment, a check box is exemplified as a display form indicating whether or not a candidate is selected as a reference image. However, the present invention is not limited to this form as long as it can be confirmed as a candidate. Various known modes can be applied as long as marks that can be confirmed later are added.

(その他の実施形態:システム構成)
上述した実施例では、複数の画角で撮影した眼部画像を取得する取得手段として、眼科検査装置で撮影する例を示したが、取得手段はこれに限定しない。たとえば、画像生成装置と患者の網膜の撮影データを格納した医用データベースがLANで接続されていて、ネットワーク経由で画像を取得する方式でも良い。
(Other embodiment: System configuration)
In the embodiment described above, an example in which an ophthalmic examination apparatus is used as an acquisition unit that acquires eye part images captured at a plurality of angles of view has been described, but the acquisition unit is not limited thereto. For example, a system in which an image generation apparatus and a medical database storing imaging data of a patient's retina are connected via a LAN and an image is acquired via a network may be used.

本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。   The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.

10 画像生成装置
100 信号取得部
120 制御部
130 記憶部
140 画像生成部
150 画像処理部
151 位置合わせ部
160 出力部
170 操作入力部
DESCRIPTION OF SYMBOLS 10 Image generation apparatus 100 Signal acquisition part 120 Control part 130 Storage part 140 Image generation part 150 Image processing part 151 Position alignment part 160 Output part 170 Operation input part

Claims (11)

被検眼の第1の画角の画像を複数取得し、前記被検眼の前記第1の画角より広画角な第2の画角の画像を取得する取得手段と、
前記取得手段により取得された複数の前記第1の画角の画像を表示手段に表示させる表示制御手段と、
前記表示手段に表示された前記複数の第1の画角の画像から1の画像を選択する選択手段と、
前記選択手段により選択された前記第1の画角の画像に対して前記第2の画角の画像の位置合わせを行う位置合わせ手段と、を備えることを特徴とする画像生成装置。
Obtaining means for obtaining a plurality of images of a first angle of view of the eye to be examined, and obtaining an image of a second angle of view wider than the first angle of view of the eye to be examined;
Display control means for displaying a plurality of images of the first angle of view acquired by the acquisition means on a display means;
Selecting means for selecting one image from the plurality of images of the first angle of view displayed on the display means;
An image generation apparatus comprising: an alignment unit configured to align the image of the second field angle with respect to the image of the first field angle selected by the selection unit.
前記表示制御手段は、前記表示手段に対して前記複数の第1の画角の画像を並べて表示させることを特徴とする請求項1に記載の画像生成装置。   The image generation apparatus according to claim 1, wherein the display control unit causes the display unit to display the plurality of images having the first angle of view side by side. 前記表示制御手段は、前記表示手段に対して前記複数の第1の画角の画像を一覧表示させることを特徴とする請求項1に記載の画像生成装置。   The image generation apparatus according to claim 1, wherein the display control unit causes the display unit to display a list of images having the plurality of first angles of view. 前記表示制御手段は、前記表示手段に対して前記複数の第1の画角の画像を一枚ずつ表示させることを特徴とする請求項1に記載の画像生成装置。   The image generation apparatus according to claim 1, wherein the display control unit causes the display unit to display the plurality of images having the first angle of view one by one. 前記選択手段により選択された前記第1の画角の画像が、前記複数の第1の画角の画像のうち他の画像に変更された場合、前記位置合わせ手段は変更後の前記第1の画角の画像に対して前記第2の画角の画像の位置合わせを行うことを特徴とする請求項1乃至4の何れか一項に記載の画像生成装置。   When the image of the first angle of view selected by the selection unit is changed to another image among the plurality of images of the first angle of view, the alignment unit sets the first image after the change. 5. The image generation apparatus according to claim 1, wherein the image of the second angle of view is aligned with the image of the angle of view. 前記位置合わせ手段は、変更前の前記第1の画角の画像に対して位置合わせされた前記第2の画角の画像の位置を用いて変更後の前記第1の画角の画像に対して前記第2の画角の画像の位置合わせを行うことを特徴とする請求項5に記載の画像生成装置。   The alignment means uses the position of the second field angle image aligned with the first field angle image before the change to the image with the first field angle after the change. The image generating apparatus according to claim 5, wherein the image of the second angle of view is aligned. 前記位置合わせ手段は、変更前の前記第1の画角の画像に対して位置合わせされた前記第2の画角の画像の位置を初期値として変更後の前記第1の画角の画像に対して前記第2の画角の画像の位置合わせを行うことを特徴とする請求項5または6に記載の画像生成装置。   The alignment means uses the position of the second field angle image aligned with the first field angle image before the change as an initial value to change the first field angle image after the change. The image generating apparatus according to claim 5, wherein the image of the second angle of view is aligned with respect to the image generating apparatus. 前記表示制御手段は、前記表示手段に表示された前記第1の画角の画像が前記選択手段に選択される候補であるか否かを示す表示形態を前記第1の画角の画像と共に前記表示手段に表示させることを特徴とする請求項1乃至7の何れか一項に記載の画像生成装置。   The display control means displays a display form indicating whether or not the image of the first angle of view displayed on the display means is a candidate to be selected by the selection means together with the image of the first angle of view. The image generating apparatus according to claim 1, wherein the image generating apparatus displays the image on a display unit. 前記表示手段に表示される前記複数の第1の画角の画像において選択する画像を前記選択手段に指示する入力手段を有することを特徴とする請求項1乃至8の何れか一項に記載の画像生成装置。   9. The input device according to claim 1, further comprising an input unit that instructs the selection unit to select an image to be selected from the plurality of images having the first angle of view displayed on the display unit. Image generation device. 被検眼の第1の画角の画像を複数取得し、前記被検眼の前記第1の画角より広画角な第2の画角の画像を取得する取得工程と、
前記取得工程において取得された複数の前記第1の画角の画像を表示部に並べて表示させる表示制御工程と、
前記表示部に表示された前記複数の第1の画角の画像から1の画像を選択させる選択工程と、
前記選択工程において選択された前記第1の画角の画像に対して前記第2の画角の画像の位置合わせを行う位置合わせ工程と、を備えることを特徴とする画像生成方法。
Obtaining a plurality of images of a first angle of view of the eye to be examined, and obtaining an image of a second angle of view wider than the first angle of view of the eye to be examined;
A display control step of displaying a plurality of images of the first angle of view acquired in the acquisition step side by side on a display unit;
A selection step of selecting one image from the plurality of images of the first angle of view displayed on the display unit;
An image generation method comprising: an alignment step of aligning the image of the second angle of view with respect to the image of the first angle of view selected in the selection step.
請求項10に記載の画像生成方法をコンピュータに実行させることを特徴とするプログラム。   A program for causing a computer to execute the image generation method according to claim 10.
JP2015136956A 2015-07-08 2015-07-08 Image generation apparatus and image generation method Active JP6652284B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015136956A JP6652284B2 (en) 2015-07-08 2015-07-08 Image generation apparatus and image generation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015136956A JP6652284B2 (en) 2015-07-08 2015-07-08 Image generation apparatus and image generation method

Publications (3)

Publication Number Publication Date
JP2017018202A true JP2017018202A (en) 2017-01-26
JP2017018202A5 JP2017018202A5 (en) 2018-08-16
JP6652284B2 JP6652284B2 (en) 2020-02-19

Family

ID=57888848

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015136956A Active JP6652284B2 (en) 2015-07-08 2015-07-08 Image generation apparatus and image generation method

Country Status (1)

Country Link
JP (1) JP6652284B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200178797A1 (en) * 2017-04-25 2020-06-11 Imagine Eyes System and method for multi-scale retinal imaging
JP2020168371A (en) * 2019-04-04 2020-10-15 オプトス ピーエルシー Medical imaging apparatus
US20220222970A1 (en) * 2019-05-23 2022-07-14 Haag-Streit Ag Ophthalmologic device with image storage

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009112617A (en) * 2007-11-08 2009-05-28 Kowa Co Panoramic fundus image-compositing apparatus and method
JP2009217828A (en) * 2009-04-10 2009-09-24 Konica Minolta Holdings Inc Image retrieval device
JP2011097998A (en) * 2009-11-04 2011-05-19 Nidek Co Ltd Ophthalmic photographing apparatus
WO2012026597A1 (en) * 2010-08-27 2012-03-01 ソニー株式会社 Image processing apparatus and method
JP2012213513A (en) * 2011-03-31 2012-11-08 Nidek Co Ltd Ophthalmic photographing apparatus
JP2013102457A (en) * 2012-12-18 2013-05-23 Namco Bandai Games Inc Program, information storage medium, photograph printer, and photograph printing method
WO2014103501A1 (en) * 2012-12-28 2014-07-03 興和株式会社 Image processing device, image processing method, image processing program, and recording medium storing said program
JP2014128366A (en) * 2012-12-28 2014-07-10 Canon Inc Ophthalmology apparatus and positioning method
JP2014198224A (en) * 2012-12-28 2014-10-23 キヤノン株式会社 Image processor and image processing method
JP2015008839A (en) * 2013-06-27 2015-01-19 株式会社ニデック Image processing device and image processing program

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009112617A (en) * 2007-11-08 2009-05-28 Kowa Co Panoramic fundus image-compositing apparatus and method
JP2009217828A (en) * 2009-04-10 2009-09-24 Konica Minolta Holdings Inc Image retrieval device
JP2011097998A (en) * 2009-11-04 2011-05-19 Nidek Co Ltd Ophthalmic photographing apparatus
WO2012026597A1 (en) * 2010-08-27 2012-03-01 ソニー株式会社 Image processing apparatus and method
JP2012213513A (en) * 2011-03-31 2012-11-08 Nidek Co Ltd Ophthalmic photographing apparatus
JP2013102457A (en) * 2012-12-18 2013-05-23 Namco Bandai Games Inc Program, information storage medium, photograph printer, and photograph printing method
WO2014103501A1 (en) * 2012-12-28 2014-07-03 興和株式会社 Image processing device, image processing method, image processing program, and recording medium storing said program
JP2014128366A (en) * 2012-12-28 2014-07-10 Canon Inc Ophthalmology apparatus and positioning method
JP2014198224A (en) * 2012-12-28 2014-10-23 キヤノン株式会社 Image processor and image processing method
JP2015008839A (en) * 2013-06-27 2015-01-19 株式会社ニデック Image processing device and image processing program

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200178797A1 (en) * 2017-04-25 2020-06-11 Imagine Eyes System and method for multi-scale retinal imaging
US11684257B2 (en) * 2017-04-25 2023-06-27 Imagine Eyes System and method for multi-scale retinal imaging
JP2020168371A (en) * 2019-04-04 2020-10-15 オプトス ピーエルシー Medical imaging apparatus
US11461898B2 (en) 2019-04-04 2022-10-04 Optos Plc Medical imaging device
US20220222970A1 (en) * 2019-05-23 2022-07-14 Haag-Streit Ag Ophthalmologic device with image storage

Also Published As

Publication number Publication date
JP6652284B2 (en) 2020-02-19

Similar Documents

Publication Publication Date Title
JP4869757B2 (en) Fundus observation device
JP5845608B2 (en) Ophthalmic imaging equipment
JP6438216B2 (en) Image generating apparatus and image generating method
US9549673B2 (en) Scanning laser ophthalmoscope
JP6115007B2 (en) Ophthalmic image processing apparatus and program
KR20170082477A (en) Interactive control apparatus
JP5563087B2 (en) Visual field inspection system
US20150272434A1 (en) Fundus photography device
KR101787973B1 (en) Image processing apparatus and image processing method
JP5847510B2 (en) Image processing apparatus and image processing method
US9687143B2 (en) Ophthalmic photography device, ophthalmic photography method, and ophthalmic photography program
WO2019225290A1 (en) Imaging device and method for controlling same
JP2015029559A (en) Imaging apparatus and imaging method
JP6652284B2 (en) Image generation apparatus and image generation method
JP2013154120A (en) Ophthalmic image processing device and program
JP2019201951A (en) Imaging apparatus and control method thereof
JP6241091B2 (en) Image processing apparatus and image processing program
JP2012249715A (en) Fundus photographing apparatus
JP6645003B2 (en) Ophthalmic examination information processing apparatus and ophthalmic examination information processing program
JP6187751B2 (en) Image processing program
US10674902B2 (en) Information processing apparatus, operation method thereof, and computer program
JP6932581B2 (en) Ophthalmic equipment, information processing equipment, information processing methods and programs
JP6319615B2 (en) Image processing program
JP6632285B2 (en) Ophthalmic imaging apparatus, control method therefor, and program
JP2020006182A (en) Imaging system and control method thereof

Legal Events

Date Code Title Description
RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20171214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20180126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180706

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180706

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200121

R151 Written notification of patent or utility model registration

Ref document number: 6652284

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151