JP7205550B2 - 光学装置、及び制御装置 - Google Patents

光学装置、及び制御装置 Download PDF

Info

Publication number
JP7205550B2
JP7205550B2 JP2020559752A JP2020559752A JP7205550B2 JP 7205550 B2 JP7205550 B2 JP 7205550B2 JP 2020559752 A JP2020559752 A JP 2020559752A JP 2020559752 A JP2020559752 A JP 2020559752A JP 7205550 B2 JP7205550 B2 JP 7205550B2
Authority
JP
Japan
Prior art keywords
wavefront
image
imaging
learning
optical system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020559752A
Other languages
English (en)
Other versions
JPWO2020121633A1 (ja
Inventor
智裕 川崎
洋介 大坪
直也 大谷
功記 小西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2020121633A1 publication Critical patent/JPWO2020121633A1/ja
Application granted granted Critical
Publication of JP7205550B2 publication Critical patent/JP7205550B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/1015Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for wavefront analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/12Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/13Ophthalmic microscopes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B9/00Measuring instruments characterised by the use of optical techniques
    • G01B9/02Interferometers
    • G01B9/02041Interferometers characterised by particular imaging or detection techniques
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/24Base structure

Description

本発明は、光学装置、及び制御装置に関する。
本願は、2018年12月10日に、日本に出願された特願2018-230771号に基づき優先権を主張し、その内容をここに援用する。
例えば、特許文献1に開示された顕微鏡のような光学装置では、照明光学系と結像光学系とが備えられている。このような光学装置では結像性能を向上させることが求められている。
特開2015-72303号公報
本発明の一態様は、被検体の像を形成する結像光学系と、前記結像光学系の結像面の互いに異なる位置に配置された第一画素と第二画素とを有し、前記結像光学系形成る前記像それぞれ異なる領域における画像信号を出力する撮像素子と、互いに位置が異なる第一ピクセルと第二ピクセルとを有し、前記結像光学系の瞳面または前記瞳面の共役位置に配置され、前記結像光学系の瞳における波面の位相を変化させる空間変調素子と、前記第一画素から出力される前記像の第一領域における第一画像信号と前記第二画素から出力される前記像の第二領域における第二画像信号とに基づいて、前記第一ピクセルを制御し、かつ、前記第一及び第二画像信号とに基づいて前記第二ピクセルを制御する制御部とを備える光学装置である。
本発明の一態様は、被検体の像を形成する結像光学系の瞳面または前記瞳面の共役位置に配置され、互いに位置が異なる第一ピクセルと第二ピクセルによって前記結像光学系の瞳における波面の位相を変化させる空間変調素子を、前記結像光学系の結像面の互いに異なる位置に配置された第一画素と第二画素とを有する撮像素子が前記被検体の像のそれぞれ異なる領域を撮像して得られた信号である画像信号に基づいて制御する制御部を備える制御装置であって、前記制御部は、前記第一画素から出力される前記像の第一領域における第一画像信号と前記第二画素から出力される前記像の第二領域における第二画像信号とに基づいて、前記第一ピクセルを制御し、かつ、前記第一及び第二画像信号に基づいて前記第二ピクセルを制御する制御装置である。
本発明の第1の実施形態に係る撮像システムの一例を示す図である。 本発明の第1の実施形態に係る画像の一例を示す図である。 本発明の第1の実施形態に係る波面制御装置の波面状態の一例を示す図である。 本発明の第1の実施形態に係る学習装置の構成の一例を示す図である。 本発明の第1の実施形態に係る制御装置の構成の一例を示す図である。 本発明の第1の実施形態に係る学習処理の一例を示す図である。 本発明の第1の実施形態に係る光学系条件の一例を示す図である。 本発明の第1の実施形態に係る波面状態の一例を示す図である。 本発明の第1の実施形態に係る結像性能及び重みの一例を示す図である。 本発明の第1の実施形態に係る制御装置による波面制御装置の制御処理の一例を示す図である。 本発明の第1の実施形態の変形例に係る学習装置の構成の一例を示す図である。 本発明の第1の実施形態の変形例に係る学習処理の一例を示す図である。 本発明の第2の実施形態に係る制御装置の構成を示す図である。 本発明の第2の実施形態に係る制御装置による波面制御装置の制御処理の一例を示す図である。 本発明の第2の実施形態に係るアダプティブ学習処理の一例を示す図である。
(第1の実施形態)
以下、図面を参照しながら本発明の実施形態について詳しく説明する。図1は、本実施形態に係る撮像システムSの一例を示す図である。また、撮像システムSは、光学装置Dでもある。本実施形態において撮像システムS(光学装置D)とは、一例として、眼科顕微鏡である。なお撮像システムS(光学装置D)は、生物顕微鏡、工業顕微鏡、医用顕微鏡、監視カメラ、及び車載カメラなどであってもよい。
撮像システムSは、結像光学系OSと、波面制御装置3と、撮像素子6と、コンピュータ7と、表示部8と、入力部9とを備える。
結像光学系OSは、被検体1の像を形成する。結像光学系OSは、対物レンズ系2と、絞り4と、結像レンズ系5とを備える。波面制御装置3は、空間変調素子の一例である。
対物レンズ系2の焦点位置に被検体1が設置される。被検体1から出た光線はアフォーカル状態で波面制御装置3に投影される。波面制御装置3は、結像光学系OSの瞳における波面の位相を変化させる。波面制御装置3は、絞り4と共役な位置または絞り4の近傍に設置されることによって、波面制御装置3の設置位置と瞳面とが一致する。つまり、波面制御装置3は、結像光学系OSの瞳の共役位置に配置される。
波面制御装置3は、一例として、液晶位相変調素子(LCOS:Liquid Crystal On Silicon)である。波面制御装置3は、MEMS(Micro Electro Mechanical Systems)ミラーやデフォーマルミラーであってもよい。
光線は波面制御装置3を透過または反射したのちに、結像レンズ系5を通して撮像素子6に集光される。撮像素子6は、結像レンズ系5の焦点位置に設置される。撮像素子6は、結像光学系OSによって形成される被検体1の像の画像信号ISを出力する。撮像素子6によって出力される画像信号ISは、コンピュータ7に伝送され、表示部8に画像Pとして表示される。
入力部9は、撮像システムSのユーザからの入力を受け付ける。撮像システムSのユーザは入力部9を介して、表示部8に表示されている画像Pに含まれる領域Rのうち注視したい特定領域RCを指定する。
ここで図2を参照し、画像P及び領域Rについて説明する。
図2は、本実施形態に係る画像Pの一例を示す図である。画像Pは、一例として、手術中の網膜の画像である。本実施形態では、画像Pを領域R1~領域R25に分割する。領域R1~領域R25は、一例として、それぞれが画像Pの一部の領域であってそれぞれ等しい面積をもつ正方形の領域である。上述した領域Rは、領域R1~領域R25の総称である。
図1に戻って、撮像システムSの構成の説明を続ける。
入力部9は、一例として、マウスである。入力部9は、キーボードやタッチパネルであってもよい。入力部9は、撮像システムSのユーザの視線を検出する立体ディスプレイや、ヘッドマウントディスプレイであってもよい。入力部9は、フットスイッチであってもよい。入力部9は、撮像システムSのユーザの音声やジェスチャーを認識する認識装置であってもよい。
コンピュータ7は、学習装置7Aと、制御装置7Bと、光学シミュレーション装置7Cと、網膜画像データベース7Dとを備える。学習装置7Aと、制御装置7Bと、光学シミュレーション装置7Cとは、一例として、コンピュータ7のCPUがROMからプログラムを読み込んで処理を実行することにより実現されるモジュールである。網膜画像データベース7Dは、コンピュータ7に備えられる記憶装置である。
制御装置7Bは、撮像素子6が出力する画像信号ISに基づいて波面制御装置3を制御することによって、指定された特定領域RCの結像性能PYを向上させる。学習装置7Aは、画像信号ISと結像光学系OSの瞳における波面の位相との関連性を予め学習する。
本実施形態では、制御装置7Bは、学習装置7Aによる学習結果である波面状態テーブルTに基づいて波面制御装置3を制御する。
ここで波面状態テーブルTとは、光学系条件情報LS毎、及び特定の領域R毎に、波面状態θと結像性能評価値Yとが機械学習に基づいて対応づけられた表である。波面状態θは、波面制御装置3の波面状態をピクセル毎に示す。結像性能評価値Yは、画像Pの領域R毎に画像信号ISの値に重みWYが乗じられて算出される。つまり、波面状態テーブルTは、画像信号ISに基づいて生成される。
ここで図3を参照し、波面制御装置3の波面状態について説明する。
図3は、本実施形態に係る波面制御装置3の波面状態の一例を示す図である。図3では、波面の位相の遅れが、36個のピクセル毎に白黒の濃淡によって示されている。
次に図4及び図5を参照し、コンピュータ7の構成の詳細について説明する。
図4は、本実施形態に係る学習装置7Aの構成の一例を示す図である。学習装置7Aは、光学シミュレーション装置7Cによる光学シミュレーションに基づいて波面状態テーブルTを生成し、制御装置7Bに供給する。学習装置7Aは、波面状態テーブルTを生成するために、網膜画像データベース7Dに記憶される網膜画像データRIを用いてよい。
学習装置7Aは、波面状態テーブルTを生成する処理において、光学シミュレーション装置7C、及び網膜画像データベース7Dを利用する。
なお、学習装置7A、光学シミュレーション装置7C、及び網膜画像データベース7Dは、コンピュータ7に備えられる代わりに、コンピュータ7から独立した外部のコンピュータに備えられる構成であってもよい。
以下、波面状態テーブルTを生成する処理を学習処理という。
学習装置7Aは、学習画像信号取得部71Aと、学習波面制御信号生成部72Aと、学習部74と、光学系条件取得部75Aとを備える。
学習画像信号取得部71Aは、撮像素子6から供給される学習画像信号LISを取得する。学習画像信号LISとは、学習処理において撮像素子6によって生成される画像Pの各画素の値を示す信号である。
学習波面制御信号生成部72Aは、光学シミュレーション装置7Cに学習波面制御信号LWSを供給する。学習波面制御信号LWSとは、学習処理において、光学シミュレーションにおける波面状態θを生成するための信号である。
光学系条件取得部75Aは、光学シミュレーション装置7Cから学習光学系条件情報LLSを取得する。学習光学系条件情報LLSとは、学習処理において、光学シミュレーションに用いられる光学系条件Λを示す情報である。光学系条件Λとは、例えば、結像光学系OSのズーム倍率、対物レンズ系2や結像レンズ系5の種類、絞り4の大きさ、被検体1の種類などにより指定される。また、光学系条件Λは、眼科顕微鏡である撮像システムS(光学装置D)が、前眼部観察用であるか後眼部観察用であるかによっても指定される。
学習部74は、波面状態テーブルTを生成するための機械学習を実行する。
学習部74は、特徴量算出部740と、評価値算出部741と、関係学習部742と、波面状態推定部743と、波面状態テーブル生成部744とを備える。
特徴量算出部740は、網膜画像データベース7Dに記憶される網膜画像データRIから網膜画像の特徴量を算出する。網膜画像の特徴量とは、一例として、網膜の周辺部や中心部についての特徴量である。
評価値算出部741は、撮像素子6から供給される学習画像信号LISと、重みWYとに基づいて、結像性能評価値Yを算出する。評価値算出部741は、特徴量算出部740によって算出される特徴量に基づいて重みWYの値を変更してよい。
関係学習部742は、特定の領域Rについて、波面状態θと結像性能評価値Yとの関係を学習する。関係学習部742は、一例として、サポートベクター回帰(SVR:Support Vector Regression)などのアルゴリズムを用いた機械学習を用いる。
波面状態推定部743は、関係学習部742の学習結果に基づいて、特定の領域Rについて、結像性能評価値Yを最大にする波面状態θを推定する。
波面状態テーブル生成部744は、波面状態推定部743による推定結果に基づいて波面状態テーブルTを生成する。
光学シミュレーション装置7Cは、結像光学系シミュレーション部70Cと、波面制御シミュレーション部71Cとを備える。
結像光学系シミュレーション部70Cは、光学系データDTに基づいて結像光学系OSの光学シミュレーションを実行する。光学系データDTとは、光学シミュレーションのための波面状態θと、光学系条件Λとの組である。結像光学系シミュレーション部70Cは、光学系条件Λとして、所定の数だけ予め所定の条件を保持している。
結像光学系シミュレーション部70Cは、光学系条件Λに基づいて学習光学系条件情報LLSを生成する。
波面制御シミュレーション部71Cは、学習装置7Aから供給される学習波面制御信号LWSに基づいて、光学シミュレーションのための波面状態θを生成し、結像光学系シミュレーション部70Cに供給する。
次に図5を参照し、制御装置7Bの構成について説明する。
図5は、本実施形態に係る制御装置7Bの構成の一例を示す図である。制御装置7Bは、領域設定情報取得部70Bと、光学系条件情報取得部75Bと、波面制御信号生成部72Bと、記憶部73Bとを備える。
領域設定情報取得部70Bは、入力部9から供給される領域設定指示RSを取得する。領域設定指示RSとは、撮像システムSのユーザにより入力部9を介して指定される特定領域RCを示す情報である。
光学系条件情報取得部75Bは、結像光学系OSから光学系条件情報LSを取得する。光学系条件情報LSとは、結像光学系OSの光学系条件Λを示す情報である。
波面制御信号生成部72Bは、波面制御装置3に波面制御信号WSを供給する。波面制御信号WSは、波面状態θを示す信号である。
記憶部73Bには、波面状態テーブルTが記憶される。波面状態テーブルTは、上述したように、予め学習処理において学習装置7Aにより生成される。
次に図6を参照し、学習装置7A及び光学シミュレーション装置7Cによる学習処理について説明する。
図6は、本実施形態に係る学習処理の一例を示す図である。図6に示す学習処理は、制御装置7Bによる波面制御装置3の制御が実行される前に予め実行される。
ステップS100:波面制御シミュレーション部71Cは、光学シミュレーションのための波面状態θを生成する。ここで波面制御シミュレーション部71Cは、学習波面制御信号生成部72Aから供給される学習波面制御信号LWSに基づいて波面状態θを生成する。波面制御シミュレーション部71Cは、生成した波面状態θを結像光学系シミュレーション部70Cに供給する。
学習波面制御信号生成部72Aは、学習波面制御信号LWSを、数N通りの波面状態θを示す信号として生成する。学習波面制御信号生成部72Aは、数N通りの波面状態θをランダムに生成する。学習波面制御信号生成部72Aが波面状態θをランダムに生成するパターンは、中心対称、素子を二分する線対称でもよいし、ゼルニケ近似多項式によって表現されるパターンでもよい。
数N通りの波面状態θの集合は、式(1)により示される。
Figure 0007205550000001
ステップS110:結像光学系シミュレーション部70Cは、保持している所定の条件のなかから光学系データDTに用いる光学系条件Λを選択する。結像光学系シミュレーション部70Cは、保持している所定の条件のなかから1以上の光学系条件Λを選択する。
ここで図7を参照し、光学系条件Λの一例について説明する。
図7は、本実施形態に係る光学系条件Λの一例を示す図である。図7の光学系条件Λの例では、ズーム倍率として「2倍」が、前置きレンズとして「タイプA」が、被検体1として「ナバロアイモデル」が選択されている。
図6に戻って、学習処理の説明を続ける。
ステップS120:結像光学系シミュレーション部70Cは、光学シミュレーションに用いる光学系データDTを設定する。ここで結像光学系シミュレーション部70Cは、ステップS100において波面制御シミュレーション部71Cにより生成された数N通りの波面状態θのそれぞれと、ステップS110において選択した光学系条件Λとを組にして数M通りの光学系データDTを生成する。数Mは、ステップS110において選択された光学系条件Λの数と、数Nとの積に等しい。
ここで図8を参照し、波面状態θの一例について説明する。
図8は、本実施形態に係る波面状態θの一例を示す図である。図8の例では、波面制御装置3のピクセル毎に、結像光学系OSの瞳における波面の位相の遅れの値が示されている。
図6に戻って、学習処理の説明を続ける。
ステップS130:結像光学系シミュレーション部70Cは、光学シミュレーションを実行する。結像光学系シミュレーション部70Cは、数M通りの光学系データDTそれぞれについて光学シミュレーションを実行する。つまり、結像光学系シミュレーション部70Cは、ステップS100においてランダムに生成された数N通りの波面状態θについて、光学シミュレーションを光学系条件Λ毎に実行する。
結像光学系シミュレーション部70Cは、例えば、公知の光学設計解析ソフトウェアを用いて光学シミュレーションを実行する。
結像光学系シミュレーション部70Cは、光学シミュレーションによって被検体1の像を生成する。撮像素子6は、生成された被検体1の像から画像Pを生成する。画像Pは、光学系条件Λ毎に、数N通りの波面状態θに対応して画像P1~画像PNだけある。
撮像素子6は、光学系条件Λ毎の画像P1~画像PNそれぞれの画素の値を、学習画像信号LISに含め学習装置7Aに出力する。
以下、画像P1~画像PNのうちの1枚を代表させて画像Piという場合がある。
ステップS140:評価値算出部741は、撮像素子6から供給される学習画像信号LISと、重みWYとに基づいて、結像性能評価値Yを算出する。
評価値算出部741は、学習画像信号LISに含まれる画像Piの各画素の値に基づいて、画像Piの領域R毎の結像性能PYを算出する。ここで画像Pの領域R毎の結像性能PYとは、一例として点拡がり関数(PSF:Point Spread Function)の値である。なお、結像性能PYは、コントラストの値や、線広がり関数(LSF:Line Spread Function)や、MTF(Modulation Transfer Function)であってもよい。
評価値算出部741は、領域R毎に、当該領域Rの結像性能評価値Yが、領域Rのうち当該領域R以外の領域の結像性能評価値Yよりも相対的に大きくなるように重みWYを設定する。評価値算出部741は、領域R毎の結像性能PYに、領域R毎に設定した重みWYを乗じて結像性能評価値Yを算出する。ここで結像性能評価値Yが大きいほど領域Rの結像性能PYは大きい。
評価値算出部741は、ステップS140の処理を、光学系条件Λ毎に、画像P1~画像PNについて繰り返す。
ここで図9を参照し、結像性能PY及び重みWYの具体例について説明する。
図9は、本実施形態に係る結像性能PY及び重みWYの一例を示す図である。図9では、領域R1~領域R25それぞれについて、結像性能PYとしてPSFの値が示されている。また、図9では、領域R1~領域R25それぞれについて重みWY1~重みWY25の値が示されている。
図9の例では、領域R1に対する結像性能評価値Y1は0.5と算出され、領域R2に対する結像性能評価値Y2は1.5と算出され、領域R25に対する結像性能評価値Y25は1.2と算出される。
図6に戻って、学習処理の説明を続ける。
結像性能評価値Yの集合は、式(2)により示される。
Figure 0007205550000002
評価値算出部741は、特徴量算出部740により算出される特徴量に基づいて重みWYの値を変更してよい。例えば、評価値算出部741は、特徴量算出部740により算出される網膜の中心部の特徴量に基づいて、図2の画像Pの領域R12、領域R13、領域R17、及び領域R18に対応する重みWY12、重みWY13、重みWY17、及び重みWY18の値を、それぞれ元の値の1.2倍の値に変更してよい。
ステップS150:関係学習部742は、特定の領域Rについて、波面状態θと結像性能評価値Yの関係を学習する。ここで関係学習部742は、例えば、SVRを用いた機械学習を用いる。関係学習部742は、一例として、式(3)に基づいて、特定の領域Rについて波面状態θと結像性能評価値Yの関係を学習する。なお、式(3)における「Loss」は波面状態θと結像性能評価値Yの間の適当な距離を示し、例えば2乗距離などを用いてもよい。
Figure 0007205550000003
ステップS160:波面状態推定部743は、特定の領域Rについて結像性能評価値Yを最大にする波面状態θを推定する。ここで波面状態推定部743は、SVRを用いた機械学習を用いて波面状態θを推定する。波面状態推定部743は、一例として、式(4)に基づいて、学習された波面状態θと結像性能評価値Yの関係fが最大となるような波面状態θを推定する。
Figure 0007205550000004
なお、本実施形態では、ステップS150及びステップS160において機械学習のアルゴリズムとして、SVRが用いられる場合について説明したが、これに限らない。
ステップS150において、関係学習部742は、波面状態θと結像性能評価値Yの関係を学習するために、パラメトリックな回帰、及びノンパラメトリックな回帰のいずれを用いてもよい。なお、SVRは、非線形なノンパラメトリック回帰のアルゴリズムの一例である。
ステップS160において、波面状態推定部743は、波面状態θを推定するために、グリッドサーチや、マルコフ連鎖モンテカルロ法(MCMC:Markov chain Monte Carlo methods)を用いてもよい。
また、ステップS150及びステップS160において、ガウス過程回帰を利用したベイズ最適化が用いられてもよい。ガウス過程回帰を利用したベイズ最適化によって、解探索の効率が本実施形態に比べて向上する場合がある。解探索の効率とは、解の精度や、学習の収束速度である。
また、波面制御装置3の波面状態θは、ピクセルを単位として表現される代わりに、Zernike係数を用いて表現されてもよい。波面制御装置3の波面状態θがZernike係数を用いて表現される場合、解探索の効率が本実施形態に比べて向上する場合がある。
ステップS170:波面状態テーブル生成部744は、ステップS160における波面状態推定部743による推定結果に基づいて波面状態テーブルTを生成する。波面状態テーブル生成部744は、生成した波面状態テーブルTを制御装置7Bに供給する。
次に図10を参照し、制御装置7Bによる波面制御装置3の制御処理について説明する。
図10は、本実施形態に係る制御装置7Bによる波面制御装置3の制御処理の一例を示す図である。図10に示す制御処理は、図6に示した学習処理が実行された後に実行される。
ステップS200:領域設定情報取得部70Bは、入力部9から供給される領域設定指示RSを取得する。領域設定情報取得部70Bは、取得した領域設定指示RSを波面制御信号生成部72Bに供給する。
ステップS210:光学系条件情報取得部75Bは、結像光学系OSから光学系条件情報LSを取得する。光学系条件情報取得部75Bは、取得した光学系条件情報LSを波面制御信号生成部72Bに供給する。
ステップS220:波面制御信号生成部72Bは、波面状態テーブルTを選択する。ここで波面制御信号生成部72Bは、領域設定情報取得部70Bから供給される領域設定指示RSに基づいて特定領域RCを設定する。また、波面制御信号生成部72Bは、光学系条件情報取得部75Bから供給される光学系条件情報LSに基づいて光学系条件Λを設定する。波面制御信号生成部72Bは、記憶部73Bに記憶される波面状態テーブルTのなかから、設定した光学系条件Λ、及び設定した特定領域RCに対応する波面状態テーブルTを選択する。
ここで上述したように、領域設定指示RSは撮像システムSのユーザにより入力部9を介して指定される特定領域RCを示す情報である。つまり、特定領域RCは、入力部9が受け付けた入力に基づいて設定される。
ステップS230:波面制御信号生成部72Bは、波面制御装置3の波面状態θを制御する。ここで波面制御信号生成部72Bは、ステップS220において選択された波面状態テーブルTに基づいて、波面状態θを判定する。波面制御信号生成部72Bは、判定した波面状態θを示す波面制御信号WSを生成する。波面制御信号生成部72Bは、生成した波面制御信号WSを波面制御装置3に供給することにより、波面制御装置3の波面状態θを制御する。
ステップS220において選択された波面状態テーブルTは、画像信号ISから得られた画像P中の特定領域RCに対応する。波面制御信号生成部72Bが、制御する波面制御装置3の波面状態θには、特定領域RCに対応する領域の波面が含まれる。つまり、波面制御信号生成部72Bは、結像光学系OSの瞳のうち、画像信号ISから得られた画像P中の特定領域RCに対応する領域の波面の位相を変化させるように波面制御装置3を制御する。
上述したように、波面状態テーブルTは、学習処理において撮像素子6が出力する画像信号ISに基づいて学習装置7Aによって生成される。波面制御信号生成部72Bは、波面状態テーブルTに基づいて波面制御装置3を制御する。つまり、制御装置7Bは、撮像素子6が出力する画像信号ISに基づいて波面制御装置3を制御する。
以上において、制御装置7Bは、波面制御装置3の制御処理を終了する。
(第1の実施形態の変形例)
上述した第1の実施形態においては、波面状態テーブルTの生成に、光学シミュレーションが用いられる場合について説明した。ここでは第1の実施形態の変形例として、波面状態テーブルTの生成に、光学シミュレーションの代わりに実際の撮像システムS(光学装置D)による撮影が用いられる場合について説明する。
本変形例の学習装置を学習装置7Aaという。
図11は、本実施形態に係る学習装置7Aの構成の一例を示す図である。本変形例に係る学習装置7Aa(図11)と第1の実施形態に係る学習装置7A(図4)とを比較すると、学習波面制御信号生成部72Aaと、光学系条件取得部75Aaと、光学シミュレーション装置7Cの代わりに結像光学系OS及び波面制御装置3が備えられる点とが異なる。ここで、学習装置7Aの構成要素(学習画像信号取得部71A、及び学習部74)が持つ機能は第1の実施形態と同じである。第1の実施形態と同じ機能の説明は省略し、変形例では、第1の実施形態と異なる部分を中心に説明する。
学習波面制御信号生成部72Aは、波面制御装置3に学習波面制御信号LWSを供給する。
光学系条件取得部75Aは、結像光学系OSから学習光学系条件情報LLSを取得する。
ここで図12を参照し、本変形例に係る学習処理について説明する。
図12は、本変形例に係る学習処理の一例を示す図である。なお、ステップS300、ステップS310、ステップS330、ステップS340、ステップS350、及びステップS360の各処理は、図6におけるステップS100、ステップS110、ステップS140、ステップS150,ステップS160、及びステップS170の各処理と同様であるため、説明を省略する。
ステップS320:撮像素子6は、被検体1として、点、パターンを撮影する。ここで一例として、撮像システムSにおいて、点やパターンが印刷された紙が被検体1として配置される。パターンには、一例として、解像力チャートが用いられてよい。撮像素子6は、数M通りの光学系データDTそれぞれについて点、パターンを撮影する。つまり、撮像素子6は、ステップS300においてランダムに生成された数N通りの波面状態θについて、点、パターンを撮影する。
撮像素子6は、撮像した点、パターンの像から光学系条件Λ毎に画像P1~画像PNを生成する。撮像素子6は、光学系条件Λ毎の画像P1~画像PNそれぞれの画素の値を、学習画像信号LISに含め学習装置7Aに出力する。
本変形例では、波面状態テーブルTの生成に、実際の撮像システムS(光学装置D)による撮影が用いられるため、撮像システムS(光学装置D)の製造公差が波面状態テーブルTに反映されるため、製造公差の影響を受けずに波面制御装置3の波面状態θを制御できる。
以上に説明したように、本実施形態に係る光学装置Dは、結像光学系OSと、撮像素子6と、空間変調素子(この一例において、波面制御装置3)と、制御部(この一例において、制御装置7B)とを備える。
結像光学系OSは、被検体1の像を形成する。
撮像素子6は、結像光学系OSによって形成される被検体1の像の画像信号ISを出力する。
波面制御装置3は、結像光学系OSの瞳における波面の位相を変化させる。
制御部(この一例において、制御装置7B)は、撮像素子6が出力する画像信号ISに基づいて波面制御装置3を制御する。
この構成により、本実施形態に係る光学装置Dでは、画像信号ISに基づいて波面制御装置3を制御できるため、波面測定装置を使わず、光学装置の結像性能を向上させることができる。
また、本実施形態に係る光学装置Dでは、波面制御装置3は、結像光学系OSの瞳の共役位置に配置される。
この構成により、本実施形態に係る光学装置Dでは、結像光学系OSの瞳における波面の位相を制御できる。
また、本実施形態に係る光学装置Dでは、制御部(この一例において、制御装置7B)は、瞳のうち、画像信号ISから得られた画像P中の特定領域RCに対応する領域の波面の位相を変化させるように波面制御装置3を制御する。
この構成により、本実施形態に係る光学装置Dでは、画像P中の特定領域RCに対応する領域の波面の位相を変化させることができるため、画像P中の特定領域RCの結像性能を向上させることができる。
また、本実施形態に係る光学装置Dでは、ユーザからの入力を受け付ける入力部9を有し、特定領域RCは、入力部9が受け付けた入力に基づいて設定される。
本実施形態に係る光学装置Dでは、ユーザが特定領域RCを設定できるため、ユーザは画像P中の注視したい画角の結像性能を向上させることができる。
(第2の実施形態)
以下、図面を参照しながら本発明の第2の実施形態について詳しく説明する。
上記第1の実施形態では、撮像システム(光学装置)は、画像信号と結像光学系の瞳における波面の位相との関連性が予め学習された学習結果に基づいて波面制御装置を制御する場合について説明をした。本実施形態では、撮像システム(光学装置)が、使用中に画像信号と結像光学系の瞳における波面の位相との関連性が即時に学習され、学習結果が更新される場合について説明をする。
本実施形態に係る撮像システムを撮像システムSbといい、光学装置を光学装置Dbという。
図13は、本実施形態に係る制御装置7Eの構成を示す図である。本実施形態に係る制御装置7E(図13)と第1の実施形態に係る制御装置7B(図5)とを比較すると、画像信号取得部71E、波面制御信号生成部72E、学習部74E、記憶部73E、見え方信号取得部76E、及びモード設定管理部77Eが異なる。ここで、他の構成要素(領域設定情報取得部70B、及び光学系条件情報取得部75B)が持つ機能は第1の実施形態と同じである。第1の実施形態と同じ機能の説明は省略し、第2の実施形態では、第1の実施形態と異なる部分を中心に説明する。
画像信号取得部71Eは、撮像素子6から供給される手術画像OPの画像信号ISを取得する。画像信号ISとは、撮像素子6によって生成される手術画像OPの各画素の値を示す信号である。
波面制御信号生成部72Eは、記憶部73Eに記憶されるモード設定情報STに応じて、波面状態テーブルTとして、プリセット波面状態テーブルTPと、アダプティブ波面状態テーブルTAとのいずれかを選択する。
見え方信号取得部76Eは、入力部9から供給される見え方情報VSを取得する。ここで見え方情報VSとは、撮像システムSb(光学装置Db)のユーザの表示部8に表示される手術画像OPの見え方についての判断結果を示す信号である。手術画像OPの見え方についての判断結果には、「見える」と、「見えない」とがある。「見える」は、表示部8に表示される手術画像OPのうちユーザが注視する領域の解像度が十分である場合の判断結果である。「見えない」は、表示部8に表示される手術画像OPのうちユーザが注視する領域の解像度が十分でない場合の判断結果である。
モード設定情報STとは、波面状態テーブルTとして、プリセット波面状態テーブルTPと、アダプティブ波面状態テーブルTAとのいずれを用いるかの設定を示す情報である。モード設定情報STの値には、プリセット波面状態テーブルTPを用いることを示す「プリセット」と、アダプティブ波面状態テーブルTAを用いることを示す「アダプティブ」がある。
プリセット波面状態テーブルTPは、波面状態テーブルT(図5)と同じテーブルであり、予め学習によって生成されて記憶部73Eに記憶される。アダプティブ波面状態テーブルTAは、撮像システムSb(光学装置Db)によって撮像される患者の網膜の手術画像OPに基づいて生成される。
学習部74Eは、撮像システムSb(光学装置Db)の使用中に、画像信号と結像光学系の瞳における波面の位相との関連性を学習する。学習部74Eは、学習結果としてアダプティブ波面状態テーブルTAを生成し、記憶部73Eに記憶させる。
ここで学習部74E(図13)と、学習装置7Aの学習部74(図4)とを比較すると、波面状態推定部743Eと、波面状態テーブル生成部744Eと、解推定範囲管理部745Eとが異なる。他の構成要素(特徴量算出部740、評価値算出部741、関係学習部742)が持つ機能は学習部74(図4)と同じである。
波面状態推定部743Eは、波面状態推定部743の機能を有し、かつ、関係学習部742の学習結果に基づいて、特定の領域Rについて、結像性能評価値Yを最大にする波面状態θを、解推定範囲管理部745Eによって設定される範囲内において推定する。
波面状態テーブル生成部744Eは、波面状態テーブル生成部744の機能を有し、かつ、波面状態推定部743Eによる推定結果に基づいてアダプティブ波面状態テーブルTAを生成する。
解推定範囲管理部745Eは、波面状態推定部743Eが推定する波面状態θの範囲を設定する。
記憶部73Eには、プリセット波面状態テーブルTPと、アダプティブ波面状態テーブルTAと、モード設定情報STが記憶される。
モード設定管理部77Eは、入力部9から供給されるモード設定指示MSが示す設定に応じて、記憶部73Eに記憶されるモード設定情報STを設定する。
図14は、本実施形態に係る制御装置7Eによる波面制御装置3の制御処理の一例を示す図である。なお、ステップS400、及びステップS410の各処理は、図10におけるステップS200、及びステップS210の各処理と同様であるため、説明を省略する。
ステップS415:解推定範囲管理部745Eは、波面状態推定部743Eが推定する波面状態θの解の範囲Ωを設定する。ここで解推定範囲管理部745Eは、ステップS400において取得された領域設定指示RSによって示される特定領域RCと、ステップS410において取得された光学系条件Λ0と、プリセット波面状態テーブルTPとに基づいて、波面状態θ0の解の範囲Ωを設定する。
解推定範囲管理部745Eが設定する範囲Ωは、式(5)のように表される。式(5)におけるΔは、プリセット波面状態テーブルTPに対して幅を持たせておくための量であり、予め設定される。
Figure 0007205550000005
ステップS420:波面制御信号生成部72Eは、モード設定が「プリセット」に設定されているか否かを判定する。ここで波面制御信号生成部72Eは、記憶部73Eに記憶されるモード設定情報STを読み出し判定を行う。
波面制御信号生成部72Eは、モード設定が「プリセット」に設定されていると判定する場合(ステップS420;YES)、ステップS430の処理を実行する。一方、波面制御信号生成部72Eは、モード設定が「プリセット」に設定されていないと判定する場合(ステップS420;NO)、ステップS470の処理を実行する。
ステップS430:波面制御信号生成部72Eは、波面状態テーブルTとして、プリセット波面状態テーブルTPを選択する。
ステップS440:波面制御信号生成部72Eは、波面制御装置3の波面状態θを制御する。ここで波面制御信号生成部72Eは、ステップS430またはステップS490において選択された波面状態テーブルTに基づいて、波面状態θを判定する。波面制御信号生成部72Eは、判定した波面状態θを示す波面制御信号WSを生成する。波面制御信号生成部72Eは、生成した波面制御信号WSを波面制御装置3に供給することにより、波面制御装置3の波面状態θを制御する。
プリセット波面状態テーブルTPまたはアダプティブ波面状態テーブルTAは、学習部74Eの学習結果である。プリセット波面状態テーブルTPは、画像信号ISと結像光学系OSの瞳における波面の位相との関連性が予め学習された学習結果である。アダプティブ波面状態テーブルTAは、手術画像OPの画像信号ISと結像光学系OSの瞳における波面の位相との関連性が手術中に即時に学習されて、プリセット波面状態テーブルTPが変更されることによって生成される。
つまり、制御装置7Eは、学習部74Eの学習結果と、撮像素子6が出力する画像信号ISとに基づいて波面制御装置3を制御する。ここで学習部74Eは、画像信号ISと結像光学系OSの瞳における波面の位相との関連性が予め学習されている。
ステップS450:見え方信号取得部76Eは、入力部9から供給される見え方情報VSを取得する。見え方信号取得部76Eは、取得した見え方情報VSを波面制御信号生成部72Eに供給する。
ステップS460:波面制御信号生成部72Eは、撮像システムSb(光学装置Db)のユーザに、表示部8に表示される手術画像OPの見え方が「見える」と判断されたか否かを判定する。波面制御信号生成部72Eは、ステップS450において取得した見え方情報VSが「見える」を示す場合、ユーザに手術画像OPの見え方が「見える」と判断されたと判定する。一方、波面制御信号生成部72Eは、ステップS450において取得した見え方情報VSが「見えない」を示す場合、ユーザに手術画像OPの見え方が「見えない」と判断されたと判定する。
波面制御信号生成部72Eは、ユーザに手術画像OPの見え方が「見える」と判断されたと判定する場合(ステップS460;YES)、ステップS470の処理を実行する。一方、制御装置7Eは、波面制御信号生成部72Eがユーザに手術画像OPの見え方が「見える」と判断されなかったと判定する場合(ステップS460;NO)、ステップS500の処理を実行する。
ステップS470;波面制御信号生成部72Eは、波面制御装置3の波面状態θを維持する。つまり、波面制御信号生成部72Eは、ステップS460において、ユーザに手術画像OPの見え方が「見える」と判断されたと判定する場合、波面制御装置3の波面状態θを維持する。したがって、制御装置7Bは、所定の条件に基づいて波面制御装置3が制御された状態を固定する。
ステップS480:学習部74Eは、アダプティブ学習処理を実行する。
ここで図15を参照し、学習部74Eによるアダプティブ学習処理について説明する。
図15は、本実施形態に係るアダプティブ学習処理の一例を示す図である。図15に示すアダプティブ学習処理は、図14のステップS480に対応する。
ステップS600:解推定範囲管理部745Eは、ステップS415において設定された範囲Ωにおいて、ステップS480のアダプティブ学習処理において波面状態推定部743Eが推定する波面状態θの解の範囲を更新する。ここで解推定範囲管理部745Eは、波面状態推定部743Eが推定する波面状態θの解の範囲を、プリセット波面状態テーブルTPに基づいて選択される波面状態θから変化量δだけずらずことによって更新する。例えば、解推定範囲管理部745Eは、波面状態推定部743Eが推定する波面状態θの解の範囲を式(6)のように更新する。変化量δは予め設定される。
Figure 0007205550000006
解推定範囲管理部745Eは、波面状態推定部743Eが推定する波面状態θの解の範囲を、ステップS415において設定された範囲Ωにおいて更新する。
ステップS610:波面状態推定部743Eは、ステップS600において更新された波面状態θの解の範囲において、特定領域RCについて結像性能評価値Yを最大にする波面状態θを式(7)のように推定する。
Figure 0007205550000007
ステップS612:波面状態テーブル生成部744Eは、ステップS610における推定結果に基づいてアダプティブ波面状態テーブルTAを生成する。波面状態テーブル生成部744Eは、生成したアダプティブ波面状態テーブルTAによって記憶部73Eに記憶されるアダプティブ波面状態テーブルTAを更新する。
図14に戻って、制御装置7Eによる波面制御装置3の制御処理の説明を続ける。
ステップS490:波面制御信号生成部72Eは、波面状態テーブルTとして、アダプティブ波面状態テーブルTAを選択する。
ステップS500:モード設定管理部77Eは、モード設定情報STとして「プリセット」または「アダプティブ」を選択する。ここでモード設定管理部77Eは、入力部9から供給されるモード設定指示MSを取得する。モード設定管理部77Eは、取得したモード設定指示MSが示す設定に応じて、記憶部73Eに記憶されるモード設定情報STを設定する。ここでモード設定指示MSは、「プリセット」と、「アダプティブ」とのいずれかの設定を示す。
なお、上述した図14及び図15の処理においては、ステップS460において、表示部8に表示される手術画像OPの見え方が「見える」と判断されない場合には、波面制御信号生成部72Eは、波面制御装置3の波面状態θが均一となるように波面制御装置3を制御してもよい。
以上に説明したように、本実施形態に係る光学装置Dbでは、制御部(この一例において、制御装置7E)は、所定の条件(ステップS460の判定条件)に基づいて波面制御装置3が制御された状態を固定する。
この構成により、本実施形態に係る光学装置Dbでは、波面制御装置3が制御された状態を固定できるため、波面制御装置3の波面状態θを一度制御すれば、ユーザが望んだ結像性能をもつ手術画像OPを取得し続けることができる。本実施形態に係る光学装置Dbでは、画像処理によって画像を高精細にする場合と異なり1フレーム毎の処理を必要としない。本実施形態に係る光学装置Dbでは、手術画像OPを動画として即時に観察した場合に、光学装置の処理による遅れが生じない。
ここで眼科手術において、患者の眼の画像において中心部や周辺部の解像度が低いため、疾患を見逃すケースや、施術がしにくいことが問題となっている。中心部や周辺部などの注視したい領域は、例えば、位相物体などの障害物により不鮮明に表示されてしまう。
近年は画像処理技術の向上により、撮像素子が取得した像よりも高精細な画像を観察することが可能になっている。しかしながら、画像処理技術では、各フレームに処理や演算が必要であるため、眼科手術中にリアルタイムに動画観察を行う場合には観察した際に遅れが生じてしまう。また、電子ズームを用いて特定の領域を注視する場合は、センサーに投影される像は変化しないため、観察される画像は光学式ズームに比べて解像度が低くなってしまう。
本実施形態に係る光学装置Dbでは、表示を拡大するだけではなく、波面も修正できるため、従来技術である電子ズームよりも高精細な像を取得することができる。
一方、顕微鏡などの撮像装置の位置を変更することによって患者の眼の画像の解像度を向上させることが考えられる。しかしながら、フォーカス、瞳アライメントの観点から容易に顕微鏡の位置を変えることはできない。また、顕微鏡をどのように動かしたら見たい像が得られるか分かりにくい。
本実施形態に係る光学装置Dbでは、光学素子を自動で調整できる。本実施形態に係る光学装置Dbでは、光学素子の調整の十分な知見をもたないユーザであっても、波面制御装置3の波面状態θを一度制御すれば、ユーザが望んだ結像性能をもつ手術画像OPを取得し続けることができる。
また、本実施形態に係る光学装置Dbは、学習部74Eを有する。学習部74Eは、画像信号ISと結像光学系OSの瞳における波面の位相との関連性が予め学習されている。また、制御部(この一例において、制御装置7E)は、学習部74Eの学習結果と、撮像素子6が出力する画像信号ISとに基づいて波面制御装置3を制御する。
この構成により、本実施形態に係る光学装置Dbでは、画像信号ISと結像光学系OSの瞳における波面の位相との関連性が予め学習された学習結果と、撮像素子6が出力する画像信号ISとに基づいて波面制御装置3を制御できるため、学習結果に基づかない場合に比べて光学装置の結像性能を向上させることができる。
また、上述した各実施形態における学習処理には、深層学習が用いられてもよい。学習処理において深層学習が用いられる場合、深層学習のニューラルネットワークの入力層に入力される値として撮像素子6に集光される光の強度が、重みとして波面状態θがそれぞれ用いられ、出力層から出力される値が結像性能評価値Yに対応する。
学習処理において深層学習が用いられる場合、画像信号ISと結像光学系OSの瞳における波面の位相との関連性が予め学習された学習結果は深層学習により得られた結果である。
なお、上述した各実施形態では、制御装置7B及び制御装置7Eは、波面制御装置3の波面状態θの制御に学習結果を用いる場合について説明したが、これに限らない。制御装置7B及び制御装置7Eは、撮像素子6から出力される画像信号ISに基づいて波面制御装置3の波面状態θを制御してもよい。
例えば、制御装置7B及び制御装置7Eは、画像信号ISを撮像素子6から逐次取得し、画像Pのうちの特定領域RCの結像性能PYが、現在よりも高くなる波面状態θを探索してもよい。
なお、上述した各実施形態では、評価値算出部741が結像性能PYとしていずれの値を算出するかは、予め決められている場合について説明したが、これに限らない。評価値算出部741が結像性能PYとしていずれの値を算出するかは、撮像システムS(光学装置D)のユーザによって設定されてもよい。
なお、上述した各実施形態では、光学系条件Λは、学習装置7A、制御装置7B、学習装置7Aa、及び制御装置7Eにより、結像光学系OSや、光学シミュレーション装置7Cから、光学系条件情報LSや学習光学系条件情報LLSとして取得される場合について説明したが、これに限らない。光学系条件Λは、学習装置7A、制御装置7B、学習装置7Aa、及び制御装置7Eにより設定されて、結像光学系OSや、光学シミュレーション装置7Cに供給されてもよい。
なお、上述した実施形態における光学装置D及び光学装置Dbの一部、例えば、学習装置7A、7Aa、及び制御装置7B、7Eをコンピュータで実現するようにしてもよい。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、光学装置D及び光学装置Dbに内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
また、上述した実施形態における学習装置7A、7Aa、及び制御装置7B、7Eの一部、または全部を、LSI(Large Scale Integration)等の集積回路として実現してもよい。学習装置7A、7Aa、及び制御装置7B、7Eの各機能ブロックは個別にプロセッサ化してもよいし、一部、または全部を集積してプロセッサ化してもよい。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。
以上、図面を参照してこの発明の一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
S、Sb…撮像システム、D、Db…光学装置D、OS…結像光学系、1…被検体、2…対物レンズ系、3…波面制御装置、4…絞り、5…結像レンズ系、6…撮像素子、7…コンピュータ、8…表示部、9…入力部、7A、7Aa…学習装置、71A…学習画像信号取得部、72Aa…学習波面制御信号生成部、74、74E…学習部、740…特徴量算出部、741…評価値算出部、742…関係学習部、743、743E…波面状態推定部、744、744E…波面状態テーブル生成部、745E…解推定範囲管理部、75A、75Aa…光学系条件取得部、7C…光学シミュレーション装置、70C…結像光学系シミュレーション部、71C…波面制御シミュレーション部、7D…網膜画像データベース、7B、7E…制御装置、70B…領域設定情報取得部、71E…画像信号取得部、72B、72E…波面制御信号生成部、73B、73E…記憶部、75B、75E…光学系条件情報取得部、76E…見え方信号取得部、77E…モード設定管理部

Claims (16)

  1. 被検体の像を形成する結像光学系と、
    前記結像光学系の結像面の互いに異なる位置に配置された第一画素と第二画素とを有し、前記結像光学系形成る前記像それぞれ異なる領域における画像信号を出力する撮像素子と、
    互いに位置が異なる第一ピクセルと第二ピクセルとを有し、前記結像光学系の瞳面または前記瞳面の共役位置に配置され、前記結像光学系の瞳における波面の位相を変化させる空間変調素子と、
    前記第一画素から出力される前記像の第一領域における第一画像信号と前記第二画素から出力される前記像の第二領域における第二画像信号とに基づいて、前記第一ピクセルを制御し、かつ、前記第一及び第二画像信号とに基づいて前記第二ピクセルを制御する制御部と
    を備える光学装置。
  2. 前記撮像素子は、前記画像信号から前記被検体の画像を生成し、
    前記制御部は、前記画像中の特定領域に合わせて前記波面の位相を変化させるように前記空間変調素子を制御する
    請求項1に記載の光学装置。
  3. 前記特定領域の指定に関するユーザからの入力を受け付ける領域指定部を有し、
    前記特定領域は、前記領域指定部が受け付けた入力に基づいて設定される
    請求項に記載の光学装置。
  4. 前記特定領域における、点広がり関数の値、コントラストの値、線広がり関数の値、及び、MTF(Modulation Transfer Function)の値のうち、少なくとも一つの値を含む結像性能を算出する評価値算出部を有し、
    前記制御部は前記結像性能に基づいて前記空間変調素子を制御する
    請求項2または請求項3に記載の光学装置。
  5. 前記画像の見え方に関するユーザからの入力を受け付ける見え方情報入力部を有し、
    前記制御部は、前記見え方情報入力部が受け付けた入力に基づいて前記空間変調素子を制御する、
    請求項2に記載の光学装置。
  6. 前記制御部は、所定の条件に基づいて前記空間変調素子が制御された状態を固定する
    請求項1からのいずれか一項に記載の光学装置。
  7. 前記画像信号と前記瞳における前記波面の位相との関連性が予め学習された学習部を有し、
    前記制御部は、前記学習部の学習結果と、前記撮像素子が出力する前記画像信号とに基づいて前記空間変調素子を制御する
    請求項1からのいずれか一項に記載の光学装置。
  8. 前記学習結果は深層学習により得られた結果である
    請求項に記載の光学装置。
  9. 被検体の像を形成する結像光学系の瞳面または前記瞳面の共役位置に配置され、互いに位置が異なる第一ピクセルと第二ピクセルによって前記結像光学系の瞳における波面の位相を変化させる空間変調素子を、前記結像光学系の結像面の互いに異なる位置に配置された第一画素と第二画素とを有する撮像素子が前記被検体の像のそれぞれ異なる領域を撮像して得られた信号である画像信号に基づいて制御する制御部
    を備える制御装置であって、
    前記制御部は、前記第一画素から出力される前記像の第一領域における第一画像信号と前記第二画素から出力される前記像の第二領域における第二画像信号とに基づいて、前記第一ピクセルを制御し、かつ、前記第一及び第二画像信号に基づいて前記第二ピクセルを制御する制御装置
  10. 前記制御部は、前記画像信号から得られた画像中の特定領域に合わせて前記空間変調素子を制御する
    請求項に記載の制御装置。
  11. 前記特定領域は、ユーザによって設定された領域である
    請求項10に記載の制御装置。
  12. 前記制御部は、前記特定領域において算出された、点広がり関数の値、コントラストの値、線広がり関数の値、及び、MTF(Modulation Transfer Function)の値のうち、少なくとも一つの値を含む結像性能に基づいて前記空間変調素子を制御する
    請求項10または請求項11に記載の制御装置。
  13. 前記制御部は、ユーザによって入力された、前記画像の見え方に関する情報に基づいて前記空間変調素子を制御する、
    請求項10に記載の制御装置。
  14. 前記制御部は、所定の条件に基づいて前記空間変調素子が制御された状態を固定する
    請求項から13のいずれか一項に記載の制御装置。
  15. 前記画像信号と前記瞳における前記波面の位相との関連性が予め学習された学習部の学習結果と、前記撮像素子が出力する前記画像信号とに基づいて前記空間変調素子を制御する
    請求項から14のいずれか一項に記載の制御装置。
  16. 前記学習結果は深層学習により得られた結果である
    請求項15に記載の制御装置。
JP2020559752A 2018-12-10 2019-10-07 光学装置、及び制御装置 Active JP7205550B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018230771 2018-12-10
JP2018230771 2018-12-10
PCT/JP2019/039521 WO2020121633A1 (ja) 2018-12-10 2019-10-07 光学装置、プログラム、制御装置、及び撮像システム

Publications (2)

Publication Number Publication Date
JPWO2020121633A1 JPWO2020121633A1 (ja) 2021-10-07
JP7205550B2 true JP7205550B2 (ja) 2023-01-17

Family

ID=71077219

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020559752A Active JP7205550B2 (ja) 2018-12-10 2019-10-07 光学装置、及び制御装置

Country Status (4)

Country Link
US (1) US20220015626A1 (ja)
EP (1) EP3895599A4 (ja)
JP (1) JP7205550B2 (ja)
WO (1) WO2020121633A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007330582A (ja) 2006-06-16 2007-12-27 Topcon Corp 眼科撮影装置
JP2010259669A (ja) 2009-05-08 2010-11-18 Canon Inc 補償光学系を備えた画像取得装置
JP2016067764A (ja) 2014-09-30 2016-05-09 株式会社ニデック 波面補償付眼底撮影装置
JP2018528830A (ja) 2015-09-11 2018-10-04 サイモン フレーザー ユニバーシティーSimon Fraser University コヒーレンスゲート波面センサレス適応光学系多光子顕微鏡検査、ならびに関連するシステムおよび方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4020714B2 (ja) * 2001-08-09 2007-12-12 オリンパス株式会社 顕微鏡
US10228242B2 (en) * 2013-07-12 2019-03-12 Magic Leap, Inc. Method and system for determining user input based on gesture
JP2015072303A (ja) 2013-10-01 2015-04-16 京セラ株式会社 顕微鏡
US10052018B2 (en) * 2016-04-06 2018-08-21 Canon Kabushiki Kaisha Wavefront measuring method for adaptive optics system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007330582A (ja) 2006-06-16 2007-12-27 Topcon Corp 眼科撮影装置
JP2010259669A (ja) 2009-05-08 2010-11-18 Canon Inc 補償光学系を備えた画像取得装置
JP2016067764A (ja) 2014-09-30 2016-05-09 株式会社ニデック 波面補償付眼底撮影装置
JP2018528830A (ja) 2015-09-11 2018-10-04 サイモン フレーザー ユニバーシティーSimon Fraser University コヒーレンスゲート波面センサレス適応光学系多光子顕微鏡検査、ならびに関連するシステムおよび方法

Also Published As

Publication number Publication date
JPWO2020121633A1 (ja) 2021-10-07
WO2020121633A1 (ja) 2020-06-18
EP3895599A1 (en) 2021-10-20
US20220015626A1 (en) 2022-01-20
EP3895599A4 (en) 2022-09-07

Similar Documents

Publication Publication Date Title
JP6586523B2 (ja) 構造化光を用いた視線追跡
CN107533362B (zh) 眼睛跟踪设备和用于操作眼睛跟踪设备的方法
WO2014203440A1 (ja) 画像表示装置および画像表示方法
WO2010047034A1 (ja) 眼底の断層撮影を行う撮影制御装置、撮影装置、撮影制御方法、プログラム、記憶媒体
JP2018505458A (ja) 目追跡システム及び利き目を検出する方法
JP2008161406A (ja) 眼科装置
JP4920461B2 (ja) 波面収差補正装置
JP2009504294A (ja) 眼科学機器に適用される眼の収差を補正する方法及びシステム
JP2008220771A (ja) 波面収差補正装置
JP2013169309A (ja) 画像形成装置及び画像形成方法
JP7205550B2 (ja) 光学装置、及び制御装置
JP2019208852A (ja) 眼科画像処理装置、および眼科画像処理プログラム
JP2015094788A (ja) 表示装置および表示制御プログラム
CN111989030B (zh) 图像处理方法、程序及图像处理装置
JP6808527B2 (ja) 眼科装置及び眼科測定方法
CN115702378A (zh) 图像显示装置和图像显示方法
JP2017189617A (ja) 撮像装置の制御方法、コンピューター可読媒体、及び撮像装置を制御するコントローラー
JP2022550007A (ja) 眼球収差解析システム及び方法のためのドライアイ緩和
KR20070062617A (ko) 동공 크기 실측 방법 및 장치
JP6961065B2 (ja) 眼科装置及び眼科測定方法
JP2017185229A (ja) 光学撮像装置を制御する方法、これを記憶する記憶媒体、コントローラー、及び光学撮像装置
US20230045580A1 (en) An eye tracking device and method thereof
IL294277A (en) Eye tracking device and method therefor
JP2022001308A (ja) 眼科装置及び眼科測定方法
JP2021182697A (ja) 撮像装置、撮像装置の制御方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210510

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220405

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221212

R150 Certificate of patent or registration of utility model

Ref document number: 7205550

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150