JP6667393B2 - 拡大観察装置 - Google Patents

拡大観察装置 Download PDF

Info

Publication number
JP6667393B2
JP6667393B2 JP2016144936A JP2016144936A JP6667393B2 JP 6667393 B2 JP6667393 B2 JP 6667393B2 JP 2016144936 A JP2016144936 A JP 2016144936A JP 2016144936 A JP2016144936 A JP 2016144936A JP 6667393 B2 JP6667393 B2 JP 6667393B2
Authority
JP
Japan
Prior art keywords
image data
light
unit
original image
observation target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016144936A
Other languages
English (en)
Other versions
JP2018013734A (ja
Inventor
晋吾 松村
晋吾 松村
政寛 猪俣
政寛 猪俣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Keyence Corp
Original Assignee
Keyence Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Keyence Corp filed Critical Keyence Corp
Priority to JP2016144936A priority Critical patent/JP6667393B2/ja
Priority to US15/646,444 priority patent/US10302931B2/en
Publication of JP2018013734A publication Critical patent/JP2018013734A/ja
Application granted granted Critical
Publication of JP6667393B2 publication Critical patent/JP6667393B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • G02B21/08Condensers
    • G02B21/082Condensers for incident illumination only
    • G02B21/084Condensers for incident illumination only having annular illumination around the objective
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/18Arrangements with more than one light path, e.g. for comparing two specimens
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/362Mechanical details, e.g. mountings for the camera or image sensor, housings
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/368Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements details of associated display arrangements, e.g. mounting of LCD monitor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/671Focus control based on electronic image sensor signals in combination with active ranging signals, e.g. using light or sound signals emitted toward objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Microscoopes, Condenser (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Stroboscope Apparatuses (AREA)
  • Automatic Focus Adjustment (AREA)

Description

本発明は、観察対象物を拡大して観察する拡大観察装置に関する。
観察対象物を拡大して観察するために、拡大観察装置が用いられることがある(例えば特許文献1参照)。特許文献1に記載された顕微鏡システムにおいては、明視野照明光および暗視野照明光が対物レンズを通してステージ上の標本に照射される。ここで、明視野照明光は対物レンズの光軸と平行な方向に出射される照明光であり、暗視野照明光は対物レンズの光軸に対して傾斜した方向に出射される照明光である。標本で反射された観察光が結像レンズを通して撮像装置に入射することにより標本が撮像される。
特開2013−72971号公報
特許文献1に記載された顕微鏡システムにおいては、明視野照明光に対する露光時間と暗視野照明光に対する露光時間との比に応じて、一方の照明光の照明強度が相対的に小さくされる。これにより、明視野照明光の強度と暗視野照明光の強度とが揃えられる。その結果、特許文献1には、明視野照明光と暗視野照明光とを同時に照射した標本を観察するうえで、最も適した照明強度において標本の観察を行うことが可能となると記載されている。また、使用者は、照明強度が最適化された状態の画像から直感的に明視野照明光と暗視野照明光との照明強度の比率を調整することも可能である。
しかしながら、照明強度等の適切な撮像条件は、観察対象物の形状および材質により異なる。そのため、熟練していない使用者には、適切な撮像条件において撮像された画像を取得することは困難である。また、事後的に撮像条件が適切ではなかったことが判明する場合がある。このような場合、異なる撮像条件において観察対象物の撮像を再度行う必要があり、使用者の負担が増加する。
本発明の目的は、使用者の要求に応じた観察対象物の画像を容易に取得することが可能な拡大観察装置を提供することである。
(1)発明に係る拡大観察装置は、対物レンズと、観察対象物に互いに異なる第1および第2の出射方向の光を選択的に照射する投光部と、観察対象物からの光を対物レンズを介して受光し、観察対象物の画像を示す第1または第2の原画像データを生成する撮像部と、対物レンズを通過した光の焦点位置を観察対象物に対して相対的に対物レンズの光軸方向に変化させる焦点位置変化部と、使用者により入力される特定の出射方向に応じて、特定の出射方向の光が観察対象物に照射されたと仮定した場合に得られるべき観察対象物の画像を示す表示用画像データを生成するデータ生成部とを備え、第1の光照射時に、第1の出射方向の光を投光部が観察対象物に照射するとともに撮像部が焦点位置変化部による異なる複数の焦点位置で複数の第1の原画像データを生成し、第2の光照射時に、第2の出射方向の光を投光部が観察対象物に照射するとともに撮像部が焦点位置変化部による異なる複数の焦点位置で複数の第2の原画像データを生成し、データ生成部は、複数の第1の原画像データに基づいて第1の合焦画像データを取得するとともに、複数の第2の原画像データに基づいて第2の合焦画像データを取得し、特定の出射方向に基づいて第1および第2の合焦画像データの合成の割合を決定し、決定された割合で第1の合焦画像データおよび第2の合焦画像データを合成することにより表示用画像データを生成する。
この拡大観察装置においては、投光部から観察対象物に第1の出射方向の光が照射される。この状態で、焦点位置変化部により対物レンズを通過した光の焦点位置が観察対象物に対して相対的に対物レンズの光軸方向に変化されつつ観察対象物からの光が対物レンズを介して撮像部に受光される。これにより、複数の焦点位置で観察対象物の画像をそれぞれ示す複数の第1の原画像データが生成される。
また、投光部から観察対象物に第1の出射方向とは異なる第2の出射方向の光が照射される。この状態で、焦点位置変化部により対物レンズを通過した光の焦点位置が観察対象物に対して相対的に対物レンズの光軸方向に変化されつつ観察対象物からの光が対物レンズを介して撮像部に受光される。これにより、複数の焦点位置で観察対象物の画像をそれぞれ示す複数の第2の原画像データが生成される。
さらに、複数の第1の原画像データに基づいて第1の合焦画像データが取得され、複数の第2の原画像データに基づいて第2の合焦画像データが取得される。また、使用者により入力される特定の出射方向の指定に応じて、特定の出射方向の光が観察対象物に照射されたと仮定した場合に得られるべき観察対象物の画像を示す表示用画像データが、第1および第2の合焦画像データ基づいてデータ生成部により生成される。
この構成によれば、投光部から互いに異なる第1および第2の出射方向の光が観察対象物に照射される。そのため、使用者は、出射方向を任意に指定することにより観察対象物の形状および材質に応じた適切な出射方向の光が観察対象物に照射されたときの画像を示す表示用画像データを生成することができる。また、表示用画像データ第1および第2の合焦画像データ基づいて生成されるので、全体的に合焦度が大きい画像を示す表示用画像データを生成することができる。これにより、使用者の要求に応じた観察対象物の画像を容易に取得することができる。
また、データ生成部は、特定の出射方向に基づいて第1および第2の合焦画像データの合成の割合を決定し、決定された割合で第1および第2の合焦画像データを合成することにより表示用画像データを生成する。これにより、任意の出射方向の光が観察対象物に照射されるときの観察対象物の画像を示す表示用画像データを容易に生成することができる。
(2)拡大観察装置は、撮像部により生成される第1または第2の原画像データの部分ごとの合焦度を判定する合焦判定部をさらに備え、データ生成部は、合焦判定部による合焦度の判定に基づいて複数の第1の原画像データの部分を選択的に合成することにより観察対象物の各部分に焦点が合った画像を示す第1の合焦画像データを生成し、合焦判定部による合焦度の判定に基づいて複数の第2の原画像データの部分を選択的に合成することにより観察対象物の各部分に焦点が合った画像を示す第2の合焦画像データを生成してもよい。この場合、使用者は、観察対象物の各部分に焦点が合った画像を観察することができる。
(3)データ生成部は、第1の合焦画像データの部分と複数の第1の原画像データの部分との対応関係を示す対応関係データを生成し、生成された対応関係データに基づいて複数の第2の原画像データから第2の合焦画像データを生成してもよい。
この場合、合焦判定部は、第2の合焦画像データを生成する際に、複数の第2の原画像データについて画素ごとの合焦度を判定する必要がない。これにより、第2の合焦画像データを高速に生成することができる。
(4)撮像部による複数の第1または第2の原画像データの生成とデータ生成部による第1または第2の合焦画像データの生成とは並列して行われてもよい。この場合、表示用画像データを高速に生成することができる。
(5)拡大観察装置は、撮像部により生成される第1または第2の原画像データの合焦度を判定する合焦判定部をさらに備え、データ生成部は、合焦判定部による合焦度の判定に基づいて複数の第1の原画像データのいずれかを第1の合焦画像データとして抽出し、合焦判定部による合焦度の判定に基づいて複数の第2の原画像データのいずれかを第2の合焦画像データとして抽出してもよい。この場合、予め定められた合焦度を有する第1および第2の合焦画像データを高速に生成することができる。
(6)拡大観察装置は、対物レンズの光軸方向における光の焦点位置の範囲を指定するために使用者により操作される第1の操作部をさらに備え、焦点位置変化部は、第1の操作部により指定された範囲において光の焦点位置を対物レンズの光軸方向に変化させてもよい。
この場合、使用者は、第1の操作部を操作して対物レンズの光軸方向における光の焦点位置の範囲を指定することができる。そのため、焦点位置変化部は過度に大きい範囲で光の焦点位置を変化させる必要がない。これにより、複数の第1および第2の原画像データを高速に生成することができる。
(7)拡大観察装置は、使用者による観察の開始の指示を受け付ける第2の操作部と、第2の操作部により受け付けた指示に応答して、光の焦点位置が第1の位置になるように焦点位置変化部を制御しつつ第1および第2の光照射時にそれぞれ第1および第2の出射方向の光を順次出射するように投光部を制御した後、光の焦点位置が対物レンズの光軸方向において第1の位置とは異なる第2の位置になるように焦点位置変化部を制御しつつ第1および第2の光照射時にそれぞれ第1および第2の出射方向の光を順次出射するように投光部を制御する制御部とをさらに備えてもよい。
この場合、第2の操作部が使用者から観察の開始の指示を受け付けることにより、光の焦点位置が第1の位置に自動的に移動され、投光部から観察対象物に第1および第2の出射方向の光が自動的に順次照射される。その後、光の焦点位置が第2の位置に自動的に移動され、観察対象物に第1および第2の出射方向の光が自動的に順次照射される。そのため、使用者が熟練していない場合でも、複数の第1および第2の原画像データを容易に生成することができる。
(8)拡大観察装置は、使用者による観察の開始の指示を受け付ける第2の操作部と、第2の操作部により受け付けた指示に応答して、第1の光照射時に光の焦点位置が対物レンズの光軸方向において異なる第1および第2の位置に順次変化するように焦点位置変化部を制御しつつ第1の出射方向の光を出射するように投光部を制御した後、第2の光照射時に光の焦点位置が第1および第2の位置に順次変化するように焦点位置変化部を制御しつつ第2の出射方向の光を出射するように投光部を制御する制御部とをさらに備えてもよい。
この場合、第2の操作部が使用者から観察の開始の指示を受け付けることにより、投光部から観察対象物に第1の出射方向の光が自動的に照射されつつ、光の焦点位置が第1および第2の位置に自動的に順次移動される。その後、投光部から観察対象物に第2の出射方向の光が自動的に照射されつつ、光の焦点位置が第1および第2の位置に自動的に順次移動される。そのため、使用者が熟練していない場合でも、複数の第1および第2の原画像データを容易に生成することができる。
(9)撮像部は、受光時間が複数変化された状態で第1および第2の原画像データを生成し、データ生成部は、各焦点位置について受光時間が複数変化された状態で撮像部により生成される複数の第1の原画像データおよび各焦点位置について受光時間が複数変化された状態で撮像部により生成される複数の第2の原画像データのうち少なくとも一部に基づいてダイナミックレンジが調整された表示用画像データを生成してもよい。
表示用画像データのダイナミックレンジが拡大されるように調整された場合には、使用者は、黒つぶれおよびハレーション(白とび)が低減された画像を観察することができる。表示用画像データのダイナミックレンジが縮小されるように調整された場合には、使用者は、分解能が向上された画像を観察することができる。
(10)投光部は、対物レンズの光軸を中心に回転対称に配置された複数の光出射領域を有し、第1の光照射時に複数の光出射領域から同時に光を出射することにより第1の出射方向の光を観察対象物に照射し、第2の光照射時に複数の光出射領域の一部から光を出射することにより第2の出射方向の光を観察対象物に照射してもよい。
この場合、投光部は、複数の光出射領域から均一な出射方向の光を第1の出射方向の光として容易に出射することができる。また、投光部は、複数の光出射領域の一部から第1の出射方向とは異なる第2の出射方向の光を容易に出射することができる。さらに、複数の光出射領域は対物レンズの光軸を中心に回転対称に配置されるので、第1および第2の原画像データに基づいて演算により表示用画像データを生成する場合には、その演算を単純化することができる。
(11)複数の光出射領域の各々には、1以上の光出射部材が設けられてもよい。この場合、投光部は、複数の光出射領域の各々から容易に光を出射することができる。
12)拡大観察装置は、特定の出射方向を指定するために使用者により操作される第3の操作部をさらに備え、データ生成部は、第3の操作部により指定された特定の出射方向に対応して生成する表示用画像データを更新してもよい。この場合、使用者は、第3の操作部を操作して観察対象物の形状および材質に応じた適切な出射方向を指定することにより、使用者の要求に応じた観察対象物の画像を示す表示用画像データを容易に取得することができる。
13)拡大観察装置は、特定の出射方向を指定するために使用者により操作される操作部をさらに備え、操作部により指定された特定の出射方向に基づいて第1および第2の出射方向を含む複数の出射方向の光を投光部が観察対象物に照射するとともに撮像部が焦点位置変化部による異なる複数の焦点位置で第1および第2の原画像データを含む複数の原画像データを生成し、データ生成部は、複数の原画像データに基づいて第1および第2の合焦画像データを含む複数の合焦画像データを取得し、複数の出射方向および特定の出射方向に基づいて、複数の合焦画像データの合成の割合を決定し、決定された割合で複数の合焦画像データを合成することにより表示用画像データを生成してもよい
この場合、操作部が使用者により操作されることにより、特定の出射方向が指定される。操作部により指定された特定の出射方向に基づいて、第1および第2の出射方向を含む複数の出射方向の光が投光部から観察対象物に照射される。この状態で、焦点位置変化部により対物レンズを通過した光の焦点位置が観察対象物に対して相対的に対物レンズの光軸方向に変化されつつ観察対象物からの光が対物レンズを介して撮像部に受光される。これにより、複数の焦点位置で第1および第2の原画像データを含む複数の原画像データが生成される。複数の原画像データに基づいて第1および第2の合焦画像データを含む複数の合焦画像データが取得される。操作部により指定された特定の出射方向の光が観察対象物に照射されたと仮定した場合に得られるべき観察対象物の画像を示す表示用画像データが複数の合焦画像データ基づいてデータ生成部により生成される。
この構成によれば、投光部から互いに異なる複数の出射方向の光を観察対象物に照射可能である。そのため、使用者は、観察対象物の形状および材質に応じて適切に指定された出射方向の光が観察対象物に照射されたときの画像を示す表示用画像データを生成することができる。また、表示用画像データ複数の合焦画像データ基づいて生成されるので、全体的に合焦度が大きい画像を示す表示用画像データを生成することができる。これにより、使用者の要求に応じた観察対象物の画像を容易に取得することができる。
さらに、複数の原画像データが生成される前に光の仮想的な出射方向が操作部により受け付けられるので、表示用画像データを生成するために観察対象物に照射すべき出射方向の光が既知である。したがって、不要な出射方向の光を観察対象物に照射することおよび不要な原画像データを生成することが回避される。これにより、表示用画像データを高速に生成することができる。
本発明によれば、使用者の要求に応じた観察対象物の画像を容易に取得することができる。
本発明の第1の実施の形態に係る拡大観察装置の構成を示す模式図である。 図1の制御装置の構成を示すブロック図である。 投光部の構成を示す斜視図および平面図である。 投光部の配置例を示す模式図である。 測定ヘッドの外観斜視図および鏡筒部の構成を示す模式図である。 焦点駆動部の構成例を示す模式図である。 ステージ装置の構成を示す模式図である。 画像データの連結時における仮想的な投光部の位置を説明するための図である。 図2の演算処理部の構成を示すブロック図である。 ステージの載置面上に定義される極座標系を示す図である。 複数照明撮像が指示されたときの拡大観察装置の基本動作を説明するための模式図である。 観察画面の一表示例を示す図である。 光の仮想的な出射方向の指定に応答して観察対象物の画像が更新されるときの処理内容を説明するための模式図である。 主表示領域および副表示領域にそれぞれ光アイコンが表示される例を示す図である。 観察画面の他の表示例を示す図である。 観察画面のさらに他の表示例を示す図である。 複数照明撮像処理の一例を示すフローチャートである。 表示用画像生成処理の一例を示すフローチャートである。 表示用画像生成処理の一例を示すフローチャートである。 深度合成処理の概念図である。 マスクイメージデータを視覚的に示す図である。 深度合成処理の一例を示すフローチャートである。 深度合成処理の一例を示すフローチャートである。 深度合成処理の一例を示すフローチャートである。 深度合成処理の他の例を示すフローチャートである。 深度合成処理の他の例を示すフローチャートである。 深度合成処理の他の例を示すフローチャートである。 DR調整処理の一例を示すフローチャートである。 DR調整処理の一例を示すフローチャートである。 DR調整処理の他の例を示すフローチャートである。 DR調整処理の他の例を示すフローチャートである。 連結画像データを視覚的に示す図である。 連結処理を説明するための図である。 連結処理の一例を示すフローチャートである。 連結処理の一例を示すフローチャートである。 連結処理の他の例を示すフローチャートである。 連結処理の他の例を示すフローチャートである。 複数照明撮像により取得される観察対象物の複数の画像の一部にハレーションが発生している例を示す図である。 ハレーション低減処理が指示されたときの観察画面の表示状態の一例を示す図である。 ハレーション低減処理後の観察画面の表示状態の一例を示す図である。 複数の方向性照明による撮像を繰り返し実行しつつ原画像データが生成されるごとに飽和低減画像データを生成するハレーション低減処理の概念図である。 ハレーション低減処理の一例を示すフローチャートである。 ハレーション低減処理と深度合成処理とを組み合わせて使用する場合の使用例を示す図である。 ハレーション低減処理とDR調整処理とを組み合わせて使用する場合の使用例を示す図である。 本発明の第2の実施の形態に係る拡大観察装置の構成を示す模式図である。 第2の実施の形態に係る複数照明撮像処理後の観察画面の一表示例を示す図である。 本発明の第3の実施の形態に係る拡大観察装置の構成を示す模式図である。 第3の実施の形態に係る複数照明撮像処理後の観察画面の一表示例を示す図である。 投光部の変形例を示す模式図である。
[1]第1の実施の形態
(1)拡大観察装置の構成
(a)測定ヘッド
以下、本発明の第1の実施の形態に係る拡大観察装置について、図を参照しながら説明する。図1は、本発明の第1の実施の形態に係る拡大観察装置の構成を示す模式図である。図1に示すように、拡大観察装置1は、測定ヘッド100および処理装置200を備える。測定ヘッド100は、例えば顕微鏡であり、スタンド部110、ステージ装置120、鏡筒部130、投光部140および制御基板150を含む。
スタンド部110は、縦断面がL字形状を有し、設置部111、保持部112および焦点駆動部113を含む。設置部111および保持部112は、例えば樹脂により形成される。設置部111は、水平な平板形状を有し、設置面に設置される。保持部112は、設置部111の一端部から上方に延びるように設けられる。
ステージ装置120は、ステージ121およびステージ駆動部122を含む。ステージ121は、設置部111の上面に設けられる。ステージ121上には、観察対象物Sが載置される。観察対象物Sが載置されるステージ121上の平面(以下、載置面と呼ぶ。)内で互いに直交する2方向をX方向およびY方向と定義し、それぞれ矢印X,Yで示す。ステージ121の載置面に対して直交する法線の方向をZ方向と定義し、矢印Zで示す。Z方向に平行な軸を中心に回転する方向をθ方向と定義し、矢印θで示す。
ステージ駆動部122は、ステッピングモータ等の図示しないアクチュエータを含む。ステージ駆動部122は、制御基板150により与えられる駆動パルスに基づいて、ステージ121をX方向、Y方向もしくはZ方向に移動させるか、またはθ方向に回転させる。また、使用者は、手動によりステージ121をX方向、Y方向もしくはZ方向に移動させるか、またはθ方向に回転させることも可能である。
鏡筒部130は、レンズユニット131および撮像部132を含み、ステージ121の上方に配置される。レンズユニット131は、観察対象物Sの種類に応じて他のレンズユニットと交換可能である。レンズユニット131は、対物レンズ131aおよび図示しない複数のレンズにより構成される。対物レンズ131aの光軸A1は、Z方向に平行である。撮像部132は、例えばCMOS(相補性金属酸化膜半導体)カメラを含む。撮像部132は、CCD(電荷結合素子)カメラ等の他のカメラを含んでもよい。
鏡筒部130は、スタンド部110の焦点駆動部113により保持部112に取り付けられる。焦点駆動部113は、ステッピングモータ等の図示しないアクチュエータを含む。焦点駆動部113は、制御基板150により与えられる駆動パルスに基づいて、レンズユニット131を対物レンズ131aの光軸A1の方向(Z方向)に移動させる。これにより、レンズユニット131を通過した光の焦点位置がZ方向に変化する。また、使用者は、手動によりレンズユニット131を対物レンズ131aの光軸A1の方向に移動させることも可能である。
投光部140は、対物レンズ131aの光軸A1を取り囲むようにレンズユニット131に一体的に取り付けられる。これにより、投光部140とレンズユニット131との位置関係を一意的に決定することができる。また、拡大観察装置1に投光部140を保持する部材を追加する必要がないので、拡大観察装置1をコンパクト化することができる。投光部140の光軸A2(後述する図3)は、対物レンズ131aの光軸A1と略同一である。
投光部140からステージ121上の観察対象物Sに複数の出射方向の光が照射される。観察対象物Sによりステージ121の上方に反射された光は、レンズユニット131により集光および結像された後、撮像部132により受光される。撮像部132は、各画素の受光量に対応する画素データに基づいて画像データを生成する。投光部140により複数の出射方向の光が観察対象物Sに照射されたときに撮像部132によりそれぞれ生成される複数の画像データの各々を原画像データと呼ぶ。撮像部132は、生成した複数の原画像データを制御装置400に与える。
制御基板150は、例えばスタンド部110の保持部112内に設けられ、焦点駆動部113、ステージ駆動部122および撮像部132に接続される。制御基板150は、処理装置200による制御に基づいて焦点駆動部113およびステージ駆動部122の動作を制御する。撮像部132には、制御装置400から制御信号が入力される。また、撮像部132により生成された複数の原画像データは、ケーブル203を介して順次処理装置200に与えられる。
(b)処理装置
処理装置200は、筐体210、光生成部300および制御装置400を含む。筐体210は、光生成部300および制御装置400を収容する。光生成部300は、ファイバユニット201により測定ヘッド100の投光部140に光学的に接続される。ファイバユニット201は、図示しない複数の光ファイバを含む。
光生成部300は、光源310および遮光部320を含む。光源310は、例えばLED(発光ダイオード)である。光源310は、ハロゲンランプ等の他の光源であってもよい。遮光部320は、光源310により出射される光を部分的に遮光可能に光源310とファイバユニット201との間に配置される。光源310により出射された光は、遮光部320を通過してファイバユニット201へ入射する。これにより、ファイバユニット201を通して測定ヘッド100の投光部140から光が出射される。
図2は、図1の制御装置400の構成を示すブロック図である。図2に示すように、制御装置400は、制御部410、記憶部420、表示部430、操作部440および通信部450を含む。制御部410は、例えばCPU(中央演算処理装置)を含む。記憶部420は、例えばROM(リードオンリメモリ)、RAM(ランダムアクセスメモリ)またはHDD(ハードディスクドライブ)を含む。本実施の形態においては、制御部410および記憶部420は、パーソナルコンピュータにより実現される。
制御部410は、駆動制御部500および演算処理部600を含む。記憶部420には、システムプログラムが記憶される。また、記憶部420は、種々のデータの処理および制御部410から与えられる種々のデータの保存のために用いられる。駆動制御部500および演算処理部600の機能は、制御部410が記憶部420に記憶されるシステムプログラムを実行することにより実現される。
駆動制御部500は、投光制御部510、撮像制御部520、焦点制御部530およびステージ制御部540を含む。投光制御部510は、ケーブル202を通して図1の光生成部300に接続され、光生成部300の動作を制御する。撮像制御部520、焦点制御部530およびステージ制御部540は、ケーブル203を通して図1の測定ヘッド100の制御基板150に接続される。
撮像制御部520、焦点制御部530およびステージ制御部540は、制御基板150を通して撮像部132、焦点駆動部113およびステージ駆動部122の動作をそれぞれ制御する。また、撮像制御部520は、撮像部132により生成された複数の原画像データを順次演算処理部600に与える。
演算処理部600は、取得した複数の原画像データの少なくとも1つに基づいて、使用者により指定された出射方向の光が観察対象物Sに照射されたと仮定した場合に得られるべき観察対象物Sの画像を示す表示用画像データを生成することができる。演算処理部600の詳細については後述する。演算処理部600により取得された複数の原画像データおよび生成された表示用画像データは、記憶部420に記憶される。
表示部430は、例えばLCD(液晶ディスプレイ)パネルにより構成される。表示部430は、有機EL(エレクトロルミネッセンス)パネル等の他の表示部により構成されてもよい。表示部430は、記憶部420に記憶された画像データまたは演算処理部600により生成された画像データに基づく画像等を表示する。操作部440は、マウス、タッチパネル、トラックボールまたはジョイスティック等のポインティングデバイスおよびキーボードを含み、制御装置400に指示等を与えるために使用者により操作される。また、操作部440はポインティングデバイスおよびキーボードに加えてジョグシャトルを含んでもよいし、鏡筒部130およびステージ121を上下方向に移動させるための回転中心が水平方向を向くダイヤル状の操作手段を含んでもよい。
通信部450は、制御装置400をネットワークに接続するためのインターフェースを含む。図1の例では、表示機能を有する外部装置2がネットワークに接続されている。制御装置400は、通信部450を介して表示機能を有する外部装置2に画像データを送信することが可能である。外部装置2の使用者は、通信部450を介して汎用的な画像ファイル形式で記憶された画像データを制御装置400から取得し、当該画像データに基づく画像を外部装置2に表示させることができる。
(c)投光部
図3(a),(b)は、それぞれ投光部140の構成を示す斜視図および平面図である。図3(a)に示すように、投光部140は、保持部材141および複数の光ファイバ142を含む。保持部材141は、例えば樹脂により形成され、円筒形状を有する。平面視における保持部材141の外径は、図1のステージ121の寸法よりも小さい。保持部材141は、図1の対物レンズ131aの光軸A1を取り囲むように配置される。
保持部材141には、上面から下面に貫通する複数の貫通孔141aが形成される。複数の貫通孔141aは、略等間隔で配置され、対物レンズ131aの光軸A1を中心に回転対称に位置する。複数の光ファイバ142は、複数の貫通孔141a内にそれぞれ挿通される。これにより、複数の光ファイバ142は保持部材141により一体的に保持される。各光ファイバ142における光の入射部および出射部は、保持部材141の上面および下面にそれぞれ位置する。これにより、保持部材141の下面に光出射部140oが形成される。
複数の光ファイバ142は、対物レンズ131aの光軸A1を中心とする1つの円周上に配置される。そのため、対物レンズ131aの光軸A1から複数の光ファイバ142における出射部までの距離は略等しい。各光ファイバ142における出射部とステージ121の中心とを結ぶ線が対物レンズ131aの光軸A1に対して成す角度は鋭角である。本実施の形態においては、保持部材141が複数の光ファイバ142を一体的に保持することにより、上記の複数の光ファイバ142の位置関係が容易に維持される。
図3(b)に示すように、投光部140の円環状の光出射部140oは、複数(本例では4つ)の領域140A,140B,140C,140Dに略等分される。複数の領域140A〜140Dは、対物レンズ131aの光軸A1を中心に回転対称に配置される。複数の領域140A〜140Dは、略同数の光ファイバ142の出射部を含む。
複数の光ファイバ142の入射部は、図1のファイバユニット201により処理装置200の光生成部300に光学的に接続される。これにより、光生成部300から出射された光が、保持部材141の上面から複数の光ファイバ142の入射部に入射し、複数の光ファイバ142の出射部を通して保持部材141の下面の光出射部140oから出射される。すなわち、各領域140A〜140Dに含まれる光ファイバ142が光出射部140oから光を出射することにより、各領域140A〜140Dから光が出射される。
図1の遮光部320は、投光部140の領域140A〜140Dにそれぞれ対応する複数の開口パターンを有するマスクを含む。図1の光源310により出射された光は、遮光部320のいずれかの開口パターンを通過してファイバユニット201へ入射する。図2の投光制御部510は、光を通過させる遮光部320の開口パターンを切り替えることにより、投光部140における光を出射する領域140A〜140Dを切り替える。これにより、投光部140は、領域140A〜140Dの全体から光を出射可能であるとともに、領域140A〜140Dのいずれかから選択的に光を出射可能である。
このように、投光部140は出射方向が互いに異なる光を観察対象物Sに照射することができる。領域140A〜140Dの全体から同時に出射される光をリング照明と呼び、領域140A〜140Dのいずれか1つの領域から出射される光を方向性照明と呼ぶ。本実施の形態においては、投光部140は、リング照明および4つの方向性照明のいずれかを選択的に出射可能である。したがって、図1の撮像部132は、リング照明および4つの方向性照明がそれぞれ観察対象物Sに照射されたときの観察対象物Sを示す5つの原画像データを生成可能である。
また、演算処理部600は、5つの原画像データに基づいてハレーション成分が低減された観察対象物Sの画像を示す飽和低減画像データを生成し、生成された飽和低減画像データに基づく観察対象物Sの画像を表示部430に表示させることができる(ハレーション低減処理)。
4つの方向性照明は、対物レンズ131aの光軸A1を中心にθ方向に約90°異なる4つの位置(領域140A〜140D)からそれぞれ出射される光であり、対物レンズ131aの光軸A1を中心に回転対称となる。したがって、各方向性照明は、対物レンズ131aの光軸A1に対して偏りを有する。4つの方向性照明は、対物レンズ131aの光軸A1に対して傾斜しかつ互いに異なる方向に出射される。4つの方向性照明の光量は互いに略等しい。対物レンズ131aの光軸A1に対する4つの方向性照明の照射の角度は、θ方向により均一ではない。
一方、リング照明は、対物レンズ131aの光軸A1に対して偏らない光であり、その中心は対物レンズ131aの光軸A1に略一致する。したがって、リング照明は、実質的に対物レンズ131aの光軸A1の方向に出射される。リング照明は、対物レンズ131aの光軸A1を中心に略均一な光量分布を有し、リング照明の光量は4つの方向性照明の光量の総和に略等しい。すなわち、リング照明の光量は各方向性照明の光量の約4倍である。対物レンズ131aの光軸A1に対するリング照明の照射の角度は、θ方向により均一である。
このように、本実施の形態においては、複数の領域140A〜140Dが対物レンズ131aの光軸A1を中心に回転対称に配置される。これにより、複数の原画像データに基づいて演算により表示用画像データを生成する場合には、その演算を単純化することができる。
本実施の形態においては、投光部140の各領域140A〜140Dに光出射部材として光ファイバ142が設けられるが、本発明はこれに限定されない。投光部140の各領域140A〜140Dに光出射部材としてLED等の光源が設けられてもよい。この場合、処理装置200に光生成部300が設けられない。この構成においては、各領域140A〜140Dに設けられた1または複数の光源が光を出射することにより、各領域140A〜140Dから光が出射される。
図4(a)〜(c)は、投光部140の配置例を示す模式図である。本実施の形態においては、図4(a)に示すように、投光部140はレンズユニット131に取り付けられる。本発明はこれに限定されず、図4(b)に示すように、投光部140はステージ121上に配置されてもよい。あるいは、図4(c)に示すように、投光部140は、ステージ121とレンズユニット131との間に配置され、保持部114によりスタンド部110に保持されてもよい。
さらに、本実施の形態においては、投光部140に4つの光を出射する領域140A〜140Dが設けられるが、本発明はこれに限定されない。投光部140に3つ以下または5つ以上の光を出射する領域が設けられてもよい。
また、本実施の形態においては、複数の光出射部材(光ファイバ142)が対物レンズ131aの光軸A1を中心とする1つの円周上に配置されるが、本発明はこれに限定されない。複数の光出射部材は、対物レンズ131aの光軸A1を中心とする2つ以上の同心円上に配置されてもよい。さらに、本実施の形態においては、各領域140A〜140Dに複数の光出射部材が配置されるが、本発明はこれに限定されない。各領域140A〜140Dに1つの光出射部材が配置されてもよい。
上記実施の形態において、投光部140は、複数の光出射領域の位置関係が変化しないようにユニットとして構成されるが、本発明はこれに限定されない。投光部140は、複数の光出射領域の位置関係が変化可能に構成されてもよい。
(d)鏡筒部
図5(a),(b)は、それぞれ測定ヘッド100の外観斜視図および鏡筒部130の構成を示す模式図である。図5(a)に示すように、測定ヘッド100は鏡筒部130をステージ121に対して傾斜させるための傾斜機構101を含む。傾斜機構101は、Y方向に直交する平面内で保持部112の下部に対して保持部112の上部を支持する。これにより、傾斜機構101は、傾斜中心130cの周りで鏡筒部130をステージ121に対して傾斜させることができる。図5(b)においては、傾斜後の鏡筒部130が一点鎖線で示される。
ステージ121は、図2のステージ制御部540による制御に基づいて、観察対象物Sの表面が鏡筒部130の傾斜中心130cと略同一の高さに位置するようにZ方向に移動する。そのため、鏡筒部130を傾斜させた場合でも、撮像部132の視野が移動しないユーセントリック関係が維持され、観察対象物Sの所望の観察領域が撮像部132の視野から外れることを防止することができる。
図5(b)に示すように、鏡筒部130は、レンズユニット131、撮像部132および傾斜センサ133を含む。撮像部132は、図2の撮像制御部520による制御に基づいてステージ121の載置面に載置された観察対象物Sからの光をレンズユニット131を介して受光し、原画像データを生成する。
撮像制御部520は、撮像部132の受光時間、ゲインおよびタイミング等を制御する。例えば、撮像制御部520は、リング照明の照射時における受光時間に基づいて各方向性照明の照射時における受光時間を調整する。本例では、上述したように、リング照明の光量は各方向性照明の光量の約4倍であるので、撮像制御部520は各方向性照明の照射時における受光時間がリング照明の照射時における受光時間の4倍になるように調整する。
この制御によれば、撮像部132は、各方向性照明の照射時における受光時間を独立して調整する場合に比べて高速に原画像データを生成することができる。また、リング照明の照射時における画像と各方向性照明の照射時における画像との明るさを容易に略等しくすることができる。なお、本例では、複数の方向性照明の照射時における撮像部132の制御内容は互いに同一である。
また、撮像部132は、撮像制御部520により受光時間が複数変化された状態で複数の原画像データを生成することができる。図2の演算処理部600は、撮像部132の受光時間が複数変化された状態で生成された複数の原画像データを選択的に合成することにより、ダイナミックレンジが調整された画像データを生成することができる(DR(ダイナミックレンジ)調整処理)。
Z方向に対する対物レンズ131aの光軸A1の傾斜角度(以下、鏡筒部130の傾斜角度と呼ぶ。)は、傾斜センサ133により検出され、傾斜角度に対応する角度信号が図1の制御基板150に出力される。制御基板150は、傾斜センサ133により出力された角度信号を図2のケーブル203および撮像制御部520を介して演算処理部600に与える。演算処理部600は、角度信号に基づいて、鏡筒部130の傾斜角度を算出する。演算処理部600により算出された傾斜角度は、図1の表示部430に表示させることができる。
上記の構成によれば、ステージ121の載置面に載置された観察対象物Sの平面観察および傾斜観察を選択的に行うことができる。平面観察時には、対物レンズ131aの光軸A1はZ方向に平行になる。すなわち、鏡筒部130の傾斜角度が0°になる。一方、傾斜観察時には、対物レンズ131aの光軸A1はZ方向に対して傾斜する。また、使用者は、鏡筒部130を図1のスタンド部110から取り外し、手持ちまたは他の固定部材により固定した状態で観察対象物Sの観察を行うことができる。以下の説明においては、観察対象物Sの平面観察が行われる。
(e)焦点駆動部
図2の焦点制御部530は、レンズユニット131を通過した観察対象物Sからの光の焦点位置が観察対象物Sに対して相対的にZ方向に変化するように図1の焦点駆動部113を制御する。これにより、図1の撮像部132は、Z方向に位置が異なる観察対象物Sを示す複数の原画像データを生成することができる。
この処理において、使用者は、焦点駆動部113がZ方向に移動する範囲を指定することができる。移動範囲が指定された場合、焦点制御部530は、指定された移動範囲で光の焦点位置がZ方向に変化するように焦点駆動部113を制御する。これにより、撮像部132は、Z方向に位置が異なる観察対象物Sを示す複数の原画像データを短時間で生成することができる。
また、演算処理部600は、生成されたZ方向に位置が異なる観察対象物Sを示す複数の原画像データの各々について、画素ごとの合焦度を判定することができる。焦点制御部530は、演算処理部600による合焦度の判定結果に基づいて、撮像部132の焦点が観察対象物Sの特定の部分に合うように焦点駆動部113を調整することができる(オートフォーカス処理)。さらに、演算処理部600は、合焦度の判定結果に基づいて複数の原画像データを画素ごとに選択的に合成することにより、観察対象物Sの全部分に合焦した画像データを生成することができる(深度合成処理)。
図6は、焦点駆動部113の構成例を示す図である。本実施の形態においては、投光部140はレンズユニット131に取り付けられる。図6に点線で示すように、レンズユニット131が投光部140と一体的に焦点駆動部113によりZ方向に移動される。また、図6に一点鎖線で示すように、ステージ121が図1のステージ駆動部122によりZ方向に移動される。このように、レンズユニット131および投光部140とステージ121とが相対的にZ方向に移動可能である。
観察対象物Sとレンズユニット131と投光部140とのZ方向の位置関係が変化すると、観察対象物Sへ照明を照射する光源の仰角(後述する図10参照)が変化する。
図6の例においては、投光部140は鏡筒部130に一体的に設けられるが、本発明はこれに限定されない。投光部140は、ユニットとして鏡筒部130に着脱可能に取り付けられてもよい。この場合、θ方向における投光部140とレンズユニット131との角度関係を一定に維持するための位置決め機構がレンズユニット131または投光部140に設けられることが好ましい。
(f)ステージ装置
図7(a)〜(c)は、ステージ装置120の構成を示す図である。図7(a)〜(c)に示すように、ステージ装置120は、ステージ121、ステージ駆動部122および位置センサ123を含む。図2のステージ制御部540は、ステージ121をX方向、Y方向もしくはZ方向に移動させるか、またはθ方向に回転させるようにステージ駆動部122を制御する。図7(a)〜(c)の例では、白抜きの矢印で示すように、ステージ121がX方向に移動される。以下、ステージ121のX方向、Y方向およびZ方向の位置ならびにθ方向の角度を単にステージ121の位置と呼ぶ。
位置センサ123は、例えばリニアエンコーダまたはロータリエンコーダを含み、ステージ121に取り付けられる。ステージ121の位置は、位置センサ123により検出され、位置を示す位置信号が図1の制御基板150に出力される。制御基板150は、位置センサ123により出力された位置信号を図2のケーブル203およびステージ制御部540を介して演算処理部600に与える。演算処理部600は、位置信号に基づいて、ステージ121の位置を算出する。演算処理部600により算出された位置は、図1の表示部430に表示させることができる。
このように、ステージ121に位置センサ123が取り付けられるが、本発明はこれに限定されない。ステージ121に位置センサ123が取り付けられなくてもよい。この場合、ステージ121の位置を示す目盛りがステージ121に付されていてもよい。また、演算処理部600が図1の制御基板150からステージ駆動部122への駆動パルスの数に基づいてステージ121の位置を算出する場合には、ステージ121に位置センサ123を取り付ける必要がない。
演算処理部600は、X方向またはY方向にステージ121が移動されつつ生成された複数の画像データを連結することにより、撮像部132の視野(後述する単位領域)よりも大きい観察対象物Sの領域を示す画像データを生成することができる(連結処理)。また、演算処理部600は、複数の画像データの連結処理を行うことにより、光がより均一に観察対象物Sに照射されたときの画像データを生成することができる。
図8(a),(b)は、画像データの連結時における仮想的な投光部140の位置を説明するための図である。図8(a)は画像データの連結が行われない例を示し、図8(a)は画像データの連結が行われる例を示す。図8(a),(b)の例では、投光部140の一部の領域(例えば図3(b)の領域140A)から観察対象物Sに光が照射される。
図8(a)のレンズユニット131の倍率は図8(b)のレンズユニット131の倍率よりも低い。この場合、撮像部132の視野が大きいので、撮像部132は観察対象物Sの全体を示す原画像データを生成することができる。しかしながら、領域140Aに近い観察対象物Sの部分と領域140Aから遠い観察対象物Sの部分とでは、照射される光の光量の差が大きい。そのため、光が均一に観察対象物Sに照射されたときの画像データを生成することは困難である。
一方、図8(b)の例では、撮像部132の視野は小さいが、ステージ121が移動されつつ複数の原画像データが生成される。そのため、複数の原画像データを連結することにより観察対象物Sの全体を示す画像データを生成することができる。また、図8(b)の例では、各原画像データの生成時における観察対象物Sの各部分と領域140Aとの位置関係が略一定である。すなわち、仮想的に無限遠に存在する領域140Aから平行な光が観察対象物Sの全体に照射されていると考えることができる。これにより、光が均一に観察対象物Sに照射されたときの画像データを生成することができる。
(g)演算処理部
図9は、図2の演算処理部600の構成を示すブロック図である。図9に示すように、演算処理部600は、データ生成部610、合焦判定部620、算出部630および条件設定部640を含む。
データ生成部610は、図1の撮像部132により生成される複数の原画像データの少なくとも1つに基づいて表示用画像データを生成する。また、データ生成部610は、使用者の指示に従って画像データにDR調整処理、深度合成処理、連結処理またはハレーション低減処理を行う。
合焦判定部620は、図2の焦点制御部530がオートフォーカス処理を行う際に、焦点駆動部113のZ方向の移動により生成された複数の原画像データの各々について画素ごとの合焦度を判定する。また、合焦判定部620は、データ生成部610が深度合成処理を行う際に、複数の原画像データについて画素ごとの合焦度を判定する。
算出部630は、角度算出部631および位置算出部632を含む。角度算出部631は、図5(b)の傾斜センサ133により出力される角度信号に基づいて、図5(b)の鏡筒部130の傾斜角度を算出する。また、角度算出部631は、使用者の指示に従って、算出した鏡筒部130の傾斜角度を図2の表示部430に表示させる。
位置算出部632は、図7の位置センサ123により出力される位置信号に基づいて、図7のステージ121の位置を算出する。位置算出部632は、図1の制御基板150からステージ駆動部122への駆動パルスの数に基づいてステージ121の位置を算出してもよい。また、位置算出部632は、使用者の指示に従って、算出したステージ121の位置を図2の表示部430に表示させる。さらに、位置算出部632は、図1の撮像部132により原画像データが生成されたときのステージ121の位置を示す位置情報を図2の記憶部420に記憶させる。
条件設定部640は、撮像条件設定部641および照明条件設定部642を含む。撮像条件設定部641は、使用者の指示に従って撮像条件を設定する。また、条件設定部640は、設定した撮像条件を示す撮像情報を図1の記憶部420に記憶させる。撮像条件は、例えば図1の撮像部132の受光時間、DR調整処理の実行の有無、深度合成処理の実行の有無、連結処理の実行の有無およびZ方向における光の焦点位置の範囲等を含む。図2の駆動制御部500は、撮像条件設定部641により設定された撮像条件に基づいて図1の測定ヘッド100および光生成部300の動作を制御する。
照明条件設定部642は、使用者の指示に従って照明条件を設定する。また、照明条件設定部642は、設定した照明条件に対応する照明情報を記憶部420に記憶させる。照明条件は、観察対象物Sに対する光の仮想的な出射方向を含む。データ生成部610は、照明条件設定部642により設定された照明条件に基づいて表示用画像データを生成し、記憶部420に記憶させる。使用者による照明条件の指示方法については後述する。
(2)拡大観察装置の基本動作
(a)基本動作の内容
ステージ121の載置面において、対物レンズ131aの光軸A1が交差する位置を基準点と呼ぶ。観察対象物Sは観察対象部分が基準点上に位置するようにステージ121に載置される。この状態で、観察対象物Sの少なくとも一部に対物レンズ131aの焦点が合うようにレンズユニット131(図1)のZ方向の位置が調整される。また、観察対象物Sの所望の部分を観察することができるように、ステージ121がX方向およびY方向に調整される。さらに、撮像部132の受光時間およびホワイトバランス等の撮像条件が調整される。
以下の説明では、上記の4つの方向性照明を区別するために、投光部140の領域140A,140B,140C,140Dの各々から出射される光をそれぞれ第1の方向性照明、第2の方向性照明、第3の方向性照明および第4の方向性照明と呼ぶ。また、以下の説明では、リング照明を形成する複数の光線がベクトル的に合成された場合において合成された光線の進行方向をリング出射方向と呼ぶ。リング出射方向は、ステージ121の載置面に対して垂直な方向である。また、第1の方向性照明を形成する複数の光線がベクトル的に合成された場合において合成された光線の進行方向を第1の出射方向と呼び、第2の方向性照明を形成する複数の光線がベクトル的に合成された場合において合成された光線の進行方向を第2の出射方向と呼ぶ。さらに、第3の方向性照明を形成する複数の光線がベクトル的に合成された場合において合成された光線の進行方向を第3の出射方向と呼び、第4の方向性照明を形成する複数の光線がベクトル的に合成された場合において合成された光線の進行方向を第4の出射方向と呼ぶ。
ここで、基準点上に載置される観察対象物Sに光を照射する際の光の出射方向または出射位置が特定可能となるように、ステージ121の載置面上に基準点を原点とする極座標系を定義する。図10は、ステージ121の載置面上に定義される極座標系を示す図である。図10に示すように、ステージ121の載置面上の基準点が原点Oとして定義される。図10に太い実線で示すように、ステージ121の載置面を上方から見た状態で原点Oを中心として反時計回りの方向に方位角が定義される。本例では、原点Oから拡大観察装置1の一側方に向く方向が方位角の基準角度(0°)として定義される。
また、載置面上または載置面よりも上方の任意の位置に点Qを仮定する。この場合、図10に太い一点鎖線で示すように、点Qと原点Oとを結ぶ直線と、載置面との間の角度が点Qの仰角として定義される。点Qが載置面上にある場合、点Qの仰角は0°である。点Qが載置面の上方でかつ光軸A1上にある場合、点Qの仰角は90°である。図10では、ステージ121の載置面上の方位角が90°ごとに示される。以下の説明では、ステージ121の載置面よりも上方の任意の位置、または観察対象物Sに照射される光の向き等を説明する際に、上記のように定義された「仰角」および「方位角」を適宜用いる。
本例では、投光部140の領域140A,140B,140C,140Dの中央部分が、光軸A1を中心としてそれぞれ45°、135°、225°および315°の方位角で配置される。なお、投光部140の配置は、上記の例に限定されない。例えば、領域140A,140B,140C,140Dの中央部分が、光軸A1を中心としてそれぞれ0°、90°、180°および270°の方位角で配置されてもよい。リング照明および第1〜第4の方向性照明を用いて観察対象物Sを順次撮像することを複数照明撮像と呼ぶ。
拡大観察装置1の各構成要素は、複数照明撮像の指示に応答して以下の基本動作を行う。図11は、複数照明撮像が指示されたときの拡大観察装置1の基本動作を説明するための模式図である。図11(a)〜(e)に、観察対象物Sに照射される照明の変化が時系列で示される。図11(a)〜(e)では、光を出射する投光部140の領域が太い実線で示されるとともに、リング出射方向および第1〜第4の出射方向がそれぞれ太い実線の矢印で示される。図11(f)〜(j)に、図11(a)〜(e)の各照明が観察対象物Sに照射されたときの観察対象物Sの画像SIが示される。以下の説明では、観察対象物Sが表示された画像のうち観察対象物Sの表示部分を対象部分画像spと呼ぶ。
図11(a)に示すように、まず観察対象物Sにリング照明が照射され、観察対象物Sが撮像される。この場合、対物レンズ131aの光軸A1を取り囲む全ての領域140A〜140Dから観察対象物Sの各部分に第1〜第4の方向性照明が同時かつ均一に照射される。それにより、図11(f)に示すように、リング照明で撮像された観察対象物Sの画像SIにおいては、対象部分画像spに観察対象物Sの形状による影がほとんど発生しない。したがって、観察対象物Sのうち上方を向く部分の表面状態をほぼ全体に渡って観察することができる。
次に、図11(b)に示すように、観察対象物Sに第1の方向性照明のみが照射され、観察対象物Sが撮像される。図11(g)に示すように、第1の方向性照明で撮像された観察対象物Sの画像SIにおいては、対象部分画像spの一部に第1の出射方向および観察対象物Sの形状に応じて45°の方位角の位置から225°の方位角の位置に向かう影SHが発生する。それにより、観察対象物Sにおける凹凸部分が第1の出射方向に強く強調される。
次に、図11(c)に示すように、観察対象物Sに第2の方向性照明のみが照射され、観察対象物Sが撮像される。図11(h)に示すように、第2の方向性照明で撮像された観察対象物Sの画像SIにおいては、対象部分画像spの一部に第2の出射方向および観察対象物Sの凹凸に応じて135°の方位角の位置から315°の方位角の位置に向かう影SHが発生する。それにより、観察対象物Sにおける凹凸部分が第2の出射方向に強く強調される。
次に、図11(d)に示すように、観察対象物Sに第3の方向性照明のみが照射され、観察対象物Sが撮像される。図11(i)に示すように、第3の方向性照明で撮像された観察対象物Sの画像SIにおいては、対象部分画像spの一部に第3の出射方向および観察対象物Sの凹凸に応じて225°の方位角の位置から45°の方位角の位置に向かう影SHが発生する。それにより、観察対象物Sにおける凹凸部分が第3の出射方向に強く強調される。
次に、図11(e)に示すように、観察対象物Sに第4の方向性照明のみが照射され、観察対象物Sが撮像される。図11(j)に示すように、第4の方向性照明で撮像された観察対象物Sの画像SIにおいては、対象部分画像spの一部に第4の出射方向および観察対象物Sの凹凸に応じて315°の方位角の位置から135°の方位角の位置に向かう影SHが発生する。それにより、観察対象物Sにおける凹凸部分が第4の出射方向に強く強調される。
上記の一連の動作は、後述するように図1の制御部410が記憶部420に記憶されたシステムプログラムを実行することにより自動的に行われるが、使用者の操作に基づいて手動で行われてもよい。
複数照明撮像が完了すると、図1の表示部430に観察画面が表示される。図12は、観察画面の一表示例を示す図である。図12に示すように、観察画面430Aの上部に機能表示領域431が設定される。機能表示領域431には、深度合成ボタンb1、DR調整ボタンb2、連結ボタンb3、ハレーションボタンb4および保存ボタンb7が表示される。
使用者は、図1の操作部440を用いて機能表示領域431に表示される各ボタンを操作することができる。深度合成ボタンb1、DR調整ボタンb2、連結ボタンb3、ハレーションボタンb4および保存ボタンb7がそれぞれ操作されることにより実行される処理の内容については後述する。
図12に示すように、機能表示領域431の下方に主表示領域432および副表示領域433が左右に並ぶように設定される。主表示領域432は、機能表示領域431および副表示領域433に比べて大きい面積を有する。初期状態では、直前の複数照明撮像により生成された複数の原画像データに基づく複数の画像SIのうちの1つが主表示領域432のほぼ全体に渡って表示される。本例では、第1の方向性照明が照射されたときの観察対象物Sの画像SI(図11(b),(g)参照)が主表示領域432に表示される。
副表示領域433には、出射方向指定欄433aおよび出射方向表示欄433bが表示される。出射方向指定欄433aには、載置面上の観察対象物Sの位置を示す対象物位置画像ss0が表示される。また、投光部140よりも上方の位置から観察対象物Sを見たときの観察対象物Sに対する光の出射位置を示す光アイコンss1が対象物位置画像ss0上に重畳表示される。
この場合、対象物位置画像ss0上の観察対象物Sの対象部分画像spと光アイコンss1との相対的な位置関係は、主表示領域432に表示される画像SIを得るために観察対象物Sに照射されるべき光の出射方向(以下、光の仮想的な出射方向と呼ぶ。)に対応する。
使用者は、図1の操作部440を用いて図12の光アイコンss1を対象物位置画像ss0上の観察対象物Sの対象部分画像spに対して相対的に移動させることにより、光の仮想的な出射位置を把握しつつ光の仮想的な出射方向を容易に指定することができる。
使用者により光の仮想的な出射方向が指定されることにより、主表示領域432に表示される観察対象物Sの画像SIは、指定された出射方向の光が観察対象物Sに照射されたと仮定した場合に得られるべき観察対象物Sの画像SIに更新される。画像SIの更新処理は、図9のデータ生成部610により実行される。
出射方向表示欄433bには、載置面上の基準点を示す画像が基準点画像ss2として表示されるとともに、ステージ121上で基準点を覆う仮想的な半球の画像が半球画像ss3として立体的に表示される。半球画像ss3上には、光アイコンss1により指定される光の仮想的な出射方向に対応する光の出射位置を示す画像が出射位置画像ss4として表示される。
さらに、半球画像ss3上の出射位置画像ss4と基準点画像ss2とを結ぶように直線が表示される。この場合、直線上で出射位置画像ss4から基準点画像ss2に向かう方向が、光アイコンss1により指定される光の出射方向を示す。使用者は、出射方向表示欄433bに表示される基準点画像ss2、半球画像ss3および出射位置画像ss4を視認することにより、光アイコンss1により指定される光の仮想的な出射方向を容易かつ正確に認識することができる。
拡大観察装置1は、リング照明および第1〜第4の方向性照明のうちの一部のみを複数照明撮像に用いる照明として選択可能に構成されてもよい。リング照明および第1〜第4の方向性照明のうちの一部のみを用いて複数照明撮像が行われると、光アイコンss1により指定可能な出射方向の範囲が制限される場合がある。
この場合、半球画像ss3においては、出射方向指定欄433aの光アイコンss1により指定可能な出射方向の範囲が指定不可能な出射方向の範囲から識別可能に表示されてもよい。例えば、指定可能な出射方向の範囲が特定の方位角の範囲に制限される場合、指定可能な方位角の範囲に対応する部分と指定不可能な方位角の範囲に対応する部分とで色等の表示態様を異ならせてもよい。それにより、使用者は、光アイコンss1により指定可能な出射方向の範囲を容易に認識することができる。あるいは、半球画像ss3は、上記の例に代えて、光アイコンss1により指定可能な出射方向の範囲のみを表示してもよい。
本例では、出射方向表示欄433bに、基準点を覆う仮想的な半球が半球画像ss3として立体的に表示されるが、本発明はこれに限定されない。出射方向表示欄433bには、基準点を覆う仮想的な半球を上方から見た平面半球画像と仮想的な半球を一側方から見た側面半球画像とが表示されてもよい。この場合、平面半球画像上に基準点画像ss2と出射位置画像ss4とが表示されてもよい。また側面半球画像上に基準点画像ss2と出射位置画像ss4とが表示されてもよい。
図13は、光の仮想的な出射方向の指定に応答して観察対象物Sの画像SIが更新されるときの処理内容を説明するための模式図である。
拡大観察装置1においては、図12の副表示領域433に表示される対象物位置画像ss0について予め定められた平面座標系が定義されている。さらに、図13(a)に示すように、図12の対象物位置画像ss0上には、上記のリング照明ならびに第1、第2、第3および第4の出射方向にそれぞれ対応する光の出射位置を示す点PA,PB,PC,PD,PEが予め設定されている。
点PA〜PEの位置は、例えば投光部140とステージ121との相対的な位置関係に基づいて設定される。本例では、点PAは、対象物位置画像ss0の中心に位置し、点PB,PC,PD,PEは、点PAを中心とする同心円上に等角度間隔で並ぶ。
制御部410は、予め定められた周期で光アイコンss1の対象物位置画像ss0上の位置(座標)を検出し、光アイコンss1の位置に対応する観察対象物Sの画像SIを図12の主表示領域432に表示させる。
例えば、制御部410は、光アイコンss1が図13(a)の点PA上に位置する場合にリング出射方向に対応する図11(f)の画像SIを図12の主表示領域432に表示させる。また、制御部410は、光アイコンss1が図13(a)の点PB上に位置する場合に第1の出射方向に対応する図11(g)の画像SIを図12の主表示領域432に表示させ、光アイコンss1が図13(a)の点PC上に位置する場合に第2の出射方向に対応する図11(h)の画像SIを図12の主表示領域432に表示させる。さらに、制御部410は、光アイコンss1が図13(a)の点PD上に位置する場合に第3の出射方向に対応する図11(i)の画像SIを図12の主表示領域432に表示させ、光アイコンss1が図13(a)の点PE上に位置する場合に第4の出射方向に対応する図11(j)の画像SIを図12の主表示領域432に表示させる。
光アイコンss1が点PA〜PEとは異なる位置にある場合、制御部410は、以下の手順に従って主表示領域432に表示させるべき観察対象物Sの画像SIを生成する。
図13(a)に示すように、制御部410は、光アイコンss1が点PA〜PEとは異なる位置にある場合、各点PA〜PEと光アイコンss1との間の距離を算出する。また、制御部410は、算出された距離の短い順に複数の点PA〜PEから予め定められた数の点(本例では3つの点)を抽出する。図13(a)の例では、光アイコンss1と点PBとの間の距離d1が最も短く、光アイコンss1と点PAとの間の距離d2が2番目に短く、光アイコンss1と点PCとの間の距離d3が3番目に短い。したがって、制御部410は点PA,PB,PCを抽出する。
続いて、制御部410は、距離d1,d2,d3に基づいて、点PAに対応する原画像データと、点PBに対応する原画像データと、点PCに対応する原画像データとの合成割合を決定する。
合成割合は、例えば距離d1,d2,d3の値の逆数の比である。この場合、合成割合は、光アイコンss1からの距離が短い点に対応する原画像データほど高くなり、光アイコンss1からの距離が遠い点に対応する原画像データほど低くなる。図13(b)の例では、点PAに対応する原画像データ、点PBに対応する原画像データおよび点PCに対応する原画像データの合成割合が、それぞれ30%、50%および20%として決定されている。
制御部410は、決定した合成割合に基づいて点PA,PB,PCにそれぞれ対応する3つの原画像データを合成する。具体的には、制御部410は、原画像データごとにその原画像データの全画素データの値(画素値)に合成割合を乗算し、乗算後の3つの原画像データを合成することにより表示用画像データを生成する。その後、制御部410は、生成された表示用画像データに基づく画像SIを図12の主表示領域432に表示させる。
図13(c)に、図13(a)の光アイコンss1の位置に対応して主表示領域432に表示される画像SIの一例が示される。図13(c)の画像SIにおいては、点PA,PB,PCにそれぞれ対応する3つの原画像データが合成されることにより、観察対象物Sにおける凹凸部分が図13(a)の光アイコンss1により指定される光の仮想的な出射方向に強く強調されている。
上記のように、主表示領域432に表示される画像SIの画像データは、複数照明撮像の完了後、生成された複数の原画像データと使用者により指定された光の仮想的な出射方向とに基づいて生成される。そのため、使用者により指定される光の仮想的な出射方向が連続的に変化する場合であっても、指定された出射方向に対応する複数の画像データが、制御部410の処理能力に応じた速度でほぼ連続的に生成される。また、生成された複数の画像データに基づく画像SIが連続的に表示される。したがって、照明の位置を変化させつつ継続して撮像を行った場合に得られる映像(動画)とほぼ同じ映像が主表示領域432上で擬似的に再現される。それにより、使用者は、光の仮想的な出射方向を指定しつつ主表示領域432上の画像SIを視認することにより、指定された出射方向の光が観察対象物Sにリアルタイムに照射されているように感じる。
上記の例では、制御部410は、リング照明および第1〜第4の方向性照明に対応する点PA〜PEのうち3つの点を抽出し、抽出された3つの点に対応する3つの原画像データの合成割合を決定するが、本発明はこれに限定されない。制御部410は、全ての点PA〜PEにそれぞれ対応する5つの原画像データについて合成割合を決定し、決定された合成割合に基づいて5つの原画像データを合成してもよい。
なお、図12の観察画面430A上には、図1の操作部440により複数照明撮像により得られる複数の原画像データについての合成割合を入力可能な合成割合入力欄が表示されてもよい。この場合、制御部410は、使用者により合成割合入力欄に入力された値に基づいて複数の原画像データのうちの一部または全てを合成してもよい。
図12の観察画面430Aにおいては、副表示領域433に表示される対象物位置画像ss0上に光アイコンss1が重畳表示される。本実施の形態においては、対象物位置画像ss0上の光アイコンss1に加えて、主表示領域432に表示される画像SI上にも光アイコンss1が重畳表示されてもよい。図14は、主表示領域432および副表示領域433にそれぞれ光アイコンss1が表示される例を示す図である。
この場合、観察対象物Sの画像SI上にも、上記の点PA〜PEが設定される。使用者は、例えば図1の操作部440を用いて観察対象物Sの画像SI上の光アイコンss1および対象物位置画像ss0上の光アイコンss1のうちいずれか一方を観察画面430A上で移動させることができる。
対象物位置画像ss0上の光アイコンss1が移動された場合、制御部410は、上記の図13を用いて説明した例と同様の手順で表示用画像データを生成し、生成された表示用画像データに基づく画像SIを主表示領域432に表示する。このとき、制御部410は、対象物位置画像ss0上の光アイコンss1の位置に対応する位置へ移動するように、画像SI上の光アイコンss1の位置を調整する。
観察対象物Sの画像SI上の光アイコンss1が移動された場合、制御部410は、画像SI上の光アイコンss1の位置と、画像SIに設定された点PA〜PEとの位置関係に基づいて表示用画像データを生成し、生成された表示用画像データに基づく画像SIを主表示領域432に表示する。このとき、制御部410は、画像SI上の光アイコンss1の位置に対応する位置へ移動するように、対象物位置画像ss0上の光アイコンss1の位置を調整する。
図14の例によれば、使用者は、2つの光アイコンss1のうち所望の光アイコンss1を用いて光の仮想的な出射方向を指定することができる。なお、図14の例においては、2つの光アイコンss1は必ずしも同時に表示されなくてもよい。例えば、観察画面430A上に表示される各種ボタンおよび光アイコンss1等がポインタにより操作される場合には、観察画面430A上のポインタの位置に応じて2つの光アイコンss1のうちの一方の光アイコンss1のみが観察画面430A上に表示されてもよい。具体的には、マウスポインタが主表示領域432上に位置する場合には、観察対象物Sの画像SI上の光アイコンss1のみが表示され、対象物位置画像ss0上の光アイコンss1が表示されなくてもよい。また、マウスポインタが副表示領域433上に位置する場合には、対象物位置画像ss0上の光アイコンss1のみが表示され、観察対象物Sの画像SI上の光アイコンss1が表示されなくてもよい。
なお、対象物位置画像ss0上の光アイコンss1は、マウスポインタの位置に関わらず表示されていてもよい。これにより、使用者は、光の仮想的な出射位置を容易に把握することができる。
表示部430に図12の観察画面430Aが表示された状態で、光アイコンss1により光の仮想的な出射方向が指定される場合の観察画面430Aの変化について具体例を説明する。
図15は、観察画面430Aの他の表示例を示す図である。図15では、以下の説明の理解を容易にするために、出射方向指定欄433aに表示される対象物位置画像ss0上に図13(a)の5つの点PA〜PEを示している。
図15の出射方向指定欄433aに点線で示すように、例えば点PB〜PEが並ぶ点PAの同心円上で点PBの位置から点PB,PEの間の位置にかけて光アイコンss1が移動される。この場合、制御部410は、上記の例と同様に点PA〜PEにそれぞれ対応する複数の原画像データのうちの一部の原画像データを合成することにより、表示用画像データを生成する。また、制御部410は、生成した表示用画像データに基づく観察対象物Sの画像SIを主表示領域432に表示させる。
図15の主表示領域432に表示される画像SIにおいては、観察対象物Sにおける凹凸部分が出射方向指定欄433aの光アイコンss1により指定される光の仮想的な出射方向に強く強調されている。
仮想的な光の出射方向は、方位角および仰角の成分を含む。本例では、点PB〜PEが並ぶ点PAの同心円上で光アイコンss1が移動される。使用者は、対象物位置画像ss0上で光アイコンss1を対象物位置画像ss0の中心に対して回転するように移動させることにより仮想的な光の出射方向の方位角を指定することができる。それにより、光の仮想的な出射方向の方位角が、光アイコンss1により指定された方位角に変更される。このように、使用者は、光アイコンss1を操作することにより、光の仮想的な出射方向の方位角を所望の方向に指定することができる。その結果、主表示領域432に表示される画像SIにおいて、観察対象物Sにおける凹凸部分の強調される方向をθ方向に容易に変更することができる。
図16は、観察画面430Aのさらに他の表示例を示す図である。図16においても、図15の例と同様に、出射方向指定欄433aに表示される対象物位置画像ss0上に、図13(a)の5つの点PA〜PEを示している。図16の出射方向指定欄433aに点線で示すように、光アイコンss1が図15の出射方向指定欄433aに示される位置から点PAに近づくように移動される。この場合、制御部410は、上記の例と同様に点PA〜PEにそれぞれ対応する複数の原画像データのうちの一部の原画像データを合成することにより、表示用画像データを生成する。また、制御部410は、生成した表示用画像データに基づく観察対象物Sの画像SIを主表示領域432に表示させる。
図16の主表示領域432に表示される画像SIにおいては、観察対象物Sにおける凹凸部分が、図15の主表示領域432に表示される画像SIに比べて弱く強調されている。
本例では、点PAを中心として点PB〜PEが並ぶ同心円上から点PAに向かって光アイコンss1が移動される。使用者は、対象物位置画像ss0上で光アイコンss1を対象物位置画像ss0の中心に対して近づけるまたは遠ざけることにより仮想的な光の出射方向の載置面からの仰角を指定することができる。それにより、光の仮想的な出射方向の載置面からの仰角が、光アイコンss1により指定された仰角に変更される。このように、使用者は、光アイコンss1を操作することにより、仮想的な光の出射方向の仰角を所望の角度に指定することができる。その結果、主表示領域432に表示される画像SIにおいて、観察対象物Sにおける凹凸部分の強調される度合いを容易に変更することができる。
上記の例では、表示部430の観察画面430A上に、表示用画像データに基づく画像SIを表示するための主表示領域432と、光アイコンss1を操作するための副表示領域433とが設定される。それにより、観察対象物Sの画像SIと光アイコンss1とが重ならない。したがって、観察対象物Sの画像SIおよび光アイコンss1が視認しやすい。
使用者は、観察対象物Sの画像SIについて光の仮想的な出射方向を所望の方向に指定した状態で、図1の操作部440を用いて図12の保存ボタンb7を操作する。この場合、主表示領域432に表示される画像SIの表示用画像データが、その表示用画像データに関する複数のデータとともに記憶部420に記憶される。複数のデータには、表示用画像データに関連する複数の原画像データ、撮像情報、照明情報およびレンズ情報等が含まれる。
上記の例では、複数照明撮像の完了後の初期状態で観察画面430Aの主表示領域432に、直前の複数照明撮像により生成された複数の原画像データに基づく複数の画像SIのうちの1つが表示されるが、本発明はこれに限定されない。拡大観察装置1においては、例えば複数照明撮像が開始される前に、予め初期状態で表示されるべき画像SIに対応する仮想的な光の出射方向が指定可能であってもよい。あるいは、予め初期状態で表示されるべき画像SIに対応する仮想的な光の出射方向は、拡大観察装置1の工場出荷時に予め製造業者により指定されていてもよい。また、使用者の操作を受け付けるまで、複数照明撮像の完了後の初期状態で観察画面430Aの主表示領域432に、画像SIに対応する仮想的な光の出射方向が徐々に変化するように、画像SIに対する出射方向が滑らかに変化する画像(動画)が表示されてもよい。
この場合、制御部410は、複数照明撮像が完了時に、予め指定された仮想的な光の出射方向と、複数照明撮像により生成された複数の原画像データとに基づいて指定された出射方向に対応する表示用画像データを生成する。また、制御部410は、生成された表示用画像データに基づく画像SIを主表示領域432に表示させる。
(b)複数照明撮像処理の一例
図2の記憶部420に記憶されるシステムプログラムは、複数照明撮像プログラムおよび表示用画像生成プログラムを含む。図2の制御部410は、複数照明撮像プログラムおよび表示用画像生成プログラムを実行することにより、複数照明撮像処理および表示用画像生成処理を行う。複数照明撮像処理および表示用画像生成処理により上記の一連の基本動作が実現される。これにより、使用者が熟練していない場合でも、原画像データを容易に生成することができる。
図17は、複数照明撮像処理の一例を示すフローチャートである。複数照明撮像処理は、使用者による複数照明撮像の指示に応答して開始される。複数照明撮像処理が開始されると、制御部410は、予め設定された撮像条件に従ってリング照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS101)。撮像により生成された原画像データは記憶部420に記憶される。
次に、制御部410はiを1に設定する(ステップS102)。ここで、iは複数の方向性照明の番号を示す。続いて、制御部410は、第iの方向性照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS103)。撮像により得られる原画像データは記憶部420に記憶される。
次に、制御部410は、iが4であるか否かを判定する(ステップS104)。iが4でない場合、制御部410は、iをi+1に更新し(ステップS105)、ステップS103の処理に戻る。
ステップS104において、iが4である場合、制御部410は、複数の原画像データにそれぞれ対応する複数のサムネイル画像データを生成する(ステップS106)。生成された複数のサムネイル画像データは記憶部420に記憶される。それにより、複数照明撮像処理が終了する。
上記の説明において、表示部430にサムネイル画像を表示する必要がない場合にステップS106の処理が省略されてもよい。それにより、処理時間が短縮される。
また、上記の説明において、一部の処理が他の時点で行われてよい。例えば、ステップS101の処理は、ステップS102〜S105の処理よりも後に実行されてもよい。
(c)表示用画像生成処理の一例
図18および図19は、表示用画像生成処理の一例を示すフローチャートである。本実施の形態においては、制御部410は、複数照明撮像処理の終了後に表示用画像生成処理を開始する。
制御部410は、まず複数照明撮像処理で生成された複数の原画像データのうち任意の原画像データに基づく観察対象物Sの画像SIを表示部430の主表示領域432に表示させる(ステップS201)。また、制御部410は、対象物位置画像ss0および光アイコンss1を表示部430の出射方向指定欄433aに表示させる(ステップS202)。さらに、制御部410は、基準点画像ss2、半球画像ss3および出射位置画像ss4を表示部430の出射方向表示欄433bに表示させる(ステップS203)。
その後、制御部410は、光アイコンss1が操作されたか否かを判定する(ステップS204)。光アイコンss1が操作されない場合、制御部410は、後述するステップS210の処理に進む。
光アイコンss1が操作されると、制御部410は、光アイコンss1の操作に応答して光アイコンss1および出射位置画像ss4の表示を更新する(ステップS205)。また、制御部410は、光アイコンss1の操作により光の仮想的な出射方向が指定されたと認識し(ステップS206)、指定された出射方向がリング出射方向または第1〜第4の出射方向のいずれかであるか否かを判定する(ステップS207)。ステップS207の判定処理は、対象物位置画像ss0上に設定される上記の点PA〜PEと光アイコンss1との位置関係に基づいて実行される。
指定された出射方向がリング出射方向または第1〜第4の出射方向のいずれかである場合、制御部410は、指定された出射方向に対応する原画像データを表示用画像データとし、その表示用画像データに基づく観察対象物Sの画像SIを表示部430の主表示領域432に表示させる(ステップS208)。その後、制御部410は、後述するステップS210の処理に進む。
ステップS207において、指定された出射方向がリング出射方向または第1〜第4の出射方向のいずれでもない場合、制御部410は、指定された出射方向に基づいて複数の原画像データの合成割合を算出する(ステップS209)。ステップS209の算出処理は、ステップS207の処理と同様に、対象物位置画像ss0上に設定される上記の点PA〜PEと光アイコンss1との位置関係に基づいて実行される。
その後、制御部410は、ステップS209で算出された合成割合に基づいて複数の原画像データを合成することにより表示用画像データを生成し、その表示用画像データに基づく観察対象物Sの画像SIを表示部430の主表示領域432に表示させる(ステップS210)。
本実施の形態においては、使用者は、図1の操作部440を操作することにより、観察対象物Sの観察の終了を指示することができる。制御部410は、ステップS209の処理後、観察対象物Sの観察の終了が指示されたか否かを判定する(ステップS211)。観察対象物Sの観察の終了が指示されると、制御部410は、表示用画像生成処理を終了する。一方、観察対象物Sの観察の終了が指示されない場合、制御部410は、ステップS204の処理に戻る。
図18および図19の表示用画像生成処理においては、制御部410は、ステップS209の処理中または処理後に、指定された仮想的な光の出射方向の方位角および仰角のうち少なくとも一方を算出してもよい。この場合、制御部410は、算出された方位角および仰角のうち少なくとも一方を表示部430に表示させてもよい。それにより、使用者は、指定した光の仮想的な出射方向についての情報を容易に認識することができる。
上記の表示用画像生成処理においては、ステップS201の処理で複数照明撮像処理で生成された複数の原画像データのうち任意の原画像データに基づく観察対象物Sの画像SIが表示部430に表示されるが、本発明はこれに限定されない。ステップS201の処理において、制御部410は、任意の原画像データに代えて、予め定められた照明(例えばリング照明)に対応する原画像データに基づく画像SIを表示部430に表示させてもよい。または、制御部410は、ステップS201の処理を省略してもよい。
上記の例では、表示用画像生成処理は、複数照明撮像処理の終了後に実行されるが、本発明はこれに限定されない。複数照明撮像処理が連続的または間欠的に一定周期で実行される場合、表示用画像生成処理は複数照明撮像処理と並行して実行されてもよい。この場合、直前の複数照明撮像処理により記憶部420に記憶される最新の複数の原画像データに基づいて表示用画像生成処理を実行することができる。
本実施の形態に係る拡大観察装置1においては、使用者は、図1の操作部440を用いて記憶部420に記憶された複数の原画像データの一部を指定することができる。この場合、制御部410は、使用者による原画像データの指定に応答し、指定された原画像データを読み込み、読み込んだ原画像データに基づく表示用画像生成処理を行ってもよい。
(3)深度合成処理
(a)処理内容
使用者は、図1の操作部440を用いて図12の深度合成ボタンb1を操作することにより、図1の制御部410に深度合成処理の指示を与えることができる。
深度合成処理では、Z方向における光の焦点位置の範囲および焦点位置の移動ピッチが深度合成処理用の撮像条件として予め設定されることが好ましい。この場合、図1の焦点駆動部113は過度に大きい範囲で光の焦点位置を変化させる必要がないので、複数の原画像データを高速に生成することができる。撮像条件は、例えば使用者による操作部440の操作に基づいて設定される。なお、Z方向における光の焦点位置の範囲および焦点位置の移動ピッチは、撮像に用いられる対物レンズ131aの倍率等に応じて自動的に設定されてもよい。以下の説明では、深度合成処理用の撮像条件は予め設定されているものとする。
図20は、深度合成処理の概念図である。図20(a)に、レンズユニット131と投光部140とステージ121との位置関係が示される。本例では、ステージ121が静止した状態で、レンズユニット131が投光部140と一体的にZ方向に移動される。この場合、予め指定されたZ方向における光の焦点位置の範囲および焦点位置の移動ピッチに基づいて、レンズユニット131(対物レンズ131a)が移動すべきZ方向の位置H1〜Hj(jは自然数)が定まる。
深度合成処理では、レンズユニット131が位置H1〜Hjの各々に位置決めされた状態でリング照明および第1〜第4の方向性照明を用いて観察対象物Sが撮像される。それにより、リング照明および第1〜第4の方向性照明を用いて位置H1〜Hjにそれぞれ対応する複数(j個)の原画像データが生成される。図20(b)に、位置H1〜Hjにそれぞれ対応する観察対象物Sの複数の画像SIが照明ごとに示される。
リング照明を用いた撮像により得られた複数の原画像データの各々について、画素ごとの合焦度が判定される。合焦度の判定結果に基づいて、複数の原画像データが選択的に合成される。それにより、リング照明が照射された観察対象物Sの全部分に合焦した深度合成画像データが生成される。また、各方向性照明に対応する複数の原画像データと後述するマスクイメージデータとに基づいて各方向性照明に対応する深度合成画像データが生成される。深度合成画像データに基づく画像を深度合成画像と呼ぶ。図20(b)に、リング照明および第1〜第4の方向性照明にそれぞれ対応する観察対象物Sの複数の深度合成画像SFが示される。
制御部410は、複数の原画像データに代えて深度合成処理により生成された複数の深度合成画像データに基づいて表示用画像生成処理を実行する。それにより、使用者は、所望の方向から観察対象物Sに光が照射されたと仮定した場合に得られるべき観察対象物Sの深度合成画像SFを表示部430に容易に表示させることができる。
上記の深度合成処理において、照明ごとに位置H1〜Hjにそれぞれ対応する複数の原画像データが生成される。図12の観察画面430Aには、複数の原画像データの生成のみを指示するための操作ボタンが表示されてもよい。複数の原画像データの生成のみが指示された場合、制御部410は、複数の原画像データの生成のみを行った後、焦点のZ方向の位置について使用者による指定を受け付け、指定されたZ方向の位置に対応する複数の原画像データを用いて表示用画像生成処理を実行してもよい。
上記の深度合成処理においては、リング照明に対応する深度合成画像データが生成される際にマスクイメージデータが生成され、生成されたマスクイメージデータを用いて第1〜第4の方向性照明にそれぞれ対応する複数の深度合成画像データが生成される。マスクイメージデータについて説明する。
鏡筒部130とステージ121とのZ方向の位置を変化させつつ観察対象物Sを撮像する処理において生成された複数の原画像データの各々には、Z方向における光の焦点位置H1〜Hjに対応する番号が付与される。図9のデータ生成部610は、リング照明に対応する深度合成画像データの各画素と原画像データの番号との対応関係を示すマスクイメージデータを生成する。
図21は、マスクイメージデータを視覚的に示す模式図である。図21における小さい各正方形は、リング照明に対応する深度合成画像データの各画素データに相当する。また、各正方形に付与された番号は、当該正方形に対応する画素において、Z方向における光の焦点位置H1〜Hjのうち、どの位置で生成した画素データの画素値が最適であったか、つまり飽和せずに輝度値が最も高くなったのは光のどの焦点位置であるかというデータが抽出された原画像データの番号を示す。すなわち、図21の例においては、最も左上の画素データは光の焦点位置H12の原画像データから抽出され、最も右下の画素データは光の焦点位置H85の原画像データから抽出されたことを示す。
データ生成部610は、生成したマスクイメージデータに基づいて、第1〜第4の方向性照明の各々に対応する深度合成画像データを生成する。この場合、図9の合焦判定部620は、第1〜第4の方向性照明の各々に対応する深度合成画像データを生成する際に、原画像データについて画素ごとの合焦度を判定する必要がない。これにより、深度合成処理を高速化することができる。
上記の説明においては、リング照明および第1〜第4の方向性照明ごとに深度合成画像データが先に生成され、生成された複数の深度合成画像データに基づいて表示用画像データが生成されるが、本発明はこれに限定されない。使用者により指定された光の仮想的な出射方向に基づいて、Z方向の複数の位置H1〜Hjにそれぞれ対応する複数の表示用画像データが生成され、生成された複数の表示用画像データに基づいて表示用の深度合成画像データが生成されてもよい。この場合、マスクイメージデータは不要である。
なお、上記説明においては、リング照明が出射されたときの画像データに基づいてマスクイメージデータが生成されたが、本発明はこれに限定されない。リング照明が出射されたときの画像データおよび方向性照明が出射されたときの画像データの各々に基づいてマスクイメージデータが生成されてもよい。また、方向性照明が出射されたときのマスクイメージデータは、複数の方向性照明ごとに生成されてもよい。この構成は、リング照明と方向性照明とで光量が異なること等により最適なZ方向の位置が異なる場合に有用である。
(b)深度合成処理の一例
図2の記憶部420に記憶されるシステムプログラムは、深度合成プログラムを含む。図2の制御部410は、深度合成プログラムを実行することにより、深度合成処理を行う。
図22、図23および図24は、深度合成処理の一例を示すフローチャートである。制御部410は、レンズユニット131を下限位置に移動させる(ステップS301)。次に、制御部410は、投光部140によりリング照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS302)。また、制御部410は、生成された原画像データにレンズユニット131のZ方向の位置に対応する番号を付与する(ステップS303)。続いて、制御部410は、レンズユニット131が上限位置まで移動したか否かを判定する(ステップS304)。
ステップS304において、レンズユニット131が上限位置まで移動していない場合、制御部410は、レンズユニット131を所定量(予め設定された移動ピッチ)だけ上方に移動させる(ステップS305)。その後、制御部410は、ステップS302の処理に戻る。レンズユニット131が上限位置まで移動するまで、制御部410はステップS302〜S305の処理を繰り返す。
ステップS304において、レンズユニット131が上限位置まで移動した場合、制御部410は、リング照明に対応する各原画像データについて、画素ごとの合焦度を判定する(ステップS306)。次に、制御部410は、合焦度の判定結果に基づいて複数の原画像データの画素データを合成することにより、リング照明に対応する深度合成画像データを生成する(ステップS307)。また、制御部410は、合成された画像データの各画素と原画像データの番号との対応関係を示すマスクイメージデータを生成し、記憶部420に記憶させる(ステップS308)。
その後、制御部410は、レンズユニット131を下限位置に移動させる(ステップS309)。次に、制御部410は、iを1に設定する(ステップS310)。ここで、iは複数の方向性照明の番号を示す。続いて、制御部410は、投光部140により第iの方向性照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS311)。また、制御部410は、生成された原画像データにレンズユニット131のZ方向の位置に対応する番号を付与する(ステップS312)。続いて、制御部410は、レンズユニット131が上限位置まで移動したか否かを判定する(ステップS313)。
ステップS313において、レンズユニット131が上限位置まで移動していない場合、制御部410は、レンズユニット131を所定量(予め設定された移動ピッチ)だけ上方に移動させる(ステップS314)。その後、制御部410は、ステップS311の処理に戻る。レンズユニット131が上限位置まで移動するまで、制御部410はステップS311〜S314の処理を繰り返す。
ステップS313において、レンズユニット131が上限位置まで移動した場合、制御部410は、記憶部420に記憶されたマスクイメージデータに基づいて複数の原画像データの画素データを合成することにより、第iの方向性照明に対応する深度合成画像データを生成する(ステップS315)。
次に、制御部410は、iが4であるか否かを判定する(ステップS316)。ステップS316において、iが4でない場合、制御部410はiをi+1に更新する(ステップS317)。その後、制御部410は、レンズユニット131を下限位置に移動させ(ステップS318)、ステップS311の処理に戻る。iが4になるまで、制御部410はステップS311〜S318の処理を繰り返す。これにより、第1〜第4の方向性照明の各々に対応する複数の原画像データが生成されるとともに、第1〜第4の方向性照明の各々に対応する深度合成画像データが生成される。ステップS316において、iが4である場合、制御部410は処理を終了する。
上記の説明において、一部の処理が他の時点で行われてよい。例えば、ステップS306〜S308の処理は、ステップS309〜S314と並列的に実行されてもよい。また、第iの方向性照明に対応するステップS315の処理は、第(i+1)の方向性照明に対応するステップS311〜S314と並列的に実行されてもよい。これらの場合、深度合成処理を高速化することができる。
あるいは、ステップS306〜S308の処理は、ステップS309〜S314の処理よりも後に実行されてもよい。また、第iの方向性照明に対応するステップS315の処理は、第(i+1)の方向性照明に対応するステップS311〜S314の処理よりも後に実行されてもよい。
(c)深度合成処理の他の例
図25、図26および図27は、深度合成処理の他の例を示すフローチャートである。制御部410は、レンズユニット131を下限位置に移動させる(ステップS321)。次に、制御部410は、投光部140によりリング照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS322)。また、制御部410は、生成された原画像データにレンズユニット131のZ方向の位置に対応する番号を付与する(ステップS323)。
続いて、制御部410は、iを1に設定する(ステップS324)。ここで、iは複数の方向性照明の番号を示す。その後、制御部410は、投光部140により第iの方向性照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS325)。また、制御部410は、生成された原画像データにレンズユニット131のZ方向の位置に対応する番号を付与する(ステップS326)。次に、制御部410は、iが4であるか否かを判定する(ステップS327)。
ステップS327において、iが4でない場合、制御部410はiをi+1に更新する(ステップS328)。その後、制御部410はステップS325の処理に戻る。iが4になるまで、制御部410はステップS325〜S328の処理を繰り返す。これにより、第1〜第4の方向性照明の各々に対応する複数の原画像データが生成される。ステップS327において、iが4である場合、制御部410は、レンズユニット131が上限位置まで移動したか否かを判定する(ステップS329)。
ステップS329において、レンズユニット131が上限位置まで移動していない場合、制御部410は、レンズユニット131を所定量だけ上方に移動させる(ステップS330)。その後、制御部410は、ステップS322の処理に戻る。レンズユニット131が上限位置まで移動するまで、制御部410はステップS322〜S330の処理を繰り返す。
ステップS329において、レンズユニット131が上限位置まで移動した場合、制御部410は、リング照明に対応する各原画像データについて、画素ごとの合焦度を判定する(ステップS331)。次に、制御部410は、合焦度の判定結果に基づいて複数の原画像データの画素データを合成することにより、リング照明に対応する深度合成画像データを生成する(ステップS332)。また、制御部410は、合成された画像データの各画素と原画像データの番号との対応関係を示すマスクイメージデータを生成し、記憶部420に記憶させる(ステップS333)。
続いて、制御部410は、再度iを1に設定する(ステップS334)。その後、制御部410は、記憶部420に記憶されたマスクイメージデータに基づいて複数の原画像データの画素データを合成することにより、第iの方向性照明に対応する深度合成画像データを生成する(ステップS335)。
次に、制御部410は、iが4であるか否かを判定する(ステップS336)。ステップS316において、iが4でない場合、制御部410はiをi+1に更新する(ステップS337)。その後、制御部410はステップS335の処理に戻る。iが4になるまで、制御部410はステップS335〜S337の処理を繰り返す。これにより、第1〜第4の方向性照明の各々に対応する深度合成画像データが生成される。ステップS336において、iが4である場合、制御部410は処理を終了する。
上記の説明において、一部の処理が他の時点で行われてよい。例えば、ステップS331〜S337の処理の一部は、ステップS321〜S330と並列的に実行されてもよい。この場合、深度合成処理を高速化することができる。また、ステップS322,S323の処理は、ステップS324〜S328の処理よりも後に実行されてもよい。
上記の深度合成処理の一例および他の例においては、レンズユニット131が初期位置として下限位置に移動された後、上限位置まで所定量ずつ上方に移動されるが、本発明はこれに限定されない。深度合成処理においては、レンズユニット131が初期位置として上限位置に移動された後、下限位置まで所定量ずつ下方に移動されてもよい。
なお、上記の説明においては、深度合成処理として位置H1〜Hjにそれぞれ対応する複数の原画像データが合成されるが、本発明はこれに限定されない。位置H1〜Hjにそれぞれ対応する複数の原画像データが、合成されることなく独立に利用されてもよい。
例えば、図9の合焦判定部620による判定結果に基づいて、撮像部132の焦点が観察対象物Sの特定の部分に最も一致する原画像データが位置H1〜Hjにそれぞれ対応する複数の原画像データから抽出されてもよい。この場合、リング照明および第1〜第4の方向性照明にそれぞれ対応して抽出された複数の原画像データに基づいて、全体的に合焦度が大きい画像を示す表示用画像データを高速に生成することができる。
(4)DR調整処理
(a)処理内容
使用者は、図1の操作部440を用いて図12のDR調整ボタンb2を操作することにより、演算処理部600にDR調整処理の指示を与えることができる。
DR調整処理においては、撮像部132の受光時間を予め定められた複数の値に変化させた状態で、リング照明および第1〜第4の方向性照明の各々が照射されたときの観察対象物Sが撮像される。これにより、リング照明および第1〜第4の方向性照明の各々に対応する複数の原画像データが、撮像部132の受光時間ごとに図9のデータ生成部610により生成される。撮像部132の受光時間が短いときに生成された各原画像データの全体的な画素値は比較的小さく撮像部132の受光時間が長いときに生成された各原画像データの全体的な画素値は比較的大きい。
リング照明に対応する複数の原画像データがデータ生成部610により合成される。これにより、リング照明に対応する原画像データのダイナミックレンジを調整することができる。同様に、各方向性照明に対応する複数の原画像データがデータ生成部610により合成される。これにより、各方向性照明に対応する原画像データのダイナミックレンジを調整することができる。
ここで、ダイナミックレンジの調整は、ダイナミックレンジの拡大および縮小を含む。ダイナミックレンジが拡大するように複数の原画像データを合成することにより、画像から黒つぶれおよびハレーション(白とび)を低減することができる。一方、ダイナミックレンジが縮小するように複数の原画像データを合成することにより、画像の濃淡の差が大きくなる。これにより、滑らかな表面を有する観察対象物Sの凹凸を精密に観察することができる。
上記の説明においては、リング照明および第1〜第4の方向性照明ごとにダイナミックレンジが調整されるように原画像データが先に合成され、合成された複数の原画像データに基づいて表示用画像データが生成されるが、本発明はこれに限定されない。撮像部132の受光時間ごとに複数の原画像データに基づいて表示用画像データが先に生成され、ダイナミックレンジが調整されるように撮像部132の受光時間ごとに生成された表示用画像データが合成されてもよい。
(b)DR調整処理の一例
図2の記憶部420に記憶されるシステムプログラムは、DR調整プログラムを含む。図2の制御部410は、DR調整プログラムを実行することにより、DR調整処理を行う。
図28および図29は、DR調整処理の一例を示すフローチャートである。制御部410は、撮像部132の受光時間を予め定められた初期値に設定する(ステップS401)。この状態で、制御部410は、投光部140によりリング照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS402)。続いて、制御部410は、リング照明が照射された状態で、撮像部132の全ての所望の受光時間で観察対象物Sが撮像されたか否かを判定する(ステップS403)。
ステップS403において、撮像部132の全ての所望の受光時間で観察対象物Sが撮像されていない場合、制御部410は、撮像部132の受光時間を予め定められた次の値に設定する(ステップS404)。その後、制御部410は、ステップS402の処理に戻る。撮像部132の全ての所望の受光時間で観察対象物Sが撮像されるまで、制御部410はステップS402〜S404の処理を繰り返す。
ステップS403において、撮像部132の全ての所望の受光時間で観察対象物Sが撮像された場合、制御部410は、生成されたリング照明に対応する複数の原画像データを合成する(ステップS405)。これにより、リング照明に対応する原画像データのダイナミックレンジが調整される。
その後、制御部410は、iを1に設定する(ステップS406)。ここで、iは複数の方向性照明の番号を示す。次に、制御部410は、撮像部132の受光時間を予め定められた初期値に設定する(ステップS407)。この状態で、制御部410は、投光部140により第iの方向性照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS408)。続いて、制御部410は、第iの方向性照明が照射された状態で、撮像部132の全ての所望の受光時間で観察対象物Sが撮像されたか否かを判定する(ステップS409)。
ステップS409において、撮像部132の全ての所望の受光時間で観察対象物Sが撮像されていない場合、制御部410は、撮像部132の受光時間を予め定められた次の値に設定する(ステップS410)。その後、制御部410は、ステップS408の処理に戻る。撮像部132の全ての所望の受光時間で観察対象物Sが撮像されるまで、制御部410はステップS408〜S410の処理を繰り返す。
ステップS409において、撮像部132の全ての所望の受光時間で観察対象物Sが撮像された場合、制御部410は、生成された生成された第iの方向性照明に対応する複数の原画像データを合成する(ステップS411)。これにより、第iの方向性照明に対応する原画像データのダイナミックレンジが調整される。
次に、制御部410は、iが4であるか否かを判定する(ステップS412)。ステップS412において、iが4でない場合、制御部410はiをi+1に更新する(ステップS413)。その後、制御部410はステップS407の処理に戻る。iが4になるまで、制御部410はステップS407〜S413の処理を繰り返す。これにより、第1〜第4の方向性照明の各々に対応する複数の原画像データが生成され、ダイナミックレンジが調整されるように合成される。ステップS412において、iが4である場合、制御部410は処理を終了する。
上記の説明において、一部の処理が他の時点で行われてよい。例えば、ステップS405の処理は、ステップS406〜S413の処理と並列的に実行されてもよい。また、第iの方向性照明に対応するステップS411の処理は、第(i+1)の方向性照明に対応するステップS407〜S410と並列的に実行されてもよい。これらの場合、DR調整処理を高速化することができる。
あるいは、ステップS401〜S405の処理は、ステップS406〜S413の処理よりも後に実行されてもよい。また、第iの方向性照明に対応するステップS411の処理は、第(i+1)の方向性照明に対応するステップS407〜S410の処理よりも後に実行されてもよい。
(c)DR調整処理の他の例
図30および図31は、DR調整処理の他の例を示すフローチャートである。制御部410は、撮像部132の受光時間を予め定められた初期値に設定する(ステップS421)。この状態で、制御部410は、投光部140によりリング照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS422)。
続いて、制御部410は、iを1に設定する(ステップS423)。ここで、iは複数の方向性照明の番号を示す。その後、制御部410は、投光部140により第iの方向性照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS424)。
次に、制御部410は、iが4であるか否かを判定する(ステップS425)。ステップS425において、iが4でない場合、制御部410はiをi+1に更新する(ステップS426)。その後、制御部410はステップS424の処理に戻る。iが4になるまで、制御部410はステップS424〜S426の処理を繰り返す。これにより、第1〜第4の方向性照明の各々に対応する複数の原画像データが生成される。続いて、制御部410は、撮像部132の全ての所望の受光時間で観察対象物Sが撮像されたか否かを判定する(ステップS427)。
ステップS427において、撮像部132の全ての所望の受光時間で観察対象物Sが撮像されていない場合、制御部410は、撮像部132の受光時間を予め定められた次の値に設定する(ステップS428)。その後、制御部410は、ステップS422の処理に戻る。撮像部132の全ての所望の受光時間で観察対象物Sが撮像されるまで、制御部410はステップS422〜S428の処理を繰り返す。
ステップS427において、撮像部132の全ての所望の受光時間で観察対象物Sが撮像された場合、制御部410は、生成されたリング照明に対応する複数の原画像データをダイナミックレンジが調整されるように合成する(ステップS429)。これにより、リング照明に対応する原画像データのダイナミックレンジが調整される。
その後、制御部410は、再度iを1に設定する(ステップS430)。次に、制御部410は、生成された第iの方向性照明に対応する複数の原画像データを合成する(ステップS431)。これにより、第iの方向性照明に対応する原画像データのダイナミックレンジが調整される。続いて、制御部410は、iが4であるか否かを判定する(ステップS432)。
ステップS432において、iが4でない場合、制御部410はiをi+1に更新する(ステップS433)。その後、制御部410はステップS431の処理に戻る。iが4になるまで、制御部410はステップS431〜S433の処理を繰り返す。これにより、第1〜第4の方向性照明の各々に対応する複数の原画像データが、ダイナミックレンジが調整されるように合成される。ステップS432において、iが4である場合、制御部410は処理を終了する。
上記の説明において、一部の処理が他の時点で行われてよい。例えば、ステップS429〜S433の処理の一部は、ステップS421〜S428の処理と並列的に行われてもよい。この場合、DR調整処理を高速化することができる。また、ステップS422の処理は、ステップS423〜S426の処理よりも後に実行されてもよい。さらに、ステップS429の処理は、ステップS430〜S433の処理よりも後に実行されてもよい。
(5)連結処理
(a)処理内容
図1の撮像部132の1回の撮像により原画像データが生成される観察対象物Sの表面を単位領域と呼ぶ。図1のステージ121がX方向またはY方向に移動されつつ観察対象物Sが撮像されることにより、X方向またはY方向に隣り合う複数の原画像データが撮像部132により生成される。図9のデータ生成部610は、隣り合う複数の原画像データを連結することにより、単位領域よりも大きい観察対象物Sの領域を示す連結画像データを生成することができる。
図32(a)〜(c)は、連結画像データを視覚的に示す図である。リング照明および複数の方向性照明の各々に対応して連結画像データが生成される。図32(a),(b)は、リング照明および複数の方向性照明のうちのいずれか2つの照明にそれぞれ対応する連結画像データCG1,CG2を示す。各連結画像データCG1,CG2は、隣り合う複数の原画像データOGが連結されることにより生成される。隣り合う原画像データOGには、のりしろとなる重複部分が設けられる。図32(a),(b)においては、当該重複部分が点線で示される。
連結画像データCG1,CG2を含む複数の連結画像データを合成することにより、表示用画像データを生成することができる。ここで、連結画像データごとに照明の照射位置および重複部分が異なることがある。この場合、図32(c)に示すように、複数の連結画像データのサイズが互いに一致しない。図32(c)においては、連結画像データCG1,CG2がそれぞれ実線および一点鎖線で示される。このような場合、表示用画像データを正確に生成することが困難である。これを防止するため、本実施の形態においては、以下の連結処理が実行される。
使用者は、図1の操作部440を用いて図12の連結ボタンb3を操作することにより、演算処理部600に連結処理の指示を与えることができる。
図33(a)〜(e)は、連結処理を説明するための図である。図33(a)〜(d)に示すように、観察対象物Sにリング照明が照射されつつステージ121がX方向に順次移動される。ステージ121の移動は、観察対象物Sの所望の領域の全てが撮像されるまで繰り返される。この状態で、原画像データOG1,OG2,OG3,OG4が撮像部132により順次生成される。図33の例では、原画像データOG1,OG2,OG3,OG4は、それぞれ実線、一点鎖線、点線および二点鎖線により図示される。
ステージ121は、隣り合う原画像データOG1〜OG4の一部が互いに重複するように移動される。図33の例では、原画像データOG1,OG2間、原画像データOG2,OG3間および原画像データOG3,OG4間に重複部分OL1,OL2,OL3がそれぞれ形成される。重複部分OL1〜OL3は、隣り合う原画像データOG1〜OG4を連結する際ののりしろとなる。
各原画像データOG1〜OG4が生成されたときのステージ121の位置は、図9の位置算出部632により算出され、当該位置を示す位置情報が図2の記憶部420に記憶される。また、原画像データOG1〜OG4間の重複部分OL1〜OL3を示す重複領域情報が記憶部420に記憶される。図9のデータ生成部610は、重複部分OL1〜OL3についてパターンマッチングを行うことにより隣り合う原画像データOG1〜OG4を連結する。これにより、原画像データOG1〜OG4が高い精度で連結される。
同様にして、観察対象物Sに各方向性照明が照射されつつステージ121がX方向に順次移動される。この状態で、X方向に隣り合う複数の原画像データが撮像部132により順次生成される。データ生成部610は、生成された各原画像データの位置を記憶部420に記憶された位置情報および重複領域情報に基づいて補正し、補正後の隣り合う原画像データを連結する。
この連結処理の手順によれば、各方向性照明に対応する隣り合う原画像データについて、パターンマッチングを行うことなく高い精度で連結することができる。また、パターンマッチングを行う必要がないので、連結処理を高速化することができる。さらに、各方向性照明に対応する連結後の画像データのサイズがリング照明に対応する連結後の画像データのサイズに一致する。これにより、複数の連結後の画像データを用いて単位領域よりも大きい観察対象物Sの領域を示す表示用画像データを容易に生成することができる。
上記の連結処理においては、複数の連結後の画像データが先に生成され、生成された複数の連結後の画像データを用いて単位領域よりも大きい観察対象物Sの領域を示す表示用画像データが生成されるが、本発明はこれに限定されない。ステージ121の複数の位置における表示用画像データが先に生成され、生成された複数の表示用画像データが連結されることにより単位領域よりも大きい観察対象物Sの領域を示す表示用画像データが生成されてもよい。この場合、複数の表示用画像データはパターンマッチングを用いて連結されることが好ましい。また、複数の表示用画像データは、リング照明が出射されたときの重複領域情報を用いて連結されることが好ましい。
(b)連結処理の一例
図2の記憶部420に記憶されるシステムプログラムは、連結プログラムを含む。図2の制御部410は、連結プログラムを実行することにより、連結処理を行う。
図34および図35は、連結処理の一例を示すフローチャートである。制御部410は、ステージ121を初期位置に移動させる(ステップS501)。また、制御部410は、移動後のステージ121の位置を算出し、当該位置を示す位置情報を記憶部420に記憶させる(ステップS502)。次に、制御部410は、投光部140によりリング照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS503)。続いて、制御部410は、リング照明が照射された状態で観察対象物Sの所望の領域の全てが撮像されたか否かを判定する(ステップS504)。
ステップS504において、観察対象物Sの所望の領域の全てが撮像されていない場合、制御部410は、ステージ121を所定量だけ移動させる(ステップS505)。その後、制御部410は、ステップS502の処理に戻る。観察対象物Sの所望の領域の全てが撮像されるまで、制御部410はステップS502〜S505の処理を繰り返す。
ステップS504において、観察対象物Sの所望の領域の全てが撮像された場合、制御部410は生成されたリング照明に対応する複数の原画像データを連結する(ステップS506)。また、制御部410は、隣り合う原画像データを連結した際の重複領域を示す重複領域情報を記憶部420に記憶させる(ステップS507)。
その後、制御部410は、ステージ121を初期位置に移動させる(ステップS508)。次に、制御部410は、iを1に設定する(ステップS509)。ここで、iは複数の方向性照明の番号を示す。続いて、制御部410は、投光部140により第iの方向性照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS510)。続いて、制御部410は、第iの方向性照明が照射された状態で観察対象物Sの所望の領域の全てが撮像されたか否かを判定する(ステップS511)。
ステップS511において、観察対象物Sの所望の領域の全てが撮像されていない場合、制御部410は、ステージ121を所定量だけ移動させる(ステップS512)。その後、制御部410は、ステップS510の処理に戻る。観察対象物Sの所望の領域の全てが撮像されるまで、制御部410はステップS510〜S512の処理を繰り返す。
ステップS511において、観察対象物Sの所望の領域の全てが撮像された場合、制御部410は、記憶部420に記憶された位置情報および重複領域情報に基づいて、生成された第iの方向性照明に対応する複数の原画像データの位置を補正する(ステップS513)。また、制御部410は、補正された複数の原画像データを連結する(ステップS514)。
次に、制御部410は、iが4であるか否かを判定する(ステップS515)。ステップS515において、iが4でない場合、制御部410はiをi+1に更新する(ステップS516)。その後、制御部410はステップS510の処理に戻る。iが4になるまで、制御部410はステップS510〜S516の処理を繰り返す。これにより、第1〜第4の方向性照明の各々に対応する複数の原画像データが生成され、記憶部420に記憶された位置情報および重複領域情報に基づいて連結される。ステップS515において、iが4である場合、制御部410は処理を終了する。
上記の説明において、一部の処理が他の時点で行われてよい。例えば、ステップS506,S507の処理は、ステップS508〜S512と並列的に実行されてもよい。また、第iの方向性照明に対応するステップS513,S514の処理は、第(i+1)の方向性照明に対応するステップS510〜S512と並列的に実行されてもよい。これらの場合、連結処理を高速化することができる。
あるいは、ステップS506,S507の処理は、ステップS508〜S512の処理よりも後に実行されてもよい。また、第iの方向性照明に対応するステップS513,S514の処理は、第(i+1)の方向性照明に対応するステップS510〜S512の処理よりも後に実行されてもよい。
(c)連結処理の他の例
図36および図37は、連結処理の他の例を示すフローチャートである。制御部410は、ステージ121を初期位置に移動させる(ステップS521)。また、制御部410は、移動後のステージ121の位置を算出し、当該位置を示す位置情報を記憶部420に記憶させる(ステップS522)。次に、制御部410は、投光部140によりリング照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS523)。
続いて、制御部410は、iを1に設定する(ステップS524)。ここで、iは複数の方向性照明の番号を示す。その後、制御部410は、投光部140により第iの方向性照明を観察対象物Sに照射するとともに、撮像部132により観察対象物Sを撮像する(ステップS525)。次に、制御部410は、iが4であるか否かを判定する(ステップS526)。
ステップS526において、iが4でない場合、制御部410はiをi+1に更新する(ステップS527)。その後、制御部410はステップS525の処理に戻る。iが4になるまで、制御部410はステップS525〜S527の処理を繰り返す。これにより、第1〜第4の方向性照明の各々に対応する複数の原画像データが生成される。ステップS526において、iが4である場合、制御部410は、観察対象物Sの所望の領域の全てが撮像されたか否かを判定する(ステップS528)。
ステップS528において、観察対象物Sの所望の領域の全てが撮像されていない場合、制御部410は、ステージ121を所定量だけ移動させる(ステップS529)。その後、制御部410は、ステップS522の処理に戻る。観察対象物Sの所望の領域の全てが撮像されるまで、制御部410はステップS522〜S528の処理を繰り返す。
ステップS528において、観察対象物Sの所望の領域の全てが撮像された場合、制御部410は、制御部410は生成されたリング照明に対応する複数の原画像データを連結する(ステップS530)。また、制御部410は、隣り合う原画像データを連結した際の重複領域を示す重複領域情報を記憶部420に記憶させる(ステップS531)。
続いて、制御部410は、再度iを1に設定する(ステップS532)。その後、制御部410は、記憶部420に記憶された位置情報および重複領域情報に基づいて、生成された第iの方向性照明に対応する複数の原画像データの位置を補正する(ステップS533)。また、制御部410は、補正された複数の原画像データを連結する(ステップS534)。次に、制御部410は、iが4であるか否かを判定する(ステップS535)。
ステップS535において、iが4でない場合、制御部410はiをi+1に更新する(ステップS536)。その後、制御部410はステップS533の処理に戻る。iが4になるまで、制御部410はステップS533〜S536の処理を繰り返す。これにより、第1〜第4の方向性照明の各々に対応する複数の原画像データが、記憶部420に記憶された位置情報および重複領域情報に基づいて連結される。ステップS535において、iが4である場合、制御部410は処理を終了する。
上記の説明において、一部の処理が他の時点で行われてよい。例えば、ステップS530〜S536の処理の一部は、ステップS521〜S529の処理と並列的に実行されてもよい。この場合、連結処理を高速化することができる。また、ステップS523の処理は、ステップS524〜S527の処理よりも後に実行されてもよい。
(6)ハレーション低減処理
(a)ハレーション低減処理の具体的な内容
以上で説明したように、本発明においては、複数の原画像データが生成される。これにより、表示用画像データを生成することが可能になる。一方で、生成された複数の原画像データは、表示用画像データの生成以外の他の用途に用いることもできる。複数の原画像データの用途の一例として、ハレーションが低減された画像データの生成がある。以下、ハレーション低減処理について説明する。
撮像部132において生成される複数の画素データの値(画素値)は、複数の画素に入射する光の強度分布に応じて変化する。撮像部132に強度の高い光が入射すると、強度の高い光を受光した画素から出力される画素値が検出可能な値の上限値に達する(飽和する)場合がある。それにより、観察対象物Sの画像SIにハレーション(白とび)が発生する。
図38は、複数照明撮像により取得される観察対象物Sの複数の画像SIの一部にハレーションが発生している例を示す図である。図38(a)〜(e)には、リング照明および第1〜第4の方向性照明にそれぞれ対応する観察対象物Sの複数の画像SIがそれぞれ示される。また、各画像SI内に発生するハレーションHLがドットパターンで示される。
図38(a)〜(e)に示すように、ハレーションHLの発生位置および影SHの発生位置は、観察対象物Sに照射される光の出射方向に大きく依存する。観察対象物Sの形状等によっては、光の仮想的な出射方向を変更しても、主表示領域432に表示される画像SIからハレーションを低減することが難しい場合がある。
使用者は、図1の操作部440を用いて図12のハレーションボタンb4を操作する。それにより、使用者は、制御部410にハレーション低減処理の指示を与えることができる。
ハレーション低減処理では、複数照明撮像により生成される複数の原画像データに基づいて、各原画像データに比べてハレーション成分の低減された飽和低減画像データが表示用画像データとして生成される。ハレーション低減処理の詳細について説明する。
以下の説明においては、画素値の上限値は“255”であり、下限値は“0”であるものとする。この場合、画素値“255”を示す画素の位置がハレーションHLの発生位置に対応し、画素値“0”を示す画素の位置が影SHの発生位置に対応する。
ハレーション低減処理では、複数の原画像データの互いに対応する複数の画素ごとに画素値の大きさが比較され、画素値の大きさに基づいて複数の画素に順位が付与される。例えば、図38(a)〜(e)に示すように、複数の画像SIの互いに対応する複数の画素PX1,PX2,PX3,PX4,PX5の画素値が、それぞれ“255”、“255”、“100”、“95”および“90”である場合を想定する。
この場合、最も高い画素値“255”を示す画素PX1,PX2にそれぞれ1番目および2番目の順位が付与され、次に高い画素値“100”を示す画素PX3に3番目の順位が付与され、画素値“95”を示す画素PX4に4番目の順位が付与され、最も低い画素値“90”を示す画素PX5に5番目の順位が付与される。
本実施の形態においては、ハレーション低減処理の開始時に、使用者による図1の操作部440の操作に基づいて選択順位が指定される。選択順位として指定可能な数は、複数照明撮像により観察対象物Sに照射される照明の総数以下の自然数である。複数の画素PX1〜PX5について順位が付与された後、選択順位に基づいて、複数の画素PX1〜PX5のうちの1つの画素が選択される。例えば、使用者により選択順位が「3」と指定されている場合には、複数の画素PX1〜PX5のうちの3番目の画素PX3が選択される。
このようにして、複数の画像SIの全ての画素について、画素値の大きさに基づく画素の選択が行われる。その後、選択された複数の画素が合成されることにより、飽和低減画像データが生成される。
飽和低減画像データに基づく観察対象物Sの画像SIにおいては、選択順位の値に応じてハレーション成分の低減度合いが変化する。例えば、選択順位が「1」に指定されると、互いに対応する複数の画素のうち最も高い画素値を有する画素が選択される。この場合、飽和した画素値“255”を示す全ての画素が選択される。そのため、ハレーション成分が低減されない。
選択順位が「3」に指定されると、互いに対応する複数の画素のうち中程度の画素値を示す画素が選択される。この場合、画素値“255”を示す画素が選択される可能性が低くなる。そのため、各原画像データに比べてハレーション成分が中程度に低減された飽和低減画像データが生成される。
選択順位が「5」に指定されると、互いに対応する複数の画素のうち最も低い画素値を示す画素が選択される。この場合、画素値“255”を示す画素が選択される可能性が極めて低くなる。そのため、各原画像データに比べてハレーション成分がより大きく低減された飽和低減画像データが生成される。なお、選択順位が「5」に指定された場合には、互いに対応する複数の画素のうち最も低い画素値を有する画素が選択される。この場合、画素値“0”を示す全ての画素が選択される。そのため、影SHおよび黒つぶれが発生しやすく、画像SIが全体的に暗くなる。
上記のように、ハレーション低減処理におけるハレーション成分の低減度合いは、選択順位の値が小さくなるにつれて弱くなり、選択順位の値が大きくなるにつれて強くなる。したがって、使用者は、選択順位を指定することにより、ハレーション成分の低減度合いおよび画像SIの全体的な明るさを調整することができる。
図39は、ハレーション低減処理が指示されたときの観察画面430Aの表示状態の一例を示す図である。ハレーション低減処理が指示されると、主表示領域432に観察対象物Sの画像SIとともに順位指定欄b41および実行ボタンb42が表示される。
使用者は、図1の操作部440を用いて順位指定欄b41に所望の選択順位を入力することができる。また、使用者は、図1の操作部440を用いて実行ボタンb42を操作することにより、順位指定欄b41に入力された選択順位を指定することができる。
図39の実行ボタンb42が操作されることにより飽和低減画像データが生成される。図40は、ハレーション低減処理後の観察画面430Aの表示状態の一例を示す図である。図40に示すように、飽和低減画像データに基づく観察対象物Sの画像SIが主表示領域432に表示される。
ハレーション低減処理によれば、複数照明撮像により取得された複数の原画像データに基づいて、ハレーション成分が低減された飽和低減画像データが生成される。したがって、ハレーション成分が低減された観察対象物Sの画像SIを短時間で取得することができる。
上記のハレーション低減処理は複数照明撮像処理により生成された5つの原画像データに基づいて実行されるが、本発明はこれに限定されない。ハレーション低減処理は、互いに異なる2つの出射方向の照明で撮像された2つの原画像データに基づいて実行されてもよいし、互いに異なる3つの出射方向の照明で撮像された3つの原画像データに基づいて実行されてもよいし、互いに異なる4つの出射方向の照明で撮像された4つの原画像データに基づいて実行されてもよい。さらに、光の出射方向が互いに異なる5以上の照明で撮像された5以上の原画像データに基づいて実行されてもよい。これらの場合、選択順位として指定可能な数は、ハレーション低減処理に使用される原画像データの数以下の自然数となる。
上記のハレーション低減処理では、複数の原画像データの互いに対応する複数の画素について画素値が高い順に順位が付与されるが、本発明はこれに限定されない。複数の原画像データの互いに対応する複数の画素について画素値が低い順に順位が付与されてもよい。
ハレーション低減処理に用いる複数の原画像データに対応する複数の方向性照明のうち2つの方向性照明に対応する光の出射位置は、対物レンズ131aの光軸A1を挟んで対向するように配置されていることが好ましい。それにより、観察対象物Sに照射される2つの照明の光の出射方向が大きく異なるので、2つの方向性照明に対応する2つの原画像データに共通のハレーション成分が生じる可能性が低くなる。したがって、ハレーション成分がより低減された飽和低減画像データを生成することが可能になる。
上記の例では、ハレーション低減処理は複数照明撮像処理により生成された5つの原画像データに基づいて実行されるが、本発明はこれに限定されない。複数方向性照明による撮像が連続的に繰り返し実行されるとともに、原画像データが生成されるごとに飽和低減画像データが生成されてもよい。また、飽和低減画像データが生成されるごとに、生成された飽和低減画像データに基づく観察対象物Sの画像SIが表示部430上で更新されてもよい。
図41は、複数の方向性照明による撮像を繰り返し実行しつつ原画像データが生成されるごとに飽和低減画像データを生成するハレーション低減処理の概念図である。図41の最上段に示すように、本例では、時間の経過とともに第1〜第4の方向性照明にそれぞれ対応する原画像データが順次繰り返して生成される。
制御部410は、初期状態から4番目の原画像データが生成された時点で1番目〜4番目までの4つの原画像データと予め指定された選択順位とに基づいてハレーション低減処理を実行する。それにより、ハレーション成分が低減された飽和低減画像データに基づく画像SIを表示部430に表示させる。
その後、制御部410は、新たなn(nは5以上の自然数)番目の原画像データが生成されるごとに、(n−3)番目からn番目までの4つの原画像データに基づいてハレーション低減処理を実行する。それにより、新たな飽和低減画像データに基づいて表示部430に表示される画像SIが更新される。
この場合、表示部430にハレーション成分が低減された観察対象物Sの画像SIがリアルタイムに表示される。したがって、使用者は、観察対象物Sの画像SIを視認しつつ、撮像部132の受光時間の調整等を容易に行うことができる。
ここで、上記のようにハレーション成分が低減された画像SIがリアルタイムに表示される場合、観察対象物Sの画像SIの更新動作は、特定の期間で停止されてもよい。
例えば、同じ方向性照明により一定周期で生成される複数の原画像データに変化がない場合には、撮像情報および照明条件の調整が停止されている可能性が高い。そこで、同じ方向性照明により一定周期で生成される所定数の原画像データの間で画像の変化が認められないときに、画像SIの更新動作が停止されてもよい。また、観察対象物Sの画像SIの更新動作が停止された後、同じ方向性照明により生成される2つの原画像データの間で画像の変化が認められたときに、更新動作が再開されてもよい。この場合、更新動作が停止された状態で、表示部430に表示される観察対象物Sの画像SIのちらつきが防止される。
上記の例では、使用者が選択順位を指定するために観察画面430Aに順位指定欄b41が表示されるが、本発明はこれに限定されない。順位指定欄b41が表示される代わりに、選択順位を画像の明るさとして示すバーとそのバー上で選択順位を指定するためのスライダとが、観察画面430Aに表示されてもよい。この場合、使用者は、スライダを操作することにより、選択順位を指定することができる。
上記の例では、選択順位は使用者の指定に基づいて設定されるが、本発明はこれに限定されない。選択順位は、使用者により設定される代わりに予め拡大観察装置1の工場出荷時に拡大観察装置1の製造者により設定されてもよい。
複数の原画像データの少なくとも一部がハレーション成分を含む場合、複数の原画像データの互いに対応する複数の画素がそれぞれ示す複数の画素値のうち最も高い値は飽和している可能性がある。そこで、選択順位が予め設定される場合、選択順位は、最も高い値を除く画素値を示す画素が選択されるように設定されることが好ましい。この場合、複数の原画像データの互いに対応する複数の画素から、最も高い画素値を除く画素値を示す画素が選択される。そのため、飽和した画素値を示す画素が選択されにくくなる。したがって、ハレーション成分が低減された表示用画像データが生成される。
また、ハレーション低減処理においては、制御部410は、選択順位に基づいて互いに対応する複数の画素から1つの画素を選択する代わりに、選択順位を用いることなく複数の画素の画素値に基づいて1つの画素を選択してもよい。具体的には、制御部410は、互いに対応する複数の画素の複数の画素値の全てが飽和している場合に複数の画素のうちの任意の画素を選択してもよい。また、制御部410は、複数の画素値の一部が飽和しかつ残りの画素値が飽和していない場合に飽和していない画素値を示す画素のうち任意の画素を選択してもよい。さらに、制御部410は、複数の画素値の全てが飽和していない場合に飽和していない画素値を示す画素のうち任意の画素を選択してもよい。
本実施の形態に係るハレーション低減処理は、複数照明撮像処理後に、使用者がハレーション低減処理を指示することにより実行されるが、本発明はこれに限定されない。例えば、拡大観察装置1の制御部410は、使用者による動作モードの選択に応答して、通常モードおよびハレーション低減モードのうち一方のモードで動作可能に構成されてもよい。この場合、制御部410は、通常モードにおいて、使用者によるハレーション低減処理の指示に応答してハレーション低減処理を実行してもよい。一方、制御部410は、ハレーション低減モードにおいて、撮像により生成される画像データにハレーション成分が存在するか否かを判定し、ハレーション成分が存在する場合にハレーション低減処理を実行してもよい。
(b)ハレーション低減処理の一例
図2の記憶部420に記憶されるシステムプログラムは、ハレーション低減プログラムを含む。図2の制御部410は、ハレーション低減プログラムを実行することにより、ハレーション低減処理を行う。
図42は、ハレーション低減処理の一例を示すフローチャートである。ハレーション低減処理は、使用者によるハレーション低減処理の指示に応答して開始される。ハレーション低減処理が開始されると、制御部410は、選択順位が指定されたか否かを判定する(ステップS601)。なお、選択順位が予め設定されている場合、制御部410はステップS601の処理を省略することができる。
選択順位が指定されない場合、制御部410は、選択順位が指定されるまでステップS601の処理を繰り返す。選択順位が指定されると、制御部410は、指定された選択順位を記憶部420に記憶させ(ステップS602)、kを1に設定する(ステップS603)。
続いて、制御部410は、複数の原画像データの互いに対応するk番目の複数の画素データを読み出す(ステップS604)。制御部410は、読み出した複数の画素データの画素値に基づいてそれらの画素値を示す複数の画素にそれぞれ順位を付与する(ステップS605)。そこで、制御部410は、複数の画素から指定された選択順位の画素を選択する(ステップS606)。
次に、制御部410は、kが撮像部132の全画素数を表す値Nであるか否かを判定する(ステップS607)。kが値Nではない場合、制御部410は、kをk+1に更新し(ステップS608)、ステップS604の処理に戻る。一方、kが値Nである場合、制御部410は、ステップS604〜S608の処理が繰り返されることにより選択された全ての画素を合成して飽和低減画像データを生成する(ステップS609)。
最後に、制御部410は、飽和低減画像データに基づく観察対象物Sの画像SIを表示部430の主表示領域432に表示させる(ステップS610)。
(c)ハレーション低減処理と深度合成処理との組み合わせ
使用者は、ハレーション低減処理と深度合成処理とを組み合わせて使用してもよい。図43は、ハレーション低減処理と深度合成処理とを組み合わせて使用する場合の使用例を示す図である。図43(a)に、リング照明で撮像された原画像データに基づく観察対象物Sの画像SIの一例が示される。本例の観察対象物Sにおいては、上面の一部に、「sss」および「fff」の文字列が付されている。
図43(a)の画像SIにおいては、対象部分画像sp上にハレーションHLが発生している。また、図43(a)の画像SIにおいては、観察対象物Sの一部に光の焦点が合っていない。そのため、観察対象物Sの形状の一部を詳細に観察することができない。そこで、使用者は、深度合成処理を指示する。この場合、制御部410は、深度合成処理を実行し、リング照明および第1〜第4の方向性照明にそれぞれ対応する複数の深度合成画像データを生成する。
図43(b)に、リング照明に対応する深度合成画像SFの一例が示される。図43(b)の深度合成画像SFにおいては、観察対象物Sの全体に渡って光の焦点が合っているが、対象部分画像sp上にハレーションHLが存在する。そこで、使用者は、ハレーション低減処理を指示する。この場合、制御部410は、深度合成処理で生成された複数の深度合成画像データのうち少なくとも2以上の深度合成画像データを用いてハレーション低減処理を実行し、飽和低減画像データを生成する。
図43(c)に、ハレーション成分が低減された深度合成画像SFの一例が示される。図43(c)の画像SIにおいては、観察対象物Sの全体に渡って光の焦点が合っているとともに、対象部分画像sp上にハレーションHLが存在しない。
このように、ハレーション低減処理と深度合成処理とを組み合わせて使用することにより、観察対象物Sの各部分に焦点が合いかつハレーション成分が低減された観察対象物Sの画像を観察することができる。
ハレーション低減処理と深度合成処理とを組み合わせて使用する場合、処理の順序は上記の例に限定されない。例えば、レンズユニット131のZ方向の複数の位置にそれぞれ対応する複数の原画像データが生成された後、Z方向の複数の位置にそれぞれ対応する複数の飽和低減画像データが生成され、生成された複数の飽和低減画像データに基づいて1つの深度合成画像データが生成されてもよい。
なお、ハレーション低減処理と深度合成処理とを組み合わせた処理は、使用者による各処理の指示により手動で実行されてもよいし、予め定められた処理順序に従って自動で実行されてもよい。
(d)ハレーション低減処理とDR調整処理との組み合わせ
ハレーション低減処理では、ハレーション低減処理に用いられる複数の原画像データの互いに対応する部分の画素値が全て飽和していると、その部分に対応するハレーションを除去することができない。一方、DR調整処理では、撮像部132の複数の画素の一部に過剰に強度の高い光が入射すると、ダイナミックレンジを調整してもその部分の画素値を上限値よりも低くすることができない場合がある。この場合、その部分に対応するハレーションを除去することができない。そこで、使用者は、ハレーション低減処理とDR調整処理とを組み合わせて使用してもよい。
図44は、ハレーション低減処理とDR調整処理とを組み合わせて使用する場合の使用例を示す図である。図44(a)に、リング照明で撮像された原画像データに基づく観察対象物Sの画像SIの一例が示される。図44(a)の画像SIにおいては、対象部分画像sp上の広い範囲に渡ってハレーションHLが発生している。そこで、使用者は、DR調整処理を指示する。この場合、制御部410は、DR調整処理を実行し、複数の原画像データのダイナミックレンジを調整する。
図44(b)に、ダイナミックレンジが調整されたリング照明に対応する画像SIの一例が示される。図44(b)の画像SIにおいては、図44(a)のハレーションHLが完全に除去されておらず、対象部分画像sp上にハレーションHLがわずかに存在する。そこで、使用者は、ハレーション低減処理を指示する。この場合、制御部410は、ダイナミックレンジが調整された複数の原画像データのうち少なくとも2以上の原画像データを用いてハレーション低減処理を実行し、飽和低減画像データを生成する。
図44(c)に、ハレーション低減処理後の画像SIの一例が示される。図44(c)の画像SIにおいては、図44(b)のハレーションHLが除去されている。
このように、ハレーション低減処理をDR調整処理と組み合わせて使用することにより、ハレーション成分がより低減された観察対象物Sの画像を観察することができる。
ハレーション低減処理とDR調整処理とを組み合わせて使用する場合、処理の順序は上記の例に限定されない。例えば、ハレーション低減処理とDR調整処理とを組み合わせた処理は、以下のように実行されてもよい。
まず、複数照明撮像処理により複数の原画像データが生成される。生成された複数の原画像データに基づいてハレーション低減処理が実行されることにより1番目の飽和低減画像データが生成される。その後、受光時間を変更して複数照明撮像処理が実行されることにより再度複数の原画像データが生成される。新たに生成された複数の原画像データに基づいてハレーション低減処理が実行されることにより2番目の飽和低減画像データが生成される。最後に、1番目および2番目の飽和低減画像データが合成される。それにより、ダイナミックレンジが調整された飽和低減画像データが生成される。
なお、ハレーション低減処理とDR調整処理とを組み合わせた処理は、使用者による各処理の指示により手動で実行されてもよいし、予め定められた処理順序に従って自動で実行されてもよい。
(e)ハレーション低減処理と連結処理との組み合わせ
連結処理により生成された表示用画像データにハレーションが存在する場合がある。そこで、使用者は、ハレーション低減処理と連結処理とを組み合わせて使用してもよい。例えば、使用者は、連結処理後に表示部430に表示される画像にハレーションが存在する場合に、ハレーション低減処理を指示する。
この場合、制御部410は、連結処理において各単位領域について生成された複数の原画像データに基づいてその単位領域に対応する飽和低減画像データを生成する。続いて、制御部410は、連結処理時に記憶部420に記憶された位置情報および重複領域情報に基づいて複数の飽和低減画像データを連結する。
このように、ハレーション低減処理と連結処理とを組み合わせて使用することにより、単位領域よりも大きい観察対象物Sの領域を示しかつハレーション成分が低減された観察対象物Sの画像を取得することができる。
(7)効果
本実施の形態に係る拡大観察装置1においては、投光部140からリング照明および複数の方向性照明が観察対象物Sに照射される。リング照明および複数の方向性照明の出射方向は互いに異なる。そのため、使用者は、出射方向を任意に指定することにより、実際に観察対象物Sに照射する光の出射方向を変更することなく、観察対象物Sの形状および材質に応じた適切な出射方向の光が観察対象物Sに照射されたときの画像を示す表示用画像データを生成することができる。
また、表示用画像データは、リング照明および複数の方向性照明にそれぞれ対応する複数の深度合成画像データの少なくとも1つに基づいて生成されるので、観察対象物の各部分に焦点が合った画像を示す表示用画像データが生成される。これにより、使用者の要求に応じた観察対象物Sの画像を容易に取得することができる。
さらに、表示用画像データは、既に生成されたリング照明または方向性照明に対応する原画像データを用いて生成可能であるので、観察対象物Sの撮像を再度行う必要がない。したがって、使用者の負担を低減することができる。
[2]第2の実施の形態
本発明の第2の実施の形態に係る拡大観察装置について、第1の実施の形態に係る拡大観察装置1と異なる点を説明する。図45は、本発明の第2の実施の形態に係る拡大観察装置の構成を示す模式図である。図45に示すように、本実施の形態に係る拡大観察装置1においては、測定ヘッド100は投光部160をさらに含む。投光部160は、ハーフミラー161を有する。
レンズユニット131は、内部に投光部160を保持可能に構成される。投光部160は、ハーフミラー161の反射面が斜め下方を向くように対物レンズ131aの光軸A1に対して約45°傾斜する状態で、レンズユニット131内に配置される。投光部160は、ファイバユニット201の図示しない一部の光ファイバにより処理装置200の光生成部300に光学的に接続される。
光生成部300の遮光部320は、図3の投光部140の領域140A〜140Dにそれぞれ対応する複数の開口パターンを有するとともに、投光部160に対応する開口パターンを有する。図2の投光制御部510は、光を通過させる遮光部320の開口パターンを切り替えることにより、第1の実施の形態と同様に投光部140に光を入射可能であるとともに、投光部160に光を入射可能である。投光部140に入射した光の挙動は、第1の実施の形態における投光部140に入射した光の挙動と同様である。
投光部160に入射した光は、ハーフミラー161で反射されることにより対物レンズ131aの光軸A1に沿って下方に出射され、観察対象物Sに照射される。投光部160から出射される光を同軸落射照明と呼ぶ。観察対象物Sに照射された光は上方に反射され、投光部160のハーフミラー161およびレンズユニット131を透過して撮像部132に導かれる。
上記の構成によれば、投光部160は、投光部140よりも対物レンズ131aの光軸A1に近い位置から観察対象物Sに光を照射可能である。したがって、同軸落射照明は対物レンズ131aの光軸A1と平行な方向に出射される明視野照明となり、リング照明は対物レンズ131aの光軸A1に対して傾斜した方向に照射される暗視野照明となる。同軸落射照明を観察対象物Sに照射することにより、観察対象物Sの表面の凹凸および素材の違いをより鮮明に撮像することができる。なお、投光部140,160から同時に光を観察対象物Sに照射することも可能である。
図2の撮像制御部520は、同軸落射照明の照射時における撮像部132の受光時間、ゲインおよびタイミング等を制御する。本実施の形態では、同軸落射照明の照射は、リング照明および第1〜第4の方向性照明の照射よりも後に行われる。撮像制御部520は、先に生成されたリング照明に対応する原画像データの平均輝度値に基づいて自動露出を行うことにより、同軸落射照明の照射時における受光時間を調整する。同軸落射照明の照射時における受光時間は、使用者により所望の値に調整されてもよい。
撮像部132は、同軸落射照明が観察対象物Sに照射されたときの観察対象物Sを示す原画像データをさらに生成する。生成された同軸落射照明に対応する原画像データは、記憶部420に記憶される。また、同軸落射照明の照射の実行の有無および同軸落射照明の照射時における受光時間等の撮像条件をさらに示す撮像情報が記憶部420に記憶される。
図9のデータ生成部610は、記憶部420に記憶されたリング照明および方向性照明にそれぞれ対応する原画像データに加えて、同軸落射照明に対応する原画像データにさらに基づいて表示用画像データを生成する。具体的には、データ生成部610は、リング照明、方向性照明および同軸落射照明にそれぞれ対応する複数の原画像データの一部または全部を、使用者により指定された照明条件により定まる割合で合成する。生成された表示用画像データは、記憶部420に記憶される。
本実施の形態に係る複数照明撮像処理では、リング照明および第1〜第4の方向性照明を用いた観察対象物Sの撮像後に同軸落射照明を用いて観察対象物Sが撮像される。それにより、リング照明、第1〜第4の方向性照明および同軸落射照明にそれぞれ対応する複数(本例では6つ)の原画像データが生成される。
複数照明撮像処理が完了すると、表示部430に観察画面430Aが表示される。図46は、第2の実施の形態に係る複数照明撮像処理後の観察画面430Aの一表示例を示す図である。図46に示すように、機能表示領域431に、上記の複数のボタンb1〜b7に加えて落射ボタンb11が表示される。
使用者は、操作部440を用いて落射ボタンb11を操作する。それにより、使用者は、同軸落射照明に対応する原画像データを用いて表示用画像データを生成すべきことを指示することができる。
同軸落射照明に対応する原画像データを用いることが指示されると、副表示領域433に、同軸落射照明に対応する原画像データの他の原画像データに対する合成割合(以下、落射画像割合と呼ぶ。)を指定するためのバー433cおよびスライダ433dが表示される。
使用者は、スライダ433dを操作することにより、落射画像割合を指定することができる。図46の例では、スライダ433dがバー433cの左端に近づくにつれて落射画像割合が高く指定され、スライダ433dがバー433cの右端に近づくにつれて落射画像割合が低く指定される。
落射画像割合が指定されると、制御部410は、表示用画像生成処理における図19のステップS209の処理で、指定された出射方向に加えて指定された落射画像割合に基づいて複数の原画像データの合成割合を算出する。
例えば、制御部410は、まず指定された出射方向に基づいてリング照明および第1〜第4の方向性照明の各々に対応する原画像データの合成割合を算出する。その後、制御部410は、指定された落射画像割合がt(tは0から100までの数)%である場合に、リング照明および第1〜第4の方向性照明の複数の合成割合の合計が(100−t)%となるように、リング照明および第1〜第4の方向性照明の各々に対応する原画像データの合成割合を修正する。
上記のように算出された複数の合成割合に基づいて複数の原画像データが合成されることにより表示用画像データが生成され、同軸落射照明に対応する原画像データの成分を含む観察対象物Sの画像SIが主表示領域432に表示される。
同軸落射照明に対応する原画像データの画像SIによれば、リング照明および第1〜第4の方向性照明の各々に対応する原画像データの画像SIに比べて、観察対象物Sの表面の凹凸および素材の違いをより正確に観察することができる。
したがって、使用者は、図46の落射ボタンb11およびスライダ433dを操作することにより、観察の目的に応じた観察対象物Sの画像SIを容易に取得することができる。
[3]第3の実施の形態
本発明の第3の実施の形態に係る拡大観察装置について、第1の実施の形態に係る拡大観察装置1と異なる点を説明する。図47は、本発明の第3の実施の形態に係る拡大観察装置の構成を示す模式図である。図47に示すように、本実施の形態に係る拡大観察装置1においては、測定ヘッド100は投光部170をさらに含む。投光部170は、ミラー171を有する。また、拡大観察装置1はファイバユニット204をさらに含む。ファイバユニット204は、図示しない複数の光ファイバを含む。投光部170は、スタンド部110の設置部111に内蔵されていてもよい。
スタンド部110の設置部111は、内部に投光部170を保持可能に構成される。投光部170は、ミラー171の反射面が斜め上方を向くように対物レンズ131aの光軸A1に対して約45°傾斜する状態で、設置部111内に配置される。これにより、投光部170は、観察対象物Sおよびステージ121を挟んで鏡筒部130と対向する。投光部170は、ファイバユニット201の図示しない一部の光ファイバにより処理装置200の光生成部300に光学的に接続される。
光生成部300の遮光部320は、図3の投光部140の領域140A〜140Dにそれぞれ対応する複数の開口パターンを有するとともに、投光部170に対応する開口パターンを有する。図2の投光制御部510は、光を通過させる遮光部320の開口パターンを切り替えることにより、第1の実施の形態と同様に投光部140に光を入射可能であるとともに、投光部170に光を入射可能である。投光部140に入射した光の挙動は、第1の実施の形態における投光部140に入射した光の挙動と同様である。
投光部170に入射した光は、ミラー171で反射されることにより対物レンズ131aの光軸A1に沿って上方に出射され、ステージ121上の観察対象物Sに照射される。投光部170から出射される光を透過照明と呼ぶ。観察対象物Sに照射された光は上方に透過し、レンズユニット131を透過して撮像部132に導かれる。透過照明を観察対象物Sに照射することにより、観察対象物Sの内部の構造を撮像することができる。
撮像部132は、透過照明が観察対象物Sに照射されたときの観察対象物Sを示す原画像データをさらに生成する。生成された透過照明に対応する原画像データは、記憶部420に記憶される。また、透過照明の照射の実行の有無および透過照明の照射時における受光時間等の撮像条件をさらに示す撮像情報が記憶部420に記憶される。
図9のデータ生成部610は、記憶部420に記憶されたリング照明および方向性照明にそれぞれ対応する原画像データに加えて、透過照明に対応する原画像データにさらに基づいて表示用画像データを生成する。具体的には、データ生成部610は、リング照明、方向性照明および透過照明にそれぞれ対応する複数の原画像データの一部または全部を、使用者により指定された照明条件により定まる割合で合成する。生成された表示用画像データは、記憶部420に記憶される。
図47の測定ヘッド100は同軸落射照明を出射する投光部160を含まないが、本発明はこれに限定されない。図47の測定ヘッド100は、図45の投光部160と同様の投光部160を含んでもよい。この場合、リング照明、方向性照明、同軸落射照明および透過照明にそれぞれ対応する原画像データに基づいて表示用画像データが生成される。
本実施の形態に係る複数照明撮像処理では、リング照明および第1〜第4の方向性照明を用いた観察対象物Sの撮像後に透過照明を用いて観察対象物Sが撮像される。それにより、リング照明、第1〜第4の方向性照明および透過照明にそれぞれ対応する複数(本例では6つ)の原画像データが生成される。
複数照明撮像処理が完了すると、表示部430に観察画面430Aが表示される。図48は、第3の実施の形態に係る複数照明撮像処理後の観察画面430Aの一表示例を示す図である。図48に示すように、機能表示領域431に、上記の複数のボタンb1〜b7に加えて透過ボタンb12が表示される。
使用者は、操作部440を用いて透過ボタンb12を操作する。それにより、使用者は、透過照明に対応する原画像データを用いて表示用画像データを生成すべきことを指示することができる。
透過照明に対応する原画像データを用いることが指示されると、副表示領域433に、透過照明に対応する原画像データの他の原画像データに対する合成割合(以下、透過画像割合と呼ぶ。)を指定するためのバー433eおよびスライダ433fが表示される。
使用者は、スライダ433fを操作することにより、透過画像割合を指定することができる。図48の例では、スライダ433fがバー433eの左端に近づくにつれて透過画像割合が高く指定され、スライダ433fがバー433eの右端に近づくにつれて透過画像割合が低く指定される。
透過画像割合が指定されると、制御部410は、表示用画像生成処理における図19のステップS209の処理で、指定された出射方向に加えて指定された透過画像割合に基づいて複数の原画像データの合成割合を算出する。
例えば、制御部410は、まず指定された出射方向に基づいてリング照明および第1〜第4の方向性照明の各々に対応する原画像データの合成割合を算出する。その後、制御部410は、指定された透過画像割合がu(uは0から100までの数)%である場合に、リング照明および第1〜第4の方向性照明の複数の合成割合の合計が(100−u)%となるように、リング照明および第1〜第4の方向性照明の各々に対応する原画像データの合成割合を修正する。
上記のように算出された複数の合成割合に基づいて複数の原画像データが合成されることにより表示用画像データが生成され、透過照明に対応する原画像データの成分を含む観察対象物Sの画像SIが主表示領域432に表示される。観察対象物Sが光を透過する材料で形成されている場合、透過照明に対応する原画像データの画像SIには、観察対象物Sの内部構造が鮮明に表れる。
したがって、使用者は、図48の透過ボタンb12およびスライダ433fを操作することにより、観察の目的に応じた観察対象物Sの画像SIを容易に取得することができる。
上記のように、図47の測定ヘッド100が図45の投光部160を含む場合には、複数照明撮像処理において、リング照明、方向性照明、同軸落射照明および透過照明にそれぞれ対応する複数の原画像データが生成されてもよい。この場合、観察画面430Aにおいて、図46の落射ボタンb11、バー433cおよびスライダ433dと図48の透過ボタンb12、バー433eおよびスライダ433fとが同時に表示されてもよい。それにより、主表示領域432に表示される観察対象物Sの画像SIについて調整の自由度が向上する。
[4]他の実施の形態
(1)上記実施の形態において、複数の照明にそれぞれ対応する複数の原画像データが生成された後、使用者により指定された照明条件に応じて、複数の原画像データに基づいて表示用画像データが生成されるが、本発明はこれに限定されない。使用者により照明条件が先に指定されてもよい。この場合、指定された照明条件に基づいて生成すべき表示用画像データを生成するために必要な原画像データが決定する。
そこで、本実施の形態においては、必要な原画像データに対応する照明のみが観察対象物に照射される。これにより、当該必要な原画像データのみが生成される。この構成によれば、他の照明が観察対象物Sに照射されず、不要な原画像データが生成されない。これにより、表示用画像データを高速に生成することができる。
(2)上記実施の形態において、投光部140の領域140A〜140Dが対物レンズ131aの光軸A1を中心に回転対称に配置されることが好ましいが、本発明はこれに限定されない。投光部140の領域140A〜140Dは、対物レンズ131aの光軸A1を中心に回転対称に配置されなくてもよい。
(3)上記実施の形態において、複数の原画像データが合成されることにより表示用画像データが生成される場合には、複数の原画像データの1つがリング照明に対応する原画像データであることが好ましいが、本発明はこれに限定されない。リング照明に対応する原画像データが合成に用いられず、方向性照明、同軸落射照明および透過照明にそれぞれ対応する複数の原画像データの一部または全部が合成されることにより表示用画像データが生成されてもよい。
(4)上記実施の形態において、複数の原画像データが合成されることにより表示用画像データが生成されるが、本発明はこれに限定されない。生成された複数の原画像データのうちの1つが選択されることにより表示用画像データが生成されてもよい。この構成においては、より多数の原画像データが生成されることが好ましい。この場合、より正確な表示用画像データを生成することができる。したがって、より多数の原画像データを生成可能にするため、より多数の光出射領域が設けられてもよいし、より多数の位置から光を出射可能に光出射部材が設けられてもよい。あるいは、単一の光出射部材が複数の出射位置に移動可能に設けられてもよい。
(5)上記実施の形態において、投光部140は円筒形状を有するが、本発明はこれに限定されない。投光部140は円筒形状以外の他の形状を有してもよい。図49は、投光部140の変形例を示す模式図である。図49の例では、投光部140は、例えば半球形状を有し、投光部140の内面の任意の位置から観察対象物に複数の出射方向の光を照射可能に複数の光源142aが設けられる。この場合、複数の原画像データを合成することなく、単一の原画像データにより表示用画像データを生成することが容易になる。この構成においては、各出射方向の光の光量を個別に調整可能であることがより好ましい。
(6)上記実施の形態において、表示用画像生成処理においては、使用者により光の仮想的な出射方向が新たに指定されると、表示部430に表示される観察対象物Sの画像SIが、指定された出射方向の光に対応する画像SIに切り替わるが、本発明はこれに限定されない。
使用者により光の仮想的な出射方向が新たに指定された場合に、更新前の表示用画像データに基づく観察対象物Sの画像SIと、更新後の表示用画像データに基づく観察対象物Sの画像SIとが表示部430に同時に表示されてもよい。この場合、使用者は、出射方向を指定する前の観察対象物Sの画像SIと指定後の観察対象物Sの画像SIとを比較することができる。したがって、光の仮想的な出射方向を指定しつつ観察対象物Sの観察により適切な画像SIを容易に識別することができる。更新前後の画像SIを同時に表示する例は、更新前後の画像SIを並べて表示すること、または更新前後の画像SIを重ねて表示すること等を含む。
(7)本発明において、投光部140が1または複数の片射照明部と全射照明部とを有してもよい。片射照明部および全射照明部は、対物レンズ131aに対する位置関係が一定となるように撮像部132の周囲に配置される照明部である。片射照明部は、対物レンズ131aの光軸A1に対して偏った位置から観察対象物Sに照明を照射する。全射照明部は、対物レンズ131aの光軸A1に対して略均一な位置から観察対象物Sに照明を照射する。
片射照明部により観察対象物Sが照明されたときの1または複数の原画像データおよび全射照明部により観察対象物Sが照明されたときの原画像データの少なくとも1つに基づいて表示用画像データが生成される。表示用画像データは、深度合成処理等の種々の処理が施されるように生成されてもよい。本実施の形態においては、方向性照明は片射照明部により出射された光の一例に該当し、リング照明は全射照明部により出射された光の一例に該当する。
(8)本発明において、投光部140が対物レンズ131aに対する位置関係が一定となるように撮像部132の周囲に配置される複数の光出射部材を有してもよい。各光出射部材は、観察対象物Sに照明を照射する。少なくとも1つの光出射部材により観察対象物Sが照明されたときの原画像データおよび他の光出射部材により観察対象物Sが照明されたときの原画像データの少なくとも1つに基づいて表示用画像データが生成される。表示用画像データは、深度合成処理等の種々の処理が施されるように生成されてもよい。
(9)本発明において、投光部140が観察対象物Sに照明を照射する少なくとも1つの光出射部材を有し、対物レンズ131aに対する位置関係が一定となるように撮像部132の周囲に複数の出射位置が設けられてもよい。一の出射位置から光出射部材により観察対象物Sが照明されたときの原画像データおよび他の出射位置から光出射部材により観察対象物Sが照明されたときの原画像データの少なくとも1つに基づいて表示用画像データが生成される。表示用画像データは、深度合成処理等の種々の処理が施されるように生成されてもよい。この構成においては、複数の光出射部材が複数の光出射位置に配置されてもよいし、単一の光出射部材が複数の出射位置に移動可能に設けられてもよい。
[5]請求項の各構成要素と実施の形態の各部との対応関係
以下、請求項の各構成要素と実施の形態の各部との対応の例について説明するが、本発明は下記の例に限定されない。
上記実施の形態では、対物レンズ131aが対物レンズの例であり、観察対象物Sが観察対象物の例であり、投光部140が投光部の例であり、撮像部132が撮像部の例であり、光軸A1が光軸の例である。焦点駆動部113が焦点位置変化部の例であり、データ生成部610がデータ生成部の例であり、拡大観察装置1が拡大観察装置の例であり、合焦判定部620が合焦判定部の例である。操作部440が第1〜第3の操作部または操作部の例であり、投光制御部510が制御部の例であり、領域140A〜140Dが光出射領域の例であり、光ファイバ142が光出射部材の例である。
請求項の各構成要素として、請求項に記載されている構成または機能を有する他の種々の要素を用いることもできる。
本発明は、種々の拡大観察装置に有効に利用することができる。
1 拡大観察装置
2 外部装置
100 測定ヘッド
101 傾斜機構
110 スタンド部
111 設置部
112,114 保持部
113 焦点駆動部
120 ステージ装置
121 ステージ
122 ステージ駆動部
123 位置センサ
130 鏡筒部
130c 傾斜中心
131 レンズユニット
131a 対物レンズ
132 撮像部
133 傾斜センサ
140,160,170 投光部
140A〜140D 領域
140o 光出射部
141 保持部材
141a 貫通孔
142 光ファイバ
142a,310 光源
150 制御基板
161 ハーフミラー
171 ミラー
200 処理装置
201,204 ファイバユニット
202,203 ケーブル
210 筐体
300 光生成部
320 遮光部
400 制御装置
410 制御部
420 記憶部
430 表示部
430A 観察画面
431 機能表示領域
432 主表示領域
432a,432b 位置調整バー
433 副表示領域
433a 出射方向指定欄
433b 出射方向表示欄
433c,433e バー
433d,433f スライダ
440 操作部
500 駆動制御部
510 投光制御部
520 撮像制御部
530 焦点制御部
540 ステージ制御部
600 演算処理部
610 データ生成部
620 合焦判定部
630 算出部
631 角度算出部
632 位置算出部
640 条件設定部
641 撮像条件設定部
642 照明条件設定部
A1,A2 光軸
b1 深度合成ボタン
b2 DR調整ボタン
b3 連結ボタン
b4 ハレーションボタン
b7 保存ボタン
b11 落射ボタン
b12 透過ボタン
b41 順位指定欄
b42 実行ボタン
CG1,CG2 連結画像データ
d1〜d3 距離
FI ファイル
H1〜Hj 位置
HL ハレーション
OG,OG1〜OG4 原画像データ
OL1〜OL3 重複部分
PA〜PE 点
PX1〜PX5 画素
S 観察対象物
SF 深度合成画像
SH 影
SI 画像
sp 対象部分画像
ss0 対象物位置画像
ss1 光アイコン
ss2 基準点画像
ss3 半球画像
ss4 出射位置画像

Claims (13)

  1. 対物レンズと、
    観察対象物に互いに異なる第1および第2の出射方向の光を選択的に照射する投光部と、
    観察対象物からの光を前記対物レンズを介して受光し、観察対象物の画像を示す第1または第2の原画像データを生成する撮像部と、
    前記対物レンズを通過した光の焦点位置を観察対象物に対して相対的に前記対物レンズの光軸方向に変化させる焦点位置変化部と、
    使用者により入力される特定の出射方向に応じて、前記特定の出射方向の光が観察対象物に照射されたと仮定した場合に得られるべき観察対象物の画像を示す表示用画像データを生成するデータ生成部とを備え、
    第1の光照射時に、前記第1の出射方向の光を前記投光部が観察対象物に照射するとともに前記撮像部が前記焦点位置変化部による異なる複数の焦点位置で複数の前記第1の原画像データを生成し、
    第2の光照射時に、前記第2の出射方向の光を前記投光部が観察対象物に照射するとともに前記撮像部が前記焦点位置変化部による異なる複数の焦点位置で複数の前記第2の原画像データを生成し、
    前記データ生成部は、前記複数の第1の原画像データに基づいて第1の合焦画像データを取得するとともに、前記複数の第2の原画像データに基づいて第2の合焦画像データを取得し、前記特定の出射方向に基づいて前記第1および第2の合焦画像データの合成の割合を決定し、決定された割合で前記第1の合焦画像データおよび前記第2の合焦画像データを合成することにより前記表示用画像データを生成する、拡大観察装置。
  2. 前記撮像部により生成される前記第1または第2の原画像データの部分ごとの合焦度を判定する合焦判定部をさらに備え、
    前記データ生成部は、前記合焦判定部による合焦度の判定に基づいて前記複数の第1の原画像データの部分を選択的に合成することにより観察対象物の各部分に焦点が合った画像を示す前記第1の合焦画像データを生成し、前記合焦判定部による合焦度の判定に基づいて前記複数の第2の原画像データの部分を選択的に合成することにより観察対象物の各部分に焦点が合った画像を示す前記第2の合焦画像データを生成する、請求項1記載の拡大観察装置。
  3. 前記データ生成部は、前記第1の合焦画像データの部分と前記複数の第1の原画像データの部分との対応関係を示す対応関係データを生成し、生成された対応関係データに基づいて前記複数の第2の原画像データから前記第2の合焦画像データを生成する、請求項2記載の拡大観察装置。
  4. 前記撮像部による前記複数の第1または第2の原画像データの生成と前記データ生成部による前記第1または第2の合焦画像データの生成とは並列して行われる、請求項2または3記載の拡大観察装置。
  5. 前記撮像部により生成される前記第1または第2の原画像データの合焦度を判定する合焦判定部をさらに備え、
    前記データ生成部は、前記合焦判定部による合焦度の判定に基づいて前記複数の第1の原画像データのいずれかを前記第1の合焦画像データとして抽出し、前記合焦判定部による合焦度の判定に基づいて前記複数の第2の原画像データのいずれかを前記第2の合焦画像データとして抽出する、請求項1記載の拡大観察装置。
  6. 前記対物レンズの光軸方向における光の焦点位置の範囲を指定するために使用者により操作される第1の操作部をさらに備え、
    前記焦点位置変化部は、前記第1の操作部により指定された範囲において光の焦点位置を前記対物レンズの光軸方向に変化させる、請求項1〜5のいずれか一項に記載の拡大観察装置。
  7. 使用者による観察の開始の指示を受け付ける第2の操作部と、
    前記第2の操作部により受け付けた指示に応答して、光の焦点位置が第1の位置になるように前記焦点位置変化部を制御しつつ前記第1および第2の光照射時にそれぞれ前記第1および第2の出射方向の光を順次出射するように前記投光部を制御した後、光の焦点位置が前記対物レンズの光軸方向において前記第1の位置とは異なる第2の位置になるように前記焦点位置変化部を制御しつつ前記第1および第2の光照射時にそれぞれ前記第1および第2の出射方向の光を順次出射するように前記投光部を制御する制御部とをさらに備える、請求項1〜6のいずれか一項に記載の拡大観察装置。
  8. 使用者による観察の開始の指示を受け付ける第2の操作部と、
    前記第2の操作部により受け付けた指示に応答して、前記第1の光照射時に光の焦点位置が前記対物レンズの光軸方向において異なる第1および第2の位置に順次変化するように前記焦点位置変化部を制御しつつ前記第1の出射方向の光を出射するように前記投光部を制御した後、前記第2の光照射時に光の焦点位置が前記第1および第2の位置に順次変化するように前記焦点位置変化部を制御しつつ前記第2の出射方向の光を出射するように前記投光部を制御する制御部とをさらに備える、請求項1〜6のいずれか一項に記載の拡大観察装置。
  9. 前記撮像部は、受光時間が複数変化された状態で前記第1および第2の原画像データを生成し、
    前記データ生成部は、各焦点位置について受光時間が複数変化された状態で前記撮像部により生成される複数の前記第1の原画像データおよび各焦点位置について受光時間が複数変化された状態で前記撮像部により生成される複数の前記第2の原画像データのうち少なくとも一部に基づいてダイナミックレンジが調整された前記表示用画像データを生成する、請求項1〜8のいずれか一項に記載の拡大観察装置。
  10. 前記投光部は、前記対物レンズの光軸を中心に回転対称に配置された複数の光出射領域を有し、前記第1の光照射時に前記複数の光出射領域から同時に光を出射することにより前記第1の出射方向の光を観察対象物に照射し、前記第2の光照射時に前記複数の光出射領域の一部から光を出射することにより前記第2の出射方向の光を観察対象物に照射する、請求項1〜9のいずれか一項に記載の拡大観察装置。
  11. 前記複数の光出射領域の各々には、1以上の光出射部材が設けられる、請求項10記載の拡大観察装置。
  12. 前記特定の出射方向を指定するために使用者により操作される第3の操作部をさらに備え、
    記データ生成部は、前記第3の操作部により指定された前記特定の出射方向に対応して生成する前記表示用画像データを更新する、請求項1〜11のいずれか一項に記載の拡大観察装置。
  13. 前記特定の出射方向を指定するために使用者により操作される操作部をさらに備え、
    前記操作部により指定された前記特定の出射方向に基づいて前記第1および第2の出射方向を含む複数の出射方向の光を前記投光部が観察対象物に照射するとともに前記撮像部が前記焦点位置変化部による異なる複数の焦点位置で前記第1および第2の原画像データを含む複数の原画像データを生成し、
    前記データ生成部は、前記複数の原画像データに基づいて前記第1および第2の合焦画像データを含む複数の合焦画像データを取得し、前記複数の出射方向および前記特定の出射方向に基づいて、前記複数の合焦画像データの合成の割合を決定し、決定された割合で前記複数の合焦画像データを合成することにより前記表示用画像データを生成する、請求項1記載の拡大観察装置。
JP2016144936A 2016-07-22 2016-07-22 拡大観察装置 Active JP6667393B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016144936A JP6667393B2 (ja) 2016-07-22 2016-07-22 拡大観察装置
US15/646,444 US10302931B2 (en) 2016-07-22 2017-07-11 Magnifying observation apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016144936A JP6667393B2 (ja) 2016-07-22 2016-07-22 拡大観察装置

Publications (2)

Publication Number Publication Date
JP2018013734A JP2018013734A (ja) 2018-01-25
JP6667393B2 true JP6667393B2 (ja) 2020-03-18

Family

ID=60989990

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016144936A Active JP6667393B2 (ja) 2016-07-22 2016-07-22 拡大観察装置

Country Status (2)

Country Link
US (1) US10302931B2 (ja)
JP (1) JP6667393B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7092619B2 (ja) 2018-08-30 2022-06-28 株式会社キーエンス 拡大観察装置
JP7092618B2 (ja) 2018-08-30 2022-06-28 株式会社キーエンス 拡大観察装置
JP7268991B2 (ja) 2018-11-29 2023-05-08 株式会社キーエンス 拡大観察装置
CN110769233B (zh) * 2019-09-27 2021-05-25 深圳市火乐科技发展有限公司 智能投影仪的双摄像头的对焦方法及相关产品
EP3958036A1 (de) * 2020-08-20 2022-02-23 Carl Zeiss Microscopy GmbH Verfahren und vorrichtung zum erzeugen eines übersichtskontrastbildes eines probenträgers in einem mikroskop
JP2022127536A (ja) 2021-02-19 2022-08-31 株式会社キーエンス 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6028608A (en) * 1997-05-09 2000-02-22 Jenkins; Barry System and method of perception-based image generation and encoding
WO1999012068A1 (fr) * 1997-08-29 1999-03-11 Olympus Optical Co., Ltd. Dispositif d'eclairage a emission pour microscopes
US6724419B1 (en) * 1999-08-13 2004-04-20 Universal Imaging Corporation System and method for acquiring images at maximum acquisition rate while asynchronously sequencing microscope devices
JP4480492B2 (ja) * 2004-07-06 2010-06-16 株式会社キーエンス 拡大観察装置、画像ファイル生成装置、画像ファイル生成プログラム、3次元画像表示プログラム及びコンピュータで読み取り可能な記録媒体
US7456377B2 (en) * 2004-08-31 2008-11-25 Carl Zeiss Microimaging Ais, Inc. System and method for creating magnified images of a microscope slide
WO2006077668A1 (ja) * 2005-01-18 2006-07-27 National University Corporation Gunma University 顕微鏡観察再現方法、顕微鏡観察再現装置、顕微鏡観察再現プログラムおよびその記録媒体
DE102005031647A1 (de) * 2005-07-06 2007-01-11 Chromasens Gmbh Beleuchtungsvorrichtung zur Dunkelfeldbeleuchtung für eine optische Testvorrichtung und Verfahren zum optischen Abtasten eines Objektes
WO2007105359A1 (ja) * 2006-03-01 2007-09-20 Nikon Corporation 倍率色収差を画像解析する画像処理装置、画像処理プログラム、電子カメラ、および画像処理方法
US7925982B2 (en) * 2006-09-01 2011-04-12 Cheryl Parker System and method of overlaying and integrating data with geographic mapping applications
US8488868B2 (en) * 2007-04-03 2013-07-16 Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of Industry, Through The Communications Research Centre Canada Generation of a depth map from a monoscopic color image for rendering stereoscopic still and video images
US8213711B2 (en) * 2007-04-03 2012-07-03 Her Majesty The Queen In Right Of Canada As Represented By The Minister Of Industry, Through The Communications Research Centre Canada Method and graphical user interface for modifying depth maps
US8179432B2 (en) * 2007-04-30 2012-05-15 General Electric Company Predictive autofocusing
JP5329677B2 (ja) * 2009-01-27 2013-10-30 テレフオンアクチーボラゲット エル エム エリクソン(パブル) 奥行き及びビデオのコプロセッシング
US8394025B2 (en) * 2009-06-26 2013-03-12 Uab Vittamed Method and apparatus for determining the absolute value of intracranial pressure
US8310531B2 (en) * 2009-08-03 2012-11-13 Genetix Corporation Methods and apparatuses for processing fluorescence images
JP5875812B2 (ja) * 2011-09-27 2016-03-02 オリンパス株式会社 顕微鏡システムおよび照明強度調整方法
JP6091866B2 (ja) * 2012-11-30 2017-03-08 株式会社キーエンス 計測顕微鏡装置、画像生成方法及び計測顕微鏡装置操作プログラム並びにコンピュータで読み取り可能な記録媒体
WO2015004810A1 (ja) * 2013-07-12 2015-01-15 浜松ホトニクス株式会社 撮像装置及び撮像装置の製造方法
JP6325816B2 (ja) * 2013-12-27 2018-05-16 株式会社キーエンス 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体
JP6230434B2 (ja) * 2014-01-31 2017-11-15 株式会社キーエンス 画像検査装置、画像検査方法及び画像検査プログラム並びにコンピュータで読み取り可能な記録媒体
JP6487156B2 (ja) * 2014-06-23 2019-03-20 株式会社キーエンス 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体

Also Published As

Publication number Publication date
US10302931B2 (en) 2019-05-28
US20180024346A1 (en) 2018-01-25
JP2018013734A (ja) 2018-01-25

Similar Documents

Publication Publication Date Title
JP6667393B2 (ja) 拡大観察装置
JP5547105B2 (ja) 寸法測定装置、寸法測定方法及び寸法測定装置用のプログラム
CN103673920A (zh) 形状测量装置、形状测量方法、和形状测量程序
JP2014106099A (ja) 形状測定装置、形状測定方法および形状測定プログラム
JP2018004279A (ja) 測定装置
JP7137345B2 (ja) 形状測定装置、形状測定方法、形状測定プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6635892B2 (ja) 拡大観察装置
JP6654979B2 (ja) 拡大観察装置
JP6667395B2 (ja) 拡大観察装置
JP2014106094A (ja) 形状測定装置
JP2017037089A (ja) 形状測定装置
JP6635893B2 (ja) 拡大観察装置
JP6654980B2 (ja) 拡大観察装置
JP7154084B2 (ja) 三次元形状測定装置および三次元形状測定プログラム
JP6667394B2 (ja) 拡大観察装置
JP2018013738A (ja) 拡大観察装置
JP6815787B2 (ja) 観察装置、観察装置の制御方法及び観察装置の制御プログラム
US11119395B2 (en) Image pickup apparatus, optical measurement apparatus, and measurement system
JP2018013733A (ja) 拡大観察装置
JP2015082099A (ja) 顕微鏡を制御する制御装置、顕微鏡システム、制御方法およびプログラム
JP2022127539A (ja) 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP2022127537A (ja) 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP2022127536A (ja) 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP2017153441A (ja) 観察装置、測定システム及び観察方法
US20220316867A1 (en) Three-dimensional shape measuring apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190314

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191009

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200225

R150 Certificate of patent or registration of utility model

Ref document number: 6667393

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250