JP2013101314A - 合焦制御装置、内視鏡システム及び合焦制御方法 - Google Patents

合焦制御装置、内視鏡システム及び合焦制御方法 Download PDF

Info

Publication number
JP2013101314A
JP2013101314A JP2012193932A JP2012193932A JP2013101314A JP 2013101314 A JP2013101314 A JP 2013101314A JP 2012193932 A JP2012193932 A JP 2012193932A JP 2012193932 A JP2012193932 A JP 2012193932A JP 2013101314 A JP2013101314 A JP 2013101314A
Authority
JP
Japan
Prior art keywords
magnification
image
variation
unit
timing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012193932A
Other languages
English (en)
Other versions
JP2013101314A5 (ja
JP5953187B2 (ja
Inventor
Naritsuyo On
成剛 温
Naoya Kuriyama
直也 栗山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2012193932A priority Critical patent/JP5953187B2/ja
Priority to CN201280050221.9A priority patent/CN103874951B/zh
Priority to PCT/JP2012/076158 priority patent/WO2013054797A1/ja
Priority to EP12839972.2A priority patent/EP2767857A4/en
Publication of JP2013101314A publication Critical patent/JP2013101314A/ja
Priority to US14/226,571 priority patent/US9621781B2/en
Publication of JP2013101314A5 publication Critical patent/JP2013101314A5/ja
Application granted granted Critical
Publication of JP5953187B2 publication Critical patent/JP5953187B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00064Constructional details of the endoscope body
    • A61B1/00071Insertion part of the endoscope body
    • A61B1/0008Insertion part of the endoscope body characterised by distal tip features
    • A61B1/00096Optical elements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2423Optical details of the distal end
    • G02B23/243Objectives for endoscopes
    • G02B23/2438Zoom objectives
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2461Illumination
    • G02B23/2469Illumination using optical fibres
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2476Non-optical details, e.g. housings, mountings, supports
    • G02B23/2484Arrangements in relation to a camera or imaging device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Pathology (AREA)
  • Medical Informatics (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Radiology & Medical Imaging (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Astronomy & Astrophysics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automatic Focus Adjustment (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 1群駆動レンズでAFを行う場合に、AF評価値取得時に発生する倍率変動による悪影響を抑止する合焦制御装置、内視鏡システム及び合焦制御方法等を提供すること。
【解決手段】 合焦制御装置は、撮像倍率の変更に伴い合焦物体位置が変更される撮像光学系の駆動を制御する合焦制御部330と、撮像光学系を介した撮像によって、異なる撮像倍率で撮像された複数の画像を取得する画像取得部310と、撮像倍率及び画像における被写体のサイズの少なくとも一方の変動である倍率変動を検出する倍率変動検出部320とを含み、合焦制御部330は画像及び倍率変動に基づいて算出した、撮像光学系の焦点状態を表すAF評価値に基づいて撮像光学系を駆動することによって、撮像光学系の合焦制御を行う。
【選択図】 図1

Description

本発明は、合焦制御装置、内視鏡システム及び合焦制御方法等に関する。
従来、体腔内の組織に対して照明光を照射し、それらの反射光から作成した画像信号を用いて診断・処置を行う内視鏡装置が広く使用されている。内視鏡光学系は一般に、被写界深度の広い、パンフォーカスに設計されているため、通常観察時には被写体の遠点から近点までピントの合った画像が取得できる。
しかし、拡大観察時には被写界深度が浅くなるため、ピントが合わない(以降、合焦しないと表記)頻度が高くなる。ユーザは合焦した内視鏡画像において被写体を観察するため、ユーザは合焦操作を手動で行う必要があり、大きな負担となる。
特開2002−258164号公報
回転不変位相限定相関による画像の回転角度計測について 映像情報メディア学会技術報告 22(45), 55-60, 1998-09-14 David G. Lowe, "Distinctive image features from scale-invariant keypoints" , Journal of Computer Vision, 60, 2 , pp. 91-110, 2004. M.A.Fischler and R. C. Bolles, "Random sample consensus: A paradigm for model fitting with applications to image analysis and automated cartography," Commun. ACM, no.24, vol.6, pp.381-395, June 1981.
拡大観察時に合焦が困難という課題の解決策として、オートフォーカス(以降、AFと表記)の導入が考えられる。AFを導入することにより、ユーザは手動による合焦作業から開放される。例えば特許文献1の内視鏡装置は、通常観察と拡大観察のどちらの状態においてもAFを行っている。
ここで、AFを実現するために、図19(A)、図19(B)に示す光学系の構成が考えられる。図19(A)に示す1群駆動レンズは、ズームレンズを駆動することで合焦物体位置を制御するため、合焦物体位置を変更すると倍率も同時に変化してしまう。一方、図19(B)に示す2群駆動レンズでは、ズームレンズとフォーカスレンズを駆動可能であるため、倍率と合焦物体位置を独立に制御できる利点がある。しかし2群駆動レンズは、1群駆動レンズに比べ構成が複雑になる。そのため、1群駆動レンズに比べて、実装が困難であり、さらに内視鏡の径が太くなる問題がある。
以上の理由から、内視鏡スコープにおいては、図19(A)に示す1群駆動レンズの実装が望ましい。
しかし、1群駆動レンズの場合、上述のように合焦物体位置を変更すると倍率も同時に変化してしまうため、コントラストAFにおいて安定的にコントラスト値(画像の高周波成分)を算出できないという課題がある。コントラストAFでは、合焦時には画像の高周波成
分が極大になるとの前提から、フィルタリング処理で画像から抽出した高周波成分が極大値をとるように、レンズを駆動する。しかし、1群駆動レンズによるAF動作に伴い倍率も変化すると、画像の周波数特性そのものも変化してしまい、コントラスト値の極大値探索が困難になる。
本発明の幾つかの態様によれば、1群駆動レンズでAFを行う場合に、AF評価値取得時に発生する倍率変動による悪影響を抑止する合焦制御装置、内視鏡システム及び合焦制御方法等を提供することができる。
本発明の一態様は、撮像倍率の変更に伴い合焦物体位置が変更される撮像光学系の駆動を制御する合焦制御部と、前記撮像光学系を介した撮像によって、異なる前記撮像倍率で撮像された複数の画像を取得する画像取得部と、前記撮像倍率及び前記画像における被写体のサイズの少なくとも一方の変動である倍率変動を検出する倍率変動検出部と、を含み、前記合焦制御部は、前記画像及び前記倍率変動に基づいて、前記撮像光学系の焦点状態を表すAF評価値を算出し、算出した前記AF評価値に基づいて前記撮像光学系を駆動することによって、前記撮像光学系の合焦制御を行う合焦制御装置に関係する。
本発明の一態様では、撮像倍率の変更に伴い合焦物体位置が変更される撮像光学系において、撮像倍率及び画像における被写体のサイズの少なくとも一方の変動である倍率変動を検出し、検出した倍率変動に基づいてAF評価値を算出する。これにより、異なる合焦物体位置においてAF評価値の算出を行う際、合焦物体位置の変更に伴う撮像倍率の変更による影響を抑止し、安定的にAF評価値を算出すること等が可能になる。
また、本発明の他の態様は、撮像倍率の変更に伴い合焦物体位置が変更される撮像光学系の駆動を制御する合焦制御部と、前記撮像光学系を介した撮像によって、異なる前記撮像倍率で撮像された複数の画像を取得する画像取得部と、前記撮像倍率及び前記画像における被写体のサイズの少なくとも一方の変動である倍率変動を検出する倍率変動検出部と、を含み、前記合焦制御部は、前記画像及び前記倍率変動に基づいて、前記撮像光学系の焦点状態を表すAF評価値を算出し、算出した前記AF評価値に基づいて前記撮像光学系を駆動することによって、前記撮像光学系の合焦制御を行う内視鏡システムに関係する。
また、本発明の他の態様は、撮像倍率の変更に伴い合焦物体位置が変更される撮像光学系の駆動を制御する合焦制御方法であって、前記撮像光学系を介した撮像によって、異なる前記撮像倍率で撮像された複数の画像を取得し、前記撮像倍率及び前記画像における被写体のサイズの少なくとも一方の変動である倍率変動を検出し、取得した前記画像及び検出した前記倍率変動に基づいて、前記撮像光学系の焦点状態を表すAF評価値を算出し、算出した前記AF評価値に基づいて前記撮像光学系を駆動することによって、前記撮像光学系の合焦制御を行う合焦制御方法に関係する。
第1の実施形態にかかる合焦制御装置及びそれを含む内視鏡システムの構成例。 撮像素子の構成例。 第1の実施形態の合焦制御部の構成例。 倍率変動に応じたフィルタ周波数特性の変更手法を説明する図。 第2の実施形態にかかる合焦制御装置及びそれを含む内視鏡システムの構成例。 第2の実施形態の倍率変動検出部の構成例。 第2の実施形態の倍率変動検出部の他の構成例。 第2の実施形態の合焦制御部の構成例。 図9(A)、図9(B)は倍率変動に応じた評価領域の設定手法を説明する図。 第2の実施形態の合焦制御部の他の構成例。 図11(A)、図11(B)は初期評価領域の設定手法を説明する図。 第3の実施形態にかかる合焦制御装置及びそれを含む内視鏡システムの構成例。 第3の実施形態の倍率変動検出部の構成例。 図14(A)〜図14(C)は倍率変動に伴う内視鏡画像の変動例、図14(D)、図14(E)は倍率変動に応じて取得される変倍画像の例。 図15(A)〜図15(E)は倍率変動が許容変倍率の範囲内の場合の内視鏡画像と変倍画像の例。 図16(A)〜図16(E)は倍率変動が許容変倍率よりも小さい場合の内視鏡画像と変倍画像の例。 図17(A)〜図17(E)は倍率変動が許容変倍率よりも大きい場合の内視鏡画像と変倍画像の例。 第3の実施形態の合焦制御部の構成例。 図19(A)は1群駆動レンズの例、図19(B)は2群駆動レンズの例。 第4の実施形態にかかる合焦制御装置及びそれを含む内視鏡システムの構成例。 第4の実施形態の画像変倍部の構成例。 第4の実施形態の表示倍率調整部の構成例。 検出された倍率変動の例。 低周波の倍率変動を基準とした場合の、高周波の倍率変動による変動の例。 検出された倍率変動から高周波成分の影響を低減した例。 ウォブリングによる画角領域の変動を説明する図。 第4の実施形態の画像調整部の構成例。 図28(A)は画像変倍処理として拡大処理が行われた例、図28(B)は画像変倍処理として縮小処理が行われた例。 第4の実施形態の変形例における目標画角領域の説明図。 第4の実施形態の変形例の処理を説明する図。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.本実施形態の手法
まず本実施形態の手法について説明する。1群駆動レンズ(図19(A))ではズームレンズを移動させることで合焦物体位置を変更する。つまり、合焦物体位置の移動には撮像倍率の変動を伴うことになる。よって1群駆動レンズを用いてAF(AutoFocus)を行おうとした場合、AFに用いるAF評価値(例えばコントラスト値)の算出が問題となる。
なお、合焦物体位置とは、物体、撮像光学系、像面等を含む系が合焦状態にある場合の、基準位置に対する当該物体の相対的な位置(物点)である。具体的には、所与の位置に像面を設定し、撮像光学系を所与の状態とした場合に、当該撮像光学系により前記像面上に結像する像が合焦している場合の当該物体の位置を表す。本実施形態の合焦制御装置(或いは内視鏡システム)等では、像面は撮像部に含まれる撮像素子の面と一致することが想定されるため、撮像素子の面が固定されている場合、光学系の状態を決定すれば合焦物体位置は決定可能となる。
コントラストAFにおいて、合焦物体位置を変化させてそれぞれの位置でコントラスト値を算出し、算出したコントラスト値の極大値を求めるように、AFでは複数のAF評価値の関係を求めることが想定される。しかし、1群駆動レンズでは上述したように、合焦物体位置を変えると撮像倍率も変化してしまう。そのため、あるタイミングでのAF評価値算出に用いた画像に比べて、別のタイミングでの画像は被写体の倍率が変化しており、AF評価値を安定的に算出することができない。例えば、AF動作中に撮像倍率が増加した(拡大された)場合には、画像に含まれる高周波成分が低周波側にシフトする(エッジがなまる)ことになり、拡大前と拡大後でAF評価値の算出条件が異なってしまう。よって、AF評価値の大小を適切に判断することができず、AF動作に支障をきたす。
そこで本出願人は、倍率変動(倍率変動情報)を補償するようなAF評価値の算出手法を提案する。具体的には、3つの手法を提案しており、第1の実施形態では、倍率変動に基づいてAF評価値の算出時に用いられるフィルタの周波数特性を変更する。第2の実施形態では、AF評価値の算出対象となる画素の範囲を表す評価領域のサイズを、倍率変動に基づいて変更する。第3の実施形態では、画像自体に対して倍率変動に基づいて変倍処理を施し、変倍処理後の変倍画像を用いてAF評価値を算出する。
また、倍率変動の取得手法も2通り考えられ、第1の実施形態では、撮像光学系からの制御情報(例えばズームレンズ位置に関するレンズ制御信号)に基づいて、倍率変動を取得する。また、第2の実施形態では、撮像した画像上での被写体サイズに基づいて倍率変動を取得する。なお、制御情報により取得された倍率変動は、撮像倍率の変動を示す情報であるのに対して、画像での被写体サイズにより取得された倍率変動は、撮像倍率の変動に加えて、撮像光学系と被写体との相対距離の変動を示す情報である。
以下の実施形態では、AF評価値算出手法と、倍率変動検出手法の組み合わせとして、第1の実施形態においてフィルタ処理とレンズ制御信号の組み合わせを記載し、第2の実施形態において評価領域と被写体サイズの組み合わせを記載しているが、これに限定されるものではない。3つのAF評価値算出手法と、2つの倍率変動検出手法の組み合わせは任意である。また、レンズ制御信号に基づく倍率変動と、被写体サイズに基づく倍率変動の両方を取得してもよく、特にAF評価値算出手法として変倍処理を用いる場合に有用である。詳細については第3の実施形態及びその変形例で詳述する。
また、AF評価値算出の際のズームレンズの駆動(ウォブリング)により撮像倍率が変動することで、ユーザ(ドクター)に提示する表示画像の倍率(画角)も高頻度に変化することになる。しかし、表示画像に基づき診断を行う際、表示画像の画角の高頻度での変化は、ドクターにとってストレスになりやすく、適切な診断を妨げる要因となる。よって、撮像した画像に対して適切な変倍処理を行うことで、ユーザにとって観察しやすい表示画像を生成、表示してもよい。具体的な手法は、第3の実施形態及び第4の実施形態で説明する。なお、第4の実施形態では、AF評価値算出手法は上述のいずれの手法を用いてもよいものとする。
なお、以下の説明においては多くの箇所で、隣接する2タイミング間での撮像倍率或いは被写体サイズの比が倍率変動Zであり、Zの直積である累積倍率Aは所与の2タイミング間(隣接してもよいし、しなくてもよい)での撮像倍率等の比に相当する値であるものとしている。しかし、倍率変動Zと累積倍率Aは算出手法が異なるが、ともに異なる2タイミング間での撮像倍率等の変動を表すものであり、本質的には同様の意味を持つ。よって、本実施形態においては、累積倍率Aも広義には倍率変動に含まれるものとする。このことから、区別可能な箇所については、上述したように隣接2タイミング間の比を倍率変動Zとし、Zの直積をAとして異なる用語で説明しているが、区別することが難しい(或いは区別する必要がない)箇所については、「倍率変動」という用語はZ及びAのどちらを指してもよいものとしている。
2.第1の実施形態
本実施形態に係る合焦制御装置を含む内視鏡装置について、図1を参照して説明する。内視鏡装置は、光源部100と、挿入部200と、信号処理部300と、表示部400と、外部I/F部500を備えている。
光源部100は、白色光源110と、集光レンズ120を備えている。白色光源110は白色光を発する。集光レンズ120は、白色光源110で発せられた光を後述するライトガイドファイバ210に集光する。
挿入部200は、例えば体腔への挿入を可能にするため細長くかつ湾曲可能に形成されている。挿入部200は、ライトガイドファイバ210と、照明レンズ220と、撮像部230を備えている。ライトガイドファイバ210は、光源部100で集光された光を挿入部200の先端まで導く。照明レンズ220は、ライトガイドファイバ210により先端まで導かれてきた光を拡散させて観察対象に照射する。撮像部230は、対物レンズ231と、撮像素子232と、A/D変換部233を備えている。対物レンズ231は、観察対象から戻る反射光を撮像素子232に集光する。また、対物レンズ231は、倍率および合焦物体位置を同時に変更する機能を備えている。撮像素子232は、検出した反射光に基づくアナログ信号を、A/D変換部233に出力する。A/D変換部233は、後述する制御部340にて出力される制御信号に基づき、撮像素子232から出力されるアナログ信号をデジタル信号に変換し、RAW画像として信号処理部300に出力する。ここで、撮像素子232は、原色ベイヤ配列を有しており、撮像素子232で取得される画像は原色ベイヤ画像である。原色ベイヤ画像とは、各画素が図2に示すように、市松状にRGBいずれかの信号を有した画像である。
信号処理部300は、画像取得部310と、倍率変動検出部320と、合焦制御部330と、制御部340を備えている。撮像部230より出力されるRAW画像は、画像取得部310に出力されている。画像取得部310は、合焦制御部330と、表示部400に接続されている。倍率変動検出部320は、合焦制御部330に接続されている。合焦制御部330は、対物レンズ231に接続されており、レンズ制御信号による対物レンズ231の制御に基づいて、倍率および合焦物体位置を制御する。当該レンズ制御信号は、倍率変動検出部320にも出力される。制御部340は、撮像部230と、倍率変動検出部320と、合焦制御部330と、画像取得部310と、表示部400と、外部I/F部500に双方向に接続しており、これらを制御信号により相互に制御する。制御信号は、被写体に自動的に焦点を合わせるオートフォーカス(以降、AFと表記)機能の開始・終了を示す、AFトリガ信号を含んでいる。以降、制御部340に接続する各構成要件は、制御信号によりAF動作の開始・終了を検知するとして説明する。
画像取得部310は、撮像部230より出力されるRAW画像に対し、ホワイトバランス処理、デモザイキング処理など既存の画像処理を行い、内視鏡画像を取得する。取得した内視鏡画像は、合焦制御部330と、表示部400に出力される。ここで、内視鏡画像とはRGBのカラー画像である。
倍率変動検出部320は、後述する合焦制御部330より出力されるレンズ制御信号に基づき、経時的な対物レンズ231の倍率変動を検出する。例えば、時刻t(現在)における対物レンズ231の倍率がzt、時刻t−1における対物レンズ231の倍率がzt−1の場合、倍率変動検出部320は、Zt=zt/zt−1を倍率変動として、合焦制御部330に出力する。ここで、時刻tおよびt−1は、制御信号が倍率変動検出部320に出力される時刻であり、時刻t−1とは時刻tの直前に制御信号が倍率変動検出部320に出力された時刻である。
合焦制御部330は、制御信号によりAF動作の開始を検知すると、画像取得部310より出力される内視鏡画像および、倍率変動検出部320より出力される倍率変動に基づき、対物レンズ231の制御を行って合焦物体位置を制御する。本実施形態においては、合焦物体位置を変更すると同時に撮像倍率も変動するが、ここでは説明のため合焦物体位置を制御する、とのみ表記する。
合焦制御部330の具体的な構成について図3を参照して説明する。合焦制御部330は、フィルタ選択部331と、コントラスト値算出部332と、レンズ制御部333を備えている。画像取得部310より出力される内視鏡画像は、コントラスト値算出部332に出力されている。倍率変動検出部320より出力される倍率変動は、フィルタ選択部331に出力される。フィルタ選択部331は、コントラスト値算出部332に接続されている。コントラスト値算出部332は、レンズ制御部333に接続されている。レンズ制御部333は、対物レンズ231に接続され、レンズ制御信号を出力することでこれを制御する。またレンズ制御信号は、倍率変動検出部320にも出力されている。
フィルタ選択部331は、倍率変動検出部320より出力される倍率変動に基づき、後述するコントラスト値算出に利用するフィルタを所定のフィルタ群より選択する。ここで、フィルタとは公知のハイパスフィルタである。また、説明を簡便にするため、フィルタ群に含まれるフィルタは3つとする。具体的なフィルタ選択方法は、まず制御信号よりAF動作の開始を検知すると、下式(1)で累積倍率を算出する。
Figure 2013101314
但し、tは現時刻、Atは現時刻における累積倍率、sはAF動作が開始した時刻を表す。また、iは時刻を示すインデックス、Zは倍率変動の値(倍率変動値)である。つまり累積倍率は、AF動作開始時から現在までの倍率変動の値の直積である。図4を参照して、累積倍率に基づくハイパスフィルタ選択を説明する。図4はハイパスフィルタの周波数特性を示している。累積倍率が1.0より大きい場合、つまりAF動作開始時より倍率が高い場合には、AF動作開始時に比べて、より低周波信号を通過するハイパスフィルタを選択する。累積倍率が1.0より小さい場合、つまりAF動作開始時より倍率が低い場合、AF動作開始時に比べて、より高周波信号を通過するハイパスフィルタを選択する。また、本実施形態ではフィルタ群は3つのフィルタで構成された場合について説明したが、より多数のフィルタであってもかまわない。この場合、累積倍率の高低の程度が強まれば強まるほど、低周波もしくは高周波信号をより通過する。また、所定のハイパスフィルタに対して、累積倍率に基づきその周波数特性を変更して用いてもかまわない。この場合、下式(2)の周波数特性となるフィルタを設計する。
Figure 2013101314
但し、Gt(u)は時刻tにおけるフィルタの周波数特性。uは空間周波数。Go(u)は所定のフィルタの周波数特性である。
また、本実施形態ではフィルタとしてハイパスフィルタを利用したが、バンドパスフィルタを利用してもかまわない。この場合もハイパスフィルタと同様に、AF動作開始時より倍率が高い場合は低周波信号を、AF動作開始時より倍率が低い場合は高周波信号を、より通過する周波数特性を有したフィルタを選択する。
コントラスト値算出部332は、画像取得部310より出力される内視鏡画像に対し、フィルタ選択部331で選択されたフィルタによるフィルタリング処理を行い、コントラスト値を算出する。具体的にコントラスト値とは、内視鏡画像中央に位置する所定サイズの矩形領域における、フィルタリング処理された内視鏡画像の画素値の総和である。ここでコントラスト値は、内視鏡画像のG信号にのみフィルタリング処理を行って算出する。これは、内視鏡画像における主な被写体である体腔内は、局所的な画素値の変化がG信号において最も大きく、コントラスト値算出に適しているためである。算出したコントラスト値は、レンズ制御部333に出力される。また本実施形態において、コントラスト値はG信号のみより算出したが、RGB全ての信号に対しチャンネルごとにフィルタリング処理を行い、RGB信号ごとの総和を合計して算出しても構わない。
レンズ制御部333は、コントラスト値算出部332より出力されるコントラスト値に基づき、対物レンズ231を制御するレンズ制御信号を出力する。コントラスト値に基づく具体的な合焦制御方法は、AF技術として公知であるため詳細な技術説明は省略する。レンズ制御信号は、対物レンズ231と、倍率変動検出部320に出力される。
表示部400は、画像取得部310より出力される内視鏡画像を、内視鏡モニタ等の画像表示装置上に出力する。
外部I/F部500は、合焦制御装置に対するユーザからの入力等を行うためのインターフェースであり、電源のオン/オフを行うための電源スイッチ、撮影操作を開始するためのシャッタボタン、撮影モードやその他各種のモードを切り換えるためのモード切換ボタン、被写体に自動的に焦点を合わせるオートフォーカス動作を開始するAFボタンなどを含んで構成されている。
本発明の一態様では、倍率変動と合焦物体位置変動が連動する内視鏡撮像光学系を通して、内視鏡画像が取得される。内視鏡撮像光学系の倍率変動を、内視鏡撮像光学系の制御信号より検出する。検出した倍率変動に基づきハイパスフィルタの周波数特性を選択する。当該ハイパスフィルタにより内視鏡画像にフィルタリング処理を行うことで、コントラスト値を算出する。算出したコントラスト値が極大値をとるよう撮像光学系を制御することで、AF機能を実現する。倍率変動に応じて、適切な周波数特性のフィルタによるコントラスト値算出を行うことで、倍率変動に対して安定的にAF動作を行うことができる。
以上の本実施形態では、合焦制御装置は図1に示したように、撮像光学系の駆動を制御する合焦制御部330と、撮像光学系を介した撮像によって、異なる撮像倍率で撮像された複数の画像を取得する画像取得部310と、倍率変動を検出する倍率変動検出部320とを含む。合焦制御部330は、画像取得部310で取得された画像と、倍率変動検出部320で検出された倍率変動に基づいて撮像光学系の焦点状態を表すAF評価値を算出し、AF評価値に基づいて撮像光学系を駆動することで合焦制御を行う。
ここで、撮像光学系は、撮像倍率の変更に伴い合焦物体位置が変更される構成であるものとする。つまり、図19(A)に示したような1群駆動レンズを前提とする。また、倍率変動とは、撮像倍率の変動、及び画像上での被写体のサイズの変動の少なくとも一方を表すものである。撮像倍率の例で言えば、撮像倍率が2倍から3倍へ変化した場合、その変化の度合い(比であれば3/2=1.5であるし、差であれば3−2=1である)を倍率変動とする。被写体のサイズの例で言えば、被写体上の2点間の距離が画像において10ピクセルから20ピクセルに変化した場合、その変化の度合い(比であれば2、差であれば10)を倍率変動とする。倍率変動は、広義には比や差に限定されず、撮像倍率等の変動の度合いを表す他の情報(倍率変動情報)であってもよいが、本実施形態においては狭義には比を表すものとして説明する。またAF評価値とは、AFを実行するに当たって評価対象となる値のことであり、例えばコントラストAFにおけるコントラスト値であってもよい。
これにより、1群駆動レンズを用いた場合にもAF評価値を適切に算出することが可能になるため、AFを適切に実行することが可能になる。コントラストAFにおけるコントラスト値がそうであるように、AF評価値は合焦物体位置の異なる複数のタイミングでそれぞれ取得され、取得した複数のAF評価値の比較を行うことが想定される。しかし、上述したように1群駆動レンズでは合焦物体位置の変更に伴い撮像倍率が変更されてしまうため、AF評価値の算出状況が変化してしまう。具体的には、撮像倍率が大きくなれば、拡大処理となるため画像の高周波成分が低周波側に移ってしまう。コントラスト値の一例として画像の高周波成分を用いることが考えられるように、画像の周波数成分の変化はAF評価値に影響を与える。よって、本実施形態では、画像からAF評価値を算出する際に、倍率変動(例えば撮像倍率の変動)に基づいた処理(具体的には倍率変動に伴う影響を補償するような処理)を行う。そうすることで安定的にAF評価値を算出できるため、AFを適切に実行することができる。
また、合焦制御部330は、倍率変動に応じた周波数特性を有するフィルタを用いたフィルタ処理を、画像に対して施すフィルタ処理部(フィルタ選択部331で選択されたフィルタによる処理を行うもので、上述の説明では図3におけるコントラスト値算出部332に対応する)を含んでもよい。
これにより、倍率変動に基づいたAF評価値の算出処理として、当該算出処理に用いるフィルタの周波数特性を変更することが可能になる。上述したように、倍率変動に伴い画像の周波数特性が変化する。よって、フィルタの周波数特性を一定にした場合、合焦状態は一定であったとしても、倍率変動前にはフィルタを通過していた信号成分が、倍率変動後にはフィルタを通過しないことも考えられる。合焦状態が一定であるのならば、フィルタを通過する信号成分(信号値)は同程度のはずであるから、倍率変動による画像の周波数成分の変動に対応させてフィルタ特性も変更する必要がある。
また、フィルタ処理部は、倍率変動が大きいほどカットオフ周波数の低いハイパスフィルタを用いたフィルタ処理を行ってもよい。また、倍率変動が小さいほどカットオフ周波数の高いハイパスフィルタを用いたフィルタ処理を行ってもよい。
なお、ここでは上述したように倍率変動として撮像倍率(或いは被写体のサイズ)の変化の度合いとして2つの撮像倍率の比を用いるものとする。つまり、倍率変動が大きいとは、変動前に比べて変動後の撮像倍率が大きくなっている(拡大されている)状況であり、倍率変動が小さいとは、変動前に比べて変動後の撮像倍率が小さくなっている(縮小されている)状況である。ただし、倍率変動は拡大された場合に大きくなり、縮小された場合に小さくなるものであればよく、撮像倍率の差(拡大時は正の値、縮小時は負の値となる)であってもよいし、他の値であってもよい。
これにより、倍率変動に伴う画像の周波数成分の変化に対応させて、フィルタの周波数特性を変更することが可能になる。上述したように倍率変動が大きい、つまり拡大された場合には、エッジ成分がなまり、本来フィルタを通過するはずの高周波成分が低周波側にシフトする。この低周波側にシフトした信号成分もAF評価値の算出に用いる必要があることから、このような場合にはハイパスフィルタのカットオフ周波数を低く設定する。逆に、倍率変動が小さい、つまり縮小された場合には、本来AF評価値の算出に用いられないような低周波成分まで高周波側にシフトしてくる。この信号成分はフィルタでカットする必要があるため、ハイパスフィルタのカットオフ周波数は高く設定する。
また、フィルタ処理部は、倍率変動が大きいほど通過帯域が低い周波数帯域であるバンドパスフィルタを用いたフィルタ処理を行ってもよい。また、倍率変動が小さいほど通過帯域が高い周波数帯域であるバンドパスフィルタを用いたフィルタ処理を行ってもよい。
これにより、AF評価値の算出にバンドパスフィルタを用いることも可能になる。なお、倍率変動に伴う画像の周波数成分の変化にあわせて、フィルタの周波数特性を変更する点についてはハイパスフィルタの例と同様であるため、詳細な説明は省略する。
また、倍率変動検出部320は、第1のタイミングにおける倍率評価値に対する、第2のタイミングにおける倍率評価値の比を、第2のタイミングでの倍率変動として検出してもよい。本実施形態においては、倍率評価値は撮像倍率であってもよい。
ここで、第2のタイミングは第1のタイミングとは時間的に異なるものとする。また、倍率評価値とは、上述した撮像倍率及び画像における被写体のサイズの少なくとも一方である。
これにより、異なる2つのタイミングの間での倍率評価値(撮像倍率)の比を倍率変動として検出することが可能になる。この場合、倍率評価値が変動しない場合の倍率変動が1となり、倍率変動が1より大きければ拡大に対応し、1より小さければ縮小に対応することになる。
また、上述した第1のタイミングは、AF評価値の算出を開始するタイミングであってもよい。
なお、第2のタイミングは第1のタイミングよりも時間的に後であり、かつ、AF評価値の算出タイミングに対応する。本実施形態における説明では、第2のタイミングは現在の処理タイミングを表している。
これにより、AF評価値の算出を開始するタイミングに対する倍率評価値の変動(狭義には倍率評価値の比)を求めることが可能になる。AF評価値の算出を開始するタイミングとは、AF動作を開始するタイミングであってもよい。上述してきたように、AF評価値を安定的に算出するためには、倍率変動の影響を補償するような処理を行う必要がある。その際、どの程度補償するか(本実施形態であれば、フィルタの周波数特性をどの程度変更するか)の基準が無くてはならない。つまり、第1のタイミングとしてAF評価値の算出を開始するタイミングを用いれば、以降のAF評価値算出タイミングにおける算出処理は、第1のタイミングからの倍率変動を補償した上で行われるため、第1のタイミングと同等の条件でAF評価値を算出することが可能になる。なお、この場合には、算出される倍率変動は、本実施形態の説明における式(1)の累積倍率Atに相当する。
ただし、倍率変動は累積倍率を指すものに限定されず、本実施形態で説明したように、第1のタイミングと第2のタイミングは、時間的に隣接するAF評価値の取得タイミングであってもよい。
これにより、時間的に隣接するタイミングでの倍率評価値の変動(狭義には倍率評価値の比)を求めることが可能になる。隣接タイミング間での倍率変動を補償する処理が行えることはもちろんであるが、隣接タイミング間での倍率変動の積を求めることで任意のタイミングの間での倍率変動が得られるため、その間での倍率変動を補償する処理を行うことも可能である。例えばAF動作開始時からの倍率変動の直積は、上述した累積倍率に他ならない。
また、以上の本実施形態は、撮像光学系の駆動を制御する合焦制御部330と、撮像光学系を介した撮像によって、異なる撮像倍率で撮像された複数の画像を取得する画像取得部310と、倍率変動を検出する倍率変動検出部320とを含む内視鏡システムに適用できる。合焦制御部330は、画像取得部310で取得された画像と、倍率変動検出部320で検出された倍率変動に基づいて撮像光学系の焦点状態を表すAF評価値を算出し、AF評価値に基づいて撮像光学系を駆動することで合焦制御を行う。
なお、内視鏡システムは、図1に示したように光源部100、挿入部200、表示部400、外部I/F部500等を含んでもよい。
これにより、1群駆動レンズを用いた場合にもAF評価値を適切に算出することが可能な内視鏡システムを実現することができる。内視鏡システムでは挿入部200は生体内に挿入されることになるため、小型化することが望ましく、そのために挿入部200に含まれる撮像光学系の構成をシンプルにすることが考えられる。よって、図19(A)に示した1群駆動レンズを採用することが想定され、その場合には上述してきた倍率変動による影響を補償する必要が生じる。
3.第2の実施形態
本実施形態に係る合焦制御装置を含む内視鏡装置について、図5を参照して説明する。内視鏡装置は、光源部100と、挿入部200と、信号処理部300と、表示部400と、外部I/F部500を備えている。信号処理部300および表示部400以外は、第1の実施形態と同様であるため説明を省略する。
信号処理部300は、画像取得部310と、倍率変動検出部320と、合焦制御部330と、制御部340を備えている。画像取得部310は、倍率変動検出部320と、合焦制御部330と、表示部400に接続されている。倍率変動検出部320は、合焦制御部330に接続されている。合焦制御部330は、対物レンズ231に接続されており、レンズ制御信号による対物レンズ231の制御に基づいて、倍率および合焦物体位置を制御する。制御部340は、撮像部230と、倍率変動検出部320と、合焦制御部330と、画像取得部310と表示部400と、外部I/F部500に双方向に接続しており、これらを制御信号により相互に制御する。
画像取得部310は第1の実施形態と同様のため説明を省略する。画像取得部310にて取得した内視鏡画像は、倍率変動検出部320に出力される。
倍率変動検出部320は、画像取得部310より出力される内視鏡画像の画素値に基づき、内視鏡画像における被写体のサイズ変化を、倍率変動として検出する。検出された倍率変動は、合焦制御部330に出力される。本実施形態における倍率変動検出部320の構成を、図6を参照して説明する。倍率変動検出部320は、フレームメモリ321と、RIPOC算出部322を備えている。画像取得部310より出力される内視鏡画像は、フレームメモリ321と、RIPOC算出部322に出力される。フレームメモリ321は、RIPOC算出部322に接続されている。RIPOC算出部322は、合焦制御部330に接続されている。
フレームメモリ321は、画像取得部310より出力される内視鏡画像を、1フレーム遅延させてRIPOC算出部322に出力する。
RIPOC算出部322は、画像取得部310より出力される内視鏡画像および、フレームメモリ321より出力される内視鏡画像に基づき、各内視鏡画像における被写体のサイズ変化を倍率変動として算出する。以降説明のため、前者の内視鏡画像を現在画像、後者の内視鏡画像を過去画像と表記する。ここで、現在画像および過去画像より倍率変動を算出する技術、回転不変位相限定相関法(以降RIPOC法と表記)は公知技術のため、詳細な技術説明は省略する。技術の詳細は非特許文献1に詳しい。RIPOC法では、過去画像を基準として現在画像における被写体の平行移動・サイズ変化・回転を検出することができる。この内サイズ変化を倍率変動として合焦制御部330に出力する。
次に、本実施形態における倍率変動検出部320の変形例について、図7を参照して説明する。倍率変動検出部320は、フレームメモリ321と、特徴点対応部323を備えている。画像取得部310より出力される内視鏡画像は、フレームメモリ321と、特徴点対応部323に出力される。フレームメモリ321は、特徴点対応部323に接続されている。特徴点対応部323は、合焦制御部330に接続されている。
フレームメモリ321は、画像取得部310より出力される内視鏡画像を、1フレーム遅延させて特徴点対応部323に出力する。
特徴点対応部323は、画像取得部310より出力される現在画像および、フレームメモリ321より出力される過去画像より、特徴点を検出しその対応関係から現在画像および過去画像の倍率変動を検出する。ここで、現在画像および過去画像より特徴点を検出する技術は公知であるため、詳細な技術説明は省略する。ここで特徴点は、公知技術のSIFT特徴量に基づき検出する。SIFT特徴量は画像の回転、スケール変化、照明変化にロバストな特徴量である。SIFT特徴量に関する詳細は非特許文献2に詳しい。次に、現在画像および過去画像より検出される特徴点を、各画像間で対応させる。特徴点間の対応についても公知技術であるため説明は省略する。ここでは、RANSACと呼ばれる手法で、特徴点間の対応関係を検出する。RANSACは、複数の特徴点をランダムに抽出・組み合わせて算出した対応関係候補を、抽出されなかった特徴点に適応しその妥当性を評価する、という演算を繰り返すことで、大多数の特徴点間を満足する対応関係を決定する手法である。RANSACに関する詳細は非特許文献3に詳しい。ここでは、対応関係は座標変換の一つとして知られるアフィン変換である。但し、ここで座標変換は、過去画像から現在画像への変換である。公知技術であるため詳細な説明は省略するが、アフィン変換は並進、回転、変倍の項で構成されており、この変倍の項を倍率変動として、合焦制御部330に出力する。
合焦制御部330は、制御信号よりAF動作の開始を検知すると、画像取得部310より出力される内視鏡画像および、倍率変動検出部320より検出された倍率変動に基づき、対物レンズ231の制御を行って合焦物体位置を制御する。本実施形態における合焦制御部330の具体的な構成について、図8を参照して説明する。合焦制御部330は、コントラスト値算出部332と、レンズ制御部333と、評価領域設定部334を備えている。画像取得部310より出力される内視鏡画像は、コントラスト値算出部332に出力されている。倍率変動検出部320より出力される倍率変動は、評価領域設定部334に出力されている。評価領域設定部334は、コントラスト値算出部332に接続されている。コントラスト値算出部332は、レンズ制御部333に接続されている。レンズ制御部333は、対物レンズ231に接続されており、これを制御する。
評価領域設定部334は、倍率変動検出部320より出力される倍率変動に基づき、内視鏡画像上に評価領域を設定する。具体的にはまず、制御信号よりAF動作の開始を検知すると、初期評価領域を設定する。初期評価領域は内視鏡画像の中央に位置する矩形領域であり、そのサイズは内視鏡画像のサイズに所定の比率を乗じて算出される。その後、初期評価領域を評価領域倍率で変倍し、評価領域とする。ここで、評価領域倍率は上述した式(1)で算出した累積倍率と等しい。評価領域倍率に基づき設定される評価領域を、図9を参照して説明する。図9(A)はAF動作開始時の内視鏡画像および初期評価領域である。図9(B)は時刻tにおける内視鏡画像および評価領域である。この時、図9(A)における初期評価領域のサイズと、図9(B)における評価領域のサイズとの比率が評価領域倍率Vt(式(1)のAtに等しい)である。つまり、評価領域倍率が大きければ大きいほど、評価領域のサイズは大きくなる。算出した評価領域倍率は、コントラスト値算出部332に出力される。
コントラスト値算出部332は、評価領域設定部334より出力される評価領域倍率に基づき、画像取得部310より出力される内視鏡画像上に設定された評価領域の画素値を用いてコントラスト値を算出する。具体的には、ハイパスフィルタによるフィルタリング処理を行った内視鏡画像の画素値を、評価領域内で総和しこれをコントラスト値とする。算出したコントラスト値は、レンズ制御部333に出力される。また、評価領域内の最大画素値および最小画素値の差をコントラスト値としても構わない。
レンズ制御部333は、第1の実施形態と同様であるため、説明を省略する。
このように、倍率変動を補償するように、コントラスト値を算出する評価領域を設定することで、倍率変動のコントラスト値に対する影響を低減し、安定的にAF動作を行うことができる。
また、初期評価領域のサイズは、内視鏡画像に所定の比率を乗じて算出されたが、当該所定の比率はAF動作開始時における対物レンズ231の倍率に応じて可変であっても構わない。説明のため、当該所定の比率を初期評価領域倍率とする。この場合の合焦制御部330の構成を図10に示す。図9を参照して説明した合焦制御部330と異なる点は、レンズ制御信号が評価領域設定部334にも出力される点である。評価領域設定部334は、レンズ制御信号に基づき、AF動作開始時における対物レンズ231の倍率を取得する。図11を参照して、初期評価倍率とAF動作開始時における倍率との関係を説明する。図11(B)は図11(A)に比べて高倍率であるため、初期評価倍率を大きく設定する。このように初期評価倍率を設定することで、倍率変動により評価領域倍率が1.0を超える、または0.0に近づく頻度を低減できる。これは、低倍率でAF動作を開始する場合、現在より高倍率にして観察を行う可能性が高く、高倍率でAF動作を開始する場合はその逆となるためである。次に、これらの状況を避けるべき理由について説明する。評価領域倍率が1.0を超えると、内視鏡画像全体を超えてコントラスト値を算出しなければならない可能性が出てくる。しかし、画像信号は内視鏡画像上にのみ存在するため、コントラスト値から倍率変動の影響を低減する効果が限定的になるためである。また、評価領域倍率が0.0に近づくと、コントラスト値が極端に小さな評価領域から算出され、AF動作が不安定となるためである。
表示部400は、画像取得部310より出力される内視鏡画像を、内視鏡モニタ等の画像表示装置上に出力する。
本発明の一態様では、倍率変動と合焦物体位置変動が連動する内視鏡撮像光学系を通して、内視鏡画像が取得される。内視鏡撮像光学系の倍率変動を、内視鏡画像より検出する。検出した倍率変動を補償するようにサイズを可変とした評価領域を内視鏡画像内に設定し、当該評価領域内の画素に対してハイパスフィルタによるフィルタリング処理を行うことでコントラスト値を算出する。算出したコントラスト値が極大値をとるよう撮像光学系を制御することで、AF機能を実現する。倍率変動を補償するようにサイズを変更した評価領域よりコントラスト値を算出することで、倍率変動に対して安定的にAF動作を行うことができる。
以上の本実施形態では、合焦制御部330は図8に示したように、AF評価値の算出に用いられる画素を含む領域である評価領域を画像に設定する評価領域設定部334を含む。そして評価領域設定部334は、倍率変動に基づいて、設定する評価領域のサイズを変更する。
ここで、評価領域は上述したようにAF評価値の算出に用いられる画素を含む領域であり、当該算出に用いられる画素に対応する被写体に対してピントが合わせられることになる。そのため、評価領域は画像上のピントを合わせたい位置に対して設定されることが望ましいが、画像内からピントを合わせたい領域を自動的に認識することは難しく、また、拡大観察においては画像中央に注目していることが多いと考えられるため、本実施形態においては画像の中央に評価領域が設定されるものとする。また図9(A)等では矩形領域を用いて説明しているが、評価領域の形状はこれに限定されるものではない。
これにより、倍率変動に応じて適切なサイズの評価領域を設定できるため、安定的なAF評価値の算出が可能になる。倍率変動がある(比であれば倍率変動の値が1ではない)状況では、撮像光学系により撮像され画像上に表示される領域が変化することになる。つまり、撮像される被写体のサイズが変更されると言ってもよい。よって、評価領域に含まれる被写体の範囲が変化する(拡大であれば、拡大前に比べて拡大後の評価領域には被写体の狭い範囲しか含まれない)。そうなれば画像に含まれるエッジの量等も変化することになり好ましくない。そこで本実施形態では、倍率変動を補償する形で評価領域のサイズを変更するものとする。
また、評価領域設定部334は、倍率変動が大きいほど評価領域のサイズを大きく設定してもよい。また、倍率変動が小さいほど評価領域のサイズを小さく設定してもよい。
これにより、倍率変動に応じた評価領域のサイズの設定が可能になる。上述したように、画像上での被写体のサイズが変化した場合、評価領域に含まれるエッジの量等が変化してしまうことが問題となる。よって、評価領域に含まれる被写体の範囲が変化しないように、評価領域のサイズを変更すればよい。つまり、倍率変動が大きい(拡大されている)場合には、評価領域のサイズも大きくし、倍率変動が小さい(縮小されている)場合には評価領域のサイズを小さくすることになる。
また、倍率変動検出部320は、第1のタイミングと第2のタイミングの間での倍率変動を検出し、評価領域設定部334は、第1のタイミングでの評価領域である基準評価領域に対して、倍率変動の値を用いた変倍処理を施すことで、第2のタイミングでの評価領域を設定してもよい。
ここで、第1のタイミングとはAF動作の開始タイミングであってもよく、その場合基準評価領域とは上述した初期評価領域に他ならない。
これにより、倍率変動に応じた評価領域のサイズの設定が可能になる。上述したように、評価領域に含まれる被写体の範囲が変化しないように、評価領域のサイズを設定すればよい。ここで、倍率変動が画像上での被写体のサイズの比(図9におけるVt)を表すのであれば、被写体サイズがVt倍になっているということであるから、評価領域のサイズもVt倍すればよい。図9(A)、図9(B)のように評価領域が矩形であれば、縦の長さ及び横の長さをそれぞれVt倍すれば評価領域のサイズが求められる。なお、第1のタイミングにおける被写体のサイズをc1(単位は例えばピクセル)、第2にタイミングにおける被写体のサイズをc2とすればVt=c2/c1である。このVtはc1,c2から直接求められてもよいが、本実施形態の手法では、隣接タイミング間の倍率変動Zの直積である累積倍率Atを求めることになる(At=Vtである)。
また、評価領域設定部334は、第1のタイミングにおいて、撮像倍率又は画像における被写体のサイズが大きいほど基準評価領域のサイズを大きく設定してもよい。また、撮像倍率又は画像における被写体のサイズが小さいほど基準評価領域のサイズを小さく設定してもよい。
これにより、第1のタイミングにおける評価領域(基準評価領域、狭義には初期評価領域であってもよい)のサイズを適切に設定することが可能になる。これは倍率変動として撮像倍率の変動を考えると理解しやすい。例えば撮像倍率が1倍〜100倍まで変更可能な撮像光学系を用いるとする。このとき、第1のタイミングでの撮像倍率が100倍に近い高倍率であった場合には、以降のタイミング(第2のタイミング等)においては、撮像倍率はそれほど上昇せず、むしろ下がる可能性が高いと考えられる。よって、倍率変動は小さい値が想定され、評価領域も基準評価領域よりも小さな領域が設定される。このような場合には、評価領域がAF評価値の算出が困難になるほど小さくなることを抑止するために、基準評価領域は大きくするとよい。逆に1倍に近い低倍率であれば、倍率変動が大きくなり、評価領域も大きい領域が設定されることが想定できる。このような場合には、画像(撮像画像、内視鏡画像)の大きさを超える評価領域が設定されないように、基準評価領域は小さくするとよい。なお、画像上の被写体のサイズに基づいて倍率変動が決定される場合には、撮像倍率のように変動幅(上述の例では1倍〜100倍等)が明確ではないため、第1のタイミングにおける被写体サイズが大きいのか小さいのかを判断するための基準を、何らかの手法により設定する必要がある。一例としては、画像から絶対的なサイズが明確な被写体(例えば所与の部位における血管の太さ等)を認識し、当該被写体の画像上のサイズの基準としてもよい。
また、倍率変動検出部320は、第1のタイミングにおける被写体のサイズに対する、第2のタイミングにおける被写体のサイズの比を、第2のタイミングでの倍率変動として検出してもよい。具体的には、第1のタイミングでの画像及び第2のタイミングでの画像に対して、位相限定相関法を用いてもよい。また、第1のタイミングでの画像及び第2のタイミングでの画像に対して複数の特徴点を設定し、設定した複数の特徴点の位置に基づいて倍率変動を検出してもよい。
ここで、第2のタイミングは第1のタイミングとは時間的に異なるものとする。
これにより、異なる2つのタイミングの間での被写体のサイズの比を倍率変動として検出することが可能になる。これは、第1のタイミングでの被写体のサイズがd1(例えばピクセル)であり、第2のタイミングでの被写体サイズがd2であるとすれば、第2のタイミングでの倍率変動ZtはZt=d2/d1で表される。これは例えば、RIPOC法を用いてもよいし、SIFT特徴量を設定してRANSACにより対応関係を評価することで求めてもよい。
この際、各タイミングにおける被写体サイズは絶対的な値である必要はない。例えば第1、第2のタイミングと異なる第3のタイミングを考える。このとき各タイミングにおける被写体サイズd1、d2、d3を求めれば、第1と第2のタイミング間の倍率変動はd2/d1、第2と第3ではd3/d2、第1と第3ではd3/d1等として求められる。しかし、このようにするには被写体の同一部分のサイズを常に求める必要がある。例えば、第1のタイミングで被写体上の第1の特徴点と第2の特徴点間の距離を、サイズを表す情報としたならば、第2,第3のタイミングにおいても第1の特徴点に対応する第1の対応点及び第2の特徴点に対応する第2の対応点を求める必要がある。しかし、サイズを求める被写体の部分は常に一定にする必要はなく、第1,第2のタイミング間では倍率変動Z12=d2/d1を求め、第2,第3のタイミング間では倍率変動Z23=d3’/d2’を求めてもよい。つまり、Z12を求める際と、Z23を求める際で、被写体のサイズを求める部分が異なってもよいということである。この場合、第1,第3のタイミング間の倍率変動はd1とd3’からは求められないが、Z12×Z23により累積倍率として求めることが可能である。
4.第3の実施形態
本実施形態に係る合焦制御装置を含む内視鏡装置について、図12を参照して説明する。内視鏡装置は、光源部100と、挿入部200と、信号処理部300と、表示部400と、外部I/F部500を備えている。信号処理部300以外は、第1の実施形態と同様であるため説明を省略する。
信号処理部300は、画像取得部310と、倍率変動検出部320と、合焦制御部330と、制御部340と、画像変倍部350を備えている。撮像部230より出力されるRAW画像は、画像取得部310に出力されている。画像取得部310は、倍率変動検出部320と、画像変倍部350に接続されている。倍率変動検出部320は、画像変倍部350に接続されている。画像変倍部350は、合焦制御部330と、表示部400に接続されている。合焦制御部330は、対物レンズ231に接続されており、レンズ制御信号による対物レンズ231の制御に基づいて、倍率および合焦物体位置を制御する。レンズ制御信号は、倍率変動検出部320にも出力される。制御部340は、撮像部230と、画像取得部310と、倍率変動検出部320と、合焦制御部330と、画像変倍部350と、表示部400と、外部I/F部500に双方向に接続しており、これらを制御信号により相互に制御する。
画像取得部310は、第1の実施形態と同様のため説明を省略する。取得した内視鏡画像は、倍率変動検出部320と、画像変倍部350に出力される。
倍率変動検出部320は、後述する合焦制御部330より出力されるレンズ制御信号に基づきレンズ倍率変動を検出し、レンズ倍率変動及び、画像取得部310より出力される内視鏡画像に基づき、被写体距離変動を検出する。ここでレンズ倍率変動とは、対物レンズ231の倍率変動である。また被写体距離変動とは、対物レンズ231と被写体との相対距離変動である。本実施形態における倍率変動検出部320の具体的な構成について、図13を参照して説明する。本実施形態における倍率変動検出部320は、レンズ倍率変動検出部324と、距離変動検出部325を備えている。後述する合焦制御部330より出力されるレンズ制御信号は、レンズ倍率変動検出部324に出力されている。画像取得部310より出力される内視鏡画像は、距離変動検出部325に出力されている。レンズ倍率変動検出部324は、距離変動検出部325と、画像変倍部350に接続されている。距離変動検出部325は、画像変倍部350に接続されている。
レンズ倍率変動検出部324は、後述する合焦制御部330より出力するレンズ制御信号に基づき、対物レンズ231の移動に伴う倍率変動、レンズ倍率変動を検出する。その動作は、第1の実施形態における倍率変動検出部320と同様のため、説明を省略する。またレンズ倍率変動は、第1の実施形態における倍率変動と同様であるが、以降説明のため表記を変更する。検出したレンズ倍率変動は、距離変動検出部325と、画像変倍部350に出力される。
距離変動検出部325は、画像取得部310より取得される内視鏡画像および、レンズ倍率変動検出部324より出力されるレンズ倍率変動に基づき、被写体と内視鏡との相対距離の変動、距離変動を検出する。具体的にはまず、経時的な内視鏡画像の倍率変動である画像倍率変動を検出する。これは、第2の実施形態における倍率変動検出部320の動作と同様であるため、説明は省略する。経時的な内視鏡画像の倍率変動は、光学系の倍率変動による要因と、内視鏡と被写体との相対距離変動による要因が含まれており、これらの積で表すことができる。つまり画像倍率変動は、レンズ倍率変動と距離変動との積であり、距離変動は画像倍率変動をレンズ倍率変動で除することで検出できる。検出した距離変動は、画像変倍部350に出力される。
画像変倍部350は、制御信号よりAF動作の開始を検知すると、画像取得部310より出力される内視鏡画像を、倍率変動検出部320より出力される倍率変動に基づき拡大若しくは縮小する。以降、拡大縮小処理を合わせて変倍処理と表記する。まず、倍率変動に基づき変倍率(画像変倍率)を下式(3)より算出する。
Figure 2013101314
但し、tは現時刻、Mtは現時刻における変倍率、sはAF動作が開始した時刻を表す。また、iは時刻を示すインデックス、Zは倍率変動、Aは式(1)と同様に累積倍率である。つまり変倍率は、AF動作開始時から現在までの倍率変動の直積(累積倍率)の逆数である。
変倍処理(画像変倍処理)について、図14(A)〜図14(E)で説明する。図14(A)は、AF開始時における内視鏡画像である。図14(B)のように変倍率が1.0より大きい場合(つまり累積倍率が1.0より小さい場合)、図14(D)のように内視鏡画像を拡大し、変倍画像とする。また、図14(C)のように変倍率が1.0より小さい場合(累積倍率が1.0より大きい場合)、図14(E)のように内視鏡画像を縮小し、変倍画像とする。変倍処理された内視鏡画像は、変倍画像として合焦制御部330と、表示部400に出力される。このようにすることで、AF動作中は被写体の大きさが変化しない画像が、合焦制御部330および表示部400に出力される。合焦制御部は、倍率変動による影響を低減して後述するコントラスト値を算出することができる。また表示部400は、倍率変動に伴い被写体の表示倍率が頻繁に変動し、ユーザが映像酔いを起こすといった現象を抑制することができる。変倍処理は、AF動作終了まで行う。また、AF動作中でない場合、入力された内視鏡画像をそのまま表示部400に出力する。
また画像変倍部350は、合焦制御部330に出力する変倍画像と、表示部400に出力する変倍画像とで、異なる変倍処理を行っても構わない。具体的には、表示部400に出力する変倍画像は、上式(3)により求めた変倍率に基づいて算出される基準倍率を用いて変倍処理されても構わない。基準倍率は、下式(4)で算出される。一方、合焦制御部330に出力する変倍画像は、上記の説明と同様に変倍処理される。
Figure 2013101314
但し、Btは現時刻における基準倍率である。つまり基準倍率は、時刻sから現時刻までの変倍率の平均である。基準倍率で変倍処理された変倍画像が、表示部400に出力される。基準倍率を用いない場合、AF動作中は、被写体の大きさは変化しない画像が表示されるが、変倍処理により画像の解像感は変化するため、ユーザが違和感を覚える可能性がある。これは、変倍処理は補間処理を行う必要があり、当該補間処理により画像の周波数特性が変化するためである。基準倍率を用いることで、被写体の表示倍率変動を抑制しつつ、解像感変化も小さくすることができる。
また表示部400に出力する変倍画像は、所定の許容変倍率にさらに基づき変倍処理されても構わない。この場合の変倍率は下式(5)で算出される。
Figure 2013101314
但し、Rは許容変倍率であり、0.0〜1.0の値をとる。つまり、被写体の表示倍率の変動を、許容変倍率で表される範囲内に抑えて、変倍率を算出する。以降説明のため、許容変倍率で表される範囲を、許容変倍範囲と表記する。また許容変倍範囲は、倍率変動値および被写体表示倍率変動(例えば図15(B)と図15(E)の間の被写体サイズの比)の双方に対して定義されるが、範囲を規定する値が等しいため、特に区別せずに説明する。許容変倍範囲を利用した変倍処理について、図16(A)〜図16(E)を参照して説明する。図16(A)〜図16(E)は、時刻tにおける倍率変動値が許容変倍範囲を上回る場合である。図16(A)は、時刻t−1に取得された内視鏡画像。図16(B)は、時刻t−1に変倍処理された変倍画像。図16(C)は、時刻tに取得された内視鏡画像である。図16(D)は、図16(B)に示した内視鏡画像と、被写体の表示倍率が等しくなるよう変倍処理を行った変倍画像である。図16(E)は、許容変倍範囲の上限までは、被写体の表示倍率変動を許容した変倍画像である。図17(A)〜図17(E)は、時刻tにおける倍率変動値が許容変倍範囲を下回る場合である。図17(A)は、時刻t−1に取得された内視鏡画像。図17(B)は、時刻t−1に変倍処理された変倍画像。図17(C)は、時刻tに取得された内視鏡画像である。図17(D)は、図17(B)に示した内視鏡画像と、被写体の表示倍率が等しくなるよう変倍処理を行った変倍画像である。図17(E)は、許容変倍範囲の下限までは、被写体の表示倍率変動を許容した変倍画像である。このようにすることで、ユーザが映像酔いを起こさないよう表示倍率の変動を許容変倍範囲内で抑制しつつ、解像感変化も小さくすることができる。
また、合焦制御部330に出力する変倍画像と、表示部400に出力する変倍画像とで、異なる倍率変動値に基づいて変倍率を算出し、変倍処理を行っても構わない。具体的には、合焦制御部330に出力する変倍画像は、レンズ倍率変動検出部324より出力されるレンズ倍率変動と、距離変動検出部325より出力される距離変動との積で変倍処理を行っても構わない。但し、表示部400に出力する変倍画像は、レンズ倍率変動のみを補償するように変倍処理する。このようにすることで、被写体との相対距離変動による内視鏡画像の周波数特性変化に対して、安定的にAF動作を行うことができる。一方、レンズ倍率変動のみを補償し、距離変動は補償しないことで、内視鏡操作による被写体との相対距離変動と表示される画像とのずれを低減することができる。
また、表示部400に出力する変倍画像に対する変倍処理は、AF動作終了後に続行しても構わない。具体的にはAF動作終了後、上式(5)で示したMtが、下式(6)を満たすまで変倍処理を続行する。
Figure 2013101314
但し、AF動作終了後の変倍率Mtは、倍率変動値とは無関係に上式(6)のみによって算出される。或いは、所定の時間が経過するまで変倍処理を続行しても構わない。
AF動作終了後、表示部400に出力する変倍画像に対する変倍処理を突然終了すると、AF動作終了前後で被写体の表示倍率が大きく変化し、ユーザが違和感を覚える可能性がある。このようにすることで、AF動作終了前後の表示倍率変化を緩やかにすることが可能となり、ユーザの違和感を低減できる。
合焦制御部330は、制御信号よりAF動作の開始を検知すると、後述する画像変倍部350より出力される変倍画像の画素値に基づき、対物レンズ231の制御を行って合焦物体位置を制御する。合焦制御部330の具体的な構成について図18を参照して説明する。合焦制御部330は、コントラスト値算出部332と、レンズ制御部333を備えている。画像変倍部350より出力される変倍画像は、コントラスト値算出部332に出力されている。コントラスト値算出部332は、レンズ制御部333に接続されている。レンズ制御部333は、対物レンズ231に接続され、レンズ制御信号を出力することでこれを制御する。またレンズ制御信号は、倍率変動検出部320にも出力されている。
コントラスト値算出部332は、画像変倍部350より出力される変倍画像に対しフィルタリング処理を行い、コントラスト値を算出する。具体的にコントラスト値とは、フィルタリング処理された変倍画像の画素値の、変倍画像中央に位置する所定サイズの矩形領域における総和である。ここで、フィルタリング処理で利用するフィルタは、公知のハイパスフィルタである。算出したコントラスト値は、レンズ制御部333に出力される。
レンズ制御部333は、コントラスト値算出部332より出力されるコントラスト値に基づき、対物レンズ231を制御するレンズ制御信号を出力する。コントラスト値に基づく具体的な合焦制御方法は、AF技術として公知であるため詳細な技術説明は省略する。レンズ制御信号は、対物レンズ231と、倍率変動検出部320に出力される。
表示部400は、画像変倍部350より出力される変倍画像を、内視鏡モニタ等の画像表示装置上に出力する。但し、変倍画像のサイズが表示可能な画像サイズより大きい場合、変倍画像の中央から表示可能な画像サイズのみを抽出して表示する。また、変倍画像のサイズが表示可能な画像サイズより小さい場合、中央に変倍画像を表示し、周囲の表示領域は黒レベルを表示する。また出力される画像(AF動作中以外は内視鏡画像であり、AF動作中は変倍画像)を常に若干変倍(拡大)処理し、その中央部を表示しても構わない。このようにすることで、表示領域において黒レベルが表示される頻度を低減することができる。
また、本実施形態の距離変動検出部325において、光学系の倍率変動および画像の倍率変動より距離変動を算出したが、内視鏡そのものが何らかの測距手段、例えば2眼構成による三角測量など、を備えている場合、当該測距手段により直接算出しても構わない。
本発明の一態様では、倍率変動と合焦物体位置変動が連動する内視鏡撮像光学系を通して、内視鏡画像が取得される。内視鏡撮像光学系の制御信号および内視鏡画像より、内視鏡撮像光学系の倍率変動および内視鏡と被写体との相対距離変動を検出する。検出した倍率変動に基づき、倍率変動を補償するように内視鏡画像を変倍処理する。変倍処理した内視鏡画像に対し、ハイパスフィルタによるフィルタリング処理を行うことでコントラスト値を算出する。算出したコントラスト値が極大値をとるよう撮像光学系を制御することで、AF機能を実現する。倍率変動を補償するように変倍処理した内視鏡画像よりコントラスト値を算出することで、倍率変動に対して安定的にAF動作を行うことができる。また、倍率変動に伴いユーザに表示する画像を変倍することで、被写体の表示倍率の頻繁な変動による映像酔いを低減することができる。また、AFのコントラスト値は内視鏡光学系の倍率変動および被写体との相対距離変動を補償して算出し、表示画像は内視鏡光学系の倍率変動のみを補償して変倍処理することで、AF動作は安定させつつ、表示画像においては相対距離変動を補償しないことで、操作による内視鏡移動と表示画像との違和感を低減することができる。
以上の本実施形態では、合焦制御装置は図12に示したように、倍率変動に基づいて、画像に対して画像変倍処理を施して変倍画像を取得する画像変倍部350を含む。そして、合焦制御部330は、変倍画像に基づいて撮像光学系の焦点状態を表すAF評価値を算出する。
これにより、倍率変動に応じて適切なサイズの変倍画像が取得できるため、安定的なAF評価値の算出が可能になる。倍率変動があった場合、画像に含まれるエッジの量等が変化してしまい、AF評価値の算出に支障をきたすため、それを補償する処理を行うという点では第2の実施形態と同様である。本実施形態は、評価領域を一定として画像自体の大きさを変更する点が第2の実施形態と異なる。
また、画像変倍部350は、倍率変動が大きいほど小さい前記変倍画像を取得してもよい。また、倍率変動が小さいほど大きい変倍画像を取得してもよい。
これにより、倍率変動に応じた大きさの変倍画像の取得が可能になる。倍率変動が大きい場合には、画像(内視鏡画像)が拡大されたと言うことであるから、画像変倍処理として縮小処理を行って小さい変倍画像を取得することになる。これは、図14(A)から図14(C)へ内視鏡画像が拡大された場合に、図14(C)に対して縮小処理を行うことで図14(E)に示した変倍画像を取得することに相当する。これにより、図14(A)と図14(E)とでは被写体サイズが同等となるため、評価領域(本実施形態では一定のサイズの領域)に含まれるエッジの量等の変動が押さえられる。逆に、図14(A)から図14(B)のように倍率変動が小さい(縮小された)場合には、図14(B)に対して画像変倍処理として拡大処理を施して図14(D)のような変倍画像を取得すればよい。
また、倍率変動検出部320は、第1のタイミングと、第2のタイミングの間での倍率変動を検出し、画像変倍部350は、第2のタイミングで画像取得部において取得された画像に対して、倍率変動の値の逆数を用いた画像変倍処理を施すことで、変倍画像を取得してもよい。
これにより、画像変倍処理の具体例として、倍率変動の値の逆数を用いた処理が可能になる。ここで、倍率変動は第1のタイミングでの被写体のサイズ(或いは撮像倍率)と、第2のタイミングでの被写体のサイズの比であるものとする。つまり、第1のタイミングでの被写体のサイズをe1(単位は例えばピクセル)とし、第2のタイミングでの被写体サイズをe2とした場合、倍率変動ZはZ=e2/e1となる。このとき、画像変倍処理に用いる倍率(画像変倍率)をMとすると、M=1/Zである。具体的な数字を用いて例を示す。第1のタイミングでの被写体サイズe1=10とし(例えば図14(A)に対応)、第2のタイミンでの被写体サイズe2=5(例えば図14(B)に対応)とする。その場合倍率変動Z=5/10=0.5となる。この際、小さくなってしまった被写体サイズを10に戻すような画像変倍処理を施せばいいことから、画像変倍率MをM=1/0.5=2とすればよい。第2のタイミングでは、当該タイミングで取得された画像(内視鏡画像であり図14(B))に対して、画像変倍処理を行うため、第2のタイミングでの変倍画像は2倍の拡大処理が行われることになる(変倍画像は図14(D)に対応)。よって、第2のタイミングでの内視鏡画像では5であった被写体サイズが、2倍の画像変倍処理が行われることで、10に拡大されることになる。よって、第1のタイミングでの被写体サイズ(e1=10)と、第2のタイミングでの変倍画像の被写体サイズを同等にすることができる。なお、倍率変動が1より大きい場合(拡大された場合)であっても処理は同様であり、大きくなった被写体サイズを縮小することになる。
また、画像変倍部350は、取得した変倍画像を、合焦制御部330に出力するとともに、表示装置(図12の表示部400に対応)に対して出力してもよい。
これにより、画像変倍処理により取得された変倍画像を表示装置において表示することが可能になる。第1、第2の実施形態では、AF評価値の安定的な算出を可能にする処理は行われるものの、表示装置(表示部400)で表示される表示画像としては、画像取得部310で取得された画像をそのまま用いる。よって、合焦動作の際に起こる合焦物体位置の変動(例えばコントラストAFでのウォブリング等)に伴う倍率変動により、表示画像にちらつきが生じることが避けられない。例えば、図14(A)〜図14(C)が時系列的に取得されたとするならば、被写体が小さくなったり大きくなったりしてしまう。そこで、画像変倍部350により取得された変倍画像を表示装置に対しても出力する。このようにすれば倍率変動(例えば撮像倍率の変動)を補償する画像変倍処理が行われた画像が表示されるため、ちらつきを押さえることが可能になる。例えば、図14(A)〜図14(C)が時系列的に取得されたとするならば、表示画像は図14(A)、図14(D)、図14(E)が順に表示されることになる。
また、画像変倍部350は、画像に対して第1の画像変倍処理を行った第1の変倍画像を合焦制御部330に出力するとともに、画像に対して第2の画像変倍処理を行った第2の変倍画像を表示装置に出力してもよい。
ここで、第1の画像変倍処理と第2の画像変倍処理は異なる処理であり、例えば、画像変倍処理に用いる画像変倍率が異なる処理であってもよい。
これにより、合焦制御部330に出力する変倍画像と、表示装置に出力する変倍画像を異なるものにすることができる。よって、合焦制御部330におけるAF評価値算出処理に適した変倍画像と、表示装置での表示に適した変倍画像が異なる場合にも、それぞれに適した変倍画像を出力することが可能になる。
また、倍率変動検出部320は、倍率変動として画像における被写体のサイズの変動である第1の倍率変動と、撮像倍率の変動である第2の倍率変動を検出してもよい。そして、画像変倍部350は、第1の画像変倍処理として、第1の倍率変動に基づいた画像変倍処理を行って第1の変倍画像を取得し合焦制御部330に出力する。また、第2の画像変倍処理として、第2の倍率変動に基づいた画像変倍処理を行って第2の変倍画像を取得し表示装置に出力する。
これにより、合焦制御部330へ出力する変倍画像については、倍率変動として被写体サイズの変動を用いた画像変倍処理を行うことができる。また、表示装置へ出力する変倍画像については、倍率変動として撮像倍率の変動を用いた画像変倍処理を行うことができる。ここで、撮像倍率の変動(第2の倍率変動)は撮像光学系の変化に起因するものであるのに対し、画像での被写体サイズの変動(第1の倍率変動)とは、撮像倍率による変動の他、撮像部(挿入部200)と被写体との相対距離の変動等、複数の要因を含むものである。本実施形態における画像変倍処理は、倍率変動の影響を補償する処理であるから、第1の画像変倍処理と第2の画像変倍処理とで、用いる倍率変動を切り替えることで、ある倍率変動要因を一方では補償し、他方では補償しないといった処理が可能になる。
その際、合焦制御部330におけるAF評価値算出処理は、画像に対する画像処理(例えば高周波成分の抽出等)により行われる。よって、合焦制御部330への出力に対応する第1の画像変倍処理では、画像に変動を与える要因は、撮像倍率であっても相対距離であっても全て補償することが望ましい。このことから、第1の画像変倍処理に用いる倍率変動(第1の倍率変動)は、画像での被写体のサイズの変動を用いる。それに対して、表示装置での表示画像では補償することが好ましくない倍率変動要因が考えられる。例えば、撮像部と被写体の相対距離まで補償してしまうと、当該相対距離の変動による画像の変動を抑止する方向の画像変倍処理が行われることになる。すると、ユーザが撮像部を操作して前後に動かしたとしても、表示される画像の変動が抑止されてしまう。これではユーザの操作が機器に反映されているのかを判断することが難しく、場合によっては撮像部を被写体に近づけすぎて衝突させてしまいかねない。よって、第2の画像変倍処理に用いる倍率変動(第2の倍率変動)は、撮像倍率の変動を用いる。
また、画像変倍部350における画像変倍処理が、第1〜第N(Nは2以上の整数)のタイミングの期間で行われる場合に、倍率変動検出部320は、第i(1≦i≦N)のタイミングで第iの倍率変動を検出してもよい。そして、画像変倍部350は、第k(1≦k≦N)のタイミングにおける第2の画像変倍処理として、第1〜第kの倍率変動に基づいた処理を行うことで、第2の変倍画像を取得して表示装置に出力してもよい。
これにより、表示装置に表示する画像の解像感の変動を抑止して、自然な画像を提供することが可能になる。本実施形態では、所与の基準タイミングにおける撮像倍率をg0、第kのタイミングでの撮像倍率をgkとした場合に、第kの倍率変動AkをAk=gk/g0とする。なお、Akは上述の説明における累積倍率に相当し、当該累積倍率は隣接するタイミング間の倍率変動(撮像倍率の比)の直積で求められてもよい。この際、第kのタイミングでの画像変倍処理とは、当該タイミングで取得された画像(内視鏡画像)に対して1/Ak倍の変倍処理を施し、基準タイミングと第kのタイミング間での撮像倍率の変動による影響を抑えることである。しかし、画像変倍処理による補償は、画像の拡大縮小を伴うものであり、解像感の変動が生じてしまう。例えば、拡大処理では画素値の補間処理が行われるためエッジがなまることになる。このように解像感が変動すると、ユーザにとって見にくい画像となってしまい観察等に支障をきたすおそれがある。よってここでは、画像変倍処理の倍率(画像変倍率)として1/Akをそのまま使うのではなく、過去のタイミング(第1〜第k−1のタイミング)での倍率変動A1〜Ak−1も用いるものとする。具体的には上述した式(4)の手法のように、あるタイミングtでの画像変倍率Btを、あるタイミングsからタイミングtまでの画像変倍率の平均値(倍率変動Aの逆数の平均値)として求めてもよい。このようにすることで、ある程度倍率変動の影響(撮像倍率の変動の影響)が残るものの、解像感の変動を押さえることができ、自然な画像をユーザに提供することが可能になる。
また、画像変倍部350における画像変倍処理が、第1〜第N(Nは2以上の整数)のタイミングの期間で行われる場合に、倍率変動検出部320は、第i(1≦i≦N)のタイミングで第iの倍率変動を検出してもよい。そして、画像変倍部350は、第m(1≦m≦N)のタイミングでの倍率変動が、所与の許容変倍範囲に含まれるか否かの判定を行い、許容変倍範囲に含まれる場合には、第mのタイミングにおける第2の画像変倍処理として、第mのタイミングの前の第m−1のタイミングにおける第2の画像変倍処理と同様の画像変倍処理を行う。また、許容変倍範囲に含まれない場合には、第mのタイミングにおける第2の画像変倍処理として、第mの倍率変動の値の逆数に比べて1に近い値を用いた画像変倍処理を行う。
表示装置に表示する画像の解像感の変動を抑止して、自然な画像を提供することが可能になる。倍率変動の影響の補償処理において、処理の強度を敢えて弱くすることで、倍率変動の影響は多少残るものの、解像感の変動を押さえる点については上述の例と同様である。
具体的には上式(5)及び図15(A)〜図15(E)等に示した手法が考えられる。上式(5)において、Mtはタイミングtでの画像変倍率、1.0−R〜1.0+Rが許容変倍率(R=0.1とすれば0.9〜1.1となる、Rは1より小さい正数)、Ztはタイミングtでの倍率変動であり例えばタイミングt―1での撮像倍率に対するタイミングtでの撮像倍率の比である。1.0−R≦Zt≦1.0+Rの場合、つまり倍率変動(撮像倍率の変動でもよいが、説明をわかりやすくするため画像での被写体サイズの変動を用いて述べる)が許容変倍率の範囲内である場合には、タイミングtでの画像変倍率Mtはタイミングt−1での画像変倍率Mt−1を用いる。倍率変動がZtであるため、図15(A)に対して、図15(C)の画像は被写体サイズがZt倍されていることになる。また、タイミングt−1での画像変倍率がMt−1であるため、タイミングt−1での表示画像(変倍画像)である図15(B)の画像は図15(A)に対して被写体サイズがMt−1倍になっている。ここで、AF評価値の安定的な算出のための画像変倍処理は、画像での被写体サイズを同等に保つ処理であるため、タイミングtでの変倍画像の被写体サイズは図15(B)と同等にする必要がある。図15(A)に対する図15(C)の比率がZtであり、図15(A)に対する図15(B)の比率がMt−1であることから、図15(C)に対してMt−1/Zt倍の画像変倍処理を施した図15(D)が表示装置に出力されるはずである。しかし、ここではある程度の倍率変動の影響(被写体サイズの変動)を許容しているため、Mt=Mt−1として、図15(C)に対してMt−1倍の画像変倍処理を施した図15(E)を表示装置への出力画像とする。つまり、表示画像は図15(B)から図15(E)へと変化することになり、被写体サイズはZt倍だけ異なることになる。
それに対して、倍率変動が許容変倍率の範囲外、例えばZt<1.0−Rの場合には、図16(A)〜図16(E)のようになる。タイミングt−1とタイミングtとで変倍画像での被写体サイズを変更しないようにした場合、タイミングtでの変倍画像は図16(D)のようになる。しかし、図16(D)を用いた場合、Ztが許容変倍率から外れる程度に小さいことから、ある程度大きい画像変倍率での拡大処理を行うことになり、図16(B)から図16(D)の間で解像感が大きく変化してしまう。そこで、Mt=(1.0−R)Mt−1/Ztとすることで、変倍画像である図16(E)を求める。このようにすることで、図16(B)に対する図16(E)の被写体サイズの比を1.0−Rとすることができる。つまり、倍率変動が許容変倍率の下限値よりも小さい場合には、表示画像の被写体サイズの変動が当該下限値に収まるような画像変倍処理が行われることになる。
同様に、図17(A)〜図17(E)に示したように、倍率変動が許容変倍率の上限値よりも大きい場合には、表示画像の被写体サイズの変動が当該上限値に収まるような画像変倍処理が行われる。つまり、倍率変動に応じた変倍画像を出力するが、隣接タイミング間での表示画像上の被写体サイズ変動が許容変倍率の範囲内であれば、当該変動を許容することが可能になる。このようにすることで、ある程度倍率変動の影響が残るものの、解像感の変動を押さえることができ、自然な画像をユーザに提供することが可能になる。
また、倍率変動検出部320は図13に示したように、撮像光学系から被写体までの距離情報の変動を検出する距離変動検出部325を含んでもよい。そして、距離変動検出部325は、撮像倍率の変動と、被写体のサイズの変動とに基づいて、距離情報の変動を検出する。
これにより、撮像光学系から被写体までの相対距離を表す距離情報の変動を検出することが可能になる。画像での被写体サイズの変動要因としては、撮像倍率の変動と、距離情報の変動が考えられる。よって、その他の要因を無視できるものとすれば、撮像倍率の変動がN、距離情報の変動がMとした場合に、撮像倍率の変動である第1の倍率変動はNで表され、被写体サイズの変動である第2の倍率変動はN×Mで表される。よって、第2の倍率変動を第1の倍率変動で割ることでMが求められる。なお、Mは距離情報の変動(例えば2タイミング間での距離情報の比)であるため、各タイミングにおける距離を求める場合には、何らかの処理が必要になることも考えられる。
5.第4の実施形態
第3の実施形態で上述したように、ユーザの診断を妨げないためにも、表示部400で表示する際にも画像変倍処理後の画像を用いることが望ましい。しかし、第3の実施形態の手法では、倍率変動にウォブリング以外に起因するものが含まれる場合が考慮されていない。
具体的には、AF評価値算出のためのズームレンズの駆動(ウォブリング)を行うとともに、撮像倍率を変化させる意図で(例えば被写体を拡大して観察する意図で)ズームレンズを駆動した場合には、ウォブリングによる高周波の倍率変動と、意図的な倍率変更に伴う低周波の倍率変動が合成されたもの(例えば図23に示した変動)が倍率変動検出部320において検出される倍率変動となる。
この場合、ウォブリングによる高周波の倍率変動は、上述したとおり観察や診断の妨げとなるため、当該倍率変動を抑止する画像変倍処理を行うことが望ましい。一方、低周波の倍率変動については、ユーザの意図を反映したズームレンズの駆動によるものであるため、当該倍率変動を抑止することは好ましくない。例えば、ユーザが被写体を拡大しようとしてズームレンズの駆動を指示したのに、表示部400に表示される画像には当該指示が反映されない(被写体サイズが変化しない)ことになるためである。
よって本実施形態では、倍率変動検出部320より出力される倍率変動(ここではZ[t]及び累積倍率A[t]を含む)に基づいて、ウォブリングによる高周波の倍率変動を検出し、低周波の倍率変動と分離することで、高周波の倍率変動による表示画像への影響を抑止しつつ、低周波の倍率変動による表示画像への影響を維持する手法を用いるものとする。
また、倍率変動を被写体のサイズから検出する場合には、ウォブリングを行うとともに、撮像部230自体が被写体に接近する場合(広義には撮像部230の光軸方向における、被写体と撮像部230の間の距離が変化する場合)にも、同様の問題が生じる。距離変化によっても画像上の被写体サイズは変動するため、ウォブリングによる高周波の倍率変動と、距離変化に伴う低周波の倍率変動が合成されたものが倍率変動検出部320において検出される倍率変動となるためである。なお、倍率変動を撮像光学系からの制御情報に基づいて検出する場合には、検出された倍率変動は距離変化による影響を受けないため、過剰な画像変倍処理(望ましい画角変動を抑止する処理)を行うことはない。
本実施形態に係る合焦制御装置を含む内視鏡装置について、図20を参照して説明する。内視鏡装置は、光源部100と、挿入部200と、信号処理部300と、表示部400と、外部I/F部500を備えている。信号処理部300以外は、第1の実施形態と同様であるため説明を省略する。
信号処理部300は、画像取得部310と、倍率変動検出部320と、合焦制御部330と、制御部340と、画像変倍部350を備えている。撮像部230より出力されるRAW画像は、画像取得部310に出力されている。画像取得部310は、倍率変動検出部320と、画像変倍部350と、合焦制御部330に接続されている。倍率変動検出部320は、画像変倍部350と合焦制御部330に接続されている。画像変倍部350は、表示部400に接続されている。合焦制御部330は、対物レンズ231に接続されており、レンズ制御信号による対物レンズ231の制御に基づいて、倍率および合焦物体位置を制御する。制御部340は、撮像部230と、画像取得部310と、倍率変動検出部320と、合焦制御部330と、画像変倍部350と、表示部400と、外部I/F部500に双方向に接続しており、これらを制御信号により相互に制御する。
本実施形態の倍率変動検出部320は、第2の実施形態と同様に、内視鏡画像における被写体のサイズ変化を倍率変動として検出することを想定している。ただし、第1の実施形態と同様にレンズ制御信号に基づき、対物レンズ231の倍率変動を検出する構成であってもよいし、被写体のサイズ変化と、対物レンズ231の倍率変動の両方を用いてもよい。
また、図12で示した第3の実施形態の画像変倍部350では、合焦制御部330と表示部400の両方に画像変倍処理後の変倍画像を出力していた。しかし、本実施形態での画像変倍部350は、少なくとも表示部400に対して変倍画像(表示画像)を出力するものである。本実施形態での合焦制御部330での処理は、第1〜第3の実施形態のいずれの手法を用いてもよいため、第1又は第2の実施形態の手法であれば、変倍画像の合焦制御部330への出力は不要であるが、第3の実施形態の手法であれば変倍画像を合焦制御部330へ出力する必要があるためである。
本実施形態における画像変倍部350の構成を、図21を参照して説明する。画像変倍部350は、変動倍率蓄積部351、表示倍率調整部352及び画像調整部353を備えている。倍率変動検出部320は、変動倍率蓄積部351と表示倍率調整部352に接続されている。変動倍率蓄積部351は、表示倍率調整部352と画像調整部353を介して表示部400に接続されている。画像取得部310は、画像調整部353に接続されている。制御部340は、変動倍率蓄積部351、表示倍率調整部352および画像調整部353に双方向に接続しており、これらを制御信号により相互に制御する。
倍率変動検出部320は、倍率変動を変動倍率蓄積部351と表示倍率調整部352に出力する。また、累積倍率を表示倍率調整部352に出力する。
変動倍率蓄積部351は、現時刻に対応する画像の倍率変動を1フレーム遅延させて表示倍率調整部352に出力する。
表示倍率調整部352は、倍率変動検出部320により出力される倍率変動及び累積倍率と、変動倍率蓄積部351により出力される1フレーム前の倍率変動に基づき、累積倍率からウォブリングによる高周波の変倍成分を平滑化し、ズーム制御に伴う移動による低周波成分に対応する表示倍率を算出する。
本実施形態における表示倍率調整部352の構成を、図22を参照して説明する。表示倍率調整部352は、倍率差分算出部520、倍率差分平均算出部521、補正倍率算出部522、表示倍率補正部523を備えている。倍率変動検出部320は、倍率差分算出部520に接続されている。変動倍率蓄積部351は、倍率差分算出部520と倍率差分平均算出部521に接続されている。倍率差分算出部520は、倍率差分平均算出部521、補正倍率算出部522と表示倍率補正部523を介して、画像調整部353に接続されている。制御部340は、倍率差分算出部520、倍率差分平均算出部521、補正倍率算出部522、表示倍率補正部523に双方向に接続しており、これらを制御信号により相互に制御する。
倍率差分算出部520は、下式(7)により倍率変動検出部320から出力される現時刻に対応する画像の倍率変動と、変動倍率蓄積部351から出力される時間的に1フレーム前の画像の倍率変動との差分値を算出して、その結果を倍率差分平均算出部521へ転送する。
C[t] = Z[t] - Z[t-1] ・・・・・(7)
但し、tは現時刻、Z[t]は現時刻対応する画像の倍率変動、Z[t−1]は時間的に直前画像(1フレーム前の画像)の倍率変動、C[t]は現時刻での倍率変動差分値を表す。なお、倍率変動Z[t]や累積倍率A[t]は倍率を表す値であるため正の値をとるのに対して、C[t]は倍率変動の差分値を表すため、負の値も取り得るものである。
倍率差分平均算出部521は、下式(8)により倍率差分平均値を算出し、補正倍率算出部522へ転送する。
Figure 2013101314
但し、tは現時刻、sはAF動作が開始した時刻、AvCは倍率差分平均値、NはAF動作が開始した時刻により現時刻まで撮像した画像の枚数、C[i]は倍率変動差分値を表す。
ここで本出願人は、下式(9)に基づいて求められるD[t]が、累積倍率A[t]から高周波の倍率変動成分を除去した値(広義には低減した値)であり、例えば図23のF1に相当するものとなることを確認した。よって、補正倍率算出部522は、下式(9)でウォブリングによる高周波成分を除いた倍率変動を算出して、表示倍率補正部523へ転送する。
D[t]= A[t] - (C[t] - AvC) ・・・・・(9)
但し、tは現時刻、A[t]は現時刻の累積倍率、C[t]は現時刻の倍率変動差分値、AvCは倍率差分平均値、D[t]はウォブリングによる高周波成分を除いた倍率変動を表す。この処理について、タイミングt1とタイミングt2を具体例として用いて説明したものが図23である。なお、D[t]や後述するE[t]は、時刻tとその直前のタイミングの間の倍率の比と言うよりは、その直積に相当する(時刻tと所与の基準タイミングの間の倍率の比に相当する)値である。よって、D[t]やE[t]の値の持つ意味は、Z[t]ではなく累積倍率A[t]に近いものである。
また、図24に(C[t]−AvC)の時間変化の例、図25のD[t]の時間変化の例を示す。上述したように、D[t]に相当する倍率変動は、表示画像に対して反映させることが望ましい。よって、D[t]を目標倍率変動として設定し、表示画像が基準となる倍率(例えばAF制御開始時の倍率等)に対してD[t]倍された画像となるように、画像変倍処理を行えばよい。
具体的には、表示倍率補正部523は、下式(10)を用いて表示倍率を補正するための表示倍率補正係数を算出して画像調整部353へ転送する。
E[t] = A[t] / D[t] ・・・・・(10)
但し、tは現時刻、A[t]は現時刻の累積倍率、D[t]はウォブリングによる高周波成分を除いた倍率変動、E[t]は表示倍率補正係数を表す。ここで、A[t]が高周波と低周波の両方を含んでおり、D[t]が高周波を除いたもの(低周波に相当)であるから、E[t]はウォブリングによる高周波成分に相当する倍率変動に対応する。
仮に、画像取得部310が取得した画像に対して、A[t]を用いた画像変倍処理を行うと(例えば第3の実施形態で示したB[t]=1/A[t]を変倍係数とする処理を行うと)、上述したように表示画像に反映させるべき低周波の倍率変動まで補正することになる。これは、上式(10)に従えば、D[t]とE[t]の両方を補正係数に用いてしまっていることに起因する。つまり、上式(10)で求めたE[t]を用いた画像変倍処理(具体的には1/E[t]を変倍係数とする画像変倍処理)を行えば、所望の表示画像を生成することが可能になる。
よって、画像調整部353は、表示倍率補正部523により入力された表示倍率補正係数を用いて、画像取得部310による入力された画像に対して、画像サイズを調整する。
図26は、ウォブリングによる影響を補正するために、画像サイズを調整する仕組みを示す。なお図26の各画角領域は、撮像される被写体の範囲を表すものであり、撮像部230で撮像され、画像取得部310で取得される画像のサイズ自体は同一であることが想定される。つまり、画角領域が大きいほど、広い範囲の被写体を所与の大きさの画像におさめることになるため、倍率で言えば低倍率(縮小された状態)に対応することになる。
図26に示したように、撮像画角領域の大きさの昇順に沿って、実際撮像画角領域1(ウォブリングあり)、目標撮像画角領域(ウォブリングなし)及び実際撮像画角領域2(ウォブリングあり)がある。実際撮像画角領域1(ウォブリングあり)は、対物レンズ231によるウォブリングの影響により、対物レンズ231の位置がウォブリングの発生しない場合のレンズ位置に比べてZ方向(垂直方向)に対象物から遠く離れているときの撮像画角領域に対応している。これに対して、実際撮像画角領域2(ウォブリングあり)は、対物レンズ231によるウォブリングの影響により、対物レンズ231がウォブリングの発生しない場合のレンズ位置に比べてZ方向に対象物から近く接近しているときの撮像画角領域に対応している。一方、目標撮像画角領域(ウォブリングなし)は、ウォブリングが発生しないときの撮像画角領域に対応している。本実施例では、ウォブリングの影響により画角領域が変化したとしても、表示部400に表示される表示画像に含まれる被写体の範囲が、目標撮像画角領域(ウォブリングなし)に対応する(狭義には同一となる)ように画像サイズを調整する。これにより、表示画像に対するウォブリングの影響を抑止することができる。低周波の倍率変動がある場合には、目標撮像画角領域(ウォブリングなし)の大きさもそれに合わせ変化するため、目標撮像画角領域(ウォブリングなし)を目標としておけば低周波の倍率変動まで補正してしまうことはない。
本実施形態における画像調整部353の構成を、図27を参照して説明する。画像調整部353は、拡大縮小部720、画像サイズ制御部721を備えている。表示倍率調整部352は、拡大縮小部720、画像サイズ制御部721を介して表示部400に接続されている。画像取得部310は、拡大縮小部720に接続している。制御部340は、拡大縮小部720、画像サイズ制御部721に双方向に接続しており、これらを制御信号により相互に制御する。
拡大縮小部720は、制御部340の制御に基づき、画像取得部310からの画像(画像サイズ:横幅imgWidth、縦幅imgHeight)に対し、表示倍率調整部352からの表示倍率補正係数E[t]を用いて拡大縮小処理を行う。
実際撮像画角領域1(ウォブリングあり)の場合、上式(10)により算出された表示倍率補正係数E[t]が1より小さく、目標に比べて倍率が低い(縮小されている)状態となっている。よって、画像取得部310からの画像に対して、公知の補間技術により拡大処理を行う。
一方、実際撮像画角領域2(ウォブリングあり)の場合、上式(10)により算出された表示倍率補正係数E[t]が1より大きく、目標に比べて倍率が高い(拡大されている)状態となっている。よって、画像取得部310からの画像に対して、公知の補間技術により縮小処理を行う。拡大縮小部720は、拡大縮小処理後の画像を画像サイズ制御部721へ転送する。
画像サイズ制御部721は、制御部340の制御に基づき、拡大縮小部720からの画像に対して表示部400に表示するための画像サイズ制御処理を行う。図28(A)、図28(B)に処理の具体例を示す。なお、図28(A)、図28(B)は、画像取得部310で取得された画像に対して、画像変倍処理が行われた後の変倍画像のサイズを表したものである。具体的には、目標撮像画角領域が撮像部230で撮像されたと仮定した場合の仮想画像と、画像変倍処理後の画像とで、被写体のサイズが同一となるように前記画像変倍処理が行われた際の画像変倍処理後の画像サイズを表している。
図28(A)に示したように、実際撮像画角領域1(ウォブリングあり)の場合、拡大処理により、拡大縮小部720から出力される画像サイズは、画像取得部310で取得された画像サイズ(横幅imgWidth、縦幅imgHeight)に比べて大きい。そのため、本実施例では、画像サイズ制御部721は、拡大縮小部720からの画像に対して切り出し処理を実施する。具体的には、拡大後の画像に対し、画像の縦幅、横幅の中心にある画素を中心に、上下左右対称に目標撮像画角領域の画像サイズに合わせて画像を切り出す処理を実施する。
一方、図28(B)に示したように、実際撮像画角領域2(ウォブリングあり)の場合、縮小処理により、拡大縮小部720から出力される画像サイズは、画像取得部310で取得された画像サイズ(横幅imgWidth、縦幅imgHeight)に比べて小さい。そのため、本実施例では、画像サイズ制御部721は、拡大縮小部720からの画像に対して周辺補間処理を実施する。具体的には、縮小後の画像は、目標撮像画角領域の画像サイズより小さいため、縮小画像に対し、画像の縦幅、横幅の中心にある画素を中心に、上下左右対称に横幅imgWidth、縦幅imgHeightになるように足りない周辺領域(図28(B)に示めされる破線と実線に囲まれる部分)に画素を付け加えて補間する。例えば、この周辺領域にある画素の画素値をすべて固定値(例えば0)に設定すればよい。補間処理後の画像を表示部400へ出力して表示する。
なお、画像補間処理については種々の方法が知られており、例えば公知のミラー方式やコピー方式等の補間方法を用いてもよい。
このように、画像取得部310により入力された内視鏡画像から倍率変動を検出して表示するための画像サイズを調整することで、ウォブリングによる高周波成分を抑制することができる。
なお、本実施形態では図26に示したように、ウォブリングなしの状態での画角を目標撮像画角領域として画像サイズを調整する構成例を示したが、これに限定する必要はない。本実施形態の変形例として、前記実際撮像画角領域2(ウォブリングあり)を目標撮像画角領域とする構成にしてもよい。
例えば、表示倍率補正部523は、下式(11)或いは(12)でウォブリングによる高周波成分を除くための画像変倍処理に用いる表示倍率補正係数を算出して画像調整部353へ転送してもよい。
E’[t] = ( A[t] * A[t] )/ ( D[t] * D[t] ) * P1 ・・・・・(11)
E’[t] = ( A[t] * A[t] )/ ( D[t] * D[t] ) + P2 ・・・・・(12)
但し、tは現時刻、A[t]は現時刻の累積倍率、D[t]はウォブリングによる高周波成分を除いた倍率変動、E’[t]は表示倍率補正係数、P1、P2は定数を表す。
拡大縮小部720は、制御部340の制御に基づき、画像取得部310からの画像が、図29に示されているような実際撮像画角領域2(ウォブリングあり)に対応している場合、画像を処理せずに(前記実際撮像画角領域2(ウォブリングあり)を目標撮像画角領域とする構成のため)、画像サイズ制御部721へ転送する。
一方、拡大縮小部720は、制御部340の制御に基づき、画像取得部310からの画像が、図29に示されているような実際撮像画角領域1(ウォブリングあり)に対応している場合、画像取得部310からの画像(画像サイズ:横幅imgWidth、縦幅imgHeight)に対し、表示倍率調整部352からの表示倍率補正係数E’[t]を用いて拡大処理を行う(例えば画像サイズを1/E’[t]倍する処理を行えばよい)。拡大縮小部720は、処理後の拡大画像を画像サイズ制御部721へ転送する。
画像サイズ制御部721は、上述した例と同様に画像サイズの制御処理を行う。ただし、本変形例では実際撮像画角領域2を目標としており、拡大縮小部720では実際撮像画角領域1(ウォブリングあり)の場合に拡大処理が行われるのみである。つまり、画像サイズ制御部721は、実際撮像画角領域1に対応するタイミングにおいて、画像を切り出す処理を実施し、表示部400へ出力する。一方、実際撮像画角領域2の場合、拡大縮小部720からの画像に対して処理せずに、表示部400へ出力すればよい。
以上の変形例の処理の説明図を図30に示す。D[t]の算出までは図23の例と同様である。図23の例では、A[t]/D[t](=E[t])を用いて変倍処理を行うことで、低周波の倍率変動(G1)よりも下にある点の値(例えば時刻t1での値)を増加させ、G1よりも上にある点の値(例えば時刻t2での値)を減少させることで、処理対象期間における表示画像の倍率をG1で示した低周波の倍率変動に近づける処理を行っていた。
それとは異なり、上述した変形例では、低周波の倍率変動(G1)を基準とするのではなく、G1よりも上の点はそのままにして、G1より下の点の値を増加させることで、処理対象期間における倍率変動を、G1とは異なる低周波の倍率変動(例えば図30におけるG2)に補正するものである。
具体的には、低周波の倍率変動(G1)を基準した場合の、高周波の倍率変動による上側変動(図30のF3等)と下側変動(図30のF4等)が、ともにA[t]/D[t]に基づく処理により補正されていたことを考えれば、下側の点に対してA[t]/D[t]に基づく処理を2回行えば、下側変動に対応する点を上側変動に対応する点(すなわちG2に対応する点)に持ち上げることができると考えられる。
つまり、t1やt3等、下側の点のタイミングにおいては{A[t]/D[t]}を用いた処理を行い、t2等、上側の点のタイミングにおいては処理をスキップすればよい。これは、タイミングに応じて上式(11)、(12)のE’[t]を用いた画像変倍処理を行うことに他ならない。ただし、A[t]/D[t]に誤差がある場合、それを2回用いることで誤差が蓄積し、最終的な画像変倍処理の精度が問題となるおそれがある。よって上式(11)や(12)では精度の向上等を考慮して、係数P1,P2を用いるものとしている。
変形例の手法を用いることで、拡大縮小部720での処理は拡大処理に限定されるため、画像サイズ制御部721での制御処理も切り出し処理に限定することができる。拡大縮小部720で縮小処理が行われた場合、画像サイズ制御部721では補間処理が行われるため、上述したように周辺領域では有用な情報が取得できない(固定値が入れられる)場合があるが、変形例ではそのような問題を考慮しなくてもよいことになる。
ただし、E’[t]を用いた画像変倍処理を行うタイミングと、行わないタイミングとに分ける必要があることから、画像変倍部では処理対象タイミングにおいて画像変倍処理を行うべきか否かを適切に判定する必要がある。例えば図30のt1,t2,t3がそれぞれ隣接するタイミングである場合(つまりウォブリングの変動に合わせて画像が取得される場合)であれば、画像が取得できない等の例外を除き、1タイミング毎に画像変倍処理を行うか否かを切り替えればよい。
以上の本実施形態では、合焦制御装置は図20に示したように、画像に対して画像変倍処理を施して、表示部400に表示される表示画像を取得する画像変倍部350を含む。そして、画像変倍部350は、検出された倍率変動のうち、大域的な変動を表す大域倍率変動を目標倍率変動として求め、求めた目標倍率変動に基づいて画像変倍処理を行う。
ここで、大域的とは、局所的と対をなす用語であり、比較的大きい範囲を対象とする場合に用いる。よって大域的な変動である大域倍率変動とは、倍率変動を大きい範囲での変動と小さい範囲での変動(局所的な変動)とに分けた場合に、大きい範囲での変動を指すものである。ここでの「範囲」とは時間的なスパンであってもよいし、値自体の変動度合いであってもよい。図23の例であれば、実線で表される倍率変動は、図24の要素と図25の要素とに分けて考えることができる。この際、図24では縦軸方向の値の変動が小さく、図25では図24に比べて縦軸方向の値の変動が大きいことを持って、図25に示したD[t]を大域倍率変動としてもよい。或いは、図24及び図25の値の変動が周期性を有すると仮定した場合に、その1周期の長さを考えてもよい。この場合、図24では上下動が頻繁に起こっていることから周期は短いのに対して、図25では少なくとも図示した範囲での周期性は認められず周期は非常に長いと考えられる。つまり、時間軸での範囲を考えた場合にも、図24は局所的な変動であり、図25のD[t]が大域倍率変動となる。言い換えれば、倍率変動を高周波の倍率変動と低周波の倍率変動に分けた場合に、低周波の倍率変動が大域倍率変動の一例として考えられるということになる。
これにより、適切な画像変倍処理により取得された表示画像を表示部400に表示することができるため、ユーザに対して観察等のしやすい画像を提示することが可能になる。特に大域倍率変動として低周波の倍率変動を考えた場合、倍率変動のうち大域倍率変動でない要素(高周波の倍率変動)は、表示画像の画角を高頻度で変更する要因となるため、ユーザにとっての画像の見やすさを著しく損ねることになる。その点、大域倍率変動を目標とすればそのような問題は抑止可能である。
また以上の本実施形態では、合焦制御装置は図20に示したように、画像に対して画像変倍処理を施して、表示部400に表示される表示画像を取得する画像変倍部350を含む。そして、画像変倍部350は、検出された倍率変動のうち、合焦制御に伴う撮像光学系の駆動に起因する変動を除いた変動を、目標倍率変動として求め、目標倍率変動に基づいて画像変倍処理を行うことで、合焦制御に伴う撮像光学系の駆動に起因する画角の変動をキャンセルする。
ここで、合焦制御に伴う撮像光学系の駆動とは、具体的にはコントラストAFに伴うウォブリング動作が考えられる。一般的に、AF動作はその開始から終了までの時間が短いほど、ユーザにとって使いやすく好ましい。よって、ウォブリングによる撮像光学系(狭義にはズームレンズ)の駆動は高速で行われることが想定され、当該駆動による倍率変動とは、その他の要因による倍率変動に比べて、非常に高い頻度で(高周波で)行われることが想定される。
これにより、ウォブリング等による高頻度での倍率変動の除いた倍率変動を目標として表示画像を取得することができるため、ユーザに対して観察等のしやすい画像を提示することが可能になる。具体的には、検出した倍率変動が図23、ウォブリングによる倍率変動が図24となり、ウォブリングの影響を除いた倍率変動(目標倍率変動)が図25となる。本実施形態の手法を用いることで、ウォブリングの影響により表示画像が見づらくなることを抑止しつつ、他の要因による倍率変動(図25)については表示画像に対して反映されることができる。つまり、意図的に撮像倍率を変更した場合、或いは撮像部230を被写体に近づけた場合等に、ユーザはそれらの結果を表示画像の変化から把握することが可能になる。
なお、大域倍率変動、或いは合焦制御に伴う撮像光学系の駆動に起因する変動を除いた変動とは、図25(図23のF1や図30のG1)に限定されるものではなく、変形例において上述した図30のG2であってもよい。
また、画像変倍部350は図22に示したように、第1のタイミングと、第1のタイミングとは異なる第2のタイミングの間での倍率変動の差分情報である倍率変動差分情報を算出する倍率差分算出部520と、倍率変動差分情報の平均値を表す倍率差分平均情報を算出する倍率差分平均算出部521とを含んでもよい。そして、画像変倍部350は、検出された倍率変動と、倍率変動差分情報と、倍率差分平均情報とに基づいて、目標倍率変動を求める。
ここで、倍率変動差分情報とは上述したC[t]であってもよく、倍率差分平均情報とは上述したAvCであってもよい。
これにより、倍率変動差分情報と倍率差分平均情報に基づいて目標倍率変動を求めることが可能になる。具体的には、倍率変動(特に累積倍率A[t])と、C[t]、AvCとを用いて、上式(9)を用いて目標倍率変動D[t]を求めてもよい。
また、画像変倍部350は、検出された倍率変動と、目標倍率変動に基づいて画像変倍係数を求め、求めた画像変倍係数を用いて画像変倍処理を行ってもよい。そして、画像変倍部350は、画像に対して、画像変倍係数を用いた拡大縮小処理を行うことで、前記表示画像を取得する
これにより、画像変倍係数を求めて、求めた画像変倍係数に基づく画像変倍処理が可能になる。ここで、本実施形態の目標倍率変動D[t]とは、基準となる倍率に対して、D[t]倍された画像を表示画像とすることで、ユーザにとって見やすい画像を提示できるという意味を持つ。それに対して、画像取得部310で取得される画像はA[t](=D[t]×E[t])倍された状態となっており、E[t]分だけ余計な倍率変動が加わってしまっている。つまり、目標に合わせるためにはD[t]そのものではなく、A[t]とD[t]からE[t]を求める処理を行う必要があり、これは上式(10)を解く処理に相当する。実際の画像変倍処理は、過剰分のE[t]をキャンセルする処理を行えばよく、これは例えば1/E[t]を係数として乗じる画像変倍処理であってもよい。
また、倍率変動検出部320は、画像における被写体のサイズの変動を、倍率変動として検出してもよい。そして、画像変倍部350は、被写体のサイズの変動である倍率変動に基づいて、目標倍率変動を求める。
これにより、被写体のサイズの変動を倍率変動として検出する(特に撮像倍率の変動を制御信号等から取得しない)場合にも、本実施形態の手法を用いることが可能になる。上述したように、被写体のサイズの変動を倍率変動とする場合、撮像部230と被写体との距離が変化した場合にも、当該変化が倍率変動に反映される。つまり、検出した倍率変動をそのまま表示画像に対する画像変倍処理に用いてしまったのでは、撮像部230と被写体の距離が変化しているにもかかわらず、表示画像上で被写体サイズが変化しないという状況が起こりうる。その場合、ユーザは被写体との距離を把握できず、撮像部230と被写体が衝突する可能性が高まり、特に合焦制御装置として内視鏡装置を用いる場合には、生体を損傷させることになり非常に危険である。よって、被写体のサイズの変動を倍率変動として検出する場合には、本実施形態の手法が有用であると言える。
以上、本発明を適用した4つの実施の形態1〜4およびその変形例について説明したが、本発明は、各実施の形態1〜4やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜4や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜4や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。また、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
100 光源部、110 白色光源、120 集光レンズ、200 挿入部、
210 ライトガイドファイバ、220 照明レンズ、230 撮像部、
231 対物レンズ、232 撮像素子、233 変換部、300 信号処理部、
310 画像取得部、320 倍率変動検出部、321 フレームメモリ、
322 RIPOC算出部、323 特徴点対応部、324 レンズ倍率変動検出部、
325 距離変動検出部、330 合焦制御部、331 フィルタ選択部、
332 コントラスト値算出部、333 レンズ制御部、334 評価領域設定部、
340 制御部、350 画像変倍部、351 変動倍率蓄積部、
352 表示倍率調整部、353 画像調整部、400 表示部、
500 外部I/F部、520 倍率差分算出部、521 倍率差分平均算出部、
522 補正倍率算出部、523 表示倍率補正部、720 拡大縮小部、
721 画像サイズ制御部

Claims (32)

  1. 撮像倍率の変更に伴い合焦物体位置が変更される撮像光学系の駆動を制御する合焦制御部と、
    前記撮像光学系を介した撮像によって、異なる前記撮像倍率で撮像された複数の画像を取得する画像取得部と、
    前記撮像倍率及び前記画像における被写体のサイズの少なくとも一方の変動である倍率変動を検出する倍率変動検出部と、
    を含み、
    前記合焦制御部は、
    前記画像及び前記倍率変動に基づいて、前記撮像光学系の焦点状態を表すAF(AutoFocus)評価値を算出し、算出した前記AF評価値に基づいて前記撮像光学系を駆動すること
    によって、前記撮像光学系の合焦制御を行うことを特徴とする合焦制御装置。
  2. 請求項1において、
    前記合焦制御部は、
    前記倍率変動に応じた周波数特性を有するフィルタを用いたフィルタ処理を、前記画像に対して施すフィルタ処理部を含むことを特徴とする合焦制御装置。
  3. 請求項2において、
    前記フィルタ処理部は、
    前記フィルタ処理として、前記倍率変動が大きいほど、カットオフ周波数の低いハイパスフィルタを用いた処理を行い、前記倍率変動が小さいほど、前記カットオフ周波数の高いハイパスフィルタを用いた処理を行うことを特徴とする合焦制御装置。
  4. 請求項2において、
    前記フィルタ処理部は、
    前記フィルタ処理として、前記倍率変動が大きいほど、通過帯域が低い周波数帯域であるバンドパスフィルタを用いた処理を行い、前記倍率変動が小さいほど、前記通過帯域が高い周波数帯域であるバンドパスフィルタを用いた処理を行うことを特徴とする合焦制御装置。
  5. 請求項1において、
    前記合焦制御部は、
    前記AF評価値の算出に用いられる画素を含む領域である評価領域を前記画像に設定する評価領域設定部を含み、
    前記評価領域設定部は、
    前記倍率変動に基づいて、設定する前記評価領域のサイズを変更することを特徴とする合焦制御装置。
  6. 請求項5において、
    前記評価領域設定部は、
    前記倍率変動が大きいほど、前記評価領域のサイズを大きく設定し、前記倍率変動が小さいほど、前記評価領域のサイズを小さく設定することを特徴とする合焦制御装置。
  7. 請求項6において、
    前記倍率変動検出部は、
    第1のタイミングと、前記第1のタイミングとは異なる第2のタイミングの間での前記倍率変動を検出し、
    前記評価領域設定部は、
    前記第1のタイミングでの前記評価領域である基準評価領域に対して、前記倍率変動の値を用いた変倍処理を施すことで、前記第2のタイミングでの前記評価領域を設定することを特徴とする合焦制御装置。
  8. 請求項7において、
    前記評価領域設定部は、
    前記第1のタイミングにおいて、前記撮像倍率又は前記画像における前記被写体の前記サイズが大きいほど前記基準評価領域のサイズを大きく設定し、前記撮像倍率又は前記画像における前記被写体の前記サイズが小さいほど前記基準評価領域のサイズを小さく設定することを特徴とする合焦制御装置。
  9. 請求項1において、
    前記倍率変動に基づいて、前記画像に対して画像変倍処理を施して変倍画像を取得する画像変倍部を含み、
    前記合焦制御部は、
    前記画像及び前記倍率変動に基づいて取得された前記変倍画像に基づいて、前記撮像光学系の焦点状態を表すAF評価値を算出することを特徴とする合焦制御装置。
  10. 請求項9において、
    前記画像変倍部は、
    前記倍率変動が大きいほど、小さい前記変倍画像を取得し、前記倍率変動が小さいほど、大きい前記変倍画像を取得することを特徴とする合焦制御装置。
  11. 請求項10において、
    前記倍率変動検出部は、
    第1のタイミングと、前記第1のタイミングとは異なる第2のタイミングの間での前記倍率変動を検出し、
    前記画像変倍部は、
    前記第2のタイミングで前記画像取得部において取得された前記画像に対して、前記倍率変動の値の逆数を用いた画像変倍処理を施すことで、前記変倍画像を取得することを特徴とする合焦制御装置。
  12. 請求項9において、
    前記画像変倍部は、
    取得した前記変倍画像を、前記合焦制御部に出力するとともに、表示装置に対して出力することを特徴とする合焦制御装置。
  13. 請求項12において、
    前記画像変倍部は、
    前記画像に対して第1の画像変倍処理を行った第1の変倍画像を前記合焦制御部に出力するとともに、前記画像に対して前記第1の画像変倍処理とは異なる第2の画像変倍処理を行った第2の変倍画像を前記表示装置に出力することを特徴とする合焦制御装置。
  14. 請求項13において、
    前記倍率変動検出部は、
    前記倍率変動として前記画像における前記被写体の前記サイズの変動である第1の倍率変動と、前記撮像倍率の変動である第2の倍率変動を検出し、
    前記画像変倍部は、
    前記第1の画像変倍処理として、前記第1の倍率変動に基づいた画像変倍処理を行って前記第1の変倍画像を取得し、前記第2の画像変倍処理として、前記第2の倍率変動に基づいた画像変倍処理を行って前記第2の変倍画像を取得することを特徴とする合焦制御装置。
  15. 請求項13において、
    前記画像変倍部における前記画像変倍処理が、第1〜第N(Nは2以上の整数)のタイミングの期間で行われる場合に、
    前記倍率変動検出部は、
    第i(1≦i≦N)のタイミングで第iの倍率変動を検出し、
    前記画像変倍部は、
    第k(1≦k≦N)のタイミングにおける前記第2の画像変倍処理として、第1〜第kの倍率変動に基づいた処理を行うことで、前記第2の変倍画像を取得して前記表示装置に出力することを特徴とする合焦制御装置。
  16. 請求項13において、
    前記画像変倍部における前記画像変倍処理が、第1〜第N(Nは2以上の整数)のタイミングの期間で行われる場合に、
    前記倍率変動検出部は、
    第i(1≦i≦N)のタイミングで第iの倍率変動を検出し、
    前記画像変倍部は、
    第m(1≦m≦N)のタイミングでの前記倍率変動が、所与の許容変倍範囲に含まれるか否かの判定を行い、前記許容変倍範囲に含まれる場合には、前記第mのタイミングにおける前記第2の画像変倍処理として、前記第mのタイミングの前の第m−1のタイミングにおける前記第2の画像変倍処理と同様の画像変倍処理を行い、前記許容変倍範囲に含まれない場合には、前記第mのタイミングにおける前記第2の画像変倍処理として、第mの倍率変動の値の逆数に比べて1に近い値を用いた画像変倍処理を行うことを特徴とする合焦制御装置。
  17. 請求項1において、
    前記撮像倍率及び前記画像における被写体のサイズの少なくとも一方を倍率評価値とした場合に、
    前記倍率変動検出部は、
    第1のタイミングにおける前記倍率評価値に対する、前記第1のタイミングとは異なる第2のタイミングにおける前記倍率評価値の比を、前記第2のタイミングでの前記倍率変動として検出することを特徴とする合焦制御装置。
  18. 請求項17において、
    前記倍率変動検出部は、
    第1のタイミングにおける前記撮像倍率に対する、前記第1のタイミングとは異なる第2のタイミングにおける前記撮像倍率の比を、前記第2のタイミングでの前記倍率変動として検出することを特徴とする合焦制御装置。
  19. 請求項17において、
    前記倍率変動検出部は、
    第1のタイミングにおける前記被写体の前記サイズに対する、前記第1のタイミングとは異なる第2のタイミングにおける前記被写体の前記サイズの比を、前記第2のタイミングでの前記倍率変動として検出することを特徴とする合焦制御装置。
  20. 請求項19において、
    前記倍率変動検出部は、
    前記第1のタイミングでの前記画像及び前記第2のタイミングでの前記画像に対して、位相限定相関法を用いることで前記倍率変動を検出することを特徴とする合焦制御装置。
  21. 請求項19において、
    前記倍率変動検出部は、
    前記第1のタイミングでの前記画像及び前記第2のタイミングでの前記画像に対して複数の特徴点を設定し、設定した複数の前記特徴点の位置に基づいて、前記倍率変動を検出することを特徴とする合焦制御装置。
  22. 請求項17において、
    前記第1のタイミングは、
    前記AF評価値の算出を開始するタイミングであることを特徴とする合焦制御装置。
  23. 請求項17において、
    前記第1のタイミングと前記第2のタイミングは、時間的に隣接する前記AF評価値の取得タイミングであることを特徴とする合焦制御装置。
  24. 請求項1において、
    前記倍率変動検出部は、
    前記撮像光学系から前記被写体までの距離情報の変動を検出する距離変動検出部を含み、
    前記距離変動検出部は、
    前記撮像倍率の変動と、前記被写体の前記サイズの変動とに基づいて、前記距離情報の変動を検出することを特徴とする合焦制御装置。
  25. 請求項1において、
    前記画像に対して画像変倍処理を施して、表示部に表示される表示画像を取得する画像変倍部を含み、
    前記画像変倍部は、
    検出された前記倍率変動のうち、大域的な変動を表す大域倍率変動を目標倍率変動として求め、求めた前記目標倍率変動に基づいて前記画像変倍処理を行うことを特徴とする合焦制御装置。
  26. 請求項1において、
    前記画像に対して画像変倍処理を施して、表示部に表示される表示画像を取得する画像変倍部を含み、
    前記画像変倍部は、
    検出された前記倍率変動のうち、前記合焦制御に伴う前記撮像光学系の前記駆動に起因する変動を除いた変動を、目標倍率変動として求め、前記目標倍率変動に基づいて前記画像変倍処理を行うことで、前記合焦制御に伴う前記撮像光学系の前記駆動に起因する画角の変動をキャンセルすることを特徴とする合焦制御装置。
  27. 請求項25又は26において、
    前記画像変倍部は、
    第1のタイミングと、前記第1のタイミングとは異なる第2のタイミングの間での前記倍率変動の差分情報である倍率変動差分情報を算出する倍率差分算出部と、
    前記倍率変動差分情報の平均値を表す倍率差分平均情報を算出する倍率差分平均算出部とを含み、
    前記画像変倍部は、
    検出された前記倍率変動と、前記倍率変動差分情報と、前記倍率差分平均情報とに基づいて、前記目標倍率変動を求めることを特徴とする合焦制御装置。
  28. 請求項27において、
    前記画像変倍部は、
    検出された前記倍率変動と、前記目標倍率変動に基づいて画像変倍係数を求め、求めた前記画像変倍係数を用いて前記画像変倍処理を行うことを特徴とする合焦制御装置。
  29. 請求項28において、
    前記画像変倍部は、
    前記画像に対して、前記画像変倍係数を用いた拡大縮小処理を行うことで、前記表示画像を取得することを特徴とする合焦制御装置。
  30. 請求項25又は26において、
    前記倍率変動検出部は、
    前記画像における前記被写体のサイズの変動を、前記倍率変動として検出し、
    前記画像変倍部は、
    前記被写体のサイズの変動である前記倍率変動に基づいて、前記目標倍率変動を求めることを特徴とする合焦制御装置。
  31. 撮像倍率の変更に伴い合焦物体位置が変更される撮像光学系の駆動を制御する合焦制御部と、
    前記撮像光学系を介した撮像によって、異なる前記撮像倍率で撮像された複数の画像を取得する画像取得部と、
    前記撮像倍率及び前記画像における被写体のサイズの少なくとも一方の変動である倍率変動を検出する倍率変動検出部と、
    を含み、
    前記合焦制御部は、
    前記画像及び前記倍率変動に基づいて、前記撮像光学系の焦点状態を表すAF(AutoFocus)評価値を算出し、算出した前記AF評価値に基づいて前記撮像光学系を駆動すること
    によって、前記撮像光学系の合焦制御を行うことを特徴とする内視鏡システム。
  32. 撮像倍率の変更に伴い合焦物体位置が変更される撮像光学系の駆動を制御する合焦制御方法であって、
    前記撮像光学系を介した撮像によって、異なる前記撮像倍率で撮像された複数の画像を取得し、
    前記撮像倍率及び前記画像における被写体のサイズの少なくとも一方の変動である倍率変動を検出し、
    取得した前記画像及び検出した前記倍率変動に基づいて、前記撮像光学系の焦点状態を表すAF(AutoFocus)評価値を算出し、算出した前記AF評価値に基づいて前記撮像光学系を駆動することによって、前記撮像光学系の合焦制御を行うことを特徴とする合焦制御方法。
JP2012193932A 2011-10-11 2012-09-04 合焦制御装置、内視鏡システム及び合焦制御方法 Active JP5953187B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012193932A JP5953187B2 (ja) 2011-10-11 2012-09-04 合焦制御装置、内視鏡システム及び合焦制御方法
CN201280050221.9A CN103874951B (zh) 2011-10-11 2012-10-10 对焦控制装置、内窥镜系统和对焦控制方法
PCT/JP2012/076158 WO2013054797A1 (ja) 2011-10-11 2012-10-10 合焦制御装置、内視鏡システム及び合焦制御方法
EP12839972.2A EP2767857A4 (en) 2011-10-11 2012-10-10 FOCUS CONTROL DEVICE, ENDOSCOPY SYSTEM AND FOCUS CONTROL PROCEDURE
US14/226,571 US9621781B2 (en) 2011-10-11 2014-03-26 Focus control device, endoscope system, and focus control method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011224204 2011-10-11
JP2011224204 2011-10-11
JP2012193932A JP5953187B2 (ja) 2011-10-11 2012-09-04 合焦制御装置、内視鏡システム及び合焦制御方法

Publications (3)

Publication Number Publication Date
JP2013101314A true JP2013101314A (ja) 2013-05-23
JP2013101314A5 JP2013101314A5 (ja) 2015-10-15
JP5953187B2 JP5953187B2 (ja) 2016-07-20

Family

ID=48081852

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012193932A Active JP5953187B2 (ja) 2011-10-11 2012-09-04 合焦制御装置、内視鏡システム及び合焦制御方法

Country Status (5)

Country Link
US (1) US9621781B2 (ja)
EP (1) EP2767857A4 (ja)
JP (1) JP5953187B2 (ja)
CN (1) CN103874951B (ja)
WO (1) WO2013054797A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015093412A1 (ja) * 2013-12-16 2015-06-25 オリンパス株式会社 内視鏡装置
JP2017158840A (ja) * 2016-03-10 2017-09-14 富士フイルム株式会社 内視鏡画像信号処理装置および方法並びにプログラム
US10151911B2 (en) 2016-01-15 2018-12-11 Olympus Corporation Microscope system and method for estimating microscope magnification
JP2019066556A (ja) * 2017-09-28 2019-04-25 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、飛行体、制御方法、プログラム

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5507376B2 (ja) * 2010-07-28 2014-05-28 三洋電機株式会社 撮像装置
US10215977B1 (en) * 2011-03-30 2019-02-26 Designs For Vision, Inc. Magnification device and assembly
WO2014175223A1 (ja) * 2013-04-22 2014-10-30 ローム株式会社 癌診断装置、診断システム、診断装置
CN105579880B (zh) * 2013-10-31 2018-06-26 奥林巴斯株式会社 内窥镜用摄像系统、内窥镜用摄像系统的工作方法
JP2015195845A (ja) * 2014-03-31 2015-11-09 富士フイルム株式会社 内視鏡システム、内視鏡システムの作動方法、プロセッサ装置、プロセッサ装置の作動方法
JP6453905B2 (ja) * 2014-12-02 2019-01-16 オリンパス株式会社 フォーカス制御装置、内視鏡装置及びフォーカス制御装置の制御方法
JP6616071B2 (ja) * 2014-12-22 2019-12-04 富士フイルム株式会社 内視鏡用のプロセッサ装置、内視鏡用のプロセッサ装置の作動方法、内視鏡用の制御プログラム
GB2546329A (en) * 2016-01-15 2017-07-19 Barco Nv System and method for endoscope calibration
JP6753081B2 (ja) * 2016-03-09 2020-09-09 ソニー株式会社 内視鏡手術システム、画像処理方法及び医療用観察システム
CN108780209B (zh) 2016-03-18 2021-01-26 富士胶片株式会社 对焦位置检测装置及对焦位置检测方法
CN105704384B (zh) * 2016-03-23 2019-02-05 浙江东方光学眼镜有限公司 一种电子放大镜系统
CN106341594A (zh) * 2016-08-23 2017-01-18 上海集光安防科技股份有限公司 一种摄像机辅助聚焦的方法
JP6581952B2 (ja) * 2016-09-30 2019-09-25 富士フイルム株式会社 内視鏡システム及びその作動方法
JP6833978B2 (ja) * 2017-03-30 2021-02-24 富士フイルム株式会社 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
CN109151299B (zh) * 2017-06-27 2021-03-19 虹软科技股份有限公司 一种用于对焦的方法和装置
US11206355B2 (en) * 2017-09-08 2021-12-21 Sony Group Corporation Image processing apparatus, image processing method, and image processing program
CN110225235B (zh) * 2018-03-01 2021-03-09 浙江宇视科技有限公司 变倍跟随方法及电动镜头
JP7210185B2 (ja) * 2018-07-30 2023-01-23 キヤノン株式会社 撮像装置及びその制御方法
US11857151B2 (en) * 2018-09-12 2024-01-02 Steris Instrument Management Services, Inc. Systems and methods for standalone endoscopic objective image analysis
EP3626161A1 (en) * 2018-09-24 2020-03-25 Christie Medical Holdings, Inc. Ir/nir imaging with discrete scale comparator objects
JP7047713B2 (ja) 2018-11-05 2022-04-05 オムロン株式会社 ロボットアーム及びロボットアームの製造方法
US10740901B2 (en) * 2018-12-17 2020-08-11 Nvidia Corporation Encoder regularization of a segmentation model
JP6798072B2 (ja) * 2019-04-24 2020-12-09 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、移動体、制御方法、及びプログラム
JP2021015417A (ja) * 2019-07-11 2021-02-12 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、画像配信システム、および画像処理方法
JP7369935B2 (ja) * 2019-09-05 2023-10-27 パナソニックIpマネジメント株式会社 撮像装置
US11736819B2 (en) 2019-09-05 2023-08-22 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus and image scaling timing in relation to thinned-out frame
US11547302B2 (en) 2020-04-21 2023-01-10 Designs For Vision, Inc. User wearable fluorescence enabled visualization system
US11719925B2 (en) 2020-04-21 2023-08-08 Designs For Vision, Inc. User wearable fluorescence enabled visualization system
US10895735B1 (en) 2020-05-05 2021-01-19 Designs For Vision, Inc. Magnification devices with filtering and method for selection of said filters
CN112835172A (zh) * 2020-12-31 2021-05-25 华兴源创(成都)科技有限公司 一种定倍率成像的自动对焦方法及系统
JP2023173415A (ja) * 2022-05-26 2023-12-07 株式会社キーエンス 産業用カメラ
US12038630B1 (en) 2022-11-18 2024-07-16 Designs For Vision, Inc. Telescopic image capture/recording device

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1123949A (ja) * 1997-06-30 1999-01-29 Fuji Photo Optical Co Ltd 撮影レンズの画角補正装置
JP2003069881A (ja) * 2001-08-27 2003-03-07 Fuji Photo Optical Co Ltd 変倍機能を有する電子内視鏡装置
JP2005043792A (ja) * 2003-07-25 2005-02-17 Pentax Corp 内視鏡の自動焦点調節装置
JP2006215105A (ja) * 2005-02-01 2006-08-17 Fuji Photo Film Co Ltd 撮像装置
JP2006343496A (ja) * 2005-06-08 2006-12-21 Hitachi Maxell Ltd 自動合焦装置
JP2007133265A (ja) * 2005-11-11 2007-05-31 Canon Inc 撮像装置及び撮像方法
JP2008035332A (ja) * 2006-07-31 2008-02-14 Sanyo Electric Co Ltd 撮像装置及び出力画像生成方法
JP2008276214A (ja) * 2007-04-04 2008-11-13 Nikon Corp デジタルカメラ
JP2013076823A (ja) * 2011-09-30 2013-04-25 Olympus Corp 画像処理装置、内視鏡システム、画像処理方法及びプログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4338331B2 (ja) 2001-03-02 2009-10-07 Hoya株式会社 内視鏡装置
JP4655991B2 (ja) * 2006-04-21 2011-03-23 カシオ計算機株式会社 撮像装置及び電子ズーム方法と、プログラム
EP1986421A3 (en) 2007-04-04 2008-12-03 Nikon Corporation Digital camera
US8233077B2 (en) * 2007-12-27 2012-07-31 Qualcomm Incorporated Method and apparatus with depth map generation
JP5146295B2 (ja) * 2008-12-15 2013-02-20 ソニー株式会社 撮像装置および合焦制御方法
JP5604160B2 (ja) * 2010-04-09 2014-10-08 パナソニック株式会社 撮像装置
KR101720192B1 (ko) * 2011-01-19 2017-03-27 삼성전자주식회사 자동 초점 조절 장치

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1123949A (ja) * 1997-06-30 1999-01-29 Fuji Photo Optical Co Ltd 撮影レンズの画角補正装置
JP2003069881A (ja) * 2001-08-27 2003-03-07 Fuji Photo Optical Co Ltd 変倍機能を有する電子内視鏡装置
JP2005043792A (ja) * 2003-07-25 2005-02-17 Pentax Corp 内視鏡の自動焦点調節装置
JP2006215105A (ja) * 2005-02-01 2006-08-17 Fuji Photo Film Co Ltd 撮像装置
JP2006343496A (ja) * 2005-06-08 2006-12-21 Hitachi Maxell Ltd 自動合焦装置
JP2007133265A (ja) * 2005-11-11 2007-05-31 Canon Inc 撮像装置及び撮像方法
JP2008035332A (ja) * 2006-07-31 2008-02-14 Sanyo Electric Co Ltd 撮像装置及び出力画像生成方法
JP2008276214A (ja) * 2007-04-04 2008-11-13 Nikon Corp デジタルカメラ
JP2013076823A (ja) * 2011-09-30 2013-04-25 Olympus Corp 画像処理装置、内視鏡システム、画像処理方法及びプログラム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015093412A1 (ja) * 2013-12-16 2015-06-25 オリンパス株式会社 内視鏡装置
JP5881910B2 (ja) * 2013-12-16 2016-03-09 オリンパス株式会社 内視鏡装置
JPWO2015093412A1 (ja) * 2013-12-16 2017-03-16 オリンパス株式会社 内視鏡装置
US10070776B2 (en) 2013-12-16 2018-09-11 Olympus Corporation Endoscope device with lens moving unit for changing observation depth based on captured images
US10151911B2 (en) 2016-01-15 2018-12-11 Olympus Corporation Microscope system and method for estimating microscope magnification
JP2017158840A (ja) * 2016-03-10 2017-09-14 富士フイルム株式会社 内視鏡画像信号処理装置および方法並びにプログラム
JP2019066556A (ja) * 2017-09-28 2019-04-25 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、飛行体、制御方法、プログラム

Also Published As

Publication number Publication date
CN103874951A (zh) 2014-06-18
WO2013054797A1 (ja) 2013-04-18
JP5953187B2 (ja) 2016-07-20
US20140210972A1 (en) 2014-07-31
US9621781B2 (en) 2017-04-11
CN103874951B (zh) 2016-08-24
EP2767857A4 (en) 2015-07-08
EP2767857A1 (en) 2014-08-20

Similar Documents

Publication Publication Date Title
JP5953187B2 (ja) 合焦制御装置、内視鏡システム及び合焦制御方法
JP5562808B2 (ja) 内視鏡装置及びプログラム
US9498153B2 (en) Endoscope apparatus and shake correction processing method
JP5814698B2 (ja) 自動露光制御装置、制御装置、内視鏡装置及び内視鏡装置の作動方法
JP5973708B2 (ja) 撮像装置及び内視鏡装置
JP6013020B2 (ja) 内視鏡装置及び内視鏡装置の作動方法
JP6137921B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5663331B2 (ja) 制御装置、内視鏡装置、絞り制御方法及びプログラム
US9444994B2 (en) Image pickup apparatus and method for operating image pickup apparatus
JP6103849B2 (ja) 内視鏡装置及び内視鏡装置の作動方法
JP5951211B2 (ja) 合焦制御装置及び内視鏡装置
CN107005647B (zh) 对焦控制装置、内窥镜装置以及对焦控制装置的控制方法
JP6670853B2 (ja) フォーカス制御装置、内視鏡装置及びフォーカス制御装置の作動方法
JP6124655B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
US10820787B2 (en) Endoscope device and focus control method for endoscope device
US20160128545A1 (en) Endoscope apparatus and method for controlling endoscope apparatus
WO2017221507A1 (ja) 内視鏡システム
JP6120491B2 (ja) 内視鏡装置及び内視鏡装置のフォーカス制御方法
JP2013043007A (ja) 焦点位置制御装置、内視鏡装置及び焦点位置制御方法
JP6177387B2 (ja) 内視鏡装置の合焦制御装置、内視鏡装置及び内視鏡制御装置の作動方法
WO2013061939A1 (ja) 内視鏡装置及びフォーカス制御方法
JP7501269B2 (ja) 内視鏡システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150826

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150826

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160531

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160613

R151 Written notification of patent or utility model registration

Ref document number: 5953187

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250