JP6533284B2 - フォーカス制御装置、撮像装置、内視鏡システム、フォーカス制御装置の制御方法 - Google Patents

フォーカス制御装置、撮像装置、内視鏡システム、フォーカス制御装置の制御方法 Download PDF

Info

Publication number
JP6533284B2
JP6533284B2 JP2017505916A JP2017505916A JP6533284B2 JP 6533284 B2 JP6533284 B2 JP 6533284B2 JP 2017505916 A JP2017505916 A JP 2017505916A JP 2017505916 A JP2017505916 A JP 2017505916A JP 6533284 B2 JP6533284 B2 JP 6533284B2
Authority
JP
Japan
Prior art keywords
high brightness
focus control
influence degree
unit
predetermined size
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017505916A
Other languages
English (en)
Other versions
JPWO2016147309A1 (ja
Inventor
浩一郎 吉野
浩一郎 吉野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2016147309A1 publication Critical patent/JPWO2016147309A1/ja
Application granted granted Critical
Publication of JP6533284B2 publication Critical patent/JP6533284B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2461Illumination
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • G02B7/38Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals measured at different points on the optical axis, e.g. focussing on two or more planes and comparing image data
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Optics & Photonics (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Astronomy & Astrophysics (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Automatic Focus Adjustment (AREA)
  • Endoscopes (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)

Description

本発明は、フォーカス制御装置、撮像装置、内視鏡システム、フォーカス制御装置の制御方法等に関する。
内視鏡システムにおいてはユーザの診断、処置に支障をきたさないため、できるだけ深い被写界深度が要求される。しかし近年では、内視鏡システムにおいても高画素の撮像素子が使用されるに伴い被写界深度が浅くなってきていることから、オートフォーカス(以下、AF)機能を備えた内視鏡システムが提案されている。
内視鏡システムでは、照明部から出射される照明光を生体に出射し、その反射光を対物レンズで結像して画像を取得する。一般的な内視鏡システムでは、照明部と対物レンズが体内への挿入部に近接して配置されるため、被写体である生体表面の様々な位置で鏡面反射した照明光が輝点として対物レンズに入射する。この結果、取得された画像には様々な大きさの高輝度部(飽和部)が多数存在することになる。
一般的なコントラスト方式のAF制御では、コントラスト値が最大となるフォーカスレンズ位置を合焦レンズ位置として決定する。しかし画像内に高輝度部が存在する場合、ボケにより高輝度部分のエッジが増加することで、実際の合焦レンズ位置からずれたレンズ位置でコントラスト値が最大となる場合がある(詳細は図1(A)を用いて後述する)。また高輝度部の内部では画像の画素値が飽和することで被写体のコントラスト情報が無くなるため、正確なコントラスト値を算出することができない。この結果、画像内に高輝度部が存在する場合、コントラスト方式のAF制御では被写体に精度よく合焦できない場合がある。
このような高輝度部によるAFへの影響を考慮した、種々の手法が知られている。例えば特許文献1では、画像を複数の領域に分割して各領域の平均輝度から各領域が高輝度(ハレーション)領域か否かの判定を行い、高輝度領域と判定された領域を除いてAF制御を行う手法が開示されている。また、例えば特許文献2では、AF領域を複数の領域に分割して各領域に含まれる高輝度部分面積を算出し、高輝度部の面積が大きくなるほど小さくなる重みを各領域のコントラスト値に乗算し、それらの総和を合焦の評価値としてAF制御を行う手法が開示されている。
特開2004−294788号公報 特開平8−321985号公報
上述したように内視鏡システムで取得される画像は、画像全体に様々な大きさの高輝度部が多数存在する場合が多い。特許文献1では、領域内に高輝度部とそれ以外の被写体が混在した場合に領域の平均輝度が低くなってしまう。そのため、領域内に高輝度部が存在しているのに、当該高輝度部があるという判定できない場合がある。
特許文献2では、領域内の高輝度部の面積は分かっても、大きな輝点が少数存在しているのか、小さな輝点が多数存在しているのか等の判断を行うことはできない。しかし、これらの違いによって輝点がコントラスト値に与える影響は異なるため、影響度合いに応じた適切な重みを設定できず、被写体に精度よく合焦をすることが困難になる場合がある。
本発明の幾つかの態様によれば、高輝度部のサイズを考慮したAF制御を行うことで、被写体に精度よく合焦することを可能とするフォーカス制御装置、撮像装置、内視鏡システム、フォーカス制御装置の制御方法等を提供することができる。
本発明の一態様は、撮像部で撮像された撮像画像に対して、各領域が複数の画素からなる複数の領域を設定する領域設定部と、設定された複数の前記領域の各々において、AF(Autofocus)評価値を算出する評価値算出部と、設定された複数の前記領域の各々において、所定サイズ以上であると判定された高輝度部が存在するか否かに基づいて、輝点影響度を算出する輝点影響度算出部と、前記AF評価値及び前記輝点影響度に基づいて、フォーカス制御を行うフォーカス制御部と、を含むフォーカス制御装置に関係する。
本発明の一態様では、所定サイズ以上であると判定された高輝度部が存在するか否かに基づいて、輝点影響度を求め、当該輝点影響度に基づいてAF制御を行う。これにより、領域内の高輝度部が所定サイズ以上か否かという観点から処理を行うことができ、適切なAF制御を行うこと等が可能になる。
また、本発明の他の態様は、撮像部で撮像された撮像画像に基づいて、AF評価値を算出する評価値算出部と、前記AF(Autofocus)評価値に基づいて、フォーカス制御を行うフォーカス制御部と、を含み、連続する高輝度画素の集合を高輝度部とした場合に、前記フォーカス制御部は、前記高輝度画素ではない画素に基づいて算出された前記AF評価値の前記フォーカス制御への寄与度を第1の寄与度に設定し、所定サイズ未満であると判定された前記高輝度部に基づいて算出された前記AF評価値の前記フォーカス制御への前記寄与度を前記第1の寄与度に設定して、前記フォーカス制御を行うフォーカス制御装置に関係する。
本発明の他の態様では、所定サイズ未満の高輝度部と、高輝度画素でない画素(領域のうち高輝度部でない部分)とを同様の寄与度としてAF制御を行う。これにより、所定サイズ未満の高輝度部に基づく情報をAF制御に利用すること等が可能になる。
また、本発明の他の態様は、上記のフォーカス制御装置と、前記撮像部と、を含む撮像装置に関係する。
また、本発明の他の態様は、上記のフォーカス制御装置と、観察対象に対して挿入される挿入部と、を含み、前記挿入部は、照明光の照射を行う照明部と、前記照明光の被写体での反射光に基づいて前記撮像画像を撮像する前記撮像部とを、先端部に有する内視鏡システムに関係する。
また、本発明の他の態様は、撮像部で撮像された撮像画像に対して、各領域が複数の画素からなる複数の領域を設定し、設定された複数の前記領域の各々において、AF(Autofocus)評価値を算出し、設定された複数の前記領域の各々において、所定サイズ以上であると判定された高輝度部が存在するか否かに基づいて、輝点影響度を算出し、前記AF評価値及び前記輝点影響度に基づいて、フォーカス制御を行うフォーカス制御装置の制御方法に関係する。
また、本発明の他の態様は、撮像部で撮像された撮像画像に基づいて、AF(Autofocus)評価値を算出し、前記AF評価値に基づいて、フォーカス制御を行い、連続する高輝度画素の集合を高輝度部とした場合に、前記AF評価値に基づく前記フォーカス制御において、前記高輝度画素ではない画素に基づいて算出された前記AF評価値の前記フォーカス制御への寄与度を第1の寄与度に設定し、所定サイズ未満であると判定された前記高輝度部に基づいて算出された前記AF評価値の前記フォーカス制御への前記寄与度を前記第1の寄与度に設定して、前記フォーカス制御を行うフォーカス制御装置の制御方法に関係する。
図1(A)、図1(B)は合焦時とボケた時との高輝度部のサイズ変化を説明する図。 図2(A)は内視鏡システムの挿入部と生体との位置関係の例、図2(B)は図2(A)の場合に取得される撮像画像の模式図。 図3(A)は内視鏡システムの挿入部と生体との位置関係の例、図3(B)は図3(A)の場合に取得される撮像画像の模式図。 図4は、内視鏡システムにおいて取得される撮像画像の例。 図5は、本実施形態に係るフォーカス制御装置の構成例。 図6は、本実施形態に係る内視鏡システムの構成例。 図7は、本実施形態のAF制御の流れを説明するフローチャート。 図8は、AF制御部の構成例。 図9は、合焦方向判別処理を説明するフローチャート。 図10は、撮像画像に設定されるAF領域、評価ブロックの例。 図11(A)はマスク情報の例、図11(B)は高輝度画素情報の例。 図12は、輝点影響度と重み情報の関係図。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.本実施形態の手法
上述したように、撮像画像内、特に撮像画像のうちAF評価値の算出に用いられるAF領域内に高輝度部(輝点)が存在した場合、当該高輝度部の影響により精度の高いAFができないことが知られている。具体的には、図1(A)を用いて後述するように、少しボケている(ピントが合っていない)状態で輝点のサイズが大きくなり、結果としてボケた状態でのAF評価値が、ピントが合っている状態でのAF評価値より大きくなってしまう。そのため、動画AF(コンティニュアスAF)であれば、ピントが合う方向を誤判定することでレンズの駆動方向が適切でなくなってしまうし、静止画AF(シングルAF)であれば、AF評価値のピークを誤判定することで、誤った位置(ピントが合わない位置)にレンズを駆動することになってしまう。
なおここでは、輝点とは被写体からの鏡面反射光が撮像部で受光された場合にみられる画素値(輝度値)の高い点を表す。それに対して、高輝度部は、撮像画像において画素値の高い領域を表し、例えば撮像画像中で輝度値が飽和している領域を表す。内視鏡システム等において挿入部の先端と被写体との距離が近い場合、或いは撮像素子の感度(光強度に対する輝度値)が高い場合、或いは照明光の強度が高い場合等では、被写体からの光が鏡面反射光か拡散反射光かによらず、画素値は高くなる領域が現れ、当該領域もここでの高輝度部となる。つまり本実施形態の考え方では、輝点は基本的に高輝度部を構成するものとなり得るが、高輝度部だからといってそれが必ずしも輝点に起因するものとは限らないという関係になる。しかし、本実施形態に係るフォーカス制御を実現する処理においては、高輝度部と輝点とを厳密に分ける必要性は低い。よって、以下の説明では、鏡面反射光に起因することが明確である箇所では「輝点」を用いるが、それ以外の箇所については「輝点」と「高輝度部」という語はほぼ同義であるものとして用いるものとする。
特許文献1や特許文献2では、輝点の影響を抑止することで適切な(精度の高い)AFを行おうとしている。しかし特許文献1では、所与の領域(例えばAF領域を細かく区分した評価ブロック)内での平均輝度等を処理に用いている。そのため、仮に領域の平均輝度として所与の値が求められた場合に、当該値が高輝度領域と比較的輝度が低い領域とが平均化された結果であるのか、それとも領域全体が中間的な輝度であるのか、といった区別をしていない。
また、特許文献2では領域内での高輝度部の面積を求める処理を行っているものの、処理に用いているのは例えば領域内での高輝度部の面積の総和である。そのため、高輝度部の面積がSであると求められた場合に、面積の小さい輝点が多数撮像されており、その面積の総和を取った結果Sとなったのか、或いは面積Sという大きい輝点が1つ撮像されたのか、といった区別をしていない。
ここで輝点がAF制御に与える影響について、図1(A)、図1(B)を用いて説明する。図1(A)、図1(B)は合焦した時とボケた時の、撮像素子上での輝点の強度分布を示した図であり、横軸は撮像素子上の位置、縦軸は輝点の強度である。ここで、例えば画素が飽和する範囲が、撮像素子で取得される画像の高輝度部である。ただし、高輝度部は画素値(或いは輝度値)が飽和する領域には限定されず、所与の画素値を閾値とした場合に、当該閾値よりも画素値が高い領域を用いてもよい。
図1(A)、図1(B)はそれぞれ強度の高い輝点と強度の低い輝点を示している。図1(A)に示すように強度の高い輝点では、被写体である生体表面に合焦した時よりもボケた時の方が画像の高輝度部の面積が大きくなる。具体的には、合焦した時の輝点サイズ(図1(A)の横軸に対応する方向での長さ)はA1であるのに対して、ボケた時のサイズはA2となり、A1<A2である。高輝度部の境界では一般的にコントラストが生体より大きくなるため、AF評価値も生体より大きくなる。このためAF領域内に強度の高い輝点が存在する場合、ボケにより高輝度部の境界の長さが増加することで、被写体表面に合焦した時よりもボケた時の方がAF評価値が大きくなる。この結果、AF評価値が最大となるようにAF制御を行うと、生体表面に合焦できなくなる場合がある。
一方、図1(B)に示すように強度の低い輝点では、ボケにより画像上の高輝度部の面積が小さくなる(もしくは高輝度部が存在しなくなる)ため、被写体表面に合焦した時よりもボケた時の方がAF評価値が小さくなる。具体的には、合焦した時の輝点サイズはA3(>0)であるのに対して、ボケた時には高輝度部はなくなる。このため、図1(B)のような強度の低い輝点はAF制御には特に悪影響を与えない。
以上の説明から、強度の高い輝点のみがAF制御に悪影響を与えることが分かる。そのため、強度の高い輝点はAF制御に用いない、或いはAF制御への寄与度を低くする必要があるが、強度の低い輝点については、AF制御に用いても(例えば高輝度部でない領域と同様に扱っても)特に問題が生じないと言うことができる。
図1(A)、図1(B)からわかるのは、輝点の強度によって取り扱いを変えるとよいということであり、輝点のサイズに関する説明ではない。そのため、サイズが小さくても強度が高い輝点についてはAF制御への影響が大きいし、サイズが大きくても強度が低い輝点についてはAF制御への影響は小さい。
しかし本出願人の調査により、高輝度部のサイズと強度とが相関を有するケースがあることがわかった。一例としては、内視鏡システム等で撮像される画像を用いてAF制御を行う場合等である。
内視鏡システムで取得される画像における、高輝度部の形状(サイズ)と輝点の強度の関係について説明する。図2(A)〜3(B)は撮影条件と取得される画像の例である。例えば図2(A)に示すように対物レンズの光軸に対して傾いた生体を撮影する場合、対物レンズの光軸付近では、生体表面での鏡面反射光はほとんど対物レンズに入射せず、対物レンズへの入射光のほとんどは生体の内部散乱光になる。一方、一般的に生体表面には細かい凹凸形状が存在する。この細かい凹凸形状により照明光の一部のみが対物レンズに向かって鏡面反射することで、強度の弱い輝点となる。この結果、取得される画像には図2(B)に示すように小さい高輝度部が多数存在することになる。
また例えば、図3(A)に示すように対物レンズの光軸に対してほぼ垂直な生体を撮影する場合、対物レンズの光軸付近では、照明光の大部分が生体表面での鏡面反射光として対物レンズに入射することで、強度の強い輝点となる。この結果、取得される画像には図3(B)に示すように大きな高輝度部が存在することになる。
このように内視鏡システムで取得される画像では、高輝度部の面積から輝点の強度をある程度予測することが可能である。具体的には、高輝度部の面積が大きいほど強度の高い輝点だと考えられる。なお、ここでは説明を簡易にするため、対物レンズの光軸付近についてのみ説明したが、他の領域についても同様である。
つまり、内視鏡システム等のように、撮像部と照明部が近い位置に設けられており、撮像部の光軸方向と照明部の光の照射方向とが近い場合には、図2(A)〜図3(B)で説明したように、高輝度部のサイズと強度が相関を有すると考えることが可能である。
この場合、撮像画像におけるサイズが大きい高輝度部については強度が高いと考えられるため、AF制御への影響が大きく、撮像画像におけるサイズが小さい高輝度部については強度が低いと考えられるため、AF制御への影響が小さい。つまり、高輝度部のサイズを考慮することで適切なAF制御が可能になる。
具体的には、所与の評価ブロック内に小さな輝点が存在していた場合、従来手法であれば、平均輝度や面積(合計面積)によってはその評価ブロック全体がAF制御に用いられない、或いはAF制御への寄与度が低くなってしまう。しかし、当該評価ブロックに他の大きな輝点が存在していなければ、上述したように当該評価ブロックの情報を用いても問題は生じない。つまり、サイズの小さい輝点を敢えて無視する(当該小さい輝点があってもAF制御上考慮しない)ことで、従来手法であれば捨ててしまっていたAF評価値を適切に利用することができる。これにより、AF評価値が全体的に高い値となる。そのため、ボケの程度が大きく、従来手法であればレンズの駆動方向を精度よく判別できない程度にAF評価値が下がってしまうような場合であっても、ある程度の大きさのAF評価値を取得することが期待できるため、適切な方向にレンズを駆動していくこと等が可能になる。
特に、内視鏡システムで撮像される撮像画像、すなわち生体内画像を対象とした場合、本実施形態の手法による効果が大きい。なぜなら内視鏡システムでは、照明部の照射方向と撮像部の光軸方向が近い上に、生体内の体液や、内視鏡手技における送水処理の影響で被写体がぬれていることが多く、小さい輝点が広い領域に分布した画像が取得されやすいためである。生体内画像の一例を図4に示す。図4のうち、白く描かれている部分が画素値が飽和している高輝度部である。図4から明らかなように、1つ1つの高輝度部は面積が小さく、各高輝度部は撮像画像全体に広く分布している。そのため、小さい輝点が存在している場合に、当該輝点を含む評価ブロックを無効ブロック(AF制御に用いないブロック)に設定してしまうと、AF領域内の全評価ブロックが無効ブロックとなってしまう状況も頻繁に起こってしまう。そうなれば、当然AF制御は実行できないことになり不適切である。その点、上述したように小さい輝点があっても無効ブロックとしない、言い換えれば所定サイズ以上の輝点だけをAF制御から除外するようにすれば、図4等の撮像画像を対象とした場合にも、適切なAF制御が可能となる。
以上を踏まえ、本出願人は以下のようなフォーカス制御装置を提案する。具体的には、本実施形態に係るフォーカス制御装置は、図5に示したように、撮像部(例えば図6の撮像部200)で撮像された撮像画像に対して、各領域が複数の画素からなる複数の領域(評価ブロック)を設定する領域設定部2010と、設定された複数の前記領域の各々において、AF(Autofocus)評価値を算出する評価値算出部2020と、設定された複数の領域の各々において、所定サイズ以上であると判定された高輝度部が存在するか否かに基づいて、輝点影響度を算出する輝点影響度算出部2030と、AF評価値及び輝点影響度に基づいて、フォーカス制御を行うフォーカス制御部2060を含む。なお、ここでのフォーカス制御部2060とは、例えば後述する図8の合焦方向判別部2040及びフォーカスレンズ制御部2050を含むものであってもよい。なお、上述したように、本実施形態の処理では輝点と高輝度部を明確に区別する必要がないことに鑑みれば、ここでの輝点影響度は、高輝度部影響度(高輝度領域影響度)と言い換えることが可能である。
ここで、高輝度部は、連続する高輝度画素の集合である。また、高輝度画素とは、輝度値が閾値以上である画素であり、当該閾値とは例えば飽和値(輝度値が取り得る最大値)である。ただし、後述するように輝度値ではなく、R,G,Bのいずれか1つの画素値、或いは2つ以上の画素値の組み合わせを用いてもよい。また、「連続する」とは、所与の高輝度画素と、他の高輝度画素とが隣接画素であることに対応し、ここでの隣接画素とは上下左右の4画素であってもよいし、周囲8画素であってもよいし、他の定義を用いてもよい。
また、ここでの所定サイズは、撮像画像上におけるサイズであって、AF制御に影響を与えると考えられる輝点強度に対応するサイズである。当該サイズは、図11(A)を用いて後述するように3×3画素であってもよいし、5×5画素等の他のサイズであってもよい。なお、所定サイズは撮像素子の画素ピッチや撮像光学系の状態等にも依存するため、具体的な数値は種々の設定が可能である。また、所定サイズは固定値である必要はなく、可変に設定されるものであってもよい。例えば、フォーカス制御装置が撮像光学系の状態(例えばズーム倍率等)に基づいて所定サイズの値を自動的に変更してもよいし、フォーカス制御装置を利用するユーザの入力に基づいて所定サイズの値を変更してもよい。
このようにすれば、高輝度部のサイズに応じた柔軟なAF制御ができ、結果として精度よく被写体にピントを合わせることが可能になる。
また、本実施形態に係るフォーカス制御装置は、撮像部で撮像された撮像画像に基づいて、AF評価値を算出する評価値算出部2020と、AF評価値に基づいて、フォーカス制御を行うフォーカス制御部2060を含み、連続する高輝度画素の集合を高輝度部とした場合に、前記フォーカス制御部2060は、高輝度画素ではない画素に基づいて算出されたAF評価値のフォーカス制御への寄与度を第1の寄与度に設定し、所定サイズ未満であると判定された高輝度部に基づいて算出されたAF評価値のフォーカス制御への寄与度を前記第1の寄与度に設定して、フォーカス制御を行うものであると考えてもよい。
このようにすれば、高輝度画素でない画素、すなわち高輝度部には含まれず、被写体のコントラストを適切に反映する領域と、所定サイズ未満の高輝度部とを同等に扱うことが可能になる。この場合、フォーカス制御部2060は、所定サイズ以上であると判定された高輝度部から算出されたAF評価値のフォーカス制御への寄与度を、前記第1の寄与度よりも小さい寄与度である第2の寄与度に設定してフォーカス制御を行う。つまり、所定サイズ以上の高輝度部については、従来手法と同様にAF制御への影響を抑えることになる。
ここで、第1の寄与度とは具体的には求められたAF評価値等に特に制限を加えずにAF制御に用いる場合の寄与度を表し、後述する重みを用いる場合であれば1に対応する。第2の寄与度とは、第1の寄与度よりも低い寄与度であり、例えば重みを0とする場合のようにAF評価値に全く用いないことを表す寄与度であってもよいし、0と1の間の重みに対応する寄与度であってもよい。また、ここで第1の寄与度を用いるとは、小さい高輝度部が検出されたことを理由には寄与度を低下させないという意味であり、高輝度部以外の要因に基づいて(例えば他のノイズ要因が検出されたことで)、所定サイズ未満の高輝度部に起因するAF評価値の寄与度を低下させることは妨げられない。また、第1,第2の寄与度の各々は1つの数値である必要はなく、所与の数値範囲であってもよい。また、第1,第2の寄与度の各々は所与の固定値である必要はなく、可変に設定してもよい。
これにより、高輝度部のサイズに応じたAF制御を行うことが可能になる。そのため、例えば図4に示した小さい輝点がAF領域の広い範囲に分布している場合等、従来手法では対応が難しかった状況でも、適切なAF制御が可能になる。
なお、ここでのフォーカス制御装置とは、具体的には図6を用いて後述する内視鏡システムのうちの処理部300(狭義にはAF制御部340)に対応する構成であってもよい。ただし、本実施形態の手法はフォーカス制御装置に限定されず、当該フォーカス制御装置と撮像部200を含む撮像装置に適用することもできる。
また、図6を用いて後述するような、フォーカス制御装置(処理部300)と挿入部(硬性鏡100)とを含む内視鏡システムに適用することも可能である。その場合、挿入部は先端部に撮像部と照明部を含むことになる。なお、ここで、挿入部の先端に配置されるのは、撮像部200の全体である必要はないし、図6の光源部600である必要もない。挿入部の先端部に配置される撮像部とは、少なくとも被写体からの光を受光するための構成を含めばよい。例えば図6におけるレンズ系110が挿入部の先端部に配置されればよく、撮像素子250等は先端部以外に配置されてもよい。また、挿入部の先端部に配置される照明部についても、被写体に照明光を照射する構成を含めばよい。例えば、図6におけるライトガイド部120が挿入部の先端部に配置されればよく、光源部600は先端部以外に配置されてもよい。
以下、本実施形態に係るフォーカス制御装置のシステム構成例を説明した後、AF制御の具体的な流れを説明する。なお、以下ではフォーカス制御装置を含む内視鏡システム全体を例にとって説明を行う。
2.システム構成例
本実施形態に係る内視鏡システムについて、図6を用いて説明する。本実施形態における内視鏡システムは、体内への挿入部である硬性鏡100と、硬性鏡100に接続される撮像部200と、処理部300と、表示部400と、外部I/F部500と、光源部600を備えている。
光源部600は、白色光を発生する白色光源610と、白色光源610からの出射光を硬性鏡に導光するライトガイドケーブル620を備えている。
硬性鏡100は対物レンズ、リレーレンズ、接眼レンズ等を含んで構成されるレンズ系110と、ライトガイドケーブル620からの出射光を、硬性鏡先端まで導光するライトガイド部120を備えている。
撮像部200は、レンズ系110からの出射光を結像する撮像レンズ系240を備える。撮像レンズ系240は、合焦物体位置を調整するフォーカスレンズ220を含んで構成されている。撮像部200はさらに、撮像レンズ系240で結像された反射光を光電変換して画像を生成する撮像素子250と、フォーカスレンズ220を駆動するフォーカスレンズ駆動部230と、AFの開始、終了を制御するAF開始/終了ボタン210を備えている。
撮像素子250は例えば、RGBのいずれかのカラーフィルタがベイヤ配列で配置されている原色ベイヤ型の撮像素子である。ここでは他にも、補色カラーフィルタを用いた撮像素子や、カラーフィルタを用いずに1つの画素で異なる波長の光を受光可能な積層型の撮像素子、カラーフィルタを用いないモノクロ撮像素子など、被写体を撮像して画像を得られるものであれば、任意の撮像素子を使用できる。フォーカスレンズ駆動部230は、例えばボイスコイルモーター(VCM)等の任意のアクチュエータである。
処理部300はA/D変換部310と、前処理部320と、画像処理部330と、AF制御部340と、制御部350を備えている。A/D変換部310は、撮像素子250から順次出力されるアナログ信号をデジタルの画像に変換して、前処理部320に順次出力する。前処理部320はA/D変換部310から出力された画像に対して、ホワイトバランス、補間処理(デモザイキング処理)等の画像処理を施し、画像処理部330とAF制御部340に順次出力する。AF制御部340の詳細については後述する。画像処理部330は、前処理部320から出力された画像に対して色変換、階調変換、エッジ強調、拡縮処理、ノイズリダクション等の画像処理を施し、表示部400に画像を順次出力する。表示部400は例えば液晶モニタであり、画像処理部330から順次出力される画像を表示する。
制御部350は外部I/F部500や画像処理部330、AF制御部340、撮像素子250、AF開始/終了ボタン210、光源部600と相互に接続されており、制御信号の入出力を行う。外部I/F部500は、内視鏡システムに対するユーザからの入力等を行うためのインターフェースであり、例えばAF領域の位置やサイズを設定するための設定ボタン、画像処理のパラメータを調整するための調整ボタンなどを含んで構成されている。
3.AF制御の詳細
次に、本実施形態においてAF制御部340で行われるAF制御の概要について、図7を用いて説明する。AF制御部340は、ユーザがAF開始/終了ボタン210を操作しAFが開始されるとまず合焦動作を開始する。合焦動作が開始されると、まずAF制御部340はA/D変換部310から順次出力される画像の取得タイミングに同期するように、公知の技術を用いてフォーカスレンズ220のウォブリング動作を開始する。その後、AF制御部340は、ウォブリング動作で取得された画像に基づいて、合焦方向を判別する(S100)。合焦方向判別(S100)の詳細については後述する。次にAF制御部340は、S100で決定された合焦方向に基づいて、ウォブリングの中心位置を変更する(S110)。具体的には、S100で決定される合焦方向は、後述するように“NEAR”“FAR”のいずれかである。AF制御部340は、合焦方向が“NEAR”と決定された場合はウォブリングの中心位置を、合焦物体位置が撮像素子250に近い至近側となる方向に所定量移動する。また、合焦方向が“FAR”と決定された場合はウォブリングの中心位置を、合焦物体位置が撮像素子250から遠い無限遠側となる方向に所定量移動する。
次にAF制御部340は、合焦が完了したか否かの判断を行う(S120)。ここでAF制御部340は公知の合焦判定処理等を行うことで合焦判断を行えばよい。AF制御部340は、合焦が完了していない場合はS100からの動作を繰り返し、ウォブリングの中心位置を徐々に合焦位置に近づけていく。また、合焦が完了した場合はフォーカスレンズ220のウォブリング動作を終了し、合焦動作を終了する。
合焦動作が終了した場合、AF制御部340は待機動作を開始する。待機動作が開始されると、AF制御部340はシーン変化を検出する(S130)。ここでAF制御部340は、前処理部320から順次出力される画像を用いて、例えば画像の色や輝度の変化や、画像の動き等を監視することでシーン変化を検出する。次にAF制御部340は、シーン変化が検出されたか否かの判断を行う(S140)。シーン変化が検出されない場合はS130からの動作を繰り返し、シーン変化が検出された場合は待機動作を終了する。待機動作が終了した場合、AF制御部340は合焦動作を再開する。なお待機動作が実行されている間、AF制御部340は、例えばフォーカスレンズ220の位置を合焦動作が終了した時の位置に固定し、フォーカスレンズ220の駆動は行わない。
次に、AF制御部340における合焦方向判別(S100)の詳細について、図8および図9を用いて説明する。AF制御部340は例えば、領域設定部(AF領域設定部)2010と、評価値算出部(ブロックAF評価値算出部)2020と、輝点影響度算出部2030と、合焦方向判別部2040と、フォーカスレンズ制御部2050を備えている。
まず領域設定部2010は、制御部350から出力されるAF領域の位置やサイズ等の情報に基づき画像上に複数のブロックからなるAF領域を設定する(S201)。AF領域の設定の例を図10に示す。図10の外周の矩形は画像全体を表し、Aと記載されている矩形は後述のAF評価値や輝点影響度を算出する領域である評価ブロックを表す。また、図10において、評価ブロック全体を囲む範囲がAF領域である。図10では画像の中央部に、横方向に5個、縦方向に4個の合計20個の評価ブロックが設定されている。評価ブロックの数やサイズは、被写体やユーザの操作等に応じて適宜変更してもよい。また評価ブロック同士は必ずしも隣接する必要は無く、離散的に設定してもよい。領域設定部2010は、AF領域の設定情報を評価値算出部2020、および輝点影響度算出部2030に出力する。
評価値算出部2020は、前処理部320から出力される画像の画素値と領域設定部2010から出力されるAF領域情報から、各評価ブロックのAF評価値を算出する(S202)。AF評価値は評価ブロック内の被写体に対する合焦度合いに応じて増加する値であり、画像の周波数特性や輝度分布特性等に基づき算出する。例えば、評価ブロック内の各画素に対してハイパスフィルタやバンドパスフィルタを適用し、その出力値を累積した結果をAF評価値とする。また、評価ブロック内の各画素から輝度分布特性の一例である輝度ヒストグラムを算出し、ヒストグラムの分布範囲や分散、標準偏差等をAF評価値としてもよい。評価値算出部2020は、算出した各評価ブロックにおけるAF評価値を合焦方向判別部2040に出力する。
輝点影響度算出部2030は、前処理部320から出力される画像の画素値と領域設定部2010から出力されるAF領域情報から、各評価ブロックにおける輝点影響度を算出する(S203)。輝点影響度は、輝点がAF制御に与える悪影響の度合いを示す値である。
次に、輝点影響度の算出方法について説明する。輝点影響度算出部2030は、まず評価ブロック内の画素に対して、各画素のR,G,Bチャンネルの画素値から公知の変換処理等を用いて輝度信号を算出する。次に輝点影響度算出部2030は、算出した輝度信号の輝度値に対して、画素が飽和した場合の輝度値に対応する所定の閾値を用いた閾値処理を行うことで、各画素が高輝度画素か否かを判定する。その後、評価ブロック内のすべての画素に対する判定結果を、図示しないメモリに高輝度画素判定結果(高輝度画素情報)として保存する。ここでは例えば、輝度値が閾値以上だった場合は高輝度画素判定結果を1とし、閾値未満だった場合は、高輝度画素判定結果を0とすればよい。次に輝点影響度算出部2030は、評価ブロック内のすべての画素に対して輝点影響度算出マスク(マスク情報)を用いたマスク処理を行い、輝点影響度を算出する。
ここで輝点影響度算出マスクは、例えば図11(A)に示すような、注目画素を中心とした5画素×5画素のマスクである。マスク処理では、輝点影響度算出部2030はまず図11(B)のように、輝点影響度算出マスクと同じ範囲の高輝度画素判定結果を抽出する。その後、輝点影響度算出部2030は輝点影響度算出マスクの値が1であるすべての画素に対して、高輝度画素判定結果が1か否かを判定し、出力値を決定する。輝点影響度算出マスクの値が1であるすべての画素に対して、高輝度画素判定結果が1であった場合は注目画素のマスク処理の出力値を1とし、そうでない場合はマスク処理の出力値を0とする。次に、輝点影響度算出部2030は、評価ブロック内のすべての画素に対する出力値を加算した結果を、評価ブロックの輝点影響度として算出する。その後、輝点影響度算出部2030は、算出した各評価ブロックにおける輝点影響度を合焦方向判別部2040に出力する。
このような処理を行うことで輝点影響度算出部2030は、輝点影響度算出マスクで1として設定された面積に対応する、所定サイズ以上の高輝度部の有無を検出することができる。また、高輝度部の内部では生体のコントラスト情報が失われるため、高輝度部の面積が大きくなるほど評価ブロックの正確なAF評価値を算出することが困難になる。輝点影響度は、評価ブロック内の所定サイズ以上の高輝度部の面積に対応する値であるため、このような現象の影響を見積もる指標として使用することも可能である。なお、評価ブロック内に所定サイズ以上の高輝度部が複数存在する場合、輝点影響度は複数の高輝度部の面積の総和に対応する値となる。
なお、図11(A)では5画素×5画素のマスクを用いたが、上記所定サイズは、マスク情報のうち、値が1である画素に対応する。例えば図11(A)の場合、マスク情報自体は5画素×5画素であるが、処理上判定しているのは、値が1である3画素×3画素以上のサイズの高輝度部があるか否かである。
また、ここでは評価ブロック内の画素の輝度値を用いて高輝度画素判定を行っているが、R,G,Bチャンネルの画素値のいずれか、もしくはすべての画素値を用いて高輝度画素判定を行ってもよい。また、輝点影響度算出マスクのサイズや、その値が任意に設定可能であることは言うまでも無い。
また、所定サイズ以上の高輝度部があるか否かの判定は、マスク処理以外でも実現可能である。例えば、高輝度画素判定結果に対して公知のラベリング処理等を行うことで、高輝度部分を検出し、輝点影響度を算出してもよい。この場合、例えば高輝度部分としてラベリングされた画素の集合から面積や周囲長、主軸の長さといった特徴量を算出し、これらの特徴量から所定サイズ以上の高輝度部分の有無を検出し、輝点影響度を決定すればよい。
次に合焦方向判別部2040は、評価値算出部2020から出力される各評価ブロックのAF評価値と、輝点影響度算出部2030から出力される各評価ブロックの輝点影響度から、合焦方向を決定する(S204)。具体的には、まず合焦方向判別部2040は、各評価ブロックの輝点影響度から、各評価ブロックが無効ブロックか否かを判定する。
ここでは例えば、輝点影響度が0以外の値である評価ブロックを無効ブロックとしてもよく、その場合、所定サイズ以上の高輝度部が存在するブロックをすべて無効ブロックに設定する処理を行うことになる。
或いは、0よりも大きい所定の閾値と輝点影響度を比較して、輝点影響度が閾値以上の評価ブロックを無効ブロックとしてもよい。その場合、所定サイズ以上の高輝度部が閾値以上の面積を持つブロックを無効ブロックに設定する処理を行うことになる。なお、上述の輝点影響度算出マスクを用いる場合、輝点影響度は整数値として算出されることから、閾値を1以下とすると輝点影響度が0以外の値である評価ブロックを無効ブロックとする処理と同義となる。
その後、合焦方向判別部2040は、図示しないメモリに各評価ブロックのAF評価値と無効ブロック情報を順次保存する。
次に合焦方向判別部2040は、例えばウォブリング動作によりフォーカスレンズ220がNEAR方向に移動した時とFAR方向に移動した時の画像のそれぞれに対して、無効ブロックと設定されなかった評価ブロックを有効ブロックに設定する。また、ここではフォーカスレンズ220がNEAR方向に移動した時とFAR方向に移動した時の画像の両方に対して、無効ブロックと設定されなかった評価ブロックを有効ブロックに設定してもよい。ここでNEAR方向は合焦物体位置が撮像素子250に近い至近側となる方向、FAR方向は合焦物体位置が撮像素子250から遠い無限遠側となる方向を示す。次に合焦方向判別部2040は、フォーカスレンズ220がNEAR方向に移動した時の画像に対応する各評価ブロックのAF評価値のうち、有効ブロックに設定されたAF評価値の総和をNEAR側AF評価値として算出する。同様に、フォーカスレンズ220がFAR方向に移動した時の画像に対応する各評価ブロックのAF評価値のうち、有効ブロックに設定されたAF評価値の総和をFAR側AF評価値として算出する。次に合焦方向判別部2040は、NEAR側AF評価値とFAR側AF評価値を比較し、NEAR側AF評価値の方が大きい場合は合焦方向を“NEAR”に、そうでない場合は合焦方向を“FAR”に設定する。その後、合焦方向判別部2040は決定された合焦方向を、フォーカスレンズ制御部2050に出力する。
合焦方向判別部2040は、上述した手法の他にも、例えば以下のような手法を用いて合焦方向を決定してもよい。
ここではまず合焦方向判別部2040は、各評価ブロックの輝点影響度から、各評価ブロックの重みを設定する。ここで設定される重みは、図12のB1に示すように輝点影響度が0の時に1であり、輝点影響度が増加するに従って減少し、輝点影響度が所定の値以上の時は0になるような値である。図12のB1では重みが直線的に変化する例を示したが、異なる設定が可能である点はいうまでもない。
また、上述した無効ブロックを設定する例も、無効ブロックの重みを0、そうでないブロックの重みを1とする重みを設定していると考えることが可能である。この場合の重みの例が図12のB2である。輝点影響度について所与の閾値を設け、閾値以上である場合に重みが0、閾値未満である場合に重みが1となる。当然、上述したようにこの閾値を0に近い値(上述したように輝点影響度が整数値であれば1以下)に設定すれば、所定サイズ以上の高輝度部が存在するブロックをすべて無効ブロックに設定する処理を行うことが可能である。
次に、合焦方向判別部2040は、図示しないメモリに各評価ブロックのAF評価値と設定した重み情報を順次保存する。次に合焦方向判別部2040は、フォーカスレンズ220がNEAR方向に移動した時の画像に対応する各評価ブロックのAF評価値に対して、保存された重み情報を用いて重み付け加算を行い、その総和をNEAR側AF評価値として算出する。同様に、フォーカスレンズ220がFAR方向に移動した時の画像に対応する各評価ブロックのAF評価値に対して、保存された重み情報を用いて重み付け加算を行い、その総和をFAR側AF評価値として算出する。その後、合焦方向判別部2040は、NEAR側AF評価値とFAR側AF評価値を比較し、NEAR側AF評価値の方が大きい場合は合焦方向を“NEAR”に、そうでない場合は合焦方向を“FAR”に設定すればよい。
最後に、フォーカスレンズ制御部2050は、図7のS110で説明したように、決定された合焦方向に基づいてウォブリングの中心位置を変更する。
本実施形態ではこのような処理を行うことで、画像中に様々な大きさの高輝度部が多数存在する場合も、AF制御に悪影響を与える輝点を含む評価ブロックのみ検出し、その影響を低減することで、被写体に精度よく合焦可能なAF制御を実現出来る。
また、本実施形態ではウォブリング方式を用いた動画AFについて説明したが、AF制御に悪影響を与える輝点を含む評価ブロックを前述の手法で検出し、特許文献1、2のような手法でAF制御を行うことで、山登り方式のAF制御に適用することも可能である。
以上に示したように、本実施形態に係るフォーカス制御装置の輝点影響度算出部2030は、所定サイズ以上であると判定された高輝度部が存在する場合に、輝点影響度を高くし、所定サイズ未満であると判定された高輝度部が存在する場合に、輝点影響度を高くしない。
このようにすれば、AF制御に影響を与えるサイズの大きな(本実施形態の想定では強度の高い)高輝度部については影響度を高くし、AF制御に影響を与えないサイズの小さな(本実施形態の想定では強度の低い)高輝度部については影響度を低くできる。つまり、高輝度部であってもAF制御への影響を考慮して扱いを変えることが可能になる。
また、輝点影響度算出部2030は、領域(評価ブロック)に含まれる各画素の画素値と所与の画素閾値との比較処理に基づいて、高輝度画素を表す高輝度画素情報を求め、所定サイズに対応するマスク情報と、高輝度画素情報とに基づいて、所定サイズ以上の高輝度部が存在するか否かを判定してもよい。
ここで、高輝度画素情報とは図11(B)に対応し、マスク情報とは図11(A)に対応する。このようにすれば、マスク情報を用いて所定サイズ以上の高輝度部が存在するか否かを判定できる。図11(A)、図11(B)の例であれば、単純なAND演算を評価ブロックに含まれる画素数に対応する回数だけ行って、1以上の値が出力されたか否かを判定すればよいため、処理負荷が軽いという利点がある。
また、輝点影響度算出部2030は、領域に含まれる各画素の画素値と所与の画素閾値との比較処理に基づいて、高輝度画素を表す高輝度画素情報を求め、高輝度画素情報に基づいて連続する高輝度画素の集合を高輝度部として特定してもよい。さらに、特定された高輝度部の幾何学的特徴(サイズ特徴量)に基づいて、高輝度部が所定サイズ以上であるか否かを判定してもよい。
これは、上述したラベリング処理(或いはクラスタリング処理)に対応する。つまり、図11(B)に示したような情報が取得されたのであれば、1が出力された画素がどのような固まりを形成しているかを判定し、同一のラベルが付された高輝度画素(同一クラスタに分類された高輝度画素)の集合を1つの高輝度部として特定する。このようにした場合、特定された高輝度部は具体的な形状がわかっているため、幾何学的な処理によりサイズ(直径、主軸長、周囲長、面積等)を求めることが可能である。その結果を用いれば、当該高輝度部が所定サイズ以上であるか否かは容易に判定できる。
また、輝点影響度算出部2030は、領域において、所定サイズ以上の高輝度部が検出された場合に、検出された高輝度部の面積に対応する値を、輝点影響度として算出してもよい。
これにより、所定サイズ以上の高輝度部の面積に対応する値を輝点影響度とすることが可能になる。図11(A)、図11(B)のマスク情報を用いる例であれば、1が出力された回数(処理対象画素の数)が輝点影響度となる。高輝度部の面積が大きいほど、マスク情報に対応する所定サイズの高輝度部を内包しやすくなるため、当該輝点影響度は面積に対応する情報である。なお、所定サイズ未満の高輝度部も面積を有する領域ではあるが、マスク処理では1が出力されないため、所定サイズ未満の高輝度部は輝点影響度に寄与しない。高輝度部の面積が大きいほど、高輝度部内部に本来撮像されるはずの被写体の構造(コントラスト)が失われてしまうことから、面積に対応する値は輝点の影響の大小を表す情報として利用可能である。なお、ラベリング処理を行う場合であれば、例えば同一ラベルが付された高輝度画素の画素数等を当該高輝度部の面積とすればよい。
また、輝点影響度算出部2030は、領域において、所定サイズ以上の高輝度部が複数検出された場合に、検出された複数の高輝度部の面積の合計に対応する値を、輝点影響度として算出してもよい。
所定サイズ以上の高輝度部はAFに影響を与えるところ、当該所定サイズ以上の高輝度部が複数あれば、1つしかない場合に比べて、よりAFへの影響が大きい。よって、このような影響の差を輝点影響度に反映させるために、輝点影響度は、領域内にある所定サイズ以上の高輝度部の面積の総和に対応する値とするとよい。
また、フォーカス制御部2060(狭義には合焦方向判別部2040)は、輝点影響度が所与の閾値以上の領域を無効領域(無効ブロック)に設定し、無効領域以外の領域のAF評価値に基づいて、フォーカス制御を行ってもよい。
これにより、輝点影響度が大きいと判定される領域の情報をフォーカス制御に用いなくなるため、精度よくフォーカス制御を行うことが可能になる。例えば、上記NEAR側AF評価値(NEAR側の撮像画像での各評価ブロックでのAF評価値の総和)と、FAR側AF評価値(FAR側の撮像画像での各評価ブロックでのAF評価値の総和)とを比較して、フォーカスレンズ220の駆動方向を決定する処理の場合、無効ブロックに設定された評価ブロックのAF評価値は上記総和に用いられないことになるため、輝点の影響が大きい評価ブロックの情報をAF制御に利用してしまうことを抑止できる。
なお、所与の評価ブロックがNEAR側で無効ブロックとされ、FAR側で無効ブロックとされないことや、その逆のことも起こる。そのようにNEARとFARで評価が分かれた場合、無効ブロックに設定されなかった側を有効ブロックに設定(総和に含める)してもよいし、無効ブロックに設定されなかった側も無効ブロックに設定してもよい。ただし前者の場合、NEAR側とFAR側で有効ブロック数に差が生じてしまうこともあるため、NEAR側AF評価値とFAR側AF評価値を単純な総和とするのではなく、1有効ブロック当たりの平均値とする等の変形実施を行ってもよい。
また、フォーカス制御部2060は、輝点影響度が大きくなるに従って小さくなる重み情報を複数の領域の各々に設定し、重み情報に基づく重み付けがされたAF評価値に基づいて、フォーカス制御を行ってもよい。
輝点影響度が大きくなるに従って小さくなる重み情報の一例が、上述した図12のB1である。このようにすれば、所与の領域のAF評価値をフォーカス制御に用いるか、全く用いないかの2通りではなく、柔軟に利用可能となる。
なお、以上のように本実施形態について詳細に説明したが、本発明の新規事項および効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本発明の範囲に含まれるものとする。例えば、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。またフォーカス制御装置や撮像装置等の構成、動作も本実施形態で説明したものに限定されず、種々の変形実施が可能である。
100 硬性鏡、110 レンズ系、120 ライトガイド部、200 撮像部、
210 AF開始/終了ボタン、220 フォーカスレンズ、
230 フォーカスレンズ駆動部、240 撮像レンズ系、250 撮像素子、
300 処理部、310 A/D変換部、320 前処理部、330 画像処理部、
340 AF制御部、350 制御部、400 表示部、500 外部I/F部、
600 光源部、610 白色光源、620 ライトガイドケーブル、
2010 領域設定部、2020 評価値算出部、2030 輝点影響度算出部、
2040 合焦方向判別部、2050 フォーカスレンズ制御部、
2060 フォーカス制御部

Claims (10)

  1. 撮像部で撮像された撮像画像に対して、各領域が複数の画素からなる複数の領域を設定する領域設定部と、
    設定された複数の前記領域の各々において、AF(Autofocus)評価値を算出する評価値算出部と、
    設定された複数の前記領域の各々において、所定サイズ以上であると判定された高輝度部が存在するか否かに基づいて、輝点影響度を算出する輝点影響度算出部と、
    前記AF評価値及び前記輝点影響度に基づいて、フォーカス制御を行うフォーカス制御部と、
    を含み、
    前記高輝度部は、連続する高輝度画素の集合であり、
    前記輝点影響度算出部は、
    設定された前記領域の内部に複数の前記高輝度部が存在する場合、複数の前記高輝度部のそれぞれについて、前記所定サイズ以上であるか否かを判定し、
    前記輝点影響度算出部は、
    前記所定サイズ以上であると判定された前記高輝度部が存在する場合に、前記輝点影響度を高くし、前記所定サイズ未満であると判定された前記高輝度部が存在する場合に、前記輝点影響度を高くしないことを特徴とするフォーカス制御装置。
  2. 請求項において、
    前記輝点影響度算出部は、
    前記領域に含まれる各画素の画素値と所与の画素閾値との比較処理に基づいて、前記高輝度画素を表す高輝度画素情報を求め、
    前記所定サイズに対応するマスク情報と、前記高輝度画素情報とに基づいて、前記所定サイズ以上の前記高輝度部が存在するか否かを判定することを特徴とするフォーカス制御装置。
  3. 請求項において、
    前記輝点影響度算出部は、
    前記領域に含まれる各画素の画素値と所与の画素閾値との比較処理に基づいて、前記高輝度画素を表す高輝度画素情報を求め、前記高輝度画素情報に基づいて連続する前記高輝度画素の集合を前記高輝度部として特定し、特定された前記高輝度部の幾何学的特徴に基づいて、前記高輝度部が前記所定サイズ以上であるか否かを判定することを特徴とするフォーカス制御装置。
  4. 請求項1において、
    前記輝点影響度算出部は、
    前記領域において、前記所定サイズ以上の前記高輝度部が検出された場合に、検出された前記高輝度部の面積に対応する値を、前記輝点影響度として算出することを特徴とするフォーカス制御装置。
  5. 請求項において、
    前記輝点影響度算出部は、
    前記領域において、前記所定サイズ以上の前記高輝度部が複数検出された場合に、検出された複数の前記高輝度部の面積の合計に対応する値を、前記輝点影響度として算出することを特徴とするフォーカス制御装置。
  6. 請求項1において、
    前記フォーカス制御部は、
    前記輝点影響度が所与の閾値以上の前記領域を無効領域に設定し、前記無効領域以外の前記領域の前記AF評価値に基づいて、前記フォーカス制御を行うことを特徴とするフォーカス制御装置。
  7. 請求項1において、
    前記フォーカス制御部は、
    前記輝点影響度が大きくなるに従って小さくなる重み情報を複数の前記領域の各々に設定し、前記重み情報に基づく重み付けがされた前記AF評価値に基づいて、前記フォーカス制御を行うことを特徴とするフォーカス制御装置。
  8. 請求項1乃至のいずれかに記載のフォーカス制御装置と、
    前記撮像部と、
    を含むことを特徴とする撮像装置。
  9. 請求項1乃至のいずれかに記載のフォーカス制御装置と、
    観察対象に対して挿入される挿入部と、
    を含み、
    前記挿入部は、
    照明光の照射を行う照明部と、前記照明光の被写体での反射光に基づいて前記撮像画像を撮像する前記撮像部とを、先端部に有することを特徴とする内視鏡システム。
  10. 撮像部で撮像された撮像画像に対して、各領域が複数の画素からなる複数の領域を設定し、
    設定された複数の前記領域の各々において、AF(Autofocus)評価値を算出し、
    連続する高輝度画素の集合を高輝度部とした場合に、設定された複数の前記領域の各々において、所定サイズ以上であると判定された高輝度部が存在するか否かに基づいて、輝点影響度を算出し、
    前記AF評価値及び前記輝点影響度に基づいて、フォーカス制御を行
    前記輝点影響度の算出において、
    設定された前記領域の内部に複数の前記高輝度部が存在する場合、複数の前記高輝度部のそれぞれについて、前記所定サイズ以上であるか否かを判定し、
    前記所定サイズ以上であると判定された前記高輝度部が存在する場合に、前記輝点影響度を高くし、前記所定サイズ未満であると判定された前記高輝度部が存在する場合に、前記輝点影響度を高くしない、
    ことを特徴とするフォーカス制御装置の制御方法。
JP2017505916A 2015-03-17 2015-03-17 フォーカス制御装置、撮像装置、内視鏡システム、フォーカス制御装置の制御方法 Active JP6533284B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/057789 WO2016147309A1 (ja) 2015-03-17 2015-03-17 フォーカス制御装置、撮像装置、内視鏡システム、フォーカス制御装置の制御方法

Publications (2)

Publication Number Publication Date
JPWO2016147309A1 JPWO2016147309A1 (ja) 2018-03-08
JP6533284B2 true JP6533284B2 (ja) 2019-06-19

Family

ID=56919815

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017505916A Active JP6533284B2 (ja) 2015-03-17 2015-03-17 フォーカス制御装置、撮像装置、内視鏡システム、フォーカス制御装置の制御方法

Country Status (4)

Country Link
US (1) US10587793B2 (ja)
JP (1) JP6533284B2 (ja)
CN (1) CN107430258B (ja)
WO (1) WO2016147309A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6196900B2 (ja) * 2013-12-18 2017-09-13 オリンパス株式会社 内視鏡装置
WO2015093295A1 (ja) * 2013-12-20 2015-06-25 オリンパス株式会社 内視鏡装置
WO2017072860A1 (ja) * 2015-10-27 2017-05-04 オリンパス株式会社 撮像装置、内視鏡装置及び撮像装置の作動方法
KR20180036463A (ko) * 2016-09-30 2018-04-09 삼성전자주식회사 이미지 처리 방법 및 이를 지원하는 전자 장치
WO2018116371A1 (ja) * 2016-12-20 2018-06-28 オリンパス株式会社 自動焦点制御装置、内視鏡装置及び自動焦点制御装置の作動方法
CN112970242B (zh) * 2018-11-06 2022-10-25 奥林巴斯株式会社 摄像装置、内窥镜装置及摄像装置的工作方法
KR102664754B1 (ko) * 2019-02-20 2024-05-10 삼성전자주식회사 이미지 효과 적용 방법 및 이를 지원하는 전자 장치

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3296687B2 (ja) * 1995-05-24 2002-07-02 三洋電機株式会社 オートフォーカスビデオカメラ
JP2004294788A (ja) 2003-03-27 2004-10-21 Fuji Photo Optical Co Ltd オートフォーカス機能を備えた電子内視鏡装置
JP2004309653A (ja) * 2003-04-03 2004-11-04 Minolta Co Ltd 撮像装置
US8717490B2 (en) * 2009-06-19 2014-05-06 Casio Computer Co., Ltd Imaging apparatus, focusing method, and computer-readable recording medium recording program
JP5951211B2 (ja) * 2011-10-04 2016-07-13 オリンパス株式会社 合焦制御装置及び内視鏡装置
JP2013097082A (ja) * 2011-10-31 2013-05-20 Hitachi Ltd 画像信号処理装置
JP5932349B2 (ja) * 2012-01-18 2016-06-08 キヤノン株式会社 撮像装置
JP2013160919A (ja) * 2012-02-06 2013-08-19 Hitachi Ltd 画像信号処理装置及び画像信号処理方法

Also Published As

Publication number Publication date
CN107430258B (zh) 2020-03-31
WO2016147309A1 (ja) 2016-09-22
CN107430258A (zh) 2017-12-01
JPWO2016147309A1 (ja) 2018-03-08
US20180007256A1 (en) 2018-01-04
US10587793B2 (en) 2020-03-10

Similar Documents

Publication Publication Date Title
JP6533284B2 (ja) フォーカス制御装置、撮像装置、内視鏡システム、フォーカス制御装置の制御方法
JP6453543B2 (ja) 内視鏡装置及び内視鏡装置の作動方法
JP6249769B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
US20120147165A1 (en) Control device, endoscope apparatus, and focus control method
JP6168879B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
US8531510B2 (en) Endoscope apparatus
JP6453904B2 (ja) フォーカス制御装置、内視鏡装置及びフォーカス制御装置の制御方法
US10666852B2 (en) Focus control device, endoscope apparatus, and method for operating focus control device
JP6453905B2 (ja) フォーカス制御装置、内視鏡装置及びフォーカス制御装置の制御方法
US20150334289A1 (en) Imaging device and method for controlling imaging device
JP5857160B2 (ja) 内視鏡用の撮像システム、内視鏡用の撮像システムの作動方法
US20180316870A1 (en) Focus control device, endoscope apparatus, and method for operating focus control device
JP2008083338A (ja) Af検波の光学ズーム補正撮像装置
JP5953373B2 (ja) 内視鏡装置
JP5881910B2 (ja) 内視鏡装置
JP2013043007A (ja) 焦点位置制御装置、内視鏡装置及び焦点位置制御方法
WO2013061939A1 (ja) 内視鏡装置及びフォーカス制御方法
JP2007328213A (ja) 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190523

R151 Written notification of patent or utility model registration

Ref document number: 6533284

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250