JPWO2016158119A1 - 医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置 - Google Patents

医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置 Download PDF

Info

Publication number
JPWO2016158119A1
JPWO2016158119A1 JP2017509392A JP2017509392A JPWO2016158119A1 JP WO2016158119 A1 JPWO2016158119 A1 JP WO2016158119A1 JP 2017509392 A JP2017509392 A JP 2017509392A JP 2017509392 A JP2017509392 A JP 2017509392A JP WO2016158119 A1 JPWO2016158119 A1 JP WO2016158119A1
Authority
JP
Japan
Prior art keywords
correction information
camera
reference camera
cameras
movement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017509392A
Other languages
English (en)
Other versions
JP6690637B2 (ja
Inventor
雄生 杉江
雄生 杉江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2016158119A1 publication Critical patent/JPWO2016158119A1/ja
Application granted granted Critical
Publication of JP6690637B2 publication Critical patent/JP6690637B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00193Optical arrangements adapted for stereoscopic vision
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • A61B5/7207Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal of noise induced by motion artifacts
    • A61B5/721Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal of noise induced by motion artifacts using a separate sensor to detect motion or using motion information derived from signals other than the physiological signal to be measured
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/362Mechanical details, e.g. mountings for the camera or image sensor, housings
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Signal Processing (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Physics & Mathematics (AREA)
  • Astronomy & Astrophysics (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physiology (AREA)
  • Psychiatry (AREA)
  • Endoscopes (AREA)
  • Microscoopes, Condenser (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置を提供する。2以上のカメラの中から1の基準カメラを選択する選択部と、前記基準カメラの動きを検出する動き検出部と、前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、を備える、医療用観察装置。

Description

本開示は、医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置に関する。
従来、カメラなどで映像を撮影する際に、カメラなどが振動して生じる、手振れによる映像の乱れを補正する、手振れ補正手法が研究されている。例えば、特許文献1には、2つのカメラを有するビデオスコープにおいて、画ぶれを補正する方法が開示されている。
特開平11−168717号公報
しかし、生じた手振れによっては、手振れ補正後の画像は手振れ補正前の画像と比較して画質が劣化してしまい、その結果、ユーザ(観察者)の快適な立体視が阻害される恐れがあった。
そこで、本開示では、ユーザが快適に立体視を行うことが可能な、新規かつ改良された医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置を提案する。
2以上のカメラの中から1の基準カメラを選択する選択部と、前記基準カメラの動きを検出する動き検出部と、前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、を備える、医療用観察装置が提供される。
また、本開示によれば、レンズの合焦状態を示すフォーカス評価値を、2以上のレンズの各々について算出する評価値算出部と、前記フォーカス評価値に基づいて、前記2以上のレンズに共通するレンズ移動パラメータを特定する移動制御部と、を備えるレンズ駆動制御装置が提供される。
また、本開示によれば、2以上のカメラの中から1の基準カメラを選択することと、前記基準カメラの動きを検出することと、前記基準カメラの動きを減殺する第一の補正情報を取得することと、前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得することと、を含む、情報処理方法が提供される。
また、本開示によれば、コンピュータに2以上のカメラの中から1の基準カメラを選択する処理と、前記基準カメラの動きを検出する処理と、前記基準カメラの動きを減殺する第一の補正情報を取得することと、前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する処理と、を行わせるための、プログラムが提供される。
また、本開示によれば、撮像素子を有する2以上のカメラと、前記2以上のカメラの中から1の基準カメラを選択する選択部と、前記基準カメラの動きを検出する動き検出部と、前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、を備え、前記2以上のカメラは顕微鏡像を撮影する、ビデオ顕微鏡装置が提供される。
以上説明したように本開示によれば、ユーザが快適に立体視を行うことが出来る。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の第一の実施形態にかかる医療用観察システム1の概要を示す説明図である。 同実施形態にかかる内視鏡装置10−1の内部構成を示す説明図である。 同実施形態にかかる制御装置20−1の構成を示す説明図である。 同実施形態にかかる医療用観察システム1の動作を説明するための説明図である。 同実施形態にかかる医療用観察システム1の動作を説明するための説明図である。 同実施形態にかかる変形例の動作を説明するための説明図である。 同実施形態にかかる変形例において記憶部が記憶するユーザ情報の一例を示す説明図である。 本開示の第二の実施形態の比較例にかかる内視鏡装置50の内部構成を示す説明図である。 同比較例にかかる制御装置60の構成を示す説明図である。 同関連技術にかかるレンズ制御を説明するための説明図である。 同関連技術にかかるレンズ制御を説明するための説明図である。 本開示の第二の実施形態にかかる内視鏡装置10の内部構成を示す説明図である。 同実施形態にかかる制御装置20の内部構成を示す説明図である。 同実施形態の動作を説明するための説明図である。 本開示の第三の実施形態にかかる手振れ補正の概要を説明するための説明図である。 同実施形態にかかる手振れ補正の概要を説明するための説明図である。 同実施形態にかかる手振れ補正の概要を説明するための説明図である。 同実施形態にかかる手振れ補正の概要を説明するための説明図である。 同実施形態にかかる制御装置20の構成を示す説明図である。 同実施形態にかかる補正制御部27の構成を示す説明図である。 同実施形態にかかる医療用観察システム1の動作を説明するための説明図である。 同実施形態にかかる非基準カメラ補正情報の取得方法を説明するための説明図である。 同実施形態にかかる非基準カメラ補正情報の取得方法を説明するための説明図である。 同実施形態にかかる非基準カメラ補正情報の取得方法を説明するための説明図である。 同実施形態にかかる非基準カメラ補正情報の取得方法を説明するための説明図である。 同実施形態にかかる制御装置20のハードウェア構成例を示す説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
なお、説明は以下の順序で行うものとする。
<<1.第一の実施形態>>
<1−1.第一の実施形態の概要>
<1−2.第一の実施形態の構成>
<1−3.第一の実施形態の動作>
<1−4.第一の実施形態の効果>
<1−5.第一の実施形態の変形例>
<<2.第二の実施形態>>
<2−1.第二の実施形態の概要>
<2−2.第二の実施形態の構成>
<2−3.第二の実施形態の動作>
<2−4.第二の実施形態の効果>
<<3.第三の実施形態>>
<3−1.第三の実施形態の概要>
<3−2.第三の実施形態の構成>
<3−3.第三の実施形態の動作>
<3−4.第三の実施形態の効果>
<3−5.第三の実施形態の変形例>
<<4.ハードウェア構成例>>
<<5.むすび>>
<<1.第一の実施形態>>
<1−1.第一の実施形態の概要>
まず、図面を参照しながら本開示の第一の実施形態にかかる医療用観察システムの概要を説明する。図1は、本開示の第一の実施形態にかかる医療用観察システムの概要を示す説明図である。
図1に示したように、本開示の第一の実施形態にかかる医療用観察システム1は、内視鏡装置10、制御装置20、表示装置30を備える。図1に示したように、内視鏡装置10は主に患者4の体内に挿入され、制御装置20が内視鏡装置10の制御と各種処理を行い、表示装置30には患者4の体内の映像が表示される。
内視鏡装置10は、内部に2以上のカメラを有し、表示装置30には立体視可能な左目用の画像と右目用の画像が表示される。立体視可能な画像により、ユーザは患者4の体内の状況をより正確に把握することが可能である。
2以上のカメラに共通するレンズ駆動制御機構を有する内視鏡装置では、例えば、いずれかのカメラが有する合焦調整用レンズを基準レンズとして、基準レンズの移動に合わせて他のカメラの合焦調整用レンズを移動させることで合焦調整が行われる。ここで、各カメラの合焦調整用レンズの位置は製造過程において事前に調整されているが、調整が行われた場合でもカメラ間で誤差の発生を防ぐことは困難である。その結果、基準レンズを用いて合焦調整を行うと、基準レンズを有するカメラ以外のカメラでは高精度に合焦せず、画質の悪い画像が撮像されてしまい、ユーザに提示される画像の画質が左目と右目で異なってしまう場合があった。特に、内視鏡装置などの医療用機器は、被写体に近接して用いられる場合が多く、カメラ間の小さな誤差が大きな画質の差につながる恐れがあった。
一方、人間の視覚に関し、人によって利き目が異なり、利き目により画質の良い画像を提示した方が、利き目により画質の悪い画像を提示するよりも快適な立体視が可能であるという研究が知られている。しかし、従来の内視鏡装置では、上記の基準レンズが例えば設計や製造の段階で予め定められ、例えば、予め定められた基準レンズの合焦状態しか評価を行うことが出来なかった。しかし、ユーザの利き目に対応する側のレンズが基準レンズであるとは限らない。その結果、ユーザによっては利き目により画質の悪い画像が提示されてしまい、ユーザの快適な立体視が阻害される恐れがあった。
そこで、上記事情を一着眼点にして本実施形態を創作するに至った。本実施形態による医療用観察システム1では、制御装置20−1が、ユーザの入力に基づいて選択される基準レンズに対応するフォーカス評価値に基づいて特定された、左右の合焦調整用レンズに共通するレンズ移動パラメータを、内視鏡装置10−1に提供する。内視鏡装置10−1は、当該レンズ移動パラメータに基づいて左右の合焦調整用レンズを移動させることで、ユーザが望むカメラを基準として合焦調整することができる。本実施形態によれば、ユーザにとって快適な立体視が可能である。以下、このような効果を有する本実施形態にかかる内視鏡装置10−1と制御装置20−1の構成について図2,3を参照して順次詳細に説明する。
<1−2.第一の実施形態の構成>
(内視鏡装置)
図2は本実施形態にかかる内視鏡装置10−1の内部構成を模式的に示す説明図である。図2に示すように、内視鏡装置10−1は、左目用及び右目用のカメラ12A,12Bと、レンズ駆動部14−1と、を備える。
カメラ12A,12Bは、画像を取得するカメラモジュールである。図2に示すように、カメラ12A,12Bは、それぞれ合焦調整用レンズ122A,122Bと、撮像素子124A,124Bと、を有する。合焦調整用レンズ122A,122Bは、レンズ駆動部14−1により移動され、カメラ12A,12Bの合焦調整(ピント合わせ)に用いられる。カメラ12Aは右目用の撮像(光から電気的な撮像信号への変換)を行い、撮像素子124Aが右目用の撮像信号(R)を出力する。また、カメラ12Bは左目用の撮像を行い、撮像素子124Bが左目用の撮像信号(L)を出力する。出力される各撮像信号は、後述する制御装置20−1に入力される。
レンズ駆動部14−1は、カメラ12A,12Bの合焦調整用レンズ122A,122Bを移動させるための部位であり、例えばモータにより構成される。レンズ駆動部14−1は後述する制御装置20−1から入力される駆動制御信号により制御され、当該信号に含まれる合焦調整用レンズ122A,122Bに共通するレンズ移動パラメータに基づいて合焦調整用レンズ122A,122Bを移動させる。
カメラ12A,12Bのそれぞれがレンズ駆動部を備える代わりに、カメラ12A,12Bに共通するレンズ駆動制御機構であるレンズ駆動部14−1が設けられることで、内視鏡装置10−1をより小型に実現可能であるという効果がある。
(制御装置)
図3は本実施形態にかかる制御装置20−1(レンズ駆動制御装置)の構成を示す説明図である。図3に示すように、制御装置20−1は、映像処理部21A,21Bと、評価値算出部22−1A,22−1Bと、操作部23と、記憶部24と、選択部25−1と、移動制御部26−1と、を備える情報処理装置である。
映像処理部21A,21Bは、それぞれカメラ12A,12Bから入力された撮像信号を表示装置30が表示可能な映像信号に変換する。例えば、映像処理部21Aは右目用の撮像信号(R)を右目用の映像信号(R)に変換し、映像処理部21Bは左目用の撮像信号(L)を左目用の映像信号(L)に変換する。また、映像処理部21A,21Bは、それぞれ評価値算出部22−1A,22−1Bに撮像信号から取得される画像を提供する。
評価値算出部22−1A,22−1Bは、レンズの合焦状態を示すフォーカス評価値を、合焦調整用レンズ122A,122Bのそれぞれについて算出し、選択部25−1に提供する。フォーカス評価値の種類、及び算出方式は、医療用観察システム1が行うAFの方式によって異なる。
例えば、医療用観察システム1が行うAFの方式は、撮像により得られた画像のコントラストを評価し、当該評価に基づいてコントラストが高くなるように合焦調整を行うコントラストAF方式であってもよい。この場合、評価値算出部22−1A,22−1Bは、画像のコントラスト値に基づいてフォーカス評価値を算出してもよい。
また、医療用観察システム1が行うAFの方式は、レンズから入る光を2分割し、像のズレからピントのズレ具合を評価し、当該評価に基づいて合焦調整を行う位相差AFであってもよい。かかる場合に内視鏡装置10−1が備える画像取得用の撮像素子は、例えばレンズから入る光を2分割して検出する位相差画素を有する、像面位相差撮像素子であってもよい。また、この場合、評価値算出部22−1A,22−1Bは、2分割された像の間隔を計測し、当該間隔に基づいてフォーカス評価値を算出してもよい。
操作部23は、合焦調整用レンズ122A,122Bのうち、合焦調整において基準となる1の基準レンズの選択に関するユーザの入力を受け付ける。ユーザは、例えば、自身の利き目に対応するレンズが基準レンズとなるように入力を行ってもよいし、自身の左右の目のうち視力の高い目に対応するレンズが基準レンズとなるように入力を行ってもよい。ユーザは、自身にとってより快適に立体視可能となるように操作部23を介して基準レンズの選択を行うことが可能である。
記憶部24は、操作部23を介してユーザによって入力された基準レンズの選択に関する選択情報を記憶する。記憶部24が記憶した選択情報は、後述する選択部25−1に提供される。記憶部24が選択情報を記憶し、後述する選択部25−1に提供することで、例えば、同一ユーザが医療用観察システム1を連続して複数回利用する場合に、当該ユーザが二度目以降の利用の際に選択操作を行う手間を省くことが可能である。
選択部25−1は、基準レンズの選択に関する選択情報を記憶部24から読み出し、合焦調整用レンズ122A,122Bの中から、1の基準レンズを選択する。また、選択部25−1は、評価値算出部22−1A,22−1Bからフォーカス評価値を受け取り、選択された基準レンズに対応するフォーカス評価値を移動制御部26−1に提供する。
本実施形態においては、基準レンズが設計や製造の段階で予め定められるのではなく、選択部25−1により動的に選択されるため、例えば、ユーザの利き目に応じて選択が行われることで、当該ユーザにとってより快適に立体視可能となる。
移動制御部26−1は、選択部25−1により選択された基準レンズに対応するフォーカス評価値に基づいて、合焦調整用レンズ122A,122Bに共通するレンズ移動パラメータを特定する。ここで、移動制御部26−1は、フォーカス評価値のうち、基準レンズに対応するフォーカス評価値のみを選択部25−1から受け取り、基準レンズ以外のレンズに対応するフォーカス評価値を用いずに、上記レンズ移動パラメータを特定してもよい。
移動制御部26−1によるレンズ移動パラメータの特定方法は、医療用観察システム1が行うAFの方式に応じて異なる。例えば、移動制御部26−1は、当該AFの方式に応じたフォーカス評価値と適切なレンズ移動量の関係が予め定められたマップを有し、当該マップを参照してレンズ移動パラメータを算出してもよい。
また、移動制御部26−1は、特定されたレンズ移動パラメータの情報を含む駆動制御信号を生成し、内視鏡装置10−1に出力する。
<1−3.第一の実施形態の動作>
以上、本開示の第一の実施形態にかかる医療用観察システム1が有する内視鏡装置10−1と制御装置20−1の構成例について説明した。続いて、図4,5を参照して、本実施形態にかかる医療用観察システム1の動作例について説明する。図4,5は、本実施形態にかかる医療用観察システム1の動作例を示す説明図である。本実施形態にかかる医療用観察システム1は、図4に示す選択情報設定処理と、図5に示すレンズ駆動制御処理を行う。以下では、選択情報設定処理と、レンズ駆動制御処理についてそれぞれ図4、図5を参照して順次詳細に説明する。
(選択情報設定処理)
選択情報設定処理に際し、まず、図4に示すように、操作部23が基準レンズの選択に関するユーザの入力を受け付ける(S102)。ユーザは、例えば、自身の利き目が左であるか右であるかを選択的に入力してもよい。続いて、記憶部24がユーザによって入力された基準レンズの選択に関する選択情報を操作部23から受け取り、記憶する(S104)。ステップS104の以前に既に記憶部24が選択情報を記憶していた場合には、記憶部24に記憶される選択情報はステップS104で記憶部24が新たに操作部23から受け取った選択情報により更新される。
上記の選択情報設定処理は、例えばユーザが医療用観察システム1を用いる前に行われてもよいし、ユーザが医療用観察システム1を用いて患者4の体内を観察中にユーザが基準レンズの変更を希望する場合に行われてもよい。
(レンズ駆動制御処理)
レンズ駆動制御処理に際し、まず、図5に示すように選択部25−1は記憶部24から基準レンズの選択に関する選択情報の読み出しを行う(S202)。基準レンズが左レンズ(合焦調整用レンズ122B)である場合(S204においてYES)、選択部25−1は左レンズに対応するフォーカス評価値を評価値算出部22−1Bから受け取って(選択して)移動制御部26−1に提供する(S206)。一方、基準レンズが右レンズ(合焦調整用レンズ122A)である場合(S204においてNO)、選択部25−1は右レンズに対応するフォーカス評価値を評価値算出部22−1Aから受け取って(選択して)移動制御部26−1に提供する(S208)。
続いて、移動制御部26−1は、上記のようにして選択部25−1から受け取った基準レンズに対応するフォーカス評価値に基づいて、合焦調整用レンズ122A,122Bに共通するレンズ移動パラメータを算出する(S210)。算出されたレンズ移動パラメータは、駆動制御信号に含まれて、移動制御部26−1から、内視鏡装置10−1に出力される。
駆動制御信号を受け取った内視鏡装置10−1のレンズ駆動部14−1は、当該駆動制御信号に含まれるレンズ移動パラメータに基づいて、合焦調整用レンズ122A,122Bを移動させる(S212)。
上記のレンズ駆動制御処理は、繰り返し行われてもよい。例えば、レンズ駆動制御処理は、合焦調整用レンズ122A,122Bに共通するレンズ移動パラメータが所定の閾値以下になるまで、繰り返し行われてもよい。また、その場合、レンズ駆動制御処理が繰り返し行われている期間に図4を参照して説明した選択情報設定処理による選択情報の更新が行われないように、操作部23が当該期間にユーザの入力を拒否する機能を有してもよい。
<1−4.第一の実施形態の効果>
以上、第一の実施形態にかかる内視鏡装置10−1、及び制御装置20−1について詳細に説明した。本実施形態によれば、制御装置20−1は、ユーザの入力に基づいて選択される基準レンズに対応するフォーカス評価値に基づいて特定された、左右の合焦調整用レンズに共通するレンズ移動パラメータを、内視鏡装置10−1に提供する。内視鏡装置10−1は、当該レンズ移動パラメータに基づいて左右の合焦調整用レンズを移動させることで、ユーザにとって快適に立体視可能な画像を取得することができる。
<1−5.第一の実施形態の変形例>
以上、本開示の第一の実施形態について説明した。以下では、本実施形態の幾つかの変形例を説明する。なお、以下に説明する各変形例は、単独で本実施形態に適用されてもよいし、組み合わせで本実施形態に適用されてもよい。また、各変形例は、本実施形態で説明した構成に代えて適用されてもよいし、本実施形態で説明した構成に対して追加的に適用されてもよい。
(変形例1)
上記では、記憶部24が記憶する選択情報は1つであり、操作部23を介してユーザにより新たに選択情報が入力された場合、新たに入力された選択情報によって記憶部24が記憶する選択情報が更新される例を説明したが、本技術は上記の例に限定されない。
例えば、記憶部24は、選択情報を、ユーザごとに当該ユーザに関するユーザ情報(ユーザID)と対応付けて記憶してもよい。図6は、記憶部24が、選択情報を、ユーザごとに当該ユーザに関するユーザIDと対応付けて記憶する場合の選択情報設定処理を説明するための説明図である。
まず、操作部23がユーザIDに関するユーザの入力を受け付け、入力されたユーザIDは記憶部24に記憶(登録)される(S302)。続いて、操作部23は、選択情報の入力を受け付け(S304)、記憶部24は当該ユーザIDと入力された選択情報を対応付けて記憶する(S306)。
上記のユーザごとの選択情報設定処理は、医療用観察システム1を利用するユーザの数だけ繰り返して行われてもよい。図7は、選択情報設定処理が繰り返して行われた後に記憶部24に記憶されるユーザIDと選択情報の対応テーブルの一例を示す説明図である。図7に示すように本変形例における記憶部24はユーザIDごとに1つの選択情報を記憶する。すなわち、記憶部24はユーザIDが複数であればユーザIDの数だけ選択情報を記憶する。
かかる構成によれば、例えば医療用観察システム1がユーザの認証機能を有していた場合、選択情報がユーザIDと対応付けて記憶されかつ認証されたユーザは、基準レンズ選択の手間を省くことが可能である。
(変形例2)
上記では、移動制御部26−1が基準レンズに対応するフォーカス評価値のみを選択部25−1から受け取り、基準レンズ以外のレンズに対応するフォーカス評価値を用いずに、レンズ移動パラメータを特定する例を説明したが、本技術は上記の例に限定されない。
例えば、移動制御部26−1は、基準レンズに対応するフォーカス評価値(基準評価値)と基準レンズ以外のレンズに対応するフォーカス評価値(非基準評価値)の両方に基づいて、合焦調整用レンズ122A,122Bに共通する共通レンズ移動パラメータを特定してもよい。
例えば、移動制御部26−1は、合焦調整用レンズ122A,122Bごとに算出されたフォーカス評価値に基づいて特定されるレンズ移動パラメータの平均値を、合焦調整用レンズ122A,122Bに共通するレンズ移動パラメータとして特定してもよい。なお、この場合、移動制御部26−1は基準レンズの選択情報を利用しないため、制御装置は操作部、記憶部、選択部を有しなくてもよい。かかる構成によれば、左目に対応するレンズと、右目に対応するレンズの両方において同程度に合焦するようなレンズ移動パラメータが特定されるため、両方の目に同程度の画質の画像を提示することが可能である。人間の視覚において、提示される画像の画質が左目と右目で異なると、知覚される奥行き感や立体視での画質が低下することが知られているが、上記のように両方の目に同程度の画質が提示されることで、奥行き感や立体視での画質の低下を軽減することが出来る。
また、移動制御部26−1は、基準評価値に基づいて特定されるレンズ移動パラメータと、非基準評価値に基づいて特定されるレンズ移動パラメータの加重平均を行って取得したパラメータを、共通レンズ移動パラメータとして特定してもよい。特に、移動制御部26−1は、基準評価値に基づいて特定されるレンズ移動パラメータの重みを、非基準評価値に基づいて特定されるレンズ移動パラメータの重みより大きく設定して上記の加重平均を行ってもよい。かかる構成によれば、基準レンズの方が、基準レンズ以外のレンズよりも正確に合焦しつつ、基準レンズ以外のレンズの合焦状態も上記重みに応じて反映されたレンズ移動パラメータが特定される。
(変形例3)
上記では、評価値算出部22−1A,22−1Bがそれぞれフォーカス評価値を算出し、選択部25−1により選択された基準レンズに応じて、いずれかのフォーカス評価値が移動制御部26−1に提供される例を説明したが、本技術はかかる例に限定されない。
例えば、選択部25−1により選択された基準レンズに対応したフォーカス評価値のみが算出されてもよい。また、各レンズに対応したフォーカス評価値に基づいてレンズ移動パラメータが特定され、選択部25−1により選択された基準レンズに対応したレンズ移動パラメータが駆動制御信号に含まれて内視鏡装置10−1に提供されてもよい。
(変形例4)
上記では、基準レンズの選択は、ユーザの入力に基づいて行われる例を説明したが、本技術はかかる例に限定されない。例えば、選択部25−1は、カメラ12A,12Bにより取得される画像に基づいて基準レンズを選択してもよい。
例えば、選択部25−1は、カメラ12A,12Bにより取得された2つの画像に基づいて被写体認識を行い、当該2つの画像における被写体の位置を特定し、被写体の位置に応じて基準レンズを選択してもよい。選択部25−1は、被写体の位置が、当該2つの画像のいずれか、または両方において右側(例えば右半分)に含まれる場合に、右目用の撮像を行うカメラ12Aの合焦調整用レンズ122Aを基準レンズとして選択してもよい。また、選択部25−1は、被写体の位置が当該2つの画像のいずれか、または両方において左側(例えば左半分)に含まれる場合に、左目用の撮像を行うカメラ12Bの合焦調整用レンズ122Bを基準レンズとして選択してもよい。
また、選択部25−1は、カメラ12A,12Bにより取得された2つの画像に基づいて被写体認識を行い、当該2つの画像における被写体の大きさを特定し、被写体の大きさに応じて基準レンズを選択してもよい。選択部25−1は、カメラ12Aにより取得された画像における被写体の大きさが、カメラ12Bにより取得された画像における被写体の大きさよりも大きい場合に、カメラ12Aの合焦調整用レンズ122Aを基準レンズとして選択してもよい。また、選択部25−1は、カメラ12Bにより取得された画像における被写体の大きさが、カメラ12Aにより取得された画像における被写体の大きさよりも大きい場合に、カメラ12Bの合焦調整用レンズ122Bを基準レンズとして選択してもよい。
かかる構成によれば、被写体に応じて自動的に基準レンズが選択されるため、ユーザは基準レンズ選択の手間を省くことが可能である。
<<2.第二の実施形態>>
<2−1.第二の実施形態の概要>
上述した第一の実施形態では、制御装置は左右の合焦調整用レンズに共通するレンズ移動パラメータを出力し、内視鏡装置は、左右の合焦調整用レンズを双方に共通するレンズ移動パラメータに基づいて移動させる。これに対し、以下では、第二の実施形態として、内視鏡装置が左右の合焦調整用レンズを個別に移動させる場合について説明する。
内視鏡装置が左右の合焦調整用レンズを個別に移動させる場合、医療用観察システムは、上記第一の実施形態で説明した左右の合焦調整用レンズを双方に共通するレンズ移動パラメータに基づいて移動させる場合と異なる特徴を有する。そこで、まず、第二の実施形態の比較例として、制御装置が左右の合焦調整用レンズのそれぞれについて独立にレンズ移動パラメータを算出し、内視鏡装置が左右の合焦調整用レンズを個別に移動させる例について図8,9を参照して説明する。
(比較例の構成)
図8は第二の実施形態の比較例にかかる内視鏡装置50の内部構成を模式的に示す説明図である。図8に示すように、内視鏡装置50は、左目用及び右目用のカメラ52A,52Bと、レンズ駆動部54A,54Bと、を備える。
図8に示すように、カメラ52A,52Bは、第一の実施形態にかかるカメラ12A,12Bと同様、合焦調整用レンズ522A,522Bと、撮像素子524A,524Bを有するカメラモジュールである。また、合焦調整用レンズ522A,522Bと、撮像素子524A,524Bの構成は、第一の実施形態にかかる合焦調整用レンズ122A,122B、及び撮像素子124A,124Bの構成と実質的に同一であるため、ここでの説明は省略する。
レンズ駆動部54A,54Bは、それぞれカメラ52A,52Bの合焦調整用レンズ522A,522Bを移動させるための部位であり、例えばモータにより構成される。レンズ駆動部54Aは後述する制御装置60から入力される右目用の駆動制御信号(R)により制御され、当該信号に含まれる右目用のレンズ移動パラメータに基づいて合焦調整用レンズ522Aを移動させる。同様に、レンズ駆動部54Bは、後述する制御装置60から入力される左目用の駆動制御信号(L)により制御され、当該信号に含まれる左目用のレンズ移動パラメータに基づいて合焦調整用レンズ522Bを移動させる。
図9は第二の実施形態の比較例にかかる制御装置60の構成を示す説明図である。図9に示すように、制御装置60は、映像処理部61A,61Bと、評価値算出部62A,62Bと、移動制御部63A,63Bと、を備える情報処理装置である。映像処理部61A,61B、及び評価値算出部62A,62Bの構成は、ぞれぞれ、第一の実施形態にかかる映像処理部21A,21B、及び評価値算出部22−1A,22−1Bの構成と実質的に同一であるため、ここでの説明は省略する。
移動制御部63A,63Bは、評価値算出部62A,62Bにより算出されたフォーカス評価値に基づいて、それぞれ合焦調整用レンズ522A,522Bに対応するレンズ移動パラメータを特定する。フォーカス評価値からレンズ移動パラメータを特定する方法は、第一の実施形態で説明した移動制御部26−1による特定方法と同様である。また、移動制御部63Aは、合焦調整用レンズ522Aに対応するレンズ移動パラメータを含む右目用の駆動制御信号(R)を内視鏡装置50に出力する。同様に、移動制御部63Bは、合焦調整用レンズ522Bに対応するレンズ移動パラメータを含む左目用の駆動制御信号(L)を内視鏡装置50に出力する。
(比較例によるAF制御)
以上、本比較例による内視鏡装置50、及び制御装置60の構成を説明した。上記で説明したように、本比較例において、合焦調整用レンズ522A,522Bに対応するフォーカス評価値、及びレンズ移動パラメータはそれぞれ独立に算出・特定される。したがって、カメラ52A,及びカメラ52Bのそれぞれについて、正確な合焦調整(ピント合わせ)を行うことが可能である。
しかし、カメラ52A,及びカメラ52Bにより取得される画像が制御装置60を介して表示装置に表示される場合、ユーザにとって快適に立体視することが困難な画像が表示されてしまう場合がある。そこで、以下では本比較例によるAF制御の結果、カメラ52A,及びカメラ52Bにより取得される画像の特徴について図10,11を参照して説明する。
図10は、カメラ52A,及びカメラ52Bによる撮影状況の一例を示す説明図である。本来、カメラ52A,及びカメラ52Bは図8を参照して説明したように内視鏡装置50内に存在するカメラであるが、図10では、カメラ52A,及びカメラ52Bは独立したカメラとして模式的に示されている。
図10に示すようにカメラ52A(右カメラ)、及びカメラ52B(左カメラ)は左右に並べられ、物体B1、物体B2を撮影する。図10に示すように、Z軸上での位置を比較すると、左右のカメラは位置Z0に存在し、物体B1は位置Z1,物体B2は位置Z2に存在する。また、位置Z0から位置Z1までの距離は、位置Z0から位置Z2までの距離よりも短い。
図11は、図10に示す撮影状況において、左右のカメラにより取得される画像の一例を示す説明図である。図11に示すように、左カメラ(カメラ52B)により取得された左カメラ画像では、画像中央に物体B2が、画像右側に物体B1が写されている。また、図11に示すように、右カメラ(カメラ52A)により取得された右カメラ画像では、画像中央に物体B1が、画像左側に物体B2が写されている。
ここで、カメラのAF制御では、例えば画面中央付近に写される被写体に合焦するように合焦調整が行われる場合がある。すなわち、左カメラについては、評価枠W1内に含まれる被写体(図11の例では物体B2)に合焦するように合焦調整が行われる。また、右カメラについては、評価枠W2内に含まれる被写体(図11の例では物体B1)に合焦するように合焦調整が行われる。
ここで、表示装置が、上記の図11に示される左カメラ画像と右カメラ画像をそれぞれ左目用画像、右目用画像として表示した場合、左右で合焦している物体が異なってしまう。その結果、ユーザの快適な立体視が阻害される恐れがあった。
そこで、上記事情を一着眼点にして本実施形態を創作するに至った。本実施形態による医療用観察システム1では、制御装置20−2が、基準レンズに対応するフォーカス評価値に基づいて、基準レンズ以外のレンズに対応するフォーカス評価値の算出方法を設定し、レンズごとに算出したレンズ移動パラメータを内視鏡装置10−2に提供する。内視鏡装置10−2は、当該レンズ移動パラメータに基づいて左右の合焦調整用レンズを個別に移動させることで、左右のカメラで同一の被写体に合焦するように合焦調整を行うことができる。本実施形態によれば、左右のカメラで同一の被写体に合焦させることで、ユーザは快適な立体視を行うことが可能である。以下、このような効果を有する本実施形態にかかる内視鏡装置10−2と制御装置20−2の構成について図12,13を参照して順次説明する。
<2−2.第二の実施形態の構成>
第二の実施形態にかかる医療用観察システム1は、図1を参照して説明した第一の実施形態にかかる医療用観察システム1と同様に、内視鏡装置10−2、制御装置20−2、表示装置30を備える。
(内視鏡装置)
図12は本実施形態にかかる内視鏡装置10−2の内部構成を模式的に示す説明図である。図12に示すように、内視鏡装置10−2は、左目用及び右目用のカメラ12A,12Bと、レンズ駆動部14−2A,14−2Bと、を備える。図12に示すカメラ12A,12Bの構成はそれぞれ図2を参照して説明した第一形態にかかるカメラ12A,12Bの構成と実質的に同一であるため説明を省略する。また、図12に示すレンズ駆動部14−2A,14−2Bの構成は、図8を参照して説明した本実施形態の比較例にかかるレンズ駆動部54A,54Bの構成と実質的に同一であるため、ここでの説明は省略する。
図13は本実施形態にかかる制御装置20−2(レンズ駆動制御装置)の構成を示す説明図である。図13に示すように、制御装置20−2は、映像処理部21A,21Bと、評価値算出部22−2A,22−2Bと、操作部23と、記憶部24と、選択部25−2と、移動制御部26−2A,26−2Bと、を備える情報処理装置である。
映像処理部21A,21B、操作部23、及び記憶部24の構成は、図3を参照して説明した第一の実施形態にかかる映像処理部21A,21B、操作部23、及び記憶部24の構成と実質的に同一であるため、ここでの説明は省略する。
評価値算出部22−2A,22−2Bは、レンズの合焦状態を示すフォーカス評価値を、合焦調整用レンズ122A,122Bのそれぞれについて算出し、移動制御部26−2に提供する。なお、本実施形態におけるフォーカス評価値には、図11を参照して説明した評価枠(フォーカス評価値を求めるために用いられる領域)の情報が含まれてもよい。
また、評価値算出部22−2A,22−2Bは、選択部25−2が選択した基準レンズの情報を選択部25−2から受け取り、基準レンズに対応するフォーカス評価値に基づいて、基準レンズ以外のレンズ(非基準レンズ)に対応するフォーカス評価値の算出方法を設定する。例えば、評価値算出部22−2A,22−2Bは、基準レンズに対応するフォーカス評価値の算出に用いられた評価枠に基づいて、非基準レンズに対応するフォーカス評価値の算出に用いる評価枠を設定することで、当該フォーカス評価値の算出方法を設定してもよい。
例えば、選択部25−2が選択した基準レンズが合焦調整用レンズ122Bであった場合、評価値算出部22−2Bは、基準レンズ(合焦調整用レンズ122B)に対応するフォーカス評価値の算出を行う。ここで、算出されるフォーカス評価値の種類、及び算出方式については、第一の実施形態と同様であるため詳細な説明は省略する。また、この時、評価値算出部22−2Aは、評価値算出部22−2Bから基準レンズに対応するフォーカス評価値を受け取り、当該フォーカス評価値の算出に用いられた評価枠に基づいて、合焦調整用レンズ122Aに対応するフォーカス評価値の算出に用いる評価枠を設定する。さらに、評価値算出部22−2Aは、当該評価枠を用いて、非基準レンズである合焦調整用レンズ122Aに対応するフォーカス評価値を算出する。
図11に戻って、上記の評価値算出部22−2A,22−2Bによるフォーカス評価値の算出について具体例を説明する。基準レンズが合焦調整用レンズ122Bであった場合、評価値算出部22−Bは、図11に示す左カメラ画像の中央付近の評価枠W1を用いて合焦調整用レンズ122Bに対応するフォーカス評価値の算出を行う。さらに、評価値算出部22−Aは、評価値算出部22−2Bから基準レンズに対応するフォーカス評価値を受け取り、評価枠W1に対応するように評価枠W3を設定し、当該評価枠W3を用いて合焦調整用レンズ122Aに対応するフォーカス評価値を算出する。なお、評価値算出部22−2Aは、例えば、事前に取得されるカメラ12A,12Bの配置情報や、左右のカメラ画像のステレオマッチングにより得られる奥行き情報などに基づいて、評価枠W1に対応するように評価枠W3を設定してもよい。
上記のように、基準レンズに対応するフォーカス評価値の算出に用いられた評価枠に対応する評価枠を用いて非基準レンズに対応するフォーカス評価値を算出することで、同一の被写体(図11では物体B2)に合焦するように左右のカメラの合焦調整が行われる。左右のカメラが同一の被写体に合焦した状態で撮影することで、ユーザは快適な立体視を行うことが可能である。
選択部25−2は、基準レンズの選択に関する選択情報を記憶部24から読み出し、合焦調整用レンズ122A,122Bの中から、1の基準レンズを選択する。また、選択部25−2は、選択された基準レンズの情報を評価値算出部22−2A,22−2Bに提供する。
本実施形態では、左右のカメラにおいて合焦対象となる被写体は、ユーザの入力に基づく基準レンズに対応する画像の中央付近に写る被写体である。したがって、例えばユーザが利き目に対応する合焦調整用レンズが基準レンズとなるように入力することで、ユーザの利き目に提示される画像の中央付近に写る被写体に左右のカメラが合焦するため、当該ユーザにとってより快適に立体視可能となる。
移動制御部26−2A,26−2Bは、評価値算出部22−2A,22−2Bにより算出されたフォーカス評価値に基づいて、それぞれ合焦調整用レンズ122A,122Bに対応するレンズ移動パラメータを特定する。フォーカス評価値からレンズ移動パラメータを特定する方法は、第一の実施形態で説明した移動制御部26−1による特定方法と同様である。また、移動制御部26−2Aは、合焦調整用レンズ122Aに対応するレンズ移動パラメータを含む右目用の駆動制御信号(R)を内視鏡装置10−2に出力する。同様に、移動制御部26−2Bは、合焦調整用レンズ122Bに対応するレンズ移動パラメータを含む左目用の駆動制御信号(L)を内視鏡装置10−2に出力する。
<2−3.第二の実施形態の動作>
以上、本開示の第二の実施形態にかかる医療用観察システム1が有する内視鏡装置10−2と制御装置20−2の構成例について説明した。続いて、図14を参照して、本実施形態にかかる医療用観察システム1の動作例について説明する。図14は、本実施形態にかかる医療用観察システム1の動作例を示す説明図である。本実施形態にかかる医療用観察システム1は、図14に示すレンズ駆動制御処理を行う。また、本実施形態にかかる医療用観察システム1は選択情報設定処理を行うが、当該処理は図4を参照して説明した第一の実施形態にかかる医療用観察システム1が行う選択情報設定処理と同様であるため、説明は省略する。以下では、レンズ駆動制御処理について図14を参照して詳細に説明する。
まず、図14に示すように、選択部25−2は記憶部24から基準レンズの選択に関する選択情報の読み出しを行う(S402)。基準レンズが左レンズ(合焦調整用レンズ122B)である場合(S404においてYES)、選択部25−2は左レンズを基準レンズとして選択し、選択された基準レンズの情報を評価値算出部22−2A,22−2Bに提供する(S406)。一方、基準レンズが右レンズ(合焦調整用レンズ122A)である場合(S404においてNO)、選択部25−2は右レンズを基準レンズとして選択し、選択された基準レンズの情報を評価値算出部22−2A,22−2Bに提供する(S408)。
続いて、評価値算出部22−2A,22−2Bのうち、基準レンズに対応する評価値算出部は、基準レンズの評価値を算出する(S410)。さらに、もう一方の(非基準レンズに対応する)評価値算出部は、基準レンズの評価値の算出に用いられた評価枠に基づいて、非基準レンズの算出に用いる評価枠を設定し(S412)、非基準レンズに対応するフォーカス評価値を算出する(S414)。
続いて、移動制御部26−2A,26−2Bは、それぞれ評価値算出部22−2A,22−2Bからフォーカス評価値を受け取り、それぞれ合焦調整用レンズ122A、122Bに対応するレンズ移動パラメータを算出する(S416)。算出されたレンズ移動パラメータは、駆動制御信号(R)、駆動制御信号(L)に含まれて、移動制御部26−2A,26−2Bから、内視鏡装置10−2に出力される。
駆動制御信号(R)、駆動制御信号(L)を受け取った内視鏡装置10−2のレンズ駆動部14−2A、14−2Bは、各駆動制御信号に含まれるレンズ移動パラメータに基づいて、合焦調整用レンズ122A,122Bを移動させる(S418)。
上記で説明した本実施形態にかかるレンズ駆動制御処理は、第一実施形態にかかるレンズ駆動制御処理と同様に、繰り返し行われてもよい。
<2−4.第二の実施形態の効果>
以上、第二の実施形態にかかる内視鏡装置10−2、及び制御装置20−2について詳細に説明した。本実施形態によれば、制御装置20−2は、基準レンズに対応するフォーカス評価値に基づいて、基準レンズ以外のレンズに対応するフォーカス評価値の算出方法を設定し、レンズごとに算出したレンズ移動パラメータを内視鏡装置10−2に提供する。内視鏡装置10−2は、当該レンズ移動パラメータに基づいて左右の合焦調整用レンズを個別に移動させることで、左右のカメラで同一の被写体に合焦するように合焦調整を行い、ユーザにとって快適に立体視可能な画像を取得することができる。
なお、第一の実施形態において説明した各変形例を第二の実施形態に適用することも可能である。
<<3.第三の実施形態>>
<3−1.第三の実施形態の概要>
図1に示したような医療用観察システム1において、内視鏡装置10は例えば人間の手などにより固定される場合がある。医療用観察システム1を用いて患者4の体内を観察中に人間の手により固定された内視鏡装置10が動いて(振動して)しまうと、内視鏡装置10により取得される映像に手ぶれが生じる。その結果、表示装置30に表示される映像を観察するユーザにとって、快適に観察することが困難となる。
従来、カメラの手振れによる影響を軽減させる方法として、撮影後に画像を補正する電子式手振れ補正が行われている。例えば、過去の画像を参照し、過去の画像と現在の画像との差分を打ち消すように現在の画像に対する射影変換が行われることで、補正(手振れの影響が軽減)される。
しかし、生じた手振れによっては、電子式手振れ補正における射影変換により大きく画質が劣化してしまう場合があった。特に、ユーザの利き目に提示される画像の画質が劣化した場合には、ユーザの快適な立体視を大きく阻害する恐れがあった。
また、内視鏡装置10のように2つのカメラを有する場合、映像を観察するユーザは、左右の目で異なる映像を観察しているため、1つのカメラで撮影された映像を観察する場合よりも手振れに起因する疲労を感じやすい。特に、カメラ間で手振れ量が異なる場合には、垂直方向の対応にずれが生じ、立体視が困難になるため、さらに疲労感が増すことがあった。
図15〜17を参照して、左右に配置された2つのカメラ(Lカメラ、Rカメラ)を有する内視鏡装置におけるカメラ間の手振れ量の違いについて説明する。なお、本来、内視鏡装置は2つのカメラを内部に有するが以下では、模式的にLカメラ(左カメラ)とRカメラ(右カメラ)が個別のカメラであるとして説明する。ただし、LカメラとRカメラの相対的な配置は固定されており、振動等により各カメラが移動した場合も、LカメラとRカメラの相対的な配置(位置関係)は変動しないものとする。
図15〜17は、時刻T0から時刻T1にかけて、LカメラとRカメラに生じる手振れを説明するための説明図である。図15はLカメラとRカメラの後方から見た模式図であり、図16は、LカメラとRカメラの上方から見た模式図である。また、図17は、Lカメラのセンサと、Rカメラのセンサにおける、手振れ量を示す説明図である。
図15に示すセンサ面SlT0、SlT1は、それぞれ時刻T0と時刻T1におけるLカメラのセンサ面であり、センサ面SrT0、SrT1は、それぞれ時刻T0と時刻T1におけるRカメラのセンサ面である。また、図15,16に示す点ClT0、ClT1は、それぞれ時刻T0と時刻T1におけるLカメラ中心であり、点CrT0、CrT1は、それぞれ時刻T0と時刻T1におけるRカメラ中心である。
各カメラにおいて、ある実空間内の点に対応するセンサ面上の点は、当該カメラ中心と当該実空間内の点を結んだ線と当該カメラのセンサ面が交差する点である。例えば、図15〜17に示す点MlT0、MlT1は、それぞれ時刻T0と時刻T1において、実空間内の点Pに対応するLカメラのセンサ面上の点である。また、同様に、図15〜17に示す点MlT0、MlT1は、それぞれ時刻T0と時刻T1において、実空間内の点Pに対応するRカメラのセンサ面上の点である。
図15,16に示すように、時刻T0から時刻T1の間で2つのカメラが移動した(振動した)場合、図17に示すように、各カメラで手振れ量(センサ面上の同一点の移動量)が異なる。したがって、片方のカメラに対する手振れ補正を、そのまま他のカメラに適用した場合、当該他のカメラの手振れ量が打ち消されるとは限らない。また、カメラ毎に異なる手振れ量を打ち消すような補正を行うために、カメラ毎に独立に手振れ補正を行った場合、補正後の画像が融像(人間が左右の画像を一つの像として認識する事)しづらいことが知られている。
そこで、上記事情を一着眼点にして本実施形態を創作するに至った。本実施形態による医療用観察システム1では、制御装置20−3が、ユーザの入力に基づいて選択される基準カメラについて、画質劣化が少ない手振れ補正を行い、基準カメラ以外のカメラについて、基準カメラの手振れ補正に合わせた手振れ補正を行う。ここで、図18を参照して、本実施形態による手振れ補正の概要を説明する。
図18は、LカメラとRカメラの上方から見た模式図である。本実施形態による手振れ補正では、完全に手振れを除去するのではなく、例えば、並進(水平・垂直方向の移動)に関する手振れのみを除去することにより、画質劣化の少ない手振れ補正を行う。図18に示すように、本実施形態による手振れ補正では、時刻T0から時刻T1にかけてのカメラの動きのうち、並進に関する動きのみが打ち消され、回転、及び拡縮(前後方向の移動)成分の動きは残る。
本実施形態によれば、上記のような基準カメラの手振れ補正により、画質劣化が抑制されてユーザは快適な立体視を行うことが可能であり、上記のような基準カメラ以外カメラの手振れ補正により、補正後の画像を融像しやすくすることが可能である。以下、このような効果を有する本実施形態にかかる制御装置20−3の構成について図19,20を参照して詳細に説明する。
<3−2.第三の実施形態の構成>
(制御装置)
図19は、本実施形態にかかる医療用観察システム1が有する制御装置20−3の構成を示す説明図である。図19に示すように、制御装置20−3は、操作部23−3と、記憶部24−3と、選択部25−3と、補正制御部27とフレームバッファ28A,28Bと、を備える情報処理装置である。
操作部23−3は、内視鏡装置10が有する2つのカメラ(Lカメラ、Rカメラ)のうち、手振れ補正において基準となる1の基準カメラの選択に関するユーザの入力を受け付ける。ユーザは、例えば、自身の利き目に対応するカメラが基準カメラとなるように入力を行ってもよいし、自身の左右の目のうち視力の高い目に対応するカメラが基準カメラとなるように入力を行ってもよい。ユーザは、自身にとってより快適に立体視可能となるように操作部23−3を介して基準カメラの選択を行うことが可能である。
記憶部24−3は、操作部23−3を介してユーザによって入力された基準カメラの選択に関する選択情報を記憶する。記憶部24−3が記憶した選択情報は、後述する選択部25−3に提供される。記憶部24−3が選択情報を記憶し、後述する選択部25−3に提供することで、例えば、同一ユーザが医療用観察システム1を連続して複数回利用する場合に、当該ユーザが二度目以降の利用の際に選択操作を行う手間を省くことが可能である。
選択部25−3は、基準カメラの選択に関する選択情報を記憶部24−3から読み出し、内視鏡装置10が有する2つのカメラの中から、1の基準カメラを選択する。また、選択部25−3は、選択された基準カメラの情報を補正制御部27に提供する。
補正制御部27は、内視鏡装置10が有する2つのカメラから現在の画像(撮像信号)を、フレームバッファ28A,28Bから過去の補正後の画像を受け取り、現在の画像に対して手振れ補正を行う。また、補正制御部27は、補正後の映像を表示装置30が表示可能な左目用の映像信号(L)と右目用の映像信号(R)に分けて出力する。また、補正制御部27は、補正後の右目用画像をフレームバッファ28Aに提供し、補正後の左目用画像をフレームバッファ28Bに提供する。補正制御部27の詳細な構成については後述する。
フレームバッファ28A,28Bは、内視鏡装置10が有する2つのカメラからそれぞれ撮像信号(R)、撮像信号(L)を受け取り記憶する。また、フレームバッファ28A,28Bは、補正後の画像を補正制御部27から受け取り記憶する。また、フレームバッファ28A,28Bは、過去の補正後の画像を補正制御部27に提供する。フレームバッファ28A,28Bは、所定期間経過した過去の画像、または過去の補正後の画像が自動的に削除されるような仕組みを有してもよい。
(補正制御部)
以上、本実施形態にかかる医療用観察システム1が有する制御装置20−3の構成を説明した。続いて、制御装置20−3が備える補正制御部27の詳細な構成について図20を参照して説明する。
図20は、補正制御部27の構成を示す説明図である。図20に示すように、補正制御部27は、動き検出部271、判定部272、基準カメラ補正情報取得部273(第一の補正情報取得部)、非基準カメラ補正情報取得部274(第二の補正情報取得部)、補正部275、内部パラメータ算出部276、外部パラメータ算出部277、対応画素算出部278、及び奥行推定部279を有する。
動き検出部271は、選択部25―3により選択された基準カメラの動きを検出する。例えば、動き検出部271は、基準カメラにより取得された現在の画像と、過去に基準カメラにより取得された画像に対して手振れ補正を行った後の画像(過去の補正後の画像)を比較して、基準カメラの動きを検出してもよい。例えば動き検出部271は、現在の画像と、過去の補正後の画像から検出されるコーナー点などの特徴点について、画像間で追跡を行うことで基準カメラの動きを検出する。画像間で特徴点を追跡して動きを検出する方法としては、例えばLukas−Kanade法などが用いられてもよい。また、動き検出部271により検出される基準カメラの動きは、並進成分、回転成分、及び拡縮成分を含んでもよい。
また、動き検出部271は、検出された基準カメラの動きを、判定部272、及び基準カメラ補正情報取得部273に提供する。
判定部272は、動き検出部271により検出された基準カメラの動きが閾値より小さいか否かを判定し、判定結果を補正部275に提供する。判定部272は、例えば、基準カメラの動きに含まれる、並進成分(垂直・水平方向の移動)、回転成分、及び拡縮成分(前後方向の移動)のそれぞれについて、各成分に対応する閾値より小さいか否かを判定してもよい。
基準カメラ補正情報取得部273は、動き検出部271により検出された基準カメラの動きを減殺する基準カメラ補正情報(第一の補正情報)を取得し、補正部275に提供する。
例えば、基準カメラ補正情報取得部273は、基準カメラの動きのうち、並進成分(水平・垂直方向の移動)を減殺し、回転成分と拡縮成分を維持するように基準カメラ補正情報を取得してもよい。例えば、基準カメラ補正情報取得部273が取得する基準カメラ補正情報は、基準カメラにより取得される画像を垂直移動させるための垂直パラメータと、水平移動させるための水平パラメータとを含む情報であってもよい。上記のような基準カメラ補正情報を用いて補正が行われた場合、回転成分や拡縮成分を減衰させる(維持しない)補正が行われた場合と比べて、基準カメラに対応する補正後の画像に生じる画質劣化が生じにくいという効果が得られる。なお、内視鏡を利用して患者の体内を観察する際、発生するカメラの動きは並進成分が主である場合が多いため、上記のような補正情報を用いて補正が行われることで、十分な手振れ除去効果が発揮されることが多い。
特に、基準カメラ補正情報取得部273は、上記の垂直移動と水平移動が、整数画素単位の移動になるような垂直パラメータと、水平パラメータを含む基準カメラ補正情報を取得してもよい。例えば、基準カメラ補正情報取得部273は、基準カメラの動きのうち並進成分を相殺する垂直移動と水平移動を算出した後、各方向の移動に対して切り捨て、切り上げ、四捨五入などの端数処理を行って各パラメータを算出してもよい。上記のような基準カメラ補正情報を用いて補正が行われた場合、基準カメラに対応する補正後の画像に生じる画質劣化がより生じにくいという効果が得られる。
なお、基準カメラ補正情報取得部273が取得する基準カメラ補正情報は、画像の射影変換に用いることが可能な変換行列の形式であってもよい。
非基準カメラ補正情報取得部274は、基準カメラ補正情報取得部273とは異なる方法で、内視鏡装置10が有する2つのカメラに含まれる基準カメラ以外のカメラ(非基準カメラ)の動きを減殺する非基準カメラ補正情報(第二の補正情報)を取得する。また、非基準カメラ補正情報取得部274は、取得した非基準カメラ補正情報を補正部275に提供する。
例えば、非基準カメラ補正情報取得部274は、基準カメラにより取得される画像と、非基準カメラにより取得される画像の間での対応画素に関する対応画素情報に基づいて、非基準カメラ補正情報を取得してもよい。例えば、非基準カメラ補正情報は非基準カメラにより取得される画像の各画素を垂直移動させるための垂直パラメータを含んでもよい。さらに、非基準カメラ補正情報取得部274は、対応画素において基準カメラ補正情報に含まれる垂直パラメータと、非基準カメラ補正情報に含まれる垂直パラメータが同一になるように非基準カメラ補正情報を取得してもよい。かかる構成によれば、基準カメラと非基準カメラのそれぞれにより取得される画像の間で、補正による対応画素の垂直方向の移動が同一となるため、補正後の画像が融像しやすくなる。なお、上記の対応画素情報は、後述する奥行推定部279から非基準カメラ補正情報取得部274に提供されてもよい。
また、非基準カメラ補正情報取得部274は、上記対応画素情報に加え、内視鏡装置10が有する2つのカメラの校正情報と、当該2つのカメラで撮影される被写体の奥行き情報にさらに基づいて、非基準カメラ補正情報を取得してもよい。上記校正情報には、各カメラの焦点距離等の情報を含む内部パラメータと、カメラ間の相対的な位置と姿勢の関係の情報を含む外部パラメータが含まれてもよい。上記の情報に基づいた非基準カメラ補正情報の取得方法の例については図22〜25を参照して後述する。なお、上記内部パラメータは後述する内部パラメータ算出部276から、上記外部パラメータは後述する外部パラメータ算出部277から、非基準カメラ補正情報取得部274に提供されてもよい。
補正部275は、判定部272により基準カメラの動きが閾値より小さいと判定された場合に、基準カメラ補正情報に基づいて基準カメラにより取得される画像の補正を行う。基準カメラの動きのうち、並進成分が大きい場合、基準カメラ補正情報に基づく補正を行うと、補正により画像が大きく移動し、例えば表示装置30に表示されなくなってしまう(画像の一部または全部が画面外に移動してしまう)恐れがある。また、基準カメラの動きのうち、回転成分、及び拡縮成分が大きい場合、回転成分と拡縮成分を維持する基準カメラ補正情報に基づく補正では、十分に手振れの影響を除去できない。そこで、補正部275は、判定部272により基準カメラの動きが閾値以上であると判定された場合、各画像に対する補正を行わなくともよい。かかる構成によれば、基準カメラの動きが大きい場合に、手振れの影響は残るものの、画質の劣化なく、正常に画像が表示される。
また、補正部275は、判定部272により基準カメラの動きが閾値より小さいと判定された場合に、非基準カメラ補正情報に基づいて非基準カメラにより取得される画像の補正を行う。ここで、補正部275が行う非基準カメラにより取得される画像の補正は、基準カメラにより取得される画像の補正と比べて、画質の劣化が大きくてもよい。かかる構成によれば、ユーザの入力に基づいて選択された基準カメラに対応する補正後画像は、非基準カメラに対応する補正後画像より画質劣化が少なく表示される。
内部パラメータ算出部276は、内視鏡装置10が有する各カメラの内部パラメータを算出する。例えば、内部パラメータ算出部276は、既知の校正用図形パターンを各カメラが撮影して得られた画像から、内部パラメータを算出してもよい。内部パラメータ算出部276により算出された内部パラメータは、非基準カメラ補正情報取得部274と、奥行推定部279に提供される。
外部パラメータ算出部277は、内視鏡装置10が有する2つのカメラ間の相対的な位置と姿勢の関係の情報を含む外部パラメータを算出する。例えば、外部パラメータ算出部277は、既知の校正用図形パターンを当該2つのカメラが撮影して得られた画像から、外部パラメータを算出してもよい。外部パラメータ算出部277により算出された外部パラメータは、非基準カメラ補正情報取得部274と、奥行推定部279に提供される。
対応画素算出部278は、基準カメラにより取得される画像と、非基準カメラにより取得される画像の間で画素の対応を算出し、対応画素情報を取得する。対応画素算出部278は、例えばブロックマッチング法等により、画像間で画素の対応を算出してもよい。取得された対応画素情報は、奥行推定部279に提供される。
奥行推定部279は、対応画素情報、内部パラメータ、外部パラメータに基づいて、奥行き情報を取得する。また、奥行推定部279は、対応画素情報と、奥行き情報を非基準カメラ補正情報取得部274に提供する。
<3−3.第三の実施形態の動作>
以上、本開示の第三の実施形態にかかる医療用観察システム1が有する制御装置20−3の構成例について説明した。続いて、図21〜25を参照して、本実施形態にかかる医療用観察システム1の動作例について説明する。図21は、本実施形態にかかる医療用観察システム1による手振れ補正の動作例を示す説明図である。本実施形態にかかる医療用観察システム1は、選択情報設定処理と、図21に示す手振れ補正処理を行うが、選択情報設定処理は図4を参照して説明した第一の実施形態にかかる医療用観察システム1が行う選択情報設定処理と同様であるため、説明は省略する。図22〜25は、本実施形態にかかる医療用観察システム1による手振れ補正のうち、非基準カメラ補正情報取得部274による非基準カメラ補正情報の取得方法の一例を説明するための説明図である。以下では、本実施形態にかかる医療用観察システム1による手振れ補正の動作例について図21を参照して説明した後、非基準カメラ補正情報取得部274による非基準カメラ補正情報の取得方法の一例について図22〜25を参照して説明する。
(手振れ補正処理)
まず、図21に示すように、対応画素算出部278が、基準カメラにより取得される画像と、非基準カメラにより取得される画像の間で画素の対応を算出し、対応画素情報を取得する(S502)。続いて、奥行推定部279が、対応画素情報、内部パラメータ、外部パラメータに基づいて、奥行き情報を取得する(S504)。
続いて、選択部25−3は記憶部24−3から基準カメラの選択に関する選択情報の読み出しを行い、補正制御部27に提供する(S506)。選択情報を受け取った補正制御部27の動き検出部271は、基準カメラにより取得された画像と、フレームバッファ28Aまたは28Aから読み出された基準カメラの過去の補正後の画像に対し、ノイズ除去などの事前処理を行う(S508)。続いて、動き検出部271は、上記の画像についてコーナー点などの特徴点を検出する(S510)。さらに、動き検出部271は、Lukas−Kanade法などにより、上記画像間で特徴点を追跡し、基準カメラの動きを検出する(S512)。ここで、動き検出部271は、基準カメラの動きを成分ごとに算出してもよい。
続いて、基準カメラ補正情報取得部273が、基準カメラの動きに基づいて、基準カメラ補正情報を取得する(S514)。さらに、判定部272が基準カメラの動き(移動量)が閾値より小さいか否かを判定する(S516)。判定部272により、基準カメラの動きが閾値以上であると判定された場合(S516においてNO)、各画像に対する補正が行われず、手振れ補正処理は終了する。
一方、判定部272により、基準カメラの動きが閾値より小さいと判定された場合(S516においてYES)、補正部275は、基準カメラ補正情報に基づいて、基準カメラの撮影により取得された画像に対して画質劣化の少ない補正を行う(S518)。
続いて、非基準カメラ補正情報取得部274は、非基準カメラ補正情報を取得する(S520)。このステップS520の非基準カメラ補正情報取得処理については図22〜図25を参照して後述する。
最後に、補正部275は、非基準カメラ補正情報に基づいて、非基準カメラの撮影により取得された画像に対して補正を行う(S522)。
(非基準カメラ補正情報取得処理)
以上、本実施形態にかかる医療用観察システム1による手振れ補正の動作例を説明した。続いて、上記で説明した手振れ補正処理のうち、ステップS520の非基準カメラ補正情報取得処理における非基準カメラ補正情報の取得方法について図22〜図25を参照して説明する。図22〜25は、本実施形態にかかる非基準カメラ補正情報の取得方法の一例を説明するための説明図である。
図22は実空間内の点Pを撮影するLカメラとRカメラを後方から見た模式図である。図22に示すCl、及びCrは、それぞれLカメラ中心、及びRカメラ中心である。
図22に示す点Ml、及び点Mrは、それぞれ、実空間内の同一点Pに対応するLカメラ、及びRカメラのセンサ面上の点であり、点Mlと点Mrは対応画素であるといえる。
ここで、2つのカメラセンサ面上の点Mlと点Mrの斉次座標m、mの関係は、内部パラメータ、外部パラメータから得られる基礎行列Fを用いて、次式で表される。
Figure 2016158119
ここで、mが与えられたとき、上式を用いてmを一意に特定することはできない。図23は、点Mlの斉次座標mが与えられたとき、上式を用いて特定される、Rカメラのセンサ面上の点Mrの候補の例を示す説明図である。図23に示すように、点Mrがある直線上に存在する事しか特定できない。すなわち、図22に示す点P,P’P’’等に対応する点Mr,Mr’Mr’’等の直線上の無数の点が候補となる。
そこで、さらに奥行情報を用いて、mを特定する。図24は、実空間内の点Pを撮影するLカメラとRカメラを後方から見た模式図である。図24に示す点Ml,Mr,Cl,Crはそれぞれ図22を参照して説明した点Ml,Mr,Cl,Crと同様であるため説明は省略する。
ここで、Lカメラ中心Clを中心とした三次元座標系から見た実空間上の点Pの座標をp、Rカメラ中心Crを中心とした三次元座標系から見た実空間上の点Pの座標をpとする。p、pの関係は、LカメラとRカメラ間の外部パラメータ行列[R|t]を用いて、次式で表される。なお、Rは回転成分を示す行列であり、tは並進・拡縮成分を示す行列である。
Figure 2016158119
また、pと、点Pに対応するセンサ面上の斉次座標mの関係は、Lカメラの内部パラメータ行列Aを用いて、一般に次式の関係がある。なお、hはLカメラにおける点Pの奥行き値に応じて変化する係数である。
Figure 2016158119
また、pとmについても同様に次式が成り立つ。なお、hはRカメラにおける点Pの奥行き値に応じて変化する係数である。
Figure 2016158119
数式(2)〜(4)をmについて解くと、次式の関係が得られる。
Figure 2016158119
ここで係数hは奥行き情報から得られる点Pの各カメラにおける奥行き値から特定することが可能である。また、行列Hは、内部パラメータ、外部パラメータから上記のように特定される。したがって、mが与えられたとき、上記のようにして、内部パラメータ、外部パラメータ、奥行情報に基づいてmを求めることが可能である。以上を非基準カメラ補正情報取得処理における非基準カメラ補正情報の取得に適用することが可能である。
例えば、Lカメラが基準カメラの場合、mを基準カメラの補正後の画像における各画素の斉次座標とすれば、非基準カメラの補正後の画像におけるmに対応する対応画素の斉次座標がmとして算出される。図25は、点Mrに対応する非基準カメラの補正量を示す説明図である。図25に示す点Mr0は点Pが対応する非基準カメラのセンサ面上の補正前の点である。したがって、図25に示すように、点Mrに対応する非基準カメラの補正量は、水平方向にΔx、垂直方向にΔyとして取得される。非基準カメラの全ての画素に対して以上のように補正量を取得することで、非基準カメラ補正情報を取得することが可能である。なお、Rカメラが基準カメラである場合も、同様にして非基準カメラ補正情報を取得できる。
<3−4.第三の実施形態の効果>
以上、第三の実施形態にかかる制御装置20−3について詳細に説明した。本実施形態によれば、制御装置20−3は、ユーザの入力に基づいて選択される基準カメラについて、画質劣化が少ない手振れ補正を行い、非基準カメラについて、基準カメラの手振れ補正に合わせた手振れ補正を行う。画質劣化が少ない基準カメラの手振れ補正により、ユーザは快適な立体視を行うことが可能である。また、基準カメラの手振れ補正に合わせた非基準カメラの手振れ補正により、補正後の画像を融像しやすくすることが可能である。
<3−5.第三の実施形態の変形例>
以上、本開示の第三の実施形態について説明した。以下では、本実施形態の幾つかの変形例を説明する。なお、以下に説明する各変形例は、単独で本実施形態に適用されてもよいし、組み合わせで本実施形態に適用されてもよい。また、各変形例は、本実施形態で説明した構成に代えて適用されてもよいし、本実施形態で説明した構成に対して追加的に適用されてもよい。
(変形例1)
第一の実施形態にかかる変形例1と同様に、本実施形態にかかる記憶部24−3が記憶する選択情報は1つに限られない。例えば、本実施形態にかかる記憶部24−3は、選択情報を、ユーザごとに当該ユーザに関するユーザ情報と対応付けて記憶してもよい。かかる構成によれば、例えば医療用観察システム1がユーザの認証機能を有していた場合、選択情報がユーザIDと対応付けて記憶されかつ認証されたユーザは、基準カメラ選択の手間を省くことが可能である。
(変形例2)
上記では、補正部275は、判定部272により基準カメラの動きが閾値以上であると判定された場合、補正を行わない例を説明したが、本技術は上記に限定されない。例えば、判定部272により基準カメラの動きのうち、回転成分、及び拡縮成分が閾値以上であると判定された場合、補正部275は、並進成分に加え、回転成分と拡縮成分も打ち消すような補正を行ってもよい。かかる構成によれば、補正による画質の劣化が大きくなる代わりに、基準カメラの動きが大きい場合でも手振れ補正を行うことが可能である。
(変形例3)
第一の実施形態にかかる変形例4における基準レンズの選択と同様に、本実施形態にかかる基準カメラの選択は、ユーザの入力に基づいて行われる例に限定されない。例えば、本実施形態に係る選択部25−3は、内視鏡装置10が有する2つのカメラにより取得される画像に基づいて基準レンズを選択してもよい。
例えば、選択部25−3は、第一の実施形態にかかる変形例4で説明した基準レンズの選択と同様に、2つのカメラにより取得された2つの画像に基づいて被写体認識を行い、被写体の位置、または被写体の大きさに応じて基準カメラを選択してもよい。被写体の位置、及び被写体の大きさに応じた基準カメラの選択は、第一の実施形態にかかる変形例4で説明した基準レンズの選択と同様であるため、説明を省略する。
かかる構成によれば、被写体に応じて自動的に基準カメラが選択されるため、ユーザは基準カメラ選択の手間を省くことが可能である。
<<4.ハードウェア構成例>>
以上、本開示の各実施形態と各変形例を説明した。上述した選択情報設定処理、駆動制御処理、手振れ補正処理などの情報処理は、ソフトウェアと、以下に説明する制御装置20(制御装置20−1、20−2、20−3)のハードウェアとの協働により実現される。
図26は、制御装置20のハードウェア構成を示す説明図である。図26に示したように、制御装置20は、CPU(Central Processing Unit)201と、ROM(Read Only Memory)202と、RAM(Random Access Memory)203と、入力装置204と、出力装置205と、ストレージ装置206と、通信装置207とを備える。
CPU201は、演算処理装置及び制御装置として機能し、各種プログラムに従って制御装置20内の動作全般を制御する。また、CPU201は、マイクロプロセッサであってもよい。ROM202は、CPU201が使用するプログラムや演算パラメータなどを記憶する。RAM203は、CPU201の実行において使用するプログラムや、その実行において適宜変化するパラメータなどを一時記憶する。これらはCPUバスなどから構成されるホストバスにより相互に接続されている。主に、CPU201、ROM202及びRAM203とソフトウェアとの協働により、例えば映像処理部21A,21B,移動制御部26−1,26−2A,26−2B、補正制御部27等の機能が実現される。
入力装置204は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU201に出力する入力制御回路などから構成されている。制御装置20のユーザは、該入力装置204を操作することにより、制御装置20に対して各種のデータを入力したり処理動作を指示したりすることができる。入力装置204は、操作部23、23−3に対応する。
出力装置205は、例えば、液晶ディスプレイ(LCD)装置、OLED装置及びランプなどの表示装置を含む。さらに、出力装置205は、スピーカ及びヘッドホンなどの音声出力装置を含む。例えば、表示装置は、撮像された画像や生成された画像などを表示する。一方、音声出力装置は、音声データなどを音声に変換して出力する。
ストレージ装置206は、データ格納用の装置である。ストレージ装置206は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置及び記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。ストレージ装置206は、CPU201が実行するプログラムや各種データを格納する。ストレージ装置206は、記憶部24に対応する。
通信装置207は、例えば、通信網に接続するための通信デバイスなどで構成された通信インタフェースである。また、通信装置207は、無線LAN(Local Area
Network)対応通信装置、LTE(Long Term Evolution)対応通信装置、有線による通信を行うワイヤー通信装置、またはブルートゥース通信装置を含んでもよい。
<<5.むすび>>
以上説明したように、本開示の実施形態によれば、ユーザが快適に立体視を行うことが可能である。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記実施形態では、医療用観察システムが内視鏡装置を有し、撮像素子を有するカメラ(撮像部)を備える内視鏡装置により撮影が行われる例を説明したが、本技術はかかる例に限定されない。例えば、内視鏡装置に代わり、2以上のカメラを有する他の装置が撮影を行ってもよい。例えば、内視鏡装置に代わり、顕微鏡像を撮影する2以上のカメラ(撮像部)を有するビデオ顕微鏡を備える医療用観察システムに本技術が適用されてもよい。
また、上記実施形態では、内視鏡装置、制御装置、表示装置を有する医療用観察システムの例を説明したが、本技術はかかる例に限定されない。例えば、本開示の実施形態は、上記の内視鏡装置、制御装置、表示装置の機能を有する一つの医療用観察装置であってもよい。また、本開示の実施形態は、上記のビデオ顕微鏡、制御装置、表示装置の機能を有する一つのビデオ顕微鏡装置であってもよい。
また、本実施形態によれば、CPU201、ROM202、及びRAM203などのハードウェアを、上述した制御装置20の各構成と同様の機能を発揮させるためのコンピュータプログラムも提供可能である。また、該コンピュータプログラムが記録された記録媒体も提供される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示にかかる技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
2以上のカメラの中から1の基準カメラを選択する選択部と、
前記基準カメラの動きを検出する動き検出部と、
前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、
前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、
を備える、医療用観察装置。
(2)
前記基準カメラの動きは、並進成分、回転成分、拡縮成分を含み、
前記第一の補正情報取得部は、前記基準カメラの動きのうち、並進成分を減殺し、回転成分と拡縮成分を維持するように前記第一の補正情報を取得する、前記(1)に記載の医療用観察装置。
(3)
前記基準カメラの動きが閾値より小さいか否かを判定する判定部をさらに備える、前記(1)または(2)に記載の医療用観察装置。
(4)
前記判定部により前記基準カメラの動きが前記閾値より小さいと判定された場合に、前記第一の補正情報に基づいて前記基準カメラにより取得される画像の補正を行う補正部をさらに備える、前記(3)に記載の医療用観察装置。
(5)
前記第一の補正情報取得部が取得する前記第一の補正情報は、前記基準カメラにより取得される画像を垂直移動させるための垂直パラメータと、水平移動させるための水平パラメータと、を含む情報である、前記(1)〜(4)のいずれか一項に記載の医療用観察装置。
(6)
前記第一の補正情報取得部は、前記垂直移動と前記水平移動が整数画素単位の移動になるような前記垂直パラメータと、前記水平パラメータを含む前記第一の補正情報を取得する、前記(5)に記載の医療用観察装置。
(7)
前記第二の補正情報取得部は、前記基準カメラにより取得される画像と、前記2以上のカメラに含まれる前記基準カメラ以外のカメラにより取得される画像の間での対応画素に関する対応画素情報に基づいて、前記第二の補正情報を取得する、前記(5)または(6)に記載の医療用観察装置。
(8)
前記第二の補正情報は、前記2以上のカメラに含まれる前記基準カメラ以外のカメラにより取得される画像の各画素を垂直移動させるための垂直パラメータを含み、
前記第二の補正情報取得部は、前記対応画素において、前記第一の補正情報に含まれる垂直パラメータと、前記第二の補正情報に含まれる垂直パラメータが同一になるように前記第二の補正情報を取得する、前記(7)に記載の医療用観察装置。
(9)
前記第二の補正情報取得部は、前記2以上のカメラの校正情報と、前記2以上のカメラで撮影される被写体の奥行き情報にさらに基づいて、前記第二の補正情報を取得する、前記(7)または(8)に記載の医療用観察装置。
(10)
撮像素子を有する前記2以上のカメラをさらに備える、前記(1)〜(9)のいずれか一項に記載の医療用観察装置。
(11)
前記基準カメラの選択に関する入力を受け付ける操作部をさらに備える、前記(1)〜(10)のいずれか一項に記載の医療用観察装置。
(12)
前記基準カメラの選択に関する選択情報を記憶する記憶部をさらに備える、前記(1)〜(11)のいずれか一項に記載の医療用観察装置。
(13)
前記記憶部は、前記選択情報を、ユーザごとに当該ユーザに関するユーザ情報と対応付けて記憶する、前記(12)に記載の医療用観察装置。
(14)
2以上のカメラの中から1の基準カメラを選択することと、
前記基準カメラの動きを検出することと、
前記基準カメラの動きを減殺する第一の補正情報を取得することと、
前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得することと、
を含む、情報処理方法。
(15)
コンピュータに
2以上のカメラの中から1の基準カメラを選択する処理と、
前記基準カメラの動きを検出する処理と、
前記基準カメラの動きを減殺する第一の補正情報を取得することと、
前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する処理と、
を行わせるための、プログラム。
(16)
撮像素子を有する2以上のカメラと、
前記2以上のカメラの中から1の基準カメラを選択する選択部と、
前記基準カメラの動きを検出する動き検出部と、
前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、
前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、
を備え、前記2以上のカメラは顕微鏡像を撮影する、ビデオ顕微鏡装置。
1 医療用観察システム
10 内視鏡装置
12 カメラ
14 レンズ駆動部
20 制御装置
21 映像処理部
22 評価値算出部
23 操作部
24 記憶部
25 選択部
26 移動制御部
27 補正制御部
28 フレームバッファ
30 表示装置
122 合焦調整用レンズ
124 撮像素子
271 検出部
272 判定部
273 基準カメラ補正情報取得部
274 非基準カメラ補正情報取得部
275 補正部
276 内部パラメータ算出部
277 外部パラメータ算出部
278 対応画素算出部
279 奥行推定部

Claims (16)

  1. 2以上のカメラの中から1の基準カメラを選択する選択部と、
    前記基準カメラの動きを検出する動き検出部と、
    前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、
    前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、
    を備える、医療用観察装置。
  2. 前記基準カメラの動きは、並進成分、回転成分、拡縮成分を含み、
    前記第一の補正情報取得部は、前記基準カメラの動きのうち、並進成分を減殺し、回転成分と拡縮成分を維持するように前記第一の補正情報を取得する、請求項1に記載の医療用観察装置。
  3. 前記基準カメラの動きが閾値より小さいか否かを判定する判定部をさらに備える、請求項1に記載の医療用観察装置。
  4. 前記判定部により前記基準カメラの動きが前記閾値より小さいと判定された場合に、前記第一の補正情報に基づいて前記基準カメラにより取得される画像の補正を行う補正部をさらに備える、請求項3に記載の医療用観察装置。
  5. 前記第一の補正情報取得部が取得する前記第一の補正情報は、前記基準カメラにより取得される画像を垂直移動させるための垂直パラメータと、水平移動させるための水平パラメータと、を含む情報である、請求項1に記載の医療用観察装置。
  6. 前記第一の補正情報取得部は、前記垂直移動と前記水平移動が整数画素単位の移動になるような前記垂直パラメータと、前記水平パラメータを含む前記第一の補正情報を取得する、請求項5に記載の医療用観察装置。
  7. 前記第二の補正情報取得部は、前記基準カメラにより取得される画像と、前記2以上のカメラに含まれる前記基準カメラ以外のカメラにより取得される画像の間での対応画素に関する対応画素情報に基づいて、前記第二の補正情報を取得する、請求項5に記載の医療用観察装置。
  8. 前記第二の補正情報は、前記2以上のカメラに含まれる前記基準カメラ以外のカメラにより取得される画像の各画素を垂直移動させるための垂直パラメータを含み、
    前記第二の補正情報取得部は、前記対応画素において、前記第一の補正情報に含まれる垂直パラメータと、前記第二の補正情報に含まれる垂直パラメータが同一になるように前記第二の補正情報を取得する、請求項7に記載の医療用観察装置。
  9. 前記第二の補正情報取得部は、前記2以上のカメラの校正情報と、前記2以上のカメラで撮影される被写体の奥行き情報にさらに基づいて、前記第二の補正情報を取得する、請求項7に記載の医療用観察装置。
  10. 撮像素子を有する前記2以上のカメラをさらに備える、請求項1に記載の医療用観察装置。
  11. 前記基準カメラの選択に関する入力を受け付ける操作部をさらに備える、請求項1に記載の医療用観察装置。
  12. 前記基準カメラの選択に関する選択情報を記憶する記憶部をさらに備える、請求項1に記載の医療用観察装置。
  13. 前記記憶部は、前記選択情報を、ユーザごとに当該ユーザに関するユーザ情報と対応付けて記憶する、請求項12に記載の医療用観察装置。
  14. 2以上のカメラの中から1の基準カメラを選択することと、
    前記基準カメラの動きを検出することと、
    前記基準カメラの動きを減殺する第一の補正情報を取得することと、
    前記第一の補正情報の取得とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得することと、
    を含む、情報処理方法。
  15. コンピュータに
    2以上のカメラの中から1の基準カメラを選択する処理と、
    前記基準カメラの動きを検出する処理と、
    前記基準カメラの動きを減殺する第一の補正情報を取得することと、
    前記第一の補正情報の取得とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する処理と、
    を行わせるための、プログラム。
  16. 撮像素子を有する2以上のカメラと、
    前記2以上のカメラの中から1の基準カメラを選択する選択部と、
    前記基準カメラの動きを検出する動き検出部と、
    前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、
    前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、
    を備え、前記2以上のカメラは顕微鏡像を撮影する、ビデオ顕微鏡装置。
JP2017509392A 2015-03-31 2016-02-25 医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置 Expired - Fee Related JP6690637B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015073835 2015-03-31
JP2015073835 2015-03-31
PCT/JP2016/055711 WO2016158119A1 (ja) 2015-03-31 2016-02-25 医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置

Publications (2)

Publication Number Publication Date
JPWO2016158119A1 true JPWO2016158119A1 (ja) 2018-02-08
JP6690637B2 JP6690637B2 (ja) 2020-04-28

Family

ID=57004939

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017509392A Expired - Fee Related JP6690637B2 (ja) 2015-03-31 2016-02-25 医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置

Country Status (4)

Country Link
US (1) US10567656B2 (ja)
EP (1) EP3278709B1 (ja)
JP (1) JP6690637B2 (ja)
WO (1) WO2016158119A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017104015A1 (ja) * 2015-12-16 2017-06-22 オリンパス株式会社 医療用マニピュレータシステム及び医療用マニピュレータの制御方法
US10904437B2 (en) 2017-03-16 2021-01-26 Sony Corporation Control apparatus and control method
JP2022038252A (ja) * 2020-08-26 2022-03-10 オリンパス株式会社 内視鏡装置、内視鏡装置の作動方法、およびプログラム
DE102020130805A1 (de) * 2020-11-20 2022-05-25 Carl Zeiss Meditec Ag Kontext-abhängige Steuerung eines Operationsmikroskops

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11168717A (ja) 1997-12-04 1999-06-22 Matsushita Electric Ind Co Ltd ビデオスコープ
US6628457B2 (en) 2000-07-11 2003-09-30 Asahi Kogaku Kogyo Kabushiki Kaisha Antivibration microscope
JP3857888B2 (ja) 2000-07-11 2006-12-13 ペンタックス株式会社 ビデオ式顕微鏡への防振機構の組込みの決定方法
JP5380184B2 (ja) * 2009-07-09 2014-01-08 富士フイルム株式会社 複眼カメラ及びその制御方法
JP5460170B2 (ja) 2009-08-03 2014-04-02 キヤノン株式会社 撮像装置及びその制御方法
EP2549762B1 (en) * 2010-03-19 2017-05-03 Panasonic Intellectual Property Management Co., Ltd. Stereovision-image position matching apparatus, stereovision-image position matching method, and program therefor
CN103098479A (zh) * 2010-06-30 2013-05-08 富士胶片株式会社 图像处理装置、图像处理方法和图像处理程序
WO2012064106A2 (en) * 2010-11-12 2012-05-18 Samsung Electronics Co., Ltd. Method and apparatus for video stabilization by compensating for view direction of camera
JP2012247356A (ja) * 2011-05-30 2012-12-13 Canon Inc 撮像モジュール、撮像装置、画像処理装置及び画像処理方法。
WO2014159779A1 (en) * 2013-03-14 2014-10-02 Pelican Imaging Corporation Systems and methods for reducing motion blur in images or video in ultra low light with array cameras

Also Published As

Publication number Publication date
EP3278709A1 (en) 2018-02-07
EP3278709B1 (en) 2020-01-08
US20180035054A1 (en) 2018-02-01
WO2016158119A1 (ja) 2016-10-06
JP6690637B2 (ja) 2020-04-28
EP3278709A4 (en) 2018-12-05
US10567656B2 (en) 2020-02-18

Similar Documents

Publication Publication Date Title
JPWO2017183346A1 (ja) 情報処理装置、情報処理方法、及びプログラム
EP2618584A1 (en) Stereoscopic video creation device and stereoscopic video creation method
EP2469870A2 (en) Image processing device, image processing method, and program
US20140293007A1 (en) Method and image acquisition system for rendering stereoscopic images from monoscopic images
JP2012239006A (ja) 画像処理装置及びその制御方法、並びにプログラム
JP6690637B2 (ja) 医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置
JP6768933B2 (ja) 情報処理装置、情報処理システム、および画像処理方法
WO2016158184A1 (ja) 医療用観察装置、レンズ駆動制御装置、レンズ駆動制御方法、プログラム、及びビデオ顕微鏡装置
US9167231B2 (en) System and method for calibrating a stereoscopic camera based on manual alignment of test images
US20130083169A1 (en) Image capturing apparatus, image processing apparatus, image processing method and program
JP6155471B2 (ja) 画像生成装置、撮像装置および画像生成方法
CN111902859B (zh) 信息处理装置、信息处理方法和程序
JP5818322B2 (ja) 映像生成装置、映像生成方法及びコンピュータプログラム
JP2013247543A (ja) 撮像装置、表示装置、および画像処理方法、並びにプログラム
JP5889022B2 (ja) 撮像装置、画像処理装置、画像処理方法及びプログラム
JP2013038454A (ja) 画像処理装置および方法、並びにプログラム
JP2015115851A (ja) フォーカス制御装置およびフォーカス制御方法
JP5741353B2 (ja) 画像処理システム、画像処理方法および画像処理プログラム
JP2006287813A (ja) 3次元画像表示装置
JP2009076984A (ja) 画像処理装置、画像処理方法、プログラム、及び記録媒体
JP6045280B2 (ja) 撮像装置
JP2014096761A (ja) 画像処理装置、その制御方法、および制御プログラム
JP2017028606A (ja) 撮像装置
JP2015220662A (ja) 画像処理装置及びその制御方法、並びにプログラム
JP6930011B2 (ja) 情報処理装置、情報処理システム、および画像処理方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190215

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190813

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200310

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200323

R151 Written notification of patent or utility model registration

Ref document number: 6690637

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees