JPWO2016158119A1 - 医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置 - Google Patents
医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置 Download PDFInfo
- Publication number
- JPWO2016158119A1 JPWO2016158119A1 JP2017509392A JP2017509392A JPWO2016158119A1 JP WO2016158119 A1 JPWO2016158119 A1 JP WO2016158119A1 JP 2017509392 A JP2017509392 A JP 2017509392A JP 2017509392 A JP2017509392 A JP 2017509392A JP WO2016158119 A1 JPWO2016158119 A1 JP WO2016158119A1
- Authority
- JP
- Japan
- Prior art keywords
- correction information
- camera
- reference camera
- cameras
- movement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 10
- 238000003672 processing method Methods 0.000 title claims abstract description 7
- 238000012937 correction Methods 0.000 claims abstract description 250
- 238000000034 method Methods 0.000 claims abstract description 78
- 230000008569 process Effects 0.000 claims description 38
- 238000013519 translation Methods 0.000 claims description 11
- 230000008602 contraction Effects 0.000 claims description 10
- 238000001000 micrograph Methods 0.000 claims description 3
- 238000001514 detection method Methods 0.000 abstract description 13
- 238000011156 evaluation Methods 0.000 description 123
- 238000004364 calculation method Methods 0.000 description 60
- 238000012986 modification Methods 0.000 description 25
- 230000004048 modification Effects 0.000 description 25
- 238000010586 diagram Methods 0.000 description 24
- 238000012545 processing Methods 0.000 description 23
- 238000003384 imaging method Methods 0.000 description 21
- 230000000694 effects Effects 0.000 description 18
- 238000004891 communication Methods 0.000 description 11
- 230000000052 comparative effect Effects 0.000 description 11
- 239000000872 buffer Substances 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 9
- 239000011159 matrix material Substances 0.000 description 7
- 230000015556 catabolic process Effects 0.000 description 6
- 238000006731 degradation reaction Methods 0.000 description 6
- 230000006866 deterioration Effects 0.000 description 6
- 230000006641 stabilisation Effects 0.000 description 4
- 238000011105 stabilization Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 230000001151 other effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 101100186887 Caenorhabditis elegans nekl-3 gene Proteins 0.000 description 1
- 101100528925 Catharanthus roseus ROLC gene Proteins 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000000968 medical method and process Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00006—Operational features of endoscopes characterised by electronic signal processing of control signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000095—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00163—Optical arrangements
- A61B1/00193—Optical arrangements adapted for stereoscopic vision
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7203—Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
- A61B5/7207—Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal of noise induced by motion artifacts
- A61B5/721—Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal of noise induced by motion artifacts using a separate sensor to detect motion or using motion information derived from signals other than the physiological signal to be measured
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/362—Mechanical details, e.g. mountings for the camera or image sensor, housings
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
- G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
- G03B35/08—Stereoscopic photography by simultaneous recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/672—Focus control based on electronic image sensor signals based on the phase difference signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/673—Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
- H04N23/687—Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B5/00—Adjustment of optical system relative to image or object surface other than for focusing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/555—Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Surgery (AREA)
- Signal Processing (AREA)
- Optics & Photonics (AREA)
- Multimedia (AREA)
- Animal Behavior & Ethology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Physics & Mathematics (AREA)
- Astronomy & Astrophysics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physiology (AREA)
- Psychiatry (AREA)
- Endoscopes (AREA)
- Microscoopes, Condenser (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Abstract
Description
<<1.第一の実施形態>>
<1−1.第一の実施形態の概要>
<1−2.第一の実施形態の構成>
<1−3.第一の実施形態の動作>
<1−4.第一の実施形態の効果>
<1−5.第一の実施形態の変形例>
<<2.第二の実施形態>>
<2−1.第二の実施形態の概要>
<2−2.第二の実施形態の構成>
<2−3.第二の実施形態の動作>
<2−4.第二の実施形態の効果>
<<3.第三の実施形態>>
<3−1.第三の実施形態の概要>
<3−2.第三の実施形態の構成>
<3−3.第三の実施形態の動作>
<3−4.第三の実施形態の効果>
<3−5.第三の実施形態の変形例>
<<4.ハードウェア構成例>>
<<5.むすび>>
<1−1.第一の実施形態の概要>
まず、図面を参照しながら本開示の第一の実施形態にかかる医療用観察システムの概要を説明する。図1は、本開示の第一の実施形態にかかる医療用観察システムの概要を示す説明図である。
(内視鏡装置)
図2は本実施形態にかかる内視鏡装置10−1の内部構成を模式的に示す説明図である。図2に示すように、内視鏡装置10−1は、左目用及び右目用のカメラ12A,12Bと、レンズ駆動部14−1と、を備える。
図3は本実施形態にかかる制御装置20−1(レンズ駆動制御装置)の構成を示す説明図である。図3に示すように、制御装置20−1は、映像処理部21A,21Bと、評価値算出部22−1A,22−1Bと、操作部23と、記憶部24と、選択部25−1と、移動制御部26−1と、を備える情報処理装置である。
以上、本開示の第一の実施形態にかかる医療用観察システム1が有する内視鏡装置10−1と制御装置20−1の構成例について説明した。続いて、図4,5を参照して、本実施形態にかかる医療用観察システム1の動作例について説明する。図4,5は、本実施形態にかかる医療用観察システム1の動作例を示す説明図である。本実施形態にかかる医療用観察システム1は、図4に示す選択情報設定処理と、図5に示すレンズ駆動制御処理を行う。以下では、選択情報設定処理と、レンズ駆動制御処理についてそれぞれ図4、図5を参照して順次詳細に説明する。
選択情報設定処理に際し、まず、図4に示すように、操作部23が基準レンズの選択に関するユーザの入力を受け付ける(S102)。ユーザは、例えば、自身の利き目が左であるか右であるかを選択的に入力してもよい。続いて、記憶部24がユーザによって入力された基準レンズの選択に関する選択情報を操作部23から受け取り、記憶する(S104)。ステップS104の以前に既に記憶部24が選択情報を記憶していた場合には、記憶部24に記憶される選択情報はステップS104で記憶部24が新たに操作部23から受け取った選択情報により更新される。
レンズ駆動制御処理に際し、まず、図5に示すように選択部25−1は記憶部24から基準レンズの選択に関する選択情報の読み出しを行う(S202)。基準レンズが左レンズ(合焦調整用レンズ122B)である場合(S204においてYES)、選択部25−1は左レンズに対応するフォーカス評価値を評価値算出部22−1Bから受け取って(選択して)移動制御部26−1に提供する(S206)。一方、基準レンズが右レンズ(合焦調整用レンズ122A)である場合(S204においてNO)、選択部25−1は右レンズに対応するフォーカス評価値を評価値算出部22−1Aから受け取って(選択して)移動制御部26−1に提供する(S208)。
以上、第一の実施形態にかかる内視鏡装置10−1、及び制御装置20−1について詳細に説明した。本実施形態によれば、制御装置20−1は、ユーザの入力に基づいて選択される基準レンズに対応するフォーカス評価値に基づいて特定された、左右の合焦調整用レンズに共通するレンズ移動パラメータを、内視鏡装置10−1に提供する。内視鏡装置10−1は、当該レンズ移動パラメータに基づいて左右の合焦調整用レンズを移動させることで、ユーザにとって快適に立体視可能な画像を取得することができる。
以上、本開示の第一の実施形態について説明した。以下では、本実施形態の幾つかの変形例を説明する。なお、以下に説明する各変形例は、単独で本実施形態に適用されてもよいし、組み合わせで本実施形態に適用されてもよい。また、各変形例は、本実施形態で説明した構成に代えて適用されてもよいし、本実施形態で説明した構成に対して追加的に適用されてもよい。
上記では、記憶部24が記憶する選択情報は1つであり、操作部23を介してユーザにより新たに選択情報が入力された場合、新たに入力された選択情報によって記憶部24が記憶する選択情報が更新される例を説明したが、本技術は上記の例に限定されない。
上記では、移動制御部26−1が基準レンズに対応するフォーカス評価値のみを選択部25−1から受け取り、基準レンズ以外のレンズに対応するフォーカス評価値を用いずに、レンズ移動パラメータを特定する例を説明したが、本技術は上記の例に限定されない。
上記では、評価値算出部22−1A,22−1Bがそれぞれフォーカス評価値を算出し、選択部25−1により選択された基準レンズに応じて、いずれかのフォーカス評価値が移動制御部26−1に提供される例を説明したが、本技術はかかる例に限定されない。
上記では、基準レンズの選択は、ユーザの入力に基づいて行われる例を説明したが、本技術はかかる例に限定されない。例えば、選択部25−1は、カメラ12A,12Bにより取得される画像に基づいて基準レンズを選択してもよい。
<2−1.第二の実施形態の概要>
上述した第一の実施形態では、制御装置は左右の合焦調整用レンズに共通するレンズ移動パラメータを出力し、内視鏡装置は、左右の合焦調整用レンズを双方に共通するレンズ移動パラメータに基づいて移動させる。これに対し、以下では、第二の実施形態として、内視鏡装置が左右の合焦調整用レンズを個別に移動させる場合について説明する。
図8は第二の実施形態の比較例にかかる内視鏡装置50の内部構成を模式的に示す説明図である。図8に示すように、内視鏡装置50は、左目用及び右目用のカメラ52A,52Bと、レンズ駆動部54A,54Bと、を備える。
以上、本比較例による内視鏡装置50、及び制御装置60の構成を説明した。上記で説明したように、本比較例において、合焦調整用レンズ522A,522Bに対応するフォーカス評価値、及びレンズ移動パラメータはそれぞれ独立に算出・特定される。したがって、カメラ52A,及びカメラ52Bのそれぞれについて、正確な合焦調整(ピント合わせ)を行うことが可能である。
第二の実施形態にかかる医療用観察システム1は、図1を参照して説明した第一の実施形態にかかる医療用観察システム1と同様に、内視鏡装置10−2、制御装置20−2、表示装置30を備える。
図12は本実施形態にかかる内視鏡装置10−2の内部構成を模式的に示す説明図である。図12に示すように、内視鏡装置10−2は、左目用及び右目用のカメラ12A,12Bと、レンズ駆動部14−2A,14−2Bと、を備える。図12に示すカメラ12A,12Bの構成はそれぞれ図2を参照して説明した第一形態にかかるカメラ12A,12Bの構成と実質的に同一であるため説明を省略する。また、図12に示すレンズ駆動部14−2A,14−2Bの構成は、図8を参照して説明した本実施形態の比較例にかかるレンズ駆動部54A,54Bの構成と実質的に同一であるため、ここでの説明は省略する。
以上、本開示の第二の実施形態にかかる医療用観察システム1が有する内視鏡装置10−2と制御装置20−2の構成例について説明した。続いて、図14を参照して、本実施形態にかかる医療用観察システム1の動作例について説明する。図14は、本実施形態にかかる医療用観察システム1の動作例を示す説明図である。本実施形態にかかる医療用観察システム1は、図14に示すレンズ駆動制御処理を行う。また、本実施形態にかかる医療用観察システム1は選択情報設定処理を行うが、当該処理は図4を参照して説明した第一の実施形態にかかる医療用観察システム1が行う選択情報設定処理と同様であるため、説明は省略する。以下では、レンズ駆動制御処理について図14を参照して詳細に説明する。
以上、第二の実施形態にかかる内視鏡装置10−2、及び制御装置20−2について詳細に説明した。本実施形態によれば、制御装置20−2は、基準レンズに対応するフォーカス評価値に基づいて、基準レンズ以外のレンズに対応するフォーカス評価値の算出方法を設定し、レンズごとに算出したレンズ移動パラメータを内視鏡装置10−2に提供する。内視鏡装置10−2は、当該レンズ移動パラメータに基づいて左右の合焦調整用レンズを個別に移動させることで、左右のカメラで同一の被写体に合焦するように合焦調整を行い、ユーザにとって快適に立体視可能な画像を取得することができる。
<3−1.第三の実施形態の概要>
図1に示したような医療用観察システム1において、内視鏡装置10は例えば人間の手などにより固定される場合がある。医療用観察システム1を用いて患者4の体内を観察中に人間の手により固定された内視鏡装置10が動いて(振動して)しまうと、内視鏡装置10により取得される映像に手ぶれが生じる。その結果、表示装置30に表示される映像を観察するユーザにとって、快適に観察することが困難となる。
(制御装置)
図19は、本実施形態にかかる医療用観察システム1が有する制御装置20−3の構成を示す説明図である。図19に示すように、制御装置20−3は、操作部23−3と、記憶部24−3と、選択部25−3と、補正制御部27とフレームバッファ28A,28Bと、を備える情報処理装置である。
以上、本実施形態にかかる医療用観察システム1が有する制御装置20−3の構成を説明した。続いて、制御装置20−3が備える補正制御部27の詳細な構成について図20を参照して説明する。
以上、本開示の第三の実施形態にかかる医療用観察システム1が有する制御装置20−3の構成例について説明した。続いて、図21〜25を参照して、本実施形態にかかる医療用観察システム1の動作例について説明する。図21は、本実施形態にかかる医療用観察システム1による手振れ補正の動作例を示す説明図である。本実施形態にかかる医療用観察システム1は、選択情報設定処理と、図21に示す手振れ補正処理を行うが、選択情報設定処理は図4を参照して説明した第一の実施形態にかかる医療用観察システム1が行う選択情報設定処理と同様であるため、説明は省略する。図22〜25は、本実施形態にかかる医療用観察システム1による手振れ補正のうち、非基準カメラ補正情報取得部274による非基準カメラ補正情報の取得方法の一例を説明するための説明図である。以下では、本実施形態にかかる医療用観察システム1による手振れ補正の動作例について図21を参照して説明した後、非基準カメラ補正情報取得部274による非基準カメラ補正情報の取得方法の一例について図22〜25を参照して説明する。
まず、図21に示すように、対応画素算出部278が、基準カメラにより取得される画像と、非基準カメラにより取得される画像の間で画素の対応を算出し、対応画素情報を取得する(S502)。続いて、奥行推定部279が、対応画素情報、内部パラメータ、外部パラメータに基づいて、奥行き情報を取得する(S504)。
以上、本実施形態にかかる医療用観察システム1による手振れ補正の動作例を説明した。続いて、上記で説明した手振れ補正処理のうち、ステップS520の非基準カメラ補正情報取得処理における非基準カメラ補正情報の取得方法について図22〜図25を参照して説明する。図22〜25は、本実施形態にかかる非基準カメラ補正情報の取得方法の一例を説明するための説明図である。
図22に示す点Ml、及び点Mrは、それぞれ、実空間内の同一点Pに対応するLカメラ、及びRカメラのセンサ面上の点であり、点Mlと点Mrは対応画素であるといえる。
以上、第三の実施形態にかかる制御装置20−3について詳細に説明した。本実施形態によれば、制御装置20−3は、ユーザの入力に基づいて選択される基準カメラについて、画質劣化が少ない手振れ補正を行い、非基準カメラについて、基準カメラの手振れ補正に合わせた手振れ補正を行う。画質劣化が少ない基準カメラの手振れ補正により、ユーザは快適な立体視を行うことが可能である。また、基準カメラの手振れ補正に合わせた非基準カメラの手振れ補正により、補正後の画像を融像しやすくすることが可能である。
以上、本開示の第三の実施形態について説明した。以下では、本実施形態の幾つかの変形例を説明する。なお、以下に説明する各変形例は、単独で本実施形態に適用されてもよいし、組み合わせで本実施形態に適用されてもよい。また、各変形例は、本実施形態で説明した構成に代えて適用されてもよいし、本実施形態で説明した構成に対して追加的に適用されてもよい。
第一の実施形態にかかる変形例1と同様に、本実施形態にかかる記憶部24−3が記憶する選択情報は1つに限られない。例えば、本実施形態にかかる記憶部24−3は、選択情報を、ユーザごとに当該ユーザに関するユーザ情報と対応付けて記憶してもよい。かかる構成によれば、例えば医療用観察システム1がユーザの認証機能を有していた場合、選択情報がユーザIDと対応付けて記憶されかつ認証されたユーザは、基準カメラ選択の手間を省くことが可能である。
上記では、補正部275は、判定部272により基準カメラの動きが閾値以上であると判定された場合、補正を行わない例を説明したが、本技術は上記に限定されない。例えば、判定部272により基準カメラの動きのうち、回転成分、及び拡縮成分が閾値以上であると判定された場合、補正部275は、並進成分に加え、回転成分と拡縮成分も打ち消すような補正を行ってもよい。かかる構成によれば、補正による画質の劣化が大きくなる代わりに、基準カメラの動きが大きい場合でも手振れ補正を行うことが可能である。
第一の実施形態にかかる変形例4における基準レンズの選択と同様に、本実施形態にかかる基準カメラの選択は、ユーザの入力に基づいて行われる例に限定されない。例えば、本実施形態に係る選択部25−3は、内視鏡装置10が有する2つのカメラにより取得される画像に基づいて基準レンズを選択してもよい。
以上、本開示の各実施形態と各変形例を説明した。上述した選択情報設定処理、駆動制御処理、手振れ補正処理などの情報処理は、ソフトウェアと、以下に説明する制御装置20(制御装置20−1、20−2、20−3)のハードウェアとの協働により実現される。
Network)対応通信装置、LTE(Long Term Evolution)対応通信装置、有線による通信を行うワイヤー通信装置、またはブルートゥース通信装置を含んでもよい。
以上説明したように、本開示の実施形態によれば、ユーザが快適に立体視を行うことが可能である。
(1)
2以上のカメラの中から1の基準カメラを選択する選択部と、
前記基準カメラの動きを検出する動き検出部と、
前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、
前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、
を備える、医療用観察装置。
(2)
前記基準カメラの動きは、並進成分、回転成分、拡縮成分を含み、
前記第一の補正情報取得部は、前記基準カメラの動きのうち、並進成分を減殺し、回転成分と拡縮成分を維持するように前記第一の補正情報を取得する、前記(1)に記載の医療用観察装置。
(3)
前記基準カメラの動きが閾値より小さいか否かを判定する判定部をさらに備える、前記(1)または(2)に記載の医療用観察装置。
(4)
前記判定部により前記基準カメラの動きが前記閾値より小さいと判定された場合に、前記第一の補正情報に基づいて前記基準カメラにより取得される画像の補正を行う補正部をさらに備える、前記(3)に記載の医療用観察装置。
(5)
前記第一の補正情報取得部が取得する前記第一の補正情報は、前記基準カメラにより取得される画像を垂直移動させるための垂直パラメータと、水平移動させるための水平パラメータと、を含む情報である、前記(1)〜(4)のいずれか一項に記載の医療用観察装置。
(6)
前記第一の補正情報取得部は、前記垂直移動と前記水平移動が整数画素単位の移動になるような前記垂直パラメータと、前記水平パラメータを含む前記第一の補正情報を取得する、前記(5)に記載の医療用観察装置。
(7)
前記第二の補正情報取得部は、前記基準カメラにより取得される画像と、前記2以上のカメラに含まれる前記基準カメラ以外のカメラにより取得される画像の間での対応画素に関する対応画素情報に基づいて、前記第二の補正情報を取得する、前記(5)または(6)に記載の医療用観察装置。
(8)
前記第二の補正情報は、前記2以上のカメラに含まれる前記基準カメラ以外のカメラにより取得される画像の各画素を垂直移動させるための垂直パラメータを含み、
前記第二の補正情報取得部は、前記対応画素において、前記第一の補正情報に含まれる垂直パラメータと、前記第二の補正情報に含まれる垂直パラメータが同一になるように前記第二の補正情報を取得する、前記(7)に記載の医療用観察装置。
(9)
前記第二の補正情報取得部は、前記2以上のカメラの校正情報と、前記2以上のカメラで撮影される被写体の奥行き情報にさらに基づいて、前記第二の補正情報を取得する、前記(7)または(8)に記載の医療用観察装置。
(10)
撮像素子を有する前記2以上のカメラをさらに備える、前記(1)〜(9)のいずれか一項に記載の医療用観察装置。
(11)
前記基準カメラの選択に関する入力を受け付ける操作部をさらに備える、前記(1)〜(10)のいずれか一項に記載の医療用観察装置。
(12)
前記基準カメラの選択に関する選択情報を記憶する記憶部をさらに備える、前記(1)〜(11)のいずれか一項に記載の医療用観察装置。
(13)
前記記憶部は、前記選択情報を、ユーザごとに当該ユーザに関するユーザ情報と対応付けて記憶する、前記(12)に記載の医療用観察装置。
(14)
2以上のカメラの中から1の基準カメラを選択することと、
前記基準カメラの動きを検出することと、
前記基準カメラの動きを減殺する第一の補正情報を取得することと、
前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得することと、
を含む、情報処理方法。
(15)
コンピュータに
2以上のカメラの中から1の基準カメラを選択する処理と、
前記基準カメラの動きを検出する処理と、
前記基準カメラの動きを減殺する第一の補正情報を取得することと、
前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する処理と、
を行わせるための、プログラム。
(16)
撮像素子を有する2以上のカメラと、
前記2以上のカメラの中から1の基準カメラを選択する選択部と、
前記基準カメラの動きを検出する動き検出部と、
前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、
前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、
を備え、前記2以上のカメラは顕微鏡像を撮影する、ビデオ顕微鏡装置。
10 内視鏡装置
12 カメラ
14 レンズ駆動部
20 制御装置
21 映像処理部
22 評価値算出部
23 操作部
24 記憶部
25 選択部
26 移動制御部
27 補正制御部
28 フレームバッファ
30 表示装置
122 合焦調整用レンズ
124 撮像素子
271 検出部
272 判定部
273 基準カメラ補正情報取得部
274 非基準カメラ補正情報取得部
275 補正部
276 内部パラメータ算出部
277 外部パラメータ算出部
278 対応画素算出部
279 奥行推定部
Claims (16)
- 2以上のカメラの中から1の基準カメラを選択する選択部と、
前記基準カメラの動きを検出する動き検出部と、
前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、
前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、
を備える、医療用観察装置。 - 前記基準カメラの動きは、並進成分、回転成分、拡縮成分を含み、
前記第一の補正情報取得部は、前記基準カメラの動きのうち、並進成分を減殺し、回転成分と拡縮成分を維持するように前記第一の補正情報を取得する、請求項1に記載の医療用観察装置。 - 前記基準カメラの動きが閾値より小さいか否かを判定する判定部をさらに備える、請求項1に記載の医療用観察装置。
- 前記判定部により前記基準カメラの動きが前記閾値より小さいと判定された場合に、前記第一の補正情報に基づいて前記基準カメラにより取得される画像の補正を行う補正部をさらに備える、請求項3に記載の医療用観察装置。
- 前記第一の補正情報取得部が取得する前記第一の補正情報は、前記基準カメラにより取得される画像を垂直移動させるための垂直パラメータと、水平移動させるための水平パラメータと、を含む情報である、請求項1に記載の医療用観察装置。
- 前記第一の補正情報取得部は、前記垂直移動と前記水平移動が整数画素単位の移動になるような前記垂直パラメータと、前記水平パラメータを含む前記第一の補正情報を取得する、請求項5に記載の医療用観察装置。
- 前記第二の補正情報取得部は、前記基準カメラにより取得される画像と、前記2以上のカメラに含まれる前記基準カメラ以外のカメラにより取得される画像の間での対応画素に関する対応画素情報に基づいて、前記第二の補正情報を取得する、請求項5に記載の医療用観察装置。
- 前記第二の補正情報は、前記2以上のカメラに含まれる前記基準カメラ以外のカメラにより取得される画像の各画素を垂直移動させるための垂直パラメータを含み、
前記第二の補正情報取得部は、前記対応画素において、前記第一の補正情報に含まれる垂直パラメータと、前記第二の補正情報に含まれる垂直パラメータが同一になるように前記第二の補正情報を取得する、請求項7に記載の医療用観察装置。 - 前記第二の補正情報取得部は、前記2以上のカメラの校正情報と、前記2以上のカメラで撮影される被写体の奥行き情報にさらに基づいて、前記第二の補正情報を取得する、請求項7に記載の医療用観察装置。
- 撮像素子を有する前記2以上のカメラをさらに備える、請求項1に記載の医療用観察装置。
- 前記基準カメラの選択に関する入力を受け付ける操作部をさらに備える、請求項1に記載の医療用観察装置。
- 前記基準カメラの選択に関する選択情報を記憶する記憶部をさらに備える、請求項1に記載の医療用観察装置。
- 前記記憶部は、前記選択情報を、ユーザごとに当該ユーザに関するユーザ情報と対応付けて記憶する、請求項12に記載の医療用観察装置。
- 2以上のカメラの中から1の基準カメラを選択することと、
前記基準カメラの動きを検出することと、
前記基準カメラの動きを減殺する第一の補正情報を取得することと、
前記第一の補正情報の取得とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得することと、
を含む、情報処理方法。 - コンピュータに
2以上のカメラの中から1の基準カメラを選択する処理と、
前記基準カメラの動きを検出する処理と、
前記基準カメラの動きを減殺する第一の補正情報を取得することと、
前記第一の補正情報の取得とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する処理と、
を行わせるための、プログラム。 - 撮像素子を有する2以上のカメラと、
前記2以上のカメラの中から1の基準カメラを選択する選択部と、
前記基準カメラの動きを検出する動き検出部と、
前記基準カメラの動きを減殺する第一の補正情報を取得する第一の補正情報取得部と、
前記第一の補正情報取得部とは異なる方法で、前記2以上のカメラに含まれる前記基準カメラ以外のカメラの動きを減殺する第二の補正情報を取得する第二の補正情報取得部と、
を備え、前記2以上のカメラは顕微鏡像を撮影する、ビデオ顕微鏡装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015073835 | 2015-03-31 | ||
JP2015073835 | 2015-03-31 | ||
PCT/JP2016/055711 WO2016158119A1 (ja) | 2015-03-31 | 2016-02-25 | 医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016158119A1 true JPWO2016158119A1 (ja) | 2018-02-08 |
JP6690637B2 JP6690637B2 (ja) | 2020-04-28 |
Family
ID=57004939
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017509392A Expired - Fee Related JP6690637B2 (ja) | 2015-03-31 | 2016-02-25 | 医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10567656B2 (ja) |
EP (1) | EP3278709B1 (ja) |
JP (1) | JP6690637B2 (ja) |
WO (1) | WO2016158119A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017104015A1 (ja) * | 2015-12-16 | 2017-06-22 | オリンパス株式会社 | 医療用マニピュレータシステム及び医療用マニピュレータの制御方法 |
US10904437B2 (en) | 2017-03-16 | 2021-01-26 | Sony Corporation | Control apparatus and control method |
JP2022038252A (ja) * | 2020-08-26 | 2022-03-10 | オリンパス株式会社 | 内視鏡装置、内視鏡装置の作動方法、およびプログラム |
DE102020130805A1 (de) * | 2020-11-20 | 2022-05-25 | Carl Zeiss Meditec Ag | Kontext-abhängige Steuerung eines Operationsmikroskops |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11168717A (ja) | 1997-12-04 | 1999-06-22 | Matsushita Electric Ind Co Ltd | ビデオスコープ |
US6628457B2 (en) | 2000-07-11 | 2003-09-30 | Asahi Kogaku Kogyo Kabushiki Kaisha | Antivibration microscope |
JP3857888B2 (ja) | 2000-07-11 | 2006-12-13 | ペンタックス株式会社 | ビデオ式顕微鏡への防振機構の組込みの決定方法 |
JP5380184B2 (ja) * | 2009-07-09 | 2014-01-08 | 富士フイルム株式会社 | 複眼カメラ及びその制御方法 |
JP5460170B2 (ja) | 2009-08-03 | 2014-04-02 | キヤノン株式会社 | 撮像装置及びその制御方法 |
EP2549762B1 (en) * | 2010-03-19 | 2017-05-03 | Panasonic Intellectual Property Management Co., Ltd. | Stereovision-image position matching apparatus, stereovision-image position matching method, and program therefor |
CN103098479A (zh) * | 2010-06-30 | 2013-05-08 | 富士胶片株式会社 | 图像处理装置、图像处理方法和图像处理程序 |
WO2012064106A2 (en) * | 2010-11-12 | 2012-05-18 | Samsung Electronics Co., Ltd. | Method and apparatus for video stabilization by compensating for view direction of camera |
JP2012247356A (ja) * | 2011-05-30 | 2012-12-13 | Canon Inc | 撮像モジュール、撮像装置、画像処理装置及び画像処理方法。 |
WO2014159779A1 (en) * | 2013-03-14 | 2014-10-02 | Pelican Imaging Corporation | Systems and methods for reducing motion blur in images or video in ultra low light with array cameras |
-
2016
- 2016-02-25 EP EP16772003.6A patent/EP3278709B1/en active Active
- 2016-02-25 JP JP2017509392A patent/JP6690637B2/ja not_active Expired - Fee Related
- 2016-02-25 WO PCT/JP2016/055711 patent/WO2016158119A1/ja active Application Filing
- 2016-02-25 US US15/549,193 patent/US10567656B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
EP3278709A1 (en) | 2018-02-07 |
EP3278709B1 (en) | 2020-01-08 |
US20180035054A1 (en) | 2018-02-01 |
WO2016158119A1 (ja) | 2016-10-06 |
JP6690637B2 (ja) | 2020-04-28 |
EP3278709A4 (en) | 2018-12-05 |
US10567656B2 (en) | 2020-02-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JPWO2017183346A1 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
EP2618584A1 (en) | Stereoscopic video creation device and stereoscopic video creation method | |
EP2469870A2 (en) | Image processing device, image processing method, and program | |
US20140293007A1 (en) | Method and image acquisition system for rendering stereoscopic images from monoscopic images | |
JP2012239006A (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
JP6690637B2 (ja) | 医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置 | |
JP6768933B2 (ja) | 情報処理装置、情報処理システム、および画像処理方法 | |
WO2016158184A1 (ja) | 医療用観察装置、レンズ駆動制御装置、レンズ駆動制御方法、プログラム、及びビデオ顕微鏡装置 | |
US9167231B2 (en) | System and method for calibrating a stereoscopic camera based on manual alignment of test images | |
US20130083169A1 (en) | Image capturing apparatus, image processing apparatus, image processing method and program | |
JP6155471B2 (ja) | 画像生成装置、撮像装置および画像生成方法 | |
CN111902859B (zh) | 信息处理装置、信息处理方法和程序 | |
JP5818322B2 (ja) | 映像生成装置、映像生成方法及びコンピュータプログラム | |
JP2013247543A (ja) | 撮像装置、表示装置、および画像処理方法、並びにプログラム | |
JP5889022B2 (ja) | 撮像装置、画像処理装置、画像処理方法及びプログラム | |
JP2013038454A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2015115851A (ja) | フォーカス制御装置およびフォーカス制御方法 | |
JP5741353B2 (ja) | 画像処理システム、画像処理方法および画像処理プログラム | |
JP2006287813A (ja) | 3次元画像表示装置 | |
JP2009076984A (ja) | 画像処理装置、画像処理方法、プログラム、及び記録媒体 | |
JP6045280B2 (ja) | 撮像装置 | |
JP2014096761A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP2017028606A (ja) | 撮像装置 | |
JP2015220662A (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
JP6930011B2 (ja) | 情報処理装置、情報処理システム、および画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190208 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20190214 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190215 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190222 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190515 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190522 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190813 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191007 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200310 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200323 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6690637 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |