CN107735714A - 内窥镜装置 - Google Patents

内窥镜装置 Download PDF

Info

Publication number
CN107735714A
CN107735714A CN201680035797.6A CN201680035797A CN107735714A CN 107735714 A CN107735714 A CN 107735714A CN 201680035797 A CN201680035797 A CN 201680035797A CN 107735714 A CN107735714 A CN 107735714A
Authority
CN
China
Prior art keywords
image
optical system
measurement
measurement point
determination unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201680035797.6A
Other languages
English (en)
Other versions
CN107735714B (zh
Inventor
山本直树
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yijingtong Co ltd
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of CN107735714A publication Critical patent/CN107735714A/zh
Application granted granted Critical
Publication of CN107735714B publication Critical patent/CN107735714B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00193Optical arrangements adapted for stereoscopic vision
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00194Optical arrangements adapted for three-dimensional imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2415Stereoscopic endoscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Abstract

内窥镜装置具有内窥镜插入部、摄像光学系统、测量处理部、可靠度判定部以及通知控制部。所述摄像光学系统被配置在所述内窥镜插入部的前端。所述测量处理部基于与经由所述摄像光学系统得到的光学像对应的图像、包含第一位置的第一摄像机参数以及包含与所述第一位置不同的第二位置的第二摄像机参数,通过三角测量的原理来进行测量处理。所述可靠度判定部判定基于测量点的所述测量处理的可靠度,该测量点是在与经由所述摄像光学系统在所述第一位置得到的所述光学像对应的所述图像中设定的。在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端从所述第二位置侧朝向所述第一位置侧移动的操作。

Description

内窥镜装置
技术领域
本发明涉及一种内窥镜装置。
本申请以2015年6月25日向日本申请的日本特愿2015-127415号为优先权主张基础,在此引用其内容。
背景技术
近年来,在对锅炉、涡轮、发动机以及化工设备等的内部的损伤和腐蚀等的观察和检查中广泛地使用工业用内窥镜。在最近的工业用内窥镜中,能够将从不同的视点拍摄被摄体的立体光学适配器安装于内窥镜的前端。因此,能够通过三角测量的原理测量(立体测量)被摄体的各种空间特性(例如,参照专利文献1)。
专利文献1:日本特开2008-229219号公报
发明内容
发明要解决的问题
在能够进行立体测量的内窥镜中使用的立体光学适配器具有左右两个物镜光学系统。这两个物镜光学系统在视差方向上相互分离。因此,根据被摄体的形状的不同,有时发生遮挡。遮挡是产生在由一个物镜光学系统得到的光学像中能够视觉识别且在由另一个物镜光学系统得到的光学像中无法视觉识别的区域的状态。在由一个物镜光学系统得到的光学像中能够视觉识别的区域在由另一个物镜光学系统得到的光学像中被包含于死角时,发生遮挡。例如,在对在视差方向上具有高度差的被摄体进行观察的情况下,有可能发生遮挡。
在立体测量时,针对基于由两个物镜光学系统得到的两个光学像的两个图像中的一方指定测量点。另外,针对两个图像中的另一方搜索与测量点对应的对应点。在发生了遮挡的情况下,搜索不到与测量点对应的对应点。或者,即使搜索到对应点,也有可能该对应点的可靠度低。因此,图案匹配的精度降低。其结果,测量精度降低。
另外,存在以下情况:尽管测量精度降低,但是内窥镜的用户意识不到测量精度降低的原因是遮挡。还存在以下情况:即使用户意识到了测量精度降低的原因是遮挡,用户也不知道如何操作内窥镜才能够消除该遮挡。
本发明的目的在于提供一种能够抑制因发生遮挡引起的测量精度的降低的内窥镜装置。
用于解决问题的方案
根据本发明的第1方式,内窥镜装置具有内窥镜插入部、第一摄像光学系统、第二摄像光学系统、摄像元件以及测量处理部。所述第一摄像光学系统和所述第二摄像光学系统在所述内窥镜插入部的前端以在视差方向上相互分离的方式配置。所述摄像元件生成与经由所述第一摄像光学系统得到的第一光学像对应的第一图像以及与经由所述第二摄像光学系统得到的第二光学像对应的第二图像。所述测量处理部具有测量点设定部、对应点搜索部以及三维坐标计算部。所述测量点设定部在所述第一图像中设定测量点。所述对应点搜索部在所述第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点。所述三维坐标计算部使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标。所述内窥镜装置具有可靠度判定部和通知控制部。所述可靠度判定部判定基于所述测量点的测量处理的可靠度。在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端朝向所述视差方向的所述第一摄像光学系统侧移动的操作。
根据本发明的第2方式,在第1方式中,也可以是,所述可靠度判定部具有相关值计算部和比较判定部。所述相关值计算部计算所述第一图像中的所述测量点的位置与所述第二图像中的所述对应点的位置之间的相关值或差异度。所述比较判定部将所述相关值或所述差异度与第一规定值进行比较,基于该比较的结果来判定所述可靠度。
根据本发明的第3方式,在第1方式中,也可以是,所述可靠度判定部具有遮挡发生判定部,该遮挡发生判定部判定是否发生了遮挡。在由所述遮挡发生判定部判定为发生了所述遮挡的情况下,所述可靠度判定部判定为所述可靠度低。
根据本发明的第4方式,在第1方式中,也可以是,所述可靠度判定部具有相关值计算部、遮挡发生判定部以及比较判定部。所述相关值计算部计算所述第一图像中的所述测量点的位置与所述第二图像中的所述对应点的位置之间的相关值或差异度。所述遮挡发生判定部判定是否发生了遮挡。所述比较判定部基于将所述相关值或所述差异度与第一规定值进行比较所得到的比较结果和所述遮挡发生判定部的判定结果,来判定所述可靠度。
根据本发明的第5方式,在第3方式或第4方式中,也可以是,所述遮挡发生判定部具有测量辅助点设定部、物距计算部、差计算部以及差判定部。所述测量辅助点设定部通过对至少与所述第一图像对应的影像信号进行处理,来在所述第一图像中在核线上且在所述测量点的左侧设定第一测量辅助点,并且在所述核线上且在所述测量点的右侧设定第二测量辅助点。所述物距计算部计算所述第一测量辅助点处的第一物距和所述第二测量辅助点处的第二物距。所述差计算部计算所述第一物距与所述第二物距之差。所述差判定部将所述差与第二规定值进行比较,在所述差大于所述第二规定值的情况下,判定为发生了所述遮挡。
根据本发明的第6方式,内窥镜装置具有内窥镜插入部、第一摄像光学系统、第二摄像光学系统、摄像元件、测量处理部以及弯曲部。所述第一摄像光学系统和所述第二摄像光学系统在所述内窥镜插入部的前端以在视差方向上相互分离的方式配置。所述摄像元件生成与经由所述第一摄像光学系统得到的第一光学像对应的第一图像以及与经由所述第二摄像光学系统得到的第二光学像对应的第二图像。所述弯曲部被配置在所述前端,且使所述前端弯曲。所述测量处理部具有测量点设定部、对应点搜索部以及三维坐标计算部。所述测量点设定部在所述第一图像中设定测量点。所述对应点搜索部在所述第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点。所述三维坐标计算部使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标。所述内窥镜装置具有可靠度判定部和弯曲控制部。所述可靠度判定部判定基于所述测量点的测量处理的可靠度。在由所述可靠度判定部判定为所述可靠度低的情况下,所述弯曲控制部对所述弯曲部进行控制,使得所述前端向所述视差方向的所述第一摄像光学系统侧移动。
根据本发明的第7方式,在第6方式中,也可以是,所述可靠度判定部具有相关值计算部和比较判定部。所述相关值计算部计算所述第一图像中的所述测量点的位置与所述第二图像中的所述对应点的位置之间的相关值或差异度。所述比较判定部将所述相关值或所述差异度与第一规定值进行比较,基于该比较的结果来判定所述可靠度。
根据本发明的第8方式,在第6方式中,也可以是,所述可靠度判定部具有遮挡发生判定部,该遮挡发生判定部判定是否发生了遮挡。也可以是,在由所述遮挡发生判定部判定为发生了所述遮挡的情况下,所述可靠度判定部判定为所述可靠度低。
根据本发明的第9方式,在第6方式中,也可以是,所述可靠度判定部具有相关值计算部、遮挡发生判定部以及比较判定部。所述相关值计算部计算所述第一图像中的所述测量点的位置与所述第二图像中的所述对应点的位置之间的相关值或差异度。所述遮挡发生判定部判定是否发生了遮挡。所述比较判定部基于将所述相关值或所述差异度与第一规定值进行比较所得到的比较结果和所述遮挡发生判定部的判定结果,来判定所述可靠度。
根据本发明的第10方式,在第8方式或第9方式中,也可以是,所述遮挡发生判定部具有测量辅助点设定部、物距计算部、差计算部以及差判定部。所述测量辅助点设定部通过对至少与所述第一图像对应的影像信号进行处理,来在所述第一图像中在核线上且在所述测量点的左侧设定第一测量辅助点,并且在所述核线上且在所述测量点的右侧设定第二测量辅助点。所述物距计算部计算所述第一测量辅助点处的第一物距和所述第二测量辅助点处的第二物距。所述差计算部计算所述第一物距与所述第二物距之差。所述差判定部将所述差与第二规定值进行比较,在所述差大于所述第二规定值的情况下,判定为发生了所述遮挡。
根据本发明的第11方式,在第6方式中,也可以是,所述内窥镜装置具有测量点确认部和通知控制部。也可以是,所述弯曲控制部具有测量点估计部和弯曲量计算部。所述测量点估计部通过对至少与所述第一图像对应的影像信号和至少与所述第二图像对应的所述影像信号进行处理,来估计所述测量点的三维坐标。所述弯曲量计算部计算使所述测量点的被估计出的三维坐标处的被摄体点包含在所述第二摄像光学系统的视场中所需要的弯曲量。也可以是,在所述弯曲控制部进行基于所述弯曲量的弯曲控制之前,所述测量点确认部判定在所述前端虚拟地弯曲了所述弯曲量时所述被摄体点是否包含在所述第一摄像光学系统的视场中。在判定为在所述前端虚拟地弯曲了所述弯曲量时所述被摄体点不包含在所述第一摄像光学系统的视场中的情况下,所述通知控制部进行通知,以促使用户进行使所述前端离开被摄体的操作。
根据本发明的第12方式,在第6方式中,也可以是,所述视差方向是从所述第一摄像光学系统的第一光学中心朝向所述第二摄像光学系统的第二光学中心的方向。也可以是,所述弯曲控制部具有测量点估计部、边缘检测部、边缘位置计算部、虚拟直线计算部以及弯曲量计算部。所述测量点估计部通过对至少与所述第一图像对应的影像信号和至少与所述第二图像对应的所述影像信号进行处理,来估计所述测量点的三维坐标。所述边缘检测部通过对至少与所述第一图像对应的所述影像信号进行处理,来检测在所述第一图像中图像浓度的变化相对大的边缘。所述边缘在所述第一图像中相对于所述测量点而言处于所述视差方向侧。所述边缘位置计算部通过对至少与所述第一图像对应的所述影像信号和与所述第二图像对应的所述影像信号进行处理,根据所述三角测量的原理来计算所述边缘中的边缘点的三维坐标。所述虚拟直线计算部计算经过所述测量点的被估计出的三维坐标和所述边缘点的三维坐标的虚拟直线。所述弯曲量计算部计算使所述第二光学中心移动到虚拟直线上的位置或者相对于该虚拟直线而言处于所述视差方向的相反方向侧的位置所需要的弯曲量。
根据本发明的第13方式,在第6方式中,也可以是,所述视差方向是从所述第一摄像光学系统的第一光学中心朝向所述第二摄像光学系统的第二光学中心的方向。也可以是,所述内窥镜装置具有受光面,该受光面被配置在所述前端,且被配置在所述第一摄像光学系统和所述第二摄像光学系统的成像位置。也可以是,所述弯曲控制部具有虚拟直线计算部和弯曲量计算部。所述虚拟直线计算部计算经过所述第一光学中心和所述受光面上的测量点位置的虚拟直线。所述弯曲量计算部计算使所述第二光学中心移动到虚拟直线上的位置或者相对于该虚拟直线而言处于所述视差方向的相反方向侧的位置所需要的弯曲量。
根据本发明的第14方式,在第6方式中,也可以是,所述弯曲控制部对所述弯曲部进行控制,使得所述前端弯曲规定的弯曲量。也可以是,所述测量处理部具有测量点搜索部。所述测量点搜索部通过对基于所述规定的弯曲量对所述弯曲部进行控制后的至少与所述第一图像对应的影像信号进行处理,来搜索与在基于所述规定的弯曲量对所述弯曲部进行控制之前所指定的所述测量点的位置相同的位置,并且在搜索到的位置设定所述测量点。也可以是,所述可靠度判定部基于与由所述测量点搜索部搜索到的所述测量点对应的所述对应点,来再次判定所述可靠度。
根据本发明的第15方式,内窥镜装置具有内窥镜插入部、投影光学系统、图案控制部、摄像光学系统、摄像元件以及测量处理部。所述投影光学系统被配置在所述内窥镜插入部的前端,并且向被摄体依次投影空间上的相位不同的多个周期性的图案。所述图案控制部使所述图案的空间上的相位偏移。所述摄像光学系统被配置在所述前端且与配置有所述投影光学系统的位置不同的位置,并且使被投影了多个所述图案的所述被摄体的多个光学像依次成像。所述摄像元件生成与经由所述摄像光学系统得到的所述多个光学像对应的多个图像。所述测量处理部在所述多个图像中的至少一个图像中设定测量点,并且使用所述多个图像通过移相法来计算所述测量点的三维坐标。所述内窥镜装置具有可靠度判定部和通知控制部。所述可靠度判定部判定基于所述测量点的测量处理的可靠度。在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端从所述投影光学系统侧朝向所述摄像光学系统侧移动的操作。
根据本发明的第16方式,内窥镜装置具有内窥镜插入部、投影光学系统、图案控制部、摄像光学系统、摄像元件、测量处理部以及弯曲部。所述投影光学系统被配置在所述内窥镜插入部的前端,并且向被摄体依次投影空间上的相位不同的多个周期性的图案。所述图案控制部使所述图案的空间上的相位偏移。所述摄像光学系统被配置在所述前端且与配置有所述投影光学系统的位置不同的位置,并且使被投影了多个所述图案的所述被摄体的多个光学像依次成像。所述摄像元件生成与经由所述摄像光学系统得到的所述多个光学像对应的多个图像。所述测量处理部在所述多个图像中的至少一个图像中设定测量点,并且使用所述多个图像通过移相法来计算所述测量点的三维坐标。所述弯曲部被配置在所述前端,且使所述前端弯曲。所述内窥镜装置具有可靠度判定部和弯曲控制部。所述可靠度判定部判定基于所述测量点的测量处理的可靠度。在由所述可靠度判定部判定为所述可靠度低的情况下,所述弯曲控制部对所述弯曲部进行控制,使得所述前端从所述投影光学系统侧朝向所述摄像光学系统侧移动。
根据本发明的第17方式,内窥镜装置具有内窥镜插入部、投影光学系统、摄像光学系统、摄像元件以及测量处理部。所述投影光学系统被配置在所述内窥镜插入部的前端,并且向被摄体投影随机图案。所述摄像光学系统被配置在所述前端且与配置有所述投影光学系统的位置不同的位置,并且使被投影了所述随机图案的所述被摄体的光学像成像。所述摄像元件生成与经由所述摄像光学系统得到的光学像对应的第一图像。所述测量处理部具有测量点设定部、对应点搜索部以及三维坐标计算部。所述测量点设定部在所述第一图像中设定测量点。所述对应点搜索部在与所述随机图案相关的第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点。所述三维坐标计算部使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标。也可以是,所述内窥镜装置具有可靠度判定部和通知控制部。所述可靠度判定部判定基于所述测量点的测量处理的可靠度。在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端从所述投影光学系统侧朝向所述摄像光学系统侧移动的操作。
根据本发明的第18方式,内窥镜装置具有内窥镜插入部、投影光学系统、摄像光学系统、摄像元件、测量处理部以及弯曲部。所述投影光学系统被配置在所述内窥镜插入部的前端,并且向被摄体投影随机图案。所述摄像光学系统被配置在所述前端且与配置有所述投影光学系统的位置不同的位置,并且使被投影了所述随机图案的所述被摄体的光学像成像。所述摄像元件生成与经由所述摄像光学系统得到的光学像对应的第一图像。所述弯曲部被配置在所述前端,且使所述前端弯曲。所述测量处理部具有测量点设定部、对应点搜索部以及三维坐标计算部。所述测量点设定部在所述第一图像中设定测量点。所述对应点搜索部在与所述随机图案相关的第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点。所述三维坐标计算部使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标。所述测量处理部具有测量点设定部、对应点搜索部以及三维坐标计算部。所述测量点设定部在所述第一图像中设定测量点。所述对应点搜索部在与所述随机图案相关的第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点。所述三维坐标计算部使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标。所述内窥镜装置具有可靠度判定部和弯曲控制部。所述可靠度判定部判定基于所述测量点的测量处理的可靠度。在由所述可靠度判定部判定为所述可靠度低的情况下,所述弯曲控制部对所述弯曲部进行控制,使得所述前端从所述投影光学系统侧朝向所述摄像光学系统侧移动。
根据本发明的第19方式,内窥镜装置具有内窥镜插入部、摄像光学系统、摄像元件以及测量处理部。所述摄像光学系统被配置在所述内窥镜插入部的前端,并且在第一位置和与所述第一位置不同的第二位置分别使被摄体的光学像成像。所述摄像元件生成与经由所述摄像光学系统在所述第一位置得到的第一光学像对应的第一图像以及与经由所述摄像光学系统在所述第二位置得到的第二光学像对应的第二图像。所述测量处理部具有测量点设定部、对应点搜索部以及三维坐标计算部。所述测量点设定部在所述第一图像中设定测量点。所述对应点搜索部在所述第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点。所述三维坐标计算部使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标。所述内窥镜装置具有可靠度判定部和通知控制部。所述可靠度判定部判定基于所述测量点的测量处理的可靠度。在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端从所述第二位置侧朝向所述第一位置侧移动的操作。
根据本发明的第20方式,内窥镜装置具有内窥镜插入部、摄像光学系统、摄像元件、测量处理部以及弯曲部。所述摄像光学系统被配置在所述内窥镜插入部的前端,并且在第一位置和与所述第一位置不同的第二位置分别使被摄体的光学像成像。所述摄像元件生成与经由所述摄像光学系统在所述第一位置得到的第一光学像对应的第一图像以及与经由所述摄像光学系统在所述第二位置得到的第二光学像对应的第二图像。所述弯曲部被配置在所述前端,且使所述前端弯曲。所述测量处理部具有测量点设定部、对应点搜索部以及三维坐标计算部。所述测量点设定部在所述第一图像中设定测量点。所述对应点搜索部在所述第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点。所述三维坐标计算部使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标。所述内窥镜装置具有可靠度判定部和弯曲控制部。所述可靠度判定部判定基于所述测量点的测量处理的可靠度。在由所述可靠度判定部判定为所述可靠度低的情况下,所述弯曲控制部对所述弯曲部进行控制,使得所述前端从所述第二位置侧朝向所述第一位置侧移动。
根据本发明的第21方式,内窥镜装置具有内窥镜插入部、至少一个摄像光学系统、摄像元件以及测量处理部。所述至少一个摄像光学系统被配置在所述内窥镜插入部的前端。所述摄像元件生成与经由所述摄像光学系统得到的光学像对应的图像。所述测量处理部基于所述图像以及与第一位置和同所述第一位置不同的第二位置有关的摄像机参数,根据三角测量的原理来进行测量处理。所述内窥镜装置具有可靠度判定部和通知控制部。所述可靠度判定部判定基于测量点的所述测量处理的可靠度,该测量点是在与经由所述摄像光学系统在所述第一位置得到的所述光学像对应的所述图像中设定的。在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端从所述第二位置侧朝向所述第一位置侧移动的操作。
根据本发明的第22方式,在第21方式中,也可以是,所述摄像光学系统包括第一摄像光学系统和第二摄像光学系统。也可以是,所述第一摄像光学系统被配置在所述第一位置。也可以是,所述第二摄像光学系统被配置在所述第二位置,且所述第二摄像光学系统相对于所述第一摄像光学系统具有视差。也可以是,所述图像包括与经由所述第一摄像光学系统得到的第一光学像对应的第一图像和与经由所述第二摄像光学系统得到的第二光学像对应的第二图像。也可以是,所述测量处理部基于所述第一图像和所述第二图像来进行所述测量处理。
根据本发明的第23方式,在第21方式中,也可以是,所述摄像光学系统被配置在所述第一位置。也可以是,所述内窥镜装置具有投影光学系统。所述投影光学系统被配置在所述第二位置,并且向被摄体投影规定的图案。
根据本发明的第24方式,在第21方式中,也可以是,所述图像包括与经由所述摄像光学系统在所述第一位置得到的第一光学像对应的第一图像和与经由所述摄像光学系统在所述第二位置得到的第二光学像对应的第二图像。也可以是,所述测量处理部基于所述第一图像和所述第二图像来进行所述测量处理。
根据本发明的第25方式,在第21方式中,也可以是,所述可靠度判定部具有遮挡发生判定部,该遮挡发生判定部判定是否发生了遮挡。也可以是,在由所述遮挡发生判定部判定为发生了所述遮挡的情况下,所述可靠度判定部判定为所述可靠度低。
根据本发明的第26方式,内窥镜装置具有内窥镜插入部、至少一个摄像光学系统、摄像元件、测量处理部以及弯曲部。所述至少一个摄像光学系统被配置在所述内窥镜插入部的前端。所述摄像元件生成与经由所述摄像光学系统得到的光学像对应的图像。所述测量处理部基于所述图像以及与第一位置和同所述第一位置不同的第二位置有关的摄像机参数,根据三角测量的原理来进行测量处理。所述弯曲部被配置在所述前端,且使所述前端弯曲。所述内窥镜装置具有可靠度判定部和弯曲控制部。所述可靠度判定部判定基于测量点的所述测量处理的可靠度,该测量点是在与经由所述摄像光学系统在所述第一位置得到的所述光学像对应的所述图像中设定的。在由所述可靠度判定部判定为所述可靠度低的情况下,所述弯曲控制部对所述弯曲部进行控制,使得所述前端从所述第二位置侧朝向所述第一位置侧移动。
发明的效果
根据上述的各方式,能够抑制因发生遮挡引起的测量精度的降低。
附图说明
图1是本发明的第一实施方式的测量内窥镜装置的立体图。
图2是示出本发明的第一实施方式的测量内窥镜装置中的内窥镜插入部的前端和立体光学适配器的结构的立体图。
图3是示出本发明的第一实施方式的测量内窥镜装置中的内窥镜插入部的前端和立体光学适配器的结构的截面图。
图4是示出本发明的第一实施方式的测量内窥镜装置的结构的框图。
图5是示出本发明的第一实施方式的测量内窥镜装置中的测量处理部的结构的框图。
图6是用于说明本发明的第一实施方式的通过立体测量求出测量点的三维坐标的方法的参考图。
图7是示出本发明的第一实施方式的测量内窥镜装置的动作的过程的流程图。
图8是示出由本发明的第一实施方式的测量内窥镜装置中的显示部显示的图像的参考图。
图9是示出由本发明的第一实施方式的测量内窥镜装置中的显示部显示的图像的参考图。
图10是示出本发明的第一实施方式的测量内窥镜装置中的可靠度判定部的结构的框图。
图11是示出本发明的第一实施方式的测量内窥镜装置的动作的过程的流程图。
图12是示出本发明的第一实施方式的测量内窥镜装置中的可靠度判定部的结构的框图。
图13是示出本发明的第一实施方式的测量内窥镜装置中的遮挡发生判定部的结构的框图。
图14是示出本发明的第一实施方式的测量内窥镜装置的动作的过程的流程图。
图15是示出由本发明的第一实施方式的测量内窥镜装置中的可靠度判定部进行处理的图像的参考图。
图16是示出本发明的第一实施方式的测量内窥镜装置中的可靠度判定部的结构的框图。
图17是示出本发明的第一实施方式的测量内窥镜装置的动作的过程的流程图。
图18是示出本发明的第二实施方式的测量内窥镜装置的结构的框图。
图19是示出本发明的第二实施方式的测量内窥镜装置中的弯曲控制部的结构的框图。
图20是示出本发明的第二实施方式的测量内窥镜装置的动作的过程的流程图。
图21是示出由本发明的第二实施方式的测量内窥镜装置中的弯曲控制部进行处理的图像的参考图。
图22是示出本发明的第二实施方式的测量内窥镜装置中的内窥镜插入部的前端与被摄体的位置的参考图。
图23是示出本发明的第二实施方式的测量内窥镜装置中的内窥镜插入部的前端发生弯曲的情形的参考图。
图24是示出本发明的第二实施方式的测量内窥镜装置中的内窥镜插入部的前端与被摄体的位置的参考图。
图25是示出本发明的第二实施方式的测量内窥镜装置中的内窥镜插入部的前端与被摄体的位置的参考图。
图26是示出由本发明的第二实施方式的测量内窥镜装置中的显示部显示的图像的参考图。
图27是示出本发明的第三实施方式的测量内窥镜装置的结构的框图。
图28是示出本发明的第三实施方式的测量内窥镜装置中的测量处理部的结构的框图。
图29是示出本发明的第三实施方式的测量内窥镜装置的动作的过程的流程图。
图30是示出由本发明的第三实施方式的测量内窥镜装置中的显示部显示的图像的参考图。
图31是示出本发明的第一实施方式至第三实施方式的变形例的测量内窥镜装置中的立体光学适配器的结构的框图。
图32是示出本发明的第四实施方式的测量内窥镜装置的结构的框图。
图33是本发明的第四实施方式的测量内窥镜装置中的内窥镜插入部的前端的主视图。
图34是示出本发明的第四实施方式的测量内窥镜装置中的摄像光学系统的视角与投影光学系统的照射角度之间的关系的示意图。
图35是示出在本发明的第四实施方式中向被摄体投影的条纹图案的参考图。
图36是示出由本发明的第四实施方式的测量内窥镜装置中的显示部显示的图像的参考图。
图37是示出由本发明的第四实施方式的测量内窥镜装置中的显示部显示的图像的参考图。
图38是示出本发明的第四实施方式的测量内窥镜装置中的内窥镜插入部的前端与被摄体的位置的参考图。
图39是示出从本发明的第四实施方式的测量内窥镜装置中的摄像光学系统的光学中心观察的被摄体像的参考图。
图40是示出从本发明的第四实施方式的测量内窥镜装置中的投影光学系统的光学中心观察的被摄体像的参考图。
图41是示出本发明的第四实施方式的测量内窥镜装置的动作的过程的流程图。
图42是示出本发明的第五实施方式的测量内窥镜装置的结构的框图。
图43是示出本发明的第五实施方式的测量内窥镜装置中的内窥镜插入部的前端和立体光学适配器的结构的框图。
图44是示出本发明的第五实施方式的测量内窥镜装置的动作的过程的流程图。
图45是示出本发明的第六实施方式的测量内窥镜装置的结构的框图。
图46是示出本发明的第六实施方式的测量内窥镜装置中的内窥镜插入部的前端和光学适配器的结构的框图。
图47是示出本发明的第六实施方式的测量内窥镜装置的动作的过程的流程图。
图48是示出本发明的第七实施方式的测量内窥镜装置的结构的框图。
图49是示出本发明的第七实施方式的测量内窥镜装置中的内窥镜插入部的前端和光学适配器的结构的框图。
图50是示出本发明的第七实施方式的测量内窥镜装置中的内窥镜插入部的前端与被摄体的位置的参考图。
图51是示出从本发明的第七实施方式的测量内窥镜装置中的透镜的光学中心观察的被摄体像的参考图。
图52是示出从本发明的第七实施方式的测量内窥镜装置中的透镜的光学中心观察的被摄体像的参考图。
图53是示出由本发明的第七实施方式的测量内窥镜装置中的显示部显示的图像的参考图。
具体实施方式
以下,参照附图来说明本发明的实施方式。
(第一实施方式)
图1示出本发明的第一实施方式的测量内窥镜装置1的外观。测量内窥镜装置1对被摄体进行拍摄,根据图像来测量被摄体的几何特征。检查者能够进行被安装于内窥镜插入部的前端的光学适配器的更换、所内置的测量处理程序的选择以及测量处理程序的追加,以进行对各种被摄体的观察和测量。
如图1所示,测量内窥镜装置1具有内窥镜插入部2、立体光学适配器3(立体光学系统)、控制单元4、操作部5以及显示部6。
内窥镜插入部2被插入到被摄体的内部。内窥镜插入部2呈从前端20至基端部均能够弯折的细长的管状。内窥镜插入部2对测量部分进行拍摄,将摄像信号100(参照图4)输出到控制单元4。立体光学适配器3被安装于内窥镜插入部2的前端20。
控制单元4对测量内窥镜装置1进行控制。控制单元4进行的控制包含针对影像的影像处理和测量所需要的运算处理。
操作部5是用户接口。例如,用户接口是按钮、开关、按键、鼠标、操纵杆、触摸板、跟踪球以及触摸面板中的至少一个。操作部5接受用户对测量内窥镜装置1的操作。操作部5与控制单元4连接。例如,操作部5所接受的操作是第一操作至第八操作中的至少一个。第一操作与电源的接通/断开有关。第二操作与校准设定有关。第三操作与摄像动作有关。第四操作与照明有关。第五操作与内窥镜插入部2的弯曲驱动有关。第六操作与测量有关。第七操作与向存储介质等的影像记录有关。第八操作与存储介质等中记录的影像的读出有关。用户能够经由操作部5来进行这些操作。
显示部6是监视器(显示器)。显示部6基于从控制单元4输出的显示用影像信号103(参照图4),来显示被摄体的影像和其它信息。这些影像和信息分别根据需要而单独地显示。或者,将这些影像和信息合成后进行显示。在进行立体测量的情况下,显示用影像信号103包含具有视差的两个图像中的至少一个图像。
例如,由显示部6显示的影像以外的信息是来自操作部5的操作输入信息、操作菜单、操作用的图形用户界面(GUI)以及测量用信息104(参照图4)中的至少一个。测量用信息104是在测量时使用的目标的图像和测量结果等。
图2和图3示出内窥镜插入部2的前端20和立体光学适配器3的结构。图2示出内窥镜插入部2的前端20和立体光学适配器3的外观。图3示出内窥镜插入部2的前端20和立体光学适配器3的截面。在图3中示出包括第一光学系统31和第二光学系统32的截面。
立体光学适配器3被安装于内窥镜插入部2的前端20。立体光学适配器3通过固定环71的内螺纹72来与内窥镜插入部2的前端20的外螺纹23螺纹结合而被固定。在立体光学适配器3的前端设置有第一光学系统31、第二光学系统32以及照明窗33。第一光学系统31和第二光学系统32包括物镜。第一光学系统31和第二光学系统32在视差方向Dr1上分离。在朝向被摄体时,第一光学系统31被配置在左侧,第二光学系统32被配置在右侧。第一光学系统31的光轴Ax1和第二光学系统32的光轴Ax2被配置为与视差方向Dr1交叉的方向Dr2。也就是说,第一光学系统31的光轴Ax1和第二光学系统32的光轴Ax2以朝向方向Dr2的方式配置。视差方向Dr1是经过第一光学系统31的第一光学中心(主点)和第二光学系统32的第二光学中心(主点)的直线的方向。方向Dr2与视差方向Dr1正交。第一光学系统31和第二光学系统32使被摄体的两个像在设置于内窥镜插入部2的前端20内的摄像元件21上成像。第一光学系统31使第一光学像成像,第二光学系统32使第二光学像成像。
第一光学像和第二光学像彼此具有视差。在与第一光学像对应的第一图像中指定测量点。也可以是,在朝向被摄体时,第一光学系统31被配置在右侧,第二光学系统32被配置在左侧。
摄像元件21是图像传感器。摄像元件21被配置在内窥镜插入部2的前端20。摄像元件21具有被配置在第一光学系统31和第二光学系统32的成像位置的受光面24。摄像元件21根据经由第一光学系统31在受光面24成像的第一光学像以及经由第二光学系统32在受光面24成像的第二光学像中的至少一个光学像来生成摄像信号100。也就是说,摄像元件21生成与经由第一光学系统31得到的第一光学像对应的第一图像以及与经由第二光学系统32得到的第二光学像对应的第二图像。
摄像元件21与信号线80连接,摄像信号100从摄像元件21被输出到信号线80。在内窥镜插入部2的前端20的端面配置有用于保护摄像元件21的护罩玻璃35。
图4示出测量内窥镜装置1的结构。如图4所示,立体光学适配器3具有第一光学系统31和第二光学系统32。第一光学系统31的光轴和第二光学系统32的光轴被配置为与视差方向交叉的方向。立体光学适配器3被配置在内窥镜插入部2的前端20。在内窥镜插入部2的前端20,第一光学系统31和第二光学系统32以在视差方向上相互分离的方式配置。在图4所示的结构中,立体光学适配器3接近内窥镜插入部2的前端20地配置。也可以是,构成立体光学适配器3的第一光学系统31和第二光学系统32被配置在内窥镜插入部2的前端20的内部。
内窥镜插入部2具有摄像元件21和弯曲部22。摄像元件21输出基于第一光学像和第二光学像的摄像信号100。或者,摄像元件21输出仅基于第一光学像的摄像信号100和仅基于第二光学像的摄像信号100。弯曲部22是弯曲机构。弯曲部22被配置在内窥镜插入部2的前端20。弯曲部22使内窥镜插入部2的前端20弯曲。
操作部5从用户处接收针对显示部6所显示的图像(第一图像)的与立体测量有关的操作指示以及用于使内窥镜插入部2的前端20弯曲的弯曲指示。与立体测量有关的操作指示包含测量的开始/结束的指示、图像记录的指示以及测量点的指示。在操作部5从用户处接收到测量开始的指示的情况下,操作部5输出测量开始信号105。在操作部5接收到图像记录的指示的情况下,操作部5输出图像记录指示信号106。在操作部5接收到测量点的指示的情况下,操作部5输出测量输入信息107。在操作部5接收到弯曲指示的情况下,操作部5输出弯曲指示信号108。
控制单元4具有影像信号处理部34、信号转换部38、图像存储部42、测量处理部43、可靠度判定部44以及控制部45。
影像信号处理部34和信号转换部38是信号处理电路。影像信号处理部34在被输入测量开始信号105之后,对摄像信号100实施影像处理。由此,影像信号处理部34根据摄像信号100来生成与基于第一光学像的第一图像和基于第二光学像的第二图像中的至少一个图像对应的输出用影像信号101和输出用影像信号102。在从摄像元件21输出了基于第一光学像和第二光学像的摄像信号100的情况下,影像信号处理部34生成与第一图像和第二图像对应的输出用影像信号101和输出用影像信号102。在从摄像元件21输出了仅基于第一光学像的摄像信号100或仅基于第二光学像的摄像信号100的情况下,影像信号处理部34将仅基于第一图像的摄像信号100与仅基于第二图像的摄像信号100合成。由此,影像信号处理部34生成与第一图像和第二图像对应的输出用影像信号101和输出用影像信号102。影像信号处理部34也可以生成仅与第一图像对应的输出用影像信号101和输出用影像信号102。输出用影像信号101被输出到信号转换部38。输出用影像信号102被输出到图像存储部42。输出用影像信号101和输出用影像信号102不一定是不同的信号。输出用影像信号101和输出用影像信号102也可以是被实施了相同的影像处理所得到的相同的信号。
信号转换部38将从影像信号处理部34输出的输出用影像信号101转换为显示用影像信号103输出到显示部6。信号转换部38通过根据需要将操作画面图像等其它的图像数据与输出用影像信号101合成,来将输出用影像信号101转换为显示用影像信号103。另外,在从控制部45输出了测量用信息104的情况下,信号转换部38通过将测量用信息104与输出用影像信号101合成,来生成显示用影像信号103。
用户通过经由操作部5对显示部6的画面上的目标进行操作来指定测量点等。测量点等的信息被作为测量输入信息107输出到测量处理部43。立体测量的测量结果同包含测量点的标记等的测量用的GUI图像一起被作为测量用信息104输出到信号转换部38。利用信号转换部38将测量用信息104与输出用影像信号101合成。
显示部6基于至少与第一图像对应的显示用影像信号103,来至少显示第一图像。由于显示用影像信号103与第一图像和第二图像对应,因此显示部6显示第一图像和第二图像。在显示用影像信号103仅与第一图像对应的情况下,显示部6显示第一图像。
图像存储部42是易失性或非易失性的存储器。例如,存储器是RAM(Random AccessMemory:随机存取存储器)、DRAM(Dynamic Random Access Memory:动态随机存取存储器)、SRAM(Static Random Access Memory:静态随机存取存储器)、ROM(Read Only Memory:只读存储器)、EPROM(Erasable Programmable Read Only Memory:可擦除可编程只读存储器)、EEPROM(Electrically Erasable Programmable Read-Only Memory:电可擦可编程只读存储器)以及快闪存储器中的至少一个。图像存储部42存储从影像信号处理部34输出的输出用影像信号102。图像存储部42中存储的输出用影像信号102是一帧的静止图像数据或多帧的实时图像的数据(运动图像数据)。在从操作部5被输入了图像记录指示信号106的情况下,按照控制部45的控制,从图像存储部42读出图像数据。所读出的图像数据被输出到外部存储介质46并被存储到外部存储介质46中。另外,图像存储部42中存储的图像数据被作为图像数据109输出到测量处理部43。
测量处理部43、可靠度判定部44以及控制部45由一个或多个处理器构成。例如,处理器是CPU(Central Processing Unit:中央处理单元)、DSP(Digital Signal Processor:数字信号处理器)以及GPU(Graphics Processing Unit:图形处理单元)中的至少一个。测量处理部43、可靠度判定部44以及控制部45也可以由支持特定用途的集成电路(ASIC)或FPGA(Field-Programmable Gate Array:现场可编程门阵列)构成。
测量处理部43使用从图像存储部42输出的图像数据109来进行测量处理。另外,测量处理部43生成用户进行测量的操作所需要的测量用的GUI图像。测量处理部43通过公知的算法来进行立体测量。
图5示出测量处理部43的结构。如图5所示,测量处理部43具有测量点指定部431(测量点设定部)、对应点搜索部432以及三维坐标计算部433。
测量点指定部431基于操作部5接收到的操作指示来指定第一图像的测量点。也就是说,测量点指定部431基于来自操作部5的测量输入信息107来指定测量点。换言之,测量点指定部431在与经由第一光学系统31得到的第一光学像对应的第一图像中设定测量点。对应点搜索部432通过对至少与第一图像对应的影像信号(图像数据109)和至少与第二图像对应的影像信号(图像数据109)进行处理,来搜索第二图像中的与测量点对应的对应点。也就是说,对应点搜索部432通过进行第一图像与第二图像的图案匹配来搜索对应点。换言之,对应点搜索部432在与经由第二光学系统32得到的第二光学像对应的第二图像中搜索与由测量点指定部431设定的测量点对应的对应点。三维坐标计算部433使用测量点和由对应点搜索部432搜索(确定)出的对应点,通过三角测量的原理来计算测量点的三维坐标。
对至少与第一图像对应的影像信号和至少与第二图像对应的影像信号的处理包含对与第一图像和第二图像对应的影像信号中的、与第一图像对应的部分的影像信号的处理以及对与第二图像对应的部分的影像信号的处理。或者,对至少与第一图像对应的影像信号和至少与第二图像对应的影像信号的处理包含对仅与第一图像对应的影像信号的处理和对仅与第二图像对应的影像信号的处理。
测量点是第一图像中的点。测量点的三维坐标是被摄体上的与测量点对应的空间点的三维坐标。同样地,第一图像中的点的三维坐标是被摄体上的与该点对应的空间点的三维坐标。
测量处理部43基于由三维坐标计算部433计算出的三维坐标,来计算与被摄体的尺寸有关的距离和面积等。测量处理部43将对应点的信息等测量信息110输出到可靠度判定部44。另外,测量处理部43将表示测量结果的测量结果信息111输出到控制部45。
可靠度判定部44判定由对应点搜索部432搜索(确定)出的对应点的可靠度。换言之,可靠度判定部44判定基于测量点的测量处理的可靠度。可靠度判定部44将表示可靠度的判定结果的判定结果信息112输出到控制部45。
控制部45对测量内窥镜装置1的各部进行控制。控制部45具有通知控制部451。在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20以内窥镜插入部2的前端20向视差方向的第一光学系统31侧移动的方式弯曲的弯曲操作。换言之,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20朝向视差方向的第一光学系统31侧移动的操作。也就是说,通知控制部451输出包含促使用户进行弯曲操作的消息的测量用信息104。
在基于经由第一光学系统31成像的第一光学像的第一图像中指定测量点。在该情况下,测量点是在第一图像中能够视觉识别的被摄体上的点。在发生了遮挡的情况下,第二图像中的与测量点对应的对应点有时被包含于死角。在该情况下,通过使视点向第一光学系统31侧、即左侧移动,可期待用户能够视觉识别对应点。因此,能够抑制因发生遮挡引起的测量精度的降低。
在发生了遮挡的情况下,进行弯曲操作,以使视点移动。使内窥镜插入部2的前端20弯曲的方向能够根据几何关系进行估计。在第一图像中指定测量点的情况下,用于避免遮挡的视点的移动方向是从第二光学系统32朝向第一光学系统31的方向。也就是说,视点的移动方向是左方向。在第一光学系统31被配置在第二光学系统32的右侧的情况下,视点的移动方向是右方向。
参照图6来说明立体测量的原理。在立体测量中,基于由两个光学系统捕捉到被摄体像时的两个光学测距点的坐标,使用三角测量的原理来求出被摄体的三维坐标,由此能够进行测量。下面,说明通过立体测量求出测量点的三维坐标的方法。将连结左侧的光学中心(第一光学中心63)和右侧的光学中心(第二光学中心64)的线段的中点定义为原点O。另外,定义右方向为正的x轴以及下方向为正的y轴。x轴是经过左侧的光学中心(第一光学中心63)和右侧的光学中心(第二光学中心64)的直线。另外,定义与光轴平行且远离光学系统的方向为正的z轴。
针对包含经由左侧的光学系统(第一光学系统31)和右侧的光学系统(第二光学系统32)得到的被摄体像的图像,通过三角测量的方法,通过以下的(1)式~(3)式来计算测量点60的三维坐标(X,Y,Z)。其中,被实施畸变校正后的左侧图像面的测量点61的二维坐标和被实施畸变校正后的右侧图像面的对应点62的二维坐标分别是(XL,YL)、(XR,YR)。这些二维坐标的原点分别是左侧的光学系统的光轴与图像面的交点OL和右侧的光学系统的光轴与图像面的交点OR。第一光学中心63与第二光学中心64之间的距离为D。焦距为F。t满足t=D/(XR-XL)。
X=t×XR+D/2…(1)
Y=-t×YR…(2)
Z=t×F…(3)
当如上述那样决定图像面上的测量点61的坐标和对应点62的坐标时,使用参数D和参数F来求出测量点60的三维坐标。通过求出几个点的三维坐标,能够进行两点之间的距离、连结两点的线与一点之间的距离、面积、深度、表面形状等的各种测量。另外,还能够求出从第一光学中心63或第二光学中心64到被摄体的距离(物距)。为了进行上述的立体测量,需要表示包括内窥镜插入部2的前端20和立体光学适配器3的光学系统的特性的光学数据。例如,匹配处理和光学数据的详细内容在日本特开2004-49638号公报中进行了记载,因此省略其说明。
光学数据是一般的摄像机参数。摄像机参数包含与第一位置和同第一位置不同的第二位置有关的参数D。第一位置是第一光学中心63,并且第二位置是第二光学中心64。第一位置的坐标是(x,y,z)=(-D/2,0,0),并且第二位置的坐标是(x,y,z)=(D/2,0,0)。测量处理部43基于由摄像元件21生成的图像以及与第一位置和同第一位置不同的第二位置有关的摄像机参数,通过三角测量的原理来进行测量处理。在此,摄像机参数包含参数D,该参数D是第一位置与第二位置之间的距离D。在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20从第二位置侧朝向第一位置侧移动的操作。
对测量内窥镜装置1的动作进行说明。图7示出测距时的测量内窥镜装置1的动作的过程。在显示被摄体的实时图像的状态下进行测距。在测距时,测量离被摄体的物距。摄像元件21连续地生成摄像信号100。也就是说,摄像元件21生成构成实时图像的各帧的摄像信号100。
在开始进行测距之后,影像信号处理部34根据摄像信号100来生成输出用影像信号101和输出用影像信号102。信号转换部38将基于输出用影像信号101的显示用影像信号103输出到显示部6(步骤S100)。在步骤S100之后,显示部6基于显示用影像信号103来显示图像(步骤S105)。
图8示出由显示部6显示的图像的例子。显示部6显示第一图像G1L和第二图像G1R。第一图像G1L是基于经由第一光学系统31成像的第一光学像的图像。第二图像G1R是基于经由第二光学系统32成像的第二光学像的图像。被摄体OB显现在第一图像G1L和第二图像G1R中。作为物距的测量结果的测距结果RS1被叠加在第二图像G1R中。在第一图像G1L中叠加目标。在图8中省略了目标。
在步骤S105之后,用户经由操作部5来指定测量点。操作部5输出测量输入信息107(步骤S110)。测量输入信息107包含由用户指定的目标的位置信息。在步骤S110之后,测量点指定部431基于来自操作部5的测量输入信息107来指定第一图像的测量点。由此,测量点指定部431在第一图像中设定测量点。也就是说,测量点指定部431获取测量点的位置的二维坐标(步骤S115)。例如,目标的位置与测量点的位置一致。
在步骤S115之后,对应点搜索部432进行模板图像数据与同第二图像对应的图像数据109的图案匹配,来搜索第二图像中的与测量点对应的对应点(步骤S120)。模板图像数据是与第一图像对应的图像数据109中的包含测量点的位置的规定大小的数据。对应点搜索部432一边使第二图像中与模板图像数据进行比较的区域的位置移位一边进行图案匹配。在搜索到对应点之后,对应点搜索部432将包含测量点和对应点的位置信息的测量信息110输出到可靠度判定部44。
在步骤S120之后,三维坐标计算部433进行与测距有关的处理(步骤S125)。在步骤S125中,三维坐标计算部433使用测量点和由对应点搜索部432搜索到的对应点,通过三角测量的原理来计算测量点的三维坐标。图6所示的测量点60的Z坐标的值是物距。也就是说,三维坐标计算部433通过计算测量点的三维坐标来计算物距。三维坐标计算部433将包含所计算出的物距的测量结果信息111输出到控制部45。
图8示出发生了遮挡的状态下的图像。在第一图像G1L中,在被摄体OB的区域指定了测量点P1L。从内窥镜插入部2的前端20到被摄体OB的距离根据被摄体OB的区域不同而不同。也就是说,被摄体OB具有高度差。在具有高度差的区域上指定了测量点P1L。在第二图像G1R中,与测量点P1L对应的对应点P1R包含在因被摄体OB的表面的高度差而产生的死角。因此,在第二图像G1R中,无法视觉识别与测量点P1L对应的对应点P1R。在指定了测量点P1L的情况下,对应点搜索部432搜索对应点。由于在第二图像G1R中无法视觉识别与测量点P1L对应的对应点P1R,因此对应点搜索部432有可能搜索到错误的对应点。但是,在视点向左侧进行了移动的情况下,能够期待在第二图像G1R中能够视觉识别对应点P1R。
在步骤S125之后,可靠度判定部44基于测量信息110来计算图案匹配的可靠度(步骤S130)。在步骤S130之后,可靠度判定部44判定步骤S130中计算出的可靠度是否低(步骤S135)。可靠度判定部44通过步骤S130和步骤S135来判定可靠度。可靠度判定部44将判定结果信息112输出到控制部45。
在步骤S135中判定为可靠度低的情况下,通知控制部451输出测量用信息104,该测量用信息104包含用于促使用户进行使内窥镜插入部2的前端20以内窥镜插入部2的前端20向视差方向的第一光学系统31侧移动的方式弯曲的弯曲操作的消息。由此,通知控制部451进行通知,以促使用户进行弯曲操作。信号转换部38通过将测量用信息104与输出用影像信号101合成来生成显示用影像信号103。显示部6基于显示用影像信号103来显示包含上述消息的图像(步骤S140)。在步骤S140之后,进行步骤S100中的处理。
图9示出步骤S140中由显示部6显示的图像的例子。关于图9,对与图8不同的点进行说明。显示部6显示消息窗口W1。消息窗口W1包含表示发生了遮挡的消息MS1和用于促使用户进行弯曲操作的消息MS2。另外,消息窗口W1包含表示弯曲操作的方向的箭头AR1。箭头AR1表示左方向。箭头AR1所示的方向是从第二光学系统32朝向第一光学系统31的方向。通过显示消息MS2和箭头AR1,用户能够获知为了避免遮挡只要使内窥镜插入部2的前端20向左侧弯曲即可。用户通过按照所显示的消息对操作部5进行操作,能够使内窥镜插入部2的前端20弯曲。其结果,用户能够在不发生遮挡的位置指定测量点。关于除了上述点以外的点,图9所示的图像与图8所示的图像相同。
在步骤S135中判定为可靠度高的情况下,通知控制部451输出包含测距结果的测量用信息104。由此,通知控制部451向用户通知测距结果。信号转换部38通过将测量用信息104与输出用影像信号101合成来生成显示用影像信号103。显示部6基于显示用影像信号103来显示包含测距结果的图像(步骤S145)。在紧挨着进行步骤S145中的处理之前显示着包含针对前一帧的图像的测距结果的图像的情况下,在步骤S145中显示包含更新后的测距结果的图像。通过显示测距结果,用户能够获知精度高的测量结果。在步骤S145之后,进行步骤S100中的处理。
在步骤S140中,也可以仅显示表示使内窥镜插入部2的前端20弯曲的方向的消息。或者,也可以仅显示表示使内窥镜插入部2的前端20弯曲的方向的标记(箭头等)。也可以利用显示部6以外的单元来进行对用户的通知。例如,在测量内窥镜装置1具有声音输出功能的情况下,也可以通过使测量内窥镜装置1输出声音来进行对用户的通知。
也可以仅在可靠度高的情况下进行测距。例如,也可以在进行步骤S120中的处理之后,进行步骤S130中的处理,并且在步骤S135中判定为可靠度高的情况下进行步骤S125中的处理。
如上述的那样,在发生了遮挡的情况下,测量内窥镜装置1向用户通知发生了遮挡和避免遮挡的方法。由此,用户能够获知由于发生遮挡而无法正确地进行测量。另外,用户能够获知需要进行何种弯曲操作以避免遮挡。
在第一图像中指定测量点的情况下,内窥镜插入部2的前端20的移动方向是从第二光学系统32的第二光学中心64朝向第一光学系统31的第一光学中心63的方向。内窥镜插入部2的前端20的移动方向也可以不与该方向完全一致。内窥镜插入部2的前端20的移动方向只要是使第二光学系统32靠近内窥镜插入部2的前端20移动之前的第一光学系统31的位置那样的方向即可。
对可靠度判定部44的详细结构进行说明。图10示出作为可靠度判定部44的第一例的可靠度判定部44a的结构。如图10所示,可靠度判定部44a具有相关值计算部441和比较判定部442。
相关值计算部441计算测量点在第一图像中的位置与对应点在第二图像中的位置之间的相关值或差异度。比较判定部442将相关值或差异度与第一规定值进行比较,基于其结果来判定可靠度。例如,比较判定部442将相关值与第一规定值进行比较,在相关值小于第一规定值的情况下,判定为可靠度低。或者,比较判定部442将差异度与第一规定值进行比较,在差异度大于第一规定值的情况下,判定为可靠度低。
图11示出测距时的测量内窥镜装置1的动作的过程。在测量内窥镜装置1具有可靠度判定部44a的情况下,测量内窥镜装置1进行图11所示的处理。关于图11,对与图7不同的点进行说明。
在步骤S125之后,相关值计算部441基于来自测量处理部43的测量信息110,来计算测量点在第一图像中的位置与对应点在第二图像中的位置之间的相关值(步骤S130a)。步骤S130a与图7中的步骤S130对应。测量信息110包含测量点和对应点的位置信息。另外,测量信息110包括包含第一图像中的测量点的位置的区域的图像数据和包含第二图像中的对应点的位置的区域的图像数据。相关值是归一化互相关(NCC:Normalized CrossCorrelation)和零均值归一化互相关(ZNCC:Zero-mean Normalized Cross Correlation)等的值。相关值能够是表示相似度的值。另外,在第一实施方式中使用相关值进行了说明,但是也可以使用SSD(Sum of Squared Difference:平方差之和)和SAD(Sum of AbsoluteDifference:差的绝对值之和)等差异度。在使用差异度的情况下,在后述的步骤S135a中的判定中,判定差异度是否大于第一规定值。差异度能够是表示不相似度的值。
在步骤S130a之后,比较判定部442将步骤S130a中计算出的相关值与第一规定值进行比较,判定相关值是否小于第一规定值(步骤S135a)。步骤S135a与图7中的步骤S135对应。由此,比较判定部442判定可靠度。比较判定部442将表示判定结果的判定结果信息112输出到控制部45。
在步骤S135a中相关值小于第一规定值的情况下,进行步骤S140中的处理。在步骤S135a中相关值大于第一规定值的情况下,进行步骤S145中的处理。
关于除上述点以外的点,图11所示的处理与图7所示的处理相同。
图12示出作为可靠度判定部44的第二例的可靠度判定部44b的结构。如图12所示,可靠度判定部44b具有遮挡发生判定部443。遮挡发生判定部443判定是否发生了遮挡。在由遮挡发生判定部443判定为发生了遮挡的情况下,可靠度判定部44b判定为可靠度低。
图13示出遮挡发生判定部443的结构。如图13所示,遮挡发生判定部443具有测量辅助点设定部4431、物距计算部4432、差计算部4433以及差判定部4434。
测量辅助点设定部4431通过对至少与第一图像对应的影像信号(图像数据109)进行处理,来在第一图像中在测量点的左侧设定第一测量辅助点,并且在测量点的右侧设定第二测量辅助点。物距计算部4432计算第一测量辅助点处的第一物距和第二测量辅助点处的第二物距。差计算部4433计算第一物距与第二物距之差。差判定部4434将差与第二规定值进行比较,在差大于第二规定值的情况下,判定为发生了遮挡。
是否发生遮挡取决于在核平面上是否存在遮蔽物。因此,第一测量辅助点和第二测量辅助点被设定在第一图像(左侧画面)上的核线上且将测量点夹在中间的两侧。但是,在实施了平行化(矫正(rectification))的情况下,核线与画面的水平方向平行,因此上述的第一测量辅助点和第二测量辅助点只要简单地设定在测量点的左右即可。在第一实施方式中,对后者的实施了平行化的情况进行说明。
图14示出测距时的测量内窥镜装置1的动作的过程。在测量内窥镜装置1具有可靠度判定部44b的情况下,测量内窥镜装置1进行图14所示的处理。关于图14,对与图7不同的点进行说明。
在步骤S125之后,测量辅助点设定部4431基于来自测量处理部43的测量信息110,来在第一图像中在测量点的左侧设定第一测量辅助点,并且在测量点的右侧设定第二测量辅助点(步骤S130b)。测量信息110包含测量点和对应点的位置信息。另外,测量信息110包括包含第一图像中的测量点的位置的区域的图像数据和包含第二图像中的对应点的位置的区域的图像数据。
图15示出由可靠度判定部44b进行处理的图像的例子。第一图像G1L和第二图像G1R是被摄体OB的图像。在第一图像G1L中,在被摄体OB的区域指定了测量点P1L。在具有高度差的区域上指定了测量点P1L。在第二图像G1R中,与测量点P1L对应的对应点P1R包含在因被摄体OB的表面的高度差而产生的死角。因此,在第二图像G1R中无法视觉识别与测量点P1L对应的对应点P1R。
在步骤S130b中,测量辅助点设定部4431在测量点P1L的左侧设定第一测量辅助点P2L,并且在测量点P1L的右侧设定第二测量辅助点P3L。也就是说,测量辅助点设定部4431以将测量点P1L夹在中间的方式设定第一测量辅助点P2L和第二测量辅助点P3L。第一测量辅助点P2L和第二测量辅助点P3L是测量点P1L附近的点。第一测量辅助点P2L是相对于经过测量点P1L的垂直线而言处于左侧的点。第二测量辅助点P3L是相对于经过测量点P1L的垂直线而言处于右侧的点。例如,第一测量辅助点P2L和第二测量辅助点P3L是在第一图像G1L中经过测量点P1L的水平线上的点。例如,在第一图像G1L中,测量点P1L与第一测量辅助点P2L之间的距离和测量点P1L与第二测量辅助点P3L之间的距离是规定距离。在被摄体OB中,第二测量辅助点P3L的点处于高度差上。因此,离第一测量辅助点P2L的物距大于离第二测量辅助点P3L的物距。
在步骤S130b之后,物距计算部4432基于来自测量处理部43的测量信息110,来计算第一测量辅助点处的第一物距和第二测量辅助点处的第二物距(步骤S130c)。在步骤S130c中,物距计算部4432通过与步骤S120中的处理同样的处理,来计算第二图像中的与第一测量辅助点对应的第一对应辅助点和第二图像中的与第二测量辅助点对应的第二对应辅助点。并且,物距计算部4432通过与步骤S125中的处理同样的处理,来计算第一测量辅助点的三维坐标和第二测量辅助点的三维坐标。第一测量辅助点的Z坐标的值是第一测量辅助点处的第一物距,第二测量辅助点的Z坐标的值是第二测量辅助点处的第二物距。
在图15中,第一对应辅助点P2R与第一测量辅助点P2L对应,第二对应辅助点P3R与第二测量辅助点P3L对应。在第二图像G1R中能够视觉识别第一对应辅助点P2R和第二对应辅助点P3R。
在步骤S130c之后,差计算部4433计算步骤S130b中计算出的第一物距与第二物距之差(步骤S130d)。步骤S130d中计算的差是从第一物距减去第二物距得到的值的绝对值。步骤S130b、步骤S130c以及步骤S130d与图7中的步骤S130对应。
在步骤S130d之后,差判定部4434将步骤S130d中计算出的差与第二规定值进行比较,判定差是否大于第二规定值(步骤S135b)。步骤S135b与图7中的步骤S135对应。由此,差判定部4434判定可靠度。差判定部4434将表示判定结果的判定结果信息112输出到控制部45。
差判定部4434能够基于物距的差判定是否发生了遮挡。在测量点的两侧设定的两个测量辅助点处的物距的差大的情况下,在测量点的附近存在深度方向的高度不同的大的高度差的可能性高。也就是说,发生了遮挡的可能性高。
在步骤S135b中差大于第二规定值的情况下,进行步骤S140中的处理。在步骤S135b中差小于第二规定值的情况下,进行步骤S145中的处理。
关于除上述点以外的点,图14所示的处理与图7所示的处理相同。
测量辅助点设定部4431也可以设定多个第一测量辅助点和多个第二测量辅助点。也就是说,测量辅助点设定部4431也可以在测量点的左侧设定多个第一测量辅助点,并且在测量点的右侧设定多个第二测量辅助点。多个第一测量辅助点是相对于经过测量点的垂直线而言处于左侧的点。多个第二测量辅助点是相对于经过测量点的垂直线而言处于右侧的点。例如,多个第一测量辅助点和多个第二测量辅助点是第一图像中经过测量点的水平线上的点。例如,在第一图像中,多个第一测量辅助点的间隔与多个第二测量辅助点的间隔相等。
在设定了多个第一测量辅助点和多个第二测量辅助点的情况下,物距计算部4432计算多个第一测量辅助点中的各第一测量辅助点处的第一物距和多个第二测量辅助点中的各第二测量辅助点处的第二物距。物距计算部4432计算多个第一测量辅助点的各第一测量辅助点处的第一物距的平均值。另外,物距计算部4432计算多个第二测量辅助点的各第二测量辅助点处的第二物距的平均值。
在设定了多个第一测量辅助点和多个第二测量辅助点的情况下,差计算部4433计算第一物距的平均值与第二物距的平均值之差。差判定部4434判定该差是否大于第二规定值。
图16示出作为可靠度判定部44的第三例的可靠度判定部44c的结构。如图16所示,可靠度判定部44c具有相关值计算部441、遮挡发生判定部443以及比较判定部444。
图16中的相关值计算部441与图10中的相关值计算部441相同。也就是说,相关值计算部441计算测量点在第一图像中的位置与对应点在第二图像中的位置之间的相关值。图16中的遮挡发生判定部443与图13中的遮挡发生判定部443相同。也就是说,遮挡发生判定部443判定是否发生了遮挡。比较判定部444基于将相关值或差异度与第一规定值进行比较所得到的比较结果以及遮挡发生判定部443的判定结果,来判定可靠度。例如,比较判定部444将相关值与第一规定值进行比较。在相关值小于第一规定值且由遮挡发生判定部443判定为发生了遮挡的情况下,比较判定部444判定为可靠度低。或者,比较判定部444将差异度与第一规定值进行比较。在差异度大于第一规定值且由遮挡发生判定部443判定为发生了遮挡的情况下,比较判定部444判定为可靠度低。
图17示出测距时的测量内窥镜装置1的动作的过程。在测量内窥镜装置1具有可靠度判定部44c的情况下,测量内窥镜装置1进行图17所示的处理。关于图17,说明与图11和图14不同的点。
在步骤S125之后,进行步骤S130a中的处理。在步骤S130a之后,依次进行步骤S130b、步骤S130c以及步骤S130d中的处理。在步骤S130d之后,进行步骤S135a中的处理。
在步骤S135a中相关值小于第一规定值的情况下,进行步骤S135b中的处理。在步骤S135a中相关值大于第一规定值的情况下,进行步骤S145中的处理。
在步骤S135b中差大于第二规定值的情况下,进行步骤S140中的处理。在步骤S135b中差小于第二规定值的情况下,进行步骤S145中的处理。
关于除上述点以外的点,图17所示的处理与图11和图14所示的处理相同。
在图17中,将图11所示的步骤S130a和步骤S135a中的处理以及图14所示的步骤S130b、步骤S130c、步骤S130d及步骤S135b中的处理进行了组合。因此,可靠度判定部44c能够更高精度地判定是否发生了遮挡。
根据第一实施方式,测量内窥镜装置1具有内窥镜插入部2、第一光学系统31(第一摄像光学系统)、第二光学系统32(第二摄像光学系统)、摄像元件21、测量处理部43、可靠度判定部44以及通知控制部451。
本发明的各方式的内窥镜装置也可以不具有与操作部5、显示部6、影像信号处理部34、信号转换部38、图像存储部42以及外部存储介质46对应的结构。
在第一实施方式中,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20以内窥镜插入部2的前端20向视差方向的第一光学系统31侧移动的方式弯曲的弯曲操作。由此,能够抑制因发生遮挡引起的测量精度的降低。
(第二实施方式)
在本发明的第二实施方式中,第一实施方式中的测量内窥镜装置1被变更为图18所示的测量内窥镜装置1a。测量内窥镜装置1a的外观与图1所示的测量内窥镜装置1外观相同。内窥镜插入部2的前端20和立体光学适配器3的结构与图2和图3所示的结构相同。
图18示出第二实施方式的测量内窥镜装置1a的结构。关于图18,对与图4不同的点进行说明。
图4中的控制单元4被变更为控制单元4a。在控制单元4a中,图4中的控制部45被变更为控制部45a。控制部45a具有通知控制部451、弯曲控制部452以及测量点确认部453。在由可靠度判定部44判定为可靠度低的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2的前端20向视差方向的第一光学系统31侧移动。换言之,在由可靠度判定部44判定为可靠度低的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2的前端20从第二光学系统32的第二光学中心64的位置(第二位置)侧朝向第一光学系统31的第一光学中心63的位置(第一位置)侧移动。也就是说,在第二实施方式中,在发生了遮挡的情况下,测量内窥镜装置1a自动地使内窥镜插入部2的前端20向能够避免遮挡的方向弯曲。
弯曲控制部452计算使被摄体点包含在第二光学系统32的视场中所需要的弯曲量。在弯曲控制部452进行基于弯曲量的弯曲控制之前,测量点确认部453判定在内窥镜插入部2的前端20虚拟地弯曲了上述弯曲量时被摄体点是否包含在第一光学系统31的视场中。在判定为在内窥镜插入部2的前端20虚拟地弯曲了上述弯曲量时被摄体点不包含在第一光学系统31的视场中的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20离开被摄体的操作。被摄体点是测量点的被估计出的三维坐标处的被摄体上的空间点。
关于除上述点以外的点,图18所示的结构与图4所示的结构相同。
图19示出弯曲控制部452的结构。如图19所示,弯曲控制部452具有测量点估计部4521、边缘检测部4522、边缘位置计算部4523、虚拟直线计算部4524以及弯曲量计算部4525。
测量点估计部4521通过对至少与第一图像对应的影像信号(图像数据109)和至少与第二图像对应的影像信号(图像数据109)进行处理,来估计测量点的三维坐标。边缘检测部4522通过对至少与第一图像对应的影像信号(图像数据109)进行处理,来检测在第一图像中图像浓度的变化相对大的边缘。边缘在第一图像中相对于测量点而言处于视差方向侧。视差方向是从第一光学系统31的第一光学中心(图6的第一光学中心63)朝向第二光学系统32的第二光学中心(图6的第二光学中心64)的方向。
边缘位置计算部4523通过对至少与第一图像对应的影像信号(图像数据109)和与第二图像对应的影像信号(图像数据109)进行处理,通过三角测量的原理来计算边缘中的边缘点的三维坐标。虚拟直线计算部4524计算经过测量点的被估计出的三维坐标和边缘点的三维坐标的虚拟直线。
弯曲量计算部4525计算使测量点的被估计出的三维坐标处的被摄体点包含在第二光学系统32的视场中所需要的弯曲量。也就是说,弯曲量计算部4525计算使第二光学系统32的第二光学中心移动到虚拟直线上的位置或者相对于该虚拟直线而言处于视差方向的相反方向侧的位置所需要的弯曲量。换言之,弯曲量计算部4525计算使第二光学系统32的第二光学中心的投影点移动到虚拟投影直线上的位置或者相对于该虚拟投影直线而言处于视差方向的相反方向侧的位置所需要的弯曲量。第二光学系统32的第二光学中心的投影点是通过将第二光学系统32的第二光学中心投影到沿视差方向和第一光学系统31及第二光学系统32的光轴方向扩展的核平面上所形成的点。虚拟投影直线是通过将虚拟直线投影到核平面上所形成的直线。
虚拟直线计算部4524也可以计算经过摄像元件21的受光面24上的测量点位置和第一光学系统31的第一光学中心的虚拟直线。也就是说,弯曲量计算部4525也可以计算使第二光学系统32的第二光学中心移动到虚拟直线上的位置或者相对于该虚拟直线而言处于视差方向的相反方向侧的位置所需要的弯曲量。换言之,弯曲量计算部4525也可以计算使第二光学系统32的第二光学中心的投影点移动到虚拟投影直线上的位置或者相对于该虚拟投影直线而言处于视差方向的相反方向侧的位置所需要的弯曲量。
对至少与第一图像对应的影像信号和至少与第二图像对应的影像信号的处理包括对与第一图像和第二图像对应的影像信号中的与第一图像对应的部分的影像信号的处理以及对与第二图像对应的部分的影像信号的处理。或者,对至少与第一图像对应的影像信号和至少与第二图像对应的影像信号的处理包括对仅与第一图像对应的影像信号的处理和对仅与第二图像对应的影像信号的处理。
测量点估计部4521通过对至少与第一图像对应的影像信号(图像数据109)进行处理,来在第一图像中在测量点的附近设定多个测量辅助点。测量点估计部4521通过对至少与第一图像对应的影像信号(图像数据109)和至少与第二图像对应的影像信号(图像数据109)进行处理,来搜索第二图像中的与多个测量辅助点对应的多个对应辅助点。测量点估计部4521使用多个测量辅助点和搜索(确定)出的多个对应辅助点,通过三角测量的原理来计算多个测量辅助点的三维坐标。测量点估计部4521通过计算经过摄像元件21的受光面24上的测量点位置和第一光学系统31的第一光学中心(图6的第一光学中心63)的虚拟直线与基于多个测量辅助点的三维坐标的平面的交点的三维坐标,来估计测量点的三维坐标。
图20示出测距时的测量内窥镜装置1a的动作的过程。关于图20,对与图7不同的点进行说明。
在步骤S135中判定为可靠度低的情况下,测量点估计部4521估计测量点的三维坐标(步骤S150)。对步骤S150中的详细的处理进行说明。
图21示出由弯曲控制部452进行处理的图像的例子。第一图像G1L和第二图像G1R是被摄体OB的图像。在第一图像G1L中,在被摄体OB的区域指定了测量点P1L。在具有高度差的区域上指定了测量点P1L。在第二图像G1R中,与测量点P1L对应的对应点P1R包含在因被摄体OB的表面的高度差而产生的死角。因此,在第二图像G1R中无法视觉识别与测量点P1L对应的对应点P1R。
在步骤S150中,测量点估计部4521在测量点P1L的左侧设定测量辅助点P4L、测量辅助点P5L、测量辅助点P6L以及测量辅助点P7L。测量辅助点P4L、测量辅助点P5L、测量辅助点P6L以及测量辅助点P7L是相对于经过测量点P1L的垂直线而言处于左侧的点。例如,测量辅助点P4L、测量辅助点P5L、测量辅助点P6L以及测量辅助点P7L是第一图像G1L中经过测量点P1L的水平线(核线)上的点。例如,在第一图像G1L中,各测量辅助点的间隔相等。
测量点估计部4521通过与步骤S120中的处理同样的处理,来计算第二图像中的与各测量辅助点对应的各对应辅助点。并且,测量点估计部4521通过与步骤S125中的处理同样的处理,来计算各测量辅助点的三维坐标。
图22示意性地示出内窥镜插入部2的前端20与被摄体OB的位置。在图22中示出将内窥镜插入部2的前端20和被摄体OB投影到图6所示的xz平面上的状态。在图22中,空间上的点被表示为被投影到xz平面上的点。
来自被摄体OB的表面上的点的光经过第一光学系统31的第一光学中心63后在摄像元件21的受光面24成像。同样地,来自被摄体OB的表面上的点的光经过第二光学系统32的第二光学中心64后在摄像元件21的受光面24成像。经过第一光学中心63和受光面24上的测量点位置的点P10的虚拟直线L1与被摄体OB的表面相交的点P11是被估计为被摄体上的与测量点对应的空间点的点。点P12是被摄体上的与测量辅助点P4L对应的空间点。点P13是被摄体上的与测量辅助点P5L对应的空间点。点P14是被摄体上的与测量辅助点P6L对应的空间点。点P15是被摄体上的与测量辅助点P7L对应的空间点。例如,测量点估计部4521计算点P12、点P13、点P14以及点P15各自的三维坐标。
测量点估计部4521使用多个测量辅助点中的可靠度高的两个以上的点的三维坐标。例如,在图22中,经过点P12和第二光学中心64的虚拟直线L2被被摄体OB的边缘遮挡。也就是说,在第二图像中无法视觉识别点P12。因此,对应点搜索部432在第二图像中无法搜索到与点P12对应的对应点。另一方面,在第二图像中能够视觉识别点P13、点P14以及点P15。因此,对应点搜索部432能够在第二图像中搜索到与点P13、点P14以及点P15分别对应的对应点。
由于上述的内容,因此测量点估计部4521使用测量辅助点P5L、测量辅助点P6L及测量辅助点P7L的三维坐标、即点P13、点P14及点P15的三维坐标。由此,测量点估计部4521能够高精度地估计测量点的三维坐标。例如,能够以第一图像中的测量辅助点的位置与第二图像中的同测量辅助点对应的对应点的位置之间的相关值来得到测量辅助点的可靠度。测量点估计部4521也可以使用多个测量辅助点中的相关值高的两个以上的点的三维坐标。
测量点估计部4521基于两个以上的测量辅助点的三维坐标,来计算在测量点的附近由核平面切断被摄体OB时的被摄体OB的表面形状。例如,测量点估计部4521基于图22中的点P13、点P14及点P15的三维坐标,来计算核平面上的经过点P13、点P14以及点P15这三个点的近似直线S1。测量点估计部4521将该近似直线S1视为被摄体OB的外表面中的在核线上的形状。
测量点估计部4521计算经过摄像元件21的受光面24上的测量点位置和第一光学系统31的第一光学中心的虚拟直线。例如,测量点估计部4521计算经过图22中的点P10和第一光学中心63的核平面上的虚拟直线L1。受光面24在图6所示的坐标系中的位置是已知的。因此,预先得到了受光面24上的位置的三维坐标。受光面24的位置与第一图像中的位置之间的关系是已知的。在第一图像中指定了测量点的情况下,测量点估计部4521能够计算摄像元件21的受光面24上的测量点位置的点P10的三维坐标。另外,预先计算出第一光学中心63的三维坐标。
测量点估计部4521计算虚拟直线与近似直线相交的点的三维坐标。由此,测量点估计部4521估计测量点的三维坐标。例如,测量点估计部4521计算图22中的核平面上的虚拟直线L1与核平面上的近似直线S1相交的点P11的三维坐标。点P11的三维坐标是测量点的被估计出的三维坐标。
在步骤S150之后,边缘检测部4522在第一图像中检测具有高度差的遮蔽部的边缘。并且,边缘位置计算部4523计算边缘处的边缘点的三维坐标(步骤S155)。对步骤S155中的详细的处理进行说明。
边缘检测部4522对第一图像进行图像处理。由此,边缘检测部4522提取图像浓度急剧变化的边缘部分。例如,边缘检测部4522将左右邻接的像素的信号值的差相对大的部分检测为边缘部分。在第一图像中被进行边缘部分的提取的区域是相对于测量点而言处于视差方向侧的区域。例如,在图22中,视差方向是x方向、即右方向。也就是说,被进行边缘部分的提取的区域是相对于测量点而言处于右方向侧的区域。
边缘位置计算部4523在被提取出的边缘部分设定边缘点。边缘位置计算部4523通过与步骤S120中的处理同样的处理,来计算第二图像中的与边缘点对应的边缘对应点。并且,边缘位置计算部4523通过与步骤S125中的处理同样的处理,来计算边缘点的三维坐标。例如,边缘位置计算部4523计算图22中的点P16的三维坐标。点P16处于存在于被摄体OB的表面的高度差的顶点部分。
在步骤S155之后,虚拟直线计算部4524计算经过测量点的被估计出的三维坐标和边缘点的三维坐标的虚拟直线。弯曲量计算部4525计算所需要的弯曲量(步骤S160)。对步骤S160中的详细的处理进行说明。
例如,虚拟直线计算部4524计算经过图22中的点P11和点P16的虚拟直线L3。点P11是被估计为被摄体上的与测量点对应的空间点的点。点P16是边缘点。
为了能够经由第二光学系统32来观察被摄体上的与测量点对应的空间点,需要使第二光学系统32的第二光学中心64的投影点移动到以下的虚拟投影直线上的位置或者相对于虚拟投影直线处于视差方向的相反方向侧的位置。第二光学系统32的第二光学中心64的投影点是通过将第二光学系统32的第二光学中心64的投影点投影到沿视差方向和第一光学系统31及第二光学系统32的光轴方向扩展的核平面上所形成的点。虚拟投影直线是通过将虚拟直线投影到核平面上所形成的直线。
例如,在图22中,视差方向是x方向,第一光学系统31及第二光学系统32的光轴方向是z方向。也就是说,核平面是xz平面。在图22中,第二光学系统32的第二光学中心64的投影点是将第二光学系统32的第二光学中心64投影到xz平面所形成的点。在图22中,虚拟投影直线是将虚拟直线L3投影到xz平面所形成的直线。在图22中,空间上的直线以被投影到xz平面的状态示出。因此,在图22中,第二光学系统32的第二光学中心64的投影点处于第二光学系统32的第二光学中心64的位置。在图22中,虚拟投影直线处于虚拟直线L3的位置。在图22中,视差方向的相反方向是左方向。因而,需要使第二光学系统32的第二光学中心64的投影点移动到虚拟投影直线上的位置或者相对于虚拟投影直线而言处于左方向侧的位置。
图23示出内窥镜插入部2的前端20弯曲的情形。内窥镜插入部2的前端20进行了移动时的内窥镜插入部2的前端20的轨迹能够近似为以弯曲中心C1为中心的圆。弯曲中心C1是相对于内窥镜插入部2而言固定的点。在假定内窥镜插入部2的前端20以描绘上述圆的方式移动的情况下,弯曲量计算部4525计算使第二光学系统32的第二光学中心64的投影点移动到虚拟投影直线上的位置或者相对于虚拟投影直线而言处于左方向侧的位置所需要的弯曲量。
在步骤S160中,也可以通过以下处理来计算弯曲量。虚拟直线计算部4524计算经过摄像元件21的受光面24上的测量点位置和第一光学系统31的第一光学中心的虚拟直线(图22中的虚拟直线L1)。如上述的那样,测量点估计部4521能够计算摄像元件21的受光面24上的测量点位置(图22中的点P10)的三维坐标。另外,预先计算出第一光学系统31的第一光学中心的三维坐标。在该虚拟直线的计算中,由测量点估计部4521估计出的测量点的三维坐标不是必须的。
通过使第二光学系统32的第二光学中心64的投影点移动到以下的虚拟投影直线上的位置或者相对于虚拟投影直线而言处于视差方向的相反方向侧的位置,能够经由第二光学系统32观察被摄体上的与测量点对应的空间点。第二光学系统32的第二光学中心64的投影点是通过将第二光学系统32的第二光学中心64的投影点投影到沿视差方向和第一光学系统31及第二光学系统32的光轴方向扩展的核平面上所形成的点。虚拟投影直线是通过将虚拟直线投影到核平面上所形成的直线。
例如上述的那样,在图22中,核平面是xz平面。在图22中,第二光学系统32的第二光学中心64的投影点是将第二光学系统32的第二光学中心64投影到xz平面所形成的点。在图22中,虚拟投影直线是将虚拟直线L1投影到xz平面所形成的直线。在图22中,空间上的直线以被投影到xz平面的状态示出。因此,在图22中,第二光学系统32的第二光学中心64的投影点处于第二光学系统32的第二光学中心64的位置。在图22中,虚拟投影直线处于虚拟直线L1的位置。在图22中,视差方向的相反方向是左方向。因而,弯曲量计算部4525计算使第二光学系统32的第二光学中心64的投影点移动到虚拟投影直线上的位置或者相对于虚拟投影直线而言处于左方向侧的位置所需要的弯曲量。
在步骤S160之后,测量点确认部453判定在内窥镜插入部2的前端20虚拟地弯曲了步骤S160中计算出的弯曲量时测量点的被估计出的三维坐标处的被摄体点是否包含在第一光学系统31的视场(左视场)中(步骤S165)。
图24和图25示意性地示出内窥镜插入部2的前端20与被摄体OB的位置。在图24和图25中,示出将内窥镜插入部2的前端20和被摄体OB投影到图6所示的xz平面的状态。在图24和图25中,空间上的点被表示为被投影到xz平面上的点。在图24和图25中,示出内窥镜插入部2的前端20弯曲之后的状态。
如图24所示,第二光学系统32的第二光学中心64的投影点处于比虚拟投影直线L4靠左侧的位置。虚拟投影直线L4是将经过测量点的被估计出的三维坐标和边缘点的三维坐标的虚拟直线L3投影到xz平面所形成的直线。点P11是被估计为被摄体上的与测量点对应的空间点的点、即被摄体点。经过点P11和第二光学中心64的虚拟直线L5与受光面24在点P20处相交。因此,来自点P11的光通过第二光学系统32而在受光面24上的点P20的位置成像。也就是说,点P11包含在第二光学系统32的视场中。因而,能够在第二图像中视觉识别点P11。
另一方面,如图24所示,经过点P11和第一光学中心63的虚拟直线L6与受光面24在点P21处相交。因此,来自点P11的光通过第一光学系统31而在受光面24上的点P21的位置成像。也就是说,点P11包含在第一光学系统31的视场中。因而,能够在第一图像中视觉识别点P11。如上述的那样,在图24中,能够在第一图像中视觉识别点P11来作为测量点,并且能够在第二图像中视觉识别点P11来作为对应点。因此,能够得到精度高的测量结果。
在图25中,示出内窥镜插入部2的前端20离被摄体OB近的情况下的状态。如图25所示,第二光学系统32的第二光学中心64的投影点位于比虚拟投影直线L4靠左侧的位置。经过作为被摄体点的点P11和第二光学中心64的虚拟直线L7与受光面24在点P22处相交。因此,来自点P11的光通过第二光学系统32而在受光面24上的点P22的位置成像。也就是说,点P11包含在第二光学系统32的视场中。因而,能够在第二图像中视觉识别点P11。
另一方面,如图25所示,经过点P11和第一光学中心63的虚拟直线L8不与受光面24相交。因此,来自点P11的光不会通过第一光学系统31在受光面24成像。也就是说,点P11不包含在第一光学系统31的视场中。因而,无法在第一图像中视觉识别点P11。其结果,在图25中,不能在第一图像中将与点P11对应的点指定为测量点。也就是说,无法得到点P11处的测量结果。在内窥镜插入部2的前端20离被摄体OB近的情况下,点P11难以包含在第一光学系统31的视场中。
在步骤S165中,测量点确认部453确认弯曲后的内窥镜插入部2的前端20与被摄体OB的状态是否为图24所示的状态。对步骤S165中的详细的处理进行说明。
测量点确认部453计算弯曲后的第一光学系统31的第一光学中心的三维坐标。能够基于弯曲前的第一光学系统31的第一光学中心的三维坐标和弯曲量来计算弯曲后的第一光学系统31的第一光学中心的三维坐标。测量点确认部453计算经过测量点的被估计出的三维坐标和弯曲后的第一光学系统31的第一光学中心的三维坐标的虚拟直线(图24中的虚拟直线L6和图25中的虚拟直线L8)。测量点确认部453判定该虚拟直线与受光面24是否相交。能够基于弯曲前的受光面24的位置和弯曲量来计算弯曲后的受光面24的位置。
在虚拟直线与受光面24相交的情况下,测量点的被估计出的三维坐标处的被摄体点包含在第一光学系统31的视场中。在虚拟直线与受光面24不相交的情况下,测量点的被估计出的三维坐标处的被摄体点不包含在第一光学系统31的视场中。
测量点确认部453也可以通过以下的处理来确认测量点的被估计出的三维坐标处的被摄体点是否包含在第一光学系统31的视场中。测量点确认部453通过与上述同样的处理来计算经过测量点的被估计出的三维坐标和弯曲后的第一光学系统31的第一光学中心的三维坐标的第一虚拟直线。并且,测量点确认部453计算经过受光面24的左端的一个点的三维坐标和弯曲后的第一光学系统31的第一光学中心的三维坐标的第二虚拟直线。测量点确认部453确认将第一虚拟直线投影到xz平面所形成的第一虚拟投影直线与将第二虚拟直线投影到xz平面所形成的第二虚拟投影直线之间的几何关系。
当在相对于第一光学系统31的第一光学中心而言处于受光面24侧的区域中第一虚拟投影直线处于第二虚拟投影直线的右侧的情况下,测量点的被估计出的三维坐标处的被摄体点包含在第一光学系统31的视场中。当在相对于第一光学中心而言处于受光面24侧的区域中第一虚拟投影直线处于第二虚拟投影直线的左侧的情况下,测量点的被估计出的三维坐标处的被摄体点不包含在第一光学系统31的视场中。
在步骤S165中测量点的被估计出的三维坐标处的被摄体点包含在第一光学系统31的视场中的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2的前端20向视差方向的第一光学系统31侧移动步骤S160中计算出的弯曲量。由此,弯曲部22使内窥镜插入部2的前端20向视差方向的第一光学系统31侧移动(步骤S170)。其结果,在用户所指定的测量点的位置能够避免遮挡。在步骤S170之后,进行步骤S100中的处理。
在步骤S165中测量点的被估计出的三维坐标处的被摄体点不包含在第一光学系统31的视场中的情况下,通知控制部451输出包含警告的测量用信息104。由此,通知控制部451向用户发出警告。信号转换部38通过将测量用信息104与输出用影像信号101合成来生成显示用影像信号103。显示部6基于显示用影像信号103来显示包含警告的图像(步骤S175)。警告包含促使用户进行使内窥镜插入部2的前端20离开被摄体的操作的消息。在步骤S175之后,进行步骤S100中的处理。
图26示出在步骤S175中由显示部6显示的图像的例子。关于图26,对与图8不同的点进行说明。显示部6显示消息窗口W2。消息窗口W2包含表示发生了遮挡的消息MS3和用于促使用户进行使内窥镜插入部2的前端20离开被摄体的操作的消息MS4。通过显示消息MS3和消息MS4,用户能够获知为了避免遮挡只要使内窥镜插入部2的前端20离开被摄体即可。用户通过按照所显示的消息对操作部5进行操作,能够使内窥镜插入部2的前端20离开被摄体。关于除上述点以外的点,图26所示的图像与图8所示的图像相同。
关于除上述点以外的点,图20所示的处理与图7所示的处理相同。
测量内窥镜装置1a也可以具有使内窥镜插入部2的前端20沿轴方向前后移动的机构。在该情况下,当在步骤S165中测量点的被估计出的三维坐标处的被摄体点不包含在第一光学系统31的视场中的情况下,测量内窥镜装置1a也可以自动地使内窥镜插入部2的前端20离开被摄体。
在图20中,步骤S165和步骤S175不是必须的。例如,在进行步骤S160中的处理之后,也可以不进行步骤S165中的处理而进行步骤S170中的处理。
在图20中,也可以是,步骤S130被变更图11中的步骤S130a,并且步骤S135被变更为图11中的步骤S135a。或者,在图20中,也可以是,步骤S130被变更为图14中的步骤S130b、步骤S130c以及步骤S130d,并且步骤S135被变更为图14中的步骤S135b。
根据第二实施方式,测量内窥镜装置1a具有内窥镜插入部2、第一光学系统31(第一摄像光学系统)、第二光学系统32(第二摄像光学系统)、摄像元件21、测量处理部43、弯曲部22、可靠度判定部44以及弯曲控制部452。除此以外,测量内窥镜装置1a还具有通知控制部451和测量点确认部453。在第二实施方式中,通知控制部451和测量点确认部453不是必须的。
在第二实施方式中,在由可靠度判定部44判定为可靠度低的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2的前端20向视差方向的第一光学系统31侧移动。由此,能够抑制因发生遮挡引起的测量精度的降低。
另外,在假定由于内窥镜插入部2自动地弯曲而测量点的被估计出的三维坐标处的被摄体点不包含在第一光学系统31的视场中的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20离开被摄体的操作。由此,能够适当地保持内窥镜插入部2的前端20与被摄体之间的距离。
(第三实施方式)
在本发明的第三实施方式中,第一实施方式中的测量内窥镜装置1被变更为图27所示的测量内窥镜装置1b。测量内窥镜装置1b的外观与图1所示的测量内窥镜装置1的外观相同。内窥镜插入部2的前端20和立体光学适配器3的结构与图2和图3所示的结构相同。
图27示出第三实施方式的测量内窥镜装置1b的结构。关于图27,对与图18不同的点进行说明。
图18中的控制单元4a被变更为控制单元4b。在控制单元4b中,图18中的测量处理部43被变更为测量处理部43b。另外,在控制单元4b中,图18中的控制部45a被变更为控制部45b。控制部45b具有通知控制部451和弯曲控制部452。弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2的前端20弯曲规定的弯曲量。可靠度判定部44在基于规定的弯曲量对弯曲部22进行控制之前和之后进行可靠度的判定。
关于除上述点以外的点,图27所示的结构与图18所示的结构相同。
图28示出测量处理部43b的结构。如图28所示,测量处理部43b具有测量点指定部431、对应点搜索部432、三维坐标计算部433以及测量点搜索部434。关于图28,对与图5不同的点进行说明。
测量点搜索部434对基于规定的弯曲量控制弯曲部22之后的至少与第一图像对应的影像信号(图像数据109)进行处理。由此,测量点搜索部434搜索与在基于规定的弯曲量控制弯曲部22之前指定的测量点的位置相同的位置。并且,测量点搜索部434在搜索出的位置设定测量点。
在第二实施方式中,计算避免遮挡所需要的弯曲量,并且进行使内窥镜插入部2的前端20弯曲该弯曲量的控制。但是,对于软性内窥镜,由于内窥镜插入部2的刚度随时间的经过发生变化,有时难以进行期望的弯曲量的控制。或者,对于软性内窥镜,由于针对同一驱动量的弯曲量根据开始进行弯曲时的内窥镜插入部2的弯曲状态不同而不同,因此有时难以进行期望的弯曲量的控制。在第三实施方式中,考虑到上述情形而重复进行使内窥镜插入部2的前端20弯曲微小量的处理以及遮挡发生的判定。由此,能够避免遮挡。
在由测量点搜索部434设定了测量点的情况下,对应点搜索部432搜索第二图像中的与该测量点对应的对应点。可靠度判定部44基于与由测量点搜索部434搜索到的测量点对应的对应点,来再次判定可靠度。
关于除上述点以外的点,图28所示的结构与图5所示的结构相同。
图29示出测距时的测量内窥镜装置1b的动作的过程。关于图29,对与图7不同的点进行说明。
在步骤S135中判定为可靠度低的情况下,通知控制部451输出包含警告的测量用信息104。由此,通知控制部451向用户发出警告。信号转换部38通过将测量用信息104与输出用影像信号101合成来生成显示用影像信号103。显示部6基于显示用影像信号103来显示包含警告的图像(步骤S200)。警告包含向用户通知使内窥镜插入部2的前端20自动地弯曲的消息。
图30示出步骤S200中由显示部6显示的图像的例子。关于图30,对与图8不同的点进行说明。显示部6显示消息窗口W3。消息窗口W3包含表示发生了遮挡的消息MS5和表示使内窥镜插入部2的前端20自动地弯曲的消息MS6。另外,消息窗口W3包含表示自动弯曲的方向的箭头AR2。箭头AR2表示左方向。箭头AR2所示的方向是从第二光学系统32朝向第一光学系统31的方向。通过显示消息MS6和箭头AR2,用户能够获知为了避免遮挡而自动地使内窥镜插入部2的前端20向左侧弯曲。关于除上述点以外的点,图30所示的图像与图8所示的图像相同。
在步骤S200之后,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2的前端20向视差方向的第一光学系统31侧移动规定的弯曲量。由此,弯曲部22使内窥镜插入部2的前端20向视差方向的第一光学系统31侧移动(步骤S205)。规定的弯曲量可以是微小的弯曲量。例如,规定的弯曲量小于第一光学系统31的第一光学中心与第二光学系统32的第二光学中心之间的距离。
在步骤S205之后,影像信号处理部34根据摄像信号100生成输出用影像信号101和输出用影像信号102。信号转换部38将基于输出用影像信号101的显示用影像信号103输出到显示部6(步骤S210)。步骤S210中使用的摄像信号100是在输出步骤S100中使用的摄像信号100之后新输出的信号。
在步骤S210之后,显示部6基于显示用影像信号103显示图像(步骤S215)。步骤S215中显示的图像与图8所示的图像相同。步骤S215中显示的图像也可以包含图30所示的消息窗口W3。
在步骤S215之后,测量处理部43b通过对两帧的图像数据109进行处理,来在后一帧的第一图像中检测与前一帧的第一图像中的测量点的位置一致的位置。由此,测量处理部43b搜索与在基于规定的弯曲量控制弯曲部22之前指定的测量点的位置相同的位置。也就是说,测量处理部43b追踪测量点的位置。并且,测量处理部43b通过在搜索到的位置设定测量点来更新测量点(步骤S220)。测量处理部43b对目标的位置进行修正,使得在更新后的测量点的位置显示目标。
在步骤S220之后,进行步骤S120中的处理。也就是说,对应点搜索部432搜索第二图像中的与更新后的测量点对应的对应点。在进行步骤S120中的处理之后,进行步骤S125和步骤S130中的处理。并且,进行步骤S135中的判定。在步骤S135中,可靠度判定部44基于与由测量点搜索部434搜索到的测量点对应的对应点来判定可靠度。
关于除上述点以外的点,图29所示的处理与图7所示的处理相同。
在图29中,步骤S200不是必须的。例如,在步骤S135中判定为可靠度低的情况下,也可以不进行步骤S200中的处理而进行步骤S205中的处理。
在图29中,也可以是,步骤S130被变更为图11中的步骤S130a,并且步骤S135被变更为图11中的步骤S135a。或者,在图29中,也可以是,步骤S130被变更为图14中的步骤S130b、步骤S130c以及步骤S130d,并且步骤S135被变更为图14中的步骤S135b。
根据第三实施方式,测量内窥镜装置1b具有内窥镜插入部2、第一光学系统31(第一摄像光学系统)、第二光学系统32(第二摄像光学系统)、摄像元件21、测量处理部43b、弯曲部22、可靠度判定部44以及弯曲控制部452。除此以外,测量内窥镜装置1b还具有通知控制部451。在第三实施方式中,通知控制部451不是必须的。
在第三实施方式中,在由可靠度判定部44判定为可靠度低的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2的前端20向视差方向的第一光学系统31侧移动。由此,能够抑制因发生遮挡引起的测量精度的降低。
在第三实施方式中,重复进行使内窥镜插入部2的前端20弯曲微小量的处理以及遮挡发生的判定。因此,即使在难以根据内窥镜插入部2的状态进行期望的弯曲量的控制的情况下,也能够在用户所指定的测量点的位置避免遮挡。
(第一实施方式至第三实施方式的变形例)
对第一实施方式至第三实施方式的变形例进行说明。在使用图3所示的立体光学适配器3的情况下,通过第一光学系统31和第二光学系统32而使第一光学像和第二光学像同时在受光面24上成像。因此,摄像元件21生成基于第一光学像和第二光学像的摄像信号100。但是,也可以使用能够切换光路来使第一光学像和第二光学像交替地在受光面24成像的立体光学适配器。
图31示出能够切换光路的立体光学适配器3a的结构。在内窥镜插入部2的前端20配置有摄像元件21。在内窥镜插入部2的前端20安装立体光学适配器3a。立体光学适配器3a具有第一光学系统31a、第二光学系统32a、机械快门36以及透镜37。
第一光学系统31a被配置在第一光路。第二光学系统32a被配置在第二光路。机械快门36能够沿第一光学系统31a和第二光学系统32a的排列方向移动。机械快门36被配置在第一光路和第二光路中的一方。例如,在机械快门36被配置在第二光路的情况下,通过了第二光学系统32a的光被机械快门36遮挡。因此,只有通过了第一光学系统31a和透镜37的光入射至摄像元件21的受光面24。另外,在机械快门36被配置在第一光路的情况下,通过了第一光学系统31a的光被机械快门36遮挡。因此,只有通过了第二光学系统32a和透镜37的光入射至摄像元件21的受光面24。
在机械快门36被配置在第二光路的情况下,利用通过了第一光学系统31a和透镜37的光来使第一光学像在摄像元件21的受光面24成像。摄像元件21生成基于第一光学像的摄像信号100。在机械快门36被配置在第一光路的情况下,利用通过了第二光学系统32a和透镜37的光来使第二光学像在摄像元件21的受光面24成像。摄像元件21生成基于第二光学像的摄像信号100。
(第四实施方式)
在本发明的第一实施方式至第三实施方式中,使用图3所示的内窥镜插入部2的前端20和立体光学适配器3。在第一实施方式至第三实施方式中,通过第一光学系统31和第二光学系统32而使第一光学像和第二光学像同时在受光面24上成像。摄像元件21生成基于第一光学像和第二光学像的摄像信号100。测量内窥镜装置1、测量内窥镜装置1a以及测量内窥镜装置1b进行基于经由两个摄像光学系统得到的光学像的三维测量。第一实施方式至第三实施方式中的测量方式被称为被动立体方式。但是,也可以在测量内窥镜装置中应用被称为主动立体方式的测量方式。本发明的第四实施方式涉及应用了主动立体方式的测量内窥镜装置。第四实施方式中的测量方式是作为主动立体方式之一的移相法。
在本发明的第四实施方式中,第一实施方式中的测量内窥镜装置1被变更为图32所示的测量内窥镜装置1c。图32示出第四实施方式的测量内窥镜装置1c的结构。关于图32,对与图4不同的点进行说明。
图4中的内窥镜插入部2被变更为内窥镜插入部2c,并且图4中的控制单元4被变更为控制单元4c。在控制单元4c中,图4中的测量处理部43被变更为测量处理部43c,并且图4中的控制部45被变更为控制部45c。
内窥镜插入部2c具有摄像部30、照明部40、图案投影部50以及弯曲部22。摄像部30获取被摄体的图像。照明部40对内窥镜插入部2c的前方的观察视场进行照明。图案投影部50向被摄体投影周期性的图案。图案投影部50将条纹图案作为周期性的图案向被检物投影。条纹图案具有空间上的周期性的亮度分布。
图33示出内窥镜插入部2c的前端20c的正面。如图33所示,在内窥镜插入部2c的前端20c设置有开口11、照明窗12以及投影窗13。开口11用于使外部光向摄像部30的摄像光学系统39入射。照明窗12将来自照明部40的照明光向内窥镜插入部2c的前方照射。投影窗13将来自图案投影部50的条纹图案向内窥镜插入部2c的前方照射。
摄像部30具有摄像元件21和摄像光学系统39。摄像元件21被配置在内窥镜插入部2c的前端20c。摄像光学系统39在内窥镜插入部2c的前端20c被配置在摄像元件21的前方。摄像光学系统39被配置在内窥镜插入部2c的开口11内。摄像光学系统39包括物镜。在内窥镜插入部2c的前端20c,摄像光学系统39被配置在与配置有投影光学系统52的位置不同的位置。摄像光学系统39使观察视场内的反射光向摄像元件21入射,并且使被摄体的光学像成像。摄像光学系统39具有将开口11密封的光透射性的盖构件39a。
照明部40具有第一光源41、照明光学系统47、第一光纤束48以及第一入射光学系统49。第一光源41是生成白色光的光源。第一光源41被配置在控制单元4c的内部。由第一光源41生成的光成为用于对被摄体进行照明的照明光。第一光纤束48将由第一光源41生成的光引导至照明光学系统47。第一入射光学系统49被配置在第一光源41与第一光纤束48之间。第一入射光学系统49使由第一光源41生成的光向第一光纤束48入射。
照明光学系统47被配置在内窥镜插入部2c的前端20c。照明光学系统47具有光透射性的盖构件47a和未图示的透镜组。盖构件47a被配置在内窥镜插入部2c的照明窗12内。照明光学系统47通过使由第一光源41生成的光从照明窗12射出,来对观察视场进行照明。第一光源41也可以被配置在内窥镜插入部2c的前端20c。在该情况下,不需要第一光纤束48和第一入射光学系统49。
图案投影部50具有第二光源51、投影光学系统52、第二光纤束53、第二入射光学系统54以及图案生成部55。第二光源51是发出与第一光源41生成的光不同的光的光源。第二光源51被配置在控制单元4c的内部。由第二光源51生成的光成为用于投影条纹图案的投影光。第二光纤束53将由第二光源51生成的光引导至投影光学系统52。第二入射光学系统54被配置在第二光源51与第二光纤束53之间。第二入射光学系统54使由第二光源51生成的光向第二光纤束53入射。图案生成部55被配置在从第二光源51射出的光的光路上。图案生成部55生成周期性的图案。
投影光学系统52被配置在内窥镜插入部2c的前端20c。投影光学系统52包括投影透镜。投影光学系统52具有设置在内窥镜插入部2c的投影窗13内的光透射性的盖构件52a。如图33所示,在对内窥镜插入部2c的前端20c的正面进行观察时,投影窗13的中心与投影光学系统52的第二光学中心64c一致,并且开口11的中心与摄像光学系统39的第一光学中心63c一致。在对内窥镜插入部2c的前端20c的正面进行观察时,投影窗13的中心相对于开口11的中心分离了距离d。也就是说,配置投影光学系统52的位置与配置摄像光学系统39的位置不同。第二光源51也可以被配置在内窥镜插入部2c的前端20c。在该情况下,不需要第二光纤束53和第二入射光学系统54。
图34示出摄像光学系统39的视角与投影光学系统52的照射角度之间的关系。在图34中示出摄像光学系统39的位置O和投影光学系统52的位置P。位置O是摄像光学系统39的第一光学中心63c的位置。位置P是投影光学系统52的第二光学中心64c的位置。摄像光学系统39的视角θv以摄像光学系统39的光轴方向的中心线A1为中心等角度地扩展。另外,投影光学系统52的照射角度θp以与中心线A1平行的中心线A2为中心等角度地扩展。在摄像光学系统39的近点侧的深度为Ln且远点侧的深度为Lf的情况下,所投影的所有条纹都进入视场内的最短的物距La满足Ln≥La这样的条件。在对焦时、即在物距处于Ln到Lf的深度内时,条纹图案位于摄像光学系统39的视角内。另外,摄像光学系统39的位置O与投影光学系统52的位置P之间的距离d被设定得比作为所能测量的物距的最小值的深度La小。因此,距离d相比于物距Ln而言足够小。因此,在摄像部30中,在对焦范围内图像中显现的条纹的位置不会大幅地变化。
图案生成部55被配置在内窥镜插入部2c的前端20c。图案生成部55是形成条纹图案的元件。例如,图案生成部55是具有多个狭缝的狭缝板。图案生成部55也可以是由玻璃或树脂等构成并且被绘制了条纹图案的透明的板。图案生成部55也可以是能够按各液晶元件在能够使光透过的状态与不能使光透过的状态之间进行切换的液晶快门组件。图案生成部55也可以是具备微小的反射镜的MEMS(Micro Electro Mechanical Systems:微机电系统)镜组件。
图35示出由投影光学系统52投影的条纹图案PT1。条纹图案PT1包含亮的第一部分PT1a和暗的第二部分PT1b。第一部分PT1a和第二部分PT1b在第一方向Dr3上细长且在与第一方向Dr3垂直的第二方向Dr4上交替排列。也就是说,条纹图案PT1是亮暗的图案沿第二方向Dr4周期性地排列的图案。并且,条纹图案PT1的光强度在第二方向Dr4上呈正弦波状地变化。第二方向Dr4是图案的配置方向。在向与内窥镜插入部2c的前端20c正对的平面投影条纹图案时,图34所示的条纹图案PT1显现在该平面上。
摄像光学系统39的视角θv和投影光学系统52的照射角度θp满足图34所示的关系。在向被摄体投影了条纹图案PT1时,在摄像部30的摄像视场内在条纹图案的条纹排列的第二方向Dr4的两端产生没有被投影条纹图案的区域X。区域X包含右侧区域X1和左侧区域X2。
图案生成部55按照控制部45c的图案控制部455的控制,依次生成空间上的相位不同的多个周期性的图案。图34所示的条纹图案PT1的相位是第二方向Dr4上的第一部分PT1a和第二部分PT1b的位置。投影光学系统52向被摄体依次投影空间上的相位不同的多个周期性的图案。例如,投影光学系统52向被摄体投影空间上的相位不同的至少三个周期性的图案。摄像光学系统39使被投影了多个图案的被摄体的多个光学像依次成像。摄像元件21依次生成基于经由摄像光学系统39在受光面24上依次成像的多个光学像的多个摄像信号100。也就是说,摄像元件21生成与经由摄像光学系统39得到的多个光学像对应的多个图像。
测量处理部43c在由摄像元件21生成的多个图像中的至少一个图像中设定测量点,并且使用多个图像通过移相法来计算测量点的三维坐标。测量处理部43c基于由摄像元件21生成的图像以及与第一位置和同第一位置不同的第二位置有关的摄像机参数,通过三角测量的原理来进行测量处理。第一位置是摄像光学系统39的第一光学中心63c的位置。第二位置是投影光学系统52的第二光学中心64c的位置。另外,摄像机参数可以包含与第一位置有关的位置参数和与第二位置有关的位置参数,或者也可以包含与第一位置同第二位置之间的距离有关的距离参数。
控制部45c具有通知控制部451、光源控制部454以及图案控制部455。光源控制部454对第一光源41及第二光源51的开启和关闭进行控制。图案控制部455使由图案生成部55生成的图案的空间上的相位偏移。例如,在图案生成部55由狭缝板或被绘制了条纹图案的板构成的情况下,图案控制部455通过使图案生成部55沿图案的配置方向移动,来使图案的空间上的相位偏移。在图案生成部55由液晶快门组件或MEMS镜组件构成的情况下,图案控制部455通过对液晶元件或反射镜的状态进行控制,来使图案的空间上的相位偏移。通过图案控制部455使图案的空间上的相位偏移,图34所示的条纹图案PT1向第二方向Dr4或其相反方向移动。在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2c的前端20c以内窥镜插入部2c的前端20c从投影光学系统52侧向摄像光学系统39侧移动的方式弯曲的弯曲操作。换言之,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2c的前端20c从投影光学系统52侧朝向摄像光学系统39侧移动的操作。再换句话说,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2c的前端20c从投影光学系统52的第二光学中心64c的位置(第二位置)侧朝向摄像光学系统39的第一光学中心63c的位置(第一位置)侧移动的操作。
图36和图37示出显示部6所显示的图像。控制部45c生成表示向被摄体投影条纹图案PT1的预定位置的框F1的图像。被该框F1包围的图像的区域是三维测量的对象区域T(图34)。框F1的位置被设定为,即使在条纹图案PT1沿横向最大幅度地进行了移动的情况下,也将显示条纹图案PT1的区域的至少一部分包围。由此,与显示部6所显示的图像中的实际的条纹图案PT1的位置无关地,条纹图案PT1的至少一部分位于框F1内。显示部6将被摄体的图像和框F1显示于显示画面。
测量处理部43c和控制部45c由一个或多个处理器构成。测量处理部43c和控制部45c也可以由ASIC或FPGA构成。
关于除上述点以外的点,图32所示的结构与图4所示的结构相同。
对测量内窥镜装置1c的动作进行说明。测量内窥镜装置1c的模式包含观察模式和测量模式。观察模式是用于观察被摄体的期望的部分的模式。测量模式是用于测量被摄体的三维形状的模式。用户通过对操作部5进行操作,能够根据需要来切换观察模式和测量模式。
在由用户输入了将模式设定为测量模式的指示的情况下,用于使框F1的图像显示于显示部6的控制信号从控制部45c输出到影像信号处理部34。由此,框F1的图像被显示于显示部6。在该状态下,还没有投影条纹图案PT1。在该状态下,用户能够观察被照明光照明的被摄体。用户对内窥镜插入部2c的位置等进行调整,使得被摄体中希望进行三维形状的测量的部分进入显示部6所显示的框F1内。在测量对象的部分位于框F1内的状态下,用户通过对操作部5进行操作,来开始进行三维形状的测量。
在开始进行三维形状的测量时,在照射来自照明部40的照明光的状态下由摄像元件21获取至少一个图像。接着,通过光源控制部454使照明部40的第一光源41停止照明光的生成,并且通过光源控制部454使图案投影部50的第二光源51开始进行投影光的生成。由第二光源51生成的投影光透过图案生成部55和投影光学系统52。利用投影光学系统52向被摄体投影条纹图案。
在条纹图案被投影到被摄体的状态下,摄像元件21生成被摄体的图像。被投影了条纹图案的被摄体的图像被影像信号处理部34进行处理后存储于图像存储部42中。图案控制部455依次变更向被摄体投影的条纹图案的相位。由此,图案生成部55依次生成空间上的相位不同的多个条纹图案,并且投影光学系统52向被摄体依次投影多个条纹图案。摄像部30通过依次拍摄多个条纹图案,来生成多个图像。测量处理部43c通过时间上的移相法来计算由摄像部30生成的多个图像中显现的条纹图案的相位,并且进行被摄体的三维形状的测量。
在第四实施方式中,多个图像中的各个图像包含没有被投影条纹图案的区域X。因此,测量处理部43c能够以被投影条纹图案的区域与区域X的边界为基准,比较容易地将图像中显现的条纹与投影到被摄体的条纹图案的条纹相对应。由此,测量处理部43c能够根据所计算出的相位来计算实际空间上的三维坐标。测量处理部43c通过生成三维坐标的分布,能够计算被摄体的三维形状。通过在显示部6显示测量结果,用户能够获知框F1内的被摄体的三维形状。
图38示意性地示出内窥镜插入部2c的前端20c与被摄体OB的位置。在图38中,示出将内窥镜插入部2c的前端20c和被摄体OB投影到图6所示的xz平面的状态。在图38中,空间上的点被表示为被投影到xz平面上的点。在测量内窥镜装置1c中,摄像光学系统39的第一光学中心63c的位置O与投影光学系统52的第二光学中心64c的位置P分离了距离d。因此,在位置O与位置P,被摄体OB的观察方式不同。
图39示出在条纹图案被投影到被摄体OB时从摄像光学系统39的第一光学中心63c(位置O)观察的被摄体像SI1。图40示出在条纹图案被投影到被摄体OB时从投影光学系统52的第二光学中心64c(位置P)观察的被摄体像SI2。如图39所示,在被摄体像SI1中能够视觉识别的被摄体OB的表面产生没有被投影条纹图案的区域RG1。这是第四实施方式中的发生了遮挡的状态。用于避免遮挡的内窥镜插入部2c的前端20c的移动方向是从投影光学系统52朝向摄像光学系统39的方向。内窥镜插入部2c的前端20c的移动方向也可以不与该方向完全一致。内窥镜插入部2c的前端20c的移动方向只要是使投影光学系统52靠近内窥镜插入部2c的前端20c移动之前的摄像光学系统39的位置那样的方向即可。
图41示出测距时的测量内窥镜装置1c的动作的过程。关于图41,对与图7不同的点进行说明。
在开始进行测距之后,在由照明光学系统47向被摄体照射来自第一光源41的照明光的状态下,摄像元件21生成图像。此时,条纹图案没有被投影到被摄体。并且,在由图案生成部55生成的条纹图案通过投影光学系统52被投影到被摄体的状态下,摄像元件21生成多个图像(图案图像)(步骤S100A)。步骤S100A与图7中的步骤S100对应。
在步骤S100A之后,显示部6显示照明光照射到被摄体时的图像(步骤S105A)。步骤S105A与图7中的步骤S105对应。
在步骤S110之后,测量处理部43c基于针对照明光照射到被摄体时的图像指定的测量点,来在多个图案图像中的至少一个图案图像中设定测量点。也就是说,测量处理部43c获取测量点的位置的二维坐标(步骤S115A)。例如,在步骤S115A中,在多个图案图像中的至少一个图案图像中设定测量点。在除了被设定了测量点的一个图案图像以外的图案图像中,设定与测量点的坐标相同的坐标的点。在除了被设定了测量点的一个图案图像以外的图案图像中设定的点也可以视为测量点。也就是说,也可以在多个图案图像中设定测量点。测量处理部43c可以在至少三个图案图像中的至少一个图案图像中设定测量点。步骤S115A与图7中的步骤S115对应。
在步骤S115A之后,测量处理部43c进行与测距有关的处理(步骤S125A)。在步骤S125A中,使用包括被设定了测量点的图像在内的多个图像,通过移相法来计算测量点的三维坐标。例如,测量处理部43c基于多个图案图像各自的测量点和与该测量点相同的点的坐标处的像素值来计算相位。测量处理部43c基于所计算出的相位,通过三角测量的原理来计算测量点的三维坐标。由此,测量处理部43c计算物距。三维坐标计算部433将包含所计算出的物距的测量结果信息111输出到控制部45。步骤S125A与图7中的步骤S125对应。
在步骤S125A之后,可靠度判定部44计算测量处理的可靠度(步骤S130A)。例如,在步骤S130A中,可靠度判定部44通过计算多个图案图像各自的测量点和与该测量点相同的点的坐标处的像素值的最大值与最小值之差,来计算可靠度。步骤S130A与图7中的步骤S130对应。
在步骤S130A之后,可靠度判定部44判定步骤S130A中计算出的可靠度是否低(步骤S135A)。例如,在步骤S135A中,可靠度判定部44判定步骤S130A中计算出的像素值的最大值与最小值之差是否小于阈值。在步骤S130A中计算出的像素值的最大值与最小值之差小于阈值的情况下,认为在测量点的位置没有被投影图案。因此,可靠度判定部44判定为可靠度低。在该情况下,进行步骤S140中的处理。在步骤S130A中计算出的像素值的最大值与最小值之差大于阈值的情况下,进行步骤S145中的处理。步骤S135A与图7中的步骤S135对应。
关于除上述点以外的点,图41所示的处理与图7所示的处理相同。
在步骤S105A中,显示部6显示照明光照射到被摄体时的图像。在用户针对照明光照射到被摄体时的图像指定测量点的情况下,用户能够在被摄体的视觉识别性高的图像上指定测量点。在步骤S105A中,显示部6也可以显示条纹图案投影到被摄体时的图案图像。
根据第四实施方式,测量内窥镜装置1c具有内窥镜插入部2c、投影光学系统52、图案控制部455、摄像光学系统39、摄像元件21、测量处理部43c、可靠度判定部44以及通知控制部451。
本发明的各方式的内窥镜装置也可以不具有与照明部40对应的结构。
在第四实施方式中,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2c的前端20c以内窥镜插入部2c的前端20c从投影光学系统52侧向摄像光学系统39侧移动的方式弯曲的弯曲操作。由此,能够抑制因发生遮挡引起的测量精度的降低。
测量内窥镜装置1c也可以进行与第二实施方式的测量内窥镜装置1a所进行的控制同样的控制。也就是说,在发生了遮挡的情况下,测量内窥镜装置1c也可以自动地使内窥镜插入部2c的前端20c向避免遮挡的方向弯曲。在该情况下,控制部45c具有图18和图19所示的弯曲控制部452。在由可靠度判定部44判定为可靠度低的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2c的前端20c从投影光学系统52侧朝向摄像光学系统39侧移动。换言之,在由可靠度判定部44判定为可靠度低的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2c的前端20c从投影光学系统52的第二光学中心64c的位置(第二位置)侧朝向摄像光学系统39的第一光学中心63c的位置(第一位置)侧移动。
测量内窥镜装置1c也可以进行与第三实施方式的测量内窥镜装置1b所进行的控制同样的控制。也就是说,也可以重复进行使内窥镜插入部2c的前端20c弯曲微小量的处理和遮挡发生的判定。在该情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2c的前端20c弯曲规定的弯曲量。可靠度判定部44在基于规定的弯曲量控制弯曲部22之前和之后进行可靠度的判定。
(第五实施方式)
本发明的第五实施方式涉及应用了主动立体方式的测量内窥镜装置。第五实施方式中的测量方式是主动立体方式之一,并且是向被摄体投影随机图案的方式。
在第五实施方式中,第一实施方式中的测量内窥镜装置1被变更为图42所示的测量内窥镜装置1d。测量内窥镜装置1d的外观与图1所示的测量内窥镜装置1的外观相同。
图42示出第五实施方式的测量内窥镜装置1d的结构。关于图42,对与图4不同的点进行说明。
图4中的内窥镜插入部2被变更为内窥镜插入部2d,并且图4中的立体光学适配器3被变更为立体光学适配器3d。内窥镜插入部2d具有摄像元件21、弯曲部22以及投影光源25。立体光学适配器3d具有摄像光学系统39d和投影光学系统52d。在图42所示的结构中,立体光学适配器3d接近内窥镜插入部2d的前端20d(图43)地配置。构成立体光学适配器3d的摄像光学系统39d和投影光学系统52d也可以被配置在内窥镜插入部2d的前端20d的内部。
投影光源25被配置在内窥镜插入部2d的前端20d。例如,投影光源25是半导体激光器。投影光源25生成激光。也可以是,投影光源25被配置在控制单元4,并且利用光纤将由投影光源25生成的激光引导至内窥镜插入部2d的前端20d。
投影光学系统52d被配置在内窥镜插入部2d的前端20d。投影光学系统52d向被摄体投影随机图案。摄像光学系统39d被配置在内窥镜插入部2d的前端20d且与配置投影光学系统52d的位置不同的位置。摄像光学系统39d使被投影了随机图案的被摄体的光学像成像。摄像元件21生成基于经由摄像光学系统39d在受光面24上成像的光学像的摄像信号100。也就是说,摄像元件21生成与经由摄像光学系统39d得到的光学像对应的第一图像。
关于除上述点以外的点,图42所示的结构与图4所示的结构相同。
图43示出内窥镜插入部2d的前端20d和立体光学适配器3d的结构。从投影光源25射出的激光LS向投影光学系统52d入射。例如,投影光学系统52d是衍射光学元件(DOE:Diffractive Optical Element)。通过向DOE入射激光来生成随机图案。随机图案具有空间上随机的亮度分布。投影光源25的输出强度被控制部45控制。投影光学系统52d的中心64d是衍射光的主光束DL会聚的点。从投影光学系统52d射出的衍射光形成随机图案。投影光学系统52d生成随机图案,并且向被摄体投影随机图案。也可以利用液晶快门组件或MEMS镜组件来生成随机图案。投影光学系统52d也可以包括投影透镜。
摄像光学系统39d包括物镜。摄像光学系统39d的光学中心63d的位置与投影光学系统52d的中心64d的位置不同。至少在与摄像光学系统39d的光轴AX3垂直的方向上,摄像光学系统39d的光学中心63d的位置与投影光学系统52d的中心64d的位置不同。
如图5所示,测量处理部43具有测量点指定部431(测量点设定部)、对应点搜索部432以及三维坐标计算部433。测量点指定部431在与随机图案被投影到被摄体时经由摄像光学系统39d得到的光学像对应的第一图像中设定测量点。第二图像是所投影的随机图案的图像,并且被预先存储于图像存储部42中。对应点搜索部432通过对与第一图像对应的影像信号和与同随机图案有关的第二图像对应的影像信号进行处理,来搜索第二图像中的与测量点对应的对应点。也就是说,对应点搜索部432在与随机图案有关的第二图像中搜索与由测量点指定部431设定的测量点对应的对应点。三维坐标计算部433使用测量点和由对应点搜索部432搜索到的对应点,通过三角测量的原理来计算测量点的三维坐标。如日本专利第5001286号公报所公开的那样,能够基于被投影了随机图案的被摄体的图像中的局部的图案的位置来进行三维测量。
根据上述的结构,测量处理部43基于由摄像元件21生成的图像以及与第一位置和同第一位置不同的第二位置有关的摄像机参数,通过三角测量的原理来进行测量处理。第一位置是摄像光学系统39d的光学中心63d的位置。第二位置是投影光学系统52d的中心64d的位置。另外,摄像机参数可以包含与第一位置有关的位置参数和与第二位置有关的位置参数,或者也可以包含与第一位置同第二位置之间的距离有关的距离参数。
可靠度判定部44判定对应点的可靠度、即测量处理的可靠度。在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2d的前端20d以内窥镜插入部2d的前端20d从投影光学系统52d侧向摄像光学系统39d侧移动的方式弯曲的弯曲操作。换言之,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2d的前端20d从投影光学系统52d侧朝向摄像光学系统39d侧移动的操作。再换句话说,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2d的前端20d从投影光学系统52d的中心64d的位置(第二位置)侧朝向摄像光学系统39d的光学中心63d的位置(第一位置)侧移动的操作。
例如,第二图像是对单一颜色的平面投影了随机图案时拍摄到的该随机图案的图像。例如,在产品出厂之前或之后,由摄像元件21获取第二图像,并且将第二图像存储于图像存储部42中。也可以是,将第二图像预先存储于外部存储介质46中,并且在测量时将第二图像从外部存储介质46读出到图像存储部42。
摄像光学系统39d的光学中心63d的位置(第一位置)与投影光学系统52d的中心64d的位置(第二位置)不同。因此,在与经由摄像光学系统39d得到的光学像对应的第一图像中能够视觉识别的被摄体的表面可能产生没有被投影随机图案的区域。这是第五实施方式中的发生了遮挡的状态。用于避免遮挡的内窥镜插入部2d的前端20d的移动方向是从投影光学系统52d朝向摄像光学系统39d的方向。内窥镜插入部2d的前端20d的移动方向也可以不与该方向完全一致。内窥镜插入部2d的前端20d的移动方向只要是使投影光学系统52d靠近内窥镜插入部2d的前端20d移动之前的摄像光学系统39d的位置那样的方向即可。
图44示出测距时的测量内窥镜装置1d的动作的过程。关于图44,对与图7不同的点进行说明。
在开始进行测距之后,在随机图案没有被投影到被摄体的状态下,摄像元件21生成图像。并且,由投影光学系统52d生成随机图案,并且在随机图案被投影到被摄体的状态下,摄像元件21生成第一图像(步骤S100B)。步骤S100B与图7中的步骤S100对应。
在步骤S100B之后,显示部6显示照明光照射到被摄体时的图像(步骤S105B)。步骤S105B与图7中的步骤S105对应。
在步骤S110之后,测量点指定部431基于针对随机图案没有被投影到被摄体时的图像指定的测量点,来在被投影了随机图案的被摄体的第一图像中设定测量点。也就是说,测量点指定部431获取测量点的位置的二维坐标(步骤S115B)。步骤S115B与图7中的步骤S115对应。
在步骤S115B之后,对应点搜索部432进行模板图像数据与同第二图像对应的图像数据109的图案匹配,来搜索第二图像中的与测量点对应的对应点(步骤S120B)。模板图像数据是与被投影了随机图案的被摄体的第一图像对应的图像数据109中的包含测量点的位置的规定大小的数据。第二图像是随机图案的图像。步骤S120B与图7中的步骤S120对应。
在步骤S120B之后,三维坐标计算部433进行与测距有关的处理(步骤S125B)。在步骤S125B中,三维坐标计算部433使用测量点和由对应点搜索部432搜索到的对应点,根据三角测量的原理来计算测量点的三维坐标。步骤S125B与图7中的步骤S125对应。
在步骤S125B之后,可靠度判定部44计算图案匹配的可靠度(步骤S130B)。在步骤S130B中,使用被投影了随机图案的被摄体的第一图像和随机图案的第二图像。步骤S130B与图7中的步骤S130对应。
关于除上述点以外的点,图44所示的处理与图7所示的处理相同。
在步骤S105B中,显示部6显示随机图案没有被投影到被摄体时的图像。在用户针对随机图案没有被投影到被摄体时的图像指定测量点的情况下,用户能够在被摄体的视觉识别性高的图像上指定测量点。在步骤S105B中,显示部6也可以显示随机图案被投影到被摄体时的第一图像。
根据第五实施方式,测量内窥镜装置1d具有内窥镜插入部2d、投影光学系统52d、摄像光学系统39d、摄像元件21、测量处理部43、可靠度判定部44以及通知控制部451。
在第五实施方式中,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2d的前端20d以内窥镜插入部2d的前端20d从投影光学系统52d侧向摄像光学系统39d侧移动的方式弯曲的弯曲操作。由此,能够抑制因发生遮挡引起的测量精度的降低。
测量内窥镜装置1d也可以进行与第二实施方式的测量内窥镜装置1a所进行的控制同样的控制。也就是说,在发生了遮挡的情况下,测量内窥镜装置1d也可以自动地使内窥镜插入部2d的前端20d向避免遮挡的方向弯曲。在该情况下,控制部45具有图18和图19所示的弯曲控制部452。在由可靠度判定部44判定为可靠度低的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2d的前端20d从投影光学系统52d侧朝向摄像光学系统39d侧移动。换言之,在由可靠度判定部44判定为可靠度低的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2d的前端20d从投影光学系统52d的中心64d的位置(第二位置)侧朝向摄像光学系统39d的光学中心63d的位置(第一位置)侧移动。
测量内窥镜装置1d也可以进行与第三实施方式的测量内窥镜装置1b所进行的控制同样的控制。也就是说,也可以重复进行使内窥镜插入部2d的前端20d弯曲微小量的处理以及遮挡发生的判定。在该情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2d的前端20d弯曲规定的弯曲量。可靠度判定部44在基于规定的弯曲量控制弯曲部22之前和之后进行可靠度的判定。
(第六实施方式)
在本发明的第一实施方式至第三实施方式中,使用图3所示的内窥镜插入部2的前端20和立体光学适配器3。在第一实施方式至第三实施方式中,通过第一光学系统31和第二光学系统32而使第一光学像和第二光学像同时在受光面24上成像。摄像元件21生成基于第一光学像和第二光学像的摄像信号100。测量内窥镜装置1、测量内窥镜装置1a以及测量内窥镜装置1b进行基于经由两个摄像光学系统得到的光学像的三维测量。但是,也可以在测量内窥镜装置中应用被称为Structure from Motion(SfM:运动恢复结构)的三维形状估计法。在SfM中,通过使用以不同的视点拍摄到的多个图像来同时估计被摄体与摄像机的相对的位置和姿势以及被摄体的三维形状。本发明的第六实施方式涉及应用了SfM的测量内窥镜装置。
在本发明的第六实施方式中,第一实施方式中的测量内窥镜装置1被变更为图45所示的测量内窥镜装置1e。测量内窥镜装置1e的外观与图1所示的测量内窥镜装置1的外观相同。
图45示出第六实施方式的测量内窥镜装置1e的结构。关于图45,对与图4不同的点进行说明。
图4中的立体光学适配器3被变更为光学适配器3e。光学适配器3e具有摄像光学系统39e。在图45所示的结构中,光学适配器3e接近内窥镜插入部2的前端20(图46)地配置。构成光学适配器3e的摄像光学系统39e也可以被配置在内窥镜插入部2的前端20的内部。
摄像光学系统39e被配置在内窥镜插入部2的前端20。摄像光学系统39e在第一位置和与第一位置不同的第二位置的各位置使被摄体的光学像成像。摄像元件21生成基于在第一位置经由摄像光学系统39e在受光面24上成像的第一光学像的摄像信号100。另外,摄像元件21生成基于在第二位置经由摄像光学系统39e在受光面24上成像的第二光学像的摄像信号100。也就是说,摄像元件21生成与经由摄像光学系统39e在第一位置得到的第一光学像对应的第一图像和与经由摄像光学系统39e在第二位置得到的第二光学像对应的第二图像。
关于除上述点以外的点,图45所示的结构与图4所示的结构相同。
图46示出内窥镜插入部2的前端20和光学适配器3e的结构。摄像光学系统39e包括物镜。在摄像光学系统39e的光学中心63e的位置为第一位置时生成第一图像,并且在摄像光学系统39e的光学中心63e的位置为第二位置时生成第二图像。
如图5所示,测量处理部43具有测量点指定部431(测量点设定部)、对应点搜索部432以及三维坐标计算部433。测量点指定部431在与经由摄像光学系统39e在第一位置得到的第一光学像对应的第一图像中设定测量点。对应点搜索部432通过对与第一图像对应的影像信号和与第二图像对应的影像信号进行处理,来搜索第二图像中的与测量点对应的对应点。也就是说,对应点搜索部432在第二图像中搜索与由测量点指定部431设定的测量点对应的对应点。第二图像与经由摄像光学系统39e在第二位置得到的第二光学像对应。三维坐标计算部433使用测量点和由对应点搜索部432搜索到的对应点,通过三角测量的原理来计算测量点的三维坐标。
根据上述的结构,测量处理部43基于由摄像元件21生成的图像以及与第一位置和同第一位置不同的第二位置有关的摄像机参数,通过三角测量的原理来进行测量处理。第一位置和第二位置是内窥镜插入部2的前端20(摄像光学系统39e)的不同的位置。另一方面,测量处理部43通过SfM计算被摄体与摄像机的相对的位置和姿势以及被摄体的三维形状。在此,所估计的摄像机的位置是光学中心63e的位置,并且所估计的摄像机的姿势是光轴的朝向。所估计出的摄像机的位置和姿势是摄像机参数的一部分。也就是说,在第六实施方式中,在摄像机参数中包含与第一位置有关的摄像机位置参数、与第一位置有关的摄像机姿势参数、与第二位置有关的摄像机位置参数以及与第二位置有关的摄像机姿势参数。测量处理部43能够计算三维形状,但是无法计算三维的实际尺寸(比例尺)。
可靠度判定部44判定对应点的可靠度、即测量处理的可靠度。在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20以内窥镜插入部2的前端20从第二位置侧向第一位置侧移动的方式弯曲的弯曲操作。换言之,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20从第二位置侧朝向第一位置侧移动的操作。
生成第一图像时的摄像光学系统39e的光学中心63e的位置(第一位置)与生成第二图像时的摄像光学系统39e的光学中心63e的位置(第二位置)不同。因此,可能产生在第一图像中能够视觉识别但在第二图像中无法视觉识别的区域。这是第六实施方式中的发生了遮挡的状态。用于避免遮挡的内窥镜插入部2的前端20的移动方向是从第二位置朝向第一位置的方向。内窥镜插入部2的前端20的移动方向也可以不与该方向完全一致。内窥镜插入部2的前端20的移动方向只要是使摄像光学系统39e靠近第一位置那样的方向即可。
在内窥镜插入部2的前端20移动之后,摄像光学系统39e的光学中心63e的位置是与第一位置和第二位置不同的第三位置。摄像光学系统39e在第三位置使被摄体的光学像成像。摄像元件21生成与经由摄像光学系统39e在第三位置得到的第三光学像对应的第三图像。测量处理部43使用第一图像和第三图像来进行测量处理。
生成第一图像和第二图像的顺序是任意的。例如,第一次在第一位置生成第一图像,之后,第二次在第二位置生成第二图像。或者,第一次在第二位置生成第二图像,之后,第二次在第一位置生成第一图像。无论在哪种情况下,都在第一图像中设定测量点。
图47示出测距时的测量内窥镜装置1e的动作的过程。关于图47,对与图7不同的点进行说明。
在开始进行测距之后,在摄像光学系统39e的光学中心63e的位置处于第一位置的状态下,摄像光学系统39e使被摄体的光学像成像。摄像元件21生成基于经由摄像光学系统39e在受光面24上成像的第一光学像的摄像信号100。也就是说,摄像元件21生成与经由摄像光学系统39e得到的第一光学像对应的第一图像。影像信号处理部34根据摄像信号100生成输出用影像信号102(步骤S300)。
在步骤S300之后,用户通过对操作部5进行操作来使内窥镜插入部2的前端20弯曲(步骤S305)。在步骤S305中,控制部45基于用户对操作部5的操作来对弯曲部22进行控制。弯曲部22使内窥镜插入部2的前端20弯曲。在步骤S305中,控制部45也可以对弯曲部22进行控制,使得内窥镜插入部2的前端20弯曲规定量。通过内窥镜插入部2的前端20弯曲,摄像光学系统39e的光学中心63e的位置从第一位置移动到第二位置。
在步骤S305之后,在摄像光学系统39e的光学中心63e的位置处于第二位置的状态下,摄像光学系统39e使被摄体的光学像成像。摄像元件21生成基于经由摄像光学系统39e在受光面24上成像的第二光学像的摄像信号100。也就是说,摄像元件21生成与经由摄像光学系统39e得到的第二光学像对应的第二图像。影像信号处理部34根据摄像信号100生成输出用影像信号102(步骤S310)。
在步骤S310之后,测量处理部43计算被摄体与摄像机的相对的位置和姿势以及被摄体的三维形状(步骤S315)。在步骤S315中,作为被摄体的三维形状,计算虚拟的空间中的特征点的三维坐标。
在步骤S315之后,从图像存储部42读出与第一图像对应的输出用影像信号102。影像信号处理部34将从图像存储部42读出的输出用影像信号102作为输出用影像信号101输出到信号转换部38。信号转换部38将基于输出用影像信号101的显示用影像信号103输出到显示部6(步骤S100C)。步骤S100C与图7中的步骤S100对应。
在步骤S120之后,三维坐标计算部433进行与测距有关的处理(步骤S125C)。在步骤S125C中,三维坐标计算部433使用测量点和由对应点搜索部432搜索到的对应点,通过三角测量的原理来计算测量点的三维坐标。此时,三维坐标计算部433使用步骤S315中计算出的被摄体与摄像机的相对的位置和姿势的信息。也就是说,根据步骤S315中计算出的被摄体与摄像机的相对的位置和姿势来计算与第一位置同第二位置之间的距离对应的参数D。步骤S125C中计算出的三维坐标是虚拟的空间中的坐标。三维坐标计算部433通过计算测量点的三维坐标,来计算虚拟的空间中的物距。三维坐标计算部433将包含所计算出的物距的测量结果信息111输出到控制部45。步骤S125C与图7中的步骤S125对应。
在步骤S120中,进行同步骤300中生成的第一图像对应的模板图像数据与同步骤S310中生成的第二图像对应的图像数据109的图案匹配。在步骤S140或步骤S145之后,进行步骤S305中的处理。在第二次的步骤S310中,生成新的第二图像(第三图像)。
关于除上述点以外的点,图47所示的处理与图7所示的处理相同。
在第六实施方式中,也可以使用三个以上的图像。也可以进行对被摄体与摄像机的相对的位置和姿势以及被摄体的三维形状的所有数据进行调整的处理(批量调整)。
根据第六实施方式,测量内窥镜装置1e具有内窥镜插入部2、摄像光学系统39e、摄像元件21、测量处理部43、可靠度判定部44以及通知控制部451。
在第六实施方式中,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20以内窥镜插入部2的前端20从第二位置侧向第一位置侧移动的方式弯曲的弯曲操作。由此,能够抑制因发生遮挡引起的测量精度的降低。
测量内窥镜装置1e也可以进行与第二实施方式的测量内窥镜装置1a所进行的控制同样的控制。也就是说,在发生了遮挡的情况下,测量内窥镜装置1e也可以使内窥镜插入部2的前端20向避免遮挡的方向自动地弯曲。在该情况下,控制部45具有图18和图19所示的弯曲控制部452。在由可靠度判定部44判定为可靠度低的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2的前端20从第二位置侧朝向第一位置侧移动。
测量内窥镜装置1e也可以进行与第三实施方式的测量内窥镜装置1b所进行的控制同样的控制。也就是说,也可以重复进行使内窥镜插入部2的前端20弯曲微小量的处理以及遮挡发生的判定。在该情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2的前端20弯曲规定的弯曲量。可靠度判定部44在基于规定的弯曲量控制弯曲部22之前和之后进行可靠度的判定。
(第七实施方式)
本发明的第七实施方式涉及应用了SfM的测量内窥镜装置。
在本发明的第七实施方式中,第六实施方式中的测量内窥镜装置1e被变更为图48所示的测量内窥镜装置1f。测量内窥镜装置1f的外观与图1所示的测量内窥镜装置1的外观相同。
图48示出第七实施方式的测量内窥镜装置1f的结构。关于图48,对与图45不同的点进行说明。
图45中的光学适配器3e被变更为光学适配器3f。光学适配器3f具有摄像光学系统39f。在图48所示的结构中,光学适配器3f接近内窥镜插入部2的前端20(图49)地配置。构成光学适配器3f的摄像光学系统39f也可以被配置在内窥镜插入部2的前端20的内部。
摄像光学系统39f被配置在内窥镜插入部2的前端20。摄像光学系统39f在第一位置和与第一位置不同的第二位置的各位置使被摄体的光学像成像。摄像元件21生成基于在第一位置经由摄像光学系统39f在受光面24上成像的第一光学像的摄像信号100。另外,摄像元件21生成基于在第二位置经由摄像光学系统39f在受光面24上成像的第二光学像的摄像信号100。也就是说,摄像元件21生成与经由摄像光学系统39f在第一位置得到的第一光学像对应的第一图像和与经由摄像光学系统39f在第二位置得到的第二光学像对应的第二图像。
关于除上述点以外的点,图48所示的结构与图45所示的结构相同。
图49示出内窥镜插入部2的前端20和光学适配器3f的结构。摄像光学系统39f具有透镜56和棱镜57。透镜56被配置在摄像元件21的前方,并且棱镜57被配置在透镜56的前方。在光学适配器3f的侧面设置有未图示的窗,并且棱镜57被配置在该窗。棱镜57使入射至光学适配器3f的侧面的光向透镜56入射。透镜56使被棱镜57引导的光向摄像元件21入射,并且使被摄体的光学像成像。光学适配器3f是用于对与内窥镜插入部2的插入方向呈90度垂直的方向进行观察的侧视光学适配器。在透镜56的光学中心63f的位置为第一位置时生成第一图像,并且在透镜56的光学中心63f的位置为第二位置时生成第二图像。
根据上述的结构,测量处理部43基于由摄像元件21生成的图像以及与第一位置和同第一位置不同的第二位置有关的摄像机参数,通过三角测量的原理来进行测量处理。第一位置和第二位置是内窥镜插入部2的前端20(摄像光学系统39f)的不同的位置。测量处理部43计算被摄体与摄像机的相对的位置和姿势以及被摄体的三维形状。在此,所估计的摄像机的位置是光学中心63f的位置,并且所估计的摄像机的姿势是光轴的朝向。所估计出的摄像机的位置和姿势是摄像机参数的一部分。也就是说,在第七实施方式中,在摄像机参数中包含与第一位置有关的摄像机位置参数、与第一位置有关的摄像机姿势参数、与第二位置有关的摄像机位置参数以及与第二位置有关的摄像机姿势参数。测量处理部43计算三维形状,但是计算不出三维的实际尺寸(比例尺)。
可靠度判定部44判定对应点的可靠度、即测量处理的可靠度。在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20以内窥镜插入部2的前端20从第二位置侧向第一位置侧移动的方式弯曲的弯曲操作。换言之,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20从第二位置侧朝向第一位置侧移动的操作。
图50示意性地示出内窥镜插入部2的前端20与被摄体OB的位置。在图50中,示出将内窥镜插入部2的前端20和被摄体OB投影到图6所示的xz平面上的状态。在图50中,空间上的点被表示为被投影到xz平面上的点。生成第一图像时的透镜56的光学中心63f的位置(第一位置)与生成第二图像时的透镜56的光学中心63f的位置(第二位置)不同。例如,第一位置和第二位置是在内窥镜插入部2的插入方向上不同的位置。在透镜56的光学中心63f的位置为第一位置的情况下,来自被摄体OB上的点P30的光不会被被摄体OB遮挡而入射至棱镜57。在透镜56的光学中心63f的位置为第二位置的情况下,来自被摄体OB上的点P30的光被被摄体OB遮挡。因此,来自点P30的光不会入射到棱镜57。
图51示出在摄像光学系统39f的位置、即透镜56的光学中心63f的位置为第一位置时从透镜56的光学中心63f观察的被摄体像SI3。图52示出在摄像光学系统39f的位置、即透镜56的光学中心63f的位置为第二位置时从透镜56的光学中心63f观察的被摄体像SI4。如图51所示,在被摄体像SI3中能够视觉识别点P30。如图52所示,在被摄体像SI4中无法视觉识别点P30。这是第七实施方式中的发生了遮挡的状态。用于避免遮挡的内窥镜插入部2的前端20的移动方向是从第二位置朝向第一位置的方向。例如,用于避免遮挡的内窥镜插入部2的前端20的移动方向是与内窥镜插入部2的插入方向相反的方向。内窥镜插入部2的前端20的移动方向也可以不与该方向完全一致。内窥镜插入部2的前端20的移动方向只要是使摄像光学系统39f靠近第一位置那样的方向即可。
在内窥镜插入部2的前端20移动之后,摄像光学系统39f的光学中心63f的位置为与第一位置和第二位置不同的第三位置。摄像光学系统39f在第三位置使被摄体的光学像成像。摄像元件21生成与经由摄像光学系统39f在第三位置得到的第三光学像对应的第三图像。测量处理部43使用第一图像和第三图像来进行测量处理。
生成第一图像和第二图像的顺序是任意的。例如,第一次在第一位置生成第一图像,之后,第二次在第二位置生成第二图像。或者,第一次在第二位置生成第二图像,之后,第二次在第一位置生成第一图像。无论在哪种情况下,都在第一图像中设定测量点。
测距时的测量内窥镜装置1f的动作的过程与图47所示的过程相同。因此,省略关于测距时的测量内窥镜装置1f的动作的过程的说明。
图53示出在步骤S140中由显示部6显示的图像的例子。显示部6显示图像G2。图像G2是基于经由摄像光学系统39f成像的第一光学像的图像。被摄体OB在图像G2中显现。显示部6显示消息窗口W4。消息窗口W4包含表示发生了遮挡的消息MS7和表示使内窥镜插入部2的前端20移动的消息MS8。另外,消息窗口W4包含表示移动方向的箭头AR3。箭头AR3表示下方向。箭头AR3所示的方向示意性地表示与内窥镜插入部2的插入方向相反的方向。通过显示消息MS8和箭头AR3,用户能够获知为了避免遮挡只要向与内窥镜插入部2的插入方向相反的方向引导即可。用户通过按照所显示的消息对操作部5进行操作,能够使内窥镜插入部2移动。其结果,用户能够在不发生遮挡的位置指定测量点。
根据第七实施方式,测量内窥镜装置1f具有内窥镜插入部2、摄像光学系统39f、摄像元件21、测量处理部43、可靠度判定部44以及通知控制部451。
在第七实施方式中,在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20以内窥镜插入部2的前端20从第二位置侧向第一位置侧移动的方式移动的操作。由此,能够抑制因发生遮挡引起的测量精度的降低。
(第一实施方式至第七实施方式的追加说明)
第一实施方式的测量内窥镜装置1具有内窥镜插入部2、至少一个摄像光学系统(第一光学系统31和第二光学系统32)、摄像元件21以及测量处理部43。至少一个摄像光学系统被配置在内窥镜插入部2的前端20。摄像元件21生成与经由摄像光学系统得到的光学像对应的图像。测量处理部43基于图像以及与第一位置和同第一位置不同的第二位置有关的摄像机参数,通过三角测量的原理来进行测量处理。测量内窥镜装置1还具有可靠度判定部44和通知控制部451。可靠度判定部44判定基于在与经由摄像光学系统在第一位置得到的光学像对应的图像中设定的测量点进行的测量处理的可靠度。在由可靠度判定部44判定为可靠度低的情况下,通知控制部451进行通知,以促使用户进行使内窥镜插入部2的前端20从第二位置侧朝向第一位置侧移动的操作。
第二实施方式的测量内窥镜装置1a或第三实施方式的测量内窥镜装置1b与第一实施方式的测量内窥镜装置1同样地,具有内窥镜插入部2、至少一个摄像光学系统(第一光学系统31和第二光学系统32)、摄像元件21、测量处理部43以及可靠度判定部44。测量内窥镜装置1a或测量内窥镜装置1b还具有弯曲控制部452。在由可靠度判定部44判定为可靠度低的情况下,弯曲控制部452对弯曲部22进行控制,使得内窥镜插入部2的前端20从第二位置侧朝向第一位置侧移动。
在第一实施方式至第三实施方式中,摄像光学系统包括第一摄像光学系统(第一光学系统31)和第二摄像光学系统(第二光学系统32)。第一摄像光学系统被配置在第一位置。第二摄像光学系统被配置在第二位置,并且第二摄像光学系统相对于第一摄像光学系统具有视差。图像包括与经由第一摄像光学系统得到的第一光学像对应的第一图像和与经由第二摄像光学系统得到的第二光学像对应的第二图像。测量处理部43(测量处理部43b)基于第一图像和第二图像来进行测量处理。
第四实施方式的测量内窥镜装置1c具有内窥镜插入部2c、摄像光学系统39、摄像元件21、测量处理部43c、可靠度判定部44以及通知控制部451。摄像光学系统39被配置在第一位置。测量内窥镜装置1c还具有投影光学系统52。投影光学系统52被配置在第二位置,并且向被摄体投影规定的图案。
第五实施方式的测量内窥镜装置1d具有内窥镜插入部2d、摄像光学系统39d、摄像元件21、测量处理部43、可靠度判定部44以及通知控制部451。摄像光学系统39d被配置在第一位置。测量内窥镜装置1d还具有投影光学系统52d。投影光学系统52d被配置在第二位置,并且向被摄体投影规定的图案。
第六实施方式的测量内窥镜装置1e具有内窥镜插入部2、摄像光学系统39e、摄像元件21、测量处理部43、可靠度判定部44以及通知控制部451。图像包括与经由摄像光学系统39e在第一位置得到的第一光学像对应的第一图像和经由摄像光学系统39e在第二位置得到的第二光学像对应的第二图像。测量处理部43基于第一图像和第二图像来进行测量处理。
第七实施方式的测量内窥镜装置1f具有内窥镜插入部2、摄像光学系统39f、摄像元件21、测量处理部43、可靠度判定部44以及通知控制部451。图像包括与经由摄像光学系统39f在第一位置得到的第一光学像对应的第一图像和经由摄像光学系统39f在第二位置得到的第二光学像对应的第二图像。测量处理部43基于第一图像和第二图像来进行测量处理。
以上说明了本发明的优选的实施方式,但是本发明不限定于这些实施方式以及这些实施方式的变形例。在不偏离本发明的主旨的范围内,能够进行结构的附加、省略、置换以及其它变更。另外,本发明不由上述的说明来限定,而只由权利要求书的范围来限定。
产业上的可利用性
根据本发明的各实施方式,能够抑制因发生遮挡引起的测量精度的降低。
附图标记说明
1、1a、1b、1c、1d、1e、1f:测量内窥镜装置;2、2c、2d:内窥镜插入部;3、3a、3d:立体光学适配器;3e、3f:光学适配器;4、4a、4b、4c:控制单元;5:操作部;6:显示部;20、20c、20d:前端;21:摄像元件;22:弯曲部;25:投影光源;30:摄像部;31、31a:第一光学系统;32、32a:第二光学系统;34:影像信号处理部;38:信号转换部;39、39d、39e、39f:摄像光学系统;40:照明部;41:第一光源;42:图像存储部;43、43b、43c:测量处理部;44、44a、44b、44c:可靠度判定部;45、45a、45b、45c:控制部;47:照明光学系统;48:第一光纤束;49:第一入射光学系统;50:图案投影部;51:第二光源;52、52d:投影光学系统;53:第二光纤束;54:第二入射光学系统;55:图案生成部;56:透镜;57:棱镜;431:测量点指定部;432:对应点搜索部;433:三维坐标计算部;434:测量点搜索部;441:相关值计算部;442、444:比较判定部;443:遮挡发生判定部;451:通知控制部;452:弯曲控制部;453:测量点确认部;454:光源控制部;455:图案控制部;4431:测量辅助点设定部;4432:物距计算部;4433:差计算部;4434:差判定部;4521:测量点估计部;4522:边缘检测部;4523:边缘位置计算部;4524:虚拟直线计算部;4525:弯曲量计算部。

Claims (26)

1.一种内窥镜装置,具有:
内窥镜插入部;
第一摄像光学系统和第二摄像光学系统,所述第一摄像光学系统和所述第二摄像光学系统在所述内窥镜插入部的前端以在视差方向上相互分离的方式配置;
摄像元件,其生成与经由所述第一摄像光学系统得到的第一光学像对应的第一图像以及与经由所述第二摄像光学系统得到的第二光学像对应的第二图像;以及
测量处理部,
所述测量处理部具有:
测量点设定部,其在所述第一图像中设定测量点;
对应点搜索部,其在所述第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点;以及
三维坐标计算部,其使用所述测量点和由所述对应点搜索部搜索到的所述对应点,通过三角测量的原理来计算所述测量点的三维坐标,
在所述内窥镜装置中,还具有:
可靠度判定部,其判定基于所述测量点的测量处理的可靠度;以及
通知控制部,在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端朝向所述视差方向的所述第一摄像光学系统侧移动的操作。
2.根据权利要求1所述的内窥镜装置,其特征在于,
所述可靠度判定部具有:
相关值计算部,其计算所述第一图像中的所述测量点的位置与所述第二图像中的所述对应点的位置之间的相关值或差异度;以及
比较判定部,其将所述相关值或所述差异度与第一规定值进行比较,根据该比较的结果来判定所述可靠度。
3.根据权利要求1所述的内窥镜装置,其特征在于,
所述可靠度判定部具有遮挡发生判定部,该遮挡发生判定部判定是否发生了遮挡,
在由所述遮挡发生判定部判定为发生了所述遮挡的情况下,所述可靠度判定部判定为所述可靠度低。
4.根据权利要求1所述的内窥镜装置,其特征在于,
所述可靠度判定部具有:
相关值计算部,其计算所述第一图像中的所述测量点的位置与所述第二图像中的所述对应点的位置之间的相关值或差异度;
遮挡发生判定部,其判定是否发生了遮挡;以及
比较判定部,其基于将所述相关值或所述差异度与第一规定值进行比较所得到的比较结果和所述遮挡发生判定部的判定结果,来判定所述可靠度。
5.根据权利要求3或4所述的内窥镜装置,其特征在于,
所述遮挡发生判定部具有:
测量辅助点设定部,其通过对至少与所述第一图像对应的影像信号进行处理,来在所述第一图像中在核线上且在所述测量点的左侧设定第一测量辅助点,并且在所述核线上且在所述测量点的右侧设定第二测量辅助点;
物距计算部,其计算所述第一测量辅助点处的第一物距和所述第二测量辅助点处的第二物距;
差计算部,其计算所述第一物距与所述第二物距之差;以及
差判定部,其将所述差与第二规定值进行比较,在所述差大于所述第二规定值的情况下,判定为发生了所述遮挡。
6.一种内窥镜装置,具有:
内窥镜插入部;
第一摄像光学系统和第二摄像光学系统,所述第一摄像光学系统和所述第二摄像光学系统在所述内窥镜插入部的前端以在视差方向上相互分离的方式配置;
摄像元件,其生成与经由所述第一摄像光学系统得到的第一光学像对应的第一图像以及与经由所述第二摄像光学系统得到的第二光学像对应的第二图像;
测量处理部;以及
弯曲部,其被配置在所述前端,且使所述前端弯曲,
所述测量处理部具有:
测量点设定部,其在所述第一图像中设定测量点;
对应点搜索部,其在所述第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点;以及
三维坐标计算部,其使用所述测量点和由所述对应点搜索部搜索到的所述对应点,通过三角测量的原理来计算所述测量点的三维坐标,
在所述内窥镜装置中,还具有:
可靠度判定部,其判定基于所述测量点的测量处理的可靠度;以及
弯曲控制部,在由所述可靠度判定部判定为所述可靠度低的情况下,所述弯曲控制部对所述弯曲部进行控制,使得所述前端向所述视差方向的所述第一摄像光学系统侧移动。
7.根据权利要求6所述的内窥镜装置,其特征在于,
所述可靠度判定部具有:
相关值计算部,其计算所述第一图像中的所述测量点的位置与所述第二图像中的所述对应点的位置之间的相关值或差异度;以及
比较判定部,其将所述相关值或所述差异度与第一规定值进行比较,基于该比较的结果来判定所述可靠度。
8.根据权利要求6所述的内窥镜装置,其特征在于,
所述可靠度判定部具有遮挡发生判定部,该遮挡发生判定部判定是否发生了遮挡,
在由所述遮挡发生判定部判定为发生了所述遮挡的情况下,所述可靠度判定部判定为所述可靠度低。
9.根据权利要求6所述的内窥镜装置,其特征在于,
所述可靠度判定部具有:
相关值计算部,其计算所述第一图像中的所述测量点的位置与所述第二图像中的所述对应点的位置之间的相关值或差异度;
遮挡发生判定部,其判定是否发生了遮挡;以及
比较判定部,其基于将所述相关值或所述差异度与第一规定值进行比较所得到的比较结果和所述遮挡发生判定部的判定结果,来判定所述可靠度。
10.根据权利要求8或9所述的内窥镜装置,其特征在于,
所述遮挡发生判定部具有:
测量辅助点设定部,其通过对至少与所述第一图像对应的影像信号进行处理,来在所述第一图像中在核线上且在所述测量点的左侧设定第一测量辅助点,并且在所述核线上且在所述测量点的右侧设定第二测量辅助点;
物距计算部,其计算所述第一测量辅助点处的第一物距和所述第二测量辅助点处的第二物距;
差计算部,其计算所述第一物距与所述第二物距之差;以及
差判定部,其将所述差与第二规定值进行比较,在所述差大于所述第二规定值的情况下,判定为发生了所述遮挡。
11.根据权利要求6所述的内窥镜装置,其特征在于,
具有测量点确认部和通知控制部,
所述弯曲控制部具有:
测量点估计部,其通过对至少与所述第一图像对应的影像信号和至少与所述第二图像对应的所述影像信号进行处理,来估计所述测量点的三维坐标;以及
弯曲量计算部,其计算使所述测量点的被估计出的三维坐标处的被摄体点包含在所述第二摄像光学系统的视场中所需要的弯曲量,
在所述弯曲控制部进行基于所述弯曲量的弯曲控制之前,所述测量点确认部判定在所述前端虚拟地弯曲了所述弯曲量时所述被摄体点是否包含在所述第一摄像光学系统的视场中,
在判定为在所述前端虚拟地弯曲了所述弯曲量时所述被摄体点不包含在所述第一摄像光学系统的视场中的情况下,所述通知控制部进行通知,以促使用户进行使所述前端离开被摄体的操作。
12.根据权利要求6所述的内窥镜装置,其特征在于,
所述视差方向是从所述第一摄像光学系统的第一光学中心朝向所述第二摄像光学系统的第二光学中心的方向,
所述弯曲控制部具有:
测量点估计部,其通过对至少与所述第一图像对应的影像信号和至少与所述第二图像对应的所述影像信号进行处理,来估计所述测量点的三维坐标;
边缘检测部,其通过对至少与所述第一图像对应的所述影像信号进行处理,来检测在所述第一图像中图像浓度的变化相对大的边缘,所述边缘在所述第一图像中相对于所述测量点而言处于所述视差方向侧;
边缘位置计算部,其通过对至少与所述第一图像对应的所述影像信号和与所述第二图像对应的所述影像信号进行处理,通过所述三角测量的原理来计算所述边缘中的边缘点的三维坐标;
虚拟直线计算部,其计算通过所述测量点的被估计出的三维坐标和所述边缘点的三维坐标的虚拟直线;以及
弯曲量计算部,其计算使所述第二光学中心移动到虚拟直线上的位置或者相对于该虚拟直线而言处于所述视差方向的相反方向侧的位置所需要的弯曲量。
13.根据权利要求6所述的内窥镜装置,其特征在于,
所述视差方向是从所述第一摄像光学系统的第一光学中心朝向所述第二摄像光学系统的第二光学中心的方向,
所述内窥镜装置具有受光面,该受光面被配置在所述前端,且被配置在所述第一摄像光学系统和所述第二摄像光学系统的成像位置,
所述弯曲控制部具有:
虚拟直线计算部,其计算通过所述第一光学中心和所述受光面上的测量点位置的虚拟直线;以及
弯曲量计算部,其计算使所述第二光学中心移动到虚拟直线上的位置或者相对于该虚拟直线而言处于所述视差方向的相反方向侧的位置所需要的弯曲量。
14.根据权利要求6所述的内窥镜装置,其特征在于,
所述弯曲控制部对所述弯曲部进行控制,使得所述前端弯曲规定的弯曲量,
所述测量处理部具有测量点搜索部,该测量点搜索部通过对基于所述规定的弯曲量对所述弯曲部进行控制后的至少与所述第一图像对应的影像信号进行处理,来搜索与在基于所述规定的弯曲量对所述弯曲部进行控制之前所指定的所述测量点的位置相同的位置,并且在搜索到的位置设定所述测量点,
所述可靠度判定部基于与由所述测量点搜索部搜索到的所述测量点对应的所述对应点,来再次判定所述可靠度。
15.一种内窥镜装置,具有:
内窥镜插入部;
投影光学系统,其被配置在所述内窥镜插入部的前端,并且向被摄体依次投影空间上的相位不同的多个周期性的图案;
图案控制部,其使所述图案的空间上的相位偏移;
摄像光学系统,其被配置在所述前端且与配置有所述投影光学系统的位置不同的位置,并且使被投影了多个所述图案的所述被摄体的多个光学像依次成像;
摄像元件,其生成与经由所述摄像光学系统得到的所述多个光学像对应的多个图像;以及
测量处理部,其在所述多个图像中的至少一个图像中设定测量点,并且使用所述多个图像通过移相法来计算所述测量点的三维坐标,
在所述内窥镜装置中,还具有:
可靠度判定部,其判定基于所述测量点的测量处理的可靠度;以及
通知控制部,在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端从所述投影光学系统侧朝向所述摄像光学系统侧移动的操作。
16.一种内窥镜装置,具有:
内窥镜插入部;
投影光学系统,其被配置在所述内窥镜插入部的前端,并且向被摄体依次投影空间上的相位不同的多个周期性的图案;
图案控制部,其使所述图案的空间上的相位偏移;
摄像光学系统,其被配置在所述前端且与配置有所述投影光学系统的位置不同的位置,并且使被投影了多个所述图案的所述被摄体的多个光学像依次成像;
摄像元件,其生成与经由所述摄像光学系统得到的所述多个光学像对应的多个图像;
测量处理部,其在所述多个图像中的至少一个图像中设定测量点,并且使用所述多个图像通过移相法来计算所述测量点的三维坐标;以及
弯曲部,其被配置在所述前端,且使所述前端弯曲,
在所述内窥镜装置中,还具有:
可靠度判定部,其判定基于所述测量点的测量处理的可靠度;以及
弯曲控制部,在由所述可靠度判定部判定为所述可靠度低的情况下,所述弯曲控制部对所述弯曲部进行控制,使得所述前端从所述投影光学系统侧朝向所述摄像光学系统侧移动。
17.一种内窥镜装置,具有:
内窥镜插入部;
投影光学系统,其被配置在所述内窥镜插入部的前端,并且向被摄体投影随机图案;
摄像光学系统,其被配置在所述前端且与配置有所述投影光学系统的位置不同的位置,并且使被投影了所述随机图案的所述被摄体的光学像成像;
摄像元件,其生成与经由所述摄像光学系统得到的光学像对应的第一图像;以及
测量处理部,
所述测量处理部具有:
测量点设定部,其在所述第一图像中设定测量点;
对应点搜索部,其在与所述随机图案相关的第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点;以及
三维坐标计算部,其使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标,
在所述内窥镜装置中,还具有:
可靠度判定部,其判定基于所述测量点的测量处理的可靠度;以及
通知控制部,在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端从所述投影光学系统侧朝向所述摄像光学系统侧移动的操作。
18.一种内窥镜装置,具有:
内窥镜插入部;
投影光学系统,其被配置在所述内窥镜插入部的前端,并且向被摄体投影随机图案;
摄像光学系统,其被配置在所述前端且与配置有所述投影光学系统的位置不同的位置,并且使被投影了所述随机图案的所述被摄体的光学像成像;
摄像元件,其生成与经由所述摄像光学系统得到的光学像对应的第一图像;
测量处理部;以及
弯曲部,其被配置在所述前端,且使所述前端弯曲,
所述测量处理部具有:
测量点设定部,其在所述第一图像中设定测量点;
对应点搜索部,其在与所述随机图案相关的第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点;以及
三维坐标计算部,其使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标,
在所述内窥镜装置中,还具有:
可靠度判定部,其判定基于所述测量点的测量处理的可靠度;以及
弯曲控制部,在由所述可靠度判定部判定为所述可靠度低的情况下,所述弯曲控制部对所述弯曲部进行控制,使得所述前端从所述投影光学系统侧朝向所述摄像光学系统侧移动。
19.一种内窥镜装置,具有:
内窥镜插入部;
摄像光学系统,其被配置在所述内窥镜插入部的前端,并且在第一位置和与所述第一位置不同的第二位置分别使被摄体的光学像成像;
摄像元件,其生成与经由所述摄像光学系统在所述第一位置得到的第一光学像对应的第一图像以及与经由所述摄像光学系统在所述第二位置得到的第二光学像对应的第二图像;以及
测量处理部,
所述测量处理部具有:
测量点设定部,其在所述第一图像中设定测量点;
对应点搜索部,其在所述第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点;以及
三维坐标计算部,其使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标,
在所述内窥镜装置中,还具有:
可靠度判定部,其判定基于所述测量点的测量处理的可靠度;以及
通知控制部,在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端从所述第二位置侧朝向所述第一位置侧移动的操作。
20.一种内窥镜装置,具有:
内窥镜插入部;
摄像光学系统,其被配置在所述内窥镜插入部的前端,并且在第一位置和与所述第一位置不同的第二位置分别使被摄体的光学像成像;
摄像元件,其生成与经由所述摄像光学系统在所述第一位置得到的第一光学像对应的第一图像以及与经由所述摄像光学系统在所述第二位置得到的第二光学像对应的第二图像;
测量处理部;以及
弯曲部,其被配置在所述前端,且使所述前端弯曲,
所述测量处理部具有:
测量点设定部,其在所述第一图像中设定测量点;
对应点搜索部,其在所述第二图像中搜索与由所述测量点设定部设定的所述测量点对应的对应点;以及
三维坐标计算部,其使用所述测量点和由所述对应点搜索部搜索到的所述对应点,根据三角测量的原理来计算所述测量点的三维坐标,
在所述内窥镜装置中,还具有:
可靠度判定部,其判定基于所述测量点的测量处理的可靠度;以及
弯曲控制部,在由所述可靠度判定部判定为所述可靠度低的情况下,所述弯曲控制部对所述弯曲部进行控制,使得所述前端从所述第二位置侧朝向所述第一位置侧移动。
21.一种内窥镜装置,具有:
内窥镜插入部;
至少一个摄像光学系统,其被配置在所述内窥镜插入部的前端;
摄像元件,其生成与经由所述摄像光学系统得到的光学像对应的图像;以及
测量处理部,其基于所述图像以及与第一位置和同所述第一位置不同的第二位置有关的摄像机参数,根据三角测量的原理来进行测量处理,
在所述内窥镜装置中,还具有:
可靠度判定部,其判定基于测量点的所述测量处理的可靠度,该测量点是在与经由所述摄像光学系统在所述第一位置得到的所述光学像对应的所述图像中设定的;以及
通知控制部,在由所述可靠度判定部判定为所述可靠度低的情况下,所述通知控制部进行通知,以促使用户进行使所述前端从所述第二位置侧朝向所述第一位置侧移动的操作。
22.根据权利要求21所述的内窥镜装置,其特征在于,
所述摄像光学系统包括第一摄像光学系统和第二摄像光学系统,
所述第一摄像光学系统被配置在所述第一位置,
所述第二摄像光学系统被配置在所述第二位置,且所述第二摄像光学系统相对于所述第一摄像光学系统具有视差,
所述图像包括与经由所述第一摄像光学系统得到的第一光学像对应的第一图像和与经由所述第二摄像光学系统得到的第二光学像对应的第二图像,
所述测量处理部基于所述第一图像和所述第二图像来进行所述测量处理。
23.根据权利要求21所述的内窥镜装置,其特征在于,
所述摄像光学系统被配置在所述第一位置,
所述内窥镜装置具有投影光学系统,该投影光学系统被配置在所述第二位置,并且向被摄体投影规定的图案。
24.根据权利要求21所述的内窥镜装置,其特征在于,
所述图像包括与经由所述摄像光学系统在所述第一位置得到的第一光学像对应的第一图像和与经由所述摄像光学系统在所述第二位置得到的第二光学像对应的第二图像,
所述测量处理部基于所述第一图像和所述第二图像来进行所述测量处理。
25.根据权利要求21所述的内窥镜装置,其特征在于,
所述可靠度判定部具有遮挡发生判定部,该遮挡发生判定部判定是否发生了遮挡,
在由所述遮挡发生判定部判定为发生了所述遮挡的情况下,所述可靠度判定部判定为所述可靠度低。
26.一种内窥镜装置,具有:
内窥镜插入部;
至少一个摄像光学系统,其被配置在所述内窥镜插入部的前端;
摄像元件,其生成与经由所述摄像光学系统得到的光学像对应的图像;
测量处理部,其基于所述图像以及与第一位置和同所述第一位置不同的第二位置有关的摄像机参数,根据三角测量的原理来进行测量处理;以及
弯曲部,其被配置在所述前端,且使所述前端弯曲,
在所述内窥镜装置中,还具有:
可靠度判定部,其判定基于测量点的所述测量处理的可靠度,该测量点是在与经由所述摄像光学系统在所述第一位置得到的所述光学像对应的所述图像中设定的;以及
弯曲控制部,在由所述可靠度判定部判定为所述可靠度低的情况下,所述弯曲控制部对所述弯曲部进行控制,使得所述前端从所述第二位置侧朝向所述第一位置侧移动。
CN201680035797.6A 2015-06-25 2016-06-23 内窥镜装置 Active CN107735714B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015127415 2015-06-25
JP2015-127415 2015-06-25
PCT/JP2016/068636 WO2016208664A1 (ja) 2015-06-25 2016-06-23 内視鏡装置

Publications (2)

Publication Number Publication Date
CN107735714A true CN107735714A (zh) 2018-02-23
CN107735714B CN107735714B (zh) 2020-06-09

Family

ID=57586520

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680035797.6A Active CN107735714B (zh) 2015-06-25 2016-06-23 内窥镜装置

Country Status (5)

Country Link
US (1) US10742958B2 (zh)
EP (1) EP3316019A4 (zh)
JP (1) JPWO2016208664A1 (zh)
CN (1) CN107735714B (zh)
WO (1) WO2016208664A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114569047A (zh) * 2022-05-05 2022-06-03 安翰科技(武汉)股份有限公司 胶囊内窥镜、摄像系统的测距方法和装置

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017209153A1 (ja) * 2016-05-30 2017-12-07 シャープ株式会社 画像処理装置、画像処理方法および画像処理プログラム
US10222607B2 (en) * 2016-12-14 2019-03-05 Canon U.S.A., Inc. Three-dimensional endoscope
US10666927B2 (en) * 2017-03-15 2020-05-26 Baker Hughes, A Ge Company, Llc Method and device for inspection of an asset
JP2018197674A (ja) * 2017-05-23 2018-12-13 オリンパス株式会社 計測装置の作動方法、計測装置、計測システム、3次元形状復元装置、およびプログラム
CN110740676B (zh) * 2017-06-15 2022-02-25 奥林巴斯株式会社 内窥镜系统、内窥镜图像处理方法以及记录介质
JP6896543B2 (ja) * 2017-07-19 2021-06-30 オリンパス株式会社 計測装置および計測装置の作動方法
CN107302696A (zh) * 2017-08-10 2017-10-27 郑州金润高科电子有限公司 双目相机及基于其的图像测量方法
WO2019045144A1 (ko) * 2017-08-31 2019-03-07 (주)레벨소프트 의료용 항법 장치를 위한 의료 영상 처리 장치 및 의료 영상 처리 방법
US10638921B2 (en) 2018-07-20 2020-05-05 Arthrex, Inc. Medical imaging system
JP7049220B2 (ja) * 2018-08-30 2022-04-06 オリンパス株式会社 画像取得装置および画像取得装置の作動方法
KR102415953B1 (ko) * 2020-10-30 2022-07-01 재단법인 아산사회복지재단 의료용 내시경
US20230013884A1 (en) * 2021-07-14 2023-01-19 Cilag Gmbh International Endoscope with synthetic aperture multispectral camera array
CN117915819A (zh) * 2021-09-07 2024-04-19 直观外科手术操作公司 选择性地使用由成像设备生成的不同视频流来执行基于图像的操作

Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0403399A2 (en) * 1989-06-12 1990-12-19 Welch Allyn, Inc. System for measuring objects viewed through a borescope
US20020137986A1 (en) * 1999-09-01 2002-09-26 Olympus Optical Co., Ltd. Endoscope apparatus
US20090167847A1 (en) * 2007-12-27 2009-07-02 Olympus Corporation Measuring endoscope apparatus and program
CN101526654A (zh) * 2008-03-06 2009-09-09 奥林巴斯医疗株式会社 摄像组件及其制造、组装方法、内窥镜以及胶囊型内窥镜
US20100034436A1 (en) * 2008-04-28 2010-02-11 Olympus Corporation Image processing apparatus, computer program product and image processing method
JP2012016573A (ja) * 2010-03-24 2012-01-26 Advance Co Ltd 歯科用補綴物計測加工システム
CN102469924A (zh) * 2009-11-06 2012-05-23 奥林巴斯医疗株式会社 内窥镜装置以及内窥镜
CN102596001A (zh) * 2010-07-21 2012-07-18 奥林巴斯医疗株式会社 图像处理装置和图像处理方法
CN102665527A (zh) * 2009-11-13 2012-09-12 奥林巴斯株式会社 图像处理装置、电子设备、内窥镜系统和程序
CN102711583A (zh) * 2010-02-01 2012-10-03 奥林巴斯医疗株式会社 内窥镜用摄像单元
US20120256901A1 (en) * 2011-04-06 2012-10-11 General Electric Company Method and device for displaying an indication of the quality of the three-dimensional data for a surface of a viewed object
CN103284725A (zh) * 2012-02-27 2013-09-11 柯惠Lp公司 用于计量系统中光学图像校正的设备和方法
CN103313642A (zh) * 2011-09-29 2013-09-18 奥林巴斯医疗株式会社 内窥镜装置
CN103875243A (zh) * 2011-10-14 2014-06-18 奥林巴斯株式会社 三维内窥镜装置
CN103860129A (zh) * 2014-03-19 2014-06-18 深圳市开立科技有限公司 内窥镜光源亮度自动调节的方法和装置
CN103907042A (zh) * 2011-10-21 2014-07-02 奥林巴斯株式会社 拍摄装置、内窥镜装置以及拍摄装置的控制方法
JP2014147572A (ja) * 2013-02-01 2014-08-21 Olympus Corp 内視鏡装置およびプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004049638A (ja) 2002-07-22 2004-02-19 Olympus Corp 内視鏡装置
US8400494B2 (en) 2005-10-11 2013-03-19 Primesense Ltd. Method and system for object reconstruction
US8372002B2 (en) * 2006-07-27 2013-02-12 Olympus Corporation Endoscope apparatus
JP2008229219A (ja) 2007-03-23 2008-10-02 Hoya Corp 電子内視鏡システム
ATE546755T1 (de) * 2007-10-30 2012-03-15 Olympus Corp Endoskopvorrichtung
JP5846763B2 (ja) 2011-05-24 2016-01-20 オリンパス株式会社 内視鏡装置
JP5841353B2 (ja) * 2011-05-24 2016-01-13 オリンパス株式会社 内視鏡装置および画像取得方法
DE102013200898A1 (de) * 2013-01-21 2014-07-24 Siemens Aktiengesellschaft Endoskop, insbesondere für die minimal-invasive Chirurgie

Patent Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0403399A2 (en) * 1989-06-12 1990-12-19 Welch Allyn, Inc. System for measuring objects viewed through a borescope
US20020137986A1 (en) * 1999-09-01 2002-09-26 Olympus Optical Co., Ltd. Endoscope apparatus
US20090167847A1 (en) * 2007-12-27 2009-07-02 Olympus Corporation Measuring endoscope apparatus and program
CN101526654A (zh) * 2008-03-06 2009-09-09 奥林巴斯医疗株式会社 摄像组件及其制造、组装方法、内窥镜以及胶囊型内窥镜
US20100034436A1 (en) * 2008-04-28 2010-02-11 Olympus Corporation Image processing apparatus, computer program product and image processing method
CN102469924A (zh) * 2009-11-06 2012-05-23 奥林巴斯医疗株式会社 内窥镜装置以及内窥镜
CN102665527A (zh) * 2009-11-13 2012-09-12 奥林巴斯株式会社 图像处理装置、电子设备、内窥镜系统和程序
CN102711583A (zh) * 2010-02-01 2012-10-03 奥林巴斯医疗株式会社 内窥镜用摄像单元
JP2012016573A (ja) * 2010-03-24 2012-01-26 Advance Co Ltd 歯科用補綴物計測加工システム
CN102596001A (zh) * 2010-07-21 2012-07-18 奥林巴斯医疗株式会社 图像处理装置和图像处理方法
US20120256901A1 (en) * 2011-04-06 2012-10-11 General Electric Company Method and device for displaying an indication of the quality of the three-dimensional data for a surface of a viewed object
CN103313642A (zh) * 2011-09-29 2013-09-18 奥林巴斯医疗株式会社 内窥镜装置
CN103875243A (zh) * 2011-10-14 2014-06-18 奥林巴斯株式会社 三维内窥镜装置
CN103907042A (zh) * 2011-10-21 2014-07-02 奥林巴斯株式会社 拍摄装置、内窥镜装置以及拍摄装置的控制方法
CN103284725A (zh) * 2012-02-27 2013-09-11 柯惠Lp公司 用于计量系统中光学图像校正的设备和方法
JP2014147572A (ja) * 2013-02-01 2014-08-21 Olympus Corp 内視鏡装置およびプログラム
CN103860129A (zh) * 2014-03-19 2014-06-18 深圳市开立科技有限公司 内窥镜光源亮度自动调节的方法和装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114569047A (zh) * 2022-05-05 2022-06-03 安翰科技(武汉)股份有限公司 胶囊内窥镜、摄像系统的测距方法和装置
CN114569047B (zh) * 2022-05-05 2022-08-23 安翰科技(武汉)股份有限公司 胶囊内窥镜、摄像系统的测距方法和装置
WO2023213311A1 (zh) * 2022-05-05 2023-11-09 安翰科技(武汉)股份有限公司 胶囊内窥镜、摄像系统的测距方法和装置

Also Published As

Publication number Publication date
US20180103246A1 (en) 2018-04-12
EP3316019A1 (en) 2018-05-02
EP3316019A4 (en) 2019-03-06
US10742958B2 (en) 2020-08-11
CN107735714B (zh) 2020-06-09
JPWO2016208664A1 (ja) 2018-04-12
WO2016208664A1 (ja) 2016-12-29

Similar Documents

Publication Publication Date Title
CN107735714A (zh) 内窥镜装置
CN105517482B (zh) 图像处理装置、图像处理方法和程序
EP3503033B1 (en) Optical tracking system and optical tracking method
EP3984486A1 (en) Optical coherence tomography augmented reality-based surgical microscope imaging system and method
US11419491B2 (en) Colonoscopy system and method
CN106456267A (zh) 器械在视野中的定量三维可视化
TWI520576B (zh) 將二維影像轉換爲三維影像的方法與系統及電腦可讀媒體
CN104685541A (zh) 用于确定三维对象上注视点的方法和装置
KR20090038932A (ko) 입체이미지생성을 위한 장치, 방법 및 프로그램 제품
US20180214006A1 (en) Image processing apparatus and image processing method
EP3622481B1 (en) Method and system for calibrating a velocimetry system
CN107249427B (zh) 医疗装置、医疗图像生成方法以及医疗图像生成程序
CN106560163A (zh) 手术导航系统及手术导航系统的配准方法
CN105208909A (zh) 用于立体显示图像数据的方法和装置
WO2017199285A1 (ja) 画像処理装置及び画像処理方法
CN106327461A (zh) 一种用于监测的图像处理方法及装置
CN106231986A (zh) 图像处理装置
CN108182663A (zh) 一种毫米波图像效果增强方法、设备和可读存储介质
CN109974659A (zh) 一种基于双目机器视觉的嵌入式测距系统
CN104755005B (zh) 观察装置以及观察支援装置
JP2007501970A (ja) 画像処理のための方法および装置
US10382678B2 (en) Image generation apparatus and image generation method
JP5027624B2 (ja) 画像処理方法および画像処理装置
CN105686795A (zh) 一种en face OCT图像的动态显示方法
JPH10232111A (ja) 距離測定装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20230105

Address after: Nagano

Patentee after: Yijingtong Co.,Ltd.

Address before: Tokyo, Japan

Patentee before: OLYMPUS Corp.