CN115150545A - 具有全景图像获取功能的测量系统 - Google Patents
具有全景图像获取功能的测量系统 Download PDFInfo
- Publication number
- CN115150545A CN115150545A CN202210275425.8A CN202210275425A CN115150545A CN 115150545 A CN115150545 A CN 115150545A CN 202210275425 A CN202210275425 A CN 202210275425A CN 115150545 A CN115150545 A CN 115150545A
- Authority
- CN
- China
- Prior art keywords
- panoramic image
- image
- unit
- camera
- measurement system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005259 measurement Methods 0.000 title claims abstract description 62
- 238000012545 processing Methods 0.000 claims abstract description 34
- 238000001429 visible spectrum Methods 0.000 claims description 33
- 238000001514 detection method Methods 0.000 claims description 9
- 238000012935 Averaging Methods 0.000 claims description 6
- 230000005540 biological transmission Effects 0.000 claims description 5
- 238000002329 infrared spectrum Methods 0.000 claims description 4
- 230000002547 anomalous effect Effects 0.000 claims description 2
- 230000002708 enhancing effect Effects 0.000 claims description 2
- 238000002360 preparation method Methods 0.000 claims 1
- 230000033001 locomotion Effects 0.000 description 8
- 238000005070 sampling Methods 0.000 description 8
- 238000000034 method Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 210000003128 head Anatomy 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 206010003402 Arthropod sting Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000007664 blowing Methods 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 230000010363 phase shift Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/02—Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/02—Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
- G01C11/025—Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures by scanning the object
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C15/00—Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
- G01C15/002—Active optical surveying means
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B17/00—Details of cameras or camera bodies; Accessories therefor
- G03B17/56—Accessories
- G03B17/561—Support related camera accessories
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B37/00—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
- G03B37/02—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with scanning movement of lens or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/143—Sensing or illuminating at different wavelengths
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/145—Illumination specially adapted for pattern recognition, e.g. using gratings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/12—Acquisition of 3D measurements of objects
- G06V2201/121—Acquisition of 3D measurements of objects using special illumination
Landscapes
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Studio Devices (AREA)
Abstract
本公开涉及具有全景图像获取功能的测量系统。本发明涉及一种获取三维测量点的测量系统,该测量系统包括:基座单元;支承单元;发射单元;接收单元;引导单元;第一致动器;第二致动器;第一角度编码器;第二角度编码器;捕获至少部分场景的图像的摄像头;连接至第一致动器、第二致动器、第一角度编码器、第二角度编码器和摄像头的计算机,针对利用摄像头生成第一全景图像,该计算机被配置为:控制所述图像传感器以帧速率来对帧进行采样,控制所述第一致动器以转速来旋转所述支承单元,所述转速按照使n个连续帧重叠的方式与所述图像传感器的所述帧速率相适应,其中,n≥3,以及对所述采样的帧中的至少一些帧进行处理,以形成所述第一全景图像。
Description
技术领域
本发明涉及一种用于获取三维测量点的测量系统,特别是涉及一种大地测量仪器。这种仪器的示例是全站仪、经纬仪或激光扫描仪。
背景技术
通用测量系统通常包括出于文档记载原因、用于点云着色、用于目标搜索、用于目标距离定位和/或用于目标标识的摄像头。以这种方式,将所测量的点或点云数据利用对于它们的最终使用特别有帮助的另外信息来进行增强,或者场景中可用目标可以被自动检测和瞄准,特别是在考虑到属于特定目标类型的跟踪/测量参数的情况下。
为了测量三维点,该仪器通常包括用于绕竖直轴线旋转的装置。因此,不仅对于捕获单个图像,而且对于利用精确的旋转运动来捕获全景图像,这些状况都是极好的。
当利用测量系统捕获全景图像时,一种常见的操作模式是“停止并拍摄(stop-and-go)”方法,其中以具有某一重叠的规则间隔来拍摄全视场图像。顾名思义,运动会针对各个图像而停止,并由此对曝光时间没有严格的限制。因此,停止并拍摄适合于低光情形,并且通过拍摄具有不同曝光时间的多个图像的HDR突发(HDR-burst),可以覆盖大的动态范围。由于在获取期间没有运动,因此,同步也是微不足道的,并且在仪器上运行的软件可以控制图像触发。
停止并拍摄全景图的不利方面是重叠区域中的拼接(stitch)并非是微不足道的。除非摄像头绕其入射光瞳旋转,否则将存在“视差”移位,这导致类似双重曝光状的重影。拼接视差还导致关于投影映射的不确定性,因而也难以将3D点准确地渲染(render)到全景图上或者将全景图用于测量。
针对机械学的另一问题是加速力。对于各个位置,必须对相对大的质量进行加速和减速,从而造成振动并且需要稳定时间。
而且,当对象处于运动中时可能存在“重影”(即,同一个人或半透明的部分对象在重叠区域中的多个副本),并且图像亮度、颜色、清晰度的任何不均匀性都可能在全景图中产生可见的图块图案(tile-pattern)。当捕获多曝光HDR突发时,进一步加重了运动伪像,并且由于HDR突发数据不一致,因此,该运动伪像可能不仅产生“重影”,而且还产生围绕移动对象边缘的奇怪颜色/强度条纹(fringe)。即使是小的运动(诸如风吹动树枝)也可能产生严重的伪像。
可用的测量系统还具有被分成两个独立单元的用于图像捕获的摄像头以及目标搜索系统,这导致较高的装配费用和复杂性。除此之外,这些单元彼此相对地在空间上偏移,使得它们无法共用同一几何参考系。
本发明的目的
因此,本发明提供了一种改进的测量系统。根据本发明的测量系统使得能够进行更鲁棒、更准确以及更快的全景图像获取以用于测量的目的,并且测量系统组件的磨损更低。
发明内容
本发明涉及一种获取三维测量点的测量系统,该测量系统包括:基座单元;支承单元,该支承单元被安装在基座单元上,并且该支承单元可相对于基座单元绕方位轴线旋转;发射单元,该发射单元被配置为提供发送光束;接收单元,该接收单元被配置为检测接收光束;引导单元,该引导单元被安装在支承单元中、可相对于支承单元绕仰角轴线旋转,并且该引导单元被配置为:将所述发送光束从所述发射单元引导向场景,将所述接收光束从所述场景引导到所述接收单元;第一致动器,所述第一致动器被配置为使所述支承单元相对于所述基座单元绕所述方位轴线旋转;第二致动器,所述第二致动器被配置为使所述引导单元相对于所述支承单元绕所述仰角轴线旋转;第一角度编码器,该第一角度编码器被配置为测量支承单元的旋转位置;第二角度编码器,该第二角度编码器被配置为测量引导单元的旋转位置;摄像头,该摄像头包括图像传感器,其中,该摄像头被配置为捕获场景中的至少部分场景的图像;计算机,该计算机被连接至第一致动器、第二致动器、第一角度编码器、第二角度编码器和摄像头,其中,该计算机被配置为:经由第一致动器控制支承单元的转速;以及经由第二致动器控制引导单元的转速,其中,为了利用摄像头生成第一全景图像,该计算机被配置为:控制图像传感器以帧速率来对帧进行采样;控制所述第一致动器以使所述支承单元以一转速旋转,该转速按照使n个连续帧重叠的方式与所述图像传感器的所述帧速率相适应,其中,n≥3,以及对所采样的帧中的至少一些帧进行处理,以形成第一全景图像。特别地,所述转速按照使3至20个连续帧之间重叠的方式与所述帧速率相适应。换句话说,一定量的连续帧重叠意味着这些一定量的连续帧共用重叠区域。
在一些实施方式中,控制图像传感器来对帧进行采样包括:控制图像传感器以介于1:5至1:40之间的图像纵横比来对帧进行采样。
在一些实施方式中,所述计算机被配置为:利用第一全景图像对点云进行着色,其中,点云包括利用测量系统从第一全景图像被捕获的相同设立(setup)位置获取的三维测量点。
在一些实施方式中,该测量系统包括显示单元,该显示单元被配置为:在图形用户界面(GUI)上显示第一全景图像;以及利用指示器来增强GUI上的第一全景图像,该指示器特别地表示摄像头的当前视场或者摄像头的当前指向。
在一些实施方式中,对所采样的帧进行处理包括:拼接和平均重叠的连续帧。
在一些实施方式中,对所采样的帧进行处理基于由第一角度编码器在帧被采样的各个时间点测得的、支承单元的相应旋转位置,特别是还基于由第二角度编码器在帧被采样的各个时间点测得的、引导单元的相应旋转位置。
在一些实施方式中,针对利用摄像头生成第一全景图像,还将计算机配置为:控制图像传感器以利用交替(alternating)曝光时间来对帧进行采样。
在一些实施方式中,将计算机配置为:将重叠的连续帧中的重叠部分彼此进行比较;以及当对所采样的帧进行处理时丢弃异常的重叠部分,以形第一全景图像。
在一些实施方式中,控制图像传感器来对帧进行采样包括:控制图像传感器以全分辨率对帧进行采样,从而获得原始图像文件,特别是其中,对所采样的帧进行处理包括:以数字方式对原始图像文件进行去马赛克。
在一些实施方式中,对所采样的帧进行处理包括:将各个所采样的帧的像素进行合并(binning),或者其中,控制传感器以对帧进行采样包括:控制传感器以利用像素合并来对帧进行采样。
在一些实施方式中,将计算机配置为:基于因摄像头在所述支承单元的所述对应旋转位置处检测到的相应光状况而造成的所述摄像头检测所需的曝光时间来调整该传感器的曝光时间以及该支承单元的转速。
在一些实施方式中,该测量系统包括闪烁传感器,该闪烁传感器被配置为:检测由灯照明场景而造成的电力线闪烁,其中,将计算机配置为:基于所检测到的电力线闪烁来调整帧速率和重叠的连续帧的量n中的至少一者。
在一些实施方式中,其中,将计算机配置为:生成第二全景图像,该第二全景图像覆盖场景中的与第一全景图像相同的部分;基于对象轮廓的分析来检测第一全景图像和第二全景图像中的移动障碍物;以及在第一全景图像和第二全景图像中的至少一个全景图像中检测到移动障碍物的情况下,通过对第一全景图像和第二全景图像进行处理来生成无障碍物的全景图像,使得该无障碍物的全景图像至少部分地没有所检测到的移动障碍物。
在一些实施方式中,所述计算机被配置为:生成第三全景图像,该第三全景图像部分地覆盖场景中的与第一全景图像相同的部分,其中,第三全景图像是利用引导单元的以下旋转位置来捕获的,即,该旋转位置不同于引导单元在捕获第一全景图像时的旋转位置;以及拼接第一全景图像和第三全景图像。
在一些实施方式中,为了利用摄像头生成预备全景图像,将计算机配置为:控制图像传感器以利用预备帧速率来对预备帧进行采样;控制第一致动器以使支承单元旋转;以及对所采样的预备帧进行处理以形成预备全景图像,并且其中,计算机还被配置为:使用预备全景图像来得出针对支承单元的对应旋转位置的曝光时间或多个不同的曝光时间;以及使用所得出的曝光时间或所得出的不同曝光时间来生成第一全景图像。
在一些实施方式中,该测量系统包括可见光谱(VIS)闪光单元,该VIS闪光单元被配置为:朝向场景发射VIS闪光,并且该VIS闪光单元被连接至计算机。
在一些实施方式中,该测量系统包括红外(IR)闪光单元,该IR闪光单元被配置为:朝向场景发射IR闪光,并且该IR闪光单元被连接至计算机。
在一些实施方式中,摄像头还包括IR传感器,或者将图像传感器实施为IR传感器,所述IR传感器被配置为:至少部分地基于所检测到的IR闪光的反射来捕获IR图像。特别地,在摄像头除了图像传感器之外还包括IR传感器的情况下,针对生成IR全景图像,将计算机配置为:以与图像传感器用于生成第一全景图像相同的方式来控制IR传感器。
在一些实施方式中,摄像头还包括飞行时间(TOF)传感器,或者图像传感器被实施为飞行时间(TOF)传感器,所述TOF传感器被配置为捕获TOF图像,所述TOF图像包括距离数据和图像数据,其中,图像数据是由可见光谱(VIS)光或IR光的检测而生成的。图像数据特别为视觉强度数据。
在一些实施方式中,针对标识位于场景中的目标以及发射经调制的光图案,将计算机配置为:基于重叠的帧以及这些重叠的帧的相对捕获时间来检测经调制的光图案。
在一些实施方式中,对所采样的帧中的至少一些帧进行处理以形成第一全景图像被实施为:对于n=3,对所采样的帧中的每个第二帧进行处理,以形成第一全景图像;或者,对于n>3,对所采样的帧中的至少每个第m帧进行处理,以形成第一全景图像,其中,m=(n-1)。
在一些实施方式中,该测量系统包括闪光单元,该闪光单元被配置为朝向场景发射闪光;将计算机连接至闪光单元;将摄像头配置为检测闪光的反射,其中,为了利用摄像头生成目标位置全景图像;将计算机配置为:对于n=3,对所采样的帧中的每个相应的另一第二帧进行处理,以形成第四全景图像;或者,对于n>3,对所采样的帧中的至少每个第r帧进行处理,以形成第四全景图像,其中,r=(n–1),并且其中,所采样的帧中的所述至少每个第r帧不同于所采样的帧中的所述至少每个第m帧;控制所述闪光以经调整的闪光速率发射所述闪光,以使所采样的帧中的被处理以形成第四全景图像的每一个帧捕获闪光的反射;从第一全景图像和第四全景图像生成差异图像,其中,目标位置全景图像基于差异图像。
在一些实施方式中,闪光是IR闪光,其中,图像传感器包括可在VIS与IR之间切换的滤光器(filter)、划分滤光器(divided filter),或者对VIS敏感的多个像素以及对IR光谱敏感的多个像素。
在一些实施方式中,摄像头包括或者将图像传感器实施为动态视觉传感器(DVS),其也被称为事件摄像头传感器。可以将这种DVS传感器配置成实时检测图像中的变化,这可以支持对反射目标的搜索。
附图说明
仅通过示例的方式,在下文中将参照附图对本发明的优选实施方式进行更全面描述,其中:
图1示出了包括全站仪的示例性测量系统;
图2以示意图示出了图1的全站仪;
图3示出了被用于全景图像获取的示例性传感器;
图4至图8示出了测量系统的多个实施方式,这些测量系统在摄像头的位置上大体是不同的;
图9示出了对具有重叠的条形区域的10个帧进行采样的传感器条带的示意图;
图10示出了测量系统和摄像头视场的示意性立体图,并且紧挨着该测量系统和摄像头的是它们采样的重叠帧;
图11示出了定义在测量系统中使用的示例性计算机基础结构的图表;
图12示出了绘制来自公共闪烁源的不同频率的闪烁周期相对于传感器的帧速率的记录图表;
图13示出了该测量系统的实施方式,该测量系统具有摄像头,该摄像头具有两个传感器和一个闪光单元;以及
图14示出了由测量系统的实施方式用于生成全景图像的示例性方案。
具体实施方式
图1示出了获取三维测量点的示例性测量系统所包括的全站仪1。图2提供了主要组件的抽象例示。全站仪1包括:基座单元2;支承单元3,该支承单元被安装在基座单元2上并且可相对于基座单元2绕方位轴线A旋转;发射单元4,该发射单元被配置为提供发送光束T;接收单元5,该接收单元被配置为检测接收光束R;引导单元6,该引导单元被安装在支承单元3中、可相对于支承单元3绕仰角(elevation)轴线E旋转,并且该引导单元被配置为:将发送光束T从发射单元4引导向场景;将接收光束R从场景引导到接收单元5。在全站仪的这个示例中的引导是通过望远镜中的投影光学器件来完成的。在其它示例(例如,激光扫描器)中,引导单元可以是高速旋转的反射镜,其中,将发射单元和接收单元设置在支承单元中,并且反射镜将发送光束和接收光束偏转至场景/从场景偏转发送光束和接收光束。发射单元和接收单元要被理解为电子测距仪(electronic distance meter(EDM))的部分,或者也被称为使用飞行时间、多频相移或干涉测量技术的测距仪(range finder)。即,例如,发射单元是光源,特别是激光二极管,并且接收单元包括被配置成检测发射单元正在发送的光的反射的传感器。
将第一致动器7设为使支承单元3相对于基座单元2绕方位轴线A旋转;以及将第二致动器8设为使引导单元6相对于支承单元3绕仰角轴线E旋转。将第一角度编码器9设为测量支承单元3相对于基座单元2绕方位轴线A的旋转位置,以及将第二角度编码器10设为测量引导单元6相对于支承单元3绕仰角轴线E的旋转位置。
在此被布置在引导单元6中的摄像头11包括图像传感器12(参见图3),其中,将摄像头11配置为捕获至少部分场景的图像。在此将摄像头11定位在引导单元6中,但是在其它的实施方式中,也可以将摄像头11定位在支承单元或基座单元中。该摄像头还可以突出于这些组件(外部附接至这些组件),以便不形成组件的集成部分。下面进一步利用图4至图8呈现了多个实施方式。
计算机可以是测量系统的单个组件,或者它本身可以包括多个物理上分布的单元。在所示示例中,计算机包括即时可编程门阵列(FPGA)13和中央处理单元(CPU)14。在其它的实施方式中,计算机包括网络连接器和远程服务器,该远程服务器被配置为执行根据本发明的数据处理中的至少一些数据处理。将计算机连接至第一角度编码器9、第二角度编码器10、摄像头11、第一致动器7、以及第二致动器8。
如图3所示,传感器可以是“规则的”矩形图像传感器。在该实施方式中,传感器对可见光谱(VIS)敏感。传感器例如可能具有3:2或4:3的传感器纵横比。然而,可以将实际上被用于拍摄全景图像的像素限制成条形(stripes)15,该条形具有与方位轴线A平行对齐的长延伸范围以及与仰角轴线E平行对齐的短延伸范围。特别地将摄像头11内置到引导单元6中,使得传感器按照从平行于光束T的方向考虑的纵向(portrait)模式来布置。在其它的实施方式中,传感器可以仅由所使用的像素阵列15来形成。然而,手边具有全尺寸传感器12的一个优点当然是,在未处于“全景模式”时可以拍摄具有“规则的”纵横比的全FOV单个镜头(shot)。在内置这种更大传感器的情况下,仅将该传感器的一部分用于全景图像获取,传感器的该被使用部分可以是传感器内的任何地方(左部、中部、右部;被......围绕的部分,或者延伸直到边缘的部分)。使用这种“规则的”高分辨率传感器的另一优点是,现在可以省略正常情况下已经提供的额外的全景摄像头(图5、图6以及图8示出了具有两个截然不同的摄像头的示例),这是因为即使高分辨率传感器的区段(section)(特别是该高分辨率传感器的中心部分)也可以被用于捕获全景图像,同时仍然具有足够高的分辨率。另一优点是,利用这种传感器,可以通过利用像素合并(pixel binning)在图像中实现增强的动态范围,如果分辨率例如为20兆像素,那么这是可行的。
具有所描绘的图像传感器12的摄像头11可以有利地具有大致40°×27°的视场(FOV)19(参见图10)。例如,传感器12具有5544像素×3694像素的分辨率以及13.3mm×8.9mm的尺寸。传感器12的覆盖场景16的区段15可以具有介于1度到10度之间的水平视场。当然,这只是一个实施方式,并且在不限制本发明的益处的情况下,其它的尺寸、分辨率以及FOV都是可以的。
图像传感器可以是可见光谱(VIS)传感器、飞行时间(TOF)传感器、或者红外(IR)传感器。然而,摄像头可以具有多于仅一个图像传感器的图像传感器,其中,这些多于一个的图像传感器可以再次以期望的组合从VIS、TOF、IR传感器中进行选择。如果摄像头具有多于一个的图像传感器,则可以将这些传感器在摄像头内以一定偏移进行定位,同时具有它们自己的光学器件和光路。然而,这些传感器也可以共用光学器件和光路的至少一部分,同时经由分束器或类似的光学元件而被提供有来自共用光路的光。在测量系统中还可以提供多于一个的摄像头,其中,该多于一个的摄像头可以具有选自VIS、TOF、IR传感器的图像传感器,并且该图像传感器被优选为不同于第一个摄像头的图像传感器类型。
图4至图8示出了摄像头11布局的一些实施方式。图4示出了被布置在全站仪的望远镜光学器件上方的摄像头。图5示出了望远镜光学器件上方的摄像头,但是也示出了该摄像头上方的被用于其它目的(例如,总览场景)的另一摄像头。
图6示出了类似的布置结构,但是位于望远镜光学器件下方。参见图7,可以将摄像头布置在引导单元的底侧,这是有利的,因为所获取的图像的中心与利用EDM测得的点同轴。图8示出了全站仪的实施方式,该全站仪在引导单元中具有倾斜突起,该倾斜突起承载摄像头并且将该摄像头倾斜对齐到测量光束轴线(不平行于光束T)。如图8左侧的草图所示,为了获得全景图像,引导单元将绕轴线E转动,使得摄像头正面面向周围场景。此外,可以看出,摄像头投影中心与在全景模式期间摄像头旋转所围绕的方位轴线A对齐,从而导致拼接视差的减小。
当然,另一些实施方式可以在支承单元3中提供一个摄像头或多于一个摄像头的布置结构,而不是或附加于引导单元6中的摄像头布置结构。
为了利用摄像头11捕获全景图像,将计算机配置为:控制传感器12以一定帧速率对帧进行采样,特别是以介于1:5到1:20之间(优选为约1:10)的图像纵横比来对帧进行采样。再次地,这可以仅仅是来自更大传感器的区段15,或者传感器可以以该形状因子来设计尺寸。
继续所示示例,当传感器12的区段15在以帧速率进行采样时,计算机控制第一致动器7(特别是利用来自第一角度编码器9的反馈)按照至少三个连续帧共用重叠的方式使支承单元3以与帧速率相适应的速度旋转。与现有技术中已知的全景模式(停止并拍摄)相比,连续旋转更平滑并且防止因加速和减速而造成的组件的早期磨损。而且,数据获取更快,这是因为组件不必进行加速和减速。图9示出了10个重叠的帧18,这10个帧中的最新帧16以粗线例示,而虚线指示前面的帧的范围。这10个帧中的各个帧皆与9个其它条形重叠了相似(特别是相同的)的步长或间隔。粗线矩形内部左侧的第一间隔17示出了这个十图像序列(当然这只是更长序列中的一小部分)中的所有图像重叠的区域。图10以立体图和不太抽象的方式示出了所有这些事物。
将计算机配置为:对所采样的帧中的至少一些帧进行处理,以形成第一全景图像。可以将该处理描述为:随着支承单元3绕方位轴线的旋转而进行的全景图像“累积”。特别地,一旦所述间隔中的各个间隔皆被采样十次(在其它实施方式中,该量可以根据连续帧的重叠而有所不同),就可以将条形进行平均和混合。这其中将导致先进的曝光/亮度、清晰度以及分辨率。
换言之,在一些实施方式中,通过考虑编码器读数和摄像头的内部校准和外部校准,将条形映射到全景图像上。利用各个条形的像素值来累积对应的全景像素。根据运动速度、透镜畸变等,每全景像素的采样数量可以稍微不同,因而可以通过与各个像素中累积的采样数量进行相除来进一步归一化全景图(=全景图像)。为了进一步减小各个条形边缘处的“接缝”的可见性,可以将像素进一步“混合”或“加权”,以使权重朝向条形的边缘逐渐减小。
由于窄条形宽度(其又给出小的拼接视差),因此,对(在该示例中)十个重叠条形进行平均不会造成大的模糊,并且通过平均处理减少了噪声,以使最终所得的全景图具有优异的清晰度和动态范围。而且,由于在一些实施方式中只有传感器的部分被用于高精度应用(即,窄条形15,并且在一些情况下还有传感器的一部分被用于全景图像)的事实,因此,摄像头中所使用的光学器件可以具有关于清晰度的降低的要求。具体地,可以仅在投影所需的地方以高准确度来生产透镜。例如在传感器的条纹(fringe)区域中的图像质量不具有最高优先级,以使在光学器件生产中可以节省大量成本。换言之,透镜可以提供有总体令人满意的质量,但是仅在中心修剪(crop)区域中具有特别精确的质量,例如以便由于较高的图像质量而允许在该区域中进行数字变焦。而且,考虑到不是整个FOV必须实现全清晰度,可以将制造公差放宽,这是因为FOV的外部部分可以进行像素合并。
在一些实施方式中,可以通过利用支承单元3的极其精确的旋转来进一步增强全景图像的生成。可以对转速和帧速率进行选择,以便对具有子像素重叠的帧进行采样。这样,可以实现超过传感器分辨率的超分辨率。
图11示出了全景图像生成期间的数据流的示例性图表。图像传感器可以例如以1.8Gbit/s的速度将原始图像数据发送至FPGA。可以将FPGA紧邻传感器定位,即,定位在引导单元6中。在一些实施方式中,FPGA可以预处理原始数据,例如,去马赛克、滤光、调整大小等。在利用传感器捕获高动态范围(HDR)突发的情况下,计算机可以部署(并因此包括)RAM缓冲器。为了处理或后处理,可以将可能被预处理的图像数据例如以介于约200Mbit/s到500Mbit/s之间的速度发送至中央处理单元(CPU)14和/或远程服务器(“云”),该中央处理单元14可以被布置在支承单元3中。将CPU被配置为对帧或条形进行拼接,并且在一些实施方式中,将CPU配置为承担例如色彩校正、噪声减少、色调映射等的可选工作。
如前提及,如本文所定义的计算机可以是单个装置或者具有不同的组件。这些组件可以不必被布置在测量仪器内部。因此,来自所例示示例的全站仪实际上是该相应特定实施方式中的测量仪器。然而,由于在其它实施方式中可以通过计算机的外部部件(例如,被设置在智能手机、平板电脑、控制器、或远程服务器等中)来实现一些功能,所以选择通用术语“测量系统”来描述本发明。因此,所示的示例性全站仪也是测量系统,而不管计算机组件位于何处。当然,更具体地,它们是测量仪器或测量装置。
在一些实施方式中,当捕获全景图像时,可以由计算机以等距角度(关于绕轴线A的旋转),使用编码器作为“主动者(master)”并且使用摄像头作为“从动者(slave)”来触发传感器。然而,以相等距离捕获场景的帧不是必需的,并且只要各个帧的角度是已知的,全景图就可以进行正确拼接。
在某些实施方式中,所采样的帧中的至少一些帧的处理不仅基于第一编码器的读数(绕方位轴线的旋转),而且还基于第二编码器的读数(绕仰角轴线的旋转)。例如,如果测量系统没有被设立成完全笔直的,则可以控制支承单元和引导单元的运动,以便仍然生成完美的水平全景图像。
有若干方式用于全景图像的专用使用。一个目的是利用测量系统从全景图像被捕获的同一位置对此前或此后测得的点云进行着色。
另一用例是使用全景图像作为定向帮助。如果测量系统具有例如被内置于全站仪中或者处于被连接至测量仪器的智能手机上的显示单元,则可以将全景图像显示在图形用户界面(GUI)上或者显示为GUI。以这种方式,当前周围环境立即近在手边。具体地,可以利用指示器来增强全景图像,该指示器表示摄像头的当前视场或者摄像头的当前指向。例如在所显示的全景图像内,在摄像头和/或测距仪当前瞄准的地方覆盖框架或十字准线。同样,代替框架或一些其它图形,指示器也可以是使用区段的摄像头(特别是全尺寸图像传感器)的即时(live)图像。在该测量系统的还包括同轴摄像头或另一离轴摄像头的其它实施方式中,全景图像还可以利用这种附加摄像头的FOV和/或指向来进行增强。术语同轴和离轴指的是光束轴线T。如果利用即时图像来增强全景图像,则可以按照以下方式设计GUI,即,使得即时图像在中心固定,而全景图像从该即时图像起向左和向右延伸,并且当支承单元转动时,全景图像可以相应地旋转以匹配改变的即时图像。
捕获全景图像的另一目的是进行文档记载。存储测量场景的照片通常是绝对必要的,以便能够在稍后的时间点再现该情形。例如,在测量数据包括不规则性的情况下,当全景图像甚或球幕(full-dome)图像在手边时会非常有助于理解该不规则性所发生的原因。
还可以将全景图像用于利用计算机运行目标识别算法。尤其是在强反射将被认为是来自目标的情况下(下面将进一步讨论具有闪光单元的测量系统),全景图像的分析可以指示是真正来自反射目标,还是例如来自不是目标的反射物(例如,反射衣、反射镜等)。
所采样的帧中的至少一些帧的处理可以基于使用重叠的连续帧的平均算法。片段(piece)的拼接特别地借助于来自方位角度编码器的角度信息来工作,但是另外或者另选地,也可以依赖于特征检测以及基于所检测到的特征(形状、结构、对象、颜色、亮度等)的条形的相应匹配。
为了提高全景图像的动态范围,可以采用如ABAB…、ABCABC…、ABCDABCD…、ABACABAC…、ABCBABCB…、ABCBDBABCBDB等的模式,以交替的曝光时间来对帧进行采样。可以对该方案进行改变,以便在将这些帧的重叠部分进行平均之后,得到最佳的结果。
在一些实施方式中,计算机可以提供移动对象检测功能。为此,对重叠的连续帧的重叠部分进行比较,以查看当支承单元3正在绕方位轴线A转动时这些重叠部分中是否有任何改变。如果检测到异常(例如,人或汽车“进入”该特定场景区段的FOV),则将包含所述异常特征的条形从对所采样的帧中的至少一些帧进行的处理中丢弃以形成全景图像。即使移动的障碍物或对象存在于若干条形中,被应用于所述帧并且由计算机运行的特征检测算法也可以标识哪些帧受到影响以将它们挑选出。可以将异常重叠部分定义为重叠的连续帧的包含以下图像信息的重叠部分:该图像信息不同于重叠的连续帧的大部分重叠部分的图像信息。另外或者另选地,可以将异常重叠部分定义为重叠的连续帧的包含以下图像信息的重叠部分:该图像信息与重叠的连续帧的所有重叠部分的平均图像信息中的图像信息相差达预定义阈值量或百分比。
特别地,以全分辨率对所述帧进行采样,即,将文件存储为原始图像文件。根据图11,图像传感器可以将这些大文件发送至FPGA。然后,在将所述帧进行拼接以获得全景图像之前,原始图像可以经历数字去马赛克。另选地或者另外,所述帧(无论它们是否为原始图像)可以经历像素合并,或者传感器本身可以在读出期间立刻执行像素合并。利用像素合并,将图像传感器上的相邻像素或来自相邻像素的电荷(charge)进行组合。这导致分辨率的降低,但是它也降低了噪声,并且减少了处理工作。
摄像头特别包括光传感器,该光传感器被配置为检测光状况,以便确定光传感器的所需曝光时间。传感器的曝光时间以及支承单元3的转速可以根据支承单元3的对应旋转位置处的光传感器读数来适应。即,改变的光状况(当支承单元3正在转动时)可以面临帧的改变的曝光时间。在低光状况下,这可能意味着还需要减慢支承单元3的转速以便避免模糊。
利用可选的附加闪烁传感器或者例如利用上面提及的光传感器,可以检测因灯照明场景而造成的电力线闪烁。图12给出了由于欧洲(50Hz AC)和美国(60Hz AC)电源系统以及诸如LED灯或计算机屏幕(50Hz和60Hz)之类的普通发光装置的性质而造成的普通临界频率的总览。然后,将计算机配置为:基于所检测到的电力线闪烁来调整(adapt)传感器的帧速率以及重叠的连续帧的量中的至少一者。例如,在42.5Hz、55Hz以及80Hz帧速率处所标记的局部最小值是用于减少闪烁周期的良好候选。即使55Hz候选具有相对高的闪烁周期,若重叠条形的量也被确定为11,这也提供对全景图像中的闪烁效应的最佳避免。光传感器和/或闪烁传感器可以是定向(directed)的或单向的。
另一些实施方式包括测量系统,该测量系统记录第二全景图像,该第二全景图像覆盖场景中与第一全景图像相同的部分。伴随同等生成全景图像的第二次运行允许检测到可能随着第一全景图像捕获的移动障碍物。将计算机配置为:分析全景图像中或者单个帧中的对象轮廓,并且对于在第一全景图像和第二全景图像中的至少一个全景图像中检测到移动障碍物的情况来说,将计算机配置为生成至少部分地没有所检测到的移动障碍物的第三全景图像。这可以通过从处理中丢弃相应全景图像的一部分或者相应受影响的帧来实现。然而,第三全景图像的生成也可以基于对所检测到的障碍物的修描(retouching)。通过比较第一全景图像和第二全景图像来进行的移动障碍物的检测也可以被计算机用来输出警告,使得测量系统的用户变得意识到障碍物的存在,特别是也意识到障碍物的位置。然后,用户可以尝试清除(clear)该场景并生成另一全景图像。
可以捕获另外的全景图像,该另外的全景图像覆盖着先前全景图像所覆盖着的内容的至少一部分,以使它们可以进行拼接,其中,该另外的全景图像是在引导单元6绕仰角轴线E的以下旋转位置捕获的,即,该旋转位置不同于引导单元在捕获第一全景图像时的旋转位置。以这种方式继续进行,可以生成与捕获球幕图像所需的一样多的全景图像,该球幕图像捕获整个场景,或者整个场景的至少大部分。
在生成全景图像之前,可以将测量系统编程成首先获得预备全景图像。可以利用绕方位轴线A的相对快速旋转来捕获预备全景图像。可以允许这种“预扫描”因快速扫描而模糊,以减少预扫描时间。可以将预备全景图像用作摄像头在此后要捕获的全景图像中应在何处(即,支承单元3绕方位轴线A的哪个旋转位置处)使用何种曝光时间的指示器。例如,可以按照预备全景图像的每个帧都是以相同曝光时间来拍摄的方式来捕获该预备全景图像。此后可以关于亮度和/或关于模糊度来分析预备全景图像。由于在各个像素与利用角度编码器测得的绕方位轴线的旋转位置(并且特别地还与绕仰角轴线的旋转位置)之间存在精确的相关性,因此,在预备全景图像被曝光不足的地方,摄像头可以稍后使用更长的曝光时间,而在预备全景图像被曝光过度的地方,摄像头可以稍后使用更短的曝光时间。
回到图3的例示图,另一实施方式包括不仅利用一个像素条形15对帧进行采样,而且还至少利用另外的条形对帧进行采样,所述另外的条形在条形15对场景的部分进行采样之前对该部分进行采样。可以将该前面的采样用于预测支承单元3的相应旋转位置处的必要曝光时间。
代替如图3所示在传感器的中心具有采样像素条形15,测量系统还可以在传感器的相应边缘使用两个这样的像素条形以提供立体基线。使用这两个图像条形,可以进行3D立体重建。捕获全景立体图像的另一方式是例如在引导单元6中或者在支承单元3中使用被布置为由立体基线隔开(distanced)的两个摄像头。捕获全景立体图像的另一方式是以两个不同的面来捕获两个全景图像。在这种情况下,将所使用的摄像头布置在引导单元6中。面的变化意味着,与第一面相比,在第二面下使引导单元瞄准场景的同一部分,但是支承单元3的方位角或方位角位置被偏移180°,其中,引导单元6上下翻转。换句话说,使支承单元3转动180°并且使引导单元6“向后”转动该引导单元与竖直方向所跨越的角度的两倍。然而,为了实现立体基线,需要摄像头相对于望远镜(光束轴线)是离轴的,即,摄像头的投影中心不应被定位在EDM光束的这个指向轴线上,该指向轴线垂直于仰角轴线E并且穿过方位轴线A和仰角轴线E的交叉点。以上,图5和图6中的装置被引入作为两个不同的实施方式(关于摄像头的位置)。然而,在图5和图6中的装置是相同的假设下,这些图将示出全站仪的两个面。
在图13所示的另一实施方式中,测量系统包括红外(IR)闪光单元20,该IR闪光单元被配置为:朝向场景发射IR闪光21,并且该IR闪光单元被连接至计算机,摄像头还包括被配置为检测IR闪光21的反射23的IR传感器22,摄像头11还包括彩色分束器24,该分束器被配置成向图像传感器12提供可见光谱(VIS)光25并且向IR传感器22仅提供IR光23,IR传感器22被配置为捕获由图像传感器12捕获的内容的至少一部分的IR图像。闪光单元20的光源26可以具体地发射具有850nm波长的光,并且IR闪光21可以利用100MHz的频率进行调制。IR闪光单元20不必被布置在摄像头11中,但是在其它实施方式中也可以被布置在测量系统的其它部件中/上。当然,可以交换IR传感器和图像传感器的位置,其中,相应地调整分束器(其反射IR光谱并使VIS光谱通过)的配置。
在本公开中提及的任何闪光单元可以特别地被配置成:以竖直对齐的扇形的形式发出闪光,即,该闪光在水平方向上较窄以增加功率密度并由此增加信号与背景比,并且在竖直方向上较宽以覆盖大的竖直视场。
在另一实施方式中,摄像头可以包括:飞行时间(TOF)传感器;被配置为发射IR闪光的闪光单元;以及分束器,该分束器被配置成向图像传感器提供VIS光并且向TOF传感器提供IR光,其中,该TOF传感器被配置为:特别是至少部分地基于IR闪光的反射,来捕获利用图像传感器捕获的场景的至少一部分的TOF图像。该实施方式没有在图中示出,但是在一个实施方式中可以被想象为与图13所示相同的示意性构造,只是IR传感器要与TOF传感器进行互换。这样,摄像头可以在图像传感器12捕获(VIS)全景图像的同时捕获TOF图像或TOF全景图像。
在测量系统的实施方式中,摄像头仅包括TOF传感器,该TOF传感器能够检测VIS光并由此被配置成根据本发明生成全景图像。该全景图像包含视觉数据和距离数据两者。
在又一实施方式中,可以将测量系统配置为标识位于场景中的目标以及发射经调制的光图案。计算机可以通过基于利用图像传感器12捕获的重叠的帧以及基于这些重叠的帧的相对捕获时间来对经调制的光图案进行检测以实现这一点。例如,当有十个帧重叠时,对该场景的同一条形状窗口的描绘有十个。当这十个不同的经时间位移的描绘捕获主动闪烁目标时,经调制的光图案可以由图像传感器进行采样并且由计算机进行解码。
根据图14,另一实施方式涉及通过将所采样的帧29中的一些帧27专用于第一全景图像并且将所采样的帧29中的一些帧28专用于另一全景图像来同时形成两个全景图像,为了清楚起见,此处的该另一全景图像称为“第四全景图像”。在该方面的简单实施方式中,将每个第二帧用于第一全景图像,并且将每个相应的另一帧用于第四全景图像,即,根据图14所示的方案ABABAB…。这两个全景图像中的一个全景图像(在这种情况下是第四全景图像)是基于帧28生成的,该帧捕获由闪光照明的场景,而相应另一全景图像(第一全景图像)是基于帧27生成的,该帧捕获未由闪光照明的场景。因此,根据该实施方式的测量系统还包括闪光单元,该闪光单元被配置为朝向场景发射闪光;该计算机被连接至闪光单元;并且该摄像头被配置为检测闪光的反射。在该示例中,图像传感器是VIS传感器,并且闪光单元提供VIS闪光。
例如,可以有其它方案,诸如“AABABAABABAABAB…”、“AABAABAAB…”、或者“AABBAABBAABB…”,其中,A或者B对应于经闪光的图像,而A和B中的相应另一个对应于未经闪光的图像。因此,该实施方式对应于存在所采样帧的序列的概念,其中,仅是所选择的采样帧会由闪光单元发射的闪光进行照明。AB方案也可以是不规则的,即,随机化的。该经闪光的帧和未经闪光的帧的序列可由计算机加以区分,或者换句话说,将计算机配置成协调闪光速率和帧的采样。记录对帧进行采样的时刻(例如,利用时间戳)以及闪光的时刻。在该实施方式中由闪光单元发射的闪光可以是VIS光或者IR光(在IR光的情况下,将摄像头配置成检测IR光)。
经闪光的帧和未经闪光的帧可以利用同一传感器或者利用两个单独的传感器来进行采样。具有两个单独传感器的布置结构可以类似于图13所示的构造。
概括地说,因此可以这样定义前述实施方式:对于n=3(n指的是重叠的帧的量),将计算机配置为:对所采样的帧中的每个第二帧27进行处理,以形成第一全景图像,并且对所采样的帧中的每个相应的另一第二帧28进行处理,以形成第四全景图像。然而,对于n>3,其可以根据单独的或同一实施方式,将计算机配置为:对所采样的帧中的至少每个第m帧进行处理,以形成第一全景图像,其中,m=(n–1),并且对所采样的帧中的至少每个第r帧进行处理,以形成第四全景图像,其中,r=(n–1),并且其中,所采样的帧中的至少每个第r帧不同于所采样的帧中的至少每个第m帧。由于也可以有不规则方案,m值和r值可以被理解为平均值,因而它们可以但不一定需要是整数。由此,将计算机配置为控制闪光以利用经调整的闪光速率发射闪光,以使所采样的帧中的被处理以形成第四全景图像的每一个帧捕获闪光的反射,
例如由帧28构成的第四全景图像正在描绘所捕获的由闪光单元照明的场景。因此,反射目标在第四全景图像中作为亮斑出现。在计算机正在根据第一全景图像(由帧27构成)和第四全景图像生成差异图像(由图14中的步骤“减(MINUS)”指示)以生成目标位置全景图像30之后,所述目标位置全景图像将仅包括这些亮斑31,所述亮斑31是场景中的目标位置的指示器。由于由测量系统创建的任何全景图像的每一个像素都与支承单元和引导单元的旋转位置相关,因此,这些位置31稍后可以利用发送光束瞄准。例如,如果借助于TOF传感器将利用图14呈现的实施方式与利用图13呈现的实施方式相组合,则也可以确定距目标的距离。
由于场景中的一些特殊表面(例如,反射衣、反射镜、或者类似的光泽表面),因此,可能存在错误地暗示存在目标的亮斑31。然后,在手边有目标位置全景图像的情况下,目标识别算法可以通过分析第一全景图像(或者从同一场景拍摄的任何其它全景图像)来确定在与由目标位置全景图像中的亮斑31标记的坐标相对应的位置处是否真正存在目标。特别地,还可以将目标识别算法配置成标识目标的类型(倘若它是目标的话)。还可以将这种目标识别算法用于主动搜索全景图像内的特定目标(类型),然后输出位置,特别是以测量系统坐标表达的位置,即,仰角角度、方位角角度(以及倘若利用TOF传感器捕获的话:还有距离)。
如果已经以不同的曝光时间获取了第一全景图像和第四全景图像,则差异(特别是:亮度)可能需要通过缩放这些全景图中的至少一个全景图的值来进行补偿,以使它们相匹配。
在闪光是IR闪光的情况下并且在仅将一个图像传感器用于图14所示的原理的情况下,图像传感器可以包括:(a)可在VIS与IR之间切换的滤光器,(b)划分滤光器(dividedfilter),或者(c)对VIS敏感的多个像素以及对IR光谱敏感的多个像素。关于(a),这样的滤光器可以在相应的模式下阻挡VIS和IR中的一者或另一者。可切换滤光器例如是IR阻挡器和VIS阻挡器的平保持器(flat holder),其可以被移动(特别是转动),以便将一个阻挡器或另一阻挡器定位到光路中。关于(b),将这样的划分滤光器靠近图像传感器布置,并且将传感器进划分为VIS区和IR区。在这种情况下,VIS区中的条形和IR区中的另一条形将对相应的帧进行采样。仅阻挡图像传感器的来自VIS光的一部分VIS光并允许IR光通过的滤光器也被理解为“划分滤光器”。关于(c),这些不同的专用像素例如可以像棋盘一样进行混合,或者通过交替专用于相应波长的像素列或像素行来进行混合。
作为对图13的布置结构的说明,可以将额外的传感器(IR传感器)用于达到如与利用图14呈现的实施方式所示出的类似过程(除了差异图像):可以将IR传感器22配置成,以类似于或等同于根据本发明的图像传感器12采样的方式来对IR帧进行采样,以生成IR全景图像。来自这两个传感器的帧可以被同时或者以时间位移地进行采样,采样速率也不必相同。IR全景图像然后将提供第一全景图像可以被增强的目标位置。
代替在根据图13的布置结构中具有VIS传感器/IR传感器布置结构,该测量系统的另一实施方式可以具有这样的IR传感器,即,该IR传感器的光学轴线与(例如,处于一个摄像头主体内或者由第二摄像头来提供的)VIS传感器的光学轴线分开。IR传感器然后将具有其自己的透镜,即,聚焦光学器件。
以上呈现的许多实施方式中的各个实施方式皆可以以任何组合彼此进行组合。尽管上面例示了本发明,但是部分参照一些优选实施方式,必须理解,可以作出这些实施方式的许多修改例和不同特征的组合。这些修改例全部落入所附权利要求的范围内。
Claims (15)
1.一种获取三维测量点的测量系统,所述测量系统包括:
基座单元,
支承单元,所述支承单元被安装在所述基座单元上,并且所述支承单元能够相对于所述基座单元绕方位轴线旋转,
发射单元,所述发射单元被配置为提供发送光束,
接收单元,所述接收单元被配置为检测接收光束,
引导单元,所述引导单元被安装在所述支承单元中、能够相对于所述支承单元绕仰角轴线旋转,并且所述引导单元被配置为:
将所述发送光束从所述发射单元引导向场景,
将所述接收光束从所述场景引导到所述接收单元,
第一致动器,所述第一致动器被配置为使所述支承单元相对于所述基座单元绕所述方位轴线旋转,
第二致动器,所述第二致动器被配置为使所述引导单元相对于所述支承单元绕所述仰角轴线旋转,
第一角度编码器,所述第一角度编码器被配置为测量所述支承单元的旋转位置,第二角度编码器,所述第二角度编码器被配置为测量所述引导单元的旋转位置,摄像头,所述摄像头包括图像传感器,其中,所述摄像头被配置为捕获所述场景中的至少部分场景的图像,
计算机,所述计算机被连接至所述第一致动器、所述第二致动器、所述第一角度编码器、所述第二角度编码器和所述摄像头,其中,所述计算机被配置为:
经由所述第一致动器控制所述支承单元的转速,以及
经由所述第二致动器控制所述引导单元的转速,
其特征在于,
为了利用所述摄像头生成第一全景图像,所述计算机被配置为:
控制所述图像传感器以帧速率来对帧进行采样,
控制所述第一致动器以使所述支承单元以一转速旋转,该转速按照使n个连续帧重叠的方式与所述图像传感器的所述帧速率相适应,其中,n≥3,以及
对所述采样的帧中的至少一些帧进行处理,以形成所述第一全景图像。
2.根据权利要求1所述的测量系统,其中,控制所述图像传感器来对帧进行采样包括:控制所述图像传感器以介于1:5至1:40之间的图像纵横比来对帧进行采样。
3.根据前述权利要求中任一项所述的测量系统,所述测量系统包括显示单元,所述显示单元被配置为:
在图形用户界面GUI上显示所述第一全景图像,以及
利用指示器来增强所述GUI上的所述第一全景图像,所述指示器特别地表示所述摄像头的当前视场或者所述摄像头的当前指向。
4.根据前述权利要求中任一项所述的测量系统,其中,为了利用所述摄像头生成所述第一全景图像,所述计算机还被配置为:控制所述图像传感器以交替曝光时间来对所述帧进行采样。
5.根据前述权利要求中任一项所述的测量系统,其中,对所述采样的帧进行处理包括:拼接和平均所述重叠的连续帧。
6.根据前述权利要求中任一项所述的测量系统,其中,所述计算机被配置为:
将所述重叠的连续帧中的重叠部分彼此进行比较,以及
当对所述采样的帧进行处理时丢弃异常的重叠部分,以形成所述第一全景图像。
7.根据前述权利要求中任一项所述的测量系统,所述测量系统包括闪烁传感器,所述闪烁传感器被配置为:检测由灯照明所述场景而造成的电力线闪烁,其中,所述计算机被配置为:基于所检测到的电力线闪烁来调整以下项中的至少一项:
所述帧速率;以及
重叠的连续帧的量n。
8.根据前述权利要求中任一项所述的测量系统,其中,所述计算机被配置为:
生成第二全景图像,所述第二全景图像覆盖所述场景中的与所述第一全景图像相同的部分,
基于对象轮廓的分析来检测所述第一全景图像和所述第二全景图像中的移动障碍物,并且
在所述第一全景图像和所述第二全景图像中的至少一个全景图像中检测到移动障碍物的情况下,通过对所述第一全景图像和所述第二全景图像进行处理来生成无障碍物的全景图像,使得所述无障碍物的全景图像至少部分地没有所述检测到的移动障碍物。
9.根据前述权利要求中任一项所述的测量系统,所述测量系统还包括:
可见光谱VIS闪光单元,所述VIS闪光单元被配置为朝向所述场景发射VIS闪光,并且所述VIS闪光单元被连接至所述计算机,或者
红外IR闪光单元,所述IR闪光单元被配置为朝向所述场景发射IR闪光,并且所述IR闪光单元被连接至所述计算机。
10.根据前述权利要求中任一项所述的测量系统,其中,所述摄像头还包括飞行时间TOF传感器,或者所述图像传感器被实施为飞行时间TOF传感器,所述TOF传感器被配置为捕获TOF图像,所述TOF图像包括距离数据和图像数据,其中,所述图像数据是由可见光谱VIS光或IR光的检测而生成的。
11.根据前述权利要求中任一项所述的测量系统,其中,所述计算机被配置为:基于因该摄像头在所述支承单元的对应旋转位置处检测到的相应光状况而造成的所述摄像头检测所需的曝光时间来调整
所述传感器的曝光时间;以及
所述支承单元的转速。
12.根据前述权利要求中任一项所述的测量系统,其中,为了标识位于所述场景中的目标以及发射经调制的光图案,所述计算机被配置为:基于所述重叠的帧以及这些重叠的帧的相对捕获时间来检测所述经调制的光图案。
13.根据前述权利要求中任一项所述的测量系统,其中,对所述采样的帧中的至少一些帧进行处理以形成所述第一全景图像被实施为:
对于n=3,对所述采样的帧中的每个第二帧进行处理,以形成所述第一全景图像,或者
对于n>3,对所述采样的帧中的至少每个第m帧进行处理,以形成所述第一全景图像,其中,m=(n–1)。
14.根据权利要求13所述的测量系统,所述测量系统还包括闪光单元,所述闪光单元被配置为朝向所述场景发射闪光,所述计算机被连接至所述闪光单元,所述摄像头被配置为检测所述闪光的反射,其中,为了利用所述摄像头生成目标位置全景图像,所述计算机被配置为:
对于n=3,对所述采样的帧中的每个相应的另一第二帧进行处理,以形成第四全景图像,或者对于n>3,对所述采样的帧中的至少每个第r帧进行处理,以形成第四全景图像,其中,r=(n–1),并且其中,所述采样的帧中的所述至少每个第r帧不同于所述采样的帧中的所述至少每个第m帧,
控制所述闪光以经调整的闪光速率发射所述闪光,以使所述采样的帧中的被处理以形成所述第四全景图像的每个帧捕获所述闪光的反射,
根据所述第一全景图像和所述第四全景图像生成差异图像,其中,所述目标位置全景图像基于所述差异图像。
15.根据权利要求14所述的测量系统,其中,所述闪光是IR闪光,其中,所述图像传感器包括:
滤光器,所述滤光器能够在VIS与IR之间切换,
划分滤光器,或者
对所述VIS敏感的多个像素以及对IR光谱敏感的多个像素。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP21166123.6 | 2021-03-30 | ||
EP21166123.6A EP4067818B1 (en) | 2021-03-30 | 2021-03-30 | Measuring system with panoramic image acquisition functionality |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115150545A true CN115150545A (zh) | 2022-10-04 |
CN115150545B CN115150545B (zh) | 2023-10-24 |
Family
ID=75339433
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210275425.8A Active CN115150545B (zh) | 2021-03-30 | 2022-03-21 | 获取三维测量点的测量系统 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220321779A1 (zh) |
EP (1) | EP4067818B1 (zh) |
CN (1) | CN115150545B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101074965A (zh) * | 2007-06-26 | 2007-11-21 | 南京航空航天大学 | 基于图像识别定位的转速测量方法及其装置 |
CN101630066A (zh) * | 2009-08-17 | 2010-01-20 | 浙江大学 | 一种基于高速投影机的全景视场三维显示装置 |
CN101750868A (zh) * | 2010-01-08 | 2010-06-23 | 浙江大学 | 同时具有水平与俯仰多视场的全景空间三维显示装置 |
US20110249091A1 (en) * | 2009-09-30 | 2011-10-13 | Panasonic Corporation | Video signal processing apparatus and video signal processing method |
CN102413348A (zh) * | 2011-11-24 | 2012-04-11 | 深圳市华星光电技术有限公司 | 立体图像显示装置和相应的立体图像显示方法 |
CN105357433A (zh) * | 2015-10-13 | 2016-02-24 | 哈尔滨工程大学 | 一种高速旋转焦距自适应全景成像方法 |
CN105719235A (zh) * | 2015-12-18 | 2016-06-29 | 中国兵器工业集团第二○二研究所 | 基于圆周扫描视频图像拼接与分屏显示方法 |
JP2020012750A (ja) * | 2018-07-19 | 2020-01-23 | 株式会社トプコン | 測量装置、測量方法および測量用プログラム |
EP3772723A1 (de) * | 2019-08-08 | 2021-02-10 | Prüftechnik Dieter Busch GmbH | Verfahren und system zur drehzahlbestimmung mittels videokamera |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5650813A (en) * | 1992-11-20 | 1997-07-22 | Picker International, Inc. | Panoramic time delay and integration video camera system |
JP4494196B2 (ja) * | 2004-12-27 | 2010-06-30 | 京セラ株式会社 | 画像表示装置 |
US7860343B2 (en) * | 2006-04-10 | 2010-12-28 | Nokia Corporation | Constructing image panorama using frame selection |
US20100289922A1 (en) * | 2006-05-29 | 2010-11-18 | Bit-Side Gmbh | Method and system for processing data sets of image sensors, a corresponding computer program, and a corresponding computer-readable storage medium |
US8717412B2 (en) * | 2007-07-18 | 2014-05-06 | Samsung Electronics Co., Ltd. | Panoramic image production |
JP5504915B2 (ja) * | 2010-01-26 | 2014-05-28 | ソニー株式会社 | 撮像制御装置、撮像制御方法、プログラム |
JP5655667B2 (ja) * | 2011-03-31 | 2015-01-21 | カシオ計算機株式会社 | 撮像装置及び撮像制御方法、画像処理装置及び画像処理方法、並びにプログラム |
US10477104B1 (en) * | 2015-11-02 | 2019-11-12 | Amazon Technologies, Inc. | Image sensor selection in a multiple image sensor device |
JP6966184B2 (ja) * | 2016-06-15 | 2021-11-10 | 株式会社トプコン | 測量システム |
TW201839717A (zh) * | 2017-04-19 | 2018-11-01 | 睿緻科技股份有限公司 | 影像拼接方法及其影像拼接裝置 |
US11427218B2 (en) * | 2017-08-04 | 2022-08-30 | Sony Corporation | Control apparatus, control method, program, and moving body |
US10757320B2 (en) * | 2017-12-28 | 2020-08-25 | Waymo Llc | Multiple operating modes to expand dynamic range |
US11422025B2 (en) * | 2020-12-16 | 2022-08-23 | Pixart Imaging Inc. | Optical sensor capable of synchronizing to ambient light flicker |
-
2021
- 2021-03-30 EP EP21166123.6A patent/EP4067818B1/en active Active
-
2022
- 2022-03-21 CN CN202210275425.8A patent/CN115150545B/zh active Active
- 2022-03-28 US US17/706,349 patent/US20220321779A1/en active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101074965A (zh) * | 2007-06-26 | 2007-11-21 | 南京航空航天大学 | 基于图像识别定位的转速测量方法及其装置 |
CN101630066A (zh) * | 2009-08-17 | 2010-01-20 | 浙江大学 | 一种基于高速投影机的全景视场三维显示装置 |
US20110249091A1 (en) * | 2009-09-30 | 2011-10-13 | Panasonic Corporation | Video signal processing apparatus and video signal processing method |
CN101750868A (zh) * | 2010-01-08 | 2010-06-23 | 浙江大学 | 同时具有水平与俯仰多视场的全景空间三维显示装置 |
CN102413348A (zh) * | 2011-11-24 | 2012-04-11 | 深圳市华星光电技术有限公司 | 立体图像显示装置和相应的立体图像显示方法 |
CN105357433A (zh) * | 2015-10-13 | 2016-02-24 | 哈尔滨工程大学 | 一种高速旋转焦距自适应全景成像方法 |
CN105719235A (zh) * | 2015-12-18 | 2016-06-29 | 中国兵器工业集团第二○二研究所 | 基于圆周扫描视频图像拼接与分屏显示方法 |
JP2020012750A (ja) * | 2018-07-19 | 2020-01-23 | 株式会社トプコン | 測量装置、測量方法および測量用プログラム |
EP3772723A1 (de) * | 2019-08-08 | 2021-02-10 | Prüftechnik Dieter Busch GmbH | Verfahren und system zur drehzahlbestimmung mittels videokamera |
Also Published As
Publication number | Publication date |
---|---|
CN115150545B (zh) | 2023-10-24 |
US20220321779A1 (en) | 2022-10-06 |
EP4067818B1 (en) | 2024-08-28 |
EP4067818A1 (en) | 2022-10-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111521161B (zh) | 确定到目标的方向的方法、勘测装置和机器可读载体 | |
JP6120521B2 (ja) | 3次元測量装置及び3次元測量システム | |
US6879384B2 (en) | Process and apparatus for measuring an object space | |
RU2452033C2 (ru) | Системы и способы наблюдения в ночное время | |
US10262431B2 (en) | Three-dimensional measurement device | |
US20150085079A1 (en) | Dynamic range of color camera images superimposed on scanned three-dimensional gray-scale images | |
US20150015701A1 (en) | Triangulation scanner having motorized elements | |
CN108346134B (zh) | 对三维点云进行着色的方法和测量仪器 | |
EP2813809A1 (en) | Device and method for measuring the dimensions of an objet and method for producing an item using said device | |
JP2012185053A (ja) | パノラマ画像作成方法及び3次元レーザスキャナ | |
JP2018527575A5 (zh) | ||
CN115390087A (zh) | 一种激光线扫描三维成像系统及方法 | |
JP7154069B2 (ja) | 画像検査装置 | |
US11350077B2 (en) | Handheld three dimensional scanner with an autoaperture | |
JP3991501B2 (ja) | 3次元入力装置 | |
WO2015048053A1 (en) | Improved dynamic range of color camera images superimposed on scanned three dimensional gray scale images | |
CN115150545B (zh) | 获取三维测量点的测量系统 | |
US10685448B2 (en) | Optical module and a method for objects' tracking under poor light conditions | |
CN111595444B (zh) | 一种运动目标光谱跟踪测量遥感系统以及方法 | |
US20240068810A1 (en) | Measuring device with tof sensor | |
EP4332629A1 (en) | Measuring device with tof sensor | |
JPH11183142A (ja) | 三次元画像撮像方法及び三次元画像撮像装置 | |
CN118265889A (zh) | 利用由至少一个平行辐射源生成的结构光来测量场景的深度信息的方法和装置 | |
KR20220155362A (ko) | 이미지 데이터 획득을 위한 장치 및 방법 | |
JP2000088540A (ja) | 3次元入力方法及び3次元入力装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |