CN117098971A - 图像处理装置、图像处理方法及图像处理程序 - Google Patents
图像处理装置、图像处理方法及图像处理程序 Download PDFInfo
- Publication number
- CN117098971A CN117098971A CN202280022317.8A CN202280022317A CN117098971A CN 117098971 A CN117098971 A CN 117098971A CN 202280022317 A CN202280022317 A CN 202280022317A CN 117098971 A CN117098971 A CN 117098971A
- Authority
- CN
- China
- Prior art keywords
- image
- patch
- image processing
- dimensional
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 126
- 238000003672 processing method Methods 0.000 title claims abstract description 9
- 238000012937 correction Methods 0.000 claims abstract description 51
- 238000005259 measurement Methods 0.000 claims abstract description 38
- 230000003902 lesion Effects 0.000 claims abstract description 33
- 230000006870 function Effects 0.000 claims description 14
- 238000000034 method Methods 0.000 description 91
- 238000010586 diagram Methods 0.000 description 23
- 238000003384 imaging method Methods 0.000 description 18
- 238000010187 selection method Methods 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 8
- ATJFFYVFTNAWJD-UHFFFAOYSA-N Tin Chemical compound [Sn] ATJFFYVFTNAWJD-UHFFFAOYSA-N 0.000 description 7
- 238000001514 detection method Methods 0.000 description 5
- 230000005484 gravity Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 239000004567 concrete Substances 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 235000008733 Citrus aurantifolia Nutrition 0.000 description 2
- 235000011941 Tilia x europaea Nutrition 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000001788 irregular Effects 0.000 description 2
- 239000004571 lime Substances 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 101710164994 50S ribosomal protein L13, chloroplastic Proteins 0.000 description 1
- 229910000831 Steel Inorganic materials 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000007797 corrosion Effects 0.000 description 1
- 238000005260 corrosion Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 235000011389 fruit/vegetable juice Nutrition 0.000 description 1
- JEIPFZHSYJVQDO-UHFFFAOYSA-N iron(III) oxide Inorganic materials O=[Fe]O[Fe]=O JEIPFZHSYJVQDO-UHFFFAOYSA-N 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 239000011150 reinforced concrete Substances 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000010959 steel Substances 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/02—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/579—Depth or shape recovery from multiple images from motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/95—Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
- G01N21/9515—Objects of complex shape, e.g. examined with use of a surface follower device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30132—Masonry; Concrete
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30181—Earth observation
- G06T2207/30184—Infrastructure
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/56—Particle system, point based geometry or rendering
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Geometry (AREA)
- Quality & Reliability (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
Abstract
本发明提供一种能够简单地测量损伤的正确尺寸的图像处理装置、图像处理方法及图像处理程序。图像处理装置进行如下处理:获取从多个视点使摄影范围重叠而拍摄被摄体所获得的多个图像;从所获取的多个图像中检测被摄体的表面的损伤;生成特征点的三维的点云数据;根据所生成的点云数据来生成被摄体的三维面片模型;从所获取的多个图像中选出与三维面片模型的各面片对应的图像;测量在所选出的图像中与面片对应的区域中的损伤的尺寸;生成校正损伤的尺寸的测量结果时所需的校正信息;及根据所生成的校正信息来校正损伤的尺寸的测量结果。
Description
技术领域
本发明涉及一种图像处理装置、图像处理方法及图像处理程序,尤其涉及一种对拍摄结构物所获得的图像进行处理来检测结构物的表面的损伤并测量其尺寸的图像处理装置、图像处理方法及图像处理程序。
背景技术
桥梁、水坝、隧道等社会基础设施结构物有义务每几年进行一次定期检修。例如,针对桥梁,有义务每5年进行一次定期检修。作为支持该作业的技术,已知有一种从拍摄结构物所获得的图像中自动提取在结构物的表面上出现的损伤(裂纹、游离石灰等)的技术。
在专利文献1中,记载有一种从拍摄结构物(竖立设置的混凝土电杆)所获得的图像中检测裂缝等外观劣化并测量其尺寸(长度及宽度)的技术,并且记载有一种为了获得更正确的尺寸,根据外观劣化的位置来校正测量结果。
以往技术文献
专利文献
专利文献1:日本特开2002-162260号公报
发明内容
发明要解决的技术课题
然而,在专利文献1中所记载的技术存在如下缺点:为了获得用于校正测量结果的信息,需要详细地测量外观劣化的位置、角度等,测量需要花费大量的劳力。
本发明是鉴于这种情况而完成的,其目的在于提供一种能够简单地测量损伤的正确尺寸的图像处理装置、图像处理方法及图像处理程序。
用于解决技术课题的手段
(1)一种图像处理装置,其具备处理器,处理器进行如下处理:获取由相机从多个视点使摄影范围重叠而拍摄被摄体所获得的多个图像;从所获取的多个图像中检测被摄体的表面的损伤;对所获取的多个图像进行分析,并生成特征点的三维的点云数据;根据所生成的点云数据来生成被摄体的三维面片模型;从所获取的多个图像中选出与三维面片模型的各面片对应的图像;测量在所选出的图像中与面片对应的区域中的损伤的尺寸;根据连接拍摄所选出的图像时的相机的位置与面片的相机矢量a和面片的法线矢量b来生成校正损伤的尺寸的测量结果时所需的校正信息;及根据所生成的校正信息来校正损伤的尺寸的测量结果。
(2)根据(1)所述的图像处理装置,其中,处理器进行如下处理:在生成校正信息的处理中,计算相机矢量a与法线矢量b所形成的角度θ的余弦值cosθ以生成校正信息。
(3)根据(2)所述的图像处理装置,其中,处理器进行如下处理:通过cosθ=a·b/|a||b|来计算余弦值cosθ。
(4)根据(2)或(3)所述的图像处理装置,其中,处理器进行如下处理:在校正损伤的尺寸的测量结果的处理中,将损伤的尺寸的测量结果除以余弦值cosθ以校正损伤的尺寸的测量结果。
(5)根据(1)至(4)中任一项所述的图像处理装置,其中,处理器进行如下处理:在选出与面片对应的图像的处理中,选出相机矢量a与法线矢量b所形成的角度θ最小的图像。
(6)根据(1)至(4)中任一项所述的图像处理装置,其中,处理器进行如下处理:在选出与面片对应的图像的处理中,选出摄影分辨率最高的图像。
(7)根据(1)至(4)中任一项所述的图像处理装置,其中,处理器进行如下处理:在选出与面片对应的图像的处理中,选出与面片对应的区域的位置最接近图像的中心的图像。
(8)根据(1)至(7)中任一项所述的图像处理装置,其中,处理器进行如下处理:在生成三维面片模型的处理中,由三角形网格或四边形网格生成面片,并生成三维面片模型。
(9)根据(1)至(8)中任一项所述的图像处理装置,其中,处理器进一步进行如下处理:计算三维面片模型中的面片的物理尺寸。
(10)根据(9)所述的图像处理装置,其中,处理器进行如下处理:在计算面片的物理尺寸的处理中,根据与图像建立有关联的测距信息来计算面片的物理尺寸。
(11)根据(9)所述的图像处理装置,其中,处理器进行如下处理:在计算面片的物理尺寸的处理中,根据图像中所包含的基准点的信息来计算面片的物理尺寸。
(12)根据(1)至(11)中任一项所述的图像处理装置,其中,损伤为裂纹,处理器进行如下处理:在测量损伤的尺寸的处理中,测量裂纹的宽度和/或长度。
(13)根据(12)所述的图像处理装置,其中,处理器进一步进行如下处理:提取裂纹连续的面片,将在所提取的各面片中求出的校正后的裂纹的长度进行加算以测量连续的裂纹的长度。
(14)一种图像处理方法,其进行如下步骤:获取由相机从多个视点使摄影范围重叠而拍摄被摄体所获得的多个图像;从所获取的多个图像中检测被摄体的表面的损伤;对所获取的多个图像进行分析,并生成特征点的三维的点云数据;根据所生成的点云数据来生成被摄体的三维面片模型;从所获取的多个图像中选出与三维面片模型的各面片对应的图像;测量在所选出的图像中与面片对应的区域中的损伤的尺寸;根据连接拍摄所选出的图像时的相机的位置与面片的相机矢量a和面片的法线矢量b来生成校正损伤的尺寸的测量结果时所需的校正信息;及根据所生成的校正信息来校正损伤的尺寸的测量结果。
(15)一种图像处理程序,其使计算机实现如下功能:获取由相机从多个视点使摄影范围重叠而拍摄被摄体所获得的多个图像;从所获取的多个图像中检测被摄体的表面的损伤;对所获取的多个图像进行分析,并生成特征点的三维的点云数据;根据所生成的点云数据来生成被摄体的三维面片模型;从所获取的多个图像中选出与三维面片模型的各面片对应的图像;测量在所选出的图像中与面片对应的区域中的损伤的尺寸;根据连接拍摄所选出的图像时的相机的位置与面片的相机矢量a和面片的法线矢量b来生成校正损伤的尺寸的测量结果时所需的校正信息;及根据所生成的校正信息来校正损伤的尺寸的测量结果。
发明效果
根据本发明,能够简单地测量损伤的正确尺寸。
附图说明
图1是表示测量裂纹的宽度的系统的概略结构的图
图2是摄影的概念图
图3是表示图像处理装置的硬件结构的一例的框图
图4是图像处理装置所具有的主要功能的框图
图5是表示SfM的概要的图
图6是表示SfM的处理的步骤的概略的流程图
图7是表示TIN模型的一例的图
图8是表示三维形状模型的一例的图
图9是校正裂纹的宽度的概念图
图10是计算校正值的概念图
图11是表示基于图像处理装置的图像处理的步骤的流程图
图12是图像处理装置所具有的主要功能的框图
图13是选出图像的概念图
图14是表示图像选出部中的图像的选出处理的步骤的流程图
图15是裂纹的长度的测量方法的概念图
图16是表示在不进行校正的情况下测量损伤的尺寸时的处理的步骤的流程图
具体实施方式
以下,根据附图对本发明的优选的实施方式进行详细说明。
[第1实施方式]
在此,以测量在桥墩的表面上产生的裂纹的宽度的情况为例进行说明。桥墩为混凝土制、尤其是钢筋混凝土制的结构物的一例。裂纹为损伤的一例。裂纹的宽度为损伤的尺寸的一例。
[系统配置]
图1是表示测量裂纹的宽度的系统的概略结构的图。
如图1所示,本实施方式的系统1具备相机10和图像处理装置100,所述图像处理装置100对由相机10拍摄的图像进行处理。
相机10用于拍摄测量对象。作为相机10,使用一般的数码相机(包括搭载于移动终端等上的数码相机)。如上所述,在本实施方式中,将在桥墩Ob的表面上产生的裂纹作为测量对象。此时,将桥墩Ob作为被摄体进行拍摄。
图2是摄影的概念图。
在图2中,由符号R表示的矩形区域为一次摄影范围。如图2所示,拍摄是从多个视点使摄影范围R重叠而进行的。作为一例,在将重叠OL设为80%以上且将侧面重叠SL设为60%以上的情况下进行拍摄。重叠OL是指在沿直线上的路线进行拍摄的情况下的路线方向上的重叠。因此,“将重叠OL设为80%以上”表示将图像在路线方向上的重叠率设为80%以上。并且,侧面重叠SL是指路线之间的重叠。因此,“将侧面重叠SL设为60%以上”表示将图像在路线之间的重叠率设为60%以上。
图像处理装置100对由相机10拍摄的图像进行处理来检测在结构物的表面上产生的裂纹,并且测量其宽度。图像处理装置100由计算机构成,所述计算机具备输入装置及显示装置等。
图3是表示图像处理装置的硬件结构的一例的框图。
如图3所示,图像处理装置100构成为具备CPU(Central Processing Unit:中央处理器)101、RAM(Random Access Memory:随机存取存储器)102、ROM(Read Only Memory:只读存储器)103、辅助存储装置104、通信接口(Interface,IF)105、输入装置106及显示装置107等。在ROM103和/或辅助存储装置104中存储有由CPU101执行的程序及各种数据。辅助存储装置104例如由HDD(Hard Disk Drive:硬盘驱动器)、SSD(Solid State Drive:固态驱动器)等构成。输入装置106例如由键盘、鼠标、触摸面板等构成。显示装置107例如由液晶显示器(Liquid Crystal Display)、有机EL显示器(Organic Light Emitting Diode Display)等构成。由相机10拍摄的图像经由通信接口105读入图像处理装置100中,并存储于辅助存储装置104中。
图4是图像处理装置所具有的主要功能的框图。
如图4所示,图像处理装置100主要具有图像获取部111、点云数据生成部112、三维面片模型生成部113、三维形状模型生成部114、裂纹检测部115、裂纹测量部116、校正值计算部117及测量结果校正部118等的功能。这些功能通过由处理器执行规定的程序(图像处理程序)来实现。
图像获取部111进行如下处理:获取作为处理对象的图像组IG。处理对象的图像组IG由用相机10从多个视点使摄影范围R重叠而拍摄桥墩所获得的多个图像构成。图像获取部111从辅助存储装置104获取作为处理对象的图像组IG。
点云数据生成部112进行如下处理:对由图像获取部111获取的图像组IG进行分析,并生成特征点的三维的点云数据。在本实施方式中,利用SfM(Structure from Motion:运动恢复结构)及MVS(Multi-View Stereo:多视角立体视觉)的技术来进行该处理。
图5是表示SfM的概要的图。
SfM为根据由相机拍摄的多个图像进行“所拍摄的位置及姿势的估计”以及“特征点的三维恢复”的技术。SfM的技术本身为公知的技术。该处理的概要如下。
图6是表示SfM的处理的步骤的概略的流程图。
首先,获取作为处理对象的多个图像(图像组)(步骤S1)。接着,从所获取的各图像中检测出特征点(步骤S2)。接着,通过比较2张图像对的各特征点,检测一致的特征点作为对应点(步骤S3)。即,进行特征点的匹配。接着,根据检测到的对应点来估计拍摄2张图像对的相机的相机参数(例如,基础矩阵、基本矩阵及内部参数等)(步骤S4)。接着,根据所估计的相机参数来估计摄影位置及姿势(步骤S5)。并且,求出对象物的特征点的三维位置(步骤S6)。即,进行特征点的三维恢复。此后,根据需要进行束调整。即,以使三维坐标中的上述特征点的集合即点云(point cloud)向相机的再投影误差变得最小的方式使用三维点云来调整相机内部参数(焦距、主点)、相机外部参数(位置、旋转)。
通过SfM恢复的三维点为特别的三维点,并且稀疏。在一般的三维模型中,低特征量的纹理占大部分(例如,壁等)。MVS为试图恢复该占大部分的低特征量的三维纹理的技术。MVS为利用通过SfM估计的“摄影位置及姿势”来生成密集的点云的技术。MVS的技术本身为公知的技术。因此,省略对其详细内容的说明。
并且,通过SfM获得的恢复形状及摄影位置为由无量纲的坐标值表示的点云。因此,在所获得的恢复形状的状态下无法定量地掌握形状。因此,需要赋予物理尺寸(实际尺寸)。关于该处理,采用公知的技术。例如,能够采用从图像中提取基准点(例如,地面基准点)并赋予物理尺寸的技术等。地面基准点(Ground Control Point:地面控制点,GCP)为包含在所拍摄的图像内能够视觉辨认的地理空间信息(纬度、经度、高度)的记号。因此,此时,需要在摄影的阶段设定基准点。并且,在测距信息与所拍摄的图像建立有关联的情况下,能够利用该测距信息来赋予物理尺寸。例如,在利用无人机等无人航空器(Unmanned AerialVehicle、UAV)来拍摄被摄体的情况下,在将LIDAR(Light Detection and Ranging(光探测和测距)或Laser Imaging Detectionand Ranging(激光成像探测和测距))与相机一起搭载于无人航空器上来拍摄时,也能够与图像一起获取基于LIDAR的测距信息。通过利用该测距信息,能够向通过SfM获得的三维的点云数据赋予物理尺寸的信息。除此以外,也能够从图像中提取物理尺寸已知的物体以赋予物理尺寸。
三维面片模型生成部113进行如下处理:根据由点云数据生成部112生成的被摄体的三维的点云数据来生成被摄体的三维面片模型。具体而言,根据所生成的三维的点云来生成面片(网格),并生成三维面片模型。由此,能够以较少的点数表现表面的起伏。本处理例如使用三维Delaunay三角剖分等公知的技术来进行。因此,省略对其详细内容的说明。作为一例,在本实施方式中,使用三维Delaunay三角剖分来生成TIN(Triangular IrregularNetwor k:不规则三角网)模型。TIN模型为三维面片模型的一例。
图7是表示TIN模型的一例的图。
如图7所示,在TIN模型中,表面由三角形的集合来表示。即,由三角形网格生成面片P。
三维形状模型生成部114进行如下处理:通过对由三维面片模型生成部113生成的三维面片模型进行纹理映射来生成赋予了纹理的三维形状模型。该处理通过用摄影图像内插三维面片模型的各面片内的空间来进行。如上所述,在本实施方式的图像处理装置100中,在点云数据生成部112中进行SfM及MVS的处理。通过该SfM及MVS的处理,可知拍摄与各面片对应的区域所获得的图像及在该图像内的对应位置。因此,只要能够观测到生成面的顶点,则能够将对其面赋予的纹理建立对应关联。三维形状模型生成部114选出与各面片对应的图像,并从所选出的图像中提取与面片对应的区域的图像作为纹理。具体而言,向所选出的图像投影面片的顶点,并提取被所投影的顶点包围的区域的图像作为纹理。对面片赋予所提取的纹理,从而生成三维形状模型。即,用所提取的纹理内插面片内的空间,从而生成三维形状模型。
图8是表示三维形状模型的一例的图。
如图8所示,通过对各面片赋予纹理,对各面片附加颜色信息。在被摄体中存在裂纹的情况下,在相对应的位置上显示裂纹C。
所生成的三维形状模型根据需要存储于辅助存储装置104等中。并且,根据需要显示在显示装置107上。
裂纹检测部115进行如下处理:从所获取的各图像中检测裂纹。关于从图像中检测裂纹的技术,能够采用公知技术。例如,能够采用使用通过机器学习、深度学习等生成的图像识别模型从图像中检测裂纹的技术等。关于机器学习算法的种类,并无特别限定。例如,能够使用利用了RNN(Recurrent Neural Network;递归神经网络)、CNN(ConvolutionalNeural Network;卷积神经网络)及MLP(Multilayer Perceptron;多层感知器)等神经网络的算法。在使用图像识别模型来检测裂纹的情况下,根据需要对图像实施预处理。即,实施用于提高识别精度的处理(例如,过滤处理等)。
裂纹测量部116进行如下处理:测量由裂纹检测部115检测到的裂纹的宽度。关于测量,采用公知的图像测量的技术。在应用于各面片中的纹理包含裂纹的情况下,该裂纹的宽度通过本处理来测量。
校正值计算部117进行如下处理:计算校正值。该校正值用于校正在包含裂纹的面片中的该裂纹的宽度的测量值。
在此,对校正裂纹的宽度的测量值的必要性进行说明。
图9是校正裂纹的宽度的概念图。
如图9所示,在相机10正对包含裂纹C的面S而拍摄图像的情况下,从该图像中测量的裂纹的宽度与实际的裂纹的宽度CW一致。
另一方面,在相机10相对于包含裂纹C的面S倾斜而拍摄图像的情况下、即在向上拍摄的状态下拍摄图像的情况下,从该图像中测量的裂纹的宽度CWx由于向上拍摄而小于实际的裂纹的宽度CW(CWx<CW)。
因此,针对从在向上拍摄的状态下拍摄的图像中测量了宽度的裂纹,需要校正其宽度的测量值。
若将向上拍摄的角度设为0,则在实际的裂纹的宽度CW与从在向上拍摄的状态下拍摄的图像中测量出的裂纹的宽度CWx之间,下式的关系成立。
CW=CWx/cosθ
因此,校正值计算部117计算cosθ作为校正值σ。校正值σ为校正信息的一例。
如上所述,在本实施方式的图像处理装置100中,在点云数据生成部112中通过SfM生成点云数据。通过SfM,能够估计拍摄图像的位置(相机的位置)及姿势。因此,通过利用该信息,能够计算校正值。
图10是计算校正值的概念图。
在图10中示出计算由斜线表示的面片Pi中的校正值σ时的例。
将提取应用于作为计算对象的面片Pi中的纹理的图像设为图像Ii。图像Ii为与面片Pi对应的图像。将拍摄该图像Ii时的相机的位置(摄影位置)设为位置Pc。相机的位置Pc能够通过SfM来估计。
将连接相机的位置Pc与面片Pi的重心或中心的矢量设为相机矢量,并且将相机矢量设为a。并且,将面片Pi的法线矢量设为b。
关于拍摄图像Ii时的向上拍摄的角度θ,通过相机矢量a与法线矢量b所形成的角度来求出。而且,关于该角度θ的余弦值cosθ,能够通过cosθ=a·b/|a||b|计算。因此,关于校正值σ,能够通过σ=a·b/|a||b|计算。
校正值计算部117针对各面片计算校正值σ。另外,也可以设为仅针对所应用的纹理包含裂纹的面片计算校正值σ的结构。
测量结果校正部118进行如下处理:使用由校正值计算部117计算的校正值σ来校正在包含裂纹的面片中从图像中测量出的裂纹的宽度。即,通过CW=CWx/σ来校正测量值CWx,并计算实际的裂纹的宽度CW。由此,能够获取正确的裂纹的宽度的信息。
计算出的实际的裂纹的宽度的信息根据需要存储于辅助存储装置104等中。并且,根据需要显示在显示装置107上。在存储时,与三维形状模型建立关联而存储。或者,与所拍摄的图像建立关联而存储。
[图像处理的步骤(图像处理方法)]
图11是表示基于图像处理装置的图像处理的步骤的流程图。
首先,进行如下处理:获取拍摄被摄体所获得的图像组(步骤S11)。在本实施方式中,获取拍摄桥墩所获得的图像组。如上所述,拍摄是从多个视点使摄影范围重叠而进行的。
接着,进行如下处理:从所获取的各图像中检测损伤(步骤S12)。在本实施方式中,检测出裂纹。从各图像中检测到的各个裂纹被附加识别信息而被记录。
接着,进行如下处理:测量在各图像中检测到的损伤的尺寸(步骤S13)。在本实施方式中,测量出裂纹的宽度。测量出的宽度的信息与作为测量对象的裂纹的识别信息建立关联而被记录。
接着,进行如下处理:从所获取的图像组中生成被摄体的三维的点云数据(步骤S14)。如上所述,该处理通过SfM及MVS来进行。通过SfM及MVS,除了被摄体的三维的点云数据以外,还能够获取拍摄各图像时的相机的位置及姿势的信息。
接着,进行如下处理:根据所生成的被摄体的三维的点云数据来生成被摄体的三维面片模型(步骤S15)。在本实施方式中,使用三维Delaunay三角剖分来生成TIN模型作为三维面片模型(参考图7)。
接着,进行如下处理:对所生成的三维面片模型进行纹理映射来生成被摄体的三维形状模型(步骤S16)。如上所述,在该处理中,从与三维面片模型的各面片对应的图像中提取与面片对应的区域的图像作为纹理。而且,将所提取的纹理应用于面片中以生成三维形状模型(参考图8)。
接着,进行计算校正值σ的处理(步骤S17)。该处理至少对包含损伤的面片进行。关于校正值σ,如上所述那样根据拍摄与面片对应的图像时的向上拍摄的角度θ来计算。关于该角度θ,通过相机矢量a与法线矢量b所形成的角度来求出。关于校正值σ,通过该角度θ的余弦值cosθ来求出。即,通过σ=cosθ=a·b/|a||b|来求出。
接着,进行如下处理:针对包含损伤的面片,用校正值校正损伤的测量值(步骤S18)。即,将损伤的测量值除以校正值σ以计算实际的损伤的尺寸。在本实施方式中,将裂纹的宽度的测量值CWx除以校正值σ以计算实际宽度CW。即,通过CW=CWx/σ来计算实际宽度CW。关于校正,对包含损伤的所有面片进行。由此,能够求出正确的裂纹的宽度。
如以上所说明,根据本实施方式的图像处理装置100,能够排除向上拍摄的影响以测量正确的损伤的尺寸。并且,由于在拍摄时不需要预先测量向上拍摄的角度等,因此在现场的摄影等作业也能够顺利地进行。
另外,在本实施方式中,生成三维形状模型,但是在仅以测量损伤的尺寸为目的的情况下,不一定需要生成三维形状模型。只要至少能够确定与各面片对应的图像即可。
[第2实施方式]
如上所述,三维形状模型是用纹理内插三维面片模型的各面片而生成的。应用于各面片中的纹理是从与各面片对应的图像中提取而生成的。该图像有时存在多个。即,由于拍摄是从多个视点使摄影范围重叠而进行的,因此与1个面片对应的图像有时存在多个。在相对应的图像存在多个的情况下,选择哪个图像成为问题。本实施方式的图像处理装置从以下观点选出图像。即,选出最适合测量损伤的图像作为与面片对应的图像。
图12是本实施方式的图像处理装置所具有的主要功能的框图。
如图12所示,三维形状模型生成部114在具有图像选出部114A的功能这一点上与上述第1实施方式的图像处理装置100不同。以下,对图像选出部114A的功能进行说明。
图像选出部114A进行如下处理:在与各面片对应的图像存在多个的情况下,从该多个图像中选出1个。选出是从测量的观点进行的,并且选出最适合测量损伤的图像作为与面片对应的图像。在本实施方式中,选出相机矢量a与法线矢量b所形成的角度θ最小的图像。即,选择向上拍摄的角度更小的图像。由此,能够降低向上拍摄的影响,能够更高精度地测量损伤,并且能够更高精度地校正其测量值。
图13是选出图像的概念图。
在图13中示出与由斜线表示的面片Pi对应的图像存在2个时的例。将其中一个图像设为第1图像I1i且将另一个图像设为第2图像I2i。
将拍摄第1图像I1i时的相机的位置设为第1位置Pc1且将第1图像I1i的相机矢量设为第1相机矢量a1。并且,将拍摄第2图像I2i时的相机的位置设为第2位置Pc2且将第2图像I2i的相机矢量设为第2相机矢量a2。
第1相机矢量a1被定义为连接第1位置Pc1与面片Pi的重心或中心的矢量。并且,第2相机矢量a2被定义为连接第2位置Pc2与面片Pi的重心或中心的矢量。
关于图像,选出相机矢量与法线矢量所形成的角度更小的图像。例如,将第1相机矢量a1与法线矢量b所形成的角度设为θ1且将第2相机矢量a2与法线矢量b所形成的角度设为θ2,在θ1>θ2的情况下,选出第2图像12i作为与面片Pi对应的图像。
另外,在θ1>θ2的情况下(0≤θ1≤90°、0≤θ2≤90°),成为cosθ1<cosθ2。因此,图像选出部114A求出相机矢量与法线矢量所形成的角度的余弦值(cosθ),并选出该值最大的图像作为与面片对应的图像。
图14是表示图像选出部中的图像的选出处理的步骤的流程图。
首先,进行如下处理:获取与面片对应的图像(步骤S21)。接着,进行如下处理:判定所获取的图像是否存在多个(步骤S22)。在与面片对应的图像不存在多个的情况下,选出处理结束。另一方面,进行如下处理:在与面片对应的图像存在多个的情况下,选出图像。首先,进行如下处理:计算各图像的相机矢量与法线矢量所形成的角度(步骤S23)。该处理通过求出相机矢量与法线矢量所形成的角度的余弦值(cosθ)来进行。接着,进行如下处理:根据计算结果来选出相机矢量与法线矢量所形成的角度最小的图像(步骤S24)。所选出的图像被设为与面片对应的图像。
如上所述,在本处理中选出的图像为向上拍摄的角度最小的图像。由此,能够降低向上拍摄的影响,能够更高精度地测量损伤的尺寸,并且能够高精度地校正其测量值。
所选出的图像用于提取纹理。并且,在作为纹理所提取的图像中包含裂纹的情况下,该图像被设为测量的对象,进一步被设为其测量值的校正的对象。
[变形例]
在上述实施方式中,以根据相机矢量与法线矢量所形成的角度来选出与面片对应的图像的情况为例进行了说明,但是选出与面片对应的图像的方法并不限定于此。以下,对选出与面片对应的图像的方法的另一例进行说明。
(1)根据摄影分辨率选出的方法
在与面片对应的图像存在多个的情况下,选出摄影分辨率最高的图像作为与面片对应的图像。
摄影分辨率与解像力的含义相同。因此,针对相同的被摄体,选出解像力更高的图像作为与面片对应的图像。例如,在裂纹的情况下,选出以更高的解像力拍摄裂纹的图像作为与面片对应的图像。在由相同的相机拍摄相同的被摄体的情况下,在更接近被摄体的位置上拍摄的图像的解像力更高。即,摄影距离更短的图像的解像力更高。因此,此时,选出摄影距离最近的图像、即相机相对于面片的位置最近的图像作为与面片对应的图像。
(2)根据与面片对应的区域的位置选出的方法
在与面片对应的图像存在多个的情况下,选出与面片对应的区域的位置最接近图像的中心的图像作为与面片对应的图像。
通常,相机的透镜越远离光轴(中心),各像差越大。因此,所拍摄的图像也是越远离中心,图像的品质越下降。具体而言,失真等变大。
因此,在与面片对应的图像存在多个的情况下,选出与面片对应的区域的位置最接近图像的中心的图像作为与面片对应的图像。此时,例如针对各图像,计算与面片对应的区域的重心或中心与图像的中心之间的距离,并选出计算出的距离最小的图像作为与面片对应的图像。
由此,能够根据高质量的图像来测量损伤的尺寸。其结果,能够更高精度地测量损伤的尺寸。
(3)其他方法
也能够设为将上述方法组合多个来选出图像的结构。
例如,能够采用对各选出方法设置优先顺序的方法。此时,在无法通过上位的选出方法选出的情况下,实施下位的选出方法。例如,将基于相机矢量与法线矢量所形成的角度的方法设为第1选出方法,将根据摄影分辨率选出的方法设为第2选出方法,将根据与面片对应的区域的位置选出的方法设为第3选出方法。此时,首先通过第1选出方法、即基于相机矢量与法线矢量所形成的角度的方法选出图像。在无法通过第1选出方法选出图像的情况下,实施第2选出方法。无法通过第1选出方法选出图像的情况例如为角度相同的图像存在多个的情况。此时,通过第2选出方法从角度相同的图像中选出图像。
并且,也能够综合判断各选出方法的结果而选出为与面片对应的图像。例如,对各选出方法的结果进行排序,并且对各顺序赋予规定的分数。而且,计算该分数的合计,并选出分数的合计最高的图像作为与面片对应的图像。此时,也可以在对各选出方法的结果赋予的分数中设置差。即,也可以进行加权。
[其他实施方式及变形例]
[关于三维面片模型]
在上述实施方式中,以生成各面片由三角形(三角形网格)构成的模型作为三维面片模型的情况为例进行了说明,但是构成三维面片模型的各面片的形状并不限定于此。例如,也能够生成各面片由四边形(四边形网格)构成的模型。
[关于摄影方法]
针对作为处理对象的图像,只要从多个视点使摄影范围重叠而拍摄即可,关于其摄影方法,并无特别限定。也能够将相机搭载于无人机等无人航空器上来拍摄。
并且,作为处理对象的图像包含从动态图像中提取的图像。即,能够以动态图像的形式拍摄被摄体,并将所拍摄的动态图像的各帧的图像作为处理对象的图像。
[关于测量对象]
在上述实施方式中,以测量在桥墩的表面上出现的裂纹的宽度的情况为例进行了说明,但是本发明的应用并不限定于此。能够应用于从图像中测量在结构物、尤其在混凝土制的结构物的表面上出现的损伤的尺寸的情况。结构物除了桥梁以外,还包含隧道、水坝、大楼等。并且,还包含道路。
并且,在上述实施方式中,以测量裂纹的宽度的情况为例进行了说明,但是本发明也能够应用于测量其他损伤的情况。尤其是在受到向上拍摄的影响的情况下有效地发挥作用。因此,只要受到向上拍摄的影响,则也能够应用于测量剥离、钢筋露出、漏水(包含锈汁)、游离石灰、腐蚀等损伤的尺寸(面积等)的情况。
并且,针对裂纹,在其长度受到向上拍摄的影响的情况下,在测量长度的情况下也能够应用本发明。
[关于裂纹的长度的测量]
如上所述,针对裂纹,在测量长度的情况下也能够应用本发明。
而且,在测量裂纹的长度的情况下,能够通过以下方法测量裂纹的长度。提取裂纹连续的面片,将在所提取的各面片中求出的裂纹的长度进行加算以测量连续的裂纹的长度。即,测量跨越多个面片而检测的裂纹的长度。另外,在校正了裂纹的长度的情况下,将校正后的长度进行加算以测量连续的裂纹的长度。
图15是裂纹的长度的测量方法的概念图。
在图15中,由虚线表示的面片P1~P13为包含连续的裂纹C的面片。此时,在各面片P1~P13中测量的裂纹的长度的合计被设为连续的裂纹C的长度。即,若将各面片P1、P2、……、P13中的裂纹的长度设为CL1、CL2、……、CL13,则连续的裂纹C的长度CL由CL=CL1+CL2+……+CL13计算。
在测量损伤的面积的情况下也能够相同地将在各面片中测量的损伤的面积进行加算以测量跨越多个区域而检测的损伤的面积。
[关于图像处理装置的结构]
图像处理装置的功能由各种处理器(Processor)实现。在各种处理器中包括执行程序并作为各种处理部而发挥作用的通用处理器即CPU和/或GPU(Graphic ProcessingUnit:图形处理器),FPGA(Field Programmable Gate Array:现场可编程逻辑门阵列)等在制造后能够变更电路结构的处理器即可编程逻辑器件(Programmable Logic Device,PLD)、ASIC(Application Specific Integrated Circuit:专用集成电路)等具有为了执行特定的处理而专门设计的电路结构的处理器即专用电路等。程序与软件的含义相同。
1个处理部可以由这些各种处理器中的1个构成,也可以由相同种类或不同种类的2个以上的处理器构成。例如,1个处理部可以由多个FPGA或CPU和FPGA的组合构成。并且,也可以由1个处理器构成多个处理部。作为由1个处理器构成多个处理部的例,第1有如下方式:如以用于客户端或服务器等的计算机为代表,由1个以上的CPU和软件的组合构成1个处理器,该处理器作为多个处理部而发挥作用。第2有如下方式:如以片上系统(System onChip,SoC)等为代表,使用由1个IC(Integrated Circuit:集成电路)芯片实现包括多个处理部的系统整体的功能的处理器。如此,使用1个以上的上述各种处理器作为硬件结构以构成各种处理部。
[其他]
包括变形例在内,上述第2实施方式中所说明的选出与面片对应的图像的方法在不校正损伤的尺寸的情况下也有效。即,由于能够选出适合测量损伤的图像,因此能够比通常更高精度地测量损伤。通常为如下情况:不从上述第2实施方式中所说明的观点选出图像而选出与面片对应的图像。并且,在生成三维形状模型的情况下,能够将更良好的图像应用于各面片中。由此,能够生成更高质量的三维形状模型。
图16是表示在不进行校正的情况下测量损伤的尺寸时的处理的步骤的流程图。
首先,进行如下处理:获取拍摄被摄体所获得的图像组(步骤S31)。接着,进行如下处理:从所获取的各图像中检测损伤(步骤S32)。例如,进行检测裂纹的处理。接着,进行如下处理:测量在各图像中检测到的损伤的尺寸(步骤S33)。例如,测量出裂纹的宽度。接着,进行如下处理:从所获取的图像组中生成被摄体的三维的点云数据(步骤S34)。例如,通过SfM及MVS来生成被摄体的三维的点云数据。接着,进行如下处理:根据所生成的被摄体的三维的点云数据来生成被摄体的三维面片模型(步骤S35)。例如,使用三维Delaunay三角剖分来生成TIN模型。接着,进行如下处理:对所生成的三维面片模型进行纹理映射来生成被摄体的三维形状模型(步骤S36)。此时,通过第2实施方式中所说明的方法(包含变形例的方法)来选出图像。即,通过(a)根据相机矢量与法线矢量所形成的角度来选出与面片对应的图像的方法、(b)根据摄影分辨率选出的方法、(c)根据与面片对应的区域的位置选出的方法中的任一个方法、或其组合的方法来选出与面片对应的图像。由此,将高精度地测量出损伤的尺寸的图像应用于各面片中。在施加了本发明的校正的情况下,能够更高精度地进行测量。
另外,在本例的情况下,针对连续的裂纹,也优选将在各面片中测量的裂纹的长度进行加算以测量其长度。
[附记]
关于上述实施方式,进一步公开以下附记。
(附记1)
一种图像处理装置,其具备处理器,
所述处理器进行如下处理:
获取由相机从多个视点使摄影范围重叠而拍摄被摄体所获得的多个图像的处理;
从所获取的多个所述图像中检测所述被摄体的表面的损伤的处理;
对所获取的多个所述图像进行分析,并生成特征点的三维的点云数据的处理;
根据所生成的所述点云数据来生成所述被摄体的三维面片模型的处理;
从所获取的多个所述图像中选出与所述三维面片模型的各面片对应的图像的图像选择处理;及
测量在所选出的所述图像中与所述面片对应的区域中的所述损伤的尺寸的处理。
(附记2)
根据附记1所述的图像处理装置,其中,
所述处理器进行如下处理:
在所述图像选择处理中,选择所述相机矢量a与所述法线矢量b所形成的角度θ最小的图像。
(附记3)
根据附记1所述的图像处理装置,其中,
所述处理器进行如下处理:
在所述图像选择处理中,选择摄影分辨率最高的图像。
(附记4)
根据附记1所述的图像处理装置,其中,
所述处理器进行如下处理:
在选出与所述面片对应的图像的处理中,选出与所述面片对应的区域的位置最接近所述图像的中心的图像。
符号说明
1-测量裂纹的宽度的系统,10-相机,100-图像处理装置,101-CPU,102-RAM,103-ROM,104-辅助存储装置,105-通信接口,106-输入装置,107-显示装置,111-图像获取部,112-点云数据生成部,113-三维面片模型生成部,114-三维形状模型生成部,114A-图像选出部,115-裂纹检测部,116-裂纹测量部,117-校正值计算部,118-测量结果校正部,a-相机矢量,a1-第1相机矢量,a2-第2相机矢量,b-法线矢量,θ-相机矢量与法线矢量所形成的角度,C-裂纹,CL1~CL13-裂纹的长度,I1i-第1图像,I2i-第2图像,IG-图像组,Ii-图像,OL-重叠,SL-侧面重叠,Ob-被摄体(桥墩),P-面片,P1~P13-包含裂纹的面片,Pc1-第1位置,Pc2-第2位置,R-摄影范围,S-包含裂纹的面,S1~S6-SfM的处理的步骤,S11~S18-图像处理的步骤,S21~S24-图像的选出处理的步骤,S31~S36-在不进行校正的情况下测量损伤的尺寸时的处理的步骤。
Claims (15)
1.一种图像处理装置,其具备处理器,
所述处理器进行如下处理:
获取由相机从多个视点使摄影范围重叠而拍摄被摄体所获得的多个图像;
从所获取的多个所述图像中检测所述被摄体的表面的损伤;
对所获取的多个所述图像进行分析,并生成特征点的三维的点云数据;
根据所生成的所述点云数据来生成所述被摄体的三维面片模型;
从所获取的多个所述图像中选出与所述三维面片模型的各面片对应的图像;
测量在所选出的所述图像中与所述面片对应的区域中的所述损伤的尺寸;
根据连接拍摄所选出的所述图像时的所述相机的位置与所述面片的相机矢量a和所述面片的法线矢量b来生成校正所述损伤的尺寸的测量结果时所需的校正信息;及
根据所生成的所述校正信息来校正所述损伤的尺寸的测量结果。
2.根据权利要求1所述的图像处理装置,其中,
所述处理器进行如下处理:
计算所述相机矢量a与所述法线矢量b所形成的角度θ的余弦值cosθ以生成所述校正信息。
3.根据权利要求2所述的图像处理装置,其中,
所述处理器进行如下处理:
通过cosθ=a·b/|a||b|来计算所述余弦值cosθ。
4.根据权利要求2或3所述的图像处理装置,其中,
所述处理器进行如下处理:
将所述损伤的尺寸的测量结果除以所述余弦值cosθ以校正所述损伤的尺寸的测量结果。
5.根据权利要求1至4中任一项所述的图像处理装置,其中,
所述处理器进行如下处理:
选出所述相机矢量a与所述法线矢量b的角度θ最小的图像。
6.根据权利要求1至4中任一项所述的图像处理装置,其中,
所述处理器进行如下处理:
选出摄影分辨率最高的图像。
7.根据权利要求1至4中任一项所述的图像处理装置,其中,
所述处理器进行如下处理:
选出与所述面片对应的区域的位置最接近所述图像的中心的图像。
8.根据权利要求1至7中任一项所述的图像处理装置,其中,
所述处理器进行如下处理:
由三角形网格或四边形网格生成所述面片,并生成所述三维面片模型。
9.根据权利要求1至8中任一项所述的图像处理装置,其中,
所述处理器进行如下处理:
计算所述三维面片模型中的所述面片的物理尺寸。
10.根据权利要求9所述的图像处理装置,其中,
所述处理器进行如下处理:
根据与所述图像建立有关联的测距信息来计算所述面片的物理尺寸。
11.根据权利要求9所述的图像处理装置,其中,
所述处理器进行如下处理:
根据所述图像中所包含的基准点的信息来计算所述面片的物理尺寸。
12.根据权利要求1至11中任一项所述的图像处理装置,其中,
所述损伤为裂纹,测量所述裂纹的宽度和/或长度。
13.根据权利要求12所述的图像处理装置,其中,
所述处理器进行如下处理:
提取所述裂纹连续的所述面片,将在所提取的各所述面片中求出的校正后的所述裂纹的长度进行加算以进一步测量连续的所述裂纹的长度。
14.一种图像处理方法,其进行如下步骤:
获取由相机从多个视点使摄影范围重叠而拍摄被摄体所获得的多个图像;
从所获取的多个所述图像中检测所述被摄体的表面的损伤;
对所获取的多个所述图像进行分析,并生成特征点的三维的点云数据;
根据所生成的所述点云数据来生成所述被摄体的三维面片模型;
从所获取的多个所述图像中选出与所述三维面片模型的各面片对应的图像;
测量在所选出的所述图像中与所述面片对应的区域中的所述损伤的尺寸;
根据连接拍摄所选出的所述图像时的所述相机的位置与所述面片的相机矢量a和所述面片的法线矢量b来生成校正所述损伤的尺寸的测量结果时所需的校正信息;及
根据所生成的所述校正信息来校正所述损伤的尺寸的测量结果。
15.一种图像处理程序,其使计算机实现如下功能:
获取由相机从多个视点使摄影范围重叠而拍摄被摄体所获得的多个图像;
从所获取的多个所述图像中检测所述被摄体的表面的损伤;
对所获取的多个所述图像进行分析,并生成特征点的三维的点云数据;
根据所生成的所述点云数据来生成所述被摄体的三维面片模型;
从所获取的多个所述图像中选出与所述三维面片模型的各面片对应的图像;
测量在所选出的所述图像中与所述面片对应的区域中的所述损伤的尺寸;
根据连接拍摄所选出的所述图像时的所述相机的位置与所述面片的相机矢量a和所述面片的法线矢量b来生成校正所述损伤的尺寸的测量结果时所需的校正信息;及
根据所生成的所述校正信息来校正所述损伤的尺寸的测量结果。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021-063672 | 2021-04-02 | ||
JP2021063672 | 2021-04-02 | ||
PCT/JP2022/010616 WO2022209709A1 (ja) | 2021-04-02 | 2022-03-10 | 画像処理装置、画像処理方法及び画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117098971A true CN117098971A (zh) | 2023-11-21 |
Family
ID=83456066
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280022317.8A Pending CN117098971A (zh) | 2021-04-02 | 2022-03-10 | 图像处理装置、图像处理方法及图像处理程序 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230419468A1 (zh) |
JP (1) | JPWO2022209709A1 (zh) |
CN (1) | CN117098971A (zh) |
DE (1) | DE112022000936T5 (zh) |
WO (1) | WO2022209709A1 (zh) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3304336B2 (ja) | 2000-09-13 | 2002-07-22 | 東北ポール株式会社 | 立設コンクリートポールにおける外観劣化の記録方法、及びこれを用いた外観劣化の経年変化記録システム |
JP2011124965A (ja) * | 2009-12-11 | 2011-06-23 | Advas Co Ltd | 被写体寸法測定用カメラ装置 |
JP2015114954A (ja) * | 2013-12-13 | 2015-06-22 | 株式会社ジオ技術研究所 | 撮影画像解析方法 |
JP6626970B2 (ja) * | 2016-06-14 | 2019-12-25 | 富士フイルム株式会社 | サーバ装置、画像処理システム及び画像処理方法 |
JP7207073B2 (ja) * | 2019-03-27 | 2023-01-18 | 富士通株式会社 | 点検作業支援装置、点検作業支援方法及び点検作業支援プログラム |
-
2022
- 2022-03-10 DE DE112022000936.5T patent/DE112022000936T5/de active Pending
- 2022-03-10 WO PCT/JP2022/010616 patent/WO2022209709A1/ja active Application Filing
- 2022-03-10 JP JP2023510797A patent/JPWO2022209709A1/ja active Pending
- 2022-03-10 CN CN202280022317.8A patent/CN117098971A/zh active Pending
-
2023
- 2023-09-13 US US18/466,620 patent/US20230419468A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
JPWO2022209709A1 (zh) | 2022-10-06 |
US20230419468A1 (en) | 2023-12-28 |
WO2022209709A1 (ja) | 2022-10-06 |
DE112022000936T5 (de) | 2023-12-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Riquelme et al. | Identification of rock slope discontinuity sets from laser scanner and photogrammetric point clouds: A comparative analysis | |
CN113252700B (zh) | 一种结构裂缝检测方法、设备及系统 | |
JP5832341B2 (ja) | 動画処理装置、動画処理方法および動画処理用のプログラム | |
CN111583411A (zh) | 一种基于倾斜摄影的三维模型建立方法 | |
CN111260615B (zh) | 基于激光和机器视觉融合的无人机桥梁表观病害检测方法 | |
CN104574393B (zh) | 一种三维路面裂缝图像生成系统和方法 | |
JP7412983B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP6970817B2 (ja) | 構造物管理装置、構造物管理方法、及び構造物管理プログラム | |
CN109671109B (zh) | 密集点云生成方法及系统 | |
KR101453143B1 (ko) | 스테레오 매칭 처리 시스템, 스테레오 매칭 처리 방법, 및 기록 매체 | |
Ioli et al. | UAV photogrammetry for metric evaluation of concrete bridge cracks | |
Feng et al. | Crack assessment using multi-sensor fusion simultaneous localization and mapping (SLAM) and image super-resolution for bridge inspection | |
US20240257315A1 (en) | Information processing apparatus, method, and program, and image data structure | |
CN111445513A (zh) | 基于深度图像的植株冠层体积获取方法、装置、计算机设备和存储介质 | |
CN117522853A (zh) | 光伏电站的故障定位方法、系统、设备及存储介质 | |
CN111583388A (zh) | 一种三维扫描系统的扫描方法及设备 | |
CN117098971A (zh) | 图像处理装置、图像处理方法及图像处理程序 | |
JP4747293B2 (ja) | 画像処理装置および画像処理方法並びにこれらに用いるプログラム | |
WO2022173285A1 (en) | Determining deformations of quay walls using a photogrammetric system | |
CN209279912U (zh) | 一种物体三维信息采集装置 | |
CN114111602A (zh) | 一种基于图像技术的桥梁表面裂缝宽度计算方法 | |
JP7550733B2 (ja) | 割れ目評価方法 | |
JP7433623B2 (ja) | 構造物画像管理システム | |
KR102541678B1 (ko) | 무인 비행체를 이용한 깊이 맵 기반의 디지털 외관 조사망도 구축 및 구조물 물량 산출 장치 및 방법 | |
JP7399632B2 (ja) | 撮影処理装置、及び撮影処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |