CN107709158A - 用于自动检查表面的系统和方法 - Google Patents
用于自动检查表面的系统和方法 Download PDFInfo
- Publication number
- CN107709158A CN107709158A CN201680034120.0A CN201680034120A CN107709158A CN 107709158 A CN107709158 A CN 107709158A CN 201680034120 A CN201680034120 A CN 201680034120A CN 107709158 A CN107709158 A CN 107709158A
- Authority
- CN
- China
- Prior art keywords
- robot
- group
- module
- planes
- checked
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 36
- 230000007547 defect Effects 0.000 claims abstract description 58
- 238000007689 inspection Methods 0.000 claims description 66
- 238000012545 processing Methods 0.000 claims description 43
- 238000001514 detection method Methods 0.000 claims description 17
- 238000006073 displacement reaction Methods 0.000 claims description 15
- 230000004888 barrier function Effects 0.000 claims description 10
- 238000004891 communication Methods 0.000 claims description 10
- 238000005096 rolling process Methods 0.000 claims description 7
- 238000001429 visible spectrum Methods 0.000 claims description 6
- 230000008859 change Effects 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 3
- 235000013399 edible fruits Nutrition 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 230000007797 corrosion Effects 0.000 description 2
- 238000005260 corrosion Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- APTZNLHMIGJTEW-UHFFFAOYSA-N pyraflufen-ethyl Chemical compound C1=C(Cl)C(OCC(=O)OCC)=CC(C=2C(=C(OC(F)F)N(C)N=2)Cl)=C1F APTZNLHMIGJTEW-UHFFFAOYSA-N 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 241000208340 Araliaceae Species 0.000 description 1
- 241001269238 Data Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000006378 damage Effects 0.000 description 1
- 230000003628 erosive effect Effects 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000008450 motivation Effects 0.000 description 1
- 238000000465 moulding Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 239000003973 paint Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000035939 shock Effects 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64C—AEROPLANES; HELICOPTERS
- B64C39/00—Aircraft not otherwise provided for
- B64C39/02—Aircraft not otherwise provided for characterised by special use
- B64C39/024—Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64F—GROUND OR AIRCRAFT-CARRIER-DECK INSTALLATIONS SPECIALLY ADAPTED FOR USE IN CONNECTION WITH AIRCRAFT; DESIGNING, MANUFACTURING, ASSEMBLING, CLEANING, MAINTAINING OR REPAIRING AIRCRAFT, NOT OTHERWISE PROVIDED FOR; HANDLING, TRANSPORTING, TESTING OR INSPECTING AIRCRAFT COMPONENTS, NOT OTHERWISE PROVIDED FOR
- B64F5/00—Designing, manufacturing, assembling, cleaning, maintaining or repairing aircraft, not otherwise provided for; Handling, transporting, testing or inspecting aircraft components, not otherwise provided for
- B64F5/60—Testing or inspecting aircraft components or systems
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/0094—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/10—Simultaneous control of position or course in three dimensions
- G05D1/101—Simultaneous control of position or course in three dimensions specially adapted for aircraft
- G05D1/104—Simultaneous control of position or course in three dimensions specially adapted for aircraft involving a plurality of aircrafts, e.g. formation flying
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U10/00—Type of UAV
- B64U10/10—Rotorcrafts
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2101/00—UAVs specially adapted for particular uses or applications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2101/00—UAVs specially adapted for particular uses or applications
- B64U2101/30—UAVs specially adapted for particular uses or applications for imaging, photography or videography
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2201/00—UAVs characterised by their flight controls
- B64U2201/10—UAVs characterised by their flight controls autonomous, i.e. by navigating independently from ground or air stations, e.g. by using inertial navigation systems [INS]
- B64U2201/102—UAVs characterised by their flight controls autonomous, i.e. by navigating independently from ground or air stations, e.g. by using inertial navigation systems [INS] adapted for flying in formations
Abstract
本发明涉及一种用于自动检查物体的表面的系统,所述物体诸如为飞机(54)、运输车辆、建筑物或工程结构,所述表面易于包含缺陷。该系统的特征在于其包括具有至少一个飞行机器人(14a,14b,14c)的机群,每个飞行机器人包括用于采集待检查表面的至少一部分的图像的模块以及用于处理所采集的图像的模块,该模块适于提供表示每个被检查表面部分的状态的信息,所述信息被称为处理结果。
Description
技术领域
本发明涉及一种用于自动检查大型物体的系统和方法。特别地,本发明涉及在所述大型物体的难以到达的表面上的缺陷的检测和定位。
背景技术
本发明的技术领域涉及在诸如例如飞机、轮船、火车、机动车辆、建筑物或工程结构的大型物体的外表面的大表面上检测和定位人眼可见的缺陷。一般而言,术语“物体”在本文中应该被理解为通过视觉和触觉可以察觉的、由人制造的并且旨在用于特定的用途的有形的东西。大的物体,即其尺寸、体积和/或重量不允许它们由人携带的物体,通常具有难以到达的表面,例如建筑物或工程结构的位于高处的部分、大型船舶的外壳、石油平台的结构或列车段或飞机机身和机翼的上部。因此,在这种类型的大型物体上检测和定位人眼可见的缺陷存在几个问题,特别是涉及到获得表面的视觉访问、在与物体相关的坐标系中检测缺陷和定位缺陷的问题。待检测的缺陷例如是由雷击、冰雹、鸟类或碎片引起的撞击、或者腐蚀、侵蚀、油漆流动或裂缝缺陷等。
通过检查物体的表面来检测和定位缺陷。已经提出了多种检查系统和方法来克服这些问题。
一般来说,检查目前是由操作人员进行的。使用特定的设备来为所述操作人员提供对表面的视觉访问,例如使用动臂装卸机或脚手架等。对于更难以到达的表面,例如,操作人员也可能需要使用双筒望远镜或等效的光学器件。
操作人员经过专门培训,通过检查表面来检测缺陷。因此这些缺陷的检测依赖于操作人员的经验和感知。一旦检测到缺陷,操作人员负责定位所述缺陷,即负责记录检测到的缺陷的绝对位置,或者更常见的是记录其相对于物体上存在的一个或多个参考点的位置。这些参考点可以例如取决于被检查物体的类型、窗口或舷窗、诸如电缆、支柱、柱、框架、翼梁、纵梁、文本标记或特定区别元件等的结构元件。如此,通过首先确定至少一个参考点,然后通过测量缺陷相对于每个参考点的位置来定位缺陷。
然而,由一个或多个操作人员进行的这些检查有几个缺点。
安装诸如脚手架的特定设备以便获得对表面的视觉访问是耗时且昂贵的,并且不能系统地提供对待检查表面的容易接近。为了克服这个缺点,使用双筒望远镜或等效的光学器件是不令人满意的,因为这会降低检查的效率。此外,特定设备的使用通常会增加操作人员的安全风险,特别是摔落或挤压的风险,或使用特定设备(如动臂装卸机或脚手架)带来的任何其他风险。特定设备也会对物体产生风险,特别是能够导致劣化的碰撞风险。根据物体的脆性,这种劣化可能具有重大的负面影响,例如制动或搁浅(用于车辆和飞机),昂贵的维修或永久性的停止操作。这些缺点和风险随着操作人员数量的增加而变得更加重要。
此外,由操作人员执行的检测是不完善的,因为操作人员可能忘记视觉扫描表面的一部分,特别是如果表面难以到达。操作人员也可以根据是否容易到达表面来不均等地处理表面。最后,每个操作人员的主观性可能导致对所感知的元素(例如主要缺陷、轻微缺陷、正常磨损或标记)的不同分类,这可能导致操作人员忽略或仅仅迟误地检测到某些缺陷。此外,操作人员必须接受专门的检查培训,这减少了能够进行检查的操作人员的数量,并且需要对经过培训的操作团队的可用性和成本进行额外的管理。
最后,定位技术可能产生错误,特别是关于参考点的选择和识别,例如,如果该选择需要大量重复元素被计数(舷窗,窗口,柱等),这可以添加到从一个或多个参考点进行测量时所产生的常规误差。
用现有的系统和方法进行的检查也受到额外的速度问题的影响。目前的检查通常要求物体的操作在很长一段时间内暂停。为了提高检查速度,必须增加负责进行这种检查的操作人员的数量,这尤其会产生额外的成本并增加上述的风险。
已经提出了解决方案来克服这些缺点。例如,使用配备有光学器件的滚动机器人来更好地检测和定位缺陷,从而降低检测和定位确定误差的主观性。然而,只要需要操作人员介入以进行每次检测,则获取视觉访问的问题依然存在,并且该方法是缓慢的。另一种解决方案涉及将待检查的物体放置在配备有能够检查物体表面的多个照相机的机库中。但是该系统不能用于建筑和工程结构,不能移动,也不能模块化。特别地,这样的系统要求待检查的物体(例如飞机)被运输到机库,这是昂贵且复杂的。
发明人因此试图提出克服已知系统和方法的至少一些缺陷的检查系统和方法。
发明目的
本发明的目的是克服用于检查表面的已知系统和方法的至少一些缺点。
具体而言,本发明的目的是在其至少一个实施例中提供限制所需操作人员的数量的检查系统和方法。
本发明进一步旨在于至少一个实施例中提供用于检查难以到达的表面而不需要实施诸如脚手架的特定设备的检查系统和方法。
本发明还旨在于其至少一个实施例中提供用于快速检查大型表面的检查系统和方法。
本发明进一步旨在于至少一个实施例中提供一种检查系统和方法,其允许经过很少或没有经过培训的操作人员进行检查。
本发明进一步旨在于至少一个实施例中提供一种用于更好地定位表面上的缺陷的检查系统和方法。
本发明进一步旨在于至少一个实施例中提供一种检查系统和方法,其提供缺陷检查和检测的增加的可重复性。
发明描述
为此目的,本发明涉及一种用于自动检查物体的表面的系统,所述物体诸如为飞机、运输车辆、建筑物或工程结构,所述表面易于包含缺陷,其特征在于,所述系统包括机群,该机群至少一个飞行机器人,每个飞行机器人包括:
-用于采集待检查表面的至少一部分的图像的模块,以及
-用于处理所采集的图像的模块,该模块适合于提供表示每个被检查表面部分的状态的信息,所述信息被称为处理结果,
所述自动检查系统还包括用于管理所述机器人的机群的模块,所述管理模块适于从所述待检查表面的模型确定针对所述机群的每个机器人的一组位移指令和图像采集指令。
因此根据本发明的自动检查系统允许经由一个或多个飞行机器人(通常称为无人驾驶飞机或无人驾驶飞行器)进行检查;因此检查系统显著地减少了所需的操作人员的数量,因为所述机群的每个飞行机器人检查待检查物体的表面的一部分。因此,除了降低操作人员的安全风险之外,还减少了所需设备的数量。
此外,飞行机器人在空中移动的能力允许它们容易地接近物体的难以到达的表面部分,例如飞机或火车的上部。这些部分因此受益于类似于更容易到达的部分的高质量检查。
通过使用适合于待检查表面的尺寸的多个飞行机器人,飞行机器人的机群的使用提高了检查速度,特别是对于非常大的表面。然而,诸如现有系统的空中升降机和脚手架的特定设备的大的尺寸限制了能够同时执行检查的操作人员的数量,飞行机器人的减小的尺寸允许使用更多数量的这些机器人以便执行更快的检查。而且,该系统重量轻,易于运输,因此是可移动的,即它可以移动到物体上,而不需要将物体移动到特定的位置。
由飞行机器人的采集模块采集的数据的处理,特别是被检查表面的一部分的至少一个图像的处理发生在飞行机器人上的处理模块中,这加速了缺陷的检查和检测,限制检查所需的操作人员的数量,并且允许对表面进行更均匀的检查和检测。处理操作提供表示被检查表面的状态的信息,并且特别地确定表面上可能的缺陷的存在;该确定不依赖于操作人员的主观性,因此提供了更一致的检查。此外,检查不再需要经过专门培训的操作人员进行检查。
表示由处理模块提供的被检查表面的状态的信息在下文中被称为处理结果。特别地,处理结果包括在被检查的表面部分上是否存在潜在的缺陷。
通过每个飞行机器人执行的处理操作,具有很少或没有受过训练的操作人员可以确认处理结果,并且只关注表面上显示潜在缺陷的部分,而不需要目视检查表面或查看所有表面部分的图像。此外,每个飞行机器人仅能发送处理结果,而不发送整个表面的图像,这减少了整个系统内传送的数据量,并允许使用大量的飞行机器人以加快检查。处理负荷因此分布在每个飞行机器人中。
优选地,飞行机器人是能够静止飞行的直升机或多旋翼(通常是四旋翼)型机器人。这种类型的飞行机器人允许在减小的表面区域上方便地起飞和着陆,以可变的速度尤其是以低速移动以更精确地定位缺陷并提高安全性,并且能够停止和改变方向,或者在其轨迹中存在障碍物的情况下沿相反方向行进。固定的飞行或低速飞行进一步简化了图像采集,并且提高了所采集图像的质量。
有利地并且根据本发明,机群包括一到十个飞行机器人。优选地,机群包括三个飞行机器人,这是飞行机器人执行速度、成本和减少飞行机器人之间碰撞风险之间的良好折中。
管理模块被设计用于通过例如根据机群的可用机器人的数量、待检查的物体的类型、待检查的表面的尺寸和检查时间等确定机群的每个机器人的指令来对检查进行集中编程。每条指令确定每个机器人要执行的任务。因此,机群的机器人通过执行分配给它的任务而被自动驾驶。它们不需要操作人员来控制,因此减少了对操作人员培训的需要,另外还降低了飞行错误的风险,例如飞行错误可能导致机群的机器人之间或机群的机器人和物体之间的碰撞。而且,每个机器人可以在不需要操作人员与每个机器人之间的视觉接触的情况下执行检查。因此,每个机器人特别是每个机器人的控制模块自动执行任务,包括位移任务,因此允许机器人以自主的方式移动,而不需要远程的飞行员或控制站。
优选地,管理模块根据机群的机器人的数量来确定指令,使得在最短的时间内执行检查。
根据本发明的替代实施例,管理模块可以在机群的机器人上,或者并入独立的管理装置,例如计算机,或者分布在机群的各种机器人之间。
优选地,在其中管理模块被并入用于管理机群的机器人的独立装置的替代实施例中,管理装置包括允许与操作人员交互的人机界面。
有利地并且根据本发明,所述机群的至少一个机器人的图像采集模块包括适合于采集可见光谱内的图像的至少一个照相机。
根据本发明的这个方面,照相机允许系统以与操作人员相同的方式进行视觉检查。该系统对可见光谱内的图像(被称为可见图像)执行图像处理操作,允许使用已知的、有效且可靠的可视图像处理技术。
有利的是,根据本发明的系统包括用于呈现由机群的每个机器人的处理模块执行的每个处理操作的结果的装置,并且机群的每个机器人包括适于将每个处理操作的结果发送到呈现装置的通信模块。
根据本发明的这个方面,每个飞行机器人将对所采集的图像执行的处理操作的结果发送到呈现装置,以使得操作人员可以解释它们。考虑到由机群的每个机器人发送的结果代表被检查表面的状态,它们特别允许提出分类以对检测到的潜在缺陷进行分类,并且例如允许采集的图像、相关的结果和潜在缺陷的分类显示在呈现装置的屏幕上,或者允许生成包括所检测到的潜在缺陷列表的报告。
有利地,在其中管理模块被并入到管理装置中的一个实施例中,管理装置和呈现装置被布置在控制装置中。因此,管理模块和呈现装置的功能被一起组合在同一装置中。
有利地,所述控制装置包括人机界面,所述人机界面适于显示待检查表面的3D模型,并且适于实时地显示所述机群的每个机器人相对于待检查表面的位置的表示。
根据本发明的这个方面,人机界面允许操作人员查看每个飞行机器人相对于物体及其表面的位置,查看显示在3D模型上的潜在缺陷,并且例如为了执行紧急停止,必要时可能对飞行机器人进行远程干预。
有利地并且根据本发明,机群的每个机器人包括位置确定模块,所述位置确定模块适于将每个处理结果与所述处理结果相对于关于待检查表面的坐标系的位置进行组合。
根据本发明的这个方面,与根据现有技术由操作人员确定的位置相比,该系统允许更精确地确定处理结果的位置,并且因此确定潜在缺陷的位置。结果的位置由机群的每个机器人根据所述机器人的位置以及图像采集时图像采集模块的参数来确定。
根据本发明的替代实施例,图像处理模块被设计成识别其位置已知的物体的元件,从而更精确地确定结果的位置。
如果检查系统包括呈现装置,则所述装置适于呈现每个结果和与所述结果相关联的位置。
有利地并且根据本发明,机群的每个机器人包括紧急模块,所述紧急模块适于检测机器人故障,并且利用根据机群的机器人相对于物体的位置确定的一组紧急任务,机群的每个机器人能够在发生故障的情况下执行至少一项紧急任务。
根据本发明的这个方面,紧急调动被连续地确定,并且机器人将在发生故障的情况下执行这种紧急调动,例如在与管理模块的连接中断的情况下,位置确定模块故障或发动机故障等的情况下。紧急调动被设计成防止表面正被检查的物体的劣化,特别是如果该表面是脆弱的(例如飞机)。紧急任务的目的通常是将机器人与物体隔开,并且它们取决于机器人相对于物体的位置。根据本发明的多个替代实施例,所有紧急任务由管理模块或由每个机器人确定。在每个机器人确定所有的紧急任务的情况下,每个机器人将所有任务发送给管理模块,以便其能够确定机器人是否由于这些任务的结果而存在与另一个机器人相撞的风险。
有利地并且根据本发明,机群的每个机器人都包括缓冲存储器模块,所述缓冲存储器模块适于存储多个处理结果。
根据本发明的这个方面,处理结果可以在等待发送到外部备份系统时被存储,例如被合并到呈现装置中。而且,在机器人发生故障的情况下,存储在缓冲存储器模块中的结果如果还没有被发送,则可以被手动恢复。
有利地并且根据本发明,机群的每个机器人包括障碍物检测模块,由此机群的每个机器人适于执行避让任务以避开由障碍物检测模块检测到的至少一个障碍物。
根据本发明的这个方面,如果检测到障碍物,则每个飞行机器人都能够修改其位移。
优选地,如果障碍物检测模块检测到障碍物,则机群的每个机器人能够将所述障碍物的位置发送到机群的其他机器人。因此,关于障碍物的位置的信息被共享,并且机群的机器人可以相应地进行操作,例如通过修改它们的轨迹。
有利地并且根据本发明,机群包括至少一个滚动机器人,每个滚动机器人包括:
-用于采集待检查表面的至少一部分的图像的模块,以及
-用于处理所采集的图像的模块,该模块适于提供表示被检查表面的每个部分的状态的信息,所述信息被称为处理结果。
根据本发明的这个方面,包括至少一个飞行机器人的机群可以由包括相同模块的滚动机器人来补充,以便进入飞行机器人难以到达的区域,例如飞机机身下方。
本发明还涉及一种使用根据本发明的自动检查系统的方法,其特征在于包括:
-由所述管理模块确定分配给所述机群的每个机器人的一组指令的步骤,
-由所述机群的每个机器人执行所述任务的步骤,所述任务包括由所述采集模块对待被检查的表面的一部分的图像执行的至少一个采集,并且包括由处理模块对所述图像执行的至少一个处理操作,以便检测待检查表面上的潜在缺陷,
-将每个机器人的所述处理操作的结果发送给呈现装置的步骤,
-将所述处理结果呈现给操作人员的步骤。
根据本发明的使用方法因此允许根据本发明的检查系统通过根据待检查的面的模型将任务分配给机群的每个机器人来使用,以优化表面检查速度。例如,每个机器人被分配一部分表面进行检查。
呈现由机群的机器人之一发送的结果的步骤例如是屏幕显示或报告的生成等。
有利地并且根据本发明,在由处理模块进行的每个处理操作之后执行由每个机器人发送所述处理操作的结果的步骤。
根据本发明的这个方面,在每个处理操作之后立即发送结果,从而允许随着时间逐渐地获得潜在缺陷的存在的信息,而不用等待检查完成。尽快进行发送,即,如果所述信道在多个飞行机器人之间共享,则考虑到不同的处理时间和分配给发送的发送信道的可用性。
本发明还涉及一种用于自动检查物体的表面的方法,所述物体诸如为飞机、运输车辆、建筑物或工程结构,所述表面易于包含缺陷,其特征在于,所述方法包括:
–由包括至少一个飞行机器人的机器人的机群的每个飞行机器人采集待检查表面的至少一部分的图像的步骤,以及
-处理所采集的图像以提供表示每个被检查表面部分的状态的信息的步骤,所述信息被称为处理结果。
-基于待检查表面的模型来确定针对机群的每个机器人的一组位移指令和图像采集指令的步骤。
有利地,根据本发明的检查方法由根据本发明的检查系统来实施。
有利地,根据本发明的检查系统实施根据本发明的检查方法。
本发明还涉及联合地表征在于上文或下文公开的全部或部分特征的一种自动检查系统、使用所述系统的方法和自动检查方法。
附图说明
本发明的其它目的、特征和优点将通过阅读下面的描述而得到更好的理解,所述描述不是为了限制本发明,并参照附图给出,其中:
-图1是根据本发明的一个实施例的自动检查系统的示意图,
-图2是根据本发明的一个实施例的自动检查系统的机群的机器人的示意图,
-图3是根据本发明的一个实施例的自动检查方法的示意图,
-图4是根据本发明的一个实施例的自动检查系统的机器人机群的示意图,其中该物体是飞机。
具体实施方式
以下实施例是示例。尽管描述涉及一个或多个实施例,但是这不一定意味着每个引用涉及相同的实施例,或者该特征仅适用于单个实施例。不同实施例的简单特征也可以被组合以提供其它实施例。为了说明和清楚的目的,在图中没有严格遵守尺度和比例。
图1示意性地示出了根据本发明的一个实施例的用于自动检查诸如飞机、运输车辆(轨道车辆,机动车辆等)、建筑物、工程结构或任何其他大型物体之类的物体的表面的系统10,该物体的检查表面很大。检查系统10的目的是检测物体表面上的潜在缺陷。检查系统10包括机群12,机群12包括至少一个飞行机器人,并且在这种情况下是三个飞行机器人14a、14b、14c。机群12还可以包括一个或多个不同类型的机器人,例如滚动机器人16,或适用于待检查物体的任何其他机器人,例如用于检查石油平台的潜艇机器人。飞行机器人14a、14b、14c通常也被称为无人驾驶飞机或无人飞行器(UAV),并采取能够静止飞行的直升机、四旋翼飞行器或多旋翼飞行器的形式。为了降低在与机群12的机器人发生碰撞的情况下损坏物体的风险,所述机器人装备有保护装置。
机群12的每个机器人14a、14b、14c、16能够与管理模块18和呈现装置20两者通信。在另一个未示出的实施例中,管理模块18在机群12的机器人之一上。
在该实施例中,管理模块18和呈现装置20被连接到可以经由电信网络访问的网页服务器22。而且,管理模块18和呈现装置20可以被嵌入到相同的控制装置中,例如计算机或平板电脑。
操作人员24可以经由一个或多个人机界面与管理模块18和呈现装置20交互。除了机器人14a、14b、14c、16以及检测到的任何潜在缺陷的实时位置之外,界面还包含交互式3D显示器,包括待检查物体的3D模型。
图2图解地图示了根据本发明一个实施例的机群12的机器人14。
机器人14包括用于采集待检查表面的图像的模块26和用于处理获取的图像的模块28。图像采集模块26包括至少一个传感器,例如被设计为采集可见光谱内的图像的照相机。为了改善所采集图像的质量,采集模块还可以包括用于提供可见光谱内的光的照明装置。
而且,在本发明的这个实施例中,机器人14包括:
-紧急模块30,适用于检测故障,
-用于与管理模块18和呈现装置20通信的通信模块32,
-用于控制机器人的控制模块34,控制模块适于处理用于驾驶机器人的指令,所述指令源自管理模块18或源自机器人14上的其它模块,
-位置确定模块36,
-用于稳定和引导机器人的模块38,模块38特别是根据由控制模块34发送的位移指令来控制机器人14的电动机,
-缓冲存储器模块40,
-障碍物检测模块42。
这些模块例如以电子部件的形式存在,由此多个模块可以被分组成相同的电子部件,并且由此模块可以由多个相互作用的电子部件组成。这些模块还可以以由一个或多个电子部件(例如计算机处理器、微控制器、数字信号处理器(DSP)或现场门可编程阵列(FGPA)等)执行的计算机程序的形式来实现。
图3示出根据本发明的一个实施例的用于自动检查物体的表面的方法。该方法由根据前述实施例的自动检查系统10来实现。
该方法的第一步骤是用于配置检查的步骤44,并且由操作人员24在管理模块上经由人机界面执行。操作人员24可以访问多个参数,例如:
–待检查物体:操作人员24从例如在网页服务器22上可被访问的一系列预定义模型中选择待检查物体的表面的模型,例如3D模型;
-物体的环境:操作人员24可以输入物体是位于室外还是位于机库中等,以便确定机器人是否受到关于其关于物体位移的特定限制(例如障碍物);
-机群12的描述:使用的机器人的数量及其类型(飞行机器人或地面机器人,配备有特定类型的采集模块或传感器等);
-要执行的任务:快速检查,深入检查,部分检查等。
一旦参数已经被操作人员24验证,检验方法就转到步骤46以确定一组指令。该确定步骤46由管理模块18执行。该步骤包括根据由操作人员24在前面的步骤中所选择的参数,特别是根据待检查表面的模型,来确定分配给机组12的每个机器人的一组位移指令和一组图像采集指令。因此检查被分解为各种任务,这些任务根据所述表面的模型被转换成发给机群12的机器人的指令,为待检查的整个表面提供了覆盖。位移指令包含用于定义除飞行机器人的取向之外的三维轨迹的指示。这些位移指令例如是飞行机器人以恒定取向从点A(具有坐标(Ax,Ay,Az))到点B(具有坐标(Bx,By,Bz))的位移。用于在点B处采集物体的表面的图像的指令包括例如关于图像采集模块的控制的指示,特别是其在空间中的取向,其光学和捕捉系统的设置以及触发指示。指令因此可以是用于处理所述采集的图像、到新点C(具有坐标(Cx,Cy,Cz))的位移以及新的图像采集等的处理操作。因此,管理模块18允许基于参考表面为飞行机器人的机群生成指令,以允许所述飞行机器人以自动方式进行检查。
分配给机群12的每个机器人的指令通过管理模块18被传输到所述机器人,以便允许关联到所述指令的任务在步骤48中被执行以由机群12的每个机器人执行任务。根据实施例,每个机器人在执行步骤48之前接收分配给其的所有指令,或仅接收指令的第一部分,由此在执行步骤48期间发送随后的指令。在这两种情况下,管理模块18都可以在情况发生变化的情况下通过发送新的指令来改变当前正在执行的任务,例如,如果原本打算采集所述表面部分的图像的机器人正在经历故障,则可以将新的表面部分分配给机器人。机群12的机器人还可以向管理模块18发送关于所述机器人的状态、任务完成进度以及能够导致由管理模块18发送新指令的任何其他信息的信息。
机群12的每个机器人的任务由所述机器人的控制模块34处理。具体地,控制模块34存储接收的指令、对所述指令进行排序、执行与所述指令链接的计算以确定相关联的任务、根据任务控制不同的模块、以及计算机器人的状态等。因此,控制模块34自动执行包括位移任务在内的任务,并因此允许机器人以自主方式移动,而不需要自动驾驶系统或控制站。
在执行步骤48期间,机群12的每个机器人通过其采集模块26执行至少一次图像采集以及经由其处理模块28对采集的图像进行处理操作。
图像由采集模块26的一个或多个传感器采集,根据所使用的传感器允许获得不同的图像类型。例如,传感器可以是红外传感器、用于可见光谱的照相机、紫外线传感器、或允许在频带中形成电磁波或声波图像的任何其它传感器。传感器也可以是3D传感器,例如深度传感器、飞行时间(TOF)传感器、红外图案投影传感器或立体传感器等。最后,传感器可以在多个频谱上采集相同部分的图像(高光谱成像)。
处理模块28对图像的处理包括提供代表检查表面状态的结果。处理模块28因此根据所采集的图像确定表面上潜在缺陷的存在,例如通过将所采集的图像与同一表面的先前图像(从网页服务器恢复或由管理模块提供)进行比较,或者通过检测颜色或外观(细度,颗粒,模糊,光泽等)的突然变化等。
处理模块28使用预定义的和预先配置的算法。例如,根据本发明的一个实施例,处理模块28针对每个图像执行以下步骤:
-对图像进行归一化的第一步骤,该第一步骤包括应用被配置为图像参数的函数的第一组数字滤波器,旨在补偿外部变化(照明等),减少干扰的影响(反射等),并且补偿由透镜引起的变形(几何形状和光照),
-定位图像的第二步骤,该第二步骤基于机器人的定位(即,机器人在空间中的位置和机器人的取向角度)、采集模块26的采集传感器(例如照相机)的位置和角度、以及照相机与表面之间的距离,来确定相对于图像点集合的表面在坐标系中的坐标,
-第三步骤,该第三步骤分割图像并提取能够表示潜在缺陷的所有形状的轮廓,并且为每个所述形状生成包含潜在缺陷的子图像(也称为感兴趣区域)。一个图像可以导致不产生感兴趣区域或产生多个感兴趣区域。
处理模块然后针对图像的每个感兴趣区域根据预先记录的算法计算一组参数,然后基于这组参数分类和表征感兴趣区域。可以选出除感兴趣区以外不需要任何数据以及将其计算的参数称为描述符的算法。对于每个参数,执行以下步骤:
-应用数字滤波器,
-计算经滤波的感兴趣区域上的参数。
根据所需的参数选择过滤器。例如,数字滤波器是用于降低噪声的高斯滤波器、用于检测突然变化的梯度型滤波器、仅用于计算某些频率组合的描述符的比色滤波器、以及用于检测某些图案、重复或纹理的频率滤波器。
例如,使用几个描述符族:
-几何描述符(周长、最大尺寸、最小尺寸、宽度/高度比、轮廓中断裂的数量、轮廓的平均曲率等),
-直接涉及像素的描述符:统计矩(均值、方差、不对称、峰度等)和其他数学运算符(最大值、阶差、熵、均匀度等)。描述符还可以应用于满足特定标准的像素的子组件,例如大于或小于预定阈值的值。
关于使用其他外部数据来计算参数,算法包括例如以下步骤:
-通过从参考图像提取与处理的感兴趣区域相同的表面区域来确定感兴趣参考区域。参考图像例如可以是在先前的日期(例如在网页服务器22上可用的)所获取的所述区域的图像或者基于表面的模型的计算机生成的图像。根据一个优选实施例,可以使用多个图像,由此为每个参考图像计算参数,
-计算表示所采集的感兴趣区域和每个感兴趣参考区域之间的差异的参数,所述参数例如是关于感兴趣区域和感兴趣参考区域之间的差异的数学范数,相关指数或直方图比较等。这些方法通常在感兴趣区域的感兴趣点周围局部实施。
最后步骤包括从一组计算的参数中分类和表征感兴趣区域。分类包括确定潜在缺陷的类型,例如从以下类别来确定:“油污”、“腐蚀”、“缺失元素”、“雷击”,“划痕”,“不是缺陷”,“未知“等。表征包括例如从预定集合中确定感兴趣区域的类别;除了所述潜在缺陷的大小之外,还包括“可接受的缺陷,不可接受的缺陷”。
分类和表征可以由已知的分类器执行,例如线性分类器、朴素贝叶斯分类器,支持向量机(SVM)分类器或神经网络等。
在该实施例中,被分类为包含缺陷或未知的所有感兴趣区域与其位置、分类和表征一起形成处理结果。
根据一个有利的实施例,可以在具有学习能力的网页服务器上传输结果,学习能力即利用结果逐步改进其算法和设置。因此,该网页服务器能够向模块28发送新的、更精确的设置用于处理所采集的图像,并且能够消除关于分类为差置信指数或分类为“未知”类别的结果的疑虑。
该处理操作的结果是潜在缺陷的检测或未检测,并且可以是根据其严重性对潜在缺陷的分类。每个处理操作的结果被存储在机器人14的缓冲存储器模块40中。
每个结果与由位置确定模块36提供的位置相关联。所述位置根据相对于待检查表面的坐标系来表示,以便由操作人员容易地找到。位置确定模块36用于确定机器人14的定位,并从中推断出所述结果相对于所述定位的位置。机器人14的定位由用于绝对位置确定的一个或多个设备项目(例如全球定位系统(GPS))、一个或多个惯性导航设备项目(例如通过加速度计、陀螺仪或磁力计等)和/或用于相对位置确定的一个或多个设备项目(例如雷达、超声波、激光测距仪、红外线、图像处理、相对于地面标记等)或其组合来确定。然后如上所述,通过图像处理模块确定相对于机器人的位置的结果的位置。机器人的位置和结果的位置可以使用不同技术的组合来确定,这些技术例如通过卡尔曼滤波器进行混合来关联,从而允许更精确地定位结果。
每个处理操作的每个结果和所述结果的位置在结果发送步骤50期间由通信模块32发送到呈现装置20。根据实施例,一旦检查完成就发送结果,或者可以在检查期间连续地发送结果。当发送结果时,呈现装置20向机器人14发送确认,机器人14从其缓冲存储器模块40中删除结果。
然后,结果在呈现步骤52期间通过呈现装置20呈现给操作人员。结果可以以几种形式并且经由不同类型的人机界面呈现,例如包括确定指令所使用的模型(其上定位有潜在缺陷)的3D表示的界面、在屏幕上显示与结果相关联的表面的图像、或生成书面报告的界面等。报告例如包括检测到的潜在缺陷列表、潜在缺陷的位置、潜在缺陷的分类(缺陷类型)以及潜在缺陷的特征(缺陷的大小和严重性)。操作人员然后可以启动使用新参数的另一种自动检查方法,例如以用更精确的方式或者使用新的传感器检查含有检测到的潜在缺陷的部分。每个结果也可以存储在存储器中,以便创建对于同一物体进行的检查的历史日志。这个历史日志可以被发送到网页服务器以供未来潜在地在不同的环境中(例如飞机,其检查可以在不同的地点进行)使用或者用于进一步的处理。
某些情况会导致机群12的每个机器人执行不同于源自管理模块的指令中最初规划的任务的任务。
例如,障碍物检测模块42被设计为检测障碍物并且将任务发送到机器人的控制模块34,该控制模块执行所述任务以避开障碍物,并且可以经由呈现装置20将其报告给操作人员24以及报告给管理模块18,以便其可以在必要时修改机群12的其他机器人的位移,和/或向检测到障碍物的机器人发送新的指令。该机器人也可以直接通知其他机器人。
在发生影响飞行机器人的故障的情况下,紧急模块30还可以将紧急任务发送到控制模块34。紧急模块30被设计成检测故障。适于根据机器人相对于物体的位置,针对每个预期的故障情况确定一组紧急任务,所述确定由紧急模块30或由管理模块18执行。例如,在为具有固定机翼的飞机的情况下,位于机翼上方的飞行机器人将在垂直着陆之前横向地自行离开,而位于飞机下方的机器人将立即着陆。
更具体地说,一组紧急任务例如每秒定期更新,并被设计成根据机器人自身发现的情况来确定由机器人执行的一系列指令。
与位于飞机机翼上方的机器人的位置确定系统错误或丢失相对应的紧急任务考虑到位置误差并且包括具有较大裕度的横向间距以确保机器人与机翼之间不接触。因此,紧急模块被配置为检测大范围的故障并对每个故障执行最适当的响应。
紧急模块30可以检测到的故障例如是数据链路的丢失、机器人定位错误或丢失、功率损失或者电池电量过低等。
图4示意性地示出了根据本发明的一个实施例的自动检查系统的机器人机群,所述自动检查系统实现了根据本发明的一个实施例的自动检查方法,其中该物体是飞机54。示出了三个飞行机器人14a、14b、14c。
确定一组指令的步骤例如允许通过位移和图像采集指令为机群的每个机器人分配任务,所述任务涉及待检查表面的一部分。例如,在所示的实施例中,第一飞行机器人14a检查飞机54的机身的前部58的表面,第二飞行机器人14b检查飞机54的尾部56的表面,第三飞行机器人14c检查飞机54的机翼的部分57的表面。
飞行机器人14a、14b、14c经由通信模块32a、32b、32c通过无线传输与控制装置60通信,控制装置60包括管理模块和呈现模块,操作人员与其交互以监视检查的进度并潜在地查看由飞行机器人14a、14b、14c检测到的潜在缺陷。无线传输通过一个或多个已知通信协议进行,通信协议例如为用于控制传输的Zigbee(IEEE 802.15.4)、用于数据传输的Wi-Fi(IEEE 802.11)、以及用于紧急传输的可能不同的无线电协议(例如在2.4GHz频段中的DSM2/DSMX类型)。
Claims (12)
1.一种用于自动检查物体的表面的系统,所述物体诸如为飞机(54)、运输车辆、建筑物或工程结构,所述表面易于包含缺陷,其特征在于,所述系统包括机群(12),所述机群包括至少一个飞行机器人(14,14a,14b,14c),每个飞行机器人包括:
-用于采集待检查表面的至少一部分的图像的模块(26),以及
-用于处理所采集的图像的模块(28),该模块适于提供表示每个被检查表面部分的状态的信息,所述信息被称为处理结果,
所述自动检查系统还包括用于管理机器人的所述机群(12)的模块(18),所述管理模块(18)适于从待检查表面的模型确定针对所述机群(12)的每个机器人(14,14a,14b,14c,16)的一组位移指令和图像采集指令。
2.根据权利要求1所述的自动检查系统,其特征在于,所述机群的至少一个机器人的所述图像采集模块(26)包括适于采集可见光谱内的图像的至少一个照相机。
3.根据权利要求1或权利要求2所述的自动检查系统,其特征在于,所述自动检查系统包括用于呈现由所述机群(12)的每个机器人(14,14a,14b,14c,16)的每个处理模块(28)执行的每个处理操作的结果的装置(20),并且所述机群(12)的每个机器人(14,14a,14b,14c,16)包括通信模块(32),所述通信模块适于将每个处理操作的结果发送到所述呈现装置(20)。
4.根据权利要求2和权利要求3的组合所述的自动检查系统,其特征在于,所述管理模块(18)和所述呈现装置(20)被布置在控制装置(60)中。
5.根据权利要求4所述的自动检查系统,其特征在于,所述控制装置(60)包括人机界面,所述人机界面适于显示待检查表面的3D模型并且适于实时地显示所述机群的每个机器人相对于待检查表面的位置的表示。
6.根据权利要求1至5中任一项所述的自动检查系统,其特征在于,所述机群的每个机器人包括位置确定模块,所述位置确定模块适于将每个处理结果与所述处理结果相对于关于待检查表面的坐标系的位置相结合。
7.根据权利要求1至6中任一项所述的自动检查系统,其特征在于,所述机群(12)的每个机器人(14,14a,14b,14c,16)包括紧急模块(30),所述紧急模块适于检测机器人故障,并且使用根据所述机群(12)的所述机器人相对于所述物体的位置确定的一组紧急任务,所述机群(12)的所述机器人能够在发生故障的情况下执行至少一项紧急任务。
8.根据权利要求1至7中任一项所述的自动检查系统,其特征在于,所述机群(12)的每个机器人(14,14a,14b,14c,16)包括障碍物检测模块,由此所述机群(12)的每个机器人(14,14a,14b,14c,16)适于执行避让任务以避开由所述障碍物检测模块检测到的至少一个障碍物。
9.根据权利要求1至8中任一项所述的自动检查系统,其特征在于,所述机群(12)包括至少一个滚动机器人(16),每个滚动机器人(16)包括:
-用于采集待检查表面的至少一部分的图像的模块(26),以及
-用于处理所采集的图像的模块(28),该模块适于提供表示被检查表面的每个部分的状态的信息,所述信息被称为处理结果。
10.一种使用根据权利要求1至9中任一项所述的自动检查系统的方法,其特征在于,所述方法包括:
-由所述管理模块(18)确定分配给所述机群(12)的每个机器人(14,14a,14b,14c,16)的一组指令的步骤,
-由所述机群(12)的每个机器人(14,14a,14b,14c,16)执行任务的步骤,所述任务包括由所述采集模块(26)对待检查表面的一部分的图像执行的至少一个采集,并且包括由所述处理模块(28)对所述图像执行的的至少一个处理操作以便检测待检查表面上的潜在缺陷,
-将每个机器人的所述处理操作的结果发送给呈现装置(20)的步骤,
-将所述处理结果呈现给操作人员(24)的步骤。
11.根据权利要求10所述的使用方法,其特征在于,在由处理模块(28)进行的每个处理操作之后执行由每个机器人发送所述处理操作的结果的步骤。
12.一种用于自动检查物体的表面的方法,所述物体诸如为飞机(54)、运输车辆、建筑物或工程结构,所述表面易于包含缺陷,其特征在于,所述方法包括:
-由包括至少一个飞行机器人的机器人的机群(12)的每个飞行机器人(14,14a,14b,14c)采集待检查表面的至少一部分的图像的步骤,以及
-处理所采集的图像以提供表示每个被检查表面部分的状态的信息的步骤,所述信息被称为处理结果,
-基于待检查表面的模型确定针对所述机群(12)的每个机器人(14,14a,14b,14c,16)的一组位移指令和图像采集指令的步骤。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR1555452A FR3037429B1 (fr) | 2015-06-15 | 2015-06-15 | Systeme et procede d'inspection automatique de surface |
FR1555452 | 2015-06-15 | ||
PCT/FR2016/051448 WO2016203151A1 (fr) | 2015-06-15 | 2016-06-15 | Système et procédé d'inspection automatique de surface |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107709158A true CN107709158A (zh) | 2018-02-16 |
Family
ID=54608624
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680034120.0A Pending CN107709158A (zh) | 2015-06-15 | 2016-06-15 | 用于自动检查表面的系统和方法 |
Country Status (15)
Country | Link |
---|---|
US (1) | US10377485B2 (zh) |
EP (1) | EP3308232B1 (zh) |
JP (1) | JP2018521406A (zh) |
KR (1) | KR20180029973A (zh) |
CN (1) | CN107709158A (zh) |
BR (1) | BR112017026528A2 (zh) |
CA (1) | CA2989154C (zh) |
ES (1) | ES2910700T3 (zh) |
FR (1) | FR3037429B1 (zh) |
IL (1) | IL255814B (zh) |
MA (1) | MA42512A (zh) |
PL (1) | PL3308232T3 (zh) |
PT (1) | PT3308232T (zh) |
SG (1) | SG11201709768YA (zh) |
WO (1) | WO2016203151A1 (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108508916A (zh) * | 2018-04-02 | 2018-09-07 | 南方科技大学 | 一种无人机编队的控制方法、装置、设备及存储介质 |
CN108872130A (zh) * | 2018-06-25 | 2018-11-23 | 北京空间飞行器总体设计部 | 基于神经网络的常用飞行器表面材质识别方法 |
CN108985163A (zh) * | 2018-06-11 | 2018-12-11 | 视海博(中山)科技股份有限公司 | 基于无人机的受限空间安全探测方法 |
CN109506964A (zh) * | 2019-01-03 | 2019-03-22 | 北京康拓红外技术股份有限公司 | 一种用于动车组一级修智能库检的方法 |
CN110197348A (zh) * | 2018-02-24 | 2019-09-03 | 北京图森未来科技有限公司 | 自动驾驶车辆控制方法和自动驾驶控制装置 |
CN110356586A (zh) * | 2019-08-28 | 2019-10-22 | 象限空间(天津)科技有限公司 | 一种大型飞机的无人机自动巡检系统 |
WO2020077661A1 (zh) * | 2018-10-19 | 2020-04-23 | 广东飞码机器人科技有限公司 | 一种建筑质量检测机器人系统及其方法 |
CN111429565A (zh) * | 2020-03-18 | 2020-07-17 | 中国民航科学技术研究院 | 一种民航客机机身表面三维数据采集管理系统及方法 |
CN112268548A (zh) * | 2020-12-14 | 2021-01-26 | 成都飞机工业(集团)有限责任公司 | 一种基于双目视觉的飞机局部外形测量方法 |
CN112884733A (zh) * | 2021-02-09 | 2021-06-01 | 北京首都机场节能技术服务有限公司 | 一种用于对飞行器的表面进行缺陷识别的方法和系统 |
Families Citing this family (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10521960B2 (en) | 2017-05-03 | 2019-12-31 | General Electric Company | System and method for generating three-dimensional robotic inspection plan |
AU2016308793B2 (en) | 2015-08-17 | 2020-10-22 | H3 Dynamics Holdings Pte. Ltd. | Drone box |
EP3174007A1 (en) | 2015-11-30 | 2017-05-31 | Delphi Technologies, Inc. | Method for calibrating the orientation of a camera mounted to a vehicle |
EP3173979A1 (en) | 2015-11-30 | 2017-05-31 | Delphi Technologies, Inc. | Method for identification of characteristic points of a calibration pattern within a set of candidate points in an image of the calibration pattern |
US10170011B2 (en) * | 2016-07-26 | 2019-01-01 | International Business Machines Corporation | Guide drones for airplanes on the ground |
US10820574B2 (en) | 2016-07-29 | 2020-11-03 | International Business Machines Corporation | Specialized contextual drones for virtual fences |
US9987971B2 (en) | 2016-07-29 | 2018-06-05 | International Business Machines Corporation | Drone-enhanced vehicle external lights |
EP3520049A4 (en) * | 2016-09-28 | 2020-06-17 | Federal Express Corporation | SYSTEMS AND METHODS FOR MONITORING INTERNAL STORAGE CONTENT OF SHIPMENT STORAGE USING ONE OR MORE INTERNAL SURVEILLANCE DRONES |
US20180114302A1 (en) * | 2016-10-23 | 2018-04-26 | The Boeing Company | Lightning strike inconsistency aircraft dispatch mobile disposition tool |
US11145043B2 (en) * | 2016-10-24 | 2021-10-12 | Ford Motor Company | Using unmanned aerial vehicles to inspect autonomous vehicles |
US11107306B1 (en) | 2016-12-23 | 2021-08-31 | State Farm Mutual Automobile Insurance Company | Systems and methods for machine-assisted vehicle inspection |
US10235892B1 (en) * | 2017-05-05 | 2019-03-19 | Architecture Technology Corporation | Aircraft surface state event track system and method |
US10682677B2 (en) * | 2017-05-10 | 2020-06-16 | General Electric Company | System and method providing situational awareness for autonomous asset inspection robot monitor |
AT16628U1 (de) | 2017-05-23 | 2020-03-15 | Ars Electronica Linz Gmbh & Co Kg | System zum Steuern von unbemannten Luftfahrzeugen in einem Schwarm, um ein bewegtes Objekt mit mehreren Kameras zu filmen |
FR3067634B1 (fr) * | 2017-06-15 | 2020-10-23 | Donecle | Plateforme de commande et de suivi des inspections de surfaces d'objets predetermines par des robots d'inspection et systeme d'inspection mettant en oeuvre une telle plateforme |
GB2565757A (en) * | 2017-07-13 | 2019-02-27 | Sita Information Networking Computing Uk Ltd | Database of Drone flight plans for aircraft inspection using relative mapping |
US20190047577A1 (en) * | 2017-08-09 | 2019-02-14 | Walmart Apollo, Llc | System and method for automated vehicle breakdown recovery |
JP6918672B2 (ja) * | 2017-10-11 | 2021-08-11 | 株式会社日立システムズ | 劣化診断システム |
CN108408082A (zh) * | 2018-02-11 | 2018-08-17 | 西安航空学院 | 一种用于大飞机垂尾裂纹探测的无人机及其操作方法 |
EP3534334B1 (en) | 2018-02-28 | 2022-04-13 | Aptiv Technologies Limited | Method for identification of characteristic points of a calibration pattern within a set of candidate points derived from an image of the calibration pattern |
EP3534333A1 (en) * | 2018-02-28 | 2019-09-04 | Aptiv Technologies Limited | Method for calibrating the position and orientation of a camera relative to a calibration pattern |
EP3767789B1 (en) * | 2018-03-12 | 2023-05-03 | LG Electronics Inc. | Device and method for supporting improved communication speed in wireless power transmission system |
US11429101B2 (en) * | 2018-04-19 | 2022-08-30 | Aurora Flight Sciences Corporation | Adaptive autonomy system architecture |
US10533840B2 (en) * | 2018-04-24 | 2020-01-14 | Gulfstream Aerospace Corporation | Method for characterizing shape changes of an aircraft due to flight loads |
WO2020003818A1 (ja) * | 2018-06-28 | 2020-01-02 | パナソニックIpマネジメント株式会社 | 検査装置及び検査方法 |
EP3818337B1 (en) * | 2018-07-04 | 2024-01-17 | H3 Dynamics Pte. Ltd. | Defect detection system using a camera equipped uav for building facades on complex asset geometry with optimal automatic obstacle deconflicted flightpath |
FR3084485B1 (fr) | 2018-07-26 | 2022-08-05 | Donecle | Engin volant motorise de mesure du relief de surfaces d'un objet predetermine et procede de commande d'un tel engin |
US11587299B2 (en) | 2019-05-07 | 2023-02-21 | The Joan And Irwin Jacobs | Systems and methods for detection of anomalies in civil infrastructure using context aware semantic computer vision techniques |
JP6788291B1 (ja) * | 2019-06-03 | 2020-11-25 | 株式会社イクシス | 点検支援システム |
DE102019214139B4 (de) * | 2019-09-17 | 2021-07-29 | Atlas Elektronik Gmbh | Optische Minendetektion in geringer Wassertiefe |
KR102154249B1 (ko) * | 2019-12-26 | 2020-09-09 | 엘아이지넥스원 주식회사 | 이동형 레이더 운용을 위한 제어 타이밍 설계 방법 및 그를 위한 장치 |
JP7413618B2 (ja) * | 2020-01-14 | 2024-01-17 | オングリットホールディングス株式会社 | ロボット装置とその制御方法、並びにロボットシステム |
US11423611B2 (en) | 2020-05-27 | 2022-08-23 | The Joan and Irwin Jacobs Technion-Cornell Institute | Techniques for creating, organizing, integrating, and using georeferenced data structures for civil infrastructure asset management |
US20220092766A1 (en) * | 2020-09-18 | 2022-03-24 | Spirit Aerosystems, Inc. | Feature inspection system |
US11631184B2 (en) * | 2020-09-18 | 2023-04-18 | Spirit Aerosystems, Inc. | Feature inspection system |
DE102020127797B4 (de) * | 2020-10-22 | 2024-03-14 | Markus Garcia | Sensorverfahren zum optischen Erfassen von Nutzungsobjekten zur Detektion eines Sicherheitsabstandes zwischen Objekten |
US11544919B2 (en) | 2020-12-09 | 2023-01-03 | Precisionhawk, Inc. | Drone inspection of an undifferentiated surface using a reference image |
CN112505065B (zh) * | 2020-12-28 | 2022-11-04 | 上海工程技术大学 | 一种实现室内无人机对大部件表面缺陷进行检测的方法 |
US11823578B2 (en) * | 2021-02-16 | 2023-11-21 | Easy Aerial Inc. | Unmanned aerial vehicle (UAV) systems and methods for maintaining railway situational awareness |
WO2023034585A1 (en) * | 2021-09-03 | 2023-03-09 | Spirit Aerosystems, Inc. | Feature inspection system |
US20230186563A1 (en) * | 2021-12-10 | 2023-06-15 | The Boeing Company | Three-dimensional inspection twin for remote visual inspection of a vehicle |
Citations (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030089183A1 (en) * | 2001-11-13 | 2003-05-15 | Jacobsen Robert A. | Apparatus and method for non-destructive inspection of large structures |
CN1645284A (zh) * | 2004-12-17 | 2005-07-27 | 华北电力大学(北京) | 电力线路巡检机器人飞机及其控制系统 |
CN101561683A (zh) * | 2009-04-01 | 2009-10-21 | 东南大学 | 环境污染检测机器人的运动控制装置 |
US20100103260A1 (en) * | 2008-10-27 | 2010-04-29 | Williams Scot I | Wind turbine inspection |
US20100235037A1 (en) * | 2009-03-16 | 2010-09-16 | The Boeing Company | Autonomous Inspection and Maintenance |
CN102280826A (zh) * | 2011-07-30 | 2011-12-14 | 山东鲁能智能技术有限公司 | 变电站智能机器人巡检系统及巡检方法 |
CN102355569A (zh) * | 2011-05-30 | 2012-02-15 | 南京航空航天大学 | 基于无线机器视觉的飞机蒙皮结构监测方法 |
CN102354174A (zh) * | 2011-07-30 | 2012-02-15 | 山东电力研究院 | 基于变电站移动式巡检装置的巡检系统及其巡检方法 |
CN102510011A (zh) * | 2011-10-24 | 2012-06-20 | 华北电力大学 | 基于微型多旋翼无人直升机的电力杆塔智能巡检方法 |
CN102566576A (zh) * | 2012-02-24 | 2012-07-11 | 山东鲁能智能技术有限公司 | 一种用于变电站顺控系统的多巡检机器人协同运作方法 |
US20120300059A1 (en) * | 2011-05-25 | 2012-11-29 | Jason Stege | Method to inspect components of a wind turbine |
CN102941920A (zh) * | 2012-12-05 | 2013-02-27 | 南京理工大学 | 一种基于多旋翼飞行器的高压输电线路巡检机器人及其方法 |
CN103153792A (zh) * | 2010-10-04 | 2013-06-12 | 波音公司 | 自动化可视检查系统 |
CN103163219A (zh) * | 2011-12-09 | 2013-06-19 | 通用电气公司 | 利用双多轴机器人装置检查零件的系统和方法 |
CN103941746A (zh) * | 2014-03-29 | 2014-07-23 | 国家电网公司 | 无人机巡检图像处理系统及方法 |
US20140278221A1 (en) * | 2013-03-12 | 2014-09-18 | The Boeing Company | Self-Contained Holonomic Tracking Method and Apparatus for Non-Destructive Inspection |
US20140336928A1 (en) * | 2013-05-10 | 2014-11-13 | Michael L. Scott | System and Method of Automated Civil Infrastructure Metrology for Inspection, Analysis, and Information Modeling |
CN104199455A (zh) * | 2014-08-27 | 2014-12-10 | 中国科学院自动化研究所 | 基于多旋翼飞行器的隧道巡检系统 |
CN104538899A (zh) * | 2015-01-19 | 2015-04-22 | 中兴长天信息技术(北京)有限公司 | 基于无线传输的电力线巡检用无人机平台 |
WO2015059241A1 (fr) * | 2013-10-24 | 2015-04-30 | Airbus Group Sas | Robot collaboratif d'inspection visuelle d'un aéronef |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03255302A (ja) * | 1990-03-05 | 1991-11-14 | Mitsubishi Electric Corp | パターン検出装置 |
JP4475632B2 (ja) * | 2004-03-19 | 2010-06-09 | 中国電力株式会社 | 無人飛行体を用いた送電線点検システム |
JP2006027448A (ja) * | 2004-07-16 | 2006-02-02 | Chugoku Electric Power Co Inc:The | 無人飛行体を利用した空撮方法及びその装置 |
US8060270B2 (en) * | 2008-02-29 | 2011-11-15 | The Boeing Company | System and method for inspection of structures and objects by swarm of remote unmanned vehicles |
TW201215442A (en) * | 2010-10-06 | 2012-04-16 | Hon Hai Prec Ind Co Ltd | Unmanned Aerial Vehicle control system and method |
DE102011017564B4 (de) * | 2011-04-26 | 2017-02-16 | Airbus Defence and Space GmbH | Verfahren und System zum Prüfen einer Oberfläche auf Materialfehler |
EP2777024B1 (en) * | 2011-11-09 | 2021-08-04 | Abyssal S.A. | System and method of operation for remotely operated vehicles with superimposed 3d imagery |
US8855442B2 (en) * | 2012-04-30 | 2014-10-07 | Yuri Owechko | Image registration of multimodal data using 3D-GeoArcs |
US9651950B2 (en) * | 2012-07-18 | 2017-05-16 | The Boeing Company | Mission re-planning for coordinated multivehicle task allocation |
CN107408297B (zh) * | 2014-11-24 | 2021-02-02 | 基托夫系统有限公司 | 自动检查 |
ITUA20161534A1 (it) * | 2016-03-10 | 2017-09-10 | Wpweb Srl | Procedimento per analizzare un velivolo, relativo sistema di analisi di un velivolo e sistema di sghiacciamento e/o antigelo |
-
2015
- 2015-06-15 FR FR1555452A patent/FR3037429B1/fr active Active
-
2016
- 2016-06-15 MA MA042512A patent/MA42512A/fr unknown
- 2016-06-15 PT PT167410828T patent/PT3308232T/pt unknown
- 2016-06-15 ES ES16741082T patent/ES2910700T3/es active Active
- 2016-06-15 KR KR1020177036646A patent/KR20180029973A/ko not_active Application Discontinuation
- 2016-06-15 SG SG11201709768YA patent/SG11201709768YA/en unknown
- 2016-06-15 PL PL16741082T patent/PL3308232T3/pl unknown
- 2016-06-15 CN CN201680034120.0A patent/CN107709158A/zh active Pending
- 2016-06-15 WO PCT/FR2016/051448 patent/WO2016203151A1/fr active Application Filing
- 2016-06-15 US US15/736,952 patent/US10377485B2/en active Active
- 2016-06-15 BR BR112017026528A patent/BR112017026528A2/pt not_active Application Discontinuation
- 2016-06-15 CA CA2989154A patent/CA2989154C/fr active Active
- 2016-06-15 JP JP2017564662A patent/JP2018521406A/ja active Pending
- 2016-06-15 EP EP16741082.8A patent/EP3308232B1/fr active Active
-
2017
- 2017-11-21 IL IL255814A patent/IL255814B/en unknown
Patent Citations (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030089183A1 (en) * | 2001-11-13 | 2003-05-15 | Jacobsen Robert A. | Apparatus and method for non-destructive inspection of large structures |
CN1645284A (zh) * | 2004-12-17 | 2005-07-27 | 华北电力大学(北京) | 电力线路巡检机器人飞机及其控制系统 |
US20100103260A1 (en) * | 2008-10-27 | 2010-04-29 | Williams Scot I | Wind turbine inspection |
US20100235037A1 (en) * | 2009-03-16 | 2010-09-16 | The Boeing Company | Autonomous Inspection and Maintenance |
CN101561683A (zh) * | 2009-04-01 | 2009-10-21 | 东南大学 | 环境污染检测机器人的运动控制装置 |
CN103153792A (zh) * | 2010-10-04 | 2013-06-12 | 波音公司 | 自动化可视检查系统 |
US20120300059A1 (en) * | 2011-05-25 | 2012-11-29 | Jason Stege | Method to inspect components of a wind turbine |
CN102355569A (zh) * | 2011-05-30 | 2012-02-15 | 南京航空航天大学 | 基于无线机器视觉的飞机蒙皮结构监测方法 |
CN102280826A (zh) * | 2011-07-30 | 2011-12-14 | 山东鲁能智能技术有限公司 | 变电站智能机器人巡检系统及巡检方法 |
CN102354174A (zh) * | 2011-07-30 | 2012-02-15 | 山东电力研究院 | 基于变电站移动式巡检装置的巡检系统及其巡检方法 |
CN102510011A (zh) * | 2011-10-24 | 2012-06-20 | 华北电力大学 | 基于微型多旋翼无人直升机的电力杆塔智能巡检方法 |
CN103163219A (zh) * | 2011-12-09 | 2013-06-19 | 通用电气公司 | 利用双多轴机器人装置检查零件的系统和方法 |
CN102566576A (zh) * | 2012-02-24 | 2012-07-11 | 山东鲁能智能技术有限公司 | 一种用于变电站顺控系统的多巡检机器人协同运作方法 |
CN102941920A (zh) * | 2012-12-05 | 2013-02-27 | 南京理工大学 | 一种基于多旋翼飞行器的高压输电线路巡检机器人及其方法 |
US20140278221A1 (en) * | 2013-03-12 | 2014-09-18 | The Boeing Company | Self-Contained Holonomic Tracking Method and Apparatus for Non-Destructive Inspection |
US20140336928A1 (en) * | 2013-05-10 | 2014-11-13 | Michael L. Scott | System and Method of Automated Civil Infrastructure Metrology for Inspection, Analysis, and Information Modeling |
WO2015059241A1 (fr) * | 2013-10-24 | 2015-04-30 | Airbus Group Sas | Robot collaboratif d'inspection visuelle d'un aéronef |
CN103941746A (zh) * | 2014-03-29 | 2014-07-23 | 国家电网公司 | 无人机巡检图像处理系统及方法 |
CN104199455A (zh) * | 2014-08-27 | 2014-12-10 | 中国科学院自动化研究所 | 基于多旋翼飞行器的隧道巡检系统 |
CN104538899A (zh) * | 2015-01-19 | 2015-04-22 | 中兴长天信息技术(北京)有限公司 | 基于无线传输的电力线巡检用无人机平台 |
Non-Patent Citations (2)
Title |
---|
DAVID LATTANZI: "A Computational Framework for Next-Generation Inspection Imaging", 《华盛顿大学》 * |
TEIXEIRA JOAO MARCELO ET AL: "Teleoperation Using Google Glass and AR,Drone for Structural Inspection", 《2014 XVI SYMPOSIUM ON VIRTUAL AND AUGMENTED REALITY》 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110197348A (zh) * | 2018-02-24 | 2019-09-03 | 北京图森未来科技有限公司 | 自动驾驶车辆控制方法和自动驾驶控制装置 |
CN108508916A (zh) * | 2018-04-02 | 2018-09-07 | 南方科技大学 | 一种无人机编队的控制方法、装置、设备及存储介质 |
CN108508916B (zh) * | 2018-04-02 | 2021-05-07 | 南方科技大学 | 一种无人机编队的控制方法、装置、设备及存储介质 |
CN108985163A (zh) * | 2018-06-11 | 2018-12-11 | 视海博(中山)科技股份有限公司 | 基于无人机的受限空间安全探测方法 |
CN108872130A (zh) * | 2018-06-25 | 2018-11-23 | 北京空间飞行器总体设计部 | 基于神经网络的常用飞行器表面材质识别方法 |
WO2020077661A1 (zh) * | 2018-10-19 | 2020-04-23 | 广东飞码机器人科技有限公司 | 一种建筑质量检测机器人系统及其方法 |
CN109506964A (zh) * | 2019-01-03 | 2019-03-22 | 北京康拓红外技术股份有限公司 | 一种用于动车组一级修智能库检的方法 |
CN110356586A (zh) * | 2019-08-28 | 2019-10-22 | 象限空间(天津)科技有限公司 | 一种大型飞机的无人机自动巡检系统 |
CN111429565A (zh) * | 2020-03-18 | 2020-07-17 | 中国民航科学技术研究院 | 一种民航客机机身表面三维数据采集管理系统及方法 |
CN111429565B (zh) * | 2020-03-18 | 2021-04-06 | 中国民航科学技术研究院 | 一种民航客机机身表面三维数据采集管理系统及方法 |
CN112268548A (zh) * | 2020-12-14 | 2021-01-26 | 成都飞机工业(集团)有限责任公司 | 一种基于双目视觉的飞机局部外形测量方法 |
CN112884733A (zh) * | 2021-02-09 | 2021-06-01 | 北京首都机场节能技术服务有限公司 | 一种用于对飞行器的表面进行缺陷识别的方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
BR112017026528A2 (pt) | 2018-08-14 |
CA2989154C (fr) | 2023-10-24 |
IL255814A (en) | 2018-01-31 |
MA42512A (fr) | 2018-06-06 |
SG11201709768YA (en) | 2017-12-28 |
US20180170540A1 (en) | 2018-06-21 |
IL255814B (en) | 2022-01-01 |
KR20180029973A (ko) | 2018-03-21 |
EP3308232B1 (fr) | 2022-01-05 |
EP3308232A1 (fr) | 2018-04-18 |
US10377485B2 (en) | 2019-08-13 |
FR3037429A1 (fr) | 2016-12-16 |
CA2989154A1 (fr) | 2016-12-22 |
WO2016203151A1 (fr) | 2016-12-22 |
FR3037429B1 (fr) | 2018-09-07 |
JP2018521406A (ja) | 2018-08-02 |
ES2910700T3 (es) | 2022-05-13 |
PL3308232T3 (pl) | 2022-06-06 |
PT3308232T (pt) | 2022-04-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107709158A (zh) | 用于自动检查表面的系统和方法 | |
CN106249750A (zh) | 自主式无人驾驶飞行器决策 | |
JP2018108802A (ja) | 航空機モニタリングシステム | |
Donadio et al. | Artificial intelligence and collaborative robot to improve airport operations | |
KR20200003911A (ko) | 항공기에 대한 외부 오브젝트를 감지하고 회피하기 위한 시스템 및 방법 | |
CN114092537A (zh) | 一种变电站电力无人机自动巡检方法及装置 | |
Vijayanandh et al. | Numerical study on structural health monitoring for unmanned aerial vehicle | |
Miranda et al. | UAV-based inspection of airplane exterior screws with computer vision | |
Novák et al. | Use of unmanned aerial vehicles in aircraft maintenance | |
Bugaj et al. | Unmanned aerial vehicles and their use for aircraft inspection | |
Minghui et al. | Deep learning enabled localization for UAV autolanding | |
Ko et al. | ABECIS: An automated building exterior crack inspection system using UAVs, open-source deep learning and photogrammetry | |
Diniz et al. | Visual-based assistive method for uav power line inspection and landing | |
Eiris et al. | InDrone: a 2D-based drone flight behavior visualization platform for indoor building inspection | |
CN113486602A (zh) | 机场飞机跑道管理数字孪生系统仿真方法、系统及装置 | |
Lakrouf et al. | Moving obstacles detection and camera pointing for mobile robot applications | |
Au et al. | Challenges and opportunities of computer vision applications in aircraft landing gear | |
WO2019117774A1 (en) | Flight vision system and method for presenting images from the surrounding of an airborne vehicle in a flight vision system | |
Lapointe et al. | AI-AR for bridge inspection by drone | |
JP2022008167A (ja) | 航空機のための対象物監視システム | |
US20230023544A1 (en) | Simulation architecture for safety testing of aircraft monitoring software | |
Wilhelmsen et al. | Remote aircraft composite inspection using 3D imaging | |
Tappe et al. | UAS-based autonomous visual inspection of airplane surface defects | |
Duvar et al. | A Review on Visual Inspection Methods for Aircraft Maintenance | |
Yasuda et al. | Automated visual inspection of aircraft exterior using deep learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20180216 |