JP2022510950A - パイプにuavがパーチする自動化方法 - Google Patents

パイプにuavがパーチする自動化方法 Download PDF

Info

Publication number
JP2022510950A
JP2022510950A JP2021531006A JP2021531006A JP2022510950A JP 2022510950 A JP2022510950 A JP 2022510950A JP 2021531006 A JP2021531006 A JP 2021531006A JP 2021531006 A JP2021531006 A JP 2021531006A JP 2022510950 A JP2022510950 A JP 2022510950A
Authority
JP
Japan
Prior art keywords
uav
curved surface
point cloud
captured
slice
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021531006A
Other languages
English (en)
Other versions
JP7444884B2 (ja
Inventor
モハメド・アブデルカデル
ファドゥル・アブデルラティフ
ジェフ・エス・シャムマ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Saudi Arabian Oil Co
Original Assignee
Saudi Arabian Oil Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Saudi Arabian Oil Co filed Critical Saudi Arabian Oil Co
Publication of JP2022510950A publication Critical patent/JP2022510950A/ja
Application granted granted Critical
Publication of JP7444884B2 publication Critical patent/JP7444884B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60BVEHICLE WHEELS; CASTORS; AXLES FOR WHEELS OR CASTORS; INCREASING WHEEL ADHESION
    • B60B19/00Wheels not otherwise provided for or having characteristics specified in one of the subgroups of this group
    • B60B19/006Magnetic wheels
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60BVEHICLE WHEELS; CASTORS; AXLES FOR WHEELS OR CASTORS; INCREASING WHEEL ADHESION
    • B60B19/00Wheels not otherwise provided for or having characteristics specified in one of the subgroups of this group
    • B60B19/12Roller-type wheels
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60GVEHICLE SUSPENSION ARRANGEMENTS
    • B60G11/00Resilient suspensions characterised by arrangement, location or kind of springs
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60GVEHICLE SUSPENSION ARRANGEMENTS
    • B60G3/00Resilient suspensions for a single wheel
    • B60G3/01Resilient suspensions for a single wheel the wheel being mounted for sliding movement, e.g. in or on a vertical guide
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K1/00Arrangement or mounting of electrical propulsion units
    • B60K1/02Arrangement or mounting of electrical propulsion units comprising more than one electric motor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D21/00Understructures, i.e. chassis frame on which a vehicle body may be mounted
    • B62D21/09Means for mounting load bearing surfaces
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D57/00Vehicles characterised by having other propulsion or other ground- engaging means than wheels or endless track, alone or in addition to wheels or endless track
    • B62D57/02Vehicles characterised by having other propulsion or other ground- engaging means than wheels or endless track, alone or in addition to wheels or endless track with ground-engaging propulsion means, e.g. walking members
    • B62D57/024Vehicles characterised by having other propulsion or other ground- engaging means than wheels or endless track, alone or in addition to wheels or endless track with ground-engaging propulsion means, e.g. walking members specially adapted for moving on inclined or vertical surfaces
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D61/00Motor vehicles or trailers, characterised by the arrangement or number of wheels, not otherwise provided for, e.g. four wheels in diamond pattern
    • B62D61/06Motor vehicles or trailers, characterised by the arrangement or number of wheels, not otherwise provided for, e.g. four wheels in diamond pattern with only three wheels
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D61/00Motor vehicles or trailers, characterised by the arrangement or number of wheels, not otherwise provided for, e.g. four wheels in diamond pattern
    • B62D61/12Motor vehicles or trailers, characterised by the arrangement or number of wheels, not otherwise provided for, e.g. four wheels in diamond pattern with variable number of ground engaging wheels, e.g. with some wheels arranged higher than others, or with retractable wheels
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D9/00Steering deflectable wheels not otherwise provided for
    • B62D9/002Steering deflectable wheels not otherwise provided for combined with means for differentially distributing power on the deflectable wheels during cornering
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C25/00Alighting gear
    • B64C25/02Undercarriages
    • B64C25/08Undercarriages non-fixed, e.g. jettisonable
    • B64C25/10Undercarriages non-fixed, e.g. jettisonable retractable, foldable, or the like
    • B64C25/18Operating mechanisms
    • B64C25/24Operating mechanisms electric
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C25/00Alighting gear
    • B64C25/32Alighting gear characterised by elements which contact the ground or similar surface 
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C25/00Alighting gear
    • B64C25/32Alighting gear characterised by elements which contact the ground or similar surface 
    • B64C25/34Alighting gear characterised by elements which contact the ground or similar surface  wheeled type, e.g. multi-wheeled bogies
    • B64C25/36Arrangements or adaptations of wheels, tyres or axles in general
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C25/00Alighting gear
    • B64C25/32Alighting gear characterised by elements which contact the ground or similar surface 
    • B64C25/405Powered wheels, e.g. for taxing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C37/00Convertible aircraft
    • B64C37/02Flying units formed by separate aircraft
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D1/00Dropping, ejecting, releasing, or receiving articles, liquids, or the like, in flight
    • B64D1/02Dropping, ejecting, or releasing articles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • B64U10/14Flying platforms with four distinct rotor axes, e.g. quadcopters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U60/00Undercarriages
    • B64U60/50Undercarriages with landing legs
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B17/00Measuring arrangements characterised by the use of infrasonic, sonic or ultrasonic vibrations
    • G01B17/02Measuring arrangements characterised by the use of infrasonic, sonic or ultrasonic vibrations for measuring thickness
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B7/00Measuring arrangements characterised by the use of electric or magnetic techniques
    • G01B7/28Measuring arrangements characterised by the use of electric or magnetic techniques for measuring contours or curvatures
    • G01B7/281Measuring arrangements characterised by the use of electric or magnetic techniques for measuring contours or curvatures for measuring contour or curvature along an axis, e.g. axial curvature of a pipeline or along a series of feeder rollers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N29/00Investigating or analysing materials by the use of ultrasonic, sonic or infrasonic waves; Visualisation of the interior of objects by transmitting ultrasonic or sonic waves through the object
    • G01N29/04Analysing solids
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N29/00Investigating or analysing materials by the use of ultrasonic, sonic or infrasonic waves; Visualisation of the interior of objects by transmitting ultrasonic or sonic waves through the object
    • G01N29/04Analysing solids
    • G01N29/043Analysing solids in the interior, e.g. by shear waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N29/00Investigating or analysing materials by the use of ultrasonic, sonic or infrasonic waves; Visualisation of the interior of objects by transmitting ultrasonic or sonic waves through the object
    • G01N29/22Details, e.g. general constructional or apparatus details
    • G01N29/225Supports, positioning or alignment in moving situation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N29/00Investigating or analysing materials by the use of ultrasonic, sonic or infrasonic waves; Visualisation of the interior of objects by transmitting ultrasonic or sonic waves through the object
    • G01N29/22Details, e.g. general constructional or apparatus details
    • G01N29/24Probes
    • G01N29/2493Wheel shaped probes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N29/00Investigating or analysing materials by the use of ultrasonic, sonic or infrasonic waves; Visualisation of the interior of objects by transmitting ultrasonic or sonic waves through the object
    • G01N29/22Details, e.g. general constructional or apparatus details
    • G01N29/26Arrangements for orientation or scanning by relative movement of the head and the sensor
    • G01N29/265Arrangements for orientation or scanning by relative movement of the head and the sensor by moving the sensor relative to a stationary material
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0094Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10Simultaneous control of position or course in three dimensions
    • G05D1/101Simultaneous control of position or course in three dimensions specially adapted for aircraft
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/13Satellite images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/17Terrestrial scenes taken from planes or by drones
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0004Transmission of traffic-related information to or from an aircraft
    • G08G5/0013Transmission of traffic-related information to or from an aircraft with a ground station
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0017Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information
    • G08G5/0021Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information located in the aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0047Navigation or guidance aids for a single aircraft
    • G08G5/0069Navigation or guidance aids for a single aircraft specially adapted for an unmanned aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/02Automatic approach or landing aids, i.e. systems in which flight data of incoming planes are processed to provide landing data
    • G08G5/025Navigation or guidance aids
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • H04N5/2226Determination of depth image, e.g. for foreground/background separation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60BVEHICLE WHEELS; CASTORS; AXLES FOR WHEELS OR CASTORS; INCREASING WHEEL ADHESION
    • B60B2900/00Purpose of invention
    • B60B2900/90Providing or changing
    • B60B2900/931Magnetic effects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60GVEHICLE SUSPENSION ARRANGEMENTS
    • B60G2204/00Indexing codes related to suspensions per se or to auxiliary parts
    • B60G2204/40Auxiliary suspension parts; Adjustment of suspensions
    • B60G2204/421Pivoted lever mechanisms for mounting suspension elements, e.g. Watt linkage
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0001Arrangements for holding or mounting articles, not otherwise provided for characterised by position
    • B60R2011/004Arrangements for holding or mounting articles, not otherwise provided for characterised by position outside the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0042Arrangements for holding or mounting articles, not otherwise provided for characterised by mounting means
    • B60R2011/008Adjustable or movable supports
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0042Arrangements for holding or mounting articles, not otherwise provided for characterised by mounting means
    • B60R2011/008Adjustable or movable supports
    • B60R2011/0084Adjustable or movable supports with adjustment by linear movement in their operational position
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2200/00Type of vehicle
    • B60Y2200/40Special vehicles
    • B60Y2200/47Climbing vehicles, e.g. facade climbing devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2200/00Type of vehicle
    • B60Y2200/60Industrial applications, e.g. pipe inspection vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C25/00Alighting gear
    • B64C25/32Alighting gear characterised by elements which contact the ground or similar surface 
    • B64C2025/325Alighting gear characterised by elements which contact the ground or similar surface  specially adapted for helicopters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/60UAVs specially adapted for particular uses or applications for transporting passengers; for transporting goods other than weapons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/10UAVs characterised by their flight controls autonomous, i.e. by navigating independently from ground or air stations, e.g. by using inertial navigation systems [INS]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U70/00Launching, take-off or landing arrangements
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F17STORING OR DISTRIBUTING GASES OR LIQUIDS
    • F17DPIPE-LINE SYSTEMS; PIPE-LINES
    • F17D5/00Protection or supervision of installations
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2291/00Indexing codes associated with group G01N29/00
    • G01N2291/02Indexing codes associated with the analysed material
    • G01N2291/028Material parameters
    • G01N2291/02854Length, thickness
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2291/00Indexing codes associated with group G01N29/00
    • G01N2291/02Indexing codes associated with the analysed material
    • G01N2291/028Material parameters
    • G01N2291/0289Internal structure, e.g. defects, grain size, texture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Chemical & Material Sciences (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Biochemistry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Acoustics & Sound (AREA)
  • Astronomy & Astrophysics (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Manipulator (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Investigating Or Analyzing Materials By The Use Of Ultrasonic Waves (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Working Measures On Existing Buildindgs (AREA)
  • Magnetic Bearings And Hydrostatic Bearings (AREA)
  • Investigating Or Analyzing Materials By The Use Of Magnetic Means (AREA)
  • Traffic Control Systems (AREA)

Abstract

開始位置から曲面上に自律的にパーチする無人航空機(UAV)が提供される。UAVは、曲面を含むUAVからシーンの3D点群をキャプチャおよび出力するように構成された3D深度カメラと、シーンの2Dスライスをキャプチャおよび出力するように構成された2DのLIDARシステムおよび制御回路を含む。制御回路は、深度カメラおよびLIDARシステムを制御して、シーンの3D点群と2Dスライスとをそれぞれにキャプチャし、深度カメラからキャプチャされた3D点群とLIDARシステムからキャプチャされた2Dスライスを入力し、キャプチャされた3D点群と2Dスライスを使用して、曲面を自律的に検出および位置特定し、曲面の自律的な検出および位置特定に基づいて、UAVを開始位置から曲面上の着陸位置へ自律的に誘導するように構成されている。

Description

関連出願の相互参照
本出願は、米国特許法第119条(e)の下、2018年11月29日に出願された「PERCHING UAV WITH RELEASABLE CRAWLER」と題する米国特許仮出願第62/772,700号の利益を主張し、かつ、米国特許法第120条の下、2019年11月26日に出願された「AUTOMATION METHODS FOR UAV PERCHING ON PIPES」と題する米国出願第16/696,085号の利益を主張するものであり、参照によりそれぞれの全体を本明細書に引用する。
本開示は、概して、構造物の検査および保守に関するものであり、具体的には、構造物を検査および保守するための解放可能かつ再ドッキング可能なクローラを有するパーチする無人航空機(unmanned aerial vehicle、UAVまたはドローン)を使用する検査方法に関する。さらに、本開示は、概して、パイプなどの湾曲した強磁性構造の検査および保守、特にこれらの構造にパーチするUAVの自動化方法に関する。
パイプ、貯蔵タンクなどの露出した金属資産の検査と保守は、環境によっては人間が実行するのが困難または非現実的となり得る。そのような状況では、自動化されたUAVの使用は、実行可能な代替手段とすることができる。しかしながら、このような検査と保守は、多くの場合、資産から距離をおいてホバリングするのではなく、資産への直接的な接触を使用して実行するのが最良である。しかしながら、UAVは、資産に着陸すること、パーチすること、または移動することが難しい場合がある。さらに、パイプ(および他の曲面構造)は、これらの資産が、着陸、パーチ、または移動する先として曲面を呈するため、UAVで検査または保守するのが特に難しい場合がある。
さらに、石油およびガス施設で到達が困難な鉄鋼資産を検査することは困難な作業である。例えば、製油所、ガスプラント、海上プラットフォーム、および他のプラントで見られる高架資産の定期的な検査は、予期しない障害、リーク、およびシャットダウンを防止するために最も重要である。これらの資産は、検査作業中に接近することが困難である高所のパイプおよび構造物を含む。このような資産を検査する1つの方法は、検査官が資産に接近し、厚さ測定用の超音波検査(UT)センサなどを使用して手動検査を実行するための足場を立てることである。このような足場は、高価であり、頻繁な検査に大きなコスト障壁をもたらすだけでなく、主に落下およびつまずきの危険という形で安全上の懸念を引き起こす。
当技術分野におけるこれらおよび他の問題に関して、本開示は、構造物を検査または保守するための解放可能なクローラを有する効果的なパーチするUAVのための技術的解決策を提供することを目的とする。当技術分野におけるこれらおよび他の問題に関して、本開示は、パイプおよび他の資産にパーチするUAVの自動化方法のための技術的解決策を提供することもまた、目的とする。
一実施形態によれば、曲面から離れた開始位置から曲面上に自律的にパーチするための無人航空機(UAV)が提供される。UAVは、曲面を含むUAVからシーンの3D点群をキャプチャおよび出力するように構成されている3次元(3D)深度カメラと、シーンの2Dスライスをキャプチャおよび出力するように構成されている、2次元(2D)の光検出および測距(light detection and ranging、LIDAR)システムおよび、制御回路とを含む。制御回路は、深度カメラおよびLIDARシステムを制御して、シーンの3D点群と2Dスライスとをそれぞれにキャプチャし、深度カメラからキャプチャされた3D点群とLIDARシステムからキャプチャされた2Dスライスを入力し、キャプチャされた3D点群とキャプチャされた2Dスライスを使用して、曲面を自律的に検出および位置特定し、曲面の自律的な検出および位置特定に基づいて、UAVを開始位置から曲面上の着陸位置へ自律的に誘導するように構成されている。
一実施形態では、制御回路はさらに、UAVが曲面付近に到達するまで、キャプチャされた3D点群を使用して、UAVを着陸位置へと自律的に誘導しながら、開始位置からの自律的な検出および位置特定を実行し、UAVが曲面付近に到達すると、3D点群の使用することから、キャプチャされた2Dスライスを使用することに切り替えて、自律的な検出および位置特定を実行するように構成されている。
一実施形態では、制御回路はさらに、着陸に先立ってUAVを曲面付近の整合位置へ自律的に誘導することであって、整合位置は、UAVが着陸位置に対して整合される位置であることと、キャプチャされた2Dのスライスを使用して、UAVを自律的に誘導して、整合位置から着陸位置に直接移動させることと、を行うように構成されている。
一実施形態では、制御回路はさらに、3D点群および2Dスライスを融合することによって曲面を自律的に検出および位置特定するように構成されている。融合には、キャプチャされた3D点群の1つを使用して、曲面の自律的な検出および位置特定の第1のパスを実行することと、第1のパスから検出および位置特定された曲面を使用して、2Dスライスのうちの対応する1つをキャプチャすることと、2Dスライスのうちの対応する1つを使用して、曲面の自律的な検出および位置特定をする第2のパスを実行することとを含まれる。
一実施形態では、UAVは、深度カメラのポーズを推定するように構成された慣性測定ユニット(inertial measurement unit、IMU)をさらに含む。ここで、制御回路はさらに、3D点群の第1のものにおける検出および位置特定された曲面から、3D点群のうちの第2のものにおける曲面の場所を予測するために、3D点群のうちの第1のものをキャプチャすることと、3D点群のうちの第2のものをキャプチャすることと、の間で、深度カメラの推定されたポーズを使用するように構成されている。
一実施形態では、制御回路はさらに、キャプチャされた3D点群を使用して、曲面を自律的に検出および位置特定し、LIDARシステムを制御して、検出および位置特定された曲面に垂直な2Dスライスをキャプチャするように構成されている。
一実施形態では、曲面が円筒状であり、制御回路は、LIDARシステムを制御して、円筒の中心軸に垂直な2Dスライスをキャプチャするようにさらに構成されている。
一実施形態では、制御回路は、ランダムサンプルコンセンサス(random sample consensus、RANSAC)アプローチを使用して、曲面を自律的に検出および位置特定するようにさらに構成されている。
一実施形態では、制御回路はさらに、キャプチャされた3D点群またはキャプチャされた2Dスライスまたは、キャプチャされた3D点群とキャプチャされた2Dスライスの両方を使用して、開始位置から着陸位置までのUAVの飛行経路上の1つ以上の障害物を検出するように構成され、かつ、飛行経路上の1つ以上の障害物を回避するために、UAVの自律的に再誘導するように構成されている。
一実施形態では、曲面は強磁性である。UAVは磁気脚を含み、磁気脚は、着陸中に強磁性曲面に磁着し、かつ、着陸後も強磁性曲面に磁着したままになるように構成されている。
別の実施形態によれば、曲面から離れた開始位置から曲面に無人航空機(UAV)を自律的にパーチする方法が提供される。この方法は、UAVに取り付けられた3次元(3D)深度カメラを使用して、曲面を含むUAVからのシーンの3D点群をキャプチャおよび出力することと、UAVに接続された2次元(2D)の光検出および測距(LIDAR)システムを使用して、シーンの2Dスライスをキャプチャおよび出力することと、深度カメラおよびLIDARシステムを制御して、シーンの3D点群と2Dスライスとをそれぞれにキャプチャすることと、深度カメラからキャプチャされた3D点群とLIDARシステムからキャプチャされた2Dスライスを入力することと、キャプチャされた3D点群とキャプチャされた2Dスライスを使用して、曲面を自律的に検出および位置特定することと、曲面の自律的な検出および位置特定に基づいて、開始位置から曲面上の着陸位置へUAVを自律的に誘導すること、を含む。
一実施形態では、この方法はさらに、UAVが曲面付近に到達するまで、キャプチャされた3D点群を使用して、UAVを着陸位置へと自律的に誘導しながら、開始位置からの自律的な検出および位置特定を実行することと、UAVが曲面付近に到達すると、3D点群を使用することから、キャプチャされた2Dスライスの使用することに切り替えて、自律的な検出および位置特定を実行することを含む。
一実施形態では、この方法はさらに、着陸に先立って曲面付近の整合位置へUAVを自律的に誘導することと、キャプチャされた2Dのスライスを使用して、整合位置から着陸位置へとUAVが直接移動するように、UAVを自律的に誘導することを含む。
一実施形態では、この方法は、3D点群と2Dスライスを融合することによって曲面を自律的に検出し、位置特定することをさらに含む。融合には、キャプチャされた3D点群の1つを使用して、曲面の自律的な検出および位置特定の第1のパスを実行することと、第1のパスから検出および位置特定された曲面を使用して、2Dスライスのうちの対応する1つをキャプチャすることと、対応する2Dスライスの1つを使用して、曲面の自律的な検出および位置特定をする第2のパスを実行することとを含まれる。
一実施形態では、UAVは、UAVに取り付けられた慣性測定ユニット(IMU)をさらに含み、この方法は、IMUを使用して深度カメラのポーズを推定することと、3D点群の第1のものにおける検出および位置特定された曲面から、3D点群のうちの第2のものにおける曲面の場所を予測するために、3D点群のうちの第1のものをキャプチャすることと、3D点群のうちの第2のものをキャプチャすることと、の間で、深度カメラの推定されたポーズを使用することとを含む。
一実施形態では、この方法はさらに、キャプチャされた3D点群を使用して、曲面を自律的に検出および位置特定することと、LIDARシステムを制御して、検出および位置特定された曲面に垂直な2Dスライスをキャプチャすることを含む。
一実施形態では、曲面は円筒状であり、この方法は、円筒の中心軸に垂直な2DスライスをキャプチャするようにLIDARシステムを制御することをさらに含む。
一実施形態では、この方法は、ランダムサンプルコンセンサス(RANSAC)アプローチを使用して、曲面を自律的に検出および位置特定することをさらに含む。
一実施形態では、この方法は、キャプチャされた3D点群、キャプチャされた2Dスライス、または、キャプチャされた3D点群とキャプチャされた2Dスライスの両方を使用して、開始位置から着陸位置までのUAVの飛行経路上の1つ以上の障害物を検出することと、飛行経路上の1つ以上の障害物を回避するために、UAVの自律的に再誘導することを含む。
一実施形態では、曲面は強磁性であり、UAVは磁気脚を含む。この方法は、磁気脚を、着陸中に強磁性曲面に磁着させることと、着陸後も強磁性曲面に磁着したままになるようにすることを含む。
本明細書で開示される様々な実施形態および実装形態の任意の組み合わせを使用することができる。これらおよび他の態様および特徴は、添付の図面および特許請求の範囲と共に、特定の実施形態の以下の説明から理解することができる。
一実施形態による、構造物(例えば、パイプ)にパーチするUAVの例の図であり、UAVは、構造物を検査または維持するための解放可能なクローラを有する。図1AはクローラがUAVに取り付けられている様子を示す。 一実施形態による、構造物(例えば、パイプ)にパーチするUAVの例の図であり、UAVは、構造物を検査または維持するための解放可能なクローラを有する。図1BはクローラがUAVに取り付けられていない(例えば、構造物上をクロールする)様子を示す。 一実施形態による、曲面(パイプなど)にUAVを着陸させるための自律的な案内着陸技術のブロック図である。 一実施形態による、UAVが対象構造物(パイプなど)へパーチする例示的なステップの斜視図であり、対象物へアプローチするステップである。 一実施形態による、UAVが対象構造物(パイプなど)へパーチする例示的なステップの斜視図であり、対象物と整合させるステップである。 一実施形態による、UAVが対象構造物(パイプなど)へパーチする例示的なステップの斜視図であり、対象物へパーチするステップである。 一実施形態による、曲面(パイプなど)へのUAVの自律展開および着陸のための例示的な逐次経路設計技術のフローチャートである。 一実施形態による、センサ融合を使用した対象物の検出、位置特定、および整合の例示的な技術の斜視図である。 一実施形態による、2DのLIDARセンサデータのクラスタ化を使用した例示的な円(例えば、パイプ)検出技術のフローチャートである。 一実施形態による、例示的な近隣ベースのパイプ検出技術のフローチャートである。 一実施形態による、カルマンフィルタフレームワークに基づく例示的なパイプ位置特定技術のフローチャートである。 一実施形態による、画像追跡およびカルマンフィルタを使用する例示的なパイプ位置特定技術のフローチャートである。 一実施形態による、曲面から離れた開始位置から曲面にUAVが自律的にパーチする例示的な方法のフローチャートである。
図面は例示的なものであり、必ずしも縮尺どおりである必要はなく、同じまたは類似の特徴は、全体を通して同じまたは類似の参照番号を有することに留意されたい。
様々な例示的な実施形態では、接近し難いパイプまたは貯蔵タンクなどの構造を検査または維持するための解放可能なクローラを有するにパーチするUAVが提供される。UAVは、炭素鋼パイプおよび構造物などの強磁性表面上で接触検査作業を実行する高度な性能を有するハイブリッドUAVである。UAVは、検査対象のパイプに向かって飛行し、自律的に着陸し(一般にパーチングと称される)、解放可能なクローラを展開して、パイプの周りを這うように進んで、例えば、込み入った検査作業を実行することができる。
前述のように、パイプ、貯蔵タンクなどの露出した金属資産の検査と保守を人々が行うことは、困難または非現実的となり得る。例えば、石油およびガス業界の最大の課題の1つは、製油所、ガスプラント、海上プラットフォーム、および他のプラントおよび施設に見られる高架資産の定期検査である。これらの資産は、検査または保守作業中に接近することが難しい高所のパイプおよび構造物を含む。人々がそれらを検査または維持する唯一の方法が、足場を建てて、検査官またはエンジニアが資産に接近し、例えば、厚さ測定のために超音波検査(UT)センサを使用して手動検査を実行することであるときがある。このような足場は、高価であり、頻繁な検査に大きなコスト障壁をもたらすだけでなく、主に落下およびつまずきの危険という形で安全上の懸念を引き起こす。
したがって、例示的な実施形態では、解放可能なクローラを有するパーチするUAVは、母子構成で2台のビークルを有することによって、前述の技術的問題に対する解決策を提供する。各ビークルは、最も適した性能を実行するように設計または最適化されている。ビークルには、パイプ上を飛行し、かつ、パイプに着陸できる、パーチするUAVと、UAVによって運ばれ、着陸またはパーチした後にUAVから解放される小型の磁気クローラが含まれる。クローラは、(例えば、磁気ホイールを使用して)パイプ上をあちこち移動して、例えば、UTセンサを使用した厚さ測定などの検査スキャン、または他の検査またはメンテナンスを実行できる。これにより、UAV全体をパイプの周りでクロールさせるよりも便利なアプローチが提供される。これには、より大きくて重いモータが必要であり、特にクリアランスの制約が限られている場合に、近くのパイプおよび資産との衝突のリスクがある。
さらに様々な例示的な実施形態では、パイプにパーチするUAVのための自動化方法が提供される。これらの自動化方法は、自律的でより安全なパーチするUAVのための体系的な手段をさらに提供する。これらの自動化方法は、例えば検査作業を実行するために、パイプを含む到達困難な鉄骨構造にUAVがパーチする(着陸する)ことをさらに提供する。いくつかのそのような実施形態では、例えば、高架の対象物(パイプなど)にパーチして検査作業を実行する、クロールするロボットを解放するために、UAVは送られる。いくつかのかかる実施形態では、UAV検査ミッションは、主に、UAVを対象物の近くへ飛ばす操作者によって監視および制御される。これらの実施形態のいくつかでは、UAVは解放可能なクローラを有するが、これらの実施形態の他のいくつかでは、UAVは解放可能なクローラを有しないことに留意されたい。
先の説明のように、パイプおよび他の曲面構造は、UAVで検査または保守するのが特に難しい場合がある。これらの資産は、着陸してパーチするために呈するものが曲面であるためである。さらに、これらの資産は、検査作業中に接近し難い場合がある。さらに、少なくとも人間である操作者が資産のいくつかの部分に接近するにあたり、足場の建設は実用的または実行可能ではない可能性がある。さらに、UAVを操作する場合、人間である操作者は、離れた資産上にパーチする操作を適切に実行するためのツールを欠いている可能性がある。例えば、操作者は車載カメラを使用して対象物を一人称で見ることができるが、人間レベルの知覚精度と正確さでは信頼できるパーチするには不十分な可能性があり、手動で行うとシステムの安全性が損なわれる可能性がある。さらに、パイプなどの検査対象にUAVを自律的に着陸させることは、技術的に困難な作業である。
したがって、いくつかの例示的な実施形態では、1つまたは複数の環境感知デバイス、精密で高感度な案内および着陸技術、ならびに効果的な機械的パーチ機構を含む高度なシステムを使用して、パイプなどの高架資産で成功した堅牢な着陸操作を達成する。例えば、UAVのパーチ移動の正確さと精度同様に安全性レベルとを向上させるために、深度カメラおよびレーザスキャナ(LIDAR)などの、オンボードセンサを使用した自動化方法が提供される。いくつかの実施形態では、オンボードコンピュータを使用して、センサの測定値を処理して、対象物を正確かつ精密に検出し、UAVに対して位置特定して、パーチ経路を計画し、最終的に、UAVを制御してパーチするステップを実行する。
図1Aおよび1Bは、一実施形態による、構造物50(例えば、パイプ)上にパーチする例示的なUAV100の図であり、UAV100は、構造物50を検査または維持するための解放可能なクローラ130を有する。クローラ130は、図1AではUAV100に取り付けられており、図1BではUAV100に取り付けられていない(例えば、構造50上をクロールする)ように示されている。説明を容易にするために、構造物50は、UAV100よりも大きい(例えば、著しく大きい)と全体を通して想定されている。例えば、構造物50は、UAV100よりもすべての次元で大きい。または、構造物50が提供する着陸予定区域は、UAV100の着陸予定区域よりも大きい。さらに、説明を容易にするために、構造物50(または本明細書に記載の任意の構造)は、直系8インチ以上のパイプなどのパイプであると想定されている。
図1Aおよび1Bは、動作中の母子構成を示す。図1Aは、クローラ130がまだドッキングされた状態の、パイプ50に着陸した後のUAV100を示す。図1Bは、検査作業を実行するためにUAV100から解放された後のクローラ130を示す。解放可能なクローラ130によって提供されるクロール機能により、UAV100は、より容易な接近可用性などの検査および保守作業のための重要な機能を付与される(例えば、検査または保守が行われる正確なスポットに着陸する必要がない)。クロールにより、円周方向および縦方向のスキャンがさらに提供される。例えば、石油およびガス産業では、パイプ50のフルスキャンを実行して、パイプ50の特定の領域における最小鋼厚を見つけることが重要である。このようなスキャンには、円周スキャンと縦スキャンが含まれることがよくあり、クロールはこれによく適合する。クロールによって、さらに、複数の検査中に電力効率が提供される(例えば、同じパイプ上の複数の検査サイト間のクロールは、飛行よりも電力効率が高くなる)。
図1Aおよび2Bでは、UAV100は、4つの関節式磁石120(永久磁石または切り替え可能な永久磁石など)を利用する。パイプ50へのUAV100の着陸に対応するために、各磁石120(またはより正確には、その磁場)は、UAV100がパイプ50に着陸したとき、またはパーチしているときに、パイプ50に対して垂直な配向で関節運動する。
いくつかの実施形態では、関節磁石120の磁場は、能動的にオンとオフを切り替えることができる(例えば、作業完了後の容易な取り外しを可能にするため)。リアルタイムフィードバックの形式として、自動着陸移動中のUAV100に対するパイプの相対場所などを測定するために、レーザスキャナ110(例えば、光検出および測距、またはLIDAR)が含まれる。いくつかの実施形態では、ミニチュアクローラ130は、ワイヤによって接続され(例えば、電力および通信のために)、UTセンサ、4つの磁気ホイール140、および対応するペア(例えば、前部および後部)でホイール140を駆動するための2つのモータを含む。ワイヤはまた、検査または保守を実行するための残りの電子機器および電池をUAV本体100内に配置することを可能にする。これにより、クローラ130のサイズ、重量、および複雑さが軽減される。
いくつかの他の実施形態では、クローラ130は、異なる数のホイール140(例えば、2つまたは3つのホイール、または4つ以上)およびそれらのタイプ(いくつか例を挙げると、オムニホイール、メカナムホイールなど)を含む。無人地上車両(unmanned ground vehicle、UGV)とは異なり、磁気クローラ130は、パイプの検査または保守の(全体に示されているように)様々な曲率および様々な方向と戦わなければならない。したがって、いくつかの実施形態では、磁気クローラ130は、パイプの曲率(または他の湾曲した構造または血管からの同様の曲率)を航行するための特別な移動システムを有する。
いくつかの実施形態では、クローラ130とUAV100との間の通信は有線である。例えば、細いコードの小さなスプールを使用して、クローラ130は、電力および通信のためにUAV100に接続することができる。これにより、例えば、クローラ130内に電池および他の電子機器を保持する必要がなくなり、UAV100に既に存在するいくつかの構成要素を利用することによって、クローラをより小さくし、総重量を節約することができる。
他のいくつかの実施形態では、クローラ130とUAV100との間の通信は無線である。ここで、クローラ130は、より独立した車両を提供するために、それ自体の電池および電子機器を含む。これは、例えば、UAV100がクローラ130を地面から拾い上げ、パイプ50に展開する際に有用な場合があり、その時点で、UAV100は、飛行して何らかの他の検査作業を行い、次いで、クローラ130を拾い上げるために戻ることができる。これは、多数のクローラ130(例えば、クローラ130の群)が複数の資産を検査する場合にも有用である。UAV100は、それらを1つずつ、またはバッチで、地面から目的地に向けて拾い上げて、作業完了時に回収する。異なる実施形態では、無線接続は、クローラ130とUAV100または操作者の制御局のいずれか、もしくは、UAV100と操作者の制御局の両方との間であり得る。
一実施形態では、UAV100は、UAV100の飛行を可能にするように構築された本体を含む(例えば、ロータ、制御デバイスおよび誘導デバイスなどを有する)。UAV100はまた、本体に接続され、湾曲した強磁性表面50に飛行するUAV100を着陸させてパーチするように構成された3つ以上の脚を含む。各脚は、本体に接続された上部(またはメイン)部分と、永久磁石120を含む下部とを含む。底部は、着陸時に脚を強磁性面50に磁着し、かつ、パーチする間、脚を強磁性面に磁着されたままであるように構成されている。さらに、受動的な関節ジョイント接続は、脚の上部と下部を接続し、着陸中に下部が強磁性表面50に近づいていくことに応答して、上部に対して下部を受動的に関節運動(例えば、ピボット)する。UAV100は、磁気ホイール140を有する解放可能なクローラ130をさらに含む。磁気ホイール140によって、パーチする間にクローラ130をUAV100から分離することが可能になり、分離後は、クローラ130を強磁性表面50に磁着しながら、強磁性表面50上でクローラ130を移動することが可能になる。
異なる実施形態では、UAV100の異なる着陸機構を使用することができる。これらは、磁性または非磁性などの様々なタイプの接着機構を含み得る。磁気的な着陸機構の例には、パイプ50からの離陸中に機械的手段によって、遮断または克服することができる磁石が含まれる。このような磁石には、切り替え可能な永久磁石、離陸時の取り外しを支援する作動梃を備えた永久磁石、永電磁石、および電磁石が含まれる。しかしながら、連続的な電力消費は電磁石にとって不利になりうることに留意されたい。非磁性の接着機構は、ステンレス鋼、複合パイプ、コンクリート壁などの非強磁性の表面に使用できる。このような機構は、ヤモリに着想を得た乾燥接着剤(合成剛毛など)であるマイクロスパイン、吸盤、グリッパ、およびクロールを含む。
異なる実施形態では、異なるクローラ荷重または設計を使用される。単純化するために、これらの荷重または設計を、検査および保守という2つの基本的なカテゴリに分類する。検査荷重および設計には、パイプおよび構造物を検査するために石油およびガス業界でよく使用される様々なタイプのセンサを含む。例えば、いくつかの実施形態では、UTセンサが厚さ測定に使用される。説明を簡単にするために、全体を通して厚さ測定用のUTセンサが、検査と保守のための例示的なデバイスとアプリケーションを表すために時々使用される。しかしながら、他の実施形態は、そのようなデバイスまたはアプリケーションに限定されない。例えば、他の検査センサもしくはプローブを、UTセンサの代わりに、またはUTセンサに加えて、作業に応じて使用することができ、それには渦電流センサおよび交流電流場測定(ACFM)センサなどを含む(しかし、この限りではない)。
さらに他の実施形態では、クローラ130は、1つ以上のツールで構成され、保守目的で使用される。例えば、クローラ130を、洗浄、表面処理、およびコーティング補修などの軽い保守作業を実行するために使用することができる。さらに他の実施形態では、クローラ130は、1つ以上のカメラで構成され、目視検査に使用される。例えば、いくつかの実施形態では、カメラは、単純な目視検査の作業に使用される。関心のある領域の動画または写真のみを取得する必要があるが、その領域をUAV100によって直接的に検査することが困難であるような区域などの作業である。
いくつかの実施形態では、クローラ130は、マーカ(ペイントまたはQRコードなど)を関心のある領域(センサの読み取り値が正常レベル外である場所、障害が検出される場所、または状態は正常であるがとにかくマーキングすべき場所など)に残すように構成される。例えば、これらの場所は、重要な厚さレベルを検出する場所である可能性がある。いくつかのかかる実施形態では、クローラ130が再ドッキングし、UAV100が飛び去った後に、UAV100がこれらのマーカをスキャンし、これらのマーカの正確な場所を示す環境の3D再構成を作成する。いくつかのかかる実施形態では、UAV100は、オンボードRGB-Dカメラを使用してマーカを検出し、UAV100に対するそれらの場所を計算する。UAVのGPSの位置を使用して、計算または別様の方法でマーカの絶対的な場所を判定することができる。UAV100がマーカをスキャンしている間、クローラ130は、例えば、パイプ50上に留まるか、またはUAV100と再ドッキングすることができることに留意されたい。
いくつかの実施形態では、クローラ130は、無線の位置特定を使用して、資産上の(または他のセンサ読み取り)問題がある場所を、仮想マーカなどで識別する。言い換えれば、瑕疵の場所は、精度は低くなるが、物理的なマーカがなくても判定することできる。これは、UAV100に対するクローラの場所を、無線センサを使用して計算(または別様に判定)することができるためである。例えば、いくつかのかかる実施形態では、UAV100は、超広帯域(ultra-wide band、UWB)センサアレイを運び、当該センサアレイはクローラ130に据え付きの別のUWB送信機の無線信号を受信する。次いで、UAV100が飛行中であるか、パイプ50に取り付けられているかに関係なく、クローラの相対的な場所を測定することができる。いくつかの実施形態では、操作者がクロール中に障害を発見するときはいつでも、UAV100に関するクローラの場所にタグが付けられ、キャプチャされる。UAVのGPSセンサを使用すると、これらの瑕疵の絶対的な場所を判定することができる。いくつかの実施形態では、GPSが利用可能ではない場合、UAVの場所は、GPSが利用可能であるホームベースからの飛行軌道およびIMUデータに基づいて推定される。これは、カメラ画像とIMUデータを融合して基準点(ホームベースなど)に対する場所推定を計算する視覚慣性オドメトリ(visual inertial odometry、VIO)などのセンサ融合技術を使用して行うこともできる。
いくつかの実施形態では、前もって計算された(または判定された)検査場所が、UAV100から操作用コンピュータまたは地上局に転送される。次いで、検査場所が、例えば、検査対象のプラントのあらかじめ作成された3Dモデル上、またはUAVのオンボードセンサ(深度カメラもしくは3DのLIDAR)上で視覚化される。さらに、いくつかのかかる実施形態では、視覚化された場所に、対応する測定厚(または他の検知された値または情報)の注釈が付けられる。
図2は、一実施形態による、曲面(パイプ50のようなパイプなど)にUAV(UAV100など)を着陸させるための、自律的な案内および着陸技術200のブロック図である。本明細書に記載のこの技術および他の技術を、割り当てられたタスクを実行するように構成された(例えば、プログラムされた)演算回路または他の論理回路を含むセンサおよび他のデバイスの組み合わせを使用して実装することができる。これらのデバイスはUAV上(またはUAVのすぐ近く)にある。いくつかの例示的な実施形態では、制御ロジックは、演算回路(マイクロプロセッサなど)上で実行されるように構成されたコンピュータコードとして実装され、技術の一部である制御のステップを実行する。説明を容易にするために、この処理ロジック(例えば、ASIC、FPGA、プロセッサ、カスタム回路など)は、全体を通して制御回路と称される。説明をさらに簡単にするために、この制御回路は、制御ロジックを実行する(または、意図された目的を実行するように回路をカスタマイズする)コードによってプログラム可能であるものとする。
図2を参照すると、自律的な案内および着陸技術200は、2DのLIDARシステムおよび3Dまたは赤外線(IR)深度カメラなどの走査センサを含む様々な環境センサから生のセンサデータ210を取り込むか、そうでなければ受信するステップを含む。制御回路は、センサデータ210を処理するようにコードによって構成され、実用的な情報を生成する。この情報によって、技術200の残りの部分が実施され、例えば、UAVに対する制御命令が発行されて、繊細なパーチ移動が実行される。
さらに詳細には、技術200は、パイプ検出および位置特定220のステップを含む。一実施形態では、制御回路は、コードによって構成されるが、そのコードは、環境センサからのデータを処理し、対象となるパイプを識別および検出するため、ならびにUAVに対するその場所230を発見するためものものである。技術200は、軌道計画240のステップをさらに含む。一実施形態では、対象物の場所230が識別されると、制御回路は、現在の場所から所望の着陸場所(例えば、パイプ直上)までの完全な着陸軌道250を計画するようにさらに構成される。技術200は、260に続く制御および軌道のステップをさらに含む。一実施形態では、制御回路は、着陸移動中にUAVが計画された軌道250に従うように、また、あらゆる妨害および着陸軌道250からの逸脱についてリアルタイムでUAVを補正および制御270するようにさらに構成される。これらのステップの実装例の詳細を以下に示す。
図3A、3B、および3Cは、一実施形態による、UAV300が、対象構造物(パイプ250など)へパーチする例示的なステップの斜視図であり、対象物へアプローチするステップ、対象物と整合させるステップ、対象物250へパーチするステップをそれぞれに含む。図3Aは、UAV300が対象物250にアプローチし、適切な着陸位置を決定しているときの、対象物アプローチフェーズを表す。図3Bは、UAV300が(例えば、対象物250の上空から)着陸位置を微調整して、可能な限り正確に最終降下(または他の移動)をするときの、対象物整合フェーズを表す。図3Cは、UAV300が対象物250に着陸した(かつ現在パーチしている)ときのパーチ段階を表す。
UAVには、深度カメラ(3D深度センサなど)と2DのLIDARシステムの両方が含まれる。説明を簡単にするために、深度カメラは、深度センサで構成されたピクセルを使用して、矩形(2D)の視野(field of view、FOV)を取得(またはスキャン)する。各ピクセルの深度センサは、カメラからピクセルに対応するFOV内の対応する領域までの距離を推定する。これにより、深度カメラの出力データに追加の次元(3D)が付与される。説明をさらに簡単にするために、2DのLIDARは、タイミングセンサで構成されたピクセルを使用して線形(1D)のFOVを取得(またはスキャン)する。2DのLIDARからの出力レーザ光とピクセルへの戻り光とのタイミングの違いに基づいて、2DのLIDARは、2DのLIDARと線形FOVの各ピクセルとの間の距離を(光速を使用して)推定する。これにより、2DのLIDARの出力データに追加の次元(2D)が付与されて、これは、LIDARのスキャン方向に沿った2Dスライスを表す。3DのLIDARシステムとは対称的に、これは、タイミングセンサで構成されたピクセルを使用して、矩形(2D)のFOVを取得(またはスキャン)する。このようなシステムにより、矩形配列内の対応する各ピクセルに距離の次元を追加することで、3Dの出力を生成する。
これらの2つのセンサ(3D深度カメラおよび2DのLIDARシステム)を使用して、本明細書で考察される検出、位置特定、および整合の異なる例示的な実施形態が存在する。おそらく理想的な仕組みでは、3DのLIDARを使用して、十分な正確さと精度を常に、UAVに対する対象物のポーズの連続的なフィードバックに提供可能でありながらも、実際的な考慮事項がある。例えば、現在の3DのLIDAR技術では、比較的大きな(例えば、幅が1メートルを超える)UAVのみが、このようなセンサを搭載するのに十分な荷重を提供できる。このような大きなUAVが、比較的小型のパイプ(例えば、直径が8インチに近いパイプ)に着陸するというのは実用的ではない。これは、3D深度カメラと2DのLIDARシステムの合計重量を考慮した場合であっても、かなり軽量な3D深度カメラと2DのLIDARシステムとは対照的である。さらに、現在の3DのLIDAR技術では、3DのLIDARシステムのコスト(3DのLIDARシステムを搭載するための大きなUAVは言うまでもなく)は、3D深度カメラと2DのLIDARシステムとの両方のコストよりも桁違いに高くなる可能性がある。
したがって、実際的な考慮事項として、3D深度カメラと2DのLIDARシステムの組み合わせを考慮して、UAVに、本明細書で説明する自律的な検出、位置特定、整合、およびパーチを実行するために必要なセンシングデータを提供する。これにより、3DのLIDARシステムと比較して、比較的低コストで小さな荷重システムが提供される。言い換えると、UAVのサイズとその荷重量に関する制約の一部またはほとんどを緩和するために、3D深度センサとハイエンド2DのLIDARの組み合わせが提供される。両方のセンサを合わせた重量は、ハイエンドの3DのLIDARシステムよりもはるかに軽量である。さらに、3DのLIDARシステムと比較して、両方のセンサのコストが、1桁削減されている。提案されたセンサの組み合わせは、3DのLIDARシステムと同じほど高い正確さおよび精度を提供しない場合があるが、本明細書で説明する例示的な方法を使用は、正確かつ精密な自律的なパーチのための位置特定のフィードバックを、適切かつ同等の全体的なパフォーマンスで提供する。
図3A、3B、および3Cの例示的な実施形態を参照すると、この構成では、UAV300の各センサ(3D深度カメラおよび2DのLIDARシステム)を、対象物であるパイプ250からの特定の距離範囲での検出および位置特定に使用する。例えば、深度カメラは、比較的遠い距離から対象物250を連続的に検出および位置特定するために使用される。UAV300は対象物250(例えば、設定された距離または事前定義された距離未満、または対象物250の近接内に)に近づくとすぐに、2DのLIDARシステムを、対象物250の検出、位置特定、および整合にずっと、パーチが完了するまで使用する。そのため、以下の2つのゾーンがある:UAV300が、検出および位置特定に3D深度カメラのみを使用する、遠隔ゾーン(例えば、UAV300がパイプ250から比較的遠いとき)、およびUAV300が、検出、位置特定、および整合に2DのLIDARシステムのみを使用する、近接ゾーン(例えば、UAV300はパイプ250に比較的近いとき)。
このような仕組みでは、3D深度カメラは検知された周囲の3D点群を提供し、これは、パイプ(パイプ250など)などの任意の対象物の形状を3Dでセグメント化するのに役立ち、3D点群の中に半円筒状として表される。これはさらに、対象物250の3Dサイズを推定し、対象物250上の適切な着陸ポイントを選択するのに役立つ。しかしながら、深度カメラは、対象物250に近い距離で信頼性が低くなるため、パーチの信頼性が低下する可能性がある。
対照的に、2DのLIDARシステムは、深度カメラと比較してより正確な近接測定(パイプ250付近)を提供する。パイプ250は2DのLIDARに2Dのスライスとして、例えば、半円、半楕円、直線またはほぼ直線に、パイプ250に対する2DのLIDARスキャナの角度に応じて表される。2DのLIDARのこの正確さの利点は、深度カメラの信頼性がさらに低下する対象物250から非常に近い距離で特に顕著になる。しかしながら、対象物250から遠い距離では、2DのLIDARシステムが、2D(例えば、距離の線形アレイ)測定のみを使用して、所望の対象物250を堅牢に検出することは困難である可能性がある。これは、一部には、2D表現で対象物250と類似の表現を持つ他の周囲の物体が存在する可能性があり、かつ、2Dスライスにはそのような周囲のオブジェクトから区別するのに十分な対象物250がないためである。
したがって、2つのセンサを組み合わせることにより、対象物250から離れた距離で深度カメラを使用することにより、物体の検出および位置特定の曖昧さを回避することができ、対象物250から近い距離で2DのLIDARシステムを使用することにより、整合のパーチ正確さおよび精度を改善することができる。さらに、制御回路による処理能力は、2つの独立したステップのそれぞれで1つのセンサの出力のみを消費することによって減少する。
図4は、一実施形態による、曲面(パイプなど)へのUAVの自律的な展開および着陸のための例示的逐次経路計画技術400のフローチャートである。図4の経路計画技術400は、区分線系軌道アプローチを使用しており、それは、図3A、3B、および3Cのそれぞれについて、例示的な対象物へのアプローチ、対象物との整合、および対象物へのパーチに示されるものと類似する。この方法では、制御回路は、例えば、上記の1つ以上の対象物検出および位置特定方法を使用して、3つの異なる状態でのUAVの軌道を計算するようにプログラムされている。3つの状態とは、図3A、3B、および3Cのそれぞれに示されるように、対象物へのアプローチ、対象物との整合、および対象物へのパーチである。言い換えれば、完全なパーチ軌道は、これらの3つの部分で構成されており、制御回路は互いに独立して計算するようにプログラムされている。
図4の経路計画技術400を参照すると、処理は、対象物にアプローチするステップ410から始まる。これは、自律的なパーチミッションの第1の状態であり、対象物が最初に検出され、比較的遠い距離から位置特定される。ここで、制御回路は、UAVを、最初に、対象物から離れた事前定義された場所でホバリング状態のままにするようにプログラムされている。制御回路はさらに、検出および位置特定アルゴリズムのための対象物の初期入力画像の操作者の選択を受信するようにプログラムされている。例えば、ユーザまたは操作者は、UAVの車載カメラによって提供されるライブ画像ストリームから対象物を含む関心領域(region of interest、ROI)を選択することにより、ユーザインターフェイスからこれを行うことができる。次に、制御回路は、初期の対象物入力画像とオンボード深度カメラの入力を使用して、UAVに対する対象物の連続的な検出と3D位置特定を提供するようにさらにプログラムされる。このことから、制御回路はさらに、対象物の(検出および位置特定からの)計算されたポーズを使用して、対象物のより近くに移動し、整合の準備をするためにUAVがたどる安全なパス(例えば、直線)を計算するようにプログラムされている。
技術400はさらに、UAV(またはドローン)が、(例えば、安全な経路に沿って移動し、対象物に接近した後)対象物に現在十分に接近しているかどうかを判定するステップ420を含む。一実施形態では、制御回路は、例えば、UAVが、対象物からの事前定義された場所または事前定義された距離であって、2DのLIDARシステムの対象物への視認性が高い位置に到達すると、この状態(対象物へのアプローチ)が完了していると判定をするようにさらにプログラムされている。その時点で、2DのLIDARシステムは対象物にパーチする準備として(3D深度カメラよりも)より正確な位置特定を実行することができ、対象物へのアプローチの状態(深度カメラが検出および位置特定に使用されるとき)が終了する。
技術400はさらに、2DのLIDARシステムを使用して現在検出されている対象物にUAVを整合させるステップ430を含む。この状態では、制御回路はさらに、対象物に対するUAVの配向を最適化するために2DのLIDAR測定のみを使用して対象物の検出および位置特定をして、正確で明確なパーチを実現するようにプログラムされている。これには、UAVを、パイプの真上およびパイプの事前定義された近接範囲内など、対象物にパーチする適切な場所に移動することを含む場合がある。この目的のために、技術400はさらに、UAVが対象物と整合されているかどうかを判定するステップ440を含む。ここで、制御回路はさらに、2DのLIDAR測定を使用して、UAVが対象物に対して十分に近く、適切な配向であり、実際に対象物にパーチするかどうかを判定するようにプログラムされている。そうでない場合、制御回路はさらに、UAVを対象物にさらに整合させるために2DのLIDAR測定を引き続き使用するようにさらにプログラムされている。
対象物と整合されると、技術400はさらに、2DのLIDAR測定を使用して、対象物にパーチするステップ450(例えば、最終着陸操作)を含む。UAVが対象物と整合した後、制御回路はさらに、パーチするポイント(対象物上の着陸場所)への安全な経路を計算するようにプログラムされている。一実施形態では、安全な経路は、対象物上にパーチするポイント、およびこの点に向かう速度プロファイルによって特徴付けられる。制御回路はさらに、計算された軌道に沿ってUAVを制御し、UAVを対象物に安全に着陸させるときに、連続的なフィードバックのために2DのLIDAR測定を使用するようにプログラムされている。
図5は、一実施形態による、センサ融合を使用する対象物の検出、位置特定、および整合の例示的な技術の斜視図である。説明を容易にするために、図3A、3B、および3Cのパイプ250およびUAV300が、図5の例示的な技術の説明で使用される。最も重要な違いは、制御回路のプログラミングおよび、UAV300における3D深度カメラと2DのLIDARシステムの併用にあるからである。
さらに詳細には、図5を参照すると、この構成では、深度カメラと2DのLIDARシステムの両方が、パーチミッション全体でずっと、同時に(例えば、いっせいに)使用される。かかる一実施形態では、粗密のアプローチに従うセンサ融合法が使用される。このアプローチでは、深度カメラを使用して、対象物250を堅牢に検出および位置特定するが、その距離精度は、一般に、同等の2DのLIDARシステムの精度よりも低くなる。これは、3D深度カメラ(2D FOV)によって提供される追加のカバレッジと、そのような画像を使用して3D形状(パイプ250など)を認識する機能が、長い距離ではより優れているためであり、2DのLIDARシステム(1D FOV)は、そのような距離に他の構造物が存在する場合に、対象物250をと識別するためのより多くの課題を呈する可能性がある。
図5に示されるように、粗密のアプローチには、深度カメラの位置特定結果(例えば、コースの特定)を利用し、UAV300が対象物250をパーチする点へ向かって移動する際に2DのLIDAR測定の探索空間に制約をかける。この制約された探索空間は、対象物250を隔離する可能性が最も高い深度カメラFOVの部分(またはパーチ位置などの対象物250の関心のある部分)を表す。制約された空間内の2DのLIDAR測定は、対象物250を検出して位置特定するために使用され(例えば、詳細な位置特定)、大きさと方向(例えば、1Dスキャン)の両方を制約に制約をかけて2DのLIDAR測定を実行する。
別のかかるセンサ融合の実施形態では、UAV300の制御回路は、カルマンフィルタベースのセンサ融合スキームを使用して、それぞれの測定値の曖昧さの収支を取ながら各センサ(深度カメラおよび2DのLIDAR)の独立した推定を融合することによって、より堅牢な位置特定推定を行うようにプログラムされている。
センサ融合の実施形態では、両方のセンサの測定値が融合され、パーチするミッション全体で常に使用される。これは、各センサの測定値が独立したステップで使用される、図3A、3B、および3Cに示される実施形態とは異なっている。2つの基本的なアプローチを比較すると、センサ融合の場合、位置特定の正確さが常に向上し、パーチポイントへ向かうUAVの軌道がより滑らかになる。しかしながら、センサ融合では、両方のセンサの測定値がパーチミッション全体でずっと処理されるため、計算時間が長くなる。
センサ融合の実施形態では、制御回路は、(図4の逐次経路計画技術の区分線形軌道とは対照的に)連続的なパーチ軌道を計算するようにプログラムされている。ここで、制御回路は、深度カメラと2DのLIDARシステムの両方を使用して対象物が初めて検出され、位置特定されると、初期値の連続軌道を計算するようにプログラムされている。制御回路は、最初の対象物検出時のUAVの場所、対象物上のパーチポイント、および軌道に沿った速度プロファイルを使用して、この連続軌道を特徴付けるようにさらにプログラムされている。
マルチセンサ構成は、独自の機能を利用することにより、より堅牢なオブジェクトの検出、位置特定、および整合を提供するが、各センサを単独で自律的なパーチタスクで使用することもできるシナリオがある。つまり、特定の特殊なシナリオでは、2DのLIDARシステムまたは3D深度カメラのいずれかで、パーチの自律的な検出、位置特定、および整合を実行するのに十分である。例えば、2DのLIDARシステムは、非クラスタ化(またはノイズのない)環境での堅牢な対象物の検出、位置特定、および整合のために単独で使用することができる。同様に、3D深度カメラは、大型の対象物の適切な検出、位置特定、および整合を提供するために単独で使用することができる。
以下は、検出および位置特定方法の例示的な実施形態の説明である。これらは、湾曲した構造上のUAVの自律的なパーチの最も挑戦的な態様であるからである。説明を容易にするために、これらの方法は、対象物を適切に検出および位置特定するためにセンサデータを処理するように制御回路をプログラミングするという観点から説明されている。さらに、この説明の多くは、湾曲した構造物(パイプなど)にUAVを自律的にパーチするタスクへの検出および位置特定アルゴリズムの実際の適用であるため、そのようなアルゴリズムのステップの実装が、対応するステップを実行するように制御回路をプログラミングすることによるものであることをも理解されたい。
先に述べたように、対象物の検出および位置特定は、自律的なパーチ移動で最も困難なタスクである。これは、移動制御の正確さと精度が位置特定のフィードバックの正確さと精度に大きく依存しているためである。例示的な実施形態では、深度カメラまたは2DのLIDARシステム(または両方)を使用してこのタスクを実行するために、(制御回路上でプログラムされたものとして)異なるアルゴリズムが説明されている。深度カメラと2DのLIDARは、パイプを検知してその場所を検出する2つの異なるタイプのセンサである。各々が異なるアプローチを使用して距離を測定し、互いに大きく異なるデータを生成する。そのため、本明細書で説明するように、位置特定アプローチまたはアルゴリズムは、これらのセンサのうちの1つの特定のタイプに特化している場合がある。
深度カメラは、ボリューム表現(または3D点群)を提供する。これには、検知ピクセルの矩形(2D)アレイによって観察される、周囲の3D環境で検知された物体の距離測定が含まれる。反対に、2DのLIDARシステムは2D点スライスを提供する。これには、検知ピクセルの線形(1D)アレイによって観察される線に沿って検知された物体の距離測定が含まれる。深度カメラの点群を使用して、任意の3D物体のセグメント化および位置特定を実行することができる。対照的に、2DのLIDAR測定は、これらの形状の2Dスライスを検出するためにのみ使用できる。そのため、2DのLIDARデータのみを使用した任意の物体の検出および位置特定は著しくより困難であり、周囲のノイズ(3D深度データでフィルタリングが容易な、類似の物体または他のスプリアス信号源など)に特に敏感である。深度カメラを使用した対象物の位置特定の正確さと精度は、対象物の近傍0.3~10メートル(m)などで、十分であると見なされる。しかしながら、2DのLIDARは、より近い距離、特に0.05m未満などのかなり近い距離で、大幅に高くなった正確さおよび精度を提供する。
説明を容易にするために、説明される実施形態は、パイプまたは円筒状の他の対象物を検出するように設計されたアルゴリズムを使用するが、同様の概念を他の実施形態で一般化して、球形または部分球形などの他の曲面対象物を検出することができる。3D深度カメラと2DのLIDARシステムのデータ出力はかなり異なるため、対象物の検出および位置特定用の異なるアルゴリズムをセンサのタイプごとに提供する。これらのアルゴリズムのより詳細な説明は、図6から9を参照して下記に示す。しかしながら、今回はより簡単な説明が成される。
3D深度カメラを使用して検出および位置特定を実行するための異なる実施形態が提示される。これらには、点群からの物体のセグメント化の使用、慣性測定の融合の使用、および点群を削減するための画像ベースの物体追尾の使用が含まれる。しかしながら、これらは単なる例であり、他のものは本開示に照らして明らかになるであろう。
点群からの物体のセグメント化を使用した検出および位置特定に関して、これの主な手順に含まれるのは、深度カメラからの点群を受信すること、点群内の境界ボックスを識別すること、境界ボックス内での物体のセグメント化の実行すること、対象物の中心の場所を推定すること、および前のステップの結果と新しい入力点群を使用して、これらのステップの一部またはすべてを繰り返すことである。さらに詳細には、制御回路は、深度カメラから点群を受信するようにプログラムされている(例えば、出力データを深度カメラから3D点群へ処理する)。制御回路はさらに、入力点群内の対象物(この場合はパイプ)を表す候補の点を含む初期境界ボックスを識別するようにプログラムされている。例えば、この初期の境界ボックスは、いくつか例を挙げると、点群全体、開始する前に判定された部分、測定器(GPS、IMUなど)に基づく対象領域の初期推定、またはユーザ定義の境界ボックスであってもよい。
制御回路はさらに、パイプの数学モデル(例えば、円筒)にベストフィットするすべての点を見つけるために、識別された境界ボックス内で物体のセグメント化を実行するようにプログラムされている。このことから、制御回路はさらに、意図された対象となるパイプを表す(例えば、予測された場所と形状が最も一致する)可能性が最も高いセグメント化された物体を識別するように、プログラムされている。この点において、制御回路はさらに、深度カメラに対する対象パイプの中心の場所を推定するようにプログラされている。一実施形態では、対象物であるパイプとして識別された点の図心を、パイプの中心の推定に使用する。次の繰り返しでは、新しい入力点群が使用可能になると、さらなるセグメント化および更新された図心計算で、前に計算された図心の周囲に新しい境界ボックスを定義する。これは、対象物がカメラのFOVに関して以前の場所からあまり移動していないことを前提とする(例えば、小さな動きの想定)。
慣性測定融合を使用した検出および位置特定に関して、これは、ここで考察される点群の実施形態からの物体のセグメント化に類似しており、小さな動きの仮定のみが緩和されている。代わりに、制御回路はさらに、深度カメラにしっかりと取り付けられた慣性測定ユニット(IMU)からなど、さらなる入力を受信する(または、慣性を測定するか、深度カメラのポーズを推定する)ようにプログラムされていて、前の推定された場所に基づく次の繰り返しでの対象物の場所(深度カメラのFOVに対する)を予測する。新しい境界ボックスは、新しいIMUベースの推定された場所の周囲に構築される。IMUを使用して、UAVの高速モーションまたは回転を予測できる。これにより、小さなモーションの仮定が緩和され、次の繰り返しでより正確な境界ボックスを予測できる。
点群を低減するための画像ベースの物体追跡を使用する検出および位置特定に関して、制御回路は、画像ベースの物体追跡を使用して、入力点群を画像フレーム内の追跡された物体の領域のみに対応するものに制約するように、プログラムされている。一実施形態では、画像トラッカの障害を説明するために、IMUを使用して画像フレーム内の物体の場所を予測し、それを使用して、物体が行方不明なったときに画像トラッカを再初期化する。
2DのLIDARシステムを使用して検出と位置特定を実行するための様々な実施形態が提示されている。かかる一実施形態は、クラスタ化および修正ランダムサンプルコンセンサス(RANSAC)アルゴリズムを使用して円検出を行うことを含む。ここで、制御回路は、改良型RANSACアルゴリズムを使用して、2DのLIDAR距離測定の高速クラスタ化を利用するようにプログラムされている。別のかかる実施形態では、線形クラスタのリジェクトを使用する。ここで、制御回路はさらに、2DのLIDAR測定で線形(またはほぼ線形のセグメント)を表す点を削除するように(改良型RANSACの実施形態から)さらにプログラムされている。さらに別のかかる実施形態は、一時的なパイプの位置および直径の追跡を使用する。ここで、制御回路は、初期の有効な対象物検出の位置と直径を使用して、各フレームで完全な検出を実行する代わりに、後続の時間フレームで対象物を追跡するようにプログラムされている。
さらに別のかかる実施形態は、RANSACおよびハフ変換を使用して楕円検出を実行する。上記の例示的な2DのLIDAR検出および位置特定の実施形態は、円(2DのLIDARスライスの1D部分の例)を入力データにフィットさせることを説明しているが、このアプローチでは、制御回路は、楕円を入力点にフィットさせるようにプログラムされている。これは、対象となるパイプに対するLIDARの配向によっては、結果の点が円よりも楕円で表される場合が多いためである。さらに、楕円を使用して、LIDARとパイプの間の方向角(ヨー)を計算できる。これは、パイプとのUAVの整合において有用であり得る。この実施形態は、ハフ変換と共にRANSAC技術を使用しており、以下により完全に説明される。2DのLIDAR検出および位置特定のさらなる他の実施形態は、本開示に照らして明らかになるであろう。
さらに詳細には、2DのLIDARシステムを使用した様々な位置特定技術について説明する。2DのLIDARは、高速の回転スキャン速度でレーザビームをスイープし、環境からスキャナに戻る反射レーザの飛行時間を測定する軽量レーザスキャナである。これにより、2DのLIDARは、視線内にあり、2DのLIDARの特定の範囲内にある限り、スキャナ周辺のすべての物体と障害物の詳細な2Dスキャンを提供できる。LIDARの高速スキャン速度のため、ならびに、点群が3D点群ではなく2Dであるため、単一スキャンの送信に必要な帯域幅が狭いため、リアルタイムスキャンが可能である。
2DのLIDARシステムを使用したパイプの位置特定の複数のアルゴリズムについてさらに説明する。様々な技術には、展開される環境などの要因に応じて、それぞれ長所と短所がある。技術には、クラスタ化と改良型RANSACアプローチを使用した円の検出、線形クラスタのリジェクト、一時的なパイプの位置と直径の追跡、RANSACとハフ変換を使用した楕円の検出が含まれる。
図6は、一実施形態による、2DのLIDARセンサデータのクラスタ化を使用する例示的な円(例えば、パイプ)検出技術600のフローチャートである。技術600は、クラスタ化を利用する大幅に改良されたRANSACアプローチを使用して、高精度で2DのLIDARデータからパイプを検出および位置特定する。制御回路は、点群を角度でソートすることにより、高速クラスタ化を実行するようにプログラムされている。
図6を参照すると、処理は、5センチメートル(cm)よりも近い連続する点をクラスタ化)し、特定の数(例えば、n)点より少ないクラスタを無視するステップ610から始まる。このステップでは、制御回路は近くの点をクラスタ化するようにプログラムされ、特定の閾値サイズに達するクラスタのみを考慮する。例えば、一実施形態では、制御回路は、線形スキャンにおける2つの連続する各点間の距離を計算し、離れている距離が5cm未満であるそれらの点を一緒にクラスタ化するようにプログラムされている。制御回路はさらに、特定の閾値n未満の点を有するいかなるクラスタも無視し、他のクラスタを適格として維持するようにプログラムされている。
技術600はさらに、任意の大きな数の繰り返し(例えば、利用可能な処理能力、点群のサイズ、所望の精度、およびなどに依存する)のために、改良型RANSACを駆動し、改良型RANSACは残りのステップ620~680を包含する。より具体的には、技術600は、ランダムに適格なクラスタ内の3つのランダムな点を通る円をフィットさせるステップ620を含む。目標は、クラスタ内の他の点を特徴付ける円(パイプスライスなど)をすばやく見つけることである。ここで、制御回路は、適格なクラスタをランダムに選択するようにプログラムされており、そのクラスタから、そのクラスタ内の3つの点をランダムに選択し、それらに円をフィットさせる。
技術600はさらに、円の方程式を使用して、円から選択されたクラスタ内の他のすべての点の代数誤差を計算するステップ630を含む。これは、クラスタが円にどの程度フィットしているかの尺度を提供する。ここで、制御回路はさらに、円の方程式に接続されたときに、そのクラスタ内の他のすべての点の代数誤差を計算または別様に判定するようにプログラムされている。技術600はさらに、円に近いクラスタ内の正対応点の数を数えるステップ640を含む。ここで、制御回路はさらに、誤差が事前定義された閾値よりも小さい(例えば、円に近い)のある正対応点の数を見つけるようにプログラムされている。技術600は、正対応点の数がクラスタ閾値サイズnの数よりも大きいかどうかを判定するステップ650さらに含む。これにより、クラスタが実際に円(パイプなど)であるという確証が得られる。ここで、制御回路はさらに、正対応点の数を閾値nと比較し、それが小さい場合は、クラスタ(またはクラスタ内の点選択)は円(パイプ)に適切にフィットしないため、ステップ620から処理が繰り返されるようにプログラムされている。
そうでない場合は、正対応点の数は閾値nを超えており、技術600はさらに、すべての正対応点を通る最良の新しい円をフィットさせ、総残余誤差を計算するステップ660を含む。ここで、制御回路はさらに、すべての正対応点を通るベストフィットな円を見つけ、ベストフィットな円に関する誤差を見つけるようにプログラムされている。技術600は、新しい円が前の最良の円よりも良好である(例えば、より小さな誤差)かどうかを判定するステップ670をさらに含む。目的は、利用可能な2DのLIDARデータにフィットする最良の円(パイプなど)を見つけることである。ここで、制御回路は、最新の円/クラスタのフィットの総残余誤差を比較するようにさらにプログラムされており、その誤差が前の繰り返しで見つかった最良の円/クラスタのフィットのそれ以上である場合、新しい最良の円が見つかっていないので、ステップ620からプロセスが繰り返される。
そうでない場合は、新しい最良の円が見つかったので、技術600は、新しい円を最良の円として保存するステップ680をさらに含む。ここで、制御回路は、新しい円を、後の候補円と比較するために電子記憶媒体に最良の円として格納し、さらにより良い円を探すためにステップ620から始まる処理を繰り返すようにさらにプログラムされている。繰り返しは、いくつかの終了基準が満たされると停止する(例えば、反復回数、計算時間、残差誤差が事前定義された閾値を下回るなど)。この技術は、UAVが対象となるパイプに十分に近く、パイプがスキャンラインで観察されるクラスタで寡占の場合にうまく機能する。パイプの相対的なサイズが縮小するか、他の構造物(特に他の湾曲した構造)の量が増えると、対象となるパイプを検出して位置特定する技術の信頼性が大幅に低下する。
2DのLIDARの検出および位置特定の別の技術では、線形クラスタのリジェクトが実行される。ここでの目的は、最初にどのクラスタが単なる線分であるかを識別し、次にそれらを検索から無視することによって、上記の改良型RANSACアルゴリズムでの誤検出という落とし穴を回避することである。それらを除外すると、改良型RANSACを開始できる。これを行うには多くの方法がある。例えば、一実施形態では、制御回路は、各セグメント(またはクラスタ)を通る最小二乗線にフィットし、次にそれらの総残余誤差を調査するようにプログラムされている。別の実施形態では、制御回路は、各クラスタで主成分分析(principal component analysis、PCA)を実行し、それらの第2の固有値を調査するようにプログラムされている。小さい2番目の固有値はフラットクラスタ(例えば、線分)を示し、大きい2番目の固有値(例えば、非線形クラスタ)はRANSACの適切な候補である可能性がある。また別の実施形態では、制御回路は、各クラスタの平均勾配変化を見つけ、それをクラスタの真直度の指標として使用するようにさらにプログラムされている。制御回路はさらに、真直度が事前定義された閾値を超えるクラスタを破棄するようにプログラムされている。
2DのLIDARの検出および位置特定のさらに別の技術では、一時的なパイプの位置と直径の追跡が実行される。例えば、この技術は、上記で論じたクラスタ化および可改良型RANSACの実施形態と組み合わせて使用することができる。ここでの考え方は、1つのフレームでパイプについて検出された情報(2DのLIDARスナップショットなど)を利用して、次のフレームでのパイプの検索を支援することである。かかる一実施形態では、制御回路は、パイプが1つのフレームで見つかった場合、探索空間が次のフレームでは、第1のフレームでのパイプの場所の近くに制限されるようにプログラムされている。これは、UAVがあるフレームから次のフレームへごくわずかに動くことを前提としているが、これは、特定のアプリケーションで有効な前提である。しかしながら、誤った検出(誤検知)を回避するように必ず注意しなければならない。誤った検出によって、検索ウィンドウが真のパイプの場所からずれてしまう可能性がある。これにより、発散が生じ、真の場所にスナップバックできなくなる可能性がある。
したがって、別のかかる実施形態では、制御回路は、真であるらしいとして第1のフレームで検出されたパイプ直径を使用し、それから、後続のフレームでは、その特定の許容範囲内の直径を有する円のみを受け入れるようにさらにプログラムされている。これにより、アルゴリズムのパフォーマンスが大幅に向上し、誤検知が減少する。
2DのLIDARの検出および位置特定のさらに別の技術では、RANSACとハフ変換を使用した楕円検出が実行される。2DのLIDAR出力に円をフィットさせることは2DのLIDARスキャンでパイプを検出する1つのアプローチだが、スキャンスライスが対象となるパイプの縦軸に垂直であると想定している。しかしながら、一般に、これは、対象物パイプの縦軸が位置特定され、それに応じて2DのLIDARスキャンが調整された場合にのみ当てはまる。それ以外の場合、2DのLIDARスライスは代わりに楕円にフィットする可能性がある。言い換えると、UAVがパイプの方に直接向いており、パイプに垂直である場合、パイプは2DのLIDARスキャンでは円のセグメントのように見える。しかしながら、UAVがわずかな角度θでも右または左に回転(ヨー)すると、パイプは完全な円のセグメントとしてではなく、楕円のセグメントとして表示される。楕円の離心率は、パイプに対するUAVのヨー/方位角θに直接関係している。
より正式には、UAVが水平でピッチングしている限り、楕円の短軸の長さは常にパイプの直径Dに等しくなる。ゼロ以外のピッチ角は、UAVのIMUを介して角度を測定し、LIDARデータ点をその角度で回転させることで補正され得る。UAVのヨー角θと長軸の長さLの関係は、次のように特徴付けられる:θ=arccos(D/L)。したがって、一実施形態では、制御回路は、LIDARデータのパイプ点を使用して楕円を2DのLIDARデータにフィットさせ、次に対応する長軸および短軸の長さを抽出して、パイプ直径およびUAVのヨー角を識別するようにプログラムされている。別の実施形態では、制御回路は、ハフ変換を使用して、RANSACを使用して最良の楕円を見つけるときに2DのLIDARデータがノイズに対してより敏感でないようにするようにさらにプログラムされている。しかしながら、大きな検索空間の次元が計算時間を支配し、許容できないパフォーマンスにつながるのを防ぐように注意する必要がある。
3D(IRなど)深度カメラを使用した様々な位置特定技術について、全体を通して説明する。深度カメラは、深度カメラによって生成された点群内の直パイプを検出して位置特定するために適した候補である。点群は、3D空間内の物体の離散的な体積表現である。物体の検出と追跡は、2D画像処理のコンピュータビジョン研究の一環として研究されている。画像はキャプチャされたシーンの特徴の豊富なソースを提供するが、単眼カメラを使用して物体の3Dポーズを位置特定および推定することは困難である。主な課題は深度推定に由来する。ステレオカメラは、より多くの計算と、限られた範囲であることを対価として、ある程度の救済を提供する。3DのLIDARシステムは、検知された環境のボリューム表現を提供する。これにより、物体の位置特定がより簡単かつ正確になる。しかしながら、既存の3DのLIDARデバイスは、3DのLIDARの比較的重い重量に起因して、小さなUAVを使用する空中アプリケーションなどの特定のアプリケーションには使用することができない。
したがって、深度カメラは、ステレオカメラと3DのLIDARシステムとの間の低コストなトレードオフ解を提供する。深度カメラは、RGB-Dカメラと呼ばれることが多く、通常のRGBカメラとIRセンサとを組み合わせて、RGB画像と各ピクセルの推定深度を提供する。深度画像は点群に変換することができ、点群は、検知された環境のボリューム表現を提供する。3DのLIDARデバイスは、一般に、深度カメラと比較してより正確な点群を提供することができる。しかしながら、以下でさらに考察されるいくつかのフィルタリング技術では、深度カメラによって生成された点群は、本明細書において考察されるように自律的なパーチに適している可能性がある。現在、Intel RealSense D435カメラなど、小型のUAVに搭載できるほど小型である、低コストの深度カメラがいくつかある。
点群でパイプの検出および位置特定を実行し、そのポーズを推定するための様々な技術が提供される。ここで、ポーズは自由度6の(6-DOF)ポーズ、つまりパイプの図心の3D位置とその軸の3D回転角である。技術には、点群フィルタリング、パイプセグメント化、およびパイプ追跡が含まれる。
3D深度カメラ出力のための例示的な点群フィルタリングの実施形態では、生の入力点クラウドは、一般に密であり、センサ不正確さおよび環境条件のために雑音多い測定値を含む。したがって、より正確な物体のセグメント化結果を取得するために、生の入力点群にフィルタリングを適用すると便利な場合がある。このような2つのフィルタには、トリミングとダウンサンプリングが含まれる。これらのフィルタは、例えば、円筒のセグメント化を実行する前に適用することができる。それらはまた、単独でまたは一緒に適用することができる(それらの効果が複合する場合)。それらは、円筒(パイプ)のセグメント化などの他の手法の前に適用することもできる。
例示的なトリミングの実施形態では、センサの近くの物体のみが対象であり、さらなる点は有用である可能性が低い。例えば、入力点群には、センサから最大10メートル離れたデータが含まれている場合があるが、関心を向ける物体を画像化するには、最大5メートルの深さで十分である。したがって、制御回路は、これらのデータ点から5メートル以上離れてトリミングするようにプログラムされている。これにより、ノイズと外れ値の数が減り、オブジェクトのセグメント化の精度を改善する。さらに、処理する点の数が低減されるため、セグメント化時間を大幅に低減することができる。同様の方法で、例示的なダウンサンプリングの実施形態では、制御回路は、入力点群をダウンサンプリングするようにプログラムされている。このタイプのフィルタリングによって、入力点群のサイズも縮小する。これにより、さらに他の処理が高速化され、自動パーチなどの計算バウンドの(リアルタイムなどの)環境で役立つ場合がある。
例示的なパイプのセグメント化の実施形態では、制御回路はさらに、入力点群がフィルタされた後に物体のセグメント化を実行するようにプログラムされている。点群において物体のセグメント化を行う多くの方法が存在し、例えば、領域の拡大、最小カットグラフ、正規分布の違い、ユークリッド距離ベースのクラスタ化、ランダムサンプリングコンセンサス(RANSAC)を使用したモデルフィッティングなどである。説明を簡潔にするために、この開示では、主にRANSACを使用したモデルのフィットに焦点を当てる。RANSACは、望ましくない外れ値を含む一連の観測データから数学モデルのパラメータを推定する反復法である。したがって、RANSACは外れ値の検出方法としても説明できる。この方法は、実用的であり役立つ。なぜなら、実際のフィールドデータには、外れ値と見なされる他の構造物の測定ノイズに加えて、対象となる物体を囲む他の構造物の測定値が含まれているためである。
一般に、パイプは、3つのモデルパラメータ、つまり、円筒の半径、円筒の中心軸上の点(3つの座標)、および方向または原点に対する中心軸の3D回転(3つの座標)によってパラメータ化できる円筒モデルで表せる。RANSACアルゴリズムの主な機構は次のとおりである。物体のモデルが定義される。本明細書の場合、前述のパラメータ(半径、中心軸の点、中心軸の配向)を持つ円筒モデルである。距離関数は、フィットされたモデルからポイントがどれだけ離れているかを測定するために定義される。一実施形態では、ユークリッド距離は距離関数として機能する。
各時間ステップtで、入力データフレームが提供される。これは、時間tにおける入力点群Ptである。一実施形態では、制御回路は、事前定義された最大繰り返し数まで、RANSAC法を繰り返し実行するようにプログラムされている。各繰り返しで、制御回路はモデルフィッティングによって円筒モデルのパラメータを推定するようにプログラムされ、モデルの精度は定義された距離関数を使用して計算される。制御回路はさらに、RANSAC法の実行を継続し、すべての繰り返しにわたって最大の精度で最良のモデルフィット(モデルパラメータ)を出力するようにプログラムされている。これらのステップは、各入力点群Ptに適用される。
いくつかの実施形態では、オープンプロジェクトの点群ライブラリ(Point Cloud Library、PCL)を使用して、RANSACを使用する円筒のセグメント化の実装を含む、点群フィルタリングのためのいくつかの機能を提供する。かかる一実施形態では、PCLは、点群フィルタリングおよび円筒のセグメント化を実行するために使用される。RANSACを使用した点群のフィルタリングとパイプのセグメント化は、ほとんどの場合、うまく機能して、対象となるパイプを検出して位置特定するが、失敗することもあり、例えば、スプリアス雑音のあるセグメントが最良のセグメントとして見えるほど入力データに雑音がある場合、または、入力データに2つの円筒があって、本技術が誤った方を識別する場合である。したがって、いくつかの実施形態では、誤って検出されたパイプを減らし、他のパイプの存在下での検出の曖昧さを減らすために、パイプ追跡機構が提案される。
図7は、一実施形態による、例示的な近隣ベースのパイプ検出技術700のフローチャートである。処理は、RANSACを使用して710円筒の検出を実行するステップで始まり、次に720有効な円筒を選択し、現在の有効な図心を有効なシリンダの図心に更新するステップが続く。ここで、制御回路は、RANSACを使用して入力3D深度カメラデータ(点群)で円筒の検出を実行するようにプログラムされ、有効な検出(例えば、可能なパイプまたは円筒形)が利用可能になると、選択された円筒が次のフレームでの初期候補として選択され、有効な円筒の図心が計算される。技術700は、前の有効な図心の周りの次の入力群をトリミングするステップ730をさらに含む。ここで、制御回路はさらに、連続する入力群の間の深度センサで小さな動きの仮定を行い、以前に計算された有効な図心の周りの次の入力群をトリミングするようにプログラムされている。
技術700はさらに、RANSACベースのセグメント化をトリミングされた群に適用するステップ740と、結果として得られる円筒(またはデータポイントの円筒群)の図心を計算するステップを含む。この時点で、技術700は、新しい重心が前の重心の近くにあるかどうかを判定するステップ750を含み、そうでない場合は、前の有効な図心が維持されて、処理はステップ730から再開される。一実施形態では、制御回路は、前の図心と新しい図心との間の距離が事前定義された隣接距離d以下であるかどうかを判定するようにプログラムされ、そうでない場合、それは無効な検出と見なされ、有効な図心は新しい図心で更新されない。そうでなければ、前の重心と新しい重心は隣接しており(例えば、隣接距離d内)、技術700は、現在の有効な図心を新しい図心に更新するステップ760をさらに含む。この新しい図心の周りで730をトリミングするステップから、処理が再開される。
この追跡機構の成功は、小さな動きの仮定に大きく依存していることに注意することが重要である(例えば、連続するフレーム内の選択された円筒の図心は互いに近くにある)。したがって、いくつかの実施形態では、急速な動きの存在下での検出の堅牢性をさらに改善するために、センサ融合機構が使用される。いくつかのかかる実施形態では、センサ融合メカニズムは、カルマンフィルタを使用する。
図8は、一実施形態による、カルマンフィルタフレームワークに基づく例示的なパイプ位置特定技術800のフローチャートである。この技術は、前述の手法のパイプ検出および位置特定を改善するのに役立つ。ここでは、深度カメラにしっかりと取り付けられた慣性測定ユニット(IMU)を使用して、動きの速い場合でも検出された対象物をより正確に予測する。この予測を使用して、RANSACベースのセグメント化が、入力点群のサブセットであるパイプの点群の予測された場所に適用される。
図8を参照すると、処理は、パイプの初期の場所を見つけるステップ810から始まる。一実施形態では、制御回路は、深度カメラ(またはUAV)の場所および配向を受信または判定するようにプログラムされ、このおよび初期パイプ場所(RANSACを使用)から、パイプの初期の場所を判定する。パイプの初期の場所がわかれば、この技術にはさらに、IMU測定値を取得し、それらをパイプ場所の最後の推定値と融合して、深度カメラのFOV内のパイプの次の場所を予測するステップ820が含まれる。ここで、制御回路は、カルマンフィルタフレームワークでIMU測定値と以前のパイプ場所の推定値との融合を実行するようにプログラムされている。カルマンフィルタフレームワークには、予測ステップとそれに続く更新ステップの2つのステップがある。IMU測定値は、空間内のIMU(またはそれに接続されている深度カメラ)のポーズを予測するための予測ステップで使用される。予測は、発散し始める前の短期間で許容可能な精度で実行できる。これで、予測ステップ820が完了する。
技術800はさらに、予測された場所の周りの深さ測定値を取得するステップ830と、これらの深さ測定値からパイプ場所を推定し、次いで、パイプ場所推定値を更新するステップを含む。ここで、制御回路は、予測された場所(ステップ820から)の周りにある次のフレームの入力点群のサブセットを使用してパイプの場所推定を更新し、次のフレームでパイプを見つけて位置特定するようにさらにプログラムされている。次に、このサブセット点群内の推定されたパイプ場所は、予測された場所を修正し、発散を回避するために、更新ステップ830で使用される。これで、更新ステップ830が完了する。フレームワークは、予測ステップ820および更新ステップ830の反復を繰り返して進行し、UAVの飛行中の深度カメラの動きを説明するためにセンサ融合を使用してパイプをよりよく追跡する。
図9は、一実施形態による、画像追跡およびカルマンフィルタを使用する例示的なパイプ位置特定技術900のフローチャートである。技術900では、物体追跡のソースをもう1つ追加することが、追跡の堅牢性の改善に役立つ。画像ベースの物体トラッキングは、深度(RGB-Dなど)カメラに埋め込まれているRGBカメラから見たパイプを追跡するために使用される。対応する点群は、元の入力点群から抽出される。抽出された点群のサイズは、潜在的に元の点群よりもはるかに小さく、その結果、物体のセグメント化に関連する計算がはるかに少なくなる。画像ベースの物体追跡は、高速動き中に失敗する可能性がある。この問題を軽減するために、画像ベースの物体トラッカを自動的に再初期化するために、IMUベースの場所予測もまた使用される。
さらに詳細には、処理は、初期化ステップ910から始まり、ここで、制御回路は、入力画像内の初期関心領域(ROI)を受信するか、さもなければ判定または定義し、対応する点群を抽出し、初期パイプ場所推定値を計算するようにプログラムされており(例えば、RANSACを使用して)、初期ROIを使用して画像トラッカを初期化する。技術900は、カルマンフィルタ予測ステップ920をさらに含み、制御回路は、IMU測定値を取得し、パイプの最後の場所推定に基づいてパイプ場所を予測するようにさらにプログラムされている。技術900は、画像追跡ステップ930をさらに含み、制御回路は、次の画像フレームを(RGBカメラから)物体トラッカに供給するようにさらにプログラムされていて、画像トラッカは、物体を追跡し、出力ROIを提供するために実行される。この点で、技術900は、物体追跡が成功したかどうかを判定するステップ940をさらに含み、成功しなかった場合、技術900は、最後の予測値を使用して画像トラッカを再初期化して初期化ステップ910で再開するステップ950をさらに含む。
そうでなければ、追跡は成功し、技術900は、物体トラッカ由来の出力ROIを使用して対応する点群を抽出するステップ960をさらに含む。技術900はさらに、パイプを見つけるステップ970を含み、制御回路は、パイプを見つけるために抽出された点群上で物体セグメント化を実行するようにさらにプログラムされる。次に、画像トラッカステップ930は、新たに発見されたパイプを使用して再実行される。この物体追跡と同時に、技術900は、カルマンフィルタ更新ステップ980をさらに含み、そこでは、制御回路は、深さ測定からパイプ場所推定を更新するようにさらにプログラムされ、その時点で、カルマンフィルタ予測ステップ920が、新しいIMUデータで繰り返される。
いくつかの実施形態では、深度カメラおよび2DのLIDARセンサは、UAVの飛行経路を開始位置から目標表面の着陸位置まで自律的に制御する場合など、障害物の検出および回避にも使用される。かかる一実施形態では、操作者が手動でUAVを意図された標的に向かって飛行させているとき、他のパイプまたは構造に遭遇する可能性がある。ここで、センサはこれらの障害物を検出でき、制御回路はUAVを停止し、操作者に別の経路を取るように警告することによって衝突を回避するようにプログラムできる。別のかかる実施形態では、UAVがパイプ上で自律的に着陸移動を実行している際に、近くの障害物を検出する可能性があり、制御回路はそれらの周りの経路を計画することによってそれらを回避するようにプログラムされる。
図10は、実施形態に従う、曲面(パイプ50または250など)上に、曲面から離れた開始位置からUAV(UAV100または300など)を自律的にパーチする例示的な方法1000のフローチャートである。
方法1000の一部またはすべては、図1Aから図9に示される構成要素および技術を使用して実行することができる。本明細書に開示されるこの方法および他の方法の一部は、割り当てられたタスクを実行するようにコードまたは論理によって構成された、プログラマブル論理回路(programmable logic circuit、PLC)、コンピュータ、ソフトウェア、または他の回路(例えば、ASIC、FPGA)などのカスタムまたは事前にプログラムされた論理デバイス、回路、またはプロセッサ上で、またはそれらを使用して実行することができる。デバイス、回路、またはプロセッサは、例えば、専用または共有のハードウェアデバイス(ノートパソコン、シングルボードコンピュータ(SBC)、ワークステーション、タブレット、スマートフォン、サーバの一部、またはFPGAもしくはASICなどの専用ハードウェア回路など)、またはコンピュータサーバ、またはサーバもしくはコンピュータシステムの一部分であり得る。デバイス、回路、またはプロセッサは、1つまたは複数のプロセッサで実行されると部分を引き起こす命令を格納する、非一時的なコンピュータ可読媒体(computer readable medium、CRM、例えば読み取り専用メモリ(read-only memory、ROM)、フラッシュドライブ、またはディスクドライブなどの)を含むことができ、方法1000(または他の開示された方法)の部分が実行されるようにする。他の実施形態では、操作の順序を変えることができ、操作のいくつかを省略できることに留意されたい。方法1000の一部またはすべては、方法1000を実行するように構成されたUAV上に配置された論理、回路、またはプロセッサを使用して実行することもできる。
例示的な方法1000では、処理は、UAVからシーンの3D点群をキャプチャおよび出力するステップ1010から始まる。画像は、曲面を含む。キャプチャでは、UAVに取り付けられた3次元(3D)深度カメラ(IR深度カメラまたはRGB-Dカメラなど)を使用する。方法1000はさらに、シーンの2Dスライスをキャプチャおよび出力するステップ1020を含む。このキャプチャでは、UAVに接続された2DのLIDARシステムを使用する。方法1000はさらに、深度カメラおよびLIDARシステムを制御して、シーンの3D点群および2Dスライスをそれぞれにキャプチャするステップ1030を含む。これは、UAVに接続され、制御タスクを実行するようにプログラムされた制御回路(例えば、プログラム可能なプロセッサまたは論理回路)を使用して実行できる。
方法1000はさらに、深度カメラからキャプチャされた3D点群およびLIDARシステムからキャプチャされた2Dスライスを入力するステップ1040を含む。ここで、制御回路はセンサデータを入力するようにプログラムすることができる。方法1000はさらに、キャプチャされた3D点群およびキャプチャされた2Dスライスを使用して曲面を自律的に検出し、位置特定するステップ1050を含む。ここで、制御回路は、RANSACを使用して実行し、検出および位置特定を使用するようにプログラムできる。方法1000はさらに、曲面の自律的な検出および位置特定に基づいて、UAVを開始位置から曲面上の着陸位置に自律的に誘導するステップ1060を含む。ここで、制御回路は、UAVの飛行経路を開始位置から着陸位置まで3D点群と2Dスライスを使用して自律的に制御するようにプログラムできる。
一実施形態では、曲面は、強磁性であり、UAVは、磁気脚をさらに含む。方法1000は、着陸中に強磁性脚を強磁性曲面に磁着し、かつ、着陸後に強磁性曲面に磁着されたままであるステップをさらに含む。
本明細書に記載の方法は、有形の(例えば、非一時的な)記憶媒体上の機械可読形式のソフトウェアまたはファームウェアによって部分的または全体的に実行され得る。例えば、そのソフトウェアまたはファームウェアは、本明細書で説明した任意の方法の一部またはすべてのステップを実行するように適合されたコンピュータプログラムの形態であってもよく、プログラムがコンピュータまたは適切なハードウェアデバイス(例えば、FPGA)上で実行されるとき、コンピュータプログラムは、コンピュータ可読媒体上に実装されている可能性がある。有形の記憶媒体の例として、ディスク、サムドライブ、メモリなどのコンピュータ可読媒体を含むコンピュータ記憶デバイスが挙げられ、伝播される信号は含まれない。伝播される信号は有形の記憶媒体に存在する場合があるが、伝播される信号自体は有形の記憶媒体の例ではない。ソフトウェアは、方法ステップが任意の適切な順序で、または同時に実行され得るように、並列プロセッサまたは直列プロセッサ上での実行に適し得る。
図面中の類似の数字が、いくつかの図面を通して類似の要素を表し、図面に関連して説明され、示された構成要素および/またはステップのすべてが、すべての実施形態または構成に必要とされるわけではないことをさらに理解されたい。
本明細書で使用される用語は、特定の実施形態のみを説明する目的のためであり、本開示を限定することを意図していない。本明細書において使用されるとき、単数形「a」、「an」、および「the」は、文脈が明らかに別のことを示している場合を除き、複数形も含むものと意図する。「comprises(備える)」および/または「comprising(備える)」という用語は、本明細書で使用する際、述べた特徴、整数、ステップ、作業、要素、および/または構成要素の存在を明示するが、1つ以上の他の特徴、整数、ステップ、作業、要素、構成要素、および/またはそれらの群の存在または追加を排除しないことがさらに理解されるであろう。
配向の用語は、本明細書においては、単に慣例および参照の目的で使用され、限定として解釈されるべきではない。しかしながら、これらの用語が、見る人を基準にして使用される可能性があることが認識される。したがって、限定が含意されることもなく、推測されることもない。さらに、序数(例えば、第1、第2、第3)の使用は区別のためであり、カウントではない。例えば、「第3」は、対応する「第1」または「第2」があることを示唆していない。また、本明細書において使用される表現および専門用語は、説明目的のものであり、限定として見なされるべきではない。本明細書における「including(含む)」、「comprising(備える、含む)」、または「having(有する)」、「containing(含む)」、「involving(伴う)」、およびそれらの変形の使用は、それ以降に挙げられた項目、およびその等価物、ならびに追加項目を包含することを目的としている。
上述の主題は、単に例示として提供されており、限定されるものと解釈されるべきではない。説明および記載された例示的な実施形態および用途に従うことなく、かつ以降の特許請求の範囲の記載によって、ならびにこれらの記載と同等である構造および機能またはステップによって定義されている、本開示によって包含される、本発明の真の趣旨および範囲から逸脱することなく、様々な修正および変更が、本明細書に記載された主題に対して行われ得る。
50 ・・・構造物
100、300 ・・・UAV
110 ・・・レーザスキャナ
120 ・・・関節式磁石
130 ・・・クローラ
140 ・・・ホイール
250 ・・・着陸軌道

Claims (20)

  1. 曲面から離れている開始位置から前記曲面に自律的にパーチするための無人航空機(UAV)であって、前記UAVは、
    前記曲面を含む前記UAVからのシーンの3次元(3D)の点群をキャプチャおよび出力するように構成されている、3D深度カメラと、
    前記シーンの2次元(2D)のスライスをキャプチャおよび出力するように構成されている、2Dの光検出および測距(LIDAR)システムと、
    制御回路であって、
    前記深度カメラおよび前記LIDARシステムを制御して、前記シーンの前記3D点群および前記2Dスライスをそれぞれキャプチャすることと、
    前記深度カメラから前記キャプチャされた3D点群および前記LIDARシステムから前記キャプチャされた2Dスライスを入力することと、
    前記キャプチャされた3D点群および前記キャプチャされた2Dスライスを使用して、前記曲面を自律的に検出および位置特定することと、
    前記曲面の前記自律的な検出および位置特定に基づいて、前記UAVを前記開始位置から前記曲面上の着陸位置へ自律的に誘導することと、を行うように構成されている、制御回路と、を備える、UAV。
  2. 前記制御回路が、
    前記UAVが前記曲面付近に到達するまで、前記キャプチャされた3D点群を使用して、前記UAVを前記着陸位置へと自律的に誘導しながら、前記開始位置からの前記自律的な検出および位置特定を実行することと、
    前記UAVが前記曲面付近に到達すると、前記3D点群を使用することから、前記キャプチャされた2Dスライスを使用することに切り替えて、前記自律的な検出および位置特定を実行することと、を行うようにさらに構成されている、請求項1に記載のUAV。
  3. 前記制御回路が、
    着陸に先立って前記UAVを前記曲面付近の整合位置へ自律的に誘導することであって、前記整合位置は、前記UAVが前記着陸位置に対して整合される位置であることと、
    前記キャプチャされた2Dスライスを使用して、前記UAVを自律的に誘導して、前記整合位置から前記着陸位置に直接移動させることと、を行うようにさらに構成されている、請求項2に記載のUAV。
  4. 前記制御回路が、前記3D点群および前記2Dスライスを融合することによって、前記曲面を自律的に検出および位置特定するようにさらに構成されており、前記融合が、
    前記キャプチャされた3D点群のうちの1つを使用して、前記曲面の前記自律的な検出および位置特定の第1のパスを実行することと、
    前記第1のパスからの前記検出および位置特定された曲面を使用して、前記2Dスライスのうちの対応する1つをキャプチャすることと、
    前記2Dスライスのうちの前記対応する1つを使用して、前記曲面の前記自律的な検出および位置特定の第2のパスを実行することと、を含む、請求項1に記載のUAV。
  5. 前記深度カメラのポーズを推定するように構成された慣性測定ユニット(IMU)をさらに備え、前記制御回路が、前記3D点群の第1のものにおける前記検出および位置特定された前記曲面から、前記3D点群のうちの第2のものにおける前記曲面の場所を予測するために、前記3D点群のうちの前記第1のものをキャプチャすることと、前記3D点群のうちの前記第2のものをキャプチャすることと、の間で、前記深度カメラの前記推定されたポーズを使用するようにさらに構成されている、請求項1に記載のUAV。
  6. 前記制御回路が、
    前記キャプチャされた3D点群を使用して、前記曲面を自律的に検出および位置特定することと、
    前記LIDARシステムを制御して、前記検出および位置特定された曲面に垂直な前記2Dスライスをキャプチャすることと、を行うようにさらに構成されている、請求項1に記載のUAV。
  7. 前記曲面が、円筒状であり、前記制御回路が、前記LIDARシステムを制御して、前記円筒の中心軸に垂直な前記2Dスライスをキャプチャするようにさらに構成されている、請求項6に記載のUAV。
  8. 前記制御回路が、ランダムサンプルコンセンサス(RANSAC)アプローチを使用して、前記曲面を自律的に検出および位置特定するようにさらに構成されている、請求項1に記載のUAV。
  9. 前記制御回路が、
    前記キャプチャされた3D点群、または前記キャプチャされた2Dスライス、または前記キャプチャされた3D点群および前記キャプチャされた2Dスライスの両方を使用して、前記開始位置から前記着陸位置までの前記UAVの飛行経路上の1つ以上の障害物を検出することと、
    前記飛行経路上の前記1つ以上の障害物を回避するように、前記UAVを自律的に再誘導することと、を行うようにさらに構成されている、請求項1に記載のUAV。
  10. 前記曲面が、強磁性であり、前記UAVが、着陸中に前記強磁性曲面に磁着するように、かつ着陸後に前記強磁性曲面に磁着されたままであるように構成されている、磁気脚をさらに備える、請求項1に記載のUAV。
  11. 無人航空機(UAV)を曲面から離れた開始位置から前記曲面上に自律的にパーチさせる方法であって、
    前記UAVに取り付けられた3次元(3D)深度カメラを使用して、前記曲面を含む前記UAVからのシーンの3D点群をキャプチャおよび出力することと、
    前記UAVに取り付けられた2次元(2D)の光検出および測距(LIDAR)システムを使用して、前記シーンの2Dスライスをキャプチャおよび出力することと、
    前記深度カメラおよび前記LIDARシステムを制御して、前記シーンの前記3D点群と前記2Dスライスをそれぞれにキャプチャすることと、
    前記深度カメラから前記キャプチャされた3D点群と前記LIDARシステムから前記キャプチャされた2Dスライスを入力することと、
    前記キャプチャされた3D点群と前記キャプチャされた2Dスライスを使用して、前記曲面を自律的に検出および位置特定することと、および、
    前記曲面の前記自律的な検出および位置特定に基づいて、前記UAVを前記開始位置から前記曲面上の着陸位置へ自律的に誘導することと、を含む、方法。
  12. 前記UAVが前記曲面付近に到達するまで、前記キャプチャされた3D点群を使用して、前記UAVを前記着陸位置へと自律的に誘導しながら、前記開始位置からの前記自律的な検出および位置特定を実行することと、
    前記UAVが前記曲面付近に到達すると、前記3D点群を使用することから、前記キャプチャされた2Dスライスの使用することに切り替えて、前記自律的な検出および位置特定を実行することと、をさらに含む、請求項11に記載の方法。
  13. 前記着陸に先立って、前記UAVを前記曲面付近の整合位置へ自律的に誘導し、そこで前記UAVを前記着陸位置に対して整合させることと、
    前記キャプチャされた2Dスライスを使用して、前記UAVを自律的に誘導して、前記整合位置から前記着陸位置に直接移動させることと、をさらに含む、請求項12に記載の方法。
  14. 前記3D点群と前記2Dスライスを融合することによって、前記曲面を自律的に検出および位置特定することをさらに含み、前記融合が、
    前記キャプチャされた3D点群の1つを使用して、前記曲面の前記自律的な検出および位置特定の第1のパスを実行することと、
    前記第1のパスからの前記検出および位置特定された曲面を使用して、前記2Dスライスのうちの対応する1つをキャプチャすることと、
    前記2Dスライスのうちの前記対応する1つを使用して、前記曲面の前記自律的な検出および位置特定をする第2のパスを実行することと、を含む、請求項11に記載の方法。
  15. 前記UAVが、前記UAVに取り付けられた慣性測定ユニット(IMU)をさらに備え、前記方法が、
    前記IMUを使用して前記深度カメラのポーズを推定することと、
    前記3D点群の第1のものにおける前記検出および位置特定された前記曲面から、前記3D点群のうちの第2のものにおける前記曲面の場所を予測するために、前記3D点群のうちの前記第1のものをキャプチャすることと、前記3D点群のうちの前記第2のものをキャプチャすることと、の間で、前記深度カメラの前記推定されたポーズを使用することと、をさらに含む、請求項11に記載の方法。
  16. 前記キャプチャされた3D点群を使用して、前記曲面を自律的に検出および位置特定することと、
    前記LIDARシステムを制御して、前記検出および位置特定された曲面に垂直な前記2Dスライスをキャプチャすることと、をさらに含む、請求項11に記載の方法。
  17. 前記曲面が、円筒状であり、前記方法が、前記LIDARシステムを制御して、前記円筒の中心軸に垂直な前記2Dスライスをキャプチャすることをさらに含む、請求項16に記載の方法。
  18. ランダムサンプルコンセンサス(RANSAC)アプローチを使用して、前記曲面を自律的に検出および位置特定することをさらに含む、請求項11に記載の方法。
  19. 前記キャプチャされた3D点群、または前記キャプチャされた2Dスライス、または前記キャプチャされた3D点群および前記キャプチャされた2Dスライスの両方を使用して、前記開始位置から前記着陸位置までの前記UAVの飛行経路上の1つ以上の障害物を検出することと、
    前記飛行経路上の前記1つ以上の障害物を回避するように、前記UAVを自律的に再誘導することと、をさらに含む、請求項11に記載の方法。
  20. 前記曲面が強磁性であり、前記UAVが磁気脚をさらに備え、前記方法が、着陸中に前記磁性脚を前記強磁性曲面に磁着させ、着陸後に前記強磁性曲面に前記磁気脚が磁着されたままにすることをさらに含む、請求項11に記載の方法。
JP2021531006A 2018-11-29 2019-11-27 パイプにuavがパーチする自動化方法 Active JP7444884B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201862772700P 2018-11-29 2018-11-29
US62/772,700 2018-11-29
US16/696,085 2019-11-26
US16/696,085 US11235823B2 (en) 2018-11-29 2019-11-26 Automation methods for UAV perching on pipes
PCT/US2019/063586 WO2020112985A1 (en) 2018-11-29 2019-11-27 Automation methods for uav perching on pipes

Publications (2)

Publication Number Publication Date
JP2022510950A true JP2022510950A (ja) 2022-01-28
JP7444884B2 JP7444884B2 (ja) 2024-03-06

Family

ID=70848632

Family Applications (5)

Application Number Title Priority Date Filing Date
JP2021531002A Pending JP2022509282A (ja) 2018-11-29 2019-11-26 解放可能なクローラを有するパーチするuavを使用した検査方法
JP2021530981A Active JP7475347B2 (ja) 2018-11-29 2019-11-26 曲面にuavを着陸させるための関節接合された磁気軸受の脚部
JP2021531010A Pending JP2022510298A (ja) 2018-11-29 2019-11-26 解放可能なクローラを有するパーチするuav
JP2021530967A Pending JP2022511798A (ja) 2018-11-29 2019-11-26 自動プローブ正規化付きクローラ車両
JP2021531006A Active JP7444884B2 (ja) 2018-11-29 2019-11-27 パイプにuavがパーチする自動化方法

Family Applications Before (4)

Application Number Title Priority Date Filing Date
JP2021531002A Pending JP2022509282A (ja) 2018-11-29 2019-11-26 解放可能なクローラを有するパーチするuavを使用した検査方法
JP2021530981A Active JP7475347B2 (ja) 2018-11-29 2019-11-26 曲面にuavを着陸させるための関節接合された磁気軸受の脚部
JP2021531010A Pending JP2022510298A (ja) 2018-11-29 2019-11-26 解放可能なクローラを有するパーチするuav
JP2021530967A Pending JP2022511798A (ja) 2018-11-29 2019-11-26 自動プローブ正規化付きクローラ車両

Country Status (8)

Country Link
US (5) US11097796B2 (ja)
EP (5) EP3887235A1 (ja)
JP (5) JP2022509282A (ja)
KR (5) KR20210110587A (ja)
CN (5) CN113056412A (ja)
SA (3) SA521422008B1 (ja)
SG (5) SG11202105484QA (ja)
WO (5) WO2020112903A1 (ja)

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10078136B2 (en) * 2014-03-25 2018-09-18 Amazon Technologies, Inc. Sense and avoid for automated mobile vehicles
CN112041127A (zh) * 2018-03-30 2020-12-04 捷普有限公司 为机器人车辆提供稳定驱动系统的设备、系统和方法
US11338911B2 (en) * 2018-09-18 2022-05-24 Insitu, Inc. Magnetic recovery systems and magnetic docking mechanisms for fixed-wing unmanned aerial vehicles
US11097796B2 (en) * 2018-11-29 2021-08-24 Saudi Arabian Oil Company Articulated magnet-bearing legs for UAV landing on curved surfaces
US11385204B2 (en) * 2018-12-11 2022-07-12 The Boeing Company Fan-propelled surface-adhering apparatus for automated maintenance operations
US20220388651A1 (en) * 2019-07-24 2022-12-08 Detect Technologies Private Limited An arm mechanism for docking an unmanned aerial vehicle to a structure for non-destructive testing
DE112020003991T5 (de) * 2019-08-23 2022-06-02 Peter Kessler Rohrleitungs-Inspektions-Vorrichtung mit variabler Höhensteuerung
KR102323975B1 (ko) * 2020-05-07 2021-11-09 손영선 빠르고 오랜 시간 비행 하는 드론
CN116134287A (zh) * 2020-07-31 2023-05-16 杰富意钢铁株式会社 检查装置、检查系统及检查方法以及部件的修补方法
KR102383936B1 (ko) * 2020-07-31 2022-05-06 주식회사 시에라베이스 목표드론 무력화장치
CN111679693B (zh) * 2020-08-17 2020-12-04 国网湖北省电力有限公司检修公司 一种基于磁场强度检测的无人机避障方法
US11782456B2 (en) * 2020-09-01 2023-10-10 Indoor Robotics Ltd. Device, system and a method for magnetically docking a flying apparatus
CN112034890B (zh) * 2020-09-15 2021-09-24 西安爱生无人机技术有限公司 无人机人机协同控制系统
CN112130457A (zh) * 2020-09-21 2020-12-25 南京航空航天大学 一种变体无人机栖落机动的模糊飞行控制方法
CN112305071B (zh) * 2020-10-23 2022-07-12 齐鲁工业大学 一种基于麦克纳姆轮的导波检测管外机器人及其工作方法
CN112317459B (zh) * 2020-10-29 2021-11-02 广西壮族自治区特种设备检验研究院 一种用于容器表面清洗打磨装备系统
US11584516B2 (en) * 2020-11-30 2023-02-21 Saudi Arabian Oil Company Bi-stable and switchable magnetic legs for UAV landing on curved surfaces
US11650185B2 (en) * 2020-11-30 2023-05-16 Saudi Arabian Oil Company System and method for passive normalization of a probe
US11584525B2 (en) * 2020-11-30 2023-02-21 Saudi Arabian Oil Company Deep learning-based localization of UAVs with respect to nearby pipes
US11760127B2 (en) 2020-12-03 2023-09-19 Saudi Arabian Oil Company Two-wheel compact inspection crawler with automatic probe normalization
US11679875B2 (en) * 2020-12-03 2023-06-20 Saudi Arabian Oil Company Mechanism for docking a magnetic crawler into a UAV
KR102417964B1 (ko) * 2021-01-21 2022-07-06 부산대학교 산학협력단 드론의 험지 착륙을 위한 4족 랜딩 시스템 및 그의 동작 방법
US11225325B1 (en) * 2021-03-12 2022-01-18 DroneUp, LLC Payload delivery and drop device for unmanned aerial vehicle for automatic release upon surface contact
EP4326493A1 (en) 2021-04-20 2024-02-28 Gecko Robotics, Inc. Flexible inspection robot
EP4327047A1 (en) 2021-04-22 2024-02-28 Gecko Robotics, Inc. Systems, methods, and apparatus for ultra-sonic inspection of a surface
CN113212135A (zh) * 2021-05-19 2021-08-06 哈尔滨工业大学 一种带有自定位功能的全向移动机器人模块化底盘
CN215098250U (zh) * 2021-05-27 2021-12-10 上海峰飞航空科技有限公司 一种垂直起降无人机
KR20230016487A (ko) * 2021-07-26 2023-02-02 현대자동차주식회사 장애물 형상 추정 장치 및 그 방법
US11878796B2 (en) * 2021-07-30 2024-01-23 Saudi Arabian Oil Company Perching UAV with releasable crawler
US11885769B2 (en) 2021-08-18 2024-01-30 Saudi Arabian Oil Company UAV for continuous ultrasound testing (UT) scans
KR102589941B1 (ko) * 2021-08-24 2023-10-13 한국항공우주연구원 재사용 발사체 착륙장치
CN113602486B (zh) * 2021-08-27 2023-03-10 中国商用飞机有限责任公司 小车式起落架及飞行器
US20230079054A1 (en) * 2021-09-10 2023-03-16 Exploration Robotics Technologies Inc. System and method for autonomous inspection for asset maintenance and management
US20230110540A1 (en) * 2021-10-08 2023-04-13 Saudi Arabian Oil Company System and method for position tracking of a crawler on a structure
CN113985438B (zh) * 2021-11-12 2022-08-12 河北农业大学 一种植物三维模型重建系统及方法
CN113978761B (zh) * 2021-11-17 2023-04-21 中国民用航空飞行学院 一种飞机机身检测机器人
CN114212265B (zh) * 2021-12-31 2022-07-01 蜂巢航宇科技(北京)有限公司 一种多旋翼无人机机库
WO2023159180A1 (en) * 2022-02-17 2023-08-24 Nutech Ventures Single-pass 3d reconstruction of internal surface of pipelines using depth camera array
US11807407B2 (en) * 2022-03-16 2023-11-07 Saudi Arabian Oil Company System, apparatus, and method for inspecting industrial structures using a UAV
KR102473944B1 (ko) * 2022-05-09 2022-12-06 에이에프아이 주식회사 기체 안전성이 향상된 드론
KR102473938B1 (ko) * 2022-05-09 2022-12-06 남상균 비행 안정성이 향상된 드론
CN114910026B (zh) * 2022-06-15 2023-08-22 南京工程学院 一种用于球墨铸管壁厚检测的三轮自适应小车
KR102514703B1 (ko) * 2022-07-29 2023-03-29 (주)한맥기술 복수 개의 카메라를 이용하여 구조물의 손상 영역을 촬영하는 무인 비행 장치 및 이를 이용한 구조물 손상 검사 장치
KR102562370B1 (ko) * 2022-11-01 2023-08-01 주식회사 자연과기술 항공 라이다를 이용한 평탄도 및 고도 측정 시스템
CN115575488B (zh) * 2022-11-21 2023-06-02 中国石油大学(华东) 基于acfm与视觉的集成探头及协同检测方法
CN117554488B (zh) * 2024-01-11 2024-03-22 成都工业学院 一种超声干耦合的罐体缺陷智能检测小车

Family Cites Families (113)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5350221Y2 (ja) * 1973-03-12 1978-12-01
JPS63149557A (ja) 1986-12-12 1988-06-22 Hitachi Ltd 管検査用の無軌道式走査装置
SU1602193A1 (ru) 1987-12-10 1994-04-30 Мгту Им.Н.Э.Баумана Автоматическое сканирующее устройство для ультразвукового контроля сварных швов изделий
US5220869A (en) * 1991-08-07 1993-06-22 Osaka Gas Company, Ltd. Vehicle adapted to freely travel three-dimensionally and up vertical walls by magnetic force and wheel for the vehicle
US5435405A (en) * 1993-05-14 1995-07-25 Carnegie Mellon University Reconfigurable mobile vehicle with magnetic tracks
JP2002127070A (ja) * 2000-10-18 2002-05-08 Hiroshi Akashi 板状体保持装置
US10633093B2 (en) * 2017-05-05 2020-04-28 General Electric Company Three-dimensional robotic inspection system
US7784812B1 (en) * 2006-05-23 2010-08-31 Francisco Javier Lares Central multi directional transmission system
US20090294573A1 (en) 2006-05-23 2009-12-03 Wilson Samuel B Dual-Use Modular Propulsion surveillance Vehicle with Detachable Unmanned Airborne Vehicles
JP5411702B2 (ja) * 2006-11-13 2014-02-12 レイセオン カンパニー 可動アームを有するロボット式無限軌道車
US8251307B2 (en) * 2007-06-11 2012-08-28 Honeywell International Inc. Airborne manipulator system
US8328130B2 (en) * 2008-12-08 2012-12-11 Honeywell International Inc. Vertical take off and landing unmanned aerial vehicle airframe structure
CN101565063B (zh) * 2009-05-21 2010-08-11 上海交通大学 永磁吸附式轮式爬壁机器人
KR102161845B1 (ko) * 2009-09-09 2020-10-06 에어로바이론먼트, 인크. 엘리본 제어 시스템
KR101002434B1 (ko) 2010-07-27 2010-12-21 나우기연주식회사 자동 초음파 탐상 검사 장치
US9387940B2 (en) * 2010-11-09 2016-07-12 Colorado Seminary Which Owns And Operates The University Of Denver Intelligent self-leveling docking system
US8798372B1 (en) 2012-03-07 2014-08-05 Hrl Laboratories, Llc Method for detecting bridges using lidar point cloud data
CN202624434U (zh) 2012-06-07 2012-12-26 中国东方电气集团有限公司 具有小折叠尺寸机械手臂的全驱动磁吸附式多功能爬壁机器人
CN102673671B (zh) * 2012-06-07 2014-03-19 中国东方电气集团有限公司 一种复合磁吸附式视频检测爬壁机器人
CN102806954B (zh) * 2012-09-10 2015-05-20 昆明理工大学 自动侧倾单后轮驱动三轮车架
WO2014058337A1 (en) * 2012-10-11 2014-04-17 Siemens Aktiengesellschaft An unmanned autonomous vehicle for inspection of fluid transportation means
US9198363B2 (en) 2012-12-12 2015-12-01 The Boeing Company Tree metrology system
KR101427351B1 (ko) 2012-12-17 2014-08-07 한국항공우주연구원 충전유닛을 갖는 쿼드로터 타입 비행체
CN103921933A (zh) * 2013-01-10 2014-07-16 深圳市大疆创新科技有限公司 飞行器变形结构及微型飞行器
DE102013000685B4 (de) 2013-01-11 2014-11-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Mobiles Trägersystem für mindestens ein zur zerstörungsfreien Prüfung ausgebildetes Sensorelement
CN103192987B (zh) 2013-04-07 2015-06-17 南京理工大学 一种飞行和爬壁两栖机器人及其控制方法
US9201047B1 (en) * 2013-06-05 2015-12-01 The Boeing Company Continuously adaptive ultrasonic inspection device
EP3693183A1 (en) * 2013-11-30 2020-08-12 Saudi Arabian Oil Company Magnetic omni-wheel
WO2015081137A1 (en) * 2013-11-30 2015-06-04 Saudi Arabian Oil Company Hinged vehicle chassis
EP3074188B1 (en) * 2013-11-30 2020-07-01 Saudi Arabian Oil Company Modular mobile inspection vehicle
US9177481B2 (en) 2013-12-13 2015-11-03 Sikorsky Aircraft Corporation Semantics based safe landing area detection for an unmanned vehicle
KR101491076B1 (ko) 2014-02-20 2015-02-10 안동대학교 산학협력단 탐사용 로봇
US9561871B2 (en) * 2014-05-07 2017-02-07 Deere & Company UAV docking system and method
JP2017522196A (ja) * 2014-07-09 2017-08-10 マグスウィッチ テクノロジー インコーポレイテッドMagswitch Technology Inc. 磁気工具スタンド
KR101592904B1 (ko) * 2014-08-21 2016-02-18 두산중공업 주식회사 풍력 발전기 유지 보수 유닛 및 이를 이용한 유지 보수 방법
SI3218263T1 (sl) * 2014-11-10 2022-08-31 Ascent Aerosystems Inc. Brezpilotna letalna naprava
GB201420182D0 (en) 2014-11-13 2014-12-31 Sewell Gary Curved surface operating unmanned vehicle and applications thereof
US9764837B2 (en) 2014-11-14 2017-09-19 Top Flight Technologies, Inc. Micro hybrid generator system drone
US20160214715A1 (en) * 2014-11-21 2016-07-28 Greg Meffert Systems, Methods and Devices for Collecting Data at Remote Oil and Natural Gas Sites
WO2016120392A1 (en) * 2015-01-30 2016-08-04 Trinamix Gmbh Detector for an optical detection of at least one object
US10012618B2 (en) 2015-02-18 2018-07-03 Saudi Arabian Oil Company Deployment mechanism for passive normalization of a probe relative to a surface
US9540121B2 (en) * 2015-02-25 2017-01-10 Cisco Technology, Inc. Pre-flight self test for unmanned aerial vehicles (UAVs)
CN113001587A (zh) * 2015-03-09 2021-06-22 沙特阿拉伯石油公司 用于移动机器人的场地可布置对接站
US10081421B2 (en) 2015-03-26 2018-09-25 University Of North Dakota Perching attachment for unmanned aircraft
CN204526692U (zh) 2015-04-23 2015-08-05 马鞍山市赛迪智能科技有限公司 一种陆空两用无人飞行器
EP3298379A1 (en) * 2015-05-20 2018-03-28 Saudi Arabian Oil Company Sampling techniques to detect hydrocarbon seepage
US20180273173A1 (en) 2015-09-22 2018-09-27 Pro-Drone Lda Autonomous inspection of elongated structures using unmanned aerial vehicles
CN105172935B (zh) * 2015-10-19 2018-02-27 新西兰投资贸易中心 电动汽车
IL242418B (en) * 2015-11-03 2020-05-31 Israel Aerospace Ind Ltd Drone and method for flying it
KR101753598B1 (ko) 2015-11-10 2017-07-06 한국과학기술원 탄성 접이식 몸체 구조 메커니즘을 가지는 공중-지상 이동 로봇
EP3835912A1 (en) 2015-12-09 2021-06-16 SZ DJI Technology Co., Ltd. Systems and methods for auto-return
JP2017115787A (ja) 2015-12-25 2017-06-29 Ntn株式会社 風力発電設備のメンテナンス方法および無人飛行機
CN113342038A (zh) * 2016-02-29 2021-09-03 星克跃尔株式会社 为无人飞行器的飞行生成地图的方法和系统
KR20190016484A (ko) * 2016-03-18 2019-02-18 오셔니어링 인터내셔날, 인코포레이티드 Ndt 검사들을 위한 무인 항공기들의 사용
US10529221B2 (en) * 2016-04-19 2020-01-07 Navio International, Inc. Modular approach for smart and customizable security solutions and other applications for a smart city
US10239347B2 (en) * 2016-05-18 2019-03-26 Saudi Arabian Oil Company Magnetic omni-wheel with roller bracket
KR20160129786A (ko) 2016-05-27 2016-11-09 장민하 작업용 드론
US10597164B2 (en) * 2016-07-01 2020-03-24 Textron Innovations Inc. Aircraft having redundant directional control
DE102016214655A1 (de) 2016-08-08 2018-02-08 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. System zum zerstörungsfreien Untersuchen eines über wenigstens eine frei zugängliche Oberfläche verfügenden dreidimensionalen Objektes
US10520943B2 (en) 2016-08-12 2019-12-31 Skydio, Inc. Unmanned aerial image capture platform
US10037632B2 (en) * 2016-09-01 2018-07-31 Ford Global Technologies, Llc Surrogate vehicle sensors
EP3293115B1 (de) * 2016-09-07 2019-10-30 Siemens Aktiengesellschaft Verfahren zur steuerung unbemannter flugobjekte
CA3030349A1 (en) * 2016-09-28 2018-05-05 Federal Express Corporation Systems and methods for monitoring the internal storage contents of a shipment storage using one or more internal monitor drones
JP2018069880A (ja) * 2016-10-27 2018-05-10 新日鐵住金株式会社 作業装置及び作業方法
US20180120196A1 (en) 2016-10-31 2018-05-03 The Boeing Company Method and system for non-destructive testing using an unmanned aerial vehicle
CN109923628B (zh) * 2016-11-17 2023-02-17 索尼公司 电子部件、供电装置以及制造线圈的方法
CN206318030U (zh) 2016-11-24 2017-07-11 普宙飞行器科技(深圳)有限公司 无人飞行器起落停机坪装置及无人飞行器
KR101707865B1 (ko) * 2016-11-28 2017-02-27 한국건설기술연구원 시설물 근접 촬영용 무인비행체 시스템 및 이를 이용한 촬영 방법
CN106527487A (zh) 2016-12-23 2017-03-22 北京理工大学 一种运动平台上无人机自主精确着陆系统及着陆方法
WO2018119450A1 (en) * 2016-12-23 2018-06-28 Gecko Robotics, Inc. Inspection robot
CN106647790A (zh) 2016-12-27 2017-05-10 重庆大学 面向复杂环境的四旋翼无人机飞行器系统及飞行方法
IL249888B (en) * 2017-01-01 2021-04-29 Levy Moshe Universal flying ground vehicle
RU2757549C2 (ru) 2017-01-06 2021-10-18 Аурора Флайт Сайенсиз Корпорейшн Система и способ для предупреждения столкновений беспилотного летательного аппарата
JP2018114822A (ja) 2017-01-18 2018-07-26 大成建設株式会社 無人飛行体に装着する運搬物の把持装置
US20180232874A1 (en) * 2017-02-10 2018-08-16 Ecosubsea As Inspection vehicle
JP2020510820A (ja) * 2017-03-16 2020-04-09 トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング 少なくとも1つの物体を光学的に検出するための検出器
CN206704338U (zh) 2017-03-24 2017-12-05 洛阳圣瑞智能机器人有限公司 一种爬壁磁吸附机器人的行走底盘装置
US11199631B2 (en) * 2017-04-07 2021-12-14 Criterionix, L.L.C. Apparatus and methods for geo-locating one or more objects
CN108688798B (zh) * 2017-04-11 2020-11-06 北京乐普盛通信息技术有限公司 飞行器辅助起降装置及其降落与起飞控制方法
CN106931963A (zh) 2017-04-13 2017-07-07 高域(北京)智能科技研究院有限公司 环境数据共享平台、无人飞行器、定位方法和定位系统
US10480982B2 (en) * 2017-04-19 2019-11-19 Saudi Arabian Oil Company Acoustic calibration array for tanks and vessels
US10442522B2 (en) * 2017-05-26 2019-10-15 Bell Textron Inc. Aircraft with active aerosurfaces
CN206813306U (zh) 2017-06-15 2017-12-29 歌尔科技有限公司 无人机起落架及无人机
US20200132286A1 (en) * 2017-07-06 2020-04-30 Strihl Scandinavia Ab Airborne system for replacing modular lighting luminaire
US10343276B2 (en) * 2017-07-12 2019-07-09 Saudi Arabian Oil Company Compact magnetic crawler vehicle with anti-rocking supports
US10451222B2 (en) * 2017-07-12 2019-10-22 Saudi Arabian Oil Company Magnetic crawler vehicle with passive rear-facing apparatus
US10338592B2 (en) * 2017-08-24 2019-07-02 Saudi Arabian Oil Company High accuracy remote coordinate machine
US11077935B2 (en) 2017-08-28 2021-08-03 Saudi Arabian Oil Company Thruster based locomotion for perched unmanned aerial vehicles
US11086316B2 (en) * 2017-09-07 2021-08-10 Qualcomm Incorporated Robotic vehicle insecure pay load detection and response
CN207207653U (zh) 2017-09-14 2018-04-10 王志成 基于四旋翼结构的爬墙机器人
US10377486B2 (en) 2017-12-07 2019-08-13 Harman International Industries, Incorporated Drone deployed speaker system
CN108128108A (zh) * 2018-01-18 2018-06-08 浙江大学 一种基于仿生学原理的三栖运动四旋翼无人机
CN108263606B (zh) * 2018-01-29 2020-12-18 四川尚航智能科技有限公司 一种基于垂直起降固定翼无人机及其天然气管线巡检系统、方法
US11035669B2 (en) * 2018-02-06 2021-06-15 Saudi Arabian Oil Company Tilt and distance profiling vehicle
US11225332B2 (en) * 2018-02-26 2022-01-18 James Thomas Pike Unmanned aerial vehicle provided with detachable motor arms
JP7120509B2 (ja) * 2018-03-09 2022-08-17 Thk株式会社 飛行ロボット
KR102038678B1 (ko) 2018-03-29 2019-10-30 한국컴포짓 주식회사 자력이착륙형 드론장치
CN108482661B (zh) * 2018-04-17 2019-11-12 山东瑞奥智能设备股份有限公司 一种石油管道在线检修无人机
JP7015734B2 (ja) * 2018-05-14 2022-02-03 株式会社東芝 送電装置、移動体および無線電力伝送装置
CN108944302B (zh) 2018-05-23 2021-10-22 上海交通大学 一种微小型四旋翼六足仿生飞爬机器人
CN108827306B (zh) * 2018-05-31 2022-01-07 北京林业大学 一种基于多传感器融合的无人机slam导航方法及系统
CN208602694U (zh) 2018-06-14 2019-03-15 天津航天中为数据系统科技有限公司 一种多旋翼无人机缓冲起落架
US10661898B2 (en) * 2018-06-21 2020-05-26 Cimcon Lighting, Inc. Unmanned aerial vehicle for infrastructure maintenance
US11007635B2 (en) * 2018-07-25 2021-05-18 The Boeing Company Gravity compensation for self-propelled robotic vehicles crawling on non-level surfaces
US11104552B2 (en) * 2018-09-26 2021-08-31 Cisco Technology, Inc. Docking and undocking payloads from mobile robots
CN208915429U (zh) 2018-09-30 2019-05-31 三一汽车制造有限公司 无人机、无人机停放平台
US20200089206A1 (en) * 2018-10-10 2020-03-19 Greenstar Research and Development India Pvt Ltd Unmanned aerial vehicle (uav) and a system for monitoring and maintaining luminaires using the uav
CN109334955A (zh) 2018-11-01 2019-02-15 烟台市安特洛普网络科技有限公司 无人机起落架
US11097796B2 (en) * 2018-11-29 2021-08-24 Saudi Arabian Oil Company Articulated magnet-bearing legs for UAV landing on curved surfaces
CN109573007A (zh) 2018-12-26 2019-04-05 航天神舟飞行器有限公司 一种基于多足结构的垂直起降无人机自适应起落架系统
CN109934871A (zh) 2019-02-18 2019-06-25 武汉大学 一种面向高危环境的智能无人机抓取目标的系统和方法
CN109976379A (zh) 2019-03-15 2019-07-05 上海工程技术大学 一种激光雷达和深度相机融合的自主导航及避障无人机
US11760127B2 (en) * 2020-12-03 2023-09-19 Saudi Arabian Oil Company Two-wheel compact inspection crawler with automatic probe normalization

Also Published As

Publication number Publication date
SG11202105484QA (en) 2021-06-29
EP3887252A1 (en) 2021-10-06
EP3887251A1 (en) 2021-10-06
KR20210109536A (ko) 2021-09-06
KR20210109529A (ko) 2021-09-06
US20200172231A1 (en) 2020-06-04
US20200174129A1 (en) 2020-06-04
SG11202105477VA (en) 2021-06-29
SA521422005B1 (ar) 2023-01-24
SG11202105481PA (en) 2021-06-29
EP3887250A1 (en) 2021-10-06
CN113474677A (zh) 2021-10-01
KR20210110587A (ko) 2021-09-08
JP7475347B2 (ja) 2024-04-26
US20200174478A1 (en) 2020-06-04
US11584458B2 (en) 2023-02-21
SA521422008B1 (ar) 2023-06-07
JP7444884B2 (ja) 2024-03-06
WO2020154035A1 (en) 2020-07-30
CN113439056A (zh) 2021-09-24
WO2020112903A1 (en) 2020-06-04
CN113056412A (zh) 2021-06-29
JP2022511798A (ja) 2022-02-01
WO2020112859A1 (en) 2020-06-04
EP3887235A1 (en) 2021-10-06
JP2022509282A (ja) 2022-01-20
US20200172184A1 (en) 2020-06-04
EP3887859A1 (en) 2021-10-06
WO2020112887A1 (en) 2020-06-04
KR20210110301A (ko) 2021-09-07
EP3887252B1 (en) 2022-12-28
US11097796B2 (en) 2021-08-24
EP3887859B1 (en) 2022-11-16
US11472498B2 (en) 2022-10-18
JP2022510949A (ja) 2022-01-28
US20200172232A1 (en) 2020-06-04
WO2020112985A1 (en) 2020-06-04
CN113439057A (zh) 2021-09-24
JP2022510298A (ja) 2022-01-26
US11235823B2 (en) 2022-02-01
SG11202104944SA (en) 2021-06-29
US11548577B2 (en) 2023-01-10
SG11202104945VA (en) 2021-06-29
CN113453981A (zh) 2021-09-28
KR20210110808A (ko) 2021-09-09
SA521422066B1 (ar) 2022-12-04

Similar Documents

Publication Publication Date Title
JP7444884B2 (ja) パイプにuavがパーチする自動化方法
US11584525B2 (en) Deep learning-based localization of UAVs with respect to nearby pipes
EP3371670B1 (en) Device and method for autonomous localisation
Stokkeland et al. Autonomous visual navigation of unmanned aerial vehicle for wind turbine inspection
TWI827649B (zh) 用於vslam比例估計的設備、系統和方法
Lange et al. Autonomous landing for a multirotor UAV using vision
US20180273173A1 (en) Autonomous inspection of elongated structures using unmanned aerial vehicles
Kucuksubasi et al. Transfer learning-based crack detection by autonomous UAVs
KR102629036B1 (ko) 로봇 및 그의 제어 방법
Alves et al. Localization and navigation of a mobile robot in an office-like environment
Teixeira et al. Autonomous aerial inspection using visual-inertial robust localization and mapping
Andersen et al. Depth-based deep learning for manhole detection in uav navigation
Liu et al. Framework for automated UAV-based inspection of external building façades
Lin et al. Fast Obstacle Detection Using 3D-to-2D LiDAR Point Cloud Segmentation for Collision-free Path Planning.
Sinha et al. Multi uav coordination for tracking the dispersion of a contaminant cloud in an urban region
US20230073689A1 (en) Inspection Device for Inspecting a Building or Structure
Digerud et al. Vision-based positioning of Unmanned Surface Vehicles using Fiducial Markers for automatic docking
Huang et al. A real-time fast incremental SLAM method for indoor navigation
Hansen et al. Uav trajectory evaluation in large industrial environments: A cost-effective solution
Tavakoli et al. Autonomous mapping for inspection of 3D structures
Shu et al. An imu/sonar-based extended kalman filter for mini-uav localization in indoor environment
WO2019093885A1 (en) Obstacle detection using a classifier trained by horizon-based learning
Nasir et al. Aerial robot localization using ground robot tracking–towards cooperative slam
CN111837083B (zh) 信息处理装置、信息处理方法和存储介质
Darji et al. Counting static targets using an unmanned aerial vehicle on-the-fly and autonomously

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A529

Effective date: 20210528

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220912

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230904

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240222

R150 Certificate of patent or registration of utility model

Ref document number: 7444884

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150