KR20230127157A - 워크 계측 방법, 워크 계측 시스템, 및 프로그램 - Google Patents

워크 계측 방법, 워크 계측 시스템, 및 프로그램 Download PDF

Info

Publication number
KR20230127157A
KR20230127157A KR1020230021248A KR20230021248A KR20230127157A KR 20230127157 A KR20230127157 A KR 20230127157A KR 1020230021248 A KR1020230021248 A KR 1020230021248A KR 20230021248 A KR20230021248 A KR 20230021248A KR 20230127157 A KR20230127157 A KR 20230127157A
Authority
KR
South Korea
Prior art keywords
work
shape
point cloud
workpiece
cloud data
Prior art date
Application number
KR1020230021248A
Other languages
English (en)
Inventor
다츠야 요시모토
아키라 오카모토
Original Assignee
가부시키가이샤 고베 세이코쇼
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 가부시키가이샤 고베 세이코쇼 filed Critical 가부시키가이샤 고베 세이코쇼
Publication of KR20230127157A publication Critical patent/KR20230127157A/ko

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/4093Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by part programming, e.g. entry of geometrical information as taken from a technical drawing, combining this with machining and material information to obtain control information, named part programme, for the NC machine
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/401Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by control arrangements for measuring, e.g. calibration and initialisation, measuring workpiece for machining purposes
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/42Recording and playback systems, i.e. in which the programme is recorded from a cycle of operations, e.g. the cycle of operations being manually controlled, after which this record is played back on the same machine
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/149Segmentation; Edge detection involving deformable models, e.g. active contour models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Human Computer Interaction (AREA)
  • Manufacturing & Machinery (AREA)
  • Quality & Reliability (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

(과제) 3차원 CAD 데이터 등의 사전 준비를 필요로 하지 않고, 워크의 형상이나 위치를 측정한다.
(해결 수단) 복수의 부재로 구성되는 워크의 형상 및 위치의 계측을 행하는 워크 계측 방법은, 상기 워크의 3차원의 점군 데이터를 취득하는 취득 스텝과, 계측 대상의 워크의 형상에 대응하여 규정된 조건 및 상기 점군 데이터를 이용하여, 상기 복수의 부재에 대응하는 개형을 나타내는 1 또는 복수의 경계 범위를 추정하는 개형 추정 스텝과, 상기 개형 추정 스텝에서 추정된 상기 1 또는 복수의 경계 범위를 평가 함수에 의한 파라미터의 조정에 의해 최적화하고, 상기 복수의 부재의 형상을 특정하는 최적화 스텝을 갖는다.

Description

워크 계측 방법, 워크 계측 시스템, 및 프로그램{WORK MEASURING METHOD, WORK MEASURING SYSTEM, AND PROGRAM}
본 발명은, 워크 계측 방법, 워크 계측 시스템, 및 프로그램에 관한 것이다.
종래, 용접 로봇을 이용하여, 미리 정한 위치에 피용접 부재(이하, 워크라고도 칭함)를 준비하고, 워크의 용접이 행해지고 있다. 이러한 경우에, 워크의 자동 용접 등을 목적으로 하여, 워크의 설치 상태의 파악을 용이하게 하고, 에너지 절약화하는 것이 요구되고 있다. 워크의 위치를 파악할 때에는, 예를 들면, 3차원 센서를 이용하여 취득되는 3차원 데이터가 이용되고 있다.
3차원 데이터를 이용하는 예로서, 특허문헌 1에서는, 3차원 CAD 데이터로부터 2개의 부재를 특정하고, 그 공유 에지를 추출하여 용접선을 특정하는 것이 개시되고 있다. 또, 특허문헌 2에서는, 사전에 계측된 기준 대상물의 기준 3차원 모델 데이터와, 작업 시의 실제 대상물의 3차원 데이터로부터 차분값을 구하는 구성이 개시되어 있다.
[특허문헌 1] 일본 특허공개 2018-156566호 공보 [특허문헌 2] 일본 특허 제 6917096호 공보
예를 들면, 특허문헌 1에서는, 3차원 CAD 데이터를 이용하는 것이 전제로 되어 있고, 이러한 데이터가 없는 경우에는, 용접선을 특정할 수 없다. 또, 특허문헌 2에서는, 부재의 편차량을 보정하는 것을 주된 목적으로 하고 있고, 사전에 3차원 모델 데이터를 취득할 필요가 있다. 그 때문에, 대상물의 크기나 형상의 변화에는 대응할 수 없다고 하는 과제가 있다.
본 발명은, 3차원 CAD 데이터 등의 사전 준비를 필요로 하지 않고, 워크의 형상이나 위치를 측정하는 것을 목적으로 한다.
상기 과제를 해결하기 위해서 본 발명은 이하의 구성을 갖는다. 즉, 복수의 부재로 구성되는 워크의 형상 및 위치의 계측을 행하는 워크 계측 방법은, 상기 워크의 3차원의 점군 데이터를 취득하는 취득 스텝과, 계측 대상의 워크의 형상에 대응하여 규정된 조건 및 상기 점군 데이터를 이용하여, 상기 복수의 부재에 대응하는 개형(槪形)을 나타내는 1 또는 복수의 경계 범위를 추정하는 개형 추정 스텝과, 상기 개형 추정 스텝에서 추정된 상기 1 또는 복수의 경계 범위를 평가 함수에 의한 파라미터의 조정에 의해 최적화하고, 상기 복수의 부재의 형상을 특정하는 최적화 스텝을 갖는다.
또, 본 발명의 다른 형태는 이하의 구성을 갖는다. 즉, 복수의 부재로 구성되는 워크의 형상 및 위치의 계측을 행하는 워크 계측 시스템은, 상기 워크의 3차원의 점군 데이터를 취득하는 취득 수단과, 계측 대상의 워크의 형상에 대응하여 규정된 조건 및 상기 점군 데이터를 이용하여, 상기 복수의 부재에 대응하는 개형을 나타내는 1 또는 복수의 경계 범위를 추정하는 개형 추정 수단과, 상기 개형 추정 수단에서 추정된 상기 1 또는 복수의 경계 범위를 평가 함수에 의한 파라미터의 조정에 의해 최적화하고, 상기 복수의 부재의 형상을 특정하는 최적화 수단을 갖는다.
또, 본 발명의 다른 형태는 이하의 구성을 갖는다. 즉, 프로그램은, 컴퓨터로 하여금, 복수의 부재로 구성되는 워크의 3차원의 점군 데이터를 취득하는 취득 스텝과, 계측 대상의 워크의 형상에 대응하여 규정된 조건 및 상기 점군 데이터를 이용하여, 상기 복수의 부재에 대응하는 개형을 나타내는 1 또는 복수의 경계 범위를 추정하는 개형 추정 스텝과, 상기 개형 추정 스텝에서 추정된 상기 1 또는 복수의 경계 범위를 평가 함수에 의한 파라미터의 조정에 의해 최적화하고, 상기 복수의 부재의 형상을 특정하는 최적화 스텝을 실행하게 한다.
본 발명에 의해, 3차원 CAD 데이터 등의 사전 준비를 필요로 하지 않고, 워크의 형상이나 위치를 측정하는 것이 가능해진다.
도 1은 본 발명의 일 실시형태에 따른 워크 계측 시스템의 전체 개요를 나타내는 블럭도.
도 2는 본 발명의 일 실시형태에 따른 정보 처리 장치의 기능 구성의 예를 나타내는 블럭도.
도 3은 본 발명의 일 실시형태에 따른 점군 데이터의 예를 나타내는 례도.
도 4는 본 발명의 일 실시형태에 따른 워크의 예를 나타내는 개략도.
도 5는 본 발명의 일 실시형태에 따른 전체 처리의 흐름도.
도 6은 본 발명의 일 실시형태에 따른 개형 추정 처리의 흐름도.
도 7은 본 발명의 일 실시형태에 따른 개형 추정 처리를 설명하기 위한 설명도.
도 8은 본 발명의 일 실시형태에 따른 개형 추정 처리를 설명하기 위한 그래프도.
도 9는 본 발명의 일 실시형태에 따른 최적화 처리의 흐름도.
도 10은 본 발명의 일 실시형태에 따른 계측 결과를 설명하기 위한 설명도.
도 11은 본 발명의 일 실시형태에 따른 계측 결과를 설명하기 위한 설명도.
도 12는 본 발명의 일 실시형태에 따른 계측 결과를 설명하기 위한 설명도.
도 13은 본 발명의 일 실시형태에 따른 보충 정보의 산출을 설명하기 위한 설명도.
이하, 본 발명을 실시하기 위한 형태에 대해 도면 등을 참조하여 설명한다. 또, 이하에 설명하는 실시형태는, 본 발명을 설명하기 위한 일 실시형태이며, 본 발명을 한정하여 해석하는 것을 의도하는 것은 아니고, 또한, 각 실시형태에서 설명되고 있는 모든 구성이 본 발명의 과제를 해결하기 위해 필수의 구성이라고는 할 수 없다. 또, 각 도면에 있어서, 동일한 구성 요소에 대해서는, 동일한 참조 번호를 붙이는 것에 의해 대응 관계를 나타낸다.
<제 1 실시형태>
이하, 본 발명에 따른 일 실시형태에 대해 도면을 참조하면서 설명한다. 또, 이하의 설명에 이용하는 각 도면에서 x축, y축, z축에 의해 나타내는 3차원 좌표축은 각각 대응하고 있는 것으로 한다. 이하의 설명에서는, x축 방향과 y축 방향으로 이루어지는 평면을 수평면으로 하고, 이것에 직교하는 z축 방향을 높이 방향으로 한다.
[계측 시스템의 구성]
도 1은, 본 실시형태에 따른 워크 계측 시스템(1)의 전체 개요를 나타낸다. 워크 계측 시스템(1)은, 본 실시형태에 따른 워크 계측 방법을 실장 가능한 시스템이며, 정보 처리 장치(100), 및, 3차원 센서(200)를 포함하여 구성된다. 또, 워크 계측 시스템(1)의 주위에는, 계측 대상인 워크(300)가 배치된다. 본 실시형태에서는, 워크(300)는 1 또는 복수의 부재로 구성되어도 좋다. 워크 계측 시스템(1)은, 예를 들면 터치 센싱 가능한 용접 로봇을 포함하여 구성되는 용접 시스템과 일체로 된 구성 또는 접속된 구성으로서 이용되어도 좋다. 터치 센싱 기능은, 워크(300)의 위치나 형상을 파악하기 위한 기능이다. 본 실시형태에서는, 워크 계측 시스템(1)이, 터치 센싱 기능을 갖는 용접 시스템(400)에 접속되어 제휴 가능한 구성을 예로 들어 설명한다.
정보 처리 장치(100)는, 예를 들면, PC(Personal Computer) 등으로 구성된다. 또, 본 실시형태에 따른 워크 계측 시스템(1)이, 용접 시스템(400)과 일체로 된 구성인 경우에는, 정보 처리 장치(100)는 도시하지 않는 용접 로봇을 제어하기 위한 제어 장치와 일체여도 좋다. 정보 처리 장치(100)는, 제어부(101), 기억부(102), 통신부(103), 및 UI(User Interface)부(104)를 포함하여 구성된다.
제어부(101)는, 예를 들면, CPU(Central Processing Unit), GPU(Graphical Processing Unit), MPU(Micro Processing Unit), DSP(Digital Signal Processor), 또는 FPGA(Field Programmable Gate Array) 중 적어도 1개를 이용하여 구성되어도 좋다. 또, 기억부(102)는, 예를 들면, HDD(Hard Disk Drive), ROM(Read Only Memory), 또는 RAM(Random Access Memory) 등의 휘발성이나 비휘발성의 기억 장치에 의해 구성된다. 제어부(101)가, 기억부(102)에 기억된 각종 프로그램을 판독하여 실행하는 것에 의해, 후술하는 각종 기능을 실현한다.
통신부(103)는, 외부 장치나 각종 센서와의 통신을 행하기 위한 부위이다. 통신부(103)에 의한 통신은 유선/무선은 상관없고, 또, 그 통신 규격을 한정하는 것도 아니다. UI부(104)는, 사용자로부터의 조작을 받아들이거나, 계측 결과를 표시하거나 한다. UI부(104)는, 예를 들면, 마우스나 키보드 등을 포함해도 좋고, 표시부와 조작부가 일체로 된 터치 패널 디스플레이 등으로 구성되어도 좋다. 정보 처리 장치(100) 내의 각 부위는, 도시하지 않는 내부 버스 등에 의해 통신 가능하게 접속된다.
3차원 센서(200)는, 3차원 데이터로서의 점군 데이터를 취득하기 위한 센서이다. 3차원 센서(200)로서는, 예를 들면, ToF(Time of Flight) 카메라, 스테레오 카메라, 또는, LiDAR(Light Detection And Ranging) 등이 이용 가능하다. 상기 각 센서는, 각각 다른 특성을 갖기 때문에, 계측 환경이나 계측 대상인 워크(300)에 따라 구분하여 사용해도 좋다.
ToF 카메라는, 레이저광을 계측 대상에 조사하고, 그 반사한 레이저광을 촬상 소자에서 계측하는 것에 의해 화소마다 거리를 산출한다. ToF 카메라의 계측 가능 거리는, 수십cm~수m 정도로 된다. 스테레오 카메라는, 복수(예를 들면, 2대)의 카메라로 촬영된 복수의 화상을 이용하여 그러한 시차(視差)로부터 거리를 산출한다. 스테레오 카메라의 계측 가능 거리는, 수십cm~수m 정도로 된다. LiDAR는, 레이저광을 주위에 조사하고, 반사한 레이저광을 계측하는 것으로 거리를 산출한다. LiDAR의 계측 가능 거리는, 수십cm~수십m 정도로 된다.
본 실시형태에서는, 3차원 센서(200)로서 ToF 카메라를 이용한 예를 설명한다. 본 실시형태에 있어서, 3차원 센서(200)는, 워크(300)의 위쪽에 설치되고, 하부 측에 위치하는 워크(300)를 촬영 가능하다. 또, 3차원 센서(200)는 고정되어 있어도 좋고, 촬영에 따라 상하좌우의 위치나 촬영 각도, 촬영 조건을 조정 가능하게 구성되어 있어도 좋다.
[기능 구성]
도 2는, 본 실시형태에 따른 워크 계측 방법에 따른 처리를 실행하는 정보 처리 장치(100)의 기능 구성의 예를 나타내는 도면이다. 도 2에 나타내는 각 부위는, 정보 처리 장치(100)의 제어부(101)가 기억부(102)에 기억된 프로그램을 판독하여, 실행하는 것에 의해 실현되어도 좋다. 정보 처리 장치(100)는, 점군 데이터 취득부(151), 전처리부(152), 개형 추정 처리부(153), 바운딩 박스 최적화부(154), 보충 정보 도출부(155), 보정 처리부(156), 센싱 정보 취득부(157), 및 데이터 관리부(158)를 포함하여 구성된다.
점군 데이터 취득부(151)는, 3차원 센서(200)에 의해 촬영된 워크(300)의 3차원 데이터인 점군 데이터를 취득한다. 전처리부(152)는, 취득한 점군 데이터에 대해서 전처리를 행한다. 여기서의 전처리는, 이용하는 점군 데이터에 따라 달라도 좋고, 예를 들면, 필터 처리, 이상값 제거 처리, 클러스터링 처리, 좌표 변환 처리 등을 들 수 있다.
개형 추정 처리부(153)는, 점군 데이터에서 나타나는 워크(300)의 개형을, 바운딩 박스를 이용하여 추정하는 처리를 행한다. 여기서의 개형이란, 점군 데이터에 근거하여 근사된 워크(300)의 형상에 상당한다. 바운딩 박스 최적화부(154)는, 개형 추정 처리부(153)에서 추정된 워크(300)의 개형을 나타내는 바운딩 박스에 근거하여, 워크(300)의 형상을 보다 정밀도 좋게 특정하기 위해서 최적화한다. 본 실시형태에 따른 바운딩 박스의 구체적인 예에 대해서는 후술하지만, 워크(300)를 구성하는 1 또는 복수의 부재의 형상을 나타내기 위한 1 또는 복수의 직사각형이나 원형 등의 경계 범위를 나타낸다. 바운딩 박스는, 2차원 즉 평면 형상으로 나타나도 좋고, 3차원 즉 입체 형상으로 나타나도 좋다. 따라서, 바운딩 박스는, 직선으로 구성되는 직사각형 형상으로 한정되는 것은 아니고, 그 일부에 곡선이 포함되어도 좋다. 또, 바운딩 박스와 워크(300)를 구성하는 부재는, 반드시 1 대 1의 관계로 되는 것은 아니고, 워크(300)의 형상이나 점군 데이터의 촬영 방향 등에 따라, 1 대 다의 관계도 있을 수 있다. 보충 정보 도출부(155)는, 3차원 좌표에 있어서의 워크(300)의 위치 좌표를 특정하기 위한 보충 정보를 도출한다. 보충 정보의 예에 대해서는 후술한다.
보정 처리부(156)는, 바운딩 박스 최적화부(154)에서 얻어진 바운딩 박스에 대해, 용접 시스템(400)에 의해 제공되는 터치 센싱 기능에 의해 취득된 정보에 근거하여, 계측 정밀도를 보다 향상시키기 위한 보정 처리를 행한다. 센싱 정보 취득부(157)는, 보정 처리부(156)에서 이용하기 위한 계측 정보를, 용접 시스템(400)에 의해 제공되는 터치 센싱 기능을 거쳐 취득한다. 센싱 정보 취득부(157)는, 용접 시스템(400)에 대해서 터치 센싱 기능에 의한 계측을 행하게 하는 구성이어도 좋다. 데이터 관리부(158)는, 3차원 센서(200)나 터치 센싱 기능을 거쳐 취득한 각종 데이터나 계측 동작 중에서 생성한 데이터를 유지, 관리한다. 본 실시형태의 워크 계측 방법에 따라 워크의 형상 및 위치를 파악한 후에, 터치 센싱을 행하는 것에 의해, 워크의 위치를 보다 정밀도 좋게 파악할 수 있기 때문에, 정밀도가 높은 용접선의 위치를 파악하고, 로봇 용접을 하는 것이 가능해진다.
[점군 데이터]
도 3은, 3차원 센서(200)에 의해, 워크(300)를 촬영하는 것으로 얻어지는 점군 데이터의 예를 나타낸다. 여기에서는, 워크(300)에 대해서, 위쪽 방향으로부터 촬영한 예를 경사 방향으로부터 본 도면으로서 나타내고 있다. 본 예의 워크(300)는, 위쪽으로부터 본 경우, 중심에 위치하는 1개의 다이어프램과, 그 사방으로 연장되는 4개의 보 플랜지로 이루어지는 십자 형상의 워크이다. 워크(300)로서는, 철골 연결 워크를 예로 들고 있다.
워크(300)의 형상, 구성, 치수 등은 특히 한정하는 것은 아니다. 예를 들면, 다이어프램과 보 플랜지로 이루어지는 구성의 예로서는, 1개의 다이어프램과 3개의 보 플랜지로 이루어지는 T자, 1개의 다이어프램과 2개의 보 플랜지로 이루어지는 L자나 I자가 있다. 또, 다이어프램과 보 플랜지의 접속 위치에서의 단차의 유무나, 다이어프램과 보 플랜지의 접속 위치에 있어서의 오프셋 등을 구성상의 요소로서 들 수 있다.
도 4는, 본 실시형태에 따른 워크 계측 방법에 있어서, 워크(300)의 계측 대상으로 되는 요소를 설명하기 위한 도면이다. 여기에서는, 1개의 다이어프램(301)과 2개의 보 플랜지(302, 303)로 이루어지는 L자 워크의 예를 나타낸다. 중심점(301a)은, 다이어프램(301)의 중심을 나타낸다. 중심선(301b)은, 다이어프램(301)의 중심점(301a)을 통과하는 x축 방향에 따른 중심선이다. 중심선(301c)는, 다이어프램(301)의 중심점(301a)을 통과하는 y축 방향에 따른 중심선이다. 중심선(302a)은, 보 플랜지(302)의 x축 방향에 따른 중심선이며, 보 플랜지(302)의 짧은 쪽의 중심 위치에 상당한다. 중심선(303a)은, 보 플랜지(303)의 y축 방향에 따른 중심선이며, 보 플랜지(303)의 짧은 쪽의 중심선에 상당한다. 중심선(302a)과 중심선(301b)은 평행인 것으로 하고, 그 차분을 오프셋 OFF1로서 나타낸다. 중심선(303a)과 중심선(301c)은 평행인 것으로 하고, 그 차분을 오프셋 OFF2로서 나타낸다. 이하의 설명에서는, 보 플랜지의 짧은 쪽을 폭이라고도 부르고, 긴 쪽을 길이라고도 부른다.
이하의 설명에서는, 상술한 바와 같은 점군 데이터나 워크의 형상을 예로 들어 설명한다. 그러나, 이러한 형상의 워크로 한정하는 것은 아니고, 그 밖의 형상의 워크를 대상으로서 본 발명을 적용하는 것이 가능하다.
[처리 플로우]
이하, 본 실시형태에 따른 워크 계측 처리의 흐름을 설명한다. 도 5는, 본 실시형태에 따른 워크 계측 처리의 처리 전체의 흐름을 나타내는 흐름도이다. 각 공정은, 도 2에 나타내는 정보 처리 장치(100)의 각 부위가 연계하는 것으로 실현된다. 여기에서는, 설명을 간략화하기 위해서, 처리 주체를 정보 처리 장치(100)로서 정리하여 기재한다. 본 처리 플로우가 개시되기 전에, 워크(300)가, 3차원 센서(200)에서 촬영 가능한 위치에 배치되어 있는 것으로 한다.
스텝 S501에서, 정보 처리 장치(100)는, 3차원 센서(200)를 이용하여 촬영된 3차원 데이터인 점군 데이터를 취득한다. 워크(300)가 소정의 치수보다 작은 경우에는, 1회의 촬영 동작에 의해 점군 데이터가 취득되어도 좋다. 또, 워크(300)가 소정의 치수보다 큰 경우에는, 복수회의 촬영 동작에 의해 복수의 점군 데이터를 취득하고, 그것들을 통합해도 좋다. 또, 워크(300)가 철골 연결 등의 소정의 형상을 갖는 경우에는, 사각 지대가 최대한 생기지 않도록, 워크(300)의 바로 위에서 촬영하는 것이 바람직하다. 본 공정에 있어서, 촬영 시에는, 정보 처리 장치(100)가 촬영 위치나 촬영 각도를 조정하는 것과 같은 구성이어도 좋고, 워크 계측 시스템(1)의 이용자가 지정하는 것과 같은 구성이어도 좋다.
스텝 S502에서, 정보 처리 장치(100)는, 스텝 S501에서 취득한 점군 데이터에 대해서 전처리를 행한다. 전처리로서는, 예를 들면, 필터 처리, 이상값 제거 처리, 클러스터링 처리, 좌표 변환 처리 등을 들 수 있다. 또, 본 공정에 있어서의 전처리는, 스텝 S501에서 취득한 점군 데이터의 구성에 따라 필요한 처리가 실행되면 되고, 전처리가 생략되어도 좋다.
필터 처리는, 예를 들면, 공지의 Voxel Grid 필터 등을 이용하여, 점군 데이터에 포함되는 점군을 일정한 간격으로 리샘플링하는 것에 의해, 소정 체적당 점군 밀도를 일정하게 하는 처리여도 좋다. 이상값 제거 처리는, 계측 정밀도를 저하시킬 수 있는 이상값을 제거하는 처리여도 좋다. 이상값은, 예를 들면, 인접 점군의 평균과 분산 등의 통계 정보로부터 특정해도 좋고, 소정 반경 내에 존재하는 인접 점군의 수로부터 특정되어도 좋다. 클러스터링 처리는, 예를 들면, 점군 데이터에 포함되는 점군을 거리 등에 근거하여 복수의 그룹으로 분할하고, 속하는 점군의 수가 소정의 임계값 이하의 그룹을 삭제하는 것에 의해, 워크(300)의 형상을 나타내는 점군 이외의 점군을 제거하는 처리여도 좋다. 좌표 변환 처리는, 3차원 센서(200)의 촬영 위치나 촬영 각도에 근거하여, 3차원 센서(200)의 좌표계로부터 소정의 좌표계로 변환한다. 소정의 좌표계는, 예를 들면, 터치 센싱 기능에서 이용하는 좌표계여도 좋고, 도 1에 나타내는 바와 같은 워크(300)를 설치한 면을 xy 평면으로 하여 원점이나 좌표축이 규정된 좌표계여도 좋다. 좌표계의 변환에 필요한 파라미터는, 사전의 교정 처리 등에 의해 도출해두어도 좋다.
스텝 S503에서, 정보 처리 장치(100)는, 스텝 S502에서 처리된 점군 데이터를 이용하여 개형 추정 처리를 행한다. 본 공정의 상세에 대해서는, 도 6~도 8을 이용하여 후술한다. 본 공정의 결과, 워크(300)의 개형을 나타내는 1 또는 복수의 바운딩 박스가 얻어진다.
스텝 S504에서, 정보 처리 장치(100)는, 스텝 S503에서 얻어진 바운딩 박스에 대해서, 최적화 처리에 의해, 보정을 행한다. 본 공정의 상세에 대해서는, 도 9를 이용하여 후술한다.
스텝 S505에서, 정보 처리 장치(100)는, 3차원 좌표에 있어서의 워크(300)의 위치 좌표를 특정하기 위한 보충 정보를 도출한다. 보충 정보는, 예를 들면, 워크(300)를 구성하는 각 부위의 높이 정보가 포함된다. 예를 들면, 도 3에 나타내는 바와 같이, 워크(300)를 구성하는 다이어프램이나 보 플랜지의 상면은 반드시 수평인 것은 아니고, 그 위치에 따라서는 높이가 다를 수 있다. 그 때문에, 워크(300)의 형상을 보다 정확하게 측정하기 위해서, 보충 정보로서 높이 정보를 포함해도 좋다. 그 외, 각 부위의 면과, 수평면이 이루는 각도 등을 보충 정보로서 포함해도 좋다.
도 13은, 보충 정보로서, z축 방향에 있어서의 파라미터, 즉, 높이의 산출을 설명하기 위한 설명도이다. 본 예에서는, 도 3과 마찬가지로, 워크(300)가 1개의 다이어프램과 4개의 보 플랜지로 구성되는 십자 형상의 워크인 예를 나타내고 있다. 다이어프램에 대해서는, 주변부는 점군 데이터의 계측 정밀도가 낮은 것으로서, 경계로부터 소정의 범위에 위치하는 주변부의 점군 데이터를 제외한 영역(1301) 내의 높이 정보를 이용하여, 다이어프램의 높이를 산출한다. 보 플랜지에 대해서도 주변부는 점군 데이터의 계측 정밀도가 낮은 것으로서 취급한다. 또한, 다이어프램과 근접한 위치의 높이 정보를 이용한다. 따라서, 보 플랜지 각각의 높이를 산출하는 경우, 영역(1302)의 점군 데이터의 높이 정보를 이용한다.
스텝 S506에서, 정보 처리 장치(100)는, 터치 센싱 기능에 의해 취득된 정보에 근거하여 보정 처리를 행한다. 본 공정에 있어서의 동작은, 여기까지의 처리에 의해 얻어진 계측 결과에 근거하여, 정보 처리 장치(100)가 터치 센싱 기능에 의한 터치 센싱 동작 및 보정 처리를 행하는지 여부를 판정한 다음에 실행해도 좋다. 또는, 워크 계측 시스템(1)의 이용자가, 본 공정을 행하는지 여부를 지정하는 구성이어도 좋다. 따라서, 본 공정은, 생략되어도 좋다. 그리고, 본 처리 플로우를 종료한다.
(개형 추정 처리)
도 6은, 본 실시형태에 따른 개형 추정 처리의 흐름도이며, 도 5의 스텝 S503의 공정에 대응한다. 우선, 개형 추정 처리의 전체 개요를, 도 7 및 도 8을 이용하여 설명한다.
도 7은, 워크(300)를 3차원 센서(200)에서 바로 위쪽으로부터 촬영한 경우의 점군 데이터를 나타낸다. 즉, 도 3에 나타내는 바와 같은 점군 데이터를, 2차원 평면 상에 투영하도록 변환한 상태이다. 본 예에서는, 워크(300)는 십자 형상을 갖는다. 개형 추정 처리에서는, 계측 대상인 워크(300)의 형상에 따라 규정되는 복수의 방향으로부터 순서대로 개형 추정을 행한다. 예를 들면, 워크(300)가 십자 형상인 경우에는, x축 방향에 따라 오른쪽에서 왼쪽, 왼쪽에서 오른쪽, y축 방향에 따라 위에서 아래, 아래에서 위의 4 방향에 의한 동작을 행한다. 도 7의 경우, x축을 따라 왼쪽에서 오른쪽인 예를 나타내고 있다. 또, ROI(Region Of Interest)(701)를 설정하고, ROI(701)를 비켜 놓으면서 개형 추정을 행한다. 도 7에서는, 워크(300)를 구성하는 4개의 보 플랜지 중, 도면 중 좌측의 보 플랜지의 폭이 x축 방향에 따라, 왼쪽에서 오른쪽을 향해 개형으로서 추정되어 가는 예를 나타내고 있다.
도 8은, 도 7에 나타내는 개형 추정 처리를 설명하기 위한 도면이며, 도 7의 개형 추정의 결과예를 나타내는 그래프도이다. 도 8에 있어서, 가로축은 제 1 축 방향(도 7의 예에서는, x축 방향)에 있어서의 검출 결과를 나타내고, 세로축은 제 2 축 방향(도 7의 예에서는, y축 방향)에 있어서의 검출 결과를 나타낸다. 도 7의 계측의 예에서는, 가로축이 보 플랜지의 길이에 대응하고, 세로축이 보 플랜지의 폭에 대응한다. 또, 가로축에 있어서는, ROI(701)를 이동시키는 중, 점군을 검출하기 시작한 위치를 「0」으로서 가리키고 있다. 각 축의 수치는 일례이며, 계측 대상의 워크(300)의 사이즈 등에 따라 변동할 수 있다. 도 7에 나타내는 바와 같이 보 플랜지에 상당하는 점군 데이터를 특정하는 것으로, 워크(300)를 구성하는 보 플랜지의 폭, 즉, 워크(300)의 개형을 추정할 수 있다. 본 예의 경우, 보 플랜지의 폭은 「200」으로서 추정할 수 있다. 또한, 추정 처리를 계속하면, 길이가 「500」인 위치에서 급격하게 폭의 값이 상승하고 있다. 이것에 의해, 보 플랜지의 길이는 「500」으로서 추정할 수 있다.
상술한 바와 같이, 도 7의 예에서는 4개의 방향으로부터 점군 데이터를 주사하는 것으로 개형 추정을 행한다. 이 때, 도 8과 같이 계측치가 급격하게 변화한 타이밍에 개형 추정의 방향을 전환해도 좋다. 또는, 모든 점군 데이터에 대해서, 모든 방향으로부터 개형 추정 처리를 행하도록 구성되어도 좋다. 이하의 설명에서는, 계측치가 임계값 이상으로 변화한 경우에 개형 추정의 방향을 전환하는 형태에 대해 설명한다.
개형 추정에 의해 얻어지는 바운딩 박스의 정보로서는, 예를 들면, 이하와 같은 항목을 들 수 있다. 또, 계측 대상의 워크(300)의 형상 등에 따라서는, 이하에 나타내는 정보의 일부를 사용자가 지정하는 구성이어도 좋다.
형상 : 직사각형, 엔, 입방체 등
사이즈 : 형상이 직사각형인 경우, 장변의 길이, 단변의 길이, 중심 좌표, 각도 등
개수 : 형상마다의 바운딩 박스의 개수
제약 : 바운딩 박스간의 접속 관계나 위치 관계 등
도 6에 돌아와, 도 7의 처리에 대응하는 흐름도의 설명을 행한다. 본 처리 플로우의 전제로서, 상기와 같은 바운딩 박스의 정보를 취득하기 위한 워크(300)의 개형 추정을 행한 후에, 워크(300)의 형상에 따른 조건이 규정된다. 예를 들면, 워크(300)가 도 3에 나타내는 바와 같은 십자 형상이며, 철골 연결 워크인 경우, 개형 추정시의 조건은, 이하와 같은 것을 들 수 있다.
형상 : 직사각형
사이즈 : 부재에 따라 다름
개수 : 다이어프램 1개+보 플랜지 2~4개
제약 : 보 플랜지의 단변은 다이어프램의 한 변과 접하고, 다른 보 플랜지끼리는 접하지 않음
상기와 같은 추정 조건 하에 있어서, 워크(300)의 개형 추정이 행해진다. 또, 개형 추정시의 추정 조건은, 워크(300)의 형상에 따라 미리 규정되고 있다. 또, 상기의 추정 조건에 한정하는 것은 아니고, 임의의 추정 조건이 규정 가능하다. 상기와 같은 개형 추정을 행하기 위한 조건은, 계측 대상으로 되는 워크(300)의 종류에 따라 미리 규정되고 있어도 좋다.
또, 워크(300)를 구성하는 각 부재의 맞춤의 개형을 추정하기 위해서는, 워크(300)의 위쪽, 즉, 도 1 등의 z축 방향에 따른 방향으로부터 관찰할 필요가 있다. 그 때문에, 도 3에 나타내는 바와 같은 점군 데이터를 이용하는 경우에는, 점군 데이터를 회전시켜, 도 7에 나타내는 바와 같은 위쪽으로부터 내려다본 상태가 되도록 변환을 행한다. 이 변환은, 도 5의 스텝 S502에 있어서의 전처리에서 행해져도 좋다.
스텝 S601~스텝 S611의 루프 처리가, 점군 데이터에 대해서, 도 1 등에 나타내는 xy 평면 상의 z축 주위에 있어서의 소정의 각도마다 반복된다. 여기서의 소정의 각도 및 개시 각도는 미리 규정되어 있는 것으로 하고, 예를 들면, 소정의 각도를 5도로 하고, 개시 각도를 xy 평면 상의 x축에 따른 방향을 기준으로 한 각도(0도)로 해도 좋다.
스텝 S602에서, 개형 추정 처리부(153)는, 점군 데이터의 xy 평면 상에서 ROI(701)를 설정한다. 여기서 설정하는 ROI(701)는, 개형 추정의 개시 위치에 상당하고, 주사 방향 즉, 점군 데이터의 스캔 방향의 수에 따라 복수가 설정되어도 좋다. 또, ROI(701)의 사이즈는 특히 한정하는 것은 아니고, 예를 들면, 고정의 사이즈가 이용되어도 좋고, 점군 데이터의 화상 사이즈에 따라 규정되어 있어도 좋다.
계속해서, 스텝 S603~스텝 S609의 루프 처리가, 점군 데이터에 대해서, xy 평면 상의 소정의 방향마다 반복된다. 여기에서는, x축의 양의 방향, y축의 양의 방향, x축의 음의 방향, y축의 음의 방향의 4개의 스캔 방향에서 점군 데이터에 대한 스캔이 행해지는 것으로 한다. 스캔 방향은, 상기의 추정 조건에 근거하여 그 방향이나 수가 규정되어 있어도 좋다.
스텝 S604에서, 개형 추정 처리부(153)는, 설정한 ROI(701)에 있어서의 점군의 폭을 산출한다.
스텝 S605에서, 개형 추정 처리부(153)는, 스텝 S604에서 산출한 점군의 폭과, 전회의 ROI(701)의 위치에서 산출한 폭으로부터의 차분, 즉, 변화량이 임계값 이상인지 여부를 판정한다. 여기서의 임계값은 미리 규정되어 있는 것으로 한다. 또, 변화량을 대신해서, 변화율을 이용하여 판정해도 좋다. 변화량이 임계값 이상인 경우(스텝 S605에서 YES), 개형 추정 처리부(153)의 처리는 스텝 S607에 진행된다. 한편, 변화량이 임계값 미만인 경우(스텝 S605에서 NO), 개형 추정 처리부(153)의 처리는 스텝 S606에 진행된다.
스텝 S606에서, 개형 추정 처리부(153)는, ROI(701)를 스캔 방향으로 평행 이동시킨다. 여기서의 ROI(701)의 이동량은, ROI(701)의 사이즈 등에 의해 미리 규정되어 있는 것으로 한다. 그리고, 개형 추정 처리부(153)의 처리는 스텝 S604에 돌아와, 처리를 반복한다.
스텝 S607에서, 개형 추정 처리부(153)는, 변화량이 임계값 이상이 된 위치의 직전의 값을 보 플랜지의 폭으로 하고, 점군을 검출한 위치로부터 변화량이 임계값 이상이 된 위치까지의 길이를 보 플랜지의 길이로서 설정한다.
스텝 S608에서, 개형 추정 처리부(153)는, 스텝 S607에서 설정한 보 플랜지의 길이가 임계값 이하인 경우, 당해 방향에 있어서의 보 플랜지는 없는 것으로서 설정한다. 즉, 보 플랜지의 개수의 설정을 행한다.
스텝 S609에서, 개형 추정 처리부(153)는, 모든 스캔 방향으로부터의 스캔이 완료했는지 여부를 판정한다. 모든 스캔 방향으로부터의 스캔이 완료하고 있지 않는 경우에는 미처리의 스캔 방향으로 전환하고, 스텝 S604 이후의 처리를 반복한다. 한편, 모든 스캔 방향으로부터의 스캔이 완료한 경우, 개형 추정 처리부(153)의 처리는 스텝 S610에 진행된다.
스텝 S610에서, 개형 추정 처리부(153)는, 각 보 플랜지의 중심선과, xy 평면 상에 있어서의 x축 또는 y축이 이루는 각을 계산한다.
스텝 S611에서, 개형 추정 처리부(153)는, 모든 회전 각도의 계산 처리가 완료했는지 여부를 판정한다. 모든 회전 각도의 계산 처리가 완료하고 있지 않는 경우에는, 다음의 각도로 회전시키고, 스텝 S602 이후의 처리를 반복한다. 한편, 모든 회전 각도의 계산 처리가 완료한 경우에는, 개형 추정 처리부(153)의 처리는 스텝 S612에 진행된다.
스텝 S612에서, 개형 추정 처리부(153)는, 워크(300)를 구성하는 각 보 플랜지의 중심선과 x축 또는 y축이 이루는 각의 평균이 최소로 되는 각도의 회전 위치를 워크의 설치 각도로 한다. 즉, xy 평면상에 있어서, x축 및 y축과, 각 보 플랜지가 평행한 위치 관계로 되도록, z축 주위의 점군 데이터의 회전각을 결정한다.
스텝 S613에서, 개형 추정 처리부(153)는, 점군 전체의 폭 및 길이와, 산출한 각 보 플랜지의 길이로부터, 워크(300)를 구성하는 다이어프램의 치수를 산출한다. 다이어프램의 치수의 산출은, 상기의 추정 조건에 근거하여 산출할 수 있다. 이것에 의해, 워크(300) 전체의 개형을 나타내는 1 또는 복수의 바운딩 박스를 생성할 수 있다. 예를 들면, 도 7의 형상을 갖는 워크(300)의 경우, 1개의 다이어프램 및 4개의 보 플랜지 각각에 대응한, 합계 5개의 바운딩 박스를 생성할 수 있다. 환언하면, 바운딩 박스의 파라미터에 의해, 워크(300)를 구성하는 각 부재의 개형이 특정된다. 그리고, 본 처리 플로우를 종료한다.
(바운딩 박스 최적화 처리)
도 9는, 본 실시형태에 따른 바운딩 박스 최적화 처리의 흐름도이며, 도 5의 스텝 S504의 공정에 대응한다.
스텝 S901에서, 바운딩 박스 최적화부(154)는, 도 5의 스텝 S503에 있어서의 개형 추정 처리에 의해 얻어진 각 바운딩 박스의 파라미터를 초기값으로서 설정한다. 즉, 개형 추정 처리에 의해 얻어진 파라미터를 기준으로 하고, 최적화 처리에 의해, 그 계측 정밀도를 향상시킨다.
스텝 S902에서, 바운딩 박스 최적화부(154)는, 평가 함수를 이용하여 평가값을 계산한다. 본 실시형태에서는, 평가 함수로서, 점군의 점수와 점군 밀도에 의한 가중치 부여된 선형합을 나타내는 이하의 식 (1)을 이용한다.
F(x)=WNN(x)+WDD(x) ··· (1)
WN, WD :가중치 계수
x: 최적화 파라미터
N(x):바운딩 박스 내에 존재하는 점수
D(x):바운딩 박스 내의 점군 밀도
최적화 파라미터 x는, 예를 들면, 바운딩 박스의 위치, 각도, 폭, 길이 등이 이용되어도 좋다. 보다 구체적으로는, 도 4에 나타내는 바와 같은 구성의 워크(300)의 예의 경우, 워크(300)의 z축 주위의 각도, 다이어프램의 중심 좌표, 보 플랜지의 폭, 길이, 오프셋 등이 최적화 파라미터로서 이용되어도 좋다.
스텝 S903에서, 바운딩 박스 최적화부(154)는, 스텝 S901에서 설정한 초기값과, 스텝 S902에서 산출한 평가값에 근거하여, 평가값의 변화량을 산출한다. 본 실시형태에서는, 초기값으로부터 각 최적화 파라미터를 소정 간격으로 변화시키면서, 평가값의 변화량을 산출한다.
스텝 S904에서, 바운딩 박스 최적화부(154)는, 스텝 S903에서 산출한 구배 벡터에 근거하여, 파라미터를 갱신한다. 여기에서는, 예를 들면, 공지의 최급강하법 등의 수법을 이용하여 파라미터를 갱신해도 좋다.
스텝 S905에서, 바운딩 박스 최적화부(154)는, 파라미터를 갱신한 결과, 그 변화량이 소정의 범위에서 수렴, 또는, 갱신 횟수가 소정의 임계값에 달했는지 여부를 판정한다. 소정의 범위에서 수렴, 또는, 갱신 횟수가 소정의 임계값에 도달한 경우(스텝 S905에서 YES), 본 처리 플로우를 종료한다. 그 이외의 경우는 (스텝 S905에서 NO), 바운딩 박스 최적화부(154)의 처리는 스텝 S902에 돌아와, 처리를 반복한다.
[처리 결과 설명]
도 10~도 12는, 본 실시형태에 따른 워크 계측 방법에 의한 계측 결과를 나타내는 도면이다. 여기에서는, 본 실시형태에 따른 워크 계측 방법과 비교하는 종래 방법으로서, 공지의 OBB(Oriented Bounding Box)에 의한 수법을 예로 들어 설명한다.
도 10은, 임의의 워크의 점군 데이터(1000)를 이용한 계측 결과로서의 바운딩 박스의 예를 나타낸다. 점군 데이터(1000)에는, 주변에 일정한 노이즈가 포함되어 있다. 바운딩 박스(1001)는 종래 방법에 의해 얻어진 계측 결과를 나타내고, 바운딩 박스(1002)는 본 실시형태에 따른 워크 계측 방법에 의해 얻어진 계측 결과를 나타낸다. 종래 방법에서는, 노이즈에 영향을 받은 결과, 실제의 워크를 나타내는 점군보다 큰 범위를 나타내고 있다. 한편, 본 실시형태에 따른 워크 계측 방법에서는, 보다 실제의 워크의 형상에 가까운 바운딩 박스(1002)가 얻어지고 있다.
도 11은, 임의의 워크의 점군 데이터(1100)를 이용한 측정 결과로서의 바운딩 박스의 예를 나타낸다. 점군 데이터(1100)에서는, 3차원 카메라에 의한 워크의 촬영이 정확하게 행해지지 않고, 일부에 결손(1101)이 생기고 있다. 바운딩 박스(1102)는 종래 방법에 의해 얻어진 계측 결과를 나타내고, 바운딩 박스(1103)는 본 실시형태에 따른 워크 계측 방법에 의해 얻어진 계측 결과를 나타낸다. 종래 방법에서는, 결손(1101)에 영향을 받은 결과, 주축을 정확하게 특정하지 못하고, 실제의 워크를 나타내는 점군에 대해 각도나 사이즈에 오차가 생기고 있다. 한편, 본 실시형태에 따른 워크 계측 방법에서는, 결손(1101)의 영향을 억제하고, 보다 실제의 워크의 각도나 사이즈에 가까운 바운딩 박스(1103)가 얻어지고 있다.
도 12는, 임의의 워크의 점군 데이터(1200)를 이용한 측정 결과로서의 바운딩 박스의 예를 나타낸다. 점군 데이터(1200)에서는, 워크의 2개소에 부속품이 구비되어 있고, 그 부속품에 대응하는 점군(1201)이 포함되어 있다. 바운딩 박스(1202)는 종래 방법에 의해 얻어진 계측 결과를 나타내고, 바운딩 박스(1203)는 본 실시형태에 따른 워크 계측 방법에 의해 얻어진 계측 결과를 나타낸다. 종래 방법에서는, 점군(1201)에 영향을 받은 결과, 실제의 워크를 나타내는 점군보다 큰 범위를 나타내고 있다. 한편, 본 실시형태에 따른 워크 계측 방법에서는, 소정의 사이즈보다 작은 점군(1201)은 제거하여 그 영향을 억제하고, 보다 실제의 워크의 형상에 가까운 바운딩 박스(1203)가 얻어지고 있다.
이상, 본 실시형태에 의해, 3차원 CAD 데이터 등의 사전 준비를 필요로 하지 않고, 워크의 형상이나 위치를 측정하는 것이 가능해진다. 또, 종래의 방법보다, 보다 정밀도 좋게 워크의 형상을 파악하는 것이 가능해진다.
<그 외의 실시형태>
상기의 실시형태에 나타낸 바와 같은 워크 계측 방법을, 용접 로봇을 포함하는 용접 시스템에 적용하는 것이 가능하다. 이것에 의해, 예를 들면, 바운딩 박스의 정보에 근거하여, 대상 워크에 따라 자동적으로 용접선을 추출하는 것이 가능해진다.
또, 상기의 실시형태에서는, 워크의 위쪽으로부터의 시점에 근거하여 형상을 측정한 예를 나타냈지만, 이것을 여러 방향으로부터 계측하는 것과 같은 구성이어도 좋다. 이것에 의해, 사각지대 등의 영향을 억제하고, 보다 정밀도 좋게 계측이 가능해진다.
본 실시형태는, 상술한 1 이상의 실시형태의 기능을 실현하기 위한 프로그램이나 어플리케이션을, 네트워크 또는 기억 매체 등을 이용하여 시스템 또는 장치에 공급하고, 그 시스템 또는 장치의 컴퓨터에 있어서의 1개 이상의 프로세서가 프로그램을 판독하고 실행하는 처리에서도 실현 가능하다.
또, 본 실시형태는, 1 이상의 기능을 실현하는 회로에 의해 실현되어도 좋다. 또, 1 이상의 기능을 실현하는 회로로서는, 예를 들면, ASIC(Application Specific Integrated Circuit)나 FPGA(Field Programmable Gate Array)를 들 수 있다.
이상과 같이, 본 명세서에는 다음의 사항이 개시되어 있다.
(1) 복수의 부재로 구성되는 워크의 형상 및 위치의 계측을 행하는 워크 계측 방법으로서,
상기 워크의 3차원의 점군 데이터를 취득하는 취득 스텝과,
계측 대상의 워크의 형상에 대응하여 규정된 조건 및 상기 점군 데이터를 이용하여, 상기 복수의 부재에 대응하는 개형을 나타내는 1 또는 복수의 경계 범위를 추정하는 개형 추정 스텝과,
상기 개형 추정 스텝에서 추정된 상기 1 또는 복수의 경계 범위를 평가 함수에 의한 파라미터의 조정에 의해 최적화하고, 상기 복수의 부재의 형상을 특정하는 최적화 스텝
을 갖는 워크 계측 방법.
이 구성에 의하면, 3차원 CAD 데이터 등의 사전 준비를 필요로 하지 않고, 워크의 형상이나 위치를 측정하는 것이 가능해진다.
(2) 상기 조건은, 상기 워크에 대응하는 경계 범위의 형상, 사이즈, 개수, 및 제약 중 어느 하나를 포함하는, (1)에 기재된 워크 계측 방법.
이 구성에 의하면, 워크에 대응하는 조건으로서, 형상, 사이즈, 개수, 및 제약 중 어느 하나에 근거하여, 당해 워크의 바운딩 박스를 추정하는 것이 가능해진다.
(3) 상기 평가 함수는, 상기 경계 범위에 포함되는 점군의 점수와 점군 밀도에 의한 가중치 부여된 선형합인, (1) 또는 (2)에 기재된 워크 계측 방법.
이 구성에 의하면, 바운딩 박스 내의 점군의 점수와 점군 밀도에 의한 가중치 부여된 선형합에 근거하여, 바운딩 박스를 최적화하는 것이 가능해진다.
(4) 상기 최적화 스텝에 있어서, 상기 경계 범위의 치수, 위치, 각도 중 적어도 하나의 파라미터를 최적화하는, (1) 내지 (3) 중 어느 하나에 기재된 워크 계측 방법.
이 구성에 의하면, 바운딩 박스의 치수, 위치, 각도 중 적어도 하나의 최적화를 행하는 것이 가능해진다.
(5) 상기 개형 추정 스텝에 있어서, 상기 점군 데이터를 복수의 방향으로부터 주사하는 것에 의해, 상기 경계 범위를 추정하는, (1) 내지 (4) 중 어느 하나에 기재된 워크 계측 방법.
이 구성에 의하면, 보다 정밀도 좋게, 워크의 개형을 추정하는 것이 가능해진다.
(6) 상기 개형 추정 스텝에 있어서, 상기 점군 데이터를 2차원 평면에 투영하여 개형을 추정하는, (1) 내지 (5) 중 어느 하나에 기재된 워크 계측 방법.
이 구성에 의하면, 점군 데이터를 2차원 평면에 투영한 소망의 방향으로부터의 형상을 정밀도 좋게 추정하는 것이 가능해진다.
(7) 상기 복수의 부재에 대응하는, 상기 2차원 평면에 직교하는 축 방향의 위치를 도출하는 도출 스텝을 더 갖는, (6)에 기재된 워크 계측 방법.
이 구성에 의하면, 워크를 구성하는 각 부재에 있어서의, 2차원 평면에 대한 높이 방향의 정보를 더 도출하는 것이 가능해진다.
(8) 상기 경계 범위는, 직선 또는 곡선을 포함하여 구성되는, (1) 내지 (7) 중 어느 하나에 기재된 워크 계측 방법.
이 구성에 의하면, 임의의 형상의 바운딩 박스를 이용하여 워크의 형상을 특정하는 것이 가능해진다.
(9) 상기 경계 범위는, 2차원 또는 3차원으로 표시되는, (1) 내지 (8) 중 어느 하나에 기재된 워크 계측 방법.
이 구성에 의하면, 2차원 또는 3차원의 바운딩 박스를 이용하여 워크의 형상을 특정하는 것이 가능해진다.
(10) 상기 워크에 대한 터치 센싱의 측정 결과를 이용하여, 상기 최적화 스텝에서 최적화된 상기 1 또는 복수의 경계 범위를 보정하는 보정 스텝을 더 갖는, (1) 내지 (9) 중 어느 하나에 기재된 워크 계측 방법.
이 구성에 의하면, 터치 센싱의 결과를 이용하여, 측정 정밀도를 더 향상시키는 것이 가능해진다.
(11) 복수의 부재로 구성되는 워크의 형상 및 위치의 계측을 행하는 워크 계측 시스템으로서,
상기 워크의 3차원의 점군 데이터를 취득하는 취득 수단과,
계측 대상의 워크의 형상에 대응하여 규정된 조건 및 상기 점군 데이터를 이용하여, 상기 복수의 부재에 대응하는 개형을 나타내는 1 또는 복수의 경계 범위를 추정하는 개형 추정 수단과,
상기 개형 추정 수단에서 추정된 상기 1 또는 복수의 경계 범위를 평가 함수에 의한 파라미터의 조정에 의해 최적화하고, 상기 복수의 부재의 형상을 특정하는 최적화 수단
을 갖는 워크 계측 시스템.
이 구성에 의하면, 3차원 CAD 데이터 등의 사전 준비를 필요로 하지 않고, 워크의 형상이나 위치를 측정하는 것이 가능해진다.
(12) 컴퓨터로 하여금,
복수의 부재로 구성되는 워크의 3차원의 점군 데이터를 취득하는 취득 스텝과,
계측 대상의 워크의 형상에 대응하여 규정된 조건 및 상기 점군 데이터를 이용하여, 상기 복수의 부재에 대응하는 개형을 나타내는 1 또는 복수의 경계 범위를 추정하는 개형 추정 스텝과,
상기 개형 추정 스텝에서 추정된 상기 1 또는 복수의 경계 범위를 평가 함수에 의한 파라미터의 조정에 의해 최적화하고, 상기 복수의 부재의 형상을 특정하는 최적화 스텝
을 실행하게 하기 위한 프로그램.
이 구성에 의하면, 3차원 CAD 데이터 등의 사전 준비를 필요로 하지 않고, 워크의 형상이나 위치를 측정하는 것이 가능해진다.
1 : 워크 계측 시스템
100 : 정보 처리 장치
101 : 제어부
102 : 기억부
103 : 통신부
104 : UI부
151 : 점군 데이터 취득부
152 : 전처리부
153 : 개형 추정 처리부
154 : 바운딩 박스 최적화부
155 : 보충 정보 도출부
156 : 보정 처리부
157 : 센싱 정보 취득부
158 : 데이터 관리부
200 : 3차원 카메라
300 : 워크
400 : 용접 시스템

Claims (12)

  1. 복수의 부재로 구성되는 워크의 형상 및 위치의 계측을 행하는 워크 계측 방법으로서,
    상기 워크의 3차원의 점군 데이터를 취득하는 취득 스텝과,
    계측 대상의 워크의 형상에 대응하여 규정된 조건 및 상기 점군 데이터를 이용하여, 상기 복수의 부재에 대응하는 개형(槪形)을 나타내는 1 또는 복수의 경계 범위를 추정하는 개형 추정 스텝과,
    상기 개형 추정 스텝에서 추정된 상기 1 또는 복수의 경계 범위를 평가 함수에 의한 파라미터의 조정에 의해 최적화하고, 상기 복수의 부재의 형상을 특정하는 최적화 스텝
    을 갖는 워크 계측 방법.
  2. 제 1 항에 있어서,
    상기 조건은, 상기 워크에 대응하는 경계 범위의 형상, 사이즈, 개수, 및 제약 중 어느 하나를 포함하는 워크 계측 방법.
  3. 제 1 항 또는 제 2 항에 있어서,
    상기 평가 함수는, 상기 경계 범위에 포함되는 점군의 점수와 점군 밀도에 의한 가중치 부여된 선형합인 워크 계측 방법.
  4. 제 1 항 또는 제 2 항에 있어서,
    상기 최적화 스텝에 있어서, 상기 경계 범위의 치수, 위치, 각도 중 적어도 하나의 파라미터를 최적화하는 워크 계측 방법.
  5. 제 1 항 또는 제 2 항에 있어서,
    상기 개형 추정 스텝에 있어서, 상기 점군 데이터를 복수의 방향으로부터 주사하는 것에 의해, 상기 경계 범위를 추정하는 워크 계측 방법.
  6. 제 1 항 또는 제 2 항에 있어서,
    상기 개형 추정 스텝에 있어서, 상기 점군 데이터를 2차원 평면에 투영하여 개형을 추정하는 워크 계측 방법.
  7. 제 6 항에 있어서,
    상기 복수의 부재에 대응하는, 상기 2차원 평면에 직교하는 축 방향의 위치를 도출하는 도출 스텝을 더 갖는 워크 계측 방법.
  8. 제 1 항 또는 제 2 항에 있어서,
    상기 경계 범위는, 직선 또는 곡선을 포함하여 구성되는 워크 계측 방법.
  9. 제 1 항 또는 제 2 항에 있어서,
    상기 경계 범위는, 2차원 또는 3차원으로 표시되는 워크 계측 방법.
  10. 제 1 항 또는 제 2 항에 있어서,
    상기 워크에 대한 터치 센싱의 측정 결과를 이용하여, 상기 최적화 스텝에서 최적화된 상기 1 또는 복수의 경계 범위를 보정하는 보정 스텝을 더 갖는 워크 계측 방법.
  11. 복수의 부재로 구성되는 워크의 형상 및 위치의 계측을 행하는 워크 계측 시스템으로서,
    상기 워크의 3차원의 점군 데이터를 취득하는 취득 수단과,
    계측 대상의 워크의 형상에 대응하여 규정된 조건 및 상기 점군 데이터를 이용하여, 상기 복수의 부재에 대응하는 개형을 나타내는 1 또는 복수의 경계 범위를 추정하는 개형 추정 수단과,
    상기 개형 추정 수단에서 추정된 상기 1 또는 복수의 경계 범위를 평가 함수에 의한 파라미터의 조정에 의해 최적화하고, 상기 복수의 부재의 형상을 특정하는 최적화 수단
    을 갖는 워크 계측 시스템.
  12. 컴퓨터로 하여금,
    복수의 부재로 구성되는 워크의 3차원의 점군 데이터를 취득하는 취득 스텝과,
    계측 대상의 워크의 형상에 대응하여 규정된 조건 및 상기 점군 데이터를 이용하여, 상기 복수의 부재에 대응하는 개형을 나타내는 1 또는 복수의 경계 범위를 추정하는 개형 추정 스텝과,
    상기 개형 추정 스텝에서 추정된 상기 1 또는 복수의 경계 범위를 평가 함수에 의한 파라미터의 조정에 의해 최적화하고, 상기 복수의 부재의 형상을 특정하는 최적화 스텝
    을 실행시키기 위한 프로그램.
KR1020230021248A 2022-02-24 2023-02-17 워크 계측 방법, 워크 계측 시스템, 및 프로그램 KR20230127157A (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022026733A JP2023122951A (ja) 2022-02-24 2022-02-24 ワーク計測方法、ワーク計測システム、およびプログラム
JPJP-P-2022-026733 2022-02-24

Publications (1)

Publication Number Publication Date
KR20230127157A true KR20230127157A (ko) 2023-08-31

Family

ID=87574621

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020230021248A KR20230127157A (ko) 2022-02-24 2023-02-17 워크 계측 방법, 워크 계측 시스템, 및 프로그램

Country Status (4)

Country Link
US (1) US20230267593A1 (ko)
JP (1) JP2023122951A (ko)
KR (1) KR20230127157A (ko)
CN (1) CN116642414A (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117218123B (zh) * 2023-11-09 2024-02-02 上海擎刚智能科技有限公司 一种基于点云的冷轧带钢飞丝设备故障检测方法及系统
CN117473345B (zh) * 2023-12-27 2024-03-22 山东顺发重工有限公司 基于数据分析的法兰锻造缺陷检测方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018156566A (ja) 2017-03-21 2018-10-04 株式会社神戸製鋼所 溶接パス特定方法、プログラム、教示プログラム及び溶接ロボットシステム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018156566A (ja) 2017-03-21 2018-10-04 株式会社神戸製鋼所 溶接パス特定方法、プログラム、教示プログラム及び溶接ロボットシステム

Also Published As

Publication number Publication date
US20230267593A1 (en) 2023-08-24
CN116642414A (zh) 2023-08-25
JP2023122951A (ja) 2023-09-05

Similar Documents

Publication Publication Date Title
US12001191B2 (en) Automated 360-degree dense point object inspection
KR20230127157A (ko) 워크 계측 방법, 워크 계측 시스템, 및 프로그램
US10288418B2 (en) Information processing apparatus, information processing method, and storage medium
JP6363863B2 (ja) 情報処理装置および情報処理方法
US9488469B1 (en) System and method for high-accuracy measurement of object surface displacement using a laser displacement sensor
US10452949B2 (en) System and method for scoring clutter for use in 3D point cloud matching in a vision system
WO2020223594A2 (en) Automated 360-degree dense point object inspection
JP6092530B2 (ja) 画像処理装置、画像処理方法
JP6632208B2 (ja) 情報処理装置、情報処理方法、プログラム
JP2014063475A (ja) 情報処理装置、情報処理方法、及びコンピュータプログラム
CN112634376B (zh) 标定方法及装置、标定设备和存储介质
CN106441234B (zh) 一种3d机器视觉空间检测标定方法
JP2002202122A (ja) 2次元距離画像センサのキャリブレーション方法
CN110415286A (zh) 一种多飞行时间深度相机系统的外参标定方法
CN117496467A (zh) 基于单目相机和3d lidar融合的异形车道线检测方法
CN116560062B (zh) 显微镜对焦防碰撞控制方法
KR102023087B1 (ko) 카메라 캘리브레이션 방법
CN112525106B (zh) 基于三相机协同激光的3d探测方法及装置
CN116160458B (zh) 一种移动机器人多传感器融合快速定位方法、设备及系统
US12094227B2 (en) Object recognition device and object recognition method
CN115100287B (zh) 外参标定方法及机器人
CN115409897A (zh) 基于背景点云精细化处理的激光雷达与相机联合标定方法
JP2022166662A (ja) ワークの基準座標を設定する方法および工作機械
JP2006065472A (ja) 3次元モデル生成装置および方法
US20220415031A1 (en) Information processing device and information processing method