KR20170101754A - Apparatus for motion estimation of object using gripper and method thereof - Google Patents

Apparatus for motion estimation of object using gripper and method thereof Download PDF

Info

Publication number
KR20170101754A
KR20170101754A KR1020160092581A KR20160092581A KR20170101754A KR 20170101754 A KR20170101754 A KR 20170101754A KR 1020160092581 A KR1020160092581 A KR 1020160092581A KR 20160092581 A KR20160092581 A KR 20160092581A KR 20170101754 A KR20170101754 A KR 20170101754A
Authority
KR
South Korea
Prior art keywords
camera
coordinate system
coordinate
coordinate value
gripper
Prior art date
Application number
KR1020160092581A
Other languages
Korean (ko)
Other versions
KR101820241B1 (en
Inventor
하철근
티 창 찬
Original Assignee
울산대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 울산대학교 산학협력단 filed Critical 울산대학교 산학협력단
Publication of KR20170101754A publication Critical patent/KR20170101754A/en
Application granted granted Critical
Publication of KR101820241B1 publication Critical patent/KR101820241B1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1612Programme controls characterised by the hand, wrist, grip control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • B25J19/021Optical sensing devices
    • B25J19/022Optical sensing devices using lasers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • B25J19/021Optical sensing devices
    • B25J19/023Optical sensing devices including video camera means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/1633Programme controls characterised by the control loop compliant, force, torque control, e.g. combined with position control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

The present invention relates to an apparatus to estimate motions of an object using a gripper, and a method thereof. According to the present invention, the apparatus to estimate motions of the object using the gripper comprises: an image collection unit which collects an image which films the object gripped by the gripper, and a beam outputted by a laser sensor using a camera; a coordinate value setting unit which estimates an outline of the object using the collected image to extract a plurality of corner points for the estimated outline and a plurality of intersecting points where the outline and the beam intersect, and to set a coordinate value of each of the extracted plurality of corner points and the plurality of intersecting points using a defined camera coordinate system, an image coordinate system on a camera film, and an object coordinate system with a corner of the object as a reference; a calculation unit which calculates a relative position between the camera and the object using the camera coordinate system and the object coordinate system to calculate a coordinate value of the object using a set coordinate value; and a motion estimation unit which traces a presence or an absence of a change in the coordinate value of the object in each frame of the image in accordance with changes in the gripping force to estimate that the object has moved when a change in the coordinate value is detected. According to the present invention, the present invention is able to prevent the object gripped by the gripper from slipping.

Description

그리퍼를 이용한 물체의 움직임 추정 장치 및 그 방법{APPARATUS FOR MOTION ESTIMATION OF OBJECT USING GRIPPER AND METHOD THEREOF}[0001] APPARATUS FOR MOTION ESTIMATION OF OBJECT USING GRIPPER AND METHOD THEREOF [0002]

본 발명은 그리퍼를 이용한 물체의 움직임 추정 장치 및 그 방법에 관한 것으로서, 더욱 상세하게는 센서를 이용하여 그리퍼에 파지된 물체의 미끄러짐이 발생하기 직전을 캐치하는 그리퍼를 이용한 물체의 움직임 추정 장치 및 그 방법에 관한 것이다.The present invention relates to an apparatus and method for estimating a motion of an object using a gripper, and more particularly to an apparatus and method for estimating motion of an object using a gripper that catches a slip of an object gripped by a gripper using a sensor ≪ / RTI >

산업발전과 더불어 임금 상승과 노동시간의 단축을 요구하는 분위기에 따라 현장에 로봇을 적용한 자동화 시스템이 확산되는 추세이다. 이러한 로봇은 크게 제조 로봇과 비제조 로봇으로 분류할 수 있으며, 용접 로봇, 자동차 조립 로봇 등이 제조 로봇은 속하고, 농업, 어업, 건설용 로봇 비제조 로봇은 등이 속하는 것으로 분류할 수 있다. 이와 같이 분류된 로봇에서 빠질 수 없는 핵심 기술 및 부품이 그리퍼(GRIPPER)이다.In addition to industrial development, automation systems using robots on the spot are spreading due to the demand for increased wages and shorter working hours. These robots can be roughly divided into manufacturing robots and non-manufacturing robots, and manufacturing robots such as welding robots and automobile assembly robots belong to the same category. Agriculture robots, fisheries robots, and construction robot robots can be categorized as robots. The key technology and parts that can not be excluded from such robots are grippers.

여기서, 그리퍼(GRIPPER)는 물체를 잡기 위해 메커니즘에 의해 구동되는 기계적 집게를 이용한 말단장치를 지칭한다. 이러한 그리퍼는 제조 로봇 분야에서 가장 활발하고 다양하게 사용되고 있으며, 그리퍼의 능력치가 제조 로봇의 스펙을 결정한다고 해도 과언이 아니다.Here, the gripper GRIPPER refers to an end device using a mechanical tongue driven by a mechanism to catch an object. These grippers are the most active and diverse in the field of manufacturing robots, and it is no exaggeration to say that the ability of the gripper determines the specification of the manufacturing robot.

일반적으로 그리퍼의 집게는 실제로 대상 물체에 접촉하는 그리퍼의 부속물로 그리퍼에 부착할 수 있는 형태와 그리퍼와 통합된 모듈 형태가 있다.In general, the gripper's gripper is an attachment to the gripper that actually touches the object, a form that can be attached to the gripper, and a modular form integrated with the gripper.

이러한 그리퍼의 기능은 다양한 형태로 입력되는 전기적 에너지를 물체를 잡을 수 있는 운동을 할 수 있도록 변환하는 것이다. 따라서 그리퍼는 집게를 열고 닫는 기능이 있어야 하고, 잡고 있는 물체가 떨어지지 않고 유지될 만큼의 충분한 힘이 있어야 한다.The function of these grippers is to convert the electrical energy input in various forms into a motion capable of catching objects. Therefore, the gripper must have the ability to open and close the gripper and have enough force to hold the gripper without falling.

그리퍼를 이용하여 물체를 잡고 유지하는 방법은 크게 두 가지로 나뉜다. 첫 번째 방법은 집게 사이에 물체를 위치시키는 물리적인 제약조건을 이용하는 것이다. 이와 같은 방법은 집게가 어느 정도까지 작업 대상 물체를 둘러싸야 하며 이것은 일반적으로 집게의 접촉표면의 작업 대상 부품의 기하학적인 형상에 따라 설계되어야 가능해진다.There are two main methods of holding and holding an object using a gripper. The first is to use physical constraints to place the object between the pliers. Such a method requires the forceps to surround the workpiece to some extent, which generally can be designed according to the geometric shape of the workpiece part of the contact surface of the forceps.

두 번째 방법은 집게와 작업 대상 물체 사이의 마찰력을 이용하는 것이다. 이와 같은 접근 방법은 작업주기 동안 그리퍼가 물체를 잡고 있을 때에 발생할 수 있는 중력, 가속력 등과 같은 외압에도 강인하게 물체를 잡고 유지할 수 있는 충분한 힘을 집게에 공급해야 한다.The second method is to use the friction force between the gripper and the workpiece. Such an approach would have to supply the forceps with enough force to hold the object firmly against external pressure, such as gravity, acceleration, etc., that can occur when the gripper is holding the object during a work cycle.

이와 같은 그리퍼는 작업하고자 하는 특정 대상 물체를 찾아 인식하고 이를 적당한 파지력으로 파지하되, 물체의 소성 변형을 발생시키지 않는 파지력의 범위 내에서 파지해야 하기 때문에 그리퍼에 파지된 물체의 미끄러짐을 추정하여 작업주기 동안 안정적으로 적당한 파지력을 유지할 수 있도록 해주는 장치의 개발이 필요하다.Such a gripper is required to grasp a specific object to be worked and grasp it with a proper grasping force and grasp it within a grasping force range that does not cause plastic deformation of the object. Therefore, the slip of the object gripped by the gripper is estimated, It is necessary to develop a device that can stably maintain proper gripping force during a period of time.

본 발명의 배경이 되는 기술은 대한민국 등록특허공보 제10-1294250호(2013. 08. 07. 공고)에 개시되어 있다.BACKGROUND ART [0002] The technology that provides the background of the present invention is disclosed in Korean Patent Registration No. 10-1294250 (published on Mar. 08, 2007).

본 발명이 이루고자 하는 기술적 과제는 센서를 이용하여 그리퍼에 파지된 물체의 미끄러짐이 발생하기 직전을 캐치하는 그리퍼를 이용한 물체의 움직임 추정 장치 및 그 방법을 제공하기 위한 것이다.An object of the present invention is to provide an apparatus and method for estimating a motion of an object using a gripper that catches a slip of an object gripped by a gripper using a sensor.

이러한 기술적 과제를 이루기 위한 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치는, 설정 위치에 고정된 카메라를 이용하여 설정 위치에 고정된 그리퍼에 의해 파지된 물체와 설정 위치에 고정된 레이저 센서에서 출력되는 광선이 포함되어 촬영된 이미지를 수집하는 이미지수집부; 상기 수집된 이미지를 이용하여 상기 물체의 윤곽선을 추정하고 상기 추정된 윤곽선에 대한 다수의 모서리점과 상기 윤곽선과 상기 광선이 교차되는 다수의 교차점을 추출하고, 기 정의된 카메라 좌표계, 카메라 필름상 이미지 좌표계 및 상기 물체의 어느 하나의 모서리를 기준으로 하는 물체 좌표계를 이용하여 상기 추출된 다수의 모서리점 및 다수의 교차점에 대한 각각의 좌표 값을 설정하는 좌표 값 설정부; 상기 카메라 좌표계와 상기 물체 좌표계를 이용하여 상기 카메라와 상기 물체 사이의 상대적 위치를 연산하고, 상기 설정된 좌표 값을 이용하여 상기 물체의 좌표 값을 연산하는 연산부; 및 상기 파지력의 변화에 따른 상기 이미지의 프레임별 상기 물체의 좌표 값 변화 여부를 추적하여, 상기 좌표 값의 변화가 감지되면 상기 물체의 움직임이 발생한 것으로 추정하는 움직임 추정부를 포함한다.According to an aspect of the present invention, there is provided an apparatus for estimating a motion of an object using a gripper, the apparatus including a gripper fixed to a set position using a camera fixed at a set position, An image collecting unit that collects photographed images including light rays output from the sensor; Estimating an outline of the object using the collected image, extracting a plurality of corner points of the estimated outline and a plurality of intersections where the outline intersects with the ray, A coordinate value setting unit for setting coordinate values of the extracted corner points and the intersection points using an object coordinate system based on a coordinate system and an edge of any one of the objects; An arithmetic unit for calculating a relative position between the camera and the object using the camera coordinate system and the object coordinate system and calculating coordinate values of the object using the set coordinate value; And a motion estimator for tracking whether a coordinate value of the object changes according to a frame of the image according to the change of the gripping force and estimating that motion of the object occurs when a change of the coordinate value is detected.

또한, 상기 좌표 값의 변화가 감지되기 직전의 이미지 프레임에 대응하는 파지력을 상기 물체에 대한 적정 파지력으로 선정하는 파지력 선정부; 및 상기 선정된 적정 파지력으로 상기 그리퍼를 제어하는 파지력 제어부를 더 포함할 수 있다.A gripping force selecting unit for selecting a gripping force corresponding to an image frame immediately before the change in the coordinate value is sensed as an appropriate gripping force for the object; And a gripping force control unit for controlling the gripper based on the predetermined appropriate gripping force.

또한, 상기 연산부는, 다음의 식에 의해 상기 물체의 좌표 값을 연산할 수 있다.Further, the operation unit can calculate the coordinate value of the object by the following expression.

Figure pat00001
Figure pat00001

여기서,

Figure pat00002
는 상기 카메라 좌표계 시점의 상기 물체의 좌표이고,
Figure pat00003
은 상기 카메라 좌표계 시점의 상기 물체의 각 모서리점 및 교차점의 좌표 값이며,
Figure pat00004
은 상기 물체 좌표계에서의 각 모서리점 및 교차점의 좌표 값이다.here,
Figure pat00002
Is the coordinate of the object at the viewpoint of the camera coordinate system,
Figure pat00003
Is a coordinate value of each corner point and an intersection point of the object at the viewpoint of the camera coordinate system,
Figure pat00004
Is a coordinate value of each corner point and an intersection point in the object coordinate system.

또한, 상기 움직임 추정부는, 다음의 식에 의해 상기 카메라 좌표계의 중심점 좌표를 산출하고, 산출된 상기 카메라 좌표계의 중심점 좌표를 이용하여 상기 물체의 움직임을 추정할 수 있다.The motion estimating unit may calculate the center point coordinates of the camera coordinate system using the following equation and estimate the motion of the object using the calculated center point coordinates of the camera coordinate system.

Figure pat00005
,
Figure pat00005
,

Figure pat00006
Figure pat00006

여기서,

Figure pat00007
는 상기 카메라 좌표계의 중심점 좌표이고,
Figure pat00008
는 i에 대한 상기 카메라 X, Y, Z축 성분 값 좌표 값이고, 상기 i는 상기 물체의 각 모서리점에 대한 인덱스이고,
Figure pat00009
은 상기 카메라에서 본 상기 물체의 슬립이고, K는 현재 이미지의 프레임이며, K-1은 이전의 이미지 프레임이다.here,
Figure pat00007
Is the center point coordinate of the camera coordinate system,
Figure pat00008
Is the coordinate value of the camera X, Y, Z axis component values for i, i is an index for each corner point of the object,
Figure pat00009
K is the current image frame, and K-1 is the previous image frame.

또한, 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치에 의해 수행되는 물체의 움직임 추정 방법은, 상기 움직임 추정 장치는 설정 위치에 고정된 카메라를 이용하여 설정 위치에 고정된 그리퍼에 의해 파지된 물체와 설정 위치에 고정된 레이저 센서에서 출력되는 광선이 포함되어 촬영된 이미지를 수집하는 단계; 상기 수집된 이미지를 이용하여 상기 물체의 윤곽선을 추정하고 상기 추정된 윤곽선에 대한 다수의 모서리점과 상기 윤곽선과 상기 광선이 교차되는 다수의 교차점을 추출하는 단계; 기 정의된 카메라 좌표계, 카메라 필름상 이미지 좌표계, 및 상기 물체의 어느 하나의 모서리를 기준으로 하는 물체 좌표계를 이용하여 상기 추출된 다수의 모서리점 및 다수의 교차점에 대한 각각의 좌표 값을 설정하는 단계; 상기 카메라 좌표계와 상기 물체 좌표계를 이용하여 상기 카메라와 상기 물체 사이의 상대적 위치를 연산하고, 상기 설정된 좌표 값을 이용하여 상기 물체의 좌표 값을 연산하는 단계; 및 상기 파지력의 변화에 따른 상기 이미지의 프레임별 상기 물체의 좌표 값 변화 여부를 추적하여, 상기 좌표 값의 변화가 감지되면 상기 물체의 움직임이 발생한 것으로 추정하는 단계를 포함한다.According to another aspect of the present invention, there is provided a method of estimating motion of an object performed by an apparatus for estimating motion of an object using a gripper, the motion estimation apparatus comprising a gripper fixed at a setting position using a camera fixed at a setting position Collecting a photographed image including a light beam output from a laser sensor fixed at a set position and a held object; Estimating an outline of the object using the collected image, extracting a plurality of corner points for the estimated outline and a plurality of intersections where the outline and the ray intersect; Setting respective coordinate values for the extracted corner points and a plurality of intersection points using a predefined camera coordinate system, a camera film image coordinate system, and an object coordinate system based on one of the corners of the object ; Calculating a relative position between the camera and the object using the camera coordinate system and the object coordinate system, and calculating a coordinate value of the object using the set coordinate value; And tracking whether the coordinate value of the object changes according to the frame of the image according to the change of the gripping force and estimating that the movement of the object occurs when a change in the coordinate value is detected.

이와 같이 본 발명에 따르면, 비전 카메라와 레이저 센서를 이용하여 그리퍼에 파지되어 있는 물체의 미끄러짐이 발생하기 직전을 캐치하여 연산된 파지력으로 그리퍼의 파지력을 제어함으로써 그리퍼에 파지된 물체의 미끄러짐(슬립)을 방지할 수 있는 효과가 있다.As described above, according to the present invention, by using a vision camera and a laser sensor, it is possible to control the gripping force of the gripper with the gripping force calculated by catching the object immediately before the slipping of the gripped object occurs, Can be prevented.

또한, 본 발명에 따르면 그리퍼에 파지되는 물체가 변경되는 경우에도 미끄러짐이 발생하는 범위를 추정하고, 미끄러짐이 발생하기 직전의 파지력을 신속하게 연산 제어함으로써 작업 효율을 개선시킬수 있는 효과가 있다.Further, according to the present invention, there is an effect of estimating a range in which slippage occurs even when an object gripped by the gripper is changed, and improving the working efficiency by quickly calculating and controlling the gripping force just before slippage occurs.

도 1은 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치를 나타낸 블록구성도이다.
도 2는 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치에서 수집된 이미지를 이용하여 다수의 모서리점 및 다수의 교차점을 추출하는 과정을 나타낸 도면이다.
도 3은 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치에서 카메라 및 레이저 센서를 이용하여 측정한 물체의 위치 및 좌표 값을 나타낸 도면이다.
도 4는 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 방법의 동작 흐름을 도시한 순서도이다.
1 is a block diagram illustrating an apparatus for estimating a motion of an object using a gripper according to an embodiment of the present invention.
FIG. 2 is a diagram illustrating a process of extracting a plurality of corner points and a plurality of intersection points using an image collected by an object motion estimation apparatus using a gripper according to an embodiment of the present invention.
FIG. 3 is a diagram showing positions and coordinate values of an object measured by a camera and a laser sensor in an apparatus for estimating motion of an object using a gripper according to an embodiment of the present invention.
FIG. 4 is a flowchart illustrating an operation of a method of estimating a motion of an object using a gripper according to an embodiment of the present invention.

이하 첨부된 도면을 참조하여 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치 및 그 방법을 설명한다. 이 과정에서 도면에 도시된 선들의 두께나 구성요소의 크기 등은 설명의 명료성과 편의상 과장되게 도시되어 있을 수 있다. Hereinafter, an apparatus and method for estimating a motion of an object using a gripper according to an embodiment of the present invention will be described with reference to the accompanying drawings. In this process, the thicknesses of the lines and the sizes of the components shown in the drawings may be exaggerated for clarity and convenience of explanation.

또한 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서, 이는 사용자, 운용자의 의도 또는 관례에 따라 달라질 수 있다. 그러므로 이러한 용어들에 대한 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.Further, the terms described below are defined in consideration of the functions of the present invention, which may vary depending on the intention or custom of the user, the operator. Therefore, definitions of these terms should be made based on the contents throughout this specification.

먼저, 도 1을 통해 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치에 대하여 설명한다.First, an apparatus for estimating a motion of an object using a gripper according to an embodiment of the present invention will be described with reference to FIG.

도 1은 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치를 나타낸 블록구성도이다.1 is a block diagram illustrating an apparatus for estimating a motion of an object using a gripper according to an embodiment of the present invention.

도 1에서와 같이 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치(100)는 이미지 수집부(110), 좌표 값 설정부(120), 연산부(130), 움직임 추정부(140), 파지력 선정부(150) 및 파지력 제어부(160)를 포함한다.1, an apparatus 100 for estimating a motion of an object using a gripper according to an embodiment of the present invention includes an image collecting unit 110, a coordinate value setting unit 120, a calculating unit 130, a motion estimating unit 140, A gripping force selecting unit 150 and a gripping force controlling unit 160. [

먼저, 이미지 수집부(110)는 카메라(200)를 이용하여 그리퍼(400)에 의해 파지된 물체와 레이저 센서(300)에서 출력되는 광선이 포함되어 촬영된 이미지를 수집한다.First, the image collecting unit 110 collects images photographed by an object held by the gripper 400 and light beams output from the laser sensor 300 using the camera 200.

이때, 카메라(200)는 고정된 위치에서 그리퍼(400)에 파지된 물체를 촬영하며, 상세히는 그리퍼(400)의 파지력에 따라 물체의 움직임 즉, 미끄러짐 여부를 판단하기 위한 것으로 CCD 카메라가 적용될 수 있다.In this case, the camera 200 photographs an object held by the gripper 400 at a fixed position, more specifically, a CCD camera is used for determining whether the object moves or slides according to the gripping force of the gripper 400 have.

또한, 레이저 센서(300)는 고정된 위치에서 물체와의 거리를 측정하기 위한 것으로 광선을 출력하는 라인 레이저 센서(300)가 적용될 수 있다.In addition, the laser sensor 300 may be a line laser sensor 300 for measuring the distance to an object at a fixed position and outputting a light beam.

마지막으로 그리퍼(400)는 고정된 위치에서 물체를 파지하기 위한 집게(410)가 구비되며, 물체가 파지된 상태를 벗어나지 않는 동시에 외관의 변형없이 파지될 수 있는 최적의 파지력 범위를 연산하여 연산된 파지력 범위에 따라 집게(410)가 벌어지거나 오므려지도록 구동 제어할 수 있다.Finally, the gripper 400 is provided with a gripper 410 for gripping an object at a fixed position. The gripper 400 calculates an optimal gripping force range that can be held without deformation of the external appearance, It is possible to perform drive control such that the tongue 410 is opened or closed according to the gripping force range.

그리고 좌표 값 설정부(120)는 이미지 수집부(110)로부터 수집된 이미지를 이용하여 물체의 윤곽선을 추정하고 추정된 윤곽선에 대한 다수의 모서리점과, 윤곽선과 광선이 교차되는 다수의 교차점을 추출하고, 기 정의된 카메라 좌표계, 카메라 필름상 이미지 좌표계 및 물체의 어느 하나의 모서리를 기준으로 하는 물체 좌표계를 이용하여 추출된 다수의 모서리점 및 다수의 교차점에 대한 각각의 좌표 값을 설정한다.The coordinate value setting unit 120 estimates the contour of the object using the image collected from the image collecting unit 110, extracts a plurality of corner points for the estimated contour, and a plurality of intersections where the contour and the ray intersect with each other And sets coordinate values for a plurality of corner points and a plurality of intersection points extracted using the previously defined camera coordinate system, the camera film image coordinate system, and the object coordinate system based on one of the corners of the object.

도 2는 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치에서 수집된 이미지를 이용하여 다수의 모서리점 및 다수의 교차점을 추출하는 과정을 나타낸 도면이다.FIG. 2 is a diagram illustrating a process of extracting a plurality of corner points and a plurality of intersection points using an image collected by an object motion estimation apparatus using a gripper according to an embodiment of the present invention.

도 2의 (a)는 그리퍼(400)를 통해 파지하고자 하는 물체(500)를 나타낸 것으로, 윤곽선의 추정이 용이하도록 사각형의 표시지(510)가 부착될 수도 있다. 그리고, 도 2의 (b)는 이미지 수집부(110)로부터 수집된 원본 이미지를 나타낸 것이며, 도 2의 (c)는 좌표 값 설정부(120)가 도 2의 (b)로부터 물체(500)의 윤곽선을 추정하고, 추정된 윤곽선에 대한 다수의 모서리점(4점)과, 윤곽선과 광선이 교차되는 다수의 교차점(2점)을 추출하는 과정을 나타낸 것이다.2 (a) shows an object 500 to be gripped through the gripper 400, and a rectangular display sheet 510 may be attached to facilitate the estimation of the contour line. 2 (b) shows the original image collected from the image collecting unit 110, and FIG. 2 (c) shows the coordinate value setting unit 120, (4 points) for the estimated contour, and a plurality of intersections (2 points) at which the contour and the ray intersect with each other.

도 3은 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치에서 카메라 및 레이저 센서를 이용하여 측정한 물체의 위치 및 좌표 값을 나타낸 도면이다.FIG. 3 is a diagram showing positions and coordinate values of an object measured by a camera and a laser sensor in an apparatus for estimating motion of an object using a gripper according to an embodiment of the present invention.

본 발명의 실시예에서는 카메라(200), 레이저 센서(300) 및 그리퍼(400)가 설정 위치에 각각 고정되어 있으므로, 원점 camO을 기준으로 하는 카메라 좌표계(camX, camY, camZ), 원점 IPO를 기준으로 하는 카메라 필름상(Image Plane, IP) 이미지 좌표계(IPX, IPY, 1) 및 원점 LaserO를 기준으로 하는 레이저 센서 좌표계(LaserX, LaserY, LaserZ) 및 원점 TgO를 기준으로 하는 물체 좌표계(TgX, TgY, TgZ)는 도 3에서와 같이 기 정의되어 있는 것이 바람직하다.Since the camera 200, the laser sensor 300 and the gripper 400 are fixed at the set positions, the camera coordinate system ( cam X, cam Y, cam Z) based on the origin cam 0, a camera film which is based on the home IP O (image Plane, IP) image coordinate system (IP X, IP Y, 1 ) and the origin laser sensor coordinate system relative to the laser O (laser X, laser Y , laser Z) and the origin It is preferable that the object coordinate system ( Tg X, Tg Y, Tg Z) based on Tg O is predefined as shown in FIG.

이때, IP는 카메라 필름상에 맺힌 물체(500)의 윤곽선 및 광선을 나타내며, Tg는 실제의 물체(500) 윤곽선 및 광선을 나타낸다.At this time, IP represents a contour and a ray of an object 500 formed on a camera film, and Tg represents an actual object 500 contour and a ray.

그리고 연산부(130)는 카메라 좌표계(camX, camY, camZ)와 레이저 센서 좌표계(LaserX, LaserY, LaserZ) 및 물체 좌표계(TgX, TgY, TgZ)를 이용하여 카메라(200)와 물체(500) 사이의 상대적 위치를 연산하고, 설정된 좌표 값을 이용하여 물체(500)의 좌표 값을 연산한다.The calculating unit 130 calculates the coordinates of the camera using the camera coordinate system ( cam X, cam Y, cam Z), the laser sensor coordinate system ( Laser X, Laser Y, Laser Z), and the object coordinate system ( Tg X, Tg Y, Tg Z) 200 and the object 500, and calculates the coordinate value of the object 500 using the set coordinate value.

아래의 수학식 1 내지 13을 참고하여 자세히 설명하기로 한다.Will be described in detail with reference to the following equations (1) to (13).

먼저, 카메라 필름상 이미지 좌표계(IPX, IPY, 1)와 카메라 좌표계(camX, camY, camZ) 사이의 관계는 아래의 수학식 1과 같이 표현된다.First, the relationship between the camera film image coordinate system ( IP X, IP Y, 1) and the camera coordinate system ( cam X, cam Y, cam Z) is expressed as Equation 1 below.

Figure pat00010
Figure pat00010

여기서, S는 카메라 필름상 이미지 좌표계(IPX, IPY, 1)에서의 위치벡터이고, w는 카메라 필름 상에 대한 스케일 파라미터이다.Where S is the position vector in the camera film image coordinate system ( IP X, IP Y, 1) and w is the scale parameter on the camera film.

이때, 카메라 좌표계(camX, camY, camZ) 내에서의 한점은 다음과 같이 나타낼 수 있다.At this time, one point in the camera coordinate system ( cam X, cam Y, cam Z) can be expressed as follows.

Figure pat00011
Figure pat00011

그리고, 카메라 필름상 이미지 좌표계(IPX, IPY, 1) 및 물체 좌표계(TgX, TgY, TgZ) 사이의 관계는 아래의 수학식 2와 같이 표현된다.The relationship between the camera film image coordinate system ( IP X, IP Y, 1) and the object coordinate system ( Tg X, Tg Y, Tg Z) is expressed by the following equation (2).

Figure pat00012
Figure pat00012

이때, 도 3에서와 같이

Figure pat00013
으로 물체 면(object palne)을 선택하여 다음과 같이 표현할 수도 있다.At this time, as shown in FIG. 3
Figure pat00013
The object palette can be selected as follows.

Figure pat00014
Figure pat00014

여기서, r은 좌표 간 회전행렬의 개별 칼럼 벡터이고, t는 좌표 간 이동 벡터이다.Here, r is an individual column vector of the rotation matrix between coordinates and t is a movement vector between coordinates.

이때, 카메라 좌표계(camX, camY, camZ)와 물체 좌표계(TgX, TgY, TgZ) 사이의 상대 위치를 결정하기 위해서는

Figure pat00015
과,
Figure pat00016
를 찾아야 하는데, 여기서,
Figure pat00017
Figure pat00018
는 물체 좌표계(TgX, TgY, TgZ)와 카메라 좌표계(camX, camY, camZ) 사이의 물리적 변환으로, 각각 회전 행렬과 이동 벡터이다.At this time, in order to determine the relative position between the camera coordinate system ( cam X, cam Y, cam Z) and the object coordinate system ( Tg X, Tg Y, Tg Z)
Figure pat00015
and,
Figure pat00016
Lt; / RTI >
Figure pat00017
and
Figure pat00018
Is a physical transformation between the object coordinate system ( Tg X, Tg Y, Tg Z) and the camera coordinate system ( cam X, cam Y, cam Z).

또한, 다음은 이미지 처리 후 실제 물체(500)의 4개의 모서리 점에 대한 각각의 좌표로서, 물체(500)의 너비는 rh이고, 높이는 h이며 물체(500)가 TgZ 평면에 놓여져 있을 때, 호모지니어스 좌표계에서 물체(500)의 4개의 모서리점은 다음과 같이 나타낼 수 있다.The following are the coordinates of the four corner points of the actual object 500 after the image processing, when the width of the object 500 is rh, the height is h, and the object 500 is placed on the Tg Z plane, The four corner points of the object 500 in the homogeneous geographic coordinate system can be expressed as:

Figure pat00019
Figure pat00019

여기서, TgPi는 물체(500)의 모서리점의 X, Y, Z의 좌표 성분 즉, 좌표 값이고, T는 전치행렬을 만드는 기호이다.Here, Tg P i is a coordinate component that is, coordinate values of X, Y, Z corner point of the object (500), T is the symbol to create a transposed matrix.

그리고, 카메라 필름상 이미지 좌표계 IPPi와, 카메라 좌표계 CamPi는 각각 다음과 같다.The camera film-based image coordinate system IP P i and the camera coordinate system Cam P i are as follows.

Figure pat00020
Figure pat00020

여기서, i는 각각의 모서리에 대한 인덱스이다.Where i is the index for each edge.

연산부(130)는 다음의 수학식 3과 같이 카메라 좌표계(camX, camY, camZ)에서의 모서리에 대한 좌표 값을 연산할 수 있다.The operation unit 130 can calculate coordinate values for the corners in the camera coordinate system ( cam X, cam Y, cam Z) as shown in the following Equation (3).

Figure pat00021
Figure pat00021

연산부(130)는 다음의 수학식 4와 같이 물체 좌표계(TgX, TgY, TgZ)에서의 모서리에 대한 좌표 값을 연산할 수 있다.The operation unit 130 can calculate coordinate values for the edges in the object coordinate system ( Tg X, Tg Y, Tg Z) as shown in the following Equation (4).

Figure pat00022
Figure pat00022

이때,

Figure pat00023
은 같은 직선상에 있지 않게 때문에 매트릭스
Figure pat00024
는 벡터 공간에서 그 자신에 1대 1로 대응하는 사상인 비특이 사상(寫像)이다. At this time,
Figure pat00023
Are not on the same straight line,
Figure pat00024
Is a nonspecific map that is a one-to-one correspondence of the vector space to itself.

Figure pat00025
Figure pat00025

연산부(130)는 카메라 필름상 이미지 좌표계(

Figure pat00026
)를 이용하여 다음의 수학식 6과 같이 연산할 수 있다.The arithmetic operation unit 130 calculates an image coordinate system
Figure pat00026
) Using the following equation (6).

Figure pat00027
Figure pat00027

그리고, 카메라 좌표계(camX, camY, camZ)와 레이저 좌표계(LaserX, LaserY, LaserZ)에서 P6의 좌표는 아래와 같이 표현할 수 있다.The coordinate of P 6 in the camera coordinate system ( cam X, cam Y, cam Z) and the laser coordinate system ( Laser X, Laser Y, and Laser Z) can be expressed as follows.

Figure pat00028
Figure pat00028

연산부(130)는 수학식 7을 이용하여 카메라 좌표계(camX, camY, camZ)에서 P6의 좌표를 연산할 수 있다.The calculation unit 130 can calculate the coordinates of P 6 in the camera coordinate system ( cam X, cam Y, cam Z) using Equation (7).

Figure pat00029
Figure pat00029

연산부(130)는 카메라 좌표계(camX, camY, camZ)와 레이저 좌표계(LaserX, LaserY, LaserZ)에서 P6의 좌표와 수학식 7을 이용하여 수학식 8을 연산할 수 있다.The calculation unit 130 can calculate the equation 8 using the coordinates of P 6 and the equation 7 in the camera coordinate system ( cam X, cam Y, cam Z) and the laser coordinate system ( Laser X, Laser Y, and Laser Z) .

Figure pat00030
Figure pat00030

또한, 수학식 8을 수학식 9와 같이 표현할 수도 있다.Equation (8) can also be expressed as Equation (9).

Figure pat00031
Figure pat00031

Figure pat00032
Figure pat00032

그리고, 카메라 좌표계(camX, camY, camZ)에서의 물체 면은 다음과 같이 결정된다.Then, the object plane in the camera coordinate system ( cam X, cam Y, cam Z) is determined as follows.

Figure pat00033
Figure pat00033

여기서, m, n, p는 각각 물체면을 표현하는 일반 상수이다. Here, m, n, and p are general constants representing object planes.

연산부(130)는 수학식 10에 의해 카메라 좌표계(camX, camY, camZ)에서의 좌표 값을 연산할 수 있다.The calculation unit 130 can calculate the coordinate values in the camera coordinate system ( cam X, cam Y, cam Z) according to Equation (10).

Figure pat00034
Figure pat00034

수학식 10을 카메라 좌표계(camX, camY, camZ)에서 물체 면과 결합하여 다음의 수학식 11을 얻을 수 있다. (10) can be combined with the object plane in the camera coordinate system ( cam X, cam Y, cam Z) to obtain the following equation (11).

Figure pat00035
Figure pat00035

여기서, 연산부(130)는 수학식 6과 수학식 11을 함께 계산하면

Figure pat00036
를 연산할 수 있다.Here, when the calculating unit 130 calculates Equation 6 and Equation 11 together
Figure pat00036
Can be calculated.

Figure pat00037
Figure pat00037

with

Figure pat00038
with
Figure pat00038

즉, 수학식 12에 수학식 6을 대입하여

Figure pat00039
을 연산할 수 있고 윤곽선의 모서리점은 수학식 10에 의해 연산할 수 있다. That is, by substituting Equation 6 into Equation 12
Figure pat00039
And the corner point of the contour line can be calculated by the following equation (10).

따라서, 물체(500)의 실제 크기는 다음과 같이 표현될 수 있다. Thus, the actual size of the object 500 can be expressed as:

Figure pat00040
Figure pat00040

또한, 연산부(130)는 수학식 13으로부터 카메라 좌표계(camX, camY, camZ)와 물체 좌표계(TgX, TgY, TgZ) 사이의 관계식을 산출할 수 있다.Further, the operating section 130 may calculate a relationship between the equation (13) from the camera coordinate system (X cam, cam Y, Z cam) and the object coordinate system (X Tg, Tg Y, Z Tg).

Figure pat00041
Figure pat00041

여기서,

Figure pat00042
는 카메라 좌표계 시점의 물체(500)의 좌표이고,
Figure pat00043
은 카메라 좌표계(camX, camY, camZ) 시점의 물체(500)의 각 모서리점 및 교차점의 좌표 값이며,
Figure pat00044
은 물체 좌표계(TgX, TgY, TgZ)에서의 각 모서리점 및 교차점의 좌표 값이다.here,
Figure pat00042
Is the coordinate of the object 500 at the viewpoint of the camera coordinate system,
Figure pat00043
Is a coordinate value of each corner point and an intersection point of the object 500 at the time of the camera coordinate system ( cam X, cam Y, cam Z)
Figure pat00044
Is the coordinate value of each corner point and the intersection point in the object coordinate system ( Tg X, Tg Y, Tg Z).

그리고 움직임 추정부(140)는 그리퍼(400)에 가해지는 파지력의 변화에 따른 이미지의 프레임별 물체(500)의 좌표 값 변화 여부를 추적하여, 좌표 값의 변화가 감지되면 물체(500)의 움직임이 발생한 것으로 추정한다. The motion estimation unit 140 tracks whether the coordinate value of the object 500 changes according to the change of the gripping force applied to the gripper 400. When the movement of the object 500 is detected, Is estimated to have occurred.

자세히는, 움직임 추정부(140)는, 수학식 14에 의해 카메라 좌표계(camX, camY, camZ)의 중심점 좌표(

Figure pat00045
)를 산출하고, 산출된 중심점 좌표(
Figure pat00046
)를 이용하여 물체(500)의 움직임을 추정한다.More specifically, the motion estimation unit 140 calculates the center point coordinate (x, y) of the camera coordinate system ( cam X, cam Y, cam Z)
Figure pat00045
), And calculates the calculated center point coordinates (
Figure pat00046
The motion of the object 500 is estimated.

Figure pat00047
Figure pat00047

또한, 움직임 추정부(140)는 이전의 이미지 프레임(K-1)과 현재 이미지의 프레임(K), 카메라 좌표계(camX, camY, camZ)를 이용하여 수학식 15와 같이 각각의 방향에 대한 슬립 발생 유무를 판단할 수 있다.In addition, the motion estimation unit 140 using a previous image frame (K-1) and the current frame of the image (K), the camera coordinate system (cam X, cam Y, cam Z) each direction as shown in equation (15) It is possible to determine whether or not slip has occurred.

Figure pat00048
Figure pat00048

Figure pat00049
,
Figure pat00049
,

Figure pat00050
,
Figure pat00050
,

이를 종합하면, 수학식 16과 같이 표현된다.Taken together, this is expressed as: " (16) "

Figure pat00051
Figure pat00051

여기서,

Figure pat00052
는 상기 카메라 좌표계의 중심점 좌표이고,
Figure pat00053
는 i에 대한 상기 카메라 X, Y, Z축 성분 값 좌표 값이고, 상기 i는 상기 물체의 각 모서리점에 대한 인덱스이고,
Figure pat00054
은 상기 카메라 시점에서의 상기 물체의 슬립이고, K는 현재 이미지의 프레임이며, K-1은 이전의 이미지 프레임이다.here,
Figure pat00052
Is the center point coordinate of the camera coordinate system,
Figure pat00053
Is the coordinate value of the camera X, Y, Z axis component values for i, i is an index for each corner point of the object,
Figure pat00054
K is the current image frame, and K-1 is the previous image frame.

그리고 파지력 선정부(150)는 움직임 추정부(140)에 의해 좌표 값의 변화가 감지되기 직전의 이미지 프레임에 대응하는 파지력을 해당 물체(500)에 대한 적정 파지력으로 선정한다.The gripping force selecting unit 150 selects the gripping force corresponding to the image frame immediately before the change of the coordinate value is detected by the motion estimating unit 140 as an appropriate gripping force for the object 500.

마지막으로 파지력 제어부(160)는 파지력 선정부(150)에서 선정된 적정 파지력으로 그리퍼(400)를 제어한다.Finally, the gripping force control unit 160 controls the gripper 400 with the appropriate gripping force selected by the gripping force selecting unit 150. [

이하에서는 도 4를 통해 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 방법에 대하여 설명한다.Hereinafter, a method for estimating a motion of an object using a gripper according to an embodiment of the present invention will be described with reference to FIG.

도 4는 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 방법의 동작 흐름을 도시한 순서도로서, 이를 참조하여 본 발명의 구체적인 동작을 설명한다.FIG. 4 is a flowchart illustrating an operation flow of a method of estimating a motion of an object using a gripper according to an embodiment of the present invention, and a specific operation of the present invention will be described with reference to FIG.

본 발명의 실시예에 따르면, 그리퍼를 이용한 물체의 움직임 추정 장치(100)의 이미지 수집부(110)는 설정 위치에 고정된 카메라(200)를 이용하여 설정 위치에 고정된 그리퍼(400)에 의해 파지된 물체와 설정 위치에 고정된 레이저 센서(300)에서 출력되는 광선이 포함되어 촬영된 이미지를 수집한다(S410).According to the embodiment of the present invention, the image capturing unit 110 of the object motion estimation apparatus 100 using the gripper is constructed by a gripper 400 fixed at a setting position using a camera 200 fixed at a setting position The photographed object and the light beam output from the laser sensor 300 fixed at the set position are included and the photographed image is collected (S410).

그리고 좌표 값 설정부(120)는 S410 단계에서 수집된 이미지를 이용하여 물체(500)의 윤곽선을 추정하고 추정된 윤곽선에 대한 다수의 모서리점과, 윤곽선과 광선이 교차되는 다수의 교차점을 추출한다(S420).Then, the coordinate value setting unit 120 estimates the contour of the object 500 using the image collected in step S410, and extracts a plurality of corner points for the estimated contour line and a plurality of intersection points where the contour line and the light ray intersect with each other (S420).

그리고 연산부(130)는 기 정의된 카메라 좌표계(camX, camY, camZ), 카메라 필름상 이미지 좌표계(IPX, IPY, 1) 및 물체(500)의 어느 하나의 모서리를 기준으로 하는 물체 좌표계(TgX, TgY, TgZ)를 이용하여 S420 단계에서 추출된 다수의 모서리점 및 다수의 교차점에 대한 각각의 좌표 값을 설정한다(S430).The arithmetic operation unit 130 calculates the angles of the object 500 based on the predefined camera coordinate system ( cam X, cam Y, cam Z), camera film image coordinate system ( IP X, IP Y, 1) The coordinate values of the plurality of corner points and the plurality of intersection points extracted in step S420 are set using the object coordinate system ( Tg X, Tg Y, Tg Z) (S430).

그리고 연산부(130)는 카메라 좌표계(camX, camY, camZ)와 물체 좌표계(TgX, TgY, TgZ)를 이용하여 카메라(200)와 물체(500) 사이의 상대적 위치를 연산하고, S430 단게에서 설정된 좌표 값을 이용하여 물체(500)의 좌표 값을 연산한다(S440).The operation unit 130 calculates a relative position between the camera 200 and the object 500 using the camera coordinate system ( cam X, cam Y, cam Z) and the object coordinate system ( Tg X, Tg Y, Tg Z) , The coordinate value of the object 500 is calculated using the coordinate value set in step S430 (S440).

이때, 카메라(200)와 물체(500) 사이의 상대적 위치와, 물체(500)의 좌표 값을 연산하는 방법에 관하여는 상기의 수학식 1 내지 13을 이용하여 연산할 수 있으며, 상세한 설명은 앞서 상술한 바 중복하여 언급하지 않기로 한다.The calculation of the relative position between the camera 200 and the object 500 and the coordinate value of the object 500 can be performed using Equations 1 to 13 described above. It will not be repeatedly mentioned above.

그리고 움직임 추정부(140)는 그리퍼(400)에 가해지는 파지력의 변화에 따른 이미지의 프레임별 물체(500)의 좌표 값 변화 여부를 추적하여(S450), 추적 결과 좌표 값의 변화가 감지되면 물체(500)의 움직임이 발생한 것으로 추정한다(S460).Then, the motion estimation unit 140 tracks whether the coordinate value of the object 500 of the image changes according to the change of the gripping force applied to the gripper 400 (S450). If a change in the coordinate value of the tracking result is detected, It is estimated that the motion of the moving object 500 has occurred (S460).

이때, 물체(500)의 움직임 발생 유무 추정에 관하여는 움직임 추정에 관하여는 상기의 수학식 14 내지 16을 이용하여 연산할 수 있으며, 마찬가지로 상세한 설명에 관하여는 중복 언급하지 않기로 한다.At this time, regarding the motion occurrence estimation of the object 500, motion estimation can be performed using Equations (14) to (16) above, and the detailed description will not be repeated.

그리고 파지력 선정부(150)는 S440 단계에서 연산된 좌표 값의 변화가 감지되기 직전의 이미지 프레임에 대응하는 파지력을 해당 물체(500)에 대한 적정 파지력으로 선정한다(S470).Then, the gripping force selecting unit 150 selects the gripping force corresponding to the image frame immediately before the change in the coordinate value calculated in step S440 is sensed as an appropriate gripping force for the object 500 (S470).

마지막으로 파지력 제어부(160)는 S470 단계에서 선정된 적정 파지력으로 그리퍼(400)를 제어한다(S480).Finally, the gripping force controller 160 controls the gripper 400 according to the predetermined gripping force determined in operation S470 (S480).

상술한 바와 같이, 본 발명의 실시예에 따른 그리퍼를 이용한 물체의 움직임 추정 장치 및 그 방법은, 비전 카메라와 레이저 센서를 이용하여 그리퍼에 파지되어 있는 물체의 미끄러짐이 발생하기 직전을 캐치하여 연산된 파지력으로 그리퍼의 파지력을 제어함으로써 그리퍼에 파지된 물체의 미끄러짐(슬립)을 방지할 수 있는 효과가 있다.As described above, an apparatus and method for estimating a motion of an object using a gripper according to an embodiment of the present invention can detect motion of an object gripped by a gripper using a vision camera and a laser sensor, The gripping force of the gripper can be controlled by the gripping force, thereby preventing slipping (slipping) of the object gripped by the gripper.

또한 본 발명의 실시예에 따르면, 그리퍼에 파지되는 물체가 변경되는 경우에도 미끄러짐이 발생하는 범위를 추정하고, 미끄러짐이 발생하기 직전의 파지력을 신속하게 연산 제어함으로써 작업 효율을 개선시킬수 있는 효과가 있다.According to the embodiment of the present invention, even when an object gripped by the gripper changes, a range in which slippage occurs can be estimated, and the gripping force immediately before slippage can be quickly calculated and controlled to improve the working efficiency .

본 발명은 도면에 도시된 실시예를 참고로 하여 설명되었으나 이는 예시적인 것에 불과하며, 당해 기술이 속하는 분야에서 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서 본 발명의 진정한 기술적 보호범위는 아래의 특허청구범위에 의해서 정하여져야 할 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it will be understood by those skilled in the art that various changes and modifications may be made without departing from the scope of the invention as defined by the appended claims. will be. Accordingly, the true scope of the present invention should be determined by the following claims.

100 : 물체의 움직임 추정 장치 110 : 이미지 수집부
120 : 좌표 값 설정부 130 : 연산부
140 : 움직임 추정부 150 : 파지력 선정부
160 : 파지력 제어부 200 : 카메라
300 : 레이저 센서 400 : 그리퍼
410 : 집게 500 : 물체
510 : 표시지
100: object motion estimation apparatus 110:
120: Coordinate value setting unit 130:
140: motion estimation unit 150: gripping power selection unit
160: gripping force control unit 200: camera
300: laser sensor 400: gripper
410: tongs 500: object
510: display area

Claims (8)

설정 위치에 고정된 그리퍼, 카메라 및 레이저 센서를 이용한 물체의 움직임 추정 장치에 있어서,
상기 카메라를 이용하여 상기 그리퍼에 의해 파지된 물체와 상기 레이저 센서에서 출력되는 광선이 포함되어 촬영된 이미지를 수집하는 이미지수집부;
상기 수집된 이미지를 이용하여 상기 물체의 윤곽선을 추정하고 상기 추정된 윤곽선에 대한 다수의 모서리점과 상기 윤곽선과 상기 광선이 교차되는 다수의 교차점을 추출하고, 기 정의된 카메라 좌표계, 카메라 필름상 이미지 좌표계 및 상기 물체의 어느 하나의 모서리를 기준으로 하는 물체 좌표계를 이용하여 상기 추출된 다수의 모서리점 및 다수의 교차점에 대한 각각의 좌표 값을 설정하는 좌표 값 설정부;
상기 카메라 좌표계와 상기 물체 좌표계를 이용하여 상기 카메라와 상기 물체 사이의 상대적 위치를 연산하고, 상기 설정된 좌표 값을 이용하여 상기 물체의 좌표 값을 연산하는 연산부; 및
상기 파지력의 변화에 따른 상기 이미지의 프레임별 상기 물체의 좌표 값 변화 여부를 추적하여, 상기 좌표 값의 변화가 감지되면 상기 물체의 움직임이 발생한 것으로 추정하는 움직임 추정부를 포함하는 물체의 움직임 추정 장치.
An apparatus for estimating a motion of an object using a gripper, a camera, and a laser sensor fixed at a set position,
An image collecting unit for collecting a photographed image including an object held by the gripper using the camera and a light beam output from the laser sensor;
Estimating an outline of the object using the collected image, extracting a plurality of corner points of the estimated outline and a plurality of intersections where the outline intersects with the ray, A coordinate value setting unit for setting coordinate values of the extracted corner points and the intersection points using an object coordinate system based on a coordinate system and an edge of any one of the objects;
An operation unit for calculating a relative position between the camera and the object using the camera coordinate system and the object coordinate system and calculating coordinate values of the object using the set coordinate value; And
And a motion estimator for tracking whether a coordinate value of the object changes according to a frame of the image in accordance with a change of the gripping force and estimating that movement of the object occurs when a change in the coordinate value is detected.
제1항에 있어서,
상기 좌표 값의 변화가 감지되기 직전의 이미지 프레임에 대응하는 파지력을 상기 물체에 대한 적정 파지력으로 선정하는 파지력 선정부; 및
상기 선정된 적정 파지력으로 상기 그리퍼를 제어하는 파지력 제어부를 더 포함하는 물체의 움직임 추정 장치.
The method according to claim 1,
A gripping force selecting unit for selecting a gripping force corresponding to an image frame immediately before a change in the coordinate value is sensed as an appropriate gripping force for the object; And
And a gripping force control unit for controlling the gripper based on the predetermined appropriate gripping force.
제1항에 있어서,
상기 연산부는,
다음의 식에 의해 상기 물체의 좌표 값을 연산하는 물체의 움직임 추정 장치:
Figure pat00055

여기서,
Figure pat00056
는 상기 카메라 좌표계 시점의 상기 물체의 좌표이고,
Figure pat00057
은 상기 카메라 좌표계 시점의 상기 물체의 각 모서리점 및 교차점의 좌표 값이며,
Figure pat00058
은 상기 물체 좌표계에서의 각 모서리점 및 교차점의 좌표 값이다.
The method according to claim 1,
The operation unit,
An object motion estimation apparatus for calculating a coordinate value of an object by the following expression:
Figure pat00055

here,
Figure pat00056
Is the coordinate of the object at the viewpoint of the camera coordinate system,
Figure pat00057
Is a coordinate value of each corner point and an intersection point of the object at the viewpoint of the camera coordinate system,
Figure pat00058
Is a coordinate value of each corner point and an intersection point in the object coordinate system.
제3항에 있어서,
상기 움직임 추정부는,
다음의 식에 의해 상기 카메라 좌표계의 중심점 좌표를 산출하고, 산출된 상기 카메라 좌표계의 중심점 좌표를 이용하여 상기 물체의 움직임을 추정하는 물체의 움직임 추정 장치:
Figure pat00059
,
Figure pat00060

여기서,
Figure pat00061
는 상기 카메라 좌표계의 중심점 좌표이고,
Figure pat00062
는 i에 대한 상기 카메라 X, Y, Z축 성분 값 좌표 값이고, 상기 i는 상기 물체의 각 모서리점에 대한 인덱스이고,
Figure pat00063
은 상기 카메라 시점에서의 상기 물체의 슬립이고, K는 현재 이미지의 프레임이며, K-1은 이전의 이미지 프레임이다.
The method of claim 3,
Wherein the motion estimator comprises:
An object motion estimation apparatus for calculating a center point coordinate of the camera coordinate system by the following expression and estimating the motion of the object using the calculated center point coordinates of the camera coordinate system:
Figure pat00059
,
Figure pat00060

here,
Figure pat00061
Is the center point coordinate of the camera coordinate system,
Figure pat00062
Is the coordinate value of the camera X, Y, Z axis component values for i, i is an index for each corner point of the object,
Figure pat00063
K is the current image frame, and K-1 is the previous image frame.
그리퍼를 이용한 물체의 움직임 추정 장치에 의해 수행되는 물체의 움직임 추정 방법에 있어서,
상기 움직임 추정 장치는 설정 위치에 고정된 카메라를 이용하여 설정 위치에 고정된 그리퍼에 의해 파지된 물체와 설정 위치에 고정된 레이저 센서에서 출력되는 광선이 포함되어 촬영된 이미지를 수집하는 단계;
상기 수집된 이미지를 이용하여 상기 물체의 윤곽선을 추정하고 상기 추정된 윤곽선에 대한 다수의 모서리점과 상기 윤곽선과 상기 광선이 교차되는 다수의 교차점을 추출하는 단계;
기 정의된 카메라 좌표계, 카메라 필름상 이미지 좌표계, 및 상기 물체의 어느 하나의 모서리를 기준으로 하는 물체 좌표계를 이용하여 상기 추출된 다수의 모서리점 및 다수의 교차점에 대한 각각의 좌표 값을 설정하는 단계;
상기 카메라 좌표계와 상기 물체 좌표계를 이용하여 상기 카메라와 상기 물체 사이의 상대적 위치를 연산하고, 상기 설정된 좌표 값을 이용하여 상기 물체의 좌표 값을 연산하는 단계; 및
상기 파지력의 변화에 따른 상기 이미지의 프레임별 상기 물체의 좌표 값 변화 여부를 추적하여, 상기 좌표 값의 변화가 감지되면 상기 물체의 움직임이 발생한 것으로 추정하는 단계를 포함하는 물체의 움직임 추정 방법.
A method for estimating a motion of an object performed by an apparatus for estimating motion of an object using a gripper,
The motion estimation apparatus includes a camera fixed to a setting position, and collecting a photographed image including a light beam output from an object held by a gripper fixed at a setting position and a laser sensor fixed at a setting position;
Estimating an outline of the object using the collected image, extracting a plurality of corner points for the estimated outline and a plurality of intersections where the outline and the ray intersect;
Setting respective coordinate values for the extracted corner points and a plurality of intersection points using a predefined camera coordinate system, a camera film image coordinate system, and an object coordinate system based on one of the corners of the object ;
Calculating a relative position between the camera and the object using the camera coordinate system and the object coordinate system, and calculating a coordinate value of the object using the set coordinate value; And
And tracking whether the coordinate value of the object changes according to the frame of the image according to the change of the gripping force and estimating that movement of the object occurs when a change of the coordinate value is detected.
제5항에 있어서,
상기 좌표 값의 변화가 감지되기 직전의 이미지 프레임에 대응하는 파지력을 상기 물체에 대한 적정 파지력으로 선정하는 단계; 및
상기 선정된 적정 파지력으로 상기 그리퍼를 제어하는 단계를 더 포함하는 물체의 움직임 추정 방법.
6. The method of claim 5,
Selecting a gripping force corresponding to an image frame immediately before a change in the coordinate value is sensed as an appropriate gripping force for the object; And
And controlling the gripper with the predetermined appropriate gripping force.
제5항에 있어서,
상기 연산하는 단계는,
다음의 식에 의해 상기 물체의 좌표 값을 연산하는 물체의 움직임 추정 방법:
Figure pat00064

여기서,
Figure pat00065
는 상기 카메라 좌표계 시점의 상기 물체의 좌표 값이고,
Figure pat00066
은 상기 카메라 좌표계 시점의 상기 물체의 각 모서리점 및 교차점의 좌표 값이며,
Figure pat00067
은 상기 물체 좌표계에서의 각 모서리점 및 교차점의 좌표 값이다.
6. The method of claim 5,
Wherein the calculating comprises:
An object motion estimation method for calculating a coordinate value of an object by the following formula:
Figure pat00064

here,
Figure pat00065
Is a coordinate value of the object at the viewpoint of the camera coordinate system,
Figure pat00066
Is a coordinate value of each corner point and an intersection point of the object at the viewpoint of the camera coordinate system,
Figure pat00067
Is a coordinate value of each corner point and an intersection point in the object coordinate system.
제7항에 있어서,
상기 상기 물체의 움직임이 발생한 것으로 추정하는 단계는,
다음의 식에 의해 상기 카메라 좌표계의 중심점 좌표를 산출하고, 산출된 상기 카메라 좌표계의 중심점 좌표를 이용하여 상기 물체의 움직임 발생 여부를 추정하는 물체의 움직임 추정 방법:
Figure pat00068
,
Figure pat00069

여기서,
Figure pat00070
는 상기 카메라 좌표계의 중심점 좌표이고,
Figure pat00071
는 i에 대한 상기 카메라 X, Y, Z축 성분 값 좌표 값이고, 상기 i는 상기 물체의 각 모서리점에 대한 인덱스이고,
Figure pat00072
은 상기 카메라 시점에서의 상기 물체의 슬립이고, K는 현재 이미지의 프레임이며, K-1은 이전의 이미지 프레임이다.
8. The method of claim 7,
The step of estimating that the motion of the object has occurred,
Calculating a center point coordinate of the camera coordinate system using the following equation and estimating whether or not the motion of the object is generated using the calculated center point coordinates of the camera coordinate system:
Figure pat00068
,
Figure pat00069

here,
Figure pat00070
Is the center point coordinate of the camera coordinate system,
Figure pat00071
Is the coordinate value of the camera X, Y, Z axis component values for i, i is an index for each corner point of the object,
Figure pat00072
K is the current image frame, and K-1 is the previous image frame.
KR1020160092581A 2016-02-29 2016-07-21 Apparatus for motion estimation of object using gripper and method thereof KR101820241B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20160024424 2016-02-29
KR1020160024424 2016-02-29

Publications (2)

Publication Number Publication Date
KR20170101754A true KR20170101754A (en) 2017-09-06
KR101820241B1 KR101820241B1 (en) 2018-01-18

Family

ID=59925205

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160092581A KR101820241B1 (en) 2016-02-29 2016-07-21 Apparatus for motion estimation of object using gripper and method thereof

Country Status (1)

Country Link
KR (1) KR101820241B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210084818A (en) * 2019-12-30 2021-07-08 한국산업기술대학교산학협력단 Method for Estimation of Grasping Point based on Geometric Features using Vision Sensor

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102597704B1 (en) * 2021-09-23 2023-11-01 성균관대학교산학협력단 Automation device and method that handling clothing fabric

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000047563A (en) * 1998-07-24 2000-02-18 Dainippon Printing Co Ltd Holding action simulation device for object
KR101033167B1 (en) * 2011-01-31 2011-05-11 국방과학연구소 Device, system and method for calibration of camera and laser range finder

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210084818A (en) * 2019-12-30 2021-07-08 한국산업기술대학교산학협력단 Method for Estimation of Grasping Point based on Geometric Features using Vision Sensor

Also Published As

Publication number Publication date
KR101820241B1 (en) 2018-01-18

Similar Documents

Publication Publication Date Title
US20200086437A1 (en) Locating And Attaching Interchangeable Tools In-Situ
US8155787B2 (en) Intelligent interface device for grasping of an object by a manipulating robot and method of implementing this device
US9352467B2 (en) Robot programming apparatus for creating robot program for capturing image of workpiece
US9519736B2 (en) Data generation device for vision sensor and detection simulation system
JP6826069B2 (en) Robot motion teaching device, robot system and robot control device
JP2021167060A (en) Robot teaching by human demonstration
WO2018050307A1 (en) Method of programming an industrial robot
US11833697B2 (en) Method of programming an industrial robot
CN111958604A (en) Efficient special-shaped brush monocular vision teaching grabbing method based on CAD model
Burrell et al. Towards a cooperative robotic system for autonomous pipe cutting in nuclear decommissioning
CN115070781B (en) Object grabbing method and two-mechanical-arm cooperation system
KR101820241B1 (en) Apparatus for motion estimation of object using gripper and method thereof
Zhou et al. 3d pose estimation of robot arm with rgb images based on deep learning
Olsson et al. Force control and visual servoing using planar surface identification
Maeda et al. Teaching of grasp/graspless manipulation for industrial robots by human demonstration
WO2021117479A1 (en) Information processing device, method, and program
JP2006021300A (en) Predicting device and holding device
West et al. A vision-based positioning system with inverse dead-zone control for dual-hydraulic manipulators
US20230150142A1 (en) Device and method for training a machine learning model for generating descriptor images for images of objects
WO2023013740A1 (en) Robot control device, robot control system, and robot control method
CN112805127A (en) Method and apparatus for creating robot control program
WO2023102647A1 (en) Method for automated 3d part localization and adjustment of robot end-effectors
Axelrod et al. Improving hand-eye calibration for robotic grasping and manipulation
Xu et al. A fast and straightforward hand-eye calibration method using stereo camera
Zhao et al. Multiple cameras-multiple target points visual servoing in large scale 3D manufacturing systems

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right