KR20200091298A - 핸드 아이 캘리브레이션 방법 및 시스템 - Google Patents

핸드 아이 캘리브레이션 방법 및 시스템 Download PDF

Info

Publication number
KR20200091298A
KR20200091298A KR1020190008402A KR20190008402A KR20200091298A KR 20200091298 A KR20200091298 A KR 20200091298A KR 1020190008402 A KR1020190008402 A KR 1020190008402A KR 20190008402 A KR20190008402 A KR 20190008402A KR 20200091298 A KR20200091298 A KR 20200091298A
Authority
KR
South Korea
Prior art keywords
robot
camera
processor
eye calibration
hand eye
Prior art date
Application number
KR1020190008402A
Other languages
English (en)
Other versions
KR102577448B1 (ko
Inventor
이소희
윤석준
강유소
노경식
반욱
최민용
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020190008402A priority Critical patent/KR102577448B1/ko
Priority to US16/743,678 priority patent/US11173609B2/en
Publication of KR20200091298A publication Critical patent/KR20200091298A/ko
Application granted granted Critical
Publication of KR102577448B1 publication Critical patent/KR102577448B1/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1679—Programme controls characterised by the tasks executed
    • B25J9/1692—Calibration of manipulator
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/0084—Programme-controlled manipulators comprising a plurality of manipulators
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00—Controls for manipulators
    • B25J13/08—Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02—Sensing devices
    • B25J19/021—Optical sensing devices
    • B25J19/023—Optical sensing devices including video camera means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02—Sensing devices
    • B25J19/04—Viewing devices
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/02—Programme-controlled manipulators characterised by movement of the arms, e.g. cartesian coordinate type
    • B25J9/023—Cartesian coordinate type
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1602—Programme controls characterised by the control system, structure, architecture
    • B25J9/161—Hardware, e.g. neural networks, fuzzy logic, interfaces, processor
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1674—Programme controls characterised by safety, monitoring, diagnostic
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697—Vision controlled systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1679—Programme controls characterised by the tasks executed
    • B25J9/1682—Dual arm manipulator; Coordination of several manipulators
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/39—Robotics, robotics to robotics hand
    • G05B2219/39008—Fixed camera detects reference pattern held by end effector
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/39—Robotics, robotics to robotics hand
    • G05B2219/39045—Camera on end effector detects reference pattern
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/39—Robotics, robotics to robotics hand
    • G05B2219/39057—Hand eye calibration, eye, camera on hand, end effector

Abstract

본 발명의 다양한 실시 예들은 소형 패턴을 장착한 로봇, 상기 로봇을 촬영하도록 구성된 카메라, 메모리, 및 프로세서를 포함하고, 상기 프로세서는, 상기 로봇을 이동시키는 동작, 상기 이동된 로봇의 자세 정보를 획득하는 동작, 상기 카메라로부터 이미지를 획득하는 동작, 및 상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 카메라를 이동시키는 동작을 포함하고, 상기 동작들을 반복하여 획득한 상기 자세 정보 및 상기 이미지에 기반하여 상기 로봇에 대한 핸드 아이 캘리브레이션을 수행하도록 설정된 핸드 아이 캘리브레이션 시스템 및 방법에 관하여 개시한다. 다양한 실시 예들이 가능하다.

Description

핸드 아이 캘리브레이션 방법 및 시스템{HAND EYE CALIBRATION METHOD AND SYSTEM}
본 발명의 다양한 실시예들은 핸드 아이 캘리브레이션 방법 및 시스템에 관하여 개시한다.
로봇은 사람을 대신하여 산업계 전반에 널리 사용되고 있다. 예를 들어 자동차 생산라인에는, 각 공정에 맞는 공구가 결합된 로봇이 다수 배치되어 자동차에 대한 각종 작업을 수행할 수 있다. 예를 들어, 다수의 로봇에 필요한 공구를 결합하여 생산라인을 구축하게 되면, 자동차를 대량으로 값싸게 생산할 수 있다. 또한, 로봇은 설계된 설계치 데로 각종 공정을 수행하므로, 사람이 수행하는 경우와는 달리 공정의 품질을 동일한 수준으로 유지하기 쉬울 수 있다. 로봇을 이용하여 각종 공정을 수행하기 전에 로봇의 위치, 방향 및 동작 형태에 대한 설계치를 사전에 결정하고, 결정된 설계치를 컴퓨터에 미리 입력하여 설계치 데로 로봇이 각 공정을 수행하도록 제어할 수 있다.
다만, 로봇의 제작 오차, 로봇의 구동 오차, 로봇에 장착하는 공구의 설치 오차가 발생할 수 있으므로, 오차를 고려하여 로봇의 설계치를 결정할 수 있다. 로봇에 의한 각종 오차(또는 오류)가 발생하게 되면, 로봇에 의해 생산된 제품의 불량이 발생할 수 있다. 이러한 제품 불량을 방지하기 위해서, 로봇 캘리브레이션을 수행하여 로봇에 의해 발생되는 오차를 최소화하는 방법이 사용되고 있다. 여기서, 캘리브레이션이라 함은 로봇의 위치 및 방향, 로봇의 기구학식을 지배하는 파라미터들, 공구의 설치 위치 및 방향이 실제와 동일하도록 예측하는 것일 수 있다. 로봇을 제품 생산에 사용하기 전에 미리 로봇의 캘리브레이션을 수행할 수 있다.
종래의 핸드 아이 캘리브레이션을 수행하기 위해서는 카메라를 외부에 고정하고 로봇에 패턴을 장착하여 캘리브레이션을 수행하고 있다. 또는, 로봇에 직접 카메라를 장착하는 경우 외부의 특정 위치에 패턴을 고정시키고 캘리브레이션을 수행할 수 있다. 위의 방법을 이용하여 양팔 로봇 시스템에서 핸드 아이 캘리브레이션을 수행하기 위해서는, 로봇의 양팔에 카메라를 장착하고, 외부에 패턴을 움직이면서, 로봇과 패턴 간의 최적화된 기하학적 관계를 구할 수 있다. 그러나, 로봇의 베이스가 고정되어 있고, 양팔의 기하학적 관계를 알고 있는 경우 이러한 방법은 비효율적이며, 로봇 작업 중 간단한 모션으로 진단하기 어려울 수 있다.
다양한 실시예들에서는, 양팔 로봇의 한 팔에 카메라를 장착하고, 다른 팔에 캘리브레이션에 사용하는 체크 보드보다 작은 형태의 소형 패턴을 장착하여, 소형 패턴이 장착된 로봇의 위치 및 카메라의 위치를 이동시키면서 핸드 아이 캘리브레이션을 수행하는 방법 및 시스템에 관하여 개시할 수 있다.
본 발명의 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템은, 소형 패턴을 장착한 로봇, 상기 로봇을 촬영하도록 구성된 카메라, 메모리, 및 프로세서를 포함하고, 상기 프로세서는, 상기 로봇을 이동시키는 동작, 상기 이동된 로봇의 자세 정보를 획득하는 동작, 상기 카메라로부터 이미지를 획득하는 동작, 및 상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 카메라를 이동시키는 동작을 포함하고, 상기 동작들을 반복하여 획득한 상기 자세 정보 및 상기 이미지에 기반하여 상기 로봇에 대한 핸드 아이 캘리브레이션을 수행하도록 설정될 수 있다.
본 발명의 다양한 실시예들에 따른 소형 패턴을 장착한 로봇과 상기 로봇을 촬영하도록 구성된 카메라를 포함하는 핸드 아이 캘리브레이션 시스템의 동작 방법은 상기 로봇을 이동시키는 동작, 상기 이동된 로봇의 자세 정보를 획득하는 동작, 상기 카메라로부터 이미지를 획득하는 동작, 및 상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 카메라를 이동시키는 동작을 포함하고, 상기 동작들을 반복하여 획득한 상기 자세 정보 및 상기 이미지에 기반하여 상기 로봇에 대한 핸드 아이 캘리브레이션을 수행하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 양팔 로봇의 한 팔에 카메라를 장착하고, 다른 팔에 캘리브레이션에 사용하는 체크 보드보다 작은 형태의 소형 패턴을 장착하여, 소형 패턴이 장착된 로봇의 위치 및 카메라의 위치를 이동시키면서 핸드 아이 캘리브레이션을 수행할 수 있다.
다양한 실시예들에 따르면, 캘리브레이션에 사용하는 체크 보드보다 작은 형태의 소형 소형 패턴을 로봇에 장착하고, 핸드 아이 캘리브레이션을 수행함으로써, 소형 패턴이 장착된 상태에서도 로봇 구동이 가능하도록 사용자 편의성을 높일 수 있다.
도 1은 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템의 구성을 도시한 블록도(100)이다.
도 2는 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템의 기능 처리 모듈(200)의 예를 도시한 도면이다.
도 3a 및 도 3b는 다양한 실시예들에 따른 로봇의 일례를 도시한 도면이다.
도 4는 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템의 동작 방법을 도시한 흐름도(400)이다.
도 5는 다양한 실시예들에 따른 로봇의 이동에 대응하여 체크보드를 구성하는 일례를 도시한 도면이다.
도 6a 및 도 6b는 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템의 캘리브레이션 방법을 도시한 흐름도(600)이다.
도 7은 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템의 로봇 고장 진단 방법을 도시한 흐름도(700)이다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나","A 또는 B 중 적어도 하나," "A, B 또는 C," "A, B 및 C 중 적어도 하나," 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)에 의해 읽을 수 있는 저장 매체(storage medium)에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 핸드 아이 캘리브레이션 시스템(101))의 프로세서(예: 프로세서(130))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체 는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 1은 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템의 구성을 도시한 블록도(100)이다.
도 1을 참조하면, 핸드 아이 캘리브레이션 시스템(101)은 메모리(110), 통신 모듈(120), 프로세서(130), 인터페이스(140), 입력 장치(150), 및 표시 장치(160)를 포함할 수 있다. 핸드 아이 캘리브레이션 시스템(101)은 인터페이스(140)를 통해 복수의 로봇들(제1 로봇(171) 내지 제N 로봇(17N, N은 자연수)) 및 복수의 카메라들(제1 카메라(181) 내지 제N 카메라(18N))과 연결될 수 있다. 다양한 실시예들에 따르면, 핸드 아이 캘리브레이션 시스템(101)은 통신 모듈(120)을 통해 상기 복수의 로봇들 및 상기 복수의 카메라들과 연결될 수도 있다.
메모리(110)는 핸드 아이 캘리브레이션 시스템(101)의 적어도 하나의 구성요소(예: 프로세서(130))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 예를 들어, 메모리(110)는 체크 보드(checker board)(예: 핸드 아이 캘리브레이션을 위한 체크 보드) 내 진행 방향 및 설정치(예: x축 설정치, y축 설정치)를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(110)는 휘발성 메모리 또는 비휘발성 메모리를 포함할 수 있다. 프로그램은 메모리(110)에 소프트웨어로서 저장될 수 있다.
통신 모듈(120)은 핸드 아이 캘리브레이션 시스템(101)과 복수의 로봇들(제1 로봇(171) 내지 제N 로봇(17N) 및 복수의 카메라들(제1 카메라(181) 내지 제N 카메라(18N))과 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(120)은 프로세서(130)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(100)은 무선 통신 모듈(예: 근거리 무선 통신 모듈) 또는 유선 통신 모듈(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다.
프로세서(130)는, 예를 들면, 소프트웨어(예: 프로그램)를 실행하여 프로세서(130)에 연결된 핸드 아이 캘리브레이션 시스템(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(130)는 다른 구성요소(예: 통신 모듈(120))로부터 수신된 명령 또는 데이터를 메모리(110)에 로드하고, 메모리(110)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 메모리(110)에 저장할 수 있다. 일실시예에 따르면, 프로세서(130)는 메인 프로세서(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다.
다양한 실시예들에 따르면, 프로세서(130)는 제1 로봇(171), 제2 로봇(172) 및 제N 로봇(17N)을 제어할 수 있다. 예를 들어, 프로세서(130)는 메모리(110)에 저장된 체크 보드(또는 캘리브레이션 체크 보드) 내 진행 방향에 기반하여 제1 로봇(171), 제2 로봇(172) 및 제N 로봇(17N)을 각각 이동시키고, 이동된 각 로봇의 자세 정보를 획득할 수 있다. 또한, 프로세서(130)는 복수의 카메라들(제1 카메라(181) 내지 제N 카메라(18N))로부터 이미지를 획득할 수 있다. 예를 들어, 프로세서(130)는 제1 로봇(171)이 상기 체크 보드 내 모든 위치(x축, y축 이동)를 이동할 때까지 제1 로봇(171)을 평면으로 이동시켜 자세 정보를 획득하고, 제1 카메라(181)로부터 이미지를 획득하는 동작을 반복적으로 수행할 수 있다. 프로세서(130)는 제1 로봇(171)을 상기 체크 보드 내 모든 위치를 이동시킨 후, 제1 카메라(181)의 위치를 이동시킬 수 있다.
다양한 실시예들에 따르면, 프로세서(130)는 핸드 아이 캘리브레이션 성능을 높이기 위하여 다양한 각도에서 촬영한 이미지를 이용할 수 있다. 프로세서(130)는 제1 카메라(181))의 위치를 이동시킨 후, 제1 로봇(171)을 상기 체크 보드 내 모든 위치를 이동시켜 자세 정보 및 이미지를 획득하는 동작을 반복적으로 수행할 수 있다. 프로세서(130)는 설정된 횟수(예: M)를 만족할 때까지 제1 카메라(181)의 위치를 이동시킬 수 있다. 프로세서(130)는 설정된 횟수만큼 카메라의 위치 이동시켜 각 로봇에 대응하는 복수의 자세 정보 및 복수의 이미지들을 획득하고, 획득한 자세 정보 및 이미지들을 이용하여 핸드 아이 캘리브레이션할 수 있다.
프로세서(130)는 핸드 아이 캘리브레이션 후, 각 로봇에 대한 고장 여부를 판단할 수 있다. 프로세서(130)는 각 로봇에 대한 고장 진단을 위하여 제1 로봇(171), 제2 로봇(172) 및 제N 로봇(17N)을 모니터링할 수 있다. 프로세서(130)는 제1 카메라(181), 제2 카메라(182), 및 제N 카메라(18N) 각각으로부터 제1 로봇(171), 제2 로봇(172) 및 제N 로봇(17N)을 촬영한 이미지를 획득할 수 있다. 프로세서(130)는 이미지 내 소형 패턴 위치 정보 및 로봇의 자세 정보를 이용하여 산출한 제1 패턴 좌표계 정보와 로봇의 관절 각도를 이용하여 수학식으로 산출한 제2 패턴 좌표계 정보 간의 차이를 이용하여 로봇의 고장을 진단할 수 있다. 프로세서(130)는 로봇 고장이 진단되면, 핸드 아이 캘리브레이션을 수행할 수 있다.
인터페이스(140)는 핸드 아이 캘리브레이션 시스템(101)이 복수의 로봇들(제1 로봇(171) 내지 제N 로봇(17N)) 및 복수의 카메라들(제1 카메라(181) 내지 제N 카메라(18N))과 물리적으로 연결될 수 있다. 실시예들에 따르면, 인터페이스(140)의 형태(또는 모양)는 다양하게 형성될 수 있다.
입력 장치(150)는 핸드 아이 캘리브레이션 시스템(101)의 구성요소(예: 프로세서(130))에 사용될 명령 또는 데이터를 핸드 아이 캘리브레이션 시스템(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)는 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
표시 장치(160)는 핸드 아이 캘리브레이션 시스템(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)는 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다.
제1 로봇(171), 제2 로봇(172) 및 제N 로봇(17N, N은 자연수)에는 엔드 이펙터(end-effector)가 장착될 수 있다. 엔드 이펙터가 장착되는 제1 로봇(171), 제2 로봇(172) 및 제N 로봇(17N)은 캘리브레이션을 위해 소형 패턴이 장착될 수 있다. 상기 소형 패턴은 핸드 아이 캘리브레이션을 위한 체크 보드(이하, 체크 보드)보다 작은 형태의 체크 보드로 형성될 수 있다. 예를 들어, 상기 체크 보드는 10x10 매트릭스로 형성되고, 상기 소형 소형 패턴은 2x2 매트릭스 형태(예: 체크 보드(checker board))로 형성될 수 있다. 즉, 상기 체크 보드는 상기 소형 패턴의 크기보다 클 수 있다. 이하에서는 설명의 편의를 위해 소형 패턴을 2x2 매트릭스를 예로 들어 설명하지만, 설명에 의해 소형 패턴이 한정되는 것은 아니다.
다양한 실시예들에 따르면, 2x2 매트릭스에서 같은 열이나 행에 포함되는 사각형은 서로 다른 색상으로 형성되고, 대각선으로 서로 대향하는 사각형은 동일한 색상으로 형성될 수 있다. 예를 들어, (1,1), (2,2) 사각형은 어두운 색상(예: 검은색)으로 형성되고, (1,2), (2,1) 사각형은 밝은 색상(예: 흰색)으로 형성될 수 있다. 제1 로봇(171), 제2 로봇(172) 및 제N 로봇(17N)은 프로세서(130)의 제어에 따라 위치, 방향, 또는 이동 형태 중 적어도 하나를 제어할 수 있다. 제1 로봇(171), 제2 로봇(172) 및 제N 로봇(17N)은 프로세서(130)의 제어에 따라 평면으로 이동할 수 있으며, 예를 들어, 제1 방향(예: x축(좌/우), 가로 방향) 또는 제2 방향(예: y축(상/하), 세로 방향)으로 이동할 수 있다. 이하에서는 소형 패턴이 장착된 로봇을 '소형 패턴 로봇'이라 할 수 있다.
제1 카메라(181), 제2 카메라(182), 및 제N 카메라(18N, N은 자연수)는 각 로봇(예: 제1 로봇(171), 제2 로봇(172) 및 제N 로봇(17N))에 대응하여 설치될 수 있다. 예를 들어, 제1 카메라(181)는 제1 로봇(171)을 촬영하도록 설치되고, 제2 카메라(182)는 제2 로봇(172)을 촬영하도록 설치되며, 제N 카메라(18N)는 제N 로봇(17N)을 촬영하도록 설치될 수 있다. 예를 들어, 제1 카메라(181)는 제1 로봇(171)에 장착된 소형 패턴을 촬영하도록 설치될 수 있다. 다양한 실시예들에 따르면, 제1 카메라(181)는 제1 로봇(171)의 이동에 따라 이동하면서 제1 로봇(171)에 장착된 소형 패턴을 촬영하고, 촬영한 이미지를 프로세서(130)로 전송할 수 있다. 제1 카메라(181)는 제1 로봇(171)이 상기 체크 보드 내 위치를 이동할 때마다 이미지를 획득할 수 있다. 제1 카메라(181)는 제1 로봇(171)이 상기 체크 보드 내 모든 위치를 이동한 이후, 프로세서(130)의 제어 따라 위치가 이동될 수 있다. 제1 카메라(181)는 설정된 횟수(예: M)만큼 위치를 이동하면서 제1 로봇(171)에 장착된 소형 패턴을 촬영하고, 촬영한 이미지를 프로세서(130)로 전송할 수 있다. 제1 카메라(181)는 제1 로봇(171)이 x축으로 n번 이동하고, 제1 로봇(171)이 y축으로 m번 이동하고, 제1 카메라(181)의 위치가 M번 이동한 만큼(예: n*m*M)의 이미지를 획득할 수 있다.
다양한 실시예들에 따르면, 제1 로봇(171)이 양팔 로봇인 경우, 제1 카메라(181)는 양팔 로봇의 한 팔에 장착되고, 소형 패턴이 양팔 로봇의 다른 팔에 장착될 수 있다. 양팔 로봇의 경우 카메라가 장착된 한쪽 팔에도 엔드 이펙터가 장착될 수 있다. 다양한 실시예들에 따르면, 제1 로봇(171)이 한 팔 로봇인 경우, 제1 카메라(181)는 한 팔 로봇의 외부에 장착되고, 소형 패턴이 한 팔 로봇에 장착될 수 있다. 제1 카메라(181)가 한 팔 로봇의 외부에 장착된 경우에도, 제1 카메라(181)는 프로세서(130)의 제어에 따라 위치를 이동하면서 제1 로봇(171)에 장착된 소형 패턴을 촬영하고, 촬영한 이미지를 프로세서(130)로 전송할 수 있다. 소형 패턴이 장착된 한 팔 로봇에 엔드 이펙터가 장착될 수 있다. 이하에서는, 카메라가 장착된 로봇을 '카메라 로봇'이라 할 수 있다.
도면에서는 3개의 로봇 및 3개의 카메라를 예로 들었지만, 로봇 및 카메라는 그보다 많거나(예: N이 4보다 큰 수) 적을 수 있다(예: N이 3보다 작은 수).
도 2는 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템의 기능 처리 모듈의 예를 도시한 도면이다.
도 2를 참조하면, 기능 처리 모듈(200)은 프로세싱 회로(processing circuitry)를 포함하는 프로세서(예: 도 1의 프로세서(130))에 하드웨어 모듈(hardware module)로 포함되거나, 또는 소프트웨어 모듈(software module)로 포함될 수 있다. 기능 처리 모듈(200)은 이미지 획득 모듈(210), 로봇 제어 모듈(220), 캘리브레이션 모듈(230) 및 모니터링 모듈(240)을 포함할 수 있다.
이미지 획득 모듈(210)은 핸드 아이 캘리브레이션 시스템(101)에 포함된(또는 연결된) 카메라(예: 도 1의 카메라(181) 내지 제N 카메라(18N))로부터 이미지(또는 프레임)를 획득할 수 있다. 상기 카메라는 소형 패턴 로봇(또는 패턴 로봇)(예: 도 1의 제1 로봇(171) 내지 제N 로봇(17N))에 대응하여 설치될 수 있다. 상기 카메라는 하나의 소형 패턴 로봇에 하나 또는 하나 이상이 설치될 수 있다. 이미지 획득 모듈(210)은 상기 소형 패턴 로봇의 이동에 따른 이미지를 획득할 수 있다. 이미지 획득 모듈(210)은 소형 패턴 로봇 이동 동작에 대응하여 이미지를 획득하는 동작을 반복적으로 수행할 수 있다.
다양한 실시예들에 따르면, 이미지 획득 모듈(210)은 이미지 획득 시, 카메라의 각도(또는 카메라의 위치)를 획득할 수 있다. 예를 들어, 이미지 획득 모듈(210)은 제1 위치에서 소형 패턴 로봇 이동에 따라 촬영한 복수의 이미지들을 획득하고, 제2 위치에서 소형 패턴 로봇 이동에 따라 촬영한 복수의 이미지들을 획득할 수 있다. 이미지 획득 모듈(210)은 설정된 횟수만큼 위치 이동한 카메라로부터 각 위치에서의 복수의 이미지들을 획득할 수 있다. 이미지 획득 모듈(210)은 획득한 이미지(또는 복수의 이미지들)를 캘리브레이션 모듈(230)에 전달하거나, 메모리(예: 도 1의 메모리(110))에 저장할 수 있다. 복수의 카메라가 설치된 경우, 이미지 획득 모듈(210)은 이미지를 전송한 카메라의 카메라 식별자에 대응하여 상기 이미지를 저장할 수 있다.
로봇 제어 모듈(220)은 핸드 아이 캘리브레이션 시스템(101)에 포함된(또는 연결된) 소형 패턴 로봇(예: 도 1의 제1 로봇(171) 내지 제N 로봇(17N))을 제어할 수 있다. 로봇 제어 모듈(220)은 소형 패턴 로봇의 위치, 방향, 이동 형태 중 적어도 하나를 제어할 수 있다. 예를 들어, 로봇 제어 모듈(220)은 소형 패턴 로봇을 x축 또는 y축 평면으로 이동시킬 수 있다. 소형 패턴 로봇은 엔드 이펙터가 장착될 수 있으며, 핸드 아이 캘리브레이션을 위해 소형 패턴이 장착될 수 있다. 로봇 제어 모듈(220)은 메모리(예: 도 1의 메모리(110))에 저장된 체크 보드 내 진행 방향에 기초하여 소형 패턴 로봇을 이동시킬 수 있다. 상기 체크 보드는 상기 소형 패턴의 매트릭스보다 클 수 있다. 예를 들어, 상기 체크 보드 내 1x1의 크기가 소형 패턴의 크기와 동일할 수 있다. 예를 들어, 소형 패턴이 2x2 매트릭스인 경우, 로봇 제어 모듈(220)은 소형 패턴 로봇이 10x10 매트릭스 형태의 체크 보드 내 모든 위치를 이동할 수 있도록 소형 패턴 로봇의 이동을 제어할 수 있다. 로봇 제어 모듈(220)은 소형 패턴 로봇의 이동에 따른 자세 정보(또는 좌표 정보, 위치 정보)를 캘리브레이션 모듈(230)로 전달할 수 있다. 로봇 제어 모듈(220)은 소형 패턴 로봇이 체크 보드 내 모든 위치를 이동할 때까지 소형 패턴 로봇을 이동시키는 동작을 반복적으로 수행하고, 이동 동작에 따라 변화된 자세 정보를 캘리브레이션 모듈(230)로 전달할 수 있다.
캘리브레이션 모듈(230)(또는 핸드 아이 캘리브레이션 모듈)은 이미지 획득 모듈(210)로부터 획득한 이미지와 로봇 제어 모듈(220)로부터 획득한 자세 정보를 이용하여 핸드 아이 캘리브레이션을 수행할 수 있다. 캘리브레이션 모듈(230)은 모니터링 모듈(240)로부터 오동작이 검출된 경우, 이미지 획득 모듈(210)로부터 획득한 이미지와 로봇 제어 모듈(220)로부터 획득한 자세 정보를 이용하여 핸드 아이 캘리브레이션을 수행할 수 있다.
예를 들어, 캘리브레이션 모듈(230)은 복수의 이미지들 및 복수의 자세 정보들을 이용하여 핸드 아이 캘리브레이션을 수행할 수 있다. 예를 들어, 상기 복수의 이미지들은 제1 카메라(181)에서 제1 로봇(171)을 촬영한 제1 이미지, 제1 로봇(171)을 x축으로 1회 이동시킨 제1 로봇(171)을 촬영한 제2 이미지, 제1 로봇(171)을 x축으로 2회 이동시킨 제1 로봇(171)을 촬영한 제3 이미지를 포함하는 것일 수 있다. 상기 복수의 자세 정보들은 제1 로봇(171)의 제1 위치 정보(예: 이동하기 전 현재 위치), x축으로 1회 이동한 제1 로봇(171)의 제2 위치 정보, 제2 위치 정보에서 x축으로 1회 이동한 제1 로봇(171)의 제3 위치 정보(예: x축으로 2회 이동한 위치)를 포함할 수 있다. 상기 복수의 이미지들은 제1 로봇(171)을 y축으로 이동하면서 획득한 이미지를 포함하고, 상기 복수의 자세 정보들은 제1 로봇(171)을 y축으로 이동하면서 획득한 자세 정보를 포함할 수 있다. 또한, 상기 복수의 이미지들은 카메라의 위치를 이동시키면서 제1 로봇(171)을 촬영한 이미지를 포함할 수 있다.
다양한 실시예들에 따르면, 핸드 아이 캘리브레이션은 상기 카메라(또는 카메라 로봇)와 소형 패턴 로봇 간의 관계를 대응시켜, 상기 소형 패턴 로봇의 소형 패턴의 좌표(또는 좌표값) 정보(또는 위치 정보)와 체크 보드 내 좌표 정보를 일치시키는 것일 수 있다. 예를 들어, 상기 핸드 아이 캘리브레이션은 상기 획득한 이미지 내 소형 패턴이 위치한 위치 정보와 체크 보드 내 소형 패턴이 위치하는 위치 정보를 일치(또는 대응)시키는 것일 수 있다. 카메라는 장착되는 위치에 따라 로봇을 촬영하는 각도 또는 방향이 다를 수 있다. 또는, 카메라에 따라 초점 거리, 화각, 밝기가 다르기 때문에, 동일한 카메라가 아닌 경우 동일한 피사체를 촬영한다 하더라도 이미지 내 피사체의 위치, 방향이 다를 수 있다. 캘리브레이션 모듈(230)은 복수의 이미지들 및 복수의 자세 정보들을 이용하여 카메라와 로봇 간의 대응 관계(또는 지역적 관계)를 결정(또는 예측)할 수 있다. 캘리브레이션 모듈(230)은 대응 관계에 기반하여 카메라와 소형 패턴 로봇을 셋팅할 수 있다. 이후 소형 패턴 로봇의 오동작 여부를 카메라로부터 촬영된 이미지를 이용하여 판단할 수 있다. 캘리브레이션 모듈(230)은 모니터링 모듈(240)로부터 소형 패턴 로봇의 오동작을 전달받는 경우, 이후 이미지 획득 모듈(210)로부터 획득하는 이미지 및 로봇 제어 모듈(220)로부터 획득한 자세 정보를 이용하여 핸드 아이 캘리브레이션하는 동작을 수행할 수 있다.
모니터링 모듈(240)은 소형 패턴 로봇(예: 도 1의 제1 로봇(171) 내지 제N 로봇(17N))을 모니터링할 수 있다. 캘리브레이션 수행이 완료되면, 캘리브레이션에 기반하여 소형 패턴 로봇의 동작 정보(예: 위치 또는 방향)가 결정될 수 있다. 예를 들어, 소형 패턴 로봇은 동작 정보에 따라 체크 보드 내 평면 이동을 할 수 있는데, 소형 패턴 로봇에 오동작이 발생하면 소형 패턴 로봇이 체크 보드 내 정해진 위치로 이동되지 않을 수 있다. 모니터링 모듈(240)은 캘리브레이션 수행 후, 소형 패턴 로봇이 정상적으로 동작하는지 여부를 주기적으로 또는 선택적으로 모니터링할 수 있다. 모니터링 모듈(240)은 주기적으로 또는 선택적으로 이미지 획득 모듈(210)로부터 이미지를 획득하고, 획득한 이미지 내 소형 패턴이 정해진 위치에 위치하는지 여부를 판단할 수 있다. 예를 들어, 모니터링 모듈(240)은 이미지 내 소형 패턴 위치 정보 및 로봇의 자세 정보를 이용하여 산출한 제1 패턴 좌표계 정보와 로봇의 관절 각도를 이용하여 수학식으로 산출한 제2 패턴 좌표계 정보 간의 차이를 이용하여 로봇의 고장을 진단할 수 있다. 모니터링 모듈(240)은제1 패턴 좌표계 정보와 제2 패턴 좌표계 정보 간의 차이가 기설정된 임계치를 초과하는 경우, 소형 패턴 로봇의 오동작(또는 고장)으로 판단할 수 있다. 모니터링 모듈(240)은 오동작 여부를 캘리브레이션 모듈(230)로 전달할 수 있다.
본 발명의 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템(예: 도 1의 핸드 아이 캘리브레이션 시스템(100))은, 소형 패턴을 장착한 로봇(예: 도 1의 제1 로봇(171) 내지 제N 로봇(17N)), 상기 로봇을 촬영하도록 구성된 카메라(예: 도 1의 제1 카메라(181) 내지 제N 카메라(18N)), 메모리(예: 도 1의 메모리(110)), 및 프로세서(예: 도 1의 프로세서(130))를 포함하고, 상기 프로세서는, 상기 로봇을 이동시키는 동작, 상기 이동된 로봇의 자세 정보를 획득하는 동작, 상기 카메라로부터 이미지를 획득하는 동작, 및 상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 카메라를 이동시키는 동작을 포함하고, 상기 동작들을 반복하여 획득한 상기 자세 정보 및 상기 이미지에 기반하여 상기 로봇에 대한 핸드 아이 캘리브레이션을 수행하도록 설정될 수 있다.
상기 로봇은 양팔 로봇이고, 상기 양팔 로봇의 한 팔에 상기 소형 패턴이 장착되고, 상기 양팔 로봇의 다른 팔에 상기 카메라가 장착되도록 설정될 수 있다.
상기 메모리는, 체크 보드 내 진행 방향을 저장하고, 상기 프로세서는, 상기 진행 방향에 기반하여 상기 로봇을 평면으로 이동시키도록 설정될 수 있다.
상기 프로세서는, 상기 획득한 이미지에 포함된 소형 패턴의 좌표 정보와 상기 체크 보드 내 좌표 정보가 대응되도록 핸드 아이 캘리브레이션을 수행하도록 설정될 수 있다.
상기 프로세서는, 상기 진행 방향에 기반하여 상기 로봇을 x축 단위 또는y축 단위로 이동시키도록 설정될 수 있다.
상기 로봇에 장착된 소형 패턴은, 상기 체크 보드보다 작은 형태의 체크 보드로 형성되도록 설정될 수 있다.
상기 프로세서는, 상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 로봇과 상기 카메라의 위치를 초기화하도록 설정될 수 있다.
상기 프로세서는, 상기 초기화 후, 상기 카메라의 위치 이동이 필요한지 여부를 판단하고, 상기 판단 결과에 기초하여 상기 카메라를 이동시키고, 상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행하도록 설정될 수 있다.
상기 프로세서는, 상기 카메라의 위치 이동 횟수가 설정된 횟수 미만인지 여부를 판단하고, 상기 위치 이동 횟수가 설정된 횟수 미만인 경우, 상기 카메라의 위치 이동이 필요한 것으로 판단하도록 설정될 수 있다.
상기 프로세서는, 상기 핸드 아이 캘리브레이션을 수행한 후, 상기 로봇을 모니터링하고, 상기 모니터링 결과에 기반하여 상기 로봇의 고장을 진단하도록 설정될 수 있다.
상기 프로세서는, 상기 카메라로부터 획득한 이미지 내 패턴 위치에 기반하여 제1 패턴 좌표계 정보를 획득하고, 로봇 기구학으로 산출한 제2 패턴 좌표계 정보를 획득하고, 상기 제1 패턴 좌표계 정보 및 상기 제2 패턴 좌표계 정보에 기반하여 상기 로봇의 고장을 진단하도록 설정될 수 있다.
상기 프로세서는, 상기 제1 패턴 좌표계 정보 및 상기 제2 패턴 좌표계 정보 간의 차이가 임계치 미만인지 여부를 식별하고, 상기 차이가 임계치 미만인 경우 상기 로봇이 정상 동작하는 것으로 판단하고, 상기 차이가 임계치 이상인 경우 상기 로봇이 정상 동작하지 않는 것으로 판단하도록 설정될 수 있다.
상기 프로세서는, 상기 로봇이 고장으로 진단되는 경우, 상기 핸드 아이 캘리브레이션을 재수행하도록 설정될 수 있다.
도 3a 및 도 3b는 다양한 실시예들에 따른 로봇의 일례를 도시한 도면이다.
도 3a는 양팔 로봇의 캘리브레이션의 일례를 도시한 도면이다.
도 3a를 참조하면, 핸드 아이 캘리브레이션 시스템(예: 도 1의 핸드 아이 캘리브레이션 시스템(101))은 양팔 로봇(예: 도 1의 제1 로봇(171) 내지 제N 로봇(17N))의 캘리브레이션을 수행할 수 있다. 예를 들어, 양팔 로봇의 한 팔에는 카메라(예: 도 1의 제1 카메라(181) 내지 제N 카메라(18N))를 장착하고, 다른 한 팔에는 소형 패턴(310)을 장착할 수 있다. 이하에서, 양팔 로봇을 제1 로봇(171)이라 하고, 제1 로봇(171)을 촬영하는 카메라를 제1 카메라(181)로 설명한다. 제1 로봇(171)에는 엔드 이펙터(311)가 장착될 수 있다. 또한, 제1 카메라(181)에도 엔드 이펙터(313)가 장착될 수 있다. 제1 카메라(181)(예: 카메라 로봇)는 제1 로봇(171)(예: 소형 패턴이 장착된 로봇)을 촬영할 수 있다. 다양한 실시예들에 따르면, 제1 카메라(181)는 제1 로봇(171)을 촬영하도록 설정될 수 있다. 핸드 아이 캘리브레이션 시스템(101)의 프로세서(130)는 제1 로봇(171)을 평면 상에서 이동시키고, 제1 카메라(181)로 제1 로봇(171)을 촬영하여 촬영된 이미지를 획득할 수 있다. 프로세서(130)는 획득한 이미지와 소형 패턴 로봇의 자세 정보(또는 위치 정보)를 이용하여 양팔 로봇의 핸드 아이 캘리브레이션을 수행할 수 있다.
다양한 실시예들에 따르면, 프로세서(130)는 획득한 이미지를 기반으로 R1, F1, J1, G1, C(예: 제1 카메라(181))간의 상관 관계를 구하고, 상관 관계를 이용하여 제1 카메라(181)의 위치 정보(또는 자세 정보)를 획득할 수 있다. 프로세서(130)는 이미지 내 소형 패턴의 위치에 기반하여 R1 및 F1 간의 위치(또는 각도)에 대한 제1 상관 관계, J1 및 G1 간의 위치(또는 각도)에 대한 제2 상관 관계, G1 및 C 간의 위치(또는 각도)에 대한 제3 상관 관계를 산출할 수 있다. 프로세서(130)는 제1 상관 관계, 제2 상관 관계 또는 제3 상관 관계에 기반하여 R1, F1, J1, G1 및 C 간의 위치(또는 각도)에 대한 상관 관계를 산출할 수 있다. 프로세서(130)는 획득한 이미지를 기반으로 R2, F2, J2, G2와 P(예: 소형 패턴(310)) 간의 상관 관계(예: R2와 F2, J2와 G2, G2와 P)를 구하고, 상관 관계를 이용하여 제1 로봇(171)의 자세 정보를 획득할 수 있다. 프로세서(130)는 제1 카메라(181)의 위치 정보와 제1 로봇(171)의 자세 정보를 서로 매칭하여 양팔 로봇의 핸드 아이 캘리브레이션을 수행할 수 있다.
다양한 실시예들에 따르면, 프로세서(130)는 제1 카메라(181)의 제1 위치에서 체크 보드 내 모든 위치로 제1 로봇(171)을 이동시키며 자세 정보 및 이미지를 획득한 이후, 제1 카메라(181)를 제2 위치로 이동시켜 자세 정보 및 이미지를 획득할 수 있다. 프로세서(130)는 설정된 횟수만큼 제1 카메라(181)의 위치(또는 각도)를 이동시키며 자세 정보 및 이미지를 획득하고, 획득한 자세 정보 및 이미지를 이용하여 제1 카메라(181)의 위치 정보와 제1 로봇(171)의 자세 정보를 서로 매칭하여 양팔 로봇의 핸드 아이 캘리브레이션을 수행할 수 있다. 상기 핸드 아이 캘리브레이션은 제1 로봇(171)의 소형 패턴의 좌표 정보와 체크 보드 내 좌표 정보를 일치(또는 대응)시키는 것일 수 있다.
도 3b는 한 팔 로봇의 캘리브레이션의 일례를 도시한 도면이다.
도 3b를 참조하면, 핸드 아이 캘리브레이션 시스템(101)은 한 팔 로봇(예: 도 1의 제1 로봇(171) 내지 제N 로봇(17N))의 캘리브레이션을 수행할 수 있다. 예를 들어, 한 팔 로봇(예: 제2 로봇(172))에 소형 패턴(320)을 장착하고, 한 팔 로봇의 외부에 카메라(예: 제2 카메라(182))를 장착할 수 있다. 제2 카메라(182)는 제2 로봇(172)에 장착된 소형 패턴(310)을 촬영하도록 장착될 수 있다. 제2 로봇(172)에는 엔드 이펙터(321)가 장착될 수 있다. 핸드 아이 캘리브레이션 시스템(101)의 프로세서(130)는 제2 로봇(172)을 평면 상에서 이동시키고, 제2 카메라(182)에서 한 팔 로봇을 촬영하여 촬영된 이미지를 획득할 수 있다. 프로세서(130)는 획득한 이미지와 제2 로봇(172)의 자세 정보(또는 좌표 정보)를 이용하여 제2 로봇(172)의 핸드 아이 캘리브레이션을 수행할 수 있다. 프로세서(130)는 제2 카메라(182)의 위치 정보를 관리자(또는 사용자)로부터 입력받을 수 있다. 프로세서(130)는 상기 획득한 이미지를 기반으로 R2, F2, J2, G2 간의 상관 관계를 구하고, 상관 관계를 이용하여 제2 로봇(172)의 자세 정보를 획득할 수 있다
프로세서(130)는 제2 로봇(172)을 체크 보드 내 모든 위치를 이동시키며 자세 정보 및 이미지를 획득한 이후, 제2 카메라(182)를 다른 위치(예: 제2 위치)로 이동시켜 제2 로봇(172)을 체크 보드 내 모든 위치를 이동시키며 자세 정보 및 이미지를 획득할 수 있다. 프로세서(130)는 설정된 횟수만큼 제2 카메라(182)의 위치(또는 각도)를 이동시키며 자세 정보 및 이미지를 획득하고, 획득한 자세 정보 및 이미지를 이용하여 제2 카메라(182)의 위치 정보와 제2 로봇(172)의 자세 정보를 서로 매칭하여 제2 로봇(172)의 핸드 아이 캘리브레이션을 수행할 수 있다.
도 4는 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템의 동작 방법을 도시한 흐름도(400)이다.
도 4를 참조하면, 동작(401)에서, 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템(예: 핸드 아이 캘리브레이션 시스템(101))의 프로세서(예: 도 1의 프로세서(130))는 초기 위치를 설정할 수 있다. 프로세서(130)는 로봇 업무에 기반하여 패턴 로봇(또는 소형 패턴 로봇)(예: 도 1의 제1 로봇(171) 내지 제N 로봇(17N))과 카메라 로봇(예: 도 1의 제1 카메라(181) 내지 제N 카메라(18N))의 위치를 설정할 수 있다. 예를 들어, 프로세서(130)는 핸드 아이 캘리브레이션을 위해 소형 패턴 로봇과 카메라를 지정된 위치(예: 초기 위치)로 이동시킬 수 있다.
동작(403)에서, 프로세서(130)는 소형 패턴 로봇의 제1 자세 정보(또는 위치 정보) 및 제1 이미지를 획득할 수 있다. 상기 소형 패턴 로봇은 양팔 로봇일 수도 있고, 한 팔 로봇일 수도 있다. 양팔 로봇인 경우 로봇의 한쪽 팔에는 카메라가 장착되고(예: 카메라 로봇), 다른 한쪽 팔에는 소형 패턴이 장착(예: 소형 패턴 로봇)될 수 있다. 한 팔 로봇인 경우 한 팔 로봇에 소형 패턴이 장착되고, 한 팔 로봇의 외부에 카메라가 장착될 수 있다. 소형 패턴이 장착된 로봇에 엔드 이펙터가 장착될 수 있다. 한 팔 로봇의 외부에 카메라가 장착된 경우, 프로세서(130)는 사용자로부터 카메라의 위치 정보를 획득할 수 있다.
프로세서(130)는 소형 패턴 로봇을 체크 보드 내에서 이동하기 전에 소형 패턴 로봇의 제1 자세 정보 및 카메라 로봇으로부터 소형 패턴 로봇의 소형 패턴을 촬영한 제1 이미지를 획득할 수 있다. 상기 제1 자세 정보 및 상기 제1 이미지는 초기 정보일 수 있다. 상기 제1 자세 정보는 소형 패턴의 위치를 나타내는 것일 수 있다. 소형 패턴이 2x2 매트릭스로 형성된 경우, 프로세서(130)는 매트릭스 내 한 지점을 제1 자세 정보로 획득할 수 있다. 예를 들어, 2x2 매트릭스는 9개의 지점을 포함하고, 프로세서(130)는 2x2 매트릭스의 중앙 지점을 제1 자세 정보로 획득할 수 있다. 이는 실시예에 불과할 뿐, 실시예에 의해 본 발명이 제한되는 것은 아니다.
동작(405)에서, 프로세서(130)(예: 도 2의 로봇 제어 모듈(220))는 소형 패턴 로봇을 이동시킬 수 있다. 프로세서(130)는 체크 보드 내 진행 방향에 기초하여 상기 소형 패턴 로봇을 이동시킬 수 있다. 상기 체크 보드 내 진행 방향은 핸드 아이 캘리브레이션 시스템(101)의 메모리(예: 메모리(110))에 미리 저장될 수 있다. 예를 들어, 프로세서(130)는 상기 진행 방향에 기반하여 소형 패턴 로봇을 x축 단위 길이로 1만큼 이동시킬 수 있다. 또는, 프로세서(130)는 상기 진행 방향에 기반하여 상기 소형 패턴 로봇을 y축 단위 길이로 1만큼 이동시킬 수 있다. 프로세서(130)는 소형 패턴 로봇을 이동한 후 소형 패턴 로봇의 이동 횟수를 카운트할 수 있다. 예를 들어, 프로세서(130)는 동작(405) 수행 시마다 이동 횟수를 1만큼 카운트할 수 있다. 상기 이동 횟수는 동작(405)이 수행될 때마다 누적될 수 있다.
동작(407)에서, 프로세서(130)(예: 도 2의 로봇 제어 모듈(220))는 소형 패턴 로봇의 제2 자세 정보를 획득할 수 있다. 프로세서(130)는 제1 자세 정보로부터 정해진 거리만큼 이동한 후, 제2 자세 정보를 획득할 수 있다.
동작(409)에서, 프로세서(130)(예: 도 2의 이미지 획득 모듈(210))는 상기 카메라로부터 제2 이미지를 획득할 수 있다. 프로세서(130)는 상기 소형 패턴 로봇의 이동 후 상기 소형 패턴 로봇을 촬영한 제2 이미지를 상기 카메라로부터 획득할 수 있다.
동작(411)에서, 프로세서(130)(예: 도 2의 로봇 제어 모듈(220))는 소형 패턴 로봇의 이동 횟수가 설정치 미만인지 여부를 판단할 수 있다. 프로세서(130)는 동작(405) 수행 후 카운트한 이동 횟수가 설정치를 초과하는지를 판단할 수 있다. 상기 설정치는 핸드 아이 캘리브레이션에 필요한 최소한의 정보를 획득할 수 있는 수치로 정해질 수 있다. 상기 설정치는 미리 설정되어, 메모리(110)에 저장될 수 있다. 프로세서(130)는 상기 이동 횟수가 상기 설정치 미만인 경우 동작(405)으로 리턴하고, 상기 이동 횟수가 상기 설정치 이상인 경우 동작(413)을 수행할 수 있다. 프로세서(130)는 동작(405)으로 리턴하면, 소형 패턴 로봇을 이동시키는 동작(예: 동작(405)), 자세 정보를 획득하는 동작(예: 동작(407)) 및 이미지를 획득하는 동작(예: 동작(409))을 반복 수행할 수 있다. 프로세서(130)는 상기 이동 횟수가 상기 설정치 이상이 될 때까지 동작(405) 내지 동작(411)을 반복 수행할 수 있다.
상기 이동 횟수가 설정치 이상인 경우, 동작(413)에서, 프로세서(130)는 카메라 로봇의 이동이 필요한지 여부를 식별(또는 판단)할 수 있다. 보다 정확하고 정교한 핸드 아이 캘리브레이션을 위해서, 프로세서(130)는 다양한 각도에서 촬영한 이미지를 이용할 수 있다. 상기 이동 횟수가 설정치 이상인 경우는 상기 소형 패턴 로봇이 상기 체크 보드 내 모든 위치를 이동한 경우를 의미할 수 있다. 상기 소형 패턴 로봇이 상기 체크 보드 내 모든 위치를 이동한 경우 프로세서(130)는 상기 카메라 로봇을 이동시킬 수 있다. 프로세서(130)는 상기 카메라 로봇을 이동시킬 때마다 카메라 로봇의 이동 횟수를 카운트하고, 카운트 횟수가 설정한 횟수(예: M번)를 초과하는 경우 카메라 로봇의 이동이 필요없다고 판단하고 동작(419)을 수행할 수 있다. 프로세서(130)는 카운트 횟수가 설정한 횟수 이하인 경우 카메라 로봇의 이동이 필요하다고 판단하고 동작(415)을 수행할 수 있다. 상기 설정된 횟수가 클수록 핸드 아이 캘리브레이션의 정확도가 높을 수 있다. 상기 설정된 횟수는 핸드 아이 캘리브레이션(100)의 설정 또는 사용자에 의해 설정될 수 있다.
상기 카메라 로봇의 이동이 필요한 경우, 동작(415)에서, 프로세서(130)는 로봇 위치를 초기화할 수 있다. 프로세서(130)는 상기 소형 패턴 로봇과 상기 카메라 로봇의 위치를 초기화할 수 있다. 동작(413)을 수행하는 경우, 상기 소형 패턴 로봇의 위치는 상기 체크 보드 내 종료 위치(예: 끝단)에 있을 수 있다. 프로세서(130)는 상기 소형 패턴 로봇과 상기 카메라 로봇의 위치를 초기화할 수 있다. 상기 초기화 위치는 동작(401)의 초기 위치와 동일할 수 있다.
동작(417)에서, 프로세서(130)는 상기 카메라 로봇을 이동시킬 수 있다. 프로세서(130)는 동작(403)을 수행할 때의 위치(또는 각도)와 다른 위치로 상기 카메라 로봇을 이동시킬 수 있다. 예를 들어, 첫번째 동작(403)을 수행할 때, 상기 카메라 로봇이 제1 위치인 경우, 프로세서(130)는 두번째 동작(403)을 수행할 때, 상기 카메라 로봇의 위치가 상기 제1 위치와 다른 제2 위치가 되도록 상기 카메라 로봇의 위치를 이동시킬 수 있다. 프로세서(130)는 상기 카메라 로봇의 위치를 이동한 후 동작(403)으로 리턴할 수 있다.
상기 카메라 로봇의 이동이 필요하지 않은 경우, 동작(419)에서, 프로세서(130)(예: 도 2의 캘리브레이션 모듈(230))는 자세 정보 및 이미지를 이용하여 핸드 아이 캘리브레이션할 수 있다. 예를 들어, 프로세서(130)는 상기 설정치가 12이고, 상기 설정된 횟수가 10인 경우, 동작(403) 내지 동작(409)을 수행하여 130개의 자세 정보 및 이미지를 획득할 수 있다. 프로세서(130)는 130개의 자세 정보 및 이미지에 기반하여 상기 카메라 로봇과 상기 소형 패턴 로봇 간의 관계를 대응시켜, 상기 소형 패턴 로봇의 소형 패턴의 좌표 정보와 상기 체크 보드 내 좌표 정보를 일치시키는 것일 수 있다. 예를 들어, 상기 핸드 아이 캘리브레이션은 상기 획득한 이미지 내 소형 패턴이 위치한 위치 정보와 체크 보드 내 소형 패턴이 위치하는 위치 정보를 일치시키는 것일 수 있다.
도 5는 다양한 실시예들에 따른 로봇의 이동에 대응하여 체크 보드를 구성하는 일례를 도시한 도면이다.
도 5를 참조하면, 로봇(예: 도 1의 제1 로봇(171) 내지 제N 로봇(17N))에는 소형 패턴(310)이 장착될 수 있다. 소형 패턴(310)은 복수개의 사각형으로 형성되는 매트릭스 형태로 형성될 수 있다. 예를 들어, 소형 패턴(310)은 2x2 매트릭스 형태로 제1 사각형(510), 제2 사각형(520), 제3 사각형(530), 제4 사각형(540)을 포함할 수 있다. 좌표로 나타내면, 제1 사각형(510)은 (1,1), 제2 사각형(520)은 (1,2), 제3 사각형(530)은 (2,1), 제4 사각형(540)은 (2,2)로 나타낼 수 있다. 소형 패턴(310)에서 같은 행에 포함된 제1 사각형(510)과 제2 사각형(520), 제3 사각형(530)과 제4 사각형(540)은 서로 다른 색상으로 형성될 수 있다. 또한, 소형 패턴(310)에서 같은 열에 포함된 제1 사각형(510)과 제3 사각형(530), 제2 사각형(520)과 제4 사각형(540)은 서로 다른 색상으로 형성될 수 있다. 소형 패턴(310)에서 대각선으로 서로 대향하는 제1 사각형(510)과 제4 사각형(540), 제2 사각형(520)과 제3 사각형(530)은 동일한 색상으로 형성될 수 있다. 예를 들어, 제1 사각형(510)과 제4 사각형(540)은 밝은 색상(예: 흰색)으로 형성되고, 제2 사각형(520)과 제3 사각형(630)은 어두운 색상(예: 검은색)으로 형성될 수 있다.
핸드 아이 캘리브레이션 시스템(예: 도 1의 핸드 아이 캘리브레이션 시스템(101))의 프로세서(예: 도 1의 프로세서(130))는 소형 패턴에 기반하여 소형 패턴 보다 큰 매트릭스를 갖는 체크 보드(550)를 구성할 수 있다. 예를 들어, 체크 보드(550) 내 1x1의 크기가 소형 패턴(310)의 크기와 동일할 수 있다. 소형 패턴(310)이 2x2 매트릭스인 경우, 체크 보드(550)는 4x4 매트릭스 형태를 가질 수 있다. 프로세서(130)는 체크 보드(550) 내 진행 방향(예: 굵은색으로 표기한 화살표)에 기반하여 소형 패턴(310)이 장착된 로봇을 1회 이동시켜 소형 패턴(310)을 제1 위치(551)에서 제2 위치(553)로 이동시킬 수 있다. 또한, 프로세서(130)는 소형 패턴(310)이 장착된 로봇을 이동시켜 소형 패턴(310)을 제2 위치(553)에서 제3 위치(555)로 이동시키고, 소형 패턴(310)을 제3 위치(555)에서 제4 위치(557)로 이동시킬 수 있다. 프로세서(130)는 소형 패턴(310)이 제1 위치(551)에 있는 경우, 소형 패턴 로봇의 제1 자세 정보를 획득하고, 상기 소형 패턴 로봇을 촬영한 제1 이미지를 획득하고, 소형 패턴(310)이 제2 위치(553)로 이동한 경우, 상기 소형 패턴 로봇의 제2 자세 정보를 획득하고, 상기 소형 패턴 로봇을 촬영한 제2 이미지를 획득할 수 있다.
다양한 실시예들에 따르면, 프로세서(130)는 체크 보드(550) 내 모든 위치에서 소형 패턴 로봇의 자세 정보 및 이미지를 획득할 수 있다. 프로세서(130)는 체크 보드(550) 내 모든 위치에서 소형 패턴 로봇의 자세 정보 및 이미지를 획득하면, 카메라 로봇의 위치를 이동시켜 다른 각도에서 소형 패턴 로봇의 자세 정보 및 이미지를 획득할 수 있다. 프로세서(130)는 상기 소형 패턴 로봇과 상기 카메라 로봇의 위치를 이동시키면서 획득한 복수의 자세 정보 및 복수의 이미지들을 이용하여 소형 패턴 로봇의 소형 패턴(310) 위치를 체크 보드(550) 내 위치에 대응되도록 핸드 아이 캘리브레이션할 수 있다.
핸드 아이 캘리브레이션은 소형 패턴(310) 내 9개의 지점 중 어느 하나의 지점을 체크 보드(550) 내 한 지점과 일치시키는 것일 수 있다. 예를 들어, 프로세서(130)는 소형 패턴(310) 내 제1 지점(511), 제2 지점(513), 제3 지점(515), 제4 지점(517), 제5 지점(519), 제6 지점(521), 제7 지점(523), 제8 지점(525), 제9 지점(527) 중 제 5 지점(519)을 체크 보드(550) 내 제2 지점(563)과 일치시킬 수 있다. 또는, 프로세서(130)는 소형 패턴(310) 내 제1 지점(511)을 체크 보드(550) 내 제1 지점(561)과 일치시킬 수 있다. 또는, 프로세서(130)는 소형 패턴(310) 내 제9 지점(527)을 체크 보드(550) 내 제3 지점(565)과 일치시킬 수 있다.
다양한 실시예들에 따르면, 프로세서(130)는 핸드 아이 캘리브레이션을 수행하여 시간의 흐름에 따라 상기 소형 패턴 로봇의 소형 패턴(310)이 체크 보드(550) 내 위치해야 할 위치를 결정할 수 있다. 이후, 프로세서(130)는 주기적으로 또는 선택적으로 소형 패턴 로봇의 위치를 모니터링함으로써, 소형 패턴 로봇이 정상 동작하는지 여부를 판단할 수 있다. 프로세서(130)는 소형 패턴 로봇이 정상 동작하지 않는 것으로 판단되면, 캘리브레이션 동작을 수행할 수 있다.
도 6a 및 도 6b는 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템의 캘리브레이션 방법을 도시한 흐름도(600)이다.
도 6a 및 도 6b를 참조하면, 동작(601)에서, 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템(예: 핸드 아이 캘리브레이션 시스템(101))의 프로세서(예: 도 1의 프로세서(130))는 체크 보드 내 진행 방향을 설정할 수 있다. 로봇 캘리브레이션 시 프로세서(130)는 소형 패턴(예: 도 3a의 소형 패턴(310)))을 장착한 로봇(예: 도 1의 제1 로봇(171))이 이동해야 할 위치(또는 방향)를 미리 설정할 수 있다. 캘리브레이션을 위해서는 소형 패턴이 장착될 로봇이 체크 보드 내 모든 위치를 이동하도록 하면 되기 때문에, 진행 방향은 실제 로봇의 구동 방향과 일치하거나, 일치하지 않을 수 있다. 상기 진행 방향은 핸드 아이 캘리브레이션 시스템(101)의 메모리(예: 메모리(110))에 저장될 수 있다.
다양한 실시예들에 따르면, 프로세서(130)는 양팔 로봇 셋팅 후, 초기 정보를 획득할 수 있다. 예를 들어, 프로세서(130)는 소형 패턴 로봇(예: 제1 로봇(171))의 자세 정보(예: 제1 자세 정보)를 획득하고, 제1 카메라(181)로부터 소형 패턴 로봇을 촬영한 이미지(예: 제1 이미지)를 획득할 수 있다. 상기 제1 자세 정보 및 상기 제1 이미지는 초기 정보로서, 도 5의 체크 보드(550)에서 제1 위치(551)에 해당할 수 있다.
동작(603)에서, 프로세서(130)(예: 도 2의 로봇 제어 모듈(220))는 x축 이동 횟수가 x축 설정치 미만인지 여부를 판단할 수 있다. 상기 x축 설정치(예: n)는 캘리브레이션하는데 필요한 최소한의 이동 횟수를 기반으로 설정될 수 있다. 예를 들어, 상기 x축 설정치는 핸드 아이 캘리브레이션 시스템(101)에 미리 설정되거나, 핸드 아이 캘리브레이션 시스템(101)의 관리자에 의해 입력될 수 있다. 상기 x축 설정치는 메모리(110)에 저장될 수 있다. 프로세서(130)는 상기 x축 이동 횟수가 상기 x축 설정치 미만인 경우, 동작(605)을 수행하고, 상기 x축 이동 횟수가 상기 x축 설정치 이상인 경우, 동작(619)을 수행할 수 있다.
동작(605)에서, 프로세서(130)(예: 도 2의 로봇 제어 모듈(220))는 상기 체크 보드 내 상기 진행 방향에 기초하여 소형 패턴 로봇을 x축 단위로 이동시킬 수 있다. 소형 패턴 로봇은 평면(예: 2차원) 이동할 수 있고, 먼저, x축 단위로 이동할 수 있다. 도면에서는 x축 단위로 이동하는 동작을 먼저 수행하는 것으로 도시하고 있지만, y축 단위로 이동하는 동작을 먼저 수행할 수 있다. 이는 구현 상의 문제일 뿐 발명의 내용을 제한하는 것은 아니다. 예를 들어, 소형 패턴(310)이 장착된 소형 패턴 로봇은 프로세서(130)의 제어에 따라 x축 단위로 1만큼 이동하여 체크 보드(550)에서 제2 위치(553)로 이동할 수 있다. 상기 x축 단위 이동은 좌측 방향 또는 우측 방향 중 어느 한 방향으로 한칸 이동하는 것을 의미할 수 있다. 좌측 방향으로 이동할 지 우측 방향으로 이동할지 여부는 상기 진행 방향에 기반할 수 있다. 프로세서(130)는 상기 소형 패턴 로봇을 이동한 후 x축 이동 횟수를 카운트할 수 있다. 상기 x축 이동 횟수는 동작(605)에 의해 소형 패턴 로봇이 이동됨에 따라 카운트될 수 있다. 프로세서(130)는 동작(605) 수행 시 마다 x축 이동 횟수를 누적할 수 있다.
동작(607)에서, 프로세서(130)는 좌표 정보(또는 자세 정보) 및 이미지를 획득할 수 있다. 프로세서(130)는 소형 패턴 로봇의 이동에 따라 변화되는 좌표 정보(예: (1,0))를 획득할 수 있다. 예를 들어, 프로세서(130)는 R2, F2, J2, G2와 P(예: 소형 패턴) 간의 상관 관계를 좌표 정보로서 획득할 수 있다. 프로세서(130)는 카메라 로봇에서 소형 패턴 로봇을 촬영한 이미지를 카메라 로봇으로부터 획득할 수 있다.
동작(609)에서, 프로세서(130)는 방향 전환이 필요한지 여부를 판단할 수 있다. 프로세서(130)는 상기 체크 보드 내 진행 방향에 기반하여 방향 전환이 필요한지 여부를 판단할 수 있다. 방향 전환은 x축 방향에서 y축 방향으로의 전환을 의미할 수 있다. 프로세서(130)는 방향 전환이 필요한 경우 동작(613)을 수행하고, 방향 전환이 필요하지 않은 경우 동작(603)으로 리턴할 수 있다. 동작(603)으로 리턴하면, 프로세서(130)는 동작(603)내지 동작(607)을 반복 수행할 수 있다.
방향 전환이 필요한 경우, 동작(611)에서, 프로세서(130)는 y축 이동 횟수가 y축 설정치 미만인지 여부를 판단할 수 있다. 상기 x축 설정치는 캘리브레이션하는데 필요한 최소한의 이동 횟수를 기반으로 설정될 수 있다. 예를 들어, 상기 y축 설정치(예: m)는 핸드 아이 캘리브레이션 시스템(101)에 미리 설정되거나, 핸드 아이 캘리브레이션 시스템(101)의 관리자에 의해 입력될 수 있다. 상기 y축 설정치는 메모리(110)에 저장될 수 있다. 프로세서(130)는 상기 y축 이동 횟수가 상기 y축 설정치 미만인 경우, 동작(613)을 수행하고, 상기 y축 이동 횟수가 상기 y축 설정치 이상인 경우, 동작(619)을 수행할 수 있다. 동작(611)은 동작(603)과 동일 또는 유하사므로 자세한 설명을 생략할 수 있다.
동작(613)에서, 프로세서(130)는 소형 패턴 로봇을 y축 단위로 이동시킬 수 있다. 예를 들어, 소형 패턴(310)이 장착된 소형 패턴 로봇(예: 제1 로봇(171))은 프로세서(130)의 제어에 따라 y축 단위로 1만큼 이동하여 체크 보드(예: 도 5의 체크 보드(550))에서 제5 위치로 이동할 수 있다. 동작(613)은 동작(605)과 동일 또는 유하사므로 자세한 설명을 생략할 수 있다. 프로세서(130)는 소형 패턴 로봇을 이동하고, y축 이동 횟수를 카운트할 수 있다. 상기 y축 이동 횟수는 동작(613)에 의해 소형 패턴 로봇이 이동됨에 따라 카운트될 수 있다.
동작(615)에서, 프로세서(130)는 좌표 정보 및 이미지를 획득할 수 있다. 프로세서(130)는 소형 패턴 로봇의 이동에 따라 변화되는 좌표 정보(예: (4,1))를 획득할 수 있다. 예를 들어, 프로세서(130)는 R2, F2, J2, G2와 P(예: 소형 패턴) 간의 상관 관계를 좌표 정보로서 획득할 수 있다. 프로세서(130)는 카메라 로봇에서 소형 패턴 로봇을 촬영한 이미지를 카메라 로봇으로부터 획득할 수 있다. 동작(615)은 동작(607)과 동일 또는 유하사므로 자세한 설명을 생략할 수 있다.
동작(617)에서, 프로세서(130)는 방향 전환이 필요한지 여부를 판단할 수 있다. 프로세서(130)는 상기 체크 보드 내 진행 방향에 기반하여 방향 전환이 필요한지 여부를 판단할 수 있다. 방향 전환은 y축 방향에서 x축 방향으로의 전환을 의미할 수 있다. 프로세서(130)는 방향 전환이 필요한 경우 동작(603)을 수행하고, 방향 전환이 필요하지 않은 경우 동작(619)을 수행할 수 있다.
방향 전환이 필요하지 않은 경우 동작(619)에서, 프로세서(130)는 카메라 로봇의 이동이 필요한지 여부를 식별(또는 판단)할 수 있다. 프로세서(130)는 보다 정확한 핸드 아이 캘리브레이션을 위해서, 다양한 각도에서 촬영한 이미지 및 좌표 정보를 획득할 수 있다. 상기 방향 전환이 필요하지 않은 경우는 상기 소형 패턴 로봇이 상기 체크 보드 내 모든 위치를 이동한 경우를 의미할 수 있다. 상기 소형 패턴 로봇이 상기 체크 보드 내 모든 위치를 이동한 경우 프로세서(130)는 상기 카메라 로봇을 이동시킬 수 있다. 프로세서(130)는 상기 카메라 로봇을 이동시킬 때마다 카메라 로봇의 이동 횟수를 카운트하고, 카운트 횟수가 설정한 횟수(예: M)를 초과하는 경우 카메라 로봇의 이동이 필요없다고 판단하고 동작(625)을 수행할 수 있다. 프로세서(130)는 카운트 횟수가 설정한 횟수 이하인 경우 카메라 로봇의 이동이 필요하다고 판단하고 동작(621)을 수행할 수 있다.
상기 카메라 로봇의 이동이 필요한 경우, 동작(621)에서, 프로세서(130)는 로봇 위치를 초기화할 수 있다. 프로세서(130)는 상기 소형 패턴 로봇과 상기 카메라 로봇의 위치를 초기화할 수 있다. 동작(619)을 수행하는 경우, 상기 소형 패턴 로봇의 위치는 상기 체크 보드 내 종료 위치(예: 끝단)에 있을 수 있다. 프로세서(130)는 상기 소형 패턴 로봇과 상기 카메라 로봇의 위치를 초기화할 수 있다. 상기 초기화 위치는 도 4의 동작(401)의 초기 위치와 동일할 수 있다.
동작(623)에서, 프로세서(130)는 상기 카메라 로봇을 이동시킬 수 있다. 프로세서(130)는 동작(603)을 수행할 때의 위치(또는 각도)와 다른 위치로 상기 카메라 로봇을 이동시킬 수 있다. 프로세서(130)는 상기 카메라 로봇의 위치를 이동한 후 동작(603)으로 리턴할 수 있다.
상기 카메라 로봇의 이동이 필요하지 않은 경우, 동작(625)에서, 프로세서(130)는 핸드 아이 캘리브레이션할 수 있다. 예를 들어, 프로세서(130)는 x축 설정치 만큼의 좌표 정보를 획득하고, y축 설정치 만큼의 좌표 정보를 획득하고, x축 설정치와 y축 설정치의 합만큼 이미지를 획득할 수 있다. 프로세서(130)는 상기 카메라 이동 횟수만큼 x축 설정치의 x축 좌표 정보, y축 설정치의 y축 좌표 정보 및 x축 설정치와 y축 설정치의 합만큼의 이미지를 더 획득할 수 있다. 프로세서(130)는 복수의 좌표 정보 및 복수의 이미지들에 기반하여 상기 소형 패턴 로봇과 상기 카메라 로봇 간의 관계를 대응시킬 수 있다. 프로세서(130)는 소형 패턴 로봇의 소형 패턴 좌표 정보(예: x, y 좌표값)과 체크 보드 내 좌표 정보(예: x, y 좌표값)을 일치시키는 캘리브레이션을 수행할 수 있다.
다양한 실시예들에 따르면, 프로세서(130)는 동작(603) 내지 동작(623)을 M번 수행하고, 수행된 결과(예: 자세 정보 및 이미지)를 이용하여 핸드 아이 캘리브레이션할 수 있다. 도 6을 1회 수행한 것과 10회 수행한 것과는 핸드 아이 캘리브레이션 시 정확도에 차이가 있을 수 있으므로, 구현에 따라 1회 이상 수행할 수 있다.
도 7은 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템의 로봇 고장 진단 방법을 도시한 흐름도(700)이다.
도 7을 참조하면, 동작(701)에서, 다양한 실시예들에 따른 핸드 아이 캘리브레이션 시스템(예: 핸드 아이 캘리브레이션 시스템(101))의 프로세서(예: 도 1의 프로세서(130))는 로봇(예: 소형 패턴 로봇)을 모니터링할 수 있다. 상기 로봇은 소형 패턴을 장착하여 캘리브레이션을 수행한 것일 수 있다. 프로세서(130)는 상기 로봇이 캘리브레이션 이후에 제대로 동작하는지 여부를 주기적으로 또는 선택적으로 모니터링할 수 있다.
동작(703)에서, 프로세서(130)는 카메라(또는 카메라 로봇)로부터 이미지를 획득할 수 있다. 상기 이미지는 소형 패턴 로봇을 촬영한 것일 수 있다. 프로세서(130)는 이미지 내 소형 패턴 로봇의 위치를 파악함으로써, 상기 로봇이 정상 동작하는지 여부를 판단할 수 있다.
동작(705)에서, 프로세서(130)는 이미지 내 소형 패턴 위치에 기반한 제1 패턴 좌표계 정보를 획득할 수 있다. 핸드 아이 캘리브레이션을 수행하면, 로봇의 소형 패턴 위치와 체크 보드 내 위치가 일치될 수 있다. 프로세서(130)는 이미지 내 소형 패턴 위치에 기반하여 제1 패턴 좌표계 정보를 산출할 수 있다.
동작(707)에서, 프로세서(130)는 로봇 기구학으로 산출한 제2 패턴 좌표계 정보를 획득할 수 있다. 프로세서(130)는 도 3a에서 획득한 R1, F1, J1, G1, C 에 대응되는 파라미터 값과 R2, F2, J2, G2, P에 대응되는 파라미터 값을 로봇 기구학식에 대입하여 제2 패턴 좌표계 정보를 산출할 수 있다.
동작(709)에서, 프로세서(130)는 정보 간의 차이에 기반하여 로봇 고장 여부를 판단할 수 있다. 프로세서(130)는 상기 제1 패턴 좌표계 정보와 상기 제2 패턴 좌표계 정보 간의 차이가 임계치를 미만인지 여부를 식별(또는 판단)할 수 있다. 프로세서(130)는 상기 제1 패턴 좌표계 정보와 상기 제2 패턴 좌표계 정보 간의 차이가 임계치를 미만인 경우, 정상 동작하는 것으로 판단할 수 있다. 즉, 프로세서(130)는 상기 제1 패턴 좌표계 정보와 상기 제2 패턴 좌표계 정보에 기반하여 상기 이미지 내 소형 패턴 위치가 체크 보드 내 위치와 대응되는 경우 로봇이 정상 동작하는 것으로 판단할 수 있다. 프로세서(130)는 상기 제1 패턴 좌표계 정보와 상기 제2 패턴 좌표계 정보 간의 차이가 임계치 이상인 경우, 로봇이 정상 동작하지 않는 것으로 판단할 수 있다. 프로세서(130)는 상기 제1 패턴 좌표계 정보와 상기 제2 패턴 좌표계 정보에 기반하여 상기 이미지 내 소형 패턴 위치가 체크 보드 내 위치와 대응되지 않는 경우 로봇이 정상 동작하지 않는 것으로 판단할 수 있다. 프로세서(130)는 로봇 고장이 판단되면 동작(711)을 수행하고, 로봇 고장이 아닌 것으로 판단되면 동작(701)으로 리턴할 수 있다. 프로세서(130)는 로봇 구동 시 주기적으로 또는 선택적으로 로봇을 모니터링함으로써 고장 여부를 진단할 수 있다.
로봇 고장이 판단되면 동작(711)에서, 프로세서(130)는 핸드 아이 캘리브레이션 프로세스를 수행할 수 있다. 상기 핸드 아이 캘리브레이션 프로세스는 도 4 또는 도 6의 동작을 수행하는 것을 의미할 수 있다. 프로세서(130)는 로봇의 구동을 잠시 중단하고, 핸드 아이 캘리브레이션 프로세스를 수행(또는 재수행)할 수 있다. 프로세서(130)는 핸드 아이 캘리브레이션 프로세스를 완료하면, 로봇을 구동시킬 수 있다. 프로세서(130)는 핸드 아이 캘리브레이션 프로세스를 완료하면 주기적으로 또는 선택적으로 동작(701)을 수행할 수 있다.
본 발명의 다양한 실시예들에 따른 소형 패턴을 장착한 로봇(예: 도 1의 제1 로봇(171) 내지 제N 로봇(17N))과 상기 로봇을 촬영하도록 구성된 카메라(예: 도 1의 제1 카메라(181) 내지 제N 카메라(18N))를 포함하는 핸드 아이 캘리브레이션 시스템(예: 도 1의 핸드 아이 캘리브레이션 시스템(100))의 동작 방법은 상기 로봇을 이동시키는 동작, 상기 이동된 로봇의 자세 정보를 획득하는 동작, 상기 카메라로부터 이미지를 획득하는 동작, 및 상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 카메라를 이동시키는 동작을 포함하고, 상기 동작들을 반복하여 획득한 상기 자세 정보 및 상기 이미지에 기반하여 상기 로봇에 대한 핸드 아이 캘리브레이션을 수행하는 동작을 포함할 수 있다.
상기 로봇은 양팔 로봇이고, 상기 양팔 로봇의 한 팔에 상기 소형 패턴이 장착되고, 상기 양팔 로봇의 다른 팔에 상기 카메라가 장착되는 것일 수 있다.
상기 이동시키는 동작은, 상기 핸드 아이 캘리브레이션 시스템의 메모리에 체크 보드 내 진행 방향을 저장하는 동작, 및 상기 진행 방향에 기반하여 상기 로봇을 x축 단위 또는y축 단위로 이동시키는 동작을 포함할 수 있다.
상기 핸드 아이 캘리브레이션을 수행하는 동작은, 상기 획득한 이미지에 포함된 소형 패턴의 좌표 정보와 상기 체크 보드 내 좌표 정보가 대응되도록 핸드 아이 캘리브레이션을 수행하는 동작을 포함할 수 있다.
상기 방법은 상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 로봇과 상기 카메라의 위치를 초기화하는 동작, 상기 초기화 후, 상기 카메라의 위치 이동이 필요한지 여부를 판단하는 동작, 상기 판단 결과에 기초하여 상기 카메라를 이동시키는 동작, 및 상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행하는 동작을 더 포함할 수 있다.
상기 방법은 상기 핸드 아이 캘리브레이션을 수행한 후, 상기 로봇을 모니터링하는 동작, 및 상기 모니터링 결과에 기반하여 상기 로봇의 고장을 진단하는 동작을 더 포함할 수 있다.
상기 로봇의 고장을 진단하는 동작은, 상기 카메라로부터 획득한 이미지 내 패턴 위치에 기반하여 제1 패턴 좌표계 정보를 획득하는 동작, 로봇 기구학으로 산출한 제2 패턴 좌표계 정보를 획득하는 동작, 및 상기 제1 패턴 좌표계 정보 및 상기 제2 패턴 좌표계 정보에 기반하여 상기 로봇의 고장을 진단하는 동작을 포함할 수 있다.
본 명세서와 도면에 개시된 본 발명의 다양한 실시 예들은 본 발명의 기술 내용을 쉽게 설명하고 본 발명의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 범위는 여기에 개시된 실시 예들 이외에도 본 발명의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
101: 핸드 아이 캘리브레이션 시스템
110: 메모리
130: 프로세서
140: 인터페이스
171, 172, 17N: 로봇
181, 182, 18N: 카메라
200: 기능 처리 모듈

Claims (20)

  1. 핸드 아이 캘리브레이션 시스템에 있어서,
    소형 패턴을 장착한 로봇;
    상기 로봇을 촬영하도록 구성된 카메라;
    메모리; 및
    프로세서를 포함하고, 상기 프로세서는,
    상기 로봇을 이동시키는 동작
    상기 이동된 로봇의 자세 정보를 획득하는 동작,
    상기 카메라로부터 이미지를 획득하는 동작, 및
    상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 카메라를 이동시키는 동작을 포함하고,
    상기 동작들을 반복하여 획득한 상기 자세 정보 및 상기 이미지에 기반하여 상기 로봇에 대한 핸드 아이 캘리브레이션을 수행하도록 설정된 핸드 아이 캘리브레이션 시스템.
  2. 제1항에 있어서,
    상기 로봇은 양팔 로봇이고, 상기 양팔 로봇의 한 팔에 상기 소형 패턴이 장착되고, 상기 양팔 로봇의 다른 팔에 상기 카메라가 장착되도록 설정된 핸드 아이 캘리브레이션 시스템.
  3. 제1항에 있어서,
    상기 메모리는, 체크 보드 내 진행 방향을 저장하고,
    상기 프로세서는,
    상기 진행 방향에 기반하여 상기 로봇을 평면으로 이동시키도록 설정된 핸드 아이 캘리브레이션 시스템.
  4. 제3항에 있어서, 상기 프로세서는,
    상기 획득한 이미지에 포함된 소형 패턴의 좌표 정보와 상기 체크 보드 내 좌표 정보가 대응되도록 핸드 아이 캘리브레이션을 수행하도록 설정된 핸드 아이 캘리브레이션 시스템.
  5. 제3항에 있어서, 상기 프로세서는,
    상기 진행 방향에 기반하여 상기 로봇을 x축 단위 또는y축 단위로 이동시키도록 설정된 핸드 아이 캘리브레이션 시스템.
  6. 제3항에 있어서, 상기 로봇에 장착된 소형 패턴은,
    상기 체크 보드보다 작은 형태의 체크 보드로 형성되도록 설정된 핸드 아이 캘리브레이션 시스템.
  7. 제1항에 있어서, 상기 프로세서는,
    상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 로봇과 상기 카메라의 위치를 초기화하도록 설정된 핸드 아이 캘리브레이션 시스템.
  8. 제7항에 있어서, 상기 프로세서는,
    상기 초기화 후, 상기 카메라의 위치 이동이 필요한지 여부를 판단하고,
    상기 판단 결과에 기초하여 상기 카메라를 이동시키고,
    상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행하도록 설정된 핸드 아이 캘리브레이션 시스템.
  9. 제8항에 있어서, 상기 프로세서는,
    상기 카메라의 위치 이동 횟수가 설정된 횟수 미만인지 여부를 판단하고,
    상기 위치 이동 횟수가 설정된 횟수 미만인 경우, 상기 카메라의 위치 이동이 필요한 것으로 판단하도록 설정된 핸드 아이 캘리브레이션 시스템.
  10. 제1항에 있어서, 상기 프로세서는,
    상기 핸드 아이 캘리브레이션을 수행한 후, 상기 로봇을 모니터링하고,
    상기 모니터링 결과에 기반하여 상기 로봇의 고장을 진단하도록 설정된 핸드 아이 캘리브레이션 시스템.
  11. 제10항에 있어서, 상기 프로세서는,
    상기 카메라로부터 획득한 이미지 내 패턴 위치에 기반하여 제1 패턴 좌표계 정보를 획득하고,
    로봇 기구학으로 산출한 제2 패턴 좌표계 정보를 획득하고,
    상기 제1 패턴 좌표계 정보 및 상기 제2 패턴 좌표계 정보에 기반하여 상기 로봇의 고장을 진단하도록 설정된 핸드 아이 캘리브레이션 시스템.
  12. 제11항에 있어서, 상기 프로세서는,
    상기 제1 패턴 좌표계 정보 및 상기 제2 패턴 좌표계 정보 간의 차이가 임계치 미만인지 여부를 식별하고,
    상기 차이가 임계치 미만인 경우 상기 로봇이 정상 동작하는 것으로 판단하고,
    상기 차이가 임계치 이상인 경우 상기 로봇이 정상 동작하지 않는 것으로 판단하도록 설정된 핸드 아이 캘리브레이션 시스템.
  13. 제10항에 있어서, 상기 프로세서는,
    상기 로봇이 고장으로 진단되는 경우, 상기 핸드 아이 캘리브레이션을 재수행하도록 설정된 핸드 아이 캘리브레이션 시스템.
  14. 소형 패턴을 장착한 로봇과 상기 로봇을 촬영하도록 구성된 카메라를 포함하는 핸드 아이 캘리브레이션 시스템의 동작 방법에 있어서,
    상기 로봇을 이동시키는 동작;
    상기 이동된 로봇의 자세 정보를 획득하는 동작;
    상기 카메라로부터 이미지를 획득하는 동작; 및
    상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 카메라를 이동시키는 동작을 포함하고,
    상기 동작들을 반복하여 획득한 상기 자세 정보 및 상기 이미지에 기반하여 상기 로봇에 대한 핸드 아이 캘리브레이션을 수행하는 동작을 더 포함하는 방법.
  15. 제14항에 있어서,
    상기 로봇은 양팔 로봇이고, 상기 양팔 로봇의 한 팔에 상기 소형 패턴이 장착되고, 상기 양팔 로봇의 다른 팔에 상기 카메라가 장착되는 것인 방법.
  16. 제14항에 있어서, 상기 이동시키는 동작은,
    상기 핸드 아이 캘리브레이션 시스템의 메모리에 체크 보드 내 진행 방향을 저장하는 동작; 및
    상기 진행 방향에 기반하여 상기 로봇을 x축 단위 또는y축 단위로 이동시키는 동작을 포함하는 방법.
  17. 제14항에 있어서, 상기 핸드 아이 캘리브레이션을 수행하는 동작은,
    상기 획득한 이미지에 포함된 소형 패턴의 좌표 정보와 상기 체크 보드 내 좌표 정보가 대응되도록 핸드 아이 캘리브레이션을 수행하는 동작을 포함하는 방법.
  18. 제14항에 있어서,
    상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행한 후, 상기 로봇과 상기 카메라의 위치를 초기화하는 동작;
    상기 초기화 후, 상기 카메라의 위치 이동이 필요한지 여부를 판단하는 동작;
    상기 판단 결과에 기초하여 상기 카메라를 이동시키는 동작; 및
    상기 로봇 이동, 상기 자세 정보 획득 및 상기 이미지 획득을 설정된 횟수 수행하는 동작을 더 포함하는 방법.
  19. 제14항에 있어서,
    상기 핸드 아이 캘리브레이션을 수행한 후, 상기 로봇을 모니터링하는 동작; 및
    상기 모니터링 결과에 기반하여 상기 로봇의 고장을 진단하는 동작을 더 포함하는 방법.
  20. 제19항에 있어서, 상기 로봇의 고장을 진단하는 동작은,
    상기 카메라로부터 획득한 이미지 내 패턴 위치에 기반하여 제1 패턴 좌표계 정보를 획득하는 동작;
    로봇 기구학으로 산출한 제2 패턴 좌표계 정보를 획득하는 동작; 및
    상기 제1 패턴 좌표계 정보 및 상기 제2 패턴 좌표계 정보에 기반하여 상기 로봇의 고장을 진단하는 동작을 포함하는 방법.
KR1020190008402A 2019-01-22 2019-01-22 핸드 아이 캘리브레이션 방법 및 시스템 KR102577448B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020190008402A KR102577448B1 (ko) 2019-01-22 2019-01-22 핸드 아이 캘리브레이션 방법 및 시스템
US16/743,678 US11173609B2 (en) 2019-01-22 2020-01-15 Hand-eye calibration method and system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190008402A KR102577448B1 (ko) 2019-01-22 2019-01-22 핸드 아이 캘리브레이션 방법 및 시스템

Publications (2)

Publication Number Publication Date
KR20200091298A true KR20200091298A (ko) 2020-07-30
KR102577448B1 KR102577448B1 (ko) 2023-09-12

Family

ID=71609610

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190008402A KR102577448B1 (ko) 2019-01-22 2019-01-22 핸드 아이 캘리브레이션 방법 및 시스템

Country Status (2)

Country Link
US (1) US11173609B2 (ko)
KR (1) KR102577448B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220072331A (ko) * 2020-11-25 2022-06-02 아이둡 주식회사 핸드 아이 캘리브레이션 시스템 및 방법

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111956329B (zh) * 2020-08-12 2022-04-26 中国科学院深圳先进技术研究院 一种双臂机器人标定方法、系统、终端以及存储介质
US11724390B2 (en) 2021-03-29 2023-08-15 Samsung Electronics Co., Ltd. Systems and methods for automated preloading of actuators
US11712804B2 (en) 2021-03-29 2023-08-01 Samsung Electronics Co., Ltd. Systems and methods for adaptive robotic motion control
US11731279B2 (en) * 2021-04-13 2023-08-22 Samsung Electronics Co., Ltd. Systems and methods for automated tuning of robotics systems
CN113223048B (zh) * 2021-04-20 2024-02-27 深圳瀚维智能医疗科技有限公司 手眼标定精度确定方法、装置、终端设备以及存储介质
CN113146633B (zh) * 2021-04-23 2023-12-19 无锡信捷电气股份有限公司 一种基于自动贴盒系统的高精度手眼标定方法
US20230092863A1 (en) * 2021-09-17 2023-03-23 GM Global Technology Operations LLC Calibration system comprising an end effector with an adjustable member and a measurement instrument for determining a location of the adjustable member, and a method of operating the same
CN113787541B (zh) * 2021-11-17 2022-03-04 杭州灵西机器人智能科技有限公司 一种机器人位置校正的方法和机器人定位系统
CN114419164B (zh) * 2022-01-17 2023-03-24 深圳市海柔创新科技有限公司 位姿标定数据生成方法、装置、电子设备及存储介质
CN114734444B (zh) * 2022-04-27 2023-06-27 博众精工科技股份有限公司 一种目标定位方法、装置、电子设备及存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS618860U (ja) 1984-06-21 1986-01-20 株式会社 仙台精密材料研究所 空気圧式強度試験機
JPS631045U (ko) 1986-06-17 1988-01-06
KR100768420B1 (ko) 2005-12-28 2007-10-18 한국철도기술연구원 철도차량용 자기치유링 네트워크 시스템
KR20090023313A (ko) * 2007-08-30 2009-03-04 어플라이드 머티어리얼스, 인코포레이티드 카메라를 이용한 로봇 교정 방법 및 시스템
JP2014180720A (ja) * 2013-03-19 2014-09-29 Yaskawa Electric Corp ロボットシステム及びキャリブレーション方法
JP2015089575A (ja) 2013-11-05 2015-05-11 セイコーエプソン株式会社 ロボット、制御装置、ロボットシステム及び制御方法
JP2015182144A (ja) 2014-03-20 2015-10-22 キヤノン株式会社 ロボットシステムおよびロボットシステムの校正方法
KR20180080630A (ko) 2017-01-04 2018-07-12 삼성전자주식회사 핸드-아이 캘리브레이션을 수행하는 로봇 및 전자 장치
JP2018111165A (ja) * 2017-01-12 2018-07-19 ファナック株式会社 視覚センサのキャリブレーション装置、方法及びプログラム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5297238A (en) * 1991-08-30 1994-03-22 Cimetrix Incorporated Robot end-effector terminal control frame (TCF) calibration method and device
JPH081500B2 (ja) 1993-03-23 1996-01-10 インターナショナル・ビジネス・マシーンズ・コーポレイション 液晶表示装置
JP3946716B2 (ja) * 2004-07-28 2007-07-18 ファナック株式会社 ロボットシステムにおける３次元視覚センサの再校正方法及び装置
JP2009100342A (ja) * 2007-10-18 2009-05-07 Sanyo Electric Co Ltd カメラ校正装置及び方法、並びに、車両
US9393694B2 (en) * 2010-05-14 2016-07-19 Cognex Corporation System and method for robust calibration between a machine vision system and a robot
US9188973B2 (en) * 2011-07-08 2015-11-17 Restoration Robotics, Inc. Calibration and transformation of a camera system's coordinate system
EP2981397B1 (en) * 2013-04-05 2017-06-14 ABB Schweiz AG A robot system and method for calibration
JP6468741B2 (ja) * 2013-07-22 2019-02-13 キヤノン株式会社 ロボットシステム及びロボットシステムの校正方法
US10335116B2 (en) * 2014-04-17 2019-07-02 The Johns Hopkins University Robot assisted ultrasound system
US9805294B2 (en) * 2015-02-12 2017-10-31 Mitsubishi Electric Research Laboratories, Inc. Method for denoising time-of-flight range images
US11070793B2 (en) * 2015-07-31 2021-07-20 Cognex Corporation Machine vision system calibration
JP6812095B2 (ja) * 2015-10-22 2021-01-13 キヤノン株式会社 制御方法、プログラム、記録媒体、ロボット装置、及び物品の製造方法
DE102016225613A1 (de) * 2016-12-20 2018-06-21 Kuka Roboter Gmbh Verfahren zum Kalibrieren eines Manipulators eines diagnostischen und/oder therapeutischen Manipulatorsystems
JP6396516B2 (ja) * 2017-01-12 2018-09-26 ファナック株式会社 視覚センサのキャリブレーション装置、方法及びプログラム
CN110114191B (zh) 2017-03-09 2020-05-19 三菱电机株式会社 机器人控制装置以及校准方法
JP6301045B1 (ja) 2017-03-09 2018-03-28 三菱電機株式会社 ロボット制御装置およびキャリブレーション方法
US10089753B1 (en) * 2017-07-05 2018-10-02 Almotive Kft. Method, system and computer-readable medium for camera calibration
US10871366B2 (en) * 2018-08-16 2020-12-22 Mitutoyo Corporation Supplementary metrology position coordinates determination system for use with a robot
US11002529B2 (en) * 2018-08-16 2021-05-11 Mitutoyo Corporation Robot system with supplementary metrology position determination system
US10913156B2 (en) * 2018-09-24 2021-02-09 Mitutoyo Corporation Robot system with end tool metrology position coordinates determination system
US10399227B1 (en) * 2019-03-29 2019-09-03 Mujin, Inc. Method and control system for verifying and updating camera calibration for robot control

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS618860U (ja) 1984-06-21 1986-01-20 株式会社 仙台精密材料研究所 空気圧式強度試験機
JPS631045U (ko) 1986-06-17 1988-01-06
KR100768420B1 (ko) 2005-12-28 2007-10-18 한국철도기술연구원 철도차량용 자기치유링 네트워크 시스템
KR20090023313A (ko) * 2007-08-30 2009-03-04 어플라이드 머티어리얼스, 인코포레이티드 카메라를 이용한 로봇 교정 방법 및 시스템
JP2014180720A (ja) * 2013-03-19 2014-09-29 Yaskawa Electric Corp ロボットシステム及びキャリブレーション方法
JP2015089575A (ja) 2013-11-05 2015-05-11 セイコーエプソン株式会社 ロボット、制御装置、ロボットシステム及び制御方法
JP2015182144A (ja) 2014-03-20 2015-10-22 キヤノン株式会社 ロボットシステムおよびロボットシステムの校正方法
KR20180080630A (ko) 2017-01-04 2018-07-12 삼성전자주식회사 핸드-아이 캘리브레이션을 수행하는 로봇 및 전자 장치
JP2018111165A (ja) * 2017-01-12 2018-07-19 ファナック株式会社 視覚センサのキャリブレーション装置、方法及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220072331A (ko) * 2020-11-25 2022-06-02 아이둡 주식회사 핸드 아이 캘리브레이션 시스템 및 방법

Also Published As

Publication number Publication date
US20200230818A1 (en) 2020-07-23
KR102577448B1 (ko) 2023-09-12
US11173609B2 (en) 2021-11-16

Similar Documents

Publication Publication Date Title
KR20200091298A (ko) 핸드 아이 캘리브레이션 방법 및 시스템
US9437005B2 (en) Information processing apparatus and information processing method
KR101636605B1 (ko) 적어도 3개의 이산 평면에 따른 머신 비젼 카메라의 보정을 위한 시스템 및 방법
JP2016185572A (ja) ロボット、ロボット制御装置およびロボットシステム
US10664939B2 (en) Position control system, position detection device, and non-transitory recording medium
JP2019030943A (ja) キャリブレーション方法、キャリブレーションシステム及びプログラム
JP2020080105A (ja) カメラ校正装置及びカメラ校正方法
US11590657B2 (en) Image processing device, control method thereof, and program storage medium
US20160110840A1 (en) Image processing method, image processing device, and robot system
US10726569B2 (en) Information processing apparatus, information processing method, and non-transitory computer-readable storage medium
US20190392607A1 (en) Image processing apparatus, system, image processing method, article manufacturing method, and non-transitory computer-readable storage medium
JP2019098409A (ja) ロボットシステムおよびキャリブレーション方法
US11637948B2 (en) Image capturing apparatus, image processing apparatus, image processing method, image capturing apparatus calibration method, robot apparatus, method for manufacturing article using robot apparatus, and recording medium
JP2020075327A (ja) 制御システム
KR101535801B1 (ko) 깊이맵 센서를 이용한 조립공정에서의 조립공정 검사장치, 방법 및 시스템
US7869662B2 (en) System architecture for sensing an absolute position using a target pattern
JP6915288B2 (ja) 画像処理システム、画像処理装置、ＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）における回路の再構成方法、および、ＦＰＧＡにおける回路の再構成プログラム
WO2021070415A1 (ja) 補正パラメータ算出方法、変位量算出方法、補正パラメータ算出装置、及び、変位量算出装置
US9398208B2 (en) Imaging apparatus and imaging condition setting method and program
CN112489133A (zh) 手眼系统的标定方法、装置及设备
US10967517B2 (en) Information processing apparatus, method, and storage medium for presenting information for calibration
WO2021145280A1 (ja) ロボットシステム
US11267129B2 (en) Automatic positioning method and automatic control device
KR102613860B1 (ko) 제어 시스템, 제어 방법 및 컴퓨터 판독 가능한 기억 매체
JP2018017610A (ja) 三次元計測装置、ロボット、ロボット制御装置、及びロボットシステム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant