KR102472144B1 - 인터랙션 로봇, 및 그 제어 방법 - Google Patents

Abstract

인터랙션 로봇, 및 그 제어 방법이 개시된다. 상기 인터랙션 로봇의 제어 방법은, 상기 인터랙션 로봇의 제1 카메라로부터 제1 관심 영역에 대한 제1 영상 정보를 수집하는 단계; 상기 제1 영상 정보를 기초로, 상기 제1 관심 영역 내 추적 대상으로서의 사용자에 연관된 사용자 관찰 정보를 획득하는 단계; 상기 사용자 관찰 정보를 기초로, 상기 인터랙션 로봇의 제2 카메라에 의해 상기 사용자의 시야에 대응하는 제2 관심 영역이 감지되도록 상기 제2 카메라에 결합된 자세 제어부를 제어하는 단계; 상기 제2 카메라로부터 상기 제2 관심 영역에 대한 제2 영상 정보를 수집하는 단계; 상기 제2 영상 정보를 기초로, 상기 제2 관심 영역의 상황을 나타내는 주변 관찰 정보를 획득하는 단계; 및 상기 사용자 관찰 정보 및 상기 주변 관찰 정보 중 적어도 하나에 연관된 적어도 하나의 상황 대처 동작을 실행하는 단계를 포함한다.

Description

인터랙션 로봇, 및 그 제어 방법{INTERACTION ROBOT, AND CONTROL METHOD FOR THE SAME}

본 발명은 인터랙션 로봇 및 그 제어 방법에 관한 것으로서, 보다 상세하게는, 인터랙션을 위한 추적 대상인 사용자에 대한 관찰 정보와 함께 사용자를 둘러싼 주변 환경에 대한 관찰 정보를 종합하여 사용자가 위치하고 있는 공간의 상황에 맞춤형 동작을 실행하도록 인터랙션 로봇을 제어하는 기술에 관한 것이다.

본 출원은 2021년 10월 29일자로 출원된 한국 특허출원 번호 제10-2021-0147192호에 대한 우선권주장출원으로서, 해당 출원의 명세서 및 도면에 개시된 모든 내용은 인용에 의해 본 출원에 원용된다.

최근 안내용 로봇 등, 로봇 기반의 서비스에 대한 수요 및 적용 분야가 지속적으로 보편화되는 추세에 있으며, 이에 따라 사용자 관점에서의 고도화된 인터랙션 서비스에 대한 니즈(needs)를 로봇을 통해 충족시키고자 하는 시도 또한 증대되고 있다.

기존의 대다수의 로봇 기반 서비스는, 로봇으로 하여금 서비스 대상인 사용자의 명령이나 행동(예, 질문)에 연관된 단편적인 반응이나 정보를 제공하도록 하는 수준에 머무르고 있을 뿐, 로봇과 사용자 간에 보다 고차원적인 인터랙션이 가능하도록 연계시켜주는 기능은 부족한 실정이다.

인터랙션 서비스는, 로봇으로부터 사용자 또는 사용자로부터 로봇으로의 단방향 상호작용을 넘어서, 로봇과 사용자 간의 양방향 상호작용을 기반으로 한 로봇 제어를 통해 제공 가능한 서비스이다. 이를 위해서는, 사용자에 대한 관찰과 함께 사용자가 처해있는 상황 즉, 사용자를 둘러싼 주변 환경에 대한 관찰까지도 병행하여야 가능하다.

특히, 전시장 등과 같이 사용자의 이동이 전제된 환경 하에서는, 사용자 관찰을 통해 획득되는 정보와 주변 관찰을 통해 획득되는 정보를 상호 매칭하여 사용자의 이동에 따라 변화하는 주변 상황을 사람과 유사한 수준으로 인지하고, 인지된 상황에 대한 정보 안내 등과 같은 상황별 맞춤형 인터랙션 서비스를 제공할 수 있도록 로봇을 제어하는 것이 무엇보다 중요하다.

본 발명은, 사용자 관찰을 통해 획득되는 정보 및 사용자를 둘러싼 주변 환경을 관찰하여 획득되는 정보를 기초로 사용자 친화적인 인터랙션 서비스를 제공하는 인터랙션 로봇 및 그 제어 방법을 제공하는 것을 목적으로 한다.

또한, 본 발명은, 사용자 관찰을 통해 획득되는 정보를 기초로 사용자의 주변 환경으로서 관찰할 관심 영역을 적응적으로 변경하면서 관심 영역에 대한 관찰 정보를 획득할 수 있는 인터랙션 로봇 및 그 제어 방법을 제공하는 것을 목적으로 한다.

또한, 본 발명은, 사용자 관찰을 통해 획득되는 정보를 기초로 사용자의 주변 환경에 대한 관찰을 통해 획득되는 정보를 처리하여 사용자에 대한 피드백 정보를 생성함으로써, 사용자 및 사용자가 처한 상황에 적합한 인터랙션 서비스를 제공하고, 인터랙션 서비스에 대한 사용자 만족감을 향상시킬 수 있는 인터랙션 로봇 및 그 제어 방법을 제공하는 것을 목적으로 한다.

본 발명의 다른 목적 및 장점들은 하기의 설명에 의해서 이해될 수 있으며, 본 발명의 실시예에 의해 보다 분명하게 알게 될 것이다. 또한, 본 발명의 목적 및 장점들은 특허청구범위에 나타난 수단 및 그 조합에 의해 실현될 수 있음을 쉽게 알 수 있을 것이다.

본 발명의 일 측면에 따른 인터랙션 로봇의 제어 방법은, 상기 인터랙션 로봇의 제1 카메라로부터 제1 관심 영역에 대한 제1 영상 정보를 수집하는 단계; 상기 제1 영상 정보를 기초로, 상기 제1 관심 영역 내 추적 대상으로서의 사용자에 연관된 사용자 관찰 정보를 획득하는 단계; 상기 사용자 관찰 정보를 기초로, 상기 인터랙션 로봇의 제2 카메라에 의해 상기 사용자의 시야에 대응하는 제2 관심 영역이 감지되도록 상기 제2 카메라에 결합된 자세 제어부를 제어하는 단계; 상기 제2 카메라로부터 상기 제2 관심 영역에 대한 제2 영상 정보를 수집하는 단계; 상기 제2 영상 정보를 기초로, 상기 제2 관심 영역의 상황을 나타내는 주변 관찰 정보를 획득하는 단계; 및 상기 사용자 관찰 정보 및 상기 주변 관찰 정보 중 적어도 하나에 연관된 적어도 하나의 상황 대처 동작을 실행하는 단계를 포함한다.

상기 인터랙션 로봇의 제2 카메라에 결합된 자세 제어부를 제어하는 단계는, 상기 사용자 관찰 정보를 기초로, 목표 지향 각도 및 목표 몸체 높이 중 적어도 하나를 나타내는 자세 제어 데이터를 생성하는 단계; 및 상기 자세 제어 데이터에 따라 상기 제2 카메라의 자세가 조절되도록 상기 자세 제어부를 제어하는 단계를 포함할 수 있다.

상기 적어도 하나의 상황 대처 동작을 실행하는 단계는, 상기 인터랙션 로봇이 상기 사용자로부터 기준 거리 범위 이내에 위치하도록 주행부를 제어하는 단계를 포함할 수 있다. 상기 주행부는, 상기 인터랙션 로봇에 구비되거나 상기 인터랙션 로봇이 탑재되는 차량에 구비된 것일 수 있다.

상기 적어도 하나의 상황 대처 동작을 실행하는 단계는, 상기 사용자의 이동 속도를 기초로, 상기 기준 거리 범위를 조절하는 단계를 더 포함할 수 있다.

상기 주변 관찰 정보를 획득하는 단계는, 상기 제2 영상 정보를 처리하여, 상기 제2 관심 영역의 객체 정보 및 배경 정보 중 적어도 하나를 획득하는 단계를 포함하라 수 있다. 상기 객체 정보는, 상기 제2 관심 영역의 적어도 한 객체 각각의 고유 특징 데이터를 포함한다. 각 객체는, 설명 대상 객체, 상기 설명 대상 객체에 연관된 설명 보조 객체, 경로 지정 객체 및 장애물 객체 중 적어도 하나로 식별될 수 있다. 상기 배경 정보는, 상기 제2 관심 영역의 배경의 특징을 나타내는 데이터를 포함할 수 있다.

상기 적어도 하나의 상황 대처 동작을 실행하는 단계는, 상기 설명 대상 객체 및 상기 설명 보조 객체 중 적어도 하나의 고유 특징 데이터를 기초로, 상기 설명 대상 객체에 연관된 설명 메시지를 출력하는 단계를 포함할 수 있다.

상기 적어도 하나의 상황 대처 동작을 실행하는 단계는, 상기 객체 정보 및 상기 배경 정보에 대응하는 상황 추론 정보를 생성하는 단계; 및 상기 상황 추론 정보에 연관된 추론 상황 안내 메시지를 출력하는 단계를 포함할 수 있다.

상기 적어도 하나의 상황 대처 동작을 실행하는 단계는, 상기 사용자로부터 기준 거리 이내에 상기 장애물 객체가 위치하는 경우, 충돌 경고 메시지를 출력하는 단계를 포함할 수 있다.

상기 적어도 하나의 상황 대처 동작을 실행하는 단계는, 각 경로 지정 객체의 고유 특징 데이터를 기초로, 상기 인터랙션 로봇의 목표 이동 경로를 결정하는 단계; 및 상기 인터랙션 로봇이 상기 목표 이동 경로를 추종하도록 주행부를 제어하는 단계를 포함할 수 있다. 상기 주행부는, 상기 인터랙션 로봇에 구비되거나 상기 인터랙션 로봇이 탑재되는 차량에 구비된 것일 수 있다.

상기 적어도 하나의 상황 대처 동작을 실행하는 단계는, 상기 장애물 객체가 상기 인터랙션 로봇의 목표 이동 경로로부터 기준 거리 이내에 위치하는 경우, 상기 인터랙션 로봇의 이동이 정지되도록 주행부를 제어하는 단계를 포함할 수 있다. 상기 주행부는, 상기 인터랙션 로봇에 구비되거나 상기 인터랙션 로봇이 탑재되는 차량에 구비된 것일 수 있다.

상기 적어도 하나의 상황 대처 동작을 실행하는 단계는, 상기 목표 이동 경로로부터 상기 기준 거리 이내에 위치하는 상기 장애물 객체가 자극 감응형 이동체인 경우, 상기 자극 감응형 이동체에 대한 자극 신호를 출력하는 단계를 포함할 수 있다.

상기 적어도 하나의 상황 대처 동작을 실행하는 단계는, 상기 인터랙션 로봇의 목표 이동 경로와 실제 이동 경로 간의 경로 유사도를 결정하는 단계를 포함할 수 있다.

상기 적어도 하나의 상황 대처 동작을 실행하는 단계는, 상기 인터랙션 로봇이 목표 이동 경로로부터 이탈한 경우, 상기 제2 관심 영역과는 상이한 제3 관심 영역이 상기 제2 카메라에 의해 감지되도록 상기 자세 제어부 및 주행부 중 적어도 하나를 제어하는 단계; 상기 제2 카메라로부터 상기 제3 관심 영역에 대한 제3 영상 정보를 수집하는 단계; 상기 제3 영상 정보를 처리하여, 상기 제3 관심 영역 내 상기 인터랙션 로봇에 최근접의 경로 지정 객체를 인식하는 단계; 상기 인터랙션 로봇이 상기 최근접의 경로 지정 객체에 의해 지시되는 상기 목표 이동 경로 상의 참조 위치로 이동하도록 상기 주행부를 제어하는 단계; 및 상기 인터랙션 로봇이 상기 참조 위치로 이동한 경우, 상기 인터랙션 로봇이 상기 최근접의 경로 지정 객체에 의해 지시되는 참조 방향을 지향한 상태에서 이동이 재개되도록, 상기 주행부를 제어하는 단계를 포함할 수 있다.

본 발명의 다른 측면에 따른 컴퓨터 프로그램은 상기 인터랙션 로봇 제어 방법을 실행시킨다.

본 발명의 또 다른 측면에 따른 인터랙션 로봇은, 상기 제1 카메라; 상기 제2 카메라; 상기 자세 제어부; 및 상기 컴퓨터 프로그램을 이용하여 상기 인터랙션 로봇 제어 방법을 실행하는 정보 처리부를 포함한다.

본 발명의 실시예들 중 적어도 하나에 의하면, 인터랙션 로봇이 서로 연관된 사용자 관찰 정보 및 주변 관찰 정보를 병행 획득하여, 상황별 맞춤형 동작을 실행함으로써, 사용자에게 한층 향상된 수준의 인터랙션 서비스를 제공할 수 있다.

또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 사용자 관찰 정보를 기초로 사용자의 주변 환경으로서 관찰되는 관심 영역을 적응적으로 변경하면서 관심 영역에 대한 관찰 정보를 획득함으로써, 인터랙션 서비스의 제공에 요구되는 소프트웨어 자원 및 하드웨어 자원을 효과적으로 관리할 수 있다.

또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 사용자 관찰 정보를 기초로 사용자가 응시 중인 것으로 추정되는 관심 영역을 선정하고, 선정된 관심 영역에 대해 감지된 정보를 처리하여 사용자에 대한 피드백 정보를 생성함으로써, 사용자에게 보다 자연스러운 인터랙션 서비스를 제공하고, 인터랙션 서비스에 대한 사용자의 집중도와 만족감을 향상시킬 수 있다.

본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.

본 명세서에 첨부되는 다음의 도면들은 본 발명의 바람직한 실시예를 예시하는 것이며, 후술되는 발명의 상세한 설명과 함께 본 발명의 기술사상을 더욱 이해시키는 역할을 하는 것이므로, 본 발명은 그러한 도면에 기재된 사항에만 한정되어 해석되어서는 아니 된다.
도 1은 본 발명의 일 실시예에 따른 인터랙션 로봇의 구성을 예시적으로 나타낸 도면이다.
도 2는 도 1의 인터랙션 로봇의 예시적인 외관을 보여주는 도면이다.
도 3은 인터랙션 로봇에 의해 획득되는 제1 영상 정보와 제2 영상 정보 간의 관계를 설명하는 데에 참조되는 도면이다.
도 4는 본 발명의 다른 실시예에 따른 인터랙션 로봇의 구성을 예시적으로 나타낸 도면이다.
도 5는 본 발명의 일 실시예에 따른 인터랙션 로봇의 제어 방법을 예시적으로 보여주는 순서도이다.
도 6 내지 도 11은 인터랙션 로봇에 의해 실행 가능한 다양한 상황 대처 동작들을 예시적으로 설명하는 데에 참조되는 도면이다.

본 발명의 목적과 기술적 구성 및 그에 따른 작용 효과에 관한 자세한 사항은 본 발명의 명세서에 첨부된 도면에 의거한 이하의 상세한 설명에 의해 보다 명확하게 이해될 것이다. 첨부된 도면을 참조하여 본 발명에 따른 실시예를 상세하게 설명한다.

본 명세서에서 개시되는 실시예들은 본 발명의 범위를 한정하는 것으로 해석되거나 이용되지 않아야 할 것이다. 이 분야의 통상의 기술자에게 본 명세서의 실시예를 포함한 설명은 다양한 응용을 갖는다는 것이 당연하다. 따라서, 본 발명의 상세한 설명에 기재된 임의의 실시예들은 본 발명을 보다 잘 설명하기 위한 예시적인 것이며 본 발명의 범위가 실시예들로 한정되는 것을 의도하지 않는다.

도면에 표시되고 아래에 설명되는 기능 블록들은 가능한 구현의 예들일 뿐이다. 다른 구현들에서는 상세한 설명의 사상 및 범위를 벗어나지 않는 범위에서 다른 기능 블록들이 사용될 수 있다. 또한, 본 발명의 하나 이상의 기능 블록이 개별 블록들로 표시되지만, 본 발명의 기능 블록들 중 하나 이상은 동일 기능을 실행하는 다양한 하드웨어 및 소프트웨어 구성들의 조합일 수 있다.

제1, 제2 등과 같이 서수를 포함하는 용어들은, 다양한 구성요소들 중 어느 하나를 나머지와 구별하는 목적으로 사용되는 것이고, 그러한 용어들에 의해 구성요소들을 한정하기 위해 사용되는 것은 아니다.

또한, 어떤 구성요소들을 포함한다는 표현은 "개방형"의 표현으로서 해당 구성요소들이 존재하는 것을 단순히 지칭할 뿐이며, 추가적인 구성요소들을 배제하는 것으로 이해되어서는 안 된다.

나아가 어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급될 때에는, 그 다른 구성요소에 직접적으로 연결 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 한다.

도 1은 본 발명의 일 실시예에 따른 인터랙션 로봇의 구성을 예시적으로 나타낸 도면이고, 도 2는 도 1의 인터랙션 로봇의 예시적인 외관을 보여주는 도면이며, 도 3은 인터랙션 로봇(100)에 의해 획득되는 제1 영상 정보와 제2 영상 정보 간의 관계를 설명하는 데에 참조되는 도면이다.

도 1 내지 도 3을 참조하면, 본 발명의 일 실시예에 따른 인터랙션 로봇(100)은, 자체적인 모빌리티 기능을 가지는 것으로서, 정보 저장부(110), 센싱부(120), 자세 제어부(130), 주행부(140) 및 정보 처리부(150)를 포함한다.

정보 저장부(110)는, 인터랙션 로봇(100)으로 하여금 후술된 인터랙션 서비스 방법을 수행토록 하기 위한 명령들을 포함하는 컴퓨터 프로그램을 저장한다. 정보 저장부(110)는, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory) 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.

센싱부(120)는, 인터랙션 로봇(100)의 추적 대상인 사용자 및 사용자의 주변 환경을 감지하도록 제공된다. 센싱부(120)는, 제1 카메라(121) 및 제2 카메라(122)를 포함한다.

제1 카메라(121)는, 제1 관심 영역에 대한 제1 영상 정보를 생성하도록 구성된다. 제1 관심 영역은, 인터랙션 로봇(100)이 위치하는 공간 내에서 제1 카메라(121)에 의한 사용자의 관찰이 가능한 영역을 지칭한다. 사용자는 제1 영상 정보에서 인식되는 객체들 중 하나로서 식별될 수 있다. 인터랙션 로봇(100)에는 제1 영상 정보로부터 추적 대상을 식별 및 추적하는 데에 이용되는 인물 특성 정보가 미리 저장될 수 있고, 인터랙션 로봇(100)은 제1 영상 정보를 처리하여 제1 영상 정보 내에 객체들을 인식하고, 제1 관심 영역 내에 상기 인물 특성 정보에 매칭되는 객체인 사용자가 존재하는지 여부를 판정할 수 있다. 인물 특성 정보는, 인터랙션 로봇(100)의 추적 대상에 대한 적어도 하나의 특성 항목, 예컨대 연령, 신장, 몸무게, 성별, 피부색, 복장, 얼굴 생김새 등과 같은 여러 항목들 중 하나 또는 둘 이상에 의해 정의될 수 있다.

제2 카메라(122)는, 제1 관심 영역과는 상이한 제2 관심 영역 또는 제3 관심 영역에 대한 영상 정보를 생성하도록 구성된다. 제2 관심 영역은, 제1 관심 영역에 대한 제1 영상 정보를 기초로 획득(추론)되는 사용자의 시야 영역 즉, 사용자가 응시 중인 영역일 수 있다. 제3 관심 영역은, 제1 관심 영역과는 독립적인 영역으로서, 후술된 인터랙션 로봇(100)의 경로 이탈 시에 정상적인 경로로의 복귀 동작을 수행하기 위해 요구되는 제3 영상 정보를 획득하는 영역일 수 있다. 제2 관심 영역에 대한 제2 영상 정보는, 사용자의 시야로 추정되는 영역에 존재하는 적어도 하나의 객체에 관한 정보를 포함하며, 제2 영상 정보로부터 인식되는 적어도 하나의 객체 및/또는 상황 인식 결과에 대한 정보는 인터랙션 로봇(100) 자체 또는 인터랙션 로봇(100)으로부터 사용자로의 인터랙션 서비스에 활용될 수 있다.

제1 카메라(121) 및 제2 카메라(122) 각각은, 2차원 또는 3차원으로 영상화 가능한 비전 데이터를 생성하는, 적어도 1종의 비전 센서를 적어도 하나 이상 포함한다. 일 예로, 제1 카메라(121) 및 제2 카메라(122) 중 적어도 하나에 포함되는 센서의 종류로는 RGB 센서, 초음파 센서, 적외선 센서, 레이저 센서, 레이더, 라이다 등이 있고, 이들 센서는 종류별로 하나 이상씩 제1 카메라(121) 및 제2 카메라(122)에 포함될 수 있다.

센싱부(120)는, 제1 카메라(121) 및 제2 카메라(122)와는 독립적으로, 인터랙션 로봇(100)의 위치를 중심으로 전방향(예, 인터랙션 로봇(100)의 지향 방향을 기준으로 45도 씩 8구간)을 감시 대상으로 하는 적어도 하나의 추가적인 비전 센서(123)를 더 포함할 수 있다. 정보 처리부(150)는, 제1 카메라(121), 제2 카메라(122) 및 추가 비전 센서(123) 중 적어도 하나로부터의 데이터에 삼각법, TOF(time of flight) 등을 적용함으로써, 사용자, 인터랙션 로봇(100) 및 객체 중 어느 둘 간의 거리나 어느 하나로부터 다른 하나로의 상대적 위치를 연산하거나, 사용자, 인터랙션 로봇(100) 및 객체 각각의 이동 속도 내지는 어느 둘 간의 속도차를 연산할 수 있다.

센싱부(120)는, 인터랙션 로봇(100)의 위치를 감지하는 위치 센서(124)를 더 포함할 수 있다. 정보 처리부(150)는 위치 센서(124)로부터 인터랙션 로봇(100) 위치 정보를 수집하여, 인터랙션 로봇(100)의 위치 변화 이력(이동 경로)을 모니터링할 수 있다. 위치 센서(124)로는 GPS 센서, 블루투스 등의 무선 신호 기반의 비콘 센서, RFID 태그와 같은 근거리 비접촉식 센서 등와 같이 위치 인식용 공지의 센서들 중 적어도 하나가 이용될 수 있다.

자세 제어부(130)는, 제1 전동 암(131) 및 제2 전동 암(132) 중 적어도 하나를 포함한다.

제1 전동 암(131)은, 제1 카메라(121)의 자세를 변경하도록 구성된다. 구체적으로, 제1 전동 암(131)은, 제1 카메라(121)의 몸체에 기계적으로 결합되어, 제1 카메라(121)의 지향 강도(예, 촬영 각도) 및 몸체 고도 중 적어도 하나를 조절할 수 있다. 일 예로, 제1 전동 암(131)은 제1 기준축에 대한 제1 카메라(121)의 몸체의 틸트값 및 팬값 중 적어도 하나를 조절하고, 이와는 별개로 인터랙션 로봇(100)의 제1 기준 위치에 대한 제1 카메라(121)의 몸체의 높낮이를 조절할 수 있다. 제1 관심 영역에 대한 제1 영상 정보에 사용자의 전신 또는 특정 신체 부위(예, 얼굴)가 위치되도록, 제1 전동 암(131)에 의해 제1 관심 영역이 변경될 수 있다.

제2 전동 암(132)은, 제2 카메라(122)의 자세를 변경하도록 구성된다. 구체적으로, 제2 전동 암(132)은, 제2 카메라(122)의 몸체에 기계적으로 결합되어, 제2 카메라(122)의 지향 강도(예, 촬영 각도) 및 몸체 고도 중 적어도 하나를 조절할 수 있다. 일 예로, 제2 전동 암(132)은 제2 기준축에 대한 제2 카메라(122)의 몸체의 틸트값 및 팬값 중 적어도 하나를 조절하고, 이와는 별개로 인터랙션 로봇(100)의 제2 기준 위치에 대한 제2 카메라(122)의 몸체의 높낮이를 조절할 수 있다. 제1 관심 영역에 대한 제1 영상 정보로부터 획득되는 사용자의 시야 정보에 따라 제2 전동 암(132)에 의해 제2 카메라(122)의 자세가 조절됨으로써, 제2 카메라(122)에 의해 촬영되는 제2 관심 영역이 변경될 수 있다.

제1 전동 암(131)은, 정보 처리부(150)로부터의 명령에 따라, 그에 구비된 적어도 하나의 모터의 회전각 및 회전방향 중 적어도 하나를 제어함으로써, 제1 카메라(121)의 자세를 조절할 수 있다. 제2 전동 암(132)은, 정보 처리부(150)로부터의 명령에 따라, 그에 구비된 적어도 하나의 모터의 회전각 및 회전방향 중 적어도 하나를 제어함으로써, 제2 카메라(122)의 자세를 조절할 수 있다.

주행부(140)는, 후술된 정보 처리부(150)로부터의 명령에 따라, 지면 상에서 인터랙션 로봇(100)을 이동시키도록 구성된다. 주행부(140)는, 적어도 하나의 동력원(예, 모터) 및 상기 동력원로부터의 구동력을 지면에 전달하는 적어도 하나의 마찰 수단(예, 바퀴)을 구비하며, 인터랙션 로봇(100)을 지면에 대해 전후좌우로 이동시키거나 제자리 회전시킬 수 있다.

정보 처리부(150)는, 정보 저장부(110)에 저장된 컴퓨터 프로그램을 실행하여, 인터랙션 로봇(100)의 제어 방법이 수행되도록 센싱부(120), 전동 암 및 주행부(140)를 제어하도록 구성되는 적어도 하나의 프로세서를 포함한다.

정보 처리부(150)는, 하드웨어적으로, ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 포함하도록 구현될 수 있다.

도 3을 참조하면, 정보 처리부(150)는, 제1 카메라(121)로부터 제1 관심 영역에 대한 제1 영상 정보를 수집한다. 정보 처리부(150)는, 제1 영상 정보를 처리하여, 인터랙션 로봇(100)의 추적 대상으로서 미리 주어진 인물 특성 정보에 매칭되는 사용자가 제1 영상 정보에 일 객체로서 포함되어 있는지 여부를 판정한다. 제1 영상 정보에서 추적 대상인 사용자가 인식되지 않는 경우, 정보 처리부(150)는 제1 영상 정보에서 사용자가 인식될 때까지 제1 관심 영역을 변경하기 위해 제1 전동 암(131)이 소정 패턴에 따라 제1 카메라(121)의 자세를 조절하도록 유도하는 자세 제어 명령을 제1 전동 암(131)에게 출력할 수 있다.

정보 처리부(150)는, 제1 영상 정보에서 2인 이상의 인물(301, 302)이 인식되는 경우, 2인 이상의 인물 각각과 인물 특성 정보를 비교하여, 인물 특성 정보와의 유사도가 가장 높은 어느 한 인물(301)을 추적 대상인 사용자로서 특정하고, 특정된 사용자에 대한 추적 관찰을 유지할 수 있다. 일 예로, 정보 처리부(150)는, 제1 영상 정보의 중앙부에 해당하는 타겟 영역(310)에 사용자(301)의 전신 또는 특정 신체 부위(예, 얼굴, 눈)가 위치하도록 제1 카메라(121)의 자세를 조절할 수 있다. 이하에서는, 인물(301)이 인터랙션 로봇(100)의 추적 대상으로서의 사용자인 것으로 가정하기로 한다.

정보 처리부(150)는, 제1 영상 정보에서 사용자(301)가 특정되는 경우, 제1 영상 정보로부터 사용자 관찰 정보를 획득한다. 사용자 관찰 정보는, 사용자 시선 정보 및 사용자 위치 정보 중 적어도 하나를 포함한다. 사용자 시선 정보는, 사용자의 시야를 추정하는 데에 필요한 데이터 즉, 사용자(301)의 시선 방향 및 시선 높이 중 적어도 하나를 나타내는 데이터를 포함한다. 일 예로, 정보 처리부(150)는, 제1 영상 정보에서 사용자(301)의 얼굴 위치, 얼굴 방향, 눈동자 위치, 눈동자 방향, 눈 높이, 양쪽 눈 간의 구배 등을 사용자(301)의 시선에 연관된 개별 항목으로 검출하고, 검출된 적어도 하나의 항목을 참조하여 사용자(301)의 시선 정보를 획득할 수 있다. 사용자 위치 정보는, 사용자(301)와 인터랙션 로봇(100) 간의 거리 및 사용자(301)의 위치(예, 지면 상의 좌표) 중 적어도 하나를 나타내는 데이터를 포함한다. 사용자 관찰 정보는, 사용자 이동 정보를 더 포함할 수 있다. 사용자 이동 정보는, 사용자(301)의 이동 속도 및 이동 방향 중 적어도 하나를 나타내는 데이터를 포함한다. 사용자 관찰 정보는, 사용자 신체 정보(예, 신장)를 더 포함할 수 있다.

정보 처리부(150)는, 제1 관심 영역 내의 소정 영역 내에 사용자의 특정 신체 부위가 위치하도록, 사용자 관찰 정보를 기초로 제1 전동 암(131)을 제어할 수 있다.

정보 처리부(150)는, 사용자 시선 정보에 따라 후보 영역을 결정한 다음, 사용자 위치 정보 및 사용자 이동 정보 중 적어도 하나에 따라 후보 영역의 일부를 제2 관심 영역으로 설정함으로써, 사용자 시야의 추정 효율성을 높일 수 있다.

사용자 관찰 정보에 기초한 사용자(301)의 시야 영역과 상기 시야 영역이 제2 관심 영역으로서 제2 카메라(122)에 의해 촬영되도록 제2 카메라(122)의 자세를 조절하기 위해 제2 전동 암(132)에 전달되는 자세 제어 데이터 간의 상관 관계를 기술하는 관계 데이터는 사전 실험을 통해 정보 저장부(110)에 미리 저장될 수 있다. 자세 제어 데이터는, 목표 틸트값, 목표 팬값 및 목표 높이값 중 적어도 하나를 포함한다. 정보 처리부(150)는, 정보 저장부(110)를 참조하여 생성된 자세 제어 데이터를 제2 전동 암(132)으로 전달할 수 있다. 제2 전동 암(132)은, 자세 제어 데이터에 응답하여, 제2 카메라(122)의 현 틸트값을 목표 틸트값으로, 현 팬값을 목표 팬값으로 또는 현 높이값을 목표 높이값으로 조절할 수 있다.

정보 처리부(150)는, 자세 제어 데이터에 따라 제2 전동 암(132)에 의해 자세 제어된 제2 카메라(122)로부터 제2 관심 영역에 대한 제2 영상 정보를 수집한 다음, 수집된 제2 영상 정보로부터 사용자(301)가 응시 중인 제2 관심 영역의 상황을 나타내는 주변 관찰 정보를 획득할 수 있다.

구체적으로, 정보 처리부(150)는, 제2 영상 정보를 처리하여, 제2 관심 영역의 객체 정보 및 배경 정보 중 적어도 하나를 주변 관찰 정보로서 획득할 수 있다. 객체 정보는, 제2 관심 영역에 존재하는 적어도 한 객체 각각의 고유 특징 데이터를 포함하고, 각 객체는 (i)설명 대상 객체, (ii)설명 대상 객체에 연관된 설명 보조 객체, (iii)경로 지정 객체 및 (iv)장애물 객체 중 적어도 하나로 식별될 수 있다. 설명 대상 객체는, 사용자(301)에게 시각적 형태 및/또는 청각적 형태 등의 설명이 필요한 것으로 미리 지정된 객체이다. 일 예로, 박물관의 특정 유물이 설명 대상 객체일 수 있다. 설명 보조 객체는, 설명 대상 객체에 대한 상세 설명 데이터를 보유한 객체이다. 일 예로, 박물관의 특정 유물에 근접하게 표시된 설명판, 바코드, QR코드, 하이퍼링크 등이 설명 보조 객체일 수 있다. 경로 지정 객체는, 인터랙션 로봇(100)의 이동에 대한 경로 안내 기능을 가지는 객체일 수 있다. 일 예로, 지면 상의 특정 참조 위치를 지시하는 QR 마커, AR 마커, RFID 등이 경로 지정 객체일 수 있다. 장애물 객체는, 사용자(301)에 대한 인터랙션 로봇(100)의 추종 이동을 방해하는 객체일 수 있다. 일 예로, 사용자(301) 외에 인터랙션 로봇(100)에 근접한 타인, 동물, 낙하물 등이 장애물 객체일 수 있다. 객체의 고유 특징 데이터는, 다른 객체와 구분되는 각 객체의 고유 특징을 기술하는 데이터로서, 일 예로 객체의 사이즈(예, 폭, 높이, 깊이), 위치(예, 지면 상의 2차원 좌표, 사용자(301)로부터의 거리, 인터랙션 로봇(100)으로부터의 거리), 색(예, 명도, 채도, 색상), 이동성(예, 움직임 여부, 이동 방향, 이동 속도) 등이 있다. 배경 정보는, 제2 관심 영역에서 인식된 각 객체가 제외된 나머지 부분인 배경(예, 바닥, 하늘, 벽)의 특징을 나타내는 데이터를 포함한다.

정보 처리부(150)는, 사용자 관찰 정보 및 주변 관찰 정보 중 적어도 하나에 연관된 적어도 하나의 인터랙션 기능을 실행한다. 즉, 정보 처리부(150)에 의해 제공되는 인터랙션 기능은, 사용자 관찰 정보 및 주변 관찰 정보 중 어느 하나에만 연관된 것이거나, 사용자 관찰 정보 및 주변 관찰 정보 둘 다에 연관된 것일 수 있다.

인터랙션 로봇(100)은, 사용자에게 인터랙션 서비스로서의 시각적/청각적/촉각적 정보를 피드백하는 정보 출력부(160)를 더 포함할 수 있다. 정보 출력부(160)로는, 디스플레이(161), 스피커(162) 등과 같은 공지의 출력 수단들 중 적어도 하나가 이용될 수 있다. 자세 제어부(130)는, 제3 전동 암(133)을 더 포함할 수 있다. 제3 전동 암(133)은, 디스플레이(161)의 자세를 변경하도록 구성된다. 구체적으로, 제3 전동 암(133)은, 디스플레이(161)의 몸체에 기계적으로 결합되어, 디스플레이(161)의 각도 및 고도 중 적어도 하나를 조절할 수 있다. 일 예로, 제3 전동 암(133)은 제3 기준축에 대한 디스플레이(161)의 몸체의 틸트값 및 팬값 중 적어도 하나를 조절하고, 이와는 별개로 인터랙션 로봇(100)의 제3 기준 위치에 대한 디스플레이(161)의 높낮이를 조절할 수 있다. 전술된 제1 내지 제3 기준 위치는, 서로 동일 또는 상이한, 인터랙션 로봇(100)의 몸체의 일 지점일 수 있다.

정보 처리부(150)는, 사용자(301)가 소정 시간 이상 특정 객체로부터 소정 거리 내에 위치하는 경우, 해당 특정 객체를 사용자(301)의 주 관심 객체로 식별하고, 해당 특정 객체에 관한 상세 정보를 정보 출력부(160)를 통해 사용자에게 제공할 수 있다.

또한, 정보 처리부(150)는, 사용자(301)의 신장(또는 눈높이)과 특정 객체에 대해 미리 정해진 적정 관찰 고도 간의 차이를 기초로, 디스플레이(161)의 목표 자세(예, 틸트, 높이)를 결정하고, 디스플레이(161)의 몸체가 목표 자세를 가지도록 제3 전동 암(133)을 제어할 수 있다. 예컨대, 정보 처리부(150)는, 사용자(301)의 신장과 적정 관찰 고도 간의 차이에 따라 디스플레이(161)의 목표 자세를 결정할 수 있다. 다른 예로, 정보 처리부(150)는, 적정 관찰 고도에서의 특정 객체에 대한 녹화 영상 등을 디스플레이(161)에 표시할 수 있다. 또 다른 예로, 정보 처리부(150)는, 제2 카메라(122)가 특정 객체를 그 적정 관찰 고도에서 촬영하도록 제2 전동 암(132)을 제어하고, 제2 카메라(122)에 의해 실시간 촬영되는 영상을 디스플레이(161)에 표시할 수 있다.

전술된 제1 전동 암(131), 제2 전동 암(132) 및 제3 전동 암(133) 중 적어도 하나는, 자유도가 2 이상인 다관절 짐벌의 구조를 가지도록 구현될 수 있다.

인터랙션 로봇(100)은, 사용자(301)로부터의 명령/요청을 수신하기 위한 정보 입력부(170)를 더 포함할 수 있다. 정보 입력부(170)로는, 터치 센서(171), 마이크(172), 버튼, 키보드 등과 같은 공지의 입력 수단들 중 적어도 하나가 이용될 수 있다. 디스플레이(161)와 터치 센서(171)는 터치 스크린 등의 일체형으로 구비될 수 있다.

도 4는 본 발명의 다른 실시예에 따른 인터랙션 로봇(100)의 구성을 예시적으로 나타낸 도면이다.

도 4를 참조하면, 본 발명의 다른 실시예에 따른 인터랙션 로봇(100')은, 모빌리티 기능이 있는 차량(400)의 특정 부분에 탑재된 상태라는 점에서, 도 1 및 도 2를 참조하여 전술된 일 실시예에 따른 인터랙션 로봇(100)과 상이하다. 즉, 도 4에 도시된 다른 실시예에 따른 인터랙션 로봇(100')은 주행부(140, 도 1 및 도 2 참조)를 구성요소로 포함하지 않으며, 인터랙션 로봇(100')의 이동은 전적으로 인터랙션 로봇(100)이 장착된 차량(400)의 주행부에 의존한다는 점에서만 일 실시예에 따른 인터랙션 로봇(100)과 차이가 있고 나머지는 공통되는바, 공통된 내용에 대한 반복 설명은 생략하기로 한다. 다른 실시예에 따른 인터랙션 로봇(100')은 차량(400)의 대쉬보드 등에 탈착 가능하도록 제공될 수 있고, 정보 처리부(150)는 차량(400)의 주행부와 유무선 통신 네트워크를 통해 결합됨으로써, 정보 처리부(150)의 요청에 따라 차량(400)의 주행부가 제어될 수 있다.

이하에서는, 설명의 편의를 위해, 인터랙션 로봇(100)이 도 1 및 도 2와 같이 주행부(140)를 구성요소로 포함하여, 주행부(140)가 제공하는 자체적인 모빌리티 기능을 통해 능동적으로 이동 가능한 것으로 가정하여 설명을 계속하겠다.

도 5는 본 발명의 일 실시예에 따른 인터랙션 로봇의 제어 방법을 예시적으로 보여주는 순서도이다.

도 1 내지 도 5를 참조하면, 단계 S510에서, 정보 처리부(150)는, 제1 카메라(121)로부터 제1 관심 영역에 대한 제1 영상 정보를 수집한다. 제1 관심 영역은 사용자가 위치하는 영역으로서, 제1 카메라(121)는 제1 관심 영역을 감지하는 자세를 가지도록 자세 제어된 상태일 수 있다.

단계 S520에서, 정보 처리부(150)는, 제1 영상 정보를 기초로, 사용자 관찰 정보를 획득한다. 사용자 관찰 정보는, 사용자 시선 정보 및 사용자 위치 정보를 포함하고, 사용자 이동 정보, 사용자 신체 정보 등을 더 포함할 수 있다.

단계 S530에서, 정보 처리부(150)는, 사용자 관찰 정보를 기초로, 제1 관심 영역이 변경되도록 제1 카메라(121)의 자세를 조절한다. 구체적으로, 정보 처리부(150)는, 제1 카메라(121)의 목표 지향 강도(예, 틸트, 팬) 및 목표 몸체 고도 중 적어도 하나를 나타내는 제1 자세 제어 데이터를 생성하고(단계 S532), 제1 자세 제어 데이터에 따라 제1 카메라(121)의 자세가 조절되도록 제1 전동 암(131)을 제어할 수 있다(단계 S534). 일 예로, 도 3을 참조하면, 정보 처리부(150)는, 현재의 제1 영상 정보 내에서 사용자(301)의 전신 또는 특정 신체 부위가 위치하는 사용자 영역을 타겟 영역(310)과 비교하여, 사용자 영역의 중심과 타겟 영역(310)의 중심 간의 차이를 기초로 두 중심이 일치되도록 하기 위한 제1 카메라(121)의 목표 자세를 연산할 수 있다. 제1 카메라(121)의 현 자세와 목표 자세 간의 차이가 제1 자세 제어 데이터로서 생성될 수 있다. 이에 따라, 사용자(301)의 위치나 움직임에 맞춰 제1 카메라(301)의 자세가 조절되면서 제1 카메라(301)의 감지 대상인 제1 관심 영역이 변경되므로, 제1 영상 정보를 이용한 사용자 추적을 지속할 수 있다.

단계 S540에서, 정보 처리부(150)는, 사용자 관찰 정보를 기초로, 제2 카메라(122)의 자세를 조절한다. 구체적으로, 정보 처리부(150)는 사용자 관찰 정보를 기초로, 사용자(301)의 시야 영역에 대응하는 제2 관심 영역을 감지하기 위한 제2 카메라(122)의 목표 지향 강도(예, 촬영 각도) 및 목표 몸체 고도 중 적어도 하나를 나타내는 제2 자세 제어 데이터를 생성하고(단계 S542), 제2 자세 제어 데이터에 따라 제2 카메라(122)의 자세가 조절되도록 제2 전동 암(132)을 제어할 수 있다(단계 S544).

단계 S550에서, 정보 처리부(150)는, 제2 카메라(122)로부터 제2 관심 영역에 대한 제2 영상 정보를 수집한다.

단계 S560에서, 정보 처리부(150)는, 제2 영상 정보를 기초로, 제2 관심 영역의 상황을 나타내는 주변 관찰 정보를 획득한다. 구체적으로, 정보 처리부(150)는, 제2 영상 정보를 처리하여, 제2 관심 영역의 객체 정보 및 배경 정보 중 적어도 하나를 주변 관찰 정보로서 획득하고(단계 S562), 더 나아가서는 객체 정보 및 배경 정보에 대응하는 상황 추론 정보를 주변 관찰 정보로서 생성할 수 있다(단계 S564).

단계 S510에서 단계 S560가 수행되는 중에, 정보 처리부(150)는 위치 센서(124)로부터 인터랙션 로봇(100)의 위치를 나타내는 위치 정보를 적어도 1회 수집할 수 있다.

단계 S570에서, 정보 처리부(150)는, 사용자 관찰 정보 및 주변 관찰 정보 중 적어도 하나에 연관된 적어도 하나의 상황 대처 동작을 실행한다. 단계 S570에서 실행 가능한 여러 상황 대처 동작에 대해서는 도 6 내지 도 11을 참조하여 보다 상세히 설명하기로 한다.

도 6 내지 도 11은 인터랙션 로봇에 의해 실행 가능한 다양한 상황 대처 동작들을 예시적으로 설명하는 데에 참조되는 도면이다. 도 6 및 도 7에는 측면에서 바라본 모습을 예시하였고, 도 8 내지 도 11에는 상부에서 바라본 모습으로 예시하였다.

도 6은 제1 상황 대처 동작을 설명하는 데에 참조되는 도면이다. 제1 상황 대처 동작은, 자율 주행 모드(사용자 추종 모드) 즉, 인터랙션 로봇(100)이 사용자(301)로부터 기준 거리 범위 내에서 사용자(301)를 추종하도록 주행부(140)를 제어하는 동작일 수 있다. 기준 거리 범위는 하한값과 상한값으로 정의되며, 하한값은 인터랙션 로봇(100)과 사용자(301) 간의 충돌을 방지하기 위한 안전 거리를 나타내고, 상한값은 사용자 관찰 정보의 유효성을 확보하기 위한 허용 거리를 나타낸다.

기준 거리 범위는 미리 정해진 고정값(예, 하한값 3m, 상한값 5m)이거나, 정보 처리부(150)가 사용자 관찰 정보 및 로봇 위치 정보를 기초로 설정 가능한 가변값일 수 있다. 정보 처리부(150)는, 인터랙션 로봇(100) 위치 정보, 사용자 위치 정보 및 사용자 이동 정보 중 적어도 하나를 기초로, 기준 거리 범위를 조절할 수 있다.

일 예로, 사용자(301)의 이동 속도가 제1 기준 속도 이하인 경우, 인터랙션 로봇(100)이 사용자(301)에 보다 근접한 위치에서 인터랙션 서비스를 제공할 수 있도록 사용자의 이동 속도와 제1 기준 속도 간의 차이에 맞춰 기준 거리 범위의 하한값과 상한값 중 적어도 하나를 감소시킬 수 있다.

다른 예로, 사용자(301)의 이동 속도가 제1 기준 속도보다 큰 제2 기준 속도 이상인 경우, 인터랙션 로봇(100)과 사용자(301) 간의 충돌 가능성이 유효하게 억제될 수 있도록 사용자(301)의 이동 속도와 제2 기준 속도 간의 차이에 맞춰 기준 거리 범위의 하한값 및 상한값 중 적어도 하나를 증가시킬 수 있다.

이때, 인터랙션 로봇(100)과와 사용자(301) 간의 거리는, 기준 거리 범위의 하한값 및 상한값 중 적어도 하나의 감소분 또는 증가분을 결정하는 데에 가중치로서 이용될 수 있다.

도 7은 제2 상황 대처 동작 및 제3 상황 대처 동작을 설명하는 데에 참조되는 도면이다. 제2 상황 대처 동작은, 자율 주행 모드 또는 경로 추종 모드에서, 주변 관찰 정보로서 설명 대상 객체 및 설명 보조 객체 중 적어도 하나의 고유 특징 데이터가 획득된 경우, 설명 대상 객체의 고유 특징 데이터 및 설명 보조 객체의 고유 특징 데이터 중 적어도 하나를 기초로, 설명 대상 객체에 연관된 설명 메시지를 출력하는 동작일 수 있다. 설명 메시지(710)는, 인터랙션 로봇(100)의 디스플레이(161)를 통해 시각적 형태로 사용자(301)에게 피드백되거나, 인터랙션 로봇(100)의 스피커(162)를 통해 청각적 형태로 사용자(301)에게 피드백될 수 있다. 정보 처리부(150)는, 설명 보조 객체에 설명 메시지가 직접 표시되거나 보유되는 대신 설명 메시지가 기록된 외부 디바이스나 웹페이지 등의 링크 정보(예, url)를 갖는 경우, 해당 링크에 무선 접속하여 설명 메시지를 수집하고, 수집된 설명 메시지를 사용자(301)에게 출력할 수도 있다.

제3 상황 대처 동작은, 자율 주행 모드 또는 경로 추종 모드에서, 객체 정보 및 배경 정보에 대응하는 상황 추론 정보(예, 박물관 견학 상황, 교통 체증 상황, 폭설 상황)를 생성한 다음, 상황 추론 정보에 연관된 추론 상황 안내 메시지(720)(예, "이 작품에 관심이 있으시군요. XX박물관의 대표 작품으로서 YYYY년에 기증되었습니다", "눈도 많이 오는데 차까지 막혀서 답답하시겠네요. 10분 후면 목적지에 도착하니 조금만 힘내보세요")를 출력하는 동작일 수 있다. 일 예로, 객체 정보 및 배경 정보를 정보 저장부(110)에 기 저장된 인공지능(AI) 기반의 상황 추론 모델에 적용하여, 상황 추론 모델로부터 상황 추론 정보 및 추론 상황 안내 메시지를 얻을 수 있다.

도 8은 제4 상황 대처 동작을 설명하는 데에 참조되는 도면이다. 제4 상황 대처 동작은, 자율 주행 모드 또는 경로 추종 모드에서, 제2 관심 영역에 존재하는 것으로 인식된 장애물 객체(800)가 사용자(301)로부터 기준 거리 이내에 위치하는 경우, 사용자(301)와 해당 장애물 객체 간의 충돌 위험성을 알리는 충돌 경고 메시지(810)를 출력하는 기능일 수 있다.

도 9는 제5 상황 대처 동작을 설명하는 데에 참조되는 도면이다. 제5 상황 대처 동작은, 경로 추종 모드에서, 목표 이동 경로가 미리 주어져 있거나 무선 통신을 통해 제공되지 않는 경우, 주변 관찰 정보로서 획득된 적어도 한 경로 지정 객체(901~904)의 고유 특징 데이터(예, 참조 위치, 지향 방향)를 기초로 목표 이동 경로(910)를 결정하고, 인터랙션 로봇(100)이 목표 이동 경로(910)를 추종하도록 주행부(140)를 제어하는 기능이다. 각 경로 지정 객체는 인터랙션 로봇(100)이 경유해야 하는 참조 위치(추가적으로는 지향 방향)를 지시하고 있으며, 정보 처리부(150)는 인터랙션 로봇(100)의 이동 중에 반복적으로 수집되는 제2 영상 정보에서 순차적으로 인식되는 각 경로 지정 객체(901~904)가 지시하는 참조 위치를 경로 생성 모델에 입력함으로써, 경로 생성 모델로부터 목표 이동 경로를 결정할 수 있다. 정보 처리부(150)는, 경로 생성 모델을 이용하여, 인터랙션 로봇(100)의 이동 중, 시작점으로부터 이미 지나온 경로(위치 변화 이력)를 기초로 인터랙션 로봇(100)의 현 위치로부터 다음 참조 위치로의 최적 경로(예, 곡선화)를 탐색하는 과정을 새로운 경로 지정 객체가 인식될 때마다 반복함으로써, 목표 이동 경로를 업데이트할 수 있다. 물론, 목표 이동 경로는 경로 지정 객체의 인식 결과를 기초로만 결정되는 것으로 제한되는 것은 아니다. 예컨대, 목표 이동 경로를 정의하는 다수의 좌표값들이 인터랙션 로봇(100)의 이동 개시 전 또는 이동 중에 무선 네트워크 등을 통해 수집될 수 있고, 정보 처리부(150)는 인터랙션 로봇(100)의 이동 중에 인터랙션 로봇(100)의 위치 정보를 상기 다수의 좌표값들과 비교하는 과정을 반복함으로써 인터랙션 로봇(100)이 목표 이동 경로를 따라 이동하도록 주행부(140)를 제어할 수도 있다.

도 10은 제6 상황 대처 동작을 설명하는 데에 참조되는 도면이다. 제6 상황 대처 동작은, 경로 추종 모드에서, 목표 이동 경로(1010) 상에 장애물 객체(1000)가 위치하는 경우, 인터랙션 로봇(100)과 장애물 객체 간의 충돌을 방지하면서 목표 이동 경로를 확보하기 위한 기능일 수 있다. 먼저, 정보 처리부(150)는 장애물 객체와의 충돌을 방지하기 위해 인터랙션 로봇(100)의 이동이 정지되도록 주행부(140)를 제어할 수 있다. 정보 처리부(150)는, 장애물 객체(1000)의 고유 특성 데이터를 기초로, 장애물 객체가 자극 감응형 이동체인지 판정한 다음, 자극 감응형 이동체로 판정되면, 해당 자극 감응형 이동체에 대한 자극 신호(1020)를 출력할 수 있다. 자극 감응형 이동체란, 인물, 동물은 물론 타 로봇 등과 같이, 특정 자극에 대한 회피 반응을 하는 객체를 통칭할 수 있다. 자극 신호(1020)로는, 회피 요청 메시지(인물인 경우 "지나갈 수 있도록 조금만 비켜주세요"), 비프음, 광원 점멸 등을 예로 들 수 있다. 정보 처리부(150)는, 장애물 객체(1000)가 자극 감응형 이동체가 아니거나, 장애물 객체(1000)가 자극 감응형 이동체이더라도 일정 시간 이상 자극 신호(1020)에 반응하지 않는 경우, 장애물 객체(1000)에 대한 처리를 요청하는 신호를 관리자 단말에게 전송할 수 있다.

도 11은 제7 상황 대처 동작을 설명하는 데에 참조되는 도면이다. 제6 상황 대처 동작은, 경로 추종 모드에서, 목표 이동 경로와 인터랙션 로봇(100)의 실제 이동 경로를 비교하여 두 경로 간이 경로 유사도를 결정하고, 나아가서는 목표 이동 경로로부터의 이탈 상태가 발생된 경우, 인터랙션 로봇(100)이 목표 이동 경로로 복귀하도록 하는 기능일 수 있다.

정보 처리부(150)는, 경로 유사도가 기준값(예, 90%) 이상인 경우, 실제 이동 경로의 이동 중에 센싱부(120)에 의해 기 수집된 센싱 정보(예, 제1 영상 정보, 제2 영상 정보 및/또는 추가 비젼 센서의 센싱 정보)의 시계열을 유효 이동 정보로 설정 및 저장할 수 있다. 유효 이동 정보는, 인터랙션 로봇(100)이 동일 공간에서 다른 사용자에게 인터랙션 서비스를 제공하는 향후의 상황에서, 인터랙션 로봇(100)의 이동 안전성을 강화하고, 목표 이동 경로의 추종 정확도를 향상시키기 위한 보조 자료로서 이용될 수 있다.

이탈 상태란, 인터랙션 로봇(100)에 가해진 외부 충격이나 경로 추종 과정에서의 오류 등으로 인해, 경로 유사도가 기준값 미만이 되거나 인터랙션 로봇(100)이 목표 이동 경로(1110)로부터 기준 거리보다 멀리 위치하고 있는 상태일 수 있다. 여기서, 이탈 상태의 판정 기준이 되는 기준 거리는, 장애물 객체와의 충돌 위험에 대한 판정 기준이 되는 기준 거리와는 동일 또는 상이할 수 있다.

정보 처리부(150)는, 인터랙션 로봇(100)이 목표 이동 경로(1110)로부터 이탈한 것으로 판정되는 경우, 제2 관심 영역과는 상이한 제3 관심 영역이 제2 카메라(122)에 의해 감지되도록 구동부(제2 전동 암(132)) 및 주행부(140) 중 적어도 하나를 제어할 수 있다. 예컨대, 주행부(140)를 정지시킨 채로 제2 전동 암(132)을 이용하여 제2 카메라(122)의 팬값을 조절하거나, 제2 카메라(122)의 자세는 고정한 채로 인터랙션 로봇(100)이 제자리에서 일정 범위(예, 360도)의 각도로 회전하도록 주행부(140)를 제어하면서, 인터랙션 로봇(100)의 현 위치에서 주변의 영상을 파노라마 형태로 감지할 수 있다. 그 다음, 정보 처리부(150)는, 제2 카메라(122)로부터 제3 관심 영역에 대한 제3 영상 정보를 수집하고, 제3 영상 정보를 처리하여, 제3 관심 영역 내 상기 인터랙션 로봇(100)에 최근접의 경로 지정 객체를 인식한다. 이어서, 정보 처리부(150)는, 인터랙션 로봇(100)이 최근접의 경로 지정 객체(1111)에 의해 지시되는 목표 이동 경로 상의 참조 위치로 이동하도록 주행부(140)를 제어한다. 이로써, 인터랙션 로봇(100)의 복귀는 1차적으로 완료된다. 정보 처리부(150)는, 참조 위치에서 인터랙션 로봇(100)의 지향 방향을 최근접의 경로 지정 객체(1111)에 의해 지시되는 참조 방향으로 맞춘 다음 목표 이동 경로의 추종을 재개하도록 주행부(140)를 제어할 수 있다.

본 발명은 상술한 특정의 실시예 및 응용예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 구별되어 이해되어서는 안 될 것이다.

특히, 본 명세서에 첨부된 도면에 도시된 블록도와 순서도에 포함된 본 발명의 기술적 특징을 실행하는 구성들은 상기 구성들 사이의 논리적인 경계를 의미한다. 그러나 소프트웨어나 하드웨어의 실시 예에 따르면, 도시된 구성들과 그 기능들은 독립형 소프트웨어 모듈, 모놀리식 소프트웨어 구조, 코드, 서비스 및 이들을 조합한 형태로 실행되며, 저장된 프로그램 코드, 명령어 등을 실행할 수 있는 프로세서를 구비한 컴퓨터에서 실행 가능한 매체에 저장되어 그 기능들이 구현될 수 있으므로 이러한 모든 실시 예 역시 본 발명의 권리범위 내에 속하는 것으로 보아야 할 것이다.

따라서, 첨부된 도면과 그에 대한 기술은 본 발명의 기술적 특징을 설명하기는 하나, 이러한 기술적 특징을 구현하기 위한 소프트웨어의 특정 배열이 분명하게 언급되지 않는 한, 단순히 추론되어서는 안 된다. 즉, 이상에서 기술한 다양한 실시 예들이 존재할 수 있으며, 그러한 실시 예들이 본 발명과 동일한 기술적 특징을 보유하면서 일부 변형될 수 있으므로, 이 역시 본 발명의 권리범위 내에 속하는 것으로 보아야 할 것이다.

또한, 순서도의 경우 특정한 순서로 도면에서 동작들을 묘사하고 있지만, 이는 가장 바람직한 결과를 얻기 위하여 도시된 것으로서, 도시된 특정한 순서나 순차적인 순서대로 그러한 동작들을 반드시 실행되어야 한다거나 모든 도시된 동작들이 반드시 실행되어야 하는 것으로 이해되어서는 안 된다. 특정한 경우, 멀티 태스킹과 병렬 프로세싱이 유리할 수 있다. 아울러, 이상에서 기술한 실시형태의 다양한 시스템 컴포넌트의 분리는 그러한 분리를 모든 실시형태에서 요구하는 것으로 이해되어서는 안되며, 설명한 프로그램 컴포넌트와 시스템들은 일반적으로 단일의 소프트웨어 제품으로 함께 통합되거나 다중 소프트웨어 제품에 패키징될 수 있다는 점을 이해하여야 한다.

100: 인터랙션 로봇
110: 정보 저장부 120: 센싱부
121: 제1 카메라 122: 제2 카메라
130: 자세 제어부
140: 주행부 150: 정보 처리부
160: 정보 출력부 170: 정보 입력부

Claims (15)

1. 인터랙션 로봇의 제어 방법에 있어서,
   상기 인터랙션 로봇의 제1 카메라로부터 제1 관심 영역에 대한 제1 영상 정보를 수집하는 단계;
   상기 제1 영상 정보를 기초로, 상기 제1 관심 영역 내 추적 대상으로서의 사용자에 연관된 사용자 관찰 정보를 획득하는 단계;
   상기 사용자 관찰 정보를 기초로, 상기 인터랙션 로봇의 제2 카메라에 의해 상기 사용자의 시야에 대응하는 제2 관심 영역이 감지되도록 상기 제2 카메라의 목표 지향 각도 및 목표 몸체 높이 중 적어도 하나를 나타내는 자세 제어 데이터를 생성하고, 상기 자세 제어 데이터에 따라 상기 제2 카메라의 자세가 조절되도록 상기 제2 카메라에 결합된 자세 제어부를 제어하는 단계;
   상기 제2 카메라로부터 상기 제2 관심 영역에 대한 제2 영상 정보를 수집하는 단계;
   상기 제2 영상 정보를 기초로, 상기 제2 관심 영역의 상황을 나타내는 주변 관찰 정보를 획득하는 단계; 및
   상기 사용자 관찰 정보 및 상기 주변 관찰 정보 중 적어도 하나에 연관된 적어도 하나의 상황 대처 동작을 실행하는 단계;
   를 포함하는, 인터랙션 로봇 제어 방법.
   
2. 삭제
3. 인터랙션 로봇의 제어 방법에 있어서,
   상기 인터랙션 로봇의 제1 카메라로부터 제1 관심 영역에 대한 제1 영상 정보를 수집하는 단계;
   상기 제1 영상 정보를 기초로, 상기 제1 관심 영역 내 추적 대상으로서의 사용자에 연관된 사용자 관찰 정보를 획득하는 단계;
   상기 사용자 관찰 정보를 기초로, 상기 인터랙션 로봇의 제2 카메라에 의해 상기 사용자의 시야에 대응하는 제2 관심 영역이 감지되도록 상기 제2 카메라에 결합된 자세 제어부를 제어하는 단계;
   상기 제2 카메라로부터 상기 제2 관심 영역에 대한 제2 영상 정보를 수집하는 단계;
   상기 제2 영상 정보를 기초로, 상기 제2 관심 영역의 상황을 나타내는 주변 관찰 정보를 획득하는 단계; 및상기 사용자 관찰 정보 및 상기 주변 관찰 정보 중 적어도 하나에 연관된 적어도 하나의 상황 대처 동작을 실행하는 단계를 포함하되,
   상기 적어도 하나의 상황 대처 동작을 실행하는 단계는,
   상기 인터랙션 로봇이 상기 사용자로부터 기준 거리 범위 이내에 위치하도록 주행부를 제어하는 단계;
   를 포함하되,
   상기 주행부는, 상기 인터랙션 로봇에 구비되거나 상기 인터랙션 로봇이 탑재되는 차량에 구비된 것인, 인터랙션 로봇 제어 방법.
   
4. 제3항에 있어서,
   상기 적어도 하나의 상황 대처 동작을 실행하는 단계는,
   상기 사용자의 이동 속도를 기초로, 상기 기준 거리 범위를 조절하는 단계;
   를 더 포함하는, 인터랙션 로봇 제어 방법.
   
5. 인터랙션 로봇의 제어 방법에 있어서,
   상기 인터랙션 로봇의 제1 카메라로부터 제1 관심 영역에 대한 제1 영상 정보를 수집하는 단계;
   상기 제1 영상 정보를 기초로, 상기 제1 관심 영역 내 추적 대상으로서의 사용자에 연관된 사용자 관찰 정보를 획득하는 단계;
   상기 사용자 관찰 정보를 기초로, 상기 인터랙션 로봇의 제2 카메라에 의해 상기 사용자의 시야에 대응하는 제2 관심 영역이 감지되도록 상기 제2 카메라에 결합된 자세 제어부를 제어하는 단계;
   상기 제2 카메라로부터 상기 제2 관심 영역에 대한 제2 영상 정보를 수집하는 단계;
   상기 제2 영상 정보를 기초로, 상기 제2 관심 영역의 상황을 나타내는 주변 관찰 정보를 획득하는 단계; 및
   상기 사용자 관찰 정보 및 상기 주변 관찰 정보 중 적어도 하나에 연관된 적어도 하나의 상황 대처 동작을 실행하는 단계를 포함하되,
   상기 주변 관찰 정보를 획득하는 단계는,
   상기 제2 영상 정보를 처리하여, 상기 제2 관심 영역의 객체 정보 및 배경 정보 중 적어도 하나를 획득하는 단계;를 포함하되,
   상기 객체 정보는, 상기 제2 관심 영역의 적어도 한 객체 각각의 고유 특징 데이터를 포함하고,
   각 객체는, 설명 대상 객체, 상기 설명 대상 객체에 연관된 설명 보조 객체, 경로 지정 객체 및 장애물 객체 중 적어도 하나로 식별되고,
   상기 배경 정보는, 상기 제2 관심 영역의 배경의 특징을 나타내는 데이터를 포함하는, 인터랙션 로봇 제어 방법.
   
6. 제5항에 있어서,
   상기 적어도 하나의 상황 대처 동작을 실행하는 단계는,
   상기 설명 대상 객체 및 상기 설명 보조 객체 중 적어도 하나의 고유 특징 데이터를 기초로, 상기 설명 대상 객체에 연관된 설명 메시지를 출력하는 단계;
   를 포함하는, 인터랙션 로봇 제어 방법.
   
7. 제5항에 있어서,
   상기 적어도 하나의 상황 대처 동작을 실행하는 단계는,
   상기 객체 정보 및 상기 배경 정보에 대응하는 상황 추론 정보를 생성하는 단계; 및
   상기 상황 추론 정보에 연관된 추론 상황 안내 메시지를 출력하는 단계;
   를 포함하는, 인터랙션 로봇 제어 방법.
   
8. 제5항에 있어서,
   상기 적어도 하나의 상황 대처 동작을 실행하는 단계는,
   상기 사용자로부터 기준 거리 이내에 상기 장애물 객체가 위치하는 경우, 충돌 경고 메시지를 출력하는 단계;
   를 포함하는, 인터랙션 로봇 제어 방법.
   
9. 제5항에 있어서,
   상기 적어도 하나의 상황 대처 동작을 실행하는 단계는,
   각 경로 지정 객체의 고유 특징 데이터를 기초로, 상기 인터랙션 로봇의 목표 이동 경로를 결정하는 단계; 및
   상기 인터랙션 로봇이 상기 목표 이동 경로를 추종하도록 주행부를 제어하는 단계;
   를 포함하되,
   상기 주행부는, 상기 인터랙션 로봇에 구비되거나 상기 인터랙션 로봇이 탑재되는 차량에 구비된 것인, 인터랙션 로봇 제어 방법.
   
10. 제5항에 있어서,
    상기 적어도 하나의 상황 대처 동작을 실행하는 단계는,
    상기 장애물 객체가 상기 인터랙션 로봇의 목표 이동 경로로부터 기준 거리 이내에 위치하는 경우, 상기 인터랙션 로봇의 이동이 정지되도록 주행부를 제어하는 단계;
    를 포함하되,
    상기 주행부는, 상기 인터랙션 로봇에 구비되거나 상기 인터랙션 로봇이 탑재되는 차량에 구비된 것인, 인터랙션 로봇 제어 방법.
    
11. 제10항에 있어서,
    상기 적어도 하나의 상황 대처 동작을 실행하는 단계는,
    상기 목표 이동 경로로부터 상기 기준 거리 이내에 위치하는 상기 장애물 객체가 자극 감응형 이동체인 경우, 상기 자극 감응형 이동체에 대한 자극 신호를 출력하는 단계를 포함하는, 인터랙션 로봇 제어 방법.
    
12. 제5항에 있어서,
    상기 적어도 하나의 상황 대처 동작을 실행하는 단계는,
    상기 인터랙션 로봇의 목표 이동 경로와 실제 이동 경로 간의 경로 유사도를 결정하는 단계;
    를 포함하는, 인터랙션 로봇 제어 방법.
    
13. 제5항에 있어서,
    상기 적어도 하나의 상황 대처 동작을 실행하는 단계는,
    상기 인터랙션 로봇이 목표 이동 경로로부터 이탈한 경우,
    상기 제2 관심 영역과는 상이한 제3 관심 영역이 상기 제2 카메라에 의해 감지되도록 상기 자세 제어부 및 주행부 중 적어도 하나를 제어하는 단계;
    상기 제2 카메라로부터 상기 제3 관심 영역에 대한 제3 영상 정보를 수집하는 단계;
    상기 제3 영상 정보를 처리하여, 상기 제3 관심 영역 내 상기 인터랙션 로봇에 최근접의 경로 지정 객체를 인식하는 단계;
    상기 인터랙션 로봇이 상기 최근접의 경로 지정 객체에 의해 지시되는 상기 목표 이동 경로 상의 참조 위치로 이동하도록 상기 주행부를 제어하는 단계; 및
    상기 인터랙션 로봇이 상기 참조 위치로 이동한 경우, 상기 인터랙션 로봇이 상기 최근접의 경로 지정 객체에 의해 지시되는 참조 방향을 지향한 상태에서 이동이 재개되도록, 상기 주행부를 제어하는 단계;
    를 포함하는, 인터랙션 로봇 제어 방법.
    
14. 제1항 및 제3항 내지 제13항 중 어느 한 항에 따른 상기 인터랙션 로봇 제어 방법을 실행시키기 위해 컴퓨터에서 실행 가능한 저장매체에 저장된 컴퓨터 프로그램.
    
15. 제14항에 따른 상기 컴퓨터 프로그램이 저장된 상기 저장매체를 포함하는 정보 저장부;
    상기 제1 카메라;
    상기 제2 카메라;
    상기 자세 제어부; 및
    상기 컴퓨터 프로그램을 이용하여 상기 인터랙션 로봇 제어 방법을 실행하는 정보 처리부;
    를 포함하는, 인터랙션 로봇.
    

Images