KR20190141892A

KR20190141892A - 실 공간에서 관심지점 관련 정보를 자동으로 수집 및 업데이트하는 방법 및 시스템

Info

Publication number: KR20190141892A
Application number: KR1020180068652A
Authority: KR
Inventors: 강상철; 김정희
Original assignee: 네이버랩스 주식회사
Priority date: 2018-06-15
Filing date: 2018-06-15
Publication date: 2019-12-26
Also published as: WO2019240452A1; US20210097103A1; KR102092392B1

Abstract

실 공간에서 관심지점 관련 정보를 자동으로 수집 및 업데이트하는 방법 및 시스템을 제공한다. 본 발명의 실시예들에 따른 정보 수집 및 업데이트 방법을 통해, 시내 거리 혹은 실내 쇼핑몰 등 실제 공간 환경에서 지도 등의 위치 기반 서비스를 위해 실제 공간상에 존재하는 다수의 관심지점(Point Of Interest, POI)과 관련된 정보를 자동으로 수집하고, 이전에 수집된 정보와 비교하여 변동 사항이 있는 경우, 자동으로 변경 사항을 업데이트할 수 있다.

Description

실 공간에서 관심지점 관련 정보를 자동으로 수집 및 업데이트하는 방법 및 시스템{METHOD AND SYSTEM FOR AUTOMATICALLY COLLECTING AND UPDATING INFORMATION ABOUT POINT OF INTEREST IN REAL SPACE}

아래의 설명은 실 공간에서 관심지점 관련 정보를 자동으로 수집 및 업데이트하는 방법 및 시스템에 관한 것으로, 보다 자세하게는 시내 거리 혹은 실내 쇼핑몰 등 실제 공간 환경에서 지도 등의 위치 기반 서비스를 위해 실제 공간상에 존재하는 다수의 관심지점(Point Of Interest, POI)과 관련된 정보를 자동으로 수집하고, 이전에 수집된 정보와 비교하여 변동 사항이 있는 경우, 자동으로 변경 사항을 업데이트할 수 있는 정보 수집 및 업데이트 방법, 상기 정보 수집 및 업데이트 방법을 수행하는 정보 수집 및 업데이트 시스템을 제공한다.

실 공간에는 음식점, 서점, 가게 등 다양한 형태의 POI가 존재한다. 이러한 POI에 대한 정보(이하, 'POI 정보')를 지도에 표시하거나 사용자에게 제공하기 위해서는 해당 POI 정보를 수집해야 한다. 종래에는 사람이 직접 도보 또는 차량 등을 이용하여 실제 공간을 방문하여 POI의 위치와 종류, 이름 등을 직접 확인하여 시스템에 기록하거나 또는 카메라가 설치된 차량을 이용하여 실제 공간, 도로 등의 영상을 카메라로 촬영하고, 추후 사람이 촬영된 영상을 분석하여 POI의 종류, 이름 등을 인식하여 시스템에 기록하는 방법을 사용하였다. 예를 들어, 한국공개특허 제10-2011-0037045호는 차량의 카메라를 이용한 영상 수집 시스템 및 그 제어 방법에 관한 기술로, 차량에 장착된 카메라를 이용하여 촬영이 필요한지의 여부에 따라 해당 지역 또는 거리를 촬영하여 데이터베이스를 구축하고, 택시, 택배 트럭 또는 버스 등과 같이 다양한 지역을 이동하는 차량에 카메라를 장착하는 경우 보다 많은 지역 또는 거리를 촬영하여 사용자에게 보다 많은 지도 상의 영상 정보를 적은 비용으로 제공할 수 있음을 개시하고 있다.

그러나, 이러한 종래기술은 결국 실 공간에 있는 POI 정보를 확인하기 위해 사람이 해당 POI가 있는 위치에 방문하여 직접 정보를 확인 및 기록하거나 혹은 해당 위치를 방문하여 해당 위치를 촬영하고 추후에 사람이 촬영된 영상을 확인하여 정보를 확인 및 기록하는 등, 처리 과정 전반에 걸쳐 사람이 반드시 개입하여야 하기 때문에, 데이터 수집과 이를 분석하여 처리하는데 비용과 시간, 노력이 많이 소모될 수 밖에 없다는 문제점이 있다.

또한, 이미 어떠한 실 공간 영역에 대한 POI 정보를 확보하고 있다고 하더라도, POI 정보는 신규오픈, 폐점 등으로 인해 수시로 변경될 수 있다. 따라서 POI의 변화를 즉각 인지하기 위해서는 해당 공간 영역에 대한 빈번한 모니터링을 통한 POI 정보의 신속한 업데이트가 필요하나, 사람이 개입되는 처리 방법으로는 이 또한 비용과 많은 노력이 소모되어 실질적으로 POI의 변동과 관련된 최신의 정보를 획득/제공하는 것이 사실상 거의 불가능하다. 특히 실 공간의 범위가 넓은 경우 POI의 변화에 따른 최신의 POI 정보를 확인하는 과정이 더욱 어려워 진다는 문제점이 있다.

시내 거리 혹은 실내 쇼핑몰 등 실제 공간 환경에서 지도 등의 위치 기반 서비스를 위해 실제 공간상에 존재하는 다수의 관심지점(Point Of Interest, POI)과 관련된 정보를 자동으로 수집하고, 이전에 수집된 정보와 비교하여 변동 사항이 있는 경우, 자동으로 변경 사항을 업데이트할 수 있는 정보 수집 및 업데이트 방법, 상기 정보 수집 및 업데이트 방법을 수행하는 정보 수집 및 업데이트 시스템을 제공한다.

로보틱스(robotics), 컴퓨터 비전(computer vision), 딥 러닝(deep learning) 등의 기술을 활용하여 POI의 변경에 대한 정보를 취득 및 처리를 자동화함에 따라, POI의 변경에 대한 정보를 취득하고 저장하는 모든 과정에서 사람의 개입을 최소화하여, POI의 변경에 대한 정보를 취득 및 처리함에 따른 비용, 시간 및 노력을 최소화할 수 있으며, 항상 최신의 POI 정보를 유지할 수 있는 정보 수집 및 업데이트 방법, 상기 정보 수집 및 업데이트 방법을 수행하는 정보 수집 및 업데이트 시스템을 제공한다.

또한, 실 공간에 대해 촬영된 영상을 분석하여 POI 명, 종류 등 POI에 대한 직접적인 속성 정보를 자동으로 추출, 저장 및 활용할 수 있는 방법과, 추출 가능한 POI 정보를 영상분석 및 유추를 통해서 파악이 가능한 의미적인 정보(semantic information) 영역까지 확장할 수 있는 정보 처리 방법 및 정보 처리 시스템을 제공한다.

정보 수집 및 업데이트 방법에 있어서, 대상 장소의 복수의 위치에서 촬영된 복수의 영상들 각각을 영상의 촬영 위치 및 촬영 시점과 연계하여 관심지점(Point Of Interest, POI) 데이터베이스에 저장하는 단계; 상기 대상 장소 내의 대상 위치를 선정하는 단계; 상기 대상 위치에 대응하는 촬영 위치에 연계하여 상기 관심지점 데이터베이스에 저장된 영상들 중에서 상기 촬영 시점에 기초하여 이전 영상 및 이후 영상을 선정하는 단계; 및 상기 선정된 이전 영상 및 이후 영상을 비교하여 상기 대상 위치에 대한 관심지점 변동을 인식하는 단계를 포함하는 정보 수집 및 업데이트 방법을 제공한다.

상기 정보 수집 및 업데이트 방법을 컴퓨터에 실행시키기 위한 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록매체를 제공한다.

컴퓨터 장치에 있어서, 컴퓨터에서 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서에 의해, 대상 장소의 복수의 위치에서 촬영된 복수의 영상들 각각을 영상의 촬영 위치 및 촬영 시점과 연계하여 관심지점(Point Of Interest, POI) 데이터베이스에 저장하고, 상기 대상 장소 내의 대상 위치를 선정하고, 상기 대상 위치에 대응하는 촬영 위치에 연계하여 상기 관심지점 데이터베이스에 저장된 영상들 중에서 상기 촬영 시점에 기초하여 이전 영상 및 이후 영상을 선정하고, 상기 선정된 이전 영상 및 이후 영상을 비교하여 상기 대상 위치에 대한 관심지점 변동을 인식하는 것을 특징으로 하는 컴퓨터 장치를 제공한다.

시내 거리 혹은 실내 쇼핑몰 등 실제 공간 환경에서 지도 등의 위치 기반 서비스를 위해 실제 공간상에 존재하는 다수의 관심지점(Point Of Interest, POI)과 관련된 정보를 자동으로 수집하고, 이전에 수집된 정보와 비교하여 변동 사항이 있는 경우, 자동으로 변경 사항을 업데이트할 수 있다.

로보틱스(robotics), 컴퓨터 비전(computer vision), 딥 러닝(deep learning) 등의 기술을 활용하여 POI의 변경에 대한 정보를 취득 및 처리를 자동화함에 따라, POI의 변경에 대한 정보를 취득하고 저장하는 모든 과정에서 사람의 개입을 최소화하여, POI의 변경에 대한 정보를 취득 및 처리함에 따른 비용, 시간 및 노력을 최소화할 수 있으며, 항상 최신의 POI 정보를 유지할 수 있다.

또한, 실 공간에 대해 촬영된 영상을 분석하여 POI 명, 종류 등 POI에 대한 직접적인 속성 정보를 자동으로 추출, 저장 및 활용할 수 있는 방법과, 추출 가능한 POI 정보를 영상분석 및 유추를 통해서 파악이 가능한 의미적인 정보(semantic information) 영역까지 확장할 수 있다.

도 1은 본 발명의 일실시예에 따른 정보 수집 및 업데이트 시스템의 예를 도시한 도면이다.
도 2는 본 발명의 일실시예에 따른 정보 수집 및 업데이트 방법의 예를 도시한 흐름도이다.
도 3은 본 발명의 일실시예에 있어서, 기본 정보 획득 과정의 예를 도시한 흐름도이다.
도 4는 본 발명의 일실시예에 있어서, 맵핑 로봇을 통해 수집되는 데이터의 예를 도시한 도면이다.
도 5는 본 발명의 일실시예에 있어서, 수시 정보 획득 과정의 예를 도시한 흐름도이다.
도 6은 본 발명의 일실시예에 있어서, 수시 POI 정보 처리 과정의 예를 도시한 흐름도이다.

이하, 실시예를 첨부한 도면을 참조하여 상세히 설명한다.

본 발명의 실시예들은 (1) 관심지점(Point Of Interest, POI) 변동 감지, (2) POI의 속성 인식 및 (3) POI의 의미 정보 획득을 사람의 개입을 최소화하면서도 효율적으로 실행할 수 있는 정보 수집 및 업데이트 방법 및 시스템을 제공한다.

실 환경에서 POI는 신규로 오픈하거나, 폐점하거나, 확장하거나, 다른 점포로 변경되는 등 수시로 다양한 형태로 변화한다. 이러한 POI의 변동 상태를 수시로 파악하여 최신의 POI 정보를 유지하는 것은 지도 등 위치 관련 서비스들에 있어서 중요도가 아주 높다.

이때, 본 발명의 실시예들에 따른 POI 변동 감지 기술은 차량이나 로봇 등을 활용하여 촬영한 영상으로부터 POI의 변동 사항을 자동으로 감지하고, 운영자에게 변동 사항이 발생한 POI의 변경된 사항을 시스템에 기록하게 하기 위해 관련 정보를 운영자에게 제공하거나 또는 변화가 아주 명확한 경우에는 POI의 변동 사항을 자동으로 시스템에 기록하도록 함으로써, POI 정보를 효율적으로 최신 상태로 유지할 수 있다.

일실시예로, POI 변동 감지 기술을 설명하기 위해 실 공간으로서 대규모 실내 쇼핑몰의 예를 들어 설명한다. 이는 설명의 편의를 위한 것으로, 본 발명의 실시예들에서의 실 공간이 실내 쇼핑몰 등의 공간으로 한정되는 것은 아니다. 또한, 본 실시예에서는 POI 변동 감지를 위한 영상과 관련 데이터의 획득 수단으로서 자율주행이 가능한 로봇을 활용하는 예를 설명한다. 정보의 획득은 실 공간의 환경의 종류에 따라 차량, 사람, CCTV 등 다양한 수단을 통해 이루어질 수 있으며, 본 실시예에서 제시하는 로봇과 같은 정보 획득 수단으로 한정되는 것은 아니다.

도 1은 본 발명의 일실시예에 따른 정보 수집 및 업데이트 시스템의 예를 도시한 도면이고, 도 2는 본 발명의 일실시예에 따른 정보 수집 및 업데이트 방법의 예를 도시한 흐름도이다.

본 실시예에 따른 정보 수집 및 업데이트 시스템(100)은 클라우드 서버(110), 맵핑 로봇(120) 및 서비스 로봇(130)을 포함하여 구성될 수 있다. 클라우드 서버(110)와 맵핑 로봇(120), 그리고 클라우드 서버(110)와 서비스 로봇(130)은 수집된 데이터의 전송이나 위치 정보, 맵 정보 등의 전송을 위해 네트워크를 통한 데이터 통신이 가능하도록 구현될 수 있다. 특히, 서비스 로봇(130)은 클라우드 서버(110)와의 데이터 통신에 실시간성을 부여하기 위해 무선 네트워크 인터페이스를 포함하도록 구현될 수 있다.

또한, 본 실시예에 따른 정보 수집 및 업데이트 방법은, 도 2에 도시된 바와 같이, 기본 정보 획득 단계(210), 수시 정보 획득 단계(220) 및 수시 POI 정보 처리 단계(230)를 포함할 수 있다. 기본 정보 획득 단계(210)는 기본 정보의 획득을 위해 최초 1회(필요 시 2회 이상) 수행될 수 있으며, 수시 정보 획득 단계(220)는 상시 또는 필요 시마다 반복적으로 수행될 수 있다. 또한, 수시 POI 정보 처리 단계(230)는 일(day) 단위나 주(week) 단위와 같이 정기적으로 반복 수행될 수 있다.

이때, 맵핑 로봇(120)은 기본 정보 획득 단계(210)에서 대상 장소(140)를 주행하면서 대상 장소(140)에 대한 데이터를 수집하여 클라우드 서버(110)로 전달하도록 구현될 수 있으며, 클라우드 서버(110)는 맵핑 로봇(120)이 수집 및 제공하는 데이터를 토대로 대상 장소(140)에 대한 기본 정보를 생성하고, 생성된 기본 정보를 이용하여 서비스 로봇(130)의 대상 장소(140)에서의 자율 주행 및 서비스 제공을 서포트하도록 구현될 수 있다.

또한, 서비스 로봇(130)은 수시 정보 획득 단계(220)에서 클라우드 서버(110)로부터 제공되는 정보에 기초하여 대상 장소(140)를 자율 주행하면서 수시 정보를 수집하여 클라우드 서버(110)로 전달하도록 구현될 수 있다.

이때, 클라우드 서버(110)는 수시 POI 정보 처리 단계(230)에서 기본 정보와 수시 정보간의 비교에 기반하여 POI 변동을 인식하여 업데이트하는 등, 대상 장소(140)에 대한 정보를 업데이트할 수 있다.

기본 정보 획득 단계(210)에서 정보 수집 및 업데이트 시스템(100)은 기본 정보를 획득할 수 있다. POI 변동 감지 기술은 기본적으로 현재 영상과 이전 영상을 다양한 기술을 활용하여 비교함으로써, POI에 대한 변동 여부를 감지할 수 있다. 따라서, 비교 대상이 되는 이전 영상이 요구되며, 이후 로봇(일례로, 서비스 로봇(130))의 자율 주행을 위해 로봇을 위한 실내 지도 구성이 요구된다. 이러한 이전 영상과 실내 지도의 획득을 위해, 기본 정보 획득 단계(110)가 최초 1회(필요 시 2회 이상) 수행될 수 있다. 이러한 기본 정보 획득 단계(110)를 위한 세부 단계들을 도 3을 통해 설명한다.

도 3은 본 발명의 일실시예에 있어서, 기본 정보 획득 과정의 예를 도시한 흐름도이다. 기본 정보의 획득은 정보 수집 및 업데이트 시스템(100)이 포함하는 클라우드 서버(110) 및 맵핑 로봇(120)에 의해 이루어질 수 있으며, 도 3의 단계들(310 내지 340)은 도 2의 단계(210)에 포함되어 수행될 수 있다.

단계(310)에서 맵핑 로봇(120)는 실내 쇼핑몰과 같이 대상 장소(140)가 선정되면, 선정된 대상 장소(140)를 자율 주행하면서 데이터를 수집할 수 있다. 이때, 수집되는 데이터는 POI 변동 감지를 위해 활용될 이전 영상을 생성하기 위한 데이터, 그리고 서비스 로봇(130)의 자율 주행을 위한 실내 지도 구성을 위한 데이터를 포함할 수 있다. 이를 위해, 맵핑 로봇(120)은 라이더(Lidar), 휠 인코더(Wheel Encoder), IMU(Inertial Measurement Unit), 카메라, 통신 인터페이스 등을 포함하도록 구현될 수 있으며, 서비스 로봇(130)은 이미 맵핑 로봇(120)에 의해 수집된 데이터에 기반하여 구성되는 실내 지도를 활용하여 자율 주행을 수행하기 때문에 맵핑 로봇(120)과 같이 고가의 고정밀 센서를 탑재할 필요성이 없으며, 따라서 맵핑 로봇(120)에 비해 상대적으로 저가의 센서를 탑재하도록 구현될 수 있다. 맵핑 로봇(120)에 의해 수집되는 데이터에 대해서는 이후 도 4를 통해 더욱 자세히 설명한다.

단계(320)에서 맵핑 로봇(120)은 수집된 데이터를 클라우드 서버(110)로 전송할 수 있다. 수집되는 데이터는 실시예에 따라 수집과 동시에 클라우드 서버(110)로 전송되거나, 또는 대상 장소(140)의 구역 단위로 묶여서 클라우드 서버(110)로 전송되거나 또는 대상 장소(140)의 전체 구역들에 대한 데이터의 수집이 완료된 이후에 한꺼번에 클라우드 서버(110)로 전송될 수 있다.

단계(330)에서 클라우드 서버(110)는 맵핑 로봇(120)으로부터 수신된 데이터를 저장할 수 있다. 예를 들어, 클라우드 서버(110)는 맵핑 로봇(120)으로부터 대상 장소(140)의 전체 구역들에 대한 전체 데이터를 수집하기 위해, 맵핑 로봇(120)이 수집하여 전송하는 데이터를 데이터베이스(POI 데이터베이스)에 저장하여 지속적으로 관리할 수 있다.

단계(340)에서 클라우드 서버(110)는 데이터베이스에 저장된 데이터를 이용하여 3차원 맵을 생성할 수 있다. 생성되는 3차원 맵은 이후 서비스 로봇(130)이 대상 장소(140)를 자율 주행하면서 목적하는 서비스를 제공할 수 있도록 돕기 위해 활용될 수 있다.

도 4는 본 발명의 일실시예에 있어서, 맵핑 로봇을 통해 수집되는 데이터의 예를 도시한 도면이다. 맵핑 로봇(120)은 대상 장소(140)에 대한 3차원 맵을 생성하기 위한 맵핑 데이터(410)와 POI의 변동을 감지하는데 활용하기 위한 POI 변동 감지 데이터(420)를 수집할 수 있다. 일례로, 맵핑 데이터(410)는 맵핑 로봇(120)이 포함할 수 있는 라이더, 휠 인코더, IMU 등을 통해 측정된 측정값들(라이더 데이터, 휠 인코더 데이터, IMU 데이터 등)을 포함할 수 있으며, POI 변동 감지 데이터(420)는 맵핑 로봇(120)이 포함할 수 있는 카메라, 통신 인터페이스들(와이파이 인터페이스, 블루투스 인터페이스 등)을 통해 얻어지는 데이터들(촬영된 영상과 같은 카메라 데이터, 와이파이의 신호 강도나 블루투스 비콘(beacon) 등)을 포함할 수 있다. 도 4의 실시예에서는 설명의 편의를 위해, 맵핑 데이터(410)의 종류와 POI 변동 감지 데이터(420)의 종류를 구분하였으나, 수집된 데이터는 3차원 맵의 생성과 POI의 변동 감지 모두를 위해 중복적으로 활용될 수도 있다. 예를 들어, 카메라를 통해 촬영된 영상이나 와이파이 신호 강도 등이 3차원 맵을 생성하기 위해 더 활용될 수도 있다. 맵핑 데이터(410) 및/또는 POI 변동 감지 데이터(420)를 수집하기 위해 도 4를 통해 설명한 센서들 이외에 스테레오 카메라나 적외선 센서 등과 같이 보다 다양한 종류의 센서들이 맵핑 로봇(120)에서 더 활용될 수도 있다.

맵핑 로봇(120)은 일례로, 실내 공간을 이동하면서 맵핑 로봇(120)에 탑재된 카메라로 일정 간격(일례로, 1m/sec로 이동하면서 1초 간격)으로 주변 영역을 촬영할 수 있다. 촬영되는 영상에서 POI 변동 감지에 주로 사용되는 매장의 간판과 매장 전면의 모양이 효율적으로 영상에 포함되도록, 360도 카메라나 광각 카메라 및/또는 다수의 카메라들이 활용될 수 있으며, 대상 공간(140)의 전 영역이 적어도 부분적으로 영상에 포함될 수 있도록 영상을 촬영할 수 있다. 이때, POI의 변동 위치를 확인하기 위해서는 촬영된 영상이 대상 장소(140)의 어느 위치에서 얻어진 영상인지 알아야 하기 때문에 얻어진 영상은 촬영시의 맵핑 로봇(120)의 위치정보(촬영 위치) 및/또는 방향정보(촬영 방향)가 얻어진 영상과 연계하여 함께 저장될 수 있다. 이때, 영상이 촬영된 시점에 대한 정보(촬영 시점) 역시 영상과 함께 저장될 수도 있다. 일례로, 위치정보의 획득을 위해 맵핑 로봇(120)은 블루투스 비콘 정보나 와이파이 기반 위치 파악을 위한 와이파이 핑거 프린팅(finger printing) 데이터를 더 수집할 수 있으며, 방향정보의 획득을 위해 맵핑 로봇(120)이 포함하는 라이더나 IMU의 측정값이 활용될 수도 있다. 맵핑 로봇(120)은 수집된 데이터를 클라우드 서버(110)로 전송할 수 있으며, 클라우드 서버(110)는 맵핑 로봇(120)으로부터 수신되는 데이터를 활용하여 3차원 맵을 생성하고, 생성된 3차원 맵에 기반하여 서비스 로봇(130)에 대한 로컬라이제이션, 경로 플래닝 등을 처리할 수 있다. 또한, 클라우드 서버(110)는 맵핑 로봇(120)으로부터 수신되는 데이터를 추후 서비스 로봇(130)에 의해 수집되는 데이터와 비교하여 대상 장소(140)에 대한 정보를 업데이트하는데 활용할 수 있다.

대상 장소가 실내인 경우, 맵핑 로봇(120)에 의해 생성된 맵 데이터(일례로, 위치 정보에 따른 영상, 와이파이 신호 강도, 블루투스 비콘 정보, 센서 측정값 등)에 포함되는 위치는 시작 위치를 기준으로 상대적으로 정해질 수 밖에 없다. 이는 실내 공간에서는 정밀한 글로벌 포지셔닝 데이터(global positioning data)를 얻을 수 없기 때문이다. 또한, 동일한 공간을 여러 번에 나누어 스캔하는 경우에는 시작 위치가 매번 다르기 때문에 일관성 있는 위치 데이터를 얻기 어렵다. 따라서, 일관성 있는 위치 데이터 표면 및 활용을 위해, 맵핑 로봇(120)을 통해 얻어지는 위치 데이터를 글로벌 포지셔닝이 가능한 형태로 변환하는 과정이 요구된다. 이를 위해, 클라우드 서버(110)는 실내 공간의 실제 위/경도로 표시되는 정확한 위치를 확인한 후, 맵 데이터에 포함된 위치 데이터를 WGS84나 ITRF, PZ 등의 측지 기준계에 따른 형태로 변환하여 저장한 후, 이후의 과정에서 활용할 수 있다.

다시 도 1 및 도 2를 참조하면, 수시 정보 획득 단계(220)에서 정보 수집 및 업데이트 시스템(100)은 대상 장소(140)에 대한 수시 정보를 획득할 수 있다. 수시 정보 획득 단계(220)에서는 이전 단계인 기본정보 획득 단계(210)에서 얻어진 3차원 맵이나 이전 영상, 위치정보 등을 지속적으로 활용할 수 있다.

이미 클라우드 서버(110)가 기본정보 획득 단계(210)에서 대상 장소(140)의 전체 공간에 대한 정보를 수집하여 가공 및 저장하고 있기 때문에, 수시 정보 획득 단계(220)에서는 일부 변경된 정보만을 획득, 가공 저장하여 효율적으로 맵 데이터와 같은 대상 장소(140)에 대한 정보를 최신 상태로 유지하는 것이 가능해진다. 따라서 매번 대상 장소(140)의 전체 공간 영역에 대한 데이터를 수집해야 할 필요성이 없다.

또한, 이미 설명한 바와 같이, 수시 정보 획득 단계(220)에서는 클라우드 서버(110)가 맵핑 로봇(120)에 탑재된 다양한 고가의 고정밀 센서들의 데이터를 이용하여 서비스 로봇(130)의 자율 주행에 요구되는 고정밀 맵 데이터를 생성하여 저장하고 있기 때문에, 서비스 로봇(130)이 고가의 고정밀 센서를 탑재할 필요성이 없다. 이에 수시 정보 획득 단계(220)에서 서비스 로봇(130)은 대상 장소(140)에 대한 보안, 안내, 청소 등과 같은 본연의 서비스 활용 목적에 따라 동작하는 저가의 로봇을 활용하여 구현될 수 있다.

도 5는 본 발명의 일실시예에 있어서, 수시 정보 획득 과정의 예를 도시한 흐름도이다. 서비스 로봇(130)은 보안, 안내, 청소 등과 같은 본연의 서비스 목적을 위해 대상 장소(140) 내부에 배치될 수 있다. 대상 장소(140)와 서비스 목적에 따라 둘 이상의 서비스 로봇들이 대상 장소(140)에 배치될 수 있으며, 각각 다른 영역에서 동작하도록 지정될 수도 있다. 수시 정보의 획득은 정보 수집 및 업데이트 시스템(100)이 포함하는 클라우드 서버(110) 및 서비스 로봇(130)에 의해 이루어질 수 있으며, 도 5의 단계들(510 내지 580)은 도 2의 단계(220)에 포함되어 수행될 수 있다.

단계(510)에서 서비스 로봇(130)은 대상 장소에서 주변의 영상을 촬영할 수 있다. 이를 위해, 서비스 로봇(130)은 대상 장소에서 주변의 영상을 촬영하기 위한 카메라를 포함하도록 구현될 수 있다. 촬영된 영상은 두 가지 목적으로 활용될 수 있다. 첫 번째로, 촬영된 영상은 서비스 로봇(130)의 현재의 위치(촬영 위치) 및/또는 방향(촬영 방향)을 확인하여 서비스 로봇(130)의 자율 주행을 돕기 위한 목적으로 활용될 수 있다. 두 번째로, 촬영된 영상은 POI 변동을 확인하기 위한 수시 영상으로서 기본 정보 획득 단계(210)에서 얻어진 이전 영상과의 비교를 위한 목적으로 활용될 수 있다. 두 가지 목적 모두를 위해 촬영된 영상은 해당 영상이 촬영된 시점(촬영 시점)의 서비스 로봇(130)의 위치 및/또는 방향 정보를 요구할 수 있다. 실시예에 따라, 첫 번째 목적을 위한 영상의 촬영 주기와 두 번째 목적을 위한 영상의 촬영 주기는 서로 다를 수도 있으며, 서비스 로봇(130)의 이동 속도에 적어도 기초하여 동적으로 결정될 수도 있다. 만약, 서비스 로봇(130)이 영상이 아닌 와이파이 신호 강도나 블루투스 비콘 등을 활용하여 위치 및/또는 방향을 확인하는 경우, 영상의 촬영은 두 번째 목적을 위해서만 활용될 수도 있다. 만약, 와이파이 신호 강도나 블루투스 비콘 등을 활용하는 경우, 서비스 로봇(130)은 위치나 방향을 확인하기 위해 얻어지는 와이파이 신호 강도나 블루투스 비콘을 클라우드 서버(110)로 전송하여 위치 및/또는 방향에 대한 정보를 요청할 수도 있다. 한편, 이 경우에도 두 번째 목적을 위해 영상과 관련된 위치 및/또는 방향 정보의 획득이 요구된다. 이후 단계(520) 내지 단계(540)은 영상과 관련된 위치 및/또는 방향 정보를 획득하는 과정의 예를 설명할 수 있다. 서비스 로봇(130)이 이동되는 경우, 서비스 로봇(130)의 위치를 지속적으로 획득하기 위해 단계(510) 내지 단계(540)는 주기적으로 및/또는 반복적으로 수행될 수 있다.

단계(520)에서 서비스 로봇(130)은 촬영된 영상을 클라우드 서버(130)로 전송할 수 있다. 이때, 서비스 로봇(130)은 영상을 전송하면서 전송하는 영상에 대응하는 위치 및/또는 방향 정보를 요청할 수 있다.

단계(530)에서 클라우드 서버(130)는 서비스 로봇(130)으로부터 수신된 영상을 분석하여 서비스 로봇(130)의 위치 및/또는 방향 정보를 생성할 수 있다. 이때, 위치 및/또는 방향 정보는 기본 정보 획득 단계(210)에서 얻어진 정보들을 통해 생성될 수 있다. 예를 들어, 클라우드 서버(130)는 맵핑 로봇(120)으로부터 수집된 영상과 서비스 로봇(130)으로부터 수신된 영상을 비교하여 매칭되는 영상을 찾은 후, 해당 영상과 연계되어 저장된 위치 및/또는 방향 정보에 기반하여 서비스 로봇(130)의 요청에 따른 위치 및/또는 방향 정보를 생성할 수 있다. 방향 정보는 카메라의 방향 정보일 수 있다.

단계(540)에서 클라우드 서버(130)는 생성된 위치 및/또는 방향 정보를 서비스 로봇(130)으로 전송할 수 있다.

단계(550)에서 서비스 로봇(130)은 수신되는 위치 및/또는 방향 정보를 촬영된 영상과 연관하여 수시 정보로서 저장할 수 있다. 수시 정보는 앞서 설명한 두 번째 목적(POI 변동을 확인하기 위한 목적)을 위해 활용하기 위한 정보를 의미할 수 있다. 이때, 수시 정보는 영상의 촬영 시점에 대한 정보를 더 포함할 수 있다.

단계(560)에서 서비스 로봇(130)은 저장된 수시 정보를 클라우드 서버(130)로 전송할 수 있다. 서비스 로봇(130)이 이동함에 따라 수시 정보의 양 역시 늘어날 수 있으며, 서비스 로봇(130)은 상시적으로, 주기적으로 또는 필요 시마다 저장된 수시 정보를 클라우드 서버(130)로 전송할 수 있다.

단계(570)에서 클라우드 서버(130)는 수신된 수시 정보를 데이터베이스(POI 데이터베이스)에 저장할 수 있다. 저장된 수시 정보는 추후 기본 정보 획득 단계(210)에서 얻어진 정보들과의 비교를 통해 POI 변동을 인식하기 위해 활용될 수 있다.

단계(580)에서 서비스 로봇(130)은 수신되는 위치 및/또는 방향 정보에 기초하여 서비스 임무를 수행할 수 있다. 도 5의 실시예에서는 단계(580)이 단계(570) 이후에 수행되는 것처럼 설명하고 있으나, 서비스 임무를 수행하는 단계(580)는 단계(540)에서 수신되는 서비스 로봇(130)의 위치 및/또는 방향 정보를 이용하여 단계(550) 내지 단계(570)과는 병렬적으로 수행될 수 있다. 서비스 임무의 수행을 위한 로컬라이제이션과 경로 플래닝은 실시예에 따라 서비스 로봇(130)에 의해 수행될 수도 있고, 클라우드 서버(130)를 통해 수행될 수도 있다.

이상의 실시예들에서는 맵핑 로봇(120) 및 서비스 로봇(130) 등을 이용하여 대상 장소(140)에 대한 데이터를 수집함을 설명하고 있으나, 본 발명이 로봇의 사용을 전제로 하는 것은 아니며, 동등한 수준의 다양한 방법들이 활용될 수 있다. 예를 들어, 기본정보 획득 단계(210)에서는 최초 1회의 기본 정보의 수집을 위해, 자율 주행이 가능한 고가의 맵핑 로봇(120)을 사용하는 대신 사람이 끌고 다닐 수 있는 트롤리(trolley) 등과 같은 장치에 센서를 장착하여 공간의 데이터를 수집하는 것도 가능하며, 수시 정보 획득 단계(220)에서는 대상 장소(140)를 방문하는 일반 사용자들의 스마트폰으로 촬영된 영상을 수집하여 활용하거나 또는 대상 장소(140)에 설치되어 있는 CCTV(Closed Circuit Television)의 영상을 수집하여 활용하는 것도 가능하다. 다시 말해, 클라우드 서버(110)는 대상 장소(140)를 자율 주행하는 맵핑 로봇(120) 및 대상 장소(140)를 이동하는 트롤리(trolley) 중 적어도 하나에 포함된 카메라 및 센서를 통해 얻어지는 기본 영상과 기본 영상의 촬영 위치 및 촬영 시점을 네트워크를 통해 수신하여 POI 데이터베이스를 구축할 수 있다. 또한, 클라우드 서버(110)는 대상 장소(140)를 자율 주행하면서 기설정된 서비스 임무를 수행하는 서비스 로봇(130), 대상 장소(140)에 위치하는 사용자들의 카메라를 포함하는 단말 및 대상 장소(140)에 배치된 CCTV(Closed Circuit Television) 중 적어도 하나로부터 대상 장소(140)에 대해 촬영된 수시 영상과 수시 영상의 촬영 위치 및 촬영 시점을 네트워크를 통해 수신하여 POI 데이터베이스를 업데이트할 수 있다.

다시 도 1 및 도 2를 참조하면, 수시 POI 정보 처리 단계(230)는 클라우드 서버(110)가 기본 정보 획득 단계(210)에서 수집된 기본 정보와 수시 정보 획득 단계(220)에서 수집된 수시 정보를 활용하여 POI 관련 정보를 획득하기 위한 과정일 수 있다.

예를 들어, POI 변동 감지 기술은, 수시 POI 정보 처리 단계(230)에서 클라우드 서버(110)가 하나의 기본 영상과 다수의 수시 영상을 컴퓨터 비전, 딥 러닝 등의 기술을 활용하여 분석 및 비교함으로써 해당 영상들에서 POI를 검출하고, POI에 변동이 있었는지 여부를 판단하며, 변화가 있는 경우, POI의 변동을 정보 수집 및 업데이트 시스템(100)에 업데이트하기 위한 과정일 수 있다. 일례로, 클라우드 서버(110)는 POI에 대한 변경 전, 후의 영상을 정보 수집 및 업데이트 시스템(100)의 운영자에게 알릴 수 있다. 정보 수집 및 업데이트 시스템(100)이 POI 변동 여부를 사전에 판단 및 선별하여 운영자에게 제공하는 것만으로도 운영자로 하여금 POI 변동 여부를 판단하기 위해 검토해야 할 영상을 분량을 획기적으로 줄여서 단위 시간에 더 넓은 영역에 대한 POI 정보의 분석, 검토 및 업데이트를 가능하게 할 수 있다. 다른 예로, 클라우드 서버(110)는 변경된 POI의 이름, 종류, 변경된 영상 등을 직접 정보 수집 및 업데이트 시스템(100)에 업데이트할 수도 있다.

도 6은 본 발명의 일실시예에 있어서, 수시 POI 정보 처리 과정의 예를 도시한 흐름도이다. 이미 설명한 바와 같이 도 6의 단계들(610 내지 670)은 클라우드 서버(110)에 의해 수행될 수 있다.

단계(610)에서 클라우드 서버(110)는 대상 장소(140) 내의 대상 위치를 선정할 수 있다. 예를 들어, 클라우드 서버(110)는 대상 장소(140) 내의 다수의 위치들을 미리 결정해놓고, 각각의 위치들마다 주변 POI들의 변경 여부를 확인할 수 있다. 예를 들어, 클라우드 서버(110)는 기설정된 간격을 갖는 그리드 형태로 대상 장소(140)를 구분하여 다수의 위치들을 결정해놓고, 단계(610)에서 결정된 다수의 위치들 중 하나의 위치를 대상 위치로서 선정할 수 있다.

단계(620)에서 클라우드 서버(110)는 선정된 대상 위치 근처의 이전 영상을 선정(m개)할 수 있다. 예를 들어, 클라우드 서버(110)는 대상 위치로부터 기설정된 거리 이내에 위치하는 촬영 위치와 연계하여 POI 데이터베이스에 저장되어 있는 영상들을 이전 영상으로 선정할 수 있다.

단계(630)에서 클라우드 서버(110)는 선정된 대상 위치 근처의 이후 영상을 선정(n개)할 수 있다. 예를 들어, 클라우드 서버(110)는 대상 위치로부터 기설정된 영역 이내에 위치하는 촬영 위치와 연계하여 POI 데이터베이스에 저장되어 있는 영상들을 이후 영상으로 선정할 수 있다.

이때, 이전 영상과 이후 영상을 구분하여 선정하는 것은 영상들의 촬영 시점에 기초할 수 있다. POI의 변동을 감지하기 위해서는 기본적으로 이전 영상과 비교의 대상이 되는 이후 영상이 각각 필요하다. 처음에는 기본 정보 획득 단계(210)를 통해 수집된 영상들 중에서 이전 영상이 선정될 수 있으며, 수시 정보 획득 단계(220)를 통해 수집된 영상들 중에서 이후 영상이 선정될 수 있다. 그러나, 수시 정보 획득 단계(220)를 통해 서로 다른 시점들에 영상들이 수집되는 경우, 가장 최근 시점에 촬영된 수시 영상들 중에서 이후 영상이 선정될 수 있으며, 이전 비교에 활용되었던 이후 영상들 또는 이전 시점(일례로, 하루 전, 일주일 전 등)에 촬영된 수시 영상들 중에서 이전 영상이 선정될 수 있다.

단계(640)에서 클라우드 서버(110)는 동일 방향 영상을 선별할 수 있다. 동일 방향 영상을 선별하는 것은 유사한 위치에서 유사한 방향을 촬영한 이전 영상과 이후 영상을 서로 비교하기 위한 것으로, 유사한 위치에서 촬영된 이전 영상과 이후 영상의 두 개의 영상들이 기설정된 비율 이상 서로 동일한 부분을 촬영했을 것으로 예상되는 정도의 방향 유사성을 갖고 있다면 동일 방향 영상의 페어(pair)로서 선별될 수 있다. 다른 예로, 두 영상의 촬영 방향들이 기설정된 각도 차 이내를 형성하는 경우, 해당 두 영상이 동일 방향 영상의 페어로서 선별될 수 있다.

단계(650)에서 클라우드 서버(110)는 POI 변동 영상 후보를 선별 및 저장할 수 있다. 클라우드 서버(110)는 동일 방향 영상의 페어 각각에 대한 디스크립터(descriptor) 기반 매칭을 수행할 수 있으며, 동일 방향 영상의 페어에 대한 매칭이 성공한 경우에는 POI 변동이 없는 것으로, 매칭이 실패한 경우에는 POI 변동이 존재하는 것으로 각각 결정할 수 있다. 다시 말해, 클라우드 서버(110)는 동일 방향 영상의 페어로서 포함된 이전 영상과 이후 영상 각각에 대해 SIFT(Scale Invariant Feature Transform), SURF(Speeded Up Robust Features) 등의 알고리즘을 이용하여 자연 특징 디스크립터(natural feature descriptor)를 추출하고, 추출된 디스크립터들을 서로 비교하여 매칭되지 않는 이전 영상과 이후 영상을 POI 변동 영상 후보로서 대상 위치에 대한 정보와 연계하여 저장할 수 있다. 이때, 다수의 이전 영상과 다수의 이후 영상들이 비교될 수도 있다.

실시예에 따라, 선별된 POI 변동 영상 후보는 딥 러닝 기법을 활용하여 간판이나 가게 전면을 인식하는 등의 방법으로 한 번 더 선별될 수 있다.

단계(660)에서 클라우드 서버(110)는 대상 장소(140) 내의 전체 위치에 대한 처리가 완료되었는지 여부를 결정할 수 있다. 이때, 전체 위치에 대한 처리가 완료되지 않은 경우, 클라우드 서버(110)는 대상 장소(140) 내의 다음 위치를 대상 위치로 선정하여 POI 변동 영상 후보를 선별하기 위해, 단계(610) 내지 단계(660)을 반복 수행할 수 있다. 전체 위치에 대한 처리가 완료된 경우, 클라우드 서버(110)는 단계(670)을 수행할 수 있다.

단계(670)에서 클라우드 서버(110)는 POI 변동 영상 후보에 대한 검토를 요청할 수 있다. 이러한 검토의 요청은 정보 수집 및 업데이트 시스템(100)의 운영자에게 전달될 수 있다. 다시 말해, 운영자에게는 POI 변동에 해당하는 이전 영상과 이후 영상이 위치 정보(대상 위치)와 함께 전달될 수 있다. 이러한 정보는 운영자가 POI 변동에 따른 변동 정보를 입력할 수 있는 소프트웨어 상에서 지도상에 표시되어 운영자로 하여금 다시 한 번 POI 변동에 대한 정보를 검토 및 확인한 후 정보를 입력하도록 도울 수 있다. 다시 말해, 클라우드 서버(110)는 인식된 POI 변동에 대한 정보를 통해 운영자가 대응하는 POI에 대한 정보를 업데이트하도록, POI 변동의 인식과 관련된 이전 영상 및 이후 영상을 적어도 포함하는 POI 변동 정보를 생성하여 운영자에게 제공할 수 있다.

한편, 영상의 디스크립터를 통해 특정한 종류의 POI를 식별하는 것이 가능하다. 예를 들어, 잘 알려진 프랜차이즈 매장들의 경우에는 영상에 특정한 디스크립터 패턴이 포함될 수 있다. 따라서, 클라우드 서버(110)는 프랜차이즈 매장들과 같은 특정한 종류의 POI에 대해서는 딥 뉴럴 네트워크(Deep Neural Network)로 해당 POI들이 존재하는 영상들을 학습하여, 특정 영상에 어떠한 프랜차이즈 매장이 존재하는지 판단할 수 있다. 이 경우, 클라우드 서버(110)는 수시 POI 정보 처리 단계(230)에서 POI 변동이 있는 것으로 판단된 영상에서 특정한 프랜차이즈 매장이 존재하는 것으로 판단되는 경우, 해당 프랜차이즈 매장의 이름이나 종류 등을 직접 인식하여 정보 수집 및 업데이트 시스템(100) 상에 업데이트할 수 있다. 일실시예로, 클라우드 서버(110)는 프랜차이즈 매장이 포함된 영상들을 학습 데이터로 활용하여 딥 러닝 모델이 입력 영상의 디스크립터를 이용하여 입력 영상에 포함된 프랜차이즈 매장의 속성을 추출하도록 학습시키고, 학습된 딥 러닝 모델을 이용하여 인식된 POI 변동과 관련된 이후 영상에서 추출되는 프랜차이즈 매장의 속성을 통해 대응하는 POI 에 대한 정보를 업데이트할 수 있다.

이때, 프랜차이즈 인식 결과의 신뢰도에 기반하여 운영자의 리뷰를 거칠 것인지 여부를 클라우드 서버(110)가 직접 결정하여, 결정된 결과에 따라 POI 변동을 직접 정보 수집 및 업데이트 시스템(100)에 업데이트할 것인지, 아니면 운영자에게 알릴 것인지 여부를 클라우드 서버(110)가 결정할 수도 있다.

또한, 앞서 설명한 바와 같이, 클라우드 서버(110)는 POI 변동 영상 후보에 대한 이미지 분석을 통해 이미지 내에서 직접 변동된 POI의 이름이나 종류, 등의 속성을 추출하여 정보 수집 및 업데이트 시스템(100) 상에 업데이트할 수도 있다. 예를 들어, OCR(Optical Character Reader)나 이미지 매칭, 이미지/텍스트 맵핑 기술들은 클라우드 서버(110)가 직접 영상 내에서 POI의 속성을 인식할 수 있도록 도움을 줄 수 있다.

OCR은 영상에서 문자 영역을 감지(detection)하고, 해당 영역에서 문자를 인식(recognition)하여 텍스트 정보를 추출하는 기술로, 문자 영역 감지와 인식을 위해 딥러닝 기법을 사용함으로써, 다양한 문자셋에 대해 동일한 기술을 사용할 수 있다. 일례로, 클라우드 서버(110)는 OCR을 통해 매장의 간판(signage)으로부터 매장의 이름, 전화번호 등의 정보를 추출하여 해당 POI의 속성(POI 명, POI 종류 등)을 인식할 수 있다.

또한, POI 변동 감지 기술을 구현함에 있어서, POI들에 대한 다양한 영상과 각 영상에 대한 POI 정보가 기록되어 있는 POI 데이터베이스가 활용될 수 있다. 이러한 데이터는 딥 러닝을 위한 학습 데이터로 활용될 수 있으며, 이미지 매칭을 위한 기본 데이터로 활용될 수 있다. 딥러닝 모델은 POI 데이터베이스의 데이터를 이용하여 입력 영상에 대해 POI 정보, 일례로 POI 이름과 종류 등을 출력하도록 학습될 수 있으며, POI 데이터베이스의 영상 데이터는 직접적인 이미지 매칭을 위한 기본 데이터로 활용될 수 있다. 다시 말해, 입력 영상과 가장 유사한 영상을 POI 데이터베이스에서 검색하고, 검색된 영상과 연계하여 POI 데이터베이스에 저장되어 있는 POI 이름과 종류 등의 텍스트 정보를 찾아서 입력 이미지에 포함된 POI의 속성으로서 활용할 수 있다. 일실시예로, 클라우드 서버(110)는 POI 변동 감지 기술을 통해 얻어지는 정보를 통해 POI 데이터베이스를 구축하고, 구축된 POI 데이터베이스의 데이터를 학습 데이터로서 딥 러닝 모델을 학습시킨 후, POI의 속성 인식에 활용할 수 있다. 이처럼, 클라우드 서버(110)는 POI 데이터베이스에 저장된 영상들 및 저장된 영상들 각각에 포함된 POI의 속성을 학습 데이터로 활용하여 딥 러닝 모델이 입력 영상에 포함된 POI의 속성을 추출하도록 학습시키고, 학습된 딥 러닝 모델을 이용하여 인식된 POI 변동과 관련된 이후 영상에서 추출되는 POI의 속성을 통해 대응하는 POI에 대한 정보를 업데이트할 수 있다.

대부분의 경우, 영상에 포함된 POI를 인식하는 것은 OCR을 통해 텍스트 정보를 인식함으로써 직접적으로 추출할 수 있다. 반면, 매장의 종류 등은 단순히 인식된 텍스트 정보만으로 직접 인식할 수 없는 경우가 빈번하다. 따라서, 해당 매장이 레스토랑인지 카페인지 혹은 레스토랑이 패스트푸드점인지 일식당인지 한식당인지 등을 예측하거나 인식하여 데이터화할 필요성이 있다. 이를 위해 클라우드 서버(110)는 수집된 영상 데이터와 POI 데이터베이스를 활용하여 POI 종류(category)를 예측하거나 인식하고, 더 나아가 영상에서 인식되는 매장의 운영시간 등과 같은 추가정보를 데이터화하여 POI 데이터베이스를 확장할 수 있다.

도 7은 본 발명의 일실시예에 따른 컴퓨터 장치의 예를 도시한 블록도이다. 앞서 설명한 클라우드 서버(110)는 도 7에 도시된 하나의 컴퓨터 장치(700) 또는 복수의 컴퓨터 장치들에 의해 구현될 수 있다. 예를 들어, 컴퓨터 장치(700)에는 일실시예에 따른 컴퓨터 프로그램이 설치 및 구동될 수 있고, 컴퓨터 장치(700)는 구동된 컴퓨터 프로그램의 제어에 따라 본 발명의 실시예들에 따른 정보 수집 및 업데이트 방법을 수행할 수 있다.

이러한 컴퓨터 장치(700)는 도 7에 도시된 바와 같이, 메모리(710), 프로세서(720), 통신 인터페이스(730) 그리고 입출력 인터페이스(740)를 포함할 수 있다. 메모리(710)는 컴퓨터에서 판독 가능한 기록매체로서, RAM(random access memory), ROM(read only memory) 및 디스크 드라이브와 같은 비소멸성 대용량 기록장치(permanent mass storage device)를 포함할 수 있다. 여기서 ROM과 디스크 드라이브와 같은 비소멸성 대용량 기록장치는 메모리(710)와는 구분되는 별도의 영구 저장 장치로서 컴퓨터 장치(700)에 포함될 수도 있다. 또한, 메모리(710)에는 운영체제와 적어도 하나의 프로그램 코드가 저장될 수 있다. 이러한 소프트웨어 구성요소들은 메모리(710)와는 별도의 컴퓨터에서 판독 가능한 기록매체로부터 메모리(710)로 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록매체는 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록매체를 포함할 수 있다. 다른 실시예에서 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록매체가 아닌 통신 인터페이스(730)를 통해 메모리(710)에 로딩될 수도 있다. 예를 들어, 소프트웨어 구성요소들은 네트워크(760)를 통해 수신되는 파일들에 의해 설치되는 컴퓨터 프로그램에 기반하여 컴퓨터 장치(700)의 메모리(710)에 로딩될 수 있다.

프로세서(720)는 기본적인 산술, 로직 및 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(710) 또는 통신 인터페이스(730)에 의해 프로세서(720)로 제공될 수 있다. 예를 들어 프로세서(720)는 메모리(710)와 같은 기록 장치에 저장된 프로그램 코드에 따라 수신되는 명령을 실행하도록 구성될 수 있다.

통신 인터페이스(730)은 네트워크(760)를 통해 컴퓨터 장치(700)가 다른 장치(일례로, 앞서 설명한 저장 장치들)와 서로 통신하기 위한 기능을 제공할 수 있다. 일례로, 컴퓨터 장치(700)의 프로세서(720)가 메모리(710)와 같은 기록 장치에 저장된 프로그램 코드에 따라 생성한 요청이나 명령, 데이터, 파일 등이 통신 인터페이스(730)의 제어에 따라 네트워크(760)를 통해 다른 장치들로 전달될 수 있다. 역으로, 다른 장치로부터의 신호나 명령, 데이터, 파일 등이 네트워크(760)를 거쳐 컴퓨터 장치(700)의 통신 인터페이스(730)를 통해 컴퓨터 장치(700)로 수신될 수 있다. 통신 인터페이스(730)를 통해 수신된 신호나 명령, 데이터 등은 프로세서(720)나 메모리(710)로 전달될 수 있고, 파일 등은 컴퓨터 장치(700)가 더 포함할 수 있는 저장 매체(상술한 영구 저장 장치)로 저장될 수 있다.

입출력 인터페이스(740)는 입출력 장치(750)와의 인터페이스를 위한 수단일 수 있다. 예를 들어, 입력 장치는 마이크, 키보드 또는 마우스 등의 장치를, 그리고 출력 장치는 디스플레이, 스피커와 같은 장치를 포함할 수 있다. 다른 예로 입출력 인터페이스(740)는 터치스크린과 같이 입력과 출력을 위한 기능이 하나로 통합된 장치와의 인터페이스를 위한 수단일 수도 있다. 입출력 장치(750)는 컴퓨터 장치(700)와 하나의 장치로 구성될 수도 있다.

또한, 다른 실시예들에서 컴퓨터 장치(700)는 도 7의 구성요소들보다 더 적은 혹은 더 많은 구성요소들을 포함할 수도 있다. 그러나, 대부분의 종래기술적 구성요소들을 명확하게 도시할 필요성은 없다. 예를 들어, 컴퓨터 장치(700)는 상술한 입출력 장치(750) 중 적어도 일부를 포함하도록 구현되거나 또는 트랜시버(transceiver), 데이터베이스 등과 같은 다른 구성요소들을 더 포함할 수도 있다.

이처럼 본 발명의 실시예들에 따르면, 시내 거리 혹은 실내 쇼핑몰 등 실제 공간 환경에서 지도 등의 위치 기반 서비스를 위해 실제 공간상에 존재하는 다수의 관심지점(Point Of Interest, POI)과 관련된 정보를 자동으로 수집하고, 이전에 수집된 정보와 비교하여 변동 사항이 있는 경우, 자동으로 변경 사항을 업데이트할 수 있다. 이를 위해, 로보틱스(robotics), 컴퓨터 비전(computer vision), 딥 러닝(deep learning) 등의 기술을 활용하여 POI의 변경에 대한 정보를 취득 및 처리를 자동화함에 따라, POI의 변경에 대한 정보를 취득하고 저장하는 모든 과정에서 사람의 개입을 최소화하여, POI의 변경에 대한 정보를 취득 및 처리함에 따른 비용, 시간 및 노력을 최소화할 수 있으며, 항상 최신의 POI 정보를 유지할 수 있다. 또한, 실 공간에 대해 촬영된 영상을 분석하여 POI 명, 종류(category) 등 POI에 대한 직접적인 속성 정보를 자동으로 추출, 저장 및 활용할 수 있는 방법과, 추출 가능한 POI 정보를 영상분석 및 유추를 통해서 파악이 가능한 의미적인 정보(semantic information) 영역까지 확장할 수 있다.

이상에서 설명된 시스템 또는 장치는 하드웨어 구성요소, 또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록매체에 저장될 수 있다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수개 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 애플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

그러므로, 다른 구현들, 다른 실시예들 및 청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims

정보 수집 및 업데이트 방법에 있어서,
대상 장소의 복수의 위치에서 촬영된 복수의 영상들 각각을 영상의 촬영 위치 및 촬영 시점과 연계하여 관심지점(Point Of Interest, POI) 데이터베이스에 저장하는 단계;
상기 대상 장소 내의 대상 위치를 선정하는 단계;
상기 대상 위치에 대응하는 촬영 위치에 연계하여 상기 관심지점 데이터베이스에 저장된 영상들 중에서 상기 촬영 시점에 기초하여 이전 영상 및 이후 영상을 선정하는 단계; 및
상기 선정된 이전 영상 및 이후 영상을 비교하여 상기 대상 위치에 대한 관심지점 변동을 인식하는 단계
를 포함하는 정보 수집 및 업데이트 방법.
제1항에 있어서,
상기 저장하는 단계는,
상기 대상 장소를 자율 주행하는 맵핑 로봇 및 상기 대상 장소를 이동하는 트롤리(trolley) 중 적어도 하나에 포함된 카메라 및 센서를 통해 얻어지는 기본 영상과 상기 기본 영상의 촬영 위치 및 촬영 시점을 네트워크를 통해 수신하여 상기 관심지점 데이터베이스를 구축하는 것을 특징으로 하는 정보 수집 및 업데이트 방법.
제1항에 있어서,
상기 저장하는 단계는,
상기 대상 장소를 자율 주행하면서 기설정된 서비스 임무를 수행하는 서비스 로봇, 상기 대상 장소에 위치하는 사용자들의 카메라를 포함하는 단말 및 상기 대상 장소에 배치된 CCTV(Closed Circuit Television) 중 적어도 하나로부터 상기 대상 장소에 대해 촬영된 수시 영상과 상기 수시 영상의 촬영 위치 및 촬영 시점을 네트워크를 통해 수신하여 상기 관심지점 데이터베이스를 업데이트하는 것을 특징으로 하는 정보 수집 및 업데이트 방법.
제1항에 있어서,
상기 저장하는 단계는,
영상들 각각을 영상의 촬영 방향과 더 연계하여 상기 관심지점 데이터베이스에 저장하고,
상기 선정하는 단계는,
상기 촬영 방향에 더 기초하여 동일 방향 영상을 상기 이전 영상 및 상기 이후 영상을 선정하는 것을 특징으로 하는 정보 수집 및 업데이트 방법.
제4항에 있어서,
상기 선정하는 단계는,
상기 촬영 방향에 기초하여 기설정된 비율 이상 서로 동일한 부분을 촬영했을 것으로 예상되는 정도의 방향 유사성을 갖는 영상들의 페어 또는 상기 촬영 방향이 기설정된 각도 차 이내인 영상들의 페어를 상기 이전 영상 및 상기 이후 영상으로 선정하는 것을 특징으로 하는 정보 수집 및 업데이트 방법.
제1항에 있어서,
상기 인식하는 단계는,
상기 이전 영상의 디스크립터와 상기 이후 영상의 디스크립터를 비교하여 상기 관심지점 변동을 인식하는 것을 특징으로 하는 정보 수집 및 업데이트 방법.
제1항에 있어서,
상기 인식하는 단계는,
상기 이전 영상 및 상기 이후 영상에서 OCR(Optical Character Reader)을 통해 추출되는 텍스트를 비교하여 상기 관심지점 변동을 인식하는 것을 특징으로 하는 정보 수집 및 업데이트 방법.
제1항에 있어서,
상기 인식된 관심지점 변동에 대한 정보를 통해 운영자가 대응하는 관심지점에 대한 정보를 업데이트하도록, 관심지점 변동의 인식과 관련된 이전 영상 및 이후 영상을 적어도 포함하는 관심지점 변동 정보를 생성하여 운영자에게 제공하는 단계
를 더 포함하는 정보 수집 및 업데이트 방법.
제1항에 있어서,
프랜차이즈 매장이 포함된 영상들을 학습 데이터로 활용하여 딥 러닝 모델이 입력 영상의 디스크립터를 이용하여 상기 입력 영상에 포함된 프랜차이즈 매장의 속성을 추출하도록 학습시키는 단계; 및
상기 학습된 딥 러닝 모델을 이용하여 상기 인식된 관심지점 변동과 관련된 이후 영상에서 추출되는 프랜차이즈 매장의 속성을 통해 대응하는 관심지점에 대한 정보를 업데이트하는 단계
를 더 포함하는 정보 수집 및 업데이트 방법.
제1항에 있어서,
상기 관심지점 데이터베이스에 저장된 영상들 및 상기 저장된 영상들 각각에 포함된 관심지점의 속성을 학습 데이터로 활용하여 딥 러닝 모델이 입력 영상에 포함된 관심지점의 속성을 추출하도록 학습시키는 단계; 및
상기 학습된 딥 러닝 모델을 이용하여 상기 인식된 관심지점 변동과 관련된 이후 영상에서 추출되는 관심지점의 속성을 통해 대응하는 관심지점에 대한 정보를 업데이트하는 단계
를 더 포함하는 정보 수집 및 업데이트 방법.
제1항 내지 제10항 중 어느 한 항의 방법을 컴퓨터에 실행시키기 위한 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록매체.
컴퓨터 장치에 있어서,
컴퓨터에서 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서
를 포함하고,
상기 적어도 하나의 프로세서에 의해,
대상 장소의 복수의 위치에서 촬영된 복수의 영상들 각각을 영상의 촬영 위치 및 촬영 시점과 연계하여 관심지점(Point Of Interest, POI) 데이터베이스에 저장하고,
상기 대상 장소 내의 대상 위치를 선정하고,
상기 대상 위치에 대응하는 촬영 위치에 연계하여 상기 관심지점 데이터베이스에 저장된 영상들 중에서 상기 촬영 시점에 기초하여 이전 영상 및 이후 영상을 선정하고,
상기 선정된 이전 영상 및 이후 영상을 비교하여 상기 대상 위치에 대한 관심지점 변동을 인식하는 것
을 특징으로 하는 컴퓨터 장치.
제12항에 있어서,
상기 적어도 하나의 프로세서에 의해,
상기 대상 장소를 자율 주행하는 맵핑 로봇 및 상기 대상 장소를 이동하는 트롤리(trolley) 중 적어도 하나에 포함된 카메라 및 센서를 통해 얻어지는 기본 영상과 상기 기본 영상의 촬영 위치 및 촬영 시점을 네트워크를 통해 수신하여 상기 관심지점 데이터베이스를 구축하는 것
을 특징으로 하는 컴퓨터 장치.
제12항에 있어서,
상기 적어도 하나의 프로세서에 의해,
상기 대상 장소를 자율 주행하면서 기설정된 서비스 임무를 수행하는 서비스 로봇, 상기 대상 장소에 위치하는 사용자들의 카메라를 포함하는 단말 및 상기 대상 장소에 배치된 CCTV(Closed Circuit Television) 중 적어도 하나로부터 상기 대상 장소에 대해 촬영된 수시 영상과 상기 수시 영상의 촬영 위치 및 촬영 시점을 네트워크를 통해 수신하여 상기 관심지점 데이터베이스를 업데이트하는 것
을 특징으로 하는 컴퓨터 장치.
제12항에 있어서,
상기 적어도 하나의 프로세서에 의해,
영상들 각각을 영상의 촬영 방향과 더 연계하여 상기 관심지점 데이터베이스에 저장하고,
상기 촬영 방향에 더 기초하여 동일 방향 영상을 상기 이전 영상 및 상기 이후 영상을 선정하는 것
을 특징으로 하는 컴퓨터 장치.
제12항에 있어서,
상기 적어도 하나의 프로세서에 의해,
상기 이전 영상의 디스크립터와 상기 이후 영상의 디스크립터를 비교하여 상기 관심지점 변동을 인식하는 것
을 특징으로 하는 컴퓨터 장치.
제12항에 있어서,
상기 적어도 하나의 프로세서에 의해,
상기 이전 영상 및 상기 이후 영상에서 OCR(Optical Character Reader)을 통해 추출되는 텍스트를 비교하여 상기 관심지점 변동을 인식하는 것
을 특징으로 하는 컴퓨터 장치.
제12항에 있어서,
상기 적어도 하나의 프로세서에 의해,
상기 인식된 관심지점 변동에 대한 정보를 통해 운영자가 대응하는 관심지점에 대한 정보를 업데이트하도록, 관심지점 변동의 인식과 관련된 이전 영상 및 이후 영상을 적어도 포함하는 관심지점 변동 정보를 생성하여 운영자에게 제공하는 것
을 특징으로 하는 컴퓨터 장치.
제12항에 있어서,
상기 적어도 하나의 프로세서에 의해,
프랜차이즈 매장이 포함된 영상들을 학습 데이터로 활용하여 딥 러닝 모델이 입력 영상의 디스크립터를 이용하여 상기 입력 영상에 포함된 프랜차이즈 매장의 속성을 추출하도록 학습시키고,
상기 학습된 딥 러닝 모델을 이용하여 상기 인식된 관심지점 변동과 관련된 이후 영상에서 추출되는 프랜차이즈 매장의 속성을 통해 대응하는 관심지점에 대한 정보를 업데이트하는 것
을 특징으로 하는 컴퓨터 장치.
제12항에 있어서,
상기 적어도 하나의 프로세서에 의해,
상기 관심지점 데이터베이스에 저장된 영상들 및 상기 저장된 영상들 각각에 포함된 관심지점의 속성을 학습 데이터로 활용하여 딥 러닝 모델이 입력 영상에 포함된 관심지점의 속성을 추출하도록 학습시키고,
상기 학습된 딥 러닝 모델을 이용하여 상기 인식된 관심지점 변동과 관련된 이후 영상에서 추출되는 관심지점의 속성을 통해 대응하는 관심지점에 대한 정보를 업데이트하는 것
을 특징으로 하는 컴퓨터 장치.