KR20200013155A

KR20200013155A - 관심 영역 변화를 검출하는 방법 및 시스템

Info

Publication number: KR20200013155A
Application number: KR1020180083832A
Authority: KR
Inventors: 유찬미; 허민혁
Original assignee: 네이버랩스 주식회사
Priority date: 2018-07-19
Filing date: 2018-07-19
Publication date: 2020-02-06
Also published as: KR102096926B1

Abstract

관심 영역 변화를 검출하는 방법 및 시스템이 개시된다. 시간 간격을 두고 동일한 위치를 촬영한 이미지 쌍에서 신규 오픈, 폐업, 상호 변경 등의 변화를 가장 잘 감지할 수 있는 상점의 간판 부분을 탐지하여 POI 변화를 자동으로 검출할 수 있다.

Description

관심 영역 변화를 검출하는 방법 및 시스템{METHOD AND SYSTEM FOR DETECTING CHANGE POINT OF INTEREST}

아래의 설명은 실 공간에 존재하는 관심 영역의 변화를 자동으로 검출하는 기술에 관한 것이다.

실 공간에는 음식점, 서점, 가게 등 다양한 형태의 관심 영역(Point Of Interest, POI)이 존재한다. 이러한 관심 영역에 대한 정보(이하, 'POI 정보')를 지도에 표시하거나 사용자에게 제공하기 위해서는 해당 POI 정보를 수집해야 한다.

종래에는 사람이 직접 도보 또는 차량 등을 이용하여 실제 공간을 방문하여 POI의 위치와 종류, 이름 등을 직접 확인하여 시스템에 기록하거나 또는 카메라가 설치된 차량을 이용하여 실제 공간, 도로 등의 영상을 카메라로 촬영하고, 추후 사람이 촬영된 영상을 분석하여 POI의 종류, 이름 등을 인식하여 시스템에 기록하는 방법을 사용하였다.

예를 들어, 한국공개특허 제10-2011-0037045호는 차량의 카메라를 이용한 영상 수집 시스템 및 그 제어 방법에 관한 기술로, 차량에 장착된 카메라를 이용하여 촬영이 필요한지의 여부에 따라 해당 지역 또는 거리를 촬영하여 데이터베이스를 구축하고, 택시, 택배 트럭 또는 버스 등과 같이 다양한 지역을 이동하는 차량에 카메라를 장착하는 경우 보다 많은 지역 또는 거리를 촬영하여 사용자에게 보다 많은 지도 상의 영상 정보를 적은 비용으로 제공할 수 있음을 개시하고 있다.

그러나, 이러한 종래기술은 결국 실 공간에 있는 POI 정보를 확인하기 위해 사람이 해당 POI가 있는 위치에 방문하여 직접 정보를 확인 및 기록하거나 혹은 해당 위치를 방문하여 해당 위치를 촬영하고 추후에 사람이 촬영된 영상을 확인하여 정보를 확인 및 기록하는 등, 처리 과정 전반에 걸쳐 사람이 반드시 개입하여야 하기 때문에, 데이터 수집과 이를 분석하여 처리하는데 비용과 시간, 노력이 많이 소모될 수 밖에 없다는 문제점이 있다.

또한, 이미 어떠한 실 공간 영역에 대한 POI 정보를 확보하고 있다고 하더라도 POI 정보는 신규 오픈, 폐업, 상호 변경, 창업 등으로 인해 수시로 변경될 수 있다. 따라서 POI의 변화를 즉각 인지하기 위해서는 해당 공간 영역에 대한 빈번한 모니터링을 통한 POI 정보의 신속한 업데이트가 필요하나, 사람이 개입되는 처리 방법으로는 이 또한 비용과 많은 노력이 소모되어 실질적으로 POI의 변경과 관련된 최신의 정보를 획득/제공하는 것이 사실상 거의 불가능하다. 특히 실 공간의 범위가 넓은 경우 POI의 변화에 따른 최신의 POI 정보를 확인하는 과정이 더욱 어려워 진다는 문제점이 있다.

시내 거리 혹은 실내 쇼핑몰 등 실제 공간 환경에서 지도 등의 위치 기반 서비스를 위해 실제 공간상에 존재하는 POI 변화를 자동으로 검출할 수 있는 방법 및 시스템을 제공한다.

신규 오픈, 폐업, 상호 변경 등의 변화를 가장 잘 감지할 수 있는 상점의 간판 부분을 탐지하여 POI 변화를 효과적이고 신뢰성 있게 검출할 수 있는 방법 및 시스템을 제공한다.

컴퓨터 시스템에서 수행되는 방법에 있어서, 상기 컴퓨터 시스템은 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고, 상기 방법은, 상기 적어도 하나의 프로세서에 의해, 소정 시간 간격으로 대상 위치를 촬영한 이미지 쌍을 선정하는 단계; 상기 적어도 하나의 프로세서에 의해, 상기 이미지 쌍에 포함된 각 이미지에서 간판 영역을 검출하는 단계; 및 상기 적어도 하나의 프로세서에 의해, 상기 이미지 간에 상기 간판 영역을 비교하여 상기 대상 위치에 대한 관심 영역(Point Of Interest)의 변화를 인식하는 단계를 포함하는 방법을 제공한다.

일 측면에 따르면, 상기 간판 영역을 검출하는 단계는, 간판 이미지 셋을 학습한 기계 학습 모델을 통해 상기 이미지로부터 상기 간판 영역을 검출할 수 있다.

다른 측면에 따르면, 상기 간판 영역을 검출하는 단계는, 상기 이미지 쌍이 파노라마 영상으로 이루어진 경우 상기 파노라마 영상에서 복수 개의 간판 영역을 검출하는 단계를 포함하고, 상기 관심 영역의 변화를 인식하는 단계는, 상기 복수 개의 간판 영역 중 이미지 매칭 유사도가 일정 수준 이상인 간판 영역 쌍을 분류하고 남은 간판 영역을 변화 영역으로 인식하는 단계를 포함할 수 있다.

또 다른 측면에 따르면, 상기 관심 영역의 변화를 인식하는 단계는, 상기 간판 영역에서 디스크립터를 각각 추출한 후 상기 간판 영역 간에 상기 추출된 디스크립터를 비교하여 매칭 여부를 판단하는 단계를 포함할 수 있다.

또 다른 측면에 따르면, 상기 간판 영역을 검출하는 단계는, 상기 이미지 쌍이 파노라마 영상으로 이루어진 경우 상기 파노라마 이미지의 장면 레이아웃 검출을 통해 상기 간판 영역을 검출하는 단계를 포함할 수 있다.

또 다른 측면에 따르면, 상기 방법은, 상기 적어도 하나의 프로세서에 의해, 간판과 무관한 방해 객체가 삽입된 간판 이미지를 이용하여 상기 기계 학습 모델을 훈련하는 단계를 더 포함하고, 상기 훈련하는 단계는, 상기 방해 객체가 검출되면 부정 값(negative cost)을 부여하는 단계를 포함할 수 있다.

또 다른 측면에 따르면, 상기 간판 영역을 검출하는 단계는, 상기 이미지의 다중 스케일에서 검출된 간판 영역을 병합하여 주요 맵(saliency map)을 생성한 후 상기 주요 맵으로부터 최종 간판 영역을 검출하는 단계를 포함할 수 있다.

또 다른 측면에 따르면, 상기 이미지 쌍을 선정하는 단계는, 상기 대상 위치에 대해 서로 다른 촬영 시점의 이전 영상과 이후 영상을 선정하되, 최근 시점에 촬영된 영상들 중에서 상기 이후 영상을 선정하고 상기 이후 영상 이전에 촬영된 영상들 중에서 상기 이전 영상을 선정할 수 있다.

또 다른 측면에 따르면, 상기 이미지 쌍을 선정하는 단계는, 영상의 촬영 정보에 기초하여 기설정된 비율 이상 방향 유사성을 갖는 영상들의 페어 또는 촬영 방향이 기설정된 각도 차 이내인 영상들의 페어를 상기 이전 영상 및 상기 이후 영상으로 선정할 수 있다.

또 다른 측면에 따르면, 상기 방법은, 상기 적어도 하나의 프로세서에 의해, 상기 변화가 인식된 관심 영역을 시각화 하는 단계를 더 포함할 수 있다.

또 다른 측면에 따르면, 상기 시각화 하는 단계는, 상기 변화가 인식된 관심 영역에 대해 상기 이미지 쌍을 포함하는 관심 영역 변화 정보를 생성하여 운영자에게 제공하는 단계를 포함할 수 있다.

상기 방법을 컴퓨터에 실행시키기 위한 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록매체를 제공한다.

컴퓨터에서 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서에 의해, 소정 시간 간격으로 대상 위치를 촬영한 이미지 쌍을 선정하고, 상기 이미지 쌍에 포함된 각 이미지에서 간판 영역을 검출하고, 상기 이미지 간에 상기 간판 영역을 비교하여 상기 대상 위치에 대한 관심 영역의 변화를 인식하는 것을 특징으로 하는 컴퓨터 시스템을 제공한다.

본 발명의 실시예들에 따르면, 시내 거리 혹은 실내 쇼핑몰 등 실제 공간 환경에서 지도 등의 위치 기반 서비스를 위해 실제 공간상에 존재하는 POI 변화를 자동으로 검출할 수 있다.

본 발명의 실시예들에 따르면, 신규 오픈, 폐업, 상호 변경 등의 변화를 가장 잘 감지할 수 있는 상점의 간판 부분을 탐지하여 POI 변화를 효과적이고 신뢰성 있게 검출할 수 있다.

도 1은 본 발명의 일실시예에 따른 정보 수집 및 업데이트 시스템의 예를 도시한 도면이다.
도 2는 본 발명의 일실시예에 따른 정보 수집 및 업데이트 방법의 예를 도시한 흐름도이다.
도 3은 본 발명의 일실시예에 있어서, 기본 정보 획득 과정의 예를 도시한 흐름도이다.
도 4는 본 발명의 일실시예에 있어서, 맵핑 로봇을 통해 수집되는 데이터의 예를 도시한 도면이다.
도 5는 본 발명의 일실시예에 있어서, 수시 정보 획득 과정의 예를 도시한 흐름도이다.
도 6은 본 발명의 일실시예에 있어서, POI 변화 검출 과정의 예를 도시한 흐름도이다.
도 7 내지 도 9는 본 발명의 일실시예에 있어서 파노라마 컷으로 촬영된 영상으로부터 POI 변화 영역을 검출하는 과정을 설명하기 위한 예시 도면이다.
도 10 내지 도 12는 본 발명의 일실시예에 있어서 일반 단일 컷으로 촬영된 영상으로부터 POI 변화 영역을 검출하는 과정을 설명하기 위한 예시 도면이다.
도 13은 본 발명의 일실시예에 따른 컴퓨터 시스템의 예를 도시한 블록도이다.

이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.

본 발명의 실시예들은 관심 영역(Point Of Interest, POI) 변화 검출을 사람의 개입을 최소화하면서도 효율적으로 실행할 수 있는 방법 및 시스템을 제공한다.

실 환경에서 POI는 신규로 오픈하거나, 폐점하거나, 확장하거나, 다른 점포로 변경되는 등 수시로 다양한 형태로 변화한다. 이러한 POI 변화를 수시로 파악하여 최신의 POI 정보를 유지하는 것은 지도 등 위치 관련 서비스들에 있어서 중요도가 아주 높다.

본 발명의 실시예들에 따른 POI 변화 검출 기술은 차량이나 로봇 등을 활용하여 촬영한 영상으로부터 POI 변화를 자동으로 검출하고, POI 변화를 시스템에 기록하게 하기 위해 관련 정보를 운영자에게 제공하거나 또는 변화가 아주 명확한 경우에는 POI의 변경 사항을 자동으로 시스템에 기록하도록 함으로써, POI 정보를 효율적으로 최신 상태로 유지할 수 있다.

일실시예로, POI 변화 검출 기술을 설명하기 위해 실 공간으로서 대규모 실내 쇼핑몰의 예를 들어 설명한다. 이는 설명의 편의를 위한 것으로, 본 발명의 실시예들에서의 실 공간이 실내 쇼핑몰 등의 공간으로 한정되는 것은 아니다. 또한, 본 실시예에서는 POI 변화 검출을 위한 영상과 관련 데이터의 획득 수단으로서 자율주행이 가능한 로봇을 활용하는 예를 설명한다. 정보의 획득은 실 공간의 환경의 종류에 따라 차량, 사람, 트레이, CCTV 등 다양한 수단을 통해 이루어질 수 있으며, 본 실시예에서 제시하는 로봇과 같은 정보 획득 수단으로 한정되는 것은 아니다.

도 1은 본 발명의 일실시예에 따른 정보 수집 및 업데이트 시스템의 예를 도시한 도면이고, 도 2는 본 발명의 일실시예에 따른 정보 수집 및 업데이트 방법의 예를 도시한 흐름도이다.

본 실시예에 따른 정보 수집 및 업데이트 시스템(100)은 클라우드 서버(110), 맵핑 로봇(120) 및 서비스 로봇(130)을 포함하여 구성될 수 있다. 클라우드 서버(110)와 맵핑 로봇(120), 그리고 클라우드 서버(110)와 서비스 로봇(130)은 수집된 데이터의 전송이나 위치 정보, 맵 정보 등의 전송을 위해 네트워크를 통한 데이터 통신이 가능하도록 구현될 수 있다. 특히, 서비스 로봇(130)은 클라우드 서버(110)와의 데이터 통신에 실시간성을 부여하기 위해 무선 네트워크 인터페이스를 포함하도록 구현될 수 있다.

또한, 본 실시예에 따른 정보 수집 및 업데이트 방법은, 도 2에 도시된 바와 같이, 기본 정보 획득 단계(210), 수시 정보 획득 단계(220) 및 수시 POI 정보 처리 단계(230)를 포함할 수 있다. 기본 정보 획득 단계(210)는 기본 정보의 획득을 위해 최초 1회(필요 시 2회 이상) 수행될 수 있으며, 수시 정보 획득 단계(220)는 상시 또는 필요 시마다 반복적으로 수행될 수 있다. 또한, 수시 POI 정보 처리 단계(230)는 일(day) 단위나 주(week) 단위와 같이 정기적으로 반복 수행될 수 있다.

이때, 맵핑 로봇(120)은 기본 정보 획득 단계(210)에서 대상 장소(140)를 주행하면서 대상 장소(140)에 대한 데이터를 수집하여 클라우드 서버(110)로 전달하도록 구현될 수 있으며, 클라우드 서버(110)는 맵핑 로봇(120)이 수집 및 제공하는 데이터를 토대로 대상 장소(140)에 대한 기본 정보를 생성하고, 생성된 기본 정보를 이용하여 서비스 로봇(130)의 대상 장소(140)에서의 자율 주행 및 서비스 제공을 서포트하도록 구현될 수 있다.

또한, 서비스 로봇(130)은 수시 정보 획득 단계(220)에서 클라우드 서버(110)로부터 제공되는 정보에 기초하여 대상 장소(140)를 자율 주행하면서 수시 정보를 수집하여 클라우드 서버(110)로 전달하도록 구현될 수 있다.

이때, 클라우드 서버(110)는 수시 POI 정보 처리 단계(230)에서 기본 정보와 수시 정보 간의 비교에 기반하여 POI 변화를 인식하여 업데이트하는 등, 대상 장소(140)에 대한 정보를 업데이트할 수 있다.

기본 정보 획득 단계(210)에서 정보 수집 및 업데이트 시스템(100)은 기본 정보를 획득할 수 있다. POI 변화 검출 기술은 기본적으로 현재 영상과 이전 영상을 다양한 기술을 활용하여 비교함으로써, POI에 대한 변화 여부를 감지할 수 있다. 따라서, 비교 대상이 되는 이전 영상이 요구되며, 이후 로봇(일례로, 서비스 로봇(130))의 자율 주행을 위해 로봇을 위한 실내 지도 구성이 요구된다. 이러한 이전 영상과 실내 지도의 획득을 위해, 기본 정보 획득 단계(110)가 최초 1회(필요 시 2회 이상) 수행될 수 있다. 이러한 기본 정보 획득 단계(110)를 위한 세부 단계들을 도 3을 통해 설명한다.

도 3은 본 발명의 일실시예에 있어서, 기본 정보 획득 과정의 예를 도시한 흐름도이다. 기본 정보의 획득은 정보 수집 및 업데이트 시스템(100)이 포함하는 클라우드 서버(110) 및 맵핑 로봇(120)에 의해 이루어질 수 있으며, 도 3의 단계들(310 내지 340)은 도 2의 단계(210)에 포함되어 수행될 수 있다.

단계(310)에서 맵핑 로봇(120)는 실내 쇼핑몰과 같이 대상 장소(140)가 선정되면, 선정된 대상 장소(140)를 자율 주행하면서 데이터를 수집할 수 있다. 이때, 수집되는 데이터는 POI 변화 검출을 위해 활용될 이전 영상을 생성하기 위한 데이터, 그리고 서비스 로봇(130)의 자율 주행을 위한 실내 지도 구성을 위한 데이터를 포함할 수 있다. 이를 위해, 맵핑 로봇(120)은 라이더(Lidar), 휠 인코더(Wheel Encoder), IMU(Inertial Measurement Unit), 카메라, 통신 인터페이스 등을 포함하도록 구현될 수 있으며, 서비스 로봇(130)은 이미 맵핑 로봇(120)에 의해 수집된 데이터에 기반하여 구성되는 실내 지도를 활용하여 자율 주행을 수행하기 때문에 맵핑 로봇(120)과 같이 고가의 고정밀 센서를 탑재할 필요성이 없으며, 따라서 맵핑 로봇(120)에 비해 상대적으로 저가의 센서를 탑재하도록 구현될 수 있다. 맵핑 로봇(120)에 의해 수집되는 데이터에 대해서는 이후 도 4를 통해 더욱 자세히 설명한다.

단계(320)에서 맵핑 로봇(120)은 수집된 데이터를 클라우드 서버(110)로 전송할 수 있다. 수집되는 데이터는 실시예에 따라 수집과 동시에 클라우드 서버(110)로 전송되거나, 또는 대상 장소(140)의 구역 단위로 묶여서 클라우드 서버(110)로 전송되거나, 또는 대상 장소(140)의 전체 구역들에 대한 데이터의 수집이 완료된 이후에 한꺼번에 클라우드 서버(110)로 전송될 수 있다.

단계(330)에서 클라우드 서버(110)는 맵핑 로봇(120)으로부터 수신된 데이터를 저장할 수 있다. 예를 들어, 클라우드 서버(110)는 맵핑 로봇(120)으로부터 대상 장소(140)의 전체 구역들에 대한 전체 데이터를 수집하기 위해, 맵핑 로봇(120)이 수집하여 전송하는 데이터를 데이터베이스(POI 데이터베이스)에 저장하여 지속적으로 관리할 수 있다.

단계(340)에서 클라우드 서버(110)는 데이터베이스에 저장된 데이터를 이용하여 3차원 맵을 생성할 수 있다. 생성되는 3차원 맵은 이후 서비스 로봇(130)이 대상 장소(140)를 자율 주행하면서 목적하는 서비스를 제공할 수 있도록 돕기 위해 활용될 수 있다.

도 4는 본 발명의 일실시예에 있어서, 맵핑 로봇을 통해 수집되는 데이터의 예를 도시한 도면이다. 맵핑 로봇(120)은 대상 장소(140)에 대한 3차원 맵을 생성하기 위한 맵핑 데이터(410)와 POI 변화를 검출하는데 활용하기 위한 POI 데이터(420)를 수집할 수 있다. 일례로, 맵핑 데이터(410)는 맵핑 로봇(120)이 포함할 수 있는 라이더, 휠 인코더, IMU 등을 통해 측정된 측정값들(라이더 데이터, 휠 인코더 데이터, IMU 데이터 등)을 포함할 수 있으며, POI 데이터(420)는 맵핑 로봇(120)이 포함할 수 있는 카메라, 통신 인터페이스들(와이파이 인터페이스, 블루투스 인터페이스 등)을 통해 얻어지는 데이터들(촬영된 영상과 같은 카메라 데이터, 와이파이의 신호 강도나 블루투스 비콘(beacon) 등)을 포함할 수 있다. 도 4의 실시예에서는 설명의 편의를 위해, 맵핑 데이터(410)의 종류와 POI 데이터(420)의 종류를 구분하였으나, 수집된 데이터는 3차원 맵의 생성과 POI 변화 검출 모두를 위해 중복적으로 활용될 수도 있다. 예를 들어, 카메라를 통해 촬영된 영상이나 와이파이 신호 강도 등이 3차원 맵을 생성하기 위해 더 활용될 수도 있다. 맵핑 데이터(410) 및/또는 POI 데이터(420)를 수집하기 위해 도 4를 통해 설명한 센서들 이외에 스테레오 카메라나 적외선 센서 등과 같이 보다 다양한 종류의 센서들이 맵핑 로봇(120)에서 더 활용될 수도 있다.

맵핑 로봇(120)은 일례로, 실내 공간을 이동하면서 맵핑 로봇(120)에 탑재된 카메라로 일정 간격(일례로, 1m/sec로 이동하면서 1초 간격)으로 주변 영역을 촬영할 수 있다. 촬영되는 영상에서 POI 변화 검출에 주로 사용되는 매장의 간판과 매장 전면의 모양이 효율적으로 영상에 포함되도록, 360도 카메라나 광각 카메라 및/또는 다수의 카메라들이 활용될 수 있으며, 대상 공간(140)의 전 영역이 적어도 부분적으로 영상에 포함될 수 있도록 영상을 촬영할 수 있다. 이때, POI 변화 위치를 확인하기 위해서는 촬영된 영상이 대상 장소(140)의 어느 위치에서 얻어진 영상인지 알아야 하기 때문에, 얻어진 영상은 촬영시의 맵핑 로봇(120)의 촬영 정보와 연계하여 함께 저장될 수 있다. 영상과 함께 저장되는 촬영 정보는 맵핑 로봇(120)의 위치정보(촬영 위치) 및/또는 방향정보(촬영 방향)를 포함할 수 있다. 이때, 영상이 촬영된 시점에 대한 정보(촬영 시점) 역시 영상과 함께 저장될 수도 있다. 일례로, 위치정보의 획득을 위해 맵핑 로봇(120)은 블루투스 비콘 정보나 와이파이 기반 위치 파악을 위한 와이파이 핑거 프린팅(finger printing) 데이터를 더 수집할 수 있으며, 방향정보의 획득을 위해 맵핑 로봇(120)이 포함하는 라이더나 IMU의 측정값이 활용될 수도 있다. 맵핑 로봇(120)은 수집된 데이터를 클라우드 서버(110)로 전송할 수 있으며, 클라우드 서버(110)는 맵핑 로봇(120)으로부터 수신되는 데이터를 활용하여 3차원 맵을 생성하고, 생성된 3차원 맵에 기반하여 서비스 로봇(130)에 대한 로컬라이제이션(localization), 경로 플래닝(planning) 등을 처리할 수 있다. 또한, 클라우드 서버(110)는 맵핑 로봇(120)으로부터 수신되는 데이터를 추후 서비스 로봇(130)에 의해 수집되는 데이터와 비교하여 대상 장소(140)에 대한 정보를 업데이트하는데 활용할 수 있다.

대상 장소가 실내인 경우, 맵핑 로봇(120)에 의해 생성된 맵 데이터(일례로, 위치 정보에 따른 영상, 와이파이 신호 강도, 블루투스 비콘 정보, 센서 측정값 등)에 포함되는 위치는 시작 위치를 기준으로 상대적으로 정해질 수 밖에 없다. 이는 실내 공간에서는 정밀한 글로벌 포지셔닝 데이터(global positioning data)를 얻을 수 없기 때문이다. 또한, 동일한 공간을 여러 번에 나누어 스캔하는 경우에는 시작 위치가 매번 다르기 때문에 일관성 있는 위치 데이터를 얻기 어렵다. 따라서, 일관성 있는 위치 데이터 표면 및 활용을 위해, 맵핑 로봇(120)을 통해 얻어지는 위치 데이터를 글로벌 포지셔닝이 가능한 형태로 변환하는 과정이 요구된다. 이를 위해, 클라우드 서버(110)는 실내 공간의 실제 위/경도로 표시되는 정확한 위치를 확인한 후, 맵 데이터에 포함된 위치 데이터를 WGS84나 ITRF, PZ 등의 측지 기준계에 따른 형태로 변환하여 저장한 후, 이후의 과정에서 활용할 수 있다.

다시 도 1 및 도 2를 참조하면, 수시 정보 획득 단계(220)에서 정보 수집 및 업데이트 시스템(100)은 대상 장소(140)에 대한 수시 정보를 획득할 수 있다. 수시 정보 획득 단계(220)에서는 이전 단계인 기본정보 획득 단계(210)에서 얻어진 3차원 맵이나 이전 영상, 위치정보 등을 지속적으로 활용할 수 있다.

이미 클라우드 서버(110)가 기본정보 획득 단계(210)에서 대상 장소(140)의 전체 공간에 대한 정보를 수집하여 가공 및 저장하고 있기 때문에, 수시 정보 획득 단계(220)에서는 일부 변경된 정보만을 획득, 가공 저장하여 효율적으로 맵 데이터와 같은 대상 장소(140)에 대한 정보를 최신 상태로 유지하는 것이 가능해진다. 따라서 매번 대상 장소(140)의 전체 공간 영역에 대한 데이터를 수집해야 할 필요성이 없다.

또한, 이미 설명한 바와 같이, 수시 정보 획득 단계(220)에서는 클라우드 서버(110)가 맵핑 로봇(120)에 탑재된 다양한 고가의 고정밀 센서들의 데이터를 이용하여 서비스 로봇(130)의 자율 주행에 요구되는 고정밀 맵 데이터를 생성하여 저장하고 있기 때문에, 서비스 로봇(130)이 고가의 고정밀 센서를 탑재할 필요성이 없다. 이에 수시 정보 획득 단계(220)에서 서비스 로봇(130)은 대상 장소(140)에 대한 보안, 안내, 청소 등과 같은 본연의 서비스 활용 목적에 따라 동작하는 저가의 로봇을 활용하여 구현될 수 있다.

도 5는 본 발명의 일실시예에 있어서, 수시 정보 획득 과정의 예를 도시한 흐름도이다. 서비스 로봇(130)은 보안, 안내, 청소 등과 같은 본연의 서비스 목적을 위해 대상 장소(140) 내부에 배치될 수 있다. 대상 장소(140)와 서비스 목적에 따라 둘 이상의 서비스 로봇들이 대상 장소(140)에 배치될 수 있으며, 각각 다른 영역에서 동작하도록 지정될 수도 있다. 수시 정보의 획득은 정보 수집 및 업데이트 시스템(100)이 포함하는 클라우드 서버(110) 및 서비스 로봇(130)에 의해 이루어질 수 있으며, 도 5의 단계들(510 내지 580)은 도 2의 단계(220)에 포함되어 수행될 수 있다.

단계(510)에서 서비스 로봇(130)은 대상 장소에서 주변의 영상을 촬영할 수 있다. 이를 위해, 서비스 로봇(130)은 대상 장소에서 주변의 영상을 촬영하기 위한 카메라를 포함하도록 구현될 수 있다. 촬영된 영상은 두 가지 목적으로 활용될 수 있다. 첫 번째로, 촬영된 영상은 서비스 로봇(130)의 현재의 위치(촬영 위치) 및/또는 방향(촬영 방향)을 확인하여 서비스 로봇(130)의 자율 주행을 돕기 위한 목적으로 활용될 수 있다. 두 번째로, 촬영된 영상은 POI 변화를 확인하기 위한 수시 영상으로서 기본 정보 획득 단계(210)에서 얻어진 이전 영상과의 비교를 위한 목적으로 활용될 수 있다. 두 가지 목적 모두를 위해 촬영된 영상은 해당 영상이 촬영된 시점(촬영 시점)의 서비스 로봇(130)의 위치 및/또는 방향 정보를 요구할 수 있다. 실시예에 따라, 첫 번째 목적을 위한 영상의 촬영 주기와 두 번째 목적을 위한 영상의 촬영 주기는 서로 다를 수도 있으며, 서비스 로봇(130)의 이동 속도에 적어도 기초하여 동적으로 결정될 수도 있다. 만약, 서비스 로봇(130)이 영상이 아닌 와이파이 신호 강도나 블루투스 비콘 등을 활용하여 위치 및/또는 방향을 확인하는 경우, 영상의 촬영은 두 번째 목적을 위해서만 활용될 수도 있다. 만약, 와이파이 신호 강도나 블루투스 비콘 등을 활용하는 경우, 서비스 로봇(130)은 위치나 방향을 확인하기 위해 얻어지는 와이파이 신호 강도나 블루투스 비콘을 클라우드 서버(110)로 전송하여 위치 및/또는 방향에 대한 정보를 요청할 수도 있다. 한편, 이 경우에도 두 번째 목적을 위해 영상과 관련된 위치 및/또는 방향 정보의 획득이 요구된다. 이후 단계(520) 내지 단계(540)은 영상과 관련된 위치 및/또는 방향 정보를 획득하는 과정의 예를 설명할 수 있다. 서비스 로봇(130)이 이동되는 경우, 서비스 로봇(130)의 위치를 지속적으로 획득하기 위해 단계(510) 내지 단계(540)는 주기적으로 및/또는 반복적으로 수행될 수 있다.

단계(520)에서 서비스 로봇(130)은 촬영된 영상을 클라우드 서버(130)로 전송할 수 있다. 이때, 서비스 로봇(130)은 영상을 전송하면서 전송하는 영상에 대응하는 위치 및/또는 방향 정보를 요청할 수 있다.

단계(530)에서 클라우드 서버(130)는 서비스 로봇(130)으로부터 수신된 영상을 분석하여 서비스 로봇(130)의 위치 및/또는 방향 정보를 생성할 수 있다. 이때, 위치 및/또는 방향 정보는 기본 정보 획득 단계(210)에서 얻어진 정보들을 통해 생성될 수 있다. 예를 들어, 클라우드 서버(130)는 맵핑 로봇(120)으로부터 수집된 영상과 서비스 로봇(130)으로부터 수신된 영상을 비교하여 매칭되는 영상을 찾은 후, 해당 영상과 연계되어 저장된 위치 및/또는 방향 정보에 기반하여 서비스 로봇(130)의 요청에 따른 위치 및/또는 방향 정보를 생성할 수 있다. 방향 정보는 카메라의 방향 정보일 수 있다.

단계(540)에서 클라우드 서버(130)는 생성된 위치 및/또는 방향 정보를 서비스 로봇(130)으로 전송할 수 있다.

단계(550)에서 서비스 로봇(130)은 수신되는 위치 및/또는 방향 정보를 촬영된 영상과 연관하여 수시 정보로서 저장할 수 있다. 수시 정보는 앞서 설명한 POI 변화를 확인하기 위한 목적을 위해 활용하기 위한 정보를 의미할 수 있다. 이때, 수시 정보는 영상의 촬영 시점에 대한 정보를 더 포함할 수 있다.

단계(560)에서 서비스 로봇(130)은 저장된 수시 정보를 클라우드 서버(130)로 전송할 수 있다. 서비스 로봇(130)이 이동함에 따라 수시 정보의 양 역시 늘어날 수 있으며, 서비스 로봇(130)은 상시적으로, 주기적으로 또는 필요 시마다 저장된 수시 정보를 클라우드 서버(130)로 전송할 수 있다.

단계(570)에서 클라우드 서버(130)는 수신된 수시 정보를 데이터베이스(POI 데이터베이스)에 저장할 수 있다. 저장된 수시 정보는 추후 기본 정보 획득 단계(210)에서 얻어진 정보들과의 비교를 통해 POI 변화를 검출하기 위해 활용될 수 있다.

단계(580)에서 서비스 로봇(130)은 수신되는 위치 및/또는 방향 정보에 기초하여 서비스 임무를 수행할 수 있다. 도 5의 실시예에서는 단계(580)이 단계(570) 이후에 수행되는 것처럼 설명하고 있으나, 서비스 임무를 수행하는 단계(580)는 단계(540)에서 수신되는 서비스 로봇(130)의 위치 및/또는 방향 정보를 이용하여 단계(550) 내지 단계(570)과는 병렬적으로 수행될 수 있다. 서비스 임무의 수행을 위한 로컬라이제이션과 경로 플래닝은 실시예에 따라 서비스 로봇(130)에 의해 수행될 수도 있고, 클라우드 서버(130)를 통해 수행될 수도 있다.

이상의 실시예들에서는 맵핑 로봇(120) 및 서비스 로봇(130) 등을 이용하여 대상 장소(140)에 대한 데이터를 수집함을 설명하고 있으나, 본 발명이 로봇의 사용을 전제로 하는 것은 아니며, 동등한 수준의 다양한 방법들이 활용될 수 있다. 예를 들어, 기본정보 획득 단계(210)에서는 최초 1회의 기본 정보의 수집을 위해, 자율 주행이 가능한 고가의 맵핑 로봇(120)을 사용하는 대신 사람이 끌고 다닐 수 있는 트롤리(trolley) 등과 같은 장치에 센서를 장착하여 공간의 데이터를 수집하는 것도 가능하며, 수시 정보 획득 단계(220)에서는 대상 장소(140)를 방문하는 일반 사용자들의 스마트폰으로 촬영된 영상을 수집하여 활용하거나 또는 대상 장소(140)에 설치되어 있는 CCTV(Closed Circuit Television)의 영상을 수집하여 활용하는 것도 가능하다. 다시 말해, 클라우드 서버(110)는 대상 장소(140)를 자율 주행하는 맵핑 로봇(120) 및 대상 장소(140)를 이동하는 트롤리(trolley) 중 적어도 하나에 포함된 카메라 및 센서를 통해 얻어지는 기본 영상과 기본 영상의 촬영 위치 및 촬영 시점을 네트워크를 통해 수신하여 POI 데이터베이스를 구축할 수 있다. 또한, 클라우드 서버(110)는 대상 장소(140)를 자율 주행하면서 기설정된 서비스 임무를 수행하는 서비스 로봇(130), 대상 장소(140)에 위치하는 사용자들의 카메라를 포함하는 단말 및 대상 장소(140)에 배치된 CCTV(Closed Circuit Television) 중 적어도 하나로부터 대상 장소(140)에 대해 촬영된 수시 영상과 수시 영상의 촬영 위치 및 촬영 시점을 네트워크를 통해 수신하여 POI 데이터베이스를 업데이트할 수 있다.

다시 도 1 및 도 2를 참조하면, 수시 POI 정보 처리 단계(230)는 클라우드 서버(110)가 기본 정보 획득 단계(210)에서 수집된 기본 정보와 수시 정보 획득 단계(220)에서 수집된 수시 정보를 활용하여 POI 관련 정보를 획득하기 위한 과정일 수 있다.

예를 들어, POI 변화 검출 기술은, 수시 POI 정보 처리 단계(230)에서 클라우드 서버(110)가 하나의 기본 영상과 다수의 수시 영상을 기계 학습(machine learning) 기술을 활용하여 분석 및 비교함으로써 해당 영상들에서 POI를 검출하고, POI에 변화가 있었는지 여부를 판단하며, 변화가 있는 경우, POI 변화를 정보 수집 및 업데이트 시스템(100)에 업데이트하기 위한 과정일 수 있다. 일례로, 클라우드 서버(110)는 POI 변화 검출 결과를 시각화하여 정보 수집 및 업데이트 시스템(100)의 운영자에게 알릴 수 있다. 예를 들어, 클라우드 서버(110)는 POI에 대한 변경 전, 후의 영상을 정보 수집 및 업데이트 시스템(100)의 운영자에게 알릴 수 있다. 정보 수집 및 업데이트 시스템(100)이 POI 변화 여부를 사전에 판단 및 선별하여 운영자에게 제공하는 것만으로도 운영자로 하여금 POI 변화 여부를 판단하기 위해 검토해야 할 영상의 분량을 획기적으로 줄여서 단위 시간에 더 넓은 영역에 대한 POI 정보의 분석, 검토 및 업데이트를 가능하게 할 수 있다. 다른 예로, 클라우드 서버(110)는 변경된 POI의 이름, 종류, 변경된 영상 등을 직접 정보 수집 및 업데이트 시스템(100)에 업데이트할 수도 있다.

도 6은 본 발명의 일실시예에 있어서, POI 변화 검출 과정의 예를 도시한 흐름도이다. 이미 설명한 바와 같이 도 6의 단계들(610 내지 640)은 클라우드 서버(110)에 의해 수행될 수 있다.

단계(610)에서 클라우드 서버(110)는 대상 장소(140)에서 소정 시간 간격으로 촬영된 이미지 쌍(image pair)을 선정할 수 있다. 이미지 쌍을 선정하기 위해 클라우드 서버(110)는 대상 장소(140) 내의 대상 위치를 선정할 수 있다. 예를 들어, 클라우드 서버(110)는 대상 장소(140) 내의 다수의 위치들을 미리 결정해놓고 그 중에서 POI 변화를 검출하고자 하는 위치를 선정할 수 있다. 예를 들어, 클라우드 서버(110)는 기설정된 간격을 갖는 그리드 형태로 대상 장소(140)를 구분하여 다수의 위치들을 결정해놓고, 결정된 다수의 위치들 중 하나의 위치를 대상 위치로서 선정할 수 있다. 그리고, 클라우드 서버(110)는 대상 위치로부터 기설정된 거리 이내에 위치하는 촬영 위치와 연계하여 POI 데이터베이스에 저장되어 있는 영상들 중에서 시간 간격을 두고 촬영된 이전 영상과 이후 영상으로 이루어진 이미지 쌍을 선정할 수 있다.

이때, 이전 영상과 이후 영상을 구분하여 선정하는 것은 영상들의 촬영 시점에 기초할 수 있다. POI 변화를 검출하기 위해서는 기본적으로 이전 영상과 비교의 대상이 되는 이후 영상이 각각 필요하다. 처음에는 기본 정보 획득 단계(210)를 통해 수집된 영상들 중에서 이전 영상이 선정될 수 있으며, 수시 정보 획득 단계(220)를 통해 수집된 영상들 중에서 이후 영상이 선정될 수 있다. 다른 예로, 수시 정보 획득 단계(220)를 통해 수집된 영상들 중에서 서로 다른 시점의 이전 영상과 이후 영상이 선정될 수 있다. 수시 정보 획득 단계(220)를 통해 영상들이 수집되는 경우 가장 최근 시점에 촬영된 수시 영상들 중에서 이후 영상이 선정될 수 있으며, 이전 비교에 활용되었던 이후 영상들 또는 이전 시점(일례로, 하루 전, 일주일 전 등)에 촬영된 수시 영상들 중에서 이전 영상이 선정될 수 있다.

클라우드 서버(110)는 이전 영상과 이후 영상을 선별하는 과정에서 해당 영상과 함께 저장된 촬영 정보에 기초하여 동일 방향 영상을 선별할 수 있다. 동일 방향 영상을 선별하는 것은 유사한 위치에서 유사한 방향을 촬영한 이전 영상과 이후 영상을 서로 비교하기 위한 것으로, 유사한 위치에서 촬영된 이전 영상과 이후 영상의 두 개의 영상들이 기설정된 비율 이상 서로 동일한 부분을 촬영했을 것으로 예상되는 정도의 방향 유사성을 갖고 있다면 동일 방향 영상의 쌍으로서 선별될 수 있다. 다른 예로, 클라우드 서버(110)는 두 영상의 촬영 방향들이 기설정된 각도 차 이내를 형성하는 경우 해당 두 영상이 동일 방향 영상의 페어로서 선별될 수 있다.

단계(620)에서 클라우드 서버(110)는 단계(610)에서 선정된 이미지 쌍으로 이루어진 이전 영상과 이후 영상에서 간판 영역을 검출할 수 있다. 본 발명에서는 신규 오픈, 폐업, 상호 변경 등의 변화를 가장 잘 감지할 수 있는 상점의 간판 부분을 탐지하여 POI 변화를 검출할 수 있다. 클라우드 서버(110)는 사전에 수집된 간판 이미지 셋을 딥러닝(deep learning) 기반으로 학습한 기계 학습 모델을 통해 이전 영상과 이후 영상으로부터 각각 간판 영역을 검출할 수 있다.

클라우드 서버(110)는 다양한 형태나 종류의 간판이 촬영된 이미지를 훈련 데이터로 하여 학습함으로써 기계 학습 모델을 구축할 수 있고 이를 통해 영상 내 간판 영역을 검출할 수 있다. 학습 과정에서 일반적인 객체 검출 알고리즘을 이용하는 경우 간판과 무관한 표지판, 비상구 픽토그램, 이벤트 문구 등과 같은 방해 객체(disruptor)가 검출됨에 따라 긍정 오류(false positive)가 발생하게 된다. 이러한 문제를 해결하기 위해 클라우드 서버(110)는 간판이 촬영된 이미지, 즉 학습 대상 이미지에 방해 객체를 랜덤하게 삽입하여 합성 데이터(synthetic data)를 생성하고 합성 데이터를 이용한 검출 훈련 시에 간판이 검출되면 긍정 값(positive cost)을 부여하고 방해 객체가 검출되면 부정 값(negative cost)을 부여함으로써 긍정 오류를 줄일 수 있다. 또한, 클라우드 서버(110)는 영상 내에 존재하는 다양한 크기의 간판 검출을 위하여 영상의 다중 스케일에서 검출 결과를 획득하고 검출 결과들을 병합하여 주요 맵(saliency map)을 생성한 후 주요 맵으로부터 최종 검출 결과인 간판 영역을 검출할 수 있다.

단계(630)에서 클라우드 서버(110)는 이전 영상과 이후 영상 간에 각 영상 내에서 검출된 간판 영역을 비교하여 POI 변화 영역을 검출할 수 있다. 클라우드 서버(110)는 이전 영상과 이후 영상 간에 간판 영역을 서로 비교하여 매칭이 성공한 경우에는 POI 변화가 없는 것으로, 매칭이 실패한 경우에는 POI 변화가 있는 것으로 결정할 수 있다. 클라우드 서버(110)는 이전 영상과 이후 영상 간에 간판 영역을 서로 비교하여 매칭되지 않는 영역을 POI 변화 영역으로 인식하여 인식된 POI 변화 영역을 대상 위치에 대한 정보와 연계하여 저장할 수 있다.

클라우드 서버(110)는 대상 장소(140) 내의 전체 위치에 대한 처리가 완료되었는지 여부를 결정할 수 있다. 이때, 전체 위치에 대한 처리가 완료되지 않은 경우, 클라우드 서버(110)는 대상 장소(140) 내의 다음 위치를 대상 위치로 선정하여 POI 변화를 검출하기 위해, 단계(610) 내지 단계(630)을 반복 수행할 수 있다. 전체 위치에 대한 처리가 완료된 경우 클라우드 서버(110)는 단계(640)을 수행할 수 있다.

단계(640)에서 클라우드 서버(110)는 대상 장소(140) 내에서 POI 변화 영역을 시각화할 수 있다. 클라우드 서버(110)는 POI 변화의 인식과 관련된 이전 영상 및 이후 영상을 이용하여 POI 변화 영역이 검출된 대상 위치를 시각화하거나 대상 장소(140)에 대한 3차원 맵 상에 POI 변화 영역이 검출된 대상 위치를 시각화하여 POI 변화 영역에 대한 검토를 요청할 수 있다. 이러한 검토의 요청은 정보 수집 및 업데이트 시스템(100)의 운영자에게 전달될 수 있다. 다시 말해, 운영자에게는 POI 변화 영역에 해당하는 이전 영상과 이후 영상이 위치 정보(대상 위치)와 함께 전달될 수 있다. 이러한 정보는 운영자가 POI 변화에 따른 변동 정보를 입력할 수 있는 소프트웨어 상에서 지도 상에 표시되어 운영자로 하여금 다시 한 번 POI 변화에 대한 정보를 검토 및 확인한 후 정보를 입력하도록 도울 수 있다. 다시 말해, 클라우드 서버(110)는 인식된 POI 변화에 대한 정보를 통해 운영자가 대응하는 POI에 대한 정보를 업데이트하도록, POI 변화의 인식과 관련된 이전 영상 및 이후 영상을 포함하는 POI 변화 정보를 생성하여 운영자에게 제공할 수 있다.

도 7 내지 도 9는 본 발명의 일실시예에 있어서 파노라마 컷으로 촬영된 영상으로부터 POI 변화 영역을 검출하는 과정을 설명하기 위한 예시 도면이다.

도 7을 참조하면, POI 변화를 검출하기 위해 촬영된 영상이 파노라마 영상인 경우 클라우드 서버(110)는 시간 간격을 두고 동일한 위치를 촬영한 이전 파노라마 영상(710)과 이후 파노라마 영상(720)으로 이루어진 이미지 쌍을 입력으로 받을 수 있다. 파노라마 영상의 경우 여러 개의 소실점과 소실점 사이에 아치 형태의 프레임이 만들어지는 레이아웃 특성을 가진다. 클라우드 서버(110)는 파노라마 영상의 특징적인 장면 레이아웃을 검출하는 알고리즘을 이용하여 이전 파노라마 영상(710)과 이후 파노라마 영상(720) 각각에서 천장 영역(701), 바닥 영역(702), 상점 영역(703)을 분할할 수 있다. 다시 말해, 클라우드 서버(110)는 이전 파노라마 영상(710)과 이후 파노라마 영상(720)에서 의미론적 영상 분할(semantic segmentation)을 통해 천장 영역(701)과 바닥 영역(702)을 제외하고 실제 상점들이 위치하는 영역인 상점 영역(703)을 구분할 수 있다.

도 8을 참조하면, 클라우드 서버(110)는 앞서 설명한 간판 검출 알고리즘을 이용하여 이전 파노라마 영상(710)과 이후 파노라마 영상(720) 각각의 상점 영역(703)에 해당하는 부분에서 간판 영역(805)을 검출할 수 있다. 그리고, 클라우드 서버(110)는 이전 파노라마 영상(710)과 이후 파노라마 영상(720) 각각에 대해 간판 영역(805)을 중심으로 개별 상점을 나타내는 POI 영역(806)을 추출할 수 있다.

도 9를 참조하면, 클라우드 서버(110)는 이미지 매칭 알고리즘을 이용하여 POI 영역(806) 간의 유사도를 계산할 수 있다. 클라우드 서버(110)는 이전 파노라마 영상(710)에서 추출된 POI 영역(806)과 이후 파노라마 영상(720)에서 추출된 POI 영역(806)에 대해 DIR(Deep Image Retrieval) 알고리즘을 통해 이미지 디스크립터(image descriptor)를 추출하고 추출된 디스크립터들을 서로 비교하여 매칭되는 POI 쌍을 찾는다. 예를 들어, DIR 알고리즘은 <https://arxiv.org/abs/1604.01325>에 개시된 논문을 참조할 수 있다. 디스크립터는 이미지 특징을 벡터로 표현하는 기술자로 이미지 검색이나 이미지 분석 기술 등에 널리 활용되고 있다. 딥러닝 기반 이미지 검색을 위해서는 전역 이미지 표현(global image representation)을 학습하게 되는데, 글로벌 디스크립터(global descriptor)의 경우 입력 영상이 들어오면 특징 추출 과정(convolution, pooling 등)을 거쳐 2048차원의 특징을 추출할 수 있다. 이때, 추출된 2048차원 디스크립터들 간의 비교는 코사인 유사도(cosine similarity) 등을 이용할 수 있다. 이외에도, SIFT(Scale Invariant Feature Transform), SURF(Speeded Up Robust Features) 등의 기 공지된 여타의 알고리즘을 이용하여 서로 매칭되는 POI 쌍을 찾는 것 또한 가능하다.

클라우드 서버(110)는 이전 파노라마 영상(710)에서 추출된 POI 영역(806)과 이후 파노라마 영상(720)에서 추출된 POI 영역(806)이 위치 관계 상 같은 위치에 존재하고 유사도가 일정 수준 이상인 경우 서로 같은 상점을 나타내는 POI 쌍으로 분류할 수 있다. POI 영역(806) 간의 위치 관계는 이전 파노라마 영상(710)과 이후 파노라마 영상(720) 상의 좌표 정보를 이용하여 얻을 수 있다.

클라우드 서버(110)는 POI 영역(806) 간의 매칭 결과를 바탕으로 POI 변화를 감지할 수 있다. 다시 말해, 클라우드 서버(110)는 이전 파노라마 영상(710)과 이후 파노라마 영상(720) 간에 쌍을 찾지 못하고 남은 POI 영역을 POI 변화 영역(907)으로 인식할 수 있다. 클라우드 서버(110)는 POI 쌍 매칭 정보를 이용하여 이전 파노라마 영상(710)과 이후 파노라마 영상(720)에서 POI 변화가 감지된 영역(907)이 있을 경우 해당 영역(907)을 시각화할 수 있다.

상기에서는 이전 파노라마 영상(710)과 이후 파노라마 영상(720) 간에 POI 영역(806)을 비교하여 POI 변화 영역(907)을 검출하는 것으로 설명하고 있으나, POI 영역(806)을 추출하지 않고 간판 영역(805)만을 비교하여 POI 변화 영역(907)을 검출하는 것 또한 가능하다.

도 10 내지 도 12는 본 발명의 일실시예에 있어서 일반 단일 컷으로 촬영된 영상으로부터 POI 변화 영역을 검출하는 과정을 설명하기 위한 예시 도면이다.

클라우드 서버(110)는 대상 장소(140)에 대한 3차원 맵, 위치정보(촬영 위치), 방향정보(촬영 방향)를 이용하여 시간 간격을 두고 동일한 위치를 촬영한 이미지 쌍을 입력으로 받을 수 있다. 도 10을 참조하면, 클라우드 서버(110)는 대상 장소(140)에 대해 수집된 데이터를 활용하여 3차원 맵(1000)을 생성할 수 있고, 3차원 맵(1000)의 대상 위치에 대해 가장 최근 시점에 촬영된 수시 영상들 중에서 이후 영상(1020)을 선정할 수 있고 기본 정보 획득 단계(210)를 통해 수집된 영상들이나 이전 비교에 활용되었던 이후 영상들 또는 이전 시점(일례로, 하루 전, 일주일 전 등)에 촬영된 수시 영상들 중에서 이전 영상(1010)을 선정할 수 있다.

이전 영상(1010)과 이후 영상(1020)은 파노라마 컷이 아닌 일반 컷으로 촬영한 영상으로, 동일 방향의 이미지 쌍으로 선별될 수 있다. 동일 방향 영상을 선별하는 것은 유사한 위치에서 유사한 방향을 촬영한 이전 영상(1010)과 이후 영상(1020)을 서로 비교하기 위한 것으로, 유사한 위치에서 촬영된 이전 영상(1010)과 이후 영상(1020)의 두 개의 영상들이 기설정된 비율 이상 서로 동일한 부분을 촬영했을 것으로 예상되는 정도의 방향 유사성을 갖고 있다면 동일 방향 영상의 페어로서 선별될 수 있다. 다른 예로, 두 영상의 촬영 방향들이 기설정된 각도 차 이내를 형성하는 경우 해당 두 영상이 동일 방향 영상의 페어로서 선별될 수 있다.

도 11을 참조하면, 클라우드 서버(110)는 앞서 설명한 간판 검출 알고리즘을 이용하여 이전 영상(1010)과 이후 영상(1020)에서 간판 영역(1005)을 각각 검출할 수 있다. 예를 들어, 클라우드 서버(110)는 이전 영상(1010)과 이후 영상(1020) 각각에 대해 간판 검출을 위한 학습 모델을 통해 적어도 하나 이상의 후보 영역을 검출할 수 있고 간판 예측 스코어가 가장 높은 후보 영역을 최종 간판 영역(1005)으로 선정할 수 있다.

클라우드 서버(110)는 이미지 매칭 알고리즘을 이용하여 이전 영상(1010)과 이후 영상(1020)에서 검출된 간판 영역(1005) 간의 유사도를 계산할 수 있다. 클라우드 서버(110)는 이전 영상(1010)과 이후 영상(1020)에서 검출된 간판 영역(1005)에 대해 SIFT, SURF 등의 알고리즘을 통해 자연 특징 디스크립터를 추출하고 추출된 디스크립터들을 서로 비교하여 매칭 여부를 판단할 수 있다.

클라우드 서버(110)는 이전 영상(1010)과 이후 영상(1020)에서 검출된 간판 영역(1005)을 서로 비교하여 매칭이 성공한 경우에는 POI 변화가 없는 것으로, 매칭이 실패한 경우에는 POI 변화가 있는 것으로 결정할 수 있다. 그리고, 이전 영상(1010)에서 간판 영역(1005)이 검출되지 않고 이후 영상(1020)에서 간판 영역(1005)이 검출된 경우, 또는 이전 영상(1010)에서 간판 영역(1005)이 검출되고 이후 영상(1020)에서 간판 영역(1005)이 검출되지 않은 경우에는 POI 변화가 있는 것으로 결정할 수 있다. 또한, 이전 영상(1010)과 이후 영상(1020)에서 모두 간판 영역(1005)이 검출되지 않은 경우 POI 변화가 없는 것으로 결정할 수 있다.

실시예에 따라, 대상 위치와 인접한 위치의 이전 영상과 이후 영상을 참고하여 대상 위치의 POI 변화를 검증할 수 있다. 다시 말해, 주변 상점의 간판을 함께 비교하여 대상 위치의 POI 변화를 검출할 수 있다.

도 12를 참조하면, 클라우드 서버(110)는 대상 장소(140)에 대한 3차원 맵(1000)에서 POI 변화가 있는 것으로 판단된 이전 영상(1010)과 이후 영상(1020)의 대상 위치를 POI 변화 영역(1207)으로 시각화하여 보여줄 수 있다.

따라서, 클라우드 서버(110)는 POI 변화를 검출하기 위해 시간 간격을 두고 동일한 위치를 촬영한 이미지 쌍을 이용할 수 있고 각 이미지에서 간판 영역(805)(1005)을 탐지하여 POI 변화 영역(907)(1207)을 검출할 수 있다.

도 13은 본 발명의 일실시예에 따른 컴퓨터 시스템의 예를 도시한 블록도이다. 앞서 설명한 클라우드 서버(110)는 도 13에 도시된 하나의 컴퓨터 시스템(1300) 또는 복수의 컴퓨터 시스템들에 의해 구현될 수 있다. 예를 들어, 컴퓨터 시스템(1300)에는 일실시예에 따른 컴퓨터 프로그램이 설치 및 구동될 수 있고, 컴퓨터 시스템(1300)은 구동된 컴퓨터 프로그램의 제어에 따라 본 발명의 실시예들에 따른 정보 수집 및 업데이트 방법을 수행할 수 있다.

이러한 컴퓨터 시스템(1300)은 도 13에 도시된 바와 같이, 메모리(1310), 프로세서(1320), 통신 인터페이스(1330) 그리고 입출력 인터페이스(1340)를 포함할 수 있다. 메모리(1310)는 컴퓨터에서 판독 가능한 기록매체로서, RAM(random access memory), ROM(read only memory) 및 디스크 드라이브와 같은 비소멸성 대용량 기록장치(permanent mass storage device)를 포함할 수 있다. 여기서 ROM과 디스크 드라이브와 같은 비소멸성 대용량 기록장치는 메모리(1310)와는 구분되는 별도의 영구 저장 장치로서 컴퓨터 시스템(1300)에 포함될 수도 있다. 또한, 메모리(1310)에는 운영체제와 적어도 하나의 프로그램 코드가 저장될 수 있다. 이러한 소프트웨어 구성요소들은 메모리(1310)와는 별도의 컴퓨터에서 판독 가능한 기록매체로부터 메모리(1310)로 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록매체는 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록매체를 포함할 수 있다. 다른 실시예에서 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록매체가 아닌 통신 인터페이스(1330)를 통해 메모리(1310)에 로딩될 수도 있다. 예를 들어, 소프트웨어 구성요소들은 네트워크(1360)를 통해 수신되는 파일들에 의해 설치되는 컴퓨터 프로그램에 기반하여 컴퓨터 시스템(1300)의 메모리(1310)에 로딩될 수 있다.

프로세서(1320)는 기본적인 산술, 로직 및 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(1310) 또는 통신 인터페이스(1330)에 의해 프로세서(1320)로 제공될 수 있다. 예를 들어 프로세서(1320)는 메모리(1310)와 같은 기록 장치에 저장된 프로그램 코드에 따라 수신되는 명령을 실행하도록 구성될 수 있다.

통신 인터페이스(1330)은 네트워크(1360)를 통해 컴퓨터 시스템(1300)이 다른 장치(일례로, 앞서 설명한 저장 장치들)와 서로 통신하기 위한 기능을 제공할 수 있다. 일례로, 컴퓨터 시스템(1300)의 프로세서(1320)가 메모리(1310)와 같은 기록 장치에 저장된 프로그램 코드에 따라 생성한 요청이나 명령, 데이터, 파일 등이 통신 인터페이스(1330)의 제어에 따라 네트워크(1360)를 통해 다른 장치들로 전달될 수 있다. 역으로, 다른 장치로부터의 신호나 명령, 데이터, 파일 등이 네트워크(1360)를 거쳐 컴퓨터 시스템(1300)의 통신 인터페이스(1330)를 통해 컴퓨터 시스템(1300)으로 수신될 수 있다. 통신 인터페이스(1330)를 통해 수신된 신호나 명령, 데이터 등은 프로세서(1320)나 메모리(1310)로 전달될 수 있고, 파일 등은 컴퓨터 시스템(1300)이 더 포함할 수 있는 저장 매체(상술한 영구 저장 장치)로 저장될 수 있다.

입출력 인터페이스(1340)는 입출력 장치(1350)와의 인터페이스를 위한 수단일 수 있다. 예를 들어, 입력 장치는 마이크, 키보드 또는 마우스 등의 장치를, 그리고 출력 장치는 디스플레이, 스피커와 같은 장치를 포함할 수 있다. 다른 예로 입출력 인터페이스(1340)는 터치스크린과 같이 입력과 출력을 위한 기능이 하나로 통합된 장치와의 인터페이스를 위한 수단일 수도 있다. 입출력 장치(1350)는 컴퓨터 시스템(1300)과 하나의 장치로 구성될 수도 있다.

또한, 다른 실시예들에서 컴퓨터 시스템(1300)은 도 13의 구성요소들보다 더 적은 혹은 더 많은 구성요소들을 포함할 수도 있다. 그러나, 대부분의 종래기술적 구성요소들을 명확하게 도시할 필요성은 없다. 예를 들어, 컴퓨터 시스템(1300)은 상술한 입출력 장치(1350) 중 적어도 일부를 포함하도록 구현되거나 또는 트랜시버(transceiver), 데이터베이스 등과 같은 다른 구성요소들을 더 포함할 수도 있다.

이처럼 본 발명의 실시예들에 따르면, 시내 거리 혹은 실내 쇼핑몰 등 실제 공간 환경에서 지도 등의 위치 기반 서비스를 위해 실제 공간상에 존재하는 POI 변화를 자동으로 검출할 수 있다. 특히, 신규 오픈, 폐업, 상호 변경 등의 변화를 가장 잘 감지할 수 있는 상점의 간판 부분을 탐지하여 POI 변화를 효과적이고 신뢰성 있게 검출할 수 있다.

이상에서 설명된 시스템 또는 장치는 하드웨어 구성요소, 또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록매체에 저장될 수 있다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수개 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 애플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

그러므로, 다른 구현들, 다른 실시예들 및 청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims

컴퓨터 시스템에서 수행되는 방법에 있어서,
상기 컴퓨터 시스템은 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고,
상기 방법은,
상기 적어도 하나의 프로세서에 의해, 소정 시간 간격으로 대상 위치를 촬영한 이미지 쌍을 선정하는 단계;
상기 적어도 하나의 프로세서에 의해, 상기 이미지 쌍에 포함된 각 이미지에서 간판 영역을 검출하는 단계; 및
상기 적어도 하나의 프로세서에 의해, 상기 이미지 간에 상기 간판 영역을 비교하여 상기 대상 위치에 대한 관심 영역(Point Of Interest)의 변화를 인식하는 단계
를 포함하는 방법.
제1항에 있어서,
상기 간판 영역을 검출하는 단계는,
간판 이미지 셋을 학습한 기계 학습 모델을 통해 상기 이미지로부터 상기 간판 영역을 검출하는 것
을 특징으로 하는 방법.
제1항에 있어서,
상기 간판 영역을 검출하는 단계는,
상기 이미지 쌍이 파노라마 영상으로 이루어진 경우 상기 파노라마 영상에서 복수 개의 간판 영역을 검출하는 단계
를 포함하고,
상기 관심 영역의 변화를 인식하는 단계는,
상기 복수 개의 간판 영역 중 이미지 매칭 유사도가 일정 수준 이상인 간판 영역 쌍을 분류하고 남은 간판 영역을 변화 영역으로 인식하는 단계
를 포함하는 방법.
제1항에 있어서,
상기 관심 영역의 변화를 인식하는 단계는,
상기 간판 영역에서 디스크립터를 각각 추출한 후 상기 간판 영역 간에 상기 추출된 디스크립터를 비교하여 매칭 여부를 판단하는 단계
를 포함하는 방법.
제1항에 있어서,
상기 간판 영역을 검출하는 단계는,
상기 이미지 쌍이 파노라마 영상으로 이루어진 경우 상기 파노라마 이미지의 장면 레이아웃 검출을 통해 상기 간판 영역을 검출하는 단계
를 포함하는 방법.
제2항에 있어서,
상기 방법은,
상기 적어도 하나의 프로세서에 의해, 간판과 무관한 방해 객체가 삽입된 간판 이미지를 이용하여 상기 기계 학습 모델을 훈련하는 단계
를 더 포함하고,
상기 훈련하는 단계는,
상기 방해 객체가 검출되면 부정 값(negative cost)을 부여하는 단계
를 포함하는 방법.
제1항에 있어서,
상기 간판 영역을 검출하는 단계는,
상기 이미지의 다중 스케일에서 검출된 간판 영역을 병합하여 주요 맵(saliency map)을 생성한 후 상기 주요 맵으로부터 최종 간판 영역을 검출하는 단계
를 포함하는 방법.
제1항에 있어서,
상기 이미지 쌍을 선정하는 단계는,
상기 대상 위치에 대해 서로 다른 촬영 시점의 이전 영상과 이후 영상을 선정하되, 최근 시점에 촬영된 영상들 중에서 상기 이후 영상을 선정하고 상기 이후 영상 이전에 촬영된 영상들 중에서 상기 이전 영상을 선정하는 것
을 특징으로 하는 방법.
제8항에 있어서,
상기 이미지 쌍을 선정하는 단계는,
영상의 촬영 정보에 기초하여 기설정된 비율 이상 방향 유사성을 갖는 영상들의 페어 또는 촬영 방향이 기설정된 각도 차 이내인 영상들의 페어를 상기 이전 영상 및 상기 이후 영상으로 선정하는 것
을 특징으로 하는 방법.
제1항에 있어서,
상기 방법은,
상기 적어도 하나의 프로세서에 의해, 상기 변화가 인식된 관심 영역을 시각화 하는 단계
를 더 포함하는 방법.
제10항에 있어서,
상기 시각화 하는 단계는,
상기 변화가 인식된 관심 영역에 대해 상기 이미지 쌍을 포함하는 관심 영역 변화 정보를 생성하여 운영자에게 제공하는 단계
를 포함하는 방법.
제1항 내지 제11항 중 어느 한 항의 방법을 컴퓨터에 실행시키기 위한 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록매체.
컴퓨터 시스템에 있어서,
컴퓨터에서 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서
를 포함하고,
상기 적어도 하나의 프로세서에 의해,
소정 시간 간격으로 대상 위치를 촬영한 이미지 쌍을 선정하고,
상기 이미지 쌍에 포함된 각 이미지에서 간판 영역을 검출하고,
상기 이미지 간에 상기 간판 영역을 비교하여 상기 대상 위치에 대한 관심 영역의 변화를 인식하는 것
을 특징으로 하는 컴퓨터 시스템.