KR20190133373A - Auto producting system and method for 3d interior space image based on the information of reflrction image cloud - Google Patents

Auto producting system and method for 3d interior space image based on the information of reflrction image cloud Download PDF

Info

Publication number
KR20190133373A
KR20190133373A KR1020180058214A KR20180058214A KR20190133373A KR 20190133373 A KR20190133373 A KR 20190133373A KR 1020180058214 A KR1020180058214 A KR 1020180058214A KR 20180058214 A KR20180058214 A KR 20180058214A KR 20190133373 A KR20190133373 A KR 20190133373A
Authority
KR
South Korea
Prior art keywords
image
information
indoor space
video
processing module
Prior art date
Application number
KR1020180058214A
Other languages
Korean (ko)
Other versions
KR102080702B1 (en
Inventor
박병엽
박재연
최기열
Original Assignee
(주)신한항업
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)신한항업 filed Critical (주)신한항업
Priority to KR1020180058214A priority Critical patent/KR102080702B1/en
Publication of KR20190133373A publication Critical patent/KR20190133373A/en
Application granted granted Critical
Publication of KR102080702B1 publication Critical patent/KR102080702B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • G06K9/4671
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/759Region-based matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • G06K2009/6213
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Architecture (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Processing Or Creating Images (AREA)

Abstract

The present invention relates to a system and method for automatically generating a 3D indoor space image based on a video image information cloud, which can automatically generate and store a 3D indoor space image to enable search and utilization. The system comprises an indoor space information management server and a video control device. The indoor space information management server includes: a collection information DB storing reference images, video images, and SIFT descriptor data collected by photographing an indoor space by at least one camera device; an image collection module which photographs the indoor space according to a photographing angle of the camera device to collect the reference image, sets the video image, collected by re-photographing the indoor space by the camera device, according to the reference image, and stores the image in the collection information DB; a video matching processing module, which analyzes the video image, sets the SIFT descriptor data for each section in the video image according to an SIFT algorithm to store the same in the collection information DB, generates the indoor space image by matching the plurality of video images based on the SIFT descriptor data shared in neighboring video images, and stores the same in the collection information DB; and a monitoring module monitoring the processing state of the video matching processing module. The video control device includes: a search module searching for necessary information by searching the collection information DB; a data processing module controlling the execution of the image collection module, the image matching processing module and the monitoring module; and a space video editing module executing a dashboard for a control information input and a control state output of the data processing module.

Description

영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템과 생성방법{AUTO PRODUCTING SYSTEM AND METHOD FOR 3D INTERIOR SPACE IMAGE BASED ON THE INFORMATION OF REFLRCTION IMAGE CLOUD}AUTOMATIC PRODUCTION SYSTEM AND METHOD FOR 3D INTERIOR SPACE IMAGE BASED ON THE INFORMATION OF REFLRCTION IMAGE CLOUD}

본 발명은 3차원 실내공간 이미지를 자동으로 생성하여 저장하고 검색 및 활용을 가능하게 하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템과 생성방법에 관한 것이다.The present invention relates to a 3D indoor space image automatic generation system and a method for automatically generating a 3D indoor space image based on an image image information cloud that enables to automatically generate, store, search and use.

일반 부동산 중계 사이트는 물론 기타 실내 구조와 형태 등을 제공하는 각종 서비스와 전문 기업 및 기관 등(이하 '서비스 제공자')은, 실내 구조와 형태 등을 확인할 수 있도록 해당 실내를 사진으로 직접 촬영해서 단순 촬영이미지로 이용자에게 제공하거나, 건축물의 CAD 도면 등을 이용하여 2차원 또는 3차원 화면을 구성하고 사용자에게 제공했다.In addition to the general real estate relay site, various services and professional companies and institutions (hereinafter referred to as service providers) that provide other indoor structures and shapes, such as 'service providers', can take pictures of the indoors directly and photograph them to check the indoor structure and shapes. It was provided to the user as a photographed image, or a 2D or 3D screen was constructed and provided to the user using a CAD drawing of a building.

그런데, 전술한 방식으로 CAD 방식으로 실내 구조 데이터를 구축하려면 건축물의 설계와 관련한 CAD 도면 등의 부가 자료를 반드시 이용해야 하므로, CAD 도면을 보유하고 있지 않은 건축물에 대한 실내 구조 데이터 생성은 어려움이 있었다. 더욱이, CAD 도면은 건축물의 실내 구조 뿐만 아니라 건축물에 내설된 각종 배관과 배선 등의 세부내용을 포함하고 있기 때문에, 정작 건물주가 외부에는 쉽게 공개하지 않는다는 제한이 있었다. 따라서 CAD 방식으로 실내 구조 데이터를 구축하는 것은 사실상 어려움이었다.However, in order to construct the indoor structure data by the CAD method in the above-described manner, since additional data such as CAD drawings related to the design of the building must be used, it is difficult to generate indoor structure data for a building that does not have a CAD drawing. . Moreover, since the CAD drawings include not only the interior structure of the building but also the details of various pipes and wirings built into the building, there is a limitation that the landlord does not easily disclose it to the outside. Therefore, it was difficult to construct indoor structural data in CAD way.

따라서 종래에는 일반 서비스 제공자가 CAD 방식이 아닌 2D 형식의 평면이미지를 작성해서 도 1의 (a)도면과 같이 이용자에게 제공했다. 하지만, 상기 종래 기술은 실제 내부 환경과 실내 공간 형태 등을 이용자가 직시하여 확인 및 파악할 수 없으므로, 실제 내부 환경을 구체적으로 확인 및 파악하기 위해서는 대상 건축물의 실내 공간으로 방문할 수밖에 없는 한계가 있었다. Therefore, in the related art, a general service provider prepares a planar image in 2D format rather than a CAD method and provides it to the user as shown in FIG. However, in the conventional technology, since the user cannot directly identify and grasp the actual internal environment and the interior space form, there is a limit to visit the indoor space of the target building in order to specifically identify and grasp the actual internal environment.

이러한 문제를 해소하기 위해서 종래에는 일반 서비스 제공자가 CAD 방식 및 2D 이미지 방식이 아닌, 도 1의 (b)도면과 같이 실제 실내 공간을 촬영해서 실내 이미지를 수집하고 이용자에게 제공했다. 그런데, 촬영을 통한 실내 이미지는 촬영자인 서비스 제공자의 주관적인 결정에 따라 제한된 실내 구간만을 이용자에게 제공하므로, 이용자는 실내 공간 전체를 확인할 수 없었고, 이용자가 원하는 실내 구간도 임의로 선택해서 파악할 수 없다는 한계가 있었다.In order to solve such a problem, the conventional service provider collects the indoor image and provides it to the user by photographing the actual indoor space as shown in FIG. 1 (b), rather than the CAD method and the 2D image method. However, since indoor images through photography are provided to the user with limited indoor sections according to the subjective decision of the service provider who is the photographer, the user cannot check the entire indoor space, and the user cannot arbitrarily select the desired indoor section. there was.

이를 보완하기 위해서 종래에는 공개특허공보 제10-2013-0123041호(이하 '종래 기술')는 라이다 장치를 이용해서 실내를 직접 스캔하는 기술을 제안했다.In order to compensate for this, conventionally, Korean Patent Laid-Open Publication No. 10-2013-0123041 (hereinafter referred to as "prior art") has proposed a technique of directly scanning a room using a LiDAR apparatus.

그러나, 종래 기술은 작업자가 라이다 장치를 단순히 이동시키면서 스캔을 하고, 종래 라이다 기술을 활용해서 이미지를 편집하는 기술만 있을 뿐, 라이다 장치에 대한 구체적인 설명이 없고, 스캔 방법 또한 전혀 명시되지 않았다However, the prior art only has a technique for the operator to scan while simply moving the lidar device, and edit the image using the conventional lidar technology, there is no specific description of the lidar device, and the scanning method is not specified at all. Did

더욱이, 종래 기술에서 활용되는 라이다 장치는 상대적으로 고가의 장비이므로, 서비스 제공자가 이를 임대하거나 구매함에 있어 경제적 부담이 있었고, 라이다 장치는 실내 공간을 이동하면서 지점별로 스캔작업을 진행하여 라이다 장치의 현재 위치를 일일이 파악해야 하므로 사용상의 불편과 수고 또한 적지 않았다.Moreover, since the lidar device utilized in the prior art is relatively expensive equipment, there was an economic burden for the service provider to rent or purchase the lidar device. Since the current location of the device has to be understood, the inconvenience and trouble of using it was also a lot.

선행기술문헌 1. 특허공개번호 제10-2013-0123041호(2013.11.12 공개)Prior Art Document 1. Patent Publication No. 10-2013-0123041 (published Nov. 12, 2013)

이에 본 발명은 상기의 문제를 해소하기 위해 발명된 것으로, 3차원 실내 공간 이미지를 저렴하면서도 손쉽게 생성해서 데이터화할 수 있고, 이용자는 가상 공간과 같이 자신이 확인을 원하는 실내 구간을 특정해서 확대 또는 파악할 수 있으며, 이미지정보를 클라우드 방식을 기반으로 저장 관리해서 서비스 제공자는 물론 이용자도 자신이 필요한 이미지정보를 손쉽게 검색해서 이용자에게 제공할 수 있게 하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템과 생성방법의 제공을 해결하고자 하는 과제로 한다.Accordingly, the present invention has been invented to solve the above problems, and can be easily and cheaply generated and data three-dimensional indoor space image, the user can specify or enlarge or grasp the indoor section that you want to check, such as virtual space 3D indoor space image automatic generation system based on the image image information cloud, which enables the storage provider to store and manage the image information based on the cloud method, so that not only the service provider but also the user can easily search for and provide the necessary image information to the user. The problem to be solved is to provide a generation method.

상기의 과제를 달성하기 위하여 본 발명은,In order to achieve the above object, the present invention,

하나 이상의 카메라 장치가 실내공간을 촬영하여 수집한 기준이미지 및 영상이미지와 SIFT 디스크립터(Descriptor) 데이터를 저장하는 수집정보DB; 상기 카메라 장치의 촬영각에 따라 실내공간을 촬영해서 기준이미지를 수집하고, 상기 카메라 장치가 실내공간을 재촬영해서 수집한 영상이미지를 기준이미지에 맞춰 세팅하여 수집정보DB에 저장하는 이미지 수집모듈; 상기 영상이미지를 분석하고 SIFT 알고리즘에 따라 영상이미지 내에 구간별로 SIFT 디스크립터 데이터를 설정해서 수집정보DB에 저장하며, 서로 이웃하는 영상이미지에서 서로 공유하는 상기 SIFT 디스크립터 데이터를 기준으로 다수의 영상이미지를 매칭해서 실내공간 이미지를 생성하고 수집정보DB에 저장하는 영상정합 처리모듈; 상기 영상정합 처리모듈의 프로세싱 상황을 모니터링하는 모니터링 모듈;을 갖춘 실내공간정보 관리서버, 및A collection information DB for storing reference images, video images, and SIFT descriptor data collected by capturing indoor spaces by at least one camera device; An image acquisition module for capturing an indoor space according to a photographing angle of the camera device to collect a reference image, and setting the image image collected by the camera apparatus to re-photograph the indoor space according to the reference image and storing the image in a collection information DB; Analyzing the video image and setting the SIFT descriptor data for each section in the video image according to the SIFT algorithm and storing it in the collection information DB, and matching a plurality of video images based on the SIFT descriptor data shared by neighboring video images. An image matching processing module for generating an indoor space image and storing it in a collection information DB; An indoor spatial information management server comprising: a monitoring module for monitoring a processing state of the image matching processing module;

상기 수집정보DB를 검색해서 필요 정보를 검색하는 검색모듈; 상기 이미지 수집모듈 및 영상정합 처리모듈과 모니터링 모듈의 실행을 제어하는 데이터 처리모듈; 상기 데이터 처리모듈의 제어상황 출력과 제어정보 입력을 위한 대시보드를 실행하는 공간영상 편집모듈;을 갖춘 영상 컨트롤 장치,A search module for searching for the necessary information by searching the collection information DB; A data processing module for controlling execution of the image collection module, the image registration processing module, and the monitoring module; And a spatial image editing module executing a dashboard for outputting control status and inputting control information of the data processing module.

를 포함하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템이다.3D indoor space image automatic generation system based on the image image information cloud including a.

상기의 다른 기술적 과제를 달성하기 위하여 본 발명은,In order to achieve the above technical problem, the present invention,

실내공간에 하나 이상 설치된 카메라가 다양한 촬영각으로 상기 실내공간을 촬영하는 단계와, 이미지 수집모듈이 상기 카메라가 촬영하여 수집한 기준이미지를 수집정보DB에 저장하는 단계로 구성된 기준이미지 수집 단계;A reference image collecting step comprising: photographing the indoor space at various shooting angles by at least one camera installed in the indoor space; and storing, by the image collecting module, a reference image collected by the camera in a collection information DB;

상기 카메라가 실내공간을 기준이미지 수집 단계에서의 해당 촬영각에 따라 촬영해서 영상이미지를 수집하는 영상이미지 수집 단계;An image image collecting step of collecting image images by the camera capturing an indoor space according to a corresponding photographing angle in the reference image collecting step;

상기 영상이미지 수집 단계에서 수집한 영상이미지를 영상정합 처리모듈이 기준이미지와 비교하는 단계와, 상기 영상이미지가 해당 기준이미지와 불일치한 것으로 확인되면 불일치한 영상이미지의 촬영각 정보를 상기 영상정합 처리모듈이 기준이미지의 촬영각에 맞춰 보정하는 영상이미지 보정 단계;Comparing the image image collected in the image image collecting step with the reference image by the image matching processing module; and when the image image is determined to be inconsistent with the reference image, the image matching processing of the photographing angle information of the mismatched image image. A video image correction step of correcting the module according to the photographing angle of the reference image;

상기 영상정합 처리모듈이 영상이미지를 분석하고 SIFT 알고리즘에 따라 영상이미지 내에 구간별로 SIFT 디스크립터 데이터를 설정해서 수집정보DB에 저장하는 단계와, 상기 영상정합 처리모듈이 서로 이웃하는 영상이미지에서 서로 공유하는 상기 SIFT 디스크립터 데이터를 기준으로 영상이미지를 매칭해서 실내공간 이미지를 생성하는 단계로 구성된 영상이미지 정합 단계; 및The image matching processing module analyzes the image image and sets the SIFT descriptor data for each section in the image image according to the SIFT algorithm and stores it in the collection information DB, and the image matching processing module is shared with each other in the neighboring image image An image image matching step comprising generating an indoor space image by matching the image image based on the SIFT descriptor data; And

상기 실내공간 이미지를 포맷팅해서 수집정보DB에 저장하는 결과파일 포맷팅 단계;A result file formatting step of formatting the indoor spatial image and storing it in a collection information DB;

를 포함하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성방법이다.Automatic image generation method based on the image image information cloud-based 3D indoor space.

상기의 본 발명은, 3차원 실내 공간 이미지를 저렴하면서도 손쉽게 생성해서 데이터화할 수 있고, 이용자는 가상 공간과 같이 자신이 확인을 원하는 실내 구간을 특정해서 확대 또는 파악할 수 있으며, 이미지정보를 클라우드 방식을 기반으로 저장 관리해서 서비스 제공자는 물론 이용자도 자신이 필요한 이미지정보를 손쉽게 검색해서 이용자에게 제공할 수 있는 효과가 있다.According to the present invention, a three-dimensional indoor space image can be easily and inexpensively generated and dataized, and a user can enlarge or grasp an indoor section that he / she wants to check, such as a virtual space, and use the cloud method for image information. Based on the storage management, the service provider as well as the user can easily search for the necessary image information and provide it to the user.

도 1은 종래 실내공간 이미지 생성시스템이 생성한 실내공간 이미지이고,
도 2는 본 발명에 따른 실내공간 이미지 생성시스템의 일실시 예를 도시한 블록도이고,
도 3은 본 발명에 따른 실내공간에 설치되는 카메라 장치의 일실시 예를 도시한 사시도이고,
도 4는 도 3의 카메라 장치를 구성하는 구성요소의 일실시 예를 도시한 블록도이고,
도 5는 본 발명에 따른 실내공간 이미지 생성방법을 순차 도시한 플로차트이고,
도 6은 본 발명에 따른 실내공간 이미지 생성방법의 실시를 위해 실내공간 내에 설치된 카메라의 배치 모습을 개략적으로 도시한 평면도이고,
도 7은 본 발명에 따른 실내공간 이미지 생성방법의 실시를 위해 실내공간에 설치된 기준대의 설치 모습을 개략적으로 도시한 측면도이고,
도 8은 상기 카메라 장치의 촬영각에 따른 실내공간 및 기준대의 위치 변화모습을 개략적으로 도시한 도면이고,
도 9는 상기 촬영각에 따른 실내공간의 교차 구간을 확인해서 정합 대상 영상이미지를 분류하는 모습을 개략적으로 도시한 도면이고,
도 10은 본 발명에 따른 실내공간 이미지 생성방법에 따라 정합된 영상이미지를 실내공간 이미지로 생성하는 모습을 개략적으로 도시한 도면이고,
도 11은 본 발명에 따른 실내공간 이미지 생성방법에 따라 정합되어 완성된 실내공간 이미지의 일예를 보인 이미지이다.
1 is an indoor space image generated by a conventional indoor space image generation system,
2 is a block diagram showing an embodiment of an indoor space image generation system according to the present invention;
3 is a perspective view illustrating an embodiment of a camera device installed in an indoor space according to the present invention;
FIG. 4 is a block diagram illustrating an embodiment of components constituting the camera apparatus of FIG. 3.
5 is a flowchart sequentially illustrating a method of generating an indoor space image according to the present invention;
6 is a plan view schematically showing an arrangement of a camera installed in an indoor space for implementing an indoor space image generating method according to the present invention;
7 is a side view schematically showing the installation of the reference stage installed in the indoor space for the implementation of the indoor space image generation method according to the present invention,
8 is a view schematically illustrating a change in position of an indoor space and a reference table according to a photographing angle of the camera device.
FIG. 9 is a diagram schematically illustrating a state in which a matching target image image is classified by checking an intersection section of an indoor space according to the photographing angle.
FIG. 10 is a view schematically showing a state in which a matched image image is generated as an indoor space image according to the indoor space image generation method according to the present invention;
11 is an image showing an example of an indoor space image that is matched and completed according to the indoor space image generating method according to the present invention.

상술한 본 발명의 특징 및 효과는 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 분명해질 것이며, 그에 따라 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. 본 발명은 다양한 변경을 가할 수 있고 여러 가지 형태를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 본문에 상세하게 설명하고자 한다. 그러나 이는 본 발명을 특정한 개시형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 출원에서 사용한 용어는 단지 특정한 실시 예들을 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다.The above-described features and effects of the present invention will be apparent from the following detailed description with reference to the accompanying drawings, whereby those skilled in the art can easily implement the technical idea of the present invention. There will be. As the inventive concept allows for various changes and numerous embodiments, particular embodiments will be illustrated in the drawings and described in detail in the text. However, this is not intended to limit the present invention to a specific disclosure, it should be understood to include all modifications, equivalents, and substitutes included in the spirit and scope of the present invention. The terminology used herein is for the purpose of describing particular embodiments only and is not intended to be limiting of the invention.

이하, 본 발명을 구체적인 내용이 첨부된 도면에 의거하여 상세히 설명한다.Hereinafter, the present invention will be described in detail with reference to the accompanying drawings.

도 2는 본 발명에 따른 실내공간 이미지 생성시스템의 일실시 예를 도시한 블록도이다. 2 is a block diagram illustrating an embodiment of an indoor space image generation system according to the present invention.

본 실시의 실내공간 이미지 생성시스템은, 하나 이상의 카메라 장치(300)를 실내공간(S)에 설치해서 3D 실내공간 이미지를 생성하고 관련 정보를 클라우딩하는 실내공간정보 관리서버(100)와, 실내공간정보 관리서버(100)와 연결되어서 작업자의 조작에 따른 제어신호에 따라 실내공간정보 관리서버(100)의 클라우딩 정보가 처리되도록 하는 영상 컨트롤 장치(200, 200')를 포함한다.The indoor space image generation system of the present embodiment includes an indoor space information management server 100 that installs one or more camera devices 300 in the indoor space S to generate a 3D indoor space image and cloud the related information. It is connected to the spatial information management server 100 includes an image control device (200, 200 ') to process the clouding information of the indoor spatial information management server 100 in accordance with a control signal according to the operator's operation.

실내공간정보 관리서버(100)는, 카메라 장치(300)와 기타 센서(500)로부터 수집한 데이터를 기초로 실내공간 이미지를 생성하고 저장 및 관리하므로, 상기 실내공간 이미지를 제작하는 작업자의 영상 컨트롤 장치(200, 200')와는 물론, 완성된 실내공간 이미지를 검색해서 활용할 수 있도록 이용자의 단말기(400)와 통신할 수 있다. 참고로, 이용자의 단말기(400)는 실내공간정보 관리서버(100)와 온라인 네트워크 통신으로 접속하고, 작업자의 영상 컨트롤 장치(200, 200'; 이하 '200'으로 통칭함)는 실내공간정보 관리서버(100)와 직접 연결되거나, 이용자의 단말기(400)와 같이 온라인 네트워크 통신으로 접속할 수 있다.The indoor space information management server 100 generates, stores, and manages the indoor space image based on data collected from the camera device 300 and the other sensors 500, and thus controls the image of the worker who produces the indoor space image. In addition to the devices 200 and 200 ′, the device 200 and 200 ′ may communicate with the user's terminal 400 to retrieve and utilize the completed indoor space image. For reference, the user's terminal 400 is connected to the indoor spatial information management server 100 through online network communication, and the operator's image control apparatus 200, 200 '(hereinafter referred to as' 200') is indoor spatial information management. The server 100 may be directly connected, or may be connected through online network communication as the terminal 400 of the user.

참고로, 본 실시의 실내공간정보 관리서버(100)는, 수집정보DB(110)에 저장된 데이터들의 검색과 출력을 위한 웹페이지를 생성 및 실행하는 웹페이지 처리모듈(160)을 더 포함하므로, 접속과 사용이 용이한 하나의 웹사이트를 구축할 수 있고, 이를 통해 작업자의 컨트롤 장치(200, 200')는 물론 이용자의 단말기(400)도 통신모듈(170)을 매개로 온라인 네트워크 통신으로 접속할 수 있다. For reference, the indoor spatial information management server 100 of the present embodiment further includes a web page processing module 160 for generating and executing a web page for searching and outputting data stored in the collection information DB 110. It is possible to construct a website that is easy to access and use, and through this, not only the operator's control devices 200 and 200 'but also the user's terminal 400 can be connected via online network communication via the communication module 170. Can be.

본 실시의 실내공간정보 관리서버(100)는, 실내공간에 하나 이상 설치된 카메라 장치(300)가 촬영하여 수집한 기준이미지와 영상이미지와 SIFT 디스크립터(Descriptor) 데이터를 저장하는 수집정보DB(110); 카메라 장치(300)의 위치별 촬영각에 따른 실내공간(S, S'; 도 5 참조)의 기준이미지를 수집하고, 실내공간(S, S')의 재촬영으로 수집한 영상이미지의 촬영지점을 기준이미지에 맞춰 세팅하여 수집정보DB(110)에 저장하는 이미지 수집모듈(130); 상기 영상이미지를 분석하고 SIFT 알고리즘에 따라 영상이미지 내에 구간별로 SIFT 디스크립터 데이터를 설정해서 수집정보DB(110)에 저장하며, 서로 이웃하는 영상이미지의 교차구간을 상기 SIFT 디스크립터 데이터를 기초로 매칭해서 실내공간 이미지를 생성하고 수집정보DB(110)에 저장하는 영상정합 처리모듈(140); 영상정합 처리모듈(140)의 프로세싱 상황을 모니터링하는 모니터링 모듈(150);을 구성한다.The indoor spatial information management server 100 of the present embodiment is a collection information DB 110 for storing reference images, video images, and SIFT descriptor data collected by at least one camera device 300 installed in an indoor space. ; Shooting point of the video image collected by re-shooting the indoor space (S, S ') according to the shooting angle of each location of the camera device 300, S, S'; An image collection module 130 for setting the reference image to store in the collection information DB 110; Analyzing the video image and setting the SIFT descriptor data for each section in the video image according to the SIFT algorithm and storing it in the collection information DB 110, and matching the cross sections of neighboring video images based on the SIFT descriptor data and indoors. An image matching processing module 140 for generating a spatial image and storing it in the collection information DB 110; And a monitoring module 150 for monitoring the processing status of the image registration processing module 140.

한편, 본 실시의 영상 컨트롤 장치(200)는, 수집정보DB(110)를 검색해서 필요 정보를 검색하는 검색모듈(210); 상기 이미지 수집모듈(130) 및 영상정합 처리모듈(140)과 모니터링 모듈(150)의 실행을 제어하는 데이터 처리모듈(220); 데이터 처리모듈(220)의 제어상황 출력과 제어정보 입력을 위한 대시보드를 실행하는 공간영상 편집모듈(230);을 구성한다.On the other hand, the image control device 200 of the present embodiment, the search module 210 to search the collection information DB (110) to retrieve the necessary information; A data processing module 220 for controlling execution of the image collection module 130, the image registration processing module 140, and the monitoring module 150; And a spatial image editing module 230 for executing a dashboard for outputting control status and inputting control information of the data processing module 220.

참고로, 모니터링 모듈(150)은, 영상정합 처리모듈(140)의 프로세싱 상황을 실시간으로 체크해서 데이터 처리모듈(220)에 발신하므로, 작업자는 공간영상 편집모듈(230)의 대시보드에 따라 영상이미지 정합 과정과 처리 상화를 파악하고 이를 제어할 수 있게 한다.For reference, since the monitoring module 150 checks the processing status of the image registration processing module 140 in real time and transmits the data to the data processing module 220, the operator may perform an image according to the dashboard of the spatial image editing module 230. It allows you to identify and control image matching processes and process images.

이상 설명한 실내공간정보 관리서버(100)와 영상 컨트롤 장치(200)의 연동 형태와 프로세싱 과정 등은 이하에서 좀 더 상세히 설명한다.The interworking form and processing of the indoor spatial information management server 100 and the image control apparatus 200 described above will be described in more detail below.

도 3은 본 발명에 따른 실내공간에 설치되는 카메라 장치의 일실시 예를 도시한 사시도이고, 도 4는 도 3의 카메라 장치를 구성하는 구성요소의 일실시 예를 도시한 블록도이다.3 is a perspective view showing an embodiment of a camera device installed in an indoor space according to the present invention, Figure 4 is a block diagram showing an embodiment of the components constituting the camera device of FIG.

본 실시의 카메라 장치(300)는 실내공간(S, S')에서 지정된 위치에 설치되이서 실내공간(S, S')을 촬영한다. 이때 카메라 장치(300)는 실내공간(S, S')을 모두 촬영해서 이미지를 수집할 수 있어야 하므로, 실내공간(S, S')에 다수 개가 설치되는 것이 바람직하며, 설치 위치는 실내공간 이미지에 포함되는 실내공간(S, S')의 바닥면을 촬영할 수 있도록 실내공간(S, S')의 상부에 설치되는 것이 바람직하다.The camera device 300 of the present embodiment is installed at a designated position in the indoor spaces S and S 'to photograph the indoor spaces S and S'. At this time, since the camera device 300 should be able to collect all of the indoor spaces (S, S ') to collect images, it is preferable that a plurality of cameras be installed in the indoor spaces (S, S'). It is preferable to be installed on the upper portion of the indoor space (S, S ') to photograph the bottom surface of the indoor space (S, S') included in.

한편, 카메라 장치(300)는 설치 위치에서 다양한 촬영각으로 실내공간(S, S')을 촬영할 수 있어야 하며, 이를 위해 본 실시의 카메라 장치(300)는, 카메라(310)와, 카메라(310)를 회전 가능하게 지지하는 제1행거(320)와, 제1행거(320)에서 카메라(310)가 회전하도록 구동하는 제1구동모터(330)와, 제1행거(320)를 회전 가능하게 지지하는 제2행거(340)와, 제2행거(340)에서 제1행거(320)가 회전하도록 구동하는 제2구동모터(350)와, 카메라(310)와 제1행거(320)의 회전각을 각각 센싱하는 회전각센서(360)를 포함한다.On the other hand, the camera device 300 should be able to shoot the interior space (S, S ') at various shooting angles from the installation position, for this purpose, the camera device 300 of the present embodiment, the camera 310 and the camera 310 ) Is rotatably supported by a first hanger 320, a first drive motor 330 driving the camera 310 to rotate on the first hanger 320, and a first hanger 320 rotatably. Rotation of the second hanger 340 supporting, the second drive motor 350 driving the first hanger 320 to rotate in the second hanger 340, the camera 310 and the first hanger 320 It includes a rotation angle sensor 360 for sensing each angle.

카메라 장치(300)의 카메라(310)와 제1구동모터(330)와 제2구동모터(350)와 회전각센서(360)는 작업자의 조작을 위한 버튼 등의 조작수단이 각각 구성된다. 그러나 다수의 카메라 장치(300)가 실내 공간(S, S')에 설치된 상태이므로, 작업자는 카메라 장치(300)가 설치된 지점별로 직접 이동해서 카메라(310)와 제1구동모터(330)와 제2구동모터(350)와 회전각센서(360)의 조작수단을 일일이 조작해야 한다. 따라서 카메라 장치(300)는 원격에서도 작업자가 카메라(310)와 제1구동모터(330)와 제2구동모터(350)와 회전각센서(360)를 조작할 수 있도록, 카메라(310)와 제1구동모터(330)와 제2구동모터(350)와 회전각센서(360) 중 선택된 하나 이상의 동작 제어를 위해서 조작신호에 따라 해당하는 제어신호를 발신하는 리모컨(380)을 더 포함할 수 있다.The camera 310, the first driving motor 330, the second driving motor 350, and the rotation angle sensor 360 of the camera device 300 are configured with operation means such as buttons for operator's operation, respectively. However, since the plurality of camera apparatuses 300 are installed in the indoor spaces S and S ', the operator moves directly to each point where the camera apparatuses 300 are installed, so that the camera 310 and the first driving motor 330 and the first driving motors 330 and the first driving motors 330 and the first apparatus are installed. The operation means of the two driving motor 350 and the rotation angle sensor 360 should be operated one by one. Accordingly, the camera device 300 and the camera 310 and the first driving motor 330, the second driving motor 350, and the rotation angle sensor 360 may be operated by a worker even at a remote location. The control unit 380 may further include a remote controller 380 for transmitting a control signal according to an operation signal for controlling one or more operations selected from the first driving motor 330, the second driving motor 350, and the rotation angle sensor 360. .

여기서 카메라 장치(300)의 카메라(310)와 제1구동모터(330)와 제2구동모터(350)와 회전각센서(360)는, 통신모듈(370)을 통해 리모컨(380)으로부터 동작신호를 수신하면, 각자 세팅된 프로세스에 따라 동작해서 카메라(310)가 초기 위치에 배치되도록 하고, 지정된 촬영각으로 순차 이동하면서 기준이미지 및 영상이미지를 스트리밍으로 촬영해 수집한다. 결국, 다수의 카메라 장치(300)는 리모컨(380)의 동작신호에 따라 구동하면서 실내공간(S, S')을 촬영한다.Here, the camera 310 of the camera device 300, the first driving motor 330, the second driving motor 350 and the rotation angle sensor 360, the operation signal from the remote control 380 through the communication module 370 When receiving, the camera 310 operates according to a set process, and the camera 310 is placed at an initial position, and the reference image and the image image are collected by streaming while sequentially moving to a designated shooting angle. As a result, the plurality of camera apparatuses 300 photograph the indoor spaces S and S 'while driving according to the operation signal of the remote controller 380.

본 실시의 카메라 장치(300)에서 제1행거(320)는 카메라(310)가 상하로 회전하도록 설치되었고, 제2행거(340)는 제1행거(320)가 수평 회전하도록 설치되었으나, 이와는 반대로 제1행거가 카메라(310)를 수평 회전하도록 설치되고, 제2행거가 상기 제1행거를 상하로 회전하도록 설치될 수 있다.In the camera apparatus 300 of the present embodiment, the first hanger 320 is installed so that the camera 310 rotates up and down, and the second hanger 340 is installed so that the first hanger 320 rotates horizontally. The first hanger may be installed to rotate the camera 310 horizontally, and the second hanger may be installed to rotate the first hanger up and down.

결국, 카메라 장치(300)는 다양한 촬영각으로 실내공간(S, S')을 촬영하며 기준이미지와 영상이미지를 수집할 수 있다.As a result, the camera device 300 may capture the indoor spaces S and S ′ at various photographing angles and collect the reference image and the image image.

미설명된 도면부호 '351'는 제2구동모터(350)를 실내공간(S, S')의 천장 또는 벽면에 설치하기 위한 '브래킷'이다.Unexplained reference numeral '351' is a 'bracket' for installing the second driving motor 350 on the ceiling or wall surface of the indoor space (S, S ').

도 5는 본 발명에 따른 실내공간 이미지 생성방법을 순차 도시한 플로차트이고, 도 6은 본 발명에 따른 실내공간 이미지 생성방법의 실시를 위해 실내공간 내에 설치된 카메라의 배치 모습을 개략적으로 도시한 평면도이고, 도 7은 본 발명에 따른 실내공간 이미지 생성방법의 실시를 위해 실내공간에 설치된 기준대의 설치 모습을 개략적으로 도시한 측면도이고, 도 8은 상기 카메라 장치의 촬영각에 따른 실내공간 및 기준대의 위치 변화모습을 개략적으로 도시한 도면이다.5 is a flowchart sequentially illustrating a method of generating an indoor space image according to the present invention, and FIG. 6 is a plan view schematically illustrating an arrangement of a camera installed in an indoor space for implementing the method of generating an indoor space image according to the present invention. FIG. 7 is a side view schematically illustrating an installation of a reference table installed in an indoor space for implementing an indoor space image generating method according to the present invention, and FIG. 8 illustrates a location of an indoor space and a reference table according to a photographing angle of the camera device. A diagram schematically illustrating the change pattern.

이하에서는 본 발명의 실내공간 이미지 생성방법의 동작 과정을 위의 도면을 참조하여 설명한다.Hereinafter, an operation process of the indoor space image generation method of the present invention will be described with reference to the above drawings.

S10; 기준 이미지 수집 단계S10; Baseline Image Acquisition Step

실내공간(S, S')에 하나 이상 설치된 카메라(310)가 다양한 촬영각으로 실내공간(S, S')을 촬영하는 단계와, 카메라(310)가 촬영하여 수집한 기준이미지를 수집정보DB(110)에 저장하는 단계로 구성된다.At least one camera 310 installed in the indoor spaces (S, S ') photographing the indoor spaces (S, S') at various shooting angles, and collecting the reference image collected by the camera (310). And storing in 110.

본 실시에 실내공간(S, S')은 하나의 격벽(P)을 기준으로 두 개로 분리된다. 이렇게 분리된 실내공간(S, S')은 도 6과 같이 4각의 평면 공간을 구성하고, 실내공간(S, S') 각각의 코너에는 4대의 카메라(310a 내지 310h)가 설치된다.In the present embodiment, the interior spaces S and S 'are separated into two based on one partition P. The separated indoor spaces S and S 'constitute a quadrangular planar space as shown in FIG. 6, and four cameras 310a to 310h are installed at each corner of the indoor spaces S and S'.

또한 본 실시의 도 7과 같이 카메라(310a, 310d)는 실내공간(S)의 천장에 배치되어서, 실내공간(S)의 바닥면과 측벽 모두를 효율적으로 촬영할 수 있도록 했다. 도면에서 도시하고 있지는 않으나, 격벽(P)에 의해 분리된 다른 실내공간(S')에도 해당 카메라(310e 내지 310h)가 설치되어서 실내공간(S')의 바닥면과 측벽 모두를 효율적으로 촬영할 수 있도록 했다.In addition, as shown in FIG. 7 of the present embodiment, the cameras 310a and 310d are disposed on the ceiling of the indoor space S, so that both the bottom surface and the sidewall of the indoor space S can be efficiently photographed. Although not shown in the drawing, the cameras 310e to 310h are installed in the other indoor space S 'separated by the partition P, so that both the bottom surface and the sidewall of the indoor space S' can be efficiently photographed. I made it.

참고로, 카메라(310)와 벽면 간에 고정은 팬틸트(Pan/Tilt) 방식의 고정수단에 의해 이루어지며, 이를 통해 카메라(310)는 다양한 촬영각으로 실내공간(S, S')을 촬영할 수 있다.For reference, the fixing between the camera 310 and the wall surface is made by a pan / tilt fixing means, through which the camera 310 can photograph the indoor spaces S and S 'at various shooting angles. have.

카메라(310)를 고정하는 팬틸트의 구조는 전술한 바 있으므로 여기서는 그 설명을 생략한다.Since the structure of the pan tilt fixing the camera 310 has been described above, the description thereof is omitted here.

계속해서, 본 실시의 실내공간 이미지 생성방법은 이미지 수집모듈(130)이 카메라(310)가 촬영한 이미지 내에 특정 대상을 타겟으로 잡아서 기준이미지로 분류할 수 있다. 그러나, 실내공간(S, S')에 대한 카메라(310)의 촬영각과 기타 위치 등을 파악하기 위해서, 기준이미지의 본 실시는 실내공간(S, S')의 바닥면에 기준점(SP)을 잡고, 기준점(SP)에 기준대(B)를 설치한다. 여기서 기준대(B)의 높이(H)는 사전에 측정해서 기준정보에 포함시키고, 카메라(310)와 기준대(B) 간의 수평거리(D) 또한 상기 기준정보에 포함시킨다. 참고로, 본 실시는 기준점(SP)의 위치를 영상이미지 정합을 고려해서 다수의 카메라(310)와 동일한 수평거리가 되는 위치에 배치했으나, 이에 한정하는 것은 아니다.Subsequently, in the indoor space image generation method of the present embodiment, the image collection module 130 may classify the target object into a reference image in the image captured by the camera 310 as a target image. However, in order to grasp the shooting angle and other positions of the camera 310 with respect to the indoor spaces S and S ', the present embodiment of the reference image has a reference point SP on the bottom surface of the indoor spaces S and S'. The reference table B at the reference point SP. The height H of the reference table B is measured in advance and included in the reference information, and the horizontal distance D between the camera 310 and the reference table B is also included in the reference information. For reference, in the present embodiment, the position of the reference point SP is disposed at the same horizontal distance as that of the plurality of cameras 310 in consideration of image image registration, but is not limited thereto.

전술한 대로 기준대(B)의 설치와 기타 기준정보가 모두 수집되면, 카메라(310)는 다양한 촬영각으로 이동하면서 스트리밍 방식으로 실내공간(S, S')을 연속 촬영하고, 이미지 수집모듈(130)은 도 8과 같은 실내공간의 촬영 이미지인 수집이미지를 생성한다.As described above, when both the installation of the reference table (B) and other reference information are collected, the camera 310 continuously shoots the indoor spaces (S, S ') in a streaming manner while moving at various shooting angles, and the image collection module ( 130 generates a collection image that is a captured image of the indoor space as shown in FIG.

도 8에서 확인할 수 있듯이 상기 수집이미지는 카메라(310)의 촬영각에 따라 실내공간(S)과 기준대(B)의 위치가 달라지고, 아울러 높이도 달라진다. 따라서 기준이미지에 위치하는 기준대(B)의 위치와 높이(H)에 따라 카메라(310)의 촬영각을 확인하고 이를 기준값으로 세팅한다.As can be seen in FIG. 8, the collected images have different positions of the indoor space S and the reference table B according to the photographing angle of the camera 310, and also have different heights. Therefore, the photographing angle of the camera 310 is checked according to the position and the height H of the reference table B positioned in the reference image and set as the reference value.

더 나아가 센싱값 처리모듈(150)은, 카메라(310)의 촬영각을 따라 이동하며 임의의 타겟과의 거리를 측정하는 센서(500)로부터 거리측정정보를 수집하고, 수집정보DB(110)에 저장된 해당 기준이미지와 영상이미지 별로 링크되도록 포맷팅해서 상기 수집정보DB(110)에 저장한다. 즉, 이미지 수집모듈(130)가 수집한 기준이미지에서 임의의 타겟을 지정하고, 상기 타겟과 해당 카메라(310) 간에 거리측정정보를 센서(500)를 통해 수집해서 기준이미지에 링크되도록 포맷팅하는 것이다. 이는 후술하는 SIFT 알고리즘을 적용할 때 활용된다.Furthermore, the sensing value processing module 150 collects distance measurement information from the sensor 500 moving along the photographing angle of the camera 310 and measuring a distance to an arbitrary target, and collecting the distance measurement information to the collection information DB 110. It is formatted to be linked to each stored reference image and video image and stored in the collection information DB 110. That is, the image collection module 130 designates an arbitrary target in the collected reference image, and formats the distance measurement information between the target and the corresponding camera 310 through the sensor 500 and links the reference image. . This is used when applying the SIFT algorithm described later.

S20; 영상이미지 수집 단계S20; Image Acquisition Step

카메라(131)가 실내공간(S, S')을 기준이미지 수집 단계(S10)에서의 해당 촬영각에 따라 촬영해서 영상이미지를 수집한다. 이때, 기준대(B)는 실내공간(S, S')에서 철거된 상태이고, 카메라(131)는 실내공간(S, S')만을 기준이미지 수집 단계에서 진행된 촬영각에 따라 정확히 촬영한다.The camera 131 photographs the indoor spaces S and S 'according to the corresponding photographing angle in the reference image collecting step S10 to collect image images. In this case, the reference table B is removed from the indoor spaces S and S ', and the camera 131 accurately photographs only the indoor spaces S and S' according to the photographing angles performed in the reference image collection step.

이미지 수집모듈(130)은 카메라(310)가 촬영한 영상이미지를 수집정보DB(110)에 저장한다.The image collection module 130 stores the video image photographed by the camera 310 in the collection information DB 110.

S30; 영상이미지 보정 단계S30; Image Image Correction Step

영상정합 처리모듈(140)은 영상이미지 수집 단계(S20)에서 수집한 영상이미지를 기준이미지와 비교하는 단계와, 상기 영상이미지가 해당 기준이미지와 불일치한 것으로 확인되면 영상정합 처리모듈(140)은 불일치한 영상이미지의 촬영각 정보를 기준이미지의 촬영각에 맞춰 보정한다.The image matching processing module 140 compares the image image collected in the image image collecting step S20 with the reference image, and when the image image is found to be inconsistent with the reference image, the image matching processing module 140 Correct the shooting angle information of the mismatched video image according to the shooting angle of the reference image.

이를 좀 더 구체적으로 설명하면, 카메라(310)는 수집이미지와 영상이미지를 동일한 촬영각으로 촬영해 수집하므로, 상기 수집이미지와 영상이미지는 실내공간(S, S')에서 동일한 구간을 촬영해야 한다. 하지만, 카메라(310)를 지지하는 팬틸트의 일 구성인 제1행거(320)와 제2행거(340)와 제1구동모터(330)와 제2구동모터(350)는 구동 과정에서 오차가 발생할 수 있다. 따라서 동일한 촬영각으로 촬영이 이루어져도 실제 촬영된 수집이미지와 영상이미지는 다소 차이가 발생한다.More specifically, since the camera 310 captures and collects the collected image and the image image at the same shooting angle, the collected image and the image image should capture the same section in the indoor space (S, S '). . However, the first hanger 320, the second hanger 340, the first drive motor 330, and the second drive motor 350, which are components of the pan tilt supporting the camera 310, have an error in the driving process. May occur. Therefore, even if the shooting is taken at the same shooting angle, the actual collected image and the image image is somewhat different.

따라서 영상정합 처리모듈(140)은 동일한 촬영각의 수집이미지와 영상이미지를 서로 비교해서 오차 여부를 파악하고, 오차가 확인되면 해당 영상이미지의 촬영격 정보를 수집이미지의 촬영각 정보로 조정한다.Therefore, the image matching processing module 140 compares the collected images and the image images of the same photographing angle with each other to determine whether there is an error, and when the error is confirmed, adjusts the photographing price information of the corresponding image image to the photographing angle information of the collected image.

영상정합 처리모듈(140)은 보정이 완료된 영상이미지를 수집정보DB(110)에 저장한다.The image matching processing module 140 stores the corrected video image in the collection information DB 110.

도 9는 상기 촬영각에 따른 실내공간의 교차 구간을 확인해서 정합 대상 영상이미지를 분류하는 모습을 개략적으로 도시한 도면이고, 도 10은 본 발명에 따른 실내공간 이미지 생성방법에 따라 정합된 영상이미지를 실내공간 이미지로 생성하는 모습을 개략적으로 도시한 도면이고, 도 11은 본 발명에 따른 실내공간 이미지 생성방법에 따라 정합되어 완성된 실내공간 이미지의 일예를 보인 이미지이다.FIG. 9 is a diagram schematically illustrating a classification of matched target image images by checking the cross section of the indoor space according to the photographing angle, and FIG. 10 is a matched image image according to the indoor space image generation method according to the present invention. Is a view schematically showing a state of generating an indoor space image, and FIG. 11 is an image showing an example of an indoor space image that is matched and completed according to the indoor space image generating method according to the present invention.

S40; 영상이미지 정합 단계S40; Image Matching Step

영상정합 처리모듈(140)이 영상이미지를 분석하고 SIFT 알고리즘에 따라 영상이미지 내에 구간별로 SIFT 디스크립터 데이터를 설정해서 수집정보DB(110)에 저장하는 단계와, 영상정합 처리모듈(140)이 서로 이웃하는 영상이미지의 교차구간을 상기 SIFT 디스크립터 데이터를 기초로 매칭해서 실내공간 이미지를 생성하는 단계로 구성된다.The image matching processing module 140 analyzes the image image and sets the SIFT descriptor data for each section in the image image according to the SIFT algorithm and stores it in the collection information DB 110, and the image matching processing module 140 neighbors each other. And generating an indoor space image by matching the cross section of the video image based on the SIFT descriptor data.

영상정합에 대해 좀 더 구체적으로 설명하면, 다수의 카메라(310)가 도 9의 (a)도면 및 (b)도면과 같이 다양한 촬영각으로 실내공간(S, S')을 촬영하므로, 데이터 처리모듈(220)의 제어에 따라 영상정합 처리모듈(140)은 수많은 영상이미지1,2에서 특정 구간(R1, R1', R2, R2')만을 선출하여 이웃하는 영상이미지1,2끼리 연결하는 프로세싱을 진행해야 한다.More specifically, the image registration will be described. Since the plurality of cameras 310 photograph the indoor spaces S and S 'at various photographing angles as shown in FIGS. 9A and 9B, data processing is performed. Under the control of the module 220, the image matching processing module 140 selects only a specific section R1, R1 ′, R2, R2 ′ from numerous video images 1, 2, and connects neighboring video images 1, 2 with each other. Should proceed.

이를 위해 영상정합 처리모듈(140)은 해당 촬영각이 링크된 영상이미지1,2를 분석해서, 서로 이웃하는 촬영각에서 기준이 되는 구간을 찾아 연결하며 정합하는 기능이 요구된다. 이러한 정합을 위해서는 영상이미지1,2에 정합 기준이 될 수 있는 특정 타겟이 필요하고, 영상정합 처리모듈(140)은 상기 특정 타겟의 이미지를 확인해서 영상이미지1,2들을 서로 정합하고 편집한다.To this end, the image matching processing module 140 analyzes the image images 1 and 2 linked to the corresponding photographing angles, and finds and connects a section that is a reference in neighboring photographing angles. For this registration, a specific target that can be a matching reference is required for the image images 1 and 2, and the image matching processing module 140 checks the image of the specific target and matches and edits the image images 1 and 2 with each other.

본 실시의 영상정합 처리모듈(140)은 SIFT 알고리즘을 기반으로 영상이미지1,2를 분석해서 특정 타겟을 분류하고 설정한다.The image matching processing module 140 of the present embodiment classifies and sets specific targets by analyzing the image images 1 and 2 based on the SIFT algorithm.

상기 SIFT 알고리즘의 SIFT는 Scale-Invariant Feature Transform의 약자로, 다수의 영상이미지를 서로 정합하기 위한 기본 솔루션이다. 영상정합 처리모듈(140)은 상기 SIFT 알고리즘에 따라 타겟이 될 수 있는 구간(R1, R1', R2, R2')에서 Extrema localization 과정인 3D Interpolation을 통해 특징점의 위치 픽셀값과 거리측정정보 등을 기초로 파악한다.SIFT of the SIFT algorithm is an abbreviation of Scale-Invariant Feature Transform and is a basic solution for matching a plurality of video images to each other. The image matching processing module 140 performs the location pixel value and the distance measurement information of the feature point through 3D interpolation, which is an Extrema localization process, in the sections R1, R1 ', R2, and R2' that can be targeted according to the SIFT algorithm. Figure out the basics.

본 실시에서 타겟은 실내공간의 벽면(W1, W2)에 붙은 액자의 일부 또는 전체와 주변 영역일 수도 있고, 장식장에 진열된 인테리어 장식품의 일부 또는 전체와 주변 영역일 수도 있으며, 기타 전자 제품 등 독특한 외형을 갖는 물체의 일부 또는 전체와 주변 영역일 수 있다.In the present embodiment, the target may be a part or the whole and the surrounding area of the frame attached to the wall surfaces W1 and W2 of the indoor space, a part or the whole and the surrounding area of the interior decoration displayed on the cabinet, or other unique electronic products. It may be a part or whole of the object having an appearance and the surrounding area.

계속해서, 영상정합 처리모듈(140)은 상기 물체의 이미지에서 국소적으로 튀는 부분을 찾는다(Scale-space extrema detection). 즉, 영상이미지1,2에서 특징적인 부분(도드라지게 나타나는 부분)을 찾는 것인데, 상기 부분이 물체의 특징점으로 분류된다.Subsequently, the image matching processing module 140 searches for a locally splashing portion in the image of the object (Scale-space extrema detection). In other words, it is to find the characteristic part (the part appearing prominently) in the image image 1, 2, which is classified as the feature point of the object.

계속해서 영상정합 처리모듈(140)은 앞서 확인된 특징점들 중에서 신뢰도 있는 최종 특징점인 키 포인트를 선별한다. 이를 위해 영상정합 처리모듈(140)은 해당 특징점들의 픽셀값(Intensity), 상기 특징점들 중 물체의 코너에 해당하는 위치나 크기 등을 기준으로 최종 특징점을 우선 선별해서 해당 영상이미지1,2의 키 포인트로 설정한다.Subsequently, the image matching processing module 140 selects a key point that is a reliable final feature point among the feature points identified above. To this end, the image matching processing module 140 first selects the final feature point based on the pixel value (Intensity) of the corresponding feature points, the position or size of the corner of the object among the feature points, and then selects the keys of the corresponding image images 1 and 2. Set to point.

계속해서, 영상정합 처리모듈(140)은 상기 키 포인트의 주변 영역에 대해 경사도를 구해서, 전체적으로 볼 때 상기 주변 영역의 픽셀값들이 가리키는 방향을 구한다. 즉, 상기 키 포인트로 설정된 특징점은 해당 물체 이미지의 코너에 해당하므로, 상기 특징점의 주변에는 하나 이상의 변 이미지가 포함되고, 상기 변 이미지의 픽셀값들은 해당 키 포인트의 픽셀을 향해 형성되는 것이다.Subsequently, the image matching processing module 140 obtains the inclination of the peripheral area of the key point and obtains the direction indicated by the pixel values of the peripheral area as a whole. That is, since the feature point set as the key point corresponds to a corner of the object image, one or more side images are included in the periphery of the feature point, and pixel values of the side image are formed toward pixels of the key point.

이후, 영상정합 처리모듈(140)은 상기 주변 영역의 구성 픽셀 방향이 0도가 되도록 회전해서, 상기 주변 영역에 해당하는 부분을 SIFT 디스크립터 데이터로 설정하고 수집정보DB(110)에 저장한다. 이를 통해 영상이미지1,2에는 하나 이상의 SIFT 디스크립터 데이터가 구성된다. 따라서 촬영각에 따라 영상이미지1,2 모습에 변화가 있더라도 영상정합 처리모듈(140)은 SIFT 디스크립터 데이터로 설정된 상기 주변 영역에 대해 동일한 구간으로 인식하게 된다.Thereafter, the image matching processing module 140 rotates the pixel direction of the peripheral area to 0 degrees, sets the part corresponding to the peripheral area as SIFT descriptor data and stores it in the collection information DB 110. As a result, one or more SIFT descriptor data are configured in the image images 1 and 2. Therefore, even if there is a change in the appearance of the image images 1 and 2 according to the shooting angle, the image matching processing module 140 recognizes the surrounding area set as SIFT descriptor data as the same section.

참고로, SIFT 디스크립터 데이터는 키 포인트의 주변 영역의 픽셀값들이 포함되고, 상기 키 포인트를 기준으로 주변 영역의 픽셀값들의 방향정보에 기반한 히스토그램 정보도 포함된다. 그러므로, 상기 SIFT 디스크립터 데이터는 영상정합 처리모듈(140)이, 도 9의 (c)도면과 같이 촬영각에 따라 변경된 영상이미지1,2에서 동일한 구간(RC1, RC2)을 나타내는 타겟을 식별하고, 서로 이웃하는 영상이미지1,2를 정확히 정합할 수 있도록 한다. 일반적으로 SIFT 알고리즘에서 추천되는 Histogram Dimension은 128-dimension이므로, 카메라(310)의 촬영가에 상관 없이 동일한 구간(RC1, RC2)을 포함하는 영상이미지1,2는, 영상정합 처리모듈(140)에 의해 상기 동일한 구간(RC1, RC2)을 정확히 추출해서, 도 9의 (c)도면과 같이 서로 이웃하는 영상이미지1,2에서 서로 공유하는 상기 SIFT 디스크립터 데이터를 기초로 영상이미지1,2를 매칭하고, 도 10과 같이 해당하는 영상이미지1,2 내에 벽면(W1, W2) 또는 기타 필요한 구간들을 서로 조합해서 실내공간 이미지(F)를 생성한다.For reference, SIFT descriptor data includes pixel values of a peripheral area of a key point, and histogram information based on direction information of pixel values of a peripheral area based on the key point. Therefore, the SIFT descriptor data identifies, by the image matching processing module 140, targets representing the same sections RC1 and RC2 in the image images 1 and 2 changed according to the photographing angle as shown in FIG. 9C. It is possible to accurately match neighboring video images 1 and 2. In general, since the Histogram Dimension recommended in the SIFT algorithm is 128-dimension, the image images 1 and 2 including the same sections RC1 and RC2 are included by the image matching processing module 140 regardless of the photographing price of the camera 310. By extracting the same section (RC1, RC2) correctly, match the image image 1, 2 based on the SIFT descriptor data shared with each other in the image image 1, 2 adjacent to each other as shown in Fig. 9 (c), As shown in FIG. 10, the interior surface image F is generated by combining the wall surfaces W1 and W2 or other necessary sections within the corresponding image images 1 and 2.

도 11은 본 발명에 따른 실내공간 이미지 생성방법에 따라 정합되어 완성된 실내공간 이미지의 일예를 보인 이미지로서, 전술한 방법에 따른 영상이미지 조합 등을 통해 3차원의 실내공간 이미지로 완성되었다.FIG. 11 is an image showing an example of an interior space image that is matched and completed according to the indoor space image generating method according to the present invention, and has been completed as a three-dimensional indoor space image through image image combination according to the above-described method.

본 발명의 다른 실시 예는 영상정합 처리모듈(140)이 영상이미지 정합 과정에서 완성될 실내공간 이미지의 기존 템플릿 데이터를 활용할 수 있다. 이를 위해 본 실시의 실내공간정보 관리서버(100)는, 동일 실내 공간에 대한 기존 영상이미지와 템플릿 데이터를 저장하는 기존정보DB(120)를 더 포함하고; 영상정합 처리모듈(140)은, 해당 실내공간에 대한 기존 영상이미지 여부를 검색모듈(210)의 제어에 따라 기존정보DB(120)에서 검색해서 해당 템플릿 데이터를 기반으로 SIFT 알고리즘에 따라 신규 영상이미지의 매칭 프로세싱을 실행한다.In another embodiment of the present invention, the image matching processing module 140 may utilize existing template data of the indoor space image to be completed in the image image matching process. To this end, the indoor spatial information management server 100 of the present embodiment further includes an existing information DB 120 for storing existing image images and template data for the same indoor space; The image matching processing module 140 searches for the existing image image of the corresponding indoor space in the existing information DB 120 under the control of the search module 210, and based on the template data, the new image image according to the SIFT algorithm. Performs matching processing.

즉, 기존에 동일한 실내공간의 실내공간 이미지가 존재한다면, 영상정합 처리모듈(140)은 해당 실내공간 이미지의 기존 템플릿 데이터를 기존정보DB(120)에서 검색하고, 상기 템플릿 데이터를 기초로 해서 영상이미지에 대한 조합을 보다 손쉽게 할 수 있는 것이다. 여기서 상기 템플릿 데이터는 측벽의 크기와 실내공간 구조 등의 정보를 포함하므로, 영상정합 처리모듈(140)은 상기 템플릿 데이터의 구성 정보를 기반으로 영상이미지들에서 측벽의 크기를 편집하고 서로 정합해서 업데이트된 실내공간 이미지를 완성할 수 있다.That is, if an indoor space image of the same indoor space exists previously, the image matching processing module 140 searches for the existing template data of the corresponding indoor space image in the existing information DB 120, and based on the template data, the image. It is easier to combine the images. Since the template data includes information such as the size of the side wall and the interior space structure, the image matching processing module 140 edits the size of the side wall in the image images based on the configuration information of the template data, and updates them by matching each other. The interior space image can be completed.

S50; 결과파일 포맷팅 단계, S60; 실내공간 이미지 출력 단계S50; Formatting the result file, S60; Indoor image output stage

영상정합 처리모듈(140)은 전술한 과정에 따라 생성된 실내공간 이미지(F)를 포맷팅해서 수집정보DB(110)에 저장한다.The image matching processing module 140 formats and stores the indoor space image F generated according to the above-described process and stored in the collection information DB 110.

포맷팅은 영상이미지가 모두 정합되어 완성된 실내공간 이미지(F)를 서로 연결해서 지정된 포맷으로 변환하며, 이를 통해서 도 11과 같이 출력되는 실내공간 이미지(F)를 작업자가 영상 컨트롤 장치(200, 200') 또는 이용자의 단말기(400)를 수단으로 검색하고 출력시킬 수 있다.Formatting is connected to each other and the image space is completed, the interior space image (F) is connected to each other and converted into a designated format, through which the operator to control the indoor space image (F) output as shown in Figure 11 the image control device (200, 200) ') Or the user's terminal 400 can be searched and output by means.

참고로, 실내공간 이미지(F)를 포맷팅하여 하나의 독립된 데이터로 생성 및 저장할 때, 해당 실내공간(S, S')의 환경 정보를 함께 링크해서 이용자에게 제공할 수 있다. 일반적으로, 본 실시의 실내공간 이미지 생성 기술은 이용자에게 특정 실내공간(S, S')의 모습을 이미지로 제공하는데 그 목적이 있으므로, 단순히 실내공간(S, S')의 모습 뿐만 아니라 실내공간(S, S')의 환경 정보도 제공할 필요가 있다. For reference, when the indoor space image F is formatted and generated and stored as one independent data, the environment information of the corresponding indoor spaces S and S 'may be linked together and provided to the user. In general, the indoor space image generation technology of the present embodiment has a purpose to provide the user with the image of a specific indoor space (S, S '), not only the appearance of the indoor space (S, S'), but also the interior space It is also necessary to provide environmental information of (S, S ').

따라서 실내공간(S, S')의 온도와 습도와 기타 소음 상태 등을 파악할 수 있는 센서(500)를 더 구성하고, 실내공간정보 관리서버(100)는, 실내공간(S, S')의 각종 환경 정보를 센싱하는 센서(500)로부터 센싱정보를 수집해 포맷팅해서 수집정보DB(110)에 저장하는 센싱값 처리모듈(150)을 더 포함한다.Therefore, the sensor 500 is configured to detect the temperature and humidity of the indoor spaces (S, S ') and other noise conditions, and the indoor space information management server 100 is configured to determine the space of the indoor spaces (S, S'). It further includes a sensing value processing module 150 for collecting and formatting the sensing information from the sensor 500 for sensing a variety of environmental information to store in the collection information DB (110).

물론, 영상정합 처리모듈(140)은 영상이미지 정합으로 생성된 실내공간 이미지(F)에 해당 센싱정보를 링크해서, 작업자 또는 이용자가 실내공간 이미지(F)를 검색해 출력하면, 상기 센싱정보 역시 함께 검색되어 이용자에게 제공되도록 한다.Of course, the image matching processing module 140 links the sensing information to the indoor space image F generated by the image image matching, and if the worker or the user searches for and outputs the indoor space image F, the sensing information is also included. To be retrieved and provided to the user.

앞서 설명한 본 발명의 상세한 설명에서는 본 발명의 바람직한 실시 예들을 참조해 설명했지만, 해당 기술분야의 숙련된 당업자 또는 해당 기술분야에 통상의 지식을 갖는 자라면 후술될 특허청구범위에 기재된 본 발명의 사상 및 기술영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.In the detailed description of the present invention described above with reference to the preferred embodiments of the present invention, those skilled in the art or those skilled in the art having ordinary skill in the art will be described in the claims to be described later And it will be understood that various modifications and changes of the present invention can be made without departing from the scope of the art.

100; 실내공간정보 관리서버 200, 200'; 영상 컨트롤 장치
300; 카메라 장치 310; 카메라
320; 제1홀더 330; 제1구동모터
340; 제2홀더 350; 제2구동모터
B; 기준대 D; 수평거리
F; 실내공간 이미지 H; 높이
R1, R2; 구간 RC1, RC2; 동일한 구간
W1, W2; 벽면
100; Indoor spatial information management server 200, 200 '; Video control device
300; Camera device 310; camera
320; First holder 330; 1st drive motor
340; Second holder 350; 2nd drive motor
B; Baseline D; Horizontal distance
F; Indoor space image H; Height
R1, R2; Interval RC1, RC2; Same section
W1, W2; Wall panel

Claims (8)

하나 이상의 카메라 장치가 실내공간을 촬영하여 수집한 기준이미지 및 영상이미지와 SIFT 디스크립터(Descriptor) 데이터를 저장하는 수집정보DB; 상기 카메라 장치의 촬영각에 따라 실내공간을 촬영해서 기준이미지를 수집하고, 상기 카메라 장치가 실내공간을 재촬영해서 수집한 영상이미지를 기준이미지에 맞춰 세팅하여 수집정보DB에 저장하는 이미지 수집모듈; 상기 영상이미지를 분석하고 SIFT 알고리즘에 따라 영상이미지 내에 구간별로 SIFT 디스크립터 데이터를 설정해서 수집정보DB에 저장하며, 서로 이웃하는 영상이미지에서 서로 공유하는 상기 SIFT 디스크립터 데이터를 기준으로 다수의 영상이미지를 매칭해서 실내공간 이미지를 생성하고 수집정보DB에 저장하는 영상정합 처리모듈; 상기 영상정합 처리모듈의 프로세싱 상황을 모니터링하는 모니터링 모듈;을 갖춘 실내공간정보 관리서버, 및
상기 수집정보DB를 검색해서 필요 정보를 검색하는 검색모듈; 상기 이미지 수집모듈 및 영상정합 처리모듈과 모니터링 모듈의 실행을 제어하는 데이터 처리모듈; 상기 데이터 처리모듈의 제어상황 출력과 제어정보 입력을 위한 대시보드를 실행하는 공간영상 편집모듈;을 갖춘 영상 컨트롤 장치,
를 포함하는 것을 특징으로 하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템.
A collection information DB for storing reference images, video images, and SIFT descriptor data collected by capturing indoor spaces by at least one camera device; An image acquisition module for capturing an indoor space according to a photographing angle of the camera device to collect a reference image, and setting the image image collected by the camera apparatus to re-photograph the indoor space according to the reference image and storing the image in a collection information DB; Analyzing the video image and setting the SIFT descriptor data for each section in the video image according to the SIFT algorithm and storing it in the collection information DB, and matching a plurality of video images based on the SIFT descriptor data shared by neighboring video images. An image matching processing module for generating an indoor space image and storing it in a collection information DB; An indoor spatial information management server comprising: a monitoring module for monitoring a processing state of the image matching processing module;
A search module for searching for the necessary information by searching the collection information DB; A data processing module for controlling execution of the image collection module, the image registration processing module, and the monitoring module; And a spatial image editing module executing a dashboard for outputting control status and inputting control information of the data processing module.
3D indoor space image automatic generation system based on the image image information cloud, characterized in that it comprises a.
제 1 항에 있어서,
상기 실내공간정보 관리서버는, 동일 실내 공간에 대한 기존 영상이미지와 템플릿 데이터를 저장하는 기존정보DB를 더 포함하고;
상기 영상정합 처리모듈은, 해당 실내공간에 대한 기존 영상이미지 여부를 상기 기존정보DB에서 검색하고, 검색된 상기 기존 영상이미지의 템플릿 데이터를 기반으로 SIFT 알고리즘에 따라 신규 영상이미지의 매칭 프로세싱을 실행하는 것;
을 특징으로 하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템.
The method of claim 1,
The indoor spatial information management server further includes an existing information DB for storing the existing video image and template data for the same indoor space;
The image matching processing module may search for the existing image image of the corresponding indoor space in the existing information DB, and perform matching processing of the new image image according to the SIFT algorithm based on the template data of the retrieved existing image image. ;
Video image information cloud-based 3D indoor space image automatic generation system characterized in that the.
제 1 항에 있어서,
상기 카메라 장치는, 카메라와, 상기 카메라를 회전 가능하게 지지하는 제1행거와, 상기 제1행거에서 카메라가 회전하도록 구동하는 제1구동모터와, 상기 제1행거를 회전 가능하게 지지하는 제2행거와, 상기 제2행거에서 제1행거가 회전하도록 구동하는 제2구동모터와, 상기 카메라와 제1행거의 회전각을 각각 센싱하는 회전각센서를 포함한 것;
을 특징으로 하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템.
The method of claim 1,
The camera device includes a camera, a first hanger rotatably supporting the camera, a first drive motor driving the camera to rotate in the first hanger, and a second hanger rotatably supporting the first hanger. A hanger, a second driving motor for driving the first hanger to rotate in the second hanger, and a rotation angle sensor for sensing rotation angles of the camera and the first hanger, respectively;
Video image information cloud-based 3D indoor space image automatic generation system characterized in that the.
제 3 항에 있어서,
상기 카메라 장치는, 상기 카메라와 제1구동모터와 제2구동모터와 회전각센서 중 선택된 하나 이상의 동작 제어를 위해서 조작신호에 따라 해당하는 제어신호를 발신하는 리모컨을 더 포함하는 것;
을 특징으로 하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템.
The method of claim 3, wherein
The camera device further comprises a remote controller for transmitting a corresponding control signal according to an operation signal for controlling at least one operation selected from the camera, the first driving motor, the second driving motor and the rotation angle sensor;
Video image information cloud-based 3D indoor space image automatic generation system characterized in that the.
제 1 항에 있어서,
상기 실내공간정보 관리서버는, 상기 수집정보DB에 저장된 데이터들의 검색과 출력을 위한 웹페이지를 생성 및 실행하는 웹페이지 처리모듈을 더 포함하고;
상기 컨트롤 장치는 실내공간정보 관리서버와 온라인 네트워크 통신 체계에 따라 통신하는 것;
을 특징으로 하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템.
The method of claim 1,
The indoor spatial information management server further includes a web page processing module for generating and executing a web page for searching and outputting data stored in the collection information DB;
The control device communicating with an indoor spatial information management server according to an online network communication scheme;
Video image information cloud-based 3D indoor space image automatic generation system characterized in that the.
제 1 항에 있어서,
상기 실내공간정보 관리서버는, 상기 실내공간의 각종 환경 정보를 센싱하는 센서로부터 센싱정보를 수집해 포맷팅해서 수집정보DB에 저장하는 센싱값 처리모듈을 더 포함하고;
상기 영상정합 처리모듈은, 영상이미지 정합으로 생성된 상기 실내공간 이미지에 해당하는 센싱정보를 링크하는 것;
을 특징으로 하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템.
The method of claim 1,
The indoor spatial information management server further includes a sensing value processing module for collecting and formatting sensing information from a sensor for sensing various environmental information of the indoor space and storing the information in a collection information DB;
The image matching processing module may include: linking sensing information corresponding to the indoor spatial image generated by image image matching;
Video image information cloud-based 3D indoor space image automatic generation system characterized in that the.
제 1 항에 있어서,
상기 실내공간정보 관리서버는, 상기 카메라의 촬영각을 따라 이동하며 임의의 타겟과의 거리를 측정하는 센서로부터 거리측정정보를 수집하고, 해당하는 기준이미지와 영상이미지 별로 링크되도록 포맷팅해서 상기 수집정보DB에 저장하는 센싱값 처리모듈을 더 포함하고;
상기 영상정합 처리모듈은, 상기 카메라의 위치별 촬영각에 따른 실내공간의 영상이미지를 거리측정정보를 기준으로 기준이미지에 맞춰 세팅하는 것;
을 특징으로 하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성시스템.
The method of claim 1,
The indoor spatial information management server collects distance measurement information from a sensor measuring a distance to an arbitrary target and moving along the photographing angle of the camera, and formatting the link information by linking the corresponding reference image and image image. It further comprises a sensing value processing module for storing in the DB;
The image matching processing module may be configured to set an image image of an indoor space according to a photographing angle of each camera position according to a reference image based on distance measurement information;
Video image information cloud-based 3D indoor space image automatic generation system characterized in that the.
실내공간에 하나 이상 설치된 카메라가 다양한 촬영각으로 상기 실내공간을 촬영하는 단계와, 이미지 수집모듈이 상기 카메라가 촬영하여 수집한 기준이미지를 수집정보DB에 저장하는 단계로 구성된 기준이미지 수집 단계;
상기 카메라가 실내공간을 기준이미지 수집 단계에서의 해당 촬영각에 따라 촬영해서 영상이미지를 수집하는 영상이미지 수집 단계;
상기 영상이미지 수집 단계에서 수집한 영상이미지를 영상정합 처리모듈이 기준이미지와 비교하는 단계와, 상기 영상이미지가 해당 기준이미지와 불일치한 것으로 확인되면 불일치한 영상이미지의 촬영각 정보를 상기 영상정합 처리모듈이 기준이미지의 촬영각에 맞춰 보정하는 영상이미지 보정 단계;
상기 영상정합 처리모듈이 영상이미지를 분석하고 SIFT 알고리즘에 따라 영상이미지 내에 구간별로 SIFT 디스크립터 데이터를 설정해서 수집정보DB에 저장하는 단계와, 상기 영상정합 처리모듈이 서로 이웃하는 영상이미지에서 서로 공유하는 상기 SIFT 디스크립터 데이터를 기준으로 영상이미지를 매칭해서 실내공간 이미지를 생성하는 단계로 구성된 영상이미지 정합 단계; 및
상기 실내공간 이미지를 포맷팅해서 수집정보DB에 저장하는 결과파일 포맷팅 단계;
를 포함하는 것을 특징으로 하는 영상이미지 정보 클라우드 기반의 3D 실내공간 이미지 자동 생성방법.
A reference image collecting step comprising: photographing the indoor space at various shooting angles by at least one camera installed in the indoor space; and storing, by the image collecting module, a reference image collected by the camera in a collection information DB;
An image image collecting step of collecting image images by the camera capturing an indoor space according to a corresponding photographing angle in the reference image collecting step;
Comparing the image image collected in the image image collecting step with the reference image by the image matching processing module; and when the image image is determined to be inconsistent with the reference image, the image matching processing of the photographing angle information of the mismatched image image. A video image correction step of correcting the module according to the photographing angle of the reference image;
The image matching processing module analyzes the image image and sets the SIFT descriptor data for each section in the image image according to the SIFT algorithm and stores it in the collection information DB, and the image matching processing module is shared with each other in the neighboring image image An image image matching step comprising generating an indoor space image by matching the image image based on the SIFT descriptor data; And
A result file formatting step of formatting the indoor spatial image and storing it in a collection information DB;
3D indoor space image automatic generation method based on the image image information cloud, characterized in that it comprises a.
KR1020180058214A 2018-05-23 2018-05-23 Auto producting system and method for 3d interior space image based on the information of reflrction image cloud KR102080702B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180058214A KR102080702B1 (en) 2018-05-23 2018-05-23 Auto producting system and method for 3d interior space image based on the information of reflrction image cloud

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180058214A KR102080702B1 (en) 2018-05-23 2018-05-23 Auto producting system and method for 3d interior space image based on the information of reflrction image cloud

Publications (2)

Publication Number Publication Date
KR20190133373A true KR20190133373A (en) 2019-12-03
KR102080702B1 KR102080702B1 (en) 2020-02-24

Family

ID=68837877

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180058214A KR102080702B1 (en) 2018-05-23 2018-05-23 Auto producting system and method for 3d interior space image based on the information of reflrction image cloud

Country Status (1)

Country Link
KR (1) KR102080702B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111836007A (en) * 2020-05-20 2020-10-27 物联神州网络股份有限公司 Video intelligent environment monitoring equipment based on android system and online monitoring method
KR20210078096A (en) * 2019-12-18 2021-06-28 (주)신한항업 Service Method And System Of 3D Indoor Space With Improved Practical Use

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101214584B1 (en) * 2012-08-30 2012-12-24 (주) 한양지에스티 Picture processing system updating the image installed the data
KR20130123041A (en) 2012-05-02 2013-11-12 현대엠엔소프트 주식회사 Method of automatic generation of indoor map utilizing the ridar equipment
KR101502871B1 (en) * 2014-09-29 2015-03-18 (주)아세아항측 System for adjusting reflection image correcting the error image
KR20170143439A (en) * 2016-06-21 2017-12-29 건국대학교 산학협력단 Big data system connecting apparatus and method for constructing 3d spatial information
KR20180036098A (en) * 2016-09-30 2018-04-09 주식회사 유브이알 Server and method of 3-dimension modeling for offerings image

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130123041A (en) 2012-05-02 2013-11-12 현대엠엔소프트 주식회사 Method of automatic generation of indoor map utilizing the ridar equipment
KR101214584B1 (en) * 2012-08-30 2012-12-24 (주) 한양지에스티 Picture processing system updating the image installed the data
KR101502871B1 (en) * 2014-09-29 2015-03-18 (주)아세아항측 System for adjusting reflection image correcting the error image
KR20170143439A (en) * 2016-06-21 2017-12-29 건국대학교 산학협력단 Big data system connecting apparatus and method for constructing 3d spatial information
KR20180036098A (en) * 2016-09-30 2018-04-09 주식회사 유브이알 Server and method of 3-dimension modeling for offerings image

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210078096A (en) * 2019-12-18 2021-06-28 (주)신한항업 Service Method And System Of 3D Indoor Space With Improved Practical Use
CN111836007A (en) * 2020-05-20 2020-10-27 物联神州网络股份有限公司 Video intelligent environment monitoring equipment based on android system and online monitoring method

Also Published As

Publication number Publication date
KR102080702B1 (en) 2020-02-24

Similar Documents

Publication Publication Date Title
EP2583449B1 (en) Mobile and server-side computational photography
JP4448024B2 (en) Remote operation robot and robot self-position identification method
JP6632232B2 (en) Method for cleaning or treating a room with a free-standing mobile device and a free-standing mobile device
KR101558467B1 (en) System for revising coordinate in the numerical map according to gps receiver
JP5580164B2 (en) Optical information processing apparatus, optical information processing method, optical information processing system, and optical information processing program
EP1610090A2 (en) Method for associating stereo images and three-dimensional data preparation system
US10506151B2 (en) Information acquisition apparatus
CN109657576B (en) Image acquisition control method, device, storage medium and system
KR101564410B1 (en) Image processing method for correcting the linking information of section in the image
JP2022501684A (en) Shooting-based 3D modeling systems and methods, automated 3D modeling equipment and methods
KR102193974B1 (en) Method And System For Making 3D Indoor Space
WO2021035891A1 (en) Augmented reality technology-based projection method and projection device
KR102080702B1 (en) Auto producting system and method for 3d interior space image based on the information of reflrction image cloud
CN106034202A (en) Adjusting method and adjusting device for video splicing camera
KR20120033414A (en) Robot for operating recognition of self-position and operation method thereof
KR101936324B1 (en) multi-angle photographing apparatus and method
US20200412949A1 (en) Device, system, and method for capturing and processing data from a space
EP2469467A1 (en) An integrated method for camera planning and positioning
WO2020153264A1 (en) Calibration method and calibration device
CN110191284B (en) Method and device for collecting data of house, electronic equipment and storage medium
JP7097207B2 (en) Building management system, learning device, position determination device, and position determination method
EP2477156A1 (en) An integrated method for camera planning and positioning
JP2019105876A (en) Information processing apparatus, information processing method and information processing program
US20210074022A1 (en) Camera setting assist system and camera setting assist method
KR102193975B1 (en) Method And System For Providing 3D Indoor Space

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant