KR20210009198A - Method and Apparatus for Generating Point Cloud Using Feature of Object Acquired from Image - Google Patents

Method and Apparatus for Generating Point Cloud Using Feature of Object Acquired from Image Download PDF

Info

Publication number
KR20210009198A
KR20210009198A KR1020190085929A KR20190085929A KR20210009198A KR 20210009198 A KR20210009198 A KR 20210009198A KR 1020190085929 A KR1020190085929 A KR 1020190085929A KR 20190085929 A KR20190085929 A KR 20190085929A KR 20210009198 A KR20210009198 A KR 20210009198A
Authority
KR
South Korea
Prior art keywords
point cloud
feature information
processor
points
feature
Prior art date
Application number
KR1020190085929A
Other languages
Korean (ko)
Other versions
KR102215101B1 (en
Inventor
이상훈
최성화
Original Assignee
연세대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 연세대학교 산학협력단 filed Critical 연세대학교 산학협력단
Priority to KR1020190085929A priority Critical patent/KR102215101B1/en
Publication of KR20210009198A publication Critical patent/KR20210009198A/en
Application granted granted Critical
Publication of KR102215101B1 publication Critical patent/KR102215101B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—3D [Three Dimensional] image rendering
    • G06T15/005—General purpose rendering architectures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformation in the plane of the image
    • G06T3/40—Scaling the whole image or part thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Image Analysis (AREA)

Abstract

According to the embodiments of the present invention, provided is a point cloud generation device which extracts a global feature and a local feature of an object from a single image, mixes the same with a random point cloud, and transforms a point cloud in consideration of internal connectivity of a point, thereby having an arbitrary size and being expressed in a clear shape.

Description

이미지로부터 획득한 객체의 특징을 이용한 포인트 클라우드 생성 장치 및 방법 {Method and Apparatus for Generating Point Cloud Using Feature of Object Acquired from Image}Point Cloud Generation Device and Method Using Feature of Object Acquired from Image {Method and Apparatus for Generating Point Cloud Using Feature of Object Acquired from Image}

본 발명이 속하는 기술 분야는 단일 이미지로부터 획득한 객체의 특징을 이용하여 포인트 클라우드를 생성하는 장치 및 방법에 관한 것이다.The technical field to which the present invention pertains is to an apparatus and method for generating a point cloud using features of an object acquired from a single image.

이 부분에 기술된 내용은 단순히 본 실시예에 대한 배경 정보를 제공할 뿐 종래기술을 구성하는 것은 아니다.The content described in this section merely provides background information on the present embodiment and does not constitute the prior art.

3차원 형상 추론은 로보틱스, 모델링, 그래픽 등에서 중요한 역할을 하므로 컴퓨터 비전 분야에서 중요한 기술이다. 컴퓨터는 다양한 시점에서 바라본 복수의 이미지들을 종합적으로 분석하여 관심 객체의 형상을 예측할 수 있다. 3D shape inference is an important technology in the field of computer vision because it plays an important role in robotics, modeling, and graphics. The computer can predict the shape of the object of interest by comprehensively analyzing a plurality of images viewed from various viewpoints.

사용자가 하나의 2차원 이미지를 볼 때 사용자의 경험을 통해 어느 정도 기본적인 3차원 공간을 이해할 수 있지만, 아직까지 컴퓨터가 하나의 2차원 이미지에서 3차원 형상을 추론한 결과는 사용자의 인식 수준에 미치지 못하는 실정이다. 따라서 단일 이미지로부터 3차원 모델을 재구성하는 새로운 방법이 필요하다.When a user sees a 2D image, it is possible to understand the basic 3D space to some extent through the user's experience, but the result of the computer inferring a 3D shape from a 2D image has not yet reached the level of perception of the user. It is not possible. Therefore, a new method of reconstructing a 3D model from a single image is needed.

한국공개특허공보 제10-2019-0029842호 (2019.03.21.)Korean Patent Publication No. 10-2019-0029842 (2019.03.21.)

본 발명의 실시예들은 단일 이미지로부터 객체의 전역적 특징과 지역적 특징을 추출하여 랜덤 포인트 클라우드와 혼합하고, 포인트의 내부 연결성을 고려하여 포인트 클라우드를 변형함으로써, 임의의 크기를 갖고 명확한 형상으로 표현된 포인트 클라우드를 생성하는데 주된 목적이 있다.Embodiments of the present invention extract global features and local features of an object from a single image, mix them with a random point cloud, and transform the point cloud in consideration of the internal connectivity of the points, thereby having an arbitrary size and expressed in a clear shape. The main purpose is to create a point cloud.

본 발명의 명시되지 않은 또 다른 목적들은 하기의 상세한 설명 및 그 효과로부터 용이하게 추론할 수 있는 범위 내에서 추가적으로 고려될 수 있다.Still other objects, not specified, of the present invention may be additionally considered within the range that can be easily deduced from the following detailed description and effects thereof.

본 실시예의 일 측면에 의하면, 하나 이상의 프로세서 및 상기 하나 이상의 프로세서에 의해 실행되는 하나 이상의 프로그램을 저장하는 메모리를 포함하는 포인트 클라우드 생성 장치에 있어서, 상기 프로세서는 기본 포인트 클라우드와 객체 이미지로부터 특징 정보를 추출하고, 상기 프로세서는 상기 기본 포인트 클라우드와 상기 특징 정보를 이용하여 객체 포인트 클라우드를 생성하는 것을 특징으로 하는 포인트 클라우드 생성 장치를 제공한다.According to an aspect of the present embodiment, in the point cloud generating apparatus including one or more processors and a memory for storing one or more programs executed by the one or more processors, the processor receives feature information from a basic point cloud and an object image. It extracts, and the processor provides a point cloud generation apparatus, characterized in that generating an object point cloud using the basic point cloud and the feature information.

이상에서 설명한 바와 같이 본 발명의 실시예들에 의하면, 단일 이미지로부터 객체의 전역적 특징과 지역적 특징을 추출하여 랜덤 포인트 클라우드와 혼합하고, 포인트의 내부 연결성을 고려하여 포인트 클라우드를 변형함으로써, 임의의 크기를 갖고 명확한 형상으로 표현된 포인트 클라우드를 생성할 수 있는 효과가 있다.As described above, according to embodiments of the present invention, by extracting global features and local features of an object from a single image, mixing them with a random point cloud, and transforming the point cloud in consideration of the internal connectivity of the points, arbitrary It has the effect of generating a point cloud that has a size and is expressed in a clear shape.

여기에서 명시적으로 언급되지 않은 효과라 하더라도, 본 발명의 기술적 특징에 의해 기대되는 이하의 명세서에서 기재된 효과 및 그 잠정적인 효과는 본 발명의 명세서에 기재된 것과 같이 취급된다.Even if it is an effect not explicitly mentioned herein, the effect described in the following specification expected by the technical features of the present invention and the provisional effect thereof are treated as described in the specification of the present invention.

도 1은 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치를 예시한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치의 학습 모델을 예시한 블록도이다.
도 3은 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치의 전체 동작을 예시한 도면이다.
도 4는 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치가 지역적 특징 정보를 추출하는 동작을 예시한 도면이다.
도 5는 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치가 전역적 특징 정보를 추출하는 동작을 예시한 도면이다.
도 6은 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치가 포인트 클라우드를 변형하는 동작을 예시한 도면이다.
도 7은 본 발명의 다른 실시예에 따른 포인트 클라우드 생성 방법을 예시한 흐름도이다.
도 8 및 도 9는 본 발명의 실시예들에 따른 시뮬레이션 결과를 예시한 도면이다.1 is a block diagram illustrating an apparatus for generating a point cloud according to an embodiment of the present invention.
2 is a block diagram illustrating a learning model of an apparatus for generating a point cloud according to an embodiment of the present invention.
3 is a diagram illustrating the overall operation of the point cloud generating apparatus according to an embodiment of the present invention.
4 is a diagram illustrating an operation of extracting regional feature information by a point cloud generating apparatus according to an embodiment of the present invention.
5 is a diagram illustrating an operation of extracting global feature information by an apparatus for generating a point cloud according to an embodiment of the present invention.
6 is a diagram illustrating an operation of transforming a point cloud by an apparatus for generating a point cloud according to an embodiment of the present invention.
7 is a flowchart illustrating a method of generating a point cloud according to another embodiment of the present invention.
8 and 9 are diagrams illustrating simulation results according to embodiments of the present invention.

이하, 본 발명을 설명함에 있어서 관련된 공지기능에 대하여 이 분야의 기술자에게 자명한 사항으로서 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하고, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다.Hereinafter, in describing the present invention, when it is determined that the subject matter of the present invention may be unnecessarily obscured as matters apparent to those skilled in the art with respect to known functions related to the present invention, a detailed description thereof is omitted, and some embodiments of the present invention It will be described in detail through exemplary drawings.

도 1은 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치를 예시한 블록도이다.1 is a block diagram illustrating an apparatus for generating a point cloud according to an embodiment of the present invention.

포인트 클라우드 생성 장치(110)는 이미지에 존재하는 객체를 포인트 클라우드로 변환하는 장치이다. 포인트 클라우드 생성 장치(110)는 단일 이미지를 입력받고 랜덤으로 생성된 포인트 클라우드를 변형하는 모델을 포함한다. 포인트 클라우드 생성 장치(110)는 이미지에서 객체의 지역적 특징과 객체의 전역적 특징을 추출하고, 포인트 클라우드를 변형하여 최종 포인트 클라우드를 생성한다.The point cloud generating device 110 is a device that converts an object existing in an image into a point cloud. The point cloud generating apparatus 110 includes a model that receives a single image and transforms a randomly generated point cloud. The point cloud generating device 110 extracts the local feature of the object and the global feature of the object from the image, and transforms the point cloud to generate a final point cloud.

포인트 클라우드 생성 장치(110)는 적어도 하나의 프로세서(120), 컴퓨터 판독 가능한 저장매체(130) 및 통신 버스(170)를 포함한다. The point cloud generation device 110 includes at least one processor 120, a computer-readable storage medium 130, and a communication bus 170.

프로세서(120)는 포인트 클라우드 생성 장치(110)가 동작하도록 제어할 수 있다. 예컨대, 프로세서(120)는 컴퓨터 판독 가능한 저장 매체(130)에 저장된 하나 이상의 프로그램들을 실행할 수 있다. 하나 이상의 프로그램들은 하나 이상의 컴퓨터 실행 가능 명령어를 포함할 수 있으며, 컴퓨터 실행 가능 명령어는 프로세서(120)에 의해 실행되는 경우 포인트 클라우드 생성 장치(110)로 하여금 예시적인 실시예에 따른 동작들을 수행하도록 구성될 수 있다.The processor 120 may control the point cloud generating device 110 to operate. For example, the processor 120 may execute one or more programs stored in the computer-readable storage medium 130. One or more programs may include one or more computer-executable instructions, and when the computer-executable instructions are executed by the processor 120, the point cloud generating apparatus 110 is configured to perform operations according to an exemplary embodiment. Can be.

컴퓨터 판독 가능한 저장 매체(130)는 컴퓨터 실행 가능 명령어 내지 프로그램 코드, 프로그램 데이터 및/또는 다른 적합한 형태의 정보를 저장하도록 구성된다. 컴퓨터 판독 가능한 저장 매체(130)에 저장된 프로그램(140)은 프로세서(120)에 의해 실행 가능한 명령어의 집합을 포함한다. 일 실시예에서, 컴퓨터 판독한 가능 저장 매체(130)는 메모리(랜덤 액세스 메모리와 같은 휘발성 메모리, 비휘발성 메모리, 또는 이들의 적절한 조합), 하나 이상의 자기 디스크 저장 디바이스들, 광학 디스크 저장 디바이스들, 플래시 메모리 디바이스들, 그 밖에 포인트 클라우드 생성 장치(110)에 의해 액세스되고 원하는 정보를 저장할 수 있는 다른 형태의 저장 매체, 또는 이들의 적합한 조합일 수 있다.Computer-readable storage medium 130 is configured to store computer-executable instructions or program code, program data, and/or other suitable form of information. The program 140 stored in the computer-readable storage medium 130 includes a set of instructions executable by the processor 120. In one embodiment, the computer-readable storage medium 130 includes memory (volatile memory such as random access memory, nonvolatile memory, or a suitable combination thereof), one or more magnetic disk storage devices, optical disk storage devices, Flash memory devices, other types of storage media that can be accessed by the point cloud generating apparatus 110 and store desired information, or a suitable combination thereof.

통신 버스(170)는 프로세서(120), 컴퓨터 판독 가능한 저장 매체(140)를 포함하여 포인트 클라우드 생성 장치(110)의 다른 다양한 컴포넌트들을 상호 연결한다.The communication bus 170 interconnects various other components of the point cloud generating apparatus 110 including the processor 120 and a computer-readable storage medium 140.

포인트 클라우드 생성 장치(110)는 또한 하나 이상의 입출력 장치를 위한 인터페이스를 제공하는 하나 이상의 입출력 인터페이스(150) 및 하나 이상의 통신 인터페이스(160)를 포함할 수 있다. 입출력 인터페이스(150) 및 통신 인터페이스(160)는 통신 버스(170)에 연결된다. 입출력 장치(미도시)는 입출력 인터페이스(150)를 통해 포인트 클라우드 생성 장치(110)의 다른 컴포넌트들에 연결될 수 있다.The point cloud generating device 110 may also include one or more input/output interfaces 150 and one or more communication interfaces 160 that provide interfaces for one or more input/output devices. The input/output interface 150 and the communication interface 160 are connected to the communication bus 170. The input/output device (not shown) may be connected to other components of the point cloud generating device 110 through the input/output interface 150.

도 2는 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치의 학습 모델을 예시한 블록도이다.2 is a block diagram illustrating a learning model of an apparatus for generating a point cloud according to an embodiment of the present invention.

포인트 클라우드 생성 장치는 지역적 특징 정보 추출 모델(210), 전역적 특징 정보 추출 모델(220), 및 포인트 클라우드 변형 모델(230)을 포함한다.The point cloud generating apparatus includes a regional feature information extraction model 210, a global feature information extraction model 220, and a point cloud transformation model 230.

지역적 특징 정보 추출 모델(210)은 개별 포인트에 대한 특징 벡터를 추출한다. 지역적 특징 정보 추출 모델(210)은 객체 이미지(10)로부터 추출된 특징 맵에 기본 포인트 클라우드(20)를 투영시켜 객체의 특정 영역에 해당하는 포인트의 특징을 추출한다.The regional feature information extraction model 210 extracts feature vectors for individual points. The regional feature information extraction model 210 extracts a feature of a point corresponding to a specific area of an object by projecting the basic point cloud 20 onto the feature map extracted from the object image 10.

전역적 특징 정보 추출 모델(220)은 전체 포인트에 대한 특징 벡터를 추출한다. 전역적 특징 정보 추출 모델(220)은 객체 이미지(10)로부터 추출된 특징 맵에 분포하는 객체의 전체적인 분포를 포인트 클라우드의 특징 벡터에 정규화한다.The global feature information extraction model 220 extracts feature vectors for all points. The global feature information extraction model 220 normalizes the overall distribution of objects distributed in the feature map extracted from the object image 10 to feature vectors of the point cloud.

포인트 클라우드 변형 모델(230)은 입력된 포인트 클라우드의 특징 벡터를 혼합하는 연산을 수행한다. 포인트 클라우드 변형 모델(230)은 조합 매트릭스를 사용하여 다른 가중치를 학습하며 가중치를 혼합한다. 특징 추출 모델을 통해 포인트 클라우드의 특징 벡터를 산출하여 객체의 특징이 반영된 객체 포인트 클라우드(30)를 출력한다.The point cloud transformation model 230 performs an operation of mixing the input point cloud feature vectors. The point cloud transformation model 230 learns different weights using a combination matrix and mixes the weights. The feature vector of the point cloud is calculated through the feature extraction model, and the object point cloud 30 reflecting the features of the object is output.

도 3은 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치의 전체 동작을 예시한 도면이다.3 is a diagram illustrating the overall operation of the point cloud generating apparatus according to an embodiment of the present invention.

프로세서는 기본 포인트 클라우드와 객체 이미지로부터 특징 정보를 추출한다. 기본 포인트 클라우드는 포인트가 3차원 공간에서 랜덤하게 분포한다. 입력된 객체 이미지는 단일 이미지일 수 있다. 특징 정보는 객체에 대한 지역적 특징 정보와 전역적 특징 정보로 구분된다.The processor extracts feature information from the basic point cloud and object image. In the basic point cloud, points are randomly distributed in a three-dimensional space. The input object image may be a single image. Feature information is divided into regional feature information and global feature information about an object.

프로세서는 객체 이미지를 이미지 인코더를 이용하여 공간적 다운샘플링 및 채널 업샘플링 과정을 거쳐 다중 스케일의 2차원 특징 맵으로 변환하고, 객체에 대한 지역적 특징 정보 및 객체에 대한 전역적 특징 정보를 추출한다.The processor converts an object image into a multi-scale 2D feature map through spatial downsampling and channel upsampling using an image encoder, and extracts local feature information about the object and global feature information about the object.

이미지 인코더는 다수의 레이어가 네트워크로 연결되며 히든 레이어를 포함한다. 레이어는 파라미터를 포함할 수 있고, 레이어의 파라미터는 학습 가능한 필터 집합을 포함한다. 필터는 컨볼루션 필터를 적용할 수 있다. 파라미터는 노드 간의 가중치 및/또는 바이어스를 포함한다.The image encoder has multiple layers connected through a network and includes a hidden layer. The layer may include parameters, and the parameters of the layer include a set of learnable filters. The filter can apply a convolution filter. The parameters include weights and/or biases between nodes.

프로세서는 기본 포인트 클라우드를 다중 스케일의 2차원 특징 맵에 투영시켜 객체에 대한 지역적 특징 정보를 추출한다.The processor extracts regional feature information for an object by projecting the basic point cloud onto a multi-scale two-dimensional feature map.

프로세서는 특징 추출 모델을 통해 기본 포인트 클라우드를 다중 스케일의 특징 정보로 변환한다. 프로세서는 다중 스케일의 특징 정보에 관한 분포를 상기 다중 스케일의 2차원 특징 맵에 관한 분포로 정규화하여 상기 객체에 대한 전역적 특징 정보를 추출한다.The processor transforms the basic point cloud into multi-scale feature information through the feature extraction model. The processor normalizes the distribution of multi-scale feature information to the distribution of the multi-scale two-dimensional feature map to extract global feature information of the object.

특징 추출 모델은 다수의 레이어가 네트워크로 연결되며 히든 레이어를 포함한다. 레이어는 파라미터를 포함할 수 있고, 레이어의 파라미터는 학습 가능한 필터 집합을 포함한다. 특징 추출 모델은 풀리 커넥티드 레이어(Fully Connected Layer)를 갖는 가중치 매트릭스를 포함할 수 있다. 파라미터는 노드 간의 가중치 및/또는 바이어스를 포함한다.In the feature extraction model, a number of layers are connected through a network and include hidden layers. The layer may include parameters, and the parameters of the layer include a set of learnable filters. The feature extraction model may include a weight matrix having a fully connected layer. Parameters include weights and/or biases between nodes.

프로세서는 기본 포인트 클라우드, 지역적 특징 정보, 및 전역적 특징 정보를 이용하여 객체 포인트 클라우드를 생성한다. 프로세서는 객체에 대한 지역적 특징 정보 및 객체에 대한 전역적 특징 정보를 조합하고, 조합 매트릭스를 사용하여 전체 포인트에 대해 다른 가중치를 학습한 조합 가중치를 포인트에 적용한다.The processor creates an object point cloud using the basic point cloud, regional feature information, and global feature information. The processor combines the local feature information on the object and the global feature information on the object, and applies a combination weight obtained by learning different weights for all points using the combination matrix to the points.

본 실시예에 따른 포인트 클라우드 생성 장치는 스타일 변환 기법을 이용하여 객체의 전역적 특징을 추출하고, 출력되는 포인트의 개수를 임의의 개수로 확장이 가능하고, 포인트 간의 내부 연결성을 고려하여 포인트 클라우드를 변형한다.The point cloud generation apparatus according to the present embodiment extracts global features of an object using a style conversion technique, and can expand the number of output points to an arbitrary number, and considers the internal connectivity between points. Transform.

도 4는 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치가 지역적 특징 정보를 추출하는 동작을 예시한 도면이다.4 is a diagram illustrating an operation of extracting regional feature information by a point cloud generating apparatus according to an embodiment of the present invention.

프로세서는 지역적 특징 정보 추출 모델을 통해 기본 포인트 클라우드를 다중 스케일의 2차원 특징 맵에 투영시켜 객체에 대한 지역적 특징 정보를 추출한다. 영상장치의 성질을 이용하여 포인트의 2차원 픽셀 좌표를 산출하고, 좌표를 보간하여 특징 벡터로 샘플링한다. The processor extracts regional feature information for an object by projecting a basic point cloud onto a multi-scale two-dimensional feature map through a local feature information extraction model. The two-dimensional pixel coordinates of the point are calculated using the properties of the imaging device, and the coordinates are interpolated and sampled as feature vectors.

도 5는 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치가 전역적 특징 정보를 추출하는 동작을 예시한 도면이다.5 is a diagram illustrating an operation of extracting global feature information by a point cloud generating apparatus according to an embodiment of the present invention.

포인트 클라우드 생성 장치는 대상 이미지에 스타일 이미지를 적용하는 스타일 변환 기법을 응용할 수 있다.The point cloud generating device may apply a style conversion technique that applies a style image to a target image.

프로세서는 특징 추출 모델을 통해 기본 포인트 클라우드를 다중 스케일의 특징 정보로 변환하고, 전역적 특징 정보 추출 모델을 통해 다중 스케일의 특징 정보에 관한 분포를 다중 스케일의 2차원 특징 맵에 관한 분포로 정규화하여 객체에 대한 전역적 특징 정보를 추출한다. The processor converts the basic point cloud into multi-scale feature information through a feature extraction model, and normalizes the distribution of multi-scale feature information into a multi-scale two-dimensional feature map through the global feature information extraction model. Extracts global feature information about an object.

포인트 클라우드에 관한 다중 스케일의 특징 정보의 스케일은 이미지에 관한 다중 스케일의 2차원 특징 맵의 스케일에 매칭하도록 설정된다. 포인트 클라우드에 관한 다중 스케일의 특징 정보의 차원은 이미지에 관한 다중 스케일의 2차원 특징 맵의 채널에 매칭하도록 설정된다.The scale of the multi-scale feature information for the point cloud is set to match the scale of the multi-scale two-dimensional feature map for the image. The dimension of the multi-scale feature information for the point cloud is set to match the channel of the multi-scale two-dimensional feature map for the image.

전역적 특징 정보 추출 모델이 객체에 관한 분포와 포인트에 관한 분포를 정규화하는 과정은 수학식 1과 같이 표현된다.A process in which the global feature information extraction model normalizes the distribution of the object and the distribution of the point is expressed as Equation 1.

Figure pat00001
Figure pat00001

xi는 이미지에 관한 i번째 2차원 특징 맵이고, yi는 포인트 클라우드에 관한 i번째 특징 정보이다. μxi는 이미지에 관한 특징 맵의 평균이고, σxi는 이미지에 관한 특징 맵의 분산을 나타낸다. μyi는 포인트 클라우드에 관한 특징 정보의 평균이고, σyi는 포인트 클라우드에 관한 특징 정보의 분산이다. 평균과 분산을 제거하여 정규화할 수 있다.x i is the i-th 2D feature map for the image, and y i is the i-th feature information for the point cloud. μx i is the average of the feature maps for the image, and σx i is the variance of the feature maps for the image. μy i is the average of the feature information on the point cloud, and σy i is the variance of the feature information on the point cloud. It can be normalized by removing the mean and variance.

도 6은 본 발명의 일 실시예에 따른 포인트 클라우드 생성 장치가 포인트 클라우드를 변형하는 동작을 예시한 도면이다.6 is a diagram illustrating an operation of transforming a point cloud by an apparatus for generating a point cloud according to an embodiment of the present invention.

프로세서는 객체에 대한 지역적 특징 정보 및 객체에 대한 전역적 특징 정보를 조합하고, 조합 매트릭스를 사용하여 전체 포인트에 대해 다른 가중치를 학습한 조합 가중치를 포인트에 적용하고, 포인트를 제1 공간(F)에서 제2 공간(Fo)으로 매핑한다.The processor combines the local feature information of the object and the global feature information of the object, applies a combination weight obtained by learning different weights for all points using the combination matrix to the points, and places the points in the first space (F). Is mapped to the second space (F o ).

프로세서는 무질서한 포인트 세트에서 동작하는 그래프 컨볼루션을 수행하는 그래프 특징 추출 모델(GraphX)을 적용한다. GraphX는 풀리 커넥티드 레이어(Fully Connected Layer)를 갖는 가중치 매트릭스를 포함할 수 있다.The processor applies a graph feature extraction model (GraphX) that performs graph convolution operating on a set of disordered points. GraphX may include a weight matrix with a fully connected layer.

Figure pat00002
Figure pat00002

Figure pat00003
는 제2 공간(Fo)의 k번째 특징 벡터이다. wik는 훈련 가능한 조합 가중치이고, bk는 조합 바이어스이다. W는 레이어의 가중치고, b는 레이어의 바이어스이다. h는 비선형 활성화 함수이다.
Figure pat00003
Is the k-th feature vector of the second space (F o ). w ik is the trainable combination weight and b k is the combination bias. W is the weight of the layer, and b is the bias of the layer. h is a nonlinear activation function.

각 포인트에 대한 d x do 가중치 매트릭스를 학습한다. 포인트 간의 관련도, 즉 이웃 포인트 간의 가중치를 기반으로 학습하며, 조합 매트릭스는 전체 포인트에 대해서 학습한다.Learn the dxd o weight matrix for each point. It learns based on the degree of relationship between points, that is, weights between neighboring points, and the combination matrix is learned for all points.

도 7은 본 발명의 다른 실시예에 따른 포인트 클라우드 생성 방법을 예시한 흐름도이다. 포인트 클라우드 생성 방법은 포인트 클라우드 생성 장치에 의하여 수행될 수 있다.7 is a flowchart illustrating a method of generating a point cloud according to another embodiment of the present invention. The point cloud generation method may be performed by a point cloud generation device.

단계 S310에서 프로세서는 기본 포인트 클라우드와 객체 이미지로부터 특징 정보를 추출한다. 프로세서는 객체에 대한 지역적 특징 정보 및 객체에 대한 전역적 특징 정보를 추출한다. In step S310, the processor extracts feature information from the basic point cloud and the object image. The processor extracts local feature information about the object and global feature information about the object.

단계 S320에서 프로세서는 기본 포인트 클라우드와 특징 정보를 이용하여 객체 포인트 클라우드를 생성한다. 프로세서는 객체에 대한 지역적 특징 정보 및 객체에 대한 전역적 특징 정보를 이용하여 객체 포인트 클라우드를 생성한다.In step S320, the processor creates an object point cloud using the basic point cloud and feature information. The processor creates an object point cloud by using local feature information on the object and global feature information on the object.

도 8 및 도 9는 본 발명의 실시예들에 따른 시뮬레이션 결과를 예시한 도면이다. 8 and 9 are diagrams illustrating simulation results according to embodiments of the present invention.

도 8을 참조하면, 단일 이미지로부터 기존의 포인트 세트 생성 네트워크(PSG) 방식으로 생성한 포인트와 본 실시예에 따른 포인트 클라우드 생성 장치가 생성한 포인트가 예시되어 있다. 본 실시예에 따른 포인트 클라우드 생성 장치가 생성한 포인트들은 이미지에 존재하는 객체의 형상을 명확하게 표현할 수 있다.Referring to FIG. 8, points generated from a single image using a conventional point set generating network (PSG) method and points generated by the point cloud generating apparatus according to the present embodiment are illustrated. The points generated by the point cloud generating apparatus according to the present embodiment may clearly express the shape of an object existing in the image.

도 9를 참조하면, 포인트의 개수에 따라 최종적으로 출력된 객체 포인트 클라우드가 밀집된 것을 확인할 수 있다. 포인트 클라우드 생성 장치는 생성한 랜덤 포인트 클라우드의 개수를 증가시켜 포인트들을 밀집시킨다. 포인트 클라우드 생성 장치는 다수의 랜덤 포인트 클라우드 집합을 합쳐서 기본 포인트 클라우드를 생성한다. 랜덤 포인트 클라우드 집합을 모델에 적용함으로써, 사이즈의 한계없이 임의의 사이즈를 갖는 객체 포인트 클라우드를 생성할 수 있다.Referring to FIG. 9, it can be seen that the finally output object point clouds are concentrated according to the number of points. The point cloud generating apparatus increases the number of generated random point clouds to cluster points. The point cloud generating apparatus generates a basic point cloud by combining a plurality of random point cloud sets. By applying a set of random point clouds to the model, it is possible to generate an object point cloud having an arbitrary size without limiting the size.

포인트 클라우드 생성 장치는 하드웨어, 펌웨어, 소프트웨어 또는 이들의 조합에 의해 로직회로 내에서 구현될 수 있고, 범용 또는 특정 목적 컴퓨터를 이용하여 구현될 수도 있다. 장치는 고정배선형(Hardwired) 기기, 필드 프로그램 가능한 게이트 어레이(Field Programmable Gate Array, FPGA), 주문형 반도체(Application Specific Integrated Circuit, ASIC) 등을 이용하여 구현될 수 있다. 또한, 장치는 하나 이상의 프로세서 및 컨트롤러를 포함한 시스템온칩(System on Chip, SoC)으로 구현될 수 있다.The point cloud generation apparatus may be implemented in a logic circuit by hardware, firmware, software, or a combination thereof, or may be implemented using a general purpose or specific purpose computer. The device may be implemented using a hardwired device, a Field Programmable Gate Array (FPGA), an Application Specific Integrated Circuit (ASIC), or the like. In addition, the device may be implemented as a System on Chip (SoC) including one or more processors and controllers.

포인트 클라우드 생성 장치는 하드웨어적 요소가 마련된 컴퓨팅 디바이스 또는 서버에 소프트웨어, 하드웨어, 또는 이들의 조합하는 형태로 탑재될 수 있다. 컴퓨팅 디바이스 또는 서버는 각종 기기 또는 유무선 통신망과 통신을 수행하기 위한 통신 모뎀 등의 통신장치, 프로그램을 실행하기 위한 데이터를 저장하는 메모리, 프로그램을 실행하여 연산 및 명령하기 위한 마이크로프로세서 등을 전부 또는 일부 포함한 다양한 장치를 의미할 수 있다.The point cloud generation apparatus may be mounted in a form of software, hardware, or a combination thereof on a computing device or server provided with hardware elements. Computing devices or servers include all or part of a communication device such as a communication modem for performing communication with various devices or wired/wireless communication networks, a memory storing data for executing a program, and a microprocessor for calculating and commanding a program. It can mean various devices including.

도 7에서는 각각의 과정을 순차적으로 실행하는 것으로 기재하고 있으나 이는 예시적으로 설명한 것에 불과하고, 이 분야의 기술자라면 본 발명의 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 도 7에 기재된 순서를 변경하여 실행하거나 또는 하나 이상의 과정을 병렬적으로 실행하거나 다른 과정을 추가하는 것으로 다양하게 수정 및 변형하여 적용 가능할 것이다.In FIG. 7, it is described that each process is sequentially executed, but this is only illustrative, and those skilled in the art may change the order shown in FIG. 7 without departing from the essential characteristics of the embodiment of the present invention. Or, by executing one or more processes in parallel, or adding other processes, various modifications and variations may be applied.

본 실시예들에 따른 동작은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능한 매체에 기록될 수 있다. 컴퓨터 판독 가능한 매체는 실행을 위해 프로세서에 명령어를 제공하는 데 참여한 임의의 매체를 나타낸다. 컴퓨터 판독 가능한 매체는 프로그램 명령, 데이터 파일, 데이터 구조 또는 이들의 조합을 포함할 수 있다. 예를 들면, 자기 매체, 광기록 매체, 메모리 등이 있을 수 있다. 컴퓨터 프로그램은 네트워크로 연결된 컴퓨터 시스템 상에 분산되어 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수도 있다. 본 실시예를 구현하기 위한 기능적인(Functional) 프로그램, 코드, 및 코드 세그먼트들은 본 실시예가 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있을 것이다.The operations according to the embodiments may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. Computer-readable medium refers to any medium that has participated in providing instructions to a processor for execution. The computer-readable medium may include program instructions, data files, data structures, or a combination thereof. For example, there may be a magnetic medium, an optical recording medium, a memory, and the like. Computer programs may be distributed over networked computer systems to store and execute computer-readable codes in a distributed manner. Functional programs, codes, and code segments for implementing the present embodiment may be easily inferred by programmers in the technical field to which the present embodiment belongs.

본 실시예들은 본 실시예의 기술 사상을 설명하기 위한 것이고, 이러한 실시예에 의하여 본 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.The present embodiments are for explaining the technical idea of the present embodiment, and the scope of the technical idea of the present embodiment is not limited by these embodiments. The scope of protection of the present embodiment should be interpreted by the following claims, and all technical ideas within the scope equivalent thereto should be interpreted as being included in the scope of the present embodiment.

Claims (5)

하나 이상의 프로세서 및 상기 하나 이상의 프로세서에 의해 실행되는 하나 이상의 프로그램을 저장하는 메모리를 포함하는 포인트 클라우드 생성 장치에 있어서,
상기 프로세서는 기본 포인트 클라우드와 객체 이미지로부터 특징 정보를 추출하고,
상기 프로세서는 상기 기본 포인트 클라우드와 상기 특징 정보를 이용하여 객체 포인트 클라우드를 생성하는 것을 특징으로 하는 포인트 클라우드 생성 장치.In the point cloud generating apparatus comprising at least one processor and a memory for storing at least one program executed by the at least one processor,
The processor extracts feature information from a basic point cloud and an object image,
The processor generates an object point cloud by using the basic point cloud and the characteristic information. 제1항에 있어서,
상기 기본 포인트 클라우드는 포인트가 3차원 공간에서 랜덤하게 분포되며,
상기 프로세서는 상기 객체 이미지를 이미지 인코더를 이용하여 공간적 다운샘플링 및 채널 업샘플링 과정을 거쳐 다중 스케일의 2차원 특징 맵으로 변환하고, 객체에 대한 지역적 특징 정보 및 객체에 대한 전역적 특징 정보를 추출하는 것을 특징으로 하는 포인트 클라우드 생성 장치.The method of claim 1,
In the basic point cloud, points are randomly distributed in a three-dimensional space,
The processor converts the object image into a multi-scale two-dimensional feature map through spatial downsampling and channel up-sampling processes using an image encoder, and extracts local feature information for the object and global feature information for the object. Point cloud generation device, characterized in that. 제2항에 있어서,
상기 프로세서는 지역적 특징 정보 추출 모델을 통해 상기 기본 포인트 클라우드를 상기 다중 스케일의 2차원 특징 맵에 투영시켜 상기 객체에 대한 지역적 특징 정보를 추출하는 것을 특징으로 하는 포인트 클라우드 생성 장치.The method of claim 2,
And the processor extracts regional feature information for the object by projecting the basic point cloud onto the multi-scale two-dimensional feature map through a regional feature information extraction model. 제2항에 있어서,
상기 프로세서는 특징 추출 모델을 통해 상기 기본 포인트 클라우드를 다중 스케일의 특징 정보로 변환하고, 전역적 특징 정보 추출 모델을 통해 상기 다중 스케일의 특징 정보에 관한 분포를 상기 다중 스케일의 2차원 특징 맵에 관한 분포로 정규화하여 상기 객체에 대한 전역적 특징 정보를 추출하는 것을 특징으로 하는 포인트 클라우드 생성 장치.The method of claim 2,
The processor converts the basic point cloud into multi-scale feature information through a feature extraction model, and calculates a distribution of the multi-scale feature information with respect to the multi-scale two-dimensional feature map through a global feature information extraction model. A point cloud generation apparatus, characterized in that normalized by distribution to extract global feature information for the object. 제2항에 있어서,
상기 객체에 대한 지역적 특징 정보 및 상기 객체에 대한 전역적 특징 정보를 조합하고, 조합 매트릭스를 사용하여 전체 포인트에 대해 다른 가중치를 학습한 조합 가중치를 상기 포인트에 적용하고, 상기 포인트를 제1 공간에서 제2 공간으로 매핑하는 것을 특징으로 하는 포인트 클라우드 생성 장치.The method of claim 2,
A combination weight obtained by combining local feature information on the object and global feature information on the object, learning different weights for all points using a combination matrix, is applied to the points, and the points are applied to the points in a first space. A point cloud generating device, characterized in that mapping to a second space.
KR1020190085929A 2019-07-16 2019-07-16 Method and Apparatus for Generating Point Cloud Using Feature of Object Acquired from Image KR102215101B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190085929A KR102215101B1 (en) 2019-07-16 2019-07-16 Method and Apparatus for Generating Point Cloud Using Feature of Object Acquired from Image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190085929A KR102215101B1 (en) 2019-07-16 2019-07-16 Method and Apparatus for Generating Point Cloud Using Feature of Object Acquired from Image

Publications (2)

Publication Number Publication Date
KR20210009198A true KR20210009198A (en) 2021-01-26
KR102215101B1 KR102215101B1 (en) 2021-02-09

Family

ID=74310420

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190085929A KR102215101B1 (en) 2019-07-16 2019-07-16 Method and Apparatus for Generating Point Cloud Using Feature of Object Acquired from Image

Country Status (1)

Country Link
KR (1) KR102215101B1 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113313835A (en) * 2021-07-29 2021-08-27 深圳市数字城市工程研究中心 Building roof automatic modeling method based on airborne LiDAR point cloud
KR102359250B1 (en) 2021-04-29 2022-02-08 주식회사 메이사 Point cloud inference device and method thereof
CN114091628A (en) * 2022-01-20 2022-02-25 山东大学 Three-dimensional point cloud up-sampling method and system based on double branch network
KR102573935B1 (en) * 2023-04-27 2023-09-04 주식회사 루트릭스 Method and device for processing tree data

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102535688B1 (en) * 2022-08-18 2023-05-26 주식회사 페블러스 A pixel-based image processing method and an electronic device including a user interface implemented with the method

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180087947A (en) * 2017-01-26 2018-08-03 삼성전자주식회사 Modeling method and modeling apparatus using 3d point cloud
KR20190029842A (en) 2017-09-12 2019-03-21 주식회사 케이쓰리아이 Three-Dimensional Restoration Cloud Point Creation Method Using GPU Accelerated Computing
KR20190045013A (en) * 2017-10-23 2019-05-02 삼성전자주식회사 Method and apparatus for generating virtual object
KR20190068168A (en) * 2017-12-08 2019-06-18 한국전자통신연구원 Apparatus for generating 3-dimensional image and method for the same

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180087947A (en) * 2017-01-26 2018-08-03 삼성전자주식회사 Modeling method and modeling apparatus using 3d point cloud
KR20190029842A (en) 2017-09-12 2019-03-21 주식회사 케이쓰리아이 Three-Dimensional Restoration Cloud Point Creation Method Using GPU Accelerated Computing
KR20190045013A (en) * 2017-10-23 2019-05-02 삼성전자주식회사 Method and apparatus for generating virtual object
KR20190068168A (en) * 2017-12-08 2019-06-18 한국전자통신연구원 Apparatus for generating 3-dimensional image and method for the same

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Yan Xia 외 5명, real point 3D(2018.09.08. 공개)* *
강산들 외 5명, 한국군사과학기술학회지 제15권 제3호(2012.06.30. 공개)* *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102359250B1 (en) 2021-04-29 2022-02-08 주식회사 메이사 Point cloud inference device and method thereof
CN113313835A (en) * 2021-07-29 2021-08-27 深圳市数字城市工程研究中心 Building roof automatic modeling method based on airborne LiDAR point cloud
CN113313835B (en) * 2021-07-29 2021-11-09 深圳市数字城市工程研究中心 Building roof automatic modeling method based on airborne LiDAR point cloud
CN114091628A (en) * 2022-01-20 2022-02-25 山东大学 Three-dimensional point cloud up-sampling method and system based on double branch network
KR102573935B1 (en) * 2023-04-27 2023-09-04 주식회사 루트릭스 Method and device for processing tree data

Also Published As

Publication number Publication date
KR102215101B1 (en) 2021-02-09

Similar Documents

Publication Publication Date Title
KR102215101B1 (en) Method and Apparatus for Generating Point Cloud Using Feature of Object Acquired from Image
US10878575B2 (en) Foreground-aware image inpainting
KR102051889B1 (en) Method and system for implementing 3d augmented reality based on 2d data in smart glass
CN108198145A (en) For the method and apparatus of point cloud data reparation
US9747668B2 (en) Reconstruction of articulated objects from a moving camera
CN112991413A (en) Self-supervision depth estimation method and system
CN111696196B (en) Three-dimensional face model reconstruction method and device
KR101977067B1 (en) Method for reconstructing diagnosis map by deep neural network-based feature extraction and apparatus using the same
CN114746904A (en) Three-dimensional face reconstruction
CN111524216B (en) Method and device for generating three-dimensional face data
CN111043988B (en) Single stripe projection measurement method based on graphics and deep learning
CN115601511B (en) Three-dimensional reconstruction method and device, computer equipment and computer readable storage medium
CN111275633A (en) Point cloud denoising method, system and device based on image segmentation and storage medium
US11403807B2 (en) Learning hybrid (surface-based and volume-based) shape representation
KR102166016B1 (en) A domain-aware method for image-to-image translations
KR101022491B1 (en) System and method for rendering fluid flow
US11087525B2 (en) Unsupervised learning of three dimensional visual alphabet
Grau et al. A variational deep synthesis approach for perception validation
KR102067423B1 (en) Three-Dimensional Restoration Cloud Point Creation Method Using GPU Accelerated Computing
US20220327811A1 (en) System and method for composite training in machine learning architectures
CN113158970B (en) Action identification method and system based on fast and slow dual-flow graph convolutional neural network
CN115661340A (en) Three-dimensional point cloud up-sampling method and system based on source information fusion
JP2023521456A (en) Methods for creating a virtual environment restore of a real location
Oliveira et al. Accelerated unsupervised filtering for the smoothing of road pavement surface imagery
CN116883770A (en) Training method and device of depth estimation model, electronic equipment and storage medium

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant