KR102161582B1 - 데이터 압축 장치 및 방법 - Google Patents

데이터 압축 장치 및 방법 Download PDF

Info

Publication number
KR102161582B1
KR102161582B1 KR1020180153906A KR20180153906A KR102161582B1 KR 102161582 B1 KR102161582 B1 KR 102161582B1 KR 1020180153906 A KR1020180153906 A KR 1020180153906A KR 20180153906 A KR20180153906 A KR 20180153906A KR 102161582 B1 KR102161582 B1 KR 102161582B1
Authority
KR
South Korea
Prior art keywords
cluster
frequency signal
frequency
data compression
frame
Prior art date
Application number
KR1020180153906A
Other languages
English (en)
Other versions
KR20200067040A (ko
Inventor
심재영
정세원
Original Assignee
울산과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 울산과학기술원 filed Critical 울산과학기술원
Priority to KR1020180153906A priority Critical patent/KR102161582B1/ko
Publication of KR20200067040A publication Critical patent/KR20200067040A/ko
Application granted granted Critical
Publication of KR102161582B1 publication Critical patent/KR102161582B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/537—Motion estimation other than block-based
    • H04N19/54—Motion estimation other than block-based using feature points or meshes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

컴퓨터에 의해 적어도 일시적으로 수행되는 데이터 압축 방법에 연관된다. 일실시예에서 입력 영상을 프레임(Frame)마다 메쉬의 연결 정보에 기반하여 클러스터로 분할하는 단계; 상기 클러스터를 대응하는 주파수 신호로 변환하는 단계; 제1 프레임의 제1 클러스터에 대응하는 주파수 신호와 제2 프레임의 클러스터에 대응하는 주파수 신호를 비교하여 차이 값이 가장 적은 제2 클러스터를 계산하는 단계; 상기 차이 값과 상기 제1 클러스터에 대응하는 주파수 신호의 미리 지정되는 영역을 합산하는 단계; 및 합산되는 주파수 신호를 양자화 및 부호화하는 단계를 포함할 수 있다.

Description

데이터 압축 장치 및 방법{APPARATUS AND METHOD FOR DATA COMPRESSION}
데이터 압축 장치 및 방법에 연관된다. 보다 상세하게는, 영상 데이터를 압축하는 장치 및 방법에 연관된다.
4D 객체 표현 방식인 시변 메쉬(Time-Varing Mesh, TVM) 방법은 시간에 따라 꼭지점의 수가 매번 변하는 독립적인 메쉬로 구성되어 더욱 효율적이고 자세하게 4D 영상을 표현할 수 있다.
최근 AR/VR 기술이 접목 가능한 다양한 산업에 활용 가능한 핵심기술로 부상하고 있고, 3D 콘텐츠 이용이 가능한 단말기의 보급 증가로 인해 관련 3D 콘텐츠의 소비가 증가하고 있다.
방대한 크기의 4D 영상 정보를 빠르고 효율적으로 전송하기 위해서는 압축 기술이 매우 중요한 역할을 하며, 따라서 많은 용량의 4D 영상을 효과적으로 압축하기 위한 4D 영상 압축 기술의 개발이 요구된다.
한국 등록특허 10-1131756호 (공고일자 2012년04월06일)는 메쉬 기반 비디오 압축 기술을 제시한다. 에러 예측을 수행하여 이미지 데이터를 압축하는 기술에 관한 발명이다.
일실시예에 따르면 컴퓨터에 의해 적어도 일시적으로 수행되는 데이터 처리 방법에 있어서, 입력 영상을 프레임(Frame)마다 메쉬의 연결 정보에 기반하여 클러스터로 분할하는 단계; 상기 클러스터를 대응하는 주파수 신호로 변환하는 단계; 제1 프레임의 제1 클러스터에 대응하는 주파수 신호와 제2 프레임의 클러스터에 대응하는 주파수 신호를 비교하여 차이 값이 가장 적은 제2 클러스터를 계산하는 단계; 상기 차이 값과 상기 제1 클러스터에 대응하는 주파수 신호의 미리 지정되는 영역을 합산하는 단계; 및 합산되는 주파수 신호를 양자화 및 부호화하는 단계를 포함하는 데이터 압축 방법이 개시된다.
다른 일실시예에 따르면 상기 제1 클러스터 및 상기 제2 클러스터에 대응하는 주파수 신호의 DC 성분을 제거하는 단계를 더 포함하는 데이터 압축 방법도 개시된다.
또 다른 일실시예에 따르면 상기 제1 클러스터 및 상기 제2 클러스터에 대응하는 주파수 신호의 DC 성분이 제거된 주파수 신호에 대하여 미리 지정되는 주파수를 초과하는 영역을 제거하는 주파수 필터링 단계를 더 포함하는 데이터 압축 방법이 제시된다.
다른 일실시예에 따르면 상기 주파수 신호로 변환하는 단계는, 상기 클러스터의 꼭지점을 노드로 하는 그래프로 변환하는 단계; 및 상기 그래프에 그래프 푸리에 변환을 수행하여 주파수 신호로 변환하는 단계를 포함할 수 있다.
다른 일실시예에 따르면 상기 합산하는 단계는, 상기 차이 값과 상기 제1 클러스터에 대응하는 주파수 신호의 미리 지정되는 주파수를 초과하는 영역을 합산하는 데이터 압축 방법이 가능하다.
일실시예에 따르면 상기 제1 클러스터의 제거되는 DC 성분을 매 프레임마다 별도로 압축하는 단계를 더 포함할 수 있다.
일측에 따르면 입력 영상을 프레임(Frame)마다 메쉬의 연결 정보에 기반하여 클러스터로 분할하고, 상기 클러스터를 대응하는 주파수 신호로 변환하고, 제1 프레임의 제1 클러스터에 대응하는 주파수 신호와 제2 프레임의 클러스터에 대응하는 주파수 신호를 비교하여 차이 값이 가장 적은 제2 클러스터를 계산하고, 상기 차이 값과 상기 제1 클러스터에 대응하는 주파수 신호의 미리 지정되는 영역을 합산하고, 합산되는 주파수 신호를 양자화 및 부호화하는 프로세서; 및 상기 양자화 및 부호화되는 주파수 신호를 저장하는 저장부를 포함하는 데이터 압축 장치가 개시된다.
다른 일측에 따르면 상기 프로세서는, 상기 제1 클러스터 및 상기 제2 클러스터에 대응하는 주파수 신호의 DC 성분을 제거하는 데이터 압축 장치가 제시된다.
또 다른 일측에 따르면 상기 프로세서는, 상기 제1 클러스터 및 상기 제2 클러스터에 대응하는 주파수 신호의 DC 성분이 제거된 주파수 신호에 대하여 미리 지정되는 주파수를 초과하는 영역을 제거하는 주파수 필터링을 수행할 수 있다.
다른 일측에 따르면 상기 프로세서는, 상기 클러스터의 꼭지점을 노드로 하는 그래프로 변환하고, 상기 그래프에 그래프 푸리에 변환을 수행하여 주파수 신호로 변환하여 상기 클러스터를 대응하는 주파수 신호로 변환하는 데이터 압축 장치가 제시된다.
또한 상기 프로세서는, 상기 차이 값과 상기 제1 클러스터에 대응하는 주파수 신호의 미리 지정되는 주파수를 초과하는 영역을 합산할 수 있다.
일측에 따르면 상기 프로세서는, 상기 제1 클러스터의 제거되는 DC 성분을 매 프레임마다 별도로 압축하고, 상기 저장부는, 상기 DC 성분을 압축한 데이터를 저장할 수 있다.
일실시예에 따르면 상기 데이터 압축 방법들을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터 판독 가능한 기록매체도 제시된다.
도 1은 일실시예에 따른 데이터 압축 장치의 구성을 도시한다.
도 2는 일실시예에 따른 데이터 압축 방법을 도시한 흐름도이다.
도 3은 일실시예에 따른 각 프레임마다 메쉬의 클러스터를 형성하는 모습을 도시한다.
도 4는 일실시예에 따른 클러스터에 대응하는 그래프를 푸리에 변환한 주파수 신호를 도시한다.
도 5는 일실시예에 따른 각 클러스터의 대응 주파수 신호 및 DC 성분을 제외한 주파수 신호를 도시한다.
도 6은 일실시예에 따른 예측 오차를 계산하는 과정을 도시한다.
도 7은 일실시예에 따른 예측 오차와 고주파 성분 주파수 신호를 합산하는 모습을 도시한다.
이하에서, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 권리범위는 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
아래 설명에서 사용되는 용어는, 연관되는 기술 분야에서 일반적이고 보편적인 것으로 선택되었으나, 기술의 발달 및/또는 변화, 관례, 기술자의 선호 등에 따라 다른 용어가 있을 수 있다. 따라서, 아래 설명에서 사용되는 용어는 기술적 사상을 한정하는 것으로 이해되어서는 안 되며, 실시예들을 설명하기 위한 예시적 용어로 이해되어야 한다.
또한 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 설명 부분에서 상세한 그 의미를 기재할 것이다. 따라서 아래 설명에서 사용되는 용어는 단순한 용어의 명칭이 아닌 그 용어가 가지는 의미와 명세서 전반에 걸친 내용을 토대로 이해되어야 한다.
3차원 영상 데이터를 저장하고 표시하기 위해서는 메쉬를 이용할 수 있다. 시간에 따라 변화하는 3차원 영상 데이터를 메쉬를 이용하는 표시하는 경우에 시변 메쉬(TVM) 방법을 사용할 수 있다. 시변 메쉬 방법이란 시간에 따라 변화하는 독립적인 메쉬를 이용하여 3차원 영상 데이터를 표시하는 방법이다.
일실시예에 따른 데이터 압축 장치 및 방법은 프레임별 메쉬의 클러스터에 대한 주파수 신호를 추출하고, 상기 프레임 간의 오차를 측정하여 효율적으로 압축을 수행할 수 있다. 이하에서는 일실시예에 따른 데이터 압축 장치 및 방법에 대해 상세히 설명한다.
도 1은 일실시예에 따른 데이터 압축 장치의 구성을 도시한다. 일실시예에 따른 데이터 압축 장치(100)는 프로세서(110) 및 저장부(120)로 구성될 수 있다.
프로세서(110)는, 메쉬로 표현되는 3D 입력 영상을 클러스터 단위로 분할하고, 상기 클러스터를 주파수 신호로 변환할 수 있다. 변환된 상기 주파수 신호에 대하여 특정 영역을 필터링하고, 이전 프레임에서 현재 프레임의 클러스터에 대한 예측 오차가 최소화 되는 클러스터를 계산할 수 있다. 그리고 상기 예측 오차와 고주파 신호를 합산하여 양자화 및 부호화를 통해 압축을 수행할 수 있다.
저장부(120)는 입력 영상 및/또는 상기 프로세서(110)에 의해 압축되는 정보들을 저장할 수 있다. 예를 들어 입력 영상과 상기 입력 영상이 압축되는 압축 파일을 함께 저장할 수 있다.
상기 프로세서(110)의 구체적인 동작은 데이터 압축 방법을 설명하는 도 2에서 상세히 설명한다.
도 2는 일실시예에 따른 데이터 압축 방법을 도시한 흐름도이다. 일실시예에 따른 데이터 압축 방법은 입력 영상을 클러스터로 분할하는 단계(210), 클러스터 마다 주파수 신호로 변환하는 단계(220), 주파수 필터링 단계(230), 예측 오차가 최소화되는 클러스터를 계산하는 단계(240), 주파수 신호를 합산하는 단계(250) 및 양자화 및 부호화 단계(260)를 포함할 수 있다.
입력 영상을 클러스터로 분할하는 단계(210)는 입력되는 전체 3D 메쉬 영상을 개별 클러스터들로 나누는 단계이다. 구체적으로, 3D 메쉬 영상의 매 프레임 마다 메쉬의 연결관계와 지역적 특성을 고려하여 클러스터로 분할할 수 있다.
예시적으로 그러나 한정되지 않게 클러스터로 분할하기 위해 METIS 알고리즘을 사용할 수 있다. 상기 METIS 알고리즘을 이용하여 메쉬의 연결정보에 기반한 균일한 형태의 클러스터들로 입력 메쉬 영상을 분할할 수 있다. 일실시예에서는 클러스터의 개수를 50개로 설정할 수 있으며, 통상의 기술자의 입장에서 변경이 가능하다.
클러스터 마다 주파수 신호로 변환하는 단계(220)는 클러스터를 대응하는 그래프로 변환하고 상기 그래프를 푸리에 변환하여 주파수 신호로 변환하는 단계이다.
상세히 설명하기 위해 입력 3D 영상의 특정 프레임에서 k번째 클러스터를 M(Vk, Ek)라고 정의한다. 상기 클러스터 M(Vk, Ek)의 꼭지점을 노드로 하고 연결정보가 동일한 그래프를 형성하고, 상기 그래프 노드 마다 대응하는 꼭지점의 형상 정보로 그래프 신호 f를 형성한다.
다음으로 상기 그래프 신호 f에 대하여 그래프 푸리에 변환(Graph Fourier Transform)한 값인
Figure 112018121019939-pat00001
를 정의하기 위하여, 먼저 해당 그래프의 연결정보에 기반한 라플라시안 행렬(Laplacian Matrix) L을 다음의 수학식 1과 같이 정의한다.
Figure 112018121019939-pat00002
여기서 A는 인접 행렬(Adjacency Matrix)로서, A의 성분 aij는 꼭지점 vi와 vj가 연결된 경우 1, 연결되지 않은 경우 0의 값을 갖는다. D는 공간가중행렬 W로서, 각 행 별로 성분을 합한 값을 성분 dij로 하는 대각 행렬이다. 상기 행렬 D에서 A를 빼서 라플라시안 행렬 L을 구할 수 있다.
상기 라플라시안 행렬 L에 대한 고유 벡터(Eigenvector)와 고유 값(Eigenvalue)을 수학식 2를 이용하여 계산한다.
Figure 112018121019939-pat00003
여기서, λl은 서로 다른
Figure 112018121019939-pat00004
개의 음이 아닌 고유 값으로 표현된다. 상기 고유 값에 대응하는 그래프 푸리에 변환 값
Figure 112018121019939-pat00005
은 다음의 수학식 3과 같이 정의할 수 있다.
Figure 112018121019939-pat00006
상기 수학식 3에 의해 계산되는 그래프 푸리에 변환 값인
Figure 112018121019939-pat00007
의 그래프는 도 3에 도시된다. 상기 단계들(210, 220)을 통해 3D 메쉬 영상이 각 클러스터로 분할되고 주파수 신호로 변환되는 과정을 설명했다.
다음으로 주파수 필터링 단계(230)는 도 4에서 도시되는 주파수 신호에 대하여 DC 성분의 주파수 신호를 제거하는 필터링을 수행하는 단계이다. 각 클러스터 마다 주파수 신호의 DC 성분인
Figure 112018121019939-pat00008
는 주파수 오차 예측에서 제외한다.
그래프 푸리에 변환을 통해 얻어진 주파수 신호의 0번째 신호인
Figure 112018121019939-pat00009
는 DC 성분으로서, 클러스터에 대응하는 그래프 신호의 주파수적 특성이 아닌 모든 신호들의 평균값에 해당한다. 따라서 DC 성분을 함께 압축하는 경우에는, 위치정보를 그래프 신호로 볼 때 클러스터의 모양이 같아도 위치에 따라 그 값이 크게 변화하므로 주파수 특성을 예측하는데 비효율적이고, 의도치 않은 성능저하가 일어나기 때문이다.
또한 고주파 영역을 필터링 한다. DC 성분을 제외한 주파수 신호들 중에서 저주파 영역의 성분이 유의미한 예측 결과를 얻을 수 있기 때문에 고주차 영역의 성분은 필터링을 통해 제거할 수 있다.
예측 오차가 최소화되는 클러스터를 계산하는 단계(240)는 DC 성분이 제거되고 고주파 영역이 필터링 된 주파수 신호에 대하여 예측 오차가 최소화되는 클러스터를 계산하는 단계이다.
3D 메쉬 영상에서, i번째 프레임의 j번째 클러스터의 주파수 신호 중 DC 성분을 제외한 주파수 신호를
Figure 112018121019939-pat00010
,
Figure 112018121019939-pat00011
, ??,
Figure 112018121019939-pat00012
라고 정의한다. 이 때 각 프레임 마다의 주파수 신호는 다음과 같은 절차로 부호화 한다.
j번째 클러스터의 DC성분을 제외한 주파수 신호들인
Figure 112018121019939-pat00013
,
Figure 112018121019939-pat00014
, ??,
Figure 112018121019939-pat00015
중 유의미한 예측 효과를 갖는 K개의 저주파 성분들을 예측 대상으로 선별 한다. 그리고 i-1번째 프레임의 각 클러스터에 대한 주파수 신호의 K개의 저주파 성분과 비교하여 차이가 가장 적은 클러스터의 주파수 신호
Figure 112018121019939-pat00016
,
Figure 112018121019939-pat00017
, ??,
Figure 112018121019939-pat00018
를 예측 신호로 정의한다. 상기 예측 신호는 상기 i-1번째 프레임의 각 클러스터에 대한 복원된 주파수 신호일 수 있다. i번째 프레임을 압축하는 경우에 그 이전 프레임인 i-1번째 프레임은 i-2번째 프레임의 데이터와 비교하여 압축이 되어 있으므로, i-1번째 프레임의 압축된 데이터를 복원하여 주파수 신호 간의 비교를 수행할 수 있다.
압축 데이터를 복원하는 경우에 압축 과정을 역으로 수행한다. i-1번째 프레임의 j번째 클러스터를 복원하는 경우에, 압축된 데이터의 복호화 및 역양자화를 거쳐 예측 오차를 먼저 복원하고, 이전 i-2번째 프레임에서 대응되는 클러스터에 대하여 같은 원리로 복원 된 주파수 신호를 더한다.
상기 과정에서 압축한 데이터를 복원할 때는 i번째 프레임의 예측 오차와 i-1번째 프레임의 복원된 주파수 신호만을 이용하여 복원한다. 압축부에서 예측 오차를 계산하는 경우에 원본 데이터를 사용하면, 복원부는 원본 신호를 알 수 없기 때문에 오차가 커지는 문제가 발생할 수 있다. 따라서 이를 방지하기 위해 예측 신호를 원본 신호가 아닌 복원부에 의해 복원된 신호로 정의하여, 복원 과정의 오차를 최소화할 수 있다.
상기 예측 신호와 i프레임 j번째 클러스터의 선별된 신호와의 예측 오차 δ를 다음의 수학식 4를 이용하여 계산한다.
Figure 112018121019939-pat00019
간단히 말해 특정 프레임(i번째 프레임)의 j번째 클러스터(
Figure 112018121019939-pat00020
)와 이전 프레임(i-1번째 프레임)의 클러스터(
Figure 112018121019939-pat00021
)들을 비교하여 차이 값인 예측 오차 δ를 계산한다.
Figure 112018121019939-pat00022
에 대한 예측 오차가 가장 적은 클러스터인
Figure 112018121019939-pat00023
를 찾아낸다.
주파수 신호를 합산하는 단계(250)는 상기 수학식 4에 따라 계산된 예측 오차가 가장 적은 클러스터인
Figure 112018121019939-pat00024
와의 K번째 까지의 저주파 성분 오차
Figure 112018121019939-pat00025
,
Figure 112018121019939-pat00026
, ??,
Figure 112018121019939-pat00027
와 i번째 프레임의 j번째 클러스터의 주파수 신호 중 K+1번째 이후의 고주파 성분
Figure 112018121019939-pat00028
,
Figure 112018121019939-pat00029
, ??,
Figure 112018121019939-pat00030
를 합산한다.
마지막으로 양자화 및 부호화 단계(260)는 상기 합산된 신호에 대하여 미리 지정되는 비트로 양자화 및 부호화를 수행하는 단계이다. 예시적으로 그러나 한정되지 않게 상기 합산된 신호를 Q비트로 양자화하고 엔트로피 부호화를 수행할 수 있다.
입력되는 3D 메쉬 영상의 첫번째 프레임의 경우에는 이전 프레임이 없기 때문에, 예측 오차를 최소화하는 클러스터를 별도로 계산하지 않고, 클러스터 마다 주파수 신호들을 각각 미리 지정되는 비트로 양자화하여 부호화를 수행할 수 있다. 반면에 두번째 프레임 부터는 상기 설명한 방법에 따라 압축을 수행할 수 있다.
일실시예에서는 보다 효율적인 압축 성능을 위하여 i번째 프레임의 압축이 완료된 클러스터의 주파수 신호도 함께 비교할 수 있다. 즉, i번째 프레임의 j-1번째 클러스터까지 포함하여 예측 오차를 최소화하는 클러스터를 찾을 수 있다.
도 3은 일실시예에 따른 각 프레임마다 메쉬의 클러스터를 형성하는 모습을 도시한다. 상세히 살펴보면, 좌측에는 3D 영상에서 사람이 움직이는 모습을 시간이 변화함에 따라(t-1, t, t+1) 메쉬로 표현한 모습을 도시한다. 우측에는 시간 t-1과 시간 t에서의 메쉬 정보를 클러스터로 분류하는 모습을 도시한다.
예시적으로 시간 t에서 사람의 가슴부분을 표현하는 메쉬를 상세히 도시하고 있다. 각 메쉬는
Figure 112018121019939-pat00031
,
Figure 112018121019939-pat00032
,
Figure 112018121019939-pat00033
,
Figure 112018121019939-pat00034
등으로 표시하였다. 시간 t-1에서의 메쉬는
Figure 112018121019939-pat00035
등으로 표시될 수 있으며, 시변 메쉬(TVM)이므로 시간 t에서의 메쉬와 다르게 구성될 수 있다.
도 4는 일실시예에 따른 클러스터에 대응하는 그래프를 푸리에 변환한 주파수 신호를 도시한다. 도 4의 주파수 신호는 앞서 도 2에서 설명한 특정 클러스터에 대응하는 그래프를 푸리에 변환한 주파수 신호이다. 신호가 의미 있는 구간은 저주파 영역이며, 고주파 영역의 경우에는 신호의 의미가 크지 않다.
따라서 상기 그래프를 푸리에 변환한 주파수 신호는 압축 효율을 위해 저주파 영역과 고주파 영역을 분리해서 압축을 수행한다. 저주파 영역의 주파수 신호는 이전 프레임의 클러스터와 비교하여 예측 오차가 최소화되는 클러스터를 찾고, 해당 클러스터의 예측 오차와 고주파 영역의 주파수 신호를 추후에 합산한다.
도 5a는 일실시예에 따른 시간 t에서의 첫번째 및 두번째 클러스터(
Figure 112018121019939-pat00036
,
Figure 112018121019939-pat00037
)를 도시한다. 도 5b에서는 상기 각 클러스터에 대응하는 주파수 신호를 도시한다. 도 5b의 좌측에는 상기 주파수 신호는 각 클러스터(
Figure 112018121019939-pat00038
,
Figure 112018121019939-pat00039
)를 그래프로 변환하고, 상기 그래프에 대응하는 푸리에 변환을 수행한 주파수 신호가 도시된다.
한편 도 5b의 우측에는 상기 각 클러스터의 주파수 신호에 대해 DC 성분이 필터링된 신호를 도시한다. DC 성분이 제거되지 않은 좌측의 그래프에 비하여 세로축 스케일(Scale)이 작아지고 그래프의 형태가 다소 변형된 모습을 확인할 수 있다.
도 6a는 일실시예에 따른 예측 신호를 도시하고, 도 6b는 상기 예측 신호를 이용하여 예측 오차를 계산하는 모습을 도시한다. 예측 오차를 계산하기 위해서는 먼저 예측 신호를 계산한다. 시간 t-1에서의 클러스터들 중 시간 t에서의 클러스터(
Figure 112018121019939-pat00040
,
Figure 112018121019939-pat00041
)에 대한 DC 성분이 제거된 주파수 신호와의 오차가 가장 적은 예측 신호를 계산한다.
상기 시간 t에서의 클러스터(
Figure 112018121019939-pat00042
,
Figure 112018121019939-pat00043
)에 대한 DC 성분이 제거된 주파수 신호와의 오차를 계산하는 경우에 전 구간의 주파수 신호를 비교하지 않고, 저주파 영역의 주파수 신호만을 필터링하여 비교한다.
예를 들어 미리 지정되는 주파수 이하의 저주파 영역 신호만을 비교할 수 있다. 도 6에서는 예시적으로 상기 저주파 영역을 Kopt로 표시한다. 도 5에서는 예시적으로 그러나 한정되지 않게 상기 저주파 영역을 10이하의 영역으로 설정하였다.
이어서 도 6a를 보면, 특정 클러스터
Figure 112018121019939-pat00044
에 대하여 가장 예측 오차가 적은 예측 신호
Figure 112018121019939-pat00045
과 차이가 예측 오차이다. 즉, 예측 오차는
Figure 112018121019939-pat00046
로 표현할 수 있다. 이와 유사하게 동일한 프레임의 다른 특정 클러스터
Figure 112018121019939-pat00047
에 대하여 가장 예측 오차가 적은 예측 신호
Figure 112018121019939-pat00048
과 차이가 예측 오차이며
Figure 112018121019939-pat00049
가 된다.
도 7은 일실시예에 따른 예측 오차와 고주파 성분의 주파수 신호를 합산하는 모습을 도시한다. 상기 예측 오차는 Kopt의 저주파 영역 주파수 신호만을 포함하므로, Kopt를 초과하는 고주파 영역에 대한 정보와 합산이 필요하다. 따라서 상기 특정 클러스터
Figure 112018121019939-pat00050
에 대한 예측 오차
Figure 112018121019939-pat00051
와 상기
Figure 112018121019939-pat00052
의 고주파 영역 신호를 합산한다.
도 7을 살펴보면, 클러스터(
Figure 112018121019939-pat00053
,
Figure 112018121019939-pat00054
)의 10 이하의 저주파 영역에 대한 예측 오차와 10 초과의 고주파 영역 주파수 신호를 합산하는 모습을 도시한다.
각 클러스터(
Figure 112018121019939-pat00055
,
Figure 112018121019939-pat00056
)의 데이터를 압축하기 위해서 상기 일련의 방법을 거친 후에 최종 주파수 신호에 대하여 양자화 및 부호화를 수행할 수 있다. 양자화 및 부호화의 과정은 데이터 처리에서 통상적으로 사용되는 방법으로서 자세한 설명은 생략한다. 상기 부호화 방법은 예시적으로 엔트로피 부호화 방법을 이용할 수 있다.
결과적으로 상기 설명한 데이터 압축 방법을 이용하여 시간에 따라 변하는 3D 영상의 메쉬 정보를 효율적으로 압축할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (13)

  1. 컴퓨터에 의해 적어도 일시적으로 수행되는 데이터 처리 방법에 있어서,
    입력 영상을 프레임(Frame)마다 메쉬의 연결 정보에 기반하여 클러스터로 분할하는 단계;
    상기 클러스터를 대응하는 주파수 신호로 변환하는 단계;
    제1 프레임의 제1 클러스터에 대응하는 주파수 신호와 제2 프레임의 클러스터에 대응하는 주파수 신호를 비교하여 차이 값이 가장 적은 제2 클러스터를 계산하는 단계;
    상기 차이 값과 상기 제1 클러스터에 대응하는 주파수 신호의 미리 지정되는 영역을 합산하는 단계; 및
    합산되는 주파수 신호를 양자화 및 부호화하는 단계
    를 포함하는 데이터 압축 방법.
  2. 제1항에 있어서,
    상기 제1 클러스터 및 상기 제2 클러스터에 대응하는 주파수 신호의 DC 성분을 제거하는 단계
    를 더 포함하는 데이터 압축 방법.
  3. 제2항에 있어서,
    상기 제1 클러스터 및 상기 제2 클러스터에 대응하는 주파수 신호의 DC 성분이 제거된 주파수 신호에 대하여 미리 지정되는 주파수를 초과하는 영역을 제거하는 주파수 필터링 단계
    를 더 포함하는 데이터 압축 방법.
  4. 제3항에 있어서,
    상기 주파수 신호로 변환하는 단계는,
    상기 클러스터의 꼭지점을 노드로 하는 그래프로 변환하는 단계; 및
    상기 그래프에 그래프 푸리에 변환을 수행하여 주파수 신호로 변환하는 단계
    를 포함하는 데이터 압축 방법.
  5. 제4항에 있어서,
    상기 합산하는 단계는,
    상기 차이 값과 상기 제1 클러스터에 대응하는 주파수 신호의 미리 지정되는 주파수를 초과하는 영역을 합산하는 데이터 압축 방법.
  6. 제5항에 있어서,
    상기 제1 클러스터의 제거되는 DC 성분을 매 프레임마다 별도로 압축하는 단계
    를 더 포함하는 데이터 압축 방법.
  7. 입력 영상을 프레임(Frame)마다 메쉬의 연결 정보에 기반하여 클러스터로 분할하고, 상기 클러스터를 대응하는 주파수 신호로 변환하고, 제1 프레임의 제1 클러스터에 대응하는 주파수 신호와 제2 프레임의 클러스터에 대응하는 주파수 신호를 비교하여 차이 값이 가장 적은 제2 클러스터를 계산하고, 상기 차이 값과 상기 제1 클러스터에 대응하는 주파수 신호의 미리 지정되는 영역을 합산하고, 합산되는 주파수 신호를 양자화 및 부호화하는 프로세서; 및
    상기 양자화 및 부호화되는 주파수 신호를 저장하는 저장부
    를 포함하는 데이터 압축 장치.
  8. 제7항에 있어서,
    상기 프로세서는,
    상기 제1 클러스터 및 상기 제2 클러스터에 대응하는 주파수 신호의 DC 성분을 제거하는 데이터 압축 장치.
  9. 제8항에 있어서,
    상기 프로세서는,
    상기 제1 클러스터 및 상기 제2 클러스터에 대응하는 주파수 신호의 DC 성분이 제거된 주파수 신호에 대하여 미리 지정되는 주파수를 초과하는 영역을 제거하는 주파수 필터링을 수행하는 데이터 압축 장치.
  10. 제9항에 있어서,
    상기 프로세서는,
    상기 클러스터의 꼭지점을 노드로 하는 그래프로 변환하고, 상기 그래프에 그래프 푸리에 변환을 수행하여 주파수 신호로 변환하여 상기 클러스터를 대응하는 주파수 신호로 변환하는 데이터 압축 장치.
  11. 제10항에 있어서,
    상기 프로세서는,
    상기 차이 값과 상기 제1 클러스터에 대응하는 주파수 신호의 미리 지정되는 주파수를 초과하는 영역을 합산하는 데이터 압축 장치.
  12. 제11항에 있어서,
    상기 프로세서는,
    상기 제1 클러스터의 제거되는 DC 성분을 매 프레임마다 별도로 압축하고,
    상기 저장부는,
    상기 DC 성분을 압축한 데이터를 저장하는 데이터 압축 장치.
  13. 제1항 내지 제6항 중 어느 한 항의
    데이터 압축 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터 판독 가능한 기록매체.
KR1020180153906A 2018-12-03 2018-12-03 데이터 압축 장치 및 방법 KR102161582B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180153906A KR102161582B1 (ko) 2018-12-03 2018-12-03 데이터 압축 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180153906A KR102161582B1 (ko) 2018-12-03 2018-12-03 데이터 압축 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20200067040A KR20200067040A (ko) 2020-06-11
KR102161582B1 true KR102161582B1 (ko) 2020-10-05

Family

ID=71070614

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180153906A KR102161582B1 (ko) 2018-12-03 2018-12-03 데이터 압축 장치 및 방법

Country Status (1)

Country Link
KR (1) KR102161582B1 (ko)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010092740A1 (ja) 2009-02-10 2010-08-19 パナソニック株式会社 画像処理装置、画像処理方法、プログラムおよび集積回路
JP2012068881A (ja) 2010-09-22 2012-04-05 Univ Of Tokyo ３次元動画像の圧縮に用いる基本単位及び当該基本単位の生成方法、当該基本単位を用いた３次元動画像の圧縮方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080031325A1 (en) 2006-08-03 2008-02-07 Yingyong Qi Mesh-based video compression with domain transformation

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010092740A1 (ja) 2009-02-10 2010-08-19 パナソニック株式会社 画像処理装置、画像処理方法、プログラムおよび集積回路
JP2012068881A (ja) 2010-09-22 2012-04-05 Univ Of Tokyo ３次元動画像の圧縮に用いる基本単位及び当該基本単位の生成方法、当該基本単位を用いた３次元動画像の圧縮方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
정세원 외 1명. 그래프 신호 처리 기반 3차원 메쉬의 형상 정보 압축. 한국방송미디어공학회 제30회 영상처리 및 이해에 관한 워크샵. 2018년 2월. pp.1-3

Also Published As

Publication number Publication date
KR20200067040A (ko) 2020-06-11

Similar Documents

Publication Publication Date Title
CN107665364B (zh) 神经网络方法和设备
US20230075442A1 (en) Point cloud compression method, encoder, decoder, and storage medium
WO2020238603A1 (zh) 深度神经网络的压缩方法、芯片、电子设备及介质
US11221990B2 (en) Ultra-high compression of images based on deep learning
US10599935B2 (en) Processing artificial neural network weights
JP6356912B2 (ja) 最適化関数を用いてグラフベース予測を実行する方法及び装置
WO2020191200A1 (en) Video compression using deep generative models
US20200097802A1 (en) Execution method, execution device, learning method, learning device, and recording medium for deep neural network
CN103858427A (zh) 用于空间可伸缩视频编码的自适应插值
CN110383695B (zh) 用于对数字图像或视频流进行编码和解码的方法和装置
CN113079378B (zh) 图像处理方法、装置和电子设备
Zhang et al. Lossless image compression using a multi-scale progressive statistical model
JP7411113B2 (ja) 品質入力を有するループフィルタのためのマスクされたニューラルネットワークによるモデル共有
KR102263609B1 (ko) 데이터 압축 장치 및 방법
CN107113426B (zh) 使用广义图形参数执行基于图形的变换的方法和设备
KR102161582B1 (ko) 데이터 압축 장치 및 방법
JP7233875B2 (ja) 作成方法、コンピュータ及びプログラム
JP7394980B2 (ja) ブロック分割を伴うニューラルネットワークを復号する方法、装置及びプログラム
Popa et al. Hardware acceleration of background modeling in the compressed domain
JP2022187683A5 (ko)
US10015507B2 (en) Transform system and method in video and image compression
JP7425870B2 (ja) 積み重ね可能な入れ子モデル構造及びマイクロ構造化された重み統一によるマルチレートニューラル画像圧縮のための方法及び装置
JP6080077B2 (ja) 画像符号化方法及び画像符号化装置
CN112991476B (zh) 基于深度压缩域特征的场景分类方法、系统及设备
KR20230059457A (ko) 다중 태스크를 처리하는 프로세싱 장치

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant