KR20210018850A - 비디오 수복 방법 및 장치, 전자 기기 및 기억 매체 - Google Patents

비디오 수복 방법 및 장치, 전자 기기 및 기억 매체 Download PDF

Info

Publication number
KR20210018850A
KR20210018850A KR1020207036725A KR20207036725A KR20210018850A KR 20210018850 A KR20210018850 A KR 20210018850A KR 1020207036725 A KR1020207036725 A KR 1020207036725A KR 20207036725 A KR20207036725 A KR 20207036725A KR 20210018850 A KR20210018850 A KR 20210018850A
Authority
KR
South Korea
Prior art keywords
optical flow
image
optimization
reverse
images
Prior art date
Application number
KR1020207036725A
Other languages
English (en)
Other versions
KR102406354B1 (ko
Inventor
루이 슈
시아오시아오 리
보레이 조우
첸찬거 로이
Original Assignee
베이징 센스타임 테크놀로지 디벨롭먼트 컴퍼니 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 베이징 센스타임 테크놀로지 디벨롭먼트 컴퍼니 리미티드 filed Critical 베이징 센스타임 테크놀로지 디벨롭먼트 컴퍼니 리미티드
Publication of KR20210018850A publication Critical patent/KR20210018850A/ko
Application granted granted Critical
Publication of KR102406354B1 publication Critical patent/KR102406354B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/001—
    • G06K9/20—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/0137—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes dependent on presence/absence of motion, e.g. of motion zones

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Television Systems (AREA)

Abstract

본 발명은 연속된 복수 프레임의 이미지에 대해 인접 이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득하는 단계(S100)와, 상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하여(S200), 상기 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우 및 상기 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 것과, 상기 제2 순방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 순방향의 전파 최적화를 행하고, 상기 제2 역방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 역방향의 전파 최적화를 행하는 것을, 최적화 후의 연속된 복수 프레임의 이미지의 각각이 전부 수복의 요구를 충족시킬 때까지 실행하는 단계(S300)와, 순방향의 전파 최적화 및 역방향의 전파 최적화에 의해 얻어진 최적화 이미지에 기초하여, 상기 연속된 복수 프레임의 이미지의 수복 이미지를 얻는 단계(S400)를 포함하는 비디오 수복 방법 및 장치, 전자 기기 및 기억 매체에 관한 것이다.

Description

비디오 수복 방법 및 장치, 전자 기기 및 기억 매체
본 발명은 2019년 1월 31일에 중국 특허국에 제출된 출원번호 201910099762.4, 출원의 명칭 「비디오 수복 방법 및 장치, 전자 기기 및 기억 매체」의 중국 특허출원의 우선권을 주장하고, 그 개시의 전부가 참조에 의해 본 발명에 포함된다.
본 발명은 비디오 수복(修復) 분야에 관한 것으로, 특히 비디오 수복 방법 및 장치, 전자 기기 및 기억 매체에 관한 것이다.
이미지 수복은 종래부터 컴퓨터 비전에서의 중요한 과제로, 예를 들면, 이미지 수복에 의해 이미지 워터마크의 제거나 이미지 보수 등의 목적을 실현할 수 있도록 많은 분야에서 중요한 적용을 갖는다. 비디오 수복은 이미지 수복의 비디오에 대한 확대 적용으로서 단순한 이미지 수복의 과제에 비해 그 실현이 매우 곤란하다. 그러나, 인터넷의 발전에 따라, 비디오 수복 알고리즘은 예를 들면, 비디오 워터마크의 제거나 비디오의 일부 부분의 제거 등, 보다 광범위한 용도 전개의 가능성이 높아진다.
본 발명의 실시예는 비디오 수복의 해결 수단을 제공한다.
본 발명의 제1 양태에 의하면, 연속된 복수 프레임의 이미지에 대해 인접 이미지 사이의 제1 순방향 옵티컬 플로우(optical flow) 및 제1 역방향 옵티컬 플로우를 취득하는 것과, 상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우 및 상기 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 것과, 상기 제2 순방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 순방향의 전파 최적화를 행하고, 상기 제2 역방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 역방향의 전파 최적화를 행하는 것을, 최적화 후의 연속된 복수 프레임의 이미지의 각각이 전부 수복의 요구를 충족시킬 때까지 실행하는 것과, 순방향의 전파 최적화 및 역방향의 전파 최적화에 의해 얻어진 최적화 이미지에 기초하여 상기 연속된 복수 프레임의 이미지의 수복 이미지를 얻는 것을 포함하는 비디오 수복 방법을 제공한다.
일부 가능한 실시형태에서는, 연속된 복수 프레임의 이미지에 대해 인접 이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득하는 것은 상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과, 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 인접 이미지 사이의 순방향 옵티컬 플로우를 결정하고, 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라, 인접 이미지 사이의 역방항 옵티컬 플로우를 결정하는 것과, i번째 이미지와 i+1번째 이미지 사이의 순방향 옵티컬 플로우에 i+1번째 이미지의 마스크 이미지를 곱셈하여, i번째 이미지와 i+1번째 이미지 사이의 제1 순방향 옵티컬 플로우를 얻고, i+1번째 이미지와 i번째의 이미지 사이의 역방향 옵티컬 플로우에 i번째 이미지의 마스크 이미지를 곱셈하여, i+1번째 이미지와 i번째 이미지 사이의 제1 역방향 옵티컬 플로우를 얻고, i는 1 이상 또한 G 미만의 자연수이고, G는 복수 프레임의 이미지의 이미지 수인 것을 포함한다.
일부 가능한 실시형태에서는, 상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하는 것은 상기 제1 순방향 옵티컬 플로우를 연결하여 제1 연결 옵티컬 플로우를 얻고, 상기 제1 역방향 옵티컬 플로우를 연결하여 제2 연결 옵티컬 플로우를 얻는 것과, 상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 옵티컬 플로우 최적화 처리를 각각 N회 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제2 최적화 옵티컬 플로우를 얻고, N은 1 이상의 자연수인 것과, 상기 제1 최적화 옵티컬 플로우에 기초하여 각 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우를 얻고, 상기 제2 최적화 옵티컬 플로우에 기초하여 각 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 것을 포함한다.
일부 가능한 실시형태에서는, 상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 옵티컬 플로우 최적화 처리를 각각 N회 행하는 것은 상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 1회째의 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우를 얻는 것과, 상기 제1 연결 옵티컬 플로우 및 상기 제2 연결 옵티컬 플로우의 제i 최적화 서브 옵티컬 플로우에 대해 각각 i+1회째의 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우를 얻고, i는 1보다 크고 또한 N보다 작은 자연수인 것을 포함하고, N회째의 최적화 처리에 의해 얻어진 상기 제1 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제1 최적화 옵티컬 플로우로서 결정하고, 얻어진 상기 제2 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제2 최적화 옵티컬 플로우로서 결정하고, 여기에서, 각 회의 옵티컬 플로우 최적화 처리는 잔차 처리 및 업 샘플링 처리를 포함한다.
일부 가능한 실시형태에서는, 상기 제2 순방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 순방향의 전파 최적화를 행하는 것은 상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과, 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 상기 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제1 수복 이미지를 얻는 것과, 얻어진 상기 제1 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제1 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단하는 것을 포함한다.
일부 가능한 실시형태에서는, 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 제2 순방향 옵티컬 플로우에 기초하여 각 이미지의 제1 수복 이미지를 얻는 것은 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 첫 번째 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제1 수복 이미지를 얻는 것과, k번째 이미지와 상기 k번째 이미지의 수복 이미지의 가산 처리를 행하여 k번째 이미지의 제1 가산 이미지를 얻고, k번째 제2 순방향 옵티컬 플로우에서 상기 k번째 제1 가산 이미지에 대해 시프트 처리를 행하여 k+1번째 이미지의 제1 수복 이미지를 얻고, k는 1보다 크고 또한 G보다 작은 자연수이고, G는 복수 프레임의 이미지의 이미지 수를 나타내는 것을 포함한다.
일부 가능한 실시형태에서는, 상기 제2 역방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 역방향의 전파 최적화를 행하는 것은 상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과, 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라, 상기 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제2 수복 이미지를 얻는 것과, 얻어진 상기 제2 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제2 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단하는 것을 포함한다.
일부 가능한 실시형태에서는, 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 상기 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제2 수복 이미지를 얻는 것은 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 첫 번째 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제2 수복 이미지를 얻는 것과, h번째 이미지와 상기 h번째 이미지의 수복 이미지의 가산 처리를 행하여, h번째의 이미지의 제2 가산 이미지를 얻고, h번째 제2 역방향 옵티컬 플로우에서 상기 h번째 제2 가산 이미지에 대해 시프트 처리를 행하여 h+1번째 이미지의 제2 수복 이미지를 얻고, h는 1보다 크고 또한 G 이하의 자연수이고, G는 복수 프레임의 이미지의 이미지 수를 나타내는 것을 포함한다.
일부 가능한 실시형태에서는, 순방향의 전파 최적화 및 역방향의 전파 최적화에 의해 얻어진 최적화 이미지에 기초하여, 상기 연속된 복수 프레임의 이미지의 수복 이미지를 얻는 것은 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 순방향의 전파 최적화에 의해 얻어진 제1 최적화 이미지를 얻는 것과, 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 상기 역방향의 전파 최적화에 의해 얻어진 제2 최적화 이미지를 얻는 것과, 각 이미지의 제1 최적화 이미지와 제2 최적화 이미지의 평균값에 기초하여 당해 이미지의 수복 이미지를 얻고, 상기 복수 프레임의 이미지의 각각의 수복 이미지를 얻는 것을 포함한다.
일부 가능한 실시형태에서는, 상기 방법은 상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우 및 상기 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 것을, 옵티컬 플로우 최적화 모듈에 의해 실행하는 것을 포함하고, 상기 방법은 상기 옵티컬 플로우 최적화 모듈을 트레이닝하는 것을 추가로 포함하며, 상기 트레이닝은 복수군의 옵티컬 플로우 샘플 및 각 옵티컬 플로우 샘플에 대응하는 마스크 샘플과 실제 옵티컬 플로우를 포함하는 트레이닝 샘플을 취득하는 것과, 상기 옵티컬 플로우 최적화 모듈을 사용하여 상기 옵티컬 플로우 샘플에 대해 옵티컬 플로우 최적화 처리를 행하여 대응하는 최적화 옵티컬 플로우를 얻는 것과, 상기 최적화 옵티컬 플로우와 상기 실제 옵티컬 플로우의 비교 결과에 기초하여 상기 최적화 옵티컬 플로우에서 제1 요구를 충족시키는 제1 화소점을 선택하고, 상기 제1 화소점의 마스크 이미지에 있어서의 마스크 값을 조정하여 새로운 마스크 샘플을 얻는 것과, 미리 설정된 손실 함수에 따라 상기 최적화 옵티컬 플로우, 원래의 마스크 샘플 및 새로운 마스크 샘플에 기초하여 손실값을 얻는 것과, 상기 손실값이 트레이닝의 요구를 충족시키는 경우, 트레이닝이 완료된 옵티컬 플로우 최적화 모듈을 얻고, 그렇지 않은 경우, 얻어진 손실값이 트레이닝의 요구를 충족시킬 때까지 상기 옵티컬 플로우 최적화 모듈의 네트워크 파라미터를 조정하여 옵티컬 플로우 샘플의 옵티컬 플로우 최적화 처리를 재실행하는 것을 포함한다.
일부 가능한 실시형태에서는 상기 미리 설정된 손실 함수의 표현식은 이하와 같다.
Figure pct00001
식 중, L은 옵티컬 플로우 최적화 처리의 손실 함수를 나타내고, M은 원래의 마스크 샘플이며,
Figure pct00002
는 새로운 마스크 샘플을 나타내고,
Figure pct00003
는 얻어진 최적화 옵티컬 플로우를 나타내며,
Figure pct00004
는 실제 옵티컬 플로우를 나타내고,
Figure pct00005
는 가중치이다.
본 발명의 제2 양태에 의하면, 연속된 복수 프레임의 이미지에 대해 인접 이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득하기 위한 취득 모듈과, 상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우 및 상기 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻기 위한 옵티컬 플로우 최적화 모듈과, 상기 제2 순방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 순방향의 전파 최적화를 행하고, 상기 제2 역방항 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 역방향의 전파 최적화를 행하는 것을, 최적화 후의 연속된 복수 프레임의 이미지의 각각이 전부 수복의 요구를 충족시킬 때까지 실행하기 위한 전파 최적화 모듈과, 순방향의 전파 최적화 및 역방향의 전파 최적화에 의해 얻어진 최적화 이미지에 기초하여, 상기 연속된 복수 프레임의 이미지의 수복 이미지를 얻기 위한 수복 모듈을 포함하는 비디오 수복 장치를 제공한다.
일부 가능한 실시형태에서는, 상기 취득 모듈은 추가로 상기 복수 프레임의 이미지의 각각의 마스크 이미지를 취득하고, 또한 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 인접 이미지 사이의 순방향 옵티컬 플로우를 결정하고, 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 인접 이미지 사이의 역방향 옵티컬 플로우를 결정하는 것과, i번째 이미지와 i+1번째 이미지 사이의 순방향 옵티컬 플로우에 i+1번째 이미지의 마스크 이미지를 곱셈하여 i번째 이미지와 i+1번째 이미지 사이의 제1 순방향 옵티컬 플로우를 얻고, i+1번째 이미지와 i번째 이미지 사이의 역방향 옵티컬 플로우에 i번째 이미지의 마스크 이미지를 곱셈하여 i+1번째 이미지와 i번째 이미지 사이의 제1 역방향 옵티컬 플로우를 얻고, 상기 마스크 이미지는 대응 이미지의 수복 대상 영역을 나타내고, i는 1 이상 또한 G 미만의 자연수이고, G는 복수 프레임의 이미지의 이미지 수인 것에 사용된다.
일부 가능한 실시형태에서는, 상기 옵티컬 플로우 최적화 모듈은 추가로 상기 제1 순방향 옵티컬 플로우를 연결하여 제1 연결 옵티컬 플로우를 얻고, 상기 제1 역방향 옵티컬 플로우를 연결하여 제2 연결 옵티컬 플로우를 얻는 것과, 상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 옵티컬 플로우 최적화 처리를 각각 N회 행하여 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제2 최적화 옵티컬 플로우를 얻고, N은 1 이상의 자연수인 단계와, 상기 제1 최적화 옵티컬 플로우에 기초하여 각 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우를 얻고, 상기 제2 최적화 옵티컬 플로우에 기초하여 각 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 것에 사용된다.
일부 가능한 실시형태에서는, 상기 옵티컬 플로우 최적화 모듈은 추가로 상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 1회째의 옵티컬 플로우 최적화 처리를 행하여 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우를 얻는 것과, 상기 제1 연결 옵티컬 플로우 및 상기 제2 연결 옵티컬 플로우의 제i 최적화 서브 옵티컬 플로우에 대해 각각 i+1회째의 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우를 얻고, i는 1보다 크고 또한 N보다 작은 자연수인 것에 사용되고, N회째의 최적화 처리에 의해 얻어진 상기 제1 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제1 최적화 옵티컬 플로우로서 결정하고, 얻어진 상기 제2 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제2 최적화 옵티컬 플로우로서 결정하고, 여기에서, 각 회의 옵티컬 플로우 최적화 처리는 잔차 처리 및 업 샘플링 처리를 포함한다.
일부 가능한 실시형태에서는, 상기 전파 최적화 모듈은 상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과, 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 상기 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제1 수복 이미지를 얻는 것과, 얻어진 상기 제1 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제1 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단하는 것에 사용되는 제1 전파 최적화 유닛을 포함한다.
일부 가능한 실시형태에서는, 상기 제1 전파 최적화 유닛은 추가로 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 첫 번째 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제1 수복 이미지를 얻는 것과, k번째 이미지와 상기 k번째 이미지의 수복 이미지의 가산 처리를 행하여 k번째 이미지의 제1 가산 이미지를 얻고, k번째 제2 순방향 옵티컬 플로우에서 상기 k번째 제1 가산 이미지에 대해 시프트 처리를 행하여 k+1번째 이미지의 제1 수복 이미지를 얻고, k는 1보다 크고 또한 G보다 작은 자연수이고, G는 복수 프레임의 이미지의 이미지 수를 나타내는 것에 사용된다.
일부 가능한 실시형태에서는, 상기 전파 최적화 모듈은 상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과, 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라, 상기 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제2 수복 이미지를 얻는 것과, 얻어진 상기 제2 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제2 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단하는 것에 사용되는 제2 전파 최적화 유닛을 추가로 포함한다.
일부 가능한 실시형태에서는, 상기 제2 전파 최적화 유닛은 추가로 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라, 첫 번째 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제2 수복 이미지를 얻는 것과, h번째 이미지와 상기 h번째 이미지의 수복 이미지의 가산 처리를 행하여 h번째 이미지의 제2 가산 이미지를 얻고, h번째 제2 역방향 옵티컬 플로우에서 상기 h번째 제2 가산 이미지에 대해 시프트 처리를 행하여 h+1번째 이미지의 제2 수복 이미지를 얻고, h는 1보다 크고 또한 G 이하의 자연수이고, G는 복수 프레임의 이미지의 이미지 수를 나타내는 것에 사용된다.
일부 가능한 실시형태에서는, 상기 수복 모듈은 추가로 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 순방향의 전파 최적화에 의해 얻어진 제1 최적화 이미지를 얻는 것과, 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 상기 역방향의 전파 최적화에 의해 얻어진 제2 최적화 이미지를 얻는 것과, 각 이미지의 제1 최적화 이미지와 제2 최적화 이미지의 평균값에 기초하여 당해 이미지의 수복 이미지를 얻고, 상기 복수 프레임의 이미지의 각각의 수복 이미지를 얻는 것에 사용된다.
일부 가능한 실시형태에서는, 상기 옵티컬 플로우 최적화 모듈을 트레이닝하기 위한 트레이닝 모듈을 추가로 포함하고, 상기 트레이닝 모듈은 상기 옵티컬 플로우 최적화 모듈에 복수군의 옵티컬 플로우 샘플 및 각 옵티컬 플로우 샘플에 대응하는 마스크 샘플과 실제 옵티컬 플로우를 포함하는 트레이닝 샘플을 입력하는 것과, 상기 옵티컬 플로우 최적화 모듈을 사용하여 상기 옵티컬 플로우 샘플에 대해 옵티컬 플로우 최적화 처리를 행하여 대응하는 최적화 옵티컬 플로우를 얻는 것과, 상기 최적화 옵티컬 플로우와 상기 실제 옵티컬 플로우의 비교 결과에 기초하여 상기 최적화 옵티컬 플로우에서 제1 요구를 충족시키는 제1 화소점을 선택하고, 상기 제1 화소점의 마스크 이미지에서의 마스크 값을 조정하여 새로운 마스크 샘플을 얻는 것과, 미리 설정된 손실 함수에 따라 상기 최적화 옵티컬 플로우, 원래의 마스크 샘플 및 새로운 마스크 샘플에 기초하여 손실값을 얻는 것과, 상기 손실값이 트레이닝의 요구를 충족시키는 경우, 트레이닝이 완료된 옵티컬 플로우 최적화 모듈을 얻고, 그렇지 않은 경우, 얻어진 손실값이 트레이닝의 요구를 충족시킬 때까지 상기 옵티컬 플로우 최적화 모듈의 네트워크 파라미터를 조정하여 옵티컬 플로우 샘플의 옵티컬 플로우 최적화 처리를 재실행하는 것에 사용된다.
일부 가능한 실시형태에서는 상기 미리 설정된 손실 함수의 표현식은 이하와 같다.
Figure pct00006
식 중, L은 옵티컬 플로우 최적화 처리의 손실 함수를 나타내고, M은 원래의 마스크 샘플이며,
Figure pct00007
는 새로운 마스크 샘플을 나타내고,
Figure pct00008
는 얻어진 최적화 옵티컬 플로우를 나타내며,
Figure pct00009
는 실제 옵티컬 플로우를 나타내고,
Figure pct00010
는 가중치이다.
본 발명의 제3 양태에 의하면 프로세서와, 프로세서에 의해 실행 가능한 명령을 기억하기 위한 메모리를 포함하고 상기 프로세서는 제1 양태 중 어느 한 항에 기재된 방법을 실행하도록 구성되는 전자 기기를 제공한다.
본 발명의 제4 양태에 의하면, 컴퓨터 프로그램 명령이 기억되어 있는 컴퓨터 판독 가능 기억 매체로서, 상기 컴퓨터 프로그램 명령은 프로세서에 실행되면 제1 양태 중 어느 한 항에 기재된 방법을 실현시키는 것을 특징으로 하는 컴퓨터 판독 가능 기억 매체를 제공한다.
본 발명의 제5 양태에 의하면, 컴퓨터 판독 가능 코드를 포함하는 컴퓨터 프로그램으로서, 상기 컴퓨터 판독 가능 코드는 전자 기기에서 실행되면, 상기 전자 기기의 프로세서에 제1 양태 중 어느 한 항에 기재된 방법을 실현하기 위한 명령을 실행시키는 컴퓨터 프로그램을 제공한다.
본 발명의 실시예는 동시에 복수의 연속 시간 프레임의 비디오 이미지에 대해 수복 처리를 행할 수 있으며, 여기에서 우선 인접하는 프레임의 이미지 사이의 순방향 옵티컬 플로우 및 역방향 옵티컬 플로우를 최적화하여, 수복 후의 정밀도가 높은 옵티컬 플로우를 취득하고, 그 후 최적화된 순방향 옵티컬 플로우 및 역방향 옵티컬 플로우에 의해 비디오 수복을 가이드하여 비디오 이미지의 수정을 완료할 수 있다. 이 프로세스는 비디오 수복의 정확도를 높임과 함께 프레임 사이의 연속성 및 정합성을 높일 수 있다. 또한 본 발명의 실시예는 수복 속도가 빠르고 수복의 실시간성이 충족된다
이상의 일반 설명과 이하의 상세 설명은 해석하기 위한 예시적인 것에 불과하며, 본 발명을 제한하지 않는 것을 이해해야 한다.
이하의 도면과 관련된 예시적인 실시예에 대한 상세한 설명에 의하면 본 발명의 다른 특징 및 양태는 명확해진다.
여기에서의 도면은 명세서에 포함되어 명세서의 일부를 구성하고, 이들 도면은 본 발명에 합치하는 실시예를 나타내며, 명세서와 함께 본 발명의 기술적 수단을 설명하기 위해 사용된다.
도 1은 본 발명의 실시예에 따른 비디오 수복 방법의 흐름도를 나타낸다.
도 2는 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S100)의 흐름도를 나타낸다.
도 3은 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S200)의 흐름도를 나타낸다.
도 4는 본 발명의 실시예에 따른 옵티컬 플로우 최적화 네트워크의 구성도를 나타낸다.
도 5는 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S300)의 흐름도를 나타낸다.
도 6은 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S302)의 흐름도를 나타낸다.
도 7은 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S300)의 흐름도를 나타낸다.
도 8은 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S3002)의 흐름도를 나타낸다.
도 9는 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S400)의 흐름도를 나타낸다.
도 10은 본 발명의 실시예에 따른 옵티컬 플로우 최적화 모듈의 트레이닝 방법의 흐름도를 나타낸다.
도 11은 본 발명의 실시예에 따른 비디오 수복 장치의 블록도를 나타낸다.
도 12는 본 발명의 실시예에 따른 전자 기기(800)의 블록도를 나타낸다.
도 13은 본 발명의 실시예에 따른 전자 기기(1900)의 블록도를 나타낸다.
이하에 도면을 참조하면서 본 발명의 다양한 예시적 실시예, 특징 및 양태를 상세하게 설명한다. 도면에서의 동일한 부호는 동일 또는 유사한 기능의 요소를 나타낸다. 도면에서 실시예의 다양한 양태를 나타냈으나, 특별히 언급하지 않는 한, 비례에 따라 도면을 작성할 필요는 없다. 여기에서의 용어 「예시적」이란 「예, 실시예로서 사용되는 것 또는 설명적인 것」을 의미한다. 여기에서 「예시적」으로 설명되는 어떠한 실시예도 다른 실시예보다 우수한 것으로 이해해서는 안된다.
본 명세서의 용어의 「및/또는」은 관련 대상의 관련 관계를 기술하기 위한 것에 불과하고, 3개의 관계가 존재 가능함을 나타내며, 예를 들면, A 및/또는 B는 A가 단독으로 존재하거나, A와 B가 동시에 존재하거나, B가 단독으로 존재하는 3개의 경우를 나타낼 수 있다. 또한, 본 명세서의 용어 「하나 이상」은 다종 중 어느 1종 또는 다종 중 적어도 2종의 임의의 조합을 나타내며, 예를 들면, A, B, C 중 하나 이상을을 포함한다는 것은 A, B 및 C로 구성되는 집합에서 선택되는 어느 하나 또는 복수의 요소를 포함하는 것을 나타낼 수 있다.
또한, 본 발명을 보다 효과적으로 설명하기 위해, 이하의 구체적인 실시형태에서 다양하고 구체적인 상세를 나타낸다. 당업자이면 어떤 구체적인 상세가 없어짐에도 불구하고, 본 발명은 동일하게 실시할 수 있는 것으로 이해해야 한다. 일부 실시예에서는 본 발명의 취지를 강조하도록, 당업자에게 이미 알려진 방법, 수단, 요소 및 회로에 대한 상세한 설명을 생략한다.
도 1은 본 발명의 실시예에 따른 비디오 수복 방법의 흐름도를 나타내고, 본 발명의 실시예의 비디오 수복 방법은 비디오 이미지의 수복에 사용할 수 있으며, 또한 본 발명의 실시예는 연속된 비디오 프레임의 수복의 정합성을 보증할 수 있고, 또한 수복 정밀도가 높고 효율이 높다.
본 발명의 실시예는 예를 들면, 휴대 전화, 카메라, 노트북, PAD, 클라우드 서버 등 임의의 단말 기기나 서버 기기일 수 있는 이미지 처리 기기, 또는 비디오 수집 기기에 적용할 수 있고, 이미지 처리 기능을 갖는 것 또는 비디오 정보를 수집할 수 있는 것이면 본 발명의 실시예의 비디오 수복 방법을 적용할 수 있다. 이하, 본 발명의 실시예를 상세히 설명한다.
도 1에 나타내는 바와 같이, 본 발명의 실시예의 비디오 수복 방법은 연속된 복수 프레임의 이미지에 대해 인접 이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득하는 단계(S100)와, 상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우 및 상기 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 단계(S200)와, 상기 제2 순방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 순방향의 전파 최적화를 행하고, 상기 제2 역방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임 이미지에 대해 역방향의 전파 최적화를 행하는 것을, 최적화 후의 연속된 복수 프레임의 이미지의 각각이 전부 수복의 요구를 충족시킬 때까지 실행하는 단계(S300)와, 순방향의 전파 최적화 및 역방향의 전파 최적화에 의해 얻어진 최적화 이미지에 기초하여 상기 연속된 복수 프레임의 이미지의 수복 이미지를 얻는 단계(S400)를 포함해도 된다.
본 발명의 실시예에서는, 예를 들면, 심층 학습 뉴럴 네트워크에 의해 비디오 이미지의 수복을 실현하도록, 구축된 뉴럴 네트워크에 의해 비디오 수복 프로세스를 실행해도 되지만, 이에 대해 본 발명은 구체적으로 한정하지 않으며, 본 발명의 실시예에서는 본 발명의 실시예에 의해 한정되는 기능과 매치하는 알고리즘에 의해 비디오 수복 프로세스를 실행해도 된다.
단계(S100) 전에, 우선 수복 대상의 비디오 이미지를 취득하고, 연속된 비디오 프레임 이미지(즉, 상기 연속된 복수 프레임의 이미지)를 취득하도록 해도 되며, 여기에서 본 발명의 실시예에서는 설정 수의 연속 시간 프레임의 이미지, 예를 들면, 5프레임의 이미지를 취득해도 되고, 또는 다른 실시예에서는 설정 수는 다른 수치여도 되며, 상이한 니즈나 상황에 따라 당업자가 스스로 설정할 수 있다.
연속된 복수 프레임의 이미지를 취득한 후, 당해 복수 프레임의 이미지에 대해 수복 처리를 행할 수 있다. 우선 단계(S100)에서는, 인접 이미지 사이의 옵티컬 플로우를 취득해도 되며, 여기에서 인접 이미지란 인접하는 2프레임의 이미지를 의미한다. 시간 프레임이 시계열적인 것이기 때문에, 본 발명의 실시예에서는 시간의 순방향 및 역방향의 두 가지 방향에서 이미지를 처리하여 비디오의 수복을 실현하도록 해도 된다.
또한, 옵티컬 플로우는 동영상 사이의 변화를 나타내기 위해 사용할 수 있고, 시변 이미지에 있어서의 패턴의 동작 속도를 가리킨다. 대상 물체가 움직이고 있는 경우, 이미지에 있어서의 그 대응점의 휘도 패턴도 움직이고 있기 때문에, 옵티컬 플로우는 이미지 사이의 변화를 나타내기 위해 사용할 수 있고, 또한 옵티컬 플로우에는 대상의 동작 정보가 포함되기 때문에 대상의 동작 상황을 특정하기 위해 관찰자에 의해 사용될 수 있다.
상응하여 본 발명의 실시예에서는, 단계(S100)에 있어서, 예를 들면, 시간 프레임의 순방향 순서에 따라, 두 개의 인접 이미지 사이의 제1 순방향 옵티컬 플로우를 취득하고, 또한 시간 프레임의 역방향 순서에 따라, 두 개의 인접 이미지 사이의 제1 순방향 옵티컬 플로우를 취득하도록, 인접하는 두 개의 이미지 사이마다 옵티컬 플로우를 취득하도록 해도 된다. 여기에서 본 발명의 실시예에 있어서의 복수 프레임의 이미지를
Figure pct00011
로 가정하고, 즉, 예를 들면, 5 또는 다른 수치여도 되는 G프레임의 이미지가 포함될 수 있다. 제1 순방향 옵티컬 플로우
Figure pct00012
는 시간 프레임의 순방향 순서에 따라 취득할 수 있으며, 여기에서
Figure pct00013
는 이미지
Figure pct00014
에서 이미지
Figure pct00015
에 대한 제1 순방향 옵티컬 플로우를 나타내고, i는 1 이상 또한 G 미만의 임의의 정수이다. 또한 제1 역방향 옵티컬 플로우
Figure pct00016
는 시간 프레임의 역방향 순서에 따라 취득할 수 있고, 여기에서
Figure pct00017
는 이미지
Figure pct00018
에서 이미지
Figure pct00019
에 대한 제1 역방향 옵티컬 플로우를 나타내며, j는 1 이상 또한 G 미만의 정수이다.
여기에서, 본 발명의 실시예에서는 예를 들면, Flow Net 2.0일 수 있는 옵티컬 플로우 추정 모델을 사용하여 이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득해도 되며, 본 발명의 다른 실시예에서는 다른 방법으로 이미지 사이의 옵티컬 플로우를 취득해도 되고, 이에 대해 본 발명은 구체적으로 한정하지 않는다.
또한, 옵티컬 플로우 최적화의 정확도를 높이기 위해, 본 발명의 실시예에서는 마스크 이미지를 병용하여 이미지 사이의 옵티컬 플로우를 처리하고, 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득하도록 해도 된다. 도 2는 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S100)의 흐름도를 나타낸다. 여기에서, 연속된 복수 프레임의 이미지에 대해 인접 이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득하는 것은 이하를 포함해도 된다.
단계(S101)에서는 상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득한다.
본 발명의 실시예에서는 취득된 복수 프레임의 이미지 중 어떤 것도 대응하는 마스크 이미지를 가져도 되며, 당해 마스크 이미지는 인위적으로 결정되어도 된다. 예를 들면, 각 이미지 내의 수복해야 할 영역에 따라 대응하는 마스크 이미지를 제작해도 되고, 여기에서 마스크 이미지의 스케일은 대응 이미지의 스케일과 동일하고, 또한 마스크 이미지에 있어서의 화소점은 대응 이미지의 화소점과 일대일 대응이 되어 있다. 본 발명의 실시예에서는 수복 대상 영역 내의 화소점의, 마스크 이미지에 있어서의 마스크를 1로서 정의하고, 다른 수복 대상 외의 영역의 화소점의, 마스크 이미지에 있어서의 마스크를 0으로서 정의하도록 해도 되며, 또는 수복 대상 영역 내의 화소점의, 마스크 이미지에 있어서의 마스크를 0으로서 정의하고, 다른 수복 대상 외의 영역의 화소점의, 마스크 이미지에 있어서의 마스크를 1로서 정의하도록 해도 되며, 마스크는 상이한 니즈에 따라 당업자에 의해 설정되어도 되며, 이에 대해 본 발명은 구체적으로 한정하지 않는다.
단계(S102)에서는 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 인접 이미지 사이의 순방향 옵티컬 플로우를 결정하고, 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라, 인접 이미지 사이의 역방향 옵티컬 플로우를 결정한다.
이 프로세스는 상기 실시예에 설명된 옵티컬 플로우를 결정하는 프로세스와 동일하고, 예를 들면, 옵티컬 플로우 추정 모델에 의해 복수 프레임의 이미지에서 인접 이미지 사이의 순방향 옵티컬 플로우 및 역방향 옵티컬 플로우를 취득하도록 해도 되며, 여기에서 이 프로세스의 상세에 대해 다시 설명하지 않는다.
여기에서 설명해야 하는 것으로서, 단계(S101)와 단계(S102)의 순서에 대해 본 발명의 실시예는 구체적으로 한정하지 않고, 단계(S101)는 단계(S102)의 전에 실행해도 되며, 단계(S102)의 후에 실행해도 되고, 단계(S101)와 단계(S102)를 동시에 실행해도 된다. 단계(S103)를 실행하기 전에 각 이미지의 마스크 이미지 및 임의의 두 개의 인접 이미지 사이의 순방향 옵티컬 플로우와 역방향 옵티컬 플로우가 특정되어 있으면 본 발명의 실시예가 될 수 있다.
단계(S103)에서는 i번째 이미지와 i+1번째 이미지 사이의 순방향 옵티컬 플로우에 i+1번째 이미지의 마스크 이미지를 곱셈하여 i번째 이미지와 i+1번째 이미지 사이의 제1 순방향 옵티컬 플로우를 얻고, i+1번째 이미지와 i번째 이미지 사이의 역방향 옵티컬 플로우에 i번째 이미지의 마스크 이미지를 곱셈하여 i+1번째 이미지와 i번째 이미지 사이의 제1 역방향 옵티컬 플로우를 얻고, 여기에서 i는 1 이상 또한 G 미만의 자연수이고, G는 복수 프레임의 이미지의 이미지 수이다.
즉, 본 발명의 실시예에서는 순방향 옵티컬 플로우에 대응하는 마스크 이미지를 곱셈하여 순방향 옵티컬 플로우 중, 최적화가 필요한 옵티컬 플로우 영역을 특정하고, 대응하는 제1 순방향 옵티컬 플로우를 얻도록 해도 된다. 동일하게, 역방향 옵티컬 플로우에 대응하는 마스크 이미지를 곱셈하여 역방향 옵티컬 플로우 중, 최적화가 필요한 옵티컬 플로우 영역을 특정하여, 대응하는 제1 역방향 옵티컬 플로우를 얻도록 해도 된다.
상기 실시예에서 설명한 바와 같이, 복수 프레임의 이미지를
Figure pct00020
로 하고, 얻어진 인접 이미지 사이의 순방향 옵티컬 플로우를
Figure pct00021
로 하고, 이미지 사이의 역방향 옵티컬 플로우를
Figure pct00022
로 하도록 해도 된다. 여기에서 각 이미지의 마스크 이미지는
Figure pct00023
로 나타내도 되고,
Figure pct00024
는 k번째 이미지
Figure pct00025
의 마스크 이미지를 나타내며, k는 1 이상 또한 G 이하의 정수이다.
상응하여 본 발명의 실시예에서는 첫 번째 이미지
Figure pct00026
와 두 번째 이미지
Figure pct00027
사이의 순방향 옵티컬 플로우를 얻은 후, 예를 들면, 대응 요소를 곱셈하도록, 당해 순방향 옵티컬 플로우에 두 번째 이미지
Figure pct00028
의 마스크 이미지
Figure pct00029
를 곱셈하여 첫 번째 이미지
Figure pct00030
와 두 번째 이미지
Figure pct00031
사이의 제1 순방향 옵티컬 플로우를 얻도록 해도 된다. 동일하게, 두 번째 이미지
Figure pct00032
와 세 번째 이미지
Figure pct00033
사이의 순방향 옵티컬 플로우를 얻고, 그리고 예를 들면, 대응 요소를 곱셈하도록, 당해 순방향 옵티컬 플로우에 세 번째 이미지
Figure pct00034
의 마스크 이미지
Figure pct00035
를 곱셈하여 두 번째 이미지
Figure pct00036
와 세 번째 이미지
Figure pct00037
사이의 제1 순방향 옵티컬 플로우를 얻도록 해도 된다. 동일하게, 예를 들면, 대응 요소를 곱셈하도록, i번째 이미지와 i+1번째 이미지 사이의 순방향 옵티컬 플로우에 i+1번째 이미지의 마스크 이미지를 곱셈하여 i번째 이미지와 i+1번째 이미지 사이의 제1 순방향 옵티컬 플로우를 얻도록 해도 된다. 이렇게 하여, 인접 이미지 사이의 제1 순방향 옵티컬 플로우
Figure pct00038
를 얻을 수 있다.
또한, 동일하게 본 발명의 실시예에서는 마지막 이미지
Figure pct00039
와 마지막에서 두 번째 이미지
Figure pct00040
사이의 역방향 옵티컬 플로우를 얻은 후, 예를 들면, 대응 요소를 곱셈하도록, 당해 역방향 옵티컬 플로우에 당해 마지막에서 두 번째 이미지
Figure pct00041
의 마스크 이미지
Figure pct00042
를 곱셈하여 마지막 이미지
Figure pct00043
와 마지막에서 두 번째 이미지
Figure pct00044
사이의 제1 역방향 옵티컬 플로우를 얻도록 해도 된다. 동일하게 마지막에서 두 번째 이미지
Figure pct00045
와 마지막에서 세 번째 이미지
Figure pct00046
사이의 역방향 옵티컬 플로우를 얻고, 예를 들면, 대응 요소를 곱셈하도록, 당해 역방향 옵티컬 플로우에 마지막에서 세 번째 이미지
Figure pct00047
의 마스크 이미지
Figure pct00048
를 곱셈하여 마지막에서 두 번째 이미지
Figure pct00049
와 마지막에서 세 번째 이미지
Figure pct00050
사이의 제1 역방향 옵티컬 플로우를 얻도록 해도 된다. 동일하게 예를 들면, 대응 요소를 곱셈하도록, i+1번째 이미지와 i번째 이미지 사이의 역방향 옵티컬 플로우에 i번째 이미지의 마스크 이미지를 곱셈하여 i+1번째 이미지와 i번째 이미지 사이의 제1 역방향 옵티컬 플로우를 얻도록 해도 된다. 상기와 같이 하여 인접 이미지 사이의 제1 역방향 옵티컬 플로우?를 얻을 수 있다.
본 발명의 실시예에서는 얻어진 순방향 옵티컬 플로우 및 역방향 옵티컬 플로우에 대응 이미지의 마스크 이미지를 곱셈함으로써, 대응하는 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 얻는다. 얻어진 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에는 옵티컬 플로우 최적화가 필요한 영역이 포함될 수 있기 때문에 옵티컬 플로우의 최적화 정밀도를 높일 수 있다.
이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 얻은 후, 옵티컬 플로우에 대해 최적화 처리, 즉 단계(S200)를 실행해도 된다. 본 발명의 실시예에서는 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 최적화를 행하여, 대응하는 제2 순방향 옵티컬 플로우 및 제2 역방향 옵티컬 플로우를 얻도록 해도 된다. 본 발명의 실시예의 옵티컬 플로우 최적화 프로세스는 하나 이상의 옵티컬 플로우 최적화 네트워크 모듈을 포함할 수 있는 옵티컬 플로우 최적화 네트워크에 의해 실현되어도 되고, 각 옵티컬 플로우 최적화 네트워크 모듈은 동일하다. 옵티컬 플로우 최적화 횟수는 옵티컬 플로우 최적화 네트워크 모듈의 수에 따라 결정할 수 있고, 옵티컬 플로우 최적화 처리의 횟수에 대해 본 발명의 실시예는 구체적으로 한정하지 않고, 상이한 니즈에 따라 당업자에 의해 선택 및 설정할 수 있다. 이하, 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우의 최적화 프로세스를 각각 상세히 설명한다.
도 3은 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S200)의 흐름도를 나타내며, 여기에서, 상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하는 것은 이하를 포함한다.
단계(S201)에서는 상기 제1 순방향 옵티컬 플로우를 연결하여 제1 연결 옵티컬 플로우를 얻고, 상기 제1 역방향 옵티컬 플로우를 연결하여 제2 연결 옵티컬 플로우를 얻는다.
본 발명의 실시예에서는 옵티컬 플로우 최적화를 행하기 전에, 우선은 예를 들면, 각각 종속하도록 인접 이미지 사이의 제1 순방향 옵티컬 플로우를 각각 연결한다. 여기에서 깊이 방향에서 제1 순방향 옵티컬 플로우를 연결하여 다층의 제1 순방향 옵티컬 플로우로 이루어지는 제1 연결 옵티컬 플로우를 형성한다. 동일하게 예를 들면, 깊이 방향에서 제1 역방향 옵티컬 플로우를 연결하도록 인접 이미지 사이의 제1 역방향 옵티컬 플로우를 각각 연결하여 다층의 제1 역방향 옵티컬 플로우로 이루어지는 제2 연결 옵티컬 플로우를 형성하도록 해도 된다.
단계(S202)에서는 상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 옵티컬 플로우 최적화 처리를 각각 N회 행하여 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제2 최적화 옵티컬 플로우를 얻고, 여기에서 N은 1 이상의 자연수이다.
제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우를 얻은 후, 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하도록 해도 되며, 상기 실시예에서 설명한 바와 같이 본 발명의 실시예에서는 옵티컬 플로우 최적화 처리 프로세스를 적어도 1회 행해도 된다. 예를 들면, 본 발명의 실시예에서는 뉴럴 네트워크에서 구성되어도 되는 옵티컬 플로우 최적화 모듈에 의해 매회의 옵티컬 플로우 최적화 처리를 실행해도 되고, 또는, 대응하는 알고리즘으로 최적화의 조작을 실행해도 된다. 상응하여 옵티컬 플로우 최적화 처리를 N회 행할 경우, N개의 순차 접속되는 옵티컬 플로우 최적화 네트워크 모듈을 포함하고, 전의 옵티컬 플로우 최적화 네트워크 모듈의 출력을, 다음의 옵티컬 플로우 최적화 네트워크 모듈의 입력으로 하고, 마지막의 옵티컬 플로우 최적화 네트워크 모듈의 출력을, 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대한 최적화의 결과로 하도록 해도 된다.
하나의 옵티컬 플로우 최적화 네트워크 모듈을 포함하는 경우, 당해 옵티컬 플로우 최적화 네트워크 모듈을 사용하여 제1 연결 옵티컬 플로우에 대해 최적화 처리를 행하여 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우를 얻고, 옵티컬 플로우 최적화 네트워크 모듈에 의해 제2 연결 옵티컬 플로우에 대해 최적화 처리를 행하여, 제2 연결 옵티컬 플로우에 대응하는 제2 최적화 서브 옵티컬 플로우를 얻도록 해도 된다. 여기에서 옵티컬 플로우 최적화 처리는 잔차 처리 및 업 샘플링 처리를 포함해도 되며, 즉, 옵티컬 플로우 최적화 네트워크 모듈은 잔차 유닛 및 업 샘플링 유닛을 추가로 포함해도 된다. 복수의 합성곱층을 포함할 수 있는 잔차 유닛에 의해, 입력되는 제1 연결 옵티컬 플로우나 제2 연결 옵티컬 플로우에 대해 잔차 처리를 행한다. 각 합성곱층에 사용되는 합성곱 커널에 대해, 본 발명의 실시예는 구체적으로 한정하지 않고 잔차 유닛에 의해 잔차 처리된 제1 연결 옵티컬 플로우의 스케일은 축소, 예를 들면, 입력되는 연결 옵티컬 플로우의 스케일의 4분의 1로 축소되며, 이에 대해 본 발명은 구체적으로 한정하지 않고 필요에 따라 설정해도 된다. 잔차 처리를 행한 후 잔차 처리를 거친 제1 연결 옵티컬 플로우나 제2 연결 옵티컬 플로우에 대해 업 샘플링 처리를 행해도 되며 업 샘플링 처리에 의해 출력되는 제1 최적화 서브 옵티컬 플로우의 스케일을 제1 연결 옵티컬 플로우의 스케일로 조정하고, 또한 출력되는 제2 최적화 서브 옵티컬 플로우의 스케일을 제2 연결 옵티컬 플로우의 스케일로 조정할 수 있다. 또한, 옵티컬 플로우 최적화의 프로세스에 의해 복수의 옵티컬 플로우의 특징을 융합할 수 있고, 또한 옵티컬 플로우의 정밀도를 높일 수 있다.
다른 실시예에서는 옵티컬 플로우 최적화 모듈은 복수의 옵티컬 플로우 최적화 네트워크 모듈, 예를 들면, N개의 옵티컬 플로우 최적화 네트워크 모듈을 포함해도 된다. 그 중 첫 번째 옵티컬 플로우 최적화 네트워크 모듈은 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우를 수신하고, 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우의 각각에 대해 잔차 처리 및 업 샘플링 처리가 포함되는 1회째의 옵티컬 플로우 최적화 처리를 행하도록 해도 되며, 그 구체적인 프로세스는 상기 실시예와 동일하고, 여기에서는 설명을 생략한다. 당해 1회째의 옵티컬 플로우 최적화 처리에 의해 제1 연결 옵티컬 플로우의 제1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우의 제1 최적화 서브 옵티컬 플로우를 얻을 수 있다.
또한, 당해 제1 연결 서브 옵티컬 플로우 및 제2 연결 서브 옵티컬 플로우를 잔차 처리를 행하는 잔차 유닛 및 업 샘플링 처리를 행하는 업 샘플링 유닛이 동일하게 포함될 수 있는 두 번째 옵티컬 플로우 최적화 네트워크 모듈에 입력하여 2회째의 옵티컬 플로우 최적화 처리를 행한다. 두 번째 옵티컬 플로우 최적화 네트워크 모듈에 의해 제1 연결 서브 옵티컬 플로우 및 제2 연결 서브 옵티컬 플로우의 옵티컬 플로우 최적화 처리를 행해도 되며, 그 구체적인 프로세스는 상기 실시예와 동일하고, 여기에서는 설명을 생략한다. 당해 2회째의 옵티컬 플로우 최적화 처리에 의해 제1 연결 옵티컬 플로우의 제2 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우의 제2 최적화 서브 옵티컬 플로우를 얻을 수 있다.
동일하게 각 옵티컬 플로우 최적화 네트워크 모듈을 사용하여 각각 옵티컬 플로우 최적화 프로세스를 1회 행해도 되며, 즉, i+1번째 옵티컬 플로우 최적화 네트워크 모듈을 사용하여 상기 제1 연결 옵티컬 플로우 및 상기 제2 연결 옵티컬 플로우의 제i 최적화 서브 옵티컬 플로우에 대해 i+1번째 옵티컬 플로우 최적화 처리를 행하고, 상기 제1 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우를 얻도록 해도 되고, 여기에서, i는 1보다 크고 또한 N보다 작은 자연수이다. 최종적으로는 N번째 옵티컬 플로우 최적화 네트워크 모듈에 의해 행해지는 N번째의 최적화 처리에 의해 제1 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 얻을 수 있고, 또한 얻어진 상기 제1 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제1 최적화 옵티컬 플로우로서 결정하고, 얻어진 상기 제2 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제2 최적화 옵티컬 플로우로서 결정할 수 있다. 본 발명의 실시예에서는 각 옵티컬 플로우 최적화 네트워크 모듈에 의해 실행되는 옵티컬 플로우 최적화 처리 프로세스는 전부 잔차 처리 및 업 샘플링 처리를 포함해도 되고, 즉, 각 옵티컬 플로우 최적화 네트워크 모듈은 동일한 옵티컬 플로우 최적화 모듈이어도 된다.
예를 들면, 도 4는 본 발명의 실시예에 따른 옵티컬 플로우 최적화 네트워크의 구성도를 나타내고, 그 중에 세 개의 옵티컬 플로우 최적화 네트워크 모듈 A, B 및 C를 포함해도 된다. 당해 세 개의 옵티컬 플로우 최적화 네트워크 모듈의 각각은 잔차 유닛 및 업 샘플링 유닛으로 구성되어도 된다. 여기에서 첫 번째 옵티컬 플로우 최적화 네트워크 모듈 A에 의해 제1 연결 옵티컬 플로우
Figure pct00051
및 제2 연결 옵티컬 플로우
Figure pct00052
의 1회째의 옵티컬 플로우 최적화 처리를 행하여, 제1 연결 옵티컬 플로우의 제1 연결 서브 옵티컬 플로우
Figure pct00053
및 제2 연결 옵티컬 플로우의 제1 연결 서브 옵티컬 플로우
Figure pct00054
를 얻도록 해도 된다. 당해 제1 연결 서브 옵티컬 플로우
Figure pct00055
및
Figure pct00056
를 각각 두 번째 옵티컬 플로우 최적화 네트워크 모듈 B에 입력하고 2회째의 옵티컬 플로우 최적화 처리를 행하여, 제1 연결 옵티컬 플로우의 제2 연결 서브 옵티컬 플로우
Figure pct00057
및 제2 연결 옵티컬 플로우의 제2 연결 서브 옵티컬 플로우
Figure pct00058
를 얻는다. 추가로, 제2 연결 서브 옵티컬 플로우
Figure pct00059
및
Figure pct00060
를 각각 3번째 옵티컬 플로우 최적화 네트워크 모듈 C에 입력하고, 각각 3회째의 옵티컬 플로우 최적화 처리를 행하여, 제1 연결 옵티컬 플로우에 대응하는 제3 최적화 서브 옵티컬 플로우
Figure pct00061
및 제2 연결 옵티컬 플로우에 대응하는 제3 최적화 서브 옵티컬 플로우
Figure pct00062
를 얻는다. 이 때, 최종회의 옵티컬 플로우 최적화 처리로 얻어진 제1 연결 옵티컬 플로우의 제3 최적화 서브 옵티컬 플로우를 제1 최적화 옵티컬 플로우로서 결정하고, 최종회의 옵티컬 플로우 최적화 처리로 얻어진 제2 연결 옵티컬 플로우의 제3 최적화 서브 옵티컬 플로우를 제2 최적화 옵티컬 플로우로서 결정하도록 해도 된다.
단계(S203)에서는 상기 제1 최적화 옵티컬 플로우에 기초하여 각 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우를 얻고, 상기 제2 최적화 옵티컬 플로우에 기초하여 각 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는다.
N회의 옵티컬 플로우 최적화 처리를 거친 후, 얻어진 제1 최적화 옵티컬 플로우의 스케일은 제1 연결 옵티컬 플로우의 스케일과 동일하고, 깊이 방향에 따라 당해 제1 최적화 옵티컬 플로우를 각각 제1 순방향 옵티컬 플로우의 최적화 결과에 대응하는 G개의 제2 순방향 옵티컬 플로우로 분할하도록 해도 된다. 동일하게 N회의 옵티컬 플로우 최적화 처리를 거친 후, 얻어진 제2 최적화 옵티컬 플로우의 스케일은 제2 연결 옵티컬 플로우의 스케일과 동일하고, 깊이 방향에 따라 당해 제2 최적화 옵티컬 플로우를, 각각 제1 역방향 옵티컬 플로우의 최적화 결과에 대응하는 G개의 제2 역방향 옵티컬 플로우로 분할하도록 해도 된다.
상기 실시예에 의해 이미지 사이의 제1 순방향 옵티컬 플로우를 최적화한 후의 제2 순방향 옵티컬 플로우 및 이미지 사이의 제1 역방향 옵티컬 플로우를 최적화한 후의 제2 역방향 옵티컬 플로우를 얻을 수 있다. 옵티컬 플로우를 최적화함으로써, 비디오 수복의 정확도를 실현할 수 있다.
최적화된 옵티컬 플로우를 얻은 후, 당해 최적화된 제2 순방향 옵티컬 플로우 및 제2 역방향 옵티컬 플로우를 사용하여 복수 프레임의 이미지의 순방향 가이드 및 역방향 가이드를 각각 행하여, 최종적인 수복 이미지를 얻도록 해도 된다. 이하, 순방향 가이드 및 역방향 가이드의 프로세스를 각각 설명한다.
도 5는 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S300)의 흐름도를 나타내고, 여기에서 상기 제2 순방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 순방향의 전파 최적화를 행하는 것은 이하를 포함한다.
단계(S301)에서는 상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득한다.
상술한 바와 같이, 본 발명의 실시예에서는 각 이미지는 전부 대응 이미지 내의 수복해야 하는 수복 대상 영역을 나타내기 위한 마스크 이미지에 대응하도록 해도 된다. 당해 영역 내의 화소점에 대응하는 마스크를 1로 하고 다른 영역의 마스크를 0으로 하도록 해도 되고, 또는 수복 대상 영역의 화소점의 마스크를 0으로 하고, 다른 영역의 화소점의 마스크를 1로 하도록 해도 된다. 이에 대해 본 발명은 구체적으로 한정하지 않는다.
단계(S302)에서는 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제1 수복 이미지를 얻는다.
본 발명의 실시예에서는 얻어진 제2 순방향 옵티컬 플로우는 시간 프레임의 순방향 순서로 인접하는 2개의 이미지 사이의 옵티컬 플로우, 즉 전의 이미지에서 다음의 이미지로의 옵티컬 플로우를 나타낸다. 따라서, 얻어진 제2 순방향 옵티컬 플로우에 기초하여 이미지를 가이드하고, 즉, 각 이미지의, 대응하는 제2 순방향 옵티컬 플로우의 옵티컬 플로우 변화의 조건하에서 얻어진 새로운 이미지를 특정할 수 있고, 당해 새로운 이미지는 다음의 이미지의 제1 수복 이미지가 된다.
도 6은 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S302)의 흐름도를 나타내며, 본 발명의 실시예에서는 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 제2 순방향 옵티컬 플로우에 기초하여 각 이미지의 제1 수복 이미지를 얻는 것은 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 첫 번째 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제1 수복 이미지를 얻는 단계(S3021)와, k번째 이미지와 상기 k번째 이미지의 수복 이미지의 가산 처리를 행하여 k번째 이미지의 제1 가산 이미지를 얻고, k번째 제2 순방향 옵티컬 플로우에서 상기 k번째의 제1 가산 이미지에 대해 시프트 처리를 행하여, k+1번째 이미지의 제1 수복 이미지를 얻고, k는 1보다 크고 또한 G보다 작은 자연수이고, G는 복수 프레임의 이미지의 이미지 수를 나타내는 단계(S3022)를 포함해도 된다.
여기에서, 시간 프레임의 순방향 순서에 따라 제2 순방향 옵티컬 플로우를
Figure pct00063
로 나타내도 되고, 여기에서
Figure pct00064
는 i-1번째 이미지
Figure pct00065
와 i번째 이미지
Figure pct00066
사이의 제2 순방향 옵티컬 플로우를 나타내며, i는 1보다 크고 또한 G 이하의 정수이다. 상응하여 제2 역방향 옵티컬 플로우를
Figure pct00067
로 나타내도 되며, 여기에서,
Figure pct00068
는 j+1번째 이미지
Figure pct00069
와 j번째 이미지
Figure pct00070
사이의 제2 역방향 옵티컬 플로우를 나타내며, j는 1 이상 또한 G 미만의 정수이다.
상응하여 첫 번째 제2 순방향 옵티컬 플로우
Figure pct00071
의 옵티컬 플로우 변화에 기초하여 첫 번째 이미지
Figure pct00072
에 대해 시프트 처리를 행하고, 두 번째 이미지
Figure pct00073
의 제1 수복 이미지가 될 수 있는 새로운 이미지
Figure pct00074
를 얻도록 해도 된다. 그 후, 제2 이미지
Figure pct00075
및 그 제1 수복 이미지
Figure pct00076
에 대해 예를 들면, 요소를 대응하여 가산하도록 가산 처리를 행하고, 두 번째 이미지
Figure pct00077
의 제1 가산 이미지를 얻도록 해도 된다. 당해 가산 처리에 의해, 최적화된 제2 순방향 옵티컬 플로우에 의한 제2 이미지의 수복 대상 영역의 수복, 예를 들면, 대응하는 화소값의 보완이나 화소값의 조정 등을 실현할 수 있다.
또한, 두 번째 제2 순방향 옵티컬 플로우
Figure pct00078
의 옵티컬 플로우 변화에 의해 두 번째 이미지
Figure pct00079
의 제1 가산 이미지에 대해 시프트 처리를 행하고, 세 번째의 이미지
Figure pct00080
의 제1 수복 이미지가 될 수 있는 새로운 이미지
Figure pct00081
를 얻도록 해도 된다. 그 후, 세 번째 이미지
Figure pct00082
및 그 제1 수복 이미지
Figure pct00083
에 대해 예를 들면, 요소를 대응하여 가산하도록 가산 처리를 행하여, 3번째 이미지
Figure pct00084
의 제1 가산 이미지를 얻도록 해도 된다. 당해 가산 처리에 의해 최적화된 제2 순방향 옵티컬 플로우에 의한 세 번째 이미지의 수복 대상 영역의 수복, 예를 들면, 대응하는 화소값의 보완이나 화소값의 조정 등을 실현할 수 있다.
동일하게 k번째 제2 순방향 옵티컬 플로우
Figure pct00085
의 옵티컬 플로우 변화에 의해 k번째 이미지
Figure pct00086
의 제1 가산 이미지에 대해 시프트 처리를 행하고, k번째 이미지
Figure pct00087
의 제1 수복 이미지가 될 수 있는 새로운 이미지
Figure pct00088
를 얻도록 해도 된다. 그 후, k번째 이미지
Figure pct00089
및 그 제1 수복 이미지
Figure pct00090
에 대해 예를 들면, 요소를 대응하여 가산하도록 가산 처리를 행하고, k+1번째 이미지
Figure pct00091
의 제1 가산 이미지를 얻도록 해도 된다. 당해 가산 처리에 의해, 최적화된 제2 순방향 옵티컬 플로우에 의한 k번째 이미지의 수복 대상 영역의 수복, 예를 들면, 대응하는 화소값의 보완이나 화소값의 조정 등을 실현할 수 있다.
상기 실시예에 의하면 각 이미지의 제1 수복 이미지를 얻을 수 있고, 당해 제1 수복 이미지에는 일부 수복 대상 영역의 화소값이 보완(즉, 수복)될 수 있다.
단계(S303)에서는 얻어진 상기 제1 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제1 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단한다.
상기 실시예에서 설명한 바와 같이 이미지의 제1 수복 이미지를 얻은 후, k번째 이미지의 제1 수복 이미지 내의 수복 대상 영역이 있는 화소점이 수복되고, 즉, 수복된 화소값이 생겼을 경우, 예를 들면, 원래의 마스크값이 1이면 0으로 조정하고 그 반대도 또한 동일하게 당해 k번째 이미지의 마스크 이미지에 있어서의 대응하는 화소점의 마스크 값을 역전하도록 해도 된다.
이미지의 마스크 이미지 조정을 완료한 후, 얻어진 제1 수복 이미지에 대해 각 이미지에 대응하는 마스크 이미지에는 수복 대상 영역이 없어질 때까지 단계(S302)를 반복 실행해도 되며, 이 때 이미지의 순방향 가이드 프로세스가 완료되고, 즉, 각 이미지의 제1 최적화 이미지가 얻어진다.
도 7은 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S300)의 흐름도를 나타내고, 여기에서 상기 제2 역방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 역방향의 전파 최적화를 행하는 것은 이하를 포함해도 된다.
단계(S3001)에서는 상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득한다.
당해 프로세스는 단계(S301)와 동일하고, 여기에서 반복해서 설명하지 않는다.
단계(S3002)에서는 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 상기 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제2 수복 이미지를 얻는다.
본 발명의 실시예에서는 얻어진 제2 역방향 옵티컬 플로우는 시간 프레임의 역방향 순서로 인접하는 두 개의 이미지 사이의 옵티컬 플로우, 즉, 다음의 이미지에서 전의 이미지로의 옵티컬 플로우를 나타낸다. 따라서, 얻어진 제2 역방향 옵티컬 플로우에 기초하여 이미지에 대해 역방향 가이드를 행하여 즉, 각 이미지의, 대응하는 제2 역방향 옵티컬 플로우의 옵티컬 플로우 변화의 조건하에서 얻어진 새로운 이미지를 특정할 수 있고, 당해 새로운 이미지는 다음의 이미지의 제1 수복 이미지가 된다.
도 8은 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S3002)의 흐름도를 나타내고, 본 발명의 실시예에서는 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 상기 제2 역방향 옵티컬 플로우에 기초하여 각 이미지의 제2 수복 이미지를 얻는 것은
상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 첫 번째 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제2 수복 이미지를 얻는 단계(S30021)와,
h번째 이미지와 상기 h번째 이미지의 수복 이미지의 가산 처리를 행하여 h번째 이미지의 제2 가산 이미지를 얻고, h번째 제2 역방향 옵티컬 플로우에서 상기 h번째 제2 가산 이미지에 대해 시프트 처리를 행하여 h+1번째 이미지의 제2 수복 이미지를 얻고, h는 1보다 크고 또한 G 이하의 자연수이고, G는 복수 프레임의 이미지의 이미지 수를 나타내는 단계(S30022)를 포함해도 된다.
여기에서 설명해야 하는 것으로서 본 발명의 실시예에서는 시간 프레임의 순방향 순서에 따라 이미지를
Figure pct00092
로 나타내고, 상응하여 시간 프레임의 역방향 순서에 따라, 이미지를
Figure pct00093
로서 나타내도록 해도 된다. 또한, 역방향 순서의 첫 번째 이미지를
Figure pct00094
로 하고, 상응하여 두 번째 이미지를
Figure pct00095
로 하고, 이후 동일하게, G번째 이미지를
Figure pct00096
로 하도록 해도 된다.
또한, 시간 프레임의 역방향 순서에 따라 제2 역방향 옵티컬 플로우를
Figure pct00097
로 나타내도 되고, 여기에서
Figure pct00098
는 i-1번째 이미지
Figure pct00099
와 i번째 이미지
Figure pct00100
사이의 제2 순방향 옵티컬 플로우를 나타내며, i는 1보다 크고 또한 G 이하의 정수이다. 상응하여 제2 역방향 옵티컬 플로우를
Figure pct00101
로 나타내도 되고, 여기에서
Figure pct00102
는 j+1번째 이미지
Figure pct00103
와 j번째 이미지
Figure pct00104
사이의 제2 역방향 옵티컬 플로우를 나타내며, j는 1 이상 또한 G 미만의 정수이다.
단계(S30021)에서는 첫 번째 제2 역방향 옵티컬 플로우
Figure pct00105
의 옵티컬 플로우 변화에 기초하여 역방향 순서에서의 첫 번째 이미지
Figure pct00106
에 대해 시프트 처리를 행하여, 역방향 순서에서의 2번째 이미지
Figure pct00107
의 제2 수복 이미지가 될 수 있는 새로운 이미지
Figure pct00108
를 얻도록 해도 된다. 그 후, 역방향 순서의 두 번째 이미지
Figure pct00109
및 그 제2 수복 이미지
Figure pct00110
에 대해, 예를 들면, 요소를 대응하여 가산하도록 가산 처리를 행하고, 두 번째 이미지
Figure pct00111
의 제2 가산 이미지를 얻도록 해도 된다. 당해 가산 처리에 의해 최적화된 제2 역방향 옵티컬 플로우에 의한 마지막에서 2번째 이미지의 수복 대상 영역의 수복, 예를 들면, 대응하는 화소값의 보완이나 화소값의 조정 등을 실현할 수 있다.
또한, 두 번째 제2 역방향 옵티컬 플로우
Figure pct00112
의 옵티컬 플로우 변화에 의해 역방향 순서의 두 번째 이미지
Figure pct00113
의 제2 가산 이미지에 대해 시프트 처리를 행하여, 역방향 순서의 세 번째 이미지
Figure pct00114
의 제2 수복 이미지가 될 수 있는 새로운 이미자
Figure pct00115
를 얻도록 해도 된다. 그 후, 역방향 순서의 세 번째 이미지
Figure pct00116
및 그 제1 수복 이미지
Figure pct00117
에 대해 예를 들면, 요소를 대응하여 가산하도록 가산 처리를 행하여, 당해 역방향 순서의 3번째 이미지
Figure pct00118
의 제1 가산 이미지를 얻도록 해도 된다. 당해 가산 처리에 의해, 최적화된 제2 역방향 옵티컬 플로우에 의한 마지막에서 3번째 이미지의 수복 대상 영역의 수복, 예를 들면, 대응하는 화소값의 보완이나 화소값의 조정 등을 실현할 수 있다.
동일하게 h번째 제2 역방향 옵티컬 플로우
Figure pct00119
의 옵티컬 플로우 변화에 의해, 역방향 순서의 h번째 이미지
Figure pct00120
의 제2 가산 이미지에 대해 시프트 처리를 행하여, 역방향 순서의 h+1번째 이미지
Figure pct00121
의 제2 수복 이미지가 될 수 있는 새로운 이미지
Figure pct00122
를 얻도록 해도 된다. 그 후, 역방향 순서의 h+1번째 이미지
Figure pct00123
및 그 제2 수복 이미지
Figure pct00124
에 대해 예를 들면, 요소를 대응하여 가산하도록 가산 처리를 행하여, 역방향 순서의 h+1번째 이미지
Figure pct00125
의 제1 가산 이미지를 얻도록 해도 된다. 당해 가산 처리에 의해. 최적화된 제2 역방향 옵티컬 플로우에 의한 마지막에서 h+1번째 이미지의 수복 대상 영역의 수복, 예를 들면, 대응하는 화소값의 보완이나 화소값의 조정 등을 실현할 수 있다.
상기 실시예에 의하면 각 이미지의 제2 수복 이미지를 얻을 수 있고, 당해 제2 수복 이미지에는 일부 수복 대상 영역의 화소값이 보완(즉, 수복)될 수 있다.
(S3003)에서는 얻어진 상기 제2 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제2 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단한다.
상기 실시예에서 설명한 바와 같이 이미지의 제2 수복 이미지를 얻은 후, k번째 이미지의 제2 수복 이미지 내의 수복 대상 영역의 어느 화소점이 수복되고, 즉 수복된 화소값이 생겼을 경우, 예를 들면, 원래의 마스크값이 1이면 0으로 조정하고, 그 반대도 또한 동일하도록 당해 k번째 이미지의 마스크 이미지에 있어서의 대응하는 화소점의 마스크 값을 역전하도록 해도 된다.
이미지의 마스크 이미지의 조정이 완료된 후, 얻어진 제2 수복 이미지에 대해 각 이미지에 대응하는 마스크 이미지에는 수복 대상 영역이 없어질 때까지 단계(S3002)를 반복 실행해도 되고, 이 때 이미지의 역방향 가이드의 프로세스가 완료되고, 즉 각 이미지의 제2 최적화 이미지가 얻어진다.
복수 프레임의 이미지의 제1 최적화 이미지 및 제2 최적화 이미지를 얻은 후, 단계(S400)을 실행해도 된다. 도 9는 본 발명의 실시예에 따른 비디오 수복 방법에서의 단계(S400)의 흐름도를 나타낸다. 여기에서, 순방향의 전파 최적화 및 역방향의 전파 최적화에 의해 얻어진 최적화 이미지에 기초하여 상기 연속된 복수 프레임의 이미지의 수복 이미지를 얻는 것은 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 순방향의 전파 최적화에 의해 얻어진 제1 최적화 이미지를 얻는 단계(S401)와, 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 역방향의 전파 최적화에 의해 얻어진 제2 최적화 이미지를 얻는 단계(S402)와, 각 이미지의 제1 최적화 이미지와 제2 최적화 이미지의 평균값에 기초하여 당해 이미지의 수복 이미지를 얻고, 상기 복수 프레임의 이미지의 각각의 수복 이미지를 얻는 단계(S403)를 포함해도 된다.
상기 실시예에서 설명한 바와 같이, 순방향 가이드가 완료된 때의 이미지의 제1 최적화 이미지로서 사용하고, 또한 역방향 가이드가 완료된 때의 이미지의 제2 수복 이미지를 제2 최적화 이미지로서 사용하도록 해도 된다.
이미지에 대응하는 제1 최적화 이미지 및 제2 최적화 이미지를 얻은 후, 제1 최적화 이미지 및 제2 최적화 이미지에 대해 평균 처리를 행하여 동일한 화소점의 화소값의 평균값을 취득하고, 최종적인 수복 이미지를 얻도록 해도 된다. 이렇게 하여, 순방향 가이드와 역방향 가이드의 두 가지 방향에서 얻어진 최적화 이미지의 결과를 조합하여 정확도가 보다 높은 수복 이미지를 얻을 수 있다. 또한, 본 발명의 실시예에서는 마스크의 조정과 순방향 가이드 및 역방향 가이드의 반복 실행의 프로세스에 의해, 이미지 화소점의 완전한 수복이 가능해진다.
또한, 본 발명의 실시예는 옵티컬 플로우 최적화 처리를 행하는 옵티컬 플로우 최적화 네트워크의 트레이닝 프로세스도 제공하고 있고, 여기에서 상기 실시예에서 설명한 바와 같이 옵티컬 플로우 최적화 네트워크는 N개의 옵티컬 플로우 최적화 네트워크 모듈을 포함해도 되며, 본 발명의 실시예에 있어서의 옵티컬 플로우 최적화 네트워크 모듈 및 대응하는 트레이닝 방법은 동일해도 된다. 이하, 하나의 옵티컬 플로우 최적화 네트워크 모듈의 트레이닝 프로세스에 의해 설명한다.
도 10은 본 발명의 실시예에 따른 옵티컬 플로우 최적화 모듈의 트레이닝 방법의 흐름도를 나타낸다. 여기에서, 상기 옵티컬 플로우 최적화 모듈에 있어서의 각 옵티컬 플로우 최적화 네트워크 모듈을 트레이닝하는 단계는 이하를 포함해도 된다.
단계(S501)에서는, 복수군의 옵티컬 플로우 샘플 및 각 군의 옵티컬 플로우 샘플에 대응하는 마스크 샘플과 실제 옵티컬 플로우를 포함하는 트레이닝 샘플을 취득한다.
본 발명의 실시예에서는 옵티컬 플로우 최적화 네트워크 모듈의 트레이닝에 사용되는 트레이닝 샘플은 복수군의 옵티컬 플로우 샘플을 포함해도 되며, 여기에서 각 군의 옵티컬 플로우 샘플은 대응하는 복수 프레임의 이미지 샘플 중 인접 이미지 사이의 순방향 옵티컬 플로우 및/또는 역방향 옵티컬 플로우이고, 또한 트레이닝 샘플에는 각 군의 옵티컬 플로우 샘플에 대응하는 마스크 샘플도 포함되며, 당해 마스크 샘플은 상기 이미지 샘플에 대응하는 마스크 이미지이다. 또한, 트레이닝 샘플에는 옵티컬 플로우 샘플에 대응하는 실제 옵티컬 플로우, 즉 이미지 샘플 사이의 실제 옵티컬 플로우가 포함되어도 된다.
단계(S502)에서는 상기 옵티컬 플로우 최적화 네트워크 모듈을 사용하여 상기 옵티컬 플로우 샘플에 대해 옵티컬 플로우 최적화 처리를 행하여 대응하는 최적화 옵티컬 플로우를 얻는다.
본 발명의 실시예의 초기 옵티컬 플로우 네트워크 모듈에 의해 각 군의 옵티컬 플로우 샘플을 최적화하고, 구체적인 최적화 프로세스는 상기 단계(S200)의 설명과 동일하고, 여기에서 반복하여 설명하지 않는다. 당해 프로세스에 의해 각 옵티컬 플로우 샘플에 대응하는 최적화 옵티컬 플로우를 얻을 수 있다.
단계(S503)에서는 상기 최적화 옵티컬 플로우와 상기 실제 옵티컬 플로우의 비교 결과에 기초하여 상기 최적화 옵티컬 플로우에서 제1 요구를 충족시키는 제1 화소점을 선택하고, 상기 제1 화소점의 대응하는 마스크 이미지에서의 마스크 값을 조정하여 새로운 마스크 샘플을 얻는다.
옵티컬 플로우 샘플의 최적화 옵티컬 플로우를 얻은 후, 본 발명의 실시예에서는 최적화 옵티컬 플로우와 대응하는 실제 옵티컬 플로우에서 화소점의 대응 옵티컬 플로우의 차를 얻고, 그 중에서 제1 요구를 충족시키는 제1 화소점을 선택하도록 해도 되고, 예를 들면, 화소점의 옵티컬 플로우의 차를 큰 순서로 나열하고, 그 중에서 옵티컬 플로우의 차가 큰 소정 비율(예를 들면, 50％％)의 화소점을, 제1 요구를 충족시키는 제1 화소점으로서 선택하도록 해도 된다. 또는 다른 실시예에서는 소정 비율을 다른 값으로 해도 되고, 이에 대해 본 발명은 구체적으로 한정하지 않는다.
제1 요구를 충족시키는 제1 화소점을 특정한 후, 상기 최적화 옵티컬 플로우에 대응하는 마스크 이미지에 있어서의 당해 제1 화소점의 마스크값을 수복 대상 영역에 대응하는 마스크값으로서 결정할 수 있다. 즉, 얻어진 최적화 옵티컬 플로우 중, 일부 화소점의 옵티컬 플로우 값의 오차가 큰 경우, 당해 대응하는 마스크 이미지에 있어서의 대응하는 화소점의 마스크 값을 수복 대상 영역에서 특징지어지는 마스크 값(예를 들면, 1)으로 설정하여 고쳐도 되며, 이것에 의해 새로운 마스크 이미지를 얻을 수 있다.
단계(S504)에서는 미리 설정된 손실 함수에 따라 상기 최적화 옵티컬 플로우, 원래의 마스크 샘플 및 새로운 마스크 샘플에 기초하여 손실값을 얻는다.
여기에서 상기 미리 설정된 손실 함수의 표현식은 식 (1)로 나타내도 된다.
Figure pct00126
식 (1)
식 중, L은 옵티컬 플로우 최적화 처리의 손실 함수를 나타내고, M은 원래의 마스크 샘플이며,
Figure pct00127
는 새로운 마스크 샘플을 나타내고,
Figure pct00128
는 얻어진 최적화 옵티컬 플로우를 나타내며,
Figure pct00129
는 실제 옵티컬 플로우를 나타내고,
Figure pct00130
는 가중치이다.
본 발명의 실시예에서는 당해 손실 함수에서 최적화 프로세스의 손실값을 얻을 수 있다.
단계(S505)에서는 상기 손실값이 트레이닝의 요구를 충족시키는 경우, 트레이닝이 완료된 옵티컬 플로우 최적화 네트워크 모듈을 얻고, 그렇지 않은 경우, 얻어진 손실값이 트레이닝의 요구를 충족시킬 때까지 상기 옵티컬 플로우 최적화 네트워크 모듈의 네트워크 파라미터를 조정하여 옵티컬 플로우 샘플의 옵티컬 플로우 최적화 처리를 재실행한다.
예를 들면, 얻어진 손실값이 손실 임계치 미만의 경우에만, 트레이닝의 요구를 충족시킨다고 판단하여, 이 때 트레이닝을 종료할 수 있고, 그렇지 않은 경우, 얻어진 손실값이 트레이닝의 요구를 충족시킬 때까지, 네트워크 모듈의 파라미터를 조정한다.
이상으로부터 본 발명의 실시예는 동시에 복수의 연속 시간 프레임의 비디오 이미지에 대해 수복 처리를 행할 수 있으며, 그 중 우선 인접하는 프레임의 이미지 사이의 순방향 옵티컬 플로우 및 역방향 옵티컬 플로우를 최적화하여 정밀도가 높은 옵티컬 플로우를 취득하고, 그 후 최적화된 순방향 옵티컬 플로우 및 역방향 옵티컬 플로우에 의해 비디오 수복을 가이드하고 있고, 비디오 수복의 정확도를 높임과 함께 프레임 사이의 연속성 및 정합성을 높일 수 있다. 또한 본 발명의 실시예는 수복 속도가 빠르고, 수복의 실시간성이 충족된다.
한편, 종래의 방법은 결실 영역에 복잡한 이동 정보가 포함되는 상황에 대응할 수 없고 결실 영역에 복잡한 형상 등의 상세 정보가 포함되는 경우, 종래의 방법으로는 비디오 수복을 적절하게 실현할 수 없지만, 본 발명의 실시예는 복잡한 세부가 결실된 경우에도 비디오 이미지를 바람직하게 수복할 수 있다.
구체적인 실시형태의 상기 방법에 있어서, 각 단계의 기술 순서는 엄격한 실행 순서가 아니고, 실시 프로세스의 아무런 제한이 되지 않으며, 각 단계의 구체적인 실행 순서는 그 기능과 가능한 내재적 논리에 의존하는 것이 당업자에게 이해된다.
본 발명에서 언급되는 상기 각 방법의 실시예는 원리와 논리를 위반하지 않는 한, 서로 조합하여 조합 후의 실시예를 형성할 수 있음이 이해되고, 분량에 한계가 있으므로, 본 발명에서는 상세한 설명을 생략한다.
또한, 본 발명은 비디오 수복 장치, 전자 기기, 컴퓨터 판독 가능 기억 매체 및 프로그램을 추가로 제공하고, 이들은 전부 본 발명에서 제공되는 어느 비디오 수복 방법을 실현하기 위해 이용 가능하고, 이에 대응하는 기술적 해결 수단 및 설명에 대해서는 방법 부분의 대응하는 기재를 참조하면 되며 여기에서는 생략한다.
도 11은 본 발명의 실시예에 따른 비디오 수복 장치의 블록도를 나타내고, 도 11에 나타내는 바와 같이 상기 비디오 수복 장치는
연속된 복수 프레임의 이미지에 대해 인접 이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득하기 위한 취득 모듈(10)과, 상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우 및 상기 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻기 위한 옵티컬 플로우 최적화 모듈(20)과, 상기 제2 순방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 순방향의 전파 최적화를 행하고, 상기 제2 역방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 역방향의 전파 최적화를 행하는 것을, 최적화 후의 연속된 복수 프레임의 이미지의 각각이 전부 수복의 요구를 충족시킬 때까지 실행하기 위한 전파 최적화 모듈(30)과, 순방향의 전파 최적화 및 역방향의 전파 최적화에 의해 얻어진 최적화 이미지에 기초하여 상기 연속된 복수 프레임의 이미지의 수복 이미지를 얻기 위한 수복 모듈(40)을 포함한다.
일부 가능한 실시형태에서는, 상기 취득 모듈은 또한 상기 복수 프레임의 이미지의 각각의 마스크 이미지를 취득하고, 또한 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 인접 이미지 사이의 순방향 옵티컬 플로우를 결정하고, 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라, 인접 이미지 사이의 역방향 옵티컬 플로우를 결정하는 것과, i번째 이미지와 i+1번째 이미지 사이의 순방향 옵티컬 플로우에 i+1번째 이미지의 마스크 이미지를 곱셈하여, i번째 이미지와 i+1번째 이미지 사이의 제1 순방향 옵티컬 플로우를 얻고, i+1번째 이미지와 i번째의 이미지 사이의 역방향 옵티컬 플로우에 i번째 이미지의 마스크 이미지를 곱셈하여, i+1번째 이미지와 i번째 이미지 사이의 제1 역방향 옵티컬 플로우를 얻고, 상기 마스크 이미지는 대응 이미지의 수복 대응 영역을 나타내며, i는 1 이상 또한 G 미만의 자연수이고, G는 복수 프레임의 이미지의 이미지 수인 것에 사용된다.
일부 가능한 실시형태에서는 상기 옵티컬 플로우 최적화 모듈은 추가로 상기 제1 순방향 옵티컬 플로우를 연결하여 제1 연결 옵티컬 플로우를 얻고, 상기 제1 역방향 옵티컬 플로우를 연결하여 제2 연결 옵티컬 플로우를 얻는 것과, 상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 옵티컬 플로우 최적화 처리를 각각 N회 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제2 최적화 옵티컬 플로우를 얻고, N은 1 이상의 자연수인 것과, 상기 제1 최적화 옵티컬 플로우에 기초하여 각 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우를 얻고, 상기 제2 최적화 옵티컬 플로우에 기초하여 각 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 것에 사용된다.
일부 가능한 실시형태에서는 상기 옵티컬 플로우 최적화 모듈은 또한 상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 1회째의 옵티컬 플로우 최적화 처리를 행하고, 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우를 얻는 것과, 상기 제1 연결 옵티컬 플로우 및 상기 제2 연결 옵티컬 플로우의 제i 최적화 서브 옵티컬 플로우에 대해 각각 i+1회째의 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우를 얻고, i는 1보다 크고 또한 N보다 작은 자연수인 것에 사용되고, N회째의 최적화 처리에 의해 얻어진 상기 제1 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제1 최적화 옵티컬 플로우로서 결정하고, 얻어진 상기 제2 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제2 최적화 옵티컬 플로우로서 결정하고, 여기에서, 각 회의 옵티컬 플로우 최적화 처리는 잔차 처리 및 업 샘플링 처리를 포함한다.
일부 가능한 실시형태에서는, 상기 전파 최적화 모듈은 상기 복수 프레임의 이미지의 각각의 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과, 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제1 수복 이미지를 얻는 것과, 얻어진 상기 제1 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제1 수복 이미지를 얻는 처리에 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단하는 것에 사용되는 제1 전파 최적화 유닛을 포함한다.
일부 가능한 실시형태에서는, 상기 제1 전파 최적화 유닛은 추가로 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 첫 번째 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제1 수복 이미지를 얻는 것과, k번째 이미지와 상기 k번째 이미지의 수복 이미지의 가산 처리를 행하여 k번째 이미지의 제1 가산 이미지를 얻고, k번째 제2 순방향 옵티컬 플로우에서 상기 k번째 제1 가산 이미지에 대해 시프트 처리를 행하여 k+1번째 이미지의 제1 수복 이미지를 얻고, k는 1보다 크고 또한 G보다 작은 자연수이고, G는 복수 프레임의 이미지의 이미지 수를 나타내는 것에 사용된다.
일부 가능한 실시형태에서는 상기 전파 최적화 모듈은 추가로 상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과, 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 상기 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제2 수복 이미지를 얻는 것과, 얻어진 상기 제2 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제2 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에, 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단하는 것에 사용되는 제2 전파 최적화 유닛을 포함한다.
일부 가능한 실시형태에서는 상기 제2 전파 최적화 유닛은 추가로 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 첫 번째 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제2 수복 이미지를 얻는 것과, h번째 이미지와 상기 h번째 이미지의 수복 이미지의 가산 처리를 행하여 h번째 이미지의 제2 가산 이미지를 얻고, h번째 제2 역방향 옵티컬 플로우에서 상기 h번째 제2 가산 이미지에 대해 시프트 처리를 행하여 h+1번째 이미지의 제2 수복 이미지를 얻고, h는 1보다 크고 또한 G 이하의 자연수이고, G는 복수 프레임의 이미지의 이미지 수를 나타내는 것에 사용된다.
일부 가능한 실시형태에서는 상기 수복 모듈은 추가로 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 순방향의 전파 최적화에 의해 얻어진 제1 최적화 이미지를 얻는 것과, 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 상기 역방향의 전파 최적화에 의해 얻어진 제2 최적화 이미지를 얻는 것과, 각 이미지의 제1 최적화 이미지와 제2 최적화 이미지의 평균값에 기초하여 당해 이미지의 수복 이미지를 얻고, 상기 복수 프레임의 이미지의 각각의 수복 이미지를 얻는 것에 사용된다.
일부 가능한 실시형태에서는, 상기 장치는 상기 옵티컬 플로우 최적화 모듈을 트레이닝하기 위한 트레이닝 모듈을 추가로 포함하고, 상기 트레이닝 모듈은 상기 옵티컬 플로우 최적화 모듈에 복수군의 옵티컬 플로우 샘플 및 각 옵티컬 플로우 샘플에 대응하는 마스크 샘플과 실제 옵티컬 플로우를 포함하는 트레이닝 샘플을 입력하는 것과, 상기 옵티컬 플로우 최적화 모듈을 사용하여 상기 옵티컬 플로우 샘플에 대해 옵티컬 플로우 최적화 처리를 행하고, 대응하는 최적화 옵티컬 플로우를 얻는 것과, 상기 최적화 옵티컬 플로우와 상기 실제 옵티컬 플로우의 비교 결과에 기초하여 상기 최적화 옵티컬 플로우에서 제1 요구를 충족시키는 제1 화소점을 선택하고, 상기 제1 화소점의 마스크 이미지에 있어서의 마스크 값을 조정하여 새로운 마스크 샘플을 얻는 것과, 미리 설정된 손실 함수에 따라 상기 최적화 옵티컬 플로우, 원래의 마스크 샘플 및 새로운 마스크 샘플에 기초하여 손실값을 얻는 것과, 상기 손실값이 트레이닝의 요구를 충족시키는 경우, 트레이닝이 완료된 옵티컬 플로우 최적화 모듈을 얻고, 그렇지 않은 경우, 얻어진 손실값이 트레이닝의 요구를 충족시킬 때까지 상기 옵티컬 플로우 최적화 모듈의 네트워크 파라미터를 조정하여 옵티컬 플로우 샘플의 옵티컬 플로우 최적화 처리를 재실행하는 것에 사용된다.
일부 가능한 실시형태에서는 상기 미리 설정된 손실 함수의 표현식은 이하와 같다.
Figure pct00131
식 중, L은 옵티컬 플로우 최적화 처리의 손실 함수를 나타내고, M은 원래의 마스크 샘플이며,
Figure pct00132
는 새로운 마스크 샘플을 나타내고,
Figure pct00133
는 얻어진 최적화 옵티컬 플로우를 나타내며,
Figure pct00134
는 실제 옵티컬 플로우를 나타내고,
Figure pct00135
는 가중치이다.
일부 실시예에서는 본 발명의 실시예에서 제공된 장치에 구비된 기능 또는 모듈은 상기 방법 실시예에 기재된 방법을 실행하기 위해 사용되고, 그 구체적인 실시형태에 대해서는 상기 방법 실시예의 설명을 참조하면 되고, 간략화하기 위해 여기에 중복 설명은 생략한다.
본 발명의 실시예는 프로세서에 실행되면 상기 방법을 실현하는 컴퓨터 프로그램 명령이 기억되어 있는 컴퓨터 판독 가능 기억 매체를 추가로 제공한다. 컴퓨터 판독 가능 기억 매체는 휘발성 또는 비휘발성 컴퓨터 판독 가능 기억 매체여도 된다.
본 발명의 실시예는 프로세서와, 프로세서에 의해 실행 가능한 명령을 기억하기 위한 메모리를 포함하고, 상기 프로세서는 상기 방법을 실행하도록 구성되는 전자 기기를 추가로 제공한다. 전자 기기는 단말, 서버 또는 다른 형태의 기기로서 제공되어도 된다.
도 12는 본 발명의 실시예에 따른 전자 기기(800)의 블록도를 나타낸다. 예를 들면, 전자 기기(800)는 휴대 전화, 컴퓨터, 디지털 방송 단말, 메시지 송수신 장치, 게임 콘솔, 태블릿 기기, 의료 기기, 피트니스 기기, 휴대 정보 단말 등의 단말이어도 된다.
도 12에 나타내는 바와 같이, 전자 기기(800)는 처리 컴포넌트(802), 메모리(804), 전원 컴포넌트(806), 멀티미디어 컴포넌트(808), 오디오 컴포넌트(810), 입력/출력(I/O) 인터페이스(812), 센서 컴포넌트(814) 및 통신 컴포넌트(816) 중 하나 이상을 포함해도 된다.
처리 컴포넌트(802)는 통상, 전자 기기(800)의 전체적인 동작, 예를 들면, 표시, 전화의 호출, 데이터 통신, 카메라 동작 및 기록 동작에 관련된 동작을 제어한다. 처리 컴포넌트(802)는 상기 방법의 전부 또는 일부 단계를 완료하기 위해 하나 이상의 프로세서(820)를 포함하여 명령을 실행하도록 해도 된다. 또한, 처리 컴포넌트(802)는 다른 컴포넌트와의 대화를 위해 하나 이상의 모듈을 포함하도록 해도 된다. 예를 들면, 처리 컴포넌트(802)는 멀티미디어 컴포넌트(808)와의 대화를 위해 멀티미디어 모듈을 포함하도록 해도 된다.
메모리(804)는 전자 기기(800)에서의 동작을 서포트하기 위해 다양한 타입의 데이터를 기억하도록 구성된다. 이들 데이터의 예는 전자 기기(800)에서 운용하기 위한 모든 애플리케이션 프로그램 또는 방법의 명령, 연락처 데이터, 전화번호부 데이터, 메시지, 사진, 비디오 등을 포함한다. 메모리(804)는 예를 들면, 정적 랜덤 액세스 메모리(SRAM), 전기적 소거 가능 프로그래머블 판독 전용 메모리(EEPROM), 소거 가능 프로그래머블 판독 전용 메모리(EPROM), 프로그래머블 판독 전용 메모리(PROM), 판독 전용 메모리(ROM), 자기 메모리, 플래시 메모리, 자기 디스크 또는 광디스크 등의 다양한 타입의 휘발성 또는 비휘발성 기억 기기 또는 이들의 조합에 의해 실현해도 된다.
전원 컴포넌트(806)는 전자 기기(800)의 각 컴포넌트에 전력을 공급한다. 전원 컴포넌트(806)는 전원 관리 시스템, 하나 이상의 전원 및 전자 기기(800)를 위한 전력 생성, 관리 및 배분에 관련되는 다른 컴포넌트를 포함해도 된다.
멀티미디어 컴포넌트(808)는 상기 전자 기기(800)와 사용자 사이에서 출력 인터페이스를 제공하는 화면을 포함한다. 일부 실시예에서는 화면은 액정 디스플레이(LCD) 및 터치 패널(TP)을 포함해도 된다. 화면이 터치 패널을 포함하는 경우, 사용자로부터의 입력 신호를 수신하기 위해 터치 화면으로서 실현해도 된다. 터치 패널은 터치, 슬라이드 및 터치 패널에서의 제스처를 검지하기 위해, 하나 이상의 터치 센서를 포함한다. 상기 터치 센서는 터치 또는 슬라이드 동작의 경계를 검지할 뿐만 아니라, 상기 터치 또는 슬라이드 조작과 관련되는 지속 시간 및 압력도 검출하도록 해도 된다. 일부 실시예에서는 멀티미디어 컴포넌트(808)는 전면 카메라 및/또는 후면 카메라를 포함한다. 전자 기기(800)가 동작 모드, 예를 들면, 촬영 모드 또는 촬상 모드가 되는 경우, 전면 카메라 및/또는 후면 카메라는 외부의 멀티미디어 데이터를 수신하도록 해도 된다. 각 전면 카메라 및 후면 카메라는 고정된 광학 렌즈계여도 되고, 또는 초점 거리 및 광학 줌 능력을 갖는 것이어도 된다.
오디오 컴포넌트(810)는 오디오 신호를 출력 및/또는 입력하도록 구성된다. 예를 들면, 오디오 컴포넌트(810)는 전자 기기(800)가 동작 모드, 예를 들면, 호출 모드, 기록 모드 및 음성 인식 모드가 되는 경우, 외부의 오디오 신호를 수신하도록 구성된 마이크(MIC)를 포함한다. 수신된 오디오 신호는 추가로 메모리(804)에 기억되거나, 또는 통신 컴포넌트(816)에 의해 송신되어도 된다. 일부 실시예에서는 오디오 컴포넌트(810)는 추가로 오디오 신호를 출력하기 위한 스피커를 포함한다.
I/O 인터페이스(812)는 처리 컴포넌트(802)와 주변 인터페이스 모듈 사이에서 인터페이스를 제공하고, 상기 주변 인터페이스 모듈은 키보드, 클릭 휠, 버튼 등이어도 된다. 상기 버튼은 홈 버튼, 음량 버튼, 시작 버튼 및 잠금 버튼을 포함해도 되지만, 이들에 한정되지 않는다.
센서 컴포넌트(814)는 전자 기기(800)에 각 측면에서의 상태 평가를 제공하기 위한 하나 이상의 센서를 포함한다. 예를 들면, 센서 컴포넌트(814)는 전자 기기(800)의 온/오프 상태 및 예를 들면, 전자 기기(800)의 표시 장치나 키패드인 컴포넌트의 상대적 위치 결정을 검출해도 되고, 센서 컴포넌트(814)는 추가로 전자 기기(800) 또는 전자 기기(800)가 있는 컴포넌트의 위치 변화, 사용자와 전자 기기(800)의 접촉 유무, 전자 기기(800)의 방위 또는 가감속 및 전자 기기(800)의 온도 변화를 검출해도 된다. 센서 컴포넌트(814)는 어떠한 물리적 접촉도 없는 경우, 근방의 물체의 존재를 검출하기 위해 사용되도록 구성된 근접 센서를 포함해도 된다. 센서 컴포넌트(814)는 추가로 CMOS 또는 CCD 이미지 센서와 같은 이미징 애플리케이션에서 사용하기 위한 광센서를 포함해도 된다. 일부 실시예에서는 상기 센서 컴포넌트(814)는 추가로 가속도 센서, 자이로스코프 센서, 자기 센서, 압력 센서 또는 온도 센서를 포함해도 된다.
통신 컴포넌트(816)는 전자 기기(800)와 다른 기기 사이의 유선 또는 무선 통신을 실현하도록 구성된다. 전자 기기(800)는 통신 규격에 기초하는 무선 네트워크, 예를 들면, WiFi, 2G 또는 3G, 또는 이들의 조합에 액세스하도록 해도 된다. 일 예시적 실시예에서는 통신 컴포넌트(816)는 방송 채널에 의해 외부의 방송 관리 시스템의 방송 신호 또는 방송 관련 정보를 수신한다. 일 예시적 실시예에서는 상기 통신 컴포넌트(816)는 추가로 근거리 통신을 촉진시키기 위해 근거리 무선 통신(NFC) 모듈을 포함한다. 예를 들면, NFC 모듈에서는 무선 주파수 식별(RFID) 기술, 적외선 데이터 협회(IrDA) 기술, 초광대역(UWB) 기술, 블루투스(BT) 기술 및 다른 기술에 의해 실현할 수 있다.
예시적인 실시예에서는 전자 기기(800)는 하나 이상의 특정 용도용 집적 회로(ASIC), 디지털 신호 프로세서(DSP), 디지털 신호 처리 디바이스(DSPD), 프로그래머블 로직 디바이스(PLD), 필드 프로그래머블 게이트 어레이(FPGA), 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 또는 다른 전자 요소에 의해 실현되고, 상기 방법을 실행하기 위해 사용된다.
예시적인 실시예에서는 추가로 비휘발성 컴퓨터 판독 가능 기억 매체, 예를 들면, 컴퓨터 프로그램 명령을 포함하는 메모리(804)가 제공되고, 상기 컴퓨터 프로그램 명령은 전자 기기(800)의 프로세서(820)에 의해 실행하여 상기 방법을 완료할 수 있다.
도 13은 본 발명의 실시예에 따른 전자 기기(1900)의 블록도를 나타낸다. 예를 들면, 전자 기기(1900)는 서버로서 제공해도 된다. 도 13을 참조하면 전자 기기(1900)는 추가로 하나 이상의 프로세서를 포함하는 처리 컴포넌트(1922) 및 처리 컴포넌트(1922)에 의해 실행 가능한 명령, 예를 들면, 애플리케이션 프로그램을 기억하기 위한, 메모리(1932)를 대표로 하는 메모리 자원을 포함한다. 메모리(1932)에 기억된 애플리케이션 프로그램은 각각 하나의 그룹의 명령에 대응하는 하나 이상의 모듈을 포함해도 된다. 또한, 처리 컴포넌트(1922)는 명령을 실행하고, 그에 의해 상기 방법을 실행하도록 구성된다.
전자 기기(1900)는 추가로 전자 기기(1900)의 전원 관리를 실행하도록 구성된 전원 컴포넌트(1926), 전자 기기(1900)를 네트워크에 접속하도록 구성된 유선 또는 무선 네트워크 인터페이스(1950) 및 입출력(I/O) 인터페이스(1958)를 포함해도 된다. 전자 기기(1900)는 메모리(1932)에 기억된 오퍼레이팅 시스템, 예를 들면, Windows ServerTM, Mac OS XTM, UnixTM, LinuxTM, FreeBSDTM 또는 유사한 것에 기초하여 동작할 수 있다.
예시적인 실시예에서는 추가로 비휘발성 컴퓨터 판독 가능 기억 매체, 예를 들면, 컴퓨터 프로그램 명령을 포함하는 메모리(1932)가 제공되고, 상기 컴퓨터 프로그램 명령은 전자 기기(1900)의 처리 컴포넌트(1922)에 의해 실행되어 상기 방법을 완료할 수 있다.
본 발명은 시스템, 방법 및/또는 컴퓨터 프로그램 제품이어도 된다. 컴퓨터 프로그램 제품은 프로세서에 본 발명의 각 양태를 실현시키기 위한 컴퓨터 판독 가능 프로그램 명령이 로드되어 있는 컴퓨터 판독 가능 기억 매체를 포함해도 된다.
컴퓨터 판독 가능 기억 매체는 명령 실행 기기에 의해 사용되는 명령을 저장 및 기억 가능한 유형(有形)의 기기여도 된다. 컴퓨터 판독 가능 기억 매체는 예를 들면, 전기 기억 장치, 자기 기억 장치, 광 기억 장치, 전자 기억 장치, 반도체 기억 장치 또는 상기 임의의 적당한 조합이어도 되지만, 이들에 한정되지 않는다. 컴퓨터 판독 가능 기억 매체의 더욱 구체적인 예(비포괄적 리스트)로는, 휴대형 컴퓨터 디스크, 하드 디스크, 랜덤 액세스 메모리(RAM), 판독 전용 메모리(ROM), 소거 가능 프로그래머블 판독 전용 메모리(EPROM 또는 플래시 메모리), 정적 랜덤 액세스 메모리(SRAM), 휴대형 콤팩트 디스크 판독 전용 메모리(CD-ROM), 디지털 다용도 디스크(DVD), 메모리 스틱, 플로피 디스크, 기계적 부호화 장치, 예를 들면, 명령이 기억되어 있는 천공 카드 또는 슬롯 내 돌기 구조 및 상기 임의의 적당한 조합을 포함한다. 여기에서 사용되는 컴퓨터 판독 가능 기억 매체는 순시 신호 자체, 예를 들면, 무선 전파 또는 기타 자유롭게 전파되는 전자파, 도파로 또는 다른 전송 매체를 경유하여 전파되는 전자파(예를 들면, 광파이버 케이블을 통과하는 광펄스) 또는 전선을 경유하여 전송되는 전기 신호로 해석되는 것은 아니다.
여기에서 기술한 컴퓨터 판독 가능 프로그램 명령은 컴퓨터 판독 가능 기억 매체에서 각 계산/처리 기기에 다운로드되어도 되고, 또는 네트워크, 예를 들면, 인터넷, 로컬 에어리어 네트워크, 광역 네트워크 및/또는 무선 네트워크에 의해 외부의 컴퓨터 또는 외부 기억 장치에 다운로드되어도 된다. 네트워크는 구리 전송 케이블, 광파이버 전송, 무선 전송, 라우터, 방화벽, 교환기, 게이트웨이 컴퓨터 및/또는 에지 서버를 포함할 수 있다. 각 계산/처리 기기 내의 네트워크 어댑터 카드 또는 네트워크 인터페이스는 네트워크에서 컴퓨터 판독 가능 프로그램 명령을 수신하고, 당해 컴퓨터 판독 가능 프로그램 명령을 전송하고, 각 계산/처리 기기 내의 컴퓨터 판독 가능 기억 매체에 기억한다.
본 발명의 동작을 실행하기 위한 컴퓨터 프로그램 명령은 어셈블러 명령, 명령 세트 아키텍처(ISA) 명령, 기계어 명령, 기계 의존 명령, 마이크로 코드, 펌웨어 명령, 상태 설정 데이터, 또는 Smalltalk, C++ 등의 오브젝트 지향 프로그래밍 언어 및 「C」언어 또는 유사한 프로그래밍 언어 등의 일반적인 절차형 프로그래밍 언어를 포함하는 하나 또는 복수의 프로그래밍 언어의 임의의 조합으로 작성된 소스 코드 또는 목적 코드여도 된다. 컴퓨터 판독 가능 프로그램 명령은 완전히 사용자의 컴퓨터에서 실행되어도 되고, 부분적으로 사용자의 컴퓨터에서 실행되어도 되고, 독립형 소프트웨어 패키지로서 실행되어도 되고, 부분적으로 사용자의 컴퓨터에서 또한 부분적으로 리모트 컴퓨터에서 실행되어도 되고, 또는 완전히 리모트 컴퓨터에서 혹은 서버에서 실행되어도 된다. 리모트 컴퓨터의 경우, 리모트 컴퓨터는 로컬 에어리어 네트워크(LAN) 또는 광역 네트워크(WAN)를 포함하는 임의의 종별의 네트워크를 경유하여 사용자의 컴퓨터에 접속되어도 되고, 또는 (예를 들면, 인터넷 서비스 프로바이더를 사용하여 인터넷을 경유하여) 외부 컴퓨터에 접속되어도 된다. 일부 실시예에서는 컴퓨터 판독 가능 프로그램 명령의 상태 정보를 이용하여, 예를 들면, 프로그래머블 논리 회로, 필드 프로그래머블 게이트 어레이(FPGA) 또는 프로그래머블 논리 어레이(PLA) 등의 전자 회로를 맞춤 제조함으로써, 당해 전자 회로는 컴퓨터 판독 가능 프로그램 명령을 실행하고 그에 의해 본 발명의 각 양태를 실현할 수 있게 된다.
또한, 여기에서 본 발명의 실시예에 따른 방법, 장치(시스템) 및 컴퓨터 프로그램 제품의 흐름도 및/또는 블록도를 참조하면서 본 발명의 각 양태를 설명하였는데, 흐름도 및/또는 블록도의 각 블록 및 흐름도 및/또는 블록도의 각 블록의 조합은 전부 컴퓨터 판독 가능 프로그램 명령에 의해 실현할 수 있는 것으로 이해되어야 한다.
상기 컴퓨터 판독 가능 프로그램 명령은 범용 컴퓨터, 전용 컴퓨터 또는 기타 프로그래머블 데이터 처리 장치의 프로세서에 제공되어도 되고, 그에 의해 상기 명령은 컴퓨터 또는 기타 프로그래머블 데이터 처리 장치의 프로세서에 의해 실행된 경우, 흐름도 및/또는 블록도의 하나 이상의 블록에서 지정된 기능/동작을 실현하는 수단을 창출하도록 기기가 제조된다. 또한, 상기 컴퓨터 판독 가능 프로그램 명령은 컴퓨터 판독 가능 기억 매체에 기억시키고, 이에 의해 컴퓨터, 프로그래머블 데이터 처리 장치 및/또는 기타 기기를 특정 방식으로 동작시키도록 해도 되고, 이에 의해, 안에 명령을 저장한 컴퓨터 판독 가능 기억 매체는 흐름도 및/또는 블록도의 하나 또는 복수의 블록에서 지정된 기능/동작의 각 양태를 실현하는 명령을 포함하는 제품을 구비한다.
컴퓨터 판독 가능 프로그램 명령은 컴퓨터, 기타 프로그래머블 데이터 처리 장치 또는 기타 기기에 로드함으로써 컴퓨터, 기타 프로그래머블 데이터 처리 장치 또는 기타 기기에서 일련의 동작 단계를 실행시켜 컴퓨터 실시 프로세스를 생성하도록 해도 되며, 이에 의해 컴퓨터, 기타 프로그래머블 데이터 처리 장치, 또는 기타 기기에서 실행되는 명령은 흐름도 및/또는 블록도의 하나 또는 복수의 블록에서 지정된 기능/동작을 실현한다.
도면 중 흐름도 및 블록도는 본 발명의 복수의 실시예에 따른 시스템, 방법 및 컴퓨터 프로그램 제품의 실현 가능한 시스템 아키텍처, 기능 및 동작을 나타낸다. 이 점에서는, 흐름도 또는 블록도에 있어서의 각 블록은 하나의 모듈, 프로그램 세그먼트 또는 명령의 일부분을 대표할 수 있고, 상기 모듈, 프로그램 세그먼트 또는 명령의 일부분은 지정된 논리 기능을 실현하기 위한 하나 또는 복수의 실행 가능 명령을 포함한다. 일부 치환으로서의 실현 형태에서는 블록에 표기되는 기능은 도면에 기재된 것과 상이한 순서로 실행해도 된다. 예를 들면, 두 개의 연속적인 블록은 실질적으로 동시에 실행해도 되고, 또한 이러한 기능에 의해 이들은 반대 순서로 실행해도 되는 경우가 있다. 또한, 블록도 및/또는 흐름도에서 각 블록 및 블록도 및/또는 흐름도에서 블록의 조합은 지정되는 기능 또는 동작을 실행하는 하드웨어에 기초하는 전용 시스템에 의해 실현해도 되고, 또는 전용 하드웨어와 컴퓨터 명령의 조합에 의해 실현해도 되는 것에 주의해야 한다.
이상, 본 발명의 각 실시예를 기술했지만, 상기 설명은 예시적인 것에 불과하고 망라적인 것은 아니며, 또한 개시된 각 실시예에 한정되는 것도 아니다. 당업자에게 있어서, 설명된 각 실시예의 범위 및 정신에서 벗어나지 않고, 다양한 수정 및 변경이 자명하다. 본 명세서에 선택된 용어는 각 실시예의 원리, 실제 적용 또는 시장에서의 기술에 대한 기술적 개선을 바람직하게 해석하거나, 또는 다른 당업자에게 본 명세서에 개시된 각 실시예를 이해시키기 위한 것이다.

Claims (23)

  1. 연속된 복수 프레임의 이미지에 대해 인접 이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득하는 것과,
    상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우 및 상기 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 것과,
    상기 제2 순방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 순방향의 전파 최적화를 행하고, 상기 제2 역방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 역방향의 전파 최적화를 행하는 것을, 최적화 후의 연속된 복수 프레임의 이미지의 각각이 수복의 요구를 충족시킬 때까지 실행하는 것과,
    순방향의 전파 최적화 및 역방향의 전파 최적화에 의해 얻어진 최적화 이미지에 기초하여 상기 연속된 복수 프레임의 이미지의 수복 이미지를 얻는 것을 포함하는, 비디오 수복 방법.
  2. 제 1 항에 있어서,
    연속된 복수 프레임의 이미지에 대해 인접 이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득하는 것은,
    상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과,
    상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 인접 이미지 사이의 순방향 옵티컬 플로우를 결정하고, 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 인접 이미지 사이의 역방향 옵티컬 플로우를 결정하는 것과,
    i번째 이미지와 i+1번째 이미지 사이의 순방향 옵티컬 플로우에 i+1번째 이미지의 마스크 이미지를 곱셈하여, i번째 이미지와 i+1번째 이미지 사이의 제1 순방향 옵티컬 플로우를 얻고, i+1번째 이미지와 i번째 이미지 사이의 역방향 옵티컬 플로우에 i번째 이미지의 마스크 이미지를 곱셈하여, i+1번째 이미지와 i번째 이미지 사이의 제1 역방향 옵티컬 플로우를 얻는 것을 포함하며, 여기서 i는 1 이상 G 미만의 자연수이고, G는 복수 프레임의 이미지의 이미지 수인, 비디오 수복 방법.
  3. 제 1 항 또는 제 2 항에 있어서,
    상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하는 것은,
    상기 제1 순방향 옵티컬 플로우를 연결하여 제1 연결 옵티컬 플로우를 얻고, 상기 제1 역방향 옵티컬 플로우를 연결하여 제2 연결 옵티컬 플로우를 얻는 것과,
    상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 옵티컬 플로우 최적화 처리를 각각 N회(여기서 N은 1 이상의 자연수임) 행하여 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제2 최적화 옵티컬 플로우를 얻는 것과,
    상기 제1 최적화 옵티컬 플로우에 기초하여 각 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우를 얻고, 상기 제2 최적화 옵티컬 플로우에 기초하여 각 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 것을 포함하는, 비디오 수복 방법.
  4. 제 3 항에 있어서,
    상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 옵티컬 플로우 최적화 처리를 각각 N회 행하는 것은,
    상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 1회째 옵티컬 플로우 최적화를 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우를 얻는 것과,
    상기 제1 연결 옵티컬 플로우 및 상기 제2 연결 옵티컬 플로우의 제i 최적화 서브 옵티컬 플로우에 대해 각각 i+1회째의 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우를 얻고, i는 1보다 크고 N보다 작은 자연수인 것을 포함하고,
    N회째의 최적화 처리에 의해 얻어진 상기 제1 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제1 최적화 옵티컬 플로우로서 결정하고, 얻어진 상기 제2 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제2 최적화 옵티컬 플로우로서 결정하며, 여기에서, 각 회의 옵티컬 플로우 최적화 처리는 잔차 처리 및 업 샘플링 처리를 포함하는, 비디오 수복 방법.
  5. 제 1 항 내지 제 4 항 중 어느 한 항에 있어서,
    상기 제2 순방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 순방향의 전파 최적화를 행하는 것은,
    상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과,
    상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제1 수복 이미지를 얻는 것과,
    얻어진 상기 제1 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제1 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단하는 것을 포함하는, 비디오 수복 방법.
  6. 제 5 항에 있어서,
    상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 제2 순방향 옵티컬 플로우에 기초하여 각 이미지의 제1 수복 이미지를 얻는 것은,
    상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 첫 번째 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제1 수복 이미지를 얻는 것과,
    k번째 이미지와 상기 k번째 이미지의 수복 이미지의 가산 처리를 행하여 k번째 이미지의 제1 가산 이미지를 얻고, k번째 제2 순방향 옵티컬 플로우에서 상기 k번째 제1 가산 이미지에 대해 시프트 처리를 행하여, k+1번째 이미지의 제1 수복 이미지를 얻는 것을 포함하며, 여기서 k는 1보다 크고 G보다 작은 자연수이고, G는 복수 프레임의 이미지의 이미지 수를 나타내는, 비디오 수복 방법.
  7. 제 1 항 내지 제 6 항 중 어느 한 항에 있어서,
    상기 제2 역방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 역방향의 전파 최적화를 행하는 것은,
    상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과,
    상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라, 상기 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제2 수복 이미지를 얻는 것과,
    얻어진 상기 제2 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제2 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단하는 것을 포함하는, 비디오 수복 방법.
  8. 제 7 항에 있어서,
    상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 상기 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제2 수복 이미지를 얻는 것은,
    상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 첫 번째 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제2 수복 이미지를 얻는 것과,
    h번째 이미지와 상기 h번째 이미지의 수복 이미지의 가산 처리를 행하여, h번째 이미지의 제2 가산 이미지를 얻고, h번째 제2 역방향 옵티컬 플로우에서 상기 h번째 제2 가산 이미지에 대해 시프트 처리를 행하여 h+1번째 이미지의 제2 수복 이미지를 얻는 것을 포함하고, 여기서 h는 1보다 크고 G 이하의 자연수이고, G는 복수 프레임의 이미지의 이미지 수를 나타내는, 방법.
  9. 제 1 항 내지 제 8 항 중 어느 한 항에 있어서,
    순방향의 전파 최적화 및 역방향의 전파 최적화에 의해 얻어진 최적화 이미지에 기초하여 상기 연속된 복수 프레임의 이미지의 수복 이미지를 얻는 것은,
    복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 순방향의 전파 최적화에 의해 얻어진 제1 최적화 이미지를 얻는 것과,
    복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 역방향의 전파 최적화에 의해 얻어진 제2 최적화 이미지를 얻는 것과,
    각 이미지의 제1 최적화 이미지와 제2 최적화 이미지의 평균값에 기초하여 당해 이미지의 수복 이미지를 얻고, 상기 복수 프레임의 이미지의 각각의 수복 이미지를 얻는 것을 포함하는, 비디오 수복 방법.
  10. 제 1 항 내지 제 9 항 중 어느 한 항에 있어서,
    상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우 및 상기 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 것을, 옵티컬 플로우 최적화 모듈에 의해 실행하는 것을 포함하고,
    상기 방법은 상기 옵티컬 플로우 최적화 모듈을 트레이닝하는 것을 추가로 포함하며, 상기 트레이닝은,
    복수군의 옵티컬 플로우 샘플 및 각 옵티컬 플로우 샘플에 대응하는 마스크 샘플과 실제 옵티컬 플로우를 포함하는 트레이닝 샘플을 취득하는 것과,
    상기 옵티컬 플로우 최적화 모듈을 사용하여 상기 옵티컬 플로우 샘플에 대해 옵티컬 플로우 최적화 처리를 행하여 대응하는 최적화 옵티컬 플로우를 얻는 것과,
    상기 최적화 옵티컬 플로우와 상기 실제 옵티컬 플로우의 비교 결과에 기초하여 상기 최적화 옵티컬 플로우에서 제1 요구를 충족시키는 제1 화소점을 선택하고, 상기 제1 화소점의 마스크 이미지에 있어서의 마스크 값을 조정하여 새로운 마스크 샘플을 얻는 것과,
    미리 설정된 손실 함수에 따라 상기 최적화 옵티컬 플로우, 원래의 마스크 샘플 및 새로운 마스크 샘플에 기초하여 손실값을 얻는 것과,
    상기 손실값이 트레이닝의 요구를 충족시키는 경우, 트레이닝이 완료된 옵티컬 플로우 최적화 모듈을 얻고, 그렇지 않은 경우, 얻어진 손실값이 트레이닝의 요구를 충족시킬 때까지 상기 옵티컬 플로우 최적화 모듈의 네트워크 파라미터를 조정하여 옵티컬 플로우 샘플의 옵티컬 플로우 최적화 처리를 재실행하는 것을 포함하는, 비디오 수복 방법.
  11. 연속된 복수 프레임의 이미지에 대해 인접 이미지 사이의 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우를 취득하기 위한 취득 모듈과,
    상기 제1 순방향 옵티컬 플로우 및 제1 역방향 옵티컬 플로우에 대해 각각 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우 및 상기 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻기 위한 옵티컬 플로우 최적화 모듈과,
    상기 제2 순방향 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 순방향의 전파 최적화를 행하고, 상기 제2 역방항 옵티컬 플로우를 사용하여 상기 연속된 복수 프레임의 이미지에 대해 역방향의 전파 최적화를 행하는 것을, 최적화 후의 연속된 복수 프레임의 이미지의 각각이 전부 수복의 요구를 충족시킬 때까지 실행하기 위한 전파 최적화 모듈과,
    순방향의 전파 최적화 및 역방향의 전파 최적화에 의해 얻어진 최적화 이미지에 기초하여 상기 연속된 복수 프레임의 이미지의 수복 이미지를 얻기 위한 수복 모듈을 포함하는, 비디오 수복 장치.
  12. 제 11 항에 있어서,
    상기 취득 모듈은 추가로,
    상기 복수 프레임의 이미지의 각각의 마스크 이미지를 취득하고, 또한 상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 인접 이미지 사이의 순방향 옵티컬 플로우를 결정하고, 상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 인접 이미지 사이의 역방향 옵티컬 플로우를 결정하는 것과,
    i번째 이미지와 i+1번째 이미지 사이의 순방향 옵티컬 플로우에 i+1번째 이미지의 마스크 이미지를 곱셈하여, i번째 이미지와 i+1번째 이미지 사이의 제1 순방향 옵티컬 플로우를 얻고, i+1번째 이미지와 i번째 이미지 사이의 역방향 옵티컬 플로우에 i번째 이미지의 마스크 이미지를 곱셈하여, i+1번째 이미지와 i번째 이미지 사이의 제1 역방향 옵티컬 플로우를 얻는 것에 사용되며,
    상기 마스크 이미지는 대응 이미지의 수복 대상 영역을 나타내고, i는 1 이상 G 미만의 자연수이고, G는 복수 프레임의 이미지의 이미지 수인, 비디오 수복 장치.
  13. 제 11 항 또는 제 12 항에 있어서,
    상기 옵티컬 플로우 최적화 모듈은 추가로,
    상기 제1 순방향 옵티컬 플로우를 연결하여 제1 연결 옵티컬 플로우를 얻고, 상기 제1 역방향 옵티컬 플로우를 연결하여 제2 연결 옵티컬 플로우를 얻는 것과,
    상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 옵티컬 플로우 최적화 처리를 각각 N회(N은 1 이상의 자연수임) 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제2 최적화 옵티컬 플로우를 얻는 것과,
    상기 제1 최적화 옵티컬 플로우에 기초하여 각 제1 순방향 옵티컬 플로우에 대응하는 제2 순방향 옵티컬 플로우를 얻고, 상기 제2 최적화 옵티컬 플로우에 기초하여 각 제1 역방향 옵티컬 플로우에 대응하는 제2 역방향 옵티컬 플로우를 얻는 것에 사용되는, 비디오 수복 장치.
  14. 제 13 항에 있어서,
    상기 옵티컬 플로우 최적화 모듈은 추가로,
    상기 제1 연결 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대해 1회째의 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제1 최적화 서브 옵티컬 플로우를 얻는 것과,
    상기 제1 연결 옵티컬 플로우 및 상기 제2 연결 옵티컬 플로우의 제i 최적화 서브 옵티컬 플로우에 대해 각각 i+1회째의 옵티컬 플로우 최적화 처리를 행하여, 상기 제1 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우 및 제2 연결 옵티컬 플로우에 대응하는 제i+1 최적화 서브 옵티컬 플로우를 얻는 것과(여기서 i는 1보다 크고 N보다 작은 자연수),
    N회째의 최적화 처리에 의해 얻어진 상기 제1 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제1 최적화 옵티컬 플로우로서 결정하고, 얻어진 상기 제2 연결 옵티컬 플로우의 제N 최적화 서브 옵티컬 플로우를 상기 제2 최적화 옵티컬 플로우로서 결정하는 것에 사용되며, 여기서 각 회의 옵티컬 플로우 최적화 처리는 잔차 처리 및 업 샘플링 처리를 포함하는, 비디오 수복 장치.
  15. 제 11 항 내지 제 14 항 중 어느 한 항에 있어서,
    상기 전파 최적화 모듈은,
    상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과,
    상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제1 수복 이미지를 얻는 것과,
    얻어진 상기 제1 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제1 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단하는 것에 사용되는 제1 전파 최적화 유닛을 포함하는, 비디오 수복 장치.
  16. 제 15 항에 있어서,
    상기 제1 전파 최적화 유닛은 추가로,
    상기 복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 첫 번째 제2 순방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제1 수복 이미지를 얻는 것과,
    k번째 이미지와 상기 k번째 이미지의 수복 이미지의 가산 처리를 행하여 k번째 이미지의 제1 가산 이미지를 얻고, k번째 제2 순방향 옵티컬 플로우에서 상기 k번째 제1 가산 이미지에 대해 시프트 처리를 행하여 k+1번째 이미지의 제1 수복 이미지를 얻는 것에 사용되고, 여기서 k는 1보다 크고 G보다 작은 자연수이고, G는 복수 프레임의 이미지의 이미지 수인, 비디오 수복 장치.
  17. 제 1 항 내지 제 16 항 중 어느 한 항에 있어서,
    상기 전파 최적화 모듈은,
    상기 복수 프레임의 이미지의 각각의, 대응 이미지의 수복 대상 영역을 나타내는 마스크 이미지를 취득하는 것과,
    상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 상기 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지 이외의 이미지의 제2 수복 이미지를 얻는 것과,
    얻어진 상기 제2 수복 이미지에 기초하여 대응 이미지의 마스크 이미지를 조정하여 제2 수복 이미지를 얻는 처리로 돌아가, 조정 후의 마스크 이미지는 수복 대상 영역이 없어지는 것을 나타내는 경우에 상기 복수 프레임의 이미지의 각각이 상기 수복의 요구를 충족시킨다고 판단하는 것에 사용되는 제2 전파 최적화 유닛을 추가로 포함하는, 비디오 수복 장치.
  18. 제 17 항에 있어서,
    상기 제2 전파 최적화 유닛은 추가로,
    상기 복수 프레임의 이미지의 시간 프레임의 역방향 순서에 따라 첫 번째 제2 역방향 옵티컬 플로우에 기초하여 첫 번째 이미지에 대해 시프트 처리를 행하여 두 번째 이미지의 제2 수복 이미지를 얻는 것과,
    h번째 이미지와 상기 h번째 이미지의 수복 이미지의 가산 처리를 행하여 h번째 이미지의 제2 가산 이미지를 얻고, h번째 제2 역방향 옵티컬 플로우에서 상기 h번째 제2 가산 이미지에 대해 시프트 처리를 행하여 h+1번째 이미지의 제2 수복 이미지를 얻는 것에 사용되며, 여기서 h는 1보다 크고 G 이하의 자연수이고, G는 복수 프레임의 이미지의 이미지 수인, 비디오 수복 장치.
  19. 제 11 항 내지 제 18 항 중 어느 한 항에 있어서,
    상기 수복 모듈은 추가로,
    복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라, 상기 순방향의 전파 최적화에 의해 얻어진 제1 최적화 이미지를 얻는 것과,
    복수 프레임의 이미지의 시간 프레임의 순방향 순서에 따라 상기 역방향의 전파 최적화에 의해 얻어진 제2 최적화 이미지를 얻는 것과,
    각 이미지의 제1 최적화 이미지와 제2 최적화 이미지의 평균값에 기초하여 당해 이미지의 수복 이미지를 얻고, 상기 복수 프레임의 이미지의 각각의 수복 이미지를 얻는 것에 사용되는, 비디오 수복 장치.
  20. 제 11 항 내지 제 19 항 중 어느 한 항에 있어서,
    옵티컬 플로우 최적화 모듈을 트레이닝하기 위한 트레이닝 모듈을 추가로 포함하며, 상기 트레이닝 모듈은,
    상기 옵티컬 플로우 최적화 모듈에 복수군의 옵티컬 플로우 샘플 및 각 옵티컬 플로우 샘플에 대응하는 마스크 샘플과 실제 옵티컬 플로우를 포함하는 트레이닝 샘플을 입력하는 것과,
    상기 옵티컬 플로우 최적화 모듈을 사용하여 상기 옵티컬 플로우 샘플에 대해 옵티컬 플로우 최적화 처리를 행하여 대응하는 최적화 옵티컬 플로우를 얻는 것과,
    상기 최적화 옵티컬 플로우와 상기 실제 옵티컬 플로우의 비교 결과에 기초하여 상기 최적화 옵티컬 플로우에서 제1 요구를 충족시키는 제1 화소점을 선택하고, 상기 제1 화소점의 마스크 이미지에 있어서의 마스크 값을 조정하여 새로운 마스크 샘플을 얻는 것과,
    미리 설정된 손실 함수에 따라 상기 최적화 옵티컬 플로우, 원래의 마스크 샘플 및 새로운 마스크 샘플에 기초하여 손실값을 얻는 것과,
    상기 손실값이 트레이닝의 요구를 충족시키는 경우, 트레이닝이 완료된 옵티컬 플로우 최적화 모듈을 얻고, 그렇지 않은 경우, 얻어진 손실값이 트레이닝의 요구를 충족시킬 때까지 상기 옵티컬 플로우 최적화 모듈의 네트워크 파라미터를 조정하여 옵티컬 플로우 샘플의 옵티컬 플로우 최적화 처리를 재실행하는 것에 사용되는, 비디오 수복 장치.
  21. 프로세서와,
    프로세서에 의해 실행 가능한 명령을 기억하기 위한 메모리를 포함하고,
    상기 프로세서는 제 1 항 내지 제 10 항 중 어느 한 항의 방법을 실행하도록 구성되는, 전자 기기.
  22. 컴퓨터 프로그램 명령이 기억되어 있는 컴퓨터 판독 가능 기억 매체로서, 상기 컴퓨터 프로그램 명령은 프로세서에서 실행되면 제 1 항 내지 제 10 항 중 어느 한 항의 방법을 실현시키는, 컴퓨터 판독 가능 기억 매체.
  23. 컴퓨터 판독 가능 코드를 포함하는 컴퓨터 프로그램으로서, 상기 컴퓨터 판독 가능 코드는 전자 기기에서 실행되면, 상기 전자 기기의 프로세서에 제 1 항 내지 제 10 항 중 어느 한 항의 방법을 실현하기 위한 명령을 실행시키는, 컴퓨터 프로그램.
KR1020207036725A 2019-01-31 2019-12-31 비디오 수복 방법 및 장치, 전자 기기 및 기억 매체 KR102406354B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201910099762.4 2019-01-31
CN201910099762.4A CN109816611B (zh) 2019-01-31 2019-01-31 视频修复方法及装置、电子设备和存储介质
PCT/CN2019/130428 WO2020156009A1 (zh) 2019-01-31 2019-12-31 视频修复方法及装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
KR20210018850A true KR20210018850A (ko) 2021-02-18
KR102406354B1 KR102406354B1 (ko) 2022-06-07

Family

ID=66606244

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020207036725A KR102406354B1 (ko) 2019-01-31 2019-12-31 비디오 수복 방법 및 장치, 전자 기기 및 기억 매체

Country Status (6)

Country Link
US (1) US11544820B2 (ko)
JP (1) JP7125541B2 (ko)
KR (1) KR102406354B1 (ko)
CN (1) CN109816611B (ko)
SG (1) SG11202010145WA (ko)
WO (1) WO2020156009A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102518554B1 (ko) * 2022-04-27 2023-04-06 주식회사세오 신경망을 이용한 수위 예측 방법 및 시스템
WO2023085759A1 (ko) * 2021-11-09 2023-05-19 삼성전자 주식회사 Ai를 이용하는 영상 부호화 장치 및 영상 복호화 장치, 및 이들에 의한 영상의 부호화 및 복호화 방법

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109816611B (zh) 2019-01-31 2021-02-12 北京市商汤科技开发有限公司 视频修复方法及装置、电子设备和存储介质
CN111105382B (zh) * 2019-12-31 2021-11-16 北京大学 视频修复方法
CN111614996B (zh) * 2020-04-07 2022-03-18 上海推乐信息技术服务有限公司 一种视频修复方法和系统
CN113660443A (zh) * 2020-05-12 2021-11-16 武汉Tcl集团工业研究院有限公司 一种视频插帧方法、终端以及存储介质
CN111612721B (zh) * 2020-05-22 2023-09-22 哈尔滨工业大学（深圳） 一种图像修复模型训练、卫星图像修复方法及装置
CN111609868A (zh) * 2020-05-29 2020-09-01 电子科技大学 一种基于改进光流法的视觉惯性里程计方法
CN111738998B (zh) * 2020-06-12 2023-06-23 深圳技术大学 病灶位置动态检测方法及装置、电子设备和存储介质
CN112272311B (zh) * 2020-10-21 2022-08-26 腾讯科技（北京）有限公司 花屏修复方法、装置、终端、服务器及介质
CN112465728B (zh) * 2020-12-07 2022-09-23 华中光电技术研究所（中国船舶重工集团公司第七一七研究所） 视频图像处理方法、系统、电子设备及存储介质
CN112669204B (zh) * 2021-01-04 2024-05-03 北京金山云网络技术有限公司 图像处理方法、图像处理模型的训练方法和装置
CN112862766B (zh) * 2021-01-28 2022-11-04 华北电力大学（保定） 一种基于图像数据扩充技术的绝缘子检测方法及系统
CN114972050A (zh) * 2021-02-27 2022-08-30 华为技术有限公司 一种图像修复方法及装置
US20220301112A1 (en) * 2021-03-19 2022-09-22 Micron Technology, Inc. Modular machine learning models for denoising images and systems and methods for using same
CN118118676A (zh) * 2022-11-29 2024-05-31 北京三星通信技术研究有限公司 由电子设备执行的方法、电子设备和存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090041562A (ko) * 2007-10-24 2009-04-29 엘지디스플레이 주식회사 프레임 보간 장치 및 그를 포함한 프레임 속도 상향 변환장치
CN106204567A (zh) * 2016-07-05 2016-12-07 华南理工大学 一种自然背景视频抠图方法

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2820255A1 (fr) * 2001-01-26 2002-08-02 France Telecom Procedes de codage et de decodage d'images, dispositifs, systemes, signaux et applications correspondants
US9396385B2 (en) * 2010-08-26 2016-07-19 Blast Motion Inc. Integrated sensor and video motion analysis method
US9672626B2 (en) * 2014-12-08 2017-06-06 Yissum Research Development Company Of The Hebrew University Of Jerusalem Ltd. Method and system for generating adaptive fast forward of egocentric videos
CN105025201B (zh) * 2015-07-29 2017-11-14 武汉大学 一种时空连续的视频背景修复方法
US10049279B2 (en) 2016-03-11 2018-08-14 Qualcomm Incorporated Recurrent networks with motion-based attention for video understanding
JP6609505B2 (ja) 2016-04-06 2019-11-20 Ｋｄｄｉ株式会社 画像合成装置及びプログラム
US10275892B2 (en) 2016-06-09 2019-04-30 Google Llc Multi-view scene segmentation and propagation
JP6854629B2 (ja) 2016-11-24 2021-04-07 キヤノン株式会社 画像処理装置、画像処理方法
CN106973293B (zh) * 2017-04-21 2020-10-27 中国科学技术大学 基于视差预测的光场图像编码方法
US10547871B2 (en) * 2017-05-05 2020-01-28 Disney Enterprises, Inc. Edge-aware spatio-temporal filtering and optical flow estimation in real time
CN107292912B (zh) * 2017-05-26 2020-08-18 浙江大学 一种基于多尺度对应结构化学习的光流估计方法
US10636193B1 (en) * 2017-06-29 2020-04-28 Facebook Technologies, Llc Generating graphical representation of a user's face and body using a monitoring system included on a head mounted display
CN108229290B (zh) * 2017-07-26 2021-03-02 北京市商汤科技开发有限公司 视频物体分割方法和装置、电子设备、存储介质
CN107480646B (zh) * 2017-08-22 2020-09-25 北京工业大学 一种基于双目视觉的车载视频异常运动检测方法
CN108875900B (zh) * 2017-11-02 2022-05-24 北京旷视科技有限公司 视频图像处理方法和装置、神经网络训练方法、存储介质
CN108090919B (zh) * 2018-01-02 2020-12-22 华南理工大学 一种基于超像素光流和自适应学习因子改进的核相关滤波跟踪方法
CN108389217A (zh) * 2018-01-31 2018-08-10 华东理工大学 一种基于梯度域混合的视频合成方法
CN108320020A (zh) * 2018-02-07 2018-07-24 深圳市唯特视科技有限公司 一种基于双向光流的端到端无监督学习方法
CN109086807B (zh) * 2018-07-16 2022-03-18 哈尔滨工程大学 一种基于空洞卷积堆叠网络的半监督光流学习方法
CN109284720A (zh) * 2018-09-28 2019-01-29 大连民族大学 度量视频连续帧与其卷积特征图间差异在视频行为识别中的应用
JP7392227B2 (ja) * 2019-01-15 2023-12-06 ポートランド ステイト ユニヴァーシティ 映像フレーム補間のための特徴ピラミッドワーピング
CN109819229B (zh) * 2019-01-22 2021-02-26 北京市商汤科技开发有限公司 图像处理方法及装置、电子设备和存储介质
CN109816611B (zh) 2019-01-31 2021-02-12 北京市商汤科技开发有限公司 视频修复方法及装置、电子设备和存储介质
US11526970B2 (en) * 2019-09-04 2022-12-13 Samsung Electronics Co., Ltd System and method for video processing with enhanced temporal consistency
CN112767441B (zh) * 2021-01-08 2023-06-06 南昌航空大学 一种基于残差场和位移场的图像光流优化方法及系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090041562A (ko) * 2007-10-24 2009-04-29 엘지디스플레이 주식회사 프레임 보간 장치 및 그를 포함한 프레임 속도 상향 변환장치
CN106204567A (zh) * 2016-07-05 2016-12-07 华南理工大学 一种自然背景视频抠图方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
최윤준 외 2명, "폐색영역과 경계선을 고려한 Optical Flow 추정", 대한전자공학회 학술대회, 8-10, July 2009, pp.937-938(2009.07.08.) 1부.* *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023085759A1 (ko) * 2021-11-09 2023-05-19 삼성전자 주식회사 Ai를 이용하는 영상 부호화 장치 및 영상 복호화 장치, 및 이들에 의한 영상의 부호화 및 복호화 방법
KR102518554B1 (ko) * 2022-04-27 2023-04-06 주식회사세오 신경망을 이용한 수위 예측 방법 및 시스템

Also Published As

Publication number Publication date
US11544820B2 (en) 2023-01-03
KR102406354B1 (ko) 2022-06-07
WO2020156009A1 (zh) 2020-08-06
JP7125541B2 (ja) 2022-08-24
SG11202010145WA (en) 2020-11-27
CN109816611A (zh) 2019-05-28
CN109816611B (zh) 2021-02-12
JP2021519051A (ja) 2021-08-05
US20210035268A1 (en) 2021-02-04

Similar Documents

Publication Publication Date Title
KR102406354B1 (ko) 비디오 수복 방법 및 장치, 전자 기기 및 기억 매체
KR102394354B1 (ko) 키 포인트 검출 방법 및 장치, 전자 기기 및 저장 매체
JP7262659B2 (ja) 目標対象物マッチング方法及び装置、電子機器並びに記憶媒体
KR102538164B1 (ko) 이미지 처리 방법 및 장치, 전자 장치 및 기억 매체
CN107409166B (zh) 摇摄镜头的自动生成
TW202042175A (zh) 圖像處理方法及裝置、電子設備和電腦可讀儲存媒體
CN109741388B (zh) 用于生成双目深度估计模型的方法和装置
JP7026257B2 (ja) 画像処理方法及び装置、電子機器並びに記憶媒体
KR20210019537A (ko) 이미지 처리 방법 및 장치, 전자 기기 및 기억 매체
KR20190092995A (ko) 단말기 및 그것의 이미지 처리 방법
EP2866196A1 (en) An apparatus, a method and a computer program for image segmentation
KR20210028218A (ko) 이미지 처리 방법과 장치, 전자 기기 및 저장 매체
CN109040523B (zh) 伪影消除方法、装置、存储介质及终端
CN109886392B (zh) 数据处理方法和装置、电子设备和存储介质
CN110188865B (zh) 信息处理方法及装置、电子设备和存储介质
TW202032425A (zh) 圖像處理方法及裝置、電子設備和儲存介質
CN112800276B (zh) 视频封面确定方法、装置、介质及设备
US20170257557A1 (en) Irregular-region based automatic image correction
CN103945116A (zh) 用于在具有相机的移动终端中处理图像的设备和方法
JP2015179426A (ja) 情報処理装置、パラメータの決定方法、及びプログラム
CN112508959A (zh) 视频目标分割方法、装置、电子设备及存储介质
US20230164446A1 (en) Imaging exposure control method and apparatus, device and storage medium
CN115457024A (zh) 冷冻电镜图像处理方法、装置、电子设备及存储介质
JP6155349B2 (ja) デコンボリューション画像において色収差を減じる方法、装置及びコンピュータプログラム製品
CN112508801A (zh) 图像处理方法及计算设备

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant