KR20190008306A - 렌즈 이미지를 파노라마 이미지로 전개하는 방법 및 장치 - Google Patents

렌즈 이미지를 파노라마 이미지로 전개하는 방법 및 장치 Download PDF

Info

Publication number
KR20190008306A
KR20190008306A KR1020187035978A KR20187035978A KR20190008306A KR 20190008306 A KR20190008306 A KR 20190008306A KR 1020187035978 A KR1020187035978 A KR 1020187035978A KR 20187035978 A KR20187035978 A KR 20187035978A KR 20190008306 A KR20190008306 A KR 20190008306A
Authority
KR
South Korea
Prior art keywords
grid model
image
lens image
new
developed
Prior art date
Application number
KR1020187035978A
Other languages
English (en)
Other versions
KR102206899B1 (ko
Inventor
시보 왕
징정 성
차오 왕
레이 시옹
한원 퀴우
하이푸 탄
Original Assignee
선전 피소프트테크 테크놀로지 컴퍼니 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 선전 피소프트테크 테크놀로지 컴퍼니 리미티드 filed Critical 선전 피소프트테크 테크놀로지 컴퍼니 리미티드
Publication of KR20190008306A publication Critical patent/KR20190008306A/ko
Application granted granted Critical
Publication of KR102206899B1 publication Critical patent/KR102206899B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/10Selection of transformation methods according to the characteristics of the input images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • G06T3/047Fisheye or wide-angle transformations
    • G06T3/0056
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • H04N5/23229
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/28Indexing scheme for image data processing or generation, in general involving image processing hardware

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Computer Graphics (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

렌즈 이미지를 파노라마 이미지로 전개하는 방법 및 장치에 있어서, 상기 방법에는, 하나의 원시 그리드 모델을 준비하고, 새 맵핑 좌표값을 계산하며, 상기 원시 그리드 모델의 원시 맵핑 좌표값과 계산을 통하여 취득한 상기 새 맵핑 좌표값에 대하여 좌표값 변환을 진행하여, 새 그리드 모델을 생성 및 저장하는 A 단계: 하나의 전개하고자 하는 렌즈 이미지를 준비하고, 상기 전개하고자 하는 렌즈 이미지를 상기 A 단계 중의 새 그리드 모델에 적용시키며, 또한 GPU를 통하여 상기 새 그리드 모델에 대하여 렌더링을 진행하여 파노라마 이미지를 취득 및 저장하는 B 단계가 포함된다. 전개하고자 하는 렌즈 이미지를 사전에 새 맵핑 좌표값을 계산 및 변경시킨 새 그리드 모델에 적용시키고, 또한 GPU를 통하여 새 그리드 모델에 대하여 렌더링을 진행하여, 빠르게 렌즈 이미지를 파노라마 이미지로 전개할 수 있어, 파노라마 장치의 원가, 에너지 소모를 크게 낮추고 부피를 크게 줄이며, 아울러 이러한 방법을 통하여 고해상도, 실시간 파노라마의 제작을 구현할 수 있다.

Description

렌즈 이미지를 파노라마 이미지로 전개하는 방법 및 장치
본 발명은 이미지 처리 기술분야에 속하는 것으로서, 특히 렌즈 이미지를 파노라마 이미지로 전개하는 방법 및 장치에 관한 것이다.
VR 기술(가상현실 기술)의 빠른 발전에 따라, 사람들의 VR 컨텐츠(가상현실 컨텐츠)에 대한 수요도 날로 많아지고 있고 파노라마 이미지 및 파노라마 비디오는 VR 컨텐츠의 중요한 구성 부분의 하나로서, 현재의 파노라마 이미지는 일반적으로 큰 각도의 어안 렌즈 카메라로 촬영하거나, 또는 몇 개의 광각 또는 어안 렌즈 카메라가 촬영하고 또한 촬영한 이미지를 결합시켜 형성하는 것으로서, 광각과 어안 카메라가 촬영한 이미지는 모두 일그러짐이 존재하기 때문에, 알고리즘을 통하여 광각 또는 어안 카메라가 촬영한 이미지를 파노라마 이미지로 전개하여야 한다. 현재의 파노라마 이미지 전개 알고리즘은 대부분 CPU(중앙처리장치)에서 실행되고, 소수의 파노라마 이미지 전개 알고리즘이 GPU(Graphic Processing Unit, 이미지 처리 장치, 이하 "GPU"로 약칭)에서 실행되며, 파노라마 이미지 전개 알고리즘의 계산량이 아주 크기 때문에, 한 프레임의 이미지를 전개하는데 필요한 시간이 아주 길고, 일반적으로 원가, 에너지 소모가 비교적 높고 부피가 비교적 큰 고성능 CPU를 사용하지만, CPU는 고해상도 또는 실시간의 이미지 전개를 구현하기 어렵고, 파노라마 라이브를 구현할 수 없다.
상기 기술적 과제를 해결하기 위하여, 본 발명에서는 렌즈 이미지를 파노라마 이미지로 전개하는 방법 및 장치를 제공하여, 빠르게 렌즈 이미지를 파노라마 이미지로 전개하고, 파노라마 장치의 원가, 에너지 소모를 낮추고 파노라마 장치의 부피를 줄이는 것을 목적으로 한다.
제1 방면으로, 본 발명에서는 렌즈 이미지를 파노라마 이미지로 전개하는 방법을 제공하는 바,
하나의 원시 그리드 모델을 준비하고, 새 맵핑 좌표값을 계산하며, 상기 원시 그리드 모델의 원시 맵핑 좌표값과 계산을 통하여 취득한 상기 새 맵핑 좌표값에 대하여 좌표값 변환을 진행하여, 새 그리드 모델을 생성 및 저장하는 A 단계:
하나의 전개하고자 하는 렌즈 이미지를 준비하고, 상기 전개하고자 하는 렌즈 이미지를 상기 A 단계 중의 새 그리드 모델에 적용시키며, 또한 GPU를 통하여 상기 새 그리드 모델에 대하여 렌더링을 진행하여 파노라마 이미지를 취득 및 저장하는 B 단계가 포함된다.
나아가, 상기 A 단계에는,
하나의 원시 그리드 모델을 준비하는 A1 단계;
참조를 위한 파노라마로 전개된 하나의 렌즈 이미지를 준비하는 A2 단계;
상기 A2 단계 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 상기 A1 단계 중의 원시 그리드 모델에 적용하는 A3 단계;
상기 A3 단계 중의 참조를 위한 파노라마로 전개된 렌즈 이미지 촬영 시 렌즈의 방향 파라미터, 화각, 일그러짐 파라미터, 이미지 편심 파라미터와 변위 파라미터에 의하여, 참조를 위한 파노라마로 전개된 렌즈 이미지가 소재하는 원시 그리드 모델 중의 각 정점의 새 맵핑 좌표값을 계산하고, 또한 상기 원시 그리드 모델 중의 각 정점의 원시 맵핑 좌표값을 모두 이에 대응되는 새 맵핑 좌표값으로 변경시켜, 새 그리드 모델을 생성하는 A4 단계;
상기 A3 단계 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 취출하고, 또한 상기 A4 단계 중의 새 그리드 모델을 저장하는 A5 단계가 포함된다.
나아가, 상기 B 단계에는,
하나의 전개하고자 하는 렌즈 이미지를 준비하는 B1 단계;
상기 B1 단계 중의 전개하고자 하는 렌즈 이미지를 상기 A5 단계의 새 그리드 모델에 적용시키는 B2 단계;
GPU를 통하여 상기 B2 단계 중의 새 그리드 모델에 대하여 렌더링을 진행하여, 상기 전개하고자 하는 렌즈 이미지와 대응되는 파노라마 이미지를 취득하는 B3 단계;
상기 B3 단계 중의 파노라마 이미지에 대하여 저장을 진행하는 B4 단계가 포함된다.
더욱 나아가, 상기 원시 그리드 모델의 형상은 직사각형, 구형, 360° 파노라마, 원구, 반구 또는 기타 평면 기하 도형 또는 곡면 입체 기하 도형일 수 있다.
더더욱 나아가, 상기 렌즈 이미지는 어안 렌즈 이미지, 광각 렌즈 이미지 또는 기타 형식의 렌즈 이미지일 수 있다.
제2 방면으로, 본 발명에서는 렌즈 이미지를 파노라마 이미지로 전개하는 장치를 제공하는 바,
원시 그리드 모델을 저장하고 새 맵핑 좌표값을 계산하며, 상기 원시 그리드 모델의 원시 맵핑 좌표값과 계산을 통하여 취득한 상기 새 맵핑 좌표값에 대하여 좌표값 변환을 진행하여, 새 그리드 모델을 생성 및 저장하는 새 그리드 모델 생성 모듈;
전개하고자 하는 렌즈 이미지를 저장하고, 상기 전개하고자 하는 렌즈 이미지를 상기 새 그리드 모델 생성 모듈 중의 새 그리드 모델에 적용시키며, 또한 GPU를 통하여 상기 새 그리드 모델에 대하여 렌더링을 진행하여 파노라마 이미지를 취득 및 저장하고, 상기 새 그리드 모델 생성 모듈과 연결되는 파노라마 이미지 취득 모듈이 포함된다.
나아가, 상기 새 그리드 모델 생성 모듈에는,
원시 그리드 모델을 저장하는 원시 그리드 모델 저장부;
참조를 위한 파노라마로 전개된 렌즈 이미지를 저장하고, 상기 원시 그리드 모델 저장부와 연결되는 참조를 위한 파노라마로 전개된 렌즈 이미지 저장부;
참조를 위한 파노라마로 전개된 렌즈 이미지 저장부 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 상기 원시 그리드 모델 저장부 중의 원시 그리드 모델에 적용시키고, 상기 참조를 위한 파노라마로 전개된 렌즈 이미지 저장부와 연결되는 렌즈 이미지 제1 적용부;
상기 렌즈 이미지 제1 적용부 중의 참조를 위한 파노라마로 전개된 렌즈 이미지 촬영 시 렌즈의 방향 파라미터, 화각, 일그러짐 파라미터, 이미지 편심 파라미터와 변위 파라미터에 의하여, 참조를 위한 파노라마로 전개된 렌즈 이미지가 소재하는 원시 그리드 모델 중의 각 정점의 새 맵핑 좌표값을 계산하고, 또한 상기 원시 그리드 모델 중의 각 정점의 원시 맵핑 좌표값을 모두 이에 대응되는 새 맵핑 좌표값으로 변경시켜, 새 그리드 모델을 생성하며, 상기 렌즈 이미지 제1 적용부와 연결되는 그리드 모델 맵핑 좌표 처리부;
상기 렌즈 이미지 제1 적용부 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 취출하고 또한 상기 그리드 모델 맵핑 좌표 처리부 중에 생성된 새 그리드 모델을 저장하며, 상기 그리드 모델 맵핑 좌표 처리부와 연결되는 새 그리드 모델 저장부가 포함된다.
나아가, 상기 파노라마 이미지 취득 모듈에는,
전개하고자 하는 렌즈 이미지를 저장하고, 상기 새 그리드 모델 저장부와 연결되는 전개하고자 하는 렌즈 이미지 저장부;
상기 전개하고자 하는 렌즈 이미지 저장부 중의 전개하고자 하는 렌즈 이미지를 상기 새 그리드 모델 저장부 중의 새 그리드 모델 내에 적용시키고, 상기 전개하고자 하는 렌즈 이미지 저장부와 연결되는 렌즈 이미지 제2 적용부;
GPU를 통하여 상기 렌즈 이미지 제2 적용부 중의 새 그리드 모델에 대하여 렌더링을 진행하여, 상기 전개하고자 하는 렌즈 이미지와 대응되는 파노라마 이미지를 취득하고, 상기 렌즈 이미지 제2 적용부와 연결되는 새 그리드 모델 렌더링부;
상기 새 그리드 모델 렌더링부 중의 상기 파노라마 이미지에 대하여 저장을 진행하고, 상기 새 그리드 모델 렌더링부와 연결되는 파노라마 이미지 저장부가 포함된다.
더욱 나아가, 상기 원시 그리드 모델의 형상은 직사각형, 구형, 360° 파노라마, 원구, 반구 또는 기타 평면 기하 도형 또는 곡면 입체 기하 도형일 수 있다.
더더욱 나아가, 상기 렌즈 이미지는 어안 렌즈 이미지, 광각 렌즈 이미지 또는 기타 형식의 렌즈 이미지일 수 있다.
종래 기술에 비하여, 본 발명은 전개하고자 하는 렌즈 이미지를 재질 맵핑으로 하여 사전에 새 맵핑 좌표값을 계산 및 변경시킨 새 그리드 모델에 적용시키고, 또한 GPU를 통하여 새 그리드 모델에 대하여 렌더링을 진행하여, 빠르게 렌즈 이미지를 파노라마 이미지로 전개할 수 있어, 파노라마 장치의 원가, 에너지 소모를 크게 낮추고 부피를 크게 줄이며, 아울러 이러한 방법을 통하여 고해상도, 실시간 파노라마의 제작을 구현할 수 있다.
도1은 본 발명의 실시예에서 제공하는 렌즈 이미지를 파노라마 이미지로 전개하는 방법의 흐름도.
도2는 도1에서 새 그리드 모델을 생성하는 방법의 흐름도.
도3은 도1에서 파노라마 이미지를 취득하는 방법의 흐름도.
도4는 본 발명의 실시예에서 제공하는 하나의 직사각형 원시 그리드 모델의 도면.
도5는 본 발명의 실시예에서 제공하는 하나의 참조를 위한 파노라마로 전개된 어안 이미지 도면.
도6은 본 발명의 실시예에서 제공하는 어안 렌즈 카메라가 촬영한 하나의 전개하고자 하는 어안 이미지 도면.
도7은 본 발명의 실시예에서 제공하는 새 직사각형 그리드 모델을 렌더링하여 취득한 파노라마 이미지 도면.
도8은 본 발명의 실시예에서 제공하는 렌즈 이미지를 파노라마 이미지로 전개하는 장치의 구조도.
본 발명의 목적, 기술방안 및 장점을 더욱 명료하게 하기 위하여, 이해 실시예와 첨부된 도면을 참조하여 본 발명에 대하여 진일보로 상세히 설명하도록 한다. 여기에 기재된 구체적인 실시예는 단지 본 발명의 해석에 불과하고 본 발명을 제한하는 것이 아님을 이해하여야 할 것이다.
아래, 구체적인 실시예를 참조하여 본 발명의 구현에 대하여 상세한 설명을 진행하도록 한다.
도1을 참조하면, 도1은 본 발명의 실시예에서 제공하는 렌즈 이미지를 파노라마 이미지로 전개하는 방법의 흐름도로서, 도1에 도시된 바와 같이, 렌즈 이미지를 파노라마 이미지로 전개하는 방법에는,
하나의 원시 그리드 모델을 준비하고, 새 맵핑 좌표값을 계산하며, 상기 원시 그리드 모델의 원시 맵핑 좌표값과 계산을 통하여 취득한 상기 새 맵핑 좌표값에 대하여 좌표값 변환을 진행하여, 새 그리드 모델을 생성 및 저장하는 S20 단계:
하나의 전개하고자 하는 렌즈 이미지를 준비하고, 상기 전개하고자 하는 렌즈 이미지를 상기 S20 단계 중의 새 그리드 모델에 적용시키며, 또한 GPU를 통하여 상기 새 그리드 모델에 대하여 렌더링을 진행하여 파노라마 이미지를 취득 및 저장하는 S21 단계가 포함된다.
도2를 참조하면, 도2는 도1에서 새 그리드 모델을 생성하는 방법의 흐름도로서, 도2에 도시된 바와 같이, 새 그리드 모델을 생성하는 방법에는,
하나의 원시 그리드 모델을 준비하는 S201 단계;
참조를 위한 파노라마로 전개된 하나의 렌즈 이미지를 준비하는 S202 단계;
상기 S202 단계 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 상기 S201 단계 중의 원시 그리드 모델에 적용하는 S203 단계;
상기 S203 단계 중의 참조를 위한 파노라마로 전개된 렌즈 이미지 촬영 시 렌즈의 방향 파라미터, 화각, 일그러짐 파라미터, 이미지 편심 파라미터와 변위 파라미터에 의하여, 참조를 위한 파노라마로 전개된 렌즈 이미지가 소재하는 원시 그리드 모델 중의 각 정점의 새 맵핑 좌표값을 계산하고, 또한 상기 원시 그리드 모델 중의 각 정점의 원시 맵핑 좌표값을 모두 이에 대응되는 새 맵핑 좌표값으로 변경시켜, 새 그리드 모델을 생성하는 S204 단계;
상기 S203 단계 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 취출하고, 또한 상기 S204 단계 중의 새 그리드 모델을 저장하는 S205 단계가 포함된다.
도3을 참조하면, 도3은 도1에서 파노라마 이미지를 취득하는 방법의 흐름도로서, 도3에 도시된 바와 같이, 파노라마 이미지를 취득하는 방법에는,
하나의 전개하고자 하는 렌즈 이미지를 준비하는 S211 단계;
상기 S211 단계 중의 전개하고자 하는 렌즈 이미지를 상기 S205 단계의 새 그리드 모델에 적용시키는 S212 단계;
GPU를 통하여 상기 S212 단계 중의 새 그리드 모델에 대하여 렌더링을 진행하여, 상기 전개하고자 하는 렌즈 이미지와 대응되는 파노라마 이미지를 취득하는 S213 단계;
상기 S213 단계 중의 파노라마 이미지에 대하여 저장을 진행하는 S214 단계가 포함된다.
아래 하나의 직사각형 원시 그리드 모델과 어안 렌즈 카메라로 촬영한 하나의 어안 이미지를 예로 들어 설명을 진행하도록 한다.
우선 3dsMax 또는 기타 모델링 툴 중에서 하나의 길이 너비 비례가 2:1인 직사각형 원시 그리드 모델을 구축하는 바, 해당 직사각형 원시 그리드 모델은 다수의 정방형 그리드로 구성되기 때문에, 직사각형 그리드 모델의 길이 너비 분할 비례도 2:1이며, 정상 상황에서, 모델 중의 그리드가 밀집될 수록 전개된 파노라마 이미지의 품질이 높고 효과도 좋으며, 도4에 도시된 것은 길이가 50개 정방형 그리드로 구성되고, 너비가 25개 정방형 그리드로 구성된 직사각형 그리도 모델이며;
도5는 하나의 참조를 위한 파노라마로 전개된 어안 이미지 도면이며;
도5에 도시된 참조를 위한 파노라마로 전개된 어안 이미지를 맵핑으로서 도4에 도시된 직사각형 원시 그리드 모델에 적용하며, 해당 직사각형 원시 그리드 모델 중의 각 그리드는 모두 네 정점으로 구성되고, 각 그리드의 정점에는 그리드의 위치 좌표(X,Y,Z)와 원시 맵핑 좌표(U,V)가 포함되며, 해당 참조를 위한 파노라마로 전개된 어안 이미지의 방향 파라미터, 화각, 일그러짐 파라미터, 이미지 편심 파라미터와 변위 파라미터 등에 의하여 해당 직사각형 원시 그리드 모델 중의 각 정점의 새 맵핑 좌표값을 계산하여야 하는데, 새 맵핑 좌표값이 해당 점점이 어안 이미지의 어떤 픽셀을 사용하여 해당 정점으로 구성된 그리드에 붙여야 하는 것을 결정하기 때문에, 해당 직사각형 원시 그리드 모델 중의 각 정점의 원시 맵핑 좌표값을 모두 이에 대응되는 새 맵핑 좌표값으로 변경시키는 바, 위치 좌표가 (15,9)인 정점을 예로 들면, 해당 정점의 원시 맵핑 좌표값은 (0,0)이고, 계산을 거쳐 해당 정점에 대응되는 새 맵핑 좌표값이(0.1,0.3)이라는 것을 취득할 수 있기 때문에, 해당 정점의 원시 맵핑 좌표값(0,0)을 새 맵핑 좌표값(0.1,0.3)으로 변경하고, 또한 상기 직사각형 원시 그리드 모델 중의 각 정점의 새 맵핑 좌표값을 모두 이러한 방법에 따라 설정하여, 새 직사각형 그리드 모델을 생성 및 저장하며;
도6은 어안 렌즈 카메라가 촬영한 하나의 전개하고자 하는 어안 이미지 도면으로서, 해당 전개하고자 하는 어안 이미지를 새 직사각형 그리드 모델에 적용하며;
GPU를 통하여 새 직사각형 그리드 모델에 대하여 렌더링을 진행하여, 해당 어안 이미지에 대응되는 파노라마 이미지를 취득 및 저장하며, 도7은 새 직사각형 그리드 모델을 렌더링하여 취득한 파노라마 이미지 도면이다.
본 발명의 실시예에서, 새 맵핑 좌표값을 계산 및 변경한 새 그리드 모델은 저장하여, 다음에 직접 사용할 수 있다.
도8을 참조하면, 도8은 본 발명의 실시예에서 제공하는 렌즈 이미지를 파노라마 이미지로 전개하는 장치의 구조도로서, 도8에 도시된 바와 같이, 렌즈 이미지를 파노라마 이미지로 전개하는 장치에는,
원시 그리드 모델을 저장하고 새 맵핑 좌표값을 계산하며, 상기 원시 그리드 모델의 원시 맵핑 좌표값과 계산을 통하여 취득한 상기 새 맵핑 좌표값에 대하여 좌표값 변환을 진행하여, 새 그리드 모델을 생성 및 저장하는 새 그리드 모델 생성 모듈(30);
전개하고자 하는 렌즈 이미지를 저장하고, 상기 전개하고자 하는 렌즈 이미지를 상기 새 그리드 모델 생성 모듈(30) 중의 새 그리드 모델에 적용시키며, 또한 GPU를 통하여 상기 새 그리드 모델에 대하여 렌더링을 진행하여 파노라마 이미지를 취득 및 저장하고, 상기 새 그리드 모델 생성 모듈(30)과 연결되는 파노라마 이미지 취득 모듈(31)이 포함된다.
본 발명의 실시예에서, 새 그리드 모델 생성 모듈(30)에는,
원시 그리드 모델을 저장하는 원시 그리드 모델 저장부(301);
참조를 위한 파노라마로 전개된 렌즈 이미지를 저장하고, 원시 그리드 모델 저장부(301)와 연결되는 참조를 위한 파노라마로 전개된 렌즈 이미지 저장부(302);
참조를 위한 파노라마로 전개된 렌즈 이미지 저장부(302) 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 상기 원시 그리드 모델 저장부(301) 중의 원시 그리드 모델에 적용시키고, 상기 참조를 위한 파노라마로 전개된 렌즈 이미지 저장부와 연결되는 렌즈 이미지 제1 적용부(303);
상기 렌즈 이미지 제1 적용부(303) 중의 참조를 위한 파노라마로 전개된 렌즈 이미지 촬영 시 렌즈의 방향 파라미터, 화각, 일그러짐 파라미터, 이미지 편심 파라미터와 변위 파라미터에 의하여, 참조를 위한 파노라마로 전개된 렌즈 이미지가 소재하는 원시 그리드 모델 중의 각 정점의 새 맵핑 좌표값을 계산하고, 또한 상기 원시 그리드 모델 중의 각 정점의 원시 맵핑 좌표값을 모두 이에 대응되는 새 맵핑 좌표값으로 변경시켜, 새 그리드 모델을 생성하며, 상기 렌즈 이미지 제1 적용부(303)와 연결되는 그리드 모델 맵핑 좌표 처리부(304);
상기 렌즈 이미지 제1 적용부(303) 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 취출하고 또한 상기 그리드 모델 맵핑 좌표 처리부(304) 중에 생성된 새 그리드 모델을 저장하며, 상기 그리드 모델 맵핑 좌표 처리부(304)와 연결되는 새 그리드 모델 저장부(305)가 포함된다.
파노라마 이미지 취득 모듈(31)에는,
전개하고자 하는 렌즈 이미지를 저장하고, 상기 새 그리드 모델 저장부(305)와 연결되는 전개하고자 하는 렌즈 이미지 저장부(311);
상기 전개하고자 하는 렌즈 이미지 저장부(311) 중의 전개하고자 하는 렌즈 이미지를 상기 새 그리드 모델 저장부(305) 중의 새 그리드 모델 내에 적용시키고, 상기 전개하고자 하는 렌즈 이미지 저장부(311)와 연결되는 렌즈 이미지 제2 적용부(312);
GPU를 통하여 상기 렌즈 이미지 제2 적용부(312) 중의 새 그리드 모델에 대하여 렌더링을 진행하여, 상기 전개하고자 하는 렌즈 이미지와 대응되는 파노라마 이미지를 취득하고, 상기 렌즈 이미지 제2 적용부(312)와 연결되는 새 그리드 모델 렌더링부(313);
상기 새 그리드 모델 렌더링부(313) 중의 상기 파노라마 이미지에 대하여 저장을 진행하고, 상기 새 그리드 모델 렌더링부(313)와 연결되는 파노라마 이미지 저장부(314)가 포함된다.
본 발명의 실시예에서, 원시 그리드 모델과 이에 대응되는 새 그리드 모델의 형상은 직사각형, 구형, 360° 파노라마, 원구, 반구 또는 기타 평면 기하 도형 또는 곡면 입체 기하 도형일 수 있으며; 렌즈 이미지는 어안 렌즈 이미지, 광각 렌즈 이미지 또는 기타 형식의 렌즈 이미지일 수 있다.
본 발명은 전개하고자 하는 렌즈 이미지를 재질 맵핑으로 하여 사전에 새 맵핑 좌표값을 계산 및 변경시킨 새 그리드 모델에 적용시키고, 또한 GPU를 통하여 새 그리드 모델에 대하여 렌더링을 진행하여, 빠르게 렌즈 이미지를 파노라마 이미지로 전개할 수 있어, 파노라마 장치의 원가, 에너지 소모를 크게 낮추고 부피를 크게 줄이며, 아울러 이러한 방법을 통하여 고해상도, 실시간 파노라마의 제작을 구현할 수 있다.
이상에서는 본 발명을 특정의 실시예에 대해서 도시하고 설명하였지만, 본 발명은 상술한 실시예에만 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 속하는 기술분야에서 통상의 지식을 가진 자라면 이하의 청구범위에 기재된 본 발명의 기술적 사상의 요지를 벗어나지 않는 범위에서 얼마든지 다양하게 변경하여 실시할 수 있을 것이다.

Claims (10)

  1. 렌즈 이미지를 파노라마 이미지로 전개하는 방법에 있어서,
    하나의 원시 그리드 모델을 준비하고, 새 맵핑 좌표값을 계산하며, 상기 원시 그리드 모델의 원시 맵핑 좌표값과 계산을 통하여 취득한 상기 새 맵핑 좌표값에 대하여 좌표값 변환을 진행하여, 새 그리드 모델을 생성 및 저장하는 A 단계:
    하나의 전개하고자 하는 렌즈 이미지를 준비하고, 상기 전개하고자 하는 렌즈 이미지를 상기 A 단계 중의 새 그리드 모델에 적용시키며, 또한 GPU를 통하여 상기 새 그리드 모델에 대하여 렌더링을 진행하여 파노라마 이미지를 취득 및 저장하는 B 단계가 포함되는 것을 특징으로 하는
    렌즈 이미지를 파노라마 이미지로 전개하는 방법.
  2. 제1항에 있어서,
    상기 A 단계에는,
    하나의 원시 그리드 모델을 준비하는 A1 단계;
    참조를 위한 파노라마로 전개된 하나의 렌즈 이미지를 준비하는 A2 단계;
    상기 A2 단계 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 상기 A1 단계 중의 원시 그리드 모델에 적용하는 A3 단계;
    상기 A3 단계 중의 참조를 위한 파노라마로 전개된 렌즈 이미지 촬영 시 렌즈의 방향 파라미터, 화각, 일그러짐 파라미터, 이미지 편심 파라미터와 변위 파라미터에 의하여, 참조를 위한 파노라마로 전개된 렌즈 이미지가 소재하는 원시 그리드 모델 중의 각 정점의 새 맵핑 좌표값을 계산하고, 또한 상기 원시 그리드 모델 중의 각 정점의 원시 맵핑 좌표값을 모두 이에 대응되는 새 맵핑 좌표값으로 변경시켜, 새 그리드 모델을 생성하는 A4 단계;
    상기 A3 단계 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 취출하고, 또한 상기 A4 단계 중의 새 그리드 모델을 저장하는 A5 단계가 포함되는 것을 특징으로 하는
    렌즈 이미지를 파노라마 이미지로 전개하는 방법.
  3. 제2항에 있어서,
    상기 B 단계에는,
    하나의 전개하고자 하는 렌즈 이미지를 준비하는 B1 단계;
    상기 B1 단계 중의 전개하고자 하는 렌즈 이미지를 상기 A5 단계의 새 그리드 모델에 적용시키는 B2 단계;
    GPU를 통하여 상기 B2 단계 중의 새 그리드 모델에 대하여 렌더링을 진행하여, 상기 전개하고자 하는 렌즈 이미지와 대응되는 파노라마 이미지를 취득하는 B3 단계;
    상기 B3 단계 중의 파노라마 이미지에 대하여 저장을 진행하는 B4 단계가 포함되는 것을 특징으로 하는
    렌즈 이미지를 파노라마 이미지로 전개하는 방법.
  4. 제1항 또는 제2항에 있어서,
    상기 원시 그리드 모델의 형상은 직사각형, 구형, 360° 파노라마, 원구, 반구 또는 기타 평면 기하 도형 또는 곡면 입체 기하 도형인 것을 특징으로 하는
    렌즈 이미지를 파노라마 이미지로 전개하는 방법.
  5. 제1항 내지 제4항 중 어느 한 항에 있어서,
    상기 렌즈 이미지는 어안 렌즈 이미지, 광각 렌즈 이미지 또는 기타 형식의 렌즈 이미지인 것을 특징으로 하는
    렌즈 이미지를 파노라마 이미지로 전개하는 방법.
  6. 렌즈 이미지를 파노라마 이미지로 전개하는 장치에 있어서,
    원시 그리드 모델을 저장하고 새 맵핑 좌표값을 계산하며, 상기 원시 그리드 모델의 원시 맵핑 좌표값과 계산을 통하여 취득한 상기 새 맵핑 좌표값에 대하여 좌표값 변환을 진행하여, 새 그리드 모델을 생성 및 저장하는 새 그리드 모델 생성 모듈;
    전개하고자 하는 렌즈 이미지를 저장하고, 상기 전개하고자 하는 렌즈 이미지를 상기 새 그리드 모델 생성 모듈 중의 새 그리드 모델에 적용시키며, 또한 GPU를 통하여 상기 새 그리드 모델에 대하여 렌더링을 진행하여 파노라마 이미지를 취득 및 저장하고, 상기 새 그리드 모델 생성 모듈과 연결되는 파노라마 이미지 취득 모듈이 포함되는 것을 특징으로 하는
    렌즈 이미지를 파노라마 이미지로 전개하는 장치.
  7. 제6항에 있어서,
    상기 새 그리드 모델 생성 모듈에는,
    원시 그리드 모델을 저장하는 원시 그리드 모델 저장부;
    참조를 위한 파노라마로 전개된 렌즈 이미지를 저장하고, 상기 원시 그리드 모델 저장부와 연결되는 참조를 위한 파노라마로 전개된 렌즈 이미지 저장부;
    참조를 위한 파노라마로 전개된 렌즈 이미지 저장부 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 상기 원시 그리드 모델 저장부 중의 원시 그리드 모델에 적용시키고, 상기 참조를 위한 파노라마로 전개된 렌즈 이미지 저장부와 연결되는 렌즈 이미지 제1 적용부;
    상기 렌즈 이미지 제1 적용부 중의 참조를 위한 파노라마로 전개된 렌즈 이미지 촬영 시 렌즈의 방향 파라미터, 화각, 일그러짐 파라미터, 이미지 편심 파라미터와 변위 파라미터에 의하여, 참조를 위한 파노라마로 전개된 렌즈 이미지가 소재하는 원시 그리드 모델 중의 각 정점의 새 맵핑 좌표값을 계산하고, 또한 상기 원시 그리드 모델 중의 각 정점의 원시 맵핑 좌표값을 모두 이에 대응되는 새 맵핑 좌표값으로 변경시켜, 새 그리드 모델을 생성하며, 상기 렌즈 이미지 제1 적용부와 연결되는 그리드 모델 맵핑 좌표 처리부;
    상기 렌즈 이미지 제1 적용부 중의 참조를 위한 파노라마로 전개된 렌즈 이미지를 취출하고 또한 상기 그리드 모델 맵핑 좌표 처리부 중에 생성된 새 그리드 모델을 저장하며, 상기 그리드 모델 맵핑 좌표 처리부와 연결되는 새 그리드 모델 저장부가 포함되는 것을 특징으로 하는
    렌즈 이미지를 파노라마 이미지로 전개하는 장치.
  8. 제6항에 있어서,
    상기 파노라마 이미지 취득 모듈에는,
    전개하고자 하는 렌즈 이미지를 저장하고, 상기 새 그리드 모델 저장부와 연결되는 전개하고자 하는 렌즈 이미지 저장부;
    상기 전개하고자 하는 렌즈 이미지 저장부 중의 전개하고자 하는 렌즈 이미지를 상기 새 그리드 모델 저장부 중의 새 그리드 모델 내에 적용시키고, 상기 전개하고자 하는 렌즈 이미지 저장부와 연결되는 렌즈 이미지 제2 적용부;
    GPU를 통하여 상기 렌즈 이미지 제2 적용부 중의 새 그리드 모델에 대하여 렌더링을 진행하여, 상기 전개하고자 하는 렌즈 이미지와 대응되는 파노라마 이미지를 취득하고, 상기 렌즈 이미지 제2 적용부와 연결되는 새 그리드 모델 렌더링부;
    상기 새 그리드 모델 렌더링부 중의 상기 파노라마 이미지에 대하여 저장을 진행하고, 상기 새 그리드 모델 렌더링부와 연결되는 파노라마 이미지 저장부가 포함되는 것을 특징으로 하는
    렌즈 이미지를 파노라마 이미지로 전개하는 장치.
  9. 제6항 또는 제7항에 있어서,
    상기 원시 그리드 모델의 형상은 직사각형, 구형, 360° 파노라마, 원구, 반구 또는 기타 평면 기하 도형 또는 곡면 입체 기하 도형인 것을 특징으로 하는
    렌즈 이미지를 파노라마 이미지로 전개하는 장치.
  10. 제6항 내지 제9항 중 어느 한 항에 있어서,
    상기 렌즈 이미지는 어안 렌즈 이미지, 광각 렌즈 이미지 또는 기타 형식의 렌즈 이미지인 것을 특징으로 하는
    렌즈 이미지를 파노라마 이미지로 전개하는 장치.
KR1020187035978A 2016-05-11 2017-03-31 렌즈 이미지를 파노라마 이미지로 전개하는 방법 및 장치 KR102206899B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201610309937.6 2016-05-11
CN201610309937.6A CN106993126B (zh) 2016-05-11 2016-05-11 一种将镜头图像展开为全景图像的方法及装置
PCT/CN2017/079093 WO2017193729A1 (zh) 2016-05-11 2017-03-31 一种将镜头图像展开为全景图像的方法及装置

Publications (2)

Publication Number Publication Date
KR20190008306A true KR20190008306A (ko) 2019-01-23
KR102206899B1 KR102206899B1 (ko) 2021-01-22

Family

ID=59414053

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020187035978A KR102206899B1 (ko) 2016-05-11 2017-03-31 렌즈 이미지를 파노라마 이미지로 전개하는 방법 및 장치

Country Status (5)

Country Link
US (1) US10798300B2 (ko)
EP (1) EP3457681A4 (ko)
KR (1) KR102206899B1 (ko)
CN (1) CN106993126B (ko)
WO (1) WO2017193729A1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106254792B (zh) * 2016-07-29 2019-03-12 暴风集团股份有限公司 基于Stage3D播放全景数据的方法及系统
CN110728619B (zh) * 2018-07-17 2024-03-22 中科创达软件股份有限公司 一种全景图像拼接渲染方法及装置
CN108965718B (zh) * 2018-08-03 2021-03-23 北京微播视界科技有限公司 图像生成方法和装置
CN110838163B (zh) * 2018-08-15 2024-02-02 浙江宇视科技有限公司 贴图处理方法及装置
CN112967173B (zh) * 2019-12-12 2023-05-26 杭州海康威视数字技术股份有限公司 一种图像生成方法、装置及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002203254A (ja) * 2000-08-30 2002-07-19 Usc Corp 曲面像変換方法及びこの曲面像変換方法を記録した記録媒体
KR20060039896A (ko) * 2003-07-03 2006-05-09 피지컬 옵틱스 코포레이션 왜곡없는 실시간 이미징을 구현하는 파노라마 비디오시스템
CN101777193A (zh) * 2010-02-03 2010-07-14 中国人民解放军国防科学技术大学 基于双向映射精确插值的折反射全向图柱面全景展开方法
US20160065946A1 (en) * 2014-09-03 2016-03-03 Nextvr Inc. Methods and apparatus for capturing, streaming and/or playing back content

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101072288A (zh) * 2007-06-15 2007-11-14 林进灯 取得鱼眼影像校正关系与鱼眼校正的方法
GB2455498A (en) * 2007-11-30 2009-06-17 Dooworks Fz Co Method and system for processing of images
JP2011217057A (ja) * 2010-03-31 2011-10-27 Asahi Kasei Corp レンズ歪み除去装置、方法およびプログラム
CN102780834A (zh) * 2011-05-11 2012-11-14 张茂军 环眼镜头图像半柱面全景展开方法
PT2742484T (pt) * 2011-07-25 2017-01-02 Univ De Coimbra Método para alinhamento e rastreamento de regiões de pontos em imagens com distorção radial, que produz parâmetros de modelo de movimento, calibração de distorção e variação de zoom
CN103839227B (zh) * 2012-11-23 2017-06-09 富士通株式会社 鱼眼图像校正方法和装置
KR20140100656A (ko) * 2013-02-06 2014-08-18 한국전자통신연구원 전방향 영상 및 3차원 데이터를 이용한 시점 영상 제공 장치 및 방법
CN103247030A (zh) * 2013-04-15 2013-08-14 丹阳科美汽车部件有限公司 基于球面投影模型和逆变换模型的车辆全景显示系统鱼眼图像校正方法
CN104240236B (zh) 2014-08-26 2017-10-24 中山大学 一种鱼眼镜头标定后鱼眼图像校正的方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002203254A (ja) * 2000-08-30 2002-07-19 Usc Corp 曲面像変換方法及びこの曲面像変換方法を記録した記録媒体
KR20060039896A (ko) * 2003-07-03 2006-05-09 피지컬 옵틱스 코포레이션 왜곡없는 실시간 이미징을 구현하는 파노라마 비디오시스템
CN101777193A (zh) * 2010-02-03 2010-07-14 中国人民解放军国防科学技术大学 基于双向映射精确插值的折反射全向图柱面全景展开方法
US20160065946A1 (en) * 2014-09-03 2016-03-03 Nextvr Inc. Methods and apparatus for capturing, streaming and/or playing back content

Also Published As

Publication number Publication date
EP3457681A4 (en) 2019-12-25
CN106993126B (zh) 2023-04-07
US10798300B2 (en) 2020-10-06
EP3457681A1 (en) 2019-03-20
CN106993126A (zh) 2017-07-28
KR102206899B1 (ko) 2021-01-22
US20190349524A1 (en) 2019-11-14
WO2017193729A1 (zh) 2017-11-16

Similar Documents

Publication Publication Date Title
KR20190008306A (ko) 렌즈 이미지를 파노라마 이미지로 전개하는 방법 및 장치
JP3650578B2 (ja) 画像の歪みを補正するためのニューラル・ネットワークを用いたパノラマ画像ナビゲーションシステム
TWI709107B (zh) 影像特徵提取方法及包含其顯著物體預測方法
US8855441B2 (en) Method and apparatus for transforming a non-linear lens-distorted image
TWI615810B (zh) 具紋理映射功能的全景影像產生方法及裝置
JP5437311B2 (ja) 画像補正方法、画像補正システム、角度推定方法、および角度推定装置
JP6201476B2 (ja) 自由視点画像撮像装置およびその方法
CN109359618B (zh) 一种图像处理方法及其装置、设备和存储介质
WO2019049421A1 (ja) キャリブレーション装置、キャリブレーションシステム、およびキャリブレーション方法
CN103942754B (zh) 全景图像补全方法及装置
JP6451797B2 (ja) 画像処理方法及び画像処理装置
JP5068732B2 (ja) 3次元形状生成装置
KR20140116867A (ko) 모션 센서 데이터에 기초한 3d 모델들을 계산하도록 구성된 이동 디바이스
KR101813617B1 (ko) 3차원 데이터를 획득하기 위한 카메라 리그 방법, 이를 수행하는 카메라 리그 시스템, 및 이를 저장하는 기록매체
JP6276719B2 (ja) 画像生成装置、座標変換テーブル作成装置および作成方法
JP7484055B2 (ja) 深度情報付きのパノラマ画像を生成する方法、装置、記憶媒体、電子機器及びコンピュータプログラム
JP2017194857A (ja) 自由視点映像表示装置
JP4554231B2 (ja) 歪みパラメータの生成方法及び映像発生方法並びに歪みパラメータ生成装置及び映像発生装置
JP2009271895A (ja) 独立偏位修正画像セットおよび方法
CN109961395B (zh) 深度图像的生成及显示方法、装置、系统、可读介质
JP5664859B2 (ja) 画像変換装置、画像生成システム、画像変換方法及び画像生成方法
KR102146839B1 (ko) 실시간 가상현실 구축을 위한 시스템 및 방법
TW201911239A (zh) 立體環景影片產生方法及裝置
KR101768166B1 (ko) 전신 3d 애니메이션 생성 장치 및 방법
JP2011227864A (ja) 画像視点変換装置、画像視点変換方法、画像視点変換プログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant