KR101887380B1 - 복수 개의 카메라를 이용한 촬영 이미지의 전송 및 처리를 위한 장치 및 방법 - Google Patents

복수 개의 카메라를 이용한 촬영 이미지의 전송 및 처리를 위한 장치 및 방법 Download PDF

Info

Publication number
KR101887380B1
KR101887380B1 KR1020170040879A KR20170040879A KR101887380B1 KR 101887380 B1 KR101887380 B1 KR 101887380B1 KR 1020170040879 A KR1020170040879 A KR 1020170040879A KR 20170040879 A KR20170040879 A KR 20170040879A KR 101887380 B1 KR101887380 B1 KR 101887380B1
Authority
KR
South Korea
Prior art keywords
image
communication terminal
cameras
integrated image
integrated
Prior art date
Application number
KR1020170040879A
Other languages
English (en)
Inventor
김형준
송호용
Original Assignee
에스피테크놀러지 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스피테크놀러지 주식회사 filed Critical 에스피테크놀러지 주식회사
Priority to KR1020170040879A priority Critical patent/KR101887380B1/ko
Application granted granted Critical
Publication of KR101887380B1 publication Critical patent/KR101887380B1/ko

Links

Images

Classifications

    • H04N5/247
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)

Abstract

본 발명은 복수 개의 카메라를 이용한 촬영 이미지의 전송 및 처리를 위한 장치 및 방법에 관한 것이다. 본 발명에 따른 이미지 처리 시스템의 제어방법은, 복수 개의 카메라를 구비한 제1 통신 단말기가 상기 복수 개의 카메라를 통해 촬영된 이미지 각각을 그대로 이어서 결합한 통합 이미지를 생성하여 제2 통신 단말기에 전송하는 단계와; 상기 제2 통신 단말기가 상기 제1 통신 단말기로부터 수신된 통합 이미지를 렌더링 처리하는 과정에서 상기 통합 이미지에 포함된 이미지 이음 부분에 대한 스티칭 처리를 수행하는 단계를 포함하는 것을 특징으로 한다.

Description

복수 개의 카메라를 이용한 촬영 이미지의 전송 및 처리를 위한 장치 및 방법{APPARATUS AND METHOD FOR TRANSMITTING AND PROCESSING IMAGE FILMED USING A PLURALITY OF CAMERA}
본 발명은 복수 개의 카메라를 이용한 촬영 이미지의 전송 및 처리를 위한 장치 및 방법에 관한 것으로, 보다 상세하게는 복수 개의 카메라를 이용하여 예를 들어 360도 촬영이 이루어진 이미지에 대한 전송과 처리를 위한 장치 및 그 제어방법에 관한 것이다.
최근 전자 통신 기술의 발전과 더불어 대부분의 사람들이 통신 단말기를 이용하여 상대방과 영상 통화를 할 수 있게 되었다.
그런데 종래에는 하나의 카메라를 이용하여 영상을 촬영하고 그 촬영된 영상 이미지를 상대방에 전송하는 경우가 주를 이루고 있고, 또는 전면과 후면 카메라를 동시에 이용하더라도 그 전면 카메라를 이용하여 촬영한 이미지와 후면 카메라를 이용하여 촬영 이미지가 명확히 구별되도록 하고 있다.
그런데 최근 가상 현실 또는 증강 현실에 대한 관심이 높아지면서 전방위 각도(예를 들어 360도 각도)로 촬영된 이미지를 상대방에게 전송하고자 하는 수요자의 니즈가 발생하고 있다.
그럼에도 현재까지는 전방위 각도로 촬영된 영상을 서로 공유하는 서비스가 제공되고 있지 않는 실정이다.
등록특허 제10-1029195호
본 발명은 상기한 종래의 필요성을 충족시키기 위해 안출된 것으로서, 복수 개의 카메라를 이용한 전방위 촬영 이미지가 통신 단말기 사용자 간에 전송 및 처리 될 수 있는 수단 및 방법을 제공하는 것이다.
상기한 목적을 달성하기 위해 본 발명에 따른 이미지 처리 시스템의 제어방법은, 복수 개의 카메라를 구비한 제1 통신 단말기가 상기 복수 개의 카메라를 통해 촬영된 이미지 각각을 그대로 이어서 결합한 통합 이미지를 생성하여 제2 통신 단말기에 전송하는 단계와; 상기 제2 통신 단말기가 상기 제1 통신 단말기로부터 수신된 통합 이미지를 렌더링 처리하는 과정에서 상기 통합 이미지에 포함된 이미지 이음 부분에 대한 스티칭 처리를 수행하는 단계를 포함하여 구성된다.
또, 상기한 목적을 달성하기 위해 본 발명에 따른 통신 단말기는, 복수 개의 카메라와; 상기 복수 개의 카메라를 통해 촬영된 이미지 각각을 그대로 이어서 결합한 통합 이미지를 생성하는 통합 이미지 생성부와; 상기 통합 이미지 생성부에 의해 생성된 통합 이미지를 타 통신 단말기에 전송하는 이미지 전송부와; 복수 개의 카메라를 구비한 타 통신 단말기로부터 수신된 통합 이미지를 렌더링 처리하는 과정에서 상기 수신된 통합 이미지에 포함된 이미지 이음 부분에 대한 스티칭 처리를 수행하는 렌더링 처리부를 포함하여 구성된다.
이상 설명한 바와 같이 본 발명에 따르면, 통신 단말기를 통해 360도 촬영 영상을 상호간 송신 및 수신할 수 있다. 특히, 복수 개의 카메라를 이용한 360도 촬영 영상에 대한 스티칭 처리를 영상 발신측 단말기에서 수행하는 것이 아니라, 영상 수신측의 렌더링 처리 과정에서 수행되도록 함으로써, 전체적인 영상 처리 시간을 단축시킬 수 있다.
도 1은 본 발명의 일 실시예에 따른 통신 단말기를 포함하는 전체 통신 시스템의 개략 구성도이고,
도 2는 도 1의 통신 단말기의 기능 블록의 일 예이고,
도 3은 도 1 제1 통신 단말기와 제2 통신 단말기에서 360도 영상이 처리되는 과정을 나타낸 도면이고,
도 4는 본 발명의 일 실시예에 따른 제1 통신 단말기와 제2 통신 단말기 간의 통신 및 제어 흐름도이고,
도 5는 본 발명의 제1 통신 단말기에 구비된 소프트웨어 블록의 처리 과정을 나타낸 도면이다.
이하에서는 첨부도면을 참조하여 본 발명에 대해 상세히 설명한다.
이하 본 발명에 따른 각 실시예는 본 발명의 이해를 돕기 위한 하나의 예에 불과하고, 본 발명이 이러한 실시예에 한정되는 것은 아니다. 특히 본 발명은 각 실시예에 포함되는 개별 구성, 개별 기능, 또는 개별 단계 중 적어도 어느 하나 이상의 조합으로 구성될 수 있다.
특히, 편의상 청구 범위의 일부 청구항에는 편의상 '(a)'와 같은 알파벳을 포함시켰으나, 이러한 알파벳이 각 단계의 순서를 규정하는 것은 아니다.
또한 이하 본 발명에 따른 각 실시예에서 언급하는 각 신호는 한 번의 연결 등에 의해 전송되는 하나의 신호를 의미할 수도 있지만, 후술하는 특정 기능 수행을 목적으로 전송되는 일련의 신호 그룹을 의미할 수도 있다. 즉, 각 실시예에서는 소정의 시간 간격을 두고 전송되거나 상대 장치로부터의 응답 신호를 수신한 이후에 전송되는 복수 개의 신호들이 편의상 하나의 신호명으로 표현될 수 있는 것이다.
본 발명의 일 실시예에 따른 통신 단말기를 포함하는 전체 통신 시스템의 개략 구성은 도 1에 도시된 바와 같다.
동 도면에서는 두 대의 통신 단말기 도시되고 있는데, 편의상 그 중 하나는 제1 통신 단말기(100), 나머지 하나는 제2 통신 단말기(200)로 명명한다.
본 발명은 반드시 두 대의 통신 단말기 간의 통신에만 적용되는 것은 아니고, 세 대 이상의 통신 단말기간 통신이 이루어지는데 적용될 수도 있음은 물론이다.
제1 통신 단말기(100)는 복수 개의 카메라(110)를 구비하고서, 그 복수 개의 카메라(110)를 통해 촬영하는 기능을 수행한다.
이러한 제1 통신 단말기(100)는 스마트폰과 같은 휴대용 무선 통신 단말기일 수도 있고, 또는 촬영 영상 전송을 위한 별도의 단말기일 수도 있다.
제1 통신 단말기(100)에는 복수 개 즉, 두 대 이상의 카메라가 구비될 수 있는데, 본 실시예에서는 전면과 후면에 각각 하나씩, 총 두 대의 카메라가 구비된 것을 일 예로 한다.
또한 제1 통신 단말기(100)는 두 대의 카메라로 촬영된 이미지 각각을 그대로 이어서 결합한 통합 이미지를 생성하여 제2 통신 단말기(200)에 전송하는 기능을 수행한다.
여기서 제1 통신 단말기(100)가 촬영하여 생성한 이미지는 예를 들어 동영상 이미지일 수 있다.
그리고 제1 통신 단말기(100)가 복수 개의 카메라(110)를 통해 촬영된 이미지 각각을 그대로 이어서 결합한 통합 이미지를 생성한다는 것은 후술하는 제2 통신 단말기(200)가 수행하는 스티칭 처리 등을 전혀 수행하지 않는 것을 의미하고, 예를 들어 촬영된 로 데이터(RAW DATA) 그대로 이용하여 단지 이어붙이기만 하는 것을 의미한다.
상술한 바와 같이 제1 통신 단말기(100)에 전면 카메라와 후면 카메라가 각각이 180도 이상을 촬영할 수 있는 어안 카메라(또는 fisheye 카메라)라고 가정하면, 제1 통신 단말기(100)는 그 각각의 카메라로 촬영된 180도 이상의 이미지를 그대로 붙인 후 제2 통신 단말기(200)에 전송하는 것이다.
따라서 제1 통신 단말기(100)에서는 이미지 처리 과정이 상당히 간단하고 그 처리 시간이 상당히 단축될 수 있다.
제2 통신 단말기(200)는 제1 통신 단말기(100)로부터 수신된 통합 이미지를 처리하여 표시함으로써 사용자가 볼 수 있도록 하는 것으로서, 제2 통신 단말기(200) 역시 스마트폰과 같은 휴대용 무선 통신 단말기일 수 있으나, 이에 한정되는 것은 아니고 외부로부터 수신되는 영상을 처리하여 표시하는 모든 종류의 단말기에 해당할 수 있다.
특히, 제2 통신 단말기(200)는 제1 통신 단말기(100)로부터 수신된 통합 이미지를 렌더링 처리하는 과정에서 통합 이미지에 포함된 이미지 이음 부분에 대한 스티칭 처리(즉, 이미지 이음 부분을 눈에 띄지 않거나 사용자가 인식하지 못하게 하는 처리)를 수행하는 기능을 수행한다.
여기서 제2 통신 단말기(200)는 제1 통신 단말기(100)의 복수 개의 카메라(110) 각각의 화각 및 중심 방향, 카메라 개수를 기초로 상기 통합 이미지에 포함된 이미지 이음 부분을 판별할 수 있는데, 예를 들어 상술한 바와 같이 제1 통신 단말기(100)에 두 대의 카메라가 구비된 경우, 제2 통신 단말기(200)는 그 두 대의 카메라 각각에 대한 화각(예를 들어 210도 화각), 그리고 그 두 대의 카메라가 서로 180도 각도를 이루고 있다는 점을 이용하여 수신된 통합 이미지에서 이미지 이음 부분이 위치한 영역을 판별할 수 있는 것이다.
이하에서는 제1 통신 단말기(100)에 상술한 제2 통신 단말기(200)의 기능이 통합되어 있다고 가정하고, 이러한 제1 통신 단말기(100)의 구체적인 기능에 대해 설명한다.
제1 통신 단말기(100)의 기능 블록의 일 예는 도 2에 도시된 바와 같다.
동 도면에 도시된 바와 같이 제1 통신 단말기(100)는 복수 개의 카메라(110), 통합 이미지 생성부(120), 이미지 전송부(130), 이미지 수신부(140), 렌더링 처리부(150), 디스플레이부(160)를 포함하여 구성될 수 있다.
여기서 디스플레이부(160)는 제1 통신 단말기(100)의 동작에 필요한 메뉴나 또는 제1 통신 단말기(100)에서 재생 또는 실행되는 영상이 표시되는 것으로서, 디스플레이부(160)는 예를 들어 360도 영상 이미지를 볼 수 있는 HMD(Head Mounted Display)일 수 있다.
복수 개의 카메라(110)는 앞서 예를 든 바와 같이 두 대의 카메라이고 그 각각의 전면쪽과 후면쪽에 서로 촬영 방향이 180도를 이루도록 구성되어 있고, 그 각각의 촬영 화각은 210도 인 것을 일 예로 한다.
통합 이미지 생성부(120)는 복수 개의 카메라(110)를 통해 촬영된 이미지 각각을 그대로 이어서 결합한 통합 이미지를 생성하는 기능을 수행한다.
이에 따라 210도 촬영 이미지들이 그대로 붙어서 30도(210도-180) 정도의 영역은 중복된 채로 통합 이미지에 포함되는 것이다.
이미지 전송부(130)는 통합 이미지 생성부(120)에 의해 생성된 통합 이미지를 타 통신 단말기(즉, 상술한 제2 통신 단말기(200) 등)에 전송하는 기능을 수행한다.
여기서, 이미지 전송은 예를 들어 영상 통화의 일환으로 이루어질 수도 있고, 또는 영상 통화와는 무관하게 이루어질 수도 있다.
한편, 이미지 수신부(140)는 외부(일 예로 제2 통신 단말기(200))로부터 통합 이미지를 수신하는 기능을 수행한다.
여기서 통합 이미지를 전송한 단말기 역시 앞서 언급한 바와 같이 210도 화각을 가진 두 대의 카메라를 구비하였다고 가정하면, 통합 이미지에는 그러한 210도 촬영 이미지들이 그대로 붙어서 30도(210도-180) 정도의 영역은 중복된 채로 되어 있을 수 있다.
렌더링 처리부(150)는 이러한 타 통신 단말기로부터 수신된 통합 이미지를 렌더링 처리하는 과정에서 그 수신된 통합 이미지에 포함된 이미지 이음 부분에 대한 스티칭 처리를 수행할 수 있다.
이때 렌더링 처리부(150)는 통합 이미지를 전송하는 타 통신 단말기에 구비된 복수 개의 카메라(110) 각각의 화각 및 중심 방향, 카메라 개수를 이용하여 통합 이미지에 포함된 이미지 이음 부분을 판별할 수 있다.
예를 들어 타 통신 단말기가 모두 서로 180도 촬영 방향 각도를 갖고 210도 화각을 갖는 두 대의 카메라를 구비하고 있다고 가정하면, 이와 관련된 정보(즉, 그러한 카메라 두 대로 촬영한 이미지의 중첩 정도 등)가 미리 제1 통신 단말기(100)에 저장되어 있을 수 있고, 제1 통신 단말기(100)는 그러한 미리 저장된 정보를 이용하여 통합 이미지의 이미지 이음 부분을 판별할 수 있는 것이다.
다른 예로서, 타 통신 단말기가 각각 서로 다른 종류의 카메라, 개수 등을 구비한 경우라면, 렌더링 처리부(150)는 그 타 통신 단말기로부터 구비된 카메라 각각의 화각 및 중심 방향, 카메라 개수에 대한 정보를 수신하고, 그 수신된 복수 개의 카메라(110) 각각의 화각 및 중심 방향, 카메라 개수에 대한 정보를 이용하여 통합 이미지의 이미지 이음 부분을 판별할 수 있는 것이다.
여기서 카메라 각각의 중심 방향에 의해 카메라 각각이 배치된 방향 즉, 각 카메라가 간의 설치 각도 등을 알 수 있다.
특히, 타 통신 단말기로부터 수신되는 통합 이미지가 360도 전방위를 촬영한 영상 이미지인 경우, 렌더링 처리부(150)는 그 타 통신 단말기로부터 수신된 통합 이미지를 텍스쳐로 변환하여 가상 구체에 맵핑함과 아울러 해당 통합 이미지에 포함된 이미지 이음 부분을 블렌딩 처리할 수 있는 것이다.
예를 들어 렌더링 처리부(150)는 210도 화각을 갖는 두 대의 카메라에 의해 촬영된 이미지가 이어 붙여서 수신된 경우, 그 각 이미지들의 끝 30도 정도를 중첩하고 그 중첩된 부분을 블랜딩 처리하거나, 또는 각 이미지들의 끝 30도 정도를 잘라낸 후 서로 이어 붙이고 이어 붙인 영역에 대한 블랜딩 처리를 수행하는 것이다.
여기서 특정 영상의 영역에 대한 블랜딩 처리 그 자체는 공지된 기술에 해당하므로 보다 상세한 설명을 생략한다.
그리고 상술한 텍스쳐 변환과 가상 구체로의 맵핑 과정 역시 기 공지된 기술에 해당하므로 보다 상세한 설명을 생략한다.
본 발명의 특징은 이처럼 수신측 단말기에서 통합 이미지를 렌더링 처리하는 시점에서 그 통합 이미지에 포함된 각 이미지의 배치 및 블랜딩 처리(즉, 스티칭 처리)를 수행한다는 점이다.
즉, 수신된 이미지를 디스플레이부(160)에 표시함에 있어서는 반드시 렌더링 처리 과정이 포함되어야 하는데, 그러한 렌더링 처리의 일환 또는 렌더링 처리 전후 시점에 스티칭 처리를 수행하게 되면 스티칭 처리만을 위한 별도의 독자적인 알고리즘 처리를 수행하는 과정에 비해 전체적인 시간이 단축될 수 있다.
예를 들어 제2 통신 단말기(200)가 스티칭 처리를 수행한 통합 이미지를 생성하여 제1 통신 단말기(100)에 전송하고 그 제1 통신 단말기(100)가 스티칭 처리된 통합 이미지에 대한 렌더링 처리를 수행하는 전체 시간보다, 제2 통신 단말기(200)가 스티칭 처리를 전혀 수행하지 않은 통합 이미지를 생성하여 제1 통신 단말기(100)에 전송하고 그 제1 통신 단말기(100)가 스티칭 처리와 함께 렌더링 처리를 수행하는 전체 시간이 훨씬 짧게 되는 것이다.
도 3은 상술한 제2 통신 단말기(200)에서 360도 이미지를 촬영하여 전송하고 제1 통신 단말기(100)가 그 360도 촬영 이미지를 수신하여 처리하는 과정에서 영상 이미지의 상태를 알기 쉽게 나타낸 것이다.
도 3(a)에서 제2 통신 단말기(200) 사용자가 두 대의 카메라를 이용하여 360도 영상을 촬영하고, 그에 따라 전면 촬영 영상과 후면 촬영 영상이 도 3(b)와 같이 획득되고, 이후 제2 통신 단말기(200)는 그 획득한 두 개의 촬영 영상을 도 3(c)와 같이 단순히 이어 붙여서 전송한다.
그러면 제1 통신 단말기(100)는 도 3(d)에 도시된 바와 같이 스피어 맵핑 및 이미지 이음 부분 블렌딩 처리를 수행하고, 이에 따라 도 3(e)와 같은 스티칭 및 렌더링이 처리된 이미지가 생성되어 도 3(f)와 같이 사용자가 예를 들어 실시간 360도 영상을 볼 수 있는 것이다.
여기서 스티칭이 먼저 처리된 후 렌더링이 이루어지거나, 렌더링이 이루어지는 중에 스티칭 처리가 될 수 있음은 앞서 설명한 바와 같다.
이러한 360도 이미지의 전송은 영상 통화의 일 부분으로써 이루어질 수 있는데, 이때 호 처리는 SIP(Session Initiation Protocol)에 따라 이루어질 수 있다.
또한 실제 영상 이미지의 전송은 RTP(Realtime Transport Protocol)에 의해 이루어질 수 있다. 이 경우 상술한 제1 통신 단말기(100)는 Audio/Video 처리 및 코덱처리, 비디오 캡처 등의 기능을 수행하고, RTP Manager(RTP 처리를 위한 구성(미 도시함))와 연계하여 실제 영상 및 음성데이터를 전송하도록 동작한다.
또한 영상 이미지가 RTP Packet으로 수신되면 제1 통신 단말기(100)는 RTP Manager를 통해 전달되어진 영상데이터를 Jitter Buffer에 저장 후 이 데이터를 Decoder를 통해 Decoding을 수행한다.
이 Decoding된 영상데이터는 Video SCALE및 VIDEO CONVERTER를 통해 처리된 후 Player에 재생이 되게끔 Video Consumer 등에 의해 처리가 된다.
영상 이미지의 송신 동작은 카메라로 찍은 영상원본 데이터를 Video Producer 등을 통해 처리 후 Video Converter및 Video Scale처리하고 Encoder를 통해 Encoding 수행 후 RTP Manager에 RTP Packet 송신이 되도록 요청하는 과정을 거치게 된다.
이하에서는 도 4를 참고하여 본 발명의 일 실시예에 따른 제1 통신 단말기(100)와 제2 통신 단말기(200) 간에 360 촬영 영상이 전송되고 처리되는 전체적인 과정을 설명한다.
우선, 제1 통신 단말기(100)는 복수 개의 카메라(110)를 이용하여 360 영상을 촬영하고(단계 S1), 그 촬영된 각 영상을 그대로 이어 붙인 통합 이미지를 생성한다(단계 S3).
이후, 제1 통신 단말기(100)는 생성한 통합 이미지를 각 복수 개의 카메라(110)의 화각 및 중심 방향과, 개수에 대한 정보와 함께 제2 통신 단말기(200)에 전송한다(단계 S5).
제2 통신 단말기(200)는 제1 통신 단말기(100)로부터 수신된 신호 포함된 카메라의 화각 및 중심 방향과, 개수에 대한 정보를 이용하여 그 수신된 영상 이미지의 이음 부분을 확인하고(단계 S7), 스티칭 처리와 더불어 렌더링 처리를 수행한다(단계 S9).
제2 통신 단말기(200)는 스티칭 및 렌더링 처리가 이루어진 360 영상을 디스플레이부(160)에 표시하여 사용자가 360 영상을 시청할 수 있도록 한다(단계 S11).
이러한 360도 영상에는 소정의 객체가 추가되어 예를 들어 360도 가상 현실 영상이 될 수도 있는데, 이처럼 360도 가상 현실 영상이 제1 통신 단말기(100)에 구비된 각 소프트웨어적 구성 요소들에 의해 처리되는 과정은 도 5에 도시된 바와 같다.
즉, 일종의 VR Renderer는 360도 재생관련 처리를 수행하는 것으로서, Equirectangular Image Source를 통해 VR Player로 VR 영상이 재생될 수 있도록 Rendering을 처리를 담당하고, 도 5는 이러한 VR Renderer의 동작흐름을 나타낸 것이다.
즉, VR Player에서 Rendering 요청이 오면 Video Stitching을 통해 생성된 Source를 3D VR좌표 변환을 통해 공간좌표로 변환하여 3D Sphere에 실시간 Texture Mapping동작을 수행하고 2차원 공간에서 3D 방향좌표, 위경도좌표변환, UV 텍스처 변환을 통해 3D Rendering을 수행하고, 3D Rendering을 수행후 Player에 VR Image를 Display하도록 동작하는 것이다.
한편, 상술한 각 실시예를 수행하는 과정은 소정의 기록 매체(예를 들어 컴퓨터로 판독 가능한)에 저장된 프로그램 또는 애플리케이션에 의해 이루어질 수 있음은 물론이다. 여기서 기록 매체는 RAM(Random Access Memory)과 같은 전자적 기록 매체, 하드 디스크와 같은 자기적 기록 매체, CD(Compact Disk)와 같은 광학적 기록 매체 등을 모두 포함한다.
이때, 기록 매체에 저장된 프로그램은 컴퓨터나 스마트폰 등과 같은 하드웨어 상에서 실행되어 상술한 각 실시예를 수행할 수 있다. 특히, 상술한 본 발명에 따른 통신 단말기의 기능 블록 중 적어도 어느 하나는 이러한 프로그램 또는 애플리케이션에 의해 구현될 수 있다.
또한, 본 발명은 상기한 특정 실시예에 한정되는 것이 아니라 본 발명의 요지를 벗어나지 않는 범위 내에서 여러 가지로 변형 및 수정하여 실시할 수 있는 것이다. 이러한 변형 및 수정이 첨부되는 특허청구범위에 속한다면 본 발명에 포함된다는 것은 자명할 것이다.
100 : 제1 통신 단말기 200 : 제2 통신 단말기
110 : 복수 개의 카메라 120 : 통합 이미지 생성부
130 : 이미지 전송부 140 : 이미지 수신부
150 : 렌더링 처리부 160 : 디스플레이부

Claims (7)

  1. 복수 개의 카메라를 구비한 제1 통신 단말기가 상기 복수 개의 카메라를 통해 촬영된 이미지 각각을 그대로 이어서 결합한 통합 이미지를 생성하여 제2 통신 단말기에 전송하는 단계와;
    상기 제2 통신 단말기가 상기 제1 통신 단말기로부터 수신된 통합 이미지를 렌더링 처리하는 과정에서 상기 통합 이미지에 포함된 이미지 이음 부분의 중첩 영역을 상기 제1 통신 단말기의 복수 개의 카메라 각각의 화각 및 중심 방향, 카메라 개수를 기초로 판별하고, 그 판별된 이미지 이음 부분의 중첩 영역에 대한 스티칭 처리를 수행하는 단계를 포함하는 것을 특징으로 하는 이미지 처리 시스템의 제어방법.
  2. 삭제
  3. 복수 개의 카메라와;
    상기 복수 개의 카메라를 통해 촬영된 이미지 각각을 그대로 이어서 결합한 통합 이미지를 생성하는 통합 이미지 생성부와;
    상기 통합 이미지 생성부에 의해 생성된 통합 이미지를 타 통신 단말기에 전송하는 이미지 전송부와;
    복수 개의 카메라를 구비한 타 통신 단말기로부터 수신된 통합 이미지를 렌더링 처리하는 과정에서 상기 수신된 통합 이미지에 포함된 이미지 이음 부분에 대한 스티칭 처리를 수행하는 렌더링 처리부를 포함하고,
    상기 렌더링 처리부는 상기 통합 이미지를 전송하는 타 통신 단말기에 구비된 복수 개의 카메라 각각의 화각 및 중심 방향, 카메라 개수를 이용하여 상기 통합 이미지에 포함된 이미지 이음 부분의 중첩 영역을 판별하는 것을 특징으로 하는 통신 단말기.
  4. 삭제
  5. 제3항에 있어서,
    상기 렌더링 처리부는 상기 통합 이미지를 전송하는 타 통신 단말기로부터 그 구비된 복수 개의 카메라 각각의 화각 및 중심 방향, 카메라 개수에 대한 정보를 수신하고, 그 수신된 복수 개의 카메라 각각의 화각 및 중심 방향, 카메라 개수에 대한 정보를 이용하여 상기 통합 이미지에 포함된 이미지 이음 부분의 중첩 영역을 판별하는 것을 특징으로 하는 통신 단말기.
  6. 제3항에 있어서,
    상기 타 통신 단말기로부터 수신되는 통합 이미지는 360도 전방위를 촬영한 이미지이고,
    상기 렌더링 처리부는 상기 타 통신 단말기로부터 수신된 통합 이미지를 텍스쳐로 변환하여 가상 구체에 맵핑하면서 해당 통합 이미지에 포함된 이미지 이음 부분을 블렌딩 처리하는 것을 특징으로 하는 통신 단말기.
  7. 하드웨어와 결합되어 제1항의 방법을 실행시키기 위하여 컴퓨터 판독 가능 매체에 저장된 응용 프로그램.
KR1020170040879A 2017-03-30 2017-03-30 복수 개의 카메라를 이용한 촬영 이미지의 전송 및 처리를 위한 장치 및 방법 KR101887380B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170040879A KR101887380B1 (ko) 2017-03-30 2017-03-30 복수 개의 카메라를 이용한 촬영 이미지의 전송 및 처리를 위한 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170040879A KR101887380B1 (ko) 2017-03-30 2017-03-30 복수 개의 카메라를 이용한 촬영 이미지의 전송 및 처리를 위한 장치 및 방법

Publications (1)

Publication Number Publication Date
KR101887380B1 true KR101887380B1 (ko) 2018-08-10

Family

ID=63229537

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170040879A KR101887380B1 (ko) 2017-03-30 2017-03-30 복수 개의 카메라를 이용한 촬영 이미지의 전송 및 처리를 위한 장치 및 방법

Country Status (1)

Country Link
KR (1) KR101887380B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021107708A1 (ko) * 2019-11-29 2021-06-03 주식회사 알파서클 복수의 카메라로부터 입력된 가상현실영상을 실시간 방송하기 위한 장치 및 방법
WO2022105793A1 (zh) * 2020-11-20 2022-05-27 华为技术有限公司 图像处理方法及其设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101029195B1 (ko) 2009-12-11 2011-04-12 에스케이텔레콤 주식회사 복수의 사용자 기반의 다중 영상통화 서버 및 그 방법
KR20130097605A (ko) * 2012-02-24 2013-09-03 삼성전자주식회사 영상 통화 서비스 제공 방법 및 장치
KR20140047446A (ko) * 2012-10-12 2014-04-22 프리닉스(주) 파노라마 이미지 출력 시스템 및 방법
KR20150070598A (ko) * 2013-12-17 2015-06-25 한국전자통신연구원 파노라마 영상 촬영 시스템 및 그 작동 방법
KR101652753B1 (ko) * 2015-09-11 2016-09-01 주식회사 마이다스아이티 3차원 파노라마 가상현실 이미지 제공방법 및 이를 이용한 제공시스템

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101029195B1 (ko) 2009-12-11 2011-04-12 에스케이텔레콤 주식회사 복수의 사용자 기반의 다중 영상통화 서버 및 그 방법
KR20130097605A (ko) * 2012-02-24 2013-09-03 삼성전자주식회사 영상 통화 서비스 제공 방법 및 장치
KR20140047446A (ko) * 2012-10-12 2014-04-22 프리닉스(주) 파노라마 이미지 출력 시스템 및 방법
KR20150070598A (ko) * 2013-12-17 2015-06-25 한국전자통신연구원 파노라마 영상 촬영 시스템 및 그 작동 방법
KR101652753B1 (ko) * 2015-09-11 2016-09-01 주식회사 마이다스아이티 3차원 파노라마 가상현실 이미지 제공방법 및 이를 이용한 제공시스템

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021107708A1 (ko) * 2019-11-29 2021-06-03 주식회사 알파서클 복수의 카메라로부터 입력된 가상현실영상을 실시간 방송하기 위한 장치 및 방법
KR20210067155A (ko) * 2019-11-29 2021-06-08 주식회사 알파서클 복수의 카메라로부터 입력된 가상현실영상을 실시간 방송하기 위한 장치 및 방법
KR102295265B1 (ko) 2019-11-29 2021-08-30 주식회사 알파서클 복수의 카메라로부터 입력된 가상현실영상을 실시간 방송하기 위한 장치 및 방법
WO2022105793A1 (zh) * 2020-11-20 2022-05-27 华为技术有限公司 图像处理方法及其设备

Similar Documents

Publication Publication Date Title
JP7322940B2 (ja) 画像通信システム、画像通信端末、画像通信方法、プログラム、及び記録媒体
JP6805861B2 (ja) 画像処理装置、画像処理システム、画像処理方法及びプログラム
WO2018014495A1 (zh) 实时全景直播网络摄像机和系统及方法
KR102157634B1 (ko) 영상 획득 방법 및 로컬 엔드포인트 호스트 장치
CN109257559A (zh) 一种全景视频会议的图像显示方法、装置及视频会议系统
US20150035999A1 (en) Method for sharing digital photos securely
KR100889367B1 (ko) 네트워크를 통한 가상 스튜디오 구현 시스템 및 그 방법
JP6341023B2 (ja) 端末装置、データ送信方法およびプログラム
KR102063463B1 (ko) 멀티미디어 정보 재생 방법 및 시스템, 표준화 서버, 생방송 단말기
KR101784266B1 (ko) 3d 깊이 카메라를 이용한 다자간 영상 대화 시스템 및 방법
CN112004076B (zh) 数据处理方法、控制终端、ar终端、ar系统及存储介质
US11889228B2 (en) Conference device with multi-videostream capability
JP7176861B2 (ja) 映像処理方法、映像復元方法及びコンピュータプログラム
KR101887380B1 (ko) 복수 개의 카메라를 이용한 촬영 이미지의 전송 및 처리를 위한 장치 및 방법
US11877092B2 (en) Communication management device, image communication system, communication management method, and recording medium
JP2010157906A (ja) 映像表示装置
JP6004978B2 (ja) 被写体画像抽出装置および被写体画像抽出・合成装置
US11825191B2 (en) Method for assisting the acquisition of media content at a scene
CN107483876A (zh) 视频数据处理方法、存储设备、直录播互动终端
US11076224B2 (en) Processing of data of a video sequence in order to zoom to a speaker detected in the sequence
KR101800979B1 (ko) 영상 통신 방법
KR20150050909A (ko) 촬영 단말기 및 그 제어방법, 촬영 단말기와 통신하는 그룹 영상 관리 시스템 및 그 제어방법과 이를 위한 기록 매체
JP2004159061A (ja) 撮像機能付き画像表示装置
US20240137463A1 (en) Communication management device, image communication system, communication management method, and recording medium
US11451745B2 (en) Conference device with multi-videostream control

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant