KR102005526B1 - 증강 현실 표시 방법 및 장치 - Google Patents

증강 현실 표시 방법 및 장치 Download PDF

Info

Publication number
KR102005526B1
KR102005526B1 KR1020170136112A KR20170136112A KR102005526B1 KR 102005526 B1 KR102005526 B1 KR 102005526B1 KR 1020170136112 A KR1020170136112 A KR 1020170136112A KR 20170136112 A KR20170136112 A KR 20170136112A KR 102005526 B1 KR102005526 B1 KR 102005526B1
Authority
KR
South Korea
Prior art keywords
image
augmented reality
virtual object
background image
representative color
Prior art date
Application number
KR1020170136112A
Other languages
English (en)
Other versions
KR20190043956A (ko
Inventor
신승호
임국찬
전진수
조익환
Original Assignee
에스케이텔레콤 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이텔레콤 주식회사 filed Critical 에스케이텔레콤 주식회사
Priority to KR1020170136112A priority Critical patent/KR102005526B1/ko
Publication of KR20190043956A publication Critical patent/KR20190043956A/ko
Application granted granted Critical
Publication of KR102005526B1 publication Critical patent/KR102005526B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—3D [Three Dimensional] image rendering
    • G06T15/50—Lighting effects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/90—Determination of colour characteristics

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Architecture (AREA)
  • Processing Or Creating Images (AREA)

Abstract

개시된 증강 현실 표시 장치가 수행하는 증강 현실 표시 방법은, 배경 영상을 복수의 영상 구역으로 분할하는 단계와, 복수의 영상 구역 중에서 하나 이상의 영상 구역에 대해 각각 대표 색상을 추출하는 단계와, 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링하는 단계를 포함한다.

Description

증강 현실 표시 방법 및 장치{METHOD AND APPARATUS FOR DISPLAYING AUGMENTED REALITY}
본 발명은 증강 현실(Augmented reality) 표시 방법 및 장치에 관한 것으로, 더욱 상세하게는 배경 영상에 가상 객체를 렌더링하는 증강 현실 표시 방법 및 장치에 관한 것이다.
주지하고 있는 바와 같이, 증강 현실 기술은 현실의 배경 영상에 가상 객체를 함께 표현하여 특수 효과를 제공하는 기술로서, 가상 객체가 현실 세계에 존재하는 것처럼 느끼는 착각을 일으키게 한다.
이러한 증강 현실 기술 분야에서는 증강 현실 영상에 대한 현실감을 향상시키기 위한 노력이 지속되고 있다.
종래에는 배경 영상에 가상 객체를 어떻게 표시할 것인지에 대한 방향으로 주로 연구가 이루어졌으며, 그 예로서 배경 영상으로부터 전체의 환경광을 추정한 후에 추정된 환경광을 반영하여 배경 영상에 가상 객체를 렌더링하였다.
그러나 배경 영상의 전체 영역이 단일의 색상으로 구현되는 경우보다 배경 영상 내의 구역별로 다양한 색상으로 구현되는 경우가 많기 때문에, 배경 영상으로부터 전체의 환경광을 추정하여 가상 객체의 렌더링에 반영하는 종래 기술로는 증강 현실 영상에 대한 현실감을 향상시키기에는 한계가 있었다.
대한민국 공개특허공보 제10-2011-0107545호, 공개일자 2011년 10월 04일.
본 발명의 실시예에 의하면, 배경 영상을 복수의 영상 구역으로 분할한 후에 분할된 영상 구역에서 추출된 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링하는 증강 현실 표시 방법 및 장치를 제공한다.
본 발명의 해결하고자 하는 과제는 이상에서 언급한 것으로 제한되지 않으며, 언급되지 않은 또 다른 해결하고자 하는 과제는 아래의 기재로부터 본 발명이 속하는 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 일 관점에 따른 증강 현실 표시 장치에서 수행되는 증강 현실 표시 방법은, 배경 영상을 복수의 영상 구역으로 분할하는 단계와, 상기 복수의 영상 구역 중에서 하나 이상의 영상 구역에 대해 각각 대표 색상을 추출하는 단계와, 상기 대표 색상을 반영하여 상기 배경 영상에 가상 객체를 렌더링하는 단계를 포함한다.
본 발명의 다른 관점에 따른 증강 현실 표지 장치는, 표시부와, 상기 표시부를 통해 보여지는 배경 영상에 대한 데이터를 획득하는 정보 획득부와, 제어부를 포함하되, 상기 제어부는, 배경 영상을 복수의 영상 구역으로 분할하고, 상기 복수의 영상 구역 중에서 하나 이상의 영상 구역에 대해 각각 대표 색상을 추출하며, 상기 대표 색상을 반영하여 상기 배경 영상에 가상 객체를 렌더링하고, 상기 배경 영상 및 상기 가상 객체를 포함하는 상기 증강 현실 영상을 생성하며, 상기 생성된 증강 현실 영상을 출력하도록 상기 표시부를 제어한다.
본 발명의 실시예에 의하면, 배경 영상을 복수의 영상 구역으로 분할한 후에 분할된 영상 구역에서 추출된 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링한다.
따라서, 배경 영상의 전체 영역이 단일의 색상으로 구현되지 않고 배경 영상 내의 구역별로 다양한 색상으로 구현되는 경우라도 구역별로 서로 다를 수 있는 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링 함으로써, 증강 현실 영상에 대한 현실감이 증대되는 효과가 있다.
도 1은 본 발명의 일 실시예에 따른 증강 현실 표시 장치의 블록 구성도이다.
도 2는 본 발명의 일 실시예에 따른 증강 현실 표시 장치가 수행하는 증강 현실 표시 방법을 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 증강 현실 표시 방법의 수행 중에 가상 객체를 렌더링하는 과정에 대한 일 예를 설명하기 위한 흐름도이다.
도 4는 본 발명의 일 실시예에 따른 증강 현실 표시 방법의 수행 중에 가상 객체를 렌더링하는 과정에 대한 다른 예를 설명하기 위한 흐름도이다.
도 5는 본 발명의 다른 실시예에 따른 증강 현실 표시 방법을 설명하기 위한 흐름도이다.
도 6은 본 발명의 다른 실시예에 따른 증강 현실 표시 방법의 수행 중에 대표 색상을 추출하는 과정을 보인 예시도이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 발명의 실시예들을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들은 본 발명의 실시예에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.
도 1은 본 발명의 일 실시예에 따른 증강 현실 표시 장치의 블록 구성도이다.
도 1에 나타낸 바와 같이 일 실시예에 따른 증강 현실 표시 장치(100)는 정보 획득부(110), 제어부(120), 저장부(130), 표시부(140)를 포함한다.
정보 획득부(110)는 증강 현실 영상을 위한 배경 영상에 대한 데이터를 획득한다. 즉, 정보 획득부(110)는 제어부(120)가 증강 현실 영상을 생성할 때에 이용하는 배경 영상에 대한 데이터를 획득한다. 예를 들어, 정보 획득부(110)는 현실 세계를 촬영하는 카메라를 포함할 수 있고, 이 경우에는 카메라를 이용하여 증강 현실 영상의 배경 영상에 대한 2차원 영상 정보를 직접 생성할 수 있다. 또는, 정보 획득부(110)는 증강 현실 표시 장치(100)와는 별도로 구비된 카메라부터 정보를 입력받을 수 있는 통신 인터페이스를 포함할 수 있다. 이 경우라면, 별도의 카메라에 의해 2차원 영상 정보가 생성되며, 정보 획득부(110)는 통신 인터페이스를 통해 2차원 영상 정보를 입력받아 획득할 수 있다.
저장부(130)에는 제어부(120)에 의한 실행시에, 증강 현실 표시 과정을 전반적으로 제어할 수 있는 프로세스를 수행하는 컴퓨터 실행가능 명령어가 저장된다. 그리고, 증강 현실 영상에 표시하고자 하는 가상 객체에 대응하는 3차원 모델 데이터가 저장될 수 있다. 또, 정보 획득부(110)에 의해 획득된 증강 현실 영상의 배경 영상에 대한 2차원 영상 정보가 저장될 수 있다. 예를 들어, 저장부(130)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리, 램, 롬 중 적어도 하나의 타입의 컴퓨터로 읽을 수 있는 기록매체를 포함할 수 있다.
제어부(120)는 저장부(130)에 저장된 컴퓨터 실행가능 명령어를 실행하여 증강 현실 영상의 표시 과정을 전반적으로 제어할 수 있는 프로세스를 수행한다. 이러한 프로세스에 의하면, 정보 획득부(110)에 의해 획득된 배경 영상을 복수의 영상 구역으로 분할하고, 복수의 영상 구역 중에서 하나 이상의 영상 구역에 대해 각각 대표 색상을 추출하며, 추출된 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링하고, 배경 영상 및 가상 객체를 포함하는 증강 현실 영상을 생성하며, 생성된 증강 현실 영상을 출력하도록 표시부(140)를 제어한다. 예를 들어, 제어부(120)는 CPU(Central Processing Unit)나 GPU(Graphics Processing Unit) 등과 같은 프로세서를 포함할 수 있다.
표시부(140)는 제어부(120)에 의해 수행되는 프로세스의 결과에 의한 제어신호에 따라, 배경 영상 및 가상 객체가 함께 출력되는 증강 현실 영상을 표시한다. 예를 들어, 출력부(140)는 LCD(Liquid Crystal Display) 등과 같은 평판 디스플레이 소자를 포함할 수 있다.
도 2는 본 발명의 일 실시예에 따른 증강 현실 표시 장치가 수행하는 증강 현실 표시 방법을 설명하기 위한 흐름도이다.
도 2를 참조하면, 일 실시예에 따른 증강 현실 표시 방법은, 증강 현실 영상을 위한 배경 영상에 대한 데이터를 획득하고, 획득된 배경 영상을 복수의 영상 구역으로 분할하는 단계(S210)를 포함한다. 예를 들어, 배경 영상을 바둑판 형태로 갖도록 분할하여 X*Y개의 사각형 영상 구역으로 분할할 수 있다.
그리고, 일 실시예에 따른 증강 현실 표시 방법은, 복수의 영상 구역 중에서 하나 이상의 영상 구역에 대해 각각 대표 색상을 추출하는 단계(S220)를 더 포함한다. 예를 들어, 복수의 영상 구역마다 각각 대표 색상을 추출할 수 있다. 이때, 해당 영상 구역을 형성하는 화소들의 적색(Redness)값 평균치, 녹색(Greenness)값 평균치 및 청색(Blueness)값 평균치를 가지는 색상을 대표 색상으로서 추출할 수 있다. 또는, 대표 색상을 추출할 때에 해당 영상 구역을 형성하는 화소들의 밝기(Brightness)값 평균치, 적색값 평균치, 녹색값 평균치 및 청색값 평균치를 가지는 색상을 대표 색상으로서 추출할 수도 있다.
아울러, 일 실시예에 따른 증강 현실 표시 방법은, 적어도 2개 이상의 영상 구역에서 대표 색상이 추출된 경우에, 적어도 2개의 영상 구역 중에서 인접한 영상 구역들 간의 대표 색상을 비교한 결과를 기초로 인접한 영상 구역들을 병합하는 단계(S230)를 더 포함할 수 있다. 이처럼, 인접한 영상 구역들을 병합하는 과정은 생략될 수도 있다.
그리고, 일 실시예에 따른 증강 현실 표시 방법은, 추출된 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링하는 단계(S240)를 더 포함한다. 이처럼, 배경 영상에 가상 객체를 렌더링하는 과정은 다양한 실시예의 형태로 구현할 수 있으며, 이러한 다양한 실시예에 대해서는 도 3 내지 도 5를 참조하여 아래에서 설명하기로 한다.
도 3은 본 발명의 일 실시예에 따른 증강 현실 표시 방법의 수행 중에 가상 객체를 렌더링하는 과정에 대한 일 예를 설명하기 위한 흐름도이다.
도 3을 참조하면, 일 실시예에 따른 증강 현실 표시 방법의 수행 중에 가상 객체를 렌더링하는 단계의 일 예는, 적어도 2개 이상의 영상 구역에서 추출한 대표 색상을 반영하여 대표 색상이 추출된 영상 구역마다 가상 조명을 생성하여 할당하는 단계(S310)를 포함한다.
이어서, 일 실시예에 따른 증강 현실 표시 방법의 수행 중에 가상 객체를 렌더링하는 단계의 일 예는, 복수의 영상 구역 중에서 가상 객체의 위치를 포함하는 렌더링 영상 구역을 판별하는 단계(S320)를 더 포함한다.
그리고, 일 실시예에 따른 증강 현실 표시 방법의 수행 중에 가상 객체를 렌더링하는 단계의 일 예는, 렌더링 영상 구역에 할당된 가상 조명이 있는 경우, 할당된 가상 조명이 존재하는 환경에서 배경 영상에 가상 객체를 렌더링하는 단계(S330)를 더 포함한다.
도 4는 본 발명의 일 실시예에 따른 증강 현실 표시 방법의 수행 중에 가상 객체를 렌더링하는 과정에 대한 다른 예를 설명하기 위한 흐름도이다.
도 4를 참조하면, 일 실시예에 따른 증강 현실 표시 방법의 수행 중에 가상 객체를 렌더링하는 단계의 다른 예는, 복수의 영상 구역 중에서 가상 객체의 위치를 포함하는 렌더링 영상 구역을 판별하는 단계(S410)를 포함한다.
그리고, 일 실시예에 따른 증강 현실 표시 방법의 수행 중에 가상 객체를 렌더링하는 단계의 다른 예는, 판별된 렌더링 영상 구역의 대표 색상을 가상 객체의 주변 색상에 반영하여 배경 영상에 가상 객체를 렌더링하는 단계(S420)를 더 포함한다.
이하, 도 1 내지 도 4를 참조하여 본 발명의 일 실시예에 따른 증강 현실 표시 장치(100)에 의해 수행되는 증강 현실 표시 방법에 대해 더 자세히 살펴보기로 한다.
먼저, 증강 현실 표시 장치(100)의 저장부(130)에는 증강 현실 표시 장치(100)의 제어부(120)에 의한 실행시에, 증강 현실 표시 과정을 전반적으로 제어할 수 있는 프로세스를 수행하는 컴퓨터 실행가능 명령어가 저장된다. 그리고, 증강 현실 영상 상에 표시하고자 하는 가상 객체에 대응하는 3차원 모델 데이터가 저장될 수 있다.
이러한 상태에서 제어부(120)는 저장부(130)에 저장되어 있는 컴퓨터 실행가능 명령어를 실행하여 증강 현실 표시 과정을 전반적으로 제어할 수 있는 프로세스를 수행하게 된다. 제어부(120)에 의해 해당 프로세스가 수행되면, 증강 현실 표시 장치(100)의 정보 획득부(110)는 증강 현실 영상에 이용할 배경 영상을 획득한다. 예를 들어, 정보 획득부(110)는 카메라를 이용해 현실 영상을 촬영하여 배경 영상을 직접 획득할 수 있다. 또는, 정보 획득부(110)가 증강 현실 표시 장치(100)와는 별도로 구비된 카메라로부터 정보를 입력 받을 수 있는 통신 인터페이스를 포함하는 경우라면, 정보 획득부(110)는 통신 인터페이스를 통해 외부로부터 배경 영상을 입력 받을 수 있다.
그리고, 제어부(120)는 획득된 배경 영상을 복수의 영상 구역으로 분할한다. 예를 들어, 배경 영상을 바둑판 형태로 갖도록 분할하여 X*Y개의 사각형 영상 구역으로 분할할 수 있다. 여기서, 배경 영상을 몇 개의 영상 구역으로 분할할 것인지 또는 어떤 형태의 영상 구역으로 분할할 것인지는 사전 설정에 따라 얼마든지 변화될 수 있다(S210).
이어서, 제어부(120)는 배경 영상을 분할한 복수의 영상 구역 중에서 하나 이상의 영상 구역에 대해 각각 대표 색상을 추출한다. 예를 들어, 제어부(120)는 복수의 영상 구역마다 각각 대표 색상을 추출할 수 있다. 이때, 해당 영상 구역을 형성하는 화소들의 적색값 평균치, 녹색값 평균치 및 청색값 평균치를 가지는 색상을 대표 색상으로서 추출할 수 있다. 또는, 대표 색상을 추출할 때에 해당 영상 구역을 형성하는 화소들의 밝기값 평균치, 적색값 평균치, 녹색값 평균치 및 청색값 평균치를 가지는 색상을 대표 색상으로서 추출할 수도 있다(S220).
그리고, 제어부(120)는 적어도 2개 이상의 영상 구역에서 대표 색상이 추출된 경우에, 적어도 2개의 영상 구역 중에서 인접한 영상 구역들 간의 대표 색상을 비교한 결과를 기초로 인접한 영상 구역들을 병합할 수 있다. 예를 들어, 제어부(120)는 복수의 영상 구역 중에서 서로 인접한 위치에 있는 제 1 영상 구역의 대표 색상과 제 2 영상 구역의 대표 색상을 비교하며, 색상이나 색감 또는 밝기의 차이가 기 설정된 임계값 이내일 경우에는 제 1 영상 구역과 제 2 영상 구역을 하나의 영상 구역으로 병합하면서 두 대표 색상의 평균치를 병합된 영상 구역의 새로운 대표 색상으로 추출할 수 있다. 이어서, 병합된 영상 구역과 제 3 영상 구역이 인접한 경우에, 제어부(120)는 앞서 병합된 영상 구역의 새로운 대표 색상과 제 3 영상 구역의 대표 색상을 비교하며, 색상이나 색감 또는 밝기의 차이가 기 설정된 임계값 이내일 경우에는 앞서 병합된 영상 구역과 제 3 영상 구역을 하나의 영상 구역으로 병합할 수 있다. 이때도, 제 1 영상 구역과 제 2 영상 구역을 병합할 때와 마찬가지로 새로 병합된 영상 구역의 새로운 대표 색상을 추출할 수 있다. 예컨대, 제 1 영상 구역의 대표 색상과 제 2 영상 구역의 대표 색상 및 제 3 영상 구역의 대표 색상의 평균치를 새로 병합된 영상 구역의 새로운 대표 색상으로 추출할 수 있다(S230). 다만, 단계 S230을 통한 영상 구역 병합 과정은 생략될 수도 있다.
다음으로, 제어부(120)는 저장부(130)에 저장된 3차원 모델 데이터를 읽어 들이며, 읽어 들인 3차원 모델 데이터의 좌표 정보를 기초로 복수의 영상 구역 중에서 대응하는 구역을 확인하고, 단계 S210에서 획득된 현실 영상에 확인된 좌표 정보에 따라 3차원 모델 데이터에 대응하는 가상 객체를 배치한다. 이때, 제어부(120)는 해당 영상 구역에서 추출된 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링한다(S240).
여기서, 제어부(120)는 도 3에 예시한 바와 같이 해당 영상 구역에서 추출된 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링할 때에 대표 색상이 추출된 영상 구역마다 가상 조명을 생성하여 할당하고(S310), 복수의 영상 구역 중에서 가상 객체의 위치를 포함하는 렌더링 영상 구역을 판별하며(S320), 판별된 렌더링 영상 구역에 할당된 가상 조명이 존재하는 환경에서 배경 영상에 가상 객체를 렌더링할 수 있다(S330). 또는, 제어부(120)는 도 4에 예시한 바와 같이 복수의 영상 구역 중에서 가상 객체의 위치를 포함하는 렌더링 영상 구역을 판별하고(S410), 판별된 렌더링 영상 구역의 대표 색상을 가상 객체의 주변 색상에 반영하여 배경 영상에 가상 객체를 렌더링할 수도 있다(S420).
그리고, 표시부(140)는 제어부(120)에 의해 수행되는 프로세스의 결과에 의한 제어신호에 따라, 배경 영상에 가상 객체가 렌더링된 증강 현실 영상을 표시한다. 이로써, 동일한 가상 객체라고 할지라도 복수의 영상 구역 중에서 어느 구역에 렌더링되는지에 따라 가상 객체의 색상이 달라질 수 있다.
도 5는 본 발명의 다른 실시예에 따른 증강 현실 표시 방법을 설명하기 위한 흐름도이다.
도 5를 참조하면, 다른 실시예에 따른 증강 현실 표시 방법은, 증강 현실 영상을 위한 배경 영상에 대한 데이터를 획득하고, 획득된 배경 영상으로부터 전체 대표 색상을 추출하는 단계(S510)를 포함한다. 예를 들어, 배경 영상을 형성하는 화소들의 적색값 평균치, 녹색값 평균치 및 청색값 평균치를 가지는 색상을 대표 색상으로서 추출할 수 있다. 또는, 배경 영상을 형성하는 화소들의 밝기값 평균치, 적색값 평균치, 녹색값 평균치 및 청색값 평균치를 가지는 색상을 전체 대표 색상으로서 추출할 수도 있다.
이어서, 다른 실시예에 따른 증강 현실 표시 방법은, 획득된 배경 영상을 복수의 영상 구역으로 분할하는 단계(S520)를 더 포함한다. 예를 들어, 배경 영상을 바둑판 형태로 갖도록 분할하여 X*Y개의 사각형 영상 구역으로 분할할 수 있다.
그리고, 다른 실시예에 따른 증강 현실 표시 방법은, 복수의 영상 구역 중에서 하나 이상의 영상 구역에 대해 각각 구역별 대표 색상을 추출하는 단계(S530)를 더 포함한다. 예를 들어, 복수의 영상 구역마다 각각 구역별 대표 색상을 추출할 수 있다. 이때, 해당 영상 구역을 형성하는 화소들의 적색 평균치, 녹색값 평균치 및 청색값 평균치를 가지는 색상을 구역별 대표 색상으로서 추출할 수 있다. 또는, 대표 색상을 추출할 때에 해당 영상 구역을 형성하는 화소들의 밝기값 평균치, 적색값 평균치, 녹색값 평균치 및 청색값 평균치를 가지는 색상을 구역별 대표 색상으로서 추출할 수도 있다.
아울러, 다른 실시예에 따른 증강 현실 표시 방법은, 추출된 전체 대표 색상 및 구역별 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링하는 단계(S540)를 더 포함한다.
이처럼, 도 5에 나타낸 증강 현실 표시 방법을 도 2에 나타낸 증강 현실 표시 방법과 비교하여 보면, 단계 S510에서 전체 대표 색상을 추출하는 과정이 부가되었으며, 단계 S540에서 배경 영상에 가상 객체를 렌더링하는 과정이 변화된 것을 알 수 있다.
단계 S510에서 배경 영상의 전체 대표 색상을 추출하는 과정은 도 6의 (가)에 예시한 바와 같다. 예를 들어, 제어부(120)는 배경 영상(A)을 형성하는 화소들의 적색값 평균치, 녹색값 평균치 및 청색값 평균치를 가지는 색상을 전체 대표 색상으로서 추출할 수 있다. 이 경우에, 배경 영상(A)은 책상 위의 영역처럼 다른 영역들과 비교할 때에 상대적으로 밝은 색상도 있지만 책상 아래의 영역처럼 다른 영역들과 비교할 때에 상대적으로 어두운 색상도 있기 때문에, 중간 정도의 밝기를 갖는 색상이 전체 대표 색상(601)으로 추출된다.
단계 S530에서 복수의 영상 구역에 대해 구역별 대표 색상을 추출하는 과정은 도 6의 (나)에 예시한 바와 같다. 제어부(120)는 배경 영상(A)의 일부에 해당하는 영상 구역(B)를 형성하는 화소들의 적색값 평균치, 녹색값 평균치 및 청색값 평균치를 가지는 색상을 구역별 대표 색상으로서 추출할 수 있다. 이 경우에, 영상 구역(B)은 책상 아래의 영역을 많이 포함하고 있어서 다른 영역들과 비교할 때에 상대적으로 어두운 색상이 주류를 이루기 때문에 어두운 밝기를 갖는 색상이 구역별 대표 색상(603)으로 추출된다. 만약, 영상 구역(B)이 배경 영상(A) 내에서 책상 위에 위치하는 경우라면 다른 영역들과 비교할 때에 상대적으로 밝은 색상이 주류를 이루기 때문에 밝은 밝기를 갖는 색상이 구역별 대표 색상(602)으로 추출되었을 것이다.
단계 S540에서 배경 영상에 가상 객체를 렌더링할 때에는 배경 영상(A)에서 추출된 전체 대표 색상(601)과 영상 구역(B)에서 추출된 구역별 대표 색상(603)을 모두 반영하여 가상 객체를 렌더링한다.
한편, 도 5의 흐름도에는 나타내지 않았으나, 단계 S520과 단계 S530의 사이에서 적어도 2개 이상의 영상 구역에서 대표 색상이 추출된 경우에, 적어도 2개의 영상 구역 중에서 인접한 영상 구역들 간의 대표 색상을 비교한 결과를 기초로 인접한 영상 구역들을 병합하는 단계를 더 포함할 수 있다. 이 경우에, 도 6의 (나)에 나타낸 영상 구역(B)의 면적이 영상 구역들의 병합 회수에 따라 변화되기 때문에, 배경 영상에 가상 객체를 렌더링하는 과정에서, 배경 영상의 면적과 렌더링 영상 구역의 면적의 비율에 따라 전체 대표 색상과 렌더링 영상 구역의 구역별 대표 색상을 보간(Interpolation)하여 가상 객체의 색상이 결정된다. 이 경우에, 배경 영상에 가상 객체를 렌더링할 때에 해당 구역의 가상 조명으로 생성되거나 가상 객체의 주변 색상에 반영되는 보간 색상은 아래의 수학식 1과 같이 결정될 수 있다.
Figure 112017103399041-pat00001
지금까지 설명한 바와 같이, 본 발명의 실시예에 의하면, 배경 영상을 복수의 영상 구역으로 분할한 후에 분할된 영상 구역에서 추출된 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링한다.
따라서, 배경 영상의 전체 영역이 단일의 색상으로 구현되지 않고 배경 영상 내의 구역별로 다양한 색상으로 구현되는 경우라도 구역별로 서로 다를 수 있는 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링 함으로써, 증강 현실 영상에 대한 현실감이 증대된다.
본 발명에 첨부된 블록도의 각 블록과 흐름도의 각 단계의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수도 있다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 블록도의 각 블록 또는 흐름도의 각 단계에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 블록도의 각 블록 또는 흐름도 각 단계에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 블록도의 각 블록 및 흐름도의 각 단계에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.
또한, 각 블록 또는 각 단계는 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실시예들에서는 블록들 또는 단계들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들 또는 단계들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 블록들 또는 단계들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
본 발명의 실시예에 따르면, 배경 영상의 전체 영역이 단일의 색상으로 구현되지 않고 배경 영상 내의 구역별로 다양한 색상으로 구현되는 경우라도 구역별로 서로 다를 수 있는 대표 색상을 반영하여 배경 영상에 가상 객체를 렌더링 함으로써, 증강 현실 영상에 대한 현실감이 증대된다.
이러한 본 발명은 현실의 배경 영상 내에 가상 객체를 함께 표현하여 특수 효과를 제공하는 증강 현실용 디바이스를 채용하는 각종의 증강 현실 산업 분야에 널리 이용할 수 있다.
100 : 증강 현실 표시 장치
110 : 정보 획득부
120 : 제어부
130 : 저장부
140 : 표시부

Claims (9)

  1. 증강 현실 표시 장치가 수행하는 증강 현실 표시 방법으로서,
    배경 영상을 복수의 영상 구역으로 분할하는 단계와,
    상기 복수의 영상 구역 중에서 하나 이상의 영상 구역에 대해 각각 대표 색상을 추출하는 단계와,
    상기 배경 영상에 가상 객체를 렌더링하되, 상기 추출된 대표 색상을 상기 복수의 영상 구역 중 대응하는 영상 구역 내의 상기 가상 객체의 주변 색상에 반영하는 단계를 포함하는
    증강 현실 표시 방법.
  2. 제 1 항에 있어서,
    상기 대표 색상을 추출하는 단계는, 해당 영상 구역을 형성하는 화소들의 적색(R)값 평균치, 녹색(G)값 평균치 및 청색(B)값 평균치를 가지는 색상을 상기 대표 색상으로서 추출하는
    증강 현실 표시 방법.
  3. 제 1 항에 있어서,
    상기 대표 색상이 추출되는 영상 구역은 적어도 2개이며,
    상기 적어도 2개의 영상 구역 중에서 인접한 영상 구역들 간의 대표 색상을 비교한 결과를 기초로 상기 인접한 영상 구역들을 병합하는 단계를 더 포함하는
    증강 현실 표시 방법.
  4. 제 1 항에 있어서,
    상기 배경 영상에 가상 객체를 렌더링할 때에는,
    상기 대표 색상을 반영하여 상기 대표 색상이 추출된 영상 구역마다 가상 조명을 생성하여 할당하는 단계와,
    상기 복수의 영상 구역 중에서 상기 가상 객체의 위치를 포함하는 렌더링 영상 구역을 판별하는 단계와,
    상기 렌더링 영상 구역에 할당된 가상 조명이 있는 경우, 상기 할당된 가상 조명이 존재하는 환경에서 상기 배경 영상에 가상 객체를 렌더링하는 단계를 포함하는
    증강 현실 표시 방법.
  5. 제 1 항에 있어서,
    상기 배경 영상에 가상 객체를 렌더링할 때에는,
    상기 복수의 영상 구역 중에서 상기 가상 객체의 위치를 포함하는 렌더링 영상 구역을 판별하는 단계와,
    상기 렌더링 영상 구역의 대표 색상을 상기 가상 객체의 주변 색상에 반영하여 상기 배경 영상에 가상 객체를 렌더링하는 단계를 포함하는
    증강 현실 표시 방법.
  6. 제 5 항에 있어서,
    상기 배경 영상으로부터 전체 대표 색상을 추출하는 단계를 더 포함하며,
    상기 배경 영상에 가상 객체를 렌더링할 때에는, 상기 전체 대표 색상 및 상기 렌더링 영상 구역의 대표 색상을 상기 가상 객체의 주변 색상에 반영하여 상기 배경 영상에 가상 객체를 렌더링하는
    증강 현실 표시 방법.
  7. 제 6 항에 있어서,
    상기 배경 영상에 가상 객체를 렌더링할 때에는, 상기 배경 영상의 면적과 상기 렌더링 영상 구역의 면적의 비율에 따라 상기 전체 대표 색상과 상기 렌더링 영상 구역의 대표 색상을 보간(Interpolation)하는
    증강 현실 표시 방법.
  8. 제 1 항 내지 제 7 항 중에서 어느 한 항에 기재된 증강 현실 표시 방법을 프로세서가 수행하도록 하기 위하여
    컴퓨터 판독 가능한 기록매체에 저장된 컴퓨터 프로그램.
  9. 증강 현실 영상을 표시하는 증강 현실 표시 장치로서,
    표시부와,
    상기 표시부를 통해 보여지는 배경 영상에 대한 데이터를 획득하는 정보 획득부와,
    제어부를 포함하되,
    상기 제어부는,
    배경 영상을 복수의 영상 구역으로 분할하고, 상기 복수의 영상 구역 중에서 하나 이상의 영상 구역에 대해 각각 대표 색상을 추출하며, 상기 배경 영상에 가상 객체를 렌더링하되 상기 추출된 대표 색상을 상기 복수의 영상 구역 중 대응하는 영상 구역 내의 상기 가상 객체의 주변 색상에 반영하고, 상기 배경 영상 및 상기 가상 객체를 포함하는 상기 증강 현실 영상을 생성하며, 상기 생성된 증강 현실 영상을 출력하도록 상기 표시부를 제어하는
    증강 현실 표시 장치.
KR1020170136112A 2017-10-19 2017-10-19 증강 현실 표시 방법 및 장치 KR102005526B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170136112A KR102005526B1 (ko) 2017-10-19 2017-10-19 증강 현실 표시 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170136112A KR102005526B1 (ko) 2017-10-19 2017-10-19 증강 현실 표시 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20190043956A KR20190043956A (ko) 2019-04-29
KR102005526B1 true KR102005526B1 (ko) 2019-07-30

Family

ID=66282442

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170136112A KR102005526B1 (ko) 2017-10-19 2017-10-19 증강 현실 표시 방법 및 장치

Country Status (1)

Country Link
KR (1) KR102005526B1 (ko)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110107545A (ko) 2010-03-25 2011-10-04 에스케이텔레콤 주식회사 광원 인식을 이용한 증강현실 시스템 및 그 방법과, 이를 구현하기 위한 증강현실 처리 장치
KR101692764B1 (ko) * 2010-06-14 2017-01-05 주식회사 비즈모델라인 가상 점을 이용한 증강현실 제공 방법
KR101553273B1 (ko) * 2013-12-20 2015-09-15 배재대학교 산학협력단 증강현실 서비스를 제공하는 방법 및 장치

Also Published As

Publication number Publication date
KR20190043956A (ko) 2019-04-29

Similar Documents

Publication Publication Date Title
US6931151B2 (en) Method and apparatus for modifying graphics content prior to display for color blind use
CN109166159B (zh) 获取图像的主色调的方法、装置及终端
CN107833262A (zh) 图形处理系统和图形处理器
KR102101834B1 (ko) 영상 처리 장치 및 방법
US10217259B2 (en) Method of and apparatus for graphics processing
WO2012094076A9 (en) Morphological anti-aliasing (mlaa) of a re-projection of a two-dimensional image
US8698830B2 (en) Image processing apparatus and method for texture-mapping an image onto a computer graphics image
US20160180514A1 (en) Image processing method and electronic device thereof
CN111295693B (zh) 影像处理方法及装置
JP2018180654A (ja) 情報処理装置、画像生成方法及びプログラム
CN109643462B (zh) 基于渲染引擎的实时图像处理方法以及显示设备
US20190066366A1 (en) Methods and Apparatus for Decorating User Interface Elements with Environmental Lighting
KR101919077B1 (ko) 증강 현실 표시 방법 및 장치
CN107644451B (zh) 动画展示方法和装置
KR102005526B1 (ko) 증강 현실 표시 방법 및 장치
KR101991401B1 (ko) 증강 현실 표시 방법 및 장치
US20160019710A1 (en) Image processing apparatus and method
CN113093903B (zh) 一种图像显示方法及显示设备
US20180150990A1 (en) Animation display apparatus and animation display method
CN112567430A (zh) 图像生成装置、图像生成方法和程序
WO2017221509A1 (ja) 画像処理装置、表示装置、画像処理装置の制御方法、および制御プログラム
US20170263037A1 (en) Image processing device, image processing system, image processing method, and non-transitory computer readable medium
CN113554659B (zh) 图像处理方法、装置、电子设备、存储介质及显示系统
TW201514923A (zh) 還原尺寸重調景深圖框爲原始景深圖框的方法、裝置及系統
JP3255549B2 (ja) 図形処理方法

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant