KR20210066391A - 우선 순위에 기초하여 저지연 증강현실 정보를 제공하는 방법, 장치, 및 시스템 - Google Patents

우선 순위에 기초하여 저지연 증강현실 정보를 제공하는 방법, 장치, 및 시스템 Download PDF

Info

Publication number
KR20210066391A
KR20210066391A KR1020190155582A KR20190155582A KR20210066391A KR 20210066391 A KR20210066391 A KR 20210066391A KR 1020190155582 A KR1020190155582 A KR 1020190155582A KR 20190155582 A KR20190155582 A KR 20190155582A KR 20210066391 A KR20210066391 A KR 20210066391A
Authority
KR
South Korea
Prior art keywords
information
search
augmented reality
user terminal
data
Prior art date
Application number
KR1020190155582A
Other languages
English (en)
Other versions
KR102263633B1 (ko
Inventor
고성안
이경한
한윤하
Original Assignee
울산과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 울산과학기술원 filed Critical 울산과학기술원
Priority to KR1020190155582A priority Critical patent/KR102263633B1/ko
Publication of KR20210066391A publication Critical patent/KR20210066391A/ko
Application granted granted Critical
Publication of KR102263633B1 publication Critical patent/KR102263633B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5846—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using extracted text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/13—Edge detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Abstract

서버가 사용자에게 증강현실 정보를 제공하는 방법은 사용자 단말의 주변 장면에 관한 이미지 정보를 포함하는 입력 데이터를 수신하는 단계, 상기 이미지 정보로부터 적어도 하나의 콘텍스트(Context) 정보를 추출하는 단계, 상기 추출된 콘텍스트 정보에 대한 검색 데이터를 검색 우선 순위에 따라 요청하는 단계, 및 상기 검색 데이터를 획득하는 경우에 응답하여, 상기 콘텍스트 정보에 대한 상기 검색 데이터를 상기 사용자 단말로 송신하는 단계를 포함할 수 있다.

Description

우선 순위에 기초하여 저지연 증강현실 정보를 제공하는 방법, 장치, 및 시스템{METHOD, APPARATUS, AND SYSTEM FOR PROVIDING LOW DELAY AUGMENTED REALITY INFORMATION BASED ON PRIORITY}
이하, 우선 순위에 기초하여 증강현실 정보를 제공하는 방법, 장치 및 시스템에 관한 기술이 제공된다.
증강현실(Augmented Reality, AR) 브라우저는 사용자의 컨텍스트에 맞는 콘텐츠를 증강현실 환경에 제공해주는 시스템이다. 증강현실 브라우저 시스템은 상황에 따라 대용량의 데이터를 송수신하고, 대용량의 데이터를 처리하는 프로세서는 콘텍스트를 분석하고 분석한 데이터를 시각화할 수 있다. 증강현실 브라우저 시스템이 대용량의 데이터를 송수신하고, 프로세서가 대용량의 데이터를 처리함에 따라 AR 서비스 및 시각화 제공에 사용자 지연 시간이 발생하게 된다.
증강현실 브라우저에서는 실시간으로 사용자에게 컨텍스트에 맞는 콘텐츠가 제공되어야 하는데, 브라우저 시스템이 콘텐츠를 제공하는데 지연이 발생하면 실시간 객체 정보 또는 텍스트 정보에 부합하는 콘텐츠를 제공하는데 어려움이 있을 수 있다.
대한민국 특허공개공보 제10-2011-0012514호(공개일: 2011년 02월 09일)
일실시예에 따른 서버가 사용자에게 증강현실 정보를 제공하는 방법에 있어서, 사용자 단말의 주변 장면에 관한 이미지 정보를 포함하는 입력 데이터를 수신하는 단계, 상기 이미지 정보로부터 적어도 하나의 콘텍스트(Context) 정보를 추출하는 단계, 상기 추출된 콘텍스트 정보에 대한 검색 데이터를 검색 우선 순위에 따라 요청하는 단계, 및 상기 검색 데이터를 획득하는 경우에 응답하여, 상기 콘텍스트 정보에 대한 상기 검색 데이터를 상기 사용자 단말로 송신하는 단계를 포함할 수 있다.
상기 콘텍스트 정보는 상기 이미지 내의 사물 및 텍스트에 연관된 사물 정보 및 텍스트 정보를 포함할 수 있다.
일측에 따르면, 상기 검색 우선 순위는 상기 텍스트 정보의 검색 우선 순위가 상기 사물 정보의 검색 우선 순위보다 높게 설정될 수 있다.
상기 검색 데이터를 요청하는 단계는 적어도 하나의 상기 사물 정보 중 이미지에서 사물의 크기에 기초하여 사물 정보에 대한 검색 우선 순위를 결정하는 단계를 포함할 수 있다.
상기 검색 데이터를 요청하는 단계는 적어도 하나의 상기 텍스트 정보 중 이미지에서 텍스트 크기에 기초하여 텍스트 정보에 대한 검색 우선 순위로 결정하는 단계를 포함할 수 있다.
또한, 상기 검색 데이터를 요청하는 단계는 상기 텍스트 정보의 텍스트 종류에 기초하여 텍스트 정보에 대한 검색 우선 순위를 결정하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 콘텍스트 정보를 추출하는 단계는 상기 이미지 정보로부터 엣지 맵(edge map)과 특징 맵(saliency map)을 추출하는 단계를 포함하고, 상기 검색 데이터를 요청하는 단계는 상기 특징 맵에 기초한 중요도 맵(importance map)으로부터 상기 사물 정보에 대한 검색 우선 순위를 결정하는 단계를 포함할 수 있다.
일측에 따른 상기 송신하는 단계는 데이터베이스에 상기 콘텍스트 정보 및 상기 콘텍스트 정보에 대해 검색된 검색 데이터를 저장하는 단계를 포함할 수 있다.
상기 송신하는 단계는 상기 콘텍스트 정보가 상기 데이터베이스에 저장된 콘텍스트 정보와 중복된 중복 콘텍스트 정보인 경우, 상기 데이터베이스에 저장된 중복 콘텍스트 정보에 대한 검색 데이터를 상기 사용자 단말로 송신하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 송신하는 단계는 상기 검색 데이터의 크기와 상기 사용자 단말의 네트워크 상태에 따라 상기 검색 데이터를 분할하는 단계, 및 분할된 검색 데이터를 전송 우선 순위 순서에 따라 상기 사용자 단말로 송신하는 단계를 포함할 수 있다.
상기 분할하는 단계는 상기 검색 데이터를 압축하고, 샘플링하는 단계
를 포함하고, 상기 분할된 검색 데이터를 송신하는 단계는 다중 분할, 전송, 병합 방법에 기초하여 상기 분할된 검색 데이터를 송신하는 단계를 포함할 수 있다.
일측에 따르면, 상기 검색 데이터가 상기 사용자 단말에 구현되는 구현 방식에 따라 상기 전송 우선 순위를 구분하여 결정할 수 있다.
도 1은 일실시예에 따른 서버가 사용자에게 증강현실 정보를 제공하는 방법을 도시한 흐름도이다.
도 2는 일실시예에 따라 종전 대용량 데이터 송수신에 의해 콘텐츠 출력의 지연이 발생한 것을 도시한 것이다.
도 3은 일실시예에 따른 증강현실 정보를 제공하는 시스템을 도시한 블록도이다.
도 4는 일실시예에 따라 사물 정보에서 우선 순위를 결정하는 것을 도시한 것이다.
도 5A는 일실시예에 따라 이미지로부터 엣지 맵, 특징 맵을 추출하고, 특징 맵 및 엣지 맵에 기초하여 중요도 맵이 출력된 것을 도시한 도면이다.
도 5B는 도 5A에 기초하여 결정된 중요도에 따라 증강현실 콘텐츠 정보를 출력하는 위치가 결정되는 것을 도시한 도면이다.
도 6은 일실시예에 따라 텍스트 정보에서 우선 순위를 결정하는 것을 도시한 것이다.
도 7은 일실시예에 따른 홀로포테이션 데이터의 전송 우선 순위를 도시한 것이다.
도 8은 일실시예에 따른 인체 3D 모델 데이터의 전송 우선 순위를 도시한 것이다.
도 9는 일실시예에 따른 그래프 데이터의 전송 우선 순위를 도시한 것이다.
도 10은 일실시예에 따른 분포 그래프 데이터의 전송 우선 순위를 도시한 것이다.
도 11은 일실시예에 따른 사물 정보에 관한 데이터의 전송 우선 순위를 도시한 것이다.
도 12는 일실시예에 따라 콘텍스트 정보에 대한 복합 데이터의 전송 우선 순위를 도시한 것이다.
도 13은 일실시예에 따라 사용자 단말이 콘텍스트 정보에 대한 검색 데이터를 수신하여 증강현실 콘텐츠가 출력된 것을 도시한 것이다.
도 14는 일실시예에 따라 시스템이 사용자에게 증강현실 정보를 제공하는 방법을 도시한 흐름도이다.
도 15는 일실시예에 따른 증강현실 정보를 제공하는 시스템의 대략적인 구성을 도시한 블록도이다.
실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 실시될 수 있다. 따라서, 실시예들은 특정한 개시형태로 한정되는 것이 아니며, 본 명세서의 범위는 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
도 1은 일실시예에 따른 서버가 사용자에게 증강현실 정보를 제공하는 방법을 도시한 흐름도이다.
일실시예에 따라 서버가 증강현실 정보를 제공하는 방법은, 사용자 단말로부터 입력 데이터를 수신하여 입력 데이터 내의 콘텍스트 정보에 대한 검색 데이터를 사용자 단말로 송신할 수 있다.
단계(110)에서, 서버의 프로세서는 사용자 단말의 주변 장면에 관한 이미지 정보를 포함하는 입력 데이터를 수신할 수 있다. 주변 장면에 관한 이미지 정보는 사용자가 응시하는 장면에 관한 이미지 정보일 수 있고, 사용자에 의해 촬영되는 이미지에 관한 정보일 수 있다. 입력 데이터는 이미지 정보, 사용자 위치 정보 및 사용자 동작 정보를 포함할 수 있다. 사용자 단말은 사용자 단말에 포함된 센서 및 GPS에 의해 사용자 위치 정보 및 사용자 동작 정보를 측정할 수 있다.
일실시예에 따르면, 서버는 사용자 단말로부터 사용자 단말의 네트워크 상태 및 이미지 사이즈를 수신하고, 사용자 단말의 네트워크 상태 및 상기 이미지 사이즈에 기초하여 상기 입력 데이터를 수신할지 여부를 판단할 수 있다. 서버가 사용자 단말과의 통신 속도가 임계 속도 미만이어서 사용자 단말의 네트워크 상태가 불량하다고 판단되는 경우, 서버는 사용자 단말로부터 입력 데이터의 수신을 배제한다고 결정할 수 있다.
단계(120)에서, 서버의 프로세서는 수신된 입력 데이터의 이미지 정보로부터 적어도 하나의 콘텍스트(Context) 정보를 추출할 수 있다. 콘텍스트 정보는 사용자 주변의 객체 또는 상황에 관한 정보일 수 있으며, 사용자 주변의 사물 또는 텍스트에 관한 정보일 수 있다. 서버의 프로세서는 이미지의 컬러값 그라디언트를 계산하여 이미지 내 객체들의 경계를 추출할 수 있고, 객체들의 경계들이 표시된 엣지 맵에 기초하여 콘텍스트 정보를 분석할 수 있다. 아울러, 서버의 프로세서는 특징 맵에 기초하여 콘텍스트 정보를 분석할 수 있다. 프로세서가 엣지 맵 및 특징 맵에 기초하여 콘텍스트 정보를 분석하는 것은 도 5A를 통해 후술한다.
일실시예에 따르면, 프로세서는 이미지 내에서 추출 가능한 모든 객체 정보들을 콘텍스트 정보로 선정할 수 있지만, 효율적으로 콘텍스트 정보에 대한 데이터를 검색하기 위해 객체 정보들 중 일부 객체 정보들만 콘텍스트 정보로 선정할 수 있다. 예시적으로, 프로세서는 추출된 객체 정보들 중 검색 우선 순위가 임계 순위 이내인 일부 객체 정보들을 콘텍스트 정보로 추출할 수 있다.
단계(130)에서, 프로세서는 추출된 콘텍스트 정보에 대한 검색 데이터를 검색 우선 순위에 따라 요청할 수 있다. 프로세서는 증강현실 브라우저에 검색 데이터를 요청할 수 있는데, 외부장치의 증강현실 브라우저로부터 통신부를 통해 검색 데이터를 수신할 수 있으며, 서버 내에 증강현실 브라우저에 관한 모듈이 저장된 경우 프로세서가 직접 콘텍스트 정보에 대한 검색 데이터를 검색할 수 있다. 검색 우선 순위는 콘텍스트 정보의 종류에 따라 결정될 수 있다.
단계(140)에서, 프로세서는 검색 데이터를 획득하는 경우에 응답하여, 콘텍스트 정보에 대한 검색 데이터를 사용자 단말로 송신할 수 있다. 사용자 단말은 수신한 검색 데이터에 기초하여 증강현실 콘텐츠를 출력하여 사용자에게 제공할 수 있다. 프로세서는 사용자 단말에 송신하는 검색 데이터 순서를 검색 우선 순위에 기초하여 결정할 수 있지만, 검색 데이터를 요청하여 수신한 순서로 사용자 단말에 검색 데이터를 송신할 수 있다. 프로세서는 검색 데이터 크기 및 사용자 단말과의 네트워크 상태에 기초하여 송신하는 검색 데이터를 분할하여, 분할된 데이터를 송신할 수 있다. 분할된 데이터를 송신하는 전송 우선 순위를 결정하는 방법에 대해서는 후술한다.
도 2는 일실시예에 따라 종전 대용량 데이터 송수신에 의해 콘텐츠 출력의 지연이 발생한 것을 도시한 것이다.
증강현실 브라우징 시스템에서 서버가 사용자 단말로부터 이미지를 제공받으면, 서버가 실시간으로 이미지 내의 콘텍스트 정보를 추출하여 콘텍스트 정보에 대한 검색 결과를 사용자 단말로 제공하는 것이 중요하다. 콘텍스트 정보의 검색 결과에 기초한 콘텐츠를 실시간으로 제공받는 경우(210), 사용자 단말은 콘텍스트 정보에 대응하는 위치에 증강현실 콘텐츠를 출력할 수 있다. 이에 반해, 콘텍스트 정보의 검색 결과에 기초한 콘텐츠를 실시간으로 제공받지 못한 경우(220), 사용자 단말은 콘텍스트 정보에 대응하는 위치에 증강현실 콘텐츠를 출력하지 못한다.
본 발명에서는 프로세서가 콘텍스트 정보에 대해 우선 순위를 정하여 검색을 수행하고, 검색 결과 검색 데이터에 대해 우선 순위를 정하여 사용자 단말로 전송함으로써, 우선 순위 높은 데이터만 우선적으로 사용자에게 제공할 수 있다. 그 후, 프로세서는 사용자 단말과의 네트워크 상태에 따라 점진적으로 검색 데이터에 관한 콘텐츠를 사용자에게 제공할 수 있다.
종전 증강현실 브라우저에서 실시간으로 사용자에게 콘텍스트에 관한 콘텐츠를 제공하는 경우, 대용량 데이터로 인해 지연이 발생하여 사용자 경험이 감소하기도 하였다. 이를 해결하기 위해, 본 발명은 대용량 데이터가 전부 전송될 때까지 기다린 후 콘텐츠 정보를 사용자에게 제공하는 것이 아니라 중요한 데이터가 무엇인지 분석하여 추상적인 정보를 먼저 전송하여 보여주고, 점진적으로 데이터를 추가하여 제공하며, 병렬 및 압축 전송기법을 이용하여 사용자 경험을 최대한 저해하지 않도록 할 수 있다.
도 3은 일실시예에 따른 증강현실 정보를 제공하는 시스템을 도시한 블록도이다.
증강현실 정보를 제공하는 시스템은 사용자(310)로부터 사용자(310) 정보를 입력받는 사용자 단말(320), 서버(330)을 포함할 수 있다. 일실시예에 따르면, 시스템은 검색 엔진(340) 및 캐시 메모리(350)을 포함할 수 있다.
사용자 단말(320)은 사용자(310)로부터 사용자 시선 정보, 사용자 위치 정보, 및 사용자 동작 정보를 입력받을 수 있다. 사용자 단말(320)의 이미지 촬영 장치는 사용자(310)에 의해 장착됨으로써, 사용자 시선 정보를 획득할 수 있다. 사용자 단말(320)은 이미지 촬영 장치에 의해 촬영된 사용자(310) 시선 정보를 사용자 단말(320)의 주변 장면에 관한 이미지로 결정할 수 있다. 사용자 단말(320)은 이미지 디코더를 통해 이미지를 디코딩하여 이미지 정보를 서버(330)로 송신할 수 있다.
사용자 단말(320)은 자이로스코프, GPS, 및 방향 센서를 이용하여 사용자 위치 정보 및 사용자 동작 정보를 획득할 수 있다. 사용자 단말(320)은 사용자 단말(320)에 포함된 센서에 의해 감지된 사용자 움직임 센싱 값에 기초하여 서버(330)로 입력 데이터를 송신할지 여부를 판단할 수 있다. 여기서, 사용자 움직임 센싱 값은 사용자 동작 정보에 포함될 수 있다. 예시적으로, 사용자 단말(320)은 사용자 움직임 센싱 값이 미리 지정된 임계치 이하인 경우, 서버(330)로 입력 데이터를 송신하는 것으로 판단할 수 있다. 사용자 단말(320)은 사용자 위치 정보 및 사용자 동작 정보를 서버(330)로 송신할 수 있다.
서버(330)의 콘텍스트 분석부는 이미지 정보, 사용자 위치 정보, 및 사용자 동작 정보가 포함된 입력 데이터에 기초하여 콘텍스트 정보를 추출할 수 있다. 서버(330)는 콘텍스트 정보를 텍스트 정보 및 사물 정보로 구분하여 추출할 수 있고, 상기 텍스트 정보의 우선 순위가 상기 사물 정보의 우선 순위보다 높게 설정할 수 있다.
서버(330)는 추출된 콘텍스트 정보에 대한 검색 데이터를 검색 엔진(340)에 요청할 수 있다. 검색 엔진(340)은 콘텍스트 정보에 대해 텍스트 검색, 뉴스 검색, 이미지 검색, 비디오 검색을 수행할 수 있다. 검색 엔진(340)은 검색을 수행한 후 출력된 검색 데이터를 캐시 메모리(350)로 송신할 수 있다.
캐시 메모리(350)는 적어도 일시적으로 데이터베이스에 콘텍스트 정보 및 콘텍스트 정보에 대한 검색 데이터를 저장할 수 있다. 아울러, 우선 순위 탐색부에 기초하여 검색 데이터 송신 순서를 결정할 수 있다. 검색 데이터 송신 순서는 콘텍스트 정보에 대한 검색 우선 순위 및 검색 데이터에 대한 송신 우선 순위에 의해 결정될 수 있다.
일실시예에 따르면, 서버(330)의 프로세서는 콘텍스트 정보가 데이터베이스에 저장된 중복 콘텍스트 정보인 경우, 데이터베이스에 저장된 중복 콘텍스트 정보에 대한 검색 데이터를 사용자 단말로 송신할 수 있다. 예시적으로, 프로세서는 콘텍스트 정보에 대한 검색 데이터를 요청하기 전에, 데이터베이스에 콘텍스트 정보가 있는지 여부를 탐색할 수 있다. 프로세서는 데이터베이스에 콘텍스트 정보와 중복되는 정보가 있다고 판단된 경우, 프로세서는 중복 콘텍스트 정보에 대한 검색 데이터를 요청하지 않는다. 대신, 프로세서는 데이터베이스에 저장된 콘텍스트 정보에 대한 검색 데이터를 사용자 단말(320)로 송신할 수 있다.
서버(330)는 검색 데이터 송신 순서에 기초하여 사용자 단말(320)로 검색 데이터를 인코딩하여 송신할 수 있다. 일실시예에 따르면, 검색 우선 순위에 따라 검색된 복수의 검색 데이터를 병렬적으로 사용자 단말(320)로 전송할 수 있다. 서버(330)는 복수의 검색 데이터 각각에 대해 전송 우선 순위에 따라 복수의 검색 데이터를 병렬적으로 사용자 단말(320)로 전송할 수 있다. 따라서, 사용자 단말(320)은 복수의 콘텍스트 정보에 대해 우선 순위가 높은 데이터를 우선적으로 사용자(310)에게 제공할 수 있다.
다른 일실시예에 따르면 서버의 프로세서는 저지연 전송을 위해 사용자 단말로 검색 데이터를 압축하여 전송할 수 있다. 검색 데이터의 압축은 데이터의 내용을 원래 내용 그대로 디코딩하는 무손실 압축과 디코딩의 데이터의 세부적인 디테일이 손실될 수 있지만 저지연을 위해 높은 압축률을 얻을 수 있는 손실 압축이 사용될 수 있다. 무손실 압축 알고리즘으로는 반복 길이 부호화, 허프만 부호화, 및 산술 부호화를 이용할 수 있고, 손실 압축 알고리즘으로는 MPEG 표준 압축기술이 사용될 수 있다.
사용자 단말(320)은 수신한 검색 데이터에 기초하여 증강현실 콘텐츠를 디스플레이부에 출력하여 사용자(310)에게 제공할 수 있다. 사용자 단말(320)은 검색 데이터 종류에 따라 증강현실 콘텐츠를 달리하여 출력할 수 있다.
각 부(Part)는 기능에 의해 분류된 부일 수 있으며, 하드웨어에 의해 구분된 것을 수 있으나, 하나의 프로세서에 의해 수행되며 소프트웨어 모듈에 의해 구분된 것일 수 있다.
도 4는 일실시예에 따라 사물 정보에서 검색 우선 순위를 결정하는 것을 도시한 것이다.
서버의 프로세서는 콘텍스트 정보 중 사물 정보의 검색 우선 순위를 결정할 수 있다. 사물 정보의 검색 우선 순위는 이미지의 사물의 크기에 기초하여 결정될 수 있다. 프로세서는 적어도 하나의 사물 정보 중 이미지에서 가장 크게 인식된 사물 정보를 적어도 하나의 사물 정보 중 가장 높은 검색 우선 순위로 결정할 수 있다.
프로세서는 사용자 단말로부터 수신된 기본 이미지(410)의 적어도 하나의 사물 정보 중 가장 큰 사물(411)에 관한 사물 정보에 가장 높은 검색 우선 순위를 부여할 수 있다. 아울러, 사용자 입력에 따라 확대된 이미지(420) 또는 시선 이동된 이미지(430)의 적어도 하나의 사물 정보 중 가장 큰 사물(421, 431)에 관한 사물 정보에 가장 높은 검색 우선 순위를 부여할 수 있다.
다른 일실시예에 따르면, 프로세서는 사용자 단말로부터 수신된 기본 이미지(410)의 적어도 하나의 사물 정보에 대해 화면의 중앙으로부터의 거리에 기초하여 검색 우선 순위를 부여할 수 있다. 예시적으로, 적어도 하나의 사물 정보 중 화면 중앙 영역으로부터 가장 가까운 사물 정보에 가장 높은 검색 우선 순위를 부여할 수 있고, 화면 중앙 영역으로부터 가장 먼 사물 정보에 가장 낮은 검색 우선 순위를 부여할 수 있다.
도 5A는 일실시예에 따라 이미지(510)로부터 엣지 맵(520), 특징 맵(530)을 추출하고, 엣지 맵(520) 및 특징 맵(530)에 기초하여 중요도 맵(540)이 출력된 것을 도시한 도면이다.
일실시예에 따르면, 서버의 프로세서는 이미지 정보로부터 엣지 맵(520)(edge map), 특징 맵(530)(saliency map), 및 엣지 맵(520)과 특징 맵(530)에 기초한 중요도 맵(540)(importance map)을 이용하여 사물 정보 및 텍스트 정보를 추출할 수 있다. 엣지 맵(520)은 이미지 내 객체의 경계가 추출된 정보일 수 있다. 객체의 경계는 예시적으로, 이미지 픽셀들의 컬러값 그라디언트를 이용하여 산출될 수 있다. 컬러값 그라디언트는 대상 픽셀과 이웃한 픽셀들간의 컬러값 차이일 수 있고, 서버의 프로세서는 컬러값 그라디언트가 임계 그라디언트를 초과하는 경우 대상 픽셀을 경계라고 결정할 수 있다.
특징 맵(530)은 이미지의 픽셀의 고유 품질에 관한 정보일 수 있다. 특징 맵(530)은 이미지에서 의미있고, 이미지를 분석하기 위해 단순화된 정보일 수 있다. 특징 맵(530)은 예시적으로, 대상 픽셀과 나머지 픽셀들의 컬러값 차이에 기초하여 계산될 수 있다. 프로세서는 이미지 내에서 영역 간의 색상 차, 영역간 거리, 텍스쳐 정보 등을 이용하여 특징 맵(530)을 추출할 수 있고, 특징 맵(530)에서 중요 객체와 배경을 구분할 수 있다. 예시적으로, 중요도에 따라 프로세서는 각 픽셀들의 그레이스케일 레벨을 달리하여 특징 맵(530)을 제공할 수 있고, 배경의 그레이스케일 레벨을 중요 객체의 그레이 스케일 레벨보다 낮게 표시할 수 있다. 프로세서는 각 픽셀의 그레이스케일 레벨 차이를 이용하여 이미지 내 어느 부분이 중요 객체(551)인지, 배경인지 여부가 결정된 이미지(550)를 제공 수 있다.
도 5B는 도 5A에 기초하여 결정된 중요도에 따라 증강현실 콘텐츠 정보를 출력하는 위치가 결정되는 것을 도시한 도면이다.
서버의 프로세서는 이미지의 경계 맵 및 특징 맵에 의해 추출된 중요도 맵을 이용하여 콘텍스트 정보에 대한 증강현실 콘텐츠 정보의 출력 위치를 결정할 수 있다. 일실시예에 따르면, 사용자 단말은 콘텍스트 정보 영역과 콘텐츠 정보의 그래프 오브젝트 영역이 임계 비율 이상 겹치도록 증강현실 정보(560)를 출력할 수 있으나, 이 경우 콘텍스트 정보에 대한 증강현실 콘텐츠 정보의 가독성이 떨어질 수 있다. 따라서, 사용자 단말은 콘텍스트 정보 영역과 콘텐츠 정보의 그래픽 오브젝트 영역이 임계 비율이상 중복되지 않도록 증강현실 정보(561)를 출력할 수 있다. 예시적으로, 사용자 단말은 중요도 맵에서 콘텍스트 정보와 인접한 영역 중 중요도가 가장 낮은 영역에 해당 콘텍스트 정보에 대한 증강현실 콘텐츠 정보를 출력할 수 있다.
도 6은 일실시예에 따라 텍스트 정보에서 우선 순위를 결정하는 것을 도시한 것이다.
서버의 프로세서는 콘텍스트 정보 중 텍스트 정보의 검색 우선 순위를 결정할 수 있다. 일실시예에 따르면, 서버의 프로세서는 텍스트 크기에 기초하여 텍스트 정보의 우선 순위를 결정할 수 있다. 프로세서는 적어도 하나의 텍스트 정보 중 이미지에서 가장 크게 인식된 텍스트 정보를 적어도 하나의 텍스트 정보 중 가장 높은 검색 우선 순위로 결정할 수 있다.
사용자 단말로부터 수신된 기본 이미지(600)의 적어도 하나의 텍스트 정보 중 가장 크기가 큰 텍스트(610)에 관한 텍스트 정보에 가장 높은 검색 우선 순위를 부여할 수 있다. 아울러, 프로세서는 텍스트 타입에 기초하여 검색 우선 순위를 부여할 수 있다. 예시적으로, 프로세서는 복수의 텍스트 정보들 중 미리 지정된 글씨체의 텍스트 정보를 가장 크기가 큰 텍스트(610)의 다음 검색 우선 순위로 결정할 수 있다. 미리 지정된 글씨체는 볼드체 또는 이텔릭체일 수 있다.
도 7은 일실시예에 따른 홀로포테이션 데이터의 전송 우선 순위를 도시한 것이다.
일실시예에 따르면, 프로세서는 사용자 정의에 기초하여 검색 데이터를 분할할 수 있다. 예시적으로, 프로세서는 검색 데이터의 크기와 사용자 단말의 네트워크 상태에 따라 검색 데이터를 분할할 수 있다. 프로세서는 분할된 검색 데이터를 전송 우선 순위 순서대로 사용자 단말로 송신할 수 있다.
예시적으로, 서버의 프로세서는 홀로포테이션(holoportation) 데이터를 서버로부터 사용자 단말로 송신할 수 있다. 홀로포테이션 데이터는 사람의 움직임을 실시간으로 증강현실 디스플레이부에 출력하여 증강현실 콘텐츠 정보를 사용자에게 제공하기 위한 데이터일 수 있다. 서버의 프로세서는 홀로포테이션 데이터를 일정 크기로 압축하거나 샘플링하여, 전송 우선 순위에 따라 순차적으로 사용자 단말로 송신할 수 있다. 예시적으로, 홀로포테이션 데이터 중 인물에 대한 볼륨 데이터(volume data)가 홀로포테이션 데이터 중 가장 높은 전송 우선 순위로 사용자 단말로 송신되어 사용자 단말은 기본 이미지(710)로부터 인물 콘텐츠 정보가 구현된 이미지(720)를 사용자에게 제공할 수 있다. 그 후, 서버는 홀로포테이션 데이터 중 부피가 큰 순서로 홀로포테이션 데이터를 사용자 단말로 송신하여 사용자 단말은 부피가 큰 홀로포테이션 데이터가 구현된 이미지(730)을 사용자에게 제공할 수 있다.
도 8은 일실시예에 따른 인체 3D 모델 데이터의 전송 우선 순위를 도시한 것이다.
서버의 프로세서는 인체 3D 모델 데이터를 서버로부터 사용자 단말로 송신할 수 있다. 프로세서는 인체 3D 모델 데이터를 일정 크기로 압축하거나 샘플링하여 전송 우선 순위에 따라 순차적으로 사용자 단말로 송신할 수 있다. 예시적으로, 프로세서는 인체 3D 모델 데이터 중 신체 가장 안쪽의 뼈에 관한 데이터(810)부터 내장에 관한 데이터(820), 혈관 및 신경에 관한 데이터(830), 지방 및 근육에 관한 데이터(840), 마지막 피부에 관한 데이터(850) 순서로 전송 우선 순위를 결정할 수 있다. 다른 일실시예에 따르면, 프로세서는 골격, 외곽선 정보에 가장 높은 전송 우선 순위를 결정하고, 명암등의 부가적인 정보를 가장 낮은 중요도로 결정할 수 있다.
도 9는 일실시예에 따른 그래프 데이터의 전송 우선 순위를 도시한 것이다.
서버의 프로세서는 그래프 데이터를 서버로부터 사용자 단말로 송신할 수 있다. 그래프 데이터는 예시적으로, 타임라인 그래프일 수 있고, 그래프 데이터는 복수의 점들을 선형적으로 연결하여 구성된 데이터일 수 있다. 서버의 프로세서는 그래프 데이터를 일정 크기로 압축하거나 샘플링하여 전송 우선 순위에 따라 순차적으로 사용자 단말로 송신할 수 있다. 서버의 프로세서는 전송 우선 순위에 따라 설정된 포인트들 또는 포인트들을 선형적으로 연결한 그래프 데이터를 사용자 단말로 전송할 수 있고, 사용자 단말은 포인트들을 선형적으로 연결한 그래프 데이터를 콘텐츠 정보로 사용자에게 제공할 수 있다. 예시적으로, 서버의 프로세서는 전송 우선 순위의 상위 N개(N은 자연수)의 포인트들을 선형적으로 연결한 그래프 데이터(910)를 사용자 단말로 전송할 수 있다. 그 후, 서버의 프로세서는 N보다 큰 개수의 포인트들을 선형적으로 연결한 그래프 데이터(920, 930)를 사용자 단말로 전송할 수 있다. 따라서, 사용자 단말은 검색 데이터의 크기가 크거나 사용자 단말과의 네트워크 상태가 불량한 경우, 대략적인 그래프를 사용자에게 제공할 수 있고, 검색 데이터를 추가적으로 전송받거나 네트워크 상태가 양호해진 경우, 상세한 그래프를 사용자에게 제공할 수 있다.
도 10은 일실시예에 따른 분포 그래프 데이터의 전송 우선 순위를 도시한 것이다.
서버의 프로세서는 히트맵(heat map) 데이터를 서버로부터 사용자 단말로 송신할 수 있다. 히트맵 데이터는 색상으로 표현할 수 있는 다양한 정보를 일정한 이미지위에 열분포 형태로 시각화한 그래프 데이터일 수 있다. 예시적으로, 히트맵 데이터는 일정 지역의 미세먼지 농도를 시각화하기 위해 열분포도 형태로 제공되는 데이터일 수 있다. 서버의 프로세서는 히트맵 데이터를 일정 크기로 압축하거나 샘플링하여 전송 우선 순위에 따라 순차적으로 사용자 단말로 송신할 수 있다. 프로세서는 히트맵 데이터 중 값이 큰 부분부터 값이 낮은 부분으로 전송 우선 순위를 설정할 수 있다. 예시적으로, 서버의 프로세서는 히트맵 데이터 중 제1 범위에 속하는 값을 갖는 데이터(1010)를 먼저 사용자 단말로 전송할 수 있고, 제1 범위를 포함하는 제2 범위에 속하는 값을 갖는 데이터(1020) 및 제2 범위를 포함하는 제3 범위에 속하는 값을 갖는 테이터(1030)를 순차적으로 사용자 단말로 전송할 수 있다.
도 11은 일실시예에 따른 사물 정보에 관한 데이터의 전송 우선 순위를 도시한 것이다.
서버의 프로세서는 이미지 데이터를 서버로부터 사용자 단말로 송신할 수 있다. 이미지 데이터는 복수개의 객체 정보를 포함할 수 있는데, 프로세서는 복수의 객체 정보의 중요도에 기초하여 객체 정보들의 우선 순위를 결정할 수 있다. 예시적으로, 이미지 데이터가 꽃이 포함된 이미지인 경우, 서버는 꽃송이에 관한 이미지 데이터(1110)를 우선적으로 사용자 단말로 송신할 수 있고, 줄기가 추가된 이미지 데이터(1120) 및 배경이 추가된 이미지 데이터(1130)를 순차적으로 사용자 단말로 송신할 수 있다.
검색 데이터가 비디오 데이터인 경우, 서버의 프로세서는 비디오 데이터를 압축하거나 샘플링하고, 비디오 데이터의 픽셀 성분에 기초하여 전송 우선 순위를 결정할 수 있다. 예시적으로, 프로세서는 비디오 데이터의 픽셀의 크기를 조절하여 해상도를 조절할 수 있고, 서버는 사용자 단말로 저해상도 영상 데이터부터 전송하고, 점진적으로 해상도를 높여 고해상도 영상을 송신할 수 있다.
도 12는 일실시예에 따라 콘텍스트 정보에 대한 복합 데이터의 전송 우선 순위를 도시한 것이다.
서버의 프로세서는 사용자 단말로부터 입력 데이터를 수신하고, 이미지 내 복수의 객체 정보에 관한 검색 데이터를 요청할 수 있다. 예시적으로, 사용자 단말은 특정 지역의 미세먼지 농도를 출력하여 사용자에게 제공할 수 있다. 이 때, 서버는 사용자 단말로부터 이미지 정보를 포함한 입력 데이터를 수신하고, 사용자 위치 정보 및 방향 정보에 기초하여 사용자가 바라보고 있는 지역의 미세먼지 농도를 사용자 단말로 송신하여 사용자에게 제공할 수 있다.
서버의 프로세서는 사용자가 바라보고 있는 방향의 지역 정보를 획득할 수 있고, 이에 기초하여 해당 지역 정보의 미세먼지 농도 및 세부 지역에 관한 미세먼지 농도에 관한 검색 데이터를 검색 엔진에 요청할 수 있다. 서버는 검색 데이터를 사용자 단말에 전송 우선 순위에 기초하여 송신할 수 있다.
먼저, 서버는 사용자 단말로 사용자가 바라보고 있는 방향의 지역 정보를 우선 송신하여, 사용자 단말은 지역 정보가 포함된 증강현실 콘텐츠(1210)를 사용자에게 제공할 수 있다. 예시적으로, 사용자가 바라보고 있는 방향에는 서울, 대전, 및 인천이 있을 수 있고, 사용자 단말의 프로세서는 위치 마커(Location marker)로 서울, 대전, 인천의 위치와 방향, 거리를 사용자에게 제공할 수 있다. 위치 마커는 현재 사용자가 바라보고 있는 방향을 기준으로 현 위치에서 가장 가까운 광역시, 특별시, 기타 시/도 순으로 사용자에게 제공되는 콘텐츠 정보일 수 있다.
그 후, 서버는 해당 지역의 미세먼지 농도를 다음 전송 우선 순위로 송신하고, 사용자 단말은 해당 지역 정보에 미세먼지 농도가 표시된 증강현실 콘텐츠(1220)를 사용자에게 제공할 수 있다. 예시적으로, 서울의 미세먼지 농도는 28
Figure pat00001
, 대전의 미세먼지 농도는 30
Figure pat00002
, 인천의 미세먼지 농도는 22
Figure pat00003
일 수 있다.
복수의 지역의 미세먼지 농도를 출력한 프로세서는 복수의 지역 중 하나의 지역의 세부 미세먼지 농도를 사용자에게 제공할 수 있다. 세부 미세먼지 농도를 사용자에게 제공하기 위해 서버의 프로세서는 해당 지역 지도를 사용자 단말에 송신하고, 사용자 단말은 해당 지역 지도를 포함한 증강현실 콘텐츠(1230)를 사용자에게 제공할 수 있다. 예시적으로, 해당 지역 지도는 서울의 지도일 수 있다.
그 후, 서버는 해당 지역의 세부 미세먼지 농도를 제공하기 위해 미세먼지 농도에 대해 범위를 나누어 사용자 단말로 제공할 수 있다. 세부 미세먼지 농도를 제공하기 위해 히트맵 데이터를 사용자 단말로 송신할 수 있으며, 히트맵 데이터는 색상으로 표현할 수 있는 다양한 정보를 일정한 이미지위에 열분포 형태로 시각화한 그래프 데이터일 수 있다. 히트맵 데이터를 포함한 증강현실 콘텐츠(1240, 1250, 1260)가 전송 우선 순위에 따라 송신되는 것은 도 10에서 설명하였으므로, 자세한 설명은 생략한다.
다른 일실시예에 따르면, 사용자가 부동산 매매 전단지를 보고 있는 경우, 매매 전단지 객체 정보가 포함된 이미지를 서버가 수신하고, 서버의 프로세서는 문자를 인식하여 해당 지역 및 해당 건물의 최근 거래 가격 및 과거 실거래가에 대한 변동 추이를 보여주는 차트를 보여줄 수 있다. 이 때 차트는 샘플링된 데이터 포인트로 먼저 출력될 수 있고, 점진적으로 완성된 형태의 차트로 출력될 수 있다. 차트 그래프의 전송 우선 순위는 도 9에서 상술하였으므로, 상세한 설명은 생략한다.
도 13은 일실시예에 따라 사용자 단말이 콘텍스트 정보에 대한 검색 데이터를 수신하여 증강현실 콘텐츠가 출력된 것을 도시한 것이다.
일실시예에 따르면, 서버(1320)의 프로세서는 사용자 단말(1310)로부터 표지판 정보(1311)가 포함된 이미지 정보(1330)를 수신할 수 있다. 서버(1320)의 프로세서는 표지판의 사물 정보 및 텍스트 정보를 추출하고, 표지판의 지명 정보 텍스트에 대해 검색 엔진에 검색 데이터를 요청할 수 있다. 서버(1320)가 검색 엔진으로부터 기본 검색, 뉴스 검색, 비디오 검색한 결과로 검색 데이터를 수신하면, 서버(1320)의 프로세서는 해당 검색 데이터를 인코딩하여 사용자 단말(1310)로 송신할 수 있다. 사용자 단말(1310)은 수신한 검색 데이터(1340)에 기초하여 증강현실 콘텐츠(1312, 1313)를 사용자에게 제공할 수 있다.
도 14는 일실시예에 따라 시스템이 사용자에게 증강현실 정보를 제공하는 방법을 도시한 흐름도이다.
일실시예에 따르면, 사용자 단말, 서버, 및 캐시 데이터가 포함된 증강현실 정보 제공 시스템이 사용자에게 증강현실 정보를 제공할 수 있다. 단계(1410)에 따르면, 사용자 단말이 서버로 입력데이터를 송신하여, 서버가 수신할 수 있고, 단계(1420) 내지 단계(1430)에서 서버는 콘텍스트 정보를 추출하여 검색 데이터를 요청할 수 있다. 단계(1440)에서 서버는 사용자 단말로 검색 데이터를 송신하여, 사용자 단말이 검색 데이터를 수신할 수 있다. 검색 데이터를 수신한 사용자 단말은 단계(1450)에서, 프로세서를 이용하여 증강현실 콘텐츠를 생성하여 사용자에게 제공할 수 있다.
도 15는 일실시예에 따른 증강현실 정보를 제공하는 시스템의 대략적인 구성을 도시한 블록도이다.
증강현실 정보를 제공하는 시스템은 적어도 증강현실을 구현하는 사용자 단말(1500)과 서버(1510)를 포함할 수 있다. 사용자 단말(1500)과 서버(1510)는 프로세서, 메모리, 및 통신부를 포함할 수 있다. 사용자 단말(1500)과 서버(1510)는 각각의 통신부(1503, 1513)를 통해 상호간의 통신을 수립할 수 있다.
사용자 단말의 프로세서(1501)는 이미지 정보가 포함된 입력 데이터를 생성하고, 서버(1510)로부터 수신한 검색 데이터에 기초하여 증강현실 콘텐츠를 출력할 수 있다. 사용자 단말의 메모리(1502)는 적어도 일시적으로 이미지 정보를 포함한 입력 데이터, 및 검색 데이터를 저장할 수 있다.
서버의 프로세서(1511)는 사용자 단말(1500)로부터 수신한 입력 데이터로부터 적어도 하나의 콘텍스트 정보를 추출하며, 콘텍스트 정보의 검색 우선 순위 순서로 콘텍스트 정보에 대한 검색 데이터를 요청할 수 있다. 서버의 메모리(1512)는 적어도 일시적으로 입력 데이터 및 검색 데이터를 저장할 수 있다.
이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

Claims (18)

  1. 서버가 사용자에게 증강현실 정보를 제공하는 방법에 있어서,
    사용자 단말의 주변 장면에 관한 이미지 정보를 포함하는 입력 데이터를 수신하는 단계;
    상기 이미지 정보로부터 적어도 하나의 콘텍스트(Context) 정보를 추출하는 단계;
    상기 추출된 콘텍스트 정보에 대한 검색 데이터를 검색 우선 순위에 따라 요청하는 단계; 및
    상기 검색 데이터를 획득하는 경우에 응답하여, 상기 콘텍스트 정보에 대한 상기 검색 데이터를 상기 사용자 단말로 송신하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  2. 제1항에 있어서,
    상기 콘텍스트 정보는,
    상기 이미지 내의 사물 및 텍스트에 연관된 사물 정보 및 텍스트 정보를 포함하는,
    증강현실 정보 제공 방법.
  3. 제2항에 있어서,
    상기 검색 우선 순위는,
    상기 텍스트 정보의 검색 우선 순위가 상기 사물 정보의 검색 우선 순위보다 높게 설정된,
    증강현실 정보 제공 방법.
  4. 제3항에 있어서,
    상기 검색 데이터를 요청하는 단계는,
    적어도 하나의 상기 사물 정보 중 이미지에서 사물의 크기에 기초하여 사물 정보에 대한 검색 우선 순위를 결정하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  5. 제3항에 있어서,
    상기 검색 데이터를 요청하는 단계는,
    적어도 하나의 상기 텍스트 정보 중 이미지에서 텍스트 크기에 기초하여 텍스트 정보에 대한 검색 우선 순위로 결정하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  6. 제3항에 있어서,
    상기 검색 데이터를 요청하는 단계는,
    상기 텍스트 정보의 텍스트 종류에 기초하여 텍스트 정보에 대한 검색 우선 순위를 결정하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  7. 제2항에 있어서,
    상기 콘텍스트 정보를 추출하는 단계는,
    상기 이미지 정보로부터 엣지 맵(edge map)과 특징 맵(saliency map)을 추출하는 단계를 포함하고,
    상기 검색 데이터를 요청하는 단계는,
    상기 특징 맵에 기초한 중요도 맵(importance map)으로부터 상기 사물 정보에 대한 검색 우선 순위를 결정하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  8. 제1항에 있어서,
    상기 송신하는 단계는,
    데이터베이스에 상기 콘텍스트 정보 및 상기 콘텍스트 정보에 대해 검색된 검색 데이터를 저장하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  9. 제8항에 있어서,
    상기 송신하는 단계는,
    상기 콘텍스트 정보가 상기 데이터베이스에 저장된 콘텍스트 정보와 중복된 중복 콘텍스트 정보인 경우, 상기 데이터베이스에 저장된 중복 콘텍스트 정보에 대한 검색 데이터를 상기 사용자 단말로 송신하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  10. 제1항에 있어서,
    상기 송신하는 단계는,
    상기 검색 데이터의 크기와 상기 사용자 단말의 네트워크 상태에 따라 상기 검색 데이터를 분할하는 단계; 및
    분할된 검색 데이터를 전송 우선 순위 순서에 따라 상기 사용자 단말로 송신하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  11. 제10항에 있어서,
    상기 분할하는 단계는,
    상기 검색 데이터를 압축하고, 샘플링하는 단계
    를 포함하고,
    상기 분할된 검색 데이터를 송신하는 단계는,
    다중 분할, 전송, 병합 방법에 기초하여 상기 분할된 검색 데이터를 송신하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  12. 제10항에 있어서,
    상기 검색 데이터가 상기 사용자 단말에 구현되는 구현 방식에 따라 상기 전송 우선 순위를 구분하여 결정하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  13. 적어도 하나의 프로세서에 의해 사용자에게 증강현실 정보를 제공하는 방법에 있어서,
    사용자 단말로부터 서버로 사용자 단말의 주변 장면에 관한 이미지 정보가 포함된 입력 데이터를 송신하는 단계;
    상기 이미지 정보로부터 적어도 하나의 콘텍스트(Context) 정보를 추출하는 단계;
    상기 추출된 콘텍스트 정보에 대한 검색 데이터를 검색 우선 순위에 따라 요청하는 단계;
    상기 검색 데이터를 획득하는 경우에 응답하여, 상기 콘텍스트 정보에 대한 상기 검색 데이터를 상기 서버로부터 상기 사용자 단말로 송신하는 단계; 및
    상기 검색 데이터에 기초하여 상기 사용자 단말에 증강현실 콘텐츠를 출력하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  14. 제13항에 있어서,
    상기 입력 데이터를 송신하는 단계는,
    상기 사용자 단말에 포함된 센서에 의해 감지된 사용자 움직임 센싱 값에 기초하여 상기 서버로 상기 입력 데이터를 송신할지 여부를 판단하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  15. 제14항에 있어서,
    상기 데이터를 송신할지 여부를 판단하는 단계는,
    상기 사용자 움직임 센싱 값이 미리 지정된 임계치 이하인 경우, 상기 서버로 상기 입력 데이터를 송신하는 것으로 판단하는 단계
    를 포함하는 증강현실 정보 제공 방법.
  16. 제1항 내지 제15항 중 어느 한 항의 방법을 수행하기 위한 명령어들을 포함하는 하나 이상의 컴퓨터 프로그램을 저장한 컴퓨터 판독 가능 기록 매체.
  17. 사용자 단말로부터 이미지 정보가 포함된 입력 데이터를 수신하고, 콘텍스트 정보에 대한 검색 데이터를 상기 사용자 단말로 순차적으로 송신하는 통신부; 및
    상기 이미지 정보에 포함된 적어도 하나의 상기 콘텍스트 정보를 추출하며, 상기 콘텍스트 정보의 검색 우선 순위 순서로 상기 콘텍스트 정보에 대한 검색 데이터를 요청하는 프로세서
    를 포함하는 증강현실 정보 제공 서버.
  18. 서버로 이미지 정보가 포함된 입력 데이터를 송신하고, 상기 이미지 정보에 포함된 적어도 하나의 콘텍스트 정보에 대한 검색 데이터를 상기 서버로부터 수신하고, 상기 검색 데이터에 기초하여 증강현실 콘텐츠를 출력하는 사용자 단말; 및
    상기 이미지 정보로부터 적어도 하나의 콘텍스트 정보를 추출하고, 상기 추출된 콘텍스트 정보에 대한 검색 데이터를 검색 우선 순위에 따라 요청하며, 상기 검색 데이터를 획득하는 경우에 응답하여, 상기 콘텍스트 정보에 대한 상기 검색 데이터를 상기 서버로부터 상기 사용자 단말로 송신하는 서버
    를 포함하는 증강현실 정보 제공 시스템.
KR1020190155582A 2019-11-28 2019-11-28 우선 순위에 기초하여 저지연 증강현실 정보를 제공하는 방법, 장치, 및 시스템 KR102263633B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190155582A KR102263633B1 (ko) 2019-11-28 2019-11-28 우선 순위에 기초하여 저지연 증강현실 정보를 제공하는 방법, 장치, 및 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190155582A KR102263633B1 (ko) 2019-11-28 2019-11-28 우선 순위에 기초하여 저지연 증강현실 정보를 제공하는 방법, 장치, 및 시스템

Publications (2)

Publication Number Publication Date
KR20210066391A true KR20210066391A (ko) 2021-06-07
KR102263633B1 KR102263633B1 (ko) 2021-06-10

Family

ID=76374597

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190155582A KR102263633B1 (ko) 2019-11-28 2019-11-28 우선 순위에 기초하여 저지연 증강현실 정보를 제공하는 방법, 장치, 및 시스템

Country Status (1)

Country Link
KR (1) KR102263633B1 (ko)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060077988A (ko) * 2004-12-30 2006-07-05 삼성전자주식회사 멀티미디어 통신 시스템에서 컨텍스트 추출 및 이를 통한정보 제공 시스템 및 방법
KR20110012514A (ko) 2009-07-30 2011-02-09 에스케이 텔레콤주식회사 영상 특징을 이용한 증강 현실 제공 방법과 그를 위한 서버 및 휴대용 단말기
KR20120005735A (ko) * 2010-07-09 2012-01-17 한국과학기술원 증강 현실에서 위치 정보를 표시하는 방법 및 장치
KR20140089675A (ko) * 2013-01-04 2014-07-16 삼성전자주식회사 이미지 검색 서버, 이미지 검색 서비스 제공 단말, 시스템 및 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060077988A (ko) * 2004-12-30 2006-07-05 삼성전자주식회사 멀티미디어 통신 시스템에서 컨텍스트 추출 및 이를 통한정보 제공 시스템 및 방법
KR20110012514A (ko) 2009-07-30 2011-02-09 에스케이 텔레콤주식회사 영상 특징을 이용한 증강 현실 제공 방법과 그를 위한 서버 및 휴대용 단말기
KR20120005735A (ko) * 2010-07-09 2012-01-17 한국과학기술원 증강 현실에서 위치 정보를 표시하는 방법 및 장치
KR20140089675A (ko) * 2013-01-04 2014-07-16 삼성전자주식회사 이미지 검색 서버, 이미지 검색 서비스 제공 단말, 시스템 및 방법

Also Published As

Publication number Publication date
KR102263633B1 (ko) 2021-06-10

Similar Documents

Publication Publication Date Title
TWI773189B (zh) 基於人工智慧的物體檢測方法、裝置、設備及儲存媒體
US11244208B2 (en) Two-dimensional document processing
US20210264599A1 (en) Deep learning based medical image detection method and related device
CN105027162B (zh) 图像解析装置、图像解析系统、图像解析方法
US20210358170A1 (en) Determining camera parameters from a single digital image
US8031947B2 (en) Method and system for rapid matching of video streams
AU2018202767B2 (en) Data structure and algorithm for tag less search and svg retrieval
EP4150556A1 (en) Image super-resolution
KR101996371B1 (ko) 영상 캡션 생성 시스템과 방법 및 이를 위한 컴퓨터 프로그램
CA3119249C (en) Querying semantic data from unstructured documents
JP2023527615A (ja) 目標対象検出モデルのトレーニング方法、目標対象検出方法、機器、電子機器、記憶媒体及びコンピュータプログラム
CN111741329B (zh) 一种视频处理方法、装置、设备及存储介质
CN114511661A (zh) 图像渲染方法、装置、电子设备及存储介质
JP2022185144A (ja) 対象検出方法、対象検出モデルのレーニング方法および装置
CN113343981A (zh) 一种视觉特征增强的字符识别方法、装置和设备
CN112486338A (zh) 医疗信息处理方法、装置及电子设备
JP2022185143A (ja) テキスト検出方法、テキスト認識方法及び装置
CN112101344A (zh) 一种视频文本跟踪方法及装置
CN116415020A (zh) 一种图像检索的方法、装置、电子设备及存储介质
CN114332484A (zh) 关键点检测方法、装置、计算机设备和存储介质
KR102263633B1 (ko) 우선 순위에 기초하여 저지연 증강현실 정보를 제공하는 방법, 장치, 및 시스템
CN112884702A (zh) 一种基于内窥镜图像的息肉识别系统和方法
KR101768913B1 (ko) 지리 정보 데이터 분할 방법, 분할 장치 및 이를 수행하는 프로그램을 기록하는 기록매체
KR20220124273A (ko) 동적 제스처 인식 방법, 장치, 기기 및 저장 매체
JP2018137639A (ja) 動画像処理システム、並びに、符号化装置及びプログラム、並びに、復号装置及びプログラム

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant