KR20140017527A - 화상 처리 장치, 표시 제어 방법 및 프로그램 - Google Patents

화상 처리 장치, 표시 제어 방법 및 프로그램 Download PDF

Info

Publication number
KR20140017527A
KR20140017527A KR1020137019062A KR20137019062A KR20140017527A KR 20140017527 A KR20140017527 A KR 20140017527A KR 1020137019062 A KR1020137019062 A KR 1020137019062A KR 20137019062 A KR20137019062 A KR 20137019062A KR 20140017527 A KR20140017527 A KR 20140017527A
Authority
KR
South Korea
Prior art keywords
display
virtual object
stability
image
real object
Prior art date
Application number
KR1020137019062A
Other languages
English (en)
Inventor
?이치 가사하라
Original Assignee
소니 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 소니 주식회사 filed Critical 소니 주식회사
Publication of KR20140017527A publication Critical patent/KR20140017527A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/61—Control of cameras or camera modules based on recognised objects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/634—Warning indications
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)

Abstract

본 발명의 특징은 화상 내의 실제 물체를 인식하도록 구성된 인식부를 포함하는 장치를 포함한다. 이 장치는 상기 인식의 안정도를 나타내는 안정도 표시자를 판정하도록 구성된 결정부, 및 상기 안정도 표시자에 따라 가상 물체의 표시를 변화시키도록 구성된 표시 제어부를 더 포함할 수 있다.

Description

화상 처리 장치, 표시 제어 방법 및 프로그램{IMAGE PROCESSING APPARATUS, DISPLAY CONTROL METHOD AND PROGRAM}
본 발명은 화상 처리 장치, 표시 제어 방법, 및 프로그램에 관한 것이다.
최근, 실세계에 부가적인 정보를 중첩해서 유저에 제시하는 확장 현실(AR: Augmented Reality)이라고 불리는 기술이 주목받고 있다. AR 기술에 있어서, 유저에 제시되는 정보는 "어노테이션(annotations)"이라고도 불리고, 텍스트, 아이콘, 또는 애니메이션 등의 다양한 형태의 가상 물체를 사용해서 가시화될 수 있다. 일반적인 AR 어플리케이션에서는, 가상 물체는 실제 물체(예를 들어, 실세계의 화상 내에서 인식될 수 있는 실세계에 존재하는 물체)의 위치에 맞춰서 배치된다. 또한, 실제 물체의 위치뿐만 아니라 실제 물체의 자세에 맞춰서 가상 물체를 AR 공간 내에 배치할 수 있는 어플리케이션도 존재한다. 예를 들어, 하기 특허 문헌 1은 가상 물체의 위치 정렬의 정밀도의 저하를 억제할 수 있는 기술을 제안하고 있다.
[인용 문헌]
[특허 문헌]
[특허 문헌 1] 일본 특허 공개 제2010-134649호 공보
그러나, 화상에 비치는 실세계의 실제 물체의 위치 또는 자세의 인식을 항상 높은 정밀도로 행하는 것은 곤란하다. 즉, 실세계의 실제 물체에 가상 물체의 위치 또는 자세를 맞추고자 하는 경우, 인식의 정밀도의 일시적인 저하로 인해 가상 물체의 표시가 흐트러질 가능성이 있다. 특히, 인식이 불안정해질 경우에, 가상 물체의 표시를 적절하게 제어하여 가상 물체의 표시의 혼란에 의해 유저에 혼란을 부여하지 않는 것이 바람직하다.
이상 설명한 바와 같이, 본 개시에 따르면, 가상 물체의 표시의 혼란에 의해 유저에 혼란을 부여하는 것을 피할 수 있다.
개시된 실시 형태는 화상 내의 실제 물체를 인식하도록 구성된 인식부를 포함하는 장치를 포함한다. 이 장치는 상기 인식의 안정도를 나타내는 안정도 표시자를 판정하도록 구성된 판정부, 및 상기 안정도 표시자에 따라 가상 물체의 표시를 변화시키도록 구성된 표시 제어부를 더 포함할 수 있다.
개시된 실시 형태는 화상 내의 실제 물체를 인식하는 단계를 포함하는 방법을 포함한다. 이 방법은 상기 인식의 안정도를 나타내는 안정도 표시자를 판정하는 단계, 및 상기 안정도 표시자에 따라 가상 물체의 표시를 변화시키는 단계를 더 포함할 수 있다.
개시된 실시 형태는 프로세서에 의해 실행될 때, 화상 내의 실제 물체를 인식하는 단계를 포함하는 방법을 실행하는 명령어를 기억한 실재적으로 실시되는 비일시적인 컴퓨터 판독가능 매체를 더 포함한다. 이 방법은 상기 인식의 안정도를 나타내는 안정도 표시자를 판정하는 단계, 및 상기 안정도 표시자에 따라 가상 물체의 표시를 변화시키는 단계를 더 포함할 수 있다.
도 1은 실시 형태에 따른 화상 처리 장치의 개요를 설명하기 위한 도면.
도 2는 가상 물체의 배치를 설명하기 위한 도면.
도 3은 가상 물체의 배치에 관련한 문제점을 설명하기 위한 도면.
도 4는 실시 형태에 따른 화상 처리 장치의 하드웨어 구성의 일례를 나타내는 블록도.
도 5는 실시 형태에 따른 화상 처리 장치의 논리적 기능의 구성의 일례를 나타내는 블록도.
도 6은 실시 형태에 있어서 인식되는 실제 물체의 상태량을 설명하기 위한 도면.
도 7은 인식의 안정도를 판정하기 위한 판정 방법의 제1 예를 설명하기 위한 도면.
도 8은 인식의 안정도를 판정하기 위한 판정 방법의 제2 예를 설명하기 위한 도면.
도 9는 인식의 안정도를 판정하기 위한 판정 방법의 제3 예를 설명하기 위한 도면.
도 10은 인식의 안정도를 판정하기 위한 판정 방법의 제4 예를 설명하기 위한 도면.
도 11은 인식의 안정도를 판정하기 위한 판정 방법의 제5 예를 설명하기 위한 도면.
도 12는 가상 물체의 실제 물체에의 추종의 페이스의 제어의 일례를 설명하기 위한 도면.
도 13은 가상 물체의 선명도의 제어를 설명하기 위한 도면.
도 14는 가상 물체의 투명도의 제어를 설명하기 위한 도면.
도 15는 안정도를 높이기 위한 행동을 유저에 촉구하는 표시의 일례를 설명하기 위한 도면.
도 16은 실시 형태에 따른 표시 제어 처리의 흐름의 일례를 나타내는 흐름도.
이하에, 첨부 도면을 참조하면서 본 개시의 적합한 실시 형태에 대해서 상세하게 설명한다. 본 명세서 및 첨부 도면에 있어서, 실질적으로 동일한 기능 구성을 갖는 구성 요소에 대해서는 동일한 번호를 부여하고, 중복 설명을 생략한다는 점에 주목한다.
이하의 순서로 설명을 행한다.
1. 개요
2. 실시 형태에 따른 화상 처리 장치의 하드웨어 구성예
3. 실시 형태에 따른 화상 처리 장치의 기능 구성예
3-1. 화상 취득부
3-2. 화상 인식부
3-3. 검출부
3-4. 판정부
3-5. 데이터 취득부
3-6. 표시 제어부
4. 실시 형태에 따른 표시 제어 처리의 흐름
5. 정리
1. 개요
도 1은 본 명세서에서 개시하는 기술의 실시 형태의 개요를 설명하기 위한 도면이다. 도 1을 참조하면, 실공간(1) 내에서 유저가 휴대하고 있는 화상 처리 장치(100)가 도시된다.
화상 처리 장치(100)는 AR 어플리케이션을 유저에 제공하는 장치이다. 예를 들어, 화상 처리 장치(100)는 스마트폰, PDA(Personal Digital Assistant), 게임 단말기, 또는 휴대용 음악 플레이어 등의 단말 장치일 수 있거나, 또는 PC(Personal Computer) 또는 워크스테이션 등의 정보 처리 장치일 수 있다.
실공간(1)은 AR 어플리케이션이 이용될 수 있는 공간의 일례이다. 실공간(1) 내에는 실제 물체(12a, 12b, 12c, 12d, 및 12e)가 존재한다. 실공간(1) 및 실제 물체(12a, 12b, 12c, 12d, 및 12e)는 단지 예시라는 점을 이해하여야 한다. 각각에는 예시의 목적을 위한 형태 및 특징이 부여되지만, 이러한 특징은 임의적이고 제한하고자 하는 의미는 아니다. 실제 물체(12a)는 자동차이다. 실제 물체(12b)는 안내판이다. 실제 물체(12c)는 광고용의 간판이다. 실제 물체(12d 및 12e)는 건물이다. 화상 처리 장치(100)는 이러한 여러가지 실제 물체가 존재할 수 있는 실공간을 촬상한 화상을 입력 화상으로서 취득한다. 그리고, 화상 처리 장치(100)는 입력 화상에 비치는 실제 물체의 인식 결과에 기초하여 AR를 위한 가상 물체를 입력 화상에 중첩한다. 가상 물체를 통해서 유저에 제시되는 정보는 내비게이션 정보, 광고 정보, 점포 정보, 뉴스 또는 일기 예보 등, 임의의 정보일 수 있다. 본 실시 형태에 있어서, 화상 처리 장치(100)에 의해 제공되는 AR 어플리케이션은 실제 물체의 위치 또는 자세에 따라 실제 공간 내의 실제 물체에 관련한 가상 물체를 화상 내에 배치한다.
도 2는 가상 물체의 배치를 설명하기 위한 도면이다. 도 2의 좌측에 나타내는 화상 Im01은 화상 처리 장치(100)에 의해 취득되는 입력 화상의 일례이다. 입력 화상 Im01에는 실제 물체(12a 및 12b)가 비치고 있다. 도 2의 우측에는 입력 화상 Im01에 가상 물체를 중첩함으로써 생성되는 출력 화상 Im02이 나타나고 있다. 출력 화상 Im02에서는, 실제 물체(12a)에 가상 물체(13a)가 중첩되어 있고, 실제 물체(12b)에 가상 물체(13b 및 14b)가 중첩되어 있다. 가상 물체(13a 및 13b)는 화상 처리 장치(100)에 의한 실제 물체 인식의 결과를 표현하는 표식(표시자(indicator))으로서 역할을 한다. 한편, 가상 물체(14b)는 실제 물체(12b)에 관련한 정보(도 2의 예에서는 제품의 광고 정보)를 표현하는 정보 콘텐츠로서 역할을 한다. 본 명세서에 있어서, 가상 물체는 표식 및 정보 콘텐츠의 둘 다를 포함할 수 있다. 다르게는, 가상 물체는 표식 또는 정보 콘텐츠 중 하나를 포함할 수 있다.
도 2의 예에 있어서, 가상 물체(13a)는 실제 물체(12a)의 상태에 맞춰서 배치되어 있다. 가상 물체(13b 및 14b)는 실제 물체(12b)의 상태에 맞춰서 배치되어 있다. 이러한 가상 물체의 배치의 정확함은 화상에 비치는 실제 물체의 상태의 인식의 정밀도에 의존한다.
도 3은 가상 물체의 배치에 관련한 문제점을 설명하기 위한 도면이다. 도 3을 참조하면, 시각 t=n, 시각 t=n+1, 및 시각 t=n+2의 각 시점에 있어서 기존의 방법에 의해 표시될 수 있는 AR 어플리케이션의 출력 화상 Im02-1, Im02-2, Im02-3이 각각 나타나고 있다. 시각 t=n의 출력 화상 Im02-1에서는, 가상 물체(13a)의 배치는 실제 물체(12a)의 상태에 맞는다. 마찬가지로, 가상 물체(13b 및 14b)의 배치는 실제 물체(12b)의 상태에 맞는다. 그러나, 시각 t=n+1의 출력 화상 Im02-2에서는, 가상 물체(13a)의 배치가 실제 물체(12a)의 상태로부터 어긋나 있다. 또한, 시각 t=n+2의 출력 화상 Im02-3에서는, 가상 물체(13b 및 14b)의 배치가 실제 물체(12b)의 상태로부터 어긋나 있다. 이러한 어긋남은, 예를 들어, 실제 물체의 상태의 인식 정밀도의 저하에 의해 발생될 수 있다. 예를 들어, 인식 정밀도의 저하는 입력 화상 내의 실제 물체의 부분적인 결손, 화상의 흐림, 외관이 유사한 복수의 실제 물체의 존재, 또는 조명 조건의 변동 등, 다양한 사상에 의해 돌발적으로 발생될 수 있다. 특별히 준비되는 환경을 제외하면, 인식 정밀도의 저하를 발생시키는 원인을 완전히 배제하는 것은 곤란하다.
도 3에 예시한 가상 물체의 배치의 돌발적인 어긋남은 유저에 불쾌감을 부여할 뿐만 아니라 가상 물체에 의해 표현되는 정보의 시인성의 저하나 광고의 대상 제품의 인상의 악화 등 바람직하지 않은 결과를 초래할 수 있다. 예를 들어, 저역 통과 필터 또는 이동 평균 필터를 적용함으로써 가상 물체의 위치 또는 자세의 급격한 변화를 억제하는 방법도 존재한다. 그러나, 이들 필터를 적용할 때, 인식된 실제 물체에의 가상 물체의 추종이 지연될 수 있다. 이와 관련하여, 본 실시 형태에 따른 화상 처리 장치(100)는 다음 절에서 더 상세하게 설명하는 바와 같이, 인식의 정밀도가 어느 정도 안정되어 있는지를 판정하고, 그 판정 결과에 기초하여 가상 물체의 표시를 제어한다.
2. 실시 형태에 따른 화상 처리 장치의 하드웨어 구성예
2-1. 하드웨어 구성
도 4는 본 실시 형태에 따른 화상 처리 장치(100)의 하드웨어 구성의 일례를 나타내는 블록도이다. 도 4를 참조하면, 화상 처리 장치(100)는 촬상부(102), 센서부(104), 입력부(106), 기억부(108), 표시부(112), 통신부(114), 버스(118), 및 제어부(120)를 포함한다.
촬상부
촬상부(102)는 화상을 촬상하는 카메라 모듈을 포함할 수 있다. 촬상부(102)는 CCD(Charge Coupled Device) 또는 CMOS(Complementary Metal Oxide Semiconductor) 등의 촬상 소자를 사용해서 실공간을 촬상할 수 있고, 촬상 화상을 생성한다. 촬상부(102)에 의해 생성되는 촬상 화상은 영상 입력의 각 프레임을 구성할 수 있다.
센서부
센서부(104)는 촬상부(102)의 움직임을 계측하는 움직임 센서 군을 포함할 수 있다. 움직임 센서의 예는 촬상부(102)의 가속도를 측정하는 가속도 센서, 기울기 각을 측정하는 자이로 센서, 및 촬상부(102)가 향할 수 있는 방위를 측정하는 지자기 센서를 포함한다. 또한, 센서부(104)는 GPS(Global Positioning System) 신호를 수신해서 장치의 위도, 경도 및 고도를 측정하는 GPS 센서를 포함할 수 있다.
입력부
입력부(106)는 유저가 화상 처리 장치(100)를 조작하거나 또는 화상 처리 장치(100)에 정보를 입력하게 하는 입력 디바이스이다. 입력부(106)는 전형적으로 표시부(112)의 화면 상에 유저가 터치한 것을 검출하는 터치 센서를 포함한다. 터치 센서 대신에 (또는 그 외에), 입력부(106)는 마우스 또는 터치 패드 등의 포인팅 디바이스, 화상에 비치는 유저의 제스처를 인식하는 제스처 인식 모듈, 또는 HMD(Head Mounted Display)를 장착한 유저의 시선 방향을 검출하는 시선 검출 모듈을 포함할 수 있다. 또한, 입력부(106)는 키보드, 키패드, 버튼 또는 스위치 등의 기타 종류의 입력 디바이스를 포함할 수 있다.
기억부
기억부(108)는 반도체 메모리 또는 하드 디스크 등의 기억 매체로 구성되고, 화상 처리 장치(100)에 의한 처리를 행하기 위해 사용되는 프로그램 및 데이터를 기억한다. 기억부(108)에 기억되는 데이터의 예는 촬상부(102)에 의해 생성되는 화상 데이터 및 센서부(104)에 의해 생성되는 센서 데이터를 포함한다. 또한, 예를 들어, 기억부(108)에 의해 기억되는 데이터로서 화상 처리 장치(100)에 의한 실제 물체 인식 시에 사용할 수 있는 모델 데이터 및 가상 물체를 정의하는 오브젝트 데이터가 포함될 수 있다.
표시부
표시부(112)는 LCD(Liquid Crystal Display), OLED(Organic Light-Emitting Diode), 또는 CRT(Cathode Ray Tube) 등으로 구성되는 표시 모듈을 포함할 수 있다. 예를 들어, 표시부(112)는 촬상부(102)에 의해 촬상된 화상 또는 제어부(120)에 의해 실현되는 AR 어플리케이션의 화상을 화면 상에 표시한다. 표시부(112)는 유저에 의해 파지되는 화상 처리 장치(100)의 화면일 수 있고, 또는 유저에 의해 장착되는 쓰루형 또는 비쓰루형의 HMD일 수 있다.
통신부
통신부(114)는 화상 처리 장치(100)와 다른 장치 사이의 통신을 중개하는 통신 인터페이스를 포함할 수 있다. 통신부(114)는 임의의 무선 통신 프로토콜 또는 유선 통신 프로토콜을 서포트할 수 있고, 다른 장치와의 통신 접속을 확립한다.
버스
버스(118)는 촬상부(102), 센서부(104), 입력부(106), 기억부(108), 표시부 (112), 통신부(114), 및 제어부(120)를 서로 접속한다.
제어부
제어부(120)는 CPU(Central Processing Unit) 또는 DSP(Digital Signal Processor) 등의 프로세서를 포함할 수 있다. 제어부(120)는 기억부(108) 또는 다른 기억 매체에 기억되는 프로그램을 실행함으로써, 후에 설명하는 화상 처리 장치(100)의 여러가지 기능을 동작시킨다. 특히, 제어부(120)는 다른 것들 간에, 표시부(112)를 제어하는 표시 제어부를 포함할 수 있거나 또는 그에 접속될 수 있다.
3. 실시 형태에 따른 화상 처리 장치의 기능 구성예
도 5는 도 4에 도시한 화상 처리 장치(100)의 기억부(108) 및 제어부(120)에 의해 실현되는 논리적 기능의 구성의 일례를 나타내는 블록도이다. 도 5를 참조하면, 화상 처리 장치(100)는 화상 취득부(130), 모델 데이터베이스(DB)(138), 화상 인식부(140), 검출부(150), 판정부(160), 데이터 취득부(170), 오브젝트 DB(172), 및 표시 제어부(190)를 포함한다.
3-1. 화상 취득부
화상 취득부(130)는 실공간을 캡쳐하여 얻은 화상을 입력 화상으로서 취득한다. 예를 들어, 화상 취득부(130)는 촬상부(102)로부터의 영상 입력의 각 프레임을 입력 화상으로서 순차 취득할 수 있다. 화상 취득부(130)는 기억부(108)에 의해 기억되어 있는 과거에 촬상된 영상 입력의 각 프레임을 입력 화상으로서 취득할 수 있다. 화상 취득부(130)는 취득한 입력 화상을 화상 인식부(140)에 출력한다.
3-2. 화상 인식부
화상 인식부(140)(또는 "인식부")는 모델 DB(138)에 기억되어 있는 데이터를 사용해서 실제 물체 인식을 행할 수 있다. 모델 DB(138)에는, 화상 처리 장치(100)가 인식 대상으로 하는 실제 물체의 형상 또는 외관에 관한 모델 데이터가 미리 축적된다. 본 실시 형태에 있어서, 화상 처리 장치(100)에 의한 인식의 대상은 도 1에 도시한 실제 물체(12a 내지 12e) 등의, 실공간에 존재하는 임의의 실제 물체일 수 있다. 모델 데이터의 예는 각 실제 물체의 형상을 정의하는 데이터, 각 실제 물체에 붙여지는 소정의 심볼 마크 또는 텍스트 라벨 등의 화상 데이터, 및 각 실제 물체에 관한 기지의 화상으로부터 추출된 특징량 세트의 데이터를 포함한다.
화상 인식부(140)는 화상 취득부(130)로부터 입력되는 입력 화상에 어느 실제 물체가 비치고 있는지를 인식하고 입력 화상에 비치고 있는 실제 물체의 상태를 인식할 수 있다. 화상 인식부(140)에 의해 인식되는 실제 물체의 상태는 실제 물체의 위치 및 자세 중 적어도 하나를 포함할 수 있다. 본 실시 형태에서는, 화상 인식부(140)는 화상 내에서의 실제 물체의 위치, 자세, 및 크기를 인식한다. 예를 들어, 화상 인식부(140)는 입력 화상으로부터 추출되는 특징점의 세트를 모델 데이터에 의해 정의될 수 있는 실제 물체의 형상과 대조할 수 있다. 또한, 화상 인식부(140)는 모델 데이터에 의해 정의될 수 있는 심볼 마크 또는 텍스트 라벨 등의 화상 데이터를 입력 화상과 대조할 수 있다. 화상 인식부(140)는 모델 데이터에 의해 정의될 수 있는 기지의 실제 물체의 화상의 특징량을 입력 화상으로부터 추출되는 특징량과 대조할 수 있다. 상기 경우들 중 어느 경우에서도, 화상 인식부(140)는 소정의 임계값보다도 양호한 대조 스코어를 나타내는 실제 물체가 이 대조 스코어에 대응하는 위치, 자세, 및 크기에서 입력 화상에 비치고 있는 것으로 인식할 수 있다.
도 6은 본 실시 형태에 있어서 화상 인식부(140)에 의해 인식되는 실제 물체의 상태량을 설명하기 위한 도면이다. 도 6을 참조하면, 입력 화상을 촬상한 촬상 장치의 광축 방향과 직교하는 평면 상의 x축 및 y축, 및 이 광축 방향에 평행한 z축으로 형성되는 글로벌 좌표계가 나타나고 있다. 화상 인식부(140)에 의해 인식되는 실제 물체(12)의 위치 P는 이러한 글로벌 좌표계에서의 실제 물체의 기준점의 위치 좌표로서 부여된다. 실제 물체(12)의 자세 W는 각축 주위의 회전각으로서 부여된다. 실제 물체(12)의 크기 Sc는 각 축 방향에의 배율로서 부여된다. 본 명세서에서는, 설명의 간명함을 위해서, 각 실제 물체의 위치 P, 자세 W, 및 크기 Sc를 별개의 변량(상태량)으로서 설명한다. 그러나, 각 실제 물체의 위치 P, 자세 W, 및 크기 Sc는 예를 들어, 글로벌 좌표계와 각 실제 물체의 모델 좌표계 사이의 변환을 나타내는 4행 4열의 1개의 동차 변환 행렬에 의해 통합적으로 표현될 수 있다. 이 경우에는, 각 상태량(즉, 위치 P, 자세 W 및 크기 Sc의 각각)은 1개의 동차 변환 행렬로부터 필요에 따라서 추출되어, 사용된다. 글로벌 좌표계는 촬상 장치의 위치를 원점으로 하는 상대적인 좌표를 나타내는 좌표계일 수 있다. 다르게는, 글로벌 좌표계는 실공간 내에서 고정적으로 정의되는 절대적인 좌표를 나타내는 좌표계일 수 있다. 화상 인식부(140)는 이러한 입력 화상에 비치는 각 실제 물체의 식별자, 위치 P, 자세 W, 및 크기 Sc를 판정부(160), 데이터 취득부(170) 및 표시 제어부(190)에 출력한다.
3-3. 검출부
검출부(150)는 유저 입력을 검출하고, 유저 입력 정보를 표시 제어부(190)에 출력한다. 검출부(150)에 의해 검출되는 유저 입력의 예는 입력부(106)의 터치 센서에의 터치 입력, 버튼의 누름, 센서부(104)의 센서 군에 의해 측정되는 장치의 움직임(예를 들어, 기울기, 흔들림 등), 유저의 제스처, 및 유저의 음성을 포함한다.
3-4. 판정부
판정부(160)는 입력 화상에 비치는 실제 물체의 상태의 화상 인식부(140)에 의한 인식의 안정도를 판정할 수 있다. 판정부(160)에 의해 판정되는 안정도는 연속 값 또는 이산 값(예를 들어, 3 단계 이상의 단계적인 값 또는 "고" 및 "저"의 2치)으로 표현될 수 있다. 이하, 도 7 내지 도 11을 참조하여 판정부(160)에 의한 안정도의 판정 방법의 5개의 예에 대해서 설명한다.
(1) 제1 예
예를 들어, 화상 인식부(140)에 의한 인식이 불안정할 경우에는, 실제 물체의 상태량의 변화는 심하게 되는 경향이 있다. 따라서, 판정부(160)는 화상 인식부(140)에 의해 인식되는 실제 물체의 상태량의 시간적 변화에 기초하여 상기 안정도를 판정할 수 있다. 예를 들어, 실제 물체의 상태량의 시간적 변화는 실제 물체의 상태량의 주파수 특성, 상태량의 미분(또는 2차 미분) 또는 소정의 기간 내의 상태량의 이력과 상태량의 현재 값과의 비교를 통해서 파악될 수 있다.
도 7은 실제 물체의 상태량의 시간적 변화의 일례를 나타내고 있다. 도 7의 횡축은 시간 t, 종축은 상태량 X 및 그 1차 미분(dX/dt)이다. 상태량은 어떤 실제 물체에 관한 위치 P, 자세 W, 및 크기 Sc 중 어느 1개 또는 2개 이상의 조합일 수 있다.
도 7의 예에서는, 시각 T0 내지 T1의 기간 동안 상태량 X는 완만하게 변화하고 있다. 이 경우, 예를 들어, 푸리에 변환에 의해 상태량 X의 주파수 성분을 추출하면, 상태량 X의 고주파 성분은 작아진다. 상태량 X의 1차 미분의 절대값은 어떤 소정의 레벨(촬상 장치에 대하여 실제 물체가 상대적으로 움직이는 현실적인 한계에 상당하는 레벨)을 초과하지 않는다. 상태량 X의 2차 미분에 대해서도 마찬가지이다. 또한, 상태량 X의 변화가 완만하기 때문에, 상태량 X의 현재 값이 상태량 X의 과거 m 샘플의 이력과 크게 상이하지 않다. 상태량 X의 이력은 과거 m 샘플의 단순한 평균값일 수 있고 또는 과거 m 샘플의 가중치 부여 평균값(예를 들어, 샘플이 보다 최근일수록, 샘플의 가중치(중량)는 보다 크게 설정될 수 있다)일 수 있다.
이에 반해, 시각 T1 내지 T2의 기간 동안 상태량 X는 격렬하게 변화하고 있다. 이 경우, 상태량 X의 주파수 성분을 추출하면, 상태량 X의 고주파 성분은 더 커진다. 또한, 상태량 X의 1차 미분은 제로의 주위에서 진동하고 있다. 1차 미분의 절대값은 상술한 소정의 레벨을 상회한다. 또한, 상태량 X의 현재 값은 상태량 X의 과거 m 샘플의 이력과 크게 상이할 수 있다.
따라서, 제1 판정 방법에 있어서, 판정부(160)는 실제 물체의 상태량의 고주파 성분의 크기, 상태량의 1차 미분(또는 2차 미분)의 절대값(적산값), 및 상태량의 이력 중 하나와 상태량의 현재 값을 비교함으로써 이 상태량의 시간적 변화를 평가한다. 그리고, 판정부(160)는 평가한 시간적 변화가 더 심할수록, 인식의 안정도는 더 낮다고 판정한다. 도 7의 예에서는, 기간 T0 내지 T1의 안정도는 "고", 기간 T1 내지 T2의 안정도는 "저", 기간 T2 내지 T3의 안정도는 "중", 기간 T3 내지 T4의 안정도는 "저"라고 판정되어 있다.
(2) 제2 예
화상 인식부(140)에 의한 인식이 불안정한 경우에는, 현실적인 상황에서는 발생할 가능성이 낮은 실제 물체의 상태의 변화가 인식 결과에 있어서 나타날 가능성이 있다. 예를 들어, 실공간 내에서 정지하고 있는 실제 물체를 촬상할 때, 화각의 변화에 의존해서 화상 내의 실제 물체의 위치 또는 크기가 변화할 수 있다. 그러나, 그 때에 동시에 실제 물체가 크게 회전하는 것은 드물다. 이와 관련하여, 제2 판정 방법에 있어서, 판정부(160)는 화상 인식부(140)에 의해 인식되는 실제 물체의 복수의 상태량 사이의 정합성에 기초하여 상기 안정도를 판정할 수 있다.
도 8을 참조하면, 시각 T1 내지 시각 T2의 기간 동안 화상 인식부(140)에 의해 얻어진 인식 결과는 실제 물체(12)가 이동하고 실제 물체(12)의 자세가 회전하고 있는 것을 나타내고 있다. 시각 T1 내지 시각 T2의 기간 동안의 실제 물체(12)의 이동량은 위치 P의 차분 dP에 의해 표현될 수 있고, 회전량은 자세 W의 차분 dW에 의해 표현될 수 있다. 따라서, 예를 들어, 이동량 dP가 제1 임계값을 상회하고, 회전량 dW가 제2 임계값을 상회하는 경우에는, 실제 물체의 상태의 변화가 부자연스럽기 때문에, 판정부(160)는 화상 인식부(140)에 의한 인식의 안정도가 저하한다고 판정할 수 있다.
(3) 제3 예
제3 판정 방법에 있어서는, 판정부(160)는 실제 물체의 상태량의 변화와 움직임 센서에 의해 계측되는 촬상부(102)의 움직임 사이의 정합성에 기초하여 상기 안정도를 판정한다.
도 9를 참조하면, 시각 T1 내지 시각 T2의 기간 동안 유저는 촬상부(102)의 화각이 변화되도록 화상 처리 장치(100)를 움직이게 한다. 그 결과, 입력 화상 Im11-1의 우측 하단에 비치는 실제 물체(12b)는 입력 화상 Im11-2에서는 화상의 좌측 상단으로 이동하고 있다. 촬상부(102)의 화각의 변화는 센서부(104)의 움직임 센서(예를 들어, 가속도 센서, 자이로 센서, 또는 지자기 센서)로부터의 센서 데이터에 기초해서 인식될 수 있다. 이 경우에, 실제 물체(12b)의 이동량 dP 또는 회전량 dW가 센서 데이터에 기초해서 인식되는 화상 처리 장치(100)의 움직임과 정합하지 않으면, 판정부(160)는 화상 인식부(140)에 의한 인식의 안정도가 저하한다고 판정할 수 있다.
(4) 제4 예
제4 판정 방법에 있어서는, 판정부(160)는 화상 인식부(140)에 의해 인식되는 실제 물체의 상태량의 변화와 복수의 입력 화상에 나타나는 실공간의 움직임의 방향 사이의 정합성에 기초하여 상기 안정도를 판정한다. 예를 들어, 복수의 입력 화상에 나타나는 실공간의 움직임의 방향은 복수의 입력 화상으로부터 구해지는 옵티컬 플로우를 통해서 인식될 수 있다.
도 10을 참조하면, 시각 T1에 있어서 촬상된 입력 화상 Im12-1로부터 시각 T2에 있어서 촬상된 입력 화상 Im12-2에 걸쳐서의 옵티컬 플로우 F가 도시된다. 옵티컬 플로우 F는 화상의 좌측 상단을 향하는 실제 물체의 움직임을 나타낸다. 이에 반해, 화상 인식부(140)에 의해 얻어진 인식 결과는 실제 물체(12b)가 위로 이동하면서 회전하고 있는 것을 나타낸다. 이와 같이, 실제 물체(12b)의 이동량 dP 또는 회전량 dW가 복수의 입력 화상에 걸치는 옵티컬 플로우와 정합하지 않으면, 판정부(160)는 화상 인식부(140)에 의한 인식의 안정도가 저하한다고 판정할 수 있다. 또한, 실제 물체(12b)의 주위의 옵티컬 플로우로부터 예측되는 실제 물체의 움직임 벡터와 실제 물체 인식의 결과로서 인식된 실제 물체의 움직임 벡터 간의 상관(예를 들어 내적)에 기초하여, 연속 값으로서 실제 물체의 안정도가 계산될 수 있다(예를 들어, 상기 내적이 보다 클수록, 인식은 보다 안정적이다).
(5) 제5 예
예를 들어, 실제 물체의 일부가 입력 화상에 비치지 않는 경우에는, 인식의 정밀도가 저하할 확률은 높다. 이와 관련하여, 제5 판정 방법에 있어서, 인식된 실제 물체가 입력 화상에 비치지 않는 부분을 포함하는 경우에는, 판정부(160)는 이 실제 물체의 전체가 입력 화상에 비치는 경우보다도 인식의 안정도가 낮다고 판정한다. 예를 들어, 인식된 실제 물체가 입력 화상에 비치지 않는 부분을 포함하는 경우는 실제 물체의 일부가 화각 바깥에 위치하는 경우, 또는 실제 물체의 일부가 다른 실제 물체에 숨겨져 있는 경우(소위 오클루젼(occlusion)의 경우)이다.
도 11을 참조하면, 입력 화상 Im13에 실제 물체(12a 및 12b)가 비치고 있다. 실제 물체(12a)의 일부는 실제 물체(12b)에 의해 숨겨져 있다. 실제 물체(12b)의 일부는 화각 바깥에 있다. 도 11에 도시한 다수의 삼각형의 기호는 화상 인식부(140)에 의한 실제 물체(12a)의 인식 시에 사용할 수 있는 특징점의 위치를 나타낸다. 예를 들어, 판정부(160)는 화상 인식부(140)에 의해 인식된 실제 물체(12a)의 특징점의 수의 그 특징점의 총 수에 대한 비율을 산출한다. 산출한 비율이 소정의 임계값을 하회할 경우에는, 판정부(160)는 실제 물체(12)의 일부가 입력 화상에 비치지 않는다고 판정할 수 있다. 또한, 예를 들어, 실제 물체의 무게 중심이 화상의 안정 검출 영역의 외측에 있는 경우에, 판정부(160)는 실제 물체의 일부가 입력 화상에 비치지 않을 가능성이 높다고 쉽게 판정할 수 있다. 도 11의 예에서는, 실제 물체(12a)의 무게 중심 Pa는 안정 검출 영역 R의 내측에 위치하는 반면, 실제 물체(12b)의 무게 중심 Pb는 안정 검출 영역 R의 외측에 위치한다. 안정 검출 영역 R은 그 경계가 입력 화상의 테두리부로부터 소정의 오프셋을 갖도록 입력 화상의 중앙에 설정될 수 있다.
판정부(160)는 상술한 방법을 이용하여 화상 인식부(140)에 의한 인식의 안정도를 판정하고, 각 실제 물체에 관한 안정도를 표시 제어부(190)에 출력한다. 화상 처리 장치(100)는 상술한 방법 중 2개 이상을 판정부(160)가 선택 가능하게 하고, 판정부(160)가 사용하는 방법을 조건에 따라서 적절하게 전환할 수 있다. 예를 들어, 동적인 실제 물체에 관한 안정도를 판정하는 경우에는, 제1 방법이 선택되고, 정적인 실제 물체에 관한 안정도를 판정하는 경우에는 제2 내지 제 4 방법 중 어느 하나가 선택될 수 있다. 또한, 적은 처리 비용이 요망되는 장면에서는 제5 방법이 선택될 수 있다.
3-5. 데이터 취득부
데이터 취득부(170)는 표시 제어부(190)에 의해 입력 화상에 중첩되는 가상 물체에 관련한 데이터를 취득한다. 데이터 취득부(170)에 의해 취득되는 데이터는 가상 물체를 정의하는 오브젝트 데이터를 포함한다. 오브젝트 데이터의 예는 가상 물체의 종류, 관련된 실제 물체의 식별자, 이 실제 물체로부터의 상대적인 표시 위치, 및 정보 콘텐츠의 내용을 정의하는 데이터를 포함한다. 데이터 취득부(170)는 오브젝트 DB(172)에 의해 미리 기억되어 있는 오브젝트 데이터를 취득할 수 있다. 다르게는, 데이터 취득부(170)는 실공간 내에 설치되는 데이터 서버로부터 통신부(114)를 통해서 최신의 오브젝트 데이터를 취득할 수 있다. 예를 들어, 데이터 서버로부터 제공되는 오브젝트 데이터는 센서부(104)에 의해 측정되는 화상 처리 장치(100)의 위치에 따라 다른 데이터일 수 있다. 데이터 취득부(170)는 이러한 오브젝트 데이터를 표시 제어부(190)에 출력한다.
3-6. 표시 제어부
표시 제어부(190)는 화상 처리 장치(100)가 제공하는 AR 어플리케이션에 의한 가상 물체의 표시를 제어할 수 있다. 보다 구체적으로는, 예를 들어, 표시 제어부(190)에는 화상 인식부(140)에 의해 입력 화상에 비치고 있는 것으로 인식된 실제 물체와 관련된 가상 물체의 오브젝트 데이터가 데이터 취득부(170)로부터 입력된다. 표시 제어부(190)는 이러한 오브젝트 데이터에 기초하여 가상 물체의 오브젝트 화상을 생성한다. 표시 제어부(190)에 의해 생성되는 오브젝트 화상은 전형적으로는 3차원의 실공간 내에 가상적으로 배치되는 가상 물체를 화상 처리 장치(100)의 촬상면에 투영한 화상이다. 그리고, 표시 제어부(190)는 생성한 출력 화상을 표시부(112)에 출력한다. 그 결과, AR 어플리케이션의 화상이 유저에 제시된다.
가상 물체의 배치는 관련된 실제 물체의 상태에 맞춰서 결정된다. 즉, 표시 제어부(190)는 각 실제 물체의 위치, 자세, 및 크기에 가상 물체가 추종하도록 가상 물체를 표시 장치에 표시하게 한다.
본 실시 형태에 있어서, 표시 제어부(190)는 화상 인식부(140)에 의한 인식의 안정도에 따라 인식된 각 실제 물체에 관련된 가상 물체의 표시를 변화시킨다. 예를 들어, 표시 제어부(190)는 상기 안정도에 따라 가상 물체의 각 실제 물체에의 추종의 페이스를 변화시킨다. 전형적으로는, 표시 제어부(190)는 상기 안정도가 보다 높으면 가상 물체의 각 실제 물체에의 추종의 페이스를 빨리 하고, 상기 안정도가 보다 낮으면 가상 물체의 각 실제 물체에의 추종의 페이스를 느리게 한다. 예를 들어, 추종의 페이스는 다음의 수학식 1에서의 보간 계수 k에 의해 표현될 수 있다:
[수학식 1]
Zn +1 = Zn + k(Xn +1 - Zn)
수학식 1에서, Zn 및 Zn +1은 각각 시각 t=n, 및 t=n+1에 있어서의 가상 물체의 상태를 나타내고, Xn +1은 시각 t=n+1에 있어서 인식된 실제 물체의 상태를 나타낸다. 보간 계수 k의 값은, 0 <k≤1의 범위에서 표시 제어부(190)에 의해 제어된다. 예를 들어, k=1이면, Zn +1=Xn +1이 되고, 시각 t=n+1에 있어서 가상 물체의 상태는 인식된 실제 물체의 상태를 그대로 반영한다. 그러나, k=0.1이면, Zn+1=0.1Xn+1+0.9Xn이 되고, 시각 t=n+1에 있어서 가상 물체의 상태는 인식된 실제 물체의 상태를 부분적으로만 반영한다.
도 12는 상술한 가상 물체의 실제 물체에의 추종의 페이스의 제어의 일례를 설명하기 위한 도면이다. 도 12의 상단에는, 시각 t=n, n+1, 및 n+2의 3개의 시점에서의, 추종의 페이스가 일정한(보간 계수 k가 일정) 경우의 가상 물체(13a)의 상태가 나타나고 있다. 가상 물체(13a)는 실제 물체(12a)에 관련한 가상 물체이다. 시각 t=n+1 및 n+2의 시점에서는, 인식의 안정도는 낮기 때문에, 가상 물체(13a)의 상태가 실제 물체(12a)의 상태로부터 크게 어긋나 있다.
한편, 도 12의 하단에는, 시각 t=n, n+1, 및 n+2의 3개의 시점에서의, 추종의 페이스가 동적으로 제어되는 경우의 가상 물체(13a)의 상태가 나타나고 있다. 이 경우에, 시각 t=n의 시점에서는, 안정도가 높으므로, 추종의 페이스는 빠르고, 실제 물체(12a)의 상태가 가상 물체(13a)의 상태와 거의 일치하고 있다. 그 후, 시각 t=n+1 및 n+2의 시점에 있어서, 안정도가 저하하면, 보간 계수 k의 값을 내릴 수 있으므로, 가상 물체(13a)의 상태는 실제 물체(12a)의 상태에 완만하게 추종한다. 그 결과, 가상 물체(13a)의 상태의 실제 물체(12a)의 상태로부터의 어긋남은 외견상 작도록 억제되고 있다.
표시 제어부(190)는 가상 물체의 각 실제 물체에의 추종의 페이스를 안정도에 따라 변화시키는 대신(또는 변화시키면서), 가상 물체의 표시 속성을 안정도에 따라 변화시킬 수 있다. 가상 물체의 표시 속성은 가상 물체가 정적인 표시 형태에 관한 속성과 동적인 표시 형태에 관한 속성을 포함할 수 있다. 가상 물체가 정적인 표시 형태에 관한 속성의 예는 가상 물체의 투명도, 선명도, 색, 크기, 형상, 수, 및 잔상의 패턴을 포함한다. 한편, 가상 물체의 동적인 표시 형태에 관한 속성의 예는 가상 물체의 점멸의 패턴, 점멸의 주기, 및 애니메이션의 종류를 포함한다. 가상 물체의 표시 속성을 변화시킴으로써, 실제 물체 인식의 안정도가 저하하고 있다는 사실을 유저에 직감적으로 이해시키는 것이 가능하게 된다.
일례로서, 도 13을 참조하면, 가상 물체(13b)의 선명도는 실제 물체 인식의 안정도가 높다고 판정된 입력 화상 Im22-2a에 있어서는 높게 설정되어 있다. 그 결과, 입력 화상 Im22-2a의 가상 물체(13b)의 윤곽은 명료하게 표시된다. 그러나, 실제 물체 인식의 안정도가 낮다고 판정된 입력 화상 Im22-2b에 있어서 가상 물체(13b)의 선명도는 낮게 설정되어 있다. 그 결과, 입력 화상 Im22-2b의 가상 물체(13b)의 윤곽은 희미하게 표시된다.
다른 예로서, 도 14를 참조하면, 가상 물체(13b)의 투명도는 실제 물체 인식의 안정도가 높다고 판정된 입력 화상 Im23-2a에 있어서는 낮게 설정되어 있다. 그 결과, 입력 화상 Im23-2a의 가상 물체(13b)의 윤곽은 투과하지 않는다. 그러나, 실제 물체 인식의 안정도가 낮은 것으로 판정된 입력 화상 Im23-2b에 있어서 가상 물체(13b)의 투명도는 높게 설정되어 있다. 그 결과, 입력 화상 Im23-2b의 가상 물체(13b)의 윤곽은 투과한다.
도 14의 예에서는, 실제 물체 인식의 결과를 표현하는 표식인 가상 물체(13b)의 투명도는 인식의 안정도에 따라 변화하는 반면, 정보 콘텐츠인 가상 물체(14b)의 투명도는 일정하게 유지된다. 이와 같이, 표시 제어부(190)는 표식 및 정보 콘텐츠 중 하나의 표시만을 변화시킬 수 있다. 표식만의 표시를 변화시키는 경우에는, 실제 물체 인식의 안정도가 저하할 때, 정보 콘텐츠의 시인성을 저하하지 않고서 안정도의 저하를 유저에 이해시킬 수 있다. 반면, 정보 콘텐츠만의 표시를 변화시키는 경우에는, 실제 물체 인식의 안정도가 저하할 때, 실제 물체가 어떻게 인식되었는지를 유저에 알리면서 정보 콘텐츠에 관한 인상의 악화를 방지할 수 있다.
화상 인식부(140)에 의한 인식의 안정도가 낮은 경우에, 표시 제어부(190)는 안정도를 높이기 위한 행동을 유저에 촉구하는 정보를 표시 장치에 표시하게 할 수 있다. 이 경우에, 예를 들어, 표시되는 정보는 화각 바깥에 밀려나온 실제 물체가 화각 내에 들어가게 장치를 움직이게 하는 것을 촉진하는 메시지일 수 있다(도 15의 화상 Im30의 메시지(15) 참조). 정보를 참조한 유저가 안정도를 높이기 위한 행동을 취하므로, 가상 물체의 표시의 혼란이 방지될 수 있다.
또한, 검출부(150)에 의해 소정의 유저 입력이 검출된 경우에는, 표시 제어부(190)는 판정부(160)에 의해 판정되는 인식의 안정도에 관계없이, 안정도가 높다고 가정한 경우의 가상 물체의 표시를 표시 장치에 행할 수 있다. 소정의 유저 입력의 예는 터치 센서에의 입력, 모션 센서에 의해 감지되는 입력, 화상 처리 장치(100)에 설치되는 버튼의 누름, 및 유저의 제스처 또는 음성 등의 임의의 유저 입력을 포함한다. 그 결과, 유저가 가상 물체의 표시의 혼란을 허용하는 경우에, 안정도에 따른 표시의 제어를 일시적으로 정지하는 것이 가능하게 된다.
4. 실시 형태에 따른 표시 제어 처리의 흐름
도 16은 본 실시 형태에 따른 화상 처리 장치(100)에 의한 표시 제어 처리의 흐름의 일례를 나타내는 흐름도이다.
도 16을 참조하면, 우선, 화상 취득부(130)는 실공간을 비춘 화상을 입력 화상으로서 취득한다(단계 S102). 이어서, 화상 인식부(140)는 화상 취득부(130)로부터 입력되는 각 입력 화상에 어느 실제 물체가 비치고 있는지 인식하고 입력 화상에 비치고 있는 각 실제 물체의 상태를 인식할 수 있다(단계 S104). 예를 들어, 인식되는 실제 물체의 상태는 이 실제 물체의 위치, 자세, 및 크기를 포함할 수 있다. 이어서, 판정부(160)는 입력 화상에 비치고 있는 것으로 화상 인식부(140)에 의해 인식된 실제 물체가 존재하는지의 여부를 판정한다(단계 S106). 여기서, 인식된 실제 물체가 존재하지 않는 경우에는, 처리는 단계 S102로 복귀된다. 그러나, 인식된 실제 물체가 존재하는 경우에는, 처리는 단계 S108로 진행한다.
단계 S108에 있어서, 판정부(160)는 입력 화상에 비치는 실제 물체의 상태의 화상 인식부(140)에 의한 인식의 안정도를 판정한다. 이어서, 데이터 취득부(170)는 화상 인식부(140)에 의해 인식된 각 실제 물체에 관련한 가상 물체의 오브젝트 데이터를 취득한다(단계 S110). 또한, 표시 제어부(190)는 판정부(160)에 의해 판정된 인식의 안정도에 따라 인식된 각 실제 물체에 관련한 가상 물체의 표시 속성을 결정한다(단계 S112). 여기에서, 표시 속성은 상술한 보간 계수 k일 수 있고, 또는 가상 물체의 투명도, 선명도, 점멸의 패턴, 점멸의 주기, 또는 잔상의 크기일 수 있다. 이어서, 표시 제어부(190)는 결정한 표시 속성에 따라 각 실제 물체에 관련한 가상 물체의 화상을 생성한다(단계 S114). 그리고, 표시 제어부 (190)는 생성한 가상 물체의 화상을 입력 화상에 중첩한다(단계 S116).
5. 정리
지금까지 도 1 내지 도 16을 참조하여 실시 형태에 따른 화상 처리 장치 (100)에 대해서 상세하게 설명하였다. 본 실시 형태에 따르면, 화상에 비치는 실제 물체의 상태의 인식의 안정도에 따라 이 실제 물체에 관련한 가상 물체의 표시가 동적으로 변화한다. 그 결과, 인식의 정밀도의 저하에 수반하는 가상 물체의 표시의 혼란에 의해 유저에 혼란을 부여하는 것을 피하는 것이 가능하게 된다.
또한, 본 실시 형태에 따르면, 실제 물체의 위치 또는 자세에 가상 물체가 추종하도록 하는 어플리케이션은 상기 안정도에 따라 가상 물체의 실제 물체에의 추종의 페이스를 제어할 수 있다. 그 결과, 인식의 정밀도가 높은 동안에는 추종의 지연을 작게 유지하고, 인식의 정밀도가 저하한 경우의 가상 물체의 배치의 돌발적인 어긋남을 효과적으로 경감할 수 있다.
또한, 본 실시 형태에 따르면, 가상 물체의 투명도, 선명도, 점멸의 패턴, 점멸의 주기, 또는 잔상의 크기 등의, 가상 물체의 표시 속성이 상기 안정도에 따라 제어될 수 있다. 그 결과, 실제 물체 인식의 안정도가 저하하고 있다는 사실을 유저가 직감적으로 이해할 수 있기 때문에, 가상 물체의 표시가 흐트러질 때에도 유저에 혼란을 부여하는 것이 방지될 수 있다.
또한, 상기 안정도는 실제 물체의 상태량의 시간적 변화에 기초하여 판정될 수 있다. 이 경우에는, 모션 센서 등의 보조적인 입력을 필요로 하지 않고, 대상의 실제 물체가 동적인 실제 물체 및 정적인 실제 물체의 어느 것인지 막론하고, 안정도를 정확하게 판정할 수 있다. 또한, 상기 안정도는 인식되는 상태량 사이의 정합성, 상태량과 장치의 움직임 사이의 정합성, 또는 상태량과 입력 화상에 나타나는 실공간의 움직임의 방향 사이의 정합성에 기초하여 판정될 수 있다. 이 경우에는, 실제 물체의 상태량의 주파수의 해석 또는 미분 등의 복잡한 연산을 필요로 하지 않고 안정도를 판정할 수 있다. 또한, 실제 물체가 입력 화상에 비치지 않는 부분을 포함하는지 여부에 따라 상기 안정도를 쉽게 판정할 수 있다.
본 명세서에서 설명한 화상 처리 장치(100)에 의한 처리는 소프트웨어, 하드웨어, 또는 소프트웨어와 하드웨어의 조합을 사용해서 실현될 수 있다. 예를 들어, 소프트웨어를 구성하는 프로그램은 각 장치의 내부 또는 외부에 설치되는 기억 매체에 미리 저장된다. 예를 들어, 각 프로그램은, 실행시에 RAM(Random Access Memory)에 읽어 들여지고, CPU 등의 프로세서에 의해 실행된다.
본 실시 형태에서는, 주로 화상 처리 장치(100)의 표시부(112)의 화면 상에 화상이 표시되는 예에 대해서 설명했다. 그러나, 다른 실시 형태로서, 유저가 휴대하는 단말 장치로부터 입력 화상을 수신하는 화상 처리 장치에 있어서, 입력 화상에 비치는 실제 물체의 위치 또는 자세가 인식되어, 그 인식의 안정도에 따라 이 실제 물체에 관련한 가상 물체의 표시가 제어될 수 있다. 이 경우에는, 가상 물체를 표시하기 위한 화상이 이 화상 처리 장치로부터 단말 장치에 송신된 다음 단말 장치의 화면 상에 표시될 수 있다.
본 명세서에서는, 인식의 정밀도의 저하를 식별하기 위한 지표를 "안정도"라는 용어로 설명했지만, 실질적으로 동등한 기술적 의의를 갖는 지표가 "불안정도" 등의 다른 용어로 표현될 수 있다.
이상, 첨부 도면을 참조하면서 본 개시의 적합한 실시 형태에 대해서 상세하게 설명했지만, 본 개시는 이로 한정되지 않는다. 본 개시의 기술 분야에 통상의 지식을 가진 자이면, 특허 청구 범위에 기재된 기술적 사상 또는 그 등가물의 범주 내에 있는 한 설계 요건 및 다른 요인에 따라 다양한 변경, 조합, 부조합 및 수정이 이루어질 수 있다는 것을 이해할 수 있다.
다음의 구성은 본 개시의 범위에 속한다는 점에 주목한다.
(1)
화상에 비치는 실제 물체의 위치 또는 자세를 인식하도록 구성된 인식부; 및
상기 인식부에 의한 인식의 안정도에 따라 상기 실제 물체에 관련한 가상 물체의 표시를 변화시키도록 구성된 표시 제어부
를 포함하는 화상 처리 장치.
(2)
상기 표시 제어부는 상기 실제 물체의 위치 또는 자세에 상기 가상 물체가 추종하도록 상기 가상 물체를 표시 장치에 표시시키는, 상기 (1)에 기재된 화상 처리 장치.
(3)
상기 표시 제어부는 상기 안정도에 따라 상기 가상 물체의 상기 실제 물체에의 추종의 페이스를 변화시키는, 상기 (2)에 기재된 화상 처리 장치.
(4)
상기 표시 제어부는 상기 안정도가 보다 높은 경우에 상기 가상 물체의 상기 실제 물체에의 추종의 페이스를 보다 빨리 하는, 상기 (3)에 기재된 화상 처리 장치.
(5)
상기 표시 제어부는 상기 안정도에 따라 상기 가상 물체가 정적인 표시 형태에 관한 속성 및 동적인 표시 형태에 관한 속성 중 어느 하나 또는 둘 다를 변화시키는, 상기 (1) 내지 (4) 중 어느 한 항에 기재된 화상 처리 장치.
(6)
상기 화상 처리 장치는 상기 안정도를 판정하도록 구성된 판정부를 더 포함하는, 상기 (1) 내지 (5) 중 어느 한 항에 기재된 화상 처리 장치.
(7)
상기 판정부는 상기 인식부에 의해 인식되는 상기 실제 물체의 상태량의 시간적 변화에 기초하여 상기 안정도를 판정하고,
상기 실제 물체의 상기 상태량은 상기 실제 물체의 위치, 자세, 및 크기 중 적어도 하나에 관련하는, 상기 (6)에 기재된 화상 처리 장치.
(8)
상기 판정부는 상기 인식부에 의해 인식되는 상기 실제 물체의 제1 상태량과 제2 상태량 사이의 정합성에 기초하여 상기 안정도를 판정하고,
상기 실제 물체의 상기 제1 상태량 및 상기 제2 상태량은 각각 상기 실제 물체의 위치, 자세, 및 크기 중 적어도 하나에 관련하는, 상기 (6)에 기재된 화상 처리 장치.
(9)
상기 인식부에 의해 인식되는 상기 실제 물체가 상기 화상에 비치지 않는 부분을 포함하는 경우에는, 상기 판정부는 상기 실제 물체의 전체가 상기 화상에 비치는 경우 보다도 상기 안정도가 낮다고 판정하는, 상기 (6)에 기재된 화상 처리 장치.
(10)
상기 화상 처리 장치는
상기 화상을 촬상하도록 구성된 촬상부; 및
상기 촬상부의 움직임을 계측하도록 구성된 움직임 센서
를 더 포함하고,
상기 판정부는 상기 인식부에 의해 인식되는 상기 실제 물체의 상태량의 변화와 상기 움직임 센서에 의해 계측되는 상기 촬상부의 움직임 사이의 정합성에 기초하여 상기 안정도를 판정하고,
상기 실제 물체의 상기 상태량은 상기 실제 물체의 위치, 자세, 및 크기 중 적어도 하나에 관련하는, 상기 (6)에 기재된 화상 처리 장치.
(11)
상기 판정부는 상기 인식부에 의해 인식되는 상기 실제 물체의 상태량의 변화와 복수의 입력 화상에 나타나는 실공간의 움직임의 방향 사이의 정합성에 기초하여 상기 안정도를 판정하고,
상기 실제 물체의 상기 상태량은 상기 실제 물체의 위치, 자세, 및 크기 중 적어도 하나에 관련하는, 상기 (6)에 기재된 화상 처리 장치.
(12)
상기 안정도가 낮은 경우에, 상기 표시 제어부는 상기 안정도를 높이기 위한 행동을 유저에 촉구하는 정보를 표시하는, 상기 (1) 내지 (11) 중 어느 한 항에 기재된 화상 처리 장치.
(13)
소정의 유저 입력이 검출된 경우에는, 상기 표시 제어부는 상기 인식부에 의한 인식의 상기 안정도에 관계없이 상기 안정도가 높다고 가정한 경우의 상기 가상 물체의 표시를 표시 장치에 행하게 하는, 상기 (1) 내지 (12) 중 어느 한 항에 기재된 화상 처리 장치.
(14)
상기 가상 물체는 상기 실제 물체가 인식된 것을 나타내는 표식인, 상기 (1) 내지 (13) 중 어느 한 항에 기재된 화상 처리 장치.
(15)
상기 가상 물체는 상기 인식된 실제 물체에 관련하는 정보 콘텐츠인, 상기 (1) 내지 (13) 중 어느 한 항에 기재된 화상 처리 장치.
(16)
상기 표시 제어부는 상기 실제 물체가 인식된 것을 나타내는 표식과 상기 인식된 실제 물체에 관련한 정보 콘텐츠를 상기 가상 물체로서 표시 장치에 표시하게 하고, 상기 안정도에 따라 상기 표식 또는 상기 정보 콘텐츠의 표시를 변화시키는, 상기 (1) 내지 (13) 중 어느 한 항에 기재된 화상 처리 장치.
(17)
화상에 비치는 실제 물체의 위치 또는 자세를 인식하는 단계; 및
상기 인식의 안정도에 따라 상기 실제 물체에 관련한 가상 물체의 표시를 변화시키는 단계
를 포함하는 표시 제어 방법.
(18)
화상 처리 장치를 제어하는 컴퓨터를,
화상에 비치는 실제 물체의 위치 또는 자세를 인식하도록 구성된 인식부; 및
상기 인식부에 의한 인식의 안정도에 따라 상기 실제 물체에 관련하는 가상 물체의 표시를 변화시키도록 구성된 표시 제어부
로서 기능하게 하기 위한 프로그램.
100: 화상 처리 장치
102: 촬상부
104: 센서부
140: 화상 인식부
160: 판정부
190: 표시 제어부

Claims (27)

  1. 화상 내의 실제 물체를 인식하도록 구성된 인식부;
    인식의 안정도를 나타내는 안정도 표시자를 판정하도록 구성된 판정부; 및
    상기 안정도 표시자에 따라 가상 물체의 표시를 변화시키도록 구성된 표시 제어부
    를 포함하는 장치.
  2. 제1항에 있어서, 상기 표시 제어부는 또한 상기 가상 물체의 적어도 하나의 속성을 변화시킴으로써 상기 안정도 표시자에 따라 상기 가상 물체의 표시를 변화시키도록 구성된 장치.
  3. 제1항에 있어서, 상기 표시 제어부는 또한 상기 실제 물체의 추종된(tracked) 위치 또는 배향에 따라 상기 가상 물체를 변화시키도록 구성된 장치.
  4. 제3항에 있어서, 상기 추종된 위치는 추종 속도로 추종되고, 상기 표시 제어부는 또한 상기 안정도 표시자에 따라 상기 추종 속도를 선택하도록 구성된 장치.
  5. 제4항에 있어서, 상기 가상 물체를 표시하기 전에 상기 추종 속도를 선택하는 것을 더 포함하는 장치.
  6. 제4항에 있어서, 상기 안정도 표시자가 증가할 때 더 높은 추종 속도를 선택하고 상기 안정도 표시자가 감소할 때 더 낮은 추종 속도를 선택하는 것을 더 포함하는 장치.
  7. 제6항에 있어서, 추종 속도를 선택하는 것은 상기 가상 물체의 변화된 표시가 상기 화상과 나란히(in tandem) 이동하도록 추종 속도를 선택하는 것을 포함하는 장치.
  8. 제2항에 있어서, 변화된 화상 속성은 정적 속성 또는 동적 속성 중 적어도 하나인 장치.
  9. 제2항에 있어서, 변화된 속성은 상기 안정도 표시자의 변화를 유저에게 나타내는 것을 포함하는 장치.
  10. 제8항에 있어서, 상기 정적 속성은 상기 가상 물체의 표시의 투과도, 상기 가상 물체의 표시의 선명도, 상기 가상 물체의 표시의 색, 상기 가상 물체의 표시의 크기, 상기 가상 물체의 표시의 형상, 또는 상기 가상 물체의 표시에 중첩된 패턴 중 적어도 하나를 포함하는 장치.
  11. 제8항에 있어서, 상기 동적 속성은 상기 가상 물체의 표시에 관련한 애니메이션, 상기 가상 물체의 표시 상에 표시된 패턴, 또는 상기 가상 물체의 표시 상에 표시된 패턴의 표시의 타이밍 중 적어도 하나를 포함하는 장치.
  12. 제1항에 있어서, 안정도 표시자를 판정하는 것은 상기 실제 물체의 상태량의 특징(aspect)의 현재 값을 상기 실제 물체의 상태량의 특징의 적어도 하나의 이전 값과 비교하는 것을 포함하는 장치.
  13. 제12항에 있어서, 센서를 포함하고; 상기 판정부는 상기 센서 출력의 변화를 상기 실제 물체의 상태량의 특징의 변화와 비교함으로써 안정도 표시자를 판정하도록 구성된 장치.
  14. 제13항에 있어서, 상기 센서는 상기 장치의 움직임을 나타내는 출력을 갖는 센서를 포함하는 장치.
  15. 제12항에 있어서, 상기 상태량은 상기 실제 물체의 위치, 배향, 또는 크기 중 적어도 하나인 장치.
  16. 제12항에 있어서, 상기 상태량의 특징은 상기 상태량의 고주파 성분, 상기 상태량의 절대값, 또는 상기 상태량의 미분 중 적어도 하나인 장치.
  17. 제12항에 있어서, 상기 판정부는 상기 상태량의 특징을 상기 화상 내의 상기 실제 물체의 움직임의 방향과 비교함으로써 안정도 표시자를 판정하도록 구성된 장치.
  18. 제1항에 있어서, 상기 판정부는
    상기 실제 물체의 상태량의 제1 특징의 현재 값을 상기 상태량의 제1 특징의 이전 값과 비교하고;
    상기 상태량의 제2 특징의 현재 값을 상기 상태량의 제2 특징의 이전 값과 비교함으로써
    안정도 표시자를 판정하도록 구성된 장치.
  19. 제18항에 있어서, 상기 상태량의 상기 제1 및 제2 특징은 상기 실제 물체의 위치 및 상기 실제 물체의 배향을 포함하는 장치.
  20. 제1항에 있어서, 상기 안정도 표시자의 값은 상기 화상에 나타난 상기 실제 물체의 부분의 역함수인 장치.
  21. 제1항에 있어서, 상기 안정도 표시자가 임계값을 하회할 때 유저에게 알리도록 구성된 제어부를 더 포함하는 장치.
  22. 제1항에 있어서, 상기 표시 제어부는 상기 가상 물체 속성의 표시의 변화를 금지하도록 유저 입력을 수신하기 위한 입력부를 포함하는 장치.
  23. 제2항에 있어서, 상기 표시 제어부는
    상기 실제 물체의 인식의 표시자를 포함하도록 상기 가상 물체의 표시를 변화시키고;
    상기 가상 물체의 변화된 표시 또는 화상 중 적어도 하나에 상기 가상 물체의 정보 표시를 중첩하도록
    구성된 장치.
  24. 제1항에 있어서,
    적어도 하나의 속성은 상기 가상 물체의 표시의 선명도이고;
    상기 표시 제어부는 상기 안정도 표시자가 증가된 안정도를 표시할 때 선명도를 높이고 상기 안정도 표시자가 감소된 안정도를 표시할 때 선명도를 낮추도록 구성된 장치.
  25. 제1항에 있어서,
    적어도 하나의 속성은 상기 가상 물체의 표시의 투명도이고;
    상기 표시 제어부는 상기 안정도 표시자가 증가된 안정도를 표시할 때 투명도를 낮추고 상기 안정도 표시자가 감소된 안정도를 표시할 때 투명도를 높이도록 구성된 장치.
  26. 화상 내의 실제 물체를 인식하는 단계;
    인식의 안정도를 나타내는 안정도 표시자를 판정하는 단계; 및
    상기 안정도 표시자에 따라 가상 물체의 표시를 변화시키는 단계
    를 포함하는 방법.
  27. 화상 내의 실제 물체를 인식하는 단계;
    인식의 안정도를 나타내는 안정도 표시자를 판정하는 단계; 및
    상기 안정도 표시자에 따라 가상 물체의 표시를 변화시키는 단계
    를 포함하는 방법을, 프로세서에 의해, 실행하는 명령어를 기억한 실재적으로 구현되는 비일시적인 컴퓨터 판독가능 매체.
KR1020137019062A 2011-04-08 2012-04-02 화상 처리 장치, 표시 제어 방법 및 프로그램 KR20140017527A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JPJP-P-2011-086684 2011-04-08
JP2011086684A JP5732988B2 (ja) 2011-04-08 2011-04-08 画像処理装置、表示制御方法及びプログラム
PCT/JP2012/002269 WO2012137463A1 (en) 2011-04-08 2012-04-02 Image processing apparatus, display control method and program

Publications (1)

Publication Number Publication Date
KR20140017527A true KR20140017527A (ko) 2014-02-11

Family

ID=46968874

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020137019062A KR20140017527A (ko) 2011-04-08 2012-04-02 화상 처리 장치, 표시 제어 방법 및 프로그램

Country Status (9)

Country Link
US (5) US9269002B2 (ko)
EP (1) EP2695143B1 (ko)
JP (1) JP5732988B2 (ko)
KR (1) KR20140017527A (ko)
CN (2) CN102867169B (ko)
BR (1) BR112013025416A2 (ko)
RU (1) RU2013143978A (ko)
TW (1) TW201243767A (ko)
WO (1) WO2012137463A1 (ko)

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9953618B2 (en) * 2012-11-02 2018-04-24 Qualcomm Incorporated Using a plurality of sensors for mapping and localization
EP3734426A1 (en) * 2012-11-09 2020-11-04 Sony Corporation Information processing apparatus, information processing method, and computer-readable recording medium
CN103968824B (zh) * 2013-01-28 2018-04-10 华为终端（东莞）有限公司 一种发现增强现实目标的方法及终端
CN104937641A (zh) 2013-02-01 2015-09-23 索尼公司 信息处理装置、客户端装置、信息处理方法以及程序
US9671941B1 (en) 2013-05-09 2017-06-06 Amazon Technologies, Inc. Graphical behaviors for recognition interfaces
US10169916B2 (en) 2013-05-27 2019-01-01 Sony Corporation Image processing device and image processing method
CN103455969B (zh) 2013-08-28 2019-06-04 腾讯科技(成都)有限公司 图像处理的方法及装置
US9569892B2 (en) * 2013-09-26 2017-02-14 Qualcomm Incorporated Image capture input and projection output
US10671766B2 (en) * 2013-10-21 2020-06-02 Autodesk, Inc. Evaluating the stability of three-dimensional models
JP6337907B2 (ja) * 2013-11-13 2018-06-06 ソニー株式会社 表示制御装置、表示制御方法およびプログラム
TWI529663B (zh) * 2013-12-10 2016-04-11 財團法人金屬工業研究發展中心 虛擬影像定位方法及其裝置
US9652893B2 (en) * 2014-04-29 2017-05-16 Microsoft Technology Licensing, Llc Stabilization plane determination based on gaze location
KR101430614B1 (ko) * 2014-05-30 2014-08-18 주식회사 모리아타운 웨어러블 안경을 이용한 디스플레이 장치 및 그 동작 방법
JP2016018367A (ja) * 2014-07-08 2016-02-01 沖電気工業株式会社 情報処理装置、情報処理方法、及びプログラム
CN104090973B (zh) * 2014-07-18 2018-09-07 百度在线网络技术（北京）有限公司 一种信息呈现方法及装置
US10943395B1 (en) * 2014-10-03 2021-03-09 Virtex Apps, Llc Dynamic integration of a virtual environment with a physical environment
WO2016107635A1 (en) * 2014-12-29 2016-07-07 Metaio Gmbh Method and system for generating at least one image of a real environment
EP3113159A1 (en) * 2015-06-30 2017-01-04 Thomson Licensing Method and device for processing a part of an immersive video content according to the position of reference parts
JP6576177B2 (ja) * 2015-09-09 2019-09-18 キヤノン株式会社 情報処理装置、情報処理装置の制御方法及びプログラム
WO2017047178A1 (ja) * 2015-09-16 2017-03-23 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
TWI574223B (zh) * 2015-10-26 2017-03-11 行政院原子能委員會核能研究所 運用擴增實境技術之導航系統
JP6723743B2 (ja) 2015-12-28 2020-07-15 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム
WO2017117446A1 (en) * 2015-12-30 2017-07-06 Daqri, Llc 3d video reconstruction system
JP2017123050A (ja) * 2016-01-07 2017-07-13 ソニー株式会社 情報処理装置、情報処理方法、プログラム、及びサーバ
KR102649197B1 (ko) * 2016-07-29 2024-03-20 삼성전자주식회사 그래픽 객체를 표시하기 위한 전자 장치 및 컴퓨터 판독 가능한 기록 매체
US11563895B2 (en) 2016-12-21 2023-01-24 Motorola Solutions, Inc. System and method for displaying objects of interest at an incident scene
CN110199324B (zh) * 2017-01-31 2023-12-29 株式会社和冠 显示装置及其控制方法
JP6406393B2 (ja) * 2017-05-24 2018-10-17 カシオ計算機株式会社 表示制御装置、表示制御方法、及び、プログラム
WO2019087513A1 (ja) 2017-10-31 2019-05-09 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
CN112204502B (zh) 2018-05-30 2024-04-02 索尼公司 显示控制装置、程序和显示控制方法
GB2574882B (en) 2018-06-22 2020-08-12 Sony Interactive Entertainment Inc Method and system for displaying a virtual object
CN109189210A (zh) * 2018-08-06 2019-01-11 百度在线网络技术（北京）有限公司 混合现实交互方法、装置及存储介质
CN109241385A (zh) * 2018-08-08 2019-01-18 百度在线网络技术（北京）有限公司 搜索方法、设备以及存储介质
KR102091217B1 (ko) * 2018-12-12 2020-03-19 주식회사 하이쓰리디 모바일 증강현실 영상 편집 시스템
JP7207210B2 (ja) * 2019-07-12 2023-01-18 日本電信電話株式会社 行動認識装置、行動認識方法、及び行動認識プログラム
CN114207670A (zh) 2019-07-29 2022-03-18 索尼集团公司 信息处理装置、信息处理方法和程序
KR20210030147A (ko) * 2019-09-09 2021-03-17 삼성전자주식회사 3d 렌더링 방법 및 장치
TWI759764B (zh) * 2020-06-12 2022-04-01 光時代科技有限公司 基於光通信裝置疊加虛擬物件的方法、電子設備以及電腦可讀取記錄媒體
CN116783617A (zh) 2021-02-05 2023-09-19 索尼半导体解决方案公司 信息处理装置、信息处理方法和程序
WO2023021757A1 (ja) * 2021-08-20 2023-02-23 ソニーグループ株式会社 情報処理装置、情報処理方法、及びプログラム
CN117836813A (zh) 2021-08-25 2024-04-05 索尼半导体解决方案公司 信息处理装置
JP7506135B2 (ja) 2022-11-15 2024-06-25 ソフトバンク株式会社 情報処理装置、プログラム、及び表示方法
JP2024073077A (ja) 2022-11-17 2024-05-29 ソニーセミコンダクタソリューションズ株式会社 情報処理装置および情報処理方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6469660B1 (en) * 2000-04-13 2002-10-22 United Parcel Service Inc Method and system for displaying target icons correlated to target data integrity
US6765569B2 (en) * 2001-03-07 2004-07-20 University Of Southern California Augmented-reality tool employing scene-feature autocalibration during camera motion
JP4231216B2 (ja) * 2001-07-31 2009-02-25 日本放送協会 仮想シーン撮影方法及びその装置
US6867753B2 (en) * 2002-10-28 2005-03-15 University Of Washington Virtual image registration in augmented display field
JP4378118B2 (ja) * 2003-06-27 2009-12-02 学校法人早稲田大学 立体映像呈示装置
US7466650B2 (en) 2004-09-08 2008-12-16 Visualgate Systems, Inc. System, method and apparatus for adaptive video surveillance over power lines
JP4726194B2 (ja) * 2005-04-01 2011-07-20 キヤノン株式会社 キャリブレーション方法及び装置
JP2007156561A (ja) * 2005-11-30 2007-06-21 Canon Inc 複合現実感提示方法および複合現実感提示システム
JP4976756B2 (ja) * 2006-06-23 2012-07-18 キヤノン株式会社 情報処理方法および装置
JP4804256B2 (ja) * 2006-07-27 2011-11-02 キヤノン株式会社 情報処理方法
TW200843989A (en) * 2007-05-02 2008-11-16 Automotive Res & Testing Ct Automobile lateral collision warning system
JP4894741B2 (ja) * 2007-12-03 2012-03-14 ソニー株式会社 情報処理装置および情報処理方法、プログラム、並びに記録媒体
KR101188588B1 (ko) * 2008-03-27 2012-10-08 주식회사 만도 모노큘러 모션 스테레오 기반의 주차 공간 검출 장치 및방법
JP5111210B2 (ja) * 2008-04-09 2013-01-09 キヤノン株式会社 画像処理装置、画像処理方法
JP2009289035A (ja) * 2008-05-29 2009-12-10 Jiro Makino 画像表示システム、携帯型表示装置、サーバコンピュータ、および遺跡観光システム
JP2010134649A (ja) 2008-12-03 2010-06-17 Canon Inc 情報処理装置、その処理方法及びプログラム
CN101520904B (zh) * 2009-03-24 2011-12-28 上海水晶石信息技术有限公司 带有现实环境估算的增强现实的方法及其系统
CN101551732A (zh) * 2009-03-24 2009-10-07 上海水晶石信息技术有限公司 带有交互功能的增强现实的方法及其系统
JP5236546B2 (ja) * 2009-03-26 2013-07-17 京セラ株式会社 画像合成装置
US8384770B2 (en) * 2010-06-02 2013-02-26 Nintendo Co., Ltd. Image display system, image display apparatus, and image display method
JP5662787B2 (ja) * 2010-12-14 2015-02-04 株式会社Ｎｔｔドコモ 携帯端末および画像処理方法

Also Published As

Publication number Publication date
WO2012137463A1 (en) 2012-10-11
EP2695143A4 (en) 2016-01-13
US20190340826A1 (en) 2019-11-07
EP2695143B1 (en) 2020-02-26
JP2012221250A (ja) 2012-11-12
BR112013025416A2 (pt) 2016-12-27
US20180068491A1 (en) 2018-03-08
CN102867169A (zh) 2013-01-09
US20160217622A1 (en) 2016-07-28
JP5732988B2 (ja) 2015-06-10
TW201243767A (en) 2012-11-01
US9836887B2 (en) 2017-12-05
EP2695143A1 (en) 2014-02-12
RU2013143978A (ru) 2015-04-10
US9582938B2 (en) 2017-02-28
US10395429B2 (en) 2019-08-27
US20140016825A1 (en) 2014-01-16
CN202976122U (zh) 2013-06-05
US9269002B2 (en) 2016-02-23
US10930083B2 (en) 2021-02-23
CN102867169B (zh) 2017-07-11
US20170157513A1 (en) 2017-06-08

Similar Documents

Publication Publication Date Title
US10930083B2 (en) Image processing apparatus and display control method
US11195307B2 (en) Image processing apparatus, image processing method, and program
US10521944B2 (en) Repositioning user perspectives in virtual reality environments
US9761054B2 (en) Augmented reality computing with inertial sensors
JP5724543B2 (ja) 端末装置、オブジェクト制御方法及びプログラム
US9823821B2 (en) Information processing apparatus, display control method, and program for superimposing virtual objects on input image and selecting an interested object
JP5838747B2 (ja) 情報処理装置、情報処理方法、及びプログラム
CN108885497B (zh) 信息处理装置、信息处理方法和计算机可读介质
JP5668587B2 (ja) 画像処理装置、画像処理方法及びプログラム
US9846819B2 (en) Map image display device, navigation device, and map image display method
CN110728749A (zh) 虚拟三维图像显示系统及方法

Legal Events

Date Code Title Description
WITN Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid