WO2011093598A2 - 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체 - Google Patents

단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체 Download PDF

Info

Publication number
WO2011093598A2
WO2011093598A2 PCT/KR2010/009615 KR2010009615W WO2011093598A2 WO 2011093598 A2 WO2011093598 A2 WO 2011093598A2 KR 2010009615 W KR2010009615 W KR 2010009615W WO 2011093598 A2 WO2011093598 A2 WO 2011093598A2
Authority
WO
WIPO (PCT)
Prior art keywords
terminal device
field
view
information
input image
Prior art date
Application number
PCT/KR2010/009615
Other languages
English (en)
French (fr)
Other versions
WO2011093598A3 (ko
WO2011093598A9 (ko
Inventor
류중희
류하나
이경숙
주찬진
이해일
Original Assignee
(주)올라웍스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)올라웍스 filed Critical (주)올라웍스
Priority to CN201080062619.5A priority Critical patent/CN102770843B/zh
Priority to JP2012551076A priority patent/JP5324714B2/ja
Priority to US13/378,421 priority patent/US8373725B2/en
Priority to AU2010344676A priority patent/AU2010344676B2/en
Priority to EP10844822.6A priority patent/EP2530588A4/en
Publication of WO2011093598A2 publication Critical patent/WO2011093598A2/ko
Publication of WO2011093598A3 publication Critical patent/WO2011093598A3/ko
Publication of WO2011093598A9 publication Critical patent/WO2011093598A9/ko
Priority to US13/733,382 priority patent/US8947457B2/en

Links

Images

Classifications

    • E—FIXED CONSTRUCTIONS
    • E03—WATER SUPPLY; SEWERAGE
    • E03D—WATER-CLOSETS OR URINALS WITH FLUSHING DEVICES; FLUSHING VALVES THEREFOR
    • E03D9/00—Sanitary or other accessories for lavatories ; Devices for cleaning or disinfecting the toilet room or the toilet bowl; Devices for eliminating smells
    • E03D9/08—Devices in the bowl producing upwardly-directed sprays; Modifications of the bowl for use with such devices ; Bidets; Combinations of bowls with urinals or bidets; Hot-air or other devices mounted in or on the bowl, urinal or bidet for cleaning or disinfecting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47K—SANITARY EQUIPMENT NOT OTHERWISE PROVIDED FOR; TOILET ACCESSORIES
    • A47K10/00—Body-drying implements; Toilet paper; Holders therefor
    • A47K10/48—Drying by means of hot air
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes

Definitions

  • the present invention relates to a method for providing information on an object not included in a field of view of a terminal device, a terminal device, and a computer-readable recording medium, and more particularly, to an input image inputted to a terminal device and information related to the input image.
  • an Augmented Reality (AR) image In generating an Augmented Reality (AR) image by using the input image, information indicating the presence, location, and direction of an object not included in the field of view of the terminal device is displayed along with the input image to allow the user to enter the field of view of the terminal device.
  • AR Augmented Reality
  • a method, a terminal device, and a computer-readable recording medium for recognizing an object not included and effectively obtaining information about the object.
  • geographic information which has been provided in the form of booklets, is converted into digital data.
  • a typical form of geographic information that is digitized, for example, an electronic map service provided online, a navigation system installed in an automobile, and the like.
  • the digitized geographic information as described above has the advantage of being able to provide various convenience functions to the user by being combined with a user interface such as a search function, and when a change is made to the geographic information, it can be easily updated through a remote update or the like. Therefore, the situation is superior to the conventional printed matter in terms of the latest geographic information.
  • geographic information is provided in the form of Augmented Reality (AR), which synthesizes and displays additional information such as computer graphics (CG) and text on input images captured by a terminal device in real time.
  • AR Augmented Reality
  • CG computer graphics
  • CG computer graphics
  • POI point of interest
  • the size of the display device for example, liquid crystal display, etc.
  • the object using the conventional augmented reality technology In providing additional information about the general information, only the additional information on the object included in the field of view of the terminal device is limited and no information is displayed on the object not included in the field of view of the terminal device.
  • the posture of the terminal device is included so that the user includes the object in the field of view of the terminal device.
  • the location of the terminal device may be changed, and the user may not receive any guidance regarding the location or orientation of the object (not included in the terminal device's field of view). The problem you are having arises.
  • the present applicant easily displays an object not included in the field of view of the terminal device by displaying information indicating the presence, location, and direction of an object not included in the field of view of the terminal device together with the input image. It has led to the development of technologies that enable them to effectively obtain information about.
  • the object of the present invention is to solve all the above-mentioned problems.
  • the present invention by specifying the field of view of the terminal device corresponding to the input image input to the terminal device with reference to the information on the position, attitude, and viewing angle of the terminal device by searching for an object not included in the field of view of the terminal device, It is another object of the present invention to display, along with an input image, guide information about an object that is close to the viewing boundary of the terminal device among objects not included in the field of view of the terminal device.
  • a method for providing information comprising: (a) specifying a field of view of the terminal device corresponding to the input image with reference to information on at least one of the position, the attitude, and the viewing angle of the terminal device, (b) Searching for an object not included in the field of view of the terminal device; and (c) displaying guide information on at least one object found not included in the field of view of the terminal device together with the input image in the form of augmented reality.
  • a method comprising the steps of:
  • a terminal device for providing information comprising: a posture and position calculator for specifying a field of view of the terminal device corresponding to the input image with reference to information about at least one of the position, the attitude, and the viewing angle of the terminal device; An information search unit for searching for an object not included in the field of view of the terminal device, and a user displaying guide information on at least one object found to be not included in the field of view of the terminal device together with the input image in augmented reality form
  • a terminal device including an interface unit is provided.
  • the user can display the guide information of the object not included in the field of view of the terminal device near the field of view of the terminal device in the form of augmented reality together with the input image, thereby allowing the user to view the field of view of the terminal device. It is possible to easily recognize the existence, position and direction of the object not included in the to achieve the effect that can effectively obtain information about the object.
  • FIG. 1 is a diagram schematically illustrating a configuration of an entire system for providing information on an object not included in a field of view of a terminal device according to an embodiment of the present invention.
  • FIG. 2 is a diagram illustrating an internal configuration of a terminal device 200 according to an embodiment of the present invention.
  • FIG. 3 is a diagram exemplarily illustrating a configuration for providing guide information for an object not included in a field of view of a terminal device according to an embodiment of the present invention.
  • control unit 270 control unit
  • FIG. 1 is a diagram schematically illustrating a configuration of an entire system for providing information on an object not included in a field of view of a terminal device according to an embodiment of the present invention.
  • the entire system may include a communication network 100, a terminal device 200, and an information providing server 300.
  • the communication network 100 may be configured regardless of its communication mode such as wired and wireless, and may include a mobile communication network, a local area network (LAN), and a metropolitan area network (MAN: It may be configured with various communication networks such as Metropolitan Area Network (WAN), Wide Area Network (WAN), Satellite Communication Network. More specifically, the communication network 100 according to the present invention is known World Wide Web (WWW), Code Division Multiple Access (CDMA), Wideband Code Division Multiple Access (WCDMA) or Global System for Mobile communications It should be understood that the concept includes all communication networks.
  • WWW World Wide Web
  • CDMA Code Division Multiple Access
  • WCDMA Wideband Code Division Multiple Access
  • WCDMA Wideband Code Division Multiple Access
  • the terminal device 200 is connected to the input image and the input image input through a photographing means such as a camera (a concept including a portable device equipped with a camera).
  • a photographing means such as a camera (a concept including a portable device equipped with a camera).
  • AR augmented reality
  • the terminal device 200 according to the present invention refers to a digital device including a function for enabling communication after connecting to the communication network 100, and includes a personal computer (for example, a desktop computer, a notebook computer, a tablet).
  • a digital device having a computing capability by mounting a microprocessor such as a computer, a workstation, a PDA, a web pad, a mobile phone, etc. can be adopted as the terminal device 200 according to the present invention. .
  • a microprocessor such as a computer, a workstation, a PDA, a web pad, a mobile phone, etc.
  • a detailed internal configuration of the terminal device 200 will be described later.
  • the information providing server 300 communicates with the terminal device 200 and another information providing server (not shown) through the communication network 100 to the request of the terminal device 200. Accordingly, a function of providing various types of information may be performed. More specifically, the information providing server 300 includes a web content search engine (not shown) to search for information corresponding to a request of the terminal device 200 and browse the search results by the user of the terminal device 200. Can be provided to do so.
  • a web content search engine not shown
  • the information providing server 300 may be an operation server of an Internet search portal site, and the information provided to the terminal device 200 may include a website, a web document, knowledge, a blog, a cafe, an image, a video, a news, It may be various information about music, shopping, maps, books, movies, and the like.
  • the information retrieval engine of the information providing server 300 may be included in a computing device or a recording medium other than the information providing server 300.
  • FIG. 2 is a diagram illustrating an internal configuration of a terminal device 200 according to an embodiment of the present invention.
  • the terminal device 200 according to an embodiment of the present invention, the input image acquisition unit 210, the position and attitude calculation unit 220, augmented reality implementation unit 230, the user interface unit ( 240, an information retrieval unit 250, a communication unit 260, and a control unit 270 may be included.
  • the input image acquisition unit 210, the position and attitude calculation unit 220, augmented reality implementation unit 230, the user interface unit 240, information search unit 250, communication unit ( 260 and the controller 270 may be program modules in which at least some of them communicate with the user terminal device 300.
  • Such program modules may be included in the terminal device 200 in the form of an operating system, an application program module, and other program modules, and may be physically stored on various known storage devices.
  • program modules may be stored in a remote storage device that can communicate with the terminal device 200.
  • program modules include, but are not limited to, routines, subroutines, programs, objects, components, data structures, etc. that perform particular tasks or execute particular abstract data types, described below, in accordance with the present invention.
  • the input image acquisition unit 210 may perform a function of acquiring an input image based on the augmented reality implemented by the augmented reality implementation unit 230 to be described later. More specifically, the input image acquisition unit 120 according to an embodiment of the present invention may include a photographing apparatus such as a CCD camera, for example, a preview of a landscape around a user carrying the terminal device 100. function to receive input in real time.
  • a photographing apparatus such as a CCD camera, for example, a preview of a landscape around a user carrying the terminal device 100. function to receive input in real time.
  • the position and posture calculating unit 220 may determine which area of the real world the input image acquired by the terminal device 200 corresponds to. A function of calculating the position and posture of the 200 may be performed.
  • the position and attitude calculation unit 220 calculates the position of the terminal device 200 by using a position information acquisition technique such as Global Positioning System (GPS) technology or mobile communication technology.
  • the position and attitude calculation unit 220 may include a predetermined GPS module and a mobile communication module.
  • the position and posture calculating unit 220 may calculate the posture of the terminal device 200 by using a predetermined sensing means.
  • the position and posture calculating unit 220 is an acceleration sensor for detecting the presence, distance, speed, acceleration, direction, etc. of the movement of the terminal device 200 and the presence, rotation, angular velocity, angular acceleration, direction, etc. of the rotation of the terminal device 200 It can include a gyroscope.
  • the position and posture calculating unit 220 refers to the information on the position, the posture and the viewing angle of the terminal device 200 calculated as described above, I) a function of specifying a field of view of the terminal device 200 corresponding to the field of view of the terminal device 200, that is, the input image acquired by the terminal device 200.
  • the field of view of the terminal device 200 refers to a three-dimensional area defined in the real world which is a three-dimensional space, and the terminal device 200 is referred to as a viewpoint. It can be specified with a viewing frustum.
  • the viewing frustum refers to a three-dimensional area included in the field of view of the photographing apparatus when an image is photographed by a photographing apparatus such as a camera or inputted in a preview state, and is provided in the terminal device 200.
  • the projection center of the photographing means may be defined as a viewpoint, and depending on the type of the photographing lens, an infinite region in the form of a cone or a polygonal cone (near plane in which the cone or the polygonal cone is perpendicular to the line of sight line direction or Finite region in the form of a trapezoidal cylinder or trapezoidal polyhedron cut by a far plane.
  • an infinite region in the form of a cone or a polygonal cone near plane in which the cone or the polygonal cone is perpendicular to the line of sight line direction or Finite region in the form of a trapezoidal cylinder or trapezoidal polyhedron cut by a far plane.
  • Korean Patent Application No. 2010-0002340 filed by the present applicant.
  • the specification is to be considered as incorporated herein in its entirety.
  • the augmented reality implementation unit 230 implements augmented reality by synthesizing the input image and the information associated with the input image obtained by the terminal device 200, and visualize the augmented reality It can perform a function of generating an output image represented by.
  • the augmented reality implementation unit 230 may be an object (eg, a building or a store) that is determined to be included in the field of view of the terminal device 200 as information related to an input image. Etc.), a predetermined graphic element indicating a point of interest (POI) may be displayed, and detailed information on the object may be provided when the point of interest is selected by the user.
  • object eg, a building or a store
  • POI point of interest
  • the augmented reality implementation unit 230 the translucent two-dimensional representing the position of the object that exists around the point where the terminal device 200 is located as information related to the input image.
  • An augmented reality may be implemented in which a translucent information window including weather information of a map or a location where the terminal device 200 is located overlaps with an input image.
  • the terminal device 200 in the user interface unit 240 to implement augmented reality using the input image and the information related to the input image obtained by the terminal device 200, the terminal device 200 And guide information about an object not included in the field of view together with the input image. More specifically, the user interface 240 according to an embodiment of the present invention is not included in the field of view of the terminal device 200 and the guide information for guiding the presence, location, direction, etc. of the searched object and the input image; Can be displayed together. To this end, a process of searching for an object not included in the field of view of the terminal device 200 with reference to the information on the field of view of the terminal device 200 and the location of the object existing in the real world should be preceded. It may be performed by the information search unit 250.
  • the guide information displayed together with the input image according to an embodiment of the present invention includes a character string indicating the name of the object, a graphic element indicating the relative position of the object with respect to the field of view of the terminal device 200, and the like. May be included.
  • the guide information according to the present invention is not necessarily limited to those listed above, and any information that may imply or guide the existence, location, direction, etc. of an object not included in the field of view of the terminal device 200 may be used. It should be noted that it may be included in the guide information according to the present invention.
  • the user interface 240 may perform a function of displaying more detailed information on the corresponding object in response to selection of the guide information displayed together with the input image by the user. have.
  • the user interface 240 adapts a position at which guide information about the object is displayed with reference to a relative position of the object with respect to the field of view of the terminal device 200. It can perform the function of determining. For example, it may be assumed that the tourist destination A, which is not included in the field of view of the terminal device 200, is located to the right side based on the field of view of the terminal device 200. In this case, the user according to an embodiment of the present invention.
  • the interface unit 240 may display guide information on the tourist destination A on the right side of the output image.
  • the user interface 240 according to an embodiment of the present invention, the function to display the guide information for the object differentially according to the extent to which the object is close to the boundary of the field of view of the terminal device 200.
  • the building A and the terminal device 200 which may be included in the field of view of the terminal device 200 until the terminal device 200 is rotated 15 degrees to the right, are rotated 30 degrees to the right, so that the terminal device 200 may be rotated 30 degrees to the right.
  • the information provided for the building B which may be included in the field of view is provided. In this case, the building A may be evaluated to be closer to the field of view of the terminal device 200 than the building B.
  • the user interface 240 may display the guide information for the building A in a larger image than the guide information for the building B in the output image, or display the guide information for the building B than the guide information for the building A.
  • Various modifications can be assumed, such as being displayed on the right side of the image or displaying only the guide information about the building A in the output image. The.
  • FIG. 3 is a diagram exemplarily illustrating a configuration for providing guide information for an object not included in a field of view of a terminal device according to an embodiment of the present invention.
  • the configuration in which the guide information 310 or 320 for an object not included in the field of view of the terminal device 200 is displayed in the output image in the form of augmented reality may be confirmed.
  • the first guide information 310 is guide information for guiding a store called "Toomi Gangnam Store" located on the left side with respect to the field of view of the terminal device 200, and a character string indicating the name of the store and the corresponding information.
  • the second guide information 320 is guide information for guiding the shop "flying fish" located on the right side based on the field of view of the terminal device 200 as the You can see that it contains a string indicating the name and an arrow to guide the location of the store.
  • image information including output image information implemented as augmented reality may be visually displayed through a display unit (not shown) of the terminal device 200.
  • the display unit may be a flat panel display such as a liquid crystal display (LCD) or an organic light emitting diode (OLED).
  • LCD liquid crystal display
  • OLED organic light emitting diode
  • the information retrieval unit 250 refers to the field of view of the terminal device 200 with reference to information about the field of view of the terminal device 200 and the location of the object in the real world. You can search for an object that is not included.
  • the information retrieval unit 250 performs a function of searching for necessary information by communicating with the information providing server 300 to provide the requested information through the terminal device 200. It may be. For example, it may be assumed that information on store A is requested through the terminal device 200. In this case, the information retrieval unit 250 according to an embodiment of the present invention may be connected to a known information retrieval portal server. The mobile terminal may perform the function of searching for information regarding the location, phone number, sale items, and reviews of the store A, and providing at least some of the retrieved information to the terminal device 200.
  • the communication unit 260 performs a function to enable the terminal device 200 to communicate with an external system such as the information providing server 300.
  • control unit 270 is the input image acquisition unit 210, the position and attitude calculation unit 220, augmented reality implementation unit 230, the user interface unit 240, information It performs a function of controlling the flow of data between the search unit 250 and the communication unit 260. That is, the controller 270 controls the flow of data from the outside or between the respective components of the terminal device 200, so that the input image acquisition unit 210, the position and posture calculation unit 220, and the augmented reality implementation unit ( 230, the user interface 240, the information retrieval unit 250, and the communication unit 260 control to perform unique functions.
  • Embodiments according to the present invention described above may be implemented in the form of program instructions that may be executed by various computer components, and may be recorded in a computer-readable recording medium.
  • the computer-readable recording medium may include program instructions, data files, data structures, etc. alone or in combination.
  • Program instructions recorded on the computer-readable recording medium may be those specially designed and configured for the present invention, or may be known and available to those skilled in the computer software arts.
  • Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs, DVDs, and magneto-optical media such as floptical disks. media), and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like.
  • Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like.
  • the hardware device may be configured to operate as one or more software modules to perform the process according to the invention, and vice versa.

Landscapes

  • Engineering & Computer Science (AREA)
  • Public Health (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Epidemiology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Hydrology & Water Resources (AREA)
  • Water Supply & Treatment (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Navigation (AREA)

Abstract

단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체가 개시된다. 본 발명의 일 태양에 따르면, 단말 장치로 입력되는 입력 영상 및 입력 영상에 관련된 정보를 이용하여 증강 현실(Augmented Reality: AR)을 구현함에 있어서, 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법으로서, (a) 단말 장치의 위치, 자세 및 시야각 중 적어도 하나에 관한 정보를 참조로 하여, 입력 영상에 대응되는 단말 장치의 시야를 특정하는 단계, (b) 단말 장치의 시야에 포함되지 않는 객체를 검색하는 단계, 및 (c) 단말 장치의 시야에 포함되지 않는 것으로 검색된 적어도 하나의 객체에 대한 안내 정보를 입력 영상과 함께 증강 현실의 형태로 표시하는 단계를 포함하는 방법이 제공된다. 본 발명에 의하면, 사용자가 단말 장치의 시야에 포함되지 않는 객체의 존재 여부, 위치 및 방향을 손쉽게 인지하고 해당 객체에 대한 정보를 효과적으로 획득할 수 있게 되는 효과가 달성된다.

Description

단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체
단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체에 관한 것으로, 보다 상세하게는, 단말 장치로 입력되는 입력 영상 및 상기 입력 영상에 관련된 정보를 이용하여 증강 현실(Augmented Reality: AR) 영상을 생성함에 있어서 단말 장치의 시야에 포함되지 않는 객체의 존재 여부, 위치 및 방향을 안내하는 정보를 입력 영상과 함께 표시함으로써 사용자로 하여금 단말 장치의 시야에 포함되지 않는 객체를 인지하고 해당 객체에 대한 정보를 효과적으로 획득할 수 있도록 하는 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
근래에 들어, 인터넷 사용이 확산됨에 따라 기존에는 책자와 같은 인쇄물의 형태로 제공되어 왔던 지리 정보가 디지털 데이터로 변환되어 제공되는 것이 일반화되었다. 디지털화된 대표적인 지리 정보의 형태로서, 온라인 상에서 제공되는 전자 지도 서비스, 자동차에 설치되는 내비게이션 시스템 등을 그 예로 들 수 있다. 이와 같이 디지털화된 지리 정보는, 검색 기능과 같은 사용자 인터페이스와 결합됨으로써 다양한 편의 기능을 사용자에게 제공할 수 있다는 장점이 있고, 지리 정보에 변경 사항이 발생하는 경우, 원격 업데이트 등을 통하여 용이하게 갱신 가능하므로, 지리 정보의 최신성 측면에서도 종래의 인쇄물에 비하여 우위에 있는 실정이다.
특히, 최근에는 단말 장치에 의하여 실시간으로 촬영되는 입력 영상에 컴퓨터 그래픽스(Computer Graphics: CG), 문자 등의 부가 정보를 합성하여 표시하는 증강 현실(Augmented Reality: AR)의 형태로 지리 정보를 제공하는 기술이 소개된 바 있는데, 이러한 증강 현실 기술에 따르면, 사용자가 실제로 보고 있는 현실 세계를 담고 있는 화면에 부가 정보(예를 들면, 관심 지점(Point Of Interest: POI)을 가리키는 그래픽 요소 등)를 시각적으로 중첩하여 제공할 수 있으므로 사용자에게 보다 직관적인 방법으로 지리 정보를 제공할 수 있게 된다.
한편, 모바일 단말 장치에 구비된 표시 장치(예를 들면, 액정 표시 장치 등)의 크기는 많은 양의 정보를 표시할 수 있을 정도로 충분히 크지 않은 것이 보통이기 때문에, 종래의 증강 현실 기술을 이용하여 객체에 대한 부가 정보를 제공함에 있어서는 단말 장치의 시야에 포함되는 객체에 대한 부가 정보만을 한정적으로 표시하고 단말 장치의 시야에 포함되지 않는 객체에 대하여는 아무런 정보도 표시하지 않는 것이 일반적이었다.
하지만, 상기와 같은 종래의 증강 현실 기술에 따르면, 사용자가 찾고자 하는 객체가 단말 장치의 시야에 포함되어 있지 않은 경우에 사용자가 자신의 단말 장치의 시야에 해당 객체가 포함되도록 하기 위하여 단말 장치의 자세 또는 위치를 변경해야 하는데, 이러한 단말 장치 조작 과정에서 사용자는 (단말 장치의 시야에 포함되어 있지 않은) 해당 객체의 위치 또는 방향에 대하여 어떠한 안내도 받을 수 없기 때문에 해당 객체를 찾는 데에 불편함을 겪게 되는 문제점이 발생한다.
따라서, 본 출원인은 단말 장치의 시야에 포함되지 않는 객체의 존재 여부, 위치 및 방향을 안내하는 정보를 입력 영상과 함께 표시함으로써 사용자로 하여금 단말 장치의 시야에 포함되지 않는 객체를 손쉽게 인지하고 해당 객체에 대한 정보를 효과적으로 획득할 수 있도록 지원하는 기술을 개발하기에 이르렀다.
본 발명은 상술한 문제점을 모두 해결하는 것을 그 목적으로 한다.
또한, 본 발명은 단말 장치의 위치, 자세 및 시야각에 관한 정보를 참조로 하여 단말 장치로 입력되는 입력 영상에 대응되는 단말 장치의 시야를 특정하고 단말 장치의 시야에 포함되지 않는 객체를 검색함으로써, 단말 장치의 시야에 포함되지 않는 객체 중 단말 장치의 시야 경계에 근접한 객체에 대한 안내 정보를 입력 영상과 함께 표시할 수 있도록 하는 것을 다른 목적으로 한다.
상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.
본 발명의 일 태양에 따르면, 단말 장치로 입력되는 입력 영상 및 상기 입력 영상에 관련된 정보를 이용하여 증강 현실(Augmented Reality: AR)을 구현함에 있어서, 상기 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법으로서, (a) 상기 단말 장치의 위치, 자세 및 시야각 중 적어도 하나에 관한 정보를 참조로 하여, 상기 입력 영상에 대응되는 상기 단말 장치의 시야를 특정하는 단계, (b) 상기 단말 장치의 시야에 포함되지 않는 객체를 검색하는 단계, 및 (c) 상기 단말 장치의 시야에 포함되지 않는 것으로 검색된 적어도 하나의 객체에 대한 안내 정보를 상기 입력 영상과 함께 증강 현실의 형태로 표시하는 단계를 포함하는 방법이 제공된다.
본 발명의 다른 태양에 따르면, 단말 장치로 입력되는 입력 영상 및 상기 입력 영상에 관련된 정보를 이용하여 증강 현실(Augmented Reality: AR)을 구현함에 있어서, 상기 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 단말 장치로서, 상기 단말 장치의 위치, 자세 및 시야각 중 적어도 하나에 관한 정보를 참조로 하여, 상기 입력 영상에 대응되는 상기 단말 장치의 시야를 특정하는 자세 및 위치 산출부, 상기 단말 장치의 시야에 포함되지 않는 객체를 검색하는 정보 검색부, 및 상기 단말 장치의 시야에 포함되지 않는 것으로 검색된 적어도 하나의 객체에 대한 안내 정보를 상기 입력 영상과 함께 증강 현실의 형태로 표시하는 사용자 인터페이스부를 포함하는 단말 장치가 제공된다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하기 위한 컴퓨터 판독 가능한 기록 매체가 더 제공된다.
본 발명에 의하면, 단말 장치의 시야에 포함되지 않는 객체 중 단말 장치의 시야 경계에 근접한 객체에 대한 안내 정보를 입력 영상과 함께 증강 현실의 형태로 표시할 수 있게 되므로, 사용자로 하여금 단말 장치의 시야에 포함되지 않는 객체의 존재 여부, 위치 및 방향을 손쉽게 인지할 수 있도록 하고 해당 객체에 대한 정보를 효과적으로 획득할 수 있도록 할 수 있는 효과를 달성할 수 있다.
도 1은 본 발명의 일 실시예에 따라 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 전체 시스템의 구성을 개략적으로 나타내는 도면이다.
도 2는 본 발명의 일 실시예에 따른 단말 장치(200)의 내부 구성을 예시적으로 나타내는 도면이다.
도 3은 본 발명의 일 실시예에 따라 단말 장치의 시야에 포함되지 않는 객체에 대한 안내 정보를 제공하는 구성을 예시적으로 나타내는 도면이다.
<부호의 설명>
100: 통신망
200: 단말 장치
210: 입력 영상 획득부
220: 위치 및 자세 산출부
230: 증강 현실 구현부
240: 사용자 인터페이스부
250: 정보 검색부
260: 통신부
270: 제어부
300: 정보 제공 서버
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
[본 발명의 바람직한 실시예]
전체 시스템의 구성
도 1은 본 발명의 일 실시예에 따라 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 전체 시스템의 구성을 개략적으로 나타내는 도면이다.
도 1에 도시되어 있는 바와 같이, 본 발명의 일 실시예에 따른 전체 시스템은, 통신망(100), 단말 장치(200), 정보 제공 서버(300)로 구성될 수 있다.
먼저, 본 발명의 일 실시예에 따르면, 통신망(100)은 유선 및 무선과 같은 그 통신 양태를 가리지 않고 구성될 수 있으며, 이동 통신망, 근거리 통신망(LAN: Local Area Network), 도시권 통신망(MAN: Metropolitan Area Network), 광역 통신망(WAN: Wide Area Network), 인공 위성 통신망 등 다양한 통신망으로 구성될 수 있다. 보다 구체적으로, 본 발명에서 말하는 통신망(100)은 공지의 월드와이드웹(WWW; World Wide Web), CDMA(Code Division Multiple Access), WCDMA(Wideband Code Division Multiple Access) 또는 GSM(Global System for Mobile communications) 통신망 등을 모두 포함하는 개념인 것으로 이해되어야 한다.
다음으로, 본 발명의 일 실시예에 따르면, 단말 장치(200)는 카메라(카메라가 장착된 휴대용 기기를 포함하는 개념으로 이해되어야 한다) 등의 촬영 수단을 통하여 입력되는 입력 영상 및 상기 입력 영상에 관련된 정보를 이용하여 증강 현실(Augmented Reality: AR) 영상을 생성함에 있어서 단말 장치(200)의 시야에 포함되지 않는 객체에 대한 안내 정보를 디스플레이하는 기능을 수행할 수 있다. 본 발명에서 말하는 단말 장치(200)는 통신망(100)에 접속한 후 통신할 수 있도록 하는 기능을 포함하는 디지털 기기를 의미하는 것으로서, 개인용 컴퓨터(예를 들어, 데스크탑 컴퓨터, 노트북 컴퓨터, 태블릿(tablet) 컴퓨터 등), 워크스테이션, PDA, 웹 패드, 이동 전화기 등과 같이 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기라면 얼마든지 본 발명에 따른 단말 장치(200)로서 채택될 수 있다. 단말 장치(200)의 자세한 내부 구성에 대해서는 후술하기로 한다.
한편, 본 발명의 일 실시예에 따르면, 정보 제공 서버(300)는 통신망(100)을 통하여 단말 장치(200) 및 다른 정보 제공 서버(미도시됨)와 통신함으로써 단말 장치(200)의 요청에 따라 다양한 유형의 정보를 제공하는 기능을 수행하는 기능을 수행할 수 있다. 보다 구체적으로, 정보 제공 서버(300)는 웹 컨텐츠 검색 엔진(미도시됨)을 포함하여 단말 장치(200)의 요청에 대응되는 정보를 검색하고 그 검색 결과를 단말 장치(200)의 사용자가 브라우징할 수 있도록 제공할 수 있다. 예를 들어, 정보 제공 서버(300)는 인터넷 검색 포털 사이트의 운영 서버일 수 있고, 단말 장치(200)에 제공되는 정보는 웹 사이트, 웹 문서, 지식, 블로그, 카페, 이미지, 동영상, 뉴스, 음악, 쇼핑, 지도, 책, 영화 등에 관한 다양한 정보일 수 있다. 물론, 필요에 따라 정보 제공 서버(300)의 정보 검색 엔진은 정보 제공 서버(300)가 아닌 다른 연산 장치나 기록 매체에 포함될 수도 있다.
단말 장치의 구성
이하에서는, 본 발명의 구현을 위하여 중요한 기능을 수행하는 단말 장치(200)의 내부 구성 및 각 구성요소의 기능에 대하여 살펴보기로 한다.
도 2는 본 발명의 일 실시예에 따른 단말 장치(200)의 내부 구성을 예시적으로 나타내는 도면이다.
도 2를 참조하면, 본 발명의 일 실시예에 따른 단말 장치(200)는, 입력 영상 획득부(210), 위치 및 자세 산출부(220), 증강 현실 구현부(230), 사용자 인터페이스부(240), 정보 검색부(250), 통신부(260) 및 제어부(270)를 포함할 수 있다. 본 발명의 일 실시예에 따르면, 입력 영상 획득부(210), 위치 및 자세 산출부(220), 증강 현실 구현부(230), 사용자 인터페이스부(240), 정보 검색부(250), 통신부(260) 및 제어부(270)는 그 중 적어도 일부가 사용자 단말 장치(300)와 통신하는 프로그램 모듈들일 수 있다. 이러한 프로그램 모듈들은 운영 시스템, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 단말 장치(200)에 포함될 수 있으며, 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로그램 모듈들은 단말 장치(200)와 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈들은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.
먼저, 본 발명의 일 실시예에 따르면, 입력 영상 획득부(210)는 후술할 증강 현실 구현부(230)에 의하여 구현되는 증강 현실의 바탕이 되는 입력 영상을 획득하는 기능을 수행할 수 있다. 보다 구체적으로, 본 발명의 일 실시예에 따른 입력 영상 획득부(120)는 CCD 카메라 등의 촬영 장치를 포함할 수 있으며, 단말 장치(100)를 휴대하고 있는 사용자 주변의 풍경 모습을 가령 프리뷰(preview) 상태로 실시간으로 입력 받는 기능을 수행할 수 있다.
다음으로, 본 발명의 일 실시예에 따르면, 위치 및 자세 산출부(220)는 단말 장치(200)에 의하여 획득되는 입력 영상이 현실 세계의 어떤 영역에 대응되는 것인지를 판단하기 위하여, 단말 장치(200)의 위치 및 자세를 산출하는 기능을 수행할 수 있다.
보다 구체적으로, 본 발명의 일 실시예에 따른 위치 및 자세 산출부(220)는 GPS(Global Positioning System) 기술, 이동 통신 기술 등의 위치 정보 획득 기술을 이용하여 단말 장치(200)의 위치를 산출할 수 있는데, 예를 들면, 이를 위해 위치 및 자세 산출부(220)는 소정의 GPS 모듈, 이동 통신 모듈을 포함할 수 있다. 또한, 본 발명의 일 실시예에 따른 위치 및 자세 산출부(220)는 소정의 센싱 수단을 이용하여 단말 장치(200)의 자세를 산출할 수 있는데, 예를 들면, 이를 위해 위치 및 자세 산출부(220)는 단말 장치(200)의 움직임의 유무, 거리, 속도, 가속도, 방향 등을 감지하는 가속도 센서 및 단말 장치(200)의 회전의 유무, 회전량, 각속도, 각가속도, 방향 등을 감지하는 자이로스코프를 포함할 수 있다.
또한, 본 발명의 일 실시예에 따르면, 위치 및 자세 산출부(220)는 위와 같이 산출된 단말 장치(200)의 위치, 자세 및 시야각에 관한 정보를 참조로 하여 단말 장치(200)를 시점(視點)으로 하는 단말 장치(200)의 시야, 즉, 단말 장치(200)에 의하여 획득되는 입력 영상에 대응되는 단말 장치(200)의 시야를 특정하는 기능을 수행할 수 있다.
보다 구체적으로, 본 발명의 일 실시예에 따르면, 단말 장치(200)의 시야는 3차원 공간인 현실 세계에서 정의되는 3차원 영역을 의미하는 것으로서, 단말 장치(200)를 시점(視點)으로 하는 뷰잉 프러스텀(viewing frustum)으로 특정될 수 있다. 여기서, 뷰잉 프러스텀이란, 카메라 등의 촬영 장치에 의하여 영상이 촬영되거나 프리뷰(preview) 상태로 입력되는 경우에 촬영 장치의 시야에 포함되는 3차원 영역을 가리키는 것으로서, 단말 장치(200)에 구비된 촬영 수단의 투영 중심을 시점(視點)으로 하여 정의될 수 있으며 촬영 렌즈의 종류에 따라 원뿔 또는 다각뿔의 형태의 무한 영역(원뿔 또는 다각뿔이 시선(視線) 방향에 수직한 근 평면(near plane) 또는 원 평면(far plane)에 의하여 잘려진 사다리꼴 원기둥 또는 사다리꼴 다면체 형태의 유한 영역일 수도 있음)으로 정의될 수 있다. 이러한 뷰잉 프러스텀에 관하여는 본 출원인이 출원한 한국특허출원 제2010-0002340호의 명세서를 참조할 수 있다. 여기서, 상기 명세서는 그 전체로서 본 명세서에 병합된 것으로 간주되어야 한다.
다음으로, 본 발명의 일 실시예에 따르면, 증강 현실 구현부(230)는 단말 장치(200)에 의하여 획득되는 입력 영상 및 입력 영상과 관련된 정보를 합성함으로써 증강 현실을 구현하고, 증강 현실을 시각적으로 표현하는 출력 영상을 생성하는 기능을 수행할 수 있다. 예를 들면, 본 발명의 일 실시예에 따른 증강 현실 구현부(230)는, 입력 영상과 관련된 정보로서 단말 장치(200)의 시야에 포함되어 있는 것으로 판단된 객체(예를 들면, 건물, 상점 등)에 대하여 관심 지점(Point Of Interest: POI)임을 나타내는 소정의 그래픽 요소를 표시하고, 사용자에 의하여 관심 지점이 선택되는 경우에는 해당 객체에 대한 자세한 정보를 제공하도록 할 수 있다. 다른 예를 들면, 본 발명의 일 실시예에 따른 증강 현실 구현부(230)는, 입력 영상과 관련된 정보로서 단말 장치(200)가 위치하는 지점의 주변에 존재하는 객체의 위치를 나타내는 반투명 2차원 지도 또는 단말 장치(200)가 위치하는 지점의 날씨 정보를 포함하는 반투명 정보창이 입력 영상과 겹쳐져(overlap) 표시되는 증강 현실을 구현할 수도 있을 것이다.
다음으로, 본 발명의 일 실시예에 따르면, 사용자 인터페이스부(240)는 단말 장치(200)에 의하여 획득되는 입력 영상 및 입력 영상에 관련된 정보를 이용하여 증강 현실을 구현함에 있어서, 단말 장치(200)의 시야에 포함되지 않는 객체에 대한 안내 정보를 입력 영상과 함께 표시하는 기능을 수행할 수 있다. 보다 구체적으로, 본 발명의 일 실시예에 따른 사용자 인터페이스부(240)는 단말 장치(200)의 시야에 포함되지 않는 것으로 검색된 객체의 존재 여부, 위치, 방향 등을 안내하는 안내 정보를 입력 영상과 함께 표시할 수 있다. 이를 위해서는, 단말 장치(200)의 시야 및 현실 세계에 존재하는 객체의 위치에 관한 정보를 참조로 하여 단말 장치(200)의 시야에 포함되지 않는 객체를 검색하는 과정이 선행되어야 하는데, 이는 후술할 정보 검색부(250)에 의하여 수행될 수 있다.
여기서, 본 발명의 일 실시예에 따라 입력 영상과 함께 표시되는 안내 정보에는, 해당 객체의 명칭을 나타내는 문자열, 단말 장치(200)의 시야를 기준으로 한 해당 객체의 상대적인 위치를 나타내는 그래픽 요소 등이 포함될 수 있다. 다만, 본 발명에 따른 안내 정보가 반드시 상기 열거된 것에 한정되는 것은 아니며, 단말 장치(200)의 시야에 포함되지 않는 객체의 존재 여부, 위치, 방향 등을 암시 또는 안내할 수 있는 정보라면 얼마든지 본 발명에 따른 안내 정보에 포함될 수 있음을 밝혀 둔다.
또한, 본 발명의 일 실시예에 따르면, 사용자 인터페이스부(240)는 입력 영상과 함께 표시되는 안내 정보가 사용자에 의하여 선택되는 것에 대응하여 해당 객체에 대한 보다 상세한 정보를 표시하는 기능을 수행할 수 있다.
구체적으로, 본 발명의 일 실시예에 따른 사용자 인터페이스부(240)는, 단말 장치(200)의 시야를 기준으로 한 객체의 상대적인 위치를 참조로 하여 해당 객체에 대한 안내 정보가 표시되는 위치를 적응적으로 결정하는 기능을 수행할 수 있다. 예를 들면, 단말 장치(200)의 시야에 포함되지 않는 관광지 A가 단말 장치(200)의 시야를 기준으로 하여 오른쪽 위치하는 경우를 가정할 수 있는데, 이러한 경우 본 발명의 일 실시예에 따른 사용자 인터페이스부(240)는 관광지 A에 대한 안내 정보를 출력 영상의 오른쪽 부분에 표시할 수 있다.
보다 구체적으로, 본 발명의 일 실시예에 따른 사용자 인터페이스부(240)는, 객체가 단말 장치(200)의 시야의 경계에 근접한 정도에 따라 해당 객체에 대한 안내 정보를 차등적으로 표시하는 기능을 수행할 수 있다. 예를 들면, 단말 장치(200)가 오른쪽으로 15도 회전되어야 비로소 단말 장치(200)의 시야에 포함될 수 있는 건물 A 및 단말 장치(200)가 오른쪽으로 30도 회전되어야 비로소 단말 장치(200)의 시야에 포함될 수 있는 건물 B에 대한 안내 정보를 제공하는 경우를 가정할 수 있는데, 이러한 경우 건물 A가 건물 B보다 단말 장치(200)의 시야 경계에 더 근접한 것으로 평가될 수 있으며 이에 따라 본 발명의 일 실시예에 따른 사용자 인터페이스부(240)는 출력 영상 내에서 건물 A에 대한 안내 정보가 건물 B에 대한 안내 정보보다 더 크게 표시되도록 하거나 건물 A에 대한 안내 정보보다 건물 B에 대한 안내 정보가 화면 상에서 보다 우측에 표시되도록 하거나 출력 영상 내에 건물 A에 대한 안내 정보만이 표시되도록 할 수도 있는 등 다양한 변형예를 상정해 볼 수 있을 것이다.
도 3은 본 발명의 일 실시예에 따라 단말 장치의 시야에 포함되지 않는 객체에 대한 안내 정보를 제공하는 구성을 예시적으로 나타내는 도면이다.
도 3을 참조하면, 본 발명의 일 실시예에 따라 단말 장치(200)의 시야에 포함되지 않는 객체에 대한 안내 정보(310, 320)가 증강 현실의 형태로 출력 영상 내에 표시되는 구성을 확인할 수 있다. 보다 구체적으로 살펴보면, 제1 안내 정보(310)는 단말 장치(200)의 시야를 기준으로 하여 왼쪽에 위치하는 "토오미 강남점"이라는 상점을 안내하는 안내 정보로서 해당 상점의 명칭을 나타내는 문자열 및 해당 상점의 위치를 안내하는 화살표를 포함하고 있고, 제2 안내 정보(320)는 단말 장치(200)의 시야를 기준으로 하여 오른쪽에 위치하는 "날으는 물고기"라는 상점을 안내하는 안내 정보로서 해당 상점의 명칭을 나타내는 문자열 및 해당 상점의 위치를 안내하는 화살표를 포함하고 있음을 확인할 수 있다.
한편, 본 발명의 일 실시예에 따르면, 증강 현실로서 구현된 출력 영상 정보를 비롯한 기타 영상 정보는 단말 장치(200)의 표시부(미도시됨)를 통하여 시각적으로 표출될 수 있는데, 예를 들면, 본 발명의 일 실시예에 따른 표시부는 통상의 액정표시장치(LCD: Liquid Crystal Display) 또는 유기 발광 다이오드(OLED: Organic Light Emitting Diodes) 등의 평판 표시 장치일 수 있다.
다음으로, 본 발명의 일 실시예에 따르면, 정보 검색부(250)는 단말 장치(200)의 시야 및 현실 세계에 존재하는 객체의 위치에 관한 정보를 참조로 하여 단말 장치(200)의 시야에 포함되지 않는 객체를 검색하는 기능을 수행할 수 있다.
또한, 본 발명의 일 실시예에 따르면, 정보 검색부(250)는 단말 장치(200)를 통하여 요청된 정보를 제공하기 위하여 정보 제공 서버(300)와 통신하여 필요한 정보를 검색하는 기능을 수행할 수도 있다. 예를 들면, 단말 장치(200)를 통하여 상점 A에 대한 정보가 요청된 경우를 가정할 수 있는데, 이러한 경우 본 발명의 일 실시예에 따른 정보 검색부(250)는 공지의 정보 검색 포털 서버에 접속하여 상점 A의 위치, 전화 번호, 판매 상품, 이용 후기 등에 관한 정보를 검색하고, 상기 검색된 정보 중 적어도 일부가 단말 장치(200)에 제공되도록 하는 기능을 수행할 수 있다.
다음으로, 본 발명의 일 실시예에 따르면, 통신부(260)는 단말 장치(200)가 정보 제공 서버(300) 등과 같은 외부 시스템과 통신할 수 있도록 하는 기능을 수행한다.
마지막으로, 본 발명의 일 실시예에 따르면, 제어부(270)는 입력 영상 획득부(210), 위치 및 자세 산출부(220), 증강 현실 구현부(230), 사용자 인터페이스부(240), 정보 검색부(250) 및 통신부(260) 간의 데이터의 흐름을 제어하는 기능을 수행한다. 즉, 제어부(270)는 외부로부터의 또는 단말 장치(200)의 각 구성요소 간의 데이터의 흐름을 제어함으로써, 입력 영상 획득부(210), 위치 및 자세 산출부(220), 증강 현실 구현부(230), 사용자 인터페이스부(240), 정보 검색부(250) 및 통신부(260)에서 각각 고유 기능을 수행하도록 제어한다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims (9)

  1. 단말 장치로 입력되는 입력 영상 및 상기 입력 영상에 관련된 정보를 이용하여 증강 현실(Augmented Reality: AR)을 구현함에 있어서, 상기 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법으로서,
    (a) 상기 단말 장치의 위치, 자세 및 시야각 중 적어도 하나에 관한 정보를 참조로 하여, 상기 입력 영상에 대응되는 상기 단말 장치의 시야를 특정하는 단계,
    (b) 상기 단말 장치의 시야에 포함되지 않는 객체를 검색하는 단계, 및
    (c) 상기 단말 장치의 시야에 포함되지 않는 것으로 검색된 적어도 하나의 객체에 대한 안내 정보를 상기 입력 영상과 함께 증강 현실의 형태로 표시하는 단계
    를 포함하고,
    상기 시야는, 상기 단말 장치를 시점(視點)으로 하는 뷰잉 프러스텀(viewing frustum)에 의하여 특정되는 것을 특징으로 하는 방법.
  2. 단말 장치로 입력되는 입력 영상 및 상기 입력 영상에 관련된 정보를 이용하여 증강 현실(Augmented Reality: AR)을 구현함에 있어서, 상기 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법으로서,
    (a) 상기 단말 장치의 위치, 자세 및 시야각 중 적어도 하나에 관한 정보를 참조로 하여, 상기 입력 영상에 대응되는 상기 단말 장치의 시야를 특정하는 단계,
    (b) 상기 단말 장치의 시야에 포함되지 않는 객체를 검색하는 단계, 및
    (c) 상기 단말 장치의 시야에 포함되지 않는 것으로 검색된 적어도 하나의 객체에 대한 안내 정보를 상기 입력 영상과 함께 증강 현실의 형태로 표시하는 단계
    를 포함하고,
    상기 안내 정보에는, 상기 적어도 하나의 객체의 명칭을 나타내는 문자열 및 상기 시야를 기준으로 한 상기 적어도 하나의 객체의 상대적인 위치를 나타내는 그래픽 요소 중 적어도 하나가 포함되는 것을 특징으로 하는 방법.
  3. 제1항 또는 제2항에 있어서,
    상기 (c) 단계에서,
    상기 시야를 기준으로 한 상기 적어도 하나의 객체의 상대적인 위치를 참조로 하여, 상기 적어도 하나의 객체에 대한 안내 정보가 표시되는 위치를 적응적으로 결정하는 것을 특징으로 하는 방법.
  4. 제1항 또는 제2항에 있어서,
    상기 (c) 단계에서,
    객체가 상기 시야의 경계와 근접한 정도에 따라 상기 적어도 하나의 객체에 대한 안내 정보를 차등적으로 표시하는 것을 특징으로 하는 방법.
  5. 단말 장치로 입력되는 입력 영상 및 상기 입력 영상에 관련된 정보를 이용하여 증강 현실(Augmented Reality: AR)을 구현함에 있어서, 상기 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 단말 장치로서,
    상기 단말 장치의 위치, 자세 및 시야각 중 적어도 하나에 관한 정보를 참조로 하여, 상기 입력 영상에 대응되는 상기 단말 장치의 시야를 특정하는 자세 및 위치 산출부,
    상기 단말 장치의 시야에 포함되지 않는 객체를 검색하는 정보 검색부, 및
    상기 단말 장치의 시야에 포함되지 않는 것으로 검색된 적어도 하나의 객체에 대한 안내 정보를 상기 입력 영상과 함께 증강 현실의 형태로 표시하는 사용자 인터페이스부
    를 포함하고,
    상기 시야는, 상기 단말 장치를 시점(視點)으로 하는 뷰잉 프러스텀(viewing frustum)에 의하여 특정되는 것을 특징으로 하는 단말 장치.
  6. 단말 장치로 입력되는 입력 영상 및 상기 입력 영상에 관련된 정보를 이용하여 증강 현실(Augmented Reality: AR)을 구현함에 있어서, 상기 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 단말 장치로서,
    상기 단말 장치의 위치, 자세 및 시야각 중 적어도 하나에 관한 정보를 참조로 하여, 상기 입력 영상에 대응되는 상기 단말 장치의 시야를 특정하는 자세 및 위치 산출부,
    상기 단말 장치의 시야에 포함되지 않는 객체를 검색하는 정보 검색부, 및
    상기 단말 장치의 시야에 포함되지 않는 것으로 검색된 적어도 하나의 객체에 대한 안내 정보를 상기 입력 영상과 함께 증강 현실의 형태로 표시하는 사용자 인터페이스부
    를 포함하고,
    상기 안내 정보에는, 상기 적어도 하나의 객체의 명칭을 나타내는 문자열 및 상기 시야를 기준으로 한 상기 적어도 하나의 객체의 상대적인 위치를 나타내는 그래픽 요소 중 적어도 하나가 포함되는 것을 특징으로 하는 단말 장치.
  7. 제5항 또는 제6항에 있어서,
    상기 사용자 인터페이스부는, 상기 시야를 기준으로 한 상기 적어도 하나의 객체의 상대적인 위치를 참조로 하여, 상기 적어도 하나의 객체에 대한 안내 정보가 표시되는 위치를 ]적응적으로 결정하는 것을 특징으로 하는 단말 장치.
  8. 제5항 또는 제6항에 있어서,
    상기 사용자 인터페이스부는, 객체가 상기 시야의 경계와 근접한 정도에 따라 상기 적어도 하나의 객체에 대한 안내 정보를 차등적으로 표시하는 것을 특징으로 하는 단말 장치.
  9. 제1항 내지 제4항 중 어느 한 항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체.
PCT/KR2010/009615 2010-01-29 2010-12-31 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체 WO2011093598A2 (ko)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN201080062619.5A CN102770843B (zh) 2010-01-29 2010-12-31 提供未包括在终端装置视野中的对象的信息的方法、装置和终端
JP2012551076A JP5324714B2 (ja) 2010-01-29 2010-12-31 端末装置の視野に含まれていない客体に関する情報を提供するための方法、端末装置及びコンピュータプログラム
US13/378,421 US8373725B2 (en) 2010-01-29 2010-12-31 Method for providing information on object which is not included in visual field of terminal device, terminal device and computer readable recording medium
AU2010344676A AU2010344676B2 (en) 2010-01-29 2010-12-31 Method for providing information on object which is not included in visual field of terminal device, terminal device and computer readable recording medium
EP10844822.6A EP2530588A4 (en) 2010-01-29 2010-12-31 METHOD FOR PROVIDING INFORMATION RELATING TO AN OBJECT NOT INCLUDED IN THE FIELD OF VISION OF A TERMINAL DEVICE, TERMINAL DEVICE AND RECORDING MEDIUM READABLE TO A COMPUTER
US13/733,382 US8947457B2 (en) 2010-01-29 2013-01-03 Method for providing information on object which is not included in visual field of terminal device, terminal device and computer readable recording medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020100008588A KR100989663B1 (ko) 2010-01-29 2010-01-29 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체
KR10-2010-0008588 2010-01-29

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US13/378,421 A-371-Of-International US8373725B2 (en) 2010-01-29 2010-12-31 Method for providing information on object which is not included in visual field of terminal device, terminal device and computer readable recording medium
US13/733,382 Continuation US8947457B2 (en) 2010-01-29 2013-01-03 Method for providing information on object which is not included in visual field of terminal device, terminal device and computer readable recording medium

Publications (3)

Publication Number Publication Date
WO2011093598A2 true WO2011093598A2 (ko) 2011-08-04
WO2011093598A3 WO2011093598A3 (ko) 2011-10-27
WO2011093598A9 WO2011093598A9 (ko) 2011-12-15

Family

ID=43135784

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2010/009615 WO2011093598A2 (ko) 2010-01-29 2010-12-31 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체

Country Status (7)

Country Link
US (2) US8373725B2 (ko)
EP (1) EP2530588A4 (ko)
JP (1) JP5324714B2 (ko)
KR (1) KR100989663B1 (ko)
CN (1) CN102770843B (ko)
AU (1) AU2010344676B2 (ko)
WO (1) WO2011093598A2 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013172354A (ja) * 2012-02-22 2013-09-02 Nec Corp 無線通信システム、ａｒ位置情報配信装置、移動局、ａｒ位置情報交換システムおよびａｒ位置情報交換方法
US20130229535A1 (en) * 2012-03-05 2013-09-05 Sony Corporation Client terminal, server, and program
WO2014162825A1 (ja) * 2013-04-04 2014-10-09 ソニー株式会社 表示制御装置、表示制御方法およびプログラム

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9582937B2 (en) * 2008-01-02 2017-02-28 Nokia Technologies Oy Method, apparatus and computer program product for displaying an indication of an object within a current field of view
US8239132B2 (en) * 2008-01-22 2012-08-07 Maran Ma Systems, apparatus and methods for delivery of location-oriented information
JP5195885B2 (ja) 2010-12-07 2013-05-15 カシオ計算機株式会社 情報表示システム、情報表示装置、および、プログラム
JP5170223B2 (ja) * 2010-12-07 2013-03-27 カシオ計算機株式会社 情報表示システム、情報表示装置、情報提供装置、および、プログラム
KR101266898B1 (ko) 2011-09-21 2013-05-23 고려대학교 산학협력단 시야각을 이용한 최근접 질의 처리 방법
US9930128B2 (en) * 2011-09-30 2018-03-27 Nokia Technologies Oy Method and apparatus for accessing a virtual object
US9646522B2 (en) * 2012-06-29 2017-05-09 Intel Corporation Enhanced information delivery using a transparent display
US20140036771A1 (en) * 2012-07-31 2014-02-06 Emerson Electric Co. Networked Video Bridge Device
US20140168264A1 (en) 2012-12-19 2014-06-19 Lockheed Martin Corporation System, method and computer program product for real-time alignment of an augmented reality device
KR101478908B1 (ko) * 2013-05-14 2015-01-02 고려대학교 산학협력단 증강 현실 기술을 이용한 이동 로봇의 원격 내비게이션 시스템
US9437170B1 (en) * 2013-08-12 2016-09-06 Roberto Quevedo Montesdeoca Systems and methods for augmented reality display
CN104679973A (zh) * 2013-12-03 2015-06-03 深圳市艾酷通信软件有限公司 一种用于移动终端上的文件系统及其实现方法
JP6299234B2 (ja) * 2014-01-23 2018-03-28 富士通株式会社 表示制御方法、情報処理装置、および表示制御プログラム
US10887565B2 (en) * 2014-05-09 2021-01-05 Sony Corporation Information processing device and information processing method
TWI518634B (zh) * 2014-12-16 2016-01-21 財團法人工業技術研究院 擴增實境方法與系統
KR102407296B1 (ko) * 2015-07-30 2022-06-10 현대오토에버 주식회사 관심지점 표시 장치 및 방법
US20170053621A1 (en) * 2015-08-20 2017-02-23 Microsoft Technology Licensing, Llc Roundtrip Reintegration of Asynchronous 3D Session
US10235808B2 (en) 2015-08-20 2019-03-19 Microsoft Technology Licensing, Llc Communication system
US10169917B2 (en) 2015-08-20 2019-01-01 Microsoft Technology Licensing, Llc Augmented reality
JP6886236B2 (ja) 2015-09-30 2021-06-16 富士通株式会社 視野誘導方法、視野誘導プログラム、及び視野誘導装置
US10585939B2 (en) * 2016-10-11 2020-03-10 International Business Machines Corporation Real time object description service integrated with knowledge center on augmented reality (AR) and virtual reality (VR) devices
US10373358B2 (en) 2016-11-09 2019-08-06 Sony Corporation Edge user interface for augmenting camera viewfinder with information
CN106527725A (zh) * 2016-11-16 2017-03-22 上海楼顶网络科技有限公司 一种vr/ar环境下的利用视野中心轨迹给设备输入信息或指令的方法
CN106980379B (zh) * 2017-03-30 2020-05-19 联想(北京)有限公司 一种显示方法及终端
IT201700058961A1 (it) 2017-05-30 2018-11-30 Artglass S R L Metodo e sistema di fruizione di un contenuto editoriale in un sito preferibilmente culturale o artistico o paesaggistico o naturalistico o fieristico o espositivo
CN109992089A (zh) * 2017-12-29 2019-07-09 索尼公司 电子设备、无线通信系统、方法和计算机可读存储介质
JP7195118B2 (ja) * 2018-11-14 2022-12-23 エヌ・ティ・ティ・コムウェア株式会社 情報表示システム、情報表示方法及び情報表示プログラム
EP3956697A4 (en) * 2019-04-17 2022-12-28 Apple Inc. USER INTERFACES TO TRACK AND LOCATE ITEMS
WO2020223176A1 (en) 2019-04-28 2020-11-05 Prestacom Services Llc Generating tactile output sequences associated with an object
US10699124B1 (en) * 2019-09-09 2020-06-30 Ar, Llc Augmented reality content selection and display based on printed objects having security features
JP7156242B2 (ja) * 2019-10-18 2022-10-19 トヨタ自動車株式会社 情報処理装置、プログラム及び制御方法
CN116261708A (zh) 2020-09-25 2023-06-13 苹果公司 用于跟踪和查找物品的用户界面

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100002340A (ko) 2008-06-30 2010-01-07 윤현진 멀티 식탁

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6903752B2 (en) 2001-07-16 2005-06-07 Information Decision Technologies, Llc Method to view unseen atmospheric phenomenon using augmented reality
US20040238732A1 (en) 2001-10-19 2004-12-02 Andrei State Methods and systems for dynamic virtual convergence and head mountable display
JP2003323239A (ja) * 2002-05-08 2003-11-14 Sony Corp 情報処理装置及び情報処理方法、記憶媒体、並びにコンピュータ・プログラム
JP2005149409A (ja) * 2003-11-19 2005-06-09 Canon Inc 画像再生方法及び装置
US7129887B2 (en) 2004-04-15 2006-10-31 Lockheed Martin Ms2 Augmented reality traffic control center
US7460953B2 (en) * 2004-06-30 2008-12-02 Navteq North America, Llc Method of operating a navigation system using images
JP2006105640A (ja) * 2004-10-01 2006-04-20 Hitachi Ltd ナビゲーション装置
US7720436B2 (en) * 2006-01-09 2010-05-18 Nokia Corporation Displaying network objects in mobile devices based on geolocation
WO2006070047A1 (en) * 2004-12-31 2006-07-06 Nokia Corporation Provision of target specific information
KR100983912B1 (ko) * 2008-04-04 2010-09-27 한국과학기술연구원 증강 현실 기법을 이용한 정보처리 장치 및 정보 입력,검색방법
KR100929331B1 (ko) * 2008-04-30 2009-12-03 팅크웨어(주) 3차원 방향 표시 생성 방법 및 장치
KR100975128B1 (ko) 2010-01-11 2010-08-11 (주)올라웍스 뷰잉 프러스텀을 이용하여 객체에 대한 정보를 제공하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100002340A (ko) 2008-06-30 2010-01-07 윤현진 멀티 식탁

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013172354A (ja) * 2012-02-22 2013-09-02 Nec Corp 無線通信システム、ａｒ位置情報配信装置、移動局、ａｒ位置情報交換システムおよびａｒ位置情報交換方法
US20130229535A1 (en) * 2012-03-05 2013-09-05 Sony Corporation Client terminal, server, and program
CN103312958A (zh) * 2012-03-05 2013-09-18 索尼公司 客户机终端、服务器以及程序
CN103312958B (zh) * 2012-03-05 2018-11-02 索尼公司 客户机终端、服务器以及程序
US10235805B2 (en) * 2012-03-05 2019-03-19 Sony Corporation Client terminal and server for guiding a user
WO2014162825A1 (ja) * 2013-04-04 2014-10-09 ソニー株式会社 表示制御装置、表示制御方法およびプログラム
JPWO2014162825A1 (ja) * 2013-04-04 2017-02-16 ソニー株式会社 表示制御装置、表示制御方法およびプログラム

Also Published As

Publication number Publication date
US8373725B2 (en) 2013-02-12
JP5324714B2 (ja) 2013-10-23
KR100989663B1 (ko) 2010-10-26
EP2530588A2 (en) 2012-12-05
EP2530588A4 (en) 2014-07-09
CN102770843B (zh) 2016-01-27
AU2010344676A1 (en) 2012-08-16
CN102770843A (zh) 2012-11-07
JP2013518275A (ja) 2013-05-20
US20130182011A1 (en) 2013-07-18
WO2011093598A3 (ko) 2011-10-27
US20120092373A1 (en) 2012-04-19
US8947457B2 (en) 2015-02-03
AU2010344676B2 (en) 2013-09-12
WO2011093598A9 (ko) 2011-12-15

Similar Documents

Publication Publication Date Title
WO2011093598A2 (ko) 단말 장치의 시야에 포함되지 않는 객체에 대한 정보를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체
WO2011096668A2 (ko) 단말 장치의 시야에 포함되는 객체에 대한 정보를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체
US11692842B2 (en) Augmented reality maps
WO2011136608A2 (ko) 단말 장치로 입력되는 입력 영상 및 상기 입력 영상에 관련된 정보를 이용하여 증강 현실을 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체
CA2799443C (en) Method and apparatus for presenting location-based content
JP6110938B2 (ja) 仮想表示機能を改善させた頭部装着コンピュータ
WO2014033354A1 (en) A method and apparatus for updating a field of view in a user interface
WO2012112009A2 (en) Method and mobile apparatus for displaying an augmented reality
JP4969053B2 (ja) 携帯端末装置及び表示方法
WO2011083929A2 (ko) 뷰잉 프러스텀을 이용하여 객체에 대한 정보를 제공하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체
WO2011034306A2 (ko) 파노라마 이미지 사이의 중복을 제거하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체
JP5357966B2 (ja) 情報システム、サーバ装置、端末装置、情報処理方法、およびプログラム
JP7065455B2 (ja) スポット情報表示システム
AU2013242831B2 (en) Method for providing information on object which is not included in visual field of terminal device, terminal device and computer readable recording medium
CN115294192A (zh) 基于车载序列全景影像的目标绝对定位方法及装置
KR20110121494A (ko) 증강 현실을 이용하여 예약 서비스를 제공하기 위한 방법, 단말 장치 및 컴퓨터 판독 가능한 기록 매체

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201080062619.5

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 10844822

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 13378421

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2010344676

Country of ref document: AU

WWE Wipo information: entry into national phase

Ref document number: 2010844822

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2012551076

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2010344676

Country of ref document: AU

Date of ref document: 20101231

Kind code of ref document: A