WO2016013692A1 - 헤드 마운티드 디스플레이 및 그 제어방법 - Google Patents

헤드 마운티드 디스플레이 및 그 제어방법 Download PDF

Info

Publication number
WO2016013692A1
WO2016013692A1 PCT/KR2014/006629 KR2014006629W WO2016013692A1 WO 2016013692 A1 WO2016013692 A1 WO 2016013692A1 KR 2014006629 W KR2014006629 W KR 2014006629W WO 2016013692 A1 WO2016013692 A1 WO 2016013692A1
Authority
WO
WIPO (PCT)
Prior art keywords
hmd
user
display
content
thumbnail image
Prior art date
Application number
PCT/KR2014/006629
Other languages
English (en)
French (fr)
Inventor
천시내
이도영
Original Assignee
엘지전자(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자(주) filed Critical 엘지전자(주)
Priority to US15/328,316 priority Critical patent/US10217258B2/en
Priority to PCT/KR2014/006629 priority patent/WO2016013692A1/ko
Priority to EP14897954.5A priority patent/EP3173848B1/en
Publication of WO2016013692A1 publication Critical patent/WO2016013692A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/60—Editing figures and text; Combining figures or text
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/02—Viewing or reading apparatus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/64—Constructional details of receivers, e.g. cabinets or dust covers
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0132—Head-up displays characterised by optical features comprising binocular systems
    • G02B2027/0134—Head-up displays characterised by optical features comprising binocular systems of stereoscopic type
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B2027/0178—Eyeglass type
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]

Definitions

  • the present invention relates to a head mounted display capable of providing a thumbnail image for reproducing a portion having a large disturbance value in a content display in a virtual area, and a control method thereof.
  • Terminals may be divided into mobile / portable terminals and stationary terminals according to their mobility.
  • the mobile terminal may be further classified into a handheld terminal and a vehicle mounted terminal according to whether a user can directly carry it.
  • HMD head mounted display
  • the HMD may be in a form similar to glasses. For example, it may be worn on the user's face in a form similar to glasses to provide information to the user.
  • the information provided to the user may be visual and / or auditory information.
  • the visual information may be displayed in a manner that seems to float in a certain area within the user's field of view. In this way, information can be provided in the form of Augmented Reality (AR).
  • AR Augmented Reality
  • a display to achieve the above or another object, a display; sensor; And displaying at least one content displayed on the display in a virtual area within a user's field of view, and selecting and playing a point exceeding the threshold value when the disturbance value detected by the sensor is greater than or equal to a threshold value. It provides a control unit for displaying a thumbnail image.
  • the step of displaying the content in the virtual area within the user's field of view Generating at least one thumbnail image for selecting and playing a point exceeding the threshold value of the content when the disturbance value of the content is greater than or equal to a threshold value; And displaying the generated thumbnail image.
  • FIG. 1 is a block diagram illustrating an HMD related to the present invention.
  • FIG. 2 is a diagram illustrating a glasses type HMD which is an embodiment of FIG. 1 HMD.
  • FIG. 3 is a flowchart illustrating the operation of the HMD of FIG. 1.
  • FIG. 4 and 5 are diagrams illustrating the operation of the FIG. 1 HMD.
  • FIG. 6 and 7 illustrate a virtual region content display of the HMD of FIG. 1.
  • FIG. 8 to 11 are diagrams illustrating a virtual area setting within a viewing range of the HMD of FIG. 1.
  • FIG. 18 to 22 are views illustrating thumbnail display and a corresponding part reproducing operation of the HMD of FIG. 1.
  • 23 to 25 are diagrams illustrating a thumbnail display method of FIG. 1 HMD.
  • 26 to 28 are diagrams illustrating a representative thumbnail display method of FIG. 1 HMD.
  • 29 to 31 are views illustrating thumbnail display time points of the HMD of FIG. 1.
  • FIG. 32 is a view illustrating a time point of generating a thumbnail of FIG. 1 HMD.
  • the mobile terminal described herein includes a mobile phone, a smart phone, a laptop computer, a digital broadcasting terminal, a personal digital assistant, a portable multimedia player, a navigation, a slate PC , Tablet PCs, ultrabooks, wearable devices, such as smartwatches, glass glasses, head mounted displays, and the like. have.
  • FIG. 1 is a block diagram illustrating an electronic device according to the present invention.
  • the head mounted display (HMD) 100 includes a wireless communication unit 110, an input unit 120, a detection unit 140, an output unit 150, an interface unit 160, a memory 170, and a controller ( 180 and the power supply unit 190 may be included.
  • the components shown in FIG. 1 are not essential to implementing a terminal, so a terminal described herein may have more or fewer components than those listed above.
  • the wireless communication unit 110 of the components the wireless communication between the HMD 100 and the wireless communication system, between the HMD 100 and another HMD 100, or between the HMD 100 and an external server. It may include one or more modules that enable. In addition, the wireless communication unit 110 may include one or more modules for connecting the HMD 100 to one or more networks.
  • the wireless communication unit 110 may include at least one of the broadcast receiving module 111, the mobile communication module 112, the wireless internet module 113, the short range communication module 114, and the location information module 115. .
  • the input unit 120 may include a camera 121 or an image input unit for inputting an image signal, a microphone 122 for inputting an audio signal, an audio input unit, or a user input unit 123 for receiving information from a user. , Touch keys, mechanical keys, and the like.
  • the voice data or the image data collected by the input unit 120 may be analyzed and processed as a control command of the user.
  • the sensing unit 140 may include one or more sensors for sensing at least one of information in the HMD, surrounding environment information surrounding the HMD, and user information.
  • the sensing unit 140 may include a proximity sensor 141, an illumination sensor 142, an illumination sensor, a touch sensor, an acceleration sensor, a magnetic sensor, and gravity.
  • Optical sensors e.g. cameras 121), microphones (see 122), battery gauges, environmental sensors (e.g.
  • the HMD disclosed herein may use a combination of information sensed by at least two or more of these sensors.
  • the output unit 150 is for generating an output related to sight, hearing, or tactile sense, and includes at least one of the display unit 151, the audio output unit 152, the hap tip module 153, and the light output unit 154. can do.
  • the display unit 151 forms a layer structure with or is integrally formed with the touch sensor, thereby implementing a touch screen. Such a touch screen may provide an output interface between the HMD 100 and the user while functioning as a user input unit 123 that provides an input interface between the HMD 100 and the user.
  • the interface unit 160 serves as a path to various types of external devices connected to the HMD 100.
  • the interface unit 160 connects a device equipped with a wired / wireless headset port, an external charger port, a wired / wireless data port, a memory card port, and an identification module. It may include at least one of a port, an audio input / output (I / O) port, a video input / output (I / O) port, and an earphone port.
  • I / O audio input / output
  • I / O video input / output
  • earphone port an earphone port
  • the memory 170 stores data supporting various functions of the HMD 100.
  • the memory 170 may store a plurality of application programs or applications that are driven by the HMD 100, data for operating the HMD 100, and instructions. At least some of these applications may be downloaded from an external server via wireless communication. In addition, at least some of these applications may exist on the HMD 100 from the time of shipment for basic functions of the HMD 100 (for example, a call forwarding, an outgoing function, a message receiving, and a calling function).
  • the application program may be stored in the memory 170 and installed on the HMD 100 to be driven by the controller 180 to perform an operation (or function) of the HMD.
  • the controller 180 In addition to the operation related to the application program, the controller 180 typically controls the overall operation of the HMD 100.
  • the controller 180 may provide or process information or a function appropriate to a user by processing signals, data, information, and the like, which are input or output through the above-described components, or by driving an application program stored in the memory 170.
  • controller 180 may control at least some of the components described with reference to FIG. 1A in order to drive an application program stored in the memory 170. In addition, the controller 180 may operate by combining at least two or more of the components included in the HMD 100 to drive the application program.
  • the power supply unit 190 receives power from an external power source and an internal power source under the control of the controller 180 to supply power to each component included in the HMD 100.
  • the power supply unit 190 includes a battery, which may be a built-in battery or a replaceable battery.
  • At least some of the components may operate in cooperation with each other to implement an operation, control, or control method of the HMD according to various embodiments described below.
  • the operation, control, or control method of the HMD may be implemented on the HMD by driving at least one application program stored in the memory 170.
  • the broadcast receiving module 111 of the wireless communication unit 110 receives a broadcast signal and / or broadcast related information from an external broadcast management server through a broadcast channel.
  • the broadcast channel may include a satellite channel and a terrestrial channel.
  • Two or more broadcast reception modules may be provided to the HMD 100 for simultaneous broadcast reception or broadcast channel switching for at least two broadcast channels.
  • the broadcast management server may mean a server that generates and transmits a broadcast signal and / or broadcast related information or a server that receives a previously generated broadcast signal and / or broadcast related information and transmits the same to a terminal.
  • the broadcast signal may include not only a TV broadcast signal, a radio broadcast signal, and a data broadcast signal, but also a broadcast signal having a data broadcast signal combined with a TV broadcast signal or a radio broadcast signal.
  • the broadcast signal may be encoded according to at least one of technical standards (or broadcast methods, for example, ISO, IEC, DVB, ATSC, etc.) for transmitting and receiving digital broadcast signals, and the broadcast receiving module 111 may
  • the digital broadcast signal may be received by using a method suitable for the technical standard set by the technical standards.
  • the broadcast associated information may mean information related to a broadcast channel, a broadcast program, or a broadcast service provider.
  • the broadcast related information may also be provided through a mobile communication network. In this case, it may be received by the mobile communication module 112.
  • the broadcast related information may exist in various forms such as an electronic program guide (EPG) of digital multimedia broadcasting (DMB) or an electronic service guide (ESG) of digital video broadcast-handheld (DVB-H).
  • EPG electronic program guide
  • ESG electronic service guide
  • the broadcast signal and / or broadcast related information received through the broadcast receiving module 111 may be stored in the memory 160.
  • the mobile communication module 112 may include technical standards or communication schemes (eg, Global System for Mobile communication (GSM), Code Division Multi Access (CDMA), Code Division Multi Access 2000 (CDMA2000), and EV).
  • GSM Global System for Mobile communication
  • CDMA Code Division Multi Access
  • CDMA2000 Code Division Multi Access 2000
  • EV Enhanced Voice-Data Optimized or Enhanced Voice-Data Only (DO), Wideband CDMA (WCDMA), High Speed Downlink Packet Access (HSDPA), High Speed Uplink Packet Access (HSUPA), Long Term Evolution (LTE), LTE-A (Long Term Evolution-Advanced) and the like to transmit and receive a radio signal with at least one of a base station, an external terminal, a server on a mobile communication network.
  • GSM Global System for Mobile communication
  • CDMA Code Division Multi Access
  • CDMA2000 Code Division Multi Access 2000
  • EV Enhanced Voice-Data Optimized or Enhanced Voice-Data Only (DO)
  • WCDMA Wideband CDMA
  • HSDPA High
  • the wireless signal may include various types of data according to transmission and reception of a voice call signal, a video call call signal, or a text / multimedia message.
  • the wireless internet module 113 refers to a module for wireless internet access and may be embedded or external to the HMD 100.
  • the wireless internet module 113 is configured to transmit and receive wireless signals in a communication network according to wireless internet technologies.
  • wireless Internet technologies include Wireless LAN (WLAN), Wireless-Fidelity (Wi-Fi), Wireless Fidelity (Wi-Fi) Direct, Digital Living Network Alliance (DLNA), Wireless Broadband (WiBro), and WiMAX (World).
  • the wireless Internet module 113 for performing a wireless Internet access through the mobile communication network 113 May be understood as a kind of mobile communication module 112.
  • the short range communication module 114 is for short range communication, and includes Bluetooth TM, Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, and NFC. (Near Field Communication), at least one of Wi-Fi (Wireless-Fidelity), Wi-Fi Direct, Wireless USB (Wireless Universal Serial Bus) technology can be used to support short-range communication.
  • the short-range communication module 114 may be configured between the HMD 100 and the wireless communication system, between the HMD 100 and another HMD 100, or between the HMD 100 and another terminal through a wireless area network. (Or an external server) can support wireless communication between the network is located.
  • the short range wireless communication network may be short range wireless personal area networks.
  • the other HMD 100 is a wearable device capable of exchanging (or interworking with) the data with the HMD 100 according to the present invention, for example, a smartwatch, smart glasses. glass, head mounted display (HMD).
  • the short range communication module 114 may detect (or recognize) a wearable device that can communicate with the HMD 100 around the HMD 100. Further, when the detected wearable device is a device that is authenticated to communicate with the HMD 100 according to the present invention, the controller 180 may include at least a portion of data processed by the HMD 100 in the short range communication module 114. Through the transmission to the wearable device. Therefore, the user of the wearable device may use data processed by the HMD 100 through the wearable device.
  • the user when a call is received by the HMD 100, the user performs a phone call through the wearable device, or when the message is received by the HMD 100, the user receives the received message through the wearable device. It is possible to confirm.
  • the location information module 115 is a module for obtaining the location (or current location) of the HMD, and a representative example thereof may be a Global Positioning System (GPS) module or a Wireless Fidelity (WiFi) module.
  • GPS Global Positioning System
  • Wi-Fi Wireless Fidelity
  • the HMD can acquire the position of the HMD using a signal transmitted from a GPS satellite.
  • the HMD may acquire the location of the HMD based on information of the wireless access point (AP) transmitting or receiving the Wi-Fi module and the radio signal.
  • the location information module 115 may perform any function of other modules of the wireless communication unit 110 to substitute or additionally obtain data regarding the location of the HMD.
  • the location information module 115 is a module used to acquire the location (or current location) of the HMD, and is not limited to a module that directly calculates or obtains the location of the HMD.
  • the input unit 120 is for inputting image information (or signal), audio information (or signal), data, or information input from a user, and for inputting image information, the HMD 100 is one or more.
  • a plurality of cameras 121 may be provided.
  • the camera 121 processes image frames such as still images or moving images obtained by the image sensor in the video call mode or the photographing mode.
  • the processed image frame may be displayed on the display unit 151 or stored in the memory 170.
  • the plurality of cameras 121 provided in the HMD 100 may be arranged to form a matrix structure, and the plurality of cameras 121 having the various angles or focuses to the HMD 100 through the camera 121 forming the matrix structure.
  • Image information of may be input.
  • the plurality of cameras 121 may be arranged in a stereo structure to acquire a left image and a right image for implementing a stereoscopic image.
  • the microphone 122 processes external sound signals into electrical voice data.
  • the processed voice data may be utilized in various ways depending on the function (or running application program) being performed in the HMD 100. Meanwhile, various noise reduction algorithms may be implemented in the microphone 122 to remove noise generated in the process of receiving an external sound signal.
  • the user input unit 123 is for receiving information from a user. When information is input through the user input unit 123, the controller 180 may control an operation of the HMD 100 to correspond to the input information.
  • the user input unit 123 may be a mechanical input unit (or a mechanical key, for example, buttons located at the front and rear or side surfaces of the HMD 100, a dome switch, a jog wheel, and a jog). Switch, etc.) and touch input means.
  • the touch input means may include a virtual key, a soft key, or a visual key displayed on the touch screen through a software process, or a portion other than the touch screen.
  • the virtual key or the visual key may be displayed on the touch screen while having various forms, for example, graphic or text. ), An icon, a video, or a combination thereof.
  • the sensing unit 140 senses at least one of information in the HMD, surrounding environment information surrounding the HMD, and user information, and generates a sensing signal corresponding thereto.
  • the controller 180 may control driving or operation of the HMD 100 or perform data processing, function or operation related to an application program installed in the HMD 100 based on the sensing signal. Representative sensors among various sensors that may be included in the sensing unit 140 will be described in more detail.
  • the proximity sensor 141 refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or an object present in the vicinity without using a mechanical contact by using an electromagnetic force or infrared rays.
  • the proximity sensor 141 may be disposed at an inner region of the HMD covered by the touch screen as described above or near the touch screen.
  • the proximity sensor 141 examples include a transmission photoelectric sensor, a direct reflection photoelectric sensor, a mirror reflection photoelectric sensor, a high frequency oscillation proximity sensor, a capacitive proximity sensor, a magnetic proximity sensor, and an infrared proximity sensor.
  • the proximity sensor 141 may be configured to detect the proximity of the object by the change of the electric field according to the proximity of the conductive object.
  • the touch screen (or touch sensor) itself may be classified as a proximity sensor.
  • the proximity sensor 141 may detect a proximity touch and a proximity touch pattern (for example, a proximity touch distance, a proximity touch direction, a proximity touch speed, a proximity touch time, a proximity touch position, and a proximity touch movement state). have.
  • the controller 180 processes data (or information) corresponding to the proximity touch operation and the proximity touch pattern detected through the proximity sensor 141 as described above, and further, provides visual information corresponding to the processed data. It can be output on the touch screen. Furthermore, the controller 180 may control the HMD 100 to process different operations or data (or information) according to whether the touch on the same point on the touch screen is a proximity touch or a touch touch.
  • the touch sensor applies a touch (or touch input) applied to the touch screen (or the display unit 151) using at least one of various touch methods such as a resistive film method, a capacitive method, an infrared method, an ultrasonic method, and a magnetic field method. Detect.
  • the touch sensor may be configured to convert a change in pressure applied to a specific portion of the touch screen or capacitance generated at the specific portion into an electrical input signal.
  • the touch sensor may be configured to detect a position, an area, a pressure at the touch, a capacitance at the touch, and the like, when the touch object applying the touch on the touch screen is touched on the touch sensor.
  • the touch object is an object applying a touch to the touch sensor and may be, for example, a finger, a touch pen or a stylus pen, a pointer, or the like.
  • the touch controller processes the signal (s) and then transmits the corresponding data to the controller 180.
  • the controller 180 can know which area of the display unit 151 is touched.
  • the touch controller may be a separate component from the controller 180 or may be the controller 180 itself.
  • the controller 180 may perform different control or perform the same control according to the type of touch object that touches the touch screen (or a touch key provided in addition to the touch screen). Whether to perform different control or the same control according to the type of touch object may be determined according to the operation state of the current HMD 100 or an application program being executed.
  • the touch sensor and the proximity sensor described above may be independently or combined, and may be a short (or tap) touch, a long touch, a multi touch, a drag touch on a touch screen. ), Flick touch, pinch-in touch, pinch-out touch, swipe touch, hovering touch, etc. A touch can be sensed.
  • the ultrasonic sensor may recognize location information of a sensing object using ultrasonic waves.
  • the controller 180 can calculate the position of the wave generation source through the information detected from the optical sensor and the plurality of ultrasonic sensors.
  • the position of the wave source can be calculated using the property that the light is much faster than the ultrasonic wave, that is, the time that the light reaches the optical sensor is much faster than the time when the ultrasonic wave reaches the ultrasonic sensor. More specifically, the position of the wave generation source may be calculated using a time difference from the time when the ultrasonic wave reaches the light as the reference signal.
  • the camera 121 which has been described as the configuration of the input unit 120, includes at least one of a camera sensor (eg, CCD, CMOS, etc.), a photo sensor (or image sensor), and a laser sensor.
  • a camera sensor eg, CCD, CMOS, etc.
  • a photo sensor or image sensor
  • a laser sensor e.g., a laser sensor
  • the camera 121 and the laser sensor may be combined with each other to detect a touch of a sensing object with respect to a 3D stereoscopic image.
  • the photo sensor may be stacked on the display element, which is configured to scan the movement of the sensing object in proximity to the touch screen. More specifically, the photo sensor mounts a photo diode and a transistor (TR) in a row / column and scans contents mounted on the photo sensor by using an electrical signal that varies according to the amount of light applied to the photo diode. That is, the photo sensor calculates coordinates of the sensing object according to the amount of light change, and thus, the position information of the sensing object can be obtained.
  • TR transistor
  • the display unit 151 displays (outputs) information processed by the HMD 100.
  • the display unit 151 may display execution screen information of an application program driven by the HMD 100 or user interface (UI) and graphical user interface (GUI) information according to the execution screen information.
  • UI user interface
  • GUI graphical user interface
  • the display unit 151 may be configured as a stereoscopic display unit for displaying a stereoscopic image.
  • the stereoscopic display unit may be a three-dimensional display method such as a stereoscopic method (glasses method), an auto stereoscopic method (glasses-free method), a projection method (holographic method).
  • a 3D stereoscopic image is composed of a left image (left eye image) and a right image (right eye image).
  • a top-down method in which the left and right images are arranged up and down in one frame according to the way in which the left and right images are merged into three-dimensional stereoscopic images.
  • L-to-R (left-to-right, side by side) method to be arranged as a checker board method to arrange the pieces of the left and right images in the form of tiles, a column unit of the left and right images Or an interlaced method of alternately arranging rows, and a time sequential (frame by frame) method of alternately displaying left and right images by time.
  • the 3D thumbnail image may generate a left image thumbnail and a right image thumbnail from the left image and the right image of the original image frame, respectively, and may be generated as one image as they are combined.
  • a thumbnail refers to a reduced image or a reduced still image.
  • the left image thumbnail and the right image thumbnail generated as described above are displayed with a left and right distance difference on the screen by a depth corresponding to the parallax of the left image and the right image, thereby representing a three-dimensional space.
  • the left image and the right image necessary for implementing the 3D stereoscopic image may be displayed on the stereoscopic display by the stereoscopic processing unit.
  • the stereoscopic processing unit receives 3D images (images of the base view and images of the extended view) and sets left and right images therefrom, or receives 2D images and converts them into left and right images.
  • the sound output unit 152 may output audio data received from the wireless communication unit 110 or stored in the memory 170 in a call signal reception, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, and the like.
  • the sound output unit 152 may also output a sound signal related to a function (eg, a call signal reception sound, a message reception sound, etc.) performed by the HMD 100.
  • the sound output unit 152 may include a receiver, a speaker, a buzzer, and the like.
  • the haptic module 153 generates various haptic effects that a user can feel.
  • a representative example of the tactile effect generated by the haptic module 153 may be vibration.
  • the intensity and pattern of vibration generated by the haptic module 153 may be controlled by the user's selection or the setting of the controller. For example, the haptic module 153 may synthesize different vibrations and output or sequentially output them.
  • the haptic module 153 may be used to stimulate pins that vertically move with respect to the contact skin surface, jetting force or suction force of air through the jetting or suction port, grazing to the skin surface, contact of electrodes, and electrostatic force
  • Various tactile effects can be generated, such as effects by the endothermic and the reproduction of a sense of cold using the elements capable of endothermic heat generation.
  • the haptic module 153 may not only deliver a tactile effect through direct contact, but also may allow a user to feel the tactile effect through a muscle sense such as a finger or an arm.
  • the haptic module 153 may be provided with two or more according to the configuration aspect of the HMD (100).
  • the light output unit 154 outputs a signal for notifying occurrence of an event by using light of a light source of the HMD 100.
  • Examples of events generated in the HMD 100 may be message reception, call signal reception, missed call, alarm, schedule notification, email reception, information reception through an application, and the like.
  • the signal output from the light output unit 154 is implemented as the HMD emits light of a single color or a plurality of colors to the front or the rear.
  • the signal output may be terminated by the HMD detecting the user's event confirmation.
  • the interface unit 160 serves as a path with all external devices connected to the HMD 100.
  • the interface unit 160 receives data from an external device, receives power, transfers the power to each component inside the HMD 100, or transmits data inside the HMD 100 to an external device.
  • the port, audio input / output (I / O) port, video input / output (I / O) port, earphone port, etc. may be included in the interface unit 160.
  • the identification module is a chip that stores a variety of information for authenticating the usage rights of the HMD 100, a user identification module (UIM), subscriber identity module (SIM), universal user authentication module It may include a universal subscriber identity module (USIM) and the like.
  • a device equipped with an identification module (hereinafter referred to as an 'identification device') may be manufactured in the form of a smart card. Therefore, the identification device may be connected to the terminal 100 through the interface unit 160.
  • the interface unit 160 may be a passage for supplying power from the cradle to the HMD 100 when the HMD 100 is connected to an external cradle, or various commands input from the cradle by a user.
  • the signal may be a passage through which the HMD 100 is transmitted.
  • Various command signals or power input from the cradle may operate as signals for recognizing that the HMD 100 is correctly mounted on the cradle.
  • the memory 170 may store a program for the operation of the controller 180 and may temporarily store input / output data (for example, a phone book, a message, a still image, a video, etc.).
  • the memory 170 may store data regarding vibration and sound of various patterns output when a touch input on the touch screen is performed.
  • the memory 170 may include a flash memory type, a hard disk type, a solid state disk type, an SSD type, a silicon disk drive type, and a multimedia card micro type. ), Card-type memory (e.g., SD or XD memory), random access memory (RAM), static random access memory (SRAM), read-only memory (ROM), electrically erasable programmable read It may include at least one type of storage medium of -only memory (PROM), programmable read-only memory (PROM), magnetic memory, magnetic disk and optical disk.
  • the HMD 100 may be operated in connection with a web storage that performs a storage function of the memory 170 on the Internet.
  • the controller 180 controls the operation related to the application program, and typically the overall operation of the HMD (100). For example, if the state of the HMD satisfies the set condition, the controller 180 may execute or release a lock state that restricts input of a user's control command to applications.
  • controller 180 may perform control and processing related to voice call, data communication, video call, or the like, or may perform pattern recognition processing for recognizing handwriting input or drawing input performed on a touch screen as text and images, respectively. Can be. Furthermore, the controller 180 may control any one or a plurality of components described above in order to implement various embodiments described below on the HMD 100 according to the present invention.
  • the power supply unit 190 receives an external power source and an internal power source under the control of the controller 180 to supply power for operation of each component.
  • the power supply unit 190 includes a battery, and the battery may be a built-in battery configured to be rechargeable, and may be detachably coupled to the terminal body for charging.
  • the power supply unit 190 may be provided with a connection port, the connection port may be configured as an example of the interface 160 is electrically connected to the external charger for supplying power for charging the battery.
  • the power supply unit 190 may be configured to charge the battery in a wireless manner without using the connection port.
  • the power supply unit 190 uses one or more of an inductive coupling based on a magnetic induction phenomenon or a magnetic resonance coupling based on an electromagnetic resonance phenomenon from an external wireless power transmitter. Power can be delivered.
  • various embodiments of the present disclosure may be implemented in a recording medium readable by a computer or a similar device using, for example, software, hardware, or a combination thereof.
  • the disclosed HMD 100 has a terminal body in the form of a bar.
  • the present invention is not limited thereto, and the present invention can be applied to various structures such as a watch type, a clip type, a glass type, or a folder type, a flip type, a slide type, a swing type, a swivel type, and two or more bodies which are coupled to be movable relative. .
  • descriptions of specific types of HMDs may generally apply to other types of HMDs.
  • the terminal body may be understood as a concept that refers to the HMD 100 as at least one aggregate.
  • the HMD 100 includes a case (eg, a frame, a housing, a cover, etc.) forming an appearance. As shown, the HMD 100 may include a front case 101 and a rear case 102. Various electronic components are disposed in the internal space formed by the combination of the front case 101 and the rear case 102. At least one middle case may be additionally disposed between the front case 101 and the rear case 102.
  • a case eg, a frame, a housing, a cover, etc.
  • the HMD 100 may include a front case 101 and a rear case 102.
  • Various electronic components are disposed in the internal space formed by the combination of the front case 101 and the rear case 102.
  • At least one middle case may be additionally disposed between the front case 101 and the rear case 102.
  • the display unit 151 may be disposed in front of the terminal body to output information. As shown, the window 151a of the display unit 151 may be mounted to the front case 101 to form a front surface of the terminal body together with the front case 101.
  • an electronic component may be mounted on the rear case 102.
  • Electronic components attachable to the rear case 102 include a removable battery, an identification module, a memory card, and the like.
  • the rear cover 102 may be detachably coupled to the rear case 102 to cover the mounted electronic component. Therefore, when the rear cover 103 is separated from the rear case 102, the electronic components mounted on the rear case 102 are exposed to the outside.
  • the rear cover 103 when the rear cover 103 is coupled to the rear case 102, a portion of the side surface of the rear case 102 may be exposed. In some cases, the rear case 102 may be completely covered by the rear cover 103 during the coupling. On the other hand, the rear cover 103 may be provided with an opening for exposing the camera 121b or the sound output unit 152b to the outside.
  • the cases 101, 102, and 103 may be formed by injecting a synthetic resin, or may be formed of a metal, for example, stainless steel (STS), aluminum (Al), titanium (Ti), or the like.
  • STS stainless steel
  • Al aluminum
  • Ti titanium
  • the HMD 100 may be configured such that one case provides the internal space, unlike the above example in which a plurality of cases provide an internal space for accommodating various electronic components.
  • the HMD 100 of the unibody that the synthetic resin or metal from the side to the rear may be implemented.
  • the HMD 100 may include a waterproof part (not shown) to prevent water from penetrating into the terminal body.
  • the waterproof portion is provided between the window 151a and the front case 101, between the front case 101 and the rear case 102 or between the rear case 102 and the rear cover 103, and a combination thereof. It may include a waterproof member for sealing the inner space.
  • the HMD 100 includes a display unit 151, first and second sound output units 152a and 152b, a proximity sensor 141, an illuminance sensor 142, an optical output unit 154, and first and second cameras. 121a and 121b, first and second manipulation units 123a and 123b, a microphone 122, and an interface unit 160 may be provided.
  • the first operation unit 123a is disposed
  • the second operation unit 123b, the microphone 122, and the interface unit 160 are disposed on the side of the terminal body
  • the second sound output unit 152b is disposed on the rear surface of the terminal body.
  • first manipulation unit 123a may not be provided on the front surface of the terminal body, and the second sound output unit 152b may be provided on the side of the terminal body instead of the rear surface of the terminal body.
  • the display unit 151 displays (outputs) information processed by the HMD 100.
  • the display unit 151 may display execution screen information of an application program driven by the HMD 100 or user interface (UI) and graphical user interface (GUI) information according to the execution screen information.
  • UI user interface
  • GUI graphical user interface
  • the display unit 151 may include a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED), and a flexible display (flexible display). display, a 3D display, or an e-ink display.
  • LCD liquid crystal display
  • TFT LCD thin film transistor-liquid crystal display
  • OLED organic light-emitting diode
  • flexible display flexible display
  • display a 3D display, or an e-ink display.
  • two or more display units 151 may exist according to the implementation form of the HMD 100.
  • the plurality of display units may be spaced apart or integrally disposed on one surface of the HMD 100, or may be disposed on different surfaces.
  • the display unit 151 may include a touch sensor that senses a touch on the display unit 151 so as to receive a control command by a touch method.
  • the touch sensor may sense the touch, and the controller 180 may generate a control command corresponding to the touch based on the touch sensor.
  • the content input by the touch method may be letters or numbers or menu items that can be indicated or designated in various modes.
  • the touch sensor is formed of a film having a touch pattern and disposed between the window 151a and the display (not shown) on the rear surface of the window 151a or directly patterned on the rear surface of the window 151a. May be Alternatively, the touch sensor may be integrally formed with the display. For example, the touch sensor may be disposed on a substrate of the display or provided in the display.
  • the display unit 151 may form a touch screen together with the touch sensor.
  • the touch screen may function as the user input unit 123 (see FIG. 1A).
  • the touch screen may replace at least some functions of the first manipulation unit 123a.
  • the first sound output unit 152a may be implemented as a receiver for transmitting a call sound to the user's ear, and the second sound output unit 152b may be a loud speaker for outputting various alarm sounds or multimedia reproduction sounds. It can be implemented in the form of).
  • a sound hole for emitting sound generated from the first sound output unit 152a may be formed in the window 151a of the display unit 151.
  • the present invention is not limited thereto, and the sound may be configured to be emitted along an assembly gap between the structures (for example, a gap between the window 151a and the front case 101).
  • the appearance of the hole formed independently for the sound output invisible or hidden, the appearance of the HMD 100 can be more simple.
  • the light output unit 154 is configured to output light for notifying when an event occurs. Examples of the event may include message reception, call signal reception, missed call, alarm, schedule notification, email reception, information reception through an application, and the like.
  • the controller 180 may control the light output unit 154 to end the light output.
  • the first camera 121a processes an image frame of a still image or a moving image obtained by the image sensor in a shooting mode or a video call mode.
  • the processed image frame may be displayed on the display unit 151 and stored in the memory 170.
  • the first and second manipulation units 123a and 123b may be collectively referred to as a manipulating portion as an example of the user input unit 123 that is manipulated to receive a command for controlling the operation of the HMD 100. .
  • the first and second manipulation units 123a and 123b may be adopted in any manner as long as the user is tactile manner such as touch, push, scroll, and the like while the user is tactile.
  • the first and second manipulation units 123a and 123b may be employed in such a manner that the first and second manipulation units 123a and 123b are operated without a tactile feeling by the user through proximity touch, hovering touch, or the like.
  • the first operation unit 123a is illustrated as being a touch key, but the present invention is not limited thereto.
  • the first manipulation unit 123a may be a mechanical key or a combination of a touch key and a push key.
  • the contents input by the first and second manipulation units 123a and 123b may be variously set.
  • the first operation unit 123a receives a command such as a menu, a home key, a cancellation, a search, etc.
  • the second operation unit 123b is output from the first or second sound output units 152a and 152b.
  • the user may receive a command such as adjusting the volume of the sound and switching to the touch recognition mode of the display unit 151.
  • a rear input unit (not shown) may be provided on the rear surface of the terminal body.
  • the rear input unit is manipulated to receive a command for controlling the operation of the HMD 100, and the input content may be variously set. For example, commands such as power on / off, start, end, scroll, etc., control of the volume of sound output from the first and second sound output units 152a and 152b, and the touch recognition mode of the display unit 151. Commands such as switching can be received.
  • the rear input unit may be implemented in a form capable of input by touch input, push input, or a combination thereof.
  • the rear input unit may be disposed to overlap the front display unit 151 in the thickness direction of the terminal body.
  • the rear input unit may be disposed at the rear upper end of the terminal body so that the user can easily manipulate the index body when the user grips the terminal body with one hand.
  • the present invention is not necessarily limited thereto, and the position of the rear input unit may be changed.
  • the rear input unit when the rear input unit is provided at the rear of the terminal body, a new type user interface using the same may be implemented.
  • the touch screen or the rear input unit described above replaces at least some functions of the first operation unit 123a provided in the front of the terminal body, the first operation unit 123a is not disposed on the front of the terminal body.
  • the display unit 151 may be configured with a larger screen.
  • the HMD 100 may be provided with a fingerprint recognition sensor for recognizing a user's fingerprint, and the controller 180 may use fingerprint information detected through the fingerprint recognition sensor as an authentication means.
  • the fingerprint recognition sensor may be embedded in the display unit 151 or the user input unit 123.
  • the microphone 122 is configured to receive a user's voice, other sounds, and the like.
  • the microphone 122 may be provided at a plurality of locations and configured to receive stereo sound.
  • the interface unit 160 serves as a path for connecting the HMD 100 to an external device.
  • the interface unit 160 may be connected to another device (eg, an earphone or an external speaker), a port for short-range communication (for example, an infrared port (IrDA Port), or a Bluetooth port (Bluetooth). Port), a wireless LAN port, or the like, or at least one of a power supply terminal for supplying power to the HMD 100.
  • the interface unit 160 may be implemented in the form of a socket for receiving an external card such as a subscriber identification module (SIM) or a user identity module (UIM), a memory card for storing information.
  • SIM subscriber identification module
  • UIM user identity module
  • the second camera 121b may be disposed on the rear surface of the terminal body. In this case, the second camera 121b has a photographing direction substantially opposite to that of the first camera 121a.
  • the second camera 121b may include a plurality of lenses arranged along at least one line.
  • the plurality of lenses may be arranged in a matrix format.
  • Such a camera may be referred to as an "array camera.”
  • the second camera 121b is configured as an array camera, images may be photographed in various ways using a plurality of lenses, and images of better quality may be obtained.
  • the flash 124 may be disposed adjacent to the second camera 121b.
  • the flash 124 shines light toward the subject when the subject is photographed by the second camera 121b.
  • the second sound output unit 152b may be additionally disposed on the terminal body.
  • the second sound output unit 152b may implement a stereo function together with the first sound output unit 152a and may be used to implement a speakerphone mode during a call.
  • the terminal body may be provided with at least one antenna for wireless communication.
  • the antenna may be built in the terminal body or formed in the case.
  • an antenna that forms part of the broadcast receiving module 111 (refer to FIG. 1A) may be configured to be pulled out from the terminal body.
  • the antenna may be formed in a film type and attached to the inner side of the rear cover 103, or may be configured such that a case including a conductive material functions as an antenna.
  • the terminal body is provided with a power supply unit 190 (see FIG. 1A) for supplying power to the HMD 100.
  • the power supply unit 190 may include a battery 191 embedded in the terminal body or detachably configured from the outside of the terminal body.
  • the battery 191 may be configured to receive power through a power cable connected to the interface unit 160.
  • the battery 191 may be configured to enable wireless charging through a wireless charger.
  • the wireless charging may be implemented by a magnetic induction method or a resonance method (magnetic resonance method).
  • the rear cover 103 is coupled to the rear case 102 to cover the battery 191 to limit the detachment of the battery 191 and to protect the battery 191 from external shock and foreign matter.
  • the rear cover 103 may be detachably coupled to the rear case 102.
  • Accessories may be added to the HMD 100 to protect its appearance or to assist or expand the functionality of the HMD 100.
  • One example of such an accessory is a cover or pouch that covers or accommodates at least one side of the HMD 100.
  • the cover or pouch may be configured to interlock with the display unit 151 to expand the function of the HMD 100.
  • Another example of the accessory may be a touch pen for assisting or extending a touch input to a touch screen.
  • the wearable device may be configured to exchange (or interlock) data with another HMD 100.
  • the short range communication module 114 may detect (or recognize) a wearable device that can communicate around the HMD 100. Further, when the detected wearable device is a device authorized to communicate with the HMD 100, the controller 180 transmits at least a part of the data processed by the HMD 100 to the wearable device through the short range communication module 114. Can be. Accordingly, the user may use the data processed by the HMD 100 through the wearable device. For example, when a call is received by the HMD 100, a phone call may be performed through the wearable device, or when the message is received by the HMD 100, the received message may be confirmed through the wearable device.
  • FIG. 2 is a perspective view illustrating an example of a glass type HMD 100 associated with another embodiment of the present invention.
  • Glass-type HMD 100 is configured to be worn on the head of the human body, it may be provided with a frame portion (case, housing, etc.) for this.
  • the frame portion may be formed of a flexible material to facilitate wearing.
  • the frame part includes a first frame 401 and a second frame 402 of different materials.
  • HMD 100 may include features of or similar to that of HMD 100 of FIGS. 1A-1C.
  • the frame part is supported by the head, and provides a space for mounting various components.
  • electronic components such as the control module 480, the sound output module 452, and the like may be mounted in the frame unit.
  • the lens 403 covering at least one of the left eye and the right eye may be detachably mounted to the frame part.
  • the control module 480 is configured to control various electronic components included in the HMD 100.
  • the control module 480 may be understood as a configuration corresponding to the controller 180 described above.
  • the control module 480 is illustrated to be installed in the frame portion on one side head.
  • the position of the control module 480 is not limited thereto.
  • the display unit 451 may be implemented in the form of a head mounted display (HMD).
  • HMD type is a display method mounted on the head and showing an image directly in front of the user's eyes.
  • the display unit 451 may be disposed to correspond to at least one of the left eye and the right eye so as to provide an image directly in front of the user's eyes.
  • the display unit 451 is located at a portion corresponding to the right eye so that an image can be output toward the right eye of the user.
  • the display unit 451 may project an image to the eyes of a user using a prism.
  • the prism can be formed translucent so that the user can see the projected image together with the general field of view (the range the user sees through the eye) together.
  • the HMD 100 may provide an augmented reality (AR) that displays a single image by superimposing a virtual image on a real image or a background using the characteristics of the display.
  • AR augmented reality
  • the camera 421 is disposed adjacent to at least one of the left eye and the right eye, and is formed to capture an image of the front. Since the camera 421 is located adjacent to the eye, the camera 421 may acquire a scene viewed by the user as an image.
  • the camera 421 is provided in the control module 480, but is not necessarily limited thereto.
  • the camera 421 may be installed in the frame portion, or may be provided in plural to acquire a stereoscopic image.
  • the glass type HMD 100 may include user input units 423a and 423b operated to receive a control command.
  • the user input units 423a and 423b may be adopted in any manner as long as it is a tactile manner in which the user operates while having a tactile feeling such as touch or push.
  • the frame unit and the control module 480 are provided with push and touch input user input units 423a and 423b, respectively.
  • the glass type HMD 100 may be provided with a microphone (not shown) for receiving sound and processing the sound as electrical voice data, and a sound output module 452 for outputting sound.
  • the sound output module 452 may be configured to transmit sound in a general sound output method or a bone conduction method. When the sound output module 452 is implemented in a bone conduction manner, when the user wears the HMD 100, the sound output module 452 is in close contact with the head and vibrates the skull to transmit sound.
  • the location information module 115 provided in the terminal is for detecting, calculating, or identifying the location of the HMD, and representative examples thereof may include a Global Position System (GPS) module and a Wireless Fidelity (WiFi) module. If necessary, the location information module 115 may perform any function of other modules of the wireless communication unit 110 to substitute or additionally obtain data regarding the location of the HMD.
  • GPS Global Position System
  • WiFi Wireless Fidelity
  • the GPS module 115 calculates distance information and accurate time information away from three or more satellites, and then triangulates the calculated information to accurately calculate three-dimensional current position information according to latitude, longitude, and altitude. can do.
  • a method of calculating position and time information using three satellites and correcting the error of the calculated position and time information using another satellite is widely used.
  • the GPS module 115 may calculate speed information by continuously calculating the current position in real time.
  • a WPS WiFi Positioning System
  • the Wi-Fi Positioning System is a location of the HMD 100 using a WiFi module provided in the HMD 100 and a wireless access point (AP) that transmits or receives a wireless signal with the WiFi module.
  • AP wireless access point
  • a tracking technology it refers to a WLAN (Wireless Local Area Network) based positioning technology using WiFi.
  • the Wi-Fi location tracking system may include a Wi-Fi location server, the HMD 100, a wireless AP connected to the HMD 100, and a database in which any wireless AP information is stored.
  • the HMD 100 connected with the wireless AP may transmit a location information request message to the Wi-Fi location server.
  • the Wi-Fi location server extracts information on the wireless AP connected to the HMD 100 based on the location information request message (or signal) of the HMD 100.
  • Information of the wireless AP connected to the HMD 100 may be transmitted to the Wi-Fi positioning server through the HMD 100, or may be transmitted from the wireless AP to the Wi-Fi positioning server.
  • the extracted information of the wireless AP may include MAC Address, Service Set IDentification (SSID), Received Signal Strength Indicator (RSSI), Reference Signal Received Power (RSRP), and RSRQ (Reference). It may be at least one of Signal Received Quality, Channel Information, Privacy, Network Type, Signal Strength, and Noise Strength.
  • SSID Service Set IDentification
  • RSSI Received Signal Strength Indicator
  • RSRP Reference Signal Received Power
  • RSRQ Reference Signal Received Power
  • the Wi-Fi positioning server receives the information of the wireless AP connected to the HMD 100, and extracts the wireless AP information corresponding to the wireless AP to which the HMD is connected from the pre-established database.
  • the information of any wireless AP stored in the database is MAC address, SSID, channel information, Privacy, Network Type, latitude and longitude coordinates of the wireless AP, building name, floor number, indoor detailed location information (GPS coordinates) Available), the AP owner's address, telephone number, and the like.
  • the Wi-Fi positioning server may extract only a predetermined number of wireless AP information in the order of high RSSI.
  • the Wi-Fi location server may extract (or analyze) location information of the HMD 100 using at least one piece of wireless AP information extracted from a database.
  • the location information of the HMD 100 is extracted (or analyzed) by comparing the included information with the received wireless AP information.
  • a cell-ID method As a method for extracting (or analyzing) the location information of the HMD 100, a cell-ID method, a finger print method, a triangulation method, a landmark method, or the like may be utilized.
  • the Cell-ID method is a method of determining the location of the wireless AP having the strongest signal strength among the surrounding wireless AP information collected by the HMD as the location of the HMD.
  • the simple implementation no additional cost, and quick location information can be obtained.
  • the low installation density of the wireless AP reduces the positioning accuracy.
  • the fingerprint method is a method of selecting a reference location in a service area to collect signal strength information and estimating a location based on signal strength information transmitted from the HMD based on the collected information. In order to use the fingerprint method, it is necessary to database propagation characteristics in advance.
  • the triangulation method calculates the position of the HMD based on the distance between the coordinates of the at least three wireless APs and the HMD.
  • the signal strength is converted into distance information, the time at which the radio signal is transmitted (Time of Arrival (ToA)), the time difference at which the signal is transmitted (Time Difference of Arrival (TDoA), Angle of signal transmission (Angle of Arrival, AoA) and the like can be used.
  • ToA Time of Arrival
  • TDoA Time Difference of Arrival
  • AoA Angle of signal transmission
  • the landmark method is a method of measuring the location of the HMD using a landmark transmitter that knows the location.
  • various algorithms may be utilized as a method for extracting (or analyzing) the location information of the HMD.
  • the extracted location information of the HMD 100 is transmitted to the HMD 100 through the Wi-Fi location server, the HMD 100 can obtain the location information.
  • the HMD 100 may obtain location information by being connected to at least one wireless AP.
  • the number of wireless APs required to obtain location information of the HMD 100 may be variously changed according to a wireless communication environment in which the HMD 100 is located.
  • FIG. 3 is a flowchart illustrating the operation of the HMD of FIG. 1.
  • the controller 180 of the HMD 100 may perform the step (S10) of displaying content in a virtual area within a user's field of view.
  • the content may be in various forms that can convey information using sight and / or hearing.
  • a video clip with sound a video clip without sound, a still image with sound, a still image without sound, a document with sound
  • the document may include no sound, content containing only sound, and the like.
  • the content may be provided to the user through the HMD 100.
  • the HMD 100 is wearing, content may be provided in a variety of ways regardless of the location and / or user's posture. This may be a difference from the conventional mobile terminal used by holding the hand. That is, the conventional mobile terminal, which is held and used in the hand, can effectively provide content only when the user is looking at the display of the mobile terminal. Therefore, the content may not be smoothly provided depending on the situation and / or posture of the user. On the contrary, the HMD 100 has an advantage of providing contents more effectively because the user wears it in the form of glasses.
  • the content may be provided within the field of view of the user.
  • the viewing range of the user may be the maximum range that can be observed through the eyes of the user.
  • the user's field of view may be a range that can be observed through the eyes without turning his head.
  • the viewing range of the user may be changed as the head is moved.
  • the content may be displayed in the virtual area.
  • the content may be displayed in a virtual area within the user's field of view.
  • the content may be displayed at a specific point and / or area within the viewing range. That is, the content is not actually present at the point and / or area, but means that the content may be in the same state as the content is displayed at the point and / or area.
  • the virtual area may mean a point and / or an area where an effect such as displaying content is displayed.
  • the disturbance value may be the degree of disturbance applied to a user who is visually and / or audibly aware of the content. For example, there may be a case where a change in an entity that is a background of the virtual area occurs while content is displayed in the virtual area. Such a case can be easily understood on the premise of viewing the content with the wall as the virtual area. That is, the user may be viewing the content using the wall as a virtual area.
  • the wall is usually uniform in color and white, so it may be in a state suitable for viewing the content. In a situation like this, suddenly a person can pass by. When a person passes through the wall that is the target of the virtual area, the color, contrast, etc. may be instantly changed. Therefore, the displayed content may be invisible at an instant, and this state may be regarded as a disturbance value.
  • the controller 180 can detect the disturbance through the sensor. For example, it means that you can either shoot a virtual zone with a camera or measure the noise level with a microphone.
  • the controller 180 may calculate a disturbance value based on the detected disturbance.
  • the controller 180 may compare the calculated disturbance value with a preset threshold value.
  • the step S30 of displaying the guide image may be performed so that the user may select a point where the disturbance is large.
  • the disturbance value is larger than the threshold value, it may be considered that the user's viewing of the portion is disturbed. For example, if the disturbance larger than the threshold value lasts for 3 seconds while watching the video content, it means that normal viewing of the content has not been achieved from time t to time t + 3.
  • the controller 180 may display the guide image so as to quickly move to the corresponding position when the disturbance value is larger than the threshold value. For example, it means that a thumbnail image for quickly moving to a point where normal viewing is not achieved can be displayed. By selecting the displayed thumbnail image, the user can easily and quickly move to a specific point where normal viewing is not possible.
  • FIG. 4 and 5 are diagrams illustrating the operation of the FIG. 1 HMD.
  • the HMD 100 transfers the first image I1 displayed on the display 202 embedded in the HMD 100 to the user's eye E.
  • the virtual area VA within the viewing range may exhibit the effect of displaying the content C.
  • FIG. 4 is a diagram illustrating a principle that an image is formed when the HMD 100 is worn in FIG. 1.
  • the HMD 100 may be in the form of glasses worn on the head H of the user.
  • the user may recognize the image generated by the image generator 200 of the HMD 100 through the eye E.
  • FIG. 4A the HMD 100 may be in the form of glasses worn on the head H of the user.
  • the user may recognize the image generated by the image generator 200 of the HMD 100 through the eye E.
  • light generated in the display 202 may be transmitted to the user through a predetermined path.
  • the display 202 may display the first image I1.
  • the first image I1 displayed on the display 202 may be an image that the image generator 200 wants to transfer to the user.
  • the optical lens 204 may change the optical path of the first image I1 displayed on the display 202.
  • the optical lens 204 may be composed of at least one concave lens and / or convex lens.
  • the lens of the optical lens 204 may be configured to form an optical path through which an image can be formed on the retina RE of the user's eye E.
  • FIG. That is, in consideration of the lens EL of a typical user acting as a convex lens, at least one concave so that light passing through the lens EL may form in the retina RE to form the second image I2. It means that the lens and / or convex lens may be combined.
  • the prism 206 may reflect the refracted light through the optical lens 204 at least once and guide it to the destination point. Light incident through the optical lens 204 and incident on the prism 206 may be moved along the path totally reflected within the prism 206 to the reflecting plate 208.
  • the reflector 208 may reflect light moved along the prism 206 in the eyeball E direction.
  • the reflector plate 208 may be configured as a half mirror.
  • the light reflected by the reflector 208 may form the first and second optical paths L1 and L2 and may be directed toward the lens EL.
  • the first and second optical paths L1 and L2 may be divergent. That is, the first and second light paths L1 and L2 in the diverging form may be changed to the third and fourth light paths L3 and L4 in the converging form through the lens EL.
  • the converging third and fourth light paths L3 and L4 may form an image on the retina RE. That is, it means that the second image I2 that is substantially the same as the first image I1 can be generated.
  • an image formed on the retina of the user may be displayed in the virtual area VA of the user U field of view.
  • the content C is not actually displayed at the position, it means that the same effect as the content C is floating at the position can be obtained.
  • FIG. 6 and 7 illustrate a virtual region content display of the HMD of FIG. 1.
  • the HMD 100 may display the content C in a predetermined area.
  • a plurality of virtual region candidates may exist within a viewing range of a user.
  • the first to third virtual areas VA1 to VA3 may exist.
  • the first virtual area VA1 may be an area corresponding to a door that is relatively flat and has the same color.
  • the second virtual area VA2 may be an area of irregular color such as a flat wall surface or a wallpaper.
  • the third virtual area VA3 may be an area that is not flat due to the furniture disposed on the wall.
  • the controller 180 may select a virtual region to display content from among the plurality of virtual region candidates. For example, this means that the first virtual area VA1 capable of clearly identifying the content may be selected as the display area RO.
  • the selected display area RO may be more clearly identified due to the relatively flat and even color. That is, it may be an area with less disturbance than other areas.
  • the controller 180 may set the optimal area PA that can display the content C better among the selected display area RO as the virtual area VA. For example, even when the door is set as the display area RO, the flat part of the door may set the virtual area VA to correspond to the width of the optimal area PA.
  • FIG. 8 to 11 are diagrams illustrating a virtual area setting within a viewing range of the HMD of FIG. 1.
  • the HMD 100 may select a virtual area within a user's field of view.
  • obtaining a field of view of the user (S11). It may include.
  • the field of view of the user may be related to the direction in which the user's head is facing.
  • the field of view means that the field of view may be detected or calculated through the direction in which the face of the user faces. Therefore, the viewing range may be obtained based on the angle detected by the geomagnetic sensor capable of detecting the orientation. Alternatively, the viewing range may be obtained through a camera photographing the front direction of the user.
  • Detecting disturbance in the viewing range (S13) and setting a region with less disturbance as a virtual region (S15) may be performed.
  • the virtual area where the content is to be displayed needs to be set to an area with little disturbance.
  • the controller 180 may determine an area suitable for displaying the content within the acquired viewing range of the user. That is, it is possible to determine a region suitable for displaying content on the virtual region within the current viewing range.
  • the virtual area suitable for displaying the content may be an area of uniform color, an area of constant shape, or the like.
  • the controller 180 may determine whether the color, shape, and the like are uniform based on the image of the front surface photographed by the camera 121 or the like.
  • operation S16 it may be determined whether the user's field of view has changed.
  • the HMD 100 is an electronic device used by a user wearing it on a head or the like. Therefore, when the user turns the head, the field of view may change. Therefore, the controller 180 can continuously detect whether the user's field of view is changed through a camera and / or a geomagnetic sensor.
  • displaying the content in the preset virtual area (S17) may proceed. That is, it means that the content can be displayed in the selected area with a small disturbance.
  • the viewing range WA of the user U may be a predetermined area in front of the head H of the user U.
  • the controller 180 may divide the viewing range WA into a plurality of regions. For example, it means that the first to third regions FV1 to FV3 can be partitioned. The controller 180 may select a portion suitable for displaying content from the divided regions. For example, it means that the first region FV1 having relatively little disturbance can be selected from among the plurality of regions.
  • a plurality of candidate areas N for displaying content may exist in the first area FV1.
  • the controller 180 may display the content by setting the second candidate area N2 suitable for displaying content among the first to third candidate areas N1 to N3 as the display area RO.
  • the user's head H may be rotated.
  • the viewing range may be changed to the fourth region FV4.
  • a fourth candidate region N4 may be added in addition to the preset second candidate region N2.
  • the controller 180 may compare the degree of disturbance of the added fourth candidate region N4 with the degree of disturbance of the preset second candidate region N2. When it is determined that the disturbance of the fourth candidate area N4 is larger than that of the second candidate area N2, the controller 180 may maintain the second candidate area N2 as the display area RO.
  • control unit 180 of the HMD 100 As shown in these figures, the control unit 180 of the HMD 100 according to an embodiment of the present invention, it is possible to conveniently and quickly find the part that is not accurately recognized by the disturbance occurred during the content playback.
  • the controller 180 of the HMD 100 may display the content C by setting the display area RO having less disturbance as the virtual area VA.
  • the content (C) can be displayed against the background of a relatively flat and uniform color.
  • the door may be opened by another user.
  • disturbance of the display area RO may increase suddenly.
  • the background may be changed due to the opening of the door, and an image of another user who opens the door may overlap the virtual area VA.
  • the disturbance may be increased due to the change of the background and / or the overlap of the image of another user in the virtual area VA. That is, it means that the user can not normally recognize the content (C).
  • the disturbance value may change with time. For example, before the time t1, the disturbance value may be smaller than the threshold value CV. That is, the content is displayed in the stable virtual area VA as in the door.
  • the disturbance value may be increased above the threshold CV. For example, it means that the event of opening a door may occur at tl time. Due to the opening of the door, a situation may occur in which the user does not recognize the content C displayed in the virtual area VA, and the controller 180 detects such a situation through a sensor such as a camera 121. Can calculate the disturbance value.
  • the disturbance value may be a degree of disturbance calculated by the controller 180. That is, it means that the controller 180 may calculate the degree of disturbance based on the current situation acquired through the camera 121 or the like.
  • the disturbance value may change with time. For example, when the display area RO is a door, an event in which the door is closed and opened may occur. In the sections t1 ⁇ t2, t3 ⁇ t4, and t5 ⁇ t6 where the door is opened, disturbance may increase rapidly and exceed the threshold value (CV).
  • CV threshold value
  • the user may not clearly recognize the content C. That is, it means that a difference may occur in recognizing the content of the content C according to the degree of disturbance value. For example, at the time t1 above the threshold CV, the content C is perceived as about 50%, but at the time point t2-t1 / 2 that significantly exceeds the threshold CV, the content C is not recognized at all. It means you can't.
  • the content C may include sound content reproduced by the speaker of the HMD 100 together with visual content displayed in the virtual area VA, which is the display area RO. If noise is generated in the environment while sound is being reproduced by the speaker of the HMD 100, the degree of recognition of the sound may be degraded.
  • the controller 180 may calculate the disturbance value based on the noise level obtained through a sensor such as a microphone.
  • disturbance may occur due to the radio wave environment.
  • the content C played through the HMD 100 is the content C received from the outside through the wireless communication unit 110 such as DMB
  • the reception of the radio wave may occur at a specific time.
  • the controller 180 may treat this as a disturbance. That is, it means that the controller 180 can calculate the disturbance value based on the radio wave reception state.
  • the controller 180 may calculate a disturbance value based on the degree of attention of the user U with respect to the content C. Referring to FIG. 17, the controller 180 may calculate a disturbance value based on the degree of attention of the user U with respect to the content C.
  • the user U can take an action of watching the displayed content C.
  • FIG. The camera may photograph the eye E to detect whether the user is looking at the virtual area VA in front of the eye E of the user.
  • the controller 180 may calculate the disturbance value by reflecting the same. Means.
  • FIG. 18 to 22 are views illustrating thumbnail display and a corresponding part reproducing operation of the HMD of FIG. 1.
  • the controller 180 of the HMD 100 corresponds to a case where the user does not recognize the content being played due to disturbances exceeding the threshold CV. It can provide a thumbnail image (TN) that can be moved quickly and conveniently to the point.
  • TN thumbnail image
  • the disturbance value may exceed the threshold CV in the periods t1 to t2, T3 to t4, and t5 to t6. Therefore, in a section exceeding the threshold CV, a situation may occur in which the user does not clearly recognize all or part of the content C being played. For example, in the case of the content C which is a video, a situation in which the first image RI1 at a time t1 may not be clearly recognized may occur. In such a case, the user had to perform an operation such as rewinding a certain portion in the related art. When the user finds a part that cannot be seen by performing a rewind arbitrarily, a case may not be found at a time and a considerable time may be required to perform an operation. HMD 100 according to an embodiment of the present invention, by providing a thumbnail image (TN) for the portion that the user is expected to not see, so that the user can quickly and conveniently search for a specific point of the content (C) can do.
  • TN thumbnail image
  • the content C may be displayed in the virtual area VA.
  • the controller 180 can display a thumbnail image TN.
  • the thumbnail image TN may be an image corresponding to a portion determined to be not seen by the user due to an increase in disturbance. For example, it means that a thumbnail image TN of a part of which the corresponding part of the content C is not recognized due to the opening of the door that was the virtual area VA or the occurrence of noise may be displayed.
  • the user may select a thumbnail image TN corresponding to a specific point to be played back using the hand H.
  • FIG. The selection using the hand H may be performed by detecting a gesture of the user's hand H through the camera 121. That is, it is possible to determine whether to select a particular thumbnail image TN based on the position of the thumbnail TN displayed in the virtual area VA and the movement of the hand H in the sensed three-dimensional space.
  • the selection of the specific thumbnail image TN may be made based on a voice command of the user. For example, when the user says 'Thumb tomorrow No. 1', it means that the first thumbnail image TN1 corresponding thereto may be selected.
  • the controller 180 can play a part of the content C corresponding to the selected first thumbnail image TN1. This allows the user to quickly and easily see what is missing.
  • the selection of a specific thumbnail image TN may be made through manipulation of the touch pad TA provided in the HMD 100.
  • selection of a specific thumbnail image TN may be performed by touching the area of the touch pad TA provided on the side surface of the HMD 100 with a finger F or the like.
  • the controller 180 may play a part of the content C corresponding to the selected thumbnail image TN. For example, when the current time is t7, when the first thumbnail image TN1 is selected, it means that the content C corresponding to the first thumbnail image TN1 can be played back at the time t7.
  • the controller 180 can selectively reproduce the content (C). This means that only a predetermined section may be played back from the portion corresponding to the first thumbnail image TN1 or the entire subsequent section may be played back from the portion corresponding to the first thumbnail image TN1. For example, in the case where only a predetermined section is played back from the portion corresponding to the first thumbnail image TN1, it means that only the t1 to t2 sections where the disturbance exceeds the threshold CV may be played back.
  • 23 to 25 are diagrams illustrating a thumbnail display method of FIG. 1 HMD.
  • the controller 180 of the HMD 100 may select a thumbnail image TN to be displayed. That is, it means that the thumbnail image (TN) can be provided so that the user can determine that the specific part has not been seen.
  • the F image of the content C may be displayed in the virtual area VA at the present time t6.
  • the user may clearly remember A at time t1, B at time t2, and C at time t3, but the memory of D at time t4 may not be clear. That is, since the disturbance value is the moment when the threshold value CV is reached, it means that the D displayed at the time t4 may or may not be seen.
  • E at time T5 is a situation where the disturbance value greatly exceeds the threshold value CV, so the user may have no memory of E.
  • the controller 180 may display a third thumbnail image TN3 corresponding to a time point t3. That is, since the user is likely to remember at least until the time t3, it means that the third thumbnail image TN3 corresponding to the time t3 can be displayed for the user to easily select.
  • the controller 180 may display a fourth thumbnail image TN4 corresponding to the time t4. That is, since the disturbance value exceeds the threshold CV as described above, the fourth thumbnail image TN4 may or may not have seen the content corresponding to the fourth thumbnail image TN4. . Accordingly, when the fourth thumbnail image TN4 corresponding to the corresponding time point is displayed and selected, the user may optimize and view only the part not correctly seen due to the disturbance.
  • 26 to 28 are diagrams illustrating a representative thumbnail display method of FIG. 1 HMD.
  • the HMD 100 may display a representative thumbnail MTN.
  • the disturbance value may exceed the threshold CV from the time t1 to the time t7. That is, it means that the user may not have recognized the content being played from time t1 to time t7.
  • the current time point may be after time t8.
  • the controller 180 may display first to eighth thumbnail images TN1 to TN8 at the present time. That is, it means that the thumbnail image TN corresponding to the section where the disturbance exceeds the threshold CV may be sequentially displayed.
  • the controller 180 may display the representative thumbnail MTN at the present time.
  • the representative thumbnail MTN may be a thumbnail representing a thumbnail image within a predetermined section. For example, as described above, if there is a section in which disturbance is continuously large in the t1 to t7 sections, it means that an image representing the corresponding section can be displayed. When displaying thumbnail images of all sections in which disturbance occurs, the user may feel confused about which one to select. Therefore, by displaying the representative thumbnail (MTN) in the continuous section, it is possible to effectively provide information about the part that the user could not see while minimizing user confusion.
  • a representative thumbnail MTN may be displayed.
  • the user may perform an operation of selecting the representative thumbnail MTN indicated by the gesture operation using the finger F or the like.
  • the controller 180 can display the first to seventh thumbnail images TN1 to TN7 constituting the representative thumbnail MTN. .
  • the user can more precisely select the portion to be rewatched.
  • the controller 180 can display the representative thumbnail MTN.
  • 29 to 31 are views illustrating thumbnail display time points of the HMD of FIG. 1.
  • the controller 180 of the HMD 100 can effectively display thumbnail images at various viewpoints.
  • the disturbance may be in a state beyond the threshold CV at the time points t1 to t4.
  • the controller 180 may display the first thumbnail image TN1 at a time t1. That is, it means that the first thumbnail image TN1 can be displayed at the moment when the disturbance exceeds the threshold CV.
  • the controller 180 may sequentially display the second, third, and fourth thumbnail images TN2 to TN4 at the time points t2, t3, and t4, respectively.
  • the disturbance is kept above the threshold CV, it means that thumbnail images can be displayed at regular intervals.
  • the controller 180 may uniformly display thumbnail images when the state where the disturbance value exceeds the threshold CV ends. For example, it means that the first to fourth thumbnail images TN1 to TN4 may be displayed at a time at the time t5 at which the user can normally watch the content.
  • FIG. 32 is a view illustrating a time point of generating a thumbnail of FIG. 1 HMD.
  • the controller 180 of the HMD 100 may perform thumbnail generation in various ways.
  • the controller 180 may generate a thumbnail image at that time at t2, t3, t4, and t5 which are constant intervals from the time t1 when the disturbance exceeds the threshold CV. have.
  • the controller 180 may generate a thumbnail image of a portion where the user may at least partially store the contents of the content even when the disturbance exceeds the threshold CV. have. For example, it means that a thumbnail image at a time of t1, t6, and t7 having a relatively disturbance level or low can be generated and displayed. The time points t1, t6, and t7 may be the same or different from each other. Since a thumbnail image of a relatively low level of disturbance is displayed, it is advantageous to estimate which part of the content the user has not seen through the displayed thumbnail.
  • the present invention described above can be embodied as computer readable codes on a medium in which a program is recorded.
  • the computer-readable medium includes all kinds of recording devices in which data that can be read by a computer system is stored. Examples of computer-readable media include hard disk drives (HDDs), solid state disks (SSDs), silicon disk drives (SDDs), ROMs, RAMs, CD-ROMs, magnetic tapes, floppy disks, optical data storage devices, and the like. This also includes implementations in the form of carrier waves (eg, transmission over the Internet).
  • the computer may include the controller 180 of the terminal. Accordingly, the above detailed description should not be construed as limiting in all aspects and should be considered as illustrative. The scope of the invention should be determined by reasonable interpretation of the appended claims, and all changes within the equivalent scope of the invention are included in the scope of the invention.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

이동 단말기 및 그 제어방법이 개시된다. 본 발명의 이동 단말기 및 그 제어방법은, 디스플레이; 센서; 및 상기 디스플레이에서 표시된 콘텐츠를 사용자의 시야범위 내 가상영역에 표시하고, 상기 센서를 통해 감지한 외란값이 임계값 이상인 경우에 상기 콘텐츠 중 상기 임계값을 넘어선 지점을 선택하여 재생할 수 있도록 하는 적어도 하나의 썸네일이미지를 표시하는 제어부를 포함하는 것을 특징으로 한다. 본 발명에 의하면, 콘텐츠 표시 중 외란값이 큰 부분을 다시 재생할 수 있도록 하는 썸네일이미지를 제공할 수 있다.

Description

헤드 마운티드 디스플레이 및 그 제어방법
본 발명은 가상영역에 콘텐츠 표시 중 외란값이 큰 부분을 다시 재생할 수 있도록 하는 썸네일이미지를 제공할 수 있는 헤드 마운티드 디스플레이 및 그 제어방법에 관한 것이다.
단말기는 이동 가능여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mounted terminal)로 나뉠 수 있다.
근래에는 이동 단말기 중 사용자의 신체에 착용할 수 있는 웨어러블 디바이스(Wearable device)에 대한 연구가 진행되고 있으며, 헤드 마운티드 디스플레이(Head Mounted Display, HMD)는 웨어러블 디바이스 중 하나의 형태이다.
HMD는, 안경과 유사한 형태일 수 있다. 예를 들어, 안경과 유사한 형태로 사용자 얼굴에 착용되어 사용자에게 정보를 제공할 수 있음을 의미한다.
사용자에게 제공되는 정보는, 시각 및/또는 청각 정보일 수 있다. 시각 정보는, 사용자 시야범위 내의 일정 영역에 떠 있는 듯한 방식으로 표시될 수 있다. 이와 같은 방식을 통해 증강현실(AR, Augmented Reality)과 같은 형태로 정보를 제공할 수 있다.
다만, 정보를 제공하던 중 주위환경이 변화하는 경우에 효과적으로 정보를 제공하는 방법에 대한 필요성이 대두되고 있는 현실이다.
본 발명은 전술한 문제 및 다른 문제를 해결하는 것을 목적으로 한다. 또 다른 목적은 콘텐츠 표시 중 외란값이 큰 부분을 다시 재생할 수 있도록 하는 썸네일이미지를 제공할 수 있도록 하는 헤드 마운티드 디스플레이 및 그 제어방법을 제공하는 것을 그 목적으로 한다.
상기 또는 다른 목적을 달성하기 위해 본 발명의 일 측면에 따르면, 디스플레이; 센서; 및 상기 디스플레이에서 표시된 콘텐츠를 사용자의 시야범위 내 가상영역에 표시하고, 상기 센서를 통해 감지한 외란값이 임계값 이상인 경우에 상기 콘텐츠 중 상기 임계값을 넘어선 지점을 선택하여 재생할 수 있도록 하는 적어도 하나의 썸네일이미지를 표시하는 제어부를 제공한다.
또한, 본 발명의 다른 측면에 따르면, 콘텐츠를 사용자의 시야범위 내 가상영역에 표시하는 단계; 상기 콘텐츠의 표시 중 외란값이 임계값 이상인 경우에 상기 콘텐츠 중 상기 임계값을 넘어선 지점을 선택하여 재생할 수 있도록 하는 적어도 하나의 썸네일이미지를 생성하는 단계; 및 상기 생성한 썸네일이미지를 표시하는 단계를 포함하는 헤드 마운티드 디스플레이의 제어방법을 제공한다.
본 발명에 따른 헤드 마운티드 디스플레이 및 그 제어방법의 효과에 대해 설명하면 다음과 같다.
본 발명의 실시 예들 중 적어도 하나에 의하면, 콘텐츠 표시 중 외란값이 큰 부분을 다시 재생할 수 있도록 하는 썸네일이미지를 제공할 수 있다는 장점이 있다.
본 발명의 적용 가능성의 추가적인 범위는 이하의 상세한 설명으로부터 명백해질 것이다. 그러나 본 발명의 사상 및 범위 내에서 다양한 변경 및 수정은 당업자에게 명확하게 이해될 수 있으므로, 상세한 설명 및 본 발명의 바람직한 실시 예와 같은 특정 실시 예는 단지 예시로 주어진 것으로 이해되어야 한다.
도 1는 본 발명과 관련된 HMD를 설명하기 위한 블록도이다.
도 2는 도 1 HMD의 일 실시예인 안경 타입 HMD를 도시한 도면이다.
도 3은 도 1 HMD의 동작을 도시한 플로우챠트이다.
도 4 및 도 5는 도 1 HMD의 동작을 도시한 도면이다.
도 6 및 도 7은 도 1 HMD의 가상영역 콘텐츠 표시를 도시한 도면이다.
도 8 내지 도 11은 도 1 HMD의 시야범위 내 가상영역 설정을 도시한 도면이다.
도 12 내지 도 17은 도 1 HMD의 동작 중 외란을 도시한 도면이다.
도 18 내지 도 22는 도 1 HMD의 썸네일 표시 및 대응부분 재생 동작을 도시한 도면이다.
도 23 내지 도 25는 도 1 HMD의 썸네일 표시 방법을 도시한 도면이다.
도 26 내지 도 28은 도 1 HMD의 대표 썸네일 표시방법을 도시한 도면이다.
도 29 내지 도 31은 도 1 HMD의 썸네일 표시시점을 도시한 도면이다.
도 32는 도 1 HMD의 썸네일 생성시점을 도시한 도면이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smartwatch), 글래스형 단말기 (smart glass), HMD(head mounted display)) 등이 포함될 수 있다.
그러나, 본 명세서에 기재된 실시 예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터, 디지털 사이니지 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 1는 본 발명과 관련된 전자 디바이스를 설명하기 위한 블록도이다.
상기 헤드 마운티드 디스플레이(Head Mounted Hisplay, HMD, 100)는 무선 통신부(110), 입력부(120), 감지부(140), 출력부(150), 인터페이스부(160), 메모리(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들은 단말기를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 단말기는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다.
보다 구체적으로, 상기 구성요소들 중 무선 통신부(110)는, HMD(100)와 무선 통신 시스템 사이, HMD(100)와 다른 HMD(100) 사이, 또는 HMD(100)와 외부서버 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 상기 무선 통신부(110)는, HMD(100)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.
이러한 무선 통신부(110)는, 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114), 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.
입력부(120)는, 영상 신호 입력을 위한 카메라(121) 또는 영상 입력부, 오디오 신호 입력을 위한 마이크로폰(microphone, 122), 또는 오디오 입력부, 사용자로부터 정보를 입력받기 위한 사용자 입력부(123, 예를 들어, 터치키(touch key), 푸시키(mechanical key) 등)를 포함할 수 있다. 입력부(120)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어명령으로 처리될 수 있다.
센싱부(140)는 HMD 내 정보, HMD를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하기 위한 하나 이상의 센서를 포함할 수 있다. 예를 들어, 센싱부(140)는 근접센서(141, proximity sensor), 조도 센서(142, illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 카메라(121 참조)), 마이크로폰(microphone, 122 참조), 배터리 게이지(battery gauge), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 HMD는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(151), 음향 출력부(152), 햅팁 모듈(153), 광 출력부(154) 중 적어도 하나를 포함할 수 있다. 디스플레이부(151)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, HMD(100)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(123)로써 기능함과 동시에, HMD(100)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.
인터페이스부(160)는 HMD(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행한다. 이러한 인터페이스부(160)는, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 중 적어도 하나를 포함할 수 있다. HMD(100)에서는, 상기 인터페이스부(160)에 외부 기기가 연결되는 것에 대응하여, 연결된 외부 기기와 관련된 적절할 제어를 수행할 수 있다.
또한, 메모리(170)는 HMD(100)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(170)는 HMD(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), HMD(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, HMD(100)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 HMD(100)상에 존재할 수 있다. 한편, 응용 프로그램은, 메모리(170)에 저장되고, HMD(100) 상에 설치되어, 제어부(180)에 의하여 상기 HMD의 동작(또는 기능)을 수행하도록 구동될 수 있다.
제어부(180)는 상기 응용 프로그램과 관련된 동작 외에도, 통상적으로 HMD(100)의 전반적인 동작을 제어한다. 제어부(180)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(170)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
또한, 제어부(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, 도 1a와 함께 살펴본 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 제어부(180)는 상기 응용 프로그램의 구동을 위하여, HMD(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
전원공급부(190)는 제어부(180)의 제어 하에서, 외부의 전원, 내부의 전원을 인가 받아 HMD(100)에 포함된 각 구성요소들에 전원을 공급한다. 이러한 전원공급부(190)는 배터리를 포함하며, 상기 배터리는 내장형 배터리 또는 교체가능한 형태의 배터리가 될 수 있다.
상기 각 구성요소들 중 적어도 일부는, 이하에서 설명되는 다양한 실시 예들에 따른 HMD의 동작, 제어, 또는 제어방법을 구현하기 위하여 서로 협력하여 동작할 수 있다. 또한, 상기 HMD의 동작, 제어, 또는 제어방법은 상기 메모리(170)에 저장된 적어도 하나의 응용 프로그램의 구동에 의하여 HMD 상에서 구현될 수 있다.
이하에서는, 위에서 살펴본 HMD(100)를 통하여 구현되는 다양한 실시 예들을 살펴보기에 앞서, 위에서 열거된 구성요소들에 대하여 도 1a를 참조하여 보다 구체적으로 살펴본다.
먼저, 무선 통신부(110)에 대하여 살펴보면, 무선 통신부(110)의 방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈이 상기 HMD(100)에 제공될 수 있다.
상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
상기 방송 신호는 디지털 방송 신호의 송수신을 위한 기술표준들(또는 방송방식, 예를 들어, ISO, IEC, DVB, ATSC 등) 중 적어도 하나에 따라 부호화될 수 있으며, 방송 수신 모듈(111)은 상기 기술표준들에서 정한 기술규격에 적합한 방식을 이용하여 상기 디지털 방송 신호를 수신할 수 있다.
상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련된 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.
상기 방송 관련 정보는 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 다양한 형태로 존재할 수 있다. 방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.
이동통신 모듈(112)은, 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)에 따라 구축된 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다.
상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, HMD(100)에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(113)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.
무선 인터넷 기술로는, 예를 들어 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(113)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다.
WiBro, HSDPA, HSUPA, GSM, CDMA, WCDMA, LTE, LTE-A 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로 이해될 수도 있다.
근거리 통신 모듈(114)은 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다. 이러한, 근거리 통신 모듈(114)은, 근거리 무선 통신망(Wireless Area Networks)을 통해 HMD(100)와 무선 통신 시스템 사이, HMD(100)와 다른 HMD(100) 사이, 또는 HMD(100)와 다른 단말기(또는 외부서버)가 위치한 네트워크 사이의 무선 통신을 지원할 수 있다. 상기 근거리 무선 통신망은 근거리 무선 개인 통신망(Wireless Personal Area Networks)일 수 있다.
여기에서, 다른 HMD(100)는 본 발명에 따른 HMD(100)와 데이터를 상호 교환하는 것이 가능한(또는 연동 가능한) 웨어러블 디바이스(wearable device, 예를 들어, 스마트워치(smartwatch), 스마트 글래스(smart glass), HMD(head mounted display))가 될 수 있다. 근거리 통신 모듈(114)은, HMD(100) 주변에, 상기 HMD(100)와 통신 가능한 웨어러블 디바이스를 감지(또는 인식)할 수 있다. 나아가, 제어부(180)는 상기 감지된 웨어러블 디바이스가 본 발명에 따른 HMD(100)와 통신하도록 인증된 디바이스인 경우, HMD(100)에서 처리되는 데이터의 적어도 일부를, 상기 근거리 통신 모듈(114)을 통해 웨어러블 디바이스로 전송할 수 있다. 따라서, 웨어러블 디바이스의 사용자는, HMD(100)에서 처리되는 데이터를, 웨어러블 디바이스를 통해 이용할 수 있다. 예를 들어, 이에 따르면 사용자는, HMD(100)에 전화가 수신된 경우, 웨어러블 디바이스를 통해 전화 통화를 수행하거나, HMD(100)에 메시지가 수신된 경우, 웨어러블 디바이스를 통해 상기 수신된 메시지를 확인하는 것이 가능하다.
위치정보 모듈(115)은 HMD의 위치(또는 현재 위치)를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다. 예를 들어, HMD는 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 HMD의 위치를 획득할 수 있다. 다른 예로서, HMD는 Wi-Fi모듈을 활용하면, Wi-Fi모듈과 무선신호를 송신 또는 수신하는 무선 AP(Wireless Access Point)의 정보에 기반하여, HMD의 위치를 획득할 수 있다. 필요에 따라서, 위치정보모듈(115)은 치환 또는 부가적으로 HMD의 위치에 관한 데이터를 얻기 위해 무선 통신부(110)의 다른 모듈 중 어느 기능을 수행할 수 있다. 위치정보모듈(115)은 HMD의 위치(또는 현재 위치)를 획득하기 위해 이용되는 모듈로, HMD의 위치를 직접적으로 계산하거나 획득하는 모듈로 한정되지는 않는다.
다음으로, 입력부(120)는 영상 정보(또는 신호), 오디오 정보(또는 신호), 데이터, 또는 사용자로부터 입력되는 정보의 입력을 위한 것으로서, 영상 정보의 입력을 위하여, HMD(100) 는 하나 또는 복수의 카메라(121)를 구비할 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시되거나 메모리(170)에 저장될 수 있다. 한편, HMD(100)에 구비되는 복수의 카메라(121)는 매트릭스 구조를 이루도록 배치될 수 있으며, 이와 같이 매트릭스 구조를 이루는 카메라(121)를 통하여, HMD(100)에는 다양한 각도 또는 초점을 갖는 복수의 영상정보가 입력될 수 있다. 또한, 복수의 카메라(121)는 입체영상을 구현하기 위한 좌 영상 및 우 영상을 획득하도록, 스트레오 구조로 배치될 수 있다.
마이크로폰(122)은 외부의 음향 신호를 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 HMD(100)에서 수행 중인 기능(또는 실행 중인 응용 프로그램)에 따라 다양하게 활용될 수 있다. 한편, 마이크로폰(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(123)는 사용자로부터 정보를 입력받기 위한 것으로서, 사용자 입력부(123)를 통해 정보가 입력되면, 제어부(180)는 입력된 정보에 대응되도록 HMD(100)의 동작을 제어할 수 있다. 이러한, 사용자 입력부(123)는 기계식 (mechanical) 입력수단(또는, 메커니컬 키, 예를 들어, HMD(100)의 전?후면 또는 측면에 위치하는 버튼, 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등) 및 터치식 입력수단을 포함할 수 있다. 일 예로서, 터치식 입력수단은, 소프트웨어적인 처리를 통해 터치스크린에 표시되는 가상 키(virtual key), 소프트 키(soft key) 또는 비주얼 키(visual key)로 이루어지거나, 상기 터치스크린 이외의 부분에 배치되는 터치 키(touch key)로 이루어질 수 있 한편, 상기 가상키 또는 비주얼 키는, 다양한 형태를 가지면서 터치스크린 상에 표시되는 것이 가능하며, 예를 들어, 그래픽(graphic), 텍스트(text), 아이콘(icon), 비디오(video) 또는 이들의 조합으로 이루어질 수 있다.
한편, 센싱부(140)는 HMD 내 정보, HMD를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하고, 이에 대응하는 센싱 신호를 발생시킨다. 제어부(180)는 이러한 센싱 신호에 기초하여, HMD(100)의 구동 또는 동작을 제어하거나, HMD(100)에 설치된 응용 프로그램과 관련된 데이터 처리, 기능 또는 동작을 수행 할 수 있다. 센싱부(140)에 포함될 수 있는 다양한 센서 중 대표적인 센서들의 대하여, 보다 구체적으로 살펴본다.
먼저, 근접 센서(141)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선 등을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 이러한 근접 센서(141)는 위에서 살펴본 터치 스크린에 의해 감싸지는 HMD의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다.
근접 센서(141)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전 용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 터치 스크린이 정전식인 경우에, 근접 센서(141)는 전도성을 갖는 물체의 근접에 따른 전계의 변화로 상기 물체의 근접을 검출하도록 구성될 수 있다. 이 경우 터치 스크린(또는 터치 센서) 자체가 근접 센서로 분류될 수 있다.
한편, 설명의 편의를 위해, 터치 스크린 상에 물체가 접촉되지 않으면서 근접되어 상기 물체가 상기 터치 스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 명명하고, 상기 터치 스크린 상에 물체가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 명명한다. 상기 터치 스크린 상에서 물체가 근접 터치 되는 위치라 함은, 상기 물체가 근접 터치될 때 상기 물체가 상기 터치 스크린에 대해 수직으로 대응되는 위치를 의미한다. 상기 근접 센서(141)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지할 수 있다. 한편, 제어부(180)는 위와 같이, 근접 센서(141)를 통해 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 데이터(또는 정보)를 처리하며, 나아가, 처리된 데이터에 대응하는 시각적인 정보를 터치 스크린상에 출력시킬 수 있다. 나아가, 제어부(180)는, 터치 스크린 상의 동일한 지점에 대한 터치가, 근접 터치인지 또는 접촉 터치인지에 따라, 서로 다른 동작 또는 데이터(또는 정보)가 처리되도록 HMD(100)를 제어할 수 있다.
터치 센서는 저항막 방식, 정전용량 방식, 적외선 방식, 초음파 방식, 자기장 방식 등 여러 가지 터치방식 중 적어도 하나를 이용하여 터치 스크린(또는 디스플레이부(151))에 가해지는 터치(또는 터치입력)을 감지한다.
일 예로서, 터치 센서는, 터치 스크린의 특정 부위에 가해진 압력 또는 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는, 터치 스크린 상에 터치를 가하는 터치 대상체가 터치 센서 상에 터치 되는 위치, 면적, 터치 시의 압력, 터치 시의 정전 용량 등을 검출할 수 있도록 구성될 수 있다. 여기에서, 터치 대상체는 상기 터치 센서에 터치를 인가하는 물체로서, 예를 들어, 손가락, 터치펜 또는 스타일러스 펜(Stylus pen), 포인터 등이 될 수 있다.
이와 같이, 터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다. 여기에서, 터치 제어기는, 제어부(180)와 별도의 구성요소일 수 있고, 제어부(180) 자체일 수 있다.
한편, 제어부(180)는, 터치 스크린(또는 터치 스크린 이외에 구비된 터치키)을 터치하는, 터치 대상체의 종류에 따라 서로 다른 제어를 수행하거나, 동일한 제어를 수행할 수 있다. 터치 대상체의 종류에 따라 서로 다른 제어를 수행할지 또는 동일한 제어를 수행할 지는, 현재 HMD(100)의 동작상태 또는 실행 중인 응용 프로그램에 따라 결정될 수 있다.
한편, 위에서 살펴본 터치 센서 및 근접 센서는 독립적으로 또는 조합되어, 터치 스크린에 대한 숏(또는 탭) 터치(short touch), 롱 터치(long touch), 멀티 터치(multi touch), 드래그 터치(drag touch), 플리크 터치(flick touch), 핀치-인 터치(pinch-in touch), 핀치-아웃 터치(pinch-out 터치), 스와이프(swype) 터치, 호버링(hovering) 터치 등과 같은, 다양한 방식의 터치를 센싱할 수 있다.
초음파 센서는 초음파를 이용하여, 감지대상의 위치정보를 인식할 수 있다. 한편 제어부(180)는 광 센서와 복수의 초음파 센서로부터 감지되는 정보를 통해, 파동 발생원의 위치를 산출하는 것이 가능하다. 파동 발생원의 위치는, 광이 초음파보다 매우 빠른 성질, 즉, 광이 광 센서에 도달하는 시간이 초음파가 초음파 센서에 도달하는 시간보다 매우 빠름을 이용하여, 산출될 수 있다. 보다 구체적으로 광을 기준 신호로 초음파가 도달하는 시간과의 시간차를 이용하여 파동 발생원의 위치가 산출될 수 있다.
한편, 입력부(120)의 구성으로 살펴본, 카메라(121)는 카메라 센서(예를 들어, CCD, CMOS 등), 포토 센서(또는 이미지 센서) 및 레이저 센서 중 적어도 하나를 포함한다.
카메라(121)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지할 수 있다. 포토 센서는 디스플레이 소자에 적층될 수 있는데, 이러한 포토 센서는 터치 스크린에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 보다 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보가 획득될 수 있다.
디스플레이부(151)는 HMD(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 디스플레이부(151)는 HMD(100)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.
또한, 상기 디스플레이부(151)는 입체영상을 표시하는 입체 디스플레이부로서 구성될 수 있다.
상기 입체 디스플레이부에는 스테레오스코픽 방식(안경 방식), 오토 스테레오스코픽 방식(무안경 방식), 프로젝션 방식(홀로그래픽 방식) 등의 3차원 디스플레이 방식이 적용될 수 있다.
일반적으로 3차원 입체 영상은 좌 영상(좌안용 영상)과 우 영상(우안용 영상)으로 구성된다. 좌 영상과 우 영상이 3차원 입체 영상으로 합쳐지는 방식에 따라, 좌 영상과 우 영상을 한 프레임 내 상하로 배치하는 탑-다운(top-down) 방식, 좌 영상과 우 영상을 한 프레임 내 좌우로 배치하는 L-to-R(left-to-right, side by side) 방식, 좌 영상과 우 영상의 조각들을 타일 형태로 배치하는 체커 보드(checker board) 방식, 좌 영상과 우 영상을 열 단위 또는 행 단위로 번갈아 배치하는 인터레이스드(interlaced) 방식, 그리고 좌 영상과 우 영상을 시간 별로 번갈아 표시하는 시분할(time sequential, frame by frame) 방식 등으로 나뉜다.
또한, 3차원 썸네일 영상은 원본 영상 프레임의 좌 영상 및 우 영상으로부터 각각 좌 영상 썸네일 및 우 영상 썸네일을 생성하고, 이들이 합쳐짐에 따라 하나의 영상으로 생성될 수 있다. 일반적으로 썸네일(thumbnail)은 축소된 화상 또는 축소된 정지영상을 의미한다. 이렇게 생성된 좌 영상 썸네일과 우 영상 썸네일은 좌 영상과 우 영상의 시차에 대응하는 깊이감(depth)만큼 화면 상에서 좌우 거리차를 두고 표시됨으로써 입체적인 공간감을 나타낼 수 있다.
3차원 입체영상의 구현에 필요한 좌 영상과 우 영상은 입체 처리부에 의하여 입체 디스플레이부에 표시될 수 있다. 입체 처리부는 3D 영상(기준시점의 영상과 확장시점의 영상)을 입력 받아 이로부터 좌 영상과 우 영상을 설정하거나, 2D 영상을 입력 받아 이를 좌 영상과 우 영상으로 전환하도록 이루어진다.
음향 출력부(152)는 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(170)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력부(152)는 HMD(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력부(152)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.
햅틱 모듈(haptic module)(153)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(153)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다. 햅틱 모듈(153)에서 발생하는 진동의 세기와 패턴 등은 사용자의 선택 또는 제어부의 설정에 의해 제어될 수 있다. 예를 들어, 상기 햅틱 모듈(153)은 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(153)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(electrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(153)은 직접적인 접촉을 통해 촉각 효과를 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(153)은 HMD(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
광출력부(154)는 HMD(100)의 광원의 빛을 이용하여 이벤트 발생을 알리기 위한 신호를 출력한다. HMD(100)에서 발생 되는 이벤트의 예로는 메시지 수신, 호 신호 수신, 부재중 전화, 알람, 일정 알림, 이메일 수신, 애플리케이션을 통한 정보 수신 등이 될 수 있다.
광출력부(154)가 출력하는 신호는 HMD가 전면이나 후면으로 단색이나 복수색의 빛을 발광함에 따라 구현된다. 상기 신호 출력은 HMD가 사용자의 이벤트 확인을 감지함에 의하여 종료될 수 있다.
인터페이스부(160)는 HMD(100)에 연결되는 모든 외부 기기와의 통로 역할을 한다. 인터페이스부(160)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 HMD(100) 내부의 각 구성요소에 전달하거나, HMD(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트(port), 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 등이 인터페이스부(160)에 포함될 수 있다.
한편, 식별 모듈은 HMD(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(160)를 통하여 단말기(100)와 연결될 수 있다.
또한, 상기 인터페이스부(160)는 HMD(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 HMD(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 HMD(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 HMD(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수 있다.
메모리(170)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(170)는 상기 터치 스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(170)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. HMD(100)는 인터넷(internet)상에서 상기 메모리(170)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.
한편, 앞서 살펴본 것과 같이, 제어부(180)는 응용 프로그램과 관련된 동작과, 통상적으로 HMD(100)의 전반적인 동작을 제어한다. 예를 들어, 제어부(180)는 상기 HMD의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행하거나, 해제할 수 있다.
또한, 제어부(180)는 음성 통화, 데이터 통신, 화상 통화 등과 관련된 제어 및 처리를 수행하거나, 터치 스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다. 나아가 제어부(180)는 이하에서 설명되는 다양한 실시 예들을 본 발명에 따른 HMD(100) 상에서 구현하기 위하여, 위에서 살펴본 구성요소들을 중 어느 하나 또는 복수를 조합하여 제어할 수 있다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다. 전원공급부(190)는 배터리를 포함하며, 배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다.
또한, 전원공급부(190)는 연결포트를 구비할 수 있으며, 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스(160)의 일 예로서 구성될 수 있다.
다른 예로서, 전원공급부(190)는 상기 연결포트를 이용하지 않고 무선방식으로 배터리를 충전하도록 이루어질 수 있다. 이 경우에, 전원공급부(190)는 외부의 무선 전력 전송장치로부터 자기 유도 현상에 기초한 유도 결합(Inductive Coupling) 방식이나 전자기적 공진 현상에 기초한 공진 결합(Magnetic Resonance Coupling) 방식 중 하나 이상을 이용하여 전력을 전달받을 수 있다.
한편, 이하에서 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
개시된 HMD(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고 와치 타입, 클립 타입, 글래스 타입 또는 2 이상의 바디들이 상대 이동 가능하게 결합되는 폴더 타입, 플립 타입, 슬라이드 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용될 수 있다. HMD의 특정 유형에 관련될 것이나, HMD의 특정유형에 관한 설명은 다른 타입의 HMD에 일반적으로 적용될 수 있다.
여기에서, 단말기 바디는 HMD(100)를 적어도 하나의 집합체로 보아 이를 지칭하는 개념으로 이해될 수 있다.
HMD(100)는 외관을 이루는 케이스(예를 들면, 프레임, 하우징, 커버 등)를 포함한다. 도시된 바와 같이, HMD(100)는 프론트 케이스(101)와 리어 케이스(102)를 포함할 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 결합에 의해 형성되는 내부공간에는 각종 전자부품들이 배치된다. 프론트 케이스(101)와 리어 케이스(102) 사이에는 적어도 하나의 미들 케이스가 추가로 배치될 수 있다.
단말기 바디의 전면에는 디스플레이부(151)가 배치되어 정보를 출력할 수 있다. 도시된 바와 같이, 디스플레이부(151)의 윈도우(151a)는 프론트 케이스(101)에 장착되어 프론트 케이스(101)와 함께 단말기 바디의 전면을 형성할 수 있다.
경우에 따라서, 리어 케이스(102)에도 전자부품이 장착될 수 있다. 리어 케이스(102)에 장착 가능한 전자부품은 착탈 가능한 배터리, 식별 모듈, 메모리 카드 등이 있다. 이 경우, 리어 케이스(102)에는 장착된 전자부품을 덮기 위한 후면커버(103)가 착탈 가능하게 결합될 수 있다. 따라서, 후면 커버(103)가 리어 케이스(102)로부터 분리되면, 리어 케이스(102)에 장착된 전자부품은 외부로 노출된다.
도시된 바와 같이, 후면커버(103)가 리어 케이스(102)에 결합되면, 리어 케이스(102)의 측면 일부가 노출될 수 있다. 경우에 따라서, 상기 결합시 리어 케이스(102)는 후면커버(103)에 의해 완전히 가려질 수도 있다. 한편, 후면커버(103)에는 카메라(121b)나 음향 출력부(152b)를 외부로 노출시키기 위한 개구부가 구비될 수 있다.
이러한 케이스들(101, 102, 103)은 합성수지를 사출하여 형성되거나 금속, 예를 들어 스테인레스 스틸(STS), 알루미늄(Al), 티타늄(Ti) 등으로 형성될 수도 있다.
HMD(100)는, 복수의 케이스가 각종 전자부품들을 수용하는 내부 공간을 마련하는 위의 예와 달리, 하나의 케이스가 상기 내부 공간을 마련하도록 구성될 수도 있다. 이 경우, 합성수지 또는 금속이 측면에서 후면으로 이어지는 유니 바디의 HMD(100)가 구현될 수 있다.
한편, HMD(100)는 단말기 바디 내부로 물이 스며들지 않도록 하는 방수부(미도시)를 구비할 수 있다. 예를 들어, 방수부는 윈도우(151a)와 프론트 케이스(101) 사이, 프론트 케이스(101)와 리어 케이스(102) 사이 또는 리어 케이스(102)와 후면 커버(103) 사이에 구비되어, 이들의 결합 시 내부 공간을 밀폐하는 방수부재를 포함할 수 있다.
HMD(100)에는 디스플레이부(151), 제1 및 제2 음향 출력부(152a, 152b), 근접 센서(141), 조도 센서(142), 광 출력부(154), 제1 및 제2 카메라(121a, 121b), 제1 및 제2 조작유닛(123a, 123b), 마이크로폰(122), 인터페이스부(160) 등이 구비될 수 있다.
이하에서는, 단말기 바디의 전면에 디스플레이부(151), 제1 음향 출력부(152a), 근접 센서(141), 조도 센서(142), 광 출력부(154), 제1 카메라(121a) 및 제1 조작유닛(123a)이 배치되고, 단말기 바디의 측면에 제2 조작유닛(123b), 마이크로폰(122) 및 인터페이스부(160)이 배치되며, 단말기 바디의 후면에 제2 음향 출력부(152b) 및 제2 카메라(121b)가 배치된 HMD(100)를 일 예로 들어 설명한다.
다만, 이들 구성은 이러한 배치에 한정되는 것은 아니다. 이들 구성은 필요에 따라 제외 또는 대체되거나, 다른 면에 배치될 수 있다. 예를 들어, 단말기 바디의 전면에는 제1 조작유닛(123a)이 구비되지 않을 수 있으며, 제2 음향 출력부(152b)는 단말기 바디의 후면이 아닌 단말기 바디의 측면에 구비될 수 있다.
디스플레이부(151)는 HMD(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 디스플레이부(151)는 HMD(100)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.
디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
또한, 디스플레이부(151)는 HMD(100)의 구현 형태에 따라 2개 이상 존재할 수 있다. 이 경우, HMD(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
디스플레이부(151)는 터치 방식에 의하여 제어 명령을 입력 받을 수 있도록, 디스플레이부(151)에 대한 터치를 감지하는 터치센서를 포함할 수 있다. 이를 이용하여, 디스플레이부(151)에 대하여 터치가 이루어지면, 터치센서는 상기 터치를 감지하고, 제어부(180)는 이에 근거하여 상기 터치에 대응하는 제어명령을 발생시키도록 이루어질 수 있다. 터치 방식에 의하여 입력되는 내용은 문자 또는 숫자이거나, 각종 모드에서의 지시 또는 지정 가능한 메뉴항목 등일 수 있다.
한편, 터치센서는, 터치패턴을 구비하는 필름 형태로 구성되어 윈도우(151a)와 윈도우(151a)의 배면 상의 디스플레이(미도시) 사이에 배치되거나, 윈도우(151a)의 배면에 직접 패터닝되는 메탈 와이어가 될 수도 있다. 또는, 터치센서는 디스플레이와 일체로 형성될 수 있다. 예를 들어, 터치센서는, 디스플레이의 기판 상에 배치되거나, 디스플레이의 내부에 구비될 수 있다.
이처럼, 디스플레이부(151)는 터치센서와 함께 터치 스크린을 형성할 수 있으며, 이 경우에 터치 스크린은 사용자 입력부(123, 도 1a 참조)로 기능할 수 있다. 경우에 따라, 터치 스크린은 제1조작유닛(123a)의 적어도 일부 기능을 대체할 수 있다.
제1 음향 출력부(152a)는 통화음을 사용자의 귀에 전달시키는 리시버(receiver)로 구현될 수 있으며, 제2 음향 출력부(152b)는 각종 알람음이나 멀티미디어의 재생음을 출력하는 라우드 스피커(loud speaker)의 형태로 구현될 수 있다.
디스플레이부(151)의 윈도우(151a)에는 제1 음향 출력부(152a)로부터 발생되는 사운드의 방출을 위한 음향홀이 형성될 수 있다. 다만, 본 발명은 이에 한정되는 것은 아니고, 상기 사운드는 구조물 간의 조립틈(예를 들어, 윈도우(151a)와 프론트 케이스(101) 간의 틈)을 따라 방출되도록 구성될 수 있다. 이 경우, 외관상 음향 출력을 위하여 독립적으로 형성되는 홀이 보이지 않거나 숨겨져 HMD(100)의 외관이 보다 심플해질 수 있다.
광 출력부(154)는 이벤트의 발생시 이를 알리기 위한 빛을 출력하도록 이루어진다. 상기 이벤트의 예로는 메시지 수신, 호 신호 수신, 부재중 전화, 알람, 일정 알림, 이메일 수신, 애플리케이션을 통한 정보 수신 등을 들 수 있다. 제어부(180)는 사용자의 이벤트 확인이 감지되면, 빛의 출력이 종료되도록 광 출력부(154)를 제어할 수 있다.
제1 카메라(121a)는 촬영 모드 또는 화상통화 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있으며, 메모리(170)에 저장될 수 있다.
제1 및 제2 조작유닛(123a, 123b)은 HMD(100)의 동작을 제어하기 위한 명령을 입력 받기 위해 조작되는 사용자 입력부(123)의 일 예로서, 조작부(manipulating portion)로도 통칭될 수 있다. 제1 및 제2 조작유닛(123a, 123b)은 터치, 푸시, 스크롤 등 사용자가 촉각적인 느낌을 받으면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다. 또한, 제1 및 제2 조작유닛(123a, 123b)은 근접 터치(proximity touch), 호버링(hovering) 터치 등을 통해서 사용자의 촉각적인 느낌이 없이 조작하게 되는 방식으로도 채용될 수 있다.
본 도면에서는 제1 조작유닛(123a)이 터치키(touch key)인 것으로 예시하나, 본 발명이 이에 한정되는 것은 아니다. 예를 들어, 제1 조작유닛(123a)은 푸시키(mechanical key)가 되거나, 터치키와 푸시키의 조합으로 구성될 수 있다.
제1 및 제2 조작유닛(123a, 123b)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작유닛(123a)은 메뉴, 홈키, 취소, 검색 등의 명령을 입력 받고, 제2 조작유닛(123b)은 제1 또는 제2 음향 출력부(152a, 152b)에서 출력되는 음향의 크기 조절, 디스플레이부(151)의 터치 인식 모드로의 전환 등의 명령을 입력 받을 수 있다.
한편, 단말기 바디의 후면에는 사용자 입력부(123)의 다른 일 예로서, 후면 입력부(미도시)가 구비될 수 있다. 이러한 후면 입력부는 HMD(100)의 동작을 제어하기 위한 명령을 입력 받기 위해 조작되는 것으로서, 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 전원의 온/오프, 시작, 종료, 스크롤 등과 같은 명령, 제1 및 제2 음향 출력부(152a, 152b)에서 출력되는 음향의 크기 조절, 디스플레이부(151)의 터치 인식 모드로의 전환 등과 같은 명령을 입력 받을 수 있다. 후면 입력부는 터치입력, 푸시입력 또는 이들의 조합에 의한 입력이 가능한 형태로 구현될 수 있다.
후면 입력부는 단말기 바디의 두께방향으로 전면의 디스플레이부(151)와 중첩되게 배치될 수 있다. 일 예로, 사용자가 단말기 바디를 한 손으로 쥐었을 때 검지를 이용하여 용이하게 조작 가능하도록, 후면 입력부는 단말기 바디의 후면 상단부에 배치될 수 있다. 다만, 본 발명은 반드시 이에 한정되는 것은 아니며, 후면 입력부의 위치는 변경될 수 있다.
이처럼 단말기 바디의 후면에 후면 입력부가 구비되는 경우, 이를 이용한 새로운 형태의 유저 인터페이스가 구현될 수 있다. 또한, 앞서 설명한 터치 스크린 또는 후면 입력부가 단말기 바디의 전면에 구비되는 제1 조작유닛(123a)의 적어도 일부 기능을 대체하여, 단말기 바디의 전면에 제1 조작유닛(123a)이 미배치되는 경우, 디스플레이부(151)가 보다 대화면으로 구성될 수 있다.
한편, HMD(100)에는 사용자의 지문을 인식하는 지문인식센서가 구비될 수 있으며, 제어부(180)는 지문인식센서를 통하여 감지되는 지문정보를 인증수단으로 이용할 수 있다. 상기 지문인식센서는 디스플레이부(151) 또는 사용자 입력부(123)에 내장될 수 있다.
마이크로폰(122)은 사용자의 음성, 기타 소리 등을 입력 받도록 이루어진다. 마이크로폰(122)은 복수의 개소에 구비되어 스테레오 음향을 입력 받도록 구성될 수 있다.
인터페이스부(160)는 HMD(100)를 외부기기와 연결시킬 수 있는 통로가 된다. 예를 들어, 인터페이스부(160)는 다른 장치(예를 들어, 이어폰, 외장 스피커)와의 연결을 위한 접속단자, 근거리 통신을 위한 포트[예를 들어, 적외선 포트(IrDA Port), 블루투스 포트(Bluetooth Port), 무선 랜 포트(Wireless LAN Port) 등], 또는 HMD(100)에 전원을 공급하기 위한 전원공급단자 중 적어도 하나일 수 있다. 이러한 인터페이스부(160)는 SIM(Subscriber Identification Module) 또는 UIM(User Identity Module), 정보 저장을 위한 메모리 카드 등의 외장형 카드를 수용하는 소켓의 형태로 구현될 수도 있다.
단말기 바디의 후면에는 제2카메라(121b)가 배치될 수 있다. 이 경우, 제2카메라(121b)는 제1카메라(121a)와 실질적으로 반대되는 촬영 방향을 가지게 된다.
제2카메라(121b)는 적어도 하나의 라인을 따라 배열되는 복수의 렌즈를 포함할 수 있다. 복수의 렌즈는 행렬(matrix) 형식으로 배열될 수도 있다. 이러한 카메라는, ‘어레이(array) 카메라’로 명명될 수 있다. 제2카메라(121b)가 어레이 카메라로 구성되는 경우, 복수의 렌즈를 이용하여 다양한 방식으로 영상을 촬영할 수 있으며, 보다 나은 품질의 영상을 획득할 수 있다.
플래시(124)는 제2카메라(121b)에 인접하게 배치될 수 있다. 플래시(124)는 제2카메라(121b)로 피사체를 촬영하는 경우에 피사체를 향하여 빛을 비추게 된다.
단말기 바디에는 제2 음향 출력부(152b)가 추가로 배치될 수 있다. 제2 음향 출력부(152b)는 제1 음향 출력부(152a)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.
단말기 바디에는 무선 통신을 위한 적어도 하나의 안테나가 구비될 수 있다. 안테나는 단말기 바디에 내장되거나, 케이스에 형성될 수 있다. 예를 들어, 방송 수신 모듈(111, 도 1a 참조)의 일부를 이루는 안테나는 단말기 바디에서 인출 가능하게 구성될 수 있다. 또는, 안테나는 필름 타입으로 형성되어 후면 커버(103)의 내측면에 부착될 수도 있고, 도전성 재질을 포함하는 케이스가 안테나로서 기능하도록 구성될 수도 있다.
단말기 바디에는 HMD(100)에 전원을 공급하기 위한 전원 공급부(190, 도 1a 참조)가 구비된다. 전원 공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 착탈 가능하게 구성되는 배터리(191)를 포함할 수 있다.
배터리(191)는 인터페이스부(160)에 연결되는 전원 케이블을 통하여 전원을 공급받도록 구성될 수 있다. 또한, 배터리(191)는 무선충전기기를 통하여 무선충전 가능하도록 구성될 수도 있다. 상기 무선충전은 자기유도방식 또는 공진방식(자기공명방식)에 의하여 구현될 수 있다.
한편, 본 도면에서는 후면 커버(103)가 배터리(191)를 덮도록 리어 케이스(102)에 결합되어 배터리(191)의 이탈을 제한하고, 배터리(191)를 외부 충격과 이물질로부터 보호하도록 구성된 것을 예시하고 있다. 배터리(191)가 단말기 바디에 착탈 가능하게 구성되는 경우, 후면 커버(103)는 리어 케이스(102)에 착탈 가능하게 결합될 수 있다.
HMD(100)에는 외관을 보호하거나, HMD(100)의 기능을 보조 또는 확장시키는 액세서리가 추가될 수 있다. 이러한 액세서리의 일 예로, HMD(100)의 적어도 일면을 덮거나 수용하는 커버 또는 파우치를 들 수 있다. 커버 또는 파우치는 디스플레이부(151)와 연동되어 HMD(100)의 기능을 확장시키도록 구성될 수 있다. 액세서리의 다른 일 예로, 터치 스크린에 대한 터치입력을 보조 또는 확장하기 위한 터치펜을 들 수 있다.
웨어러블 디바이스는 다른 HMD(100)와 데이터를 상호 교환(또는 연동) 가능하게 이루어질 수 있다. 근거리 통신 모듈(114)은, HMD(100) 주변에 통신 가능한 웨어러블 디바이스를 감지(또는 인식)할 수 있다. 나아가, 제어부(180)는 감지된 웨어러블 디바이스가 HMD(100)와 통신하도록 인증된 디바이스인 경우, HMD(100)에서 처리되는 데이터의 적어도 일부를, 근거리 통신 모듈(114)을 통하여 웨어러블 디바이스로 전송할 수 있다. 따라서, 사용자는 HMD(100)에서 처리되는 데이터를 웨어러블 디바이스를 통하여 이용할 수 있다. 예를 들어, HMD(100)에 전화가 수신된 경우 웨어러블 디바이스를 통해 전화 통화를 수행하거나, HMD(100)에 메시지가 수신된 경우 웨어러블 디바이스를 통해 상기 수신된 메시지를 확인하는 것이 가능하다.
도 2는 본 발명의 또 다른 일 실시 예와 관련된 글래스 타입의 HMD(100)의 일 예를 보인 사시도이다.
글래스 타입의 HMD(100)는 인체의 두부에 착용 가능하도록 구성되며, 이를 위한 프레임부(케이스, 하우징 등)을 구비할 수 있다. 프레임부는 착용이 용이하도록 플렉서블 재질로 형성될 수 있다. 본 도면에서는, 프레임부가 서로 다른 재질의 제1 프레임(401)과 제2 프레임(402)을 포함하는 것을 예시하고 있다. 일반적으로 HMD(100)는 도1a 내지 도 1c의 HMD(100)의 특징 또는 그와 유사한 특징을 포함할 수 있다.
프레임부는 두부에 지지되며, 각종 부품들이 장착되는 공간을 마련한다. 도시된 바와 같이, 프레임부에는 제어 모듈(480), 음향 출력 모듈(452) 등과 같은 전자부품이 장착될 수 있다. 또한, 프레임부에는 좌안 및 우안 중 적어도 하나를 덮는 렌즈(403)가 착탈 가능하게 장착될 수 있다.
제어 모듈(480)은 HMD(100)에 구비되는 각종 전자부품을 제어하도록 이루어진다. 제어 모듈(480)은 앞서 설명한 제어부(180)에 대응되는 구성으로 이해될 수 있다. 본 도면에서는, 제어 모듈(480)이 일측 두부 상의 프레임부에 설치된 것을 예시하고 있다. 하지만, 제어 모듈(480)의 위치는 이에 한정되지 않는다.
디스플레이부(451)는 헤드 마운티드 디스플레이(Head Mounted Display, HMD) 형태로 구현될 수 있다. HMD 형태란, 두부에 장착되어, 사용자의 눈 앞에 직접 영상을 보여주는 디스플레이 방식을 말한다. 사용자가 글래스 타입의 HMD(100)를 착용하였을 때, 사용자의 눈 앞에 직접 영상을 제공할 수 있도록, 디스플레이부(451)는 좌안 및 우안 중 적어도 하나에 대응되게 배치될 수 있다. 본 도면에서는, 사용자의 우안을 향하여 영상을 출력할 수 있도록, 디스플레이부(451)가 우안에 대응되는 부분에 위치한 것을 예시하고 있다.
디스플레이부(451)는 프리즘을 이용하여 사용자의 눈으로 이미지를 투사할 수 있다. 또한, 사용자가 투사된 이미지와 전방의 일반 시야(사용자가 눈을 통하여 바라보는 범위)를 함께 볼 수 있도록, 프리즘은 투광성으로 형성될 수 있다.
이처럼, 디스플레이부(451)를 통하여 출력되는 영상은, 일반 시야와 오버랩(overlap)되어 보여질 수 있다. HMD(100)는 이러한 디스플레이의 특성을 이용하여 현실의 이미지나 배경에 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 증강현실(Augmented Reality, AR)을 제공할 수 있다.
카메라(421)는 좌안 및 우안 중 적어도 하나에 인접하게 배치되어, 전방의 영상을 촬영하도록 형성된다. 카메라(421)가 눈에 인접하여 위치하므로, 카메라(421)는 사용자가 바라보는 장면을 영상으로 획득할 수 있다.
본 도면에서는, 카메라(421)가 제어 모듈(480)에 구비된 것을 예시하고 있으나, 반드시 이에 한정되는 것은 아니다. 카메라(421)는 상기 프레임부에 설치될 수도 있으며, 복수 개로 구비되어 입체 영상을 획득하도록 이루어질 수도 있다.
글래스 타입의 HMD(100)는 제어명령을 입력 받기 위하여 조작되는 사용자 입력부(423a, 423b)를 구비할 수 있다. 사용자 입력부(423a, 423b)는 터치, 푸시 등 사용자가 촉각적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다. 본 도면에서는, 프레임부와 제어 모듈(480)에 각각 푸시 및 터치 입력 방식의 사용자 입력부(423a, 423b)가 구비된 것을 예시하고 있다.
또한, 글래스 타입의 HMD(100)에는 사운드를 입력 받아 전기적인 음성 데이터로 처리하는 마이크로폰(미도시) 및 음향을 출력하는 음향 출력 모듈(452)이 구비될 수 있다. 음향 출력 모듈(452)은 일반적인 음향 출력 방식 또는 골전도 방식으로 음향을 전달하도록 이루어질 수 있다. 음향 출력 모듈(452)이 골전도 방식으로 구현되는 경우, 사용자가 HMD(100)를 착용시, 음향 출력 모듈(452)은 두부에 밀착되며, 두개골을 진동시켜 음향을 전달하게 된다.
단말기에 구비된 위치정보 모듈(115)은 HMD의 위치를 탐지, 연산 또는 식별하기 위한 것으로, 대표적인 예로는 GPS(Global Position System) 모듈 및 WiFi(Wireless Fidelity) 모듈을 포함할 수 있다. 필요에 따라서, 위치정보모듈(115)은 치환 또는 부가적으로 HMD의 위치에 관한 데이터를 얻기 위해 무선 통신부(110)의 다른 모듈 중 어느 기능을 수행할 수 있다.
상기 GPS모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다. 다만, 실내와 같이 위성 신호의 음영 지대에서는 GPS 모듈을 이용하여 정확히 HMD의 위치를 측정하는 것이 어렵다. 이에 따라, GPS 방식의 측위를 보상하기 위해, WPS (WiFi Positioning System)이 활용될 수 있다.
와이파이 위치추적 시스템(WPS: WiFi Positioning System)은 HMD(100)에 구비된 WiFi모듈 및 상기 WiFi모듈과 무선신호를 송신 또는 수신하는 무선 AP(Wireless Access Point)를 이용하여, HMD(100)의 위치를 추적하는 기술로서, WiFi를 이용한 WLAN(Wireless Local Area Network)기반의 위치 측위 기술을 의미한다.
와이파이 위치추적 시스템은 와이파이 위치측위 서버, HMD(100), 상기 HMD(100)와 접속된 무선 AP, 임의의 무선 AP정보가 저장된 데이터 베이스를 포함할 수 있다.
무선 AP와 접속 중인 HMD(100)는 와이파이 위치 측위 서버로 위치정보 요청 메시지를 전송할 수 있다.
와이파이 위치측위 서버는 HMD(100)의 위치정보 요청 메시지(또는 신호)에 근거하여, HMD(100)와 접속된 무선 AP의 정보를 추출한다. 상기 HMD(100)와 접속된 무선 AP의 정보는 HMD(100)를 통해 상기 와이파이 위치측위 서버로 전송되거나, 무선 AP에서 와이파이 위치측위 서버로 전송될 수 있다.
상기 HMD(100)의 위치정보 요청 메시지에 근거하여, 추출되는 무선 AP의 정보는 MAC Address, SSID(Service Set IDentification), RSSI(Received Signal Strength Indicator), RSRP(Reference Signal Received Power), RSRQ(Reference Signal Received Quality), 채널정보, Privacy, Network Type, 신호세기(Signal Strength) 및 노이즈 세기(Noise Strength)중 적어도 하나일 수 있다.
와이파이 위치측위 서버는 위와 같이, HMD(100)와 접속된 무선 AP의 정보를 수신하여, 미리 구축된 데이터베이스로부터 HMD가 접속 중인 무선 AP와 대응되는 무선 AP 정보를 추출할 수 있다. 이때, 상기 데이터 베이스에 저장되는 임의의 무선 AP 들의 정보는 MAC Address, SSID, 채널정보, Privacy, Network Type, 무선 AP의 위경도 좌표, 무선 AP가 위치한 건물명, 층수, 실내 상세 위치정보(GPS 좌표 이용가능), AP소유자의 주소, 전화번호 등의 정보일 수 있다. 이때, 측위 과정에서 이동형 AP나 불법 MAC 주소를 이용하여 제공되는 무선 AP를 측위 과정에서 제거하기 위해, 와이파이 위치측위 서버는 RSSI 가 높은 순서대로 소정 개수의 무선 AP 정보만을 추출할 수도 있다.
이후, 와이파이 위치측위 서버는 데이터 베이스로부터 추출된 적어도 하나의 무선 AP 정보를 이용하여 HMD(100)의 위치정보를 추출(또는 분석)할 수 있다. 포함된 정보와 상기 수신된 무선 AP 정보를 비교하여, 상기 HMD(100)의 위치정보를 추출(또는 분석)한다.
HMD(100)의 위치정보를 추출(또는 분석)하기 위한 방법으로, Cell-ID 방식, 핑거 프린트 방식, 삼각 측량 방식 및 랜드마크 방식 등이 활용될 수 있다.
Cell-ID 방식은 HMD가 수집한 주변의 무선 AP 정보 중 신호 세기가 가장 강한 무선 AP의 위치를 HMD의 위치로 결정하는 방법이다. 구현이 단순하고 별도의 비용이 들지 않으며 위치 정보를 신속히 얻을 수 있다는 장점이 있지만 무선 AP의 설치 밀도가 낮으면 측위 정밀도가 떨어진다는 단점이 있다.
핑거프린트 방식은 서비스 지역에서 참조위치를 선정하여 신호 세기 정보를 수집하고, 수집한 정보를 바탕으로 HMD에서 전송하는 신호 세기 정보를 통해 위치를 추정하는 방법이다. 핑거프린트 방식을 이용하기 위해서는, 사전에 미리 전파 특성을 데이터베이스화할 필요가 있다.
삼각 측량 방식은 적어도 세개의 무선 AP의 좌표와 HMD 사이의 거리를 기초로 HMD의 위치를 연산하는 방법이다. HMD와 무선 AP사이의 거리를 측정하기 위해, 신호 세기를 거리 정보로 변환하거나, 무선 신호가 전달되는 시간(Time of Arrival, ToA), 신호가 전달되는 시간 차이(Time Difference of Arrival, TDoA), 신호가 전달되는 각도(Angle of Arrival, AoA) 등을 이용할 수 있다.
랜드마크 방식은 위치를 알고 있는 랜드마크 발신기를 이용하여 HMD의 위치를 측정하는 방법이다.
열거된 방법 이외에도 다양한 알고리즘이 HMD의 위치정보를 추출(또는 분석)하기 위한 방법으로 활용될 수 있다.
이렇게 추출된 HMD(100)의 위치정보는 상기 와이파이 위치측위 서버를 통해 HMD(100)로 전송됨으로써, HMD(100)는 위치정보를 획득할 수 있다.
HMD(100)는 적어도 하나의 무선 AP 에 접속됨으로써, 위치 정보를 획득할 수 있다. 이때, HMD(100)의 위치 정보를 획득하기 위해 요구되는 무선 AP의 개수는 HMD(100)가 위치한 무선 통신환경에 따라 다양하게 변경될 수 있다.
이하에서는 이와 같이 구성된 단말기에서 구현될 수 있는 제어 방법과 관련된 실시 예들에 대해 첨부된 도면을 참조하여 살펴보겠다. 본 발명은 본 발명의 정신 및 필수적 특징을 벗어나지 않는 범위에서 다른 특정한 형태로 구체화될 수 있음은 당업자에게 자명하다.
도 3은 도 1 HMD의 동작을 도시한 플로우챠트이다.
이에 도시한 바와 같이, 본 발명의 일 실시예에 따른 HMD(100)의 제어부(180)는, 콘텐츠를 사용자의 시야범위 내 가상영역에 표시하는 단계(S10)를 수행할 수 있다.
콘텐츠는, 시각 및/또는 청각을 이용하여 정보를 전달할 수 있는 다양한 형태일 수 있다. 예를 들어, 사운드를 포함하고 있는 비디오 클립, 사운드를 포함하지 않고 있는 비디오 클립, 사운드가 포함된 스틸 이미지(still image), 사운드를 포함하지 않은 스틸 이미지, 사운드가 포함된 도규먼트(document), 사운드가 포함되지 않은 도규먼트(document), 사운드만 포함된 콘텐츠 등일 수 있다.
콘텐츠는, HMD(100)를 통해 사용자에게 제공될 수 있다. 예를 들어, 안경 형태 등인 HMD(100)를 통해 다양한 형태의 콘텐츠가 사용자에게 제공될 수 있음을 의미한다.
HMD(100)가 착용 중이라면, 콘텐츠는 장소 및/또는 사용자의 자세와 관계없이 다양한 방식으로 제공될 수 있다. 이와 같은 점은, 손에 파지하여 사용하던 종래의 이동 단말기와의 차이점일 수 있다. 즉, 손에 파지하여 사용하던 종래의 이동 단말기는, 사용자가 이동 단말기의 디스플레이를 바라보고 있는 상황에서만 콘텐츠를 효과적으로 제공할 수 있다. 따라서 사용자의 상황 및/또는 자세에 따라서 콘텐츠의 제공이 원활지 못할 수 있다. 이에 반하여, HMD(100)는 안경 형태 등으로 사용자가 착용하고 있음으로 인하여 콘텐츠를 보다 효과적으로 제공할 수 있는 장점이 있다.
콘텐츠는, 사용자의 시야범위 내에 제공될 수 있다. 사용자의 시야범위는, 사용자의 눈을 통해 관측할 수 있는 최대 범위일 수 있다. 사용자의 시야범위는, 고개를 돌리지 않고 눈을 통해 관측할 수 있는 범위일 수 있다. 사용자의 시야범위는, 고개를 움직임에 따라 변경될 수 있다.
콘텐츠는, 가상영역에 표시될 수 있다. 콘텐츠는, 사용자 시야범위 내의 가상영역에 표시될 수 있다. 착용중인 HMD(100)의 동작에 의하여, 시야범위 내의 특정 지점 및/또는 영역에 콘텐츠가 표시될 수 있다. 즉, 실재로 콘텐츠가 그 지점 및/또는 영역에 존재하는 것은 아니지만, 그 지점 및/또는 영역에 콘텐츠가 표시된 것과 같은 상태일 수 있음을 의미한다. 가상영역은, 콘텐츠가 표시된 것과 같은 효과가 나타나는 지점 및/또는 영역을 의미할 수 있다.
외란값이 임계값보다 큰가 여부를 판단하는 단계(S20)가 진행될 수 있다.
외란값은, 시각적 및/또는 청각적으로 콘텐츠를 인지하고 있는 사용자에게 가해지는 방해의 정도일 수 있다. 예를 들어, 가상영역에 콘텐츠가 표시되고 있는 중 가상영역의 배경이 되는 실제물(entity)의 변화가 발생하는 경우가 있을 수 있다. 이와 같은 경우는, 벽면을 가상영역으로 하여 콘텐츠를 시청하고 있는 경우를 전제할 때 쉽게 이해될 수 있다. 즉, 사용자는 벽면을 가상영역으로 하여 콘텐츠를 감상하고 있을 수 있다. 벽면은 통상적으로, 색상이 균일하며 하얀색이므로 콘텐츠의 감상에 적절한 상태일 수 있다. 이와 같은 상황에서, 갑자기 사람이 그 앞으로 지나갈 수 있다. 사람이 가상영역의 대상이 된 벽면을 지나가면, 순간적으로 색상, 명암 등이 변경될 수 있다. 따라서 표시되고 있는 콘텐츠가 순간적으로 잘 안보이게 될 수 있으며, 이와 같은 상태를 외란값이 커진 상태라 볼 수 있다.
외란값이 커지면, 콘텐츠에 대한 시청이 방해될 수 있다. 이와 같은 점은, 앞에서 설명한 시각 콘텐츠의 경우 뿐 아니라, 청각 콘텐츠의 경우에도 적용될 수 있다. 즉, 사운드를 감상하고 있는 중 옆에 있던 사람이 큰 소리를 내면 순간적으로 감상하고 있던 청각 콘텐츠에 대한 감상이 방해될 수 있음을 의미한다.
제어부(180)는, 센서를 통하여 외란을 감지할 수 있다. 예를 들어, 카메라를 통해 가상영역을 촬영하고 있거나, 마이크를 통해 소음정도를 측정할 수 있음을 의미한다. 제어부(180)는, 감지한 외란에 기초하여 외란값을 산출할 수 있다. 제어부(180)는, 산출한 외란값과 기 설정된 임계값을 비교할 수 있다.
외란값이 임계값보다 큰 경우에, 외란이 큰 지점을 사용자가 선택할 수 있도록 가이드이미지를 표시하는 단계(S30)가 수행될 수 있다.
외란값이 임계값보다 크면, 해당 부분에 대한 사용자의 시청이 방해되었다고 볼 수 있다. 예를 들어, 동영상 콘텐츠를 시청하고 있는 중 t 시점에 임계값보다 큰 외란이 3초간 지속되었다면, t 시점에서 t+3 시점까지는 콘텐츠에 대한 정상적인 시청이 이루어지지 못했다고 볼 수 있음을 의미한다.
제어부(180)는, 외란값이 임계값보다 큰 경우에 해당 위치로 빠르게 이동할 수 있도록 가이드이미지를 표시할 수 있다. 예를 들어, 정상적인 시청이 이루어지지 못한 지점으로 빠르게 이동할 수 있도록 하는 썸네일이미지를 표시할 수 있음을 의미한다. 사용자는 표시된 썸네일이미지를 선택함으로서, 정상적인 시청을 하지 못한 특정 지점으로 쉽고 빠르게 이동할 수 있다.
도 4 및 도 5는 도 1 HMD의 동작을 도시한 도면이다.
이들 도면에 도시한 바와 같이, 본 발명의 일 실시예에 따른 HMD(100)는 HMD(100)에 내장된 디스플레이(202)에 표시되는 제1 이미지(I1)를 사용자의 눈(E)으로 전달하여, 시야범위 내의 가상영역(VA)이 콘텐츠(C)가 표시되는 효과를 나타낼 수 있다.
도 4는 도 1 HMD(100)의 착용시 영상이 맺히는 원리를 도시한 도면이다.
도 4의 (a)에 도시한 바와 같이, HMD(100)는, 사용자의 머리(H)에 착용되는 안경형태일 수 있다. 사용자는 눈(E)을 통해 HMD(100)의 영상생성부(200)에서 생성된 영상을 인지할 수 있다.
도 3의 (b)에 도시한 바와 같이, 디스플레이(202)에서 생성된 빛은 일정한 경로를 통해 사용자에게 전달될 수 있다.
디스플레이(202)는, 제1 이미지(I1)를 표시할 수 있다. 디스플레이(202)에 표시되는 제1 이미지(I1)는, 영상생성부(200)가 사용자에게 전달하고 싶은 이미지일 수 있다.
광학렌즈(204)는, 디스플레이(202)에서 표시된 제1 이미지(I1)의 광경로를 변화시킬 수 있다. 예를 들어, 광학렌즈(204)는 적어도 하나의 오목렌즈 및/또는 볼록렌즈로 구성될 수 이다.
광학렌즈(204)의 렌즈는, 사용자 눈(E)의 망막(RE)에 이미지가 맺힐 수 있는 광경로를 형성하도록 구성될 수 있다. 즉, 볼록렌즈의 역할을 하는 통상적인 사용자의 수정체(EL)를 고려하여, 수정체(EL)를 지난 빛이 망막(RE)에서 맺혀져 제2 이미지(I2)를 형성할 수 있도록 적어도 하나의 오목렌즈 및/또는 볼록렌즈가 조합되어 있을 수 있음을 의미한다.
프리즘(206)은, 광학렌즈(204)를 통과하며 굴절된 빛을 적어도 1회 반사시키며 목적지점까지 가이드할 수 있다. 광학렌즈(204)를 통과하여 프리즘(206)으로 입사된 빛은, 프리즘(206) 내에서 전반사되는 경로를 따라 이동하여 반사판(208)까지 이동될 수 있다.
반사판(208)은, 프리즘(206)을 따라 이동된 빛을 안구(E) 방향으로 반사시킬 수 있다. 반사판(208)은, 하프 미러(half mirror)로 구성될 수 있다.
반사판(208)에서 반사된 빛은, 제1,2 광경로(L1, L2)를 이루며 수정체(EL)로 향할 수 있다. 볼록렌즈의 역할을 하는 수정체(EL)를 고려할 때, 제1,2 광경로(L1, L2)는 발산되는 형태일 수 있다. 즉, 발산하는 형태의 제1,2 광경로(L1, L2)는 수정체(EL)를 거치며, 수렴하는 형태의 제3,4 광경로(L3, L4)로 변화될 수 있다. 수렴하는 형태의 제3,4 광경로(L3, L4)는, 망막(RE)에 맺히며 상을 형성할 수 있다. 즉, 제1 이미지(I1)와 실질적으로 동일한 제2 이미지(I2)를 생성할 수 있음을 의미한다.
도 5에 도시한 바와 같이, 사용자의 망막(RE)에 맺힌 이미지는, 사용자(U) 시야범위의 가상영역(VA)에 표시될 수 있다. 즉, 실재로 그 위치에 콘텐츠(C)가 표시되는 것은 아니지만, 콘텐츠(C)가 그 위치에 떠 있는 것과 같은 효과를 얻을 수 있음을 의미한다.
도 6 및 도 7은 도 1 HMD의 가상영역 콘텐츠 표시를 도시한 도면이다.
이들 도면에 도시한 바와 같이, 본 발명의 일 실시예에 따른 HMD(100)는 일정한 영역에 콘텐츠(C)를 표시할 수 있다.
도 6에 도시한 바와 같이, 사용자의 시야범위 내에는 복수의 가상영역 후보가 존재할 수 잇다. 예를 들어, 제1 내지 3 가상영역(VA1 내지 VA3)이 존재할 수 있음을 의미한다. 제1 가상영역(VA1)은, 상대적으로 평탄하고 동일한 색상으로 구성된 문에 대응된 영역일 수 있다. 제2 가상영역(VA2)은, 평탄한 벽면이나 벽지 등의 색상이 불규칙한 영역일 수 있다. 제3 가상영역(VA3)은, 벽면에 배치된 가구로 인하여 평탄하지 못한 영역일 수 있다.
제어부(180)는, 복수의 가상영역 후보 중에서 콘텐츠를 표시할 가상영역을 선택할 수 있다. 예를 들어, 콘텐츠를 명확히 식별할 수 있는 제1 가상영역(VA1)을 표시영역(RO)으로 선택할 수 있음을 의미한다.
도 7에 도시한 바와 같이, 선택된 표시영역(RO)은 상대적으로 평탄하고 고른 색상으로 인하여 표시된 콘텐츠(C)에 대한 식별이 보다 명확히 이루어질 수 있다. 즉, 다른 영역에 비하여 상대적으로 외란이 적은 영역일 수 있음을 의미한다. 제어부(180)는, 선택된 표시영역(RO) 중에서도 콘텐츠(C)를 보다 잘 표시할 수 있는 최적영역(PA)을 가상영역(VA)으로 설정할 수 있다. 예를 들어, 문을 표시영역(RO)으로 설정한 경우에도, 문 중에서 평탄한 부분은 최적영역(PA)의 너비에 대응되도록 가상영역(VA)을 설정할 수 있음을 의미한다.
도 8 내지 도 11은 도 1 HMD의 시야범위 내 가상영역 설정을 도시한 도면이다.
이들 도면에 도시한 바와 같이, 본 발명의 일 실시예에 따른 HMD(100)는 사용자의 시야범위 내에서 가상영역을 선택할 수 있다.
도 8에 도시한 바와 같이, 본 발명의 일 실시예에 따른HMD(100)의 콘텐츠를 사용자의 시야범위 내 가상영역에 표시하는 단계(10)는, 사용자의 시야범위를 획득하는 단계(S11)를 포함할 수 있다.
사용자의 시야범위는, 사용자의 고개가 향하는 방향과 관련될 수 있다. 예를 들어, 시야범위는 사용자의 안면이 향하는 방향을 통해 감지 내지 산출될 수 있음을 의미한다. 따라서 시야범위는 방위를 감지할 수 있는 지자기센서로 감지된 각도에 기초하여 획득될 수 있다. 또는, 시야범위는 사용자 전면방향을 촬영하는 카메라를 통해 획득될 수도 있다.
시야범위 내 외란을 감지하는 단계(S13) 및 외란이 적은 영역을 가상영역으로 설정하는 단계(S15)가 진행될 수 있다. 콘텐츠가 표시될 가상영역은, 외란이 적은 영역으로 설정되어야 할 필요가 있다.
제어부(180)는, 획득한 사용자의 시야범위 내에서 콘텐츠를 표시하기에 적절한 영역을 판단할 수 있다. 즉, 현재의 시야범위 내에서 가상의 영역상에 콘텐츠를 표시하기에 적절한 영역을 판단할 수 있음을 의미한다. 콘텐츠를 표시하기에 적절한 가상영역은, 색상이 균일한 영역, 형태가 일정한 영역 등일 수 있다. 제어부(180)는, 카메라(121) 등으로 촬영한 전면의 영상에 기초하여 색상, 형태 등의 균일성 여부를 판단할 수 있다.
사용자의 시야가 변경되었는가 여부를 판단하는 단계(S16)가 진행될 수 있다.
HMD(100)는, 사용자가 머리 등에 착용한 상태로 사용하는 전자 디바이스이다. 따라서 사용자가 머리를 돌리는 행동을 하면 시야가 변경될 수 있다. 따라서 제어부(180)는 카메라 및/또는 지자기센서 등을 통해 사용자의 시야가 변경되었는가 여부를 지속적으로 감지할 수 있다.
사용자의 시야가 변경되지 않은 경우, 기 설정한 가상영역에 콘텐츠를 표시하는 단계(S17)가 진행될 수 있다. 즉, 외란이 적은 부분으로 선택된 영역에 콘텐츠를 표시할 수 있음을 의미한다.
도 9에 도시한 바와 같이, 사용자(U)의 시야범위(WA)는, 사용자(U)의 머리(H)의 전면의 일정한 영역일 수 있다.
제어부(180)는, 시야범위(WA)를 복수의 영역으로 구획할 수 있다. 예를 들어, 제1 내지 3영역(FV1 내지 FV3)로 구획할 수 있음을 의미한다. 제어부(180)는, 구획된 영역 중에서 콘텐츠를 표시하기에 적절한 부분을 선택할 수 있다. 예를 들어, 복수의 영역 중에서 외란이 상대적으로 적은 제1 영역(FV1)을 선택할 수 있음을 의미한다.
도 10에 도시한 바와 같이, 제1 영역(FV1) 내에서도 콘텐츠를 표시할 복수의 후보영역(N)이 존재할 수 있다. 예를 들어, 제1 내지 3 후보영역(N1 내지 N3)가 존재할 수 있음을 의미한다.
제어부(180)는, 제1 내지 3 후보영역(N1 내지 N3) 중에서 콘텐츠를 표시하기에 적절한 제2 후보영역(N2)을 표시영역(RO)으로 설정하여 콘텐츠를 표시할 수 있다.
도 11에 도시한 바와 같이, 사용자의 머리(H)는 회전될 수 있다. 머리(H)가 회전되면 시야범위가 가 제4 영역(FV4)으로 변경될 수 있다. 제4 영역(FV4)으로 변경되면, 기 설정된 제2 후보영역(N2) 외에 제4 후보영역(N4)이 추가될 수 있다. 제어부(180)는, 추가된 제4 후보영역(N4)의 외란 정도를 기 설정된 제2 후보영역(N2)의 외란 정도와 비교할 수 있다. 제4 후보영역(N4)의 외란이 제2 후보영역(N2)에 비해 크다고 판단하는 경우에, 제어부(180)는 제2 후보영역(N2)을 표시영역(RO)으로 유지할 수 있다.
도 12 내지 도 17은 도 1 HMD의 동작 중 외란을 도시한 도면이다.
이들 도면에 도시한 바와 같이, 본 발명의 일 실시예에 따른 HMD(100)의 제어부(180)는, 콘텐츠 재생 중 발생한 외란에 의하여 정확히 인지되지 못한 부분을 편리하고 빠르게 찾을 수 있도록 할 수 있다.
도 12의 (a)에 도시한 바와 같이, HMD(100)의 제어부(180)는, 외란이 적은 표시영역(RO)을 가상영역(VA)으로 설정하여 콘텐츠(C)를 표시할 수 있다. 예를 들어, 상대적으로 평탄하고 색상이 일률적인 문을 배경으로 콘텐츠(C)를 표시할 수 있음을 의미한다.
도 12의 (b)에 도시한 바와 같이, 다른 사용자 등에 의하여 문이 개방될 수 있다. 문이 개방되면, 표시영역(RO)의 외란이 급작스럽게 증가될 수 있다. 예를 들어, 문의 개방으로 인하여 배경이 변화됨은 물론 문을 개방한 다른 사용자의 이미지가 가상영역(VA)에 겹쳐질 수 있다. 배경의 변화 및/또는 다른 사용자의 이미지가 가상영역(VA)에 겹쳐짐으로 인하여 외란이 증가될 수 있다. 즉, 콘텐츠(C)를 사용자가 정상적으로 인지할 수 없음을 의미한다.
도 13에 도시한 바와 같이, 외란값은 시간에 따라 변화할 수 있다. 예를 들어, t1 시점 이전에는 외란값이 임계값(CV) 보다 작을 수 있다. 즉, 문과 같이 안정된 가상영역(VA)에 콘텐츠가 표시되었음을 의미한다.
t1 시점에 외란값이 임계값(CV) 이상으로 증가될 수 있다. 예를 들어, tl시점에 문이 열리는 이벤트가 발생될 수 있음을 의미한다. 문이 열림으로 인하여, 가상영역(VA)에 표시된 콘텐츠(C)를 사용자가 인지하지 못하게 되는 상황이 발생할 수 있으며, 카메라(121) 등의 센서를 통해 그와 같은 상황을 감지한 제어부(180)는 외란값을 산출할 수 있다.
외란값은, 제어부(180)에 의하여 산출된 외란의 정도일 수 있다. 즉, 카메라(121) 등을 통해 획득한 현재의 상황에 기초한 외란의 정도를 제어부(180)가 산출한 값일 수 있음을 의미한다.
도 14에 도시한 바와 같이, 외란값은 시간에 따라 변화될 수 있다. 예를 들어, 표시영역(RO)이 문인 경우에, 문이 닫히고 열리는 이벤트가 발생될 수 있음을 의미한다. 문이 열리는 t1~t2, t3~t4, t5~t6 구간에서는 외란이 급격히 증가되어 임계값(CV)을 넘어설 수 있다.
임계값(CV)을 넘어서는 구간에서는, 정도의 차이는 있으나 사용자가 콘텐츠(C)를 명확히 인지하지 못할 수 있다. 즉, 외란값의 정도에 따라 콘텐츠(C)의 내용을 인식하는데 차이가 발생할 수 있음을 의미한다. 예를 들어, 임계값(CV)을 넘어서는 t1 시점에는 콘텐츠(C)를 50% 정도 인지하였으나, 임계값(CV)을 크게 넘어서는 (t2-t1)/2 시점에서는 콘텐츠(C)를 전혀 인지하지 못하게될 수 있음을 의미한다.
도 15에 도시한 바와 같이, 청각에 의한 외란이 발생할 수도 있다. 콘텐츠(C)는 표시영역(RO)인 가상영역(VA)에 표시되는 시각 콘텐츠와 함께 HMD(100)의 스피커에 의하여 재생되는 사운드 콘텐츠를 포함할 수 있다. HMD(100)의 스피커에 의하여 사운드가 재생되는 중에 주위에서 소음이 발생하면 사운드의 인지 정도가 저하될 수 있다. 제어부(180)는, 마이크 등의 센서를 통해 획득한 소음정도에 기초하여 외란값을 산정할 수 있다.
도 16에 도시한 바와 같이, 전파환경에 의한 외란이 발생할 수도 있다. 예를 들어, HMD(100)를 통해 재생되는 콘텐츠(C)가 DMB 와 같이 무선 통신부(110)를 통해 외부에서 수신하는 콘텐츠(C)인 경우에는 특정 시점에 전파의 수신에 장애가 발생될 수 있다. 제어부(180)는, 전파수신 상의 문제로 콘텐츠(C)가 정상적으로 표시되지 않는 경우에, 이를 외란으로 취급할 수 있다. 즉, 제어부(180)가 전파수신 상태에 기초하여 외란값을 산정할 수 있음을 의미한다.
도 17에 도시한 바와 같이, 제어부(180)는 콘텐츠(C)에 대한 사용자(U)의 주시 정도에 기초하여 외란값을 산정할 수 있다.
도 17의 (a)에 도시한 바와 같이, 사용자(U)는 표시되고 있는 콘텐츠(C)를 주시하는 동작을 취할 수 있다. 눈(E)을 촬영하는 카메라 등을 사용하여, 사용자의 눈(E) 앞 가상영역(VA)을 사용자가 주시하고 있는가 여부를 감지할 수 있다.
도 17의 (b)에 도시한 바와 같이, 사용자의 눈(E)이 가상영역(VA)을 주시하고 있지 않는 것으로 감지된 경우에, 제어부(180)는 이를 반영하여 외란값을 산정할 수 있음을 의미한다.
도 18 내지 도 22는 도 1 HMD의 썸네일 표시 및 대응부분 재생 동작을 도시한 도면이다.
이들 도면에 도시한 바와 같이, 본 발명의 일 실시예에 따른 HMD(100)의 제어부(180)는, 임계값(CV)을 넘어서는 외란이 발생하여 사용자가 재생 중인 콘텐츠를 인지하지 못하는 경우에 해당 지점으로 빠르고 편리하게 이동할 수 있는 썸네일이미지(TN)을 제공할 수 있다.
도 18에 도시한 바와 같이, t1~t2, T3~t4, t5~t6 구간에서 외란값이 임계값(CV)을 넘어설 수 있다. 따라서 임계값(CV)을 넘어서는 구간에서, 사용자는 재생 중이던 콘텐츠(C)의 전부 또는 일부를 명확히 인지 하지 못하는 상황이 발생할 수 있다. 예를 들어, 동영상인 콘텐츠(C)의 경우에 t1 시점의 제1 이미지(RI1)를 명확히 인지하지 못하는 상황이 발생할 수 있다. 이와 같은 경우에, 종래에는 사용자가 일정 부분 되감기를 하는 등의 동작을 수행해야 했다. 사용자가 임의로 되감기를 수행하여 보지 못한 부분을 찾는 경우에, 한번에 찾지 못하는 경우가 발생할 수 있으며 동작의 수행에 상당한 시간이 필요할 수 있다. 본 발명의 일 실시예에 따른 HMD(100)는, 사용자가 보지 못했을 것으로 예상되는 부분에 대한 썸네일이미지(TN)를 제공하여 사용자가 보다 빠르고 편리하게 콘텐츠(C)의 특정 지점을 검색할 수 있도록 할 수 있다.
도 19에 도시한 바와 같이, 가상영역(VA)에 콘텐츠(C)가 표시되어 있을 수 있다. 제어부(180)는, 썸네일이미지(TN)을 표시할 수 있다. 썸네일이미지(TN)는, 외란의 증가로 인하여 사용자가 보지 못한 것으로 판단되는 부분에 대응된 이미지일 수 있다. 예를 들어, 가상영역(VA) 이었던 문이 열리거나 소음발생으로 인하여 콘텐츠(C)의 해당되는 부분을 인지하지 못한 부분의 썸네일이미지(TN)가 표시될 수 있음을 의미한다.
도 20의 (a)에 도시한 바와 같이, 사용자는 손(H)을 사용하여 재생하고 싶은 특정 지점에 대응된 썸네일이미지(TN)를 선택할 수 있다. 손(H)을 사용한 선택은, 사용자 손(H)의 제스쳐를 카메라(121)를 통해 감지하여 이루어질 수 있다. 즉, 가상영역(VA)에 표시된 썸네일(TN)의 위치와 감지한 3차원 공간 상의 손(H)의 움직임에 기초하여 특정 썸네일이미지(TN)의 선택여부를 판단할 수 있음을 의미한다.
도 20의 (b)에 도시한 바와 같이, 특정 썸네일이미지(TN)에 대한 선택은 사용자의 음성명령에 기초하여 이루어질 수 있다. 예를 들어, ‘썸내일 1번’이라고 사용자가 말하면, 그에 대응된 제1 썸네일이미지(TN1)가 선택될 수 있음을 의미한다. 제어부(180)는, 콘텐츠(C) 중 선택된 제1 썸네일이미지(TN1)에 대응된 부분을 재생할 수 있다. 따라서 사용자는 놓친 부분을 빠르고 쉽게 볼 수 있다.
도 21에 도시한 바와 같이, 특정 썸네일이미지(TN)에 대한 선택은 HMD(100)에 마련된 터치패드(TA)에 대한 조작을 통해 이루어질 수도 있다. 예를 들어, HMD(100)의 측면 부분에 마련된 터치패드(TA) 영역을 손가락(F) 등으로 터치함으로서 특정 썸네일이미지(TN)에 대한 선택이 수행될 수 있음을 의미한다.
도 22에 도시한 바와 같이, 제어부(180)는 콘텐츠(C) 중 선택된 썸네일이미지(TN)에 대응된 부분을 재생할 수 있다. 예를 들어, 현재가 t7 이라고 할 때, 제1 썸네일이미지(TN1)을 선택하면 t7시점에 제1 썸네일이미지(TN1)에 대응된 콘텐츠(C)를 재생할 수 있음을 의미한다.
제어부(180)는, 콘텐츠(C)를 선택적으로 재생할 수 있다. 제1 썸네일이미지(TN1)에 대응된 부분부터 일정 구간만 재생하거나, 제1 썸네일이미지(TN1)에 대응된 부분부터 이후 구간 전체를 재생할 수 있음을 의미한다. 예를 들어, 제1 썸네일이미지(TN1)에 대응된 부분부터 일정 구간만 재생하는 경우라면 외란이 임계값(CV)을 넘어선 t1~t2 구간만을 재생할 수 있음을 의미한다.
도 23 내지 도 25는 도 1 HMD의 썸네일 표시 방법을 도시한 도면이다.
이에 도시한 바와 같이, 본 발명의 일 실시예에 따른 HMD(100)의 제어부(180)는, 표시할 썸네일이미지(TN)을 선택할 수 있다. 즉, 특정 부분을 보지 못했다고 사용자가 판단할 수 있도록 썸네일이미지(TN)를 제공할 수 있음을 의미한다.
도 23에 도시한 바와 같이, t4 시점에 외란이 임계값(CV)을 넘어서 t5 시점까지 증가하는 경우가 있을 수 있다. 따라서 임계값(CV)의 0.2 배, 0.5 배, 0.8 배 상태에 있는 t1, t2, t3 시점에서는 사용자는 콘텐츠(C)를 명확하게 인지할 수 있다. 임계값(CV)을 넘어서는 t4 시점에서 사용자는 콘텐츠(C)를 명확하게는 인지하지 못할 수 있다. 예를 들어, 해당 부분에 대응된 제4 썸네일이미지(TN4)를 보았을 때 그와 같은 장면이 있었음을 기억할 수도 못할 수도 있는 상황일 수 있음을 의미한다. 임계값(CV)의 1.3 배 상태에 있는 t5 시점에서 사용자는 콘텐츠(C)를 전혀 인지하지 못할 수 있다. 즉, 해당 부분에 대응된 제5 썸네일이미지(TN5)를 보았을 때 그와 같은 장면이 있었음을 전혀 기억하지 못하는 상황일 수 있음을 의미한다.
도 24에 도시한 바와 같이, 현재인 t6 시점에 가상영역(VA)에는 콘텐츠(C) 중 F 이미지가 표시되고 있을 수 있다. 다만, 사용자는 t1 시점의 A, t2 시점의 B, t3 시점의 C는 명확하기 기억하지만, t4 시점의 D에 대한 기억은 명확하지 않을 수 있다. 즉, 외란값이 임계값(CV)에 도달한 순간인 관계로 t4 시점에 표시된 D를 보았을 수도 있고 못 보았을 수도 있음을 의미한다. T5 시점의 E는외란값이 임계값(CV)을 크게 넘어선 상황이므로 사용자는 E에 대한 기억이 없을 수 있다.
도 25의 (a)에 도시한 바와 같이, 제어부(180)는 t3 시점에 대응된 제3 썸네일이미지(TN3)를 표시할 수 있다. 즉, 사용자가 적어도 t3 시점까지는 기억하고 있을 가능성이 높으므로, 사용자가 쉽게 선택할 수 있도록 t3 시점에 대응된 제3 썸네일이미지(TN3)를 표시할 수 있음을 의미한다.
도 25의 (b)에 도시한 바와 같이, 제어부(180)는 t4 시점에 대응된 제4 썸네일이미지(TN4)를 표시할 수 있다. 즉, 제4 썸네일이미지(TN4)는, 전술한 바와 같이 외란값이 임계값(CV)을 넘어서는 순간이므로 사용자는 제4 썸네일이미지(TN4)에 대응된 콘텐츠를 봤을 수도 있고 못 봤을 수도 있는 상황이다. 따라서 해당 시점에 대응된 제4 썸네일이미지(TN4)를 표시하고 이를 선택하면, 사용자는 외란으로 인하여 정확히 보지 못한 부분만을 최적화하여 볼 수 있다.
도 26 내지 도 28은 도 1 HMD의 대표 썸네일 표시방법을 도시한 도면이다.
이들 도면에 도시한 바와 같이, 본 발명의 일 실시예에 따른 HMD(100)는, 대표썸네일(MTN)을 표시할 수 있다.
도 26에 도시한 바와 같이, t1 시점에서 t7 시점까지 외란값이 임계값(CV)을 넘어설 수 있다. 즉, 재생되고 있던 콘텐츠를 t1 시점에서 t7 시점까지 사용자가 인지하지 못했을 수 있음을 의미한다. 현재 시점은, t8 시점 이후일 수 있다.
도 27의 (a)에 도시한 바와 같이, 현재 시점에 제어부(180)는 제1 내지 제 8 썸네일이미지(TN1 내지 TN8)를 표시할 수 있다. 즉, 외란이 임계값(CV)을 넘어선 구간에 대응된 썸네일이미지(TN)를 순차적으로 표시할 수 있음을 의미한다.
도 27의 (b)에 도시한 바와 같이, 현재 시점에 제어부(180)는 대표썸네일(MTN)을 표시할 수 있다. 대표썸네일(MTN)은, 일정한 구간 내의 썸네일이미지를 대표하는 썸네일일 수 있다. 예를 들어, 전술한 바와 같이 t1 ~ t7 구간에서 연속적으로 외란이 컸던 구간이 있다면, 해당 구간을 대표하는 이미지를 표시할 수 있음을 의미한다. 외란이 발생한 전 구간의 썸네일이미지를 표시하면, 어떠한 것을 선택할지에 대해 사용자는 오히려 혼란을 느낄 수 있다. 따라서 연속된 구간에서는 대표썸네일(MTN)을 표시함으로서 사용자 혼란을 최소화하면서도 사용자가 볼 수 없었던 부분에 대한 정보를 효과적으로 제공할 수 있다.
도 28의 (a)에 도시한 바와 같이, 대표썸네일(MTN)이 표시되어 있을 수 잇다.
도 28의 (b)에 도시한 바와 같이, 사용자는 손가락(F) 등을 이용한 제스쳐 동작으로 표시된 대표썸네일(MTN)을 선택하는 동작을 수행할 수 있다.
도 28의 (c)에 도시한 바와 같이, 대표썸네일(MTN)이 선택되면, 제어부(180)는 대표썸네일(MTN)을 구성하는 제1 내지 7 썸네일이미지(TN1 내지 TN7)를 표시할 수 있다. 따라서 사용자는 재시청을 원하는 부분을 보다 정밀하게 선택할 수 있게된다.
도 28의 (d)에 도시한 바와 같이, 제1 내지 7 썸네일이미지(TN1 내지 TN7)이 표시된 이후 일정 시간이 경과 및/또는 대표썸네일(MTN)에 대한 선택으로 제1 내지 7 썸네일이미지(TN1 내지 TN7)이 표시된 이후 일정 시간이 경과하면, 제어부(180)는 대표썸네일(MTN)을 표시할 수 있다.
도 29 내지 도 31은 도 1 HMD의 썸네일 표시시점을 도시한 도면이다.
이들 도면에 도시한 바와 같이, 본 발명의 일 실시예에 따른 HMD(100)의 제어부(180)는, 다양한 시점에 효과적으로 썸네일이미지를 표시할 수 있다.
도 29에 도시한 바와 같이, t1 내지 t4 시점에는 외란이 임계값(CV)을 넘어선 상태에 있을 수 있다.
도 30의 (a)에 도시한 바와 같이, t1 시점에 제어부(180)는 제1 썸네일이미지(TN1)을 표시할 수 있다. 즉, 외란이 임계값(CV)을 넘어서는 순간에 제1 썸네일이미지(TN1)를 표시할 수 있음을 의미한다.
도 30의 (b) 내지 (d)에 도시한 바와 같이, t2, t3, t4 시점 각각에 제어부(180)는 제2, 3, 4 썸네일이미지(TN2 내지 TN4)를 순차적으로 표시할 수 있다. 예를 들어, 외란이 임계값(CV)을 넘어간 상태가 유지되면 일정한 간격으로 썸네일이미지를 표시할 수 있음을 의미한다.
도 31에 도시한 바와 같이, 제어부(180)는 외란값이 임계값(CV)을 넘어간 상태가 종료되면 썸네일이미지들을 일률적으로 표시할 수 있다. 예를 들어, 사용자가 콘텐츠를 정상적으로 시청할 수 있게된 t5 시점에 제1 내지 4 썸네일이미지(TN1 내지 TN4)를 한번에 표시할 수도 있음을 의미한다.
도 32는 도 1 HMD의 썸네일 생성시점을 도시한 도면이다.
이에 도시한 바와 같이, 본 발명의 일 실시예에 따른 HMD(100)의 제어부(180)는, 썸네일 생성을 다양한 방법으로 수행할 수 있다.
도 32의 (a)에 도시한 바와 같이, 제어부(180)는 외란이 임계값(CV)을 넘어선 t1 시점부터 일정한 간격인 t2, t3, t4, t5 시점에 그 시점의 썸네일이미지를 생성할 수 있다.
도 32의 (b)에 도시한 바와 같이, 제어부(180)는 외란이 임계값(CV)을 넘어선 시점이라고 하더라도, 사용자가 콘텐츠의 내용을 적어도 일부분 기억할 가능성이 있는 부분의 썸네일이미지를 생성할 수 있다. 예를 들어, 상대적으로 외란 정도나 낮은 t1, t6, t7 시점의 썸네일이미지를 생성하여 표시할 수 있음을 의미한다. t1, t6, t7 시점은 서로 간격이 동일할 수도 다를 수도 있다. 상대적으로 외란 정도가 낮은 시점의 썸네일이미지가 표시됨으로 인하여, 표시된 썸네일을 통해 사용자가 콘텐츠의 어느 부분을 못 보았는지 추정함에 유리한 효과를 낼 수 있다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 단말기의 제어부(180)를 포함할 수도 있다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

Claims (16)

  1. 디스플레이;
    센서; 및
    상기 디스플레이에서 표시된 콘텐츠를 사용자의 시야범위 내 가상영역에 표시하고, 상기 센서를 통해 감지한 외란값이 임계값 이상인 경우에 상기 콘텐츠 중 상기 임계값 이상인 지점을 선택하여 재생할 수 있도록 하는 적어도 하나의 썸네일이미지를 표시하는 제어부를 포함하는 헤드 마운티드 디스플레이.
  2. 제1 항에 있어서,
    상기 제어부는,
    상기 가상영역과 중첩되는 영역의 시각적 변화,
    상기 콘텐츠의 표시 중 발생된 외부 소음의 변화,
    상기 콘텐츠의 표시 중 발생된 상기 콘텐츠 수신상태의 변화,
    상기 콘텐츠 표시 중 상기 사용자의 주시 방향의 변화 중 적어도 하나에 기초하여 상기 외란값을 결정하는 헤드 마운티드 디스플레이.
  3. 제1 항에 있어서,
    상기 제어부는,
    상기 외란값이 상기 임계값 이상이 되는 시점의 제1 썸네일이미지,
    상기 외란값이 상기 임계값 이상인 구간의 적어도 하나의 제2 썸네일이미지 중 적어도 하나의 썸네일이미지를 표시하는 헤드 마운티드 디스플레이.
  4. 제3 항에 있어서,
    상기 제2 썸네일이미지는 복수 개이며,
    상기 제어부는,
    기 설정된 일정한 간격으로 상기 제2 썸네일이미지를 생성하여 표시하거나, 상기 외란값이 상기 임계값 이상인 구간 중 상기 외란값이 작은 시점에 상기 제2 썸네일이미지를 생성하여 표시하는 헤드 마운티드 디스플레이.
  5. 제1 항에 있어서,
    상기 제어부는,
    상기 썸네일이미지의 생성 시점에 상기 썸네일이미지를 상기 가상영역에 표시하거나, 상기 외란값이 상기 임계값 미만이 된 시점에 생성한 상기 썸네일이미지를 상기 가상영역에 표시하는 헤드 마운티드 디스플레이.
  6. 제1 항에 있어서,
    상기 썸네일이미지는 복수 개이며,
    상기 제어부는,
    상기 복수 개의 썸네일이미지를 대표하는 대표 썸네일이미지를 생성하여, 상기 복수 개의 썸네일이미지 중 적어도 일부를 대신 표시하는 헤드 마운티드 디스플레이.
  7. 제6 항에 있어서,
    상기 제어부는,
    상기 외란값이 상기 임계값 이상인 하나의 구간내에서 생성한 상기 복수의 썸네일이미지를 결합하여 상기 대표 썸네일이미지를 생성하는 헤드 마운티드 디스플레이.
  8. 제6 항에 있어서,
    상기 제어부는,
    상기 대표 썸네일이미지에 대한 선택신호를 획득하면,
    상기 대표 썸네일이미지를 구서하는 상기 복수 개의 썸네일이미지를 상기 대표 썸네일이미지를 대신하여 표시하는 헤드 마운티드 디스플레이.
  9. 제1 항에 있어서,
    상기 제어부는,
    상기 시야범위 중에서 상대적으로 상기 외란값이 낮은 영역을 상기 가상영역으로 선택하는 것을 특징으로 하는 헤드 마운티드 디스플레이.
  10. 제1 항에 있어서,
    상기 제어부는,
    상기 시야범위가 변경되면, 상기 변경된 시야범위 중 상기 외란값이 낮은 영역을 상기 가상영역으로 설정하는 헤드 마운티드 디스플레이.
  11. 제1 항에 있어서,
    상기 센서는,
    상기 시야범위와 상기 사용자의 눈 중 적어도 일 방향을 촬영하는 적어도 하나의 카메라, 상기 헤드 마운티드 디스플레이 주위의 소음을 감지하는 마이크 중 적어도 하나를 포함하는 헤드 마운티드 디스플레이.
  12. 제1 항에 있어서,
    상기 제어부는,
    상기 사용자의 3차원 공간 상에서의 손 제스쳐, 상기 사용자의 음성, 상기 헤드 마운티드 디스플레이에 마련된 터치패드에 대한 사용자의 터치동작 중 적어도 하나를 통하여 상기 표시한 썸네일이미지에 대한 사용자의 선택을 획득하는 헤드 마운티드 디스플레이.
  13. 제1 항에 있어서,
    상기 제어부는,
    상기 콘텐츠의 표시 중에 상기 적어도 하나의 썸네일이미지를 상기 콘텐츠와 함께 상기 가상영역에 표시하는 헤드 마운티드 디스플레이.
  14. 콘텐츠를 사용자의 시야범위 내 가상영역에 표시하는 단계;
    상기 콘텐츠의 표시 중 외란값이 임계값 이상인 경우에 상기 콘텐츠 중 상기 임계값 이상인 지점을 선택하여 재생할 수 있도록 하는 적어도 하나의 썸네일이미지를 생성하는 단계; 및
    상기 생성한 썸네일이미지를 표시하는 단계를 포함하는 헤드 마운티드 디스플레이의 제어방법.
  15. 제14 항에 있어서,
    상기 가상영역과 중첩되는 영역의 시각적 변화, 상기 콘텐츠의 표시 중 발생된 외부 소음의 변화, 상기 콘텐츠의 표시 중 발생된 상기 콘텐츠 수신상태의 변화, 상기 콘텐츠 표시 중 상기 사용자의 주시 방향의 변화 중 적어도 하나를 감지하는 단계를 더 포함하는 헤드 마운티드 디스플레이의 제어방법.
  16. 제14 항에 있어서,
    상기 썸네일이미지는 복수 개이며, 상기 복수 개의 썸네일이미지를 대표하는 대표 썸네일이미지를 생성하여 상기 복수 개의 썸네일이미지 중 적어도 일부를 대신하여 표시하는 단계를 더 포함하는 헤드 마운티드 디스플레이의 제어방법.
PCT/KR2014/006629 2014-07-22 2014-07-22 헤드 마운티드 디스플레이 및 그 제어방법 WO2016013692A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US15/328,316 US10217258B2 (en) 2014-07-22 2014-07-22 Head mounted display and control method thereof
PCT/KR2014/006629 WO2016013692A1 (ko) 2014-07-22 2014-07-22 헤드 마운티드 디스플레이 및 그 제어방법
EP14897954.5A EP3173848B1 (en) 2014-07-22 2014-07-22 Head mounted display and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/KR2014/006629 WO2016013692A1 (ko) 2014-07-22 2014-07-22 헤드 마운티드 디스플레이 및 그 제어방법

Publications (1)

Publication Number Publication Date
WO2016013692A1 true WO2016013692A1 (ko) 2016-01-28

Family

ID=55163212

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2014/006629 WO2016013692A1 (ko) 2014-07-22 2014-07-22 헤드 마운티드 디스플레이 및 그 제어방법

Country Status (3)

Country Link
US (1) US10217258B2 (ko)
EP (1) EP3173848B1 (ko)
WO (1) WO2016013692A1 (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10380966B2 (en) * 2015-08-31 2019-08-13 International Business Machines Corporation Power and processor management for a personal imaging system
KR102499354B1 (ko) 2018-02-23 2023-02-13 삼성전자주식회사 디스플레이를 통해 표시된 제 1 콘텐트에 대해 제 2 콘텐트를 외부 객체의 움직임에 따라 제공하기 위한 전자 장치 및 그의 동작 방법
FR3081639B1 (fr) * 2018-06-11 2020-07-31 Orange Procede et systeme de transmission optiques de donnees pour des applications de realite virtuelle ou augmentee
US11982809B2 (en) 2018-09-17 2024-05-14 Apple Inc. Electronic device with inner display and externally accessible input-output device
US11740742B2 (en) * 2019-09-23 2023-08-29 Apple Inc. Electronic devices with finger sensors
CN113791495B (zh) * 2021-08-27 2024-09-20 优奈柯恩(北京)科技有限公司 用于显示信息的方法、装置、设备及计算机可读介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060012746A (ko) * 2004-08-04 2006-02-09 삼성전자주식회사 재생 시작 위치를 선택 가능한 영상 재생장치 및 그제어방법
KR20060019273A (ko) * 2004-08-27 2006-03-03 삼성전자주식회사 Ｈｍｄ 정보 단말기 및 키를 입력하는 장치 및 방법
KR20100030820A (ko) * 2008-09-11 2010-03-19 엘지전자 주식회사 이동 단말기 및 이를 이용한 영상 데이터 재생 방법
KR20130137692A (ko) * 2011-03-29 2013-12-17 퀄컴 인코포레이티드 증강 현실 시스템들에서 실세계 표면들에의 가상 이미지들의 앵커링
KR20140066258A (ko) * 2011-09-26 2014-05-30 마이크로소프트 코포레이션 투시 근안 디스플레이에 대한 센서 입력에 기초한 비디오 디스플레이 수정

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH086708A (ja) 1994-04-22 1996-01-12 Canon Inc 表示装置
EP1182541A3 (de) 2000-08-22 2005-11-30 Siemens Aktiengesellschaft System und Verfahren zum kombinierten Einsatz verschiedener Display-/Gerätetypen mit systemgesteuerter kontextabhängiger Informationsdarstellung
US8839128B2 (en) * 2009-11-25 2014-09-16 Cooliris, Inc. Gallery application for content viewing
US8223088B1 (en) * 2011-06-09 2012-07-17 Google Inc. Multimode input field for a head-mounted display
CN103018905A (zh) * 2011-09-23 2013-04-03 奇想创造事业股份有限公司 头戴式体感操控显示系统及其方法
KR20140021731A (ko) * 2012-08-09 2014-02-20 삼성전자주식회사 이미지의 동적 운용 방법 및 이를 지원하는 단말기
US10685487B2 (en) * 2013-03-06 2020-06-16 Qualcomm Incorporated Disabling augmented reality (AR) devices at speed
JP5962594B2 (ja) * 2013-06-14 2016-08-03 株式会社デンソー 車載表示装置およびプログラム
GB2517143A (en) * 2013-08-07 2015-02-18 Nokia Corp Apparatus, method, computer program and system for a near eye display

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060012746A (ko) * 2004-08-04 2006-02-09 삼성전자주식회사 재생 시작 위치를 선택 가능한 영상 재생장치 및 그제어방법
KR20060019273A (ko) * 2004-08-27 2006-03-03 삼성전자주식회사 Ｈｍｄ 정보 단말기 및 키를 입력하는 장치 및 방법
KR20100030820A (ko) * 2008-09-11 2010-03-19 엘지전자 주식회사 이동 단말기 및 이를 이용한 영상 데이터 재생 방법
KR20130137692A (ko) * 2011-03-29 2013-12-17 퀄컴 인코포레이티드 증강 현실 시스템들에서 실세계 표면들에의 가상 이미지들의 앵커링
KR20140066258A (ko) * 2011-09-26 2014-05-30 마이크로소프트 코포레이션 투시 근안 디스플레이에 대한 센서 입력에 기초한 비디오 디스플레이 수정

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3173848A4 *

Also Published As

Publication number Publication date
EP3173848A1 (en) 2017-05-31
EP3173848B1 (en) 2020-04-22
EP3173848A4 (en) 2018-03-07
US10217258B2 (en) 2019-02-26
US20170206688A1 (en) 2017-07-20

Similar Documents

Publication Publication Date Title
WO2016047863A1 (ko) 모바일 디바이스, hmd 및 시스템
WO2017022931A1 (ko) 이동단말기 및 그 제어방법
WO2016035921A1 (ko) 이동 단말기 및 그것의 제어방법
WO2017039098A1 (en) Mobile device, wearable device and method of controlling each device
WO2017094926A1 (ko) 단말 장치 및 제어 방법
WO2016195147A1 (ko) 헤드 마운티드 디스플레이
WO2015190662A1 (en) Mobile terminal and control system
WO2016013692A1 (ko) 헤드 마운티드 디스플레이 및 그 제어방법
WO2017131351A1 (en) Mobile terminal and method for controlling the same
WO2015194723A1 (ko) 이동단말기 및 그 제어방법
WO2016175424A1 (ko) 이동 단말기 및 그 제어 방법
WO2016039496A1 (ko) 이동단말기 및 그 제어방법
WO2015174611A1 (ko) 이동 단말기 및 그것의 제어 방법
WO2017026554A1 (ko) 이동 단말기
WO2016114437A1 (ko) 이동 단말기 및 그것의 제어방법
WO2015125993A1 (ko) 이동 단말기 및 이동 단말기의 제어방법
WO2018093002A1 (ko) 이동 단말기 및 그 제어 방법
WO2017022872A1 (ko) 헤드 마운티드 디스플레이 및 그 제어방법
WO2016013768A1 (ko) 이동단말기 및 그 제어방법
WO2018052159A1 (ko) 이동 단말기 및 그 제어방법
WO2016035920A1 (ko) 이동 단말기 및 이의 제어 방법
WO2018030622A1 (en) Mobile terminal and operating method thereof
WO2016111406A1 (ko) 이동단말기 및 그 제어방법
WO2018092990A2 (ko) 디스플레이 디바이스 및 그 제어방법
WO2020022548A1 (ko) 이동 단말기 및 그 제어방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14897954

Country of ref document: EP

Kind code of ref document: A1

REEP Request for entry into the european phase

Ref document number: 2014897954

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2014897954

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 15328316

Country of ref document: US