WO2018093003A1 - 이동 단말기 및 그의 동작 방법 - Google Patents

이동 단말기 및 그의 동작 방법 Download PDF

Info

Publication number
WO2018093003A1
WO2018093003A1 PCT/KR2017/005775 KR2017005775W WO2018093003A1 WO 2018093003 A1 WO2018093003 A1 WO 2018093003A1 KR 2017005775 W KR2017005775 W KR 2017005775W WO 2018093003 A1 WO2018093003 A1 WO 2018093003A1
Authority
WO
WIPO (PCT)
Prior art keywords
mobile terminal
image
omnidirectional
omnidirectional image
controller
Prior art date
Application number
PCT/KR2017/005775
Other languages
English (en)
French (fr)
Inventor
한종우
정슬기
박유진
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of WO2018093003A1 publication Critical patent/WO2018093003A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72415—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories for remote control of appliances
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/725—Cordless telephones
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/34—Microprocessors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/38—Displays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/06—Details of telephonic subscriber devices including a wireless LAN interface
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/12—Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/22—Details of telephonic subscriber devices including a touch pad, a touch sensor or a touch detector

Definitions

  • the present invention relates to a mobile terminal and an operation method thereof, and more particularly, to a mobile terminal and an operation method thereof that can edit an omnidirectional image or apply an effect to the omnidirectional image.
  • Terminals may be divided into mobile / portable terminals and stationary terminals according to their mobility.
  • the mobile terminal may be further classified into a handheld terminal and a vehicle mounted terminal according to whether a user can directly carry it.
  • the functions of mobile terminals are diversifying. For example, data and voice communication, taking a picture and video with a camera, recording a voice, playing a music file through a speaker system, and outputting an image or video to a display unit.
  • Some terminals have an electronic game play function or a multimedia player function.
  • recent mobile terminals may receive multicast signals that provide visual content such as broadcasting, video, and television programs.
  • such a terminal is a multimedia player having a complex function such as taking a picture or a video, playing a music or video file, playing a game, or receiving a broadcast. Is being implemented.
  • a mobile terminal can be used in conjunction with a photographing apparatus for capturing an omnidirectional image.
  • a general camera captures a two-dimensional image, but a 360-degree camera can capture a three-dimensional space as a spherical omnidirectional image.
  • the captured omnidirectional image may be transmitted to the mobile terminal and displayed on the display.
  • the omnidirectional image has a problem in which unwanted portions are photographed, and there is a problem that it is inconvenient to edit the omnidirectional image.
  • An object of the present invention is to provide a mobile terminal capable of generating a map using the omnidirectional image photographed by the omnidirectional photographing apparatus, and to reproduce the omnidirectional image using the generated map, and an operation method thereof.
  • An object of the present invention is to provide a mobile terminal for applying a privacy function by recognizing a person in the omnidirectional image photographed by the omnidirectional photographing apparatus, and an operation method thereof.
  • An object of the present invention is to provide a mobile terminal and a method of operating the same, which recognizes a gesture of a person from an omnidirectional image captured by the omnidirectional photographing device and applies an effect corresponding to the gesture.
  • the communication module for communicating with the omnidirectional photographing device for photographing the omnidirectional image, the display unit for displaying the omnidirectional image received from the omnidirectional photographing apparatus and the omnidirectional photographing apparatus of A mobile terminal including a control unit for receiving a request for setting a photographing method and setting a photographing method for the omnidirectional image in response to the received request.
  • the step of receiving a omnidirectional image from the omnidirectional photographing apparatus displaying the received omnidirectional image and receiving a request for setting the photographing method of the omnidirectional photographing apparatus, the received request
  • the present invention provides a method of operating a mobile terminal, including setting a photographing method of the omnidirectional image.
  • a map may be generated using the omnidirectional image photographed by the omnidirectional photographing apparatus, and the omnidirectional image may be more intuitively reproduced by reproducing the omnidirectional image using the generated map.
  • the privacy function may be applied by recognizing a person in the omnidirectional image photographed by the omnidirectional photographing apparatus to more easily protect the privacy of neighboring people.
  • a gesture of a person may be recognized in the omnidirectional image captured by the omnidirectional photographing apparatus, and an effect corresponding to the gesture may be applied to reproduce the omnidirectional image more intuitively.
  • FIG. 1 is a block diagram illustrating a mobile terminal related to the present invention.
  • FIG. 2 is a view for explaining the configuration of the mobile terminal and the omnidirectional photographing apparatus according to an embodiment of the present invention.
  • 3 is a view for explaining that the image including the omnidirectional around the omnidirectional photographing apparatus can be photographed.
  • FIG. 4 is a ladder diagram illustrating a method of operating a mobile terminal and an omnidirectional photographing apparatus according to an embodiment of the present invention.
  • 5A to 5E are diagrams for describing a method of generating a map using an image including a omnidirectional and displaying a road view image on a map according to an embodiment of the present invention.
  • 6A to 6C are diagrams for describing a method of restricting a direction of a road view image of a specific object in an image generated by using an image including an omnidirectional according to an embodiment of the present invention.
  • FIGS. 7A to 7C are diagrams for describing a method of removing an obstacle when generating a road view image using an image including an omnidirectional according to an embodiment of the present invention.
  • FIGS. 8A to 8D are diagrams for describing a method of applying a privacy function in an omnidirectional image according to an embodiment of the present invention.
  • 9A and 9B are diagrams for describing a method of applying a privacy function excluding an object selected from an omnidirectional image according to an embodiment of the present invention.
  • 10A and 10B are diagrams for describing a method of applying a privacy function, except for a selected object in all time domains and a selected time domain of an omnidirectional image, according to an exemplary embodiment.
  • 11A and 11B illustrate a method of applying a privacy function to a selected object in an omnidirectional image generated according to an embodiment of the present invention.
  • 12A and 12B are diagrams for describing a method of copying an edit form of an omnidirectional image, according to an exemplary embodiment.
  • FIG. 13A is a diagram for describing a method of applying a privacy function by selecting a person who has made a specific gesture according to an embodiment of the present invention.
  • 14A and 14B are diagrams for describing a method of transmitting a message confirming whether a privacy infringement is prevented when an omnidirectional image is transmitted to the outside according to one embodiment of the present invention.
  • 15A to 15C are diagrams for describing a method of capturing an area excluding a capturing limit area when capturing an image including an omnidirectional image.
  • 16A to 16C are diagrams for describing a method of displaying information on a specific building when capturing an image including all directions.
  • 17A to 17C are diagrams for describing a method of generating a map using an image including an omnidirectional and displaying a road view image on a map according to an embodiment of the present invention.
  • 18A to 18C are diagrams for describing a method of recognizing a gesture indicating a specific position and displaying an image corresponding to the playback of an omnidirectional image.
  • 19A and 19B illustrate a method of tracking and displaying a selected object when playing an omnidirectional image.
  • the mobile terminal described herein includes a mobile phone, a smart phone, a laptop computer, a digital broadcasting terminal, a personal digital assistant, a portable multimedia player, a navigation, a slate PC , Tablet PCs, ultrabooks, wearable devices, such as smartwatches, glass glasses, head mounted displays, and the like. have.
  • FIG. 1 is a block diagram illustrating a mobile terminal related to the present invention.
  • the mobile terminal 100 includes a wireless communication unit 110, an input unit 120, a sensing unit 140, an output unit 150, an interface unit 160, a memory 170, a controller 180, and a power supply unit 190. ) May be included.
  • FIG. 1 The components shown in FIG. 1 are not essential to implementing a mobile terminal, so a mobile terminal described herein may have more or fewer components than those listed above.
  • the wireless communication unit 110 of the components, between the mobile terminal 100 and the wireless communication system, between the mobile terminal 100 and another mobile terminal 100, or the mobile terminal 100 and the external server It may include one or more modules that enable wireless communication therebetween.
  • the wireless communication unit 110 may include one or more modules for connecting the mobile terminal 100 to one or more networks.
  • the wireless communication unit 110 may include at least one of the broadcast receiving module 111, the mobile communication module 112, the wireless internet module 113, the short range communication module 114, and the location information module 115. .
  • the input unit 120 may include a camera 121 or an image input unit for inputting an image signal, a microphone 122 for inputting an audio signal, an audio input unit, or a user input unit 123 for receiving information from a user. , Touch keys, mechanical keys, and the like.
  • the voice data or the image data collected by the input unit 120 may be analyzed and processed as a control command of the user.
  • the sensing unit 140 may include one or more sensors for sensing at least one of information in the mobile terminal, surrounding environment information surrounding the mobile terminal, and user information.
  • the sensing unit 140 may include a proximity sensor 141, an illumination sensor 142, an illumination sensor, a touch sensor, an acceleration sensor, a magnetic sensor, and gravity.
  • the mobile terminal disclosed herein may use a combination of information sensed by at least two or more of these sensors.
  • the output unit 150 is used to generate an output related to sight, hearing, or tactile sense, and includes at least one of a display unit 151, an audio output unit 152, a hap tip module 153, and an optical output unit 154. can do.
  • the display unit 151 forms a layer structure with or is integrally formed with the touch sensor, thereby implementing a touch screen.
  • the touch screen may function as a user input unit 123 that provides an input interface between the mobile terminal 100 and the user, and may also provide an output interface between the mobile terminal 100 and the user.
  • the interface unit 160 serves as a path to various types of external devices connected to the mobile terminal 100.
  • the interface unit 160 connects a device equipped with a wired / wireless headset port, an external charger port, a wired / wireless data port, a memory card port, and an identification module. It may include at least one of a port, an audio input / output (I / O) port, a video input / output (I / O) port, and an earphone port.
  • I / O audio input / output
  • I / O video input / output
  • earphone port an earphone port
  • the memory 170 stores data supporting various functions of the mobile terminal 100.
  • the memory 170 may store a plurality of application programs or applications driven in the mobile terminal 100, data for operating the mobile terminal 100, and instructions. At least some of these applications may be downloaded from an external server via wireless communication.
  • at least some of these application programs may exist on the mobile terminal 100 from the time of shipment for basic functions of the mobile terminal 100 (for example, a call forwarding, a calling function, a message receiving, and a calling function).
  • the application program may be stored in the memory 170 and installed on the mobile terminal 100 to be driven by the controller 180 to perform an operation (or function) of the mobile terminal.
  • the controller 180 In addition to the operation related to the application program, the controller 180 typically controls the overall operation of the mobile terminal 100.
  • the controller 180 may provide or process information or a function appropriate to a user by processing signals, data, information, and the like, which are input or output through the above-described components, or by driving an application program stored in the memory 170.
  • controller 180 may control at least some of the components described with reference to FIG. 1 in order to drive an application program stored in the memory 170. In addition, the controller 180 may operate by combining at least two or more of the components included in the mobile terminal 100 to drive the application program.
  • the power supply unit 190 receives power from an external power source and an internal power source under the control of the controller 180 to supply power to each component included in the mobile terminal 100.
  • the power supply unit 190 includes a battery, which may be a built-in battery or a replaceable battery.
  • the broadcast receiving module 111 of the wireless communication unit 110 receives a broadcast signal and / or broadcast related information from an external broadcast management server through a broadcast channel.
  • the broadcast channel may include a satellite channel and a terrestrial channel.
  • Two or more broadcast receiving modules may be provided to the mobile terminal 100 for simultaneous broadcast reception or switching of broadcast channels for at least two broadcast channels.
  • the broadcast management server may mean a server that generates and transmits a broadcast signal and / or broadcast related information or a server that receives a previously generated broadcast signal and / or broadcast related information and transmits the same to a terminal.
  • the broadcast signal may include not only a TV broadcast signal, a radio broadcast signal, and a data broadcast signal, but also a broadcast signal having a data broadcast signal combined with a TV broadcast signal or a radio broadcast signal.
  • the broadcast signal may be encoded according to at least one of technical standards (or broadcast methods, for example, ISO, IEC, DVB, ATSC, etc.) for transmitting and receiving digital broadcast signals, and the broadcast receiving module 111 may
  • the digital broadcast signal may be received by using a method suitable for a technical standard set by technical standards.
  • the broadcast associated information may mean information related to a broadcast channel, a broadcast program, or a broadcast service provider.
  • the broadcast related information may also be provided through a mobile communication network. In this case, it may be received by the mobile communication module 112.
  • the broadcast related information may exist in various forms such as an electronic program guide (EPG) of digital multimedia broadcasting (DMB) or an electronic service guide (ESG) of digital video broadcast-handheld (DVB-H).
  • EPG electronic program guide
  • ESG electronic service guide
  • the broadcast signal and / or broadcast related information received through the broadcast receiving module 111 may be stored in the memory 160.
  • the mobile communication module 112 may include technical standards or communication schemes (eg, Global System for Mobile communication (GSM), Code Division Multi Access (CDMA), Code Division Multi Access 2000 (CDMA2000), and EV).
  • GSM Global System for Mobile communication
  • CDMA Code Division Multi Access
  • CDMA2000 Code Division Multi Access 2000
  • EV Enhanced Voice-Data Optimized or Enhanced Voice-Data Only (DO), Wideband CDMA (WCDMA), High Speed Downlink Packet Access (HSDPA), High Speed Uplink Packet Access (HSUPA), Long Term Evolution (LTE), LTE-A (Long Term Evolution-Advanced) and the like to transmit and receive a radio signal with at least one of a base station, an external terminal, a server on a mobile communication network.
  • GSM Global System for Mobile communication
  • CDMA Code Division Multi Access
  • CDMA2000 Code Division Multi Access 2000
  • EV Enhanced Voice-Data Optimized or Enhanced Voice-Data Only (DO)
  • WCDMA Wideband CDMA
  • HSDPA High
  • the wireless signal may include various types of data according to transmission and reception of a voice call signal, a video call call signal, or a text / multimedia message.
  • the wireless internet module 113 refers to a module for wireless internet access and may be embedded or external to the mobile terminal 100.
  • the wireless internet module 113 is configured to transmit and receive wireless signals in a communication network according to wireless internet technologies.
  • wireless Internet technologies include Wireless LAN (WLAN), Wireless-Fidelity (Wi-Fi), Wireless Fidelity (Wi-Fi) Direct, Digital Living Network Alliance (DLNA), Wireless Broadband (WiBro), and WiMAX (World).
  • the wireless Internet module 113 for performing a wireless Internet access through the mobile communication network 113 May be understood as a kind of mobile communication module 112.
  • the short range communication module 114 is for short range communication, and includes Bluetooth TM, Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, and NFC. (Near Field Communication), at least one of Wi-Fi (Wireless-Fidelity), Wi-Fi Direct, Wireless USB (Wireless Universal Serial Bus) technology can be used to support short-range communication.
  • the short-range communication module 114 may be configured between a mobile terminal 100 and a wireless communication system, between the mobile terminal 100 and another mobile terminal 100, or through the wireless area networks. ) And a network in which the other mobile terminal 100 (or an external server) is located.
  • the short range wireless communication network may be short range wireless personal area networks.
  • the other mobile terminal 100 is a wearable device capable of exchanging (or interworking) data with the mobile terminal 100 according to the present invention (for example, smartwatch, smart glasses). (smart glass), head mounted display (HMD).
  • the short range communication module 114 may sense (or recognize) a wearable device that can communicate with the mobile terminal 100, around the mobile terminal 100.
  • the controller 180 may include at least a portion of data processed by the mobile terminal 100 in the short range communication module ( The transmission may be transmitted to the wearable device through 114. Therefore, the user of the wearable device may use data processed by the mobile terminal 100 through the wearable device. For example, according to this, when a call is received by the mobile terminal 100, the user performs a phone call through the wearable device or when a message is received by the mobile terminal 100, the received through the wearable device. It is possible to check the message.
  • the location information module 115 is a module for obtaining a location (or current location) of a mobile terminal, and a representative example thereof is a Global Positioning System (GPS) module or a Wireless Fidelity (WiFi) module.
  • GPS Global Positioning System
  • WiFi Wireless Fidelity
  • the mobile terminal may acquire the location of the mobile terminal using a signal transmitted from a GPS satellite.
  • the mobile terminal may acquire the location of the mobile terminal based on information of the wireless access point (AP) transmitting or receiving the Wi-Fi module and the wireless signal. If necessary, the location information module 115 may perform any function of other modules of the wireless communication unit 110 to substitute or additionally obtain data regarding the location of the mobile terminal.
  • the location information module 115 is a module used to obtain the location (or current location) of the mobile terminal, and is not limited to a module that directly calculates or obtains the location of the mobile terminal.
  • the input unit 120 is for inputting image information (or signal), audio information (or signal), data, or information input from a user.
  • the mobile terminal 100 is one.
  • the plurality of cameras 121 may be provided.
  • the camera 121 processes image frames such as still images or moving images obtained by the image sensor in the video call mode or the photographing mode.
  • the processed image frame may be displayed on the display unit 151 or stored in the memory 170.
  • the plurality of cameras 121 provided in the mobile terminal 100 may be arranged to form a matrix structure, and through the camera 121 forming a matrix structure in this way, the mobile terminal 100 may have various angles or focuses.
  • the plurality of pieces of image information may be input.
  • the plurality of cameras 121 may be arranged in a stereo structure to acquire a left image and a right image for implementing a stereoscopic image.
  • the microphone 122 processes external sound signals into electrical voice data.
  • the processed voice data may be variously used according to a function (or an application program being executed) performed by the mobile terminal 100. Meanwhile, various noise reduction algorithms may be implemented in the microphone 122 to remove noise generated in the process of receiving an external sound signal.
  • the user input unit 123 is for receiving information from a user. When information is input through the user input unit 123, the controller 180 may control an operation of the mobile terminal 100 to correspond to the input information. .
  • the user input unit 123 may be a mechanical input unit (or a mechanical key, for example, a button, a dome switch, a jog wheel, or a button located at the front, rear, or side of the mobile terminal 100). Jog switch, etc.) and touch input means.
  • the touch input means may include a virtual key, a soft key, or a visual key displayed on the touch screen through a software process, or a portion other than the touch screen.
  • the virtual key or the visual key may be displayed on the touch screen while having various forms, for example, graphic or text. ), An icon, a video, or a combination thereof.
  • the sensing unit 140 senses at least one of information in the mobile terminal, surrounding environment information surrounding the mobile terminal, and user information, and generates a sensing signal corresponding thereto.
  • the controller 180 may control driving or operation of the mobile terminal 100 or perform data processing, function or operation related to an application program installed in the mobile terminal 100 based on the sensing signal. Representative sensors among various sensors that may be included in the sensing unit 140 will be described in more detail.
  • the proximity sensor 141 refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or an object present in the vicinity without using a mechanical contact by using an electromagnetic force or infrared rays.
  • the proximity sensor 141 may be disposed in an inner region of the mobile terminal covered by the touch screen described above or near the touch screen.
  • the proximity sensor 141 examples include a transmission photoelectric sensor, a direct reflection photoelectric sensor, a mirror reflection photoelectric sensor, a high frequency oscillation proximity sensor, a capacitive proximity sensor, a magnetic proximity sensor, and an infrared proximity sensor.
  • the proximity sensor 141 may be configured to detect the proximity of the object by the change of the electric field according to the proximity of the conductive object.
  • the touch screen (or touch sensor) itself may be classified as a proximity sensor.
  • the proximity sensor 141 may detect a proximity touch and a proximity touch pattern (for example, a proximity touch distance, a proximity touch direction, a proximity touch speed, a proximity touch time, a proximity touch position, and a proximity touch movement state). have.
  • the controller 180 processes data (or information) corresponding to the proximity touch operation and the proximity touch pattern detected through the proximity sensor 141 as described above, and further, provides visual information corresponding to the processed data. It can be output on the touch screen. Further, the controller 180 may control the mobile terminal 100 to process different operations or data (or information) according to whether the touch on the same point on the touch screen is a proximity touch or a touch touch. .
  • the touch sensor applies a touch (or touch input) applied to the touch screen (or the display unit 151) using at least one of various touch methods such as a resistive film method, a capacitive method, an infrared method, an ultrasonic method, and a magnetic field method. Detect.
  • the touch sensor may be configured to convert a change in pressure applied to a specific portion of the touch screen or capacitance generated at the specific portion into an electrical input signal.
  • the touch sensor may be configured to detect a position, an area, a pressure at the touch, a capacitance at the touch, and the like, when the touch object applying the touch on the touch screen is touched on the touch sensor.
  • the touch object is an object applying a touch to the touch sensor and may be, for example, a finger, a touch pen or a stylus pen, a pointer, or the like.
  • the touch controller processes the signal (s) and then transmits the corresponding data to the controller 180.
  • the controller 180 can know which area of the display unit 151 is touched.
  • the touch controller may be a separate component from the controller 180 or may be the controller 180 itself.
  • the controller 180 may perform different control or perform the same control according to the type of touch object that touches the touch screen (or a touch key provided in addition to the touch screen). Whether to perform different control or the same control according to the type of touch object may be determined according to the operation state of the mobile terminal 100 or an application program being executed.
  • the touch sensor and the proximity sensor described above may be independently or combined, and may be a short (or tap) touch, a long touch, a multi touch, a drag touch on a touch screen. ), Flick touch, pinch-in touch, pinch-out touch, swipe touch, hovering touch, etc. A touch can be sensed.
  • the ultrasonic sensor may recognize location information of a sensing object using ultrasonic waves.
  • the controller 180 can calculate the position of the wave generation source through the information detected from the optical sensor and the plurality of ultrasonic sensors.
  • the position of the wave source can be calculated using the property that the light is much faster than the ultrasonic wave, that is, the time that the light reaches the optical sensor is much faster than the time when the ultrasonic wave reaches the ultrasonic sensor. More specifically, the position of the wave generation source may be calculated using a time difference from the time when the ultrasonic wave reaches the light as the reference signal.
  • the camera 121 which has been described as the configuration of the input unit 120, includes at least one of a camera sensor (eg, CCD, CMOS, etc.), a photo sensor (or an image sensor), and a laser sensor.
  • a camera sensor eg, CCD, CMOS, etc.
  • a photo sensor or an image sensor
  • a laser sensor e.g., a laser sensor
  • the camera 121 and the laser sensor may be combined with each other to detect a touch of a sensing object with respect to a 3D stereoscopic image.
  • the photo sensor may be stacked on the display element, which is configured to scan the movement of the sensing object in proximity to the touch screen. More specifically, the photo sensor mounts a photo diode and a transistor (TR) in a row / column and scans contents mounted on the photo sensor by using an electrical signal that varies according to the amount of light applied to the photo diode. That is, the photo sensor calculates coordinates of the sensing object according to the amount of light change, and thus, the position information of the sensing object can be obtained.
  • TR transistor
  • the display unit 151 displays (outputs) information processed by the mobile terminal 100.
  • the display unit 151 may display execution screen information of an application program driven in the mobile terminal 100 or user interface (UI) and graphical user interface (GUI) information according to the execution screen information. .
  • UI user interface
  • GUI graphical user interface
  • the display unit 151 may be configured as a stereoscopic display unit for displaying a stereoscopic image.
  • the stereoscopic display unit may be a three-dimensional display method such as a stereoscopic method (glasses method), an auto stereoscopic method (glasses-free method), a projection method (holographic method).
  • a 3D stereoscopic image is composed of a left image (left eye image) and a right image (right eye image).
  • a top-down method in which the left and right images are arranged up and down in one frame according to the way in which the left and right images are merged into three-dimensional stereoscopic images.
  • L-to-R (left-to-right, side by side) method to be arranged as a checker board method to arrange the pieces of the left and right images in the form of tiles, a column unit of the left and right images Or an interlaced method of alternately arranging rows, and a time sequential (frame by frame) method of alternately displaying left and right images by time.
  • the 3D thumbnail image may generate a left image thumbnail and a right image thumbnail from the left image and the right image of the original image frame, respectively, and may be generated as one image as they are combined.
  • a thumbnail refers to a reduced image or a reduced still image.
  • the left image thumbnail and the right image thumbnail generated as described above are displayed with a left and right distance difference on the screen by a depth corresponding to the parallax of the left image and the right image, thereby representing a three-dimensional space.
  • the left image and the right image necessary for implementing the 3D stereoscopic image may be displayed on the stereoscopic display by the stereoscopic processing unit.
  • the stereoscopic processing unit receives 3D images (images of the base view and images of the extended view) and sets left and right images therefrom, or receives 2D images and converts them into left and right images.
  • the sound output unit 152 may output audio data received from the wireless communication unit 110 or stored in the memory 170 in a call signal reception, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, and the like.
  • the sound output unit 152 may also output a sound signal related to a function (for example, a call signal reception sound or a message reception sound) performed in the mobile terminal 100.
  • the sound output unit 152 may include a receiver, a speaker, a buzzer, and the like.
  • the haptic module 153 generates various haptic effects that a user can feel.
  • a representative example of the tactile effect generated by the haptic module 153 may be vibration.
  • the intensity and pattern of vibration generated by the haptic module 153 may be controlled by the user's selection or the setting of the controller. For example, the haptic module 153 may output different synthesized vibrations or sequentially output them.
  • the haptic module 153 may be used to stimulate pins that vertically move with respect to the contact skin surface, jetting force or suction force of air through the jetting or suction port, grazing to the skin surface, contact of electrodes, and electrostatic force.
  • Various tactile effects can be generated, such as effects by the endothermic and the reproduction of a sense of cold using the elements capable of endotherm or heat generation.
  • the haptic module 153 may not only deliver a tactile effect through direct contact, but also may allow a user to feel the tactile effect through a muscle sense such as a finger or an arm. Two or more haptic modules 153 may be provided according to a configuration aspect of the mobile terminal 100.
  • the light output unit 154 outputs a signal for notifying occurrence of an event by using light of a light source of the mobile terminal 100.
  • Examples of events occurring in the mobile terminal 100 may be message reception, call signal reception, missed call, alarm, schedule notification, email reception, information reception through an application, and the like.
  • the signal output from the light output unit 154 is implemented as the mobile terminal emits light of a single color or a plurality of colors to the front or the rear.
  • the signal output may be terminated by the mobile terminal detecting the user's event confirmation.
  • the interface unit 160 serves as a path to all external devices connected to the mobile terminal 100.
  • the interface unit 160 receives data from an external device, receives power, transfers the power to each component inside the mobile terminal 100, or transmits data inside the mobile terminal 100 to an external device.
  • the port, audio input / output (I / O) port, video input / output (I / O) port, earphone port, etc. may be included in the interface unit 160.
  • the identification module is a chip that stores a variety of information for authenticating the usage rights of the mobile terminal 100, a user identification module (UIM), subscriber identity module (SIM), universal user authentication And a universal subscriber identity module (USIM).
  • a device equipped with an identification module (hereinafter referred to as an 'identification device') may be manufactured in the form of a smart card. Therefore, the identification device may be connected to the terminal 100 through the interface unit 160.
  • the interface unit 160 may be a passage for supplying power from the cradle to the mobile terminal 100 or may be input from the cradle by a user.
  • Various command signals may be a passage through which the mobile terminal 100 is transmitted.
  • Various command signals or power input from the cradle may operate as signals for recognizing that the mobile terminal 100 is correctly mounted on the cradle.
  • the memory 170 may store a program for the operation of the controller 180 and may temporarily store input / output data (for example, a phone book, a message, a still image, a video, etc.).
  • the memory 170 may store data regarding vibration and sound of various patterns output when a touch input on the touch screen is performed.
  • the memory 170 may include a flash memory type, a hard disk type, a solid state disk type, an SSD type, a silicon disk drive type, and a multimedia card micro type. ), Card-type memory (e.g., SD or XD memory), random access memory (RAM), static random access memory (SRAM), read-only memory (ROM), electrically erasable programmable read It may include at least one type of storage medium of -only memory (PROM), programmable read-only memory (PROM), magnetic memory, magnetic disk and optical disk.
  • the mobile terminal 100 may be operated in connection with a web storage that performs a storage function of the memory 170 on the Internet.
  • the controller 180 controls the operation related to the application program, and generally the overall operation of the mobile terminal 100. For example, if the state of the mobile terminal satisfies a set condition, the controller 180 may execute or release a lock state that restricts input of a user's control command to applications.
  • controller 180 may perform control and processing related to voice call, data communication, video call, or the like, or may perform pattern recognition processing for recognizing handwriting input or drawing input performed on a touch screen as text and images, respectively. Can be. Furthermore, the controller 180 may control any one or a plurality of components described above in order to implement various embodiments described below on the mobile terminal 100 according to the present invention.
  • the power supply unit 190 receives an external power source and an internal power source under the control of the controller 180 to supply power for operation of each component.
  • the power supply unit 190 includes a battery, and the battery may be a built-in battery configured to be rechargeable, and may be detachably coupled to the terminal body for charging.
  • the power supply unit 190 may be provided with a connection port, the connection port may be configured as an example of the interface 160 is electrically connected to the external charger for supplying power for charging the battery.
  • the power supply unit 190 may be configured to charge the battery in a wireless manner without using the connection port.
  • the power supply unit 190 may use at least one of an inductive coupling based on a magnetic induction phenomenon or a magnetic resonance coupling based on an electromagnetic resonance phenomenon from an external wireless power transmitter. Power can be delivered.
  • various embodiments of the present disclosure may be implemented in a recording medium readable by a computer or a similar device using, for example, software, hardware, or a combination thereof.
  • the communication system may use different air interfaces and / or physical layers.
  • a radio interface that can be used by a communication system includes frequency division multiple access (FDMA), time division multiple access (TDMA), and code division multiple access (CDMA). ), Universal Mobile Telecommunications Systems (UMTS) (especially Long Term Evolution (LTE), Long Term Evolution-Advanced (LTE-A)), Global System for Mobile Communications (GSM), etc. This may include.
  • FDMA frequency division multiple access
  • TDMA time division multiple access
  • CDMA code division multiple access
  • UMTS Universal Mobile Telecommunications Systems
  • LTE Long Term Evolution
  • LTE-A Long Term Evolution-Advanced
  • GSM Global System for Mobile Communications
  • the CDMA wireless communication system includes at least one terminal 100, at least one base station (Base Station, BS (also referred to as Node B or Evolved Node B)), and at least one Base Station Controllers (BSCs). ), And may include a mobile switching center (MSC).
  • the MSC is configured to connect with the Public Switched Telephone Network (PSTN) and BSCs.
  • PSTN Public Switched Telephone Network
  • the BSCs may be connected to the BS through a backhaul line.
  • the backhaul line may be provided according to at least one of E1 / T1, ATM, IP, PPP, Frame Relay, HDSL, ADSL, or xDSL.
  • Each of the plurality of BSs may include at least one sector, and each sector may include an omnidirectional antenna or an antenna pointing in a radial direction from the BS.
  • each sector may include two or more antennas of various types.
  • Each BS may be configured to support a plurality of frequency assignments, and the plurality of frequency assignments may each have a specific spectrum (eg, 1.25 MHz, 5 MHz, etc.).
  • BSs may be called Base Station Transceiver Subsystems (BTSs).
  • BTSs Base Station Transceiver Subsystems
  • one BSC and at least one BS may be collectively referred to as a "base station”.
  • the base station may also indicate “cell site”.
  • each of the plurality of sectors for a particular BS may be called a plurality of cell sites.
  • the broadcast transmitter transmits a broadcast signal to the terminals 100 operating in the system.
  • the broadcast receiving module 111 shown in FIG. 1 is provided in the terminal 100 to receive a broadcast signal transmitted by BT.
  • a satellite positioning system for identifying the position of the mobile terminal 100 may be linked to the CDMA wireless communication system.
  • the satellite helps to locate the mobile terminal 100.
  • Useful location information may be obtained by up to two or more satellites.
  • the location of the mobile terminal 100 may be tracked using all the technologies capable of tracking the location as well as the GPS tracking technology.
  • at least one of the GPS satellites may optionally or additionally be responsible for satellite DMB transmission.
  • the location information module 115 provided in the mobile terminal is used to detect, calculate, or identify the location of the mobile terminal.
  • Examples of the location information module 115 may include a Global Position System (GPS) module and a Wireless Fidelity (WiFi) module. If necessary, the location information module 115 may perform any function of other modules of the wireless communication unit 110 to substitute or additionally obtain data regarding the location of the mobile terminal.
  • GPS Global Position System
  • WiFi Wireless Fidelity
  • the GPS module 115 calculates distance information and accurate time information away from three or more satellites, and then triangulates the calculated information to accurately calculate three-dimensional current position information according to latitude, longitude, and altitude. can do.
  • a method of calculating position and time information using three satellites and correcting the error of the calculated position and time information using another satellite is widely used.
  • the GPS module 115 may calculate speed information by continuously calculating the current position in real time.
  • a WPS WiFi Positioning System
  • the Wi-Fi Positioning System uses a WiFi module provided in the mobile terminal 100 and a wireless access point (AP) for transmitting or receiving a wireless signal with the WiFi module.
  • AP wireless access point
  • a technology for tracking the location of a it refers to a WLAN (Wireless Local Area Network) based location positioning technology using WiFi.
  • the Wi-Fi location tracking system may include a Wi-Fi location server, a mobile terminal 100, a wireless AP connected to the mobile terminal 100, and a database in which any wireless AP information is stored.
  • the mobile terminal 100 connected to the wireless AP may transmit a location information request message to the Wi-Fi location server.
  • the Wi-Fi positioning server extracts the information of the wireless AP connected to the mobile terminal 100 based on the location information request message (or signal) of the mobile terminal 100.
  • Information of the wireless AP connected to the mobile terminal 100 may be transmitted to the Wi-Fi positioning server through the mobile terminal 100, or may be transmitted from the wireless AP to the Wi-Fi positioning server.
  • the extracted information of the wireless AP is MAC Address, Service Set IDentification (SSID), Received Signal Strength Indicator (RSSI), Reference Signal Received Power (RSRP), RSRQ ( It may be at least one of Reference Signal Received Quality, Channel Information, Privacy, Network Type, Signal Strength, and Noise Strength.
  • SSID Service Set IDentification
  • RSSI Received Signal Strength Indicator
  • RSRP Reference Signal Received Power
  • RSRQ It may be at least one of Reference Signal Received Quality, Channel Information, Privacy, Network Type, Signal Strength, and Noise Strength.
  • the Wi-Fi location server receives the information of the wireless AP connected to the mobile terminal 100, and extracts the wireless AP information corresponding to the wireless AP to which the mobile terminal is connected from a pre-established database.
  • the information of any wireless AP stored in the database is MAC address, SSID, channel information, Privacy, Network Type, latitude and longitude coordinates of the wireless AP, building name, floor number, indoor detailed location information (GPS coordinates) Available), the AP owner's address, telephone number, and the like.
  • the Wi-Fi positioning server may extract only a predetermined number of wireless AP information in the order of high RSSI.
  • the Wi-Fi location server may extract (or analyze) location information of the mobile terminal 100 using at least one piece of wireless AP information extracted from a database.
  • the location information of the mobile terminal 100 is extracted (or analyzed) by comparing the included information with the received wireless AP information.
  • a cell-ID method As a method for extracting (or analyzing) the location information of the mobile terminal 100, a cell-ID method, a finger print method, a triangulation method, a landmark method, or the like may be utilized.
  • the Cell-ID method is a method of determining a location of a mobile AP having the strongest signal strength among neighboring wireless AP information collected by the mobile terminal.
  • the simple implementation no additional cost, and quick location information can be obtained.
  • the low installation density of the wireless AP reduces the positioning accuracy.
  • the fingerprint method is a method of selecting a reference location in a service area to collect signal strength information and estimating a location based on signal strength information transmitted from a mobile terminal based on the collected information. In order to use the fingerprint method, it is necessary to database propagation characteristics in advance.
  • the triangulation method calculates the position of the mobile terminal based on the coordinates of at least three wireless APs and the distance between the mobile terminals.
  • the signal strength is converted into distance information, a time of arrival of a radio signal (ToA), a time difference of transmission of a signal (Time Difference of Arrival, TDoA) , Angle of signal transmission (Angle of Arrival, AoA) may be used.
  • ToA time of arrival of a radio signal
  • TDoA Time Difference of Arrival
  • AoA Angle of signal transmission
  • the landmark method is a method of measuring the location of a mobile terminal using a landmark transmitter that knows the location.
  • various algorithms may be utilized as a method for extracting (or analyzing) location information of a mobile terminal.
  • the extracted location information of the mobile terminal 100 is transmitted to the mobile terminal 100 through the Wi-Fi positioning server, the mobile terminal 100 can obtain the location information.
  • the mobile terminal 100 may obtain location information by being connected to at least one wireless AP.
  • the number of wireless APs required to obtain location information of the mobile terminal 100 may be variously changed according to a wireless communication environment in which the mobile terminal 100 is located.
  • the mobile terminal according to the present invention includes Bluetooth TM, Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, and NFC (Near).
  • RFID Radio Frequency Identification
  • IrDA Infrared Data Association
  • UWB Ultra Wideband
  • ZigBee ZigBee
  • NFC Near
  • Short-range communication technologies such as Field Communication, Wireless USB (Wireless Universal Serial Bus), and the like may be applied.
  • the NFC module provided in the mobile terminal supports contactless short-range wireless communication between terminals at a distance of about 10 cm.
  • the NFC module may operate in any one of a card mode, a reader mode, and a P2P mode.
  • the mobile terminal 100 may further include a security module for storing card information.
  • the security module may be a physical medium such as a universal integrated circuit card (UICC) (for example, a subscriber identification module (SIM) or a universal SIM (USIM)), a secure micro SD, and a sticker, or a logical medium embedded in a mobile terminal ( For example, it may be an embedded SE (Secure Element). Data exchange based on a single wire protocol (SWP) may be performed between the NFC module and the security module.
  • UICC universal integrated circuit card
  • SIM subscriber identification module
  • USB universal SIM
  • SWP Secure Element
  • the mobile terminal can transmit the stored card information to the outside like a conventional IC card.
  • the mobile terminal storing the card information of the payment card such as a credit card or bus card
  • the mobile short-range payment can be processed, and the mobile terminal storing the card information of the access card is approved for access. Close to the flag, the approval process can be started.
  • Cards such as credit cards, transportation cards, and access cards are mounted in a security module in the form of an applet, and the security module may store card information about the mounted card.
  • the card information of the payment card may be at least one of a card number, balance, and usage history
  • the card information of the access card may include at least one of a user's name, number (eg, student's student number or company number), and access history. It can be one.
  • the mobile terminal can read data from an external tag.
  • the data received by the mobile terminal from the tag may be coded in a data exchange format (NFC Data Exchange Format) determined by the NFC forum.
  • NFC Forum defines four record types. Specifically, the NFC forum defines four record type definitions (RTDs) such as smart poster, text, uniform resource identifier (URI), and general control.
  • RTDs record type definitions
  • the controller may execute a browser (eg, an Internet browser).
  • the controller may execute a text viewer.
  • the controller executes a browser or makes a phone call
  • the data received from the tag is a general control type
  • the controller can execute an appropriate operation according to the control content.
  • the mobile terminal may perform P2P communication with another mobile terminal.
  • LLCP Logical Link Control Protocol
  • a connection may be created between the mobile terminal and another mobile terminal for P2P communication.
  • the generated connection may be classified into a connectionless mode in which one packet is exchanged and terminated, and a connection-oriented mode in which packets are continuously exchanged.
  • P2P communication data such as electronic business cards, contact information, digital photos, URLs, and setup parameters for Bluetooth and Wi-Fi connections can be exchanged.
  • the P2P mode may be effectively used for exchanging small data.
  • the mobile terminal 100 may include a communication unit (not shown), and may perform functions of the wireless communication unit 110 and the interface unit 160 including the communication unit wireless communication unit 110 and the interface unit 160. Can be.
  • FIG. 2 is a view for explaining the configuration of the mobile terminal and the omnidirectional photographing apparatus according to an embodiment of the present invention.
  • FIG. 2 only some of the components of the mobile terminal 100 illustrated in FIG. 1 are represented. The description of the configuration of the mobile terminal 100 shown in FIG. 2 is replaced with the description of FIG. 1.
  • the omnidirectional photographing apparatus 200 may include an image acquirer 210, a short range communication module 230, a sensor 250, and a controller 290.
  • the omnidirectional image will be described.
  • the omnidirectional image may be an image in which all directions are photographed around a specific point.
  • all directions may be all directions from the center of the virtual sphere toward the plane of the virtual sphere.
  • the omnidirectional image may be an image photographed in all directions around the photographing apparatus 500.
  • the omnidirectional image may mean an image in which all directions in the specific field of view are photographed.
  • the omnidirectional image may be an image in which all directions are directed from the center of the virtual sphere toward the surface of the virtual hemisphere.
  • the image acquirer 210 may acquire an omnidirectional image by capturing the omnidirectional image around the omnidirectional photographing apparatus 500.
  • the omnidirectional image may have the spherical shape of FIG. 3 to be described later.
  • the omnidirectional image may be referred to as a 360 degree image.
  • the image acquirer 210 may include a plurality of cameras.
  • the front camera 5211 and the rear camera 213 are taken as an example, but need not be limited thereto, and three or more cameras may be provided in the omnidirectional photographing apparatus 200.
  • Each of the front camera 211 and the rear camera 213 may include a fisheye lens having an angle of view of 180 degrees or more. Each of the front camera 211 and the rear camera 213 may photograph partial omnidirectional images through a fisheye lens.
  • the controller 290 may generate the omnidirectional image by synthesizing the two omnidirectional partial images acquired through each fisheye lens in a spherical shape.
  • the short range communication module 230 may wirelessly transmit the spherical omnidirectional image generated by the controller 290 to the mobile terminal 100.
  • the short range communication module 230 may transmit the omnidirectional image to the mobile terminal 100 using any one of Wi-Fi Direct, Bluetooth, and Wi-Fi communication standards, but the communication standard is merely an example.
  • the omnidirectional photographing apparatus 500 may include a wired communication interface such as a USB interface in addition to the short range communication module 230, and may communicate with the mobile terminal 100 through a wired communication interface.
  • a wired communication interface such as a USB interface
  • the omnidirectional photographing apparatus 500 may include a wired communication interface such as a USB interface in addition to the short range communication module 230, and may communicate with the mobile terminal 100 through a wired communication interface.
  • the sensor 5250 may include one or more of a gyro sensor and an acceleration sensor.
  • the controller 290 may control the overall operation of the omnidirectional photographing apparatus 200.
  • the omnidirectional photographing apparatus 200 may include one or more microphones.
  • 3 is a view for explaining that the omnidirectional photographing may be performed based on the omnidirectional photographing apparatus.
  • the photographing apparatus 200 may photograph an omnidirectional image.
  • the photographing apparatus 200 may photograph the lower hemisphere region and the upper hemisphere region on the horizontal plane where the photographing apparatus 200 is located. That is, the photographing apparatus 200 may acquire the omnidirectional image 300 having a spherical shape around the photographing apparatus 200.
  • the obtained omnidirectional image 300 may be transmitted to the mobile terminal 100.
  • the display unit 151 of the mobile terminal 100 may display some images of the omnidirectional image 300 corresponding to a specific area. For example, the display unit 151 of the mobile terminal 100 displays the first partial image 310 corresponding to the first area of the omnidirectional image 300 or the second partial image corresponding to the second area ( 330 may be displayed.
  • Some images displayed by the display unit 151 may vary depending on the user's setting or may be set as a default.
  • FIG. 4 is a ladder diagram illustrating a method of operating a mobile terminal and an omnidirectional photographing apparatus according to an embodiment of the present invention.
  • the mobile terminal 100 and the omnidirectional photographing apparatus 200 are connected to each other through near field communication (S401).
  • the controller 180 of the mobile terminal 100 sets a photographing method of the omnidirectional photographing apparatus 200 (S407).
  • the controller 180 may set a photographing method of the omnidirectional photographing apparatus 200.
  • the photographing method may include a photographing area of the omnidirectional photographing apparatus 200, a photographing subject, editing performed simultaneously with photographing, and the like.
  • the setting of the photographing method may be a request for designating a photographing area of an image including an omnidirectional image to be photographed by the omnidirectional photographing apparatus 200 based on the location of the omnidirectional photographing apparatus 200.
  • the photographing area designation request may be a request for capturing an image including an omnidirectional image based on a part of an omnidirectional image corresponding to a specific region of the image including an omnidirectional image.
  • setting the photographing method of the omnidirectional photographing apparatus 200 may include setting an angle of view of the omnidirectional photographing apparatus 200.
  • setting the angle of view of the omnidirectional photographing apparatus 200 may be interpreted in the same sense as setting the angle of view of the front camera 211 or the rear camera 213 of the omnidirectional photographing apparatus 200.
  • the user may take an image corresponding to the omnidirectional field of view through the omnidirectional photographing apparatus 200, but when the user later views the omnidirectional image through the mobile terminal 100, it is difficult to find a desired part.
  • the user designates the angle of view of the image including the omnidirectional, even if the omnidirectional photographing apparatus 200 rotates or moves, the user may directly transfer a partial image of the omnidirectional image corresponding to the photographing area through the mobile terminal 100. , can see.
  • the controller 180 of the mobile terminal 100 may not store an image corresponding to the remaining region except for the designated photographing region among the omnidirectional images received from the omnidirectional photographing apparatus 200.
  • the omnidirectional photographing apparatus 200 may photograph an unspecified number of people because the omnidirectional photographing apparatus 200 photographs the surroundings of the omnidirectional photographing apparatus 200 in an omnidirectional manner.
  • the controller 180 of the mobile terminal 100 may blur a specific object of the omnidirectional image received from the omnidirectional photographing apparatus 200. For example, privacy may be protected by blurring a person's face, a signboard of a building, a license plate of a car, and the like.
  • the controller 180 of the mobile terminal 100 may receive only the captured image corresponding to the photographing area set by the omnidirectional photographing apparatus 200. To this end, the omnidirectional photographing apparatus 200 may transmit only some of the images corresponding to the set photographing area from the omnidirectional image to the mobile terminal 100.
  • the controller 180 may acquire a photographing area in the omnidirectional area by using the coordinate value of the image.
  • a plurality of image capturing regions including the omnidirectional image may be set.
  • the controller 180 displays information on the set photographing method (S409).
  • the controller 180 may display information on the photographing method that is set by using the omnidirectional image received from the omnidirectional photographing apparatus 200.
  • the controller 180 of the mobile terminal 100 may display information about a shooting area, a shooting target, a shooting effect, and the like on the display unit 180 of the mobile terminal 100.
  • Such information may be information for photographing and editing only when photographing, and may not be included in the stored omnidirectional image.
  • the controller 180 of the mobile terminal 100 transmits information on the set photographing method to the omnidirectional photographing apparatus 200 (S411).
  • the information on the photographing method may include information indicating which area of the image including the spherical omnidirectional image to be photographed.
  • the information on the photographing method may include location information of the photographing area set in the image including the omnidirectional.
  • the information on the photographing method may include information on a photographing target set in the image including the omnidirectional.
  • the information on the photographing method may include information about an editing method applied to the photographing area and the photographing target in the image including the omnidirectional.
  • the controller 290 of the omnidirectional photographing apparatus 200 photographs the set photographing area based on the received information about the photographing method (S413).
  • the omnidirectional photographing apparatus 200 may include a shutter button (not shown). When the shutter button is selected, the omnidirectional photographing apparatus 200 may capture an image including an omnidirectional image and acquire an omnidirectional image or an omnidirectional video.
  • the controller 290 of the omnidirectional photographing apparatus 200 transmits the captured captured image to the mobile terminal 100 (S415), and the controller 180 of the mobile terminal 100 displays the received captured image on the display unit 151. Display through (S417).
  • the omnidirectional photographing apparatus 200 may transmit the omnidirectional image corresponding to the image including the omnidirectional to the mobile terminal 100. In this case, some images corresponding to the photographing regions in the omnidirectional image may be identified.
  • the mobile terminal 100 may display the identified part of the received omnidirectional image on the display unit 151.
  • the mobile terminal 100 may store only a partial image of the received omnidirectional image in the memory 170.
  • the mobile terminal 100 may store only some of the images identified among the received omnidirectional images in the memory 170 and delete the remaining images. Accordingly, the storage space of the memory 170 can be saved.
  • the mobile terminal 100 may display only an image corresponding to the photographing area of the omnidirectional photographing apparatus 200 through the display unit 151.
  • the user may view only the image corresponding to the set angle of view of the omnidirectional photographing apparatus 200.
  • the controller 180 of the mobile terminal 100 may set an editing method for the captured omnidirectional image (S419).
  • the captured image may be edited corresponding to the editing method (S421).
  • the controller 180 of the mobile terminal 100 may set a method of editing the omnidirectional image stored in the memory.
  • the controller 180 of the mobile terminal 100 may generate a map of an area where the omnidirectional image is captured by using the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may display a movement route on a map generated by using the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may provide a road view by connecting the moving path and the omnidirectional image using the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may blur an unwanted portion of the omnidirectional image. Specific examples will be described later.
  • the controller 180 of the mobile terminal 100 may apply a specific effect by applying a photographing method simultaneously with capturing the omnidirectional image, and may also apply a desired effect through editing after the omnidirectional image is captured. .
  • 5A to 5E are diagrams for describing a method of generating a map using an omnidirectional image and displaying a road view image on the map according to an embodiment of the present invention.
  • the controller 180 of the mobile terminal 100 may generate a map using the omnidirectional image.
  • the user of the mobile terminal 100 may photograph the omnidirectional image while moving along the movement path 501 in the photographing area 502 as shown in FIG. 5A.
  • the controller 180 of the mobile terminal 100 may generate a 2D map by analyzing the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may generate a map of the moved region by using the location information included in the omnidirectional image stored in the memory 170.
  • the controller 180 of the mobile terminal 100 may generate a map using a vision technology such as Structure from Motion (SfM), or may generate a map by simultaneously applying Structure from Motion and location information.
  • SfM Structure from Motion
  • the generated map may be represented as shown in FIG. 5B.
  • the building is represented on the map 512 as a simplified figure.
  • the controller 180 of the mobile terminal 100 may be represented as a specific image using an omnidirectional image stored in the memory 170. .
  • controller 180 of the mobile terminal 100 may display the movement route 511 corresponding to the movement route 501 of the actual mobile terminal 100 on the map 512.
  • the controller 180 when an input for selecting an area 521 of a path 511 to which the mobile terminal 100 has traveled is received, the controller 180 is located at a position corresponding to the selected one area 521. You can display a road view of.
  • the controller 180 of the mobile terminal 100 inputs a gesture for selecting a selected region to a moving path 511 on the display unit 151 and inputs a gesture for selecting a desired view.
  • An image corresponding to a desired view of the gesture may be displayed. Such an image may be represented by a road view, a street view, or the like.
  • the controller 180 of the mobile terminal 100 may change the moving path 511.
  • the user of the mobile terminal 100 may view an image around the moving path 511 in a road view at a point of the moving path 511.
  • the object to be viewed may be taken too close or too far to view the desired image.
  • the road view 522 may not be able to see all of the objects by photographing the desired object too close.
  • the user of the mobile terminal 100 may change the movement path 511.
  • the controller 180 of the mobile terminal 100 may display the load view 532 corresponding to the modified position on the display unit 151.
  • the road view 532 may confirm that all desired targets are displayed.
  • the user of the mobile terminal 100 may set the movement route 511 displayed on the map differently from the route 501 actually moved by the user of the mobile terminal 100. Therefore, the most appropriate movement path 511 can be set to display the target, so that the user of the omnidirectional image can watch the more appropriate image.
  • 6A to 6C are diagrams for describing a method of restricting a direction of a road view image of a specific object in an image generated using an omnidirectional image according to an embodiment of the present invention.
  • the controller 180 of the mobile terminal 100 may receive an input for selecting a fixed object on a map.
  • the controller 180 of the mobile terminal 100 may receive a gesture for selecting fixed objects 601 and 602 on a map.
  • the controller 180 of the mobile terminal 100 may receive a direction of a view at one point and one point on a map, and may provide a road view corresponding thereto.
  • the controller 180 of the mobile terminal 100 may provide a road view 621 corresponding to a gesture 612 for a direction of a view at one point and one point on the map in FIG. 6B. Can be.
  • the controller 180 of the mobile terminal 100 may set the road view 621 as a fixed road view.
  • the controller 180 of the mobile terminal 100 may store the composition of the road view 621 set as the fixed road view in the memory 170.
  • the controller 180 of the mobile terminal 100 may display a target in which the fixed road view is set in a predetermined composition.
  • the display unit 151 may display the road view 621 set as the same fixed road view at all points of the controller 180 of FIG. 100.
  • the user of the mobile terminal 100 may control to display a specific object only in a desired direction. Therefore, the effect that can display a specific object only in the best direction can be obtained. In addition, it is possible to obtain an effect that can be shown except in a direction that is not desired to be seen in a specific object.
  • FIGS. 7A to 7C are diagrams for describing a method of removing an obstacle when generating a road view image using an omnidirectional image according to an embodiment of the present invention.
  • the controller 180 of the mobile terminal 100 may display only a desired object by forcibly removing an unnecessary object.
  • the target when capturing an omnidirectional image while moving the omnidirectional photographing apparatus 200, the target may be photographed at a plurality of places.
  • the controller 180 of the mobile terminal 100 may be a target 711 or 712 that the omnidirectional photographing apparatus 200 desires at the first position 701, the second position 702, and the third position 703. You can get a 360-degree image of the camera.
  • the omnidirectional image captured at the first position 701, the second position 702, and the third position 703 may include an image of an unnecessary obstacle 721, 722, etc., in addition to the image of the desired target 711, 712. have. That is, the omnidirectional image captured at the first position 701, the second position 702, and the third position 703 may correspond to the first image 741, the second image 742, and the third image 743, respectively. Can be.
  • the first image 741, the second image 742, and the third image 743 include images corresponding to a desired object and unnecessary obstacles.
  • the controller 180 of the mobile terminal 100 may synthesize the first image 741, the second image 742, and the third image 743 to obtain an omnidirectional image (FIG. 7C) from which the obstacle is removed.
  • the user of the mobile terminal 100 may select an obstacle to be deleted while watching the omnidirectional image, and the controller 180 of the mobile terminal 100 may combine and remove the plurality of images as described above. have.
  • the synthesized image may be stored together with the omnidirectional image. Therefore, when the omnidirectional image is played again, the obstacle-free image can be seen.
  • the user of the mobile terminal 100 can perform the editing to delete the object that the user wants to remove from the omnidirectional image can obtain the effect of removing obstacles and the like.
  • FIGS. 8A to 8D are diagrams for describing a method of applying a privacy function in an omnidirectional image according to an embodiment of the present invention.
  • the part to be processed in order to prevent invasion of privacy such as a face of a person or a license plate in the omnidirectional image may be automatically recognized and processed.
  • the controller 180 of the mobile terminal 100 may display a thumbnail image 802 of an omnidirectional image stored in the memory 170 on the display unit 151.
  • the user of the mobile terminal 100 may select the omnidirectional image to which the privacy function is applied from the thumbnail image 802.
  • the controller 180 of the mobile terminal 100 may apply the privacy function to the selected omnidirectional image when the menu 801 for applying the privacy function to the selected omnidirectional image is selected.
  • controller 180 of the mobile terminal 100 may display the partial image 811 of the omnidirectional image stored in the memory 170 on the display unit 151.
  • the user of the mobile terminal 100 may select whether to apply the privacy function while watching the partial image 811 of the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may apply the privacy function to the selected omnidirectional image.
  • the controller 180 may display an image to which the privacy function is applied to the object in the omnidirectional image.
  • the privacy function may be a function in which part or all of an object is blurred.
  • the omnidirectional image may include a plurality of people 831, 832, 833, 834, and 835 as shown in FIG. 8C.
  • the controller 180 of the mobile terminal 100 may blur the face of each of the plurality of people 831, 832, 833, 834, and 835 to which the privacy function is applied.
  • the controller 180 of the mobile terminal 100 may search for an area of concern for privacy infringement, such as a face of a person or a vehicle license plate, in the entire time region of the omnidirectional image, and blur the searched region.
  • the blurred faces of the person (841, 842, 843, 844, 845) are displayed so that others can not see who the target through the person's face. Therefore, in addition to blurring, it may be processed in other ways such as displaying another image.
  • the controller 180 of the mobile terminal 100 may set an object that may invade privacy.
  • an object that may invade privacy For example, at least one or more of a person's face, a license plate of a car, a signboard of a building, etc. may be set as an object of concern for privacy infringement.
  • Such a privacy protection function may be provided in a manner of post-processing the previously stored omnidirectional image as described above, and may be processed in real time when capturing the omnidirectional image.
  • 9A and 9B are diagrams for describing a method of applying a privacy function excluding an object selected from an omnidirectional image according to an embodiment of the present invention.
  • the controller 180 may determine whether to apply the privacy function based on an input for selecting an object.
  • the controller 180 of the mobile terminal 100 may select an object to which the privacy function is to be applied and an object to be excluded.
  • the controller 180 of the mobile terminal 100 may select an object to exclude a privacy function from an image displayed on the display unit 151.
  • the controller 180 of the mobile terminal 100 may display the omnidirectional image on the display unit 151, and a plurality of persons may be displayed on the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may receive the targets 901 and 902 to exclude the application of the privacy function from the omnidirectional image.
  • the method of selecting the targets 901 and 902 to exclude the application of the privacy function by the user of the mobile terminal 100 may be various gestures such as touch, long touch, and double touch.
  • the controller 180 of the mobile terminal 100 may provide a privacy function except for the targets 901 and 902 to exclude the application of the privacy function.
  • the faces of the targets may be displayed (911 and 912), and the targets except the targets 901 and 902 to exclude the application of the privacy function may be displayed.
  • Privacy functions may be applied (913, 914).
  • the controller 180 of the mobile terminal 100 may selectively apply a privacy function. Therefore, when capturing the omnidirectional image with the omnidirectional photographing apparatus 200, it is possible to recognize a specific person, thereby obtaining an effect of applying a privacy function except for the specific person.
  • 10A and 10B are diagrams for describing a method of applying a privacy function, except for a selected object in all time domains and a selected time domain of an omnidirectional image, according to an exemplary embodiment.
  • the controller 180 of the mobile terminal 100 recognizes the selected object and applies the privacy function except for the selected object in all time domains and the selected time domain of the omnidirectional image.
  • the object selected in the omnidirectional image may be included in and excluded from the image.
  • the first part of the omnidirectional image may include the selected object, but the middle part may not be included in the omnidirectional image while moving to another place. It may also be included again in the second half of the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may track the selected object by continuously including the selected object in the omnidirectional image, and the controller 180 of the mobile terminal 100 may determine that the selected object is discontinuous in the omnidirectional image. Even if included as a target can be recognized and tracked.
  • the controller 180 of the mobile terminal 100 may track the selected object in all time domains of the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may track the selected object in the selected time domain of the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may receive a gesture for selecting the selected target 1001.
  • the controller 180 of the mobile terminal 100 may limit the application of the privacy function by tracking the selected object in all time domains of the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may apply the privacy function except for the selected objects 1002 and 1003 at both the first time 1004 and the second time 1012.
  • controller 180 of the mobile terminal 100 may limit the application of the privacy function by tracking the selected object in the selected time domain of the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may apply a privacy function except for the selected object 1002, whereas at a second time 1012, the mobile terminal ( The controller 180 of 100 may apply the privacy function to the selected object 1003.
  • the user of the mobile terminal 100 may obtain an effect of applying a privacy function to all the time domains and the selected time domains of the omnidirectional image.
  • 11A and 11B illustrate a method of applying a privacy function to a selected object in an omnidirectional image generated according to an embodiment of the present invention.
  • the controller 180 of the mobile terminal 100 may select a target to which a privacy function is to be applied and a target to be excluded.
  • the controller 180 of the mobile terminal 100 may select an object to which the privacy function is to be applied from the image displayed on the display unit 151.
  • the controller 180 of the mobile terminal 100 may display the omnidirectional image on the display unit 151, and a plurality of persons may be displayed on the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may receive a target 1101 to which the privacy function is to be applied from the omnidirectional image.
  • the method of selecting a target 1101 to which the user of the mobile terminal applies the privacy function may be various gestures such as touch, long touch, and double touch.
  • the controller 180 of the mobile terminal 100 may provide a privacy function to the target 1101 to which the privacy function is applied.
  • the face of the subject may be blurred 1102, and the target except for the target 1101 to which the privacy function is applied may not apply the privacy function.
  • the controller 180 of the mobile terminal 100 may selectively apply a privacy function. Therefore, when capturing the omnidirectional image with the omnidirectional photographing apparatus 200, it is possible to recognize a specific person, thereby obtaining an effect of applying a privacy function except for the specific person.
  • 12A and 12B are diagrams for describing a method of copying an edit form of an omnidirectional image, according to an exemplary embodiment.
  • the controller 180 of the mobile terminal 100 may apply an effect applied to the selected omnidirectional image to another omnidirectional image.
  • a user of the mobile terminal 100 may select an omnidirectional image to copy an applied effect.
  • the controller 180 of the mobile terminal 100 may display thumbnail images of a plurality of omnidirectional images on the display unit 151.
  • the user of the mobile terminal 100 may select one of the thumbnail images, and may select a command 1201 for copying an effect applied to the omnidirectional image corresponding to the selected thumbnail.
  • the controller 180 of the mobile terminal 100 may display thumbnail images of a plurality of omnidirectional images on the display unit 151.
  • the user of the mobile terminal 100 may select at least one or more of the thumbnail images, and may apply the same effect to the omnidirectional image corresponding to the selected thumbnail.
  • the user of the mobile terminal 100 applies the privacy function to exclude the selected person from a particular omnidirectional image, and if the effect is copied, the privacy function may be applied to other omnidirectional images except the same person.
  • the user of the mobile terminal 100 can more effectively obtain the effect that can apply the same effect to a plurality of omnidirectional images.
  • FIG. 13A is a diagram for describing a method of applying a privacy function by selecting a person who has made a specific gesture according to an embodiment of the present invention.
  • the controller 180 of the mobile terminal 100 may determine whether to apply the privacy function by analyzing gestures captured in the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may apply a privacy function by analyzing a gesture of a person who is photographed.
  • the controller 180 of the mobile terminal 100 may recognize a person who makes a specific gesture and apply a privacy effect to the recognized person.
  • the controller 180 of the mobile terminal 100 may display a plurality of gestures 1301, 1302, and 1303 to which a privacy effect is applied to the display unit 151.
  • the controller 180 of the mobile terminal 100 may receive at least one of a plurality of gestures 1301, 1302, and 1303 on the display unit 151.
  • the controller 180 of the mobile terminal 100 may apply a privacy effect to a person who takes a gesture corresponding to the selected gesture. For example, when a face masking gesture 1301 is selected, the controller 180 of the mobile terminal 100 recognizes a person who performs a face covering gesture in the omnidirectional image and performs a privacy function such as blurring the face of the recognized person. Applicable
  • the controller 180 of the mobile terminal 100 may recognize a person who makes a specific gesture and exclude the application of a privacy effect to the recognized person.
  • the controller 180 of the mobile terminal 100 may display a plurality of gestures 1301, 1302, and 1303 to which a privacy effect is applied to the display unit 151.
  • the controller 180 of the mobile terminal 100 may receive at least one of a plurality of gestures 1301, 1302, and 1303 on the display unit 151.
  • the controller 180 of the mobile terminal 100 may exclude the application of the privacy effect to the person taking the gesture corresponding to the selected gesture.
  • the controller 180 of the mobile terminal 100 recognizes and recognizes a person who takes a gesture that takes a V-shaped gesture by hand in the omnidirectional image. It is possible to exclude the application of privacy functions to an authorized person.
  • the controller 180 of the mobile terminal 100 may recognize the gesture of the person included in the omnidirectional image to determine whether to apply the privacy function, and thus to include it in the omnidirectional image more efficiently. The effect of protecting the privacy of the target can be obtained.
  • 14A and 14B are diagrams for describing a method of transmitting a message confirming whether a privacy infringement is prevented when an omnidirectional image is transmitted to the outside according to one embodiment of the present invention.
  • the controller 180 of the mobile terminal 100 when the controller 180 of the mobile terminal 100 recognizes a person included in the omnidirectional image and uploads the omnidirectional image to a public platform such as SNS, a message for confirming whether or not to prevent privacy infringement is included. Can be transmitted.
  • the controller 180 when detecting that the omnidirectional image is uploaded to the published platform 1401 such as SNS, the controller 180 may block the omnidirectional image being uploaded immediately.
  • the controller 180 of the mobile terminal 100 may analyze a person included in the omnidirectional image and determine a contact of the analyzed person.
  • the contact may be stored in the memory 170 of the mobile terminal 100 or may be information stored in another server.
  • the controller 180 of the mobile terminal 100 may display a message indicating that there is a risk of invasion of privacy by uploading the omnidirectional image to the platform on which the image is disclosed, to the target person whose contact is identified. You can ask for consent.
  • the controller 180 of the mobile terminal 100 receives a response to the message.
  • the response to the message may include whether or not to agree to reveal the face as described above.
  • the controller 180 of the mobile terminal 100 may determine whether to apply the privacy function according to whether the face is exposed or not and post-process the omnidirectional image according to the determination.
  • a consent for privacy protection can be obtained for each of them, so that the privacy of the omnidirectional image captured by the omnidirectional photographing apparatus 200 can be more efficiently.
  • the effect can be obtained to solve.
  • 15A to 15C are diagrams for describing a method of capturing a region excluding a photographing restriction region when capturing an omnidirectional image.
  • the present disclosure it is possible to determine whether there is a shooting restriction zone in the photographing area of the omnidirectional image of the control unit 200 of the mobile terminal 100, and to apply an effect of not including or not displaying the photography restriction zone in the omnidirectional image. .
  • the controller 180 of the mobile terminal 100 detects a location by using the location information module 115 and accesses a server including information on a shooting restriction area to capture an omnidirectional image. It is possible to determine whether the position corresponds to the photographing restriction zone 1501. In addition, when the control unit 180 of the mobile terminal 100 corresponds to the photographing restricted area 1501, the controller 180 may apply an effect of deleting or not displaying the image 1502 corresponding to the photographing restricted area 1501.
  • the controller 180 of the mobile terminal 100 when the controller 180 of the mobile terminal 100 recognizes the photographing restriction display 1503 or the gesture 1504 indicating that the photographing restriction zone is detected by analyzing the omnidirectional image, the controller 180 of the mobile terminal 100 changes the corresponding area to the photographing restriction zone. I can recognize it. Therefore, it is possible to apply an effect that deletes or hides an image corresponding to a restricted shooting area.
  • 16A to 16C are diagrams for describing a method of displaying information on a specific building when capturing an omnidirectional image.
  • the omnidirectional photographing apparatus may obtain information about an area to which the omnidirectional photographing apparatus cannot access
  • the image of the area not accessible may be included in the omnidirectional image.
  • a map including the building 1601 may be obtained as shown in FIG. 16B.
  • the controller 180 of the mobile terminal 100 may obtain information about the photographed area by using the image of the omnidirectional image and the location information obtained through the location information module 115.
  • the controller 180 of the mobile terminal 100 may be obtained from a server including information on the 3D image 1605 and the interior image 1606 of the building 1601.
  • the controller 180 of the mobile terminal 100 may obtain information about an inaccessible building and may provide a road view of the building 1601 when the surrounding area 1601 is selected on the map.
  • the controller 180 of the mobile terminal 100 may display the inside 1606 of the building on the display unit 151 when a building that is inaccessible from the map or the omnidirectional image is selected.
  • 17A to 17C are diagrams for describing a method of generating a map using an omnidirectional image and displaying a road view image on the map according to an embodiment of the present invention.
  • a map of the moving line and the surrounding environment may be generated.
  • a map of the moving line and the surrounding environment may be generated.
  • a map of the moving line and the surrounding environment may be generated.
  • you want to see a road view of a desired position in the omnidirectional image compare the shooting time displayed on the map with the time displayed on the road view when moving using the time bar displayed on the road view. A problem arises that it is difficult to move to a desired position. On the contrary, when searching the omnidirectional image using a map, it is difficult to move to the correct time.
  • the color path is changed as time passes on the moving path displayed on the map and the time information displayed on the road view, and the time displayed on the moving path and road view is displayed. Intuitive comparison of information.
  • the controller 180 of the mobile terminal 100 may generate a map using an omnidirectional image. This is the same as described with reference to FIGS. 5A-5E.
  • the controller 180 of the mobile terminal 100 may display the movement path 1701 in a plurality of colors corresponding to the time when the omnidirectional image is captured.
  • the first area may be displayed in red.
  • the second area may be displayed in yellow.
  • the third area may be displayed in blue.
  • the travel path may be displayed in red, orange, yellow, green, blue, indigo, purple, and the like.
  • the color may naturally change continuously.
  • the controller 180 may display an omnidirectional image of a viewpoint corresponding to the selected region.
  • the controller 180 may display the omnidirectional image at the time when 4 minutes have elapsed after photographing the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may display a UI at the bottom when the image is displayed (1712, 1713) in the road view to display the elapsed time to start shooting.
  • the UI indicating the elapsed time after the start of photographing may be a progressive bar 1732.
  • the controller 180 may display the progressive bar 1732 in a plurality of colors corresponding to the time when the omnidirectional image is captured.
  • the controller 180 may display, in yellow, an area corresponding to a time point 2 minutes after the start of capturing the omnidirectional image of the entire area of the progressive bar 1732.
  • controller 180 may display an area 1722 corresponding to a time point 4 minutes after the start of capturing the omnidirectional image, in the entire area of the progressive bar 1732 in blue.
  • the progressive bar 1732 may be displayed in red, orange, yellow, green, blue, indigo, purple, and the like. However, in one embodiment, the color may naturally change continuously.
  • the controller 180 may display a specific area on the movement path 1701 corresponding to a specific time point and a specific area on the progressive bar 1732 corresponding to the specific time point in the same color.
  • the area 1703 on the movement path 1701 corresponding to the point in time four minutes after the start of shooting, and the area 1722 on the progressive bar 1732 corresponding to the point in time four minutes after the start of shooting. May be displayed in the same color.
  • the controller 180 of the mobile terminal 100 may display the road view image 1712 of a viewpoint corresponding to the second area 1702.
  • the controller 180 of the mobile terminal 100 may display the road view image 1713 of a viewpoint corresponding to the third region 1703.
  • the movement path displayed on the map is displayed as a line that changes color with time
  • the information about the shooting time displayed in the road view is displayed as a line that changes color with time
  • the map and road view The color according to the flow of time displayed on the same time by the same color can be obtained by the user can intuitively compare the position and time of the omnidirectional image.
  • the position corresponding to the viewpoint of the omnidirectional image may be displayed on the map.
  • the controller 180 determines the position of the mobile terminal 100 when 4 minutes have elapsed after the capturing of the omnidirectional image. Can be displayed on the map.
  • 18A to 18C are diagrams for describing a method of recognizing a gesture indicating a specific position and displaying an image corresponding to the playback of an omnidirectional image.
  • the controller 180 of the mobile terminal 100 may control the omnidirectional image reproduced by using a gesture of a person included in the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may determine that the person included in the omnidirectional image is shown in FIG. 18A.
  • a gesture 1801 indicating a specific position may be recognized.
  • the controller 180 of the mobile terminal 100 may change an area in which the omnidirectional image is displayed in the direction indicated by the gesture 1801 indicating a specific position by a person included in the omnidirectional image when the omnidirectional image is played. That is, the area displayed on the display unit 151 of the omnidirectional image may be changed in a direction indicated by the gesture 1801 indicating a specific position by a person included in the omnidirectional image. Accordingly, the controller 180 of the mobile terminal 100 may control the display 1151 to display the image 1802 corresponding to the gesture.
  • the controller 180 of the mobile terminal 100 may recognize a gesture 1801 indicating a specific location of a person included in the omnidirectional image.
  • the controller 180 of the mobile terminal 100 may display an image in a direction indicated by the gesture 1801 indicating a specific location by a person included in the omnidirectional image when the omnidirectional image is played. That is, the image included in the direction indicated by the gesture 1801 pointing to a specific location by a person included in the omnidirectional image may be displayed on a portion of the display unit 151 of the omnidirectional image. Therefore, the controller 180 of the mobile terminal 100 may control to display an image corresponding to a gesture on a partial region 1803 of the display unit 151.
  • 19A and 19B illustrate a method of tracking and displaying a selected object when playing an omnidirectional image.
  • the controller 180 of the mobile terminal 100 may change the view of the image displayed on the display unit 151 in the omnidirectional image by tracking the selected object.
  • the controller 180 of the mobile terminal 100 may receive a specific object from the omnidirectional image displayed on the display unit 151.
  • the user of the mobile terminal 100 may input a gesture for selecting the tracking target 1901.
  • the controller 180 of the mobile terminal 100 may designate the selected target as the tracking target 1901.
  • the controller 180 of the mobile terminal 100 may change the view of the omnidirectional image to be displayed on the display unit 151 of the tracking target 1901 when playing the omnidirectional image.
  • the controller 180 of the mobile terminal 100 changes the view of the omnidirectional image so that the tracking targets 1902, 1903, 1904, 1905, 1906, and 1907 are displayed on the display unit (see FIG. 19B).
  • 151 may be controlled to be displayed.
  • the user of the mobile terminal 100 may be more easily obtained to obtain an omnidirectional image.
  • the present invention described above can be embodied as computer readable codes on a medium in which a program is recorded.
  • the computer-readable medium includes all kinds of recording devices in which data that can be read by a computer system is stored. Examples of computer-readable media include hard disk drives (HDDs), solid state disks (SSDs), silicon disk drives (SDDs), ROMs, RAMs, CD-ROMs, magnetic tapes, floppy disks, optical data storage devices, and the like. This also includes those implemented in the form of carrier waves (eg, transmission over the Internet).
  • the computer may include the controller 180 of the terminal. Accordingly, the above detailed description should not be construed as limiting in all aspects and should be considered as illustrative. The scope of the invention should be determined by reasonable interpretation of the appended claims, and all changes within the equivalent scope of the invention are included in the scope of the invention.

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

이동 단말기가 개시된다. 본 발명의 실시 예에 따른 이동 단말기는, 전방위 영상을 촬영하는 전방위 촬영 장치와 통신을 수행하는 통신부, 전방위 촬영 장치로부터 수신된 전방위 영상을 표시하는 디스플레이부 및 전방위 촬영 장치의 촬영 방법을 설정하기 위한 요청을 수신하고, 상기 수신된 요청에 응답하여, 상기 전방위 영상의 촬영 방법을 설정하는 제어부를 포함한다.

Description

이동 단말기 및 그의 동작 방법
본 발명은 이동 단말기 및 그의 동작 방법에 관한 것으로, 보다 상세하게는 전방위 영상을 편집하거나 전방위 영상에 효과를 적용할 수 있는 이동 단말기 및 그의 동작 방법에 관한 발명이다.
단말기는 이동 가능여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mounted terminal)로 나뉠 수 있다.
이동 단말기의 기능은 다양화 되고 있다. 예를 들면, 데이터와 음성통신, 카메라를 통한 사진촬영 및 비디오 촬영, 음성녹음, 스피커 시스템을 통한 음악파일 재생 그리고 디스플레이부에 이미지나 비디오를 출력하는 기능이 있다. 일부 단말기는 전자게임 플레이 기능이 추가되거나, 멀티미디어 플레이어 기능을 수행한다. 특히 최근의 이동 단말기는 방송과 비디오나 텔레비전 프로그램과 같은 시각적 컨텐츠를 제공하는 멀티캐스트 신호를 수신할 수 있다.
이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.
최근에, 이동 단말기는 전방위 영상을 촬영하는 촬영 장치와 연동되어, 사용될 수 있다. 일반 카메라는 2차원의 영상을 촬영하나, 360도 카메라는 3차원의 공간을 구 형태의 전방위 영상으로 촬영할 수 있다. 촬영된 전방위 영상은 이동 단말기에 전송되어, 디스플레이 상에 표시될 수 있다.
하지만 전방위 영상은 원하지 않는 부분이 촬영되는 문제점이 있으며 또한 전방위 영상을 편집하는 것이 불편하다는 문제가 있었다.
본 발명은 전술한 문제 및 다른 문제를 해결하는 것을 목적으로 한다.
본 발명은 전방위 촬영 장치에 의해 촬영된 전방위 영상을 이용하여 지도를 생성하고, 생성된 지도를 이용하여 전방위 영상을 재생할 수 있는 이동 단말기 및 그의 동작 방법을 제공하는 것을 목적으로 한다.
본 발명은 전방위 촬영 장치에 의해 촬영된 전방위 영상에서 사람을 인식하여 프라이버시 기능을 적용하는 이동 단말기 및 그의 동작 방법을 제공하는 것을 목적으로 한다.
본 발명은 전방위 촬영 장치에 의해 촬영된 전방위 영상에서 사람의 제스처를 인식하여 제스처에 대응하는 효과를 적용하는 이동 단말기 및 그의 동작 방법을 제공하는 것을 목적으로 한다.
상기 또는 다른 목적을 달성하기 위해 본 발명의 일 측면에 따르면, 전방위 영상을 촬영하는 전방위 촬영 장치와 통신을 수행하는 통신 모듈, 전방위 촬영장치로부터 수신된 전방위 영상을 표시하는 디스플레이부 및 전방위 촬영 장치의 촬영 방법을 설정하기 위한 요청을 수신하고, 수신된 요청에 응답하여, 상기 전방위 영상의 촬영 방법을 설정하는 제어부를 포함하는 이동 단말기를 제공한다.
또한, 본 발명의 다른 측면에 따르면, 전방위 촬영 장치로부터 전방위 영상을 수신하는 단계, 수신된 전방위 영상을 표시하는 단계 및 전방위 촬영 장치의 촬영 방법을 설정하기 위한 요청을 수신하는 단계, 수신된 요청에 응답하여, 상기 전방위 영상의 촬영 방법을 설정하는 단계를 포함하는 이동 단말기의 동작 방법을 제공한다.
본 발명의 다양한 실시 예에 따르면, 전방위 촬영 장치에 의해 촬영된 전방위 영상을 이용하여 지도를 생성하고, 생성된 지도를 이용하여 전방위 영상을 재생하여 전방위 영상을 보다 직관적으로 재생할 수 있다.
본 발명의 다양한 실시 예에 따르면, 전방위 촬영 장치에 의해 촬영된 전방위 영상에서 사람을 인식하여 프라이버시 기능을 적용하여, 주변 사람들의 프라이버시를 보다 용이하게 보호할 수 있다.
본 발명의 다양한 실시 예에 따르면, 전방위 촬영 장치에 의해 촬영된 전방위 영상에서 사람의 제스처를 인식하여 제스처에 대응하는 효과를 적용하여, 보다 직관적으로 전방위 영상을 재생할 수 있다.
도 1은 본 발명과 관련된 이동 단말기를 설명하기 위한 블록도이다.
도 2는 본 발명의 실시 예에 따른 이동 단말기와 전방위 촬영 장치의 구성을 설명하기 위한 도면이다.
도 3은 전방위 촬영 장치 주위의 전방위를 포함하는 영상이 촬영될 수 있음을 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시 예에 따른 이동 단말기 및 전방위 촬영 장치의 동작 방법을 설명하는 래더 다이어 그램이다.
도 5a 내지 도 5e는 본 발명의 일 실시 예에 따라 전방위를 포함하는 영상을 이용하여 지도를 생성하고, 지도상에서 로드뷰 영상을 표시하는 방법을 설명하기 위한 도면이다.
도 6a 내지 도 6c는 본 발명의 일 실시 예에 따라 전방위를 포함하는 영상을 이용하여 생성된 영상에서 특정 객체의 로드뷰 영상의 방향을 제한하는 방법을 설명하기 위한 도면이다.
도 7a 내지 도 7c는 본 발명의 일 실시 예에 따라 전방위를 포함하는 영상을 이용하여 로드뷰 영상을 생성시, 장애물을 제거하는 방법을 설명하기 위한 도면이다.
도 8a 내지 도 8d는 본 발명의 일 실시 예에 따라 전방위 영상에서 프라이버시 기능을 적용하는 방법을 설명하기 위한 도면이다.
도 9a 및 도 9b는 본 발명의 일 실시 예에 따라 전방위 영상에서 선택된 대상을 제외하고 프라이버시 기능을 적용하는 방법을 설명하기 위한 도면이다.
도 10a 및 도 10b는 본 발명의 일 실시 예에 따라 전방위 영상의 모든 시간 영역 및 선택된 시간 영역에서 선택된 대상을 제외하고 프라이버시 기능을 적용하는 방법을 설명하기 위한 도면이다.
도 11a 및 도 11b는 본 발명의 일 실시 예에 따라 생성된 전방위 영상에서 선택된 대상에 프라이버시 기능을 적용하는 방법을 설명하기 위한 도면이다.
도 12a 및 도 12b는 본 발명의 일 실시 예에 따라 전방위 영상의 편집 양식을 복사하는 방법을 설명하기 위한 도면이다.
도 13a 도 13b는 본 발명의 일 실시 예에 따라 특정 제스처를 취한 사람을 선택하여 프라이버시 기능을 적용하는 방법을 설명하기 위한 도면이다.
도 14a 및 도 14b는 본 발명의 일 실시 에데 따라 전방위 영상을 외부로 전송하는 경우 프라이버시 침해 방지 여부를 확인하는 메시지를 전송하는 방법을 설명하기 위한 도면이다.
도 15a 내지 도 15c는 전방위를 포함하는 영상을 촬영하는 경우, 촬영 제한 영역을 제외한 영역을 촬영하는 방법을 설명하기 위한 도면이다.
도 16a 내지 도 16c는 전방위를 포함하는 영상을 촬영하는 경우, 특정한 건물에 대한 정보를 표시하는 방법을 설명하기 위한 도면이다.
도 17a 내지 도 17c는 본 발명의 일 실시 예에 따라 전방위를 포함하는 영상을 이용하여 지도를 생성하고, 지도상에서 로드뷰 영상을 표시하는 방법을 설명하기 위한 도면이다.
도 18a 내지 도 18c는 전방위 영상을 재생하는 경우, 특정 위치를 가리키는 제스처를 인식하여 그에 대응하는 영상을 표시하는 방법을 설명하기 위한 도면이다.
도 19a 및 도 19b는 전방위 영상을 재생하는 경우, 선택된 대상을 추적하여 표시하는 방법을 설명하는 도면이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smartwatch), 글래스형 단말기 (smart glass), HMD(head mounted display)) 등이 포함될 수 있다.
그러나, 본 명세서에 기재된 실시 예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터, 디지털사이니지 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 1은 본 발명과 관련된 이동 단말기를 설명하기 위한 블록도이다.
상기 이동 단말기(100)는 무선 통신부(110), 입력부(120), 감지부(140), 출력부(150), 인터페이스부(160), 메모리(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다.
도 1에 도시된 구성요소들은 이동 단말기를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 이동 단말기는 위에서 열거된 구성요소들보다 많거나, 또는 적은 구성요소들을 가질 수 있다.
보다 구체적으로, 상기 구성요소들 중 무선 통신부(110)는, 이동 단말기(100)와 무선 통신 시스템 사이, 이동 단말기(100)와 다른 이동 단말기(100) 사이, 또는 이동 단말기(100)와 외부서버 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 상기 무선 통신부(110)는, 이동 단말기(100)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.
이러한 무선 통신부(110)는, 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114), 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.
입력부(120)는, 영상 신호 입력을 위한 카메라(121) 또는 영상 입력부, 오디오 신호 입력을 위한 마이크로폰(microphone, 122), 또는 오디오 입력부, 사용자로부터 정보를 입력 받기 위한 사용자 입력부(123, 예를 들어, 터치키(touch key), 푸시키(mechanical key) 등)를 포함할 수 있다. 입력부(120)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어명령으로 처리될 수 있다.
센싱부(140)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하기 위한 하나 이상의 센서를 포함할 수 있다.
예를 들어, 센싱부(140)는 근접센서(141, proximity sensor), 조도 센서(142, illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 카메라(121 참조)), 마이크로폰(microphone, 122 참조), 배터리 게이지(battery gauge), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 이동 단말기는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(151), 음향 출력부(152), 햅팁 모듈(153), 광 출력부(154) 중 적어도 하나를 포함할 수 있다. 디스플레이부(151)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 이동 단말기(100)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(123)로써 기능함과 동시에, 이동 단말기(100)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.
인터페이스부(160)는 이동 단말기(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행한다. 이러한 인터페이스부(160)는, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port)중 적어도 하나를 포함할 수 있다. 이동 단말기(100)에서는, 상기 인터페이스부(160)에 외부 기기가 연결되는 것에 대응하여, 연결된 외부 기기와 관련된 적절할 제어를 수행할 수 있다.
또한, 메모리(170)는 이동 단말기(100)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(170)는 이동 단말기(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 이동 단말기(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 이동 단말기(100)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 이동 단말기(100)상에 존재할 수 있다. 한편, 응용 프로그램은, 메모리(170)에 저장되고, 이동 단말기(100) 상에 설치되어, 제어부(180)에 의하여 상기 이동 단말기의 동작(또는 기능)을 수행하도록 구동될 수 있다.
제어부(180)는 상기 응용 프로그램과 관련된 동작 외에도, 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 제어부(180)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(170)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
또한, 제어부(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, 도 1와 함께 살펴본 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 제어부(180)는 상기 응용프로그램의 구동을 위하여, 이동 단말기(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
전원공급부(190)는 제어부(180)의 제어 하에서, 외부의 전원, 내부의 전원을 인가 받아 이동 단말기(100)에 포함된 각 구성요소들에 전원을 공급한다. 이러한 전원공급부(190)는 배터리를 포함하며, 상기 배터리는 내장형 배터리 또는 교체 가능한 형태의 배터리가 될 수 있다.
이하에서는, 위에서 살펴본 이동 단말기(100)를 통하여 구현되는 다양한 실시 예들을 살펴보기에 앞서, 위에서 열거된 구성요소들에 대하여 도 1를 참조하여 보다 구체적으로 살펴본다.
먼저, 무선 통신부(110)에 대하여 살펴보면, 무선 통신부(110)의 방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈이 상기 이동단말기(100)에 제공될 수 있다.
상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
상기 방송 신호는 디지털 방송 신호의 송수신을 위한 기술표준들(또는방송방식, 예를들어, ISO, IEC, DVB, ATSC 등) 중 적어도 하나에 따라 부호화될 수 있으며, 방송 수신 모듈(111)은 상기 기술 표준들에서 정한 기술규격에 적합한 방식을 이용하여 상기 디지털 방송 신호를 수신할 수 있다.
상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련된 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.
상기 방송 관련 정보는 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 다양한 형태로 존재할 수 있다. 방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.
이동통신 모듈(112)은, 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)에 따라 구축된 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다.
상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(113)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.
무선 인터넷 기술로는, 예를 들어 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(113)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다.
WiBro, HSDPA, HSUPA, GSM, CDMA, WCDMA, LTE, LTE-A 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로 이해될 수도 있다.
근거리 통신 모듈(114)은 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다. 이러한, 근거리 통신 모듈(114)은, 근거리 무선 통신망(Wireless Area Networks)을 통해 이동 단말기(100)와 무선 통신 시스템 사이, 이동 단말기(100)와 다른 이동 단말기(100) 사이, 또는 이동 단말기(100)와 다른 이동 단말기(100, 또는 외부서버)가 위치한 네트워크 사이의 무선 통신을 지원할 수 있다. 상기 근거리 무선 통신망은 근거리 무선 개인 통신망(Wireless Personal Area Networks)일 수 있다.
여기에서, 다른 이동 단말기(100)는 본 발명에 따른 이동 단말기(100)와 데이터를 상호 교환하는 것이 가능한(또는 연동 가능한) 웨어러블 디바이스(wearable device, 예를 들어, 스마트워치(smartwatch), 스마트 글래스(smart glass), HMD(head mounted display))가 될 수 있다. 근거리 통신 모듈(114)은, 이동 단말기(100) 주변에, 상기 이동 단말기(100)와 통신 가능한 웨어러블 디바이스를 감지(또는 인식)할 수 있다. 나아가, 제어부(180)는 상기 감지된 웨어러블 디바이스가 본 발명에 따른 이동 단말기(100)와 통신하도록 인증된 디바이스인 경우, 이동 단말기(100)에서 처리되는 데이터의 적어도 일부를, 상기 근거리 통신 모듈(114)을 통해 웨어러블 디바이스로 전송할 수 있다. 따라서, 웨어러블 디바이스의 사용자는, 이동 단말기(100)에서 처리되는 데이터를, 웨어러블 디바이스를 통해 이용할 수 있다. 예를 들어, 이에 따르면 사용자는, 이동 단말기(100)에 전화가 수신된 경우, 웨어러블 디바이스를 통해 전화 통화를 수행하거나, 이동 단말기(100)에 메시지가 수신된 경우, 웨어러블 디바이스를 통해 상기 수신된 메시지를 확인하는 것이 가능하다.
위치정보 모듈(115)은 이동 단말기의 위치(또는 현재 위치)를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다. 예를 들어, 이동 단말기는 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 이동 단말기의 위치를 획득할 수 있다.
다른 예로서, 이동 단말기는 Wi-Fi모듈을 활용하면, Wi-Fi모듈과 무선신호를 송신 또는 수신하는 무선 AP(Wireless Access Point)의 정보에 기반하여, 이동 단말기의 위치를 획득할 수 있다. 필요에 따라서, 위치정보모듈(115)은 치환 또는 부가적으로 이동 단말기의 위치에 관한 데이터를 얻기 위해 무선 통신부(110)의 다른 모듈 중 어느 기능을 수행할 수 있다. 위치정보모듈(115)은 이동 단말기의 위치(또는 현재 위치)를 획득하기 위해 이용되는 모듈로, 이동 단말기의 위치를 직접적으로 계산하거나 획득하는 모듈로 한정되지는 않는다.
다음으로, 입력부(120)는 영상 정보(또는 신호), 오디오 정보(또는 신호), 데이터, 또는 사용자로부터 입력되는 정보의 입력을 위한 것으로서, 영상 정보의 입력을 위하여, 이동 단말기(100) 는 하나 또는 복수의 카메라(121)를 구비할 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시되거나 메모리(170)에 저장될 수 있다. 한편, 이동 단말기(100)에 구비되는 복수의 카메라(121)는 매트릭스 구조를 이루도록 배치될 수 있으며, 이와 같이 매트릭스 구조를 이루는 카메라(121)를 통하여, 이동 단말기(100)에는 다양한 각도 또는 초점을 갖는 복수의 영상정보가 입력될 수 있다. 또한, 복수의 카메라(121)는 입체영상을 구현하기 위한 좌 영상 및 우 영상을 획득하도록, 스트레오 구조로 배치될 수 있다.
마이크로폰(122)은 외부의 음향 신호를 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 이동 단말기(100)에서 수행 중인 기능(또는 실행 중인 응용 프로그램)에 따라 다양하게 활용될 수 있다. 한편, 마이크로폰(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(123)는 사용자로부터 정보를 입력 받기 위한 것으로서, 사용자 입력부(123)를 통해 정보가 입력되면, 제어부(180)는 입력된 정보에 대응되도록 이동 단말기(100)의 동작을 제어할 수 있다. 이러한, 사용자 입력부(123)는 기계식 (mechanical) 입력수단(또는, 메커니컬 키, 예를 들어, 이동 단말기(100)의 전, 후면 또는 측면에 위치하는 버튼, 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등) 및 터치식 입력수단을 포함할 수 있다. 일 예로서, 터치식 입력수단은, 소프트웨어적인 처리를 통해 터치스크린에 표시되는 가상 키(virtual key), 소프트 키(soft key) 또는 비주얼 키(visual key)로 이루어지거나, 상기 터치스크린 이외의 부분에 배치되는 터치 키(touch key)로 이루어질 수 있 한편, 상기 가상키 또는 비주얼 키는, 다양한 형태를 가지면서 터치스크린 상에 표시되는 것이 가능하며, 예를 들어, 그래픽(graphic), 텍스트(text), 아이콘(icon), 비디오(video) 또는 이들의 조합으로 이루어질 수 있다.
한편, 센싱부(140)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하고, 이에 대응하는 센싱 신호를 발생시킨다. 제어부(180)는 이러한 센싱 신호에 기초하여, 이동 단말기(100)의 구동 또는 동작을 제어하거나, 이동 단말기(100)에 설치된 응용 프로그램과 관련된 데이터 처리, 기능 또는 동작을 수행 할 수 있다. 센싱부(140)에 포함될 수 있는 다양한 센서 중 대표적인 센서들의 대하여, 보다 구체적으로 살펴본다.
먼저, 근접 센서(141)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선 등을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 이러한 근접 센서(141)는 위에서 살펴본 터치 스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다.
근접 센서(141)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전 용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 터치 스크린이 정전식인 경우에, 근접 센서(141)는 전도성을 갖는 물체의 근접에 따른 전계의 변화로 상기 물체의 근접을 검출하도록 구성될 수 있다. 이 경우 터치 스크린(또는 터치 센서) 자체가 근접 센서로 분류될 수 있다.
한편, 설명의 편의를 위해, 터치 스크린 상에 물체가 접촉되지 않으면서 근접되어 상기 물체가 상기 터치 스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 명명하고, 상기 터치 스크린 상에 물체가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 명명한다. 상기 터치 스크린 상에서 물체가 근접 터치 되는 위치라 함은, 상기 물체가 근접 터치될 때 상기 물체가 상기 터치 스크린에 대해 수직으로 대응되는 위치를 의미한다. 상기 근접 센서(141)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지할 수 있다.
한편, 제어부(180)는 위와 같이, 근접 센서(141)를 통해 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 데이터(또는 정보)를 처리하며, 나아가, 처리된 데이터에 대응하는 시각적인 정보를 터치 스크린상에 출력시킬 수 있다. 나아가, 제어부(180)는, 터치 스크린 상의 동일한 지점에 대한 터치가, 근접 터치인지 또는 접촉 터치인지에 따라, 서로 다른 동작 또는 데이터(또는 정보)가 처리되도록 이동 단말기(100)를 제어할 수 있다.
터치 센서는 저항막 방식, 정전용량 방식, 적외선 방식, 초음파 방식, 자기장 방식 등 여러 가지 터치방식 중 적어도 하나를 이용하여 터치 스크린(또는 디스플레이부(151))에 가해지는 터치(또는 터치입력)을 감지한다.
일 예로서, 터치 센서는, 터치 스크린의 특정 부위에 가해진 압력 또는 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는, 터치 스크린 상에 터치를 가하는 터치 대상체가 터치 센서 상에 터치 되는 위치, 면적, 터치 시의 압력, 터치 시의 정전 용량 등을 검출할 수 있도록 구성될 수 있다. 여기에서, 터치 대상체는 상기 터치 센서에 터치를 인가하는 물체로서, 예를 들어, 손가락, 터치펜 또는 스타일러스 펜(Stylus pen), 포인터 등이 될 수 있다.
이와 같이, 터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다. 여기에서, 터치 제어기는, 제어부(180)와 별도의 구성요소일 수 있고, 제어부(180) 자체일 수 있다.
한편, 제어부(180)는, 터치 스크린(또는 터치 스크린 이외에 구비된 터치키)을 터치하는, 터치 대상체의 종류에 따라 서로 다른 제어를 수행하거나, 동일한 제어를 수행할 수 있다. 터치 대상체의 종류에 따라 서로 다른 제어를 수행할지 또는 동일한 제어를 수행할 지는, 현재 이동 단말기(100)의 동작상태 또는 실행 중인 응용 프로그램에 따라 결정될 수 있다.
한편, 위에서 살펴본 터치 센서 및 근접 센서는 독립적으로 또는 조합되어, 터치 스크린에 대한 숏(또는 탭) 터치(short touch), 롱 터치(long touch), 멀티 터치(multi touch), 드래그 터치(drag touch), 플리크 터치(flick touch), 핀치-인 터치(pinch-in touch), 핀치-아웃 터치(pinch-out 터치), 스와이프(swype) 터치, 호버링(hovering) 터치 등과 같은, 다양한 방식의 터치를 센싱할 수 있다.
초음파 센서는 초음파를 이용하여, 감지대상의 위치정보를 인식할 수 있다. 한편 제어부(180)는 광 센서와 복수의 초음파 센서로부터 감지되는 정보를 통해, 파동 발생원의 위치를 산출하는 것이 가능하다. 파동 발생원의 위치는, 광이 초음파보다 매우 빠른 성질, 즉, 광이 광 센서에 도달하는 시간이 초음파가 초음파 센서에 도달하는 시간보다 매우 빠름을 이용하여, 산출될 수 있다. 보다 구체적으로 광을 기준 신호로 초음파가 도달하는 시간과의 시간차를 이용하여 파동 발생원의 위치가 산출될 수 있다.
한편, 입력부(120)의 구성으로 살펴본, 카메라(121)는 카메라 센서(예를 들어, CCD, CMOS 등), 포토 센서(또는 이미지 센서) 및 레이저 센서 중 적어도 하나를 포함한다.
카메라(121)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지할 수 있다. 포토 센서는 디스플레이 소자에 적층될 수 있는데, 이러한 포토 센서는 터치 스크린에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 보다 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보가 획득될 수 있다.
디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 디스플레이부(151)는 이동 단말기(100)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.
또한, 상기 디스플레이부(151)는 입체영상을 표시하는 입체 디스플레이부로서 구성될 수 있다. 상기 입체 디스플레이부에는 스테레오스코픽 방식(안경 방식), 오토 스테레오스코픽 방식(무안경 방식), 프로젝션 방식(홀로그래픽 방식) 등의 3차원 디스플레이 방식이 적용될 수 있다.
일반적으로 3차원 입체 영상은 좌 영상(좌안용 영상)과 우 영상(우안용 영상)으로 구성된다. 좌 영상과 우 영상이 3차원 입체 영상으로 합쳐지는 방식에 따라, 좌 영상과 우 영상을 한 프레임 내 상하로 배치하는 탑-다운(top-down) 방식, 좌 영상과 우 영상을 한 프레임 내 좌우로 배치하는 L-to-R(left-to-right, side by side) 방식, 좌 영상과 우 영상의 조각들을 타일 형태로 배치하는 체커 보드(checker board) 방식, 좌 영상과 우 영상을 열 단위 또는 행 단위로 번갈아 배치하는 인터레이스드(interlaced) 방식, 그리고 좌 영상과 우 영상을 시간 별로 번갈아 표시하는 시분할(time sequential, frame by frame) 방식 등으로 나뉜다.
또한, 3차원 썸네일 영상은 원본 영상 프레임의 좌 영상 및 우 영상으로부터 각각 좌 영상 썸네일 및 우 영상 썸네일을 생성하고, 이들이 합쳐짐에 따라 하나의 영상으로 생성될 수 있다. 일반적으로 썸네일(thumbnail)은 축소된 화상 또는 축소된 정지영상을 의미한다. 이렇게 생성된 좌 영상 썸네일과 우 영상 썸네일은 좌 영상과 우 영상의 시차에 대응하는 깊이감(depth)만큼 화면 상에서 좌우 거리차를 두고 표시됨으로써 입체적인 공간감을 나타낼 수 있다.
3차원 입체영상의 구현에 필요한 좌 영상과 우 영상은 입체 처리부에 의하여 입체 디스플레이부에 표시될 수 있다. 입체 처리부는 3D 영상(기준시점의 영상과 확장시점의 영상)을 입력 받아 이로부터 좌 영상과 우 영상을 설정하거나, 2D 영상을 입력 받아 이를 좌 영상과 우 영상으로 전환하도록 이루어진다.
음향 출력부(152)는 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(170)에 저장된 오디오 데이터를 출력할 수 있다. 음향출력부(152)는 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력부(152)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.
햅틱 모듈(haptic module)(153)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(153)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다. 햅틱 모듈(153)에서 발생하는 진동의 세기와 패턴 등은 사용자의 선택 또는 제어부의 설정에 의해 제어될 수 있다. 예를 들어, 상기햅틱 모듈(153)은 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(153)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(electrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(153)은 직접적인 접촉을 통해 촉각 효과를 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(153)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
광출력부(154)는 이동 단말기(100)의 광원의 빛을 이용하여 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(100)에서 발생 되는 이벤트의 예로는 메시지 수신, 호 신호 수신, 부재중 전화, 알람, 일정 알림, 이메일 수신, 애플리케이션을 통한 정보 수신 등이 될 수 있다.
광출력부(154)가 출력하는 신호는 이동 단말기가 전면이나 후면으로 단색이나 복수색의 빛을 발광함에 따라 구현된다. 상기 신호 출력은 이동 단말기가 사용자의 이벤트확인을 감지함에 의하여 종료될 수 있다.
인터페이스부(160)는 이동 단말기(100)에 연결되는 모든 외부 기기와의 통로 역할을 한다. 인터페이스부(160)는 외부 기기로부터 데이터를 전송 받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트(port), 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 등이 인터페이스부(160)에 포함될 수 있다.
한편, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(160)를 통하여 단말기(100)와 연결될 수 있다.
또한, 상기 인터페이스부(160)는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수 있다.
메모리(170)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(170)는 상기 터치 스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(170)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(170)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.
한편, 앞서 살펴본 것과 같이, 제어부(180)는 응용 프로그램과 관련된 동작과, 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 예를 들어, 제어부(180)는 상기 이동 단말기의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행하거나, 해제할 수 있다.
또한, 제어부(180)는 음성 통화, 데이터 통신, 화상 통화 등과 관련된 제어 및 처리를 수행하거나, 터치 스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다. 나아가 제어부(180)는 이하에서 설명되는 다양한 실시 예들을 본 발명에 따른 이동 단말기(100) 상에서 구현하기 위하여, 위에서 살펴본 구성요소들을 중 어느 하나 또는 복수를 조합하여 제어할 수 있다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다. 전원공급부(190)는 배터리를 포함하며, 배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다.
또한, 전원공급부(190)는 연결포트를 구비할 수 있으며, 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스(160)의 일 예로서 구성될 수 있다.
다른 예로서, 전원공급부(190)는 상기 연결포트를 이용하지 않고 무선방식으로 배터리를 충전하도록 이루어질 수 있다. 이 경우에, 전원공급부(190)는외부의 무선 전력 전송장치로부터 자기 유도 현상에 기초한 유도 결합(Inductive Coupling) 방식이나 전자기적 공진 현상에 기초한 공진 결합(Magnetic Resonance Coupling) 방식 중 하나 이상을 이용하여 전력을 전달받을 수 있다.
한편, 이하에서 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
다음으로, 본 발명에 따른 이동 단말기(100)를 통해 실시 가능한 통신 시스템에 대하여 살펴본다.
먼저, 통신 시스템은, 서로 다른 무선 인터페이스 및/또는 물리 계층을 이용할 수도 있다. 예를 들어, 통신 시스템에 의해 이용 가능한 무선 인터페이스에는, 주파수 분할 다중 접속(Frequency Division Multiple Access, FDMA), 시분할 다중 접속(Time Division Multiple Access, TDMA), 코드 분할 다중 접속(Code Division Multiple Access, CDMA), 범용 이동통신 시스템(Universal Mobile Telecommunications Systems, UMTS)(특히, LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced)), 이동통신 글로벌 시스템(Global System for Mobile Communications, GSM) 등이 포함될 수 있다.
이하에서는, 설명의 편의를 위하여, CDMA에 한정하여 설명하도록 한다. 그러나, 본 발명은, CDMA 무선 통신 시스템뿐만 아니라 OFDM(Orthogonal Frequency Division Multiplexing) 무선 통신 시스템을 포함한 모든 통신 시스템 적용될 수 있음은 자명하다.
CDMA 무선 통신 시스템은, 적어도 하나의 단말기(100), 적어도 하나의 기지국(Base Station, BS (Node B 혹은 Evolved Node B로 명칭될 수도 있다.)), 적어도 하나의 기지국 제어부(Base Station Controllers, BSCs), 이동 스위칭 센터(Mobile Switching Center, MSC)를 포함할 수 있다. MSC는, 일반 전화 교환망(Public Switched Telephone Network, PSTN) 및 BSCs와 연결되도록 구성된다. BSCs는, 백홀 라인(backhaul line)을 통하여, BS와 짝을 이루어 연결될 수 있다. 백홀 라인은, E1/T1, ATM, IP, PPP, Frame Relay, HDSL, ADSL 또는 xDSL 중 적어도 하나에 따라서 구비될 수 있다. 따라서, 복수의 BSCs가 CDMA 무선 통신 시스템에 포함될 수 있다.
복수의 BS 각각은 적어도 하나의 섹터를 포함할 수 있고, 각각의 섹터는, 전방향성 안테나 또는 BS로부`터 방사상의 특정 방향을 가리키는 안테나를 포함할 수 있다. 또한, 각각의 섹터는, 다양한 형태의 안테나를 두 개 이상 포함할 수도 있다. 각각의 BS는, 복수의 주파수 할당을 지원하도록 구성될 수 있고, 복수의 주파수 할당은 각각 특정 스펙트럼(예를 들어, 1.25MHz, 5MHz 등)을 가질 수 있다.
섹터와 주파수 할당의 교차는, CDMA 채널이라고 불릴 수 있다. BS는, 기지국 송수신 하부 시스템(Base Station Transceiver Subsystem, BTSs)이라고 불릴 수 있다. 이러한 경우, 하나의 BSC 및 적어도 하나의 BS를 합하여“기지국”이라고 칭할 수 있다. 기지국은, 또한 "셀 사이트"를 나타낼 수도 있다. 또는, 특정 BS에 대한 복수의 섹터들 각각은, 복수의 셀 사이트로 불릴 수도 있다.
방송 송신부(Broadcasting Transmitter, BT)는, 시스템 내에서 동작하는 단말기들(100)에게 방송 신호를 송신한다. 도 1에 도시된 방송 수신 모듈(111)은, BT에 의해 전송되는 방송 신호를 수신하기 위해 단말기(100) 내에 구비된다.
뿐만 아니라, CDMA 무선 통신 시스템에는 이동 단말기(100)의 위치를 확인하기 위한, 위성 위치 확인 시스템(Global Positioning System, GPS)이 연계될 수 있다. 위성은, 이동 단말기(100)의 위치를 파악하는 것을 돕는다. 유용한 위치 정보는, 두 개 이하 또는 이상의 위성들에 의해 획득될 수도 있다. 여기에서는, GPS 추적 기술뿐만 아니라 위치를 추적할 수 있는 모든 기술들을 이용하여 이동 단말기(100)의 위치가 추적될 수 있다. 또한, GPS 위성 중 적어도 하나는, 선택적으로 또는 추가로 위성 DMB 전송을 담당할 수도 있다.
이동 단말기에 구비된 위치정보 모듈(115)은 이동 단말기의 위치를 탐지, 연산 또는 식별하기 위한 것으로, 대표적인 예로는 GPS(Global Position System) 모듈 및 WiFi(Wireless Fidelity) 모듈을 포함할 수 있다. 필요에 따라서, 위치정보모듈(115)은 치환 또는 부가적으로 이동 단말기의 위치에 관한 데이터를 얻기 위해 무선 통신부(110)의 다른 모듈 중 어느 기능을 수행할 수 있다.
상기 GPS모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다. 다만, 실내와 같이 위성 신호의 음영 지대에서는 GPS 모듈을 이용하여 정확히 이동 단말기의 위치를 측정하는 것이 어렵다. 이에 따라, GPS 방식의 측위를 보상하기 위해, WPS (WiFi Positioning System)이 활용될 수 있다.
와이파이 위치추적 시스템(WPS: WiFi Positioning System)은 이동 단말기(100)에 구비된 WiFi모듈 및 상기 WiFi모듈과 무선신호를 송신 또는 수신하는 무선 AP(Wireless Access Point)를 이용하여, 이동 단말기(100)의 위치를 추적하는 기술로서, WiFi를 이용한 WLAN(Wireless Local Area Network)기반의 위치 측위 기술을 의미한다.
와이파이 위치추적 시스템은 와이파이 위치측위 서버, 이동 단말기(100), 상기 이동 단말기(100)와 접속된 무선 AP, 임의의 무선 AP정보가 저장된 데이터 베이스를 포함할 수 있다.
무선 AP와 접속 중인 이동 단말기(100)는 와이파이 위치 측위 서버로 위치정보 요청 메시지를 전송할 수 있다.
와이파이 위치측위 서버는 이동 단말기(100)의 위치정보 요청 메시지(또는 신호)에 근거하여, 이동 단말기(100)와 접속된 무선 AP의 정보를 추출한다. 상기 이동 단말기(100)와 접속된 무선 AP의 정보는 이동 단말기(100)를 통해 상기 와이파이 위치측위 서버로 전송되거나, 무선 AP에서 와이파이 위치측위 서버로 전송될 수 있다.
상기 이동 단말기(100)의 위치정보 요청 메시지에 근거하여, 추출되는 무선 AP의 정보는 MAC Address, SSID(Service Set IDentification), RSSI(Received Signal Strength Indicator), RSRP(Reference Signal Received Power), RSRQ(Reference Signal Received Quality), 채널정보, Privacy, Network Type, 신호세기(Signal Strength) 및 노이즈 세기(Noise Strength)중 적어도 하나일 수 있다.
와이파이 위치측위 서버는 위와 같이, 이동 단말기(100)와 접속된 무선 AP의 정보를 수신하여, 미리 구축된 데이터베이스로부터 이동 단말기가 접속 중인 무선 AP와 대응되는 무선 AP 정보를 추출할 수 있다. 이때, 상기 데이터 베이스에 저장되는 임의의 무선 AP 들의 정보는 MAC Address, SSID, 채널정보, Privacy, Network Type, 무선 AP의 위경도 좌표, 무선 AP가 위치한 건물명, 층수, 실내 상세 위치정보(GPS 좌표 이용가능), AP소유자의 주소, 전화번호 등의 정보일 수 있다. 이때, 측위 과정에서 이동형 AP나 불법 MAC 주소를 이용하여 제공되는 무선 AP를 측위 과정에서 제거하기 위해, 와이파이 위치측위 서버는 RSSI 가 높은 순서대로 소정 개수의 무선 AP 정보만을 추출할 수도 있다.
이후, 와이파이 위치측위 서버는 데이터 베이스로부터 추출된 적어도 하나의 무선 AP 정보를 이용하여 이동 단말기(100)의 위치정보를 추출(또는 분석)할 수 있다. 포함된 정보와 상기 수신된 무선 AP 정보를 비교하여, 상기 이동 단말기(100)의 위치정보를 추출(또는 분석)한다.
이동 단말기(100)의 위치정보를 추출(또는 분석)하기 위한 방법으로, Cell-ID 방식, 핑거 프린트 방식, 삼각 측량 방식 및 랜드마크 방식 등이 활용될 수 있다.
Cell-ID 방식은 이동 단말기가 수집한 주변의 무선 AP 정보 중 신호 세기가 가장 강한 무선 AP의 위치를이동 단말기의 위치로 결정하는 방법이다. 구현이 단순하고 별도의 비용이 들지 않으며 위치 정보를 신속히 얻을 수 있다는 장점이 있지만 무선 AP의 설치 밀도가 낮으면 측위 정밀도가 떨어진다는 단점이 있다.
핑거프린트방식은 서비스 지역에서 참조위치를 선정하여 신호 세기 정보를 수집하고, 수집한 정보를 바탕으로 이동 단말기에서 전송하는 신호 세기 정보를 통해 위치를 추정하는 방법이다. 핑거프린트 방식을 이용하기 위해서는, 사전에 미리 전파 특성을 데이터베이스화할 필요가 있다.
삼각 측량 방식은 적어도 세 개의 무선 AP의 좌표와 이동 단말기 사이의 거리를 기초로 이동 단말기의 위치를 연산하는 방법이다. 이동 단말기와 무선 AP사이의 거리를 측정하기 위해, 신호 세기를 거리 정보로 변환하거나, 무선 신호가 전달되는 시간(Time of Arrival, ToA), 신호가 전달되는 시간 차이(Time Difference of Arrival, TDoA), 신호가 전달되는 각도(Angle of Arrival, AoA) 등을 이용할 수 있다.
랜드마크 방식은 위치를 알고 있는 랜드마크 발신기를 이용하여 이동 단말기의 위치를 측정하는 방법이다.
열거된 방법 이외에도 다양한 알고리즘이 이동 단말기의 위치정보를 추출(또는 분석)하기 위한 방법으로 활용될 수 있다.
이렇게 추출된 이동 단말기(100)의 위치정보는 상기 와이파이 위치측위 서버를 통해 이동 단말기(100)로 전송됨으로써, 이동 단말기(100)는 위치정보를 획득할 수 있다.
이동 단말기(100)는 적어도 하나의 무선 AP 에 접속됨으로써, 위치 정보를 획득할 수 있다. 이때, 이동 단말기(100)의 위치 정보를 획득하기 위해 요구되는 무선 AP의 개수는 이동 단말기(100)가 위치한 무선 통신환경에 따라 다양하게 변경될 수 있다.
앞서 도 1를 통해 살펴본 바와 같이, 본 발명에 따른 이동 단말기에는 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wireless USB(Wireless Universal Serial Bus)등의 근거리 통신 기술이 적용될 수 있다.
이 중, 이동 단말기에 구비된 NFC 모듈은 10cm 안팎의 거리에서 단말 간 비접촉식 근거리 무선 통신을 지원한다. NFC 모듈은 카드 모드, 리더 모드 및 P2P 모드 중 어느 하나로 동작할 수 있다. NFC 모듈이 카드 모드로 운용되기 위해서, 이동 단말기(100)는 카드 정보를 저장하는 보안 모듈을 더 포함할 수도 있다. 여기서, 보안 모듈이란 UICC(Universal Integrated Circuit Card)(예컨대, SIM(Subscriber Identification Module) 또는 USIM(Universal SIM)), Secure micro SD 및 스티커 등 물리적 매체일 수도 있고, 이동 단말기에 임베디드되어 있는 논리적 매체(예컨대, embeded SE(Secure element))일 수도 있다. NFC 모듈과 보안 모듈 사이에는 SWP(Single Wire Protocol)에 기반한 데이터 교환이 이루어질 수 있다.
NFC 모듈이 카드 모드로 운용되는 경우, 이동 단말기는 전통적인 IC 카드처럼 저장하고 있는 카드 정보를 외부로 전달할 수 있다. 구체적으로, 신용카드 또는 버스 카드 등 결제용 카드의 카드 정보를 저장하는 이동 단말기를 요금 결제기에 근접시키면, 모바일 근거리 결제가 처리될 수 있고, 출입용 카드의 카드 정보를 저장하는 이동 단말기를 출입 승인기에 근접 시키면, 출입의 승인 절차가 시작될 수 있다. 신용카드, 교통카드 및 출입카드 등의 카드는 애플릿(applet) 형태로 보안 모듈에 탑재되고, 보안 모듈은 탑재된 카드에 대한 카드 정보를 저장할 수 있다. 여기서, 결제용 카드의 카드 정보는 카드 번호, 잔액, 사용 내역 중 적어도 하나일 수 있고, 출입용 카드의 카드 정보는, 사용자의 이름, 번호(예컨대, 사용자의 학번 또는 사번), 출입 내역 중 적어도 하나일 수 있다.
NFC 모듈이 리더 모드로 운용되는 경우, 이동 단말기는 외부의 태그(Tag)로부터 데이터를 독출할 수 있다. 이때, 이동 단말기가 태그로부터 수신하는 데이터는 NFC 포럼에서 정하는 데이터 교환 포맷(NFC Data Exchange Format)으로 코딩될 수 있다. 아울러, NFC 포럼에서는 4개의 레코드 타입을 규정한다. 구체적으로, NFC 포럼에서는 스마트 포스터(Smart Poster), 텍스트(Text), URI(Uniform Resource Identifier) 및 일반 제어(General Control) 등 4개의 RTD(Record Type Definition)를 규정한다. 태그로부터 수신한 데이터가 스마트 포스터 타입인 경우, 제어부는 브라우저(예컨대, 인터넷 브라우저)를 실행하고, 태그로부터 수신한 데이터가 텍스트 타입인 경우, 제어부는 텍스트 뷰어를 실행할 수 있다. 태그로부터 수신한 데이터가 URI 타입인 경우, 제어부는 브라우저를 실행하거나 전화를 걸고, 태그로부터 수신한 데이터가 일반 제어 타입인 경우, 제어 내용에 따라 적절한 동작을 실행할 수 있다.
NFC 모듈이 P2P(Peer-to-Peer) 모드로 운용되는 경우, 이동 단말기는 다른 이동 단말기와 P2P 통신을 수행할 수 있다. 이때, P2P 통신에는 LLCP(Logical Link Control Protocol) 가 적용될 수 있다. P2P 통신을 위해 이동 단말기와 다른 이동 단말기 사이에는 커넥션(connection)이 생성될 수 있다. 이때, 생성되는 커넥션은 1개의 패킷을 교환하고 종료되는 비접속형 모드(connectionless mode)와 연속적으로 패킷을 교환하는 접속형 지향 모드(connection-oriented mode)로 구분될 수 있다. P2P 통신을 통해, 전자적 형태의 명함, 연락처 정보, 디지털 사진, URL 등의 데이터 및 블루투스, Wi-Fi 연결을 위한 셋업 파라미터 등이 교환될 수 있다. 다만, NFC 통신의 가용 거리는 짧으므로, P2P 모드는 크기가 작은 데이터를 교환하는 것에 효과적으로 활용될 수 있을 것이다.
이하에서는 이와 같이 구성된 이동 단말기에서 구현될 수 있는 제어 방법과 관련된 실시 예들에 대해 첨부된 도면을 참조하여 살펴보겠다. 본 발명은 본 발명의 정신 및 필수적 특징을 벗어나지 않는 범위에서 다른 특정한 형태로 구체화될 수 있음은 당업자에게 자명하다.
한편, 이동 단말기(100)는 통신부(미도시)를 포함할 수 있으며, 통신부 무선 통신부(110) 및 인터페이스부(160)를 포함하여 무선 통신부(110) 및 인터페이스부(160)의 기능을 수행할 수 있다.
도 2는 본 발명의 실시 예에 따른 이동 단말기와 전방위 촬영 장치의 구성을 설명하기 위한 도면이다.
도 2에서는 도 1에 도시된 이동 단말기(100)의 구성 요소들 중 일부 만이 표현되었다. 도 2에 도시된 이동 단말기(100)의 구성에 대한 설명은 도 1의 설명으로 대체한다.
전방위 촬영 장치(200)는 영상 획득부(210), 근거리 통신 모듈(230), 센서(250) 및 컨트롤러(290)를 포함할 수 있다.
전방위 영상에 대해서 설명한다.
전방위 영상이란, 특정 지점을 중심으로 모든 방향이 촬영된 영상일 수 있다.
예를 들어, 가상의 구가 있으며 특정 지점은 가상의 구의 중심인 경우, 모든 방향이란 가상의 구의 중심으로부터 가상의 구의 면을 향하는 모든 방향일 수 있다.
즉, 360도 카메라와 같은 전방위 촬영장치(500)를 이용하여 영상이 촬영된 경우, 전방위 영상이란 촬영 장치(500)를 중심으로 모든 방향이 촬영된 영상일 수 있다.
한편, 위에서는 전방위 영상에 대하여 가상의 구를 예로 들어 설명하였으나 이에 한정되지 않는다.
구체적으로, 전방위 촬영장치(500)를 이용하여 특정 화각 내의 영상을 촬영한 경우, 전방위 영상이란 특정 화각 내의 모든 방향이 촬영된 영상을 의미할 수 있다.
예를 들어, 전방위 촬영장치(500)에 180도 화각을 설정하여 촬영을 수행한 경우, 전방위 영상이란 가상의 구의 중심으로부터 가상의 반구의 면을 향하는 모든 방향이 촬영된 영상일 수 있다.
영상 획득부(210)는 전방위 촬영 장치(500)를 중심으로 전방위를 촬영하여, 전방위 영상을 획득할 수 있다. 전방위 영상은 후술할 도 3의 구 형태를 가질 수 있다. 전방위 영상은 360도 영상으로 명명될 수도 있다.
영상 획득부(210)는 복수의 카메라들을 구비할 수 있다. 도 2에서는 전면 카메라(5211) 및 후면 카메라(213)를 예로 들었으나, 이에 한정될 필요는 없고, 3 이상의 카메라가 전방위 촬영 장치(200)에 구비될 수 있다.
전면 카메라(211) 및 후면 카메라(213) 각각은 180도 이상의 화각을 갖는 어안 렌즈를 구비할 수 있다. 전면 카메라(211) 및 후면 카메라(213) 각각은 어안 렌즈를 통해 전방위의 부분 영상을 촬영할 수 있다.
컨트롤러(290)는 각 어안 렌즈를 통해 획득된 2개의 전방위의 부분 영상을 구형의 형태로 합성하여, 전방위 영상을 생성할 수 있다.
근거리 통신 모듈(230)는 컨트롤러(290)가 생성한 구 형태의 전방위 영상을 이동 단말기(100)에 무선으로 전송할 수 있다. 근거리 통신 모듈(230)은 와이파이 다이렉트, 블루투스, 와이파이 중 어느 하나의 통신 규격을 사용하여 전방위 영상을 이동 단말기(100)에 전송할 수 있으나, 통신 규격은 예시에 불과하다.
전방위 촬영 장치(500)는 근거리 통신 모듈(230) 이외에 USB 인터페이스 등과 같은 유선 통신 인터페이스를 구비할 수 있고, 유선 통신 인터페이스를 통해 이동 단말기(100)와 통신을 수행할 수 있다.
센서(5250)는 자이로 센서, 가속도 센서 중 하나 이상을 포함할 수 있다.
컨트롤러(290)는 전방위 촬영 장치(200)의 전반적인 동작을 제어할 수 있다.
또한, 전방위 촬영 장치(200)는 하나 이상의 마이크로폰을 구비할 수 있다.
도 3은 전방위 촬영 장치를 기준으로 전방위가 촬영될 수 있음을 설명하기 위한 도면이다.
촬영 장치(200)는 전방위 영상을 촬영할 수 있다. 촬영 장치(200)는 촬영 장치(200)가 위치한 수평면을 경계로 아래 반구 영역 및 위 반구 영역을 촬영할 수 있다. 즉, 촬영 장치(200)는 촬영 장치(200)를 중심으로, 구 형태를 갖는 전방위 영상(300)을 획득할 수 있다. 획득된 전방위 영상(300)은 이동 단말기(100)에 전송될 수 있다.
이동 단말기(100)의 디스플레이부(151)는 전방위 영상(300) 중 특정 영역에 대응하는 일부 영상을 표시할 수 있다. 예를 들어, 이동 단말기(100)의 디스플레이부(151)는 전방위 영상(300) 중 제1 영역에 대응하는 제1 일부 영상(310)을 표시하거나, 제2 영역에 대응하는 제2 일부 영상(330)을 표시할 수 있다.
디스플레이부(151)가 표시하는 일부 영상은 사용자의 설정에 따라 달라질 수도 있고, 디폴트로 설정될 수도 있다.
도 4는 본 발명의 일 실시 예에 따른 이동 단말기 및 전방위 촬영 장치의 동작 방법을 설명하는 래더 다이어 그램이다.
이동 단말기(100)와 전방위 촬영 장치(200)는 근거리 무선 통신을 통해 서로 연결된다(S401).
이동 단말기(100)의 제어부(180)는 전방위 촬영 장치(200)의 촬영 방법을 설정한다(S407).
일 실시 예에서 제어부(180)는 전방위 촬영 장치(200)의 촬영 방법을 설정할 수 있다.
본 발명에서 촬영 방법이란, 전방위 촬영 장치(200)의 촬영 영역, 촬영 대상, 촬영과 동시에 이루어지는 편집 등을 포함할 수 있다.
일 실시 예에서 촬영 방법 설정은 전방위 촬영 장치(200)의 위치를 기준으로, 전방위 촬영 장치(200)가 촬영하고자 하는 전방위를 포함하는 영상의 촬영 영역을 지정하기 위한 요청일 수 있다. 구체적으로, 촬영 영역 지정 요청은 전방위를 포함하는 영상의 특정 영역에 대응하는 전방위 영상의 일부 영상을 중심으로, 전방위를 포함하는 영상을 촬영하기 위한 요청일 수 있다.
본 발명에서, 전방위 촬영 장치(200)의 촬영 방법을 설정하는 것은 전방위 촬영 장치(200)의 화각을 설정하는 것을 포함할 수 있다.
구체적으로, 전방위 촬영 장치(200)의 화각을 설정하는 것은 전방위 촬영 장치(200)의 전면 카메라(211) 또는 후면 카메라(213)의 화각을 설정하는 것과 같은 의미로 해석될 수 있다.
사용자는 전방위 촬영 장치(200)를 통해 전방위 시야에 대응하는 영상을 촬영할 수는 있으나, 사용자가 추후, 이동 단말기(100)를 통해 전방위 영상을 볼 때, 원하는 부분을 찾는 것이 어렵다는 문제가 있다.
이 때, 사용자가 전방위를 포함하는 영상의 화각을 지정해 놓으면, 전방위 촬영 장치(200)가 회전하거나, 움직이더라도, 사용자는 촬영 영역에 대응하는 전방위 영상의 일부 영상을 이동 단말기(100)를 통해 바로, 볼 수 있다.
일 실시 예에서 이동 단말기(100)의 제어부(180)는 전방위 촬영 장치(200)로부터 수신된 전방위 영상 중 지정된 촬영 영역을 제외한 나머지 영역에 대응하는 영상을 저장하지 않을 수 있다.
전방위 촬영 장치(200)는 전방위 촬영 장치(200) 주변을 전방위로 촬영하기 때문에 불특정 다수의 사람을 촬영할 수 있으며, 무분별한 촬영이 이루지면 문제가 되는 대상을 촬영하는 문제가 있다.
본 발명의 다른 일 실시 예에서, 이동 단말기(100)의 제어부(180)는 전방위 촬영 장치(200)로부터 수신된 전방위 영상 중 특정 대상을 흐리게 처리할 수 있다. 예를 들어, 사람의 얼굴, 건물의 간판, 자동차의 번호판 등을 흐리게 처리하여 프라이버시를 보호할 수 있다.
또 다른 실시 예에서 이동 단말기(100)의 제어부(180)는 전방위 촬영 장치(200)로부터 설정된 촬영 영역에 대응하는 촬영 영상만을 수신할 수 있다. 이를 위해, 전방위 촬영 장치(200)는 전방위 영상 중 설정된 촬영 영역에 대응하는 일부 영상만을 이동 단말기(100)에 전송할 수 있다.
제어부(180)는 영상의 좌표 값을 이용하여, 전방위 영역 내의 촬영 영역을 획득할 수 있다. 또한, 전방위를 포함하는 영상의 촬영 영역은 복수 개로 설정될 수 있다.
제어부(180)는 설정된 촬영 방법에 대한 정보를 표시한다(S409).
일 실시 예에서 제어부(180)는 전방위 촬영 장치(200)로부터 수신된 전방위 영상을 이용하여 설정된 촬영 방법에 대한 정보를 표시할 수 있다.
예를 들어, 이동 단말기(100)의 제어부(180)는 촬영 영역, 촬영 대상, 촬영 효과 등에 대한 정보를 이동 단말기(100)의 디스플레이부(180)에 표시할 수 있다.
이러한 정보는 촬영 시에만 표시는 촬영 및 편집을 위한 정보일 수 있으며, 저장되는 전방위 영상에는 포함되지 않을 수 있다.
이동 단말기(100)의 제어부(180)는 설정된 촬영 방법에 대한 정보를 전방위 촬영 장치(200)에 전송한다(S411).
촬영 방법에 대한 정보는 구 형태의 전방위를 포함하는 영상 중 어느 영역을 촬영해야 할지를 나타내는 정보를 포함할 수 있다.
촬영 방법에 대한 정보는 전방위를 포함하는 영상 내에서 설정된 촬영 영역의 위치 정보를 포함할 수 있다.
촬영 방법에 대한 정보는 전방위를 포함하는 영상 내에서 설정된 촬영 대상에 대한 정보를 포함할 수 있다.
촬영 방법에 대한 정보는 전방위를 포함하는 영상 내에서 촬영 영역 및 촬영 대상에 부여되는 편집 방법에 대한 정보를 포함할 수 있다.
전방위 촬영 장치(200)의 컨트롤러(290)는 수신된 촬영 방법에 대한 정보에 기초하여, 설정된 촬영 영역을 촬영한다(S413).
전방위 촬영 장치(200)는 셔터 버튼(미도시)를 구비할 수 있고, 셔터 버튼이 선택된 경우, 전방위를 포함하는 영상을 촬영하여, 전방위 이미지 또는 전방위 동영상을 획득할 수 있다.
전방위 촬영 장치(200)의 컨트롤러(290)는 촬영된 촬영 영상을 이동 단말기(100)에 전송하고(S415), 이동 단말기(100)의 제어부(180)는 수신된 촬영 영상을 디스플레이부(151)를 통해 표시한다(S417).
일 실시 예에서 전방위 촬영 장치(200)는 전방위를 포함하는 영상에 대응하는 전방위 영상을 이동 단말기(100)에 전송할 수 있다. 이 경우, 전방위 영상 내의 촬영 영역에 대응하는 일부 영상은 식별될 수 있다. 이동 단말기(100)는 수신된 전방위 영상 중 식별된 일부 영상을 디스플레이부(151)에 표시할 수 있다.
이동 단말기(100)는 수신된 전방위 영상 중 식별된 일부 영상만을 메모리(170)에 저장할 수 있다. 이동 단말기(100)는 수신된 전방위 영상 중 식별된 일부 영상만을 메모리(170)에 저장하고, 나머지 영상은 삭제할 수 있다. 이에 따라, 메모리(170)의 저장 공간이 절약될 수 있다.
이동 단말기(100)는 설정된 전방위 촬영 장치(200)의 촬영 영역에 대응하는 영상만을 디스플레이부(151)를 통해 표시할 수 있다. 사용자는 전방위 촬영 장치(200)의 설정된 화각에 대응하는 영상만을 감상할 수 있다.
다음으로, 이동 단말기(100)의 제어부(180)는 촬영된 전방위 영상에 대한 편집 방법을 설정할 수 있다(S419). 또한, 촬영된 영상을 편집 방법에 대응 하게 편집할 수도 있다(S421).
일 실시 예에서, 이동 단말기(100)의 제어부(180)는 메모리에 저장된 전방위 영상을 편집하는 방법을 설정할 수 있다.
예를 들어, 이동 단말기(100)의 제어부(180)는 전방위 영상을 이용하여 전방위 영상이 촬영된 지역의 지도를 생성할 수 있다. 또한, 이동 단말기(100)의 제어부(180)는 전방위 영상을 이용하여 생성된 지도에 이동 경로를 표시할 수 있다. 또한 이동 단말기(100)의 제어부(180)는 전방위 영상을 이용하여 이동 경로와 전방위 영상을 연결하여 로드뷰를 제공할 수 있다.
다른 예를 들어, 이동 단말기(100)의 제어부(180)는 전방위 영상에서 원하지 않는 부분을 흐리게 처리할 수 있다. 구체적이 예는 후술한다.
즉, 이동 단말기(100)의 제어부(180)는 전방위 영상을 촬영과 동시에 촬영 방법을 적용하여 특정 효과를 적용할 수도 있으며, 또한, 전방위 영상이 촬영된 이후에도 편집을 통해 원하는 효과를 적용할 수도 있다.
이하에서는, 도 4의 실시 예를 상세히 설명한다.
도 5a 내지 도 5e는 본 발명의 일 실시 예에 따라 전방위 영상을 이용하여 지도를 생성하고, 지도상에서 로드뷰 영상을 표시하는 방법을 설명하기 위한 도면이다.
일 실시 예에서 이동 단말기(100)의 제어부(180)는 전방위 영상을 이용하여 지도를 생성할 수 있다.
예를 들어, 이동 단말기(100)의 사용자는 도 5a와 같이 촬영지역(502)에서 이동 경로(501)를 따라서 이동을 하면서 전방위 영상을 촬영할 수 있다.
이동 단말기(100)의 제어부(180)는 전방위 영상이 완성되면 전방위 영상을 분석하여 2D형태의 지도를 생성할 수 있다.
구체적으로 이동 단말기(100)의 제어부(180)는 메모리(170)에 저장된 전방위 영상에 포함된 위치정보를 이용하여 이동한 지역에 대한 지도를 생성할 수 있다. 또한, 이동 단말기(100)의 제어부(180)는 Structure from Motion (SfM) 같은 비전 기술을 이용하여 지도를 생성할 수도 있으며, Structure from Motion과 위치 정보를 동시에 적용하여 지도를 생성할 수도 있다.
생성된 지도는 도 5b와 같이 표현될 수도 있다. 다만, 도 5b에서는 지도(512)상에 건물을 단순화된 도형으로 표현하였으나, 구체적으로 이동 단말기(100)의 제어부(180)는 메모리(170)에 저장된 전방위 영상을 이용하여 구체적인 이미지로 표현할 수도 있다.
또한, 이동 단말기(100)의 제어부(180)는 지도(512)에 실제 이동 단말기(100)의 이동 경로(501)에 대응하는 이동 경로(511)를 표시할 수 있다.
도 5c 및 도 5d를 참조하면, 이동 단말기(100)가 이동한 경로(511)의 일 영역(521)을 선택하는 입력이 수신되면, 제어부(180)는 선택된 일 영역(521)에 대응하는 위치의 로드뷰를 표시할 수 있다.
구체적으로, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)상의 이동 경로(511)에 선택 지역에 대한 제스처가 입력되고 원하는 뷰(view)를 선택하는 제스처가 입력되면, 선택 지역에 대한 제스처의 원하는 뷰(view)에 대응하는 이미지를 표시할 수 있다. 이러한 이미지는 로드뷰, 스트리트 뷰 등으로 표현할 수도 있다.
도 5e를 참조하면, 이동 단말기(100)의 제어부(180)는 이동 경로(511)를 변경하는 드래그 제스처(531)가 입력되면, 이동 경로(511)를 변경할 수 있다.
이동 단말기(100)의 사용자는 이동 경로(511)의 일 지점에서 로드뷰로 이동 경로(511) 주변의 영상을 볼 수 있다. 하지만, 이동 경로(511) 상에서 주변의 영상을 보는 경우 보고자 하는 대상이 너무 가까이 혹은 너무 멀리서 촬영되어 원하는 영상을 볼 수 없는 경우가 발생할 수 있다. 예를 들어, 로드뷰(522)는 원하는 대상을 너무 근접하여 촬영하여 대상의 모두 볼 수 없는 문제가 있다.
위와 같은 문제가 발생한 경우 이동 단말기(100)의 사용자는 이동 경로(511)를 변경할 수 있다.
이동 단말기(100)의 제어부(180)는 이동 경로(511)가 수정된 경우 수정된 위치에 대응하는 로드뷰(532)를 디스플레이부(151)에 표시할 수 있다.
로드뷰(532)는 원하는 대상을 모두 표시하고 있음을 확인할 수 있다. 이와 같이 본 발명의 일 실시 예에 따르면, 이동 단말기(100)의 사용자는 지도에 표시된 이동 경로(511)를 이동 단말기(100)의 사용자가 실제 이동한 경로(501)와 다르게 설정할 수 있다. 따라서 대상을 표시하기 가장 적절한 이동 경로(511)를 설정할 수 있어, 전방위 영상의 사용자가 보다 적절한 영상을 시청할 수 있는 효과를 얻을 수 있다.
도 6a 내지 도 6c는 본 발명의 일 실시 예에 따라 전방위 영상을 이용하여 생성된 영상에서 특정 객체의 로드뷰 영상의 방향을 제한하는 방법을 설명하기 위한 도면이다.
일 실시 예에서, 이동 단말기(100)의 제어부(180)는 지도상에서 고정 객체를 선택하는 입력을 수신할 수 있다.
도 6a 내지 도 6c를 참조하면, 이동 단말기(100)의 제어부(180)는 지도상에서 고정 객체(601, 602)를 선택하는 제스처를 입력 받을 수 있다.
도 5a 내지 도 5e와 같이 이동 단말기(100)의 제어부(180)는 지도상에서 일 지점과 일 지점에서 뷰의 방향을 입력 받을 수 있으며, 그에 대응하는 로드뷰를 제공할 수 있다.
예를 들어, 이동 단말기(100)의 제어부(180)는 도 6b에서 지도상에서 일 지점과 일 지점에서 뷰의 방향에 대한 제스처(612)가 입력되면, 그에 대응하는 로드뷰(621)을 제공할 수 있다.
또한, 일 실시 예에서, 이동 단말기(100)의 제어부(180)는 로드뷰(621)을 고정 로드뷰로 설정할 수 있다. 이동 단말기(100)의 제어부(180)는 고정 로드뷰로 설정된 로드뷰(621)의 구도를 메모리(170)에 저장 할 수 있다.
또한, 일 실시 예에서, 이동 단말기(100)의 제어부(180)는 고정 로드뷰가 설정되면 고정 로드뷰가 설정된 대상을 미리 정해진 구도로 표시할 수 있다.
예를 들어, 도 6c에서와 같이 이동 단말기(100)의 사용자가 지도상에서 복수의 지점(631, 632, 633) 중 하나의 지점을 선택하여 고정 로드뷰가 설정된 대상(611)을 보는 경우 이동 단말기(100)의 제어부(180) 모든 지점에서 동일한 고정 로드뷰로 설정된 로드뷰(621)를 디스플레이부(151)에 표시할 수 있다.
따라서, 이동 단말기(100)의 사용자는 특정 대상을 원하는 방향으로만 표시하게 제어할 수 있다. 따라서, 특정 대상을 가장 좋은 방향으로만 표시할 수 있는 효과를 얻을 수 있다. 또한, 특정 대상에서 보여지기 원하지 않는 방향을 제외하고 보여 줄 수 있는 효과를 얻을 수 있다.
도 7a 내지 도 7c는 본 발명의 일 실시 예에 따라 전방위 영상을 이용하여 로드뷰 영상을 생성시, 장애물을 제거하는 방법을 설명하기 위한 도면이다.
전방위 촬영 장치(200)를 이용하여 촬영 시 주변 사람들이 지나다녀서 촬영 대상을 가리거나, 주변의 장애물 등에 의해 원하지 않는 노이즈가 빈번히 발생하는 문제가 있다.
본 발명의 일 실시 예에서 이동 단말기(100)의 제어부(180)는 불필요한 대상를 강제로 제거 하여 원하는 대상만을 표시할 수 있다.
도 7a 내지 도 7c를 참조하면, 전방위 촬영 장치(200)를 이동 하면서 전방위 영상을 촬영하는 경우 복수의 장소에서 대상을 촬영할 수 있다.
예를 들어, 이동 단말기(100)의 제어부(180)는 전방위 촬영 장치(200)가 제1위치(701), 제2위치(702) 및 제3 위치(703)에서 원하는 대상(711, 712)을 촬영한 전방위 영상을 얻을 수 있다. 제1위치(701), 제2위치(702) 및 제3 위치(703)에 촬영된 전방위 영상은 원하는 대상(711, 712)에 대한 이미지 이외에 불필요한 장애물(721, 722) 등에 대한 이미지가 포함될 수 있다. 즉, 1위치(701), 제2위치(702) 및 제3 위치(703)에 촬영된 전방위 영상은 각각 제1이미지(741), 제2이미지(742) 및 제3이미지(743)에 대응할 수 있다.
제1이미지(741), 제2이미지(742) 및 제3이미지(743)에는 원하는 대상 및 불필요한 장애물에 대응하는 이미지를 포함하고 있다.
이동 단말기(100)의 제어부(180)는 제1이미지(741), 제2이미지(742) 및 제3이미지(743)를 합성하여 장애물이 제거된 전방위 영상(도 7c)을 얻을 수 있다.
구체적으로 이동 단말기(100)의 사용자는 전방위 영상을 시청하는 중에 삭제를 원하는 장애물을 선택할 수 있으며, 이동 단말기(100)의 제어부(180)는 선택된 대상을 위와 같이 복수의 이미지를 합성하여 제거할 수 있다.
또한, 합성된 이미지는 전방위 영상과 함께 저장될 수 있다. 따라서, 전방위 영상을 다시 재생하는 경우 장애물이 제거된 영상을 볼 수 있다.
따라서, 이동 단말기(100)의 사용자는 전방위 영상에서 사용자가 제거하기 원하는 대상을 삭제하는 편집을 수행할 수 있어 장애물 등을 제거할 수 있는 효과를 얻을 수 있다.
도 8a 내지 도 8d는 본 발명의 일 실시 예에 따라 전방위 영상에서 프라이버시 기능을 적용하는 방법을 설명하기 위한 도면이다.
본 발명의 일 실시 예에 따르면, 전방위 영상에서 사람의 얼굴이나 차량 번호판과 같은 사생활 침해 방지를 위해 처리되어야 하는 부분을 자동으로 인식하여 처리할 수 있다.
도 8a 내지 도 8d를 참조하면, 이동 단말기(100)의 제어부(180)는 메모리(170)에 저장된 전방위 영상의 섬네일 이미지(802)를 디스플레이부(151)에 표시할 수 있다.
이동 단말기(100)의 사용자는 섬네일 이미지(802) 중에서 프라이버시 기능을 적용할 전방위 영상을 선택할 수 있다. 또한, 이동 단말기(100)의 제어부(180)는 선택된 전방위 영상에 프라이버시 기능을 적용하는 메뉴(801)가 선택되면 선택된 전방위 영상에 프라이버시 기능을 적용할 수 있다.
또한, 이동 단말기(100)의 제어부(180)는 메모리(170)에 저장된 전방위 영상의 부분영상(811)을 디스플레이부(151)에 표시할 수 있다.
이동 단말기(100)의 사용자는 전방위 영상의 부분영상(811)을 시청하는 중에 프라이버시 기능을 적용여부를 선택할 수 있다. 이동 단말기(100)의 제어부(180)는 선택된 전방위 영상에 프라이버시 기능을 적용하는 메뉴(812)가 선택되면 선택된 전방위 영상에 프라이버시 기능을 적용할 수 있다.
구체적으로, 제어부(180)는 전방위 영상 내의 오브젝트에 대하여 프라이버시 기능을 적용한 영상을 디스플레이 할 수 있다. 여기서 프라이버시 기능은, 오브젝트의 일부 또는 전부가 흐리게 표시되는 기능일 수 있다.
예를 들어, 전방위 영상은 도 8c와 같이 복수의 사람(831, 832, 833, 834, 835)을 포함할 수 있다.
이동 단말기(100)의 제어부(180)는 프라이버시 기능이 적용되는 복수의 사람(831, 832, 833, 834, 835) 각각의 얼굴을 흐리게 처리할 수 있다. 이동 단말기(100)의 제어부(180)는 전방위 영상의 전 시간 영역에서 사람의 얼굴이나 차량 번호판과 같은 사생활 침해 우려가 있는 영역을 검색하고, 검색된 영역을 흐리게 처리할 수 있다. 흐리게 표현된 사람의 얼굴(841, 842, 843, 844, 845)은 타인이 사람의 얼굴을 통해 그 대상 누구인지 확인할 수 없게 표시된다. 따라서 흐리게 표현하는 것 이외에 다른 이미지를 표시하는 등 다른 방식으로 처리될 수도 있다.
다만, 이동 단말기(100)의 제어부(180)는 사생활 침해 우려가 있는 대상을 설정할 수 있다. 예를 들어, 사람의 얼굴, 자동차의 번호판, 건물의 간판 등 중에서 적어도 하나 이상을 사생활 침해 우려가 있는 대상으로 설정할 수 있다.
다만, 이러한 사생활 보호 기능은 상술한 것과 같이 이미 저장된 전방위 영상을 후 처리하는 방식으로 제공될 수 있음은 물론이고, 전방위 영상을 촬영 시 실시간으로 처리될 수도 있다.
따라서, 본 발명의 일 실시 예에 따르면, 영상의 모든 부분을 확인하기 어려운 전방위 영상에 사생활을 보호하는 방법을 제공하는 장점이 있다.
도 9a 및 도 9b는 본 발명의 일 실시 예에 따라 전방위 영상에서 선택된 대상을 제외하고 프라이버시 기능을 적용하는 방법을 설명하기 위한 도면이다.
본 발명의 일 실시 예에서, 제어부(180)는 오브젝트를 선택하는 입력에 기초하여, 프라이버시 기능의 적용 여부를 결정할 수 있다.
구체적으로, 이동 단말기(100)의 제어부(180)는 프라이버시 기능을 적용할 대상 및 제외될 대상을 선택할 수 있다.
도 9a 및 도 9b를 참조하면, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 표시된 영상에서 프라이버시 기능을 제외할 대상을 선택할 수 있다.
예를 들어, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 전방위 영상을 표시할 수 있으며, 전방위 영상에는 복수의 사람이 표시될 수 있다. 이동 단말기(100)의 제어부(180)는 전방위 영상에서 프라이버시 기능의 적용을 제외할 대상(901, 902)을 선택 받을 수 있다. 이동 단말기(100)의 사용자가 프라이버시 기능의 적용을 제외할 대상(901, 902) 선택하는 하는 방법은 터치, 롱 터치, 더블 터치와 같은 다양한 제스처일 수 있다.
이동 단말기(100)의 제어부(180)는 프라이버시 기능의 적용을 제외할 대상(901, 902)을 제외하고 프라이버시 기능을 제공할 수 있다.
도 9b와 같이 프라이버시 기능의 적용을 제외할 대상(901, 902)의 경우 대상의 얼굴을 표시(911, 912)할 수 있으며, 프라이버시 기능의 적용을 제외할 대상(901, 902)을 제외한 대상은 프라이버시 기능을 적용(913, 914)할 수 있다.
이와 같이 본 발명의 일 실시 예에 의하면, 이동 단말기(100)의 제어부(180)는 프라이버시 기능을 선택적으로 적용할 수 있다. 따라서, 전방위 촬영 장치(200)로 전방위 영상을 촬영하는 경우 특정인물을 인식할 수 있어 특정인물을 제외하고 프라이버시 기능을 적용하는 효과를 얻을 수 있다.
도 10a 및 도 10b는 본 발명의 일 실시 예에 따라 전방위 영상의 모든 시간 영역 및 선택된 시간 영역에서 선택된 대상을 제외하고 프라이버시 기능을 적용하는 방법을 설명하기 위한 도면이다.
일 실시 예에서, 이동 단말기(100)의 제어부(180)는 선택된 대상을 인식하여, 전방위 영상의 모든 시간 영역 및 선택된 시간 영역에서 선택된 대상을 제외하고 프라이버시 기능을 적용할 수 있다.
전방위 영상에 선택된 대상은 영상에 포함되고 제외되는 것을 반복할 수 있다. 예를 들어, 전방위 영상의 초반부에는 선택된 대상이 포함될 수 있으나, 중반부에는 다른 장소로 이동하면서 전방위 영상에 포함되지 않을 수 있다. 또한, 전방위 영상의 후반부에 다시 포함될 수도 있다.
따라서, 이동 단말기(100)의 제어부(180)는 선택된 대상이 전방위 영상에서 연속적으로 포함되어 선택된 대상을 추적할 수도 있으며, 이동 단말기(100)의 제어부(180)는 선택된 대상이 전방위 영상에서 불연속적으로 포함되는 경우에도 선택된 대상을 인식하여 추적할 수도 있다.
다른 실시 예에서, 이동 단말기(100)의 제어부(180)는 전방위 영상의 모든 시간 영역에서 선택된 대상을 추적할 수 있다.
또 다른 실시 예에서, 이동 단말기(100)의 제어부(180)는 전방위 영상의 선택된 시간 영역에서 선택된 대상을 추적할 수 있다.
도 10a 및 도 10b를 참조하면, 이동 단말기(100)의 제어부(180)는 선택된 대상(1001)을 선택하는 제스처를 입력 받을 수 있다.
이동 단말기(100)의 제어부(180)는 전방위 영상의 모든 시간 영역에서 선택된 대상을 추적하여 프라이버시 기능이 적용되는 것을 제한할 수 있다.
예를 들어, 제1 시간(1004) 및 제2 시간(1012) 모두 에서 이동 단말기(100)의 제어부(180)는 선택된 대상(1002, 1003)을 제외하고 프라이버시 기능을 적용할 수 있다.
또한, 이동 단말기(100)의 제어부(180)는 전방위 영상의 선택된 시간 영역에서 선택된 대상을 추적하여 프라이버시 기능이 적용되는 것을 제한할 수 있다.
예를 들어, 제1 시간(1004)에서는 이동 단말기(100)의 제어부(180)는 선택된 대상(1002)을 제외하고 프라이버시 기능을 적용할 수 있다, 반면세 제2 시간(1012)에서는 이동 단말기(100)의 제어부(180)는 선택된 대상(1003)을 포함하여 프라이버시 기능을 적용할 수도 있다.
이와 같이 이동 단말기(100)의 사용자는 전방위 영상의 모든 시간 영역 및 선택된 시간 영역에서 선택된 대상을 제외하고 프라이버시 기능을 적용하는 효과를 얻을 수 있다.
도 11a 및 도 11b는 본 발명의 일 실시 예에 따라 생성된 전방위 영상에서 선택된 대상에 프라이버시 기능을 적용하는 방법을 설명하기 위한 도면이다.
본 발명의 일 실시 예에서는 이동 단말기(100)의 제어부(180)는 프라이버시 기능을 적용할 대상 및 제외될 대상을 선택할 수 있다.
도 11a 및 도 11b를 참조하면, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 표시된 영상에서 프라이버시 기능을 적용할 대상을 선택할 수 있다.
예를 들어, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 전방위 영상을 표시할 수 있으며, 전방위 영상에는 복수의 사람이 표시될 수 있다. 이동 단말기(100)의 제어부(180)는 전방위 영상에서 프라이버시 기능의 적용할 대상(1101)을 선택 받을 수 있다. 이동 단말기(100)의 사용자가 프라이버시 기능의 적용할 대상(1101) 선택하는 하는 방법은 터치, 롱 터치, 더블 터치와 같은 다양한 제스처일 수 있다.
이동 단말기(100)의 제어부(180)는 프라이버시 기능의 적용할 대상(1101)에 프라이버시 기능을 제공할 수 있다.
도 11b와 같이 프라이버시 기능의 적용할 대상(1101)의 경우 대상의 얼굴을 흐리게 표시(1102)할 수 있으며, 프라이버시 기능의 적용할 대상(1101)을 제외한 대상은 프라이버시 기능을 적용하지 않을 수 있다.
이와 같이 본 발명의 일 실시 예에 의하면, 이동 단말기(100)의 제어부(180)는 프라이버시 기능을 선택적으로 적용할 수 있다. 따라서, 전방위 촬영 장치(200)로 전방위 영상을 촬영하는 경우 특정인물을 인식할 수 있어 특정인물을 제외하고 프라이버시 기능을 적용하는 효과를 얻을 수 있다.
도 12a 및 도 12b는 본 발명의 일 실시 예에 따라 전방위 영상의 편집 양식을 복사하는 방법을 설명하기 위한 도면이다.
일 실시 예에서, 이동 단말기(100)의 제어부(180)는 선택된 전방위 영상에 적용된 효과를 다른 전방위 영상에 적용할 수 있다.
도 12a 및 도 12b를 참조하면, 이동 단말기(100)의 사용자는 적용된 효과를 복사할 전방위 영상을 선택할 수 있다.
도 12a와 같이 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 복수의 전방위 영상의 섬네일 이미지를 표시할 수 있다. 이동 단말기(100)의 사용자는 섬네일 영상 중 하나를 선택할 수 있으며, 선택된 섬네일에 대응하는 전방위 영상에 적용된 효과를 복사하는 명령(1201)을 선택할 수 있다.
다음으로 도 12b와 같이, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 복수의 전방위 영상의 섬네일 이미지를 표시할 수 있다. 이동 단말기(100)의 사용자는 섬네일 영상 중 적어도 하나 이상을 선택할 수 있으며, 선택된 섬네일에 대응하는 전방위 영상에 동일한 효과를 적용할 수 있다.
예를 들어, 이동 단말기(100)의 사용자는 특정 전방위 영상에서 선택된 사람을 제외하고 프라이버시 기능을 적용하였으며, 이러한 효과를 복사한 경우 다른 전방위 영상에서도 동일한 사람을 제외하고 프라이버시 기능을 적용할 수 있다.
따라서, 이동 단말기(100)의 사용자는 보다 편리하게 복수의 전방위 영상에 동일한 효과를 적용할 수 있는 효과를 얻을 수 있다.
도 13a 도 13b는 본 발명의 일 실시 예에 따라 특정 제스처를 취한 사람을 선택하여 프라이버시 기능을 적용하는 방법을 설명하기 위한 도면이다.
일 실시 예에서 이동 단말기(100)의 제어부(180)는 전방위 영상에 촬영된 제스처를 분석하여 프라이버시 기능의 적용여부를 결정할 수 있다.
도 13a 도 13b를 참조하면, 이동 단말기(100)의 제어부(180)는 전방위 촬영장치(200)로 전방위 영상을 촬영하는 경우 촬영되는 사람의 제스처를 분석하여 프라이버시 기능을 적용할 수 있다.
예를 들어, 이동 단말기(100)의 제어부(180)는 특정 제스처를 취하는 사람을 인식하고, 인식된 사람에 프라이버시 효과를 적용할 수 있다. 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 프라이버시 효과를 적용할 수 있는 복수의 제스처(1301,1302,1303)을 표시할 수 있다. 또한, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 복수의 제스처(1301,1302,1303) 중 적어도 하나를 선택 받을 수 있다. 다음으로, 이동 단말기(100)의 제어부(180)는 선택된 제스처에 대응하는 제스처를 취하는 사람에 프라이버시 효과를 적용할 수 있다. 예로, 얼굴을 가리는 제스처(1301)가 선택된 경우 이동 단말기(100)의 제어부(180)는 전방위 영상에서 얼굴을 가리는 제스처를 취하는 사람을 인식하고, 인식된 사람을 얼굴을 흐리게 처리하는 등 프라이버시 기능을 적용할 수 있다.
다른 예를 들어, 이동 단말기(100)의 제어부(180)는 특정 제스처를 취하는 사람을 인식하고, 인식된 사람에 프라이버시 효과의 적용을 배제 할 수 있다. 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 프라이버시 효과를 적용할 수 있는 복수의 제스처(1301,1302,1303)을 표시할 수 있다. 또한, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 복수의 제스처(1301,1302,1303) 중 적어도 하나를 선택 받을 수 있다. 다음으로, 이동 단말기(100)의 제어부(180)는 선택된 제스처에 대응하는 제스처를 취하는 사람에 프라이버시 효과의 적용을 배제 할 수 있다. 예로, 손으로 V모양을 취하는 제스처를 취하는 제스처(1303)가 선택된 경우 이동 단말기(100)의 제어부(180)는 전방위 영상에서 손으로 V모양을 취하는 제스처를 취하는 제스처를 취하는 사람을 인식하고, 인식된 사람에 프라이버시 기능을 적용하는 것을 배제할 수 있다.
이와 같이 본 발명의 일 실시 예에 의하면, 이동 단말기(100)의 제어부(180)는 전방위 영상에 포함된 사람의 제스처를 인식하여 프라이버시기능의 적용여부를 결정할 수 있어, 보다 효율적으로 전방위 영상에 포함된 대상의 사생활을 보호할 수 있는 효과를 얻을 수 있다.
도 14a 및 도 14b는 본 발명의 일 실시 에데 따라 전방위 영상을 외부로 전송하는 경우 프라이버시 침해 방지 여부를 확인하는 메시지를 전송하는 방법을 설명하기 위한 도면이다.
일 실시 예에서, 이동 단말기(100)의 제어부(180)는 전방위 영상에 포함된 사람을 인식하여 전방위 영상을 SNS와 같은 공개된 플랫폼에 업로드하는 경우 포함된 사람에게 프라이버시 침해 방지 여부를 확인하는 메시지를 전송할 수 있다.
도 14a 및 도 14b를 참조하면, 이동 단말기(100)의 제어부(180)는 전방위 영상이 SNS와 같이 공개된 플랫폼으로 업로드(1401) 되는 것을 감지하는 경우 즉시 전방위 영상이 업로드 되는 것을 차단할 수 있다.
다음으로, 이동 단말기(100)의 제어부(180)는 전방위 영상에 포함된 사람을 분석하고, 분석된 사람의 연락처를 파악할 수 있다. 연락처를 이동 단말기(100)의 메모리(170)에 저장된 것일 수도 있으며, 다른 서버에 저장된 정보 일 수도 있다.
다음으로, 이동 단말기(100)의 제어부(180)는 연락처가 파악된 대상에게 전방위 영상이 영상이 공개된 플랫폼으로 업로드되어 사생활 침해의 우려가 있다는 메시지를 표시할 수 있으며, 자신의 얼굴이 공개되는 것에 대한 동의 여부를 물을 수 있다.
다음으로, 이동 단말기(100)의 제어부(180)는 메시지에 대한 응답을 수신한다. 메시지에 대한 응답에는 상술한 바와 같이 얼굴의 공개 여부에 대한 동의 여부를 포함할 수 있다.
다음으로, 이동 단말기(100)의 제어부(180)는 얼굴의 공개 여부에 대한 동의 여부에 따라서 프라이버시 기능의 적용여부를 결정하고, 결정에 따라서 전방위 영상을 후 처리할 수 있다.
따라서 본 발명의 일 실시 예에 따르면, 전방위 영상에 포함된 사람을 파악하여 각각에 대하여 사생활 보호에 대한 동의를 구할 수 있어 보다 효율적으로 전방위 촬영장치(200)로 촬영되는 전방위 영상의 사생활 보호의 문제를 해결할 수 있는 효과를 얻을 수 있다.
도 15a 내지 도 15c는 전방위 영상을 촬영하는 경우, 촬영 제한 영역을 제외한 영역을 촬영하는 방법을 설명하기 위한 도면이다.
일 실시 예에서, 이동 단말기(100)의 제어부(200)의 전방위 영상의 촬영 영에 촬영 제한 구역이 있는지 판단하고, 촬영 제한 구역이 전방위 영상에 포함되지 않게 하거나 보이지 않게 하는 효과를 적용할 수 있다.
도 15a 내지 도 15c 참조하면, 이동 단말기(100)의 제어부(180)는 위치정보 모듈(115)를 이용하여 위치를 파악하고, 촬영 제한 구역에 대한 정보를 포함하는 서버에 접속하여 전방위 영상이 촬영되는 위치가 촬영 제한 구역(1501)에 해당하는지 여부를 파악할 수 있다. 또한, 이동 단말기(100)의 제어부(180)는 촬영 제한 구역(1501)에 해당하는 경우 촬영 제한 구역(1501)에 해당하는 이미지(1502)를 삭제하거나 잘 보이지 않도록 하는 효과를 적용할 수 있다.
다른 실시 예에서, 이동 단말기(100)의 제어부(180)는 전방위 영상을 분석하여 촬영 제한 표시(1503) 또는 촬영 제한 구역임을 알리는 제스처(1504)를 인식하는 경우 그에 대응하는 지역을 촬영 제한 구역으로 인식할 수 있다. 따라서 촬영 제한 구역에 해당하는 이미지를 삭제하거나 잘 보이지 않도록 하는 효과를 적용할 수 있다.
따라서 본 발명의 일 실시 예에 의하면, 전방위 영상에 포함된 촬영 제한 구역의 이미지를 삭제하거나 보이지 않게 하는 효과를 부여하는 효과를 얻을 수 있다.
도 16a 내지 도 16c는 전방위 영상을 촬영하는 경우, 특정한 건물에 대한 정보를 표시하는 방법을 설명하기 위한 도면이다.
일 실시 예에서, 전방위 촬영 장치가 접근하지 못하는 지역에 대한 정보를 얻을 수 있는 경우 접근하지 못한 지역에 대한 이미지를 전방위 영상에 포함시킬 수 있다.
구체적으로, 도 16a 내지 도 16c를 참조하면, 다양한 이유로 접근할 수 없는 건물(1601)이 전방위 영상에 촬영된 경우, 건물(1601)을 포함하는 지도를 도 16b와 같이 얻을 수 있다. 이동 단말기(100)의 제어부(180)는 촬영된 지역에 대한 정보를 전방위 영상의 이미지 및 위치정보 모듈(115)을 통해 얻은 위치정보를 이용하여 얻을 수 있다.
이동 단말기(100)의 제어부(180)는 건물(1601)의 3차원 이미지(1605) 및 내부 이미지(1606)에 대한 정보를 포함하는 서버로부터 얻을 수 있다.
따라서, 이동 단말기(100)의 제어부(180)는 접근할 수 없는 건물에 대한 정보를 얻을 수 있으며 지도에서 건물(1601) 주변이 선택된 경우 건물(1601)에 대한 로드뷰를 제공할 수 있다. 또한, 이동 단말기(100)의 제어부(180)는 지도 또는 전방위 영상에서 접근할 수 없는 건물이 선택된 경우 건물의 내부(1606)를 디스플레이부(151)에 표시할 수 있다.
따라서, 전방위 촬영 장치(200)에 의해 직접촬영 되지 않는 건물에 대한 로드뷰 및 건물의 내부 구조를 볼 수 있는 효과를 얻을 수 있다.
도 17a 내지 도 17c는 본 발명의 일 실시 예에 따라 전방위 영상을 이용하여 지도를 생성하고, 지도상에서 로드뷰 영상을 표시하는 방법을 설명하기 위한 도면이다.
상술한 바와 같이 이동 단말기(100)의 사용자가 거리를 걸으며 전방위 영상을 촬영했을 경우, 동선 및 주변환경에 대한 지도를 생성할 수 있다. 지도를 포함하여 함께 전방위 영상과 함께 제공하는 경우 전방위 영상에서 원하는 위치의 로드뷰를 보고 싶을 때, 로드뷰에 표시된 시간바를 이용하여 이동 하는 경우 지도에 표시된 촬영 시간과 로드뷰에 표시된 시간을 비교하기 어려워서 원하는 위치로 이동하기 어려운 문제가 발생한다. 반대로 지도를 이용하여 전방위 영상을 검색하는 경우 정확한 시간으로 이동하기 어려운 문제가 발생한다.
따라서, 본원 발명의 일 실시 예에서는 지도에 표시되는 이동 경로와 로드뷰에 표시되는 시간 정보에 시간에 흐름에 따라 색상이 변경되는 효과를 적용하여 지도에 표시되는 이동 경로와 로드뷰에 표시되는 시간 정보를 직관적으로 비교할 수 있게 한다.
도 17a 내지 도 17c를 참조하면, 일 실시 예에서 이동 단말기(100)의 제어부(180)는 전방위 영상을 이용하여 지도를 생성할 수 있다. 이는 도 5a 내지 도 5e를 참조하여 설명한 것과 동일하다.
이동 단말기(100)의 제어부(180)는 이동 경로(1701)를 전방위 영상이 촬영된 시점에 대응하는 복수의 색상으로 표시할 수 있다.
예를 들어, 전방위 영상의 촬영 시작 시점에 이동 단말기(100)가 이동 경로(1701) 상의 제1 영역에 위치한 경우, 제1 영역은 붉은 색으로 표시될 수 있다.
또한 전방위 영상의 촬영을 시작하고 2분이 경과한 시점에 이동 단말기(100)가 이동 경로(1701) 상의 제2 영역(1702)에 위치한 경우, 제2 영역은 노란색으로 표시될 수 있다.
또한 전방위 영상의 촬영을 시작하고 4분이 경과한 시점에 이동 단말기(100)가 이동 경로(1701) 상의 제3 영역(1703)에 위치한 경우, 제3 영역은 파란색으로 표시될 수 있다.
이러한 방식으로, 이동 경로는 빨간색, 주황색, 노란색, 초록색, 파란색, 남색, 보라색 등으로 표시될 수 있다. 다만 일 실시 예에서, 색상은 자연스럽게 연속적으로 변경될 수 있다.
한편, 이동 경로(1701) 중 특정 영역을 선택하는 입력이 수신되면, 제어부(180)는 선택된 영역에 대응하는 시점의 전방위 영상을 디스플레이 할 수 있다.
예를 들어, 이동 경로(1701) 중 제3 영역을 선택하는 입력이 수신되면, 제어부(180)는 전방위 영상의 촬영을 시작하고 4분이 경과한 시점의 전방위 영상을 디스플레이 할 수 있다.
한편, 이동 단말기(100)의 제어부(180)는 로드뷰로 영상을 표시(1712,1713)하는 경우 하단에 촬영을 시작하고 경과한 시간을 나타내는 UI를 디스플레이 할 수 있다. 여기서 촬영을 시작하고 경과한 시간을 나타내는 UI는 프로그레시브 바(1732)일 수 있다.
이 경우 제어부(180)는 프로그레시브 바(1732)를 전방위 영상이 촬영된 시점에 대응하는 복수의 색상으로 표시할 수 있다.
예를 들어 제어부(180)는, 프로그레시브 바(1732)의 전체 영역 중, 전방위 영상의 촬영을 시작하고 2분이 경과한 시점에 대응하는 영역을 노란색으로 표시할 수 있다.
또한 제어부(180)는, 프로그레시브 바(1732)의 전체 영역 중, 전방위 영상의 촬영을 시작하고 4분이 경과한 시점에 대응하는 영역(1722)을 파란색으로 표시할 수 있다.
이러한 방식으로, 프로그레시브 바(1732)는 빨간색, 주황색, 노란색, 초록색, 파란색, 남색, 보라색 등으로 표시될 수 있다. 다만 일 실시 예에서, 색상은 자연스럽게 연속적으로 변경될 수 있다.
한편 제어부(180)는 특정 시점에 대응하는 이동 경로(1701) 상의 특정 영역과, 특정 시점에 대응하는 프로그레시브 바(1732) 상의 특정 영역을 동일한 색상으로 디스플레이 할 수 있다.
예를 들어, 촬영을 시작하고 4분이 경과한 시점에 대응하는 이동 경로(1701) 상의 영역(1703)과, 촬영을 시작하고 4분이 경과한 시점에 대응하는 프로그레시브 바(1732) 상의 영역(1722)는 동일한 색상으로 표시될 수 있다.
한편 지도상에서 제2 영역(1702)이 선택되는 경우, 이동 단말기(100)의 제어부(180)는 제2 영역(1702)에 대응하는 시점의 로드뷰 영상(1712)를 디스플레이 할 수 있다. 또한, 지도상에서 제3 영역(1703)이 선택되는 경우 이동 단말기(100)의 제어부(180)는 제3 영역(1703)에 대응하는 시점의 로드뷰 영상(1713)을 표시할 수 있다.
따라서, 지도상에 표시된 이동 경로를 시간의 흐름에 따라 색상이 변하는 선으로 표시하고, 로드뷰에 표시되는 촬영 시간에 대한 정보를 시간의 흐름에 따라 색상이 변하는 선으로 표시하고, 지도와 로드뷰에 표시되는 시간의 흐름에 따른 색상은 동일 시간을 동일한 색상으로 표시하여 사용자가 직관적으로 전방위 영상의 위치와 시간을 비교할 수 있는 장점을 얻을 수 있다.
한편, 먼저 지도상에서 특정 영역이 선택된 후, 특정 영역에 대응하는 시점의 전방위 영상이 표시되는 것으로 설명하였으나 이에 한정되지 않는다.
구체적으로, 전방위 영상이 디스플레이 되는 중, 전방위 영상의 시점에 대응하는 위치가 지도 상에 표시되는 방식으로 구현될 수 있다.
예를 들어, 전방위 영상의 촬영을 시작하고 4분이 경과한 시점의 영상이 디스플레이 되고 있는 경우, 제어부(180)는 전방위 영상의 촬영을 시작하고 4분이 경과한 시점의 이동 단말기(100)의 위치를 지도 상에 디스플레이 할 수 있다.
도 18a 내지 도 18c는 전방위 영상을 재생하는 경우, 특정 위치를 가리키는 제스처를 인식하여 그에 대응하는 영상을 표시하는 방법을 설명하기 위한 도면이다.
일 실시 예에서, 이동 단말기(100)의 제어부(180)는 전방위 영상에 포함되는 사람의 제스처를 이용하여 재생되는 전방위 영상을 제어할 수 있다.
도 18a 내지 도 18c를 참조하면, 도 18a와 같이 전방위 영상에 포함된 사람이 특정 위치를 가리키는 제스처(1801)를 취하는 경우, 이동 단말기(100)의 제어부(180)는 전방위 영상에 포함된 사람이 특정 위치를 가리키는 제스처(1801)를 인식할 수 있다.
다음으로, 이동 단말기(100)의 제어부(180)는 전방위 영상이 재생 시 전방위 영상에 포함된 사람이 특정 위치를 가리키는 제스처(1801)가 가리키는 방향으로 전방위 영상의 표시되는 영역을 변경할 수 있다. 즉, 전방위 영상에 포함된 사람이 특정 위치를 가리키는 제스처(1801)가 가리키는 방향으로 전방위 영상 중 디스플레이부(151)에 표시되는 영역을 변경할 수 있다. 따라서, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 제스처에 대응하는 영상(1802)이 표시되게 제어할 수 있다.
다른 실시 예에서, 이동 단말기(100)의 제어부(180)는 전방위 영상에 포함된 사람이 특정 위치를 가리키는 제스처(1801)를 인식할 수 있다.
다음으로, 이동 단말기(100)의 제어부(180)는 전방위 영상이 재생 시 전방위 영상에 포함된 사람이 특정 위치를 가리키는 제스처(1801)가 가리키는 방향의 영상을 디스플레이부의 일부에 표시할 수 있다. 즉, 전방위 영상에 포함된 사람이 특정 위치를 가리키는 제스처(1801)가 가리키는 방향의 영상을 전방위 영상 중 디스플레이부(151)의 일부 영역에 표시되게 할 수 있다. 따라서, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)의 일부 영역(1803)에 제스처에 대응하는 영상이 표시되게 제어할 수 있다.
도 19a 및 도 19b는 전방위 영상을 재생하는 경우, 선택된 대상을 추적하여 표시하는 방법을 설명하는 도면이다.
일 실시 예에서, 이동 단말기(100)의 제어부(180)는 선택된 객체를 추적하여 전방위 영상에서 디스플레이부(151)에 표시되는 영상의 뷰를 변경할 수 있다.
도 19a 및 도 19b를 참조하면, 이동 단말기(100)의 제어부(180)는 디스플레이부(151)에 표시되는 전방위 영상에서 특정 대상을 선택 받을 수 있다. 예를 들어, 이동 단말기(100)의 사용자는 추적대상(1901)을 선택하는 제스처를 입력할 수 있다. 이러한 제스처가 입력되면, 이동 단말기(100)의 제어부(180)는 선택된 대상을 추적대상(1901)로 지정할 수 있다.
다음으로, 이동 단말기(100)의 제어부(180)는 전방위 영상을 재생 시 추적대상(1901)의 디스플레이부(151)에 표시되게 전방위 영상의 뷰를 변경할 수 있다. 도 19b와 같이 추적대상(1901)이 이동 하는 경우 이동 단말기(100)의 제어부(180)는 전방위 영상의 뷰를 변경하여 추적대상(1902, 1903, 1904, 1905, 1906, 1907)이 디스플레이부(151)에 표시되게 제어할 수 있다.
따라서, 본 발명의 일 실시 예에 따르면 이동 단말기(100)의 사용자가 보다 용이하여 전방위 영상을 재생할 수 있는 효과를 얻을 수 있다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 단말기의 제어부(180)를 포함할 수도 있다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

Claims (20)

  1. 이동 단말기에 있어서,
    전방위 영상을 촬영하는 전방위 촬영 장치와 통신을 수행하는 통신부;
    상기 전방위 촬영 장치로부터 수신된 전방위 영상을 표시하는 디스플레이부; 및
    상기 전방위 촬영 장치의 촬영 방법을 설정하기 위한 요청을 수신하고, 상기 수신된 요청에 응답하여, 상기 전방위 영상의 촬영 방법을 설정하는 제어부를 포함하는 이동 단말기.
  2. 제1 항에 있어서,
    상기 통신부는,
    상기 이동 단말기의 위치에 대한 정보를 획득하고,
    상기 제어부는
    상기 전방위 영상 및 상기 이동 단말기의 위치를 이용하여 상기 전방위 영상이 촬영된 지역의 지도를 표시하고,
    상기 지도는, 상기 이동 단말기가 이동한 경로를 포함하는 이동 단말기.
  3. 제2 항에 있어서,
    상기 제어부는,
    상기 이동 단말기가 이동한 경로의 일 영역을 선택하는 입력이 수신되면, 상기 일 역에 대응하는 위치의 로드뷰를 상기 디스플레이부에 표시하는 이동 단말기.
  4. 제3 항에 있어서,
    상기 로드뷰는 촬영 시간을 나타내는 프로그레시브 바를 포함하고,
    상기 제어부는.
    상기 이동 경로를 상기 전방위 영상이 촬영된 시점에 대응하는 복수의 색상으로 표시하고,
    상기 프로그레시브 바를 상기 전방위 영상이 촬영된 시점에 대응하는 복수의 색상으로 표시하고,
    특정 시점에 대응하는 상기 이동 경로 상의 영역과, 상기 특정 시점에 대응하는 상기 프로그레시브 바 상의 영역은 동일한 색상으로 표시되는 이동 단말기
  5. 제3 항에 있어서,
    상기 제어부는
    상기 지도정보 상의 상기 이동 단말기가 이동한 경로에 제스처가 입력되면 상기 이동한 경로를 수정하고,
    상기 수정된 경로에 대응하는 로드뷰를 제공하는 이동 단말기.
  6. 제3 항에 있어서,
    상기 제어부는
    상기 지도 상에서 고정 객체를 선택하는 입력을 수신하고, 상기 선택된 고정 객체에 대응하는 로드뷰를 디스플레이 하고,
    상기 고정 객체는 미리 정해진 구도로 표시되는 이동 단말기.
  7. 제1 항에 있어서,
    상기 제어부는
    상기 전방위 영상 내의 장애물을 감지하고,
    복수의 위치의 전방위 영상을 합성하여 상기 장애물이 제거된 전방위 영상을 생성하는 이동 단말기.
  8. 제1 항에 있어서,
    상기 제어부는
    상기 전방위 영상 내의 오브젝트에 대하여 프라이버시 기능을 적용한 영상을 디스플레이 하고,
    상기 프라이버시 기능은, 상기 오브젝트의 일부 또는 전부가 흐리게 표시되는 기능인 이동 단말기.
  9. 제8 항에 있어서,
    상기 제어부는
    상기 오브젝트를 선택하는 입력에 기초하여, 상기 프라이버시 기능의 적용 여부를 결정하는 이동 단말기.
  10. 제8 항에 있어서,
    상기 오브젝트는 사람이고,
    상기 제어부는
    상기 사람의 제스처에 기초하여, 상기 프라이버시 기능의 적용 여부를 결정하는 이동 단말기.
  11. 이동 단말기의 동작 방법에 있어서,
    전방위 영상을 전방위 촬영 장치로부터 수신하는 단계;
    상기 수신된 전방위 영상을 표시하는 단계;
    상기 전방위 촬영 장치의 촬영 방법을 설정하기 위한 요청을 수신하는 단계; 및
    상기 수신된 요청에 응답하여, 상기 전방위 영상의 촬영 방법을 설정하는 단계를 포함하는 이동 단말기의 동작 방법.
  12. 제11 항에 있어서,
    상기 이동 단말기의 위치에 대한 정보를 획득하는 단계; 및
    상기 전방위 영상 및 상기 이동 단말기의 위치를 이용하여 상기 전방위 영상이 촬영된 지역의 지도를 표시하는 단계를 더 포함하고,
    상기 지도는, 상기 이동 단말기가 이동한 경로를 포함하는 이동 단말기의 동작 방법.
  13. 제12 항에 있어서,
    상기 이동 단말기가 이동한 경로의 일 영역을 선택하는 입력이 수신되면, 상기 일 역에 대응하는 위치의 로드뷰를 표시하는 단계를 더 포함하는 이동 단말기의 동작 방법.
  14. 제13 항에 있어서,
    상기 로드뷰는 촬영 시간을 나타내는 프로그레시브 바를 포함하고,
    상기 지도를 표시하는 단계는,
    상기 이동 경로를 상기 전방위 영상이 촬영된 시점에 대응하는 복수의 색상으로 표시하는 단계; 및
    상기 프로그레시브 바를 상기 전방위 영상이 촬영된 시점에 대응하는 복수의 색상으로 표시하는 단계를 포함하고,
    특정 시점에 대응하는 상기 이동 경로 상의 영역과, 상기 특정 시점에 대응하는 상기 프로그레시브 바 상의 영역은 동일한 색상으로 표시되는 이동 단말기의 동작 방법.
  15. 제13 항에 있어서,
    상기 지도정보 상의 상기 이동 단말기가 이동한 경로에 제스처가 입력되면 상기 이동한 경로를 수정하는 단계; 및
    상기 수정된 경로에 대응하는 로드뷰를 제공하는 단계를 더 포함하는 이동 단말기의 동작 방법.
  16. 제13 항에 있어서,
    상기 지도 상에서 고정 객체를 선택하는 입력을 수신하고, 상기 선택된 고정 객체에 대응하는 로드뷰를 표시하고,
    상기 고정 객체는 미리 정해진 구도로 표시되는 이동 단말기의 동작 방법.
  17. 제11 항에 있어서,
    상기 전방위 영상 내의 장애물을 감지하는 단계; 및
    복수의 위치의 전방위 영상을 합성하여 상기 장애물이 제거된 전방위 영상을 생성하는 단계를 더 포함하는 이동 단말기의 동작 방법.
  18. 제11 항에 있어서,
    상기 전방위 영상 내의 오브젝트에 대하여 프라이버시 기능을 적용한 영상을 디스플레이 하는 단계를 더 포함하고,
    상기 프라이버시 기능은, 상기 오브젝트의 일부 또는 전부가 흐리게 표시되는 기능인 이동 단말기의 동작 방법.
  19. 제18 항에 있어서,
    상기 프라이버시 기능을 적용한 영상을 디스플레이 하는 단계는,
    상기 오브젝트를 선택하는 입력에 기초하여, 상기 프라이버시 기능의 적용 여부를 결정하는 단계를 포함하는 이동 단말기의 동작 방법.
  20. 제11 항에 있어서,
    상기 오브젝트는 사람이고,
    상기 프라이버시 기능을 적용한 영상을 디스플레이 하는 단계는,
    상기 사람의 제스처에 기초하여, 상기 프라이버시 기능의 적용 여부를 결정하는 이동 단말기의 동작 방법.
PCT/KR2017/005775 2016-11-18 2017-06-02 이동 단말기 및 그의 동작 방법 WO2018093003A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020160154062A KR20180056166A (ko) 2016-11-18 2016-11-18 이동 단말기
KR10-2016-0154062 2016-11-18

Publications (1)

Publication Number Publication Date
WO2018093003A1 true WO2018093003A1 (ko) 2018-05-24

Family

ID=62146527

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/005775 WO2018093003A1 (ko) 2016-11-18 2017-06-02 이동 단말기 및 그의 동작 방법

Country Status (2)

Country Link
KR (1) KR20180056166A (ko)
WO (1) WO2018093003A1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102327688B1 (ko) * 2020-04-07 2021-11-17 (주)투게더앱스 부동산 이미지 처리 장치 및 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090031493A (ko) * 2007-09-22 2009-03-26 주식회사 케이엠더블유 이동통신 기지국 안테나를 이용한 영상 정보 제공 시스템및 방법
KR20100075315A (ko) * 2008-12-24 2010-07-02 엘지전자 주식회사 이동 단말기 및 이동 단말기의 위치기반서비스 제공방법
KR20120012259A (ko) * 2010-07-30 2012-02-09 주식회사 팬택 로드뷰 제공 장치 및 방법
KR20120059239A (ko) * 2010-11-30 2012-06-08 엘지전자 주식회사 이동 단말기 및 이동 단말기 실시간 로드뷰 공유방법
KR101358690B1 (ko) * 2009-06-03 2014-02-10 에스케이플래닛 주식회사 조회 대상 단말기 위치 지역 영상 정보 제공 시스템 및 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090031493A (ko) * 2007-09-22 2009-03-26 주식회사 케이엠더블유 이동통신 기지국 안테나를 이용한 영상 정보 제공 시스템및 방법
KR20100075315A (ko) * 2008-12-24 2010-07-02 엘지전자 주식회사 이동 단말기 및 이동 단말기의 위치기반서비스 제공방법
KR101358690B1 (ko) * 2009-06-03 2014-02-10 에스케이플래닛 주식회사 조회 대상 단말기 위치 지역 영상 정보 제공 시스템 및 방법
KR20120012259A (ko) * 2010-07-30 2012-02-09 주식회사 팬택 로드뷰 제공 장치 및 방법
KR20120059239A (ko) * 2010-11-30 2012-06-08 엘지전자 주식회사 이동 단말기 및 이동 단말기 실시간 로드뷰 공유방법

Also Published As

Publication number Publication date
KR20180056166A (ko) 2018-05-28

Similar Documents

Publication Publication Date Title
WO2018034396A1 (ko) 이동 단말기 및 그의 동작 방법
WO2016195160A1 (ko) 이동 단말기
WO2016108342A1 (en) Mobile device and method for controlling the same
WO2017073811A1 (ko) 이동 단말기 및 그의 동작 방법
WO2017022931A1 (ko) 이동단말기 및 그 제어방법
WO2016047863A1 (ko) 모바일 디바이스, hmd 및 시스템
WO2016190499A1 (en) Watch-type mobile terminal and method of controlling therefor
WO2017018579A1 (ko) 이동단말기 및 그 제어방법
WO2017131261A1 (ko) 모바일 디바이스 및 그 제어 방법
WO2018084351A1 (ko) 이동단말기 및 그 제어방법
WO2017026604A1 (en) Mobile terminal and method for controlling the same
WO2016017874A1 (en) Mobile terminal controlled by at least one touch and method of controlling therefor
WO2018093002A1 (ko) 이동 단말기 및 그 제어 방법
WO2018199379A1 (ko) 인공 지능 기기
WO2016195178A1 (en) Mobile terminal and method of controlling therefor
WO2015108241A1 (ko) 안경형 단말기 및 안경형 단말기와 사이니지를 포함하는 시스템
WO2018044015A1 (ko) 공항용 로봇, 그의 서비스 제공 방법을 수행하는 프로그램이 기록된 기록 매체, 및 그와 연결되는 이동 단말기
WO2018030623A1 (en) Mobile terminal and method of operating the same
WO2018056532A2 (en) Mobile terminal and controlling method thereof
WO2018164301A1 (ko) 이동 단말기
WO2018030622A1 (en) Mobile terminal and operating method thereof
WO2015147413A1 (en) Mobile terminal and method for controlling the same
WO2017007050A1 (ko) 모바일 디바이스 및 그 제어 방법
WO2016032062A1 (en) Mobile terminal and control method thereof
WO2017003084A1 (ko) 이동 단말기 및 그 제어 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17872375

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17872375

Country of ref document: EP

Kind code of ref document: A1