WO2018128414A1 - 뷰 벡터별 다른 렌더링 품질을 갖는 영상을 생성하는 전자 장치 - Google Patents

뷰 벡터별 다른 렌더링 품질을 갖는 영상을 생성하는 전자 장치 Download PDF

Info

Publication number
WO2018128414A1
WO2018128414A1 PCT/KR2018/000176 KR2018000176W WO2018128414A1 WO 2018128414 A1 WO2018128414 A1 WO 2018128414A1 KR 2018000176 W KR2018000176 W KR 2018000176W WO 2018128414 A1 WO2018128414 A1 WO 2018128414A1
Authority
WO
WIPO (PCT)
Prior art keywords
electronic device
image
processor
rendering
virtual
Prior art date
Application number
PCT/KR2018/000176
Other languages
English (en)
French (fr)
Inventor
김민정
이요한
정철호
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US16/476,039 priority Critical patent/US10930056B2/en
Publication of WO2018128414A1 publication Critical patent/WO2018128414A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—3D [Three Dimensional] image rendering
    • G06T15/10—Geometric effects
    • G06T15/20—Perspective computation
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—3D [Three Dimensional] image rendering
    • G06T15/005—General purpose rendering architectures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/285—Analysis of motion using a sequence of stereo image pairs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80—Responding to QoS
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/40—Network security protocols
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265—Mixing
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G06T2207/20221—Image fusion; Image merging

Definitions

  • Embodiments disclosed in this document relate to an electronic device that generates an image having a different rendering quality for each view vector.
  • the content generation server may generate a screen (ie, render) by constructing a 3D graphics world and placing a virtual camera at a location within the 3D graphics world through a 3D application and a 3D graphics library.
  • the content generation server delivers the rendered screen to the content playback device.
  • 3D graphics worlds can be viewed using 360-degree content (e.g., in all directions (front, back, left, right, top, bottom) relative to a point using existing technology.
  • 360-degree content e.g., in all directions (front, back, left, right, top, bottom) relative to a point using existing technology.
  • images from various viewpoints must be rendered from one location and synthesized into one screen content.
  • the 360 degree content may be an image and / or video content further including an image of an adjacent scene not displayed on the screen in addition to the image to be displayed on the screen.
  • an image that is not displayed on the screen may be displayed on the screen according to a user's manipulation of the content (for example, a head movement of the head mounted device user).
  • the 360 degree content may not be an image including 360 degree omnidirectional.
  • the image may include a somewhat narrower range than 360 such as 180 degrees and 270 degrees to the left and right.
  • the 360-degree content generation server needs to render images from various viewpoints, a large amount of computation is required for rendering. For example, when multiple users use 360-degree content on a game server, the rendering calculation amount increases, which causes a load on the server, making it difficult to render in real time.
  • Various embodiments of the present disclosure may efficiently render an omnidirectional image of 3D 360-degree content by varying the rendering quality of the image for each view vector.
  • An electronic device includes at least one processor, wherein the at least one processor corresponds to a plurality of view vectors associated with one point in a virtual three-dimensional space. Generating a plurality of images, setting at least one image of the plurality of images to a higher quality than the remaining images, and synthesizing the plurality of images including the at least one image.
  • an electronic device may include a display, at least one sensor for obtaining gaze information of a user corresponding to the electronic device, and the display and the at least one sensor. And at least one processor, wherein the at least one processor generates a plurality of images corresponding to a plurality of view vectors associated with one point in a virtual three-dimensional space, and generates the plurality of images based on the gaze information. At least one of the images may be set to a higher quality than the rest of the image, to synthesize the plurality of images including the at least one image, and to display the synthesized image on the display.
  • the storage medium when the storage medium is executed by an electronic device that transmits an image to an external electronic device, causes the electronic device to be associated with a point in a virtual three-dimensional space. Setting a plurality of rendering regions corresponding to the view vectors having a plurality of view vectors, generating an image, and rendering a rendering quality image of at least one of the plurality of rendering regions generated among the plurality of rendering regions.
  • An operation for may include instructions that to perform.
  • the images may be efficiently rendered.
  • the rendering is efficient, the image data size can be reduced, and the time required for image streaming can be reduced.
  • FIG. 1 is a block diagram illustrating a server providing an image and a user terminal displaying an image according to various embodiments of the present disclosure.
  • FIG. 2 is a block diagram illustrating a server providing an image and a software module in a user terminal displaying an image according to various embodiments of the present disclosure.
  • FIG. 3 is a diagram illustrating four virtual cameras disposed in a virtual three-dimensional space according to an embodiment of the present invention.
  • FIG. 4 is a diagram illustrating three virtual cameras disposed in a virtual three-dimensional space according to one embodiment of the present invention.
  • FIG. 5 is a diagram illustrating two virtual cameras disposed in a virtual three-dimensional space according to an embodiment of the present invention.
  • 6A is a diagram illustrating a case in which a gaze direction of a user coincides with a view vector direction of a virtual camera in a virtual three-dimensional space according to an embodiment of the present invention.
  • 6B is a diagram illustrating a case in which a gaze direction of a user does not coincide with a view vector direction of a virtual camera in a virtual three-dimensional space, according to an exemplary embodiment.
  • FIG. 7 is a diagram illustrating an object selected and input by a user in a virtual three-dimensional space and a point where a sound is generated in the virtual three-dimensional space according to an embodiment of the present invention.
  • FIG. 8A illustrates a direction in which a virtual camera moves in a virtual three-dimensional space according to an embodiment of the present invention.
  • FIG. 8B is a view illustrating that a view frustum is adjusted based on a moving direction of a virtual camera in a virtual three-dimensional space according to an embodiment of the present invention.
  • FIG. 9 is a flowchart illustrating a method of synthesizing an image and transmitting the synthesized image to a user terminal according to an embodiment of the present invention.
  • FIG. 10 is a flowchart illustrating a method of changing a rendering quality of a rendering area and synthesizing an image according to an embodiment of the present disclosure.
  • FIG. 11 is a flowchart illustrating that a server generates an image based on eye gaze information of a user and transmits the image to a user terminal according to an embodiment of the present invention.
  • FIG. 12 is a view illustrating an electronic device in a network environment according to various embodiments of the present disclosure.
  • FIG. 13 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 14 is a block diagram of a program module according to various embodiments of the present disclosure.
  • expressions such as “have”, “may have”, “include”, or “may contain” include the presence of a corresponding feature (e.g., numerical, functional, operational, or component such as a component). Does not exclude the presence of additional features.
  • expressions such as “A or B”, “at least one of A or / and B”, or “one or more of A or / and B” may include all possible combinations of items listed together.
  • “A or B”, “at least one of A and B”, or “at least one of A or B” includes (1) at least one A, (2) at least one B, Or (3) both of cases including at least one A and at least one B.
  • first,” “second,” “first,” or “second,” as used herein may modify various components, regardless of order and / or importance, and may modify one component to another. It is used to distinguish a component and does not limit the components.
  • the first user device and the second user device may represent different user devices regardless of the order or importance.
  • the first component may be called a second component, and similarly, the second component may be renamed to the first component.
  • One component (such as a first component) is "(functionally or communicatively) coupled with / to" to another component (such as a second component) or " When referred to as “connected to”, it should be understood that any component may be directly connected to the other component or may be connected through another component (eg, a third component).
  • a component e.g., a first component
  • another component e.g., a second component
  • the expression “configured to” used in this document is, for example, “suitable for”, “having the capacity to” depending on the situation. It may be used interchangeably with “designed to”, “adapted to”, “made to”, or “capable of”.
  • the term “configured to” may not necessarily mean only “specifically designed to” in hardware. Instead, in some situations, the expression “device configured to” may mean that the device “can” along with other devices or components.
  • the phrase “processor configured (or set up) to perform A, B, and C” may execute a dedicated processor (eg, an embedded processor) to perform the operation, or one or more software programs stored in a memory device. By doing so, it may mean a general-purpose processor (for example, a CPU or an application processor) capable of performing the corresponding operations.
  • An electronic device may include, for example, a smartphone, a tablet personal computer, a mobile phone, a video phone, an e-book reader, Desktop PCs, laptop PCs, netbook computers, workstations, servers, personal digital assistants, portable multimedia players, MP3 players, mobile medical devices, It may include at least one of a camera or a wearable device.
  • a wearable device may be an accessory type (for example, a watch, a ring, a bracelet, an anklet, a necklace, glasses, a contact lens, or a head-mounted-device (HMD)), a fabric, or a clothing type (for example, it may include at least one of an electronic garment, a body attachment type (eg, a skin pad or a tattoo), or a living implantable type (eg, an implantable circuit).
  • HMD head-mounted-device
  • the electronic device may be a home appliance.
  • Home appliances are, for example, televisions, digital video disk players, audio, refrigerators, air conditioners, cleaners, ovens, microwave ovens, washing machines, air cleaners, set-top boxes, home automation Home automation control panel, security control panel, TV box (e.g. Samsung HomeSync TM, Apple TV TM, or Google TV TM), game console (e.g. Xbox TM, PlayStation TM), electronics It may include at least one of a dictionary, an electronic key, a camcorder, or an electronic picture frame.
  • the electronic device may include various medical devices (eg, various portable medical measuring devices (such as blood glucose meters, heart rate monitors, blood pressure monitors, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Such as computed tomography (CT), imaging or ultrasound, navigation devices, satellite navigation systems (Global Navigation Satellite System), event data recorder (EDR), flight data recorder (FDR), automotive infotainment ) Devices, ship's electronic equipment (e.g. ship's navigational devices, gyro compasses, etc.), avionics, security devices, vehicle head units, industrial or home robots, automatic teller's machines (financial institutions) Point of sales, point of sales, or Internet of things (e.g. light bulbs, sensors, electricity or gas meters, sprinkler devices, fire alarms, thermostats, street lights, It may include at least one of (toaster), exercise equipment, hot water tank, heater, boiler.
  • MRA magnetic resonance angiography
  • MRI magnetic resonance imaging
  • CT computed
  • an electronic device may be a furniture or part of a building / structure, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (eg, Water, electricity, gas, or radio wave measuring instrument).
  • the electronic device may be one or a combination of the aforementioned various devices.
  • An electronic device according to an embodiment may be a flexible electronic device.
  • the electronic device according to an embodiment of the present disclosure is not limited to the above-described devices, and may include a new electronic device according to technology development.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • the server 110 generates an image of a user and transmits the image to the user terminal 120 and displays the image received by the user terminal 120 will be described.
  • FIG. 1 is a block diagram illustrating a server providing an image and a user terminal displaying an image according to various embodiments of the present disclosure.
  • the server 110 may include, for example, a memory 111, a communication circuit 112, at least one processor 113, and the like
  • the user terminal 120 may include an example.
  • at least one sensor 121, a user input circuit 122, a processor 123, a communication circuit 124, a display 125, a memory 126, and the like may be included.
  • the server 110 and the user terminal 120 may communicate with each other through the respective communication circuit (112, 124).
  • the components illustrated in FIG. 1 are not essential, the server 110 and the user terminal 120 having more or fewer components may be implemented.
  • the configuration of the server 110 according to an embodiment of the present invention will be described.
  • the memory 111 may store instructions or data related to at least one other component of the server 110.
  • the memory 111 may be configured by 3D computer graphics software, a 3D application program (eg, a 3D program such as a game or a movie) that renders a plurality of rendering screens in a virtual 3D space, and the 3D application program.
  • the rendered plurality of 2D image data may be stored.
  • the memory 111 may further include gaze information of a user that the communication circuit 112 receives from the user terminal 120.
  • the memory 111 may include selection input information about an object (or a specific location and / or a specific direction) included in the image.
  • the selection input information about the object may be generated by the 3D application program or based on the selection input obtained by the user input circuit 122 of the user terminal 120 to be described later.
  • the communication circuit 112 allows the server 110 to communicate with the user terminal 120.
  • the communication circuit 112 may obtain the gaze information of the user from the user terminal 120.
  • the communication circuit 112 may obtain sensing information for generating gaze information from the user terminal 120.
  • the communication circuit 112 may transmit the image generated by the processor 113 to the user terminal 120.
  • At least one processor 113 may be functionally connected to the memory 111 and the communication circuit 112, and may control overall operations of the server 110. For example, the at least one processor 113 generates (eg, renders) a plurality of images corresponding to a plurality of view vectors associated with one point in the virtual three-dimensional space, and generates the plurality of generated images. An image may be synthesized and the synthesized image may be transmitted to the user terminal 120 through the communication circuit 112.
  • the at least one processor 113 may render at least one rendering region of the plurality of rendering regions with higher quality than the remaining rendering regions. Detailed operations of the processor 113 rendering the rendering area will be described in detail below.
  • the processor 113 may synthesize the plurality of images into a single image by a method such as stitching.
  • the synthesized image may be a 360 degree image reproduced through a VR (Virtual Reality) device.
  • the processor 113 may set a size of a view frustum, a number of rendering light sources, a rendering shading setting, a resolution setting, a rendering texture resolution setting, and modeling data of at least one image generated with high quality. At least one of the level of detail may be different from the rest of the image. Details of the difference in rendering quality of the processor 113 will be described later.
  • processor 113 may be comprised of a CPU processor and / or a GPU processor.
  • the processor may be composed of a plurality of processors.
  • each of the plurality of images corresponding to the plurality of view vectors may be generated by each of the plurality of processors 113.
  • a plurality of images are generated in parallel.
  • the processor 113 may include a state of the server 110, a communication state between the server 110 and the user terminal 120, a state of the user terminal 120, a performance of the server 110, and a performance of the user terminal 120. Render at a quality determined based on at least one of the following.
  • the processor 113 may include a state of the electronic device (the server 110 or the user terminal 120) (for example, a state of the capacity of the processors 113 and 123, a capacity of the memory 111, 126, or the like). If the state, the battery state of the electronic device, the current consumption state, the heat generation state, etc. is good, the rendering quality of all the rendering regions are kept the same, and the state of the electronic device (server 110 or user terminal 120) is not good. Otherwise, rendering quality of at least one of the plurality of rendering regions may be degraded.
  • a state of the electronic device the server 110 or the user terminal 120
  • the processor 113 of the server 110 checks a round trip time (RTT) while connecting to or from the user terminal 120 to check the network state with the user terminal 120. You can check.
  • RTT round trip time
  • the processor 113 of the server 110 measures the number of data bits transmitted from a data queue transmitted to the user terminal 120 for a predetermined time to determine a network state with the user terminal 120. You can check.
  • the data queue may be a data queue managed by an application (eg, an application), or may be a communication data queue managed by a communication protocol layer (eg, a TCP protocol, etc.).
  • the processor 113 of the server 110 may set rendering quality of the plurality of rendering regions according to the checked network state. For example, if the network condition is not good (eg, when the RTT time is greater than or equal to the threshold value in the user terminal 120), the processor 113 of the server may include at least one rendering area (eg, a plurality of rendering areas). The scene corresponding to the movement direction of the virtual cameras) may be set as a rendering region to render high quality, and the remaining rendering regions may be rendered at low quality.
  • the network condition is not good (eg, when the RTT time is greater than or equal to the threshold value in the user terminal 120)
  • the processor 113 of the server may include at least one rendering area (eg, a plurality of rendering areas).
  • the scene corresponding to the movement direction of the virtual cameras) may be set as a rendering region to render high quality, and the remaining rendering regions may be rendered at low quality.
  • the at least one sensor 121 may acquire sensing information related to the gaze of the user.
  • the sensor 121 may display speed change information of the user terminal 120, tilt information of the user terminal 120, rotation rate information of the user terminal 120, and the user terminal 120 displayed on the display 125.
  • Information on the image or tracking information of the user's eyes may be acquired.
  • the at least one sensor 121 may include at least one of an acceleration sensor, a gyro sensor, a geomagnetic sensor, a magnetic sensor, a proximity sensor, a gesture sensor, a grip sensor, a biometric sensor, and an eye tracker.
  • the type of sensor 121 is not limited to this example.
  • the user input circuit 122 may obtain a selection input for an object in the virtual three-dimensional space from the user.
  • the user input circuit 122 may be an object displayed on the display 125 from the user (or a specific position or a specific vector (for example, a user's gaze direction or a view vector of the screen). It is possible to obtain a selection input for).
  • user terminal 120 may not include user input circuitry 122.
  • the processor 123 is functionally / electrically connected to the at least one sensor 121, the user input circuit 122, the communication circuit 124, the display 125 and the memory 126, and the overall of the user terminal 120. You can control the operation.
  • the processor 123 may generate gaze information based on the sensing information acquired by the sensor 121, and transmit gaze information to the server 110 through the communication circuit 124.
  • the processor 123 transmits information on the object selected and input to the server 110 through the communication circuit 124 based on the selection input for the object acquired by the user input circuit 122. Can be.
  • the processor 123 may display the image received through the communication circuit 124 on the display 125. That is, the processor 123 maps the received image onto the virtual three-dimensional space, displays the image by rendering a rendering area corresponding to the gaze of the user of the user terminal 120 (eg, the head movement of the user of the HMD device). (125).
  • the memory 126 may store instructions or data related to at least one other component of the user terminal 120.
  • the memory 126 may store a 3D application program (eg, a 3D viewer program) that renders an image in a virtual three-dimensional space using an image received from the server 110.
  • a 3D application program eg, a 3D viewer program
  • the server 110 generates an image
  • the user terminal 120 not only displays the image received from the server 110, but the user terminal 120 generates and displays the image by itself. It may be.
  • the processor 123 of the user terminal 120 may perform an operation of the processor 113 in FIG. 1, and the memory 126 may include the memory 111 in FIG. 1. Information can be stored.
  • the processor 123 of the user terminal 120 may generate a plurality of images corresponding to a plurality of view vectors associated with one point in the virtual three-dimensional space, and synthesize the plurality of generated images.
  • the processor 123 may render at least one rendering area of the plurality of rendering areas with a higher quality than the remaining rendering areas.
  • the memory 126 of the user terminal 120 may include 3D rendering instructions or data related to at least one other component of the user terminal 120, 3D computer graphics software, and a plurality of rendering screens in a virtual three-dimensional space.
  • An application program and a plurality of 2D image data rendered by the 3D application program may be stored.
  • the server 110 may generate an image and transmit the generated image to a second server (not shown).
  • the user terminal 120 may receive an image from the second server.
  • the server 110 may be an electronic device in the form of a user terminal (eg, a personal computer or a mobile device).
  • FIG. 2 is a block diagram illustrating a server providing an image and a software module in a user terminal displaying an image according to various embodiments of the present disclosure.
  • the server 210 includes a three-dimensional application 211, a three-dimensional rendering module 212, a plurality of two-dimensional scenes 213, an image synthesizing module 214, an encoding module 215, and network communication. Module 216 and the like.
  • the user terminal 220 includes a network communication module 221, a decoding module 222, a three-dimensional application 223, a three-dimensional rendering module 224, a two-dimensional scene 225, a display module 226, and a user input module. 227, and the like.
  • the three-dimensional application 211, the three-dimensional rendering module 212, the image synthesizing module 214, and the encoding module 215 of the server 210 may execute instructions or program codes stored in the memory 111 by the processor 113. It may be operated through implementation, and the network communication module 216 may be operated by the communication circuit 112.
  • the network communication module 221 may be implemented by the communication circuit 124, and the decoding module 222, the 3D application 223, and the 3D rendering module 224 may include a memory ( It may be operated through the execution of the instruction or program code stored in 111).
  • the display module 226 may correspond to the display 125, and the user input module 227 may correspond to the user input circuit 122.
  • the 3D application 211 of the server 210 may read (or receive) 3D modeling world data from a storage (or another electronic device) and load it into a memory.
  • the 3D application 211 may be a 3D movie or game application.
  • the 3D application 211 may execute 3D content such as a game or a movie to generate 360 degree content such as an image or a video that may be displayed through a display.
  • the 3D application 211 eg, 3D modeling world data
  • the 3D application 211 may generate 360 degree content based on the operation of the game player.
  • the reference point of the virtual camera which will be described later, may move according to an in-game character movement manipulation of the game player.
  • the rendering area to be rendered in high quality may be selected based on the gaze information of the game player or the direction of character movement according to the operation of the game player.
  • the 3D rendering module 212 may render a 3D modeling world, and may include a 3D graphics library (eg, openGL, openGL es, directX, etc.). According to various embodiments, the 3D application 211 or the 3D rendering module 212 may set each virtual camera to be rendered in parallel. For example, each of the plurality of processors 113 may be configured to render images corresponding to the plurality of virtual cameras.
  • a 3D graphics library eg, openGL, openGL es, directX, etc.
  • the plurality of two-dimensional scenes 213 are two-dimensional scene data rendered by the three-dimensional rendering module 212.
  • the number of two-dimensional scenes 213 is not limited to a specific number.
  • the resolution of each two-dimensional scene may be different.
  • a server that renders six scenes corresponding to the front, back, left, right, up, and down directions may have six two-dimensional scene data, and corresponds to the up and down directions among the six scenes.
  • the 2D scene may have a lower resolution than the rest of the 2D scene.
  • the image synthesizing module 214 may synthesize the 2D scenes into a single image (eg, a 360 degree image).
  • the composite data format may be a form that can be supported by the content playback apparatus (eg, the user terminal 120.
  • the image synthesizing module 214 may form a plurality of two-dimensional scenes in the form of a cube map.
  • the present invention may be synthesized into a 3D texture form used in a content reproducing apparatus such as an isquirectangular.
  • the encoding module 215 may compression encode the synthesized image into a specific format. Examples of formats encoded by the encoding module 215 include MP4-H.264, H.265, jpeg, HDMI, and DP (displayport) formats.
  • the network communication module 216 may be a wireless communication module such as 3G, 4G, or WIFI, and a wired communication module such as USB, HDMI, or DP.
  • the network communication module 216 may transmit the encoded data to the external electronic device.
  • the network communication module 221 of the user terminal 220 may be a wireless communication module such as 3G, 4G, or WIFI, and a wired communication module such as USB, HDMI, or DP.
  • the network communication module 221 may receive 360 degree content data from the server 210.
  • the decoding module 222 decompresses and decodes the received data to obtain an image synthesized by the image synthesizing module 215 of the server 210.
  • the acquired image can be used as a texture in a 3D application.
  • the 3D application 223 is a 360 degree content viewer that plays the received 360 degree content, and may be a 3D application including 3D modeling data of the 360 degree image viewer.
  • the 360-degree content viewer may render the 360-degree image based on the gaze information of the user who views the 360-degree image. That is, the above-described game player may affect an operation of generating 360 degree content, and a user viewing a 360 degree image may affect an operation of playing 360 content.
  • the three-dimensional application 223 may include, for example, world model data for playing 360-degree content, and place a virtual camera in the world model to render a view port for the user to view.
  • the 3D application 223 may texture (movie texture) 360 degree content synthesized in the world model. According to an embodiment, the 3D application 223 may perform stereo rendering using two virtual cameras.
  • the 3D application 223 may determine the configuration of the 360 degree world in response to the virtual camera number information (received from the server 210) and / or the quality information per scene included in the 360 degree content.
  • the virtual camera number information received from the server 210
  • the quality information per scene included in the 360 degree content may have.
  • different world models eg, sphere, cylinder, cubic, octa model, etc.
  • the 3D rendering module 224 is a rendering module that renders a 3D modeling world, and may include a 3D graphic library (eg, openGL, openGL es, directX, etc.).
  • a 3D graphic library eg, openGL, openGL es, directX, etc.
  • the 2D scene 225 may be output through the display module 226 as rendered 2D scene data.
  • the two-dimensional scene 225 may be distortion-compensated in response to lens distortion of the head mount display (HMD) and output to the display.
  • HMD head mount display
  • the display module 226 may output the 2D scene 225 as an internal or external display device of the user terminal 220.
  • the user input module 227 may include various sensors such as an acceleration sensor to sense a user's movement (eg, head tracking, position tracking, eye tracking, camera-based hand gesture recognition, and the like).
  • an acceleration sensor to sense a user's movement (eg, head tracking, position tracking, eye tracking, camera-based hand gesture recognition, and the like).
  • server 210 may not include image compositing module 214.
  • the server may transmit the plurality of two-dimensional scenes to the user terminal 220 through the network communication module 216.
  • the user terminal 220 may further include an image synthesizing module (not shown), and may combine the received 2D scenes into a 3D texture.
  • server 210 may not include an encoding module 215.
  • the server may transmit the plurality of 2D scenes 213 or the image synthesis module 214 to the user terminal 220 through the network communication module 216 without performing compression encoding.
  • the user terminal 220 may not include the decoding module 222.
  • FIG. 1 a detailed operation of generating an image by the processors 113 and 123 of the electronic device (server 110 or user terminal 120) shown in FIG. 1 will be described with reference to FIGS. 3 to 8B.
  • both the processor 113 of the server 110 and the processor 213 of the user terminal 120 illustrated in FIG. 1 are connected to a plurality of view vectors associated with one point in a virtual three-dimensional space. A plurality of corresponding images may be generated.
  • the processor 113 of the server 110 and the processor 213 of the user terminal 120 generate an image such that at least one image of the plurality of images is rendered at a higher quality than the remaining images, and at least A plurality of images including one image may be synthesized.
  • the processor 113 of the server 110 and the processor 213 of the user terminal illustrated in FIG. 1 will not be distinguished, and will be collectively described as 'processor'.
  • the processors 113 and 123 may generate a plurality of images corresponding to a plurality of view vectors associated with one point in the virtual three-dimensional space. For example, the processors 113 and 123 may set a plurality of rendering regions based on a virtual camera corresponding to a plurality of view vectors in a virtual three-dimensional space, and render a plurality of images based on the set rendering regions. can do.
  • FIG. 3 is a diagram illustrating four virtual cameras disposed in a virtual three-dimensional space 300 according to an exemplary embodiment.
  • the virtual three-dimensional space 300 eg, 3D modeling world
  • the three-dimensional Cartesian coordinate system eg, xyz coordinate system
  • the virtual three-dimensional space 300 includes various 3D model objects (eg, 331, etc.), and the position of at least one virtual camera is associated with one point in the virtual three-dimensional space for rendering at a specific point in time. Is defined.
  • the processors 113 and 123 are based on the virtual cameras 311, 312, 313, and 314 corresponding to four view vectors 311a, 312a, 313a, and 314a in the front, rear, left, and right directions in a virtual three-dimensional space.
  • a plurality of rendering regions 301, 302, 303, 304 are set.
  • the method of setting the virtual camera and the rendering area is a general technique in the 3D graphics field, and a detailed description thereof will be omitted.
  • the processor 113, 123 may move the four virtual cameras 311, 312, 313, and 314 a distance from the reference point (specific x, y, z coordinate reference point) as shown in FIG. 3.
  • all virtual cameras 311, 312, 313, and 314 may be positioned at the reference point.
  • the processors 113 and 123 may set respective rendering regions 301, 302, 303, and 304 corresponding to the plurality of virtual cameras 311, 312, 313, and 314.
  • the size of each rendering region for example, the size of each view frustum may be set differently.
  • Images of the objects 331 present in the rendering regions 301, 302, 303, 304 are shown in the planes 321, 322, 323, 324 shown in front of each of the virtual cameras 311, 312, 313, 314 of FIG. 3. ), Images of these objects may be rendered by the processors 113 and 123.
  • FIG. 4 is a diagram illustrating three virtual cameras disposed in a virtual three-dimensional space according to one embodiment of the present invention.
  • the processors 113 and 123 are configured based on the virtual cameras 411, 412, and 413 corresponding to the three view vectors 411a, 412a, and 413a in three directions in the virtual three-dimensional space 400.
  • the rendering areas 401, 402, and 403 are set.
  • the processor 113, 123 may not only place the three virtual cameras 411, 412, 413 a distance from the reference point as shown in FIG. 4, but also all the virtual cameras 411. , 412 and 413 may be positioned at the reference point.
  • the processor 113, 123 may set the rendering regions 401, 402, 403 of each of the plurality of virtual cameras, and although not shown in the drawing, each rendering region 401, 402, 403
  • the size, that is, the size of each view frustum may be set differently.
  • Images of the objects 431 present in the rendering regions 401, 402, 403 are enclosed in the planes 421, 422, 423 shown in front of each of the virtual cameras 411, 412, 413 of FIG. 4, and these objects ( The image of 531 may be rendered by the processor 113, 123.
  • FIG. 5 is a diagram illustrating two virtual cameras disposed in a virtual three-dimensional space according to an embodiment of the present invention.
  • the processors 113 and 123 are based on a plurality of virtual cameras 511 and 512 corresponding to two view vectors 511a and 512a in two directions opposite to each other in the virtual three-dimensional space 500. Rendering regions 501 and 502 are set.
  • the processors 113 and 123 may not only position the two virtual cameras 511 and 512 at the reference point, but may also be positioned at a distance from the reference point as shown in FIG. 5.
  • the processors 113 and 123 may be disposed at positions where all the virtual cameras 511 and 512 are moved by a predetermined offset in the xyz coordinate system. That is, the virtual cameras 511 and 512 may be located at different adjacent points.
  • the processors 113 and 123 may set the respective rendering regions 501 and 502 corresponding to the plurality of virtual cameras 511 and 512.
  • the size of each rendering area 501 and 502 for example, the size of each view frustum, may be set differently.
  • Images of objects 531 and the like present in the rendering regions 501 and 502 are bound to the planes 521 and 522 shown in front of each virtual camera of FIG. 5, and the images of these objects 531 are processors 113 and 123. Can be rendered by
  • Direction may be arbitrarily set (e.g., by a content manufacturer or content player), as well as a plurality of virtual cameras based on the gaze information of a user (e.g., a content player or a user of a 360 degree user terminal).
  • the view vector direction of one of the virtual cameras 311, 312, 313, 314, 411, 412, 413, 511, and 512 may be set to match the user's gaze direction.
  • the configuration of the plurality of cameras described with reference to FIGS. 3 to 5 may be changed according to the states of the electronic devices 110 and 120 and / or the network.
  • the processor 113 or 123 selects at least one rendering area based on the gaze information of the user, and selects at least one rendering area. It describes the operation of rendering with higher quality than the rest of the rendering area.
  • the information based on the processor 113 or 123 for selecting an image is not limited to the gaze information of the user.
  • the processor 113 of the server 110 illustrated in FIG. 1 may obtain eye gaze information of the user through the communication circuit 112, and the processors 113 and 123 of the user terminal 120 may use a sensor.
  • the user's gaze information may be acquired through 121.
  • the processors 113 and 123 may render a rendering area corresponding to the view vector having the smallest angle formed by the user's gaze direction among the view vectors. Can render at higher quality than the rest of the rendering area.
  • processors 113 and 123 may render not only a rendering region corresponding to the view vector having the smallest angle with the user's line of sight, but also a view vector having the second smallest angle with the user's line of sight among the view vectors. Regions can be rendered with higher quality than the rest of the image.
  • 6A is a diagram illustrating a case in which a gaze direction of a user coincides with a view vector direction of a virtual camera in a virtual three-dimensional space according to an embodiment of the present invention.
  • 6B is a diagram illustrating a case in which a gaze direction of a user does not coincide with a view vector direction of a virtual camera in a virtual three-dimensional space, according to an exemplary embodiment.
  • the processor 113 and 123 may correspond to one of a plurality of view vectors in a direction of a line of sight of the user included in the line of sight information of the user.
  • the user's gaze direction corresponds to the direction of the first view vector 611a of the virtual camera 611.
  • the view vector having the smallest angle formed with the user's eyeline direction among the plurality of view vectors is the first view vector 611a of the virtual camera 611.
  • the processors 113 and 123 select the virtual camera 611 corresponding to the first view vector 611a, and move the rendering region of the selected virtual camera 611 to the view vectors 612a, 613a, and 614a facing in different directions. Rendering is of higher quality than the rendering area of the corresponding virtual cameras 612, 613, 614. That is, the processors 113 and 123 may render the rendering area 601 corresponding to the selected virtual camera 611 with higher quality than the rendering areas 602, 603 and 604 of the remaining virtual cameras.
  • the view vector direction of any one of the plurality of virtual cameras 611, 612, 613, and 614 may be set to match the user's gaze direction based on the gaze information of the user. have.
  • the gaze direction of the user since the gaze direction of the user always corresponds to the view vector direction of any one of the virtual cameras, rendering of the virtual cameras in which the rendering area of the virtual camera corresponding to the view vector corresponding to the gaze direction of the user corresponds to another view vector It can be rendered with higher quality than the area.
  • the user's gaze direction is between the view vector direction 611a of the virtual camera 611 and the view vector direction 612a of the virtual camera 612.
  • the processor 113 or 123 selects the virtual camera corresponding to the view vector having the smallest angle between the user's line of sight among the view vectors, the user's line of sight and the view vector direction 611a of the virtual camera 611 Since the angle formed is smaller, the processors 113 and 123 select the virtual camera 611 corresponding to the view vector 611a, and the view vector 612a, which faces the rendering area of the selected virtual camera 611 in a different direction, Rendering may be performed with higher quality than the rendering area of the virtual cameras 612, 613, and 614 corresponding to 613a and 614a.
  • the processor 113, 123 may include a virtual camera 611 corresponding to the view vector 611a having the smallest angle between the view vectors 611a, 612a, 613a, and 614a in the direction of the user's eyeline, and Among the view vectors, a virtual camera 612 corresponding to the second smallest view vector 612a whose angle with the user's gaze direction is selected is selected, and the view vector facing the rendering regions of the selected virtual cameras 611 and 612 in different directions. It is possible to render with higher quality than the rendering area of the virtual cameras corresponding to 613a and 614a.
  • FIG. 6A and 6B illustrate selecting at least one rendering area based on the gaze information of the user, but according to various embodiments, the processor 113 and 123 may use virtual gaze information (eg, virtual space) in a virtual space.
  • virtual gaze information eg, virtual space
  • the remaining rendering area based on the gaze information of the 3D character), the direction of movement of the reference point of the plurality of virtual cameras, or a value preset in the 3D application 211 and 223 (eg, a value set at the time of content creation corresponding to the virtual position).
  • At least one rendering region can be selected for rendering with higher quality.
  • the processors 113 and 123 may select a rendering area corresponding to the view vector having the smallest angle formed with the movement direction of the reference point among the view vectors 611a, 612a, 613a, and 614a.
  • the processor 113 and 123 may be configured such that the angle formed by the movement direction of the reference point among the view vectors 611a, 612a, 613a, and 614a corresponds to the rendering area corresponding to the smallest view vector and the movement direction of the reference point among the view vectors.
  • the rendering area corresponding to the small view vector can be selected.
  • the processor 113 or 123 may select the rendering region based on the virtual gaze information in the virtual space, similarly to selecting the rendering region to be rendered with high quality based on the gaze information of the user.
  • the processors 113 and 123 may select an image based on at least two of eye gaze information of a user, virtual gaze information on a virtual space, a direction of movement of a reference point, and a value preset in a 3D application.
  • the processor 113 or 123 may select at least one rendering area based on selection input information about an object or at least one based on a sound of an image. An operation of selecting a rendering region and rendering the selected at least one rendering region with higher quality than the remaining rendering regions will be described.
  • the processors 113 and 123 of the server illustrated in FIG. 1 may obtain selection input information about an object 721 (or a specific location and / or time) in a virtual three-dimensional space.
  • the processors 113 and 123 may obtain input information about an object selected by the content creator or a specific location and / or time, and may be provided to the user through the user input circuit 122 of the user terminal 120.
  • the input information about the object selected by the user or the specific location may be obtained.
  • the 3D space may include a sound (eg, a 3D object 731 having a specific sound).
  • the processors 113 and 123 may render the rendering area of at least one virtual camera including the selected input object among the rendering areas of the plurality of virtual cameras with a higher quality than the rendering area of the other virtual cameras. Further, in one embodiment, the processor 113, 123 renders a rendering area of at least one virtual camera including sound (for example, an object or a position) among the plurality of virtual cameras in a higher quality than the rendering area of the other virtual cameras. can do.
  • FIG. 7 is a diagram illustrating an object selected and input by a user in a virtual three-dimensional space and a point where a sound is generated in the virtual three-dimensional space according to an embodiment of the present invention.
  • an object 721 selected and input from a user is included in a rendering area of the virtual camera 711 corresponding to the view vector 711a.
  • the processors 113 and 123 may select a rendering area including the selection input object 721 and render the image in a higher quality than the rendering area corresponding to the view vectors 712a, 713a, and 714a facing in different directions. That is, the processors 113 and 123 may render the rendering region 701 corresponding to the selected image with higher quality than the remaining rendering regions 702, 703 and 704.
  • an object having a sound 731 may be included in a rendering area of the virtual camera 711 corresponding to the view vector 711a.
  • the processors 113 and 123 may select a rendering area including the object having the sound 731 and render the image at a higher quality than the rendering area corresponding to the view vectors 712a, 713a, and 714a facing in different directions.
  • the processor 113 and 123 may include at least one rendering area based on a moving direction of reference points of a plurality of view vectors in a virtual three-dimensional space.
  • the operation of adjusting the size of the view frustum is described by an operation of rendering the selected at least one rendering area with a higher quality than the remaining rendering areas.
  • the information based on the processor 113 or 123 for selecting the rendering area is not limited to the moving direction of the reference point.
  • Reference points of the plurality of view vectors may move in the virtual three-dimensional space 800.
  • the reference points of the plurality of view vectors move, such that the plurality of virtual cameras 811, 812, 813, 814 move together in the virtual three-dimensional space 800.
  • the processors 113 and 123 select a rendering area corresponding to the view vector corresponding to the moving direction of the reference point in the virtual three-dimensional space 800 among the plurality of images, and render the selected rendering area corresponding to the remaining view vector. Can render at higher quality.
  • FIG. 8A illustrates a direction in which a virtual camera moves in a virtual three-dimensional space according to an embodiment of the present invention.
  • FIG. 8B is a view illustrating that a view frustum is adjusted based on a moving direction of a virtual camera in a virtual three-dimensional space according to an embodiment of the present invention.
  • a reference point of the plurality of view vectors moves in the direction of the view vector of the virtual camera 813 facing forward.
  • the reference point of the view vector may correspond to, for example, the position of the character disposed in the virtual three-dimensional space.
  • the character may mean a character controlled by the user (eg, the main character of the game).
  • the processors 113 and 123 correspond to a rendering region corresponding to the view vector of the forward facing virtual camera 813 corresponding to the direction in which the reference points of the plurality of view vectors move, and the view vectors of the rear facing virtual camera 811.
  • the rendering area may be selected, and the selected rendering area may be rendered in a higher quality than the rendering area corresponding to the view vector facing the other direction. That is, the processors 113 and 123 may render the selected 801 and 803 with higher quality than the remaining rendering areas 802 and 804.
  • the processor 113 or 123 may have a rendering frustum of the rendering regions 801 and 803 corresponding to the front virtual camera 813 and the rear virtual camera 811. , 804 may be set to be larger than the view frustum. If the view frustum is large, an object further away from the virtual camera may be included in the rendering area. Therefore, the rendering area having the larger view frustum may be rendered with higher quality than the rendering area having the smaller size of the view frustum. In various embodiments, the processors 113 and 123 may adjust the size of the rendering area by adjusting the distance of the near plane of the view frustum.
  • the rendering area corresponding to the movement direction of the reference vector of the view vector is a rendering area corresponding to the view vector corresponding to the movement direction
  • the processors 113 and 123 are the left virtual camera 812 or the right side.
  • the rendering regions 802 and 804 of the virtual camera 814 may be rendered with higher quality than the rendering regions of the front virtual camera 813 and the rear virtual camera 811.
  • the processors 113 and 123 select the rendering area based on the movement direction of the reference point, but the processors 113 and 123 use the gaze information of the user and the virtual gaze on the virtual space.
  • the rendering area may be selected based on information or a value preset for the 360 degree content.
  • the processors 113 and 123 may select a rendering area based on at least two of eye gaze information of a user, virtual gaze information on a virtual space, a direction of movement of a reference point, and a value preset to 360 degree content.
  • the processor may determine the rendering quality based on both the gaze information of the user and the moving direction of the reference point. For example, when the gaze direction of the user corresponds to the first view vector, and the gaze direction of the reference point corresponds to a second view vector that is different from the direction of the first view vector, the processor may determine that the virtual camera corresponds to the first direction. Both the rendering area and the rendering area of the virtual camera corresponding to the second direction may be rendered with higher quality than the rendering area of another virtual camera.
  • the processor may set the rendering regions of all virtual cameras to high quality, and may even differentiate between the rendering regions set to high quality.
  • the quality of at least one rendering area of the plurality of rendering areas may be predefined.
  • the rendering quality of the rendering area corresponding to the view vector horizontal to the xy plane of the virtual three-dimensional space, such as front, rear, left and right is set to high quality, and is perpendicular to the xy plane of the virtual three-dimensional space as above and below.
  • the rendering quality of the rendering area corresponding to the view vector may be set to low quality.
  • the 3D space may represent coordinates corresponding to front, rear, left, and right on the xz plane, and coordinates corresponding to up and down on the y axis.
  • a specific axis is not limited to a specific direction. Does not.)
  • the processor 113 or 123 may render a high quality rendering quality of at least one of the rendering regions corresponding to the plurality of virtual cameras when the designated time or the virtual camera is located at a predetermined position in the virtual three-dimensional space. Or it can be set to low quality.
  • the processors 113 and 123 may set an area in which the rendering area is not rendered.
  • the processors 113 and 123 may set the rendering area corresponding to the view in the up or down direction not to be rendered.
  • the processors 113 and 123 may replace areas that are not rendered with a specific color, an image, or a previously rendered image.
  • the processors 113 and 123 may not render some scenes during runtime.
  • the processor may include the performance state of the electronic devices 110, 120, and 210 (CPU / GPU capacity, heat generation, calculation amount, battery level, predetermined settings of the 3D content program, etc.), network communication state (eg, bandwidth). ) May not be rendered based on the state of the user terminal. For example, the rendering area corresponding to one direction among the images in the front, rear, left, right, up, and down directions may not be rendered.
  • the processors 113 and 123 may not render the rendering area of the virtual camera located behind the ROI of the user terminal.
  • the non-rendered image may be replaced with a specific color, an image, or a previously rendered image in the synthesis of the plurality of rendered images.
  • the processor 113 and 123 may include a state of the server 110, a communication state between the server 110 and the user terminal 120, or a user terminal 120 during runtime (ie, executing a 3D content program).
  • the number and positions of the virtual cameras can be adjusted based on the state of.
  • the processors 113 and 123 may render to four virtual cameras as shown in FIG. 3 and then render them with three cameras as shown in FIG. 4. That is, the processors 113 and 123 may change the area setting (eg, view frustum setting) of each virtual camera.
  • the processors 113 and 123 may adjust the number and positions of the virtual cameras according to the performance state and / or network communication state of the electronic device. According to various embodiments of the present disclosure, information about the setting change (for example, the number of virtual cameras and the change in view frustum) may be transmitted to the user terminal 120.
  • a plurality of light sources may be disposed in the virtual three-dimensional space. Since the processors 113 and 123 calculate the degree of reflection of each light source to the surface of the object when rendering the rendering area, the calculation complexity increases when the number of light sources increases.
  • the processors 113 and 123 may adjust the number of light sources to be applied to a rendering area rendered at low quality.
  • the processors 113 and 123 apply an ambient light, which is a basic light, among a plurality of light sources set in a virtual three-dimensional space, but apply some point light or specular light. You can't.
  • the processors 113 and 123 may not apply the point light or the reflected light far from the virtual camera to the image rendered with low quality.
  • the processors 113 and 123 may apply a shading technique and change a shading technique algorithm to be applied.
  • the processors 113 and 123 may use various shading techniques for applying interpolation to the reflection effect of light.
  • the processors 113 and 123 may apply shading techniques such as flat shading, gourd shading, and phong shading.
  • the amount of computation required for the processors 113 and 123 to apply the shading technique is in order of the Phong shading technique, the Gorard shading technique, and the flat shading technique.
  • the processor 113 or 123 may apply a shading technique (algorithm) different from the image set to the high quality rendering when rendering the image of the virtual camera set to the low quality rendering.
  • a shading technique (algorithm) different from the image set to the high quality rendering when rendering the image of the virtual camera set to the low quality rendering.
  • a flat shading technique may be applied to a rendering region set to low quality rendering
  • a Phong shading technique may be applied to a rendering region set to high quality rendering.
  • the shading technique may be set for each object in a virtual three-dimensional space. Even if the object is set to the Phong shading technique, if the object belongs to a rendering region set to low quality rendering, the Gorrad shading technique may be applied.
  • the 3D objects may be rasterized into a pixel buffer having a predetermined resolution (eg, HD resolution).
  • a predetermined resolution eg, HD resolution
  • the rendering area set to low quality rendering may have a rendering pixel buffer of a smaller resolution than the image set to high quality rendering.
  • the processors 113 and 123 may map a 2D texture image to a 3D object.
  • texture images may be stored at various resolutions by mipmapping techniques.
  • the processors 113 and 123 may use the mipmapping technique of the texture (s) in the high quality rendering region and may not use the mipmapping technique of the texture in the low quality rendering region.
  • processors 113 and 123 may use a mipmapping technique of the texture (s) in the low quality rendering area and no mipmapping technique of the texture in the high quality rendering area.
  • the processors 113 and 123 may use a texture having a low resolution when rendering a low quality rendering area among a plurality of images.
  • the electronic device may separately include a high resolution texture and a low resolution texture for at least some 3d objects.
  • the processors 113 and 123 may perform texturing by using low resolution textures on at least some 3d objects when rendering a low quality rendering area among a plurality of images.
  • the processors 113 and 123 may compare the detail level (the level of detail or the number of vertices of the modeling data) of the 3D object model included in the rendering area set to the low quality rendering and the rendering area set to the high quality rendering.
  • the same 3D object model may have different number of vertices when rendered in a rendering area set to high quality rendering and rendered in a rendering area set to low quality rendering.
  • the level of detail (LOD) setting of the virtual camera set to high quality rendering ie, the reduction in complexity of modeling data according to the distance away from the camera
  • LOD level of detail
  • FIG. 9 is a flowchart illustrating a method of synthesizing an image and transmitting the synthesized image to an external electronic device according to an embodiment of the present disclosure.
  • a method of synthesizing an image by an electronic device (server 110) and providing a synthesized image to an external electronic device (user terminal 120) may include a plurality of view vectors. Generating a plurality of images by rendering a rendering area corresponding to the operation 901, synthesizing the plurality of images into a single image (903), encoding the synthesized image (905), and externalizing the synthesized image.
  • the operation 907 may be transmitted to the electronic device.
  • the processor 113 of the electronic device may generate a plurality of images by rendering a rendering area corresponding to the plurality of view vectors.
  • the processor 113 may set positions of the plurality of virtual cameras and positions and numbers of view vectors corresponding to the virtual cameras.
  • the processor 113 may include a plurality of rendering regions corresponding to the plurality of view vectors based on the gaze information of the user, virtual gaze information on the virtual space, a direction of movement of the reference point, selection input information, or a value preset to the content. You can render to different render quality.
  • the processor 113 of the electronic device may synthesize a plurality of images including at least one rendered image.
  • the processor 113 may stitch a plurality of generated images to be synthesized into one image, and the synthesized one image may be a 360 degree image.
  • the processor 113 of the electronic device may encode the synthesized image.
  • the processor may encode the synthesized image using a format such as MP4-H.264, H.265, jpeg, HDMI, and DP (displayport) format.
  • operation 905 may be omitted.
  • the processor 113 of the electronic device may transmit the synthesized image to another electronic device (eg, the user terminal 120 or the content server) through the communication circuit 112.
  • the processor 113 of the electronic device may store the synthesized image (eg, 360 degree content) in a memory.
  • FIG. 10 is a flowchart illustrating a method of changing a rendering quality of a rendering area and synthesizing an image by an electronic device according to an embodiment of the present disclosure.
  • operations 1001 and 1003 for changing a rendering quality of a rendering area corresponding to a plurality of virtual cameras and operations 1005 for rendering a rendering area and synthesizing an image may be performed. May contain.
  • the processor 113 may determine whether a condition for changing the rendering quality occurs. For example, when a change in the user's gaze information, a change in the state of the electronic device, a change in the direction of movement of the reference point in the virtual three-dimensional space, or a change in the camera setting of the content occurs, the processor 113 may change the rendering quality. It can be determined that this has occurred.
  • the processor 113 may change the rendering quality of the rendering area corresponding to the plurality of virtual cameras based on the generated condition. For example, when the user's gaze direction toward the front is rearward, the processor 113 may lower the rendering quality of the rendering area corresponding to the front and increase the rendering quality of the rendering area behind.
  • the processor 113 may render the plurality of rendering regions with the changed quality and synthesize the rendered images into one image.
  • the processor 113 may render a rendering area corresponding to the plurality of virtual cameras with the changed quality, and synthesize the rendered image by using a stitching technique or the like.
  • FIG. 11 is a flowchart illustrating that a server generates an image based on eye gaze information of a user and transmits the image to a user terminal according to an embodiment of the present invention.
  • a method of generating an image based on eye gaze information of a user and transmitting an image to the user terminal 120 may be performed by the user terminal 120.
  • Acquiring gaze information 1101 generating a plurality of images corresponding to a plurality of view vectors in a virtual three-dimensional space (1103), synthesizing the generated plurality of images (1105), and synthesized images It may include an operation 1107 to transmit to the user terminal 120.
  • the communication circuit 112 of the server 110 may obtain gaze information of the user from the user terminal 120.
  • the communication circuit 112 may obtain sensing information for generating gaze information from the user terminal 120, and the processor 113 of the server 110 may generate gaze information from the sensing information.
  • the processor 113 of the server 110 may generate a plurality of images corresponding to the plurality of view vectors in the virtual three-dimensional space. As described above, the processor 113 may set a rendering area corresponding to the plurality of view vectors in the virtual three-dimensional space and render the rendering area. The processor 113 may set rendering quality between rendering regions differently as in the above-described examples, and detailed description thereof will be omitted.
  • the processor 113 of the server 110 may synthesize a plurality of generated images.
  • the processor 113 may stitch a plurality of generated images to be synthesized into one image, and the synthesized one image may be a 360 degree image.
  • the processor 113 of the server 110 may transmit the synthesized image to the user terminal 120 through the communication circuit 112.
  • FIG. 12 is a view illustrating an electronic device in a network environment according to various embodiments of the present disclosure.
  • the electronic device 1201, the first electronic device 1202, the second electronic device 1204, or the server 1206 may communicate with the network 1262 or the local area communication 1264. Can be connected to each other.
  • the electronic device 1201 may include a bus 1210, a processor 1220, a memory 1230, an input / output interface 1250, a display 1260, and a communication interface 1270. According to an embodiment of the present disclosure, the electronic device 1201 may omit at least one of the components or additionally include other components.
  • the bus 1210 may include, for example, circuitry that couples the components 1210-1270 to each other and transfers communication (eg, control messages and / or data) between the components.
  • the processor 1220 may include one or more of a Central Processing Unit (CPU), an Application Processor (AP), or a Communication Processor (CP).
  • the processor 1220 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 1201.
  • the memory 1230 may include volatile and / or nonvolatile memory.
  • the memory 1230 may store, for example, commands or data related to at least one other element of the electronic device 1201.
  • the memory 1230 may store software and / or a program 1240.
  • the program 1240 may be, for example, a kernel 1241, middleware 1243, an application programming interface (API) 1245, and / or an application program (or “application”) 1247, or the like. It may include. At least a portion of kernel 1241, middleware 1243, or API 1245 may be referred to as an operating system (OS).
  • OS operating system
  • Kernel 1241 may be, for example, system resources (e.g., used to execute an action or function implemented in other programs (e.g., middleware 1243, API 1245, or application program 1247).
  • the bus 1210, the processor 1220, or the memory 1230 may be controlled or managed.
  • the kernel 1241 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 1201 from the middleware 1243, the API 1245, or the application program 1247. Can be.
  • the middleware 1243 may serve as an intermediary for allowing the API 1245 or the application program 1247 to communicate with the kernel 1241 to exchange data.
  • the middleware 1243 may process one or more work requests received from the application program 1247 according to priority.
  • the middleware 1243 may use system resources (eg, the bus 1210, the processor 1220, or the memory 1230, etc.) of the electronic device 1201 for at least one of the application programs 1247. Priority can be given.
  • the middleware 1243 may perform scheduling or load balancing on the one or more work requests by processing the one or more work requests according to the priority given to the at least one.
  • the API 1245 is, for example, an interface for the application 1247 to control functions provided by the kernel 1241 or the middleware 1243. For example, file control, window control, image processing, or text. It may include at least one interface or function (eg, a command) for control.
  • the input / output interface 1250 may serve as, for example, an interface capable of transferring a command or data input from a user or another external device to other component (s) of the electronic device 1201.
  • the input / output interface 1250 may output a command or data received from other component (s) of the electronic device 1201 to a user or another external device.
  • the display 1260 may be, for example, a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light emitting diode (OLED) display, or microelectromechanical. Microelectromechanical systems (MEMS) displays, or electronic paper displays.
  • the display 1260 may display, for example, various contents (eg, text, images, videos, icons, symbols, etc.) to the user.
  • the display 1260 may include a touch screen and, for example, may receive a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the communication interface 1270 may establish communication between the electronic device 1201 and an external device (eg, the first electronic device 1202, the second electronic device 1204, or the server 1206).
  • the communication interface 1270 may be connected to the network 1262 through wireless or wired communication to communicate with an external device (eg, the second electronic device 1204 or the server 1206).
  • Wireless communication is, for example, a cellular communication protocol, for example, Long-Term Evolution (LTE), LTE-Advanced (LTE-A), Code Division Multiple Access (CDMA), Wideband CDMA (WCDMA), and Universal Mobile (UMTS). At least one of Telecommunications System, WiBro, or Global System for Mobile Communications (GSM) may be used. Wireless communication may also include, for example, near field communication 1264.
  • the short range communication 1264 may include, for example, at least one of wireless fidelity (Wi-Fi), Bluetooth, near field communication (NFC), magnetic stripe transmission (MST), or GNSS.
  • the MST generates a pulse according to the transmission data using an electromagnetic signal, and the pulse may generate a magnetic field signal.
  • the electronic device 1201 transmits the magnetic field signal to a point of sales, and the POS detects the magnetic field signal using an MST reader and converts the detected magnetic field signal into an electrical signal. Can be restored.
  • GNSS may be, for example, global positioning system (GPS), global navigation satellite system (Glonass), beidou navigation satellite system (“Beidou”), or Galileo (the European global satellite-based navigation system), depending on the region of use or bandwidth. It may include at least one of.
  • GPS global positioning system
  • Beidou Bertdou navigation satellite system
  • Galileo the European global satellite-based navigation system
  • the wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a reduced standard-232 (RS-232), a plain old telephone service (POTS), and the like.
  • the network 1262 may include a telecommunications network, for example, at least one of a computer network (for example, a LAN or a WAN), the Internet, or a telephone network.
  • Each of the first electronic device 1202 and the second electronic device 1204 may be the same or different type of device as the electronic device 1201.
  • the server 1206 may include a group of one or more servers.
  • all or some of operations performed by the electronic device 1201 may be performed by one or more other electronic devices (eg, the first electronic device 1202, the second electronic device 1204, or the server 1206).
  • the electronic device 1201 may instead or additionally execute the function or service by itself.
  • At least some associated functions may be requested to another electronic device (eg, the first electronic device 1202, the second electronic device 1204, or the server 1206).
  • the other electronic device may execute the requested function or the additional function and transmit the result to the electronic device 1201.
  • the electronic device 1201 may provide the requested function or service by processing the received result as it is or additionally.
  • cloud computing distributed computing, or client-server computing technology may be used.
  • FIG. 13 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 1301 may include, for example, all or part of the electronic device 1201 illustrated in FIG. 1.
  • the electronic device 1301 may include one or more processors (eg, an AP) 1310, a communication module 1320, a subscriber identification module 1324, a memory 1330, a sensor module 1340, an input device 1350, and a display ( 1360, an interface 1370, an audio module 1380, a camera module 1391, a power management module 1395, a battery 1396, an indicator 1397, and a motor 1398.
  • the processor 1310 may control, for example, a plurality of hardware or software components connected to the processor 1310 by running an operating system or an application program, and may perform various data processing and operations.
  • the processor 1310 may be implemented with, for example, a system on chip (SoC).
  • SoC system on chip
  • the processor 1310 may further include a graphic processing unit (GPU) and / or an image signal processor.
  • the processor 1310 may include at least some of the components illustrated in FIG. 13 (eg, the cellular module 1321).
  • the processor 1310 may load and process instructions or data received from at least one of the other components (eg, nonvolatile memory) into volatile memory, and store various data in the nonvolatile memory. have.
  • the communication module 1320 may have a configuration that is the same as or similar to that of the communication interface 1270 of FIG. 1.
  • the communication module 1320 may be, for example, a cellular module 1321, a Wi-Fi module 1322, a Bluetooth module 1323, a GNSS module 1324 (eg, a GPS module, a Glonass module, a Beidou module, or a Galileo). Module), NFC module 1325, MST module 1326, and radio frequency (RF) module 1327.
  • the cellular module 1321 may provide, for example, a voice call, a video call, a text service, or an Internet service through a communication network. According to an embodiment of the present disclosure, the cellular module 1321 may perform identification and authentication of the electronic device 1301 within a communication network by using a subscriber identification module (eg, a SIM card) 1333. According to an embodiment of the present disclosure, the cellular module 1321 may perform at least some of the functions that the processor 1310 may provide. According to an embodiment of the present disclosure, the cellular module 1321 may include a communication processor (CP).
  • CP communication processor
  • Each of the Wi-Fi module 1322, the Bluetooth module 1323, the GNSS module 1324, the NFC module 1325, or the MST module 1326 processes data transmitted and received through the corresponding module. It may include a processor for. According to some embodiments, at least some of the cellular module 1321, the Wi-Fi module 1322, the Bluetooth module 1323, the GNSS module 1324, the NFC module 1325, or the MST module 1326 (eg, Two or more) may be included in one integrated chip (IC) or IC package.
  • IC integrated chip
  • the RF module 227 may transmit / receive, for example, a communication signal (eg, an RF signal).
  • the RF module 1327 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • at least one of the cellular module 1321, the Wi-Fi module 1322, the Bluetooth module 1323, the GNSS module 1324, the NFC module 1325, and the MST module 1326 is a separate RF.
  • the module can transmit and receive RF signals.
  • the subscriber identification module 1329 may include, for example, a card containing a subscriber identification module and / or an embedded SIM, and may include unique identification information (eg, an integrated circuit card identifier (ICCID)) or It may include subscriber information (eg, international mobile subscriber identity).
  • ICCID integrated circuit card identifier
  • the memory 1330 may include, for example, an internal memory 1332 or an external memory 1334.
  • the internal memory 1332 may be, for example, volatile memory (eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.), non-volatile memory (eg, One time programmable ROM (OTPROM), programmable ROM (PROM), erasable and programmable ROM (EPROM), electrically erasable and programmable ROM (EPEROM), mask ROM, flash ROM, flash memory (e.g., NAND flash) (NAND flash or NOR flash, etc.), a hard drive, or a solid state drive (SSD).
  • DRAM dynamic RAM
  • SRAM static RAM
  • SDRAM synchronous dynamic RAM
  • OTPROM One time programmable ROM
  • PROM programmable ROM
  • EPROM erasable and programmable ROM
  • EPEROM electrically erasable and programmable ROM
  • mask ROM mask ROM
  • the external memory 1334 may be a flash drive, for example, compact flash (CF), secure digital (SD), Micro-SD, Mini-SD, extreme digital (XD), MultiMediaCard (MMC), or memory. It may further include a stick (memory stick).
  • the external memory 1334 may be functionally and / or physically connected to the electronic device 1301 through various interfaces.
  • the security module 1336 is a module including a storage space having a relatively higher security level than the memory 1330, and may be a circuit that guarantees safe data storage and a protected execution environment.
  • the security module 1336 may be implemented as a separate circuit and may include a separate processor.
  • the security module 1336 may include, for example, an embedded secure element (eSE) that is present in a removable smart chip, a secure digital (SD) card, or embedded in a fixed chip of the electronic device 1301. It may include.
  • eSE embedded secure element
  • SD secure digital
  • the security module 1336 may be driven by an operating system different from the operating system 1OS of the electronic device 1301.
  • the security module 1336 may operate based on a java card open platform (JCOP) operating system.
  • JCOP java card open platform
  • the sensor module 1340 may measure a physical quantity or detect an operation state of the electronic device 1301, and may convert the measured or detected information into an electrical signal.
  • the sensor module 1340 may include, for example, a gesture sensor 1340A, a gyro sensor 1340B, an air pressure sensor 1340C, a magnetic sensor 1340D, an acceleration sensor 1340E, a grip sensor 1340F, and a proximity sensor (for example, a sensor). 1340G), at least one of a color sensor 1340H (e.g., RGB sensor), biometric sensor 1340I, temperature / humidity sensor 1340J, illuminance sensor 1340K, or ultraviolet (ultra violet) sensor 1340M can do.
  • a color sensor 1340H e.g., RGB sensor
  • biometric sensor 1340I e.g., temperature / humidity sensor 1340J
  • illuminance sensor 1340K illuminance sensor 1340K
  • ultraviolet (ultra violet) sensor 1340M can do.
  • sensor module 1340 may include, for example, an olfactory sensor, an electromyography sensor, an electronphalogram sensor, an electrocardiogram sensor, an infrared sensor, an iris. Sensors and / or fingerprint sensors.
  • the sensor module 1340 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 1301 further includes a processor configured to control the sensor module 1340 as part of or separately from the processor 1310, while the processor 1310 is in a sleep state, The sensor module 1340 may be controlled.
  • the input device 1350 may be, for example, a touch panel 1352, a (digital) pen sensor 1354, a key 1356, or an ultrasonic input device ( 1358).
  • the touch panel 1352 may use, for example, at least one of capacitive, resistive, infrared, or ultrasonic methods.
  • the touch panel 1352 may further include a control circuit.
  • the touch panel 1352 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 1354 may be, for example, part of a touch panel or may include a separate sheet for recognition.
  • the key 1356 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 1358 may detect ultrasonic waves generated by an input tool through a microphone (for example, the microphone 1388) and check data corresponding to the detected ultrasonic waves.
  • the display 1360 may include a panel 1362, a hologram device 1264, or a projector 1366.
  • the panel 1362 may include a configuration that is the same as or similar to the display 1260 of FIG. 1.
  • the panel 1362 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 1362 may be configured as a single module together with the touch panel 1352.
  • the hologram device 1164 may show a stereoscopic image in the air by using interference of light.
  • the projector 1366 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 1301.
  • the display 1360 may further include a control circuit for controlling the panel 1362, the hologram device 1264, or the projector 1366.
  • the interface 1370 may include, for example, an HDMI 1372, a USB 1374, an optical interface 1374, or a D-subminiature 178.
  • the interface 1370 may be included in, for example, the communication interface 1270 illustrated in FIG. 1. Additionally or alternatively, the interface 1370 may include, for example, a mobile high-definition link (MHL) interface, an SD card / MMC interface, or an infrared data association (IrDA) compliant interface.
  • MHL mobile high-definition link
  • IrDA infrared data association
  • the audio module 1380 may bidirectionally convert, for example, a sound and an electrical signal. At least some components of the audio module 1380 may be included in, for example, the input / output interface 1250 illustrated in FIG. 1.
  • the audio module 1380 may process sound information input or output through, for example, a speaker 1382, a receiver 1344, an earphone 1386, a microphone 1388, or the like.
  • the camera module 1391 is, for example, a device capable of capturing still images and moving images.
  • the camera module 1139 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, an image signal processor (ISP) Or flash (eg, LEDs or xenon lamps).
  • image sensors eg, a front sensor or a rear sensor
  • ISP image signal processor
  • flash eg, LEDs or xenon lamps.
  • the power management module 1395 may manage power of the electronic device 1301, for example.
  • the power management module 1395 may include a power management integrated circuit (PMIC), a charger integrated circuit (ICC), or a battery or fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 1396, the voltage, the current, or the temperature during charging.
  • the battery 1396 may include, for example, a rechargeable battery and / or a solar battery.
  • the indicator 1397 may display a specific state of the electronic device 1301 or a portion thereof (for example, the processor 1310), for example, a booting state, a message state, or a charging state.
  • the motor 1398 may convert an electrical signal into mechanical vibration, and may generate a vibration or haptic effect.
  • the electronic device 1301 may include a processing device (eg, a GPU) for supporting mobile TV.
  • the processing apparatus for supporting mobile TV may process media data according to a standard such as Digital Multimedia Broadcasting (DMB), Digital Video Broadcasting (DVB), or MediaFLOTM.
  • DMB Digital Multimedia Broadcasting
  • DVD Digital Video Broadcasting
  • MediaFLOTM MediaFLOTM
  • each of the components described in this document may be composed of one or more components, and the name of the corresponding component may vary according to the type of electronic device.
  • the electronic device may be configured to include at least one of the components described in this document, and some components may be omitted or further include other additional components.
  • some of the components of the electronic device according to various embodiments of the present disclosure may be combined to form one entity, and thus may perform the same functions of the corresponding components before being combined.
  • FIG. 14 is a block diagram of a program module according to various embodiments of the present disclosure.
  • the program module 1410 (eg, the program 1240) is operated on an operating system (OS) and / or operating system that controls resources related to the electronic device (eg, the electronic device 1201).
  • OS operating system
  • applications eg, application program 1247
  • the operating system may be, for example, Android, iOS, Windows, Symbian, Tizen, or the like.
  • the program module 1410 may include a kernel 1420, middleware 1430, an API 1460, and / or an application 1470. At least a portion of the program module 1410 is preloaded on the electronic device or downloaded from an external electronic device (eg, the first electronic device 1202, the second electronic device 1204, the server 1206, etc.). It is possible.
  • an external electronic device eg, the first electronic device 1202, the second electronic device 1204, the server 1206, etc.
  • the kernel 1420 may include, for example, a system resource manager 1421 or a device driver 1423.
  • the system resource manager 1421 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 1421 may include a process manager, a memory manager, or a file system manager.
  • the device driver 1423 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a Wi-Fi driver, an audio driver, or an inter-process communication (IPC) driver. Can be.
  • IPC inter-process communication
  • the middleware 1430 may provide various functions through the API 1460, for example, to provide functions commonly required by the application 1470, or to allow the application 1470 to efficiently use limited system resources inside the electronic device. Functions may be provided to the application 1470.
  • the middleware 1430 eg, the middleware 1243 may include a runtime library 1435, an application manager 1442, a window manager 1442, and a multimedia manager. 1443, resource manager 1444, power manager 1445, database manager 1446, package manager 1447, connectivity manager 1448, notification manager 1449, location manager 1450, graphic manager 1451, security manager 1452, or payment manager 1454. It may include at least one of).
  • the runtime library 1435 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 1470 is running.
  • the runtime library 1435 may perform input / output management, memory management, or a function for an arithmetic function.
  • the application manager 1442 may manage, for example, a life cycle of at least one of the applications 1470.
  • the window manager 1442 may manage GUI resources used on the screen.
  • the multimedia manager 1443 may identify a format necessary for playing various media files and may encode or decode the media file by using a codec suitable for the format.
  • the resource manager 1444 may manage resources such as source code, memory, or storage space of at least one of the applications 1470.
  • the power manager 1445 may operate together with, for example, a basic input / output system (BIOS) to manage a battery or power and provide power information necessary for the operation of the electronic device.
  • the database manager 1446 may generate, search for, or change a database to be used by at least one of the applications 1470.
  • the package manager 1447 may manage installation or update of an application distributed in the form of a package file.
  • the connection manager 1484 may manage a wireless connection, such as Wi-Fi or Bluetooth, for example.
  • Notification manager 1449 may display or notify events such as arrival messages, appointments, proximity notifications, and the like in a manner that does not disturb the user.
  • the location manager 1450 may manage location information of the electronic device.
  • the graphic manager 1451 may manage graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 1452 may provide various security functions required for system security or user authentication.
  • the middleware 1430 when the electronic device (for example, the electronic device 1201) includes a telephone function, the middleware 1430 further includes a telephone manager for managing a voice or video call function of the electronic device. can do.
  • the middleware 1430 may include a middleware module that forms a combination of various functions of the above-described components.
  • the middleware 1430 may provide a module specialized for each type of OS in order to provide a differentiated function.
  • the middleware 1430 may dynamically delete some of the existing components or add new components.
  • the API 1460 (eg, API 1245) is, for example, a set of API programming functions, which may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 1470 (e.g., application program 1247) is, for example, home 1471, dialer 1472, SMS / MMS 1473, instant message (IM) 1474, browser 1475, Camera 1476, alarm 1477, contact 1478, voice dial 1479, email 1480, calendar 1148, media player 1462, album 1483, or clock 1484, healthcare or one or more applications capable of performing functions such as health care (eg, measuring exercise amount or blood sugar) or providing environmental information (eg, providing barometric pressure, humidity, or temperature information).
  • health care eg, measuring exercise amount or blood sugar
  • environmental information eg, providing barometric pressure, humidity, or temperature information
  • the application 1470 may exchange information between an electronic device (eg, the electronic device 1201) and an external electronic device (eg, the first electronic device 1202 and the second electronic device 1204).
  • Supporting applications (hereinafter, for convenience of description, the "information exchange application") may be included.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to an external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may include a function of delivering notification information generated by another application of the electronic device (eg, an SMS / MMS application, an email application, a health care application, or an environmental information application) to an external electronic device.
  • another application of the electronic device eg, an SMS / MMS application, an email application, a health care application, or an environmental information application
  • the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • the device management application may be, for example, the turn-on / turn-off of the external electronic device itself (or some component) of the external electronic device in communication with the electronic device, or the brightness (or resolution) of the display. Control), and manage (eg, install, delete, or update) an application running on the external electronic device or a service (eg, a call service or a message service) provided by the external electronic device.
  • a service eg, a call service or a message service
  • the application 1470 may include an application (eg, a health care application of a mobile medical device) designated according to an attribute of the external electronic device.
  • the application 1470 may include an application received from an external electronic device (eg, the first electronic device 1202, the second electronic device 1204), and the server 1206.
  • the application 1470 may include a preloaded application or a third party application downloadable from a server.
  • the names of the components of the program module 1410 according to the shown embodiment may vary depending on the type of operating system.
  • the program module of FIG. 14 may correspond to the program module of the server 210 or the user terminal 220 of FIG. 2 described above.
  • the program module of FIG. 14 corresponds to the program module of the server 210 of FIG. 2, the 3D application 211 may be included in the application 1470. Also, the 3D rendering module 212 and the image synthesizing module 214 of FIG. 2 may be included in the graphic manager 1451. The encoding module 215 may be included in the multimedia manager 1443.
  • the decoding module 222 may be included in the multimedia manager 1443, and the 3D application 223 may be an application 1470. ) May be included.
  • the 3D rendering module 224 may be included in the graphic manager 1451.
  • At least a part of the program module 1410 may be implemented in software, firmware, hardware, or a combination of two or more thereof. At least a part of the program module 1410 may be implemented (for example, executed) by, for example, a processor (for example, the processor 1310). At least a part of the program module 1410 may include, for example, a module, a program, a routine, sets of instructions, or a process for performing one or more functions.
  • module may refer to a unit that includes one or a combination of two or more of hardware, software, or firmware.
  • a “module” may be interchangeably used with terms such as, for example, unit, logic, logical block, component, or circuit.
  • the module may be a minimum unit or part of an integrally constructed part.
  • the module may be a minimum unit or part of performing one or more functions.
  • the “module” can be implemented mechanically or electronically.
  • a “module” is one of application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or programmable-logic devices that perform certain operations, known or developed in the future. It may include at least one.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • an apparatus eg, modules or functions thereof
  • a method eg, operations
  • computer-readable storage media in the form of a program module. It can be implemented as a command stored in.
  • the command is executed by a processor (eg, the processor 1220)
  • the one or more processors may perform a function corresponding to the command.
  • the computer-readable storage medium may be the memory 1230, for example.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tapes), optical media (e.g. CD-ROMs, digital versatile discs), magnetic- Optical media (eg floptical disks), hardware devices (eg ROM, RAM, flash memory, etc.), etc.
  • program instructions may be created by a compiler. It may include not only machine code, such as losing, but also high-level language code executable by a computer using an interpreter, etc.
  • the hardware device described above may be configured to operate as one or more software modules to perform the operations of various embodiments. And vice versa.
  • Modules or program modules according to various embodiments of the present disclosure may include at least one or more of the above components, some of them may be omitted, or may further include other additional components.
  • Operations performed by a module, program module, or other component according to various embodiments of the present disclosure may be executed in a sequential, parallel, repetitive, or heuristic manner. In addition, some operations may be executed in a different order, may be omitted, or other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Optics & Photonics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computing Systems (AREA)
  • Geometry (AREA)
  • Computer Security & Cryptography (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

전자 장치가 개시된다. 상기 전자 장치는, 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 가상의 3차원 공간 상 하나의 지점과 연관된 복수의 뷰 벡터(view vector)에 대응하는 복수의 영상을 생성하고, 상기 복수의 영상 중 적어도 하나의 영상을 나머지 영상보다 높은 품질로 설정하고, 및 상기 적어도 하나의 영상을 포함한 상기 복수의 영상을 합성하도록 설정될 수 있다. 이 외에도 명세서를 통해 파악되는 다양한 실시 예가 가능하다.

Description

뷰 벡터별 다른 렌더링 품질을 갖는 영상을 생성하는 전자 장치
본 문서에서 개시되는 실시 예들은, 뷰 벡터별 다른 렌더링 품질을 갖는 영상을 생성하는 전자 장치와 관련된다.
컨텐츠 생성 서버는 3D 어플리케이션 및 3D 그래픽 라이브러리를 통해, 3D 그래픽 월드를 구성하고 3D 그래픽 월드 안의 한 위치에 가상 카메라를 위치시켜 화면을 생성(즉, 렌더링)할 수 있다. 컨텐츠 생성 서버는 렌더링한 화면을 컨텐츠 재생 장치로 전달한다.
3D게임 스트리밍 및 3D 영화 스트리밍 서비스에서, 기존 기술을 이용해 3D 그래픽 월드를 360도 컨텐츠(예를 들어, 일 지점을 기준으로 모든 방향(전, 후, 좌, 우, 상, 하)의 영상을 포함하는 컨텐츠)로 가공하려면 넓은 영역을 렌더링 하기 위해 한 위치에서 다양한 시점의 영상을 렌더링하여 한 화면의 컨텐츠로 합성해야 한다. 예를 들어, 360도 컨텐츠는 화면에 표시될 이미지 외에 화면에 표시되지 않은 인접한 광경의 이미지를 더 포함한 이미지 및/또는 동영상 컨텐츠 일 수 있다. 예를 들어, 컨텐츠를 감상하는 사용자의 조작(예:헤드마운트 기기 사용자의 머리 움직임 조작 등)에 따라 화면에 표시되지 않던 이미지가, 화면에 표시될 수 있다. 다양한 실시예에서, 360도 컨텐츠는 360도 전 방향을 포함하는 영상은 아닐 수도 있다. 예를 들어, 좌우로 180도, 270도 등 360보다 다소 좁은 범위를 포함하는 영상일 수도 있다.
360도 컨텐츠 생성 서버는 다양한 시점의 영상을 렌더링 해야 하므로 렌더링을 위한 많은 계산량이 발생한다. 예를 들어 게임 서버에 여러 사용자가 360도 컨텐츠를 이용할 때 렌더링 계산량이 커져서 서버의 부하가 커져 실시간 렌더링이 어렵다는 문제가 있다.
종래 기술에서는 많은 연산량이 발생하는 문제 때문에 3차원 360도 컨텐츠의 전방향 영상을 렌더링하지 않고, 사용자의 시선에 대응되는 영역만을 렌더링한다.
본 발명의 다양한 실시 예들은, 뷰 벡터별로 영상의 렌더링 품질에 차이를 두어 효율적으로 3차원 360도 컨텐츠의 전방향 영상을 렌더링할 수 있다.
본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 가상의 3차원 공간 상 하나의 지점과 연관된 복수의 뷰 벡터(view vector)에 대응하는 복수의 영상을 생성하고, 상기 복수의 영상 중 적어도 하나의 영상을 나머지 영상보다 높은 품질로 설정하고, 및 상기 적어도 하나의 영상을 포함한 상기 복수의 영상을 합성하도록 설정될 수 있다.
또한, 본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 디스플레이, 상기 전자 장치에 대응하는 사용자의 시선 정보를 획득하는 적어도 하나의 센서, 및 상기 디스플레이, 및 상기 적어도 하나의 센서와 기능적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 가상의 3차원 공간 상 하나의 지점과 연관된 복수의 뷰 벡터에 대응하는 복수의 영상을 생성하고, 상기 시선 정보에 기초하여 상기 복수의 영상 중 적어도 하나의 영상을 나머지 영상보다 높은 품질로 설정하고, 상기 적어도 하나의 영상을 포함하는 상기 복수의 영상을 합성하고, 및 상기 합성된 영상을 상기 디스플레이를 통해 표시하도록 설정될 수 있다.
또한, 본 문서에 개시되는 일 실시 예에 따른 저장 매체는 상기 저장 매체는 외부 전자 장치로 영상을 전송하는 전자 장치에 의해 실행될 때 상기 전자 장치로 하여금, 가상의 3차원 공간 상 하나의 지점과 연관된 복수의 뷰 벡터를 갖는뷰 벡터에 대응하는 복수의 렌더링 영역을 설정하는 동작,영상을 생성하는 동작, 상기 복수의 렌더링 영역 중 생성된 복수 중 적어도 하나의 렌더링 영역의 렌더링 품질영상을 나머지 렌더링 영역의 렌더링 품질영상보다 높은 품질로 설정렌더링 하는 동작, 상기 설정된 렌더링 품질에 기반하여 상기 복수의 렌더링 영역을 렌더링하여 상기 복수의 뷰 벡터에 대응하는 복수의 영상을 생성하는 동작, 상기 적어도 하나의 영상을 포함한 상기 복수의 영상을 합성하는 동작, 및 상기 합성된 영상을 상기 외부 전자 장치로 전송하는 동작을 수행하도록 하는 명령어들을 포함할 수 있다.
본 문서에 개시되는 실시 예들에 따르면, 360도 컨텐츠에 포함되는 복수의 영상이 다른 렌더링 품질을 가지므로 효율적으로 영상을 렌더링할 수 있다.
또한, 렌더링을 효율적으로 하므로 영상 데이터 크기를 줄일 수 있고, 영상 스트리밍시 소요 시간을 줄일 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
본 명세서에 첨부되는 다음의 도면들은 본 발명의 바람직한 일 실시예를 예시하는 것이며, 발명의 상세한 설명과 함께 본 발명의 기술적 사상을 더욱 이해시키는 역할을 하는 것이므로, 본 발명은 그러한 도면에 기재된 사항에만 한정되어 해석 되어서는 아니 된다.
도 1은 본 발명의 다양한 실시 예에 따른, 영상을 제공하는 서버 및 영상을 표시하는 사용자 단말을 나타내는 블록도이다.
도 2는 본 발명의 다양한 실시 예에 따른, 영상을 제공하는 서버 및 영상을 표시하는 사용자 단말 내 소프트웨어 모듈을 나타내는 블록도이다.
도 3은 본 발명의 일 실시 예에 따른, 가상의 3차원 공간에 4개의 가상 카메라가 배치된 것을 나타내는 도면이다.
도 4는 본 발명의 일 실시 예에 따른, 가상의 3차원 공간에 3개의 가상 카메라가 배치된 것을 나타내는 도면이다.
도 5는 본 발명의 일 실시 예에 따른, 가상의 3차원 공간에 2개의 가상 카메라가 배치된 것을 나타내는 도면이다.
도 6a는 본 발명의 일 실시 예에 따른, 가상의 3차원 공간에서 사용자의 시선 방향이 가상 카메라의 뷰 벡터 방향과 일치하는 경우를 나타내는 도면이다.
도 6b는 본 발명의 일 실시 예에 따른, 가상의 3차원 공간에서 사용자의 시선 방향이 가상 카메라의 뷰 벡터 방향과 일치하지 않는 경우를 나타내는 도면이다.
도 7은 본 발명의 일 실시 예에 따라 가상의 3차원 공간에서 사용자로부터 선택 입력된 객체와 가상의 3차원 공간에서 소리가 발생한 지점을 나타내는 도면이다.
도 8a는 본 발명의 일 실시 예에 따라 가상의 3차원 공간에서 가상 카메라가 이동하는 방향을 나타내는 도면이다.
도 8b는 본 발명의 일 실시 예에 따라 가상의 3차원 공간에서 가상 카메라의 이동 방향에 기초하여 뷰 프러스텀의 크기가 조정된 것을 나타내는 도면이다.
도 9는 본 발명의 일 실시 예에 따라 서버가 영상을 합성하고 사용자 단말에 합성한 영상을 전송하는 방법을 나타내는 흐름도이다.
도 10은 본 발명의 일 실시 예에 따라 전자 장치가 렌더링 영역의 렌더링 품질을 변경하고 영상 합성하는 방법을 나타내는 순서도이다.
도 11은 본 발명의 일 실시 예에 따라 서버가 사용자의 시선 정보에 기반하여 영상을 생성하고 사용자 단말에 영상을 전송하는 것을 나타내는 흐름도이다.
도 12는 다양한 실시 예에 따른 네트워크 환경 내의 전자 장치를 나타낸다.
도 13은 다양한 실시 예에 따른 전자 장치의 블록도를 나타낸다.
도 14는 다양한 실시 예에 따른 프로그램 모듈의 블록도를 나타낸다.
이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다", "가질 수 있다", "포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나", 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", "A 및 B 중 적어도 하나", 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제1", "제2", "첫째", 또는 "둘째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제1 사용자 기기와 제2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)", "~하는 능력을 가지는(having the capacity to)", "~하도록 설계된(designed to)", "~하도록 변경된(adapted to)", "~하도록 만들어진(made to)", 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)"것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은 관련 기술의 문맥 상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시 예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크톱 PC (desktop PC), 랩탑 PC(laptop PC), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라, 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에 따르면 웨어러블 장치는 엑세서리 형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체 형(예: 전자 의복), 신체 부착 형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식 형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD 플레이어(Digital Video Disk player), 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSync™, 애플TV™, 또는 구글 TV™), 게임 콘솔(예: Xbox™, PlayStation™), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 내비게이션(navigation) 장치, 위성 항법 시스템(GNSS(Global Navigation Satellite System)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
먼저, 도 1을 참조하여, 서버(110)가 사용자의 영상을 생성하여 사용자 단말(120)로 전송하고, 사용자 단말(120)이 수신한 영상을 표시하는 예를 서술한다.
도 1은 본 발명의 다양한 실시 예에 따른, 영상을 제공하는 서버 및 영상을 표시하는 사용자 단말을 나타내는 블록도이다.
도 1을 참조하면, 서버(110)는, 예를 들면, 메모리(111), 통신 회로(112) 및 적어도 하나의 프로세서(113) 등을 포함할 수 있고, 사용자 단말(120)은, 예를 들면, 적어도 하나의 센서(121), 사용자 입력 회로(122), 프로세서(123), 통신 회로(124), 디스플레이(125) 및 메모리(126) 등을 포함할 수 있다. 또한, 서버(110)와 사용자 단말(120)은 각각의 통신 회로(112, 124)를 통해 서로 통신할 수 있다. 다만, 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 서버(110) 및 사용자 단말(120)이 구현될 수도 있다.
본 발명의 일 실시 예에 따른 서버(110)의 구성을 설명한다.
메모리(111)는 서버(110)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 메모리(111)는 3D 컴퓨터 그래픽 소프트웨어, 가상의 3차원 공간에서 복수의 렌더링 화면을 렌더링하는 3D 어플리케이션 프로그램(예: 게임 또는 영화 등의 3D 프로그램) 및 상기 3D 어플리케이션 프로그램에 의해 렌더링된 복수의 2D 영상 데이터 등을 저장할 수 있다.
다양한 실시예에서, 메모리(111)는 통신 회로(112)가 사용자 단말(120)로부터 수신한 사용자의 시선 정보를 더 포함할 수 있다.
다양한 실시예에서, 메모리(111)는 영상에 포함된 객체(혹은, 특정 위치 및/또는 특정 방향)에 대한 선택 입력 정보를 포함할 수 있다. 객체에 대한 선택 입력 정보는 3D 어플리케이션 프로그램에 의해 생성된 것 또는 후술할 사용자 단말(120)의 사용자 입력 회로(122)에 의해 획득된 선택 입력에 기초하여 생성된 것일 수 있다.
통신회로(112)는 서버(110)가 사용자 단말(120)과 통신할 수 있도록 한다. 예를 들어, 통신회로(112)는 사용자 단말(120)로부터 사용자의 시선 정보를 획득할 수 있다. 통신회로(112)는 사용자 단말(120)로부터 시선 정보를 생성하기 위한 센싱 정보를 획득할 수도 있다. 또한, 통신회로(112)는 프로세서(113)가 생성한 영상을 사용자 단말(120)로 전송할 수 있다.
적어도 하나의 프로세서(113)는 메모리(111) 및 통신회로(112)와 기능적으로 연결되고, 서버(110)의 전반적인 동작을 제어할 수 있다. 예를 들어, 적어도 하나의 프로세서(113)는 가상의 3차원 공간 상 하나의 지점과 연관된 복수의 뷰 벡터(view vector)에 대응하는 복수의 영상을 생성(예: 렌더링)하고, 생성된 복수의 영상을 합성하고, 합성된 영상을 통신 회로(112)를 통해 사용자 단말(120)로 전송할 수 있다.
적어도 하나의 프로세서(113)는 복수의 렌더링 영역 중 적어도 하나의 렌더링 영역을 나머지 렌더링 영역보다 높은 품질로 렌더링할 수 있다. 프로세서(113)가 렌더링 영역을 렌더링하는 구체적인 동작은 아래에서 상세히 설명한다.
프로세서(113)는 복수의 영상을 스티칭(stitching) 등의 방법으로 하나의 영상으로 합성할 수 있다. 예를 들어, 합성된 영상은 VR(Virtual Reality) 기기 등을 통해 재생되는 360도 영상일 수 있다.
프로세서(113)는 높은 품질로 생성되는 적어도 하나의 영상의 뷰 프러스텀(view frustum)의 크기 설정, 렌더링 광원의 개수 설정, 렌더링 쉐이딩 설정, 해상도 설정, 렌더링 텍스처(Texture) 해상도 설정 및 모델링 데이터의 디테일 레벨(Level of Detail) 중 적어도 하나를 나머지 영상과 달리 할 수 있다. 프로세서(113)가 렌더링 품질에 차등을 두는 구체적인 내용은 후술한다.
예를 들어, 프로세서(113)는 CPU 프로세서 및/또는 GPU 프로세서로 구성될 수 있다. 프로세서는 복수개의 프로세서로 구성될 수 있다.
서버(110)가 복수개의 프로세서(113)(예: 복수개의 GPU 프로세서)를 포함하는 경우, 복수의 뷰 벡터에 대응하는 복수의 영상 각각은 복수의 프로세서(113) 각각에 의해 생성될 수 있다. 복수의 영상이 병렬적으로 생성 되는 것이다.
또한, 프로세서(113)는 서버(110)의 상태, 서버(110)와 사용자 단말(120) 간의 통신 상태, 사용자 단말(120)의 상태, 서버(110)의 성능 및 사용자 단말(120)의 성능 중 적어도 하나에 기초하여 결정된 품질로 렌더링할 수 있다.
예를 들어, 프로세서(113)는 전자 장치(서버(110) 또는 사용자 단말(120))의 상태(예: 프로세서(113, 123)의 가용량 등의 상태, 메모리(111,126)의 가용량 등의 상태, 전자 장치의 배터리 상태, 소모전류 상태, 발열 상태 등)가 양호하면 모든 렌더링 영역의 렌더링 품질을 동일하게 유지하고, 전자 장치(서버(110) 또는 사용자 단말(120))의 상태가 양호하지 않으면, 복수의 렌더링 영역 중 적어도 하나의 렌더링 영역의 렌더링 품질을 저하시킬 수 있다.
다른 예로써, 서버(110)의 프로세서(113)는 사용자 단말(120)과의 연결 시점 또는 연결된 도중에, RTT(Round Trip Time, 패킷 왕복 시간)을 확인하여 사용자 단말(120)과의 네트워크 상태를 체크할 수 있다. 예를 들어, 서버(110)의 프로세서(113)는 사용자 단말(120)로 전송되는 데이터 큐(data queue)에서 전송된 데이터 비트수를 일정 시간 동안 측정하여 사용자 단말(120)과의 네트워크 상태를 체크할 수 있다. 다양한 실시예에서, 데이터 큐는 응용 프로그램(예: 어플리케이션)에서 관리하는 데이터 큐일 수도 있고, 또는 통신 프로토콜 계층(예: TCP 프로토콜 등)에서 관리하는 통신 데이터 큐일 수도 있다.
다양한 실시예에 따르면, 서버(110)의 프로세서(113)는 체크한 네트워크 상태에 따라 복수의 렌더링 영역의 렌더링 품질을 설정할 수 있다. 예를 들어, 네트워크 상태가 좋지 않은 경우(예를 들어, 사용자 단말(120)에 RTT 시간이 임계값 이상인 경우), 서버의 프로세서(113)는 복수의 렌더링 영역 중 적어도 하나의 렌더링 영역 (예: 가상 카메라들의 이동 방향에 해당하는 씬)을 렌더링 영역으로 설정하여 고품질 렌더링하고, 나머지 렌더링 영역을 저품질로 렌더링할 수 있다.
이하에서는, 다시 도 1을 참조하여 본 발명의 일 실시 예에 따른 사용자 단말(120)의 구성을 설명한다.
적어도 하나의 센서(121)는 사용자의 시선과 관련된 센싱 정보를 획득할 수 있다. 예를 들어, 센서(121)는 사용자 단말(120)의 속도 변화 정보, 사용자 단말(120)의 기울어짐 정보, 사용자 단말(120)의 회전율 정보, 사용자 단말(120)이 디스플레이(125)에 표시하는 영상에 대한 정보 또는 사용자 시선 추적 정보 등을 획득할 수 있다.
적어도 하나의 센서(121)는 가속도 센서, 자이로 센서, 지자계 센서, 마그네틱 센서, 근접 센서, 제스처 센서, 그립 센서, 생체 센서 및 아이 트래커 중 적어도 하나를 포함할 수 있다. 다만, 센서(121)의 종류는 이러한 예시에 한정되지 않는다.
사용자 입력 회로(122)는 사용자로부터 가상의 3차원 공간 내 객체에 대한 선택 입력을 획득할 수 있다. 예를 들어, 사용자 입력 회로(122)는 사용자로부터 디스플레이(125)에 표시되는 객체(혹은, 특정 위치(position)이나 특정 방향(vector)(예를 들어, 사용자 시선 방향이나, 화면의 뷰 벡터))에 대한 선택 입력을 획득할 수 있다. 다른 실시예에서, 사용자 단말(120)은 사용자 입력 회로(122)를 포함하지 않을 수 있다.
프로세서(123)는 적어도 하나의 센서(121), 사용자 입력 회로(122), 통신회로(124), 디스플레이(125) 및 메모리(126)와 기능적/전기적으로 연결되고, 사용자 단말(120)의 전반적인 동작을 제어할 수 있다.
예를 들어, 프로세서(123)는 센서(121)가 획득한 센싱 정보를 기반으로 시선 정보를 생성하고, 통신회로(124)를 통해 시선 정보를 서버(110)로 전송할 수 있다.
또한, 다양한 실시 예에서, 프로세서(123)는 사용자 입력 회로(122)가 획득한 객체에 대한 선택 입력을 기반으로 선택 입력된 객체에 대한 정보를 통신회로(124)를 통해 서버(110)로 전송할 수 있다. 프로세서(123)는 통신회로(124)를 통해 수신한 영상을 디스플레이(125)를 통해 표시할 수 있다. 즉, 프로세서(123)는 수신한 영상을 가상의 3차원 공간 상에 매핑하고, 사용자 단말(120) 사용자의 시선(예: HMD 장치 사용자의 머리 움직임)에 대응하는 렌더링 영역을 렌더링 하여 영상을 디스플레이(125)에 표시할 수 있다.
메모리(126)는 사용자 단말(120)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 메모리(126)는 서버(110)로부터 수신된 영상을 사용하여 가상의 3차원 공간에서 영상을 렌더링하는 3D 어플리케이션 프로그램(예를 들어, 3D 뷰어 프로그램) 등을 저장할 수 있다.
한편, 도 1의 예시에서 서버(110)가 영상을 생성하고, 사용자 단말(120)은 서버(110)로부터 수시된 영상을 표시할 뿐만 아니라, 사용자 단말(120)은 스스로 영상을 생성하고 표시할 수도 있다.
사용자 단말(120)이 영상을 생성하는 경우, 사용자 단말(120)의 프로세서(123)는 도 1에서 프로세서(113)의 동작을 수행할 수 있고, 메모리(126)는 도 1에서 메모리(111)의 정보를 저장할 수 있다.
즉, 사용자 단말(120)의 프로세서(123)는 가상의 3차원 공간 상 하나의 지점과 연관된 복수의 뷰 벡터에 대응하는 복수의 영상을 생성하고, 생성된 복수의 영상을 합성할 수 있다. 한 실시 예에서, 프로세서(123)는 복수의 렌더링 영역 중 적어도 하나의 렌더링 영역을 나머지 렌더링 영역보다 높은 품질로 렌더링할 수 있다.
또한, 사용자 단말(120)의 메모리(126)는 사용자 단말(120)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터, 3D 컴퓨터 그래픽 소프트웨어, 가상의 3차원 공간에서 복수의 렌더링 화면을 렌더링하는 3D 어플리케이션 프로그램 및 상기 3D 어플리케이션 프로그램에 의해 렌더링된 복수의 2D 영상 데이터 등을 저장할 수 있다.
한편, 도 1의 예시에서 서버(110)는 영상을 생성하고, 제2 서버(미도시)로 생성한 영상을 전송할 수 있다. 사용자 단말(120)은 제2 서버로부터 영상을 수신할 수 있다. 예를 들어, 본 발명의 실시 예들에 따라 서버(110)는 사용자 단말(예: 개인 컴퓨터 또는 모바일 장치)형태의 전자 장치일 수 있다.
도 2는 본 발명의 다양한 실시 예에 따른, 영상을 제공하는 서버 및 영상을 표시하는 사용자 단말 내 소프트웨어 모듈을 나타내는 블록도이다.
도 2를 참조하면, 서버(210)는 3차원 어플리케이션(211), 3차원 렌더링 모듈(212), 복수의 2차원 씬(213), 영상 합성 모듈(214), 인코딩 모듈(215) 및 네트워크 통신 모듈(216) 등을 포함할 수 있다. 사용자 단말(220)은 네트워크 통신 모듈(221), 디코딩 모듈(222), 3차원 어플리케이션(223), 3차원 렌더링 모듈(224), 2차원 씬(225), 디스플레이 모듈(226) 및 사용자 입력 모듈(227) 등을 포함할 수 있다.
서버(210)의 3차원 어플리케이션(211), 3차원 렌더링 모듈(212), 영상 합성 모듈(214) 및 인코딩 모듈(215)은 프로세서(113)에 의한 메모리(111)에 저장된 명령어 또는 프로그램 코드의 실행을 통해 동작될 수 있고, 네트워크 통신 모듈(216)은 통신 회로(112)에 의해 동작될 수 있다.
또한, 네트워크 통신 모듈(221)은 통신 회로(124)에 의해 구현될 수 있고, 디코딩 모듈(222), 3차원 어플리케이션(223) 및 3차원 렌더링 모듈(224)은 프로세서(113)에 의한 메모리(111)에 저장된 명령어 또는 프로그램 코드의 실행을 통해 동작될 수 있다. 디스플레이 모듈(226)은 디스플레이(125)에 대응되고, 사용자 입력 모듈(227)은 사용자 입력 회로(122)에 대응될 수 있다.
서버(210)의 3차원 어플리케이션(211)은 3차원 모델링 월드 데이터를 스토리지(또는, 다른 전자 장치)로부터 리드(read)(또는, 수신)하여, 메모리에 로드(load)할 수 있다. 3차원 어플리케이션(211)은 3D 영화 또는 게임 어플리케이션 등일 수 있다.
3차원 어플리케이션(211)은 게임 또는 영화 등의 3차원 컨텐츠를 실행하여 디스플레이를 통해 표시될 수 있는 이미지 또는 동영상 등의 360도 컨텐츠를 생성할 수 있다. 발명의 실시예에 따르면, 3차원 어플리케이션(211)(예: 3차원 모델링 월드 데이터)은 후술할 복수의 가상 카메라를 포함할 수 있다.
3차원 어플리케이션(211)이 게임 어플리케이션인 경우, 다양한 실시예에서, 3차원 어플리케이션(211)은 게임 플레이어의 조작에 기초하여 360도 컨텐츠를 생성할 수 있다. 예를 들어, 게임 플레이어의 게임 내 캐릭터 움직임 조작에 따라 후술할 가상 카메라의 기준점이 움직일 수 있다. 또한, 다양한 실시예에서, 게임 플레이어의 시선 정보 또는 게임 플레이어의 조작에 따른 캐릭터 움직임 방향에 기초하여 고품질로 렌더링될 렌더링 영역이 선택될 수 있다.
3차원 렌더링 모듈(212)은 3차원 모델링 월드를 렌더링할 수 있고, 3차원 그래픽 라이브러리(예를 들어, openGL, openGL es, directX 등)를 포함할 수 있다. 다양한 실시예에 따르면, 3차원 어플리케이션(211) 또는 3차원 렌더링 모듈(212)은 각 가상 카메라가 병렬로 렌더링 되도록 설정할 수 있다. 예를 들어, 복수의 프로세서(113) 각각이 복수의 가상 카메라에 대응되는 영상을 렌더링 하도록 설정할 수 있다.
복수의 2차원 씬(213)은 3차원 렌더링 모듈(212)에 의해 렌더링된 2차원 씬(scene) 데이터이다. 본 발명에서, 2차원 씬(213)의 개수를 특정한 수로 한정하지 않는다. 일 실시 예에 따르면, 각 2차원 씬의 해상도는 서로 다를 수 있다. 예를 들어, 전, 후, 좌, 우, 상, 및 하 방향에 해당하는 6개의 씬을 렌더링 하는 서버는 6개의 2차원 씬 데이터를 가질 수 있고, 6개의 씬 중 상 및 하 방향에 해당하는 2차원 씬은 나머지 2차원 씬보다 해상도가 낮을 수 있다.
영상 합성 모듈(214)은 2차원 씬들을 한 장의 이미지(예를 들어, 360도 영상)로 합성할 수 있다. 일 실시 예에서, 합성 데이터 포맷은 컨텐츠 재생장치(예를 들어, 사용자 단말(120)에서 지원 가능한 형태일 수 있다. 예를 들어, 영상 합성 모듈(214)은 복수의 2차원 씬들을 큐브맵 형태 또는 등장방형(equirectangular) 등 컨텐츠 재생 장치에서 사용하는 3차원 텍스처 형태로 합성할 수 있다.
인코딩 모듈(215)은 합성된 이미지를 특정 포맷으로 압축 인코딩할 수 있다. 인코딩 모듈(215)이 인코딩하는 포맷의 예로는 MP4-H.264, H.265, jpeg, HDMI, DP(displayport) 포맷 등이 있다.
네트워크 통신 모듈(216)은 3G, 4G, WIFI 등 무선 통신 모듈과 USB, HDMI, DP(displayport) 등의 유선 통신 모듈일 수도 있다. 네트워크 통신 모듈(216)은 인코딩된 데이터를 외부 전자 장치로 전송할 수 있다.
사용자 단말(220)의 네트워크 통신 모듈(221)은 3G, 4G, WIFI 등 무선 통신 모듈과 USB, HDMI, DP(displayport) 등의 유선 통신 모듈일 수도 있다. 네트워크 통신 모듈(221)은 서버(210)로부터 360도 컨텐츠 데이터를 수신할 수 있다.
디코딩 모듈(222)은 수신한 데이터를 압축해제 및 디코딩하여 서버(210)의 영상 합성 모듈(215)이 합성한 이미지를 획득한다. 획득된 이미지는 3차원 어플리케이션에서 텍스쳐로 사용될 수 있다.
3차원 어플리케이션(223)은 수신한 360도 컨텐츠를 재생하는 360도 컨텐츠 뷰어로써, 360도 영상 뷰어의 3차원 모델링 데이터를 포함하는 3차원 어플리케이션일 수 있다.
360도 컨텐츠 뷰어는 360도 영상을 보는 사용자의 시선 정보 등에 기초하여 360도 영상을 렌더링할 수 있다. 즉, 상술한 게임 플레이어는 360도 컨텐츠가 생성되는 동작에 영향을 미칠 수 있고, 360도 영상을 보는 사용자는 360 컨텐츠가 재생되는 동작에 영향을 미칠 수 있다.
3차원 어플리케이션(223)은, 예를 들어, 360도 컨텐츠를 재생하기 위한 월드 모델 데이터를 포함하고, 월드 모델 안에 가상 카메라를 배치하여 사용자가 볼 뷰 포트(view port)를 렌더링할 수 있다. 3차원 어플리케이션(223)은 월드 모델에 합성된 360도 컨텐츠를 텍스쳐링(무비 텍스쳐) 할 수 있다. 일 실시 예에 따라, 3차원 어플리케이션(223)은 가상 카메라를 2개 사용해서 스테레오 렌더링을 할 수 있다.
일 실시 예에 따라, 3차원 어플리케이션(223)은 360도 컨텐츠에 포함된(서버(210)로부터 수신한) 가상 카메라 개수 정보 및/또는 씬 별 품질 정보에 대응하여 360도 월드의 구성을 정할 수 있다. 예를 들어, 가상 카메라의 개수에 따라 다른 월드 모델(예: 구, 원통, 큐빅, 옥타 모델 등)이 사용될 수 있다.
3차원 렌더링 모듈(224)은 3차원 모델링 월드를 렌더링하는 렌더링 모듈로써, 3D 그래픽 라이브러리(예를 들어, openGL, openGL es, directX 등)를 포함할 수 있다.
2차원 씬(225)은 렌더링 완료된 2차원 씬 데이터로써, 디스플레이 모듈(226)을 통해 출력될 수 있다. 2차원 씬(225)은 HMD(head mount display)의 렌즈 왜곡에 대응하여 왜곡 보상 처리되어 디스플레이에 출력될 수 있다.
디스플레이 모듈(226)은 사용자 단말(220)의 내부 또는 외부 디스플레이 장치로써, 2차원 씬(225)을 출력할 수 있다.
사용자 입력 모듈(227)은 가속도센서 등 다양한 센서를 포함하여 사용자의 움직임(예를 들어, 헤드 트래킹, 위치 트래킹, 눈 트래킹, 카메라 기반 손 제스처 인식 등)을 센싱할 수 있다.
다양한 실시예에서, 서버(210)는 영상 합성 모듈(214)을 포함하지 않을 수도 있다. 서버는 복수의 2차원 씬들을 네트워크 통신 모듈(216)을 통해 사용자 단말(220)로 전송할 수 있다. 실시예에서, 사용자 단말(220)은 영상 합성 모듈(미도시)을 더 포함하고, 수신받은 2차원 씬들을 3차원 텍스쳐 형태로 합성할 수 있다.
다양한 실시예에서, 서버(210)는 인코딩 모듈(215)을 포함하지 않을 수도 있다. 서버는 복수의 2차원 씬들(213) 또는 영상 합성 모듈(214)을 압축 인코딩을 수행하지 않고, 네트워크 통신 모듈(216)을 통해 사용자 단말(220)로 전송할 수 있다. 이에 관련하여, 사용자 단말(220)은 디코딩 모듈(222)를 포함하지 않을 수도 있다.
이하에서는 도 3 내지 도 8b를 참조하여, 도 1에 도시된 전자 장치(서버(110) 또는 사용자 단말(120))의 프로세서(113, 123)가 영상을 생성하는 구체적인 동작을 서술한다.
전술한 바와 같이 도 1에 도시된 서버(110)의 프로세서(113) 및 사용자 단말(120)의 프로세서(213) 모두 가상의 3차원 공간 상 하나의 지점과 연관된 복수의 뷰 벡터(view vector)에 대응하는 복수의 영상을 생성할 수 있다. 일 실시 예에 따르면, 서버(110)의 프로세서(113) 및 사용자 단말(120)의 프로세서(213)는 복수의 영상 중 적어도 하나의 영상이 나머지 영상보다 높은 품질로 렌더링되도록 영상을 생성하고, 적어도 하나의 영상을 포함한 복수의 영상을 합성할 수 있다. 이하에서는 도 1에 도시된 서버(110)의 프로세서(113) 및 사용자 단말의 프로세서(213)를 구분하지 않고, '프로세서'라고 통칭하여 설명한다.
프로세서(113, 123) 는 가상의 3차원 공간 상 하나의 지점과 연관된 복수의 뷰 벡터에 대응하는 복수의 영상을 생성할 수 있다. 예를 들어, 프로세서(113, 123)는 가상의 3차원 공간에서 복수의 뷰 벡터에 대응하는 가상 카메라를 기반으로 복수의 렌더링 영역을 설정하고, 설정된 렌더링 영역에 기초하여 복수의 영상을 렌더링하여 생성할 수 있다.
먼저, 도 3 내지 도 5를 참조하여, 본 발명의 다양한 실시 예에 따라 프로세서(113, 123)가 복수의 렌더링 영역을 설정하는 동작을 설명한다.
도 3은 본 발명의 일 실시 예에 따른, 가상의 3차원 공간(300)에 4개의 가상 카메라가 배치된 것을 나타내는 도면이다. 도 3에서는, 설명의 편의를 위해, 3차원 카테시안 좌표계(예:xyz좌표계)를 따르는 가상의 3차원 공간(300)(예:3D 모델링 월드)을, 한 축(예:z축)을 제외한 2차원 카테시안 좌표계(예:xy 좌표계)의 형태로 도시하였다. 가상의 3차원 공간(300)에는 다양한 3D 모델 객체들(예:331 등)이 포함되며, 특정 시점에서 렌더링하기 위해 가상의 3차원 공간 상 하나의 지점과 연관되어 적어도 하나의 가상 카메라의 위치가 정의된다.
도 3에서, 프로세서(113, 123)는 가상의 3차원 공간에서 전후좌우 방향으로 4개의 뷰 벡터(311a, 312a, 313a, 314a)에 대응하는 가상 카메라(311, 312, 313, 314)를 기반으로 복수의 렌더링 영역(301, 302, 303, 304)을 설정한다.
가상 카메라 및 렌더링 영역을 설정하는 방법은 3D 그래픽스 분야에서 일반적인 기술로서, 자세한 설명은 생략한다. 일 실시예에 따르면, 프로세서(113, 123)는 4개의 가상 카메라(311, 312, 313, 314)를 도 3에 도시된 바와 같이 기준점(특정 x,y,z좌표 기준점)에서 일정 거리 떨어진 곳에 위치시킬 수 있을 뿐만 아니라, 모든 가상 카메라(311, 312, 313, 314)를 기준점에 위치시킬 수도 있다.
일 실시예에 따르면, 프로세서(113, 123)는 복수의 가상 카메라(311, 312, 313, 314)에 해당하는 각각의 렌더링 영역(301, 302, 303, 304)을 설정할 수 있다. 도면에 도시되지는 않았지만 각 렌더링 영역의 크기, 예를 들어, 각 뷰 프러스텀(view frustum)의 크기는 서로 다르게 설정될 수 있다.
렌더링 영역(301, 302, 303, 304) 내에 존재하는 객체들(331)의 이미지는 도 3의 각 가상 카메라(311, 312, 313, 314) 정면에 도시된 평면(321, 322, 323, 324)에 맺히고, 이러한 객체들의 이미지는 프로세서(113, 123)에 의해 렌더링될 수 있다.
도 4는 본 발명의 일 실시 예에 따른, 가상의 3차원 공간에 3개의 가상 카메라가 배치된 것을 나타내는 도면이다.
도 4에서, 프로세서(113, 123)는 가상의 3차원 공간(400)에서 세 방향으로 3개의 뷰 벡터(411a, 412a, 413a)에 대응하는 가상 카메라(411, 412, 413)를 기반으로 복수의 렌더링 영역(401, 402, 403)을 설정한다.
일 실시예에 따르면, 프로세서(113, 123)는 3개의 가상 카메라(411, 412, 413)를 도 4에 도시된 바와 같이 기준점에서 일정 거리 떨어진 곳에 위치시킬 수 있을 뿐만 아니라, 모든 가상 카메라(411, 412, 413)를 기준점에 위치시킬 수도 있다.
일 실시예에 따르면, 프로세서(113, 123)는 복수의 가상 카메라 각각의 렌더링 영역(401, 402, 403)을 설정할 수 있고, 도면에 도시되지는 않았지만, 각 렌더링 영역(401, 402, 403) 크기, 즉 각 뷰 프러스텀(view frustum)의 크기는 서로 다르게 설정될 수 있다.
렌더링 영역(401, 402, 403) 내에 존재하는 객체(431)들의 이미지는 도 4의 각 가상 카메라(411, 412, 413) 정면에 도시된 평면(421, 422, 423)에 맺히고, 이러한 객체(531)들의 이미지는 프로세서(113, 123)에 의해 렌더링될 수 있다.
도 5는 본 발명의 일 실시 예에 따른, 가상의 3차원 공간에 2개의 가상 카메라가 배치된 것을 나타내는 도면이다.
도 5에서, 프로세서(113, 123)는 가상의 3차원 공간(500)에서 서로 반대되는 두 방향으로 2개의 뷰 벡터(511a, 512a)에 대응하는 가상 카메라(511, 512)를 기반으로 복수의 렌더링 영역(501, 502)을 설정한다.
일 실시예에 따르면, 프로세서(113, 123)는 2개의 가상 카메라(511, 512)를 기준점에 위치시킬 수 있을 뿐만 아니라, 도 5에 도시된 바와 같이 기준점에서 일정 거리 떨어진 곳에 위치시킬 수 있다. 예를 들어, 프로세서(113, 123)는 모든 가상 카메라(511, 512)를 xyz 좌표계에서 정해진 오프셋(offset)만큼 이동한 위치에 배치될 수 있다. 즉 가상 카메라들(511, 512)은 인접한 서로 다른 지점에 위치할 수 있다.
일 실시예에 따르면, 프로세서(113, 123)는 복수의 가상 카메라(511, 512)에 대응하는 각각의 렌더링 영역(501, 502)을 설정할 수 있다. 도면에 도시되지는 않았지만, 각 렌더링 영역(501, 502)의 크기, 예를 들어 각 뷰 프러스텀의 크기는 서로 다르게 설정될 수 있다.
렌더링 영역(501, 502) 내에 존재하는 객체(531 등)들의 이미지는 도 5의 각 가상 카메라 정면에 도시된 평면(521, 522)에 맺히고, 이러한 객체(531)들의 이미지는 프로세서(113, 123)에 의해 렌더링될 수 있다.
다양한 실시예에 따르면, 가상 카메라(311, 312, 313, 314, 411, 412, 413, 511, 512)의 위치 및 뷰 벡터(311a, 312a, 313a, 314a, 411a, 412a, 413a, 511a, 512a) 방향은 임의로(예를들어, 컨텐츠 제조자 또는 컨텐츠 플레이어에 의해) 설정될 수 있을 뿐만 아니라, 사용자(예를들어, 컨텐츠 플레이어 또는 360도 사용자 단말의 사용자)의 시선 정보를 기반으로 복수의 가상 카메라(311, 312, 313, 314, 411, 412, 413, 511, 512) 중 어느 하나의 가상 카메라의 뷰 벡터 방향이 사용자의 시선 방향과 일치하도록 설정될 수 있다.
다양한 실시예에 따르면, 상기 도3 내지 도5에서 설명한 복수의 카메라의 구성은, 전자 장치(110,120) 및/또는 네트워크의 상태에 따라 변경될 수 있다. 이하에서는, 도 6a 내지 도 6b를 참조하여, 본 발명의 다양한 실시 예에 따라 프로세서(113, 123)가 사용자의 시선 정보에 기초하여 적어도 하나의 렌더링 영역을 선택하고, 선택된 적어도 하나의 렌더링 영역을 나머지 렌더링 영역보다 높은 품질로 렌더링하는 동작을 설명한다. 다만, 프로세서(113, 123)가 영상을 선택하기 위해 기초로 하는 정보는 사용자의 시선 정보에 한정되지 않는다.
전술한 바와 같이 도 1에 도시된 서버(110)의 프로세서(113)는 통신 회로(112)를 통해 사용자의 시선 정보를 획득할 수 있고, 사용자 단말(120)의 프로세서(113, 123)는 센서(121)를 통해 사용자의 시선 정보를 획득할 수 있다.
실시예에 따르면, 프로세서(113, 123)(예:3차원 어플리케이션(211) 또는 3차원 렌더링 모듈(212))는 뷰 벡터 중 사용자의 시선 방향과 이루는 각이 가장 작은 뷰 벡터에 대응하는 렌더링 영역을 나머지 렌더링 영역보다 높은 품질로 렌더링할 수 있다.
또한, 프로세서(113, 123)는 사용자의 시선 방향과 이루는 각이 가장 작은 뷰 벡터에 대응하는 렌더링 영역뿐만 아니라, 뷰 벡터 중 사용자의 시선 방향과 이루는 각이 2번째로 작은 뷰 벡터에 대응하는 렌더링 영역을 나머지 영상보다 높은 품질로 렌더링할 수 있다.
도 6a는 본 발명의 일 실시 예에 따른, 가상의 3차원 공간에서 사용자의 시선 방향이 가상 카메라의 뷰 벡터 방향과 일치하는 경우를 나타내는 도면이다. 도 6b는 본 발명의 일 실시 예에 따른, 가상의 3차원 공간에서 사용자의 시선 방향이 가상 카메라의 뷰 벡터 방향과 일치하지 않는 경우를 나타내는 도면이다.
도 6a를 참조하면, 프로세서(113, 123)는 사용자의 시선 정보에 포함된 사용자의 시선 방향을 복수의 뷰 벡터 중 하나에 대응시킬 수 있다.
도 6a에서 사용자의 시선 방향은 가상 카메라(611)의 제1 뷰 벡터(611a) 방향과 일치한다. 따라서 복수의 뷰 벡터 중 사용자의 시선 방향과 이루는 각이 가장 작은 뷰 벡터는 가상 카메라(611)의 제1 뷰 벡터(611a)이다. 프로세서(113, 123)는 제1 뷰 벡터(611a)에 대응하는 가상 카메라(611)를 선택하고, 선택된 가상 카메라(611)의 렌더링 영역을 다른 방향을 향하는 뷰 벡터(612a, 613a, 614a)에 대응하는 가상 카메라(612,613,614)들의 렌더링 영역보다 높은 품질로 렌더링할 수 있다. 즉, 프로세서(113, 123)는 선택된 가상 카메라(611) 에 대응하는 렌더링 영역(601)을 나머지 가상 카메라의 렌더링 영역(602, 603, 604)보다 높은 품질로 렌더링할 수 있다.
다른 실시 예로서, 전술한 바와 같이 사용자의 시선 정보를 기반으로 복수의 가상 카메라(611, 612, 613, 614) 중 어느 하나의 가상 카메라의 뷰 벡터 방향이 사용자의 시선 방향과 일치하도록 설정될 수 있다. 이러한 경우, 사용자의 시선 방향은 어느 하나의 가상 카메라의 뷰 벡터 방향과 항상 일치하므로, 사용자의 시선 방향과 일치하는 뷰 벡터에 대응하는 가상 카메라의 렌더링 영역이 다른 뷰 벡터에 대응하는 가상 카메라들의 렌더링 영역 보다 높은 품질로 렌더링될 수 있다.
도 6b에서 사용자의 시선 방향은 가상 카메라(611)의 뷰 벡터 방향(611a)과 가상 카메라(612)의 뷰 벡터 방향(612a) 사이이다.
프로세서(113, 123)가 뷰 벡터 중 사용자의 시선 방향과 이루는 각이 가장 작은 뷰 벡터에 대응하는 가상 카메라를 선택하는 경우, 사용자의 시선 방향과 가상 카메라(611)의 뷰 벡터 방향(611a)이 이루는 각이 더 작으므로, 프로세서(113, 123)는 뷰 벡터(611a)에 대응하는 가상 카메라(611)를 선택하고, 선택된 가상 카메라(611)의 렌더링 영역을 다른 방향을 향하는 뷰 벡터(612a, 613a, 614a)에 대응하는 가상 카메라(612, 613, 614)들의 렌더링 영역보다 높은 품질로 렌더링할 수 있다
그러나 도 6b의 예시에서 뷰 벡터(612a)에 대응하는 가상 카메라(612)의 영상이 사용자 시야에 들어올 수 있다. 따라서, 실시예에 따르면, 프로세서(113, 123)는 뷰 벡터(611a, 612a, 613a, 614a) 중 사용자의 시선 방향과 이루는 각이 가장 작은 뷰 벡터(611a)에 대응하는 가상 카메라(611) 및 뷰 벡터 중 사용자의 시선 방향과 이루는 각이 두 번째로 작은 뷰 벡터(612a)에 대응하는 가상 카메라(612)를 선택하고, 선택한 가상 카메라(611, 612)의 렌더링 영역을 다른 방향을 향하는 뷰 벡터(613a, 614a)에 대응하는 가상 카메라들의 렌더링 영역보다 높은 품질로 렌더링할 수 있다.
도 6a 및 도 6b의 예시는 사용자의 시선 정보에 기초하여 적어도 하나의 렌더링 영역을 선택하는 것이 설명되지만, 다양한 실시예에 따르면, 프로세서(113, 123)는 가상 공간 상 가상의 시선 정보(예:3D 캐릭터의 시선 정보), 복수의 가상 카메라들의 기준점의 움직임 방향 또는 3차원 어플리케이션(211,223)에 미리 설정된 값(예:시간, 가상 위치에 대응하여 컨텐츠 제작 시에 설정된 값) 등에 기초하여 나머지 렌더링 영역보다 높은 품질로 렌더링할 적어도 하나의 렌더링 영역을 선택할 수 있다.
예를 들어, 프로세서(113, 123)는 뷰 벡터(611a, 612a, 613a, 614a) 중 기준점의 움직임 방향과 이루는 각이 가장 작은 뷰 벡터에 대응하는 렌더링 영역을 선택할 수 있다. 또한, 프로세서(113, 123)는 뷰 벡터(611a, 612a, 613a, 614a) 중 기준점의 움직임 방향과 이루는 각이 가장 작은 뷰 벡터에 대응하는 렌더링 영역 및 뷰 벡터 중 기준점의 움직임 방향과 이루는 각이 두 번째로 작은 뷰 벡터에 대응하는 렌더링 영역을 선택할 수 있다.
또한, 프로세서(113, 123)는 사용자의 시선 정보에 기초하여 높은 품질로 렌더링할 렌더링 영역을 선택하는 것과 마찬가지로, 가상 공간 상 가상의 시선 정보에 기초하여 렌더링 영역을 선택할 수 있다.
또한, 프로세서(113, 123)는 사용자의 시선 정보, 가상 공간 상 가상의 시선 정보, 기준점의 움직임 방향 및 3차원 어플리케이션에 미리 설정된 값 중 둘 이상에 기초하여 영상을 선택할 수도 있다.
이하에서는, 도 7을 참조하여, 본 발명의 다양한 실시 예에 따라 프로세서(113, 123)가 객체에 대한 선택 입력 정보에 기초하여 적어도 하나의 렌더링 영역을 선택하거나 영상의 소리에 기초하여 적어도 하나의 렌더링 영역을 선택하고, 선택된 적어도 하나의 렌더링 영역을 나머지 렌더링 영역보다 높은 품질로 렌더링하는 동작을 설명한다.
실시예에 따르면, 도 1에 도시된 서버의 프로세서(113, 123)는 가상의 3차원 공간 내 객체(721)(또는 특정 위치 및/또는 시간)에 대한 선택 입력 정보를 획득할 수 있다. 예를 들어, 프로세서(113, 123)는 컨텐츠 제작자에 의해 선택된 객체 또는 특정 위치 및/또는 시간에 대한 입력 정보를 획득할 수 있고, 사용자 단말(120)의 사용자 입력 회로(122)를 통해 사용자에 의해 선택된 객체 또는 특정 위치에 대한 입력 정보를 획득할 수 있다.
또한, 3차원 공간은 소리(예: 특정 소리가 나는 3D 객체 731)를 포함할 수 있다.
일 실시예에서, 프로세서(113, 123)는 복수의 가상 카메라의 렌더링 영역 중 선택 입력된 객체를 포함하는 적어도 하나의 가상 카메라의 렌더링 영역을 나머지 가상 카메라의 렌더링 영역보다 높은 품질로 렌더링할 수 있다. 또한, 일 실시예에서, 프로세서(113, 123)는 복수의 가상 카메라 중 소리(예: 객체 또는 위치)를 포함하는 적어도 하나의 가상 카메라의 렌더링 영역을 나머지 가상 카메라의 렌더링 영역보다 높은 품질로 렌더링할 수 있다.
도 7은 본 발명의 일 실시 예에 따라 가상의 3차원 공간에서 사용자로부터 선택 입력된 객체와 가상의 3차원 공간에서 소리가 발생한 지점을 나타내는 도면이다.
도 7을 참조하면, 사용자로부터 선택 입력된 객체(721)는 뷰 벡터(711a)에 대응하는 가상 카메라(711)의 렌더링 영역에 포함된다. 프로세서(113, 123)는 선택 입력된 객체(721)를 포함하는 렌더링 영역을 선택하고, 다른 방향을 향하는 뷰 벡터(712a, 713a, 714a)에 대응하는 렌더링 영역보다 높은 품질로 렌더링할 수 있다. 즉, 프로세서(113, 123)는 선택된 영상에 대응하는 렌더링 영역(701)을 나머지 렌더링 영역(702, 703, 704)보다 높은 품질로 렌더링할 수 있다.
도 7을 참조하면, 뷰 벡터(711a)에 대응하는 가상 카메라(711)의 렌더링 영역에 소리(731)가 나는 객체가 포함될 수 있다. 프로세서(113, 123)는 소리(731)가 나는 객체를 포함하는 렌더링 영역을 선택하고, 다른 방향을 향하는 뷰 벡터(712a, 713a, 714a)에 대응하는 렌더링 영역보다 높은 품질로 렌더링할 수 있다.
이하에서는, 도 8a 및 도 8b를 참조하여, 본 발명의 다양한 실시 예에 따라 프로세서(113, 123)가 가상의 3차원 공간에서 복수의 뷰 벡터의 기준점의 이동 방향에 기초하여 적어도 하나의 렌더링 영역을 선택하고, 선택된 적어도 하나의 렌더링 영역을 나머지 렌더링 영역보다 높은 품질로 렌더링하는 동작으로써 뷰 프러스텀의 크기를 조정하는 동작을 설명한다. 다만, 프로세서(113, 123)가 렌더링 영역을 선택하기 위해 기초로 하는 정보는 기준점의 이동 방향에 한정되지 않는다.
복수의 뷰 벡터의 기준점은 가상의 3차원 공간(800)에서 이동할 수 있다. 즉, 복수의 뷰 벡터의 기준점이 이동한다는 것은 복수의 가상 카메라(811, 812, 813, 814)가 가상의 3차원 공간(800)에서 함께 이동한다는 것이다.
프로세서(113, 123)는 복수의 영상 중 가상의 3차원 공간(800)에서 기준점의 이동 방향에 대응되는 뷰 벡터에 대응하는 렌더링 영역을 선택하고, 선택된 렌더링 영역을 나머지 뷰 벡터에 대응하는 렌더링 영역보다 높은 품질로 렌더링할 수 있다.
도 8a는 본 발명의 일 실시 예에 따라 가상의 3차원 공간에서 가상 카메라가 이동하는 방향을 나타내는 도면이다.
도 8b는 본 발명의 일 실시 예에 따라 가상의 3차원 공간에서 가상 카메라의 이동 방향에 기초하여 뷰 프러스텀의 크기가 조정된 것을 나타내는 도면이다.
도 8a를 참조하면, 복수의 뷰 벡터의 기준점은 전방을 향하는 가상 카메라(813)의 뷰 벡터의 방향으로 이동한다. 뷰 벡터의 기준 점은, 예를 들어, 가상의 3차원 공간에 배치된 캐릭터의 위치에 대응될 수 있다. 여기서 캐릭터는 사용자에 의해 제어되는 캐릭터(예: 게임의 주인공)를 의미할 수 있다. 프로세서(113, 123)는 복수의 뷰 벡터의 기준점이 이동하는 방향에 대응되는 전방을 향하는 가상 카메라(813)의 뷰 벡터에 대응하는 렌더링 영역 및 후방을 향하는 가상 카메라(811)의 뷰 벡터에 대응하는 렌더링 영역을 선택하고, 선택된 렌더링 영역을 다른 방향을 향하는 뷰 벡터에 대응하는 렌더링 영역보다 높은 품질로 렌더링 할 수 있다. 즉, 프로세서(113, 123)는 선택된 (801, 803)을 나머지 렌더링 영역(802, 804)보다 높은 품질로 렌더링할 수 있다.
도 8b에 도시된 것과 같이, 프로세서(113, 123)는 전방 가상 카메라(813)와 후방 가상 카메라(811)에 대응하는 렌더링 영역(801, 803)의 뷰 프러스텀의 크기가 나머지 렌더링 영역(802, 804)의 뷰 프러스텀보다 크도록 설정할 수 있다. 뷰 프러스텀의 크기가 크면 가상 카메라로부터 더 멀리 있는 객체가 렌더링 영역에 포함될 수 있으므로, 뷰 프러스텀의 크기가 큰 렌더링 영역은 뷰 프러스텀의 크기가 작은 렌더링 영역보다 높은 품질로 렌더링될 수 있다. 다양한 실시예에서, 프로세서(113, 123)는 뷰 프러스텀의 니어(near) 평면의 거리를 조절하는 방식으로, 렌더링 영역의 크기를 조절할 수 있다.
다만, 뷰 벡터의 기준의 이동 방향에 대응되는 렌더링 영역을 이동방향과 일치하는 뷰 벡터에 대응되는 렌더링 영역으로 한 것은 예시에 불과하고, 프로세서(113, 123)는 좌방 가상 카메라(812) 또는 우방 가상 카메라(814)의 렌더링 영역(802, 804)을 전방 가상 카메라(813)와 후방 가상 카메라(811)의 렌더링 영역보다 높은 품질로 렌더링할 수도 있다.
또한, 도 8a 및 도8b의 예시에서, 프로세서(113, 123)는 기준점의 움직임 방향에 기초하여 렌더링 영역을 선택하고 있으나, 프로세서(113, 123)는 사용자의 시선 정보, 가상 공간 상 가상의 시선 정보 또는 360도 컨텐츠에 미리 설정된 값 등에 기초하여 렌더링 영역을 선택할 수 있다.
또한, 프로세서(113, 123)는 사용자의 시선 정보, 가상 공간 상 가상의 시선 정보, 기준점의 움직임 방향 및 360도 컨텐츠에 미리 설정된 값 중 둘 이상에 기초하여 렌더링 영역을 선택할 수도 있다.
도 6a 내지 도 8b를 참조한 설명에서, 복수의 카메라 중 1개 또는 2개의 카메라의 렌더링 영역이 나머지 카메라의 렌더링 영역보다 높은 품질로 렌더링되는 예시가 서술되었다. 일 실시 예에 따라, 전술한 실시 예들이 조합되어 렌더링 품질이 설정될 수 있다.
일 실시 예에서, 프로세서는 사용자의 시선 정보 및 기준점의 이동 방향 모두에 기반하여 렌더링 품질을 결정할 수 있다. 예를 들어, 사용자의 시선 방향이 제1 뷰 벡터에 대응되고, 기준점의 시선 방향이 제1 뷰 벡터의 방향과 다른 제2 뷰 벡터에 대응되는 경우, 프로세서는 제1 방향에 대응되는 가상 카메라의 렌더링 영역 및 제2 방향에 대응되는 가상 카메라의 렌더링 영역 모두를 다른 가상 카메라의 렌더링 영역보다 높은 품질로 렌더링 할 수 있다.
일 실시 예에서, 프로세서는 모든 가상 카메라의 렌더링 영역을 고품질로 설정할 수 있고, 고품질로 설정되는 렌더링 영역 간에도 차등을 둘 수 있다.
전술한 다양한 실시 예 외에도 프로세서가 각 가상 카메라에 대응하는 각 렌더링 영역의 렌더링 품질을 차등 설정하는 방법을 설명한다.
일 실시 예에 따라 복수의 렌더링 영역 중 적어도 하나의 렌더링 영역의 품질은 미리 정의될 수 있다. 예를 들어, 전후좌우와 같이 가상의 3차원 공간의 xy 평면에 수평한 뷰 벡터에 대응되는 렌더링 영역의 렌더링 품질은 고품질로 설정되고, 위, 아래와 같이 가상의 3차원 공간의 xy 평면에 수직인 뷰 벡터에 대응되는 렌더링 영역의 렌더링 품질은 저품질로 설정될 수 있다. (3D 컨텐츠 프로그램에 따라 3차원 공간은 xz 평면으로 전후좌우에 해당하는 좌표를, y축으로 위아래에 해당하는 좌표를 표현할 수 있다. 본 발명의 다양한 실시 예에서, 특정 축이 특정 방향으로 한정되지 않는다.)
일 실시 예에 따라 프로세서(113, 123)는 지정된 시간 또는 가상 카메라가 가상의 3차원 공간 내 정해진 위치에 있을 때, 복수의 가상 카메라에 대응하는 렌더링 영역 중 적어도 하나의 렌더링 영역의 렌더링 품질을 고품질 또는 저품질로 설정할 수 있다.
이하에서는, 프로세서(113, 123)가 각 가상카메라에 대응하는 각 렌더링 영역의 렌더링 품질에 차등을 두는 방법에 대한 다양한 예시를 설명한다.
일 실시 예에 따라 프로세서(113, 123)는 복수의 렌더링 영역 중 렌더링을 하지 않는 영역을 설정할 수 있다. 예를 들어, 프로세서(113, 123)는 위나 아래 방향의 뷰(view)에 대응하는 렌더링 영역이 렌더링되지 않도록 설정할 수 있다. 다양한 실시 예에 따라, 프로세서(113, 123)는 렌더링되지 않는 영역들을 특정 색, 이미지 또는 이전에 렌더링된 영상으로 대체할 수 있다.
일 실시 예에 따라 프로세서(113, 123)는 런타임 중에 일부 씬을 렌더링하지 않을 수 있다. 예를 들어, 프로세서는 전자장치(110, 120, 210)의 성능 상태(CPU/GPU 가용량, 발열, 계산량, 배터리 잔량, 3D 컨텐츠 프로그램의 정해진 설정 등), 네트워크 통신 상태(예를 들어, bandwidth) 또는 사용자 단말의 상태 등에 기반하여 렌더링 영역의 렌더링을 하지 않을 수 있다. 예를 들어, 앞, 뒤, 좌, 우, 위, 아래 방향의 영상 중 한 방향에 대응되는 렌더링 영역을 렌더링하지 않을 수 있다.
예를 들어, 프로세서(113, 123)는 사용자 단말의 관심 영역의 뒷 방향에 있는 가상 카메라의 렌더링 영역을 렌더링하지 않을 수 있다. 다양한 실시 예에 따르면, 렌더링 되지 영상은 복수의 렌더링 영상들의 합성 단계에서 특정 색, 이미지 또는 이전에 렌더링된 영상으로 대체될 수 있다.
일 실시 예에 따라 프로세서(113, 123)는 런타임 중(즉, 3D 컨텐츠 프로그램 실행 중)에 서버(110)의 상태, 서버(110)와 사용자 단말(120) 간의 통신 상태 또는 사용자 단말(120)의 상태에 기초하여 가상 카메라의 개수와 위치를 조정할 수 있다. 예를 들어, 프로세서(113, 123)는 도 3과 같이 4개의 가상 카메라로 렌더링을 하다가 도 4와 같이 3개의 카메라로 렌더링하도록 변경할 수 있다. 즉, 프로세서(113, 123)는 각 가상 카메라의 영역 설정(예를 들어, 뷰 프러스텀 설정)을 변경할 수 있다.
다양한 실시 예에서, 프로세서(113, 123)는 전자 장치의 성능 상태 및/또는 네트워크 통신 상태에 따라 가상 카메라의 개수와 위치를 조정할 수 있다. 다양한 실시 예에서, 이러한 설정 변경(예를 들어, 가상 카메라의 개수, 뷰 프러스텀 변경)에 대한 정보는 사용자 단말(120)로 전송될 수 있다.
일 실시 예에 따라 가상의 3차원 공간에는 복수의 광원(light source)이 배치될 수 있다. 프로세서(113, 123)는 렌더링 영역을 렌더링할 때 각 광원이 객체의 표면에 반사되는 정도를 계산하므로, 광원의 개수가 많아지면 계산 복잡도가 커진다.
따라서 프로세서(113, 123)는 낮은 품질로 렌더링되는 렌더링 영역에 적용되는 광원 개수가 적도록 조절할 수 있다. 예를 들어, 프로세서(113, 123)는 가상의 3차원 공간에 설정된 복수의 광원 중 기본 빛인 앰비언트 라이트(Ambient light)를 적용하되, 일부 포인트 라이트(Point light) 또는 반사 광(Specular light)을 적용하지 않을 수 있다. 다양한 실시예에 따르면, 프로세서(113, 123)는 낮은 품질로 렌더되는 영상에 가상 카메라에서 멀리 떨어진 포인트 라이트 또는 반사광을 적용하지 않을 수 있다.
일 실시 예에 따라 프로세서(113, 123)는 렌더링을 수행할 때, 쉐이딩(Shading) 기법을 적용할 수 있고, 적용하는 쉐이딩 기법 알고리즘을 변경할 수 있다.
가상의 3차원 공간에서 프로세서(113, 123)는 빛의 반사효과에 보간(interpolation)을 적용하기 위한 다양한 쉐이딩 기법을 사용할 수 있다. 예를 들어, 프로세서(113, 123)는 플랫 쉐이딩(Flat Shading), 고러드 쉐이딩(Gouraud Shading), 퐁 쉐이딩(Phong Shading) 등의 쉐이딩 기법을 적용할 수 있다. 프로세서(113, 123)가 쉐이딩 기법을 적용하기 위해 필요한 계산량은 퐁 쉐이딩 기법, 고러드 쉐이딩 기법 및 플랫 쉐이딩 기법 순으로 많다.
일 실시 예에 따라 프로세서(113, 123)는 저품질 렌더링으로 설정된 가상 카메라의 영상을 렌더링 할 때 고품질 렌더링으로 설정된 영상과 다른 쉐이딩 기법(알고리즘)을 적용할 수 있다. 예를 들어, 저품질 렌더링으로 설정된 렌더링 영역에는 플랫 쉐이딩 기법을 적용하고, 고품질 렌더링으로 설정된 렌더링 영역에는 퐁 쉐이딩 기법을 적용할 수 있다.
일 실시 예에 따라 쉐이딩 기법은 가상의 3차원 공간에서 객체별로 설정될 수 있다. 퐁 쉐이딩 기법으로 설정된 객체라고 해도, 해당 객체가 저품질 렌더링으로 설정된 렌더링 영역에 속하는 경우, 고러드 쉐이딩 기법이 적용될 수 있다.
일 실시 예에 따라 프로세서(113, 123)가 렌더링을 수행할 때 3차원 객체들은 정해진 해상도(예를 들어, HD해상도)를 가진 픽셀 버퍼에 래스터화(Rasterization)될 수 있다. 다양한 실시예에 따르면, 저품질 렌더링으로 설정된 렌더링 영역은 고품질 렌더링으로 설정된 영상보다 더 작은 해상도의 렌더링 픽셀 버퍼를 가질 수 있다.
일 실시 예에 따라 프로세서(113, 123)는 3차원 객체에 2차원 텍스쳐 이미지를 맵핑할 수 있다. 예를 들어, 텍스쳐 이미지는 밉맵핑(mipmapping)기법에 의해 다양한 해상도로 저장될 수 있다.
다양한 실시예에 따르면, 프로세서(113, 123)는 고품질 렌더링 영역에 텍스쳐(들)의 밉맵핑 기법을 사용하고, 저품질 렌더링 영역에 텍스쳐의 밉맵핑 기법을 사용하지 않을 수 있다. 혹은, 반대로, 프로세서(113, 123)는 저품질 렌더링 영역에 텍스쳐(들)의 밉맵핑 기법을 사용하고, 고품질 렌더링 영역에 텍스쳐의 밉맵핑 기법을 사용하지 않을 수도 있다.
다른 실시예에 따라, 프로세서(113, 123)는 복수의 영상 중, 저품질 렌더링 영역을 렌더링 할 때 낮은 해상도를 가지는 텍스쳐를 사용할 수 있다. 예를 들어, 전자 장치는 적어도 일부의 3d 객체에 대하여, 고해상도 텍스쳐와 저해상도 텍스쳐를 별도로 구비할 수 있다. 프로세서(113, 123)는 복수의 영상 중, 저품질 렌더링 영역을 렌더링 할 때 적어도 일부 3d 객체에 대하여 저해상도 텍스쳐들을 사용(load)하여, 텍스쳐링을 수행할 수 있다.
다양한 실시예에 따르면, 프로세서(113, 123)는 저품질 렌더링으로 설정된 렌더링 영역과 고품질 렌더링으로 설정된 렌더링 영역이 포함하는 3D 객체 모델의 디테일한 정도(level of detail 또는 모델링 데이터의 정점의 개수)를 서로 다르게 설정할 수 있다. 예를 들어, 고품질 렌더링으로 설정된 렌더링 영역에서 렌더링 되는 경우와 저품질 렌더링으로 설정된 렌더링 영역에서 렌더링 되는 경우에 동일한 3D 객체 모델은 서로 다른 정점 개수를 가질 수 있다. 다른 예를 들어, 고품질 렌더링으로 설정된 가상 카메라의 LOD(level of detail) 설정 값(즉, 카메라에서 멀어지는 거리에 따른 모델링 데이터들의 복잡도 감소값)과, 저품질 렌더링으로 설정된 가상 카메라의 LOD 설정값이 다를 수 있다.
도 9는 본 발명의 일 실시 예에 따라 전자 장치가 영상을 합성하고 외부 전자 장치에 합성한 영상을 전송하는 방법을 나타내는 흐름도이다.
도 9를 참조하면, 본 발명의 일 실시 예에 따른 전자 장치(서버(110))가 영상을 합성하고 외부 전자 장치(사용자 단말(120))에 합성한 영상을 제공하는 방법은 복수의 뷰 벡터에 대응하는 렌더링 영역을 렌더링하여 복수의 영상을 생성하는 동작(901), 복수의 영상을 하나의 영상으로 합성하는 동작(903), 합성된 영상을 인코딩하는 동작(905) 및 합성된 영상을 외부 전자 장치로 전송하는 동작(907)을 포함할 수 있다.
동작 901에서, 전자 장치의 프로세서(113)는 복수의 뷰 벡터에 대응하는 렌더링 영역을 렌더링하여 복수의 영상을 생성할 수 있다. 일 실시 예에서, 프로세서(113)는 복수의 가상 카메라의 위치 및 각 가상 카메라에 대응하는 뷰 벡터의 위치와 개수를 설정할 수 있다. 전술한 바와 같이 프로세서(113)는 사용자의 시선 정보, 가상 공간 상 가상의 시선 정보, 기준점의 움직임 방향, 선택 입력 정보 또는 컨텐츠에 미리 설정된 값 등에 기반하여 복수의 뷰 벡터에 대응하는 복수의 렌더링 영역의 렌더링 품질이 다르도록 렌더링할 수 있다.
동작 903에서, 전자 장치의 프로세서(113)는 렌더링된 적어도 하나의 영상을 포함한 복수의 영상을 합성할 수 있다. 프로세서(113)는 생성된 복수의 영상을 스티칭하여 하나의 영상으로 합성할 수 있고, 합성된 하나의 영상은 360도 영상일 수 있다.
동작 905에서, 전자 장치의 프로세서(113)는 합성된 영상을 인코딩할 수 있다. 프로세서는 MP4-H.264, H.265, jpeg, HDMI, DP(displayport) 포맷 등의 포맷을 이용하여 합성된 영상을 인코딩할 수 있다. 다양한 실시예에서, 동작 905는 생략될 수 있다.
동작 907에서, 전자 장치의 프로세서(113)는 통신 회로(112)를 통해 합성된 영상을 다른 전자 장치(예:사용자 단말(120) 또는 컨텐츠 서버)로 전송할 수 있다. 다른 실시예로써, 동작 907에서, 전자 장치의 프로세서(113)는 합성된 영상(예:360도 컨텐츠)을 메모리에 저장할 수 있다.
도 10은 본 발명의 일 실시 예에 따라 전자 장치가 렌더링 영역의 렌더링 품질을 변경하고 영상을 합성하는 방법을 나타내는 순서도이다.
도 10을 참조하면, 렌더링 품질 변경 조건이 발생하면, 복수의 가상 카메라에 대응하는 렌더링 영역의 렌더링 품질을 변경하는 동작(1001, 1003) 및 렌더링 영역을 렌더링하고 영상을 합성하는 동작(1005)을 포함할 수 잇다.
동작 1001에서, 프로세서(113)는 렌더링 품질을 변경할 조건이 발생하는지 판단할 수 있다. 예를 들어, 사용자 시선정보의 변경, 전자 장치 상태의 변경, 가상 3차원 공간 상 기준점의 이동방향의 변경 또는 컨텐츠의 카메라 설정의 변경 등이 발생하는 경우, 프로세서(113)는 렌더링 품질을 변경할 조건이 발생한 것으로 판단할 수 있다.
동작 1003에서, 렌더링 품질을 변경할 조건이 발생하는 경우, 프로세서(113)는 발생한 조건에 기초하여 복수의 가상 카메라에 대응하는 렌더링 영역의 렌더링 품질을 변경할 수 있다. 예를 들어, 전방을 향하던 사용자의 시선 방향이 후방을 향하게 되면, 프로세서(113)는 전방에 대응되는 렌더링 영역의 렌더링 품질을 낮추고 후방에 렌더링 영역의 렌더링 품질을 높일 수 있다.
동작 1005에서, 프로세서(113)는 변경된 품질로 복수의 렌더링 영역을 렌더링하고 렌더링된 영상들을 한 영상으로 합성할 수 있다. 프로세서(113)는 변경된 품질로 복수의 가상 카메라에 대응하는 렌더링 영역을 렌더링하고, 렌더링된 영상을 스티칭 기법 등을 이용하여 합성할 수 있다.
도 11은 본 발명의 일 실시 예에 따라 서버가 사용자의 시선 정보에 기반하여 영상을 생성하고 사용자 단말에 영상을 전송하는 것을 나타내는 흐름도이다.
도 11을 참조하면, 본 발명의 일 실시 예에 따른 서버(110)가 사용자의 시선 정보에 기반하여 영상을 생성하고 사용자 단말(120)에 영상을 전송하는 방법은 사용자 단말(120)로부터 사용자의 시선 정보를 획득하는 동작(1101), 가상의 3차원 공간에서 복수의 뷰 벡터에 대응하는 복수의 영상을 생성하는 동작(1103), 생성된 복수의 영상을 합성하는 동작(1105) 및 합성된 영상을 사용자 단말(120)로 전송하는 동작(1107)을 포함할 수 있다.
동작 1101에서, 서버(110)의 통신회로(112)는 사용자 단말(120)로부터 사용자의 시선 정보를 획득할 수 있다. 통신회로(112)는 사용자 단말(120)로부터 시선 정보를 생성하기 위한 센싱 정보를 획득하고, 서버(110)의 프로세서(113)가 센싱 정보로부터 시선 정보를 생성할 수도 있다.
동작 1103에서, 서버(110)의 프로세서(113)는 가상의 3차원 공간에서 복수의 뷰 벡터에 대응하는 복수의 영상을 생성할 수 있다. 전술한 바와 같이 프로세서(113)는 가상의 3차원 공간에서 복수의 뷰 벡터에 대응하는 렌더링 영역을 설정하고, 렌더링 영역을 렌더링 할 수 있다. 프로세서(113)는 전술한 예시들과 같이 렌더링 영역들 간의 렌더링 품질을 다르게 설정할 수 있으며, 구체적인 내용은 전술하였으므로 생략한다.
동작 1105에서, 서버(110)의 프로세서(113)는 생성된 복수의 영상을 합성할 수 있다. 프로세서(113)는 생성된 복수의 영상을 스티칭하여 하나의 영상으로 합성할 수 있고, 합성된 하나의 영상은 360도 영상일 수 있다.
동작 1107에서, 서버(110)의 프로세서(113)는 통신회로(112)를 통해 합성된 영상을 사용자 단말(120)로 전송할 수 있다.
도 12는 다양한 실시 예에 따른 네트워크 환경 내의 전자 장치를 나타낸다.
도 12를 참조하면, 다양한 실시 예에서의 전자 장치(1201), 제1 전자 장치(1202), 제2 전자 장치(1204) 또는 서버(1206)가 네트워크(1262) 또는 근거리 통신(1264)을 통하여 서로 연결될 수 있다. 전자 장치(1201)는 버스(1210), 프로세서(1220), 메모리(1230), 입출력 인터페이스(1250), 디스플레이(1260), 및 통신 인터페이스(1270)를 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(1201)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성 요소를 추가적으로 구비할 수 있다.
버스(1210)는, 예를 들면, 구성요소들(1210-1270)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(1220)는, 중앙처리장치(Central Processing Unit (CPU)), 어플리케이션 프로세서(Application Processor (AP)), 또는 커뮤니케이션 프로세서(Communication Processor (CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(1220)는, 예를 들면, 전자 장치(1201)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(1230)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(1230)는, 예를 들면, 전자 장치(1201)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 메모리(1230)는 소프트웨어 및/또는 프로그램(1240)을 저장할 수 있다. 프로그램(1240)은, 예를 들면, 커널(1241), 미들웨어(1243), 어플리케이션 프로그래밍 인터페이스(Application Programming Interface (API))(1245), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(1247) 등을 포함할 수 있다. 커널(1241), 미들웨어(1243), 또는 API(1245)의 적어도 일부는, 운영 시스템(Operating System (OS))으로 지칭될 수 있다.
커널(1241)은, 예를 들면, 다른 프로그램들(예: 미들웨어(1243), API(1245), 또는 어플리케이션 프로그램(1247))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(1210), 프로세서(1220), 또는 메모리(1230) 등)을 제어 또는 관리할 수 있다. 또한, 커널(1241)은 미들웨어(1243), API(1245), 또는 어플리케이션 프로그램(1247)에서 전자 장치(1201)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(1243)는, 예를 들면, API(1245) 또는 어플리케이션 프로그램(1247)이 커널(1241)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한, 미들웨어(1243)는 어플리케이션 프로그램(1247)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(1243)는 어플리케이션 프로그램(1247) 중 적어도 하나에 전자 장치(1201)의 시스템 리소스(예: 버스(1210), 프로세서(1220), 또는 메모리(1230) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어(1243)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.
API(1245)는, 예를 들면, 어플리케이션(1247)이 커널(1241) 또는 미들웨어(1243)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(1250)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(1201)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스(1250)는 전자 장치(1201)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(1260)는, 예를 들면, 액정 디스플레이(Liquid Crystal Display (LCD)), 발광 다이오드(Light-Emitting Diode (LED)) 디스플레이, 유기 발광 다이오드(Organic LED (OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems, MEMS) 디스플레이, 또는 전자 종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(1260)는, 예를 들면, 사용자에게 각종 컨텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 디스플레이(1260)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스처, 근접, 또는 호버링(hovering) 입력을 수신할 수 있다.
통신 인터페이스(1270)는, 예를 들면, 전자 장치(1201)와 외부 장치(예: 제1 전자 장치(1202), 제2 전자 장치(1204), 또는 서버(1206)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(1270)는 무선 통신 또는 유선 통신을 통해서 네트워크(1262)에 연결되어 외부 장치(예: 제2 전자 장치(1204) 또는 서버(1206))와 통신할 수 있다.
무선 통신은, 예를 들면 셀룰러 통신 프로토콜로서, 예를 들면 LTE(Long-Term Evolution), LTE-A(LTE-Advanced), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA), UMTS(Universal Mobile Telecommunications System), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 중 적어도 하나를 사용할 수 있다. 또한 무선 통신은, 예를 들면, 근거리 통신(1264)을 포함할 수 있다. 근거리 통신(1264)는, 예를 들면, Wi-Fi(Wireless Fidelity), Bluetooth, NFC(Near Field Communication), MST(magnetic stripe transmission), 또는 GNSS 중 적어도 하나를 포함할 수 있다.
MST는 전자기 신호를 이용하여 전송 데이터에 따라 펄스를 생성하고, 상기 펄스는 자기장 신호를 발생시킬 수 있다. 전자 장치(1201)는 상기 자기장 신호를 POS(point of sales)에 전송하고, POS는 MST 리더(MST reader)를 이용하여 상기 자기장 신호는 검출하고, 검출된 자기장 신호를 전기 신호로 변환함으로써 상기 데이터를 복원할 수 있다.
GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo(the European global satellite-based navigation system) 중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard-232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(1262)는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
제1 전자 장치(1202) 및 제2 전자 장치(1204) 각각은 전자 장치(1201)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 서버(1206)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시 예에 따르면, 전자 장치(1201)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 제1 전자 장치(1202), 제2 전자 장치(1204), 또는 서버(1206))에서 실행될 수 있다. 한 실시 예에 따르면, 전자 장치(1201)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(1201)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 전자 장치(예: 제1 전자 장치(1202), 제2 전자 장치(1204), 또는 서버(1206))에게 요청할 수 있다. 다른 전자 장치는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(1201)로 전달할 수 있다. 전자 장치(1201)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 13은 다양한 실시 예에 따른 전자 장치의 블록도를 나타낸다.
도 13을 참조하면, 전자 장치(1301)는, 예를 들면, 도 1에 도시된 전자 장치(1201)의 전체 또는 일부를 포함할 수 있다. 전자 장치(1301)는 하나 이상의 프로세서(예: AP)(1310), 통신 모듈(1320), 가입자 식별 모듈(1324), 메모리(1330), 센서 모듈(1340), 입력 장치(1350), 디스플레이(1360), 인터페이스(1370), 오디오 모듈(1380), 카메라 모듈(1391), 전력 관리 모듈(1395), 배터리(1396), 인디케이터(1397), 및 모터(1398)를 포함할 수 있다.
프로세서(1310)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(1310)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(1310)는, 예를 들면, SoC(system on chip)로 구현될 수 있다. 한 실시 예에 따르면, 프로세서(1310)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서(1310)는 도 13에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(1321))를 포함할 수도 있다. 프로세서(1310)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
통신 모듈(1320)은, 도 1의 통신 인터페이스(1270)와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(1320)은, 예를 들면, 셀룰러 모듈(1321), Wi-Fi 모듈(1322), 블루투스 모듈(1323), GNSS 모듈(1324)(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈(1325), MST 모듈(1326), 및 RF(radio frequency) 모듈(1327)을 포함할 수 있다.
셀룰러 모듈(1321)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(1321)은 가입자 식별 모듈(예: SIM 카드)(1329)를 이용하여 통신 네트워크 내에서 전자 장치(1301)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(1321)은 프로세서(1310)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(1321)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다.
Wi-Fi 모듈(1322), 블루투스 모듈(1323), GNSS 모듈(1324), NFC 모듈(1325), 또는 MST 모듈(1326) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(1321), Wi-Fi 모듈(1322), 블루투스 모듈(1323), GNSS 모듈(1324), NFC 모듈(1325), 또는 MST 모듈(1326) 중 적어도 일부(예: 두 개 이상)는 하나의 IC(integrated chip) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(227)은, 예를 들면, 통신 신호(1예: RF 신호)를 송수신할 수 있다. RF 모듈(1327)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(1321), Wi-Fi 모듈(1322), 블루투스 모듈(1323), GNSS 모듈(1324), NFC 모듈(1325), MST 모듈(1326) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈(1329)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID (integrated circuit card identifier)) 또는 가입자 정보(예: IMSI (international mobile subscriber identity))를 포함할 수 있다.
메모리(1330)(예: 메모리(1230))는, 예를 들면, 내장 메모리(1332) 또는 외장 메모리(1334)를 포함할 수 있다. 내장 메모리(1332)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비-휘발성(non-volatile) 메모리 (예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), 마스크(mask) ROM, 플래시(flash) ROM, 플래시 메모리(예: 낸드플래시(NAND flash) 또는 노아플래시(NOR flash) 등), 하드 드라이브, 또는 SSD(solid state drive) 중 적어도 하나를 포함할 수 있다.
외장 메모리(1334)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(MultiMediaCard), 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리(1334)는 다양한 인터페이스를 통하여 전자 장치(1301)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
보안 모듈(1336)은 메모리(1330)보다 상대적으로 보안 레벨이 높은 저장 공간을 포함하는 모듈로써, 안전한 데이터 저장 및 보호된 실행 환경을 보장해주는 회로일 수 있다. 보안 모듈(1336)은 별도의 회로로 구현될 수 있으며, 별도의 프로세서를 포함할 수 있다. 보안 모듈(1336)은, 예를 들면, 탈착 가능한 스마트 칩, SD(secure digital) 카드 내에 존재하거나, 또는 전자 장치(1301)의 고정 칩 내에 내장된 내장형 보안 요소(embedded secure element(eSE))를 포함할 수 있다. 또한, 보안 모듈(1336)은 전자 장치(1301)의 운영 체제(1OS)와 다른 운영 체제로 구동될 수 있다. 예를 들면, 보안 모듈(1336)은 JCOP(java card open platform) 운영 체제를 기반으로 동작할 수 있다.
센서 모듈(1340)은, 예를 들면, 물리량을 계측하거나 전자 장치(1301)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(1340)은, 예를 들면, 제스처 센서(1340A), 자이로 센서(1340B), 기압 센서(1340C), 마그네틱 센서(1340D), 가속도 센서(1340E), 그립 센서(1340F), 근접 센서(1340G), 컬러 센서(1340H)(예: RGB 센서), 생체 센서(1340I), 온/습도 센서(1340J), 조도 센서(1340K), 또는 UV(ultra violet) 센서(1340M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(1340)은, 예를 들면, 후각 센서(E-nose sensor), EMG(electromyography) 센서, EEG(electroencephalogram) 센서, ECG(electrocardiogram) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(1340)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(1301)는 프로세서(1310)의 일부로서 또는 별도로, 센서 모듈(1340)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(1310)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(1340)을 제어할 수 있다.
입력 장치(1350)는, 예를 들면, 터치 패널(touch panel)(1352), (디지털) 펜 센서(pen sensor)(1354), 키(key)(1356), 또는 초음파(ultrasonic) 입력 장치(1358)를 포함할 수 있다. 터치 패널(1352)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(1352)은 제어 회로를 더 포함할 수도 있다. 터치 패널(1352)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(1354)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 시트(sheet)를 포함할 수 있다. 키(1356)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(1358)는 마이크(예: 마이크(1388))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(1360)(예: 디스플레이(1260))는 패널(1362), 홀로그램 장치(1364), 또는 프로젝터(1366)을 포함할 수 있다. 패널(1362)은, 도 1의 디스플레이(1260)과 동일 또는 유사한 구성을 포함할 수 있다. 패널(1362)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(1362)은 터치 패널(1352)과 하나의 모듈로 구성될 수도 있다. 홀로그램 장치(1364)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(1366)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(1301)의 내부 또는 외부에 위치할 수 있다. 한 실시 예에 따르면, 디스플레이(1360)는 패널(1362), 홀로그램 장치(1364), 또는 프로젝터(1366)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스(1370)는, 예를 들면, HDMI(1372), USB(1374), 광 인터페이스(optical interface)(1376), 또는 D-sub(D-subminiature)(1378)을 포함할 수 있다. 인터페이스(1370)는, 예를 들면, 도 1에 도시된 통신 인터페이스(1270)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(1370)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD 카드/MMC 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(1380)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(1380)의 적어도 일부 구성요소는, 예를 들면, 도 1에 도시된 입출력 인터페이스(1250)에 포함될 수 있다. 오디오 모듈(1380)은, 예를 들면, 스피커(1382), 리시버(1384), 이어폰(1386), 또는 마이크(1388) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(1391)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 제논 램프(xenon lamp))를 포함할 수 있다.
전력 관리 모듈(1395)은, 예를 들면, 전자 장치(1301)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈(1395)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(1396)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(1396)은, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터(1397)는 전자 장치(1301) 혹은 그 일부(예: 프로세서(1310))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(1398)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치(1301)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(Digital Multimedia Broadcasting), DVB(Digital Video Broadcasting), 또는 미디어플로(MediaFLOTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시 예에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.
도 14는 다양한 실시 예에 따른 프로그램 모듈의 블록도를 나타낸다.
한 실시 예에 따르면, 프로그램 모듈(1410)(예: 프로그램(1240))은 전자 장치(예: 전자 장치(1201))에 관련된 자원을 제어하는 운영 체제(OS) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(1247))을 포함할 수 있다. 운영 체제는, 예를 들면, Android, iOS, Windows, Symbian, 또는 Tizen 등이 될 수 있다.
프로그램 모듈(1410)은 커널(1420), 미들웨어(1430), API(1460), 및/또는 어플리케이션(1470)을 포함할 수 있다. 프로그램 모듈(1410)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 제1 전자 장치(1202), 제2 전자 장치(1204), 서버(1206) 등)로부터 다운로드 가능하다.
커널(1420)(예: 커널(1241))은, 예를 들면, 시스템 리소스 매니저(1421) 또는 디바이스 드라이버(1423)를 포함할 수 있다. 시스템 리소스 매니저(1421)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저(1421)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버(1423)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, Wi-Fi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어(1430)는, 예를 들면, 어플리케이션(1470)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(1470)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API(1460)을 통해 다양한 기능들을 어플리케이션(1470)으로 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(1430)(예: 미들웨어(1243))은 런타임 라이브러리(1435), 어플리케이션 매니저(application manager)(1441), 윈도우 매니저(window manager)(1442), 멀티미디어 매니저(multimedia manager)(1443), 리소스 매니저(resource manager)(1444), 파워 매니저(power manager)(1445), 데이터베이스 매니저(database manager)(1446), 패키지 매니저(package manager)(1447), 연결 매니저(connectivity manager)(1448), 통지 매니저(notification manager)(1449), 위치 매니저(location manager)(1450), 그래픽 매니저(graphic manager)(1451), 보안 매니저(security manager)(1452), 또는 결제 매니저(1454) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(1435)는, 예를 들면, 어플리케이션(1470)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(1435)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저(1441)는, 예를 들면, 어플리케이션(1470) 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저(1442)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(1443)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저(1444)는 어플리케이션(1470) 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저(1445)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저(1446)은 어플리케이션(1470) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(1447)은 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저(1448)은, 예를 들면, Wi-Fi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저(1449)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저(1450)은 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(1451)은 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(1452)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시 예에 따르면, 전자 장치(예: 전자 장치(1201))가 전화 기능을 포함한 경우, 미들웨어(1430)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어(1430)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어(1430)는 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어(1430)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(1460)(예: API(1245))은, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, Android 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(Tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(1470)(예: 어플리케이션 프로그램(1247))은, 예를 들면, 홈(1471), 다이얼러(1472), SMS/MMS(1473), IM(instant message)(1474), 브라우저(1475), 카메라(1476), 알람(1477), 컨택트(1478), 음성 다이얼(1479), 이메일(1480), 달력(1481), 미디어 플레이어(1482), 앨범(1483), 또는 시계(1484), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시 예에 따르면, 어플리케이션(1470)은 전자 장치(예: 전자 장치(1201))와 외부 전자 장치(예: 제1 전자 장치(1202), 제2 전자 장치(1204)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시 예에 따르면, 어플리케이션(1470)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(1470)은 외부 전자 장치(예: 제1 전자 장치(1202), 제2 전자 장치(1204)), 및 서버(1206)) 로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(1470)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 프로그램 모듈(1410)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
도 14의 프로그램 모듈은 상술한 도 2의 서버(210) 또는 사용자 단말(220)의 프로그램 모듈에 해당할 수 있다.
도 14의 프로그램 모듈이 도 2의 서버(210)의 프로그램 모듈에 해당하는 경우, 3차원 어플리케이션(211)은 어플리케이션(1470)에 포함될 수 있다. 또한, 도 2의 3차원 렌더링 모듈(212) 및 영상 합성 모듈(214)은 그래픽 매니저(1451)에 포함될 수 있다. 인코딩 모듈(215)은 멀티미디어 매니저(1443)에 포함될 수 있다.
또한, 도 14의 프로그램 모듈이 도 2의 사용자 단말(220)의 프로그램 모듈에 해당하는 경우, 디코딩 모듈(222)은 멀티미디어 매니저(1443)에 포함될 수 있고, 3차원 어플리케이션(223)은 어플리케이션(1470)에 포함될 수 있다. 3차원 렌더링 모듈(224)은 그래픽 매니저(1451)에 포함될 수 있다.
다양한 실시 예에 따르면, 프로그램 모듈(1410)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈(1410)의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서(1310))에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈(1410)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면, "모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(1220))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리(1230)이 될 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM, DVD(Digital Versatile Disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM, RAM, 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시 예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
그리고 본 문서에 개시된 실시 예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 발명의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 발명의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시 예를 포함하는 것으로 해석되어야 한다.

Claims (15)

  1. 전자 장치에 있어서,
    적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는,
    가상의 3차원 공간 상 하나의 지점과 연관된 복수의 뷰 벡터(view vector)에 대응하는 복수의 영상을 생성하고,
    상기 복수의 영상 중 적어도 하나의 영상의 품질을 나머지 영상의 품질보다 높은 품질로 설정하고, 및
    상기 적어도 하나의 영상을 포함한 상기 복수의 영상을 합성하도록 설정된, 전자 장치.
  2. 제 1항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 설정하는 동작의 적어도 일부로써, 상기 하나의 지점의 움직임 방향(moving direction)에 기초하여 상기 적어도 하나의 영상을 선택하도록 설정된 전자 장치.
  3. 제 1항에 있어서,
    상기 프로세서와 기능적으로 연결된 통신 회로를 더 포함하고,
    상기 적어도 하나의 프로세서는,
    상기 통신 회로를 통해 상기 전자 장치에 대한 외부 전자 장치로부터 상기 외부 전자 장치에 대응하는 사용자의 시선 정보를 획득하고,
    상기 설정하는 동작의 적어도 일부로써, 상기 시선 정보에 기초하여 상기 적어도 하나의 영상을 선택하도록 설정된 전자 장치.
  4. 제 3항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 뷰 벡터 중 상기 사용자의 시선 방향과 이루는 각이 가장 작은 뷰 벡터에 대응하는 영상을 상기 적어도 하나의 영상으로 선택하도록 설정된 전자 장치.
  5. 제 4항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 뷰 벡터 중 상기 사용자의 시선 방향과 이루는 각이 가장 작은 뷰 벡터에 대응하는 영상 및 상기 뷰 벡터 중 상기 사용자의 시선 방향과 이루는 각이 두 번째로 작은 뷰 벡터에 대응하는 영상을 상기 적어도 하나의 영상으로 선택하도록 설정된, 전자 장치.
  6. 제 1항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 높은 품질로 설정되는 적어도 하나의 영상의 뷰 프러스텀(view frustum)의 크기 설정, 렌더링 광원의 개수 설정, 렌더링 쉐이딩 설정, 해상도 설정 및 렌더링 텍스처(Texture) 해상도 설정, 모델링 데이터의 레벨 설정 중 적어도 하나를 상기 나머지 영상과 달리 하도록 설정된, 전자 장치.
  7. 제 1항에 있어서,
    상기 프로세서와 기능적으로 연결된 통신 회로를 더 포함하고,
    상기 적어도 하나의 프로세서는,
    상기 통신 회로를 통해 상기 가상의 3차원 공간 내 객체에 대한 선택 입력을 획득하고,
    상기 설정하는 동작의 적어도 일부로써, 상기 복수의 영상 중 상기 객체를 포함하는 적어도 하나의 영상을 상기 적어도 하나의 영상으로 선택하도록 설정된, 전자 장치.
  8. 제 1항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 전자 장치의 상태, 상기 전자 장치와 통신하는 외부 전자 장치의 상태, 상기 전자 장치와 상기 외부 전자 장치 간의 통신 상태, 상기 전자 장치의 성능 및 상기 외부 전자 장치의 성능 중 적어도 하나에 기초하여 상기 적어도 하나의 영상을 높은 품질로 설정하도록 설정된, 전자 장치.
  9. 전자 장치에 있어서,
    디스플레이,
    상기 전자 장치에 대응하는 사용자의 시선 정보를 획득하는 적어도 하나의 센서, 및
    상기 디스플레이, 및 상기 적어도 하나의 센서와 기능적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는,
    가상의 3차원 공간 상 하나의 지점과 연관된 복수의 뷰 벡터에 대응하는 복수의 영상을 생성하고,
    상기 시선 정보에 기초하여 상기 복수의 영상 중 적어도 하나의 영상의 품질을 나머지 영상의 품질보다 높은 품질로 설정하고,
    상기 적어도 하나의 영상을 포함하는 상기 복수의 영상을 합성하고, 및
    상기 합성된 영상을 상기 디스플레이를 통해 표시하도록 설정된, 전자 장치.
  10. 제 9항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 설정하는 동작의 적어도 일부로써, 상기 뷰 벡터 중 상기 사용자의 시선 방향과 이루는 각이 가장 작은 뷰 벡터에 대응하는 영상을 상기 적어도 하나의 영상으로 선택하도록 설정된 전자 장치.
  11. 제 10항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 설정하는 동작의 적어도 일부로써, 상기 뷰 벡터 중 상기 사용자의 시선 방향과 이루는 각이 가장 작은 뷰 벡터에 대응하는 영상 및 상기 뷰 벡터 중 상기 사용자의 시선 방향과 이루는 각이 두 번째로 작은 뷰 벡터에 대응하는 영상을 상기 적어도 하나의 영상으로 선택하도록 설정된, 전자 장치.
  12. 제 9항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 높은 품질로 설정되는 적어도 하나의 영상의 뷰 프러스텀의 크기 설정, 렌더링 광원의 개수 설정, 렌더링 쉐이딩 설정, 해상도 설정 및 렌더링 텍스처 해상도 설정 중 적어도 하나를 상기 나머지 영상과 달리 하도록 설정된, 전자 장치.
  13. 제 9항에 있어서,
    상기 사용자로부터 상기 가상의 3차원 공간 내 객체에 대한 선택 입력을 획득하는 사용자 입력회로를 더 포함하고
    상기 설정하는 동작의 적어도 일부로써, 상기 복수의 영상 중 상기 객체를 포함하는 적어도 하나의 영상을 상기 적어도 하나의 영상으로 선택하도록 설정된, 전자 장치.
  14. 제 9항에 있어서,
    상기 복수의 영상 중 적어도 하나의 영상은 소리를 포함하고,
    상기 적어도 하나의 프로세서는,
    상기 설정하는 동작의 적어도 일부로써, 상기 복수의 영상 중 상기 소리를 포함하는 적어도 하나의 영상을 상기 적어도 하나의 영상으로 선택하도록 설정된, 전자 장치.
  15. 제 9항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 설정하는 동작의 적어도 일부로써, 상기 하나의 지점의 움직임 방향에 기초하여 상기 적어도 하나의 영상을 선택하도록 설정된, 전자 장치.
PCT/KR2018/000176 2017-01-04 2018-01-04 뷰 벡터별 다른 렌더링 품질을 갖는 영상을 생성하는 전자 장치 WO2018128414A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/476,039 US10930056B2 (en) 2017-01-04 2018-01-04 Electronic device for generating images having rendering qualities differing by view vector

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020170001235A KR102625773B1 (ko) 2017-01-04 2017-01-04 뷰 벡터별 다른 렌더링 품질을 갖는 영상을 생성하는 전자 장치
KR10-2017-0001235 2017-01-04

Publications (1)

Publication Number Publication Date
WO2018128414A1 true WO2018128414A1 (ko) 2018-07-12

Family

ID=62789582

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/000176 WO2018128414A1 (ko) 2017-01-04 2018-01-04 뷰 벡터별 다른 렌더링 품질을 갖는 영상을 생성하는 전자 장치

Country Status (3)

Country Link
US (1) US10930056B2 (ko)
KR (1) KR102625773B1 (ko)
WO (1) WO2018128414A1 (ko)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106512398B (zh) * 2016-12-06 2021-06-18 腾讯科技（深圳）有限公司 虚拟场景中的提醒方法及相关装置
US10885705B2 (en) * 2018-08-14 2021-01-05 Ideaforge Technology Pvt. Ltd. Point cloud rendering on GPU using dynamic point retention
KR102164686B1 (ko) * 2018-09-05 2020-10-13 트러스트팜모바일 주식회사 타일 영상의 영상 처리 방법 및 장치
WO2020141621A1 (ko) 2019-01-02 2020-07-09 엘지전자 주식회사 전자 제어 장치 및 그것의 차량 제어 방법
US11189047B2 (en) * 2019-03-11 2021-11-30 Disney Enterprises, Inc. Gaze based rendering for audience engagement
KR102261739B1 (ko) * 2019-06-19 2021-06-08 주식회사 엘지유플러스 증강 현실 미디어 콘텐츠의 적응적 스트리밍 시스템 및 적응적 스트리밍 방법
US11410331B2 (en) * 2019-10-03 2022-08-09 Facebook Technologies, Llc Systems and methods for video communication using a virtual camera
US11575856B2 (en) * 2020-05-12 2023-02-07 True Meeting Inc. Virtual 3D communications using models and texture maps of participants
KR102363144B1 (ko) * 2020-07-09 2022-02-14 동국대학교 경주캠퍼스 산학협력단 사용자의 네트워크 상태를 기반으로 가상 3d 객체를 모델링하는 방법 및 장치
KR20220014005A (ko) * 2020-07-28 2022-02-04 삼성전자주식회사 전자장치, 서버 및 그 제어방법
WO2023132455A1 (ko) * 2022-01-07 2023-07-13 삼성전자 주식회사 웨어러블 장치와 모바일 장치를 통한 증강현실 컨텐츠 출력 시스템 및 방법
KR20230144178A (ko) * 2022-04-07 2023-10-16 주식회사 컬러버스 웹 기반 3차원 객체 편집 시스템 및 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8237740B2 (en) * 2004-11-12 2012-08-07 Synchronica Plc Method and system for receiving a local vector object and viewing a vector image
US20150244981A1 (en) * 2014-02-27 2015-08-27 Google Inc. Displaying a presenter during a video conference
WO2016135498A1 (en) * 2015-02-27 2016-09-01 Arm Limited Graphics processing systems
US20160260196A1 (en) * 2015-03-05 2016-09-08 Nokia Technologies Oy Video streaming method
US20160357017A1 (en) * 2015-06-02 2016-12-08 Sony Interactive Entertainment Inc. Head-mounted display, information processing device, display control method, and program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4704558B2 (ja) 2000-12-25 2011-06-15 三菱電機株式会社 ３次元空間データ送信表示システム、３次元空間データ送信方法、３次元空間データ送信方法をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体、３次元空間データ送信表示方法、及び３次元空間データ送信表示方法をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
US10614513B2 (en) * 2006-07-07 2020-04-07 Joseph R. Dollens Method and system for managing and displaying product images with progressive resolution display
US20100134494A1 (en) 2008-12-02 2010-06-03 Electronics And Telecommunications Research Institute Remote shading-based 3d streaming apparatus and method
US20150346812A1 (en) * 2014-05-29 2015-12-03 Nextvr Inc. Methods and apparatus for receiving content and/or playing back content
JP6027585B2 (ja) 2014-09-24 2016-11-16 株式会社コロプラ 表示システム、表示方法及びプログラム
KR102313485B1 (ko) * 2015-04-22 2021-10-15 삼성전자주식회사 가상현실 스트리밍 서비스를 위한 영상 데이터를 송수신하는 방법 및 장치
US9930270B2 (en) * 2015-10-15 2018-03-27 Microsoft Technology Licensing, Llc Methods and apparatuses for controlling video content displayed to a viewer

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8237740B2 (en) * 2004-11-12 2012-08-07 Synchronica Plc Method and system for receiving a local vector object and viewing a vector image
US20150244981A1 (en) * 2014-02-27 2015-08-27 Google Inc. Displaying a presenter during a video conference
WO2016135498A1 (en) * 2015-02-27 2016-09-01 Arm Limited Graphics processing systems
US20160260196A1 (en) * 2015-03-05 2016-09-08 Nokia Technologies Oy Video streaming method
US20160357017A1 (en) * 2015-06-02 2016-12-08 Sony Interactive Entertainment Inc. Head-mounted display, information processing device, display control method, and program

Also Published As

Publication number Publication date
US10930056B2 (en) 2021-02-23
KR20180080474A (ko) 2018-07-12
KR102625773B1 (ko) 2024-01-17
US20190333265A1 (en) 2019-10-31

Similar Documents

Publication Publication Date Title
WO2018128414A1 (ko) 뷰 벡터별 다른 렌더링 품질을 갖는 영상을 생성하는 전자 장치
WO2020171568A1 (en) Electronic device and method for changing magnification of image using multiple cameras
WO2018117574A1 (en) Method for displaying image, storage medium, and electronic device
WO2018117757A1 (en) Method and device for managing thumbnail of three-dimensional contents
WO2016137187A1 (en) Apparatus and method for providing screen mirroring service
WO2018012945A1 (en) Method and device for obtaining image, and recording medium thereof
WO2018182279A1 (en) Method and apparatus for providing augmented reality function in electronic device
WO2017217763A1 (en) Image processing apparatus and method
WO2017026709A1 (ko) 전자 기기의 해상도 조정 방법 및 장치
WO2016126079A1 (en) Method and electronic device for displaying screen
WO2018074850A1 (ko) 영상 처리 장치 및 그 영상 처리 방법
WO2018182296A1 (ko) 전자 장치 및 전자 장치의 화면 공유 방법
WO2018194306A1 (en) System and method for two dimensional application usage in three dimensional virtual reality environment
WO2016085253A1 (en) Screen configuration method, electronic device, and storage medium
EP3628121A1 (en) Electronic device for storing depth information in connection with image depending on properties of depth information obtained using image and control method thereof
WO2017074078A1 (en) Method for operating electronic device and electronic device for supporting the same
WO2018155893A1 (en) Interface providing method for multitasking and electronic device implementing the same
WO2019050338A1 (en) METHOD FOR CONTROLLING POINTER IN VIRTUAL REALITY, AND ELECTRONIC DEVICE
WO2015102464A1 (ko) 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법
WO2017191957A1 (ko) 화면 표시 방법 및 이를 지원하는 전자 장치
WO2017078480A1 (en) Electronic device, wearable device, and method for controlling object displayed through electronic device
WO2016013893A1 (en) Displaying method, animation image generating method, and electronic device configured to execute the same
WO2018074761A1 (ko) 이미지를 렌더링 하는 장치 및 방법
WO2018044051A1 (en) Method for driving display including curved display area, display driving circuit supporting the same, and electronic device including the same
WO2018097682A1 (ko) 영상 처리 장치 및 그 영상 처리 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18736134

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18736134

Country of ref document: EP

Kind code of ref document: A1