KR20170048137A - Method for transmitting media contents, apparatus for transmitting media contents, method for receiving media contents, apparatus for receiving media contents - Google Patents
Method for transmitting media contents, apparatus for transmitting media contents, method for receiving media contents, apparatus for receiving media contents Download PDFInfo
- Publication number
- KR20170048137A KR20170048137A KR1020160085042A KR20160085042A KR20170048137A KR 20170048137 A KR20170048137 A KR 20170048137A KR 1020160085042 A KR1020160085042 A KR 1020160085042A KR 20160085042 A KR20160085042 A KR 20160085042A KR 20170048137 A KR20170048137 A KR 20170048137A
- Authority
- KR
- South Korea
- Prior art keywords
- tile
- image
- region
- information
- interest
- Prior art date
Links
Images
Classifications
-
- H04N13/0011—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
-
- H04N13/0048—
-
- H04N13/0059—
-
- H04N13/0062—
-
- H04N13/0468—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/172—Processing image signals image signals comprising non-image signal components, e.g. headers or format information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/194—Transmission of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
Abstract
Description
본 발명은 컨텐츠 인지 및 사용자 움직임 기반의 가상 현실, 증강현실, 및/또는 홀로그램을 위한 서비스를 제공하기 위한 미디어 컨텐츠 송신 방법, 미디어 컨텐츠 송신 장치, 미디어 컨텐츠 수신 방법, 및 미디어 컨텐츠 수신 장치에 관한 것이다.The present invention relates to a media content transmitting method, a media content transmitting apparatus, a media content receiving method, and a media content receiving apparatus for providing a service for a virtual reality, augmented reality, and / or a hologram based on content recognition and user movement .
최근 가상 현실(Virtual Reality, VR)기술 및 장비의 발달과 함께 여러 기업을 통해 Head-Mounted Display (HMD)와 같은 신체에 착용 가능한 기기가 출시되고 있다. HMD를 통한 서비스 시나리오는 영화 관람, 게임, 원격 수술, 및 화상 회의 등을 포함할 수 있다.Recently, with the development of virtual reality (VR) technology and equipment, various wearable devices such as a head-mounted display (HMD) have been introduced. Service scenarios via the HMD may include movie viewing, games, telesurgery, and video conferencing.
가상 현실 서비스는 특정한 환경이나 상황을 컴퓨터로 만들어서, 사용자가 마치 실제 주변 상황 및 환경과 상호작용을 하고 있는 것처럼 만들어주는 서비스를 말한다.A virtual reality service is a service that creates a specific environment or situation by computer and makes it appear as if the user is interacting with the actual surroundings and environment.
가상 현실 서비스를 제공하는 장치에서 사용자 움직임을 예측하기 위해서, 미디어 컨텐츠를 인지 하고 분석하는 기술이 필요하다.In order to predict user movement in a device providing a virtual reality service, a technique for recognizing and analyzing media contents is needed.
본 발명의 목적은 사용자의 움직임에 따라 보여지는 화면의 품질을 다르게 처리하는 방법 및 장치를 제공하는데 있다.It is an object of the present invention to provide a method and apparatus for differently processing the quality of a displayed image according to a user's movement.
또한, 본 발명의 목적은 미디어 컨텐츠의 제작자의 의도에 따라서 사용자에게 보여지는 화면의 품질을 다르게 처리하는 방법 및 장치를 제공하는데 있다.It is also an object of the present invention to provide a method and apparatus for differently processing the quality of a screen displayed to a user according to the intention of the producer of the media content.
또한, 본 발명의 목적은 모션 벡터 통계 정보를 기초로 사용자에게 보여지는 화면의 품질을 다르게 처리하는 방법 및 장치를 제공하는데 있다.It is also an object of the present invention to provide a method and apparatus for differently processing the quality of a screen displayed to a user based on motion vector statistical information.
본 발명의 일 실시예에 따른 미디어 컨텐츠 수신 방법은 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신하는 단계, 상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고; 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성하는 단계, 상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시하고; 상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성하는 단계, 상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높고; 상기 요청 정보를 기초로 상기 서비스 데이터를 수신하는 단계; 상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩하는 단계; 및 복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합하는 단계;를 포함할 수 있다.A method of receiving media content according to an exemplary embodiment of the present invention includes receiving signaling data for acquisition of service data of a service for a virtual reality, augmented reality, or a hologram, the signaling data including a plurality of The service data including a selected tile image corresponding to a tile image encoded with a specific quality for each of the tile regions; and a media presentation description describing tile images encoded with qualities. Generating region of interest information indicating a region of interest expected to be viewed or viewed by the user in the entire image, the whole image indicating a three-dimensional virtual space transformed into a two-dimensional plane; Generating request information describing the selected tile image on the basis of the signaling data and the ROI information, the quality of the selected tile image for the ROI is determined based on the quality of the selected tile image for the ROI, Higher than quality; Receiving the service data based on the request information; Decoding the service data into the selected tile image of each tile area; And combining the selected tile image of the plurality of tile regions into a full image.
본 발명의 다른 실시예에 따른 미디어 컨텐츠 송신 방법은 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성하는 단계; 상기 전체 영상을 복수의 타일 영역들로 분할하는 단계; 각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩하는 단계; 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 송신하는 단계, 상기 시그널링 데이터는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고; 및 요청 정보를 기초로 상기 서비스 데이터를 송신하는 단계;를 포함하고, 상기 요청 정보는 상기 시그널링 데이터 및 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하고, 상기 관심 영역 정보는 상기 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하고, 및 상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높은 것을 특징으로 할 수 있다.According to another aspect of the present invention, there is provided a method of transmitting media content, comprising: generating a full image in which a three-dimensional virtual space is converted into a two-dimensional plane; Dividing the entire image into a plurality of tile regions; Encoding a tile image of each tile region into a plurality of qualities; Transmitting signaling data for obtaining service data of a service for a virtual reality, augmented reality, or a hologram, wherein the signaling data comprises at least one of a medium describing tile images encoded with the plurality of qualities for each tile region, The service data including a selected tile image corresponding to a tile image encoded with a specific quality for each of the tile regions; And transmitting the service data based on the request information, wherein the request information describes the selected tile image based on the signaling data and the region of interest information, And the quality of the selected tile image for the region of interest is higher than the quality of the selected tile image for regions other than the region of interest.
본 발명의 다른 실시예에 다른 미디어 컨텐츠 수신 장치는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신하는 통신 모듈, 상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고; 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성하는 관심 영역 정보 생성부, 상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시하고; 상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성하는 요청 정보 생성부, 상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높고, 상기 통신 모듈은 상기 요청 정보를 기초로 상기 서비스 데이터를 더 수신하고; 상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩하는 디코더; 및 복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합하는 영상 결합부;를 포함할 수 있다.According to another aspect of the present invention, there is provided a media content receiving apparatus, comprising: a communication module for receiving signaling data for acquisition of service data of a service for a virtual reality, augmented reality, or a hologram; Wherein the service data comprises a selected tile image corresponding to a tile image encoded with a specific quality for each of the tile areas; and a media presentation description describing the tile images encoded with the qualities of the tile images. A region of interest information generating unit for generating region of interest information indicating a region of interest expected to be viewed or viewed by the user in the entire image, the whole image indicating an image in which a three-dimensional virtual space is converted into a two- ; A request information generating unit for generating request information describing the selected tile image based on the signaling data and the ROI information, a quality of the selected tile image for the ROI is determined based on the selected Wherein the communication module is further adapted to receive the service data based on the request information; A decoder for decoding the service data into the selected tile image of each tile area; And an image combining unit for combining the selected tile images of the plurality of tile regions into a whole image.
본 발명의 다른 실시예에 따른 미디어 컨텐츠 송신 장치는 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성하는 영상 생성부; 상기 전체 영상을 복수의 타일 영역들로 분할하는 영상 분할부; 각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩하는 인코더; 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 송신하는 통신 모듈, 상기 시그널링 데이터는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고, 상기 통신 모듈은 요청 정보를 기초로 상기 서비스 데이터를 더 송신하고, 상기 요청 정보는 상기 시그널링 데이터 및 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하고, 상기 관심 영역 정보는 상기 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하고, 및 상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높은 것을 특징으로 할 수 있다.According to another aspect of the present invention, there is provided an apparatus and method for transmitting media content, the apparatus comprising: an image generation unit generating a full image in which a three-dimensional virtual space is converted into a two-dimensional plane; An image divider dividing the entire image into a plurality of tile regions; An encoder for encoding a tile image of each tile region into a plurality of qualities; A communication module for transmitting signaling data for obtaining service data of a service for a virtual reality, augmented reality, or hologram, the signaling data comprising tile images that are encoded with the plurality of qualities for each tile area Wherein the service data includes a selected tile image corresponding to a tile image encoded with a specific quality for each tile area and the communication module transmits the service data based on the request information, Wherein the request information describes the selected tile image based on the signaling data and the region of interest information and the region of interest information indicates a region of interest expected to be viewed or viewed by the user on the entire image, And for the region of interest And the quality of the selected tile image is higher than the quality of the selected tile image for the area other than the area of interest.
본 발명은 사용자의 눈동자의 움직임 및 가상현실 공간에서 소리의 움직임을 추출하여 사용자의 의도를 예측할 수 있다.The present invention can predict a user's intention by extracting a motion of a user's eyes and a motion of a sound in a virtual reality space.
또한, 본 발명은 가상 현실 및/또는 또는 증강 현실 홀로그램을 활용한 복합 서비스에서 미디어 컨텐츠 제작자의 의도, 사용자 움직임, 및 모션 벡터 통계 정보를 기초로, 선택적 및 적응형 스트리밍 방식으로 고 해상도의 미디어 컨텐츠를 전송할 수 있다.In addition, the present invention provides a method and apparatus for selectively and adaptively streaming media content in a composite service using a virtual reality and / or augmented reality hologram, based on intentions of a media content creator, user movement, and motion vector statistical information, Can be transmitted.
또한, 본 발명은 선택적 및 적응형 스트리밍 방식을 기초로 고 해상도의 미디어 컨텐츠를 전송하여, 사용자의 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스에 대한 거부감과 불편함을 해소할 수 있다.In addition, the present invention transmits high-resolution media contents on the basis of the selective and adaptive streaming method, thereby eliminating the discomfort and inconvenience of services for the user's virtual reality, augmented reality, or hologram.
또한, 본 발명은 복수개의 타일이 인접으로 접합시 경계의 부자연스러움 효과를 적절히 제거하여, 사용자에게 자연스런 영상을 제공할 수 있다.In addition, the present invention appropriately eliminates the unnatural effect of the boundary when a plurality of tiles are adjacent to each other, thereby providing a natural image to the user.
도 1은 본 발명의 일 실시예에 따른 전자 시스템을 나타낸 도면이다.
도 2는 본 발명의 일 실시예에 따른 전자 장치를 나타내는 블록도이다.
도 3은 본 발명의 일 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 일 실시예에 따른 IP 네트워크를 통한 미디어 컨텐츠 송수신 시스템의 구성을 나타낸 도면이다.
도 5는 본 발명의 일 실시예에 따른 MPEG-DASH 표준에서 정의하는 MPD(Media Presentation Description)의 구조를 나타낸 도면이다.
도 6은 본 발명의 일 실시예에 따른 구형좌표계를 평면좌표계로 변환한 도면 및 전자 시스템을 이용한 서비스를 나타낸 도면이다.
도 7은 본 발명의 일 실시예에 따른 전자 시스템을 나타낸 도면이다.
도 8은 본 발명의 일 실시예에 따른 센서 장치를 나타낸 도면이다.
도 9는 본 발명의 일 실시예에 따른 눈동자 벡터를 생성하는 방법을 나타낸 도면이다.
도 10은 본 발명의 일 실시예에 따른 눈동자 벡터를 나타낸 도면이다.
도 11은 본 발명의 일 실시예에 따른 눈동자 제스쳐 정보를 나타낸 도면이다.
도 12는 본 발명의 일 실시예에 따른 눈동자 벡터를 나타낸 도면이다.
도 13은 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.
도 14는 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.
도 15는 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.
도 16은 본 발명의 일 실시에에 따른 서버의 구성을 나타낸 도면이다.
도 17은 본 발명의 일 실시예에 따른 MPD를 나타낸 도면이다.
도 18은 본 발명의 일 실시예에 따른 다양한 품질로 인코딩된 전체 영상을 나타낸 도면이다.
도 19는 본 발명의 일 실시예에 따른 모션 벡터 통계 정보, 제작자 의도 정보, 및 관심 영역 순위 정보의 설명을 위한 도면이다.
도 20은 본 발명의 일 실시예에 따른 서로 다른 품질로 인코딩된 타일 영상을 수신하는 개념도이다.
도 21은 본 발명의 일 실시예에 따른 에지 효과(edge effect)를 제거하는 방법을 나타낸 도면이다.
도 22는 본 발명의 일 실시예에 따른 미디어 컨텐츠 송신 방법을 나타낸 도면이다.
도 23은 본 발명의 일 실시예에 따른 전자 장치(또는 미디어 컨텐츠 수신 장치)의 구성을 나타낸 도면이다.
도 24는 본 발명의 일 실시예에 따른 미디어 컨텐츠 수신 방법을 나타낸 도면이다.
도 25는 본 발명의 일 실시예에 따른 전자 시스템의 동작을 나타낸 도면이다.1 is a diagram illustrating an electronic system according to an embodiment of the present invention.
2 is a block diagram illustrating an electronic device according to an embodiment of the present invention.
3 is a block diagram of a program module in accordance with an embodiment of the present invention.
4 is a block diagram illustrating a system for transmitting / receiving media content over an IP network according to an embodiment of the present invention.
5 is a diagram illustrating a structure of a MPD (Media Presentation Description) defined in the MPEG-DASH standard according to an embodiment of the present invention.
FIG. 6 is a diagram showing a planar coordinate system converted from a spherical coordinate system according to an embodiment of the present invention and a service using an electronic system.
7 is a diagram illustrating an electronic system according to an embodiment of the present invention.
8 is a view showing a sensor device according to an embodiment of the present invention.
9 is a diagram illustrating a method of generating a pupil vector according to an embodiment of the present invention.
10 is a diagram illustrating a pupil vector according to an embodiment of the present invention.
11 is a diagram illustrating pupil gesture information according to an embodiment of the present invention.
12 is a diagram illustrating a pupil vector according to an embodiment of the present invention.
13 is a diagram illustrating an example of application of the pupil movement according to an embodiment of the present invention.
FIG. 14 is a diagram illustrating an example of application of a pupil movement according to an embodiment of the present invention.
15 is a diagram illustrating an example of application of the pupil movement according to an embodiment of the present invention.
16 is a diagram showing a configuration of a server according to an embodiment of the present invention.
17 is a diagram illustrating an MPD according to an embodiment of the present invention.
18 is a diagram illustrating a whole image encoded with various qualities according to an embodiment of the present invention.
FIG. 19 is a diagram for explaining motion vector statistical information, producer intention information, and ROI information according to an embodiment of the present invention.
20 is a conceptual diagram for receiving tile images encoded with different quality according to an embodiment of the present invention.
21 is a diagram illustrating a method for eliminating an edge effect according to an embodiment of the present invention.
22 is a diagram illustrating a media content transmission method according to an embodiment of the present invention.
23 is a diagram showing a configuration of an electronic device (or a media content receiving apparatus) according to an embodiment of the present invention.
24 is a diagram illustrating a media content receiving method according to an embodiment of the present invention.
25 is a diagram illustrating an operation of an electronic system according to an embodiment of the present invention.
본 명세서에 개시된 기술은 전자 처리 시스템에 적용될 수 있다. 그러나 본 명세서에 개시된 기술은 이에 한정되지 않고, 상기 기술의 기술적 사상이 적용될 수 있는 모든 암호화 및 복호화 장치 및 방법에도 적용될 수 있다.The techniques disclosed herein can be applied to electronic processing systems. However, the technology disclosed in this specification is not limited thereto, and can be applied to all encryption and decryption apparatuses and methods to which the technical idea of the above-described technique can be applied.
본 명세서에서 사용되는 기술적 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 명세서에 개시된 기술의 사상을 한정하려는 의도가 아님을 유의해야 한다. 또한, 본 명세서에서 사용되는 기술적 용어는 본 명세서에서 특별히 다른 의미로 정의되지 않는 한, 본 명세서에 개시된 기술이 속하는 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 의미로 해석되어야 하며, 과도하게 포괄적인 의미로 해석되거나, 과도하게 축소된 의미로 해석되지 않아야 한다. 또한, 본 명세서에서 사용되는 기술적인 용어가 본 명세서에 개시된 기술의 사상을 정확하게 표현하지 못하는 잘못된 기술적 용어일 때에는, 본 명세서에 개시된 기술이 속하는 분야에서 통상의 지식을 가진 자가 올바르게 이해할 수 있는 기술적 용어로 대체되어 이해되어야 할 것이다. 또한, 본 명세서에서 사용되는 일반적인 용어는 사전에 정의되어 있는 바에 따라, 또는 전후 문맥 상에 따라 해석되어야 하며, 과도하게 축소된 의미로 해석되지 않아야 한다.It is noted that the technical terms used herein are used only to describe specific embodiments and are not intended to limit the scope of the technology disclosed herein. Also, the technical terms used herein should be interpreted as being generally understood by those skilled in the art to which the presently disclosed subject matter belongs, unless the context clearly dictates otherwise in this specification, Should not be construed in a broader sense, or interpreted in an oversimplified sense. It is also to be understood that the technical terms used herein are erroneous technical terms that do not accurately represent the spirit of the technology disclosed herein, it is to be understood that the technical terms used herein may be understood by those of ordinary skill in the art to which this disclosure belongs And it should be understood. Also, the general terms used in the present specification should be interpreted in accordance with the predefined or prior context, and should not be construed as being excessively reduced in meaning.
본 명세서에서 사용되는 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용될 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성 요소는 제2 구성 요소로 명명될 수 있고, 유사하게 제2 구성 요소도 제1 구성 요소로 명명될 수 있다.As used herein, terms including ordinals, such as first, second, etc., may be used to describe various elements, but the elements should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from another. For example, without departing from the scope of the present invention, the first component may be referred to as a second component, and similarly, the second component may also be referred to as a first component.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예들을 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성 요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings, wherein like reference numerals denote like or similar elements, and redundant description thereof will be omitted.
또한, 본 명세서에 개시된 기술을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 기술의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 기술의 사상을 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 그 기술의 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.
Further, in the description of the technology disclosed in this specification, a detailed description of related arts will be omitted if it is determined that the gist of the technology disclosed in this specification may be obscured. It is to be noted that the attached drawings are only for the purpose of easily understanding the concept of the technology disclosed in the present specification, and should not be construed as limiting the spirit of the technology by the attached drawings.
도 1은 본 발명의 일 실시예에 따른 전자 시스템을 나타낸 도면이다.1 is a diagram illustrating an electronic system according to an embodiment of the present invention.
도 1을 참조하면, 전자 시스템(100)은 적어도 하나의 전자 장치(101, 102, 104), 서버(106) 및/또는 네트워크(162)를 포함할 수 있다.Referring to FIG. 1, an
본 개시에 따른 전자 장치는, 통신 기능이 포함된 장치일 수 있다. 예를 들어, 전자 장치는 스마트 폰(smart phone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 화상전화기, 전자북 리더기(ebook reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device)(예: 전자 안경과 같은 head-mounteddevice(HMD), 전자 의복, 전자 팔찌, 전자 목걸이, 전자 앱세서리(appcessory), 전자 신문, 또는 스마트 와치(smartwatch))중 적어도 하나를 포함할 수 있다.The electronic device according to the present disclosure may be a device including a communication function. For example, the electronic device can be a smart phone, a tablet personal computer, a mobile phone, a videophone, an ebook reader, a desktop personal computer, a laptop PC such as a laptop personal computer, a netbook computer, a personal digital assistant (PDA), a portable multimedia player (PMP), an MP3 player, a mobile medical device, a camera, or a wearable device Such as a head-mounteddevice (HMD) such as eyeglasses, an electronic garment, an electronic bracelet, an electronic necklace, an electronic app apparel, an electronic newspaper, or a smartwatch.
어떤 실시 예들에 따르면, 전자 장치는 통신 기능을 갖춘 스마트 가전 제품(smart home appliance)일 수 있다. 스마트 가전 제품은, 예를 들자면, 전자 장치는 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), TV 박스(예를 들어, 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(game consoles), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.According to some embodiments, the electronic device may be a smart home appliance with communication capabilities. [0003] Smart household appliances, such as electronic devices, are widely used in the fields of television, digital video disk (DVD) player, audio, refrigerator, air conditioner, vacuum cleaner, oven, microwave oven, washing machine, air cleaner, set- (E.g., Samsung HomeSync, Apple TV, or Google TV), game consoles, an electronic dictionary, an electronic key, a camcorder, or an electronic photo frame.
어떤 실시 예들에 따르면, 전자 장치는 각종 의료기기(예: MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 초음파기 등), 네비게이션(navigation) 장치, GPS 수신기(global positioning system receiver), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치 및 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛, 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic tellers machine) 또는 상점의 POS(point of sales) 중 적어도 하나를 포함할 수 있다.According to some embodiments, the electronic device may be implemented in a variety of medical devices (e.g., magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), computed tomography (CT), camera, ultrasound, global positioning system receiver, EDR (event data recorder), flight data recorder (FDR), automotive infotainment device, marine electronic equipment (eg marine navigation device and gyro compass), avionics, security An automotive head unit, an industrial or home robot, an ATM (automatic teller's machine) of a financial institution, or a point of sale (POS) of a store.
어떤 실시 예들에 따르면, 전자 장치는 통신 기능을 포함한 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 입력장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 본 개시에 따른 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 또한, 본 개시에 따른 전자 장치는 플렉서블 장치일 수 있다. 또한, 본 개시에 따른 전자 장치는 전술한 기기들에 한정되지 않음은 당업자에게 자명하다.According to some embodiments, the electronic device may be a piece of furniture or a structure / structure including a communication function, an electronic board, an electronic signature receiving device, a projector, (E.g., water, electricity, gas, or radio wave measuring instruments, etc.). An electronic device according to the present disclosure may be one or more of the various devices described above. Further, the electronic device according to the present disclosure may be a flexible device. It should also be apparent to those skilled in the art that the electronic device according to the present disclosure is not limited to the above-described devices.
전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및/또는 통신 인터페이스(170)를 포함할 수 있다. The
이때, 네트워크(162)는 유선으로 연결된 LAN 과 케이블채널망, 무선으로 연결된 가능한 모든 방법을 포함할 수 있다.At this time, the
어떤 실시예에서, 상기 전자 장치(101)는 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.In some embodiments, the
상기 버스(110)는, 예를 들어, 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.The
상기 프로세서(120)는 중앙처리장치(Central Processing Unit; CPU), 어플리케이션 프로세서(Application Processor; AP), 또는 커뮤니케이션 프로세서(Communication Processor; CP) 중 하나 또는 그 이상을 포함할 수 있다. 상기 프로세서(120)는, 예를 들어, 상기 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.The
상기 메모리(130)는 휘발성(volatile) 및/또는 비휘발성(non-volatile) 메모리를 포함할 수 있다. 상기 메모리(130)는, 예를 들어, 상기 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 상기 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 상기 프로그램(140)은, 예를 들어, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(Application Programming Interface; API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 상기 커널(141), 상기 미들웨어(143), 또는 상기 API(145)의 적어도 일부는, 운영체제 (Operating System; OS)로 지칭될 수 있다.The
상기 커널(141)은, 예를 들어, 다른 프로그램들(예: 상기 미들웨어(143), 상기 API(145), 또는 상기 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 상기 버스(110), 상기 프로세서(120), 또는 상기 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 상기 커널(141)은 상기 미들웨어(143), 상기 API(145), 또는 상기 어플리케이션 프로그램(147)에서 상기 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.The
상기 미들웨어(143)는, 예를 들어, 상기 API(145) 또는 상기 어플리케이션 프로그램(147)이 상기 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.The
또한, 상기 미들웨어(143)는 상기 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들어, 상기 미들웨어(143)는 상기 어플리케이션 프로그램(147) 중 적어도 하나에 상기 전자 장치(101)의 시스템 리소스(예: 상기 버스(110), 상기 프로세서(120), 또는 상기 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 상기 미들웨어(143)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.In addition, the
상기 API(145)는, 예를 들어, 상기 어플리케이션(147)이 상기 커널(141) 또는 상기 미들웨어(143)가 제공하는 기능을 제어하기 위한 인터페이스로, 예를 들어, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.The
상기 입출력 인터페이스(150)는, 예를 들어, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 상기 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 상기 입출력 인터페이스(150)은 상기 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.The input /
상기 디스플레이(160)는, 예를 들어, 액정 디스플레이(Liquid Crystal Display; LCD), 발광 다이오드(Light Emitting Diode; LED) 디스플레이, 유기 발광 다이오드(Organic Light-Emitting Diode; OLED) 디스플레이, 또는 마이크로 전자기계 시스템(Micro-Electro-Mechanical Systems; MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 상기 디스플레이(160)는, 예를 들어, 사용자에게 각종 컨텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 상기 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들어, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.The
상기 통신 인터페이스(170)는, 예를 들어, 상기 전자 장치(101)와 외부 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들어, 상기 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 전자 장치(104) 또는 서버(106))와 통신할 수 있다.The communication interface 170 may establish communication between the
상기 무선 통신은, 예를 들어, 셀룰러 통신을 포함할 수 있다. 상기 셀룰러 통신은, 예를 들어, LTE(long-term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 포함할 수 있다. 또한, 상기 무선 통신은, 예를 들어, 근거리 통신(164)을 포함할 수 있다. 상기 근거리 통신(164)은, 예를 들어, Wi-Fi(wireless fidelity), 블루투스(Bluetooth) 또는 NFC(nearfield communication) 등 적어도 하나를 포함할 수 있다. 또한, 상기 무선 통신은 GPS(global positioning system)를 포함할 수 있다. The wireless communication may include, for example, cellular communication. The cellular communication may include, for example, long-term evolution (LTE), LTE Advance, code division multiple access (CDMA), wideband CDMA (WCDMA), universal mobile telecommunications system (UMTS), WiBro Broadband, or Global System for Mobile Communications (GSM). The wireless communication may also include, for example, local area communication 164. The local area communication 164 may include at least one of, for example, wireless fidelity (Wi-Fi), Bluetooth, or near field communication (NFC). Also, the wireless communication may include a global positioning system (GPS).
상기 유선 통신은, 예를 들어, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 상기 네트워크(162)는 통신 네트워크(telecommunications network), 예를 들어, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.The wired communication may include at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a recommended standard 232 (RS-232), or a plain old telephone service (POTS). The
전자 장치(102) 및 전자 장치(104) 각각은 상기 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 상기 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시예에 따르면, 상기 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 외부 장치(예: 전자 장치(102, 104), 또는 서버(106))에서 실행될 수 있다. 한 실시예에 따르면, 상기 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 상기 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 외부 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 외부 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 상기 전자 장치(101)로 전달할 수 있다. 상기 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들어, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
Each of the
도 2는 본 발명의 일 실시예에 따른 전자 장치를 나타내는 블록도이다.2 is a block diagram illustrating an electronic device according to an embodiment of the present invention.
상기 전자 장치(201)는, 예를 들어, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 상기 전자 장치(200)는 하나 이상의 프로세서(예: AP(application processor))(210), 통신 모듈(220), 상기 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298)를 포함할 수 있다.The
상기 프로세서(210)는, 예를 들어, 운영 체제 또는 응용 프로그램을 구동하여 상기 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 상기 프로세서(210)는, 예를 들어, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 상기 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 상기 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 상기 프로세서(210)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.The
상기 통신 모듈(220)은, 도 1의 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 상기 통신 모듈(220)은, 예를 들어, 셀룰러 모듈(221), Wi-Fi 모듈(223), 블루투스 모듈(225), GPS 모듈(227), NFC 모듈(228) 및RF(radio frequency) 모듈(229)를 포함할 수 있다.The
상기 셀룰러 모듈(221)은, 예를 들어, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 상기 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 상기 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 상기 셀룰러 모듈(221)은 상기 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 상기 셀룰러 모듈(221)은 커뮤니케이션 프로세서(Communication Processor; CP)를 포함할 수 있다.The
상기 Wi-Fi 모듈(223), 상기 블루투스 모듈(225), 상기 GPS 모듈(227) 또는 상기 NFC 모듈(228) 각각은, 예를 들어, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시예에 따르면, 상기 셀룰러 모듈(221), 상기 Wi-Fi 모듈(223), 상기 블루투스 모듈(225), 상기 GPS 모듈(227) 또는 상기 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.Each of the Wi-
상기 RF 모듈(229)은, 예를 들어, 통신 신호(예: RF 신호)를 송수신할 수 있다. 상기 RF 모듈(229)은, 예를 들어, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier) 등을 포함할 수 있다. 또한 상기 RF 모듈(229)은 무선 통신에서 자유 공간 상의 전자파를 송수신하기 위한 부품, 예를 들어, 도체 또는 도선 등을 더 포함할 수 있다. 도 2에서는 상기 셀룰러 모듈(221), 상기 Wi-Fi 모듈(223), 상기 블루투스 모듈(225), 상기 GPS 모듈(227) 또는 상기 NFC 모듈(228)이 하나의 RF 모듈(229)를 서로 공유하는 것으로 도시되어 있으나, 한 실시예에 따르면, 상기 셀룰러 모듈(221), 상기 Wi-Fi 모듈(223), 상기 블루투스 모듈(225), 상기 GPS 모듈(227) 또는 상기 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.The
상기 SIM 카드(224)는, 예를 들어, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예:IMSI(international mobile subscriber identity))를 포함할 수 있다.The
상기 메모리(230)(예: 메모리(130))는, 예를 들어, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 상기 내장 메모리(232)는, 예를 들어, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(Solid State Drive; SSD) 중 적어도 하나를 포함할 수 있다.The memory 230 (e.g., memory 130) may include, for example, an
상기 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들어, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(MultiMediaCard) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 상기 외장 메모리(234)는 다양한 인터페이스를 통하여 상기 전자 장치(201)와 기능적으로 및/또는 물리적으로 연결될 수 있다.The
상기 센서 모듈(240)은, 예를 들어, 물리량을 계측하거나 상기 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 상기 센서 모듈(240)은, 예를 들어, 근접 센서(241), 자이로 센서(242), 조도 센서(243), 마그네틱 센서(244), 가속도 센서(245), 그립 센서(246), 제스처 센서(247), 또는 생체 센서(248) 중 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 상기 센서 모듈(240)은, 예를 들어, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 상기 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 상기 전자 장치(201)는 상기 프로세서(210)의 일부로서 또는 별도로, 상기 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 상기 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 상기 센서 모듈(240)을 제어할 수 있다.The
상기 입력 장치(250)는, 예를 들어, 터치 패널(touch panel)(252), (디지털) 펜 센서(pen sensor)(254) 또는 키(key)(256)를 포함할 수 있다. 상기 터치 패널(252)은, 예를 들어, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 상기 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.The
상기 펜 센서(254)는, 예를 들어, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 상기 키(256)는, 예를 들어, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다.The
상기 디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 포함할 수 있다. 상기 패널(262)은, 도 1의 상기 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 상기 패널(262)은, 예를 들어, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 상기 패널(262)은 상기 터치 패널(252)과 하나의 모듈로 구성될 수도 있다. 상기 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체영상을 허공에 보여줄 수 있다. 상기 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들어, 상기 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 한 실시예에 따르면, 상기 디스플레이(260)는 상기 패널(262), 상기 홀로그램 장치(264), 또는 상기 프로젝터(266)를 제어하기 위한 제어 회로를 더 포함할 수 있다.The display 260 (e.g., display 160) may include a
상기 인터페이스(270)는, 예를 들어, HDMI(high-definition multimedia interface), 또는 USB(universal serial bus)를 포함할 수 있다. 상기 인터페이스(270)는, 예를 들어, 도 1에 도시된 상기 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로(additionally and alternatively), 상기 인터페이스(270)는, 예를 들어, 광 인터페이스(optical interface), D-sub(D-subminiature), MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.The
상기 오디오 모듈(280)은, 예를 들어, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 상기 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들어, 도 1 에 도시된 입출력 인터페이스(150)에 포함될 수 있다. 상기 오디오 모듈(280)은, 예를 들어, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.The
상기 카메라 모듈(291)은, 예를 들어, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 xenon lamp 등)를 포함할 수 있다.The
상기 전력 관리 모듈(295)은, 예를 들어, 상기 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 상기 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. 상기 PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들어, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들어, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 상기 배터리 게이지는, 예를 들어, 상기 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 상기 배터리(296)는, 예를 들어, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.The
상기 인디케이터(297)는 상기 전자 장치(201) 또는 그 일부(예: 상기 프로세서(210))의 특정 상태, 예를 들어, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 상기 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 상기 전자 장치(201)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들어, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(MediaFloTM)등의 규격에 따른 미디어 데이터를 처리할 수 있다.The
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시예에 따른 전자 장치의 구성요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
Each of the components described in this document may be composed of one or more components, and the name of the component may be changed according to the type of the electronic device. In various embodiments, the electronic device may comprise at least one of the components described herein, some components may be omitted, or may further include additional other components. In addition, some of the components of the electronic device according to various embodiments may be combined into one entity, so that the functions of the components before being combined can be performed in the same manner.
도 3은 본 발명의 일 실시예에 따른 프로그램 모듈의 블록도이다.3 is a block diagram of a program module in accordance with an embodiment of the present invention.
한 실시예에 따르면, 프로그램 모듈(300)(예: 프로그램(140))은 전자 장치(예: 상기 전자 장치(101))에 관련된 자원을 제어하는 운영 체제(Operating System; OS) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 상기 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들어, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), RTOS(Realtime OS), 리눅스(Linux), 웹오에스(webOS), P2P(Peer to Peer)기반의 특징을 가지는 OS, 또는 타이젠(tizen) 등이 될 수 있다.According to one embodiment, the program module 300 (e.g., program 140) includes an operating system (OS) and / or an operating system (OS) that controls resources associated with an electronic device (E. G., The application program 147) running on the system. The operating system can be, for example, android, iOS, windows, symbian, RTOS, Linux, webOS, peer to peer An OS having a characteristic, a tizen, or the like.
상기 프로그램 모듈(300)은 커널(320), 미들웨어(330), 어플리케이션 프로그래밍 인터페이스(application programming interface (API))(360), 및/또는 어플리케이션(370)을 포함할 수 있다. 상기 프로그램 모듈(300)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 외부 전자 장치(102, 104), 서버(106)등)로부터 다운로드(download) 가능하다.The
상기 커널(320)(예: 상기 커널(141))은, 예를 들어, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 상기 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 상기 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 상기 디바이스 드라이버(323)는, 예를 들어, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, Wi-Fi 드라이버, 오디오 드라이버, 또는 IPC(inter process communication) 드라이버를 포함할 수 있다.The kernel 320 (e.g., the kernel 141) may include, for example, a
상기 미들웨어(330)는, 예를 들어, 상기 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 상기 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 상기 API(360)를 통해 다양한 기능들을 상기 어플리케이션(370)으로 제공할 수 있다. 한 실시 예에 따르면, 상기 미들웨어(330)(예: 미들웨어(143))는 런타임라이브러리(335), 어플리케이션 매니저(application manager)(341), 윈도우 매니저(window manager)(342), 멀티미디어 매니저(multimedia manager)(343), 리소스 매니저(resource manager)(344), 파워 매니저(power manager)(345), 데이터베이스 매니저(database manager)(346), 패키지 매니저(package manager)(347), 연결 매니저(connectivity manager)(348), 통지 매니저(notification manager)(349), 위치 매니저(location manager)(350), 그래픽 매니저(graphic manager)(351), 또는 보안 매니저(security manager)(352) 중 적어도 하나를 포함할 수 있다.The
상기 런타임 라이브러리(335)는, 예를 들어, 상기 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 상기 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.The
상기 어플리케이션 매니저(341)는, 예를 들어, 상기 어플리케이션(370) 중 적어도 하나의 어플리케이션의 생명 주기(lifecycle)를 관리할 수 있다. 상기 윈도우 매니저(342)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 상기 멀티미디어 매니저(343)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 상기 리소스 매니저(344)는 상기 어플리케이션(370) 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.The
상기 파워 매니저(345)는, 예를 들어, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 상기 데이터베이스 매니저(346)는 상기 어플리케이션(370) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 상기 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.The
상기 연결 매니저(348)는, 예를 들어, Wi-Fi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 상기 통지 매니저(349)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 상기 위치 매니저(350)는 전자 장치의 위치 정보를 관리할 수 있다. 본 발명에서 표현하는 위치정보는 GPS(Global Positioning System) 정보 뿐만아니라, 가속도 센서 정보, 자이로 센서 정보, LBS(Location Based Service)를 위한 실내 좌표 센서 정보, 네트워크 기반으로 추정되는 위치 정보, 통신망을 이용한 위치 정보, 및 그 외 신규 전자 장치로부터 전달받은 움직임과 관련된 위치 정보를 포함할 수 있다. 상기 그래픽 매니저(351)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 상기 보안 매니저(352)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시예에 따르면, 전자 장치(예: 상기 전자 장치(101))가 전화 기능을 포함한 경우, 상기 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.The
상기 미들웨어(330)는 전술된 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 상기 미들웨어(330)는 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 상기 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.The
상기 API(360)(예: API(145))는, 예를 들어, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들어, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.The API 360 (e.g., API 145) may be provided in a different configuration depending on the operating system, for example, as a set of API programming functions. For example, for Android or iOS, you can provide one API set per platform, and for tizen, you can provide more than one API set per platform.
상기 어플리케이션(370)(예: 상기 어플리케이션 프로그램(147))은, 예를 들어, 홈(371), 다이얼러(dialer)(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 또는 시계(384), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.The application 370 (e.g., the application program 147) may include, for example, a
한 실시예에 따르면, 상기 어플리케이션(370)은 전자 장치(예: 상기 전자 장치(101))와 외부 장치(예: 전자 장치(102, 104)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들어, 외부 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.According to one embodiment, the
예를 들어, 상기 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 장치(예: 전자 장치(102, 104))로 전달하는 기능을 포함할 수 있다. 또한, 상기 알림 전달 어플리케이션은, 예를 들어, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.For example, the notification delivery application may transmit notification information generated by another application (e.g., an SMS / MMS application, an email application, a healthcare application, or an environment information application) of the electronic device to an external device , 104), respectively. In addition, the notification delivery application may receive notification information from, for example, an external electronic device and provide the notification information to the user.
상기 장치 관리 어플리케이션은, 예를 들어, 전자 장치와 통신하는 외부 장치(예: 전자 장치(102, 104))의 적어도 하나의 기능(예: 외부 장치 자체(또는 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는 해상도) 조절), 외부 장치에서 동작하는 어플리케이션 또는 외부 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.The device management application may include at least one function (e.g., turn-on / turn-off) of an external device itself (or some component) (Eg, install, delete, or update) an application running on an external device or services provided by an external device (such as a call service or a message service) .
한 실시예에 따르면, 상기 어플리케이션(370)은 외부 장치(예: 전자 장치(102, 104))의 속성(에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션 등)을 포함할 수 있다. 한 실시예에 따르면, 상기 어플리케이션(370)은 외부 장치(예: 서버(106) 또는 전자 장치(102, 104))로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 상기 어플리케이션(370)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 상기 프로그램 모듈(310)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.According to one embodiment, the
다양한 실시예에 따르면, 상기 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 상기 프로그램 모듈(300)의 적어도 일부는, 예를 들어, 프로세서(예: 상기 프로세서(210))에 의해 구현(implement)(예: 실행)될 수 있다. 상기 프로그램 모듈(300)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들어, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.According to various embodiments, at least some of the program modules 310 may be implemented in software, firmware, hardware, or a combination of at least two of them. At least some of the
본 문서에서 사용된 용어 "모듈"은, 예를 들어, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들어, 유닛(unit), 로직(logic), 논리블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들어,"모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.As used herein, the term "module" may refer to a unit comprising, for example, one or more combinations of hardware, software or firmware. "Module" may be interchangeably used with terms such as, for example, unit, logic, logical block, component, or circuit. A "module" may be a minimum unit or a portion of an integrally constructed component. A "module" may be a minimum unit or a portion thereof that performs one or more functions. "Modules" may be implemented either mechanically or electronically. For example, a "module" may be an application-specific integrated circuit (ASIC) chip, field-programmable gate arrays (FPGAs) or programmable-logic devices that perform known or later- And may include at least one.
다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 상기 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들어, 상기 메모리(130)가 될 수 있다.At least a portion of a device (e.g., modules or functions thereof) or a method (e.g., operations) according to various embodiments may include, for example, computer-readable storage media in the form of program modules, As shown in FIG. When the instruction is executed by a processor (e.g., the processor 120), the one or more processors may perform a function corresponding to the instruction. The computer readable storage medium may be, for example, the
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digitalversatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.The computer readable recording medium may be a hard disk, a floppy disk, a magnetic media (e.g., a magnetic tape), an optical media (e.g., a compact disc read only memory (CD-ROM) a magneto-optical media (e.g., a floptical disk), a hardware device (e.g., read only memory (ROM), random access memory (RAM) Etc. Also, the program instructions may include machine language code such as those produced by a compiler, as well as high-level language code that may be executed by a computer using an interpreter, etc. The above- May be configured to operate as one or more software modules to perform exemplary operations, and vice versa.
다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술된 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
Modules or program modules according to various embodiments may include at least one or more of the components described above, some of which may be omitted, or may further include other additional components. Operations performed by modules, program modules, or other components in accordance with various embodiments may be performed in a sequential, parallel, iterative, or heuristic manner. Also, some operations may be performed in a different order, omitted, or other operations may be added.
도 4는 본 발명의 일 실시예에 따른 IP 네트워크를 통한 미디어 컨텐츠 송수신 시스템의 구성을 나타낸 도면이다.4 is a block diagram illustrating a system for transmitting / receiving media content over an IP network according to an embodiment of the present invention.
도 4를 참조하면, 본 발명의 일 실시예에 따른 미디어 컨텐츠 송수신 시스템(400)는 컨텐츠 서버(420) 및/또는 DASH 클라이언트(440)를 포함할 수 있다. 예를 들어, 컨텐츠 서버(420)는 도 1의 서버(106)에 포함될 수 있다. 또한, DASH 클라이언트(440)는 도 1 및/또는 도 2의 전자 장치(101)의 프로세서(120, 210)에 포함될 수 있다. Referring to FIG. 4, a media content transmission /
본 발명의 일 실시예에 따른 IP 네트워크를 통한 미디어 컨텐츠의 송수신 시스템(400)은 실제 미디어 컨텐츠를 포함하는 전송 패킷의 송수신과 미디어 컨텐츠 재생 정보의 송수신으로 나뉘어진다. DASH 클라이언트(440)는 미디어 컨텐츠 재생 정보를 수신하고, 미디어 컨텐츠를 포함하는 전송 패킷을 수신한다. 이때 미디어 컨텐츠 재생 정보는 미디어 컨텐츠 재생을 위해 필요한 정보를 나타낸다. 미디어 컨텐츠 재생 정보는 미디어 컨텐츠 재생을 위해 필요한 공간적 정보(spatial information) 및 시간적 정보(temporal information)중 적어도 어느 하나를 포함할 수 있다. DASH 클라이언트(440)는 미디어 컨텐츠 재생 정보에 기초하여 미디어 컨텐츠를 재생한다.The
구체적인 실시예에서 MMTP(MPEG Media Transport Protocol) 표준에 따라 미디어 컨텐츠가 IP 네트워크를 통하여 송수신될 수 있다. 이때 컨텐츠 서버(420)는 미디어 컨텐츠 재생 정보를 포함하는 재생 정보 도큐먼트(Presentation Information document, PI document)를 전송한다. 또한 컨텐츠 서버(420)는 DASH 클라이언트(440)의 요청에 기초하여 미디어 컨텐츠를 포함하는 MMT protocol(MMTP) packet을 전송한다. DASH 클라이언트(440)는 PI document를 수신한다. DASH 클라이언트(440)는 미디어 컨텐츠를 포함하는 전송 패킷을 수신한다. DASH 클라이언트(440)는 미디어 컨텐츠를 포함하는 전송 패킷으로부터 미디어 컨텐츠를 추출한다. DASH 클라이언트(440)는 PI document에 기초하여 미디어 컨텐츠를 재생한다.In a specific embodiment, media content may be transmitted and received over an IP network in accordance with the MMTP (MPEG Media Transport Protocol) standard. At this time, the
또 다른 구체적인 실시예에서 MPEG-DASH 표준에 따라 미디어 컨텐츠가 IP 네트워크를 통하여 송수신될 수 있다. 이때, 컨텐츠 서버(420)는 미디어 컨텐츠 재생 정보를 포함하는 미디어 재생 디스크립션(Media Presentation Descriptioon, MPD)을 전송한다. 단 구체적인 실시예에 따라서는 MPD는 컨텐츠 서버(50)가 아닌 다른 외부의 서버가 전송할 수 있다. 예를 들어, 외부의 서버는 CDN(Content Delivery Network)을 위한 서버를 포함할 수 있다. CDN은 대용량 서비스 데이터, 미디어 데이터, 및/또는 시그널링 데이터를 효율적으로 전달하기 위해 여러 노드를 가진 네트워크에 데이터를 저장하여 제공하는 시스템을 의미한다. 또한 컨텐츠 서버(420)는 DASH 클라이언트(440)의 요청에 기초하여 미디어 컨텐츠를 포함하는 세그먼트(segment)들을 전송한다. DASH 클라이언트(440)는 MPD를 수신한다. DASH 클라이언트(440)는 MPD에 기초하여 미디어 컨텐츠를 컨텐츠 서버(420)에 요청한다. DASH 클라이언트(440)는 요청에 기초하여 미디어 컨텐츠를 포함하는 전송 패킷을 수신한다. DASH 클라이언트(440)는 MPD에 기초하여 미디어 컨텐츠를 재생한다.In yet another specific embodiment, media content may be transmitted and received over an IP network in accordance with the MPEG-DASH standard. At this time, the
DASH 클라이언트(440)는 MPD를 파싱(parsing)하는 MPD Parser, Segment를 파싱하는 Segment Parser, 통신 인터페이스(170) 및/또는 통신 모듈(220)를 통하여 HTTP 요청 메시지를 전송하고 HTTP 응답 메시지를 수신하는 HTTP 클라이언트, 미디어를 재생하는 미디어 엔진(engine)을 포함할 수 있다.
The
도 5는 본 발명의 일 실시예에 따른 MPEG-DASH 표준에서 정의하는 MPD(Media Presentation Description)의 구조를 나타낸 도면이다.5 is a diagram illustrating a structure of a MPD (Media Presentation Description) defined in the MPEG-DASH standard according to an embodiment of the present invention.
MPD는 피리어드(Period) 엘리먼트, 어뎁테이션 셋(Adaptation Set) 엘리먼트 및 레프리젠테이션 (Representation) 엘리먼트를 포함할 수 있다.The MPD may include a Period element, an Adaptation Set element, and a Representation element.
피리어드 엘리먼트는 피리어드에 대한 정보를 포함한다. MPD는 복수의 피리어드에 대한 정보를 포함할 수 있다. 피리어드는 미디어 컨텐츠 재생(presentation)의 연속한 시간 구간을 나타낸다.The period element contains information about the period. The MPD may include information about a plurality of periods. The period represents a continuous time interval of media content presentation.
어뎁테이션 셋 엘리먼트는 어뎁테이션 셋에 대한 정보를 포함한다. MPD는 복수의 어뎁테이션 셋에 대한 정보를 포함할 수 있다. 어뎁테이션 셋은 상호전환 가능한 하나 또는 그 이상의 미디어 컨텐츠 컴포넌트를 포함하는 미디어 컴포넌트의 집합이다. 어뎁테이션 셋은 하나 또는 그 이상의 레프리젠테이션을 포함할 수 있다. 어뎁테이션 셋 각각은 서로 다른 언어의 오디오를 포함하거나 서로 다른 언어의 자막을 포함할 수 있다.The adaptation set element contains information about the adaptation set. The MPD may include information about a plurality of adaptation sets. An adaptation set is a collection of media components that contain one or more media content components that are interchangeable. An adaptation set may include one or more representations. Each of the adaptation sets may include audio of different languages or may include subtitles of different languages.
레프리젠테이션 엘리먼트는 레프리젠테이션에 대한 정보를 포함한다. MPD는 복수의 레프리젠테이션에 대한 정보를 포함할 수 있다. 레프리젠테이션은 하나 또는 그 이상의 미디어 컴포넌트들의 구조화된 모음으로서, 동일한 미디어 컨텐츠 컴포넌트에 대하여 서로 달리 인코딩된 복수의 레프리젠테이션이 존재할 수 있다. 한편, 비트스트림 스위칭(bitstream switching)이 가능한 경우, 전자 장치는 미디어 컨텐츠 재생 도중 업데이트된 정보에 기초하여 수신되는 레프리젠테이션을 다른 레프리젠테이션으로 전환할 수 있다. 특히 전자 장치는 대역폭의 환경에 따라 수신되는 레프리젠테이션을 다른 레프리젠테이션으로 전환할 수 있다. 레프리젠테이션은 복수의 세그먼트들로 분할된다.The presentation element includes information about the presentation. The MPD may include information about a plurality of representations. A representation is a structured collection of one or more media components, and there may be a plurality of differently encoded representations for the same media content component. On the other hand, when bitstream switching is enabled, the electronic device can switch the received presentation to another presentation based on the updated information during media content playback. In particular, the electronic device can convert the received presentation into another representation depending on the bandwidth environment. The representation is divided into a plurality of segments.
세그먼트는 미디어 컨텐츠 데이터의 단위이다. 레프리젠테이션은 HTTP 1.1(RFC 2616)에서 정의된 HTTP GET 또는 HTTP partial GET method를 이용한 전자 장치의 요청에 따라 세그먼트 또는 세그먼트의 일부분으로 전송될 수 있다.A segment is a unit of media content data. The representation may be sent as part of a segment or segment as requested by the electronic device using the HTTP GET or HTTP partial GET method defined in HTTP 1.1 (RFC 2616).
또한, 세그먼트는 복수의 서브 세그먼트들을 포함하여 구성될 수 있다. 서브세그먼트는 세그먼트 레벨에서 인덱스될 수 있는 가장 작은 단위(unit)를 의미할 수 있다. 세그먼트는 초기화 세그먼트(Initialization Segment), 미디어 세그먼트(Media Segment), 인덱스 세그먼트 Index Segment), 비트스트림 스위칭 세그먼트(BitstreamSwitching Segment) 등을 포함할 수 있다.
Further, the segment may be configured to include a plurality of sub-segments. A sub-segment may mean the smallest unit that can be indexed at the segment level. The segment may include an Initialization Segment, a Media Segment, an Index Segment Index Segment, a Bitstream Switching Segment, and the like.
도 6은 본 발명의 일 실시예에 따른 구형좌표계를 평면좌표계로 변환한 도면 및 전자 시스템을 이용한 서비스를 나타낸 도면이다.FIG. 6 is a diagram showing a planar coordinate system converted from a spherical coordinate system according to an embodiment of the present invention and a service using an electronic system.
도 (a)를 참조하면, 구형 좌표계에서 가상 공간 및/또는 관심 영역이 나타나 있다.Referring to Figure (a), the virtual space and / or the region of interest is shown in the spherical coordinate system.
가상 공간(610)은 사용자를 중심으로 수평 및/또는 수직 방향으로 360도의 구형 공간일 수 있다. 사용자는 가상 공간(610)의 특정 위치(613)에서 관심 영역(615)을 바라볼 수 있다. 관심 영역(615)은 가상 공간(610)에서 사용자의 시선에 대응되는 영역으로서 사용자가 바라보는 영역을 의미한다. The
도 (b)를 참조하면, 직교 좌표계로 변환된 전체 영상 및/또는 관심 영역이 나타나 있다.Referring to FIG. 5 (b), the entire image and / or the region of interest transformed into the orthogonal coordinate system are shown.
본 발명의 일 실시예에 따른 전자 시스템은 구형 좌표계의 가상 공간(610)을 직교 좌표계의 전체 영상(640)으로 변환(또는 매핑)할 수 있다. 예를 들어, 도 (a)의 가상 공간(610) 및/또는 관심 영역(615)는 도 (b)의 전체 영상(640) 및/또는 관심 영역(645)로 변환될 수 있다.The electronic system according to an embodiment of the present invention may convert (or map) the
사용자(620)는 HMD(630, Head Mounted Display)를 착용하고, HMD(630)을 통하여 관심 영역(645)을 시청할 수 있다. 관심 영역(645)는 전체 영상(640)의 가로 축 및/또는 세로 축을 기준으로 가운데 위치 또는 특정의 위치에 위치할 수 있다.The
HMD(630)는 전체 영상(640)을 수신하고, 전체 영상(640) 및/또는 관심 영역(645)을 재생할 수 있다.The
전체 영상(640)은 가상 공간의 전체 영역에 대한 영상일 수 있다. 관심 영역(645)은 전체 영상(640)에서 사용자(620)가 바라보는 영역 및/또는 바라볼 것으로 예상되는 영역일 수 있다.The
본 발명의 일 실시예에 따른 전자 시스템은 선택형 및/또는 적응형 스트리밍 방식으로 영상을 사용자에게 제공할 수 있다. 예를 들어, 본 발명의 일 실시예에 따른 전자 시스템은 관심 영역(645)에 대한 영상은 고 품질의 영상으로 사용자(620)에게 제공하고, 관심 영역(645) 이외의 영역에 대한 영상은 저 품질의 영상으로 사용자(620)에게 제공할 수 있다. An electronic system according to an embodiment of the present invention can provide a user with a video in a selective and / or adaptive streaming manner. For example, an electronic system according to an embodiment of the present invention provides an image for a region of
그 결과, 본 발명의 일 실시예에 따른 전자 시스템은 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 위한 서비스 데이터 및/또는 시그널링 데이터를 사용자(620)에게 효율적으로 전송할 수 있고, 사용자(620)에게 고품질의 비디오 영상을 제공할 수 있다.
As a result, the electronic system according to an embodiment of the present invention can efficiently transmit service data and / or signaling data for a service for a virtual reality, augmented reality, or hologram to a
도 7은 본 발명의 일 실시예에 따른 전자 시스템을 나타낸 도면이다.7 is a diagram illustrating an electronic system according to an embodiment of the present invention.
도 (a)를 참조하면, 본 발명의 일 실시예에 따른 전자 시스템(710)은 HMD(711) 및/또는 서버(715)를 포함할 수 있다. HMD(711)는 센서 장치(712) 및/또는 전자 장치(713)를 포함할 수 있다. HMD(711)는 센서 장치(712) 및 전자 장치(713)가 결합된 형태일 수도 있고, 분리된 형태일 수도 있다. 센서 장치(712), 전자 장치(713), 및/또는 서버(715)는 서로 간에 유선 및/또는 무선 네트워크를 통하여 연결될 수 있다.Referring to Figure (a), an
HMD(711)는, 사용자의 머리에 착용된 상태로, 센서 장치(712)를 이용하여 센서 정보를 획득하고, 전자 장치(713)를 이용하여 영상을 재생할 수 있다.The
센서 장치(712)는 센서 정보를 획득하고, 이들을 전자 장치(713)로 전송할 수 있다. 예를 들어, 센서 정보는 오디오 정보, 헤드 벡터(사용자 머리의 위치 정보 및/또는 속도 정보), 눈동자 영상, 및/또는 눈동자 벡터를 포함할 수 있다.
전자 장치(713)는 센서 장치(712)로부터 센서 정보를 획득하고, 서버(715)로부터 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 위한 서비스 데이터 및/또는 시그널링 데이터를 수신할 수 있다.
구체적으로, 전자 장치(713)는 센서 정보를 기초로 사용자의 눈동자의 움직임을 서술하는 눈동자 벡터 및/또는 사용자의 머리의 움직임을 서술하는 헤드 벡터를 생성할 수 있다. Specifically, the
그리고 나서, 전자 장치는 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성할 수 있다.The electronic device may then generate interest region information indicating the region of interest that the user is expected to look at or look at in the entire image.
그리고 나서, 전자 장치(713)는 시그널링 데이터 및 관심 영역 정보를 기초로 선택된 타일 영상을 서술하는 요청 정보를 생성할 수 있다. The
그리고 나서, 전자 장치(713)는 요청 정보를 기초로 서비스 데이터를 수신할 수 있다. 예를 들어, 서비스 데이터는 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다. 또한, 관심 영역을 위한 선택된 타일 영상의 품질은 관심 영역 이외의 영역을 위한 선택된 타일 영상의 품질보다 높을 수 있다. 즉, 서비스 데이터는 관심 영역에 해당하는 고 품질의 영상 데이터 및/또는 비-관심 영역에 해당하는 저 품질 영상 데이터를 포함할 수 있다.The
서버(715)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 위한 서비스 데이터 및/또는 시그널링 데이터를 생성하고, 이들을 전자 장치로 전송할 수 있다.The
예를 들어, 서버(715)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 위한 전체 영상을 생성하고, 전체 영상을 적어도 하나의 타일로 분할할 수 있다. 그리고, 서버(715)는 적어도 하나의 타일을 서로 다른 해상도 및/또는 품질로 인코딩할 수 있다.For example, the
도 (b)를 참조하면, 본 발명의 일 실시예에 따른 전자 시스템(720)은 HMD(721) 및/또는 서버(725)를 포함할 수 있다. 본 발명의 일 실시예에 따른 전자 시스템(720)은 가상 현실 서비스뿐만 아니라 증강 현실 서비스를 제공할 수 있다. 이를 위하여, HMD(721)는 도 (a)의 센서 장치(712) 및/또는 전자 장치(713)가 결합된 형태일 수 있다. HMD(721)는 전자 장치로 지칭될 수 있다.Referring to FIG. 7B, an
예를 들어, HMD(또는 전자 장치, 721)는 카메라 모듈(722), 디스플레이(723), 및/또는 제어부(724)를 포함할 수 있다.For example, the HMD (or electronic device) 721 may include a
카메라 모듈(722)은 외부의 영상을 촬영할 수 있다. 또한, 카메라 모듈(722)은 깊이 인식 카메라일 수 있고, 상하좌우 120도 정도의 넓은 시야각을 촬영할 수 있다.The
디스플레이(723)는 영상을 디스플레이하는 투명한 렌즈일 수 있다. 따라서, 사용자는 디스플레이(723)을 통하여 외부 세계와 영상을 동시에 바라볼 수 있다. 즉, 사용자는 외부 세계에 진짜 홀로그램 영상이 존재하는 것처럼 인식할 수 있다. The
제어부(724)는 사용자에게 가상 현실 서비스 및/또는 증강 현실 서비스를 제공하기 위한 HMD(721)의 모든 동작을 제어할 수 있다. 제어부(724)에 대한 내용은 도 (a)에서 설명한 센서 장치(712) 및/또는 전자 장치(713)의 내용을 모두 포함할 수 있다.
The
도 8은 본 발명의 일 실시예에 따른 센서 장치를 나타낸 도면이다.8 is a view showing a sensor device according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 센서 장치(810, 820)는 센서 정보를 획득하고, 이들을 전자 장치로 전송할 수 있다. 예를 들어, 센서 장치(810, 820)는 사용자의 눈동자(좌측 눈동자 및/또는 우측 눈동자) 영상을 촬영할 수 있다. 또한, 센서 장치(810, 820)는 사용자의 눈동자 벡터를 생성할 수 있다. 또한, 센서 장치(810, 820)는 눈동자 영상 및/또는 눈동자 벡터를 전자 장치로 전송할 수 있다.The
본 발명의 일 실시예에 따른 센서 장치(810, 820)는 전술한 센서 모듈을 포함할 수 있다. 이하에서는, 센서 모듈에 포함되는 적외선 CCD 및/또는 IR LED를 중심으로 설명한다.The
도 (a)를 참조하면, 본 발명의 일 실시예에 따른 센서 장치(810)는 두 쌍의 적외선 LED(Light-Emitting-Diode) 및/또는 적외선 CCD(charge coupled device) 를 포함할 수 있다.Referring to FIG. 5A, the
예를 들어, 센서 장치(810)은 좌측 적외선 LED(813), 좌측 적외선 CCD(815), 우측 적외선 LED(817), 및/또는 우측 적외선 CCD(819)를 포함할 수 있다.For example, the
좌측 적외선 LED(813) 및/또는 우측 적외선 LED(817)는 적외선 영역의 빛을 방출하는 발광 다이오드이다. 좌측 적외선 CCD(815) 및/또는 우측 적외선 CCD(819)는 적외선 영역의 빛을 감지하는 적외선 이미지 센서이다.The left infrared LED 813 and / or the right
좌측 적외선 CCD(815)는 좌측 적외선 LED(813)에서 방출되는 적외선 영역의 빛을 감지할 수 있다. 우측 적외선 CCD(819)는 우측 적외선 LED(817)에서 방출되는 적외선 영역의 빛을 감지할 수 있다.The left infrared CCD 815 can sense the light in the infrared region emitted from the left infrared LED 813. The right
센서 장치(810)는 좌측 적외선 LED(813) 및/또는 좌측 적외선 CCD(815)를 이용하여 사용자의 좌측 눈동자 영상을 촬영할 수 있다. 또한, 센서 장치(810)은 우측 적외선 LED(817) 및/또는 우측 적외선 CCD(819)를 이용하여, 사용자의 우측 눈동자 영상을 촬영할 수 있다.The
도 (b)를 참조하면, 본 발명의 일 실시예에 따른 센서 장치(820)는 한 쌍의 적외선 LED(823) 및/또는 적외선 CCD(825)를 포함할 수 있다.Referring to FIG. 7B, the
센서 장치(820)는 적외선 LED(823) 및/또는 적외선 CCD(825)를 이용하여, 사용자의 좌측 눈동자 영상 및/또는 우측 눈동자 영상을 촬영할 수 있다.
The
도 9는 본 발명의 일 실시예에 따른 눈동자 벡터를 생성하는 방법을 나타낸 도면이다.9 is a diagram illustrating a method of generating a pupil vector according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 센서 장치 및/또는 전자 장치는 사용자의 눈동자 벡터를 생성할 수 있다. 이하에서는, 센서 장치가 센서 장치의 제어부를 이용하여 눈동자 벡터를 생성하는 방법을 중심으로 설명한다.The sensor device and / or the electronic device according to an embodiment of the present invention may generate a user's pupil vector. Hereinafter, a method of generating a pupil vector using the control unit of the sensor apparatus will be described.
센서 장치는 눈 후보 영역을 검출할 수 있다(910).The sensor device may detect an eye candidate region (910).
예를 들어, 센서 장치는 촬영한 영상에 대하여 히스토그램 균일화를 사용하여 영상을 향상시킬 수 있다. 히스토그램 균일화는 영상의 히스토그램이 평탄하게 되도록 명암 값의 재분배를 통해 농도를 조절하는 것이다. 그리고 나서, 센서 장치는 미리 정의된 휴리스틱 규칙을 사용하여 적어도 하나의 눈 후보 영역을 검출할 수 있다.For example, the sensor device can improve the image by using histogram equalization for the captured image. The histogram equalization is to adjust the density by redistributing the contrast values so that the histogram of the image is flat. The sensor device can then detect at least one eye candidate region using predefined heuristic rules.
또한, 센서 장치는 적어도 하나의 눈 후보 영역 중에서 눈 영역을 검출할 수 있다(920).Further, the sensor device may detect the eye region in at least one eye candidate region (920).
예를 들어, 센서 장치는 에지 추출 및/또는 세그먼테이션을 기반으로 한 이진화 방법을 이용하여 적어도 하나의 눈 후보 영역에서 눈 영역과 관련된 적어도 하나의 연결 영역을 획득할 수 있다. 그리고 나서, 센서 장치는 휴리스틱 규칙을 적용하여 적어도 하나의 연결 영역 중에서 눈 영역이 될 수 없는 영역들을 제거하여 적어도 하나의 눈 영역 후보를 획득할 수 있다. 그리고 나서, 센서 장치는 눈의 크기, 위치, 및/또는 모양에 기반한 휴리스틱 규칙을 사용하여 적어도 하나의 눈 영역 후보 중에서 적어도 하나의 눈 후보 쌍을 검출할 수 있다. 그리고 나서, 센서 장치는 적어도 하나의 눈 후보 쌍에 대하여 눈 후보 쌍이 될 가능성에 대한 점수를 부여하고, 가장 높은 점수를 갖는 눈 후보 쌍을 눈 영역으로 결정할 수 있다.For example, the sensor device may obtain at least one connection region associated with the eye region in at least one eye candidate region using a binarization method based on edge extraction and / or segmentation. Then, the sensor device can obtain at least one eye region candidate by removing regions that can not be the eye region among at least one connection region by applying a heuristic rule. The sensor device may then detect at least one eye candidate pair from at least one eye region candidate using heuristic rules based on the size, position, and / or shape of the eye. Then, the sensor device can give a score for the probability of becoming an eye candidate pair for at least one eye candidate pair, and determine the eye candidate region having the highest score as the eye region.
또한, 센서 장치는 눈동자 위치를 추출할 수 있다(930). 추가적으로 센서 장치는 눈동자의 동공(Pulpil) 의 위치를 추출할 수 있다. Also, the sensor device may extract the pupil position (930). In addition, the sensor device can extract the position of the pupil of the pupil.
예를 들어, 센서 장치는, 수학적 모폴리지 연산을 기초로, 눈 영역으로부터 눈동자 위치를 추출할 수 있다. 추가적으로, 센서 장치는 반복적 임계치 설정에 의한 이진화, 가우시안 필터를 사용한 눈동자 위치의 특성 강화, 및/또는 상관 관계를 이용한 눈동자 위치의 검증을 이용하여 더욱 정확한 눈동자 위치를 추출할 수 있다.For example, the sensor device may extract the pupil position from the eye region based on a mathematical model calculation. In addition, the sensor device can extract a more accurate pupil position using binarization by setting a repetitive threshold, enhancing the characteristics of the pupil position using the Gaussian filter, and / or verifying the pupil position using the correlation.
이때, 눈동자의 위치가 추출되면, 센서 장치는 더 작은 검색영역에서 동공(Pulpil) 을 찾을 수 있다.At this time, once the position of the pupil is extracted, the sensor device can find a pupil in a smaller search area.
또한, 센서 장치는 눈동자 벡터를 생성할 수 있다(940).In addition, the sensor device may generate a pupil vector (940).
예를 들어, 센서 장치는, 눈 영역 내에서 눈동자 위치의 변화량을 기초로, 눈동자 벡터를 생성할 수 있다. 눈동자 벡터에 대한 구체적인 내용은 이하에서 설명한다.
For example, the sensor device can generate a pupil vector based on the amount of change in the pupil position in the eye region. Details of the pupil vector will be described below.
도 10은 본 발명의 일 실시예에 따른 눈동자 벡터를 나타낸 도면이다.10 is a diagram illustrating a pupil vector according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 눈동자 벡터는 사용자의 눈동자에 대한 정보를 포함할 수 있다. The pupil vector according to an embodiment of the present invention may include information on the pupils of the user.
예를 들어, 본 발명의 일 실시예에 따른 눈동자 벡터는 좌측 눈동자 벡터 및/또는 우측 눈동자 벡터를 포함할 수 있다. 좌측 눈동자 벡터는 좌측 눈동자 동공 좌표 벡터(1010) 및/또는 좌측 눈동자 동공 각도 벡터(1030)을 포함할 수 있다. 우측 눈동자 벡터는 우측 눈동자 동공 좌표 벡터(1020) 및/또는 우측 눈동자 동공 각도 벡터(1040)을 포함할 수 있다. For example, a pupil vector according to an embodiment of the present invention may include a left pupil vector and / or a right pupil vector. The left eye pupil vector may include a left eye pupil pupil coordinate
좌측 눈동자 동공 좌표 벡터(1010)는 좌측 동공이 원점(1011)을 기준으로 제1 지점(1013)으로 이동했을 때 제1 지점(1013)의 좌표 정보를 지시할 수 있다.The left pupil pupil coordinate
우측 눈동자 동공 좌표 벡터(1020)는 우측 동공이 원점(1021)을 기준으로 제2 지점(1023)으로 이동했을 때 제2 지점(1023)의 좌표 정보를 지시할 수 있다.The right pupil pupil coordinate
좌측 눈동자 동공 각도 벡터(1030)는 좌측 동공이 원점(1011)을 기준으로 제1 지점(1013)으로 이동했을 때 제1 지점(1013)의 각도 정보를 지시할 수 있다.The left pupil
우측 눈동자 동공 각도 벡터(1040)는 우측 동공이 원점(1021)을 기준으로 제2 지점(1023)으로 이동했을 때 제2 지점(1023)의 각도 정보를 지시할 수 있다.The right pupil
눈동자 벡터에 포함되는 정보는 위의 내용에 한정되는 것은 아니고, 이하에서 보다 구체적으로 설명한다.
The information included in the pupil vector is not limited to the above contents, but will be described in more detail below.
도 11은 본 발명의 일 실시예에 따른 눈동자 제스쳐 정보를 나타낸 도면이다.11 is a diagram illustrating pupil gesture information according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 센서 장치 및/또는 전자 장치는 눈동자 제스쳐정보(예를 들어, EyeGesturePacket)를 생성할 수 있다. 그리고, 센서 장치 및/또는 전자 장치는 눈동자 제스쳐 정보를 기초로 사용자의 의도, 감정, 및/또는 동작을 추정할 수 있다. 이하에서는 센서 장치에서 생성된 눈동자 제스쳐 정보를 설명한다. 다만, 눈동자 제스쳐 정보는 상술한 바와 같이 전자 장치에 의해서도 생성될 수 있다.A sensor device and / or an electronic device according to an embodiment of the present invention may generate pupil gesture information (e.g., EyeGesturePacket). And, the sensor device and / or the electronic device can estimate the intention, emotion, and / or action of the user based on the pupil gesture information. Hereinafter, the pupil gesture information generated by the sensor device will be described. However, the pupil gesture information may also be generated by the electronic device as described above.
예를 들어, 눈동자 제스쳐 정보는 MagicNumber 정보, Timestamp 정보, GestureCommand 정보, EyeVectors 정보, ImageLen 정보, 및/또는 Image[ImageLen] 정보 중에서 적어도 하나를 포함할 수 있다.For example, the pupil gesture information may include at least one of MagicNumber information, Timestamp information, GestureCommand information, EyeVectors information, ImageLen information, and / or Image [ImageLen] information.
MagicNumber 정보는 해당 패킷이 눈동자 제스쳐 정보(예를 들어, Eye Tracking gesture)를 포함하는 패킷이라고 지시할 수 있다. 예를 들어, MagicNumber 정보는 “EYEP”를 지시할 수 있다. 이는, 기존에 패킷 및 파일이 존재할 때 포맷의 인식을 위해서 구별되는 값으로 정의하는 것으로서, 현실에서 정의된 값과 구별되는 임의의 값 일수 있다.The MagicNumber information may indicate that the packet is a packet containing pupil gesture information (e.g., Eye Tracking gesture). For example, the MagicNumber information may indicate " EYEP ". This is defined as a value distinguished for recognition of a format when a packet and a file exist in the past, and may be an arbitrary value different from a value defined in reality.
Timestamp 정보는 패킷의 캡쳐 타임 스탬프를 지시할 수 있다. Timestamp 정보는 인식 디바이스(예를 들어, 센서 장치)와 동기화된 절대시간 값을 가질 수 있다. 또한, Timestamp 정보는 기본적으로 상대시간 값을 가질 수 있다.The Timestamp information may indicate the capture timestamp of the packet. The Timestamp information may have an absolute time value synchronized with a recognition device (e.g., a sensor device). Also, the Timestamp information can basically have a relative time value.
GestureCommand 정보는 눈동자의 패턴에 따른 제스쳐 명령어를 지시할 수 있다.The GestureCommand information can indicate a gesture command according to the pattern of the pupil.
예를 들어, GestureCommand 정보의 값이 “0” 및/또는 “0xffffffff”이면, 제스쳐 명령어는 정의되지 않을 수 있다. 이 경우, 센서 장치는 눈동자 벡터 및/또는 영상을 전자 장치로 전송할 수 있다.For example, if the value of the GestureCommand information is " 0 " and / or " 0xffffffff ", the gesture instruction may not be defined. In this case, the sensor device may transmit the pupil vector and / or image to the electronic device.
예를 들어, GestureCommand 정보의 값이 “1” 이면, 제스쳐 명령어는 해당 패킷이 눈동자 벡터는 전송하지만 제스쳐 명령어에 대한 판단은 수신단(예를 들어, 전자 장치)에서 해야 한다는 것을 지시할 수 있다.For example, if the value of the GestureCommand information is " 1 ", the gesture instruction may indicate that the packet is to transmit the pupil vector, but the determination of the gesture instruction should be done at the receiving end (e.g., an electronic device).
예를 들어, GestureCommand 정보의 값이 “2” 이면, 제스쳐 명령어는 정상 상태의 눈동자 벡터의 추출을 지시할 수 있다.For example, if the value of the GestureCommand information is " 2 ", the gesture instruction can instruct extraction of the normal pupil vector.
예를 들어, GestureCommand 정보의 값이 “3” 이면, 제스쳐 명령어는 사용자가 졸린 상태라고 지시할 수 있다. 사용자의 눈이 정상 상태였다가, 반쯤 감긴 상태에 대한 눈동자 제스쳐 정보를 포함한 패킷이 5회 이상 감지되면 졸린 상태를 나타낼 수 있다.For example, if the value of the GestureCommand information is " 3 ", the gesture instruction may indicate that the user is sleepy. If a user's eye is in a normal state and a packet including eye pupil gesture information about a half-wound state is detected five or more times, it may indicate a sleepy state.
예를 들어, GestureCommand 정보의 값이 “4” 이면, 제스쳐 명령어는 좌측 눈 및/또는 우측 눈의 윙크를 지시할 수 있다.For example, if the value of the GestureCommand information is " 4 ", the gesture instruction may indicate the wink of the left eye and / or the right eye.
예를 들어, GestureCommand 정보의 값이 “5” 이면, 제스쳐 명령어는 좌측 눈 및/또는 우측 눈에서 눈물이 흐르는 상태를 지시할 수 있다.For example, if the value of the GestureCommand information is " 5 ", the gesture instruction may indicate a tear flow state in the left eye and / or the right eye.
예를 들어, GestureCommand 정보의 값이 “6” 이면, 제스쳐 명령어는 특정 위치(또는 벡터)로 이동을 지시할 수 있다. 유사한 눈동자 벡터가 연속적으로 3회 이상 발생한 경우에, 제스처 명령어는 특정 위치(또는 벡터)로 이동을 지시할 수 있다. 이때, 눈동자 벡터의 오차는 5% 이내의 변동 범위에 있는 것으로 가정할 수 있다.For example, if the value of the GestureCommand information is " 6 ", the gesture instruction can direct movement to a specific location (or vector). If a similar pupil vector occurs more than three times in succession, the gesture instruction can direct movement to a specific location (or vector). At this time, it can be assumed that the error of the pupil vector is within a variation range of 5% or less.
예를 들어, GestureCommand 정보의 값이 “7” 이면, 제스쳐 명령어는 호기심 및/또는 놀람을 지시할 수 있다. 사용자의 동공이 커지는 벡터가 추출되고, 사용자의 눈커풀이 올라가서 머무는 숫자(또는 빈도)가 정상 상태보다 떨어지는 경우, GestureCommand 정보의 값이 “7” 일 수 있다.For example, if the value of the GestureCommand information is " 7 ", the gesture command may indicate curiosity and / or surprise. If the vector in which the pupil of the user is enlarged is extracted and the number (or frequency) of the user's eyeball climbing up is lower than the normal state, the value of the GestureCommand information may be " 7 ".
예를 들어, GestureCommand 정보의 값이 “8” 이면, 제스쳐 명령어는 일시 정지를 지시할 수 있다. 눈커풀을 3회 이상 감는 눈동자 벡터가 발생할 경우, GestureCommand 정보의 값이 “8” 일 수 있다. 이때, 눈동자 벡터의 오차는 5% 이내의 변동범위에 있을 수 있다. 이 때, 제스쳐 명령어는 사용자가 현재의 컨텐트를 종료하거나, 일시 정지하기 위한 명령어일 수 있다.For example, if the value of the GestureCommand information is " 8 ", the gesture instruction can indicate a pause. If a pupil vector that winds the eye loop more than three times occurs, the value of the GestureCommand information may be " 8 ". At this time, the error of the pupil vector may be within a variation range of 5% or less. At this time, the gesture instruction may be a command for the user to terminate or pause the current content.
예를 들어, GestureCommand 정보의 값이 “9” 이면, 제스쳐 명령어는 추가적인 사용자 지정 패턴이 정의될 수 있다.For example, if the value of the GestureCommand information is " 9 ", a gesture instruction may define an additional custom pattern.
EyeVectors 정보는 사용자의 눈동자 벡터에 대한 정보를 포함할 수 있다. 구체적인 내용은 이하에서 설명한다.The EyeVectors information may include information about the user's pupil vector. Details will be described below.
ImageLen 정보는 패턴이 추출된 영상의 압축된 데이터의 길이를 지시할 수 있다.The ImageLen information may indicate the length of the compressed data of the extracted image.
Image[ImageLen]는 ImageLen 정보 만큼의 압축된 이미지 데이터를 지시할 수 있다. Image[ImageLen]는 PNG 및/또는 BMP 등의 파일 포맷의 데이터를 포함할 수 있다.
Image [ImageLen] may indicate as much compressed image data as ImageLen information. Image [ImageLen] may include data in a file format such as PNG and / or BMP.
도 12는 본 발명의 일 실시예에 따른 눈동자 벡터를 나타낸 도면이다.12 is a diagram illustrating a pupil vector according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 눈동자 벡터는 PulpilVect_Left 정보, PulpilVect_Right 정보, LidBlink_LR 정보, PulpilDiameter_LR 정보, EyeDiameter_LR 정보, PulpilDistance 정보, AngleVector_LR 정보, WetEyeDrops_LR 정보, 및/또는 EyeTemperature_LR 정보를 포함할 수 있다.The eye vector according to an exemplary embodiment of the present invention may include PulpilVect_Left information, PulpilVect_Right information, LidBlink_LR information, PulpilDiameter_LR information, EyeDiameter_LR information, PulpilDistance information, AngleVector_LR information, WetEyeDrops_LR information, and / or EyeTemperature_LR information.
PulpilVect_Left 정보는 사용자의 좌측 눈동자에 포함된 동공의 좌표(예를 들어, x 좌표 및 y 좌표)를 지시할 수 있다. PulpilVect_Left 정보는 좌측 눈동자 동공 좌표 벡터를 지시할 수 있다.The PulpilVect_Left information may indicate the coordinates (e.g., x-coordinate and y-coordinate) of the pupil contained in the left pupil of the user. The PulpilVect_Left information may indicate the left pupil pupil coordinate vector.
PulpilVect_Right 정보는 사용자의 우측 눈동자에 포함된 동공의 좌표(예를 들어, x 좌표 및 y 좌표)를 지시할 수 있다. PulpilVect_Right 정보는 우측 눈동자 동공 좌표 벡터를 지시할 수 있다.The PulpilVect_Right information may indicate the pupil coordinates (e.g., x and y coordinates) contained in the user's right pupil. The PulpilVect_Right information may indicate the right pupil pupil coordinate vector.
LidBlink_LR 정보는 사용자의 좌측 및/또는 우측 눈꺼풀의 깜박임 횟수를 지시할 수 있다. 패킷 전송 인터벌에서 사용자가 두 눈을 감을 경우, 센서 장치는 사용자의 동공을 추출할 수 없다. 사용자의 두 동공이 추출되지 않는 상태가 지속되면, 센서 장치는 사용자가 눈을 감고 있다고 판단할 수 있다. 사용자의 한쪽 동공만 추출될 경우, 센서 장치는 사용자가 한쪽 눈을 감고 있다고 판단할 수 있다. 사용자가 눈을 뜨고 있는 것으로 확인되지만, 눈꺼풀의 움직임 횟수에서 차이가 나는 경우, 센서 장치는 사용자가 어느 한쪽 눈으로 윙크를 하고 있다고 판단할 수 있다.The LidBlink_LR information may indicate the number of flicker of the left and / or right eyelids of the user. When the user closes his or her eyes in the packet transmission interval, the sensor device can not extract the user's pupil. If the state in which the user's two pupils are not extracted continues, the sensor device may determine that the user is closing his or her eyes. When only one pupil of the user is extracted, the sensor device can determine that the user is closing one eye. It is confirmed that the user is opening his or her eyes. However, if there is a difference in the number of eyelid movement, the sensor device can determine that the user is winking with either eye.
PulpilDiameter_LR 정보는 사용자의 좌측 및/또는 우측 눈동자에 포함된 동공의 지름을 지시할 수 있다. 지름은 CCD 센서의 픽셀 거리 값으로 표현될 수 있다. 지름에 대한 밀리 미터(mili meter) 및/또는 마이크로 미터(micro meter)로의 변환은 피킷을 수신해서 활용하는 측에서 수행될 수 있다.The PulpilDiameter_LR information may indicate the diameter of the pupil included in the left and / or right pupil of the user. The diameter can be expressed as the pixel distance value of the CCD sensor. The conversion of the diameter to millimeter and / or micrometer can be performed on the side that receives and utilizes the kit.
EyeDiameter_LR 정보는 사용자의 좌측 및/또는 우측 눈동자의 지름을 지시할 수 있다. 지름은 CCD 센서의 픽셀 거리 값으로 표현될 수 있다. 지름에 대한 밀리 미터(mili meter) 및/또는 마이크로 미터(micro meter)로의 변환은 피킷을 수신해서 활용하는 측에서 수행될 수 있다.The EyeDiameter_LR information may indicate the diameter of the left and / or right eye of the user. The diameter can be expressed as the pixel distance value of the CCD sensor. The conversion of the diameter to millimeter and / or micrometer can be performed on the side that receives and utilizes the kit.
PulpilDistance 정보는 사용자의 좌측 및/또는 우측 동공의 거리를 지시할 수 있다. 동공의 거리는 CCD 센서의 픽셀 거리 값으로 표현될 수 있다. 동공의 거리에 대한 밀리 미터(mili meter) 및/또는 마이크로 미터(micro meter)로의 변환은 피킷을 수신해서 활용하는 측에서 수행될 수 있다.The PulpilDistance information may indicate the distance of the left and / or right pupil of the user. The distance of the pupil can be expressed by the pixel distance value of the CCD sensor. The conversion of the distance of the pupil to millimeter and / or micrometer can be performed on the side that receives and utilizes the kit.
AngleVector_LR 정보는 원점을 기준으로 좌측 및/또는 우측 눈동자의 각도를 지시할 수 있다. 또는 AngleVector_LR 정보는 원점을 기준으로 좌측 및/또는 우측 눈동자에 포함된 동공의 각도를 지시할 수 있다. 예를 들어, 원점은 사용자의 좌측 및/또는 우측 눈 영역의 중심일 수 있다. 또는, 원점은 좌측 및/또는 우측 눈동자의 중심일 수 있다. AngleVector_LR 정보의 변화 시, 원점을 기준으로 각도의 변화량을 지시할 수 있다. AngleVector_LR 정보는 좌측 눈동자 동공 각도 벡터 및/또는 우측 눈동자 동공 각도 벡터를 지시할 수 있다.The AngleVector_LR information may indicate the angle of the left and / or right pupil relative to the origin. Or AngleVector_LR information may indicate the angle of the pupil contained in the left and / or right pupils relative to the origin. For example, the origin may be the center of the left and / or right eye region of the user. Alternatively, the origin may be the center of the left and / or right pupil. When the AngleVector_LR information changes, the change amount of the angle can be indicated based on the origin. The AngleVector_LR information may indicate a left pupil pupil angle vector and / or a right pupil pupil angle vector.
WetEyeDrops_LR 정보는 사용자가 좌측 및/또는 우측 눈에서 눈물을 흘리고 있다는 정보를 지시할 수 있다. 눈꺼풀의 벡터 변화가 없는 상태에서, 동공의 지금이 눈물에 의한 굴절에 의해서 미세하게 변하는 경우, WetEyeDrops_LR 정보는 사용자가 눈물을 흘리고 있다는 정보를 지시할 수 있다.The WetEyeDrops_LR information may indicate information that the user is tearing in the left and / or right eye. In the absence of a vector change of the eyelid, if the pupil now changes finely due to refraction due to tears, the WetEyeDrops_LR information can indicate information that the user is tearing.
EyeTemperature_LR 정보는 좌측 및/또는 우측 눈동자의 온도를 지시할 수 있다. EyeTemperature_LR 정보는 적외선 CCD에서 캡쳐된 영상을 기초로 좌측 및/또는 우측 눈동자의 온도를 지시할 수 있다.
The EyeTemperature_LR information may indicate the temperature of the left and / or right eye. The EyeTemperature_LR information can indicate the temperature of the left and / or right eye based on the image captured by the infrared CCD.
도 13은 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.13 is a diagram illustrating an example of application of the pupil movement according to an embodiment of the present invention.
도면을 참조하면, 본 발명의 일 실시예에 따른 센서 장치 및/또는 전자 장치는 사용자의 운동자 움직임을 모스 부호(Morse code)로 변환할 수 있다. 모스 부호는 짧은 발신 전류(1310)와 긴 발신 전류(1320)을 적절히 조합하여 알파벳과 숫자를 표기하는 방법이다.Referring to the drawings, a sensor device and / or an electronic device according to an embodiment of the present invention can convert a user's movement of a user into Morse code. The Morse code is a method of expressing an alphanumeric character by appropriately combining the short-termination current 1310 and the long-
본 발명의 일 실시예에 따른 센서 장치 및/또는 전자 장치는, 모스 부호 모드에서, 사용자가 눈동자를 두 번 깜빡이면(더블 블링크), 짧은 발신 전류(1310)로 해석할 수 있다.The sensor device and / or the electronic device according to an embodiment of the present invention can interpret the short outgoing current 1310 when the user blinks the pupil twice (double blink) in the Morse code mode.
또한, 센서 장치 및/또는 전자 장치는 사용자의 눈동자가 특정 위치를 고정한 채 2초 이상 응시 후 깜빡이면, 긴 발신 전류(1320)으로 해석할 수 있다.In addition, the sensor device and / or the electronic device can be interpreted as a long emitting current 1320 if the user's pupil flashes after stare for more than 2 seconds while fixing a specific position.
이때, 2초 라는 시간은 현실적 상황에 맞게 약 수 초안에서 조정 가능하다.At this time, the time of 2 seconds can be adjusted in a few seconds to meet the real situation.
또한, 센서 장치 및/또는 전자 장치는 신호 발신의 사이에 들어가는 해석되지 않은 깜박임은 입력오류로 무시할 수 있다.In addition, the sensor device and / or the electronic device can ignore unintentional flicker entering between signal origination with an input error.
따라서, 본 발명의 일 실시예에 따른 센서 장치 및/또는 전자 장치는 사용자의 눈동자 움직임을 기초로 간략한 알파벳 및/또는 숫자를 전달할 수 있다.
Thus, the sensor device and / or the electronic device according to an embodiment of the present invention can convey brief alphabets and / or numbers based on the pupil movement of the user.
도 14는 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.FIG. 14 is a diagram illustrating an example of application of a pupil movement according to an embodiment of the present invention.
도 (a)를 참조하면, 사용자는 (- ?) 기호 형태로 특정 영역에 입력 메뉴를 표시하는 모드 표현 기호(1410)를 바라볼 수 있다. 예를 들어, (- ?) 기호 형태로 바라보는 것은, 길게 바라본 후, 한번 블링크 이후, 바로 더블 블링크를 하는 것을 나타낼 수 있다. 사용자가 (- ?) 기호 형태로 모드 표현 기호(1410)를 바라보면, 자유 제스처 모드[G], 영어 모드[A], 및/또는 한글 모드[한]가 화면에 나타날 수 있다.Referring to FIG. 12A, the user can look at a
도 (b)를 참조하면, 사용자는 특정 서브 영역(1420)에서 더블 블링크하여 입력 모드를 선택할 수 있다. 예를 들어, 사용자가 영어 입력 모드를 선택하면, 영어 입력을 위한 글자 입력 영역이 활성화 될 수 있다.Referring to FIG. 6B, the user can double-blink in a
도 (c)를 참조하면, 사용자는 글자 입력 영역(1420)에서 글자를 입력할 수 있다. 이 때부터는 글자 입력 모드로 눈동자 명령어가 동작할 수 있다.Referring to FIG. 7C, the user can input characters in the
사용자가 (- ?) 기호 형태로 글자 입력 영역을 벗어난 지점을 바라보면, 입력 모드를 벗어날 수 있다. 또는, 사용자가 (- ?) 기호 형태로 서브 영역을 바라보면, 이전 모드로 돌아갈 수 있다. 또는, 사용자가 특정 영역을 몇 초 동안 (-) 기호 형태로 바라보거나, 사용자가 글자 입력 영역을 몇 초 동안 바라보지 않으면, 자동으로 입력 모드를 빠져나갈 수 있다.
If the user looks at the point outside the character input area in the form of a (-?) Symbol, the user can escape the input mode. Or, if you look at the sub area in the form of a (-?) Symbol, you can go back to the previous mode. Alternatively, the user can exit the input mode automatically if the user views the specific area for a few seconds (-) or if the user does not look at the character input area for a few seconds.
도 15는 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.15 is a diagram illustrating an example of application of the pupil movement according to an embodiment of the present invention.
도면을 참조하면, 본 발명의 일 실시예에 따른 전자 시스템은 증강 현실 서비스를 제공할 수 있다. 이를 위하여, 전자 시스템의 HMD는 센서 장치 및/또는 전자 장치가 결합된 형태일 수 있다. 예를 들어, HMD는 영상을 디스플레이하는 투명한 렌즈를 포함할 수 있다.Referring to the drawings, an electronic system according to an embodiment of the present invention can provide an augmented reality service. To this end, the HMD of the electronic system may be in the form of a combined sensor device and / or electronic device. For example, an HMD may include a transparent lens that displays an image.
예를 들어, 사용자는 의사이고, 가상 현실 환경 및/또는 증강 현실 환경에서 수술을 할 수 있다. 즉, 사용자는 HMD의 렌즈를 이용하여 외부 세계를 바라볼 수 있고, 동시에 비디오 영상을 시청할 수 있다.For example, the user is a physician and can perform surgery in a virtual reality environment and / or augmented reality environment. That is, the user can view the outside world using the lens of the HMD, and simultaneously view the video image.
또한, 본 발명의 일 실시예에 따른 전자 시스템은 관심 영역에 대하여 화질을 변경하여 사용자에게 제공할 수 있다. 즉, 전자 시스템은 사용자가 바라보는 관심 영역에 대하여 고품질의 영상을 제공하고, 관심 영역 이외의 영역에 대하여 저 품질을 영상을 제공할 수 있다.In addition, the electronic system according to an embodiment of the present invention may change the quality of the area of interest and provide it to the user. That is, the electronic system can provide a high-quality image to a user's interest area and provide a low-quality image to an area other than the area of interest.
예를 들어, 사용자가 HMD(예를 들어, 가상현실기기 또는 반투명한 홀로그램 장치)를 착용하고 환자의 심장 수술을 하거나, 수술과정을 배우는 수련의가 HMD를 사용중일때, 사용자 및/또는 수련의가 심장 영역과 같은 관심 영역(1510)을 응시하면, 관심 영역(1510)을 중심으로 화면의 포커스가 이동된다. 이 경우, 전자 시스템은 관심 영역(1510)에 대하여 고품질의 영상을 사용자에게 제공할 수 있다.For example, when a user wears an HMD (e.g., a virtual reality device or a translucent hologram device) and performs a patient's heart surgery, or a practitioner who learns a surgical procedure uses an HMD, the user and / The focus of the screen is shifted around the region of
또한, 사용자가 관심 영역(1510)을 응시 후 더블 블링크하면, 본 발명의 일 실시예에 따른 전자 시스템은 환자의 심장 수술 영상(1520)을 증강 현실과 연동시켜서 세부적으로 사용자에게 제공할 수 있다.In addition, if the user double-blinks after looking at the region of
또한, 본 발명의 일 실시예에 따른 전자 시스템은 환자의 바이탈 사인 정보(1530)를 사용자가 바라보는 화면 및/또는 수술 현황을 모니터링하는 다른 사람들이 바라보는 화면에 중첩 등의 방식으로 실시간으로 제공할 수 있다.
In addition, the electronic system according to an embodiment of the present invention provides the
또한, 본 발명의 일 실시예에 다른 전자 시스템은 오디오 정보(예를 들어, 사용자 및/또는 주변 사람의 음성)를 추가적으로 획득하고, 오디오 정보를 기초로 관심 영역을 결정할 수 있다. 전자 시스템은 음성인식기술을 이용하여 오디오 정보를 기초로 관심 영역을 결정할 수 있다.
Further, an electronic system according to an embodiment of the present invention may additionally acquire audio information (e.g., a user and / or a person's voice) and determine an area of interest based on the audio information. The electronic system can use the speech recognition technology to determine the region of interest based on the audio information.
도 16은 본 발명의 일 실시에에 따른 서버의 구성을 나타낸 도면이다.16 is a diagram showing a configuration of a server according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 서버(1600)는 미디어 컨텐츠를 품질 별로 다르게 인코딩하고, 선택적으로 전자 장치로 전송할 수 있다. 예를 들어, 서버(1600)는 제어부(1610) 및/또는 통신 모듈(1620) 중에서 적어도 하나를 포함할 수 있다. 제어부(1610)는 전술한 프로세서에 대한 내용을 모두 포함할 수 있다. 또한, 제어부(1610)는 서버(1600)에 포함될 수도 있고, 서버(1600)와 독립적으로 존재할 수도 있다. 통신 모듈(1620)에 대한 구체적인 내용은 전술한 통신 모듈의 내용을 모두 포함할 수 있다. 이하에서는 제어부(1610)를 중심으로 설명한다.The
본 발명의 일 실시예에 따른 제어부(1610)는 영상 생성부(1611), 영상 분할부(1613), 인코더(1615), 및/또는 시그널링 데이터 생성부(1617) 중에서 적어도 하나를 포함할 수 있다.The
영상 생성부(1611)는 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성할 수 있다. 예를 들어, 영상 생성부(1611)는 적어도 하나의 전자 장치 및/또는 외부 장치로부터 영상 정보를 수신하고, 3차원의 가상 공간을 생성할 수 있다. 또한, 영상 생성부(1611)는 3차원의 가상 공간을 2차원의 평면으로 변환할 수 있다.The
영상 분할부(1613)는 전체 영상을 복수의 타일 영역들로 분할할 수 있다. 예를 들어, 타일 영역은 직사각형 모양의 영역일 수 있다. 타일 영상은 전체 영상 내에서 타일 영역에 해당하는 영상을 나타낸다.The
인코더(1615)는 각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩할수 있다. 예를 들어, 인코더(1615)는 전체 영상 및/또는 타일 영상을 다양한 비트레이트로 인코딩할 수 있다. 또한, 인코더(1615)는 H.264/AVC 및/또는 HEVC를 사용할 수 있고, 기존에 MPEG-DASH에서 참조하는 동영상 포맷 이외에, 신규로 홀로그램 등의 3차원 가상현실, 증강현실용 데이터도 정합하여 전송할 수 있다.The
또한, 인코더(1615)는 모션 벡터를 생성할 수 있다. 모션 벡터는 참조 픽처에서 현재 블록과 동일한 위치를 기준으로 참조 블록까지의 이 차원의 상대적인 위치로 표현되는 정보이다. 화면 간 예측에서 인코더는 참조한 블록의 모션 벡터를 디코더로 전송함으로써 인코더와 디코더는 동일한 예측 신호를 생성할 수 있다. In addition, the
시그널링 데이터 생성부(1617)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 생성할 수 있다.The signaling
시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션(MPD)을 포함할 수 있다. 또한, 서비스 데이터는 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다.The signaling data may include a media presentation description (MPD) that describes tile images that are encoded with a plurality of qualities for each tile region. In addition, the service data may include a selected tile image corresponding to a tile image encoded with a specific quality for each tile region.
예를 들어, 미디어 프리젠테이션 디스크립션은 복수의 타일 영역들을 서술하는 복수의 어댑테이션 셋 엘리먼트들을 포함할 수 있다. 또한, 각각의 어댑테이션 셋 엘리먼트는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 복수의 레프리젠테이션 엘리먼트들을 포함할 수 있다. 또한, 각각의 레프리젠테이션 엘리먼트는 타일 영역의 위치 정보, 타일 영상의 품질 정보, 및 타일 영상의 URL 정보 중에서 적어도 하나를 포함할 수 있다.For example, the media presentation description may include a plurality of adaptation set elements that describe a plurality of tile regions. Further, each adaptation set element may comprise a plurality of presentation elements that describe tile images encoded with a plurality of qualities for each tile region. In addition, each of the presentation elements may include at least one of location information of a tile area, quality information of a tile image, and URL information of a tile image.
시그널링 데이터는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 제작자의 의도를 기초로 사용자가 바라볼 것으로 예상되거나 사용자가 반드시 바라보아야 하는 타일 영역의 순위를 지시하는 제작자 의도 정보를 더 포함할 수 있다. 제작자는 관심 영역에 대응되는 타일 영역의 순위는 높게 설정하고, 고 품질로 인코딩된 타일 영상을 전송할 수 있다. 또한, 관심 영역 이외의 영역에 대응되는 타일 영역의 순위는 낮게 설정하고, 저 품질로 인코딩된 타일 영상을 전송할 수 있다.The signaling data may further include producer intention information indicating a ranking of the tile area that the user is expected to look at or should see, based on the intention of the producer of the service for the virtual reality, augmented reality, or hologram . The producer can set the order of the tile area corresponding to the area of interest to be high and transmit the tile image encoded with high quality. In addition, the order of the tile regions corresponding to the regions other than the region of interest can be set low, and the low-quality encoded tile image can be transmitted.
시그널링 데이터는 각각의 타일 영역에 대한 모션 벡터의 대표값을 지시하는 모션 벡터 통계 정보를 더 포함할 수 있다.The signaling data may further include motion vector statistical information indicating a representative value of the motion vector for each tile region.
모션 벡터 통계 정보는 미디어 프리젠테이션 디스크립션의 파일 이름에 추가될 수도 있고, 미디어 프리젠테이션 디스크립션에 포함되는 엘리먼트 및/또는 속성에 포함될 수도 있다. 또한, 모션 벡터 통계 정보는 미디어 프리젠테이션 디스크립션과 별도로 존재하는 메타 데이터 테이블의 파일 이름에 추가될 수도 있고, 메타 데이터 테이블에 포함되는 엘리먼트 및/또는 속성에 포함될 수도 있다.The motion vector statistical information may be added to the file name of the media presentation description, or may be included in elements and / or attributes included in the media presentation description. In addition, the motion vector statistical information may be added to the file name of the metadata table existing separately from the media presentation description, or may be included in the elements and / or attributes included in the metadata table.
예를 들어, 모션 벡터 통계 정보는 시간대 별 및/또는 매크로 블록(Macro Block) 별로 존재할 수 있다. 또한, 모션 벡터 통계 정보는 [TimeSeconds, Poi_x, Poi_y, DeltaOf(MV)] 와 같은 형식일 수 있다. 여기서, TimeSeconds는 시간 정보를 지시하고, Poi_x 및/또는 Poi_y는 좌표 정보를 지시하고, DeltaOf(MV)는 각 타일 내에서 적어도 하나의 모션 벡터들의 대표값(또는 평균값)을 지시할 수 있다.For example, the motion vector statistical information may exist for each time zone and / or for each macroblock. In addition, the motion vector statistical information may be in the form [TimeSeconds, Poi_x, Poi_y, DeltaOf (MV)]. Here, TimeSeconds indicates time information, Poi_x and / or Poi_y indicates coordinate information, and DeltaOf (MV) can indicate representative values (or average values) of at least one motion vectors in each tile.
통신 모듈(1620)는 적어도 하나의 센서 장치, 전자 장치, 및/또는 외부 장치로 가상 회의 서비스를 위한 서비스 데이터, 시그널링 데이터, 및/또는 부가 데이터를 전송 및/또는 수신할 수 있다. 예를 들어, 통신 모듈(1620)는 요청 정보를 기초로 서비스 데이터를 전송할 수 있다.The
예를 들어, 요청 정보는 시그널링 데이터 및 관심 영역 정보를 기초로 선택된 타일 영상을 서술할 수 있다. 또한, 관심 영역 정보는 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시할 수 있다.
For example, the request information may describe a tile image selected based on the signaling data and the region of interest information. In addition, the region of interest information may indicate a region of interest that the user is expected to see or expect from the entire image.
도 17은 본 발명의 일 실시예에 따른 MPD를 나타낸 도면이다.17 is a diagram illustrating an MPD according to an embodiment of the present invention.
MPD는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술할 수 있다.MPD may describe tile images that are encoded with a plurality of qualities for each tile region.
도면을 참고하면, 제1 타일 영역(X0, Y0)을 서술하는 제1 어댑테이션 셋 엘리먼트(1710), 제2 타일 영역(X1, Y0)을 서술하는 제2 어댑테이션 셋 엘리먼트(1720), 및/또는 제3 타일 영역(X1, Y1)을 서술하는 제3 어댑테이션 셋 엘리먼트(1730)가 나타나 있다. 이하에서는 제1 어댑테이션 셋 엘리먼트(1710)를 중심으로 설명한다.Referring to the drawing, a first
제1 어댑테이션 셋 엘리먼트(1710)는 서로 다른 품질로 인코딩된 복수의 타일 영상들을 서술하는 복수의 레프리젠테이션 엘리먼트들을 포함할 수 있다. 예를 들어, 제1 어댑테이션 셋 엘리먼트(1710)은 제1 레프리젠테이션 엘리먼트 내지 제 5 레프리젠터이션 엘리먼트를 포함할 수 있다.The first
각각의 레프리젠테이션 엘리먼트는 타일 영역의 위치 정보, 타일 영상의 품질 정보, 및/또는 타일 영상의 URL 정보 중에서 적어도 하나를 포함할 수 있다.Each of the presentation elements may include at least one of location information of a tile area, quality information of a tile image, and / or URL information of a tile image.
또한, 기존의 MPD 를 보완하기 위해서, 서버는 위의 확장된 MPD 를 별도의 메타데이터로 전자 장치(또는 클라이언트)에게 전송할 수 있다.In addition, in order to supplement the existing MPD, the server can transmit the extended MPD to the electronic device (or client) as separate metadata.
이때, 메타데이터의 주요 속성과 포맷은 다음과 같다. 예를 들어, 메타 데이터는 [Xn , Yn] 좌표 , 시간정보 , 해상도, 품질, 파일 URL 을 포함할 수 있다. 또한 메타 데이터는 MPD 포맷, JSON (JavaScript Object Notation), 기타 임의 정의된 이진 포맷, HTML 텍스트 포맷, CSV (Comma Separated Values), 데이터베이스 쿼리 포맷 등의 포맷일 수 있다. 전자 장치는 메타 데이터를 서버에 요청하고, 서버로부터 메타 데이터를 전송받아서 사용할 수 있다.
At this time, the main attributes and formats of the metadata are as follows. For example, the metadata may include [Xn, Yn] coordinates, time information, resolution, quality, and file URL. The metadata may also be in MPD format, JavaScript Object Notation (JSON), other arbitrarily defined binary format, HTML text format, Comma Separated Values (CSV), database query format, and the like. The electronic device can request the metadata from the server and receive the metadata from the server.
도 18은 본 발명의 일 실시예에 따른 다양한 품질로 인코딩된 전체 영상을 나타낸 도면이다.18 is a diagram illustrating a whole image encoded with various qualities according to an embodiment of the present invention.
도 (a)를 참조하면, 적어도 하나의 타일 영역으로 분할된 전체 영상(1810)이 나타나 있다.Referring to FIG. 5A, a
서버는 영상 분할부를 이용하여 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 위한 전체 영상(1810)을 직사각형 모양의 적어도 하나의 타일 영역으로 분할할 수 있다.The server can divide the
예를 들어, 전체 영상(1810)은 360도 범위를 나타내는 영상일 수 있다. 또한, 타일 영역의 개수 및/또는 크기는 사용자, 전자 장치, 및/또는 서버에 의해서 미리 정의될 수 있다.For example, the
도 (b)를 참조하면, 다양한 품질로 인코딩된 전체 영상들이 나타나 있다. Referring to FIG. 5 (b), the entire images encoded with various qualities are shown.
서버는 인코더를 이용하여 전체 영상 및/또는 적어도 하나의 타일 영상을 다양한 품질로 인코딩할 수 있다.The server may encode the entire image and / or at least one tile image with varying quality using an encoder.
예를 들어, 서버는 전체 영상(1810)을 인코딩하여 저 품질의 제1 전체 영상(1821), 중 품질의 제2 전체 영상(1823), 및/또는 고 품질의 제3 전체 영상(1825)을 생성할 수 있다.For example, the server may encode the
동일한 타일 영역에 포함되는 복수의 타일 영상들은 어댑테이션 셋 엘리먼트에 의해서 서술될 수 있다. 또한, 동일한 타일 영역에 포함되는 각각의 타일 영상은 레프리젠테이션 엘리먼트에 의해서 서술될 수 있다.A plurality of tile images included in the same tile area may be described by an adaptation set element. Further, each tile image included in the same tile area can be described by a presentation element.
본 발명의 일 실시예에 따른 서버는 네트워크 상황 및/또는 사용자의 요청을 기초로 각각의 타일 영역에 대하여 특정의 품질로 인코딩된 타일 영상을 선택적 및/또는 적응적으로 사용자에게 전송할 수 있다.
A server according to an embodiment of the present invention may selectively and / or adaptively transmit a tile image encoded with a specific quality to each tile area based on a network situation and / or a user's request.
도 19는 본 발명의 일 실시예에 따른 모션 벡터 통계 정보, 제작자 의도 정보, 및 관심 영역 순위 정보의 설명을 위한 도면이다.FIG. 19 is a diagram for explaining motion vector statistical information, producer intention information, and ROI information according to an embodiment of the present invention.
도 (a)를 참조하면, 전체 영상(1910) 및 모션 벡터(1913)가 나타나 있다.Referring to Figure (a), a
본 발명의 일 실시예에 따른 모션 벡터 통계 정보는 각각의 타일 영역에 대한 모션 벡터(1913)의 대표값을 지시할 수 있다. 예를 들어, 대표값은 각각의 타일 영역에 존재하는 복수의 모션 벡터들의 평균값일 수 있다.The motion vector statistical information according to an embodiment of the present invention may indicate a representative value of the
본 발명의 일 실시예에 따른 전자 장치는 모션 벡터 통계 정보를 기초로 각각의 타일 영역에 대하여 특정의 품질로 인코딩된 타일 영상을 선택할 수 있다. 예를 들어, 전자 장치는 모션 벡터 통계 정보의 값이 큰 순서대로 타일 영역들을 정렬하고, 모션 벡터 통계 정보의 값이 큰 타일 영역(1911, 1915, 1917)에 대하여 고 품질로 인코딩된 타일 영상을 수신할 수 있다.The electronic device according to an embodiment of the present invention can select a tile image encoded with a specific quality for each tile area based on the motion vector statistical information. For example, the electronic device arranges the tile areas in the ascending order of the value of the motion vector statistical information, and outputs the high-quality encoded tile image to the
도 (b)를 참조하면, 전체 영상(1920), 사용자가 바라보는 관심 영역(1921), 사용자의 움직임을 기초로 사용자가 바라볼 것으로 예상되는 타일 영역(1923), 미디어 콘텐트의 제작자의 의도를 기초로 사용자가 바라볼 것으로 예상되는 타일 영역(1925)가 나타나 있다.Referring to FIG. 5B, the
현재 사용자는 관심 영역(1921)을 바라보고 있지만, 타일 영역(1923)의 방향으로 움직일 수 있다. 이 때, 관심 영역 순위 정보는 사용자의 움직임을 기초로 타일 영역(1923)에 대하여 높은 순위의 값을 가질 수 있다.The current user views the region of
또한, 미디어 컨텐츠의 제작자의 의도는 사용자가 타일 영역(1925)를 바라보는 것일 수 있다. 이 때, 제작자 의도 정보는 제작자의 의도를 기초로 타일 영역(1925)에 대하여 높은 순위의 값을 가질 수 있다.In addition, the intent of the producer of the media content may be that the user views the
본 발명의 일 실시예에 따른 전자 장치는 관심 영역 순위 정보 및/또는 제작자 의도 정보를 기초로 각각의 타일 영역에 대하여 특정의 품질로 인코딩된 타일 영상을 선택할 수 있다. 예를 들어, 전자 장치는 관심 영역 순위 정보 및/또는 제작자 의도 정보의 값이 큰 순서대로 타일 영역들을 정렬하고, 관심 영역 순위 정보 및/또는 제작자 의도 정보의 값이 큰 타일 영역(1923, 1925)에 대하여 고 품질로 인코딩된 타일 영상을 수신할 수 있다.
The electronic device according to an exemplary embodiment of the present invention may select a tile image encoded with a specific quality for each tile area based on interest area ranking information and / or producer intention information. For example, the electronic device arranges the tile areas in the order of the value of the interest area rank information and / or the producer intention information, and arranges the
도 20은 본 발명의 일 실시예에 따른 서로 다른 품질로 인코딩된 타일 영상을 수신하는 개념도이다.20 is a conceptual diagram for receiving tile images encoded with different quality according to an embodiment of the present invention.
도면을 참조하면, 저 품질로 인코딩된 전체 영상(2010), 고 품질로 인코딩된 전체 영상(2020), 전자 장치가 수신하는 전체 영상(2030)이 나타나 있다.Referring to the drawing, a
관심 영역(2011, 2021, 2031)은 현재 사용자가 바라보고 있는 영역이다. 제1 관심 영역(2013, 2023, 2033)은 관심 영역 순위 정보의 값이 가장 높은 영역이다. 제2 관심 영역(2014, 2024, 2034)은 제작자 의도 정보의 값이 가장 높은 영역이다. 제3 관심 영역(2015, 2025, 2035)은 모션 벡터 통계 정보의 값이 가장 높은 영역이다. 제1 관심 영역, 제2 관심 영역, 및 제3 관심 영역은 모두 관심 영역으로 표현될 수 있다.The areas of
본 발명의 일 실시예에 따른 전자 장치는 관심 영역 순위 정보, 제작자 의도 정보, 및/또는 모션 벡터 통계 정보를 기초로 선택적으로 타일 영상을 수신할 수 있다.An electronic device according to an exemplary embodiment of the present invention may selectively receive a tile image based on interest region ranking information, producer intention information, and / or motion vector statistical information.
예를 들어, 전자 장치는 관심 영역(2031), 제1 관심 영역(2033), 제2 관심 영역(2034), 제3 관심 영역(2035)에 대하여 고 품질로 인코딩된 타일 영상을 수신할 수 있다. 전자 장지는 나머지 영역에 대하여 저 품질로 인코딩된 타일 영상을 수신할 수 있다.
For example, the electronic device may receive a high quality encoded tile image for a region of
도 21은 본 발명의 일 실시예에 따른 에지 효과(edge effect)를 제거하는 방법을 나타낸 도면이다.21 is a diagram illustrating a method for eliminating an edge effect according to an embodiment of the present invention.
도 (a)를 참조하면, 4 개의 타일 영역(2111, 2112, 2113, 2114) 내에 관심 영역(2115)이 존재할 수 있다. 또한, 4개의 타일 영역은 품질 및/또는 해상도가 모두 같을 수도 있고, 서로 다를 수도 있다.Referring to FIG. 3A, a region of
만약 관심 영역(2115) 내에서 인접하는 두 개의 타일 영역의 품질 및/또는 해상도가 다르면, 경계 부분에서 에지 효과(2116)가 발생할 수 있다. 에지 효과(2116)는 인접한 두 개의 타일 영상 사이의 경계 부분이 부자연스럽거나, 타일 영상들이 연결되지 않고 끊어져 보이는 효과를 의미한다.If the quality and / or resolution of two adjacent tile regions in the region of
이하에서는 본 발명의 일 실시예에 따른 에지 효과(2116)를 제거하는 방법을 설명한다.Hereinafter, a method of removing the
도(b)를 참조하면, 타일 영상(2123) 및 오버 스캔 영상(2125)이 나타나 있다.Referring to FIG. 5B, a
본 발명의 일 실시예에 따른 적어도 하나의 타일 영상(2123)은 실제로는 타일 영역보다 마진 비율(2127) 만큼 넓게 스캔된 오버 스캔 영상(2127)으로 전송 및/또는 수신될 수 있다. 즉, 오버 스캔 영상(2127)의 영역 내에서는 품질이 동일할 수 있다.The at least one
전자 장치는 적어도 하나의 오버 스캔 영상(2127)을 수신하고, 상기 적어도 하나의 오버 스캔 영상(2127)을 결합하여 전체 영상을 생성할 수 있다. The electronic device may receive at least one
이 경우, 서로 결합되는 오버 스캔 영상(2127)들은 마진 비율(2127) 만큼 서로 중복될 수 있다.In this case, the
따라서, 전자 장치는 중복되는 부분에 대하여 두 개의 타일 영상이 자연스럽게 이어지도록 처리하고, 에지 효과를 제거할 수 있다.Thus, the electronic device can process the overlapping portions so that two tile images are naturally connected, and the edge effect can be eliminated.
도 (c)를 참조하면, 경계 부분에 대한 처리가 나타나 있다. Referring to Figure (c), the process for the boundary portion is shown.
저 품질로 인코딩된 타일 영상(2131)과 고 품질로 인코딩된 타일 영상(2132)가 인접해있다. 고 품질로 인코딩된 타일 영상(2131)에 대한 오버 스캔 영상은 일정 부분(2133) 만큼 저 품질로 인코딩된 타일 영상(2131)과 겹친다. 또한, 저 품질로 인코딩된 타일 영상(2131)에 대한 오버 스캔 영상은 일정 부분(2134) 만큼 고 품질로 인코딩된 타일 영상(2132)과 겹친다.The low-quality encoded
본 발명의 일 실시예에 따른 전자 장치는 두 개의 오버 스캔 영상이 겹치는 일정 부분(2133, 2134)에 대하여 비례 평균 방법, 로지스틱 모형적용 가중치 평균방법, 및/또는 필터링 방법을 수행할 수 있다The electronic device according to an exemplary embodiment of the present invention may perform a proportional averaging method, a logistic model weighted average method, and / or a filtering method on
비례 평균 방법은 고 해상도 및/또는 고 품질의 타일 영상을 기준으로 오버 스캔 거리 만큼 픽셀의 가중치를 달리하여 인접하는 구 개의 타일 영상의 픽셀 이미지 값들의 비례 평균 값을 구하는 방법이다. 이 경우, 경계 부분이 연속 적인 값을 가질 수 있고, 두 개의 타일 영상이 자연스럽게 결합될 수 있다.The proportional averaging method is a method of obtaining a proportional average value of pixel image values of neighboring tile images by varying the weight of pixels by an overscan distance based on a tile image of high resolution and / or high quality. In this case, the boundary portion can have a continuous value, and two tile images can be naturally combined.
로지스틱 모형적용 가중치 평균방법은, 고해상도 타일과 저해상도 타일이 겹칠 경우 및/또는 오버스캔으로 일정 거리 만큼 픽셀의 가중치를 적용할 경우에 적용되는, 로지스틱 회귀모형 식(2140)으로 표현되는 회귀방정식 모형이다. 이하에서는 고해상도 타일과 저해상도 타일을 중심으로 설명하지만, 고품질 타일과 저품질 타일에도 동일하게 적용될 수 있다. 그래프(2141) 의 형태는 가장 표준적인 슬로프의 분포 모형이다. 예를 들어, 타일이 고해상도의 타일일 경우에 가중치를 얻는 방법을 설명한다. 먼저, 전자 시스템은 고해상도 픽셀의 %위치에 따른 가중치 값(2142)을 얻을 수 있다. 이때, 전자 시스템은 고해상도의 타일에 겹쳐지는 저해상도의 타일의, 저해상도 픽셀의 %위치에 대칭되는, 저해상도 픽셀의 %위치에 따른 가중치 (2143) 을 파악할 수 있다. 전자 시스템은 고해상도 픽셀의 %위치에 따른 가중치 값 (2142)을 고해상도 오버스캔 거리에 해당하는 픽셀에 곱하고, 저해상도 픽셀의 %위치에 따른 가중치(2143)는 저해상도 오버스캔 거리에 해당하는 픽셀에 곱하여, 둘간의 평균 픽셀값을 구할 수 있다. 이와 같은 방법으로, 저해상도 타일에서 오버스캔 거리에 해당하는 픽셀에서는 저해상도 픽셀의 가중치가 높은 값을 가지고, 고해상도 픽셀의 가중치는 낮은 값을 가진다.The logistic model weighted averaging method is a regression equation model expressed by a logistic regression model (2140), which is applied when overlapping a high-resolution tile with a low-resolution tile and / or applying a pixel weight by a certain distance in an overscan . Hereinafter, a high resolution tile and a low resolution tile are mainly described, but the same can be applied to a high quality tile and a low quality tile. The shape of the
필터링 방법은 두 개의 오버 스캔 영상이 겹치는 일정 부분(2133, 2134)에 대하여 하이패스 필터로 연산 및/또는 보정하는 방법이다. 이 경우, 경계 부분의 해상도 및/또는 품질을 개선할 수 있다.The filtering method is a method of calculating and / or correcting a certain portion (2133, 2134) where two overscan images overlap with a high pass filter. In this case, the resolution and / or quality of the boundary portion can be improved.
따라서, 본 발명의 일 실시예에 따른 전자 장치는 두 개의 오버 스캔 영상이 겹치는 일정 부분(2133, 2134)에서 연속적인 해상도 및/또는 품질을 갖도록 처리할 수 있고, 에지 효과를 제거할 수 있다(2135).
Accordingly, the electronic device according to an embodiment of the present invention can process the two overscan images to have continuous resolution and / or quality in the overlapping
도 22는 본 발명의 일 실시예에 따른 미디어 컨텐츠 송신 방법을 나타낸 도면이다.22 is a diagram illustrating a media content transmission method according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 서버(또는 미디어 컨텐츠 송신 장치)는 제어부(미도시) 및/또는 통신 모듈(미도시)을 포함할 수 있다. 미디어 컨텐츠 송신 방법에 대한 구체적인 내용은 전술한 서버의 동작에 대한 내용을 모두 포함할 수 있다.The server (or media content transmitting apparatus) according to an embodiment of the present invention may include a controller (not shown) and / or a communication module (not shown). The specific contents of the media content transmission method may include the contents of the operation of the server described above.
서버는, 제어부를 이용하여, 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성할 수 있다(2210).The server can generate the entire image in which the three-dimensional virtual space is converted into the two-dimensional plane using the control unit (2210).
또한, 서버는, 제어부를 이용하여, 상기 전체 영상을 복수의 타일 영역들로 분할할 수 있다(2220).In addition, the server may divide the entire image into a plurality of tile areas using a control unit (2220).
또한, 서버는, 제어부를 이용하여, 각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩할 수 있다(2230).In addition, the server may encode the tile image of each tile area to a plurality of qualities using the control unit (2230).
또한, 서버는, 통신 모듈을 이용하여, 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 송신할 수 있다(2240). 상기 시그널링 데이터는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함할 수 있다. 또한, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다.In addition, the server may transmit 2240 the signaling data to obtain service data of a service for a virtual reality, augmented reality, or a hologram, using the communication module. The signaling data may include a media presentation description describing tile images encoded with the plurality of qualities for each tile region. In addition, the service data may include a selected tile image corresponding to a tile image encoded with a specific quality for each tile area.
또한, 서버는, 통신 모듈을 이용하여, 요청 정보를 기초로 상기 서비스 데이터를 더 송신할 수 있다. 상기 요청 정보는 상기 시그널링 데이터 및 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술할 수 있다. 또한, 상기 관심 영역 정보는 상기 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시할 수 있다. 또한, 상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높을 수 있다.
Further, the server can further transmit the service data based on the request information using the communication module. The request information may describe the selected tile image based on the signaling data and the region of interest information. In addition, the region of interest information may indicate a region of interest that the user is expected to see or expect from the entire image. In addition, the quality of the selected tile image for the region of interest may be higher than the quality of the selected tile image for regions other than the region of interest.
도 23은 본 발명의 일 실시예에 따른 전자 장치(또는 미디어 컨텐츠 수신 장치)의 구성을 나타낸 도면이다.23 is a diagram showing a configuration of an electronic device (or a media content receiving apparatus) according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 전자 장치(또는 미디어 컨텐츠 전송 장치)는 제어부(2310), 및/또는 통신 모듈(2320)을 포함할 수 있다. 제어부(2310)은 전술한 프로세서에 대한 내용을 모두 포함할 수 있다. 또한, 통신 모듈(2320)은 전술한 통신 모듈에 대한 내용을 모두 포함할 수 있다. 또한, 제어부(2310)은 관심 영역 정보 생성부(2311), 요청 정보 생성부(2323), 디코더(2325), 및/또는 영상 결합부(2327)을 포함할 수 있다.The electronic device (or media content transmission apparatus) according to an embodiment of the present invention may include a
통신 모듈(2320)은 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신할 수 있다.The
상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함할 수 있다. 또한, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다.The signaling data may include a media presentation description that describes tile images that are encoded with a plurality of qualities for each tile region. In addition, the service data may include a selected tile image corresponding to a tile image encoded with a specific quality for each tile area.
관심 영역 정보 생성부(2311)는 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성할 수 있다.The region of
상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시할 수 있다.The whole image can indicate an image in which a three-dimensional virtual space is converted into a two-dimensional plane.
요청 정보 생성부(2323)는 상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성할 수 있다.The request
상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높을 수 있다.The quality of the selected tile image for the region of interest may be higher than the quality of the selected tile image for regions other than the region of interest.
통신 모듈(2320)은 상기 요청 정보를 기초로 상기 서비스 데이터를 수신할 수 있다.The
디코더(2325)는 상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩할 수 있다.
영상 결합부(2327)는 복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합할 수 있다.The
그리고 나서, 전자 장치(또는 미디어 컨텐츠 수신 장치)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 사용자에게 제공할 수 있다.Then, the electronic device (or the media content receiving apparatus) can provide the user with a service for the virtual reality, the augmented reality, or the hologram.
상기 미디어 프리젠테이션 디스크립션은 상기 복수의 타일 영역들을 서술하는 복수의 어댑테이션 셋 엘리먼트들을 포함할 수 있다. 또한, 각각의 어댑테이션 셋 엘리먼트는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 복수의 레프리젠테이션 엘리먼트들을 포함할 수 있다. 또한, 각각의 레프리젠테이션 엘리먼트는 상기 타일 영역의 위치 정보, 상기 타일 영상의 품질 정보, 및 상기 타일 영상의 URL 정보 중에서 적어도 하나를 포함할 수 있다.The media presentation description may include a plurality of adaptation set elements that describe the plurality of tile regions. Further, each adaptation set element may comprise a plurality of presentation elements that describe tile images that are encoded with the plurality of qualities for each of the tile regions. Each of the presentation elements may include at least one of location information of the tile area, quality information of the tile image, and URL information of the tile image.
상기 관심 영역 정보는 사용자의 움직임을 기초로 상기 사용자가 바라보거나바라볼 것으로 예상되는 상기 타일 영역의 순위를 지시하는 관심 영역 순위 정보를 포함할 수 있다. 또한, 상기 관심 영역 순위 정보는 상기 사용자의 눈동자의 움직임을 서술하는 눈동자 벡터 및 상기 사용자의 머리의 움직임을 서술하는 헤드 벡터를 기초로 생성될 수 있다.The interest region information may include interest region ranking information indicating a ranking of the tile region that the user is expected to look at or look at based on the movement of the user. In addition, the ROI information may be generated based on a pupil vector describing the motion of the user's pupil and a head vector describing motion of the user's head.
상기 눈동자 벡터는 상기 사용자의 좌측 눈동자에 포함된 동공의 좌표를 지시하는 좌측 눈동자 동공 좌표 벡터, 및 상기 사용자의 우측 눈동자에 포함된 동공의 좌표를 지시하는 우측 눈동자 동공 좌표 벡터 중에서 적어도 하나를 포함할 수 있다.The pupil vector includes at least one of a left pupil pupil coordinate vector indicating the coordinates of the pupil included in the left pupil of the user and a right pupil pupil coordinate vector indicating coordinates of the pupil contained in the right pupil of the user .
상기 시그널링 데이터는 상기 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 제작자의 의도를 기초로 상기 사용자가 바라볼 것으로 예상되거나 사용자가 반드시 바라보아야 하는 상기 타일 영역의 순위를 지시하는 제작자 의도 정보를 더 포함할 수 있다.The signaling data may further include producer intention information indicating the order of the tile area that the user is expected to look at or expect to see, based on the intention of the producer of the service for the virtual reality, augmented reality, or hologram .
상기 시그널링 데이터는 상기 각각의 타일 영역에 대한 모션 벡터의 대표값을 지시하는 모션 벡터 통계 정보를 더 포함할 수 있다.The signaling data may further include motion vector statistical information indicating a representative value of the motion vector for each tile area.
상기 선택된 타일 영상은 상기 관심 영역 순위 정보, 상기 제작자 의도 정보, 및 상기 모션 벡터 통계 정보 중에서 적어도 하나를 기초로 상기 각각의 타일 영역에 대하여 선택된 특정의 품질로 인코딩되는 타일 영상을 지시할 수 있다.The selected tile image may indicate a tile image encoded with a particular quality selected for each tile region based on at least one of the interest region ranking information, the producer intention information, and the motion vector statistics information.
상기 요청 정보는 상기 타일 영역의 위치 정보, 상기 선택된 타일 영상의 품질 정보, 및 상기 선택된 타일 영상의 URL 정보를 포함할 수 있다.The request information may include location information of the tile area, quality information of the selected tile image, and URL information of the selected tile image.
상기 각각의 타일 영역에 대한 상기 타일 영상은 미리 정해진 비율로 오버 스캔될 수 있다. 또한, 서로 다른 품질의 타일 영상들 사이의 경계 부분에 포함되는 픽셀 값들은 상기 서로 다른 품질의 타일 영상들의 픽셀 값들에 대한 비례 평균값을 지시할 수 있다.
The tile image for each tile region may be overscanned at a predetermined ratio. In addition, pixel values included in a boundary portion between tile images of different quality may indicate a proportional average value of pixel values of the tile images of different quality.
도 24는 본 발명의 일 실시예에 따른 미디어 컨텐츠 수신 방법을 나타낸 도면이다.24 is a diagram illustrating a media content receiving method according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 전자 장치(또는 미디어 컨텐츠 수신 장치)는 제어부(미도시) 및/또는 통신 모듈을 포함할 수 있다. 제어부에 대한 구체적인 내용은 전술한 프로세서에 대한 내용을 모두 포함할 수 있다. 통신 모듈에 대한 구체적인 내용은 전술한 통신 모듈에 대한 내용을 모두 포함할 수 있다.The electronic device (or the media content receiving apparatus) according to an embodiment of the present invention may include a control unit (not shown) and / or a communication module. The details of the control unit may include all of the contents of the above-mentioned processor. The specific contents of the communication module may include the contents of the communication module described above.
전자 장치는, 통신 모듈을 이용하여, 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신할 수 있다(2410).The electronic device can receive (2410) signaling data for acquisition of service data of a service for a virtual reality, augmented reality, or a hologram, using a communication module.
상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함할 수 있다. 또한, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다.The signaling data may include a media presentation description that describes tile images that are encoded with a plurality of qualities for each tile region. In addition, the service data may include a selected tile image corresponding to a tile image encoded with a specific quality for each tile area.
전자 장치는, 관심 영역 정보 생성부를 이용하여, 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성할 수 있다(2420).The electronic device may generate the region of
상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시할 수 있다.The whole image can indicate an image in which a three-dimensional virtual space is converted into a two-dimensional plane.
전자 장치는, 요청 정보 생성부를 이용하여, 상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성할 수 있다(2430).The electronic device may generate the request information describing the selected tile image based on the signaling data and the region-of-interest information using the request information generating unit (2430).
상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높을 수 있다.The quality of the selected tile image for the region of interest may be higher than the quality of the selected tile image for regions other than the region of interest.
전자 장치는, 통신 모듈을 이용하여, 상기 통신 모듈은 상기 요청 정보를 기초로 상기 서비스 데이터를 더 수신할 수 있다(2450).Using the communication module, the electronic device can further receive the service data based on the request information (2450).
전자 장치는, 디코더를 이용하여, 상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩할 수 있다(2460).The electronic device may use the decoder to decode the service data into the selected tile image in each of the tile areas (2460).
전자 장치는, 영상 결합부를 이용하여, 복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합할 수 있다.The electronic device can combine the selected tile images of a plurality of tile areas into a full image using an image combining unit.
그리고 나서, 전자 장치(또는 미디어 컨텐츠 수신 장치)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 사용자에게 제공할 수 있다.
Then, the electronic device (or the media content receiving apparatus) can provide the user with a service for the virtual reality, the augmented reality, or the hologram.
도 25는 본 발명의 일 실시예에 따른 전자 시스템의 동작을 나타낸 도면이다.25 is a diagram illustrating an operation of an electronic system according to an embodiment of the present invention.
도면을 참조하면, 본 발명의 일 실시예에 따른 전자 시스템(2500)은 서버(2510) 및/또는 HMD(2520)을 포함할 수 있다. 예를 들어, HMD(2520)는 전자 장치일 수 있다. 서버(2510), HMD(2520), 및/또는 전자 장치에 대한 내용은 전술한 서버, HMD, 및/또는 전자 장치에 대한 내용을 모두 포함할 수 있다.Referring to the drawings, an
예를 들어, 서버(2510)는 System Manager, MPEG-DASH 서버, 및/또는 메타 데이터 서버로 지칭될 수 있다. HMD(2520)는 MPEG-DASH 재생 단말일 수 있다.For example, the
서버(2510)는 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성할 수 있다. 그리고 나서, 서버(2510)는 전체 영상을 복수의 타일 영역들로 분할할 수 있다. 그리고 나서, 서버(2510)는, 인코더(2511, 2512)를 이용하여, 각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩할 수 있다.The
예를 들어, 전체 영상(2514)는 고 해상도 및/또는 고 품질로 인코딩된 영상일 수 있다. 전체 영상(2515)는 고 해상도 및/또는 중 품질로 인코딩된 영상일 수 있다. 전체 영상(2516)는 중 해상도로 인코딩된 영상일 수 있다. 전체 영상(2517)는 저 해상도로 인코딩된 영상일 수 있다.For example, the
또한, 서버(2510)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 생성할 수 있다. 서버(2510)는 시그널링 데이터의 요청을 기초로 시그널링 데이터를 HMD(2520)으로 전송할 수 있다.In addition, the
예를 들어, 시그널링 데이터는 각각의 타일 영상의 위치를 지시하는 타일 위치 정보, 모션 벡터 통계 정보, 제작자 의도 정보, 및/또는 미디어 프리젠테이션 디스크립션을 포함할 수 있다(2513). For example, the signaling data may include tile location information indicating the location of each tile image, motion vector statistical information, producer intent information, and / or a media presentation description (2513).
또한, 서버(2510)는 요청 정보를 기초로 서비스 데이터를 HMD(2520)로 전송할 수 있다. In addition, the
HMD(2520)는 시그널링 데이터를 요청하고(2521), 서버(2510)으로부터 시그널링 데이터를 수신할 수 있다(2522).The
또한, HMD(2520)는, 제어부를 이용하여, 시그널링 데이터를 추출 및/또는 분석할 수 있다(2523). 예를 들어, HMD(2520)는 시그널링 데이터로부터 타일 위치 정보, 모션 벡터 통계 정보, 제작자 의도 정보, 및/또는 미디어 프리젠테이션 디스크립션을 획득할 수 있다.Further, the
또한, HMD(2520)는, 제어부 및/또는 관심 영역 정보 생성부를 이용하여, 관심 영역 정보 및/또는 관심 영역 순위 정보를 생성할 수 있다(2524). 예를 들어, 관심 영역 정보 및/또는 관심 영역 순위 정보는 헤드 벡터 및/또는 눈동자 벡터를 기초로 생성될 수 있다.Further, the
또한, HMD(2520)는, 제어부 및/또는 요청 정보 생성부를 이용하여, 타일 영역들을 정렬할 수 있다(2525). 예를 들어, HMD(2520)는 모션 벡터 통계 정보를 기초로 타일 영역들을 오름 차순 또는 내림 차순으로 정렬할 수 있다. HMD(2520)는 제작자 의도 정보를 기초로 타일 영역들을 오름 차순 또는 내림 차순으로 정렬할 수 있다. HMD(2520)는 관심 영역 순위 정보를 기초로 타일 영역들을 오름 차순 또는 내림 차순으로 정렬할 수 있다. In addition, the
또한, HMD(2520)는 정렬된 타일 영역들을 기초로 요청 정보를 생성할 수 있다(2526). 이때, HMD(2520)는 모션 벡터 통계 정보, 제작자 의도 정보, 및/또는 관심 영역 순위 정보 중에서 적어도 하나를 이용하여 타일 영역들을 정렬하고, 요청 정보를 생성할 수 있다.In addition, the
또한, HMD(2520)는 요청 정보를 서버(2510)로 전송할 수 있다(2527).In addition, the
또한, HMD(2520)는 요청 정보를 기초로 서비스 데이터를 수신할 수 있다(2528). 예를 들어, 서비스 데이터는 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다. 요청 정보는 선택된 타일 영상에 대한 정보를 포함할 수 있다.In addition, the
또한, HMD(2520)는 서비스 데이터를 디코딩하고, 영상을 재생할 수 있다(2529).
Further, the
본 개시에 따른 전자 장치의 전술한 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 본 개시에 따른 전자 장치는 전술한 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 본 개시에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.
Each of the above-described components of the electronic device according to the present disclosure can be composed of one or more components, and the name of the component can be changed according to the type of the electronic device. The electronic device according to the present disclosure may be configured to include at least one of the above-described components, and some components may be omitted or further include other additional components. In addition, some of the components of the electronic device according to the present disclosure may be combined and configured as an entity, so that the functions of the corresponding components before being combined can be performed in the same manner.
본 발명의 범위는 본 명세서에 개시된 실시 예들로 한정되지 아니하고, 본 발명은 본 발명의 사상 및 특허청구범위에 기재된 범주 내에서 다양한 형태로 수정, 변경, 또는 개선될 수 있다.
The scope of the present invention is not limited to the embodiments disclosed herein, and the present invention can be modified, changed, or improved in various forms within the scope of the present invention and the claims.
Claims (12)
상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고,
상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고;
전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성하는 단계,
상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시하고;
상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성하는 단계,
상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높고;
상기 요청 정보를 기초로 상기 서비스 데이터를 수신하는 단계;
상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩하는 단계; 및
복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합하는 단계;를 포함하는
미디어 컨텐츠 수신 방법.Receiving signaling data for acquisition of service data of a service for a virtual reality, augmented reality, or hologram;
Wherein the signaling data comprises a media presentation description describing tile images encoded with a plurality of qualities for each tile region,
Wherein the service data includes a selected tile image corresponding to a tile image encoded with a specific quality for each tile region;
Generating region of interest information indicating a region of interest expected to be viewed or viewed by the user in the entire image;
Wherein the whole image indicates an image in which a three-dimensional virtual space is converted into a two-dimensional plane;
Generating request information describing the selected tile image based on the signaling data and the region of interest information,
Wherein the quality of the selected tile image for the region of interest is higher than the quality of the selected tile image for regions other than the region of interest;
Receiving the service data based on the request information;
Decoding the service data into the selected tile image of each tile area; And
And combining the selected tile image of the plurality of tile regions into a full image
A method for receiving media content.
상기 미디어 프리젠테이션 디스크립션은 상기 복수의 타일 영역들을 서술하는 복수의 어댑테이션 셋 엘리먼트들을 포함하고,
각각의 어댑테이션 셋 엘리먼트는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 복수의 레프리젠테이션 엘리먼트들을 포함하고,
각각의 레프리젠테이션 엘리먼트는 상기 타일 영역의 위치 정보, 상기 타일 영상의 품질 정보, 및 상기 타일 영상의 URL 정보 중에서 적어도 하나를 포함하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.The method of claim 1,
The media presentation description comprising a plurality of adaptation set elements describing the plurality of tile regions,
Each adaptation set element comprising a plurality of representation elements describing tile images encoded with the plurality of qualities for each tile region,
Wherein each of the presentation elements includes at least one of location information of the tile area, quality information of the tile image, and URL information of the tile image.
상기 관심 영역 정보는 사용자의 움직임을 기초로 상기 사용자가 바라보거나바라볼 것으로 예상되는 상기 타일 영역의 순위를 지시하는 관심 영역 순위 정보를 포함하고,
상기 관심 영역 순위 정보는 상기 사용자의 눈동자의 움직임을 서술하는 눈동자 벡터 및 상기 사용자의 머리의 움직임을 서술하는 헤드 벡터를 기초로 생성되는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.3. The method of claim 2,
Wherein the interest region information includes interest region ranking information indicating a ranking of the tile region that the user is expected to look at or look at based on a user's movement,
Wherein the ROI information is generated based on a pupil vector describing a motion of a pupil of the user and a head vector describing a motion of a head of the user.
상기 눈동자 벡터는 상기 사용자의 좌측 눈동자에 포함된 동공의 좌표를 지시하는 좌측 눈동자 동공 좌표 벡터, 및 상기 사용자의 우측 눈동자에 포함된 동공의 좌표를 지시하는 우측 눈동자 동공 좌표 벡터 중에서 적어도 하나를 포함하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.4. The method of claim 3,
Wherein the pupil vector includes at least one of a left pupil pupil coordinate vector indicating coordinates of a pupil included in the left pupil of the user and a right pupil pupil coordinate vector indicating coordinates of a pupil contained in the right pupil of the user Wherein the media content receiving method comprises the steps of:
상기 시그널링 데이터는 상기 서비스의 제작자의 의도를 기초로 상기 사용자가 바라볼 것으로 예상되거나 사용자가 반드시 보아야 하는 상기 타일 영역의 순위를 지시하는 제작자 의도 정보를 더 포함하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.4. The method of claim 3,
Wherein the signaling data further includes producer intention information indicating the order of the tile area that the user is expected to see or must be viewed based on the intention of the producer of the service.
상기 시그널링 데이터는 상기 각각의 타일 영역에 대한 모션 벡터의 대표값을 지시하는 모션 벡터 통계 정보를 더 포함하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.The method of claim 5,
Wherein the signaling data further comprises motion vector statistical information indicating a representative value of a motion vector for each tile region.
상기 선택된 타일 영상은 상기 관심 영역 순위 정보, 상기 제작자 의도 정보, 및 상기 모션 벡터 통계 정보 중에서 적어도 하나를 기초로 상기 각각의 타일 영역에 대하여 선택된 특정의 품질로 인코딩되는 타일 영상을 지시하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.The method of claim 6,
Wherein the selected tile image indicates a tile image encoded with a specific quality selected for each tile area based on at least one of the interest area ranking information, the producer intention information, and the motion vector statistics information. Receiving the media content.
상기 요청 정보는 상기 타일 영역의 위치 정보, 상기 선택된 타일 영상의 품질 정보, 및 상기 선택된 타일 영상의 URL 정보를 포함하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.8. The method of claim 7,
Wherein the request information includes location information of the tile area, quality information of the selected tile image, and URL information of the selected tile image.
상기 각각의 타일 영역에 대한 상기 타일 영상은 미리 정해진 비율로 오버 스캔되고,
서로 다른 품질의 타일 영상들 사이의 경계 부분에 포함되는 픽셀 값들은 상기 서로 다른 품질의 타일 영상들의 픽셀 값들에 대한 비례 평균값을 지시하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.9. The method of claim 8,
Wherein the tile image for each tile region is overscanned at a predetermined ratio,
Wherein pixel values included in a boundary portion between tile images of different quality indicate a proportional average value of pixel values of the tile images of different quality.
상기 전체 영상을 복수의 타일 영역들로 분할하는 단계;
각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩하는 단계;
가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 송신하는 단계,
상기 시그널링 데이터는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고,
상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고; 및
요청 정보를 기초로 상기 서비스 데이터를 송신하는 단계;를 포함하고,
상기 요청 정보는 상기 시그널링 데이터 및 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하고,
상기 관심 영역 정보는 상기 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하고, 및
상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높은 것을 특징으로 하는 미디어 컨텐츠 송신 방법.Generating a full image in which a three-dimensional virtual space is converted into a two-dimensional plane;
Dividing the entire image into a plurality of tile regions;
Encoding a tile image of each tile region into a plurality of qualities;
Transmitting signaling data for acquiring service data of a service for a virtual reality, augmented reality, or a hologram;
Wherein the signaling data comprises a media presentation description describing tile images encoded with the plurality of qualities for each tile region,
Wherein the service data includes a selected tile image corresponding to a tile image encoded with a specific quality for each tile region; And
And transmitting the service data based on the request information,
Wherein the request information describes the selected tile image based on the signaling data and the region of interest information,
Wherein the region of interest information indicates a region of interest that the user is expected to see or expect from the entire image,
Wherein the quality of the selected tile image for the region of interest is higher than the quality of the selected tile image for regions other than the region of interest.
상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고,
상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고;
전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성하는 관심 영역 정보 생성부,
상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시하고;
상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성하는 요청 정보 생성부,
상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높고,
상기 통신 모듈은 상기 요청 정보를 기초로 상기 서비스 데이터를 더 수신하고;
상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩하는 디코더; 및
복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합하는 영상 결합부;를 포함하는
미디어 컨텐츠 수신 장치.A communication module for receiving signaling data for acquisition of service data of a service for a virtual reality, augmented reality, or a hologram,
Wherein the signaling data comprises a media presentation description describing tile images encoded with a plurality of qualities for each tile region,
Wherein the service data includes a selected tile image corresponding to a tile image encoded with a specific quality for each tile region;
An interest region information generating unit for generating interest region information indicating a region of interest expected to be viewed or viewed by the user in the entire image,
Wherein the whole image indicates an image in which a three-dimensional virtual space is converted into a two-dimensional plane;
A request information generating unit for generating request information describing the selected tile image based on the signaling data and the ROI information,
Wherein the quality of the selected tile image for the region of interest is higher than the quality of the selected tile image for regions other than the region of interest,
The communication module further receiving the service data based on the request information;
A decoder for decoding the service data into the selected tile image of each tile area; And
And an image combining unit for combining the selected tile images of the plurality of tile regions into a whole image
A media content receiving apparatus.
상기 전체 영상을 복수의 타일 영역들로 분할하는 영상 분할부;
각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩하는 인코더;
가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 송신하는 통신 모듈,
상기 시그널링 데이터는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고,
상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고,
상기 통신 모듈은 요청 정보를 기초로 상기 서비스 데이터를 더 송신하고,
상기 요청 정보는 상기 시그널링 데이터 및 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하고,
상기 관심 영역 정보는 상기 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하고, 및
상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높은 것을 특징으로 하는 미디어 컨텐츠 송신 장치.An image generating unit for generating a full image in which a three-dimensional virtual space is converted into a two-dimensional plane;
An image divider dividing the entire image into a plurality of tile regions;
An encoder for encoding a tile image of each tile region into a plurality of qualities;
A communication module for transmitting signaling data for obtaining service data of a service for a virtual reality, augmented reality, or a hologram,
Wherein the signaling data comprises a media presentation description describing tile images encoded with the plurality of qualities for each tile region,
Wherein the service data includes a selected tile image corresponding to a tile image encoded with a specific quality for each tile region,
Wherein the communication module further transmits the service data based on the request information,
Wherein the request information describes the selected tile image based on the signaling data and the region of interest information,
Wherein the region of interest information indicates a region of interest that the user is expected to see or expect from the entire image,
Wherein the quality of the selected tile image for the region of interest is higher than the quality of the selected tile image for regions other than the region of interest.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160085042A KR101945082B1 (en) | 2016-07-05 | 2016-07-05 | Method for transmitting media contents, apparatus for transmitting media contents, method for receiving media contents, apparatus for receiving media contents |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160085042A KR101945082B1 (en) | 2016-07-05 | 2016-07-05 | Method for transmitting media contents, apparatus for transmitting media contents, method for receiving media contents, apparatus for receiving media contents |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20170048137A true KR20170048137A (en) | 2017-05-08 |
KR101945082B1 KR101945082B1 (en) | 2019-02-01 |
Family
ID=60164240
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160085042A KR101945082B1 (en) | 2016-07-05 | 2016-07-05 | Method for transmitting media contents, apparatus for transmitting media contents, method for receiving media contents, apparatus for receiving media contents |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101945082B1 (en) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019078580A3 (en) * | 2017-10-17 | 2019-06-13 | 삼성전자 주식회사 | Method and device for transmitting immersive media |
WO2019117629A1 (en) * | 2017-12-12 | 2019-06-20 | 가천대학교 산학협력단 | Virtual reality video streaming using viewport information |
KR20190105102A (en) * | 2017-10-24 | 2019-09-11 | 엘지전자 주식회사 | Method and apparatus for transmitting / receiving 360 degree video including fisheye video information |
KR102085246B1 (en) * | 2018-11-27 | 2020-03-05 | 서울과학기술대학교 산학협력단 | Apparatus and method for implementing virtural reality for conference proceeding relay |
KR20200028069A (en) * | 2018-09-05 | 2020-03-16 | 트러스트팜모바일 주식회사 | Image processing method and apparatus of tile images |
KR20200061592A (en) * | 2018-11-26 | 2020-06-03 | 가천대학교 산학협력단 | 360 degree video streaming based on eye gaze tracking |
KR20200118282A (en) * | 2019-04-04 | 2020-10-15 | 한국전자기술연구원 | VR video receiving device and method based on ROI |
KR20200142539A (en) * | 2018-05-07 | 2020-12-22 | 애플 인크. | Dynamic Forbited Pipeline |
KR20210045877A (en) * | 2019-10-17 | 2021-04-27 | 에스케이텔레콤 주식회사 | Electronic device, method, computer-readable storage medium and computer program for processing image |
KR20210051691A (en) * | 2019-10-31 | 2021-05-10 | 한국전자기술연구원 | Method and Apparatus of Encoding Tile based on Region of Interest for Tiled Streaming |
EP3734980A4 (en) * | 2017-12-29 | 2021-05-19 | ZTE Corporation | Video playback method and terminal, server and storage medium |
WO2022119038A1 (en) * | 2020-12-02 | 2022-06-09 | 한국전자기술연구원 | Device and method for reproducing augmented reality image based on split-rendered image |
KR20240069970A (en) * | 2022-11-14 | 2024-05-21 | 세종대학교산학협력단 | Method for providing virtula reality service with robot and robot for providing virtula reality service |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003536160A (en) * | 2000-06-09 | 2003-12-02 | インタラクティブ イメイジング システムズ、 インコーポレイテッド | Method and apparatus for mapping images and videos to create operable and virtual reality videos and images |
KR20140144510A (en) * | 2013-06-11 | 2014-12-19 | 삼성전자주식회사 | Visibility improvement method based on eye tracking, machine-readable storage medium and electronic device |
JP2016105593A (en) * | 2014-11-26 | 2016-06-09 | ソニー株式会社 | Live selective adaptive bandwidth |
-
2016
- 2016-07-05 KR KR1020160085042A patent/KR101945082B1/en active IP Right Grant
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003536160A (en) * | 2000-06-09 | 2003-12-02 | インタラクティブ イメイジング システムズ、 インコーポレイテッド | Method and apparatus for mapping images and videos to create operable and virtual reality videos and images |
KR20140144510A (en) * | 2013-06-11 | 2014-12-19 | 삼성전자주식회사 | Visibility improvement method based on eye tracking, machine-readable storage medium and electronic device |
JP2016105593A (en) * | 2014-11-26 | 2016-06-09 | ソニー株式会社 | Live selective adaptive bandwidth |
Non-Patent Citations (1)
Title |
---|
일본 공표특허공보 특표2003-536160호(2003.12.02.) 1부. * |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11463673B2 (en) | 2017-10-17 | 2022-10-04 | Samsung Electronics Co., Ltd. | Method and device for transmitting immersive media |
WO2019078580A3 (en) * | 2017-10-17 | 2019-06-13 | 삼성전자 주식회사 | Method and device for transmitting immersive media |
KR20190105102A (en) * | 2017-10-24 | 2019-09-11 | 엘지전자 주식회사 | Method and apparatus for transmitting / receiving 360 degree video including fisheye video information |
WO2019117629A1 (en) * | 2017-12-12 | 2019-06-20 | 가천대학교 산학협력단 | Virtual reality video streaming using viewport information |
EP3734980A4 (en) * | 2017-12-29 | 2021-05-19 | ZTE Corporation | Video playback method and terminal, server and storage medium |
KR20200142539A (en) * | 2018-05-07 | 2020-12-22 | 애플 인크. | Dynamic Forbited Pipeline |
US11836885B2 (en) | 2018-05-07 | 2023-12-05 | Apple Inc. | Dynamic foveated pipeline |
KR20200028069A (en) * | 2018-09-05 | 2020-03-16 | 트러스트팜모바일 주식회사 | Image processing method and apparatus of tile images |
KR20200061592A (en) * | 2018-11-26 | 2020-06-03 | 가천대학교 산학협력단 | 360 degree video streaming based on eye gaze tracking |
KR102085246B1 (en) * | 2018-11-27 | 2020-03-05 | 서울과학기술대학교 산학협력단 | Apparatus and method for implementing virtural reality for conference proceeding relay |
KR20200118282A (en) * | 2019-04-04 | 2020-10-15 | 한국전자기술연구원 | VR video receiving device and method based on ROI |
KR20210045877A (en) * | 2019-10-17 | 2021-04-27 | 에스케이텔레콤 주식회사 | Electronic device, method, computer-readable storage medium and computer program for processing image |
KR20210118025A (en) * | 2019-10-17 | 2021-09-29 | 에스케이텔레콤 주식회사 | Electronic device, method, computer program for processing image |
KR20210051691A (en) * | 2019-10-31 | 2021-05-10 | 한국전자기술연구원 | Method and Apparatus of Encoding Tile based on Region of Interest for Tiled Streaming |
WO2022119038A1 (en) * | 2020-12-02 | 2022-06-09 | 한국전자기술연구원 | Device and method for reproducing augmented reality image based on split-rendered image |
KR20240069970A (en) * | 2022-11-14 | 2024-05-21 | 세종대학교산학협력단 | Method for providing virtula reality service with robot and robot for providing virtula reality service |
Also Published As
Publication number | Publication date |
---|---|
KR101945082B1 (en) | 2019-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101945082B1 (en) | Method for transmitting media contents, apparatus for transmitting media contents, method for receiving media contents, apparatus for receiving media contents | |
US11216178B2 (en) | Video encoding method and electronic device adapted thereto | |
CN107807732B (en) | Method for displaying image, storage medium, and electronic device | |
US11450055B2 (en) | Displaying method, animation image generating method, and electronic device configured to execute the same | |
KR102559625B1 (en) | Method for Outputting Augmented Reality and Electronic Device supporting the same | |
US10482672B2 (en) | Electronic device and method for transmitting and receiving image data in electronic device | |
EP2993577A1 (en) | Method for providing virtual reality service and apparatus for the same | |
KR102498598B1 (en) | Image processing apparatus and method for image processing thereof | |
KR20180074369A (en) | Method and Apparatus for Managing Thumbnail of 3-dimensional Contents | |
KR20170060485A (en) | Electronic device and method for displaying content according to display mode | |
KR102496225B1 (en) | Method for video encoding and electronic device supporting the same | |
US9922439B2 (en) | Displaying method, animation image generating method, and electronic device configured to execute the same | |
KR20170035240A (en) | Method for performing image process and electronic device thereof | |
KR20170097884A (en) | Method for processing image and electronic device thereof | |
KR20170012979A (en) | Electronic device and method for sharing image content | |
KR102452314B1 (en) | Method fog playing content and electronic device thereof | |
US20180176536A1 (en) | Electronic device and method for controlling the same | |
CN109845251B (en) | Electronic device and method for displaying images | |
KR102164686B1 (en) | Image processing method and apparatus of tile images | |
US20220172440A1 (en) | Extended field of view generation for split-rendering for virtual reality streaming | |
KR102544779B1 (en) | Method for generating motion information and electronic device thereof | |
KR102272753B1 (en) | Electronic device for displyaing image and method for controlling thereof | |
KR102336879B1 (en) | Electronic device which displays screen and method for controlling thereof | |
CN108476314B (en) | Content display method and electronic device for executing the same | |
KR102284769B1 (en) | Server for providing three-dimensional contents and method for operation thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
G15R | Request for early opening | ||
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |