KR20090035893A - Method and apparatus for encoding/decoding multi-media data - Google Patents

Method and apparatus for encoding/decoding multi-media data Download PDF

Info

Publication number
KR20090035893A
KR20090035893A KR1020070100923A KR20070100923A KR20090035893A KR 20090035893 A KR20090035893 A KR 20090035893A KR 1020070100923 A KR1020070100923 A KR 1020070100923A KR 20070100923 A KR20070100923 A KR 20070100923A KR 20090035893 A KR20090035893 A KR 20090035893A
Authority
KR
South Korea
Prior art keywords
area
information
media
menu
data
Prior art date
Application number
KR1020070100923A
Other languages
Korean (ko)
Other versions
KR101482099B1 (en
Inventor
차혁진
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR20070100923A priority Critical patent/KR101482099B1/en
Publication of KR20090035893A publication Critical patent/KR20090035893A/en
Application granted granted Critical
Publication of KR101482099B1 publication Critical patent/KR101482099B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23412Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs for generating or manipulating the scene composition of objects, e.g. MPEG-4 objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/485End-user interface for client configuration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8146Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
    • H04N21/8153Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics comprising still images, e.g. texture, background image

Abstract

A method and an apparatus for encoding/decoding multimedia data are provided to manage and reproduce many media contents efficiently by implementing the user interface as one file. A method for encoding/decoding multimedia data comprises a step of receiving multimedia data including image data field, media data field, media information field, and menu description field, a step of displaying menu using the menu information, and a step of decoding media data corresponding to the user input through the menu. A slide show track field corresponding to the image data field includes timing information for creating slide show using a plurality of images included in the image data field and a file composed of the media data field, media information field and menu description field.

Description

멀티 미디어 데이터의 부호화/복호화 방법 및 장치{Method and apparatus for encoding/decoding Multi-media data}Method and apparatus for encoding / decoding multimedia data {Method and apparatus for encoding / decoding Multi-media data}

본 발명은 비디오 데이터, 오디오 데이터 및 이미지 데이터 등을 포함하는 멀티 미디어 데이터를 부호화/복호화하는 방법 및 장치에 관한 것으로서, 보다 상세하게는, 휴대용 미디어 플레이어 등에서 사용자가 비디오 콘텐츠를 포함하는 복수의 미디어 콘텐츠들을 효율적으로 관리 및 재생하기 위한 부호화/복호화 방법 및 장치에 관한 것이다.The present invention relates to a method and apparatus for encoding / decoding multimedia data including video data, audio data, image data, and the like, and more particularly, to a plurality of media contents in which a user includes video content in a portable media player or the like. The present invention relates to a method and apparatus for encoding / decoding for efficiently managing and reproducing video data.

비디오, 오디오, 이미지 및 텍스트 데이터 등과 같은 다양한 형태의 미디어 데이터들을 통합하여 부호화하고 복호화하는 멀티 미디어 데이터 처리 방법에 있어, 데이터의 양이 매우 커 부호화/복호화에 소모되는 시간 및 데이터 전송에 소모되는 시간이 증가하고, 상기와 같이 많은 미디어 콘텐츠들을 통합하여 관리하기 어려운 문제가 있었다.In a multimedia data processing method that integrates and encodes and decodes various types of media data such as video, audio, image, and text data, the amount of data is so large that it takes time for encoding / decoding and time for data transmission. There has been an increase, and there is a problem that it is difficult to integrate and manage a lot of media content as described above.

본 발명에 이루고자하는 기술적 과제는 비디오 콘텐츠를 포함하는 복수의 미디어 콘텐츠들을 효과적으로 관리 및 부호화/복호화할 수 있는 멀티 미디어 데이터 구조를 제공하고, 그를 이용한 멀티 미디어 데이터의 부호화/복호화 방법 및 장치를 제공하는 데 있다.SUMMARY OF THE INVENTION The present invention provides a multimedia data structure capable of effectively managing, encoding and decoding a plurality of media contents including video content, and providing a method and apparatus for encoding / decoding multimedia data using the same. There is.

상기한 기술적 과제를 해결하기 위한 본 발명에 의한 복호화 방법은, 비디오 데이터 영역, 오디오 데이터 영역 및 이미지 데이터 영역을 포함하는 미디어 데이터 영역; 상기 복수의 데이터 영역들 각각에 대응되는 복수의 트랙 영역들을 포함하는 미디어 정보 영역; 및 사용자와 상기 미디어 데이터 영역에 포함된 데이터들 사이의 인터페이스를 제공하는 메뉴를 디스플레이하기 위한 메뉴 정보를 포함하는 메뉴 기술 영역;을 포함하는 멀티 미디어 데이터를 입력받는 단계; 상기 메뉴 정보를 이용하여 메뉴를 디스플레이하는 단계; 및 상기 미디어 데이터 영역에 포함된 미디어 데이터들 중 상기 메뉴를 이용한 사용자 입력에 대응되는 미디어 데이터를 추출하여 복호화하는 단계를 포함하며, 상기 이미지 데이터 영역에 대응되는 슬라이드쇼 트랙 영역은 상기 이미지 데이터 영역에 포함된 복수의 이미지들을 이용하여 슬라이드쇼를 구성하기 위한 타이밍 정보를 포함하고, 상기 미디어 데이터 영역, 미디어 정보 영역 및 메뉴 기술 영역을 하나의 파일을 구성하는 것을 특징으로 한다.According to an aspect of the present invention, there is provided a decoding method comprising: a media data area including a video data area, an audio data area, and an image data area; A media information area including a plurality of track areas corresponding to each of the plurality of data areas; And a menu description area including menu information for displaying a menu providing an interface between a user and data included in the media data area. Displaying a menu using the menu information; And extracting and decoding media data corresponding to a user input using the menu from among media data included in the media data area, wherein a slideshow track area corresponding to the image data area is stored in the image data area. It includes timing information for composing a slideshow using a plurality of included images, characterized in that the media data area, the media information area, and the menu description area constitute a single file.

상기한 기술적 과제를 해결하기 위한 본 발명에 의한 부호화 방법은, 비디오 데이터 영역, 오디오 데이터 영역 및 이미지 데이터 영역을 포함하는 미디어 데이터 영역을 생성하는 단계; 상기 복수의 데이터 영역들 각각에 대응되는 복수의 트랙 영역들을 포함하는 미디어 정보 영역을 생성하는 단계; 및 사용자와 상기 미디어 데이터 영역에 포함된 데이터들 사이의 인터페이스를 제공하는 메뉴를 디스플레이하기 위한 메뉴 정보를 포함하는 메뉴 기술 영역을 생성하는 단계를 포함하는 것을 특징으로 한다.According to an aspect of the present invention, there is provided an encoding method comprising: generating a media data area including a video data area, an audio data area, and an image data area; Generating a media information region including a plurality of track regions corresponding to each of the plurality of data regions; And generating a menu description area including menu information for displaying a menu providing an interface between a user and the data included in the media data area.

상기한 기술적 과제를 해결하기 위한 본 발명에 의한 복호화 장치는, 비디오 데이터 영역, 오디오 데이터 영역 및 이미지 데이터 영역을 포함하는 미디어 데이터 영역; 상기 복수의 데이터 영역들 각각에 대응되는 복수의 트랙 영역들을 포함하는 미디어 정보 영역; 및 사용자와 상기 미디어 데이터 영역에 포함된 데이터들 사이의 인터페이스를 제공하는 메뉴를 디스플레이하기 위한 메뉴 정보를 포함하는 메뉴 기술 영역;을 포함하는 멀티 미디어 데이터를 입력받는 데이터입력부; 상기 메뉴 정보를 복호화하여 메뉴를 디스플레이하는 제1 복호화부; 및 상기 미디어 데이터 영역에 포함된 미디어 데이터들 중 상기 메뉴를 이용한 사용자 입력에 대응되는 미디어 데이터를 추출하여 복호화하는 제2 복호화부를 포함하는 것을 특징으로 한다.According to an aspect of the present invention, there is provided a decoding apparatus comprising: a media data area including a video data area, an audio data area, and an image data area; A media information area including a plurality of track areas corresponding to each of the plurality of data areas; And a menu description area including menu information for displaying a menu providing an interface between a user and data included in the media data area. A first decoder which displays the menu by decoding the menu information; And a second decoder configured to extract and decode media data corresponding to a user input using the menu among media data included in the media data area.

상기한 기술적 과제를 해결하기 위한 본 발명에 의한 부호화 장치는, 비디오 데이터 영역, 오디오 데이터 영역 및 이미지 데이터 영역 각각에 대응되는 복수의 트랙 영역들을 생성하는 멀티미디어트랙생성부; 사용자와 상기 미디어 데이터 영역 에 포함된 데이터들 사이의 인터페이스를 제공하는 메뉴를 디스플레이하기 위한 메뉴 정보를 포함하는 메뉴 기술 영역을 생성하는 메뉴기술영역생성부; 및 상기 복수의 트랙 영역들 및 메뉴 기술 영역을 하나의 멀티미디어 데이터 파일로 구성하는 파일구조생성부를 포함하는 것을 특징으로 한다.According to an aspect of the present invention, there is provided an encoding apparatus, including: a multimedia track generator configured to generate a plurality of track areas corresponding to each of a video data area, an audio data area, and an image data area; A menu description area generation unit generating a menu description area including menu information for displaying a menu providing an interface between a user and data included in the media data area; And a file structure generation unit configured to configure the plurality of track areas and the menu description area into one multimedia data file.

상기한 바와 같은 구조를 가지는 멀티미디어 데이터는 디지털 방송 신호에 포함될 수 있으며, 디지털 미디어를 통해 전송될 수 있다.The multimedia data having the structure as described above may be included in the digital broadcast signal, and may be transmitted through digital media.

본 발명에 따른 멀티 미디어 데이터의 부호화/복호화 방법 및 장치에 의하면, 복수의 미디어 콘텐츠들 및 상기 복수의 미디어 콘텐츠들을 관리하기 위한 사용자 인터페이스를 하나의 파일로 구성하여 적은 량의 데이터만으로 복수의 미디어 콘텐츠들을 효율적으로 관리 및 재생이 가능하다. 그로 인해 멀티 미디어 데이터의 처리 및 전송 시간을 감소시킬 수 있다.According to the method and apparatus for encoding / decoding multimedia data according to the present invention, a plurality of media contents and a user interface for managing the plurality of media contents are constituted by a single file and a plurality of media contents are generated by only a small amount of data. Efficiently manage and play them. This can reduce the processing and transmission time of multimedia data.

이하, 첨부된 도면을 참조하면서 본 발명의 실시예에 따른 멀티 미디어 데이터의 부호화/복호화 방법 및 장치에 대해 상세히 설명한다.Hereinafter, a method and apparatus for encoding / decoding multimedia data according to an embodiment of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명에 따른 멀티 미디어 데이터의 전체적인 구조를 개략적으로 도시한 것으로, 도시된 바와 같이 멀티 미디어 데이터 파일은 파일 타입 영역, 파일 메타 영역, 미디어 정보 영역 및 미디어 데이터 영역을 포함하여 구성될 수 있다.FIG. 1 schematically illustrates the overall structure of multimedia data according to the present invention. As illustrated, a multimedia data file may include a file type area, a file meta area, a media information area, and a media data area. have.

파일 타입 영역은 멀티 미디어 데이터 파일의 포맷을 나타내며, 상기 파일의 형식 또는 버젼(version)으로 표현될 수 있다. 예를 들어, 파일 타입이 "mp42"인 경우, 멀티 미디어 파일 포맷이 MPEG-4 version 2 포맷임을 나타낼 수 있다.The file type area indicates the format of the multimedia data file and may be expressed in the format or version of the file. For example, when the file type is "mp42", this may indicate that the multimedia file format is an MPEG-4 version 2 format.

미디어 데이터 영역은 복수의 미디어 데이터 영역들을 포함하며, 예를 들어 도 1에 도시된 바와 같이 비디오 데이터 영역과 오디오 데이터 영역을 포함할 수 있으며, 상기 미디어 데이터 영역들 각각은 미디어 데이터를 포함한다.The media data area includes a plurality of media data areas. For example, the media data area may include a video data area and an audio data area as shown in FIG. 1, and each of the media data areas includes media data.

상기 미디어 데이터 영역은 상기 비디오 데이터 영역 및 오디오 데이터 영역 이외에 텍스트 데이터 또는 이미지 데이터를 포함하는 복수의 영역들을 더 포함할 수 있다. 또한, 상기 비디오 데이터 영역은 복수의 비디오 컨텐츠들을 포함하는 데이터가 저장되어 있을 수 있으며, 상기 오디오 데이터 영역은 복수의 오디오 컨텐츠들을 포함하는 데이터가 저장되어 있을 수 있다.The media data area may further include a plurality of areas including text data or image data in addition to the video data area and the audio data area. In addition, the video data area may store data including a plurality of video contents, and the audio data area may store data including a plurality of audio contents.

미디어정보영역은 상기 미디어 데이터 영역에 포함된 복수의 데이터 영역들 각각에 대응되는 트랙 영역들을 포함하며, 상기 복수의 트랙 영역들 각각은 대응되는 데이터 영역에 포함된 미디어 데이터에 대한 정보, 예를 들어 상기 미디어 데이터의 temporal and spatial information을 포함할 수 있다.The media information area includes track areas corresponding to each of the plurality of data areas included in the media data area, and each of the plurality of track areas includes information about media data included in the corresponding data area, for example. It may include temporal and spatial information of the media data.

도 1을 참조하면, 미디어 정보 영역은 비디오 데이터 영역에 대응되는 비디오 트랙 영역 및 오디오 트랙 영역에 대응되는 오디오 트랙 영역을 포함할 수 있다.Referring to FIG. 1, the media information area may include a video track area corresponding to the video data area and an audio track area corresponding to the audio track area.

상기 비디오 트랙 영역은 비디오 데이터 영역에 포함된 비디오 데이터의 시간 정보, 공간 정보 또는 상기 비디오 데이터에 대한 메타 정보, 예를 들어 상기 비디오 데이터에 포함된 비디오 콘텐츠의 제목, 촬영자 등에 대한 저작 정 보(creation information)을 포함할 수 있다.The video track area may include authoring information about temporal information, spatial information, or meta information about the video data included in the video data area, for example, a title, a photographer, and the like of video content included in the video data. information).

또한, 상기 오디오 트랙 영역은 오디오 데이터 영역에 포함된 오디오 데이터의 시간 정보, 공간 정보 또는 상기 오디오 데이터에 대한 메타 정보, 예를 들어 상기 오디오 데이터에 포함된 오디오 콘텐츠의 제목, 작곡가, 가수, 연주자 등에 대한 저작 정보ff 포함할 수 있다.The audio track area may include temporal information, spatial information, or meta information about the audio data included in the audio data area, for example, a title, composer, singer, performer, etc. of the audio content included in the audio data. The author may include information about the author.

상기 트랙 영역에 포함되는 시간 정보, 공간 정보는 대응되는 미디어 데이터의 재생 구간 정보, 위치 정보 또는 크기 정보일 수 있다.The temporal information and the spatial information included in the track area may be play section information, position information, or size information of corresponding media data.

파일 메타 영역은 식별/위치 정보 영역 및 메뉴 기술 영역를 포함할 수 있다.The file meta area may include an identification / location information area and a menu description area.

상기 식별/위치 정보 영역은 상기 미디어 데이터 영역에 포함된 복수의 미디어 데이터들을 구분 짓는 속성에 대한 정보를 포함할 수 있으며, 예를 들어 상기 복수의 미디어 데이터들 각각의 식별 정보와 위치 정보를 포함할 수 있다.The identification / location information area may include information on an attribute for distinguishing a plurality of media data included in the media data area. For example, the identification / location information area may include identification information and location information of each of the plurality of media data. Can be.

상기 식별/위치 정보 영역은 상기 복수의 미디어 데이터들 각각에 대한 명칭, 콘텐츠 타입 정보, ID, 위치 정보 및 크기 정보 등을 포함하는 것이 바람직하다.The identification / location information area preferably includes a name, content type information, ID, location information, size information, and the like for each of the plurality of media data.

다음은 상기 식별/위치 정보 영역에 포함된 정보에 대한 일실시예로, 미디어 데이터 영역에 하나의 비디오 콘텐츠 및 두개의 오디오 콘텐츠들이 포함된 경우를 예로 든 것이다.The following is an example of information included in the identification / location information area, and an example in which one video content and two audio contents are included in a media data area.

item_ID = 1 (video 1)item_ID = 1 (video 1)

item_name = <rel. uri to video 1>item_name = <rel. uri to video 1>

content_type = videocontent_type = video

item_ID = 2 (audio 1)item_ID = 2 (audio 1)

item_name = <rel. uri to audio 1>item_name = <rel. uri to audio 1>

content_type = audiocontent_type = audio

item_ID = 3 (audio 2)item_ID = 3 (audio 2)

item_name = <rel. uri to audio 2>item_name = <rel. uri to audio 2>

content_type = audiocontent_type = audio

상기 item_ID는 미디어 콘텐츠들 각각에 대해 지정된 식별 번호이며, item_name은 미디어 콘텐츠들 각각의 명칭이고, content_type은 미디어 콘텐츠들 각각의 종류를 의미한다.The item_ID is an identification number designated for each of the media contents, the item_name is a name of each of the media contents, and the content_type means a type of each of the media contents.

또한, 상기 식별/위치 정보 영역은 제1 영역과 제2 영역을 포함하고, 상기 제1, 2 영역이 미디어 데이터의 속성에 대한 정보를 나누어 포함할 수 있다. 예를 들어, 상기 제1 영역이 미디어 데이터 영역에 포함된 미디어 콘텐츠들 각각의 명칭과 콘텐츠 타입을 포함하고, 상기 제2 영역이 상기 미디어 콘텐츠들의 물리적 위치와 크기에 대한 정보를 포함할 수 있다.The identification / location information area may include a first area and a second area, and the first and second areas may include information about attributes of media data. For example, the first region may include a name and a content type of each of the media contents included in the media data region, and the second region may include information about a physical location and size of the media contents.

상기 파일 메타 영역의 핸들러 타입(handler type)은 "lsr1"으로 지정하여 사용할 수 있다.The handler type of the file meta area may be designated as "lsr1".

도 1을 참조하면, 메뉴 기술 영역은 사용자와 미디어 데이터들 사이의 인터 페이스를 제공하는 메뉴를 디스플레이하기 위한 정보를 가지는 메뉴 기술자(menu description)을 포함한다. 사용자에게 좀더 흥미있고 편리한 인터페이스를 제공하기 위해, 상기 메뉴에는 에니메이션 효과가 적용되는 것이 바람직하다.Referring to FIG. 1, the menu description area includes a menu description having information for displaying a menu that provides an interface between a user and media data. In order to provide a more interesting and convenient interface for the user, it is preferable that an animation effect is applied to the menu.

상기 메뉴는 미디어 데이터 영역에 포함된 복수의 미디어 콘텐츠들을 표시하고, 사용자가 상기 복수의 콘텐츠들 중 재생하고자하는 미디어를 선택할 수 있도록 하는 입력 수단들을 제공할 수 있다. 사용자는 상기 메뉴를 이용하여 미디어 데이터 영역에 포함된 멀티 미디어 콘텐츠들을 파악할 수 있으며, 상기 멀티 미디어 콘텐츠들을 관리할 수 있다.The menu may display a plurality of media contents included in a media data area, and may provide input means for allowing a user to select media to play among the plurality of contents. The user may grasp the multimedia contents included in the media data area by using the menu and manage the multimedia contents.

상기 메뉴 기술 영역에 포함된 메뉴 기술자와 미디어 데이터 영역에 포함된 미디어 데이터들은 상기 식별/위치 정보 영역에 포함된 정보를 이용해 연결될 수 있다.The menu descriptor included in the menu description area and the media data included in the media data area may be connected using the information included in the identification / location information area.

도 2는 상기 메뉴의 구성에 대한 일실시예를 도시한 것이다.2 illustrates an embodiment of the configuration of the menu.

도 2를 참조하면, 상기 메뉴는 배경 이미지(10)와 상기 배경 이미지(10) 상에 표시되는 1 이상의 입력 수단들(20, 21, 22, 23)을 포함할 수 있다.Referring to FIG. 2, the menu may include a background image 10 and one or more input means 20, 21, 22, 23 displayed on the background image 10.

상기 배경 이미지(10)에는 에니메이션 효과가 적용되어 메뉴 배경 화면의 변화가 부드럽고 흥미있게 디스플레이 될 수 있다. 예를 들어, 입력 수단들(20, 21, 22, 23)을 이용한 사용자의 입력이 있는 경우, 상기 배경 이미지(10)에 에니메이션 효과가 적용되어 상기 사용자 입력에 따라 배경 이미지(10)가 변화할 수 있다.An animation effect is applied to the background image 10 so that the change of the menu background screen can be displayed smoothly and interestingly. For example, when there is a user input using the input means 20, 21, 22, 23, an animation effect is applied to the background image 10 so that the background image 10 may change according to the user input. Can be.

상기 배경 이미지(10)로 사용되는 이미지 데이터는 미디어 데이터 영역에 저장되어 있을 수 있다.Image data used as the background image 10 may be stored in a media data area.

사용자는 마우스 클릭이나 키 입력 등을 통해 상기 입력 수단들(20, 21, 22, 23) 중 어느 하나를 선택하여, 미디어 데이터 영역에 포함된 복수의 미디어 콘텐츠들을 관리할 수 있다.The user may select any one of the input means 20, 21, 22, 23 through a mouse click or a key input to manage a plurality of media contents included in the media data area.

예를 들어, 사용자는 콘텐츠 리스트(21)을 선택하여 미디어 데이터 영역에 포함된 복수의 미디어 콘텐츠들의 리스트를 확인하고 그들 중 재생하고자 하는 콘텐츠를 선택할 수 있으며, 재생(20)을 선택하여 상기 선택한 콘텐츠를 재생시킬 수 있다.For example, the user may select the content list 21 to check a list of a plurality of media contents included in the media data area and select a content to play among them, and select the playback 20 to select the selected content. Can be played.

또한, 사용자는 챕터(22)를 선택하여 미디어 콘텐츠의 분할된 챕터들을 확인할 수 있으며, 상기 챕터들 중 어느 하나를 선택할 수 있다. 그리고, 사용자는 요약(23)을 선택하여 미디어 콘텐츠의 간략한 내용을 파악할 수 있다.In addition, the user may select the chapter 22 to check the divided chapters of the media content, and may select any one of the chapters. Then, the user can select the summary 23 to grasp the brief content of the media content.

도 2에 도시된 입력 수단들(20, 21, 22, 23)은 본 발명에 따른 메뉴 구성 방법의 일실시예에 불과하므로, 상기 메뉴는 도 2에 도시된 입력 수단들 이외에 사용자와 멀티 미디어 콘텐츠들 사이의 편리한 인터페이스를 제공하기 위해 필요한 여러 다른 입력 수단들을 포함할 수 있다.Since the input means 20, 21, 22, and 23 shown in FIG. 2 are only one embodiment of the method of constructing a menu according to the present invention, the menu is a user and multimedia content in addition to the input means shown in FIG. It may include various other input means necessary to provide a convenient interface between them.

상기 메뉴를 구성하기 위해 필요한 텍스트 데이터들은 상기 메뉴 기술자가 직접 포함하거나, 또는 미디어 데이터 영역에 저장되어 있을 수 있다.The text data necessary for constructing the menu may be directly included by the menu descriptor or may be stored in a media data area.

상기 메뉴 기술자는 상기 메뉴에서 표시되는 시각적 요소(visual element)들인 그래픽(graphics)에 대한 정보, 상기 시각적 요소들의 공간적인 레이아웃(spatial layout)에 대한 정보, 상기 메뉴에서 디스플레이될 미디어 데이터들의 시간적인 레이아웃(temporal layout), 예를 들어 상기 미디어 데이터들의 동기화를 위한 정보, 상기 메뉴에 적용될 에니메이션 효과에 대한 정보 및 사용자와 상기 메뉴 사이의 쌍방향 이벤트(interactive event), 예를 들어 마우스 클릭이나 키 입력 등에 대한 정보를 포함할 수 있다.The menu descriptor provides information about graphics, which are visual elements displayed in the menu, information about a spatial layout of the visual elements, and a temporal layout of media data to be displayed in the menu. (temporal layout), for example, information for synchronizing the media data, information on animation effects to be applied to the menu, and interactive events between the user and the menu, such as mouse clicks or key inputs. May contain information.

상기 메뉴 기술자는 레이져(LASeR:Light-weigh Application Scene Representation), 계층적 벡터 그래픽(SVG:Scalable Vector Graphics) 또는 BIFS(BInary Format for Scene) 등의 언어를 사용할 수 있다. 또한, 상기 LASeR, SVG 또는 BIFS는 XML(eXtensible Mark-up Language) 포맷 또는 Binary encoded 포맷으로 구현될 수 있다.The menu descriptor may use a language such as a light-weigh application scene representation (LASeR), a scalable vector graphics (SVG), or a binary format for scene (BIFS). In addition, the LASeR, SVG or BIFS may be implemented in XML (eXtensible Mark-up Language) format or Binary encoded format.

다음은 LASeR를 이용하여 기술된 상기 메뉴 기술자에 대한 일실시예이다.The following is an embodiment of the menu descriptor described using LASeR.

<lsru:NewScene><lsru: NewScene>

<svg width="400" height="250" viewBox="0 0 400 250">    <svg width = "400" height = "250" viewBox = "0 0 400 250">

<!-- Main menu --><!-Main menu->

<g id="title_page" visibility="visible"><g id = "title_page" visibility = "visible">

<!-- Background image --> <!-Background image->

<image id="title_image" xlink:href="#item_ID_of_imag e" width="400" height="250" x="0" y="0"/> <image id = "title_image" xlink: href = "# item_ID_of_imag e" width = "400" height = "250" x = "0" y = "0" />

<!-- Menu options --><!-Menu options->

<rect x="10" y="109" width="100" height="15" rx="8" fill="rgb(255, 150, 70)"/><rect x = "10" y = "109" width = "100" height = "15" rx = "8" fill = "rgb (255, 150, 70)" />

<text id="play_btn" x="20" y="120" font-family="Verdana" font-size="12" fill="white"> <text id = "play_btn" x = "20" y = "120" font-family = "Verdana" font-size = "12" fill = "white">

play </text>play </ text>

......

</g></ g>

<!-- Video playback --><!-Video playback->

<g id="video_playback" visibility="hidden"><g id = "video_playback" visibility = "hidden">

<video xlink:href="#item_ID_of_video" begin="play_ btn.click" type="video/mpeg" ...><video xlink: href = "# item_ID_of_video" begin = "play_ btn.click" type = "video / mpeg" ...>

<audio xlink:href="#item_ID_of_audio" begin= "play_bt n.click" type="audio/mpeg" ...><audio xlink: href = "# item_ID_of_audio" begin = "play_bt n.click" type = "audio / mpeg" ...>

<a xlink:href="#item_ID_of_text" begin="play_bt n.click" type="text/3gpp" ...><a xlink:href="#item_ID_of_text" begin="play_bt n.click" type="text/3gpp" ...>

</g></ g>

... ...

</svg></ svg>

</lsru:NewScene></ lsru: NewScene>

상기 메뉴 기술자는 상기한 바와 같은 그래픽(graphics), 에니메이션 효과, 공간적 레이아웃, 시간적 레이아웃 및 사용자와 메뉴 사이의 이벤트에 대한 정보를 기술하기 위한 복수의 요소들을 포함할 수 있다.The menu descriptor may include a plurality of elements for describing graphics, animation effects, spatial layouts, temporal layouts, and information about an event between a user and a menu as described above.

예를 들어, 상기 메뉴 기술자는 메뉴 상에서 표시되는 그래픽(graphics), ㅌ텍스트(text), 이미지(image)에 대한 요소, 멀티 미디어 데이터에 대한 요소, 메뉴에 적용될 에니메이션 효과에 대한 요소를 포함할 수 있다.For example, the menu descriptor may include graphics displayed on a menu, text, an element for an image, an element for multimedia data, and an element for an animation effect to be applied to the menu. have.

상기 메뉴 기술자에 포함된 에니메이션 효과에 대한 정보는 에니메이션 효과의 그룹핑 정보, 에니메이션이 적용될 미디어 데이터의 크기 정보, 불투명(opacity) 효과 정보 및 기하학적 변환 효과 정보 등을 포함할 수 있다. 상기 그룹핑 정보는 메뉴에 적용될 애니메이션 효과들의 조합을 나타내는 정보이며, 상기 크기 정보는 이미지의 크기 변화를 기술하는 정보이다.The information on the animation effect included in the menu descriptor may include grouping information of the animation effect, size information of media data to which the animation is applied, opacity effect information, geometric transformation effect information, and the like. The grouping information is information representing a combination of animation effects to be applied to a menu, and the size information is information describing a change in size of an image.

상기 불투명 효과 정보는 이미지의 페이드-인(fade-in) 또는 페이드 아웃(fade-out) 효과를 기술하는 정보를 의미한다. 또한, 상기 기하학적 변환 정보는 이미지들 사이의 전이(transition), 이미지의 스케일 변환, 회전(rotation), 기울임(skew) 등의 효과를 기술하는 정보일 수 있다.The opacity effect information refers to information describing a fade-in or fade-out effect of an image. In addition, the geometric transformation information may be information describing effects such as transition between images, scale transformation of an image, rotation, skew, and the like.

에니메이션 영역은 이미지의 움직임 경로에 대한 정보 또는 이미지에 포함된 객체들의 움직임 경로에 대한 정보를 포함할 수 있으며, 이미지의 색변화 정보 또는 형태 정보를 포함할 수 있다. 상기 이미지의 형태 정보는 직사각형, 원, 타원, 선, 폴리라인(polyline), 다각형 등이 될 수 있다. 또한, 에니메이션 영역은 미디어 데이터에 적용 가능한 여러 에니메이션 효과들을 위해, 미디어 데이터의 속성을 변화시키는 속성 제어 정보를 포함할 수 있다.The animation area may include information on the motion path of the image or information on the motion path of the objects included in the image, and may include color change information or shape information of the image. The shape information of the image may be a rectangle, a circle, an ellipse, a line, a polyline, a polygon, or the like. In addition, the animation region may include attribute control information for changing attributes of the media data for various animation effects applicable to the media data.

다음은 메뉴 기술자에 포함된 에니메이션 정보에 대한 실시예로서, 불투명 효과 정보와 스케일 변환 정보 및 크기 변환 정보를 기술한 것이다.The following is an embodiment of animation information included in a menu descriptor, and describes opacity effect information, scale conversion information, and size conversion information.

<lsru:NewScene><lsru: NewScene>

<svg><svg>

<g id="Article_Image"><g id = "Article_Image">

<animate attributeName="opacity" calcmode="linear"<animate attributeName = "opacity" calcmode = "linear"

values="0.00:1.00:1.00:1.00:1.00:1.00:1.00:1.00"values = "0.00: 1.00: 1.00: 1.00: 1.00: 1.00: 1.00: 1.00"

dur="8.0" repeatDur="indefinite"/>dur = "8.0" repeatDur = "indefinite" />

<animate Transform attributeName="Transform" type="scale" additive="sum" calcmode="linear"<animate Transform attributeName = "Transform" type = "scale" additive = "sum" calcmode = "linear"

values="1.00 1.00:1.00 1.00:1.00 1.00:1.00 1.00:0.50 1.00:0.00 1.00:1.00 1.00"values = "1.00 1.00: 1.00 1.00: 1.00 1.00: 1.00 1.00: 0.50 1.00: 0.00 1.00: 1.00 1.00"

dur="8.0" repeatDur="indefinite"/>dur = "8.0" repeatDur = "indefinite" />

<image width="200" height="15-" #sampleID = 1><image width = "200" height = "15-" #sampleID = 1>

</image></ image>

</g></ g>

</svg></ svg>

</lsru:NewScene></ lsru: NewScene>

상기 기호(<)는 시작을 의미하고 기호(>)는 종료를 의미한다. 기호(/)는 정 의하고자 하는 문맥의 끝을 의미한다. 예를 들어, <svg>부터 </svg>까지가 한 묶음이고 <g id="Article_image">부터 </g>까지가 한 묶음이고, <image width="200" height="150" # sample=1>부터 </image>까지가 한 묶음이다. <g id="Article_image">에서 "g"는 그룹을 나타내고, Article_iamge는 그룹(g)의 명칭을 나타내고, "opacity"과 "transform"는 애니메이션 속성 또는 애니메이션 효과들의 명칭으로서 각각 불투명 효과와 기하학적 변환을 나타낸다. 기호(sum)는 애니메이션 속성들을 합하여 표현한다는 의미를 갖는다. 기호(dur)는 이미지 데이터의 재생 구간에 대한 정보를 나타내고, 기호(infinite)는 정해지지 않았다는 것을 의미한다.The symbol (<) means start and the symbol (>) means end. The symbol (/) means the end of the context to be defined. For example, <svg> through </ svg> is a bundle, <g id = "Article_image"> through </ g> is a bundle, and <image width = "200" height = "150" # sample = 1> through </ image> is a bunch. In <g id = "Article_image">, "g" represents a group, Article_iamge represents the name of group (g), and "opacity" and "transform" are the names of animation attributes or animation effects, respectively. Indicates. The sum is meant to represent the sum of animation properties. The symbol dur represents information on the reproduction section of the image data, and means that the symbol is not defined.

이미지 데이터를 하나의 샘플로 간주할 경우, '1'의 식별 번호(ID)를 갖는 이미지 데이터(#sampleID=1)로 구현될 이미지의 크기는 폭(width)이 200이고 높이(heigh)가 150이다. 그리고, 이미지 데이터(#sampleID=1)에 대한 투명도를 완전 투명(value=0.00)으로부터 원래의 이미지(value=1.00)로 선형적(calcMode="linear")으로 8초 동안(dur="8.0") 계속 반복(repeatDur="indefinite")해서 변화시키는 에니메이션 효과를 표현하고 있다. 또한, 이미지 데이터(#sampleID=1)의 크기 변화("transform", "scale")를 원래의 영상 크기(value=1.00)로부터 가로 방향으로 영상의 절반 크기(value=y;x=1.00;0.50)로 선형적(calcMode-"linear")로 8초동안(dur="8.0") 계속 반복(repeatDur="indefinite")하는 에니메이션 효과를 표현하고 있다. 또한, 상기 두 에니메이션 효과를 함께(additive="sum") 수행하는 것을 묘사하고 있다.When the image data is regarded as one sample, the size of the image to be implemented as the image data (# sampleID = 1) having an identification number (ID) of '1' is 200 in width and 150 in height. to be. Then, the transparency for the image data (# sampleID = 1) is linearly (calcMode = "linear") for 8 seconds (dur = "8.0") from the fully transparent (value = 0.00) to the original image (value = 1.00). Expresses an animation effect that changes over and over (repeatDur = "indefinite"). In addition, the size change ("transform", "scale") of the image data (# sampleID = 1) is half the size of the image in the horizontal direction from the original image size (value = 1.00) (value = y; x = 1.00; 0.50). ), An animation effect that is repeated continuously (repeatDur = "indefinite") for 8 seconds (dur = "8.0") in linear (calcMode- "linear"). It also depicts performing the two animation effects together (additive = "sum").

하나 또는 그 이상의 샘플로 이루어진 이미지 데이터는 청크(chunk) 단위로 구분되고, 각 청크에서 샘플들은 시간 순서로 배치될 수 있다. 이때, 청크에 포함되는 각 샘플은 자신의 고유 식별 번호(ID)를 가지며, 각 샘플의 고유 식별 번호(ID)는 '1'부터 부여될 수 있다. 이 경우, 고유 식별 번호(ID)로서 '1'을 갖는 이미지 데이터(#sampleID=1)는 데이터 자체가 아니라 그의 샘플을 나타낸다.Image data consisting of one or more samples are divided in chunks, and samples in each chunk may be arranged in chronological order. In this case, each sample included in the chunk has its own unique identification number (ID), and the unique identification number (ID) of each sample may be assigned from '1'. In this case, the image data (# sampleID = 1) having '1' as the unique identification number ID represents the sample thereof, not the data itself.

도 3을 참조하면, 비디오 데이터 영역 및 오디오 데이터 영역은 각각 복수의 미디어 콘텐츠들을 포함할 수 있으며, 비디오 트랙 영역 및 오디오 트랙 영역은 상기 복수의 미디어 콘텐츠들 각각에 대응되는 트랙 영역들을 포함할 수 있다.Referring to FIG. 3, the video data area and the audio data area may each include a plurality of media contents, and the video track area and the audio track area may include track regions corresponding to each of the plurality of media contents. .

즉, 비디오 데이터 영역은 N개의 비디오 콘텐츠, 예를 들어 메인 영상(main feature), 메이킹 오브("making of" clips), 배우 인터뷰(actor interviews) 또는 이미지 갤러리(image galleries) 등에 상응하는 데이터를 포함하고, 비디오 트랙 영역은 상기 N개의 비디오 콘텐츠들 각각에 대응되는 N개의 비디오 트랙 영역들을 포함할 수 있다.That is, the video data area includes data corresponding to N video contents, for example, a main feature, "making of" clips, actor interviews, image galleries, or the like. The video track area may include N video track areas corresponding to each of the N video contents.

또한, 오디오 데이터 영역은 M개의 오디오 콘텐츠들에 상응하는 데이터를 포함하고, 오디오 트랙 영역은 상기 M개의 오디오 콘텐츠들 각각에 대응되는 M개의 오디오 트랙 영역들을 포함할 수 있다.Also, the audio data area may include data corresponding to M audio contents, and the audio track area may include M audio track regions corresponding to each of the M audio contents.

상기 N개의 비디오 트랙 영역들 및 M개의 오디오 트랙 영역들 각각은 대응되는 미디어 콘텐츠에 대한 시간적 정보, 공간적 정보 또는 메타 정보(meta information)을 포함할 수 있다.Each of the N video track areas and the M audio track areas may include temporal information, spatial information, or meta information about corresponding media content.

도 4를 참조하면, 미디어 정보 영역은 미디어 데이터 영역에 포함된 복수의 미디어 콘텐츠들에 대한 메타 데이터를 포함하는 미디어 메타 영역 또는 트랙 메타 영역을 포함할 수 있다. 도 4에 도시된 바와 같이 상기 미디어 메타 영역은 상기 비디오 트랙 영역 및 오디오 트랙 영역과 동일한 레벨로 상기 미디어 데이터 영역 안에 포함되며, 상기 트랙 메타 영역은 트랙 영역 안에 포함될 수 있다.Referring to FIG. 4, the media information area may include a media meta area or a track meta area including metadata about a plurality of media contents included in the media data area. As shown in FIG. 4, the media meta area may be included in the media data area at the same level as the video track area and the audio track area, and the track meta area may be included in the track area.

상기 메타 데이터는 사용자에게 미디어 콘텐츠들에 대한 부가적인 정보를 제공하기 위해 사용될 수 있다.The metadata may be used to provide additional information about the media contents to the user.

상기 메타 데이터는 상기 미디어 콘텐츠들에 대한 저작 정보(creation information), 상기 미디어 콘텐츠들의 내용에 대한 요약(summary) 정보 또는 사용자의 상기 미디어 콘텐츠들로의 접근에 대한 사용자 이력 정보(usage histoty information) 등을 포함할 수 있다.The metadata may include authoring information about the media contents, summary information about the contents of the media contents, or user histoty information about a user's access to the media contents. It may include.

상기 creation information은 미디어 데이터 영역에 포함된 복수의 미디어 콘텐츠들 각각에 대한 title, 제작한 artist, 간략한 설명(clip description), 사용자의 comment 또는 상기 미디어 콘텐츠가 상기 멀티 미디어 데이터 파일에 포함된 날짜/시간(File date/time)를 포함할 수 있다. 상기 creation information은 상기한 정보들 이외에, 비디오 콘텐츠의 출연자, 생성 일자, 오디오 콘텐츠의 가수, 연주자에 대한 정보 등, 상기 미디어 콘텐츠들의 생성과 관련된 속성 정보를 다양하게 포함할 수 있다.The creation information may include a title, a produced artist, a short description, a user comment, or a date / time when the media content is included in the multimedia data file for each of the plurality of media contents included in the media data area. (File date / time) may be included. In addition to the above information, the creation information may include various property information related to generation of the media content, such as the performer of the video content, the creation date, the singer of the audio content, and the player.

상기 저작 정보(creation information)는 미디어 메타 영역에 포함되거나, 트랙 영역 안의 트랙 메타 영역에 포함될 수도 있다. 예를 들어, 비디어 데이터 ㅇ영역에 포함된 비디오 콘텐츠들 전체에 관한 저작 정보는 미디어 메타 영역에 포함 되고, 상기 비디오 콘텐츠들 각각에 관한 저작 정보는 그에 대응되는 비디오 트랙 영역에 포함될 수 있다.The creation information may be included in the media meta area or in the track meta area in the track area. For example, authoring information about all video contents included in the video data area may be included in a media meta area, and authoring information about each of the video contents may be included in a corresponding video track area.

보다 상세하게는, 멀티 미디어 데이터 파일에 포함된 영화의 제목 또는 ㅈ저저작자에 관한 정보는 미디어 메타 영역에 포함되고, 상기 영화에 포함된 복수의 비디오 콘텐츠들 각각의 제목 또는 저작자에 관한 정보는 그에 대응되는 비디오 트랙 영역에 포함될 수 있다.More specifically, information about the title or author of a movie included in the multimedia data file is included in the media meta area, and information about the title or author of each of the plurality of video contents included in the movie corresponds thereto. It can be included in the video track area.

오디오 데이터 영역에 포함된 오디오 콘텐츠에 대한 생성 정보도 미디어 메타 영역 또는 그에 대응된 오디오 트랙 영역 안의 트랙 메타 영역에 포함될 수 있다.The generation information on the audio content included in the audio data area may also be included in the media meta area or the track meta area in the audio track area corresponding thereto.

미디어 데이터 영역에 포함된 미디어 데이터는 소정의 기준에 따라 계층적으로 분류될 수 있으며, 상기 메타 데이터는 상기 분류된 미디어 데이터에 대한 계층적 그룹핑 정보(hierarchical grouping information)을 포함하는 요약 메타데이터(summary meta data)를 포함할 수 있다.Media data included in the media data area may be hierarchically classified according to a predetermined criterion, and the metadata may include summary metadata including hierarchical grouping information about the classified media data. meta data).

사용자는 상기 요약 메타데이터를 이용해 미디어 데이터 영역에 포함된 미디어 데이터를 용이하게 파악 및 검색할 수 있다. 그를 위해 상기 요약 메타데이터에 포함된 계층적 그룹핑 정보는 상기 디스플레이되는 메뉴 상에 표시될 수 있다.The user can easily identify and search the media data included in the media data area using the summary metadata. For this purpose the hierarchical grouping information included in the summary metadata may be displayed on the displayed menu.

상기 요약 메타데이터는 미디어 메타 영역에 포함되는 것이 바람직하며, 상기 요약 메타데이터 중 각각의 미디어 콘텐츠에 대한 계층적 요약 정보는 그에 대응되는 트랙 메타 영역에 포함될 수도 있다.The summary metadata may be included in a media meta area, and hierarchical summary information of each media content among the summary metadata may be included in a corresponding track meta area.

비디오 데이터 영역에 포함된 비디오 콘텐츠는 복수의 챕터(chapter)들로 나 누어질 수 있으며, 상기 요약 메타데이터는 상기 복수의 챕터들에 대한 정보(chapter information)를 포함할 수 있다. 예를 들어, 상기 요약 메타데이터는 비디오 콘텐츠의 챕터들 각각에 대한 요약 정보, 해당 챕터에 속하는 씬(scene)들에 대한 정보, 챕터별 대표 씬 또는 대표 이미지에 대한 정보 등을 포함할 수 있다.Video content included in the video data area may be divided into a plurality of chapters, and the summary metadata may include information about the plurality of chapters. For example, the summary metadata may include summary information about each chapter of video content, information about scenes belonging to the chapter, information about a representative scene or representative image for each chapter, and the like.

도 5는 상기 챕터 정보(chater information)의 구성에 대한 일실시예를 도시한 것이다.FIG. 5 illustrates an embodiment of the configuration of the chapter information.

도 5를 참조하면, L개의 씬들을 포함하는 비디오 콘텐츠는 각 씬의 내용 등에 따라 K개의 챕터로 분류될 수 있다. 상기 L개의 씬들 각각은 그 내용에 대한 요약 정보를 가지며, 상기 씬들의 요약 정보에 따라 상기 L개의 씬들을 K개의 챕터들로 분류할 수 있다.Referring to FIG. 5, video content including L scenes may be classified into K chapters according to the contents of each scene. Each of the L scenes has summary information about its contents, and the L scenes may be classified into K chapters according to the summary information of the scenes.

상기 요약 메타데이터는 상기 분류된 챕터들의 개수(K), 인덱스 및 비디오 데이터 내에서의 위치, 각 챕터의 요약 내용, 각 챕터에 속하는 씬들의 인덱스 및 각 씬의 요약 내용 등에 대한 정보를 상기 챕터 정보로 포함할 수 있다.The summary metadata may include information about the number of sorted chapters (K), positions in index and video data, summary contents of each chapter, indexes of scenes belonging to each chapter, and summary contents of each scene. It can be included as.

사용자는 메뉴에 표시되는 상기 챕터 정보을 이용하여, 전체 비디오 콘텐츠를 보지 않고도 상기 비디오 콘텐츠의 대략적인 내용을 파악할 수 있으며, 그를 통해 상기 비디오 콘텐츠 중 보고자 하는 부분 또는 정보를을 쉽게 검색하여 재생시킬 수 있다.By using the chapter information displayed in a menu, a user can grasp an approximate content of the video content without looking at the entire video content, and can easily search and play the part or information of the video content to be viewed through it. .

도 5에서는 비디오 콘텐츠에 속하는 복수의 씬들이 하나의 레이어(one layer)의 챕터들로 분류되었으나, 2 이상의 레이어를 이용해 챕터들을 분류될 수도 있다. 즉, 도 5에 도시된 K개의 챕터들 중 2 이상의 챕터가 하나의 상위 챕터로 재그룹핑 될 수 있으며, 그러한 경우 상기 재그룹핑에 대한 정보는 상기 요약 메타데이터에 상기 챕터 정보으로 포함할 수 있다.In FIG. 5, a plurality of scenes belonging to video content are classified into chapters of one layer, but the chapters may be classified using two or more layers. That is, two or more chapters among the K chapters shown in FIG. 5 may be regrouped into one upper chapter, and in this case, the information on the regrouping may be included as the chapter information in the summary metadata.

비디오 데이터 영역에 포함된 복수의 비디오 콘텐츠들은 각각의 주제에 따라 복수의 그룹으로 분류될 수 있으며, 상기 요약 메타데이터는 상기 복수의 그룹들에 대한 정보를 포함할 수 있다. 예를 들어, 상기 요약 메타데이터는 상기 복수의 그룹들 각각의 주제를 간략하게 나타내는 요약 정보를 포함할 수 있다.The plurality of video contents included in the video data area may be classified into a plurality of groups according to respective subjects, and the summary metadata may include information about the plurality of groups. For example, the summary metadata may include summary information that briefly indicates a subject of each of the plurality of groups.

도 6은 상기 요약 정보의 구성에 대한 일실시예를 도시한 것으로, 6개의 서로 다른 주제를 가지는 비디오 콘텐츠가 비디오 데이터 영역에 포함된 경우이다.FIG. 6 illustrates an embodiment of the configuration of the summary information, in which video content having six different subjects is included in a video data area.

도 6을 참조하면, 6개의 비디오 콘텐츠들은 그 주제에 따라 3개의 그룹으로 분류될 수 있다. 도 6에 도시된 바와 같이, 상기 6개의 비디오 콘텐츠들 각각은 ㅅ과학, 영역, 수학, 발레, 오페라, 야구, 축구를 주제로 하며, 상기 주제에 따라 ㄱ교육, 예술 및 스포츠, 3개의 그룹으로 분류될 수 있다.Referring to FIG. 6, six video contents may be classified into three groups according to the subject matter. As shown in FIG. 6, each of the six video contents is on the subject of science, domain, mathematics, ballet, opera, baseball, soccer, and according to the subject, education, arts and sports in three groups. Can be classified.

상기 요약 메타데이터는 상기 분류된 그룹들의 개수(3) 및 인덱스, 각 그룹의 주제, 각 그룹에 속하는 비디오 콘텐츠들의 인덱스 및 각 비디오 콘텐츠의 주제 등에 대한 정보를 상기 요약 정보로 포함할 수 있다.The summary metadata may include, as the summary information, information on the number (3) and the index of the classified groups, the subject of each group, the index of video contents belonging to each group, the subject of each video content, and the like.

또한, 하나의 비디오 콘텐츠에 포함된 영상들도 각각의 주제에 따라 복수의 그룹으로 분류될 수 있으며, 상기 요약 메타데이터는 상기 분류된 복수의 영상 그룹들에 대한 상기한 바와 같은 요약 정보를 포함할 수 있다.In addition, images included in one video content may be classified into a plurality of groups according to respective subjects, and the summary metadata may include summary information as described above for the classified plurality of image groups. Can be.

사용자는 메뉴에 표시되는 상기 요약 정보를 이용하여, 비디오 데이터 영역 에 포함된 많은 비디오 콘텐츠들의 내용을 쉽게 파악할 수 있으며, 상기 비디오 콘텐츠들 중 원하는 주제와 관련된 비디오 콘텐츠를 쉽게 검색할 수 있다.The user can easily grasp the contents of many video contents included in the video data area by using the summary information displayed in the menu, and can easily search for video contents related to a desired topic among the video contents.

도 6에서는 비디오 데이터에 속하는 복수의 비디오 콘텐츠들이 하나의 레이어의 그룹들로 분류되었으나, 2 레이어 이상의 그룹들로 분류될 수도 있다. 즉, 도 5에 도시된 3개의 그룹들 중 어느 2 개의 그룹이 하나의 상위 그룹으로 재그룹핑 될 수 있으며, 그러한 경우 상기 재그룹핑에 대한 정보는 상기 요약 메타데이터에 상기 요약 정보로 포함할 수 있다. In FIG. 6, a plurality of video contents belonging to video data are classified into groups of one layer, but may be classified into groups of two or more layers. That is, any two groups of the three groups shown in FIG. 5 may be regrouped into one higher group, and in this case, the information on the regrouping may be included as the summary information in the summary metadata. .

또한, 상기 메타 데이터는 미디어 데이터 영역에 포함된 미디어 콘텐츠들에 대해 수행된 사용자의 입력들에 관한 정보인 사용자 이력 정보(usage histoty information)를 포함할 수 있다. 예를 들어 상기 사용자 이력 정보는 과거 일정 시간 동안 사용자가 미디어 데이터 영역에 포함된 미디어 콘텐츠들에 접근했던 기록에 대한 정보일 수 있다.In addition, the metadata may include usage histoty information that is information about user inputs performed on media contents included in a media data area. For example, the user history information may be information about a record in which the user has accessed media contents included in the media data area in the past.

상기 사용자 이력 정보는 사용자가 시청하였던 비디오 콘텐츠에 대한 식별 정보, 사용자가 상기 비디오 콘텐츠를 끝까지 시청하지 않은 경우 재생이 중단된 지점에 관한 정보, 사용자의 시청 시작 시간 또는 종료 시간에 관한 정보 또는 시청 회수 등 사용자의 미디어 콘텐츠 접근 정보를 포함할 수 있다.The user history information includes identification information about video content that the user has watched, information about a point at which playback is stopped when the user has not watched the video content to the end, information about a user's start time or end time, or the number of viewing times. Etc. may include access information of the media content of the user.

상기 미디어 콘텐츠들이 포함된 멀티 미디어 파일의 사용자가 복수인 경우, 상기 사용자 이력 정보는 사용자별로 생성되는 것이 바람직하다.When there are a plurality of users of the multimedia file including the media contents, the user history information is preferably generated for each user.

또한, 사용자별로 사용자 이력 정보를 관리하기 위해, 상기 사용자 이력 정보는 파일 타입 영역, 파일 메타 영역, 미디어 정보 영역 및 미디어 데이터 영역으 로 구성되는 상기 멀티 미디어 데이터 파일과 별도의 메타 데이터 파일에 포함되는 것이 바람직하다.In addition, in order to manage user history information for each user, the user history information is included in a metadata file separate from the multimedia data file including a file type area, a file meta area, a media information area, and a media data area. It is preferable.

사용자는 상기 사용자 이력 정보를 이용하여 해당 멀티 미디어 데이터 파일에 대해 과거에 자신의 행했던 접근 내용 및 시간 등을 파악할 수 있다, 좀더 구체적으로, 사용자가 비디오 데이터 영역에 포함된 어느 하나의 비디오 콘텐츠를 시청하던 도중 시청을 중단한 경우, 상기 비디오 콘텐츠를 다시 시청하고자 할때 상기 중단된 지점부터 시청을 시작할 수 있다.The user may use the user history information to determine the contents and time of the access made to the multimedia data file in the past. More specifically, the user may watch one of the video contents included in the video data area. If the viewing is interrupted while the video content is interrupted, the viewing may be started from the interrupted point when the video content is to be viewed again.

도 8은 본 발명에 따른 멀티 미디어 데이터 파일의 구조에 대한 일실시예를 도시한 것이다.8 illustrates an embodiment of a structure of a multimedia data file according to the present invention.

도 8을 참조하면, 미디어 데이터 영역은 비디오 데이터 영역 및 오디오 데이터 영역 이외에 텍스트 데이터 영역 또는 이미지 데이터 영역을 더 포함할 수 있다. 미디어 데이터 영역이 텍스트 데이터 영역을 포함하는 경우, 미디어 정보 영역은 텍스트 데이터 영역에 대응되는 텍스트 트랙 영역을 포함하는 것이 바람직하다.Referring to FIG. 8, the media data area may further include a text data area or an image data area in addition to the video data area and the audio data area. When the media data area includes a text data area, the media information area preferably includes a text track area corresponding to the text data area.

텍스트 데이터 영역에 포함되는 텍스트 데이터는 라인 단위로 구분된 문자열을 가지는 데이터일 수 있으며, 이 경우 각 라인이 재생 단위인 샘플로 취급될 수 있다.The text data included in the text data area may be data having a character string separated by line units, and in this case, each line may be treated as a sample in which a reproduction unit is used.

상기 텍스트 데이터는 미디어 데이터 영역에 포함된 복수의 미디어 데이터들 중 어느 하나와 동기화되어 디스플레이될 수 있으며, 그를 위해 복수의 트랙 영역들 중 어느 하나, 예를 들어 텍스트 트랙 영역은 상기 텍스트 데이터의 타이밍 정보를 포함할 수 있다.The text data may be displayed in synchronization with any one of a plurality of media data included in a media data area, for which one of the plurality of track areas, for example a text track area, may be the timing information of the text data. It may include.

예를 들어, 상기 텍스트 데이터는 비디오 콘텐츠의 자막 또는 오디오 콘텐츠의 가사에 대한 정보를 포함할 수 있으며, 그러한 경우 상기 비디오 또는 오디오 콘텐츠들과 동기화되어 디스플레이될 수 있다.For example, the text data may include information about subtitles of video content or lyrics of audio content, in which case it may be displayed in synchronization with the video or audio contents.

상기 텍스트 데이터가 복수의 문자열을 포함하는 경우, 복수의 트랙 영역들 중 어느 하나는 상기 복수의 문자열들 각각에 대한 재생 구간 정보, 위치 정보 및 크기 정보를 포함할 수 있으며, 상기 정보들을 이용하여 상기 복수의 문자열들은 미디어 콘텐츠와 동기화되어 디스플레이될 수 있다.When the text data includes a plurality of character strings, any one of the plurality of track areas may include reproduction section information, position information, and size information of each of the plurality of character strings. The plurality of strings may be displayed in synchronization with the media content.

이미지 데이터 영역에 포함된 이미지 데이터는 메뉴 기술자에 의해 디스플레이되는 메뉴의 바탕 이미지로 사용될 수 있으며, 상기한 바와 같이 상기 이미지 데이터에 메뉴 기술자에 의해 기술되는 에니메이션 효과가 적용될 수 있다.The image data included in the image data area may be used as the background image of the menu displayed by the menu descriptor, and the animation effect described by the menu descriptor may be applied to the image data as described above.

비디오 데이터 영역에 포함된 비디오 데이터는 MPEG-4 AVC(Advanced Video Coding), MPEG-2, H.263, MPEG-4 Part 2 등 여러 비디오 코딩 방식에 따라 압축된 데이터일 수 있으며, 여러 비디오 코딩 방식들 중 ITU-T H.264에서 정의된 비디오 코딩 방식을 이용하여 압축된 데이터인 것이 효율적일 수 있다.Video data included in the video data area may be compressed data according to various video coding methods such as MPEG-4 AVC (Advanced Video Coding), MPEG-2, H.263, MPEG-4 Part 2, and various video coding methods. Among them, it may be efficient to be data compressed using a video coding scheme defined in ITU-T H.264.

오디오 데이터 영역에 포함된 오디오 데이터는 MP3 또는 AAC(Advanced Audio Coding) 등 여러 오디오 코딩 방식에 따라 압축된 데이터일 수 있으며, 여러 오디오 코딩 방식들 중 MPEG-4 HE-AAC(High Efficiency Advanced Audio Coding)을 이용하여 압축된 데이터인 것이 효율적일 수 있다. 또한, 상기 오디오 데이터의 압축에는 BSAC(Bit Sliced Arithmetic Coding) 등과 같은 비트율 조절이 가능한 오디오 코딩(scalable Audio coding) 방식이 사용될 수도 있다.The audio data included in the audio data area may be compressed data according to various audio coding schemes such as MP3 or AAC (Advanced Audio Coding), and MPEG-4 HE-AAC (High Efficiency Advanced Audio Coding) among the various audio coding schemes. It may be efficient to be data compressed using. In addition, a scalable audio coding method such as bit sliced arithmetic coding (BSAC) may be used to compress the audio data.

또한, 이미지 데이터 영역에 포함되는 이미지 데이터는 JPEG(Joint Picture Expert Group) 등과 같은 코딩 방법에 의해 압축된 데이터일 수 있다.In addition, the image data included in the image data area may be data compressed by a coding method such as a Joint Picture Expert Group (JPEG).

도 8은 본 발명에 따른 멀티 미디어 데이터 파일의 구조에 대한 또 다른 실시예를 도시한 것이다.8 shows another embodiment of the structure of a multimedia data file according to the present invention.

도 8을 참조하면, 미디어 데이터 영역은 복수의 이미지들을 상응하는 이미지 데이터를 포함하는 슬라이드쇼 이미지 데이터 영역을 포함하고, 미디어 정보 영역은 상기 복수의 이미지들을 순차적으로 재생하여 슬라이드 쇼를 구성하기 위한 타이밍 정보를 포함하는 슬라이드쇼 트랙 영역을 포함할 수 있다.Referring to FIG. 8, the media data area includes a slideshow image data area including image data corresponding to a plurality of images, and the media information area is a timing for constructing a slide show by sequentially playing the plurality of images. It may include a slideshow track area including information.

상기 복수의 이미지 데이터들 각각의 타이밍 정보는 타임라인 상에서 상기 미디어 데이터가 재생되는 구간 또는 재생 순서에 대한 정보를 포함할 수 있다. The timing information of each of the plurality of image data may include information about a section or a playback order of playing the media data on a timeline.

상기 슬라이드쇼 트랙 영역은 상기 복수의 이미지 데이터들 각각에 대한 재생 구간 정보, 데이터 위치 정보 및 데이터 크기 정보를 포함하여 구성될 수 있다. 상기 위치 및 크기 정보를 이용해 상기 미디어 데이터 영역으로부터 재생할 이미지를 검색하여 추출할 수 있다.The slideshow track area may be configured to include playback section information, data location information, and data size information for each of the plurality of image data. The image to be played back may be searched and extracted from the media data area using the position and size information.

상기 슬라이드쇼 이미지 데이터 영역에 포함되는 이미지 데이터는 JPEG(Joint Picture Expert Group) 등으로 압축된 정지 영상 이미지일 수 있다.The image data included in the slideshow image data area may be a still image image compressed by a Joint Picture Expert Group (JPEG) or the like.

상기 타이밍 정보는 레이져(LASeR:Light-weigh Application Scene Representation), 계층적 벡터 그래픽(SVG:Scalable Vector Graphics) 또는 BIFS(BInary Format for Scene) 등의 언어를 사용하여 표현될 있다. 또한, 상기 LASeR, SVG 또는 BIFS는 XML(eXtensible Mark-up Language) 포맷 또는 Binary encoded 포맷으로 구현될 수 있다.The timing information may be expressed using a language such as a light-weigh application scene representation (LASeR), a scalable vector graphics (SVG), or a binary format for scene (BIFS). In addition, the LASeR, SVG or BIFS may be implemented in XML (eXtensible Mark-up Language) format or Binary encoded format.

도 9는 상기한 바와 같은 타이밍 정보를 이용하여 슬라이드쇼를 구성하는 방법에 대한 일실시예를 도시한 것으로, 슬라이드쇼 이미지 데이터 영역은 6개의 이미지 데이터를 가지며, 오디오 데이터 영역은 3개의 오디오 데이터를 가지고, 텍스트 데이터 영역은 4개의 텍스트 데이터를 가지는 경우이다.FIG. 9 illustrates an embodiment of a method of constructing a slideshow using the timing information as described above. The slideshow image data area has six image data, and the audio data area has three audio data. In this case, the text data area has four text data.

도 9에 도시된 바와 같이, 슬라이드쇼 트랙 영역에 포함된 이미지 데이터, 오디오 데이터, 텍스트 데이터 각각의 타이밍 정보에 의해 상기 데이터들이 동기화되어 재생될 수 있다.As illustrated in FIG. 9, the data may be synchronized and reproduced by timing information of image data, audio data, and text data included in the slideshow track area.

상기 미디어 데이터들은 하나의 타임라인에 종속되나, 별개의 타이밍 정보를 가지므로 재생 구간은 서로 일치하지 않을 수 있다. 미디어 데이터 영역에 포함된 미디어 데이터들 각각은 재생 구간 정보, 위치 정보 및 크기 정보를 가지는 것이 바람직하다.The media data are dependent on one timeline, but because they have separate timing information, the playback sections may not coincide with each other. Each of the media data included in the media data area preferably has playback section information, location information, and size information.

도 10은 본 발명에 따른 멀티 미디어 데이터를 부호화하는 장치의 구성에 대한 일실시예를 블록도로 도시한 것으로, 도시된 부호화 장치는 파일구조생성부(100), 멀티미디어트랙생성부(120) 및 메타데이터생성부(130)를 포함하여 이루어질 수 있다.FIG. 10 is a block diagram illustrating an embodiment of a configuration of an apparatus for encoding multimedia data according to the present invention. The illustrated encoding apparatus includes a file structure generator 100, a multimedia track generator 120, and a meta data. It may include a data generation unit 130.

파일구조생성부(100)는 상기에서 설명한 바와 같이 파일타입영역, 파일메타영역, 미디어정보영역 및 미디어데이터영역으로 구성되는 멀티 미디어 파일의 구조를 생성한다.As described above, the file structure generation unit 100 generates a structure of a multimedia file including a file type area, a file metadata area, a media information area, and a media data area.

멀티미디어트랙생성부(120)는 입력되는 복수의 미디어 데이터들을 복수의 데 이터 영역들에 각각 저장하고, 상기 복수의 데이터 영역들 각각에 대응되는 복수의 트랙 영역들을 미디어 정보 영역 내에 생성한다. 예를 들어, 멀티미디어트랙생성부(120)는 비디오 데이터 영역에 대응되는 비디오 트랙 영역, 오디오 데이터 영역에 대응되는 오디오 트랙 영역, 텍스트 데이터 영역에 대응되는 텍스트 트랙 영역 및 슬라이드쇼 이미지 데이터 영역에 대응되는 슬라이드쇼 트랙 영역을 생성할 수 있다. 또한, 멀티미디어트랙생성부(120)는 슬라이드쇼 구성을 위한 복수의 미디어 데이터들의 타이밍 정보를 생성하여 상기 슬라이드쇼 트랙 영역에 저장시킬 수 있다.The multimedia track generator 120 stores a plurality of input media data in a plurality of data areas, and generates a plurality of track areas corresponding to each of the plurality of data areas in the media information area. For example, the multimedia track generator 120 may correspond to a video track area corresponding to a video data area, an audio track area corresponding to an audio data area, a text track area corresponding to a text data area, and a slideshow image data area. You can create a slideshow track area. In addition, the multimedia track generation unit 120 may generate timing information of a plurality of media data for configuring a slideshow and store the timing information in the slideshow track area.

메타데이터생성부(130)는 메타 데이터를 생성하여 파일 메타 영역, 트랙 메타 영역 또는 미디어 메타 영역에 저장한다. 또한, 메타데이터생성부(130)는 상기한 바와 같은 메뉴 기술자를 생성하여 메뉴 기술 영역에 저장시킬 수도 있다.The metadata generator 130 generates metadata and stores the metadata in a file meta area, track meta area, or media meta area. In addition, the metadata generator 130 may generate the menu descriptor as described above and store the same in the menu description area.

상기한 바와 같은 파일구조생성부(100), 멀티미디어트랙생성부(120) 및 메타데이터생성부(130)의 작업 수행 순서는 변경될 수 있으며, 2 이상의 작업이 동시에 수행될 수도 있다.The order in which the file structure generation unit 100, the multimedia track generation unit 120, and the metadata generation unit 130 as described above may be changed, and two or more operations may be performed at the same time.

도 11은 본 발명에 따른 멀티 미디어 데이터를 복호화하는 장치의 구성에 대한 제1 실시예를 블록도로 도시한 것으로, 도시된 복호화 장치는 데이터입력부(200), 파서(210), 제1 디코더(220) 및 제2 디코더(230)를 포함하여 이루어질 수 있다. 도 11에 도시된 복호화 장치의 동작을 도 14에 도시된 본 발명에 따른 복호화 방법에 대한 제1 실시예를 나타내는 흐름도와 결부시켜 설명하기로 한다.FIG. 11 is a block diagram illustrating a first embodiment of a configuration of an apparatus for decoding multimedia data according to the present invention. The illustrated decoding apparatus includes a data input unit 200, a parser 210, and a first decoder 220. ) And a second decoder 230. The operation of the decoding apparatus shown in FIG. 11 will be described with reference to a flowchart showing the first embodiment of the decoding method according to the present invention shown in FIG.

데이터입력부(200)는 멀티 미디어 데이터를 입력받는다(500단계). 파서(210) 는 상기 입력된 멀티 미디어 데이터로부터 메뉴 기술자를 추출한다(510단계).The data input unit 200 receives the multimedia data (step 500). The parser 210 extracts a menu descriptor from the input multimedia data in step 510.

제2 디코더(230)는 상기 추출된 메뉴 기술자를 이용해 사용자와 미디어 데이터 사이의 인터페이스를 제공하는 메뉴를 디스플레이 한다(520단계).The second decoder 230 displays the menu providing an interface between the user and the media data using the extracted menu descriptor (step 520).

도 13을 참조하면, 상기 메뉴를 디스플레이하기 위한 제2 디코더(430)는 기술자디코더(431)와 렌더링부(432)를 포함할 수 있으며, 기술자디코더(431)는 상기 메뉴 기술자를 디코딩해 메뉴를 디스플레이하기 위한 정보들을 추출하고, 렌더링부(432)는 상기 추출된 정보들을 이용해 렌더링을 수행하여 메뉴를 디스플레이한다.Referring to FIG. 13, the second decoder 430 for displaying the menu may include a descriptor decoder 431 and a rendering unit 432. The descriptor decoder 431 decodes the menu descriptor to decode the menu. After extracting the information for display, the renderer 432 performs a rendering using the extracted information to display a menu.

사용자는 상기 디스플레이된 메뉴를 이용하여 상기 멀티 미디어 데이터에 포함된 복수의 미디어 콘텐츠들, 예를 들어 비디오 데이터 영역에 포함된 복수의 비디오 콘텐츠들 중 시청하고자하는 콘텐츠를 선택할 수 있다.The user may select a plurality of media contents included in the multimedia data, for example, a plurality of video contents included in a video data area, to be viewed using the displayed menu.

파서(210)는 메뉴를 이용해 사용자가 선택한 미디어 콘텐츠에 상응하는 미디어 데이터를 멀티 미디어 데이터의 미디어 데이터 영역으로부터 추출한다(530단계).The parser 210 extracts media data corresponding to the media content selected by the user from the media data area of the multimedia data using a menu in step 530.

제1 디코더(220)는 상기 추출된 미디어 데이터를 디코딩하여(540단계), 사용자가 선택한 미디어 콘텐츠를 디스플레이한다(550단계).The first decoder 220 decodes the extracted media data (step 540) and displays the media content selected by the user (step 550).

도 13을 참조하면, 상기 미디어 데이터를 디코딩하기 위한 제1 디코더(420)는 비디오디코더(421), 오디오디코더(422), 텍스트디코더(423) 및 이미지디코더(424)를 포함할 수 있다. 비디오디코더(421), 오디오디코더(422), 텍스트디코더(423) 및 이미지디코더(424)는 각각 미디어 데이터 영역에 포함된 비디오 데이 터, 오디오 데이터, 텍스트 데이터 및 이미지 데이터를 디코딩한다.Referring to FIG. 13, the first decoder 420 for decoding the media data may include a video decoder 421, an audio decoder 422, a text decoder 423, and an image decoder 424. The video decoder 421, the audio decoder 422, the text decoder 423 and the image decoder 424 respectively decode video data, audio data, text data and image data included in the media data area.

파서(410)는 멀티미디어 데이터의 슬라이드쇼 트랙 영역으로부터 슬라이드 쇼 구성을 위한 타이밍 정보를 추출하고, 이미지디코더(424)에서 복호화된 복수의 이미지들은 상기 타이밍 정보를 이용해 오디오디코더(422) 또는 텍스트디코더(423)에서 복호화된 오디오 데이터 또는 텍스트 데이터와 동기화되어 슬라이드쇼로 디스플레이될 수 있다.The parser 410 extracts timing information for configuring a slide show from the slideshow track area of the multimedia data, and the plurality of images decoded by the image decoder 424 uses the timing information to output an audio decoder 422 or a text decoder ( The audio data or text data decoded at 423 may be displayed in a slideshow in synchronization.

도 12는 본 발명에 따른 멀티 미디어 데이터를 복호화하는 장치의 구성에 대한 제2 실시예를 블록도로 도시한 것으로, 도시된 복호화 장치는 데이터입력부(300), 제1 파서(310), 제1 디코더(320), 제2 디코더(330) 및 제2 파서(340)를 포함하여 이루어질 수 있다. 도 11에 도시된 복호화 장치의 동작을 도 14에 도시된 본 발명에 따른 복호화 방법에 대한 제2 실시예를 나타내는 흐름도와 결부시켜 설명하기로 한다. 도 11에 도시된 복호화 장치의 동작 중 도 10, 도 12 및 도 13을 참조하여 상기에서 설명한 바와 동일한 동작에 대한 설명은 생략하기로 한다.FIG. 12 is a block diagram illustrating a second embodiment of a configuration of an apparatus for decoding multimedia data according to the present invention. The decoding apparatus illustrated in FIG. 12 includes a data input unit 300, a first parser 310, and a first decoder. And a second decoder 330 and a second parser 340. The operation of the decoding apparatus shown in FIG. 11 will be described with reference to a flowchart showing a second embodiment of the decoding method according to the present invention shown in FIG. A description of the same operation as described above with reference to FIGS. 10, 12, and 13 of the operation of the decoding apparatus shown in FIG. 11 will be omitted.

데이터입력부(300)는 입력된 멀티 미디어 데이터에 사용자의 과거 입력에 대한 기록인 사용자 이력 정보가 존재하는지 여부를 확인한다(600단계).The data input unit 300 checks whether user history information, which is a record of a user's past input, exists in the input multimedia data (step 600).

사용자 이력 정보가 존재하는 경우, 제1 파서(310)는 상기 입력된 멀티 미디어 데이터로부터 사용자 이력 정보가 포함된 메타 데이터를 추출하고, 제2 차서(340)는 상기 추출된 메타 데이터로부터 상기 사용자 이력 정보를 추출한다.If user history information exists, the first parser 310 extracts metadata including user history information from the input multimedia data, and the second orderer 340 extracts the user history from the extracted metadata. Extract the information.

상기한 바와 같이 사용자 이력 정보는 상기 멀티 미디어 데이터 파일과 별개의 메타 데이터 파일로 구성되어 입력될 수 있으며, 그러한 경우 제2 파서(340)가 상기 입력된 메타 데이터 파일로부터 상기 사용자 이력 정보를 추출한다.As described above, the user history information may be input as a metadata file separate from the multimedia data file. In this case, the second parser 340 extracts the user history information from the input metadata file. .

제1 디코더(320)는 상기 추출된 사용자 이력 정보를 이용해, 사용자가 시청하는 도중 시청이 중단된 비디오 데이터를 상기 중단된 지점부터 디코딩하여 디스플레이할 수 있다(610단계). 본 발명에 따른 복호화 장치는 사용자에게 시청이 중단된 비디오 콘텐츠를 중단 지점부터 시청할 것인지 여부를 상기 610단계 이전에 확인할 수 있다.In operation 610, the first decoder 320 decodes and displays the video data from which the viewing is stopped while the user watches, using the extracted user history information. The decoding apparatus according to the present invention may check before the step 610 whether the user should watch the video content from which the viewing is stopped from the stopping point.

사용자 이력 정보가 존재하지 않는 경우, 복호화 장치가 LASeR 등으로 구현된 메뉴 기술자를 처리할 수 있는지 여부가 확인된다(620단계).If the user history information does not exist, it is checked whether the decoding apparatus can process the menu descriptor implemented by LASeR or the like (step 620).

복호화 장치가 메뉴 기술자를 처리할 수 있는 경우, 제2 디코더(330)는 제1 파서(310)에서 추출된 메뉴 기술자를 이용해 메뉴를 디스플레이하고(640단계), 제1 디코더(320)는 사용자가 선택한 비디오 콘텐츠를 디코딩하여 디스플레이한다(650단계).If the decoding apparatus can process the menu descriptor, the second decoder 330 displays the menu using the menu descriptor extracted from the first parser 310 (step 640), and the first decoder 320 may be used by the user. The selected video content is decoded and displayed (step 650).

복호화 장치가 메뉴 기술자를 처리할 수 없는 경우, 제1 디코더(320)는 비디오 데이터 영역에 포함된 복수의 비디오 콘텐츠들 중 첫번째 비디오 콘텐츠를 디코딩하여 디스플레이 한다(630단계).If the decoding apparatus cannot process the menu descriptor, the first decoder 320 decodes and displays the first video content among the plurality of video contents included in the video data area (operation 630).

다만, 복호화 장치가 메뉴 기술자를 핸들링할 수 있는 경우라도 입력된 멀티 미디어 데이터에 메뉴 기술자가 없는 경우, 상기 630단계와 같이 제1 디코더(320)는 비디오 데이터 영역에 포함된 복수의 비디오 콘텐츠들 중 첫번째 비디오 콘텐츠를 디코딩하여 디스플레이한다.However, even when the decoding apparatus may handle the menu descriptor, when the input multimedia data does not have the menu descriptor, as shown in step 630, the first decoder 320 may select one of the plurality of video contents included in the video data area. Decode and display the first video content.

상기 첫번째 비디오 콘텐츠는 비디오 데이터 영역에 포함된 데이터들 중 위 치 상으로 가장 앞에 위치하는 비디오 데이터를 의미할 수도 있으며, 그 밖에 복수의 비디오 콘텐츠들 중 가장 우선 순위가 높은 비디오 콘텐츠, 영화 데이터의 경우 메인 영상(main feature)을 의미할 수도 있다. 상기 우선 순위는 사용자에 의해 지정될 수도 있다.The first video content may refer to video data that is positioned at the foremost position among data included in the video data area. In addition, in the case of video content and movie data having the highest priority among a plurality of video contents, It may also mean a main feature. The priority may be specified by a user.

상술한 본 발명에 따른 부호화/복호화 장치는 DAB(Digital Audio Broadcasting), DMB(Digital Multimedia Broadcasting)과 같은 멀티미디어 방송 송/수신 장치에 구비되어, 오디오 신호 또는 음성 신호 등을 부호화/복호화 하는데 사용될 수 있다. 상기 멀티미디어 방송 송/수신 장치는 이동통신 단말기를 포함할 수 있다. 또한, 상기한 바와 같은 구조를 가지는 멀티미디어 데이터는 멀티미디어 방송 신호에 포함될 수 있다.The encoding / decoding apparatus according to the present invention described above is provided in a multimedia broadcasting transmission / reception apparatus such as digital audio broadcasting (DAB) or digital multimedia broadcasting (DMB), and may be used to encode / decode audio signals or audio signals. . The multimedia broadcasting transmission / reception apparatus may include a mobile communication terminal. In addition, the multimedia data having the above structure may be included in the multimedia broadcast signal.

상술한 본 발명에 따른 부호화/복호화 방법은 컴퓨터에서 실행되기 위한 프로그램으로 제작되어 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있으며, 상기한 본 발명에 따른 데이터 구조를 가지는 멀티 미디어 데이터도 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있다. 상기 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 저장 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고, 사용자 추적 방 법을 구현하기 위한 기능적인(function) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있다. 또한, 상술한 부호화 방법에 의해 생성된 비트스트림은 상기 컴퓨터가 읽을 수 있는 기록 매체에 저장되거나, 유/무선 통신망을 이용해 전송될 수 있다.The encoding / decoding method according to the present invention described above may be stored in a computer-readable recording medium that is produced as a program for execution on a computer, and multimedia data having a data structure according to the present invention may also be read by a computer. Can be stored in a recording medium. The computer readable recording medium includes all kinds of storage devices in which data that can be read by a computer system is stored. Examples of computer-readable recording media include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage, and the like, and may also be implemented in the form of a carrier wave (for example, transmission over the Internet). Include. The computer readable recording medium can also be distributed over network coupled computer systems so that the computer readable code is stored and executed in a distributed fashion. In addition, functional programs, codes, and code segments for implementing the user tracking method can be easily inferred by programmers in the art to which the present invention belongs. In addition, the bitstream generated by the above-described encoding method may be stored in the computer-readable recording medium or transmitted using a wired / wireless communication network.

상술한 본 발명에 따른 복호화 장치는 이동 통신 단말기, PMP(Portable Multimedia Player)와 같은 멀티미디어 플레이어, PDA(Personal Digital Assistants) 등의 재생 장치에 구비될 수 있다. 또한, 상술한 복호화 장치는 하드웨어적으로 구현되어 재생 장치 등에 포함되거나, 상술한 바와 같이 소프트웨어적으로 재생 장치에 구현될 수도 있다.The decoding apparatus according to the present invention described above may be provided in a mobile communication terminal, a multimedia player such as a portable multimedia player (PMP), and a playback device such as a personal digital assistant (PDA). In addition, the above-described decoding apparatus may be implemented in hardware and included in a reproduction apparatus or the like, or as described above, may be implemented in a reproduction apparatus in software.

이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해돼서는 안 될 것이다.While the above has been shown and described with respect to preferred embodiments of the present invention, the present invention is not limited to the specific embodiments described above, it is usually in the technical field to which the invention belongs without departing from the spirit of the invention claimed in the claims. Various modifications can be made by those skilled in the art, and these modifications should not be individually understood from the technical spirit or the prospect of the present invention.

도 1은 본 발명에 따른 멀티 미디어 데이터의 전체적인 구조를 개략적으로 나타내는 도면이다.1 is a diagram schematically showing the overall structure of multimedia data according to the present invention.

도 2는 사용자 인터페이스인 메뉴의 구성에 대한 일실시예를 나타내는 도면이다.2 is a diagram illustrating an embodiment of configuration of a menu that is a user interface.

도 3, 도 4, 도 7 및 도 8은 본 발명에 따른 멀티 미디어 데이터의 구조에 대한 실시예들을 나타내는 도면이다.3, 4, 7 and 8 illustrate embodiments of a structure of multimedia data according to the present invention.

도 5는 메타 데이터에 포함되는 chatering information의 구성에 대한 일실시예를 나타내는 도면이다.5 is a diagram illustrating an embodiment of configuration of chatering information included in metadata.

도 6은 메타 데이터에 포함되는 summary information의 구성에 대한 일실시예를 나타내는 도면이다.FIG. 6 is a diagram illustrating an embodiment of configuration of summary information included in metadata. FIG.

도 9는 슬라이드쇼(slideshow)를 구성하는 방법에 대한 일실시예를 나타내는 도면이다.FIG. 9 illustrates an embodiment of a method of constructing a slideshow.

도 10은 본 발명에 따른 멀티 미디어 데이터 부호화 장치의 구조에 대한 일실시예를 나타내는 블록도이다.10 is a block diagram illustrating an embodiment of a structure of a multimedia data encoding apparatus according to the present invention.

도 11 내지 도 13은 본 발명에 따른 멀티 미디어 데이터 복호화 장치의 구조에 대한 실시예들을 나타내는 블록도이다.11 to 13 are block diagrams illustrating embodiments of a structure of a multimedia data decoding apparatus according to the present invention.

도 14 및 도 15는 본 발명에 따른 멀티 미디어 데이터 복호화 방법에 대한 실시예들을 나타내는 흐름도이다.14 and 15 are flowcharts illustrating embodiments of a multimedia data decoding method according to the present invention.

Claims (16)

비디오 데이터 영역, 오디오 데이터 영역 및 이미지 데이터 영역을 포함하는 미디어 데이터 영역; 상기 복수의 데이터 영역들 각각에 대응되는 복수의 트랙 영역들을 포함하는 미디어 정보 영역; 및 사용자와 상기 미디어 데이터 영역에 포함된 데이터들 사이의 인터페이스를 제공하는 메뉴를 디스플레이하기 위한 메뉴 정보를 포함하는 메뉴 기술 영역;을 포함하는 멀티 미디어 데이터를 입력받는 단계;A media data area including a video data area, an audio data area and an image data area; A media information area including a plurality of track areas corresponding to each of the plurality of data areas; And a menu description area including menu information for displaying a menu providing an interface between a user and data included in the media data area. 상기 메뉴 정보를 이용하여 메뉴를 디스플레이하는 단계; 및Displaying a menu using the menu information; And 상기 미디어 데이터 영역에 포함된 미디어 데이터들 중 상기 메뉴를 이용한 사용자 입력에 대응되는 미디어 데이터를 추출하여 복호화하는 단계를 포함하며,Extracting and decoding media data corresponding to a user input using the menu from among media data included in the media data area, 상기 이미지 데이터 영역에 대응되는 슬라이드쇼 트랙 영역은 상기 이미지 데이터 영역에 포함된 복수의 이미지들을 이용하여 슬라이드쇼를 구성하기 위한 타이밍 정보를 포함하고, 상기 미디어 데이터 영역, 미디어 정보 영역 및 메뉴 기술 영역을 하나의 파일을 구성하는 것을 특징으로 하는 멀티미디어 데이터 복호화 방법.The slideshow track area corresponding to the image data area includes timing information for composing a slideshow using a plurality of images included in the image data area, and includes the media data area, the media information area, and a menu description area. Multimedia data decoding method comprising the configuration of a file. 제1항에 있어서,The method of claim 1, 상기 메뉴 기술 영역은 LASeR, SVG 및 BIFS 중 어느 하나로 기술되는 것을 특징으로 하는 멀티미디어 데이터 복호화 방법.And the menu description area is described as one of LASeR, SVG, and BIFS. 제2항에 있어서,The method of claim 2, 상기 LASeR, SVG 및 BIFS 중 어느 하나는 XML foramt 또는 binary encoded format으로 구현되는 것을 특징으로 하는 멀티미디어 데이터 복호화 방법.Any one of the LASeR, SVG, and BIFS is implemented in XML foramt or binary encoded format. 제1항에 있어서,The method of claim 1, 상기 메뉴는 상기 미디어 데이터 영역에 포함된 복수의 미디어 콘텐츠들에 대한 정보를 표시하는 것을 특징으로 하는 멀티미디어 데이터 복호화 방법.And wherein the menu displays information on a plurality of media contents included in the media data area. 제1항에 있어서,The method of claim 1, 상기 메뉴는 배경 이미지를 포함하며, 상기 메뉴 정보에 포함된 에니메이션 효과가 상기 배경 이미지에 적용되는 것을 특징으로 하는 멀티미디어 데이터 복호화 방법.The menu includes a background image, wherein the animation effect included in the menu information is applied to the multimedia data decoding method. 제1항에 있어서,The method of claim 1, 상기 슬라이드쇼 트랙 영역은 상기 복수의 이미지들 각각에 대한 재생 구간 정보, 위치 정보 및 크기 정보를 포함하는 것을 특징으로 하는 멀티미디어 데이터 복호화 방법.And the slideshow track area includes reproduction section information, position information, and size information of each of the plurality of images. 제1항에 있어서,The method of claim 1, 상기 미디어 데이터 영역은 텍스트 데이터 영역을 더 포함하고, 상기 미디어 정보 영역은 상기 텍스트 데이터 영역에 대응되는 텍스트 트랙 영역을 포함하며,The media data area further includes a text data area, the media information area includes a text track area corresponding to the text data area, 상기 텍스트 트랙 영역은 상기 텍스트 데이터 영역에 포함된 복수의 문자열들을 상기 미디어 데이터 영역에 포함된 복수의 미디어 데이터들 중 적어도 어느 하나와 동기화하여 디스플레이하기 위한 타이밍 정보를 포함하는 것을 특징으로 하는 멀티미디어 데이터 복호화 방법.The text track area may include timing information for displaying a plurality of character strings included in the text data area in synchronization with at least one of the plurality of media data included in the media data area. Way. 제1항에 있어서,The method of claim 1, 상기 멀티미디어 데이터는 방송 신호에 포함되어 입력되는 것을 특징으로 하는 멀티미디어 데이터 복호화 방법.The multimedia data decoding method of the multimedia data, characterized in that included in the broadcast signal. 제1항에 있어서,The method of claim 1, 상기 멀티미디어 데이터는 디지털 미디어 저장된 것을 특징으로 하는 멀티미디어 데이터 복호화 방법.And multimedia data is stored in digital media. 비디오 데이터 영역, 오디오 데이터 영역 및 이미지 데이터 영역을 포함하는 미디어 데이터 영역을 생성하는 단계;Generating a media data area comprising a video data area, an audio data area and an image data area; 상기 복수의 데이터 영역들 각각에 대응되는 복수의 트랙 영역들을 포함하는 미디어 정보 영역을 생성하는 단계; 및Generating a media information region including a plurality of track regions corresponding to each of the plurality of data regions; And 사용자와 상기 미디어 데이터 영역에 포함된 데이터들 사이의 인터페이스를 제공하는 메뉴를 디스플레이하기 위한 메뉴 정보를 포함하는 메뉴 기술 영역을 생 성하는 단계를 포함하고,Generating a menu description area comprising menu information for displaying a menu providing an interface between a user and the data contained in the media data area, 상기 이미지 데이터 영역에 대응되는 슬라이드쇼 트랙 영역은 상기 이미지 데이터 영역에 포함된 복수의 이미지들을 이용하여 슬라이드쇼를 구성하기 위한 타이밍 정보를 포함하고, 상기 미디어 데이터 영역, 미디어 정보 영역 및 메뉴 기술 영역을 하나의 파일을 구성하는 것을 특징으로 하는 멀티미디어 데이터 부호화 방법.The slideshow track area corresponding to the image data area includes timing information for composing a slideshow using a plurality of images included in the image data area, and includes the media data area, the media information area, and a menu description area. A multimedia data encoding method, comprising one file. 제10항에 있어서,The method of claim 10, 상기 메뉴는 배경 이미지를 포함하며, 상기 메뉴 정보에 포함된 에니메이션 효과가 상기 배경 이미지에 적용되는 것을 특징으로 하는 멀티미디어 데이터 부호화 방법.The menu includes a background image, wherein the animation effect included in the menu information is applied to the multimedia data encoding method. 제10항에 있어서,The method of claim 10, 상기 슬라이드쇼 트랙 영역은 상기 복수의 이미지들 각각에 대한 재생 구간 정보, 위치 정보 및 크기 정보를 포함하는 것을 특징으로 하는 멀티미디어 데이터 부호화 방법.And the slideshow track area includes play section information, position information, and size information of each of the plurality of images. 제10항에 있어서,The method of claim 10, 상기 미디어 데이터 영역은 텍스트 데이터 영역을 더 포함하고, 상기 미디어 정보 영역은 상기 텍스트 데이터 영역에 대응되는 텍스트 트랙 영역을 포함하며,The media data area further includes a text data area, the media information area includes a text track area corresponding to the text data area, 상기 텍스트 트랙 영역은 상기 텍스트 데이터 영역에 포함된 복수의 문자열들을 상기 미디어 데이터 영역에 포함된 복수의 미디어 데이터들 중 적어도 어느 하나와 동기화하여 디스플레이하기 위한 타이밍 정보를 포함하는 것을 특징으로 하는 멀티미디어 데이터 부호화 방법.The text track area may include timing information for displaying a plurality of character strings included in the text data area in synchronization with at least one of the plurality of media data included in the media data area. Way. 비디오 데이터 영역, 오디오 데이터 영역 및 이미지 데이터 영역을 포함하는 미디어 데이터 영역; 상기 복수의 데이터 영역들 각각에 대응되는 복수의 트랙 영역들을 포함하는 미디어 정보 영역; 및 사용자와 상기 미디어 데이터 영역에 포함된 데이터들 사이의 인터페이스를 제공하는 메뉴를 디스플레이하기 위한 메뉴 정보를 포함하는 메뉴 기술 영역;을 포함하는 멀티 미디어 데이터를 입력받는 데이터입력부;A media data area including a video data area, an audio data area and an image data area; A media information area including a plurality of track areas corresponding to each of the plurality of data areas; And a menu description area including menu information for displaying a menu providing an interface between a user and data included in the media data area. 상기 메뉴 정보를 복호화하여 메뉴를 디스플레이하는 제1 복호화부; 및A first decoder which displays the menu by decoding the menu information; And 상기 미디어 데이터 영역에 포함된 미디어 데이터들 중 상기 메뉴를 이용한 사용자 입력에 대응되는 미디어 데이터를 추출하여 복호화하는 제2 복호화부를 포함하며,A second decoder configured to extract and decode media data corresponding to a user input using the menu from among media data included in the media data region, 상기 이미지 데이터 영역에 대응되는 슬라이드쇼 트랙 영역은 상기 이미지 데이터 영역에 포함된 복수의 이미지들을 이용하여 슬라이드쇼를 구성하기 위한 타이밍 정보를 포함하고, 상기 미디어 데이터 영역, 미디어 정보 영역 및 메뉴 기술 영역을 하나의 파일을 구성하는 것을 특징으로 하는 멀티미디어 데이터 복호화 장치.The slideshow track area corresponding to the image data area includes timing information for composing a slideshow using a plurality of images included in the image data area, and includes the media data area, the media information area, and a menu description area. Multimedia data decoding apparatus comprising one file. 제14항에 있어서,The method of claim 14, 상기 슬라이드쇼 트랙 영역은 상기 복수의 이미지들 각각에 대한 재생 구간 정보, 위치 정보 및 크기 정보를 포함하는 것을 특징으로 하는 멀티미디어 데이터 복호화 장치.And the slideshow track area includes reproduction section information, position information, and size information of each of the plurality of images. 비디오 데이터 영역, 오디오 데이터 영역 및 이미지 데이터 영역 각각에 대응되는 복수의 트랙 영역들을 생성하는 멀티미디어트랙생성부;A multimedia track generation unit generating a plurality of track areas corresponding to each of the video data area, the audio data area, and the image data area; 사용자와 상기 미디어 데이터 영역에 포함된 데이터들 사이의 인터페이스를 제공하는 메뉴를 디스플레이하기 위한 메뉴 정보를 포함하는 메뉴 기술 영역을 생성하는 메뉴기술영역생성부; 및A menu description area generator for generating a menu description area including menu information for displaying a menu providing an interface between a user and data included in the media data area; And 상기 복수의 트랙 영역들 및 메뉴 기술 영역을 하나의 멀티미디어 데이터 파일로 구성하는 파일구조생성부를 포함하고,A file structure generation unit configured to configure the plurality of track areas and a menu description area into one multimedia data file; 상기 이미지 데이터 영역에 대응되는 슬라이드쇼 트랙 영역은 상기 이미지 데이터 영역에 포함된 복수의 이미지들을 이용하여 슬라이드쇼를 구성하기 위한 상기 복수의 이미지들 각각의 재생 구간 정보를 포함하는 것을 특징으로 하는 멀티미디어 데이터 부호화 장치.The slideshow track area corresponding to the image data area includes multimedia data of each of the plurality of images for composing a slideshow using the plurality of images included in the image data area. Encoding device.
KR20070100923A 2007-10-08 2007-10-08 Method and apparatus for encoding/decoding Multi-media data KR101482099B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR20070100923A KR101482099B1 (en) 2007-10-08 2007-10-08 Method and apparatus for encoding/decoding Multi-media data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR20070100923A KR101482099B1 (en) 2007-10-08 2007-10-08 Method and apparatus for encoding/decoding Multi-media data

Publications (2)

Publication Number Publication Date
KR20090035893A true KR20090035893A (en) 2009-04-13
KR101482099B1 KR101482099B1 (en) 2015-01-13

Family

ID=40761028

Family Applications (1)

Application Number Title Priority Date Filing Date
KR20070100923A KR101482099B1 (en) 2007-10-08 2007-10-08 Method and apparatus for encoding/decoding Multi-media data

Country Status (1)

Country Link
KR (1) KR101482099B1 (en)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7099561B1 (en) * 1999-08-20 2006-08-29 Thomson Licensing User interface and processing system for digital video, audio and ancillary data
US7519274B2 (en) * 2003-12-08 2009-04-14 Divx, Inc. File format for multiple track digital data
KR100686521B1 (en) * 2005-09-23 2007-02-26 한국정보통신대학교 산학협력단 Method and apparatus for encoding and decoding of a video multimedia application format including both video and metadata
KR100977580B1 (en) * 2005-10-13 2010-08-23 엘지전자 주식회사 Method and apparatus for encoding/decoding

Also Published As

Publication number Publication date
KR101482099B1 (en) 2015-01-13

Similar Documents

Publication Publication Date Title
KR101046749B1 (en) Encoding method and apparatus and decoding method and apparatus
JP5086265B2 (en) Encoding / decoding method and apparatus
US8275814B2 (en) Method and apparatus for encoding/decoding signal
KR101482099B1 (en) Method and apparatus for encoding/decoding Multi-media data
KR101275555B1 (en) Method and apparatus for reproducing multi media, and multi-media file format thereof
KR101397146B1 (en) Method and apparatus for encoding/decoding Multi-media data
Farulla et al. Standard and protocols for visual materials
CN101313577A (en) Method and apparatus for encoding/decoding

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20171214

Year of fee payment: 4