JP3963478B2 - ビットストリームのシームレス接続エンコード方法及びその装置 - Google Patents

ビットストリームのシームレス接続エンコード方法及びその装置 Download PDF

Info

Publication number
JP3963478B2
JP3963478B2 JP51414997A JP51414997A JP3963478B2 JP 3963478 B2 JP3963478 B2 JP 3963478B2 JP 51414997 A JP51414997 A JP 51414997A JP 51414997 A JP51414997 A JP 51414997A JP 3963478 B2 JP3963478 B2 JP 3963478B2
Authority
JP
Japan
Prior art keywords
data
video
encoding
stream
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP51414997A
Other languages
English (en)
Inventor
秀樹 福田
一宏 津賀
巧 長谷部
美裕 森
智之 岡田
和由 堀池
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Application granted granted Critical
Publication of JP3963478B2 publication Critical patent/JP3963478B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • G11B20/10527Audio or video recording; Data buffering arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/00007Time or data compression or expansion
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers
    • G11B27/105Programmed access in sequence to addressed parts of tracks of operating record carriers of operating discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/30Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on the same track as the main recording
    • G11B27/3027Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on the same track as the main recording used signal is digitally coded
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/32Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on separate auxiliary tracks of the same or an auxiliary record carrier
    • G11B27/327Table of contents
    • G11B27/329Table of contents on a disc [VTOC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/149Data rate or code amount at the encoder output by estimating the code amount by means of a model, e.g. mathematical model or statistical model
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/179Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scene or a shot
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23406Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving management of server-side video buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23424Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving splicing one content stream with another content stream, e.g. for inserting or substituting an advertisement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4347Demultiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44004Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44016Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving splicing one content stream with another content stream, e.g. for substituting a video clip
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8541Content authoring involving branching, e.g. to different story endings
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N5/926Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation
    • H04N5/9265Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation with processing of the sound signal
    • H04N5/9267Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation with processing of the sound signal using time division multiplex of the PCM audio and PCM video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • G11B20/10527Audio or video recording; Data buffering arrangements
    • G11B2020/1062Data buffering arrangements, e.g. recording or playback buffers
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • G11B20/10527Audio or video recording; Data buffering arrangements
    • G11B2020/1062Data buffering arrangements, e.g. recording or playback buffers
    • G11B2020/10814Data buffering arrangements, e.g. recording or playback buffers involving specific measures to prevent a buffer underrun
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B2220/00Record carriers by type
    • G11B2220/20Disc-shaped record carriers
    • G11B2220/23Disc-shaped record carriers characterised in that the disc has a specific layer structure
    • G11B2220/235Multilayer discs, i.e. multiple recording layers accessed from the same side
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B2220/00Record carriers by type
    • G11B2220/20Disc-shaped record carriers
    • G11B2220/25Disc-shaped record carriers characterised in that the disc is based on a specific recording technology
    • G11B2220/2537Optical discs
    • G11B2220/2562DVDs [digital versatile discs]; Digital video discs; MMCDs; HDCDs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/488Data services, e.g. news ticker
    • H04N21/4884Data services, e.g. news ticker for displaying subtitles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/445Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
    • H04N5/45Picture in picture, e.g. displaying simultaneously another television channel in a region of the screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/84Television signal recording using optical recording
    • H04N5/85Television signal recording using optical recording on discs or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N5/926Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation
    • H04N5/9261Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation involving data reduction
    • H04N5/9262Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation involving data reduction using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/806Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal
    • H04N9/8063Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal using time division multiplex of the PCM audio and PCM video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8227Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being at least another television signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/87Regeneration of colour television signals
    • H04N9/877Regeneration of colour television signals by assembling picture element blocks in an intermediate memory

Description

技術分野
この発明は、一連の関連付けられた内容を有する各タイトルを構成する動画像データ、オーディオデータ、副映像データの情報を搬送するビットストリームに様々な処理を施して、ユーザーの要望に応じた内容を有するタイトルを構成するべくビットストリームを生成し、その生成されたビットストリームを所定の記録媒体に効率的に記録する記録装置と記録媒体、及び再生する再生装置及びオーサリングシステムに用いられるビデオトストリームのシームレス接続エンコード方法及びその装置に関する。
背景技術
近年、レーザーディスクやビデオCD等を利用したシステムに於いて、動画像、オーディオ、副映像などのマルチメディアデータをデジタル処理して、一連の関連付けられた内容を有するタイトルを構成するオーサリングシステムが実用化されている。
特に、ビデオCDを用いたシステムに於いては、約600Mバイトの記憶容量を持ち本来ディジタルオーディオの記録用であったCD媒体上に、MPEGと呼ばれる高圧縮率の動画像圧縮手法により、動画像データの記録を実現している。カラオケをはじめ従来のレーザーディスクのタイトルがビデオCDに置き替わりつつある。
年々、各タイトルの内容及び再生品質に対するユーザーの要望は、より複雑及び高度になって来ている。このようなユーザーの要望に応えるには、従来より深い階層構造を有するビットストリームにて各タイトルを構成する必要がある。このようにより深い階層構造を有するビットストリームにより、構成されるマルチメディアデータのデータ量は、従来の十数倍以上になる。更に、タイトルの細部に対する内容を、きめこまかく編集する必要があり、それには、ビットストリームをより下位の階層データ単位でデータ処理及び制御する必要がある。
このように、多階層構造を有する大量のデジタルビットストリームを、各階層レベルで効率的な制御を可能とする、ビットストリーム構造及び、記録再生を含む高度なデジタル処理方法の確立が必要である。更に、このようなデジタル処理を行う装置、この装置でデジタル処理されたビットストリーム情報を効率的に記録保存し、記録された情報を迅速に再生することが可能な記録媒体も必要である。
このような状況に鑑みて、記録媒体に関して言えば、従来用いられている光ディスクの記憶容量を高める検討が盛んに行われている。光ディスクの記憶容量を高めるには光ビームのスポット径Dを小さくする必要があるが、レーザの波長をλ、対物レンズの開口数をNAとすると、前記スポット径Dは、λ/NAに比例し、λが小さくNAが大きいほど記憶容量を高めるのに好適である。
ところが、NAが大きいレンズを用いた場合、例えば米国特許5、235、581に記載の如く、チルトと呼ばれるディスク面と光ビームの光軸の相対的な傾きにより生じるコマ収差が大きくなり、これを防止するためには透明基板の厚さを薄くする必要がある。透明基板を薄くした場合は機械的強度が弱くなると言う問題がある。
また、データ処理に関しては、動画像、オーディオ、グラフィックスなどの信号データを記録再生する方式として従来のMPEG1より、大容量データを高速転送が可能なMPEG2が開発され、実用されている。MPEG2では、MPEG1と多少異なる圧縮方式、データ形式が採用されている。MPEG1とMPEG2の内容及びその違いについては、ISO11172、及びISO13818のMPEG規格書に詳述されているので説明を省く。
MPEG2に於いても、ビデオエンコードストリームの構造に付いては、規定しているが、システムストリームの階層構造及び下位の階層レベルの処理方法を明らかにしていない。
上述の如く、従来のオーサリングシステムに於いては、ユーザーの種々の要求を満たすに十分な情報を持った大量のデータストリームを処理することができない。さらに、処理技術が確立したとしても、大容量のデータストリームを効率的に記録、再生に十分用いることが出来る大容量記録媒体がないので、処理されたデータを有効に繰り返し利用することができない。
言い換えれば、タイトルより小さい単位で、ビットストリームを処理するには、記録媒体の大容量化、デジタル処理の高速化と言うハードウェア、及び洗練されたデータ構造を含む高度なデジタル処理方法の考案と言うソフトウェアに対する過大な要求を解消する必要があった。
本発明は、このように、ハードウェア及びソフトウェアに対して高度な要求を有する、タイトル以下の単位で、マルチメディアデータのビットストリームを制御して、よりユーザーの要望に合致した効果的なオーサリングシステムを提供することを目的とする。
更に、複数のタイトル間でデータを共有して光ディスクを効率的に使用するために、複数のタイトルを共通のシーンデータと、同一の時間軸上に配される複数のシーンを任意に選択して再生するマルチシーン制御が望ましい。複数のシーン、つまりマルチシーンデータを同一の時間軸上に配する為には、マルチシーンの各シーンデータを連続的に配列するために、選択した共通シーンと選択されたマルチシーンデータの間に、非選択のマルチシーンデータを挿入してビットストリームを生成することになる。
また、マルチシーンデータが、スポーツの実況中継の様に、同じ対象物を同時に別の角度(アングル)から撮影して得られるような、マルチアングルシーンデータの場合、複数のビデオ信号を所定の単位で自由に結合させて一つのタイトルを得る。このような場合は、複数のビデオストリームが如何に接続して再生されるかは、エンコード時に於いては認識できないため。そのため、マルチアングルの切り替え時などの、デコーダのビデオバッファのデータ占有量の振る舞いをエンコード時に於いて認識することができず、ビデオバッファの破綻を来す場合がある。また、共通のシーン同士で1対1のシーン接続をする場合に於いても,同様に、デコーダのビデオバッファのデータ占有量の振る舞いをエンコード時に於いて認識することができない。
また、可変長符号を用いて符号化処理される場合、常に時間的に直列的に処理を進めなくてはならないので、符号化処理の順序を管理する必要があり、タイトル作成処理に柔軟性がない。また、第一のビデオストリームの符号化時の最終占有量が、第二のビデオストリームの初期占有量より大きい量である場合には、符号化時に於いて想定しない時刻に於いて復号化バッファメモリがオーバーフローする可能性がある。
更に,ビデオストリームを得るための符号化処理に於いて、MPEG方式など可変長符号化処理を行った場合、符号化データのデータ量は符号化処理が完了したときに初めて確定する。それは、ビデオデータのもつ情報量、すなわち、空間的な複雑さあるいは時間的な複雑さ、および過去の符号化の状態によって用いられる符号が選択され、符号長が決定するからである。従って、符号化データのデータ量をあらかじめ設定した所定量に正確には規定することが困難なために、最終占有量も正確には規定することは困難である。特に、ビデオデータのもつ情報量に応じて符号化データのデータ量を割り当てて符号化処理を行う場合では、ビデオデータが異なれば割り当てるデータ量は当然異なり、ビデオバッファのデータ占有量推移は異なってくる。従って、複数のビデオデータの最終占有量を同一にすることは困難である。
本発明はかかる点に鑑み、独立に符号化して得られた一つ以上のビデオストリームを任意に結合させてもビデオバッファの破綻を来すことなく、スムーズな再生画像を得るための符号化方法、及び符号化装置、および記録方法、および記録媒体、および再生方法を提供することを目的とする。
また、複数のビデオストリームを接続して一つのビデオストリームを得る場合に於いて、各ビデオストリームを得るために時間的に直列的に符号化処理する必要をなくし、並列的に符号化処理することにより処理時間の短縮、および処理管理の簡便さを実現する符号化方法、及び符号化装置、および記録方法、および記録媒体、および再生装置を提供することを目的とする。
さらに、選択可能な複数のシーンのビデオストリームを再生し、各ビデオストリームを再生した後、ビデオバッファの破綻を来すことなく連続的に一つのシーンのビデオストリームを再生するための符号化方法、及び符号化装置、および記録方法、および記録媒体、および再生方法を提供することを目的とする。なお、本出願は日本国特許出願番号H7−252736(1995年9月29日出願)及びH8−041582(1996年2月28日出願)に基づいて出願されるものであって、該両明細書による開示事項はすべて本発明の開示の一部となすものである。
発明の開示
符号化処理された符号化データを再生時に復号する際に用いられる所定サイズの復号バッファメモリのデータ占有量を計算し、その計算結果から、ある所定期間の割当符号量を規定し、前記割当符号量で前記所定期間の信号を圧縮符号化処理して、所定の符号化データを生成する方法。
第一の符号化データを前記復号バッファメモリに転送した後も引き続き、仮想の符号化データを転送するとして前記データ占有量を計算し、
前記第一の符号化データの最終データを復号化した際の前記データ占有量を最終占有量Beとして計算し、第二の符号化データを生成するための符号化処理を開始する際は前記データ占有量を前記最終占有量Beよりも小さい所定の初期占有量Biとし、前記データ占有量の推移に基づいて前記割当符号量を規定する符号化方法。
【図面の簡単な説明】
図1は、マルチメディアビットストリームのデータ構造を示す図であり、
図2は、オーサリングエンコーダを示す図であり、
図3は、オーサリングデコーダを示す図であり、
図4は、単一の記録面を有するDVD記録媒体の断面を示す図であり、
図5は、図4の拡大の断面図を示す図であり、
図6は、図5の拡大の断面を示す図であり、
図7は、複数の記録面(片面2層型)を有するDVD記録媒体の断面を示す図であり、
図8は、複数の記録面(両面1層型)を有するDVD記録媒体の断面を示す図であり、
図9は、DVD記録媒体の平面図であり、
図10は、DVD記録媒体の平面図であり、
図11は、片面2層型DVD記録媒体の展開図であり、
図12は、片面2層型DVD記録媒体の展開図であり、
図13は、両面一層型DVD記録媒体の展開図であり、
図14は、両面一層型DVD記録媒体の展開図であり、
図15は、マルチレイティッドタイトルストリームの一例を示す図である
図16は、VTSのデータ構造を示す図であり、
図17は、システムストリームのデータ構造を示す図であり、
図18は、システムストリームのデータ構造を示す図であり、
図19は、システムストリームのパックデータ構造を示す図であり、
図20は、ナブパックNVのデータ構造を示す図であり、
図21は、DVDマルチシーンのシナリオ例を示す図であり、
図22は、DVDのデータ構造を示す図であり、
図23は、マルチアングル制御のシステムストリームの接続を示す図であり、
図24は、マルチシーンに対応するVOBの例を示す図であり、
図25は、DVDオーサリングエンコーダを示す図であり、
図26は、DVDオーサリングデコーダを示す図であり、
図27は、VOBセットデータ列を示す図であり、
図28は、VOBデータ列を示す図であり、
図29は、エンコードパラメータを示す図であり、
図30は、DVDマルチシーンのプログラムチェーン構成例を示す図であり、
図31は、DVDマルチシーンのVOB構成例を示す図であり、
図32は、ビデオエンコードストリームの接続例を示す図であり、
図33は、マルチアングル制御の概念を示す図であり、
図34は、エンコード制御フローチャートを示す図であり、
図35は、非シームレス切り替えマルチアングルのエンコードパラメータ生成フローチャートを示す図であり、
図36は、エンコードパラメータ生成の共通フローチャートを示す図であり、
図37は、シームレス切り替えマルチアングルのエンコードパラメータ生成フローチャートを示す図であり、
図38は、パレンタル制御のエンコードパラメータ生成フローチャートを示す図であり、
図39は、ビデオエンコードストリームの接続例を示す図であり、
図40は、単一のビデオエンコードストリームにおけるビデオバッファのストリーム先頭部分のデータ占有量の推移を示す図であり、
図41は、単一のビデオエンコードストリームにおけるビデオバッファのストリーム終端部分のデータ占有量の推移を示す図であり、
図42は、ビデオエンコードストリームの接続時のビデオバッファのデータ占有量の推移を示す図であり、
図43は、パレンタル制御のマルチシーンの例を示す図であり、
図44は、システムストリームの概念図を示す図であり、
図45は、システムエンコード作成方法の例を示す図であり、
図46は、間欠転送におけるビデオエンコードストリームの接続時のビデオバッファのデータ占有量の推移を示す図であり、
図47は、デコードシステムテーブルを示す図であり、
図48は、デコードテーブルを示す図であり、
図49は、デコーダのフローチャートを示す図であり、
図50は、PGC再生のフローチャートを示す図であり、
図51は、ストリームバッファ内のデータデコード処理フローチャートを示す図であり、
図52は、各デコーダの同期処理フローチャートを示す図であり、
図53は、ビデオエンコードの詳細ブロック図を示す図であり、
図54は、復号バッファ占有量計算器の動作フローチャートの第1の例を示す図である
図55は、復号バッファ占有量計算器のブロック図の例を示す図であり、
図56は、復号バッファ占有量計算器の動作フローチャートの例を示す図であり、
図57は、復号バッファ占有量計算器のブロック図の例を示す図であり、
図58は、復号バッファ占有量計算器の動作フローチャートの例を示す図であり、
図59は、復号バッファ占有量計算器のブロック図の例を示す図であり、
図60は、ビデオエンコードストリームの接続記録の例を示す図であり、
図61は、ビデオエンコードストリームの接続記録の例を示す図であり、
図62は、ビデオエンコードストリームを記録媒体に記録した例を示す図であり、
図63は、ビデオエンコードストリームの例を示す図であり、
図64は、単一シーンのエンコードパラメータ生成フローチャートを示す図であり、
図65は、インターリーブブロック構成例を示す図であり、
図66は、VTSのVOBブロック構成例を示す図であり、
図67は、連続ブロック内のデータ構造を示す図であり、
図68は、インターリーブブロック内のデータ構造を示す図である。
発明を実施するための最良の形態
本発明をより詳細に説明するために、添付の図面に従ってこれを説明する。
オーサリングシステムのデータ構造
先ず、図1を参照して、本発明に於ける記録装置、記録媒体、再生装置および、それらの機能を含むオーサリングシステムに於いて処理の対象されるマルチメディアデータのビットストリームの論理構造を説明する。ユーザが内容を認識し、理解し、或いは楽しむことができる画像及び音声情報を1タイトルとする。このタイトルとは、映画でいえば、最大では一本の映画の完全な内容を、そして最小では、各シーンの内容を表す情報量に相当する。
所定数のタイトル分の情報を含むビットストリームデータから、ビデオタイトルセットVTSが構成される。以降、簡便化の為に、ビデオタイトルセットをVTSと呼称する。VTSは、上述の各タイトルの中身自体を表す映像、オーディオなどの再生データと、それらを制御する制御データを含んでいる。
所定数のVTSから、オーサリングシステムに於ける一ビデオデータ単位であるビデオゾーンVZが形成される。以降、簡便化の為にビデオゾーンをVZと呼称する。一つのVZに、K+1個のVTS#0〜VTS#K(Kは、0を含む正の整数)が直線的に連続して配列される。そしてその内一つ、好ましくは先頭のVTS#0が、各VTSに含まれるタイトルの中身情報を表すビデオマネージャとして用いられる。この様に構成された、所定数のVZから、オーサリングシステムに於ける、マルチメディアデータのビットストリームの最大管理単位であるマルチメディアビットストリームMBSが形成される。
オーサリングエンコーダEC
図2に、ユーザーの要望に応じた任意のシナリオに従い、オリジナルのマルチメディアビットストリームをエンコードして、新たなマルチメディアビットストリームMBSを生成する本発明に基づくオーサリングエンコーダECの一実施形態を示す。なお、オリジナルのマルチメディアビットストリームは、映像情報を運ぶビデオストリームSt1、キャプション等の補助映像情報を運ぶサブピクチャストリームSt3、及び音声情報を運ぶオーディオストリームSt5から構成されている。ビデオストリーム及びオーディオストリームは、所定の時間の間に対象から得られる画像及び音声の情報を含むストリームである。一方、サブピクチャストリームは一画面分、つまり瞬間の映像情報を含むストリームである。必要であれば、一画面分のサブピクチャをビデオメモリ等にキャプチャして、そのキャプチャされたサブピクチャ画面を継続的に表示することができる。
これらのマルチメディアソースデータSt1、St3、及びSt5は、実況中継の場合には、ビデオカメラ等の手段から映像及び音声言号がリアルタイムで供給される。また、ビデオテープ等の記録媒体から再生された非リアルタイムな映像及び音声信号であったりする。尚、同図に於ては、簡便化のために、3種類のマルチメディアソースストリームとして、3種類以上で、それぞれが異なるタイトル内容を表すソースデータが入力されても良いことは言うまでもない。このような複数のタイトルの音声、映像、補助映像情報を有するマルチメディアソースデータを、マルチタイトルストリームと呼称する。
オーサリングエンコーダECは、編集情報作成部100、エンコードシステム制御部200、ビデオエンコーダ300、ビデオストリームバッファ400、サブピクチャエンコーダ500、サブピクチャストリームバッファ600、オーディオエンコーダ700、オーディオストリームバッファ800、システムエンコーダ900、ビデオゾーンフォーマッタ1300、記録部1200、及び記録媒体Mから構成されている。
同図に於いて、本発明のエンコーダによってエンコードされたビットストリームは、一例として光ディスク媒体に記録される。
オーサリングエンコーダECは、オリジナルのマルチメディアタイトルの映像、サブピクチャ、及び音声に関するユーザの要望に応じてマルチメディアビットストリームMBSの該当部分の編集を指示するシナリオデータとして出力できる編集情報生成部100を備えている。編集情報作成部100は、好ましくは、ディスプレイ部、スピーカ部、キーボード、CPU、及びソースストリームバッファ部等で構成される。編集情報作成部100は、上述の外部マルチメディアストリーム源に接続されており、マルチメディアソースデータSt1、St3、及びSt5の供給を受ける。
ユーザーは、マルチメディアソースデータをディスプレイ部及びスピーカを用いて映像及び音声を再生し、タイトルの内容を認識することができる。更に、ユーザは再生された内容を確認しながら、所望のシナリオに沿った内容の編集指示を、キーボード部を用いて入力する。編集指示内容とは、複数のタイトル内容を含む各ソースデータの全部或いは、其々に対して、所定時間毎に各ソースデータの内容を一つ以上選択し、それらの選択された内容を、所定の方法で接続再生するような情報を言う。
CPUは、キーボード入力に基づいて、マルチメディアソースデータのそれぞれのストリームSt1、St3、及びSt5の編集対象部分の位置、長さ、及び各編集部分間の時間的相互関係等の情報をコード化したシナリオデータSt7を生成する。
ソースストリームバッファは所定の容量を有し、マルチメディアソースデータの各ストリームSt1、St3、及びSt5を所定の時間Td遅延させた後に、出力する。
これは、ユーザーがシナリオデータSt7を作成するのと同時にエンコードを行う場合、つまり逐次エンコード処理の場合には、後述するようにシナリオデータSt7に基づいて、マルチメディアソースデータの編集処理内容を決定するのに若干の時間Tdを要するので、実際に編集エンコードを行う場合には、この時間Tdだけマルチメディアソースデータを遅延させて、編集エンコードと同期する必要があるからである。このような、逐次編集処理の場合、遅延時間Tdは、システム内の各要素間での同期調整に必要な程度であるので、通常ソースストリームバッファは半導体メモリ等の高速記録媒体で構成される。
しかしながら、タイトルの全体を通してシナリオデータSt7を完成させた後に、マルチメディアソースデータを一気にエンコードする、いわゆるバッチ編集時に於いては、遅延時間Tdは、一タイトル分或いはそれ以上の時間必要である。このような場合には、ソースストリームバッファは、ビデオテープ、磁気ディスク、光ディスク等の低速大容量記録媒体を利用して構成できる。つまり、ソースストリームバッファは遅延時間Td及び製造コストに応じて、適当な記憶媒体を用いて構成すれば良い。
エンコードシステム制御部200は、編集情報作成部100に接続されており、シナリオデータSt7を編集情報作成部100から受け取る。エンコードシステム制御部200は、シナリオデータSt7に含まれる編集対象部の時間的位置及び長さに関する情報に基づいて、マルチメディアソースデータの編集対象分をエンコードするためのそれぞれのエンコードパラメータデータ及びエンコード開始、終了のタイミング信号St9、St11、及びSt13をそれぞれ生成する。なお、上述のように、各マルチメディアソースデータSt1、St3、及びSt5は、ソースストリームバッファによって、時間Td遅延して出力されるので、各タイミングSt9、St11、及びSt13と同期している。
つまり、信号St9はビデオストリームSt1からエンコード対象部分を抽出して、ビデオエンコード単位を生成するために、ビデオストリームSt1をエンコードするタイミングを指示するビデオエンコード信号である。同様に、信号St11は、サブピクチャエンコード単位を生成するために、サブピクチャストリームSt3をエンコードするタイミングを指示するサブピクチャストリームエンコード信号である。また、信号St13は、オーディオエンコード単位を生成するために、オーディオストリームSt5をエンコードするタイミングを指示するオーディオエンコード信号である。
エンコードシステム制御部200は、更に、シナリオデータSt7に含まれるマルチメディアソースデータのそれぞれのストリームSt1、St3、及びSt5のエンコード対象部分間の時間的相互関係等の情報に基づいて、エンコードされたマルチメディアエンコードストリームを、所定の相互関係になるように配列するためのタイミング信号St21、St23、及びSt25を生成する。
エンコードシステム制御部200は、1ビデオゾーンVZ分の各タイトルのタイトル編集単位(VOB)に付いて、そのタイトル編集単位(VOB)の再生時間を示す再生時間情報ITおよびビデオ、オーディオ、サブピクチャのマルチメディアエンコードストリームを多重化(マルチプレクス)するシステムエンコードのためのエンコードパラメータを示すストリームエンコードデータSt33を生成する。
エンコードシステム制御部200は、所定の相互的時間関係にある各ストリームのタイトル編集単位(VOB)から、マルチメディアビットストリームMBSの各タイトルのタイトル編集単位(VOB)の接続または、各タイトル編集単位を重畳しているインターリーブタイトル編集単位(VOBs)を生成するための、各タイトル編集単位(VOB)をマルチメディアビットストリームMBSとして、フォーマットするためのフォーマットパラメータを規定する配列指示信号St39を生成する。
ビデオエンコーダ300は、編集情報作成部100のソースストリームバッファ及び、エンコードシステム制御部200に接続されており、ビデオストリームSt1とビデオエンコードのためのエンコードパラメータデータ及びエンコード開始終了のタイミング信号のSt9、例えば、エンコードの開始終了タイミング、ビットレート、エンコード開始終了時にエンコード条件、素材の種類として、NTSC信号またはPAL信号あるいはテレシネ素材であるかなどのパラメータがそれぞれ入力される。ビデオエンコーダ30は、ビデオエンコード信号St9に基づいて、ビデオストリームSt1の所定の部分をエンコードして、ビデオエンコードストリームSt15を生成する。
同様に、サブピクチャエンコーダ500は、編集情報作成部100のソースバッファ及び、エンコードシステム制御部200に接続されており、サブピクチャストリームSt3とサブピクチャストリームエンコード信号St11がそれぞれ入力される。サブピクチャエンコーダ500は、サブピクチャストリームエンコードのためのパラメータ信号St11に基づいて、サブピクチャストリームSt3の所定の部分をエンコードして、サブピクチャエンコードストリームSt17を生成する。
オーディオエンコーダ700は、編集情報作成部100のソースバッファ及び、エンコードシステム制御部200に接続されており、オーディオストリームSt5とオーディオエンコード信号St13がそれぞれ入力される。オーディオエンコーダ700は、オーディオエンコードのためのパラメータデータ及びエンコード開始終了タイミングの信号St13に基づいて、オーディオストリームSt5の所定の部分をエンコードして、オーディオエンコードストリームSt19を生成する。
ビデオストリームバッファ400は、ビデオエンコーダ300に接続されており、ビデオエンコーダ300から出力されるビデオエンコードストリームSt15を保存する。ビデオストリームバッファ400は更に、エンコードシステム制御部200に接続されて、タイミング信号St21の入力に基づいて、保存しているビデオエンコードストリームSt15を、調時ビデオエンコードストリームSt27として出力する。
同様に、サブピクチャストリームバッファ600は、サブピクチャエンコーダ500に接続されており、サブピクチャエンコーダ500から出力されるサブピクチャエンコードストリームSt17を保存する。サブピクチャストリームバッファ600は更に、エンコードシステム制御部200に接続されて、タイミング信号St23の入力に基づいて、保存しているサブピクチャエンコードストリームSt17を、調時サブピクチャエンコードストリームSt29として出力する。
また、オーディオストリームバッファ800は、オーディオエンコーダ700に接続されており、オーディオエンコーダ700から出力されるオーディオエンコードストリームSt19を保存する。オーディオストリームバッファ800は更に、エンコードシステム制御部200に接続されて、タイミング信号St25の入力に基づいて、保存しているオーディオエンコードストリームSt19を、調時オーディオエンコードストリームSt31として出力する。
システムエンコーダ900は、ビデオストリームバッファ400、サブピクチャストリームバッファ600、及びオーディオストリームバッファ800に接続されており、調時ビデオエンコードストリームSt27、調時サブピクチャエンコードストリームSt29、及び調時オーディオエンコードSt31が入力される。システムエンコーダ900は、またエンコードシステム制御部200に接続されており、ストリームエンコードデータSt33が入力される。
システムエンコーダ900は、システムエンコードのエンコードパラメータデータ及びエンコード開始終了タイミングの信号St33に基づいて、各調時ストリームSt27、St29、及びSt31に多重化処理を施して、タイトル編集単位(VOB)St35を生成する。
ビデオゾーンフォーマッタ1300は、システムエンコーダ900に接続されて、タイトル編集単位St35を入力される。ビデオゾーンフォーマッタ1300は更に、エンコードシステム制御部200に接続されて、マルチメディアビットストリームMBSをフォーマットするためのフォーマットパラメータデータ及びフォーマット開始終タイミングの信号St39を入力される。ビデオゾーンフォーマッタ1300は、タイトル編集単位St39に基づいて、1ビデオゾーンVZ分のタイトル編集単位St35を、ユーザの要望シナリオに沿う順番に、並べ替えて、編集済みマルチメディアビットストリームSt43を生成する。
このユーザの要望シナリオの内容に編集された、マルチメディアビットストリームSt43は、記録部1200に転送される。記録部1200は、編集マルチメディアビットストリームMBSを記録媒体Mに応じた形式のデータSt43に加工して、記録媒体Mに記録する。この場合、マルチメディアビットストリームMBSには、予め、ビデオゾーンフォーマッタ1300によって生成された媒体上の物理アドレスを示すボリュームファイルストラクチャVFSが含まれる。
また、エンコードされたマルチメディアビットストリームSt35を、以下に述べるようなデコーダに直接出力して、編集されたタイトル内容を再生するようにしても良い。この場合は、マルチメディアビットストリームMBSには、ボリュームファイルストラクチャVFSは含まれないことは言うまでもない。
オーサリングデコーダDC
次に、図3を参照して、本発明にかかるオーサリングエンコーダECによって、編集されたマルチメディアビットストリームMBSをデコードして、ユーザの要望のシナリオに沿って各タイトルの内容を展開する、オーサリングデコーダDCの一実施形態について説明する。なお、本実施形態に於いては、記録媒体Mに記録されたオーサリングエンコーダECによってエンコードされたマルチメディアビットストリームSt45は、記録媒体Mに記録されている。
オーサリングデコーダDCは、マルチメディアビットストリーム再生部2000、シナリオ選択部2100、デコードシステム制御部2300、ストリームバッファ2400、システムデコーダ2500、ビデオバッファ2600、サブピクチャバッファ2700、オーディオバッファ2800、同期制御部2900、ビデオデコーダ3800、サブピクチャデコーダ3100、オーディオデコーダ3200、合成部3500、ビデオデータ出力端子3600、及びオーディオデータ出力端子3700から構成されている。
マルチメディアビットストリーム再生部2000は、記録媒体Mを駆動させる記録媒体駆動ユニット2004、記録媒体Mに記録されている情報を読み取り二値の読み取り信号St57を生成する読取ヘッドユニット2006、読み取り信号ST57に種々の処理を施して再生ビットストリームSt61を生成する信号処理部2008、及び機構制御部2002から構成される。機構制御部2002は、デコードシステム制御部2300に接続されて、マルチメディアビットストリーム再生指示信号St53を受けて、それぞれ記録媒体駆動ユニット(モータ)2004及び信号処理部2008をそれぞれ制御する再生制御信号St55及びSt59を生成する。
デコーダDCは、オーサリングエンコーダECで編集されたマルチメディアタイトルの映像、サブピクチャ、及び音声に関する、ユーザの所望の部分が再生されるように、対応するシナリオを選択して再生するように、オーサリングデコーダDCに指示を与えるシナリオデータとして出力できるシナリオ選択部2100を備えている。
シナリオ選択部2100は、好ましくは、キーボード及びCPU等で構成される。ユーザーは、オーサリングエンコーダECで入力されたシナリオの内容に基づいて、所望のシナリオをキーボード部を操作して入力する。CPUは、キーボード入力に基づいて、選択されたシナリオを指示するシナリオ選択データSt51を生成する。シナリオ選択部2100は、例えば、赤外線通信装置等によって、デコードシステム制御部2300に接続されている。デコードシステム制御部2300は、St51に基づいてマルチメディアビットストリーム再生部2000の動作を制御する再生指示信号St53を生成する。
ストリームバッファ2400は所定のバッファ容量を有し、マルチメディアビットストリーム再生部2000から入力される再生信号ビットストリームSt61を一時的に保存すると共に、及び各ストリームのアドレス情報及び同期初期値データを抽出してストリーム制御データSt63を生成する。ストリームバッファ2400は、デコードシステム制御部2300に接続されており、生成したストリーム制御データSt63をデコードシステム制御部2300に供給する。
同期制御部2900は、デコードシステム制御部2300に接続されて、同期制御データSt81に含まれる同期初期値データ(SCR)を受け取り、内部のシステムクロック(STC)セットし、リセットされたシステムクロックSt79をデコードシステム制御部2300に供給する。
デコードシステム制御部2300は、システムクロックSt79に基づいて、所定の間隔でストリーム読出信号St65を生成し、ストリームバッファ2400に入力する。
ストリームバッファ2400は、読出信号St65に基づいて、再生ビットストリームSt61を所定の間隔で出力する。
デコードシステム制御部2300は、更に、シナリオ選択データSt51に基づき、選択されたシナリオに対応するビデオ、サブピクチャ、オーディオの各ストリームのIDを示すデコードストリーム指示信号St69を生成して、システムデコーダ2500に出力する。
システムデコーダ2500は、ストリームバッファ2400から入力されてくるビデオ、サブピクチャ、及びオーディオのストリームを、デコード指示信号St69の指示に基づいて、それぞれ、ビデオエンコードストリームSt71としてビデオバッファ2600に、サブピクチャエンコードストリームSt73としてサブピクチャバッファ2700に、及びオーディオエンコードストリームSt75としてオーディオバッファ2800に出力する。
システムデコーダ2500は、各ストリームSt67の各最小制御単位での再生開始時間(PTS)及びデコード開始時間(DTS)を検出し、時間情報信号St77を生成する。この時間情報信号St77は、デコードシステム制御部2300を経由して、同期制御データSt81として同期制御部2900に入力される。
同期制御部2900は、同期制御データSt81として、各ストリームについて、それぞれがデコード後に所定の順番になるようなデコード開始タイミングを決定する。同期制御部2900は、このデコードタイミングに基づいて、ビデオストリームデコード開始信号St89を生成し、ビデオデコーダ3800に入力する。同様に、同期制御部2900は、サブピクチャデコード開始信号St91及びオーディオデコード開始信号t93を生成し、サブピクチャデコーダ3100及びオーディオデコーダ3200にそれぞれ入力する。
ビデオデコーダ3800は、ビデオストリームデコード開始信号St89に基づいて、ビデオ出力要求信号St84を生成して、ビデオバッファ2600に対して出力する。ビデオバッファ2600はビデオ出力要求信号St84を受けて、ビデオストリームSt83をビデオデコーダ3800に出力する。ビデオデコーダ3800は、ビデオストリームSt83に含まれる再生時間情報を検出し、再生時間に相当する量のビデオストリームSt83の入力を受けた時点で、ビデオ出力要求信号St84を無効にする。このようにして、所定再生時間に相当するビデオストリームがビデオデコーダ3800でデコードされて、再生されたビデオ信号St104が合成部3500に出力される。
同様に、サブピクチャデコーダ3100は、サブピクチャデコード開始信号St91に基づいて、サブピクチャ出力要求信号St86を生成し、サブピクチャバッファ2700に供給する。サブピクチャバッファ2700は、サブピクチャ出力要求信号St86を受けて、サブピクチャストリームSt85をサブピクチャデコーダ3100に出力する。サブピクチャデコーダ3100は、サブピクチャストリームSt85に含まれる再生時間情報に基づいて、所定の再生時間に相当する量のサブピクチャストリームSt85をデコードして、サブピクチャ信号St99を再生して、合成部3500に出力される。
合成部3500は、ビデオ信号St104及びサブピクチャ信号St99を重畳させて、マルチピクチャビデオ信号St105を生成し、ビデオ出力端子3600に出力する。
オーディオデコーダ3200は、オーディオデコード開始信号St93に基づいて、オーディオ出力要求信号St88を生成し、オーディオバッファ2800に供給する。オーディオバッファ2800は、オーディオ出力要求信号St88を受けて、オーディオストリームSt87をオーディオデコーダ3200に出力する。オーディオデコーダ3200は、オーディオストリームSt87に含まれる再生時間情報に基づいて、所定の再生時間に相当する量のオーディオストリームSt87をデコードして、オーディオ出力端子3700に出力する。
このようにして、ユーザのシナリオ選択に応答して、リアルタイムにユーザの要望するマルチメディアビットストリームMBSを再生する事ができる。つまり、ユーザが異なるシナリオを選択する度に、オーサリングデコーダDCはその選択されたシナリオに対応するマルチメディアビットストリームMBSを再生することによって、ユーザの要望するタイトル内容を再生することができる。
以上述べたように、本発明のオーサリングシステムに於いては、基本のタイトル内容に対して、各内容を表す最小編集単位の複数の分岐可能なサブストリームを所定の時間的相関関係に配列するべく、マルチメディアソースデータをリアルタイム或いは一括してエンコードして、複数の任意のシナリオに従うマルチメディアビットストリームを生成する事ができる。
また、このようにエンコードされたマルチメディアビットストリームを、複数のシナリオの内の任意のシナリオに従って再生できる。そして、再生中であっても、選択したシナリオから別のシナリオを選択し(切り替えて)も、その新たな選択されたシナリオに応じた(動的に)マルチメディアビットストリームを再生できる。また、任意のシナリオに従ってタイトル内容を再生中に、更に、複数のシーンの内の任意のシーンを動的に選択して再生することができる。
このように、本発明に於けるオーサリングシステムに於いては、エンコードしてマルチメディアビットストリームMBSをリアルタイムに再生するだけでなく、繰り返し再生することができる。尚、オーサリングシステムの詳細に関しては、本特許出願と同一出願人による1996年9月27日付けの日本国特許出願に開示されている。
DVD
図4に、単一の記録面を有するDVDの一例を示す。本例に於けるDVD記録媒体RC1は、レーザー光線LSを照射し情報の書込及び読出を行う情報記録面RS1と、これを覆う保護層PL1からなる。更に、記録面RS1の裏側には、補強層BL1が設けられている。このように、保護層PL1側の面を表面SA、補強層BL1側の面を裏面SBとする。この媒体RC1のように、片面に単一の記録層RS1を有するDVD媒体を、片面一層ディスクと呼ぶ。
図5に、図4のC1部の詳細を示す。記録面RS1は、金属薄膜等の反射膜を付着した情報層4109によって形成されている。その上に、所定の厚さT1を有する第1の透明基板4108によって保護層PL1が形成される。所定の厚さT2を有する第二の透明基板4111によって補強層BL1が形成される。第一及び第二の透明基盤4108及び4111は、その間に設けられ接着層4110によって、互いに接着されている。
さらに、必要に応じて第2の透明基板4111の上にラベル印刷用の印刷層4112が設けられる。印刷層4112は補強層BL1の基板4111上の全領域ではなく、文字や絵の表示に必要な部分のみ印刷され、他の部分は透明基板4111を剥き出しにしてもよい。その場合、裏面SB側から見ると、印刷されていない部分では記録面RS1を形成する金属薄膜4109の反射する光が直接見えることになり、例えば、金属薄膜がアルミニウム薄膜である場合には背景が銀白色に見え、その上に印刷文字や図形が浮き上がって見える。印刷層4112は、補強層BL1の全面に設ける必要はなく、用途に応じて部分的に設けてもよい。
図6に、更に図5のC2部の詳細を示す。光ビームLSが入射し情報が取り出される表面SAに於いて、第1の透明基板4108と情報層4109の接する面は、成形技術により凹凸のピットが形成され、このピットの長さと間隔を変えることにより情報が記録される。つまり、情報層4109には第1の透明基板4108の凹凸のピット形状が転写される。このピットの長さや間隔はCDの場合に比べ短くなり、ピット列で形成する情報トラックもピッチも狭く構成されている。その結果、面記録密度が大幅に向上している。
また、第1の透明基板4108のピットが形成されていない表面SA側は、平坦な面となっている。第2の透明基板4111は、補強用であり、第1の透明基板4108と同じ材質で構成される両面が平坦な透明基板である。そして所定の厚さT1及びT2は、共に同じく、例えば0.6mmが好ましいが、それに限定されるものでは無い。
情報の取り出しは、CDの場合と同様に、光ビームLSが照射されることにより光スポットの反射率変化として取り出される。DVDシステムに於いては、対物レンズの開口数NAを大きく、そして光ビームの波長λ小さすることができるため、使用する光スポットLsの直径を、CDでの光スポットの約1/1.6に絞り込むことができる。これは、CDシステムに比べて、約1.6倍の解像度を有することを意味する。
DVDからのデータ読み出しには、波長の短い650nmの赤色半導体レーザと対物レンズのNA(開口数)を0.6mmまで大きくした光学系とが用いれらる。これと透明基板の厚さTを0.6mmに薄くしたこととがあいまって、直径120mmの光ディスクの片面に記録できる情報容量が5Gバイトを越える。
DVDシステムは、上述のように、単一の記録面RS1を有する片側一層ディスクRC1に於いても、CDに比べて記録可能な情報量が10倍近いため、単位あたりのデータサイズが非常に大きい動画像を、その画質を損なわずに取り扱うことができる。その結果、従来のCDシステムでは、動画像の画質を犠牲にしても、再生時間が74分であるのに比べて、DVDでは、高画質動画像を2時間以上に渡って記録再生可能である。このようにDVDは、動画像の記録媒体に適しているという特徴がある。
図7及び図8に、上述の記録面RSを複数有するDVD記録媒体の例を示す。図7のDVD記録媒体RC2は、同一側、つまり表側SAに、二層に配された第一及び半透明の第二の記録面RS1及びRS2を有している。第一の記録面RS1及び第二の記録面RS2に対して、それぞれ異なる光ビームLS1及びLS2を用いることにより、同時に二面からの記録再生が可能である。また、光ビームLS1或いはLS2の一方にて、両記録面RS1及びRS2に対応させても良い。このように構成されたDVD記録媒体を片面二層ディスクと呼ぶ。この例では、2枚の記録層RS1及びRS2を配したが、必要に応じて、2枚以上の記録層RSを配したDVD記録媒体を構成できることは、言うまでもない。このようなディスクを、片面多層ディスクと呼ぶ。
一方、図8のDVD記録媒体RC3は、反対側、つまり表側SA側には第一の記録面RS1が、そして裏側SBには第二の記録面RS2、それぞ設けれている。これらの例に於いては、一枚のDVDに記録面を二層もうけた例を示したが、二層以上の多層の記録面を有するように構成できることは言うまでもない。図7の場合と同様に、光ビームLS1及びLS2を個別に設けても良いし、一つの光ビームで両方の記録面RS1及びRS2の記録再生に用いることもできる。このように構成されたDVD記録媒体を両面一層ディスクと呼ぶ。また、片面に2枚以上の記録層RSを配したDVD記録媒体を構成できることは、言うまでもない。このようなディスクを、両面多層ディスクと呼ぶ。
図9及び図10に、DVD記録媒体RCの記録面RSを光ビームLSの照射側から見た平面図をそれぞれ示す。DVDには、内周から外周方向に向けて、情報を記録するトラックTRが螺旋状に連続して設けられている。トラックTRは、所定のデータ単位毎に、複数のセクターに分割されている。尚、図9では、見易くするために、トラック1周あたり3つ以上のセクターに分割されているように表されている。
通常、トラックTRは、図9に示すように、ディスクRCAの内周の端点IAから外周の端点OAに向けて時計回り方向DrAに巻回されている。このようなディスクRCAを時計回りディスク、そのトラックを時計回りトラックTRAと呼ぶ。また、用途によっては、図10に示すように、ディスクRCBの外周の端点OBから内周の端点IBに向けて、時計周り方向DrBに、トラックTRBが巻回されている。この方向DrBは、内周から外周に向かって見れば、反時計周り方向であるので、図9のディスクRCAと区別するために、反時計回りディスクRCB及び反時計回りトラックTRBと呼ぶ。上述のトラック巻回方向DrA及びDrBは、光ビームが記録再生の為にトラックをスキャンする動き、つまりトラックパス(Track path)である。トラック巻回方向DrAの反対方向RdAが、ディスクRCAを回転させる方向である。トラック巻回方向DrBの反対方向RdBが、ディスクRCBを回転させる方向である。
図11に、図7に示す片側二層ディスクRC2の一例であるディスクRC2oの展開図を模式的に示す。下側の第一の記録面RS1は、図9に示すように時計回りトラックTRAが時計回り方向DrAに設けられている。上側の第二の記録面RS2には、図12に示すように反時計回りトラックTRBが反時計回り方向DrBに設けられている。この場合、上下側のトラック外周端部OB及びOAは、ディスクRC2oの中心線に平行な同一線上に位置している。上述のトラックTRの巻回方向DrA及びDrBは、共に、ディスクRCに対するデータの読み書きの方向でもある。この場合、上下のトラックの巻回方向は反対、つまり、上下の記録層のトラックパスDrA及びDrBが対向している。
対向トラックパスタイプの片側二層ディスクRC2oは、第一記録面RS1に対応してRdA方向に回転されて、光ビームLSがトラックパスDrAに沿って、第一記録面RS1のトラックをトレースして、外周端部OAに到達した時点で、光ビームLSを第二の記録面RS2の外周端部OBに焦点を結ぶように調節することで、光ビームLSは連続的に第二の記録面RS2のトラックをトレースすることができる。このようにして、第一及び第二の記録面RS1及びRS2のトラックTRAとTRBとの物理的距離は、光ビームLSの焦点を調整することで、瞬間的に解消できる。その結果、対向トラックパスタイプの片側二層ディスクRCoに於いては、上下二層上のトラックを一つの連続したトラックTRとして処理することが容易である。故に、図1を参照して述べた、オーサリングシステムに於ける、マルチメディアデータの最大管理単位であるマルチメディアビットストリームMBSを、一つの媒体RC2oの二層の記録層RS1及びRS2に連続的に記録することができる。
尚、記録面RS1及びRS2のトラックの巻回方向を、本例で述べたのと反対に、つまり第一記録面RS1に反時計回りトラックTRBを、第二記録面に時計回りトラックTRAを設け場合は、ディスクの回転方向をRdBに変えることを除けば、上述の例と同様に、両記録面を一つの連続したトラックTRを有するものとして用いる。よって、簡便化の為にそのような例に付いての図示等の説明は省く。このように、DVDを構成することによって、長大なタイトルのマルチメディアビットストリームMBSを一枚の対向トラックパスタイプ片面二層ディスクRC2oに収録できる。このようなDVD媒体を、片面二層対向トラックパス型ディスクと呼ぶ。
図12に、図7に示す片側二層ディスクRC2の更なる例RC2pの展開図を模式に示す。第一及び第二の記録面RS1及びRS2は、図9に示すように、共に時計回りトラックTRAが設けられている。この場合、片側二層ディスクRC2pは、RdA方向に回転されて、光ビームの移動方向はトラックの巻回方向と同じ、つまり、上下の記録層のトラックパスが互いに平行である。この場合に於いても、好ましくは、上下側のトラック外周端部OA及びOAは、ディスクRC2pの中心線に平行な同一線上に位置している。それ故に、外周端部OAに於いて、光ビームLSの焦点を調節することで、図11で述べた媒体RC2oと同様に、第一記録面RS1のトラックTRAの外周端部OAから第二記録面RS2のトラックTRAの外周端部OAへ瞬間的に、アクセス先を変えることができる。
しかしながら、光ビームLSによって、第二の記録面RS2のトラックTRAを時間的に連続してアクセスするには、媒体RC2pを逆(反RdA方向に)回転させれば良い。しかし、光りビームの位置に応じて、媒体の回転方向を変えるのは効率が良くないので、図中で矢印で示されているように、光ビームLSが第一記録面RS1のトラック外周端部OAに達した後に、光ビームを第二記録面RS2のトラック内周端部IAに、移動させることで、論理的に連続した一つのトラックとして用いることができ。また、必要であれば、上下の記録面のトラックを一つの連続したトラックとして扱わずに、それぞれ別のトラックとして、各トラックにマルチメディアビットストリームMBSを一タイトルづつ記録してもよい。このようなDVD媒体を、片面二層平行トラックパス型ディスクと呼ぶ。
尚、両記録面RS1及びRS2のトラックの巻回方向を本例で述べたのと反対に、つまり反時計回りトラックTRBを設けても、ディスクの回転方向をRdBにすることを除けば同様である。この片面二層平行トラックパス型ディスクは、百科事典のような頻繁にランダムアクセスが要求される複数のタイトルを一枚の媒体RC2pに収録する用途に適している。
図13に、図8に示す片面にそれぞれ一層の記録面RS1及びRS2を有する両面一層型のDVD媒体RC3の一例RC3sの展開図を示す。一方の記録面RS1は、時計回りトラックTRAが設けられ、他方の記録面RS2には、反時計回りトラックTRBが設けられている。この場合に於いても、好ましくは、両記録面のトラック外周端部OA及びOBは、ディスクRC3sの中心線に平行な同一線上に位置している。これらの記録面RS1とRS2は、トラックの巻回方向は反対であるが、トラックパスが互いに面対称の関係にある。このようなディスクRC3sを両面一層対称トラックパス型ディスクと呼ぶ。この両面一層対称トラックパス型ディスクRC3sは、第一の記録媒体RS1に対応してRdA方向に回転される。その結果、反対側の第二の記録媒体RS2のトラックパスは、そのトラック巻回方向DrBと反対の方向、つまりDrAである。この場合、連続、非連続的に関わらず、本質的に二つの記録面RS1及びRS2に同一の光ビームLSでアクセスする事は実際的ではない。それ故に、表裏の記録面のそれぞれに、マルチメディアビットストリームMSBを記録する。
図14に、図8に示す両面一層DVD媒体RC3の更なる例RC3aの展開図を示す。両記録面RS1及びRS2には、共に、図9に示すように時計回りトラックTRAが設けられている。この場合に於いても、好ましくは、両記録面側RS1及びRS2のトラック外周端部OA及びOAは、ディスクRC3aの中心線に平行な同一線上に位置している。但し、本例に於いては、先に述べた両面一層対象トラックパス型ディスクRC3sと違って、これらの記録面RS1とRS2上のトラックは非対称の関係にある。このようなディスクRC3aを両面一層非対象トラックパス型ディスクと呼ぶ。この両面一層非対象トラックパス型ディスクRC3sは、第一の記録媒体RS1に対応してRdA方向に回転される。その結果、反対側の第二の記録面RS2のトラックパスは、そのトラック巻回方向DrAと反対の方向、つまりDrB方向である。
故に、単一の光ビームLSを第一記録面RS1の内周から外周へ、そして第二記録面RS2の外周から内周へと、連続的に移動させれば記録面毎に異なる光ビーム源を用意しなくても、媒体PC3aを表裏反転させずに両面の記録再生が可能である。また、この両面一層非対象トラックパス型ディスクでは、両記録面RS1及びRS2のトラックパスが同一である。それ故に、媒体PC3aの表裏を反転することにより、記録面毎に異なる光ビーム源を用意しなくても、単一の光ビームLSで両面の記録再生が可能であり、その結果、装置を経済的に製造することができる。尚、両記録面RS1及びRS2に、トラックTRAの代わりにトラックTRBを設けても、本例と基本的に同様である。
上述の如く、記録面の多層化によって、記録容量の倍増化が容易なDVDシステムによって、1枚のディスク上に記録された複数の動画像データ、複数のオーディオデータ、複数のグラフィックスデータなどをユーザとの対話操作を通じて再生するマルチメディアの領域に於いてその真価を発揮する。つまり、従来ソフト提供者の夢であった、ひとつの映画を製作した映画の品質をそのまま記録で、多数の異なる言語圏及び多数の異なる世代に対して、一つの媒体により提供することを可能とする。
パレンタル
従来は、映画タイトルのソフト提供者は、同一のタイトルに関して、全世界の多数の言語、及び欧米各国で規制化されているパレンタルロックに対応した個別のパッケージとしてマルチレイティッドタイトル(Multi-rated title)を制作、供給、管理しないといけなかった。この手間は、たいへん大きなものであった。また、これは、高画質もさることながら、意図した通りに再生できることが重要である。このような願いの解決に一歩近づく記録媒体がDVDである。
マルチアングル
また、対話操作の典型的な例として、1つのシーンを再生中に、別の視点からのシーンに切替えるというマルチアングルという機能が要求されている。これは、例えば、野球のシーンであれば、バックネット側から見た投手、捕手、打者を中心としたアングル、バックネット側から見た内野を中心としたアングル、センター側から見た投手、捕手、打者を中心としたアングルなどいくつかのアングルの中から、ユーザが好きなものをあたかもカメラを切り替えているように、自由に選ぶというようなアプリケーションの要求がある。
DVDでは、このような要求に応えるべく動画像、オーディオ、グラフィックスなどの信号データを記録する方式としてビデオCDと同様のMPEGが使用されている。ビデオCDとDVDとでは、その容量と転送速度および再生装置内の信号処理性能の差から同じMPEG形式といっても、MPEG1とMPEG2という多少異なる圧縮方式、データ形式が採用されている。ただし、MPEG1とMPEG2の内容及びその違いについては、本発明の趣旨とは直接関係しないため説明を省略する(例えば、ISO11172、ISO13818のMPEG規格書参照)。
本発明に掛かるDVDシステムのデータ構造に付いて、図16、図17、図18、図19、及び図20を参照して、後で説明する。
マルチシーン
上述の、パレンタルロック再生及びマルチアングル再生の要求を満たすために、各要求通りの内容のタイトルを其々に用意していれば、ほんの一部分の異なるシーンデータを有する概ね同一内容のタイトルを要求数だけ用意して、記録媒体に記録しておかなければならない。これは、記録媒体の大部分の領域に同一のデータを繰り返し記録することになるので、記録媒体の記憶容量の利用効率を著しく疎外する。さらに、DVDの様な大容量の記録媒体をもってしても、全ての要求に対応するタイトルを記録することは不可能である。この様な問題は、基本的に記録媒体の容量を増やせれば解決するとも言えるが、システムリソースの有効利用の観点から非常に望ましくない。
DVDシステムに於いては、以下にその概略を説明するマルチシーン制御を用いて、多種のバリエーションを有するタイトルを最低必要限度のデータでもって構成し、記録媒体等のシステムリソースの有効活用を可能としている。つまり、様々なバリエーションを有するタイトルを、各タイトル間での共通のデータからなる基本シーン区間と、其々の要求に即した異なるシーン群からなるマルチシーン区間とで構成する。そして、再生時に、ユーザが各マルチシーン区間での特定のシーンを自由、且つ随時に選択できる様にしておく。なお、パレンタルロック再生及びマルチアングル再生を含むマルチシーン制御に関して、後で、図21を参照して説明する。
DVDシステムのデータ構造
図22に、本発明に掛かるDVDシステムに於ける、オーサリングデータのデータ構造を示す。DVDシステムでは、マルチメディアビットストリームMBSを記録する為に、リードイン領域LI、ボリューム領域VSと、リードアウト領域LOに3つに大別される記録領域を備える。
リードイン領域LIは、光ディスクの最内周部に、例えば、図9及び図10で説明したディスクに於いては、そのトラックの内周端部IA及びIBに位置している。リードイン領域LIには、再生装置の読み出し開始時の動作安定用のデータ等が記録される。
リードアウト領域LOは、光ディスクの最外周に、つまり図9及び図10で説明したトラックの外周端部OA及びOBに位置している。このリードアウト領域LOには、ボリューム領域VSが終了したことを示すデータ等が記録される。
ボリューム領域VSは、リードイン領域LIとリードアウト領域LOの間に位置し、2048バイトの論理セクタLSが、n+1個(nは0を含む正の整数)一次元配列として記録される。各論理セクタLSはセクタナンバー(#0、#1、#2、・・#n)で区別される。更に、ボリューム領域VSは、m+1個の論理セクタLS#0〜LS#m(mはnより小さい0を含む正の整数)から形成されるボリューム/ファイル管理領域(Volume and File Structure)VFSと、n−m個の論理セクタLS#m+1〜LS#nから形成されるファイルデータ領域(File-Data Structure)FDSに分別される。このファイルデータ領域FDSは、図1に示すマルチメディアビットストリームMBSに相当する。
ボリューム/ファイル管理領域VFSは、ボリューム領域VSのデータをファイルとして管理する為のファイルシステムであり、ディスク全体の管理に必要なデータの収納に必要なセクタ数m(mはnより小さい自然数)の論理セクタLS#0からLS#mによって形成されている。このボリューム/ファイル管理領域VFSには、例えば、ISO9660、及びISO13346などの規格に従って、ファイルデータ領域FDS内のファイルの情報が記録される。
ファイルデータ領域FDSは、n−m個の論理セクタLS#m+1〜LS#nから構成されており、それぞれ、論理セクタの整数倍(2048×I、Iは所定の整数)のサイズを有するビデオマネージャVMGと、及びk個のビデオタイトルセットVTS#1〜VTS#k(kは、100より小さい自然数)を含む。
ビデオマネージャVMGは、ディスク全体のタイトル管理情報を表す情報を保持すると共に、ボリューム全体の再生制御の設定/変更を行うためのメニューであるボリュームメニューを表す情報を有する。ビデオタイトルセットVTS#k‘は、単にビデオファイルとも呼び、動画、オーディオ、静止画などのデータからなるタイトルを表す。
図16は、図22のビデオタイトルセットVTSの内部構造を示す。ビデオタイトルセットVTSは、ディスク全体の管理情報を表すVTS情報(VTSI)と、マルチメディアビットストリームのシステムストリームであるVTSタイトル用VOBS(VTSTT VOBS)に大別される。先ず、以下にVTS情報について説明した後に、VTSタイトル用VOBSについて説明する。
VTS情報は、主に、VTSI管理テーブル(VTSI MAT)及びVTSPGC情報テーブル(VTS PGCIT)を含む。
VTSI管理テーブルは、ビデオタイトルセットVTSの内部構成及び、ビデオタイトルセットVTS中に含まれる選択可能なオーディオストリームの数、サブピクチャの数およびビデオタイトルセットVTSの格納場所等が記述される。
VTSPGC情報管理テーブルは、再生順を制御するプログラムチェーン(PGC)を表すi個(iは自然数)のPGC情報VTS PGCI#1〜VTS PGCI#Iを記録したテーブルである。各エントリーのPGC情報VTS PGCI#Iは、プログラムチェーンを表す情報であり、j個(jは自然数)のセル再生情報C PBI#1〜C PBI#jから成る。各セル再生情報C PBI#jは、セルの再生順序や再生に関する制御情報を含む。
また、プログラムチェーンPGCとは、タイトルのストーリーを記述する概念であり、セル(後述)の再生順を記述することでタイトルを形成する。上記VTS情報は、例えば、メニューに関する情報の場合には、再生開始時に再生装置内のバッファに格納され、再生の途中でリモコンの「メニュー」キーが押下された時点で再生装置により参照され、例えば#1のトップメニューが表示される。階層メニューの場合は、例えば、プログラムチェーン情報VTS PGCI#1が「メニュー」キー押下により表示されるメインメニューであり、#2から#9がリモコンの「テンキー」の数字に対応するサブメニュー、#10以降がさらに下位層のサブメニューというように構成される。また例えば、#1が「メニュー」キー押下により表示されるトップメニュー、#2以降が「テン」キーの数字に対応して再生される音声ガイダンスというように構成される。
メニュー自体は、このテーブルに指定される複数のプログラムチェーンで表されるので、階層メニューであろうが、音声ガイダンスを含むメニューであろうが、任意の形態のメニューを構成することを可能にしている。
また例えば、映画の場合には、再生開始時に再生装置内のバッファに格納され、PGC内に記述しているセル再生順序を再生装置が参照し、システムストリームを再生する。
ここで言うセルとは、システムストリームの全部または一部であり、再生時のアクセスポイントとして使用される。たとえば、映画の場合は、タイトルを途中で区切っているチャプターとして使用する事ができる。
尚、エントリーされたPGC情報C PBI#jの各々は、セル再生処理情報及び、セル情報テーブルを含む。再生処理情報は、再生時間、繰り返し回数などのセルの再生に必要な処理情報から構成される。ブロックモード(CBM)、セルブロックタイプ(CBT)、シームレス再生フラグ(SPF)、インターリーブブロック配置フラグ(IAF)、STC再設定フラグ(STCDF)、セル再生時間(C PBTM)、シームレスアングル切替フラグ(SACF)、セル先頭VOBU開始アドレス(C FVOBU SA)、及びセル終端VOBU開始アドレス(C LVOBU SA)から成る。
ここで言う、シームレス再生とは、DVDシステムに於いて、映像、音声、副映像等のマルチメディアデータを、各データ及び情報を中断する事無く再生することであり、詳しくは、図23及び図24参照して後で説明する。
ブロックモードCBMは複数のセルが1つの機能ブロックを構成しているか否かを示し、機能ブロックを構成する各セルのセル再生情報は、連続的にPGC情報内に配置され、その先頭に配置されるセル再生情報のCBMには、“ブロックの先頭セル”を示す値、その最後に配置されるセル再生情報のCBMには、“ブロックの最後のセル”を示す値、その間に配置されるセル再生情報のCBMには“ブロック内のセル”を示す値を示す。
セルブロックタイプCBTは、ブロックモードCBMで示したブロックの種類を示すものである。例えばマルチアングル機能を設定する場合には、各アングルの再生に対応するセル情報を、前述したような機能ブロックとして設定し、さらにそのブロックの種類として、各セルのセル再生情報のCBTに“アングル”を示す値を設定する。
シームレス再生フラグSPFは、該セルが前に再生されるセルまたはセルブロックとシームレスに接続して再生するか否かを示すフラグであり、前セルまたは前セルブロックとシームレスに接続して再生する場合には、該セルのセル再生情報のSPFにはフラグ値1を設定する。そうでない場合には、フラグ値0を設定する。
インターリーブアロケーションフラグIAFは、該セルがインターリーブ領域に配置されているか否かを示すフラグであり、インターリーブ領域に配置されている場合には、該セルのインターリーブアロケーションフラグIAFにはフラグ値1を設定する。そうでない場合には、フラグ値0を設定する。
STC再設定フラグSTCDFは、同期をとる際に使用するSTCをセルの再生時に再設定する必要があるかないかの情報であり、再設定が必要な場合にはフラグ値1を設定する。そうでない場合には、フラグ値0を設定する。
シームレスアングルチェンジフラグSACFは、該セルがアングル区間に属しかつ、シームレスに切替える場合、該セルのシームレスアングルチェンジフラグSACFにはフラグ値1を設定する。そうでない場合には、フラグ値0を設定する。
セル再生時間(C PBTM)はセルの再生時間をビデオのフレーム数精度で示している。
C LVOBU SAは、セル終端VOBU開始アドレスを示し、その値はVTSタイトル用VOBS(VTSTT VOBS)の先頭セルの論理セクタからの距離をセクタ数で示している。C FVOBU SAはセル先頭VOBU開始アドレスを示し、VTSタイトル用VOBS(VTSTT VOBS)の先頭セルの論理セクタから距離をセクタ数で示している。
次に、VTSタイトル用VOBS、つまり、1マルチメディアシステムストリームデータVTSTT VOBSに付いて説明する。システムストリームデータVTSTT VOBSは、ビデオオブジェクトVOBと呼ばれるi個(iは自然数)のシステムストリームSSからなる。各ビデオオブジェクトVOB#1〜VOB#iは、少なくとも1つのビデオデータで構成され、場合によっては最大8つのオーディオデータ、最大32の副映像データまでがインターリーブされて構成される。
各ビデオオブジェクトVOBは、q個(qは自然数)のセルC#1〜C#qから成る。各セルCは、r個(rは自然数)のビデオオブジェクトユニットVOBU#1〜VOBU#rから形成される。
各VOBUは、ビデオエンコードのリフレッシュ周期であるGOP(Grope Of Picture)の複数個及び、それに相当する時間のオーディオおよびサブピクチャからなる。また、各VOBUの先頭には、該VOBUの管理情報であるナブパックNVを含む。ナブパックNVの構成については、図19を参照して後述する。
図17に、図25を参照して後述するエンコーダECによってエンコードされたシステムストリームSt35(図25)、つまりビデオゾーンVZ(図22)の内部構造を示す。同図に於いて、ビデオエンコードストリームSt15は、ビデオエンコーダ300によってエンコードされた、圧縮された一次元のビデオデータ列である。オーディオエンコードストリームSt19も、同様に、オーディオエンコーダ700によってエンコードされた、ステレオの左右の各データが圧縮、及び統合された一次元のオーディオデータ列である。また、オーディオデータとしてサラウンド等のマルチチャネルでもよい。
システムストリームSt35は、図22で説明した、2048バイトの容量を有する論理セクタLS#nに相当するバイト数を有するパックが一次元に配列された構造を有している。システムストリームSt35の先頭、つまりVOBUの先頭には、ナビゲーションパックNVと呼ばれる、システムストリーム内のデータ配列等の管理情報を記録した、ストリーム管理パックが配置される。
ビデオエンコードストリームSt15及びオーディオエンコードストリームSt19は、それぞれ、システムストリームのパックに対応するバイト数毎にパケット化される。これらパケットは、図中で、V1、V2、V3、V4、・・、及びA1、A2、・・と表現されている。これらパケットは、ビデオ、オーディオ各データ伸長用のデコーダの処理時間及びデコーダのバッファサイズを考慮して適切な順番に図中のシステムストリームSt35としてインターリーブされ、パケットの配列をなす。例えば、本例ではV1、V2、A1、V3、V4、A2の順番に配列されている。
図17では、一つの動画像データと一つのオーディオデータがインターリーブされた例を示している。しかし、DVDシステムに於いては、記録再生容量が大幅に拡大され、高速の記録再生が実現され、信号処理用LSIの性能向上が図られた結果、一つの動画像データに複数のオディオデータや複数のグラフィックスデータである副映像データが、一つのMPEGシステムストリームとしてインターリーブされた形態で記録され、再生時に複数のオーディオデータや複数の副映像データから選択的な再生を行うことが可能となる。図18に、このようなDVDシステムで利用されるシステムストリームの構造を表す。
図18に於いても、図17と同様に、パケット化されたビデオエンコードストリームSt15は、V1、V2、V3、V4、・・・と表されている。但し、この例では、オーディオエンコードストリームSt19は、一つでは無く、St19A、St19B、及びSt19Cと3列のオーディオデータ列がソースとして入力されている。更に、副画像データ列であるサブピクチャエンコードストリームSt17も、St17A及びSt17Bと二列のデータがソースとして入力されている。これら、合計6列の圧縮データ列が、一つのシステムストリームSt35にインターリーブされる。
ビデオデータはMPEG方式で符号化されており、GOPという単位が圧縮の単位になっており、GOP単位は、標準的にはNTSCの場合、15フレームで1GOPを構成するが、そのフレーム数は可変になっている。インターリーブされたデータ相互の関連などの情報をもつ管理用のデータを表すストリーム管理パックも、ビデオデータを基準とするGOPを単位とする間隔で、インターリーブされる事になり、GOPを構成するフレーム数が変われば、その間隔も変動する事になる。DVDでは、その間隔を再生時間長で、0.4秒から1.0秒の範囲内として、その境界はGOP単位としている。もし、連続する複数のGOPの再生時間が1秒以下であれば、その複数GOPのビデオデータに対して、管理用のデータパックが1つのストリーム中にインターリーブされる事になる。
DVDではこのような、管理用データパックをナブパックNVと呼び、このナブパックNVから、次のナブパックNV直前のパックまでをビデオオブジェクトユニット(以下VOBUと呼ぶ)と呼び、一般的に1つのシーンと定義できる1つの連続した再生単位をビデオオブジェクトと呼び(以下VOBと呼ぶ)、1つ以上のVOBUから構成される事になる。また、VOBが複数集まったデータの集合をVOBセット(以下VOBSと呼ぶ)と呼ぶ。これらは、DVDに於いて初めて採用されたデータ形式である。
このように複数のデータ列がインターリーブされる場合、インターリーブされたデータ相互の関連を示す管理用のデータを表すナビゲーションパックNVも、所定のパック数単位と呼ばれる単位でインターリーブされる必要がある。GOPは、通常12から15フレームの再生時間に相当する約0.5秒のビデオデータをまとめた単位であり、この時間の再生に要するデータパケット数に一つのストリーム管理パケットがインターリーブされると考えられる。
図19は、システムストリームを構成する、インターリーブされたビデオデータ、オーディオデータ、副映像データのパックに含まれるストリーム管理情報を示す説明図である。同図のようにシステムストリーム中の各データは、MPEG2に準拠するパケット化およびパック化された形式で記録される。ビデオ、オーディオ、及び副画像データ共、パケットの構造は、基本的に同じである。DVDシステムに於いては、1パックは、前述の如く2048バイトの容量を有し、PESパケットと呼ばれる1パケットを含み、パックヘッダPKH、パケットヘッダPTH、及びデータ領域から成る。
パックヘッダPKH中には、そのパックが図26におけるストリームバッファ2400からシステムデコーダ2500に転送されるべき時刻、つまりAV同期再生のための基準時刻情報、を示すSCRが記録されている。MPEGに於いては、このSCRをデコーダ全体の基準クロックとすること、を想定しているが、DVDなどのディスクメディアの場合には、個々のプレーヤに於いて閉じた時刻管理で良い為、別途にデコーダ全体の時刻の基準となるクロックを設けている。また、パケットヘッダPTH中には、そのパケットに含まれるビデオデータ或はオーディオデータがデコードされた後に再生出力として出力されるべき時刻を示すPTSや、ビデオストリームがデコードされるべき時刻を示すDTSなどが記録されているPTSおよびDTSは、パケット内にデコード単位であるアクセスユニットの先頭がある場合に置かれ、PTSはアクセスユニットの表示開始時刻を示し、DTSはアクセスユニットのデコード開始時刻を示している。また、PTSとDTSが同時刻の場合、DTSは省略される。
更に、パケットヘッダPTHには、ビデオデータ列を表すビデオパケットであるか、プライベートパケットであるか、MPEGオーディオパケットであるかを示す8ビット長のフィールドであるストリームIDが含まれている。
ここで、プライベートパケットとは、MPEG2の規格上その内容を自由に定義してよいデータであり、本実施形態では、プライベートパケット1を使用してオーディオデータ(MPEGオーディオ以外)および副映像データを搬送し、プライベートパケット2を使用してPCIパケットおよびDSIパケットを搬送している。
プライベートパケット1およびプライベートパケット2はパケットヘッダ、プライベートデータ領域およびデータ領域からなる。プライベートデータ領域には、記録されているデータがオーディオデータであるか副映像データであるかを示す、8ビット長のフィールドを有するサブストリームIDが含まれる。プライベートパケット2で定義されるオーディオデータは、リニアPCM方式、AC−3方式それぞれについて#0〜#7まで最大8種類が設定可能である。また副映像データは、#0〜#31までの最大32種類が設定可能である。
データ領域は、ビデオデータの場合はMPEG2形式の圧縮データ、オーディオデータの場合はリニアPCM方式、AC−3方式又はMPEG方式のデータ、副映像データの場合はランレングス符号化により圧縮されたグラフィックスデータなどが記録されるフィールドである。
また、MPEG2ビデオデータは、その圧縮方法として、固定ビットレート方式(以下「CBR」とも記す)と可変ビットレート方式(以下「VBR」とも記す)が存在する。固定ビットレート方式とは、ビデオストリームが一定レートで連続してビデオバッファへ入力される方式である。これに対して、可変ビットレート方式とは、ビデオストリームが間欠して(断続的に)ビデオバッファへ入力される方式であり、これにより不要な符号量の発生を抑えることが可能である。DVDでは、固定ビットレート方式および可変ビットレート方式とも使用が可能である。MPEGでは、動画像データは、可変長符号化方式で圧縮されるために、GOPのデータ量が一定でない。さらに、動画像とオーディオのデコード時間が異なり、光ディスクから読み出した動画像データとオーディオデータの時間関係とデコーダから出力される動画像データとオーディオデータの時間関係が一致しなくなる。このため、動画像とオーディオの時間的な同期をとる方法を、図26を参照して、後程、詳述するが、一先ず、簡便のため固定ビットレート方式を基に説明をする。
図20に、ナブパックNVの構造を示す。ナブパックNVは、PCIパケットとDSIパケットからなり、先頭にパックヘッダPKHを設けている。PKHには、前述したとおり、そのパックが図26におけるストリームバッファ2400からシステムデコーダ2500に転送されるべき時刻、つまりAV同期再生のための基準時刻情報を示すSCRが記録されている。
PCIパケットは、PCI情報(PCI GI)と非シームレスマルチアングル情報(NSML AGLI)を有している。
PCI情報(PCI GI)には、該VOBUに含まれるビデオデータの先頭ビデオフレーム表示時刻(VOBU S PTM)及び最終ビデオフレーム表示時刻(VOBU E PTM)をシステムクロック精度(90KHz)で記述する。
非シームレスマルチアングル情報(NSML AGLI)には、アングルを切り替えた場合の読み出し開始アドレスをVOB先頭からのセクタ数として記述する。この場合、アングル数は9以下であるため、領域として9アングル分のアドレス記述領域(NSML AGL C1 DSTA〜NSML AGL C9 DSTA)を有す。
DSIパケットにはDSI情報(DSI GI)、シームレス再生情報(SML PBI)およびシームレスマルチアングル再生情報(SML AGLI)を有している。
DSI情報(DSI GI)として該VOBU内の最終パックアドレス(VOBU EA)をVOBU先頭からのセクタ数として記述する。
シームレス再生に関しては後述するが、分岐あるいは結合するタイトルをシームレスに再生するために、連続読み出し単位をILVUとして、システムストリームレベルでインターリーブ(多重化)する必要がある。複数のシステムストリームがILVUを最小単位としてインターリーブ処理されている区間をインターリーブブロックと定義する。
このようにILVUを最小単位としてインターリーブされたストリームをシームレスに再生するために、シームレス再生情報(SML PBI)を記述する。シームレス再生情報(SML PBI)には、該VOBUがインターリーブブロックかどうかを示すインターリーブユニットフラグ(ILVU flag)を記述する。このフラグはインターリーブ領域に(後述)に存在するかを示すものであり、インターリーブ領域に存在する場合”1”を設定する。そうでない場合には、フラグ値0を設定する。
また、該VOBUがインターリーブ領域に存在する場合、該VOBUがILVUの最終VOBUかを示すユニットエンドフラグ(UNIT END Flag)を記述する。ILVUは、連続読み出し単位であるので、現在読み出しているVOBUが、ILVUの最後のVOBUであれば”1”を設定する。そうでない場合には、フラグ値0を設定する。
該VOBUがインターリーブ領域に存在する場合、該VOBUが属するILVUの最終パックのアドレスを示すILVU最終パックアドレス(ILVU EA)を記述する。ここでアドレスとして、該VOBUのNVからのセクタ数で記述する。
また、該VOBUがインターリーブ領域に存在する場合、次のILVUの開始アドレス(NT ILVU SA)を記述する。ここでアドレスとして、該VOBUのNVからのセクタ数で記述する。
また、2つのシステムストリームをシームレスに接続する場合に於いて、特に接続前と接続後のオーディオが連続していない場合(異なるオーディオの場合等)、接続後のビデオとオーディオの同期をとるためにオーディオを一時停止(ポーズ)する必要がある。例えば、NTSCの場合、ビデオのフレーム周期は約33.33msecであり、オーディオAC3のフレーム周期は32msecである。
このためにオーディオを停止する時間および期間情報を示すオーディオ再生停止時刻1(VOBU A STP PTM1)、オーディオ再生停止時刻2(VOBU A STP PTM2)、オーディオ再生停止期間1(VOB A GAP LEN1)、オーディオ再生停止期間2(VOB A GAP LEN2)を記述する。この時間情報はシステムクロック精度(90KHz)で記述される。
また、シームレスマルチアングル再生情報(SML AGLI)として、アングルを切り替えた場合の読み出し開始アドレスを記述する。このフィールドはシームレスマルチアングルの場合に有効なフィールドである。このアドレスは該VOBUのNVからのセクタ数で記述される。また、アングル数は9以下であるため、領域として9アングル分のアドレス記述領域:(SML AGL C1 DSTA〜SML AGL C9 DSTA)を有す。
DVDエンコーダ
図25に、本発明に掛かるマルチメディアビットストリームオーサリングシステムを上述のDVDシステムに適用した場合の、オーサリングエンコーダECDの一実施形態を示す。DVDシステムに適用したオーサリングエンコーダECD(以降、DVDエンコーダと呼称する)は、図2に示したオーサリングエンコーダECに、非常に類似した構成になっている。DVDオーサリングエンコーダECDは、基本的には、オーサリングエンコーダECのビデオゾーンフォーマッタ1300が、VOBバッファ1000とフォーマッタ1100にとって変わられた構造を有している。言うまでもなく、本発明のエンコーダによってエンコードされたビットストリームは、DVD媒体Mに記録される。以下に、DVDオーサリングエンコーダECDの動作をオーサリングエンコーダECと比較しながら説明する。
DVDオーサリングエンコーダECDに於いても、オーサリングエンコーダECと同様に、編集情報作成部100から入力されたユーザーの編集指示内容を表すシナリオデータSt7に基づいて、エンコードシステム制御部200が、各制御信号St9、St11、St13、St21、St23、St25、St33、及びSt39を生成して、ビデオエンコーダ300、サブピクチャエンコーダ500、及びオーディオエンコーダ700を制御する。尚、DVDシステムに於ける編集指示内容とは、図25を参照して説明したオーサリングシステムに於ける編集指示内容と同様に、複数のタイトル内容を含む各ソースデータの全部或いは、其々に対して、所定時間毎に各ソースデータの内容を一つ以上選択し、それらの選択された内容を、所定の方法で接続再生するような情報を含無と共に、更に、以下の情報を含む。つまり、マルチタイトルソースストリームを、所定時間単位毎に分割した編集単位に含まれるストリーム数、各ストリーム内のオーディオ数やサブピクチャ数及びその表示期間等のデータ、パレンタルあるいはマルチアングルなど複数ストリームから選択するか否か、設定されたマルチアングル区間でのシーン間の切り替え接続方法などの情報を含む。
尚、DVDシステムに於いては、シナリオデータSt7には、メディアソースストリームをエンコードするために必要な、VOB単位での制御内容、つまり、マルチアングルであるかどうか、パレンタル制御を可能とするマルチレイティッドタイトルの生成であるか、後述するマルチアングルやパレンタル制御の場合のインターリーブとディスク容量を考慮した各ストリームのエンコード時のビットレート、各制御の開始時間と終了時間、前後のストリームとシームレス接続するか否かの内容が含まれる。エンコードシステム制御部200は、シナリオデータSt7から情報を抽出して、エンコード制御に必要な、エンコード情報テーブル及びエンコードパラメータを生成する。エンコード情報テーブル及びエンコードパラメータについては、後程、図27、図28、及び図29を参照して詳述する。
システムストリームエンコードパラメータデータ及びシステムエンコード開始終了タイミングの信号St33には上述の情報をDVDシステムに適用してVOB生成情報を含む。VOB生成情報として、前後の接続条件、オーディオ数、オーディオのエンコード情報、オーディオID、サブピクチャ数、サブピクチャID、ビデオ表示を開始する時刻情報(VPTS)、オーディオ再生を開始する時刻情報(APTS)等がある。更に、マルチメディア尾ビットストリームMBSのフォーマットパラメータデータ及びフォーマット開始終了タイミングの信号St39は、再生制御情報及びインターリーブ情報を含む。
ビデオエンコーダ300は、ビデオエンコードのためのエンコードパラメータ信号及びエンコード開始終了タイミングの信号St9に基づいて、ビデオストリームSt1の所定の部分をエンコードして、ISO13818に規定されるMPEG2ビデオ規格に準ずるエレメンタリーストリームを生成する。そして、このエレメンタリーストリームをビデオエンコードストリームSt15として、ビデオストリームバッファ400に出力する。
ここで、ビデオエンコーダ300に於いてISO13818に規定されるMPEG2ビデオ規格に準ずるエレメンタリストリームを生成するが、ビデオエンコードパラメータデータを含む信号St9に基に、エンコードパラメータとして、エンコード開始終了タイミング、ビットレート、エンコード開始終了時にエンコード条件、素材の種類として、NTSC信号またはPAL信号あるいはテレシネ素材であるかなどのパラメータ及びオープンGOP或いはクローズドGOPのエンコードモードの設定がエンコードパラメータとしてそれぞれ入力される。
MPEG2の符号化方式は、基本的にフレーム間の相関を利用する符号化である。つまり、符号化対象フレームの前後のフレームを参照して符号化を行う。しかし、エラー伝播およびストリーム途中からのアクセス性の面で、他のフレームを参照しない(イントラフレーム)フレームを挿入する。このイントラフレームを少なくとも1フレームを有する符号化処理単位をGOPと呼ぶ。
このGOPに於いて、完全に該GOP内で符号化が閉じているGOPがクローズドGOPであり、前のGOP内のフレームを参照するフレームが該GOP内に存在する場合、該GOPをオープンGOPと呼ぶ。
従って、クローズドGOPを再生する場合は、該GOPのみで再生できるが、オープンGOPを再生する場合は、一般的に1つ前のGOPが必要である。
また、GOPの単位は、アクセス単位として使用する場合が多い。例えば、タイトルの途中からの再生する場合の再生開始点、映像の切り替わり点、あるいは早送りなどの特殊再生時には、GOP内のフレーム内符号化フレームであるいフレームのみをGOP単位で再生する事により、高速再生を実現する。
サブピクチャエンコーダ500は、サブピクチャストリームエンコード信号St11に基づいて、サブピクチャストリームSt3の所定の部分をエンコードして、ビットマップデータの可変長符号化データを生成する。そして、この可変長符号化データをサブピクチャエンコードストリームSt17として、サブピクチャストリームバッファ600に出力する。
オーディオエンコーダ700は、オーディオエンコード信号St13に基づいて、オーディオストリームSt5の所定の部分をエンコードして、オーディオエンコードデータを生成する。このオーディオエンコードデータとしては、ISO11172に規定されるMPEG1オーディオ規格及びISO13818に規定されるMPEG2オーディオ規格に基づくデータ、また、AC−3オーディオデータ、及びPCM(LPCM)データ等がある。これらのオーディオデータをエンコードする方法及び装置は公知である。
ビデオストリームバッファ400は、ビデオエンコーダ300に接続されており、ビデオエンコーダ300から出力されるビデオエンコードストリームSt15を保存する。ビデオストリームバッファ400は更に、エンコードシステム制御部200に接続されて、タイミング信号St21の入力に基づいて、保存しているビデオエンコードストリームSt15を、調時ビデオエンコードストリームSt27として出力する。
同様に、サブピクチャストリームバッファ600は、サブピクチャエンコーダ500に接続されており、サブピクチャエンコーダ500から出力されるサブピクチャエンコードストリームSt17を保存する。サブピクチャストリームバッファ600は更に、エンコードシステム制御部200に接続されて、タイミング信号St23の入力に基づいて、保存しているサブピクチャエンコードストリームSt17を、調時サブピクチャエンコードストリームSt29として出力する。
また、オーディオストリームバッファ800は、オーディオエンコーダ700に接続されており、オーディオエンコーダ700から出力されるオーディオエンコードストリームSt19を保存する。オーディオストリームバッファ800は更に、エンコードシステム制御部200に接続されて、タイミング信号St25の入力に基づいて、保存しているオーディオエンコードストリームSt19を、調時オーディオエンコードストリームSt31として出力する。
システムエンコーダ900は、ビデオストリームバッファ400、サブピクチャストリームバッファ600、及びオーディオストリームバッファ800に接続されており、調時ビデオエンコードストリームSt27、調時サブピクチャエンコードストリームSt29、及び調時オーディオエンコードSt31が入力される。システムエンコーダ900は、またエンコードシステム制御部200に接続されており、システムエンコードのためのエンコードパラメータデータを含むSt33が入力される。
システムエンコーダ900は、エンコードパラメータデータ及びエンコード開始終了タイミング信号St33に基づいて、各調時ストリームSt27、St29、及びSt31に多重化(マルチプレクス)処理を施して、最小タイトル編集単位(VOBs)St35を生成する。
VOBバッファ1000はシステムエンコーダ900に於いて生成されたVOBを一時格納するバッファ領域であり、フォーマッタ1100では、St39に従ってVOBバッファ1100から調時必要なVOBを読み出し1ビデオゾーンVZを生成する。また、同フォーマッタ1100に於いてはファイルシステム(VFS)を付加してSt43を生成する。
このユーザの要望シナリオの内容に編集された、ストリームSt43は、記録部1200に転送される。記録部1200は、編集マルチメディアビットストリームMBSを記録媒体Mに応じた形式のデータSt43に加工して、記録媒体Mに記録する。
DVDデコーダ
次に、図26を参照して、本発明に掛かるマルチメディアビットストリームオーサリングシステムを上述のDVDシステムに適用した場合の、オーサリングデコーダDCの一実施形態を示す。DVDシステムに適用したオーサリングエンコーダDCD(以降、DVDデコーダと呼称する)は、本発明にかかるDVDエンコーダECDによって、編集されたマルチメディアビットストリームMBSをデコードして、ユーザの要望のシナリオに沿って各タイトルの内容を展開する。なお、本実施形態に於いては、DVDエンコーダECDによってエンコードされたマルチメディアビットストリームSt45は、記録媒体Mに記録されている。DVDオーサリングデコーダDCDの基本的な構成は図3に示すオーサリングデコーダDCと同一であり、ビデオデコーダ3800がビデオデコーダ3801に替わると共に、ビデオデコーダ3801と合成部3500の間にリオーダバッファ3300と切替器3400が挿入されている。なお、切替器3400は同期制御部2900に接続されて、切替指示信号St103の入力を受けている。
DVDオーサリングデコーダDCDは、マルチメディアビットストリーム再生部2000、シナリオ選択部2100、デコードシステム制御部2300、ストリームバッファ2400、システムデコーダ2500、ビデオバッファ2600、サブピクチャバッファ2700、オーディオバッファ2800、同期制御部2900、ビデオデコーダ3801、リオーダバッファ3300、サブピクチャデコーダ3100、オーディオデコーダ3200、セレクタ3400、合成部3500、ビデオデータ出力端子3600、及びオーディオデータ出力端子3700から構成されている。
マルチメディアビットストリーム再生部2000は、記録媒体Mを駆動させる記録媒体駆動ユニット2004、記録媒体Mに記録されている情報を読み取り二値の読み取り信号St57を生成する読取ヘッドユニット2006、読み取り信号ST57に種々の処理を施して再生ビットストリームSt61を生成する信号処理部2008、及び機構制御部2002から構成される。機構制御部2002は、デコードシステム制御部2300に接続されて、マルチメディアビットストリーム再生指示信号St53を受けて、それぞれ記録媒体駆動ユニット(モータ)2004及び信号処理部2008をそれぞれ制御する再生制御信号St55及びSt59を生成する。
デコーダDCは、オーサリングエンコーダECで編集されたマルチメディアタイトルの映像、サブピクチャ、及び音声に関する、ユーザの所望の部分が再生されるように、対応するシナリオを選択して再生するように、オーサリングデコーダDCに指示を与えるシナリオデータとして出力できるシナリオ選択部2100を備えている。
シナリオ選択部2100は、好ましくは、キーボード及びCPU等で構成される。ユーザーは、オーサリングエンコーダECで入力されたシナリオの内容に基づいて、所望のシナリオをキーボード部を操作して入力する。CPUは、キーボード入力に基づいて、選択されたシナリオを指示するシナリオ選択データSt51を生成する。シナリオ選択部2100は、例えば、赤外線通信装置等によって、デコードシステム制御部2300に接続されて、生成したシナリオ選択信号St51をデコードシステム制御部2300に入力する。
ストリームバッファ2400は所定のバッファ容量を有し、マルチメディアビットストリーム再生部2000から入力される再生信号ビットストリームSt61を一時的に保存すると共に、ボリュームファイルストラクチャVFS、各パックに存在する同期初期値データ(SCR)、及びナブパックNV存在するVOBU制御情報(DSI)を抽出してストリーム制御データSt63を生成する。
デコードシステム制御部2300は、デコードシステム制御部2300で生成されたシナリオ選択データSt51に基づいてマルチメディアビットストリーム再生部2000の動作を制御する再生指示信号St53を生成する。デコードシステム制御部2300は、更に、シナリオデータSt53からユーザの再生指示情報を抽出して、デコード制御に必要な、デコード情報テーブルを生成する。デコード情報テーブルについては、後程、図47、及び図48を参照して詳述する。更に、デコードシステム制御部2300は、ストリーム再生データSt63中のファイルデータ領域FDS情報から、ビデオマネージャVMG、VTS情報VTSI、PGC情報C PBI#j、セル再生時間(C PBTM)等の光ディスクMに記録されたタイトル情報を抽出してタイトル情報St200を生成する。
ここで、ストリーム制御データSt63は図19におけるパック単位に生成される。ストリームバッファ2400は、デコードシステム制御部2300に接続されており、生成したストリーム制御データSt63をデコードシステム制御部2300に供給する。
同期制御部2900は、デコードシステム制御部2300に接続されて、同期再生データSt81に含まれる同期初期値データ(SCR)を受け取り、内部のシステムクロック(STC)セットし、リセットされたシステムクロックSt79をデコードシステム制御部2300に供給する。
デコードシステム制御部2300は、システムクロックSt79に基づいて、所定の間隔でストリーム読出信号St65を生成し、ストリームバッファ2400に入力する。この場合の読み出し単位はパックである。
ここでストリーム読み出し信号St65の生成方法について説明する。デコードシステム制御部2300では、ストリームバッファ2400から抽出したストリーム制御データ中のSCRと、同期制御部2900からのシステムクロックSt79を比較し、St63中のSCRよりもシステムクロックSt79が大きくなった時点で読み出し要求信号St65を生成する。このような制御をパック単位に行うことで、パック転送を制御する。
デコードシステム制御部2300は、更に、シナリオ選択データSt51に基づき、選択されたシナリオに対応するビデオ、サブピクチャ、オーディオの各ストリームのIDを示すデコードストリーム指示信号St69を生成して、システムデコーダ2500に出力する。
タイトル中に、例えば日本語、英語、フランス語等、言語別のオーディオ等の複数のオーディオデータ、及び、日本語字幕、英語字幕、フランス語字幕等、言語別の字幕等の複数のサブピクチャデータが存在する場合、それぞれにIDが付与されている。つまり、図19を参照して説明したように、ビデオデータ及び、MPEGオーディオデータには、ストリームIDが付与され、サブピクチャデータ、AC3方式のオーディオデータ、リニアPCM及びナブパックNV情報には、サブストリームIDが付与されている。ユーザはIDを意識することはないが、どの言語のオーディオあるいは字幕を選択するかをシナリオ選択部2100で選択する。英語のオーディオを選択すれば、シナリオ選択データSt51として英語のオーディオに対応するIDがデーコードシステム制御部2300に搬送される。さらに、デコードシステム制御部2300はシステムデコーダ2500にそのIDをSt69上に搬送して渡す。
システムデコーダ2500は、ストリームバッファ2400から入力されてくるビデオ、サブピクチャ、及びオーディオのストリームを、デコード指示信号St69の指示に基づいて、それぞれ、ビデオエンコードストリームSt71としてビデオバッファ2600に、サブピクチャエンコードストリームSt73としてサブピクチャバッファ2700に、及びオーディオエンコードストリームSt75としてオーディオバッファ2800に出力する。つまり、システムデコーダ2500は、シナリオ選択部2100より入力される、ストリームのIDと、ストリームバッファ2400から転送されるパックのIDが一致した場合にそれぞれのバッファ(ビデオバッファ2600、サブピクチャバッファ2700、オーディオバッファ2800)に該パックを転送する。
システムデコーダ2500は、各ストリームSt67の各最小制御単位での再生開始時間(PTS)及び再生終了時間(DTS)を検出し、時間情報信号St77を生成する。この時間情報信号St77は、デコードシステム制御部2300を経由して、St81として同期制御部2900に入力される。
同期制御部2900は、この時間情報信号St81に基づいて、各ストリームについて、それぞれがデコード後に所定の順番になるようなデコード開始タイミングを決定する。同期制御部2900は、このデコードタイミングに基づいて、ビデオストリームデコード開始信号St89を生成し、ビデオデコーダ3801に入力する。同様に、同期制御部2900は、サブピクチャデコード開始信号St91及びオーディオエンコード開始信号St93を生成し、サブピクチャデコーダ3100及びオーディオデコーダ3200にそれぞれ入力する。
ビデオデコーダ3801は、ビデオストリームデコード開始信号St89に基づいて、ビデオ出力要求信号St84を生成して、ビデオバッファ2600に対して出力する。ビデオバッファ2600はビデオ出力要求信号St84を受けて、ビデオストリームSt83をビデオデコーダ3801に出力する。ビデオデコーダ3801は、ビデオストリームSt83に含まれる再生時間情報を検出し、再生時間に相当する量のビデオストリームSt83の入力を受けた時点で、ビデオ出力要求言号St84を無効にする。このようにして、所定再生時間に相当するビデオストリームがビデオデコーダ3801でデコードされて、再生されたビデオ信号St95がリオーダーバッファ3300と切替器3400に出力される。
ビデオエンコードストリームは、フレーム間相関を利用した符号化であるため、フレーム単位でみた場合、表示順と符号化ストリーム順が一致していない。従って、デコード順に表示できるわけではない。そのため、デコードを終了したフレームを一時リオーダバッファ3300に格納する。同期制御部2900に於いて表示順になるようにSt103を制御しビデオデコーダ3801の出力St95と、リオーダバッファSt97の出力を切り替え、合成部3500に出力する。
同様に、サブピクチャデコーダ3100は、サブピクチャデコード開始信号St91に基づいて、サブピクチャ出力要求信号St86を生成し、サブピクチャバッファ2700に供給する。サブピクチャバッファ2700は、ビデオ出力要求信号St84を受けて、サブピクチャストリームSt85をサブピクチャデコーダ3100に出力する。サブピクチャデコーダ3100は、サブピクチャストリームSt85に含まれる再生時間情報に基づいて、所定の再生時間に相当する量のサブピクチャストリームSt85をデコードして、サブピクチャ信号St99を再生して、合成部3500に出力する。
合成部3500は、セレクタ3400の出力及びサブピクチャ信号St99を重畳させて、映像信号St105を生成し、ビデオ出力端子3600に出力する。
オーディオデコーダ3200は、オーディオデコード開始信号St93に基づいて、オーディオ出力要求信号St88を生成し、オーディオバッファ2800に供給する。オーディオバッファ2800は、オーディオ出力要求信号St88を受けて、オーディオストリームSt87をオーディオデコーダ3200に出力する。オーディオデコーダ3200は、オーディオストリームSt87に含まれる再生時間情報に基づいて、所定の再生時間に相当する量のオーディオストリームSt87をデコードして、オーディオ出力端子3700に出力する。
このようにして、ユーザのシナリオ選択に応答して、リアルタイムにユーザの要望するマルチメディアビットストリームMBSを再生する事ができる。つまり、ユーザが異なるシナリオを選択する度に、オーサリングデコーダDCDはその選択されたシナリオに対応するマルチメディアビットストリームMBSを再生することによって、ユーザの要望するタイトル内容を再生することができる。
尚、デコードシステム制御部2300は、前述の赤外線通信装置等を経由して、シナリオ選択部2100にタイトル情報信号St200を供給してもよい。シナリオ選択部2100は、タイトル情報信号St200に含まれるストリーム再生データSt63中のファイルデータ領域FDS情報から、光ディスクMに記録されたタイトル情報を抽出して、内蔵ディスプレイに表示することにより、インタラクティブなユーザによるシナリオ選択を可能とする。
また、上述の例では、ストリームバッファ2400、ビデオバッファ2600、サブピクチャバッファ2700、及びオーディオバッファ2800、及びリオーダバッファ3300は、機能的に異なるので、それぞれ別のバッファとして表されている。しかし、これらのバッファに於いて要求される読込み及び読み出し速度の数倍の動作速度を有するバッファメモリを時分割で使用することにより、一つのバッファメモリをこれら個別のバッファとして機能させることができる。
マルチシーン
図21を用いて、本発明に於けるマルチシーン制御の概念を説明する。既に、上述したように、各タイトル間での共通のデータからなる基本シーン区間と、其々の要求に即した異なるシーン群からなるマルチシーン区間とで構成される。同図に於いて、シーン1、シーン5、及びシーン8が共通シーンである。共通シーン1とシーン5の間のアングルシーン及び、共通シーン5とシーン8の間のパレンタルシーンがマルチシーン区間である。マルチアングル区間に於いては、異なるアングル、つまりアングル1、アングル2、及びアングル3、から撮影されたシーンの何れかを、再生中に動的に選択再生できる。パレンタル区間に於いては、異なる内容のデータに対応するシーン6及びシーン7の何れかをあらかじめ静的に選択再生できる。
このようなマルチシーン区間のどのシーンを選択して再生するかというシナリオ内容を、ユーザはシナリオ選択部2100にて入力してシナリオ選択データSt51として生成する。図中に於いて、シナリオ1では、任意のアングルシーンを自由に選択し、パレンタル区間では予め選択したシーン6を再生することを表している。同様に、シナリオ2では、アングル区間では、自由にシーンを選択でき、パレンタル区間では、シーン7が予め選択されていることを表している。
以下に、図21で示したマルチシーンをDVDのデータ構造を用いた場合の、PGC情報VTS PGCIについて、図30、及び図31を参照して説明する。
図30には、図21に示したユーザ指示のシナリオを図16のDVDデータ構造内のビデオタイトルセットの内部構造を表すVTSIデータ構造で記述した場合について示す。図において、図21のシナリオ1、シナリオ2は、図16のVTSI中のプログラムチェーン情報VTS PGCIT内の2つプログラムチェーンVTS PGCI#1とVTS PGCI#2として記述される。すなわち、シナリオ1を記述するVTS PGCI#1は、シーン1に相当するセル再生情報C PBI#1、マルチアングルシーンに相当するマルチアングルセルブロック内のセル再生情報C PBI#2,セル再生情報C PBI#3,セル再生情報C PBI#4、シーン5に相当するセル再生情報C PBI#5、シーン6に相当するセル再生情報C PBI#6、シーン8に相当するC PBI#7からなる。
また、シナリオ2を記述するVTS PGC#2は、シーン1に相当するセル再生情報C PBI#1、マルチアングルシーンに相当するマルチアングルセルブロック内のセル再生情報C PBI#2,セル再生情報C PBI#3,セル再生情報C PBI#4、シーン5に相当するセル再生情報C PBI#5、シーン7に相当するセル再生情報C PBI#6、シーン8に相当するC PBI#7からなる。DVDデータ構造では、シナリオの1つの再生制御の単位であるシーンをセルというDVDデータ構造上の単位に置き換えて記述し、ユーザの指示するシナリオをDVD上で実現している。
図31には、図21に示したユーザ指示のシナリオを図16のDVDデータ構造内のビデオタイトルセット用のマルチメディアビットストリームであるVOBデータ構造VTSTT VOBSで記述した場合について示す。
図において、図21のシナリオ1とシナリオ2の2つのシナリオは、1つのタイトル用VOBデータを共通に使用する事になる。各シナリオで共有する単独のシーンはシーン1に相当するVOB#1、シーン5に相当するVOB#5、シーン8に相当するVOB#8は、単独のVOBとして、インターリーブブロックではない部分、すなわち連続ブロックに配置される。
シナリオ1とシナリオ2で共有するマルチアングルシーンにおいて、それぞれアングル1はVOB#2、アングル2はVOB#3、アングル3はVOB#4で構成、つまり1アングルを1VOBで構成し、さらに各アングル間の切り替えと各アングルのシームレス再生のために、インターリーブブロックとする。
また、シナリオ1とシナリオ2で固有なシーンであるシーン6とシーン7は、各シーンのシームレス再生はもちろんの事、前後の共通シーンとシームレスに接続再生するために、インターリーブブロックとする。
以上のように、図21で示したユーザ指示のシナリオは、DVDデータ構造において、図30に示すビデオタイトルセットの再生制御情報と図31に示すタイトル再生用VOBデータ構造で実現できる。
シームレス
上述のDVDシステムのデータ構造に関連して述べたシームレス再生について説明する。シームレス再生とは、共通シーン区間同士で、共通シーン区間とマルチシーン区間とで、及びマルチシーン区間同士で、映像、音声、副映像等のマルチメディアデータを、接続して再生する際に、各データ及び情報を中断する事無く再生することである。このデータ及び情報再生の中断の要因としては、ハードウェアに関連するものとして、デコーダに於いて、ソースデータ入力される速度と、入力されたソースデータをデコードする速度のバランスがくずれる、いわゆるデコーダのアンダーフローと呼ばれるものがある。
更に、再生されるデータの特質に関するものとして、再生データが音声のように、その内容或いは情報をユーザが理解する為には、一定時間単位以上の連続再生を要求されるデータの再生に関して、その要求される連続再生時間を確保出来ない場合に情報の連続性が失われるものがある。このような情報の連続性を確保して再生する事を連続情報再生と、更にシームレス情報再生と呼ぶ。また、情報の連続性を確保出来ない再生を非連続情報再生と呼び、更に非シームレス情報再生と呼ぶ。尚、言うまでまでもなく連続情報再生と非連続情報再生は、それぞれシームレス及び非シームレス再生である。
上述の如く、シームレス再生には、バッファのアンダーフロー等によって物理的にデータ再生に空白あるいは中断の発生を防ぐシームレスデータ再生と、データ再生自体には中断は無いものの、ユーザーが再生データから情報を認識する際に情報の中断を感じるのを防ぐシームレス情報再生と定義する。
シームレスの詳細
なお、このようにシームレス再生を可能にする具体的な方法については、図23及び図24参照して後で詳しく説明する。
インターリーブ
上述のDVDデータのシステムストリームをオーサリングエンコーダECを用いて、DVD媒体上の映画のようなタイトルを記録する。しかし、同一の映画を複数の異なる文化圏或いは国に於いても利用できるような形態で提供するには、台詞を各国の言語毎に記録するのは当然として、さらに各文化圏の倫理的要求に応じて内容を編集して記録する必要がある。このような場合、元のタイトルから編集された複数のタイトルを1枚の媒体に記録するには、DVDという大容量システムに於いてさえも、ビットレートを落とさなければならず、高画質という要求が満たせなくなってしまう。そこで、共通部分を複数のタイトルで共有し、異なる部分のみをそれぞれのタイトル毎に記録するという方法をとる。これにより、ビットレートをおとさず、1枚の光ディスクに、国別あるいは文化圏別の複数のタイトルを記録する事ができる。
1枚の光ディスクに記録されるタイトルは、図21に示したように、パレンタルロック制御やマルチアングル制御を可能にするために、共通部分(シーン)と非共通部分(シーン)のを有するマルチシーン区間を有する。
パレンタルロック制御の場合は、一つのタイトル中に、性的シーン、暴力的シーン等の子供に相応しくない所謂成人向けシーンが含まれている場合、このタイトルは共通のシーンと、成人向けシーンと、未成年向けシーンから構成される。このようなタイトルストリームは、成人向けシーンと非成人向けシーンを、共通シーン間に、設けたマルチシーン区間として配置して実現する。
また、マルチアングル制御を通常の単一アングルタイトル内に実現する場合には、それぞれ所定のカメラアングルで対象物を撮影して得られる複数のマルチメディアシーンをマルチシーン区間として、共通シーン間に配置する事で実現する。ここで、各シーンは異なるアングルで撮影されたシーンの例を上げている、同一のアングルであるが、異なる時間に撮影されたシーンであっても良いし、またコンピュータグラフィックス等のデータであっても良い。
複数のタイトルでデータを共有すると、必然的に、データの共有部分から非共有部分への光ビームLSを移動させるために、光学ピックアップを光ディスク(RC1)上の異なる位置に移動することになる。この移動に要する時間が原因となって音や映像を途切れずに再生する事、すなわちシームレス再生が困難であるという問題が生じる。このような問題点を解決するするには、理論的には最悪のアクセス時間に相当する時間分のトラックバッファ(ストリームバッファ2400)を備えれば良い。一般に、光ディスクに記録されているデータは、光ピックアップにより読み取られ、所定の信号処理が施された後、データとしてトラックバッファに一旦蓄積される。蓄積されたデータは、その後デコードされて、ビデオデータあるいはオーディオデータとして再生される。
インターリーブの定義
前述のような、あるシーンをカットする事や、複数のシーンから選択を可能にするには、記録媒体のトラック上に、各シーンに属するデータ単位で、互いに連続した配置で記録されるため、共通シーンデータと選択シーンデータとの間に非選択シーンのデータが割り込んで記録される事態が必然的におこる。このような場合、記録されている順序にデータを読むと、選択したシーンのデータにアクセスしてデコードする前に、非選択シーンのデータにアクセスせざるを得ないので、選択したシーンへのシームレス接続が困難である。しかしながら、DVDシステムに於いては、その記録媒体に対する優れたランダムアクセス性能を活かして、このような複数シーン間でのシームレス接続が可能である。つまり、各シーンに属するデータを、所定のデータ量を有する複数の単位に分割し、これらの異なるシーンの属する複数の分割データ単位を、互いに所定の順番に配置することで、ジャンプ性能範囲に配置する事で、それぞれ選択されたシーンの属するデータを分割単位毎に、断続的にアクセスしてデコードすることによって、その選択されたシーンをデータが途切れる事なく再生する事ができる。つまり、シームレスデータ再生が保証される。
インターリーブブロック、ユニット構造
図24及び図65を参照して、シームレスデータ再生を可能にするインターリーブ方式を説明する。図24では、1つのVOB(VOB−A)から複数のVOB(VOB−B、VOB−D、VOB−C)へ分岐再生し、その後1つのVOB(VOB−E)に結合する場合を示している。図65では、これらのデータをディスク上のトラックTRに実際に配置した場合を示している。
図65に於ける、VOB−AとVOB−Eは再生の開始点と終了点が単独なビデオオブジェクトであり、原則として連続領域に配置する。また、図24に示すように、VOB−B、VOB−C、VOB−Dについては、再生の開始点、終了点を一致させて、インターリーブ処理を行う。そして、そのインターリーブ処理された領域をディスク上の連続領域にインターリーブ領域として配置する。さらに、上記連続領域とインターリーブ領域を再生の順番に、つまりトラックパスDrの方向に、配置している。複数のVOB、すなわちVOBSをトラックTR上に配置した図を図65に示す。
図65では、データが連続的に配置されたデータ領域をブロックとし、そのブロックは、前述の開始点と終了点が単独で完結しているVOBを連続して配置している連続ブロック、開始点と終了点を一致させて、その複数のVOBをインターリーブしたインターリーブブロックの2種類である。それらのブロックが再生順に、図66に示すように、ブロック1、ブロック2、ブロック3、・・・、ブロック7と配置されている構造をもつ。
図66に於いて、VTSTT VOBSは、ブロック1、2、3、4、5、6、及び7から構成されている。ブロック1には、VOB1が単独で配置されている。同様に、ブロック2、3、5、及び7には、それぞれ、VOB2、3、6、及び10が単独で配置されている。つまり、これらのブロック2、3、5、及び7は、連続ブロックである。
一方、ブロック4には、VOB4とVOB5がインターリーブされて配置されている。同様に、ブロック6には、VOB7、VOB8、及びVOB9の三つのVOBがインターリーブされて配置されている。つまり、これらのブロック4及び6は、インターリーブブロックである。
図67に連続ブロック内のデータ構造を示す。同図に於いて、VOBSにVOB−i、VOB−jが連続ブロックとして、配置されている。連続ブロック内のVOB−i及びVOB−jは、図16を参照して説明したように、更に論理的な再生単位であるセルに分割されている。図ではVOB−i及びVOB−jのそれぞれが、3つのセルCELL#1、CELL#2、CELL#3で構成されている事を示している。セルは1つ以上のVOBUで構成されており、VOBUの単位で、その境界が定義されている。セルはDVDの再生制御情報であるプログラムチェーン(以下PGCと呼ぶ)には、図16に示すように、その位置情報が記述される。つまり、セル開始のVOBUと終了のVOBUのアドレスが記述されている。図67に明示されるように、連続ブロックは、連続的に再生されるように、VOBもその中で定義されるセルも連続領域に記録される。そのため、連続ブロックの再生は問題はない。
次に、図68にインターリーブブロック内のデータ構造を示す。インターリーブブロックでは、各VOBがインターリーブユニットILVU単位に分割され、各VOBに属するインターリーブユニットが交互に配置される。そして、そのインターリーブユニットとは独立して、セル境界が定義される。同図に於いて、VOB−kは四つのインターリーブユニットILVUk1、ILVUk2、ILVUk3、及びILVUk4に分割されると共に、二つのセルCELL#1k、及びCELL#2kが定義されている。同様に、VOB−mはILVUm1、ILVUm2、ILVUm3、及びILVUm4に分割されると共に、二つのセルCELL#1m、及びCELL#2mが定義されている。つまり、インターリーブユニットILVUには、ビデオデータとオーディオデータが含まれている。
図68の例では、二つの異なるVOB−kとVOB−mの各インターリーブユニットILVUk1、ILVUk2、ILVUk3、及びILVUk4とILVUm1、ILVUm2、ILVUm3、及びILVUm4がインターリーブブロック内に交互に配置されている。二つのVOBの各インターリーブユニットILVUを、このような配列にインターリーブする事で、単独のシーンから複数のシーンの1つへ分岐、さらにそれらの複数シーンの1つから単独のシーンへのシームレスな再生が実現できる。このようにインターリーブすることで、多くの場合の分岐結合のあるシーンのシームレス再生可能な接続を行う事ができる。
マルチシーン
ここで、本発明に基づく、マルチシーン制御の概念を説明すると共にマルチシーン区間に付いて説明する。
異なるアングルで撮影されたシーンから構成される例が挙げている。しかし、マルチシーンの各シーンは、同一のアングルであるが、異なる時間に撮影されたシーンであっても良いし、またコンピュータグラフィックス等のデータであっても良い。言い換えれば、マルチアングルシーン区間は、マルチシーン区間である。
パレンタル
図15を参照して、パレンタルロックおよびディレクターズカットなどの複数タイトルの概念を説明する。
図15にパレンタルロックに基づくマルチレイティッドタイトルストリームの一例を示す。一つのタイトル中に、性的シーン、暴力的シーン等の子供に相応しくない所謂成人向けシーンが含まれている場合、このタイトルは共通のシステムストリームSSa、SSb、及びSSeと、成人向けシーンを含む成人向けシステムストリームSScと、未成年向けシーンのみを含む非成人向けシステムストリームSSdから構成される。このようなタイトルストリームは、成人向けシステムストリームSScと非成人向けシステムストリームSSdを、共通システムストリームSSbとSSeの間に、設けたマルチシーン区間にマルチシーンシステムストリームとして配置する。
上述の用に構成されたタイトルストリームのプログラムチェーンPGCに記述されるシステムストリームと各タイトルとの関係を説明する。成人向タイトルのプログラムチェーンPGC1には、共通のシステムストリームSSa、SSb、成人向けシステムストリームSSc及び、共通システムストリームSSeが順番に記述される。未成年向タイトルのプログラムチェーンPGC2には、共通のシステムストリームSSa、SSb、未成年向けシステムストリームSSd及び、共通システムストリームSSeが順番に記述される。
このように、成人向けシステムストリームSScと未成年向けシステムストリームSSdをマルチシーンとして配列することにより、各PGCの記述に基づき、上述のデコーディング方法で、共通のシステムストリームSSa及びSSbを再生したのち、マルチシーン区間で成人向けSScを選択して再生し、更に、共通のシステムストリームSSeを再生することで、成人向けの内容を有するタイトルを再生できる。また、一方、マルチシーン区間で、未成年向けシステムストリームSSdを選択して再生することで、成人向けシーンを含まない、未成年向けのタイトルを再生することができる。このように、タイトルストリームに、複数の代替えシーンからなるマルチシーン区間を用意しておき、事前に該マルチ区間のシーンのうちで再生するシーンを選択しておき、その選択内容に従って、基本的に同一のタイトルシーンから異なるシーンを有する複数のタイトルを生成する方法を、パレンタルロックという。
なお、パレンタルロックは、未成年保護と言う観点からの要求に基づいて、パレンタルロックと呼ばれるが、システムストリーム処理の観点は、上述の如く、マルチシーン区間での特定のシーンをユーザが予め選択することにより、静的に異なるタイトルストリーム生成する技術である。一方、マルチアングルは、タイトル再生中に、ユーザが随時且つ自由に、マルチシーン区間のシーンを選択することにより、同一のタイトルの内容を動的に変化させる技術である。
また、パレンタルロック技術を用いて、いわゆるディレクターズカットと呼ばれるタイトルストリーム編集も可能である。ディレクターズカットとは、映画等で再生時間の長いタイトルを、飛行機内で供さる場合には、劇場での再生と異なり、飛行時間によっては、タイトルを最後まで再生できない。このような事態にさけて、予めタイトル制作責任者、つまりディレクターの判断で、タイトル再生時間短縮の為に、カットしても良いシーンを定めておき、そのようなカットシーンを含むシステムストリームと、シーンカットされていないシステムストリームをマルチシーン区間に配置しておくことによって、制作者の意志に沿っシーンカット編集が可能となる。このようなパレンタル制御では、システムストリームからシステムストリームへのつなぎ目に於いて、再生画像をなめらかに矛盾なくつなぐ事、すなわちビデオ、オーディオなどバッファがアンダーフローしないシームレスデータ再生と再生映像、再生オーディオが視聴覚上、不自然でなくまた中断する事なく再生するシームレス情報再生が必要になる。
マルチアングル
図33を参照して、本発明に於けるマルチアングル制御の概念を説明する。通常、マルチメディアタイトルは、対象物を時間Tの経過と共に録音及び撮影(以降、単に撮影と言う)して得られる。#SC1、#SM1、#SM2、#SM3、及び#SC3の各ブロックは、それぞれ所定のカメラアングルで対象物を撮影して得られる撮影単位時間T1、T2、及びT3に得られるマルチメディアシーンを代表している。シーン#SM1、#SM2、及び#SM3は、撮影単位時間T2にそれぞれ異なる複数(第一、第二、及び第三)のカメラアングルで撮影されたシーンであり、以降、第一、第二、及び第三マルチアングルシーンと呼ぶ。
ここでは、マルチシーンが、異なるアングルで撮影されたシーンから構成される例が挙げられている。しかし、マルチシーンの各シーンは、同一のアングルであるが、異なる時間に撮影されたシーンであっても良いし、またコンピュータグラフィックス等のデータであっても良い。言い換えれば、マルチアングルシーン区間は、マルチシーン区間であり、その区間のデータは、実際に異なるカメラアングルで得られたシーンデータに限るものでは無く、その表示時間が同一の期間にある複数のシーンを選択的に再生できるようなデータから成る区間である。
シーン#SC1と#SC3は、それぞれ、撮影単位時間T1及びT3に、つまりマルチアングルシーンの前後に、同一の基本のカメラアングルで撮影されたシーンあり、以降、基本アングルシーンと呼ぶ。通常、マルチアングルの内一つは、基本カメラアングルと同一である。
これらのアングルシーンの関係を分かりやすくするために、野球の中継放送を例に説明する。基本アングルシーン#SC1及び#SC3は、センター側から見た投手、捕手、打者を中心とした基本カメラアングルにて撮影されたものである。第一マルチアングルシーン#SM1は、バックネット側から見た投手、捕手、打者を中心とした第一マルチカメラアングルにて撮影されたものである。第二マルチアングルシーン#SM2は、センター側から見た投手、捕手、打者を中心とした第二マルチカメラアングル、つまり基本カメラアングルにて撮影されたものである。この意味で、第二マルチアンダルシーン#SM2は、撮影単位時間T2に於ける基本アングルシーン#SC2である。第三マルチアングルシーン#SM3は、バックネット側から見た内野を中心とした第三マルチカメラアングルにて撮影されたものである。
マルチアングルシーン#SM1、#SM2、及び#SM3は、撮影単位時間T2に関して、表示(presentation)時間が重複しており、この期間をマルチアングル区間と呼ぶ。視聴者は、マルチアングル区間に於いて、このマルチアングルシーン#SM1、#SM2、及び#SM3を自由に選択することによって、基本アングルシーンから、好みのアングルシーン映像をあたかもカメラを切り替えているように楽しむことができる。なお、図中では、基本アングルシーン#SC1及び#SC3と、各マルチアングルシーン#SM1、#SM2、及び#SM3間に、時間的ギャップがあるように見えるが、これはマルチアングルシーンのどれを選択するかによって、再生されるシーンの経路がどのようになるかを分かりやすく、矢印を用いて示すためであって、実際には時間的ギャップが無いことは言うまでもない。
図23に、本発明に基づくシステムストリームのマルチアングル制御を、データの接続の観点から説明する。基本アングルシーン#SCに対応するマルチメディアデータを、基本アングルデータBAとし、撮影単位時間T1及びT3に於ける基本アングルデータBAをそれぞれBA1及びBA3とする。マルチアングルシーン#SM1、#SM2、及び#SM3に対応するマルチアングルデータを、それぞれ、第一、第二、及び第三マルチアングルデータMA1、MA2、及びMA3と表している。先に、図33を参照して、説明したように、マルチアングルシーンデータMA1、MA2、及びMA3の何れかを選択することによって、好みのアングルシーン映像を切り替えて楽しむことができる。また、同様に、基本アングルシーンデータBA1及びBA3と、各マルチアングルシーンデータMA1、MA2、及びMA3との間には、時間的ギャップは無い。
しかしながら、MPEGシステムストリームの場合、各マルチアングルデータMA1、MA2、及びMA3の内の任意のデータと、先行基本アングルデータBA1からの接続と、または後続基本アングルデータBA3への接続時は、接続されるアングルデータの内容によっては、再生されるデータ間で、再生情報に不連続が生じて、一本のタイトルとして自然に再生できない場合がある。つまり、この場合、シームレスデータ再生であるが、非シームレス情報再生である。
以下に、図23をDVDシステムに於けるマルチシーン区間内での、複数のシーンを選択的に再生して、前後のシーンに接続するシームレス情報再生であるマルチアングル切替について説明する。
アングルシーン映像の切り替え、つまりマルチアングルシーンデータMA1、MA2、及びMA3の内一つを選択することが、先行する基本アングルデータBA1の再生終了前までに完了されてなけらばならない。例えば、アングルシーンデータBA1の再生中に別のマルチアングルシーンデータMA2に切り替えることは、非常に困難である。これは、マルチメディアデータは、可変長符号化方式のMPEGのデータ構造を有するので、切り替え先のデータの途中で、データの切れ目を見つけるのが困難であり、また、符号化処理にフレーム間相関を利用しているためアングルの切換時に映像が乱れる可能性がある。MPEGに於いては、少なくとも1フレームのリフレッシュフレームを有する処理単位としてGOPが定義されている。このGOPという処理単位に於いては他のGOPに属するフレームを参照しないクローズドな処理が可能である。
言い換えれば、再生がマルチアングル区間に達する前には、遅くとも、先行基本アングルデータBA1の再生が終わった時点で、任意のマルチアングルデータ、例えばMA3、を選択すれば、この選択されたマルチアングルデータはシームレスに再生できる。しかし、マルチアングルデータの再生の途中に、他のマルチアングルシーンデータをシームレスに再生することは非常に困難である。このため、マルチアングル期間中には、カメラを切り替えるような自由な視点を得ることは困難である。
フローチャート:エンコーダ
図27を参照して前述の、シナリオデータSt7に基づいてエンコードシステム制御部200が生成するエンコード情報テーブルについて説明する。エンコード情報テーブルはシーンの分岐点・結合点を区切りとしたシーン区間に対応し、複数のVOBが含まれるVOBセットデータ列と各シーン毎に対応するVOBデータ列からなる。図27に示されているVOBセットデータ列は、後に詳述する。
図34のステップ#100で、ユーザが指示するタイトル内容に基づき、DVDのマルチメディアストリーム生成のためにエンコードシステム制御部200内で作成するエンコード情報テーブルである。ユーザ指示のシナリオでは、共通なシーンから複数のシーンへの分岐点、あるいは共通なシーンへの結合点がある。その分岐点・結合点を区切りとしたシーン区間に相当するVwOBをVOBセットとし、VOBセットをエンコードするために作成するデータをVOBセットデータ列としている。また、VOBセットデータ列では、マルチシーン区間を含む場合、示されているタイトル数をVOBセットデータ列のタイトル数(TTTLE NO)に示す。
図27のVOBセットデータ構造は、VOBセットデータ列の1つのVOBセットをエンコードするためのデータの内容を示す。VOBセットデータ構造は、VOBセット番号(VOBS NO)、VOBセット内のVOB番号(VOB NO)、先行VOBシームレス接続フラグ(VOB Fsb)、後続VOBシームレス接続フラグ(VOB Fsf)、マルチシーンフラグ(VOB Fp)、インターリーブフラグ(VOB Fi)、マルチアングル(VOB Fm)、マルチアングルシームレス切り替えフラグ(VOB FsV)、インターリーブVOBの最大ビットレート(ILV BR)、インターリーブVOBの分割数(ILV DIV)、最小インターリーブユニット再生時間(ILV MT)からなる。
VOBセット番号VOBS NOは、例えばタイトルシナリオ再生順を目安につけるVOBセットを識別するための番号である。
VOBセット内のVOB番号VOB NOは、例えばタイトルシナリオ再生順を目安に、タイトルシナリオ全体にわたって、VOBを識別するための番号である。
先行VOBシームレス接続フラグVOB Fsbは、シナリオ再生で先行のVOBとシームレスに接続するか否かを示すフラグである。
後続VOBシームレス接続フラグVOB Fsfは、シナリオ再生で後続のVOBとシームレスに接続するか否かを示すフラグである。
マルチシーンフラグVOB Fpは、VOBセットが複数のVOBで構成しているか否かを示すフラグである。
インターリーブフラグVOB Fiは、VOBセット内のVOBがインターリーブ配置するか否かを示すフラグである。
マルチアングルフラグVOB Fmは、VOBセットがマルチアングルであるか否かを示すフラグである。
マルチアングルシームレス切り替えフラグVOB FsVは、マルチアングル内の切り替えがシームレスであるか否かを示すフラグである。
インターリーブVOB最大ビットレートILV BRは、インターリーブするVOBの最大ビットレートの値を示す。
インターリーブVOB分割数ILV DIVは、インターリーブするVOBのインターリーブユニット数を示す。
最小インターリーブユニット再生時間ILVU MTは、インターリーブブロック再生時に、トラックバッファのアンダーフローしない最小のインターリーブユニットに於いて、そのVOBのビットレートがILV BRの時に再生できる時間を示す。
図28を参照して前述の、シナリオデータSt7に基づいてエンコードシステム制御部200が生成するVOB毎に対応するエンコード情報テーブルについて説明する。このエンコード情報テーブルを基に、ビデオエンコーダ300、サブピクチャエンコーダ500、オーディオエンコーダ700、システムエンコーダ900へ、後述する各VOBに対応するエンコードパラメータデータを生成する。図28に示されているVOBデータ列は、図34のステップ#100で、ユーザが指示するタイトル内容に基づき、DVDのマルチメディアストリーム生成のためにエンコードシステム制御内で作成するVOB毎のエンコード情報テーブルである。1つのエンコード単位をVOBとし、そのVOBをエンコードするために作成するデータをVOBデータ列としている。例えば、3つのアングルシーンで構成されるVOBセットは、3つのVOBから構成される事になる。図28のVOBデータ構造はVOBデータ列の1つのVOBをエンコードするためのデータの内容を示す。
VOBデータ構造は、ビデオ素材の開始時刻(VOB VST)、ビデオ素材の終了時刻(VOB VEND)、ビデオ素材の種類(VOB V KIND)、ビデオのエンコードビットレート(V BR)、オーディオ素材の開始時刻(VOB AST)、オーディオ素材の終了時刻(VOB AEND)、オーディオエンコード方式(VOB A KIND)、オーディオのビットレート(A BR)からなる。
ビデオ素材の開始時刻VOB VSTは、ビデオ素材の時刻に対応するビデオエンコードの開始時刻である。
ビデオ素材の終了時刻VOB VENDは、ビデオ素材の時刻に対応するビデオエンコードの終了時刻である。
ビデオ素材の種類VOB V KINDは、エンコード素材がNTSC形式かPAL形式のいづれかであるか、またはビデオ素材がテレシネ変換処理された素材であるか否かを示すものである。
ビデオのビットレートV BRは、ビデオのエンコードビットレートである。
オーディオ素材の開始時刻VOB ASTは、オーディオ素材の時刻に対応するオーディオエンコード開始時刻である。
オーディオ素材の終了時刻VOB AENDは、オディオ素材の時刻に対応するオーディオエンコード終了時刻である。
オーディオエンコード方式VOB A KINDは、オーディオのエンコード方式を示すものであり、エンコード方式にはAC−3方式、MPEG方式、リニアPCM方式などがある。
オーディオのビットレートA BRは、オーディオのエンコードビットレートである。
図29に、VOBをエンコードするためのビデオ、オーディオ、システムの各エンコーダ300、500、及び900へのエンコードパラメータを示す。エンコードパラメータは、VOB番号(VOB NO)、ビデオエンコード開始時刻(V STTM)、ビデオエンコード終了時刻(V ENDTM)、エンコードモード(V ENCMD)、ビデオエンコードビットレート(V RATE)、ビデオエンコード最大ビットレート(V MRATE)、GOP構造固定フラグ(GOP FXflag)、ビデオエンコードGOP構造(GOPST)、ビデオエンコード初期データ(V INTST)、ビデオエンコード終了データ(V ENDST)、オーディオエンコード開始時刻(A STTM)、オーディオエンコード終了時刻(A ENDTM)、オーディオエンコードビットレート(A RATE)、オーディオエンコード方式(A ENCMD)、オーディオ開始時ギャップ(A STGAP)、オーディオ終了時ギャップ(A ENDGAP)、先行VOB番号(B VOB NO)、後続VOB番号(F VOB NO)からなる。
VOB番号VOB NOは、例えばタイトルシナリオ再生順を目安に、タイトルシナリオ全体にわたって番号づける、VOBを識別するための番号である。
ビデオエンコード開始時刻V STTMは、ビデオ素材上のビデオエンコード開始時刻である。
ビデオエンコード終了時刻V STTMは、ビデオ素材上のビデオエンコード終了時刻である。
エンコードモードV ENCMDは、ビデオ素材がテレシネ変換された素材の場合には、効率よいエンコードができるようにビデオエンコード時に逆テレシネ変換処理を行うか否かなどを設定するためのエンコードモードである。
ビデオエンコードビットレートV RATEは、ビデオエンコード時の平均ビットレートである。
ビデオエンコード最大ビットレートはV MRATEは、ビデオエンコード時の最大ビットレートである。
GOP構造固定フラグGOP FXflagは、ビデオエンコード時に途中で、GOP構造を変えることなくエンコードを行うか否かを示すものである。マルチアングルシーン中にシームレスに切り替え可能にする場合に有効なパラメータである。
ビデオエンコードGOP構造GOPSTは、エンコード時のGOP構造データである。
ビデオエンコード初期データV INSTは、ビデオエンコード開始時のVBVバッファ(復号バッファ)の初期値などを設定する、先行のビデオエンコードストリームとシームレス再生する場合に有効なパラメータである。
ビデオエンコード終了データV ENDSTは、ビデオエンコード終了時のVBVバッファ(復号バッファ)の終了値などを設定する。後続のビデオエンコードストリームとシームレス再生する場合に有効なパラメータである。
オーディオエンコーダ開始時刻A STTMは、オーディオ素材上のオーディオエンコード開始時刻である。
オーディオエンコーダ終了時刻A ENDTMは、オーディオ素材上のオーディオエンコード終了時刻である。
オーディオエンコードビットレートA RATEは、オーディオエンコード時のビットレートである。
オーディオエンコード方式A ENCMDは、オーディオのエンコード方式であり、AC−3方式、MPEG方式、リニアPCM方式などがある。
オーディオ開始時ギャップA STGAPは、VOB開始時のビデオとオーディオの開始のずれ時間である。先行のシステムエンコードストリームとシームレス再生する場合に有効なパラメータである。
オーディオ終了時ギャップA ENDGAPは、VOB終了時のビデオとオーディオの終了のずれ時間である。後続のシステムエンコードストリームとシームレス再生する場合に有効なパラメータである。
先行VOB番号B VOB NOは、シームレス接続の先行VOBが存在する場合にそのVOB番号を示すものである。
後続VOB番号F VOB NOは、シームレス接続の後続VOBが存在する場合にそのVOB番号を示すものである。
図34に示すフローチャートを参照しながら、本発明に係るDVDエンコーダECDの動作を説明する。なお、同図に於いて二重線で囲まれたブロックはそれぞれサブルーチンを示す。本実施形態は、DVDシステムについて説明するが、言うまでなくオーサリングエンコーダECについても同様に構成することができる。
ステップ#100に於いて、ユーザーは、編集情報作成部100でマルチメディアソースデータSt1、St2、及びSt3の内容を確認しながら、所望のシナリオに添った内容の編集指示を入力する。
ステップ#200で、編集情報作成部100はユーザの編集指示に応じて、上述の編集指示情報を含むシナリオデータSt7を生成する。
ステップ#200での、シナリオデータSt7の生成時に、ユーザの編集指示内容の内、インターリーブする事を想定しているマルチアングル、パレンタルのマルチシーン区間でのインターリーブ時の編集指示は、以下の条件を満たすように入力する。
まず画質的に十分な画質が得られるようなVOBの最大ビットレートを決定し、さらにDVDエンコードデータの再生装置として想定するDVDデコーダDCDのトラックバッファ量及びジャンプ性能、ジャンプ時間とジャンプ距離の値を決定する。上記値をもとに、式3、式4より、最小インターリーブユニットの再生時間を得る。
次に、マルチシーン区間に含まれる各シーンの再生時間をもとに式5及び式6が満たされるかどうか検証する。満たされなければ後続シーン一部シーンをマルチシーン区間の各シーン接続するなどの処理を行い式5及び式6を満たすようにユーザは指示の変更入力する。
さらに、マルチアングルの編集指示の場合、シームレス切り替え時には式7を満たすと同時に、アングルの各シーンの再生時間、オーディオは同一とする編集指示を入力する。また非シームレス切り替え時には式8を満たすようにユーザは編集指示を入力する。
ステップ#300で、エンコードシステム制御部200は、シナリオデータSt7に基づいて、先ず、対象シーンを先行シーンに対して、シームレスに接続するのか否かを判断する。シームレス接続とは、先行シーン区間が複数のシーンからなるマルチシーン区間である場合に、その先行マルチシーン区間に含まれる全シーンの内の任意の1シーンを、現時点の接続社象である共通シーンとシームレスに接続する。同様に、現時点の接続対象シーンがマルチシーン区間である場合には、マルチシーン区間の任意の1シーンを接続出来ると言うことを意味する。ステップ#300で、NO、つまり、非シームレス接続と判断された場合にはステップ#400へ進む。
ステップ#400で、エンコードシステム制御部200は、対象シーンが先行シーンとシームレス接続されることを示す、先行シーンシームレス接続フラグVOB Fsbをリセットして、ステップ#600に進む。
一方、ステップ#300で、YES、つまり先行シートとシームレス接続すると判断された時には、ステップ#500に進む。
ステップ#500で、先行シーンシームレス接続フラグVOB Fsbをセットして、ステップ#600に進む。
ステップ#600で、エンコードシステム制御部200は、シナリオデータSt7に基づいて、対象シーンを後続するシーンとシームレス接続するのか否かを判断する。ステップ#600で、NO、つまり非シームレス接続と判断された場合にはステップ#700へ進む。
ステップ#700で、エンコードシステム制御部200は、シーンを後続シーンとシームレス接続することを示す、後続シーンシームレス接続フラグVOB Fsfをリセットして、ステップ#900に進む。
一方、ステップ#600で、YES、つまり後続シートとシームレス接続すると判断された時には、ステップ#800に進む。
ステップ#800で、エンコードシステム制御部200は、後続シーンシームレス接続フラグVOB Fsfをセットして、ステップ#900に進む。
ステップ#900で、エンコードシステム制御部200は、シナリオデータSt7に基づいて、接続対象のシーンが一つ以上、つまり、マルチシーンであるか否かを判断する。マルチシーンには、マルチシーンで構成できる複数の再生経路の内、1つの再生経路のみを再生するパレンタル制御と再生経路がマルチシーン区間の間、切り替え可能なマルチアングル制御がある。
シナリオステップ#900で、NO、つまり非マルチシーン接続であると判断されて時は、ステップ#1000に進む。
ステップ#1000で、マルチシーン接続であることを示すマルチシーンフラグVOE Fpをリセットして、エンコードパラメータ生成ステップ#1800に進む。ステップ#1800の動作については、あとで述べる。
一方、ステップ#900で、YES、つまりマルチシーン接続と判断された時には、ステップ#1100に進む。
ステップ#1100で、マルチシーンフラグVOB Fpをセットして、マルチアングル接続かどうかを判断するステップ#1200に進む。
ステップ#1200で、マルチシーン区間中の複数シーン間での切り替えをするかどうか、すなわち、マルチアングルの区間であるか否かを判断する。ステップ#1200で、NO、つまり、マルチシーン区間の途中で切り替えずに、1つの再生経路のみを再生するパレンタル制御と判断された時には、ステップ#1300に進む。
ステップ#1300で、接続対象シーンがマルチアングルであること示すマルチアングルフラグVOB Fmをリセットしてステップ#1302に進む。
ステップ#1302で、先行シーンシームレス接続フラグVOB Fsb及び後続シーンシームレス接続フラグVOB Fsfの何れかがセットされているか否かを判断する。ステップ#1300で、YES、つまり接続対象シーンは先行あるいは後続のシーンの何れかあるいは、両方とシームレス接続すると判断された時には、ステップ#1304に進む。
ステップ#1304では、対象シーンのエンコードデータであるVOBをインターリーブすることを示すインターリーブフラグVOB Fiをセットして、ステップ#1800に進む。
一方、ステップ#1302で、NO、つまり、対象シーンは先行シーン及び後続シーンの何れともシームレス接続しない場合には、ステップ#1306に進む。
ステップ#1306でインターリーブフラッグVOB_Fiをリセットしてステップ#1800に進む。
一方、ステップ#1200で、YES、つまりマルチアングルであると判断された場合には、ステップ#1400に進む。
ステップ#1400では、マルチアングルフラッグVOB_Fm及びインターリーブフラッグVOB_Fiをセットした後ステップ#1500に進む。
ステップ#1500で、エンコードシステム制御部200はシナリオデータSt7に基づいて、マルチアングルシーン区間で、つまりVOBよりも小さな再生単位で、映像やオーディオを途切れることなく、いわゆるシームレスに切替られるのかを判断する。ステップ#1500で、NO、つまり、非シームレス切替と判断された時には、ステップ#1600に進む。
ステップ#1600で、対象シーンがシームレス切替であることを示すシームレス切替フラッグVOB_FsVをリセットして、ステップ#1800に進む。
一方、ステップ#1500、YES、つまりシームレス切替と判断された時には、ステップ#1700に進む。
ステップ#1700で、シームレス切替フラッグVOB_FsVをセットしてステップ#1800に進む。このように、本発明では、編集意思を反映したシナリオデータSt7から、編集情報が上述の各フラグのセット状態として検出されて後に、ステップ#1800に進む。
ステップ#1800で、上述の如く各フラグのセット状態として検出されたユーザの編集意思に基づいて、ソースストリームをエンコードするための、それぞれ図27及び図28に示されるVOBセット単位及びVOB単位毎のエンコード情報テーブルへの情報付加と、図29に示されるVOBデータ単位でのエンコードパラメータを作成する。次に、ステップ#1900に進む。このエンコードパラメータ作成ステップの詳細については、図35、図36、図37、図38を参照して後で説明する。
ステップ#1900で、ステップ#1800で作成してエンコードパラメータに基づいて、ビデオデータ及びオーディオデータのエンコードを行った後にステップ#2000に進む。尚、サブピクチャデータは、本来必要に応じて、ビデオ再生中に、随時挿入して利用する目的から、前後のシーン等との連続性は本来不要である。更に、サプピクチャは、およそ、1画面分の映像情報であるので、時間軸上に延在するビデオデータ及びオーディオデータと異なり、表示上は静止の場合が多く、常に連続して再生されるものではない。よって、シームレス及び非シームレスと言う連続再生に関する本実施形態に於いては、簡便化のために、サブピクチャデータのエンコードについては説明を省く。
ステップ#2000では、VOBセットの数だけステップ#300からステップ#1900までの各ステップから構成されるループをまわし、図16のタイトルの各VOBの再生順などの再生情報を自身のデータ構造にもつ、プログラムチェーン(VTS_PGC#I)情報をフォーマットし、マルチルチシーン区間のVOBをインターリーブ配置を作成し、そしてシステムエンコードするために必要なVOBセットデータ列及びVOBデータ列を完成させる。次に、ステップ#2100に進む。
ステップ#2100で、ステップ#2000までのループの結果として得られる全VOBセット数VOBS_NUMを得て、VOBセットデータ列に追加し、さらにシナリオデータSt7に於いて、シナリオ再生経路の数をタイトル数とした場合の、タイトル数TITLE_NOを設定して、エンコード情報テーブルとしてのVOBセットデータ列を完成した後、ステップ#2200に進む。
ステップ#2200で、ステップ#1900でエンコードしたビデオエンコードストリーム、オーディオエンコードストリーム、図29のエンコードパラメータに基づいて、図16のVTSTT_VOBS内のVOB(VOB#i)データを作成するためのシステムエンコードを行う。次に、ステップ#2300に進む。
ステップ#2300で、図16のVTS情報、VTSIに含まれるVTSI管理テーブル(VTSI_MAT)、VTSPGC情報テーブル(VTSPGCIT)及び、VOBデータの再生順を制御するプログラムチェーン情報(VTS_PGCI#I)のデータ作成及びマルチシーン区間に含めれるVOBのインターリーブ配置などの処理を含むフォーマットを行う。
図35、図36、及び図37を参照して、図34に示すフローチャートのステップ#1800のエンコードパラメータ生成サブルーチンに於ける、マルチアングル制御時のエンコードパラメータ生成の動作を説明する。
先ず、図35を参照して、図34のステップ#1500で、NOと判断された時、つまり各フラグはそれぞれVOB_Fsb=1またはVOB_Fsf=1、VOB_Fp=1、VOB_Fi=1、VOB_Fm=1、FsV=0である場合、すなわちマルチアングル制御時の非シームレス切り替えストリームのエンコードパラメータ生成動作を説明する。以下の動作で、図27、図28に示すエンコード情報テーブル、図29に示すエンコードパラメータを作成する。
ステップ#1812では、シナリオデータSt7に含まれているシナリオ再生順を抽出し、VOBセット番号VOBS_NOを設定し、さらにVOBセット内の1つ以上のVOBに対して、VOB番号VOB_NOを設定する。
ステップ#1814では、シナリオデータSt7より、インターリーブVOBの最大ビットレートILV_BRを抽出、インターリーブフラグVOB_Fi=1に基づき、エンコードパラメータのビデオエンコード最大ビットレートV_MRATEに設定。
ステップ#1816では、シナリオデータSt7より、最小インターリーブユニット再生時間ILVU_MTを抽出。
ステップ#1818では、マルチアングルフラグVOB_Fp=1に基づき、ビデオエンコードGOP構造GOPSTのN=15、M=3の値とGOP構造固定フラグGOPFXflag=“1”に設定。
ステップ#1820は、VOBデータ設定の共通のルーチンである。
図36に、ステップ#1820のVOBデータ共通設定ルーチンを示す。以下の動作フローで、図27、図28に示すエンコード情報テーブル、図29に示すエンコードパラメータを作成する。
ステップ#1822では、シナリオデータSt7より、各VOBのビデオ素材の開始時刻VOB_VST、終了時刻VOB_VENDを抽出し、ビデオエンコード開始時刻V_STTMとエンコード終了時刻V_ENDTMをビデオエンコードのパラメータとする。
ステップ#1824では、シナリオデータSt7より、各VOBのオーディオ素材の開始時刻VOB_ASTを抽出し、オーディオエンコード開始時刻A_STTMをオーディオエンコードのパラメータとする。
ステップ#1826では、シナリオデータSt7より、各VOBのオーディオ素材の終了時刻VOB_AENDを抽出し、VOB_AENDを超えない時刻で、オーディオエンコード方式できめられるオーディオアクセスユニット(以下AAUと記述する)単位の時刻を、オーディオエンコードのパラメータである、エンコード終了時刻A_ENDTMとする。
ステップ#1828は、ビデオエンコード開始時刻V_STTMとオーディオエンコード開始時刻A_STTMの差より、オーディオ開始時ギャップA_STGAPをシステムエンコードのパラメータとする。
ステップ#1830では、ビデオエンコード終了時刻V_ENDTMとオーディオエンコード終了時刻A_ENDTMの差より、オーディオ終了時ギャップA_ENDGAPをシステムエンコードのパラメータとする。
ステップ#1832では、シナリオデータSt7より、ビデオのビットレートV_BRを抽出し、ビデオエンコードの平均ビットレートとして、ビデオエンコードビットレートV_RATEをビデオエンコードのパラメータとする。
ステップ#1834では、シナリオデータSt7より、オーディオのビットレートA_BRを抽出し、オーディオエンコードビットレートA_RATEをオーディオエンコードのパラメータとする。
ステップ#1836では、シナリオデータSt7より、ビデオ素材の種類VOB_V_KINDを抽出し、フィルム素材、すなわちテレシネ変換された素材であれば、ビデオエンコードモードV_ENCMDに逆テレシネ変換を設定し、ビデオエンコードのパラメータとする。
ステップ#1838では、シナリオデータSt7より、オーディオのエンコード方式VOB_A_KINDを抽出し、オーディオエンコードモードA_ENCMDにエンコード方式を設定し、オーディオエンコードのパラメータとする。
ステップ#1840では、ビデオエンコード初期データV_INSTのVBVバッファ初期値が、ビデオエンコード終了データV_ENDSTのVBVバッファ終了値以下の値になるように設定し、ビデオエンコードのパラメータとする。
ステップ#1842では、先行VOBシームレス接続フラグVOB_Fsb=1に基づき、先行接続のVOB番号VOB_NOを先行接続のVOB番号B_VOB_NOに設定し、システムエンコードのパラメータとする。
ステップ#1844では、後続VOBシームレス接続フラグVOB_Fsf=1に基づき、後続接続のVOB番号VOB_NOを後続接続のVOB番号F_VOB_NOに設定し、システムエンコードのパラメータとする。
以上のように、マルチアングルのVOBセットであり、非シームレスマルチアングル切り替えの制御の場合のエンコード情報テーブル及びエンコードパラメータが生成できる。
次に、図37を参照して、図34に於いて、ステップ#1500で、Yesと判断された時、つまり各フラグはそれぞれVOB_Fsb=1またはVOB_Fsf=1、VOB_Fp=1、VOB_Fi=1、VOB_Fm=1、VOB_FsV=1である場合の、マルチアングル制御時のシームレス切り替えストリームのエンコードパラメータ生成動作を説明する。
以下の動作で、図27、図28に示すエンコード情報テーブル、及び図29に示すエンコードパラメータを作成する。
ステップ#1850では、シナリオデータSt7に含まれているシナリオ再生順を抽出し、VOBセット番号VOBS_NOを設定し、さらにVOBセット内の1つ以上のVOBに対して、VOB番号VOB_NOを設定する。
ステップ#1852では、シナリオデータSt7より、インターリーブVOBの最大ビットレートいLV_BRを抽出、インターリーブフラグVOB_Fi=1に基づき、ビデオエンコード最大ビットレートV_RATEに設定。
ステップ#1854では、シナリオデータSt7より、最小インターリーブユニット再生時間ILVU_MTを抽出。
ステップ#1856では、マルチアングルフラグVOB_Fp=1に基づき、ビデオエンコードGOP構造GOPSTのN=15、M=3の値とGOP構造固定フラグGOPFXflag=“1”に設定。
ステップ#1858では、シームレス切り替えフラグVOB_FsV=1に基づいて、ビデオエンコードGOP構造GOPSTにクローズドGOPを設定、ビデオエンコードのパラメータとする。
ステップ#1860は、VOBデータ設定の共通のルーチンである。この共通のルーチンは図35に示しているルーチンであり、既に説明しているので省略する。
以上のようにマルチアングルのVOBセットで、シームレス切り替え制御の場合のエンコードパラメータが生成できる。
次に、図38を参照して、図34に於いて、ステップ#1200で、NOと判断され、ステップ1304でYESと判断された時、つまり各フラグはそれぞれVOB_Fsb=1またはVOB_Fsf=1、VOB_Fp=1、VOB_Fi=1、VOB_Fm=0である場合の、パレンタル制御時のエンコードパラメータ生成動作を説明する。以下の動作で、図27、図28に示すエンコード情報テーブル、及び図29に示すエンコードパラメータを作成する。
ステップ#1870では、シナリオデータSt7に含まれているシナリオ再生順を抽出し、VOBセット番号VOBS_NOを設定し、さらにVOBセット内の1つ以上のVOBに対して、VOB番号VOB_NOを設定する。
ステップ#1872では、シナリオデータSt7より、インターリーブVOBの最大ビットレートILV_BRを抽出、インターリーブフラグVOB_Fi=1に基づき、ビデオエンコード最大ビットレートV_RATEに設定する。
ステップ#1874では、シナリオデータSt7より、VOBインターリーブユニット分割数ILV_DIVを抽出する。
ステップ#1876は、VOBデータ設定の共通のルーチンである。この共通のルーチンは図35に示しているルーチンであり、既に説明しているので省略する。
以上のようにマルチシーンのVOBセットで、パレンタル制御の場合のエンコードパラメータが生成できる。
次に、図64を参照して、図34に於いて、ステップ#900で、NOと判断された時、つまり各フラグはそれぞれVOB_Fp=0である場合の、すなわち単一シーンのエンコードパラメータ生成動作を説明する。以下の動作で、図27、図28に示すエンコード情報テーブル、及び図29に示すエンコードパラメータを作成する。
ステップ#1880では、シナリオデータSt7に含まれているシナリオ再生順を抽出し、VOBセット番号VOBS_NOを設定し、さらにVOBセット内の1つ以上のVOBに対して、VOB番号VOB_NOを設定する。
ステップ#1882では、シナリオデータSt7より、インターリーブVOBの最大ビットレートILV_BRを抽出、インターリーブフラグVOB_Fi=1に基づき、ビデオエンコード最大ビットレートV_MRATEに設定。
ステップ#1884は、VOBデータ設定の共通のルーチンである。この共通のルーチンは図35に示しているルーチンであり、既に説明しているので省略する。
上記ようなエンコード情報テーブル作成、エンコードパラメータ作成フローによって、DVDのビデオ、オーディオ、システムエンコード、DVDのフォーマッタのためのエンコードパラメータは生成できる。
デコーダのフローチャート
ディスクからストリームバッファ転送フロー
以下に、図47および図48を参照して、シナリオ選択データSt51に基づいてデコードシステム制御部2300が生成するデコード情報テーブルについて説明する。デコード情報テーブルは、図47に示すデコードシステムテーブルと、図48に示すデコードテーブルから構成される。
図47に示すようにデコードシステムテーブルは、シナリオ情報レジスタ部とセル情報レジスタ部からなる。シナリオ情報レジスタ部は、シナリオ選択データSt51に含まれるユーザの選択した、タイトル番号等の再生シナリオ情報を抽出して記録する。セル情報レジスタ部は、シナリオ情報レジスタ部は抽出されたユーザの選択したシナリオ情報に基いてプログラムチェーンを構成する各セル情報を再生に必要な情報を抽出して記録する。
更に、シナリオ情報レジスタ部は、アングル番号レジスタANGLE_NO_reg、VTS番号レジスタVTS_NO_reg、PGC番号レジスタVTS_PGCI_NO_reg、オーディオIDレジスタAUDIO_ID_reg、副映像IDレジスタSP_ID_reg、及びSCR用バッファレジスタSCR_bufferを含む。
アングル番号レジスタANGLE_NO_regは、再生するPGCにマルチアングルが存在する場合、どのアングルを再生するかの情報を記録する。VTS番号レジスタVTS_NO_regは、ディスク上に存在する複数のVTSのうち、次に再生するVTSの番号を記録する。PGC番号レジスタVTS_PGCI_NO_regは、パレンタル等の用途でVTS中存在する複数のPGCのうち、どのPGCを再生するかを指示する情報を記録する。オーディオIDレジスタAUDIO_ID_regは、VTS中存在する複数のオーディオストリームの、どれを再生するかを指示する情報を記録する。副映像IDレジスタSP_ID_regは、VTS中に複数の副映像ストリームが存在する場合は、どの副映像ストリームを再生するか指示する情報を記録する。SCR用バッファSCR_bufferは、図19に示すように、パックヘッダに記述されるSCRを一時記憶するバッファである。この一時記憶されたSCRは、図26を参照して説明したように、ストリーム再生データSt63としてデコードシステム制御部2300に出力される。
セル情報レジスタ部は、セルブロックモードレジスタCBM_reg、セルブロックタイプレジスタCBT_reg、シームレス再生フラグレジスタSPB_reg、インターリーブアロケーションフラグレジスタIAF_reg、STC再設定フラグレジスタSTCDF_reg、シームレスアングル切り替えフラグレジスタSACF_reg、セル最初のVOBU開始アドレスレジスタC_FVOBU_SA_reg、セル最後のVOBU開始アドレスレジスタC_LVOBU_SA_regを含む。
セルブロックモードレジスタCBM_regは複数のセルが1つの機能ブロックを構成しているか否かを示し、構成していない場合は値として“N_BLOCK”を記録する。また、セルが1つの機能ブロックを構成している場合、その機能ブロックの先頭のセルの場合“F_CELL”を、最後のセルの場合“L_CELL”を、その間のセルの場合“BLOCK”を値として記録する。
セルブロックタイプレジスタCBT_regは、セルブロックモードレジスタCBM_regで示したブロックの種類を記録するレジスタであり、マルチアングルの場合”A_BLOCK”を、マルチアングルでない場合“N_BLOCK”を記録する。
シームレス再生フラグレジスタSPF_regは、該セルが前に再生されるセルまたはセルブロックとシームレスに接続して再生するか否かを示す情報を記録する。前セルまたは前セルブロックとシームレスに接続して再生する場合には、値として“SML”を、シームレス接続でない場合は値として“NSML”を記録する。
インターリーブアロケーションフラグレジスタIAF_regは、該セルがインターリーブ領域に配置されているか否かの情報を記録する。インターリーブ領域に配置されている場合には値として“ILVB”を、インターリーブ領域に配置されていない場合は”N_ILVB”を記録する。
STC再設定フラグレジスタSTCDF_regは、同期をとる際に使用するSTC(System Time Clock)をセルの再生時に再設定する必要があるかないかの情報を記録する。再設定が必要な場合には値として“STC_RESET”を、再設定が不要な場合には値として、“STC_NRESET”を記録する。
シームレスアングルチェンジフラグレジスタSACF_regは、該セルがアングル区間に属しかつ、シームレスに切替えるかどうかを示す情報を記録する。アングル区間でかつシームレスに切替える場合には値として“SML”を、そうでない場合は”NSML”を記録する。
セル最初のVOBU開始アドレスレジスタC_FVOBU_SA_regは、セル先頭VOBU開始アドレスを記録する。その値はVTSタイトル用VOBS(VTSTT_VOBS)の先頭セルの論理セクタからの距離をセクタ数で示し、該セクタ数を記録する。
セル最後のVOBU開始アドレスレジスタC_LVOBU_SA_regは、セル最終VOBU開始アドレスを記録する。その値は、VTSタイトル用VOBS(VTSTT_VOBS)の先頭セルの論理セクタから距離をセクタ数で示し、該セクタ数を記録する。
次に、図48のデコードテーブルについて説明する。同図に示すようにデコードテーブルは、非シームレスマルチアングル情報レジスタ部、シームレスマルチアングル情報レジスタ部、VOBU情報レジスタ部、シームレス再生レジスタ部からなる。
非シームレスマルチアングル情報レジスタ部は、NSML_AGL_C1_DSTA_reg〜NSML_AGL_C9_DSTA_regを含む。
NSML_AGL_C1_DSTA_reg〜NSML_AGL_C9_DSTA_regには、図20に示すPCIパケット中のNSML_AGL_C1_DSTA〜NSML_AGL_C9_DSTAを記録する。
シームレスマルチアングル情報レジスタ部は、SML_AGL_C1_DSTA_reg〜SML_AGL_C9_DSTA_regを含む。
SML_AGL_C1_DSTA_reg〜SML_AGL_C9_DSTA_regには、図20に示すDSIパケット中のSML_AGL_C1_DSTA〜SML_AGL_C9_DSTAを記録する。
VOBU情報レジスタ部は、VOBU最終アドレスレジスタVOBU_EA_regを含む。
VOBU情報レジスタVOBU_EA_regには、図20に示すDSIパケット中のVOBU_EAを記録する。
シームレス再生レジスタ部は、インターリーブユニットフラグレジスタILVU_flag_reg、ユニットエンドフラグレジスタUNIT_END_flag_reg、ILVU最終パックアドレスレジスタILVU_EA_reg、次のインターリーブユニット開始アドレスNT_ILVU_SA_reg、VOB内先頭ビデオフレーム表示開始時刻レジスタVOB_V_SPTM_reg、VOB内最終ビデオフレーム表示終了時刻レジスタVOB_V_EPTM_reg、オーディオ再生停止時刻1レジスタVOB_A_GAP_PTM1_reg、オーディオ再生停止時刻2レジスタVOB_A_GAP_PTM2_reg、オーディオ再生停止期間1レジスタVOB_A_GAP_LEN1、オーディオ再生停止期間2レジスタVOB_A_GAP_LEN2を含む。
インターリーブユニットフラグレジスタILVU_flag_regはVOBUが、インターリーブ領域に存在するかを示すものであり、インターリーブ領域に存在する場合“ILVU”を、インターリーブ領域に存在しない場合“N_ILVU”を記録する。
ユニットエンドフラグレジスタUNIT_END_flag_regは、VOBUがインターリーブ領域に存在する場合、該VOBUがILVUの最終VOBUかを示す情報を記録する。ILVUは、連続読み出し単位であるので、現在読み出しているVOBUが、ILVUの最後のVOBUであれば“END”を、最後のVOBUでなければ“N_END”を記録する。
ILVU最終パックアドレスレジスタILVU_EA_regは、VOBUがインターリーブ領域に存在する場合、該VOBUが属するILVUの最終パックのアドレスを記録する。ここでアドレスは、該VOBUのNVからのセクタ数である。
次のILVU開始アドレスレジスタNT_ILVU_SA_regは、VOBUがインターリーブ領域に存在する場合、次のILVUの開始アドレスを記録する。ここでアドレスは、該VOBUのNVからのセクタ数である。
VOB内先頭ビデオフレーム表示開始時刻レジスタVOB_V_SPTM_regは、VOBの先頭ビデオフレームの表示を開始する時刻を記録する。
VOB内最終ビデオフレーム表示終了時刻レジスタVOB_V_EPTM_regは、VOBの最終ビデオフレームの表示が終了する時刻を記録する。
オーディオ再生停止時刻1レジスタVOB_A_GAP_PTM1_regは、オーディオ再生を停止させる時間を、オーディオ再生停止期間1レジスタVOB_A_GAP_LEN1_regはオーディオ再生を停止させる期間を記録する。
オーディオ再生停止時刻2レジスタVOB_A_GAP_PTM2_regおよび、オーディオ再生停止期間2レジスタVOB_A_GAP_LEN2に関しても同様である。
次に図49示すDVDデコーダフローを参照しながら、図26にブロック図を示した本発明に係るDVDデコーダDCDの動作を説明する。
ステップ#310202はディスクが挿入されたかを評価するステップであり、ディスクがセットされればステップ#310204へ進む。
ステップ#310204に於いて、図22のボリュームファイル情報VFSを読み出した後に、ステップ#310206に進む。
ステップ#310206では、図22に示すビデオマネージャVMGを読み出し、再生するVTSを抽出して、ステップ#310208に進む。
ステップ#310208では、VTSの管理テーブルVTSIより、ビデオタイトルセットメニューアドレス情報VTSM_C_ADTを抽出して、ステップ#310210に進む。
ステップ#310210では、VTSM_C_ADT情報に基づき、ビデオタイトルセットメニューVTSM_VOBSをディスクから読み出し、タイトル選択メニューを表示する。このメニューに従ってユーザーはタイトルを選択する。この場合、タイトルだけではなく、オーディオ番号、副映像番号、マルチアングルを含むタイトルであれば、アングル番号を入力する。ユーザーの入力が終われば、次のステップ#310214へ進む。
ステップ#310214で、ユーザーの選択したタイトル番号に対応するVTS_PGCI#Jを管理テーブルより抽出した後に、ステップ#310216に進む。
次のステップ#310216で、PGCの再生を開始する。PGCの再生が終了すれば、デコード処理は終了する。以降、別のタイトルを再生する場合は、シナリオ選択部でユーザーのキー入力があればステップ#310210のタイトルメニュー表示に戻る等の制御で実現できる。
次に、図50を参照して、先に述べたステップ#310216のPGCの再生について、更に詳しく説明する。PGC再生ステップ#310216は、図示の如く、ステップ#31030、#31032、#31034、及び#31035よりなる。
ステップ#31030では、図47に示したデコードシステムテーブルの設定を行う。アングル番号レジスタANGLE_NO_reg、VTS番号レジスタVTS_NO_reg、PGC番号レジスタPGC_NO_reg、オーディオIDレジスタAUDIO_ID_reg、副映像IDレジスタSP_ID_regは、シナリオ選択部2100でのユーザー操作によって設定する。
ユーザーがタイトルを選択することで、再生するPGCが一意に決まると、該当するセル情報(C_PBI)を抽出し、セル情報レジスタに設定する。設定するレジスタは、CBM_reg、CBT_reg、SPF_reg、IAF_reg、STCDF_reg、SACF_reg、C_FVOBU_SA_reg、C_LVOBU_SA_regである。
デコードシステムテーブルの設定後、ステップ#31032のストリームバッファへのデータ転送処理と、ステップ#31034のストリームバッファ内のデータデコード処理を並列に起動する。
ここで、ステップ#31032のストリームバッファへのデータ転送処理は、図26に於いて、ディスクMからストリームバッファ2400へのデータ転送に関するものである。すなわち、ユーザーの選択したタイトル情報、およびストリーム中に記述されている再生制御情報(ナブパックNV)に従って、必要なデータをディスクMから読み出し、ストリームバッファ2400に転送する処理である。
一方、ステップ#31034は、図26に於いて、ストリームバッファ2400内のデータをデコードし、ビデオ出力3600およびオーディオ出力3700へ出力する処理を行う部分である。すなわち、ストリームバッファ2400に蓄えられたデータをデコードして再生する処理である。
このステップ#31032と、ステップ#31034は並列に動作する。ステップ#31032について以下、更に詳しく説明する。
ステップ#31032の処理はセル単位であり、1つのセルの処理が終了すると次のステップ#31035でPGCの処理が終了したかを評価する。PGCの処理が終了していなければ、ステップ#31030で次のセルに対応するデコードシステムテーブルの設定を行う。この処理をPGCが終了するまで行う。
ストリームバッファからのデコードフロー
次に図51を参照して、図50に示したステップ#31034のストリームバッファ内のデコード処理について説明する。
ステップ#31034は、図示の如くステップ#31110、ステップ#31112、ステップ#31114、ステップ#31116からなる。
ステップ#31110は、図26に示すストリームバッファ2400からシステムデコーダ2500へのパック単位でのデータ転送を行い、ステップ#31112へ進む。
ステップ#31112は、ストリームバッファ2400から転送されるパックデータを各バッファ、すなわち、ビデオバッファ2600、サブピクチャバッファ2700、オーディオバッファ2800へのデータ転送を行う。
ステップ#31112では、ユーザの選択したオーディオおよび副映像のID、すなわち図47に示すシナリオ情報レジスタに含まれるオーディオIDレジスタAUDIO_ID_reg、副映像IDレジスタSP_ID_regと、図19に示すパケットヘッダ中の、ストリームIDおよびサブストリームIDを比較して、一致するパケットをそれぞれのバッファ(ビデオバッファ2600、オーディオバッファ2700、サブピクチャバッファ2800)へ振り分け、ステップ#31114へ進む。
ステップ#31114は、各デコーダ(ビデオデコーダ、サブピクチャデコーダ、オーディオデコーダ)のデコードタイミングを制御する、つまり、各デコーダ間の同期処理を行い、ステップ#31116へ進む。ステップ#31114の各デコーダの同期処理の詳細は後述する。
ステップ#31116は、各エレメンタリのデコード処理を行う。つまり、ビデオデコーダはビデオバッファからデータを読み出しデコード処理を行う。サブピクチャデコーダも同様に、サブピクチャバッファからデータを読み出しデコード処理を行う。オーディオデコーダも同様にオーディオデコーダバッファからデータを読み出しデコード処理を行う。デコード処理が終われば、ステップ#31034を終了する。
次に、図52を参照して、先に述べたステップ#31114について更に詳しく説明する。
ステップ#31114は、図示の如く、ステップ#31120、ステップ#31122、ステップ#31124からなる。
ステップ#31120は、先行するセルと該セルがシームレス接続かを評価するステップであり、シームレス接続であればステップ#31122へ進み、そうでなければステップ#31124へ進む。
ステップ#31122は、シームレス用の同期処理を行う。
一方、ステップ#31124は、非シームレス用の同期処理を行う。
ビデオエンコーダ
MPEGビデオストリームを生成するビデオエンコーダは、MPEGデコーダに装備されているビデオバッファ2600が破綻を来さないように符号化処理、つまりエンコードを行う。通常のビデオ信号を対象としたMPEG2のメインプロファイル、メインレベル規格(以下、MPEG2MP@MLと記す)のビデオストリームをデコードするデコーダには224KB以上の容量を有するビデオバッファ2600を装備することが必要とされている(ISO13818のMPEG規格書参照)。従って、MPEG2MP@ML用ビデオエンコーダはデコーダに最低限装備されている224KB容量のビデオバッファ2600のデータ占有量Vdvを符号化時に於いてシミュレートし、ビデオバッファ2600がアンダーフロー、あるいはオーバーフローしないように符号量制御を行う。
ビデオバッファ2600がアンダーフローを起こすと、デコードに必要なデータが入力をされるまで画像を復号、つまりデコードすることができず、再生画像が一時停止するなど乱れることがある。また、ビデオバッファ2600がオーバーフローすると必要な符号化データが損なわれる場合があり、正しく復号されなくなる恐れがある。
しかしながら、図26に示す本発明のDVDデコーダDCDなどで記録媒体Mからデータを読み出す場合、デコードに必要なデータ量だけを記録媒体Mから読み出す間欠データ転送を実現するできる。この場合、DVDデコーダDCDのビデオバッファ2600がオーバーフローを起こしそうになった場合でも、オーバーフローを起こす前に、データの読み出しを停止することによりオーバーフローが防止され、符号化データが損なわれることなく復号することができる。従って、オーバーフロー対策に於いては再生処理側、つまりデコーダDCDで対応することが可能である。
しかし、データ転送レートの最大値はDVDシステムのドライブ等の制限によりは規定されるため、最大転送レートを超えるレートでデコード処理が進めばビデオバッファ2600がアンダーフローを起こす場合がある。従って、DVDデコーダなどの間欠データ転送を実現できる場合に於いては、符号化時に於いては特にアンダーフローを防止するように符号量制御することが重要である。
ビデオの符号化処理時に於いては、仮想的にビデオバッファ2600のデータ占有量Vdvを計算し、そのデータ占有量Vdvに応じて符号量制御を行う。このビデオバッファ2600のデータ占有量Vdvの計算について、以下に詳しく説明する。
図40を参照して、図26に示す本発明にかかるDVDデコーダDCDに於いて、ビデオエンコードストリームST71をビデオバッファ2600に転送しデコード処理を行う際のビデオバッファ2600のデータ占有量Vdvの推移の一例について説明する。線SViはビデオエンコードストリームSt71の先頭部分のビデオバッファ2600中での蓄積量Vdvの推移を示し、その傾きBRは、ビデオバッファ2600への入力レートを示している。
このビデオバッファへの入力レートは、ビデオエンコードストリームのデータ転送レートであり、DVDからの読み出しレートにほぼ等しい一定レートのシステムストリームのデータ転送レートからビデオストリーム以外のストリームの転送レートを引いた値である。
ビデオエンコードストリームの転送は所定の転送レートBRで行われ、1フレームFvのデコードに必要なデータはデコードの開始と同時に瞬時にビデオバッファ2600からビデオデコーダ3800に転送されるものとする。また、各フレームのデコード開始時刻は再生フレーム周期によって規定されるものであるので、一定のフレーム周期で連続的に再生する場合はデコード開始時刻はフレーム周期と同じ周期で行われる。これら符号化処理を行う上で一般的な条件であり、これに基づいてビデオバッファ2600のデータ占有量Vdvを符号化処理時にターゲット符号量を計算している。
ビデオエンコードにおいて、各フレーム単位では、フレーム毎に目標とするエンコード量をターゲット符号量として設定し、各フレームのエンコード時に、そのターゲット符号量になるようにエンコード処理を行っている。更に、そのターゲットの符号量は、エンコードするビデオ画像を1度、擬似的にエンコードし、各フレーム毎にエンコードするために必要な擬似符号量を得て、その擬似符号量と圧縮ビットレートを基に、得る方法(2パスエンコーディング)と、圧縮ビットレートと圧縮フレーム種類(Iフレーム、Pフレーム、Bフレーム)の違いに応じて、予め設定あるいはエンコード処理時に適切に設定する比率に基づいて各フレームの符号量を得る方法(1パスエンコーディング)がある。
前述のデータ占有量Vdvの計算では、このような手法で得た各フレーム毎の符号量を基に、更にビデオバッファ2600が破綻しないように計算し、最終的なエンコード時のターゲット符号量を算出するのである。
図40に於いて、まず時刻TiでビデオストリームSt71のビデオバッファ2600へのデータ転送を開始する。時刻Tiに於いてはデータ占有量Vdvは0であって、その後所定の転送レートBRで徐々にデータ占有量Vdvは増加していく。そして、データ占有量Vdvが所定の初期占有量Biになった時、つまり時刻Td1に於いて、最初のフレームのデコードが開始される。ここで、データ入力時刻Tiからデコード開始時刻Tdまでの時間がデコードディレイ時間であるデコード保証蓄積時間vbv_delayである。そしてデコードが開始されると同時に、瞬時に1フレームFv分のデータ量BGだけビデオバッファ2600のデータ占有量Vdvは減少し、再び所定の転送レートBRでデータ占有量Vdvは増加する。
初期占有量Biは、復号化処理を開始する時刻でのビデオバッファ2600のデータ占有量Vdvである。
各フレームのデータ量は可変長符号によって符号化処理がなされているため、各フレームのデータ量は一定ではなく、図に示すように各フレームのデコード開始時刻におけるデータ占有量Vdvは変化する。
このようにビデオバッファ2600のデータ占有量Vdvの推移は、初期占有量Biが決まれば、データ転送レートBRよって規定されるデータ占有量Vdvの増加量と、各フレームごとのデータ量に相当する減少量とから、各フレーム毎のデータ占有量Vdvを計算することでができる。
以上にように、設定した初期占有量Biおよびデータ転送レートを条件として、ビデオバッファ2600がアンダーフローあるいはオーバーフローしないように符号量制御を行いながら符号化処理を行う。従って、デコード処理に於いて符号化処理時に設定した初期占有量Biおよびデータ転送レートBRと等しくデコード処理を行わなければ、アンダーフローあるいはオーバーフローを引き起こす可能性があり、適切な映像を再生できないことがある。なお、復号バッファメモリとして、ビデオバッファ2600を例に挙げて、説明したが、サブピクチャバッファ2700及びオーディオバッファ2800に付いても、同様である。
タイトルに使用するビデオエンコードストリームSt71が、一つのビデオ信号の最初から最後までを一度に符号化処理をして、前述のように適切にデコードすれば、問題はないが、別々にエンコードしたストリームを接続再生する時に、ビデオバッファ2600のアンダーフローなどの問題が起きる可能性がある。
例えば映画であれば10分程度のチャプターと呼ばれる単位ごとに符号化処理して各チャプターごとのストリーム生成し、あとでこれらのストリームを接続して一つのビデオエンコードストリームを生成する場合がある。
また、前述したようなマルチアングル再生を行う場合は、マルチシーンである複数のアングルストリームから成るマルチアングルシーンからユーザーが、随時に指定する任意のアングルシーンのストリームに、再生中のストリームをダイナミックに接続して再生しなくてはならない。同様に、パレンタル制御などに於いても、マルチシーンである複数のストリームから成るパレンタル制御区間からユーザが予め選択した任意のシーンのストリームを共通の一つのストリームに、スタティックに接続して再生される。何れの場合に於いても、共通ストリームとマルチシーンの各ストリームは、其々独立に符号化処理される。一方、再生時には、共通のストリームと選択された任意のストリームを接続して連続的にデコードする必要がある。このように、他のストリームとは独立してエンコードした、同一時間軸上のマルチシーンストリームを他のストリームに接続して連続的に再生する場合には、以下に述べるような困難が予想される。
図41を参照して、所定フレーム分のビデオストリームSt71をデコード処理する際のビデオバッファ2600のデータ占有量Vdvの推移を説明する。ここでは、例として5フレーム分のビデオストリームF1、F2、F3、F4及びF5がデコード対象である。特にビデオストリームの終端でのデータ占有量Vdvの推移に着目して説明する。
図40に示した例と同様に、時刻Tiでデータ転送が開始され、デコード保証蓄積時間vdv_delayが経過した時刻Td1(f1)で先頭フレームF1のデコードが開始される。このときのデータ占有量Vdvは所定の初期占有量Biとなっている。以下、同様に傾きデータ転送レートBRで増加し、各フレームのデコード開始時刻(f2、f3、f4、f5)でデコードが開始される。そして、時刻Teに於いてビデオストリームSviのデータ転送が終了する。すなわち、時刻Te以降、ビデオバッファ2600のデータ占有量Vdvは増加することはない。最終のフレームF5が時刻f5でデコードされるとビデオバッファ2600のデータ占有量Vdvはゼロとなる。
次に図42を参照して、二つのビデオストリームSt71a及びSt71bを接した場合のビデオバッファ2600のデータ占有量Vdvの推移を説明する。ここで、先行する第一のビデオストリームSt71a(フレームF1、F2、F3、F4、F5)と、後続する第二のビデオストリームSt71b(フレームF6、F7、...)とを接続する場合を例として説明する。
まず、時刻Ti1でビデオストリームSt71aのビデオバッファ2600への転送が開始される。時刻Te1に於いてビデオストリームSt71aの転送は終了するが、時刻Te1と同時刻であるTi2にビデオストリームSt71bの転送が開始される。従って、図41に示した例とは異なり、ビデオストリームSt71aを転送し終えた時刻Te1以降でも時刻Te2迄はビデオストリームSt71bのデータ転送は行われるため、その間はデータ占有量Vdvはデータ転送レートBRで増加しては、1フレーム分毎のデコードにより減少を繰り返して推移する。
ここで、ビデオストリームSt71aのデコード終了時刻、つまりビデオストリームSt71bのデコード開始時刻Td2、におけるビデオバッファ2600のビデオストリームSt71bによるデータ占有量を最終占有量Be1として定義する。
言い換えれば、二つ以上の符号化データが連続して再生される際に、先行符号化データがビデオバッファ2600へ転送された後にも,後続符号化データが引き続き、所定のデータ転送レートでビデオバッファ2600に転送される。この場合の、先行符号化データの最終データを復号した際の、後続符号化データによるビデオバッファ2600のストリームデータ占有量Vdvである。つまり、本実施態様に於いては、先行符号化データの最終占有量Beは、後続符号化データの初期占有量Biと等しくなるように制御される。
一つのビデオストリームに他のビデオストリームを接続し、連続的に再生するする場合、このような最終占有量Beを符号化時に予め計算しておくことは重要である。それは、先行ストリームの最終占有量Be1は次に接続されるビデオストリームSt71bの初期占有量Bi2となるからである。つまり、図42に於いて先行ビデオストリームSt71aの最終占有量Be1は、ビデオストリームSt71bの初期占有量Be2になる。従って、後続ビデオストリームSt71bを得るための符号化処理に於いて、ビデオバッファ2600の初期占有量Be2をBe2=Be1として設定し、設定された初期占有量Be2を条件としてビデオバッファ2600破綻を来さないように符号量制御を行うのである。
次に、図43を参照して、図21に示すようなDVDシステムの特徴であるパレンタルシーンやマルチアングルシーンのように複数シーンのうちの一つを選択して再生し、各シーンを再生した後、連続的に一つのシーンに合流して再生するといった場合のストリームの構成について説明する。同図は、複数シーンに分岐し、結合して一つのシーンに合流する場合の各シーンのシステムストリームの概念図である。同図に於いて、SSA及びSSBは共通システムストリームを、SSB1及びSSB2はマルチシーン区間の各システムストリームを表している。システムストリームとは、共通システムストリームSSAを例にとって説明すると、同共通シーンのビデオストリームVAとオーディオストリームAAを多重化して生成されている。この場合は、ビデオストリームVAはシステムストリームSSAの開始端から始まり、終了端の手前で終わる。一方、オーディオストリームAAは、システムストリームSSAの途中から始まり、終了端を共有する。同様に、各シーンのビデオストリームとオーディオストリームとを多重化したデータストリームである各システムストリーム内のビデオストリームとオーディオストリームの時間的な位置が図43に示されている。このように、オーディオストリームとシステムストリームをシステムストリーム内で、時間的に前後に配列する理由について以下に説明する。
シーンが複数に別れるマルチシーン区間に於いては、各シーン毎にシステムストリームを構成しなくてはならない。ところで、一般的にビデオデータの符号量はオーディオデータの符号量と比較して大きい。また、ビデオデータのビデオバッファ2600の容量はオーディオデータのオーディオバッファ2800に比較して大きなものになっている。さらに、ビデオデータのデコード遅延、すなわちビデオバッファ2600に入力開始後、デコードされるまでの時間はオーディオデータのデコード遅延に比較して大きい。
これらのことから、ビデオストリームとオーディオストリームとを多重化してシステムストリームを生成する際に、同時刻に再生されるビデオデータとオーディオデータに関して、図43に示したように、ビデオデータはオーディオデータよりも先行してデコーダに入力されるように多重化される。つまり、時間的にシステムストリームの先頭部ではビデオのみがビデオバッファ2600に、そしてシステムストリームの終端部ではオーディオのみがオーディオバッファ2800に入力されるように多重化される。
また、オーディオバッファ2800がオーバーフローしないように、適当な間隔をもって、オーディオデータが、オーディオバッファ2800に入力されるように多重化する必要がある。システムストリームの終端部では、ビデオバッファ2600に入力すべきビデオストリームがないため、オーディオバッファ2800に適当な間隔でオーディオストリームが入力されるように、オーディオバッファ2800のデータ占有量Vdaに応じてデータ転送を中断するなどして、オーディオバッファ2800のオーバーフローを防止する。
図44に、先に示したマルチシーンシステムストリームSSB1と、共通シーンシステムストリームSSCとを単純に結合したときのシステムストリームの概念図を示している。図のように、システムストリームSSB1の終端部ではオーディオAB1のみがオーディオバッファ2800に入力されるように多重化されている。従って、システムストリームSSB1とシステムストリームSSCとを接続したとしても、先行システムストリームSSB1のオーディオAB1の終端部のみがオーディオバッファ2800に入力されている時間だけ、後続システムストリームSSCのビデオデータVCを転送することができず、ビデオバッファ2600がアンダーフローを起こす可能性がある。
そこで、以下の図45で示したようなシステムエンコード作成方法を用いて、ビデオストリームの一部、あるいはオーディオストリームの一部を移動して、のアンダーフローを防止する方法が特願平7−252735に提案されている。
図45を参照して、このストリームの一部の移動を行ってシステムストリームを得る方法について説明する。図43に示すシステムストリームと同様に、本図に於いても、共通システムストリームSSA‘からマルチシーン区間のシステムストリームSSB1‘とSSB2‘に分岐して接続するところでは、オーディオAAの終端部AAeをオーディオAB1およびAB2に移動させる。オーディオAAの終端部AAeの複数のコピーが存在することになるが、こうすることで分岐点でのデータの不連続性がなくなり、ビデオバッファ2600のアンダーフローが防止できる。また、複数ストリームからの結合点では、ビデオVCの先頭部VCtをビデオVB1、とVB2にコピーして移動させる。分岐点とは異なりビデオストリームを移動させるのは、一般的にオーディオAB1とオーディオAB2は異なるため、共通のデータであるビデオVCの先頭部をコピーするのである。オーディオAB1とオーディオAB2が全く同一であれば、オーディオAB1(またはAB2)の終端部をオーディオACに移動させてもよいことは明らかである。
MPEG方式に於いて、フレーム内符号化を行うフレームによって規定されるGOPという単位でビットストリームを扱うのが通常である。従って、結合点におけるビデオストリームの移動もGOPを単位として行われる。
上述の方法で、システムエンコードを得た場合に於けるビデオバッファ2600のデータ占有量Vdvの連続性について説明する。システムストリームの接続点と、もともとのビデオストリームの接続点あるいはオーディオストリームの接続点とが異なる。特に、ビデオVCの一部はシステムストリームSSB1‘に含まれるが、元々連続したビデオストリームSSC’のビデオVCを切断してできた接続点であるから、システムストリームSSB1‘とシステムストリームSSC‘の接続点において、ビデオバッファ2600のデータ占有量Vdvの連続性は保たれる。また、ビデオVB1のビデオバッファ2600の最終占有量、およびビデオVB2のビデオバッファ2600の最終占有量と等しくなるようにビデオVCの初期占有量Biを設定し、符号化処理時に、通常のデータ占有量Vdvの計算方法を用いて計算することでビデオバッファ2600占有量Vdvの変化の連続性を保つことができる。
更に、図46を参照して、間欠データ転送におけるビデオバッファ2600のデータ占有量Vdvの推移を用いて説明する。同図に於いても縦軸は、間欠データ転送を行い、ビデオエンコードストリームSS1とビデオエンコードストリームSS2とを接続したときのビデオバッファ2600のデータ占有量Vdvを示しており、横軸は時間の経過を示している。図において、f1〜f8はそれぞれ、フレームF1〜F8のデコード時刻を示している。
各時刻に沿って説明する。まず時刻Ti1にストリームSS1のビデオバッファ2600へのデータ転送が開始する。時刻Td1に於いて最初のフレームF1のデコードが行われる。
以下、図40で説明したの同様にデータ占有量Vdvは推移する。ただし、時刻Ts1に於いてデータ占有量Vdvは所定量Bmaxに達する。ここで、Bmaxを越えてデータ転送を行うと、ビデオバッファ2600がオーバーフローを起こしデータが損なわれる場合があるため、データ転送を一時中断する。すなわち、データ占有量Vdvは一定に保たれる。その後、時刻f3に於いてフレームF3がデコードされるとビデオバッファ2600のデータ占有量Vdvは所定量Bmaxを下回るため、再びデータ転送が開始される。以下、同様にしてデータ占有量Vdvが所定量Bmaxに達するとデータ転送を中断して、デコード処理によってデータが消費されると、再びデータ転送が開始する。
この図46に示した例では、時刻Ts1、Ts2、Ts3、Ts4、Ts5に於いてデータ転送が中断している。また、時刻Ti2‘はビデオエンコードストリームSS2のデータ転送の開始であり、またビデオエンコードストリームSS1のデータ転送の終了とする。
なお、図で示した時刻にデータ転送を中断を開始されると限定されるものではないが、ビデオエンコードストリームSS1のデータ転送期間である時刻Ti1から時刻Ti2‘までの期間Tt1で、データ転送を中断しなくてはならない期間DGは以下の式1に基づいて算出することができる。
DG=Tt1-D1/Br ・・・・(式1)
ここで、D1はストリーム1のデータ量、BrはビデオエンコードストリームSS1のデータ転送レートである
以上のように、ビデオバッファ2600がオーバーフローするのを防止するため、データ転送の中断を適宜行うようにビデオバッファ2600へのデータ転送時間を管理して、その時間を符号化データとともにデータ転送時刻として、MPEGの規格に基づいてストリーム中に、記録する。再生時には、ビデオバッファ2600がオーバーフローしないように、符号化データとともに記録されたデータ転送時刻に従ってデータ転送を行ってデコード、再生する事ができる。
しかしながら、マルチアングル再生のように複数のビデオ信号を所定の単位、すなわちILVU単位で自由に結合させて一つのタイトルを得る場合は、マルチアングルシーン区間内の複数のビデオストリームがいかに接続して再生されるかはエンコード時に於いては認識できない。そのため、マルチアングルの切り替え時などの、デコーダDCDのビデオバッファ2600のデータ占有量Vdvの推移をエンコード時に於いて認識することができず、ビデオバッファ2600の破綻を来す場合がある。
また、可変長符号を用いて符号化処理される場合、第一のビデオストリームをデコードした際のビデオバッファ2600の最終占有量は第一のビデオストリームの符号化処理を終了した後でなければ得られない。この第一のビデオストリームの終端に第二のビデオストリームをシームレスデータ接続する場合、第二のビデオストリームは、ビデオバッファ2600の初期占有量Biを第一のビデオストリームの最終占有量と等しく設定し、ビデオバッファ2600が破綻を来さないように符号量制御して符号化処理する必要がある。従って、第二のビデオストリームの初期占有量Biを得られるのは第一のビデオストリームを得るための符号化処理後であるから、2つのビデオエンコードストリームをシームレスに接続再生するのは、再生するビデオストリーム順に符号化する必要がある。
また、第一のビデオストリームの符号化時の最終占有量と、第二のビデオストリームの初期占有量Biが一致していない場合には、図46に於いて、ストリーム2の最初のデータがデコードされる時刻Td2(f7)におけるビデオバッファ2600のデータ占有量VdvはBi2として符号量制御を行いながら符号化処理がなされた。しかし、デコード時では、時刻Td2(f7)ではストリームSS1の最終占有量Bi1となっている。また、デコード時では時刻Ts4、およびTs5でデータ転送の中断があるが、符号化時に於いてはこのようなデータ転送の中断はない。つまり、符号化時に於いて想定しない時刻に於いて復号化バッファメモリがオーバーフローすることになる。
上記のようなストリームSS1とストリームSS2とが必ず接続される場合であれば、図2206のようなデータ占有量Vdvの推移は符号化時に於いて計算するは可能ではある。しかし、前述したようにマルチアングル再生など、複数の選択できるストリームから一つのストリームへ合流し、連続的に再生する場合などに於いては、ストリームSS1とは異なる第三のストリームとストリームSS2とが接続される場合がある。この場合もストリーム2のビデオバッファ2600のデータ占有量Vdvの推移が符号化時に計算したものと等しくするには、ストリーム2に接続されうる複数のストリームの最終占有量をすべて等しくする必要がある。
ビデオストリームを得るための符号化処理に於いて、MPEG方式など可変長符号化処理を行った場合、符号化データのデータ量は符号化処理が完了したときに初めて確定する。それは、ビデオデータのもつ情報量、すなわち、空間的な複雑さあるいは時間的な複雑さ、および過去の符号化の状態によって用いられる符号が選択され、符号長が決定するからである。従って、符号化データのデータ量をあらかじめ設定した所定量に正確には規定することが困難なために、最終占有量も正確には規定することは困難である。
特に、ビデオデータのもつ情報量に応じて符号化データのデータ量を割り当てて符号化処理を行う場合では、ビデオデータが異なれば割り当てるデータ量は当然異なり、ビデオバッファ2600のデータ占有量Vdvの推移は異なってくる。従って、複数のビデオデータの最終占有量を同一することは困難である。
本発明はかかる点に鑑み、独立に符号化して得られた複数のビデオストリームを任意に結合させてもビデオバッファ2600の破綻を来すことなく、スムーズな再生画像を得るための符号化方法、及び符号化装置、および記録方法、および記録媒体、および再生方法を以下如く開示する。
また、複数のビデオストリームを接続して一つのビデオストリームを得る場合に於いて、各ビデオストリームを得るために時間的に直列的に符号化処理する必要をなくし、並列的に符号化処理することにより処理時間の短縮、および処理管理の簡便さを実現する符号化方法、及び符号化装置、および記録方法、および記録媒体、および再生装置を以下の如く開示する。
さらに、選択可能な複数のシーンのビデオストリームを再生し、各ビデオストリームを再生した後、ビデオバッファ2600の破綻を来すことなく連続的に一つのシーンのビデオストリームを再生するための符号化方法、及び符号化装置及び記録方法、および記録媒体、および再生方法を以下の如く開示する。
以下本発明の一実施形態について、図面を参照しながら詳細に説明する。本明細書に於いて、まず、本発明の符号化装置の構成、および各画像グループを符号化する際の動作について説明し、次に、本発明の映像符号化装置によって得られた符号化データからなるストリームを記録する方法について説明する。更に、記録媒体について説明した後で、再生方法について説明する。
まず、本発明の実施形態の説明で使用する用語の定義を以下に行う。
図21で示したような各シーンを一つの画像グループと定義して、以下に説明する。画像グループは、これに限らずシーンを分割して構成しても良いし、複数の異なるシーンでも良い。
本実施形態における画像グループは、例えば図21における各シーンに基本的に相当する。また、シームレス切り替えのマルチアングルにおけるインターリーブユニットILVUも画像グループに相当する。
次に、ビデオエンコードストリームのデコード時におけるビデオバッファ2600の最終占有量は、以下のように定義する。
図41に示すように、画像グループのビデオエンコードストリームのデコードに於いて、ビデオバッファ2600へのデータ転送が終了した場合、ビデオエンコードストリームの最終データをデコードした後ではビデオバッファ2600のデータ占有量Vdvは0になる。しかし、実際には、一つのビデオエンコードストリームに他のビデオエンコードストリームを接続してストリームを構成されることが多い。この様なストリームを接続した場合の、ビデオバッファ2600のデータ占有量Vdvを求めるには、ビデオエンコードストリームの最終データを転送した後も、引き続いて接続されるであろう仮想のビデオエンコードストリームを復号バッファに転送すると仮定する。
この仮定を基に、ビデオエンコードストリームの最終データをデコードした際のビデオバッファ2600に於けるデータ占有量Vdvを最終占有量Beとして計算する。本発明における最終占有量Beとは、このように仮想の符号化データがその後も引き続きビデオバッファ2600にデータ転送されるとして計算されたものと定義する。
以下、図53を参照して、図25に示すDVDエンコーダECDのビデオエンコーダ300の一実施形態300‘を示す。ビデオエンコーダ300’、つまり映像符号化装置は、圧縮符号化器22101、符号量制御器22102、割当符号量規定器22103、発生符号量測定器22104、復号バッファ占有量計算器22105から構成される。
圧縮符号化器22101は、編集情報作成部100に接続されてビデオストリームSt1を入力される。圧縮符号化器22101は、このビデオストリームSt1に圧縮符号化処理を加えて、ビデオエンコードストリームSt15を生成する。
復号バッファ占有量計算器22105は圧縮符号化器22101に接続されて、符号化データが入力される。復号バッファ占有量計算器22105は、入力された符号化データに基づいて、ビデオバッファ2600のデータ占有量Bを算出する。
割当符号量規定器22103は、復号バッファ占有量計算器22105に接続されて、ビデオバッファ2600のデータ占有量Vdv算出結果の入力を受ける。割当符号量規定器22103は、この算出結果に基づいて、エンコード後のデータ量の目標値であるターゲット符号量を、符号量制御器22102に設定する。すなわち、割当符号量規定器22103では、それぞれのフレーム毎に予め割り当てられた符号量に基づいて、ビデオバッファ2600の占有量をシミュレートを行う。
シミュレートの結果、アンダーフローしなければ、予め割り当てられた符号量をターゲット符号量とし、アンダーフローする場合には、予め割り当てられた符号量から、アンダーフローしない符号量に変更してターゲット符号量とする。
発生符号量測定器22104は、圧縮符号化器22101に接続されて、ビデオエンコードストリームの入力を受ける。発生符号量測定器22104は、入力された符号化データの発生符号量を所定時間測定して測定値を示す信号を生成する。
符号量制御器22102は、割当符号量規定器22103と発生符号量測定器22104に接続されて、割当符号量規定器22103に設定されたターゲット符号量に基づき、圧縮符号化器22101を制御する。さらに、符号量制御器22102は、発生符号量測定器22104からの発生符号量を示す信号を受け、ターゲット符号量との差を求め、この差を小さくなるように圧縮符号化器22101を制御する圧縮符号化制御信号を生成する。
圧縮符号化器22101は、更に、符号量制御器22102に接続されて圧縮符号化制御信号の入力をうける。圧縮符号化器22101は、圧縮符号化制御信号に基づいて、ビデオストリームSt1にエンコード処理を施して、ビデオエンコードストリームDenを生成する。この結果、生成されたビデオエンコードストリームの符号量は割当符号量規定器22103で設定されたターゲット符号量に制御される。
次に、図54及び図55を参照して、復号バッファ占有量計算器22105と割当符号量規定器22103の動作について詳細に述べる。
図54には、復号バッファ占有量計算器22105の動作をフローチャートで示しており、同フローチャートの各ステップは1フレームのエンコード処理をいくつかに分割した期間Tで処理が進む。また、デコード処理に於いて、ビデオバッファ2600へのデータ転送は間欠的に行われる場合について説明する。同フローチャートにおいて、ビデオバッファ2600において、エンコード中に変化するデータ占有量をBとする。また、ターゲット符号量に基づいて計算されるエンコード中の期間T毎に予想されるデータ占有量を予想占有量BLとする。また、エンコード開始時のビデオバッファ2600の初期占有量をBi、エンコード終了時の目標とする最終ターゲット占有量をBE、エンコード後の最終占有量をBe、ビデオバッファの最大量の値をBmaxとする。
以下、第1のビデオエンコードの実施形態として、エンコード処理後のビデオエンコードストリームが、それぞれ独立してエンコードしても、デコード時にビデオバッファ2600のアンダーフローを起こさないビデオエンコード方法及び装置の一例について説明する。
第1の実施形態では、オーサリングエンコーダEDCのエンコードシステム制御部200の図29に示すビデオエンコードパラメータのビデオエンコード初期データV_INSTとして初期占有量Biを、ビデオエンコード終了データV_ENDSTとして最終ターゲット占有量BEを、それぞれ設定する。その設定値は、予め定められた値であり、BE>Biである。
以下、図54に示す画像グループをエンコードするフローチャートを説明する。
ステップ#201では、エンコードシステム制御部200で所定の値を設定したエンコードパラメータであるビデオエンコード初期データV_INSTに基づいて、生成する初期占有量BiにBを初期化する(B=Bi)。
ステップ#202では、期間Tの符号化データの発生符号量Bgを測定し、Bから発生符号量Bgを減算する(B=B−Bg)。
ステップ#203では、データ占有量Bが予想占有量BLよりも大きいか否かを評価する。データ占有量BがBLよりも大きい場合、すなわち“YES”の場合はステップ#204に進む。一方、データ占有量がBLより小さい場合、すなわち“NO”の場合は、ステップ#210に進む。
ステップ#210では、続いてエンコードされるフレームへの割当符号量を抑制するように割当符号量規定器22103を制御する。
ステップ#204では、ビデオバッファ2600に入力するビデオ転送レートBRに基づく期間Tのデータ占有量Vdvの増加量BrをBに加算する(B=B+Br)。これにより、期間T後のBを求める。
ステップ#205では、データ占有量Bが所定の最大占有量Bmaxより小さいか否かを評価する。“YES”の場合、つまりデータ占有量BがBmax以上のとき、ステップ#206に処理が進む。一方、“YES”の場合には、ステップ#207に進む。
ステップ#206では、データ占有量Bを最大占有量Bmaxとする(B=Bmax)。これにより、データ占有量Bの最大値をBmaxで制限する。ステップ#207では、画像グループの最後のフレームを処理しているか否かを評価する。“YES”の場合、つまり最後のフレームを処理している場合、ステップ#208に進む。一方、“NO”の場合には、ステップ#202に進む。
ステップ#208では、データ占有量定の最終ターゲット占有量BEよりも大きい否かを評価する。“YES”の場合、つまりデータ占有量BがBEよりも大きい場合、ステップ#209に進む。一方、“NO”の場合、ステップ#211に進む。
ステップ#211では、続くビデオストリームの符号量を抑制するように割当符号量規定器22103を制御する。ステップ#209に進む。
ステップ#209では、エンコード処理が終了か否かの評価を行う。画像グループの処理中であればステップ202に進む。
ビデオエンコードの対象が、シームレス切り替えのマルチアングルの場合には、以上のフローがILVU数分、繰り返される。
以上のフローチャートにおける特徴点について、更に詳細に説明する。
ステップ#203、ステップ#210は、ビデオバッファ2600のアンダーフローを防止を目的のための処理である。すなわち、ビデオバッファ2600のデータ占有量Bが予想占有量BLよりも小さくなると、1フレームのエンコード終了時に、ビデオバッファ2600がアンダーフローする可能性があるので、割当符号量規定器22103を制御して続くビデオストリームデータの割当符号量を抑制するのである。このような処理により、ビデオバッファ2600のアンダーフローを防止するための処理である。
また、ステップ#205、ステップ#206はビデオバッファ2600のオーバーフローへの対応のための処理である。すなわち、データ占有量Bが最大占有量Bmaxを越える時刻を得て、デコード処理時において、その時刻から、データ転送を停止する。このようにする事により、オーバーフローの対応をはかる。
ステップ#207、ステップ#208、ステップ#211は本発明の特徴であり、画像グループの最後のフレームのエンコード終了時のデータ占有量を制限する事を目的とする。データ占有量Bが予想占有量BEよりも小さくなると予想された場合に、続くビデオストリームのエンコード時の割当符号量を抑制するように割当符号量規定器22103を制御する。
このように割当符号量を制御することによって、フレーム毎の符号量の変化、及び総符号量の変化が予想されるが、フレーム毎に変化分は時間的に前あるいは後の複数の割り当て符号量に、その変化分の符号量を加算あるいは減算する事により、総符号量を所定の量にあわせる事が可能になる。
このような第1の実施形態により、画像グループのビデオエンコードストリームをデコード処理した後のデータ占有量Bは、最終占有量Beであり、最終ターゲット占有量BE以上の値、すなわち初期占有量Bi以上の値となる。
すなわち、第1の実施形態で得られるビデオエンコードストリームの初期占有量Biと最終占有量Beは、Bi以上の値であり、ビデオエンコードストリームを接続して再生しても、ビデオバッファ2600がアンダーフローする事はない。
第1の実施形態で得られたビデオエンコードストリームを1対1の接続を行って再生しても、ビデオバッファがアンダーフローする事はない。また、図45に示すような分岐と結合のあるシーン間の接続においても、全て同一の初期占有量Bi及び最終占有量Beである、かつBEはBi以上の値であるので、ビデオバッファがアンダーフローする事はない。また、シームレス切り替えのマルチアングルにおいても、全てのアングルの全てのILVUにおいても、同様に、ビデオバッファがアンダーフローする事はない。
次に第1の実施形態の装置の一例として、図55に於いて、図54で示したフローチャートを実現する復号バッファ占有量計算器22105の一例のブロック図を示している。
図に示すバッファ占有量計算器22105は、スイッチ22301、端子22302、22303、減算器22304、符号量測定器22305、加算器22306、第1の比較器22307、クリップ回路22308、第2の比較器22309、端子22310、端子22311、スイッチ22312で構成される。
以下に、復号バッファ占有量計算器22105の構成及び動作について説明する。
まず、画像グループの最初のフレームをエンコードする直前に於いて、スイッチ22301が端子22302に接続され、データ占有量Bが初期占有量Biとなる。
次に、初期占有量Biに設定された後は、スイッチ22301は端子22303に接続され、メモリ22313に記憶される所定期間T後のデータ占有量をデータ占有量Bとする。スイッチ22301の出力は減算器22304に入力され、減算器22304はデータ占有量Bから符号量測定器22305によって測定した所定期間Tの発生符号量Bgを減算する。
次に、減算後のデータ占有量B‘は第一の比較器22307によって予想占有量BLと比較する。ここで、データ占有量B’がBLよりも小さくなると、続くビデオストリームの割当符号量を抑制するように割当符号量規定器22103を制御し、アンダーフローを防止する。
一方、減算器22304の出力B‘は加算器22306に入力される。加算器22306は期間Tにビデオバッファ2600に入力されるデータ量BrをB’に加算する。加算器22306の出力はクリップ回路22308によって最大占有量Bmaxで制限し、オーバーフローの対策を行う。クリップ回路22308の出力はメモリ22313に入力されて、次の期間Tのデータ占有量Bとして記憶される。
さらに、画像グループの最終フレームのエンコード処理を行う場合、クリップ回路22308の出力は第二の比較器22309によって最終占有量BEと比較する。クリップ回路22308の出力がBEよりも小さくなると、続くビデオストリームのエンコードの割当符号量を抑制するように割当符号量規定器22103を制御し、画像グループの符号化処理の終了後の復号バッファのデータ占有量Vが最終ターゲット占有量BE以上になるようにする。
また、スイッチ22312は画像グループの最後のフレームを処理している場合は端子22310に接続される。
一方、最後のフレーム以外の処理の場合はスイッチ22312は端子22311に接続され、第二の比較器22309による比較結果が割当符号量親定器22105を制御し、第一の比較器22307の比較結果によって割当符号量規定器22105を制御する。
このような構成にすることにより、図54で示したフローチャートを実現することができる。
前述したように、本実施形態の符号化方法および符号化装置で得られるビデオエンコードストリームを接続させても、Be>Biの関係が成立し、連続してデコードしても、ビデオバッファ2600がアンダーフローする事なく、再生できる。
次に、本発明の符号化方法および符号化装置の第二の実施形態について説明する。符号化装置の構成は図53と同様であるが、復号バッファ占有量計算器22105の動作が異なる。
図56は、復号バッファ占有量計算器22105の動作の一例としてフローチャートを示している。第一の実施形態では各画像グループの符号化処理におけるビデオバッファ2600の初期占有量Biを同一の所定量として、最終占有量Beが最終ターゲット占有量BE(BE>Bi)以上となるように割当符号量を制御するものであったが、本実施形態では、第一の画像グループに続く第二の画像グループの初期占有量Biを第一の画像グループに対する最終占有量Beよりも小さく設定して第二の画像グループをエンコードを行うのである。すなわち、第一の実施形態と異なる点は、接続して再生するビデオエンコードストリームの先行するビデオエンコードストリームを予め、エンコードする点と、最終占有量Beの制御を行わない点である。
以下、第一の実施形態と異なる処理について図56を参照して、説明する。
ステップ#1601では、先行する第一の画像グループのビデオエンコードストリームの最終占有量Beよりも小さい初期占有量をBiとして設定する。
ステップ#1602では、データ占有量Bをステップ#1601で設定した初期占有量Biに初期化する。
以下、第一の実施形態と同様であるが、図54のステップ#207、ステップ#208、およびステップ#211を必要としない。
次に、第2の実施形態の符号化装置の一例として、図57に、図56で示したフローチャートを実現する復号バッファ占有量計算器22105の一例のブロック図を示す。
図57の復号バッファ占有量計算器22105は図55の復号バッファ占有量計算器22105とほぼ同様の動作をするが、初期占有量Bi決定器221700を備えている点が異なる。
以下、図を参照して説明する。
画像グループの符号化を開始する前に於いて、初期占有量Bi決定器221700には、直前の画像グループの最終占有量Beよりも小さな値を初期占有量Biとして設定する。
初期占有量Biの設定後はスイッチ22301が端子22302に接続され、データ占有量Bが初期占有量Biに設定される。
初期占有量Biに設定された後は、スイッチ22301は端子22303に接続され、メモリ22313に記憶されている内容がデータ占有量Bとなる。
スイッチ22301の出力は減算器22304に入力され、減算器22304はデータ占有量Bから符号量測定器22305によって測定した所定期間Tの発生符号量Bgを減算する。
減算後のデータ占有量B‘は第一の比較器22307によって所定のしきい値BLと比較する。ここで、データ占有量B’がBLよりも小さくなると、続くビデオストリームの符号量を抑制するように割当符号量規定器22103を制御し、アンダーフローを防止する。
一方、減算器22304の出力B‘は加算器22306に入力される。加算器22306は期間Tにビデオバッファ2600に入力されるデータ量BrをB’に加算する。加算器22306の出力はクリップ回路22308によって最大占有量Bmaxで制限し、オーバーフローの対策を行う。クリップ回路22308の出力はメモリ22313に入力されて、次の期間Tのデータ占有量Vdvとして記憶される。画像グループの符号化が終了したときのデータ占有量を最終占有量Beとして、次の画像グループの初期占有量Biを求めるのに使用する。
このように構成することにより、図56で示したフローチャートを実現することができ、先行する第一の画像グループのストリームに続けて接続される第二の画像グループの初期占有量Biは、第一の画像グループの最終占有量Beよりも小さな値に設定されて符号化処理がされる。
図57の復号バッファ占有量計算器22105は図55のものと比較して、最終占有量Beの制御のための比較器22309、スイッチ22312が必要なく、符号量の割当に関する制限が少なくなる。
次に、本発明の符号化方法および符号化装置の第三の実施形態について説明する。第1の実施形態の符号化装置の図53と同様であるが、復号バッファ占有量計算器22105の動作が異なる。
図58に於いて、復号バッファ占有量計算器22105の動作の一例としてフローチャートを示している。第一の実施例では各画像グループのビデオバッファ2600の最終占有量Beの制御のための最終ターゲット占有量BEを設定したが、最終占有量Beが次の画像グループの初期占有量Biよりも大きな占有量となるように最終ターゲット占有量BEを設定する処理ステップ221800が加わっている点が異なる。そのほかの処理は図53と全く同様であるので省略する。
図59に於いて図58のフローチャートを実現する復号バッファ占有量計算器22105の一例のブロック図を示している。図55の復号バッファ占有量計算器22105と比較すると、しきい値決定器221900を具備している点が異なる。しきい値決定器221900は、現在符号化処理している画像グループに続く次の画像グループの所定の初期占有量Biよりも大きな最終ターゲット占有量BEを求めるものである。
図において、しきい値決定器221900の入力は、接続時、後続となる次の画像グループの初期占有量Biである。最終占有量Beが最終ターゲット占有量BE(BE>Bi)以上になるように、図55の第1の実施形態のようにビデオバッファの占有量を制御する。
このように構成して、画像グループの初期占有量Biを事前に決定しておけば、その前に接続する画像グループの最終占有量Beが、続く画像グループの初期占有量Biよりも大きな値になる。
第一の実施形態では、各画像グループの初期占有量Biは全て同じものとしたが、第二および第三の実施形態では画像グループ毎に初期占有量Biを設定する。また、第二の実施形態では、最終占有量Beに基づいて続く画像グループの初期占有量Biを規定したために、接続するビデオエンコードストリームの順序で符号化処理がなされなくてはならない。
第一及び第三の実施形態では、符号化処理は任意の順序で処理することができ、並列処理を行うことにより、処理の時間短縮、および符号化処理の順序の管理の削減が得られる。
以上の符号化方法及び符号化装置で得られたビデオエンコードストリームを1対1の接続を行って再生しても、ビデオバッファがアンダーフローする事はない。また、図45に示すような分岐と結合のあるシーン間の接続においても、初期占有量Biが最終占有量Be以下であるので、ビデオバッファがアンダーフローする事はない。
また、シームレス切り替えのマルチアングルにおいても、第1の実施形態で、全てのアングルの全てのILVUの初期占有量Bi、最終占有量Beを同一にし、かつ、初期占有量Biが最終占有量Be以下とすることで、アングル切り替え時にも、ビデオバッファがアンダーフローする事はない。
次に、前述した符号化方法及び符号化装置で得られた、ビデオエンコードストリームを接続して再生するためビットストリームの生成方法について、図60を用いて説明する。
同図に於いて、ビデオエンコードストリームSS1(フレームF1、F2、F3、F4、F5)とビデオエンコードストリームSS2(フレームF6、F7、...)とを接続して再生することを想定して生成する場合を例として説明する。なお、ビデオエンコードストリームSS1およびビデオエンコードストリームSS2は本発明の符号化方法および符号化装置を用いて生成されたものである。
また、ビデオエンコードストリームSS1の最終占有量Be1はビデオエンコードストリームSS2の初期占有量Be2よりも大きなものになっている。なお、ビデオエンコードストリームSS1の最終占有量Be1はビデオエンコードストリームSS1のビデオバッファ2600への転送後も引き続いてデータ転送した時、ビデオエンコードストリームSS1の最終データをデコードしたときのビデオバッファ2600のデータ占有量である。この場合のデータ占有量の推移を図60中に破線で示している。
同図において、ビデオエンコードストリームSS1のデータ転送が時刻Te1に於いて終了すると期間DTiだけデータ転送を中断し、その後時刻Ti2にビデオエンコードストリームSS2のデータ転送を開始している。このようにする事で、ビデオバッファは破綻しない。すなわち、アンダーフローもオーバーフローも起こらずに、スムーズにデコード処理ができるのである。
このようなビットストリームを生成するために、MPEGの規格に基づくビデオストリームに、ビデオバッファに転送される時間情報を利用する。すなわち、ビデオエンコードストリームSS2のビデオバッファへの転送開始時刻を、Te1ではなく、Ti2とする事で実現できる。その結果、ビデオエンコードストリームのビデオバッファ2600への転送には時間DTi分の中断できる。
この期間DTiだけデータ転送を中断することにより、ビデオエンコードストリームSS2の先頭データのデコード時間におけるデータ占有量Vdvは、符号化時に於いて規定した初期占有量Be2になる。
従って、デコード時に於いて、符号化時に計算したビデオバッファ2600のデータ占有量と等しくデコードすることができる。つまり、符号化時に於いてビデオバッファ2600の破綻を来さないことを少なくとも保証しておけば、デコード時に於いてビデオバッファ2600のビデオバッファ2600の破綻を防止することができる事になる。
なお、データ転送の中断する時間DTiは最終占有量Be[bits]と続く符号化データの初期占有量Bi[bits]との差によって規定されるものである。また、ビデオデータのデータ転送レートをBr[bits/sec]とすると、期間DTi[sec]は(式2)で計算することができる。
Dti=(Be-Bi)/Br ・・・・・・(式2)
なお、(式2)における転送レートBrはビデオストリームのみに与えられる転送レートであって、システムストリーム全体の転送レートとは異なる。
なお、転送を中断する時刻はビデオエンコードストリームSS1を転送した後としたが、これに限らず、期間DTiをいくつかに分割して複数回のデータ転送の中断を行っても構わない。
また、どの時刻に於いて中断しても構わず、少なくとも一回のデータ転送の中断が存在し、ビデオエンコードストリームSS2の最初のデータの復号が開始される時刻Td2に於いて、データ占有量がBe2となっていればよい。
なお、図60ではBi1とBe2とを異なるように説明しているが、同一の値であっても構わない。
また、オーディオストリームなど他のデータを転送するためにビデオストリームのデータ転送が(式2)以上に中断される場合もある。しかし、この場合でも、デコード開始時刻に於いてビデオバッファ2600のデータ占有量が初期占有量Biに必ず達するようにデータ転送は行われなくてはならない。従って、このような場合はビデオエンコードストリームに与えられるデータ転送レートBrが他のデータの影響により変化することも考慮して、データ転送の中断時間、およびビデオバッファ2600のデータ占有量Vdvの計算を行わなくてはならない。
また、複数のビデオストリームを多重化して一つのデータストリームを構成している場合、多重化されているストリームの数、各ストリームのデータ量などから、同一のビデオストリームのデコード処理であってもデータ転送レートが変化する場合もある。このことも考慮して、データ転送の中断時間、ビデオバッファ2600のデータ占有量Vdvの計算を行わなくてはならない。
次に、図61に於いて本発明の第2のビットストリームの生成方法を説明する。本発明の生成方法の第二の実施形態は、第一の実施形態で説明したビデオストリーム1のデータ転送の中断を行う分だけ、ビデオエンコードストリームSS1中にパディングデータを挿入する方法である。
つまり、ビデオエンコードストリームSS2の初期占有量Be2が符号化時に設定したもの等しくなるように、MPEG規格に基づく、パディングデータを、データ量を(Be1−Be2)分だけ生成し、ビデオエンコードストリームSS1として生成する方法である。
以上のように作成されたビデオエンコードストリームSS1とSS2を接続してデコードすると、デコード時におけるビデオストリーム2の初期占有量Biは符号化時に設定したものと等しくなり、デコード時のビデオバッファ2600のデータ占有量の推移は符号化時に想定したデータ占有量の推移と等しくすることができる。
なお、パディングデータはビデオバッファ2600に転送されるが、符号化データとは異なる所定のデータであれば何でも構わない。
また、パディングデータの挿入位置はビデオストリームSS1中であればどこでも構わず、いくつかに分割されて挿入されても構わない。
なお、本発明のビットストリーム生成方法の第一の実施形態で説明したデータ転送の中断と、第二の実施例で説明したパディングデータとを組み合わせても構わない。すなわち、データ転送の中断と、パディングデータの挿入により、ビデオストリーム2の最初のデータのデコード時におけるデータ占有量が符号化時に設定した所定の初期占有量Be2になるように記録すればよい。
以上の本発明の生成方法によりもたらされる効果については、後述する本発明の再生方法の説明とともに述べる。
本発明のデータは、1つの例として、図4から図14に示したDVDに図62に示すように記録される。
図62に示したDVD22801は本発明の符号化方法および符号化装置によって生成された2つ以上の画像グループの符号化データのストリームが記録されているが、例として第一の符号化データ22901、第二の符号化データ22902、および第三の符号データ22903が記録されているとする。
この光ディスク22801の特徴は、少なくとも一つの画像グループの符号化データのビデオバッファ2600へのデータ転送が終了した後、期間DTi(DTi>0)の間隔の転送データの中断があって、次の画像グループの符号化データのビデオバッファ2600へのデータ転送が行われるように記録されていることである。
その記録の実現は、前述したビットストリームの生成方法で得たビデオエンコードストリームを記録する事で、得ることができる。
なお、ビデオバッファ2600への転送の中断がある符号化データの接続点は、前述した例のようにDVD22801上に連続的に位置する二つの符号化データ間であっても構わないし、例えば符号化データ22901と符号化データ22903のように不連続に位置する符号化データ間で転送の中断があるように記録されていても構わない。
なお、本発明の記録方法の第二の実施例のように、ビデオバッファ2600への転送の中断に相当するデータ量のパディングデータが記録されている場合も同様である。
また、データ転送の中断とパディングデータの挿入とを組み合わせても同様であって、ビデオストリームの最初のデータがデコードされる時刻におけるビデオバッファ2600のデータ占有量Vdvが、符号化時に設定した所定の初期占有量Biとなるように、データ転送の中断、あるいはパディングデータの挿入が行われてもよい。
図63A、図63B、図32A、図32B、図32C、図32Dを参照して2つのビデオエンコードストリームを連続的に再生する場合の再生制御方法について説明する。
図63A、図63Bは、それぞれのビデオエンコードストリームをデコードする際の、ビデオバッファ2600のデータ占有量Vdvの時間的推移を示している。Biはデコード開始時点のビデオバッファ2600の占有量を、Beはデコード終了時点のビデオバッファ2600のデータ占有量を示す。
尚、終端部においては、該ビデオエンコードストリーム入力終了後も連続して、次にデコードするビデオエンコードストリームを入力するものとしてビデオバッファ2600の占有量を記述している。
図63Aに示すビデオエンコードストリーム#1、および図63Bに示すビデオエンコードストリーム#2共に、デコード開始時点のビデオバッファ2600のデータ占有量Biよりも、デコード終了時点でのビデオバッファ2600のデータ占有量Beが大きい。
このような特徴をもつ、本発明で生成したビデオエンコードストリームを接続再生する再生制御方法について以下説明する。
図32Aに、図63Aに示すビデオエンコードストリーム#1と、図63Bに示すビデオエンコードストリーム#2を単純に接続し、再生する場合のビデオバッファ2600のデータ占有量Vdvの推移を示す。
この場合、図63Aに示すビデオエンコードストリームEVS#1のデコード終了時のビデオバッファ2600のデータ占有量Beは、図63Bに示すビデオエンコードストリームEVS #2のデコード開始時のビデオバッファ2600のデータ占有量Biより大きい。従って、ビデオエンコードストリームEVS #2は、デコード処理においてビデオバッファ2600がアンダーフローしないことは保証できる。
一方、ビデオエンコードストリームEVS #2のデコード開始時のビデオバッファ2600の占有量Vdvは、ビデオエンコード時に想定したバッファ占有量Biに比較して、ビデオエンコードストリームEVS #1のBeと、ビデオエンコードストリーム#2のBiの差(ΔB)分大きい。従って、ビデオバッファ2600のデータ占有量Vdvは、ΔB分多い状態で推移することになる。
このことは、ビデオバッファ2600がオーバーフローする可能性があることを意味する。
以下、オーバーフローを回避する方法について図32B、図32C、図32Dを参照して説明する。
図32Bを参照して、ビデオバッファ2600のオーバーフローを回避する第1の方法を説明する。
(方法1)
図32Bに示すように、点Qdにおいて、ビデオバッファ2600への入力を停止する。このようにビデオバッファ2600への入力を停止することで、ビデオエンコードストリームEVS #2のデコード開始時のビデオバッファ2600のデータ占有量をBiにする。
このように、ビデオエンコードストリームEVS #2のデコード開始時のビデオバッファ2600の占有量をBiにすることで、以降のビデオバッファ2600のデータ占有量Vdvの推移は、図63Bと等しくなる。よって、ビデオバッファ2600のデータ占有量Vdvのオーバーフローは回避できる。
ここで、ビデオバッファ2600への入力停止は、パックヘッダに記述されるパック転送時刻を示すSCR値(図19)により容易に制御できる。ビデオエンコードストリームはビデオパケットにより搬送される。該ビデオパケットは該パケットを搬送するパックのSCR値に従って、ストリームバッファ2400(図26)から読み出され、ビデオバッファ2600へ入力される。
従って、ビデオパケットを搬送するパックのSCR値によりビデオバッファ2600への入力を停止させることができる。
(方法2)
図32Bに示すように、接続点でパディングパケット(Ds)を挿入することで、ビデオエンコードストリームEVS #2のデコード開始時のビデオバッファ2600のデータ占有量をBiにする。
このように、ビデオエンコードストリームEVS #2のデコード開始時のビデオバッファ2600の占有量をBiにすることで、以降のビデオバッファ2600のデータ占有量Vdvの推移は、図63Bと等しくなる。よって、ビデオバッファ2600のデータ占有量Vdvのオーバーフローは回避できる。
ここで、パディングパケットのサイズは、ビデオエンコードストリーム#1のBeと、ビデオエンコードストリームEVS #2のBiの差(ΔB)にすればよい。
(方法3)
図32Dに示すように、接続点でビデオバッファ2600へのデータ入力速度を変える(Rcp)ことで、ビデオエンコードストリーム#2のデコード開始時のビデオバッファ2600のデータ占有量をBiにする。
このように、ビデオエンコードストリームEVS #2のデコード開始時のビデオバッファ2600の占有量をBiにすることで、以降のビデオバッファ2600のデータ占有量Vdvの推移は、図63Bと等しくなる。よって、ビデオバッファ2600のデータ占有量Vdvのオーバーフローは回避できる。
ここで、ビデオバッファ2600への入力速度Rcpの変更は、パックヘッダに記述されるパック転送時刻を示すSCR値(図19)により容易に制御できる。
これは方法1で示したように、ビデオエンコードストリームを搬送するパックのSCR値の間隔を変えることで実現できる。
図39に於いて、本発明の記録方法及び再生方法によって間欠データ転送を行い、ビデオエンコードストリームSS1とビデオエンコードストリームSS2とを接続したときのビデオバッファ2600のデータ占有量Vdvの推移を示している。
図46と対比し、各時刻に沿って説明する。まず、図46と同様に、時刻Ti1にストリーム1のビデオバッファ2600へのデータ転送が開始し、時刻Td1に於いて最初のフレームF1のデコードが行われる。以下、図46で説明したの同様にデータ占有量Vdvは推移する。ただし、時刻Ts1に於いてデータ占有量Vdvは所定量Bmaxに達する。ここで、Bmaxを越えてデータ転送を行うと、ビデオバッファ2600がオーバーフローを起こしデータが損なわれる場合があるため、データ転送を一時中断する。すなわち、データ占有量Vdvは一定に保たれる。その後、時刻f3に於いてフレームF3がデコードされるとビデオバッファ2600のデータ占有量VdvはBmaxを下回るため、再びデータ転送が開始される。次に時刻Ts2から時刻Ti2までデータ転送が中断する。時刻Ti2ではビデオエンコードストリームSS2のビデオバッファ2600へのデータ転送が開始する。時刻Td2(f7)でストリーム2の最初のフレームF7がデコードされる。
ここで、図39に於いて時刻Ts2から時刻Ti2までデータ転送が中断し、ビデオエンコードストリームSS2のデコード開始時刻Td2(f7)に於いて、ビデオバッファ2600のデータ占有量Vdvが初期占有量Be2となるようにデータ転送を中断する点が本発明の特徴である。
図39に示す本発明における、データ転送を中断する期間Dtsは(式3)のように計算することができる。
Dts=Tt1-D1/Br+(Be1-Bi2)/Br ・・・・(式3)
ここで、(式1)と同様にD1はビデオエンコードストリームSS1のデータ量、Brはストリームのデータ転送レート、Tt1は図のSS1の期間で示すビデオエンコードストリームSS1のデータ転送期間である
(式3)中の(Tt1-D1/Br)は(式1)と同じくオーバーフローを防止するために必要なデータ転送の中断期間である。また、(Be1-Bi2)/Brで指定される期間は、(式2)と同様、ストリーム2の最初のデータのデコードが開始する時刻Td2(f7)におけるデータ占有量Vdvが符号化時に於いて設定した初期占有量Be2になるようにデータ転送を中断するものであり、本発明の記録方法及び再生方法の特徴である。
本発明の再生方法は本発明のビットストリーム生成方法によって生成されたビデオエンコードストリーム中の転送時刻情報に基づいてデコード、再生することにより、デコード時に於いて、符号化処理時に想定したビデオバッファ2600のデータ占有量Vdvの推移と同じ推移を行うことができる。
以上のように本発明の符号化方法および符号化装置によって各画像グループを符号化して得られた符号化データのストリームを結合しても、ビデオバッファ2600が破綻を来すことなく、連続的にデコード処理がなされ、シームレスデータ再生を行い、スムーズな再生画像を得ることができる。また、本発明の再生装置によれば、複数の画像グループを符号化して得られたストリームを再生する場合、各ストリームのデコード終了時での、ビデオバッファ2600のデータ占有量Vdvが、デコード開始時のデータ占有量Vdv以上の所定占有量Bt以上になるように符号化されたストリームの場合、異なるストリームを結合して連続的にデコードし、スムーズな再生画像を得ることができる。
さらに、本発明の符号化方法および符号化装置で生成されたストリームであれば、結合して連続的にデコードを行ったとしても、常にデコード時におけるデータ占有量Vdvを符号化時に於いて計算することができ、音声データなど他のデータとの同期を考慮した多重化を容易にすることができる。
特に、本発明の符号化方法および符号化装置の第一の実施例によれば、各符号化データ初期占有量Biと最終占有量Beとに於いて、Be>Biが成立するため、これらの符号化データのストリームを任意に結合させても、ビデオバッファ2600が破綻を来すことなく、連続的にデコード処理がなされ、スムーズな再生画像を得ることができる。
なお、ビデオバッファ2600へのデータ転送に於いて、間欠的にデータ転送を行っても構わないし、転送レートを可変にしても構わない。
なお、圧縮符号化処理に関しては変換符号化であっても構わないし、他の符号化方式でも構わない。
なお、各画像グループの時間長は限定されるものではなく、それぞれが異なる時間長であっても構わない。
なお、本発明の符号化装置の割当符号量規定器22103は映像信号の符号化処理に対する難度を検出し、難度に応じた割当符号量を規定してもよい。これにより、映像に応じた符号化レートで符号化する可変ビットレートの符号化を行うことができる。
なお、発生符号量が所定の符号量におさまるように制御する符号量制御方法は限定されるものでなく、例えば信号の量子化におけるパラメータを制御して発生符号量を制御しても構わない。
なお、記録媒体として光ディスクを用いた場合を説明したが、これに限らず、磁気ディスク、あるいは磁気テープなど記録媒体であれば何でも構わない。
以上のように本発明の符号化方法および符号化装置は、複数の画像グループをそれぞれ符号化して得られた符号化データのストリームを任意に結合しても、ビデオバッファ2600が破綻を来すことなく、連続的にデコード処理がなされ、スムーズに連続した再生信号を得ることができる。
また、結合するストリームの結合点に於いて、最終占有量と初期占有量Biとを等しくする必要がなく、(最終占有量>初期占有量Bi)という関係が保たれればよく、符号量制御を容易に行うことができる。
また、本発明の記録方法によれば、画像グループの符号化データのストリームの接続点に於いて、所定期間だけストリームのビデオバッファ2600への転送を中断することにより、符号化時に於いて設定したビデオバッファ2600の初期占有量Biと等しくデコード処理を開始することができ、符号化時に於いて想定したビデオバッファ2600のデータ占有量Vdvの推移と同じ推移でデコード処理することができる。従って、デコード時に於いてもビデオバッファ2600の破綻を来すことなくデコード処理することができる。
また、本発明の再生方法によれば、複数の画像グループを符号化して得られたビデオエンコードストリームを再生する場合、各ストリームのビデオバッファ2600の最終占有量が、デコード開始時のデータ占有量Vdvより大きくなるように符号化されたストリームの場合、異なるストリームを結合して連続的にデコードし、スムーズに連続した再生信号を得ることができる。
本発明の符号化方法および符号化装置は、複数のビデオストリームをそれぞれ符号化して得られた符号化データのストリームを任意に結合しても、ビデオバッファが破綻を来すことなく、シームレスにデータ再生が可能であり、連続的にデコード処理がなされ、スムーズに連続した再生信号を得ることができる。
また、本発明の記録方法によれば、エンコード処理時に於いて想定したビデオバッファのデータ占有量Vdvの推移と同じ推移でデコード処理することができる。従って、デコード時に於いてもビデオバッファ2600の破綻を来すことなくデコード処理することができる。
産業上の利用可能性
以上のように、本発明にかかるビットストリームのインターリーブて媒体に記録再生する方法及びその装置は、様々な情報を搬送するビットストリームから構成されるタイトルをユーザーの要望に応じて編集して新たなタイトルを構成することができるオーサリングシステムに用いるのに適しており、更に言えば、近年開発されたデジタルビデオディスクシステム、いわゆるDVDシステムに適している。

Claims (24)

  1. 符号化処理された符号化データを再生時に復号する際に用いられる所定サイズの復号バッファメモリ(2600)のデータ占有量(Vdv)を計算(22105)し、その計算結果から、ある所定期間の割当符号量を規定し(22103)、前記割当符号量で前記所定期間の信号を圧縮符号化処理(22102、22101)して、所定の符号化データ(St15)を生成する方法であって、第一の符号化データ(EVS1)を前記復号バッファメモリ(2600)に転送した後も引き続き、仮想の符号化データ(EVS2)を転送するとして前記データ占有量を計算(22105)し、前記第一の符号化データ(EVS1)の最終データを復号化した際の前記データ占有量を最終占有量Beとして計算し、第二の符号化データ(EVS2)を生成するための符号化処理を開始する際は前記データ占有量を前記最終占有量Beよりも小さい所定の初期占有量Biとし、前記データ占有量の推移に基づいて前記割当符号量を規定することを特徴とする符号化方法。
  2. 符号化処理された符号化データを再生時に復号する際に用いられる所定サイズの復号バッファメモリのデータ占有量(Vdv)を計算し、その計算結果から、ある所定期間の割当符号量を規定し、前記割当符号量で前記所定期間の信号を圧縮符号化処理して、所定の符号化データを生成する方法であって、第一の符号化データ(EVS1)を前記復号バッファメモリ(2600)に転送した後も引き続き、仮想の符号化データを転送するとして該データ占有量(Vdv)を計算し、該第一の符号化データ(EVS1)の最終データを復号化した際の該データ占有量(Vdv)を最終占有量Beとして計算し、第二の符号化データ(EVS2)を生成するための符号化処理を開始する際は前記データ占有量を所定の初期占有量Biとし、前記データ占有量(Vdv)の推移に基づいて前記割当符号量を規定し、該第一の符号化データの前記最終占有量Beが所定量Bt(Bt>Bi)以上になるように前記割当符号量を規定することを特徴とする符号化方法。
  3. 符号化処理された符号化データを再生時に復号する際に用いられる所定サイズの復号バッファメモリのデータ占有量を計算し、その計算結果から、ある所定期間の割当符号量を規定し、前記割当符号量で前記所定期間の信号を圧縮符号化処理して、所定の符号化データを生成する方法であって、各前記符号化データを生成するための符号化処理を開始する際は前記データ占有量を所定の初期占有量Biとし、各該符号化データを該復号バッファメモリ(2600)に転送した後も引き続き、仮想の符号化データを転送するとして該データ占有量(Vdv)を計算し、各該符号化データの最終データを復号化した際の該データ占有量(Vdv)を最終占有量Beとして計算し、該データ占有量(Vdv)の推移に基づいて該割当符号量を規定し、かつ該最終占有量Beが所定量Bt(Bt>Bi)以上になるように該割当符号量を規定することを特徴とする符号化方法。
  4. 前記データ占有量(Vdv)が所定の最低占有量B1(#203、#203、#203)以上となるように割当符号量を規定することを特徴とする請求の範囲第1項、第2項又は第3項に記載の符号化方法。
  5. 符号化データ(ビデオエンコードデータ)を前記復号バッファメモリ(2600)に入力する際に可変の転送速度(2219D:Rcp)でデータ転送することを特徴とする請求の範囲第1項、第2項、又は第3項に記載の符号化方法。
  6. 符号化データ(ビデオエンコードデータ)を前記復号バッファメモリ(2600)に入力する際に間欠的(Qd)にデータ転送することを特徴とする請求の範囲第1項、第2項、又は第3項に記載の符号化方法。
  7. 前記データ占有量が所定の最高占有量Bm(Bmax)以下(#205、#205、#205)になるように制限することを特徴とする請求の範囲第1項、第2項、又は第3項に記載の符号化方法。
  8. 所定の信号を圧縮符号化処理して符号化データ(ビデオエンコードデータ)を生成する装置であって、所定期間の割当符号量を規定する符号量規定手段(22103)と、該信号を符号化処理して符号を生成する符号化処理手段(22101)と、前記割当符号量と前記符号化データの発生符号量との差が小さくなるように符号量を制御する圧縮符号化制御手段(22102)と、前記符号化データを再生時に復号する際に用いられる所定サイズの復号バッファメモリのデータ占有量(Vdv)を計算するデータ占有量計算手段(22105)とを具備し、該データ占有量計算手段(22105)は、第一の符号化データ(EVS1)を前記復号バッファメモリ(2600)に転送した後も引き続き、仮想の符号化データ(EVS2)を転送するとして前記データ占有(Vdv)を計算し、該第一の符号化データ(EVS1)の最終データを復号化した際の前記データ占有量(Vdv)を最終占有量Beとし、第二の符号化データ(EVS2)を生成するための符号化処理を開始する際は前記データ占有量(Vdv)を前記最終占有量Beよりも小さい所定の初期占有量Biとし、符号量規定手段(22103)は、前記データ占有量(Vdv)の推移に基づいて前記割当符号量を規定することを特徴とする符号化装置。
  9. 所定の信号を圧縮符号化処理して符号化データを生成する装置であって、所定期間の割当符号量を規定する符号量規定手段(22103)と、該信号を符号化処理して符号を生成し、該割当符号量と該符号化データの発生符号量との差が小さくなるように符号量を制御する圧縮符号化制御手段(22102)と、該符号化データを再生時に復号する際に用いられる所定サイズの復号バッファメモリ(2600)のデータ占有量(Vdv)を計算するデータ占有量計算手段(22105)とを具備し、該データ占有量計算手段(22105)は、第一の符号化データ(EVS1)を該復号バッファメモリ(2600)に転送した後も引き続き、仮想の符号化データを転送するとして該データ占有量(Vdv)を計算し、該第一の符号化データ(EVS1)の最終データを復号化した際の該データ占有量(VdV)を最終占有量Beとして計算し、第二の符号化データ(EVS2)を生成するための符号化処理を開始する際は該データ占有量(VdV)を所定の初期占有量Biとし、該符号量規定手段(22103)は、該データ占有量(Vdv)によって該割当符号量を規定し、かつ、該第一の符号化データの最終占有量Beが所定量Bt(Bt>Bi)以上になるように該割当符号量を規定することを特徴とする符号化装置。
  10. 所定の信号を圧縮符号化処理して符号化データを生成する装置であって、所定期間の割当符号量を規定する符号量規定手段(22103)と、該信号を符号化処理して符号を生成し、該割当符号量と該符号化データの発生符号量との差が小さくなるように符号量を制御する圧縮符号化制御手段(22102)と、該符号化データを再生時に復号する際に用いられる所定サイズの復号バッファメモリ(2600)のデータ占有量(Vdv)を計算するデータ占有量計算手段(22105)とを具備し、該データ占有量計算手段(22105)は、符号化処理を開始する際は該データ占有量を所定の初期占有量Biとし、さらに、各該符号化データを該復号バッファメモリ(2600)に転送した後も引き続き、仮想の符号化データを転送するとして該データ占有量(Vdv)を計算し、該符号量規定手段(22103)は、該データ占有量によって該割当符号量を規定し、かつ、各該符号化データに対する最終占有量Beが所定量Bt(Bt>Bi)以上になるように該割当符号量を規定することを特徴とする符号化装置。
  11. 前記データ占有量(Vdv)が所定の最低占有量B1以上となるように割当符号量を規定することを特徴とする請求の範囲第8項、第9項、又は第10項に記載の符号化装置。
  12. 符号化データを該復号バッファメモリ(2600)に入力する際に可変の転送速度でデータ転送することを特徴とする請求の範囲第8項、第9項、又は第10項に記載の符号化装置。
  13. 符号化データを前記復号バッファメモリ(2600)に入力する際に間欠的にデータ転送することを特徴とする請求の範囲第8項、第9項、又は第10項に記載の符号化装置。
  14. 前記データ占有量(Vdv)が所定の最高占有量Bm以下になるように制限することを特徴とする請求の範囲第8項、第9項、又は第10項に記載の符号化装置。
  15. 符号化処理された符号化データを再生時に復号する際に用いられる所定サイズの復号バッファメモリ(2600)のデータ占有量(Vdv)に基づいて所定の信号の符号化データを記録媒体(M)に記録する方法であって、第一の符号化データ(EVS1)を該復号バッファメモリ(2600)に転送した後も引き続き、仮想の符号化データ(EVS2)を転送するとした場合、該第一の符号化データ(EVS1)の最終データを復号化した際の該データ占有量(Vdv)を最終占有量Beとし、第二の符号化データ(EVS2)の復号化の開始における該データ占有量(Vdv)が該最終占有量Beよりも小さい所定の初期占有量Biとなるように記録することを特徴とする記録方法。
  16. 第一の符号化データ(EVS1)と第二の符号化データ(EVS2)とを該復号バッファメモリ(2600)へ転送する際に、該第一の符号化データ(EVS1)に対する該最終占有量Beと該第二の符号化データ(EVS2)に対する該初期占有量Biとによって規定される所定時間T(T>0)の間、該復号バッファメモリ(2600)へのデータ転送を中断(Qd)するように、各の該符号化データ(EVS1、EVS2)の該復号バッファメモリ(2600)への入力時間情報(SCR)を記録することを特徴とする請求の範囲第15項に記載の記録方法。
  17. 前記復号バッファメモリ(2600)へのデータ転送レートをBrとすると、前記所定時間Tは、((Be−Bi)/Br)で規定されることを特徴とする請求の範囲第16項に記載の記録方法。
  18. 前記第一の符号化データ(EVS1)に(Be−Bi)で規定されるデータ量の所定パターンのデータ(Ds)を挿入して記録することを特徴とする請求の範囲第15項に記載の記録方法。
  19. 符号化処理された符号化データを再生時に復号する際に用いられる所定サイズの復号バッファメモリ(2600)のデータ占有量(Vdv)に基づいて所定の信号の符号化データを記録された記録媒体(M)を再生する方法であって、第一の符号化データ(EVS1)を該復号バッファメモリ(2600)に転送した後も引き続き、仮想の符号化データ(EVS2)を転送するとした場合、該第一の符号化データの最終データを復号化した際の該データ占有量(Vdv)を最終占有量Beとし、第二の符号化データ(EVS2)の復号化の開始における該データ占有量(Vdv)が該最終占有量Beよりも小さい所定の初期占有量Biとなるように該第二の符号データを該復号バッファメモリへ転送することを特徴とする再生方法。
  20. 前記第一の符号化データ(EVS1)と前記第二の符号化データ(EVS2)とを前記復号バッファメモリ(2600)へ転送する際に、該第一の符号化データ(EVS1)に対する該最終占有量Beと該第二の符号化データ(EVS2)に対する該初期占有量Biとによって規定される所定時間T(T>0)(Qd)の間、該復号バッファメモリ(2600)へのデータ転送を中断することを特徴とする請求の範囲第19項に記載の再生方法。
  21. 前記復号バッファメモリ(2600)へのデータ転送レートをBrとすると、前記所定時間Tは、((Be−Bi)/Br)で規定されることを特徴とする請求の範囲第20項に記載の再生方法。
  22. 符号化データを前記復号バッファメモリ(2600)に入力する際に可変の転送速度(Rcp)でデータ転送することを特徴とする請求の範囲第19項に記載の再生方法。
  23. 符号化データを該復号バッファメモリに入力する際に間欠的にデータ転送(Qd)することを特徴とする請求の範囲第19項に記載の再生方法。
  24. 前記データ占有量(Vdv)が所定の最高占有量Bm以下になるように前記復号バッファメモリ(2600)への符号化データの転送を制限することを特徴とする請求の範囲第19項に記載の再生方法。
JP51414997A 1995-09-29 1996-09-27 ビットストリームのシームレス接続エンコード方法及びその装置 Expired - Fee Related JP3963478B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP25273695 1995-09-29
JP4158296 1996-02-28
PCT/JP1996/002807 WO1997013367A1 (en) 1995-09-29 1996-09-27 Method and device for encoding seamless-connection of bit stream

Publications (1)

Publication Number Publication Date
JP3963478B2 true JP3963478B2 (ja) 2007-08-22

Family

ID=26381222

Family Applications (1)

Application Number Title Priority Date Filing Date
JP51414997A Expired - Fee Related JP3963478B2 (ja) 1995-09-29 1996-09-27 ビットストリームのシームレス接続エンコード方法及びその装置

Country Status (10)

Country Link
US (2) US5937138A (ja)
EP (2) EP0853430B1 (ja)
JP (1) JP3963478B2 (ja)
KR (1) KR100478555B1 (ja)
CN (1) CN1164104C (ja)
DE (1) DE69633244T2 (ja)
HK (1) HK1016797A1 (ja)
MX (1) MX9801218A (ja)
TW (1) TW303570B (ja)
WO (1) WO1997013367A1 (ja)

Families Citing this family (83)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW305043B (ja) * 1995-09-29 1997-05-11 Matsushita Electric Ind Co Ltd
TW436777B (en) 1995-09-29 2001-05-28 Matsushita Electric Ind Co Ltd A method and an apparatus for reproducing bitstream having non-sequential system clock data seamlessly therebetween
US6502199B2 (en) 1995-09-29 2002-12-31 Matsushita Electric Industrial Co., Ltd. Method and an apparatus for reproducing bitstream having non-sequential system clock data seamlessly therebetween
TW332961B (en) * 1996-02-09 1998-06-01 Sony Co Ltd Recording media
US6034738A (en) * 1996-02-14 2000-03-07 Thomson Consumer Electronics, Inc. On-screen display timing
US6157674A (en) * 1996-03-21 2000-12-05 Sony Corporation Audio and video data transmitting apparatus, system, and method thereof
JP3263807B2 (ja) * 1996-09-09 2002-03-11 ソニー株式会社 画像符号化装置および画像符号化方法
JP3861362B2 (ja) * 1997-03-19 2006-12-20 ソニー株式会社 ディジタル信号再生方法及び装置
US6304911B1 (en) * 1997-06-25 2001-10-16 Advanced Micro Devices, Inc. Information packet reception indicator for reducing the utilization of a host system processor unit
US6034731A (en) * 1997-08-13 2000-03-07 Sarnoff Corporation MPEG frame processing method and apparatus
MY115908A (en) 1997-09-17 2003-09-30 Matsushita Electric Ind Co Ltd Video data editing apparatus, optical disc for use as a recording medium of a video data editing apparatus, and computer-readable recording medium storing an editing program
MY126551A (en) 1997-09-17 2006-10-31 Matsushita Electric Ind Co Ltd Video data editing apparatus and computer-readable recording medium storing an editing program
MY116283A (en) 1997-09-17 2003-12-31 Panasonic Ip Corp America Optical disc having an area storing original and user chain information specifying at least part of a video object stored on the disc, and a computer program and recording apparatus for recording and editing the chain information.
DE69800526T2 (de) * 1997-09-17 2004-08-05 Matsushita Electric Industrial Co., Ltd., Kadoma Aufzeichnungsgerät für optische Platte und computerlesbares Aufzeichnungsmedium zur Aufzeichnung eines Dateienverwaltungsprogramms
US6487364B2 (en) 1997-09-17 2002-11-26 Matsushita Electric Industrial Co., Ltd. Optical disc, video data editing apparatus, computer-readable recording medium storing an editing program, reproduction apparatus for the optical disc, and computer-readable recording medium storing a reproduction program
US6862320B1 (en) * 1997-10-23 2005-03-01 Mitsubishi Denki Kabushiki Kaisha Image decoder, image encoder, image communication system, and encoded bit stream converter
EP0917144B1 (en) * 1997-11-11 2003-05-07 Deutsche Thomson-Brandt Gmbh Method and apparatus for controlling a data buffer
JP3903561B2 (ja) * 1997-12-26 2007-04-11 ソニー株式会社 記録装置及び記録方法
IL123906A0 (en) * 1998-03-31 1998-10-30 Optibase Ltd Method for synchronizing audio and video streams
US7272298B1 (en) 1998-05-06 2007-09-18 Burst.Com, Inc. System and method for time-shifted program viewing
EP1034538B1 (en) * 1998-06-12 2004-12-15 Koninklijke Philips Electronics N.V. Transferring compressed audio via a playback buffer
FR2781326B1 (fr) 1998-07-17 2000-09-29 St Microelectronics Sa Procede et systeme d'elaboration d'images numeriques resultant d'elements graphiques auxiliaires incrustes dans des images principales
US8380041B2 (en) 1998-07-30 2013-02-19 Tivo Inc. Transportable digital video recorder system
US8577205B2 (en) 1998-07-30 2013-11-05 Tivo Inc. Digital video recording system
US6233389B1 (en) 1998-07-30 2001-05-15 Tivo, Inc. Multimedia time warping system
US7558472B2 (en) 2000-08-22 2009-07-07 Tivo Inc. Multimedia signal processing system
JP2000090645A (ja) * 1998-09-08 2000-03-31 Sony Corp ファイル管理装置および方法、並びに提供媒体
JP3805985B2 (ja) * 1999-02-18 2006-08-09 株式会社東芝 ストリームデータの情報記憶媒体、その記録方法、再生方法、記録装置および再生装置
JP4211153B2 (ja) * 1999-09-17 2009-01-21 ソニー株式会社 記録装置および方法
EP1885127A3 (en) 1999-09-20 2008-03-19 Tivo, Inc. Closed caption tagging system
EP1085513B1 (en) * 1999-09-20 2012-12-05 Panasonic Corporation Optical disc recording apparatus, and optical disc recording method that are all suitable for seamless reproduction
US20030099293A1 (en) * 1999-12-15 2003-05-29 Shigeyuki Okada Image reproducing method, and image processing method, and image reproducing device, image processing device, and television receiver capable of using the methods
JP2001285234A (ja) * 2000-04-04 2001-10-12 Sony Corp データ多重化装置およびデータ多重化方法、並びに記録媒体
US7043484B2 (en) * 2000-12-05 2006-05-09 Dvdemand Technologies Inc. System and method for producing storage media images
JP3548136B2 (ja) * 2001-06-01 2004-07-28 三洋電機株式会社 画像処理装置
JP3906911B2 (ja) * 2002-04-18 2007-04-18 ソニー株式会社 記録装置及び記録方法
TWI241813B (en) * 2002-05-10 2005-10-11 Interdigital Tech Corp Cognitive flow control based on channel quality conditions
KR100554767B1 (ko) 2002-06-28 2006-02-22 엘지전자 주식회사 다중 경로 데이터의 기록 및 재생을 관리하기 위한 데이터구조를 갖는 기록 매체와 그에 따른 기록 및 재생 방법 및장치
US7769084B1 (en) 2002-07-15 2010-08-03 Apple Inc. Method for implementing a quantizer in a multimedia compression and encoding system
US7418037B1 (en) * 2002-07-15 2008-08-26 Apple Inc. Method of performing rate control for a compression system
MY134659A (en) * 2002-11-06 2007-12-31 Nokia Corp Picture buffering for prediction references and display
US7804897B1 (en) * 2002-12-16 2010-09-28 Apple Inc. Method for implementing an improved quantizer in a multimedia compression and encoding system
US7940843B1 (en) 2002-12-16 2011-05-10 Apple Inc. Method of implementing improved rate control for a multimedia compression and encoding system
RU2356107C2 (ru) * 2003-02-25 2009-05-20 Эл Джи Электроникс Инк. Способ воспроизведения содержательной информации устройством для интерактивных оптических дисков
US7224664B2 (en) * 2003-03-25 2007-05-29 Lg Electronics Inc. Recording medium having data structure for managing reproduction of data streams recorded thereon and recording and reproducing methods and apparatuses
EP1465187A1 (en) * 2003-04-02 2004-10-06 Deutsche Thomson-Brandt Gmbh Method for controlling an optical pick-up for reading data streams for simultaneous reproduction
EP1465181A1 (en) * 2003-04-02 2004-10-06 Deutsche Thomson-Brandt Gmbh Method for controlling an optical pick-up for reading data streams for simultaneous reproduction
US20040268033A1 (en) * 2003-06-24 2004-12-30 Seagate Technology Llc Refreshing data in a data storage device
JP3675464B2 (ja) * 2003-10-29 2005-07-27 ソニー株式会社 動画像符号化装置および動画像符号化制御方法
JP4289138B2 (ja) * 2003-12-09 2009-07-01 ソニー株式会社 データ処理装置およびその方法と符号化装置
EP2257059B1 (en) 2004-01-13 2014-03-12 Panasonic Corporation Recording medium, reproduction device, recording method, program, and reproduction method
CN101790067B (zh) * 2004-02-17 2013-09-11 松下电器产业株式会社 记录方法和再现装置
EP1726163B1 (en) * 2004-03-03 2014-12-24 Callahan Cellular L.L.C. Video processing circuit and method of video processing
JP2005285209A (ja) * 2004-03-29 2005-10-13 Toshiba Corp 動画像のメタデータ
JP2006041844A (ja) * 2004-07-26 2006-02-09 Toshiba Corp メタデータのデータ構造及びそのメタデータの処理方法
CN101841714B (zh) * 2004-08-31 2012-12-26 松下电器产业株式会社 运动图像编码、解码方法及装置、记录介质的记录方法
JP4732730B2 (ja) * 2004-09-30 2011-07-27 パナソニック株式会社 音声復号装置
CN101077006A (zh) 2004-11-19 2007-11-21 Tivo股份有限公司 用于先前播放内容的安全传输的方法和设备
CN101091395A (zh) * 2004-12-23 2007-12-19 诺基亚公司 用于电子设备的多照相机解决方案
CN101164347B (zh) * 2005-04-26 2010-08-25 汤姆森许可贸易公司 同步流打包
WO2007008841A2 (en) 2005-07-07 2007-01-18 Burst.Com, Inc. System and method for digital content retrieval
US20070133952A1 (en) * 2005-12-08 2007-06-14 Samsung Electronics Co., Ltd. Method and system for reproducing contents
EP2124454B1 (en) * 2007-03-19 2014-11-19 Fujitsu Limited Bit stream converting method, bit stream converting device, bit stream coupling device, bit stream dividing program, bit stream converting program and bit stream coupling program
JP5211569B2 (ja) * 2007-07-26 2013-06-12 ソニー株式会社 コンテンツ再生装置、コンテンツ再生方法、およびプログラム
JP5282383B2 (ja) * 2007-09-06 2013-09-04 ソニー株式会社 コンテンツ再生装置、コンテンツ再生方法、プログラム、およびコンテンツ再生システム
WO2010038212A2 (en) * 2008-10-01 2010-04-08 Nxp B.V. Embedded video compression for hybrid contents
US8843803B2 (en) * 2011-04-01 2014-09-23 Cleversafe, Inc. Utilizing local memory and dispersed storage memory to access encoded data slices
US9063802B2 (en) * 2013-01-31 2015-06-23 Hewlett-Packard Development Company, L.P. Event determination
US9800934B2 (en) * 2013-06-12 2017-10-24 Lg Electronics Inc. Apparatus for transmitting broadcast signals, apparatus for receiving broadcast signals, method for transmitting broadcast signals and method for receiving broadcast signals
KR101871730B1 (ko) * 2013-09-27 2018-06-27 엘지전자 주식회사 방송 신호 송신 장치, 방송 신호 수신 장치, 방송 신호 송신 방법 및 방송 신호 수신 방법
KR102174267B1 (ko) * 2013-12-24 2020-11-04 주식회사 케이티 영상 패킷의 변환 장치 및 방법
US10283091B2 (en) * 2014-10-13 2019-05-07 Microsoft Technology Licensing, Llc Buffer optimization
CN107710757B (zh) * 2015-06-04 2021-08-10 英特尔公司 用于缓慢运动视频记录的自适应批量编码
WO2017143522A1 (en) 2016-02-23 2017-08-31 Intel Corporation Graphics processor workload acceleration using a command template for batch usage scenarios
US10979747B2 (en) * 2017-12-21 2021-04-13 Arris Enterprises Llc Statistical multiplexing system for variable bit rate encoding with constant bit rate encoder
US10728443B1 (en) 2019-03-27 2020-07-28 On Time Staffing Inc. Automatic camera angle switching to create combined audiovisual file
US10963841B2 (en) 2019-03-27 2021-03-30 On Time Staffing Inc. Employment candidate empathy scoring system
US11127232B2 (en) 2019-11-26 2021-09-21 On Time Staffing Inc. Multi-camera, multi-sensor panel data extraction system and method
US11023735B1 (en) 2020-04-02 2021-06-01 On Time Staffing, Inc. Automatic versioning of video presentations
US11144882B1 (en) 2020-09-18 2021-10-12 On Time Staffing Inc. Systems and methods for evaluating actions over a computer network and establishing live network connections
US11727040B2 (en) 2021-08-06 2023-08-15 On Time Staffing, Inc. Monitoring third-party forum contributions to improve searching through time-to-live data assignments
US11423071B1 (en) 2021-08-31 2022-08-23 On Time Staffing, Inc. Candidate data ranking method using previously selected candidate data
US11907652B2 (en) 2022-06-02 2024-02-20 On Time Staffing, Inc. User interface and systems for document creation

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04222184A (ja) * 1990-12-21 1992-08-12 Nec Corp 動画像符号化装置
JPH05219491A (ja) * 1992-02-05 1993-08-27 Sony Corp 符号化装置
KR0152016B1 (ko) * 1992-06-18 1998-10-15 강진구 가변 비트할당을 이용한 부호화 및 복호화시스템
US5481543A (en) * 1993-03-16 1996-01-02 Sony Corporation Rational input buffer arrangements for auxiliary information in video and audio signal processing systems
CA2141672A1 (en) * 1993-06-10 1994-12-22 Markus H. Veltman Rational input buffer arrangements for auxiliary information in video and audio signal processing systems
DE69426894T2 (de) * 1993-09-16 2001-07-26 Toshiba Kawasaki Kk Digitales Videosignal
JP3005147B2 (ja) * 1994-02-24 2000-01-31 シャープ株式会社 動画像符号化装置
JP3173950B2 (ja) * 1994-06-13 2001-06-04 株式会社日立製作所 ディスク再生装置
KR0159975B1 (ko) * 1994-10-19 1999-01-15 김준성 영상 데이타 부호화장치
JPH08138316A (ja) * 1994-11-07 1996-05-31 Toshiba Corp 記録再生装置
JP3100307B2 (ja) * 1995-03-14 2000-10-16 日本ビクター株式会社 圧縮データ連続再生システム
US5745643A (en) * 1995-04-06 1998-04-28 Kabushiki Kaisha Toshiba System for and method of reproducing playback data appropriately by the use of attribute information on the playback data
US6138147A (en) * 1995-07-14 2000-10-24 Oracle Corporation Method and apparatus for implementing seamless playback of continuous media feeds

Also Published As

Publication number Publication date
EP1420594A3 (en) 2004-11-03
EP0853430B1 (en) 2004-08-25
WO1997013367A1 (en) 1997-04-10
HK1016797A1 (en) 1999-11-05
EP1420594A2 (en) 2004-05-19
CN1164104C (zh) 2004-08-25
MX9801218A (es) 1998-04-30
USRE37994E1 (en) 2003-02-18
EP0853430A1 (en) 1998-07-15
EP0853430A4 (en) 1999-05-26
US5937138A (en) 1999-08-10
TW303570B (ja) 1997-04-21
KR100478555B1 (en) 2005-11-11
DE69633244T2 (de) 2005-09-15
KR19990063897A (ko) 1999-07-26
CN1197575A (zh) 1998-10-28
DE69633244D1 (de) 2004-09-30

Similar Documents

Publication Publication Date Title
JP3963478B2 (ja) ビットストリームのシームレス接続エンコード方法及びその装置
JP3827097B2 (ja) 情報記録方法
JP3922592B2 (ja) 記録方法
JP3827096B2 (ja) 情報記録媒体の記録方法
JP3769507B2 (ja) 再生装置
JP3325581B2 (ja) 再生方法及び再生装置
JP3338039B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP2003087744A (ja) ビットストリーム生成方法及び情報記録方法
JP3920921B2 (ja) テレシネ変換されたビデオデータのシームレス接続エンコード方法及びその装置
JP3813070B2 (ja) 光ディスクを再生する再生装置
JP3350542B1 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3327917B2 (ja) 記録方法、記録装置、及び光ディスク
JP3350545B1 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3350544B1 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3338042B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3338033B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3338036B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3338041B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3338037B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3350543B1 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3338040B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3338034B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3338038B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3338035B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク
JP3338032B2 (ja) 再生方法、再生装置、記録方法、記録装置、光ディスク

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060926

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070123

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070424

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070522

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100601

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110601

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120601

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120601

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130601

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees