JP2005252949A - Editing device, method, and program - Google Patents

Editing device, method, and program Download PDF

Info

Publication number
JP2005252949A
JP2005252949A JP2004063731A JP2004063731A JP2005252949A JP 2005252949 A JP2005252949 A JP 2005252949A JP 2004063731 A JP2004063731 A JP 2004063731A JP 2004063731 A JP2004063731 A JP 2004063731A JP 2005252949 A JP2005252949 A JP 2005252949A
Authority
JP
Japan
Prior art keywords
bit stream
section
encoded
editing
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004063731A
Other languages
Japanese (ja)
Other versions
JP4289181B2 (en
Inventor
Kazuki Aisaka
一樹 相坂
Yuji Ando
裕司 安藤
Hiroshi Nomi
宏 能見
Koji Kajima
浩司 鹿島
Satoshi Kuma
智 隈
Satoshi Mihashi
聡 三橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004063731A priority Critical patent/JP4289181B2/en
Publication of JP2005252949A publication Critical patent/JP2005252949A/en
Application granted granted Critical
Publication of JP4289181B2 publication Critical patent/JP4289181B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To efficiently combine a plurality of bit streams. <P>SOLUTION: An average bit rate Bout is a value set as an average bit rate of a bit stream after combining. An average bit rate Bsmax is a maximum value permitted as a bit rate of a bit stream which is made to be a combining object. A section A which is a bit stream equal to or less than the average bit rate Bout is combined as it is upon combining. A section C which is a bit stream equal to or more than the average bit rate Bsmax is reencoded upon combining, and is combined with a bit rate being lowered. When the section A and the section C are combined, it is determined whether or not a predetermined condition is satisfied, and on the basis of the determination result, a section B is determined whether or not it is combined after reencoding. The present invention can be applied to a computer which edits moving images. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

本発明は、編集装置および方法、並びにプログラムに関し、特に、異なるビットレートのストリームを結合するような動画像の編集に用いて好適な編集装置および方法、並びにプログラムに関する。   The present invention relates to an editing apparatus, method, and program, and more particularly, to an editing apparatus, method, and program suitable for use in editing a moving image that combines streams having different bit rates.

ビデオカメラが普及し、ビデオカメラで撮影された動画像が編集されることが一般的に行われている。ビデオカメラで撮影された動画像は、所定の符号化方式、例えば、MPEG(Moving Picture Experts Group)方式で符号化される。符号化された動画像データ(ビットストリーム)は、所定の記録媒体(例えば、DVD(Digital Versatile Disc))に記録される。   Video cameras have become widespread, and moving images taken with video cameras are generally edited. A moving image shot by a video camera is encoded by a predetermined encoding method, for example, MPEG (Moving Picture Experts Group) method. The encoded moving image data (bit stream) is recorded on a predetermined recording medium (for example, a DVD (Digital Versatile Disc)).

ユーザは、撮影した後の時点で、記録媒体に記録されている動画像を、編集することができる。編集としては、例えば、いらない場面を切り取る、切り出した場面を連結するなどがある。編集として、例えば、切り出した場面を連結するといった編集が行われる場合、切り出される場面に対応する部分のビットストリームが一旦復号され、その後、再度復号化されることにより、複数の場面(複数のビットストリーム)が結合される。   The user can edit the moving image recorded on the recording medium at the time after shooting. Examples of editing include cutting out unnecessary scenes and connecting cut out scenes. As editing, for example, when editing is performed such as combining cut-out scenes, a bit stream of a portion corresponding to the cut-out scene is once decoded, and then decoded again, so that a plurality of scenes (a plurality of bits are added). Stream).

このような復号と符号化が行われることにより編集が行われる場合、バッファがオーバーフローやアンダーフローを起こさないように制御される。(例えば、特許文献1乃至4参照)
特開2002−152051号公報 特開平9−113136号公報 特開平10−1645112号公報 特開平11−118024号公報
When editing is performed by performing such decoding and encoding, the buffer is controlled so as not to cause overflow or underflow. (For example, see Patent Documents 1 to 4)
JP 2002-152051 A JP-A-9-113136 JP-A-10-1645112 JP 11-1118024 A

上述したような編集が行われる場合、編集の対象となっているビットストリーム全体を可変符号化で再符号化しなくてはならず、効率が悪いといった課題があった。   When the editing as described above is performed, there is a problem that the entire bit stream to be edited has to be re-encoded by variable encoding, which is inefficient.

また、ビットレートの異なる複数のビットストリームを結合するような場合、ビットレートによらず、編集のための再符号化の処理が実行されてしまう。そのため、例えば、高いビットレートで符号化されていたビットストリームが、低いビットレートで再符号化されるといったようなことが発生し、その為に画質が劣化してしまうといった課題があった。   When a plurality of bit streams having different bit rates are combined, re-encoding processing for editing is executed regardless of the bit rate. For this reason, for example, a bit stream that has been encoded at a high bit rate is re-encoded at a low bit rate, which causes a problem that the image quality deteriorates.

また、最終的な出力ビットレートを設定し、その出力ビットレートにあわせた再符号化ができないといった課題もあった。さらに異なるビットレートのビットストリームを結合する際に、ビットレートを調節する機構がないなどの課題もあった。   There is also a problem that a final output bit rate is set and re-encoding according to the output bit rate cannot be performed. Furthermore, there is a problem that there is no mechanism for adjusting the bit rate when bit streams having different bit rates are combined.

本発明はこのような状況に鑑みてなされたものであり、複数のビットストリームを結合する場合、再符号化するビットストリームと再符号化しないビットストリームとを判断することにより、効率良く編集処理が行えるようにすることを目的とする。   The present invention has been made in view of such a situation. When a plurality of bitstreams are combined, it is possible to efficiently perform an editing process by determining a bitstream to be re-encoded and a bitstream not to be re-encoded. It aims to be able to do it.

また、再符号化するときには、設定された出力ビットレートに合うように再符号化されるようにすることを目的とする。さらに、設定された出力ビットレートに合うように再符号化されるようにすることにより、かつ、その出力ビットレートの設定をユーザが行えるようにすることにより、ユーザが所望する画質を維持した状態で、編集が行われるようにすることを目的とする。   Another object of the re-encoding is to re-encode so as to match the set output bit rate. Furthermore, by re-encoding to match the set output bit rate and allowing the user to set the output bit rate, the image quality desired by the user is maintained. The purpose is to allow editing.

本発明の編集装置は、複数のビットストリームを編集対象とし編集する編集装置であって、ビットストリームに付随する情報を参照し、Difficultyを求め、そのDifficultyの値に基づき、ビットストリームを再符号化するか否かを判断する判断手段と、判断手段により再符号化すると判断されたビットストリームを、設定されたビットレートで再符号化する再符号化手段と再符号化手段により再符号化されたビットストリームと、判断手段により再符号化しないと判断されたビットストリームを結合する結合手段とを備えることを特徴とする。   The editing apparatus of the present invention is an editing apparatus that edits a plurality of bitstreams as editing targets, refers to information accompanying the bitstream, obtains a Difficulty, and re-encodes the bitstream based on the Difficulty value And a re-encoding unit that re-encodes the bitstream determined to be re-encoded by the determination unit and a re-encoding unit. It is characterized by comprising a bit stream and combining means for combining the bit streams determined not to be re-encoded by the determining means.

前記判断手段により、編集対象とされた全てのビットストリームが、再符号化しないと判断された場合、編集後のビットストリームのビットレートが、目標とされるビットレート以上にならないか否かを判断することにより、編集対象とされた全てのビットストリームを再符号化せずに編集してよいか否かを判断する第2の判断手段をさらに備えるようにすることができる。   If it is determined by the determination means that all the bitstreams to be edited are not to be re-encoded, it is determined whether or not the bit rate of the bitstream after editing does not exceed the target bitrate. Thus, it is possible to further include second determination means for determining whether or not all bitstreams to be edited can be edited without re-encoding.

前記判断手段により再符号化しないと判断されたビットストストリームのビットレートが、予め設定されているビットレートに関する閾値以上である場合、再符号化するビットストリームに設定し直す再設定手段をさらに備えるようにすることができる。   When the bit rate of the bit stream determined to be not re-encoded by the determining unit is equal to or higher than a threshold value related to a preset bit rate, the re-setting unit is further provided to reset the bit stream to be re-encoded. Can be.

本発明の編集方法は、複数のビットストリームを編集対象とし編集する編集装置の編集方法であって、ビットストリームに付随する情報を参照し、Difficultyを求め、そのDifficultyの値に基づき、ビットストリームを再符号化するか否かを判断する判断ステップと、判断ステップの処理で再符号化すると判断されたビットストリームを、設定されたビットレートで再符号化する再符号化ステップと再符号化ステップの処理で再符号化されたビットストリームと、判断ステップの処理で再符号化しないと判断されたビットストリームを結合する結合ステップとを含むことを特徴とする。   The editing method of the present invention is an editing method of an editing apparatus that edits a plurality of bitstreams as editing targets, refers to information accompanying the bitstream, obtains a Difficulty, and determines the bitstream based on the Difficulty value. A determination step for determining whether or not to re-encode, and a re-encoding step and a re-encoding step for re-encoding the bit stream determined to be re-encoded in the process of the determination step at a set bit rate. It includes a bit stream re-encoded by the process and a combining step for combining the bit streams determined not to be re-encoded by the process of the determining step.

本発明のプログラムは、複数のビットストリームを編集対象とし編集する編集装置のプログラムであって、ビットストリームに付随する情報を参照し、Difficultyを求め、そのDifficultyの値に基づき、ビットストリームを再符号化するか否かを判断する判断ステップと、判断ステップの処理で再符号化すると判断されたビットストリームを、設定されたビットレートで再符号化する再符号化ステップと再符号化ステップの処理で再符号化されたビットストリームと、判断ステップの処理で再符号化しないと判断されたビットストリームを結合する結合ステップとを含むことを特徴とする。   The program of the present invention is a program of an editing apparatus that edits a plurality of bitstreams as editing targets, refers to information attached to the bitstream, obtains a Difficulty, and re-encodes the bitstream based on the Difficulty value. A determination step for determining whether or not to re-encode, and a re-encoding step and a re-encoding step for re-encoding the bit stream determined to be re-encoded in the determination step processing at a set bit rate. The method includes a re-encoded bit stream and a combining step of combining the bit streams determined not to be re-encoded in the process of the determining step.

本発明の記録媒体のプログラムは、複数のビットストリームを編集対象とし編集する編集装置用のプログラムであって、ビットストリームに付随する情報を参照し、Difficultyを求め、そのDifficultyの値に基づき、ビットストリームを再符号化するか否かを判断する判断ステップと、判断ステップの処理で再符号化すると判断されたビットストリームを、設定されたビットレートで再符号化する再符号化ステップと再符号化ステップの処理で再符号化されたビットストリームと、判断ステップの処理で再符号化しないと判断されたビットストリームを結合する結合ステップとを含むことを特徴とする。   The recording medium program of the present invention is a program for an editing apparatus that edits a plurality of bitstreams as editing targets, refers to information accompanying the bitstream, obtains a Difficulty, and based on the Difficulty value, A determination step for determining whether or not to re-encode the stream, and a re-encoding step and re-encoding for re-encoding the bit stream determined to be re-encoded by the processing of the determination step at a set bit rate It includes a bit stream re-encoded in the step processing and a combining step for combining the bit streams determined not to be re-encoded in the determination step processing.

本発明の編集装置および方法、並びにプログラムにおいては、複数のビットストリームが編集される場合、実際の編集処理が実行される前の段階で、再符号化した後に編集を行うビットストリームか、再符号化せずに編集を行うビットストリームかが、判断される。   In the editing apparatus and method and the program of the present invention, when a plurality of bit streams are edited, the bit stream to be edited after re-encoding or re-encoding at the stage before the actual editing process is executed. It is determined whether the bit stream is to be edited without conversion.

本発明によれば、動画像の編集を効率良く行うことができる。   According to the present invention, it is possible to efficiently edit a moving image.

本発明によれば、ユーザが所望する画質を保った状態で動画像の編集を行うことができる。また、編集の際に係る時間も、従来の編集の際に係る時間と比較して短縮させることが可能となる。   According to the present invention, it is possible to edit a moving image while maintaining the image quality desired by the user. Also, the time required for editing can be shortened as compared with the time required for conventional editing.

本発明によれば、編集後の動画像のデータ量を、ユーザが所望したデータ容量内に納めることが可能となる。   According to the present invention, it is possible to store the data amount of the edited moving image within the data capacity desired by the user.

以下に本発明の最良の形態を説明するが、開示される発明と実施の形態との対応関係を例示すると、次のようになる。明細書中には記載されているが、発明に対応するものとして、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その発明に対応するものではないことを意味するものではない。逆に、実施の形態が発明に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その発明以外の発明には対応しないものであることを意味するものでもない。   BEST MODE FOR CARRYING OUT THE INVENTION The best mode of the present invention will be described below. The correspondence relationship between the disclosed invention and the embodiments is exemplified as follows. Although there is an embodiment which is described in the specification but is not described here as corresponding to the invention, it means that the embodiment corresponds to the invention. It doesn't mean not. Conversely, even if an embodiment is described herein as corresponding to an invention, that means that the embodiment does not correspond to an invention other than the invention. Absent.

さらに、この記載は、明細書に記載されている発明の全てを意味するものではない。換言すれば、この記載は、明細書に記載されている発明であって、この出願では請求されていない発明の存在、すなわち、将来、分割出願されたり、補正により出現し、追加される発明の存在を否定するものではない。   Further, this description does not mean all the inventions described in the specification. In other words, this description is for the invention described in the specification and not claimed in this application, i.e., for the invention that will be applied for in the future or that will appear as a result of amendment and added. It does not deny existence.

本発明を適用した編集装置は、ビットストリームに付随する情報を参照し、Difficultyを求め、そのDifficultyの値に基づき、ビットストリームを再符号化するか否かを判断する判断手段(例えば、図8のステップS51,S52の処理を実行する図4の制御部73)と、判断手段により再符号化すると判断されたビットストリームを、設定されたビットレートで再符号化する再符号化手段(例えば、図8のステップS57の処理を実行する図4の復号部93、符号化部94)と、再符号化手段により再符号化されたビットストリームと、判断手段により再符号化しないと判断されたビットストリームを結合する結合手段(例えば、図8のステップS58の処理を実行する図4の制御部73)とを備える。   The editing apparatus to which the present invention is applied refers to information accompanying the bitstream, obtains a Difficulty, and determines whether or not to re-encode the bitstream based on the value of the Difficulty (for example, FIG. 8). 4 that executes the processes of steps S51 and S52 in FIG. 4 and re-encoding means (for example, re-encoding the bit stream determined to be re-encoded by the determining means at a set bit rate) The bit stream re-encoded by the re-encoding unit and the bit determined not to be re-encoded by the determining unit, and the decoding unit 93 and the encoding unit 94 in FIG. A combination unit for combining the streams (for example, the control unit 73 in FIG. 4 that executes the process of step S58 in FIG. 8).

前記判断手段により、編集対象とされた全てのビットストリームが、再符号化しないと判断された場合、編集後のビットストリームのビットレートが、目標とされるビットレート以上にならないか否かを判断することにより、編集対象とされた全てのビットストリームを再符号化せずに編集してよいか否かを判断する第2の判断手段(例えば、図8のステップS54,S55の処理を実行する図4の制御部73)をさらに備える。   If it is determined by the determination means that all the bitstreams to be edited are not to be re-encoded, it is determined whether or not the bit rate of the bitstream after editing does not exceed the target bitrate. As a result, second determination means for determining whether or not all the bitstreams to be edited can be edited without re-encoding (for example, the processing of steps S54 and S55 in FIG. 8 is executed). 4 is further provided.

前記判断手段により再符号化しないと判断されたビットストストリームのビットレートが、予め設定されているビットレートに関する閾値以上である場合、再符号化するビットストリームに設定し直す再設定手段(例えば、図9のステップS72の処理を実行する図4の制御部73)をさらに備える。   When the bit rate of the bit stream determined not to be re-encoded by the determining unit is equal to or higher than a preset threshold for the bit rate, re-setting unit (for example, re-setting to the bit stream to be re-encoded) 4 is further provided to execute the process of step S72 of FIG.

以下に、本発明の実施の形態について図面を参照して説明する。   Embodiments of the present invention will be described below with reference to the drawings.

本発明は、例えば、図1に示すように、ユーザがビデオカメラ11で撮影した動画像を、記録媒体12に記録し、その記録媒体12に記録された動画像のデータを、PC(Personal Computer)13で編集する場合などに適用できる。また、インターネットなどのネットワーク14を介してPC13にダウンロードされた動画像を、PC13側で編集する場合などにも適用できる。   In the present invention, for example, as shown in FIG. 1, a moving image taken by a user with a video camera 11 is recorded on a recording medium 12, and moving image data recorded on the recording medium 12 is stored in a PC (Personal Computer). ) It can be applied when editing at 13. The present invention can also be applied to a case where a moving image downloaded to the PC 13 via the network 14 such as the Internet is edited on the PC 13 side.

本発明は、特に、PC13側で行われる編集に関わるものである。以下の説明においては、編集の対象となるデータは、動画像データである場合を例に挙げて説明する。   The present invention particularly relates to editing performed on the PC 13 side. In the following description, a case where the data to be edited is moving image data will be described as an example.

図1において、記録媒体12は、ビデオカメラ11に装着される。ビデオカメラ11により撮影された動画像は、装着されている記録媒体12に記録される。ビデオカメラ11は、例えば、MPEG(Moving Picture Experts Group)方式や、AVI(Audio Video Interleaved)方式などの所定の符号化方式で符号化したデータを、記録媒体12に記録する。   In FIG. 1, a recording medium 12 is attached to a video camera 11. A moving image photographed by the video camera 11 is recorded on a recording medium 12 attached thereto. The video camera 11 records data encoded by a predetermined encoding method such as an MPEG (Moving Picture Experts Group) method or an AVI (Audio Video Interleaved) method on the recording medium 12.

ユーザは、ビデオカメラ11により撮影し、記録媒体12に記録させた動画像を、PC13でも閲覧することができるように構成されている。PC13には、記録媒体12を装着し、その記録媒体からデータを読み出すためのドライブ40(図2)が設けられている。   The user is configured to be able to view the moving image captured by the video camera 11 and recorded on the recording medium 12 even on the PC 13. The PC 13 is provided with a drive 40 (FIG. 2) for mounting the recording medium 12 and reading data from the recording medium.

または、ビデオカメラ11とPC13は、データの授受が行える所定のケーブル(例えば、USB(Universal Serial Bus))で接続できるように構成されており、そのケーブルを介して、ビデオカメラ11に装着された記録媒体12から、動画像データがPC13に供給されるように構成されている。   Alternatively, the video camera 11 and the PC 13 are configured to be connected with a predetermined cable (for example, USB (Universal Serial Bus)) that can exchange data, and are attached to the video camera 11 through the cable. The moving image data is supplied from the recording medium 12 to the PC 13.

このようにして、PC13に、ビデオカメラ11により撮影された動画像のデータが供給される。また、PC13は、ネットワーク14を介して、例えば、他のユーザが撮影した動画像のデータ(このデータも、所定の符号化方式で符号化されている)を取得することができるように構成されている。   In this way, moving image data captured by the video camera 11 is supplied to the PC 13. In addition, the PC 13 is configured to be able to acquire, for example, moving image data captured by another user (this data is also encoded by a predetermined encoding method) via the network 14. ing.

PC13は、このようにして、動画像データを取得する。   In this way, the PC 13 acquires moving image data.

図2は、PC13の内部構成例を示す図である。   FIG. 2 is a diagram illustrating an internal configuration example of the PC 13.

PC13のCPU(Central Processing Unit)31は、ROM(Read Only Memory)32に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)33には、CPU31が各種の処理を実行する上において必要なデータやプログラムなどが適宜記憶される。入出力インタフェース35は、キーボードやマウスから構成される入力部36が接続され、入力部36に入力された信号をCPU31に出力する。また、入出力インタフェース35には、ディスプレイやスピーカなどから構成される出力部37も接続されている。   A CPU (Central Processing Unit) 31 of the PC 13 executes various processes according to programs stored in a ROM (Read Only Memory) 32. A RAM (Random Access Memory) 33 appropriately stores data, programs, and the like necessary for the CPU 31 to execute various processes. The input / output interface 35 is connected to an input unit 36 including a keyboard and a mouse, and outputs a signal input to the input unit 36 to the CPU 31. The input / output interface 35 is also connected with an output unit 37 including a display and a speaker.

さらに、入出力インタフェース35には、ハードディスクなどから構成される記憶部38、および、インターネットなどのネットワーク14を介して他の装置とデータの授受を行う通信部39も接続されている。ドライブ40は、磁気ディスク51、光ディスク52、光磁気ディスク53、半導体メモリ54などの記録媒体からデータを読み出したり、データを書き込んだりするときに用いられる。   The input / output interface 35 is also connected to a storage unit 38 composed of a hard disk and a communication unit 39 that exchanges data with other devices via the network 14 such as the Internet. The drive 40 is used when data is read from or written to a recording medium such as the magnetic disk 51, the optical disk 52, the magneto-optical disk 53, and the semiconductor memory 54.

記録媒体12は、磁気ディスク51、光ディスク52、光磁気ディスク53、半導体メモリ54などである。ここでは、これらの異なる記録媒体を、一括して、記録媒体12と記述する。   The recording medium 12 is a magnetic disk 51, an optical disk 52, a magneto-optical disk 53, a semiconductor memory 54, or the like. Here, these different recording media are collectively referred to as a recording medium 12.

PC13は、本実施の形態においては、上述したように、取得した動画像データを編集する装置として機能する。ここで、その動画像データの編集に関わる機能であり、本実施の形態においてはPC13で実現される機能について説明する。   In the present embodiment, the PC 13 functions as a device for editing the acquired moving image data as described above. Here, a function related to editing of the moving image data, and a function realized by the PC 13 in the present embodiment will be described.

動画像データの編集のうち、結合を例に挙げて説明すると、まず、結合すべき場面(ビットストリーム)が選択され、その選択されたビットストリームの結合が行われる。結合されるビットストリームは、異なるビットレートのストリーム、画のサイズが異なるストリームなどが混在していても良い。   In the editing of moving image data, description will be made with reference to combining as an example. First, scenes (bitstreams) to be combined are selected, and the selected bitstreams are combined. The bit streams to be combined may include streams having different bit rates, streams having different image sizes, and the like.

図3は、PC13により実現される編集に関わる機能のうち、編集すべき動画像データの選択に関わる機能(以下、適宜、選択機能と記述する)を示す機能ブロック図である。   FIG. 3 is a functional block diagram showing functions related to the selection of moving image data to be edited (hereinafter, appropriately referred to as a selection function) among the functions related to editing realized by the PC 13.

ここでは、動画像データは、記録媒体12に記録され、ドライブ40にセットされるとして説明する。ドライブ40は、セットされた記録媒体12から動画像データを読み出し、その動画像データを再生部71に供給する。再生部71は、供給された動画像データを再生し、その再生した動画像データを、表示部72に供給する。   Here, it is assumed that the moving image data is recorded on the recording medium 12 and set in the drive 40. The drive 40 reads moving image data from the set recording medium 12 and supplies the moving image data to the reproducing unit 71. The reproduction unit 71 reproduces the supplied moving image data, and supplies the reproduced moving image data to the display unit 72.

再生部71に供給される動画像データは、所定の符号化方式(例えば、MPEG方式)に基づいて符号化されているので、再生部71は、供給された動画像データを復号することにより再生処理を実行する。再生部71は、CPU31(図2)が、所定のプログラム(デコーダプログラム)を実行することにより実現される機能である。または、専用のハードウェアで構成される機能として設けられるようにしても良い。   Since the moving image data supplied to the reproducing unit 71 is encoded based on a predetermined encoding method (for example, MPEG method), the reproducing unit 71 reproduces the decoded moving image data by decoding the supplied moving image data. Execute the process. The reproduction unit 71 is a function realized by the CPU 31 (FIG. 2) executing a predetermined program (decoder program). Alternatively, it may be provided as a function constituted by dedicated hardware.

表示部72は、出力部37(図2)を構成する、例えばディスプレイ(不図示)であり、この場合、動画像をユーザに提供する機能を有する。   The display unit 72 is, for example, a display (not shown) constituting the output unit 37 (FIG. 2), and in this case, has a function of providing a moving image to the user.

ドライブ40により記録媒体12から読み出される符号化された動画像データ(ビットストリーム)や、再生部71により再生されたビットストリームは、必要に応じ、記憶部38にも出力され、記憶される。必要に応じとは、ここでは、制御部73の指示に基づくという意味である。制御部73は、図3に示した各部を制御するために設けられている。   The encoded moving image data (bit stream) read from the recording medium 12 by the drive 40 and the bit stream reproduced by the reproducing unit 71 are also output and stored in the storage unit 38 as necessary. Here, “necessary” means based on an instruction from the control unit 73. The control unit 73 is provided to control each unit shown in FIG.

制御部73は、CPU31(図2)が所定のプログラムを実行することにより実現される機能である。制御部73は、入力部36から入力されるユーザの指示に基づいて各部を制御する。入力部36は、キーボードやマウス(いずれも不図示)で構成され、ユーザが後述するIN点やOUT点などの各種の情報(詳細は、図5のフローチャートを参照して説明する)を設定するときに用いられる。また、入力部36には、GUI(Graphical User Interface)も含まれる。   The control unit 73 is a function realized by the CPU 31 (FIG. 2) executing a predetermined program. The control unit 73 controls each unit based on a user instruction input from the input unit 36. The input unit 36 includes a keyboard and a mouse (both not shown), and the user sets various types of information (details will be described with reference to the flowchart of FIG. 5) such as an IN point and an OUT point described later. Sometimes used. The input unit 36 also includes a GUI (Graphical User Interface).

このような選択機能により、選択されたビットストリームを編集する編集機能について説明する。図6は、編集機能に関する機能ブロック図である。ドライブ40には、記録媒体12がセットされる。そして、セットされた記録媒体12から、必要に応じビットストリームなどが記憶部38に供給され、記憶される。制御部73は、記憶部38との間で、ビットストリームなどを授受する。また、制御部73は、入力部36からのデータも供給され、そのデータ(主に、ユーザからの指示に関するデータ)に対応する処理を実行する。   An editing function for editing a selected bitstream using such a selection function will be described. FIG. 6 is a functional block diagram relating to the editing function. The recording medium 12 is set in the drive 40. Then, a bit stream or the like is supplied from the set recording medium 12 to the storage unit 38 as necessary, and stored. The control unit 73 exchanges a bit stream and the like with the storage unit 38. The control unit 73 is also supplied with data from the input unit 36 and executes processing corresponding to the data (mainly data related to instructions from the user).

編集機能を実現するために、スイッチ91、スイッチ92、復号部93、および、符号化部94が設けられている。これらの部分により、編集対象となるビットストリームのうち、そのまま結合するビットストリームと、再符号化して結合するビットストリームとに分けられる。   In order to realize the editing function, a switch 91, a switch 92, a decoding unit 93, and an encoding unit 94 are provided. By these parts, the bit stream to be edited is divided into a bit stream to be combined as it is and a bit stream to be re-encoded and combined.

再符号化せずに結合の処理を行う場合、スイッチ91は端子a側に接続され、スイッチ92は端子c側に接続される。このようにスイッチ91,92において接続が行われることにより、記憶部38から読み出されたビットストリームは、再符号化などの処理が行われることなく、そのままのビットストリームとして、最終的にはドライブ40に供給される。   When combining processing is performed without re-encoding, the switch 91 is connected to the terminal a side, and the switch 92 is connected to the terminal c side. By connecting the switches 91 and 92 in this manner, the bit stream read from the storage unit 38 is not subjected to processing such as re-encoding, and is finally driven as a bit stream as it is. 40.

ドライブ40に供給されたビットストリームは、セットされている記録媒体(記録媒体12でも良いし、記録媒体12とは異なる他の記録媒体でも良い。また、ハードディスクドライブなどでも良い)に記録される。   The bit stream supplied to the drive 40 is recorded on a set recording medium (the recording medium 12 may be another recording medium different from the recording medium 12, or a hard disk drive or the like).

一方、再符号化して結合の処理が行われる場合、スイッチ91は端子b側に接続され、スイッチ92は端子d側に接続される。スイッチ91が端子b側と接続されることにより、記憶部38から読み出されるビットストリームは、復号部93に入力される。復号部93は、入力されたビットストリームを、そのビットストリームの暗号化方式に対応した復号方式(例えば、MPEG方式)により復号する。   On the other hand, when re-encoding and combining processing are performed, the switch 91 is connected to the terminal b side, and the switch 92 is connected to the terminal d side. By connecting the switch 91 to the terminal b side, the bit stream read from the storage unit 38 is input to the decoding unit 93. The decryption unit 93 decrypts the input bit stream by a decryption method (for example, MPEG method) corresponding to the encryption method of the bit stream.

復号されたビットストリームは、符号化部94に供給される。符号化部94は、他の編集対象となっているビットストリームとの関係を考慮し、例えば、ビットレートなどを考慮し、他のビットレートと同様の符号化方式により符号化を行う。符号化部94により符号化されたビットストリームは、スイッチ92の端子dを介して、最終的にはドライブ40に供給される。   The decoded bit stream is supplied to the encoding unit 94. The encoding unit 94 performs encoding using the same encoding method as other bit rates in consideration of the relationship with other editing target bitstreams, for example, bit rates. The bit stream encoded by the encoding unit 94 is finally supplied to the drive 40 via the terminal d of the switch 92.

このようにして、複数のビットストリームが結合される。なお、スイッチ91、スイッチ92、復号部93、および、符号化部94の各部は、それぞれ、ハードウェアとして設けられても良いし、ソフトウェアとして設けられても良い。   In this way, a plurality of bit streams are combined. Each unit of the switch 91, the switch 92, the decoding unit 93, and the encoding unit 94 may be provided as hardware, or may be provided as software.

図4において、復号部93において行われる復号と、符号化部94において行われる符号化は、同一の方式に基づき行われる必要性はない。よって、異なる方式で符号化された複数のビットストリームを、復号部93により、それぞれの符号化方式に基づいて一旦復号し、同一の方式で符号化部94により符号化するようにすれば、編集後のビットストリームは、同一の方式で符号化されたものとすることができる。   In FIG. 4, the decoding performed by the decoding unit 93 and the encoding performed by the encoding unit 94 need not be performed based on the same method. Therefore, if a plurality of bit streams encoded by different methods are once decoded by the decoding unit 93 based on the respective encoding methods and encoded by the encoding unit 94 by the same method, the editing is performed. Later bitstreams may be encoded in the same manner.

次に、図3に示した構成を有する選択機能における処理と、その選択機能の処理により選択されたビットストリームを編集する、図4に示した構成を有する編集機能における処理について説明する。   Next, processing in the selection function having the configuration shown in FIG. 3 and processing in the editing function having the configuration shown in FIG. 4 for editing the bitstream selected by the processing of the selection function will be described.

まず、図3に示した機能ブロックのような構成を有する選択機能の処理について、図5のフローチャートを参照して説明を加える。   First, the processing of the selection function having the configuration like the functional block shown in FIG. 3 will be described with reference to the flowchart of FIG.

ステップS11において、ビットストリーム(動画像データ)の再生が行われる。ドライブ40にセットされた記録媒体12からビットストリームが読み出され、再生部71に供給される。再生部71は、供給されたビットストリームを再生(復号)し、表示部72に供給する。表示部72は、復号されたビットストリームに基づく動画像を表示する。   In step S11, the bit stream (moving image data) is reproduced. A bit stream is read from the recording medium 12 set in the drive 40 and supplied to the playback unit 71. The reproduction unit 71 reproduces (decodes) the supplied bit stream and supplies the reproduced bit stream to the display unit 72. The display unit 72 displays a moving image based on the decoded bitstream.

図6は、表示部72に表示される画面の一例を示す図である。再生部71により再生されたビットストリームに基づく動画像は、動画像表示部111に表示される。動画像表示部111は、表示部72の表示領域の一部分に設けられている。動画像表示部111の右側には、編集対象表示部112が設けられている。この編集対象表示部112には、編集対象とされたビットストリームによる動画像の一場面(静止画)が表示される。   FIG. 6 is a diagram illustrating an example of a screen displayed on the display unit 72. A moving image based on the bit stream reproduced by the reproducing unit 71 is displayed on the moving image display unit 111. The moving image display unit 111 is provided in a part of the display area of the display unit 72. An edit target display unit 112 is provided on the right side of the moving image display unit 111. The edit target display unit 112 displays a scene (still image) of a moving image based on a bit stream that is an edit target.

編集対象表示部112の下側には、設定部113と設定部114が設けられている。設定部113は、画質の難しさ(Difficulty)を示す値の上限Dfmaxと下限Dfminを、ユーザ側で設定できるように設けられている。設定部113は、上限Dfmaxと下限Dfminの2つの閾値を設定できるように、2つのスクロールバーが設けられている。一方のスクロールバーで上限Dfmaxが設定され、他方のスクロールバーで下限Dfminが設定される。   A setting unit 113 and a setting unit 114 are provided below the editing target display unit 112. The setting unit 113 is provided so that a user can set an upper limit Dfmax and a lower limit Dfmin of values indicating difficulty of image quality (Difficulty). The setting unit 113 is provided with two scroll bars so that two threshold values, an upper limit Dfmax and a lower limit Dfmin, can be set. One scroll bar sets an upper limit Dfmax, and the other scroll bar sets a lower limit Dfmin.

ここでは、動きが激しい場面や高画質で記録された場面は、難しいと場面と設定されるとして説明を続ける。   Here, the description will be continued assuming that a scene with intense movement or a scene recorded with high image quality is set as a scene when it is difficult.

設定部113には、図示はしていないが、例えばパーセンテージ(%)を示す数値が、スクロールバー上の対応する位置に表示される。パーセンテージが高いほど、Difficultyが高いことを意味する。この設定部113により設定された上限Dfmaxと下限Dfminの値は、後述する編集処理の際の計算に用いられる。   Although not shown, for example, a numerical value indicating a percentage (%) is displayed on the setting unit 113 at a corresponding position on the scroll bar. The higher the percentage, the higher the Difficulty. The values of the upper limit Dfmax and the lower limit Dfmin set by the setting unit 113 are used for calculation in the editing process described later.

詳細は後述するが、上限Dfmax以上のDifficultyの値(以下、適宜、値Dfiと記述する)を有するビットストリームは再符号化(Re-Rendering)された後、結合処理が施される。この意味は、ユーザが設定した上限Dfmaxよりも難しい画像、例えば、高画質で記録されているストリームは、画質を落として記録し直すことを意味する。   As will be described in detail later, a bitstream having a value of Difficulty greater than or equal to the upper limit Dfmax (hereinafter referred to as a value Dfi as appropriate) is re-encoded (Re-Rendering) and then subjected to a combining process. This means that an image that is more difficult than the upper limit Dfmax set by the user, for example, a stream that is recorded with high image quality, is recorded again with reduced image quality.

また、下限Dfmin以下の値Dfiを有するビットストリームも再符号化(Re-Rendering)される。この意味は、ストリームの中には、難しいと判断される画像ではないのに、高いビットレートで符号化されているストリームを低ビットレートで符号化されたストリームに変換し、ビットレートを調整するといったようなことを意味する。   In addition, a bit stream having a value Dfi equal to or lower than the lower limit Dfmin is also re-encoded (Re-Rendering). This means that a stream encoded at a high bit rate is converted into a stream encoded at a low bit rate, even though the image is not considered difficult, and the bit rate is adjusted. It means that.

そして、下限Dfmin以上であり、上限Dfmaxまでの値Dfiを有するストリームは、再符号化されない(後述するように、他の条件により再符号化される可能性はあるが、このDifficultyという条件においては再符号化されない)ストリームであると設定される。   A stream having a value Dfi that is equal to or higher than the lower limit Dfmin and has a value Dfi up to the upper limit Dfmax is not re-encoded (as will be described later, there is a possibility of re-encoding due to other conditions. Set to be a stream that is not re-encoded).

設定部114は、閾値αを設定するために設けられている。設定部114にはスクロールバーが設けられており、このスクロールバーを操作することにより、ユーザは、所望の閾値αを設定できるように構成されている。この閾値αは、0乃至1までの値を有する値として設定されている。この閾値αが、1に設定されると、上述したDifficultyの条件にかかわらず、全てのストリームがRe-Renderingされて結合される。逆に、0に設定されると、上述したDifficultyの条件に関わらず全てのストリームはRe-Renderingされることなく結合される。   The setting unit 114 is provided for setting the threshold value α. The setting unit 114 is provided with a scroll bar, and the user can set a desired threshold value α by operating the scroll bar. This threshold value α is set as a value having a value from 0 to 1. When this threshold value α is set to 1, all streams are re-rendered and combined regardless of the above-mentioned Difficulty condition. Conversely, when set to 0, all streams are combined without being re-rendered regardless of the above-mentioned Difficulty condition.

この設定部114により設定された閾値αも、後述する編集処理の際の計算に用いられる。   The threshold value α set by the setting unit 114 is also used for calculation in editing processing described later.

このような設定部113や設定部114を設けることにより、ユーザが所望する画質を維持した状態で、ビットストリームの結合処理を行うことが可能となる。   By providing the setting unit 113 and the setting unit 114 as described above, it is possible to perform bitstream combining processing while maintaining the image quality desired by the user.

編集対象表示部112には、設定部113や設定部114により設定された値に応じて、その表示される画像の画像が変化されるように制御が行われる。よって、ユーザは、その編集対象表示部112に表示された画像を閲覧し、編集後の画質を確認しながら、設定部113や設定部114において、所望の値を設定することができる。   The edit target display unit 112 is controlled so that the image of the displayed image is changed according to the values set by the setting unit 113 and the setting unit 114. Therefore, the user can set a desired value in the setting unit 113 and the setting unit 114 while viewing the image displayed on the editing target display unit 112 and confirming the image quality after editing.

表示部72には、IN点を指示するためのボタン115とOUT点を指示するためのボタン116も設けられている。IN点は、編集(抽出)するストリームの開始位置を示し、OUT点は、編集するストリームの終了位置を示す。IN点およびOUT点は、それぞれ、ユーザにより設定される。ユーザは、例えば、動画像表示部111に表示されている動画像を参照しながら、IN点とOUT点をそれぞれ、ボタン115,116を操作することにより設定する。   The display unit 72 is also provided with a button 115 for designating the IN point and a button 116 for designating the OUT point. The IN point indicates the start position of the stream to be edited (extracted), and the OUT point indicates the end position of the stream to be edited. The IN point and the OUT point are set by the user, respectively. For example, the user sets the IN point and the OUT point by operating the buttons 115 and 116 while referring to the moving image displayed on the moving image display unit 111.

設定部113,114におけるスクロールバーや、ボタン115,116を操作する際、ユーザは、操作したいバーやボタン上に、カーソル121を位置させ、マウス(入力部36(図3))をクリックするなどの所定の操作を行う。   When operating the scroll bars and buttons 115 and 116 in the setting units 113 and 114, the user positions the cursor 121 on the bar or button to be operated and clicks the mouse (input unit 36 (FIG. 3)). The predetermined operation is performed.

“編集”というボタン117は、各種の設定が終了した時点で、ビットストリームの編集を実行させるときに操作されるボタンである。   The “edit” button 117 is a button that is operated when bitstream editing is executed when various settings are completed.

図6に示した表示部72の画面は、一例であり、限定を示すものではない。例えば、IN点やOUT点の設定なども、スクロールバーなどを移動させることで設定できるようにしても良い。   The screen of the display unit 72 illustrated in FIG. 6 is an example and does not indicate limitation. For example, the IN point and OUT point may be set by moving a scroll bar or the like.

図5のフローチャートの説明に戻り、ステップS11における処理として再生されたビットストリームは、動画像表示部111に表示される。   Returning to the description of the flowchart of FIG. 5, the bit stream reproduced as the process in step S <b> 11 is displayed on the moving image display unit 111.

ステップS12において、IN点の指示があったか否かが判断される。制御部73は、入力部36への入力を判断することにより、IN点の指示があったか否かを判断する。この場合、IN点を指示するためのボタン115が操作されると、そのことを示すデータが、入力部36から制御部73に供給されるため、制御部73は、そのようなデータが供給されたか否かを判断することにより、ステップS12の処理を行う。   In step S12, it is determined whether or not an IN point has been instructed. The control unit 73 determines whether there is an IN point instruction by determining an input to the input unit 36. In this case, when the button 115 for instructing the IN point is operated, data indicating that is supplied from the input unit 36 to the control unit 73, and thus the control unit 73 is supplied with such data. By determining whether or not, step S12 is performed.

ステップS12において、IN点が指示されたと判断されるまで、ステップS12における処理が繰り返し行われ、IN点が指示されたと判断されると、ステップS13に処理が進められる。ステップS13において、指示されたIN点を示すデータが、記憶部38に記憶される。   In step S12, the process in step S12 is repeated until it is determined that the IN point has been instructed. If it is determined that the IN point has been instructed, the process proceeds to step S13. In step S <b> 13, data indicating the designated IN point is stored in the storage unit 38.

次に、ステップS14において、OUT点が指示されたか否かが判断される。OUT点の指示があったか否かの判断は、OUT点を指示するためのボタン116が操作されたか否かを判断することにより行われる。この判断もIN点の場合と同様に(ステップS12における処理と同様に)、制御部73は、入力部36から供給されるデータに基づき判断を行う。   Next, in step S14, it is determined whether or not an OUT point has been designated. Whether or not the OUT point has been instructed is determined by determining whether or not the button 116 for instructing the OUT point has been operated. This determination is also made based on the data supplied from the input unit 36 as in the case of the IN point (similar to the processing in step S12).

ステップS14において、OUT点が指示されたと判断されるまで、ステップS14における処理が繰り返し行われ、OUT点が指示されたと判断されると、ステップS15に処理が進められる。ステップS15において、指示されたOUT点を示すデータが、記憶部38に記憶される。   In step S14, the process in step S14 is repeated until it is determined that the OUT point has been instructed. If it is determined that the OUT point has been instructed, the process proceeds to step S15. In step S15, data indicating the instructed OUT point is stored in the storage unit 38.

このようにして、所定のビットストリームから編集すべき(抽出すべき)ストリームの範囲(IN点からOUT点まで)が設定(記憶)される。   In this way, the range (from the IN point to the OUT point) of the stream to be edited (extracted) from the predetermined bit stream is set (stored).

IN点とOUT点に関するデータが記憶部38に記憶されると、ステップS16において、IN点からOUT点までのビットストリームが抽出され、記憶部38に記憶される。なお、ここでは、抽出されたビットストリームは記憶部38に記憶され、この記憶部38に記憶されたビットストリームが後述する編集処理において実際に編集されるストリームとして読み出されるとして説明をする。   When the data regarding the IN point and the OUT point is stored in the storage unit 38, the bit stream from the IN point to the OUT point is extracted and stored in the storage unit 38 in step S16. In the following description, the extracted bit stream is stored in the storage unit 38, and the bit stream stored in the storage unit 38 is read as a stream that is actually edited in an editing process described later.

他の実施の形態にとしては、記憶部38には、IN点とOUT点のデータを記憶し、実際の編集処理が行われるときに、記憶部38に記憶されているIN点とOUT点のデータから、編集対象とされるビットストリームを、記録媒体12(図3)から読み出されるようにしても良い。   As another embodiment, the storage unit 38 stores IN point and OUT point data, and when the actual editing process is performed, the IN point and OUT point stored in the storage unit 38 are stored. The bit stream to be edited may be read from the recording medium 12 (FIG. 3) from the data.

図5のフローチャートの説明に戻り、ステップS16において、記憶部38に該当するビットストリームが記憶されると、ステップS17において、Q値の読み出しが行われ、記憶部38に記憶される。ここで、Q値とは、ビットストリームがMPEG方式で圧縮されている場合、Qスケールタイプの値である。ここでは、Q値を用いるとして説明を続けるが、動きベクトルに関する値などを用いるようにしても良い。   Returning to the description of the flowchart of FIG. 5, when the bit stream corresponding to the storage unit 38 is stored in step S <b> 16, the Q value is read and stored in the storage unit 38 in step S <b> 17. Here, the Q value is a Q scale type value when the bit stream is compressed by the MPEG method. Here, the description is continued assuming that the Q value is used, but a value related to a motion vector may be used.

読み出されるQ値は、ステップS16における処理で記憶部38に記憶されたビットストリームのIN点付近におけるQ値と、OUT点付近のQ値である。少なくとも2つのQ値が1つのビットストリームから読み出される。Q値は、後述するように、平均値を算出するため、少なくとも2つのQ値が読み出されるとするが、もちろん2以上のQ値が読み出されるようにしても良い。その場合、所定のデータ量毎、所定の時間分毎などに、Q値が読み出されるようにすればよい。   The read Q values are the Q value near the IN point and the Q value near the OUT point of the bitstream stored in the storage unit 38 in the process in step S16. At least two Q values are read from one bitstream. As will be described later, at least two Q values are read out in order to calculate an average value as will be described later. Of course, two or more Q values may be read out. In that case, the Q value may be read every predetermined amount of data, every predetermined time, or the like.

ステップS17において、Q値の読み出し、および、記憶が終了されると、ステップS11に処理が戻され、次の編集対象とされるビットストリームに対して選択処理が実行される。   In step S17, when the reading and storage of the Q value are completed, the process returns to step S11, and the selection process is executed for the next bit stream to be edited.

このような処理が図3に示した構成を有する選択機能により繰り返される一方で、図4に示した編集機能により、図7乃至10に示すフローチャートに基づく処理が実行される。ステップS31において、制御部73(図4)は、“編集”ボタン117(図6)が操作されたか否かを判断する。制御部73は、入力部36から、“編集”ボタン117が操作されたことを示すデータが入力されたか否かを判断することにより、ステップS31における判断を行う。   While such processing is repeated by the selection function having the configuration shown in FIG. 3, the processing based on the flowcharts shown in FIGS. 7 to 10 is executed by the editing function shown in FIG. In step S31, the control unit 73 (FIG. 4) determines whether or not the “edit” button 117 (FIG. 6) has been operated. The control unit 73 determines in step S31 by determining whether data indicating that the “edit” button 117 has been operated is input from the input unit 36.

ステップS31において、“編集”ボタン117は操作されていないと判断されると、ステップS32に処理が進められる。ステップS32において、設定部113(図6)において設定される上限Dfmaxと下限Dfminが設定されたか否かが判断される。ステップS32において、上限Dfmaxと下限Dfminが設定されたと判断された場合、ステップS33に処理が進められ、上限Dfmaxと下限Dfminは設定されていないと判断された場合、ステップS33の処理をスキップし、ステップS34に処理が進められる。   If it is determined in step S31 that the “edit” button 117 has not been operated, the process proceeds to step S32. In step S32, it is determined whether the upper limit Dfmax and the lower limit Dfmin set in the setting unit 113 (FIG. 6) have been set. If it is determined in step S32 that the upper limit Dfmax and the lower limit Dfmin are set, the process proceeds to step S33. If it is determined that the upper limit Dfmax and the lower limit Dfmin are not set, the process of step S33 is skipped. The process proceeds to step S34.

ステップS33において、設定された上限Dfmaxと下限Dfminが、記憶部38に記憶される。   In step S33, the set upper limit Dfmax and lower limit Dfmin are stored in the storage unit 38.

ステップS34において、閾値αが設定されたか否かが判断される。ステップS34において、閾値αが設定されたと判断された場合、ステップS35に処理が進められ、閾値αは設定されていないと判断された場合、ステップS35の処理をスキップし、ステップS31に処理が戻され、それ以降の処理が繰り返される。   In step S34, it is determined whether or not the threshold value α is set. If it is determined in step S34 that the threshold value α is set, the process proceeds to step S35. If it is determined that the threshold value α is not set, the process in step S35 is skipped, and the process returns to step S31. And the subsequent processing is repeated.

ステップS35において、設定された閾値αが、記憶部38に記憶される。   In step S35, the set threshold value α is stored in the storage unit 38.

一方、ステップS31において、“編集”ボタン117が操作されたと判断された場合、ステップS36に処理が進められる。ステップS36において、記憶部38に、上限Dfmax、下限Dfmin、および、閾値αが記憶されている(ユーザにより設定されている)か否かが判断される。ステップS36において、上限Dfmax、下限Dfmin、および、閾値αは記憶されていないと判断された場合、ステップS37に処理が進められ、記憶されていると判断された場合、ステップS37の処理をスキップし、ステップS38に処理が進められる。   On the other hand, if it is determined in step S31 that the “edit” button 117 has been operated, the process proceeds to step S36. In step S36, it is determined whether or not the upper limit Dfmax, the lower limit Dfmin, and the threshold value α are stored in the storage unit 38 (set by the user). If it is determined in step S36 that the upper limit Dfmax, the lower limit Dfmin, and the threshold value α are not stored, the process proceeds to step S37. If it is determined that they are stored, the process of step S37 is skipped. The process proceeds to step S38.

ステップS37において、ユーザが設定しなかった場合にデフォルトとして用いられる上限Dfmax、下限Dfmin、および、閾値αが、記憶部38から読み出される。なお、ユーザにより設定されている場合には、その設定されている上限Dfmax、下限Dfmin、および、閾値αが、記憶部38から読み出される。   In step S <b> 37, the upper limit Dfmax, the lower limit Dfmin, and the threshold value α that are used as defaults when not set by the user are read from the storage unit 38. If set by the user, the set upper limit Dfmax, lower limit Dfmin, and threshold value α are read from the storage unit 38.

ステップS38において、ビットストリームの結合処理が実行される。ステップS38における結合処理について、図8のフローチャートを参照して説明するが、その説明の前に、図11を参照し、編集されるビットストリームについて説明を加える。   In step S38, a bitstream combining process is executed. The combining process in step S38 will be described with reference to the flowchart of FIG. 8. Prior to the description, the edited bitstream will be described with reference to FIG.

選択機能により選択対象となったビットストリームは、ビットストリームA、ビットストリームB、および、ビットストリームCであるとする。ビットストリームAからは、区間Aが結合対象のビットストリームとして抽出され、ビットストリームBからは、区間Bが結合対象のビットストリームとして抽出され、ビットストリームCからは、区間Cが結合対象のビットストリームとして抽出される。   It is assumed that the bit streams selected by the selection function are bit stream A, bit stream B, and bit stream C. From the bit stream A, the section A is extracted as a bit stream to be combined, from the bit stream B, the section B is extracted as a bit stream to be combined, and from the bit stream C, the section C is a bit stream to be combined. Extracted as

区間A乃至Cは、図5に示したフローチャートの処理が、ビットストリームA乃至C毎に行われることにより、抽出されたビットストリームである。抽出された(結合対象とされた)区間A乃至Cのビットストリームが結合されることにより、図11に示すように、新たなビットストリームDが生成される。   The sections A to C are bit streams extracted by performing the processing of the flowchart shown in FIG. 5 for each of the bit streams A to C. By combining the extracted bit streams of the sections A to C (to be combined), a new bit stream D is generated as shown in FIG.

このような場合、記憶部38には、図12に示すようなデータが記憶されている。すなわち、区間A乃至C毎に、IN点、OUT点、ビットストリーム、および、Q値が記憶されている。さらに、ユーザにより設定された、または、デフォルトの上限Dfmax、下限Dfmin、および、閾値αも記憶されている。   In such a case, data as shown in FIG. That is, the IN point, the OUT point, the bit stream, and the Q value are stored for each of the sections A to C. Furthermore, a default upper limit Dfmax, a lower limit Dfmin, and a threshold value α set by the user are also stored.

ビットストリームD(図11)の生成に関わる処理(結合処理)について、図8のフローチャートを参照して説明する。なお、以下の説明においては、図11に示したように、区間A乃至Cの各ビットストリームが結合される場合を例に挙げ、図12に示したように、記憶部38にはデータが記憶されているとして説明する。   Processing (combination processing) related to generation of the bit stream D (FIG. 11) will be described with reference to the flowchart of FIG. In the following description, as shown in FIG. 11, the case where the bit streams in the sections A to C are combined is taken as an example, and data is stored in the storage unit 38 as shown in FIG. It will be explained as being.

ステップS51において、Difficultyの計算が区間A乃至Cのビットストリーム毎に行われる。そして、ステップS52において、計算されたDifficultyに基づき、Re-Rendering区間(再符号化するビットストリーム)の判断が行われる。ここで、ステップS51,52の処理について説明を加える。   In step S51, the calculation of Difficulty is performed for each bit stream in the sections A to C. In step S52, the Re-Rendering section (bit stream to be re-encoded) is determined based on the calculated Difficulty. Here, the processing of steps S51 and 52 will be described.

Difficultyの計算は、記憶部38(図12)に記憶されているQ値が読み出され行われる。図12に示したように、記憶部38には、各区間A乃至C毎に、Q値が記憶されている。そのQ値は、上述したように、1区間につき、少なくとも2以上のQ値が記憶されている。ステップS51におけるDifficultyの計算においては、各区間A乃至C毎に、Q値の平均値が算出される。   The calculation of Difficulty is performed by reading the Q value stored in the storage unit 38 (FIG. 12). As shown in FIG. 12, the storage unit 38 stores a Q value for each of the sections A to C. As for the Q value, as described above, at least two Q values are stored for each section. In the calculation of Difficulty in step S51, an average value of Q values is calculated for each section A to C.

ここでは、Difficultyの計算が行われた結果として、区間AのDifficultyの値を“値Dfa”とし、区間BのDifficultyの値を“値Dfb”とし、区間CのDifficultyの値を“値Dfc”とする。   Here, as a result of calculation of Difficulty, the value of Difficulty in section A is set to “value Dfa”, the value of Difficulty in section B is set to “value Dfb”, and the value of Difficulty in section C is set to “value Dfc”. And

区間A乃至C毎にDifficultyの計算が行われると、その値Dfa、値Dfb、および、値Dfc(以下の説明においては、値Dfa、値Dfb、および、値Dfcをここに区別する必要がない場合、値Dfxと記述する)が用いられ、Re-Rendering区間が設定される。Re-Rendering区間の設定に関係するのは、上限Dfmaxと下限Dfminのそれぞれの値である。この場合、値Dfxが、上限Dfmax以上であるか、または、下限Dfmin以下であると、Re-Rendering区間として設定される。   When the calculation of Difficulty is performed for each of the sections A to C, the value Dfa, the value Dfb, and the value Dfc (in the following description, it is not necessary to distinguish the value Dfa, the value Dfb, and the value Dfc here) In this case, the value Dfx is used), and the Re-Rendering section is set. The values of the upper limit Dfmax and the lower limit Dfmin are related to the setting of the Re-Rendering section. In this case, if the value Dfx is greater than or equal to the upper limit Dfmax or less than or equal to the lower limit Dfmin, it is set as a Re-Rendering section.

式で表すと、
値Dfx>上限Dfmax ・・・(1)
値Dfx<下限Dfmin ・・・(2)
となる。式(1)または式(2)のいずれかが満たされる場合、その値Dfxを有する区間のビットストリームは、Re-Rendering区間のビットストリームとして設定される。
Expressed as a formula:
Value Dfx> Upper limit Dfmax (1)
Value Dfx <lower limit Dfmin (2)
It becomes. When either the expression (1) or the expression (2) is satisfied, the bit stream in the section having the value Dfx is set as the bit stream in the Re-Rendering section.

上限Dfmax>値Dfx>下限Dfmin ・・・(3)
式(3)を満たす値Dfxに対応する区間のビットストリームは、再符号化(Re-Rendering)しない区間(以下、Smart-Rendering区間と記述する)として設定される。
Upper limit Dfmax> value Dfx> lower limit Dfmin (3)
The bit stream in the section corresponding to the value Dfx that satisfies Expression (3) is set as a section that is not re-encoded (hereinafter referred to as a Smart-Rendering section).

例えば、値Dfaが式(1)を満たす場合、区間AはRe-Rendering区間として設定され、区間Aに対応するビットストリームは、後述する処理(ステップS57の処理)により再符号化される。   For example, when the value Dfa satisfies Expression (1), the section A is set as a Re-Rendering section, and the bitstream corresponding to the section A is re-encoded by the process described later (the process of step S57).

Difficultyの値Dfxは、上述したように、ここではQ値から算出されるとした。Q値は、量子化に関わる値であり、量子化に関わる値は、画質に影響を与えるものである。よって、ステップS51,52における、Re-Rendering区間を設定する処理は、画質を維持する区間(Smart-Rendering区間)と、画質を維持しない区間(Re-Rendering区間)を設定する処理である。   As described above, the Difficulty value Dfx is calculated from the Q value. The Q value is a value related to quantization, and the value related to quantization affects the image quality. Therefore, the process of setting the Re-Rendering section in steps S51 and S52 is a process of setting a section that maintains the image quality (Smart-Rendering section) and a section that does not maintain the image quality (Re-Rendering section).

式(1)を満たす区間は、Re-Rendering区間として設定されるが、Re-Rendering区間として設定された区間の画質は、落ちることになる。換言すれば、式(1)を満たす区間であると判断された場合、Q値が大きい値(よって、画質が良い状態)であったために、値Dfxが上限Dfmaxよりも大きくなった場合である。   A section satisfying the expression (1) is set as a Re-Rendering section, but the image quality of the section set as the Re-Rendering section is lowered. In other words, when it is determined that the section satisfies the formula (1), the value Dfx is larger than the upper limit Dfmax because the Q value is a large value (and therefore the image quality is good). .

このように、上限Dfmaxや下限Dfminの設定により、画質が維持されず、画質が低下するような状況が発生する場合も考えられる。そこで、ユーザが予測していた以上に画質が低下するようなことがないように、例えば、図6に示した表示部72の画面において、設定部113が操作されると、その操作に応じて、編集対象表示部112に表示されている画像が変化するような仕組みを設けるようにしても良い。   As described above, there may be a case where the image quality is not maintained and the image quality is deteriorated due to the setting of the upper limit Dfmax and the lower limit Dfmin. Therefore, for example, when the setting unit 113 is operated on the screen of the display unit 72 shown in FIG. 6 so that the image quality does not deteriorate more than the user predicted, according to the operation. Alternatively, a mechanism may be provided in which the image displayed on the edit target display unit 112 changes.

編集対象表示部112には、例えば、区間A(図11)内の1場面が、区間Aを代表する画像として表示される。その区間Aの画像が、設定部113のスクロールバーが操作される毎に、画質が、その設定値に合わせて変化して表示されるようにする。このような仕組みを設ければ、ユーザは、画質を確認しながら上限Dfmaxや下限Dfminを設定することができる。もって、ユーザが予想していた画質よりも低下した画質になるような不都合を防ぐことが可能となる。   For example, one scene in the section A (FIG. 11) is displayed on the editing object display unit 112 as an image representing the section A. Each time the scroll bar of the setting unit 113 is operated, the image quality of the section A is displayed so as to change according to the set value. If such a mechanism is provided, the user can set the upper limit Dfmax and the lower limit Dfmin while confirming the image quality. Accordingly, it is possible to prevent a disadvantage that the image quality is lower than the image quality expected by the user.

図8のフローチャートの説明に戻り、ステップS52においてRe-Rendering区間が設定されると、ステップS53において、編集対象とされている区間(この場合、区間A乃至C)に、Re-Rendering区間として設定された区間があるか否かが判断される。   Returning to the description of the flowchart of FIG. 8, when the Re-Rendering section is set in Step S52, it is set as the Re-Rendering section in the section to be edited (in this case, sections A to C) in Step S53. It is determined whether or not there is a set section.

ステップS53において、編集対象とされている区間に、Re-Rendering区間として設定された区間はないと判断された場合、換言すれば、全ての区間(この場合、区間A乃至C)が、Smart-Rendering区間として設定されたと判断された場合、ステップS54に処理が進められる。   In step S53, when it is determined that there is no section set as the Re-Rendering section in the section to be edited, in other words, all sections (in this case, sections A to C) are Smart- If it is determined that the Rendering section has been set, the process proceeds to step S54.

ステップS54において、出力ビットレートに基づくRe-Rendering区間の判断が行われる。ステップS54に処理が進められる場合、既にステップS52における処理で、全てがSmart-Rendering区間であると判断されたときであるが、再度、このステップS54において、今度は、出力ビットレートに基づいて、Re-Rendering区間とSmart-Rendering区間が再設定される。   In step S54, a Re-Rendering section is determined based on the output bit rate. In the case where the process proceeds to step S54, it is already determined in the process in step S52 that all are Smart-Rendering sections. In this step S54 again, this time, based on the output bit rate, Re-Rendering section and Smart-Rendering section are reset.

ステップS54におけるRe-Rendering区間の設定について説明する。この処理を換言すると、全ての区間をSmart-Rendering区間にしてよいか否かを判断する処理である。ここでは、最終的に出力される(編集後の)ビットストリームの平均ビットレートが、Bout Mbpsになるように制御される。   The setting of the Re-Rendering section in step S54 will be described. In other words, this process is a process for determining whether or not all sections may be Smart-Rendering sections. Here, the average bit rate of the bit stream that is finally output (after editing) is controlled to be Bout Mbps.

Bout 編集後のビットストリームの平均ビットレート(目標とするビットレート)
Bsi 編集対象とされているビットストリームのビットレート(Mbps)
Lsi 編集対象とされているビットストリームの長さ(データ容量)
Lsum 編集対象とされているビットストリーム全体の長さ(時間長)
添え字である“i”は、各区間に割り当てられたビットストリームの番号であるとする。
Bout Average bit rate of the bit stream after editing (target bit rate)
Bsi Bit rate (Mbps) of the bit stream to be edited
Lsi Bitstream length (data capacity) to be edited
Lsum The total length of the bitstream that is to be edited (time length)
The subscript “i” is a bitstream number assigned to each section.

全ての区間をSmart-Rendering区間とするか否かの判断は、基本的に、編集後のビットストリーム全体の平均ビットレートBout以下になるか否かを判断することにより行われる。具体的には、次式(4)を満たすか否かを判断することにより行われる。   Whether or not all the sections are to be Smart-Rendering sections is basically determined by determining whether or not the average bit rate Bout of the entire edited bitstream is equal to or less. Specifically, it is performed by determining whether or not the following expression (4) is satisfied.

((Ls1/Lsum)×Bs1)+・・・+((Lsi/Lsum)×Bsi) ≦ Bout
・・・(4)
((Ls1 / Lsum) × Bs1) +... + ((Lsi / Lsum) × Bsi) ≦ Bout
... (4)

区間A乃至Cを処理する場合、式(4)の添え字“i”を、A,B,Cで対応させると、次式のようになる。
((LsA/Lsum)×BsA)+((LsB/Lsum)×BsB)+((LsC/Lsum)×BsC)≦Bout
When processing the sections A to C, if the subscript “i” in Expression (4) is associated with A, B, and C, the following expression is obtained.
((LsA / Lsum) × BsA) + ((LsB / Lsum) × BsB) + ((LsC / Lsum) × BsC) ≦ Bout

例えば、((LsA/Lsum)×BsA)を例に挙げて説明するに、((LsA/Lsum)×BsA)は、区間Aのビットストリームの長さ(LsA)を示す値を、区間A乃至Cのビットストリーム全てを加算したときの長さ(Lsum)を示す値で除算し(LsA/Lsum)、その除算された値に、区間Aのビットストリームのビットレート(BsA)を示す値を乗算している。   For example, ((LsA / Lsum) × BsA) will be described as an example. ((LsA / Lsum) × BsA) is a value indicating the length (LsA) of the bit stream in section A. Divide by a value indicating the length (Lsum) when all C bitstreams are added (LsA / Lsum), and multiply the divided value by a value indicating the bitrate (BsA) of the bitstream in section A doing.

(LsA/Lsum)は、区間A乃至C全てを結合したときのビットストリームの長さに対する区間Aのビットストリームの長さの割合を示す。そして、そのような割合に、区間Aのビットストリームのビットレート(BsA)を乗算するということは、区間A乃至C全てを結合したときのビットストリームのビットレートのうち、区間Aが占めるビットレートを示すことになる。   (LsA / Lsum) indicates the ratio of the length of the bit stream in the section A to the length of the bit stream when all the sections A to C are combined. Then, multiplying such a ratio by the bit rate (BsA) of the bit stream in the section A means that the bit rate occupied by the section A is the bit rate of the bit stream when all the sections A to C are combined. Will be shown.

このような値を各区間毎(この場合、区間A乃至C毎)に算出し、加算する(総和を算出する)ことにより、全区間をSmart-Rendering区間として結合した場合の平均ビットレートが算出される。この平均ビットレートが、結果として、目標とする出力平均ビットレートBout Mbps以内であれば、全区間をSmart-Rendering区間と決定する。   By calculating and adding these values for each section (in this case, for each section A to C) and adding (calculating the sum), the average bit rate when all sections are combined as a Smart-Rendering section is calculated. Is done. If this average bit rate is within the target output average bit rate Bout Mbps as a result, all sections are determined as Smart-Rendering sections.

ステップS54における判断結果に基づき、ステップS55において、目標とされる出力ビットレート以内に納めるために、Re-Rendering区間を設定しなくてはならないか否かが判断される。ステップS55において、Re-Rendering区間を設定しなくても良いと判断された場合、換言すれば、全区間をSmart-Rendering区間として設定しても良いと判断された場合、再符号化などの処理を実行せずに各区間のビットストリームを結合すると決定されたことを意味するため、ステップS58に進み、ビットストリームの結合処理が実行される。   Based on the determination result in step S54, it is determined in step S55 whether or not the Re-Rendering section must be set in order to be within the target output bit rate. If it is determined in step S55 that the Re-Rendering section need not be set, in other words, if it is determined that all sections may be set as the Smart-Rendering section, processing such as re-encoding is performed. This means that it is determined that the bit streams of the respective sections are to be combined without executing the above, so that the process proceeds to step S58 and the bit stream combining process is executed.

一方、ステップS55において、Re-Rendering区間を設定すると判断された場合、ステップS56に処理が進められる。ステップS56において、各区間毎に、Re-Rendering区間に設定するか、または、Smart-Rendering区間に設定するかの最終的な設定の処理が実行される。   On the other hand, if it is determined in step S55 that the Re-Rendering section is set, the process proceeds to step S56. In step S56, for each section, a final setting process is performed to determine whether to set the Re-Rendering section or the Smart-Rendering section.

ここで、図9のフローチャートを参照してステップS56におけるRe-Rendering区間の設定処理について説明するが、その前に、ステップS51乃至S56までの処理について、図13と図14を参照して再度説明を加える。図13、図14において、編集対象(結合対象)となっているのは、区間A乃至Cであるとする。   Here, the setting process of the Re-Rendering section in step S56 will be described with reference to the flowchart of FIG. 9, but before that, the processes from step S51 to S56 will be described again with reference to FIGS. Add 13 and 14, it is assumed that sections A to C are objects to be edited (combined objects).

図13を参照するに、区間A乃至Cは、ステップS51乃至53の処理において、Re-Rendering区間に設定する区間はなく、全てSmart-Rendering区間(図においては、SRと略記してある)であると設定されたとする。   Referring to FIG. 13, the sections A to C are all the Smart-Rendering sections (abbreviated as SR in the figure) without any section set as the Re-Rendering section in the processing of steps S51 to S53. Suppose that it is set.

このような場合、ステップS53において、Re-Rendering区間はないと判断されるため、ステップS54に処理が進められる。そして、ステップS54において出力ビットレートに基づくRe-Rendering区間の判断が行われることにより、区間A乃至Cの内に、新たにRe-Rendering区間を含ませるべきであると判断された場合、ステップS56に処理が進められる。そして、図13に示すように、ステップS56の処理において、区間Aが、Re-Rendering区間(図においては、RRと略記してある)と設定されたとする。   In such a case, since it is determined in step S53 that there is no Re-Rendering section, the process proceeds to step S54. If it is determined in step S54 that the Re-Rendering section should be newly included in the sections A to C by determining the Re-Rendering section based on the output bit rate, step S56 is performed. The process proceeds. Then, as shown in FIG. 13, it is assumed that the section A is set as a Re-Rendering section (abbreviated as RR in the figure) in the process of step S56.

このように、一度Smart-Rendering(SR)区間と設定された区間であっても、その後の処理で、Re-Rendering(RR)区間と再設定される場合がある。   As described above, even a section once set as a Smart-Rendering (SR) section may be reset as a Re-Rendering (RR) section in subsequent processing.

他の例として、図14を参照して説明するに、区間A乃至Cのうち、ステップS51乃至53の処理が行われることにより、区間Aのみが、Re-Rendering区間に設定され、区間Bと区間Cは、Smart-Rendering区間と設定された場合、ステップS53において、Re-Rendering区間があると判断されるため、ステップS56に処理が進められる。そして、ステップS56における処理が実行されることにより、新たに、区間CがRe-Rendering区間と設定される場合がある。   As another example, as will be described with reference to FIG. 14, among the sections A to C, only the section A is set as the Re-Rendering section by performing the processing of steps S51 to S53. If the section C is set as a Smart-Rendering section, it is determined in step S53 that there is a Re-Rendering section, and thus the process proceeds to step S56. Then, when the process in step S56 is executed, the section C may be newly set as a Re-Rendering section.

このように、ここまでの処理において2回の判断が行われることにより、Re-Rendering区間が設定される。1回目の判断で、Re-Rendering区間であると設定された区間は、2回目の判断においてもRe-Rendering区間であると判断される(Re-Rendering区間のまま変更されない)。   In this way, the Re-Rendering section is set by performing the determination twice in the processing so far. The section set as the Re-Rendering section in the first determination is determined to be the Re-Rendering section in the second determination (the Re-Rendering section remains unchanged).

1回目の判断で、Smart-Rendering区間であると設定された区間であっても、2回目の判断において、Re-Rendering区間であると判断される(Re-Rendering区間に変更される)場合もある。   Even if it is a section set to be a Smart-Rendering section in the first judgment, it may be judged to be a Re-Rendering section (changed to a Re-Rendering section) in the second judgment. is there.

このように、1回目の判断で、Smart-Rendering区間と設定されても、2回目の判断で、Re-Rendering区間に変更される区間がある。そのため、2回目の判断であるステップS56の処理が、1回目の判断の後(Re-Rendering区間が設定されているような場合でも)、再度、Re-Rendering区間を設定し直す処理が実行されるように、本実施の形態においては処理が行われる。   As described above, even if the Smart-Rendering section is set in the first determination, there is a section that is changed to the Re-Rendering section in the second determination. Therefore, the process of step S56, which is the second determination, is performed again after the first determination (even when the Re-Rendering section is set), and the process of resetting the Re-Rendering section is executed again. As described above, processing is performed in the present embodiment.

図9のフローチャートを参照して、2回目の判断処理であるステップS56におけるRe-Rendering区間の設定処理について説明する。まず、ステップS71において、Bsi<Boutである区間が、Smart-Rendering区間と設定される。BsiとBoutは、式(4)のところで説明した場合と同様であり、Bsiは、編集対象とされているビットストリームのビットレート(Mbps)であり、Boutは、編集後のビットストリームの平均ビットレート(目標とするビットレート)である。   With reference to the flowchart of FIG. 9, the setting process of the Re-Rendering section in step S56, which is the second determination process, will be described. First, in step S71, a section where Bsi <Bout is set as a Smart-Rendering section. Bsi and Bout are the same as described in the equation (4), Bsi is the bit rate (Mbps) of the bit stream to be edited, and Bout is the average bit of the bit stream after editing. Rate (target bit rate).

すなわち、ステップS71においては、目標とする平均ビットレートよりも低いビットレートのビットストリームの区間は、Smart-Rendering区間と設定するという処理である。この処理は、ビットレートが低いビットストリームは、結合の際、他のビットストリームに与える影響が低い(ビットレートが低いため、結合後のビットストリームの平均ビットレートに与える影響は低い)と考えられるため、そのようなビットレートが低いビットストリームは、再符号化せずに、そのまま結合されるように設定するための処理である。   That is, in step S71, the bit stream interval lower than the target average bit rate is set as a Smart-Rendering interval. This process is considered to have a low impact on other bitstreams when a bit stream with a low bit rate is combined (because the bit rate is low, the influence on the average bit rate of the combined bit stream is low). Therefore, such a bit stream with a low bit rate is a process for setting so as to be combined as it is without re-encoding.

ステップS72において、Bsi>Bsmaxである区間が、Re-Rendering区間と設定される。このBsmaxは、予め設定されている定数である。また、このBsmaxは、Bsmax>Boutを満たす定数である。このステップS72における処理は、所定の定数Bsmax よりも大きい区間は、Re-Rendering区間に設定するという処理である。この処理は、結合後のビットストリームの平均ビットレートに対して影響の大きいと考えられるビットストリームを、再符号化するビットストリームに設定するための処理である。   In step S72, a section where Bsi> Bsmax is set as a Re-Rendering section. This Bsmax is a preset constant. This Bsmax is a constant that satisfies Bsmax> Bout. The process in step S72 is a process of setting a section larger than the predetermined constant Bsmax as a Re-Rendering section. This process is a process for setting a bit stream considered to have a great influence on the average bit rate of the combined bit streams to a bit stream to be re-encoded.

換言すれば、あまりに高いビットレートを有するビットストリームは、再符号化されて低いビットレートのビットストリームに変換されるように設定するための処理である。このように、あまりに高いビットレートを有するビットストリームが、再符号化されるように設定されることで、そのビットストリームが有していたビットレートを他のビットストリームに配分することができる(従って、他のビットストリームのビットレートを高くすることができる)。   In other words, it is a process for setting a bit stream having a too high bit rate to be re-encoded and converted into a bit stream having a low bit rate. In this way, a bit stream having an excessively high bit rate is set to be re-encoded, so that the bit rate that the bit stream had can be distributed to other bit streams (thus, , Can increase the bit rate of other bitstreams).

ステップS71とステップS72の処理について、図15を参照して説明を加える。図15に示すように、閾値Bsmaxと閾値Boutは、Bsmax>Boutの関係が成り立つ値として設定されている。ここでは、処理対象のビットストリームとして、区間A、区間B、および、区間Cを例に挙げて説明する。また、図15において、各区間の高さ(図中上下方向)は、ビットレートを表すとする。   The processing of step S71 and step S72 will be described with reference to FIG. As shown in FIG. 15, the threshold value Bsmax and the threshold value Bout are set as values that satisfy the relationship of Bsmax> Bout. Here, section A, section B, and section C will be described as examples of the bit stream to be processed. In FIG. 15, the height of each section (the vertical direction in the figure) represents the bit rate.

図15を参照するに、区間Aは、閾値Boutよりも小さいビットレートを有するビットストリームであるため、ステップS71の処理により、Smart-Rendering(SR)区間と設定される。区間Bと区間Cは、それぞれ、閾値Boutよりも高いビットレートを有するため、ステップS71の処理においては、Smart-Rendering区間にもRe-Rendering区間にも設定されない。   Referring to FIG. 15, section A is a bit stream having a bit rate smaller than the threshold value Bout, and thus is set as a Smart-Rendering (SR) section by the process of step S71. Since the section B and the section C each have a bit rate higher than the threshold value Bout, neither the Smart-Rendering section nor the Re-Rendering section is set in the process of step S71.

区間Cは、図15を参照するに、閾値Bsmaxよりも大きいビットレートを有するビットストリームであるため、ステップS72の処理により、Re-Rendering(RR)区間に設定される。   Referring to FIG. 15, the section C is a bit stream having a bit rate larger than the threshold value Bsmax, and is therefore set as a Re-Rendering (RR) section by the process of step S72.

区間Bは、図15を参照するに、閾値Bsmaxよりも小さいビットレートを有するビットストリームであるため、ステップS72の処理においても、Smart-Rendering区間にもRe-Rendering区間にも設定されない。よって、区間Bは、ステップS71とステップS72の処理では、Smart-Rendering区間にもRe-Rendering区間にも設定されない、未設定の区間と設定される。このような未設定の区間と設定された区間は、ステップS73以降の処理により、Smart-Rendering区間またはRe-Rendering区間のどちらかに設定される。   Referring to FIG. 15, the section B is a bit stream having a bit rate smaller than the threshold value Bsmax. Therefore, neither the Smart-Rendering section nor the Re-Rendering section is set in the process of step S72. Therefore, the section B is set as an unset section that is not set in either the Smart-Rendering section or the Re-Rendering section in the processing of Step S71 and Step S72. Such an unset section and the set section are set as either the Smart-Rendering section or the Re-Rendering section by the processing after Step S73.

区間Aは、既に、ステップS71の処理において、Smart-Rendering区間と設定されているため、また、閾値Bsmaxよりも小さいビットレートを有するビットストリームであるため、Smart-Rendering区間のままである。区間Aのように、閾値Boutよりも小さいビットレートのビットストリームは、必ず、閾値Bsmaxよりも小さいビットレートのビットストリームであるため、ステップS71の処理においてSR区間であると設定されたストリームは、ステップS72における処理(閾値Bsmaxよりも高いビットレートであるか否かの判断)の対象としないようにしても良い。   Since the section A has already been set as the Smart-Rendering section in the process of step S71 and is a bit stream having a bit rate smaller than the threshold value Bsmax, the section A remains the Smart-Rendering section. As in section A, a bit stream having a bit rate smaller than the threshold value Bout is always a bit stream having a bit rate smaller than the threshold value Bsmax. Therefore, the stream set as the SR section in the process of step S71 is The processing in step S72 (determination of whether or not the bit rate is higher than the threshold value Bsmax) may not be performed.

このようにして、結合対象とされるビットストリームの各区間は、Smart-Rendering区間、Re-Rendering区間、または、未設定区間のいずれかに設定される。   In this way, each section of the bit stream to be combined is set to one of the Smart-Rendering section, the Re-Rendering section, or the unset section.

このような設定が行われると、ステップS73(図9)に処理が進められる。ステップS73において、ステップS71の処理でSmart-Rendering区間と設定されたビットストリーム(例えば、図15の区間Aのような条件を満たすビットストリーム)の長さの総和が算出される。Smart-Rendering区間に設定された各ビットストリームを、Lsr1、Lsr2、・・・、LsrMとした場合、総和Lsrは、次式(5)に基づいて算出される。
Lsr=Lsr1+Lsr2+・・・+LsrM ・・・(5)
When such setting is performed, the process proceeds to step S73 (FIG. 9). In step S73, the sum of the lengths of the bitstreams set as the Smart-Rendering section in the process of step S71 (for example, bitstreams satisfying the conditions such as section A in FIG. 15) is calculated. When each bit stream set in the Smart-Rendering section is Lsr1, Lsr2,..., LsrM, the total Lsr is calculated based on the following equation (5).
Lsr = Lsr1 + Lsr2 + ... + LsrM (5)

また同様に、ステップS74において、ステップS72の処理でRe-Rendering区間と設定されたビットストリーム(例えば、図15の区間Cのような条件を満たすビットストリーム)の長さの総和が算出される。Re-Rendering区間に設定された各ビットストリームを、Lrr1、Lrr2、・・・、LrrNとした場合、総和Lrrは、次式(6)に基づいて算出される。
Lrr=Lrr1+Lrr2+・・・+LrrN ・・・(6)
Similarly, in step S74, the sum of the lengths of the bitstreams set as the Re-Rendering section in the process of step S72 (for example, bitstreams that satisfy the conditions as in section C in FIG. 15) is calculated. When each bit stream set in the Re-Rendering section is Lrr1, Lrr2,..., LrrN, the total Lrr is calculated based on the following equation (6).
Lrr = Lrr1 + Lrr2 + ... + LrrN (6)

このようにして、ステップS71とステップS72のそれぞれの処理において設定されたSmart-Rendering区間とRe-Rendering区間の、それぞれの総和が算出されると、ステップS75に処理が進められる。ステップS75において、Smart-Rendering区間にもRe-Rendering区間にも設定されていない区間、すなわち未設定の区間(例えば、図15の区間Bのような条件を満たすビットストリーム)があるか否かが判断される。   In this way, when the total sum of the Smart-Rendering section and the Re-Rendering section set in the processes of Step S71 and Step S72 is calculated, the process proceeds to Step S75. In step S75, it is determined whether or not there is a section that is not set in either the Smart-Rendering section or the Re-Rendering section, that is, an unset section (for example, a bit stream that satisfies the condition as section B in FIG. 15). To be judged.

ステップS75において、未設定の区間と設定されている区間があると判断された場合、ステップS76に処理が進められる。ステップS76において、未設定の区間と設定された区間を処理対象とした処理が行われる。ステップS76においては、値Rdiの算出が行われる。この値Rdi は、次式(7)に基づいて算出される。
Rdi=(Lsi/Lsum)×(Bsi/Bout) ・・・(7)
If it is determined in step S75 that there is an unset section and a set section, the process proceeds to step S76. In step S76, a process is performed in which an unset section and a set section are processed. In step S76, the value Rdi is calculated. This value Rdi is calculated based on the following equation (7).
Rdi = (Lsi / Lsum) × (Bsi / Bout) (7)

式(7)に基づいて算出される値Rdiについて、説明を加える。式(7)における第1項目である(Lsi/Lsum)において、処理対象とされているビットストリームの長さ(Lsi)は、結合前のビットストリームの長さの総和(Lsum)に対して、どれだけの割合を占めるかが算出される。   The value Rdi calculated based on the equation (7) will be described. In (Lsi / Lsum), which is the first item in equation (7), the length (Lsi) of the bit stream to be processed is the sum (Lsum) of the lengths of the bit streams before combining. What percentage is calculated.

式(7)における第2項目である(Bsi/Bout)において、処理対象とされているビットストリームのビットレート(Bsi)は、結合後のビットストリームの平均ビットレート(Bout)に対して、どれだけの割合を占めるかが算出される。   In the second item (Bsi / Bout) in equation (7), the bit rate (Bsi) of the bit stream to be processed is determined with respect to the average bit rate (Bout) of the combined bit streams. It is calculated whether it occupies only a proportion.

第1項と第2項を乗算することにより算出される値Rdiは、結合後のビットレートが満たすべき条件(例えば、ユーザ側から見れば画質(平均ビットレートに依存する)や、結合に関わる処理時間(αに依存する)など)を満たすために与える影響の度合いを示す値である。例えば、値Rdiが大きい場合、処理対象とされているビットストリームは、影響が大きいことを示している。   The value Rdi calculated by multiplying the first term and the second term is related to the conditions to be satisfied by the combined bit rate (for example, the image quality (depending on the average bit rate) from the user side, and the combination. This is a value indicating the degree of influence to satisfy the processing time (which depends on α). For example, when the value Rdi is large, it indicates that the influence is large in the bit stream to be processed.

例えば、値Rdiが大きい値のビットストリームを、Smart-Rendering区間と設定した場合とRe-Rendering区間と設定した場合とでは、結合後のビットストリームの平均ビットレート(Bout)の値に差がでると考えられる。ステップS77においては、ステップS76における処理で算出された値Rdiを基に、影響の大きいと考えられる順(値Rdiの値が大きい順)にソートされる。   For example, when the bit stream having a large value Rdi is set as the Smart-Rendering interval and when it is set as the Re-Rendering interval, the average bit rate (Bout) of the combined bit streams is different. it is conceivable that. In step S77, the values Rdi calculated in the process in step S76 are sorted in the order in which the influence is considered to be large (the order in which the value Rdi is large).

ステップS78において、総和Lsrと総和Lrrの再計算が行われる。ステップS71乃至S77の順(すなわち、上述した説明の順)に処理が行われた場合、換言すれば、始めてステップS78の処理が行われる場合、ステップS77における処理の対象とされたビットストリームの区間は、全てRe-Rendering区間として設定され、そのような状態で、総和Lsrと総和Lrrの再計算が行われる。   In step S78, the total Lsr and the total Lrr are recalculated. When processing is performed in the order of steps S71 to S77 (that is, the order described above), in other words, when the processing of step S78 is performed for the first time, the section of the bitstream that is the target of processing in step S77 Are all set as a Re-Rendering section, and in such a state, the total Lsr and the total Lrr are recalculated.

例えば、図15を再度参照して説明するに、区間Bのように、ステップS71乃至S74の処理における処理で未設定の区間と設定された区間は、ステップS78の処理が行われるとき、Re-Rendering区間として設定される。よって、ステップS78の処理が実行されるときには、結合対象とされている全てのビットストリーム(区間)は、Smart-Rendering区間かRe-Rendering区間のどちらか一方に設定されている状態である。   For example, as will be described with reference to FIG. 15 again, a section that is set as an unset section in the processes in steps S71 to S74, such as section B, is displayed when the process in step S78 is performed. Set as Rendering section. Therefore, when the process of step S78 is executed, all the bit streams (sections) to be combined are set to either the Smart-Rendering section or the Re-Rendering section.

ステップS78において、総和Lsrと総和Lrrの再計算が終了されると、その結果が用いられて、ステップS79における処理が実行される。ステップS79において、以下の関係式(8)が満たされているか否かが判断される。
Lsr+Lrr≧Lsum×α ・・・(8)
When the recalculation of the total sum Lsr and the total sum Lrr is completed in step S78, the result is used and the processing in step S79 is executed. In step S79, it is determined whether or not the following relational expression (8) is satisfied.
Lsr + Lrr ≧ Lsum × α (8)

条件(8)において、αは、図6などを参照して説明したように、ユーザにより設定される値であり、ビットストリームの結合の処理に係る時間を決定する1要因となる値である。   In the condition (8), α is a value set by the user as described with reference to FIG. 6 and the like, and is a factor that determines the time for the bit stream combining process.

ステップS79において、関係式(8)が満たされないと判断された場合、ステップS80に処理が進められる。ステップS80において、値Rdiの低いビットストリームに対応する区間が、Smart-Rendering区間に再設定される。このように再設定されることにより、Re-Rendering区間に設定されていた1区間が、Smart-Rendering区間に変更される。このようにして再設定された状態に対して、ステップS78以下の処理が繰り返される。   If it is determined in step S79 that the relational expression (8) is not satisfied, the process proceeds to step S80. In step S80, the section corresponding to the bit stream having a low value Rdi is reset to the Smart-Rendering section. By resetting in this way, one section set as the Re-Rendering section is changed to the Smart-Rendering section. The processing after step S78 is repeated for the state reset in this way.

ステップS78乃至S80の処理について、図16を参照して説明を加える。図16の最上段は、(Lsum×α)を示す。ステップS78の処理が1回目に行われるとき、Smart-Rendering区間に設定されているのが、SR1、SR2であり、Re-Rendering区間に設定されているのが、RR1、RR2、RR3、RR4であるとする。RR1乃至RR4のうち、RR1は、ステップS72において、Re-Rendering区間と設定された区間であるとし、RR2乃至RR4は、未設定区間であったため、Re-Rendering区間に設定された区間であるとする。また、RR2、RR3、RR4の順に、値Rdiの値が大きいとする。   The processing in steps S78 to S80 will be described with reference to FIG. The uppermost part of FIG. 16 shows (Lsum × α). When the process in step S78 is performed for the first time, SR1 and SR2 are set in the Smart-Rendering section, and RR1, RR2, RR3, and RR4 are set in the Re-Rendering section. Suppose there is. Among RR1 to RR4, RR1 is a section set as a Re-Rendering section in step S72, and RR2 to RR4 are sections that are set as a Re-Rendering section because they are unset sections. To do. Further, it is assumed that the value Rdi increases in the order of RR2, RR3, and RR4.

図16の上から二段目に示した状態のときに、ステップS79の処理が行われると、ステップS79においてはNOと判断されるため、ステップS80に処理が進められる。ステップ80において、Re-Rendering区間に設定されているRR4という区間が、Smart-Rendering区間に設定し直される(設定し直された区間をSR4とする)。   If the process in step S79 is performed in the state shown in the second row from the top in FIG. 16, it is determined as NO in step S79, and thus the process proceeds to step S80. In step 80, the section RR4 set in the Re-Rendering section is reset to the Smart-Rendering section (the reset section is referred to as SR4).

2回目にステップS79の処理が行われるときの状態は、図16の三段目に示したような状態である。Re-Rendering区間に設定されていたRR4がSmart-Rendering区間であるSR4に設定し直されることにより、全体としての長さ(Lsr+Lrr)は長くなるが、この状態では、まだ、関係式(8)は満たされていない状態である。   The state when the process of step S79 is performed for the second time is the state shown in the third row of FIG. When RR4 set in the Re-Rendering section is reset to SR4 which is the Smart-Rendering section, the overall length (Lsr + Lrr) becomes longer, but in this state, the relational expression (8) is still present. Is not satisfied.

よって、ステップS79において、NOと判断されるため、ステップS80に処理が進められる。ステップS80において、今度は、Re-Rendering区間に設定されていたRR3が、Smart-Rendering区間に設定し直される(設定し直された区間をSR3とする)。   Therefore, since it is determined as NO in step S79, the process proceeds to step S80. In step S80, this time, RR3 set in the Re-Rendering section is reset to the Smart-Rendering section (the reset section is referred to as SR3).

3回目にステップS79の処理が行われるときの状態は、図16の四段目に示したような状態である。Re-Rendering区間に設定されていたRR3がSmart-Rendering区間であるSR3に設定し直されることにより、全体としての長さ(Lsr+Lrr)が長くなり、関係式(8)が満たされる状態になる。よって、ステップS79において、YESと判断され、ステップS81に処理が進められる。   The state when the process of step S79 is performed for the third time is the state shown in the fourth row of FIG. When RR3 set in the Re-Rendering section is reset to SR3 that is the Smart-Rendering section, the overall length (Lsr + Lrr) is increased, and the relational expression (8) is satisfied. Therefore, YES is determined in step S79, and the process proceeds to step S81.

ステップS81への処理は、ステップS75において、未設定の区間はないと判断された場合も来る。ステップS81において、再符号化の処理を実行する際の平均ビットレートの算出の処理が行われる。この平均ビットレートの算出の処理について、図10のフローチャートを参照して説明する。   The process to step S81 may come when it is determined in step S75 that there is no unset section. In step S81, an average bit rate calculation process is performed when the re-encoding process is executed. This average bit rate calculation process will be described with reference to the flowchart of FIG.

ステップS101において、Smart-Rendering区間と設定されたビットストリームの総和Lsrsumが算出される。この総和Lsrsumは、基本的に、式(5)に基づいて算出される。この総和Lsrsumは、ステップS79(図9)においてYESと判断される直前に、ステップS78において再計算された総和Lsrが流用されるようにしても良いし、再度算出し直されるようにしても良い。   In step S101, the total sum Lsrsum of the bit stream set with the Smart-Rendering section is calculated. This total sum Lsrsum is basically calculated based on Equation (5). This total Lsrsum may be re-calculated or recalculated immediately before it is determined YES in step S79 (FIG. 9), or the total Lsrsum recalculated in step S78 may be used. .

ステップS101の処理において、Smart-Rendering区間と設定されたビットストリームの合計長(総和Lsrsum)が算出されると、ステップS102において、Smart-Rendering区間の合計長に対する平均ビットレートの算出が行われる。ステップS102における平均ビットレート(Bsravgとする)の算出は、次式(9)に基づいて行われる。
Bsravg=(Lsr1/Lsrsum)×Bsr1+
・・・+(LsrM/Lsrsum)×BsrN ・・・(9)
In the process of step S101, when the total length (total Lsrsum) of the bit stream set with the Smart-Rendering section is calculated, the average bit rate for the total length of the Smart-Rendering section is calculated in step S102. The average bit rate (referred to as Bsravg) in step S102 is calculated based on the following equation (9).
Bsravg = (Lsr1 / Lsrsum) × Bsr1 +
... + (LsrM / Lsrsum) x BsrN (9)

式(9)において、Lsr1、Lsr2、・・・、LsrMは、対応するビットストリームの長さを示し、Bsr1、Bsr2、・・・、BsrMは、対応するビットストリームのビットレートを示す。Lsrsumは、ステップS101において算出された値である。式(9)に基づく計算が行われることにより、Smart-Rendering区間と設定されたビットストリーム全体の平均ビットレートが算出される。   In Expression (9), Lsr1, Lsr2,..., LsrM indicate the length of the corresponding bit stream, and Bsr1, Bsr2,..., BsrM indicate the bit rate of the corresponding bit stream. Lsrsum is the value calculated in step S101. By performing the calculation based on Expression (9), the average bit rate of the entire bit stream set as the Smart-Rendering section is calculated.

Smart-Rendering区間に関する処理が終了されると、ステップS103以降において、Re-Rendering区間に関する処理が開始される。ステップS103において、Re-Rendering区間と設定されたビットストリームの総和Lrrsumが算出される。この総和Lrrsumは、基本的に、式(6)に基づいて算出される。この総和Lrrsumは、ステップS79(図9)においてYESと判断される直前に、ステップS78において再計算された総和Lrrが流用されるようにしても良いし、再度算出し直されるようにしても良い。   When the process related to the Smart-Rendering section is completed, the process related to the Re-Rendering section is started in step S103 and subsequent steps. In step S103, the total Lrrsum of the bit stream set with the Re-Rendering section is calculated. This total sum Lrrsum is basically calculated based on Equation (6). This total Lrrsum may be used as the total Lrr recalculated in Step S78 immediately before being determined YES in Step S79 (FIG. 9), or may be recalculated. .

ステップS104において、Re-Rendering区間における平均ビットレート(Brravgとする)が算出される。ステップS104における平均ビットレート(Brravgとする)の算出は、次式(10)に基づいて行われる。
Brravg=(Lsum/Lrrsum)×Bout−(Lsrsum/Lrrsum)×Bsravg ・・・(10)
In step S104, an average bit rate (referred to as Brravg) in the Re-Rendering section is calculated. The calculation of the average bit rate (referred to as Brravg) in step S104 is performed based on the following equation (10).
Brravg = (Lsum / Lrrsum) × Bout− (Lsrsum / Lrrsum) × Bsravg (10)

式(10)に示されるように、Re-Rendering区間に関する平均ビットレート、すなわち、再符号化する際に目標とされる平均ビットレートは、Smart-Rendering区間における平均ビットレート(Bsravg)を考慮して設定される。   As shown in Equation (10), the average bit rate for the Re-Rendering interval, that is, the average bit rate targeted for re-encoding, considers the average bit rate (Bsravg) in the Smart-Rendering interval. Is set.

式(10)に基づいて算出された平均ビットレートBrravgは、ステップS105において、符号化部94(図4)における符号化のビットレートとして符号化部94に設定される。   The average bit rate Brravg calculated based on Expression (10) is set in the encoding unit 94 as a bit rate for encoding in the encoding unit 94 (FIG. 4) in step S105.

このようにして、再符号化時のビットレートが算出されると、ステップS57(図8)に処理が進められ、再符号化の処理の実行や、ビットストリームの結合の処理が実行される。   When the bit rate at the time of re-encoding is calculated in this way, the process proceeds to step S57 (FIG. 8), and the re-encoding process or the bit stream combining process is executed.

このように、本発明においては、動画像を結合する際、そのまま結合するビットストリームと再符号化した後に結合するビットストリームとを、実際に結合を開始する前の段階で分けた後に、実際の結合の処理を開始する。よって、結合の対象とされる全てのビットストリームを再符号化する場合と比較して、結合の処理に係る時間を短くすることができる。   As described above, in the present invention, when moving images are combined, the bit stream to be combined as it is and the bit stream to be combined after re-encoding are separated at the stage before actually starting the combination, Start the join process. Therefore, the time required for the combining process can be shortened as compared with the case where all the bit streams to be combined are re-encoded.

また、本発明によれば、再符号化した後に結合するビットストリームを、画質を考慮して決定することができる。例えば、画質を劣化させても良いビットストリームは、再符号化されるビットストリーム(Re-Rendering区間のビットストリーム)として設定されるようにし、画質を劣化させたくないビットストリームは、そのまま結合される(Smart-Rendering区間のビットストリーム)として設定されるようにすることができる。   Further, according to the present invention, the bit stream to be combined after re-encoding can be determined in consideration of the image quality. For example, a bit stream whose image quality may be deteriorated is set as a re-encoded bit stream (a bit stream in a Re-Rendering section), and bit streams that do not want to deteriorate image quality are combined as they are. It can be set as (Smart-Rendering section bitstream).

なお、上述した実施の形態においては、再符号化した後に結合処理を行うビットストリーム(Re-Rendering区間のビットストリーム)を、複数回の処理を経て、決定した。図8乃至図9を再度参照するに、例えば、ステップS52において、Difficultyに基づいて、Re-Rendering区間を設定し、ステップS72において、平均ビットレートの最大値Bsmaxに基づいて、Re-Rendering区間を設定し、ステップS76乃至S80において、値Rdiに基づいて、Re-Rendering区間を設定している。   In the above-described embodiment, the bit stream (the bit stream in the Re-Rendering section) that is to be combined after re-encoding is determined through a plurality of processes. Referring to FIGS. 8 to 9 again, for example, in step S52, a Re-Rendering section is set based on the Difficulty, and in Step S72, the Re-Rendering section is set based on the maximum value Bsmax of the average bit rate. In step S76 to S80, the Re-Rendering section is set based on the value Rdi.

これらの各処理を順次行うことにより、Re-Rendering区間を設定する(すなわち、上述したようにRe-Rendering区間を設定する)ようにしても良いし、1つの処理のみで(例えば、ステップS72の処理のみで)Re-Rendering区間を設定するようにしても良い。もちろん、それらの処理の組み合わせでRe-Rendering区間が設定されるようにしても良いし、その場合の処理の順序などは、適宜、最適に編集処理が行われるような順序に設定されればよい。   By sequentially performing each of these processes, the Re-Rendering section may be set (that is, the Re-Rendering section is set as described above), or only one process (for example, in step S72) A Re-Rendering section may be set only by processing. Of course, the Re-Rendering section may be set by a combination of these processes, and the order of the processes in that case may be set as appropriate so that the editing process is optimally performed. .

上述した一連の処理は、それぞれの機能を有するハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ(例えば、図2のPC13)などに、記録媒体からインストールされる。   The series of processes described above can be executed by hardware having respective functions, but can also be executed by software. When a series of processing is executed by software, various functions can be executed by installing a computer in which the programs that make up the software are installed in dedicated hardware, or by installing various programs. For example, it is installed from a recording medium in a general-purpose personal computer (for example, the PC 13 in FIG. 2).

記録媒体は、図2に示すように、PC13とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク51(フレキシブルディスクを含む)、光ディスク52(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク53(MD(Mini-Disc)(登録商標)を含む)、若しくは半導体メモリ54などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記憶されているROM32や記憶部38が含まれるハードディスクなどで構成される。   As shown in FIG. 2, the recording medium is distributed to provide a program to the user separately from the PC 13, and includes a magnetic disk 51 (including a flexible disk) on which the program is recorded, an optical disk 52 (CD-ROM). (Including Compact Disc-Read Only Memory), DVD (Digital Versatile Disc), magneto-optical disk 53 (including MD (Mini-Disc) (registered trademark)), or semiconductor memory 54, etc. In addition, it is configured by a hard disk including a ROM 32 storing a program and a storage unit 38 provided to the user in a state of being incorporated in a computer in advance.

なお、本明細書において、媒体により提供されるプログラムを記述するステップは、記載された順序に従って、時系列的に行われる処理は勿論、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。   In this specification, the steps for describing the program provided by the medium are performed in parallel or individually in accordance with the described order, as well as the processing performed in time series, not necessarily in time series. The process to be executed is also included.

また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。   Further, in this specification, the system represents the entire apparatus constituted by a plurality of apparatuses.

本発明を適用したシステムの一実施の形態の構成を示す図である。It is a figure which shows the structure of one Embodiment of the system to which this invention is applied. PCの内部構成例を示す図である。It is a figure which shows the internal structural example of PC. PCの機能を示すブロック図である。It is a block diagram which shows the function of PC. 編集に関わる機能を示すブロック図であるIt is a block diagram showing functions related to editing 結合対象のビットストリームを設定する際の処理を説明するためのフローチャートである。It is a flowchart for demonstrating the process at the time of setting the bit stream of a joint object. ディスプレイの画面の一例を示す図である。It is a figure which shows an example of the screen of a display. 編集に関わる処理について説明するためのフローチャートである。It is a flowchart for demonstrating the process in connection with an edit. ステップS38における結合処理の詳細を説明するためのフローチャートである。It is a flowchart for demonstrating the detail of the joint process in step S38. ステップS56におけるRe-Rendering区間の設定処理の詳細を説明するためのフローチャートである。It is a flowchart for demonstrating the detail of the setting process of the Re-Rendering area in step S56. ステップS81における平均ビットレートの算出処理の詳細を説明するためのフローチャートである。It is a flowchart for demonstrating the detail of the calculation process of the average bit rate in step S81. ビットストリームの結合について説明するためのフローチャートである。It is a flowchart for demonstrating the coupling | bonding of a bit stream. 記憶部に記憶されている情報について説明するためのフローチャートである。It is a flowchart for demonstrating the information memorize | stored in the memory | storage part. Re-Rendering区間またはSmart-Rendering区間の設定の仕方について説明するための図である。It is a figure for demonstrating how to set a Re-Rendering area or a Smart-Rendering area. Re-Rendering区間またはSmart-Rendering区間の設定の仕方について説明するための図である。It is a figure for demonstrating how to set a Re-Rendering area or a Smart-Rendering area. Re-Rendering区間またはSmart-Rendering区間の設定の仕方について説明するための図である。It is a figure for demonstrating how to set a Re-Rendering area or a Smart-Rendering area. Re-Rendering区間またはSmart-Rendering区間の設定の仕方について説明するための図である。It is a figure for demonstrating how to set a Re-Rendering area or a Smart-Rendering area.

符号の説明Explanation of symbols

11 ビデオカメラ, 12 記録媒体, 13 PC, 14 ネットワーク, 31 CPU, 32 ROM, 33 RAM, 36 入力部, 37 出力部, 38 記憶部, 39 通信部, 71 再生部, 72 表示部, 73 制御部, 91,92 スイッチ, 93 復号部, 94 符号化部   11 video camera, 12 recording medium, 13 PC, 14 network, 31 CPU, 32 ROM, 33 RAM, 36 input unit, 37 output unit, 38 storage unit, 39 communication unit, 71 playback unit, 72 display unit, 73 control unit , 91, 92 switch, 93 decoding unit, 94 encoding unit

Claims (6)

複数のビットストリームを編集対象とし編集する編集装置において、
前記ビットストリームに付随する情報を参照し、Difficultyを求め、そのDifficultyの値に基づき、前記ビットストリームを再符号化するか否かを判断する判断手段と、
前記判断手段により再符号化すると判断された前記ビットストリームを、設定されたビットレートで再符号化する再符号化手段と
前記再符号化手段により再符号化された前記ビットストリームと、前記判断手段により再符号化しないと判断された前記ビットストリームを結合する結合手段と
を備えることを特徴とする編集装置。
In an editing device that edits multiple bitstreams as editing targets,
Referencing information accompanying the bitstream, obtaining a Difficulty, and based on the value of the Difficulty, determining means for determining whether to re-encode the bitstream;
Re-encoding means for re-encoding the bit stream determined to be re-encoded by the determining means at a set bit rate; the bit stream re-encoded by the re-encoding means; and the determining means An editing apparatus comprising: combining means for combining the bitstreams determined not to be re-encoded according to the above.
前記判断手段により、編集対象とされた全てのビットストリームが、再符号化しないと判断された場合、編集後のビットストリームのビットレートが、目標とされるビットレート以上にならないか否かを判断することにより、編集対象とされた全てのビットストリームを再符号化せずに編集してよいか否かを判断する第2の判断手段を
さらに備えることを特徴とする請求項1に記載の編集装置。
If it is determined by the determination means that all the bitstreams to be edited are not to be re-encoded, it is determined whether or not the bit rate of the bitstream after editing does not exceed the target bitrate. 2. The editing according to claim 1, further comprising: a second determination unit configured to determine whether or not all the bitstreams to be edited can be edited without being re-encoded. apparatus.
前記判断手段により再符号化しないと判断されたビットストストリームのビットレートが、予め設定されているビットレートに関する閾値以上である場合、再符号化するビットストリームに設定し直す再設定手段を
さらに備えることを特徴とする請求項1に記載の編集装置。
When the bit rate of the bit stream determined not to be re-encoded by the determining unit is equal to or higher than a threshold value related to a preset bit rate, the re-setting unit is further provided to reset the bit stream to be re-encoded. The editing apparatus according to claim 1.
複数のビットストリームを編集対象とし編集する編集装置の編集方法において、
前記ビットストリームに付随する情報を参照し、Difficultyを求め、そのDifficultyの値に基づき、前記ビットストリームを再符号化するか否かを判断する判断ステップと、
前記判断ステップの処理で再符号化すると判断された前記ビットストリームを、設定されたビットレートで再符号化する再符号化ステップと
前記再符号化ステップの処理で再符号化された前記ビットストリームと、前記判断ステップの処理で再符号化しないと判断された前記ビットストリームを結合する結合ステップと
を含むことを特徴とする編集方法。
In the editing method of the editing apparatus for editing a plurality of bitstreams as editing targets,
A determination step of determining whether or not to re-encode the bit stream based on a value of the Difficulty by referring to information accompanying the bit stream;
A re-encoding step of re-encoding the bit stream determined to be re-encoded in the process of the determining step at a set bit rate; and the bit stream re-encoded in the process of the re-encoding step; And a combining step of combining the bitstreams determined not to be re-encoded in the process of the determining step.
複数のビットストリームを編集対象とし編集する編集装置のプログラムであって、
前記ビットストリームに付随する情報を参照し、Difficultyを求め、そのDifficultyの値に基づき、前記ビットストリームを再符号化するか否かを判断する判断ステップと、
前記判断ステップの処理で再符号化すると判断された前記ビットストリームを、設定されたビットレートで再符号化する再符号化ステップと
前記再符号化ステップの処理で再符号化された前記ビットストリームと、前記判断ステップの処理で再符号化しないと判断された前記ビットストリームを結合する結合ステップと
を含むことを特徴とするプログラム。
An editing device program for editing a plurality of bitstreams,
A determination step of determining whether or not to re-encode the bit stream based on a value of the Difficulty by referring to information accompanying the bit stream;
A re-encoding step of re-encoding the bit stream determined to be re-encoded in the process of the determining step at a set bit rate; and the bit stream re-encoded in the process of the re-encoding step; A combining step of combining the bitstreams determined not to be re-encoded in the processing of the determining step.
複数のビットストリームを編集対象とし編集する編集装置用のプログラムであって、
前記ビットストリームに付随する情報を参照し、Difficultyを求め、そのDifficultyの値に基づき、前記ビットストリームを再符号化するか否かを判断する判断ステップと、
前記判断ステップの処理で再符号化すると判断された前記ビットストリームを、設定されたビットレートで再符号化する再符号化ステップと
前記再符号化ステップの処理で再符号化された前記ビットストリームと、前記判断ステップの処理で再符号化しないと判断された前記ビットストリームを結合する結合ステップと
を含むことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。
A program for an editing device that edits a plurality of bitstreams as editing targets,
A determination step of determining whether or not to re-encode the bit stream based on a value of the Difficulty by referring to information accompanying the bit stream;
A re-encoding step of re-encoding the bit stream determined to be re-encoded in the process of the determining step at a set bit rate; and the bit stream re-encoded in the process of the re-encoding step; And a combining step of combining the bitstreams determined not to be re-encoded in the process of the determining step. A recording medium on which a computer-readable program is recorded.
JP2004063731A 2004-03-08 2004-03-08 Editing apparatus and method, and program Expired - Fee Related JP4289181B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004063731A JP4289181B2 (en) 2004-03-08 2004-03-08 Editing apparatus and method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004063731A JP4289181B2 (en) 2004-03-08 2004-03-08 Editing apparatus and method, and program

Publications (2)

Publication Number Publication Date
JP2005252949A true JP2005252949A (en) 2005-09-15
JP4289181B2 JP4289181B2 (en) 2009-07-01

Family

ID=35032977

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004063731A Expired - Fee Related JP4289181B2 (en) 2004-03-08 2004-03-08 Editing apparatus and method, and program

Country Status (1)

Country Link
JP (1) JP4289181B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013055507A (en) * 2011-09-05 2013-03-21 Fuji Xerox Co Ltd Image processing device and image processing program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013055507A (en) * 2011-09-05 2013-03-21 Fuji Xerox Co Ltd Image processing device and image processing program

Also Published As

Publication number Publication date
JP4289181B2 (en) 2009-07-01

Similar Documents

Publication Publication Date Title
JP2008167061A (en) Encoding device and encoding method
JP4563833B2 (en) Recording device
WO2005088964A1 (en) Recording/reproduction/ edition device
JP4289181B2 (en) Editing apparatus and method, and program
JP4767900B2 (en) Image reproducing apparatus, image reproducing program, recording medium, and image reproducing method
JP2008035281A (en) Image coding method
JP4262139B2 (en) Signal processing device
CN102577364B (en) Moving image playback device and moving image playback method
KR100912171B1 (en) Modifying video signals by converting non-intra pictures
JP4171414B2 (en) Method and system for changing video by inserting shadow intra pictures
JP2008124932A (en) Nonlinear editing device and program thereof, and data replacing method of nonlinear editing device
JP4973935B2 (en) Information processing apparatus, information processing method, program, and recording medium
JP4285431B2 (en) Video information editing apparatus, method and program
JP2011146847A (en) Image reproduction controller, image reproduction control method, and imaging device
JP4750759B2 (en) Video / audio playback device
JP2008060812A (en) Moving image editing device and method, and program and storage medium
JP2008283663A (en) Information processing apparatus, information processing method, recording medium, and program
JPWO2008129648A1 (en) Frame rate conversion apparatus, frame rate conversion method, and moving picture encoding apparatus
JP5553533B2 (en) Image editing apparatus, control method thereof, and program
JP2006197256A (en) Image processing apparatus
JP4333522B2 (en) Information processing apparatus, information processing method, recording medium, and program
JP4306532B2 (en) Recording apparatus and method, recording medium, and program
KR100980195B1 (en) Motion picture coding device and method
JP5359724B2 (en) Streaming distribution system, server apparatus, streaming distribution method and program
JP2005176330A (en) Image processor, control method therefor, computer program and computer readable recording medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061130

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080828

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081007

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090310

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090323

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120410

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130410

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees