JP5984462B2 - Image encoding device - Google Patents

Image encoding device Download PDF

Info

Publication number
JP5984462B2
JP5984462B2 JP2012084756A JP2012084756A JP5984462B2 JP 5984462 B2 JP5984462 B2 JP 5984462B2 JP 2012084756 A JP2012084756 A JP 2012084756A JP 2012084756 A JP2012084756 A JP 2012084756A JP 5984462 B2 JP5984462 B2 JP 5984462B2
Authority
JP
Japan
Prior art keywords
bit rate
encoding
resolution
image
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012084756A
Other languages
Japanese (ja)
Other versions
JP2013214894A (en
Inventor
亞矢子 根本
亞矢子 根本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2012084756A priority Critical patent/JP5984462B2/en
Publication of JP2013214894A publication Critical patent/JP2013214894A/en
Application granted granted Critical
Publication of JP5984462B2 publication Critical patent/JP5984462B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、画像符号化装置に関し、特に、ビットレート変更時に、解像度を変更するタイミングを利用して符号化モードや量子化ステップまたはフレームレート等を制御するようにした画像符号化装置に関するものである。   The present invention relates to an image coding apparatus, and more particularly to an image coding apparatus that controls a coding mode, a quantization step, a frame rate, or the like by using a timing for changing a resolution when a bit rate is changed. is there.

動画像データを高能率に圧縮する符号化技術として、例えば国際標準規格であるMPEG−2やH.264/AVC等が挙げられる。これらは動き補償予測符号化、離散コサイン変換符号化、可変長符号化等を組み合わせたハイブリッド符号化方式である。動き補償予測には、フレーム内予測(イントラ予測)とフレーム間予測(インター予測)があり、符号化されるピクチャのタイプは動き補償予測の方式に応じて分類され、フレーム内予測による符号化のみを行うイントラ符号化ピクチャ(以下、Iピクチャと称する)、時間的に前方向のフレームとの間で動き予測を行い、その差分値と動き予測の情報を送ることによってデータを圧縮する前方向予測符号化ピクチャ(以下、Pピクチャと称する)及び時間的に前方向、後方向、もしくは双方向のいずれかのフレーム間で動き予測を行い、データを圧縮する双方向予測符号化ピクチャ(以下、Bピクチャと称する)の3種に分けられる。これらの動き補償予測符号化を用いて、Iピクチャを先頭とするGOP(Group Of Pictures)というピクチャ群を周期的に繰り返して符号化を行うのが一般的である。   As an encoding technique for compressing moving image data with high efficiency, for example, MPEG-2 and H.264 which are international standards. H.264 / AVC and the like. These are hybrid coding schemes combining motion compensation prediction coding, discrete cosine transform coding, variable length coding, and the like. Motion compensation prediction includes intra-frame prediction (intra prediction) and inter-frame prediction (inter prediction). The type of picture to be encoded is classified according to the method of motion compensation prediction, and only encoding by intra-frame prediction is performed. Forward prediction in which motion prediction is performed between an intra-coded picture (hereinafter referred to as an I picture) and a temporally forward frame, and the difference value and motion prediction information are transmitted. Bidirectional predictive coded picture (hereinafter referred to as B picture) which performs motion prediction between a coded picture (hereinafter referred to as P picture) and temporally forward, backward or bidirectional frames and compresses data. (Referred to as pictures). In general, encoding is performed by periodically repeating a group of pictures called GOP (Group Of Pictures) starting from an I picture using these motion-compensated predictive encoding.

画像符号化装置によって圧縮された画像データは、ネットワーク等を介して伝送され、画像復号装置によって復号された画像データを得ることが出来る。このとき伝送システムによって、符号化データを伝送するビットレートが固定レートの場合と可変レートの場合が存在する。リアルタイム伝送における可変レートのシステムでは、レートの切り替わり時に、符号化データの情報量を抑える必要が生じる場合があり、その結果復号画像が著しく劣化する、または情報量を抑えきれずに符号化データが伝送路上で欠落し、復号画像が乱れるという問題が発生する。   Image data compressed by the image encoding device is transmitted via a network or the like, and image data decoded by the image decoding device can be obtained. At this time, depending on the transmission system, there are cases where the bit rate for transmitting the encoded data is a fixed rate and a variable rate. In a variable rate system in real-time transmission, it may be necessary to reduce the amount of information of encoded data at the time of rate switching. As a result, the decoded image is significantly deteriorated, or the encoded data is not fully suppressed. There is a problem that the decoded image is disturbed due to loss on the transmission path.

従来の画像符号化装置は、入力画像の符号化の困難さの程度に応じて、解像度及びフレームレートの少なくとも一方を変更して符号化を行い、またビットレートに応じて符号化対象画像の解像度の上限値または下限値を決定し、その範囲内で解像度を選択するような制御を行っていた。さらに、解像度変更後に所定の時間が経過または所定数の入力画像を処理するまで解像度を変更しないように制御することによって、低ビットレートで解像度が頻繁に切り替わることに起因するボケなどの違和感が発生しない画像符号化を行うことができ、主観的な画質劣化を防止していた(例えば、特許文献1参照)。   The conventional image encoding apparatus performs encoding by changing at least one of the resolution and the frame rate according to the degree of difficulty of encoding the input image, and the resolution of the encoding target image according to the bit rate. The upper limit value or the lower limit value is determined, and control is performed to select the resolution within the range. Furthermore, by controlling the resolution not to change until a predetermined time elapses after the resolution is changed or until a predetermined number of input images are processed, blurring due to frequent switching of resolution at a low bit rate occurs. Image coding can be performed, and subjective image quality degradation is prevented (see, for example, Patent Document 1).

国際公開第2010/150470号公報International Publication No. 2010/150470

従来の画像符号化装置は、ビットレートの変更に対応して解像度を切り替えていたが、所定の時間が経過するまで解像度を変更しないため、ビットレートの変更が頻繁に発生しビットレートが大幅に下がった場合に、量子化ステップが大きくなり復号画像が劣化する、または送信バッファがオーバーフローするという問題点があった。あるいは、情報量を抑えきれずに伝送路にて符号化データが欠落し、画像復号装置にて復号画像が途切れるという問題点があった。   The conventional image coding apparatus switches the resolution in response to the change in the bit rate, but does not change the resolution until a predetermined time elapses, so the bit rate frequently changes and the bit rate greatly increases. When it is lowered, there is a problem that the quantization step becomes large and the decoded image deteriorates or the transmission buffer overflows. Alternatively, there is a problem in that encoded data is lost in the transmission path without being able to suppress the amount of information, and the decoded image is interrupted in the image decoding apparatus.

この発明は上記のような問題点を解決するためになされたもので、ビットレート変更時の画質劣化を軽減すると共に、画像復号装置において復号エラーを発生させず、復号画像が途切れないようにすることを目的とする。   The present invention has been made to solve the above-described problems, and reduces image quality degradation when changing the bit rate, prevents a decoding error from occurring in the image decoding apparatus, and prevents the decoded image from being interrupted. For the purpose.

この発明に係る画像符号化装置は、画像信号を入力し、画像信号に対してフレーム内予測、フレーム間予測及び可変長符号化を用いて符号化を行い、ビットレートが変動する伝送路に符号化した画像信号のデータを送出する画像符号化装置において、入力された画像信号の解像度を変換する解像度変換手段と、解像度変換手段で解像度変換された画像信号を入力順から符号化順に並べ替える並べ替え手段と、並べ替え手段から出力された画像信号を符号化する符号化手段と、符号化手段で符号化されたデータを蓄積し、ビットレートに従って伝送路に送出する送信手段と、送信手段から送出されるデータにタイムスタンプ情報を付加するタイムスタンプ情報付加手段と、ビットレートに応じて解像度変換手段の解像度を決定する解像度決定手段と、ビットレート変更時に、送信手段に蓄積されている符号化したデータのビット量を基に解像度を変更するタイミングを決定するタイミング決定手段と、ビットレート変更時に解像度を変更するタイミングを利用して符号化モード及び量子化ステップを制御する符号化制御手段とを備え、符号化手段は、符号化制御手段で制御される符号化モード及び量子化ステップに基づいて符号化を行うようにしたものである。   An image encoding apparatus according to the present invention receives an image signal, encodes the image signal using intra-frame prediction, inter-frame prediction, and variable-length encoding, and encodes the image signal on a transmission path in which the bit rate varies. In an image encoding device for transmitting converted image signal data, a resolution conversion unit that converts the resolution of the input image signal, and an arrangement that rearranges the image signals that have undergone resolution conversion by the resolution conversion unit from the input order to the encoding order A transmission unit that encodes the image signal output from the rearrangement unit, a transmission unit that accumulates the data encoded by the encoding unit, and sends the data to the transmission path according to the bit rate; Time stamp information adding means for adding time stamp information to transmitted data and resolution determining means for determining the resolution of the resolution converting means according to the bit rate And timing determination means for determining the timing for changing the resolution based on the bit amount of the encoded data stored in the transmission means when the bit rate is changed, and the timing for changing the resolution when the bit rate is changed. An encoding control means for controlling the encoding mode and the quantization step, and the encoding means performs encoding based on the encoding mode and the quantization step controlled by the encoding control means. is there.

この発明の画像符号化装置は、ビットレート変更時に、送信手段に蓄積されている符号化したデータのビット量を基に解像度を変更するタイミングを決定し、このタイミングを利用して、符号化手段が符号化モード及び量子化ステップを制御するようにしたので、ビットレート変更時の画質劣化を軽減すると共に、画像復号装置において復号エラーを発生させず、復号画像が途切れないようにすることができる。   The image encoding device according to the present invention determines the timing for changing the resolution based on the bit amount of the encoded data stored in the transmission means when the bit rate is changed, and uses this timing to determine the encoding means. Controls the encoding mode and the quantization step, so that it is possible to reduce image quality degradation when changing the bit rate, and to prevent a decoding error from occurring in the image decoding apparatus and to prevent the decoded image from being interrupted. .

この発明の実施の形態1による画像符号化装置を示す構成図である。It is a block diagram which shows the image coding apparatus by Embodiment 1 of this invention. この発明の実施の形態1による画像符号化装置のフレームメモリ部への書き込み及び読み出しピクチャを示す説明図である。It is explanatory drawing which shows the write-in and read-out picture to the frame memory part of the image coding apparatus by Embodiment 1 of this invention. この発明の実施の形態1による画像符号化装置のビットレート変更時の送信バッファ残量の動きの一例を示す説明図である。It is explanatory drawing which shows an example of a movement of the transmission buffer remaining amount at the time of the bit rate change of the image coding apparatus by Embodiment 1 of this invention. この発明の実施の形態1による画像符号化装置のビットレート変更時にタイムスタンプを変更する場合の送信バッファ残量の動きの一例を示す説明図である。It is explanatory drawing which shows an example of a movement of the transmission buffer remaining amount in the case of changing a time stamp at the time of the bit rate change of the image coding apparatus by Embodiment 1 of this invention. この発明の実施の形態2による画像符号化装置を示す構成図である。It is a block diagram which shows the image coding apparatus by Embodiment 2 of this invention. この発明の実施の形態4による画像符号化装置を示す構成図である。It is a block diagram which shows the image coding apparatus by Embodiment 4 of this invention.

実施の形態1.
図1はこの発明の実施の形態1における画像符号化装置の全体構成を示すブロック図である。
図1において、解像度変換部1は、画像符号化装置に入力された画像信号101の解像度を縮小するブロックであり、解像度変換手段を構成している。フレームメモリ部2は、解像度変換部1における解像度変換後の画像信号102を書き込み制御信号103に従ってピクチャ単位で蓄積する図示しないメモリを備えたブロックであり、並べ替え手段を構成している。画像符号化部3は、フレームメモリ部2に蓄積された画像信号102をGOP構造120に従って符号化順に並び替えるよう読み出し制御信号105を生成し、読み出された画像信号104をフレーム内予測またはフレーム間予測、可変長符号化等を用いて符号化するブロックであり、符号化手段を構成している。送信バッファ部4は、画像符号化部3から出力されるビデオES(Elementary Stream)データ106を書き込み制御信号107に従って一旦蓄積し、ビットレートに応じた読み出し制御信号109に従ってビデオESデータ108を出力すると共に、ビデオESデータ108の送信バッファ部4における蓄積量(送信バッファ残量)110を出力するブロックであり、送信手段を構成している。
Embodiment 1 FIG.
FIG. 1 is a block diagram showing the overall configuration of an image coding apparatus according to Embodiment 1 of the present invention.
In FIG. 1, a resolution conversion unit 1 is a block for reducing the resolution of an image signal 101 input to an image encoding device, and constitutes a resolution conversion unit. The frame memory unit 2 is a block including a memory (not shown) that stores the image signal 102 after the resolution conversion in the resolution conversion unit 1 in units of pictures according to the write control signal 103, and constitutes a rearranging unit. The image encoding unit 3 generates a read control signal 105 so that the image signal 102 stored in the frame memory unit 2 is rearranged in the encoding order in accordance with the GOP structure 120, and the read image signal 104 is subjected to intra-frame prediction or frame It is a block to be encoded using inter prediction, variable length encoding, etc., and constitutes an encoding means. The transmission buffer unit 4 temporarily accumulates video ES (Elementary Stream) data 106 output from the image encoding unit 3 in accordance with a write control signal 107, and outputs video ES data 108 in accordance with a read control signal 109 corresponding to the bit rate. At the same time, it is a block for outputting an accumulation amount (transmission buffer remaining amount) 110 of the video ES data 108 in the transmission buffer unit 4 and constitutes a transmission means.

タイムスタンプ付加部5は送信バッファ遅延時間112を基にビデオESデータ108にタイムスタンプ情報を付加してビデオTS(Transport Stream)データ111を伝送路に出力するブロックであり、タイムスタンプ情報付加手段を構成している。ストリーム送出時間算出部6は、外部から指示される可変のビットレート113及びビットレート変更時の送信バッファ残量110からビデオESデータ108が引き抜かれるのに要するフレーム時間を算出して解像度を変更するGOP切り替えタイミング情報114を決定し、また、送信バッファ残量110、ビットレート113及び送信バッファ遅延時間112を基にタイムスタンプ変更指示115及びタイムスタンプ補正時間116を出力するブロックであり、タイミング決定手段を構成している。   The time stamp adding unit 5 is a block for adding time stamp information to the video ES data 108 based on the transmission buffer delay time 112 and outputting the video TS (Transport Stream) data 111 to the transmission path. It is composed. The stream transmission time calculation unit 6 calculates the frame time required for the video ES data 108 to be extracted from the variable bit rate 113 specified from the outside and the transmission buffer remaining amount 110 when the bit rate is changed, and changes the resolution. The GOP switching timing information 114 is determined, and a time stamp change instruction 115 and a time stamp correction time 116 are output based on the remaining transmission buffer capacity 110, the bit rate 113, and the transmission buffer delay time 112. Is configured.

符号化制御部7は、ビットレート113、送信バッファ遅延時間112、送信バッファ残量110及びGOP構造120から決定したピクチャタイプ117を基に目標情報発生量を算出し、解像度121に応じてマクロブロック毎の量子化ステップ118、符号化モード119を決定して画像符号化部3に出力し、さらにビットレート変更時にはストリーム送出時間算出部6から出力されるGOP切り替えタイミング情報114及びビットレート変更前のGOP構造を基に新たなGOP構造120及びGOP内位置情報122を出力するブロックであり、符号化制御手段を構成している。解像度決定部8は可変のビットレート113、GOP構造120及びGOP内位置情報122を基に解像度121を決定するブロックであり、解像度決定手段を構成している。   The encoding control unit 7 calculates the target information generation amount based on the bit rate 113, the transmission buffer delay time 112, the transmission buffer remaining amount 110, and the picture type 117 determined from the GOP structure 120, and the macroblock according to the resolution 121 Each quantization step 118 and encoding mode 119 are determined and output to the image encoding unit 3. Further, when the bit rate is changed, the GOP switching timing information 114 output from the stream transmission time calculation unit 6 and the bit rate before the change are changed. This block outputs a new GOP structure 120 and in-GOP position information 122 based on the GOP structure, and constitutes an encoding control means. The resolution determination unit 8 is a block that determines the resolution 121 based on the variable bit rate 113, the GOP structure 120, and the intra-GOP position information 122, and constitutes a resolution determination unit.

次に、実施の形態1の動作について説明する。
図1において、解像度変換部1は入力される画像信号101をビットレート113に応じた解像度121に変換する。例えば、水平方向または垂直方向の画素数をフィルタ処理にて3/4倍、2/3倍、1/2倍等に縮小する。変換後の画像信号102は書き込み制御信号103に従って入力順にピクチャ単位でフレームメモリ部2に書き込む。
Next, the operation of the first embodiment will be described.
In FIG. 1, the resolution converter 1 converts an input image signal 101 to a resolution 121 corresponding to a bit rate 113. For example, the number of pixels in the horizontal direction or the vertical direction is reduced to 3/4 times, 2/3 times, 1/2 times, or the like by filter processing. The converted image signal 102 is written in the frame memory unit 2 in picture order in accordance with the write control signal 103 in the order of input.

フレームメモリ部2は、入力順で書き込まれた画像信号102を読み出し制御信号105に従って符号化順に並べ替え、画像信号104として出力する。例えばM値(IまたはPピクチャの間隔)=3、N値(Iピクチャの間隔)=15の場合のフレームメモリ部2への書き込み及び読み出しピクチャを図2に示す。   The frame memory unit 2 rearranges the image signals 102 written in the order of input according to the read control signal 105 in the order of encoding and outputs them as the image signal 104. For example, FIG. 2 shows pictures to be written to and read from the frame memory unit 2 when M value (interval of I or P picture) = 3 and N value (interval of I picture) = 15.

画像符号化部3は、図2に示したようなGOP構造120及びピクチャタイプ117を基に読み出し制御信号105を生成し、フレームメモリ部2から符号化順に画像信号104を読み出す。読み出した画像信号104はピクチャタイプ117、量子化ステップ118、符号化モード119に従ってフレーム内予測またはフレーム間予測、可変長符号化等を用いた符号化を行い、書き込み制御信号107と共に可変長のビデオESデータ106を出力する。   The image encoding unit 3 generates a read control signal 105 based on the GOP structure 120 and the picture type 117 as shown in FIG. 2, and reads the image signal 104 from the frame memory unit 2 in the encoding order. The read image signal 104 is encoded using intra-frame prediction or inter-frame prediction, variable-length encoding, etc. according to the picture type 117, quantization step 118, and encoding mode 119, and the variable-length video together with the write control signal 107. ES data 106 is output.

送信バッファ部4は、ビデオESデータ106をメモリに一旦蓄積し、ビットレートに応じた読み出し制御信号109に従ってビデオESデータ108を出力する。また書き込まれたビデオESデータ106のビット量及び読み出されたビデオESデータ108のビット量から、メモリに蓄積されている送信バッファ残量110を算出する。   The transmission buffer unit 4 temporarily stores the video ES data 106 in the memory, and outputs the video ES data 108 according to the read control signal 109 corresponding to the bit rate. Further, the remaining amount 110 of the transmission buffer stored in the memory is calculated from the bit amount of the written video ES data 106 and the bit amount of the read video ES data 108.

タイムスタンプ付加部5は、ビデオESデータ108に対して送信バッファ遅延時間112を基にタイムスタンプ情報を付加して、ビデオTSデータ111を伝送路に出力する。ここで送信バッファ遅延時間112とは、例えば、MPEG−2の場合にはVBV_delay初期値であり、H.264/AVCの場合にはCPB_removal_delay初期値に相当する送信バッファ部4における遅延変動量であり、この遅延変動量の範囲内でビデオESデータのビット量を制御すれば、画像復号装置における受信バッファがアンダーフローを起こさずに復号画像を表示し続けることが可能であることが保証される。タイムスタンプ情報は、画像符号化部3における遅延時間及び送信バッファ遅延時間112を加算した時間であり、画像信号104を符号化開始した時刻に対して、タイムスタンプ情報を足しこんだ時刻をDTS(Decoding Time Stamps)としてビデオTSデータ111を生成する。   The time stamp adding unit 5 adds time stamp information to the video ES data 108 based on the transmission buffer delay time 112, and outputs the video TS data 111 to the transmission path. Here, the transmission buffer delay time 112 is, for example, the VBV_delay initial value in the case of MPEG-2. In the case of H.264 / AVC, this is the amount of delay variation in the transmission buffer unit 4 corresponding to the CPB_removal_delay initial value. If the bit amount of the video ES data is controlled within the range of this delay variation, the reception buffer in the image decoding device It is guaranteed that it is possible to continue displaying the decoded image without causing underflow. The time stamp information is a time obtained by adding the delay time in the image encoding unit 3 and the transmission buffer delay time 112, and the time when the time stamp information is added to the time when the image signal 104 is started to be encoded is DTS ( Video TS data 111 is generated as Decoding Time Stamps).

符号化制御部7は、送信バッファ残量110が送信バッファ遅延時間112を超えないようにビデオESデータ106のビット量を制御する。すなわち、ビットレート113、送信バッファ遅延時間112、送信バッファ残量110及びピクチャタイプ117から次のピクチャの目標情報発生量を算出し、解像度121よりマクロブロック当たりの量子化ステップ118、符号化モード119を制御して画像符号化部3に出力する。   The encoding control unit 7 controls the bit amount of the video ES data 106 so that the transmission buffer remaining amount 110 does not exceed the transmission buffer delay time 112. That is, the target information generation amount of the next picture is calculated from the bit rate 113, the transmission buffer delay time 112, the transmission buffer remaining amount 110, and the picture type 117, and the quantization step 118 per macroblock and the encoding mode 119 are determined from the resolution 121. Are output to the image encoding unit 3.

ビットレートが固定の場合は、以上のようにビデオESデータ106のビット量を制御することによって、画像復号装置における受信バッファのアンダーフローを回避することが可能となり、安定した復号画像を得ることができる。ここで、ビットレートが可変の場合の動作を説明する。解像度決定部8では、ビットレート113に応じて符号化に最適な解像度121を決定する。このとき、ビットレート変更前後で解像度を変更する必要がある場合には、変更前の解像度によるGOPを一度終了し解像度を変更した新たなGOPとして符号化を行えば、画像復号装置にて復号画像の表示が一旦途切れることなくシームレスな解像度の変更が可能となる。   When the bit rate is fixed, by controlling the bit amount of the video ES data 106 as described above, it is possible to avoid an underflow of the reception buffer in the image decoding device, and to obtain a stable decoded image. it can. Here, the operation when the bit rate is variable will be described. The resolution determination unit 8 determines the optimal resolution 121 for encoding according to the bit rate 113. At this time, if it is necessary to change the resolution before and after changing the bit rate, once the GOP with the resolution before the change is finished once and encoded as a new GOP with the changed resolution, the decoded image is decoded by the image decoding apparatus. It is possible to change the resolution seamlessly without interruption.

そこで、ストリーム送出時間算出部6では、外部からビットレート113の変更が指示された場合には、送信バッファ部4から出力されるビデオESデータ108の引き抜きレートが新たなビットレートとなるように即座に読み出し制御信号109を変更する。また、このときの送信バッファ残量110から変更後のビットレート113にてビデオESデータ108が引き抜かれるのに要する時間を算出し、その時間が経過した後に変更後のビットレート113に対応した新しい解像度121にて符号化を行うようGOP切り替えタイミング情報114を決定する。   Accordingly, when the stream transmission time calculation unit 6 is instructed to change the bit rate 113 from the outside, the stream transmission time calculation unit 6 immediately sets the extraction rate of the video ES data 108 output from the transmission buffer unit 4 to a new bit rate. The read control signal 109 is changed. Also, the time required for the video ES data 108 to be extracted from the transmission buffer remaining amount 110 at this time at the changed bit rate 113 is calculated, and after that time has elapsed, a new one corresponding to the changed bit rate 113 is obtained. GOP switching timing information 114 is determined so that encoding is performed at resolution 121.

ビットレート変更時の送信バッファ残量の動きの一例を図3に示す。横軸は時間を表しており、1ピクチャ時間をTとしている。縦軸は送信バッファ残量を表しており、変更前のビットレートをRとした場合、1ピクチャ当たりの引き抜き量はRTとなる。このとき、送信バッファがアンダーフローしないように常にバッファ残量がRT分溜まっている状態でバッファ制御を行う。この図では、ビットレート変更を指示された時点でのバッファ残量を変更後のビットレートR’にてRTまで引き抜くのに要する時間は6Tとなる。そこで、ビットレート変更指示から6ピクチャ時間後から新しい解像度にて符号化を行うよう、GOP切り替えタイミングを決定する。   An example of the movement of the transmission buffer remaining amount when the bit rate is changed is shown in FIG. The horizontal axis represents time, and T represents one picture time. The vertical axis represents the remaining amount of transmission buffer, and when the bit rate before change is R, the extraction amount per picture is RT. At this time, buffer control is performed in a state where the remaining buffer capacity is always accumulated for RT so that the transmission buffer does not underflow. In this figure, the time required to pull out the remaining buffer capacity to RT at the bit rate R ′ after the change when the bit rate change is instructed is 6T. Therefore, the GOP switching timing is determined so that encoding is performed at a new resolution 6 hours after the bit rate change instruction.

このとき、符号化制御部7はビットレート変更指示からGOP切り替えタイミングまでの期間は、情報発生量が最小限になるようにNot Coded MBにて符号化するよう量子化ステップ118及び符号化モード119を制御する。また、GOP切り替えタイミングにて新しいGOPが開始できるようGOP構造120、GOP内位置情報122及びピクチャタイプ117を出力する。解像度決定部8は、GOP切り替えタイミングから新しい解像度にて符号化が開始できるよう、フレームメモリ部2における入力順から符号化順への並び替えを考慮して、新しい解像度121を出力する。例えば、M値=3の場合は符号化におけるGOP切り替えタイミングの3ピクチャ前から新しい解像度121を出力する。   At this time, the encoding control unit 7 performs the quantization step 118 and the encoding mode 119 so that encoding is performed in the Not Coded MB so that the amount of information generation is minimized during the period from the bit rate change instruction to the GOP switching timing. To control. Further, the GOP structure 120, the in-GOP position information 122, and the picture type 117 are output so that a new GOP can be started at the GOP switching timing. The resolution determination unit 8 outputs a new resolution 121 in consideration of the rearrangement from the input order to the encoding order in the frame memory unit 2 so that encoding can be started at the new resolution from the GOP switching timing. For example, when M value = 3, a new resolution 121 is output three pictures before the GOP switching timing in encoding.

ストリーム送出時間算出部6では、ビットレート変更を指示されたら、変更後のビットレートを用いて送信バッファ遅延時間112に相当するバッファ残量(CPB_removal_delay初期値)を算出する。ビットレート変更を指示された時点でのバッファ残量が、変更後のビットレートにて算出したCPB_removal_delay初期値を下回っていた場合は、その値を超えないようにバッファ制御を行うことによって、画像復号装置にてバッファ破綻を起こさずに安定した復号画像を得ることが可能となる。
一方、ビットレート変更を指示された時点でのバッファ残量が、変更後のビットレートにて算出したCPB_removal_delay初期値を超えていた場合は、タイムスタンプ付加部5に対してビットレート変更直前ピクチャのタイムスタンプを再計算するようタイムスタンプ変更指示115及びタイムスタンプ補正時間116を出力する。バッファ残量が変更後のビットレートにて算出したCPB_removal_delay初期値を下回った以降は、その値を超えないようにバッファ制御を行う。
When instructed to change the bit rate, the stream transmission time calculation unit 6 calculates the remaining buffer capacity (CPB_removal_delay initial value) corresponding to the transmission buffer delay time 112 using the changed bit rate. If the remaining buffer capacity at the time when the bit rate change is instructed is below the CPB_removal_delay initial value calculated at the changed bit rate, image decoding is performed by performing buffer control so as not to exceed that value. A stable decoded image can be obtained without causing a buffer failure in the apparatus.
On the other hand, when the remaining buffer capacity at the time when the bit rate change is instructed exceeds the CPB_removal_delay initial value calculated at the bit rate after the change, the time stamp adding unit 5 is notified of the picture immediately before the bit rate change. A time stamp change instruction 115 and a time stamp correction time 116 are output so as to recalculate the time stamp. After the remaining amount of the buffer falls below the CPB_removal_delay initial value calculated at the changed bit rate, the buffer control is performed so as not to exceed the value.

ビットレート変更時にタイムスタンプを変更する場合の送信バッファ残量の動きの一例を図4に示す。図3と同様に横軸は時間、縦軸は送信バッファ残量を表しており、変更前のビットレートRにおけるCPB_removal_delay初期値をN×RTとすると、変更後のビットレートR’におけるCPB_removal_delay初期値はN×R’Tとなる。ビットレート変更を指示された時点でのバッファ残量がN×R’Tを上回っているため、6T時間における符号化ピクチャのタイムスタンプをN×R’Tを下回るまでにかかる時間(ここでは3T時間)伸ばすようにタイムスタンプの再計算を行う。   An example of the movement of the remaining transmission buffer when changing the time stamp when the bit rate is changed is shown in FIG. Similar to FIG. 3, the horizontal axis represents time, and the vertical axis represents the remaining amount of transmission buffer. If CPB_removal_delay initial value at the bit rate R before change is N × RT, CPB_removal_delay initial value at the bit rate R ′ after change Becomes N × R′T. Since the remaining buffer capacity at the time when the bit rate change is instructed exceeds N × R′T, the time required for the time stamp of the encoded picture in 6T time to fall below N × R′T (here, 3T Time) Recalculate the time stamp to extend.

このように、実施の形態1の画像符号化装置では、伝送路のビットレートが変化する場合に、瞬時にビットレートを変更すると共に、ビットレート変更時点での送信バッファ残量に応じてビットレートに最適な解像度に変更するタイミング及びビットレート変更から解像度変更までの期間の符号化モードを制御し、送信バッファ残量が最小になってから新たなGOPを開始するようにしているので、ビットレート変更時の画質劣化を軽減することが可能となり、また送信バッファや伝送路にてストリームデータが欠落することがなく、画像復号装置にて安定した復号画像を得ることが可能となる。さらに、ビットレート変更時の送信バッファ残量及び変更後のビットレートに応じてタイムスタンプの再計算を行うようにしているので、画像復号装置にて復号エラーを発生させず、復号画像を途切れないようにすることが可能となる。   As described above, in the image coding apparatus according to the first embodiment, when the bit rate of the transmission path changes, the bit rate is changed instantaneously and the bit rate according to the remaining amount of the transmission buffer at the time of changing the bit rate. The timing for changing to the optimum resolution and the encoding mode in the period from the bit rate change to the resolution change are controlled, and a new GOP is started after the transmission buffer remaining amount becomes minimum. Image quality degradation at the time of change can be reduced, and stream data is not lost in the transmission buffer or transmission path, and a stable decoded image can be obtained by the image decoding apparatus. Furthermore, since the time stamp is recalculated according to the remaining amount of the transmission buffer at the time of changing the bit rate and the bit rate after the change, the decoded image is not interrupted without causing a decoding error in the image decoding device. It becomes possible to do so.

以上説明したように、実施の形態1の画像符号化装置によれば、画像信号を入力し、画像信号に対してフレーム内予測、フレーム間予測及び可変長符号化を用いて符号化を行い、ビットレートが変動する伝送路に符号化した画像信号のデータを送出する画像符号化装置において、入力された画像信号の解像度を変換する解像度変換手段と、解像度変換手段で解像度変換された画像信号を入力順から符号化順に並べ替える並べ替え手段と、並べ替え手段から出力された画像信号を符号化する符号化手段と、符号化手段で符号化されたデータを蓄積し、ビットレートに従って伝送路に送出する送信手段と、送信手段から送出されるデータにタイムスタンプ情報を付加するタイムスタンプ情報付加手段と、ビットレートに応じて解像度変換手段の解像度を決定する解像度決定手段と、ビットレート変更時に、送信手段に蓄積されている符号化したデータのビット量を基に解像度を変更するタイミングを決定するタイミング決定手段と、ビットレート変更時に解像度を変更するタイミングを利用して符号化モード及び量子化ステップを制御する符号化制御手段とを備え、符号化手段は、符号化制御手段で制御される符号化モード及び量子化ステップに基づいて符号化を行うようにしたので、ビットレート変更時の画質劣化を軽減すると共に、画像復号装置において復号エラーを発生させず、復号画像が途切れないようにすることができる。   As described above, according to the image encoding device of the first embodiment, an image signal is input, and the image signal is encoded using intra-frame prediction, inter-frame prediction, and variable length encoding, In an image encoding device that transmits data of an image signal encoded on a transmission path with a variable bit rate, a resolution conversion unit that converts the resolution of the input image signal, and an image signal that has undergone resolution conversion by the resolution conversion unit Rearranging means for rearranging from the input order to the encoding order, encoding means for encoding the image signal output from the rearranging means, and data encoded by the encoding means are stored, and the data is transmitted to the transmission line according to the bit rate. A transmitting means for sending, a time stamp information adding means for adding time stamp information to data sent from the sending means, and a resolution converting means according to the bit rate. Resolution determining means for determining the degree, timing determining means for determining the timing for changing the resolution based on the bit amount of the encoded data stored in the transmitting means at the time of changing the bit rate, and resolution at the time of changing the bit rate. Coding control means for controlling the coding mode and the quantization step using the timing to be changed, and the coding means performs coding based on the coding mode and the quantization step controlled by the coding control means. Therefore, it is possible to reduce deterioration in image quality when changing the bit rate, and to prevent the decoding image from being interrupted without causing a decoding error in the image decoding apparatus.

また、実施の形態1の画像符号化装置によれば、タイミング決定手段は、ビットレート変更時に、送信手段に蓄積されている符号化したデータのビット量及び変更後のビットレートに応じて、解像度及びGOPを変更するタイミングを決定するようにしたので、ビットレート変更時の画質劣化を軽減し、かつ、復号画像が途切れないようにすることができる。   In addition, according to the image coding apparatus of the first embodiment, the timing determination unit determines the resolution according to the bit amount of the encoded data stored in the transmission unit and the bit rate after the change when the bit rate is changed. In addition, since the timing for changing the GOP is determined, it is possible to reduce the deterioration of the image quality when the bit rate is changed and to prevent the decoded image from being interrupted.

また、実施の形態1の画像符号化装置によれば、符号化制御手段は、ビットレート変更から解像度変更までの期間において、情報発生量が最小限になるように符号化モード及び量子化ステップを制御するようにしたので、ビットレート変更時の画質劣化を軽減し、かつ、復号画像が途切れないようにすることができる。   In addition, according to the image coding apparatus of the first embodiment, the coding control unit performs the coding mode and the quantization step so that the amount of information generation is minimized in the period from the bit rate change to the resolution change. Since the control is performed, it is possible to reduce the deterioration of the image quality when the bit rate is changed and to prevent the decoded image from being interrupted.

また、実施の形態1の画像符号化装置によれば、タイムスタンプ情報付加手段は、ビットレート変更時に、送信手段に蓄積されている符号化したデータのビット量及び変更後のビットレートに応じて、ビットレート変更前の符号化したデータのタイムスタンプ情報を変更するようにしたので、画像復号装置において復号エラーを発生させず、復号画像が途切れないようにすることができる。   In addition, according to the image coding apparatus of the first embodiment, the time stamp information adding unit depends on the bit amount of the encoded data stored in the transmission unit and the bit rate after the change when the bit rate is changed. Since the time stamp information of the encoded data before changing the bit rate is changed, it is possible to prevent a decoded image from being interrupted without causing a decoding error in the image decoding apparatus.

実施の形態2.
上記実施の形態1では、ビットレート変更から解像度変更までの期間の情報発生量が最小限になるように符号化モードを制御していたが、フレームメモリ部2から読み出す符号化順の画像信号104を制御する例を実施の形態2として以下に示す。
Embodiment 2. FIG.
In the first embodiment, the encoding mode is controlled so as to minimize the amount of information generated during the period from the bit rate change to the resolution change. However, the image signal 104 in the encoding order read from the frame memory unit 2 is used. An example of controlling this will be described below as a second embodiment.

図5は、実施の形態2における画像符号化装置の全体構成を示すブロック図である。構成上の違いは、符号化制御部7aがビットレート変更時に読み出し面繰り返し信号123を出力する点と、画像符号化部3aがこの読み出し面繰り返し信号123に基づいて、ビットレート変更直前のピクチャの画像信号104を繰り返し読み出すように、読み出し制御信号105を生成する点である。他の構成は図1に示した実施の形態1と同様であるため、対応する部分に同一符号を付してその説明を省略する。   FIG. 5 is a block diagram showing the overall configuration of the image coding apparatus according to the second embodiment. The difference in configuration is that the encoding control unit 7a outputs a readout plane repetition signal 123 when the bit rate is changed, and the image encoding unit 3a is based on the readout plane repetition signal 123, for the picture immediately before the bit rate change. The read control signal 105 is generated so that the image signal 104 is read repeatedly. Since the other configuration is the same as that of the first embodiment shown in FIG. 1, the same reference numerals are given to the corresponding portions and the description thereof is omitted.

次に実施の形態2の動作について、実施の形態1と異なる点を説明する。
符号化制御部7aは、実施の形態1と同様にビットレート変更時にGOP切り替えタイミング情報114が入力されたら、ビットレート変更指示からGOP切り替えタイミングまでの期間は、フレームメモリ部2から符号化順に読み出される画像信号104がビットレート変更直前と同じピクチャのデータを繰り返し読み出すよう、読み出し面繰り返し信号123を出力する。画像符号化部3aは、ビットレート変更直前のピクチャの画像信号104を繰り返し読み出すように、読み出し制御信号105を生成し、同じピクチャを繰り返し符号化することによって、情報発生量が最小限となるように符号化を行う。
Next, the operation of the second embodiment will be described while referring to differences from the first embodiment.
When the GOP switching timing information 114 is input when the bit rate is changed as in the first embodiment, the encoding control unit 7a reads the period from the bit rate change instruction to the GOP switching timing from the frame memory unit 2 in the encoding order. The readout surface repeat signal 123 is output so that the image signal 104 to be read repeatedly reads out the same picture data as before the bit rate change. The image encoding unit 3a generates the read control signal 105 so as to repeatedly read the image signal 104 of the picture immediately before the bit rate change, and repeatedly encodes the same picture so that the amount of information generation is minimized. Is encoded.

以上説明したように、実施の形態2の画像符号化装置によれば、画像信号を入力し、画像信号に対してフレーム内予測、フレーム間予測及び可変長符号化を用いて符号化を行い、ビットレートが変動する伝送路に符号化した画像信号のデータを送出する画像符号化装置において、入力された画像信号の解像度を変換する解像度変換手段と、解像度変換手段で解像度変換された画像信号を入力順から符号化順に並べ替える並べ替え手段と、並べ替え手段から出力された画像信号を符号化する符号化手段と、符号化手段で符号化されたデータを蓄積し、ビットレートに従って伝送路に送出する送信手段と、送信手段から送出されるデータにタイムスタンプ情報を付加するタイムスタンプ情報付加手段と、ビットレートに応じて解像度変換手段の解像度を決定する解像度決定手段と、ビットレート変更時に、送信手段に蓄積されている符号化したデータのビット量を基に解像度を変更するタイミングを決定するタイミング決定手段と、ビットレート変更時に解像度を変更するタイミングを利用して符号化対象の画像信号の選択を制御する符号化制御手段とを備え、符号化手段は、符号化制御手段で制御される画像信号の選択に基づいて、ビットレート変更から解像度変更までの期間において、情報発生量が最小限になるように符号化対象の画像信号を選択するようにしたので、実施の形態1と同様の効果を得ることが可能である。   As described above, according to the image encoding device of the second embodiment, an image signal is input, and the image signal is encoded using intra-frame prediction, inter-frame prediction, and variable length encoding, In an image encoding device that transmits data of an image signal encoded on a transmission path with a variable bit rate, a resolution conversion unit that converts the resolution of the input image signal, and an image signal that has undergone resolution conversion by the resolution conversion unit Rearranging means for rearranging from the input order to the encoding order, encoding means for encoding the image signal output from the rearranging means, and data encoded by the encoding means are stored, and the data is transmitted to the transmission line according to the bit rate. A transmitting means for sending, a time stamp information adding means for adding time stamp information to data sent from the sending means, and a resolution converting means according to the bit rate. Resolution determining means for determining the degree, timing determining means for determining the timing for changing the resolution based on the bit amount of the encoded data stored in the transmitting means at the time of changing the bit rate, and resolution at the time of changing the bit rate. Coding control means for controlling the selection of the image signal to be encoded using the timing to change, and the coding means changes the bit rate based on the selection of the image signal controlled by the coding control means Since the image signal to be encoded is selected so as to minimize the amount of information generated during the period from the resolution change to the resolution change, it is possible to obtain the same effect as in the first embodiment.

実施の形態3.
上記実施の形態2では、ビットレート変更から解像度変更までの期間の情報発生量が最小限になるようにフレームメモリ部2から読み出す符号化順の画像信号104を制御していたが、フレームメモリ部2からの画像信号の読み出しを停止してフレームレートを落とし、ビデオESデータ108の引き抜きのみを行ってもよく、これを実施の形態3として以下説明する。
Embodiment 3 FIG.
In the second embodiment, the encoding order image signal 104 read from the frame memory unit 2 is controlled so that the amount of information generated in the period from the bit rate change to the resolution change is minimized. The readout of the image signal from 2 may be stopped, the frame rate may be lowered, and only the video ES data 108 may be extracted. This will be described below as a third embodiment.

図面上のブロック構成としては図5に示した実施の形態2と同様であるため、図5を用いて説明する。実施の形態3では、符号化制御部7aから画像符号化部3aへ出力する実施の形態2の読み出し面繰り返し信号123を読み出し停止信号に変更する。そして、画像符号化部3aはビットレート変更から解像度変更までの期間はフレームメモリ部2からの画像信号104の読み出し及び画像符号化処理を停止してフレームレートを落とす。他の構成及び動作は実施の形態2と同様である。   Since the block configuration in the drawing is the same as that of the second embodiment shown in FIG. 5, description will be made with reference to FIG. In the third embodiment, the readout surface repetition signal 123 of the second embodiment output from the encoding control unit 7a to the image encoding unit 3a is changed to a readout stop signal. Then, during the period from the bit rate change to the resolution change, the image encoding unit 3a stops reading the image signal 104 from the frame memory unit 2 and the image encoding process, and lowers the frame rate. Other configurations and operations are the same as those in the second embodiment.

以上説明したように、実施の形態3の画像符号化装置によれば、画像信号を入力し、画像信号に対してフレーム内予測、フレーム間予測及び可変長符号化を用いて符号化を行い、ビットレートが変動する伝送路に符号化した画像信号のデータを送出する画像符号化装置において、入力された画像信号の解像度を変換する解像度変換手段と、解像度変換手段で解像度変換された画像信号を入力順から符号化順に並べ替える並べ替え手段と、並べ替え手段から出力された画像信号を符号化する符号化手段と、符号化手段で符号化されたデータを蓄積し、ビットレートに従って伝送路に送出する送信手段と、送信手段から送出されるデータにタイムスタンプ情報を付加するタイムスタンプ情報付加手段と、ビットレートに応じて解像度変換手段の解像度を決定する解像度決定手段と、ビットレート変更時に、送信手段に蓄積されている符号化したデータのビット量を基に解像度を変更するタイミングを決定するタイミング決定手段と、ビットレート変更時に解像度を変更するタイミングを利用して符号化対象の画像信号のフレームレートを制御する符号化制御手段とを備え、符号化手段は、符号化制御手段で制御される画像信号のフレームレートに基づいて、ビットレート変更から解像度変更までの期間において、情報発生量が最小限になるように符号化する画像信号のフレームレートを制御するようにしたので、実施の形態1と同様の効果を得ることが可能である。   As described above, according to the image encoding device of the third embodiment, an image signal is input, and the image signal is encoded using intra-frame prediction, inter-frame prediction, and variable length encoding, In an image encoding device that transmits data of an image signal encoded on a transmission path with a variable bit rate, a resolution conversion unit that converts the resolution of the input image signal, and an image signal that has undergone resolution conversion by the resolution conversion unit Rearranging means for rearranging from the input order to the encoding order, encoding means for encoding the image signal output from the rearranging means, and data encoded by the encoding means are stored, and the data is transmitted to the transmission line according to the bit rate. A transmitting means for sending, a time stamp information adding means for adding time stamp information to data sent from the sending means, and a resolution converting means according to the bit rate. Resolution determining means for determining the degree, timing determining means for determining the timing for changing the resolution based on the bit amount of the encoded data stored in the transmitting means at the time of changing the bit rate, and resolution at the time of changing the bit rate. Encoding control means for controlling the frame rate of the image signal to be encoded using the timing to be changed, and the encoding means is configured to use bits based on the frame rate of the image signal controlled by the encoding control means. Since the frame rate of the image signal to be encoded is controlled so that the amount of information generation is minimized during the period from the rate change to the resolution change, it is possible to obtain the same effect as in the first embodiment. is there.

実施の形態4.
以上の実施の形態1〜3では、ビットレート変更を指示された時点でのバッファ残量が、変更後のビットレートにて算出したCPB_removal_delay初期値を超えていた場合は、タイムスタンプを付け替えるように制御していたが、送信バッファ部4から読み出すビデオESデータ108を制御するようにしてもよく、これを実施の形態4として次に示す。
Embodiment 4 FIG.
In the first to third embodiments, when the remaining buffer capacity at the time when the bit rate change is instructed exceeds the CPB_removal_delay initial value calculated at the changed bit rate, the time stamp is changed. Although the video ES data 108 read out from the transmission buffer unit 4 may be controlled, this is described below as a fourth embodiment.

図6は、実施の形態4の全体構成を示すブロック図である。実施の形態1との構成上の相違点は、画像符号化部3bがストリーム送出時間算出部6aに対してピクチャ情報発生量124を出力するようにした点と、ストリーム送出時間算出部6aが、ビットレート変更を指示された時点でのバッファ残量が、変更後のビットレートにて算出したCPB_removal_delay初期値を超えていた場合は、ピクチャ情報発生量124の履歴から何ピクチャ分のビデオESデータを破棄すればよいかを計算し、その分のビデオESデータ108を読み出さないよう読み出し制御信号109aを送信バッファ部4に送出するようにした点である。また、ストリーム送出時間算出部6aからは、実施の形態1におけるタイムスタンプ付加部5へのタイムスタンプ変更指示115及びタイムスタンプ補正時間116は削除されている。   FIG. 6 is a block diagram showing the overall configuration of the fourth embodiment. The difference from the first embodiment is that the image encoding unit 3b outputs the picture information generation amount 124 to the stream transmission time calculation unit 6a and the stream transmission time calculation unit 6a When the remaining buffer capacity at the time when the bit rate change is instructed exceeds the initial value of CPB_removal_delay calculated at the changed bit rate, the video ES data for how many pictures is obtained from the history of the picture information generation amount 124 This is a point that it is calculated whether or not to discard, and the read control signal 109a is sent to the transmission buffer unit 4 so as not to read the corresponding video ES data 108. Further, the time stamp change instruction 115 and the time stamp correction time 116 to the time stamp adding unit 5 in the first embodiment are deleted from the stream transmission time calculating unit 6a.

次に、実施の形態4の動作について、実施形態1〜3と異なる点を説明する。
画像符号化部3bは、画像符号化により発生したビデオESデータ106のピクチャ情報発生量124をストリーム送出時間算出部6aに出力する。ストリーム送出時間算出部6aは、ピクチャ情報発生量124を所定数のピクチャ分保存しておく。ビットレート変更を指示された時点でのバッファ残量が、変更後のビットレートにて算出したCPB_removal_delay初期値を超えていた場合は、バッファ残量が変更後のビットレートにて算出したCPB_removal_delay初期値を下回るようにビデオESデータを破棄する。すなわち、ストリーム送出時間算出部6aは、ピクチャ情報発生量124の履歴から何ピクチャ分のビデオESデータを破棄すればよいかを計算し、その分のビデオESデータ108を読み出さないよう読み出し制御信号109aを制御する。
Next, the difference of the operation of the fourth embodiment from the first to third embodiments will be described.
The image encoding unit 3b outputs the picture information generation amount 124 of the video ES data 106 generated by the image encoding to the stream transmission time calculation unit 6a. The stream transmission time calculation unit 6a stores the picture information generation amount 124 for a predetermined number of pictures. If the buffer remaining amount at the time when the bit rate change is instructed exceeds the CPB_removal_delay initial value calculated at the changed bit rate, the CPB_removal_delay initial value calculated at the changed bit rate The video ES data is discarded so as to be less than. That is, the stream transmission time calculation unit 6a calculates how many video ES data should be discarded from the history of the picture information generation amount 124, and reads the control signal 109a so that the video ES data 108 is not read out. To control.

以上説明したように、実施の形態4の画像符号化装置によれば、ビットレート変更時に、送信手段に蓄積されている符号化したデータのビット量及び変更後のビットレートに応じて、送信手段のビットレート変更前の符号化したデータを破棄するようにしたので、実施の形態1と同様の効果を得ることが可能である。   As described above, according to the image coding apparatus of the fourth embodiment, at the time of changing the bit rate, according to the bit amount of the encoded data accumulated in the transmission unit and the bit rate after the change, the transmission unit Since the encoded data before changing the bit rate is discarded, it is possible to obtain the same effect as in the first embodiment.

実施の形態5.
上記実施の形態4では、ビットレート変更を指示された時点でのバッファ残量が、変更後のビットレートにて算出したCPB_removal_delay初期値を超えていた場合は、その値を下回るように送信バッファ部4のビデオESデータを破棄していたが、このときピクチャタイプ毎にビデオESデータの破棄を制御してもよく、この例を実施の形態5として次に説明する。実施の形態5におけるブロック構成は図6に示した実施の形態4と同様であるため、図6を用いて説明する。
Embodiment 5 FIG.
In Embodiment 4 above, when the remaining buffer capacity at the time when the bit rate change is instructed exceeds the CPB_removal_delay initial value calculated at the changed bit rate, the transmission buffer unit decreases below that value. Although the video ES data of 4 is discarded, the video ES data discard may be controlled for each picture type at this time, and this example will be described below as a fifth embodiment. The block configuration in the fifth embodiment is the same as that in the fourth embodiment shown in FIG. 6, and will be described with reference to FIG.

実施の形態5の画像符号化装置では、画像符号化部3bからストリーム送出時間算出部6aに出力するピクチャ情報発生量124と共にピクチャタイプも出力する。ストリーム送出時間算出部6aは、送信バッファ部4のビデオESデータを破棄する場合に、CPB_removal_delay初期値を下回るために必要なビット量を算出し、画像符号化部3bからのピクチャタイプに基づき、Bピクチャのみを破棄すればよい場合はBピクチャのみを、Bピクチャ及びPピクチャのみを破棄すればよい場合はBピクチャ及びPピクチャのみを破棄するよう、読み出し制御信号109aを制御する。   In the image coding apparatus according to the fifth embodiment, the picture type is output together with the picture information generation amount 124 output from the image encoding unit 3b to the stream transmission time calculation unit 6a. When discarding the video ES data in the transmission buffer unit 4, the stream transmission time calculation unit 6a calculates the bit amount necessary to fall below the CPB_removal_delay initial value, and based on the picture type from the image encoding unit 3b, B The read control signal 109a is controlled so that only the B picture is discarded when only the picture needs to be discarded, and only the B picture and the P picture are discarded when only the B picture and the P picture are discarded.

以上説明したように、実施の形態5の画像符号化装置によれば、ビットレート変更時に、送信手段に蓄積されている符号化したデータのビット量及び変更後のビットレートに応じて、送信手段のビットレート変更前の符号化したデータの破棄をピクチャタイプ毎に制御するようにしたので、実施の形態1と同様の効果を得ることが可能である。また、実施の形態4に比べてビットレート変更時に動きが滑らかな復号画像を得ることが可能となる。   As described above, according to the image coding apparatus of the fifth embodiment, at the time of changing the bit rate, according to the bit amount of the encoded data accumulated in the transmission unit and the bit rate after the change, the transmission unit Since the discard of the encoded data before changing the bit rate is controlled for each picture type, the same effect as in the first embodiment can be obtained. In addition, it is possible to obtain a decoded image that has a smoother motion when the bit rate is changed than in the fourth embodiment.

なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。   In the present invention, within the scope of the invention, any combination of the embodiments, or any modification of any component in each embodiment, or omission of any component in each embodiment is possible. .

1 解像度変換部、2 フレームメモリ部、3,3a,3b 画像符号化部、4 送信バッファ部、5 タイムスタンプ付加部、6,6a ストリーム送出時間算出部、7,7a 符号化制御部、101,102,104 画像信号、103,107 書き込み制御信号、105,109,109a 読み出し制御信号、106,108 ビデオESデータ、110 送信バッファ残量、111 ビデオTSデータ、112 送信バッファ遅延時間、113 ビットレート、114 GOP切り替えタイミング情報、115 タイムスタンプ変更指示、116 タイムスタンプ補正時間、117 ピクチャタイプ、118 量子化ステップ、119 符号化モード、120 GOP構造、121 解像度、122 GOP内位置情報、123 読み出し面繰り返し信号、124 ピクチャ情報発生量。   DESCRIPTION OF SYMBOLS 1 Resolution conversion part, 2 Frame memory part, 3, 3a, 3b Image encoding part, 4 Transmission buffer part, 5 Time stamp addition part, 6, 6a Stream transmission time calculation part, 7, 7a Encoding control part, 101, 102, 104 Image signal, 103, 107 Write control signal, 105, 109, 109a Read control signal, 106, 108 Video ES data, 110 Transmission buffer remaining capacity, 111 Video TS data, 112 Transmission buffer delay time, 113 Bit rate, 114 GOP switching timing information, 115 Timestamp change instruction, 116 Timestamp correction time, 117 Picture type, 118 Quantization step, 119 Coding mode, 120 GOP structure, 121 Resolution, 122 In-GOP position information, 123 Reading surface repetition And signal 124 picture information generation amount.

Claims (8)

画像信号を入力し、当該画像信号に対してフレーム内予測、フレーム間予測及び可変長符号化を用いて符号化を行い、ビットレートが変動する伝送路に前記符号化した画像信号のデータを送出する画像符号化装置において、
前記入力された画像信号の解像度を変換する解像度変換手段と、
前記解像度変換手段で解像度変換された画像信号を入力順から符号化順に並べ替える並べ替え手段と、
前記並べ替え手段から出力された画像信号を符号化する符号化手段と、
前記符号化手段で符号化されたデータを蓄積し、前記ビットレートに従って前記伝送路に送出する送信手段と、
前記送信手段から送出されるデータにタイムスタンプ情報を付加するタイムスタンプ情報付加手段と、
前記ビットレートに応じて前記解像度変換手段の解像度を決定する解像度決定手段と、
ビットレート変更時に、前記送信手段に蓄積されている符号化したデータのビット量を基に解像度を変更するタイミングを決定するタイミング決定手段と、
前記ビットレート変更時に解像度を変更するタイミングを利用して符号化モード及び量子化ステップを制御する符号化制御手段とを備え、
前記符号化手段は、前記符号化制御手段で制御される符号化モード及び量子化ステップに基づいて符号化を行うことを特徴とする画像符号化装置。
An image signal is input, the image signal is encoded using intra-frame prediction, inter-frame prediction, and variable-length encoding, and the encoded image signal data is transmitted to a transmission path where the bit rate varies. In the image encoding device to
Resolution conversion means for converting the resolution of the input image signal;
Rearrangement means for rearranging the image signals having undergone resolution conversion by the resolution conversion means from the input order to the encoding order;
Encoding means for encoding the image signal output from the rearranging means;
Transmitting means for storing the data encoded by the encoding means and sending it to the transmission line according to the bit rate;
Time stamp information adding means for adding time stamp information to data transmitted from the transmitting means;
Resolution determining means for determining the resolution of the resolution converting means according to the bit rate;
Timing determination means for determining the timing for changing the resolution based on the bit amount of the encoded data stored in the transmission means when changing the bit rate;
Coding control means for controlling the coding mode and the quantization step using the timing of changing the resolution when changing the bit rate,
The image encoding apparatus, wherein the encoding unit performs encoding based on an encoding mode and a quantization step controlled by the encoding control unit.
前記タイミング決定手段は、ビットレート変更時に、前記送信手段に蓄積されている符号化したデータのビット量及び変更後のビットレートに応じて、解像度及びGOPを変更するタイミングを決定することを特徴とする請求項1記載の画像符号化装置。 Said timing determination means, and wherein when the bit rate change, in response to said bit amount and the bit rate after the change of the data coded are stored in the transmission means, to determine when to change the resolution and GOP The image encoding device according to claim 1. 前記符号化制御手段は、ビットレート変更から解像度変更までの期間において、情報発生量が最小限になるように符号化モード及び量子化ステップを制御することを特徴とする請求項1または請求項2記載の画像符号化装置。 The encoding control means controls the encoding mode and the quantization step so as to minimize the amount of information generated in the period from the bit rate change to the resolution change. The image encoding device described. 画像信号を入力し、当該画像信号に対してフレーム内予測、フレーム間予測及び可変長符号化を用いて符号化を行い、ビットレートが変動する伝送路に前記符号化した画像信号のデータを送出する画像符号化装置において、
前記入力された画像信号の解像度を変換する解像度変換手段と、
前記解像度変換手段で解像度変換された画像信号を入力順から符号化順に並べ替える並べ替え手段と、
前記並べ替え手段から出力された画像信号を符号化する符号化手段と、
前記符号化手段で符号化されたデータを蓄積し、前記ビットレートに従って前記伝送路に送出する送信手段と、
前記送信手段から送出されるデータにタイムスタンプ情報を付加するタイムスタンプ情報付加手段と、
前記ビットレートに応じて前記解像度変換手段の解像度を決定する解像度決定手段と、
ビットレート変更時に、前記送信手段に蓄積されている符号化したデータのビット量を基に解像度を変更するタイミングを決定するタイミング決定手段と、
前記ビットレート変更時に解像度を変更するタイミングを利用して符号化対象の画像信号の選択を制御する符号化制御手段とを備え、
前記符号化手段は、前記符号化制御手段で制御される画像信号の選択に基づいて、ビットレート変更から解像度変更までの期間において、情報発生量が最小限になるように符号化対象の画像信号を選択することを特徴とする画像符号化装置。
An image signal is input, the image signal is encoded using intra-frame prediction, inter-frame prediction, and variable-length encoding, and the encoded image signal data is transmitted to a transmission path where the bit rate varies. In the image encoding device to
Resolution conversion means for converting the resolution of the input image signal;
Rearrangement means for rearranging the image signals having undergone resolution conversion by the resolution conversion means from the input order to the encoding order;
Encoding means for encoding the image signal output from the rearranging means;
Transmitting means for storing the data encoded by the encoding means and sending it to the transmission line according to the bit rate;
Time stamp information adding means for adding time stamp information to data transmitted from the transmitting means;
Resolution determining means for determining the resolution of the resolution converting means according to the bit rate;
Timing determination means for determining the timing for changing the resolution based on the bit amount of the encoded data stored in the transmission means when changing the bit rate;
Encoding control means for controlling selection of an image signal to be encoded using timing for changing the resolution when the bit rate is changed,
The encoding means, based on the selection of the image signal controlled by the encoding control means, the image signal to be encoded so that the amount of information generation is minimized in the period from the bit rate change to the resolution change. An image encoding apparatus characterized by selecting.
画像信号を入力し、当該画像信号に対してフレーム内予測、フレーム間予測及び可変長符号化を用いて符号化を行い、ビットレートが変動する伝送路に前記符号化した画像信号のデータを送出する画像符号化装置において、
前記入力された画像信号の解像度を変換する解像度変換手段と、
前記解像度変換手段で解像度変換された画像信号を入力順から符号化順に並べ替える並べ替え手段と、
前記並べ替え手段から出力された画像信号を符号化する符号化手段と、
前記符号化手段で符号化されたデータを蓄積し、前記ビットレートに従って前記伝送路に送出する送信手段と、
前記送信手段から送出されるデータにタイムスタンプ情報を付加するタイムスタンプ情報付加手段と、
前記ビットレートに応じて前記解像度変換手段の解像度を決定する解像度決定手段と、
ビットレート変更時に、前記送信手段に蓄積されている符号化したデータのビット量を基に解像度を変更するタイミングを決定するタイミング決定手段と、
前記ビットレート変更時に解像度を変更するタイミングを利用して符号化対象の画像信号のフレームレートを制御する符号化制御手段とを備え、
前記符号化手段は、前記符号化制御手段で制御される画像信号のフレームレートに基づいて、ビットレート変更から解像度変更までの期間において、情報発生量が最小限になるように符号化する画像信号のフレームレートを制御することを特徴とする画像符号化装置。
An image signal is input, the image signal is encoded using intra-frame prediction, inter-frame prediction, and variable-length encoding, and the encoded image signal data is transmitted to a transmission path where the bit rate varies. In the image encoding device to
Resolution conversion means for converting the resolution of the input image signal;
Rearrangement means for rearranging the image signals having undergone resolution conversion by the resolution conversion means from the input order to the encoding order;
Encoding means for encoding the image signal output from the rearranging means;
Transmitting means for storing the data encoded by the encoding means and sending it to the transmission line according to the bit rate;
Time stamp information adding means for adding time stamp information to data transmitted from the transmitting means;
Resolution determining means for determining the resolution of the resolution converting means according to the bit rate;
Timing determination means for determining the timing for changing the resolution based on the bit amount of the encoded data stored in the transmission means when changing the bit rate;
Encoding control means for controlling the frame rate of the image signal to be encoded using the timing of changing the resolution when the bit rate is changed,
The encoding means is an image signal that is encoded based on a frame rate of the image signal controlled by the encoding control means so that an information generation amount is minimized in a period from a bit rate change to a resolution change. An image encoding apparatus for controlling the frame rate of the image.
前記タイムスタンプ情報付加手段は、ビットレート変更時に、前記送信手段に蓄積されている符号化したデータのビット量及び変更後のビットレートに応じて、ビットレート変更前の符号化したデータのタイムスタンプ情報を変更することを特徴とする請求項1から請求項3のうちのいずれか1項記載の画像符号化装置。 The time stamp information adding unit, when the bit rate change, in response to said bit amount and the bit rate after the change of the data coded are stored in the transmission unit, the time stamp of the data encoded in the pre-change bit rate The image coding apparatus according to any one of claims 1 to 3, wherein the information is changed. ビットレート変更時に、前記送信手段に蓄積されている符号化したデータのビット量及び変更後のビットレートに応じて、前記送信手段のビットレート変更前の符号化したデータを破棄することを特徴とする請求項1から請求項5のうちのいずれか1項記載の画像符号化装置。 When the bit rate change, and wherein according to the bit amount and the bit rate after change in the encoded data accumulated in the transmission unit, for discarding the data encoded before bit rate change of the transmission means The image encoding device according to any one of claims 1 to 5. ビットレート変更時に、前記送信手段に蓄積されている符号化したデータのビット量及び変更後のビットレートに応じて、前記送信手段のビットレート変更前の符号化したデータの破棄をピクチャタイプ毎に制御することを特徴とする請求項7記載の画像符号化装置。 When the bit rate changes in accordance with the bit amount and the bit rate after the change of the data coded are stored in the transmitting unit, the discard of the data encoded in the previous bit rate change of the transmission unit for each picture type 8. The image coding apparatus according to claim 7, wherein the image coding apparatus is controlled.
JP2012084756A 2012-04-03 2012-04-03 Image encoding device Expired - Fee Related JP5984462B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012084756A JP5984462B2 (en) 2012-04-03 2012-04-03 Image encoding device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012084756A JP5984462B2 (en) 2012-04-03 2012-04-03 Image encoding device

Publications (2)

Publication Number Publication Date
JP2013214894A JP2013214894A (en) 2013-10-17
JP5984462B2 true JP5984462B2 (en) 2016-09-06

Family

ID=49587930

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012084756A Expired - Fee Related JP5984462B2 (en) 2012-04-03 2012-04-03 Image encoding device

Country Status (1)

Country Link
JP (1) JP5984462B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019050067A1 (en) * 2017-09-08 2019-03-14 라인 가부시키가이샤 Video quality control

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106791868B (en) * 2016-12-20 2019-09-03 北京工业大学 A kind of three-dimensional quantum method for compressing image based on DPCM
CN107770560B (en) * 2017-11-03 2019-10-25 苏州科达科技股份有限公司 Time marks reading method, device, electronic equipment and storage medium

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001359096A (en) * 1999-06-08 2001-12-26 Matsushita Electric Ind Co Ltd Image coder
JP2001285868A (en) * 2000-03-29 2001-10-12 Victor Co Of Japan Ltd Device and method for changing-over animation code string
JP2005020056A (en) * 2003-06-23 2005-01-20 Matsushita Electric Ind Co Ltd Data encoder, and data encoding control method
WO2010150470A1 (en) * 2009-06-23 2010-12-29 パナソニック株式会社 Moving image encoding method, moving image encoding device, program, and integrated circuit

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019050067A1 (en) * 2017-09-08 2019-03-14 라인 가부시키가이샤 Video quality control
US11218746B2 (en) 2017-09-08 2022-01-04 Line Corporation Method, system, and non-transitory computer readable record medium for video quality control

Also Published As

Publication number Publication date
JP2013214894A (en) 2013-10-17

Similar Documents

Publication Publication Date Title
US8369398B2 (en) Apparatus and method thereof for encoding/decoding video
US8606025B2 (en) Encoding and decoding images using refreshed image and recovery point
JP5267655B2 (en) Image coding apparatus, image coding control method, and image coding program
KR101074964B1 (en) Moving image converting apparatus, moving image converting method, and moving image converting program
JP2002511669A (en) Method and apparatus for adaptive encoding of video data stream
JP4616057B2 (en) Image coding apparatus and image coding method
JP5984462B2 (en) Image encoding device
JP2010288166A (en) Moving picture encoder, broadcast wave recorder, and program
JP6182888B2 (en) Image encoding device
US20120314966A1 (en) Image coding apparatus, image decoding apparatus, image coding method, image decoding method, and program
JP3599942B2 (en) Moving picture coding method and moving picture coding apparatus
JP3245496B2 (en) Image encoding method, image encoding circuit, image encoding device, and playback device
JP5472094B2 (en) Moving image conversion apparatus, moving image distribution system, moving image conversion method, and program
JP2011055023A (en) Image encoding device and image decoding device
JP2009246489A (en) Video-signal switching apparatus
JP4249218B2 (en) Image encoding device
JP2002010263A (en) Motion picture encoding apparatus and its method
JPH1174799A (en) Processing method of variable length encoding data and buffer controller
JPH11136680A (en) Image coding method and system
JP2010239230A (en) Image encoding apparatus
JP2009130563A (en) Unit, method, and program for processing data, imaging apparatus, and method and program for controlling the same
JP2002176648A (en) Buffer management method
JP4676474B2 (en) Image coding method
JP4851270B2 (en) Moving picture decoding apparatus and decoding method.
JP5061355B2 (en) Image encoding method, apparatus and program, and image processing apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160705

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160802

R150 Certificate of patent or registration of utility model

Ref document number: 5984462

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees