JP4623650B2 - 動画像符号化装置,動画像符号化方法 - Google Patents

動画像符号化装置,動画像符号化方法 Download PDF

Info

Publication number
JP4623650B2
JP4623650B2 JP2005257192A JP2005257192A JP4623650B2 JP 4623650 B2 JP4623650 B2 JP 4623650B2 JP 2005257192 A JP2005257192 A JP 2005257192A JP 2005257192 A JP2005257192 A JP 2005257192A JP 4623650 B2 JP4623650 B2 JP 4623650B2
Authority
JP
Japan
Prior art keywords
encoding
moving image
image data
picture
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005257192A
Other languages
English (en)
Other versions
JP2007074173A (ja
Inventor
佳宏 中原
圭亮 依岡
学 黒田
正和 神田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2005257192A priority Critical patent/JP4623650B2/ja
Priority to US11/516,055 priority patent/US8094725B2/en
Publication of JP2007074173A publication Critical patent/JP2007074173A/ja
Application granted granted Critical
Publication of JP4623650B2 publication Critical patent/JP4623650B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Description

本発明は、動画像データを符号化する装置および方法に関し、さらに詳しくは動画像データの符号化する時間が所定時間を超過した場合の異常系回避に関する。
従来の動画像符号化装置は、フレームメモリに蓄積された動画像データを符号化する際、動画像データの符号化に必要な処理量(符号化処理量)を算出して、その算出した処理量が削減されるような処理を施している。具体的には、前方参照画像符号化や双方向参照符号化においてスライス層もしくはマクロブロック層以下の動き予測を簡易化することによって、符号化処理量を削減している。これにより、動画像データの符号化がフレームレートより算出される時間内に完了するように、符号化処理量が削減されている(例えば、特開2005−57750号公報参照)。
特開2005−57750号公報
しかしながら、従来の動画像符号化装置では、符号化を実行する前に、予め動画像データの符号化処理量を削減しているが、実際の符号化時間が所定時間(例えば、フレームレートより算出される時間)を超過してしまった場合、フレームメモリに新たな動画像データが上書きされてしまって、画像乱れが生じてしまう。また、符号化処理量が溢れることによってエラー通知が出力されると、処理が中断することにより符号化処理が時間的に不連続になってしまう。このように、符号化システムが破綻してしまうおそれがある。
この発明の1つの局面に従うと、動画像符号化装置は、複数の動画像データを符号化する装置であって、符号化部と、計測部と、ピクチャタイプ検出部と、制御部とを備え、前記複数の動画像データは、他の動画像データの符号化のときに参照される被参照ピクチャと、前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、前記符号化部は、前記複数の動画像データのうちいずれか1つを符号化し、前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、前記制御部は、前記計測部によって計測された時間が前記動画像データのフレームレートに基づく所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データであり、かつ、前記ピクチャタイプ検出部によって参照ピクチャであると検出された動画像データの中から少なくとも1つを選択し、その選択した動画像データを前記符号化部に符号化させることなく、その選択した動画像データの符号化データに代わる所定ビットストリームを生成する。
上記動画像符号化装置では、符号化部による動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化部による符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、短縮符号化処理の対象を被参照画像ではなく参照画像にすることにより、著しい画質の低下を抑制することができる。
この発明の別の局面に従うと、動画像符号化装置は、複数の動画像データを符号化する装置であって、符号化部と、計測部と、ピクチャタイプ検出部と、基準時間選択部と、制御部とを備え、前記複数の動画像データは、他の動画像データの符号化のときに参照される被参照ピクチャと、前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、前記符号化部は、前記複数の動画像データのうちいずれか1つを符号化するものであって、第1の符号化方式と、前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式とを有し、前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、前記基準時間選択部は、前記ピクチャタイプ検出部によるピクチャタイプの検出結果に応じて、前記動画像データのフレームレートに基づく第1の所定時間と、前記第1の所定時間よりも短い第2の所定時間とを設定し、前記制御部は、前記計測部によって計測された時間が前記基準時間選択部によって設定された第1の所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つを選択し、その選択した動画像データを前記符号化部に符号化させることなく、その選択した動画像データの符号化データに代わる所定ビットストリームを生成し、前記計測部によって計測された時間が前記基準時間選択部によって設定された第1の所定時間を超過しておらず前記基準時間選択部によって設定された第2の所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つを選択し、前記符号化部にその選択した動画像データを前記第2の符号化方式に従って符号化させる。
上記動画像符号化装置では、符号化部による動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化部による符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、符号化部における符号化時間の超過の度合いに応じて後に符号化される予定である動画像データに対する符号化方法を変更することによって、過剰な画質劣化や時間的連続性の低下を抑制しつつ、符号化時間の超過を解消することができる。さらに、後に符号化される予定である動画像データのピクチャタイプに応じて、符号化時間の超過の度合いを判断するための基準時間を変更することによって、過剰な画質劣化や時間的連続性の低下をさらに抑制しつつ、符号化時間の超過を解消することができる。
この発明の別の局面に従うと、動画像符号化装置は、複数の動画像データを符号化する装置であって、符号化部と、ピクチャタイプ検出部と、計測部と、制御部とを備え、前記複数の動画像データは、他の動画像データの符号化のときに参照される第1の被参照ピクチャと、前記第1の被参照ピクチャの後に符号化される第2の被参照ピクチャと、前記第2の被参照ピクチャの後に符号化される第3の被参照ピクチャと、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在し、かつ、当該第1および第2の被参照ピクチャに基づいて双方向フレーム間予測符号化される参照ピクチャと、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在し、かつ、当該第2および第3の被参照ピクチャに基づいて双方向フレーム間予測符号化される参照ピクチャとを含み、前記符号化部は、前記複数の動画像データのうちいずれか1つを符号化し、前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、前記計測部は、前記ピクチャタイプ検出部によって第1の被参照ピクチャであると検出された動画像データが前記符号化部によって符号化されるために要した時間と、その第1の被参照ピクチャであると検出された動画像データと前記ピクチャタイプ検出部によって第2の被参照ピクチャであると検出された動画像データとの間に存在する動画像データが前記符号化部によって符号化されるために要した時間との合計時間を計測し、前記制御部は、前記計測部によって計測された合計時間が前記動画像データのフレームレートに基づく所定合計時間を超過していると判断すると、前記ピクチャタイプ検出部によって第2の被参照ピクチャであると検出された動画像データを前記符号化部に符号化させることなく当該動画像データに代わる所定ビットストリームを生成し、かつ、その第2の被参照ピクチャであると検出された動画像データと前記ピクチャタイプ検出部によって第3の被参照ピクチャであると検出された動画像データとの間に存在する動画像データ(参照ピクチャ)を前記符号化部に符号化させることなく当該動画像データに代わる所定ビットストリームを生成する。
上記動画像符号化装置では、符号化部による動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化部による符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、上記動画像符号化装置では、被参照画像と参照画像との集合を1つの単位として短縮符号化処理を実行することにより、時間的連続性を保持しつつ、かつ、画質劣化を抑制した符号化を実現することができる。
この発明の別の局面に従うと、動画像符号化装置は、複数の動画像データを符号化する装置であって、符号化部と、計測部と、ピクチャタイプ検出部と、制御部とを備え、前記複数の動画像データは、他のピクチャの符号化のときに参照される第1の被参照ピクチャと、前記第1の被参照ピクチャの後に符号化される第2の被参照ピクチャと、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在し、かつ、当該第1および第2の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、前記符号化部は、前記複数の動画像データのうちいずれか1つを符号化するものであって、第1の予測符号化方式と第2の予測符号化方式とを有し、前記第1の予測符号化方式では、前記第1および第2の被参照ピクチャの間に存在する参照ピクチャを、当該第1および第2の被参照ピクチャに基づいて双方向フレーム間予測符号化し、前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、前記制御部は、前記計測部によって計測された時間が前記動画像データのフレームレートに基づく所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つを選択し、その選択した動画像データを前記符号化部に符号化させることなく、その選択した動画像データの符号化データに代わる所定ビットストリームを生成し、前記ピクチャタイプ検出部によって前記所定ビットストリームを生成した動画像データが前記第1または第2の被参照ピクチャであると検出されると、前記符号化部の符号化方式を前記第2の予測符号化方式にし、前記符号化部は、前記第2の予測符号化方式では、当該第1および第2の被参照ピクチャの間に存在する参照ピクチャを、双方向フレーム間予測符号化をすることなく、当該第1および第2の被参照ピクチャのうち前記所定ビットストリームが生成されていない方に基づいてフレーム間予測符号化する。
上記動画像符号化装置では、符号化部による動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化部による符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、短縮符号化処理が実行された動画像データを参照しないように動画像データの符号化を実行することによって、画像乱れを起こすピクチャを削減することができる。
なお、前記複数の動画像データは、前記第2の被参照ピクチャの後に符号化される第3の被参照ピクチャと、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在し、かつ、当該第2および第3の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとをさらに含み、前記符号化部は、前記第1の予測符号化方式では、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在する参照ピクチャを当該第1および第2の被参照ピクチャに基づいて双方向フレーム間予測符号化し、かつ、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在する参照ピクチャを当該第2および第3の被参照ピクチャに基づいて双方向フレーム間予測符号化し、前記制御部は、前記ピクチャタイプ検出部によって前記所定ビットストリームを生成した動画像データが前記第2の被参照ピクチャであると検出されると、前記符号化部の符号化方式を前記第2の予測符号化方式にし、前記符号化部は、前記第2の予測符号化方式では、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在する参照ピクチャを双方向フレーム間予測符号化することなく当該第1の被参照ピクチャに基づいてフレーム間予測符号化し、かつ、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在する参照ピクチャを双方向フレーム間予測符号化することなく当該第3の被参照ピクチャに基づいてフレーム間予測符号化しても良い。
また、前記所定ビットストリームは、前記符号化部によってすでに符号化された動画像データのコピーストリームであっても良い。
この発明の別の局面に従うと、動画像符号化装置は、複数の動画像データを符号化する装置であって、符号化部と、計測部と、ピクチャタイプ検出部と、制御部とを備え、前記複数の動画像データは、他の動画像データの符号化のときに参照される被参照ピクチャと、前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、前記符号化部は、第1の符号化方式と前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式とを有し、前記第1および第2の符号化方式のうちいずれか一方に従って前記複数の動画像データのうちいずれか1つを符号化し、前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、前記制御部は、前記計測部によって計測された時間が前記動画像データのフレームレートに基づく所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データであり、かつ、前記ピクチャタイプ検出部によって参照ピクチャであると検出された動画像データの中から少なくとも1つを選択し、その選択した動画像データを前記符号化部に前記第2の符号化方式に従って符号化させる。
上記動画像符号化装置では、符号化部による動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化部による符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、短縮符号化処理の対象を被参照画像ではなく参照画像にすることにより、著しい画質の低下を抑制することができる。
この発明の別の局面に従うと、動画像符号化装置は、複数の動画像データを符号化する装置であって、符号化部と、計測部と、ピクチャタイプ検出部と、基準時間選択部と、制御部とを備え、前記複数の動画像データは、他の動画像データの符号化のときに参照される被参照ピクチャと、前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、前記符号化部は、第1の符号化方式と、前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式と、前記第2の符号化方式よりも符号化に要する時間が短い第3の符号化方式とを有し、前記第1,第2,第3の符号化方式のうちいずれか一方に従って前記複数の動画像データのうちいずれか1つを符号化し、前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、前記基準時間選択部は、前記ピクチャタイプ検出部によるピクチャタイプの検出結果に応じて、前記動画像データのフレームレートに基づく第1の所定時間と、前記第1の所定時間よりも短い第2の所定時間とを設定し、前記制御部は、前記計測部によって計測された時間が前記基準時間選択部によって設定された第1の所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つを選択し、その選択した動画像データを前記符号化部に前記第3の符号化方式に従って符号化させ、前記計測部によって計測された時間が前記基準時間選択部によって設定された第1の所定時間を超過しておらず前記基準時間選択部によって設定された第2の所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つを選択し、前記符号化部にその選択した動画像データを前記第2の符号化方式に従って符号化させる。
上記動画像符号化装置では、符号化部による動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化部による符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、符号化部における符号化時間の超過の度合いに応じて後に符号化される予定である動画像データに対する符号化方法を変更することによって、過剰な画質劣化や時間的連続性の低下を抑制しつつ、符号化時間の超過を解消することができる。さらに、後に符号化される予定である動画像データのピクチャタイプに応じて、符号化時間の超過の度合いを判断するための基準時間を変更することによって、過剰な画質劣化や時間的連続性の低下をさらに抑制しつつ、符号化時間の超過を解消することができる。
この発明の別の局面に従うと、動画像符号化装置は、複数の動画像データを符号化する装置であって、符号化部と、ピクチャタイプ検出部と、計測部と、制御部とを備え、前記複数の動画像データは、他のピクチャの符号化のときに参照される第1の被参照ピクチャと、前記第1の被参照ピクチャの後に符号化される第2の被参照ピクチャと、前記第2の被参照ピクチャの後に符号化される第3の被参照ピクチャと、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在し、かつ、当該第1および第2の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャと、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在し、かつ、当該第2および第3の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、前記符号化部は、第1の符号化方式と前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式とを有し、前記第1および第2の符号化方式のうちいずれか一方に従って前記複数の動画像データのうちいずれか1つを符号化し、前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、前記計測部は、前記ピクチャタイプ検出部によって第1の被参照ピクチャであると検出された動画像データが前記符号化部によって符号化されるために要した時間と、その第1の被参照ピクチャであると検出された動画像データと前記ピクチャタイプ検出部によって第2の被参照ピクチャであると検出された動画像データとの間に存在する動画像データが前記符号化部によって符号化されるために要した時間との合計時間を計測し、前記制御部は、前記計測部によって計測された合計時間が所定合計時間を超過していると判断すると、前記ピクチャタイプ検出部によって第2の被参照ピクチャであると検出された動画像データを前記符号化部に前記第2の符号化方式に従って符号化させ、かつ、その第2のピクチャであると検出された動画像データと前記ピクチャタイプ検出部によって第3の被参照ピクチャであると検出された動画像データとの間に存在する動画像データ(参照ピクチャ)を前記符号化部に前記第2の符号化方式に従って符号化させる。
上記動画像符号化装置では、符号化部による動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化部による符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、被参照画像と参照画像との集合を1つの単位として短縮符号化処理を実行することにより、時間的連続性を保持しつつ、かつ、画質劣化を抑制した符号化を実現することができる。
この発明の別の局面に従うと、動画像符号化装置は、複数の動画像データを符号化する装置であって、符号化部と、計測部と、ピクチャタイプ検出部と、制御部とを備え、前記複数の動画像データは、他の動画像データの符号化のときに参照される第1の被参照ピクチャと、前記第1の被参照ピクチャの後に符号化される第2の被参照ピクチャと、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在し、かつ、当該第1および第2の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、前記符号化部は、第1の符号化方式と前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式とを有し、前記第1および第2の符号化方式のうちいずれか一方に従って前記複数の動画像データのうちいずれか1つを符号化し、前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、前記制御部は、前記計測部によって計測された時間が前記動画像データのフレームレートに基づく所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つの動画像データを選択し、その選択した動画像データを前記符号化部に前記第2の符号化方式に従って符号化させ、前記符号化部は、第1の予測符号化方式と第2の予測符号化方式とをさらに有し、前記第1の予測符号化方式では、前記第1および第2の被参照ピクチャの間に存在する参照ピクチャを、当該第1および第2の被参照ピクチャに基づいて双方向フレーム間予測符号化し、前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、前記制御部は、前記第2の符号化方式に従って符号化された動画像データが前記ピクチャタイプ検出部によって前記第1または第2の被参照ピクチャであると検出されると、前記符号化部の符号化方式を前記第2の予測符号化方式にし、前記符号化部は、前記第2の予測符号化方式では、前記符号化部に当該第1および第2の被参照ピクチャの間に存在する参照ピクチャを、双方向フレーム間予測符号化をすることなく、当該第1および第2の被参照ピクチャのうち前記第2の符号化方式に従って符号化されていない方に基づいてフレーム間予測符号化する。
上記動画像符号化装置では、符号化部による動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化部による符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、短縮符号化処理が実行された動画像データを参照しないように動画像データの符号化を実行することによって、画像乱れを起こすピクチャを削減することができる。
なお、前記複数の動画像データは、前記第2の被参照ピクチャの後に符号化される第3の被参照ピクチャと、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在し、かつ、当該第2および第3の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとをさらに含み、前記符号化部は、前記第1の予測符号化方式では、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在する参照ピクチャを当該第1および第2の被参照ピクチャに基づいて双方向フレーム間予測符号化し、かつ、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在する参照ピクチャを当該第2および第3の被参照ピクチャに基づいて双方向フレーム間予測符号化し、前記制御部は、前記第2の符号化方式に従って符号化された動画像データが前記ピクチャタイプ検出部によって前記第2の被参照ピクチャであると検出されると、前記符号化部の符号化方式を前記第2の予測符号化方式にし、前記符号化部は、前記第2の予測符号化方式では、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在する参照ピクチャを双方向フレーム間予測符号化することなく当該第1の被参照ピクチャに基づいてフレーム間予測符号化し、かつ、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在する参照ピクチャを双方向フレーム間予測符号化することなく当該第3の被参照ピクチャに基づいてフレーム間予測符号化しても良い。
この発明の別の局面に従うと、動画像符号化装置は、複数の動画像データを符号化する装置であって、符号化部と、計測部と、制御部とを備え、前記符号化部は、第1の符号化方式と前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式とを有し、前記第1および第2の符号化方式のうちいずれか一方に従って前記複数の動画像データのうちいずれか1つを符号化し、前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、前記制御部は、前記計測部によって計測された時間が前記動画像データのフレームレートに基づく所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つの動画像データを選択し、その選択した動画像データを前記符号化部に前記第2の符号化方式に従って符号化させ、前記計測部は、さらに、前記符号化部によって動画像データのうち所定量のデータが符号化されるまでに要した部分符号化時間を計測し、前記制御部は、前記符号化部が前記第2の符号化方式に従って動画像データを符号化しているときに、前記計測部によって計測された部分符号化時間が前記動画像データのフレームレートに基づいた部分所定時間を超過していないと判断すると、前記符号化部によって符号化されている動画像データのうち未だ符号化されていない部分を前記符号化に前記第1の符号化方式に従って符号化させる。
上記動画像符号化装置では、符号化部による動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化部による符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、動画像データの一部分の符号化が完了する毎に、符号化時間が予定時間を超過しているか否かを判断することによって、ピクチャ1枚分の動画像データの符号化が完了する前に、通常符号化処理に復帰することができる。これにより、符号化時間を過剰に短縮することを防ぐことができ、画質低下等を抑制することができる。
この発明の別の局面に従うと、動画像符号化方法は、複数の動画像データを符号化する方法であって、前記複数の動画像データは、他の動画像データの符号化のときに参照される被参照ピクチャと、前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、前記方法は、前記複数の動画像データのうちいずれか1つを符号化するステップ(A)と、前記ステップ(A)において動画像データの符号化に要した時間を計測するステップ(B)と、前記ステップ(B)において計測された時間が所定時間を超過しているか否かを判断するステップ(C)と、前記複数の動画像データの各々のピクチャタイプを検出するステップ(D)と、前記ステップ(C)において前記ステップ(B)にて計測された時間が所定時間を超過していると判断されると、前記複数の動画像データのうち前記ステップ(A)において符号化された動画像データよりも後に符号化される動画像データであり、かつ、前記ステップ(D)において参照ピクチャであると検出された動画像データの中から少なくとも1つを選択するステップ(E)と、前記ステップ(E)において選択された動画像データを符号化することなく、当該動画像データの符号化データに代わる所定ビットストリームを生成するステップ(F)とを備える。
上記動画像符号化方法では、動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、短縮符号化処理の対象を被参照画像ではなく参照画像にすることにより、著しい画質の低下を抑制することができる。
この発明の別の局面に従うと、動画像符号化方法は、複数の動画像データを符号化する方法であって、前記複数の動画像データは、他の動画像データの符号化のときに参照される被参照ピクチャと、前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、前記方法は、第1の符号化方式に従って前記複数の動画像データのうちいずれか1つを符号化するステップ(A)と、前記ステップ(A)において動画像データの符号化に要した時間を計測するステップ(B)と、前記ステップ(B)において計測された時間が所定時間を超過しているか否かを判断するステップ(C)と、前記複数の動画像データの各々のピクチャタイプを検出するステップ(D)と、前記ステップ(C)において前記ステップ(B)にて計測された時間が所定時間を超過していると判断されると、前記複数の動画像データのうち前記ステップ(A)において符号化された動画像データよりも後に符号化される動画像データであり、かつ、前記ステップ(D)において参照ピクチャであると検出された動画像データの中から少なくとも1つを選択するステップ(E)と、前記ステップ(E)において選択された動画像データを前記ステップ(A)における第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式に従って符号化するステップ(F)とを備える。
上記動画像符号化方法では、動画像データの符号化に要した時間が所定時間を超過した場合に、後に符号化される予定である動画像データの符号化方法を変更することにより、符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。また、短縮符号化処理の対象を被参照画像ではなく参照画像にすることにより、著しい画質の低下を抑制することができる。
以上のように、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。
以下、この発明の実施の形態を図面を参照して詳しく説明する。なお、図中同一または相当部分には同一の符号を付しその説明は繰り返さない。
(第1の実施形態)
<全体構成>
図1は、この発明の第1の実施形態による動画像符号化装置の全体構成を示す。この動画像符号化装置は、フレームメモリ101と、符号化部102と、処理時間制御部10と、バッファメモリ105とを備える。
フレームメモリ101は、外部からの動画像データをフレーム単位(ピクチャ単位)で順次格納する。なお、ここでは、フレームメモリ101は、6つの動画像データfrm1〜frm6を格納する。
符号化部102は、通常モードと短縮モードとの2つの符号化モードを有し、符号化処理制御部104によっていずれか一方の符号化モードに設定される。通常モードに設定されると、符号化部102は、通常モード用の符号化方式に従って、次に符号化される予定である動画像データを符号化する。一方、短縮モードに設定されると、符号化部102は、次に符号化される予定である動画像データを符号化しない。また、符号化部102は、ピクチャ1枚分の動画像データを取り込み始めるとデータ格納信号を出力し、取り込んだ動画像データの符号化を開始すると開始信号を出力し、ピクチャ1枚分の動画像データの符号化が完了すると、処理時間制御部10に終了信号を出力する。
処理時間制御部10は、符号化部102が動画像データの符号化に要した時間(符号化時間)に応じてフレームメモリ101,符号化部102,およびバッファメモリ105を制御する。処理時間制御部10は、処理時間計測部103と、符号化処理制御部104とを含む。処理時間計測部103は、符号化部102から出力された終了信号を参照して、符号化時間を計測する。例えば、処理時間計測部103は、符号化部102からの開始信号を受けてから終了信号を受けるまでの時間を計測する。符号化処理制御部104は、動画像データのフレームレートに基づいて、その動画像データの符号化に要することができる時間(予定時間)を計算する。例えば、符号化処理制御部104は、符号化部102からのデータ格納信号を受け取ると、フレームレートに基づいて符号化部102が動画像データの符号化を完了しなければいけない時刻を求め、符号化部102からのデータ格納信号を受け取った時刻からその求めた時刻までの時間を算出する。さらに、符号化処理制御部104は、通常モードと短縮モードとの2つの符号化モードを有する。符号化処理制御部104は、処理時間計測部103によって計測された符号化時間と算出した予定時間とを比較し、その比較の結果に応じて符号化部102の符号化モードおよび自己の符号化モードを変更する。短縮モードになると、符号化処理制御部104は、符号化部102が次に符号化する予定である動画像データをフレームメモリ101の中から削除するとともに、その動画像データの符号データに代わるコピーストリームをバッファメモリ105に格納する。コピーストリームは、先に符号化された動画像データと同一であることを示す符号語ビットストリームである。
バッファメモリ105は、符号化部102によって符号化された動画像データ(符号化動画像データ)を順次格納する。なお、ここでは、バッファメモリ105は、6つの符号化動画像データcode1〜code6を格納する。
<通常符号化処理>
ここで、図1に示した符号化部102および符号化処理制御部104による通常モードにおける処理について図2Aを参照しつつ説明する。
〔ステップST101−11〕
通常モードに設定されると、符号化部102は、次に符号化される予定である動画像データをフレームメモリ101の中から選択し、その選択した動画像データを取り込む。このとき、符号化部102は、データ格納信号を出力する。次に、符号化処理制御部104は、符号化部102からのデータ格納信号を受けると、動画像データのフレームレートに基づいて、その動画像データの符号化のために要することができる時間(予定時間)を算出する。
〔ステップST101−12〕
次に、符号化部102は、通常モード用の符号化方式に従って、取り込んだ動画像データを符号化する。これにより、符号化動画像データが生成される。
〔ステップST101−13〕
また、処理時間計測部103は、符号化部102からの開始信号,終了信号を受けて、符号化部102による動画像データの符号化に要した時間(符号化時間)を計測する。
〔ステップST101−14〕
次に、符号化部102は、ステップST101−12において生成した符号化動画像データをバッファメモリ105に格納する。
<短縮符号化処理>
次に、図1に示した符号化部102および符号化処理制御部104による短縮モードにおける処理について図2Bを参照しつつ説明する。
〔ステップST101−21〕
短縮モードに設定されると、符号化部102は、次に符号化される予定である動画像データを符号化しない。また、符号化処理制御部104は、符号化部102によって符号化される予定である動画像データをフレームメモリ101の中から選択し、その選択した動画像データを削除する。これにより、フレームメモリ101は、ピクチャ1枚分の動画像データの領域が空になる。したがって、フレームメモリ101は、削除された動画像データの代わりに別の動画像データを格納することができる。
〔ステップST101−22〕
また、符号化処理制御部104は、動画像データのフレームレートに基づいて、予定時間を算出する。
〔ステップST101−23〕
次に、符号化処理制御部104は、直前に生成された符号化動画像データをバッファメモリ105の中から検出する。符号化処理制御部104は、バッファメモリ105の中から検出した符号化動画像データのコピーストリームを生成する。
〔ステップST101−24〕
また、符号化処理制御部104は、コピーストリームの生成に要した時間を符号化時間として計測する。
〔ステップST101−25〕
次に、符号化処理制御部104は、ステップST101−23において生成したコピーストリームをバッファメモリ105に格納する。これにより、符号化部102によって符号化されなかった動画像データの符号化データに代わるビットストリームがバッファメモリ105に格納される。
<動作>
次に、図1に示した動画像符号化装置による動作について図3を参照しつつ説明する。
〔ステップST101〕
まず、符号化部102および符号化処理制御部104は、符号化モードに応じた符号化処理(通常符号化処理または短縮符号化処理)を実行する。
〔ステップST102〕
次に、フレームメモリ101に格納されたすべての動画像データに対して符号化処理が実行されている場合には、処理を終了する。一方、そうでない場合にはステップST103へ進む。
〔ステップST103〕
次に、符号化処理制御部104は、ステップST101において処理時間計測部103によって計測された符号化時間がステップST101において算出した予定時間を超過しているか否かを判断する。符号化時間が予定時間を超過している場合にはステップST104へ進む。一方、そうでない場合にはステップST105へ進む。
〔ステップST104〕
次に、符号化処理制御部104は、自己の符号化モードおよび符号化部102の符号化モードを「短縮モード」に設定する。次に、ステップST101へ進む。
〔ステップST105〕
一方、ステップST103において符号化時間が予定時間を超過していない場合、符号化処理制御部104は、自己の符号化モードおよび号化部102の符号化モードを「通常モード」に設定する。次に、ステップST101へ進む。
<具体例>
ここで、図3に示した短縮符号化処理1について図4,図5を参照しつつ具体的に説明する。なお、ここでは、動画像データI0,B2,B3,P1,B5,B6,P4,・・・,P10の順番で動画像符号化装置に入力されるものとする。また、図中、「I」はIピクチャであり、「P」はPピクチャであり、「B」はBピクチャである。
〔通常符号化処理〕
まず、符号化部102による符号化処理において時間超過が発生していない場合について図4を参照しつつ説明する。なお、ここでは、図1のフレームメモリ101は、6つのフレームメモリ101−1〜101−6から構成されているものとする。また、符号化モードは「通常モード」に設定されているものとする。
時刻t0において、フレームメモリ101−1は、動画像データI0の取り込みを開始する。また、フレームメモリ101−1は、動画像データI0の取り込みが完了すると、その動画像データI0を保持する。
時刻t1になると、フレームメモリ101−2は、動画像データB2の取り込みを開始する。また、フレームメモリ101−は、動画像データB2の取り込みが完了すると、その動画像データB2を保持する。
時刻t2になると、フレームメモリ101−3は、動画像データB3の取り込みを開始する。また、フレームメモリ101−3は、動画像データB3の取り込みが完了すると、その動画像データB3を保持する。
時刻t3になると、符号化部102は、フレームメモリ101−1に格納された動画像データI0の符号化を開始する。フレームメモリ101−4は、動画像データP1の取り込みを開始する。また、フレームメモリ101−4は、動画像データP1の取り込みが完了すると、その動画像データP1を保持する。
時刻t4になると、符号化部102は、動画像データI0の符号化を完了する。処理時間計測部103は、符号化部102からの開始信号,終了信号を受けて、符号化時間を計測する。符号化処理制御部104は、符号化時間が予定時間を超過していないと判断して、符号化部102の符号化モードおよび自己の符号化モードを変更しない。よって、符号化部102は、フレームメモリ101−1に格納された動画像データI0に基づいて、フレームメモリ101−4に格納された動画像データP1の符号化を開始する。一方、フレームメモリ101−5は、動画像データB5の取り込みを開始する。
時刻t5になると、符号化部102は、動画像データP1の符号化を完了する。このときも符号化時間が予定時間を超過していないので、符号化部102は、フレームメモリ101−1,101−4に格納された動画像データI0,P1に基づいて、フレームメモリ101−2に格納された動画像データB2の符号化を開始する。一方、フレームメモリ101−6は、動画像データB6の取り込みを開始する。
時刻t6になると、符号化部102は、動画像データB2の符号化を完了する。フレームメモリ101−2は、格納していた動画像データB2を破棄して、動画像データP4の取り込みを開始する。また、符号化部102は、フレームメモリ101−1,101−4に格納された動画像データI0,P1に基づいて、フレームメモリ101−3に格納された動画像データB3の符号化を開始する。
時刻t7になると、符号化部102は、動画像データB3の符号化を完了する。フレームメモリ101−3は、格納していた動画像データB3を破棄する。また、フレームメモリ101−1は、格納していた動画像データI0を破棄して、動画像データB8の取り込みを開始する。
時刻t8以降においても、時刻t1〜t7と同様の処理が実行される。
このような処理が実行されて、図4のように、バッファメモリ105には、符号化動画像データI0,P1,・・・,B12の順番で格納される。
〔短縮符号化処理〕
次に、符号化処理において時間超過が発生して、短縮符号化処理を実行する場合について図5を参照しつつ説明する。
時刻t0〜t12では符号化処理の時間超過が発生していないので、通常モードと同様の処理が実行される。
ここで、時刻t12〜t13において、符号化部102による動画像データB8の符号化において時間超過が発生すると、符号化処理制御部104は、符号化時間が予定時間を超過していると判断する。符号化処理制御部104は、符号化部102の符号化モードおよび自己の符号化モードを「短縮モード」にする。よって、符号化処理制御部104は、フレームメモリ101−3に格納された動画像データB9(次に符号化される予定である動画像データ)を破棄する。フレームメモリ101−3は、動画像データB9の取り込みを中止して、動画像データP10の取り込みを開始する。符号化部102は、動画像データB8の符号化が完了すると、生成した符号化動画像データB8をバッファメモリ105に格納する。一方、符号化処理制御部104は、バッファメモリ105に格納された符号化像画像データB8(直前に生成された符号化動画像データ)のコピーストリームを生成し、生成したコピーストリームを動画像データB9の符号化データとしてバッファメモリ105に格納する。次に、符号化処理制御部104は、符号化部102の符号化モードおよび自己の符号化モードを「通常モード」にする。
時刻t13になると、符号化部102は、フレームメモリ101−1ではなくフレームメモリ101−3に格納された動画像データP10の符号化を開始する。
このような処理が実行されて、バッファメモリ105には、図5のように、符号化動画像データI0,P1,B2,・・・,B8の順番で格納された後、コピーストリームである符号化動画像データB9が格納され、符号化動画像データP10,B11,B12の順番で格納される。
<効果>
以上のように、符号化時間が予定時間よりも超過した場合に、次に符号化される予定である動画像データの符号化方法を変更することにより、次に符号化される動画像データの符号化時間を短縮することができる。これにより、フレームメモリに新たな動画像データが上書きされてしまって画像乱れが生じてしまったり、符号化処理量が溢れることによって符号化処理が時間的に不連続になってしまったりすることを抑制することができ、符号化処理を継続することができる。
また、動画像データの符号化に超過時間が発生したときに、コピーストリームを符号化動画像データとしてバッファメモリに格納することにより、符号化部の負荷を軽減することができ、処理溢れの影響を複数フレームにかけて回復することができる。
さらに、フレームメモリは、動画像データが削除されることによって、別の動画像データを新たに格納することができる。これにより、余分なメモリを使用することなく、符号化処理を継続することができる。
なお、本実施形態では、符号化処理制御部は、符号化部によって次に符号化される予定である動画像データを短縮符号化処理の対象として選択しているが、短縮符号化処理の対象は、符号化時間が予定時間を超過してしまった動画像データよりも後に符号化される予定である動画像データのうちのいずれかであっても良い。また、短縮符号化の対象となる動画像データは、1つに限らず、複数であっても良い。
(第1の実施形態の変形例)
<全体構成>
この発明の第1の実施形態による動画像符号化装置の変形例を図6に示す。この装置は、図1に示した符号化部102および処理時間制御部10に代えて、符号化部102−1および処理時間制御部10−1を備える。その他の構成は図1と同様である。処理時間制御部10−1は、図1に示した処理時間計測部103と、符号化処理制御部104−1とを備える。
符号化部102−1は、通常モードに設定されたときは、図1に示した符号化部102の動作を実行するが、短縮モードに設定されたときの動作が異なる。短縮モードに設定されると、符号化部102−1は、短縮モード用の符号化方式に従って、次に符号化される予定である動画像データを符号化する。短縮モード用の符号化方式は、通常モード用の符号化方式よりも符号化に要する時間が短い。例えば、符号化部102−は、短縮モード用に設定されると、動きベクトルの探索範囲を狭くしたり、双方向参照に代えて参照方向を前方の画像または後方の画像のみにしたり、フレーム間予測符号化に代えてイントラ符号化を実行したりする。
符号化処理制御部104−1は、動画像データのフレームレートに基づいて、その動画像データの符号化に要することができる時間(予定時間)を計算する。また、符号化処理制御部104−1は、処理時間計測部103によって計測された符号化時間と算出した予定時間とを比較し、その比較の結果に応じて自己の符号化モードおよび符号化部102−1の符号化モードを変更する。
<動作>
次に、図6に示した動画像符号化装置による動作について説明する。この装置による動作は、図1に示した動画像符号化装置による動作(図3参照)と同様であるが、短縮符号化処理(図2B)が異なる。
<短縮符号化処理>
図6に示した符号化部102−1および符号化処理制御部104−1による短縮モードにおける処理について図7を参照しつつ説明する。
〔ステップST101−31〕
短縮モードに設定されると、符号化部102−1は、符号化する予定である動画像データをフレームメモリ101の中から選択し、その選択した動画像データを取り込む。このとき、符号化部102−1は、データ格納信号を出力する。次に、符号化処理制御部104−1は、符号化部102−1からのデータ格納信号を受けると、動画像データのフレームレートに基づいて、その動画像データの符号化のために要することができる時間(予定時間)を算出する。
〔ステップST101−32〕
次に、符号化部102は、短縮モード用の符号化方式に従って、取り込んだ動画像データを符号化する。これにより、符号化動画像データが生成される。
〔ステップST101−33,ST101−34〕
次に、図2Aに示したステップST101−13,ST101−14における処理と同様の処理が実行され、短縮モード用の符号化方式に従って生成された符号化動画像データがバッファメモリ105に格納される。
<具体例>
次に、符号化処理において時間超過が発生して、短縮符号化処理を実行する場合について図8を参照しつつ説明する。
時刻t0〜t10では符号化部102−1による動画像データの符号化に時間超過が発生していないので、図4に示した通常符号化処理と同様の処理が実行される。
ここで、時刻t10〜t11において、符号化部102−1による動画像データB6の符号化において時間超過が発生すると、符号化処理制御部104−1は、処理時間計測部103によって計測された符号化時間が予定時間を超過していると判断する。ここで、符号化処理制御部104−1は、符号化部102−1の符号化モードを「短縮モード」にする。符号化部102−1は、動画像データB6の符号化が完了すると、符号化方式を短縮モード用の符号化方式に変更する。そして、符号化部102−1は、短縮モード用の符号化方式に従って、フレームメモリ101−5に格納された動画像データP7の符号化を開始する。
次に、時刻t11になると、符号化部102−1は、動画像データP7の符号化を完了する。符号化処理制御部104−1は、符号化部102−1による動画像データP7の符号化が完了すると、符号化部102−1の符号化方式を「通常モード」にする。符号化部102−1は、通常モード用の符号化方式に従って、フレームメモリ101−に格納された動画像データB8の符号化を開始する。
このような処理が実行されて、バッファメモリ105には、符号化動画像データI0,P1,B2,・・・,B6の順番で格納された後、短縮モードの下で生成された符号化動画像データP7が格納され、符号化動画像データB8,B9,・・・,B12の順番で格納される。
<効果>
以上のように、動画像データの符号化に超過時間が発生したときに、通常モードよりも符号化時間が短い短縮モードに切り換えることにより、符号化部の負荷を軽減することができる。これにより、画像乱れやシステム破綻を抑制することができ、符号化処理を継続することができる。
(第2の実施形態)
<全体構成>
図9は、この発明の第2の実施形態による動画像符号化装置の全体構成を示す。この装置は、図1に示した処理時間制御部10に代えて、処理時間制御部20を備える。その他の構成は図1と同様である。処理時間制御部20は、ピクチャタイプ検出部201および符号化処理制御部204と、図1に示した処理時間計測部103とを含む。
ピクチャタイプ検出部201は、フレームメモリ101に格納された動画像データのピクチャタイプを検出する。つまり、ピクチャタイプ検出部201は、動画像データが「Iピクチャ」,「Pピクチャ」,「Bピクチャ」のうちいずれであるのかを検出する。
符号化処理制御部204は、符号化処理制御部104と同様の動作を実行するが、符号化部102の符号化モードおよび自己の符号化モードの制御についての処理が異なる。符号化処理制御部204は、ピクチャタイプ検出部201による検出結果と、処理時間計測部103による符号化時間の計測結果とに応じて、符号化部102の符号化モードおよび自己の符号化モードを変更する。
<動作>
次に、図9に示した動画像符号化装置による動作について図10を参照しつつ説明する。ここでは、最初、符号化部102および符号化処理制御部204の符号化モードは「通常モード」に設定されている。
〔ステップST201〕
まず、通常符号化処理(図2A)が実行される。
〔ステップST202〕
次に、フレームメモリ101に格納されたすべての動画像データに対して符号化処理が実行されている場合には、処理を終了する。一方、そうでない場合にはステップST203へ進む。
〔ステップST203〕
次に、符号化処理制御部204は、符号化部102の符号化モードおよび自己の符号化モードが「短縮モード」であるか否かを判断する。それらの符号化モードが「短縮モード」である場合にはステップST206へ進む。そうでない場合にはステップST204へ進む。
〔ステップST204〕
次に、符号化処理制御部204は、ステップST201において処理時間計測部103によって計測された符号化時間がステップST201において算出された予定時間を超過しているか否かを判断する。符号化時間が予定時間を超過している場合にはステップST205へ進む。一方、そうでない場合にはステップST201へ進む。
〔ステップST205〕
次に、符号化処理制御部204は、符号化部102の符号化モードおよび自己の符号化モードを「短縮モード」に設定する。次に、ステップST206へ進む。
〔ステップST206〕
次に、ピクチャタイプ検出部201は、符号化部102が次に符号化する予定である動画像データのピクチャタイプを検出する。次に符号化する予定である動画像データのピクチャタイプが「Bピクチャ」である場合にはステップST207へ進む。そうでない場合にはステップST201へ進む。
〔ステップST207〕
次に、ステップST206において「Bピクチャ」であると検出された動画像データに対して、短縮符号化処理(図2B)が実行される。これにより、符号化動画像データが生成される。
〔ステップST208〕
次に、短縮符号化処理が完了すると、符号化処理制御部204は、符号化部102の符号化モードおよび自己の符号化モードを「通常モード」に設定する。次に、ステップST202へ進む。
<具体例>
ここで、図10に示した短縮符号化処理(ステップST207における処理)について図11を参照しつつ具体的に説明する。なお、ここでは、動画像データI0,B2,B3,P1,B5,B6,P4,・・・,P10の順番で入力されるものとする。図中、「I」はIピクチャであり、「P」はPピクチャであり、「B」はBピクチャである。
時刻t0〜t10では符号化部102による動画像データの符号化に時間超過が発生していないので、通常モード(図4参照)と同様の処理が実行される。
ここで、時刻t10〜t11において、符号化部102による動画像データB6の符号化において時間超過が発生すると、符号化処理制御部204は、処理時間計測部103によって計測された符号化時間が予定時間を超過していると判断する。ここで、符号化処理制御部204は、符号化部102に符号化モードおよび自己の符号化モードを「通常モード」から「短縮モード」にする。また、符号化部102による動画像データB6の符号化が完了すると、ピクチャタイプ検出部201は、次に符号化される予定である動画像データP7のピクチャタイプが「Pピクチャ」であると検出する。したがって、符号化部102および符号化処理制御部204は、動画像データP7に対して短縮符号化処理を実行せず通常符号化処理を実行する。
時刻t11〜t12において、符号化部102による動画像データP7の符号化が完了すると、ピクチャタイプ検出部201は、符号化部102が次に符号化する予定である動画像データB8のピクチャタイプが「Bピクチャ」であると検出する。したがって、符号化部102および符号化処理制御部204は、動画像データB8に対して通常符号化処理ではなく短縮符号化処理を実行する。つまり、符号化部102は動画像データB8の符号化を実行しない。また、符号化処理制御部204は、フレームメモリ101−1に格納された動画像データB8を削除し、符号化動画像データP7のコピーストリームを符号化動画像データB8としてバッファメモリ105に格納する。フレームメモリ101−1は、動画像データB8の取り込みを中止して、動画像データB11の取り込みを開始する。動画像データB8に対する短縮符号化処理が完了すると、符号化処理制御部204は、符号化部102の符号化モードおよび自己の符号化モードを「短縮モード」から「通常モード」にする。
時刻t12になると、符号化部102は、通常モードに従って、フレームメモリ101−3に格納された動画像データB9の符号化を開始する。
このような処理が実行されて、バッファメモリ105には、符号化動画像データI0,P1,B2,・・・,P7の順番で格納された後、コピーストリームである符号化動画像データB8が格納され、符号化動画像データB9,P10,B11,B12の順番で格納される。
<効果>
以上のように、短縮符号化処理の対象を被参照画像(IピクチャまたはPピクチャ)ではなく参照画像(Bピクチャ)にすることにより、著しい画質の低下を抑制することができる。
なお、図9に示した符号化部102に代えて図6に示した符号化部102−1を用いても同様の効果を得ることができる。つまり、ステップST207において図7に示した短縮符号化処理が実行されても良い。
(第3の実施形態)
<全体構成>
図12は、この発明の第3の実施形態による動画像符号化装置の全体構成を示す。この装置は、図1に示した符号化部102および処理時間制御部10に代えて、符号化部302および処理時間制御部30を備える。その他の構成は図1と同様である。処理時間制御部30は、図1に示した処理時間計測部103と、符号化処理制御部304とを含む。
符号化部302は、図1に示した符号化部102と同様の動作を実行するが、自己に有している符号化モードの種類が異なる。符号化部302は、通常モード,短縮モード1,短縮モード2,および短縮モード3の4つの符号化モードを有し、符号化処理制御部304によっていずれか1つの符号化モードに設定される。符号化部302は、符号化処理制御部304によって設定された符号化モードに従って、次に符号化される予定である動画像データを符号化する。短縮モード1用の符号化方式は、短縮モード2用の符号化方式よりも符号化に要する時間が短い。短縮モード2用の符号化方式は、短縮モード3用の符号化方式よりも符号化に要する時間が短い。短縮モード3用の符号化方式は、通常モード用の符号化方式よりも符号化に要する時間が短い。
符号化処理制御部304は、符号化処理制御部104と同様の動作を実行するが、符号化部102の符号化モードおよび自己の符号化モードの制御についての処理が異なる。符号化処理制御部304は、符号化時間の超過の度合いに応じて、符号化部102の符号化モードおよび自己の符号化モードを制御する。詳しくは、符号化処理制御部304は、動画像データのフレームレートに基づいて、その動画像データの符号化に要することができる時間(予定時間1,予定時間2,予定時間3)を計算する。予定時間2は、予定時間1よりも短い。予定時間3は、予定時間2よりも短い。例えば、符号化処理制御部304は、符号化処理制御部104と同様に、動画像データのフレームレートに基づいて予定時間を算出し、予め定められた閾値1,閾値2(閾値1よりも短い),閾値3(閾値2よりも短い)をその算出した予定時間に加算することによって、「予定時間+閾値1」「予定時間1」とし、「予定時間+閾値2」を「予定時間2」とし、「予定時間+閾値3」を「予定時間3」として算出する。符号化処理制御部304は、処理時間計測部103によって計測された符号化時間と算出した予定時間1,予定時間2,および予定時間3との比較し、その比較の結果に応じて符号化部302の符号化モードおよび自己の符号化モードを変更する。
<動作>
次に、図12に示した動画像符号化装置による動作について図13を参照しつつ説明する。
〔ステップST301〕
まず、符号化部102および符号化処理制御部304は、符号化モードに応じた符号化処理(通常符号化処理,短縮符号化処理1〜短縮符号化処理3のいずれか1つ)を実行する。つまり、通常モードの場合、図2Aに示したステップST101−11〜ST101−14における処理が実行され、短縮モード1〜短縮モード3の場合、図7に示したステップST101−31〜ST101−34における処理が実行される。なお、ステップST101−11(図2A)およびステップST101−31(図7)では予定時間は1つしか求めていないが、ここでは、符号化処理制御部304は、予定時間1,予定時間2,予定時間3を算出する。
〔ステップST302〕
次に、フレームメモリ101に格納されたすべての動画像データに対して符号化処理が実行されている場合には、処理を終了する。一方、そうでない場合にはステップST303へ進む。
〔ステップST303〕
次に、符号化処理制御部304は、処理時間計測部103によって計測された符号化時間がステップST301において算出された予定時間1を超過しているか否か判断する。符号化時間が予定時間1を超過していると判断すると、ステップST304へ進む。そうでない場合にはステップST305へ進む。
〔ステップST304〕
次に、符号化処理制御部304は、自己の符号化モードおよび符号化部302の符号化モードを「短縮モード1」に設定する。次に、ステップST301へ進む。
〔ステップST305〕
一方、ステップST303において、符号化時間が予定時間1を超過していないと判断すると、符号化処理制御部304は、符号化時間がステップST301において算出された予定時間2を超過しているか否かを判断する。符号化時間が予定時間2を超過している場合にはステップST306へ進む。一方、そうでない場合にはステップST307へ進む。
〔ステップST306〕
次に、符号化処理制御部304は、自己の符号化モードおよび符号化部302の符号化モードを「短縮モード2」に設定する。次に、ステップST301へ進む。
〔ステップST307〕
一方、ステップST305において、符号化時間が予定時間2を超過していないと判断すると、符号化処理制御部304は、符号化時間がステップST301において算出された予定時間3を超過しているか否かを判断する。符号化時間が予定時間3を超過している場合にはステップST308へ進む。そうでない場合にはステップST309へ進む。
〔ステップST308〕
次に、符号化処理制御部304は、自己の符号化モードおよび符号化部302の符号化モードを「短縮モード3」に設定する。次に、ステップST301へ進む。
〔ステップST309〕
一方、ステップST307において、符号化時間が予定時間3を超過していないと判断すると、符号化処理制御部304は、自己の符号化モードおよび符号化部302の符号化モードを「通常モード」に設定する。次に、ステップST301へ進む。
<効果>
以上のように、符号化部における符号化時間の超過の度合いに応じて次に符号化される予定である動画像データに対する符号化方法を変更することによって、過剰な画質劣化や時間的連続性の低下を抑制しつつ、符号化時間の超過を解消することができる。
なお、本実施形態では、符号化処理制御部304は、処理時間計測部103によって計測された符号化時間と3パターンの予定時間の各々と比較しているが、比較に用いる予定時間の個数は3つに限らない。
また、短縮モード1に設定されたときに、符号化部302および符号化制御部304が、図2Bに示した短縮符号化処理を実行しても構わない。
(第4の実施形態)
<全体構成>
図14は、この発明の第4の実施形態による動画像符号化装置の全体構成を示す。この装置は、図12に示した処理時間制御部30に代えて、処理時間制御部40を備える。その他の構成は図12と同様である。処理時間制御部40は、図1に示した処理時間計測部103と、図9に示したピクチャタイプ検出部201と、閾値変更部401と、符号化処理制御部404とを含む。
閾値変更部401は、ピクチャタイプ検出部201によるピクチャタイプの検出結果に応じて、符号化処理制御部404において符号化時間の超過の度合いを判断するために利用される閾値1,閾値2,閾値3を変更する。
符号化処理制御部404は、符号化処理制御部304と同様の動作を実行するが、予定時間1,予定時間2,予定時間3の算出処理が異なる。符号化処理制御部304は、閾値変更部401によって設定された閾値1,閾値2,閾値3を用いて、予定時間1,予定時間2,予定時間3を算出する。
<動作>
次に、図14に示した動画像符号化装置による動作について図15を参照しつつ説明する。
〔ステップST401〕
まず、ピクチャタイプ検出部201は、符号化部302によって符号化される予定である動画像データのピクチャタイプを検出する。閾値変更部401は、ピクチャタイプ検出部201の検出結果に応じて、閾値1,閾値2,閾値3を設定する。例えば、閾値変更部401は、Iピクチャ用の閾値1,閾値2,閾値3と、Pピクチャ用の閾値1,閾値2,閾値3と、Bピクチャ用の閾値1,閾値2,閾値3とを予め格納しており、その中からピクチャタイプ検出部201によって検出されたピクチャタイプに応じた閾値1,閾値2,閾値3を選択する。なお、閾値2は閾値1よりも短く、閾値3は閾値2よりも短い。
〔ステップST301〕
次に、ステップST301における処理と同様の処理が実行される。なお、ここでは、符号化処理制御部404は、閾値変更部401によって設定された閾値1,閾値2,閾値3を用いて、予定時間1,予定時間2,予定時間3を算出する。例えば、符号化処理制御部404は、動画像データのフレームレートに基づいて算出された予定時間に閾値変更部401によって算出された閾値1と加算することによって、予定時間1を算出する。
〔ステップST302〜ST309〕
次に、ステップST302〜ST309における処理と同様の処理が実行される。
<閾値設定処理>
次に、閾値変更部401による閾値設定処理(ステップST401における処理)について図16を参照しつつ説明する。
〔ステップST401−1〕
ピクチャタイプ検出部201は、符号化部302によって符号化されている動画像データのピクチャタイプが「Iピクチャ」であるか否かを検出する。その動画像データが「Iピクチャ」である場合にはステップST401−2へ進む。一方、そうでない場合にはステップST401−3へ進む。
〔ステップST401−2〕
次に、閾値変更部401は、符号化処理制御部404において予定時間1,予定時間2,予定時間3の算出のために利用される閾値1,閾値2,閾値3を、Iピクチャ用の閾値1,閾値2,閾値3に設定する。次に、ステップST301へ進む。
〔ステップST401−3〕
一方、ステップST401−1において動画像データが「Iピクチャ」でない場合には、ピクチャタイプ検出部201は、符号化部402によって符号化されている動画像データのピクチャタイプが「Pピクチャ」であるか否かを検出する。その動画像データが「Pピクチャ」である場合にはステップST401−4へ進む。一方、そうでない場合にはステップST401−5へ進む。
〔ステップST401−4〕
次に、閾値変更部401は、符号化処理制御部404において予定時間1,予定時間2,予定時間3の算出のために利用される閾値1,閾値2,閾値3を、Pピクチャ用の閾値1,閾値2,閾値3に設定する。次に、ステップST301へ進む。
〔ステップST401−5〕
一方、ステップST401−3においてピクチャタイプ検出部201によって動画像データが「Pピクチャ」でないと検出されると、符号化処理制御部404において予定時間1,予定時間2,予定時間3の算出のために利用される閾値1,閾値2,閾値3を、Bピクチャ用の閾値1,閾値2,閾値3に設定する。次に、ステップST301へ進む。
<効果>
以上のように、次に符号化される予定である動画像データのピクチャタイプに応じて、符号化時間の超過の度合いを判断するための基準(予定時間1,予定時間2,予定時間3)を変更することによって、過剰な画質劣化や時間的連続性の低下をさらに抑制しつつ、符号化時間の超過を解消することができる。
なお、本実施形態では、符号化処理制御部404は、処理時間計測部103によって計測された符号化時間と3パターンの予定時間の各々と比較しているが、比較に用いる予定時間の個数は3つに限らない。
(第5の実施形態)
<全体構成>
図17は、この発明の第5の実施形態による動画像符号化装置の全体構成を示す。この装置は、図6に示した処理時間制御部10−1に代えて、処理時間制御部50を備える。その他の構成は図6と同様である。処理時間制御部50は、図9に示したピクチャタイプ検出部201と、処理時間計測部503と、符号化処理制御部504とを含む。
処理時間計測部503は、処理時間計測部103と同様に、符号化時間を計測する。また、処理時間計測部503は、1つのピクチャグループの符号化に要した時間(合計符号化時間)を計測する。ピクチャグループは、1つの被参照画像と、その被参照画像と次に符号化される被参照画像との間に存在する参照画像との集合を示す。詳しくは、処理時間計測部503は、ピクチャタイプ検出部201によって被参照画像(「Iピクチャ」または「Pピクチャ」)であると検出されてから次にピクチャタイプ検出部201によって被参照画像であると検出されるまでに計測した符号化時間を合計することによって、合計符号化時間を取得する。
符号化処理制御部504は、符号化処理制御部104−1と同様の動作を実行するが、符号化部102−1の符号化モードの制御についての処理が異なる。符号化処理制御部504は、1つのピクチャグループの符号化に要することができる時間(合計予定時間)を算出する。詳しくは、符号化処理制御部504は、ピクチャタイプ検出部201によって「被参照画像」であると検出されてから次にピクチャタイプ検出部201によって被参照画像であると検出されるまでに算出した予定時間を合計することによって、合計予定時間を算出する。また、符号化処理制御部504は、処理時間計測部503によって計測された合計符号化時間と算出した合計予定時間とを比較し、その比較の結果に応じて符号化部102−1の符号化モードを変更する。
<動作>
次に、図17に示した動画像符号化装置による動作について図18を参照しつつ説明する。
〔ステップST501〕
まず、符号化モードに応じた符号化処理(通常符号化処理(図2A)または短縮符号化処理(図2B))が実行される。
〔ステップST502〕
次に、処理時間計測部503は、ステップST501において計測した符号化時間を合計符号化時間に加算する。一方、符号化処理制御部504は、ステップST501において算出した予定時間を合計予定時間に加算する。
〔ステップST503〕
次に、フレームメモリ101に格納されたすべての動画像データに対して符号化処理が実行されている場合には、処理を終了する。一方、そうでない場合にはステップST504へ進む。
〔ステップST504〕
次に、ピクチャタイプ検出部201は、符号化部102−1によって次に符号化される予定である動画像データのピクチャタイプを検出する。次に、符号化される予定である動画像データが被参照画像である場合にはステップST505へ進む。一方、そうでない場合にはステップST501へ進む。
〔ステップST505〕
次に、符号化処理制御部504は、処理時間計測部503によって測定された合計符号化時間がステップST502において算出された合計予定時間を超過しているか否かを判断する。合計符号化時間が合計予定時間を超過している場合にはステップST506へ進む。そうでない場合にはステップST507へ進む。
〔ステップST506〕
次に、符号化処理制御部504は、自己の符号化モードおよび符号化部102−1の符号化モードを「短縮モード」に設定する。次に、ステップST501へ進む。
〔ステップST507〕
また、ステップST505において、合計符号化時間が合計予定時間を超過していない場合、符号化処理制御部504は、自己の符号化モードおよび符号化部102−1の符号化モードを「通常モード」に設定する。次に、ステップST501へ進む。
<具体例>
ここで、図18に示した処理について図19を参照しつつ具体的に説明する。なお、ここでは、動画像データI0,B2,B3,P1,B5,B6,P4,・・・,P10の順番で入力されるものとする。図中、「I」はIピクチャであり、「P」はPピクチャであり、「B」はBピクチャである。
時刻t0〜t7では符号化部102−1による動画像データの符号化に時間超過が発生していないので、通常符号化処理(図4参照)と同様の処理が実行される。
ここで、時刻t7〜t8において、符号化部102−1による動画像データB3の符号化において時間超過が発生したとする。ここで、ピクチャタイプ検出部201が符号化部102−1が次に符号化する予定である動画像データP4が「Pピクチャ」であると検出し、かつ、処理時間計測部503によって計測された合計符号化時間が合計予定時間を超過しているので、符号化処理制御部504は、自己の符号化モードおよび符号化部102−1の符号化モードを「短縮モード」に設定する。よって、動画像データB3の符号化が完了すると、符号化部102−1は、短縮モード用の符号化方式に従って、フレームメモリ101−2に格納された動画像データP4の符号化を開始する。
時刻t8〜t10において、符号化部102−1は、動画像データP4の符号化が完了する。これにより、短縮符号化処理によって生成された符号化動画像データP4がバッファメモリ105に格納される。また、符号化部102−1は、動画像データP4と同様に、短縮モード用の符号化方式に従って、フレームメモリ101−5に格納された動画像データB5の符号化を開始する。符号化部102−1による動画像データB5の符号化が完了すると、短縮符号化処理によって生成された符号化動画像データB5がバッファメモリ105に格納される。また、符号化部102−1は、フレームメモリ101−6に格納された動画像データB6の符号化を開始する。符号化部102−1による動画像データB6の符号化が完了すると、短縮符号化処理によって生成された符号化動画像データB6がバッファメモリ105に格納される。ここで、ピクチャタイプ検出部201は、符号化部102−1が次に符号化する予定である動画像データP7が「Pピクチャ」であると検出する。一方、符号化処理制御部504は、合計符号化時間が合計予定時間を超過していないと判断するので、自己の符号化モードおよび符号化部102−1の符号化モードを「通常モード」に設定する。
時刻t10になると、符号化部102−1は、通常モード用の符号化方式に従って、フレームメモリ101−5に格納された動画像データP7の符号化を開始する。
時刻t11になると、符号化部102−1は、動画像データP7の符号化を完了する。これにより、通常符号化処理に従って生成された符号化動画像データP7がバッファメモリ105に格納される。
このような処理が実行されて、図20Aのように、ピクチャグループ単位で符号化時間が超過しているか否かが判断されて、ピクチャグループ単位で、短縮符号化処理が実行される。
<効果>
以上のように、ピクチャグループ単位で短縮符号化処理を実行することにより、時間的連続性を保持しつつ、かつ、画質劣化を抑制した符号化を実現することができる。
なお、本発明を適用するにあたって、処理時間が超過したときに画像取り込み用のフレームメモリが不足するため、補助フレームメモリが必要となる可能性がある。しかしながら、図20Bのように、画像取り込みは画像の上部から順に行われるのに対し、符号化未完了の領域は画像の下部に集中しているため、未符号化領域に対して画像取り込みを行わない制御をすれば補助フレームメモリは必要ない。
なお、図17に示した符号化部102−1に代えて図1に示した符号化部102を用いても同様の効果を得ることができる。つまり、ステップST501において図2Bに示した短縮符号化処理が実行されても良い。
(第6の実施形態)
<全体構成>
図21は、この発明の第6の実施形態による動画像符号化装置の全体構成を示す。この装置は、図1に示した符号化部102および処理時間制御部10に代えて、符号化部602および処理時間制御部60を備える。その他の構成は図1と同様である。
符号化部602は、図1に示した符号化部102と同様であるが、前方参照モードおよび後方参照モードの2つの符号化モードをさらに有する。符号化部602は、符号化処理制御部604によって前方参照モードになると、次に符号化される予定である動画像データを、その動画像データの前方に位置する被参照画像に基づいて、符号化する。また、符号化部602は、後方参照モードになると、次に符号化される予定である動画像データを、その動画像データの後方に位置する被参照画像に基づいて、符号化する。
符号化処理制御部604は、符号化処理制御部104と同様の動作を実行するが、画像の乱れを抑制する抑制処理をさらに実行する。符号化処理制御部604は、ピクチャタイプ検出部201による検出結果に基づいて、符号化部602の符号化モードおよび自己の符号化モードを制御する。
<動作>
次に、図21に示した動画像符号化装置による動作について図22を参照しつつ説明する。この動画像符号化装置は、図3に示した処理に加えて次の処理を実行する。
〔ステップST601〕
ステップST101における処理が完了すると、符号化処理制御部604は、ステップST101において短縮符号化処理を実行したか否かを判断する。短縮符号化処理を実行した場合にはステップST602へ進む。一方、そうでない場合にはステップST102へ進む。
〔ステップST602〕
次に、ピクチャタイプ検出部201は、ステップST101において短縮符号化処理が実行された動画像データのピクチャタイプを検出する。その動画像データが被参照画像(「Iピクチャ」または「Pピクチャ」)である場合にはステップST603へ進む。一方、そうでない場合にはステップST102へ進む。
〔ステップST603〕
次に、抑制処理が実行される。抑制処理では、符号化処理制御部604は、符号化部602における動画像データの符号化の際にステップST101において短縮符号化処理が実行された動画像データ(フレームメモリ101から削除された動画像データ)が参照されないように、符号化部602の符号化モードおよび自己の符号化モードを制御する。抑制処理が完了すると、ステップST101へ進む。
<抑制処理>
ここで、図22に示した抑制処理(ステップST603における処理)について図23,図24を参照しつつ説明する。
〔ステップST603−1〕
符号化処理制御部604は、自己の符号化モードおよび符号化部602の符号化モードを「通常モード」から「前方参照モード」に変更する。符号化部602は、前方参照モードになると、次に符号化される予定である動画像データを、ステップST108において短縮符号化処理が実行された動画像データを参照せず、次に符号化される予定である動画像データの前方に位置する被参照画像に基づいて、符号化する。例えば、図25のように、符号化部602は、動画像データI0,P1の間に存在する動画像データB2,B3を符号化する際、短縮符号化処理が実行された動画像データP1を参照することなく動画像データI0を参照する。
〔ステップST603−2〕
次に、符号化部602は、前方参照モードに従って、次に符号化される予定である動画像データを符号化する。符号化された動画像データは、バッファメモリ105に格納される。
〔ステップST603−3〕
次に、フレームメモリ101に格納されたすべての動画像データに対して符号化処理が実行されている場合には、処理を終了する。一方、そうでない場合にはステップST603−4へ進む。
〔ステップST603−4〕
次に、ピクチャタイプ検出部201は、符号化部602によって次に符号化される予定である動画像データのピクチャタイプを検出する。次に符号化される予定である動画像データが被参照画像である場合にはステップST603−5へ進む。一方、そうでない場合にはステップST603−2へ進む。
〔ステップST603−5〕
次に、符号化処理制御部604は、自己の符号化モードおよび符号化部602の符号化モードを「前方参照モード」から「通常モード」に変更する。
〔ステップST603−6〕
次に、符号化部602は、通常モード用の符号化方式に従って、次に符号化される予定である動画像データを符号化する。符号化された動画像データは、バッファメモリ105に格納される。
〔ステップST603−7〕
次に、フレームメモリ101に格納されたすべての動画像データに対して符号化処理が実行されている場合には、処理を終了する。一方、そうでない場合にはステップST603−8(図24)へ進む。
〔ステップST603−8〕
次に、符号化処理制御部604は、自己の符号化モードおよび符号化部602の符号化モードを「通常モード」から「後方参照モード」に変更する。符号化部602は、後方参照モードになると、次に符号化される予定である動画像データを、ステップST108(図3)において短縮符号化処理が実行された動画像データを参照せず、次に符号化される予定である動画像データの後方に位置する被参照画像に基づいて、符号化する。例えば、図25のように、符号化部602は、動画像データP1,P4の間に存在する動画像データB5,B6を符号化する際、短縮符号化処理が実行された動画像データP1を参照することなく動画像データP4を参照する。
〔ステップST603−9〕
次に、符号化部602は、後方参照モードに従って、次に符号化される予定である動画像データを符号化する。符号化された動画像データは、バッファメモリ105に格納される。
〔ステップST603−10〕
次に、フレームメモリに格納されたすべての動画像データに対して符号化処理が実行されている場合には、処理を終了する。一方、そうでない場合にはステップST603−11へ進む。
〔ステップST603−11〕
次に、ピクチャタイプ検出部201は、符号化部602によって次に符号化される予定である動画像データのピクチャタイプを検出する。次に符号化される予定である動画像データが被参照画像である場合にはステップST603−12へ進む。一方、そうでない場合にはステップST603−9へ進む。
〔ステップST603−12〕
次に、符号化処理制御部604は、自己の符号化モードおよび符号化部602の符号化モードを「後方参照モード」から「通常モード」に変更する。次に、ステップST101へ進む。
<効果>
以上のように、短縮符号化処理が実行された動画像データ(ここでは、フレームメモリから削除された動画像データ)を参照しないように動画像データの符号化を実行することによって、画像乱れを起こすピクチャを削減することができる。
また、短縮符号化が実行された動画像データを参照して符号化される予定である動画像データにおいて、レート制御による発生符号量の増加を抑制することができ、符号化時間を短縮することができる。また、短縮符号化が実行された動画像データを参照して符号化される予定である動画像データにおいて、双方向参照符号化ではなく前方参照符号化または後方参照符号化のみを実行することによって符号化時間を短縮することができる。
なお、図21に示した符号化部602に代えて、図6に示した符号化部102−1を用いても同様の効果を得ることができる。つまり、ステップST101において図7に示した短縮符号化処理が実行されても良い。
(第7の実施形態)
<全体構成>
図26は、この発明の第7の実施形態による動画像符号化装置の全体構成を示す。この装置は、図1に示した符号化部102および処理時間制御部10に代えて、符号化部702および処理時間制御部70を備える。その他の構成は図1と同様である。
符号化部702は、ピクチャ1枚分の動画像データを取り込み始めるとデータ格納信号を出力し、その取り込んだ動画像データの符号化を開始すると開始信号を出力し、そのピクチャ1枚分の動画像データの符号化が完了すると終了信号を出力し、1つの動画像データのうち一部分の動画像データ(例えば、スライス単位のデータ)を取り込み始めると部分データ格納信号を出力し、その取り込んだ動画像データの一部分の符号化を開始すると部分開始信号を出力し、その動画像データの一部分の符号化が完了すると部分終了信号を出力する。また、符号化部702は、通常モードと部分短縮モードとの2つの符号化モードを有し、符号化処理制御部704によっていずれか一方の符号化モードに設定される。通常モードに設定されると、符号化部702は、通常モード用の符号化方式に従って、次に符号化される予定である動画像データを符号化する。一方、部分短縮モードに設定されると、符号化部702は、部分短縮モード用の符号化方式に従って、次に符号化される予定である動画像データを符号化する。部分短縮モード用の符号化方式は、通常モード用の符号化方式よりも符号化に要する時間が短い。
処理時間計測部703は、符号化部702から出力された開始信号,終了信号を参照して、符号化時間を計測する。また、処理時間計測部703は、符号化部702から出力された部分開始信号,部分終了信号を参照して、動画像データの一部分の符号化に要した時間(部分符号化時間)を算出する。例えば、処理時間計測部703は、スライスラインの先頭の動画像データを格納したタイミング(符号化部702からの部分開始信号を受けたとき)から符号化部702からの部分終了信号を受けるまでの時間を計測する。
符号化処理制御部704は、動画像データのフレームレートに基づいて、動画像データの符号化に要することができる時間(予定時間)を計算する。また、符号化処理制御部704は、動画像データのフレームレートに基づいて、動画像データの一部分の符号化に要することができる時間(部分予定時間)を算出する。例えば、符号化処理制御部704は、符号化部702からの部分データ格納信号を受け取ると、フレームレートに基づいて符号化部702が動画像データの一部分の符号化を完了しなければいけない時刻を求め、符号化部702からの部分終了信号を受け取った時刻からその求めた時刻までの時間を算出する。さらに、符号化処理制御部704は、処理時間計測部703によって計測された符号化時間と算出された予定時間との比較,および処理時間計測部703によって計測された部分符号化時間と算出された部分予定時間との比較を実行し、それらの比較の結果に応じて符号化部702の符号化モードを変更する。
<部分短縮符号化処理>
ここで、図26に示した符号化部702および符号化処理制御部704による部分短縮モードにおける処理について図27を参照しつつ説明する。
〔ステップST702−1〕
部分短縮モードに設定されるとき、符号化処理制御部704は、符号化部702からのデータ格納信号を受けると、動画像データのフレームレートに基づいて予定時間を算出する。
〔ステップST702−2〕
次に、符号化部702は、符号化する予定である動画像データの一部分を取り込む。このとき、符号化部702は、部分データ格納信号を出力する。また、符号化処理制御部704は、動画像データのフレームレートに基づいて、その動画像データの一部分の符号化のために要することができる時間(部分予定時間)を算出する。
〔ステップST702−3〕
次に、符号化部702は、部分短縮モード用の符号化方式に従って、取り込んだ動画像データの一部分の符号化を開始する。このとき、符号化部702は部分開始信号を出力する。
〔ステップST702−4〕
次に、符号化部702は、動画像データの一部分の符号化を完了すると、部分終了信号を出力する。処理時間計測部703は、符号化部702からの部分終了信号を受けて、符号化部702による動画像データの一部分の符号化に要した時間(部分符号化時間)を計測する。
〔ステップST702−5〕
次に、符号化処理制御部704は、符号化部702によってピクチャ1枚分の動画像データの符号化が完了したか否かを判断する。例えば、符号化処理制御部704は、符号化部704から終了信号が出力されたか否かを判断する。ピクチャ1枚分の符号化が完了している場合にはステップST702−8へ進む。一方、そうでない場合にはステップST702−6へ進む。
〔ステップST702−6〕
次に、符号化処理制御部704は、符号化部702における符号化時間が予定時間内に収まっているか否かを判断する。つまり、符号化処理制御部704は、処理時間計測部703によって計測された部分符号化時間がステップST702−2において算出した部分予定時間を超過しているか否かを判断する。部分符号化時間が部分予定時間を超過している場合にはステップST702−2へ進む。そうでない場合にはステップST702−7へ進む。
〔ステップST702−7〕
次に、符号化処理制御部704は、自己の符号化モードおよび符号化部702の符号化モードを「部分短縮モード」から「通常モード」に変更する。符号化部702は、通常モード用の符号化方式に従って、動画像データのうち残りの部分を符号化する。
〔ステップST702−8〕
次に、符号化部702は、ピクチャ1枚分の動画像データの符号化を完了すると、終了信号を出力する。符号化処理制御部704は、符号化部702から出力された開始信号,完了信号に基づいて、符号化時間を計測する。
このようにして、図29のように、部分符号化時間が部分予定時間内に収まるまでは部分短縮モード用の符号化方式に従って符号化され、部分符号化時間が部分予定時間内に収まった後は通常モード用の符号化方式に従って符号化される。
<動作>
次に、図26に示した動画像符号化装置による動作について図28を参照しつつ説明する。
〔ステップST701〕
まず、符号化部702および符号化処理制御部704は、符号化モードに応じた符号化処理(通常符号化処理または部分短縮符号化処理)を実行する。
〔ステップST102〕
次に、フレームメモリ101に格納されたすべての動画像データに対して符号化処理が実行されている場合には、処理を終了する。一方、そうでない場合にはステップST103へ進む。
〔ステップST103〕
次に、符号化処理制御部704は、処理時間計測部703によって計測された符号化時間が、算出した予定時間を超過しているか否かを判断する。符号化時間が予定時間を超過している場合にはステップST702へ進む。一方、そうでない場合にはステップST105へ進む。
〔ステップST702〕
次に、符号化処理制御部704は、自己の符号化モードおよび号化部702の符号化モードを「部分短縮モード」に設定する。次に、ステップST701へ進む。
〔ステップST105〕
一方、ステップST103において、符号化時間が予定時間を超過していないと判断されると、符号化処理制御部704は、自己の符号化モードおよび符号化部702の符号化モードを「通常モード」に設定する。次に、ステップST701へ進む。
<効果>
以上のように、動画像データの一部分の符号化が完了する毎に、符号化時間が予定時間を超過しているか否かを判断することによって、ピクチャ1枚分の動画像データの符号化が完了する前に、通常符号化処理に復帰することができる。これにより、符号化時間を過剰に短縮することを防ぐことができ、画質低下等を抑制することができる。
本発明にかかる動画像符号化装置は、符号化時間を短縮することができるので、外部要因での稀な処理量増加による画像乱れやシステム破綻を防ぐことができ、低周波数な演算装置における画像符号化で異常が発生した際のシステム保証等としても有用である。
この発明の第1の実施形態による動画像符号化装置の全体構成を示すブロック図である。 通常符号化処理について説明するためのフローチャートである。 短縮符号化処理について説明するためのフローチャートである。 図1に示した動画像符号化装置による動作について説明するためのフローチャートである。 通常符号化処理について説明するためのタイミングチャートである。 短縮符号化処理について説明するためのタイミングチャートである。 この発明の第1の実施形態による動画像符号化装置の変形例を示すブロック図である。 図6に示した動画像符号化装置による動作(短縮符号化処理)について説明するためのフローチャートである。 図7に示した短縮符号化処理について説明するためのタイミングチャートである。 この発明の第2の実施形態による動画像符号化装置の全体構成を示すブロック図である。 図9に示した動画像符号化装置による動作について説明するためのフローチャートである。 図10に示した短縮符号化処理について説明するためのタイミングチャートである。 この発明の第3の実施形態による動画像符号化装置の全体構成を示すブロック図である。 図12に示した動画像符号化装置による動作について説明するためのフローチャートである。 この発明の第4の実施形態による動画像符号化装置の全体構成を示すブロック図である。 図14に示した動画像符号化装置による動作について説明するためのフローチャートである。 図15に示したステップST401における処理について説明するためのフローチャートである。 この発明の第5の実施形態による動画像符号化装置の全体構成を示すブロック図である。 図17に示した動画像符号化装置による動作を説明するためのフローチャートである。 図18に示した短縮符号化処理について説明するためのタイミングチャートである。 ピクチャグループ単位で実行される短縮符号化処理について説明するための図である。 動画像データの取り込みについて説明するための図である。 この発明の第6の実施形態による動画像符号化装置の全体構成を示すブロック図である。 図21に示した動画像符号化装置による動作について説明するためのフローチャートである。 図22に示した抑制処理について説明するためのフローチャートである。 図22に示した抑制処理について説明するためのフローチャートである。 抑制処理において参照される動画像データについて説明するための図である。 この発明の第7の実施形態による動画像符号化装置の全体構成を示すブロック図である。 図26に示した動画像符号化装置による動作について説明するためのフローチャートである。 図27に示した部分短縮符号化処理について説明するためのフローチャートである。 図27に示した処理を説明するための図である。
101 フレームメモリ
102,102−1,302,602,702 符号化部
103,503,703 処理時間計測部
104,104−1,204,304,404,504,604,704 符号化処理制御部
105 バッファメモリ
201 ピクチャタイプ検出部
10〜70 処理時間制御部
401 閾値変更部
10〜70 処理時間制御部

Claims (14)

  1. 複数の動画像データを符号化する装置であって、
    符号化部と、
    計測部と、
    ピクチャタイプ検出部と、
    制御部とを備え、
    前記複数の動画像データは、
    他の動画像データの符号化のときに参照される被参照ピクチャと、
    前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、
    前記符号化部は、前記複数の動画像データのうちいずれか1つを符号化し、
    前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、
    前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、
    前記制御部は、前記計測部によって計測された時間が前記動画像データのフレームレートに基づく所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データであり、かつ、前記ピクチャタイプ検出部によって参照ピクチャであると検出された動画像データの中から少なくとも1つを選択し、その選択した動画像データを前記符号化部に符号化させることなく、その選択した動画像データの符号化データに代わる所定ビットストリームを生成する
    ことを特徴とする動画像符号化装置。
  2. 複数の動画像データを符号化する装置であって、
    符号化部と、
    計測部と、
    ピクチャタイプ検出部と、
    基準時間選択部と、
    制御部とを備え、
    前記複数の動画像データは、
    他の動画像データの符号化のときに参照される被参照ピクチャと、
    前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、
    前記符号化部は、前記複数の動画像データのうちいずれか1つを符号化するものであって、第1の符号化方式と、前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式とを有し、
    前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、
    前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、
    前記基準時間選択部は、前記ピクチャタイプ検出部によるピクチャタイプの検出結果に応じて、前記動画像データのフレームレートに基づく第1の所定時間と、前記第1の所定時間よりも短い第2の所定時間とを設定し、
    前記制御部は、
    前記計測部によって計測された時間が前記基準時間選択部によって設定された第1の所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つを選択し、その選択した動画像データを前記符号化部に符号化させることなく、その選択した動画像データの符号化データに代わる所定ビットストリームを生成し、
    前記計測部によって計測された時間が前記基準時間選択部によって設定された第1の所定時間を超過しておらず前記基準時間選択部によって設定された第2の所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つを選択し、前記符号化部にその選択した動画像データを前記第2の符号化方式に従って符号化させる
    ことを特徴とする動画像符号化装置。
  3. 複数の動画像データを符号化する装置であって、
    符号化部と、
    ピクチャタイプ検出部と、
    計測部と、
    制御部とを備え、
    前記複数の動画像データは、
    他の動画像データの符号化のときに参照される第1の被参照ピクチャと、
    前記第1の被参照ピクチャの後に符号化される第2の被参照ピクチャと、
    前記第2の被参照ピクチャの後に符号化される第3の被参照ピクチャと、
    前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在し、かつ、当該第1および第2の被参照ピクチャに基づいて双方向フレーム間予測符号化される参照ピクチャと、
    前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在し、かつ、当該第2および第3の被参照ピクチャに基づいて双方向フレーム間予測符号化される参照ピクチャとを含み、
    前記符号化部は、前記複数の動画像データのうちいずれか1つを符号化し、
    前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、
    前記計測部は、前記ピクチャタイプ検出部によって第1の被参照ピクチャであると検出された動画像データが前記符号化部によって符号化されるために要した時間と、その第1の被参照ピクチャであると検出された動画像データと前記ピクチャタイプ検出部によって第2の被参照ピクチャであると検出された動画像データとの間に存在する動画像データが前記符号化部によって符号化されるために要した時間との合計時間を計測し、
    前記制御部は、前記計測部によって計測された合計時間が前記動画像データのフレームレートに基づく所定合計時間を超過していると判断すると、前記ピクチャタイプ検出部によって第2の被参照ピクチャであると検出された動画像データを前記符号化部に符号化させることなく当該動画像データに代わる所定ビットストリームを生成し、かつ、その第2の被参照ピクチャであると検出された動画像データと前記ピクチャタイプ検出部によって第3の被参照ピクチャであると検出された動画像データとの間に存在する動画像データ(参照ピクチャ)を前記符号化部に符号化させることなく当該動画像データに代わる所定ビットストリームを生成する
    ことを特徴とする動画像符号化装置。
  4. 複数の動画像データを符号化する装置であって、
    符号化部と、
    計測部と、
    ピクチャタイプ検出部と、
    制御部とを備え、
    前記複数の動画像データは、
    他のピクチャの符号化のときに参照される第1の被参照ピクチャと、
    前記第1の被参照ピクチャの後に符号化される第2の被参照ピクチャと、
    前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在し、かつ、当該第1および第2の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、
    前記符号化部は、前記複数の動画像データのうちいずれか1つを符号化するものであって、第1の予測符号化方式と第2の予測符号化方式とを有し、前記第1の予測符号化方式では、前記第1および第2の被参照ピクチャの間に存在する参照ピクチャを、当該第1および第2の被参照ピクチャに基づいて双方向フレーム間予測符号化し、
    前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、
    前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、
    前記制御部は、前記計測部によって計測された時間が前記動画像データのフレームレートに基づく所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つを選択し、その選択した動画像データを前記符号化部に符号化させることなく、その選択した動画像データの符号化データに代わる所定ビットストリームを生成し、前記ピクチャタイプ検出部によって前記所定ビットストリームを生成した動画像データが前記第1または第2の被参照ピクチャであると検出されると、前記符号化部の符号化方式を前記第2の予測符号化方式にし、
    前記符号化部は、前記第2の予測符号化方式では、当該第1および第2の被参照ピクチャの間に存在する参照ピクチャを、双方向フレーム間予測符号化をすることなく、当該第1および第2の被参照ピクチャのうち前記所定ビットストリームが生成されていない方に基づいてフレーム間予測符号化する
    ことを特徴とする動画像符号化装置。
  5. 請求項において、
    前記複数の動画像データは、
    前記第2の被参照ピクチャの後に符号化される第3の被参照ピクチャと、
    前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在し、かつ、当該第2および第3の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとをさらに含み、
    前記符号化部は、前記第1の予測符号化方式では、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在する参照ピクチャを当該第1および第2の被参照ピクチャに基づいて双方向フレーム間予測符号化し、かつ、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在する参照ピクチャを当該第2および第3の被参照ピクチャに基づいて双方向フレーム間予測符号化し、
    前記制御部は、前記ピクチャタイプ検出部によって前記所定ビットストリームを生成した動画像データが前記第2の被参照ピクチャであると検出されると、前記符号化部の符号化方式を前記第2の予測符号化方式にし、
    前記符号化部は、前記第2の予測符号化方式では、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在する参照ピクチャを双方向フレーム間予測符号化することなく当該第1の被参照ピクチャに基づいてフレーム間予測符号化し、かつ、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在する参照ピクチャを双方向フレーム間予測符号化することなく当該第3の被参照ピクチャに基づいてフレーム間予測符号化する
    ことを特徴とする動画像符号化装置。
  6. 請求項1〜請求項のいずれか1つにおいて、
    前記所定ビットストリームは、前記符号化部によってすでに符号化された動画像データのコピーストリームである
    ことを特徴とする動画像符号化装置。
  7. 複数の動画像データを符号化する装置であって、
    符号化部と、
    計測部と、
    ピクチャタイプ検出部と、
    制御部とを備え、
    前記複数の動画像データは、
    他の動画像データの符号化のときに参照される被参照ピクチャと、
    前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、
    前記符号化部は、第1の符号化方式と前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式とを有し、前記第1および第2の符号化方式のうちいずれか一方に従って前記複数の動画像データのうちいずれか1つを符号化し、
    前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、
    前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、
    前記制御部は、前記計測部によって計測された時間が前記動画像データのフレームレートに基づく所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データであり、かつ、前記ピクチャタイプ検出部によって参照ピクチャであると検出された動画像データの中から少なくとも1つを選択し、その選択した動画像データを前記符号化部に前記第2の符号化方式に従って符号化させる
    ことを特徴とする動画像符号化装置。
  8. 複数の動画像データを符号化する装置であって、
    符号化部と、
    計測部と、
    ピクチャタイプ検出部と、
    基準時間選択部と、
    制御部とを備え、
    前記複数の動画像データは、
    他の動画像データの符号化のときに参照される被参照ピクチャと、
    前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、
    前記符号化部は、第1の符号化方式と、前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式と、前記第2の符号化方式よりも符号化に要する時間が短い第3の符号化方式とを有し、前記第1,第2,第3の符号化方式のうちいずれか一方に従って前記複数の動画像データのうちいずれか1つを符号化し、
    前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、
    前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、
    前記基準時間選択部は、前記ピクチャタイプ検出部によるピクチャタイプの検出結果に応じて、前記動画像データのフレームレートに基づく第1の所定時間と、前記第1の所定時間よりも短い第2の所定時間とを設定し、
    前記制御部は、
    前記計測部によって計測された時間が前記基準時間選択部によって設定された第1の所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つを選択し、その選択した動画像データを前記符号化部に前記第3の符号化方式に従って符号化させ、
    前記計測部によって計測された時間が前記基準時間選択部によって設定された第1の所定時間を超過しておらず前記基準時間選択部によって設定された第2の所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つを選択し、前記符号化部にその選択した動画像データを前記第2の符号化方式に従って符号化させる
    ことを特徴とする動画像符号化装置。
  9. 複数の動画像データを符号化する装置であって、
    符号化部と、
    ピクチャタイプ検出部と、
    計測部と、
    制御部とを備え、
    前記複数の動画像データは、
    他のピクチャの符号化のときに参照される第1の被参照ピクチャと、
    前記第1の被参照ピクチャの後に符号化される第2の被参照ピクチャと、
    前記第2の被参照ピクチャの後に符号化される第3の被参照ピクチャと、
    前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在し、かつ、当該第1および第2の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャと、
    前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在し、かつ、当該第2および第3の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、
    前記符号化部は、第1の符号化方式と前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式とを有し、前記第1および第2の符号化方式のうちいずれか一方に従って前記複数の動画像データのうちいずれか1つを符号化し、
    前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、
    前記計測部は、前記ピクチャタイプ検出部によって第1の被参照ピクチャであると検出された動画像データが前記符号化部によって符号化されるために要した時間と、その第1の被参照ピクチャであると検出された動画像データと前記ピクチャタイプ検出部によって第2の被参照ピクチャであると検出された動画像データとの間に存在する動画像データが前記符号化部によって符号化されるために要した時間との合計時間を計測し、
    前記制御部は、前記計測部によって計測された合計時間が所定合計時間を超過していると判断すると、前記ピクチャタイプ検出部によって第2の被参照ピクチャであると検出された動画像データを前記符号化部に前記第2の符号化方式に従って符号化させ、かつ、その第2のピクチャであると検出された動画像データと前記ピクチャタイプ検出部によって第3の被参照ピクチャであると検出された動画像データとの間に存在する動画像データ(参照ピクチャ)を前記符号化部に前記第2の符号化方式に従って符号化させる
    ことを特徴とする動画像符号化装置。
  10. 複数の動画像データを符号化する装置であって、
    符号化部と、
    計測部と、
    ピクチャタイプ検出部と、
    制御部とを備え、
    前記複数の動画像データは、
    他の動画像データの符号化のときに参照される第1の被参照ピクチャと、
    前記第1の被参照ピクチャの後に符号化される第2の被参照ピクチャと、
    前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在し、かつ、当該第1および第2の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、
    前記符号化部は、第1の符号化方式と前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式とを有し、前記第1および第2の符号化方式のうちいずれか一方に従って前記複数の動画像データのうちいずれか1つを符号化し、
    前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、
    前記制御部は、前記計測部によって計測された時間が前記動画像データのフレームレートに基づく所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つの動画像データを選択し、その選択した動画像データを前記符号化部に前記第2の符号化方式に従って符号化させ、
    前記符号化部は、第1の予測符号化方式と第2の予測符号化方式とをさらに有し、前記第1の予測符号化方式では、前記第1および第2の被参照ピクチャの間に存在する参照ピクチャを、当該第1および第2の被参照ピクチャに基づいて双方向フレーム間予測符号化し、
    前記ピクチャタイプ検出部は、前記複数の動画像データの各々のピクチャタイプを検出し、
    前記制御部は、前記第2の符号化方式に従って符号化された動画像データが前記ピクチャタイプ検出部によって前記第1または第2の被参照ピクチャであると検出されると、前記符号化部の符号化方式を前記第2の予測符号化方式にし、
    前記符号化部は、前記第2の予測符号化方式では、前記符号化部に当該第1および第2の被参照ピクチャの間に存在する参照ピクチャを、双方向フレーム間予測符号化をすることなく、当該第1および第2の被参照ピクチャのうち前記第2の符号化方式に従って符号化されていない方に基づいてフレーム間予測符号化する
    ことを特徴とする動画像符号化装置。
  11. 請求項10において、
    前記複数の動画像データは、
    前記第2の被参照ピクチャの後に符号化される第3の被参照ピクチャと、
    前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在し、かつ、当該第2および第3の被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとをさらに含み、
    前記符号化部は、前記第1の予測符号化方式では、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在する参照ピクチャを当該第1および第2の被参照ピクチャに基づいて双方向フレーム間予測符号化し、かつ、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在する参照ピクチャを当該第2および第3の被参照ピクチャに基づいて双方向フレーム間予測符号化し、
    前記制御部は、前記第2の符号化方式に従って符号化された動画像データが前記ピクチャタイプ検出部によって前記第2の被参照ピクチャであると検出されると、前記符号化部の符号化方式を前記第2の予測符号化方式にし、
    前記符号化部は、前記第2の予測符号化方式では、前記第1の被参照ピクチャと前記第2の被参照ピクチャとの間に存在する参照ピクチャを双方向フレーム間予測符号化することなく当該第1の被参照ピクチャに基づいてフレーム間予測符号化し、かつ、前記第2の被参照ピクチャと前記第3の被参照ピクチャとの間に存在する参照ピクチャを双方向フレーム間予測符号化することなく当該第3の被参照ピクチャに基づいてフレーム間予測符号化する
    ことを特徴とする動画像符号化装置。
  12. 複数の動画像データを符号化する装置であって、
    符号化部と、
    計測部と、
    制御部とを備え、
    前記符号化部は、第1の符号化方式と前記第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式とを有し、前記第1および第2の符号化方式のうちいずれか一方に従って前記複数の動画像データのうちいずれか1つを符号化し、
    前記計測部は、前記符号化部による動画像データの符号化に要した時間を計測し、
    前記制御部は、前記計測部によって計測された時間が前記動画像データのフレームレートに基づく所定時間を超過していると判断すると、前記複数の動画像データのうち前記符号化部によって符号化された動画像データよりも後に符号化される動画像データの中から少なくとも1つの動画像データを選択し、その選択した動画像データを前記符号化部に前記第2の符号化方式に従って符号化させ、
    前記計測部は、さらに、前記符号化部によって動画像データのうち所定量のデータが符号化されるまでに要した部分符号化時間を計測し、
    前記制御部は、前記符号化部が前記第2の符号化方式に従って動画像データを符号化しているときに、前記計測部によって計測された部分符号化時間が前記動画像データのフレームレートに基づいた部分所定時間を超過していないと判断すると、前記符号化部によって符号化されている動画像データのうち未だ符号化されていない部分を前記符号化に前記第1の符号化方式に従って符号化させる
    ことを特徴とする動画像符号化装置。
  13. 複数の動画像データを符号化する方法であって、
    前記複数の動画像データは、
    他の動画像データの符号化のときに参照される被参照ピクチャと、
    前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、
    前記方法は、
    前記複数の動画像データのうちいずれか1つを符号化するステップ(A)と、
    前記ステップ(A)において動画像データの符号化に要した時間を計測するステップ(B)と、
    前記ステップ(B)において計測された時間が所定時間を超過しているか否かを判断するステップ(C)と、
    前記複数の動画像データの各々のピクチャタイプを検出するステップ(D)と、
    前記ステップ(C)において前記ステップ(B)にて計測された時間が所定時間を超過していると判断されると、前記複数の動画像データのうち前記ステップ(A)において符号化された動画像データよりも後に符号化される動画像データであり、かつ、前記ステップ(D)において参照ピクチャであると検出された動画像データの中から少なくとも1つを選択するステップ(E)と、
    前記ステップ(E)において選択された動画像データを符号化することなく、当該動画像データの符号化データに代わる所定ビットストリームを生成するステップ(F)とを備える
    ことを特徴とする画像符号化方法。
  14. 複数の動画像データを符号化する方法であって、
    前記複数の動画像データは、
    他の動画像データの符号化のときに参照される被参照ピクチャと、
    前記被参照ピクチャに基づいてフレーム間予測符号化される参照ピクチャとを含み、
    前記方法は、
    第1の符号化方式に従って前記複数の動画像データのうちいずれか1つを符号化するステップ(A)と、
    前記ステップ(A)において動画像データの符号化に要した時間を計測するステップ(B)と、
    前記ステップ(B)において計測された時間が所定時間を超過しているか否かを判断するステップ(C)と、
    前記複数の動画像データの各々のピクチャタイプを検出するステップ(D)と、
    前記ステップ(C)において前記ステップ(B)にて計測された時間が所定時間を超過していると判断されると、前記複数の動画像データのうち前記ステップ(A)において符号化された動画像データよりも後に符号化される動画像データであり、かつ、前記ステップ(D)において参照ピクチャであると検出された動画像データの中から少なくとも1つを選択するステップ(E)と、
    前記ステップ(E)において選択された動画像データを前記ステップ(A)における第1の符号化方式よりも符号化に要する時間が短い第2の符号化方式に従って符号化するステップ(F)とを備える
    ことを特徴とする動画像符号化方法。
JP2005257192A 2005-09-06 2005-09-06 動画像符号化装置,動画像符号化方法 Expired - Fee Related JP4623650B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005257192A JP4623650B2 (ja) 2005-09-06 2005-09-06 動画像符号化装置,動画像符号化方法
US11/516,055 US8094725B2 (en) 2005-09-06 2006-09-06 Video coder, coding controller, and video coding method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005257192A JP4623650B2 (ja) 2005-09-06 2005-09-06 動画像符号化装置,動画像符号化方法

Publications (2)

Publication Number Publication Date
JP2007074173A JP2007074173A (ja) 2007-03-22
JP4623650B2 true JP4623650B2 (ja) 2011-02-02

Family

ID=37855078

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005257192A Expired - Fee Related JP4623650B2 (ja) 2005-09-06 2005-09-06 動画像符号化装置,動画像符号化方法

Country Status (2)

Country Link
US (1) US8094725B2 (ja)
JP (1) JP4623650B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101998137B (zh) * 2009-08-21 2016-09-07 华为技术有限公司 视频质量参数获取方法和装置及电子设备
KR101638912B1 (ko) * 2010-05-31 2016-07-12 엘지전자 주식회사 이동 단말기 및 이것의 리코딩 제어 방법
JP5652066B2 (ja) * 2010-09-03 2015-01-14 ヤマハ株式会社 動画圧縮制御装置、動画記録装置及び動画記録再生装置
JP5843631B2 (ja) * 2012-01-26 2016-01-13 日本電信電話株式会社 フレームレート制御方法,フレームレート制御装置およびフレームレート制御プログラム
JP2014075736A (ja) * 2012-10-05 2014-04-24 Sony Corp サーバ装置および情報処理方法
TW201429229A (zh) * 2013-01-14 2014-07-16 Hon Hai Prec Ind Co Ltd 影片傳輸系統及方法
CN103402086B (zh) * 2013-07-22 2017-02-15 华为技术有限公司 一种用于视频编码系统的性能控制方法及编码器

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1042295A (ja) * 1996-07-19 1998-02-13 Sony Corp 映像信号符号化方法および映像信号符号化装置
JP2003284072A (ja) * 2002-03-26 2003-10-03 Matsushita Electric Works Ltd 動画像送信装置及び動画像通信システム
JP2005080123A (ja) * 2003-09-02 2005-03-24 Sony Corp 映像符号化装置、映像符号化制御方法及び映像符号化制御プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5828411A (en) * 1992-04-15 1998-10-27 Hitachi, Ltd. Low bit rate coder for still and motion images using sub-sampling
US6567554B1 (en) * 1999-03-12 2003-05-20 Victor Company Of Japan, Limited Data coding method and apparatus therefor
JP3324556B2 (ja) * 1999-04-13 2002-09-17 日本電気株式会社 映像記録方式
JP2001346216A (ja) * 2000-06-06 2001-12-14 Toshiba Corp 動画像圧縮方法および情報処理装置
JP4369318B2 (ja) 2003-07-24 2009-11-18 パナソニック株式会社 符号化モード決定装置、画像符号化装置、符号化モード決定方法、および符号化モード決定プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1042295A (ja) * 1996-07-19 1998-02-13 Sony Corp 映像信号符号化方法および映像信号符号化装置
JP2003284072A (ja) * 2002-03-26 2003-10-03 Matsushita Electric Works Ltd 動画像送信装置及び動画像通信システム
JP2005080123A (ja) * 2003-09-02 2005-03-24 Sony Corp 映像符号化装置、映像符号化制御方法及び映像符号化制御プログラム

Also Published As

Publication number Publication date
JP2007074173A (ja) 2007-03-22
US8094725B2 (en) 2012-01-10
US20070058727A1 (en) 2007-03-15

Similar Documents

Publication Publication Date Title
JP4623650B2 (ja) 動画像符号化装置,動画像符号化方法
JP6207116B2 (ja) 監視ビデオをエンコードするための方法及び装置
KR101239567B1 (ko) 움직임 추정에 대한 검색 범위 선택 방법과 그의 시스템 및 컴퓨터 판독가능 저장 매체
JP5576048B2 (ja) 直接モード符号化及び復号化方法
JP5536174B2 (ja) リファレンスビデオフレーム及びノンリファレンスビデオフレームの検出及び隠蔽の方法及び装置
US20210274208A1 (en) Merge with mvd for affine
JP2671820B2 (ja) 両方向予測方法及び両方向予測装置
JP2005303984A (ja) 動きベクトル検出装置及び方法、及びその動きベクトル検出装置を利用可能な画像符号化装置
JPWO2008139721A1 (ja) 復号化装置及び復号化方法
JPH07193822A (ja) 動き予測プロセッサ及び動き予測装置
JP3166736B2 (ja) 動画像符号化装置および動画像符号化方法
CN101466042A (zh) 代码量控制方法及装置、照相机系统
JP2007013419A (ja) 画像処理装置、画像処理方法
US20080291062A1 (en) Image coding apparatus and method thereof
TWI493942B (zh) 動畫像編碼方法、動畫像編碼裝置及動畫像編碼程式
JP2010056600A (ja) 映像信号符号化装置及び映像信号復号化装置
JP4184389B2 (ja) 動きベクトル復号装置および復号方法
JP2897669B2 (ja) 動きベクトル検出装置
JP2006229659A (ja) 動画像圧縮方法及び装置並びにプログラム
JP2019057886A (ja) 符号化装置、符号化方法及びプログラム
JP4796186B2 (ja) 可変長データのメモリ格納方法、および可変長データ記憶装置
JP3933483B2 (ja) 画像符号化方法及び画像復号化方法
JP4555186B2 (ja) ディジタル動画像復号装置およびディジタル動画像復号方法
JP4231097B2 (ja) 動きベクトル復号装置および復号方法
JP2006086684A (ja) 動画像符号化装置及び動画像符号化用プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080901

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100909

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101005

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101029

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131112

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees