JP2010187116A - 動画処理装置 - Google Patents
動画処理装置 Download PDFInfo
- Publication number
- JP2010187116A JP2010187116A JP2009028801A JP2009028801A JP2010187116A JP 2010187116 A JP2010187116 A JP 2010187116A JP 2009028801 A JP2009028801 A JP 2009028801A JP 2009028801 A JP2009028801 A JP 2009028801A JP 2010187116 A JP2010187116 A JP 2010187116A
- Authority
- JP
- Japan
- Prior art keywords
- time
- moving image
- offset
- output
- motion vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/804—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
- H04N9/8042—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
【課題】動画像撮影時の時刻的な移動ブレの均一化に対して有利な動画処理装置を提供する。
【解決手段】動画処理装置は、エンコードフレームの動きベクトル量MVを出力する動画像エンコーダ1と、動きベクトル量MVを基に、その動きベクトルを有する動画像フレームとその前の動画像フレームとの間の動き量を判断し、再生時刻のオフセット(Toffset)を算出する再生時刻変更装置3と、基準時刻と上記再生時刻のオフセット(Toffset)から対象フレームの再生時刻を生成する再生時刻生成装置22と、前記動画像エンコーダより出力されエンコードされた動画像データに、前記再生時刻生成装置で生成された再生時刻を付加する再生時刻付加装置21とを具備する。
【選択図】 図1
【解決手段】動画処理装置は、エンコードフレームの動きベクトル量MVを出力する動画像エンコーダ1と、動きベクトル量MVを基に、その動きベクトルを有する動画像フレームとその前の動画像フレームとの間の動き量を判断し、再生時刻のオフセット(Toffset)を算出する再生時刻変更装置3と、基準時刻と上記再生時刻のオフセット(Toffset)から対象フレームの再生時刻を生成する再生時刻生成装置22と、前記動画像エンコーダより出力されエンコードされた動画像データに、前記再生時刻生成装置で生成された再生時刻を付加する再生時刻付加装置21とを具備する。
【選択図】 図1
Description
この発明は、動画処理装置に関し、例えば、ビデオ装置や動画編集装置等に適用し得るものである。
ビデオ装置等の動画処理装置において、動画撮影時の画面レート(1秒間に表示する画像数)を基準として動画再生時刻を変更するものがある(例えば、特許文献1参照)。
しかしながら、一般的な動画撮影では、画面レートは一定にしている。そのため、画面レートが一定の一般的な動画撮影では、急激な画面移動が伴う急激なパン操作などの時刻的に急な移動や、一定速度の移動撮影時の移動ブレなどを均一化することが、従来技術では行うことができない。
この発明は、動画像撮影時の時刻的な移動ブレの均一化に対して有利な動画処理装置を提供する。
この発明の一態様に係る動画処理装置は、エンコードフレームの動きベクトル量を出力する動画像エンコーダと、動きベクトル量を基に、その動きベクトルを有する動画像フレームとその前の動画像フレームとの間の動き量を判断し、再生時刻のオフセットを算出する再生時刻変更装置と、基準時刻と上記再生時刻のオフセットから対象フレームの再生時刻を生成する再生時刻生成装置と、前記動画像エンコーダより出力されエンコードされた動画像データに、前記再生時刻生成装置で生成された再生時刻を付加する再生時刻付加装置とを具備する。
この発明によれば、動画像撮影時の時刻的な移動ブレの均一化に対して有利な動画処理装置が得られる。
以下、この発明の実施形態について図面を参照して説明する。尚、この説明においては、全図にわたり共通の部分には共通の参照符号を付す。
[第1の実施形態]
<1.構成例>
この発明の第1の実施形態に係る動画処理装置の構成例を説明する。
1−1.全体構成例
まず、図1を用いて、第1の実施形態に係る動画処理装置の全体構成例を説明する。
図示するように、本例に係る動画処理装置は、動画像エンコーダ1、時刻情報付加部2、再生時刻生成装置3を備える。
<1.構成例>
この発明の第1の実施形態に係る動画処理装置の構成例を説明する。
1−1.全体構成例
まず、図1を用いて、第1の実施形態に係る動画処理装置の全体構成例を説明する。
図示するように、本例に係る動画処理装置は、動画像エンコーダ1、時刻情報付加部2、再生時刻生成装置3を備える。
動画像エンコーダ1は、外部から入力されたビデオ入力VINに対して動画像エンコードの過程でエンコード画像の各MB(Macro block:マクロブロック)の動きベクトルMVを算出して再生時刻変更装置3に出力し、またエンコードした動画像データを時刻情報付加装置2に出力する。
動画像エンコーダ1は、減算器S1、DCT11、量子化部12、符号化部13、逆量子化部14、IDCT15、ループフィルタ16、バッファ17、動き補償部18、および動き予測部19を有する。
減算器S1は、外部からのビデオ入力VINおよび動き補償生成部18からの出力を、減分して出力する。
DCT(ディスクリートコサイントランスフォーム)11は、減算器S1からの出力を離散コサイン変換して出力する。
量子化部12は、DTC11からの出力を量子化して出力する。
符号化部13は、量子化部12からの出力を符号化して出力する。この符号化部13より符号化された出力は、エンコードされた動画像データとして、時刻情報付加装置21に出力される。
逆量子化部14は、量子化部12からの出力を逆量子化して出力する。
IDCT(インバースディスクリートコサイントランスフォーム)15は、逆量子化部14からの出力を、逆離散コサイン変換して出力する。
ループフィルタ16は、IDCT15からの出力に固定値を乗算した値を加算して出力する。
バッファ17は、ループフィルタ16からの出力を一時的に保持する。
動き補償部18は、バッファ17からの出力に動き補償を与え減算器S1に出力する。
動き予測部19は、ビデオ入力VINおよびバッファ17からの出力を受けて、動きベクトルMVを出力する。
動画像エンコーダ1は、減算器S1、DCT11、量子化部12、符号化部13、逆量子化部14、IDCT15、ループフィルタ16、バッファ17、動き補償部18、および動き予測部19を有する。
減算器S1は、外部からのビデオ入力VINおよび動き補償生成部18からの出力を、減分して出力する。
DCT(ディスクリートコサイントランスフォーム)11は、減算器S1からの出力を離散コサイン変換して出力する。
量子化部12は、DTC11からの出力を量子化して出力する。
符号化部13は、量子化部12からの出力を符号化して出力する。この符号化部13より符号化された出力は、エンコードされた動画像データとして、時刻情報付加装置21に出力される。
逆量子化部14は、量子化部12からの出力を逆量子化して出力する。
IDCT(インバースディスクリートコサイントランスフォーム)15は、逆量子化部14からの出力を、逆離散コサイン変換して出力する。
ループフィルタ16は、IDCT15からの出力に固定値を乗算した値を加算して出力する。
バッファ17は、ループフィルタ16からの出力を一時的に保持する。
動き補償部18は、バッファ17からの出力に動き補償を与え減算器S1に出力する。
動き予測部19は、ビデオ入力VINおよびバッファ17からの出力を受けて、動きベクトルMVを出力する。
時刻情報付加部2は、時刻情報付加装置21および再生時刻生成装置22を有する。
時刻情報付加装置21は、符号化部13から出力されるエンコードした動画像データおよび再生時刻生成装置21からの出力を受けて、時刻情報付きデコード出力DOUTとして外部の再生装置等に出力する。より具体的には後述するが、時刻情報付加装置21では、再生時刻生成装置22によって生成された時刻をエンコードデータの出力に付加して出力する。例えば、再生時刻生成装置22で発生させた1単位時間遅れた時刻が、エンコードデータの出力に付加され、時刻情報付きデコード出力DOUTとして、再生装置等の外部に出力される。
時刻情報付加装置21は、符号化部13から出力されるエンコードした動画像データおよび再生時刻生成装置21からの出力を受けて、時刻情報付きデコード出力DOUTとして外部の再生装置等に出力する。より具体的には後述するが、時刻情報付加装置21では、再生時刻生成装置22によって生成された時刻をエンコードデータの出力に付加して出力する。例えば、再生時刻生成装置22で発生させた1単位時間遅れた時刻が、エンコードデータの出力に付加され、時刻情報付きデコード出力DOUTとして、再生装置等の外部に出力される。
再生時刻生成装置22は、再生時刻変更オフセット算出部32の出力であるオフセット信号Toffsetを受けて、再生時刻を時刻情報付加装置21に出力する。
再生時刻生成装置3は、動きベクトル集計部31、再生時刻変更オフセット算出部32、およびバッファ33を有する。
動きベクトル集計部31は、動き予測部19の出力である動きベクトルMV受けて、バッファ33および再生時刻変換オフセット算出部32に出力する。より具体的には、後述するが、動きベクトル集計部31は、入力された動きベクトルMVを平均化した平均化動きベクトルを出力する。
再生時刻変更オフセット算出部32は、動きベクトル集計部31の出力、バッファ33の出力、および外部(ユーザ、ホスト装置等)からの固定値である差分しきい値THを受けて、再生時刻生成装置21にオフセット信号Toffsetを出力する。
バッファ33は、動きベクトル集計部31の出力を一時的に保持し、前の時刻の値として再生時刻変更オフセット算出部32に出力する。
再生時刻変更オフセット算出部32は、動きベクトル集計部31の出力、バッファ33の出力、および外部(ユーザ、ホスト装置等)からの固定値である差分しきい値THを受けて、再生時刻生成装置21にオフセット信号Toffsetを出力する。
バッファ33は、動きベクトル集計部31の出力を一時的に保持し、前の時刻の値として再生時刻変更オフセット算出部32に出力する。
1−2.再生時刻生成装置の構成例
次に、図2を用いて、第1の実施形態に係る再生時刻生成装置22の構成例を説明する。
図示するように、本例に係る再生時刻生成装置22は、前回の出力時刻記憶バッファ25、基準固定時刻オフセット生成部26、および加算器A1、A2を有する。
次に、図2を用いて、第1の実施形態に係る再生時刻生成装置22の構成例を説明する。
図示するように、本例に係る再生時刻生成装置22は、前回の出力時刻記憶バッファ25、基準固定時刻オフセット生成部26、および加算器A1、A2を有する。
前回の出力時刻記憶バッファ25は、加算器A2の出力を受けてこれを前回の出力時間として一時的に記憶し、所定のタイミングで、加算器A1に出力する。
基準固定時刻オフセット生成部26は、基準固定時刻オフセットを生成し、生成した基準固定時刻オフセットを、所定のタイミングで、加算器A1に出力する。
加算器A1は、前回の出力時刻記憶バッファ25の出力(前回の出力時刻)および基準固定時刻オフセット生成部26の出力(基準固定時刻オフセット)を受けて、これを加算し、加算器A2に出力する。
加算器A2は、加算器A1の出力および時刻情報変更装置3からのオフセット値(オフセット信号)Toffsetを受けて、これを加算し、時刻情報付加装置21へ出力する。
基準固定時刻オフセット生成部26は、基準固定時刻オフセットを生成し、生成した基準固定時刻オフセットを、所定のタイミングで、加算器A1に出力する。
加算器A1は、前回の出力時刻記憶バッファ25の出力(前回の出力時刻)および基準固定時刻オフセット生成部26の出力(基準固定時刻オフセット)を受けて、これを加算し、加算器A2に出力する。
加算器A2は、加算器A1の出力および時刻情報変更装置3からのオフセット値(オフセット信号)Toffsetを受けて、これを加算し、時刻情報付加装置21へ出力する。
上記のような構成によれば、再生時刻生成装置22は、再生時刻変更装置3から入力されるオフセット値Toffsetが0の場合、装置22内で前回出力した時刻に一定間隔の固定オフセット値を加算して現在の再生時刻を生成する。
一方、再生時刻生成装置22は、再生時刻変更装置3から入力されるオフセット値Toffsetが0でない場合、即ち、再生時刻情報に遅れオフセット値(+Toffset)がある場合は、オフセット値分進みが少ない再生時刻を発生させる。そのため、本実施例の場合は、再生時刻生成装置22にて、例えば、1単位時間の遅れオフセットが入力され、対象となるフレームに1単位時間分だけ時間を遅らせた時刻を発生させる。上記動作の詳細は、後述する。
また、続く時刻情報付加装置21では、再生時刻生成装置22によって生成された時刻をエンコードデータの出力に付加して出力する。上記の場合、例えば、再生時刻生成装置22で発生させた1単位時間遅れた時刻が、エンコードデータの出力に付加され、時刻情報付きデコード出力DOUTとして、再生装置等の外部に出力される。
<2.動画処理動作(再生時刻変更動作)>
次に、第1の実施形態に係る動画処理装置の動画処理動作について説明する。
2−1.動きベクトル集計部の動作
まず、第1の実施形態に係る動きベクトル集計部31の動作について説明する。この説明においては、図3に示すフローに則して説明する。
次に、第1の実施形態に係る動画処理装置の動画処理動作について説明する。
2−1.動きベクトル集計部の動作
まず、第1の実施形態に係る動きベクトル集計部31の動作について説明する。この説明においては、図3に示すフローに則して説明する。
(ステップS1−1)
まず、動画像エンコーダ1から出力された各MBの動きベクトル量MVは、動きベクトル集計部31に入力される。
まず、動画像エンコーダ1から出力された各MBの動きベクトル量MVは、動きベクトル集計部31に入力される。
(ステップS1−2)
続いて、動きベクトル集計部31は、動画像エンコーダ装置1から集計したMBごとの動きベクトル情報MVを平均化した平均化動きベクトルを算出する。
続いて、動きベクトル集計部31は、動画像エンコーダ装置1から集計したMBごとの動きベクトル情報MVを平均化した平均化動きベクトルを算出する。
(ステップS1−3)
続いて、動きベクトル集計部31は、上記のステップS1−2で算出した平均化動きベクトル量を、バッファ33および再生時刻変更オフセット算出部32に出力する。このように、算出された平均化動きベクトル量は、バッファ33に蓄えられ、再生時刻変更オフセット算出部32へ出力される。
続いて、動きベクトル集計部31は、上記のステップS1−2で算出した平均化動きベクトル量を、バッファ33および再生時刻変更オフセット算出部32に出力する。このように、算出された平均化動きベクトル量は、バッファ33に蓄えられ、再生時刻変更オフセット算出部32へ出力される。
2−2.再生時刻オフセット算出部の動作
次に、第1の実施形態に係る再生時刻オフセット算出部32の動作について説明する。この説明においては、図4に示すフローに則して説明する。
次に、第1の実施形態に係る再生時刻オフセット算出部32の動作について説明する。この説明においては、図4に示すフローに則して説明する。
(ステップS2−1)
まず、再生時刻変更オフセット算出部32には、動きベクトル集計部31から入力された平均化動きベクトル量と、バッファ33に蓄えられたひとつ前のフレームの平均化動きベクトル量、および本装置の外部から指定される差分しきい値THが入力される。その後、再生時刻変更オフセット算出部32は、以下の動作を行う。
まず、再生時刻変更オフセット算出部32には、動きベクトル集計部31から入力された平均化動きベクトル量と、バッファ33に蓄えられたひとつ前のフレームの平均化動きベクトル量、および本装置の外部から指定される差分しきい値THが入力される。その後、再生時刻変更オフセット算出部32は、以下の動作を行う。
(ステップS2−2)
即ち、再生時刻変更オフセット算出部32は、現在のフレームの平均化動きベクトルから、一つ前のフレームの平均化動きベクトルを引き、差分平均化動きベクトルを算出する。
即ち、再生時刻変更オフセット算出部32は、現在のフレームの平均化動きベクトルから、一つ前のフレームの平均化動きベクトルを引き、差分平均化動きベクトルを算出する。
(ステップS2−3)
続いて、再生時刻変更オフセット算出部32は、上記ステップS2−2で算出した差分平均化動きベクトルが、外部より指定された差分しきい値THを超えるかどうかを判断する。
続いて、再生時刻変更オフセット算出部32は、上記ステップS2−2で算出した差分平均化動きベクトルが、外部より指定された差分しきい値THを超えるかどうかを判断する。
このステップS2−3の際、差分平均化動きベクトルが、外部より指定された差分しきい値THを超えない場合(No)、ステップS2−6へ続く。
(ステップS2−4)
続いて、上記ステップS2−3の際、差分平均化動きベクトルが、外部より指定された差分しきい値THを超える場合(Yes)、再生時刻変更オフセット算出部32は、再生時刻変更オフセット記録値(Toffset)として、例えば、1単位時間遅れを加算する。
続いて、上記ステップS2−3の際、差分平均化動きベクトルが、外部より指定された差分しきい値THを超える場合(Yes)、再生時刻変更オフセット算出部32は、再生時刻変更オフセット記録値(Toffset)として、例えば、1単位時間遅れを加算する。
ここで、例えば、画面移動が伴う急激なパン操作の場合等では、フレームの動きベクトルは、非常に大きな値となる。そのため、このような場合には差分しきい値THを超えたと判断され、このステップS2−4の動作に続く。このように、差分しきい値THを超えると、再生時刻変更オフセット記録値(Toffset)として、例えば、1単位時間遅れを加算する。
(ステップS2−5)
続いて、再生時刻変更オフセット算出部32は、平均化動きベクトル量から差分しきい値THを引き、引いた値が、差分しきい値THを超えるか再度判定する。
続いて、再生時刻変更オフセット算出部32は、平均化動きベクトル量から差分しきい値THを引き、引いた値が、差分しきい値THを超えるか再度判定する。
このとき、引いた差分平均化動きベクトル量が差分しきい値THを超えないと判断した場合(No)は、何の単位時間遅れも加算せず、ステップS2−6へ続く。
一方、引いた差分平均化動きベクトル量が差分しきい値THを超えると判断した場合(Yes)は、再び上記ステップS2−3へ続く。
(ステップS2−6)
続いて、再生時刻変更オフセット算出部32は、再生時刻変更オフセット記録値(Toffset)を、再生時刻発生装置22へ出力し、この動作を終了する。
続いて、再生時刻変更オフセット算出部32は、再生時刻変更オフセット記録値(Toffset)を、再生時刻発生装置22へ出力し、この動作を終了する。
<3.時刻情報付きデコード出力DOUTについて>
次に、図5を用いて、上記説明した構成および動作による時刻情報付きデコード出力DOUTについて説明する。図5中の横軸(time)はデコード出力DOUTに付加する時刻情報を示し、ΔTは再生時刻生成装置22の基準固定時刻オフセット生成部で生成するオフセット時刻である。図5中の(a)は、オフセット情報Toffsetがない場合(オフセット値が0の場合)のデコード出力DOUTである。図5中の(b)は、オフセット情報Toffsetがある場合のデコード出力DOUTである。
次に、図5を用いて、上記説明した構成および動作による時刻情報付きデコード出力DOUTについて説明する。図5中の横軸(time)はデコード出力DOUTに付加する時刻情報を示し、ΔTは再生時刻生成装置22の基準固定時刻オフセット生成部で生成するオフセット時刻である。図5中の(a)は、オフセット情報Toffsetがない場合(オフセット値が0の場合)のデコード出力DOUTである。図5中の(b)は、オフセット情報Toffsetがある場合のデコード出力DOUTである。
図示するように、まず、オフセット情報Toffsetがない場合(a)、およびオフセット情報Toffsetがある場合(b)のデコード出力DOUTに付加される時刻はt0と、同時刻であるとする。
続いて、(a)では、時刻t0に時刻ΔTを加算した時刻t2を付加して次のデコード出力DOUTとして出力する。
この際、(b)では、再生時刻変更装置3から再生時刻付加部2に入力されるオフセット値が0(+T1offset=0)である。そのため、再生時刻付加部2は、装置内で前回出力した時刻に一定間隔の固定オフセット値を加算せず、現在の再生時刻を生成し、時刻t0に時刻ΔTを加算した時刻t2を付加してデコード出力DOUTとして出力する。
そのため、この際の図中の(a)(b)のデコード出力DOUTに付加される時刻は、同時刻である。
続いて、(a)では、上記と同様に時刻t1に時刻ΔTを加算した時刻t4を付加してデコード出力DOUTとして出力する。
この際、(b)では、再生時刻変更装置3から再生時刻付加部2に入力されるオフセット値が、例えば、1単位時間の遅れ(+T2offset=1単位時間)である。そのため、ΔTに1単位時間の遅れを加算した時刻ΔT+T2offsetに時刻t1を加算した時刻t5を付加してデコード出力DOUTとして出力する。
続いて、(a)では、上記と同様に時刻t4に時刻ΔTを加算した時刻t6を付加してデコード出力DOUTとして出力する。
一方、(b)では、再生時刻付加部2は、一定間隔の固定オフセット値と再生時刻変更装置3から入力されるオフセット値(+T3offset=1単位時間)を加算した時刻ΔT+T3offsetに装置内で前回出力した時刻t3を加算した時刻t8を付加してデコード出力DOUTとして出力する。
より具体的には、再生時刻生成装置22に、再生時刻変更装置3から1単位時間の遅れオフセットが入力されたため、対象となるフレームに1単位時間分時間を遅らせた時刻を発生させる。続いて、時刻情報付加装置21は、再生時刻生成装置22によって生成された時刻をエンコードデータに付加する。そのため、再生時刻生成装置で発生させた1単位時間遅れた時刻(T3offset)がエンコードデータに付加され、デコード出力DOUTとして出力される。
このように、急激な画面移動が伴う急激なパン操作のような動画像の記録の際には、しきい値THで指定した速度以上の動きが発生する。しかしながら、本例に係る構成および動作によれば、動画像の記録時に再生を遅くする時刻を付加した再生時間、を出力することができる。このため、本例に係るデコード出力DOUTは、動きが緩やかになり視覚的な不快感が減少される。
このように、急激な画面移動が伴う急激なパン操作のような動画像の記録の際には、しきい値THで指定した速度以上の動きが発生する。しかしながら、本例に係る構成および動作によれば、動画像の記録時に再生を遅くする時刻を付加した再生時間、を出力することができる。このため、本例に係るデコード出力DOUTは、動きが緩やかになり視覚的な不快感が減少される。
<4.作用効果>
この実施形態に係る動画処理装置およびその動画処理動作によれば、少なくとも下記(1)乃至(2)の効果が得られる。
この実施形態に係る動画処理装置およびその動画処理動作によれば、少なくとも下記(1)乃至(2)の効果が得られる。
(1)急激なパン操作の際であっても、動画像撮影時の時刻的な移動ブレの均一化に対して有利である。
上記のように、第1の実施形態に係る動作処理装置は、エンコードフレームの動きベクトル量MVを出力する動画像エンコーダ1と、動きベクトル量MVを基に、その動きベクトルを有する動画像フレームとその前の動画像フレームとの間の動き量を判断し、再生時刻のオフセット(Toffset)を算出する再生時刻変更装置3と、基準時刻と上記再生時刻のオフセット(Toffset)から対象フレームの再生時刻を生成する再生時刻生成装置22と、動画像エンコーダ1から出力されエンコードされた動画像データに、前記再生時刻生成装置で生成された再生時刻を付加する再生時刻付加装置21とを備える。
上記のように、第1の実施形態に係る動作処理装置は、エンコードフレームの動きベクトル量MVを出力する動画像エンコーダ1と、動きベクトル量MVを基に、その動きベクトルを有する動画像フレームとその前の動画像フレームとの間の動き量を判断し、再生時刻のオフセット(Toffset)を算出する再生時刻変更装置3と、基準時刻と上記再生時刻のオフセット(Toffset)から対象フレームの再生時刻を生成する再生時刻生成装置22と、動画像エンコーダ1から出力されエンコードされた動画像データに、前記再生時刻生成装置で生成された再生時刻を付加する再生時刻付加装置21とを備える。
このため、動画像エンコーダ1より出力される動きベクトル量MVを用いて、動画像デコード時に利用する再生時刻情報(DOUT)に、オフセット(Toffset)が加えられた時刻(例えば、1単位時間)を付加した時刻に書き換えることができる。この結果、急激な画面移動が伴う急激なパン操作のような動画像の記録の際であっても、人間の視覚的に不快と感じられる急激な画面移動を補正でき、動画像撮影時の時刻的な移動ブレを均一にする映像効果を得ることができる点で有利である。
例えば、図5に示したように、急激な画面移動が伴う急激なパン操作のような動画像の記録の際には、しきい値THで指定した速度以上の動きが発生する。しかしながら、本例に係る構成および動作によれば、動画像の記録時に再生を遅くする時刻を付加した再生時間、を出力することができる。このため、本例に係るデコード出力DOUTは、動きが緩やかになり視覚的な不快感を減少することができ、動画像撮影時の時刻的な移動ブレの均一化に対して有利である。
このように、本例に係る構成およびその動作によれば、急激なパン操作のような動画像の記録の際の動画像の動き量に応じて、再生速度を撮影時に変更することができる。
(2)製造コストの低減に対して有利である。
上記のように、本例では、外部から指定された固定速度(TH)以上の動きがあった場合は、実際に撮影された時間よりスローな再生を行う動画像を撮影時に作成することができる。
上記のように、本例では、外部から指定された固定速度(TH)以上の動きがあった場合は、実際に撮影された時間よりスローな再生を行う動画像を撮影時に作成することができる。
ここで、本例では、上記再生時に特殊な装置を必要とせず、動きが緩やかな映像を撮影時に得ることができる点で、製造コストコストの低減に対して有利である。
[第2の実施形態(更に遅いフレーム動作に対して時刻補正し得る一例)]
次に、第2の実施形態に係る動画処理装置およびその動作処理動作について、図6乃至図7を用いて説明する。この実施形態は、更に遅いフレーム動作に対しても時刻補正し得る一例に関するものである。この説明において、上記第1の実施形態と重複する部分の詳細な説明を省略する。
次に、第2の実施形態に係る動画処理装置およびその動作処理動作について、図6乃至図7を用いて説明する。この実施形態は、更に遅いフレーム動作に対しても時刻補正し得る一例に関するものである。この説明において、上記第1の実施形態と重複する部分の詳細な説明を省略する。
<動画処理動作(再生時刻変更装置)>
まず、第2の実施形態に係る再生時刻オフセット算出部32の動作について説明する。この説明においては、図6のフローに則して説明する。
まず、第2の実施形態に係る再生時刻オフセット算出部32の動作について説明する。この説明においては、図6のフローに則して説明する。
(ステップS3−1)〜(ステップS3−5)
このステップS3−1〜ステップS3−5の動作は、上記第1の実施形態に係るステップS2−1〜ステップS2−5と同様であるため、詳細な説明を省略する。
このステップS3−1〜ステップS3−5の動作は、上記第1の実施形態に係るステップS2−1〜ステップS2−5と同様であるため、詳細な説明を省略する。
(ステップS3−6)
続いて、ステップS3−6は、上記ステップS3−3の際に、算出した差分平均化動きベクトル量が、外部より指定された差分しきい値HTを超えない場合(No)に、続くものである。
即ち、再生時刻変更オフセット算出部32は、算出した差分平均化動きベクトルが、(外部より指定された差分しきい値TH−進みオフセット)未満であるか否かを判断する点で、上記第1の実施形態と相違する。
このステップS3−6の際、差分平均化動きベクトルが、(外部より指定された差分しきい値TH−進みオフセット)未満でない場合(No)、ステップS3−9へ続く。
続いて、ステップS3−6は、上記ステップS3−3の際に、算出した差分平均化動きベクトル量が、外部より指定された差分しきい値HTを超えない場合(No)に、続くものである。
即ち、再生時刻変更オフセット算出部32は、算出した差分平均化動きベクトルが、(外部より指定された差分しきい値TH−進みオフセット)未満であるか否かを判断する点で、上記第1の実施形態と相違する。
このステップS3−6の際、差分平均化動きベクトルが、(外部より指定された差分しきい値TH−進みオフセット)未満でない場合(No)、ステップS3−9へ続く。
(ステップS3−7)
続いて、上記ステップS3−6の際、差分平均化動きベクトルが、(外部より指定された差分しきい値TH−進みオフセット)未満である場合(Yes)、再生時刻変更オフセット算出部32は、再生時刻変更オフセット記録値(Toffset)として、例えば、1単位時間”進み(マイナス値)”を加算する。
ここで、本実施例で、指定の移動速度より”遅い”場合は、差分平均化動きベクトル量は差分しきい値未満であると判断される。即ち、差分平均化動きベクトル量が再生時刻のオフセットの1単位時間で要する移動距離分の差分動きベクトル量を下回ったときは、オフセット記録値Toffsetとして、例えば、1単位時間の”進み(マイナス値)”を加算する。そして、オフセット記録値(Toffset)を、再生時刻生成装置22へ出力する。
続いて、上記ステップS3−6の際、差分平均化動きベクトルが、(外部より指定された差分しきい値TH−進みオフセット)未満である場合(Yes)、再生時刻変更オフセット算出部32は、再生時刻変更オフセット記録値(Toffset)として、例えば、1単位時間”進み(マイナス値)”を加算する。
ここで、本実施例で、指定の移動速度より”遅い”場合は、差分平均化動きベクトル量は差分しきい値未満であると判断される。即ち、差分平均化動きベクトル量が再生時刻のオフセットの1単位時間で要する移動距離分の差分動きベクトル量を下回ったときは、オフセット記録値Toffsetとして、例えば、1単位時間の”進み(マイナス値)”を加算する。そして、オフセット記録値(Toffset)を、再生時刻生成装置22へ出力する。
(ステップS3−8)
続いて、再生時刻変更オフセット算出部32は、差分平均化動きベクトルから、外部より指定された差分しきい値THを入力し、しきい値THを超えるか否かを、再度判定する。
このとき、加算した差分平均化動きベクトル量が差分しきい値THを超えないと判断した場合(No)は、何の単位時間遅れも加算せず、ステップS3−9へ続く。
一方、加算した差分平均化動きベクトル量が差分しきい値THを超えると判断した場合(Yes)は、再び上記ステップS3−6へ続く。
続いて、再生時刻変更オフセット算出部32は、差分平均化動きベクトルから、外部より指定された差分しきい値THを入力し、しきい値THを超えるか否かを、再度判定する。
このとき、加算した差分平均化動きベクトル量が差分しきい値THを超えないと判断した場合(No)は、何の単位時間遅れも加算せず、ステップS3−9へ続く。
一方、加算した差分平均化動きベクトル量が差分しきい値THを超えると判断した場合(Yes)は、再び上記ステップS3−6へ続く。
(ステップS3−9)
続いて、再生時刻変更オフセット算出部32は、再生時刻変更オフセット記録値(Toffset)を、再生時刻発生装置22へ出力し、この動作を終了する。
続いて、再生時刻変更オフセット算出部32は、再生時刻変更オフセット記録値(Toffset)を、再生時刻発生装置22へ出力し、この動作を終了する。
<時刻情報付きデコード出力DOUTについて>
次に、図7を用いて、上記説明した構成および動作による時刻情報付きデコード出力DOUTについて説明する。図7中の横軸(time)はデコード出力DOUTに付加する時刻情報を示し、ΔTは再生時刻生成装置22の基準固定時刻オフセット生成部で生成するオフセット時刻である。図7中の(a)は、オフセット情報Toffsetがない場合(オフセット値が0の場合)のデコード出力DOUTである。図5中の(b)は、オフセット情報Toffsetがある場合のデコード出力DOUTである。
次に、図7を用いて、上記説明した構成および動作による時刻情報付きデコード出力DOUTについて説明する。図7中の横軸(time)はデコード出力DOUTに付加する時刻情報を示し、ΔTは再生時刻生成装置22の基準固定時刻オフセット生成部で生成するオフセット時刻である。図7中の(a)は、オフセット情報Toffsetがない場合(オフセット値が0の場合)のデコード出力DOUTである。図5中の(b)は、オフセット情報Toffsetがある場合のデコード出力DOUTである。
図示するように、まず、オフセット情報Toffsetがない場合(a)、およびオフセット情報Toffsetがある場合(b)のデコード出力DOUTに付加される時刻はt0と、同時刻であるとする。
続いて、(a)では、時刻t0に時刻ΔTを加算した時刻t2を付加して次のデコード出力DOUTとして出力する。
この際、(b)では、再生時刻変更装置3から再生時刻付加部2に入力されるオフセット値が0(+T1offset=0)である。そのため、再生時刻付加部2は、装置内で前回出力した時刻に一定間隔の固定オフセット値を加算せず、現在の再生時刻を生成し、時刻t0に時刻ΔTを加算した時刻t2を付加してデコード出力DOUTとして出力する。
このように、時刻t1の際において、図中の(a)(b)のデコード出力DOUTに付加される時刻は、同時刻である。
続いて、(a)では、上記と同様に時刻t2に時刻ΔTを加算した時刻t4を付加してデコード出力DOUTとして出力する。
この際、(b)では、再生時刻変更装置3から再生時刻付加部2に入力されるオフセット値が、例えば、1単位時間の遅れ(+T2offset=1単位時間)である。そのため、ΔTに1単位時間の遅れを加算した時刻ΔT+T2offsetに時刻t1を加算した時刻t5を付加してデコード出力DOUTとして出力する。
続いて、(a)では、上記と同様に時刻t4に時刻ΔTを加算した時刻t6を付加してデコード出力DOUTとして出力する。
一方、(b)では、このとき、時刻変更装置3から再生時刻付加部2に入力されるオフセット値が”マイナス値”(T3offset=−1単位時間)であったとしたとき、再生装置内で前回出力した時刻t5に一定間隔の固定オフセット値と時刻変更装置3から入力されるオフセット値(T3offset=−1単位時間)を加算した時刻ΔT+T3offsetを加算した時刻t6を付加してデコード出力DOUTとして出力する。
より具体的には、再生時刻生成装置22に、1単位時間の”進んだ”オフセットが入力されたため、対象となるフレームに1単位時間分時間を進ませた時刻を発生させる。続いて、時刻情報付加装置21は、再生時刻生成装置22によって生成された時刻をエンコードデータに付加する。そのため、再生時刻生成装置で発生させた1単位時間”進んだ”時刻(T3offet)がエンコードデータに付加され、デコード出力DOUTとして出力される。
上記のように、第2の実施形態に係る構成およびその動作では、”遅い”フレームの動作がランダムに発生した場合であっても、動画像の記録時に再生を”進んだ(マイナス値)”時刻を付加した再生時間を出力することができるため、本例に係るデコード出力DOUTは、動きが緩やかになり視覚的な不快感を減少することができる。
<作用効果>
上記のように、この実施形態に係る動画処理装置によれば、少なくとも上記(1)乃至(2)と同様の効果が得られる。さらに、本例によれば、少なくとも下記(3)に示す効果が得られる。
上記のように、この実施形態に係る動画処理装置によれば、少なくとも上記(1)乃至(2)と同様の効果が得られる。さらに、本例によれば、少なくとも下記(3)に示す効果が得られる。
(3)実際に撮影された時間より早く再生を行う動画像を撮影時に作成することができ、一定の速度で動く動画像を処理することができる。
上記のように、第2の実施形態に係る動画処理装置およびその動作によれば、ステップS3−6の際に、再生時刻変更オフセット算出部32は、算出した差分平均化動きベクトルが、(外部より指定された差分しきい値TH−進みオフセット)未満であるか否かを判断する点で、上記第1の実施形態と相違する。続いて、上記ステップS3−6の際、差分平均化動きベクトルが、(外部より指定された差分しきい値TH−進みオフセット)未満である場合(Yes)、再生時刻変更オフセット算出部32は、再生時刻変更オフセット記録値(Toffset)として、例えば、1単位時間”進み(マイナス値)”を加算する。
ここで、本実施例で、指定の移動速度より”遅い”場合は、差分平均化動きベクトル量は差分しきい値未満であると判断される。即ち、差分平均化動きベクトル量が再生時刻のオフセットの1単位時間で要する移動距離分の差分動きベクトル量を下回ったときは、オフセット記録値Toffsetとして、例えば、1単位時間の”進み(マイナス値)”を加算する。そして、オフセット記録値(Toffset)を、再生時刻生成装置22へ出力する。
上記のように、第2の実施形態に係る動画処理装置およびその動作によれば、ステップS3−6の際に、再生時刻変更オフセット算出部32は、算出した差分平均化動きベクトルが、(外部より指定された差分しきい値TH−進みオフセット)未満であるか否かを判断する点で、上記第1の実施形態と相違する。続いて、上記ステップS3−6の際、差分平均化動きベクトルが、(外部より指定された差分しきい値TH−進みオフセット)未満である場合(Yes)、再生時刻変更オフセット算出部32は、再生時刻変更オフセット記録値(Toffset)として、例えば、1単位時間”進み(マイナス値)”を加算する。
ここで、本実施例で、指定の移動速度より”遅い”場合は、差分平均化動きベクトル量は差分しきい値未満であると判断される。即ち、差分平均化動きベクトル量が再生時刻のオフセットの1単位時間で要する移動距離分の差分動きベクトル量を下回ったときは、オフセット記録値Toffsetとして、例えば、1単位時間の”進み(マイナス値)”を加算する。そして、オフセット記録値(Toffset)を、再生時刻生成装置22へ出力する。
そのため、図7に示したように、(b)では、再生時刻付加部2は、装置内で前回出力した時刻に、”マイナス値”である一定間隔の固定オフセット値(T3offset=−1単位時間)を減算して、現在の再生時刻を生成し、再生時刻t6のデコード出力DOUTとして出力することができる。より具体的には、再生時刻生成装置22に、1単位時間の”進んだ”オフセットが入力されたため、対象となるフレームに1単位時間分時間を進ませた時刻を発生させる。続いて、時刻情報付加装置21は、再生時刻生成装置22によって生成された時刻をエンコードデータに付加する。そのため、再生時刻生成装置で発生させた1単位時間”進んだ”時刻(T3offset=−1単位時間)がエンコードデータに付加され、再生時刻t6のデコード出力DOUTとして出力することができる。
このように、外部から指定されたしきい値速度TH未満である場合は、”遅い”フレーム動作であるため、この指定未満の場合は、実際に撮影された時間より早く再生を行うことができる。その結果、一定の速度で動く動画像の撮影を処理することができる点で有利である。
これは、例えば、手持ちのカメラ等で撮影しようする場合に、一定速度で画面が移動している効果を手軽に得たい、というユーザの要望がある。このように、本例に係る構成および動画処理動作によれば、等速の画面移動をする動画像を、手持ちのカメラで撮影しようする際の手ブレなどで移動速度に揺らぎが発生した場合であっても、それを補正することができる。
このように、本例によれば、一定速度より動きが遅いフレームの場合は再生時刻を実際よりも早くでき、一方、早いフレームの場合は再生時刻を実際よりも遅くできる。そのため、視覚上は一定速度で画面が移動している視覚効果が得られる点で有利である。
尚、上記第1、第2の実施形態において、オフセット値は、1単位時間の遅れ(または進み)を一例に挙げて説明したが、これに限られない。例えば、オフセット値は、1単位の半分の時間の遅れ(または進み)等、必要に応じて変更することが可能である。
以上、第1、第2の実施形態を用いて本発明の説明を行ったが、この発明は上記各実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、上記各実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適宜な組み合わせにより種々の発明が抽出され得る。例えば各実施形態に示される全構成要件からいくつかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題の少なくとも1つが解決でき、発明の効果の欄で述べられている効果の少なくとも1つが得られる場合には、この構成要件が削除された構成が発明として抽出され得る。
1…動画像エンコーダ、2…時刻情報付加部、3…再生時刻変更装置、21…時刻情報付加装置、22…再生時刻生成装置。
Claims (5)
- エンコードフレームの動きベクトル量を出力する動画像エンコーダと、
前記動きベクトル量を基に、その動きベクトルを有する動画像フレームとその前の動画像フレームとの間の動き量を判断し、再生時刻のオフセットを算出する再生時刻変更装置と、
基準時刻と前記再生時刻のオフセットから対象フレームの再生時刻を生成する再生時刻生成装置と、
前記動画像エンコーダより出力されエンコードされた動画像データに、前記再生時刻生成装置で生成された再生時刻を付加する再生時刻付加装置とを具備すること
を特徴とする動画処理装置。 - 前記再生時刻変更装置は、外部から動き量のしきい値が入力され、前記入力されたしきい値を超える動き量があった場合は、撮影時の時刻より遅らせるオフセット値を出力する
を特徴とする請求項1に記載の動画処理装置。 - 前記再生時刻変更装置は、外部から動き量のしきい値が入力され、前記入力されたしきい値未満の動き量の場合は、撮影時の時刻より進ませるオフセット値を出力する
を特徴とする請求項1または2に記載の動画処理装置。 - 前記再生時刻変更装置は、
入力された前記動きベクトルを平均化した平均化動きベクトルを出力するベクトル集計部と、
前記動きベクトル集計部の出力を一時的に保持し、前の時刻の値として出力する第1バッファと、
前記動きベクトル集計部の出力、前記第1バッファの出力、および外部からの固定値である前記しきい値を受けて、前記再生時刻生成装置にオフセット値を出力するオフセット算出部とを備えること
を特徴とする請求項2または3に記載の動画処理装置。 - 前記再生時刻生成装置は、
前回の出力時刻を記憶する第2バッファと、
基準固定時刻オフセットを生成する基準固定時刻オフセット生成部と、
前記第2バッファの出力および前記基準固定時刻オフセット生成部の出力が入力され、これらを加算する第1加算器と、
前記第1加算器の出力および前記時刻情報変更装置からのオフセット値を受けて、これを加算し、前記第2バッファおよび外部へ出力する第2加算器とを備えること
を特徴とする請求項1乃至4のいずれか1項に記載の動画処理装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009028801A JP2010187116A (ja) | 2009-02-10 | 2009-02-10 | 動画処理装置 |
US12/563,535 US20100202756A1 (en) | 2009-02-10 | 2009-09-21 | Moving image processing apparatus and reproduction time offset method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009028801A JP2010187116A (ja) | 2009-02-10 | 2009-02-10 | 動画処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010187116A true JP2010187116A (ja) | 2010-08-26 |
Family
ID=42540494
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009028801A Withdrawn JP2010187116A (ja) | 2009-02-10 | 2009-02-10 | 動画処理装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20100202756A1 (ja) |
JP (1) | JP2010187116A (ja) |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0476603B1 (en) * | 1990-09-20 | 1997-06-18 | Nec Corporation | Method and apparatus for coding moving image signal |
EP0625853B1 (en) * | 1993-05-21 | 1999-03-03 | Nippon Telegraph And Telephone Corporation | Moving image encoder and decoder |
JP3263807B2 (ja) * | 1996-09-09 | 2002-03-11 | ソニー株式会社 | 画像符号化装置および画像符号化方法 |
JP4208398B2 (ja) * | 2000-10-05 | 2009-01-14 | 株式会社東芝 | 動画像復号再生装置、動画像復号再生方法及びマルチメディア情報受信装置 |
EP1734480A1 (en) * | 2004-04-09 | 2006-12-20 | Sony Corporation | Image processing device and method, recording medium, and program |
JP4145275B2 (ja) * | 2004-07-27 | 2008-09-03 | 富士通株式会社 | 動きベクトル検出・補償装置 |
JP4904914B2 (ja) * | 2006-05-17 | 2012-03-28 | ソニー株式会社 | ストリーム生成装置、撮像装置、およびストリーム生成方法 |
KR100790178B1 (ko) * | 2006-10-20 | 2008-01-02 | 삼성전자주식회사 | 동영상의 프레임 레이트 변환 방법 |
-
2009
- 2009-02-10 JP JP2009028801A patent/JP2010187116A/ja not_active Withdrawn
- 2009-09-21 US US12/563,535 patent/US20100202756A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US20100202756A1 (en) | 2010-08-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5295045B2 (ja) | 組み込み機器において高解像度画像を提供するための方法及び装置 | |
JP2004266322A (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JPH1169345A (ja) | フレーム間予測動画像符号化装置及び復号装置並びにフレーム間予測動画像符号化方法及び復号方法 | |
JP2009188996A (ja) | 動画像コーデック装置及びその方法 | |
US7956898B2 (en) | Digital image stabilization method | |
PT2276180E (pt) | Processo e aparelho de temporização entre imagens com precisão variável para codificação vídeo digital | |
JP2008022375A (ja) | 画像処理装置 | |
WO1997004593A1 (en) | Letter box converter | |
JP2010161582A (ja) | 符号化装置、目標符号量調整方法及び記録媒体 | |
JP2006270751A (ja) | 動画記録装置および動画記録処理プログラム | |
US20240129459A1 (en) | Image processing device and method for partitioning a coding unit into partitioned processing units | |
US20140079120A1 (en) | Moving image coding apparatus and moving image coding method | |
JP2010187116A (ja) | 動画処理装置 | |
US9781439B2 (en) | Combined parallel and pipelined video encoder | |
JP5050159B2 (ja) | エンコーダ | |
US20170318258A1 (en) | Image processing device, image processing method, and program | |
JP2005045736A (ja) | 画像信号符号化方法及び装置、符号化制御装置並びにプログラム | |
JP2008252512A (ja) | 撮像記録装置 | |
JP4533089B2 (ja) | 動画データ生成装置 | |
JP2008182408A (ja) | 動画像符号化装置及び方法 | |
JP2008311824A (ja) | 画像符号化装置および画像符号化プログラム | |
JP5355234B2 (ja) | 符号化装置及び符号化方法 | |
JP2004120415A (ja) | 動画像データストリームの変換装置及び方法 | |
JP2018182564A (ja) | 映像再生装置とその制御方法及びプログラム | |
JP2018191136A (ja) | 符号化装置、符号化方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20120501 |