JP4151122B2 - 動画像合成装置 - Google Patents
動画像合成装置 Download PDFInfo
- Publication number
- JP4151122B2 JP4151122B2 JP23831398A JP23831398A JP4151122B2 JP 4151122 B2 JP4151122 B2 JP 4151122B2 JP 23831398 A JP23831398 A JP 23831398A JP 23831398 A JP23831398 A JP 23831398A JP 4151122 B2 JP4151122 B2 JP 4151122B2
- Authority
- JP
- Japan
- Prior art keywords
- moving image
- frame
- image
- code string
- synthesis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する分野】
本発明は、複数の符号化された動画像データを1つの動画像として合成する方法およびその装置に関し、特に、時間的相関を利用して圧縮された符号化データを効率的に処理する動画像合成装置に関する。
【0002】
【従来の技術】
従来、図22に示すように、複数の符号化された動画像データを1つの動画像として合成するには、各動画像の符号列1,2,3,4を復号化器5で1フレーム分の画素データ6,7,8,9に復号した後、画像合成器10で合成画像データ11に合成し、符号化器12で符号化し、合成動画像の符号列13を生成している。この方法では、動画像データを復号し、再び符号化するため、膨大な計算量を必要とする。
【0003】
また、特開平7−298263号公報では、複数の領域毎に符号化した符号列を結合して1つの合成動画像の符号列を生成する方法を示している。この方法では、入力動画像をフレーム単位で複数領域に分割し、各領域毎に符号化を行う。図23(a)では、フレーム1,14を縦に3分割し、各分割領域毎に図23(b)のように符号列を生成する。これらの符号列をフレーム分割の境界およびフレーム間でスライス毎に連結する。すなわち、フレーム1では、符号列5a、6a、7a、8aの順に連結し、図23(c)に示すような符号列を生成する。この符号列は、フレームを分割せずに符号化した場合と同じシンタックスとなっている。
【0004】
【発明が解決しようとする課題】
上記のように、符号化された動画像データを一旦復号し、合成したデータを符号化すると、膨大な計算量を必要とする。特開平7−298263号公報は、領域で分割して符号化された符号列を結合することで合成動画像を生成しているが、動画像の画面を分割して符号化する際にすでに各分割符号列が合成動画像のどの領域に対応するのかがわかっているので、合成後の画面情報をもとに合成動画像の符号列のヘッダを符号化時に生成している。従って、任意の圧縮データを選択して任意の領域に配置する場合は、ヘッダ情報に矛盾が生じるために、正確な動画像として復号できない符号列となってしまう。
【0005】
以上のことに鑑み、本発明では、蓄積された動画像データから任意のデータを選択し、画面上の任意の位置に配置した合成動画像符号列を効率的に生成することを目的とする。
【0006】
【課題を解決するための手段】
上記課題を解決するために、本発明では、
第1に、合成に用いる符号化された動画像のヘッダ情報を解析する符号列解析手段と解析した結果を利用して合成後の動画像のヘッダ情報を生成する画像情報生成手段と蓄積された動画像の画像データの表示位置を書き換える符号列書き換え手段を具備することにより、
合成動画像の適切なヘッダ情報を簡単な計算だけで生成し、画像をデータを複合化することなく再利用することで、効率的に合成動画像を生成する。
【0007】
第2に、合成動画像に前のフレームと同じ画像を表示する情報量がほとんど0である挿入フレームを生成する挿入フレーム生成手段を具備することにより、
合成動画像のビットレートおよびフレームレートを適宜調整し、合成処理量を軽減したり、伝送路や再生環境にあわせた利用範囲の広い動画像を生成する。
第3に、符号化前の映像をNフレームおきに符号化した実時間のN倍の時間で再生されるN倍速動画像を蓄積するN倍速動画像蓄積手段と前フレームと同じ画像を表示する情報量がほとんど0である挿入フレームを生成する挿入フレーム生成手段を具備することにより、
合成動画像生成時にN−1枚単位の挿入フレームを挿入することで、蓄積する動画像の情報量を1/NとなるN倍速動画像を用いて、符号化前の映像と同じ速度で再生される動画像を合成し、蓄積手段を有効に利用する。
【0008】
第4に、情報量がほとんど0であり前フレームと同じ画像を生成する順方向挿入フレーム生成手段と、情報量がほとんど0であり後フレームと同じ画像を生成する逆方向挿入フレーム生成手段を具備することにより、
Bフレームを含むMPEG符号列においてもBフレームの前後に挿入フレームを挿入し、合成動画像のビットレートおよびフレームレートを調整し、伝送路や再生環境に合わせた利用範囲の広い動画像を生成する。
【0009】
第5に、符号化前の映像をm−1枚おきに間引いた実時間のm倍速で再生されるm倍速動画像を蓄積するm倍速動画像蓄積手段と、情報量がほとんど0であり前後のフレームの中間画像を表示する内挿フレームを生成する内挿フレーム生成手段を具備することにより、
例えばm=2の場合においては、蓄積する動画像の情報量を1/2としながら、符号化前の映像と同じ速度で同じフレームレートで再生される動画像を合成することで、蓄積手段を有効に利用する。
【0010】
【発明の実施の形態】
以下、本発明の実施の形態について、図1から図21を用いて説明する。なお、本発明はこれら実施の形態に何ら限定されるものではなく、その趣旨を逸脱しない範囲において種々の異なる態様で実施し得る。
(実施の形態1)
本発明の第1の実施の形態は、GOP(Group Of Picture)構成などの条件を一定にして符号化した複数のMPEG動画像を復号せずに1つの動画像に合成する動画像合成装置である。
【0011】
図1は、第1の実施の形態の動画像合成装置を示すブロック図である。図1において、101は合成する画像やその配置を指示する合成指示手段、102は動画像の合成処理を制御する合成制御手段、103は合成動画像のヘッダ情報を生成する画像情報生成手段、104は符号化された動画像のヘッダ情報を解析する符号列解析手段、105は動画蓄積手段から指示された動画像を取り出す符号列取り出し手段、106は合成に用いる縮小動画像を蓄積しておく動画蓄積手段、107は取り出した符号列を一時的に蓄える合成メモリ、108は動画像をストリームとして出力する合成画像出力手段、109は出力される合成動画像符号列、110は合成メモリに蓄えられた画像データの表示位置情報を書き換える符号列書き換え装置を示す。
【0012】
図2は、この動画像合成装置が行う画面合成の概略を示す図である。図2において、201から204は合成に用いる縮小動画像a,b,c,d、205は各動画像の1フレームの画像である縮小フレーム画像、206は縮小フレームの画像を合成した合成フレームを示す。
図3は、動画蓄積部106に蓄積されている縮小動画像がどのようにMPEG符号化されているか示す。図3において、301は動画の中で1枚の画像を示すフレーム、302から305はフレーム301の中でのまとまりを示すスライス、306から311は16×16画素からなるスライス305の構成要素であるマクロブロックを示す。
【0013】
図4は、縮小動画像の符号列を示す図である。401は動画像全体の情報を示すシーケンスヘッダ、402は動画像の1つのまとまりであるGOP(Group Of Picture)を示すGOPデータ、403はGOPの情報を示すGOPヘッダ、404は1フレームの画像を示すピクチャデータ、405は1フレームの画像の情報を示すピクチャヘッダ、406はフレームの中でのあるまとまりで区切られたデータであるスライスデータ、407はスライスデータの情報を示すスライスヘッダ、408はマクロブロックのデータであるマクロブロックデータを示す。
【0014】
図5は縮小動画像の配置例を示す。図5において、501から503は配置される動画像a,b,c、504は合成される画面全体である合成画面を示す。
図6は合成指示手段で生成される縮小動画像のスライスと合成画面上の領域を対応付ける対応表の例を示す。601は合成画面上でのマクロブロックの上からの位置を示すマクロブロック垂直位置、602は合成画面上でのマクロブロックの左からの位置を示すマクロブロック水平位置、603から614は合成画面に配置される動画像a,b,cの各スライス、615は合成画面のマクロブロックを示す。
【0015】
図7は合成指示手段で生成される対応表の複雑な例を示す。図7において、701から704は合成に用いる動画像a,b,c,d、705および706は動画像が表示されない領域、707は画像が表示されないマクロブロックである非表示マクロブロック、708から725は合成画面に配置される動画像a701,b702,c703,d704の各スライスを示す。
【0016】
図8は合成制御手段102の動作を示す流れ図である.
図9は1フレーム分の画像を合成処理が施される順序および処理方法を示す図である。図9において、901は合成画面上のマクロブロック、902は合成画面、903から908は各マクロブロックにおける処理方法を示す流れ図である。
【0017】
以下、図1から図9を用いて第1の実施の形態の動画像合成装置について説明する.
動画像合成装置は、図2に示すように、動画蓄積部106に蓄えられている複数の縮小動画像a201,b202,c203,d204からフレームタイプが同じである縮小フレーム画像205を取り出して、1枚の大きな合成フレーム画像206を合成する。各縮小動画像は、図3に示すように、横1列のマクロブロック306〜311を1つのスライス302(〜305)としてまとめたMPEG動画像である。図3は横96画素×縦64画素の動画像の例であり、横1列分の6個のマクロブロック306〜311を1つのスライス302(〜305)として符号化している。この動画像のMPEG符号列は、図4に示すように、スライスヘッダ407の後に6個のマクロブロックデータ408が続くことになる。また、各縮小動画像は、GOP構成や画像の表示周期、量子化に用いるマトリクスデータおよび動きベクトルの精度と範囲など動画全般に適用されるパラメータも共通の設定で符号化されている必要がある。
【0018】
合成指示手段101は、動画蓄積部中106の動画像データを合成画面上のどの位置に配置するかを指定するインターフェースを提供する。例えば、合成後の画面上での各縮小画像の占める領域をGUI形式で指定する。ただし、合成後の配置位置は、マクロブロック(16×16画素)単位でしか指定できない。合成指示手段101は、合成画面をマクロブロック単位で分割し、合成画面上の各マクロブロックと配置される縮小動画像のスライスの対応表を作成する。例えば、図5のように動画像a501,b502,c503が合成画面上に配置される場合、マクロブロック・スライス対応表は図6に示すようになり、動画像aのスライス1・603が合成画面上の座標(1,1)のマクロブロックに配置され、動画像cのスライス1・611が合成画面上の座標(7,1)に配置されるということを示す。合成する縮小動画像の大きさが均一である必要やすべてのマクロブロックに画像が配置されている必要はなく、図7aに示すように不均一な大きさの画像を空白があるように配置してもかまわない。この場合には、動画像が表示されないマクロブロック707は、画像なしとして図7bのようなマクロブロック・スライス対応表が作成される。
【0019】
合成制御手段102は、合成指示手段よりマクロブロック・スライス対応表を受け取り、合成処理を開始する。合成制御手段102は、図8に示す流れ図に従って動作する。まず、マクロブロック・スライス対応表に含まれる縮小動画像ファイルのオープンを符号列取り出し手段105に指示する。符号列取り出し手段105は、縮小動画像符号列の先頭部分を符号列解析手段104に渡す。符号列解析手段104は、各縮小画像のヘッダ情報を解析し、他の動画像とは異なる条件で符号化されていたり、動画像自体が存在しない場合には、合成制御手段102に通知し、該当する縮小動画像のスライスが配置されるマクロブックには動画像が出力されないようにマクロブロック・スライス対応表を修正する。
【0020】
次に、合成画像のシーケンスヘッダとGOPヘッダ、ピクチャヘッダを生成する。画像サイズ、画像の表示周期、アスペクトレートなどの合成動画像全体で共通に使用される値は各縮小動画像の符号化時に設定されているので、その値を利用する。ビットレートおよび仮想バッファサイズ等の合成する縮小動画像によって異なる値は、各縮小動画像のヘッダ情報を符号列解析手段から取得し、合成後の値を計算する。
【0021】
例えば、ビットレートはすべての縮小動画像のビットレートを足した値を利用する。ピクチャヘッダは、処理するフレームごとに異なる値を生成する。動きベクトルの精度と範囲および画像のタイプは、合成する各画像で使われているものを利用する。ただし、動きベクトルの精度や記述範囲などのMPEG規格としてフレームごとに変更ができる値の多くは、動画像全体で固定として符号化されている場合が多いため、あらかじめその固定値を調べておき、決まった値を使用すれば高速に処理することができる。画像の表示順序やピクチャタイプは動画像のGOP構成から決定する。
【0022】
ピクチャヘッダを生成すると合成制御手段102は、スライスデータの合成を開始する。合成制御手段102は、図6および図7bに示した合成画面のマクロブロック・スライス対応表を図9aに示すラスタースキャン順序で処理する。処理中のマクロブロックにおいて合成するべきスライスデータがある場合には、図9bに示す処理を行う。
【0023】
まず、処理中のマクロブロックに配置するスライスデータを合成メモリ上に読み出すように符号列取り出し手段に指示する。スライスデータの先頭にはスライスヘッダがあり、そこにはSlice Start Codeが記述されているので、この値を合成後のスライスの垂直位置を示すコードに修正するように符号列書き換え手段110に指示する。次に、スライスデータの先頭マクロブロックのマクロブロックデータ中の Macroblock Escape と Macroblock Address Increment を合成後のスライスの先頭マクロブロックの水平位置を表すコードに修正するように符号列書き換え手段110に指示する。各値を修正後、スライスデータを合成メモリから出力する。マクロブロック・スライス対応表に、空白を出力する場合には、処理中のフレームタイプに対応した空白を示すスライスデータを出力する。空白を示すスライスデータは、黒い画像を表示するスライスデータであり、Iフレームとしては黒い画像をエンコードしたものを用い、Pフレーム,Bフレームとしては動き予測0の順方向予測フレームのスライスデータを用いる。合成画面902の右下に達すると、1フレーム分の合成作業が終了する。
【0024】
1フレーム分の合成処理が終了すると、次のフレームの処理に移行するが、次のフレームがGOPの先頭フレームの場合は、シーケンスヘッダとGOPヘッダを前述の方法で出力する。また、あらかじめ設定しておいた終了条件に達すると動作を終了する。終了条件は、縮小動画像のどれかひとつが終了した場合やすべての縮小画像が終了した場合、または、あらかじめ合成するフレーム数の合計を決めておくなどから選択し、設定する。最終フレームに達するとシーケンスの終了コードを出力し、合成を終了する。
【0025】
以上のように本実施の形態では、
符号化されている縮小動画像を合成画面上の任意の位置に配置した合成動画像を生成する際に、縮小動画像のヘッダ情報を利用して合成動画像のヘッダ情報を生成しながらスライスデータを結合することで、効率的にMPEG符号列として矛盾のない合成動画像を生成することができるという効果が得られる。
【0026】
(実施の形態2)
本発明の第2の実施の形態は、複数の符号化された縮小動画像から合成動画像を生成する際に、前フレームと変化のないスキップフレームを挿入することで、合成後の動画像のビットレートおよびフレームレートを調整する動画像合成装置である。
【0027】
図10は、本発明の第2の実施の形態の動画像合成装置を示すブロック図である。図10において、1001は前フレームと同じ画像を表すMPGE符号列を生成する挿入フレーム生成手段である。図11は、合成制御手段102の動作を示す流れ図である。図12は、合成動画像109の再生時の様子を示す図である。図12において、1201、1202、1203は合成動画像の合成画面A,B,C、1204,1205,1206は挿入フレーム生成手段1001で生成されるスキップフレーム、1207、1208、1209は合成画面A,B,Cの表示期間を示す。
【0028】
以下、図10から図12を用いて本発明の第2の実施の形態の動画像合成装置について説明する.
合成指示手段101は、動画蓄積部106中の動画像データの合成画面上における配置および合成後のフレームレートを指定するインターフェースを提供する。フレームレートは縮小動画像の1/N倍という形式で指定する。ただし、Nは自然数とする。合成制御手段102は、合成指示手段101から合成指示を受け取り、図11の流れ図に従って合成処理を行う。合成制御手段102は、第1の実施の形態とほぼ同じ動作を行うが、以下の3点が部分が異なる。
【0029】
1点目は、ヘッダ情報を生成する際に情報量をほとんどもたないスキップフレームが挿入されることを考慮して計算を行う。動画像全体のビットレートは1/Nになるので、縮小動画像のビットレートの合計をNで除算したものをヘッダに記述する。他のヘッダ情報についてもスキップフレームが挿入されることを考慮した補正演算を行う。
【0030】
2点目は、動画蓄積手段106に蓄積されているMPEG動画像は、IピクチャとPピクチャしか含まないように符号化されている必要がある。IとPピクチャのみのMPEG符号列では、表示順序と蓄積順序が同じであり、全てのフレームが予測フレームとして利用できるので、スキップフレームを自由に挿入することができる。
【0031】
3点目は、合成制御手段102は1枚分のフレームを合成した後に(N−1)枚分のスキップフレームを生成するように挿入フレーム生成手段1001に指示する。挿入フレーム生成手段1001が生成するスキップフレームは、MPEG規格のPピクチャあるいはBピクチャにおいて全てのマクロブロックが順方向フレーム間予測モードで動きベクトルを0としたフレームである。このスキップフレームは最低限のヘッダ情報しか持たないので、情報量はほぼ0である。
【0032】
出力される合成動画像109は、図12に示すように合成画面の後にN−1枚のスキップフレームが続く画像となる。この動画像を再生すると合成画面Aが表示されてから合成画面Bが表示されるまでのN枚のフレームでは合成画面Aの画像が表示され続けるので、見た目上のフレームレートは1/Nとなる。また、スキップフレームはその構造から、ヘッダ以外の情報をほとんど含まないので、合成動画像全体のビットレートも1/Nになる。合成に用いる動画像が多い場合には、合成後のビットレートが増加し映像伝送路の容量を超過したり、合成に必要な処理量が増大するために、実時間で合成を行えず、再生側で映像が止まってしまうなどの問題が考えられるが、上記のようにスキップフレームを適宜挿入することでビットレートとフレームレートの調整が可能となる。
【0033】
以上のように本実施の形態では、
挿入フレーム生成手段1001が前フレームと同じ画像をあらわすスキップフレームを生成し、合成制御手段102が適宜合成動画像に挿入することにより、合成画像のビットレートとフレームレートを1/Nに調整することができるという効果が得られる。
【0034】
(実施の形態3)
本発明の第3の実施の形態は、実時間のN倍速で符号化された複数の縮小動画像から合成動画像を合成する際に、変化のないフレームを挿入することで、実時間の等倍で再生できる動画像を合成する動画像合成装置である。
図13は第3の実施の形態の動画像合成装置の構成を示すブロック図である。図13において、1301はN倍速の映像を符号化した動画像を蓄積しておくN倍速動画像蓄積手段を示す。図14は、3倍速で符号化した場合の符号化前の映像と符号化後の動画像と合成動画像のフレーム構成を示す図である。図14において、1401は合成前の映像、1402は符号化後の3倍速動画像、1403は合成後の合成動画像、1404は符号化時に間引きされる間引きフレーム、1405は縮小動画像の1フレーム分の画像が合成された合成フレーム、1406は挿入フレーム生成手段1001によって生成される挿入フレームを示す。
【0035】
以下、図13、図14を用いて本発明の第3の実施の形態の動画像合成装置について説明する.
装置の構成は図10に示す第2の実施の形態の動画像合成装置と同様であるが、動画蓄積手段106が、図3示すようにN倍速の縮小動画像を蓄積したN倍速動画像蓄積手段1301に置き換わっていることが異なる。N倍速の動画像とは、(N−1)枚のフレーム画像を間引きながら符号化を行った動画像であり、もとの映像と同じフレームレートで再生すると1/Nの時間で再生が終了する。図14は3倍速動画像の例であり、合成前の映像1401を2枚ずつ間引きながら符号化を行うことで、3倍速動画像1402が生成される。この動画像は、もとの映像をそのまま符号化したのもに比べてビットレートが約1/3のデータ量となっており、同じ容量の蓄積装置を利用して約3倍のデータを蓄積することができる。
【0036】
合成制御手段102は、図11に示す流れ図に従って動作し、合成時に(N−1)枚のスキップフレーム1406を挿入する。合成された動画像は見かけ上は縮小動画像の1/Nのフレームレートで再生されるので、合成前の映像1401と同じ速度、つまり、実時間の等倍の速度で再生される。図14では、合成時に2枚のスキップフレーム1406を挿入しており、3倍速動画像1402の1/3のフレームレートになるので、もとの映像と同じ速度で再生される。
【0037】
以上のように本実施の形態では、
(N−1)枚のフレームを間引いて符号化されたN倍速の動画像を蓄積するN倍速動画像蓄積手段1301に縮小動画像を蓄積しておき、動画像を合成する際に、(N−1)枚のスキップフレームを挿入することで、蓄積する動画像のデータ量を約1/Nにするとともに、符号化前の速度で再生できる動画像を合成できるという効果が得られる。
【0038】
(実施の形態4)
本発明の第4の実施の形態は、蓄積時のフレーム順序と再生時のフレーム順序が異なるMPEG動画像を合成する際に、スキップフレームを挿入することでビットレートおよびフレームレートの調整が可能な動画像合成装置である。
図15は第4の実施の形態の動画像合成装置の構成を示すブロック図である。図15において、1501は前フレームからの動きベクトル0の予測フレームを生成する順方向挿入フレーム生成手段、1502は後フレームからの動きベクトル0の予測フレームを生成する逆方向予測フレーム生成手段である。図16はMPEG符号列の蓄積順序と表示順序の違いを示す図である。図16において、1601は表示順序、1602は蓄積順序を示す。図17は第4の実施の形態の動画像合成手段の合成制御装置102の動作を示す流れ図である。図18は順方向挿入フレーム生成手段1501および逆方向挿入フレーム生成手段1502が生成するスキップフレームを含むMPEG符号列のフレーム構成を示す図である。図18において、1801は表示順序、1802は各フレーム画像の表示期間、1803は蓄積順序を示す。
【0039】
以下、図15から図18を用いて本発明の第4の実施の形態の動画像合成装置について説明する.
動画像合成装置の構成は、図10に示す第2の実施の形態の動画像合成装置とほぼ同様であるが、挿入フレーム生成手段1001の代りに順方向挿入フレーム生成手段1501と逆方向挿入フレーム生成手段1502の2種類の挿入フレーム生成手段を備えることが異なる。
【0040】
動画像蓄積手段106に蓄積されている動画像は、Bフレームを含むMPEG動画像である。Bフレームを含むMPEG動画像では図16に示すように各フレームの表示順序と蓄積順序が異なる形で蓄積されている。
順方向挿入フレーム生成手段1501は、図10に示す第2の実施の形態の動画像合成装置の挿入フレーム生成手段1001と同様に動作し、前フレームから動きベクトル0で予測したBピクチャを生成する。逆方向挿入フレーム生成手段1502は、後フレームから動きベクトル0で予測したBピクチャを生成する。
【0041】
合成制御手段102は、図17の流れ図に従って動作する。合成制御手段102は、図11に示す第2の実施の形態と同様に動作するが、挿入フレームを生成する際に、IピクチャあるいはPピクチャを合成した後では、順方向挿入フレームを(N−1)枚生成し、Bピクチャを合成した後では、逆方向挿入フレームを(N−1)枚生成する。図18はN=2の時の例であり、図中のFSは順方向挿入フレームを、図中のBSは逆方向挿入フレームを示す。スキップフレームが挿入されたMPEG動画像は図18の蓄積順序1803で蓄積され、表示順序1801に従って生成されたTemporal Refereceヘッダ情報が付加されており、正しい順番で各フレームが再生される。
【0042】
合成動画像は表示順序1801に従って再生され、合成した1番目のBフレームの画像が1フレーム分表示された後に、3番目のIフレームの画像が3フレーム分表示され、5番目のBフレームの画像が1フレーム分表示され、7番目のPフレームの画像が3フレーム分表示されるので、全体としてのフレームレートは1/2となる。各挿入フレームはヘッダ以外のデータをほとんど持たないので、ビットレートも約1/2となる。一般に、N−1枚の挿入フレームを挿入することで、動画像全体のフレームレートとビットレートは1/Nとなる。
【0043】
実施の形態3で示したように、蓄積しておく縮小動画像を2倍速で符号化しておき、N=2としてフレームを挿入すれば、全体として1/2の速度で動画像が再生されるので、もとの映像とほぼ同じ速度で再生できる動画像を合成することができる。
以上のように本実施の形態では、
Bフレームを含むようなMPEG符号列の縮小画像を合成する際に(N−1)枚の順方向挿入フレームと(N−1)枚の逆方向挿入フレームを交互に生成することで、動画像合成時にフレームレートとビットレートを1/Nに調整することができる。
【0044】
また、蓄積する動画像をN倍速で蓄積しておいても合成時にほぼ1/N倍速で再生できる動画像を合成できるために、蓄積する動画像の情報量を小さくすることができるという効果が得られる。
(実施の形態5)
本発明の第5の実施の形態は、IピクチャおよびPピクチャで構成された2倍速のMPEG動画像を合成する際に、前後のフレームの各画素間での平均値を取って作られた画像を挿入することで、もとの映像と同じフレームレートで再生される動画像を合成する動画像合成装置である。
【0045】
図19は、第5の実施の形態の動画像合成装置の構成を示すブロック図である。図19において、1901は前後のフレームの中間状態のフレーム画像を生成する内挿フレーム生成手段、1902は合成前の映像を1フレーム毎に間引いて符号化した2倍速の動画像を蓄積する2倍速動画蓄積手段である。図20は、内挿フレーム生成手段1901で生成される内挿フレームを挿入したMPEG動画像のフレーム構成と再生状態を示す図である。図20において、2001はMPEG動画像の蓄積順序、2002はMPEG動画像の表示順序、2003はMPEG動画像の各フレームの表示期間を示す。図21は、第5の実施の形態の動画像合成装置の合成制御手段102の動作を示す流れ図である。
【0046】
以下、図19から図21を用いて、本発明の第5の実施の形態の動画像合成装置について説明する。 第5の実施の形態の動画像合成装置の構成は、図10に示す第2の実施の形態の動画像合成装置とほぼ同様であるが、挿入フレーム生成手段1001に代り、前後のフレームの中間画像を生成する内挿フレーム生成手段1901を備え、動画蓄積手段106に代り、合成前の映像を1フレーム毎に間引いて符号化された2倍速の動画像を蓄積する2倍速動画像蓄積手段1902を備えることが異なる。
【0047】
内挿フレーム生成手段1901は、双方向予測モードのBピクチャを前後両フレームからの動きベクトルを0として生成する。この内挿フレームは、前後のフレーム画像の画素単位の丸め込み平均をとった画像であり、前後のフレームの中間画像を表す。
合成制御手段102は図21の流れ図に従って動作する。合成制御手段102は、第2の実施の形態とほぼ同様に動作するが、各フレーム画像を合成した後に内挿フレーム生成手段1901に内挿フレームの生成を指示することが異なる。合成されたMPEG動画像は、図20の蓄積順序2001で示すフレーム構成で生成される。図20において、Dと記されているフレームが内挿フレームを表す。合成されたMPEG符号列は、図20の表示順序2002で示される順番で再生され、各フレームは表示期間2003で示される時間だけ表示される。まず、0番目のIピクチャが表示され、その後に、このピクチャと2番目のPピクチャとの画素単位の平均値を取った画像が表示され、次に2番目のPピクチャが表示される。
【0048】
このように合成動画像のフレームレートは、縮小動画像の2倍となり、縮小映像を符号化する前の本来の映像のフレームレートが再現される。ここで、内挿フレーム生成手段1901が生成する画像は、前後のフレーム画像の中間画像となっているため、符号化時に間引いたフレーム画像に近いものになっている。
以上のように本実施の形態では、
フレーム間引きにより2倍速で符号化された縮小動画像を合成する際に、前後のフレームの中間画像である内挿フレームを生成することで、間引く前の映像と同じフレームレートの動画像を合成することができるという効果が得られる。また、蓄積しておく動画像の大きさが1/2となるため、効率的に動画像を蓄積できる。更に、内挿フレームの情報量はほとんど0であるために、合成後の動画像のビットレートを1/2にできるという効果が得られる。
【0049】
なお本実施の形態では、間引き数を"1"(即ち2倍速)としたが、それ以外の数値でも一向に構わない。つまり、m−1枚ずつ間引いてm倍速の映像を生成し、合成時にm−1枚の中間画像を補完することも可能である。特に、本実施の形態のようにm=2とした場合、フレームレートを安定して(歪ませることなく)一定とすることができ、もとの映像のフレームレートを再現できて最も有効である。
【0050】
【発明の効果】
本発明の第1の実施の形態では、
合成方法を指示する合成指示手段と、合成指示手段の指示に従って合成処理を制御する合成制御手段と、合成に用いる符号化された動画像を蓄積しておく動画蓄積手段と、動画蓄積手段より動画像の符号列を取り出す符号列取り出し手段と、符号列取り出し手段で取り出された符号列のヘッダ情報を解析する符号列解析手段と、解析した符号列の情報を利用して合成後の動画像のヘッダ情報を生成する画像情報生成手段と、符号列取り出し手段が取り出した符号列を一時的に蓄える合成メモリと、合成メモリ上の符号列の表示位置情報を書き換える符号列書き換え手段と、合成画像のヘッダ情報と書き換えた符号列を合成動画像として出力する合成画像出力手段を具備することを特徴とする動画像合成装置とすることで、
符号化されている縮小動画像を合成画面上の任意の位置に配置した合成動画像を生成する際に、縮小動画像のヘッダ情報を利用して合成動画像のヘッダ情報を生成しながらスライスデータを結合することで、効率的にMPEG符号列として矛盾のない合成動画像を生成することができるという効果が得られる。
【0051】
本発明の第2の実施の形態では、
合成方法を指示する合成指示手段と、合成指示手段の指示に従って合成処理を制御する合成制御手段と、合成に用いる符号化された動画像を蓄積しておく動画蓄積手段と、動画蓄積手段より動画像の符号列を取り出す符号列取り出し手段と、符号列取り出し手段で取り出された符号列のヘッダ情報を解析する符号列解析手段と、解析した符号列の情報を利用して合成後の動画像のヘッダ情報を生成する画像情報生成手段と、符号列取り出し手段が取り出した符号列を一時的に蓄える合成メモリと、合成メモリ上の符号列の表示位置情報を書き換える符号列書き換え手段と、前フレームと同じ画像を表示するフレーム画像を生成する挿入フレーム生成手段と、合成画像のヘッダ情報と書き換えた符号列と挿入フレームを合成動画像として出力する合成画像出力手段を具備することを特徴とする動画像合成装置とすることで、
挿入フレーム生成手段が前フレームと同じ画像をあらわすスキップフレームを生成し、合成制御手段が適宜合成動画像に挿入することにより、合成画像のビットレートとフレームレートを1/Nに調整することができるという効果が得られる。
【0052】
本発明の第3の実施の形態では、
合成方法を指示する合成指示手段と、合成指示手段の指示に従って合成処理を制御する合成制御手段と、符号化前の映像のフレームを間引いてNフレーム毎に符号化した実時間のN倍速で再生できる動画像を蓄積しておくN倍速動画蓄積手段と、N倍速動画蓄積手段より動画像の符号列を取り出す符号列取り出し手段と、符号列取り出し手段で取り出された符号列のヘッダ情報を解析する符号列解析手段と、解析した符号列の情報を利用して合成後の動画像のヘッダ情報を生成する画像情報生成手段と、符号列取り出し手段が取り出した符号列を一時的に蓄える合成メモリと、合成メモリ上の符号列の表示位置情報を書き換える符号列書き換え手段と、前フレームと同じ画像を表示するフレーム画像を生成する挿入フレーム生成手段と、合成画像のヘッダ情報と書き換えた符号列と挿入フレームを合成動画像として出力する合成画像出力手段を具備することを特徴とする動画像合成装置とすることで、
(N−1)枚のフレームを間引いて符号化されたN倍速の動画像を蓄積するN倍速動画像蓄積手段に縮小動画像を蓄積しておき、動画像を合成する際に、(N−1)枚のスキップフレームを挿入することで、蓄積する動画像のデータ量を約1/Nにするとともに、符号化前の速度で再生できる動画像を合成できるという効果が得られる。
【0053】
本発明の第4の実施の形態では、
合成方法を指示する合成指示手段と、合成指示手段の指示に従って合成処理を制御する合成制御手段と、合成に用いる符号化された動画像を蓄積しておく動画蓄積手段と、動画蓄積手段より動画像の符号列を取り出す符号列取り出し手段と、符号列取り出し手段で取り出された符号列のヘッダ情報を解析する符号列解析手段と、解析した符号列の情報を利用して合成後の動画像のヘッダ情報を生成する画像情報生成手段と、符号列取り出し手段が取り出した符号列を一時的に蓄える合成メモリと、合成メモリ上の符号列の表示位置情報を書き換える符号列書き換え手段と、前フレームと同じ画像を表示するフレーム画像を生成する順方向挿入フレーム生成手段と、後フレームと同じ画像を表示するフレーム画像を生成する逆方向挿入フレーム生成手段と、合成画像のヘッダ情報と書き換えた符号列と順方向および逆方向挿入フレームを合成動画像として出力する合成画像出力手段を具備することを特徴とする動画像合成装置とすることで、
Bフレームを含むようなMPEG符号列の縮小画像を合成する際に(N−1)枚の順方向挿入フレームと(N−1)枚の逆方向挿入フレームを交互に生成することで、動画像合成時にフレームレートとビットレートを1/Nに調整することができる。また、蓄積する動画像をN倍速で蓄積しておいても合成時にほぼ1/N倍速で再生できる動画像を合成できるために、蓄積する動画像の情報量を小さくすることができるという効果が得られる。
【0054】
本発明の第5の実施の形態では、
合成方法を指示する合成指示手段と、合成指示手段の指示に従って合成処理を制御する合成制御手段と、合成前の映像をmー1枚ずつ間引いて符号化した実時間のm倍速の動画像を蓄積するm倍速動画像蓄積手段と、m倍速動画蓄積手段より動画像の符号列を取り出す符号列取り出し手段と、符号列取り出し手段で取り出された符号列のヘッダ情報を解析する符号列解析手段と、解析した符号列の情報を利用して合成後の動画像のヘッダ情報を生成する画像情報生成手段と、符号列取り出し手段が取り出した符号列を一時的に蓄える合成メモリと、合成メモリ上の符号列の表示位置情報を書き換える符号列書き換え手段と、前後のフレームの中間画像を表示するフレーム画像を生成する内挿フレーム生成手段と、合成画像のヘッダ情報と書き換えた符号列と内挿フレームを合成動画像として出力する合成画像出力手段を具備することを特徴とする動画像合成装置とすることで、
例えばm=2の場合においては、フレーム間引きにより2倍速で符号化された縮小動画像を合成する際に、前後のフレームの中間画像である内挿フレームを生成することで、間引く前の映像と同じフレームレートの動画像を合成することができるという効果が得られる。また、蓄積しておく動画像の大きさが1/2となるため、効率的に動画像を蓄積できる。更に、内挿フレームの情報量はほとんど0であるために、合成後の動画像のビットレートを1/2にできるという効果が得られる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態の動画像合成装置の構成を示すブロック図
【図2】本発明の第1の実施の形態の動画像合成装置の画面合成の概略を示す図
【図3】本発明の第1の実施の形態の動画像合成装置の動画蓄積手段に蓄積される合成に用いる動画像の符号化形式を示す図
【図4】本発明の第1の実施の形態の動画像合成装置の動画蓄積手段に蓄積される合成に用いる動画像の符号列の構成を示す図
【図5】本発明の第1の実施の形態の動画像合成装置の合成指示手段における合成指示例を示す図
【図6】本発明の第1の実施の形態の動画像合成装置の合成指示手段が生成するマクロブロック・スライス対応表の例を示す図
【図7】本発明の第1の実施の形態の動画像合成装置の合成指示手段が生成する複雑なマクロブロック・スライス対応表の例を示す図
【図8】本発明の第1の実施の形態の動画像合成装置の合成制御手段の動作を示す流れ図
【図9】本発明の第1の実施の形態の動画像合成装置の合成制御手段のスライスデータ合成処理の流れを示す図
【図10】本発明の第2の実施の形態の動画像合成装置の構成を示すブロック図
【図11】本発明の第2の実施の形態の動画像合成装置の合成制御手段の動作を示す流れ図
【図12】本発明の第2の実施の形態の動画像合成装置の合成画像出力手段が出力する動画像のフレーム構成を示す図
【図13】本発明の第3の実施の形態の動画像合成装置の構成を示すブロック図
【図14】本発明の第3の実施の形態の動画像合成装置の符号化前、符号化後および合成後のフレーム構成の変化を示す図
【図15】本発明の第4の実施の形態の動画像合成装置の構成を示すブロック図
【図16】本発明の第4の実施の形態の動画像合成装置の動画蓄積手段に蓄積される動画像のフレーム構成を示す図
【図17】本発明の第4の実施の形態の動画像合成装置の合成制御手段の動作を示す流れ図
【図18】本発明の第4の実施の形態の動画像合成装置の合成画像出力手段より出力される動画像のフレーム構成を示す図
【図19】本発明の第5の実施の形態の動画像合成装置の構成を示すブロック図
【図20】本発明の第5の実施の形態の動画像合成装置の合成画像出力手段より出力される動画像のフレーム構成を示す図
【図21】本発明の第5の実施の形態の動画像合成装置の合成制御手段の動作を示す流れ図
【図22】動画像合成装置の第1の従来例を示す図
【図23】動画像合成装置の第2の従来例を示す図
【符号の説明】
101 合成指示手段
102 合成制御手段
103 画像情報生成手段
104 符号列解析手段
105 符号列取り出し手段
106 動画蓄積手段
107 合成メモリ
108 合成画像出力手段
109 合成動画像符号列
110 符号列書き換え手段
Claims (3)
- 動画像の合成方法を指示する合成指示手段と、
前記合成指示手段の指示に従って動画像の合成処理を制御する合成制御手段と、
合成に用いる符号化された動画像であって、Bフレームを含む動画像の符号列を蓄積しておく動画蓄積手段と、
前記動画蓄積手段より前記動画像の符号列を取り出す符号列取り出し手段と、
前記符号列取り出し手段で取り出された前記符号列のヘッダ情報を解析する符号列解析手段と、
解析した前記符号列の情報を利用して合成後の動画像のヘッダ情報を生成する画像情報生成手段と、
前記符号列取り出し手段が取り出した前記符号列を一時的に蓄える合成メモリと、
前記合成メモリ上の符号列の表示位置情報を、前記符号列に対応する動画像の合成後の表示位置を示すように書き換える符号列書き換え手段と、
前フレームと同じ画像を表示するための順方向挿入フレームを生成する順方向挿入フレーム生成手段と、
後フレームと同じ画像を表示するための逆方向挿入フレームを生成する逆方向挿入フレーム生成手段と、
前記合成後の動画像のヘッダ情報と、前記表示位置情報が書き換えられた前記符号列と、前記順方向挿入フレームおよび前記逆方向挿入フレームに対応する符号列とを合成動画像符号列として出力する合成画像出力手段
を具備し、
前記合成画像出力手段は、IピクチャまたはPピクチャを合成した後は前記順方向挿入フレームを出力し、Bピクチャを合成した後は前記逆方向挿入フレームを出力することを特徴とする動画像合成装置。 - 前記合成画像出力手段において、IピクチャまたはPピクチャを合成した後は前記順方向挿入フレームを(N−1)枚出力し、Bピクチャを合成した後は前記逆方向挿入フレームを(N−1)枚出力することを特徴とする請求項1記載の動画像合成装置。
- 前記動画蓄積手段に蓄積される動画像の符号列は、N倍速で符号化された符号列であることを特徴とする請求項2記載の動画像合成装置。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP23831398A JP4151122B2 (ja) | 1998-08-25 | 1998-08-25 | 動画像合成装置 |
EP99116547A EP0987897A3 (en) | 1998-08-25 | 1999-08-24 | Moving picture synthesizing device |
CA002281115A CA2281115C (en) | 1998-08-25 | 1999-08-25 | Moving picture synthesizing device |
US09/382,445 US6549578B1 (en) | 1998-08-25 | 1999-08-25 | Moving picture synthesizing device |
CN99118172A CN1127856C (zh) | 1998-08-25 | 1999-08-25 | 活动图像合成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP23831398A JP4151122B2 (ja) | 1998-08-25 | 1998-08-25 | 動画像合成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000069474A JP2000069474A (ja) | 2000-03-03 |
JP4151122B2 true JP4151122B2 (ja) | 2008-09-17 |
Family
ID=17028360
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP23831398A Expired - Fee Related JP4151122B2 (ja) | 1998-08-25 | 1998-08-25 | 動画像合成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4151122B2 (ja) |
-
1998
- 1998-08-25 JP JP23831398A patent/JP4151122B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000069474A (ja) | 2000-03-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8023568B2 (en) | Capture, editing and encoding of motion pictures encoded with repeating fields or frames | |
JP3662129B2 (ja) | マルチメディア情報編集装置 | |
JP3840895B2 (ja) | 動画像符号化データ変換装置及びその方法 | |
US20100214422A1 (en) | Recording Apparatus, Reproducing Apparatus, Recording Method, Recording Program, and Computer-Readable Recording Medium | |
JPH10503358A (ja) | 対話型画像操作 | |
JPH1093920A (ja) | Mpeg2スロー再生装置 | |
US20100277613A1 (en) | Image recording device and image reproduction device | |
JP2005006191A (ja) | 静止画合成装置、及び動画像からの静止画合成方法 | |
EP0827347A2 (en) | Recording and reproducing apparatus for digital image information | |
JP3604732B2 (ja) | 映像システム | |
US6122020A (en) | Frame combining apparatus | |
JP4151122B2 (ja) | 動画像合成装置 | |
JP2002218472A (ja) | 可変画像レート復号化装置及び可変画像レート復号化方法 | |
JP3061125B2 (ja) | Mpeg画像再生装置およびmpeg画像再生方法 | |
CN114938461A (zh) | 视频处理方法、装置、设备及可读存储介质 | |
US20100232768A1 (en) | Recording device, reproducing device, and method | |
JP2008225241A (ja) | 映像信号処理装置、映像信号処理方法及び映像信号処理プログラム | |
JPH08149408A (ja) | ディジタル動画編集方法及び装置 | |
JP3800819B2 (ja) | 画像合成装置 | |
JP3880597B2 (ja) | マルチメディア情報編集装置 | |
JP4867872B2 (ja) | 画像処理装置、この画像処理装置の制御方法、及び、プログラム | |
JP3587376B2 (ja) | 画像情報再生装置 | |
JPH09261632A (ja) | 画像信号処理装置 | |
JP3880596B2 (ja) | マルチメディア情報編集装置 | |
JPH10327417A (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050518 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20050614 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070619 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070626 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070807 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080610 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080623 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110711 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110711 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120711 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |