JP3741839B2 - 画速変換システムおよび方法並びに画速変換制御プログラムを記録した記録媒体 - Google Patents
画速変換システムおよび方法並びに画速変換制御プログラムを記録した記録媒体 Download PDFInfo
- Publication number
- JP3741839B2 JP3741839B2 JP24913597A JP24913597A JP3741839B2 JP 3741839 B2 JP3741839 B2 JP 3741839B2 JP 24913597 A JP24913597 A JP 24913597A JP 24913597 A JP24913597 A JP 24913597A JP 3741839 B2 JP3741839 B2 JP 3741839B2
- Authority
- JP
- Japan
- Prior art keywords
- sound
- video
- converted
- time
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
Description
【発明の属する技術分野】
本発明は、映像を伴う音の編集操作に合わせて映像の速度を自在に可変にする画速変換技術に関し、特に映像と音を有するメディア(例えば、テレビジョン、VTRやDVDのような映像音声の記録メディア、コンピュータ上での動画音響再生等)や医療機器等での動画再生等において、映像に付随した音を何らかの操作(例えば、映像音声の編集等)により、削除(または伸張、挿入、短縮)させた場合、この削除(または伸張、挿入、短縮)した音に合わせて、高品質に映像の内挿を行ない、映像の自然性を保ったまま、高品質に映像の速度を可変とし、映像のつなぎ部分に自然性を保たせたまま変換することが可能な画速変換システムおよび方法並びに画速変換制御プログラムを記録した記録媒体に関する。
【0002】
【従来の技術】
上記のような画速変換技術は、短縮または伸張した音に同期して、映像の速度も自然性を保ったまま高品質に変換を可能とすることが困難であったため、まだ開発されていない。
【0003】
例えば、VTR等の映像音声の編集等において、あるシーンの音声を削除(または伸張、挿入、短縮)したい場合、従来では、この削除(または伸張、挿入、短縮)した音声の時間長に対応した映像をそのまま削除(または同一フイールドを繰り返す)したりするため、映像の流れが不自然になる。
【0004】
このように、従来では、映像と音を有するメデイア(例えば、テレビジョン、VTRやDVDのような映音記録メデイア、コンピュータ上での動画音響再生等)や医療機器等、において、映像に付随した音を何らかの操作(例えば映像音声の編集等)により、削除(または伸張、挿入、短縮)させた場合、この削除(または伸張、挿入、短縮)した音に合わせ、高品質に映像を可変速し、映像の流れに自然性を保ったまま変換することができない。
【0005】
一方、映像のつなぎ部分において映像を可変速にすることは、簡易的にはVTR(ビデオテープレコーダ)の可変速再生機能等で可能となる。
【0006】
【発明が解決しようとする課題】
しかしながら、このようなVTRの可変速再生等では、l/60秒もしくは1/50秒(例えばハイビジョン、NTCS方式:l/60秒、PAL方式:l/50秒)のフイールド単位で、同一フイールドを2度以上、繰り返し提示したり、連続するフイールドを省いたりするため、動きが不自然になったり、垂直方向に映像のジッターが生じるなどして、高品質な画速変換ができない。
【0007】
また、VTRのような従来の可変再生等では、フィールドの内挿等の操作は行なっておらず、また駆動系の制約から、高精度に時々刻々、映像の速度を可変にすることも不可能である。
【0008】
本発明は、上記の点に鑑みて成されたもので、その目的は、音と映像を同期しながら、映像に付随した削除(または伸張、挿入、短縮)した音の時間長に合わせて、映像の流れに自然性を保たせたまま高品質に、映像の速度を可変にできる画速変換システムおよび方法並びに画速変換制御プログラムを記録した記録媒体を提供することにある。
【0009】
【課題を解決するための手段】
上記目的を達成するため、請求項1の画速変換システムの発明は、映像と音を有するメディアにおいて、外部から逐次指示される音の削除/伸張/短縮/挿入の指示に応じて、入力音(原音)に対し削除/伸張/短縮/挿入を随時行ない、かつこれにより音(変換音)が時間的に短縮、もしくは伸張することにより生じる前記原音に対する前記変換音の時間的な過不足量を示す情報を発生する音処理手段と、入力映像のフィールド間での映像の動きベクトルを検出する動き検出手段と、前記音処理手段から供給される前記原音に対する前記変換音の時間的な過不足量を示す情報をもとに、時間方向に離散的な前記入力映像に対して映像を内挿する時間位置を決定し、決定した該時間位置に、前記動き検出手段で検出された前記動きベクトルをもとに決定した時間位置の映像を内挿する映像処理手段と、前記音処理手段で削除等した前記変換音と前記映像処理手段から得られる画速変換映像との信号の同期を取って出力する同期出力手段とを具備することを特徴とする。
【0011】
また、音の削除/伸張/短縮/挿入の指示をする前記外部は、映像音声の編集操作部であることを特徴とすることができる。
【0013】
上記目的を達成するため、請求項3の画速変換方法の発明は、映像と音を有するメディアにおいて、外部から逐次指示される音の削除/伸張/短縮/挿入の指示に応じて、入力音(原音)に対し削除/伸張/短縮/挿入を随時行ない、かつこれにより音(変換音)が時間的に短縮、もしくは伸張することにより生じる前記原音に対する前記変換音の時間的な過不足量を示す情報を発生する音処理ステップと、入力映像のフィールド間での映像の動きベクトルを検出する動き検出ステップと、前記音処理ステップで発生された前記原音に対する前記変換音の時間的な過不足量を示す情報をもとに、時間方向に離散的な前記入力映像に対して映像を内挿する時間位置を決定し、決定した該時間位置に、前記動き検出手段で検出された前記動きベクトルをもとに決定した時間位置の映像を内挿する映像処理ステップと、前記音処理ステップで削除等した前記変換音と前記映像処理ステップで得られる画速変換映像との信号の同期を取って出力する同期出力ステップとを有することを特徴とする。
【0014】
上記目的を達成するため、請求項4の記録媒体の発明は、コンピュータによって音速と画速の同時変換を行なうための制御プログラムを記録した記録媒体であって、該制御プログラムはコンピュータに対し、外部から逐次指示される音の削除/伸張/短縮/挿入の指示に応じて、入力音(原音)に対し削除/伸張/短縮/挿入を随時行なわせ、かつこれにより音(変換音)が時間的に短縮、もしくは伸張することにより生じる前記原音に対する前記変換音の時間的な過不足量を示す情報を発生させ、入力映像のフィールド間での映像の動きベクトルを検出させ、発生された前記原音に対する前記変換音の時間的な過不足量を示す情報をもとに、時間方向に離散的な前記入力映像に対して映像を内挿する時間位置を決定させ、決定した該時間位置に、前記検出された前記動きベクトルをもとに決定した時間位置の映像を内挿させ、前記変換音と画速変換映像との信号の同期を取って出力させることを特徴とする。
【0016】
【発明の実施の形態】
以下、図面に示す本発明の実施の形態に基づき本発明を詳細に説明する。
【0017】
なお、本発明は複数の機器からなるシステムにおいて達成されてもよく、1つの機器からなる装置に達成されてもよい。また、システムあるいは装置にプログラムを供給することにより、本発明を達成される場合にも適用されることは言うまでもない。例えば、専用の装置だけでなく、パーソナルコンピュータ(パソコン)等を使用しても実現することができる。また、本発明に係る画速変換アルゴリズムを実現する制御手順をプログラム形態で記録する記録媒体は、FD(フロッピーディスク)以外にも、CD−ROM、ICメモリカード等であってもよい。更に、本プログラムをROMに記録しておき、これをメモリマップの一部となすように構成し、直接CPUで実行することも可能である。
【0018】
図1は本発明の一実施形態の画速変換システムの構成を機能ブロックで示す。ここで、画速変換はハイビジョン、NTSC、PAL等の各種カラーテレビジョン方式に適応可能であるが、図1では、代表例としてハイビジョン(高品位テレビジョン、高精細度テレビジョン)についての場合を示す。
【0019】
入力音をA/D変換部1でA/D変換(16ビット、48kHz)する。A/D変換した入力音を合成部2に送る。
【0020】
合成部2は、音の削除/伸張/短縮/挿入を設定する音操作部4からの削除/伸張/短縮/挿入情報に従って、入力音に対して削除、挿入、あるいは時間窓を用いた短縮/伸張の処理を行ない、合成する。そして、合成部2は原音(入力音)に対し時間的に短縮、あるいは伸張をした場合の変換音の原音に対する時間的な過不足量を示す情報、即ち原音に比べて変換音には時間的にどれだけ過不足が生じているかを示す情報を後述のフィールド内挿部9へ転送する。合成部2から出力する変換音をD/A変換部3でD/A変換する。
【0021】
一方、入力するアナログの映像(映像信号)を例えばRGB4:4:4のフォーマットのA/D変換部5においてA/D変換する。A/D変換部5でデジタル化された映像信号は動きベクトル検出系と内挿系とに送出される。
【0022】
動きベクトル検出系は例えば前処理部6、動き検出部7、およびベクトル検出割り付け部8を有する。A/D変換部2でデジタル化された映像信号に対して、動きべクトル検出・割付のための前処理を前処理部6で行う。一例として、前処理部6において映像信号をインターレースの1125/60/2:1からノンインターレースの652/60/1:1に変換する。前処理部6で前処理を施された映像信号は動き検出部7とベクトル検出割り付け部8とに送られる。
【0023】
動き検出部7は、例えば勾配法に基づく初期偏位ベクトル(候補ベクトル8種、ブロックサイズ:8画素、8ライン)を用いた反復勾配法(最大反復回数:2回、ブロックサイズ:8画素、8ライン)により、映像のフィールド間での動きベクトルを検出する。入力画像と時間的タイミングの異なるフィールドを新たに内挿するため、入力映像信号から動き検出部7で検出した動きベクトルをもとに決定した時間位置の映像を、新たに内挿するフィールド上にベクトル検出割り付け部8により割り当てる。
【0024】
上記内挿系はフィールド内挿部9からなる。フィールド内挿部9は、合成部2から転送された原音に比べて変換音には時間的にどれだけ過不足が生じているかを示す情報(時間的な過不足量)をもとに、A/D変換部5から送られてくる時間方向に離散的な入力映像の内挿位置(時間位置)を決定し、決定した内挿位置にベクトル検出割り付け部8から与えられる映像のフィールドを内挿する。即ち、フィールド内挿部9は、上記時間的な過不足量(ズレ量)に相当する時間位置に、上記映像の動きベクトルをもとにした映像のフィールド(1または複数のフィールド)の内挿を行なうので、映像のつなぎ目が不自然とならず、映像の流れに自然性を保ったまま映像の画速を変換することができる。
【0025】
フィールド内挿部9で内挿処理を受けた映像信号をD/A変換部10へ出力し、D/A変換部10でアナログ化した映像信号を画速変換映像として出力するが、その際、映像のD/A変換部10と音のD/A変換部3とを同期し、削除、挿入、短縮または伸張した変換音と、画速変換映像とを同期出力する。
【0026】
図2は図1のフィールド内挿部9による、フィールド内挿位置の決め方を示す。
【0027】
2/60秒(2フィールド分)〜10/60秒(10フィールド分)程度のある分析区間内(可変ブロック長内)において(各分析区間の時間長は夫々異なる)、
原画のフィールド数:M、画速変換により作成する画速変換映像のフィールド数:Nとすると、図2の(a)にM>=Nの場合、図2の(b)にM<Nの場合を示している。この両者の内挿位置の決定方法は同一であり、以下に示す手順で決定する。ここで、上記のように変換音と画速変換映像との信号の同期を取って出力するため、原音と変換音の時間枠が変わらない場合には、画速変換映像のフィールド数Nは原画のフィールド数Mと同じフィールド数であり、原音に比べて変換音の時間枠がa倍に伸張または短縮する場合には、NもMのa倍のフィールド数となる。
【0028】
1)原画のフィールドを、O1 、O2 、…、Oi 、Oi+1 、…、Om とする。
【0029】
2)画速変換により作成するフィールドを、C1 、C2 、…、Cj 、Cj+1 、…、Cn とする。
【0030】
3)各フレームCj に対して、次式(1)
【0031】
【数1】
【0032】
を満足するiをiopt とし、フレームCj は入力フレームO(iopt)-1とOioptの間に位置するものと考える。
【0033】
この時、O(iopt)-1からの内挿位置(Pj)を次式(2)により演算して与える。
【0034】
【数2】
【0035】
4)以上の内挿処理を、各可変ブロック毎(各可変ブロックの時間長はそれぞれ異なる)に行い、画速変換する。
【0036】
【発明の効果】
以上説明したように、本発明によれば、映像と音を有するメディア(例えば、テレビジョン、VTRやDVDのような映像音声の記録メディア、コンピュータ上での動画音響再生等)や医療機器等での動画再生等において、映像に付随した音を何らかの操作(例えば、映像音声の編集等)により、削除(または伸張、挿入、短縮)させた場合、この削除(または伸張、挿入、短縮)した音に合わせて、高品質に映像の内挿を行ない、映像の自然性を保ったまま、高品質に映像の速度の変換を可能とし、映像のつなぎ部分などの映像の流れに自然性を保たせたまま画速を変換することができる。
【図面の簡単な説明】
【図1】本発明の一実施形態の画速変換システムの構成を示すブロック図である。
【図2】本発明の一実施形態における映像のフィールドの内挿位置を示すタイミングチャートである。
【符号の説明】
1 A/D変換部
2 合成部
3 D/A変換部
4 音の削除/伸張/短縮/挿入を設定する音操作部
5 A/D変換部
6 前処理部
7 動き検出部
8 ベクトル検出割り付け部
9 フィールド内挿部
10 D/A変換部
Claims (4)
- 映像と音を有するメディアにおいて、外部から逐次指示される音の削除/伸張/短縮/挿入の指示に応じて、入力音(原音)に対し削除/伸張/短縮/挿入を随時行ない、かつこれにより音(変換音)が時間的に短縮、もしくは伸張することにより生じる前記原音に対する前記変換音の時間的な過不足量を示す情報を発生する音処理手段と、
入力映像のフィールド間での映像の動きベクトルを検出する動き検出手段と、
前記音処理手段から供給される前記原音に対する前記変換音の時間的な過不足量を示す情報をもとに、時間方向に離散的な前記入力映像に対して映像を内挿する時間位置を決定し、決定した該時間位置に、前記動き検出手段で検出された前記動きベクトルをもとに決定した時間位置の映像を内挿する映像処理手段と、
前記音処理手段で削除等した前記変換音と前記映像処理手段から得られる画速変換映像との信号の同期を取って出力する同期出力手段と
を具備することを特徴とする画速変換システム。 - 音の削除/伸張/短縮/挿入の指示をする前記外部は、映像音声の編集操作部であることを特徴とする請求項1に記載の画速変換システム。
- 映像と音を有するメディアにおいて、外部から逐次指示される音の削除/伸張/短縮/挿入の指示に応じて、入力音(原音)に対し削除/伸張/短縮/挿入を随時行ない、かつこれにより音(変換音)が時間的に短縮、もしくは伸張することにより生じる前記原音に対する前記変換音の時間的な過不足量を示す情報を発生する音処理ステップと、
入力映像のフィールド間での映像の動きベクトルを検出する動き検出ステップと、
前記音処理ステップで発生された前記原音に対する前記変換音の時間的な過不足量を示す情報をもとに、時間方向に離散的な前記入力映像に対して映像を内挿する時間位置を決定し、決定した該時間位置に、前記動き検出手段で検出された前記動きベクトルをもとに決定した時間位置の映像を内挿する映像処理ステップと、
前記音処理ステップで削除等した前記変換音と前記映像処理ステップで得られる画速変換映像との信号の同期を取って出力する同期出力ステップと
を有することを特徴とする画速変換方法。 - コンピュータによって音速と画速の同時変換を行なうための制御プログラムを記録した記録媒体であって、該制御プログラムはコンピュータに対し、
外部から逐次指示される音の削除/伸張/短縮/挿入の指示に応じて、入力音(原音)に対し削除/伸張/短縮/挿入を随時行なわせ、かつこれにより音(変換音)が時間的に短縮、もしくは伸張することにより生じる前記原音に対する前記変換音の時間的な過不足量を示す情報を発生させ、
入力映像のフィールド間での映像の動きベクトルを検出させ、
発生された前記原音に対する前記変換音の時間的な過不足量を示す情報をもとに、時間方向に離散的な前記入力映像に対して映像を内挿する時間位置を決定させ、決定した該時間位置に、前記検出された前記動きベクトルをもとに決定した時間位置の映像を内挿させ、
前記変換音と画速変換映像との信号の同期を取って出力させることを特徴とする、音速と画速の同時変換を行なうための制御プログラムを記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24913597A JP3741839B2 (ja) | 1997-09-12 | 1997-09-12 | 画速変換システムおよび方法並びに画速変換制御プログラムを記録した記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24913597A JP3741839B2 (ja) | 1997-09-12 | 1997-09-12 | 画速変換システムおよび方法並びに画速変換制御プログラムを記録した記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH1188823A JPH1188823A (ja) | 1999-03-30 |
JP3741839B2 true JP3741839B2 (ja) | 2006-02-01 |
Family
ID=17188457
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP24913597A Expired - Lifetime JP3741839B2 (ja) | 1997-09-12 | 1997-09-12 | 画速変換システムおよび方法並びに画速変換制御プログラムを記録した記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3741839B2 (ja) |
-
1997
- 1997-09-12 JP JP24913597A patent/JP3741839B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH1188823A (ja) | 1999-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7428008B2 (en) | Video imaging device, video conversion device, and video edition device | |
JP5474417B2 (ja) | 動画データ生成装置、動画データ生成システム、動画データ生成方法およびコンピュータープログラム | |
EP1420407B1 (en) | Method and apparatus for controlling editing image display | |
JP2584138B2 (ja) | テレビジョン方式変換装置 | |
JP4339446B2 (ja) | 画像表示装置 | |
JP3741839B2 (ja) | 画速変換システムおよび方法並びに画速変換制御プログラムを記録した記録媒体 | |
JP3730764B2 (ja) | 話速/画速同時変換装置 | |
JPH08317295A (ja) | デジタル画像記録装置およびデジタル画像再生装置 | |
JP4847688B2 (ja) | インターレース−プログレッシブ変換器及びその変換方法 | |
JPH10233996A (ja) | 映像信号再生装置および映像信号再生方法 | |
JP3793333B2 (ja) | 時可変型画速変換装置 | |
JP2002300537A (ja) | 映像周波数変換装置 | |
JPH074023B2 (ja) | テレビ画像拡大方法 | |
JPH08163433A (ja) | パノラマ静止画像作成装置 | |
JP3103160B2 (ja) | 画像情報処理装置及びその方法 | |
JP2002185849A (ja) | 出力装置、及びテレシネ表示方法 | |
JP2003284007A (ja) | 映像撮像装置、映像変換装置及び映像編集装置 | |
JP3156566B2 (ja) | 映像信号記録装置 | |
JP3853519B2 (ja) | 画像記録装置 | |
JPH0832871A (ja) | 複眼撮像装置及び複眼撮像記録再生装置 | |
JP3282200B2 (ja) | 記録再生装置 | |
JP3424855B2 (ja) | 録画装置 | |
JP2687881B2 (ja) | ハイビジョン信号復号装置 | |
JP2000023095A (ja) | 記録再生装置及びコンピュータ読み取り可能な記憶媒体 | |
JPH08195936A (ja) | スロー画像再生装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040428 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040803 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041004 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20041004 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050809 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051011 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051101 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051109 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091118 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101118 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111118 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121118 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131118 Year of fee payment: 8 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |