JP2010206593A - 画像処理装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP2010206593A JP2010206593A JP2009050452A JP2009050452A JP2010206593A JP 2010206593 A JP2010206593 A JP 2010206593A JP 2009050452 A JP2009050452 A JP 2009050452A JP 2009050452 A JP2009050452 A JP 2009050452A JP 2010206593 A JP2010206593 A JP 2010206593A
- Authority
- JP
- Japan
- Prior art keywords
- video stream
- image data
- data constituting
- correlation value
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/10—Indexing; Addressing; Timing or synchronising; Measuring tape travel
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/10—Indexing; Addressing; Timing or synchronising; Measuring tape travel
- G11B27/102—Programmed access in sequence to addressed parts of tracks of operating record carriers
- G11B27/105—Programmed access in sequence to addressed parts of tracks of operating record carriers of operating discs
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/10—Indexing; Addressing; Timing or synchronising; Measuring tape travel
- G11B27/19—Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
- G11B27/28—Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/158—Switching image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/167—Synchronising or controlling image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/189—Recording image signals; Reproducing recorded image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Television Signal Processing For Recording (AREA)
- Image Analysis (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
Abstract
【課題】複数のビデオストリームを精度良く同期させる。
【解決手段】相関値算出部253は、第1のビデオストリームを構成する画像データのデータサイズと、第2のビデオストリームを構成する画像データのデータサイズとに基づいて、第1のビデオストリームを構成する画像データと、第2のビデオストリームを構成する画像データそれぞれとの類似の程度を表す相関値を算出し、相関位置検出部254は、算出された相関値に基づいて、第1のビデオストリームを構成する画像データに対応する、第2のビデオストリームを構成する画像データを検出する。本発明は、例えば、2つの異なるビデオストリームを同期させて再生する再生装置等に適用できる。
【選択図】図8
【解決手段】相関値算出部253は、第1のビデオストリームを構成する画像データのデータサイズと、第2のビデオストリームを構成する画像データのデータサイズとに基づいて、第1のビデオストリームを構成する画像データと、第2のビデオストリームを構成する画像データそれぞれとの類似の程度を表す相関値を算出し、相関位置検出部254は、算出された相関値に基づいて、第1のビデオストリームを構成する画像データに対応する、第2のビデオストリームを構成する画像データを検出する。本発明は、例えば、2つの異なるビデオストリームを同期させて再生する再生装置等に適用できる。
【選択図】図8
Description
本発明は、画像処理装置、画像処理方法、及びプログラムに関し、特に、例えば、同時に撮像された複数のビデオストリームをフレーム(又はフィールド)単位で同期させるようにした画像処理装置、画像処理方法、及びプログラムに関する。
従来、例えば、同時に撮像された複数のビデオストリームを記録し、記録した複数のビデオストリームを同期させて再生する記録再生装置が存在する。
図1は、従来の記録再生装置において、同時に撮像された複数のビデオストリームを記録する記録系1の構成例を示している。
この記録系1は、例えば、所定の方向から被写体を撮像する第1のカメラ(ビデオカメラ)の撮像により得られる第1のビデオストリームと、所定の方向とは異なる方向から同一の被写体を撮像する第2のカメラの撮像により得られる第2のビデオストリームとの記録を、同時に開始する。
記録系1は、第1のビデオストリームを記録するためのものとして、入力部21、エンコーダ22、バッファ23、及びHDD(hard disk drive)24、第2のビデオストリームを記録するためのものとして、入力部25、エンコーダ26、バッファ27、及び、HDD28、並びに、第1及び第2のビデオストリームを同時に記録させるためのものとして、同期部29、システムコントローラ30、及び書込み制御部31により構成される。
入力部21には、例えば、第1のカメラの撮像により得られる第1のビデオストリームが入力される。入力部21は、入力された第1のビデオストリームの同期をとり、垂直同期信号、水平同期信号、クロック信号等を同期信号として生成し、エンコーダ22及び同期部29に供給する。
また、入力部21は、第1のビデオストリームを、エンコーダ22に供給する。
なお、第1のビデオストリームとは、第1のカメラの撮像により得られた、複数のフレームそれぞれを表す画像データにより構成される。
エンコーダ22は、同期部29の指示にしたがって、入力部21からの同期信号を用いて、入力部21から入力される第1のビデオストリームを構成する一連の画像データを、それぞれ、フレーム内符号化により符号化(圧縮)し、その結果得られる複数の符号化データにより構成される第1の符号化ストリームを取得する。
また、エンコーダ22は、取得した第1の符号化ストリームを構成する符号化データそれぞれのデータサイズを検出する。
エンコーダ22は、取得した第1の符号化ストリームに、検出により得られる複数の符号化データそれぞれのデータサイズを含むヘッダを付加し、付加後の第1の符号化ストリームをバッファ23に供給して一時的に保持させる。
バッファ23は、エンコーダ22から供給される第1の符号化ストリームを一時的に保持する。
HDD24は、バッファ23に保持されている第1の符号化ストリームを、内蔵するハードディスク(図示せず)に記録する。
なお、入力部25、エンコーダ26、バッファ27、及びHDD28は、上述した入力部21、エンコーダ22、バッファ23、及びHDD24と同様に構成されているので、個々の説明は省略する。
入力部25、エンコーダ26、バッファ27、及びHDD28では、入力部25に入力される第2のビデオストリームが、第2の符号化ストリームに符号化されて、HDD28に記録される。
同期部29は、入力部21及び入力部25から同期信号が供給されたか否かに基づいて、入力部21及び入力部25の両方にビデオストリームが入力されているか否かを判定する。
そして、同期部29は、入力部21及び入力部25の両方にビデオストリームが入力されていると判定したとき、入力部21、エンコーダ22、入力部25、及びエンコーダ26を制御し、入力部21及び入力部25それぞれに入力されるビデオストリームを、入力部21及び入力部25それぞれに入力された同一のタイミングで同期させて、符号化等の処理を行わせる。
システムコントローラ30は、同期部29及び書込み制御部31を制御する。
書込み制御部31は、システムコントローラ30の指示に応じて、HDD24を制御し、バッファ23に保持される第1の符号化ストリームを記録させる。
また、書込み制御部31は、システムコントローラ30の指示に応じて、HDD28を制御し、バッファ27に保持される第2の符号化ストリームを記録させる。
記録系1によれば、同一のタイミングで撮像されて得られた複数の画像データからなる第1及び第2のビデオストリームを、それぞれ、第1及び第2の符号化ストリームとして記録することが可能である。
次に、図2は、従来の記録再生装置において、記録系1により記録された第1及び第2の符号化ストリームそれぞれを、復号して再生(出力)する再生系51の構成例を示している。
この再生系51は、記録系1により、HDD24及びHDD28それぞれに記録された第1及び第2の符号化ストリームを同期して再生し、その結果得られる第1及び第2のビデオストリームを後段に出力する。出力された第1及び第2のビデオストリームは、例えば、画像データどうしで合成されることにより、立体視可能的な画像が生成させる。
再生系51は、HDD24に記録された第1の符号化ストリームを再生するためのものとして、バッファ71、デコーダ72、及び出力部73、HDD28に記録された第2の符号化ストリームを再生するためのものとして、バッファ74、デコーダ75、及び出力部76、並びに、第1及び第2のビデオストリームの同期再生を制御するためのものとして、読出し制御部77、システムコントローラ78、及び同期部79により構成される。
バッファ71は、HDD24から供給される第1の符号化ストリームを一時的に保持する。
デコーダ72は、バッファ71から供給される第1の符号化ストリーム(を構成する符号化データ)を復号し、その結果得られる第1のビデオストリームを出力部73に供給する。
出力部73は、デコーダ72から供給される第1のビデオストリームを構成する画像データに、同期信号等を付加し、記録系1の入力部21に入力された第1のビデオストリームと同一のビデオストリームを出力する。
バッファ74、デコーダ75、及び出力部76は、上述したバッファ71、デコーダ72、及び出力部73と同様に構成されているので、個々の説明は省略する。
バッファ74、デコーダ75、及び出力部76では、HDD28に記録された第2の符号化ストリームが、第2のビデオストリームに復号されて出力される。
読出し制御部77は、システムコントローラ78の指示に応じて、HDD24を制御し、第1の符号化ストリームを読出させ、バッファ71に供給させる。
また、読出し制御部77は、システムコントローラ78の指示に応じて、HDD28を制御し、第2の符号化ストリームを読出させ、バッファ74に供給させる。
システムコントローラ78は、読出し制御部77及び同期部79を制御する。
同期部79は、デコーダ72を制御し、第1の符号化ストリームを構成する複数の符号化データのうち、x番目の符号化データを復号させ、その結果得られるx番目の画像データを、出力部73に供給させる。
また、同期部79は、デコーダ75を制御し、第2の符号化ストリームを構成する複数の符号化データのうち、x番目の符号化データを復号させ、その結果得られるx番目の画像データを、出力部76に供給させる。
さらに、同期部79は、出力部73及び出力部76を制御し、デコーダ72から出力部73に供給されたx番目の画像データと、デコーダ75から出力部76に供給されたx番目の画像データとを、同一のタイミングにより後段に出力させる。
次に、図3は、記録系1において、入力部21に入力される第1のビデオストリーム、及び入力部25に入力される第2のビデオストリームの符号化及び記録が開始されるタイミング、並びに、再生系51において、HDD24に記録された第1の符号化ストリーム、及びHDD28に記録された第2の符号化ストリームの復号及び再生が開始されるタイミングを示している。
なお、図3A及び図3Bにおいて、横軸は同一の時刻を表している。
また、図3A及び図3Bにおいて、矩形は、符号化ストリームを構成する符号化データを表している。さらに、その矩形内の番号は、符号化ストリームを構成する符号化データが、先頭から何番目に存在する符号化データであるかを表している。
これらのことは、図3C及び図3Dについても同様である。
例えば、記録系1は、図3Aに示されるように、入力部21に入力される第1のビデオストリームを構成する複数の画像データのうち、タイミングt0での撮像により得られた画像データから符号化を開始する。そして、記録系1は、その符号化により得られる複数の符号化データからなる第1の符号化ストリーム101をHDD24に記録させる。
また、記録系1は、図3Bに示されるように、入力部25に入力される第2のビデオストリームを構成する複数の画像データのうち、図3Aに示すタイミングt0と同一のタイミングt0での撮像により得られた画像データから符号化を開始する。そして、記録系1は、その符号化により得られる複数の符号化データからなる第2の符号化ストリーム102をHDD28に記録させる。
再生系51は、HDD24に記録された第1の符号化ストリーム101を復号し、その結果得られる第1のビデオストリーム101'を取得する。
また、再生系51は、HDD28に記録された第2の符号化ストリーム102を復号し、その結果得られる第2のビデオストリーム102'を取得する。
そして、再生系51は、第1のビデオストリーム101'を構成する複数の画像データのうち、x番目の画像データと、第2のビデオストリーム102'を構成する複数の画像データのうち、x番目の画像データとを、同一のタイミングで出力させる。
以上のように、記録系1では、同一のタイミングt0での撮像により得られた画像データから符号化を開始し、その結果得られる第1の符号化ストリーム101、及び第2の符号化ストリーム102を記録する。
また、再生系51では、第1の符号化ストリーム101を復号した復号結果である第1のビデオストリーム101'、及び、第2の符号化ストリーム102を復号した復号結果である第2のビデオストリーム102'において、先頭からx番目の画像データそれぞれを、同一のタイミングで出力(再生)する。
次に、図4は、同期部29(図1)を有さないために、第1のビデオストリームの記録を開始する時刻と、第2のビデオストリームの記録を開始する時刻とがずれてしまう記録系121の構成例を示している。
なお、記録系121において、記録系1と同様に構成されている部分については同一の符号を付しているため、その説明は省略する。
すなわち、記録系121は、同期部29及びシステムコントローラ30に代えて、システムコントローラ141が設けられている他は、記録系1と同様に構成されている。
システムコントローラ141は、入力部21、エンコーダ22、入力部25、及びエンコーダ26を制御し、入力部21及び入力部25それぞれに入力されるビデオストリームに対して、符号化等の処理を行わせる。
また、システムコントローラ141は、書込み制御部31を制御する。
次に、図5は、記録系121において、入力部21に入力される第1のビデオストリーム、及び入力部25に入力される第2のビデオストリームの符号化及び記録が開始されるタイミング、並びに、再生系51において、記録系121によりHDD24に記録された第1の符号化ストリーム、及び、記録系121によりHDD28に記録された第2の符号化ストリームの復号及び出力が開始されるタイミングを示している。
なお、図5A乃至図5Dにおける横軸及び矩形等は、図3A乃至図3Dと同様である。
例えば、記録系121は、図5Aに示されるように、入力部21に入力される第1のビデオストリームを構成する複数の画像データのうち、タイミングt0での撮像により得られる画像データから符号化を開始し、その結果得られる第1の符号化ストリーム171をHDD24に記録させる。
また、記録系121は、図5Bに示されるように、入力部25に入力される第2のビデオストリームを構成する複数の画像データのうち、タイミングt0とは異なるタイミングt1での撮像により得られる画像データから符号化を開始し、その結果得られる第2の符号化ストリーム172をHDD28記録させる。
記録系121では、同期部29を有していないため、符号化及び記録を開始するタイミングを同期させることができない。
したがって、記録系121では、入力部21に入力される第1のビデオストリームの符号化及び記録を開始するタイミングt0と、入力部25に入力される第2のビデオストリームの符号化及び記録を開始するタイミングt1とが、9フレーム分の時間(t1-t0)だけずれてしまう。
再生系51は、HDD24に記録された第1の符号化ストリーム171を復号し、その結果得られる第1のビデオストリーム171'を取得する。
また、再生系51は、HDD28に記録された第2の符号化ストリーム172を復号し、その結果得られる第2のビデオストリーム172'を取得する。
そして、再生系51は、第1のビデオストリーム171'、及び、第2のビデオストリーム172'において、x番目の画像データどうしを、同一のタイミングで出力させる。
上述したように、入力部21に入力される第1のビデオストリームの符号化及び記録を開始するタイミングt0と、入力部25に入力される第2のビデオストリームの符号化及び記録を開始するタイミングt1とは、9フレーム分の時間(t1-t0)だけずれている。
したがって、第1の符号化ストリーム171を構成するx+9(xは自然数)番目の符号化データと、第2の符号化ストリーム172を構成するx番目の符号化データとは、同一のタイミングでの撮像により得られたものとなる。
このため、再生系51では、第1のビデオストリーム171'、及び第2のビデオストリーム172'において、9フレーム分の時間(t1-t0)だけ異なるタイミングでの撮像により得られた画像データどうしを、同一のタイミングで出力してしまう。
以上のように、再生系51では、記録系121により記録された第1の符号化ストリーム171、及び第2の符号化ストリーム172それぞれの復号及び出力を開始したときには、9フレーム分の時間(t1-t0)だけずれたタイミングで撮像された画像データどうしが、同一のタイミングで再生されてしまうことが生じ得る。
このように、再生系51では、記録系121により記録された第1の符号化ストリーム171、及び第2の符号化ストリーム172において、同一のタイミングでの撮像により得られた画像データどうしを同時に再生(出力)するように、第1のビデオストリーム171'、及び第2のビデオストリーム172'を同期させることができない。
このような事態に対処するために、画像データに対応する音声データどうしを比較し、その音声データによる時間のずれを表す時間差を検出して、検出した時間差に基づいて、同一のタイミングで撮像された画像データどうしを同期させる第1の従来技術が存在する(例えば、特許文献1を参照)。
また、同期用の制御信号を2つのカメラに同時に送信し、2つのカメラが制御信号に基づいて、同時に撮像を行い、ビデオストリームを出力するようにした第2の従来技術が存在する(例えば、特許文献2を参照)。
さらに、MPEG(moving picture experts group)方式に準拠した符号化により符号化されたピクチャにより構成されるビデオストリームのシステムタイムクロックリファレンスに基づき、システムタイムクロックのカウント出力を比較し、その比較結果に応じて、再生速度の制御を行う第3の従来技術が存在する(例えば、特許文献3を参照)。
しかしながら、上述した、音声を用いる第1の従来技術では、カメラの撮像により得られた画像データと、対応する音声データとに時間的なずれが生じている場合には、同一のタイミングでの撮像により得られた画像データどうしを同期させる精度が低下してしまう。
また、上述した、同期用の制御信号を用いる第2の従来技術では、カメラが、同期用の制御信号に対応している必要があるので、任意のカメラの撮像により得られたビデオストリームどうしを同期させることはできなかった。
さらに、従来のシステムタイムクロックリファレンスを用いる第3の従来技術では、MPEG方式に準拠した符号化により符号化されたピクチャにより構成されるビデオストリーム以外のビデオストリームに対しては、上述した第3の従来技術を適用することができなかった。
本発明は、このような状況に鑑みてなされたものであり、例えば、同一の被写体を撮像して得られる複数のビデオストリームそれぞれのデータサイズに基づいて、複数のビデオストリームを精度良く同期させるようにするものである。
本発明の一側面の画像処理装置、又はプログラムは、複数の画像データにより構成される第1のビデオストリームと、前記第1のビデオストリームとは異なる第2のビデオストリームとを同期させる画像処理装置、又は画像処理装置のコンピュータとして機能させるためのプログラムであって、前記第1のビデオストリームを構成する画像データのデータサイズと、前記第2のビデオストリームを構成する画像データのデータサイズとに基づいて、前記第1のビデオストリームを構成する画像データと、前記第2のビデオストリームを構成する画像データそれぞれとの類似の程度を表す相関値を算出する算出手段と、前記相関値に基づいて、前記第1のビデオストリームを構成する画像データに対応する、前記第2のビデオストリームを構成する画像データを検出する検出手段とを含む画像処理装置、又は画像処理装置として機能させるためのプログラムである。
前記第1及び第2のビデオストリームに対して、前記画像データの画像内容に応じて符号化後のデータサイズが変化する可変ビットレート制御によるフレーム内符号化を行う符号化手段をさらに設けることができ、前記算出手段では、符号化後の前記第1のビデオストリームを構成する画像データのデータサイズと、符号化後の前記第2のビデオストリームを構成する画像データのデータサイズとに基づいて、前記相関値を算出することができる。
前記可変ビットレート制御によるフレーム内符号化とは異なる符号化により符号化されている前記第1及び第2のビデオストリームを復号する復号手段をさらに設けることができ、前記符号化手段では、復号後の前記第1及び第2のビデオストリームに対して、前記可変ビットレート制御によるフレーム内符号化を行うことができる。
前記算出手段では、前記第1のビデオストリームを構成する画像データのGOP単位のデータサイズと、前記第2のビデオストリームを構成する画像データのGOP単位のデータサイズとに基づいて、前記第1のビデオストリームを構成する画像データと、前記第2のビデオストリームを構成する画像データそれぞれとのGOP単位の類似の程度を表す相関値を算出し、前記検出手段では、前記相関値に基づいて、前記第1のビデオストリームを構成する画像データに対応する、前記第2のビデオストリームを構成する画像データをGOP単位で検出することができる。
前記算出手段では、前記第1のビデオストリームを構成する画像データのデータサイズと、前記第2のビデオストリームを構成する画像データのデータサイズとの差分自乗和を、前記相関値として算出し、前記検出手段では、前記第1のビデオデータを構成する画像データと、前記第2のビデオストリームを構成する画像データとの前記相関値が所定の閾値以下であるときに、前記第2のビデオストリームを構成する画像データを検出することができる。
前記第1及び第2のビデオストリームを構成する画像データは、前記画像データの画像内容に応じてデータサイズが異なるようにすることができる。
本発明の一側面の画像処理方法は、複数の画像データにより構成される第1のビデオストリームと、前記第1のビデオストリームとは異なる第2のビデオストリームとを同期させる画像処理装置の画像処理方法であって、前記画像処理装置は、算出手段と、検出手段とを含み、前記算出手段が、前記第1のビデオストリームを構成する画像データのデータサイズと、前記第2のビデオストリームを構成する画像データのデータサイズとに基づいて、前記第1のビデオストリームを構成する所定の画像データと、前記第2のビデオストリームを構成する画像データそれぞれとの類似の程度を表す相関値を算出し、前記検出手段が、前記相関値に基づいて、前記第1のビデオストリームを構成する画像データに対応する、前記第2のビデオストリームを構成する画像データを検出するステップを含む画像処理方法である。
本発明によれば、前記第1のビデオストリームを構成する画像データのデータサイズと、前記第2のビデオストリームを構成する画像データのデータサイズとに基づいて、前記第1のビデオストリームを構成する画像データと、前記第2のビデオストリームを構成する画像データそれぞれとの類似の程度を表す相関値が算出され、前記相関値に基づいて、前記第1のビデオストリームを構成する画像データに対応する、前記第2のビデオストリームを構成する画像データが検出される。
本発明によれば、例えば、同一の被写体を撮像して得られる複数のビデオストリームを精度良く同期させることができる。
以下、発明を実施するための形態(以下、本実施の形態という)について説明する。なお、説明は以下の順序で行う。
1. 本実施の形態(符号化データのデータサイズどうしを比較する例)
2. 変形例
1. 本実施の形態(符号化データのデータサイズどうしを比較する例)
2. 変形例
<1.本実施の形態>
[再生装置191の構成例]
図6は、本実施の形態である再生装置191の構成例を示している。
[再生装置191の構成例]
図6は、本実施の形態である再生装置191の構成例を示している。
なお、この再生装置191は、再生系51と対応する部分については同一の符号を付しているため、その説明は以下省略する。
すなわち、再生装置191は、システムコントローラ78が、フレームコントローラ78aを有する他は、再生系51と同様に構成されている。
また、再生装置191において、HDD24には予め第1の符号化ストリーム171が、HDD28には予め第2の符号化ストリーム172が、それぞれ記録されている。
なお、第1の符号化ストリーム171と、第2の符号化ストリーム172とは、それぞれ、第1及び第2のビデオストリームそれぞれの符号化及び記録を開始するタイミングがずれて、HDD24及びHDD28に記録されたものである。
フレームコントローラ78aには、HDD24からバッファ71を介して、第1の符号化ストリーム171が供給されるとともに、HDD28からバッファ74を介して、第2の符号化ストリーム172が供給される。
フレームコントローラ78aは、バッファ71から供給される第1の符号化ストリーム171を構成する符号化データのデータサイズと、バッファ74から供給される第2の符号化ストリーム172を構成する符号化データのデータサイズとに基づいて、対応する符号化データのデータサイズどうしの相関を表す相関値を算出する。
そして、フレームコントローラ78aは、算出した相関値に基づいて、第1のビデオストリーム171'と第2のビデオストリーム172'どうしを同期させるように、同期部79を制御する。
なお、フレームコントローラ78aの詳細は、後述する図8を参照して後述する。
[記録と再生のタイミングに関する説明]
次に、図7は、再生装置191において、HDD24に予め記録されている第1の符号化ストリーム171、及びHDD28に予め記録されている第2の符号化ストリーム172それぞれの復号及び出力が開始されるタイミングを示している。
次に、図7は、再生装置191において、HDD24に予め記録されている第1の符号化ストリーム171、及びHDD28に予め記録されている第2の符号化ストリーム172それぞれの復号及び出力が開始されるタイミングを示している。
なお、図7A及び図7Dにおける横軸及び矩形等は、図5A及び図5Dと同様である。
再生装置191は、HDD24に記録されている第1の符号化ストリーム171を構成する符号化データそれぞれのデータサイズと、HDD28に記録されている第2の符号化ストリーム172を構成する符号化データそれぞれのデータサイズとに基づいて、第1のビデオストリーム171'と第2のビデオストリーム172'とを同期させる画像データが存在する位置を検出する。
すなわち、例えば、再生装置191は、第1の符号化ストリーム171、及び第2の符号化ストリーム172それぞれのデータサイズに基づいて、第1の符号化ストリーム171を構成する符号化データのうち、10番目の符号化データが存在する位置と、第2の符号化ストリーム172を構成する符号化データのうち、1番目の符号化データが存在する位置とを、同一のタイミングでの撮像により得られた画像データそれぞれが存在する位置として検出する。
また、再生装置191は、HDD24に記録されている第1の符号化ストリーム171を復号し、その結果得られる第1のビデオストリーム171'を取得する。
さらに、再生装置191は、HDD28に記録されている第2の符号化ストリーム172を復号し、その結果得られる第2のビデオストリーム172'を取得する。
そして、再生装置191は、10番目の符号化データが存在する第1の符号化ストリーム171上の位置に対応する第1のビデオストリーム171'上の位置、及び、1番目の符号化データが存在する第2の符号化ストリーム172上の位置に対応する第2のビデオストリーム172'上の位置で、第1のビデオストリーム171'と、第2のビデオストリーム172'とを同期させて出力させる。
すなわち、例えば、再生装置191は、第1のビデオストリーム171'を構成する画像データのうち、1乃至9番目の画像データを飛ばした(スキップした)後の10番目の画像データと、第2のビデオストリーム172'を構成する画像データのうち、1番目の画像データとを同一のタイミングで出力するように同期させる。
また、再生装置191は、第1のビデオストリーム171'を構成する複数の画像データのうち、11番目以降の画像データと、第2のビデオストリーム172'を構成する複数の画像データのうち、2番目以降の画像データとについても、同様に同期させる。
[フレームコントローラ78aの構成例]
次に、図8は、フレームコントローラ78aの詳細な構成例を示している。
次に、図8は、フレームコントローラ78aの詳細な構成例を示している。
このフレームコントローラ78aは、取得部251、取得部252、相関値算出部253、相関位置検出部254、及び同期制御部255により構成されている。
取得部251は、バッファ71に保持されている第1の符号化ストリーム171に付加されたヘッダを読み出す。
そして、取得部251は、読み出したヘッダから、第1の符号化ストリーム171を構成するx番目の符号化データのデータサイズf(x)(x=1,2,・・・)を取得し、相関値算出部253に供給する。
取得部252は、バッファ74に保持されている第2の符号化ストリーム172に付加されたヘッダを読み出す。
そして、取得部252は、読み出したヘッダから、第2の符号化ストリーム172を構成するy番目の符号化データのデータサイズg(y)(y=1,2,・・・)を取得し、相関値算出部253に供給する。
相関値算出部253は、取得部251からのデータサイズf(x)と、取得部252からのデータサイズg(y)を、次式(1)に適用して、f(x)とg(y)との相関値として、その差分自乗和を算出する。
なお、式(1)において、添え字iは0からN(Nは0以上の整数)までの値とされる。
また、添え字jは、第1の符号化ストリーム171のうち、先頭からj番目の位置を表し、添え字kは、第2の符号化ストリーム172のうち、先頭からk番目の位置を表す。添え字j及びkは自然数とされる。
さらに、相関値z(j,k)は、第1の符号化ストリーム171における(i+j)番目の符号化データのデータサイズf(i+j)と、第2の符号化ストリーム172における(i+k)番目の符号化データのデータサイズg(i+k)との差分{f(i+j)-g(i+k)}の自乗{f(i+j)-g(i+k)}^2の総和(サメーション)により表される。
ところで、第1のビデオストリーム171'と、第2のビデオストリーム172'とは、同一の被写体を対象とした撮像により得られたものであり、第1及び第2のビデオストリームを構成する複数の画像データは、画像データのデータサイズを固定にする固定ビットレート制御により、それぞれ、同一のデータサイズとされている。
また、第1の符号化ストリーム171と、第2の符号化ストリーム172とは、画像データに対して、フレーム内符号化を行うことにより得られるものである。
なお、フレーム内符号化では、画像データのデータサイズが、画像データに対応する画像が表示する被写体等の内容において適切なデータサイズとなるように、画像データのデータサイズを可変にする可変ビットレート制御が行われる。
すなわち、例えば、画像データが、青空等が撮像された画像のように変化が少ない単調な画像である場合、フレーム内符号化により、大きな圧縮率で圧縮されて、小さなデータサイズの符号化データとなる。
また、例えば、画像データが、複数の人や建物等が撮像された画像のように複雑な画像である場合、フレーム内符号化により、小さな圧縮率で圧縮されて、大きなデータサイズの符号化データとなる。
さらに、上述したように、第1のビデオストリーム171'と、第2のビデオストリーム172'とは、同一の被写体を対象とした撮像により得られたものである。
したがって、符号化データのデータサイズどうしの差分の自乗{f(x)-g(y)}^2が小さい程に、対応する画像データどうしにおいて、画像データ(が表す画像)により表示される内容が類似している可能性が高いため、同一のタイミングでの撮像により得られた画像データである可能性が高いといえる。
このため、相関値z(j,k)が小さい程に、第1の符号化ストリーム171を構成するj乃至(N+j)番目の符号化データそれぞれに対応する画像データと、第2の符号化ストリーム172を構成するk乃至(N+k)番目の符号化データそれぞれに対応する画像データどうしの類似の程度を表す相関が高くなる。
なお、符号化前の画像データのデータサイズどうしを直接に比較しないのは、画像データそれぞれが、画像データのデータサイズを固定にする固定ビットレート制御により同一のデータサイズとされていることによる。
したがって、画像データにより表示される被写体等の画像内容に応じて、画像データのデータサイズが異なる場合には、フレーム内符号化によりデータサイズを変化させることなく、相関値z(j,k)を算出することが可能である。
相関値算出部253は、式(1)により算出した相関値z(j,k)を、添え字j及びk(を表すデータ)とともに、相関位置検出部254に供給する。
相関位置検出部254は、相関値算出部253からの相関値z(j,k)が所定の閾値以下であるか否か、すなわち、第1の符号化ストリーム171を構成するj番目の符号化データと、第2の符号化ストリーム172を構成するk番目の符号化データとは、同一のタイミングでの撮像により得られた画像データに対応するものである可能性が高いか否かを判定する。
そして、相関位置検出部254は、相関値算出部253からの相関値z(j,k)が所定の閾値以下であると判定した場合、対応する添え字j及びkを同期制御部255に供給する。
同期制御部255は、相関位置検出部254から、添え字j及びkが供給されたことに対応して、第1の符号化ストリーム171を構成するj番目の符号化データに対応する画像データと、第2の符号化ストリーム172を構成するk番目の符号化データに対応する画像データとを同期させる。
すなわち、例えば、同期制御部255は、同期部79を制御して、第1の符号化ストリーム171を、j番目の符号化データから復号させるとともに、第2の符号化ストリーム172を、k番目の符号化データから復号させる。そして、同期制御部255は、同期部79を制御して、それぞれの復号により得られる画像データどうしを、同一のタイミングで出力させる。
[フレームコントローラ78aの動作説明]
次に、図9のフローチャートを参照して、第1の符号化ストリーム171上の位置jと、第2の符号化ストリーム172上の位置kとの組み合わせ(j,k)のうち、相関値z(j,k)が所定の閾値以下であるときの組み合わせ(j,k)を検出する相関位置検出処理の詳細を説明する。
次に、図9のフローチャートを参照して、第1の符号化ストリーム171上の位置jと、第2の符号化ストリーム172上の位置kとの組み合わせ(j,k)のうち、相関値z(j,k)が所定の閾値以下であるときの組み合わせ(j,k)を検出する相関位置検出処理の詳細を説明する。
ステップS21において、取得部251は、HDD24に記録されている第1の符号化ストリーム171に付加されているヘッダを読み出す。そして、取得部251は、読み出したヘッダから、第1の符号化ストリーム171を構成する符号化データのデータサイズf(x)(x=1,2,・・・)を取得し、相関値算出部253に供給する。
また、取得部252は、HDD24に記録されている第2の符号化ストリーム172に付加されているヘッダを読み出す。そして、取得部252は、読み出したヘッダから、第2の符号化ストリーム172を構成する符号化データのデータサイズg(y)(y=1,2,・・・)を取得し、相関値算出部253に供給する。
ステップS22において、相関値算出部253は、添え字j及びkを、それぞれ、0に設定する初期化を行う。
ステップS23において、相関値算出部253は、取得部251からのデータサイズf(x)、及び取得部252からのデータサイズg(y)を、式(1)に適用して、相関値z(j,k)を算出する。
そして、相関値算出部253は、式(1)により算出した相関値z(j,k)を、添え字j及びkとともに、相関位置検出部254に供給する。
ステップS24において、相関位置検出部254は、相関値算出部253からの相関値z(j,k)が所定の閾値以下であるか否か、すなわち、第1の符号化ストリーム171を構成するj番目の符号化データと、第2の符号化ストリーム172を構成するk番目の符号化データとは、同一のタイミングでの撮像により得られた画像データに対応するものである可能性が高いか否かを判定する。
そして、相関位置検出部254は、相関値算出部253からの相関値z(j,k)が所定の閾値以下であると判定した場合、添え字j及びkを、同期制御部255に供給して、処理はステップS25に進められる。
ステップS25において、同期制御部255は、相関位置検出部254から、添え字j及びkが供給されたことに対応して、第1のビデオストリーム171'を構成するj番目の画像データと、第2のビデオストリーム172'を構成するk番目の画像データとを同期させる。
また、同期制御部255は、第1のビデオストリーム171'を構成する画像データのうち、j+1番目以降の画像データと、第2のビデオストリーム172'を構成する画像データのうち、k+1番目以降の画像データとについても同様に、同一のタイミングで出力するように同期させて、処理は終了される。
また、相関位置検出部254は、相関値算出部253からの相関値z(j,k)が所定の閾値以下でないと判定した場合、処理はステップS26に進められる。
ステップS26において、相関値算出部253は、添え字jに1を加算し、加算後の添え字jを、新たな添え字jとする。
ステップS27において、相関値算出部253は、添え字jが、第1の符号化ストリーム171を構成する符号化データの個数j_maxよりも大きいか否かを判定する。そして、相関値算出部253は、添え字jが、個数j_maxよりも大きくないと判定した場合、処理はステップS23に戻り、以下、同様の処理が繰り返される。
また、ステップS27において、相関値算出部253は、添え字jが、個数j_maxよりも大きいと判定した場合、処理はステップS28に進められる。
ステップS28において、相関値算出部253は、添え字jを0に初期化する。
ステップS29において、相関値算出部253は、添え字kに1を加算し、加算後の添え字kを、新たな添え字kとする。
ステップS30において、相関値算出部253は、添え字kが、第2の符号化ストリーム172を構成する符号化データの個数k_maxよりも大きいか否かを判定する。そして、相関値算出部253は、添え字kが、個数k_maxよりも大きくないと判定した場合、処理はステップS23に戻り、以下、同様の処理が繰り返される。
一方、ステップS30において、相関値算出部253は、添え字kが、個数k_maxよりも大きいと判定した場合、処理は終了される。
以上で、相関位置検出処理は終了される。
以上説明したように、相関位置検出処理では、第1の符号化ストリーム171、及び第2の符号化ストリーム172それぞれのデータサイズから相関値z(j,k)を算出し、算出した相関値z(j,k)が所定の閾値以下であるときに、第1のビデオストリーム171'におけるj番目の画像データと、第1のビデオストリーム172'におけるk番目の画像データどうしを同期させるようにした。
したがって、相関位置検出処理では、上述した第1の従来技術のように、画像データと、対応する音声データとに時間的なずれが生じたとしても、データサイズから算出した相関値z(j,k)に基づいて、第1のビデオストリーム171'と第2のビデオストリーム172'とを精度良く同期させることができる。
また、相関位置検出処理では、データサイズから算出した相関値z(j,k)を用いて、第1のビデオストリーム171'と第2のビデオストリーム172'とを同期させるようにしている。したがって、ビデオストリームどうしを同期させるために、画像データを取得したときの時刻を表すタイムスタンプを記録する等の特別な処理を行うことなく、2つのストリームどうしを同期させることが可能となる。
すなわち、例えば、タイムスタンプを記録しないカメラの撮像により得られるビデオストリームや、ビデオストリームどうしの記録を開始するタイミングがずれてしまう記録系121等により記録されたビデオストリームに対しても、データサイズを比較することにより、ビデオストリームどうしを同期させることが可能となる。
なお、相関位置検出処理では、ステップS25において、第1のビデオストリーム171'を構成するj番目の画像データと、第2のビデオストリーム172'を構成するk番目の画像データとを同期させる。
しかしながら、ステップS25の処理後、第1のビデオストリーム171'を構成するj番目の画像データと、第2のビデオストリーム172'を構成するk番目の画像データとが、同一のタイミングでの撮像により得られた画像データどうしではないと、ユーザが、同期させた画像データをディスプレイ等で視認することにより判断した場合には、ユーザ操作に応じて、ステップS26から処理を開始させるようにしてもよい。
また、相関位置検出処理により、同一のタイミングでの撮像により得られた画像データどうしを同期させることができない場合には、相関位置検出処理による処理結果を参考にしつつ、ユーザが、ディスプレイ等に表示される、画像データに対応する画像を確認しながら、第1のビデオストリーム171'、及び第2のビデオストリーム172'どうしを同期させるようにしてもよい。
この場合、ユーザが、ディスプレイ等に表示される、画像データに対応する画像を確認するだけで、ユーザのマニュアル操作により、第1のビデオストリーム171'、及び第2のビデオストリーム172'どうしを同期させる場合と比較して、より迅速に、第1のビデオストリーム171'、及び第2のビデオストリーム172'どうしを同期させることが可能となる。
<2.変形例>
本実施の形態では、画像データに対して、可変ビットレート制御を行うことにより得られる符号化データのデータサイズf(x)及びg(y)を用いて、相関値z(j,k)を算出し、算出した相関値z(j,k)が所定の閾値以下である場合に、第1のビデオストリーム171'を構成するj番目の画像データと、第2のビデオストリーム172'を構成するk番目の画像データどうしを同期させるようにした。
本実施の形態では、画像データに対して、可変ビットレート制御を行うことにより得られる符号化データのデータサイズf(x)及びg(y)を用いて、相関値z(j,k)を算出し、算出した相関値z(j,k)が所定の閾値以下である場合に、第1のビデオストリーム171'を構成するj番目の画像データと、第2のビデオストリーム172'を構成するk番目の画像データどうしを同期させるようにした。
しかしながら、本実施の形態では、符号化ストリームが、画像データを、固定ビットレート制御によるフレーム内符号化により、同一の圧縮率で符号化(圧縮)したものである場合や、MPEG符号化方式等のように、画像データ間の相関を用いて符号化する符号化方式により圧縮されている場合には、符号化データのデータサイズの違いを利用して、符号化データどうしの相関値z(j,k)を算出することができない。
この場合、再生装置191において、固定ビットレート制御によるフレーム内符号化や、MPEG符号化方式に対応した符号化等により得られる符号化ストリームを復号するための新たなデコーダと、新たなデコーダが行う復号により得られるビデオストリームに対して、可変ビットレート制御によるフレーム内符号化を行う新たなデコーダを設けるようにすることが可能である。
すなわち、再生装置191は、新たなデコーダにより、符号化ストリームを復号し、その結果得られるビデオストリームに対して、新たなエンコーダにより、可変ビットレート制御によるフレーム内符号化を行い、その結果得られる新たな符号化ストリームを取得する。そして、再生装置191は、取得した新たな符号化ストリームを対象として、本発明を実施することが可能である。
また、本実施の形態では、相関値z(j,k)が所定の閾値以下であるときの画像データどうしを検出するようにしたが、符号化ストリームが、MPEG符号化方式により符号化された複数のピクチャからなるGOP(group of picture)により構成される場合には、相関値z(j,k)が所定の閾値以下であるときのGOPどうしを検出することが可能である。
次に、図10は、相関値z(j,k)が所定の閾値以下であるときのGOPどうしを検出する方法を示している。
なお、図10A及び図10Bにおいて、横軸は同一の時刻を表している。
例えば、再生装置191のHDD24には、図10Aに示されるように、複数のピクチャ(例えば15ピクチャ)からなるGOPにより構成される第1の符号化ストリーム281が記録されている。
また、例えば、再生装置191のHDD28には、図10Bに示されるように、第1の符号化ストリーム281を構成するGOPと同一の個数のピクチャからなるGOPにより構成される第2の符号化ストリーム282が記録されている。
再生装置191は、HDD24に記録された第1の符号化ストリーム281を構成するGOPそれぞれのデータサイズと、HDD28に記録された第2の符号化ストリーム282を構成するGOPそれぞれのデータサイズとに基づいて、相関値z(j,k)を算出する。
再生装置191は、算出した相関値z(j,k)が所定の閾値以下であるときに、第1の符号化ストリーム281を構成するj番目のGOPと、第2の符号化ストリーム282を構成するk番目のGOPとを検出する。
そして、再生装置191は、検出したGOPどうしを、それぞれ、MPEG復号方式により復号し、その結果得られる複数の画像データからなるビデオストリームを取得する。再生装置191は、取得した2つのビデオストリームそれぞれに対して、可変ビットレート制御によるフレーム内符号化を行い、その結果得られる2つの符号化ストリームに対して、上述した相関位置検出処理を行う。
これにより、第1の符号化ストリーム281、及び第2の符号化ストリーム282それぞれを構成するGOPすべてを復号し、可変ビットレート制御によるフレーム内符号化を行うことにより得られるものを対象として相関位置検出処理を行う場合と比較して、より迅速に、2つのビデオストリームどうしを同期させる位置を検出することが可能となる。
また、再生装置191では、検出した2つのGOPを復号し、その結果得られるビデオストリームどうしを、ディスプレイ等に順次表示させて、ユーザによるマニュアル操作で同期させるようにしてもよい。
なお、本実施の形態では、データサイズから算出した相関値z(j,k)に基づいて、第1のビデオストリーム171'、及び第2のビデオストリーム172'を同期させるようにした。そして、例えば、同期した第1のビデオストリーム171'と第2のビデオストリーム172'との画像データどうしを合成し、立体視可能な画像を生成したり、画像データどうしを同一のタイミングで2つの異なるディスプレイに表示させることが可能である。
また、例えば、図11に示すように、第1のビデオストリーム171'、及び第2のビデオストリーム172'を同期させるようにして、出力させるビデオストリームのフレームレートをより高いフレームレートとすることが可能である。
図11は、出力させるビデオストリームのフレームレートをより高フレームレートにする方法を示している。
なお、図11Aにおいて、第3のビデオストリーム311は、第1のビデオストリーム171'、及び第2のビデオストリーム172'から生成されて出力される高フレームレートのビデオストリームを示している。
また、図11Bにおいて、第1のビデオストリーム171'は、出力される第3のビデオストリーム311のうち、奇数番目の画像データとして採用される画像データにより構成される。
図11Cにおいて、第2のビデオストリーム172'は、出力される第3のビデオストリーム311のうち、偶数番目の画像データとして採用される画像データにより構成される。
なお、図11において、第1のビデオストリーム171'と第2のビデオストリーム172'とは、同一の被写体を(殆ど)同一の方向から撮像して得られたものである。
再生装置191は、第1のビデオストリーム171'と第2のビデオストリーム172'とを同期させて、第1のビデオストリーム171'を構成する画像データを、奇数番目の画像データとし、第2のビデオストリーム172'を構成する画像データを、偶数番目の画像データとして、交互に配置して得られる第3のビデオストリーム311を出力する。
これにより、再生装置191は、例えば第1のビデオストリーム171'又は第2のビデオストリーム172'のいずれか一方を出力する場合と比較して、出力する第3のビデオストリーム311のフレームレートを2倍に設定することが可能となる。
また、本発明は、図12に示すように、再生装置191が有する機能の他、例えば記録系121が有する機能を備える記録再生装置341についても適用することが可能である。
図12は、本発明を適用した再生装置191と、従来の記録系121との両機能を有する記録再生装置341を示している。
この記録再生装置341は、図4の入力部21乃至HDD24それぞれと同様に構成される入力部371乃至HDD374、図6のバッファ71乃至出力部73それぞれと同様に構成されるバッファ375乃至出力部377、同期部79と同様に構成される同期部378、システムコントローラ78及びシステムコントローラ141と同様に構成されるシステムコントローラ379、フレームコントローラ78aと同様に構成されるフレームコントローラ379a、書込み制御部31及び読出し制御部77と同様に構成される読書き制御部380、入力部25乃至HDD28と同様に構成される入力部381乃至HDD384、バッファ74乃至出力部76と同様に構成されるバッファ385乃至出力部387により構成される。
なお、本実施の形態では、相関値z(j,k)を算出するための数式として、式(1)を用いることとしたがこれに限定されず、第1の符号化ストリーム171を構成する符号化データに対応する画像データと、第2の符号化ストリーム172を構成する符号化データに対応する画像データどうしの類似の程度を表す値を算出できればよい。
したがって、例えば、Σ{f(j-i)-g(k-i)}^2、Σ{f(2i+j)-g(2i+k)}^2、Σ{f(2i+1+j)-g(2i+1+k)}^2、データサイズf(i+j)とデータサイズg(i+k)との差分絶対値|f(i+j)-g(i+k)|の総和Σ|f(i+j)-g(i+k)|等を、相関値z(j,k)を算出するための数式として採用することが可能である。
ところで、近年、ハードディスクビデオレコーダでは、記録する画像データの画質を標準画質から高画質に変換したり、画面分解能をSD(standard definition)からHD(high definition)に変換したり、フレームレートを標準から高フレームレートに変換することが行われている。
このため、ハードディスクビデオレコーダでは、内蔵するハードディスクに記録する単位時間あたりの符号化データのデータサイズが増大しつつあり、画像データを符号化する符号化処理に多大な時間を要する場合がある。
この場合、ハードディスクビデオレコーダに、符号化処理を行う複数の処理部を設けるとともに、記録する画像データにより構成される記録用のビデオストリームを、複数のビデオストリーム(例えば、記録用のビデオストリームの画像データのうち、偶数番目の画像データからなるビデオストリームと、記録用のビデオストリームの画像データのうち、奇数番目の画像データからなるビデオストリーム)に分割して、複数の処理部により、符号化処理を施すことにより、符号化処理に要する時間を向上させることが考えられる。
ハードディスクビデオレコーダをこのように構成したときには、記録用のビデオストリームを分割して得られた複数のビデオストリームを同期させて、元の記録用のビデオストリームに戻す必要があり、このときにも、複数のビデオストリームを同期させるために、本発明を適用することが可能である。
ところで、上述した一連の処理は、専用のハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、いわゆる組み込み型のコンピュータ、又は、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等に、記録媒体からインストールされる。
次に、図13は、上述した一連の処理をプログラムにより実行するパーソナルコンピュータの構成例を示している。
CPU(Central Processing Unit)411は、ROM(Read Only Memory)412、又は記憶部418に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)413には、CPU411が実行するプログラムやデータ等が適宜記憶される。これらのCPU411、ROM412、及びRAM413は、バス414により相互に接続されている。
CPU411にはまた、バス414を介して入出力インタフェース415が接続されている。入出力インタフェース415には、キーボード、マウス、マイクロホン等よりなる入力部416、ディスプレイ、スピーカ等よりなる出力部417が接続されている。CPU411は、入力部416から入力される指令に対応して各種の処理を実行する。そして、CPU411は、処理の結果を出力部417に出力する。
入出力インタフェース415に接続されている記憶部418は、例えばハードディスクからなり、CPU411が実行するプログラムや各種のデータを記憶する。通信部419は、インターネットやローカルエリアネットワーク等のネットワークを介して外部の装置と通信する。
また、通信部419を介してプログラムを取得し、記憶部418に記憶してもよい。
入出力インタフェース415に接続されているドライブ420は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等のリムーバブルメディア421が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータ等を取得する。取得されたプログラムやデータは、必要に応じて記憶部418に転送され、記憶される。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録(記憶)する記録媒体は、図13に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリ等よりなるパッケージメディアであるリムーバブルメディア421、又は、プログラムが一時的もしくは永続的に格納されるROM412や、記憶部418を構成するハードディスク等により構成される。記録媒体へのプログラムの記録は、必要に応じてルータ、モデム等のインタフェースである通信部419を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線又は無線の通信媒体を利用して行われる。
なお、本明細書において、相関位置検出処理を記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本発明の実施の形態は、上述した本実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
24,28 HDD, 71 バッファ, 72 デコーダ, 73 出力部, 74 バッファ, 75 デコーダ, 76 出力部, 77 読出し制御部, 78 システムコントローラ, 78a フレームコントローラ, 79 同期部, 191 再生装置, 251,252 取得部, 253 相関値算出部, 254 相関位置検出部, 255 同期制御部
Claims (8)
- 複数の画像データにより構成される第1のビデオストリームと、前記第1のビデオストリームとは異なる第2のビデオストリームとを同期させる画像処理装置において、
前記第1のビデオストリームを構成する画像データのデータサイズと、前記第2のビデオストリームを構成する画像データのデータサイズとに基づいて、前記第1のビデオストリームを構成する画像データと、前記第2のビデオストリームを構成する画像データそれぞれとの類似の程度を表す相関値を算出する算出手段と、
前記相関値に基づいて、前記第1のビデオストリームを構成する画像データに対応する、前記第2のビデオストリームを構成する画像データを検出する検出手段と
を含む画像処理装置。 - 前記第1及び第2のビデオストリームに対して、前記画像データの画像内容に応じて符号化後のデータサイズが変化する可変ビットレート制御によるフレーム内符号化を行う符号化手段をさらに含み、
前記算出手段は、符号化後の前記第1のビデオストリームを構成する画像データのデータサイズと、符号化後の前記第2のビデオストリームを構成する画像データのデータサイズとに基づいて、前記相関値を算出する
請求項1に記載の画像処理装置。 - 前記可変ビットレート制御によるフレーム内符号化とは異なる符号化により符号化されている前記第1及び第2のビデオストリームを復号する復号手段をさらに含み、
前記符号化手段は、復号後の前記第1及び第2のビデオストリームに対して、前記可変ビットレート制御によるフレーム内符号化を行う
請求項2に記載の画像処理装置。 - 前記算出手段は、前記第1のビデオストリームを構成する画像データのGOP単位のデータサイズと、前記第2のビデオストリームを構成する画像データのGOP単位のデータサイズとに基づいて、前記第1のビデオストリームを構成する画像データと、前記第2のビデオストリームを構成する画像データそれぞれとのGOP単位の類似の程度を表す相関値を算出し、
前記検出手段は、前記相関値に基づいて、前記第1のビデオストリームを構成する画像データに対応する、前記第2のビデオストリームを構成する画像データをGOP単位で検出する
請求項1に記載の画像処理装置。 - 前記算出手段は、前記第1のビデオストリームを構成する画像データのデータサイズと、前記第2のビデオストリームを構成する画像データのデータサイズとの差分自乗和を、前記相関値として算出し、
前記検出手段は、前記第1のビデオデータを構成する画像データと、前記第2のビデオストリームを構成する画像データとの前記相関値が所定の閾値以下であるときに、前記第2のビデオストリームを構成する画像データを検出する
請求項1に記載の画像処理装置。 - 前記第1及び第2のビデオストリームを構成する画像データは、前記画像データの画像内容に応じてデータサイズが異なる
請求項1に記載の画像処理装置。 - 複数の画像データにより構成される第1のビデオストリームと、前記第1のビデオストリームとは異なる第2のビデオストリームとを同期させる画像処理装置の画像処理方法において、
前記画像処理装置は、
算出手段と、
検出手段と
を含み、
前記算出手段が、前記第1のビデオストリームを構成する画像データのデータサイズと、前記第2のビデオストリームを構成する画像データのデータサイズとに基づいて、前記第1のビデオストリームを構成する所定の画像データと、前記第2のビデオストリームを構成する画像データそれぞれとの類似の程度を表す相関値を算出し、
前記検出手段が、前記相関値に基づいて、前記第1のビデオストリームを構成する画像データに対応する、前記第2のビデオストリームを構成する画像データを検出する
ステップを含む画像処理方法。 - 複数の画像データにより構成される第1のビデオストリームと、前記第1のビデオストリームとは異なる第2のビデオストリームとを同期させる画像処理装置のコンピュータを、
前記第1のビデオストリームを構成する画像データのデータサイズと、前記第2のビデオストリームを構成する画像データのデータサイズとに基づいて、前記第1のビデオストリームを構成する所定の画像データと、前記第2のビデオストリームを構成する画像データそれぞれとの類似の程度を表す相関値を算出する算出手段と、
前記相関値に基づいて、前記第1のビデオストリームを構成する画像データに対応する、前記第2のビデオストリームを構成する画像データを検出する検出手段と
して機能させるためのプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009050452A JP2010206593A (ja) | 2009-03-04 | 2009-03-04 | 画像処理装置、画像処理方法、及びプログラム |
EP20100250092 EP2227029A3 (en) | 2009-03-04 | 2010-01-21 | Image processing apparatus, image processing method, and program |
US12/710,835 US20100254455A1 (en) | 2009-03-04 | 2010-02-23 | Image processing apparatus, image processing method, and program |
CN201010125213A CN101827202A (zh) | 2009-03-04 | 2010-02-25 | 图像处理设备、图像处理方法和程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009050452A JP2010206593A (ja) | 2009-03-04 | 2009-03-04 | 画像処理装置、画像処理方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010206593A true JP2010206593A (ja) | 2010-09-16 |
Family
ID=42153820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009050452A Withdrawn JP2010206593A (ja) | 2009-03-04 | 2009-03-04 | 画像処理装置、画像処理方法、及びプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20100254455A1 (ja) |
EP (1) | EP2227029A3 (ja) |
JP (1) | JP2010206593A (ja) |
CN (1) | CN101827202A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014049989A1 (ja) * | 2012-09-28 | 2014-04-03 | パナソニック株式会社 | 映像出力装置 |
US10250927B2 (en) | 2014-01-31 | 2019-04-02 | Interdigital Ce Patent Holdings | Method and apparatus for synchronizing playbacks at two electronic devices |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9001886B2 (en) * | 2010-11-22 | 2015-04-07 | Cisco Technology, Inc. | Dynamic time synchronization |
CN102143376B (zh) * | 2010-11-29 | 2013-05-22 | 北大方正集团有限公司 | 一种双路视频信号一致性检测的方法及装置 |
WO2016150350A1 (zh) * | 2015-03-20 | 2016-09-29 | 柳州桂通科技股份有限公司 | 一种多媒体多信息同步重现的方法和系统 |
JP6582805B2 (ja) * | 2015-09-25 | 2019-10-02 | 富士通株式会社 | 符号化装置、符号化システム、符号化方法、及びプログラム |
KR20180076591A (ko) * | 2016-12-28 | 2018-07-06 | 삼성전자주식회사 | 비디오 인코딩 방법, 이를 수행하는 비디오 인코더 및 이를 포함하는 전자 시스템 |
WO2018208925A1 (en) * | 2017-05-09 | 2018-11-15 | Echo360, Inc. | Methods and apparatus for ordered serial synchronization of multimedia streams upon sensor changes |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3234395B2 (ja) * | 1994-03-09 | 2001-12-04 | 三洋電機株式会社 | 立体動画像符号化装置 |
EP2259588B1 (en) * | 1996-02-28 | 2013-12-11 | Panasonic Corporation | High-resolution optical disk for recording stereoscopic video, optical disk reproducing device and optical disk recording device |
JPH11150727A (ja) | 1997-11-18 | 1999-06-02 | Matsushita Electric Ind Co Ltd | Mpegデコーダ装置 |
JP2003304442A (ja) | 2002-04-12 | 2003-10-24 | Sony Corp | 通信システム、撮像システム、撮像装置、撮像信号処理装置および撮像処理方法 |
GB0222562D0 (en) * | 2002-09-28 | 2002-11-06 | Koninkl Philips Electronics Nv | Method and apparatus for encoding image and or audio data |
JP4615958B2 (ja) * | 2004-10-15 | 2011-01-19 | クラリオン株式会社 | デジタル放送の送出装置、受信装置およびデジタル放送システム |
WO2007037424A1 (ja) * | 2005-09-30 | 2007-04-05 | Pioneer Corporation | 受信装置 |
JP2007288269A (ja) | 2006-04-12 | 2007-11-01 | Mitsubishi Electric Corp | 映像受信再生装置 |
KR100713220B1 (ko) * | 2006-07-28 | 2007-05-02 | (주)블루비스 | 입체 영상 편집 장치 및 방법 |
-
2009
- 2009-03-04 JP JP2009050452A patent/JP2010206593A/ja not_active Withdrawn
-
2010
- 2010-01-21 EP EP20100250092 patent/EP2227029A3/en not_active Withdrawn
- 2010-02-23 US US12/710,835 patent/US20100254455A1/en not_active Abandoned
- 2010-02-25 CN CN201010125213A patent/CN101827202A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014049989A1 (ja) * | 2012-09-28 | 2014-04-03 | パナソニック株式会社 | 映像出力装置 |
US10250927B2 (en) | 2014-01-31 | 2019-04-02 | Interdigital Ce Patent Holdings | Method and apparatus for synchronizing playbacks at two electronic devices |
Also Published As
Publication number | Publication date |
---|---|
EP2227029A2 (en) | 2010-09-08 |
CN101827202A (zh) | 2010-09-08 |
US20100254455A1 (en) | 2010-10-07 |
EP2227029A3 (en) | 2011-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2010206593A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US8300960B2 (en) | Method and apparatus for encoding video data, method and apparatus for decoding video data, and program recording medium | |
JP4450021B2 (ja) | 記録再生装置、記録装置、再生装置、記録方法、再生方法およびコンピュータプログラム | |
KR101423919B1 (ko) | 기록 장치, 재생 장치, 기록 방법, 재생 방법 및 그 방법을실현시키는 프로그램을 기록한 저장 매체 | |
US10224055B2 (en) | Image processing apparatus, image pickup device, image processing method, and program | |
JP2008259142A (ja) | 撮像装置、画像処理装置及びそれの制御方法、並びに画像処理システム | |
JP2006340066A (ja) | 動画像符号化装置、動画像符号化方法及び記録再生方法 | |
JP2005347955A (ja) | 信号処理装置及び信号処理方法 | |
JP2007047232A5 (ja) | ||
JP4438849B2 (ja) | タイムコード処理装置とタイムコード処理方法とプログラムおよび映像信号再生装置 | |
JP4767916B2 (ja) | 動画像符号化データ変換装置 | |
JP4725675B2 (ja) | 記録再生装置、記録装置、再生装置、記録方法、再生方法およびコンピュータプログラム | |
JP2003264773A (ja) | データ処理装置および方法、プログラム格納媒体、並びにプログラム | |
JP3897783B2 (ja) | 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 | |
JP5859100B2 (ja) | 画像記録装置 | |
JPWO2008023763A1 (ja) | データ処理装置、データ処理方法および記録再生システム | |
JP4594161B2 (ja) | 映像処理装置及び映像処理方法 | |
JP2005303816A (ja) | 動画再生装置 | |
JP2010141717A (ja) | 画像記録再生装置 | |
JP2007306110A (ja) | 映像音声同期検出装置、および検証機能付き映像音声再生システム | |
JP2015029211A (ja) | 撮像装置 | |
JP2010166206A (ja) | 映像・音声再生装置および映像・音声再生方法 | |
JP2003018545A (ja) | マルチチャンネル記録装置及びマルチチャンネル記録方法、マルチチャンネル再生装置及びマルチチャンネル再生方法 | |
JP2005011453A (ja) | ディジタル情報記録装置 | |
JP2010258785A (ja) | 多重化ストリームデータ再生装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20120605 |