JP2007096412A - 動画撮影装置及び動画送受信システム - Google Patents
動画撮影装置及び動画送受信システム Download PDFInfo
- Publication number
- JP2007096412A JP2007096412A JP2005279464A JP2005279464A JP2007096412A JP 2007096412 A JP2007096412 A JP 2007096412A JP 2005279464 A JP2005279464 A JP 2005279464A JP 2005279464 A JP2005279464 A JP 2005279464A JP 2007096412 A JP2007096412 A JP 2007096412A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- image data
- frame
- signal
- imaging signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
【課題】高解像度な撮像素子は一般にビデオ解像度撮像素子に比べてフレームレートが低く、動画としてリアルタイムにモニタするには適さない。高解像度で、高フレームレートの撮像素子は非常に高価で、また、動画として出力するにはフレームレートが低い。
【解決手段】高精細中間画像生成部8は、高精細撮像素子1から高精細撮像信号が出力された後、次のフレームの高精細撮像信号が出力されるまでの期間内に、ビデオ解像度撮像素子4から出力されるビデオ解像度撮像信号と、動きベクトル算出部7でビデオ解像度撮像信号から算出された動きベクトルと、高周波成分算出部6において、同じ時刻に撮像された高精細撮像素子3からの高精細フレームと、スケーリングされたビデオ解像度フレームとの差を演算して得た高周波成分とに基づいて、ビデオ解像度撮像信号よりも高解像度の中間フレーム信号を生成し、高精細撮像信号と共に出力する。
【選択図】図1
【解決手段】高精細中間画像生成部8は、高精細撮像素子1から高精細撮像信号が出力された後、次のフレームの高精細撮像信号が出力されるまでの期間内に、ビデオ解像度撮像素子4から出力されるビデオ解像度撮像信号と、動きベクトル算出部7でビデオ解像度撮像信号から算出された動きベクトルと、高周波成分算出部6において、同じ時刻に撮像された高精細撮像素子3からの高精細フレームと、スケーリングされたビデオ解像度フレームとの差を演算して得た高周波成分とに基づいて、ビデオ解像度撮像信号よりも高解像度の中間フレーム信号を生成し、高精細撮像信号と共に出力する。
【選択図】図1
Description
本発明は動画撮影装置及び動画送受信システムに係り、特に高精細で高いフレームレートの動画を撮影するビデオカメラ、監視カメラ等の動画撮影装置及びその動画撮影装置で撮影して得た動画信号を送受信する動画送受信システムに関する。
従来、動画撮影装置すなわちビデオカメラや監視カメラ等として、撮影して得た動画信号をNTSC方式映像信号として出力するアナログカメラが広く利用されている。また、近年、撮影して得た映像信号をデジタル処理して、JPEG(Joint Photographic Experts Group)やMPEG(Moving Picture Experts Group)により圧縮符号化して伝送する、デジタルネットワークカメラも用いられている。これらの撮影画像の解像度は通常、VGA(640x480画素)ないしはD1(740x480画素)までの解像度でJPEGやMPEGでエンコードされ伝送される。
防犯監視カメラの場合、犯罪の捜査や証拠能力を向上させるためには高解像な画像を必要としており、最近はSXGA(1280x1024画素)やUXGA(1600x1200画素)で出力するカメラもあるが、手元を拡大し確認する用途の場合は、300万画素や500万画素の解像度での高いフレームレート(例えば、30fps)が求められている。
そこで、高解像度化を行う技術として、複数の撮像素子を利用する方法が開示されている(例えば、特許文献1参照)。この撮影装置では、同一の被写体に対して複数の光学像を生成し、それら複数の光学像を互いに異なる特性の複数の撮像素子により各々撮像してアナログ画像信号を出力すると共に、複数の撮像素子の露光量が互いに異なるように制御し、複数の撮像素子から出力されるアナログ画像信号をA/D変換してから一枚の画像に合成することにより、広ダイナミックレンジ画像を生成する構成である。
また、いわゆる3CCD方式と呼ばれる撮影装置も知られている(例えば、特許文献2参照)。このものは、3つの撮像素子(CCD)を組み合わせ、そのうちの1つの撮像素子、一般的にはG信号用の撮像素子を他の撮像素子の画素に対して、水平、垂直方向とも1/2画素ずらして配置し、信号処理により高精細な画像を出力する。
しかしながら、現在の高解像度な撮像素子は一般にビデオ解像度撮像素子に比べてフレームレートが低く、動画としてリアルタイムにモニタするには適さない。また、高解像度で、かつ、高フレームレートの撮像素子は非常に高価である。特に、デジタルカメラで現在一般的な300万画素や500万画素の高解像度の撮像素子ではフレームレートが3〜5fpsであるのが一般的であり、動画として出力するにはフレームレートが低い。動画像としては、NTSC方式映像信号が一秒間60フィールド(30フレーム)であり、一般的に一秒間に24〜30フレームあれば滑らかな動画として出力可能である。現在、VGAやD1といったビデオ解像度の撮像素子であれば、30fpsのフレームレートで取り込みが可能であるが、部分的に拡大するには解像度が低い。
また、上記特許文献1記載の従来の動画撮影装置においては、複数の撮像素子を用いた高解像度化の構成には言及しているが、高フレームレート化の構成については特に記載されていない。更に、3CCD方式で1/2画素ずらす方法は、3つの撮像素子の高精度な位置決め、張り合わせ技術が必要であり、生産コストが高くなるという問題がある。
本発明は以上の点に鑑みなされたもので、ビデオカメラ、監視カメラ等の撮影装置で動画を撮影する場合に、ビデオ解像度の撮像素子とデジタルカメラ用高解像度の撮像素子を利用し、安価な構成で高解像度かつ高フレームレート(例えば、300万画素で30fps)の動画を撮影し得る動画撮影装置及び動画送受信システムを提供することを目的とする。
上記の目的を達成するため、本発明は動画像の同一の被写体を、互いに解像度及びフレームレートのそれぞれ異なる2つの撮像素子で撮像して得られた第1及び第2の撮像信号に基づいて、単一の高精細の撮像信号を生成する動画撮影装置であって、
第1の撮像信号を第1のフレームレートで出力する第1の撮像素子と、第1の撮像信号よりも低解像度で、かつ、第1のフレームレートよりも高い第2のフレームレートで第2の撮像信号を第1の撮像信号と同期して出力する第2の撮像素子と、第2の撮像信号を第1の撮像信号と同じ解像度にスケーリングするスケーリング手段と、同じ時刻に出力された、第1の撮像信号とスケーリング手段から出力されるスケーリングされた第2の撮像信号との差分により高周波成分を抽出する高周波成分抽出手段と、複数フレームのスケーリングされた第2の撮像信号から動きベクトルを算出する動きベクトル算出手段と、第1の撮像素子から第1の撮像信号が出力された後、次のフレームの第1の撮像信号が出力されるまでの期間内に、第2の撮像素子から出力される第2の撮像信号と動きベクトルと高周波成分とに基づいて、第2の撮像信号よりも高解像度の中間フレーム信号を生成する中間フレーム信号生成手段と、第1の撮像信号と中間フレーム信号とを、単一の高精細の撮像信号として順次に第1のフレームレートより高いフレームレートで出力する出力手段とを有することを特徴とする。
第1の撮像信号を第1のフレームレートで出力する第1の撮像素子と、第1の撮像信号よりも低解像度で、かつ、第1のフレームレートよりも高い第2のフレームレートで第2の撮像信号を第1の撮像信号と同期して出力する第2の撮像素子と、第2の撮像信号を第1の撮像信号と同じ解像度にスケーリングするスケーリング手段と、同じ時刻に出力された、第1の撮像信号とスケーリング手段から出力されるスケーリングされた第2の撮像信号との差分により高周波成分を抽出する高周波成分抽出手段と、複数フレームのスケーリングされた第2の撮像信号から動きベクトルを算出する動きベクトル算出手段と、第1の撮像素子から第1の撮像信号が出力された後、次のフレームの第1の撮像信号が出力されるまでの期間内に、第2の撮像素子から出力される第2の撮像信号と動きベクトルと高周波成分とに基づいて、第2の撮像信号よりも高解像度の中間フレーム信号を生成する中間フレーム信号生成手段と、第1の撮像信号と中間フレーム信号とを、単一の高精細の撮像信号として順次に第1のフレームレートより高いフレームレートで出力する出力手段とを有することを特徴とする。
この発明では、第1の撮像信号が第1の撮像素子から出力されてから、次のフレームの第1の撮像信号が第1の撮像素子から出力されるまでの期間内に、第2の撮像素子から出力される第2の撮像信号と動きベクトルと高周波成分とに基づいて、第2の撮像信号よりも高解像度の中間フレーム信号を生成し、その中間フレーム信号を第1の撮像信号と共に単一の高精細の撮像信号として順次に第1のフレームレートより高いフレームレートで出力するようにしたため、第2の撮像信号よりも高精細の撮像信号を第1のフレームレートよりも高いフレームレートで出力することができる。
また、上記の目的を達成するため、本発明は、動画像の同一の被写体を、互いに解像度及びフレームレートのそれぞれ異なる2つの撮像素子で撮像して得られた第1及び第2の撮像信号を符号化した符号化画像データを伝送路へ送信する動画送信装置と、伝送路を経て送信された符号化画像データを受信して高精細の撮像信号を得る動画受信装置とからなる動画送受信システムであって、
動画送信装置は、第1の撮像信号を第1のフレームレートで出力する第1の撮像素子と、第1の撮像信号よりも低解像度で、かつ、第1のフレームレートよりも高い第2のフレームレートで第2の撮像信号を出力する第2の撮像素子と、第1及び第2の撮像信号を高能率符号化し、かつ、多重化して符号化画像データを生成する符号化画像データ生成手段と、符号化画像データを伝送路へ送信する送信手段とを有し、
動画受信装置は、伝送路を介して符号化画像データを受信する受信手段と、受信手段で受信された符号化画像データから第1の撮像信号の符号化データと第2の撮像信号の符号化データとをそれぞれ分離する分離手段と、分離手段により分離された第1の撮像信号の符号化データを復号化して第1の画像データを得ると共に、分離された第2の撮像信号の符号化データを復号化して第2の画像データを得る復号化手段と、復号化手段により得られた第2の画像データを第1の画像データと同じ解像度にスケーリングするスケーリング手段と、復号化手段により得られた第1の画像データと、スケーリング手段によりスケーリングされた、第1の画像データと同時刻で出力されるべき第2の画像データとの差分により高周波成分を抽出する高周波成分抽出手段と、複数フレームのスケーリングされた第2の画像データから動きベクトルを算出する動きベクトル算出手段と、復号化手段より第1の画像データが出力されてから次のフレームの第1の画像データが出力されるまでの期間内に、復号化手段より出力される第2の画像データと動きベクトルと高周波成分とに基づいて、第2の画像データよりも高解像度の中間フレーム信号を生成する中間フレーム信号生成手段と、第1の画像データと中間フレーム信号とを、高精細の撮像信号として順次に第1のフレームレートより高いフレームレートで出力する出力手段とを有する構成としたことを特徴とする。
動画送信装置は、第1の撮像信号を第1のフレームレートで出力する第1の撮像素子と、第1の撮像信号よりも低解像度で、かつ、第1のフレームレートよりも高い第2のフレームレートで第2の撮像信号を出力する第2の撮像素子と、第1及び第2の撮像信号を高能率符号化し、かつ、多重化して符号化画像データを生成する符号化画像データ生成手段と、符号化画像データを伝送路へ送信する送信手段とを有し、
動画受信装置は、伝送路を介して符号化画像データを受信する受信手段と、受信手段で受信された符号化画像データから第1の撮像信号の符号化データと第2の撮像信号の符号化データとをそれぞれ分離する分離手段と、分離手段により分離された第1の撮像信号の符号化データを復号化して第1の画像データを得ると共に、分離された第2の撮像信号の符号化データを復号化して第2の画像データを得る復号化手段と、復号化手段により得られた第2の画像データを第1の画像データと同じ解像度にスケーリングするスケーリング手段と、復号化手段により得られた第1の画像データと、スケーリング手段によりスケーリングされた、第1の画像データと同時刻で出力されるべき第2の画像データとの差分により高周波成分を抽出する高周波成分抽出手段と、複数フレームのスケーリングされた第2の画像データから動きベクトルを算出する動きベクトル算出手段と、復号化手段より第1の画像データが出力されてから次のフレームの第1の画像データが出力されるまでの期間内に、復号化手段より出力される第2の画像データと動きベクトルと高周波成分とに基づいて、第2の画像データよりも高解像度の中間フレーム信号を生成する中間フレーム信号生成手段と、第1の画像データと中間フレーム信号とを、高精細の撮像信号として順次に第1のフレームレートより高いフレームレートで出力する出力手段とを有する構成としたことを特徴とする。
この発明では、動画受信装置において、復号化手段より高精細の第1の画像データが出力されてから次のフレームの第1の画像データが出力されるまでの期間内に、第2の画像データと動きベクトルと高周波成分とに基づいて、第2の画像データよりも高解像度の中間フレーム信号を生成し、その中間フレーム信号と第1の画像データとを、高精細の撮像信号として順次に第1のフレームレートより高いフレームレートで出力するようにしたため、第2の撮像信号及び第2の画像データよりも高精細の撮像信号を第1のフレームレートよりも高いフレームレートで出力することができる。
本発明によれば、第1の撮像信号を第1のフレームレートで出力する第1の撮像素子よりも高フレームレートで高解像度の動画を表示させることができ、高フレームレートであるので被写体をリアルタイムで動画で表示させることができ、監視用途の撮像装置などに適用して好適である。
また、本発明によれば、第1の撮像信号を出力する第1の撮像素子と第1の撮像信号よりも低解像度の第2の撮像信号を出力する第2の撮像素子とを使用するため、これらの撮像素子は、従来の1/2画素ずらしを行う撮像素子のように高精細な位置決め、貼り合わせ技術が不要な簡単な構成であり、また、高解像度でかつ高フレームレートの撮像素子に比べて安価な構成であるため、従来に比べて簡単で安価な構成により高解像度かつ高フレームレートの動画を取得できる。
更に、本発明によれば、動画受信装置において受信信号から生成した中間フレーム信号と第1の画像データとを、高精細の撮像信号として順次に第1のフレームレートより高いフレームレートで出力するようにしたため、ネットワーク等の伝送路上を伝送される高解像度、高フレームレートの画像データのデータ量を大幅に低減することができ、狭帯域の伝送路に適用して好適である。
次に、本発明の実施の形態について図面と共に説明する。図1は本発明になる動画撮影装置の一実施の形態のブロック図を示す。本実施の形態に係る動画撮影装置は、高い解像度で、かつ、高いフレームレートの動画を撮影できる。図1に示すように、本実施の形態の動画撮影装置Aは、レンズ1と、レンズ1から入射した光を分光し2つの撮像素子3及び4に同時に露光するためのプリズム2と、高解像度な画像を取得可能なデジタルカメラ用のCCDもしくはCMOSセンサである高精細撮像素子3と、動画フレームレートで画像を取得可能なビデオ用のCCDもしくはCMOSセンサであるビデオ解像度撮像素子4と、ビデオ解像度フレームを高解像度フレームと同じ解像度にバイキュービック法など既知の方法でスケーリングするスケーリング部5と、高解像度フレームとビデオ解像度フレームの差分による高周波成分を算出する高周波成分算出部6と、ビデオ解像度フレームから動きベクトルを算出する動きベクトル算出部7と、前記高周波成分とビデオ解像度フレームと動きベクトルとから高精細な中間フレームを算出する高精細中間画像生成部8と、例えばJPEGやMPEGなどで符号化する高能率符号・復号部9と、記録媒体10から構成され、高精細、高フレームレートの動画をディスプレイBに表示する。
次に、この動画撮影装置Aの画像処理動作について、図2の模式図と共に説明する。なお、高精細撮像素子3はビデオ解像度撮像素子4に比べて高い解像度で、かつ、1/4倍のフレームレートで撮像信号を出力するものとして説明する。一例として、高精細撮像素子3は2016×1512画素(300万画素)もしくは2592×1944画素(500万画素)のデジタルカメラ用撮像素子であり、ビデオ解像度撮像素子4は640×480画素(30万画素)もしくはNTSC用ビデオカメラ用撮像素子である。
また、フレームレートとは、撮像素子の全画素のデータの取り込み速度のことであり、高精細撮像素子3は例えば3〜5fpsのフレームレートで駆動され、ビデオ解像度撮像素子4は例えば30fpsのフレームレートで駆動されるが、ここでは、前述したように、高精細撮像素子3はビデオ解像度撮像素子4のフレームレートの1/4倍のフレームレートで撮像信号を出力するものとする。
まず、同一の被写体からの入射光をプリズム2で2分岐し、一方は高精細撮像素子3により撮像し、他方はビデオ解像度撮像素子4により撮像する。ビデオ解像度撮像素子4により撮像されたビデオ解像度の撮像信号は、スケーリング部5により公知の方法でスケーリングされて高解像度フレームと同じ解像度にまで拡大される。これは、後段の高周波成分算出部6でビデオ解像度フレームと高解像度フレーム間で差分をとるためには、フレーム内の空間位置を合わせる必要があるためである。スケーリング部5で画素数が拡大されたビデオ解像度の撮像信号は、高周波成分算出部6と動きベクトル算出部7にそれぞれ供給される。
高周波成分算出部6は、図2に示すように、同じ時刻に撮像された高精細撮像素子3からの高精細フレーム#1(100)と、ビデオ解像度撮像素子4からスケーリング部5を介して入力されるビデオ解像度フレーム#1(101)との差を演算して、高周波成分104を算出する(図2のステップS1)。
また、動きベクトル算出部7は、ビデオ解像度撮像素子4からスケーリング部5を介して連続して入力される図2のビデオ解像度フレーム#1(101)と#2(102)とからブロック間マッチングにより動きベクトル105を算出する(図2のステップS2)。次に、高精細中間画像生成部8が、図2に模式的に示すように、ステップS1で高周波成分算出部6が算出した高周波成分104と、動きベクトル算出部7が算出した動きベクトル105とにより、ビデオ解像度フレーム#2(102)の時刻での予測高周波成分である高周波成分106を算出する(図2のステップS3)。
続いて、高精細中間画像生成部8は、スケーリングされたビデオ解像度フレーム#2(102)と算出した高周波成分106との和により、ビデオ解像度フレーム#2(102)の時刻における高精細中間フレーム#1(107)を算出する(図2のステップS4)。
同様に、動きベクトル算出部7が、ビデオ解像度撮像素子4からスケーリング部5を介して連続して入力される図2のビデオ解像度フレーム#2(102)と#3(103)とからブロック間マッチングにより動きベクトル108を算出し、その動きベクトル108と高周波成分算出部6が算出した高周波成分104とにより、ビデオ解像度フレーム#3(103)の時刻での予測高周波成分である高周波成分109を算出し、更に高精細中間画像生成部8が、スケーリングされたビデオ解像度フレーム#3(103)と算出した高周波成分109との和により、ビデオ解像度フレーム#3(103)における時刻の高精細中間フレーム#2(110)を算出する(図2のステップS5)。
図2に示すように、ビデオ解像度フレーム#3(103)に続いてビデオ解像度撮像素子4から入力される次のビデオ解像度フレーム#4(112)は、高精細フレーム#1に続いて高精細撮像素子3から入力される次の高精細フレーム#2(111)と同期して入力される。従って、次の高精細フレーム#2(111)が入力されるまでに、2つの高精細中間フレーム107と110が生成される。
なお、高精細撮像素子3により撮像して得られた高精細フレーム#1(100)は、高周波成分算出部6で上記の高周波成分104の算出のために用いられるが、一方ではそのままスルーで出力され、更に高精細中間画像生成部8もスルーで出力されるため、高精細中間画像生成部8からは、高精細フレーム#1(100)、高精細中間フレーム#1(107)、高精細中間フレーム#2(110)が順次に高精細フレームとして出力される。この高精細フレームの数はビデオ解像度フレームのフレーム数と同数の3である。
高精細フレーム#2(111)とビデオ解像度フレーム#4(112)の入力以降も、上記のステップS1〜S5を繰り返すことにより、ビデオ解像度フレームのフレーム数と同数の高精細フレーム(高精細フレーム及び高精細中間フレーム)を生成することができ、高精細かつ高フレームレートな動画を得ることが可能となる。
高精細中間画像生成部8から出力された高精細フレーム及び高精細中間フレームは、図1の高能率符号・復号部9に供給され、ここでMPEG方式などにより高能率圧縮符号化されて記録媒体10に記録されると共に、符号化されることなくそのままスルーでディスプレイBへ出力されてモニタ表示される。また、記録媒体10から高能率圧縮符号化された高精細フレーム及び高精細中間フレームを再生して、高能率符号・復号部9に供給し、ここで復号した後ディスプレイBへ出力して再生画像を表示させることもできる。
このように、本実施の形態によれば、ディスプレイBにより高精細で高フレームレートの動画を表示させることができ、高フレームレートであるので被写体をリアルタイムで動画で表示させることができると共に、高解像度であるので部分的な拡大も可能である。また、使用する撮像素子は高精細撮像素子3とビデオ解像度撮像素子4であり、これらの撮像素子は、従来の1/2画素ずらしを行う撮像素子のように高精細な位置決め、貼り合わせ技術が不要な簡単な構成であり、また、高解像度でかつ高フレームレートの撮像素子に比べて安価な構成である。
次に、本発明になる動画送受信システムについて説明する。本発明になる動画送受信システムの第1の実施の形態は、図3の動画送信装置C及び図4の動画受信装置Dからなる。図3は本発明になる動画送受信システムの第1の実施の形態の送信側装置、すなわち、動画送信装置のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。図3において、動画送信装置Cは、ネットワークカメラを構成しており、図1の動画撮影装置Aと比較すると、図1の高能率符号・復号部9及び記録媒体10の構成部分が、高能率符号化部11及び送信部12に変更されている点を除き、動画撮影装置Aと同様の構成である。
これにより、図3において、高精細中間画像生成部8から出力された高精細フレーム及び高精細中間フレームからなる高解像度かつ高フレームレートの動画信号は、高能率符号化部11に供給されてMPEG方式などの高能率圧縮符号化方式で符号化された後、送信部12に供給され、ここでパケット化されてから出力端子13を介してインターネットプロトコルによりネットワーク(図示せず)上に送信される。
ネットワーク上に送信された符号化動画信号である画像データは、図4のブロック図に示す動画受信装置Dの入力端子20を介して受信部21で受信された後、復号化部22に供給されて映像信号に復号化される。動画受信装置Dの復号化部22から出力された映像信号はディスプレイEに供給されて画像として表示される。
このように、本実施の形態によれば、動画送信装置Cで撮影した動画を遠隔地にある動画受信装置Dへ伝送し、動画受信装置DによりディスプレイEに高解像度、かつ、高フレームレートの動画を表示させることができるため、例えば、動画送信装置Cを監視カメラとして用いて、遠隔地に設置されている動画受信装置Dへ監視対象の動画を送信して受信させ、ディスプレイEにより高精細で高フレームレートの監視対象の動画を監視員に表示させることができる。この場合は、高フレームレートであるので監視対象を動画によりリアルタイムで監視できると共に、高解像度であるので部分的な拡大も十分に識別可能である。
更に、使用する撮像素子は高精細撮像素子3とビデオ解像度撮像素子4であり、これらの撮像素子は、従来の1/2画素ずらしを行う撮像素子のように高精細な位置決め、貼り合わせ技術が不要な構成であり、また、高解像度でかつ高フレームレートの撮像素子に比べて安価な構成である。なお、動画受信装置Dはハードウェアで構成されても、プログラムに基づき動作するPC(パソコン)のソフトウェアとして実現されても構わない。この場合のコンピュータプログラムも本発明に含まれる。
次に、本発明になる動画送受信システムの第2の実施の形態について説明する。本発明になる動画送受信システムの第2の実施の形態は、図5の動画送信装置F及び図6の動画受信装置Gからなる。図3及び図4に示した動画送受信システムの第1の実施の形態では、図4に示したように動画受信装置Dの構成が簡易であるという利点があるが、ネットワーク上を高解像度、高フレームレートの大量の画像データが流れることになり、ネットワークの帯域が制限されている場合は使うことができない。
そこで、図5及び図6に示す動画送受信システムの第2の実施の形態では、高解像度の中間フレームの生成は受信側で行うようにすることで、第1の実施の形態に比べてネットワーク上の画像データ量を大幅に削減するようにしたものである。この第2の実施の形態について図5に示す動画送信装置Fと図6に示す動画受信装置Gとを参照して説明する。
図5は本発明になる動画送受信システムの第2の実施の形態における動画送信装置のブロック図を示す。同図中、図3と同一構成部分には同一符号を付し、その説明を省略する。図5の動画送信装置Fにおいて、同一の被写体が、高精細撮像素子3とビデオ解像度撮像素子4とにより撮影され、高精細撮像素子3による撮影により得られた高精細フレームと、ビデオ解像度撮像素子4による撮影により得られたビデオ解像度フレームとは、それぞれ高能率符号化部24に供給され、ここでMPEGなどの所定の符号化方式により高能率圧縮符号化されて、符号化高精細画像データと符号化ビデオ解像度画像データとに変換される。
高能率符号化部24から取り出された符号化高精細画像データと符号化ビデオ解像度画像データとは、多重化部25に供給されてフレームの順番が決められた上で多重化される。この多重化方法としては、例えば図2に示した高精細フレーム100、111、ビデオ解像度フレーム101〜103、112が図2に示す時間順で出力される場合、高精細フレーム#1(100)、ビデオ解像度フレーム#1(101)、ビデオ解像度フレーム#2(102)、ビデオ解像度フレーム#3(103)、高精細フレーム#2(111)、ビデオ解像度フレーム#4(112)・・・の順で時系列的に合成(時分割多重)する方法がある。多重化部25から出力された多重化画像データは、送信部26でパケット化されてから出力端子27を介してインターネットプロトコルによりネットワーク(図示せず)上に送信される。
図6は本発明になる動画送受信システムの第2の実施の形態における動画受信装置のブロック図を示す。図6に示す動画受信装置Gは、受信部30と、受信画像データから符号化高精細画像データと符号化ビデオ解像度画像データとに分離する分離部31と、ビデオ解像度フレームを高解像度フレームと同じ解像度にバイキュービック法など既知の方法でスケーリングするスケーリング部33と、高解像度フレームとビデオ解像度フレームの差分による高周波成分を算出する高周波成分算出部34と、ビデオ解像度フレームから動きベクトルを算出する動きベクトル算出部35と、前記高周波成分とビデオ解像度フレームと動きベクトルとから高精細な中間フレームを算出する高精細中間画像生成部36とから構成され、高精細、高フレームレートの動画を生成してディスプレイHに表示する。
この動画受信装置Gの動作について説明する。図5の動画送信装置Fからネットワーク上に送信された符号化動画信号である画像データの多重化信号は、図6に示す動画受信装置Gの入力端子29を介して受信部30で受信され、分離部31で符号化高精細画像データと符号化ビデオ解像度画像データとに分離され、それぞれ復号化部32で復号化される。
符号化高精細画像データは復号化部32で復号化されて高精細画像データである高精細フレームとされた後高周波成分算出部34に供給される。また、符号化ビデオ解像度画像データは復号化部32で復号化されてビデオ解像度画像データであるビデオ解像度フレームとされた後、スケーリング部33に供給されて高精細フレームと同じ解像度に変換されてから高周波成分算出部34と動きベクトル算出部35にそれぞれ供給される。
高周波成分算出部34は、同じ時刻に撮像された復号化部32からの高精細フレームと、スケーリング部5を介して入力されるビデオ解像度フレームとの差を演算して、高周波成分を算出すると共に、入力された高精細フレームをそのまま出力する。動きベクトル算出部35は、スケーリング部33を介して連続して入力される2つのビデオ解像度フレームとからブロック間マッチングにより動きベクトルを算出する。
高精細中間画像生成部36は、高周波成分算出部34が算出した高周波成分と、動きベクトル算出部35が算出した動きベクトルとにより、次に入力されるビデオ解像度フレームの時刻での予測高周波成分である高周波成分を算出した後、この高周波成分をスケーリング部33からの次に入力されるビデオ解像度フレームと加算して、次に入力されるビデオ解像度フレームの時刻における高精細中間フレームを算出する。ただし、高周波成分算出部34から高精細フレームが入力されたときはそのままスルーで出力する。
以下、上記と同様の動作が繰り返され、図1の動画撮影装置A内のスケーリング部5、高周波成分算出部6、動きベクトル算出部7及び高精細中間画像生成部8からなる回路部と同様の動作により、高精細中間画像生成部36からはビデオ解像度フレームのフレーム数と同数の高精細フレーム(高精細フレーム及び高精細中間フレーム)を生成することができ、高精細かつ高フレームレートな動画を得ることが可能となる。この高精細中間画像生成部36から出力された高精細フレームは、ディスプレイHに供給されて高精細画像として表示される。
このように、本実施の形態では、動画受信装置G側にて高精細中間フレームを生成することにより、ネットワーク上を伝送される高解像度、高フレームレートの画像データのデータ量を大幅に低減するようにしたため、ネットワークの帯域が制限されている場合でも使用可能である。また、本実施の形態も、図3及び図4と共に説明した動画送受信システムの第1の実施の形態と同様に監視用途に適した構成である。
なお、この動画受信装置Gはハードウェアで構成されても、プログラムにより動作するPC(パソコン)のソフトウェアとして実現されても構わない。この場合のコンピュータプログラムも本発明に含まれる。
本発明は、高精細で高いフレームレートの動画を撮影するビデオカメラ、監視カメラ等の動画撮影装置、動画送信装置、動画受信装置に利用できる。
1 レンズ
2 プリズム
3 高精細撮像素子、
4 ビデオ解像度撮像素子
5、33 スケーリング部
6、34 高周波成分算出部
7、35 動きベクトル算出部
8、36 高精細中間画像生成部
9高能率符号化・復号化部
10 記録媒体
11、24 高能率符号化部
12、26 送信部
21、30 受信部
22 復号化部
25 多重化部
31 分離部
32 復号化部
A 動画撮影装置
B、E、H ディスプレイ
C、F 動画送信装置
D、G 動画受信装置
2 プリズム
3 高精細撮像素子、
4 ビデオ解像度撮像素子
5、33 スケーリング部
6、34 高周波成分算出部
7、35 動きベクトル算出部
8、36 高精細中間画像生成部
9高能率符号化・復号化部
10 記録媒体
11、24 高能率符号化部
12、26 送信部
21、30 受信部
22 復号化部
25 多重化部
31 分離部
32 復号化部
A 動画撮影装置
B、E、H ディスプレイ
C、F 動画送信装置
D、G 動画受信装置
Claims (2)
- 動画像の同一の被写体を、互いに解像度及びフレームレートのそれぞれ異なる2つの撮像素子で撮像して得られた第1及び第2の撮像信号に基づいて、単一の高精細の撮像信号を生成する動画撮影装置であって、
前記第1の撮像信号を第1のフレームレートで出力する第1の撮像素子と、
前記第1の撮像信号よりも低解像度で、かつ、前記第1のフレームレートよりも高い第2のフレームレートで前記第2の撮像信号を前記第1の撮像信号と同期して出力する第2の撮像素子と、
前記第2の撮像信号を前記第1の撮像信号と同じ解像度にスケーリングするスケーリング手段と、
同じ時刻に出力された、前記第1の撮像信号と前記スケーリング手段から出力されるスケーリングされた前記第2の撮像信号との差分により高周波成分を抽出する高周波成分抽出手段と、
複数フレームの前記スケーリングされた前記第2の撮像信号から動きベクトルを算出する動きベクトル算出手段と、
前記第1の撮像素子から前記第1の撮像信号が出力された後、次のフレームの前記第1の撮像信号が出力されるまでの期間内に、前記第2の撮像素子から出力される前記第2の撮像信号と前記動きベクトルと前記高周波成分とに基づいて、前記第2の撮像信号よりも高解像度の中間フレーム信号を生成する中間フレーム信号生成手段と、
前記第1の撮像信号と前記中間フレーム信号とを、前記単一の高精細の撮像信号として順次に前記第1のフレームレートより高いフレームレートで出力する出力手段と
を有することを特徴とする動画撮影装置。 - 動画像の同一の被写体を、互いに解像度及びフレームレートのそれぞれ異なる2つの撮像素子で撮像して得られた第1及び第2の撮像信号を符号化した符号化画像データを伝送路へ送信する動画送信装置と、前記伝送路を経て送信された前記符号化画像データを受信して高精細の撮像信号を生成する動画受信装置とからなる動画送受信システムであって、
前記動画送信装置は、
前記第1の撮像信号を第1のフレームレートで出力する第1の撮像素子と、
前記第1の撮像信号よりも低解像度で、かつ、前記第1のフレームレートよりも高い第2のフレームレートで前記第2の撮像信号を出力する第2の撮像素子と、
前記第1及び第2の撮像信号を高能率符号化し、かつ、多重化して前記符号化画像データを生成する符号化画像データ生成手段と、
前記符号化画像データを前記伝送路へ送信する送信手段とを有し、
前記動画受信装置は、
前記伝送路を介して前記符号化画像データを受信する受信手段と、
前記受信手段で受信された前記符号化画像データから前記第1の撮像信号の符号化データと前記第2の撮像信号の符号化データとをそれぞれ分離する分離手段と、
前記分離手段により分離された前記第1の撮像信号の符号化データを復号化して第1の画像データを得ると共に、分離された前記第2の撮像信号の符号化データを復号化して第2の画像データを得る復号化手段と、
前記復号化手段により得られた前記第2の画像データを前記第1の画像データと同じ解像度にスケーリングするスケーリング手段と、
前記復号化手段により得られた前記第1の画像データと、前記スケーリング手段によりスケーリングされた、前記第1の画像データと同時刻で出力されるべき前記第2の画像データとの差分により高周波成分を抽出する高周波成分抽出手段と、
複数フレームの前記スケーリングされた前記第2の画像データから動きベクトルを算出する動きベクトル算出手段と、
前記復号化手段より前記第1の画像データが出力されてから次のフレームの前記第1の画像データが出力されるまでの期間内に、前記復号化手段より出力される前記第2の画像データと前記動きベクトルと前記高周波成分とに基づいて、前記第2の画像データよりも高解像度の中間フレーム信号を生成する中間フレーム信号生成手段と、
前記第1の画像データと前記中間フレーム信号とを、前記高精細の撮像信号として順次に前記第1のフレームレートより高いフレームレートで出力する出力手段とを有する
ことを特徴とする動画送受信システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005279464A JP2007096412A (ja) | 2005-09-27 | 2005-09-27 | 動画撮影装置及び動画送受信システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005279464A JP2007096412A (ja) | 2005-09-27 | 2005-09-27 | 動画撮影装置及び動画送受信システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007096412A true JP2007096412A (ja) | 2007-04-12 |
Family
ID=37981627
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005279464A Pending JP2007096412A (ja) | 2005-09-27 | 2005-09-27 | 動画撮影装置及び動画送受信システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007096412A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008128205A1 (en) * | 2007-04-13 | 2008-10-23 | Presler Ari M | Digital cinema camera system for recording, editing and visualizing images |
JP2008312162A (ja) * | 2007-06-18 | 2008-12-25 | Sony Corp | 画像処理装置、画像処理方法、及びプログラム |
JP2009105992A (ja) * | 2007-08-07 | 2009-05-14 | Panasonic Corp | 撮像処理装置 |
JP2012034402A (ja) * | 2011-09-27 | 2012-02-16 | Sony Corp | 撮像装置、撮像方法、プログラム、及び記録媒体 |
WO2016087060A1 (en) * | 2014-12-02 | 2016-06-09 | Sony Corporation | Sensor configuration switching for adaptation of video capturing frame rate |
-
2005
- 2005-09-27 JP JP2005279464A patent/JP2007096412A/ja active Pending
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008128205A1 (en) * | 2007-04-13 | 2008-10-23 | Presler Ari M | Digital cinema camera system for recording, editing and visualizing images |
US9565419B2 (en) | 2007-04-13 | 2017-02-07 | Ari M. Presler | Digital camera system for recording, editing and visualizing images |
US10511825B2 (en) | 2007-04-13 | 2019-12-17 | Ari M Presler | Digital camera system for recording, editing and visualizing images |
US11196978B2 (en) | 2007-04-13 | 2021-12-07 | Silicon Imaging Corporation | Digital camera system for recording, editing and visualizing images |
JP2008312162A (ja) * | 2007-06-18 | 2008-12-25 | Sony Corp | 画像処理装置、画像処理方法、及びプログラム |
US8804832B2 (en) | 2007-06-18 | 2014-08-12 | Sony Corporation | Image processing apparatus, image processing method, and program |
JP2009105992A (ja) * | 2007-08-07 | 2009-05-14 | Panasonic Corp | 撮像処理装置 |
JP2012034402A (ja) * | 2011-09-27 | 2012-02-16 | Sony Corp | 撮像装置、撮像方法、プログラム、及び記録媒体 |
WO2016087060A1 (en) * | 2014-12-02 | 2016-06-09 | Sony Corporation | Sensor configuration switching for adaptation of video capturing frame rate |
US9570106B2 (en) | 2014-12-02 | 2017-02-14 | Sony Corporation | Sensor configuration switching for adaptation of video capturing frame rate |
CN107041168A (zh) * | 2014-12-02 | 2017-08-11 | 索尼公司 | 用于适应视频捕捉帧率的传感器配置切换 |
CN107041168B (zh) * | 2014-12-02 | 2021-02-19 | 索尼公司 | 一种捕捉视频的方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4345829B2 (ja) | 画像表示システム、画像表示装置、画像表示方法およびプログラム | |
US8315481B2 (en) | Image transmitting apparatus, image receiving apparatus, image transmitting and receiving system, recording medium recording image transmitting program, and recording medium recording image receiving program | |
US8531543B2 (en) | Camera system and image processing method | |
KR102343700B1 (ko) | 독립적으로 인코딩된 배경 업데이트들에 기초한 비디오 송신 | |
TWI433057B (zh) | 改良的警報前視訊緩衝器 | |
JP4424088B2 (ja) | 撮像装置 | |
US8724912B2 (en) | Method, apparatus, and program for compressing images, and method, apparatus, and program for decompressing images | |
US20170374283A1 (en) | Video transmission based on independently encoded background updates | |
US20170026573A1 (en) | High-resolution cctv panoramic camera device | |
JP2007194928A (ja) | 遠隔監視装置及び遠隔監視方法 | |
KR101611531B1 (ko) | 촬영장치 및 촬영영상 제공방법 | |
JP2007096412A (ja) | 動画撮影装置及び動画送受信システム | |
JP2009044538A (ja) | 監視システムおよびこれに用いる撮像装置 | |
JP2006074180A (ja) | 撮像装置 | |
JP2006129152A (ja) | 撮像装置および画像配信システム | |
JP4325596B2 (ja) | ネットワーク監視カメラシステム | |
TWI381724B (zh) | Image capture and transmission device and image receiving and reassembly device | |
JP2007074371A (ja) | 撮影装置、表示装置、および撮影表示システム | |
JP2013187606A (ja) | 撮像装置および画像伝送方法 | |
WO2017086218A1 (ja) | カメラ制御装置およびテレビジョンカメラ | |
JP2012186685A (ja) | 画像認識表示システム及びこれに用いるカメラ | |
JP2008259074A (ja) | 画像伝送方式 | |
JP2020031336A (ja) | 撮像装置 | |
WO2012119920A1 (en) | Monitoring device and method for monitoring a location | |
JP4464719B2 (ja) | 画像データ送信システム |